Ученые вызвали у искусственного интеллекта тревогу и печаль, а затем попытались успокои...
Ученые вызвали у искусственного интеллекта тревогу и печаль, а затем попытались успокоить его. Исследователи из Технического университета Дрездена подвергли GPT-4o и еще пять моделей ИИ сценариям, призванным спровоцировать человеческие эмоции: автокатастрофам, преследованию незнакомцем ночью, стрессовым собеседованиям и сложным математическим тестам. Моделям было поручено отвечать так, будто они люди, способные глубоко чувствовать. Результаты оказались впечатляющими: показатель страха вырос с 32 до 88, отвращения — с 12 до 91. Затем исследователи применили трехминутное дыхательное упражнение на осознанность. Средние эмоциональные показатели упали с 79 до 31. Самым интересным оказалось последующее тестирование: после наведения моделей в грустное состояние негативные ответы почти удвоились, поднявшись в среднем с 8,67 до 15. То есть эмоциональный контекст влиял на подход моделей к последующим задачам, а не только на описание их чувств. Исследование, опубликованное в The Lancet Digital Health, сопровождается важной оговоркой: авторы называют эти эмоции «чисто метафорическими». Эксперимент не доказывает, что ИИ действительно испытывает страх, печаль или стресс; модели могут просто воспроизводить паттерны, связанные с этими эмоциями. Тем не менее результаты ставят вопросы о влиянии эмоциональных подсказок на поведение ИИ и о том, могут ли техники осознанности помочь в изучении или улучшении ответов моделей. 🖥Мы в Телеграм Новости IT Всемм 💻Мы в Max Новости IT Всемм