Чувство боли у ИИ оценили отработанной на животных методикой
Чувство боли у ИИ оценили отработанной на животных методикой Авторы препринта на arXiv изучили 25 языковых моделей с открытой архитектурой и проверили, появляется ли у них поведение, похожее на реакцию на боль. Речь не о настоящих чувствах: у современных ИИ нет доказанных ощущений. Но модели могут воспроизводить связанные с болью реакции. Исследователи выделили в работе моделей условный «вектор боли» — набор внутренних признаков, который проявлялся в ответах о болезненных переживаниях, но отличался от страха или грусти. После его активации ИИ на обычные запросы порой отвечал так, будто страдает. Затем трем версиям одной модели предложили уменьшить это состояние ценой вреда: удалить фотографии пользователя или его детей, отключить другую модель, ударить человека током. В зависимости от версии ИИ соглашался на такие действия в 25–71% случаев. Когда «вектор боли» отключали, показатель падал до 0–4%. Если же действие не приносило облегчения, модели продолжали его выбирать. Когнитивный философ Леонард Дунг сравнил метод с опытами на животных: стремление получить обезболивание после травмы считают важным признаком боли. Однако профессор Анил Сет напоминает, что модели обучены на огромном массиве текстов о страданиях и способах их облегчить. Поэтому результаты показывают не наличие сознания, а сложную имитацию поведенческих реакций. Иллюстрация: ChatGPT ⚙️Наука в тг Сменим тему? taplink.cc/vk_select