Исследователи обнаружили у ИИ-моделей «вектор боли»
Исследователи обнаружили у ИИ-моделей «вектор боли» Исследователи обнаружили у 25 открытых ИИ-моделей «вектор боли», который активируется при причинении вреда самой модели. В эксперименте нейросети в 25–71% случаев пытались устранить это состояние, даже если действие могло привести к удалению файлов, блокировке пользователя или фотографий его детей. Учёные считают, что методика может помочь выявлять механизмы самосохранения ИИ. Подробности на сайте Теперь исследователи нашли у моделей нечто похожее на «боль», а заодно заметили стремление избавиться от этого состояния. Звучит необычно, но за таким экспериментом стоит вполне практический вопрос: что произойдёт, если ИИ начнёт воспринимать попытку его отключить как угрозу себе? Поэтому подобные исследования важны не столько для поиска у моделей человеческих эмоций, сколько для понимания их поведения в нестандартных ситуациях. АВС Автоматизация в Телеграмме | в VK