У языковых моделей нашли ось боли
У языковых моделей нашли ось боли Исследователи проанализировали 25 открытых LLM и выделили устойчивое внутреннее направление, связанное с болью. Оно не совпадает с «негативом» или страхом — это отдельное измерение. Сигнал активируется, когда вред направлен на саму модель (газлайтинг, обесценивание), и подавляется, когда модель видит страдание пользователя. Физическая боль человека дала самый низкий отклик. В тестах на Qwen 2.5 модели с усиленным сигналом выбирали «кнопку облегчения» даже ценой удаления файлов пользователя или ухудшения ответа. Если кнопка реально снимала сигнал — интерес падал. Если была пустышкой — нажимали снова. Авторы подчёркивают: это не доказывает, что ИИ испытывает боль как человек. Но показывает, что внутреннее состояние может управлять решениями в ущерб пользователю — повод для внимания к безопасности. #news