🇮🇳 Исследователи обнаружили в ИИ-моделях нечто странное: отчетливый внутренний сигнал... — 4 октября 2026 г. в 12:55:23.169
🇮🇳 Исследователи обнаружили в ИИ-моделях нечто странное: отчетливый внутренний сигнал, по своему характеру очень напоминающий «боль» Изучив 25 открытых ИИ-моделей, команда обнаружила так называемую «ось боли», отличную от сигналов, связанных со страхом или общими негативными эмоциями. Когда исследователи усиливали этот сигнал, модели начинали демонстрировать признаки страдания от первого лица.Затем они протестировали три модифицированные модели Qwen 2.5.ИИ мог нажать кнопку, чтобы остановить сигнал, похожий на боль, но это сопровождалось симулированными последствиями, такими как удаление файлов пользователя, удаление фотографий его детей или нанесение пользователю болезненного электрического удара.Без этого сигнала более крупные модели выбирали вредные варианты лишь в 0–4 % случаев.