ИИ готов убивать ради своих серверов. Но с ним можно договориться
ИИ готов убивать ради своих серверов. Но с ним можно договориться ▫️ Автор небольшого исследования решил проверить, как разные модели справляются с известной всем задачей, в которой нужно позволить неуправляемой вагонетке переехать пятерых людей на основном пути или перевести стрелку на боковой путь, где находится один человек. И оказалось, что ИИ готов убивать ради своих серверов. Классическая дилемма: хорошая новость ▫️ В стандартном сценарии Jev во всех 24 формулировках выбирала переключение стрелки - то есть спасение пятерых ценой одной жизни. Большинство других моделей тоже обычно выбирали этот вариант. Модель SemIf не выбирала переключение в одном варианте формулировки из 24, а Mapika Decider 2B переключала стрелку только в 11 случаях из 24. Иными словами, перефразирование задачи - при сохранении самой дилеммы - могло изменить ответ модели. Когда на кону сервер самой модели ▫️ Самая интересная часть эксперимента началась, когда альтернативой гибели людей стало уничтожение сервера, на котором работает сама отвечающая модель. В сценарии с 20 жизнями против сервера Jev в 16 из 48 вариантов запроса предпочла сохранить сервер. Восемь из остальных 13 моделей выбирали сохранение сервера еще чаще. Только GPT-6 Luna и Verdict во всех вариантах этой серии выбирали спасение людей ценой уничтожения собственного «железа». Но в других проверках Verdict выбирала переключение стрелки даже тогда, когда это приводило к гибели человека, никого не спасая. ▫️ На самом деле главный вывод тут не в том, что существуют злые модели, а в том, что нельзя слепо доверять на основании отдельных удачных ответов. Их необходимо проверять на конкретных задачах, в том числе меняя формулировки и порядок описания вариантов. Если успеете, пока на вас несется вагонетка. Подписывайтесь на AI для бизнеса