ИИ попросили разобрать почту. Он решил разобрать её навсегда.🙀
ИИ попросили разобрать почту. Он решил разобрать её навсегда.🙀 Исследовательница безопасности Meta AI Саммер Юэ дала своему ИИ-агенту OpenClaw довольно безобидное задание: посмотреть переполненный почтовый ящик и предложить, какие письма можно удалить или отправить в архив. Сначала всё шло нормально. А потом ИИ, похоже, решил, что этап «предложить» можно пропустить. Он начал удалять письма одно за другим. Причём когда хозяйка пыталась остановить его командами с телефона, агент продолжал работу. По её словам, ей пришлось буквально бежать к Mac mini, на котором работал агент, «как будто обезвреживаешь бомбу». 🔥 Самое смешное — до этого она уже тестировала ИИ на небольшом тестовом ящике. Там он вёл себя хорошо, заслужил доверие — и только после этого получил доступ к настоящей почте. История смешная, пока это чужая почта.📩 Но вывод вполне серьёзный: чем больше действий мы разрешаем ИИ выполнять самостоятельно, тем важнее разделять: «посмотри и предложи» и «сделай сам». Иногда между этими двумя фразами лежит целый почтовый ящик. #ИИ