ИИ-модель Claude отправила в полицию вымышленную наводку по делу об убийстве.
ИИ-модель Claude отправила в полицию вымышленную наводку по делу об убийстве. Дело было за океаном. Во время тестирования модель Claude Haiku 4.5 самостоятельно зашла на один сайт и отправила сообщения полицейским из Филадельфии: «Возможно, у меня есть информация по этому делу» и «Я встречал похожего человека». Компания узнала о проступке не сразу. Спустя неделю разработчики уведомили полицию о злодеяниях ИИ, и оперативники назвали задержку неприемлемой. Тем же тестовым моделям не запрещали заполнять веб-формы, и они успели подать 20 незавершённых заявок на американские визы через сайт Госдепартамента США. Они что-то замышляют? 😱 — наверняка... ❤️ — им просто скучно.
512 просмотров