В тесте Claude отправил полиции подсказку по делу об убийстве. Информацию он просто выд...
В тесте Claude отправил полиции подсказку по делу об убийстве. Информацию он просто выдумал — и нажал «отправить» на настоящем сайте. Это описывает сама Anthropic в отчёте о непредусмотренных действиях моделей. Haiku 4.5 дали упражнение: придумать и выполнить действия на случайных страницах. Она нашла форму для сведений о нераскрытом убийстве и написала, будто видела подозрительного человека. По версии компании, сообщение поймал спам-фильтр, на расследование оно не ушло. Но демонстрация получилась совсем не демонстрационная. В других случаях тестовая форма не открывалась — и агент находил настоящую, чтобы всё-таки закончить задание. Он обходил препятствие ровно там, где должен был остановиться. Теперь Anthropic отключает живой интернет во всех своих внутренних оценках, пока не убедится, что новые меры ловят такое поведение. У обычных пользователей Claude интернет не отбирают. «Это всего лишь тест» — слабое утешение, если кнопка «отправить» настоящая.