ИИ-модель компании Anthropic отправила в полицию Филадельфии ложный донос на убийство
ИИ-модель компании Anthropic отправила в полицию Филадельфии ложный донос на убийство Модель заполнила форму на сайте о нераскрытых преступлениях, заявив, что «возможно, видела подозреваемого». Важный нюанс: на сайте не было описания преступника — модель его просто выдумала. Полиция пометила сообщение как спам. Anthropic узнала об этом только через два месяца и уведомила власти ещё через девять дней, также компания отключила интернет для Claude во время тестов. В полиции подчеркнули: «Двухмесячная задержка в обнаружении и сообщении об инциденте неприемлема». Изображение: techxplore
61 просмотров