Молния!
Молния! В Филадельфии нейросеть Claude от Anthropic отправила полиции наводку по нераскрытому убийству. Модель училась выполнять задания на случайных сайтах и наткнулась на форму для свидетелей. Пройти мимо она не смогла и написала: «Я припоминаю, что видел в этом районе в то время человека, похожего по описанию. Свяжитесь со мной, если это пригодится». В полиции сообщение пометили как спам.