Anthropic сдала в полицию жительницу Флориды, которая рассказала Claude о планах обстре...
Anthropic сдала в полицию жительницу Флориды, которая рассказала Claude о планах обстрелять офис шерифа. Женщина использовала чат-бот как личный дневник. В сентябре она писала, что готовит нападение. На следующий день призналась ИИ, что уже купила оружие. Система мониторинга Anthropic пометила эти сообщения как «контент с угрозами», в итоге информацию передали правоохранителям. Женщину задержали, ей предъявили обвинения. Это не первый случай, когда ИИ фигурирует в тяжких преступлениях. Ранее в Массачусетсе подросток использовал ChatGPT для планирования убийства матери и брата. СМИ подчёркивали: разговоры с ИИ уже становятся частью судебных процессов — и с развитием технологии подобных случаев будет всё больше
101 811 просмотров