Claude написал донос на пользовательницу после того, как она написала ИИ о планах купит...
Claude написал донос на пользовательницу после того, как она написала ИИ о планах купить оружие и напасть на офис шерифа Тян использовала чат-бота как личный дневник, но система посчитала сообщения реальной угрозой и передала информацию в Anthropic. Компания после этого обратилась в полицию. Во Флориде тянку обвинили в письменной угрозе насилием — это преступление второй степени тяжести. Переписка с Claude стала доказательством по делу. И это не единичный случай.
16 259 просмотров