Claude написал донос на пользовательницу после того, как она написала ИИ о планах купит...
Claude написал донос на пользовательницу после того, как она написала ИИ о планах купить оружие и напасть на офис шерифа Девушка использовала чат-бота как личный дневник, но система посчитала сообщения реальной угрозой и передала информацию в Anthropic. Компания после этого обратилась в полицию. Во Флориде девушкку обвинили в письменной угрозе насилием — это преступление второй степени тяжести. Переписка с Claude стала доказательством по делу. И это не единичный случай. Так и думал что модель 5.5 начала выявлять нарушения автоматически, мы это оплачиваем и ещё и баны получаем. Ему минимум информации надо давать, особенно откуда вы и сколько у вас аккаунтов и тд.
31 просмотров