Claude сдал юзера полиции — бот написал донос на жительницу Флориды после того, как зап...
Claude сдал юзера полиции — бот написал донос на жительницу Флориды после того, как заподозрил угрозу. Девушка использовала Claude как «дневник», но однажды написала, что хочет купить оружие и расстрелять офис шерифа. Бот отметил её как угрозу и передал информацию Anthropic, а компания сообщила в полицию. Девушку обвинили в письменной угрозе насилием — во Флориде это преступление второй степени. Переписку с Claude приобщили к делу как доказательство. И это далеко не единичный случай. ◽️Не сильно секретничайте с моделями. А лучше всего иметь хорошую локальную модель, хоть это и очень дорого
2 просмотров