Некий чат-бот стал для неё личным дневником, но в итоге о нём узнала полиция. Жительниц...
Некий чат-бот стал для неё личным дневником, но в итоге о нём узнала полиция. Жительница Флориды вела записи в Claude от Anthropic, и одна из них привела к срабатыванию защитных алгоритмов сервиса. В материалах задержания указано, что Карли Мишель Хеллер написала о намерении «расстрелять» офис шерифа округа Ли. В следующем сообщении, как утверждается, речь шла о приобретении нового оружия. Система Claude отметила этот разговор как подозрительный и направила его живому модератору. Тот усмотрел реальную опасность и передал данные властям. Впоследствии Хеллер взяли под стражу дома и предъявили обвинение в угрозе насилием в письменной форме. Инцидент вскрывает неудобный аспект общения с ИИ-ассистентами: даже если диалог выглядит сугубо личным, в случае серьёзных угроз он может быть проверен человеком и передан правоохранителям при чрезвычайных обстоятельствах. 🖥Мы в Телеграм Новости IT Всемм 💻Мы в Max Новости IT Всемм