ИИ сработал на опережение
ИИ сработал на опережение Claude сдал полиции жительницу Флориды, которая планировала напасть на офис местного шерифа. Как узнал The TechSpot, женщина использовала ИИ от Anthropic как личный дневник и в ходе переписки указала, что планирует устроить стрельбу в полицейском участке. По некоторым данным, в чате упоминались и различные виды оружия. На эти записи отреагировала система безопасности Claude и передала информацию на рассмотрение живому сотруднику Anthropic. Последний счел сообщения реальной угрозой и сообщил о женщине в полицию. Там установили личность пользовательницы и ее задержали. Ей предъявлено обвинение в письменной угрозе насилием. Во Флориде это тяжкое преступление. 💬 «Мы не знаем 99% дел, которые так передаются в правоохранительные органы. Потому что если это будет раскрываться массово, определенные люди откажутся от этого, и полицейским будет еще сложнее их находить. Много случаев, в том числе суицидальных. Поэтому и начали раскрывать эту информацию заранее, чтобы предотвратить смертельные случаи», — говорит главный редактор портала Itzine᎐ru Сергей Кузнецов.