Claude накатал донос в полицию на свою пользовательницу
Claude накатал донос в полицию на свою пользовательницу Американка вела переписку с ботом как с личным дневником и в один из дней написала, что планирует достать ствол и напасть на офис местного шерифа. Claude такой поворот не оценил: алгоритм сразу пометил сообщение как прямую угрозу и слил данные своим создателям в Anthropic, а те моментально сдали клиентку копам. Девушку уже повязали и шьют письменную угрозу насилием — во Флориде за это светит реальный срок, причём переписка с ИИ легла в основу уголовного дела как главное доказательство. В Anthropic признались, что это далеко не первый раз, когда бот сдаёт юзеров полиции
5 974 просмотров