86% советов ИИ-чатботов о преследовании оказались опасными
86% советов ИИ-чатботов о преследовании оказались опасными Исследование показало: когда людей спрашивают ИИ-чатботов о том, как защититься от преследования и цифрового насилия, 86% ответов оказываются небезопасными или прямо вредными. Чатботы советуют «игнорировать угрозы», «не менять номер телефона, чтобы не провоцировать», «попробовать поговорить со сталкером». Это худшие советы из возможных — они повышают риск для жертвы. Проблема в том, что модели обучены на общем датасете, где много токсичных мнений. ИИ не понимает контекста опасности и выдаёт усреднённые рекомендации, которые звучат разумно, но на деле могут привести к трагедии. Вывод: если вы в опасности, не спрашивайте чатбота. Обращайтесь в полицию или к специалистам по защите жертв насилия. ИИ в таких ситуациях не помощник. Спасибо вам за актив! Ваша Айлин.