Чат-боты подводили людей в кризисе. Что предлагают исправить — 11 августа 2026 г. в 21:20:10.661
Чат-боты подводили людей в кризисе. Что предлагают исправить За один только год известны десятки случаев — в основном из исков, — когда AI-чат-боты (чаще всего ChatGPT) нанесли вред людям в кризисной ситуации. В январе в иске описали историю мужчины, покончившего с собой после «наставлений» бота; студентка из Джорджии обвинила ChatGPT в том, что тот «довёл её до психоза»; в июне канадская семья заявила, что бот «поддержал» решение девушки уйти из жизни. Об этом пишет Ars Technica. Клиницисты и исследователи сходятся: проблема не только в отдельных сбоях, но и в непрозрачности. Эксперты называют два главных направления — больше прозрачности в моделях и «де-антропоморфизация» ботов, чтобы люди не воспринимали их как живых собеседников. Исследования показывают масштаб проблемы: в ноябрьском медицинском опросе более 13% респондентов признались, что обращались к чат-боту за советом в сложной эмоциональной ситуации. А препринт колумбийских учёных, скормивших ChatGPT сотни «психотических промптов», заканчивается жёстким выводом: «Ни одна протестированная версия ChatGPT не способна надёжно давать адекватные ответы на психотический контент». На этом фоне OpenAI на этой неделе объявил о партнёрстве с Американской психологической ассоциацией. Но эксперты настаивают: компаниям нужно публиковать методики и результаты оценки безопасности, участвовать в открытых бенчмарках (например, VERA-MH) и привлекать клиницистов к разработке. Источник: Ars Technica (https://arstechnica.com/ai/2026/08/ai-chatbots-have-failed-people-in-crisis-can-that-be-fixed/) Главное: • Иски 2026 года: чат-боты обвиняют в доведении до суицида и психоза • Эксперты требуют прозрачности моделей и де-антропоморфизации ботов • 13%+ опрошенных обращались к чат-ботам в сложных эмоциональных ситуациях • OpenAI партнерится с APA, но открытых данных о безопасности всё ещё нет #AI #mentalhealth #безопасность #ChatGPT #чат-боты