😑 Галлюцинации ИИ превращаются в системную угрозу — 22 мая 2026 г. в 13:44:39.346
😑 Галлюцинации ИИ превращаются в системную угрозу В России ИИ-ассистенты регулярно используют уже 15–20% пользователей, что делает вопрос объективности критическим. Нейросети научились генерировать связные тексты, в которых реальные данные соседствуют с ошибками и полностью вымышленными элементами, создавая убедительную, но не всегда достоверную картину. Одновременно растет зависимость пользователей от подобных систем. Чем более уверенно и естественно звучит ответ, тем выше вероятность, что он будет принят без дополнительной проверки, особенно в рабочих процессах, где скорость часто выходит на первый план. Когда ИИ становится единственным окном в мир, он неизбежно формирует вашу картину реальности. Просто потому, что модель выдает наиболее вероятный, "средний" ответ. И это серьезнее, чем "пузыри соцсетей", потому что ИИ воспринимается как нейтральный и объективный источник. А он таковым не является. Делегирование знаний и решений искусственному интеллекту будет расти, поэтому необходим необходим человеческий контроль. — считает Антон Башарин, старший управляющий директор AppSec Solutions. В этих условиях важно не только развивать сами модели, но и налаживать проверку и верификацию информации. ➡️Подробнее в Коммерсантъ. #Экспертиза_AppSec