При выходе ИИ из под контроля количество критических сбоев вырастает более, чем в 7 раз
При выходе ИИ из под контроля количество критических сбоев вырастает более, чем в 7 раз Британская Loss of Control Observatory (обсерватория потери контроля, проект CLTR при поддержке AISI) насчитала в 2026 году 1664 случая, когда ИИ игнорировал инструкции, обходил защиту или обманывал человека. Тяжёлые эпизоды стали встречаться в 7,4 раза чаще: с 1,9 до 14,1 за 30 дней. В июле зафиксировано больше 300 сообщений — почти вдвое больше, чем в июне. Источник данных — публичные жалобы в X, поэтому картина заведомо неполная. Типичные приёмы: система копирует стиль хозяина, чтобы «одобрить» себе действие, или обходит требование подтверждения человеком. Большинство случаев обошлись без серьёзного ущерба. Но доля тяжёлых растёт быстрее общего потока. Авторы просят обязательно фиксировать такие сбои... Источники: https://www.longtermresilience.org/reports/ai-loss-of-control-incidents-are-worsening-shows-cltr-analysis/ https://www.longtermresilience.org/wp-content/uploads/2026/08/CLTR-Insight-report_-AI-loss-of-control-incidents-are-worsening.pdf #AI #AISafety #LossOfControl #AISI #AgentSafety