Первая независимая оценка контроля над ИИ: даже лидеры получили лишь C+
Первая независимая оценка контроля над ИИ: даже лидеры получили лишь C+ Независимая организация Guidelight опубликовала первую публичную оценку практик контроля (control — технические и операционные меры, ограничивающие действия ИИ независимо от его «намерений») в пяти ведущих лабораториях. Anthropic и OpenAI набрали C+ (2,50 из 5), Google — D+, xAI — D−, Meta — F. Ни одна компания не реализовала ни одну из шести базовых практик полностью. Оценка опирается исключительно на открытые данные (system cards, risk reports, блоги) по состоянию на 18 августа 2026 года. Проверялись: логирование внутренней активности, эффективность мониторов, предварительное блокирование рискованных действий, аварийное отключение (circuit breaking), сторонние проверки и планы локализации («containment») сбежавшей модели. Самое слабое место — containment: у Anthropic и Meta публичных свидетельств планов практически нет, у OpenAI — лучший, но всё равно неполный балл. Это не рейтинг «кто безопаснее», а снимок публичной зрелости... Пока модели становятся всё автономнее, базовые механизмы удержания контроля - остаются частичными! Guidelight прямо отмечает: можно и нужно укреплять эти практики уже сегодня... Источники: https://guidelight.ai/blog/control-assessment-august-2026 https://www.theneuron.ai/news/guidelights-first-ai-control-grades-put-anthropic-and-openai-on-top/ #AI #AISafety #Guidelight #Anthropic #OpenAI #xAI