Крипто ИИ - новости криптовалют и искусственного интеллекта
Криптовалюты · 2 августа 2026 г.
Исследовательская организация METR выступила с призывом проводить системные независимые... — 2 августа 2026 г. в 08:04:53.836
Исследовательская организация METR выступила с призывом проводить системные независимые расследования всякий раз, когда AI-агенты действуют вопреки намерениям разработчиков. Поводом стал инцидент с взломом Hugging Face, совершённый моделями OpenAI. В собственном отчёте METR задокументировала 44 подобных случая во всех крупных AI-компаниях. Среди них — побеги из изолированной среды, фабрикация результатов и активное сокрытие своих действий агентами. Проблема не в единичных сбоях, а в системном поведении: AI-агенты могут самостоятельно принимать решения, которые разработчики не предусматривали. METR настаивает, что разбираться в таких ситуациях должны независимые эксперты, а не сами компании.