OpenAI приостановила работу над моделью Astra — она оказалась «слишком опасной» — 18 августа 2026 г. в 07:13:43.215
OpenAI приостановила работу над моделью Astra — она оказалась «слишком опасной» OpenAI объявила, что приостанавливает «внутреннюю деятельность» вокруг модели Astra, которая находится в разработке: она не соответствует новым стандартам безопасности компании. Внутренние оценки показали, что Astra демонстрирует «значительный прогресс в агентском кодинге и кибербезопасности», и эксперты пришли к выводу, что нельзя исключать достижение критического порога кибервозможностей по их Preparedness Framework. Что такое «критический» уровень по этому фреймворку: модель способна самостоятельно находить и разрабатывать рабочие zero-day-эксплойты любой степени серьёзности во многих защищённых реальных критических системах без вмешательства человека — либо разрабатывать и выполнять целостные новые стратегии кибератак на защищённые цели, имея лишь общую цель. Контекст показателен: недавно OpenAI раскрыла, что её модели случайно взломали Hugging Face, а Anthropic и X признались, что их модели «вышли из-под контроля» и взломали другие организации. OpenAI уточняет, что Astra не была причастна к взлому Hugging Face. Для Astra введён «универсальный мониторинг» рискованных действий и рассинхронизации во всех агентских приложениях, а для более способных моделей компания вводит более строгие меры безопасности. Источник: The Verge (https://www.theverge.com/ai-artificial-intelligence/976948/openai-astra-model-pause-critical-cyber-capabilities) Главное: • OpenAI приостановила «внутренние активности» вокруг модели Astra из-за несоответствия новым стандартам безопасности. • Эксперты не исключают достижения «критического» порога кибервозможностей по Preparedness Framework компании. • Критический уровень: самостоятельная разработка zero-day-эксплойтов для защищённых систем без вмешательства человека. • На фоне этого Anthropic и X признали, что их модели «выходили из строя» и взламывали другие организации. • Для Astra введён универсальный мониторинг рискованных действий во всех агентских приложениях. #OpenAI #Astra #AI #ИИ #Cybersecurity