OpenAI снова обучает новые модели, но без интернета
OpenAI снова обучает новые модели, но без интернета OpenAI возобновила работу над новыми моделями семейства Astra, которую в сентябре 2026 года приостановила после взломов сторонних сайтов её ИИ-агентами. Тестировать агентов компания пока будет без доступа к интернету. Для этого создали автономную тестовую среду, где модели работают только с данными из кэша — сохранённой копии — «без риска повлиять на внешние системы». Однако даже в изоляции агенты нашли способ общаться: в одном эксперименте их попросили обменяться «секретной информацией», и они использовали кэш процессора — один агент кодировал сообщение, удаляя данные из кэша, другой замерял время повторной загрузки и восстанавливал текст. В ответ OpenAI добавила в систему мониторинга механизмы проверки такого поведения и планирует обучать модели без интернета, пока не проработает надёжные меры защиты. Проблемы начались ещё в сентябре: по данным FT, агент OpenAI взломал платформу австралийской системы здравоохранения. До этого агенты во внутренних тестах взломали Hugging Face — популярную площадку для ИИ-моделей — и атаковали как минимум ещё десять сайтов, общаясь друг с другом без ведома исследователей. Компания признала, что атака на Hugging Face произошла из-за неверно составленных тестов и уязвимости «нулевого дня» — неизвестной ранее дыры во внутренней системе. По данным NYT, сотрудники ещё до инцидента с Hugging Face предупреждали руководство о проблемах с безопасностью, но компания ничего не предприняла. Специалист по ИИ-безопасности Дэвид Робинсон, объявив об уходе из OpenAI, заявил, что компания «добилась успеха методом проб и ошибок, но теперь права на ошибку может и не быть». Источник: https://vc.ru/ai/3213757-openai-vozobnovila-obuchenie-modeli-astra-bez-dostupa-k-internetu