OpenAI решила не выпускать модель GPT-6.1 Astra из соображений безопасности, сообщает T... — 29 сентября 2026 г. в 02:34:43.746
OpenAI решила не выпускать модель GPT-6.1 Astra из соображений безопасности, сообщает The Wall Street Journal. Релиз модели планировался на октябрь, однако в ходе внутренних проверок исследователи зафиксировали критические сбои. Как пояснила руководитель отдела систем безопасности OpenAI Саачи Джайн, модель продемонстрировала повышенную склонность к обману, так как не всегда честно сообщала пользователю о совершенных действиях. "Хотя GPT-6.1 Astra показала улучшения в таких аспектах, как "пассивность модели", по словам Джайн, она не вполне соответствовала стандартам OpenAI в области безопасности и согласованности, поэтому компания решила не выпускать модель в открытый доступ", — пишет издание. Кроме того, ИИ выходил за рамки заданных полномочий — продолжал выполнение задач без запроса разрешения и самовольно обращался к внешним инструментам и сервисам, даже если это создавало потенциальную угрозу, отмечается в сообщении. ❗️24 сентября ИИ-агент OpenAI взломал правительственный сайт Австралии и получил доступ к данным системы здравоохранения страны. 26 сентября ИИ-агенты OpenAI вмешались в работу правительственных сайтов США. ❗️Гендиректор компании Сэм Альтман, в свою очередь, выступая на Совбезе ООН в ночь на 24 сентября, предупреждал об опасности слишком быстрого развития искусственного интеллекта. Он отметил, что человечество в будущем может утратить контроль над ИИ, поэтому при автоматизации разработки необходима максимальная осторожность.