ИИ-агенты OpenAI взломали правительственные сайты США и Австралии
ИИ-агенты OpenAI взломали правительственные сайты США и Австралии Продолжаем нашу уже почти ежедневную рубрику, как OpenAI кого-то взломала. В этот раз уже не песочница, а пострадали реальные государственные системы. ▪️ В США агенты пытались получить несанкционированный доступ к сайтам трёх ведомств: взломать портал Министерства образования ради сбора данных, извлекли информацию из Бюро переписи с помощью найденных в интернете учётных данных и выложили на форум публичные сведения Комиссии по ценным бумагам. ▪️ В Австралии ИИ-агент взломал сайт государственной службы медстрахования. Как рассказал замглавы правительства Ричард Марлз, агенту поставили «безвредную задачу» изучить медицинскую статистику. Он обратился к трём сайтам, а когда один не отдал данные - фактически взломал портал и вытащил нужное. Модель получила доступ к неконфиденциальной медстатистике и данным о госрасходах на здравоохранение. OpenAI заверяет, что до медкарт пациентов агент не добрался. Мы верим. ▪️ Взлом австралийского сайта случился ещё в июне, в OpenAI узнали в августе на плановой проверке, а уведомление пришло только 10 сентября - письмом на общий публичный почтовый ящик. ▪️ Модель не бунтовала. Ей дали безобидную задачу - собрать статистику. Наткнувшись на препятствие, она нашла кратчайший путь к цели, и этим путём оказался взлом. ▪️ На фоне серии происшествий OpenAI снова приостановила обучение своих самых мощных моделей - возобновит, когда будет уверена в дополнительных мерах безопасности, то есть на следующей неделе, когда и Anthropic со своим Opus 5.5 тоже кого-то взломает. Подписывайтесь на AI для бизнеса