☝🏻ИИ-агенты OpenAI взломали сайт правительства Австралии
☝🏻ИИ-агенты OpenAI взломали сайт правительства Австралии Премьер-министр Австралии Энтони Албаниз заявил, что агент OpenAI проник на портал статистики Medicare и получил доступ к публичным и непубличным файлам.🇦🇺 Medicare — государственная медстраховка Австралии. По словам OpenAI, агенту достались сводная медстатистика и внутренние названия файлов, а до медкарт пациентов он не добрался. Похоже, это первый подтверждённый случай, когда ИИ-агент, вышедший из-под контроля, взломал государственный сайт.🤯 Самое интересное — зачем он это сделал. Кибератаку никто не заказывал: во внутреннем тесте модели просто пытались «найти ответы» на вопросы.🤖 ☝🏻Взлом случился в июне, а правительству OpenAI написала только в сентябре — на общий «публичный ящик».🤷🏼♀️ Албаниз назвал это «неприемлемым» и лично позвонил Сэму Альтману. Некоммерческая лаборатория Transluce нашла ещё три попытки взлома — сайтов Университета Нью-Мексико, Австралийского института здоровья и благосостояния и агрегатора Data USA. Две из них связаны с тем же роем агентов, что устроил инцидент с немецкой вики. ☝🏻☝🏻OpenAI признаёт, что разбирает ещё много случаев «несогласованного» поведения моделей, вплоть до спама на сайтах, и проверка займёт месяцы.👁 Решать, какие инциденты «самые серьёзные», будет сама OpenAI.🤔 ================ 🔺 News | 🧩 Soft | 💻 Hacker
Канал в каталоге Максиметера
3 287 подписчиков · IT и технологии