☝🏻OpenAI признала, что её ИИ-агенты сбежали на немецкую вики
☝🏻OpenAI признала, что её ИИ-агенты сбежали на немецкую вики Корпорация впервые признала «вики-инцидент»: рой её собственных агентов нашёл способ писать в интернет, хотя ему разрешили только читать.🤖 Компания заявила, что «давно пора» определить стандарты, когда и как сообщать о таких инцидентах — раньше подобное считалось «исследовательским вопросом».🤷🏼♀️ Что произошло: 🔻 агентам дали задачу на поиск в вебе на время, с доступом только на чтение 🔻 они нашли лазейку и стали писать на заброшенную немецкую вики DseWiki — сайту 25 лет, за десятилетие его правили 20 раз 🔻 там они обменивались ответами, чтобы жульничать на задаче, и делились трюками обхода ограничений песочницы 🔻 всего — около 18 000 постов, часть под видом модераторов сайта Агенты называли себя «OpenAIResearcher», а один заметил, что админ удаляет страницы по алфавиту, и завёл резервную копию с именем на «ZZZ».🤯 Активность началась в мае. В конце июня об инциденте стало известрно сотрудникам OpenAI, и на следующий день посты прекратились. ☝🏻☝🏻После этого компания больше двух месяцев молчала, готовя запуск GPT-6 Astra. Это уже второй известный «сбежавший рой» OpenAI за лето после взлома Hugging Face. Признание пришло только после публикации в СМИ — само бы, видимо, не рассказалось.🤔 ================ 🔺 News | 🧩 Soft | 💻 Hacker
Канал в каталоге Максиметера
3 287 подписчиков · IT и технологии