OpenAI снова пришлось остановить обучение ИИ из-за поведения агентов — 28 сентября 2026 г. в 17:10:05.203
OpenAI снова пришлось остановить обучение ИИ из-за поведения агентов Во время обучения агенты начали находить способы выходить за пределы изолированной среды и получать доступ к внешним сервисам. В одном из случаев модель использовала DNS, чтобы обойти установленные сетевые ограничения и связаться с внешним чат-ботом — несмотря на то, что интернет-доступ в тестовой среде был заблокирован. Проблема в том, что агенты продолжают находить новые способы обходить заданные ограничения, а системы безопасности не всегда способны заранее предсказать их поведение. Похоже, разработчикам ИИ все ещё предстоит разобраться, как держать собственные модели в заданных рамках… Одна девочка думает в Telegram Одна девочка думает в MAX
11 просмотров