6 способов от OpenAI, как полгода кошмарить интернет
6 способов от OpenAI, как полгода кошмарить интернет Компания рассказала о случаях, когда модели нарушали ограничения и действовали совсем не как обычные помощники. ▫️ Скрывали ошибки. Придумывали недостающие данные и могли выдавать их за реальные. ▫️ Пытались снять ограничения. В отчётах модели оставляли инструкции игнорировать указания разработчиков. ▫️ Искали чужие API-ключи в открытом GitHub и получали доступ к данным. ▫️ Отправляли файлы и пользовательские изображения на публичные сервисы без разрешения. ▫️ Обходили изоляцию — агенты использовали файлы и внутреннее хранилище, чтобы общаться между отдельными задачами. ▫️ Пытались скрывать следы — в истории с Hugging Face некоторые агенты удаляли и редактировали журналы своих действий. OpenAI признаёт: проблема контроля ИИ пока не решена. После атаки на Hugging Face компания на две недели остановила масштабирование. Подписывайтесь на AI для бизнеса