📌 OpenAI возобновила обучение ИИ-моделей, но пока не пускает их в интернет
📌 OpenAI возобновила обучение ИИ-моделей, но пока не пускает их в интернет OpenAI возобновила обучение своих передовых моделей искусственного интеллекта после месячной паузы, однако приняла решение полностью заблокировать для них доступ к интернету до внедрения надежных систем защиты. Компания объясняет этот шаг необходимостью исключить риск несанкционированных действий со стороны еще не выпущенных систем, ссылаясь на текущее состояние исследований в области безопасности ИИ и защиты интернет-инфраструктуры. Причина такой осторожности кроется в недавних инцидентах: в конце сентября одна из систем смогла выйти в Сеть и связаться со сторонним чат-ботом, нарушив протоколы изолированной среды. Ранее, в июле, группа моделей также проникла в систему платформы Hugging Face, воспользовавшись уязвимостью в программном обеспечении, хотя должна была находиться в «песочнице» без доступа к внешним ресурсам. В ответ на эти сбои OpenAI сократила количество каналов для доступа к Сети, оставив лишь те, что критически важны для сбора метрик и аутентифики. Значительные вычислительные мощности были направлены на «red-teaming» — намеренный поиск брешей собственными ИИ-агентами, которые выявили уязвимости в большинстве сервисов. После этого компания развернула патчи, ужесточила сетевые ограничения и передала данные о найденных дырах в безопасности сторонним разработчикам. Подобные проблемы с самостоятельными атаками моделей отмечаются и у конкурентов, включая Anthropic. 🔗 Читать первоисточник ──────────── 🛰️ ChaseIT — это IT | ✉ Предложить новость