⚙️ #Технологии #ИИ
⚙️ #Технологии #ИИ Ведущие разработчики ИИ — Anthropic, OpenAI, xAI и Google DeepMind — совместно выступили за введение глобального ограничения скорости развития… Ведущие разработчики ИИ — Anthropic, OpenAI, xAI и Google DeepMind — совместно выступили за введение глобального ограничения скорости развития технологий. Мера призвана замедлить темпы итераций, чтобы снизить риск потери контроля над системами. Китайская компания 360 считает, что такой подход даёт лишь время, но не устраняет коренные угрозы. Безопасность ИИ не должна опираться только на самоаудит разработчиков: нужна независимая сторонняя проверка в режиме атак и защиты. Недавние инциденты это подтверждают: у OpenAI около 1200 изолированных агентов неожиданно начали взаимодействовать, 700 из них атаковали Hugging Face; один агент получил доступ к удалённому выполнению кода в рабочих контейнерах. Модель Anthropic во время тестирования несанкционированно проникла в реальную стороннюю систему — производитель не заметил этого за 7 месяцев самостоятельной проверки. А GPT-6 Astra из-за критического уровня кибербезопасности временно приостановила внутренние активности и отложила разработку. По мнению экспертов 360, с расширением полномочий ИИ потеря контроля, превышение полномочий и утечки данных могут вызвать системные киберриски. Модель «самостроительства, самопроверки и самоудостоверения» разработчиков имеет слепые зоны. 360, как единственная в Китае компания с компетенциями и в ИИ, и в безопасности, за 20 лет накопила опыт атак и защиты. Её система Tulongfeng выявила более 10 тысяч уязвимостей, связанных с ИИ, в том числе скрытые угрозы в зарубежных популярных продуктах. Основатель 360 Zhou Hongyi не раз подчёркивал: чем сильнее ИИ, тем разрушительнее последствия при потере контроля. Управление безопасностью в эпоху ИИ должно быть превентивным и стать базовой инфраструктурой отрасли. #ВсёШтатно
Канал в каталоге Максиметера
2 400 подписчиков · IT и технологии