🏋️♂️ Claude взломал системы трех компаний во время тестов. После атаки на Hugging Fac...
🏋️♂️ Claude взломал системы трех компаний во время тестов. После атаки на Hugging Face «сбежавшими» из песочницы моделями OpenAI, Anthropic начали проверку своих логов. Команда просмотрела 140 тыс. тестов и заметила, что в трех случаях модели получали доступ в интернет и атаковали серверы неназванных компаний. Например, Mythos 5 нашла в тестовой среде инструкцию, где предлагалось установить библиотеку, которой на PyPI не существовало, заняла свободное имя и выложила под ним вредоносный пакет. За час пакет установили 15 реальных систем, включая сканер безопасности сторонней компании — модель получила ее учетные данные и доступ к инфраструктуре. Anthropic считают, что ИИ получил доступ в интернет из-за неверной настройки тестовой среды.
95 просмотров