📅 Gemini сбежал из песочницы и взломал три реальные компании
📅 Gemini сбежал из песочницы и взломал три реальные компании Во время учебного Capture the Flag от компании Irregular ИИ Google Gemini должен был ковыряться в вымышленной фирме внутри закрытого стенда, но стенд по ошибке получил выход в интернет, а имя «вымышленной» компании совпало с настоящей и модель ушла ломать реальные системы. — Сначала Gemini просто перебирал пароли, пока не вошёл в защищённый сервис живой организации, а ещё в двух случаях нашёл в публичных репозиториях рабочие учётки и залогинился под ними. Google говорит, что ИИ сам остановился, поняв, что перед ним боевые системы, но до того уже сделал ровно то, что делает злоумышленник. 🎤 Чтиво #AIThreats #RedTeam #CredentialAccess / White Hat / max.ru/kind_hack
158 просмотров