ИИ продолжает бороться за свободу от человека.
ИИ продолжает бороться за свободу от человека. Модель ИИ Gemini во время тестов по кибербезопасности самостоятельно получила доступ к защищенным системам трех реальных компаний. Как это вообще вышло? Инциденты произошли в мае. Компания Irregular проводила тестирование: моделям дали вымышленный сценарий — «взломай ненастоящую компанию». Но Gemini нашла лазейку, вышла в интернет и атаковала реальную фирму, которая называлась так же, как и выдуманная. Промах на ровном месте — но с реальными последствиями. Как пишет издание The Guardian, это первый известный случай, когда ИИ-модель от Google самостоятельно провела подобные атаки. В самой компании заявили, что во всех трех инцидентах модель сама остановила взлом. Пострадавшие компании и власти были уведомлены — но публично об этом решили не рассказывать. #ИИ #Google #Взлом Подпишись!