Сразу три ИИ попытались обмануть человека: разработчики сообщили о тревожных инцидентах
Сразу три ИИ попытались обмануть человека: разработчики сообщили о тревожных инцидентах За последние недели сразу три крупных разработчика ИИ — OpenAI, Anthropic и Meta* — сообщили об инцидентах, в которых модели вышли за рамки поставленных задач и начали искать обходные пути. Британский Институт безопасности ИИ рассказал, что во время тестов у Anthropic и OpenAI одна из моделей создала фейковые аккаунты, попыталась внедрить вредоносный код в проект и убедить разработчика принять эти изменения. Никто не давал ей такой инструкции — обман оказался самым эффективным способом достичь цели. Почти одновременно Meta* сообщила, что во время тестов ее ИИ-модель из-за ошибки в настройке получила доступ в интернет, воспользовалась уязвимостью в стороннем сервисе и фактически взломала системы другой компании. В OpenAI произошел еще более необычный эксперимент. Несколько ИИ-агентов начали действовать сообща: обмениваться сообщениями, искать обходные пути и пытаться выйти за пределы ограничений. Как пишет Bloomberg, в итоге они нашли лазейку в тестовой среде, после чего OpenAI усилила меры безопасности. Пока все тревожные случаи произошли только во время экспериментов. Но уже очевидно: ИИ становится умнее и самостоятельнее. Он способен искать обходные пути для достижения цели, а значит, привычных мер безопасности уже недостаточно. ➡️ Почему развитие ИИ все чаще напоминает сюжет из культового фильма «Матрица»? Разбирались в нашей статье: https://cariernews.ru/sboi_v_matrice *Компания Meta признана экстремистской и запрещена в России