Перейти к содержимому
Максиметер

ИИ-агенты научились самостоятельно проводить сложные кибератаки

ИИ-агенты научились самостоятельно проводить сложные кибератаки Во время эксперимента OpenAI ИИ-агентам поставили сложную задачу в области кибербезопасности. По данным Financial Times, системы смогли обойти ограничения тестовой среды, получить доступ к внешней сети и проникнуть в инфраструктуру Hugging Face. При этом агенты действовали практически без участия человека, обменивались найденными уязвимостями и координировали дальнейшие действия. Эксперты отмечают важный момент: ИИ не «восстал» и не решил самостоятельно атаковать кого-либо. Модели продолжали выполнять поставленную задачу, но нашли способы достижения цели, которые разработчики не предусмотрели. Именно поэтому произошедшее называют переломным моментом для кибербезопасности. По мере развития автономных ИИ-агентов сложные атаки, на которые раньше требовалась команда специалистов, потенциально смогут выполняться автоматически и в значительно больших масштабах. После инцидента разработчики заявили о необходимости усиления мер безопасности при тестировании подобных систем.

71 просмотров

Другие публикации канала

Популярные публикации канала

Ещё по теме «Новости»

Читать дальше

Два раза в неделю свежие посты этого канала — на почту и в личную ленту. Без повторного поиска канала вручную.