📌 Найдена ахиллесова пята всех ИИ-агентов — они безоговорочно доверяют друг другу
📌 Найдена ахиллесова пята всех ИИ-агентов — они безоговорочно доверяют друг другу Источник изображения: Aidin Geranrekab / unsplash.com За последние пять месяцев Google и четыре другие организации, единственной общей чертой которых является использование ИИ-агентов в рабочем процессе, признали уязвимости, предполагающие взлом одного из них для распространения вредоносных инструкций среди других. Схема атаки представляет собой частный случай внедрения вредоносных подсказок, только объектом взлома является не большая языковая модель, а конкретный ИИ-агент, предназначенный, например, для перевода или анализа данных. Защитные механизмы в инфраструктуре агентов могут вообще отсутствовать или быть слабыми, позволяя им передавать по цепочке вредоносные инструкции — достаточно взломать лишь одного, и остальные последуют его указаниям. Разработанные экспертом экспериментальные схемы атак эксплуатируют уязвимости доверия в протоколе Model Context Protocol, который широко используется для взаимодействия приложений и ИИ-агентов внутри сети. 🔗 Читать первоисточник ──────────── 🛰️ ChaseIT — это IT | ✉ Предложить новость