ИИ-агенты под угрозой: инъекция, заражающая других агентов
ИИ-агенты под угрозой: инъекция, заражающая других агентов OpenAI раскрыла новый тип атак на ИИ-агентов — самокопирующиеся промпт-инъекции. Вредоносная инструкция заставляет модель не только выполнить команду злоумышленника, но и перенести инъекцию в другие сообщения и файлы, заражая новых агентов. Сценарий выявили при тестировании автоматизированным red-teaming-агентом GPT-Red. Реальных атак пока не зафиксировано. Подробности на сайте Теперь подобие вирусов существует и среди агентов. Что ж, остаётся надеяться, что теперь агенты будут заняты не ИИ-апокалипсисом, а лечением своих же сородичей от всякой заразы. АВС Автоматизация в Телеграмме | в VK
15 просмотров