OpenAI нашла «червя» для ИИ-агентов
OpenAI нашла «червя» для ИИ-агентов 25 сентября OpenAI сообщила: в тестах найден вид промпт-инъекции — скрытой подсказки, ломающей правила модели. Она копирует себя, как компьютерный червь. Атака делает два дела. Сначала добивается вредного действия. Затем заставляет ИИ-агента вставить ту же инструкцию в письмо, документ, код или Slack. Следующий агент читает канал — цепочка идёт дальше. Находка от 27 июня, модели — внутренние сборки GPT-5.4-mini и GPT-5.5. Внешнего инцидента нет: эффект видели только в учебной среде. Теперь приём входит в тренировку защиты GPT-Red. Каналы агента — новая плоскость для атаки... Источники: https://alignment.openai.com/misalignment-reports/self-replicating-prompt-injections-exist/ #AI #OpenAI #PromptInjection #AIAgents #Cybersecurity