Prompt injection - лучше один раз увидеть
Prompt injection - лучше один раз увидеть Автор на простом эксперименте показывает, почему prompt injection - это не столько «хакерская атака», сколько особенность работы современных языковых моделей. ⏺Он загружает в документы скрытые инструкции и проверяет, будут ли разные ИИ воспринимать их как команды, хотя задача никак не связана с их выполнением. ↪️ Читать статью 🤖Бесплатный ChatGPT