😈 Модель выложила системный промпт, в котором было написано его не выкладывать
😈 Модель выложила системный промпт, в котором было написано его не выкладывать Что будет, если спрятать prompt injection прямо в документ, который анализирует LLM? В статье разбирают реальный кейс: модель получает вредоносную инструкцию внутри текста и начинает выполнять её, несмотря на системные ограничения. Автор показывает основные подходы к защите — от фильтрации входных данных до разделения команд и пользовательского текста. ➖Полезный разбор для тех, кто внедряет LLM в работу с файлами и недоверенными данными. ➡️https://habr.com/ru/articles/1080024/ #AI #LLM #Injection #JS #NodeJS // @nsis // max.ru/nsis
249 просмотров
Канал в каталоге Максиметера
1 133 подписчиков · IT и технологии