👁 LLM на практике | Знаешь как работает модель, знаешь как её сломать
👁 LLM на практике | Знаешь как работает модель, знаешь как её сломать Атаки на LLM – недооценённый вектор: компании разворачивают чат-боты и RAG-системы на продакшене, не понимая, что prompt injection через пользовательский ввод или отравленные документы в базе знаний дают атакующему контроль над поведением модели. Понимание того, как LLM токенизирует ввод, строит контекстное окно и обрабатывает системный промпт, напрямую конвертируется в умение обходить фильтры, вытаскивать системные инструкции и манипулировать агентом, который имеет доступ к реальным инструментам. — Книга разбирает архитектуру трансформеров, fine-tuning, RAG и деплой моделей, именно тот слой, где живут indirect prompt injection через внешние данные, атаки на embedding-поиск и утечки через контекстное окно агента с доступом к файлам и API. 🎤 Книга #LLMSecurity #PromptInjection #AIThreats / White Hat / max.ru/kind_hack