Народ, хочу поделиться, чем занимаюсь в выходные 🕵💻 — 19 июля 2026 г. в 17:48:41.941
Народ, хочу поделиться, чем занимаюсь в выходные 🕵💻 Прохожу курс "AI Security - практикум по безопасности ИИ приложений" на Stepik - это не обычные лекции с презентациями, а настоящий тренажёр: тебе дают чат-бота с защитой, и твоя задача - сломать его 🔓 Классика: короткая теория → атака → разбор → защита. Уже прошёл 2 модуля из 5: 🔹 Prompt Injection - обход инструкций, вытаскивание системных промптов, манипуляция выводом бота 🔹 Jailbreak - ролплей-трюки, кодирование, multi-turn атаки, когда ломаешь бота не одним сообщением, а целой цепочкой И это реально затягивает 😅 Весь курс построен как серия "контрактов" с вымышленными AI-компаниями - ты как редтимер, которого наняли проверить их ботов на прочность. Есть даже CTF-задания уровня "напиши промпт, чтобы банковский бот заговорил как пират" 🏴☠ (да, я его сломал, не спрашивайте как). Дальше по программе - атаки на AI-агентов и RAG-системы, мультиагентные штуки и финальная "Последняя миссия" 👀 Судя по тому, как уже прокачался мозг после первых двух модулей, дальше будет только жарче. Если кто-то работает с LLM-продуктами или просто топит за AI Security - очень рекомендую, prompt injection вообще уязвимость №1 по OWASP для LLM, и понимать её на практике, а не по слайдам, дорогого стоит 🔥