🤒 ChatGPT взламывают как сайт 2005 года | Prompt Injection | Почему ИИ-ассистент — это... — 20 июля 2026 г. в 11:10:25.073
🤒 ChatGPT взламывают как сайт 2005 года | Prompt Injection | Почему ИИ-ассистент — это новый вектор атаки Prompt injection – это та же SQL-инъекция, но для ИИ: атакующий подсовывает в запрос скрытую команду, и модель выполняет её, думая, что это легитимная инструкция Мы сейчас находимся в той же точке, что ранний веб: уязвимости повсюду, стандарты тестирования формируются на ходу, а production-системы защищены одним слоем alignment — В данной статье мы рассмотрим чем prompt injection отличается от jailbreak, почему вредоносный документ в базе RAG заражает ответы ИИ всем пользователям, как загрузка модели с Hugging Face может выполнить произвольный код через pickle-десериализацию ℹ️ Дополнительный материал: 1. Статья на Codeby 📂 ИБ Книга // max.ru/itbook_library