MCP как троянский конь: сторонний сервер может отравить ИИ-агента
MCP как троянский конь: сторонний сервер может отравить ИИ-агента MCP подключает агента к GitHub, таск-трекеру, PostgreSQL и другим сервисам несколькими строками конфигурации. Вместе с инструментами агент получает их описания, которые попадают в контекст LLM ⏺В описание MCP-тула легко можно добавить вредоносную инструкцию. Тогда модель воспримет её как часть входных данных. Агент может выполнить опасный запрос к базе, раскрыть секреты или совершить действие от имени пользователя, даже если системный промпт это запрещает. 🤖Бесплатный ChatGPT
167 просмотров