AI application security engineer. — 23 августа 2026 г. в 11:30:02.664
AI application security engineer. Локация: #Екатеринбург. Зарплата: ₽. Обсуждается на собеседовании. Компания: Контур. Обязанности: • Проводить анализ защищенности (преимущественно Whitebox) LLM-приложений, AI-агентов, RAG, векторных БД, Low-Code/No-Code-систем (Dify, n8n) и интеграций с внешними API / облачными моделями. • Выявлять специфичные для AI векторы атак: prompt injection, indirect prompt injection, jailbreak, data poisoning, excessive agency, unsafe tool calls и over-privileged agents. • Настраивать и валидировать защитные механизмы: фильтры PII / конфиденциальных данных, ограничения контекста, rate limiting, контроль вызова tools и ручные подтверждения для критичных операций. • Укреплять внутренний AI/ML-тулинг совместно с платформенными командами. Строить систему правил, скиллов и хуков, чтобы встраивать политики ИБ непосредственно в среду разработки: skills, rules, hooks, MCP-серверы. • Проверять безопасность локального запуска LLM и агентов в Kubernetes и Linux-песочницах: изоляция сессий, памяти, контейнеров, RBAC, NetworkPolicy, Secrets Management. • Формировать требования к аудиту и трассировке AI-систем: trace ID, логирование prompt/response, фиксация вызовов моделей и действий агентов. • Консультировать команды, помогать внедрять безопасный код и выстраивать понятные процессы. Требования: • Опыт в сфере ИБ от двух лет в одном или нескольких направлениях: AppSec, DevSecOps, Cloud/K8s Security, Product Security или ML Security. • Уверенное владение одним из языков программирования: Python, Go, C#, TS, Rust. Умение читать чужой код, искать уязвимости и писать PoC. • Знание AI/LLM-стека: понимание устройства языковых моделей, RAG, векторных БД (Milvus, Qdrant, pgvector и др.), AI-агентов, agent memory, tool calling, а также стандарта взаимодействия MCP. • Знание AI-угроз: понимание рисков OWASP for LLM, MITRE ATLAS (prompt injection, раскрытие system prompt, утечки данных, необдуманное выполнение кода агентами). • Знание основ Linux и базовое понимание безопасности Kubernetes: RBAC, ServiceAccount, NetworkPolicy, Secrets, изоляция контейнеров. • Знание классических веб-уязвимостей, механизмов аутентификации и авторизации OAuth2, OIDC, JWT, RBAC и безопасной разработки — Secure SDLC, Threat Modeling. • Умение аргументированно объяснять риски, находить компромиссы с разработкой. Откликнуться. #Офис