Специалист по кибербезопасности AI/LLM-решений. — 17 августа 2026 г. в 11:30:02.588
Специалист по кибербезопасности AI/LLM-решений. Локация: #Москва. Опыт: 2+ лет. Зарплата: ₽. Обсуждается на собеседовании. Компания: СберЗдоровье. Обязанности: • Проводить security review AI/LLM-решений: LLM-приложений, AI-агентов, RAG, векторных БД, интеграций с внешними API и облачными LLM; • Участвовать в threat modeling AI-решений: prompt injection, jailbreak, утечки данных, небезопасные tool calls, избыточные привилегии AI-агента, RAG/data poisoning; • Проверять наличие и корректность защитных механизмов: guardrails, фильтры персональных данных, ограничения длины prompt/response, rate limiting, валидация ответов, контроль вызовов tools; • Оценивать безопасность работы с данными: персональные данные, конфиденциальная информация, источники данных для RAG, embeddings, индексы векторных БД; • Проверять, что AI-агенты работают по принципу минимально необходимых привилегий и не выполняют чувствительные операции без ручного подтверждения; • Проверять изоляцию пользовательских сессий, контекстов и памяти AI-решений; • Участвовать в проверке безопасности локального запуска LLM в Kubernetes: контейнеры, RBAC, secrets, network policies, ingress, resource limits; • Формировать требования к логированию, аудиту и трассировке AI-решений: trace ID, логи prompt/response, вызовы модели, вызовы tools, действия AI-агента; • Разрабатывать тестовые сценарии для проверки AI-решений на prompt injection, утечки данных, обход ограничений и небезопасное поведение агента; • Помогать командам разработки и эксплуатации безопасно использовать локальные и облачные LLM. Требования: • Опыт в кибербезопасности от 2–3 лет в одной или нескольких областях: Application Security, DevSecOps, Cloud Security, Kubernetes Security, API Security, Product Security; • Понимание принципов security review, threat modeling и безопасной разработки; • Понимание web/API-безопасности: аутентификация, авторизация, OAuth2/OIDC, SAML, JWT, RBAC, service-to-service-взаимодействие; • Базовое понимание AI/LLM-стека: LLM, prompt, system prompt, context window, embeddings, RAG, vector database, AI-agent, agent memory, tools/function calling; • Понимание основных рисков LLM-приложений: prompt injection, indirect prompt injection, jailbreak, утечка чувствительных данных, раскрытие system prompt, небезопасная обработка ответа модели, excessive agency; • Понимание особенностей безопасности RAG и векторных БД: например, Milvus, Qdrant, Weaviate, pgvector, Chroma, Elasticsearch/OpenSearch vector search; • Понимание рисков работы с персональными и конфиденциальными данными при использовании локальных и облачных LLM; • Базовое понимание Kubernetes и контейнерной безопасности: secrets, service account, RBAC, network policy, resource limits; • Умение формулировать понятные и проверяемые требования безопасности для продуктовых команд. Откликнуться. #Гибрид