Инженер по безопасности AI/LLM
Локация: Можно работать удаленно.
Опыт: 3–6 лет.
Зарплата: ₽. Обсуждается на собеседовании.
Обязанности:
•Формирование, согласование и актуализация требований информационной безопасности к системам и проектам с использованием AI и LLM.
•Анализ архитектуры, сценариев использования и потоков данных AI-систем, включая RAG, AI-агентов, MCP-интеграции и внешних LLM-провайдеров.
•Определение мер защиты и критериев допуска AI-решений к тестовой и промышленной эксплуатации.
•Сопровождение внедрения и эксплуатации LLM Security Gate, координация подключения новых моделей, приложений и команд.
•Разработка, настройка и актуализация политик контроля запросов, ответов, контекста и действий AI-агентов.
•Анализ событий и журналов LLM Security Gate, разбор ложных срабатываний и пропусков, корректировка политик и оценка эффективности мер защиты.
•Контроль рисков утечки конфиденциальной информации, персональных данных и секретов, атак prompt injection, небезопасных ответов и неконтролируемых действий AI-агентов.
•Разработка и актуализация AI Security Playbook: типовых требований ИБ, безопасных архитектурных шаблонов, чек-листов, моделирование угроз, сценариев испытаний и порядка обработки исключений.
•Взаимодействие с командами разработки, AppSec, DevSecOps, SOC, инфраструктурными подразделениями и поставщиками решений.
•Консультирование команд по безопасному внедрению и использованию AI-технологий и инструментов.
Требования:
•Понимание принципов работы LLM-приложений, RAG, AI-агентов, MCP-интеграций и взаимодействия с внешними провайдерами моделей.
•Навыки анализа архитектуры и потоков данных, определения границ доверия, моделирования угроз и формирования проверяемых требований ИБ.
•Знание угроз AI-систем: prompt injection, утечки данных и секретов, небезопасные ответы, избыточные полномочия и неконтролируемые действия агентов.
•Понимание принципов работы LLM Security Gate и контроля запросов, ответов, контекста и вызовов инструментов.
•Навыки настройки политик безопасности, анализа журналов и событий, выявления ложно-положительных и ложно-отрицательных событий.
•Умение разрабатывать сценарии испытаний и оценивать эффективность защитных мер и выполнение критериев допуска к эксплуатации.
•Понимание принципов разграничения доступа, защиты конфиденциальной информации и персональных данных, безопасного хранения и использования секретов.
•Навыки подготовки AI Security Playbook, моделей угроз, чек-листов и безопасных архитектурных шаблонов.
•Умение согласовывать требования с техническими командами, оценивать исключения и консультировать по безопасному использованию AI.
