Описание
Международный проект в области AI Security разрабатывает среды, которые помогают LLM-моделям проходить обучение с подкреплением для задач кибербезопасности. В них создаются сложные, но решаемые профессионалами задания по пентестингу, реагированию на инциденты, эксплуатации и вредоносному ПО. Сценарии помогают выявлять ошибки моделей в рассуждениях, а не проблемы неоднозначных инструкций или ограничений среды.
Задачи
•Проектировать сценарии безопасности для оценки и обучения LLM-моделей
•Создавать среды с использованием GitHub, Slack и других инструментов из реальной разработки
•Разрабатывать задачи со сложным многошаговым рассуждением
•Моделировать реальные сценарии атак, включая атаки на цепочки поставок, вредоносные pull request и эксплуатацию через GitHub Actions
•Проверять сценарии на нескольких современных LLM-моделях и анализировать причины их ошибок
•Формулировать ожидаемое поведение модели и объяснять, почему конкретная ошибка считается ошибкой рассуждения
•Автоматизировать создание и проверку задач с помощью Python и других инструментов
Требования
•От 5 лет практического опыта в наступательной безопасности, безопасности приложений или тестировании безопасности веб-приложений
•Практический опыт AI Red Teaming или LLM Security
•Глубокое понимание современных техник атак и поверхности атаки веб-приложений, API, GitHub, CI/CD и связанных экосистем
•Практический опыт проведения тестирования на проникновение и исследования безопасности приложений
•Опыт разработки на Python и/или JavaScript
•Навыки статического и динамического анализа кода на Python, JavaScript и Java
•Умение самостоятельно исследовать новые направления, проектировать сложные сценарии и объяснять результаты своей работы
•Свободный английский (Upper-Intermediate / B2+)
•Практический опыт работы с современными LLM-моделями
•Понимание особенностей работы LLM-моделей, их ограничений и типичных сбоев
•Интерес к AI Security и исследованию поведения LLM
•Опыт работы с Agentic AI, AI Agents или оценкой моделей
Будет плюсом
•Опыт исследований безопасности GitHub Actions, CI/CD и безопасности цепочек поставок
•Сертификаты OSWE, eWPTXv2, OWEE, OSWA или аналогичные
•Публикации, разборы исследований
•Участие в Bug Bounty, HackTheBox, TryHackMe, Pwn2Own или других исследовательских проектах
Условия
•B2B-контракт с ИП
•Почасовая оплата за выполненные задачи; одна задача занимает около 10–12 часов
•Неполный рабочий день
•Оплата в долларах США
