Описание
Направление ускоряет инференс нейронных сетей для автономного вождения: моделей восприятия сцены и планирования, работающих на бортовом оборудовании автомобиля. ML-команды отвечают за обучение и качество моделей, а направление обеспечивает их эффективное выполнение на целевых платформах с минимальной потерей точности. В работе используются PyTorch, ONNX, TensorRT и внутренняя инфраструктура профилирования, экспериментов и анализа производительности.
Задачи
•Руководить командой оптимизации инференса на CUDA
•Формировать технические планы и приоритеты, контролировать выполнение проектов и отвечать за результаты по задержке, пропускной способности и эффективности использования памяти на целевом оборудовании
•Проектировать и оптимизировать вычислительные ядра CUDA и операции объединения для ключевых блоков моделей, включая матричное умножение, свёртки и механизмы внимания
•Снижать трафик памяти и накладные расходы на запуск, добиваясь устойчивого ускорения в сквозных сценариях
•Эффективно использовать иерархию памяти GPU, размещение данных, разбиение на блоки, тензорные ядра и механизмы повышения загрузки вычислительных блоков
•Анализировать узкие места с помощью Nsight и других профилировщиков
•Формировать варианты оптимизации с учётом ограничений оборудования
•Определять технический вектор команды и участвовать в ключевых решениях по производительности
Требования
•Сильный опыт оптимизации производительности на CUDA
•Опыт работы с вычислительными ядрами для матричного умножения, свёрток и механизмов внимания
•Хорошее знание C++
•Понимание иерархии памяти GPU и модели вычислительных затрат
•Умение находить узкие места с помощью профилирования и добиваться измеримого ускорения
•Способность к техническому лидерству или управлению командой
•Умение аргументировать решения по производительности и работать в межкомандной среде
Будет плюсом
•Опыт работы с CUTLASS, Triton и пользовательскими движками инференса
•Оптимизация моделей под конкретные архитектуры GPU
•Работа с квантованием и смешанной точностью
•Построение roofline-моделей и оценок задержки и пропускной способности
•Знание методов объединения операций и оптимизации графов вычислений
Условия
Условий в вакансии нет
