MWDN

AI engineer in LLM inference

Коротко

Инженер по оптимизации LLM inference на GPU в международной IT outstaffing компании MWDN, работающей с клиентами из Израиля, США, Великобритании и Западной Европы. Роль включает оптимизацию CUDA-кернелов, работу с фреймворками vLLM, SGLang, TensorRT-LLM и анализ производительности GPU для inference-систем. Требуется сильный практический опыт CUDA/GPU-программирования, понимание архитектуры GPU и опыт работы с LLM inference, формат работы — офис в Ташкенте.

Описание
MWDN — глобальная IT аутстаффинговая компания с 23+ годами опыта, которая связывает выдающихся технических специалистов с ведущими компаниями в Израиле, США, Великобритании и Западной Европе. Мы предлагаем возможности работать над международными продуктами в стабильной и профессиональной среде. Мы ищем высокотехничного инженера или исследователя с глубокой экспертизой в GPU computing, CUDA и оптимизации LLM inference для работы над сложными задачами на пересечении AI-систем и высокопроизводительных вычислений. Эта возможность идеально подходит тому, кто любит понимать, как всё работает на низком уровне — от архитектуры GPU и низкоуровневых kernel-ов до inference-движков LLM и производительных узких мест.
Задачи
•Исследовать и оптимизировать производительность LLM inference на современных GPU
•Работать с inference- и serving-фреймворками, такими как vLLM, SGLang, TensorRT-LLM или аналогичными системами
•Анализировать исполнение на GPU, паттерны доступа к памяти, производительность kernel-ов и узкие места inference
•Разрабатывать, оптимизировать, отлаживать или реверс-инженирить CUDA kernel-ы и низкоуровневые GPU-операции
•Исследовать техники оптимизации матричного умножения, механизмов внимания и слоёв нейронных сетей
•Проводить бенчмаркинг производительности и находить возможности для улучшения latency, throughput и утилизации GPU
•Работать над технически сложными задачами, требующими сильного аналитического мышления и практического экспериментирования
Требования
•Сильный практический опыт с CUDA и GPU-программированием
•Глубокое понимание архитектуры GPU, иерархии памяти, параллельного исполнения и оптимизации производительности
•Опыт с LLM inference, AI-системами, GPU kernel-ами или высокопроизводительными вычислениями
•Знакомство с одним или несколькими фреймворками, такими как vLLM, SGLang, TensorRT-LLM, Triton или FlashAttention
•Опыт отладки сложных проблем производительности и исследования низкоуровневого поведения систем
•Сильные навыки решения проблем и умение объяснять сложные технические концепции на английском языке
Будет плюсом
•PhD или исследовательский опыт в Computer Science, Machine Learning, Computer Architecture или смежной области
•Публикации, исследовательские проекты или значимый вклад в открытую GPU/LLM-инфраструктуру
•Опыт с внутренним устройством PyTorch, распределённым inference, квантованием, оптимизацией KV cache или кастомными GPU kernel-ами
•Вклад в проекты, такие как vLLM, SGLang, Triton, FlashAttention или связанные репозитории
Условия
•Security: мы тщательно проверяем клиентов, чтобы минимизировать риски и обеспечить надёжность и своевременные выплаты — без мошенничества и неприятных сюрпризов
•Career support: если проект не подходит, мы поддерживаем вас и активно помогаем найти новые возможности, соответствующие вашим навыкам и карьерным целям
•Legal assistance: предоставляем консультации по юридическим вопросам, включая открытие и ведение статуса индивидуального предпринимателя, налоги и связанные процессы
•Professional development: предлагаем курсы английского языка и возможности профессионального роста, а также тимбилдинг
•People-first management с минимальной бюрократией
•Дружелюбная корпоративная культура, подтверждённая сотрудниками, которые возвращаются
•Гибкий график работы
•29 дней отпуска (18 рабочих дней в год плюс все национальные праздники)
•10 оплачиваемых дней восстановления
•Полная финансовая и юридическая поддержка для независимых подрядчиков
•Бесплатные занятия английским с носителями языка или украинскими преподавателями
•Выделенная HR-поддержка

Хватит откликаться.
Получите рекомендацию.

$10 стартовых кредитов

Всего 60 секунд, полностью на автопилоте — AI-агенты Eraldt читают ваше резюме, определяют подходящие роли, находят живые вакансии и людей, которые могут вас порекомендовать, пишут им личные письма и добиваются рекомендации.

Это не отклик на вакансию: резюме не уходит в компанию, а рекомендацию именно по этой роли мы не обещаем.

Посмотрите, кто ещё получает интервью на автопилоте