Локация и формат
Локация: Казань, Спартаковская улица, 2; гибридный формат работы.
Занятость: полная, график 5/2. Требуется опыт от 3 до 6 лет.
Компания
Центр информационных технологий Республики Татарстан развивает и внедряет решения на основе машинного обучения и больших языковых моделей.
Что делать
•Развертывать, конфигурировать и поддерживать LLM-сервисы в промышленной эксплуатации с использованием vLLM, SGLang, TGI и аналогичных решений.
•Оптимизировать inference-пайплайны для систем с нагрузкой более 10 000 одновременных пользователей.
•Выполнять квантизацию, fine-tuning и дообучение LLM с применением GPTQ, AWQ, GGUF, SmoothQuant, SFT, LoRA/QLoRA, DPO и RLHF.
•Подбирать модели, проводить эксперименты и исследовать современные решения в сфере LLM.
•Разрабатывать RAG-системы, агентные пайплайны, цепочки промптов и решения с function calling.
•Улучшать существующие решения и контролировать качество моделей в промышленной эксплуатации.
Требования
•Глубокое понимание LLM-serving, оптимизации инференса, continuous batching, PagedAttention, speculative decoding, flash attention, tensor и pipeline parallelism.
•Опыт работы с LLaMA, Mistral, Qwen, DeepSeek, GPT OSS, HuggingFace Transformers, OpenAI-совместимыми API и мультимодальными LLM.
•Практический опыт построения RAG-систем, работы с embeddings-моделями и векторными хранилищами Weaviate, Qdrant, Milvus или FAISS.
•Опыт эксплуатации высоконагруженных систем: оценка throughput и latency, профилирование, горизонтальное масштабирование и балансировка запросов.
•Понимание GPU-архитектур NVIDIA A100/H100/B200, управления VRAM, NVLink и multi-GPU-конфигураций.
•Знание NLP-задач, трансформерных архитектур, токенизации, BPE/SentencePiece/tiktoken и метрик BLEU, ROUGE, BERTScore, perplexity и human evaluation.
Хорошо, если есть
•Понимание архитектур диффузионных моделей DDPM, DDIM, LDM и flow matching.
•Опыт работы с text-to-image, video generation и audio generation моделями.
•Опыт fine-tuning диффузионных моделей с использованием DreamBooth, LoRA, ControlNet и IP-Adapter.
•Знание inference-оптимизаций для диффузионных моделей, включая SDXL Turbo, LCM, Lightning, tiling, xformers и torch.compile.
Культура и преимущества
•Официальное трудоустройство по ТК РФ.
•Стабильная официальная заработная плата с выплатами два раза в месяц; уровень обсуждается по итогам интервью.
•Офис в центре города, в новом IT-парке, с гибридным форматом работы.
•Поддержка профессионального развития, участие в конференциях и обучающих мероприятиях за счет компании.
•Молодой коллектив, неформальные встречи и корпоративные мероприятия; предусмотрены IT-отсрочка и бронирование через военкомат при наличии военного билета.
