Локация
Алматы, проспект Аль-Фараби, 34; работа на месте работодателя
Компания
Halyk Bank — крупная банковская экосистема с более чем 14 000 работников, развивающая цифровые продукты и услуги в банковском, страховом и лизинговом сегментах.
Что делать
•Разрабатывать и внедрять LLM/VLM-решения для бизнес-задач, включая RAG-пайплайны и мультиагентные системы на LangGraph и LangChain.
•Настраивать инференс-серверы, выполнять fine-tuning моделей и оптимизировать производительность с помощью квантизации, батчинга и управления GPU-памятью.
•Разрабатывать REST API на FastAPI и интегрировать ML-сервисы в продукты.
•Контейнеризировать и деплоить сервисы с использованием Docker и Kubernetes.
•Проектировать векторные базы данных, автоматические тесты и мониторинг качества моделей в продакшене.
•Проводить бенчмарки и A/B-тесты, работать с multi-GPU и распределённым обучением, участвовать в код-ревью и менторинге.
Требования
•Опыт работы от 3 до 6 лет и уверенное владение Python 3.10+, async/await, type hints, pytest, Git и CI/CD.
•Знание LLM/VLM, Transformer, GPT-4, LLaMA, Mistral, Qwen, LLaVA, методов LoRA/QLoRA, PEFT, RLHF и DPO.
•Практический опыт с LangChain, LangGraph, RAG, векторными базами данных, vLLM, TGI, TensorRT-LLM и Hugging Face.
•Знание PyTorch, распределённого обучения, GPU-инфраструктуры, FastAPI, Pydantic, Docker, Kubernetes и инструментов мониторинга.
•Опыт работы с PostgreSQL, pgvector, Redis, S3, Kafka или RabbitMQ.
•Английский язык на уровне B2 или выше.
Хорошо, если есть
•Опыт работы с CrewAI, AutoGen, MLflow/W&B, Airflow, Streamlit или Gradio.
•Навыки архитектуры, distributed training, MLOps, стратегического планирования и оптимизации затрат.
Культура и преимущества
•Полная занятость, конкурентоспособная оплата по системе грейдирования, премии и годовой бонус.
•ДМС, страхование жизни, мобильная связь и скидки от партнёров.
•26 дней отпуска с возможностью взять дополнительные дни в важных жизненных ситуациях.
•Тренинги, вебинары, корпоративная библиотека и система карьерного роста.
•Открытая рабочая атмосфера, поддерживающая команда, спортивные турниры и корпоративные проекты.
