ML-инженер по продуктивизации LLM (инференс и поставка, MWS AI)
Вакансия опубликована на hh.ru — открыть оригинал ↗
Похожие вакансии
Все вакансии →Senior ML Engineer
Разработка и внедрение ML-решений под задачи бизнеса: fine-tuning LLM (LoRA/PEFT), построение RAG-систем, NLP-задачи, инференс на Python/FastAPI с оптимизацией под production. Обязательна релокация в Елабугу (Республика Татарстан).
Старший математик-разработчик, Базовые ML Модели
Разработка единой системы оценки качества ML-решений в Ozon: построение бенчмарков для LLM, OCR/ASR и эмбеддингов, реализация ML-пайплайнов полного цикла и развитие ML-платформы. Стек: Python, PyTorch, transformers, vLLM/SGLang, Triton, Kubernetes.
ML Engineer (LLM)
Разработка и поддержка продакшн-сервисов на основе LLM: деплой и оптимизация inference-пайплайнов (vLLM, SGLang, TGI) под высоконагруженные системы, квантизация и дообучение моделей (SFT, LoRA/QLoRA, DPO/RLHF), построение RAG-систем и агентов. Работа с open-source моделями LLaMA, Mistral, Qwen, DeepSeek, векторными хранилищами и GPU-инфраструктурой. Официальное трудоустройство по ТК РФ, гибридный формат, офис в Казани.
MLOps-инженер
Развёртывание и эксплуатация серверов инференса LLM (vLLM/SGLang) на GPU-узлах в закрытом контуре: подбор режимов под нагрузку, шлюз LiteLLM с аутентификацией и квотами, мониторинг, обновление моделей и дежурство. Дополнительно — отбор и оценка открытых моделей под задачи компании, настройка клиентов для разработчиков и RAG-конвейер над кодом и документацией с учётом прав доступа. Удалённый формат, график 5/2.