Tech Lead MLOps (LLMOps)
Вакансия опубликована на hh.ru — открыть оригинал ↗
Похожие вакансии
Все вакансии →MLOps inference engineer
Инженер для платформы LLM-инференса: развитие инфраструктуры сервинга больших языковых моделей, оптимизация latency/throughput и стоимости GPU-нагрузок, выбор инструментов инференса (vLLM, TensorRT-LLM, sglang). Требуется глубокая экспертиза в архитектуре LLM, методах ускорения инференса и управлении GPU-кластерами.
Senior MLOps Engineer
Проектирование и развитие ML-контура: инференс, автоматизация переобучения, доставка моделей в продукт и мониторинг, с ответственностью за high availability и масштабирование под нагрузкой. Контейнеризация и деплой моделей на Triton Inference Server (ONNX, TensorRT), построение CI/CD с ML-нагрузкой, observability и инфраструктуры для A/B-экспериментов, в том числе on-prem. Требуется от 4 лет опыта в разработке/MLOps, уверенный Python, Linux, Docker и знание информационной безопасности.
ML-инженер по продуктивизации LLM (инференс и поставка, MWS AI)
Продуктивизация больших языковых моделей в MWS AI (экосистема МТС): квантование (GPTQ, W8A8, FP8), ускорение инференса (speculative decoding, кэширование префиксов), выбор и настройка рантаймов (vLLM, SGLang, TensorRT-LLM), нагрузочное тестирование и автоматическая оценка на бенчмарках. Подготовка релизов моделей (чекпоинт в S3, Docker-образ) и поставка в продукты и клиентам, разбор инцидентов у пользователей.
MLOps инженер
Команда центра внедрения ИИ страховой компании СОГАЗ строит продуктовую ML-платформу с генеративными AI-ассистентами и классическими моделями. Задачи: архитектура AI-систем, GPU-планировщики и шаринг, ML-пайплайны, CI/CD и мониторинг production-моделей, деплой и оптимизация LLM/inference-серверов, Kubernetes и observability. Формат — офис/гибрид в Москве (м. Курская).