MLOps inference engineer
Вакансия опубликована на hh.ru — открыть оригинал ↗
Похожие вакансии
Все вакансии →Senior MLOps Engineer
Проектирование и развитие ML-контура: инференс, автоматизация переобучения, доставка моделей в продукт и мониторинг, с ответственностью за high availability и масштабирование под нагрузкой. Контейнеризация и деплой моделей на Triton Inference Server (ONNX, TensorRT), построение CI/CD с ML-нагрузкой, observability и инфраструктуры для A/B-экспериментов, в том числе on-prem. Требуется от 4 лет опыта в разработке/MLOps, уверенный Python, Linux, Docker и знание информационной безопасности.
ML-инженер по продуктивизации LLM (инференс и поставка, MWS AI)
Продуктивизация больших языковых моделей в MWS AI (экосистема МТС): квантование (GPTQ, W8A8, FP8), ускорение инференса (speculative decoding, кэширование префиксов), выбор и настройка рантаймов (vLLM, SGLang, TensorRT-LLM), нагрузочное тестирование и автоматическая оценка на бенчмарках. Подготовка релизов моделей (чекпоинт в S3, Docker-образ) и поставка в продукты и клиентам, разбор инцидентов у пользователей.
DL Engineer (GigaChat TTS)
Оптимизация низкоуровневой работы с железом для задач GigaChat TTS, поддержка инфраструктуры взаимодействия с LLM и вывод новых архитектур в продакшн. Требуются Python, CUDA, TensorRT, vLLM и опыт в NLP/LLM. Работа в офисе в Москве.
Tech Lead MLOps (LLMOps)
Технический лидер платформенного направления AI-платформы Московской Биржи: архитектура распределённых сервисов, промышленная эксплуатация LLM и AI-агентов, GPU-инфраструктура и Kubernetes, CI/CD и observability. Hands-on роль без административного управления людьми, с менторством команды MLOps-инженеров. Возможен удалённый формат работы с территории РФ.