Staff / Senior Staff Machine Learning Engineer (Inference)
Похожие вакансии
Все вакансии →MLOps inference engineer
Инженер для платформы LLM-инференса: развитие инфраструктуры сервинга больших языковых моделей, оптимизация latency/throughput и стоимости GPU-нагрузок, выбор инструментов инференса (vLLM, TensorRT-LLM, sglang). Требуется глубокая экспертиза в архитектуре LLM, методах ускорения инференса и управлении GPU-кластерами.
ML-инженер по продуктивизации LLM (инференс и поставка, MWS AI)
Продуктивизация больших языковых моделей в MWS AI (экосистема МТС): квантование (GPTQ, W8A8, FP8), ускорение инференса (speculative decoding, кэширование префиксов), выбор и настройка рантаймов (vLLM, SGLang, TensorRT-LLM), нагрузочное тестирование и автоматическая оценка на бенчмарках. Подготовка релизов моделей (чекпоинт в S3, Docker-образ) и поставка в продукты и клиентам, разбор инцидентов у пользователей.
Data Scientist
Разработка и развитие CV-систем для автоматизации складских процессов Ozon: модели детекции, классификации, трекинга и сегментации, оптимизация inference-пайплайнов и ML-сервисов на Python для real-time и high-load обработки видеопотоков.
ML-инженер (Python, PyTorch, fine-tuning)
Разработка и дообучение ML/LLM-моделей: построение конвейеров подготовки и разметки данных, обучение адаптеров, извлечение сущностей и связей, оценка качества и метрики. Развёртывание и оптимизация локального inference (vLLM, CUDA, квантование, tensor parallelism). Формат — офис или гибрид в Москве.