LlmOps-DevOps
Вакансия опубликована на hh.ru — открыть оригинал ↗
Похожие вакансии
Все вакансии →Senior MLOps Engineer
Инженер MLOps для эксплуатации GPU/TPU-кластеров и ML-инфраструктуры: Kubernetes/Docker, ML Serving (Triton, vLLM), MLflow, Airflow, CI/CD для ML-пайплайнов, мониторинг и оптимизация затрат. Требуется опыт DevOps от 3 лет или MLOps от 1 года, уверенный Linux, Python/Bash, Postgres, Redis, Kafka.
Главный MLOps (Платформа ИИ)
Развитие и эксплуатация инфраструктуры ИИ-платформы (on-prem и облако): Kubernetes-кластеры с GPU, storage, сети и безопасность, а также CI/CD/CT-пайплайны для ML/LLM-моделей с канареечными релизами и откатами. Отвечает за автоматизацию ML-пайплайнов (feature store, model registry, обучение и переобучение), мониторинг качества и дрейфа моделей, observability, SLA и оптимизацию затрат на GPU/CPU, включая внедрения у клиентов.
Ведущий инженер по сопровождению
Внедрение и сопровождение компонентов платформы Platform V, агентов и сервисов AI HUB: управление CI/CD, администрирование автоматизированных систем, поддержка пользователей (2-я линия), устранение и анализ инцидентов, участие в DevOps-процессах.
Middle MLOps Specialist (ЦРИИИД)
Команда строит и оптимизирует платформу инференса open-source LLM: настройка движков (sglang, vLLM, llama.cpp), масштабируемость и надёжность LLM-serving инфраструктуры в Kubernetes с Istio. В задачи входят разграничение доступа к API моделей, observability/мониторинг инференса и обёртка моделей в сервисы на FastAPI/Flask/Streamlit. Требуются уверенные Linux, Kubernetes, высоконагруженные прокси (nginx/Envoy/HAProxy), Bash/Python и CI/CD.
