Вступить в клуб →
← К вакансиям
KODE85/100

DevOps инженер (LLM инфраструктура)

170 000–230 000 RUB
Опубликовано: 7 июля 2026
seniorremoteDevOpsfulltimeКалининградrukubernetesdockerhelmgitopsvllmsglangollamagpucudaprometheusgrafanapython
Контакты и отклик открываются после вступления в клубВступить →
Публикатор: Татьяна Горбацевич Обсуждение: @•••••• #вакансия Город и адрес офиса: Калининград Формат работы: удаленка, гибрид, офис Занятость: полная Зарплатная вилка: от 170000 gross до 230000 gross Особенности найма: - удаленка только из городов РФ - 2 этапа интервью Описание вакансии: Чем предстоит заниматься: - Развертывание, сопровождение и обновление LLM-инференс платформ (vLLM, SGLang, Ollama); - Эксплуатация и развитие AI-платформы в Kubernetes, включая масштабирование и управление GPU-ресурсами; - Настройка AI Gateway (LiteLLM): маршрутизация запросов, API-ключи, квоты, лимиты и политики доступа; - Оптимизация производительности inference: batching, KV Cache, semantic cache, снижение latency и стоимости инференса; - Настройка мониторинга, логирования и трассировки (OpenTelemetry, Langfuse, SigNoz, Prometheus/Grafana); - Автоматизация CI/CD процессов для инфраструктуры и моделей, поддержка GitOps-подхода; - Интеграция и сопровождение сервисов памяти, векторных хранилищ и компонентов RAG/Agentic AI; - Диагностика и устранение инцидентов, обеспечение стабильности и высокой доступности LLM-платформы. Что мы ждём от нового члена команды: - ВАЖНО! Опыт в роли DevOps от 4 лет; - Опыт администрирования Kubernetes в production, Docker, Helm, понимание GitOps-подходов; - Опыт эксплуатации LLM inference-серверов (vLLM, SGLang, Ollama или TGI) и понимание их архитектуры; - Хорошее понимание принципов работы LLM: токены, KV Cache, batching, streaming, квантование, RAG; - Практический опыт работы с GPU (NVIDIA/CUDA), распределением ресурсов и оптимизацией производительности; - Опыт настройки мониторинга и observability (Prometheus, Grafana, OpenTelemetry, SigNoz/Langfuse); - Уверенные знания Linux, Docker, сетевого взаимодействия и диагностики инфраструктурных проблем; - Навыки автоматизации на Python и работы с CI/CD (GitLab CI/GitHub Actions); - Опыт работы с Redis, PostgreSQL и API-шлюзами; - Знание LiteLLM, KEDA, Qdrant/Milvus будет преимуществом. Название компании: KODE Контакты: @••••••

Похожие вакансии

Все вакансии →
Островок.Ostrovok!TechНовосибирск, Россияremotefulltimesenior82

Senior MLOps Engineer

Инженер MLOps для эксплуатации GPU/TPU-кластеров и ML-инфраструктуры: Kubernetes/Docker, ML Serving (Triton, vLLM), MLflow, Airflow, CI/CD для ML-пайплайнов, мониторинг и оптимизация затрат. Требуется опыт DevOps от 3 лет или MLOps от 1 года, уверенный Linux, Python/Bash, Postgres, Redis, Kafka.

airflowbashcudadockergpugrafana+9
5 ноября 2026
Т8Москваhybridfulltimemiddle78

DevOps / MLOps-инженер (LLM-инфраструктура)

DevOps/MLOps-инженер для развития внутренней on-premise LLM-инфраструктуры на vLLM и GPU-серверах: CI/CD в GitLab CI, Ansible, Kubernetes, мониторинг Grafana/Prometheus, оптимизация инференса и бенчмаркинг моделей. Гибридный формат, офис в Москве у м. Преображенская площадь, официальное трудоустройство по ТК РФ.

vllmkubernetesdockergitlab ciansibleprometheus+6
21 октября 2026
EYES OF WONDER SOFTWARE LLCМосква, Россияonsitefulltimesenior72

Senior DevOps Engineer

Разработка и поддержка CI/CD-пайплайнов, инфраструктуры как кода на Terraform и отказоустойчивой delivery-платформы на AWS с Kubernetes. Участие в трансформации DevOps-практики Multilogin, обеспечение наблюдаемости, надёжности и оптимизации облачных затрат.

kuberneteshelmdockerterraformci/cdgithub actions+6
16 ноября 2026
CenticoreРоссияremotefulltime85

SRE-инженер

Компания Centicore ищет SRE-инженера для продуктовой разработки проектов заказчиков под ключ. Задачи включают проектирование отказоустойчивой архитектуры, мониторинг и алертинг, работу с инцидентами в режиме on-call и написание технической документации.

linuxdockerkubernetesjenkinsci/cdhelm+6
5 ноября 2026280 000–350 000 RUB