DevOps/MLOps инженер

О компании и команде

В SimbirSoft более 1500 разработчиков ежедневно решают интересные задачи, которые делают комфортнее жизни миллионов пользователей.

Мы занимаемся сервисной разработкой и создаем продукты для Росбанк, ИНКА, Подели, Invitro, Hyundai, Татнефть, СКБ, DNS, АльфаКапитал, DPD, АТОМ, Амедиатека и многих других.

Мы в поисках DevOps/MLOps инженера, который может обеспечить техническую устойчивость, производительность и развитие корпоративной LLM-платформы: от развертывания моделей и инструментов до оптимизации RAG и observability.

Тебе предстоит:

• Разворачивать и обновлять inference-сервисы (vLLM, TGI, Ollama) в кластере Deckhouse Kubernetes.
• Управлять GPU-нодами (2×H100): профили, квоты, allocation, DCGM-мониторинг.
  
• Настраивать OpenWebUI (обновления, кастомные ассистенты, плагины, pipelines).
• Настраивать CI/CD пайплайны для моделей и ассистентов (через GitLab CI/CD, Helm, ArgoCD).
• Управлять хранилищами (PVC, MinIO/S3) для индексов и документов.
•  Настраивать пайплайны загрузки документов (Confluence, регламенты, файлы).
  
•  Оптимизировать параметры retrieval: chunk size, overlap, embedding-модели.
  
•  Настраивать интеграции с Langfuse (datasets, traces, evals) для оценки качества.
  
• Разворачивать и обновлять LlamaIndex, Chroma, Postgres Vector — по мере масштабирования.
  
• Подключать новые MCP-инструменты (Jira, 1С, DWH, Контур-Фокус и др.) к ассистентам.
  
• Разворачивать новые сервисные модули (например, Langfuse, LlamaIndex, Eval серверы).
  
• Прокидывать порты, настраивать Ingress, Secrets, RBAC.
  
• Настраивать мониторинг (Prometheus/Grafana, Langfuse).
  
•  Настраивать nightly evals (через Langfuse Datasets + judge-скоры).
• Настраивать роли и лимиты в RBAC (OpenWebUI + Keycloak).
  
• Реализовывать маскировку PII (телефоны, ИНН, e-mail) в пайплайнах.
  
• Вести документацию (в Confluence / internal Wiki): чек-листы деплоя, обновлений, rollback.
  
• Писать утилиты и скрипты (Python/Bash) для автоматизации.
  
•  Участвовать в планировании релизов (model updates, eval runs).
•  Обучать коллег (DevOps, аналитиков) работе с модулями.
  

Ожидания от кандидата

• Опыт работы с LLM-моделями (vLLM, TGI, Hugging Face, Ollama).
• Практический опыт с Python (FastAPI, скрипты, CLI).
• Понимание архитектуры RAG и работы с embedding-моделями.
• Навыки настройки Prometheus/Grafana, анализа метрик производительности.
• Опыт работы с системами аутентификации (Keycloak, JWT).
• Уверенные знания Kubernetes, Docker, CI/CD (GitLab/Helm).
• Понимание принципов RBAC, изоляции данных, PII-безопасности.

Будет плюсом:

• Опыт работы с Deckhouse или другими K8s-дистрибутивами.
• Знание Langfuse, LlamaIndex, Postgres Vector, Chroma.
• Базовые знания MLOps (модели, fine-tuning, quantization, caching).
  
• Опыт интеграции API внешних систем (Jira, 1С, DWH).
•  Умение писать внутренние утилиты и документацию.

Условия работы

• Работу в команде экспертов.
• Широкий технологический стек, сотни проектов.
• Гибкий график работы, который позволяет высыпаться и выделять время на хобби.
• Льготы и меры господдержки, предусмотренные для IT-компаний (аккредитованы Минцифры*)
• Возможность разрабатывать IT-решения для разных отраслей, пробовать новые технологии.
• У нас выстроены процессы удаленной работы, при этом есть просторные офисы с зонами коворкинга, где можно с комфортом пообщаться, поиграть в настолки или в тишине обдумать рабочие задачи.
• Возможность прокачаться во всех интересующих направлениях: стать тимлидом, архитектором, разработчиком full-stack.
• Развитую систему наставничества, сертификацию за счёт компании, участие в конференциях, изучение английского языка.
• Активный обмен опытом, внутренние и внешние митапы по разработке, хакатоны, доклады по развитию hard и soft skills.
• 40+ клубов по интересам и профессиональных сообществ внутри компании.
• Уютный мерч.
• Полный соцпакет и «белую» зарплату.
• Корпоративную базу знаний и социальную сеть для удобства общения с каждым из 1500+ сотрудников.
• Гибкую систему бонусов, которая настраивается под индивидуальные потребности: различные уровни ДМС, оплата обучения и занятий любыми видами спорта.

Приходи в SimbirSoft за прокачкой хард-скилов и интересными проектами!

Знаешь кого-то, кто идеально сможет подойти? Расскажи им о нашей вакансии!

* Решение Министерства цифрового развития, связи и массовых коммуникаций РФ о предоставлении государственной аккредитации организации, осуществляющей деятельность в области информационных технологий от 10.03.2022