ML DevOps Engineer (AWS, Terraform, CI/CD, LLM pipeline & RAG systems)

About the Role:

We are looking for an engineer with a strong background in DevOps and cloud infrastructure (AWS, Terraform, CI/CD, monitoring, security), who also brings deep hands-on expertise in LLM pipelines and RAG systems.

The ideal candidate should be capable of designing self-hosted model environments with support for GPU, autoscaling, and resource isolation. They should also be able to implement standard metrics (latency, accuracy, hallucination rate, cost per query) and build robust processes for hallucination mitigation, including eval sets, guardrails, and human-in-the-loop workflows.

Responsibilities and Requirements:

-Production MLOps: deployment and maintenance of ML/LLM pipelines in real-world systems.
-Hands-on experience with RAG approaches: chunking, embeddings, vector indexes, offline metrics, citation and hallucination control.
-Experience with vector databases such as Qdrant, Weaviate, and Pinecone.
-Integration of AI components into production systems with a focus on PII protection.
-Strong proficiency in DevOps and cloud infrastructure (AWS, Terraform, CI/CD, monitoring, security).
-Ability to evolve LLM services as full-fledged products, not just maintain infrastructure.
-Experience with incremental index updates, Lakehouse/EMR/Glue/Spark, streaming systems (Kafka, watermarking, idempotent upserts), and graph databases.

Joining Valletta Software Development means:

🌍 A Global, Thriving Team
Join 100+ specialists from 20+ countries, united by a passion for outstanding
IT solutions.
🚀Diverse projects: Fintech, MedTech, AI/ML, e-commerce, and more. Switch
teams or industries to broaden your skills.
💡 Support at Every Step Client interview prep: We train you to succeed + give actionable feedback.
✔️ Strategic stability: Well-structured processes, strong management, and long- term vision.
✔️ Core values: Honesty, flexibility, innovation, and a people-first approach.
💸 Regular salary review based on your personal results
✨ Paid rest days and sick leaves.

_______________________________________________________________________

В настоящее время мы в поиске ML DevOps Engineer

Работать предстоит в международной команде, поэтому знание английского от В2 необходимо.

Мы ищем инженера с сильным бэкграундом в DevOps и облачной инфраструктуре (AWS, Terraform, CI/CD, мониторинг, безопасность), который одновременно обладает глубокой практической экспертизой в LLM-пайплайнах и RAG-системах. Кандидат должен уметь проектировать self-hosted окружения для моделей с учётом GPU, autoscaling, resource isolation, внедрять стандартные метрики (latency, accuracy, hallucination rate, cost per query) и строить процессы борьбы с галлюцинациями (eval-наборы, guardrails, human-in-the-loop).

Обязанности и требования:

• Продакшн MLOps: развертывание и поддержка ML/LLM-пайплайнов в боевых системах.
• Практический опыт работы с RAG-подходами: чанкинг, эмбеддинги, векторные индексы, офлайн-метрики, контроль цитат и галлюцинаций.
• Опыт работы с векторными базами (Qdrant, Weaviate, Pinecone).
• Интеграция AI-компонентов в продакшн-системы с учётом PII-защиты.
• Уверенное владение DevOps и облачной инфраструктурой (AWS, Terraform, CI/CD, мониторинг, безопасность).
• Способность развивать LLM-сервисы как полноценный продукт, а не только поддерживать инфраструктуру.
• Опыт работы с инкрементальными апдейтами индексов, Lakehouse/EMR/Glue/5park, стриминговыми системами (Kafka, watermarking, идемпотентные апсерты); опыт работы с графовыми базами.

P.S. При отклике в сопроводительном письме укажите, пожалуйста, информацию:

Ваш username telegram

Локацию пребывания

Ваши зарплатные ожидания

Спасибо!

​​​​​​