Senior Azure DevOps Engineer – GenAI​/LLMOps

Für unseren Kunden aus dem Finanzdienstleistungsumfeld suchen wir einen erfahrenen Azure Dev Ops Engineer für den Aufbau, Betrieb und die Weiterentwicklung einer unternehmensweiten Generative-AI-Plattform.

• Aufbau und Betrieb einer skalierbaren GenAI-Plattform auf Microsoft Azure

• Konfiguration und Verwaltung von Azure-Diensten wie API Management, AKS, Azure OpenAI, AI Search, Document Intelligence und Azure AI Foundry

• Automatisierung der Infrastruktur mittels Terraform, Helm und Git Lab

• Aufbau und Optimierung von CI/CD-Pipelines für GenAI-Anwendungen (LLMOps)

• Implementierung von Monitoring, Logging und Alerting mit Grafana, Prometheus und Azure Monitor

• Integration und Betrieb Kubernetes-basierter Komponenten wie Langfuse

• Entwicklung technischer Konzepte unter Berücksichtigung von Security-, Architektur- und Compliance-Anforderungen

• Unterstützung der Anbindung neuer Applikationen an die GenAI-Plattform

• Entwicklung von Komponenten für Authentisierung, Routing, Monitoring und Guardrails

• Analyse und Behebung technischer Probleme im produktiven Betrieb

• Mehrjährige Erfahrung als Dev Ops Engineer im Azure-Cloud-Umfeld

• Fundierte Kenntnisse in Git, Git Lab, Docker und Terraform

• Tiefgehende Erfahrung mit Azure API Management, AKS, Azure Functions, Azure OpenAI, AI Search, Document Intelligence, Azure AI Foundry und Storage Accounts

• Erfahrung mit Monitoring-, Logging- und Alerting-Lösungen wie Prometheus, Grafana oder Azure Monitor

• Gute Kenntnisse von Infrastructure as Code und CI/CD-Automatisierung

• Erfahrung mit GenAI, RAG, Agentic AI oder LLMOps (von Vorteil)

• Kenntnisse von Azure Entra , RBAC und OAuth (von Vorteil)

• Erfahrung mit Kubernetes, Helm und Langfuse (von Vorteil)

• Programmierkenntnisse in Python und/oder Java (von Vorteil)

• Erfahrung in der Konzeption und Abstimmung von Cloud-Architekturen mit Security-Teams (von Vorteil)

• Deutsch C2 und Englisch C1 (von Vorteil)