Senior Engineer mit Backend- und -Expertise in Embedding- und Retrieval-Systemen; m​/w​/d

Westhouse ist eines der führenden internationalen Recruitment Unternehmen für die Vermittlung von hochqualifizierten Fachexperten in Bereichen wie IT Life Cycle, SAP, Engineering, Kaufmännischem und Fachberatung.

Für unseren Kunden suchen wir aktuell eine/n Senior Engineer mit Backend- und Performance-Expertise in Embedding- und Retrieval-Systemen (m/w/d) – Remote.

• Referenz: 177117
• Start:
• Dauer: 3 Monate + Verlängerung
• Standort:
  Remote
• Arbeitsumfang: full-time

• Mehrjährige Berufserfahrung in Python-Backend-Engineering mit Fokus Performance/Throughput
• Nachweisbare Erfahrung mit Embedding-Pipelines (Chunking, Batching, Vektorisierung, Ingestion)
• Sehr gutes Verständnis von Concurrency/Parallelisierung und Queue/Worker-Architekturen
• Erfahrung mit GPU-Workloads im Produktivbetrieb (CUDA-Stack nicht zwingend Low-Level, aber praxisnah)
• Erfahrung mit Performance-Messung (Profiling, Benchmarking, SLIs/SLOs, Latenz-/Throughput-Ziele)
• Fähigkeit, Änderungen kompatibel und schrittweise (Feature Flags, Rollouts) einzuführen
• Teamfähigkeit und enge Zusammenarbeit mit Dev Ops- und Backend-Teams
• Sehr gute Deutschkenntnisse und gute Englischkenntnisse

• Unser Kunde betreibt und refactort eine RAG-Pipeline (Dokumente → Chunking → Embeddings → Index/Retrieval). Ziel ist es, Bottlenecks zu eliminieren, Durchsatz und Latenz zu optimieren und die Pipeline GPU-fähig sowie betriebssicher zu machen – ohne bestehende RAG-Verträge/Interfaces zu brechen.
• Dafür sucht unser Kunde einen Senior Engineer (m/w/d) mit starker Backend- und Performance-Expertise in Embedding- und Retrieval-Systemen.
• Analyse der bestehenden RAG/Embedding-Pipeline (Profiling, Bottleneck-Analyse, Hotspots)
• Optimierung von Chunking-Strategien, Batch-Größen und Parallelisierung für Embedding-Jobs
• Erhöhung von Throughput und Senkung von End-to-End-Latenz (inkl. IO, Queueing, Index-Updates)
• Einführung/Verbesserung von Scheduling- und Worker-Konzepten (Concurrency, Backpressure, Retry/Timeout)
• GPU-Enablement:
  Integration GPU-gestützter Worker, effiziente Ressourcennutzung, ggf. Mixed Precision/Batches
• Enge Abstimmung mit Dev Ops zur GPU-Deployment- und Skalierungsstrategie (Kubernetes, Ressourcenlimits, Autoscaling)
• Umsetzung hinter Feature Flags sowie Sicherstellung der Kompatibilität zu bestehenden RAG-Contracts
• Messbarkeit sicherstellen:
  Metriken, Benchmarks, reproduzierbare Performance-Tests, Regression-Checks

Wir freuen uns auf Ihre aussagekräftigen Bewerbungsunterlagen in elektronischer Form.

Patrick Hoening
P:
E: p.hoe