KI-Engineer – LLM & RAG; m​/w​/d

Stellenbezeichnung: KI-Engineer – LLM & RAG (m/w/d)
# KI-Engineer – LLM & RAG (m/w/d)
Karriere
13. Oktober 20261 Min. Lesezeit Du willst KI-Anwendungen bauen, die im Unternehmen wirklich genutzt werden, statt Demos, die nach der Präsentation verschwinden? Als KI-Engineer (m/w/d) entwickelst du bei ALGEBRA in Stuttgart LLM- und RAG-Lösungen für den Mittelstand: von der Wissenssuche über interne Dokumente bis zu KI-Agenten, die in bestehende Systeme eingreifen. Und zwar so, dass Datenschutz, Berechtigungen und Nachvollziehbarkeit von Anfang an stimmen.###

** DAFÜR KANNST DU DICH BEGEISTERN
*** Konzeption und Entwicklung von RAG-Systemen:
Dokumentenaufbereitung, Chunking, Embeddings, Hybrid-Suche und Reranking.
* Entwicklung von KI-Agenten, die über Schnittstellen und das Model Context Protocol (MCP) mit ERP, CRM, Dateiablagen und Datenbanken arbeiten.
* Betrieb offener Sprachmodelle im Rechenzentrum des Kunden oder in deutschen Clouds, wenn Daten das Haus nicht verlassen dürfen.
* Aufbau von Evaluierung und Monitoring:
Antwortqualität messen, Halluzinationen erkennen, Kosten und Latenz im Blick behalten.
* Umsetzung von Berechtigungskonzepten bis ins Retrieval und Berücksichtigung der

Anforderungen aus EU AI Act und DSGVO.
* Direkte Zusammenarbeit mit den Fachbereichen unserer Kunden, vom ersten Workshop bis zum produktiven Betrieb.###
** DAS MACHT DICH AUS
*** Mehrjährige Erfahrung in der Softwareentwicklung mit Python, idealerweise auch mit Java, Kotlin oder TypeScript.
* Praktische Erfahrung mit LLM-Anwendungen in Produktion, nicht nur mit Prompts im Chatfenster.
* Kenntnisse in Vektordatenbanken wie pgvector, Qdrant oder Milvus und in Frameworks wie Lang Chain oder Llama Index. Du weißt aber auch, wann man sie besser weglässt.
* Erfahrung mit Docker, REST-APIs und CI/CD, idealerweise auch mit Kubernetes oder Azure.
* Ein ehrlicher Blick auf Grenzen:
Du sagst einem Kunden auch, wenn ein Problem keine KI braucht.
* Sehr gute Deutsch- und gute Englischkenntnisse, denn du sprichst direkt mit Kunden.###
** DAS BIETEN WIR DIR
*** Echte Projekte mit echten Daten:
Du siehst, wie deine Lösung im Alltag des Kunden ankommt.
* Flache Hierarchien und kurze Entscheidungswege, du arbeitest direkt mit den Menschen, die die Lösung bauen.
* Gestaltungsspielraum bei Architektur und Werkzeugwahl, ohne Vorgaben aus einer fernen Konzernzentrale.
* Zeit und Budget, um neue Modelle und Werkzeuge auszuprobieren, bevor sie beim Kunden landen.
* Flexible Arbeitszeiten, hybrides Arbeiten mit Büro in Stuttgart und individuelle Weiterbildung.
** Klingt nach dir?
** Dann freuen wir uns auf deine Bewerbung an (Sie können sich bewerben oder uns per E-Mail kontaktieren in dem Sie die untenstehende Online-Bewerbungsbox verwenden) Lebenslauf und ein paar Sätze zu einem KI-Projekt, auf das du stolz bist, reichen uns für den Anfang.

Woran du bei uns konkret arbeitest, zeigt unsere Seite zu KI-Beratung und RAG-Systemen. Alle offenen Stellen findest du auf der Karriereseite.