Skip to content
×

KI-Entwickler LLM​/RAG​/Agenten – Python oder TypeScript; m​/w​/d

Job in Chicago, Cook County, Illinois, 60601, USA
Listing for: Rockstardevelopers GmbH
Full Time position Listed on 2026-11-06
Job specializations:
  • Software Development
    AI Engineer (Applied/Software)
Salary/Wage Range or Industry Benchmark: 120000 - 170000 USD Yearly USD 120000.00 170000.00 YEAR

Job Description & How to Apply Below

Position: KI-Entwickler LLM / RAG / Agenten – Python oder TypeScript (m/w/d)

Du baust KI-Anwendungen, die beim Kunden im Regelbetrieb laufen:
Dialogsysteme, semantische Suche, RAG-Pipelines, Agenten mit Werkzeuganbindung. Kein Prototyp für die Schublade.

Wer wir sind

Rockstardevelopers, gegründet 2015 in Mannheim, Büros in Stuttgart und München. Aus hunderten Projekten für Enterprise- und Mittelstandskunden wissen wir, wie man Software baut, die im Ernstfall trägt. Seit einer Weile verschiebt sich unser Schwerpunkt Richtung KI: LLM-Anwendungen, RAG, Agenten-Systeme, die beim Kunden produktiv gehen.

Worum es geht

Unsere Kunden sind die Deutsche Bahn und IT-Dienstleister im öffentlichen Sektor, ein reguliertes Umfeld mit hohen Ansprüchen an Datenschutz, EU AI Act und Betriebssicherheit. Dort baust du KI-Lösungen in bestehende Fachanwendungen ein. Projektsprache ist Deutsch. Der Alltag läuft remote-first, Kundentermine meist in Frankfurt am Main.

Unsere Kunden stellen diese Projekte fast nur mit Festangestellten besetzt. Deshalb suchen wir dich in Festanstellung.

Aufgaben
  • Sprachmodelle in Fachanwendungen integrieren: RAG mit Retrieval und Reranking, Tool-Calling, MCP-Server, Multi-Agent-Abläufe
  • Evaluierung aufbauen:
    Antwortqualität messen, Halluzinationen eingrenzen, Kosten und Token-Verbrauch im Griff behalten
  • Modelle auswählen und wechselbar halten (Azure AI Foundry, AWS Bedrock, offene Modelle), Governance und Datenschutz mitdenken
  • Betrieb:
    Container, CI/CD, Monitoring, Alerting
  • Enge Abstimmung mit Fachbereich, Architektur und Betrieb des Kunden
Das musst du mitbringen

Jeder Punkt muss im Lebenslauf nachweisbar sein.

  • Mindestens drei Jahre Softwareentwicklung in Python oder TypeScript, nach Ausbildung oder Studium
  • Mindestens eine LLM-Anwendung, die bei einem Kunden oder Arbeitgeber produktiv lief (RAG, Tool-Calling, Agenten), mit deinem Anteil daran
  • Docker, CI/CD und Git aus dem Projektalltag
  • Deutsch mindestens C1 in Wort und Schrift
Das bringst du idealerweise mit

Kein Muss, aber je mehr davon, desto besser:

  • Kubernetes oder Open Shift, Helm
  • MLOps-Werkzeuge (MLflow, Kubeflow, Model Serving) und klassisches ML im Produktivbetrieb
  • Vektordatenbanken, Embedding-Modelle, Reranker
  • Azure AI Foundry, AWS Bedrock oder Vertex AI
  • EU AI Act, ISO 27001, Barrierefreiheit
  • Erfahrung bei Bahn, Behörden oder Sozialversicherung
  • Prometheus und Grafana, ArgoCD, SAFe
Benefits
  • Echte Produktivprojekte. KI, die beim Kunden in Betrieb geht. Kein Innovation-Lab, keine Folien.
  • Remote-first in der DACH-Region. Gelegentlich vor Ort, ansonsten arbeitest du von dort, wo du gut arbeitest.
  • Internes Upskilling. Wir investieren in deine KI-Skills.
  • Mac Book
  • Flache Hierarchien. Die Gründer sind deine direkten Ansprechpartner.
To View & Apply for jobs on this site that accept applications from your location or country, tap the button below to make a Search.
(If this job is in fact in your jurisdiction, then you may be using a Proxy or VPN to access this site, and to progress further, you should change your connectivity to another mobile device or PC).

Search for further Jobs Here:

10 MILLION+ Job Search Platform:
(Try combinations for better Results! Or enter less keywords for broader Results)
Education Level
Experience Level (years)
Posted in last:
Salary