Senior Software Engineer - Secure AI service

Senior Software Engineer – Sicherer KI-Dienst bei Edgeless Systems

Hallo, wir sind Edgeless Systems

Wir sind ein schnell wachsendes Cybersecurity-Startup. Werde Teil unseres Teams und entwickle mit uns die nächste Generation sicherer KI- und Cloud-Software. Erkunde zukunftsweisende Technologien wie Confidential Computing und wachse gemeinsam mit einem erstklassigen Team.

Privatemode AI ist unsere sichere Alternative zu ChatGPT. Es ermöglicht KI-Workflows mit sensiblen Daten, indem alle Daten – selbst während der Verarbeitung – mit Confidential Computing verschlüsselt bleiben. Du kannst Privatemode über eine benutzerfreundliche App oder eine vollständig OpenAI-kompatible API nutzen.

Überzeug dich selbst:
Ein Großteil unseres Codes ist auf Git Hub verfügbar.

• API:
  Go, Kubernetes
• RAG:
  Python, Qdrant
• Model Hosting:
  Python, vLLM
• Skalierung:
  Pipeline-/Tensor-Parallelismus, optimiert für Nvidia H100 und B200

• Erweiterung unserer OpenAI-kompatiblen API und vertraulichen Verarbeitungs-Stacks
• Entwicklung von RAG-Funktionalitäten, Embedding-Pipelines und Agent-Logik
• Hosting und Performance-Optimierung moderner Open-Source-LLMs
• Skalierung von Modellen durch Parallelisierung und effiziente GPU-Orchestrierung
• CI/CD-Automatisierung und Dokumentation
• Prototyping und Umsetzung neuer Ideen
• Als Senior Software Engineer unterstützt du zudem weniger erfahrene Teammitglieder in ihrer Weiterentwicklung.

• Herausragende technische Fähigkeiten besitzen
• Erfahrung in einem relevanten Teil unseres Tech-Stacks mitbringen
• Begeistert von den Herausforderungen eines schnelllebigen, innovativen Startup-Umfelds
• Erfahrung in professionellen agilen Software-Entwicklungspraktiken haben
• Intrinsisch motiviert sind, qualitativ hochwertige Arbeit zu liefern

• Wettbewerbsfähige Vergütung (Gehalt und Aktienoptionen)
• Möglichkeit, in einem exzellenten Team zu lernen und zu wachsen
• Flexible Arbeitsmodelle – remote oder in unseren Büros in Bochum und Berlin
• Spannende Aufgaben in einem dynamischen Umfeld

Mid-Senior level

Full-time

Information Technology

Software Development