Vacancy Description
Deine Aufgaben
Du betreibst und entwickelst unseren LiteLLM-basierten LLM-Proxy kontinuierlich weiter und stellst Produktteams zuverlässigen, konsistenten Zugang zu LLM-Anbietern (Azure OpenAI, AWS Bedrock u. a.) bereit Du betreibst das Gateway als produktionskritischen Service, definierst SLOs, Provider-Failover und Rate-Limiting und übernimmst die Leitung im Incident ResponseDu stellst den Datenschutz am Gateway sicher – durch DSGVO-konformes Routing, EU-Datenresidenz, klare Grenzen der Auftragsverarbeitung durch Anbieter sowie den Umgang mit personenbezogenen Daten – und behältst die für KI im Bildungsbereich relevanten Vorgaben des EU AI Act im BlickDu berätst Produktteams frühzeitig zu Modellauswahl, Integrationsmustern und Prompt-Strategien und bringst dich ein, bevor Probleme in Produktion gelangenDu erstellst klare, praxisnahe Entwickler*innendokumentation und Best-Practice-Beispiele und unterstützt Te...
Ready to Apply?
अभी आवेदन करें
Submit your application for Platform Engineer (m/w/d) LLMOps/AI Infrastructure at Cornelsen Verlag GmbH
Apply for this Position