- Du entwickelst und betreibst unsere souveräne LLM-Plattform inklusive OpenAI-kompatiblem Gateway, Modell-Serving und GPU-Infrastruktur
- Du implementierst kundenspezifische Wissensanbindungen (RAG) mit Vector-Datenbanken, Embeddings und Reranking
- Du stellst Kostenkontrolle, Mandantentrennung, Datenschutz und Guardrails sicher
- Du etablierst Monitoring und Observability für Performance, Qualität und Nutzung der KI-Dienste
- Du betreibst und entwickelst unsere containerbasierte Plattform auf Basis von Docker, Coolify und Kubernetes weiter
- Du automatisierst Deployments und verantwortest CI/CD-Prozesse für unsere Eigenentwicklungen
- Du betreust unsere Linux-, Cloud- und Datenbank-Infrastruktur und sorgst für Stabilität, Sicherheit und Verfügbarkeit
- Du baust Monitoring-, Logging- und Alerting-Lösungen auf und entwickelst diese weiter
- Du gestaltest die Architektur unserer Plattform- und KI-Services aktiv mit
- Du etablierst Infrastructure as Code und standardisierte Deployment-Prozesse
- Du sorgst für datenschutzkonforme und mandantensichere Betriebsmodelle
- Du dokumentierst Lösungen, teilst Wissen im Team und evaluierst neue Technologien im Bereich Platform Engineering und KI