Masterarbeit: Kausale Foundation-Modelle für Enterprise Intelligence (w/m/div.)

Große Sprachmodelle (Large Language Models, LLMs) haben die Verarbeitung natürlicher Sprache revolutioniert, verfügen jedoch nicht über ein echtes Verständnis von Ursache und Wirkung. Diese Einschränkung stellt eine wesentliche Hürde für ihren Einsatz in sicherheits- und geschäftskritischen industriellen Anwendungsfeldern dar, in denen das Verständnis des „Warum“ hinter einem Ereignis entscheidend ist. Tabellarische Foundation Models, insbesondere Prior-Fitted Networks (PFNs), die auf synthetischen Daten trainiert werden, um den Bedarf an großen Mengen realer Daten zu reduzieren, haben in Klassifikations- und Regressionsaufgaben eine Leistung auf dem Stand der Technik gezeigt. Ihre Anwendung auf kausale Aufgaben wurde jedoch bislang kaum untersucht.

Ziel Ihrer Abschlussarbeit ist es, die Leistungsfähigkeit von Foundation Models mit funktionalen kausalen Modellen zu kombinieren, um Aufgaben der kausalen Inferenz für Unternehmensanwendungen bei Bosch zu lösen. Sie führen eine umfassende Literaturrecherche zum aktuellen Stand der Forschung zu Foundation Models und deren Anwendung in der kausalen Inferenz durch. Darüber hinaus entwickeln Sie neue Methoden für foundation-model-basierte kausale Aufgaben mit Schwerpunkt auf Root-Cause-Analyse und testen diese anhand wissenschaftlicher Benchmarks sowie an praxisnahen Anwendungsfällen bei Bosch. Zusätzlich arbeiten und kooperieren Sie in einem globalen Forschungsteam. Idealerweise mündet Ihre Arbeit in einer wissenschaftlichen Publikation.

• Ausbildung: Masterstudium im Bereich Informatik oder vergleichbar; Bachelorabschluss in Informatik
• Erfahrung und Kenntnisse:
• Sehr guter akademischer Hintergrund in Machine Learning und Natural Language Processing (NLP)
• Fundiertes Verständnis von Foundation Models und Transformer-Architekturen
• Praktische Erfahrung mit Deep-Learning-Frameworks (z. B. PyTorch, TensorFlow)
• Kenntnisse in Graph-Datenstrukturen, Graph Neural Networks und verwandten Konzepten sind von Vorteil
• Persönlichkeit und Arbeitsweise: Sie sind eine motivierte, forschungsorientierte Person und lösen Probleme proaktiv sowie eigenständig
• Arbeitsroutine: Eine teilweise Anwesenheit vor Ort ist erforderlich
• Begeisterung: Ausgeprägtes Interesse an der Lösung von Problemstellungen
• Sprachen: Verhandlungssicheres Englisch in Wort und Schrift