- Wähle passende Modelle aus, adaptiere und fine-tune sie für die Signal- und Sprachverarbeitung, darunter CNN- und Transformer-Architekturen, State-Space-Modelle und End-to-End-ASR
- Optimiere die Inferenz durch Quantisierung, Pruning, Kernel-Fusion, Batching-Strategien, Mixed Precision, TorchScript/torch.compile sowie den Export nach ONNX/TensorRT
- Implementiere performante Inferenzpfade mit PyTorch und LibTorch (PyTorch C++)
- Deploye und betreibe Modelle im NVIDIA Triton Inference Server, inklusive Model Repository, Ensembles, Business Logic Scripting, Dynamic Batching und eigener Backends
- Baue die Verarbeitungsketten rund um die Modelle auf, von Signal-Preprocessing und Feature-Extraktion über Streaming-Pipelines bis hin zu Pre- und Post-Processing
- Überführe Prototypen bis zur Marktreife, kümmere dich um Benchmarking, Profiling, Testabdeckung, Reproduzierbarkeit, Monitoring und Modellversionierung, arbeite eng mit Systemarchitektur und Produktmanagement zusammen und bewerte neue Verfahren und Werkzeuge hinsichtlich ihrer praktischen Eignung für unsere Performance-Ziele
Ihre E-Mail-Jobbenachrichtigung ist jetzt aktiv!
