Senior Deep Learning Software Engineer, Inference

NVIDIA zoekt een Senior Software Engineer die gespecialiseerd is in Deep Learning Inference voor ons groeiende team. Als een belangrijke bijdrager help je bij het ontwerpen, bouwen en optimaliseren van de GPU-geaccelererde software die de meest geavanceerde AI-toepassingen aandrijft. Ons team is verantwoordelijk voor het ontwikkelen en onderhouden van high-performance deep learning frameworks, waaronder SGLang en vLLM, die aan de voorhoede staan van efficiënte modelserving en inferentie op grote schaal. Je speelt een centrale rol in het verbeteren van deze platforms, waardoor een soepele implementatie en service van baanbrekende taalmodellen mogelijk wordt. Je werkt nauw samen met de deep learning-gemeenschap om de nieuwste algoritmen te implementeren voor openbare release in frameworks zoals SGLang en vLLM, evenals andere DL-frameworks. Je werk richt zich op het identificeren en stimuleren van prestatieverbeteringen voor state-of-the-art LLM- en Generative AI-modellen op NVIDIA-accelerators, van datacenter-GPU's tot edge SoCs. Je maakt gebruik van open-source tools en plugins— waaronder CUTLASS, OAI Triton, NCCL en CUDA-kernels— om modelserving-pijplijnen te implementeren en te optimaliseren.

Wat je gaat doen:

• Prestatie-optimalisatie, analyse en afstemming van DL-modellen in verschillende domeinen zoals LLM, Multimodaal en Generative AI.
• Prestatie van DL-modellen schalen over verschillende architecturen en types van NVIDIA-accelerators.
• Bijdragen aan functies en code voor NVIDIA’s inferentiebibliotheken, vLLM en SGLang, FlashInfer en LLM-softwareoplossingen.
• Werken met cross-collaboratieve teams over frameworks, NVIDIA-bibliotheken en innovatieve oplossingen voor inferentieoptimalisatie.

Wat we nodig hebben:

• Master of PhD of gelijkwaardige ervaring in een relevant vakgebied (Computer Engineering, Computer Science, EECS, AI).
• 5+ jaar relevante ervaring in softwareontwikkeling.
• Uitstekende C/C++ programmeer- en softwareontwerpvaardigheden.
• SW Agile-vaardigheden zijn nuttig en ervaring met Python is een plus.
• Eerdere ervaring met het trainen, implementeren of optimaliseren van de inferentie van DL-modellen in productie is een plus.
• Achtergrond in prestatiemodellering, profilering, debuggen en code-optimalisatie of architectonische kennis van CPU en GPU is een plus.

Manieren om op te vallen:

• Bijdragen aan Deep Learning Software-projecten, zoals PyTorch, vLLM en SGLang om vooruitgang in het veld te stimuleren.
• Ervaring met Multi-GPU-communicatie (NCCL, NVSHMEM).
• Ervaring met het bouwen en verzenden van producten naar zakelijke klanten.
• GPU-programmeerervaring (CUDA, OAI TRITON of CUTLASS).

NVIDIA staat aan de voorhoede van doorbraken in Kunstmatige Intelligentie, High-Performance Computing en Visualisatie. Onze teams bestaan uit gedreven, innovatieve professionals die zich inzetten om de grenzen van technologie te verleggen. We bieden zeer competitieve salarissen, een uitgebreid voordelenpakket en een werkomgeving die diversiteit, inclusie en flexibiliteit bevordert. Als een werkgever die gelijke kansen biedt, zijn we toegewijd aan het bevorderen van een ondersteunende en empowerende werkplek voor iedereen.

Je basissalaris wordt bepaald op basis van je locatie, ervaring en het salaris van werknemers in vergelijkbare posities. Voor Polen: Het basissalaris ligt tussen 221.250 PLN - 383.500 PLN voor Niveau 3, en 292.500 PLN - 507.000 PLN voor Niveau 4.