In één oogopslag
- Taken: Optimaliseer modellen en endpoints voor AI-toepassingen met geavanceerde technologieën.
- Bedrijf: Nebius, een toonaangevend bedrijf in cloudinfrastructuur voor de AI-economie.
- Voordelen: Competitieve beloning, groeikansen, flexibiliteit en een innovatieve cultuur.
- Overige informatie: Samenwerken met experts en bijdragen aan open-source projecten.
- Waarom deze baan: Werk aan impactvolle AI-projecten in een internationale omgeving met getalenteerde teams.
- Kwalificaties: Sterke vaardigheden in Python en PyTorch, ervaring met LLM-optimalisatie.
Het verwachte salaris ligt tussen 72000 - 88000 € per jaar.
Over Nebius: Nebius leidt een nieuw tijdperk in cloudinfrastructuur voor de wereldwijde AI-economie. We bouwen een full-stack AI-cloudplatform dat ontwikkelaars en bedrijven ondersteunt van data- en modeltraining tot productie-implementatie, zonder de kosten en complexiteit van het bouwen van grote interne AI/ML-infrastructuren. Gebouwd door ingenieurs, voor ingenieurs. Van grootschalige GPU-orchestratie tot inferentie-optimalisatie, wij bezitten de moeilijke problemen op het gebied van compute, opslag, netwerken en toegepaste AI.
De rol: Als Senior Machine Learning Engineer in het Applied AI-team bij Nebius Token Factory, ben je verantwoordelijk voor model- en eindpuntoptimalisatie van modelartefacten tot productie-implementatie. Je werk omvat modelinterne processen, kwantisatie en modelcompressie, speculatieve decodering, KV-cache-optimalisatie, inferentie-engines, serverarchitectuur en benchmarking om latentie, doorvoer, geheugenefficiëntie, GPU-utilisatie en kosten per token te verbeteren, terwijl kwaliteit en betrouwbaarheid behouden blijven.
Je verantwoordelijkheden:
- Eigen optimalisatieprojecten voor specifieke modelfamilies, klant-eindpunten of server-backends.
- Vergelijk inferentie-engines en adviseer serverconfiguraties die geschikt zijn voor individuele workloads.
- Diagnose van modelkwaliteit en prestatieregressies tijdens productie-implementaties.
- Verbeter LLM- en VLM-eindpuntlatentie, doorvoer, geheugenefficiëntie, GPU-utilisatie, kwaliteit en kosten per token.
- Implementeer, configureer, benchmark en breid engines uit zoals vLLM, SGLang, TensorRT-LLM, Triton Inference Server en NVIDIA Dynamo.
- Ontwikkel productie-modelcompressieworkflows die kwantisatie, kwantisatie-bewuste training, distillatie, low-bit serving en nauwkeurigheidsherstel omvatten.
- Implementeer of integreer speculatieve decodering, draft-modelbenaderingen, KV-cache-optimalisatie, prefix caching, chunked prefill, continue batching en gedisaggregeerde prefill/decode-serving.
- Ontwerp en verbeter LLM-aanvraagrouters en planningsbeleid die de benutting van werknemers, wachtrijen, aanvraagkenmerken en KV-cache-lokalisatie balanceren, terwijl ze voldoen aan latentie- en betrouwbaarheiddoelen.
- Schaal dichte en meng-experts inferentie over meerdere GPU-nodes.
- Bouw reproduceerbare benchmark-harnassen die TTFT, TPOT, tokens per seconde per GPU, p95/p99 latentie, GPU-geheugen, betrouwbaarheid en kosten per token meten.
- Valideer architectuurkeuzes onder representatief verkeer en consistente GPU-budgetten.
- Produceer ontwerpdokumenten, prestatieverslagen, implementatieplannen en technische uitleg voor klanten.
Must-haves:
- Sterke engineeringvaardigheden in Python en PyTorch.
- Praktische ervaring met het implementeren of optimaliseren van LLM, VLM of high-throughput transformer-inferentie.
- Een sterke kennis van ten minste één moderne inferentiestack, zoals vLLM, SGLang, TensorRT-LLM, Triton Inference Server, NVIDIA Dynamo, Ray Serve, KServe of een gelijkwaardig intern systeem.
- Een sterk begrip van bottlenecks in transformer-inferentie met betrekking tot KV-cache, aandacht, geheugendoorvoer, batching, parallelisme en long-context serving.
- Ervaring met het ontwerpen of optimaliseren van gedistribueerde inferentiesysteemarchitectuur.
- Sterke communicatie- en samenwerkingsvaardigheden.
Nice-to-haves:
- Ervaring met kwantisatie-bewuste training, post-training kwantisatie, FP8, INT8, INT4, NVFP4, MXFP4, AWQ, GPTQ of SmoothQuant.
- Bijdragen aan open-source projecten zoals vLLM, SGLang, TensorRT-LLM, FlashInfer, LMCache, PyTorch, Triton, Ray of KServe.
Voordelen & Voordelen:
- Competitieve compensatie
- Carrièregroei en leermogelijkheden
- Flexibiliteit en eigenaarschap
- Samenwerkende en innovatieve cultuur
- Kans om aan impactvolle AI-projecten te werken
- Internationale omgeving en getalenteerde teams
Aanvragers moeten gemachtigd zijn om te werken in het land waarin ze solliciteren en moeten bewijs van werkgeschiktheid kunnen overleggen als voorwaarde voor indiensttreding.
Senior Machine Learning Engineer, LLM Inference Optimization in Amsterdam werkgever: Nebius Group
Nebius is een uitstekende werkgever die zich richt op innovatie en samenwerking in de snelgroeiende cloudinfrastructuursector. Met een sterke focus op persoonlijke ontwikkeling en een inclusieve werkcultuur, biedt Nebius medewerkers de kans om te groeien binnen hun rol als Senior PM, terwijl ze bijdragen aan baanbrekende AI-projecten in het hart van Amsterdam. De unieke locatie en de dynamische werkomgeving maken het een aantrekkelijke plek voor professionals die betekenisvol en uitdagend werk zoeken.
Hupjob Expertadvies🤫
Zo denken wij dat je Senior Machine Learning Engineer, LLM Inference Optimization in Amsterdam kunt binnenhalen
✨Verken de Automatisering Gemeenschap
Sluit je aan bij lokale of online communities die zich richten op automatisering en regeltechniek. Neem deel aan discussies en vraag om advies; dit kan je een voorsprong geven bij het vinden van kansen en connecties die leiden tot een functie bij bedrijven zoals Nebius Group.
✨Deel je Projecten
Laat zien wat je kunt door je projecten en ervaringen te delen op platforms zoals GitHub of Behance. Dit laat toekomstige werkgevers zien wat je in huis hebt en kan ervoor zorgen dat Nebius Group jouw profiel opmerkt.
✨Neem deel aan Netwerkbijeenkomsten
Ga naar netwerkbijeenkomsten of seminars over automatisering en technologie. Deze evenementen zijn ideaal om professionals in het veld te ontmoeten en meer te leren over openstaande vacatures bij bedrijven zoals Nebius Group.
✨Bouw een Sterk Online Profiel
Zorg ervoor dat je LinkedIn-profiel indrukwekkend is en relevante projecten, certificaten en ervaringen benadrukt. Dit helpt je op de radar te komen bij recruiters van Nebius Group en helpt je om jezelf te onderscheiden in de competitieve markt.
Wij denken dat je deze vaardigheden nodig hebt om als Senior Machine Learning Engineer, LLM Inference Optimization in Amsterdam te schitteren
Een paar tips voor je sollicitatie 🫡
Benadruk je technische vaardigheden:In de automatisering en regeltechniek waardeert men technische vaardigheden enorm. Zorg ervoor dat je CV je ervaring met relevante software, programmeertalen en technologieën benadrukt. Laat ons zien waar je goed in bent!
Voeg projecten of cases toe:Heb je aan interessante automatiseringsprojecten gewerkt? Voeg voorbeelden van succesvol afgeronde projecten of case studies toe in je CV of motivatiebrief. Dit laat zien dat je niet alleen theoretische kennis hebt, maar ook praktische ervaring kunt toepassen.
Spreek je leergierigheid uit:In een fulltime rol in deze sector is het belangrijk om je bereidheid om te leren en jezelf te ontwikkelen aan te tonen. In je motivatiebrief kun je vertellen hoe je je vaardigheden tot nu toe hebt uitgebreid en waarom je deze kans bij Nebius Group zo waardevol vindt voor je ontwikkeling.
Organiseer je documenten overzichtelijk:Voor een fulltime functie is het essentieel om je CV en motivatiebrief overzichtelijk en goed gestructureerd te laten zijn. Zorg dat ze makkelijk te lezen zijn, gebruik duidelijk titels en bullets, en houd het professioneel. Maak het ons gemakkelijk om te zien waarom jij de juiste kandidaat bent voor Senior Machine Learning Engineer, LLM Inference Optimization bij Nebius Group.
Zo bereid je je voor op een sollicitatiegesprek bij Nebius Group
✨Ken de nieuwste automatiseringstools
Zorg ervoor dat je goed op de hoogte bent van de laatste ontwikkelingen in automatiseringstools die binnen jouw vakgebied worden gebruikt. Kun je bijvoorbeeld de voordelen uitleggen van tools zoals UiPath of Automation Anywhere? Dit laat zien dat je niet alleen technisch onderlegd bent, maar ook proactief je kennis bijhoudt.
✨Voorbereiding op technische vragen
Verwacht dat je technische vragen moet beantwoorden die specifiek zijn voor automatisering en regeltechniek. Dit kan bijvoorbeeld inhouden dat je situaties moet oplossen of je aanpak moet uitleggen voor het automatiseren van specifieke processen. Zorg ervoor dat je deze concepten goed begrijpt, zodat je helder kunt uitleggen hoe je ze zou toepassen.
✨Je ervaring met projecten delen
Aangezien het een fulltime functie betreft, willen ze weten over je ervaringen in eerdere projecten. Bereid een paar concrete voorbeelden voor waarin je betrokken was bij automatiseringsprojecten, de uitdagingen die je tegenkwam en hoe je die hebt overwonnen. Dit laat zien dat je niet alleen de theorie kent, maar ook echt praktijkervaring hebt.
✨Passie voor efficiëntie
Toon je enthousiasme voor efficiëntie en optimalisatie tijdens het interview. Deel waarom je gepassioneerd bent over automatisering en wat je motiveert in dit vakgebied. Dit kan je onderscheiden van andere kandidaten die misschien meer focussen op de technische aspecten alleen.
