In één oogopslag
- Taken: Leid onderzoek naar efficiënte LLM en VLM inferentie en ontwikkel prototypes.
- Bedrijf: Nebius, een toonaangevend bedrijf in cloudinfrastructuur voor AI.
- Voordelen: Uitgebreide gezondheidszorg, 401(k) met matching, en flexibele werkopties.
- Overige informatie: Internationale omgeving met getalenteerde teams en een innovatieve cultuur.
- Waarom deze baan: Werk aan baanbrekende AI-projecten met echte impact en groei mogelijkheden.
- Kwalificaties: PhD in computerwetenschappen of gerelateerde disciplines en sterke Python vaardigheden.
Nebius is leidend in een nieuw tijdperk van cloudinfrastructuur voor de wereldwijde AI-economie. We bouwen een full-stack AI-cloudplatform dat ontwikkelaars en bedrijven ondersteunt van data- en modeltraining tot productie-implementatie, zonder de kosten en complexiteit van het bouwen van grote interne AI/ML-infrastructuren. Gebouwd door ingenieurs, voor ingenieurs.
Nebius Token Factory is op zoek naar wetenschappers die grensverleggende LLM- en VLM-inferentieknelpunten kunnen omzetten in onderzoeksvragen, rigoureuze experimenten kunnen uitvoeren en hun bevindingen kunnen vertalen naar productiecapaciteiten.
Taken:
- Leiden van onderzoeksprojecten in efficiënte LLM- en VLM-inferentie, van hypothesen en experimenten tot ablaties, prototypes en overdracht naar productie.
- Ontwikkelen en evalueren van methoden die kwantisatie, kwantisatie-bewuste training (QAT), distillatie, speculatieve decodering, KV-cache-hergebruik, KV-cache-compressie, lange-context-inferentie, MoE-routering en model/runtime co-optimalisatie omvatten.
- Bouwen van prototypes met PyTorch, Triton, CUDA-gerelateerde tools of inferentie-serveerframeworks, en samenwerken met MLE's en platformingenieurs om deze om te zetten in productiecomponenten.
- Onderzoeken van LLM-verzoekroutering en planningsstrategieën, inclusief cache-bewuste load balancing en prefill–decode disaggregatie (PDD).
- Evalueren hoe wachtrijen, KV-cache-overdracht, werkplaatsing en prefill/decode-capaciteitsallocatie invloed hebben op latentie, doorvoer en serveerkosten.
- Onderzoeken van multi-node inferentie voor dichte en mengvormige-expertsmodellen, inclusief brede expertparallelisme (WideEP).
- Studeren van expertplaatsing, belastingonevenwichtigheid en computationele/communicatie trade-offs, en de bevindingen gebruiken om model- en systeemarchitectuurkeuzes te begeleiden.
- Ontwikkelen van rigoureuze evaluaties die kwaliteit, latentie, doorvoer, numerieke stabiliteit, geheugengebruik, tail-latentie en kosten per token dekken.
- Vergelijken van serveerarchitecturen onder consistente werklastomstandigheden en GPU-budgetten.
- Samenwerken met MLE, GPU-kernel, backend-infrastructuur, product- en klantteams om onderzoeksprioriteiten met meetbare productie-impact te selecteren.
- Resultaten delen via interne rapporten, technische blogs, artikelen en open-source artefacten, en ingenieurs en wetenschappers begeleiden in experimenteel ontwerp, wetenschappelijke nauwkeurigheid en model/systeem trade-offs.
Vereisten:
- Een PhD in computerwetenschappen, machine learning, ML-systemen, computersystemen, computerarchitectuur, elektrotechniek, toegepaste wiskunde of een nauw verwante discipline.
- Een sterke publicatierecord of equivalente onderzoeksartefacten in ML, ML-systemen, efficiënte inferentie, modelcompressie, kwantisatie, distillatie, serveersystemen of gerelateerde gebieden.
- Sterke Python- en PyTorch-implementatievaardigheden, met het vermogen om ideeën om te zetten in experimenten en werkende prototypes.
- Diepe kennis van LLM's, VLM's, transformer-inferentie, decoderingalgoritmen, modelcompressie, kwantisatie en productie-serveer trade-offs.
- Sterke vaardigheden in experimenteel ontwerp die ablaties, baselines, metrics, statistische redenering en foutanalyse dekken.
- Uitstekende schriftelijke en mondelinge communicatie.
Voorkeur:
- Eerste-auteur publicaties op venues zoals NeurIPS, ICML, ICLR, MLSys, ACL, EMNLP, ASPLOS, OSDI, SOSP, ISCA of HPCA.
- Ervaring met het implementeren van ML-modellen of inferentie-optimalisaties in productie.
- Ervaring met vLLM, SGLang, TensorRT-LLM, NVIDIA Dynamo, FlashAttention, FlashInfer, Triton, CUDA of PyTorch-internals.
- Ervaring met het toepassen van post-training, SFT, DPO, RLHF, RLAIF, voorkeuroptimalisatie of synthetische gegevensgeneratie op inferentiekwaliteit of efficiëntie.
- Open-source onderzoeksartefacten, veelgebruikte benchmarks, technische blogs of uitgenodigde lezingen die bijdragen aan efficiënte AI-systemen aantonen.
- Onderzoek of implementatie-ervaring in een of meer gebieden van gedistribueerde inferentiesysteemarchitectuur, zoals LLM-verzoekroutering, PDD, multi-node serving of MoE-expertparallelisme, inclusief WideEP.
Voorwaarden:
- Zorgverzekering: 100% door het bedrijf betaalde medische, tandheelkundige en visuele dekking voor werknemers en gezinnen.
- 401(k) plan: Tot 4% bedrijfsbijdrage met onmiddellijke vestiging.
- Ouderschapsverlof: 20 weken betaald voor primaire verzorgers, 12 weken voor secundaire verzorgers.
- Vergoeding voor thuiswerken: Tot $85/maand voor mobiel en internet.
- Arbeidsongeschiktheid & levensverzekering: Door het bedrijf betaalde kortlopende, langlopende en levensverzekeringsdekking.
- Wij bieden concurrerende compensatie- en voordelenpakketten.
- Basiscompensatiebereik $195,200 — $262,200 USD.
- Concurrerende compensatie.
- Carrièregroei en leermogelijkheden.
- Flexibiliteit en eigenaarschap.
- Samenwerkende en innovatieve cultuur.
- Kans om aan impactvolle AI-projecten te werken.
- Internationale omgeving en getalenteerde teams.
- Snel bewegend - Gedurfde denkwijze - Constante groei - Betekenisvolle impact - Vertrouwen en echt eigenaarschap - Kans om de toekomst van AI vorm te geven.
Applied scientist in efficient LLM inference in Amsterdam werkgever: Nebius
Nebius is een uitstekende werkgever die zich richt op innovatie en samenwerking in de snelgroeiende AI-cloudsector. Met een sterke focus op de ontwikkeling van medewerkers, biedt Nebius unieke groeikansen en een stimulerende werkomgeving waar creativiteit en technische expertise worden gewaardeerd. Werken bij Nebius betekent deel uitmaken van een dynamisch team dat zich inzet voor betrouwbaarheid en schaalbaarheid, terwijl je bijdraagt aan een platform dat de toekomst van technologie vormgeeft.
Hupjob Expertadvies🤫
Zo denken wij dat je Applied scientist in efficient LLM inference in Amsterdam kunt binnenhalen
✨Duik in de Data Science Communities
Data science draait om kennis delen en leren van elkaar. Sluit je aan bij online communities zoals Kaggle, GitHub en Stack Overflow. Deel je projectwerk en leer van anderen – dit kan leiden tot waardevolle connecties en zelfs een sollicitatie bij Nebius!
✨Neem deel aan Hackathons
Hackathons zijn een geweldige manier om je vaardigheden in de praktijk te brengen en jezelf te laten zien. Veel bedrijven, waaronder Nebius, zoeken kandidaten die hun creativiteit en probleemoplossend vermogen kunnen demonstreren. Maak gebruik van deze evenementen om je netwerk uit te breiden.
✨Show je Expertise met Projecten
Laat je skills zien met een publiek portfolio! Zorg ervoor dat je een paar interessante projecten hebt die jouw datavisualisatie, statistiek en machine learning vaardigheden tonen. Plaats ze op platforms zoals GitHub of je eigen website – zo laat je zien wat je kan bij Nebius.
✨Pas je Sollicitatie aan voor Geschiktheid
Bij fulltime data science functies is het belangrijk om je sollicitatie specifiek te maken voor de rol bij Nebius. Kijk goed naar de vereisten en match je vaardigheden en ervaring aan wat zij zoeken. Dit maakt het veel waarschijnlijker dat ze jou uitnodigen voor een gesprek!
Wij denken dat je deze vaardigheden nodig hebt om als Applied scientist in efficient LLM inference in Amsterdam te schitteren
Een paar tips voor je sollicitatie 🫡
Laat je technische vaardigheden zien!:In de data-science wereld willen we je technische bekwaamheden echt zien. Zorg ervoor dat je kennis van programmeertalen zoals Python of R, evenals je ervaring met data-analysetools en -technieken, duidelijk naar voren komen in je CV. Dit is een kans om je talenten in statistiek en machine learning te benadrukken, zodat Nebius ziet dat jij hun ideale kandidaat bent!
Geef je projecten een spotlight:Vergeet niet om eventuele data-projecten of analyses die je al hebt uitgevoerd op te nemen. Heb je bijvoorbeeld een GitHub-account? Voeg dat toe! Dit is een toffe manier om je praktische ervaring te laten zien, wat de recruiter van Nebius echt zal aanspreken. Laat zien hoe je problemen hebt opgelost en dat je in staat bent om inzichten uit data te halen!
Wees duidelijk over je doelen:Aangezien het om een fulltime rol gaat, is het belangrijk dat je in je motivatiebrief je doelen en ambities duidelijk maakt. Wat hoop je te leren en te bereiken in deze functie bij Nebius? Laat zien dat je niet alleen geïnteresseerd bent in de functie, maar ook in wat je kunt bijdragen aan het team en het bedrijf.
Ondersteun je ervaring met data:Naast je technische vaardigheden, is het ook cruciaal om je eerdere ervaring te onderbouwen met concrete resultaten. Heb je analyses uitgevoerd die hebben geleid tot verbetering van processen of het nemen van strategische beslissingen? Geef cijfers en voorbeelden in je CV en motivatiebrief, zodat Nebius ziet dat je kennis van data echt impact heeft gehad.
Zo bereid je je voor op een sollicitatiegesprek bij Nebius
✨Show je dataskills
Zorg ervoor dat je goed voorbereid bent op technische vragen die je dataskills testen. Bereid je voor op vragen over data-analyse, statistiek en machine learning. Wij moeten ook kunnen zien dat je vertrouwd bent met tools zoals Python, R of SQL.
✨Breng je portfolio mee
Als data scientist is je portfolio cruciaal. Zorg ervoor dat je een aantal projecten hebt waar je trots op bent en die je kunt presenteren. Leg de nadruk op wat je hebt geleerd en hoe je de resultaten hebt toegepast. Dit laat zien dat je niet alleen kennis hebt, maar ook de toepassing ervan begrijpt.
✨Ken de data van Nebius
Neem de tijd om inzicht te krijgen in de datasets waar Nebius mee werkt. Dit kan je helpen om tijdens het gesprek specifieke voorbeelden te geven van hoe jouw vaardigheden en ervaring aansluiten bij hun behoeften. Dit toont niet alleen jouw interesse, maar ook dat je al nadenkt over hoe je een bijdrage kunt leveren.
✨Leef je in in de business case
Tijdens de interviews kunnen ze je vragen om een business case te analyseren of oplossingen voor te stellen op basis van gegevens. Dit is een kans om je analytische vaardigheden te laten zien, dus zorg ervoor dat je niet alleen de technische kanten belicht, maar ook hoe jouw aanpak waarde toevoegt aan het bedrijf.
