In één oogopslag
- Taken: Ontwerpen en optimaliseren van LLM-inferentieworkloads op krachtige GPU-infrastructuur.
- Bedrijf: Vooruitstrevend technologiebedrijf dat een Sovereign AI Platform ontwikkelt.
- Voordelen: Competitief salaris, flexibele werkopties en kansen voor professionele groei.
- Overige informatie: Uitstekende mogelijkheden voor carrièreontwikkeling in een technische rol.
- Waarom deze baan: Werk aan baanbrekende AI-projecten en maak impact in een dynamische omgeving.
- Kwalificaties: Ervaring met AI/ML-platforms en GPU-optimalisatie vereist.
Het verwachte salaris ligt tussen 100 - 100 € per uur.
Ben je een ervaren AI/ML Engineer die gespecialiseerd is in LLM-inferentie, GPU-optimalisatie en productie-AI-infrastructuur? We ondersteunen een grote Europese technologieorganisatie bij het ontwikkelen van een Soeverein AI-platform, waarmee bedrijven grote taalmodellen veilig kunnen implementeren en draaien op speciale GPU-infrastructuur zonder afhankelijk te zijn van publieke cloud hyperscalers.
Dit is een zeer technische, praktische kans die zich richt op LLM-serving, inferentie-optimalisatie, GPU-prestatiebenchmarking en AI-modelimplementatie binnen veilige, enterprise-schaal omgevingen. Je speelt een sleutelrol in het bepalen hoe AI-modellen worden geïmplementeerd, geoptimaliseerd en geschaald over high-performance GPU-infrastructuur.
Wat je gaat doen:
- Ontwerpen en optimaliseren van productie LLM-inferentieworkloads met behulp van vLLM of vergelijkbare serving frameworks.
- Benchmarken van AI-modelprestaties op NVIDIA H200 GPU-infrastructuur, inclusief multi-GPU-configuraties.
- Optimaliseren van inferentie-throughput, latentie, gelijktijdigheid en GPU-gebruik.
- Evalueren van tensorparallelisme, KV-caching, batching, prefix-caching en intelligente verzoekroutering.
- Ontwikkelen van prestatiebenchmarking-frameworks om modelkwaliteit, capaciteit en hardwarevereisten te beoordelen.
- Evalueren van open-gewicht LLM's, inclusief kwantisatietechnieken zoals FP8, INT8 en NVFP4.
- Ontwerpen van modelinvoer/-uitvoerfiltering en AI-veiligheidsmaatregelen voor veilige enterprise-implementaties.
- Werken met Kubernetes en Python ter ondersteuning van schaalbare AI-inferentieomgevingen.
Wat we zoeken:
- Sterke praktische ervaring met het ontwikkelen en opereren van enterprise AI/ML-platforms.
- Productie-ervaring met het implementeren en optimaliseren van LLM-inferentie op GPU's, bij voorkeur met vLLM.
- Diepgaand begrip van inferentie-optimalisatie, KV-cache, batching, kwantisatie en GPU-geheugenbeheer.
- Ervaring met het benchmarken van LLM-prestaties, inclusief throughput, time-to-first-token en gelijktijdigheid.
- Werkkennis van Kubernetes en gecontaineriseerde AI-workloads.
- Ervaring met het documenteren van technische ontwerpeisen en prestatiebevindingen.
- Comfortabel met het presenteren van technische bevindingen aan engineeringteams en belanghebbenden.
Aangenaam om te hebben:
- NVIDIA H100/H200 of vergelijkbare GPU-infrastructuur.
- KServe, llm-d of andere gedistribueerde LLM-serving frameworks.
- AMD ROCm en heterogene GPU-omgevingen.
- MLflow, modelevaluatie of benchmarking-frameworks.
- AI-veiligheid, inhoudsfiltering en veiligheidsmodellen.
- Ervaring met het ondersteunen van soevereine, private cloud of gereguleerde AI-omgevingen.
Waarom deze kans overwegen?
Je werkt op het snijvlak van AI Engineering, GPU-infrastructuur en High-Performance Computing, en helpt bij het bouwen van een productieklare AI-platform dat is ontworpen voor veeleisende enterprise-werkbelastingen. Dit is een kans om echte verantwoordelijkheid te nemen voor inferentieprestaties, modelselectie en GPU-capaciteitsplanning, in plaats van simpelweg LLM-API's in toepassingen te integreren.
Senior AI Inference Engineer in Amstelveen werkgever: Empiric
Als Software Metrics Officer bij ons bedrijf krijg je de kans om te werken in een dynamische en innovatieve omgeving waar data-analyse en continue verbetering centraal staan. We bieden een stimulerende werkcultuur die samenwerking en professionele groei bevordert, met toegang tot trainingen en certificeringen die je vaardigheden verder ontwikkelen. Onze locatie biedt niet alleen een inspirerende werkomgeving, maar ook flexibele werkopties en een sterke focus op werk-privébalans, waardoor je een waardevolle bijdrage kunt leveren aan ons team en tegelijkertijd je persoonlijke doelen kunt nastreven.
Hupjob Expertadvies🤫
Zo denken wij dat je Senior AI Inference Engineer in Amstelveen kunt binnenhalen
✨Verken de Automatisering Gemeenschap
Sluit je aan bij lokale of online communities die zich richten op automatisering en regeltechniek. Neem deel aan discussies en vraag om advies; dit kan je een voorsprong geven bij het vinden van kansen en connecties die leiden tot een functie bij bedrijven zoals Empiric.
✨Deel je Projecten
Laat zien wat je kunt door je projecten en ervaringen te delen op platforms zoals GitHub of Behance. Dit laat toekomstige werkgevers zien wat je in huis hebt en kan ervoor zorgen dat Empiric jouw profiel opmerkt.
✨Neem deel aan Netwerkbijeenkomsten
Ga naar netwerkbijeenkomsten of seminars over automatisering en technologie. Deze evenementen zijn ideaal om professionals in het veld te ontmoeten en meer te leren over openstaande vacatures bij bedrijven zoals Empiric.
✨Bouw een Sterk Online Profiel
Zorg ervoor dat je LinkedIn-profiel indrukwekkend is en relevante projecten, certificaten en ervaringen benadrukt. Dit helpt je op de radar te komen bij recruiters van Empiric en helpt je om jezelf te onderscheiden in de competitieve markt.
Wij denken dat je deze vaardigheden nodig hebt om als Senior AI Inference Engineer in Amstelveen te schitteren
Een paar tips voor je sollicitatie 🫡
Benadruk je technische vaardigheden:In de automatisering en regeltechniek waardeert men technische vaardigheden enorm. Zorg ervoor dat je CV je ervaring met relevante software, programmeertalen en technologieën benadrukt. Laat ons zien waar je goed in bent!
Voeg projecten of cases toe:Heb je aan interessante automatiseringsprojecten gewerkt? Voeg voorbeelden van succesvol afgeronde projecten of case studies toe in je CV of motivatiebrief. Dit laat zien dat je niet alleen theoretische kennis hebt, maar ook praktische ervaring kunt toepassen.
Spreek je leergierigheid uit:In een fulltime rol in deze sector is het belangrijk om je bereidheid om te leren en jezelf te ontwikkelen aan te tonen. In je motivatiebrief kun je vertellen hoe je je vaardigheden tot nu toe hebt uitgebreid en waarom je deze kans bij Empiric zo waardevol vindt voor je ontwikkeling.
Organiseer je documenten overzichtelijk:Voor een fulltime functie is het essentieel om je CV en motivatiebrief overzichtelijk en goed gestructureerd te laten zijn. Zorg dat ze makkelijk te lezen zijn, gebruik duidelijk titels en bullets, en houd het professioneel. Maak het ons gemakkelijk om te zien waarom jij de juiste kandidaat bent voor Senior AI Inference Engineer bij Empiric.
Zo bereid je je voor op een sollicitatiegesprek bij Empiric
✨Ken de nieuwste automatiseringstools
Zorg ervoor dat je goed op de hoogte bent van de laatste ontwikkelingen in automatiseringstools die binnen jouw vakgebied worden gebruikt. Kun je bijvoorbeeld de voordelen uitleggen van tools zoals UiPath of Automation Anywhere? Dit laat zien dat je niet alleen technisch onderlegd bent, maar ook proactief je kennis bijhoudt.
✨Voorbereiding op technische vragen
Verwacht dat je technische vragen moet beantwoorden die specifiek zijn voor automatisering en regeltechniek. Dit kan bijvoorbeeld inhouden dat je situaties moet oplossen of je aanpak moet uitleggen voor het automatiseren van specifieke processen. Zorg ervoor dat je deze concepten goed begrijpt, zodat je helder kunt uitleggen hoe je ze zou toepassen.
✨Je ervaring met projecten delen
Aangezien het een fulltime functie betreft, willen ze weten over je ervaringen in eerdere projecten. Bereid een paar concrete voorbeelden voor waarin je betrokken was bij automatiseringsprojecten, de uitdagingen die je tegenkwam en hoe je die hebt overwonnen. Dit laat zien dat je niet alleen de theorie kent, maar ook echt praktijkervaring hebt.
✨Passie voor efficiëntie
Toon je enthousiasme voor efficiëntie en optimalisatie tijdens het interview. Deel waarom je gepassioneerd bent over automatisering en wat je motiveert in dit vakgebied. Dit kan je onderscheiden van andere kandidaten die misschien meer focussen op de technische aspecten alleen.
