Senior or Staff Software Engineer, Inference / Compute Infrastructure Engineering in Amsterdam

We zijn op zoek naar een Software Engineer om de systemen te bouwen die infrastructuur als software behandelen. Deze rol is verantwoordelijk voor de software toestandsmachines die hardware provisioneren, in gebruik nemen en het volledige levenscyclusbeheer beheren, waarbij racks met GPU's worden omgevormd tot draaiende inferentieclusters zonder dat een mens een runbook aanraakt.

Het Research and Inference-team is jouw klant: vandaag de dag dienen ze tickets in en wachten ze; de doeltoestand is dat ze een enkele API-aanroep doen om een cluster op te zetten, te schalen of af te breken, en het systeem zorgt voor de rest. Het platform is manifest-gedreven, zodat teams de gewenste staat van een cluster of host kunnen declareren - vorm, topologie, softwarestack - en het systeem verantwoordelijk is voor het continu reconciliëren van de werkelijkheid met dat manifest, door elke fase van de levenscyclus heen.

Je zult de engines ontwerpen die het schema manifesteren, de engines die tegen het schema uitvoeren, en de workflows die een stuk hardware of een cluster van de ene staat naar de andere brengen, van bare metal naar een volledig functionerend AI-cluster voor training of inferentie.

Je schrijft productiecodedie getypeerd, getest, versiebeheer en geïmplementeerd is via CI/CD, die de infrastructuurstatus modelleert en deze reconciliëert, net zoals een Kubernetes-controller de gewenste status van een cluster reconciliëert. Succes betekent het elimineren van handmatige provisioningwerkzaamheden, niet het beter documenteren ervan.

Verantwoordelijkheden

• Bouw de provisioning toestandsmachine: ontwerp en implementeer de software die de volledige levenscyclus van een fysiek host modelleert van ontdekking, inferentie-opbouw tot GPU-driver/CUDA-stack, gezondheidsvalidatie en decommissionering/RMA als expliciete, versiebeheerde staten en overgangen.
• Bouw de self-service API: ontwerp declaratieve API's en een controlepaneel zodat het inferentieteam inferentieclusters kan aanvragen, schalen en afbreken met één API-aanroep - geen ticket, geen mens in de lus.
• Automatiseer zelfherstel: detecteer gedegradeerde of defecte knooppunten, drain ze veilig, trigger reparatie of vervanging, en introduceer automatisch gezonde capaciteit terug in de pool.
• Beheer de betrouwbaarheid van de pijplijn: idempotentie, herhalingen, rollback en driftdetectie zodat het provisioning systeem net zo betrouwbaar is als elke andere productie service.
• Werk samen met het inferentie/ML-platformteam: begrijp de cluster vormen die ze nodig hebben - topologie, interconnectie, planningsbeperkingen - en codeer ze als eersteklas abstracties in het platform.
• Engineer het als software: sterke typing, geautomatiseerde tests, code review, versiebeheer en CI/CD voor infrastructuurcode dit is een product, geen verzameling Ansible-playbooks.

Eisen

• Sterke software engineering achtergrond in Go, Python, Rust of vergelijkbaar - je schrijft en test echte software voor je werk.
• Ervaring met duurzame workflow-orchestratie tools zoals Temporal, Cadence of gelijkwaardig om langdurige, manifest-gedreven workflows uit te voeren die falen overleven en halverwege de uitvoering hervatten.
• Ervaring met het bouwen van software controlepanelen of orchestratiesystemen die status modelleren en deze in de loop van de tijd reconciliëren (bijv. Kubernetes controllers/operators, aangepaste reconciliatielussen, workflow-engines).
• Ervaring met event-driven systemen - het ontwerpen en bouwen van software rond berichtenqueues, evenementstromen of pub/sub (bijv. Kafka, NATS, SQS) in plaats van polling of cron-gestuurde scripts.
• Een product mindset. Je hebt interne platforms of API's gebouwd die door andere engineeringteams worden gebruikt en geeft om de ontwikkelaarservaring van wat je levert.

Aanvullende vereisten

• Ervaring met bare-metal provisioning (PXE/iPXE, Redfish/IPMI, BMC) en/of netwerktechnische basisprincipes (VLAN's, BGP, fabric ontwerp), of GPU/accelerator infrastructuur.
• Ervaring met GPU-cluster software stacks (NCCL, CUDA, InfiniBand/RoCE).
• Eerdere ervaring bij een hyperscaler, GPU-cloud of datacenter-schaal infrastructuurorganisatie.
• Systeemprogrammering in Rust of Go.

Over Together AI

Together AI, de AI Native Cloud, is speciaal gebouwd voor AI-engineers. AI-toepassingsontwikkelaars krijgen hoge prestaties inferentie die betrouwbaar schaalt, fine-tuning en reinforcement learning voor het creëren van grensniveau gespecialiseerde modellen, en pre-training op enorme schaal voor volledig aangepaste intelligentie, allemaal rond een marktplaats van toonaangevende open modellen die teams kunnen draaien, aanpassen en bezitten.

Gelijke Kansen

Together AI is een werkgever die gelijke kansen biedt en is er trots op gelijke werkgelegenheid te bieden aan iedereen, ongeacht ras, kleur, afkomst, religie, geslacht, nationale oorsprong, seksuele geaardheid, leeftijd, burgerschap, burgerlijke staat, handicap, genderidentiteit, veteranenstatus en meer.