Staff Software Engineer - AI Compute, Together Cloud in Amsterdam

Together AI is building the AI Native Cloud, een end-to-end platform voor de volledige generatieve AI levenscyclus, dat de snelste LLM-inferentie-engine combineert met state-of-the-art GPU-cloudinfrastructuur. Het Together Cloud-team bouwt het Together GPU Clusters vlaggenschip IaaS-product dat hoge prestaties levert, AI-klaar GPU-clusters via een zelfbedieningscloudconsole, samen met de gevirtualiseerde infrastructuurlaag die de inferentie, RL en fine-tuning producten van Together aandrijft.

Als Staff Software Engineer met focus op AI Compute in de Together Cloud-organisatie, stel je de technische richting vast en bouw je belangrijke componenten van het volgende generatie AI-cloudplatform – een zeer beschikbare, wereldwijde cloudinfrastructuur met geavanceerde virtualisatie van de nieuwste ML-hardware: GB300s/VRs, BlueField DPUs, InfiniBand en dual/quad-plane RoCEv2-fabrics. Dit gevirtualiseerde computingplatform ondersteunt onze eigen SaaS-producten – inferentie, RL en fine-tuning – en bedient externe cloudklanten via zelfbedieningsaanbiedingen zoals on-demand/reserved Kubernetes/Slurm-clusters, verspreid over tientallen datacenters en honderden duizenden GPU's.

Dit is een architect- en bouwrol. Volledig geautomatiseerde bootstrapping van GPU-datacenters, hoge prestaties virtualisatie van GPU-compute en DC-netwerken zonder in te boeten op isolatie of draagbaarheid, en fouttolerante gedecentraliseerde controleplannen — jij stelt de architectuur hiervoor vast over onze wereldwijde en in-DC-diensten, en bent een belangrijke eigenaar van de moeilijkste onderdelen, zowel in de code als in het ontwerp. Je ontwerpen zullen zich uitstrekken van de IaaS-laag van een greenfield Vera Rubin-datacenter tot het wereldwijde beheervlak dat capaciteit over al deze datacenters plant. Op dit niveau is de rol net zozeer leverage als code: de normen die je stelt en de ingenieurs die je laat groeien bepalen hoe snel de rest van Together Cloud kan leveren.

Verantwoordelijkheden

• Eigen de GPU- en netwerkvirtualisatie-stack: de hypervisor, kernel en SDN-werk die GPU-compute en DC-netwerken hoogwaardig, draagbaar en sterk geïsoleerd houdt over heterogene hardware.
• Eigen de in-DC IaaS-laag: architect en roadmap de diensten, Kubernetes-operators en bibliotheken die compute, opslag en netwerken in onze datacenters provisioneren en beheren — VMs, parallelle bestandssystemen, VPC's en InfiniBand-partities; leid de uitbouw voor een nieuw Vera Rubin-datacenter met duizenden GPU's, van hardware-bring-up tot klantgerichte API.
• Ontwerp de GPU-planning en het wereldwijde beheervlak: het gedistribueerde controlevlak achter on-demand en gereserveerde clusters over tientallen datacenters, inclusief de systemen die per-clusterlimieten schalen en de onboarding van nieuwe capaciteit automatiseren.
• Architect monitoring en geautomatiseerde herstelstrategieën voor fouttolerantie: de strategie voor automatische detectie, isolatie en herstel van defecte nodes die gedistribueerde pretraining en grootschalige inferentie draaiende houdt door hardwarestoringen.
• Stel technische richting vast over teams: leid ontwerpreviewen, los cross-cutting architecturale meningsverschillen op, ontblokkeer cross-team afhankelijkheden en integratierisico's, en definieer de normen waartegen andere ingenieurs bouwen — gemeten in clusterbetrouwbaarheid, tijd-tot-eerste-GPU op nieuwe capaciteit, en kwaliteit op schaal.
• Groei het team: mentor senior en junior ingenieurs, verdiep de expertise van het team in virtualisatie, DC-netwerken en GPU-infrastructuur, en help de hiring bar voor Together Cloud te verhogen.
• Stel de engineering bar vast: creëer de testframeworks, tools en ontwikkelaarsdocumentatie die onze systemen robuust en bruikbaar maken voor andere teams, en vorm het kern, open-source Together AI-platform.

Om succesvol te zijn, moet je diep technisch zijn en een uitstekende communicator — expert softwareontwikkelingsfundamentals, diepe systeemkennis en probleemoplossende instincten, en de leiderschaps- en diplomatievaardigheden om teams te aligneren die niet aan jou rapporteren. Veel van dit werk begint vaag, en we verwachten dat je de scope zelf definieert en het naar productie drijft.

Eisen

• 7+ jaar professionele softwareontwikkelingservaring, met expert-niveau bekwaamheid in ten minste één backend-taal (Golang gewenst), het schrijven van hoge prestaties, goed geteste, productieklare code.
• Track record van het bezitten van de architectuur van grote gedistribueerde systemen van blanco pagina tot productie op schaal, inclusief de beoordelingsbeslissingen die niet goedkoop konden worden teruggedraaid.
• Diepe ervaring met het bouwen en bedienen van wereldwijd gedistribueerde, hoge-prestatie microservice-architecturen over een of meer cloudproviders (AWS, Azure, GCP).
• Expert systeemkennis over compute, netwerken en opslag — inclusief gelijktijdigheid, geheugenbeheer, prestatiegerichte I/O, en schaal op wereldniveau.
• Aangetoonde technische leiderschap verder dan je eigen commits: mentoring van senior ingenieurs, leiden van ontwerpreviewen, en het bevorderen van afstemming tussen teams die niet aan jou rapporteren.
• Uitstekende communicatie- en diplomatievaardigheden — in staat om ontwerpdossiers te schrijven die argumenten beslechten, en effectief te werken met technische en niet-technische belanghebbenden.
• Ervaring met het bouwen en bedienen van betrouwbare, klantgerichte productiesystemen op schaal, en het bezitten van de infrastructuurautomatisering (Terraform, Ansible), observability (Prometheus, Grafana), en CI/CD (GitHub Actions, ArgoCD) die ze gezond houden.

Voorkeurskwalificaties (geen vereisten)

• Diepe Kubernetes-internals ervaring, zoals het implementeren van niet-triviale Kubernetes-operators, apparaat/opslag/netwerkplugins, aangepaste planners, of patches aan Kubernetes zelf.
• Diepe ervaring met VMs/hypervisors, zoals QEMU/KVM, cloud-hypervisor, VFIO, virtio, PCIE passthrough, Kubevirt, SR-IOV.
• Diepe ervaring met DC-netwerkingstechnologie + oplossingen, zoals VLAN, VXLAN, VPN, VPC, OVS/OVN.
• Ervaring met Cluster API of vergelijkbaar.
• Ervaring met werken aan hoge-prestatie compute, netwerken, en/of opslag.
• Ervaring met het virtualiseren van GPU's en/of InfiniBand.
• Ervaring met het bouwen van IaaS of PaaS-systemen op schaal.
• Ervaring met DPUs/SmartNICs.
• GPU-programmering, NCCL, CUDA-kennis.

Over Together AI

Together AI, de AI Native Cloud, is speciaal gebouwd voor AI-ingenieurs. AI-toepassingsontwikkelaars krijgen hoge-prestatie inferentie die betrouwbaar schaalt, fine-tuning en reinforcement learning voor het creëren van grensniveau gespecialiseerde modellen, en pre-training op enorme schaal voor volledig aangepaste intelligentie, allemaal rond een marktplaats van toonaangevende open modellen die teams kunnen uitvoeren, aanpassen en bezitten. Vertrouwd door Cursor, Decagon, ElevenLabs, Salesforce en Zoom, bedient Together 400+ triljoen tokens per maand.

Together AI is een werkgever die gelijke kansen biedt en is trots om gelijke werkgelegenheid te bieden aan iedereen, ongeacht ras, kleur, afkomst, religie, geslacht, nationale oorsprong, seksuele geaardheid, leeftijd, burgerschap, burgerlijke staat, handicap, genderidentiteit, veteranenstatus en meer.