Headless gaan zoals Revolut: wat de overstap van Claude Code naar een open model vroeg
Revolut draait het grootste deel van zijn AI-programmeerwerk nu op een open-weight-model dat het zelf bedient, voor ongeveer een tiende van de eerdere rekening. Een reconstructie van wat het bouwde, wat de cijfers betekenen voor andere bedrijven, en de stap die daarna komt.
Inhoud
De rekening die het in gang zette
Revolut wilde geen statement maken over open modellen. Het wilde een kostenpost beheersen. Sommige engineers gaven elk $ 1.000 tot $ 10.000 per maand uit aan AI-programmeertools, met weinig meetbaar resultaat, en het bedrijf voerde strikte budgetten per engineer in1. David Abitbol, die operations en infrastructuur leidt, beschreef de stemming zonder omwegen: het team stond zeer sceptisch tegenover de kosten van AI1.
De volgorde is van belang, omdat de meeste grote engineeringorganisaties nu in precies die fase zitten. Revolut nam begin 2025 Gemini in gebruik en begin 2026 Claude Code1. De uitrol van Gemini, met toegang tot interne data, verkortte de doorlooptijd met ongeveer 10% en de programmeertijd met ongeveer 20%, vooral doordat documentatie niet meer handmatig hoefde te worden opgezocht. Claude Code onder krappe budgetten had aanvankelijk weinig meetbaar effect2. De budgetten hielden de rekening in toom, maar hielden engineers ook tegen om de tools vrij te gebruiken.
Wat Revolut bouwde
In april 2026 begon Revolut zijn standaard programmeermodel te verplaatsen van commerciële diensten naar GLM-5.1, een open-weight-model van de Chinese ontwikkelaar Z.ai, en later naar GLM-5.321. Het downloadde de gewichten en draaide ze op dedicated hardware, zodat geen enkele vraag de eigen endpoints van Z.ai bereikt2. De inzet bedient ongeveer 2.000 engineers1.
| Onderdeel | Wat Revolut meldde |
|---|---|
| Standaardmodel | GLM-5.1 vanaf april 2026, daarna GLM-5.3 (alleen tekst)1 |
| Modelgrootte | GLM-5.1: ongeveer 754 miljard parameters, ongeveer 40 miljard actief per token1 |
| Hardware | 56 Nvidia B200-GPU’s, het equivalent van zeven systemen met acht GPU’s1 |
| Interface | OpenAI-compatibele endpoints, bruikbaar vanuit OpenCode en Codex2 |
| Contextlimiet | Begrensd op ongeveer 256.000 tokens; het volle miljoen bleek niet nodig1 |
| Latentiedoelen | Eerste token binnen 3 seconden; boven de 5 seconden beginnen de klachten1 |
| Andere modellen | Een router stuurt beeldtaken naar modellen die afbeeldingen verwerken; frontier-modellen blijven voor het zwaarste werk12 |
| Controles | Een sandbox die een mens laat goedkeuren wat niet op de toegestane lijst staat, geen dataretentie bij de inferentieaanbieder, OpenTelemetry-logs2 |
De bevinding die het best overdraagbaar is, gaat over de herkomst van de prestaties. Op dezelfde 56 GPU’s steeg de doorvoer door het afstemmen van de serving-configuratie van ongeveer 3 naar meer dan 7 verzoeken per seconde, en daalde de tijd tot het eerste token van 14,26 naar 1,68 seconden. Abitbol schreef ongeveer 80% van de winst toe aan serving-parameters, niet aan hardware2: 4-bit-kwantisatie met NVFP4, het scheiden van de prefill- en decodefase, afgestemde contextlengtes en sticky sessions die de prompt-caches warm houden12. Voor programmeerwerk verwacht hij cache-hitrates boven de 90%2.
Wat het veranderde
Revolut meldt drie resultaten, alle zelf gerapporteerd in het praatje:
- Kosten. De inferentiekosten voor AI-programmeerwerk daalden in minder dan een jaar met ongeveer 90%, naar een gemengd tarief van $ 0,30 per miljoen tokens, zo’n tiende van de rekening voor Claude Code en Codex1.
- Werktempo. De programmeertijd verbeterde met ongeveer 60% en de doorlooptijd met ongeveer 70% na de uitrol naar ongeveer 2.000 engineers1.
- Gebruik. Met een vaste, voorspelbare rekening zetten engineers agents in voor debuggen en voor werk in Jira en Confluence, niet alleen voor het schrijven van code. Volgens Abitbol kwamen de grootste winsten uit dat werk1.
Zijn samenvatting van het beleid was direct: open source heeft nu prioriteit bij Revolut1.
De rekensom voor alle anderen
Revolut heeft niet gepubliceerd wat het voor zijn GPU’s betaalt. Volgens aantekeningen bij het praatje draaien ze als dedicated inferentie bij Together AI2, dus de openbare lijstprijs van die aanbieder geeft een redelijke bovengrens. Tegen de on-demandprijs van Together AI voor dedicated B200-inferentie, $ 8,99 per GPU per uur3, ziet de berekening voor een inzet van de omvang van Revolut er zo uit.
| Post | Berekening | Uitkomst |
|---|---|---|
| Kosten per uur, 56 B200-GPU’s | 56 × $ 8,99 | $ 503 per uur |
| Kosten per maand, de hele maand in bedrijf | × 730 uur | ongeveer $ 367.500 |
| Per engineer, bij 2.000 engineers | ÷ 2.000 | ongeveer $ 184 per maand |
| Dezelfde omvang op Together GPU Clusters, preemptible | 56 × $ 4,09 × 730 | ongeveer $ 167.200 per maand |
Deze bedragen zijn onze berekening op basis van lijstprijzen, niet de kosten van Revolut, en ze zijn exclusief engineeringtijd. Ze laten wel de vorm van de beslissing zien. Een vast cluster kost hetzelfde, of engineers nu tien prompts sturen of tienduizend, en daarom nam het gebruik toe zodra de budgetten verdwenen. Onder een bepaald volume zijn open-model-endpoints per token goedkoper: Together AI noemt voor GLM-5.3 $ 1,40 per miljoen inputtokens, $ 0,26 voor input uit de cache en $ 4,40 per miljoen outputtokens3. Het omslagpunt hangt af van volume en cache-hitrate, en daarom begon Revolut met meten.
Wat Revolut nog niet heeft gedaan
Het gepubliceerde verhaal beschrijft een bedrijf dat zijn inferentie bezit. Het beschrijft geen bedrijf dat zijn intelligentie bezit. Niets in het praatje of in de berichtgeving noemt fine-tuning van GLM op de code, tickets of documenten van Revolut2. Het model weet wat elke kopie van GLM-5.3 weet, plus de context die op het moment van de vraag in de prompt wordt meegegeven. De eerdere uitrol van Gemini haalde zijn winst uit toegang tot interne data2, en dat wijst erop waar de volgende winst ligt.
Die volgende stap is moeilijker dan een model bedienen, en de moeilijkheid zit grotendeels niet in de training. Ze zit in de data. Bedrijfskennis staat verspreid over tickets, e-mail, documenten, chatberichten en registraties in systemen, geschreven voor mensen, dubbel opgeslagen en vaak tegenstrijdig. Voordat iets daarvan een model kan trainen, moet het worden gevonden, opgeschoond, gelabeld en gestructureerd, en dat werk moet doorgaan zolang het bedrijf draait. Onze Engelstalige gids over een AI-model trainen op bedrijfsdata beschrijft de stappen.
Op die laag werkt OpenLazarus. De architecten bouwen een datalake met alle data van een bedrijf, in eigendom van het bedrijf in plaats van zijn softwareleveranciers4. De AI Router stuurt elke vraag naar een frontier-model, een open model of een model dat voor de klant is getraind, en OpenLazarus biedt eigen training op die data5. In feite fungeert het als de bibliothecaris van het bedrijf: het brengt de kennis op orde, zodat een model ervan kan leren. Het is zelf geen model; het is het middel om er een te maken dat van het bedrijf is. OpenLazarus is een Europees bedrijf met Europese servers.
De route, in vijf stappen
- Meet voordat u overstapt. Leg minstens een maand lang tokens, kosten en latentie vast per team en per tool. De zaak van Revolut rustte op de wetenschap dat enkele engineers duizenden per maand uitgaven met weinig resultaat.
- Zet een router voor elk model. Laat agents en tools één OpenAI-compatibel endpoint aanroepen dat u zelf beheert. Een model vervangen, testen of zelf hosten wordt dan een configuratiewijziging.
- Verplaats de standaard, niet alles. Kies een open model voor het grootste deel van het werk en houd frontier-modellen voor taken waarin ze aantoonbaar beter zijn, zoals Revolut deed voor beelden en de moeilijkste problemen.
- Stem de serving af voordat u hardware koopt. Stel doelen voor de tijd tot het eerste token en de doorvoer, begrens de context op wat mensen echt gebruiken en meet de cache-hits. Revolut haalde zo het grootste deel van zijn winst.
- Breng de data op orde, train dan. Maak een inventaris van de kennis van het bedrijf, een evaluatieset op basis van echte taken en een pijplijn die beide actueel houdt. Fine-tune een open model daarop, stuur het het werk waarin het het best is en blijf meten.
Het eindresultaat is concreet. De meeste vragen gaan naar een model dat het bedrijf zelf beheert, tegen kosten die niet met elke prompt stijgen. Hetzelfde endpoint kan een model bedienen dat de eigen systemen, begrippen en beslissingen van het bedrijf heeft geleerd, en de frontier-laboratoria worden één optie achter de router in plaats van het fundament.
Veelgestelde vragen
Welk open source AI-model gebruikt Revolut?
De standaard van Revolut voor AI-programmeerwerk is GLM van Z.ai. Het begon in april 2026 met GLM-5.1 en stapte over op GLM-5.3. Frontier-modellen van Anthropic, OpenAI en Google blijven beschikbaar voor taken waarin ze duidelijk beter zijn, en een router stuurt beeldtaken naar modellen die afbeeldingen kunnen verwerken.
Hoeveel bespaarde Revolut door AI zelf te hosten?
Revolut meldt dat de rekening voor inferentie bij AI-programmeerwerk met ongeveer 90% daalde, naar een gemengd tarief van $ 0,30 per miljoen tokens, zo’n tiende van wat het betaalde voor Claude Code en Codex. Dat zijn de eigen cijfers van het bedrijf, gepresenteerd in een conferentiepraatje.
Heeft Revolut een eigen AI-model getraind?
Niets in het gepubliceerde praatje of in de berichtgeving beschrijft fine-tuning op de eigen data van Revolut. Revolut bedient een open-weight-model zoals het is uitgebracht en voegt tijdens het gebruik eigen context toe. Een model trainen op bedrijfsdata is de volgende, aparte stap.
Wat betekent headless voor AI?
Het betekent dat de tools die mensen gebruiken worden losgekoppeld van het model erachter. De programmeeragents van Revolut roepen OpenAI-compatibele endpoints aan, zodat het model erachter kan worden vervangen, zelf gehost of per taak gerouteerd, zonder dat engineers anders hoeven te werken.
Hoeveel GPU’s zijn er nodig om een open model op frontier-niveau zelf te hosten?
Revolut bedient ongeveer 2.000 engineers met 56 Nvidia B200-GPU’s, het equivalent van zeven systemen met elk acht GPU’s. Alleen de gewichten van GLM-5.1 vragen al zo’n 380 GB GPU-geheugen, plus 6 tot 26 GB per gebruiker voor de context, afhankelijk van de precisie.
Kan een middelgroot bedrijf doen wat Revolut deed?
Het serving-patroon is ook op kleinere schaal toepasbaar. Een bedrijf kan dedicated GPU’s per uur huren bij inferentieaanbieders, of beginnen met open-model-endpoints per token en overstappen op dedicated hardware zodra het gebruik stabiel is. Wat niet kleiner wordt, is de noodzaak om gebruik, latentie en kosten te meten voordat u overstapt.
Bronnen
- British fintech Revolut slashes AI coding costs 10x by cutting out Claude and going self-hosted. The Register, 3 nov. 2026. Geraadpleegd op 9 nov. 2026.
- How Revolut Cut AI Coding Costs 90% With Self-Hosted Open Models: talk notes. Sparse Notes. Geraadpleegd op 9 nov. 2026.
- Pricing: serverless inference, dedicated inference and GPU clusters. Together AI. Geraadpleegd op 9 nov. 2026.
- AI Architects. OpenLazarus. Geraadpleegd op 9 nov. 2026.
- Pricing. OpenLazarus. Geraadpleegd op 9 nov. 2026.
Bijgewerkt op 9 nov. 2026: Eerste publicatie, op basis van het praatje van Revolut op AI Engineer en het artikel van The Register van 3 november 2026.
Ook in: English · Deutsch · Français · Español · Italiano · Polski