top of page

De echte kostenpost van GPT-6 Luna is de foute beslissing

45 minuten geleden
5 minuten om te lezen

In het kort

OpenAI heeft op 6 oktober een publieke bèta geopend waarmee GPT-6 Luna direct een categorie, waarschijnlijkheid of score teruggeeft. Dat kan nuttig zijn voor het sorteren van grote aantallen berichten en documenten. Een lage prijs per beslissing zegt alleen weinig over de kosten van verkeerde beslissingen. De economische vraag is hoeveel werk verantwoord automatisch kan worden afgehandeld, nadat uitzonderingen en herstel zijn meegerekend.


Een klantenservice ontvangt duizenden berichten, terwijl slechts een klein deel echt spoed heeft. Alles laten lezen is duur. Alles automatisch afhandelen kan nog duurder worden als een opzegging, klacht of fraudemelding verkeerd terechtkomt. Precies tussen die twee uitersten ontstaat ruimte voor een bescheiden toepassing van AI: het systeem hoeft geen lange brief te schrijven, maar moet een bruikbare eerste selectie maken.


De nieuwe Decisions API van OpenAI past bij die gedachte. Het nieuws is niet dat GPT opeens zelfstandig bedrijfsbeleid mag bepalen. Het is dat een taalmodel een kleiner, beter afgebakend antwoord kan leveren. Daardoor verschuift de aandacht van de indrukwekkendste demonstratie naar een veel praktischere vraag: bij welke grens verdient automatische verwerking zichzelf terug?



Een kleine uitgang voor een groot model

Volgens de officiële documentatie is Decisions voorlopig een publieke bèta voor GPT-6 Luna. De dienst accepteert tekst en afbeeldingen en kan een ja-neewaarschijnlijkheid, een keuze uit vooraf bepaalde categorieën of een gewogen score teruggeven. Dat is iets anders dan een vrije tekstrespons of een agent die zelfstandig gereedschappen gebruikt. OpenAI noemt een grote snelheidswinst tegenover de Responses API, maar dat is een leveranciersclaim, geen door De Belegger gemeten versnelling.


Een vaste categorie is aantrekkelijk omdat vervolgsoftware minder hoeft te interpreteren. Een bericht kan bijvoorbeeld naar facturatie, technische ondersteuning of een medewerker voor urgente zaken. De categorieën moeten elkaar wel voldoende uitsluiten. Een boze klant met een defect product én een betwiste rekening past niet vanzelf in één vakje. Dan moet de organisatie bepalen welke vervolgstap leidend is.



Ook een getal tussen nul en één is geen garantie. Een score van 0,9 hoort pas als ongeveer negentig procent kans te worden behandeld als dat verband op representatieve, gelabelde voorbeelden is gecontroleerd. Anders is het vooral een rangorde: dit bericht lijkt sterker op de bedoelde categorie dan dat andere. Juist bij zeldzame gebeurtenissen kan een overtuigende score gemakkelijk meer vertrouwen wekken dan de praktijk rechtvaardigt.


De modelkeuze volgt de beslissing

De releasegeschiedenis onderscheidt GPT-6 Astra, GPT-6 Sol, GPT-6 Luna en de nieuwere GPT-6.1 Sol. Die namen zijn geen onderling verwisselbare serviceniveaus. Decisions ondersteunt op 15 oktober Luna; een beschikbare Sol-variant maakt dezelfde functie niet automatisch voor Sol beschikbaar. Het gaat om commerciële diensten met eigen voorwaarden, niet om vrij downloadbare gewichten.


Voor routinematige selectie is een zwaar redeneermodel niet vanzelf beter. De gewenste uitkomst kan juist een eenvoudige, controleerbare regel zijn. Een factuur met ontbrekend klantnummer hoeft geen uitvoerig denkproces te krijgen. Een geschil over verschillende contractversies kan wel een afzonderlijke, uitgebreidere beoordeling vragen. De winst zit in die verdeling, mits de eerste selectie moeilijke gevallen niet ten onrechte eenvoudig noemt.


Daarom moet de proef beginnen bij de fouten die ertoe doen. Een onterecht doorgestuurd bericht kost enige extra behandeltijd. Een onterecht automatisch afgesloten klacht kan veel meer herstelwerk opleveren. Eén algemeen nauwkeurigheidspercentage verbergt dat verschil. Het bedrijf heeft een kostenmatrix nodig waarin beide fouten afzonderlijk staan, naast de prijs van menselijk controleren.


Tien dollar aan tokens kan duizenden dollars aan herstel verbergen

De Decisions-prijs bedraagt op de peildatum $0,10 per miljoen inputtokens. De documentatie noemt geen afzonderlijke output- of cachekosten voor deze endpoint; regionale en langecontexttoeslagen kunnen wel gelden. Een rekenvoorbeeld met 100.000 korte berichten van gemiddeld 1.000 inputtokens komt zonder die toeslagen uit op 100 miljoen tokens, dus $10. Dat bedrag betreft alleen deze modelaanroepen, vóór eventuele belastingen en overige bedrijfskosten.


Veronderstel daarnaast dat slechts 0,1 procent van de berichten door de automatisering extra herstel vraagt en dat elk herstelgeval $20 kost. Dan ontstaan 100 gevallen en $2.000 herstelkosten. Dit zijn illustratieve aannames, geen gemeten foutpercentages van Luna. De verhouding maakt wel duidelijk waar een inkoper moet kijken. Een paar dollar minder aan inference weegt nauwelijks op tegen een iets verkeerde beslisgrens.



Het zou echter even onjuist zijn om alle fouten aan AI toe te schrijven en menselijk werk foutloos te noemen. De vergelijking moet plaatsvinden tegen het bestaande proces, met dezelfde berichten en dezelfde definitie van herstel. Alleen het verschil in fouten telt. Bovendien kan betere selectie urgente gevallen sneller bij een medewerker brengen. Die serviceverbetering is waardevol, maar wordt pas euro-opbrengst wanneer een concreet effect op kosten of omzet aannemelijk is.


Hoeveel automatische afhandeling is genoeg

Neem voor een afzonderlijke Nederlandse bedrijfsproef 100.000 geschikte berichten per jaar. Veronderstel €0,30 werkelijk vermeden variabele behandelkosten per correct automatisch afgehandeld bericht. De extra jaarlijkse kosten voor beheer, modelgebruik, monitoring en herstel worden samen op €5.000 begroot. Eenmalige inrichting kost €10.000. Het dollarvoorbeeld hiervoor staat los van dit budget; er wordt geen onuitgesproken wisselkoers gebruikt.


In het eerste jaar moet de proef dan €15.000 terugverdienen. Daarvoor zijn €15.000 gedeeld door €0,30, ofwel 50.000 correct automatisch afgehandelde berichten nodig. Dat is de helft van het veronderstelde volume. Het gaat nadrukkelijk om daadwerkelijk vermeden variabele kosten. Als medewerkers dezelfde uren blijven werken en geen extra omzet realiseren, is het resultaat vrijgespeelde capaciteit en geen directe kasbesparing.



De beslisgrens heeft daarmee een zakelijke betekenis. Een zeer voorzichtige instelling kan zo weinig berichten afhandelen dat de investering niet rendeert. Een agressieve instelling kan meer werk wegwerken, maar ook het herstelbudget overschrijden. Het beste punt ligt waar de extra afgehandelde berichten nog meer opleveren dan de extra fouten kosten. Dat punt moet uit de eigen proef blijken; de fabrikant kan het niet voor iedere organisatie vooraf invullen.


Drie jaren met dezelfde meetlat

Voor 2027, 2028 en 2029 houden we het volume en de kosten bewust constant. Het lage scenario veronderstelt 20 procent correcte automatische afhandeling, het middenscenario 50 procent en het hoge scenario 80 procent. De formule is jaarlijks 100.000 × afhandelingspercentage × €0,30, minus €5.000 vaste extra kosten en in 2027 nog €10.000 inrichting. De percentages zijn scenario’s, geen verwachting over toekomstige modelprestaties.


Dat geeft voor 2027 respectievelijk min €9.000, €0 en plus €9.000. In zowel 2028 als 2029 zijn de uitkomsten plus €1.000, €10.000 en €19.000. Een gelijkblijvend herstelbudget is een belangrijke aanname. Als het hoge scenario meer fouten veroorzaakt, moet dat budget omhoog en neemt de uitkomst af. Financiering, belastingen en restwaarde zijn niet meegerekend.



Een bruikbare proef bewaart daarom zowel de gekozen categorie als de latere echte uitkomst. Laat een steekproef van automatisch afgehandelde én doorgestuurde berichten controleren. Anders blijft alleen zichtbaar wat medewerkers nog onder ogen krijgen en verdwijnen stille fouten uit de rapportage. Meet ook hoe vaak de categorieën veranderen door nieuw beleid, nieuwe producten of ander taalgebruik.


De interessante ontwikkeling bij GPT is hier de versmalling van de taak. Een model dat minder hoeft te zeggen, kan makkelijker onderdeel worden van gewone bedrijfssoftware. Voor OpenAI kan dat veel kleine, terugkerende aanroepen opleveren. Voor de klant is de relevante opbrengst niet het aantal aanroepen, maar het aantal beslissingen dat aantoonbaar goed én goedkoper wordt uitgevoerd. Luna krijgt pas economische waarde wanneer die twee samenvallen.


 
 
 

Opmerkingen

Beoordeeld met 0 uit 5 sterren.
Nog geen beoordelingen

Voeg een beoordeling toe
00:00 / 01:04

Net binnen..

Bedankt voor het abonneren!

bottom of page