Een GLM-aansluiting in Frankfurt houdt het rekenwerk niet in Europa
In het kort
Amazon beschrijft GLM-5.3 in Bedrock als beperkt beschikbaar voor daarvoor toegelaten klanten. De gedocumenteerde verwerkingsprofielen zijn Amerikaans of wereldwijd, niet een uitsluitend Europese lokale route. Een aansluiting via Frankfurt bewijst daardoor niet dat de modelberekening binnen Europa plaatsvindt. Bedrijven moeten de gekozen route en contractvoorwaarden controleren voordat zij migratiebesparingen inboeken.
Een Europese cloudregio is voor veel inkopers een herkenbaar houvast. Het klinkt logisch dat een aanvraag die naar Frankfurt gaat daar ook wordt verwerkt. Bij moderne AI-platforms kan de dienst het rekenwerk echter naar andere capaciteit doorsturen. Het toegangspunt en de plaats waar het model daadwerkelijk draait zijn dan niet hetzelfde.
Dat onderscheid is relevant voor GLM-5.3 van Z.ai. De modelkaart van Amazon Bedrock vermeldt de introductie op 5 oktober en beperkte toegang voor toegelaten klanten. De kaart beschrijft een Amerikaans geografisch profiel en een wereldwijd profiel. Bij Frankfurt staat de wereldwijde route, niet een afzonderlijke verwerking binnen die regio.
Drie vragen die vóór de prijs komen
De eerste vraag is of een klant de dienst daadwerkelijk kan gebruiken. Een vermelding in een catalogus is niet hetzelfde als algemene beschikbaarheid voor ieder account. De tweede vraag is via welk verwerkingsprofiel de aanvraag loopt. De derde is welke afspraken gelden voor gegevens, ondersteuning en het beëindigen van een modelversie.
Voor GLM-5.3 beschrijft Amazon tekstinvoer en tekstuitvoer, een contextvenster van een miljoen tokens en maximaal 128.000 outputtokens. Het model telt volgens dezelfde kaart 744 miljard parameters, waarvan ongeveer 40 miljard per stap actief zijn. Dat laatste cijfer zegt iets over de gebruikte berekening, niet dat een zelfgehoste versie slechts ruimte voor 40 miljard gewichten nodig heeft.
Deze technische mogelijkheden zijn aantrekkelijk voor omvangrijke documenten en langere taken. Maar ze beantwoorden niet of een specifieke gegevensstroom past binnen het beleid van een onderneming. Dat vereist een controle van het werkelijke profiel en de afspraken. Een wereldwijde route is niet automatisch onrechtmatig; zij is alleen iets anders dan een toezegging van uitsluitend Europese verwerking.
Eén leverancier kan verschillende inkooproutes hebben
Een model via Bedrock gebruiken is economisch en contractueel niet hetzelfde als rechtstreeks klant zijn bij Z.ai. De prijspagina van Z.ai noemt voor de directe GLM-5.3-API $1,40 per miljoen inputtokens en $4,40 per miljoen outputtokens, met een afzonderlijk cachetarief. Deze bedragen mogen niet zonder meer op een AWS-factuur worden geplakt.
Een expliciet rekenvoorbeeld voor de directe route maakt het onderscheid zichtbaar. Bij 10.000 verzoeken van elk 10.000 inputtokens en 2.000 outputtokens is het verbruik 100 miljoen inputtokens en 20 miljoen outputtokens. Zonder cachekorting, aanvullende diensten of belastingen kost dat $140 plus $88, samen $228. Betaalde redeneertokens moeten binnen de aangenomen output vallen. Voor Bedrock moet de feitelijke offerte of prijslijst van die route worden gebruikt.
Een platform kan toch aantrekkelijk zijn wanneer het op bestaande toegangsrechten, facturering en ondersteuning aansluit. De besparing ontstaat dan niet noodzakelijk uit de laagste tokenprijs. Zij kan ontstaan doordat minder afzonderlijke leverancierskoppelingen hoeven te worden onderhouden. Omgekeerd kan een nieuwe route extra controlewerk veroorzaken als de gegevensverwerking anders is dan een inkoper aanvankelijk dacht.
Goedkope migratie kan duur herstel worden
Stel dat een bedrijf vijftig interne toepassingen heeft. Per toepassing zijn de data, gebruikte functies en toegangsrechten net iets anders. Een centrale overeenkomst kan veel werk besparen, maar niet alle toepassingen worden daardoor automatisch geschikt voor dezelfde modelroute. Sommige bevatten vertrouwelijke gegevens, andere uitsluitend openbare tekst.
Een verstandige migratie begint daarom met een beperkte proef op representatieve taken. Het bedrijf legt vast welk profiel is gebruikt, welke informatie is meegestuurd en hoe het antwoord wordt beoordeeld. Daarna kan het bepalen welke toepassingen mogen volgen. Dat kost vooraf tijd, maar voorkomt dat een brede uitrol later gedeeltelijk moet worden teruggedraaid.
De sterkste tegenwerping is dat een grote cloudleverancier veel beheer al uit handen neemt. Dat is terecht. Het platform kan professionele voorzieningen bieden die een klein team zelf moeilijk kan bouwen. Maar uitbesteding verandert de plaats van het werk; zij maakt de verantwoordelijkheid om de juiste dienst te selecteren niet overbodig. Het contract en de technische instelling moeten hetzelfde verhaal vertellen.
Hoeveel beheer moet verdwijnen
Neem een eigen projectbegroting van €20.000 voor migratie en toetsing, plus €8.000 per jaar aan aanvullende kosten. Bij een terugverdientijd van drie jaar moet jaarlijks €14.666,67 aan beheer of andere aantoonbare kosten verdwijnen. Bij een interne uurkost van €85 is dat ongeveer 172,5 uur per jaar, oftewel 3,45 uur per toepassing bij vijftig toepassingen.
Dit is geen prijsopgave voor Bedrock. Het is een manier om een aanbod te beoordelen. De jaarlijkse €8.000 moet in een echte begroting worden vervangen door het verschil in platformkosten, gebruik, controles en ondersteuning tussen de nieuwe en de bestaande route. Wie de volledige oude rekening als besparing neemt en vergeet dat de nieuwe route ook tokens rekent, telt te royaal.
Ook capaciteit die vrijkomt bij ontwikkelaars verdient een realistische waardering. Als het team de vrijgekomen uren aan achterstallig werk besteedt, is dat nuttig. Het is alleen niet hetzelfde als een directe daling van de loonkosten. Extra omzet kan pas worden toegevoegd als sneller ontwikkelde toepassingen daadwerkelijk inkomsten of vermeden uitgaven opleveren.
De route moet ook volgend jaar passen
Voor 2027, 2028 en 2029 nemen we drie paden van jaarlijks vermeden beheeruren. Het lage pad is 80, 100 en 120 uur; het middenpad 200, 240 en 280 uur; het hoge pad 350, 400 en 450 uur. De formule is uren maal €85 minus €8.000 jaarlijkse extra kosten. Het model gaat uit van dezelfde vijftig toepassingen en telt geen veronderstelde productiviteitsgroei van GLM mee.
Na drie jaar en de eenmalige €20.000 resteert min €18.500, plus €17.200 en plus €58.000. Dat zijn eenvoudige projectuitkomsten zonder financiering of belastingen. De beschikbaarheid van een Europese verwerkingsroute in de toekomst is niet aangenomen; zo’n verandering moet eerst officieel worden aangeboden en contractueel passen.
GLM via een groot cloudplatform kan dus een nuttige inkooproute zijn. De voorwaarde is dat een onderneming weet wat zij koopt: toegang, verwerking en beheer zijn verschillende onderdelen. Een naam als Frankfurt op de aansluiting is daarvoor onvoldoende. Een aantoonbaar passende gegevensroute, beschikbare toegang en minder totale beheertijd zouden een overtuigende basis voor uitrol vormen.
Opmerkingen