Het geheugen is de verborgen rekening van Nemotron 3 Ultra
In het kort
Nemotron 3 Ultra is een mixture-of-expertsmodel met 550 miljard totale en 55 miljard actieve parameters. Die 55 miljard zeggen iets over rekenwerk, niet over het totale gewichtengeheugen. De actuele modelkaart en prijsdocumentatie zijn belangrijker dan een losse benchmark of productnaam. We rekenen terug vanaf de kosten en toetsen welke inzet in 2027, 2028 en 2029 nodig is. De conclusie is voorwaardelijk: alleen aantoonbaar geslaagde taken tellen mee.
De AI-markt lijkt op het eerste gezicht steeds eenvoudiger. Iedere leverancier heeft een vlaggenschip, een goedkoper model en een indrukwekkende contextlengte. In de praktijk wordt de keuze juist lastiger. Toegang kan beperkt zijn, een introductietarief kan aflopen en open gewichten kunnen onder verschillende licenties vallen. De modelnaam is daarom hooguit het begin van het onderzoek.
Bij NVIDIA Nemotron draait de dragende vraag om actieve parameters zijn niet gelijk aan geheugenbeslag en open modellen kunnen hardwareverkoop ondersteunen. Dat is geen academisch verschil. Het bepaalt of een experiment ook als vaste dienst kan draaien, of de rekening beheersbaar blijft en hoeveel menselijk herstelwerk nodig is. Een goed model dat te vaak op de verkeerde taak wordt gezet, is economisch nog steeds een slechte keuze.
Direct naar een onderdeel van dit artikel
Wat er werkelijk beschikbaar is
NVIDIA’s Nemotron 3 Ultra heeft 550 miljard totale parameters en activeert er per token ongeveer 55 miljard. De officiële modelkaart noemt een contextvenster van een miljoen tokens en maximaal 128.000 outputtokens. Zij noemt ook een minimale configuratie van vier B200- of GB200-klasse GPU’s, of acht H100’s. Dat maakt direct duidelijk waarom actieve parameters geen geheugenmaat zijn. De NVIDIA Nemotron 3 Ultra-modelkaart is daarbij het uitgangspunt. De peildatum is 5 oktober 2026 en de relevante gebeurtenis is: Nemotron 3 Ultra uitgebracht op 4 juni 2026.
De woorden algemeen beschikbaar, preview en beperkt toegankelijk horen niet op één hoop. Een aangekondigd model kan technisch bestaan zonder dat een normaal bedrijf het vandaag via een stabiele API kan afnemen. Andersom kan een downloadbaar model open gewichten bieden terwijl de licentie aanvullende voorwaarden stelt. Gratis proberen in een chatdienst geeft nog geen recht om het model zelf te hosten.
Ook contextlengte vraagt nuchterheid. Een bovengrens van honderdduizenden of een miljoen tokens vertelt hoeveel invoer technisch mogelijk is. Zij zegt niet dat zoveel context snel, goedkoop of zorgvuldig wordt verwerkt. Lange prompts vergroten de prefilltijd, vragen cachegeheugen en kunnen relevante details tussen ruis laten verdwijnen. Voor een vergelijking moeten daarom dezelfde taak, dezelfde context en dezelfde succesdefinitie worden gebruikt.
De techniek verandert de rekening
Bij mixture-of-experts kiest het model per token een deel van het netwerk voor de berekening. Dat verlaagt het rekenwerk ten opzichte van een dicht model met evenveel totale parameters. De gewichten van alle experts moeten echter beschikbaar blijven. Daarbovenop komen KV-cache, runtime en ruimte voor meerdere verzoeken. Een theoretisch passend bestand is dus nog geen snelle productiedienst.
Dat maakt kosten per miljoen tokens nuttig, maar onvoldoende. De betere maat is kosten per succesvol afgeronde taak. Daarin horen input, output, redenering, gereedschap, cache, herhaalpogingen en menselijke controle. Wanneer een goedkoper model twee herstelrondes nodig heeft, kan de duurdere route alsnog winnen. Wanneer een topmodel een eenvoudige extractietaak niet beter uitvoert, betaalt een bedrijf alleen voor ongebruikte capaciteit.
Voor lokale modellen komt daar een andere kostenlaag bij. Alle gewichten moeten in opslag en meestal in werkgeheugen beschikbaar zijn, ook wanneer een mixture-of-expertsmodel per token slechts een deel activeert. Quantisatie kan het beslag verlagen, maar kan kwaliteit en snelheid veranderen. Gelijktijdige gebruikers en lange context voegen KV-cache toe. Een model dat één keer op een werkstation antwoord geeft, is daarmee nog geen productiesysteem.
De beslissende rekensom
Voor een vergelijkbaar voorbeeld gebruiken we deze kostenbrug: Hardwarebudget € 120.000, Beheer en stroom p.j. € 30.000, Drie jaar totaal € 210.000. De waarden zijn afkomstig uit het gepubliceerde tarief of, waar geen controleerbaar tarief bestaat, uit een expliciet gemarkeerd eigen kostenbudget. Dat verschil is belangrijk. Een scenario-aanname is geen prijsclaim van de leverancier en een dollarbedrag is zonder belasting en wisselkoers geen Nederlandse factuur.
De omgekeerde berekening begint niet bij een mooie benchmark, maar bij de vraag hoeveel productiviteit nodig is om € 70.000 per jaar terug te verdienen. Bij een interne waarde van € 55 per aantoonbaar bespaard uur is dat 1272.7 uur per jaar. De formule is eenvoudig: jaarlijkse kosten gedeeld door € 55. De moeilijke stap is bewijzen dat die uren werkelijk vrijkomen bij gelijkblijvende kwaliteit.
Een team moet daarom een vaste proefset gebruiken en per taak noteren of het eerste antwoord bruikbaar was, hoeveel correctietijd nodig was en of een mens dezelfde controle toch moest uitvoeren. Alleen het verschil met de bestaande werkwijze telt. Tijd die wel op papier wordt bespaard maar later terugkomt als herstelwerk, mag niet dubbel als voordeel worden geboekt.
Drie jaar vooruit rekenen
De scenario’s voor 2027 tot en met 2029 gebruiken drie niveaus van aantoonbaar bespaarde tijd en laten het volume jaarlijks met 12 procent groeien. Het lage scenario start bij 160 uur, het middenscenario bij 420 uur en het hoge bij 760 uur. De jaarlijkse kosten blijven bewust gelijk, zodat zichtbaar wordt welke benutting de doorslag geeft. Het zijn aannames, geen voorspellingen van gebruik of tarieven.
De netto productiviteitswaarde is bespaarde uren maal € 55, minus de jaarlijkse kosten. Implementatie-uren in het eerste jaar horen daar in een echte businesscase nog vanaf. Hetzelfde geldt voor kwaliteitsverlies, uitval en extra gegevensbeheer. Een positieve uitkomst bewijst dus niet dat het model winst oplevert. Zij laat alleen zien hoeveel economische ruimte overblijft om die overige kosten op te vangen.
Voor kleine teams kan de lage variant al ruim voldoende zijn wanneer de vaste kosten gering zijn. Bij eigen hardware of een omvangrijk abonnement ligt de drempel hoger en wordt bezettingsgraad doorslaggevend. Andersom kan een goedkoop API-model zo weinig kosten dat vooral foutpreventie telt. Dan is één vermeden uur herstelwerk meer waard dan een jaar aan tokens.
Waar het nog mis kan gaan
Open gewichten kunnen NVIDIA op twee manieren helpen. Ze verlagen de drempel om een model te proberen, maar een grote productie-installatie vraagt juist veel NVIDIA-hardware en vaak commerciële ondersteuning. Dat is geen bewijs dat iedere download tot chipomzet leidt. De zakelijke rekensom moet gebruik, bezettingsgraad, stroom, beheer en alternatief API-verbruik omvatten.
Daarnaast blijft leveranciersrisico bestaan. Modellen verdwijnen, aliassen verschuiven en prijzen kunnen veranderen. Een goede integratie bewaart prompts en evaluaties buiten het model, houdt een alternatieve route beschikbaar en legt vast welke versie op welk moment is gebruikt. Daardoor wordt een upgrade een gecontroleerde keuze in plaats van een verrassing in productie.
Privacy verdient dezelfde concrete aanpak. Cloudgebruik vraagt duidelijkheid over opslag, training en gegevenslocatie. Lokale inzet voorkomt niet automatisch alle risico’s, want logbestanden, toegangsrechten en onveilige plug-ins kunnen gegevens alsnog blootleggen. Het juiste antwoord is dus niet altijd lokaal of altijd cloud. Het is een aantoonbare keuze per datastroom.
Wat dit economisch betekent
Voor bedrijven is NVIDIA Nemotron interessant wanneer de gekozen route aantoonbaar beter past bij het werk dan een goedkoper of eenvoudiger alternatief. Dat bewijs komt uit eigen taken, niet uit één benchmark. Het minimum is een vergelijking van eerste-poging-succes, totale doorlooptijd, menselijk herstel en alle directe kosten. Pas daarna kan een groter contextvenster, een open licentie of een sterkere redeneermodus economische waarde krijgen.
Voor beleggers ligt de les een niveau hoger. Lagere tokenprijzen kunnen het gebruik vergroten, maar leiden niet automatisch tot hogere winst bij de modelleverancier of chipmaker. Open modellen kunnen hardwarevraag stimuleren en tegelijk prijsdruk op API’s zetten. De waarde verschuift naar distributie, gereedschappen, datatoegang, betrouwbaarheid en capaciteit. Wie alleen naar de nieuwste modelnaam kijkt, mist precies het deel waar het verdienmodel wordt gemaakt.
De nuchtere conclusie is daarom dat actieve parameters zijn niet gelijk aan geheugenbeslag en open modellen kunnen hardwareverkoop ondersteunen de keuze moet sturen. Begin met de kleinste route die de taak aantoonbaar goed afrondt. Schaal pas op wanneer de extra kwaliteit meer waard is dan de extra kosten. Zo blijft een indrukwekkend model een productiemiddel en wordt het geen dure demonstratie.
Een maandelijkse herhaling van dezelfde proef maakt prijswijzigingen en kwaliteitsverschuivingen zichtbaar voordat ze de begroting of de dienstverlening raken. Dat kleine meetritme is uiteindelijk waardevoller dan een eenmalige ranglijst.
Opmerkingen