Open gewichten bij Mistral Large 4 en toch een serverrekening
Arthur Mensch, medeoprichter en CEO van Mistral AI (archieffoto, 11 februari 2026). Foto: Jan234 / Wikimedia Commons / CC0. Bron en beeldverantwoording ·
In het kort
Mistral Large 4, Medium 3.5 en Small 4 laat zien dat een lage tokenprijs of veel context niet automatisch een goedkope productieoplossing oplevert. Mistral vermeldt in oktober 2026 Large 4 als open-weight algemeen multimodaal model en Medium 3.5 als 128 miljard parameter-model onder Modified MIT. Voor Medium 3.5 staat $1,50 input en $7,50 output per miljoen tokens, 256.000 context en een geraamd GPU-geheugenbereik van 64 tot 256 GB. De beslissende factor is of de technische eigenschap herhaalpogingen, menselijk herstel en infrastructuur werkelijk verlaagt. De omgekeerde rekensom maakt zichtbaar hoeveel aantoonbare tijdwinst nodig is voordat de investering positief wordt.
De marketingzin is eenvoudig: meer context, een lagere cacheprijs of minder actieve parameters maakt kunstmatige intelligentie goedkoper. Voor een Europese onderneming die gevoelige documenten intern wil verwerken en piekbelasting moet opvangen is dat hooguit het begin van de analyse. Een organisatie betaalt uiteindelijk voor een gecontroleerd resultaat, niet voor een indrukwekkende eigenschap op een modelkaart.
Downloadbare gewichten verwijderen de API-factuur niet, maar verplaatsen die naar hardware, energie, beheer, beschikbaarheid en upgrades. Het verschil wordt pas aantrekkelijk bij voldoende stabiel volume of bijzondere eisen aan gegevenscontrole. Dat maakt de architectuur of tarieftabel relevant voor de begroting, maar alleen wanneer het werkproces hetzelfde gedrag vertoont. De eigen meting moet daarom exact vastleggen welke invoer terugkomt, hoeveel uitvoer ontstaat en welke correcties mensen nog uitvoeren.
Direct naar een onderdeel van dit artikel
Wat er nu werkelijk beschikbaar is
Volgens de Mistral-modeloverzicht geldt op de peildatum het volgende: Mistral vermeldt in oktober 2026 Large 4 als open-weight algemeen multimodaal model en Medium 3.5 als 128 miljard parameter-model onder Modified MIT. Voor Medium 3.5 staat $1,50 input en $7,50 output per miljoen tokens, 256.000 context en een geraamd GPU-geheugenbereik van 64 tot 256 GB.
Die feiten zijn nuttig, maar ze vormen nog geen onafhankelijke producttest. Leveranciers meten vaak onder vaste instellingen en publiceren resultaten die niet vanzelf iets zeggen over Nederlandse teksten, eigen systemen of de foutschade van een organisatie. Een model dat op een benchmark wint, kan in een specifieke workflow alsnog duurder zijn door verkeerde bronkeuze, ongeldige velden of extra controle.
Beschikbaarheid moet precies worden benoemd. Open gewichten met modelafhankelijke licenties; API daarnaast beschikbaar. Een chatdienst, een publieke preview, een API en downloadbare gewichten geven elk een andere mate van controle. Ook een permissieve licentie neemt de plicht tot beveiliging, logging, gegevensminimalisatie en kwaliteitscontrole niet over.
Een theoretisch passend model kan in productie te weinig ruimte overlaten voor contextcache en gelijktijdige gebruikers. Ook de licentie verschilt per variant, zodat open gewicht niet automatisch één uniforme gebruiksvoorwaarde betekent. Daarom hoort de proef niet te eindigen bij een geslaagd voorbeeld. Neem representatieve moeilijke gevallen, een druk moment, een storing en een wijziging van het model of endpoint mee. Pas dan wordt duidelijk of de gekozen route bestand is tegen normaal bedrijfsgebruik.
Een goede testset bevat tussen twintig en honderd echte taken en een vooraf vastgelegde acceptatiegrens. Een antwoord telt alleen als het inhoudelijk klopt, de afgesproken vorm heeft, controleerbare bronnen gebruikt waar dat nodig is en geen inhoudelijke reparatie vraagt. Zo ontstaat een percentage geslaagde taken bij de eerste poging en een reële kostprijs per geaccepteerd resultaat.
Versiebeheer is daarbij geen administratief detail. Modellen, aliassen, runtimes en quantisaties kunnen veranderen. Bewaar een vaste regressieset en noteer model-ID, datum, promptversie en toolinstellingen. Zonder die gegevens is een kwaliteitsdaling achteraf nauwelijks te herleiden.
Waar de kostprijs ontstaat
De kale modelrekening bestaat uit meer dan input en output. Caching kan invoer verlagen, maar alleen bij een echte treffer. Tools kunnen aparte kosten rekenen. Bij lokale modellen verschuift de rekening naar hardware, energie, beheer en afschrijving. Daarboven komen de tijd voor integratie, beveiliging, evaluatie en menselijke controle.
Voor het rekenvoorbeeld nemen we een eenmalige inrichting van € 34.000 en terugkerende kosten van € 13.000 per jaar. Een aantoonbaar vrijgespeeld arbeidsuur waarderen we op € 78. De investering wordt in drie gelijke delen over 2027, 2028 en 2029 verdeeld. Financieringskosten, belastingen en inflatie laten we buiten beschouwing zodat de beslisregel eenvoudig controleerbaar blijft.
De formule is: netto kasbesparing per jaar is bespaarde uren per maand maal twaalf maal € 78, min € 13.000 en min een derde van € 34.000. De drempel is (€ 13.000 plus € 34.000 gedeeld door drie) gedeeld door twaalf maal € 78. Dat komt uit op 26,0 uur per maand.
Die uren tellen alleen wanneer zij werkelijk uit betaald werk verdwijnen of aantoonbaar extra productie mogelijk maken. Dezelfde verbetering mag niet tegelijk als tijdbesparing, foutreductie en extra omzet worden opgenomen. Ook niet-bestede capaciteit is geen voordeel. Een medewerker die sneller klaar is maar geen ander werk oppakt, creëert geen directe kasbesparing.
De omgekeerde berekening voorkomt koopdruk. Eerst wordt vastgesteld welke netto opbrengst nodig is, daarna pas welk model of welke infrastructuur daarbij past. Zo kan een organisatie besluiten dat een eenvoudigere router, betere documentselectie of strengere outputlimiet meer oplevert dan een duurder model.
De scenario’s voor drie jaren
In het lage scenario stijgt de gemeten tijdwinst van 14 uur per maand in 2027 naar 17 uur in 2028 en 20 uur in 2029. In het middenscenario zijn dat 42, 51 en 60 uur. Het hoge scenario gebruikt 88, 105 en 122 uur per maand. De verschillen verbeelden adoptie en procesverbetering, niet een voorspelde modelprijs.
De lage uitkomst laat zien wat er gebeurt wanneer een pilot technisch werkt maar weinig breed wordt gebruikt. Het middenscenario veronderstelt dat teams terugkerende taken standaardiseren en de foutcontrole beheersen. Het hoge scenario vraagt structureel volume, goede bronselectie en voldoende taken met een hoge uurwaarde. Zonder die voorwaarden is het hoge pad geen basisbegroting.
De bedragen zijn netto na de genoemde inrichting en terugkerende kosten, maar vóór belasting en financiering. API-tarieven kunnen wijzigen en lokaal stroomverbruik kan afwijken. Daarom horen ze ieder kwartaal opnieuw te worden ingevuld met facturen, loggegevens en werkelijk geaccepteerde taken.
Wanneer de keuze rationeel wordt
Voor een Europese onderneming die gevoelige documenten intern wil verwerken en piekbelasting moet opvangen begint een verstandige proef met het meten van het huidige proces. Noteer per taak de menselijke doorlooptijd, het aantal fouten, de herstelminuten en de externe kosten. Daarna krijgt het model precies dezelfde taken. Alleen het verschil tussen beide routes kan aan de inzet worden toegeschreven.
Documentselectie is vaak de goedkoopste eerste verbetering. Verwijder duplicaten, oude versies en irrelevante bijlagen voordat het model draait. Leg bij ieder antwoord vast welke bronpassages zijn gebruikt. Daardoor dalen tokens en controlewerk tegelijk, zonder dat een grotere context automatisch als voordeel wordt geboekt.
Een router kan eenvoudige taken naar een klein of goedkoop model sturen en alleen risicovolle uitzonderingen escaleren. Dat is vaak robuuster dan alles door het krachtigste model te laten lopen. De router zelf moet wel worden getest, want verkeerd afgeprijsde taken kunnen fouten juist onzichtbaar maken.
Vier meetwaarden zijn voldoende om de eerste maand bestuurbaar te maken. Noteer de kosten per geaccepteerde taak, het percentage dat bij de eerste poging slaagt, de menselijke herstelminuten en de totale doorlooptijd. Bekijk het gemiddelde én de slechtste tien procent. Juist lange uitlopers veroorzaken gemiste deadlines en onverwachte personeelskosten. Een lager gemiddelde zonder verbetering van die staart kan voor tijdkritisch werk nog steeds een slechte keuze zijn.
Gebruik daarnaast een controlegroep. Laat een deel van de taken gedurende de proef via het bestaande proces lopen, zodat seizoensdrukte, nieuwe medewerkers of veranderde documentkwaliteit niet ten onrechte aan het model worden toegeschreven. Vergelijk dezelfde taaksoort en dezelfde acceptatiegrens. Pas wanneer het verschil enkele weken standhoudt, is opschalen verdedigbaar. Deze aanpak kost discipline, maar voorkomt dat één geslaagde demo wordt verward met een structureel verdienmodel.
Beveiliging en continuïteit verdienen een afzonderlijke begrotingsregel. Bepaal welke gegevens de omgeving mogen verlaten, wie logs kan zien, hoe lang invoer wordt bewaard en wat er gebeurt bij uitval. Een reserve-API of handmatige noodroute kost geld, maar kan bij tijdkritisch werk goedkoper zijn dan stilstand.
De conclusie volgt daarom niet uit één prijs of benchmark. Mistral kan economisch aantrekkelijk zijn wanneer de gemeten tijdwinst boven 26,0 uur per maand komt en de kwaliteit onder normale omstandigheden standhoudt. Onder die grens is optimaliseren van het bestaande proces, betere retrieval of een kleinere proef rationeler.
Wie lid is van De Belegger en vragen heeft over deze analyse kan de code GRAAG mailen aan info@debelegger.nl.
Opmerkingen