Trumps AI-akkoord maakt veiligheid een voordeel voor de grootste labs

In het kort

Donald Trump en de leiders van zes grote AI-bedrijven hebben vrijwillige afspraken gemaakt over interne controles, onafhankelijke evaluaties en toezicht door het bestuur. De afspraken kunnen het vertrouwen van zakelijke klanten vergroten, maar ze bevatten geen wettelijke handhaving of boetes. Omdat een groot deel van de ondertekenaars al eigen veiligheidsraamwerken heeft, zit de economische winst vooral in een gedeelde ondergrens. De vaste kosten daarvan wegen relatief veel zwaarder voor kleinere uitdagers dan voor de grootste labs.

Op 29 september tekenden de Amerikaanse president en de leiders van Google, Anthropic, Meta, OpenAI, xAI en Nvidia een document met vier lagen van toezicht. Het akkoord is volgens Trump moreel bindend. Dat is politiek betekenisvol, maar juridisch iets anders dan een vergunning, meldplicht of boetebevoegdheid. Wie wil weten wat de afspraak waard is, moet daarom niet alleen naar de woorden kijken, maar naar de prikkel om zwakke plekken daadwerkelijk te herstellen.

De kern is eenvoudig. Een AI-bedrijf moet risico’s tijdens training en gebruik volgen, een intern team moet toetsen of de controles werken, een externe partij moet onafhankelijk evalueren en een aparte bestuurscommissie moet de rapporten ontvangen en herstel afdwingen. De openbaar gemaakte tekst van het akkoord noemt cyberveiligheid, biologische en chemische risico’s en ongewenste toegang tot technische systemen. De bedrijven zullen bovendien geregeld over normen en werkwijzen overleggen.

Dat klinkt stevig, maar de beslissende vragen blijven open. Wie kiest en betaalt de evaluator, welke testresultaten worden openbaar, wanneer is een model te riskant om uit te brengen en wat gebeurt er als een bestuurscommissie herstel uitstelt? Zonder vergelijkbare rapportage kan ieder bedrijf dezelfde belofte anders invullen. Voor beleggers en zakelijke klanten is dat het verschil tussen controle die risico verlaagt en controle die vooral vertrouwen uitstraalt.

Vier lagen toezicht zonder wettelijke stok

De vier lagen vormen samen een keten. Interne monitoring kan een nieuw vermogen of afwijkend gedrag signaleren. Een tweede intern team moet voorkomen dat de maker zijn eigen controle ongezien overslaat. Een externe evaluator brengt afstand in de beoordeling, terwijl een onafhankelijke bestuurscommissie de bevindingen op het hoogste niveau moet laten landen. In theorie verkleint dit zowel technische blinde vlekken als de commerciële druk om een lancering door te zetten.

Het zwakke punt is dat de keten vrijwillig blijft. Het document spreekt over mogelijk latere vastlegging in wet of regels, maar bepaalt nu geen minimale testdrempel, openbaar register, uniforme incidentdefinitie of sanctie. De externe evaluator kan onafhankelijk zijn in zijn oordeel en tegelijk economisch afhankelijk blijven van de opdrachtgever. Ook is niet duidelijk of de bestuurscommissie een modelrelease kan blokkeren. De waarde van de afspraak hangt dus af van uitvoering die buiten het document ligt.

De visualisatie gebruikt daarom een zwakste-schakelregel. Die regel is geen officiële score, maar maakt het mechanisme zichtbaar. Een perfect intern dashboard compenseert geen oppervlakkige externe toets, en een goed auditrapport verlaagt het risico niet als herstelacties blijven liggen. Voor een geloofwaardige standaard moeten alle lagen meetbaar zijn en moet duidelijk worden wie een onvoldoende kan afdwingen.

Veel bouwstenen bestonden al

Voor de grote labs begint het werk niet bij nul. Anthropic heeft een Responsible Scaling Policy die zwaardere veiligheidsmaatregelen koppelt aan gevaarlijkere capaciteiten. Google DeepMind publiceerde in april 2026 de derde versie van zijn Frontier Safety Framework met drempels voor ernstige risico’s en een uitgebreider beoordelingsproces. OpenAI werkt met een Preparedness Framework waarin capaciteits- en veiligheidsrapporten een rol spelen bij besluiten over uitrol. Ook Meta beschrijft releasebesluiten in een Frontier AI Framework.

Dat maakt het akkoord niet waardeloos. Een gezamenlijke ondergrens kan interne afspraken minder vrijblijvend maken, externe evaluatie normaliseren en raden van bestuur dwingen om technisch risico als ondernemingsrisico te behandelen. Vooral zakelijke afnemers profiteren als leveranciers aantoonbaar dezelfde begrippen gebruiken. Auditors, beveiligingsbedrijven en gespecialiseerde testlabs krijgen eveneens een grotere markt. Het extra effect is alleen kleiner wanneer een ondertekenaar de meeste onderdelen al uitvoert.

De Amerikaanse regering kiest daarmee voorlopig voor snelheid en zelfregulering. Haar nationale beleidskader voor AI van maart 2026 vraagt het Congres onder meer om technische capaciteit bij veiligheidsdiensten en steun voor kleine bedrijven, maar geeft voor frontiermodellen geen vergelijkbaar federale handhavingsstelsel. Europa zit aan de andere kant van het spectrum. De Europese Commissie meldt dat de AI Act sinds 2 augustus 2026 breed van toepassing is en dat het AI Office bij algemene AI-modellen documentatie kan opvragen, correcties kan eisen en boetes kan opleggen.

Die vergelijking heeft een belangrijke nuance. Meer regels zijn niet automatisch betere regels. Een starre test kan snel verouderen, toezichthouders kunnen achterlopen en hoge nalevingskosten kunnen concurrentie juist verminderen. Het Amerikaanse akkoord kan sneller meebewegen met nieuwe risico’s. De sterkste tegenwerping tegen kritiek op vrijwilligheid is daarom terecht: een bruikbare norm die vandaag begint, kan meer risico wegnemen dan perfecte wetgeving die jaren op zich laat wachten.

Vaste kosten geven schaal een voordeel

De economische verdeling draait om vaste kosten. Een onafhankelijk auditprogramma, gespecialiseerde risicoteams en rapportage aan het bestuur worden niet vanzelf tien keer zo duur wanneer de omzet tien keer groter is. Daardoor daalt de last als percentage van de omzet naarmate een lab groter wordt. De grootste ondertekenaars kunnen hun bestaande teams bovendien hergebruiken, terwijl een uitdager een nieuw controlesysteem moet opbouwen voordat de omzet op schaal is.

Rekenvoorbeeld: stel dat een programma 40 medewerkers vraagt tegen gemiddeld 250.000 dollar volledig belaste loonkosten. Dat is bruto 10 miljoen dollar per jaar. Tel 3 miljoen voor externe audits en 1 miljoen voor bestuur, rapportage en testinfrastructuur op, dan komt de bruto jaarrekening op 14 miljoen, oftewel 1,17 miljoen per maand. Als 6 miljoen aan bestaand veiligheidswerk kan worden hergebruikt, resteert netto 8 miljoen per jaar, of ongeveer 667.000 dollar per maand. Dit zijn aannames om de orde van grootte te laten zien, geen kosten van een genoemde onderneming.

Bij 20 miljard dollar omzet is die netto 8 miljoen gelijk aan 0,04 procent van de jaaromzet. Bij 200 miljoen omzet is hetzelfde bedrag 4 procent. De relatieve last is dan honderd keer zo groot. Een groot lab profiteert dus van meer vertrouwen tegen een kleine omzetlast, terwijl een kleinere aanbieder mogelijk minder geld overhoudt voor productontwikkeling. Klanten kunnen meebetalen via hogere prijzen en aandeelhouders via een lagere marge.

Dat schaalvoordeel kan de markt verder concentreren, maar hoeft dat niet te doen. Gezamenlijke testmethoden, gedeelde evaluatiecapaciteit of proportionele eisen kunnen de vaste rekening voor kleinere bedrijven verlagen. De grens moet dan liggen bij het risico van het model, niet simpelweg bij de omvang van het bedrijf. Een kleine aanbieder met een krachtig model kan immers meer risico veroorzaken dan een groot bedrijf met een beperkt systeem.

De omgekeerde rekensom begint bij schade

De gebruikelijke vraag is hoeveel veiligheid kost. De omgekeerde vraag is nuttiger: hoeveel schade moet het programma voorkomen om zichzelf terug te verdienen? Met netto 8 miljoen dollar kosten per jaar en 200 miljoen directe schade per ernstig incident ligt het financiële break-evenpunt bij een daling van de jaarlijkse incidentkans met 4 procentpunt. De formule is 8 gedeeld door 200, oftewel 0,04.

Ook dit is een rekenvoorbeeld. Er bestaat geen betrouwbare openbare kans voor een grote cyber-, bio- of modelcontrolefout die op alle labs toepasbaar is. De schade kan bovendien veel groter of kleiner zijn en valt deels buiten de onderneming, bijvoorbeeld bij slachtoffers, nutsbedrijven of overheden. Juist daarom is alleen een interne kosten-batenanalyse onvoldoende. Een bedrijf kan rationeel minder bescherming inkopen dan maatschappelijk wenselijk als een deel van de schade bij anderen terechtkomt. Economen noemen dat een externaliteit.

Wie profiteert van betere controle is breder dan de aandeelhouder. Zakelijke klanten krijgen minder verstoringsrisico, verzekeraars kunnen risico beter prijzen en bestuurders krijgen eerder zicht op een probleem. Wie betaalt hangt af van de concurrentie. Bij sterke marktmacht kan een lab kosten doorberekenen; bij scherpe concurrentie komen ze eerder in de marge terecht. De belastingbetaler blijft aan de lat als publieke diensten of infrastructuur worden geraakt en de veroorzaker niet volledig aansprakelijk is.

Drie toezichtspaden voor 2027 tot 2029

Voor de komende drie kalenderjaren zijn drie samenhangende kostenpaden nuttiger dan een schijnpreciese voorspelling. In het vrijwillige pad start de netto extra rekening in 2027 op 8 miljoen dollar en groeit die jaarlijks met 5 procent door meer tests en personeel. Dat levert 8,0 miljoen in 2027, 8,4 miljoen in 2028 en 8,82 miljoen in 2029 op, samen afgerond 25,2 miljoen.

In het pad met een gedeelde industrienorm begint de rekening op 15 miljoen en groeit zij met 8 procent. De bedragen worden dan 15,0 miljoen, 16,2 miljoen en bijna 17,5 miljoen, samen 48,7 miljoen. In het federale pad veronderstellen we 30 miljoen startkosten en 10 procent jaarlijkse groei: 30,0 miljoen, 33,0 miljoen en 36,3 miljoen, samen 99,3 miljoen. De formule is het beginbedrag maal één plus de groei, ieder jaar opnieuw.

De scenario’s zijn geen voorspelling van Amerikaanse wetgeving en zeggen niets over de kans op ieder pad. Ze tonen alleen wat strengere documentatie, vaker testen en meer externe toetsing kunnen betekenen onder vaste aannames. De grootste beperking is dat investeringen in betere tooling later ook kosten kunnen verlagen. Een onderneming die evaluaties automatiseert of een sector die infrastructuur deelt, kan de groei afremmen. Omgekeerd kan een nieuw risico het aantal tests veel sneller laten stijgen.

Voor beleggers is de relevante indicator daarom niet alleen de hoogte van de kosten. Belangrijker zijn vergelijkbare incidentmeldingen, de onafhankelijkheid van de evaluator, het mandaat van de bestuurscommissie en bewijs dat een onvoldoende een release werkelijk kan vertragen. Zulke gegevens maken het mogelijk om veiligheidsuitgaven te verbinden aan een lager operationeel risico. Zonder die gegevens blijft de afspraak vooral een signaal. Lees ook: Nieuwe Europese AI-Act betekent mogelijke ondergang van dit bedrijf.

Een bruikbare vloer is nog geen vangrail

Mijn oordeel is dat het akkoord een bruikbare vloer legt. Het maakt externe evaluatie en toezicht op bestuursniveau moeilijker om als vrijblijvende bijzaak af te doen. Voor grote labs is dat waarschijnlijk te dragen en voor klanten kan het de informatiepositie verbeteren. Tegelijk is de stap economisch aantrekkelijk voor gevestigde partijen: zij krijgen vertrouwen en een hogere toetredingsdrempel, terwijl de afspraken geen publieke handhaver, uniforme rapportage of sanctie bevatten.

De norm wordt pas een echte vangrail als drie onderdelen controleerbaar worden. Evaluatoren moeten aantoonbaar onafhankelijk zijn, incidenten en testuitkomsten moeten onder vergelijkbare definities worden gemeld en een mislukte toets moet tot een vooraf bekende herstelactie leiden. De overheid hoeft niet elke technische test te schrijven, maar wel de uitkomst waarop ingrijpen volgt. Zo blijft ruimte voor een snel veranderende technologie zonder dat iedere onderneming haar eigen voldoende bepaalt.

Mijn conclusie verandert door concreet nieuw bewijs dat de vrijwillige aanpak zonder wet dezelfde discipline oplevert: openbare en vergelijkbare auditrapporten, aantoonbaar uitgestelde modelreleases na een onvoldoende, tijdige incidentmeldingen en herstel dat door een echt onafhankelijke commissie wordt afgedwongen. Blijven die gegevens uit, dan is het akkoord vooral een nuttige bestuursafspraak voor de grootste bedrijven. Het verkleint dan mogelijk risico, maar bewijst niet dat de samenleving voldoende is beschermd.