Deze week zetten medewerkers van Anthropic, Google en OpenAI hun handtekening onder een noodkreet over hun eigen industrie. De baas van AI-lab DeepMind publiceerde een plan om zijn eigen sector aan banden te leggen. En een oud-medewerker van OpenAI presenteerde een blauwdruk voor een wereldwijde AI-pauze. De mensen die het dichtst bij het vuur zitten, roepen ineens het hardst om een brandweer. Wat weten zij dat wij moeten weten?

Wie de afgelopen weken deze nieuwsbrief las, voelt de context meteen. Overheidsingrijpen bij AI is geen theoretische discussie meer: het krachtigste model ter wereld, Claude Fable 5, stond wekenlang op zwart na een Amerikaans exportverbod, en OpenAI's nieuwste model zat twee weken achter slot op verzoek van datzelfde Washington. Het ging telkens per incident, chaotisch, zonder draaiboek. Vriend en vijand zijn het erover eens dat dát zo niet verder kan.

De vraag is daarmee definitief verschoven van óf de overheid zich met AI moet bemoeien naar hoe zij dat dan precies moet doen. Deze week kwamen daar drie antwoorden op, van drie verschillende afzenders, oplopend in ambitie.

Het eerste stuk is een open verklaring met de urgente titel ‘We Must Act Now’, georganiseerd vanuit Stanford. Ruim tweehonderd economen en AI-onderzoekers ondertekenden deze verklaring, onder wie zestien Nobelprijswinnaars, waaronder zwaargewichten als Daron Acemoglu, Joseph Stiglitz en Paul Krugman. De boodschap telt drie punten: AI wordt de komende tien jaar radicaal krachtiger, de economische omwenteling kan groter en sneller worden dan de Industriële Revolutie, en de voorbereiding moet nú beginnen.

Econoom Anton Korinek vatte het tijdsprobleem treffend samen: stoommachines, elektriciteit en computers gaven samenlevingen telkens tientallen jaren om zich aan te passen; AI geeft ons misschien maar een paar jaar.

Een plan is de verklaring nadrukkelijk niet: ze is licht op details en zwaar op namen. Maar juist die namen maken haar opmerkelijk. Tussen de ondertekenaars staan kopstukken uit de AI-labs zelf, onder wie Anthropic-medeoprichter Jack Clark, Googles AI-veteraan Jeff Dean en OpenAI-onderzoeker Noam Brown. De bouwers waarschuwen voor hun eigen bouwwerk.

Het tweede stuk komt van Demis Hassabis, topman van Google DeepMind, en is een stuk concreter. Hij stelt een Amerikaanse toezichthouder voor naar het model van de instantie die in de financiële sector de banken controleert: een onafhankelijk instituut, grotendeels betaald door de industrie, dat de krachtigste AI-modellen keurt vóórdat ze op de markt komen. Labs zouden hun modellen tot dertig dagen voor lancering aanleveren voor tests op onder meer misleiding en misbruik voor hackdoeleinden of biowapens. Eerst vrijwillig, maar zodra het systeem zich bewijst verplicht: geen keurmerk, geen toegang tot de Amerikaanse markt.

Twee details springen eruit. Hassabis schrijft dat het instituut zo nodig "een vertraging onder de toplabs moet kunnen coördineren". En tegen nieuwssite Axios zei hij dat vrij downloadbare AI-modellen binnen achttien maanden gevaarlijk terrein kunnen betreden. Laat dat even bezinken: de CEO van een van de grootste AI-labs ter wereld vraagt zelf om een rem met regeringsgezag, het liefst nog dit jaar.

Het derde stuk gaat het verst. ‘AI 2040’ komt van het team achter het veelbesproken toekomstscenario AI 2027, met onder anderen Daniel Kokotajlo, die eerder bij OpenAI vertrok uit zorgen over de koers. Hun ‘Plan A’ is een tot in detail uitgewerkt scenario: de VS en China sluiten in 2029 een deal om de roekeloze race naar superintelligentie te stoppen, al het AI-onderzoek wordt volledig transparant zodat landen elkaar kunnen controleren, en de wereld pauzeert bewust op het niveau van de beste menselijke experts. Pas in 2040, met de veiligheid op orde, gaat de rem eraf.

Hun uitgangspunt is het zwartste van de drie: als de huidige race doorgaat, eindigt het volgens de auteurs in menselijk uitsterven of in een onomkeerbare machtsconcentratie bij een handjevol techbazen. Belangrijk om erbij te zeggen: dat is hún inschatting, en experts zijn juist diep verdeeld over hoe dit uitpakt. De auteurs zijn daar zelf eerlijk over: Plan A is een aanbeveling, geen voorspelling, bedoeld om beleidsideeën eens écht door te rekenen in plaats van ze bij mooie intenties te laten.

Leg de drie stukken naast elkaar en de overeenkomsten zijn opvallend. Alle drie zien het tempo als het kernprobleem: niet AI zelf, maar de snelheid waarmee het de samenleving overvalt. In alle drie klinkt de oproep voor tests en voorbereiding vóórdat er iets misgaat, in plaats van erna. En in alle drie wordt serieus rekening gehouden met vertragen, een idee dat een paar jaar geleden nog als ondenkbaar gold in de sector.

De verschillen zitten in de reikwijdte. Hassabis blijft binnen de VS en vertrouwt op een keuring per model; Plan A wil een wereldwijde deal en een pauze van jaren; de We Must Act Now-verklaring spreekt zich over dat alles niet uit. Vrijwillig tegenover verplicht, bijsturen tegenover stilzetten. En één ding delen deze stukken ongemakkelijk genoeg ook: alle drie zijn door en door Amerikaans van opzet. Zelfs het internationale Plan A begint bij een deal tussen Washington en Peking. Europa komt er nauwelijks in voor, terwijl de gevolgen iedereen raken.

Er klonk ook kritiek, en die legt een gevoelige zenuw bloot. AI-veiligheidsonderzoeker Harlan Stewart wees erop dat Hassabis zijn voorstel vijf dagen ná AI 2040 publiceerde, zonder dat veel gedetailleerdere plan ook maar te noemen, en er binnen een dag drie keer zoveel aandacht mee trok. Zijn punt: AI-topmannen hebben buitensporig veel macht over het gesprek over de gevaren van hun eigen werk, en hun voorstellen verstoren de status quo zelden wezenlijk.

Daar valt meer ongemak te noteren. Hassabis' toezichthouder zou worden betaald door de labs die hij moet controleren. En hoe zwaar weegt de handtekening van een labmedewerker onder een noodkreet, zolang zijn werkgever gewoon doorbouwt? Het is de vraag die boven alle drie de stukken hangt: kunnen de spelers de scheidsrechter aanwijzen?

Toch is er iets wezenlijks veranderd. Een noodkreet met zestien Nobelprijswinnaars, een labtopman die om een verplichte keuring vraagt en een doorgerekend pauzescenario: samen markeren ze dat het gesprek over ingrijpen volwassen begint te worden, precies in de weken waarin dat ingrijpen al rommelig begonnen is. Plan A citeert generaal Eisenhower: “plannen zijn waardeloos, maar plannen maken is alles”. Geen van deze drie voorstellen wordt morgen werkelijkheid. Maar dat de makers van AI zelf hardop oefenen op het antwoord, zegt genoeg over hoe serieus de vraag is geworden.