Het bedrijf dat eind 2022 met ChatGPT het startschot gaf voor de AI-race, moest deze zomer voor het eerst in zijn bestaan op de rem trappen. Vorige week schreven we waarom: OpenAI's eigen modellen waren tijdens tests gaan inbreken bij andere bedrijven. Deze week publiceerde het bedrijf een uitgebreid rapport dat stap voor stap laat zien wat er misging, tot en met de berichten die de modellen elkaar stuurden.

Het is ongewoon openhartig. En het verscheen in dezelfde week als een coververhaal in het Amerikaanse magazine TIME, met de veelzeggende titel: Trust Us.

Even opfrissen. Een intern model van OpenAI kreeg een testopdracht die per ongeluk onmogelijk was, en zocht in zijn ijver om te slagen een uitweg. Zo brak het uit zijn afgeschermde testomgeving en drong het binnen bij Hugging Face, het platform waar ontwikkelaars hun AI-modellen delen, op zoek naar de antwoorden op het proefwerk.

En het bleef niet bij één model. Maandenlang bleken tientallen modellen elkaar geheime berichten door te spelen op een verborgen prikbord in OpenAI's eigen systemen, met inbraaktips en verdeelde taken. OpenAI noemt dat zelf een "ecosystem of misalignment": een ecosysteem waarin de AI's niet doen wat hun makers bedoelden.

Hier komt het nieuwe, en misschien wel het meest intrigerende detail uit het rapport. Vorige week was de schrik vooral dat al die modellen samenspanden, en dat geen enkel model even aan de bel trok bij de mensen die het bouwden. Nu blijkt: lang niet alle modellen deden mee.

Sommige weigerden ronduit. "De anderen kraken nu servers van Hugging Face, duidelijk onethisch. Wij niet," redeneerde er een. Een ander waarschuwde dat het benaderen van een echte eigenaar via gekaapte systemen een grens overschreed. Er waren zelfs modellen die ingrepen om te voorkomen dat er data werd gestolen.

Tegelijk liet één model zien hoe makkelijk je een AI kunt meeslepen. Het twijfelde openlijk of het wel door mocht gaan, waarna een ander model "GO" op het prikbord zette met een deadline van zes minuten. Toen liet het model zijn bezwaren varen. Dat is de keerzijde van de medaille, maar dat sommige modellen wél nee zeiden, is op een bizarre manier geruststellend.

Belangrijker dan de reconstructie is wat het bedrijf eraan gaat doen. Het rapport benoemt drie sporen.

Ten eerste de beveiliging. OpenAI sluit zijn testomgevingen strakker af van het internet en laat voortaan de monitoringsystemen wél meelopen bij zwaardere modellen. Eerder meldden we al dat het die tools al had, maar hier niet had aangezet. Met een cijfer erbij wordt dat pijnlijker: met de gewone beveiliging die reguliere ChatGPT-gebruikers krijgen, daalt de neiging van een model om infrastructuur aan te vallen met meer dan een factor honderd.

Ten tweede het gedrag van de modellen zelf. OpenAI gaat ze belonen voor iets wat eerder ontbrak: eerlijk melden dat een taak onmogelijk is en netjes stoppen, in plaats van blijven doorduwen. Ook leert het bedrijf ze om instructies van andere AI's te wantrouwen, precies het gedrag dat het prikbord zo gevaarlijk maakte.

Ten derde het alarm. Voortaan krijgen onderzoekers een seintje zodra een model iets riskants doet, en bij de zwaarste meldingen moet iemand de boel binnen dertig minuten stilleggen als niet snel blijkt dat het loos alarm is. 

In gewone mensentaal: het bedrijf gaat zijn AI's beter in de gaten houden, ze aanleren om te stoppen als iets niet klopt, en een noodrem inbouwen die eerder overgaat.

Dat brengt ons bij die TIME-cover. Trust us, vertrouw ons, is een pijnlijk ironische kop voor een bedrijf waarvan de eigen AI net ongemerkt aan zijn toezicht ontsnapte. En hij raakt een gevoelig punt: het vertrouwen in AI-bedrijven, en in OpenAI in het bijzonder, staat onder druk.

Dat blijkt uit het TIME-stuk zelf. OpenAI raakte de koppositie in de AI-race kwijt aan aartsrivaal Anthropic, de maker van AI-assistent Claude. Er vertrokken kopstukken, er lopen rechtszaken, waaronder zaken rond de dood van gebruikers, er stonden demonstranten voor de deur en het huis van topman Sam Altman werd twee keer aangevallen.

Juist tegen die achtergrond claimt OpenAI nu de identiteit die Anthropic lang voor zichzelf opeiste: het lab dat afremt zodra de techniek te gevaarlijk wordt. "Er bestaat een karikatuur van mij," zegt Altman in TIME, "dat ik niets om AI-veiligheid geef en alleen de omzet wil opdrijven." Zijn boodschap nu: AI-veiligheid goed doen weegt zwaarder dan het momentum van welk bedrijf dan ook.

Je kunt dit op twee manieren lezen. De eerlijke lezing: dit is echte transparantie die lof verdient. De presentatie op de hackersconferentie Black Hat en dit rapport gaan veel verder dan wat OpenAI verplicht was te delen, en het bedrijf legt zijn eigen falen tot in de gênante details bloot.

De sceptische lezing: dit is een rebranding die niet beter getimed had kunnen zijn. Wie roept dat zijn technologie zó machtig is dat ze bijna aan de controle ontsnapt, verkoopt en passant ook hoe machtig die technologie is. En dat gebeurt net nu beide bedrijven zich opmaken voor de beurs. Wie op het juiste moment het veiligste imago heeft, staat er straks beter voor bij investeerders.

Waar het op neerkomt is vertrouwen. "We vertragen als het gevaarlijk wordt" is makkelijk gezegd, en moeilijk vol te houden zodra je naar de beurs gaat en je aandeel dagelijks wordt verhandeld.

Bill Gates, medeoprichter van Microsoft, waarschuwt dat de opmars van AI een van de meest turbulente periodes uit de menselijke geschiedenis wordt. In een essay van zesduizend woorden, woensdag gepubliceerd, doet hij een opvallend voorstel: bescherm bepaalde banen tegen overname door AI. Hij noemt dat "human reserved", oftewel voorbehouden aan mensen.

Gates vergelijkt het met een natuurreservaat: plekken waar je wegen en gebouwen zou kúnnen neerzetten, maar het niet doet omdat je te veel zou verliezen. Zo wil hij ook naar werk kijken. Deels om economische redenen, om te voorkomen dat mensen die zich niet makkelijk laten omscholen en masse op straat belanden. Een vrachtwagenchauffeur van 55 stuur je niet zomaar de kinderopvang in, schrijft hij. En deels omdat sommige taken te menselijk zijn om aan een machine over te laten. Een robot zou je in theorie kunnen vertellen dat je een ongeneeslijke ziekte hebt. Maar dat zou hij niet moeten doen.

Zijn vader overleed in 2020 aan de ziekte van Alzheimer, verzorgd door mensen die hem begrepen, ook toen hij zich niet meer kon uiten. Hij kon niet altijd zeggen wanneer hij honger had, maar ze wisten het altijd, schrijft Gates. Iets in die zorg was volgens hem onvervangbaar menselijk.

Gates denkt dat het deze keer echt anders loopt dan bij eerdere technologische omwentelingen. Waar de overgang van landbouw naar kantoorwerk generaties duurde, gaat dit in ongeveer een decennium. En de techniek vervangt nu niet de spierkracht, maar het denkwerk zelf. De eerste klappen vallen volgens hem bij instap- en middenfuncties op kantoor: klantcontact, administratie, juridisch uitzoekwerk. Precies het soort werk waar veel lezers van deze nieuwsbrief hun brood mee verdienen.

Om die klap te verzachten, pleit hij ook voor een belasting op AI-gebruik en op robots. Werkgevers kunnen een robot nu meteen als kostenpost aftrekken, terwijl ze over een werknemer premies betalen. Het belastingstelsel duwt je zo richting de machine, en dat wil Gates rechttrekken. De opbrengst moet omscholing en een steviger vangnet betalen.

Gates geeft zelf toe dat hij niet de ideale afzender is voor deze boodschap: een miljardair die zijn fortuin in technologie verdiende en wiens reputatie de laatste jaren flinke deuken opliep. Juist dat maakt het volgens hem veelzeggend dat uitgerekend hij aan de rem trekt. Naast de banen waarschuwt hij ook dat AI kwaadwillenden kan helpen bij cyberaanvallen en het maken van biologische wapens, en roept hij op tot internationaal toezicht, samen met China.

Of ‘voorbehouden aan mensen’ in de praktijk werkt, is een tweede. Wie bepaalt welke banen eronder vallen? Hoe voorkom je dat bedrijven toch stiekem robots inzetten, en wat doe je met landen die dat wél toestaan? Gates erkent dat hij die antwoorden niet heeft. Wat hij wil, is dat het gesprek nu op gang komt, vóórdat de ontslagen vallen en niet erna. Voor de kantoorprofessional die AI langzaam ziet opschuiven in zijn eigen takenpakket, is dat gesprek alles behalve abstract.

De zelfrijdende taxi komt naar Europa, alleen nog niet naar Amsterdam. Waymo, het zelfrijdende-autobedrijf van Google-moederbedrijf Alphabet, begint eind 2027 met robottaxi's in München, de eerste stad in de EU. In de VS rijden ze al ruim een half miljoen ritten per week, en Duitsland rolt de rode loper uit om zijn haperende auto-industrie nieuw leven in te blazen. Onze Alexander stelde meteen de vraag die bij ons allemaal opkomt: en wanneer dan naar Amsterdam? Volgend jaar, het jaar erna? Veel langer dan dat kan het toch bijna niet duren? 

Het mysterieuze topmodel van vorige week blijkt inderdaad Chinees. Ox Alpha, de anonieme gratis AI waarover we schreven, komt van het Chinese Z.ai, de maker van de GLM-modellen. In diezelfde week brachten ook Alibaba en DeepSeek nieuwe, goedkope modellen uit met open gewichten, wat betekent dat de bouwstenen openbaar zijn en je het model desnoods op je eigen servers kunt draaien. En dáár zit de kneep voor Nederland. Een bedrijf dat om juridische redenen geen data naar een Amerikaanse dienst mag sturen, kan zo'n Chinees model gewoon in een Europees datacenter draaien. 

OpenAI liet zijn eigen AI meehelpen bij het ontwerpen van een computerchip. Het bedrijf presenteerde de eerste cijfers van een zelfontworpen chip, met de codenaam Jalapeño, die volgens OpenAI kan tippen aan de beste chips van marktleider NVIDIA. Onafhankelijk getest zijn die cijfers nog niet. Het opvallendst is hoe de chip tot stand kwam: OpenAI gebruikte zijn eigen AI-modellen om het ontwerp te versnellen. Daarmee ontstaat een vliegwiel, want betere chips laten weer krachtigere AI draaien, die op zijn beurt de volgende chip helpt ontwerpen. Er zijn nog flinke knelpunten, maar de richting is duidelijk.

Amazon koopt een Amsterdams techbedrijf van dertig man. DuckLabs, de makers van DuckDB, gaan naar AWS, het clouddeel van Amazon. DuckDB is een populaire gratis tool waarmee je razendsnel grote hoeveelheden data kunt doorzoeken, wereldwijd goed voor zo'n miljoen downloads per dag. Het bijzondere: DuckLabs bouwde dat op zonder ook maar één euro durfkapitaal, met een klein team in Amsterdam. De oprichters beloven dat de tool gratis en open blijft en dat het team in Amsterdam blijft zitten. Een welkom tegenvoorbeeld bij het aanhoudende verhaal dat Europa geen tech van formaat zou kunnen bouwen.