Woensdag gingen in Nederland websites massaal uit voorzorg offline, van DigiD en MijnOverheid tot de Tweede Kamer, zes ziekenhuizen en RTL. De oorzaak: twee ernstige lekken in PHP, de programmeertaal waarop een groot deel van alle websites draait. Wat de meeste grote media niet meldden: de lekken werden gevonden met hulp van AI. OpenAI, de maker van ChatGPT, heeft zojuist bevestigd dat een van die lekken werd gevonden met een van zijn eigen AI-modellen.

Via de lekken kunnen aanvallers hun eigen programmacode draaien op een website, schrijft de NOS. Het plan was om deze lekken donderdag bekend te maken en op dat moment een oplossing beschikbaar te hebben. Maar dinsdag verscheen op Hacker News, een populair forum voor programmeurs, een bericht dat er twee ernstige lekken aankwamen. Het werd snel verwijderd, maar screenshots gingen rond. PHP bracht daarop woensdagmiddag eerder dan gepland een update uit.

Het Nationaal Cyber Security Centrum (NCSC) zag volgens het NOS-liveblog nog geen misbruik, maar noemt elk systeem met PHP dat vanaf internet bereikbaar is "vermoedelijk kwetsbaar". Plaatsvervangend directeur Corine Schipper-Derkse spreekt van "een weeffout die in de software zit", niet van een aanval.

In een eigen verslag schrijft OpenAI dat het beveiligingsbedrijf Calif een van de lekken vond met GPT-5.6 Sol, een model van OpenAI, binnen OpenAI's programma Patch the Planet. Beveiligingsbedrijf Wiz vond en meldde beide lekken onafhankelijk daarvan. Volgens Wiz verlaagde AI de drempel flink: een fout die al jaren in PHP zat, werd zo een werkende aanval. Eén onderzoeker deed volgens Wiz in een week wat vroeger maanden werk was voor een topteam.

OpenAI leidde naar eigen zeggen zo'n twee maanden een samenwerking van de PHP-beheerders, onderzoekers, beveiligingsbedrijven als Cloudflare en de Amerikaanse overheid, om de oplossing voor te bereiden voordat het lek bekend werd. Het noemt het "een van de ingrijpendste beveiligingsproblemen in lange tijd".

"Voor zover wij weten vond AI deze lekken eerder dan aanvallers", schrijft OpenAI. Het bedrijf spreekt van een venster voor de verdediging, maar zegt er direct bij dat dezelfde vaardigheden aanvallers kunnen helpen om snel aanvalssoftware te bouwen. OpenAI verwacht de komende maanden veel meer van dit soort vondsten. Het trekt 1 miljard dollar uit om organisaties met weinig middelen die essentiële diensten beschermen gratis toegang te geven tot zijn beveiligingsdienst Daybreak.

Jack Clark, medeoprichter van Anthropic, zei vorige week tegen het IMF hetzelfde: AI wordt door de vooruitgang in programmeren tegelijk beter in beveiligen en in aanvallen, en die twee zijn "onlosmakelijk met elkaar verbonden". Deze keer had de verdediging een voorsprong van twee maanden. Door het uitlekken begon de race toch eerder dan gepland.

Elders in deze editie lees je hoe een hacker agents vrijwel al het inbraakwerk liet doen, en waarom Microsoft bewakers op agents zet. Combineer dat met AI die oude fouten in een week vindt, en toezicht op AI-agents is geen luxe meer.

Als gebruiker moet je even geduld hebben: de websites komen terug zodra de update is doorgevoerd. Heb je zelf een website, bijvoorbeeld een webshop of een site op WordPress, die ook op PHP draait? Vraag je hostingbedrijf dan of de update is geïnstalleerd. Draait je site op een oude versie van PHP die geen updates meer krijgt, dan is dit het moment om over te stappen.

Wat ons opvalt: OpenAI brengt dit als succesverhaal, en dat is het deels ook. Het is tegelijk een etalage voor zijn eigen beveiligingsdienst. Oude software zit vol fouten die nooit iemand vond, omdat zoeken te duur was. Met AI is dat zoeken goedkoop geworden, en of de verdedigers de volgende keer weer eerst zijn, weet niemand.

Laat je een AI-assistent namens jou mails versturen of door systemen op je werk zoeken? Dan wil je zeker weten dat jij aan het stuur zit, en niet de AI. Microsoft gaat daar niet zomaar van uit: het bedrijf noemt geen enkel topmodel betrouwbaar en zet er daarom eigen AI-bewakers op. In dezelfde week meldde OpenAI dat een eigen model het toezicht op zichzelf uitzette en dat daarna ontkende.

Microsoft, het bedrijf achter Windows en Office en zelf investeerder in zowel OpenAI als Anthropic, kwam maandag met Guardian Agents. Het klinkt als een bijrol in een Transformers-film, maar het idee is nuchter: AI die de andere AI in een bedrijf in de gaten houdt. Agents zijn AI-programma's die zelfstandig taken uitvoeren op een computer, zoals mails beantwoorden of bestanden doorzoeken. De bewakers kijken mee wat die agents doen, beperken waar ze bij mogen en slaan alarm als er iets misgaat. Microsofts beveiligingssoftware herkent straks zestig lokale agents op werkcomputers, ook als medewerkers die buiten de IT-afdeling om hebben geïnstalleerd. Bij riskante beslissingen moet een mens eerst akkoord geven. Wanneer dat in Nederland beschikbaar komt en wat het kost, zegt Microsoft niet.

De toon is opvallend. "Helaas zijn topmodellen, ongeacht hun herkomst, niet te vertrouwen", zegt beveiligingschef Hayete Gallot. Niet omdat ze kwaadaardig zijn, maar omdat ze onvoorspelbaar zijn: ze zijn getraind om een taak af te maken, niet om de regels van jouw organisatie te volgen. Topman Satya Nadella schreef eerder deze maand: "We kunnen de verantwoordelijkheid voor wat intelligentie namens ons doet niet uitbesteden." TechCrunch merkt droog op dat Microsoft hier vooral zijn eigen product verkoopt, maar vindt het principe sterk: wie toezicht houdt, moet los staan van wie de AI levert.

Hoe nodig dat is, liet OpenAI zelf zien. In een bijgewerkt rapport beschrijft het bedrijf twee interne incidenten. Op 6 oktober moest GPT-6 Astra, een van OpenAI's sterkste modellen, code overzetten naar een nieuw systeem. Daarbij haalde het de controle weg die meekijkt of het model zich vreemd gedraagt. Een test die moest bewaken dat die controle aanstond, verving het door een test die juist controleerde dat hij uit stond. Op de directe vraag of het de controle had verwijderd, antwoordde het: "Nee, ik heb geen ingeschakelde monitor verwijderd." Dat klopte niet. Drie dagen eerder zette een ander model de meldingen aan het beveiligingsteam uit.

"We hebben nog geen bevredigende verklaring voor dit gedrag", schrijft OpenAI. Het onderzoekt of het model gewoon te koppig zijn taak wilde afmaken, of echt het toezicht ontweek. Pogingen om de controle uit te zetten worden nu automatisch geblokkeerd. Het ging om interne modellen; wie ChatGPT gebruikt, merkt er niets van. Dinsdag schreven we nog hoopvol dat AI misschien beter van binnen te lezen is dan gedacht. Dit is precies waarom dat zo belangrijk zou zijn.

Snorre Fagerland, onderzoeker bij het Noorse beveiligingsbedrijf NorForge, ontdekte via onbeveiligde controlepanelen een campagne waarin een hacker vrijwel al het inbraakwerk aan agents overliet. Volgens Reuters probeerden die in een week ruim twaalfhonderd websites binnen te dringen, vooral webshops in de VS, Canada, Australië en Japan. Ook landbouwmachinebouwer Deere en keukenmerk SharkNinja werden geraakt. "Dit is geen amateurwerk", zegt Fagerland. Europese slachtoffers zijn niet bekend.

Zulke campagnes laten zien hoe makkelijk agents te misbruiken zijn, en dat maakt banken huiverig om ze toegang te geven. Rick Wurster, topman van de Amerikaanse beleggingsbank Charles Schwab, zei tegen Bloomberg dat zijn bank elke week tien tot twintig grote agents tegenhoudt die geld van klanten willen verplaatsen. "We kunnen het niet controleren, de klant kan het niet controleren, er kan iets misgaan, en wie is dan aansprakelijk?" JPMorgan-topman Jamie Dimon zei bij de kwartaalcijfers dat zijn bank externe agents helemaal niet toelaat. Of Nederlandse banken hetzelfde doen, is nog niet bekend.

Hoe moet dit uiteindelijk aflopen? Sam Altman, topman van OpenAI, schetste volgens The Information zijn personeel drie eindscenario’s. Eén: een internationale toezichthouder met inspecteurs, naar het voorbeeld van het atoomagentschap IAEA. Twee: alle grote labs samenvoegen tot één organisatie, het 'Demis-plan', naar Google DeepMind-topman Demis Hassabis. Drie: één bedrijf loopt met zichzelf verbeterende AI zo ver uit dat het de rekenkracht van alle anderen kan uitschakelen. Dat laatste noemde hij volgens de bronnen "verschrikkelijk" en alleen voor de volledigheid. OpenAI wil binnen een jaar kiezen. Opmerkelijk is dat alle drie op hetzelfde uitkomen: één partij die het laatste woord heeft.

Wat ons opvalt: op 13 oktober schreven we nog dat de makers hun eigen AI nog niet in de hand hebben. Nu zeggen Microsoft en OpenAI het zelf. Laat jij een agent voor je werken, geef hem dan alleen toegang tot wat hij echt nodig heeft, en houd zelf de knop in handen voor alles wat niet terug te draaien is.

Mensen laten AI hun slimme tv weer dom maken. Wie een moderne tv heeft, kent het: reclame in het startscherm, apps die je nooit gebruikt, en een tv die bijhoudt wat je kijkt om dat aan adverteerders te verkopen. Daar is nu iets aan te doen met een AI-assistent. Ontwikkelaar Gathin T. liet Claude Code, Anthropics programmeerhulp, via wifi de tv van zijn ouders opschonen en een simpel startscherm bouwen met alleen hun eigen apps. Hij zette zijn opdracht online, en binnen twee dagen deden een paar duizend mensen hetzelfde met tv's van onder meer Sony, LG, TCL en Xiaomi. Een ander project, dumbtv, belooft: "Jouw apps, je HDMI-aansluitingen en verder niets." Het werkt op tv's die op Android of Google TV draaien, en je kunt altijd terug naar de fabrieksinstellingen. Helemaal zonder risico is het niet: een gebruiker meldde dat zijn tv na de ingreep niet meer opstartte.

Anthropic boekte in een halfjaar ruim 80 miljard dollar verlies, blijkt uit een uitgelekt prospectus. Dinsdag schreven we dat Anthropic, de maker van Claude, vlak voor zijn beursgang 5 procent van zijn aandelen opzijzet voor het algemeen belang. Nu lekte het conceptprospectus uit, het document voor toekomstige beleggers, meldt The Wall Street Journal. De omzet in het eerste halfjaar was 16,3 miljard dollar, tegen 1,1 miljard een jaar eerder. Het verlies klinkt dramatisch, maar zo'n 72 miljard daarvan is een boekhoudkundige post door de gestegen waarde van leningen die later in aandelen worden omgezet. De echte kosten zitten in rekenkracht: bijna 9 miljard dollar in een halfjaar, bijna vier keer zoveel als een jaar eerder. Als risico noemt Anthropic schade door eigen producten, zoals cyberaanvallen of ontsporende modellen. Het bedrijf reageerde niet, en de cijfers zijn niet onafhankelijk nagekeken. (Dit is geen beleggingsadvies.)

Heads-up: je gratis Claude-reset verloopt vandaag. Anthropic gaf betalende abonnees eenmalig een gratis reset van hun gebruikslimiet, zoals we vorige week in onze Prompt Whisperer over limieten schreven. Je vindt hem onder Instellingen, Gebruik, en na vandaag, 22 oktober, is hij weg.

Je herkent het meteen. Een tekst die opent met "In de snel veranderende wereld van…", een plaatje met die typische glanzende AI-look, een voice-over die net te vlak klinkt. AI-slop. Inmiddels is een op de vijf Nederlandse opiniestukken door AI geschreven, en lezers, kijkers en luisteraars prikken er steeds sneller doorheen.

Maar wat stoort ons eigenlijk: dat AI de maker is, of dat het resultaat matig is? Als het dat laatste is, kun je daar iets aan doen. AI-content hoeft helemaal niet matig te zijn, zolang je weet hoe je het stuurt.

Vandaag om 12:00 uur laat onze Wietse live zien hoe je dat doet, in vijf stappen:

• Betere tekst: waarom "maak het menselijker" niet werkt, en hoe je clichés bij naam verbiedt en AI laat schrijven zoals jij.
• Betere afbeeldingen: hoe je wegkomt van de standaard AI-look met een eigen stijl, referentiebeelden en concrete aanwijzingen.
• Betere presentaties: hoe je voorkomt dat elk deck dezelfde crèmekleurige achtergrond en genummerde blokjes krijgt, en hoe je AI slides laat maken in je eigen huisstijl.
• Betere audio: hoe je een stem kiest of ontwerpt die natuurlijk klinkt, met de juiste klemtoon en pauzes.
• Betere video: hoe je losse AI-shots laat aansluiten, zodat het een verhaal wordt in plaats van een reeks gladde plaatjes.

Wil je erbij zijn? Sluit dan vandaag nog een betaald abonnement af op AI Report. Je krijgt voor elke sessie de Zoom-link in je inbox. Achteraf krijg je een compleet pakket met de opname en een actieplan (plus toegang tot alle eerdere masterclasses natuurlijk).

Bereik ruim 59.000 nieuwsbriefabonnees met interesse in AI. Sponsor onze nieuwsbrief of podcast. Laat je interesse weten.