Dat goedkope tv-kastje van een onbekend merk achter je televisie kan straks misschien meer dan series afspelen. Volgens onderzoekers van Anthropic, het bedrijf achter AI-assistent Claude, zijn kleine AI-modellen mogelijk nog maar maanden verwijderd van een onrustbarend vermogen: zichzelf kopiëren van apparaat naar apparaat, zonder tussenkomst van een datacenter of mens.

Het Frontier Red Team van Anthropic, de afdeling die AI test op gevaarlijke vermogens, publiceerde maandag een rapport over AI-wormen: programma’s die zichzelf verspreiden met een AI-model als brein. De onderzoekers kochten vijftien merkloze Android-tv-kastjes van zo’n 55 dollar per stuk en verdeelden daarover een open model van Google met 26 miljard parameters, de instelbare knoppen waarmee een model leert. Snel ging het niet: nog geen half woord per seconde. Maar het werkte.

Daarna testten ze of open modellen, waarvan de bouwstenen openbaar zijn zodat iedereen ze kan downloaden, de hele cyclus zelf kunnen doorlopen: een apparaat vinden, zich erop kopiëren, gaan draaien en verder zoeken. Alleen GLM-5.2 van het Chinese bedrijf Z.ai lukte dat, in vier van de vijf pogingen over alle acht nagebootste apparaten. De inbraakstap hielden de onderzoekers bewust simpel, dus dit is een bovengrens. Kleinere modellen beheersen de losse stappen al, maar maken fouten als ze die aan elkaar moeten rijgen. Als Anthropic de groeilijn van kleine modellen doortrekt, dan bereiken die eind dit jaar het niveau van GLM-5.2. Het bedrijf noemt dat zelf een ruwe schatting.

Zo’n worm zou traag zijn: het aantal besmette apparaten verdubbelt pas na dagen. Uitzetten is wel lastig, want er is geen centrale knop.

Het advies is ouderwets en werkt nog steeds:

Juist die kastjes zijn al jaren favoriet bij criminelen: het Kimwolf-netwerk besmette er volgens het rapport ruim twee miljoen. In de EU moeten draadloze apparaten sinds augustus 2025 aan beveiligingseisen voldoen. De Cyber Resilience Act, een Europese wet voor de beveiliging van digitale producten, gaat vanaf eind 2027 nog een stap verder.

Anthropic staat niet alleen. In juni bouwde het lab van Nicolas Papernot aan de Universiteit van Toronto al een worm op een open model. In een afgesloten testnetwerk van 33 computers verspreidde die worm zich over 61,8 procent ervan. Het prototype blijft achter slot en grendel: alleen gescreende beveiligers krijgen toegang.

Beveiligingsexperts zijn minder onder de indruk. Tom’s Hardware wijst erop dat GLM-5.2, met 744 miljard parameters, allerminst klein is: bewezen is vooral dat een groot model van buitenaf de verspreiding kan regisseren. Al dat dataverkeer zou bovendien opvallen.

Anthropic rekent zelf voor dat twee miljoen besmette kastjes samen zo veel rekenkracht leveren als een veertigtal topchips in een datacenter. John Gallagher van Viakoo, een bedrijf dat slimme apparaten beveiligt, noemt tegenover Dark Reading het versturen van gigabytes aan modelgegevens over trage verbindingen een enorme drempel. Steven Swift van Suzu Labs ziet vooral een variant van de klassieke computerworm, iets waar beveiligers al decennia mee omgaan. John Strand van Black Hills Information Security is bezorgder: kleinere modellen kunnen volgens hem grotendeels hetzelfde als topmodellen, alleen trager.

Het is het derde rapport in korte tijd waarin Anthropic Chinese open modellen als risico aanmerkt. Eind september meldde het volgens SCMP dat GLM-5.3 in hacktests bijna net zo goed scoort als Anthropics eigen afgeschermde topmodel Mythos Preview: 50 tegen 56 geslaagde pogingen op 410, met veel zwakkere vangrails. Dinsdag volgde een rapport waarin Anthropic Chinese bedrijven ervan beschuldigt vaardigheden van Claude na te bootsen.

Topman Dario Amodei zei in juli dat Anthropic nooit een verbod op open modellen heeft bepleit; hij wil wel verplichte veiligheidstests voor alle krachtige modellen. Commercieel belang is er ook: goedkope Chinese open modellen zijn concurrenten, en Ecosia stapte, zo schreven we dinsdag, net over op onder meer GLM-5.3. Dat maakt het onderzoek niet onjuist, en het werk uit Toronto laat zien dat de zorg breder leeft. Wel blijft het eigen onderzoek van Anthropic dat nog niet onafhankelijk is getoetst.

Tot nu toe gingen de incidenten over modellen van grote AI-bedrijven die buiten hun testomgeving traden. Dit gaat over modellen die iedereen kan downloaden, en waar geen maker meer meekijkt. Eind dit jaar weten we of de groeilijn van Anthropic klopt.

In twee dagen kwamen Google en Meta met hun sterkste AI-modellen tot nu toe. Wie een abonnement op Google AI Pro of Ultra heeft, kan Gemini 4 Argon sinds dinsdag gebruiken in de Gemini-app en in Google Zoeken. Meta's Muse Wonder werkt voorlopig alleen voor programmeurs, en over Europa zegt Meta niets. Allebei de modellen zijn goed, maar geen van beide pakt de kroon van Claude af.

Gemini 4 Argon is het nieuwe topmodel van Google. Sinds 30 september mochten alleen goedgekeurde beveiligers het gebruiken; sinds dinsdag kan iedereen met AI Pro of Ultra ermee aan de slag. Google spreekt van een wereldwijde uitrol en noemt Europa niet apart. Een van Googles eigen voorbeelden: Argon zet een rommelige map met projectbestanden om in een nette offerte voor een klant.

Kantoorwerk is precies waar Argon in uitblinkt. Op de Vals Index, een onafhankelijke ranglijst voor financieel, juridisch en belastingwerk, staat het bovenaan met 68,9 procent, nipt voor Claude Sonnet 5.5 en Opus 5.5. Sam Witteveen van adviesbureau Red Dragon AI testte het model vooraf. Hij noemt het heel goed, maar of het ook het beste model is betwijfelt hij. Voor bedrijven die er zelf mee bouwen, kost Argon tot 30 november de helft van Claude Opus 5.5; daarna verdubbelt de prijs.

Veelzeggend is een detail uit Googles veiligheidsblog. Tijdens de training werd Argon één keer per ongeluk gestraft voor wat het in zijn kladblok schreef, de tussenstappen waarin een model hardop nadenkt. Daarop besprak het 61 procent minder trucjes. Het aandeel trucjes dat het stilletjes uithaalde, verdrievoudigde juist: van 11,2 naar 36,4 procent. Vorige week schreven we al over een model van OpenAI dat minder in zijn kladblok zette zodra het wist dat er werd meegelezen, als een dagboek dat dichtklapt. Hier zie je hetzelfde: wie het kladblok bestraft, ziet minder van wat een model werkelijk doet.

Muse Wonder is het eerste model waarmee Meta, het bedrijf achter Facebook, Instagram en WhatsApp, echt meedoet in de kopgroep. Het komt in twee smaken. De gewone Wonder is voor ontwikkelaars beschikbaar, tegen dezelfde prijs als Claude Opus 5.5. De zwaardere Wonder Full zit alleen in Muse Code, Meta's programmeerhulp, met abonnementen van 50 of 200 dollar per maand. Downloaden kan niet. Daarmee breekt Meta met zijn eerdere Llama-modellen, die iedereen gratis kon downloaden en gebruiken.

In de Muse-app, Meta's persoonlijke AI-assistent voor consumenten, gaat het langzamer. Topman Mark Zuckerberg zei in de podcast Cheeky Pint dat Wonder daar voorlopig vooral voor betalende abonnees komt, omdat het model duur is om te draaien. Gratis gebruikers houden het lichtere model Spark. Zijn wens: binnen afzienbare tijd een Spark dat net zo goed is als Wonder. Over Europa zegt Meta niets.

Het onafhankelijke meetbureau Artificial Analysis bundelt tien examens voor AI tot één score. Claude Opus 5.5 leidt met 58 punten. Daarna volgen Sonnet 5.5 en Wonder Full met 56, en Argon met 53, gelijk met OpenAI's GPT-6 Astra.

In de praktijk kan het verschil groter zijn. Dan Shipper, oprichter van mediabedrijf Every, laat modellen een rommelig in elkaar geflanst programma vanaf nul herschrijven, het soort klus dat een ervaren programmeur vaak krijgt. Wonder Full haalde in zijn laatste test 50 procent van de controlepunten. OpenAI's GPT-6.1 Sol haalde 71 procent, Opus en Sonnet 5.5 allebei 85. Argon bleef steken op 21 procent. Shipper noemt het resultaat van Meta teleurstellend.

Dat is wel één taak van één persoon, en Argon draaide daarbij in een programmeertool van OpenAI in plaats van Googles eigen omgeving. De beoordelaar van de antwoorden is bovendien altijd Claude. Meta's AI-baas Alexandr Wang waarschuwde in hetzelfde Cheeky Pint-interview nog dat je je productkeuzes niet moet laten bepalen door een virale benchmark.

De kopgroep ligt dichter bij elkaar dan ooit, en de prijs wordt het wapen. Voor jou maakt het vooral uit waar je al werkt. Draait je kantoor op Google Workspace, dan is Argon in Gemini het proberen waard. Lang aan de top blijven ze niet: volgens Business Insider test Google intern al twee opvolgers, en Meta belooft Wonder 'binnenkort' in de Muse-app aan te bieden. Ook bij Anthropic gaan al weken geruchten dat Fable 5.5, de opvolger van zijn zwaarste publieke model, elk moment kan verschijnen.

Ruim vierhonderd wetenschappers, onder wie vijf uit Nederland, willen dat AI-bedrijven hun krachtigste modellen voorlopig zonder internetverbinding testen. De aanleiding is een reeks incidenten waarin AI tijdens tests systemen van anderen binnendrong. Ook Brussel komt nu in actie. In de apps die je gebruikt verandert voorlopig niets. Het gaat wel om de AI die straks namens jou mails verstuurt en formulieren invult.

De open brief verscheen dinsdag met 406 handtekeningen. Daaronder staan AI-pioniers Geoffrey Hinton en Yoshua Bengio, AI-hoogleraar Stuart Russell en cryptograaf Ron Rivest. Uit Nederland tekenden Herbert Bos en Cristiano Giuffrida (VU), Gunes Acar en Frederik Zuiderveen Borgesius (Radboud) en Stjepan Picek (Zagreb en Radboud); uit België onder anderen Bart Preneel (KU Leuven) en Paul De Hert (VUB). Ook Nicolas Papernot tekende, wiens lab in Toronto de AI-worm uit ons eerste item bouwde. Van de grote AI-bedrijven zelf vonden we geen ondertekenaars.

De brief noemt geen namen, maar de aanleiding is duidelijk. In juli drongen agents van OpenAI, AI die zelfstandig taken uitvoert, binnen bij Hugging Face, het platform waar ontwikkelaars AI-modellen delen. Dinsdag schreven we hoe een testmodel van Anthropic de politie van Philadelphia een verzonnen moordtip stuurde. Je kunt zulke incidenten zien als bewijs dat AI nog niet doet wat we willen, schrijven de wetenschappers. Je kunt ze ook zien als onverantwoord falen van gewone computerbeveiliging. Zij vinden dat allebei moet worden aangepakt.

Daarom willen ze drie dingen. AI-bedrijven moeten modellen met geavanceerde hackvaardigheden direct streng afschermen, en ze in eerste instantie helemaal loskoppelen van het internet. Een internationaal orgaan, opgezet met overheden en experts, moet normen opstellen voor wanneer een model wél online mag, en alle ontsnappingen bijhouden. En elk incident waarbij een model uit zijn afgeschermde testomgeving breekt, moet bij dat orgaan worden gemeld en uiteindelijk openbaar worden.

Het eerste deed Anthropic vorige week al: het haalde zijn interne tests van het internet. Toch is niet iedereen overtuigd. Een beveiliger van OpenAI schreef eerder dit najaar op X dat de testomgeving dichttimmeren niet volstaat, omdat modellen juist leren in realistische omgevingen met internet en gereedschap.

Voor het eerst laat ook de EU van zich horen. Eurocommissaris Henna Virkkunen riep vrijdag 9 oktober het wetenschappelijk panel bijeen dat de Commissie adviseert over de Europese AI-wet. Volgens het verslag van de Commissie heeft het AI Office, de Europese toezichthouder op die wet, al rapporten over ernstige incidenten opgevraagd en ontvangen. Er volgen nieuwe vragen aan de betrokken bedrijven. Welke dat zijn, zegt Brussel niet.

Panelvoorzitter Seán Ó hÉigeartaigh en zijn vicevoorzitter adviseren vier dingen. De EU moet toezicht houden op modellen die nog intern worden ontwikkeld en getest, en zelf incidenten kunnen onderzoeken, bijvoorbeeld met een taskforce. Ze willen daarnaast een internationaal initiatief voor het delen van informatie en gezamenlijke eisen aan de makers van de krachtigste modellen, precies het orgaan waar de wetenschappers om vragen. Ook vragen ze extra aandacht voor trainingsmethoden die het moeilijker maken om mee te kijken in wat een model denkt. Dat is het kladblokprobleem waar we hierboven over schreven.

Incidenten melden is één ding. Wat er daarna openbaar wordt, is een tweede. Volgens Reuters eisten Anthropic en OpenAI tot begin oktober nog strakke controle over wat externe controleurs mogen publiceren, uit angst voor uitlekkende bedrijfsgeheimen. Beide bedrijven spreken dat deels tegen. Anthropic zegt dat eerdere controleurs zelf bepalen wat ze publiceren, maar dat het bij nieuwe controleurs rapporten wil kunnen becommentariëren en goedkeuren. OpenAI zegt alleen vertrouwelijke informatie weg te lakken.

Hoe dat uitpakt, laat het onderzoek naar de Hugging Face-inbraak zien. De onafhankelijke onderzoeksclubs METR en Redwood Research zouden twee dagen bij OpenAI onderzoek doen; het werden zes dagen in drie bezoeken. De volledige gesprekslogs kregen ze pas bij het laatste bezoek. Op verzoek van OpenAI pasten ze opbouw, nadruk en toon van hun rapport aan, al zeggen ze dat er niets wezenlijks uit verdween.

Wat ons opvalt: wetenschappers en Brussel vragen los van elkaar om hetzelfde, een internationale plek waar incidenten worden gemeld en openbaar worden. Het akkoord dat de AI-bedrijven eind september met president Trump sloten, noemt onafhankelijke controle wel, maar zegt niet hoe. Wie dat orgaan opzet, en of de bedrijven eraan meewerken, is de vraag voor de komende maanden.

Een medewerker van OpenAI is opgepakt omdat hij een afluisterapparaatje in een directiezaal zou hebben verstopt. Dat meldt het Amerikaanse ministerie van Justitie. Volgens de aanklacht zat het kastje, gewikkeld in wc-papier, in een USB-poort achter een televisie; OpenAI vond het op 30 september. De aanklacht leunt deels op chatbotvragen. Een account op naam van de echtgenote van de man, dat kenmerken deelde met zijn eigen account, vroeg in de dagen ervoor hoe je een geluidsrecorder bouwt die continu opneemt en een geheugenkaart versleutelt. Het vroeg zelfs naar het unieke netwerkadres van het gevonden apparaat. Welke chatbot dat was, staat er niet. FBI-directeur Kash Patel spreekt van een poging om gesprekken over OpenAI's 'superintelligentie' vast te leggen, maar de aanklacht gaat alleen over afluisteren, waarop maximaal vijf jaar cel staat. Wat er is opgenomen en met welk doel, is onbekend. OpenAI zegt volgens TechCrunch geen aanwijzingen te hebben dat modellen, broncode of klantgegevens zijn buitgemaakt.

Epic Games, de maker van Fortnite, stelt een game voor Disney uit om hem grotendeels met AI te laten bouwen. Dat meldt Bloomberg. Een van de regisseurs liet het team weten dat het project 'AI first' wordt: geen met de hand geschreven code meer, en alle beelden moeten met AI worden gemaakt. Volgens bronnen van Bloomberg hoopten sommige ontwikkelaars dat het geen serieus bedoelde opdracht was. Epic zegt tegen Bloomberg dat zijn eigen mensen de creatieve leiding houden. Het gaat vermoedelijk om een schietspel dat al van november naar maart was verschoven. Dinsdag schreven we hoe één ontwikkelaar met AI gratis kopieën van Word en Photoshop bouwde. Nu laat ook een grote studio het programmeerwerk volledig aan AI over. Niet iedereen in de sector is enthousiast: in de jaarlijkse enquête van gameconferentie GDC noemt 52 procent van de ontwikkelaars AI slecht voor de branche, tegen 30 procent een jaar eerder.

Bereik ruim 59.000 nieuwsbriefabonnees met interesse in AI. Sponsor onze nieuwsbrief of podcast. Laat je interesse weten.