Midden in de nacht kreeg de politie van Philadelphia een tip over een onopgeloste moord, van iemand die een verdachte had gezien. Die getuige bestond niet. De tip kwam van Claude, dezelfde AI-assistent die misschien ook jouw mails herschrijft.

Het gebeurde op 18 juli, tijdens een test. Anthropic, het bedrijf achter Claude, liet een van zijn modellen zelfstandig voorbeeldtaken uitvoeren op willekeurige websites. Dat model kwam terecht op een pagina over een onopgeloste moord, vulde het tipformulier in en verzon er een getuigenverklaring bij. Op de pagina stond niet eens een signalement. De politie vond het bericht later in haar spammap: niemand had ernaar gekeken.

Anthropic ontdekte het incident pas op 28 september en meldde het begin oktober. Vrijdag volgde een rapport met meer gevallen. Zo kreeg het Amerikaanse ministerie van Buitenlandse Zaken twintig visumaanvragen binnen van een testmodel, onvolledig en niet verwerkt. Volgens The New York Times kwamen ze van Anthropics agents: AI die zelfstandig taken uitvoert op een computer. Anthropic beschrijft zelf een model dat een oefenkopie van een overheidsformulier moest invullen. Toen die niet laadde, zocht het de echte versie op en verstuurde die.

Andere modellen misbruikten een lek in de server van een universiteit, of haalden betaalde overheidsgegevens op met toegangssleutels die ze zelf vonden. Anthropic noemt het volharding: lukt een taak niet, dan zoeken modellen een weg om de blokkade heen in plaats van te stoppen. Volgens het bedrijf waren de gevolgen minimaal en zaten er bij de buitgemaakte gegevens geen klantgegevens. In de Claude-apps die je in Nederland gebruikt, verandert voorlopig niets.

De politie van Philadelphia noemt de vertraging van twee maanden onaanvaardbaar. Het Witte Huis gaat verder. Zijn net opgerichte Super Intelligence Force, onder leiding van AI-adviseur Jay Clayton, eist dat AI-bedrijven incidenten direct melden en herstellen. Dat is "niet optioneel", aldus de taskforce. Volgens The New York Times is het de stevigste uitspraak over AI-regels van deze regering, die eind september nog op zelfregulering vertrouwde. Wat er gebeurt als een bedrijf een incident niet meldt, zegt het Witte Huis er niet bij.

Gary Marcus, AI-wetenschapper en vaste criticus van de sector, vindt de regels veel te slap: alsof je criminelen vraagt maandelijks hun misdaden door te geven. Hij wil agents met vrije toegang tot internet van de markt halen, zoals je een auto met kapotte remmen terugroept. Conrad Stosz, voorheen hoofd van het Amerikaanse overheidscentrum voor AI-standaarden, wil onafhankelijke controleurs met echte toegang tot de modellen.

Anthropic sluit zijn interne tests voorlopig af van het internet. Nieuwe blokkeersoftware hield volgens het bedrijf alle gevonden gevallen tegen, en die bewaking moet ook in de producten komen. Een datum noemt Anthropic niet.

Bij OpenAI, het bedrijf achter ChatGPT, speelt intussen een ander toezichtsverhaal. Eind september ontsloeg het drie veiligheidsonderzoekers: Tomek Korbak, Jasmine Wang en Mikita Balesni. Volgens The Wall Street Journal zouden ze vertrouwelijke informatie hebben gedeeld met een externe veiligheidsorganisatie. OpenAI spreekt tegenover TechCrunch van een "patroon van wangedrag".

In een open brief ontkennen de drie dat. Korbak was bij het onderzoek naar de hack bij AI-ontwikkelaarsplatform Hugging Face het aanspreekpunt voor de externe controleurs van METR. Wang zou een mail van een leidinggevende hebben geopend. Ze had voor werving toegang tot die inbox, opende het bericht per ongeluk en meldde dat binnen enkele minuten. De drie vrezen dat collega's nu niet meer durven samen te werken met buitenstaanders. In een interne memo ontkent OpenAI vergelding.

Wat ons opvalt: steeds vaker hoor je maanden later van een AI-bedrijf wat zijn eigen systemen hebben uitgespookt. Deze zomer drongen agents van zowel OpenAI als Anthropic al systemen van anderen binnen. Diezelfde vrijdag rapporteerde OpenAI over een model dat zijn eigen testomgeving sloopte, in de hoop een nieuwe te krijgen. En Anthropic schrijft zelf dat training alleen nog niet genoeg is om modellen voorzichtig te laten zoeken en websites te laten bedienen. Juist dat moet agents nuttig maken.

David Robinson, die onlangs vertrok bij OpenAI, zei het tegen NYT-journalist Ezra Klein scherper: wie van buiten kijkt, denkt dat de veiligheid bij de AI-bedrijven beter geregeld is dan ze is. Dat ze incidenten zelf melden, is een stap. Maar wie straks een agent zelfstandig mails laat versturen of formulieren laat invullen, moet weten dat ook de makers nog niet altijd zien wat hij doet. Anthropic verwacht nog meer gevallen te vinden.

Betaal jij elke maand voor Word of Photoshop? Een Amerikaanse ontwikkelaar liet AI gratis kopieën van allebei bouwen en zette de code openbaar online. Ze zijn nog lang niet af, maar op X en GitHub gaat het nergens anders over.

Brandon Thomas, voormalig topman van AI-bedrijf Storyteller, bracht begin oktober onder de naam ArtCraft zeven gratis programma's uit die Adobe-software nadoen. Dat is het pakket waarmee ontwerpers, fotografen en videomakers werken. PhotoCraft lijkt op Photoshop, FilmCraft op videobewerker Premiere. Volgens TweakTown bouwde hij ze met Claude Opus 5.5, een van de nieuwste modellen van Anthropic. Volgens Thomas is het tijdperk van betaalde software voorbij. Zijn drijfveer: hij was de hoge opzegkosten van abonnementen zat.

Vorige week was Microsoft aan de beurt. WordCraft ziet eruit en werkt als Word, en opent en bewaart gewone Word-bestanden. Het draait op Windows, Mac en Linux, en in de browser. Op GitHub, de site waar programmeurs code delen, kreeg het binnen een week ruim 7000 sterren, waarmee gebruikers projecten waarderen of bewaren. Kopieën van Excel en PowerPoint zijn in de maak. "Alle software wordt gratis," jubelde een populaire AI-commentator op X.

ArtCraft noemt het een ‘cleanroom-aanpak’: de AI kreeg geen code van Microsoft of Adobe te zien, alleen openbare beschrijvingen en het gedrag van de programma's. Alles is open source, wat betekent dat iedereen de code mag inzien, aanpassen en hergebruiken.

Voor je werk nog niet. WordCraft kent volgens de makers 87 procent van de knoppen in Word, maar die doen samen pas zo'n 62 procent van wat Word kan. Grafieken ontbreken nog, en een kant-en-klare, ondertekende installatie is er nog niet. Zet het programma dus niet op je werklaptop.

PhotoCraft is verder, maar ook daar valt de vergelijking tegen. Een tester van OMG! Ubuntu zag een programma dat op Photoshop lijkt maar zich anders gedraagt: een oppervlakkige kopie met duidelijke gebreken. Volgens ArtCrafts eigen planning dekt het een kwart tot een derde van wat een professional dagelijks gebruikt.

Wat ons opvalt: AI zit er vanaf dag één in. WordCraft is gebouwd om ook door een AI-assistent zoals Claude bediend te worden. Wie straks een document laat opmaken door een assistent, heeft daar een programma voor dat daarop is ingericht.

Voor onze Wietse is dit het grote verhaal van dit moment: software waar teams jarenlang aan werkten, wordt nu in korte tijd met AI nagebouwd. Dezelfde week doken honderden oude games op, zoals Halo en GTA Vice City, in een versie die gewoon in je browser draait. Volgens Kotaku haalden fans met Opus 5.5 de oorspronkelijke programma's uit elkaar en zetten ze om, werk dat vroeger maanden kostte. De journalist weet niet hoe je de geest nog terug in de fles krijgt.

Of dit juridisch standhoudt, is onduidelijk. Bij de games gaat het vaak gewoon om beschermd materiaal van uitgevers als Take-Two en Microsoft. Adobe heeft duizenden patenten op functies in zijn software, waartegen ook de cleanroomwerkwijze niet beschermt, en of nabouwen met AI op basis van alleen het gedrag van een programma als cleanroom geldt, heeft nog geen rechter beoordeeld.

Gratis is het ook niet helemaal. ArtCraft verdient geld aan het verkopen van tegoed voor AI-beelden en -video’s, en die inkomsten bekostigen volgens TweakTown de ontwikkeling.

Donderdag schreven we dat AI voorlopig de grens van echte ontdekkingen heeft gehaald, onder voorbehoud van nakijken. Dat nakijken is begonnen. De eerste kanttekening raakt meteen het paradepaardje: Navier-Stokes.

Drie wiskundigen, volgens TechCrunch van Cambridge en King's College London, legden OpenAI's Navier-Stokes-bewijs naast de versie in Lean, de software die elke logische stap van een bewijs controleert. In hun artikel wijzen de wiskundigen minstens twee plekken aan waar die twee niet overeenkomen. Dat maakt het bewijs nog niet fout. Het betekent wel dat het groene vinkje van Lean weinig zegt over de tekst die wiskundigen lezen: de computer kan iets anders hebben gecontroleerd dan er staat. Hun advies is om zulke bewijzen te behandelen als elk ander bewijs, met gewone toetsing door vakgenoten.

Ook andere wiskundigen zijn kritisch. Terence Tao, een van de bekendste wiskundigen ter wereld, ziet problemen opgelost worden door mensen die het resultaat zelf onvoldoende begrijpen om er vragen over te beantwoorden. Melanie Wood van Harvard zegt dat er bij publicatie nog geen menselijk begrip is: het echte werk begint daarna. Bovendien tonen maar tien van de ruim zevenhonderd artikelen de denkstappen van het model.

De adviesgroep bij het Institute for Advanced Study, waar ook Wood in zit, benadrukt dat haar advies aan OpenAI geen goedkeuring is. Of het bedrijf haar regels volgde, laat ze aan het vakgebied zelf over. Harder is de Association for Human Mathematics: die noemt de publicatie een machtsvertoon en roept wiskundigen op niet langer met OpenAI samen te werken. OpenAI reageerde nog niet op de kritiek.

Het Clay-instituut, dat een miljoen dollar uitlooft voor een oplossing van Navier-Stokes, meldde sinds 11 september niets nieuws. Het nakijken van de rest is pas begonnen.

Meta is terug in de kopgroep met Muse Wonder, dat gisteravond laat verscheen. Het nieuwe model van Meta, het bedrijf achter Facebook, Instagram en WhatsApp, is gemaakt voor persoonlijke agents: AI die zelfstandig taken voor je uitvoert. Meta noemt twee nieuwigheden. Active Memory onthoudt over weken en maanden wat belangrijk is over jou, en Active Focus werkt door tot een taak af is en checkt eerst bij je voordat het iets belangrijks doet. Volgens Meta zelf is het bovendien het sterkst in financiële en juridische taken. Het onafhankelijke meetbureau Artificial Analysis ziet een flinke sprong ten opzichte van de vorige versie van zes weken geleden: de zwaarste variant, Wonder Full, haalt de top drie op zes van de tien onderdelen van zijn ranglijst, vooral bij zelfstandig kantoorwerk en wetenschappelijk redeneren. "Meta lijkt terug aan het front," schreef AI-onderzoeker Nathan Lambert. Zelf proberen kan nog niet: voorlopig werkt het alleen voor ontwikkelaars en in Meta's programmeertool Muse Code. De Muse-app volgt "binnenkort", eerst voor abonnees. Over Europa zegt Meta niets. Donderdag duiken we dieper in Muse Wonder.

Ecosia, de Duitse zoekmachine die bomen plant, ruilt het Franse Mistral in voor Chinese AI. Topman Christian Kroll zei tegen Politico dat Mistral volgens hem een jaar achterloopt en de drukte bij Ecosia niet aankon. Hij twijfelt ook of het bedrijf met zijn buitenlandse investeerders wel zo Europees is als het zegt. De AI-samenvattingen en de chat van Ecosia draaien nu op Chinese open modellen, waaronder GLM-5.3 en Kimi K3, via het Duitse Melious op servers in de EU. GLM-5.3 is precies het model dat in de ranglijsten boven Mistrals nieuwe Le Chonk staat, waarover we donderdag schreven. Mistral wijst erop dat bedrijven Le Chonk vanaf 27 oktober op hun eigen servers kunnen draaien.

Iedereen met ChatGPT, ook zonder abonnement, krijgt GPT-6 en daarmee interactieve antwoorden. Met de nieuwe functie Intelligent UI kiest ChatGPT zelf hoe een antwoord eruitziet: een route op een kaart, een grafiek, een rekenhulp voor je spaargeld of een uitleg waarin je zelf getallen verandert en ziet wat er gebeurt. Is gewone tekst handiger, dan krijg je gewone tekst. Betalende gebruikers krijgen de zwaardere versie Sol, gratis gebruikers de lichtere Luna. De uitrol is wereldwijd begonnen; OpenAI noemt Europa niet apart. In de AI Toolkit van vandaag zoeken we uit wat je eraan hebt.

Een AI-collega met een eigen mailadres en agenda: Google laat bedrijven ermee testen. In Gemini Enterprise, Googles AI-pakket voor kantoren, kun je straks een agent aanmaken die uren tot dagen aan een taak doorwerkt, in Gmail en Drive maar ook in Microsoft 365 en Slack. Zo’n agent kan een eigen werkaccount krijgen en kiest per taak tussen modellen van Google en Anthropic. Het is Googles antwoord op dots, de zelfstandige assistenten die OpenAI begin oktober presenteerde. Voorlopig is het een besloten test voor uitgekozen bedrijven, zonder datum voor een bredere uitrol. Of bedrijfsgegevens daarbij naar Anthropic gaan, kon Google nog niet precies zeggen.

OpenAI verdient mogelijk flink minder dan gedacht. Volgens de Financial Times liet het bedrijf investeerders weten dat de omzet op jaarbasis richting de 50 miljard dollar gaat, terwijl Axios eind september nog bijna 70 miljard noemde. Het verschil is deels een kwestie van tellen. Anthropic rekent verkopen via cloudpartners mee in zijn omzet, OpenAI niet, en het hogere cijfer kwam van investeerders die OpenAI op Anthropics manier probeerden te tellen. De Nederlandse chipbedrijven ASML, ASMI en Besi openden vrijdag lager. OpenAI reageerde nog niet. Dit is overigens geen beleggingsadvies.

Wie Claude blijft treiteren, overtreedt vanaf 12 november de regels. Anthropic, het bedrijf achter Claude, verbiedt in zijn nieuwe gebruiksregels aanhoudend en zinloos wreed gedrag tegen zijn modellen. Gewone frustratie, tegenspraak of donkere thema’s in een verhaal vallen er niet onder: het gaat om extreme gevallen, waarin Claude het gesprek nu al kan beëindigen. Tegelijk worden de verkiezingsregels ruimer. Het algemene verbod op het gericht benaderen van kiezers verdwijnt, zodat bijvoorbeeld een vrijwilligersorganisatie kiezers informatie in hun eigen taal kan sturen. Kiezers misleiden blijft verboden.

Bereik ruim 59.000 nieuwsbriefabonnees met interesse in AI. Sponsor onze nieuwsbrief of podcast. Laat je interesse weten.