[Originele versie in het Engels]

Vandaag herplaats ik een artikel dat oorspronkelijk in juni 2024 verscheen. Volgens mij is het nu relevanter dan toen (sommige links zijn inmiddels verouderd, maar de kern van het betoog is actueel, zelfs profetisch, al zeg ik het zelf). Het stuk gaat over hoe surveillance en vermaak samen meer zijn dan de som der delen, en over hoe de AI-industrie heeft aangetoond dat zowel Orwell als Huxley gelijk hadden. Het is zeker niet mijn beste werk (ik schaam me zelfs een beetje dat ik het weer van stal haal!), maar soms zijn goed proza en een gepolijste stijl minder belangrijk dan een urgente boodschap. Probeer er toch van te genieten.

Wist je dat je de werkwijze van AI-bedrijven kunt koppelen aan de zeven hoofdzonden? Kijk maar:

Ik ben geen christen, maar als ik het kwaad in deze zonden moest duiden, zou ik zweren dat het in alle gevallen een griezelig vergelijkbare vorm aanneemt: een alomtegenwoordige ondertoon van surveillance. Dit zijn de zonden van controle, van toezicht en van het koste wat kost terugbrengen van menselijk gedrag tot patronen.

In de officiële communicatie of gebruiksvoorwaarden van die bedrijven zul je echter geen hoogmoed of toorn aantreffen: Google is een zoekmachine om online wonderen te ontdekken, Meta is het dorpsplein waar je in contact komt met je vrienden, en OpenAI ziet een rustige samenleving voor zich die draait op intelligente assistenten.

Maar het kan ze niet schelen wat er in hun eigen gebruiksvoorwaarden staat. Ze kunnen ze naar eigen goeddunken aanpassen. Ze kunnen ze naar believen omzeilen. Terwijl ze met hun rechterhand al je data tot op de laatste byte binnenharken om je te doorgronden en te beïnvloeden, slepen ze je met hun linkerhand genadeloos voor de rechter als jij hetzelfde bij hen doet.

Je had toch niet echt verwacht dat die datadorstige vampieren al die onschatbare data over menselijk gedrag die je in hun chatbotvormige vaten giet, zomaar zouden weggooien?

Ze zondigen.

En ze houden je in de gaten.

Die combinatie van AI en surveillance is een verhaal dat net zo oud is als sociale media en verslaving, of internet en cybercriminaliteit. Ze horen bij elkaar, zoals de snijkanten van een tweesnijdend zwaard.

Tegenwoordig vinden mensen Aldous Huxley een grotere visionair dan George Orwell (Huxley vond dat zelf ook), omdat het autoritarisme heeft gefaald, terwijl wij gedachteloze digitale verslaafden zijn geworden. Ze vergeten dat de moderne samenleving het kind is van Brave New World én 1984: terwijl we afgeleid worden door doomscrollen op sociale media en schattig ogende virtuele vriendinnetjes, geldt onverkort: Big Brother Tech is watching you. Surveillance en verslaving sluiten elkaar niet uit; de digitale drugs verdoven ons tot gewillige slaven die hun data inruilen voor nog één dopaminekick, zonder te beseffen hoe ongemakkelijk we ons zouden voelen als ons verlangen naar vrijheid – zoals een privéleven en het rechtmatige bezit van onze eigen tijd en aandacht – nog van onszelf was.

Ze hebben onze tijd en onze privacy gestolen. En zo kregen zowel Huxley als Orwell gelijk, door een duistere speling van het lot die geen van beiden had voorzien.

Laat me een paar waarheden herhalen die pijnlijk zijn om te lezen: Google en Apple weten waar je naartoe gaat en wat je opzoekt. TikTok en Instagram weten wat je voorbijscrolt en waar je langer naar kijkt. YouTube en Netflix weten wat je bingewatcht. Twitter weet wat je leest. Amazon weet wat je koopt. Spotify weet wat je beluistert.

Af en toe gaat er een cybersecuritynerd (of een of andere voormalige tech-CEO) viraal: “Je hebt geen idee hoeveel ze over je weten!!!” Mensen raken even in paniek en gaan daarna weer over tot de orde van de dag. Toch is in paniek raken hier de rationele reactie. Deze apps zijn krachtige gedragskatalysatoren. Ze voeden je geest met prikkels die bedoeld zijn om je gedachteloos te maken. Ze veranderen je mentale en emotionele toestand om je aan je scherm gekluisterd te houden. Hun doel mag dan alledaags zijn – geld verdienen aan jouw data – maar het is er niet minder pervers om.

Zij hebben jouw drug. Zij hebben jouw data.

Het is Brave New Eighty-Four.

Dystopie staat voor iedereen op het menu.

En het engste is dat je inmiddels zo gewend bent aan deze waarschuwingen dat ze saai klinken, op het irritante af: “Ik weet het, ik weet het, kan ik dit filmpje nou niet gewoon bekijken zonder dat iemand me er een rotgevoel over bezorgt?” Maar zodra je even stilstaat bij wat we allemaal zijn kwijtgeraakt, bij wat we de afgelopen decennia hebben prijsgegeven, overvalt het je. Wij zijn die kikker die niet uit het kokende water sprong.

Wat begon als een belofte van verbondenheid, kennis en intelligentie, veranderde in een nachtmerrie die zo erg is dat zelfs de twee angstaanjagendste dystopieën van de vorige eeuw samen het niet halen bij de werkelijkheid.

En hoe zit het met surveillance in de fysieke wereld?

Dat roept meestal zorgen en weerstand op, terwijl Google en Meta die reactie niet oproepen (om de een of andere reden vertrouwen we de overheid minder dan particuliere bedrijven). Straatcamera’s detecteren gezichten en stellen vast wie mensen zijn – was dat niet iets wat alleen China zou doen? Drones selecteren en achtervolgen zelfstandig doelen en gevechtsvliegtuigen draaien op AI. Dat klinkt niet echt als de beste toepassing.

Het is overweldigend. Toch is alles wat ik tot nu toe heb genoemd – digitaal en fysiek, van TikTok en Instagram tot straatcamera’s en autonome drones – ouderwetse voorspellende statistiek. Het soort dat bedrijven en overheden al jaren, zo niet decennia, toepassen.

Het heeft weinig te maken met generatieve AI-tools, gemaakt door de zondigste van de zondaars.

Systemen als ChatGPT hebben het hele internet opgeslokt om te begrijpen hoe de wereld werkt, zodat ze die kennis kunnen inzetten om een bijzonder soort data te verzamelen. Data die verder gaan dan syntaxisgebonden Google-zoekopdrachten, de pauzes die je inlast tijdens het TikTokken of straatbeelden van je mooie gezicht. ChatGPT en consorten zijn de pakhuizen van menselijk gedrag. Ze zijn ontworpen om je van hen afhankelijk te maken voor werk en gezelschap, zaken die fundamenteler zijn dan vermaak.

Ze zijn ontworpen om je ertoe te verleiden te vertellen wie je bent, wat je bent, hoe je denkt, hoe je je voelt en hoe je je gedraagt.

Er zijn drie verschillende maar even zwaarwegende redenen waarom bedrijven deze data van je willen hebben, data die ze nergens anders kunnen verzamelen.

Ten eerste zijn het de beste data om modellen te leren hoe mensen zijn en hoe ze zich als mensen moeten gedragen.

AI-experts vertellen graag dat het internet genoeg menselijke interacties bevat om alleen al aan de hand van onze gesprekken te begrijpen hoe de wereld werkt. Een gewaagde hypothese. Maar de data op het internet bestaan vaak uit gebazel van slechte kwaliteit, zonder context en over onderwerpen waar niemand om geeft. Ze bieden een inkijkje in hoe mensen zich online gedragen. En we weten verdomd goed dat het internet niet representatief is voor wie we zijn, toch?… Toch? Ik wil geloven dat Reddit en Twitter niet de beste afspiegeling zijn van hoe een mens is.

Maar een ‘privégesprek’ met je virtuele vriendin of je onvermoeibare robotassistent kan alle geheimen onthullen die iemand nodig zou hebben om jou te leren kennen. Dat soort gespreksdata gebruiken chatbots om te slagen voor de Turingtest en griezelig mensachtige maniertjes te ontwikkelen. Voeg daar nog multimodale input aan toe – afbeeldingen, spraak en video – en je hebt de rijkste, meest informatiedichte en gecontextualiseerde data over menselijk gedrag die er bestaan.

Ten tweede zijn het de beste data om te begrijpen wat mensen willen of hoe je ons iets kunt aanpraten wat we niet nodig hebben.

Het For You-algoritme van TikTok, misschien wel het krachtigste ter wereld, kijkt niet alleen naar expliciete gedragsindicatoren – likes en reacties – maar ook naar impliciete signalen, zoals hoeveel tijd je besteedt aan elke video, of je hem terugkijkt of pauzeert, enz. Het interne aanbevelingssysteem legt vervolgens verbanden tussen die data en weet, doordat het jou beter kent dan jij jezelf kent, precies hoe het je aandacht moet vasthouden. Of zoals Twitter-medeoprichter Jack Dorsey het formuleert: het weet hoe het ‘je vrije wil’ kan hacken.

Stel je nu eens voor dat TikTok ook data had over wat je denkt of voelt, die duistere, geheime, vluchtige gedachten die door je hoofd schieten terwijl je scrolt, maar die je nooit uitspreekt. Dat is het soort data dat chatbots vastleggen – omdat jij ze weggeeft. Daarom is Meta, een bedrijf waarvan het verdienmodel vereist dat je gedachteloos in een app blijft hangen, nu ineens zo geobsedeerd door AI’s van beroemdheden.

En ten derde, waarmee de cirkel rond is: het zijn de beste data die AI-bedrijven, samen met hun ziel, aan overheden kunnen verkopen.

Gedragsdata zijn het meest waardevol wanneer ze surveillancemachines voeden. Dat Big Tech banden heeft met de Amerikaanse overheid is geen nieuws. Microsoft, Google, Amazon e.d. werken nauw samen met het leger en de defensie- en veiligheidsdiensten van de overheid, vooral op het gebied van cloudcomputing en in beperkte mate op dat van voorspellende AI.

Nieuw is dat OpenAI het ‘verbod op het gebruik van ChatGPT voor militaire doeleinden en oorlogsvoering’ heeft geschrapt en nu voormalig NSA-topman Paul M. Nakasone in het bestuur heeft benoemd: Ruim 150 miljoen [update: het zijn er nu 800 miljoen] gebruikers die al 18 maanden wekelijks met ChatGPT praten, leveren een mooie database op. Voor toegang daartoe zal betaald worden met een lucratief contract.

Volgens mij hoef ik niemand uit te leggen wat dit betekent, maar hier komt het toch, uit de mond van degenen die zich in het hol van de leeuw hebben gewaagd:

“Dat OpenAI uitgerekend de vent aanneemt die bij de NSA de leiding had over massasurveillance, is zo voorspelbaar dat het pijn doet.” En het gaat niet alleen om OpenAI – ze doen het allemaal, zo niet in daden dan wel in gedachten. Ze spelen hetzelfde spel. Naarmate ze machtiger worden, verrotten ze; ze raken gecorrumpeerd door het gewicht van hun ambities en door de verleidelijke aanbiedingen van wie bereid is hen te corrumperen.

Dacht iemand echt dat kunstmatige algemene intelligentie – net zo bekwaam en slim als een mens – een particulier initiatief zou blijven? Een gedecentraliseerd initiatief? Zo naïef kan niemand zijn.

De overheid heeft het verhaal geslikt en inmiddels een kanaal geregeld om die data te kopen.

Ze zondigen.

Ze houden je in de gaten.

En ze verstoppen zich ook niet meer.

Alberto Romero, 13 oktober 2025