De schaduwkant

Dit zijn de kosten die het minst in jouw handen liggen van allemaal, en juist daarom moeten ze gezien worden, je kunt geen ding wegen dat je weigert aan te kijken. Terug in de eerste reeks zei ik dat de woede over AI het waard was serieus te nemen in plaats van weg te wuiven. Hier maak ik dat waar, zonder de overdrijving van de doemdenker of het schouderophalen van de aanjager. Sommige dingen die volgen zou ik niet kunnen verzachten al zou ik het willen. Sommige dingen zijn kleiner dan de enge versie die je gehoord hebt, en dat zeg ik erbij, want dit fout hebben in de angstige richting is nog steeds fout.

De kunst waarop het gebouwd is

Begin waar de breuklijn het diepst is, want die kwam je al tegen in de eerste reeks. Deze modellen leerden van een verbijsterende hoeveelheid menselijk werk, tekst, kunst, foto's, muziek, het meeste van het internet getrokken zonder de makers te vragen en zonder ze een cent te betalen. Dat is geen gerucht of een randklacht. Het is hoe de techniek gebouwd is, en de makers hebben het "hoe" grotendeels toegegeven, ze vechten nu over of het legaal was.

De rechtszalen zijn het helderste venster op hoe onopgelost dit is. In 2025 stemde één AI-bedrijf, Anthropic, ermee in anderhalf miljard dollar te betalen om een zaak van auteurs te schikken, de grootste uitbetaling in zijn soort in de geschiedenis van het auteursrecht, zo'n drieduizend dollar per boek voor ongeveer een half miljoen boeken. Dat klinkt als een afrekening, maar lees de kleine lettertjes. De schikking was voor het piraten van de boeken, ze downloaden uit illegale bibliotheken, niet voor het trainen erop. Op de trainingsvraag zelf zijn de vroege uitspraken meestal de andere kant op gegaan, met rechters die het transformatief genoeg noemen om als fair use te tellen, en geen hogere rechter heeft het beslecht. Tot nu toe is het patroon eersteronde-uitspraken die de bedrijven op de kernvraag meestal helpen en ze alleen straffen voor hoe ze aan het materiaal kwamen.

De beloofde oplossingen kwamen er ook grotendeels nooit, de opt-out-tool die makers hun werk uit de training moest laten halen is nooit echt uitgekomen. Dus de praktische situatie voor een werkende kunstenaar is deze, je werk zit er waarschijnlijk in, je werd niet gevraagd, je werd niet betaald, het er weer uit halen is moeilijk of onmogelijk, en het model dat deels op jouw stijl getraind is concurreert nu om je baan. Wat een rechter uiteindelijk ook beslist over de legaliteit, je begrijpt waarom dat als diefstal voelt voor de mensen bij wie het gebeurde. Er is een schoner pad, één image tool bouwde zijn model alleen op werk waar het de rechten voor had en maakte daar zijn hele pitch van, wat bewijst dat de toestemming-eerst-versie mogelijk was. De meeste industrie koos er alleen niet voor.

Jouw data

Richt de lens nu op jezelf, want jij voedt deze systemen ook. Standaard gebruiken de grote consumentenchatbots nu je gesprekken om hun volgende modellen te trainen tenzij je dat uitzet, en de bewaartermijnen zijn opgerekt, in één geval tot vijf jaar voor iedereen die training toestaat. Wat je ook in dat vriendelijke vakje tikt, de plannen die je erin doorspreekt, het concept dat je erin plakt, het ding dat je nooit hardop zou zeggen, is in veel gevallen geen privé-uitwisseling, het is grondstof, tenzij je de instelling vond.

En "verwijderen" blijkt een zachte belofte. Tijdens één rechtszaak beval een rechter een chatbotbedrijf de gesprekken van gebruikers te bewaren, ook die mensen verwijderd hadden, waarmee het zijn eigen verwijderbeleid overrulede. Het bevel werd later opgeheven, maar de les blijft staan, zodra je woorden op andermans servers staan, is of ze echt verdwijnen niet volledig aan jou.

Zoom uit en het wordt scherper. Eén gezichtsherkenningsbedrijf bouwde een doorzoekbare database van miljarden gezichten door ze van het publieke internet te schrapen, het jouwe heel goed mogelijk erbij, en werd er in Europa voor beboet met tientallen miljoenen, die het grotendeels gewoon weigert te betalen. Dat laatste detail is het echte verhaal van AI-privacy, het gat tussen de regels en de reikwijdte. Europa heeft echte tanden gekregen, een brede AI-wet die nu gefaseerd ingaat, echte boetes onder zijn privacyregime. De Verenigde Staten hebben nog helemaal geen alomvattende privacywet, in plaats daarvan een lappendeken van staatsregels, en de huidige federale beweging is erop gericht zelfs die te overrulen. Dus hoe beschermd je bent hangt zwaar af van waar je woont, en bijna nergens hangt het zoveel af van je eigen toestemming als het zou moeten.

Een gedeelde ruimte vol namaak

De volgende kost is er een die iedereen betaalt, of ze nu AI gebruiken of niet, want het is een kost voor de gedeelde bodem van wat echt is.

De tool die woorden in een plaatje verandert, en nu in een stem en een video, maakte overtuigende namaak goedkoop en snel, en de resultaten zijn nu al lelijk. Een financieel medewerker in Hongkong keerde ongeveer vijfentwintig miljoen dollar uit nadat hij aan een videogesprek deelnam waar elke collega op het scherm, inclusief de financieel directeur, een deepfake was. Nepbelrobots in een echte verkiezing gebruikten een gekloonde presidentsstem om mensen te vertellen niet te stemmen. En het allervaakst voorkomende gebruik van deze techniek is somberder dan dat allemaal, volgens de best beschikbare telling is de overweldigende meerderheid van de deepfakevideo's online pornografie gemaakt van echte mensen zonder hun toestemming, vrijwel volledig vrouwen, van gewone mensen tot beroemde, gemaakt om vernederd te worden. Dat is geen bijwerking. In volume is het het belangrijkste waar de nepbeeldtools voor gebruikt worden.

De verdediging waar je op zou hopen, dat mensen het gewoon kunnen zien, houdt geen stand. Als onderzoekers de studies bij elkaar leggen, spotten mensen een deepfake nauwelijks beter dan een muntworp. En onder de regelrechte namaak zit een stillere vloed, het internet dat volloopt met goedkope machinegemaakte opvulling, zoveel ervan dat "slop" een woord van het jaar werd. De tools die moeten bewijzen wat echt is, onzichtbare watermerken en contentlabels, bestaan en verspreiden zich, maar de meeste zijn te strippen met iets simpels als een screenshot. Het netto-effect is een wereld waar zien niet langer geloven is, en die erosie landt op iedereen, ook op de mensen die de tool nooit aanraakten.

De fysieke rekening

Als laatste, de kost die letterlijk fysiek is, en hier moet ik het verhaal juist de andere kant op corrigeren. Je hebt vast gehoord dat één vraag aan een chatbot wilde hoeveelheden energie verbrandt of een fles water leegdrinkt. Die cijfers waren opgeblazen, en in het beroemdste geval heeft de onderzoeker achter het watergetal het helemaal teruggenomen. Eén prompt is klein, een fractie van een wattuur, een paar druppels water. Je schuldig voelen per vraag is niet waar deze kost zit, en ik vertel je dat liever dan je bang te maken met een getal waarvan ik weet dat het fout is.

Waar hij wel zit is het totaal. De datacenters achter dit alles zijn op weg hun elektriciteitsgebruik tegen 2030 ongeveer te verdubbelen, richting een paar procent van de hele wereldvoorziening, en hun vraag sprong in alleen al het afgelopen jaar scherp omhoog. De bedrijven die ze bouwen hebben hun eigen CO2-uitstoot ver boven hun doelen zien klimmen, die van Google zit nu ver boven waar hij een paar jaar geleden zat, terwijl de beloftes om te snijden blijven komen. Individuele centers kunnen miljoenen liters water per dag drinken, en een reëel deel ervan staat op plekken die er al schaars in zitten. En al die capaciteit is geconcentreerd in een heel klein aantal enorme bedrijven die honderden miljarden uitgeven om de infrastructuur te bezitten waar de rest van ons steeds afhankelijker van wordt. De kost per prompt is verwaarloosbaar. De schaal, en wie hem controleert, is dat niet.

Het vasthouden

Dat is de schaduwkant, en ik vond het niet leuk om sommige delen ervan te schrijven. Kunst genomen zonder toestemming, privacy die afhangt van een verborgen instelling en stopt bij een server die je niet kunt zien, een gedeelde werkelijkheid die moeilijker te vertrouwen wordt, en een enorme fysieke machine in heel weinig handen. Dit zijn geen groeipijnen die een beter model volgend jaar oplost. Het zijn echte kosten, sommige vallend op mensen die zich nergens voor aanmeldden.

De kosten eerlijk benoemen is niet hetzelfde als concluderen dat het ding alleen maar kost. Ik gaf het voordeel zijn volle gewicht in de eerdere stukken, en ik geef dit nu zijn volle gewicht, en de harde, volwassen zet is beide tegelijk dragen zonder in te storten tot de gelovige of de cynicus. Er is nog één vreemder ding om te zien voor we bij jouw keuze komen, en het is de ene plek waar de techniek stopt iets te zijn dat je oppakt of iets dat op je gericht is, en iets wordt dat op eigen houtje handelt.