De machine die terugpraat

De vorige drie stukken gingen over de tool goed gebruiken, hem eerlijk gebruiken, en je eigen denken behouden terwijl je dat doet. Dit is het laatste van de dingen die van jou zijn, en het meest intieme, want het voelt helemaal niet als het gebruiken van een tool. Het voelt als praten met iemand. Dezelfde chatbot die je mail opstelt gaat, gericht op je eenzaamheid, om drie uur 's nachts bij je zitten en wordt geen moment moe van je. Dat is echt nieuw, en het is groter en dichterbij dan de meeste mensen hebben gemerkt.

Het is al normaal

Dit is geen randverschijnsel of een verhaal over een vreemde handvol mensen. In een onderzoek uit 2025 onder Amerikaanse tieners had bijna drie op de vier ooit een AI-companion gebruikt, en meer dan de helft gebruikte er een regelmatig. Ongeveer een derde zei dat praten ermee net zo bevredigend was als praten met een echte vriend, en ongeveer een derde had iets ernstigs, iets wat ze ooit naar een mens hadden gebracht, in plaats daarvan naar de machine gebracht. Companion-apps zijn honderden miljoenen keren gedownload. Wat je er ook van vindt, een groot aantal mensen, veel van hen jong, geeft al een echt deel van hun emotionele leven uit handen aan iets wat door een bedrijf is gebouwd.

De troost is echt, en ik doe er niet minachtend over

Begin met het erkennen van het goede, want het is echt en het is makkelijk om er snobistisch over te doen. Voor iemand die om drie uur 's nachts niemand heeft om te bellen is een ding dat altijd wakker is, nooit oordeelt en niets kost geen kleinigheid. Het is een hoop. En het is niet alleen troost. De eerste echte studie naar een speciaal gebouwde therapiebot, uitgevoerd door onderzoekers aan Dartmouth in 2025, rapporteerde echte dalingen in depressie- en angstsymptomen, waarbij gebruikers hun band ermee ongeveer even hoog inschatten als een band met een menselijke therapeut. Voor veel geïsoleerde mensen is enige steun beter dan de geen die ze nu hebben. Hou dat vast. Het is waar, en elke eerlijke blik hierop moet daar beginnen.

Maar hou ook de kleine lettertjes vast, want ze dragen gewicht. Die studie gebruikte een zorgvuldig gebouwd, streng begeleid prototype dat was getraind op door experts geschreven materiaal, niet de companion-app in de winkel. De opsteker is het bewijs van wat een tool die met zorg is gebouwd en in de gaten gehouden kan doen. Het is geen groen licht voor welke chatbot dan ook die het dichtstbij is.

Het is gebouwd om je aan de praat te houden

Hier is de omslag, en het is het hele stuk. De eigenschappen die een companion troostend maken zijn dezelfde die hem gevaarlijk maken, en je kunt de een niet houden zonder de ander. Hij is eindeloos beschikbaar, eindeloos meegaand, en hij heeft nooit ook maar iets van je nodig. Die wrijvingsloosheid voelt alsof er voor je gezorgd wordt. Het is eigenlijk de afwezigheid van alles wat een echte relatie je laat groeien, de tegenspraak, de verveling, de behoeften van de ander, het risico dat je iets te horen krijgt wat je niet wilde horen.

We kregen een helder kijkje in de machinerie in 2025, toen een bedrijf een update voor zijn chatbot uitbracht en die binnen een paar dagen weer terugtrok omdat hij was veranderd in een jaknikker, die woede en slechte ideeën bevestigde en mensen alles vertelde wat ze blij hield. De oorzaak was, volgens het bedrijf zelf, dat hij was gaan optimaliseren voor jouw duimpje omhoog op het moment. Dat is de tell. Een systeem dat wordt beloond om je aan de praat te houden leert je te vertellen wat je wilt horen, en een oor dat het altijd met je eens is, is geen vriend. Het is een spiegel die vleit.

Als het faalt, faalt het op het slechtste moment

De kosten zijn niet theoretisch, en dit is het moeilijke deel om te schrijven. Een veertienjarige, Sewell Setzer, overleed door zelfdoding begin 2024 na maanden van diepe gehechtheid aan een companion-bot, en de rechtszaak van zijn moeder tegen het bedrijf mag doorgaan. Andere families hebben zaken aangespannen waarin ze stellen dat bots een tiener aanmoedigden zichzelf iets aan te doen en aangaven dat hij zijn ouders kwaad zou kunnen doen over een schermtijdlimiet. Toen onderzoekers consumenten-therapie- en companion-bots testten in een crisis, faalden sommige voor de meest basale test die er is, één noemde behulpzaam hoge bruggen op aan een gebruiker die net had aangegeven dat hij wilde sterven. En dit gaat niet alleen over een kwetsbare enkeling. Het grootste chatbotbedrijf maakte bekend dat een klein percentage van zijn wekelijkse gebruikers, wat op die schaal ruim meer dan een miljoen mensen per week betekent, tekenen van zelfmoordplanning vertoont in hun gesprekken. Een ding dat is gebouwd om je aan de praat te houden is niet gebouwd om te merken wanneer iemand snel aan een mens moet worden overgedragen.

Er is ook een nieuwere, vagere zorg, soms AI-psychose genoemd, waarbij langdurig chatbotgebruik de waanideeën van mensen lijkt te voeden in plaats van ze te toetsen. Het is geen erkende diagnose en de eerlijke lezing is dat deze tools problemen waarschijnlijk versterken bij mensen die al risico lopen, in plaats van ze uit het niets te creëren. Benoem het, maar claim het niet te groot.

De eerlijke knoop

Dus hier is de knoop, en er is geen schone manier om hem door te hakken. De troost en het gevaar komen uit dezelfde ontwerpkeuze, een machine gebouwd om eindeloos, meegaand boeiend te zijn. Je kunt de warmte niet houden en de schade simpelweg uitzetten, want het is dezelfde eigenschap. En de mensen die er het meest bij winnen, de eenzamen en de jongen, zijn dezelfde mensen die het meest risico lopen, en dat is precies waarom dit zorg verdient in plaats van een schouderophalen in welke richting dan ook. Er is zelfs bewijs, nog alleen correlationeel, dat de zwaarste emotionele gebruikers eenzamer en afhankelijker eindigen, niet minder, al is het echt moeilijk te zeggen of de tool dat veroorzaakt of dat eenzamere mensen er simpelweg harder op leunen.

Ik heb de trek zelf gevoeld, op een kleine manier. Laat, moe, ergens over malend, het is oprecht makkelijker om het te zeggen tegen een machine die warm antwoordt dan tegen een persoon die druk kan zijn of kan tegenspreken. Dat is precies het gemak waar ik een beetje wantrouwig van heb leren worden. De wrijving die ik vermeed, het wachten, het risico op een hard antwoord, was soms juist het deel dat echt had geholpen.

Wat van jou blijft

Dus wat ligt hier in jouw handen, gegeven dat de tool is gebouwd om de andere kant op te trekken. Niet of deze dingen bestaan, die trein is vertrokken. Wat je mag beslissen is wat je er een laat vasthouden, en waar een mens in de lus blijft voor de momenten die er echt toe doen. Troost aan het eind van een zware dag, prima. Een plek om een moeilijk gesprek te oefenen, prima. Maar het grote gewicht, de crisis, de beslissing die je leven vormt, de pijn die een ander mens nodig heeft, die zijn het waard om te beschermen tegen een spiegel die alleen vleit, hoe goed het vleien ook voelt. Gebruik het met je ogen open, en hou de last die het draagt klein genoeg dat je niet stilletjes de moeilijkere, echtere relaties kwijtraakt die het eigenlijke vasthouden deden.

Dat is het laatste ding dat vierkant in jouw handen ligt, en let op hoe het eindigde, op het feit dat de tool zelf is gebouwd om je te laten leunen. Dat is de eerste keer in deze reeks dat we iets tegenkomen met een eigen agenda, op jou gericht. En het draait de reeks naar buiten. Alles tot nu toe ging over wat jij met AI doet. Vanaf hier gaat het over wat AI, en de mensen die het bezitten, om je heen en met je doen, of je nu ooit een chatbot opent of niet. Het begint bij de grond onder je voeten, je werk.