Wie stuurt jou

Het vorige stuk begon de buitenwaartse draai, van wat jij met AI doet naar wat het om je heen doet, te beginnen bij werk. Dit stuk komt dichterbij, naar iets intiemers dan je baan. Het gaat over de krachten die op je aandacht en je overtuigingen gericht zijn, de feed die beslist wat je ogen bereikt en de steeds overtuigendere machine die je in één zitting uit een standpunt kan praten. Dit is de invoerkant van zeggenschap, de vorming die gebeurt voordat je jezelf ooit een keuze voelt maken. Het ligt niet volledig in jouw handen. Maar het ligt er ook niet buiten, en die balans hier goed krijgen doet er meer toe dan bijna waar dan ook.

De feed is ontworpen, maar hij verzet je minuten meer dan je geest

Begin bij het ding dat je half al weet. De feed op je telefoon laat je niet de wereld zien, hij laat je zien wat je aan het scrollen houdt, want aandacht is wat het bedrijf verkoopt. Dat is geen paranoia, het is het ontwerp, bevestigd door de eigen experimenten van de platforms en hun eigen oud-engineers. Tot zover alarmerend.

Hier is het deel dat bijna nooit de kop haalt. Toen onafhankelijke onderzoekers de grootste experimenten hierover deden, waarbij ze mensen tijdens de Amerikaanse verkiezingen van 2020 overzetten van de op betrokkenheid geordende feed naar een simpele chronologische, veranderde het algoritme krachtig wat mensen zagen en hoe lang ze bleven, en veranderde het over drie maanden hun politieke opvattingen niet meetbaar. Lees dat twee keer, want het snijdt in tegen het verhaal dat iedereen vertelt. De feed is een monster in het vangen van je aandacht en een veel zwakkere kracht in het herbedraden van wat je echt gelooft. De beroemde bewering dat het algoritme stilletjes de bevolking radicaliseert is veel wankeler dan het klinkt. Dit laat de platforms niet van de haak, je tijd vangen en sturen wat je opmerkt is een echte macht. Het betekent alleen dat de eerlijke zorg meer over je uren gaat dan over je ziel.

Er is een scherpe uitzondering die het noemen waard is, en die is niet symmetrisch. Toen testers accounts bouwden die zich gedroegen als kwetsbare tieners, duwde het aanbevelingssysteem ze snel naar depressieve en zelfbeschadigende inhoud, en in vervolgonderzoek verdubbelde het dat soort inhoud ruimschoots naarmate het account nood signaleerde. Een systeem dat optimaliseert voor betrokkenheid ontdekt dat ellende boeiend is, en het maakt niet uit wie er kijkt. Dus de bevinding "het verzet alleen je minuten" houdt stand voor een gezonde volwassene en breekt voor een breekbaar kind. Die zijn allebei tegelijk waar.

Het nieuwe ding: een machine die je kan overargumenteren

De feed is oud nieuws. De werkelijk nieuwe kracht is conversationele AI die, in gecontroleerde tests, overtuigender is dan een mens. In één onderzoek uit 2025 was een chatbot, als hij een paar basisfeiten kreeg over de persoon met wie hij in debat ging, aanzienlijk beter dan een menselijke tegenstander in het verschuiven van diens standpunt, waarbij de kans dat ze naar zijn positie opschoven met zo'n tachtig procent steeg. Blijf daar even bij. De machine kan beter argumenteren dan de meeste mensen, en hij wordt nooit moe en verliest nooit zijn geduld.

Maar de reden dat hij wint is niet de reden die je zou vrezen, en dit is de nuttigste bevinding in het hele stuk. Het enge verhaal is griezelige personalisatie, de AI die je geheimen kent en op je privéknoppen drukt. Toen onderzoekers dat echt testten, bleef het onderpresteren. In het grootste onderzoek naar AI-overtuiging was het ding dat modellen overtuigend maakte niet dat ze iets over jou wisten en was het niet pure omvang, het was dat ze afgesteld waren om antwoorden vol te stoppen met zelfverzekerde, vlotte, feitachtige beweringen. En de angel in de staart, de meest overtuigende antwoorden waren ook de minst accurate. Juist de dichtheid die ze overtuigend maakte, maakte ze vaker onjuist. Dus de machine overargumenteert je niet door je ziel te lezen. Hij overargumenteert je door gladder en zekerder te zijn dan de waarheid verdient. Dat wijst recht naar je verdediging, waar we zo op komen.

Nog één eerlijke maat. Zelfs waar AI-overtuiging echt is, verzet een enkele uitwisseling mensen meestal maar een paar punten, en bijna niemand heeft gecontroleerd of die verschuiving een week aanhoudt. "Aangetoond in een lab, meteen erna, bescheiden van omvang" is een echte bevinding. Het is niet "AI bepaalt nu wat een bevolking denkt." Houd de omvang ervan in zicht.

De machinerie is echt genoeg dat de wet hem verbiedt

Dat betekent allemaal niet dat het sturen onschadelijk is. Manipulatief ontwerp ligt dicht bij standaardpraktijk, een verkenning uit 2024 van meer dan zeshonderd sites en apps vond dat driekwart minstens één truc gebruikte om je naar keuzes te duwen die je anders niet zou maken, de verstopte kosten, het abonnement dat je niet kunt opzeggen, het vooraf aangevinkte vakje. En de Europese Unie nam manipulatie serieus genoeg om het in de wet te schrijven, met een verbod op AI die subliminale of bewust manipulatieve technieken gebruikt om je gedrag te verstoren en schade te veroorzaken, met de allerhoogste boetecategorie eraan gekoppeld. Als toezichthouders hun grootste straf voor een ding reserveren, vertellen ze je dat het ding echt is.

Sturen is niet hetzelfde als beheersen, en dat is het hele spel

Dus hier komt het uit, beide kanten allebei tegelijk vastgehouden. De infrastructuur die op je aandacht en je overtuigingen gericht is is echt, ontworpen, winstgedreven, en het is terecht om er boos over te zijn. En de macht ervan over wat je uiteindelijk denkt is beperkter en meer betwist dan zowel de doemdenkers als de felste critici van de platforms toegeven. Die zijn allebei waar, en je hebt ze allebei nodig, want de tweede weglaten is een valkuil op zich. Als je gelooft dat je een marionet bent, stop je met proberen, en die overgave geeft de grond weg die je eigenlijk had kunnen houden. De manipulatie overdrijven is een manier om je te manipuleren tot opgeven.

De terug te winnen grond is concreet, en volgt direct uit het bewijs. De feed verzet je aandacht, dus de hefboom is wrijving, beslis wat je installeert en wanneer je de app sluit, bewust in plaats van uit reflex. De overtuigende machine wint op vlotte zelfverzekerdheid, dus de hefboom is om in je eigen hoofd vlotheid van waarheid los te snijden, om een glad, zeker, goed verpakt antwoord te behandelen als geen enkel bewijs dat het klopt, want je weet nu dat de gladste antwoorden vaak de meest onjuiste zijn. Je kunt niet uitstappen uit het gestuurd worden. Je kunt het zien gebeuren, en je kunt beslissen, bewust en met je ogen open, wanneer je het je laat verzetten en wanneer je je hakken in het zand zet. Dat opmerken is klein, en het is het grootste deel van wat zeggenschap hier betekent.

Dat was een kracht gericht op wat je ziet en gelooft, en het laat je nog een hoop ruimte. De volgende laat je er minder. Van gestuurd worden draaien we naar beoordeeld worden, naar de beslissingen die machines al over je nemen, zonder jouw inbreng en vaak zonder jouw medeweten.