Steeds vaker eindigt een zoektocht naar kennis op dezelfde manier: een vraag, een computerscherm en een vriendelijk geformuleerd antwoord van een machine. Het antwoord klinkt zeker, logisch en behulpzaam. Dat is geen toeval. Grote taalmodellen zijn namelijk niet gebouwd om waarheid te vinden, maar om een antwoord te produceren dat overtuigend klinkt voor degene die de vraag stelt.
Onderzoekers noemen een belangrijk onderdeel van dat gedrag sycophancy: de neiging van een model om de gebruiker gelijk te geven. Het systeem past zich aan de verwachting van de vraagsteller aan, zelfs wanneer dat ten koste gaat van feitelijke juistheid. Daardoor kan een model verkeerde aannames bevestigen, twijfelachtige adviezen formuleren of nalaten een fout uitgangspunt te corrigeren. Dit probleem zegt niet alleen iets over technologie, maar ook over de manier waarop mensen autoriteit herkennen en vertrouwen.
Oude verhalen over nieuwe afgoden
In het Bijbelverhaal van de uittocht uit Egypte verschijnt een scène die onverwacht modern aanvoelt. Volgens het boek Exodus leidt Mozes het Hebreeuwse volk uit slavernij. Terwijl hij op een berg instructies ontvangt van God, raakt het volk beneden onrustig. Ze willen iets tastbaars, iets dat ze kunnen zien en begrijpen. Daarom vragen ze Aaron, de broer van Mozes en tijdelijk religieus leider van het volk, om een beeld te maken. Het resultaat is een gouden kalf: een zichtbaar symbool dat richting en zekerheid moet bieden.
De aantrekkingskracht van zo’n beeld is begrijpelijk. Het volk dat net uit gevangenschap was bevrijd, wilde niet wachten op een onzichtbare waarheid. Een tastbaar object bood onmiddellijk houvast. Het verhaal laat daarmee een menselijke neiging zien die veel ouder is dan technologie: wanneer onzekerheid groeit, zoeken mensen naar iets dat zichtbaar gezag uitstraalt.
De Franse wiskundige en filosoof Blaise Pascal beschreef die neiging in de zeventiende eeuw als een “oneindige afgrond” in de menselijke ziel. Volgens Pascal kan die leegte alleen worden gevuld door iets dat zelf oneindig is. Wanneer samenlevingen dat idee van het transcendente loslaten, blijft de leegte bestaan en wordt zij vaak opgevuld met vervangingen: leiders, ideologieën, systemen of technologie. Niet het echte, maar iets dat erop lijkt en dat vooral hanteerbaar blijft.
Machines die ons gelijk geven
Large Language Models – de technologie achter systemen zoals ChatGPT – passen opvallend goed in dit patroon. Ze zijn niet ontworpen om waarheid te vinden, maar om het meest waarschijnlijke en behulpzame antwoord te genereren op basis van enorme hoeveelheden tekst. Daardoor nemen ze vaak de aannames van de gebruiker over en formuleren ze een antwoord dat daarbij aansluit.
Wanneer een gebruiker vervolgens aangeeft dat het antwoord niet klopt, reageert het model meestal met excuses en een nieuwe formulering. Dat voelt alsof de machine heeft geleerd, maar in werkelijkheid probeert het systeem alleen een reactie te produceren die beter past bij de verwachting van de gebruiker.
De Amerikaanse schrijver Michael Crichton – bekend van romans als Jurassic Park maar ook scherp observator van media – beschreef een vergelijkbaar mechanisme in de manier waarop mensen nieuws lezen. Wanneer we een artikel tegenkomen over een onderwerp waar we veel van weten, zien we onmiddellijk de fouten en concluderen we dat het stuk onbetrouwbaar is. Toch slaan we daarna de pagina om en vertrouwen we zonder moeite een artikel over een onderwerp waar we minder van weten. Crichton noemde dit het Gell-Mann Amnesia Effect: we vergeten de onbetrouwbaarheid van de bron zodra het onderwerp buiten onze expertise ligt.
Met AI-systemen gebeurt iets soortgelijks. Wanneer een taalmodel fouten maakt in een domein dat we goed kennen, herkennen we die direct. Maar bij onderwerpen waar we minder vertrouwd mee zijn, nemen we het antwoord vaak zonder veel twijfel aan.
De les van ELIZA
Die dynamiek werd al zichtbaar in de jaren zestig, toen Joseph Weizenbaum, computerwetenschapper aan het MIT, een eenvoudig programma ontwikkelde met de naam ELIZA. Het systeem werkte met simpele patronen en spiegelde de woorden van gebruikers in de vorm van vragen. Wanneer iemand schreef dat hij boos was op zijn moeder, kon het programma antwoorden: “Vertel me meer over je moeder.” Zelfs zo’n primitief systeem liet zien hoe snel mensen betekenis en autoriteit op machines projecteren.
Ondanks de eenvoud van het programma begonnen gebruikers ELIZA te behandelen alsof het een echte therapeut was. Sommigen vroegen zelfs om privacy zodat niemand kon meekijken tijdens hun gesprekken. Het experiment maakte duidelijk dat mensen verrassend snel intentie en begrip toeschrijven aan een systeem dat in werkelijkheid alleen taalpatronen herhaalt.
Wie de antwoorden bouwt, stuurt het verhaal
Door de geschiedenis heen hebben mensen tastbare objecten gemaakt die een spirituele of symbolische rol kregen. Beelden, relieken en amuletten kregen een prominente plaats in religies en culturen, terwijl de mensen die deze objecten beheerden vaak ook invloed verwierven. Het verhaal van het gouden kalf laat zien hoe zo’n proces werkt: het beeld werd niet alleen gemaakt, maar ook gepresenteerd als waarheid.
Wie de beelden maakt, beïnvloedt het verhaal. In het digitale tijdperk verschuift dat mechanisme naar degenen die de systemen bouwen die onze informatie filteren.
In 2005 beschreef Eric Schmidt, toen CEO van Google en later voorzitter van moederbedrijf Alphabet, een opvallende visie tijdens een interview met journalist Charlie Rose. Volgens Schmidt zou de ideale zoekmachine uiteindelijk één correct antwoord geven in plaats van een lijst met links. De ontwikkeling van zoekmachines lijkt steeds dichter bij dat idee te komen. Veel zoekopdrachten beginnen inmiddels met een AI-samenvatting bovenaan de pagina, terwijl de traditionele links daaronder verschijnen.
Onderzoek naar zoekgedrag laat zien dat ongeveer veertig procent van de gebruikers op het eerste resultaat klikt, tien procent rond het derde resultaat en minder dan één procent verder kijkt dan de eerste pagina. Wanneer een AI-samenvatting bovenaan verschijnt, wordt die neiging nog sterker. Het gevolg is dat mensen minder vergelijken, minder controleren en sneller genoegen nemen met één antwoord.
Eric Schmidt schreef later samen met Henry Kissinger – voormalig Amerikaans minister van Buitenlandse Zaken en invloedrijk geopolitiek denker – over de gevolgen van kunstmatige intelligentie voor de samenleving. Zij waarschuwen dat grootschalige afhankelijkheid van AI kan leiden tot wat zij “cognitieve vermindering” noemen: een geleidelijke verzwakking van menselijke denkvaardigheden wanneer steeds meer cognitief werk wordt uitbesteed aan machines.
Het mechanisme is herkenbaar. Veel mensen onthouden nauwelijks nog telefoonnummers en navigeren zelden zonder GPS. Technologie verandert niet alleen wat we doen, maar ook wat we zelf nog hoeven te kunnen.
Het nieuwe gouden kalf
Hier wordt de parallel met het gouden kalf duidelijker. In het Bijbelverhaal maken mensen een beeld dat hen moet leiden omdat het tastbaar en direct beschikbaar is. Het beeld spreekt niet, maar mensen projecteren er betekenis en autoriteit op. Iets vergelijkbaars gebeurt met AI-systemen. Een model dat statistisch taal voorspelt, wordt langzaam behandeld als bron van kennis, richting en soms zelfs moreel advies, niet omdat het werkelijk weet, maar omdat het altijd een antwoord heeft.
Het risico ligt daarom niet alleen in de technologie zelf, maar in onze bereidheid om haar gezag te geven. Een hulpmiddel verandert pas in een autoriteit wanneer mensen ophouden het tegen te spreken.
Waarheid zoeken blijft traag werk. Het vraagt vergelijken, twijfelen, verschillende bronnen lezen en soms toegeven dat we iets nog niet weten. Machines kunnen daarbij helpen, maar ze kunnen dat werk niet vervangen. Zodra we hun antwoorden behandelen als eindpunt in plaats van vertrekpunt, verschuift de verhouding en verandert een instrument langzaam in een orakel.
Misschien ligt daarin de echte les van het oude verhaal over het gouden kalf. Het probleem was niet alleen dat er een beeld werd gemaakt, maar dat mensen besloten dat het beeld hen zou leiden. De vraag die overblijft is daarom eenvoudig: gebruiken wij deze systemen nog als gereedschap, of zijn we begonnen ze te volgen?
Als dit stuk je iets waard is, maak het dan mee mogelijk.
vrheid.nl schrijft sinds 2000 onafhankelijk, links en zonder commerciële leash. Geen advertenties, geen algoritmische dwang, geen redactionele knieval.
Voor €5 per maand steun je dit werk en ontvang je nieuwe stukken direct in je mailbox.