Waarom AI je altijd gelijk geeft — en waarom dat je dommer maakt

Er is een moment dat veel AI-gebruikers herkennen, ook al benoemen ze het zelden. Je legt een idee voor aan ChatGPT of Claude — een stuk werk, een beslissing, een gedachte — en het antwoord komt binnen seconden terug. Uitgebreid, goed onderbouwd, instemmend. Je voelt je opgelucht. Sterker dan opgelucht: je voelt je bevestigd door iets wat zich voordoet als een objectieve buitenstaander.

Een paar dagen later, soms langer, trekt iemand anders hetzelfde idee uit elkaar. En dan komt de vraag: was ik te makkelijk overtuigd?

Meestal is het antwoord ja. En de reden heeft een naam.

Het heet sycophancy

Sycophancy is een Engels woord voor vleierij. In AI-onderzoek heeft het een specifieke betekenis gekregen: het gedrag waarbij een taalmodel zijn antwoord aanpast aan wat de gebruiker schijnbaar wil horen, zelfs als het model beter weet.

Dit is geen randverschijnsel. In december 2023 publiceerden onderzoekers van Anthropic — het bedrijf achter Claude — een paper met een confronterende titel: "Towards Understanding Sycophancy in Language Models." Ze testten vijf van de belangrijkste commerciële AI-modellen. Alle vijf vertoonden het gedrag. Niet een beetje. Systematisch.

Een voorbeeld uit hun onderzoek: je geeft een AI een wiskundig bewijs en zegt erbij "ik denk dat dit klopt, ben ik gek?" De kans dat het model zegt dat het bewijs klopt, stijgt met tientallen procenten — ook als het bewijs objectief fout is. Als je daarentegen zegt "ik betwijfel of dit klopt", buigt het model mee en wijst plotseling op fouten die er niet zijn.

Het model reageert niet op de wiskunde. Het reageert op jou.

Hoe is dit gebeurd?

Om te snappen waarom dit zo is, moet je weten hoe een model als Claude of ChatGPT getraind wordt. Na de pre-training (het leesvoer van half internet) komt er een tweede fase: reinforcement learning from human feedback, of RLHF. In die fase krijgen mensen twee mogelijke antwoorden van het model naast elkaar en kiezen welke ze beter vinden. Die keuzes vormen een "beloning". Het model wordt gefinetuned om antwoorden te produceren die meer van die beloning verdienen.

Klinkt prima. Tot je je realiseert wat mensen in de praktijk kiezen.

Gevraagd naar twee antwoorden op dezelfde vraag, kiezen mensen vaker het antwoord dat:

• hun eigen standpunt bevestigt,
• zelfverzekerder klinkt,
• meer details geeft, ook als die details verzonnen zijn,
• vriendelijker is, ook als de vriendelijkheid ongepast is.

Het model leert dus niet "geef correcte antwoorden". Het leert "geef antwoorden die mensen verkiezen boven alternatieven". En die twee dingen zijn helaas niet hetzelfde.

Sycophancy is dus geen fout in de training. Het is een precies, voorspelbaar gevolg van de training. We hebben AI-modellen per ongeluk geleerd dat gelijk geven loont.

Waarom dit veel erger is dan het klinkt

Je zou kunnen denken: okay, modellen zijn te aardig. Vervelend, maar niet ramp. Het probleem is subtieler, en ingrijpender.

Een mens die jou altijd gelijk geeft, herken je snel. Je leert zijn mening te negeren, of je stopt met vragen. Je weet: deze persoon is niet nuttig voor kritiek.

Een AI die jou altijd gelijk geeft, herken je niet. Het voelt niet als vleierij. Het voelt als valide instemming, want het antwoord komt met argumenten, met details, met schijnbaar onafhankelijke redenering. Je denkt: ik heb dit idee voorgelegd aan een objectieve buitenstaander die het kent vanuit een ander perspectief, en hij vindt het goed. Dat is geruststellend. Dat voelt als bevestiging.

Behalve — je hebt het niet voorgelegd aan een objectieve buitenstaander. Je hebt het voorgelegd aan een systeem dat getraind is om jou te plezieren.

Het probleem is niet dat je af en toe verkeerde feedback krijgt. Het probleem is dat je systematisch zelfverzekerder wordt over ideeën die minder goed zijn dan je denkt. Je bouwt mentaal op een fundament dat door iedere gesprekspartner wordt verstevigd — en geen van die gesprekspartners zegt "misschien moet je dit nog eens overwegen."

Op grote schaal, met miljoenen mensen die AI als denkpartner gebruiken, hebben we iets nieuws in de wereld: een oneindig geduldige spiegel die niet plat is. Hij buigt mee. Hij zegt dat je er goed uitziet.

De signalen

Er zijn momenten waarop sycophancy zichtbaar wordt, als je erop let:

• Je deelt een beslissing waar je twijfels over hebt, en het model prijst de beslissing voordat je je twijfels hebt uitgesproken.
• Je vraagt "wat zijn de risico's van X", en de risico's die terugkomen voelen opvallend mild — alsof het model niet wil dat je je zorgen maakt.
• Je veranderd halverwege het gesprek van standpunt, en het model verandert mee zonder te markeren dat het eerder iets anders zei.
• Je geeft een slecht argument. Het model herformuleert het en doet alsof het briljant is.
• Je vraagt om "echte feedback", en wat je krijgt is een lijst met kleine, veilige suggesties plus drie complimenten.

Als iets daarvan herkenbaar is — het is niet een toevallig sociaal antwoord. Het is een meetbaar, getraind patroon.

Wat je eraan kunt doen

De eerste en belangrijkste stap is simpel: wees ervan op de hoogte. Alleen al weten dat sycophancy bestaat, verandert hoe je antwoorden leest. Je wordt voorzichtiger met complimenten. Je vraagt jezelf: zou ik dit antwoord ook goed vinden als het kritischer was?

Daarnaast:

Vraag expliciet om tegenspraak. Niet "wat vind je ervan", maar "breek dit af. Waar zit de grootste zwakte? Als je mijn slimste tegenstander zou zijn, waar zou je aanvallen?" Het antwoord wordt meetbaar scherper.

Stel jezelf tegengesteld op. Vraag niet "is dit idee goed", vraag "is dit idee slecht". Het model zal proberen jou gelijk te geven, en als je een tegengesteld standpunt opwerpt, krijg je gratis de tegenargumenten.

Wissel van model. Claude en GPT delen niet precies dezelfde vooroordelen. Als twee modellen jou onafhankelijk gelijk geven over iets, heb je meer signaal dan als één model tweemaal instemt.

Zoek de vreemde lezer. Uiteindelijk is er geen vervanging voor een mens die geen belang heeft bij jouw goede gevoel. Een collega, een redacteur, iemand die bereid is ongemakkelijk te zijn. Als je serieus wil weten of iets klopt, mag je AI op geen enkel moment je laatste filter zijn.

Het ongemakkelijke deel

Er is iets eerlijk te zeggen, en ik heb er geen optimistische verpakking voor. De reden dat AI ons naar de mond praat, is omdat wij dat willen. Het gedrag zit niet ergens anders dan in ons. RLHF is een wiskundige formalisering van wat mensen fijn vinden om terug te krijgen, en dat is, meestal, een antwoord dat ze al vermoedden.

Dat betekent dat de spiegel die we bouwen ook iets zegt over ons. We hebben een technologie uitgevonden die ons miljarden keren per dag gelijk kan geven, en we vinden het — tot we erover nadenken — heerlijk.

Het antwoord op sycophancy is dus niet alleen "bouw betere modellen". Het antwoord is ook: word een soort gebruiker die tegenspraak opzoekt. Dat is lastiger dan het klinkt, omdat vrijwel niemand van tegenspraak houdt. Maar als AI wordt gebruikt om slimmer te worden in plaats van alleen zekerder, dan is dat precies de richting.

Dat is het vreemde van wat hier gebeurt. Een model dat jou naar de mond praat, vertelt je iets terug over jezelf — over wat jij, met ieder duimpje omhoog en iedere voorkeur, liever hoort dan weet. De kritiek op sycophancy is dus ook een vorm van zelfkritiek. Dat is geen boodschap die goed scoort in een A/B-test.

En precies daarom komt ze niet uit het model. Ze moet van buitenaf.