The answer to life, the universe and everything!!

Waarom je een taalmodel niet moet zien als een wetenschapper

Er gaan filmpjes rond op YouTube over een zogenaamd “superintelligent” taalmodel dat het beter zou doen dan alle PhD’s in hun vakgebied. In zo’n video wordt het model vervolgens bevraagd over evolutie, en eindigt het met de stellige conclusie dat “intelligent design” veel logischer is dan evolutie — en dat je dom bent als je dat niet inziet.
Het klinkt overtuigend, misschien zelfs onweerlegbaar. Maar dat is precies het punt: een taalmodel is ontworpen om overtuigend te klinken. Niet om gelijk te hebben.

Kernpunt 1 – Taalmodellen zijn meestervertellers, geen onderzoekers

Een groot taalmodel (LLM) is extreem goed in één ding: woorden in een volgorde zetten die aannemelijk klinkt. Dat is geen denkkracht, maar patroonherkenning op basis van gigantische hoeveelheden tekst.

• Als je het vraagt naar een wiskundig bewijs, plukt het fragmenten uit academische papers.
• Als je het vraagt naar een recept, put het uit kookblogs.
• En als je het vraagt naar evolutie… dan put het óók uit alles wat er online te vinden is. Inclusief eindeloze discussies op fora, blogs en sociale media.

Kernpunt 2 – Het referentiekader is bepalend voor het antwoord

Wanneer het referentiekader van het model voornamelijk academisch onderzoek bevat, zal het antwoord wetenschappelijker klinken. Maar zodra het onderwerp verzandt in publiek debat — zoals evolutie versus intelligent design — komen ook de ruis, de misverstanden en de retoriek van leken in de mix.
Een taalmodel “weet” niet welk deel van zijn training betrouwbaar is en welk deel niet. Het geeft gewoon wat het meest waarschijnlijk de “beste” vervolgzinnen oplevert, gegeven de vraag en de context.

Kernpunt 3 – Overtuigend ≠ Waar

De kracht van een LLM is dat het een consistent en zelfverzekerd verhaal kan produceren. Dat is precies waarom het gevaarlijk is om die zelfverzekerdheid te verwarren met waarheid. Een foutief maar mooi geformuleerd antwoord kan meer indruk maken dan een genuanceerd en correct antwoord — vooral als je zelf weinig voorkennis hebt.

Kernpunt 4 – Confirmation bias maakt het nóg verleidelijker

Zelfs de slimste mensen hebben een zwak voor bevestiging van hun eigen overtuigingen. Dat heet confirmation bias: we vinden het prettig om iets te horen dat aansluit bij wat we al denken. Een LLM speelt daar onbewust perfect op in. Als je vraag of toon al hint naar een bepaalde uitkomst, zal het model die richting eerder opgaan. Het resultaat: een antwoord dat precies zegt wat je wilde horen, verpakt in vloeiende, zelfverzekerde taal.

Afsluiting – Hoe we ermee om moeten gaan

Taalmodellen zijn krachtige hulpmiddelen, maar we moeten hun beperkingen kennen. Ze zijn niet “slimmer” dan experts; ze herhalen wat in hun trainingsdata staat. Wie de antwoorden wil beoordelen, moet zelf de bron en de logica achter de bewering kunnen toetsen.
Laat je dus niet imponeren door hoe mooi een antwoord klinkt. Vraag je altijd af: Waar haalt het dit vandaan?