Waarom hallucineren taalmodellen?
In september 2025 publiceerden onderzoekers van OpenAI en Georgia Tech het paper ‘Why Language Models Hallucinate’. Hun vergelijking: een taalmodel gedraagt zich als een student bij een moeilijk examen. Weet het model iets niet zeker, dan gokt het soms een plausibel antwoord.
Volgens de onderzoekers komt dat door de manier van trainen en testen. De meeste tests geven een punt voor een goed antwoord en niets voor ‘ik weet het niet’. Gokken levert dan gemiddeld meer op. De gok is vaak ook nog heel specifiek, zoals ’30 september’ in plaats van ‘ergens in de herfst’.
Ook feiten die maar één keer in de trainingsdata voorkomen, zijn lastig. Komt 20 procent van de verjaardagen maar één keer voor, dan verwachten de onderzoekers dat een basismodel bij minstens 20 procent van alle verjaardagen hallucineert. In hun test noemde een taalmodel in drie pogingen drie verschillende, foute geboortedata van een van de auteurs.
Hoe zit het met de AI Overviews van Google?
In mei 2024 gingen vreemde antwoorden uit AI Overviews rond op sociale media. Google schreef daarop dat AI Overviews meestal niet hallucineren zoals andere taalmodellen, omdat ze leunen op de bovenste zoekresultaten. Fouten hadden volgens Google andere oorzaken: een verkeerd begrepen vraag, een gemiste nuance in een webtekst of te weinig goede informatie.
Google gaf twee voorbeelden. Het advies om lijm te gebruiken zodat kaas op een pizza blijft plakken, kwam uit een forum. Op de vraag hoeveel stenen je moet eten, verwees een AI Overview naar satire, omdat serieuze content over die vraag nauwelijks bestond. Meer over deze functie lees je in het kennisbankartikel over AI Overviews.
Voorbeeld: een chatbot verzint een retourtermijn
Elektronicawinkel Stekker uit Arnhem test een chatbot op een taalmodel, zonder koppeling met de eigen documenten. Op de vraag naar de retourtermijn noemt de chatbot zestig dagen. De winkel hanteert dertig dagen.
De winkel koppelt de chatbot daarna aan de eigen voorwaarden met RAG. De instructie wordt: staat het antwoord niet in de voorwaarden, zeg dan dat je het niet weet en verwijs naar de klantenservice. Een medewerker test elke maand twintig vaste vragen.
Hoe beperk je AI-hallucinaties?
- Geef het model bronnen: laat het werken met je eigen documenten. In het oorspronkelijke RAG-onderzoek hallucineerden modellen met een zoekstap minder dan een vergelijkbaar model zonder.
- Sta onzekerheid toe: vraag in je instructie om ‘ik weet het niet’ als het antwoord ontbreekt. Dat is precies wat de meeste tests volgens OpenAI niet belonen.
- Controleer zelf: Google raadt bij AI Mode aan om belangrijke informatie altijd op meer dan één plek na te gaan.
Veelgestelde vragen over AI-hallucinatie
Wat betekent hallucineren bij AI?
Een AI-model hallucineert als het iets beweert dat overtuigend klinkt, maar niet klopt. Volgens Google is confabulatie waarschijnlijk een preciezere term. Hallucinatie werd alleen eerder populair.
Kun je AI-hallucinaties voorkomen?
Niet helemaal. Ook de nieuwste modellen hallucineren nog, schrijven de onderzoekers van OpenAI. Je kunt de kans wel verkleinen. Werk met je eigen bronnen en controleer de uitkomst altijd zelf.
Hallucineren AI Overviews ook?
Google schreef in 2024 dat AI Overviews meestal niet hallucineren zoals andere taalmodellen. Ze leunen op zoekresultaten. Fouten kwamen volgens Google vooral door een verkeerd begrepen vraag of te weinig goede informatie.