AI hallucinaties herkennen en voorkomen

AI-hallucinaties zijn het fenomeen waarbij AI-systemen overtuigende maar feitelijk onjuiste informatie produceren: niet-bestaande bronnen, verkeerde statistieken, fictieve feiten, gepresenteerd met het zelfvertrouwen van geverifieerde informatie. Het is een van de meest onderschatte risico's bij AI-gebruik in organisaties. In juridische en medische toepassingen (de hoog-risico categorie van de EU AI Act) kan een niet-herkende hallucinatie directe operationele en juridische schade veroorzaken.

Onderdeel zijn van AI-geletterdheid betekent ook weten wanneer je AI-output niet kunt vertrouwen. Deze pagina legt uit wat hallucinaties zijn, waarom ze ontstaan, hoe je ze herkent en wat je ermee doet.

Wat zijn AI-hallucinaties?

Het woord "hallucinatie" is ontleend aan de psychologie en beschrijft in AI-context hetzelfde principe: een systeem ervaart iets (genereert informatie) dat niet overeenkomt met de werkelijkheid, maar dat voor de waarnemer overtuigend aanvoelt.

In de praktijk kan dat er zo uitzien: je vraagt ChatGPT om drie wetenschappelijke bronnen over een onderwerp, en het systeem geeft je drie perfect geformatteerde referenties, inclusief auteursnamen, tijdschriftnamen en publicatiejaren. Geen van die drie artikelen bestaat. Het systeem heeft ze gefabriceerd op basis van patronen in zijn trainingsdata.

Drie typen hallucinaties komen het vaakst voor:

• Feitelijke hallucinaties: verkeerde cijfers, datums, namen of historische feiten die overtuigend worden gepresenteerd als correcte informatie.
• Bronhallucinaties: verwijzingen naar publicaties, websites, rapporten of personen die niet bestaan. Het systeem verzint geloofwaardige referenties.
• Contextuele hallucinaties: technisch correcte informatie die niet relevant is voor jouw specifieke situatie, omdat het systeem de context verkeerd heeft geinterpreteerd.

Het kritieke verschil met een gewone computerfout: een computerfout is doorgaans herkenbaar onlogisch. Een AI-hallucinatie past naadloos in wat je verwacht te lezen. Daarin schuilt het gevaar.

Waarom ontstaan AI-hallucinaties?

Om te begrijpen waarom AI hallucineert, moet je begrijpen hoe generatieve AI werkt. Systemen zoals ChatGPT zijn geen databases die feiten opzoeken. Het zijn taalmodellen die woord voor woord de meest waarschijnlijke voortzetting van een tekst berekenen op basis van patronen in enorme hoeveelheden trainingsdata.

Ze begrijpen taal in statistische zin, maar weten niet of een zin waar is. Ze kennen geen feiten, ze kennen patronen. Als het patroon "wetenschappelijk artikel over X" gevolgd wordt door auteursnamen, tijdschrifttitels en jaarnummers, genereert het systeem die elementen ook als er geen specifieke data over bestaat. Het vult de gaten in met plausibele inhoud.

Drie structurele oorzaken

Beperkte of incomplete trainingsdata. Als een onderwerp weinig vertegenwoordigd is in de trainingsdata, heeft het systeem te weinig grond om op te staan en vult het aan op basis van aangrenzende patronen. Hoe nicher het onderwerp, hoe groter het hallucinatierisico.

Kennisgrens in de tijd. Elk AI-model heeft een zogenaamde kennisafsnijdatum. Alles wat daarna is gebeurd, is onbekend voor het systeem. Toch zullen de meeste modellen bij vragen over recente ontwikkelingen toch antwoord geven, en dat antwoord is dan speculatief of verzonnen.

Ingebouwde neiging tot antwoorden. AI-systemen zijn geoptimaliseerd om behulpzame, vloeiende antwoorden te geven. Ze zijn niet geoptimaliseerd om onzekerheid te erkennen. Die asymmetrie leidt ertoe dat systemen een antwoord fabriceren in plaats van zeggen: "Dit weet ik niet."

Hoe herken je AI-hallucinaties?

Hallucinaties herkennen zonder verificatie is moeilijk, want ze klinken geloofwaardig. Toch zijn er signalen die aanleiding geven tot extra controle.

Waarschuwingssignalen

Te specifieke details zonder bronvermelding. Exacte percentages, specifieke datums, precieze citaten of namen die het systeem presenteert zonder aan te geven waar die vandaan komen. Specificiteit zonder verifieerbare bron is een rode vlag.

Ongewone combinaties van bekende elementen. AI combineert soms echte personen met fictieve uitspraken, bestaande organisaties met niet-bestaande projecten, of reele gebeurtenissen met verzonnen details. Het raamwerk klopt, de inhoud niet.

Inconsistenties bij herformulering. Stel dezelfde vraag op een andere manier en vergelijk de antwoorden. Als kerninformatie verschuift (andere namen, andere cijfers, andere conclusies) is dat een signaal dat het systeem geen betrouwbare kennis heeft maar patronen genereert.

Onderwerpen na de kennisgrens van het model. Vraag je naar recente wetgeving, nieuwe onderzoeksresultaten of actuele statistieken? Dan is extra verificatie verplicht, want het systeem kan die informatie niet weten.

Verificatiestappen

Concrete voorbeelden uit de praktijk

Abstracte uitleg helpt, maar concrete cases maken duidelijk waarom hallucinaties een serieus organisatierisico zijn.

Hoe voorkom je schade door AI-hallucinaties?

Hallucinaties volledig uitbannen is technisch niet mogelijk: ze zijn inherent aan hoe taalmodellen werken. Schade voorkomen is echter goed mogelijk met de juiste aanpak.

Stel de juiste verwachtingen in

Behandel AI-output als een eerste concept of een startpunt voor onderzoek, niet als een eindproduct. Die instelling verandert hoe je met de informatie omgaat. Een concept moet je controleren. Een eindproduct ga je gebruiken.

Train medewerkers in dit onderscheid. Veel problemen ontstaan niet omdat mensen naief zijn, maar omdat ze niet weten dat AI kan hallucineren. Die kennis is een basisdeel van AI-geletterdheid.

Gebruik prompts die onzekerheid zichtbaar maken

Je kunt het systeem expliciet instrueren om zijn onzekerheid te markeren. Voeg aan je prompt toe: "Geef aan wanneer je niet zeker bent, en vermeld als je geen recente informatie hebt over dit onderwerp." Dat geeft je betere signalen over waar verificatie nodig is.

Vraag ook altijd om bronvermelding bij feitelijke informatie. Niet om ze blind te vertrouwen, maar om een controleerbaar spoor te hebben. Een systeem dat geen bronnen noemt, geeft je niets om op te toetsen.

Implementeer een verificatieprotocol

Voor informatie die gebruikt wordt in beslissingen, communicatie of beleid: stel een standaard verificatiestap in. Dat hoeft niet uitgebreid te zijn, maar het moet er zijn. Een simpele regel als "alles wat we citeren, controleren we via een primaire bron" voorkomt de meeste schade.

Bepaal per gebruik-categorie het risiconiveau. Interne brainstorm-notities hebben een lager verificatiecriterium dan een offerte, een juridisch document of een persbericht.

Wees extra kritisch bij hoog-risico-domeinen

Bepaalde toepassingsgebieden vragen altijd om extra verificatie: juridische informatie, medische inhoud, financiele cijfers, regelgeving en compliance, en alles wat recenter is dan de kennisgrens van het model. Gebruik AI in deze domeinen als denkpartner, niet als informatiedienst. De EU AI Act categoriseert AI-toepassingen in medische en juridische besluitvorming niet voor niets als hoog-risico. Meer over veilig AI-gebruik in organisaties bij de Rijksoverheid over kunstmatige intelligentie.

Veelgestelde vragen