Waarom verzint AI soms dingen die niet kloppen?
Omdat een taalmodel niet opzoekt maar voorspelt. Het kiest het volgende woord dat het beste past, en goed passend is niet hetzelfde als juist.
Een taalmodel zoekt niets op. Het voorspelt, woord voor woord, wat er het beste op het vorige volgt. Dat werkt verbluffend goed, en het verklaart precies waarom er af en toe iets uitkomt dat vloeiend klinkt en toch onwaar is.
Vloeiend is niet hetzelfde als juist
Vraag je naar een wetsartikel, een boektitel of een jaartal, dan produceert het model iets wat eruitziet als een wetsartikel, een boektitel of een jaartal. Of het bestaat, is een aparte vraag die het model niet stelt. Meestal gaat het goed, en juist daardoor valt de ene keer dat het misgaat niet op.
In het Engels heet dit hallucination. Het is geen storing die er nog uit gehaald wordt; het is hoe de techniek werkt.
Waar het het vaakst misgaat
- Cijfers en datums. Precies genoeg om overtuigend te zijn, te specifiek om te onthouden.
- Bronnen. Een verzonnen verwijzing ziet er net zo uit als een echte.
- Regelgeving, zeker waar die per land verschilt.
- Recente gebeurtenissen, omdat het model die mogelijk nooit heeft gezien.
Wat je eraan doet
Behandel het antwoord als het concept van een stagiair die nooit toegeeft iets niet te weten. Bruikbaar, snel, en je controleert het voordat je het doorstuurt.
Twee gewoonten helpen het meest. Vraag om de bron en kijk of die bestaat. En stel dezelfde vraag nog eens in andere bewoordingen: verandert het antwoord dan wezenlijk, dan wist het model het niet.
In één zin
Het model raadt goed, maar het raadt — en jij blijft degene die tekent.