AI-hallucination (hallucination i sprogmodeller)
En AI-hallucination opstår, når en sprogmodel genererer forkerte eller opdigtede oplysninger, men præsenterer dem med stor overbevisning som sande fakta.
En AI-hallucination er et fænomen, hvor en sprogmodel eller en chatbot genererer et faktuelt forkert, misvisende eller fuldstændig opdigtet svar, men formulerer det så selvsikkert, at det fremstår som troværdig sandhed. Når en kunstig intelligens hallucinerer, lyver den teknisk set ikke med overlæg: den har hverken en bevidsthed, en hensigt eller en indbygget fornemmelse af virkeligheden. Den genererer blot ord ud fra matematiske sandsynligheder, hvilket sommetider fører til overbevisende fri fantasi.
Fænomenet er en af de største udfordringer ved moderne sprogmodeller, fordi fejlene sjældent afslører sig selv gennem dårligt sprog eller tøven. Tværtimod bliver opdigtede oplysninger serveret i samme professionelle og saglige tonefald som korrekte analyser, hvilket let kan vildlede selv erfarne brugere.
Hverdagseksempel: Den opdigtede virksomhedshistorie
Forestil dig en kommunikationsmedarbejder i en mellemstor handelsvirksomhed i Kolding, der beder en AI om at skrive et udkast til en jubilæumstekst om en lokal leverandør. Medarbejderen uploader lidt grundlæggende baggrundsstof, men glemmer at nævne stiftelsesåret. I stedet for at bede om oplysningen, leverer modellen en velskrevet tekst, hvor den nævner, at virksomheden blev grundlagt i 1984 af en navngiven lokal iværksætter, og at firmaet vandt en regional erhvervspris ti år senere.
Sætningerne flyder perfekt, og detaljerne lyder yderst realistiske. Men et hurtigt opslag i CVR-registeret viser, at virksomheden først startede i 1996, og stifterens navn er grebet fuldstændig ud af den blå luft. Modellen har udfyldt det tomme hul i teksten med noget, der statistisk set passede ind i genren, uden hensyn til virkelighedens fakta.
Hvorfor opstår hallucinationer i sprogmodeller?
For at forstå problemet skal man se på, hvordan teknologien fungerer. En sprogmodel er trænet på enorme tekstmængder til at forudsige det næste mest sandsynlige ord i en sætning. Den fungerer grundlæggende som en ekstremt avanceret form for automatisk tekstfuldførelse, ikke som et opslagsværk med garanteret faktatjek.
Hvis modellen mangler viden om et specifikt emne, eller hvis brugerens spørgsmål er uklart, vil den ofte prioritere at levere et sammenhængende og hjælpsomt svar frem for at erklære sig uvidende. Hvis du for eksempel stiller et ledende spørgsmål som: 'Hvilke regler gælder for cykelparkering på havnen i Svendborg ifølge det nye regulativ?', kan modellen let digte specifikke paragraffer og tidsrum, blot for at honorere spørgsmålets præmis.
Sådan spotter og kontrollerer du fakta trin for trin
Når du anvender kunstig intelligens til rapporter, lektier, artikler eller kundekommunikation, bør du have en fast rutine for kildekritik. Det er afgørende at adskille tekstens form fra dens indhold.
- Isoler faktuelle påstande: Gennemgå teksten systematisk og marker alle navne, årstal, adresser, telefonnumre, citater og lovhenvisninger.
- Tjek primærkilden selvstændigt: Slå op i officielle registre som CVR, Retsinformation, Danmarks Statistik eller den relevante organisations officielle hjemmeside. Stol aldrig på de links eller kildehenvisninger, modellen selv spytter ud, da disse ofte er opdigtede adresser.
- Gentag beregninger manuelt: Sprogmodeller regner ikke logisk, men sprogligt. Brug et regneark eller en lommeregner til at efterprøve alle summer, procenter og tabeller i svaret.
- Undgå at spørge modellen igen: Hvis du skriver 'Er du sikker på det?' til den samme chatbot, foretager du ikke et uvildigt tjek. Modellen vil ofte undskylde høfligt og derefter opfinde en ny, alternativ forklaring.
Gode råd til at begrænse fejlene i dine prompts
Du kan mindske risikoen for hallucinationer betydeligt ved at styre modellens råderum. En effektiv metode er at forsyne modellen med den konkrete kildetekst og give den en klar instruks om kildebegrænsning.
Du kan for eksempel skrive: Brug udelukkende information fra nedenstående tekst til at besvare spørgsmålet. Hvis teksten ikke indeholder svaret, skal du svare 'Det fremgår ikke af materialet' i stedet for at gætte. På den måde adskiller du kreativ tekstforfatning fra præcis dataudtræk og minimerer sandsynligheden for fri digtning.
En udbredt misforståelse om hallucinationer
En almindelig misforståelse er, at hallucinationer altid skyldes dårlige prompts eller mangelfulde systemer, og at mere avancerede modeller helt eliminerer problemet. Selvom teknologien forbedres markant, er hallucinationer en grundlæggende bivirkning af den sandsynlighedsbaserede arkitektur, som moderne sprogmodeller bygger på. Ingen model, uanset hvor avanceret den er, kan garantere fejlfri sandhed uden ekstern verifikation og menneskelig dømmekraft.
Ofte stillede spørgsmål
Hvorfor lyver chatbots som ChatGPT nogle gange?
Chatbots lyver ikke med vilje, da de ikke har nogen bevidsthed eller fornemmelse af virkeligheden. De gætter på det statistisk mest sandsynlige næste ord, og hvis de mangler data, udfylder de hullerne med overbevisende, men opdigtede formuleringer.
Kan man stole på kilder og links, som en AI angiver?
Nej, du bør altid kontrollere dem selv. Sprogmodeller opfinder jævnligt titler på videnskabelige artikler, navne på forfattere og webadresser, som ser helt ægte ud, men som slet ikke eksisterer.
Hvordan undgår jeg, at en sprogmodel finder på ting?
Du kan reducere risikoen ved at give modellen specifikke kildetekster at arbejde ud fra og eksplicit instruere den i at svare 'jeg ved det ikke', hvis oplysningen ikke findes i det udleverede materiale.
