Przejdź do treści
promptowy.com / KI-ordbok / Hallusinasjon (AI-hallusinasjon)
Sikkerhet og kvalitet

Hallusinasjon (AI-hallusinasjon)

En AI-hallusinasjon oppstår når en språkmodell presenterer oppdiktede eller feilaktige opplysninger med full overbevisning, som om de var fakta.

En AI-hallusinasjon er et fenomen der en kunstig intelligens genererer påstander, fakta eller kildehenvisninger som virker troverdige og velskrevne, men som i virkeligheten er helt oppdiktede. Begrepet brukes oftest om store språkmodeller som svarer med overbevisende selvsikkerhet på spørsmål de egentlig ikke har faktisk grunnlag for å besvare.

For brukere flest oppleves dette som at verktøyet lyver eller finner på ting underveis. I praksis handler det om hvordan teknologien er bygget opp: Modellen setter sammen ord basert på statistiske mønstre i språket, ikke en innebygd forståelse av sannhet eller direkte tilgang til en kvalitetssikret fasit.

Et typisk eksempel fra en norsk arbeidshverdag

Tenk deg en ansatt i en lokal sparebank eller en rådgiver i Skien kommune som ber en samtalerobot om å oppsummere historikken til et lokalt entreprenørfirma før et anbud. Assistenten leverer en velskrevet tekst som nevner stiftelsesår, navnet på daglig leder og tre store referanseprosjekter i Grenlandsområdet. Språket flyter perfekt, tonen er saklig, og teksten ser profesjonell ut.

Ved en kontroll mot Brønnøysundregistrene viser det seg likevel at daglig leder har et helt annet navn, og at to av prosjektene aldri har eksistert. Modellen har hentet brokker av informasjon om norsk næringsliv og fylt ut de tomme feltene med gjetninger som statistisk sett passer inn i setningsstrukturen. Dette er en klassisk hallusinasjon i praksis.

Hvorfor dikter kunstig intelligens opp svar?

Språkmodeller fungerer ved å forutsi det mest sannsynlige neste ordet i en tekststreng. Hvis du stiller et spørsmål om et lite dokumentert tema, eller hvis ledeteksten din inneholder en feilaktig forutsetning, vil modellen ofte prøve å fullføre resonnementet i stedet for å påpeke mangelen på kunnskap.

Under opptreningen har modellene ofte blitt belønnet for å gi utfyllende og hjelpsomme svar. Hvis systemet vurderer det som mer verdifullt å svare flytende enn å innrømme uvitenhet, velger det gjetning. Modellen har ingen bevissthet rundt skillet mellom virkelighet og fantasi, den optimerer kun for språklig sammenheng ut fra instruksen den har fått.

Slik kontrollerer du svarene steg for steg

For å sikre kvaliteten i tekster og analyser som skal brukes i profesjonelle sammenhenger, bør du etablere en fast rutine for etterrettelighet:

  1. Isoler konkrete påstander: Plukk ut alle årstall, personnavn, lovparagrafer, geografiske steder og økonomiske tall fra svaret.
  2. Bruk eksterne kilder: Slå opp fakta i pålitelige registre som Lovdata, SSB eller virksomhetens egne rapporter, fremfor å stole på modellens genererte tekst.
  3. Sjekk oppgitte referanser: Dersom modellen oppgir en lenke, en boktittel eller en forskningsrapport, må du kontrollere at publikasjonen faktisk eksisterer i virkeligheten. Det hender ofte at titler og forfattere kombineres fritt.
  4. Gjør beregninger på nytt: Ikke la tekstmodellen utføre avansert regning uten kontroll. Før tallene inn i et regneark eller en kalkulator for å verifisere sluttsummen.

Hvordan redusere feil i ledeteksten

Du kan i stor grad tøyle modellens tendens til å dikte ved å gi klare rammer. Gi assistenten kildematerialet direkte i ledeteksten, og instruer den strengt: Bruk kun vedlagt tekst. Hvis du ikke finner svaret der, skal du svare at informasjonen mangler. Ved å fjerne rommet for fri diktning gjør du verktøyet langt mer presist og trygt i den daglige driften.

Ofte stilte spørsmål

Hvorfor sier ikke modellen bare at den ikke vet svaret?

Språkmodeller er programmert til å fullføre tekstoppgaver og har ofte lært at et langt og hjelpsomt svar er bedre enn en avvisning. Uten eksplisitte instrukser om å stoppe vil de derfor forsøke å gjette seg frem til et sannsynlig svar.

Hjelper det å spørre modellen 'Er du sikker på dette?'

Nei, dette er ingen uavhengig faktasjekk. Modellen vil ofte bare beklage og dikte opp en ny forklaring, eller den vil forsvare det oppdiktede svaret med enda mer overbevisning.

Er en hallusinasjon det samme som en utdatert opplysning?

Ikke nødvendigvis. En utdatert opplysning skyldes at modellens treningsdata mangler ferske hendelser, mens en hallusinasjon er en ren oppfinnelse som aldri har vært sann.

← Alle begreper i KI-ordboken

🛒 Sklep Kinetyka CapCut Pro 460 zł/rok Lovable Pro 450 zł/rok Replit Core 119 zł/rok Zobacz wszystko →
× ‹ powiększenie ›