Hallucination (AI-hallucination)
En AI-hallucination uppstår när en språkmodell presenterar påhittade påståenden, felaktiga källor eller falska fakta som om de vore sanna.
En AI-hallucination innebär att en generativ språkmodell genererar ett svar som innehåller felaktiga eller helt påhittade uppgifter, men presenterar dem med stor språklig säkerhet som om de vore sanning. Uttrycket syftar inte på att tekniken har ett medvetande eller upplever syner, utan beskriver ett tekniskt fenomen där modellen fyller i kunskapsluckor med statistiskt rimliga formuleringar som saknar förankring i verkligheten.
Problemet uppstår i alla typer av texter, från sammanfattningar av mötesprotokoll till faktasökningar och kodgenerering. En hallucination behöver inte gälla hela svaret. Ofta är 95 procent av innehållet helt korrekt, medan ett enda namn, en hänvisning till en lag eller ett specifikt årtal är fullständigt uppdiktat.
Ett vardagligt exempel från en svensk verksamhet
Föreställ dig en kommunikatör på en mellanstor skola i Karlstad som ska skriva en presentation om skolans historia. För att spara tid ber personen en AI-assistent ta fram en kort tidslinje och frågar när den ursprungliga skolbyggnaden invigdes och vem som ritade den.
Modellen svarar snabbt och skriver att skolan invigdes av en namngiven borgmästare år 1928 och ritades av en känd arkitekt från regionen. Texten är välskriven, stilen är formell och tonen övertygande. Vid en kontroll i kommunens faktiska arkiv visar det sig dock att skolan byggdes först på 1950-talet, arkitekten ritade aldrig offentliga byggnader i Värmland, och namnet på borgmästaren tillhör en person som levde i en helt annan del av landet. Modellen har kombinerat vanliga arkitekturhistoriska begrepp med regional klang för att skapa ett svar som låter troligt, trots att grundfakta saknas.
Varför hittar modellen på fakta?
En modern språkmodell är i grunden en avancerad textförutsägare. Den beräknar sannolikheten för vilket ord som bäst bör följa efter det föregående, utifrån de mönster den har lärt sig under sin träning. Den har ingen inbyggd koppling till en ständigt uppdaterad databas över faktiska sanningar, och den reflekterar inte över skillnaden mellan fantasi och verklighet på det sätt som en människa gör.
En vanlig orsak till hallucinationer är ledande frågor. Om du frågar varför kommunfullmäktige i Skövde röstade nej till ett visst förslag, utgår modellen från att omröstningen faktiskt har ägt rum och motiverar beslutet, även om förslaget aldrig någonsin behandlades. Träningsmetoderna kan dessutom uppmuntra modellen att hellre leverera ett utförligt och hjälpsamt svar än att svara med ett kort och ärligt besked om att den saknar information.
Så kontrollerar och undviker du felaktigheter
För att arbeta säkert med artificiell intelligens på kontoret eller i studierna krävs ett systematiskt arbetssätt:
- Identifiera verifierbara påståenden: Läs igenom texten och ringa in alla datum, personnamn, adresser, lagrum och beräkningar. Utgå aldrig från att texten är sann bara för att den har ett professionellt och sakligt tonfall.
- Kräv stöd från egna dokument: Ge modellen underlaget direkt i instruktionen. Be den uttryckligen att enbart basera svaret på det bifogade materialet och att svara med orden information saknas om svaret inte går att utläsa direkt ur texten.
- Granska källhänvisningar manuellt: Om modellen anger en webblänk, en boktitel eller en specifik rapport, kontrollera att referensen faktiskt existerar i verkligheten. Det är mycket vanligt att AI konstruerar titlar som låter autentiska men inte finns.
- Räkna om alla siffror: Språkmodeller är inte miniräknare. Om ett svar innehåller budgetposter, momsberäkningar eller sammanställningar från en tabell måste matematiken alltid kontrolleras i ett kalkylark.
Vanliga misstag vid faktagranskning
Ett mycket vanligt misstag är att ställa en kontrollfråga till samma AI-modell: Är du helt säker på att det här stämmer? Detta fungerar inte som en oberoende verifiering. Modellen har inget minne av verkliga händelser, utan genererar bara ytterligare ett statistiskt svar. Ofta försvarar den sitt första fel med ännu fler påhittade detaljer, eller ber om ursäkt och byter till ett annat påhittat alternativ.
Ett annat misstag är att tro att en välkänd programvara eller ett avancerat gränssnitt garanterar korrekthet. Oavsett hur sofistikerat systemet är, ligger det slutliga ansvaret för textens sanning alltid hos den mänskliga användaren som publicerar eller förmedlar informationen vidare.
Vanliga frågor
Varför hallucinerar språkmodeller?
De är byggda för att förutsäga vilka ord som statistiskt sett hänger ihop, inte för att avgöra vad som är sant. Saknas data genererar modellen ett rimligt klingande svar istället för att erkänna brist på kunskap.
Kan man lita på en AI som anger källor?
Nej, inte utan kontroll. Språkmodeller kan enkelt hitta på realistiska författarnamn, boktitlar, webbadresser och lagtexter som inte existerar i verkligheten.
Hjälper det att fråga modellen om den är säker på sitt svar?
Nej, det är inte en tillförlitlig metod. Modellen saknar förmåga till oberoende självgranskning och tenderar ofta att bekräfta sin egen hallucination med nya påhittade argument.
Hur minskar jag risken för hallucinationer i mina instruktioner?
Mata in den faktiska källtexten direkt i din prompt och instruera modellen att uteslutande hämta svar därifrån samt tydligt ange om en uppgift inte finns omnämnd.
