Guardrails (sikkerhedsværn i AI)
Guardrails er tekniske sikkerhedsmekanismer og regler, der forhindrer kunstig intelligens i at generere skadeligt, ulovligt eller irrelevant indhold.
Guardrails i kunstig intelligens er et sæt af tekniske filtre, regler og begrænsninger, der sikrer, at en AI-model holder sig inden for trygge, lovlige og relevante rammer. Ligesom autoværnet på en motorvej forhindrer en bil i at køre i grøften, sørger guardrails for, at en sprogmodel ikke afsporer ved at give farlige instruktioner, lække personfølsomme data eller opføre sig stødende over for brugeren.
Uden disse sikkerhedsværn vil en generativ AI udelukkende basere sine svar på statistiske sandsynligheder fra de enorme mængder træningsdata, den er fodret med. Det betyder, at den uden guardrails ville kunne videregive opskrifter på farlige kemikalier, generere hadefuld tale eller give medicinske råd, som den slet ikke er kvalificeret til at yde. Guardrails er derfor fundamentet for, at virksomheder og offentlige institutioner tør lade almindelige mennesker interagere direkte med teknologien.
Hvordan fungerer guardrails i praksis?
Sikkerhedsværn omkring en sprogmodel fungerer sjældent som én enkelt lås på døren. I stedet anvender udviklere et flerlagssystem, der beskytter modellen før, under og efter, at den genererer et svar:
- I selve træningen: Gennem målrettet træning lærer modellen at genkende uetiske emner og automatisk afslå at hjælpe med skadelige opgaver, for eksempel instruktioner i indbrud eller vold.
- Via systemprompts: Udvikleren definerer en overordnet rolle og faste adfærdsregler. Her fastlægges modellens tone, tilladte emner og specifikke grænser for, hvad den må udtale sig om.
- Inputfiltre: Før en brugers besked overhovedet når frem til modellen, scanner et eksternt filter teksten for bandeord, trusler, forsøg på manipulation eller personhenførbare oplysninger som CPR-numre.
- Outputfiltre: Når modellen har formuleret et svar, kontrollerer et separat sikkerhedslag teksten, inden den vises på skærmen, for at fange fejl, hallucinationer eller upassende formuleringer.
Et hverdagsbesøg i den kommunale selvbetjening
Forestil dig en digital assistent på hjemmesiden hos Silkeborg Kommune, der er sat i verden for at vejlede borgere om åbningstider på genbrugspladsen, regler for affaldssortering og pasfornyelse. For denne assistent er guardrails helt afgørende for, at den forbliver en pålidelig informationskanal.
Hvis en borger forsøger at spørge den kommunale bot til råds om aktieinvesteringer, vil dens guardrails gribe ind og levere et høfligt standardsvar om, at den kun må rådgive om kommunale ydelser. Forsøger en anden borger i vrede at indtaste personfølsomme sundhedsoplysninger om en nabo, vil inputfilteret opdage de følsomme data og afvise beskeden for at beskytte privatlivet. På den måde forhindrer guardrails, at den kommunale bot bliver misbrugt eller skaber juridiske problemer for forvaltningen.
Den svære balance: Sikkerhed over for brugbarhed
En af de største udfordringer ved at designe guardrails er kalibreringen. Det handler om at finde den rette balance mellem frihed og kontrol. Sikkerhedsværn, der er for løse, skaber en uforudsigelig model, der kan forvolde skade eller skade en virksomheds omdømme. Omvendt skaber for stramme guardrails en frustrerende brugeroplevelse.
Når et filter er for overfølsomt, begynder modellen at afvise helt uskyldige spørgsmål, et fænomen der kaldes falske positive. Hvis en gymnasieelev i Roskilde beder en model om at analysere en historisk tekst om modstandsbevægelsen under Besættelsen, må modellen ikke nægte at svare, blot fordi teksten indeholder ord som våben, sabotage eller krig. God ingeniørkunst inden for AI handler om at gøre barriererne faste over for reelle trusler, men smidige nok til at forstå den faktiske kontekst.
Typiske fejl ved opsætning af guardrails
En udbredt fejl blandt virksomheder, der bygger deres egne AI-løsninger, er at tro, at en enkelt systemprompt er tilstrækkelig beskyttelse. At skrive "Du må aldrig svare på spørgsmål uden for vores emne" i prompten er sjældent nok. Sprogmodeller kan let overbevises om at glemme deres instruktioner, hvis en bruger formulerer sig kreativt eller bruger hypotetiske rollespil.
En anden faldgrube er manglende løbende overvågning. Brugernes adfærd ændrer sig, og der opstår hele tiden nye metoder til at teste grænserne. Effektive guardrails kræver derfor jævnlig stresstest, hvor man systematisk forsøger at bryde igennem forsvaret for at opdage hullerne, før brugerne gør det.
Ofte stillede spørgsmål
Hvorfor afviser en AI nogle gange helt uskyldige spørgsmål?
Det skyldes ofte overkalibrerede guardrails, hvor sikkerhedsfilteret reagerer på isolerede triggerord uden at forstå den harmløse kontekst, for eksempel i historiske eller faglige spørgsmål.
Er en systemprompt det samme som guardrails?
Nej, en systemprompt er blot ét af flere lag. Reelle guardrails omfatter også forudgående modeltræning samt eksterne filtre, der kontrollerer både brugerens input og modellens output uafhængigt af hinanden.
Hvad sker der, hvis en AI slet ikke har guardrails?
Uden guardrails kan modellen generere ulovlige instruktioner, hadefuldt indhold, lække private data fra sine træningskilder og manipuleres til at handle i modstrid med ejerens formål.
