Few-shot prompting
Few-shot prompting er en teknik, hvor du giver sprogmodellen et par konkrete eksempler på opgaven, så den forstår det ønskede mønster og format.
Few-shot prompting er en metode inden for prompt engineering, hvor du giver en sprogmodel to eller flere konkrete eksempler på både input og ønsket output, før du stiller den egentlige opgave. I stedet for at forklare en kompliceret proces i ren tekst, viser du modellen det mønster, den skal efterligne. Modellen opfanger strukturen og anvender den direkte på dine nye data.
Udtrykket stammer fra maskinlæring, hvor et "shot" simpelthen henviser til et referenceeksempel. Når du bruger få eksempler (typisk to til fem), kaldes det few-shot. Giver du slet ingen eksempler, taler man om zero-shot, og giver du blot et enkelt, hedder det one-shot prompting. Few-shot er en af de mest pålidelige metoder til at styre formater, tonefald og logisk klassificering.
Hvordan få eksempler skaber stor præcision
Store sprogmodeller er bygget til at genkende og fuldføre mønstre. Hvis du blot skriver en lang, teoretisk instruktion, kan modellen nemt overse vigtige nuancer eller formatere svaret uhensigtsmæssigt. Når du derimod inkluderer et par færdige eksempler i din prompt, aktiverer du modellens evne til at lære ud fra konteksten.
Det svarer til at oplære en ny studentermedhjælper på et kontor i Kolding: Du kan bruge tyve minutter på at forklare virksomhedens interne retningslinjer for kundesvar, eller du kan vise to vellykkede mails fra gårsdagens indbakke. De fleste mennesker forstår opgaven langt hurtigere ved at se eksemplerne, og det samme gælder for moderne sprogmodeller.
Et konkret eksempel: Sortering af henvendelser i en cykelforretning
Forestil dig en cykelhandler i Aarhus, der hver dag modtager snesevis af henvendelser via sin hjemmeside. Ejeren ønsker at sortere beskederne automatisk efter afdeling og prioritet, så mekanikerne på værkstedet hurtigt kan tage over. En few-shot prompt til opgaven kan se sådan ud:
Kunde: Hej, mit gearkabel er knækket på vej over Ringgaden i morges. Kan I lave det i dag?
Afdeling: Værksted | Prioritet: Høj
Kunde: Hej, hvad koster et almindeligt forårseftersyn på en ladcykel?
Afdeling: Kundeservice | Prioritet: Normal
Kunde: Min elcykel melder fejl på batteriet og vil slet ikke starte.
Afdeling:
Uden at du behøver at definere regler for afdelinger eller prioriteter i en lang tekst, vil modellen lynhurtigt svare: Værksted | Prioritet: Høj. Den har aflæst syntaksen, vurderet alvoren ud fra de to forrige eksempler og leveret præcis den ønskede formatering.
Fordelene ved at bruge eksempler i hverdagen
Når du arbejder med automatisering af administrative opgaver, tekstudtræk eller tekstforfatning i mindre danske virksomheder, tilbyder few-shot prompting markante fordele:
- Ensartet formatering: Hvis du har brug for data i et bestemt skema, et fast komma-separeret format eller ren kode, garanterer eksemplerne næsten altid, at modellen ikke tilføjer høflighedsfraser eller overflødig forklaring.
- Præcis sprogstil: Det er vanskeligt at beskrive en særlig jysk lune, et fagligt jurasprog eller en uformel tone til sociale medier med regler alene. To korte eksempler overfører stilen øjeblikkeligt.
- Færre hallucinationer: Ved at sætte en fast ramme for, hvad et gyldigt svar er, mindsker du risikoen for, at modellen finder på fakta eller afviger fra emnet.
- Tidsbesparelse: Du slipper for at finpudse lange, snørklede instrukser. Du kopierer blot et par tidligere løste opgaver ind i prompten.
Typiske faldgruber ved few-shot prompting
Selvom teknikken er simpel, begår mange brugere et par klassiske fejl. Den mest udbredte er manglende konsistens i eksemplerne. Hvis det første eksempel bruger store bogstaver og bindestreger, mens det andet bruger små bogstaver og punktummer, bliver modellen forvirret over, hvilket mønster den skal efterligne.
En anden faldgrube er skævvredne data. Hvis du viser tre eksempler på kundeklager, der alle kategoriseres som kritiske, vil modellen være tilbøjelig til også at stemple en simpel forespørgsel som kritisk. Sørg derfor for, at dine eksempler dækker forskellige udfald. Hold desuden eksemplerne så korte og præcise som muligt, så de ikke bruger unødig plads i promptens samlede kontekstvindue.
Ofte stillede spørgsmål
Hvor mange eksempler skal man bruge i few-shot prompting?
I langt de fleste tilfælde er to til fire varierede og præcise eksempler rigeligt. Flere eksempler kan gavne meget komplekse opgaver, men for mange data kan overfylde prompten uden at forbedre svaret.
Hvad er forskellen på zero-shot og few-shot prompting?
Ved zero-shot beder du modellen løse opgaven udelukkende ud fra en instruktion. Ved few-shot inkluderer du færdige eksempler på opgaven, så modellen kan se det forventede resultat, før den svarer.
Bliver AI-modellen genoptrænet, når jeg bruger few-shot?
Nej, modellen ændres ikke permanent. Den opfanger mønsteret midlertidigt i den aktuelle samtale gennem sin kontekstforståelse, men glemmer det igen i en ny session.
