Function calling (funksjonskall)
Function calling lar en språkmodell bruke eksterne verktøy og databaser ved å generere strukturerte instruksjoner som programvaren din utfører.
Function calling, eller funksjonskall på norsk, er en teknikk som lar store språkmodeller samhandle med omverdenen. En ren språkmodell kan bare generere tekst basert på mønstre den har lært under trening. Den vet ikke hva klokken er akkurat nå, den kan ikke sjekke lagerstatus i en nettbutikk, og den kan ikke sende en e-post på vegne av deg. Med function calling kan modellen be eksterne systemer om å gjøre disse oppgavene for seg.
I stedet for å gjette på fakta eller dikte opp svar når den mangler fersk informasjon, kan modellen velge å aktivere et forhåndsdefinert verktøy. Den sender da ut en strukturert forespørsel med nøyaktig hvilke parametere den trenger, hvorpå ditt bakenforliggende system utfører handlingen og mater resultatet tilbake til samtalen.
Slik fungerer prosessen trinn for trinn
Mange tror feilaktig at språkmodellen plutselig kjører kode direkte på datamaskinen din. Det er ikke tilfelle. Function calling er en strengt kontrollert dialog mellom tre parter: brukeren, språkmodellen og din egen applikasjonsserver.
- Verktøyliste: Når applikasjonen din sender et spørsmål til modellen, legger den samtidig ved en liste over tilgjengelige funksjoner, beskrevet med navn, formål og forventede datafelt.
- Beslutning: Modellen analyserer brukerens ønske. Hvis den ser at et av verktøyene trengs for å løse oppgaven, formulerer den et strukturert svar, som oftest i JSON-format, som angir hvilken funksjon den vil kalle og hvilke argumenter som skal brukes.
- Utførelse: Din applikasjon mottar dette svaret, oppdager at det er et funksjonskall, og kjører selve koden mot din database, et API eller et eksternt forretningssystem.
- Svar tilbake: Applikasjonen returnerer resultatet av funksjonen til modellen som en ny melding.
- Sluttsvar: Modellen leser det ferske resultatet og formulerer et naturlig, menneskelig svar tilbake til sluttbrukeren.
Et lokalt eksempel: Timebestilling hos bilverksted i Drammen
Se for deg et uavhengig bilverksted i Drammen som vil la kundene bestille dekkskift via en digital assistent på nettsiden sin. Uten funksjonskall ville en chatbot bare kunnet svare generelt om åpningstider eller be kunden ringe i morgen.
Med function calling har verkstedet definert to funksjoner i systemet sitt: sjekk_ledig_time og reserver_dekkskift. Når en kunde skriver: «Hei, har dere ledig tid for dekkskift på torsdag ettermiddag?», skjer følgende i bakgrunnen:
- Modellen gjetter ikke. Den gjenkjenner datoen for kommende torsdag og kaller
sjekk_ledig_time(tjeneste="dekkskift", dato="202X-XX-XX", tidspunkt="ettermiddag"). - Verkstedets bookingsystem slår opp i kalenderen og melder tilbake at det er ledig klokken 14:30 og 16:00.
- Assistenten svarer kunden: «Ja, vi har ledig klokken 14:30 og 16:00 på torsdag. Hvilket tidspunkt passer best for deg?»
- Når kunden velger klokken 16:00 og oppgir registreringsnummeret sitt, kaller modellen
reserver_dekkskiftmed bilens kjennetegn og klokkeslett.
Kunden opplever en sømløs samtale, mens verkstedets kalender oppdateres i sanntid uten at noen ansatte måtte ta telefonen.
Hvorfor modellen ikke kjører koden selv
Sikkerhet og pålitelighet er hovedgrunnen til at denne oppdelingen eksisterer. Språkmodeller er uforutsigbare av natur. Hvis en AI hadde direkte tilgang til å kjøre rå kode eller skrive direkte til en database hos en norsk kommune eller en nettbank, ville risikoen for feil, datalekkasjer og sabotasje vært uakseptabel.
Ved at modellen bare produserer en strukturert tekstforespørsel, beholder bedriften full kontroll. Systemutviklerne bestemmer hvilke API-nøkler som brukes, validerer at inndataene er trygge, og kan legge inn sperrer som krever bekreftelse fra et menneske før sensitive handlinger, som for eksempel en pengeoverføring eller sletting av kundedata, faktisk gjennomføres.
Vanlige feil og utfordringer
Den største feilen mange gjør når de bygger løsninger med function calling, er å gi uklare beskrivelser av verktøyene. Modellen er helt avhengig av klare ledetekster for å forstå nøyaktig hva en funksjon gjør, og hva hvert enkelt felt betyr. Hvis to funksjoner har overlappende bruksområder, vil modellen ofte velge feil eller nøle.
En annen felle er å gi modellen for mange verktøy på én gang. Jo lengre listen over funksjoner er, desto større er sjansen for at modellen blir forvirret, velger feil parametere eller overser det beste alternativet. God praksis er å begrense utvalget til kun de verktøyene som er relevante for den aktuelle fasen i samtalen.
Ofte stilte spørsmål
Kjører språkmodellen koden på min server?
Nei, modellen genererer bare en strukturert beskrivelse av hvilken funksjon den ønsker å kjøre. Applikasjonen din må lese denne instruksen og utføre den faktiske koden lokalt.
Hvilket dataformat brukes ved function calling?
Stort sett alle moderne språkmodeller bruker JSON til å sende funksjonsnavn og tilhørende argumenter frem og tilbake.
Hva er forskjellen mellom function calling og en AI-agent?
Function calling er den tekniske byggesteinen som lar modellen bruke verktøy. En agent er et mer komplekst system som bruker slike funksjonskall gjentatte ganger i en loop for å løse større mål på egen hånd.
Kan modellen finne på funksjoner som ikke finnes?
Dersom modellen er dårlig instruert eller oppgaven er uklar, kan den i sjeldne tilfeller prøve å kalle en oppdiktet funksjon. God validering i koden din forhindrer at slike ugyldige kall får konsekvenser.
