Jak LLM decyduje, czy wywołać narzędzie? Badacze znaleźli konkretny wektor

👁 121 przeczytań

Modele językowe działające jako agenci - czyli takie, które mogą wywoływać zewnętrzne narzędzia, uruchamiać kod czy odpytywać API - muszą za każdym razem podjąć decyzję: czy sięgnąć po narzędzie, czy po prostu odpowiedzieć tekstem. Do tej pory mechanizm tej decyzji był słabo rozumiany. Autorzy pracy przyjętej na konferencję NeurIPS 2026 postanowili to zmienić.

Problem: złożone prompty utrudniają analizę

Prompty używane w systemach agentycznych są długie i mocno ustrukturyzowane. Łączą instrukcje roli, schematy narzędzi, szablony formatowania i właściwe zapytanie użytkownika - wszystko rozłożone na setki tokenów. W takim gęstym, wzajemnie powiązanym kontekście trudno wskazać pojedynczą zmienną, którą można by kontrolować i badać. Autorzy piszą wprost, że „no single controllable variable for mechanistic analysis is obvious”.

Rozwiązanie: minimalne pary kontrastowe

Badacze zaproponowali metodę przekształcania złożonych promptów agentycznych w minimalne pary kontrastowe. Zasada jest prosta: w jednej wersji prompt zawiera czasownik wykonawczy - np. „write” (napisz), w drugiej wersji zastępuje się go czasownikiem analitycznym - np. „discuss” (omów). Ta jedna zamiana niezawodnie odwraca decyzję modelu o wywołaniu narzędzia. Na tej podstawie zbudowano zbiór 500 takich par promptów w trzech językach programowania: Python, Java i C++. Z tego 300 par przeznaczono do analizy mechanistycznej, a 200 zatrzymano jako zbiór testowy.

Odkryty wektor i mechanizm tłumienia

Śledząc wewnętrzne stany modelu, autorzy wyodrębnili wektor oznaczony jako μ_Δ. Twierdzą, że jest on zarówno przyczynowo konieczny, jak i wystarczający do podjęcia decyzji o wywołaniu narzędzia. Co ważne, wektor ten działa nie tylko na promptach odkrywczych - generalizuje się na naturalne wieloturowe trajektorie z benchmarku τ²-Bench oraz na zapytania pozbawione czasowników.

Mechanizm działa następująco: sam scaffold - czyli ta cała otoczka systemu agentycznego z instrukcjami, schematami narzędzi i szablonami - ustanawia domyślne nastawienie modelu ku wywoływaniu narzędzi. Czasowniki analityczne tłumią to nastawienie poprzez aktywację cech sygnalizujących, że użycie narzędzia jest zbędne. Czasowniki wykonawcze natomiast w dużej mierze pozostawiają to nastawienie nietkniętym. Autorzy używają do tej analizy metody zwanej dekompozycją Transcoder. Na końcu specjalne głowice atencji i cechy MLP odczytują wynikowy stan i na tej podstawie model podejmuje ostateczną decyzję.

Siedem modeli, ten sam mechanizm

Badacze sprawdzili, czy odkryty mechanizm pojawia się tylko w jednym modelu, czy jest szerszy. Przetestowali łącznie siedem modeli z trzech rodzin: Qwen, Mistral i Granite. We wszystkich przypadkach ten sam mechanizm się powtarzał. Kod do reprodukcji wyników jest publicznie dostępny pod adresem wskazanym w pracy.

Praca została przyjęta jako poster na NeurIPS 2026. Autorzy to: Xijie Gong, Tingxu Han, Jiahao Zhang, Wei Song, Ziqi Ding, Hanqi Yan, Youcheng Sun i Lijie Hu.

Co z tego wynika

Moim zdaniem to badanie jest istotne z kilku powodów. Po pierwsze, pokazuje, że zachowanie agentycznych LLM - choć wydaje się emergentne i trudne do przewidzenia - ma konkretne, zlokalizowane wewnętrzne reprezentacje. To otwiera drogę do bardziej precyzyjnego sterowania tym, kiedy model sięga po narzędzia, a kiedy odpowiada samodzielnie. Po drugie, fakt, że pojedynczy czasownik w prośbie użytkownika potrafi odwrócić tę decyzję, ma praktyczne konsekwencje dla projektowania promptów - zarówno dla twórców systemów agentycznych, jak i dla potencjalnych atakujących, którzy chcieliby te systemy zawieść. Praca nie odpowiada jednak na pytanie, jak ten mechanizm wykorzystać do budowania lepszych lub bezpieczniejszych agentów - to dokument czysto mechanistyczny, a nie inżynierski.

Źródło: arXiv cs.AI: How Do Agentic LLMs Decide to Call Tools? A Tool-Call Vector Shaped by Suppression (dokument z 2026-10-20). To omówienie powstało na podstawie pełnego tekstu dokumentu, nie relacji innych mediów.