PML: jak przewidzieć, czy interwencja w pamięć modelu językowego zadziała

👁 149 przeczytań

Praca pochodzi z arXiv (identyfikator 2608.12892), złożona 13 sierpnia 2026 roku, autorstwa siedmiu badaczy: Jinhao Jing, Tian Zeyu, Lucas Qingyang Fang, Zhisheng Chen, Shuang Chen, Yuhao Luo i Qiannian Zhao. Dokument ma status preprintu - nie ma w nim informacji o recenzji ani afiliacji autorów.

Problem, który autorzy chcą rozwiązać

Technika zwana activation steering polega na tym, że w modelu językowym wyznacza się kierunek w przestrzeni reprezentacji i 'przesuwa’ aktywacje modelu wzdłuż tego kierunku, żeby zmienić jego zachowanie. Dotychczasowe metody lokalizacji takich kierunków mówią, gdzie coś się znajduje w sieci, ale nie mówią, czy interwencja wzdłuż tego kierunku będzie selektywna - czyli czy zmieni docelowe zachowanie bez niszczenia innych zdolności modelu. Autorzy nazywają to brakiem wiedzy o 'selektywnym reżimie operacyjnym’ danego kierunku.

Czym jest PML

Predictive Memory Localization (PML) traktuje ścieżkę interwencji - konkretny rekord, kierunek i warstwę sieci - jako obiekt prognozy. Metoda rozdziela trzy rzeczy: losowy ruch docelowej reprezentacji (kalibracja), uszkodzenie semantycznych sąsiadów oraz uszkodzenie ogólnych zdolności modelu. Następnie porównuje statyczną lokalizację i geometrię nadzorowaną z przyczynową odpowiedzią modelu przy małej sile interwencji, przy czym siły użyte do pomiaru i do oceny są od siebie rozłączne.

Skala eksperymentów

Badanie prowadzono na zamrożonych modelach. Zbiór obejmował 3000 rekordów z dziewięciu zbiorów danych i czternastu dziedzin, co dało 30 000 odrębnych ścieżek rekord-kierunek-warstwa oraz 210 000 odrębnych ewaluacji ścieżka-siła interwencji.

Główne wyniki liczbowe

W warstwie 7 kierunek wyprowadzony z geometrii (oznaczony przez autorów jako RFM/AGOP) osiąga 13,1% dla miary 'target-any’ i 12,3% dla 'clean-any’, co przekracza wynik losowy odpowiednio o 3,6 i 3,4 punktu procentowego według testu bootstrap sparowanego po rekordach. Autorzy sprawdzali wyniki w podziałach grupowanych po rekordach, zbiorach danych i dziedzinach.

Kluczowe odkrycie dotyczące prognozowania: odpowiedzi modelu przy sile interwencji |α| = 0,1 są najsilniejszym sygnałem dla wyników przy rozłącznych, wyższych siłach |α| należących do zbioru {0,25; 0,5}. Oznacza to, że słaba sonda może przewidywać, co stanie się przy silniejszej interwencji.

Selektor oparty na predyktorze - testowany na rekordach wstrzymanych - wybiera współczynnik interwencji lub wstrzymuje się od działania. W porównaniu z polityką stałej siły dobranej na zbiorze treningowym poprawia użyteczność, zmniejsza uszkodzenia semantycznych sąsiadów i pozwala pominąć większość ewaluacji w gęstym skanowaniu. Na trzech modelach bazowych dopasowanych pod względem normy residualnej AUROC w ujęciu makro na wstrzymanych rekordach wynosi od 0,801 do 0,828.

Czego w dokumencie nie ma

Abstrakt nie podaje nazw konkretnych modeli językowych użytych w eksperymentach ani ich rozmiarów. Nie ma informacji o tym, jakich zbiorów danych użyto z nazwy. Nie opisano też zastosowań praktycznych ani planów udostępnienia kodu - w dostępnym tekście (tylko abstrakt i metadane arXiv) tych informacji po prostu nie ma.

Co z tego wynika

Moim zdaniem interesujące jest tu przesunięcie akcentu: zamiast pytać 'gdzie jest ta wiedza w modelu’, autorzy pytają 'czy warto tu w ogóle interweniować i z jaką siłą’. Wartości AUROC rzędu 0,80-0,83 to wyniki, które sugerują, że prognoza jest lepsza od losowej, ale nie jest niezawodna - co autorzy sami zaznaczają, mówiąc o 'ryzykownej świadomej decyzji’. Przewaga nad losową lokalizacją o 3-4 punkty procentowe brzmi skromnie i bez porównania z innymi metodami z literatury trudno ocenić, czy to dużo. Praca wygląda jak solidna, techniczna robota inżynierska na dużym zbiorze ścieżek, ale dopóki nie pojawi się pełny tekst z opisem modeli i metodologii, trudno wydać ostateczny werdykt.

Źródło: arXiv cs.AI: Predictive Memory Localization: Forecasting Selective Intervention Paths from Internal Signals (dokument z 2026-08-17). To omówienie powstało na podstawie pełnego tekstu dokumentu, nie relacji innych mediów.

// czytaj dalejMuse Spark Open: Meta otworzyła wagi modelu z 816 mld parametrów. Licencja, sprzęt i cenaArtykułySonda prawdy w LLM: błąd pomiaru, nie ukryta wiedza modeluNewsyDiSCO: jak zablokować niebezpieczne obrazy AI bez dostępu do modeluNewsy