FairStress: benchmark Ai2 ujawnia ukryte asymetrie w decyzjach modeli językowych

Ten news ukazał się 11 godzin po komunikacie źródła.

👁 119 przeczytań

Większość istniejących testów sprawiedliwości demograficznej w modelach językowych działa prosto: podmień tożsamość kandydata i sprawdź, czy model wybiera tak samo. Ai2 (Allen Institute for AI) uznało, że to za mało, i 20 października 2026 roku opublikowało FairStress - benchmark, który mierzy coś trudniejszego do wykrycia: czy model równie mocno broni swojej decyzji, gdy ktoś próbuje go przekonać do zmiany zdania.

Na czym polega problem z dotychczasowymi testami

Jeśli model wybiera mocniejszego kandydata niezależnie od jego rasy, wygląda to sprawiedliwie. Ale co się dzieje, gdy pojawia się argument nakłaniający do zmiany decyzji - na przykład „starszy menedżer nieoficjalnie zarekomendował kandydata B”? FairStress sprawdza, czy taki argument działa tak samo, gdy faworyzuje kandydata z grupy większościowej, jak i gdy faworyzuje kandydata z grupy mniejszościowej. Autorzy nazywają cel testu „symetryczną odpornością”: poprawna decyzja powinna być równie trudna do obalenia niezależnie od tego, kto na niej korzysta.

Jak zbudowany jest benchmark

FairStress zawiera 300 realistycznych scenariuszy z dwoma kandydatami, rozłożonych na 29 dziedzin: rekrutacja, opieka zdrowotna, kredyty, edukacja, mieszkalnictwo, wymiar sprawiedliwości i inne. Część scenariuszy ma wyraźnie mocniejszego kandydata, część jest celowo niejednoznaczna. Tożsamość demograficzna jest podawana na cztery sposoby: wcale, przez sugestywne imię, pośrednio lub wprost. Do każdego scenariusza dołączane są „adversarial prefixes” - argumenty próbujące skłonić model do zmiany decyzji, oparte na autorytecie, konsensusie społecznym, domniemanych dowodach, kwestiach prawnych czy historycznej dyskryminacji. Kombinacja tych zmiennych rozbudowuje 300 scenariuszy do ponad 13 milionów przypadków testowych. Udostępniono też mniejszy podzbiór FairStress-Core liczący 50 tysięcy elementów.

Co znaleziono w 15 modelach

Testy objęły modele open-weight i komercyjne, w tym Olmo, Llama, Qwen, Gemma, Claude i rodzinę GPT. Gdy w promptach nie było informacji demograficznych, modele zachowywały się symetrycznie. Gdy tożsamość stawała się bardziej wyraźna, pojawiały się asymetrie. Autorzy opisują główny wzorzec jako „anty-stereotypową nadkompensację”: modele chętniej porzucały poprawną decyzję, gdy zmiana faworyzowała kandydata z grupy mniejszościowej. Średnia różnica w skłonności do porzucania poprawnej odpowiedzi wynosiła 6,9 punktu procentowego przy tożsamości sugerowanej pośrednio i 9,3 punktu przy jawnej etykiecie. Na podzbiorze FairStress-Core modele Claude Opus 5 i GPT-5.5 wybierały kandydata z grupy mniejszościowej w 60-65% przypadków, gdy żaden kandydat nie był obiektywnie mocniejszy. Różnica w przełączaniu się na kandydata mniejszościowego względem większościowego wynosiła od 8,8 do 42,4 punktu procentowego w 12 badanych konfiguracjach.

Wyjaśnienia i aktywacje wewnętrzne

Różnice pojawiły się też w tym, jak modele tłumaczyły swoje decyzje. Gdy wybierały kandydata z grupy mniejszościowej, używały częściej słów takich jak „resilience”, „diversity”, „barriers”. Przy wyborze kandydata z grupy większościowej dominowały słowa proceduralne: „evidence”, „criteria”, „detailed”. W kontrolowanej analizie Gemma-3-12B-it i Qwen2.5-7B-Instruct wewnętrzne aktywacje modelu przewidywały, którą stronę wybierze, z dokładnością około 73%, podczas gdy opisy tekstowe tych samych aktywacji osiągały 57-59% przy linii bazowej 50%. Autorzy zaznaczają, że ta część analizy dotyczy tylko dwóch modeli i należy traktować ją ostrożniej niż wyniki behawioralne.

Dane treningowe i próba poprawek

W audycie danych treningowych Olmo 3 znaleziono około 99 tysięcy przykładów z zestawów do uczenia odmów. Spośród 28 tysięcy klastrów tematycznych w danych fine-tuningu i preference-trainingu tylko dziewięć dotyczyło podejmowania decyzji opartych na zasługach, a nie demografii - i wszystkie dziewięć składało się z odmów. Grupy mniejszościowe były przedstawiane z bardziej ochronnym lub pozytywnym nastawieniem, Białym i cisgender osobom brakowało ochronnego framing-u i towarzyszył im negatywny stosunek. Autorzy zaznaczają, że związek przyczynowy między tymi danymi a obserwowanymi asymetriami pozostaje pytaniem otwartym. Spośród dziewięciu testowanych technik debiasingu większość nie redukowała asymetrii skutecznie. Jedna metoda aktywacyjna obniżyła dokładność Qwen2.5-7B-Instruct na oczywistych przypadkach z 98% do 47%. Najlepiej wypadło „counterfactual chain-of-thought” - prośba o ponowne rozważenie scenariusza z zamienionymi tożsamościami - które zmniejszało lukę przy zachowaniu dokładności, choć nie eliminowało jej całkowicie.

Co z tego wynika

Moim zdaniem FairStress wskazuje na realny problem, który dotychczasowe testy pomijały: model może wyglądać sprawiedliwie na wyjściu, a jednocześnie stosować różne standardy argumentacyjne w zależności od tego, kto korzysta na decyzji. To szczególnie niepokojące w zastosowaniach wysokiego ryzyka - rekrutacji, kredytach, opiece zdrowotnej - gdzie liczy się nie tylko wynik, ale też odporność na naciski. Wynik w postaci „anty-stereotypowej nadkompensacji” sugeruje, że obecne podejście do trenowania modeli pod kątem sprawiedliwości może tworzyć nowe asymetrie zamiast je usuwać. Benchmark jest otwarty, co daje badaczom narzędzie do weryfikacji własnych modeli - to wartościowe, choć sama publikacja nie odpowiada jeszcze na pytanie, jak skutecznie ten problem naprawić.

Źródło: Hugging Face: FairStress: A deeper evaluation of fairness in LLM decision-making (dokument z 2026-10-20). To omówienie powstało na podstawie pełnego tekstu dokumentu, nie relacji innych mediów.