Nowy benchmark FairStress sprawdza, czy duże modele językowe są naprawdę bezstronne w trudnych decyzjach

Ten news ukazał się 2 min po komunikacie źródła.

👁 124 przeczytań

Zespół badawczy z Allen Institute for AI (AI2) opublikował FairStress - nowy benchmark zaprojektowany do oceny bezstronności dużych modeli językowych w sytuacjach, gdzie stawką są realne decyzje: zatrudnienie, przyznanie kredytu czy wymiar kary. Wyniki wskazują, że modele powszechnie uznawane za bezstronne potrafią wykazywać systematyczne uprzedzenia, gdy testy wykraczają poza standardowe scenariusze.

Na czym polega FairStress

Dotychczasowe benchmarki sprawdzały fairness modeli głównie na prostych, laboratoryjnych przykładach - i przy takich testach modele wypadały przyzwoicie. FairStress idzie krok dalej: tworzy scenariusze wysokiego ciśnienia decyzyjnego, w których kontekst jest celowo skomplikowany, a modele muszą oceniać kandydatów, wnioskodawców lub podejrzanych różniących się wyłącznie cechami chronionymi - płcią, rasą, wiekiem - przy identycznych pozostałych danych.

Metodologia opiera się na parach kontrfaktycznych: ten sam profil osoby, zmieniona tylko jedna cecha demograficzna. Jeśli model zmienia decyzję - to sygnał uprzedzenia. Badacze testowali kilka popularnych modeli, porównując spójność odpowiedzi między parami przypadków.

Co wyszło z testów

Modele radziły sobie wyraźnie gorzej, gdy scenariusze były bardziej złożone lub wielokrokowe. W prostych przypadkach różnice między grupami demograficznymi były minimalne - co zgadza się z wcześniejszymi badaniami. Jednak w scenariuszach opisanych szczegółowo w publikacji AI2 jako „stresowe” - z większą ilością rozpraszających informacji lub z presją czasową sugerowaną w treści promptu - dysproporcje rosły zauważalnie. Część modeli konsekwentnie preferowała kandydatów jednej płci przy decyzjach o awansie, a inaczej zachowywała się przy identycznie skonstruowanych sprawach kryminalnych.

Badacze podkreślają, że problem nie leży wyłącznie w danych treningowych, ale też w tym, jak modele reagują na narracyjną złożoność promptu. Uprzedzenie ujawnia się nie tyle przy bezpośrednim pytaniu „czy ta osoba jest winna?”, co przy pytaniach otoczonych kontekstem, który normalnie kieruje ludzką intuicję.

Dlaczego to ważne poza akademią

Modele językowe są już wdrażane w systemach wspierających rekruterów, analityków kredytowych i prawników. Jeśli benchmark pokroju FairStress nie jest częścią procesu oceny przed wdrożeniem, organizacje mogą nie wiedzieć, że ich narzędzie dyskryminuje - właśnie wtedy, gdy decyzja jest najtrudniejsza i najbardziej konsekwencjalna. AI2 udostępnia FairStress publicznie, co oznacza, że każdy dostawca modelu może uruchomić te testy samodzielnie.

To ważny krok w stronę bardziej realistycznej ewaluacji bezstronności - bo uczciwy model to nie taki, który zdaje łatwy egzamin, ale taki, który zachowuje spójność pod presją.