AI silniej dyskryminuje kandydatów do pracy niż ludzie

👁 147 przeczytań

Modele językowe, w tym ChatGPT, Claude i Gemini, tworzą uprzedzenia wobec kandydatów do pracy szybciej i silniej niż ludzie - wynika z badania opublikowanego w lipcu na konferencji ICML w Seulu, przeprowadzonego przez naukowców z Princeton University i University of Chicago.

W eksperymencie modele wcielały się w rolę konsultanta ds. rekrutacji fikcyjnego burmistrza i przez 40 rund zatrudniały kandydatów na 20 stanowisk - od lekarzy i prawników po opiekunów dzieci i sprzątaczy. Kandydaci pochodzili z czterech fikcyjnych grup etnicznych: Tufa, Aima, Reku i Weki. Kluczowy szczegół: wszyscy kandydaci mieli równe szanse powodzenia na każdym stanowisku.

Modele szybko zaczęły segregować kandydatów. Gdy na przykład jeden z nich dowiedział się, że Aima zawiodła jako lekarka, zaczął unikać zatrudniania wszystkich Aimów w tej roli - i zamiast tego kierował ich na stanowiska sprzątaczy.

LLM-y naprawdę chętnie tworzą uogólnienia z ograniczonych danych - mówi Ryan Liu, doktorant na Princeton i współautor badania. - To dosłownie duża część tego, do czego są optymalizowane.

Na skali segregacji, gdzie 2 oznacza całkowite zamknięcie każdej grupy w jednej niszy zawodowej, ludzcy uczestnicy oryginalnego badania psychologicznego uzyskali wynik 0,84. Modele AI wypadły około 65% gorzej - OpenAI o3 osiągnął 1,83, bliskie maksimum. Co istotne, nowsze modele z silniejszymi zdolnościami rozumowania, jak o3 i DeepSeek R1, wykazały jeszcze wyraźniejsze uprzedzenia niż starsze systemy.

Wyniki nabierają szczególnego znaczenia w kontekście agentycznych modeli AI wyposażonych w pamięć długoterminową - systemy zapamiętujące wcześniejsze obserwacje mogą utrwalać błędne uogólnienia na kolejnych kandydatach.

OpenAI i Anthropic nie odpowiedziały na prośby o komentarz.

Skoro o3 zbliżył się niemal do teoretycznego maksimum na skali segregacji, rozmowy o używaniu AI w rekrutacji powinny obejmować nie tylko kwestię wydajności, ale też pytanie, komu system rzeczywiście zamknie drzwi.

// czytaj dalejTen trans-tłuszcz jest w mleku każdej matki. Myszy karmione nim miały silniejszą odporność przez całe życieNaukaAI w administracji publicznej zacznie od kolejek i formularzy. To może wystarczyć, żeby ludzie poczuli zmianęPremiumByli ludzie Snapa budują fundusz dla AI-socialu. Nowe media społecznościowe uciekają od starego feeduPremium