AI silniej dyskryminuje kandydatów do pracy niż ludzie
Nowe badania Princeton i University of Chicago pokazują, że modele językowe tworzą stereotypy dotyczące kandydatów do pracy szybciej i silniej niż ludzie.
👁 140 przeczytań
Modele językowe, w tym ChatGPT, Claude i Gemini, tworzą uprzedzenia wobec kandydatów do pracy szybciej i silniej niż ludzie - wynika z badania opublikowanego w lipcu na konferencji ICML w Seulu, przeprowadzonego przez naukowców z Princeton University i University of Chicago.
W eksperymencie modele wcielały się w rolę konsultanta ds. rekrutacji fikcyjnego burmistrza i przez 40 rund zatrudniały kandydatów na 20 stanowisk - od lekarzy i prawników po opiekunów dzieci i sprzątaczy. Kandydaci pochodzili z czterech fikcyjnych grup etnicznych: Tufa, Aima, Reku i Weki. Kluczowy szczegół: wszyscy kandydaci mieli równe szanse powodzenia na każdym stanowisku.
Modele szybko zaczęły segregować kandydatów. Gdy na przykład jeden z nich dowiedział się, że Aima zawiodła jako lekarka, zaczął unikać zatrudniania wszystkich Aimów w tej roli - i zamiast tego kierował ich na stanowiska sprzątaczy.
LLM-y naprawdę chętnie tworzą uogólnienia z ograniczonych danych - mówi Ryan Liu, doktorant na Princeton i współautor badania. - To dosłownie duża część tego, do czego są optymalizowane.
Na skali segregacji, gdzie 2 oznacza całkowite zamknięcie każdej grupy w jednej niszy zawodowej, ludzcy uczestnicy oryginalnego badania psychologicznego uzyskali wynik 0,84. Modele AI wypadły około 65% gorzej - OpenAI o3 osiągnął 1,83, bliskie maksimum. Co istotne, nowsze modele z silniejszymi zdolnościami rozumowania, jak o3 i DeepSeek R1, wykazały jeszcze wyraźniejsze uprzedzenia niż starsze systemy.
Wyniki nabierają szczególnego znaczenia w kontekście agentycznych modeli AI wyposażonych w pamięć długoterminową - systemy zapamiętujące wcześniejsze obserwacje mogą utrwalać błędne uogólnienia na kolejnych kandydatach.
OpenAI i Anthropic nie odpowiedziały na prośby o komentarz.
Skoro o3 zbliżył się niemal do teoretycznego maksimum na skali segregacji, rozmowy o używaniu AI w rekrutacji powinny obejmować nie tylko kwestię wydajności, ale też pytanie, komu system rzeczywiście zamknie drzwi.
Google · Twoje źródłaPromptowy wyżej w Twoim Google - jednym kliknięciemDodaj do preferowanych źródeł →Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
Podobne tematy na Promptowym
