Algorytm cię nie zna, ale już ocenił
Pozwy przeciwko firmom używającym AI w rekrutacji odsłaniają fundamentalny problem: miliony kandydatów są oceniane przez systemy, o których istnieniu nawet nie wiedzą.
👁 133 przeczytań
Można mieć prawie 20 lat doświadczenia jako product manager, aplikować na tysiące stanowisk w ciągu czterech lat i nie dostać ani jednego zaproszenia na rozmowę. Erin Kistler przez długi czas pewnie zastanawiała się, co robi nie tak. Odpowiedź brzmi: prawdopodobnie nic. Problem leżał po drugiej stronie ekranu - w algorytmie, który nigdy nie dał jej szansy, zanim jakikolwiek człowiek zobaczył jej CV.
Czarna skrzynka z wyrokiem
Kistler pozywa teraz Eightfold AI w pozwie zbiorowym złożonym w styczniu w sądzie w Kalifornii. To jedna z pierwszych spraw, która wprost stawia tezę, że automatyczne systemy screeningu kandydatów działają jak ukryty raport konsumencki - klasyfikują ludzi według przewidywanego „sukcesu zawodowego” bez ich wiedzy i bez możliwości weryfikacji. Eightfold reklamuje się jako „największe, stale odświeżające się źródło danych o talentach na świecie”. W praktyce oznacza to bazę profili ponad miliarda pracowników - z CV, LinkedIn, mediów społecznościowych - i model AI przypisujący każdemu kandydatowi ocenę od 0 do 5. Nie wiesz, jaką masz ocenę. Nie wiesz, dlaczego ją masz. Nie wiesz nawet, że w ogóle ją masz.
Rachel Dempsey, prawniczka reprezentująca Kistler, ujmuje to precyzyjnie: „Duża część problemu polega na tym, że osoby aplikujące na pracę nie wiedzą, co mówią te raporty”.
Duża część problemu polega na tym, że osoby aplikujące na pracę nie wiedzą, co mówią te raporty.
Rachel Dempsey, prawniczka reprezentująca Erin Kistler
I nie jest to przypadłość jednej firmy. Meta jest pozywana za wewnętrzny system AI, który miał typować pracowników do zwolnień - rzekomo na podstawie tego, czy brali urlopy rodzicielskie lub medyczne. IBM odpiera zarzuty o dyskryminację starszych pracowników przez narzędzia AI. Łączy je jedno: decyzje o ludzkich karierach zapadają w miejscu, do którego zainteresowani nie mają wglądu.
Obiektywność jako alibi
Sedukcja AI w rekrutacji jest zrozumiała. Przy 90% pracodawców korzystających z automatyzacji na jakimś etapie procesu - taki wynik przynosi tegoroczny raport Światowego Forum Ekonomicznego - narzędzia te stały się industrialnym standardem. Obietnica brzmi kusząco: zero ludzkich uprzedzeń, zero decyzji opartych na tym, czy kandydat przypomina komuś siebie z młodości, zero „culture fit” rozumianego jako preferencja do golfa. Zamiast tego: dane, scoring, ranking.
Problem w tym, że modele AI uczą się na historycznych danych zatrudnienia - a te dane odzwierciedlają wszystkie uprzedzenia, które istniały zanim ktokolwiek wymyślił termin „unconscious bias”. Jeśli przez dekady na dane stanowiska trafiały głównie osoby o określonym profilu demograficznym, model uzna ten profil za predyktor sukcesu. Algorytm nie jest neutralny - jest skompresowaną historią ludzkich nierówności.
Ifeoma Ajunwa, profesor prawa na Emory University i założycielka programu AI and Future of Work, wskazuje na prawną lukę, która to wszystko umożliwia: „Nie ma żadnego prawa wymagającego powiadomienia czy ujawnienia stosowania systemów AI w rekrutacji. Firmy nie muszą informować pracowników, że są oceniani przez AI”.
To nie jest niuans techniczny. To architektura władzy. Pracodawca wie o kandydacie wszystko, co algorytm zdołał zgromadzić. Kandydat nie wie nic - ani tego, że jest oceniany, ani jak, ani z jakim skutkiem. Nierównowaga informacyjna w procesie rekrutacji istniała zawsze, ale narzędzia AI ją systematyzują i ukrywają pod pozorem obiektywności.
Google · Twoje źródłaPromptowy wyżej w Twoim Google - jednym kliknięciemDodaj do preferowanych źródeł →Co może zmienić sąd
Pozew Kistler jest interesujący prawniczo właśnie dlatego, że nie próbuje udowodnić dyskryminacji ze względu na konkretną cechę chronioną - co jest trudne, gdy nie wiesz, jak działa algorytm. Zamiast tego opiera się na przepisach o raportach konsumenckich: jeśli Eightfold tworzy de facto dossier o kandydacie i udostępnia je pracodawcom, powinien obowiązywać ten sam reżim przejrzystości co przy ocenie zdolności kredytowej. Masz prawo zobaczyć, co o tobie piszą. Masz prawo zakwestionować błędne dane.
To podejście - jeśli sąd je zaakceptuje - mogłoby zmienić równanie dla całej branży. Nie zakazuje AI w rekrutacji, ale wymusza audytowalność. Kandydat zyskałby coś, czego dziś nie ma: możliwość zobaczenia wyroku i postawienia pytania, skąd się wziął.
Wyniki tych spraw - Kistler kontra Eightfold, Meta, IBM - ukształtują nie tylko to, jak firmy rekrutują, ale też ile z tego procesu będą musiały ujawnić. Na razie milczą, bo mogą. Pytanie, na które odpowiedź przyniosą kolejne miesiące w sądzie, jest prostsze, niż się wydaje: czy algorytm oceniający twoje życie zawodowe powinien działać jak sędzia bez sali rozpraw, bez protokołu i bez apelacji?
Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
Formuła 1 i AI: Aston Martin stawia na człowieka, nie na algorytmNewsy
USA i Chiny chcą rozmawiać o AI jak o broni strategicznej. Czerwona linia dla algorytmów staje się realnaPremium
Wielka Brytania sprawdza AI w badaniu oczu cukrzyków. Algorytm może odciążyć lekarzy, ale nie dostał jeszcze pełnego zaufaniaPremiumPodobne tematy na Promptowym
