Narzędzia AI do wykrywania raka skóry działają gorzej u osób o ciemnej karnacji

👁 120 przeczytań

Narzędzia AI do diagnostyki raka skóry są coraz dokładniejsze - ale ten postęp dotyczy przede wszystkim pacjentów z jasną karnacją. Badacze zajmujący się wydajnością takich systemów w rzeczywistych warunkach klinicznych pokazują, że modele mają poważną lukę, gdy analizują ciemniejszą skórę.

Problem tkwi w tym, jak modele się uczą. Zamiast koncentrować się na samej zmianie skórnej, algorytm uczy się rozpoznawać kolor otaczającej skóry jako sygnał diagnostyczny - co czyni z niego de facto narzędzie wrażliwe na karnację, nie na chorobę.

Jeden z kluczowych eksperymentów opisanych przez badaczy polegał na wytrenowaniu modelu AI na zdjęciach znanych zmian skórnych u pacjentów z jasną skórą, a następnie cyfrowym przyciemnieniu tych samych obrazów tak, by symulować ciemniejszą karnację. Stan kliniczny na zdjęciach pozostał niezmieniony - a mimo to skuteczność modelu gwałtownie spadła. To dowód, że model nie nauczył się prawdziwych cech melanomy, lecz szuka skrótów opartych na kolorze tła.

Konsekwencje są poważne, bo narzędzia te - zarówno aplikacje mobilne dla zwykłych użytkowników, jak i oprogramowanie dla klinicystów - miały pierwotnie rozwiązać problem nierównego dostępu do dermatologów. Jak wskazuje Fast Company, mogłyby teoretycznie dotrzeć do odległych regionów i niedoinwestowanych społeczności, gdzie specjalistów brakuje. Tymczasem te społeczności - często o ciemniejszej karnacji - są właśnie tymi, które systemy zawodzą najbardziej.

Obietnica demokratyzacji opieki zdrowotnej przez AI traci sens, jeśli narzędzie działa tylko dla części populacji.

// czytaj dalejDlaczego lokalny LLM działa gorzej, niż powinienNewsyTikTok testuje narzędzie do wykrywania deepfake’ów z wizerunkiem twórcówNewsyCapital One udostępnia VulnHunter - otwartoźródłowe narzędzie AI do wykrywania luk w kodzieNewsy