Lekarze przestali widzieć raka. Wystarczyło dać im algorytm

👁 126 przeczytań

Wyobraźmy sobie diagnostę, który każdego dnia zagląda w głąb ludzkiego ciała. Przez lata doskonalił umiejętność rozpoznawania ledwo widocznych cieni na ścianie jelita, od których zależy czyjeś życie. Pewnego dnia do jego ręki trafia algorytm - cyfrowy asystent, który bez zmęczenia podpowiada, gdzie kryje się zmiana nowotworowa. Co dzieje się z wyćwiczonym przez dekady okiem, gdy nagle trzeba pracować bez tej pomocy? Odpowiedź, która właśnie napłynęła z Europy, nie pozostawia złudzeń: umiejętność ta zwyczajnie zanika.

Test w ciemności - co się dzieje, gdy wyłączamy AI

Zespół z Polski postanowił sprawdzić to w kontrolowanych warunkach. Do badania zaproszono doświadczonych endoskopistów - lekarzy, z których każdy miał na koncie przynajmniej 2000 wykonanych kolonoskopii. Otrzymali oni dostęp do systemu sztucznej inteligencji analizującego w czasie rzeczywistym obrazy z wnętrza jelita i oznaczającego gruczolaki, czyli potencjalnie przedrakowe zmiany. Narzędzie było dostępne jedynie w niektóre dni. Wyniki okazały się druzgocące. W trzymiesięcznym okresie poprzedzającym wprowadzenie AI odsetek badań, w których lekarze wykryli przynajmniej jednego gruczolaka, wynosił 28,4 proc. Gdy po okresie korzystania z asystenta algorytmicznego wyłączono system, wskaźnik ten spadł do 22,4 proc. Różnica jest znacząca - i niebezpieczna.

Badanie opublikowane i komentowane na łamach Nature pokazuje mechanizm, który badacze nazywają z angielska deskillingiem - stopniową utratą wprawy na skutek polegania na automatyzacji. Kevin Crowston, informatyk z Uniwersytetu Syracuse, nie owija w bawełnę: „Już sama świadomość istnienia tego zjawiska powinna sprowokować do autorefleksji, które umiejętności ludzie chcą zachować, a które gotowi są oddać maszynom”.

Nie tylko medycyna - kod napisany, myśl wyłączona

Zjawisko wykracza daleko poza sale szpitalne. W informatyce, finansach i dziesiątkach innych profesji algorytmy przejmują zadania, które dotąd ćwiczyły ludzki mózg. Wcześniejszy sondaż wśród amerykańskiego personelu medycznego ujawnił, że 77 proc. lekarzy i 70 proc. pielęgniarek obawia się właśnie utraty praktycznych kompetencji z powodu przesadnego zaufania do maszynowych rekomendacji. Te obawy znajdują potwierdzenie w twardych danych: ilekroć profesjonalista odsuwa na bok własny osąd, by zatwierdzić wskazanie algorytmu, traci okazję do ćwiczenia zdolności, która w sytuacjach kryzysowych okazuje się nie do zastąpienia.

Mechanizm działa tu podobnie jak w przypadku zanikających mięśni - zdolność, której nie używamy, ulega atrofii. Tyle że tutaj stawką nie jest siła chwytu. W grę wchodzą diagnozy ratujące życie. Każdy niewykryty gruczolak to potencjalnie rozwijający się nowotwór, który za kilka lat może odebrać pacjentowi szansę na skuteczne leczenie.

Kompetencja jako infrastruktura - czy da się zachować równowagę?

Nie chodzi o to, by odrzucać AI. Algorytmy potrafią dostrzegać wzorce niewidoczne dla oka zmęczonego człowieka. Rzecz w tym, by relacja między diagnostą a narzędziem nie zamieniła się w zastępowanie myślenia kliknięciem. Projektanci systemów medycznych coraz częściej zastanawiają się, jak implementować algorytmy, nie odbierając lekarzom pola do podejmowania suwerennych decyzji. Może to oznaczać okresowe wyłączanie asystenta w ramach treningu, rotację między zadaniami wspomaganymi i niewspomaganymi albo projektowanie interfejsów, które pokazują sugestię, ale zmuszają do wypracowania własnej oceny przed jej ujawnieniem.

Historia endoskopistów znad Wisły to pierwszy tak wyraźny sygnał ostrzegawczy płynący z praktyki klinicznej, a nie z teoretycznych rozważań. Pokazuje, że największym wyzwaniem ery algorytmów nie jest wcale stworzenie doskonalszej maszyny. Jest nią odpowiedź na pytanie: jak sprawić, by w świecie, który oferuje poznawcze protezy na każdym kroku, nie zapomnieć, jak się myśli samodzielnie.