Lekarze przestali widzieć raka. Wystarczyło dać im algorytm

👁 138 przeczytań

Wyobraźmy sobie diagnostę, który każdego dnia zagląda w głąb ludzkiego ciała. Przez lata doskonalił umiejętność rozpoznawania ledwo widocznych cieni na ścianie jelita, od których zależy czyjeś życie. Pewnego dnia do jego ręki trafia algorytm - cyfrowy asystent, który bez zmęczenia podpowiada, gdzie kryje się zmiana nowotworowa. Co dzieje się z wyćwiczonym przez dekady okiem, gdy nagle trzeba pracować bez tej pomocy? Odpowiedź, która właśnie napłynęła z Europy, nie pozostawia złudzeń: umiejętność ta zwyczajnie zanika.

Test w ciemności - co się dzieje, gdy wyłączamy AI

Zespół z Polski postanowił sprawdzić to w kontrolowanych warunkach. Do badania zaproszono doświadczonych endoskopistów - lekarzy, z których każdy miał na koncie przynajmniej 2000 wykonanych kolonoskopii. Otrzymali oni dostęp do systemu sztucznej inteligencji analizującego w czasie rzeczywistym obrazy z wnętrza jelita i oznaczającego gruczolaki, czyli potencjalnie przedrakowe zmiany. Narzędzie było dostępne jedynie w niektóre dni. Wyniki okazały się druzgocące. W trzymiesięcznym okresie poprzedzającym wprowadzenie AI odsetek badań, w których lekarze wykryli przynajmniej jednego gruczolaka, wynosił 28,4 proc. Gdy po okresie korzystania z asystenta algorytmicznego wyłączono system, wskaźnik ten spadł do 22,4 proc. Różnica jest znacząca - i niebezpieczna.

Badanie opublikowane i komentowane na łamach Nature pokazuje mechanizm, który badacze nazywają z angielska deskillingiem - stopniową utratą wprawy na skutek polegania na automatyzacji. Kevin Crowston, informatyk z Uniwersytetu Syracuse, nie owija w bawełnę: „Już sama świadomość istnienia tego zjawiska powinna sprowokować do autorefleksji, które umiejętności ludzie chcą zachować, a które gotowi są oddać maszynom”.

Nie tylko medycyna - kod napisany, myśl wyłączona

Zjawisko wykracza daleko poza sale szpitalne. W informatyce, finansach i dziesiątkach innych profesji algorytmy przejmują zadania, które dotąd ćwiczyły ludzki mózg. Wcześniejszy sondaż wśród amerykańskiego personelu medycznego ujawnił, że 77 proc. lekarzy i 70 proc. pielęgniarek obawia się właśnie utraty praktycznych kompetencji z powodu przesadnego zaufania do maszynowych rekomendacji. Te obawy znajdują potwierdzenie w twardych danych: ilekroć profesjonalista odsuwa na bok własny osąd, by zatwierdzić wskazanie algorytmu, traci okazję do ćwiczenia zdolności, która w sytuacjach kryzysowych okazuje się nie do zastąpienia.

Mechanizm działa tu podobnie jak w przypadku zanikających mięśni - zdolność, której nie używamy, ulega atrofii. Tyle że tutaj stawką nie jest siła chwytu. W grę wchodzą diagnozy ratujące życie. Każdy niewykryty gruczolak to potencjalnie rozwijający się nowotwór, który za kilka lat może odebrać pacjentowi szansę na skuteczne leczenie.

Czytasz Promptowego częściej? Dodaj go do preferowanych źródeł w Google, a nowe teksty będą wyżej w Twoich wynikach.

Kompetencja jako infrastruktura - czy da się zachować równowagę?

Nie chodzi o to, by odrzucać AI. Algorytmy potrafią dostrzegać wzorce niewidoczne dla oka zmęczonego człowieka. Rzecz w tym, by relacja między diagnostą a narzędziem nie zamieniła się w zastępowanie myślenia kliknięciem. Projektanci systemów medycznych coraz częściej zastanawiają się, jak implementować algorytmy, nie odbierając lekarzom pola do podejmowania suwerennych decyzji. Może to oznaczać okresowe wyłączanie asystenta w ramach treningu, rotację między zadaniami wspomaganymi i niewspomaganymi albo projektowanie interfejsów, które pokazują sugestię, ale zmuszają do wypracowania własnej oceny przed jej ujawnieniem.

Historia endoskopistów znad Wisły to pierwszy tak wyraźny sygnał ostrzegawczy płynący z praktyki klinicznej, a nie z teoretycznych rozważań. Pokazuje, że największym wyzwaniem ery algorytmów nie jest wcale stworzenie doskonalszej maszyny. Jest nią odpowiedź na pytanie: jak sprawić, by w świecie, który oferuje poznawcze protezy na każdym kroku, nie zapomnieć, jak się myśli samodzielnie.

// czytaj dalejAI przy okienku ubezpieczalni: lekarz czeka, algorytm decydujeNewsyTłumaczenia AI dojrzewają do lokalizacji kultury. Dosłowność przestaje wystarczaćPremiumAplikacje AI rosną dziś dzięki obrazom. Tekstowy chatbot przestał wystarczaćPremium