Sztuczna inteligencja nie może jeszcze decydować o ubezpieczeniu zdrowotnym

Pacjenci objęci programami Medicare Advantage zyskają teraz większą ochronę przed zagrożeniem związanym z uprzedzeniami wynikającymi ze sztucznej inteligencji (AI). Tak stanowi decyzja Centrum Usług Medicare i Medicaid (CMS), agencji federalnej nadzorującej programy Medicare, Medicaid, Dziecięcy Program Ubezpieczenia Zdrowotnego oraz Rejestr Ubezpieczeń Zdrowotnych.

W memorandum skierowanym do firm ubezpieczeniowych z 6 lutego, CMS zabroniło im całkowitego polegania na systemach sztucznej inteligencji i algorytmach w celu decydowania o opiece i ubezpieczeniu pacjenta, a także zmiany kryteriów ubezpieczenia z biegiem czasu. Agencja zdefiniowała sztuczną inteligencję jako “system oparty na maszynach, który może, dla danego zestawu celów określonych przez człowieka, dokonywać przewidywań, zaleceń lub decyzji wpływających na środowiska realne lub wirtualne”. CMS ostrzega również firmy ubezpieczeniowe przed korzystaniem z “algorytmu, który decyduje o ubezpieczeniu na podstawie większego zbioru danych, zamiast indywidualnej historii medycznej pacjenta, zaleceń lekarza lub notatek klinicznych”.

W listopadzie dwójka pacjentów złożyła pozew przeciwko firmie ubezpieczeniowej Humana, twierdząc, że jej model AI (znany jako nH Predict) do określania opieki nad pacjentami był zawodny podważał zalecenia lekarzy i nieproporcjonalnie szkodził starszym beneficjentom. Pacjenci ci byli objęci programem Medicare Advantage. Podobny pozew dotyczący tego samego modelu AI został wystosowany przeciwko grupie ubezpieczeniowej UnitedHealth.

“Algorytm lub oprogramowanie mogą być wykorzystywane przez programy Medicare Advantage jako pomoc w ustalaniu zasięgu ubezpieczenia” – wyjaśniła agencja w ostatnim memorandum, “ale to organizacja MA ponosi odpowiedzialność za zapewnienie, że algorytm lub sztuczna inteligencja spełniają wszystkie obowiązujące przepisy dotyczące ustalania zasięgu ubezpieczenia przez organizacje MA”. Ponadto, “w przypadku hospitalizacji, same algorytmy lub sztuczna inteligencja nie mogą stanowić podstawy odmowy przyjęcia lub obniżenia do statusu obserwacji; należy uwzględnić indywidualne okoliczności pacjenta”.

Medicare Advantage to dodatkowa federalna opcja ubezpieczenia, która umożliwia zatwierdzonym przez Medicare prywatnym firmom oferowanie świadczeń zdrowotnych osobom kwalifikującym się do programu Medicare.

W listopadzie 2023 r. członkowie Izby Reprezentantów wystosowali list otwarty do CMS z prośbą o monitorowanie wykorzystania sztucznej inteligencji i algorytmów w decyzjach dotyczących zasięgu ubezpieczenia w programach Medicare Advantage, powołując się na ciągłe problemy z raportowaniem wcześniejszej autoryzacji w ramach programu Medicare. List argumentuje, że wykorzystanie sztucznej inteligencji i oprogramowania algorytmicznego pogłębiło te problemy.

“Programy Medicare Advantage są zobowiązane do zapewnienia medycznie niezbędnej opieki swoim beneficjentom. Chociaż CMS poczyniło ostatnio znaczne postępy w zapewnieniu tego, konieczne jest więcej działań w celu ograniczenia niewłaściwego korzystania z wcześniejszej autoryzacji przez programy MA, szczególnie w przypadku korzystania z oprogramowania opartego na sztucznej inteligencji i algorytmach” – napisali członkowie Izby.

Stowarzyszenia medyczne i ubezpieczeniowe badały potencjał sztucznej inteligencji w całej branży, w tym ulepszonych narzędzi opartych na sztucznej inteligencji, które mogą pomóc pacjentom znaleźć i zakupić plany opieki zdrowotnej, przewidywać wyniki zdrowotne pacjentów objętych programem Medicare oraz przyspieszyć płatności i usługi. Jednak obawy o nieuniknionej stronniczości i niespójności skłoniły wielu obserwatorów do apelowania o większą kontrolę.

“Ponadto obawiamy się, że algorytmy i wiele nowych technologii sztucznej inteligencji mogą nasilać dyskryminację i uprzedzenia” – napisała CMS w swoim memorandum. “Przypominamy organizacjom Medicare Advantage o wymaganiach dotyczących niedyskryminacji określonych w sekcji 1557 Ustaw

Udostępnij ten artykuł
Poprzedni

Google Bard to teraz Google Gemini

Następny

Sora: Niesamowite wideo, ale za jaką cenę?

Czytaj również