Fatalne pomyłki AI! Technologia wskazała błędnych sprawców przestępstwa 

Kobieta w więzieniu

Wiele się mówi o zastosowaniach AI i tym, że jej zastosowanie wykracza daleko poza branże kreatywne. W końcu technologia ta może być też wykorzystywana w przemyśle, analityce czy służbie zdrowia. Na tym jednak wcale nie musi się kończyć i użytek ze sztucznej inteligencji może mieć prawie każdy zawód. 

Trzeba jednak pamiętać, że nadal jest to czasem wyjątkowo zawodne i niepewne narzędzie. Zawsze więc warto brać poprawkę na wszystkie wyniki, które narzędzia oparte o sztuczną inteligencję nam oferują. 

Bardzo dobitnie przekonali się o tym amerykańscy stróże prawa. Najnowsza analiza dziennika Washington Post potwierdza, że tam, gdzie połączymy niedokładność AI i zaniedbania człowieka, może dojść do prawdziwych dramatów. 

Błędy sztucznej inteligencji doprowadziły do niesłusznych zatrzymań 

Fatalne pomyłki AI! Technologia wskazała błędnych sprawców przestępstwa 

Dziennik Washington Post postanowił przeanalizować dane policyjnych raportów, akt oraz same relacje policjantów oraz prawników i prokuratorów w celu sprawdzenia potencjalnego udziału i skuteczności AI w tych zawodach. Okazuje się, że nie jest to wcale rzadkie zjawisko, ale bardzo rzadko się o nim wspomina opinii publicznej. Dlaczego? Powód jest prozaiczny — nie każdy może chętnie patrzeć na to, że organy ścigania korzystają z takiej technologii. 

Okazuje się jednak, że korzystanie z AI obarczone jest w tych przypadkach sporym ryzykiem. Dochodziło bowiem do niesłusznych zatrzymań, a działo się to wówczas, gdy funkcjonariusze opierali się wyłącznie na wynikach systemów rozpoznawania twarzy, pomijając kluczowe elementy śledztwa. Często więc nie pobierano śladów DNA, odcisków palców, a nawet nie weryfikowano alibi (!). 

Sytuacja jest na tyle kuriozalna, że pojawiły się nawet przypadki ignorowania oczywistych dowodów na niewinność podejrzanego. Przykładem jest sytuacja, w której funkcjonariusze aresztowali mężczyznę podejrzewanego o fałszerstwo czeku, pomimo braku analizy jego kont bankowych. Mowa więc o ogromnych niedopatrzeniach, które w zasadzie są wręcz niedopuszczalne. Innym przykładem jest przypadek ciężarnej kobiety, którą aresztowano za kradzież samochodu, a co ciekawe, świadkowie wyraźnie wskazywali na osobę, która nie była w ciąży. 

Czego jednak dochodziło do takich przypadków? Okazuje się, że jest to efekt ograniczonej technologii rozpoznawania twarzy w warunkach innych niż te laboratoryjne. Jak na ironię, w przypadku tych wpadek pojawia się także udział czegoś, co określi można jako „czynnik ludzki”. Chodzi o sytuacje, kiedy człowiek z automatu pokłada zbyt dużą wiarę w możliwości AI, ignorując inne, nawet bardziej racjonalne przesłanki. 

Ostrożności nigdy dość

Opisane sytuacje pokazują najdobitniej, że nawet najbardziej rozwinięte modele AI bywają zawodne, a konsekwencje bardzo dotkliwe. Jednocześnie jest to pewien sygnał dla wielu zaniepokojonych, że do zastąpienia ich przez sztuczną inteligencje jeszcze długa droga. 

Niemniej jednak nie można ignorować faktu, że służby bezpieczeństwa korzystają z takich rozwiązań, ale nie chwalą się tym publicznie. O ile służy to słusznej sprawie, to raczej nie jest problem. Gorzej, jeśli mowa o jawnych wpadkach i nadużyciach. Pozostaje więc mieć nadzieję, że tych będzie po prostu jak najmniej.