Brytyjski rząd wie, że ta AI się myli. I tak nią zeskanuje twarze dzieci-uchodźców

👁 123 przeczytań

Postawmy sprawę jasno na samym wstępie: jeśli wiesz, że twoje narzędzie myli trzynastoletnią dziewczynkę z osiemnastoletnią dorosłą, a mimo to zamierzasz nim decydować o tym, czy dziecko trafi do zamkniętego ośrodka dla dorosłych - to nie jest wpadka technologiczna. To decyzja polityczna ubrana w kostium algorytmu. I właśnie taką decyzję podjął brytyjski rząd.

Od przyszłego roku Wielka Brytania planuje wprowadzić na granicy tak zwaną estymację wieku na podstawie twarzy (facial age estimation, FAE) - system, w którym sztuczna inteligencja skanuje twarz i zgaduje, ile masz lat. Według dziennikarzy byłby to pierwszy przypadek użycia tej technologii w taki sposób. Sprawę ujawniło wspólne śledztwo WIRED i Lighthouse Reports we współpracy z dziennikiem The Independent, oparte na wewnętrznym raporcie brytyjskiego MSW (Home Office).

Tu zaczyna się czarna komedia. Bo to nie aktywiści ani naukowi malkontenci twierdzą, że ta technologia jest wadliwa. To raport samego ministerstwa, które ją testowało.

Cyfry, których rząd wolałby nie znać

Home Office przetestował siedem algorytmów. Nawet ten „najlepszy”, opisany w wyciekłym dokumencie, działał wyraźnie gorzej wobec konkretnej grupy: mieszkańców Afryki Subsaharyjskiej. A to akurat najliczniejsza grupa migrantów przypływających do Wielkiej Brytanii małymi łodziami przez kanał La Manche i - według danych ministerstwa - to wobec niej w 2025 roku najczęściej wszczynano procedury oceny wieku.

Dla kobiet z Afryki Subsaharyjskiej system mylił się średnio o 4,6 roku. Przełóżmy to na ludzki los, bo o nim tu mowa: trzynastoipółletnia dziewczynka może zostać zaklasyfikowana jako osiemnastolatka. Dorosła. Czyli osoba, której odbiera się część ochrony prawnej przysługującej dzieciom i którą można umieścić w ośrodku detencyjnym dla dorosłych.

Ironia polega na tym, że wielu uchodźców nie ma dokumentów potwierdzających wiek - i właśnie dlatego AI ma być „rozwiązaniem”. Tyle że rozwiązanie, które systematycznie się myli akurat wobec tych, których ma oceniać najczęściej, to nie rozwiązanie. To generator pomyłek z aurą obiektywizmu.

Najpierw rozwiążmy komitet, potem wprowadźmy technologię

Najbardziej wymowny jest jednak nie sam błąd algorytmu, lecz to, co rząd zrobił z ludźmi, którzy mogli go ostrzec. Home Office rozwiązał naukowy komitet doradczy zajmujący się metodami oceny wieku - dokładnie wtedy, gdy badał wprowadzenie AI.

„Bardzo zależało nam, by zwrócić uwagę na niedoskonałości estymacji wieku na podstawie twarzy, ale nie dano nam tej możliwości, a potem komitet został zamknięty.”

- Tim Cole, emerytowany profesor statystyki medycznej z Instytutu Zdrowia Dziecka University College London i były członek komitetu. Twarzowe skany określił po prostu jako „przeraźliwie niedokładne”.

Jest coś niemal podręcznikowego w tej sekwencji. Masz eksperta, który mówi „to nie działa”. Masz ciało doradcze powołane dokładnie po to, by takie rzeczy wyłapywać. I masz technologię, którą bardzo chcesz wdrożyć z powodów, które z nauką nie mają nic wspólnego. Co robisz? Wyłączasz mikrofon. Komitet znika, niewygodna opinia razem z nim, a AI wjeżdża na granicę jako neutralny arbiter prawdy.

To nie jest tylko brytyjski problem

Weryfikacja wieku pożera dziś internet - od zakazów w mediach społecznościowych w Australii po ograniczenia dostępu do pornografii w połowie amerykańskich stanów. FAE to jedna z technologii leżących u podstaw tych mechanizmów. Różnica polega na tym, że dotąd zgadywała, czy możesz wejść na stronę. Teraz ma zgadywać, czy jesteś dzieckiem na granicy.

I nie jest tak, że nikt o tym nie wiedział wcześniej. Lata testów amerykańskiego NIST pokazują, że dokładność systemów FAE często zależy od rasy analizowanej osoby i jakości obrazu. To nie jest nowina. To znana cecha tej technologii, ignorowana, bo akurat pasuje politycznie.

Moja teza pozostaje ta sama, z jaką zacząłem: kiedy państwo wdraża narzędzie, o którym z własnych dokumentów wie, że jest stronnicze i niedokładne, w sytuacji o stawce „dziecko albo dorosły”, to nie technologia zawodzi. Zawodzi człowiek, który podjął decyzję. Algorytm jest tu tylko wygodnym płaszczem - bo gdy pomyłka dotknie konkretne dziecko, znacznie łatwiej powiedzieć „system się pomylił” niż „to my postanowiłem go użyć, choć wiedzieliśmy”.

// czytaj dalejEuropa oswaja wojenną AI. Od Mistrala po brytyjskie drony kończy się epoka wygodnych deklaracjiPremiumGdy pluszowy miś wprowadza dzieci w świat fetyszyPremiumGrok i 7000 obrazów. Jak chatbot stał się narzędziem do krzywdzenia dzieciNewsy