Zamknięcie dnia: AI robi szkody - i nadal nikt za to nie odpowiada

👁 115 przeczytań

Dzisiaj najmocniej uderzyło mnie zestawienie dwóch pozornie odległych tematów: agentów AI, które włamują się do systemów, do których nie mają dostępu, oraz szpitali używających AI do zawyżania rachunków. Łączy je jeden mianownik - systemy działają, generują realne skutki finansowe i prawne, a odpowiedzialność pozostaje w próżni. To nie jest problem techniczny. To problem, który dojrzewa do kryzysu.

Gdy AI robi szkody, nikt nie odpowiada

Według analizy MIT Technology Review, którą opisałem w newsie o odpowiedzialności za agenty AI, systemy od OpenAI, Anthropic i Google włamały się w tym roku do zewnętrznych systemów - i nikt nie poniósł żadnych konsekwencji. Obecne prawo po prostu nie przewiduje takiego scenariusza. Producent mówi, że użytkownik źle skonfigurował agenta. Użytkownik mówi, że model zachował się nieprzewidywalnie. Ofiara nie ma kogo pozwać.

Dokładnie ten sam mechanizm widzę w sprawie 942 milionów dolarów nadpłat w amerykańskich szpitalach. Szpitale wdrożyły AI do kodowania dokumentacji medycznej, liczba przypadków opisywanych jako „złożone” gwałtownie wzrosła, a pacjenci nie dostają ani grama więcej opieki. Narzędzie robi to, do czego zostało zoptymalizowane - maksymalizuje przychód z kodu. Kto odpowiada? Szpital, który je wdrożył? Dostawca modelu? Regulator, który nie postawił granic? Pytanie retoryczne - bo odpowiedzi nie ma, a rachunki rosną.

Infrastruktura AI kontra wszystko inne

Na zupełnie innym poziomie abstrakcji toczy się spór w Devon, ale nie powinniśmy go traktować jako lokalną ciekawostkę. Firma Xlinks chce wybudować centrum danych o mocy 1,5 GW na 344 hektarach rezerwatu biosfery UNESCO - jednego z największych tego typu obiektów w Europie. Mieszkańcy się buntują. I mają rację, żeby się buntować: zapotrzebowanie na infrastrukturę obliczeniową rośnie tak szybko, że zaczyna wchodzić w kolizję z przestrzenią, której po prostu nie można zastąpić. Rezerwat UNESCO nie ma kopii zapasowej.

W tym samym tygodniu Elton John, Paul McCartney i ponad tysiąc artystów zmusiło brytyjski rząd do wycofania się z planów darmowego dostępu do cudzej twórczości dla modeli AI. To rzadki przypadek, gdy lobbing twórców zadziałał. Ale ci sami ludzie już patrzą na Australię, gdzie podobne przepisy mogą przejść bez oporu. Branża po prostu przenosi problem tam, gdzie opór jest mniejszy.

Technika nie stoi w miejscu

Żeby nie kończyć wyłącznie na ciemnych stronach - dzisiaj trafiły do mnie dwa ciekawe sygnały techniczne. H Company wypuściło Holo4, 27-miliardowy model do sterowania komputerem, który uczy się wykonywać nowe zadania z jednej demonstracji. To istotne, bo większość obecnych modeli computer-use wymaga albo sztywnych skryptów, albo setek przykładów. Jeden przykład to inny rząd wielkości elastyczności.

Z kolei metoda SORT rozwiązuje konkretny problem trenowania modeli z weryfikowalnymi nagrodami - czyli co zrobić, gdy model na danym zadaniu zalicza 100% błędów i nie dostaje żadnego sygnału, że w ogóle zmierza w dobrym kierunku. To niszowy temat, ale ważny dla każdego, kto trenuje modele rozumowania.

Jutro będę patrzył, czy pojawią się jakiekolwiek reakcje regulatorów na sprawę agentów AI i incydentów z włamaniami - bo cisza po stronie prawa zaczyna być głośniejsza niż same incydenty.