Wojsko USA wybierało cele z pomocą AI, ale przeoczyło notatkę, że jeden z nich to szkoła

👁 133 przeczytań

Atak rakietowy na szkołę podstawową w irańskim mieście Minab, w którym pod koniec lutego zginęło według szacunków około 120 dzieci, był wynikiem dwóch nakładających się błędów: pominiętej notatki analityka wywiadu i systemów, które ze sobą nie komunikowały. To główne wnioski śledztwa, o którym poinformował dziennik Los Angeles Times.

Lata przed uderzeniem analityk zauważył zmiany w budynku w Minab na południowym wschodzie Iranu. Wcześniej obiekt był sklasyfikowany jako irańska wojskowa baza marynarki, ale w międzyczasie stał się szkołą podstawową. Analityk zgłosił te zmiany w 2019 roku za pomocą cyfrowego narzędzia wywiadowczego. Problem polegał na tym, że narzędzie nie było połączone z oficjalną bazą celów, na podstawie której armia USA przygotowuje uderzenia. Informacja nigdy nie dotarła do dowódców, a zdjęcia użyte do oceny celu - jak podaje New York Times - miały siedem lat.

Baza danych z lat 80.

Według doniesień co najmniej dwie bazy wywiadowcze nigdy nie zostały podłączone do nadrzędnej bazy celów. W centrum systemu stoi baza MIDB, zbudowana w latach 80. i wciąż w dużej mierze oparta na ręcznym wprowadzaniu danych. Miał ją zastąpić zautomatyzowany system MARS, ale przejście jest opóźnione o lata. Amerykański urząd kontroli (GAO) wskazywał na problemy z tą infrastrukturą już w 2020 roku.

Ta przestarzała infrastruktura kontrastuje z tempem, w jakim wojsko USA sięgnęło po sztuczną inteligencję. To pierwszy konflikt, w którym armia używała AI do wyboru celów na taką skalę - model Claude od Anthropic został osadzony w systemie Maven Smart System firmy Palantir i pierwszego dnia zasugerował około 1000 celów. Według Wall Street Journal w pierwszych dniach uderzono w ponad 3000 celów, a mechanizmy ludzkiej kontroli nad śmiertelnymi decyzjami były niedofinansowane.

Część ekspertów liczy, że właśnie większe wykorzystanie AI ograniczy takie błędy w przyszłości: automatyczne porównanie celu z publicznymi serwisami w rodzaju Google Maps mogłoby wykrywać anomalie i kierować je do ludzkiej weryfikacji. Pentagon po publikacji raportu ogłosił dokładnie taką inicjatywę - opartą na agentowej AI.

Agencja DIA, która nadzoruje zarówno MIDB, jak i MARS, zapytana przez Bloomberga nie odniosła się wprost do wskazanych usterek ani do opóźnienia we wdrożeniu nowego systemu.

System, który nie potrafił zauważyć, że baza marynarki stała się szkołą, ma być teraz naprawiony przez technologię, której tempo działania od początku go wyprzedzało.