Pentagon chwali się, że pisze raporty dla Kongresu przez AI. Co może pójść nie tak?
Departament Obrony USA przyznaje, że generatywna AI skraca pisanie raportów dla Kongresu z 200 do 5 godzin - ale historia innych firm pokazuje, jak łatwo o kłopoty.
👁 123 przeczytań
Wyobraźcie sobie urzędnika, który co roku ma do napisania kilkaset wypracowań domowych zadanych przez nauczyciela, a tym nauczycielem jest Kongres Stanów Zjednoczonych. Tak właśnie wygląda życie Pentagonu - i właśnie dlatego jego szefostwo z dumą ogłosiło, że znalazło skrót. Skrótem jest generatywna sztuczna inteligencja.
Podczas wydarzenia zorganizowanego 12 czerwca przez think tank Hudson Institute w Waszyngtonie dyrektor ds. technologii Departamentu Obrony Emil Michael wprost pochwalił się, że raporty dla Kongresu pisze teraz maszyna. I nie owijał w bawełnę, ile na tym się oszczędza.
„Co roku muszę raportować Kongresowi w tej sprawie. Pozwólcie, że załaduję wszystkie papiery, a system przygotuje mi projekt raportu, który normalnie zająłby 200 godzin pracy zespołu, i zrobi to w pięć godzin.”
- Emil Michael, dyrektor ds. technologii Departamentu Obrony USA
Lawina raportów, której nie sposób ogarnąć ręcznie
Żeby zrozumieć, skąd ta ulga w głosie urzędnika, trzeba spojrzeć na skalę problemu. Liczba raportów, których Kongres wymaga od Pentagonu, rośnie z każdą kolejną ustawą budżetową na obronność. Według amerykańskiego Government Accountability Office w 2000 roku było ich nieco ponad 500. W 2020 roku przekroczyły już 1400.
Sam proces wyłapania, co dokładnie trzeba dostarczyć, bywa absurdalnie żmudny. Elizabeth Field, była dyrektor wykonawcza w GAO, opisywała w 2023 roku w rozmowie z Federal News Network, że urzędnicy z biura ds. legislacyjnych muszą przeczesywać ustawy o autoryzacji obronnej „niemal linijka po linijce”, żeby zidentyfikować najnowsze wymogi sprawozdawcze. Samo namierzenie wymagań i przypisanie raportów odpowiednim zespołom potrafi zająć od trzech do sześciu miesięcy. A część raportów ma termin w ciągu roku. Matematyka jest bezlitosna.
Pentagon udostępnił narzędzia AI wszystkim sześciu rodzajom sił zbrojnych poprzez własną platformę GenAI.mil, zbudowaną na bazie Gemini for Government od Google Cloud. Działa to od grudnia 2025 roku.
„Najlepszy raport, jaki napisaliśmy od pięciu lat”
Michael nie był jedynym, który chwalił się tym skrótem. Jacob Glassman, zastępca asystenta sekretarza obrony, opisał 23 kwietnia podczas Box Federal Summit, jak jego niedoborowy kadrowo zespół poradził sobie z obowiązkowym raportem. Według relacji serwisu DefenseScoop Glassman po prostu powiedział ludziom: użyjcie GenAI.mil, róbcie, co możecie.
Tydzień później zespół miał wrócić z raportem i stwierdzić, że to najlepszy raport, jaki napisali w ciągu ostatnich pięciu lat. Brzmi pięknie - tyle że Glassman nie ujawnił, o który konkretnie raport chodziło. A diabeł, jak zwykle, tkwi w szczegółach, których nikt nie sprawdził.
Google · Twoje źródłaPromptowy wyżej w Twoim Google - jednym kliknięciemDodaj do preferowanych źródeł →Skrót, który już innym wybuchł w rękach
Bo tu dochodzimy do sedna. Pomysł, żeby maszyna odwaliła nudną papierkową robotę, jest kuszący do bólu. Problem w tym, że organizacje, które poszły tą drogą bez porządnej ludzkiej kontroli, zdążyły już zebrać bolesne lekcje.
Najświeższy przykład to konsultingowy gigant KPMG, który opublikował raport o wykorzystaniu AI w biznesie - naszpikowany studiami przypadków pełnymi błędów wygenerowanych przez AI i fałszywych twierdzeń. Wytropiła to grupa badawcza GPTZero, a sprawę opisał Financial Times. Podobne wpadki zaliczały kancelarie prawne, które wnosiły do sądów pisma z cytowanymi orzeczeniami, jakich nigdy nie było.
I tu pojawia się pytanie, które mnie naprawdę uwiera. Jedno, gdy halucynacja AI ląduje w prezentacji marketingowej firmy doradczej. Zupełnie co innego, gdy chodzi o dokument dotyczący bezpieczeństwa narodowego, na podstawie którego kongresmeni podejmują decyzje budżetowe i strategiczne. Stawka jest nieporównywalna.
Nie mam nic przeciwko temu, żeby AI zdejmowała z ludzi mechaniczną harówkę - szukanie wymogów w ustawach linijka po linijce to dokładnie ten rodzaj zadania, do którego maszyna się nadaje. Ale „draft” to nie to samo co „gotowy dokument”. Różnica między tymi dwoma słowami to właśnie te godziny ludzkiej weryfikacji, których w wersji „200 godzin do pięciu” gdzieś zabrakło. Bo skąd właściwie wzięła się ta oszczędność, jeśli nie z wycięcia etapu sprawdzania?
Pentagon, który pod administracją Trumpa lubi stylizować się na Department of War, ma realny problem operacyjny i realne narzędzie, które może pomóc. To nie jest historia o tym, że AI jest złe. To historia o tym, że pochwała wygłoszona ze sceny think tanku - „pięć godzin zamiast dwustu” - brzmi jak sukces dopiero wtedy, gdy ktoś przeczyta efekt do końca i ręczy za każdą liczbę. W przypadku raportów o bezpieczeństwie narodowym wolałbym, żeby ktoś jednak przeczytał.
Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
