KPMG napisało raport o AI z pomocą AI. Halucynacje zdemaskowały firmy, które rzekomo opisano

👁 131 przeczytań

Jest pewna gorzka ironia w tym, że firma doradcza warta miliardy dolarów potknęła się na narzędziu, które miała właśnie zachwalać. KPMG, jedna z wielkiej czwórki świata audytu i konsultingu, wycofało swój raport zatytułowany „Redefining excellence in the age of agentic AI” po tym, jak kolejne organizacje wskazane w dokumencie zaczęły publicznie zaprzeczać, że ich opisane w nim wdrożenia sztucznej inteligencji w ogóle miały miejsce.

Raport ukazał się w październiku 2025 roku i, jak na ironię, dotyczył tego, jak firmy mają mądrze i odpowiedzialnie korzystać z agentowej AI. Problem w tym, że sam wydaje się produktem tej technologii - i to tej jej najgorszej, najbardziej zwodniczej odmiany. Grupa badawcza GPTZero, specjalizująca się w wykrywaniu treści generowanych przez modele językowe, przeanalizowała dokument i znalazła w nim szereg nieścisłości. W rozmowie z „Financial Timesem” badacze stwierdzili wprost, że błędy te to klasyczne halucynacje AI - zmyślone fakty podane z pełnym przekonaniem.

Firmy, które „wdrożyły AI” o tym nie wiedziały

Lista organizacji, które zdementowały twierdzenia z raportu, robi wrażenie i nie jest to lista byle kogo. UBS, czyli największy szwajcarski bank. Brytyjska National Health Service, jeden z największych pracodawców w Europie. Koleje Federalne Szwajcarii. Wreszcie Transport for London, operator transportu w jednej z największych metropolii świata. Wszystkie te podmioty przekazały „FT”, że opisy ich rzekomego wykorzystania sztucznej inteligencji były albo nieprawdziwe, albo mylące.

Mechanizm jest tu boleśnie prosty i znany każdemu, kto bawił się z modelami językowymi dłużej niż pięć minut. Poproś model o przykłady wdrożeń AI w dużych instytucjach, a chętnie ci je dostarczy - tyle że część z nich będzie po prostu wymyślona. Model nie kłamie ze złej woli, on po prostu generuje statystycznie prawdopodobnie brzmiące zdania. „UBS wdrożył system agentowy do obsługi klienta” brzmi wiarygodnie, więc model to napisze, niezależnie od tego, czy to się kiedykolwiek wydarzyło.

Najbardziej kuriozalny jest tu poziom meta całej sytuacji. Firma doradcza, która pobiera od klientów potężne stawki za ekspertyzę, najwyraźniej użyła AI do napisania raportu o tym, jak odpowiedzialnie używać AI - i nie zweryfikowała efektu. To trochę jak instruktor jazdy, który rozbija samochód po drodze na egzamin.

Odpowiedź, która sama siebie demaskuje

Rzecznik KPMG potwierdził, że dokument został usunięty ze stron firmy na czas wewnętrznego dochodzenia. Towarzyszące temu oświadczenie jest zaś przykładem korporacyjnej elegancji, która przy bliższym oglądzie obraca się przeciwko nadawcy.

„Oczekujemy, że wszyscy nasi pracownicy będą przestrzegać naszych wytycznych dotyczących odpowiedzialnego korzystania z AI, w tym ludzkiego nadzoru w celu walidacji treści i weryfikacji niezależnych źródeł.”

Rzecznik KPMG, cytowany przez „Financial Times”

To zdanie jest mimowolnym przyznaniem się do winy. Skoro firma ma wytyczne nakazujące ludzki nadzór i weryfikację źródeł, a do publikacji trafił raport pełen zmyślonych faktów o realnych, łatwych do sprawdzenia instytucjach, to znaczy, że te wytyczne na papierze i ich egzekwowanie w praktyce to dwie zupełnie różne rzeczy. Można mieć najlepszą politykę bezpieczeństwa na świecie, ale jeśli nikt jej nie stosuje, jest warta tyle co plik PDF, w którym ją zapisano.

To nie jest pierwszy raz i nie będzie ostatni

Co istotne, KPMG nie jest w tej sytuacji osamotnione. Zaledwie miesiąc wcześniej EY, kolejny gigant z wielkiej czwórki, wycofał własny raport - tym razem dotyczący programów lojalnościowych. Również tam znaleziono ślady halucynacji AI, w tym, co szczególnie kompromitujące, sfabrykowane przypisy. Przypisy to przecież fundament wiarygodności każdego poważnego dokumentu, kotwica, która ma odsyłać do prawdziwych źródeł. Gdy model językowy zaczyna je zmyślać, cały gmach zaufania wali się jak domek z kart.

Dwa takie przypadki w odstępie miesiąca, w dwóch różnych firmach z absolutnej czołówki branży doradczej, to nie jest przypadek. To wzorzec. I mówi nam coś niepokojącego o tym, jak głęboko narzędzia generatywne wniknęły już w codzienną produkcję treści w organizacjach, które sprzedają klientom przede wszystkim swoją wiarygodność i precyzję.

Branża profesjonalnych usług doradczych opiera się na jednym fundamentalnym założeniu: że kiedy płacisz tym ludziom, dostajesz rzetelnie zweryfikowaną wiedzę, a nie efektowne tezy bez pokrycia. Raport firmy takiej jak KPMG ma wagę właśnie dlatego, że zakładamy, iż za każdym zdaniem stoi człowiek, który to sprawdził. Gdy okazuje się, że za zdaniami stoi model językowy generujący prawdopodobnie brzmiące fikcje, a człowiek najwyżej nacisnął przycisk „publikuj”, cała wartość takiego dokumentu wyparowuje.

Najbardziej fascynuje mnie tu jednak nie sama wpadka, tylko to, co ona zapowiada. Mamy do czynienia z momentem, w którym narzędzia AI stały się na tyle dostępne i kuszące, że pracownicy najlepiej opłacanych firm świata sięgają po nie, by przyspieszyć pracę - i robią to bez zachowania podstawowej ostrożności. Pokusa, by oddać myślenie maszynie, okazuje się silniejsza niż wszystkie firmowe wytyczne razem wzięte.

Ironia, którą warto zapamiętać, jest podwójna. Po pierwsze, firma upadła na własnym temacie - raport o odpowiedzialnym używaniu AI stał się przykładem nieodpowiedzialnego używania AI. Po drugie, zdemaskowała ją inna technologia, narzędzie GPTZero do wykrywania śladów maszynowej produkcji treści. Sztuczna inteligencja, która stworzyła problem, i sztuczna inteligencja, która go ujawniła. Jeśli ktoś szukał idealnej metafory naszych czasów, to chyba właśnie ją znalazł.

// czytaj dalejFirmy, które dużo wydają na AI, zatrudniają szybciej - nawet na stanowiska juniorskieNewsyJak napisać raport z danych z AI: krok po krokuPremiumJak napisać opis firmy na stronę z AI: krok po krokuPremium