Jak AI zjada internet i kasuje jego pamięć

👁 159 przeczytań

Mieszkaniec Colorado Springs ustawił projektor na zewnątrz i cierpliwie czekał na zachód słońca. Nie doczekał się - bo według Google AI Overview słońce już dawno zaszło. Tyle że w rzeczywistości jeszcze nie zaszło. Użytkownik napisał na Facebooku:

„I had the projector set up outside and was waiting for the sun to set, but to my surprise I was simply living in the past. AI informed me the sunset had already happened.”

Zobacz wpis na X

Ta anegdota byłaby śmieszna, gdyby nie ilustrowała czegoś znacznie poważniejszego. Zachód słońca to jedno z najprostszych pytań, jakie można zadać wyszukiwarce - trwa zaledwie od dwóch i pół do czterech minut, zmienia się dynamicznie w zależności od szerokości geograficznej. I właśnie to Google zaczął mylić.

Wyszukiwarka, która przestała wiedzieć

Google zbudowało swoją pozycję na jednej obietnicy: zwracamy ci właściwą odpowiedź. Przez dwie dekady ta obietnica była wiarygodna na tyle, żeby słowo „googlować” stało się synonimem szukania prawdy. Dziś, jak zauważył jeden z ekspertów technologicznych cytowanych przez The Walrus, firma „utraciła przewagę”. AI Overview - warstwa sztucznej inteligencji, którą Google wstawiło między użytkownika a oryginalne źródło - potrafi zmyślać fakty z dokładnością wystarczającą, żeby brzmiały przekonująco, i z błędami wystarczającymi, żeby były bezużyteczne lub szkodliwe.

Problem nie leży wyłącznie w jakości modeli językowych. Leży w architekturze - w tym, co dzieje się, gdy między człowiekiem a oryginalną stroną internetową wstawia się podatny na błędy pośrednik. Nawet jeśli strona istnieje i zawiera prawidłową informację, może stać się praktycznie nieodkrywalna, bo AI podsumowuje ją po swojemu. Link rot - codzienne zanikanie stron - od lat gryzł internet po cichu. Kody błędów pojawiły się nawet na stronie Biblioteki Kongresu USA, gdzie kluczowe fragmenty Konstytucji Stanów Zjednoczonych przez pewien czas były niedostępne z powodu błędu programistycznego. To były jednak awarie techniczne, nie systemowe. To, co dzieje się teraz, ma inną naturę.

Kiedy zanieczyszczenie płynie pod prąd

Portal 404 Media ujawnił, że firmy celowo umieszczają treści na Reddicie z jednym celem: wpłynąć na odpowiedzi generowane przez wyszukiwarki AI. Reddit od kilku lat jest jednym z głównych źródeł, z których modele językowe czerpią „ludzki głos” - autentyczne opinie, rekomendacje, recenzje. Gdy korporacje zaczęły to rozumieć, zaczęły to eksploatować. Publiczny rekord - korpus, z którego AI buduje swoje podsumowania - jest teraz zanieczyszczany u źródła, w czasie rzeczywistym.

To fundamentalna zmiana w sposobie, w jaki dezinformacja działa. Dotąd chodziło o to, żeby fałszywa informacja pojawiła się wysoko w wynikach wyszukiwania. Teraz chodzi o to, żeby fałszywa informacja weszła do danych treningowych i korpusów, z których AI generuje odpowiedzi - żeby stała się częścią „wiedzy” systemu, zanim jakikolwiek moderator zdąży zareagować. Efekt jest trudniejszy do wykrycia i trudniejszy do odwrócenia.

Równolegle działa stara i dobrze znana siła: ekonomia. Gdy Google w 2023 roku ogłosił, że zacznie indeksować Reddit znacznie intensywniej - i zapłacił za to prawo - jednocześnie sygnalizował, jakie treści uznaje za wartościowe. Twórcy contentu zrozumieli komunikat i zalali internet tekstami generowanymi przez AI, zoptymalizowanymi pod kątem wyszukiwarek. Efekt to „AI slop” - morze bezużytecznych, generycznych treści, które wypierają oryginalne artykuły, reportaże i analizy z czołówek wyników.

FiveThirtyEight i cena zniknięcia

Cyfrowe wymazywanie różni się od palenia książek tym, że jest niewidoczne. Gdy szkolna rada gminy zakazuje książki, powstaje skandal, są nagłówki, są bohaterowie i złoczyńcy. Zakazana książka trafia do bibliotek publicznych, do antykwariatów, do rąk zbuntowanych nastolatków. Skasowana strona internetowa znika tak całkowicie, że większość ludzi nigdy nie zorientuje się, że cokolwiek tam było.

FiveThirtyEight - serwis należący do Walta Disneya, znany z analizy sondaży, polityki i sportowych danych - przestał istnieć. Jego archiwum: lata artykułów, analiz wyborczych, modeli predykcyjnych, stało się praktycznie niedostępne. To nie jest przypadek jakiegoś niszowego bloga. To był jeden z najbardziej wpływowych serwisów dziennikarstwa danych w Stanach Zjednoczonych, cytowany przez akademików, polityków i dziennikarzy na całym świecie. Zniknął nie dlatego, że ktoś podjął decyzję o cenzurze, ale dlatego, że korporacja podjęła decyzję biznesową.

I tu leży sedno problemu, który wykracza daleko poza kwestię jakości wyszukiwarek. Pytanie o to, kto przechowuje cyfrową pamięć zbiorową - i na czyich warunkach - jest pytaniem o suwerenność kulturową. W debacie o regulacji platform streamingowych chodzi o to, czy Netflix czy Spotify będą finansować lokalne treści. To ważne, ale to wierzchołek góry lodowej. Głębsze pytanie brzmi: kto gwarantuje, że za dwadzieścia lat będzie można znaleźć artykuł napisany dziś, raport opublikowany w tym roku, dyskusję, która toczy się na forach w tej chwili?

Odpowiedź - na razie - brzmi: nikt. I to jest najpoważniejszy problem, jakiego nie widać w żadnym AI Overview.

// czytaj dalejAI zjada pamięć RAM. Apple bije rekordy sprzedaży, ale niedobór chipów może podnieść ceny iPhone’ówPremiumInternet zjada własny ogon. Czy AI wykończy dane, na których się uczy?PremiumPamięć asystenta AI będzie nowym polem zaufania. Użytkownik musi wiedzieć, co system zapamiętałPremium