Niemiecki sąd właśnie powiedział Google’owi: za halucynacje AI odpowiadasz ty, nie internet

👁 133 przeczytań

Przez ćwierć wieku wyszukiwarka miała wygodny alibi: ja tylko pokazuję, co napisali inni. Google nie odpowiadał za to, że ktoś gdzieś w sieci skłamał - był posłańcem, nie autorem. To rozróżnienie, fundamentalne dla całej architektury prawnej internetu, właśnie zaczęło się kruszyć. I to nie w Brukseli, nie w Waszyngtonie, ale w regionalnym sądzie w Monachium.

Sprawa, którą jako pierwszy opisał serwis The Decoder, brzmi banalnie, dopóki nie pomyśli się o skali. Dwóch wydawców odkryło, że funkcja AI Overviews - te automatyczne streszczenia, które Google wyświetla nad listą linków - powiązała ich w wynikach z podejrzanymi praktykami biznesowymi, oszustwami i abonamentowymi przekrętami. Bez żadnej podstawy. Nigdzie w źródłach, do których wyszukiwarka linkowała, takie zarzuty się nie pojawiały. AI po prostu zlepiła informacje o innych firmach, faktycznie oznaczonych jako podejrzane, z danymi tych dwóch wydawców - i wyprodukowała oskarżenie, którego nikt nigdy nie sformułował.

Google zrobił to, co robi zawsze: zaprzeczył odpowiedzialności. Argument był znajomy do bólu - przecież ostrzegamy użytkowników, że odpowiedź może zawierać błędy i należy ją samodzielnie zweryfikować. Mała szara adnotacja jako tarcza prawna. Sąd w Monachium tej tarczy nie przyjął, i zrobił to w sposób, który warto przeczytać dwa razy.

Sędziowie ustalili, że tradycyjna wyszukiwarka jedynie wyświetla listę linków z twierdzeniami osób trzecich. Narzędzie oparte na generatywnej AI robi coś zupełnie innego - produkuje, cytuję za sądem, „niezależne, nowe i merytoryczne stwierdzenia” oparte na błędnej interpretacji tego, co znalazło w sieci. To nie jest pośrednictwo. To autorstwo. A jeśli to autorstwo, to odpowiedzialność spada na tego, kto tę technologię zaprojektował, wytrenował i nią zarządza. Czyli na Google’a. Bo, jak zauważył sąd, to Google jest jedynym podmiotem zdolnym zmodyfikować technologię stojącą za tymi streszczeniami i dlatego „musi zostać pociągnięty do odpowiedzialności”.

Najmocniejszy moment uzasadnienia dotyczy jednak ostrzeżeń o halucynacjach. Google twierdził: przecież sami mówimy ludziom, że AI się myli. Sąd odpowiedział, że taka adnotacja nie zwalnia z odpowiedzialności dystrybutora treści. I dorzucił argument, który jest brutalnie logiczny - gdyby było inaczej, ofiary fałszywych twierdzeń zostałyby praktycznie bezbronne. Bo przecież pierwotne źródła nigdy tych twierdzeń nie wypowiedziały, więc nie da się ich pozwać. Pozostaje tylko ten, kto je wygenerował. Jeśli on też jest chroniony, to nie ma już nikogo. Halucynacja staje się idealnym przestępstwem bez sprawcy.

Jest jeszcze jeden wątek, który moim zdaniem może okazać się najbardziej wybuchowy w dłuższej perspektywie. Sąd uznał, że wyniki generowane przez system AI nie mogą korzystać z ochrony wolności słowa, ponieważ są produktem algorytmu zaprojektowanego i zarządzanego przez firmę, a nie ekspresją jednostki. To uderza prosto w retorykę, którą amerykańskie firmy technologiczne szlifowały od lat - że ich systemy to swego rodzaju mowa, którą trzeba chronić. Niemiecki sąd mówi: nie, to produkt. A za produkt się odpowiada jak za każdy inny.

Orzeczenie jest wstępne i wydane przez sąd regionalny, więc nie ma co od razu ogłaszać końca świata, jaki znaliśmy. Ale precedens to precedens, a kierunek myślenia tu zarysowany jest poważny. Przez dwadzieścia parę lat cały ekosystem internetu opierał się na założeniu, że pośrednik nie odpowiada za cudze treści. Generatywna AI tę figurę rozbija od środka, bo nie ma już „cudzej treści” - jest treść, którą maszyna sama złożyła z fragmentów w coś nowego.

I tu dochodzimy do paradoksu, który Google sam na siebie sprowadził. Firma chciała mieć produkt, który nie tylko wyszukuje, ale myśli za nas, syntetyzuje, podaje gotową odpowiedź. To miała być przewaga nad zwykłą listą dziesięciu niebieskich linków. Tyle że w momencie, gdy twoje narzędzie przestaje pokazywać, a zaczyna twierdzić, przestaje być neutralnym lustrem internetu i staje się głosem - twoim głosem. A głos ponosi konsekwencje tego, co mówi.

Patrzę na to bez specjalnej satysfakcji, ale i bez współczucia. Wielkie firmy AI chciały rozpędu bez hamulców - wdrażały funkcje generatywne na skalę miliardów zapytań, a ryzyko przerzucały na drobnym drukiem na użytkownika. Monachium właśnie powiedziało, że tak się nie da. Jeśli to orzeczenie się utrzyma i znajdzie naśladowców, branża stanie przed wyborem, którego od dawna unikała: albo AI naprawdę przestanie halucynować, albo zacznie płacić za to, co zmyśla. Trzeciej drogi, tej z grzecznym ostrzeżeniem na dole ekranu, może wkrótce zabraknąć.

// czytaj dalejGoogle NotebookLM Web Mode - notatki wprost ze stron internetowych bez kopiowaniaGeminiGoogle przegrało w Indiach o słowa kluczowe. Reklama w wyszukiwarce właśnie zrobiła się mniej bezkarnaPremiumPrzeglądarka staje się agentem. Nowa wojna o internet toczy się poza GooglePremium