Detektyw, który odwiesił lupę. Jak przestałem polować na roboty

👁 121 przeczytań

Była taka faza, że nie potrafiłem przeczytać maila od człowieka bez robienia sekcji zwłok. Dostawałem zwykłą wiadomość - podziękowanie, propozycję współpracy, cokolwiek - i zamiast ją przeczytać, zaczynałem ją obwąchiwać. „Reasumując”. „”. Trójdzielna lista zalet zakończona puentą o „dynamicznie zmieniającym się świecie”. I już wiedziałem: złapałem cię, robocie. Czułem się jak pogranicznik, który każdemu podróżnemu każe otworzyć walizkę, bo w jednej na sto znajdzie przemyt.

Przez mniej więcej rok byłem takim pogranicznikiem. Wyspecjalizowanym, dumnym, nieznośnym łowcą sztucznej inteligencji. I dziś, z pełną premedytacją, ogłaszam: odwiesiłem lupę i nie zamierzam po nią sięgać. Nie dlatego, że przegrałem. Dlatego, że w końcu zrozumiałem, że tropiłem zupełnie zły trop.

Tiki, które brałem za odciski palców

Zacznę od spowiedzi, bo felieton bez spowiedzi to tylko wykład z lepszym oświetleniem. Byłem naprawdę dobry w wyłapywaniu „maszynowego” stylu. Miałem swoją prywatną listę grzechów głównych, czerwonych lampek, które zapalały się automatycznie.

Nadużywanie słowa „kluczowy”. Zdania, które zaczynają się od „W istocie” i kończą niczym konkretnym. Akapity zbudowane jak pod linijkę - trzy zdania, ani jednego więcej, ani jednego mniej, każdy o identycznym ciężarze, jakby autor bał się, że jedna myśl urośnie kosztem drugiej. Ta podejrzana, nienaturalna symetria. Brak zająknięcia. Brak dygresji. Brak tego momentu, w którym człowiek się zapala, traci wątek, wraca i mówi „no ale o czym to ja”. Teksty gładkie jak blat kuchenny w katalogu mebli - i tak samo martwe.

Byłem z siebie dumny. Czułem, że mam ucho. Że słyszę fałszywą nutę tam, gdzie inni słyszą tylko melodię. A potem zdarzyła mi się rzecz, która podcięła mi skrzydła szybciej niż jakikolwiek detektor.

Oskarżyłem w myślach żywego człowieka. Konkretny tekst, napisany przez kogoś, kogo znałem, kogoś piszącego ciężko i szczerze, uznałem w głębi duszy za wygenerowany. Bo był równy. Bo był poprawny. Bo autor akurat się postarał, przeczytał dwa razy, wygładził. I nagle dotarło do mnie coś niewygodnego: moja cała metoda detektywistyczna karała ludzi za staranność. Im lepiej ktoś pisał, im bardziej dbał o formę, tym podejrzaniej wyglądał w moich oczach. Nagrodą za nonszalancję był certyfikat człowieczeństwa.

Zacząłem traktować poprawność jako dowód winy. To tak, jakby uznać, że prawdziwy człowiek musi mieć plamę na koszuli, bo tylko manekin jest czysty.

Detektory, czyli wariograf, który nie umie liczyć

W pewnym momencie, oczywiście, sięgnąłem po narzędzia. Bo skoro mam obsesję, to niech będzie obsesja uzbrojona. Wkleiłem w detektory AI dziesiątki tekstów. Swoich, cudzych, starych, nowych. I to był punkt zwrotny - tyle że nie taki, jakiego się spodziewałem.

Wrzuciłem detektorowi fragment, który sam napisałem kilka lat temu, długo zanim ktokolwiek w Polsce mówił o generowaniu tekstów. Mój własny, odręczny, przepocony akapit. Werdykt maszyny: najprawdopodobniej napisane przez sztuczną inteligencję. Potem dla przekory wkleiłem fragment naprawdę wygenerowany, taki klasyczny, z „warto zaznaczyć” w każdym zdaniu. Werdykt: w pełni ludzki, gratulacje.

I tu pękła mi ostatnia iluzja. Detektor AI nie wykrywa sztucznej inteligencji. Wykrywa przewidywalność. Mierzy coś, co fachowo nazywa się perplexity i burstiness - w uproszczeniu: na ile tekst jest statystycznie zaskakujący i jak nierówno rozłożone są w nim zdania. Problem w tym, że to są cechy stylu, a nie cechy autorstwa. Człowiek piszący nudno, równo i ostrożnie wygląda w tych narzędziach dokładnie jak maszyna. A maszyna, której każesz pisać chaotycznie, z błędami i dygresjami, przechytrzy każdy detektor w trzy sekundy.

To jest wariograf, który nie bada, czy kłamiesz. Bada, czy się pocisz. A pocić się można z miłości, ze strachu albo dlatego, że w pokoju jest gorąco. Oskarżanie kogoś na podstawie takiego urządzenia to nie tyle błąd, co pomyłka kategorialna. Najboleśniej przekonują się o tym studenci, którym profesor wkleja wypracowanie w detektor i na podstawie czerwonego paska odbiera im dobre imię. Niewinny, który napisał za ładnie, nie ma jak się obronić. Jak udowodnić, że to się działo w twojej głowie?

Wyścig, którego nie da się wygrać

Załóżmy jednak na chwilę, że detektory są świetne. Że działają bezbłędnie. I co z tego? To i tak byłby wyścig zbrojeń, w którym obrona jest z definicji spóźniona.

Pomyślmy o tym jak o zamkach i wytrychach. Każdy nowy, genialny zamek żyje dokładnie do momentu, w którym ktoś zrobi pod niego wytrych. Każdy detektor AI jest treningowym materiałem dla następnej generacji modeli, które nauczą się go omijać. To nie jest walka, którą można wygrać - to jest walka, która z definicji się rozpędza. Im lepszy łowca, tym sprytniejsza zwierzyna. Wkładam coraz więcej energii w coraz krótsze zwycięstwa.

A teraz najważniejsze pytanie, które sobie wreszcie zadałem: po co mi to zwycięstwo? Co dokładnie robię z informacją, że dany akapit „w 73 procentach” wyszedł z maszyny? Czy tekst staje się przez to mniej prawdziwy? Mniej użyteczny? Mniej mądry? Czy przestaję go lubić z powodów moralnych?

Bo tu dochodzimy do sedna mojej głupoty z tamtego roku. Ja nie szukałem prawdy o tekście. Ja szukałem pretekstu do pogardy. Chciałem mieć stempel, którym mógłbym przybić komuś na czole napis „oszust”, żeby poczuć się lepszym, bardziej autentycznym, bardziej „prawdziwym autorem”. Polowanie na AI było w gruncie rzeczy polowaniem na poczucie własnej wyższości. I to jest mało eleganckie hobby.

Złe pytanie

Przełom przyszedł, gdy zamieniłem jedno pytanie na inne. Przestałem pytać „czy to napisał człowiek?”, a zacząłem pytać „czy to jest dobre i czy ktoś za to odpowiada?”.

To drobna zamiana, a zmienia wszystko. Bo pierwsze pytanie jest o pochodzenie, drugie o wartość i odpowiedzialność. A tylko to drugie da się realnie rozstrzygnąć i tylko ono ma jakiekolwiek znaczenie dla mnie jako czytelnika.

Zdanie urwane - brak dokończenia konstrukcji.pytał o proporcje, kazał sobie wygładzić zdania? Nie. Obchodzi mnie, czy ciasto wyjdzie i czy przepis nie każe mi wstawiać go do piekarnika na temperaturze, która spali dom. Weźmy felieton o polityce. Czy interesuje mnie, które zdania wyszły z klawiatury, a które z promptu? Nie. Interesuje mnie, czy ktoś się pod tym podpisał nazwiskiem i czy jest gotów bronić każdego zdania, gdy ktoś go złapie za słowo.

Autorstwo nigdy nie polegało na tym, czyje palce dotykały klawiatury. Polegało na tym, kto bierze na siebie odpowiedzialność za sens. Pisarz, który dyktuje sekretarce, jest autorem. Reżyser, który nie dotknął kamery, jest autorem filmu. Architekt, który nie położył ani jednej cegły, jest autorem budynku. Zawsze liczyła się intencja, decyzja, odpowiedzialność - a nie motoryka.

Narzędzie zmieniło się radykalnie, to prawda. Ale pytanie „czy to twoje?” nigdy nie dotyczyło narzędzia. Dotyczyło tego, czy stoisz za tym, co podpisujesz. I dlatego nie obchodzi mnie, czy użyłeś modelu językowego, tak samo jak nie obchodzi mnie, czy pisałeś w edytorze z korektą ortografii. Obchodzi mnie, czy kłamiesz.

Czego naprawdę szukam, kiedy już nie szukam robota

Nie oznacza to, że zupełnie wyłączyłem czujność. Zmieniłem tylko to, na co jest nastawiona. Przestałem węszyć za „maszynowym stylem”, bo to ślepa uliczka. Zacząłem zwracać uwagę na rzeczy, które świadczą o braku człowieka po drugiej stronie - niezależnie od tego, jakim narzędziem tekst powstał.

Szukam specyfiki, której model nie wymyśli, bo jej nie przeżył. Konkretu tak dziwnego, że musi być prawdziwy. Opinii, która kogoś naraża, zamiast wszystkich zadowalać. Tekstu, który ma odwagę powiedzieć „nie wiem” albo „myliłem się”. Dygresji, która nie powinna tam być, a jednak jest, bo autor nie potrafił się powstrzymać. To są ślady człowieka - nie w gramatyce, ale w ryzyku.

Bo maszyna domyślnie dąży do środka. Do mediany. Do zdania, które nikogo nie urazi i nikogo nie poruszy. Człowiek, który ma coś do powiedzenia, ciągnie w stronę krawędzi. I tam, na tej krawędzi, przy odrobinie szczęścia dzieje się literatura, publicystyka, cokolwiek wartego czytania.

Czy taki tekst też można wygenerować? Pewnie można udawać, że tak. Ale im bardziej ktoś udaje odwagę, tym bardziej słychać fałsz - i akurat to ucho nigdy mnie nie zawiodło. Nie wykrywam już maszyny. Wykrywam pustkę. A pustkę produkuje się zarówno ręcznie, jak i automatycznie, i to od zarania dziejów pisarstwa.

Dlaczego odwiesiłem lupę

Mam dziś poczucie, że cały ten rok polowania był rodzajem żałoby. Żegnałem się ze światem, w którym „napisane” i „ludzkie” były synonimami. Ten świat się skończył i żadne narzędzie go nie przywróci. Mogę trzymać lupę i udawać, że granicę da się obronić, albo mogę przyjąć, że granica przesunęła się gdzie indziej - z pochodzenia na odpowiedzialność, z motoryki na sens.

Przestałem zawracać sobie głowę wykrywaniem AI nie dlatego, że mi wszystko jedno. Przeciwnie - dlatego, że zależy mi na czymś poważniejszym. Marnowałem energię na pytanie „kto to wyklikał”, podczas gdy jedyne ważne pytanie brzmi: czy ktokolwiek tu myślał i czy ten ktoś jest gotów za swoje myśli odpowiedzieć.

Więc jeśli pytacie mnie dzisiaj, jak sprawdzam, czy tekst napisał człowiek, odpowiadam zgodnie z prawdą: nie sprawdzam. Czytam go. Jeśli coś we mnie poruszy, jeśli czegoś mnie nauczy, jeśli zostanie ze mną na dłużej niż jeden akapit - uznaję, że po drugiej stronie był ktoś, kto wiedział, co robi. A jeśli jest pusty, gładki i o niczym, to naprawdę nie ma znaczenia, czy wyprodukował go procesor, czy znudzony człowiek o trzeciej nad ranem.

Detektyw odwiesił lupę. Okazało się, że przez cały czas szukał nie tego winnego. Mordercą nigdy nie była maszyna. Mordercą jest nuda - i ona od zawsze miała dwie ręce, dokładnie takie jak moje.