Chatfishing, czyli twoja randka pisze przez ChatGPT - i nikt tego nie zatrzyma

👁 160 przeczytań

Istnieje taki moment w rozmowie randkowej, kiedy ktoś pisze coś zbyt dopracowanego. Zbyt wyważonego. Zdanie, które jest eleganckie w sposób, w jaki żaden człowiek o 22:47 nie jest elegancki. Kobieta z Wirginii rozpoznała ten moment, gdy jej match na Hinge napisał, że jej coś „makes a playlist for every life moment energy”. Skonfrontowany, przyznał: to był Claude.

Zjawisko dostało nazwę - chatfishing - i zdążyło wygenerować wzrost zapytań w Google o 5000%. Tysiące wpisów na Reddicie i TikToku dokumentuje wyznania użytkowników, którzy albo sami korzystali z AI, albo zorientowali się, że rozmawiali z modelem językowym udającym człowieka. Według raportu Match Group i Kinsey Institute, 26% dorosłych Amerykanów użyło AI do pomocy w randkowaniu, a wśród pokolenia Z ten odsetek wynosi już 49%. Mowa nie tylko o doborze zdjęć czy pisaniu biopisu - mowa o zlecaniu modeli całych konwersacji.

Platformy wiedzą. I wzruszają ramionami.

To, co w tej historii uderza bardziej niż sam proceder, to reakcja platform. Albo raczej jej brak. Spencer Rascoff, CEO Match Group, powiedział Bloomberg wprost:

„To the extent they’re using off-platform coaching, there’s not much we can do about that.”

CEO Hinge Jackie Jantos przyznała, że platforma nie chce być „overly prescriptive”, dodając jednocześnie, że „it’s really important for humans to be humans” - co brzmi jak deklaracja bez jakiegokolwiek mechanizmu egzekwowania. Bumble w ogóle nie skanuje wiadomości pod kątem AI. Żadna z trzech platform nie ma polityki zakazującej AI-generowanych tekstów. Mają za to zakazy dotyczące AI-manipulowanych zdjęć.

To ciekawe rozróżnienie. Zdjęcie wygładzone przez model uważam za oszustwo. Osobowość wygładzona przez model - już niekoniecznie. Jakby twarz była tożsamością, a słowa tylko serwisem.

Problem nie jest tam, gdzie go szukamy

Łatwo powiedzieć, że chatfishing to po prostu kłamstwo i że randkujący zawsze szukali pomocy - pisali do przyjaciół, prosili o radę, ćwiczyli przed lustrem. To prawda. Różnica jest jednak jakościowa, nie tylko ilościowa.

Kiedy piszesz do przyjaciela „jak odpowiedzieć na to zdjęcie?”, przyjaciel zna ciebie. Filtruje odpowiedź przez to, kim jesteś, jak mówisz, co cię śmieszy. Model językowy generuje optymalną odpowiedź dla bezosobowego profilu demograficznego. Wynik jest bardziej artykułowany, bardziej spójny, bardziej uważny - niż ktokolwiek z nas jest w codziennym życiu. To nie jest lepszy ty. To jest ktoś inny, kto używa twojego imienia.

Wharton przeprowadził badania pokazujące, że ludzie akceptują wyniki AI w 80% przypadków, nawet gdy są błędne. W randkowaniu problem nie leży w faktycznej dokładności - żaden chatbot nie skłamie co do roku urodzenia Fryderyka Chopina. Problem leży w dokładności osobistej. AI-wersja człowieka jest bardziej konsekwentna niż oryginał, który pojawia się na kolacji.

I właśnie tam, przy stoliku w restauracji, cały konstrukt się sypie. „There was so much social awkwardness in person” - powiedziała jedna z kobiet, której randka wyznała po spotkaniu, że używał ChatGPT. „This is what happens when people hide behind a screen.” Mężczyzna z San Diego, według relacji jego randki, przez cały telefon zdawał się czytać ze skryptu wygenerowanego przez podanie jej profilu do chatbota.

Detekcja istnieje. Tyle że nie działa.

Technologia wykrywania AI istnieje - nowozelandzki developer wypuścił aplikację Chatfish na iPhone’a, która analizuje screenshoty pod kątem wzorców językowych modeli. Tyle że skuteczność detekcji jest zmienna i trudna do zweryfikowania. Żadna platforma randkowa nie wdrożyła podobnego narzędzia. Biorąc pod uwagę, że platformy explicite twierdzą, że nie mogą kontrolować tego, co dzieje się poza ich ekosystemem, trudno się spodziewać nagłego zwrotu.

Jest w tym pewna strukturalna ironia. Hinge, Bumble i Tinder żyją z tego, że ludzie chcą się poznawać. Im dłużej trwa ta rozmowa, im więcej wiadomości, im więcej sesji - tym lepiej dla ich modelu biznesowego. Chatfishing wydłuża rozmowy, bo AI jest cierpliwa i niezmordowana. Platformy mają więc ekonomiczny interes w tym, żeby problemu nie rozwiązywać zbyt szybko.

Nowe badanie mówi, że AI-doradztwo sprawia, iż ludzie są trzy razy mniej dokładni, ale dwa razy bardziej pewni siebie. To dokładnie ten rodzaj cocktailu, który dobrze wygląda na ekranie i źle działa przy kawie.

Randkowanie zawsze było teatrem - wybieramy najlepsze zdjęcia, opowiadamy najlepsze wersje naszych historii, śmiejemy się głośniej niż zwykle na pierwszej randce. Ale teatr zakłada, że za kulisami jest ktoś, kto ostatecznie wyjdzie na scenę. Chatfishing sprzedaje spektakl bez aktora. I wszyscy - platformy, użytkownicy, modele - udają, że tak właśnie powinno być.

// czytaj dalejChatGPT i Gemini przekroczyły miliard użytkowników. Wyścig się zaostrzaNewsyOpenAI pisze do gubernatora Teksasu o odpowiedzialnej infrastrukturze AINewsyFirma wydała miliony na tokeny AI i sama zbudowała narzędzie, które to zatrzymaNewsy