Whittaker o chatbotach: „To nie są twoi przyjaciele”. I ma rację

👁 145 przeczytań

Meredith Whittaker, prezeska Signala, w wywiadzie dla Bloomberga o polityce, prywatności i komunikatorze powiedziała o chatbotach takich jak ChatGPT i Claude rzecz, którą warto sobie przykleić nad biurkiem: „To nie są twoi przyjaciele. To nie są świadome byty. To nie są czujący rozmówcy.” I właśnie dlatego ten cytat jest tak orzeźwiający - bo cała branża pracuje nad tym, żebyśmy uwierzyli w coś przeciwnego.

Mam słabość do ludzi, którzy mówią głośno to, co reszta zamiata pod marketingowy dywan. Whittaker nie udaje technofobki - przyznaje, że używa narzędzi AI „tu i tam do sformatowania dokumentu”. Ale stawia twardą granicę:

„Nie zadaję im pytań. Bardzo poważnie traktuję moje myślenie i pisanie i nie chcę, żeby proces przepracowywania idei został zamknięty albo przyćmiony przez odpowiedź systemu, który uśrednia to, co już istnieje.”

To nie kaprys. To opis tego, czym statystycznie jest duży model językowy: maszyną do zwracania średniej z internetu. Jeśli oddasz jej swoje myślenie, dostaniesz z powrotem cudze, przeżute i wygładzone. Wygodne. I dokładnie tak nijakie, jak brzmi.

Czytasz Promptowego częściej? Dodaj go do preferowanych źródeł w Google, a nowe teksty będą wyżej w Twoich wynikach.

Copilot pod choinkę, czyli tylne wejście w prezencie

Najmocniej Whittaker uderza tam, gdzie branża jest najbardziej rozentuzjazmowana. Szef Microsoft AI Mustafa Suleyman przewidywał, że w tym roku użytkownicy pozwolą Copilotowi załatwić za nich całe świąteczne zakupy. Brzmi uroczo, dopóki ktoś nie rozłoży tego na czynniki pierwsze.

Żeby asystent wiedział, kto co chce dostać, musi - jak wylicza Whittaker - podsłuchiwać rodzinny czat. A to oznacza dostęp „do mojej karty kredytowej, mojej przeglądarki, mojego Signala, możliwości pisania w moim imieniu do rodzeństwa, mojego adresu domowego i kalendarza”.

„To, co właśnie opisałeś, to system o bardzo wszechobecnym dostępie do wielu aplikacji i usług” - powiedziała. „W kontekście Signala stanowiłoby to rodzaj tylnego wejścia.”

I tu kończy się zabawa. Można szyfrować rozmowy end-to-end z matematyczną perfekcją, ale jeśli na tym samym urządzeniu siedzi asystent czytający wszystko, co widzisz na ekranie, to szyfrowanie jest dekoracją. Backdoor nie musi być dziurą w protokole. Wystarczy, że dobrowolnie zainstalujesz go pod postacią pomocnego pingwinka, który chce ci kupić skarpetki dla wujka.

Najbardziej niepokoi mnie nie sama technologia, tylko ramy, w jakie się ją wkłada. „Przyjaciel”, „asystent”, „ktoś, kto cię rozumie” - to język, który ma rozbroić czujność. Trudniej odmówić dostępu do karty kredytowej komuś, kogo nauczono cię traktować jak towarzysza, a nie jak oprogramowanie zbierające dane.

Whittaker nie mówi „nie używajcie AI”. Mówi: pamiętajcie, czym to jest. Narzędziem. Czasem przydatnym, czasem głupim, nigdy świadomym i nigdy lojalnym wobec was.

Bo jedyna osoba, której naprawdę zależy na waszej prywatności, to wy. Chatbot nie jest waszym przyjacielem - przyjaciele nie potrzebują dostępu do waszego kalendarza, żeby was lubić.

// czytaj dalejCyfrowi przyjaciele, realne tragedie: Mroczna strona relacji nastolatków z chatbotamiReportażeYour AI Slop Bores Me - gra, w której udajesz chatbotaNewsyGrok i 7000 obrazów. Jak chatbot stał się narzędziem do krzywdzenia dzieciNewsy