Whittaker o chatbotach: „To nie są twoi przyjaciele”. I ma rację
Szefowa Signala Meredith Whittaker przypomina, że chatboty AI nie są świadomymi rozmówcami, a asystenci w stylu Copilota to potencjalny tylny wejście do naszej prywatności.
👁 126 przeczytań
Meredith Whittaker, prezeska Signala, w wywiadzie dla Bloomberga o polityce, prywatności i komunikatorze powiedziała o chatbotach takich jak ChatGPT i Claude rzecz, którą warto sobie przykleić nad biurkiem: „To nie są twoi przyjaciele. To nie są świadome byty. To nie są czujący rozmówcy.” I właśnie dlatego ten cytat jest tak orzeźwiający - bo cała branża pracuje nad tym, żebyśmy uwierzyli w coś przeciwnego.
Mam słabość do ludzi, którzy mówią głośno to, co reszta zamiata pod marketingowy dywan. Whittaker nie udaje technofobki - przyznaje, że używa narzędzi AI „tu i tam do sformatowania dokumentu”. Ale stawia twardą granicę:
„Nie zadaję im pytań. Bardzo poważnie traktuję moje myślenie i pisanie i nie chcę, żeby proces przepracowywania idei został zamknięty albo przyćmiony przez odpowiedź systemu, który uśrednia to, co już istnieje.”
To nie kaprys. To opis tego, czym statystycznie jest duży model językowy: maszyną do zwracania średniej z internetu. Jeśli oddasz jej swoje myślenie, dostaniesz z powrotem cudze, przeżute i wygładzone. Wygodne. I dokładnie tak nijakie, jak brzmi.
Google · Twoje źródłaPromptowy wyżej w Twoim Google - jednym kliknięciemDodaj do preferowanych źródeł →Copilot pod choinkę, czyli tylne wejście w prezencie
Najmocniej Whittaker uderza tam, gdzie branża jest najbardziej rozentuzjazmowana. Szef Microsoft AI Mustafa Suleyman przewidywał, że w tym roku użytkownicy pozwolą Copilotowi załatwić za nich całe świąteczne zakupy. Brzmi uroczo, dopóki ktoś nie rozłoży tego na czynniki pierwsze.
Żeby asystent wiedział, kto co chce dostać, musi - jak wylicza Whittaker - podsłuchiwać rodzinny czat. A to oznacza dostęp „do mojej karty kredytowej, mojej przeglądarki, mojego Signala, możliwości pisania w moim imieniu do rodzeństwa, mojego adresu domowego i kalendarza”.
„To, co właśnie opisałeś, to system o bardzo wszechobecnym dostępie do wielu aplikacji i usług” - powiedziała. „W kontekście Signala stanowiłoby to rodzaj tylnego wejścia.”
I tu kończy się zabawa. Można szyfrować rozmowy end-to-end z matematyczną perfekcją, ale jeśli na tym samym urządzeniu siedzi asystent czytający wszystko, co widzisz na ekranie, to szyfrowanie jest dekoracją. Backdoor nie musi być dziurą w protokole. Wystarczy, że dobrowolnie zainstalujesz go pod postacią pomocnego pingwinka, który chce ci kupić skarpetki dla wujka.
Najbardziej niepokoi mnie nie sama technologia, tylko ramy, w jakie się ją wkłada. „Przyjaciel”, „asystent”, „ktoś, kto cię rozumie” - to język, który ma rozbroić czujność. Trudniej odmówić dostępu do karty kredytowej komuś, kogo nauczono cię traktować jak towarzysza, a nie jak oprogramowanie zbierające dane.
Whittaker nie mówi „nie używajcie AI”. Mówi: pamiętajcie, czym to jest. Narzędziem. Czasem przydatnym, czasem głupim, nigdy świadomym i nigdy lojalnym wobec was.
Bo jedyna osoba, której naprawdę zależy na waszej prywatności, to wy. Chatbot nie jest waszym przyjacielem - przyjaciele nie potrzebują dostępu do waszego kalendarza, żeby was lubić.
Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
