Czy AI powinno pomagać w morderstwie współmałżonka? George Hotz wywołuje burzę

👁 152 przeczytań

„We either live in a world with freedom or we don’t” - to zdanie George’a Hotza, założyciela Comma AI i jednego z najbardziej rozpoznawalnych prowokatorów w świecie technologii, opublikowane kilka dni temu na jego blogu, wywołało falę komentarzy. Pozornie banalny manifest o wolności. Tyle że Hotz nie mówi tu o wolności słowa ani wolności od inwigilacji. Mówi o tym, że AI powinno bez mrugnięcia okiem pomóc ci zaplanować morderstwo współmałżonka.

Na pierwszy rzut oka brzmi to jak trolling - i po części nim jest, bo Hotz od lat konsekwentnie gra rolę enfant terrible branży. Ale za tą prowokacją kryje się poważniejszy argument, który dotyczy samego serca debaty o bezpieczeństwie sztucznej inteligencji.

Reakcja na plan spowolnienia AI

Kontekstem dla wypowiedzi Hotza jest opublikowany niedawno dokument AI 2040: Plan A przygotowany przez AI Futures Project. To rozbudowany scenariusz polityczny, w którym świat - a konkretnie jego czołowi badacze i decydenci - dobrowolnie zwalnia tempo rozwoju AI o 14 lat, aby dać ludzkości czas na opracowanie mechanizmów kontroli. Dokument zakłada możliwość koordynacji globalnej, przewiduje instytucje nadzorcze i próbuje wyobrazić sobie świat, w którym technologia rozwija się odpowiedzialnie.

Hotz nie kupuje tych założeń. W swoim poście argumentuje, że scenariusz tzw. fast-takeoff - w którym AI gwałtownie osiąga zdolności nadludzkie - jest po prostu mało prawdopodobny. W tym miejscu autor TechCruncha przyznaje mu rację: nie wszystkie alarmistyczne wizje o AI przeskakującym z dnia na dzień od asystenta tekstowego do superinteligencji mają solidne podstawy empiryczne.

Problem zaczyna się w kolejnym kroku.

Pistolet, meta-lab i zasada absolutnej lojalności

Dla Hotza właściwe podejście do bezpieczeństwa AI to modele kontrolowane lokalnie - działające na urządzeniu użytkownika, zamiast przez centralnie zarządzane serwisy pokroju ChatGPT czy Claude. Idea sama w sobie brzmi sensownie, szczególnie że obecna architektura rynku AI jest w dużej mierze pochodną kosztów infrastruktury: utrzymanie dużego modelu jest drogie, a większość ludzi nie używa go na tyle intensywnie, żeby uzasadnić naprawdę osobiste AI. To może się zmienić wraz z rozwojem technologii.

Ale Hotz nie poprzestaje na rozważaniach technicznych. Porównuje user-aligned AI do broni palnej - coś, co nie ma własnego zdania na temat tego, w kogo celujesz. Prawdziwie lojalne AI, według niego, powinno bez pytań zamówić na Amazon wyposażenie do laboratoryum metamfetaminy, jeśli tego chce użytkownik. I - tu padają te słowa - powinno pomóc w zaplanowaniu idealnego morderstwa współmałżonka, jeśli o to zostanie poproszone.

„We either live in a world with freedom or we don’t” - podsumowuje Hotz. I deklaruje, że gotów jest umrzeć w obronie tej zasady, choć - jak słusznie zauważa autor tekstu w TechCrunch - trudno sobie wyobrazić łańcuch zdarzeń, który doprowadziłby do takiej sytuacji.

Gdzie kończy się wolność jednostki

Prowokacja Hotza dotyka czegoś realnego: dużo obecnego AI jest zoptymalizowane pod kątem wizerunkowym i prawnym, a nie pod kątem faktycznej użyteczności. Modele odmawiają pisania fikcji, która zawiera przemoc, nie chcą rozmawiać o lekach bez recepty i tworzą otoczkę paternalizmu, która irytuje użytkowników z uzasadnionych powodów. Argument o lokalnie kontrolowanym AI, niezależnym od korporacyjnych filtrów, ma swoje uzasadnienie.

Ale istnieje zasadnicza różnica między AI, które nie marudzi przy pisaniu thrillera kryminalnego, a AI zaprojektowanym jako idealne narzędzie do obejścia prawa. Każda technologia o masowym zasięgu - nie tylko AI - wymaga równoważenia interesów wielu stron jednocześnie. Wolność, którą Hotz opisuje, jest możliwa tylko dlatego, że funkcjonuje w sieci wzajemnych zależności i odpowiedzialności: instytucji, norm, mechanizmów egzekwowania prawa. Pistolet, do którego się odwołuje, nie jest wolny od tych reguł - jest nimi otoczony z każdej strony, od rejestracji po zasady użytkowania.

Masowy produkt technologiczny, który optymalizuje się wyłącznie pod kątem interesu jednego użytkownika, ignorując wszystkich pozostałych, nie buduje wolności - buduje narzędzie, które systematycznie niszczy zaufanie i bezpieczeństwo publiczne. Współmałżonek, którego Hotz chętnie poświęca w imię zasady, też żyje w tym samym świecie wolności, o który rzekomo walczy.

Debata o tym, jak bardzo AI powinno służyć użytkownikowi kosztem reszty społeczeństwa, nie skończy się na jednym poście na blogu. Ale rzadko kiedy jest ona stawiana tak dosłownie - i tak skutecznie prowokacyjnie.

// czytaj dalejSzef Skydio: Dolina Krzemowa nie powinna wyznaczać czerwonych linii dla dronówNewsyRząd USA wyłączył model AI i nawet nie powiedział dlaczego. To powinno was przerazićNewsyKursy AI warte polecenia w 2026 roku. Konkretne szkolenia, które realnie oszczędzają czas i pomagają zarabiać więcejArtykuły