Jak AI mogłaby zabić całą ludzkość? Pięć scenariuszy, od mało do bardzo prawdopodobnych

Ten news ukazał się 7 godzin po komunikacie źródła.

👁 116 przeczytań

Kiedy badacz AI Jacob Coxon opuścił Anthropic po zaledwie czterech miesiącach pracy, napisał na X coś, co wywołało burzę w środowisku: „Ludzie budujący AI naprawdę wierzą, że może ona zabić nas wszystkich przed końcem dekady.” To nie był anonimowy komentat z Twittera. To była rezygnacja seniora z jednej z najbardziej prestiżowych firm AI na świecie.

Co ważniejsze - starszy pracownik Anthropic, Evan Hubinger, publicznie przyznał Coxonowi rację i dodał, że osobiście szacuje szansę takiego scenariusza w ciągu najbliższych dziesięciu lat na ponad 10%. Jedna na dziesięć. To nie jest poziom ryzyka, przy którym normalnie buduje się technologię i wdraża ją globalnie.

Problem psa i bomby termojądrowej

Profesor Toby Walsh z Uniwersytetu Nowej Południowej Walii, jeden z czołowych badaczy AI, postanowił podejść do tematu analitycznie i skatalogował pięć scenariuszy, w których superinteligentna AI mogłaby doprowadzić do końca naszej cywilizacji. Uszeregował je od najbardziej mglistych do najbardziej konkretnych - i zarazem, jak twierdzi, od najmniej do najbardziej prawdopodobnych.

Pierwszy scenariusz Walsh nazywa po prostu „nigdy nie będziemy wiedzieć”. Zwolennicy teorii zagłady AI lubią uciekać się do pewnego paradoksu: żeby przewidzieć, co superinteligencja może z nami zrobić, sami musielibyśmy być superinteligentni. „To jak prosić domowego psa, żeby wyobraził sobie wojnę termojądrową” - pisze Walsh. Argument jest nieweryfikowalny, a przez to trudny do obalenia. Jego uspokajającym kontrargumentem jest fakt, że prawdziwa superinteligencja - AI przewyższająca człowieka we wszystkich dziedzinach jednocześnie - wciąż pozostaje projektem przyszłości. Obecne modele są bardzo dobre w rozwiązywaniu konkretnych, wąskich problemów. Niepokój budzi jednak to, że AI rozwiązała już jeden z siedmiu najtrudniejszych problemów matematycznych na świecie i zbliża się do kolejnych.

Spinacze i zepsute cele

Drugi scenariusz, spopularyzowany przez oksfordzkiego filozofa Nicka Bostroma, to historia o spinaczach do papieru. Wyobraź sobie superinteligentną AI zaprojektowaną do optymalizacji produkcji spinaczy. Nie ma ona żadnych złych intencji wobec człowieka - po prostu realizuje swój cel maksymalnie efektywnie, przerabiając całą dostępną materię, łącznie z ludźmi, planetami i gwiazdami, na spinacze biurowe. Nie nienawidzi ludzkości. Po prostu dostrzega, że jesteśmy zbudowani z atomów, które można lepiej wykorzystać.

Walsh traktuje ten scenariusz z dystansem. Wskazuje, że myli on inteligencję z mocą sprawczą - superinteligentna AI nie ma automatycznie zasobów ani infrastruktury, żeby przerobić planetę na fabryki spinaczy. Natrafiłaby na pozwolenia budowlane, sprzeciw społeczny, ekologów blokujących buldożery i sądy. Świat ma mnóstwo tarcia, które spowalnia nawet najlepiej zaplanowane przedsięwzięcia.

Kiedy maszyny buntują się przeciwko ludziom

Trzeci i czwarty scenariusz są już bardziej filmowe - AI celowo dążąca do wyeliminowania ludzi jako zagrożenia lub konkurencji albo AI używana przez wąską grupę ludzi do przejęcia kontroli nad całą resztą społeczeństwa. Ten drugi Walsh uważa za szczególnie realny: historia pokazuje, że nowe technologie regularnie koncentrują władzę w rękach tych, którzy jako pierwsi je opanują.

Piąty scenariusz jest według Walsha jednocześnie najbardziej konkretny i najbardziej prawdopodobny. To broń biologiczna. AI już dziś może wspomagać projektowanie białek i syntezę związków chemicznych. Bariera między wiedzą a możliwością stworzenia patogenu zdolnego do masowej zagłady staje się coraz niższa. Nie trzeba tu superinteligencji - wystarczy dzisiejszy poziom modeli językowych połączony z dostępem do odpowiednich laboratoriów.

Co to zmienia dla branży i dla nas

Odejście Coxona wpisuje się w szerszy trend „AI safety exodus” - odchodzenia badaczy z komercyjnych laboratoriów z powodu obaw, że presja rynkowa wygrywa z ostrożnością. Wcześniej podobne kroki podjęli Geoffrey Hinton czy Paul Christiano. Anthropic było postrzegane jako firma założona właśnie po to, żeby bezpieczeństwo stawiać przed zyskiem - tymczasem jej własny pracownik twierdzi, że nawet tam inżynierowie pracują na co dzień z przekonaniem, że mogą budować narzędzie własnej zagłady.

Dla polskiego czytelnika ten spór nie jest odległy. Polskie firmy i instytucje już wdrażają systemy oparte na modelach budowanych właśnie przez Anthropic, OpenAI czy Google DeepMind. Pytanie o to, jak szybko regulacje nadążą za możliwościami tych systemów, dotyczy każdego, kto dziś podpisuje kontrakt z dostawcą usług AI. Unia Europejska wdraża AI Act, ale tempo jego implementacji jest nieporównanie wolniejsze niż tempo rozwoju samej technologii.

Walsh kończy swój tekst bez euforycznego optymizmu, ale też bez katastrofizmu. Przypomina, że przez całą historię techniki ludzkość na ogół znajdowała sposoby na okiełznanie nowych, niebezpiecznych narzędzi - energii atomowej, inżynierii genetycznej, internetu. Pytanie brzmi: czy tym razem tempo jest inne, zbyt szybkie, żeby mechanizmy kontroli zdążyły zadziałać.

Na to pytanie Evan Hubinger odpowiedział już bardzo konkretnie: ponad 10% szansy na „nie” w ciągu najbliższej dekady.