Eksperci od AI biją na alarm przed szczytem Xi-Trump. Co ich tak przeraziło?

👁 134 przeczytań

W tym tygodniu Sam Altman zwołał zamknięte spotkanie dla wszystkich pracowników OpenAI. Nie było to rutynowe firmowe all-hands - Altman powiedział zebranym, że OpenAI rozważa zwolnienie tempa własnego rozwoju sztucznej inteligencji. Informację ujawnił Bloomberg w piątek, powołując się na osoby znające kulisy spotkania. Tydzień wcześniej Paul Christiano, jeden z najbardziej rozpoznawalnych badaczy bezpieczeństwa AI na świecie, właśnie dołączył do rady non-profit OpenAI, by zasiąść w jej komitecie ds. bezpieczeństwa i ochrony.

Kaskada złych wiadomości

Żadne z tych wydarzeń nie wzięło się znikąd. Dolina Krzemowa przeżywa ostatnio serię niepokojących incydentów - naruszenia bezpieczeństwa cyfrowego, wewnętrzne sygnały alarmowe od pracowników firm AI oraz, jak mówią eksperci, coraz mniejszą przejrzystość tego, co dzieje się wewnątrz największych modeli językowych. Osoby śledzące branżę z bliska mówią wprost: środowisko jest freaked out.

Christiano nie gryzł się w język, gdy w czwartek opisywał swoje obawy. Na obecnej trajektorii technologii widzi realne ryzyko - użył dokładnie takich słów - „katastrofalnej i nieodwracalnej utraty kontroli w bardzo bliskiej perspektywie”. To nie jest język człowieka, który uważa, że sprawy idą dobrze.

Głos zabrała też Julie Steele, pracownica OpenAI, cytowana przez SCMP. Jej ocena jest bezlitosna:

„Pędzimy wprost ku samodoskonalącej się superinteligencji i hazardujemy naszym życiem.”

Steele, Julie Steele, OpenAI

Taki język - ze środka jednej z czołowych firm AI świata - robi wrażenie. Nie jest to głos zewnętrznego krytyka ani akademickiego pesymisty, lecz kogoś, kto pracuje przy narzędziach, o których mówi.

Hamować czy nie hamować - oto jest pytanie

Pomysł spowolnienia nie jest prosty do przeprowadzenia, nawet jeśli Altman rzeczywiście zdecyduje się na ten krok. Bloomberg podał, że OpenAI rozważa skoordynowanie ewentualnego hamowania z innymi czołowymi laboratoriami AI - ale część firm może odmówić udziału. I trudno się dziwić: kto zatrzymuje się w wyścigu, ten oddaje pole konkurentom.

Tu właśnie pojawia się napięcie, które towarzyszy całej debacie o bezpieczeństwie AI od lat, lecz teraz nabrało nowego wymiaru. Krytycy spowolnienia argumentują, że deakceleracja to w praktyce zaproszenie dla Chin, by przejęły technologiczną inicjatywę. Z kolei zwolennicy ostrzegają, że pęd bez żadnych hamulców może skończyć się katastrofą, której nie da się cofnąć - i żadna przewaga geopolityczna nie będzie miała wtedy znaczenia.

Ten dylemat nie jest tylko akademicki. Za kilka tygodni prezydent Xi Jinping przyjedzie do Waszyngtonu na szczyt z Donaldem Trumpem. Sztuczna inteligencja ma być jednym z ważnych tematów rozmów. Problem w tym, że narastające napięcia między Stanami Zjednoczonymi a Chinami - handlowe, technologiczne, wojskowe - aktywnie podkopują możliwość prowadzenia poważnych rozmów o wspólnych standardach bezpieczeństwa AI. Trudno negocjować reguły gry z kimś, kogo jednocześnie traktujesz jako zagrożenie strategiczne.

Nowi ludzie, stare dylematy

Dołączenie Christiano do rady OpenAI to sygnał, że firma chce nadać zagadnieniom bezpieczeństwa instytucjonalne zakorzenienie. Artykuł SCMP pokazuje, że rosnąca rola komitetu bezpieczeństwa w strukturach firmy nie jest przypadkowa - to odpowiedź na konkretne zdarzenia i konkretnych ludzi, którzy głośno mówią o problemach z zewnątrz i od wewnątrz.

Christiano zbudował swoją pozycję jako jeden z architektów koncepcji alignment - wyrównywania zachowań modeli AI z ludzkimi intencjami i wartościami. Jego przejście do komitetu rady OpenAI oznacza coś więcej niż symboliczny gest: to człowiek, który zna techniczne detale i nie będzie zadowolony ogólnymi zapewnieniami o odpowiedzialnym rozwoju.

Tymczasem w tle toczą się realne naruszenia bezpieczeństwa. Materiał wskazuje na serię incydentów cybernetycznych, choć szczegóły pozostają niepełne. Środowisko mówi, że to dopiero widoczna część problemu - że wiele podatności jest wciąż nieodkrytych, bo tempo wdrożeń wyprzedza możliwości audytowania.

Paradoks jest bolesny: im szybciej rośnie zdolność modeli, tym trudniej weryfikować, co dokładnie jest w ich wnętrzu. Ewaluacje bezpieczeństwa, które działały dla poprzednich generacji systemów, nie nadążają za skalą obecnych. Widoczność maleje akurat wtedy, gdy stawki rosną.

Pytanie, czy Altman rzeczywiście zwolni i czy inni pójdą w jego ślady, pozostaje otwarte. Ale sam fakt, że CEO firmy wypowiada takie słowa do własnych pracowników - tygodnie przed szczytem dwóch supermocarstw, na którym AI ma być na stole - mówi więcej niż niejeden komunikat prasowy.

// czytaj dalejSzczyt Trump-Xi i AI: rozmowy o zagładzie między rywalami, którzy nie chcą się zatrzymaćNewsyCzy AI kradnie nam myślenie? Ekspert ostrzega przed „kognitywną kapitulacją”NaukaDemokraci chcą uderzyć w branżę AI przed wyborami. Ruszył fundusz z 4 mln dolarów na reklamyNewsy