Czy katastrofa AI na miarę Hiroszimy zmusi ludzkość do działania? Historyk wątpi
Timothy Garton Ash, przebywający w Dolinie Krzemowej, ostrzega: nawet globalna katastrofa wywołana przez AI może nie wystarczyć, by skłonić ludzkość do skoordynowanej odpowiedzi.
👁 123 przeczytań
Timothy Garton Ash, brytyjski historyk i publicysta piszący z Doliny Krzemowej, opublikował w The Guardianie esej, w którym stawia tezę: nawet katastrofa na miarę Hiroszimy wywołana przez sztuczną inteligencję może nie wystarczyć, by zmusić ludzkość do skutecznej ochrony przed nią.
Garton Ash opisuje nastroje panujące wśród ekspertów w Dolinie Krzemowej. Według nich w ciągu najbliższych kilku lat nastąpi przełom w postaci tak zwanego recursive self-improvement - momentu, w którym AI zacznie samodzielnie trenować kolejne generacje modeli, prowadząc do wykładniczego wzrostu możliwości, które w wielu wymiarach przekroczą ludzką inteligencję. Jeden ze znajomych z Uniwersytetu Stanforda przywitał historyka słowami: „Witaj u podnóża osobliwości”.
Między rajem a zagładą
Opinie na temat skutków tego przełomu są skrajnie rozbieżne. Elon Musk prognozuje nadejście „epoki niesamowitej obfitości”, choć jednocześnie szacuje prawdopodobieństwo zabicia ludzkości przez roboty na 10-20%. Geoffrey Hinton, jeden z intelektualnych ojców założycieli AI, jest znacznie bardziej pesymistyczny. W rozmowie z Sebastianem Mallabym, autorem książki The Infinity Machine, Hinton określił prawdopodobieństwo wyginięcia człowieka (p(doom)) na 50% - z zastrzeżeniem, że nie ma pojęcia, jak tę liczbę wyliczyć. „Jak tylko ewolucja AI ruszy, jesteśmy skończeni” - dodał.
Na te wyzwania reagują też instytucje. Xi Jinping domaga się, by AI była „zawsze pod kontrolą człowieka” - najlepiej Komunistycznej Partii Chin. Pekin powołał Światową Organizację Współpracy w dziedzinie Sztucznej Inteligencji, apelując wprost do krajów globalnego południa. Z kolei papież Leon XIV poświęcił temu zagadnieniu encyklikę Magnifica Humanitas, ostrzegając przed nową wieżą Babel.
Brytyjski think tank Chatham House ocenia trzeźwo, że dopiero poważny kryzys skłoni świat do skoordynowanego zarządzania AI. Garton Ash uważa jednak, że i ta prognoza jest zbyt optymistyczna - wystarczy spojrzeć na obecny stan globalnej współpracy. Historyk szacuje, że prawdopodobieństwo jakiejś katastrofy związanej z AI przekracza 90%.
Pytanie, które stawia, jest proste i niepokojące: czy gdyby doszło do wybuchu na miarę Hiroszimy, ludzkość byłaby zdolna wyciągnąć z tego wnioski i działać wspólnie? Garton Ash obawia się, że nie.
Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
Podobne tematy na Promptowym
