Badacze AI odchodzą z laboratoriów, ostrzegając przed ryzykiem wyginięcia ludzkości

👁 113 przeczytań

Rishub Jain odszedł w czerwcu z Google DeepMind po tym, jak doszedł do wniosku, że używanie AI do przyspieszania prac nad kolejnymi modelami stopniowo wyklucza człowieka z procesu nadzoru. Kilka tygodni później badacz Jacob Coxon ogłosił rezygnację z Anthropic, ostrzegając, że firmy AI „pędzą prosto ku samodoskonalącej się superinteligencji i grają naszym życiem”.

Niepokój skupia się wokół koncepcji rekurencyjnego samodoskonalenia - pętli sprzężenia zwrotnego, w której AI coraz bardziej autonomicznie rozwija kolejne generacje modeli. Żadne z czołowych laboratoriów nie twierdzi, że ten etap już osiągnęło, ale sam kierunek badań wywołuje alarm. Starszy pracownik Anthropic zajmujący się bezpieczeństwem AI napisał wprost: „Naprawdę wierzymy, że AI mogłaby zabić wszystkich ludzi. Osobiście szacuję to ryzyko na ponad 10% w ciągu najbliższej dekady”.

Nate Soares z instytutu badawczego MIRA, współautor pracy argumentującej, że superinteligencja prowadzi do ludzkiego wyginięcia, mówi, że alignment - techniczne podejście do dopasowania AI do ludzkich wartości - zamiast stawać się łatwiejszy, okazuje się coraz trudniejszy. „Dużo ludzi miało fantazję, że to się uprości, gdy te systemy staną się mądrzejsze. I teraz mówią: »O cholera«” - stwierdził.