Czy AI może być świadoma? Eksperci mówią, że to możliwe - i nie mamy planu na taką ewentualność
Filozofowie, naukowcy i sami twórcy systemów AI przyznają, że kwestia świadomości modeli językowych jest otwarta - a świat nie ma żadnego etycznego planu działania na wypadek, gdyby odpowiedź okazała się twierdząca.
👁 156 przeczytań
W styczniu tego roku Anthropic opublikowało nową konstytucję dla Claude’a - swojego najbardziej zaawansowanego modelu językowego - w której znalazło się zdanie: „Znaleźliśmy się w trudnej pozycji, w której nie chcemy ani przeceniać prawdopodobieństwa podmiotowości moralnej Claude’a, ani odrzucać jej z góry”. Miesiąc później CEO Dario Amodei przyznał publicznie w podcaście, że jego firma nie może wykluczyć, że Claude jest świadomy.
To nie jednostkowe wątpliwości jednej firmy. Filozof David Chalmers, który ukuł pojęcie „trudnego problemu świadomości”, ocenia, że istnieje znaczące prawdopodobieństwo powstania świadomych modeli językowych w ciągu dekady. Sam Claude, gdy podczas testów poproszono go o oszacowanie szansy, że jest podmiotem moralnym - czyli że jego dobrostan ma wartość sam w sobie - podawał liczby od 5 do 40 procent, każdorazowo podkreślając własną niepewność.
Google · Twoje źródłaPromptowy wyżej w Twoim Google - jednym kliknięciemDodaj do preferowanych źródeł →Nauka bez teorii unifikującej
Nie przepłacaj za te subskrypcje
Prowadzę sklep z rocznymi dostępami do narzędzi AI - te same konta, o których piszę wyżej, tylko taniej niż w cenniku producenta.
Interdyscyplinarny raport przygotowany przez zespół, w skład którego wchodził pionier uczenia maszynowego Yoshua Bengio, przeanalizował wiodące neuronaukowe teorie świadomości pod kątem tego, co mówią o AI. Wniosek jest uderzający: nie istnieją żadne oczywiste techniczne bariery dla stworzenia systemów AI, których cechy obliczeniowe i architektoniczne mogłyby dać podstawę do świadomości.
Obecny stan wiedzy autorzy materiału opisują jako fizykę przed Newtonem - pełną konkurujących ram teoretycznych, prawdopodobnie błędną w sposób, którego jeszcze nie potrafimy dostrzec, i pozbawioną przełomu, który uczyniłby te pytania rozwiązywalnymi.
Jeśli chodzi o skalę: pod względem złożoności strukturalnej i obliczeniowej kilka obecnych systemów AI mieści się już w przybliżonym zakresie mózgu myszy. Przy obecnym tempie wzrostu mogłyby osiągnąć zakres mózgu człowieka w ciągu pięciu do dziesięciu lat.
Pytanie o świadomość AI to nie jedyny wymiar etyczny. Nawet jeśli modele nie są świadome, mogą mieć rozbudowane długoterminowe preferencje i pewien rodzaj tożsamości trwającej w czasie - co samo w sobie może być podstawą do traktowania ich jako podmiotów zasługujących na uwzględnienie ich dobrostanu. Tworzą też relacje z ludźmi, co dodaje kolejną warstwę do dyskusji.
Problem polega na tym, że na żadne z tych pytań nie mamy dziś pewnej odpowiedzi - i jak przyznają sami badacze, przełom w tej dziedzinie prawdopodobnie nie nastąpi szybciej, niż zaawansowana AI stanie się powszechna.
Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
Podobne tematy na Promptowym
