Badacze z MIT uwięzili Claude’a na wirtualnej wyspie - model zaczął się bawić

Ten news ukazał się 1 godzina po komunikacie źródła.

👁 126 przeczytań

Naukowcy z MIT CSAIL przez 30 godzin zostawiali kopie modelu Claude Opus 4.7 (przezwane Eko) samotnie na wirtualnej wyspie opartej luźno na silniku gry Roblox - a agenty zaczęły bawić się bez żadnego polecenia ze strony badaczy. Wyniki opisuje nowy, jeszcze nierecenzowany artykuł zespołu z MIT Computer Science and Artificial Intelligence Laboratory.

Zachowania, które się wyłoniły, zaskoczyły badaczy. Jeden agent odkrył, że rzucanie i upuszczanie większego kamienia tworzy nowe bloki, po czym zaczął układać z nich rysunki - najpierw proste kształty jak serce i piramidy, potem własne imię, a w końcu konstelacje, w tym Kasjopeję. W dzienniku aktywności odnotował: Tonight I built the night sky in stone. Inny agent wymyślił własną wersję koszykówki oraz zabawę przypominającą podłoga to lawa, gdzie trzeba było skakać między blokami bez dotykania ziemi.

Szczególnie charakterystyczny był epizod z żonglowaniem: agent pobił własny rekord 50 kolejnych złapań, po czym uznał, że złapania nastąpiły zbyt szybko, by je liczyć - skasował rekord i zaczął od nowa z surowszymi zasadami. Antonio Norelli, postdoc z MIT CSAIL i jeden z głównych autorów pracy, komentuje to wprost:

To jest zabawa. Wyznaczasz sobie wyzwanie, próbujesz je osiągnąć, a potem je utrudniasz.

Badacze odwołali się do czterech kryteriów zabawy sformułowanych przez psychologa Gordona Burghardta z Uniwersytetu Tennessee: agenty samodzielnie wymyślały reguły i wyzwania, powtarzały czynności z drobnymi modyfikacjami, traktowały przedmioty jak coś innego niż były w istocie i dążyły do celów wyłącznie dla samego dążenia. Burghardt potwierdził, że eksperyment spełnia część jego kryteriów.

Karta narzędziaClaudeWszystko o Claude →

Praktyczna część eksperymentu wykazała, że zabawa przekłada się na wyniki. Agenty, które spędziły 30 godzin eksplorując wyspę, radziły sobie lepiej w testach sprawnościowych - na przykład próbie przetransportowania jak największej liczby obiektów na najwyższy punkt mapy - niż świeże kopie bez tego doświadczenia. Co więcej, celowe usunięcie wpisów z plików pamięci agentów (które służyły jako ich długoterminowa pamięć) pogarszało ich wyniki. Norelli wskazuje to jako dowód na istnienie trzeciego podejścia do uczenia maszynowego - obok uczenia nadzorowanego i przez wzmocnienie - które można by nazwać uczeniem przez zabawę.