AI napisało 80% własnego kodu. Model, który strawi sam siebie, już tu jest

👁 165 przeczytań

Dwa słowa w niedawnym badaniu naukowców z Oxfordu i Cambridge zatrzymały świat na chwilę. Opisując, co dzieje się z modelami sztucznej inteligencji karmionymi danymi wygenerowanymi przez inne AI, użyli oni określenia „zapadnięcie modelu”. W końcowych stadiach tego procesu - jak napisali - systemy „zaczynają błędnie postrzegać rzeczywistość”. To nie halucynacja, gdzie model zmyśla pojedynczy fakt. To coś gorszego: AI tak głęboko zanurza się we własnych wytworach, że traci kontakt z oryginalną informacją i przestaje odróżniać prawdę od statystycznie prawdopodobnej fikcji. Tymczasem firma Anthropic, twórca chatbota Claude, właśnie ogłosiła, że jej systemy zbliżają się do progu rekurencyjnego samodoskonalenia - punktu, w którym AI projektuje i buduje swoje następczynie niemal bez udziału ludzi.

Kiedy AI zjada własny ogon

Mechanizm opisany przez badaczy jest zaskakująco prosty i nieubłagany. Wyobraźmy sobie pierwszy model wytrenowany na autentycznych, ludzkich danych - w tekście, obrazach, kodzie. Model drugi uczy się już częściowo na danych wygenerowanych przez model pierwszy. Trzeci - na danych od drugiego. Z każdą iteracją system traci najrzadsze, najbardziej nietypowe fragmenty oryginalnego zbioru - to, co naukowcy nazywają „ogonami rozkładu”. Pozostaje przeciętność i to, co spodziewane. A potem i to ulega degradacji.

W analizie na łamach Psychology Today John Nosta wskazuje na kluczową konsekwencję: „Ogonek rozkładu to nie tylko statystyczne ciekawostki. To miejsce, z którego wywodzą się nowe rozkłady. Newton był ogonkiem. Einstein był ogonkiem. Każdy znaczący przełom intelektualny zaczyna się jako wartość odstająca - coś tak odległego od średniej, że żaden proces optymalizacyjny prawdopodobnie by jej nie wygenerował”. Utrata tych krańców oznacza więc nie tylko zanik rzadkich informacji, ale zniszczenie samego mechanizmu tworzenia przyszłej wiedzy.

80 procent kodu pisze AI. Człowiek powoli znika z pętli

Ostrzeżenie Anthropica nie jest teoretyczne. W opublikowanym 4 czerwca 2026 roku wpisie na blogu firma ujawniła konkretne liczby. Claude pisze obecnie ponad 80 procent kodu scalanego z systemami Anthropica. Jeszcze przed premierą narzędzia Claude Code na początku 2025 roku wartość ta oscylowała w granicach niskich jednocyfrowych procentów. Inżynierowie firmy dostarczają dziś około ośmiu razy więcej kodu na kwartał niż kilka lat temu. Na każdym etapie budowania AI - przyznaje firma - rola człowieka maleje.

„Uważam, że dla świata byłoby dobrze mieć opcję spowolnienia lub tymczasowego wstrzymania rozwoju AI na granicy możliwości, aby struktury społeczne i badania nad zgodnością z wartościami mogły nadążyć za postępem technologii” - oświadczyło Anthropic w dokumencie „When AI Builds Itself”. Firma zaproponowała stworzenie globalnego mechanizmu koordynacji, który pozwoliłby zahamować wyścig. Jako luźny model wskazała porozumienia rozbrojeniowe dotyczące rakiet średniego zasięgu. Konkretów jednak zabrakło.

„Nie jesteśmy jeszcze na tym etapie, a rekurencyjne samodoskonalenie nie jest nieuniknione. Ale może nadejść szybciej, niż większość instytucji jest na to przygotowana” - napisało Anthropic.

Sceptycy mówią: to strategia, nie troska

Nie wszyscy przyjęli ostrzeżenie z równą powagą. Noah Giansiracusa, profesor matematyki na Bentley University i autor dwóch książek o algorytmach i społeczeństwie, w rozmowie z Scientific American nazwał apel mało wiarygodnym. „Nie sądzę, żeby to było szczere wezwanie do spowolnienia” - ocenił. „Czytałem wpisy na blogu [CEO Anthropica] Dario Amodeia. Myślę, że on chce pędzić pełną parą”. Giansiracusa uznał też samą pauzę za praktycznie niemożliwą: „Zero szans na spowolnienie. Nie mówię nawet o Chinach - Elon Musk nigdy by nie zwolnił”.

Wątpliwości podsycają okoliczności. Dwa miesiące wcześniej Anthropic zaprezentowało model Mythos, którego nie udostępniło publicznie - oficjalnie dlatego, że zbyt dobrze znajdował luki w oprogramowaniu. Apel o spowolnienie zbiegł się też z poufnym złożeniem wniosku o pierwszą ofertę publiczną oraz rundą finansowania wyceniającą firmę na blisko bilion dolarów. Dla sceptyków takie deklaracje brzmią jak strategia biznesowa - sposób na skierowanie uwagi regulatorów na granicę możliwości, podczas gdy samemu pędzi się w jej stronę.

Giansiracusa nie widzi jeszcze powodów do paniki. Dane, które przytacza Anthropic - więcej kodu pisanego przez AI - sugerują jego zdaniem, że technologia jest po prostu pomocna, a nie że stanowi „wielki skok”. Jednak niezależnie od motywacji firmy, ostrzeżenie o zapadaniu się modeli w pętlę własnych danych pozostaje faktem potwierdzonym empirycznie. Im więcej treści w sieci pochodzi od maszyn, tym szybciej zbliżamy się do świata, w którym AI konsumuje własne odbicie - a my razem z nią tracimy kontakt z tym, co autentyczne, rzadkie i nieprzewidywalne.

Ludzka myśl nie jest więc tylko kulturowym dodatkiem do rozwoju sztucznej inteligencji. Jest techniczną koniecznością - zasobem, bez którego systemy te nieuchronnie dryfują w stronę statystycznej przeciętności. Pytanie brzmi, czy zdążymy to zrozumieć, zanim najcenniejsze „ogonki” ludzkiej kreatywności znikną na zawsze.

// czytaj dalejBielik AI: polski model, który uruchomisz u siebie i użyjesz komercyjnie za darmoWarsztatModel AI, który „rozumiał” ludzkie myślenie? Nowe badania studzą entuzjazmNaukaGLiDE od Fastino: model decyzyjny, który myśli. Cena i wynik w AAArtykuły