Sam zbudowałem model AI, który się sam ulepsza - i ty też możesz

👁 142 przeczytań

Dziennikarz magazynu Wired przez niecały tydzień eksperymentów zbudował własny, samodoskonalący się model AI - korzystając wyłącznie z ogólnodostępnych narzędzi i bez zaplecza dużego laboratorium badawczego.

Punkt wyjścia był prozaiczny: autor chciał zautomatyzować część pracy przy prowadzeniu newslettera o AI. Sięgnął po AutoResearch - narzędzie stworzone przez Andreja Karpathy’ego, współzałożyciela OpenAI i byłego szefa działu AI w Tesli, który niedawno dołączył do Anthropic. AutoResearch pozwala modelowi językowemu (w tym przypadku Claude) samodzielnie budować i ulepszać mniejszy model - dostosowując parametry, sprawdzając efekty i kolejno je poprawiając.

Pierwsze efekty były, delikatnie mówiąc, skromne. Wczesna wersja małego modelu, zapytana o dokończenie frazy „Na początku…”, produkowała: „In the beginning of the beginning of the end of the end of the end end of end end end end end end end end beginning end end end end…”. Jednak kolejne iteracje, poprawiane autonomicznie przez Claude’a, stawały się coraz bardziej spójne.

Model do kurowania badań naukowych

Drugi, bardziej praktyczny etap eksperymentu polegał na zbudowaniu modelu nazwanego Frontier_Paper_Curator. Autor zebrał ok. 100 wcześniejszych wpisów ze swojego newslettera, a następnie skorzystał z platformy Prime Intellect - startupu, który umożliwia trenowanie własnych modeli pod konkretne zadania. Claude wygenerował dodatkowe dane syntetyczne do treningu, a inny model oceniał jakość wyników. Równolegle środowisko treningowe Prime Intellect ulepszało model metodą uczenia przez wzmacnianie.

Vincent Weisser, CEO Prime Intellect, który niedawno pozyskał 15 milionów dolarów finansowania, mówi wprost: jego firma chce uczynić rekurencyjne samodoskonalenie AI dostępnym dla każdego - nie tylko dla garstki największych laboratoriów.

To ważny kontekst. Dziś OpenAI, Google i Anthropic ścigają się w budowie modeli zdolnych do samodzielnego ulepszania się, traktując to jako prawdopodobną ścieżkę do superinteligencji. Tymczasem okazuje się, że podobną pętlę - na mniejszą skalę i w konkretnym, użytecznym celu - można uruchomić przy biurku, dysponując kartą graficzną i odrobiną cierpliwości.

Różnica między ambicjami wielkich laboratoriów a tym eksperymentem jest oczywiście gigantyczna. Ale sam fakt, że dziennikarz bez tytułu z informatyki może w tydzień postawić działający, samodoskonalący się model, mówi sporo o tym, dokąd zmierza dostępność tych technologii.

// czytaj dalejiLLaDA od ByteDance: dyfuzyjny model językowy 8B, który dorównuje Qwen2.5NewsyNotion AI: model, który zna Wasze dokumenty, a nie tylko internetArtykułyClaude Opus 4.7 - model, który sam sobie sprawdza zadanie domoweClaude