Główny naukowiec OpenAI: żadne laboratorium nie powinno dalej skalować z maksymalną prędkością

👁 163 przeczytań

Jakub Pachocki, główny naukowiec OpenAI, opublikował 6 września esej zatytułowany An Alien Mind, w którym stwierdza wprost, że branża AI powinna dobrowolnie zwolnić tempo. Tekst ukazał się trzy dni po premierze GPT-6 Astra.

„Uważam, że żadne laboratorium nie rozwiązało kwestii alignment i monitorowania w stopniu wystarczającym, by odpowiedzialnie kontynuować skalowanie z maksymalną prędkością przez dłuższy czas” - napisał Pachocki. Dodał: „Martwię się, że nikt nie jest przygotowany na konsekwencje dalszego gwałtownego wzrostu inteligencji maszynowej.” Sam Altman udostępnił esej na platformie X, określając go jako ważny tekst.

Tego samego dnia OpenAI opublikowała drugi post z wewnętrznymi danymi. Wynika z nich, że w połowie sierpnia mediana badacza wydawała ponad 600 dolarów dziennie na inference po cenach API, a 90. percentyl - ponad 7000 dolarów. Stosunek pracy agentów do pracy ludzi osiągnął 3,1 dnia maszynowego na każdy dzień człowieka. Gdy w lipcu firma zablokowała część infrastruktury po incydencie bezpieczeństwa, alokacja GPU dla Astry spadła o 59,2% - ale moc obliczeniowa szybko trafiła gdzie indziej, niwelując 85% tego spadku.

Pytania czytelników

kim jest jakub pachocki?

Jakub Pachocki to główny naukowiec (Chief Scientist) OpenAI. Zasłynął esejem zatytułowanym „An Alien Mind”, w którym stwierdził wprost, że branża AI powinna dobrowolnie zwolnić tempo rozwoju. Napisał w nim, że żadne laboratorium nie rozwiązało dotąd kwestii alignment i monitorowania w stopniu wystarczającym, by odpowiedzialnie kontynuować skalowanie z maksymalną prędkością. Esej udostępnił na platformie X sam promptowy.com/altman-do-stazystow-cztery-lata-studiow-to-za-duzo/">Sam Altman, określając go jako ważny tekst.

co to jest alignment ai?

Alignment AI to dziedzina badań nad tym, jak sprawić, by systemy sztucznej inteligencji działały zgodnie z ludzkimi wartościami i intencjami. W praktyce chodzi o to, by model robił to, czego naprawdę chcemy, nie tylko to, co dosłownie mu powiedziano - i by nie działał wbrew naszym interesom przy rosnącej autonomii. Jak wskazał Pachocki z OpenAI, żadne laboratorium nie rozwiązało tej kwestii w stopniu wystarczającym do odpowiedzialnego dalszego skalowania modeli.

czy openai spowalnia rozwój ai?

Jakub Pachocki, główny naukowiec OpenAI, publicznie wezwał branżę do dobrowolnego zwolnienia tempa skalowania modeli. Firma jednocześnie publikuje dane o intensywnym wykorzystaniu swoich systemów - mediana badacza wydaje ponad 600 dolarów dziennie na inference, a stosunek pracy agentów do ludzkiej wynosi ponad 3 do 1. Czy OpenAI faktycznie zwolni, zależy od dalszych decyzji strategicznych firmy, które na ten moment nie są przesądzone.

// czytaj dalejOpenAI rozwiązało 10 długoletnich problemów matematycznych. Środowisko naukowców jest podekscytowane i przestraszone zarazemNewsySkazany były naukowiec Harvardu odbudował laboratorium w Chinach. Elektronika w mózgu wraca do gryPremiumJak zbudować prawa skalowania 10-100x taniej? Nowe podejście z arXivNewsy