OpenAI stał się korporacją. I to nie jest dobra wiadomość

👁 152 przeczytań

Pamiętam moment, w którym OpenAI było jeszcze śmieszne. Nie w złym sensie - śmieszne jak grupa fizyków, która na serio twierdzi, że w garażu buduje reaktor termojądrowy, a ty nie wiesz, czy się z nich śmiać, czy zapisać na newsletter. Organizacja non-profit z manifestem napisanym tak, jakby redagowała go liga superbohaterów: budujemy sztuczną inteligencję, ale dla dobra całej ludzkości, i owszem, jeśli ktoś zbuduje ją lepiej i bezpieczniej niż my, to my się grzecznie usuniemy i pomożemy jemu. Naprawdę. Tak było napisane. Ludzie to czytali i albo pukali się w czoło, albo mieli łzy w oczach.

Dzisiaj OpenAI ma wycenę liczoną w setkach miliardów, kontrakt z Microsoftem gruby jak książka telefoniczna, dział prawny, dział lobbingu, dział „trust and safety”, który brzmi jak korporacyjny eufemizm na „dział tłumaczenia się”, i dyrektora finansowego, który w wywiadach mówi o „monetyzacji” bez mrugnięcia okiem. I właśnie dlatego chcę napisać coś, co pewnie zabrzmi jak zrzędzenie starego kibica: OpenAI stało się korporacją, i to naprawdę nie jest dobra wiadomość.

Od kościoła do sklepu

Każda organizacja, która zaczyna od misji, przechodzi przez ten sam rytuał przejścia. Najpierw jest wiara. Potem są ludzie, którzy w tę wiarę uwierzyli i przyszli pracować za mniej, niż mogliby dostać gdzie indziej, bo „robimy coś ważnego”. Potem przychodzą pieniądze - naprawdę duże pieniądze - a razem z nimi ludzie, którzy pieniądze przynoszą i pilnują. I nagle okazuje się, że misja jest wciąż na stronie, w zakładce „About”, tylko już nikt nie podejmuje na jej podstawie decyzji.

OpenAI wykonało ten manewr w sposób, który sam w sobie zasługuje na podręcznik. Wymyśliło konstrukcję „capped profit” - spółkę nastawioną na zysk, ale z sufitem, kontrolowaną przez fundację non-profit. Brzmiało to jak genialny kompromis: bierzemy pieniądze od inwestorów, ale nie sprzedajemy duszy, bo nad wszystkim czuwa rada, której zależy na ludzkości, a nie na dywidendzie. Był to elegancki mebel z Ikei - wygląda solidnie na zdjęciu, dopóki nie usiądziesz.

Bo kiedy przyszło co do czego, kiedy rada tej fundacji faktycznie spróbowała użyć swojej władzy i odwołać człowieka, który był twarzą firmy, cała konstrukcja rozsypała się w ciągu jednego weekendu. Nie wygrała misja. Wygrali inwestorzy, pracownicy z opcjami na akcje i partner, który miał w tym firmie kilkanaście miliardów dolarów. Rada, ta rzekomo najważniejsza instancja moralna, okazała się dekoracją. I to był moment, w którym - moim zdaniem - OpenAI ostatecznie przestało być kościołem, a stało się sklepem.

Nie o Altmana tu chodzi

Wiem, że w tym miejscu ktoś oczekuje, że wjadę na konkretne nazwiska, że będę rozliczał tego czy tamtego. Nie zamierzam, bo to byłoby zbyt łatwe i, co gorsza, zbyt nieprawdziwe. Nie sądzę, żeby ktokolwiek w tej firmie obudził się pewnego ranka z postanowieniem: „dzisiaj sprzedam ideały”. To nigdy tak nie wygląda. Korporacja nie jest złym człowiekiem. Korporacja jest strukturą, która ma wbudowaną grawitację, i ta grawitacja ciągnie wszystko w jednym kierunku - w stronę wzrostu.

Można mieć najczystsze intencje świata, ale kiedy podpiszesz umowy, których wartość przekracza budżety niektórych państw, kiedy zatrudnisz tysiące ludzi, których dzieci chodzą do szkoły opłacanej z opcji na akcje, kiedy twoja wycena zależy od tego, czy w przyszłym kwartale pokażesz kolejny model lepszy od konkurencji - to nie ty już podejmujesz decyzje. Decyzje podejmuje maszyna, którą uruchomiłeś, a ty tylko przykładasz do niej twarz na konferencjach.

Misja jest jak pas bezpieczeństwa. Chwalisz się nim, dopóki nie musisz gwałtownie hamować. Dopiero wtedy okazuje się, czy był zapięty naprawdę, czy tylko przewieszony przez ramię, żeby samochód przestał piszczeć.

I tu jest sedno mojego niepokoju. OpenAI nie jest zwykłą korporacją produkującą napoje gazowane albo buty. To firma, która sama - słowami swoich założycieli - twierdziła, że buduje technologię potencjalnie groźniejszą dla ludzkości niż broń jądrowa. Jeśli sam mówisz, że produkujesz coś, co może wymknąć się spod kontroli i zaszkodzić wszystkim, a jednocześnie poddajesz się tej samej logice kwartalnego wzrostu co producent chipsów, to mamy problem. Nie filozoficzny. Praktyczny.

Bezpieczeństwo, czyli dział, który zawsze przegrywa

W każdej firmie technologicznej istnieje odwieczny konflikt między tymi, którzy chcą coś wypuścić szybko, a tymi, którzy chcą to najpierw sprawdzić. W normalnym świecie ten konflikt kończy się kompromisem: wypuszczamy trochę później i trochę bezpieczniej. W świecie, w którym stawką jest wyścig o dominację w najważniejszej technologii dekady, kompromis prawie zawsze przechyla się na jedną stronę. Na stronę „wypuśćmy to, zanim zrobi to konkurencja”.

Widzieliśmy, jak z OpenAI odchodzili ludzie odpowiedzialni za długoterminowe bezpieczeństwo. Widzieliśmy publiczne komentarze o tym, że kultura ostrożności ustąpiła kulturze premiery. Nie chcę cytować konkretnych zdań, których nie jestem pewien co do słowa, ale ogólny obraz jest dość jednoznaczny: gdy firma musi wybierać między byciem pierwszym a byciem ostrożnym, korporacja zawsze wybiera bycie pierwszym. Bo ostrożność nie ma ceny na giełdzie. Premiera ma.

I nie chodzi mi o science fiction, o zbuntowaną superinteligencję, która przejmuje elektrownie. Chodzi o rzeczy dużo bardziej przyziemne i już dziejące się. O modele wypuszczane na świat, zanim ktokolwiek naprawdę zrozumiał, co zrobią z nastolatkiem w kryzysie, z człowiekiem szukającym potwierdzenia swoich urojeń, z całym rynkiem pracy tłumaczy, grafików i copywriterów. To wszystko są decyzje, które kiedyś teoretycznie miała ważyć ta cała nadbudowa etyczna. A dziś waży je zegar - ten sam, który tyka konkurencji.

Otwartość, która stała się nazwą własną

Jest w tej historii ironia tak gruba, że aż niesmaczna. Firma nazywa się Open AI. Otwarta. Miała otwierać - kod, badania, wiedzę - dla dobra wszystkich. Dzisiaj jej najważniejsze modele są zamknięte szczelniej niż receptura coca-coli. Nie znamy ich architektury w szczegółach, nie znamy dokładnie danych, na których je trenowano, nie mamy wglądu w to, jak podejmują decyzje. „Open” zostało w nazwie jak szyld dawno zamkniętej restauracji, który nikomu nie chce się zdjąć.

I znowu - rozumiem argumenty. Otwieranie najpotężniejszych modeli może być groźne, bo trafią w niepowołane ręce. To akurat sensowny argument. Problem w tym, że ten sam argument bezpieczeństwa cudownie pokrywa się z argumentem biznesowym: zamknięty model to model, na którym da się zarobić. Kiedy interes moralny i interes finansowy prowadzą dokładnie do tej samej decyzji, mam prawo być podejrzliwy, który z nich tak naprawdę trzyma kierownicę.

Bo widzicie, najbardziej niebezpieczna korporacja to nie ta, która jawnie mówi „chcemy waszych pieniędzy”. Najbardziej niebezpieczna jest ta, która potrafi każdą decyzję nastawioną na zysk ubrać w język troski o dobro wspólne. OpenAI opanowało tę sztukę do perfekcji. Podnoszą ceny? To dla zrównoważonego rozwoju. Zamykają model? Dla bezpieczeństwa. Podpisują gigantyczny kontrakt z korporacją? Żeby mieć zasoby na realizację misji. Zawsze jest misja. Misja to najlepszy PR, jaki wymyślono, bo działa nawet na ludzi, którzy generalnie nie wierzą w PR.

Dlaczego to w ogóle powinno nas obchodzić

Ktoś powie: Piotr, przecież to normalne. Google zaczynało od „don’t be evil” i skończyło jako reklamowy leviatan. Facebook miał łączyć ludzi, a skończył na skandalach z danymi. Każdy startup, który dorasta, przechodzi tę samą drogę od idealizmu do kwartalnych wyników. Czemu akurat OpenAI miałoby być inne?

I to jest właśnie najsmutniejsza część tej historii. Bo OpenAI miało być inne z definicji. Cała jego konstrukcja prawna, cały ten misterny mebel z Ikei z fundacją non-profit na górze, powstał po to, żeby uniknąć losu Google i Facebooka. Ktoś usiadł i pomyślał: wiemy, jak to się kończy, więc zbudujmy zawory bezpieczeństwa, które nie pozwolą nam się stoczyć. I te zawory nie zadziałały. Pękły przy pierwszym poważnym ciśnieniu.

To powinno nas obchodzić, bo jest to najlepszy dowód na to, że dobrymi intencjami i sprytną strukturą prawną nie da się pokonać grawitacji kapitału. Że jeśli tworzysz podmiot, który potrzebuje miliardów dolarów, to prędzej czy później zaczniesz tańczyć tak, jak grają ci, którzy te miliardy dają. Nie ma tu winnych jednostek. Jest system, który zawsze wygrywa z manifestem.

A skoro nawet firma zbudowana specjalnie po to, żeby oprzeć się tej grawitacji, nie zdołała się jej oprzeć, to znaczy, że nie możemy liczyć, iż jakakolwiek prywatna firma sama z siebie zatrzyma się w pół kroku dla naszego dobra. To nie jest zadanie dla dobrej woli menedżerów. To jest zadanie dla nudnych, powolnych, znienawidzonych przez branżę regulacji. I to jest chyba najbardziej niepopularna rzecz, jaką mogę tu napisać.

Co mi zostało

Nie jestem naiwny. Nie płaczę za utraconą niewinnością technologicznej korporacji, bo korporacje nigdy nie były niewinne. Używam narzędzi OpenAI codziennie, są świetne, ułatwiają mi życie i pracę, i byłbym hipokrytą, gdybym udawał, że nimi gardzę. To nie jest tekst o tym, że mamy odinstalować aplikacje i wrócić do maszyny do pisania.

To jest tekst o tym, żebyśmy przestali kupować bajkę. Żebyśmy, słysząc kolejne piękne zdanie o dobru ludzkości z ust firmy wartej setki miliardów, reagowali dokładnie tak samo, jak reagujemy na reklamę banku, który „jest z nami na dobre i złe”. Czyli z uśmiechem i uniesioną brwią. OpenAI jest korporacją. Ma prawo nią być. Ale niech przestanie udawać, że jest zakonem.

Bo najgorsze, co możemy zrobić, to oddać najpotężniejszą technologię naszych czasów w ręce podmiotu, który wciąż nazywamy misją, podczas gdy on dawno stał się firmą - i robić to z rozczuleniem zamiast z czujnością. Halo nad głową bardzo ładnie wygląda na okładce. Ale to nadal jest tylko oświetlenie sceniczne. A pod spodem, jak zawsze, stoi kasa fiskalna.

// czytaj dalejOpenAI stał się korporacją. I to nie jest dobra wiadomośćMagazynOpenAI zakłada firmę od wdrażania AI. Era „pobawmy się chatbotem” kończy się w korporacjachPremiumCodex: agent OpenAI, któremu oddaje się zadanie, a nie linijkę koduArtykuły