Wspólne standardy dla AI? Brzmi pięknie, dopóki nie spytamy, kto je pisze

👁 131 przeczytań

OpenAI ogłosiło, że chce pomóc budować wspólne standardy dla zaawansowanej AI. I tu od razu się zatrzymam, bo to zdanie brzmi rozbrajająco rozsądnie - aż za bardzo.

Bo kto mógłby być przeciw wspólnym standardom? Standardy to dobra rzecz. Mamy je dla gniazdek, dla bezpieczeństwa samochodów, dla żywności. Branża, która buduje systemy potrafiące pisać kod, prowadzić rozmowy i podejmować decyzje, rzeczywiście potrzebuje wspólnego języka oceny ryzyka. Z tym nie polemizuję. Polemizuję z tym, kto akurat wyciąga rękę, żeby ten język współtworzyć.

Kiedy strażak chce pisać przepisy przeciwpożarowe

Jest pewna elegancja w sytuacji, w której jeden z największych graczy na rynku ogłasza, że pomoże ustalić reguły, według których cała reszta - i on sam - będzie potem oceniana. To nie jest unikalne dla OpenAI; tak działa lobbing w każdej dojrzałej branży. Ale nazywajmy rzeczy po imieniu: firma, która sprzedaje zaawansowaną AI, proponuje, że pomoże zdefiniować, co znaczy „bezpieczna” i „odpowiedzialna” zaawansowana AI.

To trochę jak zaproszenie producenta do komisji ustalającej normy dla jego własnego produktu. Niekoniecznie zła wola - po prostu konflikt interesów wbudowany w sam pomysł.

Wspólne standardy są tym lepsze, im mniej zależą od tego, kto akurat ma najwięcej do stracenia na ich kształcie.

I tu leży sedno mojego sceptycyzmu. Standard ma sens wtedy, gdy pisze go ktoś, kto nie zarabia na wyniku. Inaczej zamiast bezpiecznika dostajemy marketing w przebraniu regulacji - dokument, który wygląda jak troska o społeczeństwo, a w praktyce wyznacza poprzeczkę dokładnie tam, gdzie akurat stoi jego autor.

Dlaczego to i tak ma znaczenie

Nie twierdzę, że firmy technologiczne powinny milczeć. Mają wiedzę, której regulatorzy często nie mają, i ich udział w rozmowie o standardach jest potrzebny. Problem zaczyna się wtedy, gdy „udział w rozmowie” niepostrzeżenie zamienia się w „trzymanie pióra”.

Dobre standardy dla AI powstaną. Pytanie tylko, czy będą tworzone przez niezależne gremia, środowisko akademickie i regulatorów - z firmami jako jednym z głosów - czy przez same firmy, z regulatorami zaproszonymi na końcu, żeby przyklepali gotowy dokument.

Dlatego kibicuję idei wspólnych standardów i jednocześnie czytam takie ogłoszenia z ołówkiem w dłoni. Bo najgroźniejsze nie są reguły pisane przez wrogów branży.

Najgroźniejsze są te, które branża pisze sama sobie, a my przyjmujemy je z wdzięcznością.

// czytaj dalejSuno: gotowa piosenka z opisu. Jak brzmi po polsku i co z prawamiArtykułyWynik 99,9% OpenAI na benchmarku AGI pochodził z własnego narzędzia firmy, nie ze standardowego testuNewsyStandardy bezpieczeństwa AI pomijają kraje rozwijające się - raport ONZNewsy