OpenAI, Anthropic i Google DeepMind razem pracują nad bezpieczeństwem AI

👁 159 przeczytań

OpenAI od kilku tygodni prowadzi rozmowy z rywalami - Anthropic oraz Google DeepMind - w sprawie wspólnych działań na rzecz bezpieczeństwa sztucznej inteligencji. Informację podał Bloomberg News, powołując się na Chrisa Lehane’a, globalnego szefa ds. polityki OpenAI.

Lehane ujawnił szczegóły współpracy podczas briefingu w Waszyngtonie, gdzie przebywał na spotkaniach z przedstawicielami Kongresu. Jak powiedział:

„Lepiej próbować współpracować, by nadać priorytet bezpieczeństwu.”

Za atrybucją Bloomberga, Lehane zaznaczył przy tym, że trzy firmy nie potrzebują specjalnego zwolnienia antymonopolowego, by koordynować działania dotyczące kwestii bezpieczeństwa - co jest istotnym sygnałem prawnym, bo współpraca konkurentów w wielu innych obszarach mogłaby budzić zastrzeżenia regulatorów.

Czytasz Promptowego częściej? Dodaj go do preferowanych źródeł w Google, a nowe teksty będą wyżej w Twoich wynikach.

Kontekst: szefowie laboratoriów AI wzywają do pauzy

Ogłoszenie koordynacji między trzema największymi zachodnimi laboratoriami AI nie pojawia się w próżni. W weekend poprzedzający doniesienia Bloomberga szefowie czołowych amerykańskich laboratoriów AI publicznie apelowali o wstrzymanie rozwoju technologii ze względu na obawy dotyczące jej egzystencjalnych ryzyk. Ten wspólny krok był rzadkim przejawem jedności w branży, której uczestnicy na co dzień ostro rywalizują o talenty, kontrakty i dominację rynkową.

OpenAI stoi na czele tej branży jako twórca ChatGPT - jednego z najbardziej rozpoznawalnych produktów AI na świecie. Anthropic, założone przez byłych pracowników OpenAI, rozwija modele Claude i uchodzi za firmę szczególnie skoncentrowaną na bezpieczeństwie AI. Google DeepMind to z kolei połączone ramię badawcze Alphabet, które odpowiada za modele Gemini i od lat prowadzi pionierskie prace nad wyrównywaniem celów systemów AI z ludzkimi wartościami.

Fakt, że te trzy organizacje - będące jednocześnie głównymi konkurentami w wyścigu o przywództwo w dziedzinie AI - decydują się na otwartą koordynację w obszarze bezpieczeństwa, jest sygnałem, że obawy przed niekontrolowanym rozwojem technologii stają się zbyt poważne, by każda firma radziła sobie z nimi samodzielnie.

Lehane zakomunikował też, że OpenAI popierałoby każdą dwupartyjną ustawę w Kongresie, której celem byłoby łagodzenie katastrofalnych ryzyk związanych z AI. To ważna deklaracja w kontekście toczącej się w Waszyngtonie debaty o kształcie regulacji sektora. Do tej pory branża AI była mocno podzielona w kwestii legislacji - część firm aktywnie lobbowała przeciwko zbyt restrykcyjnym przepisom, inne wzywały do stworzenia twardych ram prawnych.

OpenAI, Alphabet i Anthropic nie odpowiedziały na prośby Reutersa o komentarz przed publikacją doniesień. Reuters zastrzegł, że nie był w stanie niezależnie zweryfikować treści raportu Bloomberga.

Jeśli deklaracje przekują się w konkretne mechanizmy współpracy, będzie to bezprecedensowy przypadek skoordynowanego działania bezpośrednich rywali w jednym z najbardziej strategicznych sektorów globalnej gospodarki.

// czytaj dalejGoogle DeepMind pokazuje SIMA 2 - agenta AI do gier 3D, który gra, rozumuje i uczy się razem z graczemNewsyPonad 1300 pracowników OpenAI, Anthropic i Google prosi Waszyngton o hamulecNewsyKolejni czołowi badacze AI odchodzą z Google do Anthropic i OpenAINewsy