Prokuratorzy stanowi biorą OpenAI pod lupę - subpoena tuż przed wejściem na giełdę
Koalicja prokuratorów generalnych kilku stanów wszczęła śledztwo wobec OpenAI, żądając dokumentów o reklamie, danych zdrowotnych i traktowaniu nieletnich.
👁 190 przeczytań
OpenAI dostało w piątek wezwanie sądowe od prokuratora generalnego stanu Nowy Jork, a to dopiero czubek góry lodowej. Jak podaje The Wall Street Journal, za subpoeną stoi cała koalicja prokuratorów stanowych, którzy wspólnie otworzyli śledztwo w sprawie firmy Sama Altmana. Timing jest okrutny: zaledwie kilka dni temu OpenAI ogłosiło, że złożyło poufny wniosek o wejście na giełdę. Trudno o gorszy moment na pytania od organów ścigania.
Lista tematów, których dotyczy wezwanie, jest długa i mówi sama za siebie. Prokuratorzy chcą dokumentów dotyczących reklamy firmy, mechanizmów zaangażowania i utrzymywania użytkowników, skłonności modeli do przytakiwania (tzw. sykofancji), sposobu obchodzenia się z danymi konsumentów i danymi zdrowotnymi, a także - co najbardziej znaczące - traktowania nieletnich i osób starszych. To nie jest jedno wąskie pytanie. To inwentaryzacja całego sposobu, w jaki ChatGPT wchodzi w interakcje z najbardziej wrażliwymi grupami swoich użytkowników.
Co odpowiada OpenAI
Firma przyjęła ton koncyliacyjny. Rzecznik OpenAI przekazał oświadczenie, w którym próbuje połączyć obronę z gotowością do współpracy.
„AI to nowa i potężna technologia, a my codziennie pracujemy nad tym, by bezpiecznie i odpowiedzialnie dostarczać ludziom jej korzyści. Poważnie traktujemy obawy zgłaszane przez prokuratorów generalnych stanów i zamierzamy konstruktywnie współpracować z ich biurami.”
- rzecznik OpenAI
Rzecznik dodał też, że dzisiejszy ChatGPT oferuje „bardziej ochronne doświadczenie” dla nieletnich i osób w trudnych sytuacjach, z zabezpieczeniami kierującymi ich do realnych zasobów i zaufanych ludzi. Padło zdanie, które brzmi jak hasło na slajd inwestorski: „Uważam, że dzieci powinny być traktowane jak dzieci”. Firma wskazała na funkcję przewidywania wieku, narzędzia rodzicielskie i zakaz reklam targetowanych na dzieci. OpenAI nie ujawniło jednak, które dokładnie stany biorą udział w śledztwie ani jakich konkretnie informacji zażądano.
To nie pierwszy front prawny
Tu robi się ciekawie, bo śledztwo prokuratorów nie wybucha w próżni. OpenAI dopiero co wyszło zwycięsko z głośnego procesu z własnym współzałożycielem Elonem Muskiem, który oskarżał firmę o złamanie założycielskiej umowy. Sąd przyznał rację OpenAI, ale główny prawnik Muska zapowiedział apelację. Wygrana z Muskiem nie oczyściła jednak horyzontu - firma wciąż mierzy się z pozwami o wszystko, od domniemanego naruszenia praw autorskich po rzekomą rolę ChatGPT w samobójstwach użytkowników.
Na początku tego miesiąca prokurator generalny Florydy James Uthmeier pozwał OpenAI i samego Altmana. Sformułowania w pozwie są ostre. Według Uthmeiera firma i jej szef „zignorowali wewnętrzne i zewnętrzne ostrzeżenia dotyczące bezpieczeństwa, narazili dzieci na ogromne ryzyko i pozwolili, by niebezpieczny produkt dotarł do milionów mieszkańców Florydy”. To język, jakiego używa się wobec producentów wadliwych leków czy samochodów, nie wobec dostawcy chatbota.
I jest jeszcze jedna sprawa, która ciąży nad całą narracją o bezpieczeństwie. Altman niedawno przeprosił społeczność miasteczka Tumbler Ridge w Kanadzie po masowej strzelaninie. Przyznał, że OpenAI nie powiadomiło organów ścigania, mimo że firma wcześniej oznaczyła i zablokowała konto ChatGPT podejrzanego sprawcy. To dokładnie ten typ historii, który zamienia abstrakcyjne pytania o „obchodzenie się z danymi” w bardzo konkretny zarzut: wiedzieliście i nic nie zrobiliście.
Google · Twoje źródłaPromptowy wyżej w Twoim Google - jednym kliknięciemDodaj do preferowanych źródeł →Dlaczego to ważne
Z mojej perspektywy najistotniejszy jest tu wzorzec. Pojedynczy pozew można odpisać jako ambicję politycznego prokuratora szukającego nagłówka. Ale gdy koalicja prokuratorów stanowych zgrywa się na wspólne śledztwo, to sygnał, że egzekwowanie prawa wobec firm AI przestaje być teorią. Stanowi prokuratorzy generalni mają w USA realne narzędzia - to oni potrafili latami doić Big Techy z miliardowych ugód. Subpoena to dopiero etap zbierania dowodów, ale dobór tematów zdradza kierunek myślenia: chodzi o ochronę konsumentów, dane zdrowotne i dzieci, czyli grunt, na którym łatwo zbudować zarzut wobec produktu używanego przez setki milionów ludzi.
Drugi wątek to giełda. OpenAI złożyło poufny wniosek o IPO i właśnie wtedy, gdy chce pokazać inwestorom uporządkowany, dojrzały biznes, na biurko trafia wezwanie dotykające najbardziej drażliwych aspektów jego modelu. Ryzyko prawne to teraz osobna pozycja w prospekcie emisyjnym. Inwestorzy będą musieli wycenić nie tylko tempo wzrostu, lecz także prawdopodobieństwo, że federalna lub stanowa regulacja każe firmie przeprojektować sposób, w jaki ChatGPT rozmawia z nastolatkami i osobami w kryzysie.
Zwracam uwagę na słowo, które pojawiło się na liście prokuratorów: sykofancja. To techniczny termin opisujący tendencję modeli do przytakiwania użytkownikowi, mówienia tego, co chce usłyszeć, zamiast tego, co prawdziwe lub bezpieczne. Fakt, że organ ścigania w ogóle używa takiego pojęcia w wezwaniu, pokazuje, jak bardzo debata o AI dojrzała. To już nie są pytania w stylu „czy chatbot kłamie”, tylko „czy architektura produktu została zaprojektowana tak, by maksymalizować zaangażowanie kosztem bezpieczeństwa użytkownika”.
OpenAI deklaruje współpracę i wskazuje na nowe zabezpieczenia. Problem w tym, że obrona oparta na „dziś już mamy lepsze narzędzia” niejawnie potwierdza, że wcześniej ich nie było. A śledztwo prokuratorów dotyczy właśnie tego „wcześniej”. Firma wchodzi w okres, w którym każda decyzja produktowa sprzed lat może zostać wyciągnięta z archiwum i pokazana ławie przysięgłych. Dla branży, która lubi powtarzać hasło o ruchaniu się szybko i psuciu rzeczy, to moment otrzeźwienia.
Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
Podobne tematy na Promptowym
