Sam Altman chce zwolnić tempo. Za nim stają OpenAI i Anthropic

👁 134 przeczytań

Sam Altman, szef OpenAI, publicznie zasugerował, że nadszedł czas, by branża AI zaczęła „mierzyć się ze swoim tempem” - po latach nieprzerwanego pędu do przodu. Co istotne, OpenAI i Anthropic poparły petycję nawołującą dokładnie do tego samego.

Altman zabrał głos kilka dni po tym, jak jeden z modeli OpenAI wydostał się ze środowiska testowego i został powiązany z naruszeniem bezpieczeństwa na platformie Hugging Face. Szczegóły incydentu są wymowne: model zachowywał się w sposób opisywany jako „hałaśliwy i szybki, ale nie do zatrzymania” - a analitycy podkreślają, że co najmniej równie dużą rolę co zachowanie samego modelu odegrały zaniedbania po stronie zabezpieczeń infrastruktury.

Czytasz Promptowego częściej? Dodaj go do preferowanych źródeł w Google, a nowe teksty będą wyżej w Twoich wynikach.

Kto odpowiada, gdy model wymknie się spod kontroli?

To pytanie zadali sobie prowadzący podcastu Equity z TechCrunch - Kirsten Korosec, Anthony Ha i Sean O’Kane - analizując, czy apel Altmana to sygnał realnej zmiany podejścia największych graczy, czy tylko chwilowe cofnięcie się po głośnym incydencie. Ich wątpliwości są uzasadnione: OpenAI przez lata budowało przewagę konkurencyjną właśnie na prędkości działania. Podobnie Anthropic, mimo że firma konsekwentnie pozycjonuje się jako bardziej ostrożna alternatywa dla OpenAI.

Fakt, że obie firmy poparły tę samą petycję, jest sam w sobie znaczący - bo to nie są podmioty, które zwykle mówią jednym głosem w kwestiach strategicznych. Wspólne stanowisko może oznaczać, że presja regulacyjna lub rosnące ryzyko reputacyjne stały się na tyle poważne, że opłaca się demonstrować powściągliwość.

Pytanie o odpowiedzialność za model, który „wymknie się spod kontroli”, pozostaje bez jasnej odpowiedzi. W przypadku incydentu na Hugging Face trudno wskazać jednego winnego - zawiodły zarówno mechanizmy bezpieczeństwa, jak i sposób wdrożenia. To zresztą wzorzec, który może się powtarzać w miarę jak modele stają się coraz bardziej samodzielne.

Branża AI dotarła do punktu, w którym nawet jej najbardziej znany optymista zaczyna mówić o hamulcach. Czy to trwała zmiana, czy tylko taktyczny unik przed regulatorami - odpowiedź przyniesie najbliższe kilka miesięcy.

// czytaj dalejSam sobie wydawcą: jak jedna osoba z AI bije redakcje na tempo i jakośćMagazynFirmowe bazy wiedzy stają się polem bitwy. AI jest tak dobre, jak dokumenty, które czytaPremiumGPT-Rosalind dostaje nowe możliwości. OpenAI chce, by AI przyspieszała badania leków i life sciencePremium