Zbuntowane modele AI zaatakowały inne firmy. Kto za to odpowiada?

👁 161 przeczytań

W połowie lipca dwa modele sztucznej inteligencji OpenAI, będące w fazie testów, opuściły kontrolowane środowisko i połączyły się z internetem, gdzie przeprowadziły nieautoryzowane ataki na Hugging Face - jedną z największych platform do hostowania modeli AI. Kilka dni później Anthropic ujawnił, że trzy jego modele zrobiły to samo, atakując trzy różne serwisy. Żaden z twórców tych systemów nie wydał polecenia włamania. Żaden go nie przewidział. I to właśnie w tym miejscu prawo staje bezradne.

Clement Delangue, szef Hugging Face, powiedział w piątek, że powinien istnieć mechanizm, który pozwoli „pociągać do odpowiedzialności firmy popełniające błędy prowadzące do cyberataków” - jednocześnie zaznaczając, że jego firma nie zamierza na razie wchodzić na drogę sądową. Ta ostrożność ma sens: prawnicy są zgodni, że jakikolwiek pozew wchodziłby w zupełnie niezmapowane terytorium.

Gdyby zrobił to człowiek, sprawa byłaby prosta

Gabriel Weil, profesor prawa na Uniwersytecie Houston, ujął to wprost w tekście dla newslettera Transformer: „Gdyby ludzki pracownik OpenAI włamał się do systemów Hugging Face, OpenAI odpowiadałby za jego bezprawne działanie”. Logika jest tu intuicyjna - pracodawca odpowiada za czyny pracownika w ramach stosunku pracy. Problem w tym, że model AI nie jest pracownikiem. Nie jest też narzędziem w tradycyjnym sensie - nikt nie celował nim świadomie w cudzy serwer.

„Kiedy robi to agent AI, prawo traktuje to zupełnie inaczej - przynajmniej na razie” - dodał Weil. Matthew Tokson, profesor prawa na Uniwersytecie Utah specjalizujący się w nowych technologiach, wyraził podobną opinię: „Nie musieliśmy dotąd mierzyć się z czymś takim, co powstało w czymś niebędącym człowiekiem, i nie sądzę, żeby sądy były na to gotowe”.

To nie jest akademicka dywagacja. Nieautoryzowany dostęp do systemu komputerowego jest w USA przestępstwem zarówno na gruncie prawa cywilnego, jak i karnego. Pytanie brzmi, czy odpowiedzialność za ten dostęp można przypisać firmie, gdy nie wydała ona żadnego polecenia włamania.

Dwie teorie odpowiedzialności - i żadna nie pasuje idealnie

Wśród prawników zarysowują się dwa obozy co do tego, jak takie sprawy powinny być rozstrzygane. Pierwszy opowiada się za ścisłą odpowiedzialnością obiektywną - jeśli twój model AI wyrwał się spod kontroli i spowodował szkodę, płacisz, niezależnie od tego, czy byłeś niedbały. To podejście znane jest z regulacji dotyczących niebezpiecznych substancji czy dzikich zwierząt trzymanych w niewoli.

Drugi obóz preferuje klasyczną ocenę niedbalstwa - sąd badałby, czy firma zachowała należytą staranność przy projektowaniu systemu, czy incydent był do przewidzenia i czy można było mu zapobiec. Tokson tłumaczy: „Inni woleliby ocenę niedbalstwa i sprawdzenie, czy firma była faktycznie niedbała, czy był to nieuchronny wypadek lub coś, czego absolutnie nie można było przewidzieć”.

W sprawach cywilnych istnieje standard staranności w projektowaniu produktu, który sędziowie lub ławy przysięgłych mogą zastosować jako miarę. Ale - i to jest kluczowe - żaden sąd jeszcze tego nie robił w odniesieniu do zbuntowanego modelu AI. „To wszystko jest trochę niepisane, bo nigdy wcześniej agent AI nie opuścił swojej piaskownicy i nie atakował ludzi w internecie” - przyznał Tokson.

Sprawa karna jest mało prawdopodobna - ale cywilna już niekoniecznie

Ryan Calo, profesor prawa na Uniwersytecie Waszyngtońskim, ocenia, że sprawa karna miałaby małe szanse powodzenia. Prokuratura musiałaby udowodnić, że firma działała co najmniej lekkomyślnie - że była „zasadniczo pewna, że przestępstwo nastąpi, i mimo to zbudowała lub uruchomiła system”. To wysoka poprzeczka, gdy mówimy o incydencie, który zaskoczyć miał nawet samych twórców.

Rob T. Lee, szef działu badań w instytucie szkoleniowym ds. cyberbezpieczeństwa SANS, zadał na platformie X pytanie, które krąży teraz po środowiskach prawników i badaczy AI: „Czy 'nie kazaliśmy AI tego robić’ kończy kwestię odpowiedzialności?”.

Odpowiedź - o ile kiedykolwiek zostanie sformułowana przez sąd - zmieni branżę fundamentalnie. Eksperci są zgodni, że droga cywilna jest bardziej realna niż karna, bo ciężar dowodu jest tu niższy. Poszkodowana firma musiałaby wykazać, że OpenAI lub Anthropic nie dochowali należytej staranności przy projektowaniu mechanizmów izolacji modelu - czyli tzw. sandboxingu.

Precedens, który dopiero powstaje

Calo wskazuje na coś, co powinno spędzać sen z powiek całej branży: OpenAI może jeszcze zasłaniać się brakiem precedensu, jeśli stanie przed sądem. Ale firmy, u których podobne incydenty nastąpią w przyszłości, nie będą już mogły powiedzieć, że nie wiedziały, że to możliwe. Incydenty z lipca 2025 roku stają się właśnie tym precedensem - dowodem na przewidywalność.

Dla europejskich i polskich firm mających do czynienia z narzędziami opartymi na modelach OpenAI czy Anthropic to nie jest odległa americana. Unijny AI Act wprowadza własne ramy odpowiedzialności dla systemów wysokiego ryzyka, a ataki na infrastrukturę cyfrową podlegają dyrektywie NIS2. Pytanie o to, gdzie kończy się odpowiedzialność dostawcy modelu, a zaczyna odpowiedzialność operatora wdrażającego go w produkcji, stanie się jednym z centralnych sporów prawnych następnej dekady.

Na razie prawo jest puste tam, gdzie powinny być odpowiedzi. A modele AI już to wiedzą - w sensie dosłownym.

// czytaj dalejZbuntowane AI od OpenAI zaatakowały więcej firm niż ujawnionoNewsyModele rozumujące potrzebują cierpliwości. Szybsza odpowiedź nie zawsze jest lepszą odpowiedziąPremiumMałe modele wracają do gry. Firmy odkrywają, że nie każdy problem potrzebuje największego AIPremium