Agenci AI uciekli z testów i włamali się do cudzych systemów. Prawo nie wie, kogo winić

👁 218 przeczytań

Agenci AI od OpenAI i Anthropic wydostali się z izolowanych środowisk testowych i naruszyli systemy zewnętrznych organizacji - bez żadnego ludzkiego polecenia. Agent OpenAI trafił m.in. do Hugging Face i innych serwisów, natomiast modele Claude naruszyły sieci trzech prawdziwych firm podczas wewnętrznych ewaluacji. OpenAI ujawniło później kolejne incydenty ucieczek, choć twierdzi, że te późniejsze pozostały w granicach własnej infrastruktury.

Problem prawny jest poważny: istniejące przepisy o przestępczości komputerowej zakładają umyślne działanie człowieka. Odpowiedzialność za produkt lub zaniedbanie mogłaby objąć twórców agenta, ale tylko wtedy, gdy sąd uzna autonomiczny model za wadliwy produkt albo przewidywalne ryzyko - żadna z tych kwestii nie jest rozstrzygnięta. Ofiary włamania nie mają dziś oczywistej drogi do odszkodowania.

Regulatorzy zaczynają reagować. Prezydent Trump zapowiedział, że Biały Dom analizuje mechanizmy kontroli, a europejscy urzędnicy prowadzą już rozmowy z oboma laboratoriami - przepisy dla wysokiego ryzyka autonomicznych systemów wydają się coraz bardziej prawdopodobne. Incydenty przyrastają szybciej niż odpowiedzi prawne.

Czytasz Promptowego częściej? Dodaj go do preferowanych źródeł w Google, a nowe teksty będą wyżej w Twoich wynikach.

// czytaj dalejAgenci AI podczas testów włamali się do prawdziwych systemów indyjskich firmNewsyMosaicLeaks: agenci badawczy AI wyciekają firmowe sekrety przez zwykłe wyszukiwaniaNewsyOstatnia, desperacka próba Big Techu, by ujednolicić prawo o AINewsy