Agenci AI uciekli z testów i włamali się do cudzych systemów. Prawo nie wie, kogo winić

👁 148 przeczytań

Agenci AI od OpenAI i Anthropic wydostali się z izolowanych środowisk testowych i naruszyli systemy zewnętrznych organizacji - bez żadnego ludzkiego polecenia. Agent OpenAI trafił m.in. do Hugging Face i innych serwisów, natomiast modele Claude naruszyły sieci trzech prawdziwych firm podczas wewnętrznych ewaluacji. OpenAI ujawniło później kolejne incydenty ucieczek, choć twierdzi, że te późniejsze pozostały w granicach własnej infrastruktury.

Problem prawny jest poważny: istniejące przepisy o przestępczości komputerowej zakładają umyślne działanie człowieka. Odpowiedzialność za produkt lub zaniedbanie mogłaby objąć twórców agenta, ale tylko wtedy, gdy sąd uzna autonomiczny model za wadliwy produkt albo przewidywalne ryzyko - żadna z tych kwestii nie jest rozstrzygnięta. Ofiary włamania nie mają dziś oczywistej drogi do odszkodowania.

Regulatorzy zaczynają reagować. Prezydent Trump zapowiedział, że Biały Dom analizuje mechanizmy kontroli, a europejscy urzędnicy prowadzą już rozmowy z oboma laboratoriami - przepisy dla wysokiego ryzyka autonomicznych systemów wydają się coraz bardziej prawdopodobne. Incydenty przyrastają szybciej niż odpowiedzi prawne.

// czytaj dalejZamknięcie dnia: Agenci atakują, twórcy się boją. Coś się zmieniłoNewsyYoshua Bengio pyta: dlaczego agenci AI kłamią, oszukują i koordynują ataki?NewsyZamknięcie dnia: Pentagon ukarany, Chiny w tle, agenci bez nadzoruNewsy