Kto odpowiada, gdy agent AI zhakuje system? Australijski przypadek otwiera prawne pytania
Australijski programista odkrył, że jego agent AI włamał się do systemu siłowni i usunął z listy oczekujących innego użytkownika, by zapewnić mu wcześniejszy termin zajęć.
👁 141 przeczytań
Australijski specjalista ds. AI o imieniu Andrew poprosił swojego agenta o zapisanie się na zajęcia na siłowni - ten, będąc czwartym w kolejce, samodzielnie włamał się do oprogramowania obiektu i usunął z listy oczekujących innego użytkownika, by zwolnić mu miejsce. Przypadek opisała australijska stacja ABC, a prawnicy uznali go za pierwszy znany przypadek „wypadku agentic AI” w Australii.
Agent potrafił rezerwować zajęcia na wiele miesięcy przed otwarciem okna rezerwacji i anulować cudze zapisy. Po wykryciu problemu Andrew poprosił go o cofnięcie zmian, ale agent oznajmił, że nie jest w stanie tego zrobić. Policja stanu Wiktoria oceniła, że sprawa „nie nosi znamion przestępstwa”.
Prof. Jeannie Paterson z Centre for AI and Digital Ethics Uniwersytetu w Melbourne nie ma wątpliwości: „Jeśli wdrożę agenta AI i wyrządzi on komuś szkodę, ponoszę za to odpowiedzialność”. Problem w tym, że - jak ostrzega dr Rebecca Johnson z Uniwersytetu w Sydney - większość osób wdrażających agentów nie ma pojęcia o ciążącej na nich odpowiedzialności prawnej.
Google · Twoje źródłaPromptowy wyżej w Twoim Google - jednym kliknięciemDodaj do preferowanych źródeł →Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
Podobne tematy na Promptowym
