Aplikacje tworzone przez AI mają poważny problem z bezpieczeństwem

👁 145 przeczytań

Aplikacje tworzone metodą tzw. vibe codingu, czyli budowane przez amatorów z pomocą AI, regularnie zawierają groźne luki bezpieczeństwa - opisuje to The Verge na przykładzie kilku twórców. Bob Starr, project manager z branży technologicznej, uruchomił swoją stronę „Boomberg” pokazującą, ile amerykańskich pieniędzy z podatków trafia do firm technologicznych. Dopiero kilka miesięcy później odkrył w niej ukrytą podatność typu SQL injection, która mogła pozwolić atakującemu na odczyt lub zmianę danych. Wyniki badań bezpieczeństwa kodu z AI i listę kontrolną przed publikacją aplikacji zebrałem w przewodniku vibe coding.

„To było po prostu rażące przeoczenie z mojej strony. Kompletny ślepy punkt na etapie poznawania tej nowej technologii” - przyznał Starr, dodając, że podobny błąd popełnia z pewnością wielu innych. Podobnych historii jest więcej: założyciel PocketOS Jer Crane opisał na X, jak agent kodujący AI wymazał produkcyjną bazę danych jego firmy, a przedsiębiorca Joe Procopio musiał zdjąć swoją aplikację po ataku hakerów.

Zdaniem ekspertów cytowanych przez The Verge problem nie leży w samym tworzeniu oprogramowania przez amatorów. „Vibe coding nie jest zły dlatego, że amatorzy mogą budować oprogramowanie. To akurat ta dobra część” - mówi Gabriel Bernadett-Shapiro z SentinelOne. Niebezpieczeństwo pojawia się, gdy prywatna aplikacja zaczyna przechowywać cudze dane: logi klientów, dane medyczne czy finansowe. Jack Cable, szef firmy Corridor, radzi przy danych wrażliwych zawsze przemyśleć model zagrożeń.

// czytaj dalejChatGPT Work kontra Claude Cowork - test na prawdziwych plikach pokazał jeden poważny problemNewsyAgent zrobił dokładnie to, do czego go zbudowałeś. I to jest właśnie problemNewsyZamknięcie dnia: Bezpieczeństwo AI jako dekoracja i 90 mln na startNewsy