Agenty AI Google DeepMind matematycznie udowodniły bezpieczeństwo szyfrowania Signala

Ten news ukazał się 1 godzina po komunikacie źródła.

👁 116 przeczytań

Google DeepMind ogłosiło 10 listopada, że agenty AI przeprowadziły formalne matematyczne dowody bezpieczeństwa biblioteki szyfrującej Signala. Według bloga DeepMind z 10 listopada, żaden zespół badawczy nie zrobił tego wcześniej dla tak powszechnie używanego protokołu - ani metodami tradycyjnymi, ani z użyciem AI.

Protokół Signala to coś więcej niż fundament samej aplikacji Signal. Chroni też wiadomości w WhatsAppie, Messengerze i Google Messages - razem miliardy rozmów dziennie. Formalna weryfikacja jego kodu miała więc konsekwencje daleko wykraczające poza jeden produkt.

Czym jest formalna weryfikacja i dlaczego trwała dotąd dekady

Formalna weryfikacja polega na matematycznym dowodzeniu, że kod robi to, co powinien - nie na szukaniu dziur przez pentesterów ani fuzzingu, lecz na eliminowaniu całych klas błędów za pomocą logiki matematycznej. Brzmi jak oczywisty wybór dla kryptografii, ale w praktyce było to przedsięwzięcie z gatunku wieloletnich projektów. Klasyczny przykład: weryfikacja mikrojądra seL4 zajęła, według artykułu technicznego DeepMind, 20 osobolat pracy. Dwadzieścia lat jednej osoby, albo cztery lata pięciorga ludzi - i to dla zdecydowanie mniejszego i mniej złożonego systemu niż protokół szyfrujący używany przez miliardy użytkowników.

To wyjaśnia, dlaczego do tej pory nikt nie pokusił się o formalne sprawdzenie libsignal - otwartej biblioteki implementującej protokół Signala. Nie dlatego, że nikt nie chciał. Po prostu koszty były zaporowe.

Jak działał system AlphaProof Code

DeepMind przedstawiło nowy framework o nazwie AlphaProof Code, który inaczej rozdziela pracę między ludzi a maszyny. Ludzki zespół pięciu badaczy decydował, co udowodnić - czyli definiował cele bezpieczeństwa. Agenty AI, działające na Gemini 4 Carbon oraz na Claude Opus 5.5 Anthropica, pomagały tłumaczyć te cele na formalne specyfikacje, które następnie recenzowali eksperci. Właściwe pisanie dowodów powierzono drużynom liczącym od 40 do 80 agentów jednocześnie.

Efekt: około 6,5 miliona linii kodu dowodowego w języku Lean - narzędziu do maszynowej weryfikacji matematyki - wyprodukowanych przez agenty w ciągu czterech tygodni. Artykuł techniczny wprost zaznacza, że żaden z autorów nie napisał ani jednej linii kodu dowodowego samodzielnie.

Zakres weryfikacji był szeroki. Agenty sprawdziły libsignal aż do poziomu kodu maszynowego uruchamianego na urządzeniu. Dowody objęły:

• post-kwantowy handshake - uzgadnianie kluczy odporne na przyszłe komputery kwantowe,
• Triple Ratchet - mechanizm nadający każdej wiadomości świeży klucz szyfrujący,
• forward secrecy - właściwość chroniącą stare wiadomości nawet po kradzieży kluczy z telefonu,
• uwierzytelnianie i post-compromise security - zdolność protokołu do odbudowy bezpieczeństwa po przełamaniu.

Aby sprawdzić, czy system rzeczywiście wykrywa problemy, zespół celowo przywrócił dwa stare błędy w libsignal, które Signal zdążył już naprawić. W obu przypadkach agenty udowodniły, że wersja z błędami jest niebezpieczna. W zweryfikowanych fragmentach aktualnej biblioteki żadnych nowych usterek nie znaleziono - według relacji Lily Hay Newman dla Wired.

„W obliczu rosnących zagrożeń bezpieczeństwa napędzanych AI, rygorystyczna weryfikacja rdzenia protokołu Signala z użyciem automatycznego dowodzenia twierdzeń daje nam jeszcze większą pewność, że nasz kod spełnia obietnice prywatności.”

Ehren Kret, dyrektor techniczny Signala, w oświadczeniu opublikowanym przez DeepMind, 10 listopada.

Czego weryfikacja nie obejmuje

Artykuł techniczny precyzyjnie rysuje granice, i DeepMind nie ukrywa, że są one istotne. Dowody dotyczą komunikacji jeden-na-jeden w badawczej implementacji biblioteki, nie w aplikacjach dostępnych użytkownikom. Czaty grupowe pozostają poza zakresem - naukowcy wskazują je jako cel kolejnych prac. Poza weryfikacją znalazło się również generowanie kluczy oraz post-quantum healing - właściwość, którą Signal zamierza dodać w najnowszej warstwie ratchetu.

Dowody zakładają ponadto, że niskopoziomowe procedury kryptograficzne działają zgodnie ze specyfikacją - innymi słowy, weryfikacja nie schodzi do poziomu samych algorytmów matematycznych.

Otwartą kwestią pozostają koszty. Google odmówiło podania, ile projekt pochłonął środków, ani czy planuje komercyjny produkt weryfikacyjny - wynika to z reportażu Wired.

Czytasz Promptowego częściej? Dodaj go do preferowanych źródeł w Google, a nowe teksty będą wyżej w Twoich wynikach.

Następna bariera: specyfikacja, nie dowód

Swarat Chaudhuri, badacz DeepMind, powiedział Wired, że „mamy jeszcze bardzo długą drogę, zanim będziemy w stanie skalować to na całe oprogramowanie świata, ale chcemy to zrobić”. W rozmowie z The Register dodał myśl, która wydaje mi się najciekawszym sygnałem płynącym z całego projektu: trudnym problemem nie jest już samo pisanie dowodów, lecz decydowanie, co sprawdzić.

„Naprawdę wierzymy, że kolejna granica nie będzie dotyczyć dowodów, lecz specyfikacji.”

Swarat Chaudhuri, DeepMind, dla The Register.

To zmienia obraz sytuacji. Przez lata formalna weryfikacja była ograniczona przez koszt pisania dowodów. Jeśli agenty AI potrafią produkować 6,5 miliona linii Leana w cztery tygodnie, butelkowym gardłem staje się precyzyjne formułowanie tego, co chcemy udowodnić - i to jest zadanie, które nadal wymaga głębokiej ekspertyzy ludzkiej.

Praca wpisuje się w szerszy projekt o nazwie Signal Shot, prowadzony przez Beneficial AI Foundation, Signal i Lean FRO. Ogłoszenie wyników jest jednocześnie zaproszeniem do dalszych prac - czaty grupowe, generowanie kluczy i aplikacje użytkownika pozostają obszarami, gdzie formalna weryfikacja jeszcze nie dotarła. Według komunikatu DeepMind z 10 listopada, pełny artykuł techniczny jest dostępny w repozytorium publikacji DeepMind, razem ze szczegółami metody i jej ograniczeń.