Anthropic pracuje nad kryptograficznym dowodem tożsamości modeli AI

Ten news ukazał się 6 godzin po komunikacie źródła.

👁 117 przeczytań

Anthropic opublikowało 3 listopada 2026 roku opis systemu o nazwie FlashProve, który ma umożliwić kryptograficzne potwierdzenie, że dany wynik pochodzi z konkretnego modelu AI. Według materiału opublikowanego przez TechCrunch, razem z ogłoszeniem badacze udostępnili szczegółową specyfikację techniczną oraz działający kod na licencji open source w repozytorium GitHub.

FlashProve realizuje to, co kryptografowie nazywają „provable inference” - matematyczną gwarancję, że określony output pochodzi od wskazanego modelu. Mechanizm działa podobnie do kryptograficznych podpisów e-mail, które pozwalają odbiorcy zweryfikować, że wiadomość naprawdę pochodzi od deklarowanego nadawcy. W praktyce oznacza to odporność na podmienianie jednego modelu przez inny - nawet wtedy, gdy podmiana odbywa się po stronie laboratorium, które ten model zbudowało i obsługuje.

Czytasz Promptowego częściej? Dodaj go do preferowanych źródeł w Google, a nowe teksty będą wyżej w Twoich wynikach.

Po co weryfikować modele

Badacze Anthropic wskazują dwa główne scenariusze nadużyć, którym FlashProve miałby zapobiegać. Pierwszy to sytuacja, w której firma AI potajemnie podstawia tańszy model, żeby obniżyć koszty operacyjne, zachowując pozory korzystania z droższego i bardziej zaawansowanego rozwiązania. Drugi to odwrotność tego problemu - podstawianie lepszego modelu po to, by zawyżyć prezentowane wyniki i tym samym poprawić wizerunek produktu.

System adresuje też problem weryfikacji twierdzeń stron trzecich. Badacze opisują to następująco:

„Deweloper może twierdzić, że jego biblioteka oprogramowania została przeskanowana pod kątem podatności przez zaawansowany model cyberbezpieczeństwa, albo firma może twierdzić, że jej plan biznesowy uzyskał zgodę odpowiedniego modelu. Jak użytkownik może zweryfikować takie twierdzenia?”

To pytanie staje się coraz bardziej praktyczne w momencie, gdy decyzje biznesowe i techniczne są podejmowane lub potwierdzane z udziałem modeli AI, a strona, która się na nie powołuje, ma interes w przedstawianiu tych modeli jako bardziej zaawansowanych niż w rzeczywistości.

Żeby FlashProve działał, każde laboratorium AI musiałoby publikować cyfrowy „odcisk palca” każdego wypuszczanego modelu. Ten odcisk mógłby być później kryptograficznie dopasowywany do konkretnych outputów i tym samym potwierdzał ich pochodzenie. Istotne jest tu zastrzeżenie: odciski palców nie ujawniają wag modelu - czyli wewnętrznych liczb definiujących jego zachowanie, które Anthropic, OpenAI i inne laboratoria zamkniętych modeli traktują jako swój główny sekret handlowy. Dzięki temu laboratoria mogłyby publikować odciski bez rezygnowania z własności intelektualnej, co otwiera drogę do stosowania systemu z modelami komercyjnymi, nie tylko otwartymi.

Projekt zakłada też, że weryfikacja ma być lekka obliczeniowo - na tyle, żeby można ją było przeprowadzić lokalnie, na urządzeniu użytkownika, bez konieczności odpytywania zewnętrznych serwerów.

Mimo otwartości na zewnętrznych współtwórców badacze podkreślają tymczasowość tego, co opublikowali:

„Ten post badawczy ma na celu podzielenie się pośrednim postępem, a nie skończoną agendą badawczą. Udostępniamy go wprost z zamiarem, żeby inni przyjrzeli się temu, co zrobiliśmy, przejęli to i ulepszyli.”

Nie ma planów wdrożenia FlashProve w Anthropic ani w żadnym innym laboratorium AI - system pozostaje na etapie badań i otwartego zaproszenia do współpracy dla zewnętrznych badaczy. Prace nad projektem są kontynuowane, a Anthropic liczy na to, że specyfikacja techniczna i dostępny kod staną się punktem wyjścia dla szerszej dyskusji o standardach weryfikacji w branży.