Hugging Face testuje Cross-Origin Storage API w Transformers.js
Hugging Face eksperymentuje z proponowanym Cross-Origin Storage API, które ma pozwolić różnym stronom współdzielić w przeglądarce raz pobrane modele AI.
- Hugging Face opisał eksperyment z proponowanym Cross-Origin Storage API w bibliotece Transformers.js.
- API ma umożliwić współdzielenie raz pobranych modeli AI między różnymi witrynami w przeglądarce.
- Rozwiązanie eliminuje potrzebę wielokrotnego ściągania tych samych dużych plików modeli przez użytkownika.
👁 119 przeczytań
Google · Twoje źródłaDodaj promptowy.com do preferowanych źródeł w Google→Hugging Face opublikował wpis opisujący eksperyment z proponowanym Cross-Origin Storage API w bibliotece Transformers.js, która uruchamia modele AI bezpośrednio w przeglądarce.
Sedno problemu jest praktyczne: modele uruchamiane lokalnie po stronie klienta potrafią ważyć setki megabajtów, a przeglądarki domyślnie izolują pamięć podręczną poszczególnych witryn. W efekcie ten sam model bywa pobierany od nowa na każdej stronie, która z niego korzysta, co marnuje transfer i czas użytkownika.
Proponowane Cross-Origin Storage API ma to zmienić, pozwalając różnym domenom współdzielić raz zapisane w przeglądarce pliki modeli. Hugging Face sprawdza, jak takie rozwiązanie radzi sobie w rzeczywistym użyciu właśnie na przykładzie Transformers.js, by zweryfikować przydatność standardu, zanim trafi on do szerszych prac.
Eksperyment wpisuje się w szerszy trend przenoszenia wnioskowania AI z serwerów do przeglądarki, gdzie kluczowym ograniczeniem pozostaje rozmiar modeli i sposób ich przechowywania po stronie klienta.
Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
