Hugging Face testuje Cross-Origin Storage API w Transformers.js
Hugging Face eksperymentuje z proponowanym Cross-Origin Storage API, które ma pozwolić różnym stronom współdzielić w przeglądarce raz pobrane modele AI.
👁 125 przeczytań
Hugging Face opublikował wpis opisujący eksperyment z proponowanym Cross-Origin Storage API w bibliotece Transformers.js, która uruchamia modele AI bezpośrednio w przeglądarce.
Sedno problemu jest praktyczne: modele uruchamiane lokalnie po stronie klienta potrafią ważyć setki megabajtów, a przeglądarki domyślnie izolują pamięć podręczną poszczególnych witryn. W efekcie ten sam model bywa pobierany od nowa na każdej stronie, która z niego korzysta, co marnuje transfer i czas użytkownika.
Proponowane Cross-Origin Storage API ma to zmienić, pozwalając różnym domenom współdzielić raz zapisane w przeglądarce pliki modeli. Hugging Face sprawdza, jak takie rozwiązanie radzi sobie w rzeczywistym użyciu właśnie na przykładzie Transformers.js, by zweryfikować przydatność standardu, zanim trafi on do szerszych prac.
Eksperyment wpisuje się w szerszy trend przenoszenia wnioskowania AI z serwerów do przeglądarki, gdzie kluczowym ograniczeniem pozostaje rozmiar modeli i sposób ich przechowywania po stronie klienta.
Google · Twoje źródłaPromptowy wyżej w Twoim Google - jednym kliknięciemDodaj do preferowanych źródeł →Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
Podobne tematy na Promptowym
