NVIDIA otwiera API do składowania danych dla GPU i przyspiesza infrastrukturę AI
NVIDIA ogłosiła na konferencji FMS otwarcie kodu źródłowego biblioteki cuFile, która pozwala GPU bezpośrednio odczytywać i zapisywać dane w pamięci masowej, omijając procesor.
👁 124 przeczytań
NVIDIA ogłosiła na konferencji Future of Memory and Storage (FMS) otwarcie kodu źródłowego biblioteki cuFile i całego pionowego stosu oprogramowania do składowania danych, który pozwala GPU - nie tylko CPU - bezpośrednio odczytywać dane z pamięci masowej i do niej zapisywać. To jeden z ważniejszych kroków w kierunku traktowania dysków nie jako pasywnego schowka, lecz aktywnego elementu drogi danych w systemach AI.
Biblioteka cuFile jest częścią technologii NVIDIA GPUDirect Storage. Dzięki setkom tysięcy wątków GPU i szybkiej pamięci wysokiej przepustowości umożliwia dostęp do danych w czasie rzędu mikrosekund - tam, gdzie jeszcze czterdzieści lat temu ta sama operacja zajmowała minuty. Otwarcie kodu ma umożliwić producentom systemów składowania danych budowanie interoperacyjnych rozwiązań bez uzależnienia od zamkniętych implementacji.
Procesor Vera kontra x86 - konkretne liczby
Nie przepłacaj za te subskrypcje
Prowadzę sklep z rocznymi dostępami do narzędzi AI - te same konta, o których piszę wyżej, tylko taniej niż w cenniku producenta.
Na konferencji NVIDIA zaprezentowała też dane wydajnościowe dotyczące własnego procesora Vera, wchodzącego w skład układu Vera BlueField-4 STX. W teście łączącym kompresję i szyfrowanie Vera osiąga 3,21x wyższą przepustowość niż procesor x86. Praktyczna konsekwencja jest prosta: platforma składowania danych może obsłużyć zalew żądań ze strony agentów AI przy znacznie mniejszej infrastrukturze obliczeniowej.
Kontekst tego jest ważny. Współczesne systemy AI generują tysiące równoczesnych operacji odczytu i zapisu - każdy agent AI pochłania ogromne ilości danych, a GPU mogą inicjować żądania bezpośrednio do systemów składowania. To całkowicie zmienia obciążenie tych systemów: muszą one równocześnie szyfrować, kompresować, weryfikować i rekonstruować dane. Przy tysiącach agentów działających jednocześnie klasyczne architektury stają się wąskim gardłem.
W odpowiedzi na to wyzwanie NVIDIA i czterej inauguralni opiekunowie nowej platformy Open Secure AI Alliance - Google, Intel, NVIDIA i Meta - tworzą otwartą przestrzeń dla API zoptymalizowanych pod różne kombinacje sprzętu i oprogramowania. Otwarcie cuFile ma też wymiar bezpieczeństwa: szybki dostęp do danych jest fundamentem działania systemów cyberbezpieczeństwa napędzanych przez AI, które muszą reagować w czasie rzeczywistym.
Cały ten ruch sygnalizuje głębszą zmianę w architekturze centrów danych: granica między pamięcią operacyjną a pamięcią masową zaciera się, a konkurencja o to, kto dostarczy najszybszy, najbezpieczniejszy i najbardziej otwarty stos programowy dla tej warstwy, właśnie się zaczyna.
Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
Podobne tematy na Promptowym
