NVIDIA otwiera API do składowania danych dla GPU i przyspiesza infrastrukturę AI

👁 132 przeczytań

NVIDIA ogłosiła na konferencji Future of Memory and Storage (FMS) otwarcie kodu źródłowego biblioteki cuFile i całego pionowego stosu oprogramowania do składowania danych, który pozwala GPU - nie tylko CPU - bezpośrednio odczytywać dane z pamięci masowej i do niej zapisywać. To jeden z ważniejszych kroków w kierunku traktowania dysków nie jako pasywnego schowka, lecz aktywnego elementu drogi danych w systemach AI.

Biblioteka cuFile jest częścią technologii NVIDIA GPUDirect Storage. Dzięki setkom tysięcy wątków GPU i szybkiej pamięci wysokiej przepustowości umożliwia dostęp do danych w czasie rzędu mikrosekund - tam, gdzie jeszcze czterdzieści lat temu ta sama operacja zajmowała minuty. Otwarcie kodu ma umożliwić producentom systemów składowania danych budowanie interoperacyjnych rozwiązań bez uzależnienia od zamkniętych implementacji.

Czytasz Promptowego częściej? Dodaj go do preferowanych źródeł w Google, a nowe teksty będą wyżej w Twoich wynikach.

Procesor Vera kontra x86 - konkretne liczby

Na konferencji NVIDIA zaprezentowała też dane wydajnościowe dotyczące własnego procesora Vera, wchodzącego w skład układu Vera BlueField-4 STX. W teście łączącym kompresję i szyfrowanie Vera osiąga 3,21x wyższą przepustowość niż procesor x86. Praktyczna konsekwencja jest prosta: platforma składowania danych może obsłużyć zalew żądań ze strony agentów AI przy znacznie mniejszej infrastrukturze obliczeniowej.

Kontekst tego jest ważny. Współczesne systemy AI generują tysiące równoczesnych operacji odczytu i zapisu - każdy agent AI pochłania ogromne ilości danych, a GPU mogą inicjować żądania bezpośrednio do systemów składowania. To całkowicie zmienia obciążenie tych systemów: muszą one równocześnie szyfrować, kompresować, weryfikować i rekonstruować dane. Przy tysiącach agentów działających jednocześnie klasyczne architektury stają się wąskim gardłem.

W odpowiedzi na to wyzwanie NVIDIA i czterej inauguralni opiekunowie nowej platformy Open Secure AI Alliance - Google, Intel, NVIDIA i Meta - tworzą otwartą przestrzeń dla API zoptymalizowanych pod różne kombinacje sprzętu i oprogramowania. Otwarcie cuFile ma też wymiar bezpieczeństwa: szybki dostęp do danych jest fundamentem działania systemów cyberbezpieczeństwa napędzanych przez AI, które muszą reagować w czasie rzeczywistym.

Cały ten ruch sygnalizuje głębszą zmianę w architekturze centrów danych: granica między pamięcią operacyjną a pamięcią masową zaciera się, a konkurencja o to, kto dostarczy najszybszy, najbezpieczniejszy i najbardziej otwarty stos programowy dla tej warstwy, właśnie się zaczyna.

// czytaj dalejPonad 300 lokalnych blokad. Ameryka zaczyna mówić centrom danych dla AI: nie w moim miasteczkuNewsyNie kasuj folderu Prefetch. Poradniki o przyspieszaniu Windowsa mylą się tu od latWarsztatCentra danych w Polsce: kto zapłaci za prąd fabryk AIArtykuły