GPU

GPU, czyli procesor graficzny, to sprzętowy koń roboczy sztucznej inteligencji. Sieci neuronowe wymagają milionów równoległych operacji na macierzach - dokładnie tego typu obliczeń, do których karty graficzne zostały stworzone. Dlatego trening i uruchamianie modeli odbywa się na GPU, a nie na zwykłych procesorach.

Popyt na układy do AI uczynił z ich producentów najcenniejsze firmy świata, a dostęp do mocy obliczeniowej - strategicznym zasobem. W domu GPU z odpowiednią ilością pamięci VRAM pozwala uruchamiać otwarte modele lokalnie.