OpenAI i Broadcom wspólnie projektują własny chip do inferencji

👁 137 przeczytań

OpenAI ogłosiło współpracę z Broadcomem nad własnym układem scalonym zoptymalizowanym pod inferencję dużych modeli językowych, czyli etap, w którym wytrenowany model odpowiada na zapytania użytkowników. Firma chce w ten sposób zaprojektować sprzęt dopasowany dokładnie do swoich obciążeń, zamiast polegać wyłącznie na uniwersalnych akceleratorach kupowanych od zewnętrznych dostawców.

Broadcom to jeden z największych projektantów układów na świecie, mający doświadczenie w tworzeniu przeznaczonych do konkretnych zastosowań chipów dla największych firm technologicznych. Połączenie tej wiedzy z potrzebami OpenAI ma dać układ ściśle skrojony pod uruchamianie modeli takich jak te z rodziny GPT - tańszy i bardziej efektywny energetycznie w masowej skali niż rozwiązania ogólnego przeznaczenia.

Inferencja to dziś gigantyczny koszt operacyjny dla firm działających na dużą skalę: każde zapytanie do ChatGPT czy API zużywa moc obliczeniową, a liczba użytkowników rośnie. Własny chip pozwala OpenAI lepiej kontrolować zarówno wydatki, jak i dostępność mocy, która od miesięcy jest wąskim gardłem całej branży.

Ten krok wpisuje się w szerszy trend - najwięksi gracze rynku AI coraz częściej projektują własny krzem. Google ma swoje układy TPU, Amazon rozwija Trainium i Inferentia, a Microsoft pracuje nad chipami Maia. OpenAI, dotąd silnie uzależnione od GPU Nvidii, dołącza do tej grupy, sygnalizując chęć większej niezależności sprzętowej. Szczegóły techniczne i harmonogram firma przedstawiła we wspólnym ogłoszeniu z Broadcomem.

Dla OpenAI to logiczny krok: kto kontroluje koszt inferencji, ten kontroluje marżę na całym biznesie AI.

// czytaj dalejKoniec wspólnej kultury i zmierzch twórczej klasy średniejPremiumSztuczna inteligencja pożera własny ogon. I nasze miejsca pracyPremiumPraktyczne zastosowania Midjourney 7 w projektowaniu produktów i prototypowaniuMidjourney