Małe, szybkie, wszędzie. Dlaczego kurczące się modele AI zmienią więcej niż te gigantyczne

👁 119 przeczytań

Przez ostatnie trzy lata karmiono nas jedną opowieścią, prostą jak reklama proszku do prania: większe znaczy lepsze. Większy model, więcej parametrów, więcej kart graficznych, więcej prądu, więcej miliardów dolarów. Liczba parametrów urosła do rangi marketingowego fetyszu, czegoś w rodzaju końskich mechanicznych w silniku - niewielu rozumiało, co dokładnie oznacza, ale wszyscy wiedzieli, że więcej jest lepiej. A potem stało się coś, czego ta opowieść nie przewidziała. Modele zaczęły się kurczyć. I - co jest clou całej sprawy - kurcząc się, stawały się coraz lepsze.

To zdanie wygląda na sprzeczne. Jak coś mniejszego może być zarazem sprawniejsze? A jednak dokładnie to obserwuję od kilkunastu miesięcy. Model, który dziś mieści się na laptopie, potrafi więcej niż gigant sprzed dwóch lat, do którego dostęp mieliśmy wyłącznie przez cudzą serwerownię i cudzą fakturę. To nie jest techniczny drobiazg dla inżynierów. To jest zmiana, która przesuwa władzę, koszty i granice prywatności - i robi to w stronę, której mało kto się spodziewał.

Skąd w ogóle to kurczenie

Żeby zrozumieć, dlaczego modele się kurczą, trzeba najpierw zrozumieć, dlaczego wcześniej rosły. Rosły, bo to była najprostsza droga do poprawy. Nie wiedzieliśmy jeszcze, jak wycisnąć więcej z mniejszego, więc po prostu dokładaliśmy. Więcej danych, więcej parametrów, więcej mocy. To trochę jak z wczesnymi komputerami, które zajmowały całe sale - nie dlatego, że inaczej się nie dało, tylko dlatego, że nikt jeszcze nie wiedział, jak to zminiaturyzować.

Potem przyszła faza, którą nazwałbym dojrzewaniem. Okazało się, że ogromne modele są kopalnią wiedzy, ale też rozrzutnymi rozrzutnikami. Większość ich potencjału leży odłogiem przy większości zadań. Odpowiadając na proste pytanie, gigant uruchamia aparat zdolny do rozwiązywania problemów, których nikt mu nie zadaje. To jak wożenie zakupów z osiedlowego sklepu ciężarówką z naczepą.

I tu zaczyna się najciekawsze. Branża nauczyła się kilku sztuczek, które brzmią niewinnie, a zmieniają reguły gry. Destylacja - czyli uczenie małego modelu tak, by naśladował duży, przejmując jego najlepsze nawyki bez całego balastu. Lepszej jakości dane zamiast ich większej ilości, bo okazało się, że model karmiony starannie dobranym jedzeniem uczy się lepiej niż ten pasiony wszystkim, co popadnie. Wreszcie architektury, które włączają tylko te fragmenty sieci, które są akurat potrzebne, zamiast budzić cały gmach przy każdym pytaniu.

Efekt jest taki, że inteligencja na jednostkę rozmiaru rośnie szybciej, niż ktokolwiek zakładał. To nie modele dogoniły nasze oczekiwania - to nasze wyobrażenie o tym, ile „miejsca” potrzebuje inteligencja, okazało się kompletnie zawyżone.

Kto na tym traci, a kto zyskuje

Każda zmiana technologiczna ma swoją geografię zwycięzców i przegranych, i warto ją narysować, zanim damy się porwać entuzjazmowi. Bo kurczenie się modeli nie jest neutralne - uderza w konkretne interesy i wynosi inne.

Zacznijmy od tego, kto miał najwięcej do stracenia. Przez ostatnie lata przewaga największych firm polegała na tym, że tylko one mogły sobie pozwolić na trenowanie i serwowanie gigantów. Kapitał był fosą. Jeśli chciałeś najlepszego modelu, musiałeś przyjść do nich, zapłacić i zaakceptować, że twoje dane przepływają przez ich maszyny. Ta fosa właśnie wysycha. Kiedy model o rozsądnej jakości mieści się na sprzęcie, który firma albo nawet pojedynczy człowiek może kupić, cała logika zależności się rozluźnia.

To nie znaczy, że giganci znikną. Oni nadal będą pchać górną granicę - najpotężniejsze modele wciąż powstają w ogromnych serwerowniach i jeszcze długo będą. Ale rynek rozwarstwia się na dwa piętra. Na górze toczy się wyścig o absolutny szczyt możliwości, kosztowny i spektakularny. A pod spodem rozlewa się coś znacznie ważniejszego dla większości z nas: rozsądnie dobra inteligencja, tania, lokalna, dostępna niemal wszędzie.

Prawdziwa rewolucja rzadko dzieje się na szczycie, gdzie błyskają reflektory. Dzieje się piętro niżej, w momencie, w którym coś drogiego i elitarnego staje się nudno dostępne.

Zyskują więc mniejsze firmy, które nie muszą już budować swojego produktu na cudzej infrastrukturze i płacić haraczu od każdego zapytania. Zyskują kraje i instytucje, które nie chcą wysyłać wrażliwych danych za ocean. Zyskuje każdy, kto chce mieć narzędzie działające bez stałego połączenia z czyimś serwerem. A tracą ci, których cały model biznesowy opierał się na tym, że inteligencja jest rzadka, scentralizowana i rozliczana za licznikiem.

Prywatność, czyli najcichsza ze zmian

Jest w tym wszystkim wątek, który moim zdaniem jest najważniejszy, a mówi się o nim najmniej, bo nie brzmi efektownie. Chodzi o to, gdzie fizycznie dzieje się myślenie maszyny.

Dotąd było tak: zadajesz pytanie, twoje słowa lecą do czyjejś serwerowni, tam są przetwarzane, odpowiedź wraca. Przy okazji ktoś inny ma wgląd w to, o co pytasz, co piszesz, czego się boisz i co planujesz. Można to regulować umowami i obietnicami, ale fundamentalnie oddajesz swoją najbardziej intymną aktywność - swoje myśli ubrane w zapytania - w cudze ręce. To była cena wstępu.

Mały model, który działa na twoim własnym urządzeniu, tę cenę kasuje. Twoje pytanie nigdzie nie wylatuje. Rozmowa z maszyną staje się tym, czym intuicyjnie powinna być od początku - prywatna. To ma konsekwencje, których skala dopiero zaczyna do mnie docierać. Lekarz mógłby analizować dane pacjenta bez wysyłania ich na zewnątrz. Prawnik mógłby pracować na poufnych aktach bez łamania tajemnicy. Zwykły człowiek mógłby traktować asystenta jak notatnik, a nie jak mikrofon podłączony do korporacji.

Przez lata godziliśmy się na to, że inteligencja jest w chmurze, bo nie było innego wyjścia. Teraz powoli przestaje być - i to może okazać się jednym z najważniejszych odzyskań prywatności w tej dekadzie. Mówię „może”, bo nic nie jest przesądzone. Firmy, które zarabiają na tym, że twoje dane przez nie przepływają, nie oddadzą tego strumienia bez walki. Będą cię zachęcać, żebyś jednak korzystał z chmury - wygodniej, lepiej, nowszy model. I często będą miały rację, bo szczyt możliwości faktycznie zostanie na górze. Pytanie brzmi, ile z codziennych zadań naprawdę wymaga szczytu, a ile wystarczająco dobrze obsłuży coś, co działa u ciebie w kieszeni.

Co to znaczy dla reszty z nas

Dochodzimy do sedna, bo tytuł tego tekstu nie jest przypadkowy. „Reszta z nas” to ci, którzy nie trenują modeli, nie mają udziałów w firmach AI i nie czytają raportów technicznych dla przyjemności. To użytkownicy. I dla nich kurczenie się modeli oznacza kilka bardzo konkretnych rzeczy.

Pierwsza: inteligencja maszynowa przestaje być usługą, do której się loguję, a zaczyna być cechą sprzętu, który już mam. To subtelna, ale głęboka różnica. Kiedy coś jest usługą, płacę abonament, jestem śledzony i jestem zależny. Kiedy coś jest wbudowaną cechą, po prostu z tego korzystam, tak jak korzystam z aparatu w telefonie, nie myśląc o tym jako o osobnym produkcie. AI przestaje być miejscem, do którego się chodzi, a staje się warstwą, w której się żyje.

Druga: koszt krańcowy spada niemal do zera. Dziś każde zapytanie do dużego modelu coś kosztuje - może grosze, ale kosztuje, i ktoś za to płaci, nawet jeśli nie widzisz rachunku. Model działający lokalnie po prostu działa, tak jak kalkulator nie nalicza opłaty za każde dodawanie. To otwiera zastosowania, które przy modelu rozliczanym od zapytania nie miałyby sensu ekonomicznego. Rzeczy, które mogą pracować w tle, bez przerwy, nad drobiazgami niewartymi grosza, ale sumujących się w coś pożytecznego.

Trzecia, i tu robi się niepokojąco: skoro dobry model mieści się na zwykłym sprzęcie i nie wymaga niczyjej zgody, to znaczy, że mieści się też tam, gdzie wolelibyśmy go nie widzieć. Kontrola nad potężnymi modelami była jednym z nielicznych punktów, w których dało się cokolwiek regulować - bo gigant to konkretna firma w konkretnym kraju, z konkretnym prezesem, którego można wezwać na przesłuchanie. Rozproszona, lokalna inteligencja wymyka się temu całkowicie. Nie ma jednego kurka, który można zakręcić. To jest ta sama moneta, której jedną stroną jest wolność, a drugą - brak hamulców.

Miniaturyzacja zawsze wygrywa

Historia techniki jest w gruncie rzeczy historią kurczenia. Komputer, który zajmował salę, trafił na biurko, potem do kieszeni, a w końcu stał się niewidoczny, rozpuszczony w setkach urządzeń, o których nie myślimy jako o komputerach. Ta sama ścieżka czeka inteligencję maszynową, i jesteśmy gdzieś na jej początku - w momencie przejścia z sali na biurko.

Warto zapamiętać pewną prawidłowość: w technologii to, co duże i scentralizowane, bywa spektakularne, ale to, co małe i wszechobecne, zmienia codzienne życie. Mainframe’y były imponujące. To pecet przewrócił świat. Pierwsze telefony komórkowe wielkości cegły budziły podziw. To smartfon, mały i tani, przeorał cywilizację. Nie ma powodu sądzić, że z AI będzie inaczej. Najgłośniejsze premiery dotyczą gigantów, ale tym, co naprawdę przemebluje nasze życie, będzie model, którego w ogóle nie zauważymy, bo po prostu będzie wszędzie.

Dlatego kiedy słyszę kolejne doniesienie o tym, że ktoś zbudował jeszcze większy model w jeszcze większej serwerowni, odnotowuję to z umiarkowanym zainteresowaniem. Istotne, owszem, ciekawe, pewnie. Ale mój wzrok coraz częściej ucieka piętro niżej, tam gdzie nie ma fajerwerków. Tam dzieje się rzecz znacznie poważniejsza: inteligencja przestaje być zasobem, po który trzeba się zwrócić, prosić, płacić i czekać. Staje się czymś, co się po prostu ma.

Przez całą historię komputeryzacji powtarzał się ten sam schemat - to, co najpierw było wielkie, drogie i dostępne dla nielicznych, w końcu stawało się małe, tanie i dostępne dla wszystkich. I za każdym razem prawdziwa zmiana przychodziła nie w chwili, gdy coś było potężne, lecz w chwili, gdy stawało się nudne. Inteligencja maszynowa jest dziś jeszcze ekscytująca. Dzień, w którym przestanie taka być - w którym stanie się po prostu tłem naszego życia, jak prąd w gniazdku - będzie dniem, w którym naprawdę ją oswoiliśmy. I ten dzień, wbrew całej narracji o gigantach, przyniosą nam modele małe.