GPT: co to znaczy, jak działa i czym różni się od ChatGPT

👁 219 przeczytań

GPT to skrót od Generative Pre-trained Transformer, czyli nazwa rodzaju generatywnego modelu opartego na architekturze transformer. ChatGPT jest aplikacją, w której korzystasz z modelu i narzędzia. Jeśli szukasz samego czatu, otwórz chatgpt.com.

Zobacz także: ChatGPT po polsku.

W tym wyjaśnieniu rozdzielam model, aplikację i sposób dostępu. Nie jest to ranking najnowszych wersji. Jeśli szukasz pomocy w konkretnym zadaniu, najpierw warto ustalić, co ma zrobić model i z jakiego materiału ma korzystać.

GPT generuje odpowiedź, a nie wybiera gotowej strony

Model językowy przetwarza dostarczony kontekst i generuje dalszy ciąg tekstu. Nie jest listą wcześniej napisanych odpowiedzi. Dlatego podobne pytania mogą prowadzić do różnie sformułowanych wyników. Nie należy z tego wyciągać wniosku, że każda odpowiedź jest prawdziwa albo że model sam sprawdził ją w internecie.

W nazwie „generative” oznacza generowanie, „pre-trained” odnosi się do wcześniejszego treningu, a „transformer” do rodzaju architektury. Opis samej architektury znajdziesz w pracy Attention Is All You Need. Nie trzeba rozumieć wszystkich obliczeń sieci, żeby korzystać z aplikacji, ale warto odróżniać generowanie od odszukania dowodu.

Model, ChatGPT i API to różne poziomy dostępu

Ta sama rodzina modeli nie oznacza identycznego doświadczenia. W aplikacji dochodzą narzędzia, ustawienia i ograniczenia konta. Programista korzystający z API buduje własny sposób przekazywania danych i odbierania odpowiedzi. Przy wyborze usługi nie zastępuję tych informacji samą nazwą modelu.

Warunki abonamentów aplikacji zbieram w cenniku ChatGPT. Informacji o dostępie programistycznym szukaj w dokumentacji API OpenAI. Nie zakładaj, że opłata za jeden produkt automatycznie rozlicza użycie drugiego.

Token to jednostka tekstu, a nie zawsze słowo

Według wyjaśnienia tokenów OpenAI tekst jest dzielony na fragmenty, które mogą obejmować znak, część słowa albo całe słowo. Podział zależy między innymi od języka i kontekstu. Liczba słów w edytorze nie jest więc dokładnym licznikiem użycia modelu.

Własny przykład budżetu: przyjmijmy limit kontekstu 32 000 tokenów, instrukcję zajmującą 2000 i rezerwę 4000 na odpowiedź. Zostaje 26 000 na materiał: 32 000 - 2000 - 4000 = 26 000. To fikcyjne parametry do pokazania rachunku, a nie specyfikacja któregoś modelu GPT.

W rzeczywistym zadaniu trzeba jeszcze uwzględnić historię rozmowy i pozostałe elementy wejścia. Zależnie od modelu istotne mogą być także odrębne ograniczenia wyjścia i rozumowania. Nie przeliczam dowolnego polskiego dokumentu na tokeny stałym mnożnikiem. Dokładny pomiar wymaga narzędzia zgodnego z danym modelem.

Dobre polecenie określa wynik i źródło informacji

Zamiast „zrób analizę” podaj materiał oraz oczekiwany rezultat: „Na podstawie tej notatki przygotuj tabelę decyzji, terminów i osób odpowiedzialnych. Braki oznacz jako brak danych”. Model dostaje wtedy zadanie, którego wykonanie da się sprawdzić. Bez notatki może jedynie zaproponować ogólną strukturę.

To samo dotyczy redakcji. „Popraw styl” nie powinno oznaczać „dopisz przekonujące liczby”. W poleceniu oddziel zmianę języka od zmiany treści. Jeżeli masz cytat albo kwotę, zaznacz, że ma pozostać dokładnie taka jak w materiale. Więcej przykładów zawiera poradnik czym jest prompt.

Gdy odpowiedź nie spełnia warunku, wskaż konkretny fragment. „W tabeli nie ma terminu z ostatniego akapitu” daje lepszą podstawę poprawki niż „postaraj się bardziej”. Nie musisz też godzić się na format, który utrudnia kontrolę. Przy wielu pozycjach tabela bywa czytelniejsza od długiego opisu.

Gdzie GPT zawodzi jako źródło pewności

Przekonująca odpowiedź może zawierać niepotwierdzony fakt. Nie przypisuję modelowi dostępu do internetu tylko dlatego, że użył czasu teraźniejszego. Jeśli zadanie wymaga bieżących informacji, potrzebne są rzeczywiście użyte źródła. Odpowiedź na pytanie „czy to aktualne?” nadal może być samą deklaracją.

Przy pracy na plikach sprawdzam, czy wniosek ma oparcie w materiale. Jeśli model podaje liczbę, szukam tabeli albo fragmentu, z którego wynika. Jeśli dokonuje obliczenia, odtwarzam działanie. To moja procedura kontroli, nie stwierdzenie określonego odsetka błędów GPT.

Przy kodzie sam poprawnie wyglądający fragment nie dowodzi działania programu. Potrzebne jest uruchomienie w odpowiednim środowisku i sprawdzenie rezultatu. Podobnie duże okno kontekstu nie jest gwarancją, że model uwzględni każdy szczegół dokumentu. Porównania czytaj razem z metodą i warunkami w dziale benchmarki.

Zacznij od zadania z odpowiedzią, którą umiesz sprawdzić

Wybierz krótką notatkę albo neutralną wiadomość. Określ wynik, podaj materiał i zaznacz, czego nie wolno dopisywać. Odbierz odpowiedź punkt po punkcie: czy zachowała fakty, czy objęła potrzebny zakres i czy nadaje się do użycia. Dopiero potem zwiększaj rozmiar zadania.

Jeżeli potrzebujesz informacji z sieci, sprawdź dostępność wyszukiwania w wybranej aplikacji. Jeżeli budujesz program, użyj dokumentacji konkretnego modelu i zapisz sposób obsługi błędów. W obu przypadkach zachowaj wejście oraz wynik kontroli. Dzięki temu kolejną próbę porównasz z rzeczywistym punktem odniesienia.

// czytaj dalejTryb AI w wyszukiwarce: jak działa i czym różni się od przegląduArtykułyCzy ChatGPT działa? Status OpenAI i diagnoza problemuArtykułyJak działa ChatGPT i inne LLM-y? Wyjaśnienie bez matematykiPodstawy