Fine tuning: kiedy dostrajanie modelu ma sens, a kiedy to strata pieniędzy

👁 111 przeczytań

Fine tuning, czyli dostrajanie, to douczanie gotowego modelu na własnym zbiorze przykładów. Nie budujesz modelu od zera i nie uczysz go wiedzy o świecie; pokazujesz mu kilkaset albo kilka tysięcy par „takie wejście, taka odpowiedź”, żeby nauczył się Twojego sposobu odpowiadania. To rozwiązanie na problem formy, a nie na problem wiedzy.

Kiedy ma sens

• Odpowiedzi muszą trzymać sztywny format, którego model ciągle nie dotrzymuje mimo instrukcji.
• Masz własny styl albo żargon branżowy, którego nie da się opisać w poleceniu.
• Robisz jedno zadanie masowo i chcesz zejść z kosztów, używając mniejszego modelu z dostrojeniem zamiast dużego.
• Potrzebujesz stałej, powtarzalnej jakości bez długiej instrukcji systemowej w każdym zapytaniu.

Kiedy nie ma sensu

Gdy problemem jest wiedza: dostrojenie nie wprowadzi do modelu aktualnego cennika ani regulaminu, bo to nie jest baza danych. Do tego służy RAG. Gdy masz mało przykładów: poniżej kilkuset dobrych par zwykle lepiej zadziała staranne polecenie. Gdy dane zmieniają się co tydzień, bo każda zmiana oznacza ponowne dostrajanie.

Co kosztuje naprawdę

Nie samo trenowanie, tylko przygotowanie danych. Zbiór musi być spójny, pozbawiony sprzeczności i błędów, bo model nauczy się także Waszych pomyłek. W praktyce na jedną godzinę liczenia przypada kilkadziesiąt godzin porządkowania przykładów. To obserwacja z projektów, nie wartość z cennika.

Najczęstsze pytania

Czy fine tuning nauczy model nowych faktów?

Nie w sposób, na którym da się polegać. Fakty podaje się modelowi w kontekście, a dostrajaniem zmienia się zachowanie.

Czy da się dostroić model lokalny?

Tak, mniejsze modele dostraja się metodami oszczędnymi na jednej dobrej karcie graficznej. Do uruchamiania gotowych modeli lokalnie służą LM Studio i Ollama.

Co wybrać, jeśli nie wiem?

Zacznij od dobrego polecenia, potem spróbuj RAG, a dostrajanie zostaw na koniec. W większości zastosowań firmowych dwa pierwsze kroki wystarczają.