Trening modelu

Trening to proces, w którym model uczy się swoich umiejętności: sieć neuronowa przetwarza ogromne ilości danych, a jej parametry są stopniowo dostrajane tak, by coraz lepiej przewidywała poprawne odpowiedzi. W przypadku modeli językowych oznacza to tygodnie lub miesiące obliczeń na tysiącach kart graficznych.

Po zakończeniu treningu wiedza modelu zostaje „zamrożona” - dlatego modele mają punkt odcięcia wiedzy i nie znają nowszych wydarzeń, chyba że połączy się je z wyszukiwaniem. Trening od zera jest kosztowny, więc częściej stosuje się dostrajanie gotowych modeli.