Słownik AI / Alignment
🏗️ Modele i trening
Alignment
Dopasowywanie celów i zachowań AI do ludzkich wartości i intencji.
Alignment (wyrównanie) to zbiorcze określenie wysiłków, by cele i zachowania AI były zgodne z intencjami i wartościami ludzi - żeby model był pomocny, uczciwy i nieszkodliwy, także w sytuacjach, których twórcy nie przewidzieli.
W praktyce to kombinacja technik treningowych (jak RLHF), zabezpieczeń i testów odpornościowych. W debacie o przyszłości AI alignment oznacza też szersze pytanie: jak zapewnić, żeby coraz potężniejsze systemy robiły to, czego naprawdę chcemy - a nie to, co literalnie każe im źle sformułowany cel.
Pojęcia powiązane