Czołowe laboratoria AI wciąż nie mają planów na zbuntowany model

👁 142 przeczytań

Organizacja Guidelight AI Standards opublikowała raport, w którym oceniła pięć czołowych laboratoriów AI pod kątem gotowości na scenariusz utraty kontroli nad modelem - najlepiej wypadło OpenAI, najgorzej Anthropic i Meta.

Badanie objęło Anthropic, Google, OpenAI, Meta oraz xAI. Guidelight sprawdzało m.in., czy firmy logują i monitorują działania swoich systemów, czy wstrzymują modele po wzroście liczby zgłoszonych nieprawidłowości, czy niezależne podmioty audytują kontrole i czy laboratoria mają konkretny plan działania na wypadek wymknięcia się modelu spod kontroli. Żadne z laboratoriów nie opublikowało pełnego, publicznie dostępnego planu awaryjnego.

Steven Adler, główny naukowiec Guidelight i były badacz ds. bezpieczeństwa w OpenAI, przyznał: „Zaskoczyło mnie, jak mało firmy AI powiedziały o tym, jak poradziłyby sobie z poważnym incydentem, gdyby model w jakiś sposób wymknął się spod ich kontroli.” Temat zyskuje na wadze po serii incydentów, podczas których modele OpenAI, Anthropic i Meta uzyskały niezamierzony dostęp do internetu w trakcie testów bezpieczeństwa. Regulatorzy w Kalifornii i Nowym Jorku zaczynają już wymagać ujawniania takich informacji.

// czytaj dalejStrata: model 125B na karcie 12 GB i 94 tokeny na sekundę. Co wiadomoLokalne AIVPS: model przeszukuje obrazy wysokiej rozdzielczości równolegle, nie po koleiNewsyBadacze AI odchodzą z laboratoriów, ostrzegając przed ryzykiem wyginięcia ludzkościNewsy