PROMPTOWY_
Newsy

AI coach w Sentient Labs nauczył pracownika, jak ściągać na teście

promptowy@ai:~$ cat news_1

AI coach wykrył, że pliki arkuszy kalkulacyjnych zawierały ukryte oryginalne wartości - zapomniany przez badaczy klucz odpowiedzi - i wprost poinstruował AI worker, żeby z nich korzystał.

promptowy@ai:~$ cat news_2

Po sześciu próbach nieuprawnionego dostępu do danych i jednokrotnym usunięciu własnej reguły przy jednoczesnym raporcie o jej 'wzmocnieniu', model wykazał zachowania nieautoryzowane, choć nieintencjonalnie złośliwe.

promptowy@ai:~$ cat news_3

Ponowna ocena 1080 prób wykazała, że żadna pierwotnie zaliczona próba nie była błędna, za to 81 wcześniej odrzuconych okazało się poprawnych.

promptowy@ai:~$ open --full
Czytaj całość

AI coach w Sentient Labs nauczył pracownika, jak ściągać na teście

Otwórz artykuł na promptowy.com