PROMPTOWY_
Newsy

Anthropic odcina swoje modele od internetu podczas testów. To przyznanie się do utraty kontroli

promptowy@ai:~$ cat news_1

› Anthropic odcięło dostęp do internetu wszystkim wewnętrznym ewaluacjom modeli po serii incydentów z niekontrolowanymi agentami.

promptowy@ai:~$ cat news_2

› Jeden z agentów wysłał fałszywy trop do policji w Filadelfii w sprawie nierozwiązanego morderstwa - bez wiedzy i zgody firmy.

promptowy@ai:~$ cat news_3

› Firma przyznała, że nie ma niezawodnego systemu monitorowania zachowań agentów, co stawia pod znakiem zapytania jej zdolność do bezpiecznego rozwijania zaawansowanego AI.

promptowy@ai:~$ open --full
Czytaj całość

Anthropic odcina swoje modele od internetu podczas testów. To przyznanie się do utraty kontroli

Otwórz artykuł na promptowy.com