Stan AI 1-7 listopada: OpenAI wypuściło model z oceną „Krytyczny”, Anthropic trafi do sądu za opis planów Max

👁 111 przeczytań

OpenAI udostępniło GPT-6 Cyber wybranej grupie zweryfikowanych klientów - i samo przyznało mu ocenę „Krytyczny” w ramach własnego systemu bezpieczeństwa. To model stworzony do wykrywania i wykorzystywania luk w zabezpieczeniach, co czyni go pierwszym modelem OpenAI, który przy premierze publicznej trafił od razu do zamkniętego dostępu ze względu na ryzyko, a nie ze względu na niedojrzałość produktu. Jednocześnie brytyjskie Centrum Bezpieczeństwa Cybernetycznego NCSC ostrzegło, że złośliwe oprogramowanie napędzane AI z dużym prawdopodobieństwem uderzy w krytyczną infrastrukturę Wielkiej Brytanii przed 2028 rokiem. Oba zdarzenia razem pokazują, że narzędzia ofensywne w AI przestają być hipotetyczną kategorią.

Anthropic odpowie w sądzie za opis planów Max

Federalny sędzia w Kalifornii orzekł, że Anthropic musi odpowiedzieć na zarzuty wprowadzania klientów w błąd co do faktycznej ilości użycia w planach Claude Max za 100 i 200 dolarów miesięcznie. Zarzut dotyczy tego, że plan za 200 dolarów oferował według pomiarów użytkowników sześć razy więcej użycia niż plan za 100 dolarów - nie dwadzieścia, jak wynikało z marketingowych opisów. Sąd dopuszczający pozew to jeszcze nie wyrok, ale to pierwszy przypadek, gdy producent modelu frontowego trafi przed sąd za opis limitów swojego planu abonamentowego. Każda firma sprzedająca „nieograniczone” lub „wielokrotnie więcej” użycia będzie teraz przyglądać się temu procesowi.

Agent AI z uprawnieniami administratora w sieci Pentagonu przez dwa miesiące

WIRED opisał zarzuty wobec Accenture: prywatny agent Claude Code pracownika tej firmy miał działać dwa miesiące w sieci Departamentu Obrony USA z uprawnieniami administratora. Accenture zaprzecza, Pentagon milczy. Niezależnie od tego, czy zarzuty są w całości prawdziwe, przypadek ilustruje problem, który zna każda firma wdrażająca agentów: zakres uprawnień nadawanych narzędziom AI rzadko bywa audytowany z taką samą uwagą jak dostęp ludzkich pracowników.

Pluszowy miś z AI dla trzylatków i instrukcja kryzysowa

BBC opisało przypadek zabawki AI sprzedawanej w Wielkiej Brytanii dla dzieci od trzeciego roku życia, która odpowiedziała na pytanie niezwiązane z samookaleczeniem instrukcją kryzysową i informacją, że nie może pomóc w zabijaniu. Producent prawdopodobnie wbudował filtr bezpieczeństwa z dorosłego chatbota bez dostosowania go do możliwości poznawczych trzylatka - filtr zadziałał zgodnie z instrukcją i dał odpowiedź, której dziecko w tym wieku nie powinno w ogóle zobaczyć. Sprawa trafia w ten sam tydzień, w którym Apple ogłosiło, że od 12 stycznia 2027 roku wszystkie aplikacje z wirtualnymi towarzyszami AI dostaną w App Store ocenę 18+.

Czytasz Promptowego częściej? Dodaj go do preferowanych źródeł w Google, a nowe teksty będą wyżej w Twoich wynikach.

Sieć ponad 400 aplikacji ukrywała generator deepfake’ów

Ujawniono sieć ponad 400 powiązanych domen i aplikacji, które podszywały się pod codzienne usługi - naukę języków, trening fitness - a w rzeczywistości umożliwiały generowanie explicite materiałów deepfake, w tym scen z przemocą seksualną. Skala - 400 domen skoordynowanych pod jedną siecią dystrybucji - sprawia, że nie chodzi o incydent, ale o zorganizowaną infrastrukturę. W tym samym tygodniu Departament Sprawiedliwości USA postawił zarzuty trzem obcokrajowcom, którzy przy użyciu AI podszywali się pod prezesów i prawników i wyłudzili od firm ponad 129 milionów dolarów. Dwa zdarzenia, ten sam schemat: AI jako warstwa uwiarygodniająca przestępstwo, nie jego źródło.

W przyszłym tygodniu wchodzi w życie - według dostępnych informacji - kolejny etap wymogów App Store, a proces Anthropic wchodzi w fazę, w której strony będą składać pierwsze pisma procesowe.