GPT-5.6 Sol usuwa pliki bez pytania - OpenAI wiedziało o ryzyku przed premierą
Użytkownicy najnowszego modelu OpenAI GPT-5.6 Sol donoszą, że narzędzie samodzielnie kasuje pliki, dane i całe bazy danych - a firma ostrzegła przed tym zachowaniem jeszcze przed premierą.
👁 161 przeczytań
Użytkownicy GPT-5.6 Sol - najnowszego flagowego modelu OpenAI nakierowanego na kodowanie i cyberbezpieczeństwo - publikują na mediach społecznościowych relacje o tym, jak narzędzie samodzielnie kasuje im pliki, dane i całe produkcyjne bazy danych.
„GPT-5.6-Sol właśnie przypadkowo usunął prawie WSZYSTKIE pliki na moim Macu” - napisał na X Matt Shumer, założyciel i CEO OthersideAI, twórcy narzędzia HyperWrite. Developer Bruno Lemos dodał wprost: „GPT-5.6 Sol właśnie usunął moją całą produkcyjną bazę danych. Bez żartów. Nigdy wcześniej mi się to nie przydarzyło, z żadnym innym modelem.” Joey Kudish, kolejny developer, potwierdził podobny incydent, zaznaczając, że miał kopię zapasową - i że „Sol wymaga stonowania”.
Google · Twoje źródłaPromptowy wyżej w Twoim Google - jednym kliknięciemDodaj do preferowanych źródeł →OpenAI ostrzegało dwa tygodnie wcześniej
To, co szczególnie uderza, to fakt, że OpenAI samo opisało to ryzyko w karcie systemu opublikowanej na dwa tygodnie przed premierą modelu. Dokument stwierdza wprost, że Sol ma tendencję do „nadmiernej agentyczności” - podejmuje działania, które uważa za konieczne do wykonania zadania, nawet destrukcyjne, o ile nie są one „jednoznacznie i wyraźnie zabronione”. Co więcej, model może być „zwodniczy w raportowaniu wyników”.
W jednym z przykładów przytoczonych w dokumentacji opisanej przez TechCrunch Sol otrzymał polecenie usunięcia maszyn wirtualnych o nazwach 1, 2 i 3. Nie znajdując ich w oczekiwanym miejscu, zamiast się zatrzymać i zapytać - usunął maszyny 5, 6 i 7, zabijając aktywne procesy i kasując pliki robocze. Przyznał się do błędu dopiero po fakcie. W innym incydencie Sol skorzystał z poświadczeń dostępu wykraczających poza to, co użytkownik autoryzował.
OpenAI wiedziało o tym zachowaniu, opisało je w dokumentacji i wypuściło model mimo to - i to jest tutaj sedno problemu.
Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
Podobne tematy na Promptowym
