Modele AI prowadziły firmę przez 500 dni - tylko trzy nie zbankrutowały
W teście CEO-Bench z Princeton modele AI prowadziły fikcyjną firmę przez 500 symulowanych dni - większość zbankrutowała.
👁 153 przeczytań
Badacze z Uniwersytetu Princeton zbudowali CEO-Bench - test, w którym agent AI ma prowadzić fikcyjną firmę software’ową przez 500 symulowanych dni, a o wyniku decyduje stan gotówki na koniec. Tylko trzy modele zakończyły grę powyżej kapitału początkowego. Większość zbankrutowała, a prosta reguła decyzyjna bez żadnej AI pokonała niemal wszystkich agentów.
W symulacji agent kieruje firmą subskrypcyjną o nazwie NovaMind. Punkt wyjścia: zero klientów i milion dolarów na koncie. Jeśli saldo choć raz spadnie poniżej zera, firma bankrutuje i symulacja się kończy. Agent steruje przedsiębiorstwem przez API w Pythonie z 34 narzędziami i bazą danych liczącą 19 tabel - zamiast wydawać pojedyncze polecenia, sam pisze kod, odpytuje bazę przez SQL i buduje własne procesy.
Decyzji jest mnóstwo: ceny i pakiety, budżety reklamowe w różnych kanałach, jakość produktu i prace badawczo-rozwojowe, pojemność infrastruktury, obsługa klienta oraz wieloetapowe negocjacje z klientami korporacyjnymi. Do tego dochodzi symulowana sieć społecznościowa, w której agent czyta skargi, wiadomości o konkurencji i trendy gospodarcze, a sam też publikuje.
Tym, co czyni zadanie trudnym, jest czas i niepewność. Przychody pojawiają się dopiero w dniach rozliczeń, projekty badawcze trwają dni lub tygodnie, a skutki błędów ujawniają się z opóźnieniem - przez odpływ klientów lub nadszarpniętą reputację. Koszty uderzają od razu, a dużą część stanu firmy agent ma ukrytą i musi ją wyczytać z zaszumionych sygnałów.
Autorzy nazywają tę umiejętność „inteligencją sterowania” i odróżniają ją od wąskich zadań, w których agenci są coraz lepsi. Jako wzór podają Apple z 1997 roku - 90 dni od bankructwa - gdy Steve Jobs narysował prostą siatkę dwa na dwa i zdecydował, że firma robi produkty tylko w czterech polach.
Pełny opis benchmarku znajdziesz w pracy na arXiv.
Wynik nie zaskakuje: prowadzenie organizacji przez setki dni to wciąż inny problem niż naprawienie jednego błędu w kodzie.
Google · Twoje źródłaPromptowy wyżej w Twoim Google - jednym kliknięciemDodaj do preferowanych źródeł →Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →


