MoRSE: system wieloagentowy, w którym każdy agent ma własne parametry do roli i podzadania

👁 142 przeczytań

Systemy wieloagentowe oparte na dużych modelach językowych coraz częściej trafiają do zastosowań wymagających długich, złożonych zadań. Dotychczasowe podejścia różnicują agentów głównie przez odpowiednie sformułowanie promptu - jeden agent dostaje instrukcję „jesteś programistą”, drugi „jesteś testerem” i tak dalej. Autorzy artykułu MoRSE (Mixture of Role-Subtask Experts) twierdzą, że to za mało: różne role i różne typy podzadań wymagają różnych parametrów modelu, a nie tylko różnych tekstów wejściowych.

Na czym polega problem ze starymi metodami

Według autorów obecne systemy cierpią na dwa powiązane braki. Po pierwsze, agenci są zbyt podobni do siebie - „niewystarczająca heterogeniczność między agentami” to ich sformułowanie. Po drugie, każdy agent ma ograniczoną zdolność do specjalizacji, bo w gruncie rzeczy korzysta z tego samego modelu w identycznej konfiguracji parametrów. Efekt: gdy zadanie ma złożone wymagania, cały system napotyka na sufit wydajności.

Co wprowadza MoRSE

Rozwiązanie działa na trzech poziomach. Pierwszy to struktura zadania: każde zadanie jest rozkładane na podzadania ułożone w graf skierowany acykliczny (DAG), który uwzględnia zależności między krokami. Każdy agent dostaje przypisanie w postaci pary (rola, podzadanie), co autorzy nazywają specjalizacją na poziomie struktury zadania.

Drugi poziom to parametry. Autorzy proponują moduł dynamicznego Mixture of (role, subtask) LoRA Experts - zestaw małych adapterów LoRA, z których każdy jest wytrenowany pod konkretną kombinację roli i typu podzadania. Wyborem właściwego adaptera zajmuje się „prototype-based semantic router”, czyli router semantyczny oparty na prototypach. Całość działa na wspólnym modelu bazowym, co autorzy określają jako podejście kosztowo efektywne.

Trzeci poziom to trening. Wspólne optymalizowanie adapterów i routera w warunkach rzadkich nagród z zadań (sparse task rewards) jest niestabilne, bo decyzja routera wpływa na ocenę eksperta i odwrotnie. Autorzy proponują hierarchiczną grupową relatywną optymalizację polityki (hierarchical group-relative policy optimization) z dwuwarstwowym przypisaniem zasług (two-layer credit assignment). Celem jest odizolowanie aktualizacji ekspertów od wariancji wprowadzanej przez decyzje routingowe - innymi słowy: żeby jakość eksperta i jakość routera były oceniane niezależnie.

Jak testowano i co wyszło

Eksperymenty przeprowadzono na benchmarkach generowania kodu, używając trzech różnych modeli bazowych (artykuł nie wymienia ich nazw w abstrakcie). Autorzy raportują poprawę zarówno w wynikach całościowych (whole-task performance), jak i krokowych (step-wise performance). Istotna informacja: „gains from trained specialization generalize across held-out task categories and domains” - czyli poprawa przenosi się na kategorie zadań i domeny, których model nie widział podczas treningu. Artykuł liczy 25 stron, zawiera 8 rysunków i 9 tabel, ale dokładne liczby wyników nie pojawiają się w dostępnym abstrakcie.

Co z tego wynika

Moim zdaniem kluczowy pomysł w MoRSE to rozdzielenie jakości routingu od jakości eksperta podczas treningu - to konkretny problem inżynierski, który pojawia się w każdym systemie Mixture of Experts i autorzy proponują do niego odpowiedź. Słabością omówienia jest brak konkretnych liczb w abstrakcie: nie wiem, o ile procent poprawia się wynik i na jakich dokładnie benchmarkach. Generalizacja na niewidziane domeny brzmi obiecująco, ale bez tabel trudno ocenić skalę efektu. Artykuł wygląda na solidną propozycję techniczną skierowaną do badaczy budujących wieloagentowe pipeline’y, a nie na gotowe narzędzie do wdrożenia.

Źródło: arXiv cs.AI: MoRSE: Task-Oriented Multi-Agent System with Mixture of Role-Subtask Experts (dokument z 2026-08-11). To omówienie powstało na podstawie pełnego tekstu dokumentu, nie relacji innych mediów.

// czytaj dalejRLSVR: jak nauczyć model oceniać własne odpowiedzi bez ludzkiego sędziegoNewsyChiny zaczęły produkować własne maszyny litograficzne DUVNewsy57% firm widziało, jak agent AI pewnie się myliłNewsy