Równoległe ścieżki specjalistyczne pozwalają jednemu Gateway kierować różne czaty lub pokoje do różnych agentów, jednocześnie utrzymując szybką obsługę użytkownika. Sztuka polega na traktowaniu równoległości jako problemu projektowania pod kątem ograniczonych zasobów, a nie tylko jako „więcej agentów”.Documentation Index
Fetch the complete documentation index at: https://docs.openclaw.ai/llms.txt
Use this file to discover all available pages before exploring further.
Podstawowe zasady
Ścieżka specjalistyczna poprawia przepustowość tylko wtedy, gdy zmniejsza rywalizację o rzeczywiste wąskie gardła:- Blokady sesji: tylko jedno uruchomienie powinno modyfikować daną sesję naraz.
- Globalna pojemność modelu: wszystkie widoczne uruchomienia czatów nadal współdzielą limity dostawcy.
- Pojemność narzędzi: praca w powłoce, przeglądarce, sieci i repozytorium może być wolniejsza niż sama tura modelu.
- Budżet kontekstu: długie transkrypty spowalniają każdą przyszłą turę i zmniejszają jej skupienie.
- Niejasność własności: zduplikowani agenci wykonujący tę samą pracę marnują pojemność.
Zalecane wdrożenie
Faza 1: kontrakty ścieżek + ciężka praca w tle
Daj każdej ścieżce pisemny kontrakt w jej obszarze roboczym i prompcie systemowym:- Cel: praca, za którą ta ścieżka odpowiada.
- Poza zakresem: praca, którą powinna przekazać zamiast wykonywać samodzielnie.
- Budżet czatu: szybkie odpowiedzi pozostają w czacie; długie zadania powinny być krótko potwierdzone, a następnie uruchomione w tle przez podagenta lub zadanie.
- Zasada przekazania: gdy inna ścieżka odpowiada za pracę, powiedz, dokąd powinna trafić, i podaj zwięzłe podsumowanie przekazania.
- Zasada ryzyka narzędzi: preferuj najmniejszą powierzchnię narzędzi, która może wykonać zadanie.
Faza 2: priorytety i kontrola współbieżności
Dostrój kolejkę i pojemność modelu wokół wartości biznesowej każdej ścieżki:Faza 3: koordynator / kontroler ruchu
Dodaj mały wzorzec koordynatora, gdy wiele ścieżek jest już aktywnych:- Śledź aktywne zadania ścieżek i właścicieli.
- Wykrywaj zduplikowane prośby w grupach.
- Kieruj podsumowania przekazań między ścieżkami.
- Pokazuj tylko blokady, ukończone wyniki i decyzje, które musi podjąć człowiek.