메인 콘텐츠로 건너뛰기

명령 큐 (2026-01-16)

여러 agent 실행이 서로 충돌하지 않도록, 동시에 세션 간 안전한 병렬 처리는 허용하면서, 인바운드 자동 응답 실행(모든 채널)을 작은 프로세스 내 큐를 통해 직렬화합니다.

이유

  • 자동 응답 실행은 비용이 클 수 있으며(LLM 호출), 여러 인바운드 메시지가 짧은 간격으로 도착하면 서로 충돌할 수 있습니다.
  • 직렬화는 공유 리소스(세션 파일, 로그, CLI stdin)를 두고 경쟁하는 일을 방지하고 상위 시스템의 속도 제한 가능성을 줄입니다.

작동 방식

  • lane 인식 FIFO 큐가 각 lane을 구성 가능한 동시성 제한으로 비웁니다(구성되지 않은 lane의 기본값은 1, main 기본값은 4, subagent 기본값은 8).
  • runEmbeddedPiAgent는 세션당 활성 실행이 하나만 있도록 보장하기 위해 세션 키(lane session:<key>) 기준으로 큐에 넣습니다.
  • 그런 다음 각 세션 실행은 전체 병렬성이 agents.defaults.maxConcurrent에 의해 제한되도록 전역 lane(기본값 main)에 다시 큐잉됩니다.
  • 상세 로깅이 활성화되면, 큐에 대기 중이던 실행은 시작 전 약 2초 이상 기다렸을 경우 짧은 알림을 출력합니다.
  • 타이핑 인디케이터는 대기 순서를 기다리는 동안에도 사용자 경험이 바뀌지 않도록 큐에 넣는 즉시 계속 실행됩니다(채널에서 지원하는 경우).

큐 모드(채널별)

인바운드 메시지는 현재 실행을 조정하거나, 후속 턴을 기다리거나, 둘 다 할 수 있습니다:
  • steer: 현재 실행에 즉시 주입합니다(다음 도구 경계 이후 대기 중인 도구 호출을 취소함). 스트리밍 중이 아니면 followup으로 대체됩니다.
  • followup: 현재 실행이 끝난 뒤 다음 agent 턴에 큐잉합니다.
  • collect: 큐에 있는 모든 메시지를 하나의 후속 턴으로 병합합니다(기본값). 메시지가 서로 다른 채널/스레드를 대상으로 하면 라우팅을 유지하기 위해 개별적으로 배출됩니다.
  • steer-backlog(별칭 steer+backlog): 지금 steer하고 동시에 메시지를 후속 턴용으로 보존합니다.
  • interrupt(레거시): 해당 세션의 활성 실행을 중단한 뒤 최신 메시지를 실행합니다.
  • queue(레거시 별칭): steer와 동일합니다.
Steer-backlog는 조정된 실행 뒤에 후속 응답이 올 수 있음을 의미하므로, 스트리밍 표면에서는 중복처럼 보일 수 있습니다. 인바운드 메시지당 응답 하나를 원하면 collect/steer를 선호하세요. 독립 실행형 명령으로 /queue collect를 보내거나(세션별) messages.queue.byChannel.discord: "collect"를 설정하세요. 기본값(config에서 설정되지 않은 경우):
  • 모든 표면 → collect
messages.queue를 통해 전역 또는 채널별로 구성하세요:
{
  messages: {
    queue: {
      mode: "collect",
      debounceMs: 1000,
      cap: 20,
      drop: "summarize",
      byChannel: { discord: "collect" },
    },
  },
}

큐 옵션

옵션은 followup, collect, steer-backlog에 적용됩니다(steerfollowup으로 대체될 때도 적용됨):
  • debounceMs: 후속 턴을 시작하기 전에 조용한 시간을 기다립니다(“continue, continue” 방지).
  • cap: 세션당 최대 큐 메시지 수.
  • drop: 오버플로 정책(old, new, summarize).
Summarize는 드롭된 메시지의 짧은 글머리표 목록을 유지하고 이를 합성 후속 프롬프트로 주입합니다. 기본값: debounceMs: 1000, cap: 20, drop: summarize.

세션별 재정의

  • 현재 세션의 모드를 저장하려면 독립 실행형 명령으로 /queue <mode>를 보내세요.
  • 옵션은 조합할 수 있습니다: /queue collect debounce:2s cap:25 drop:summarize
  • /queue default 또는 /queue reset은 세션 재정의를 지웁니다.

범위 및 보장

  • gateway 응답 파이프라인을 사용하는 모든 인바운드 채널의 자동 응답 agent 실행에 적용됩니다(WhatsApp web, Telegram, Slack, Discord, Signal, iMessage, webchat 등).
  • 기본 lane(main)은 인바운드 + 기본 heartbeat 전반에서 프로세스 전체에 적용됩니다. 여러 세션을 병렬로 허용하려면 agents.defaults.maxConcurrent를 설정하세요.
  • 추가 lane(예: cron, subagent)이 존재할 수 있으므로 백그라운드 작업이 인바운드 응답을 막지 않고 병렬로 실행될 수 있습니다. 이러한 분리된 실행은 background tasks로 추적됩니다.
  • 세션별 lane은 한 번에 하나의 agent 실행만 특정 세션을 건드리도록 보장합니다.
  • 외부 의존성이나 백그라운드 worker 스레드는 없으며, 순수 TypeScript + promises만 사용합니다.

문제 해결

  • 명령이 멈춘 것처럼 보이면 상세 로그를 활성화하고 “queued for …ms” 줄을 찾아 큐가 배출되고 있는지 확인하세요.
  • 큐 깊이가 필요하면 상세 로그를 활성화하고 큐 타이밍 줄을 확인하세요.