​

Streaming + chunking

• Block streaming (канали): надсилає завершені блоки, поки асистент пише. Це звичайні повідомлення каналу (не дельти токенів).
• Preview streaming (Telegram/Discord/Slack): оновлює тимчасове preview message під час генерації.

​

Block streaming (повідомлення каналу)

Model output
  └─ text_delta/events
       ├─ (blockStreamingBreak=text_end)
       │    └─ chunker emits blocks as buffer grows
       └─ (blockStreamingBreak=message_end)
            └─ chunker flushes at message_end
                   └─ channel send (block replies)

• text_delta/events: події потоку моделі (можуть бути рідкісними для моделей без streaming).
• chunker: EmbeddedBlockChunker, який застосовує мінімальні/максимальні межі + пріоритет розриву.
• channel send: фактичні вихідні повідомлення (блокові відповіді).

• agents.defaults.blockStreamingDefault: "on"/"off" (типово вимкнено).
• Перевизначення для каналів: *.blockStreaming (і варіанти для окремих облікових записів), щоб примусово задати "on"/"off" для кожного каналу.
• agents.defaults.blockStreamingBreak: "text_end" або "message_end".
• agents.defaults.blockStreamingChunk: { minChars, maxChars, breakPreference? }.
• agents.defaults.blockStreamingCoalesce: { minChars?, maxChars?, idleMs? } (об’єднання блоків streaming перед надсиланням).
• Жорстке обмеження каналу: *.textChunkLimit (наприклад, channels.whatsapp.textChunkLimit).
• Режим chunking каналу: *.chunkMode (length типово, newline ділить за порожніми рядками (межами абзаців) перед chunking за довжиною).
• М’яке обмеження Discord: channels.discord.maxLinesPerMessage (типово 17) ділить високі відповіді, щоб уникнути обрізання в UI.

• text_end: передавати блоки в потоці, щойно їх видає chunker; flush на кожному text_end.
• message_end: чекати, доки повідомлення асистента завершиться, а потім flush буферизований вихід.

​

Алгоритм chunking (нижня/верхня межі)

• Нижня межа: не видавати, доки буфер не досягне minChars (якщо не примусово).
• Верхня межа: намагатися розривати до maxChars; якщо примусово, розривати на maxChars.
• Пріоритет розриву: paragraph → newline → sentence → whitespace → жорсткий розрив.
• Code fences: ніколи не розривати всередині fence; якщо розрив на maxChars примусовий, fence закривається й знову відкривається, щоб Markdown залишався коректним.

​

Coalescing (об’єднання блоків streaming)

• Coalescing чекає пауз без активності (idleMs) перед flush.
• Буфери обмежені maxChars і будуть скинуті, якщо перевищать його.
• minChars не дає надсилати крихітні фрагменти, доки не накопичиться достатньо тексту (під час фінального flush залишковий текст надсилається завжди).
• Joiner виводиться з blockStreamingChunk.breakPreference (paragraph → \n\n, newline → \n, sentence → пробіл).
• Для каналів доступні перевизначення через *.blockStreamingCoalesce (зокрема у конфігураціях для окремих облікових записів).
• Типове значення coalesce minChars підвищується до 1500 для Signal/Slack/Discord, якщо не перевизначено.

​

Людиноподібний темп між блоками

• Конфігурація: agents.defaults.humanDelay (можна перевизначити для окремого агента через agents.list[].humanDelay).
• Режими: off (типово), natural (800–2500 мс), custom (minMs/maxMs).
• Застосовується лише до блокових відповідей, а не до фінальних відповідей чи підсумків інструментів.

​

”Передавати chunk-и чи все одразу”

• Передавати chunk-и: blockStreamingDefault: "on" + blockStreamingBreak: "text_end" (видавати під час генерації). Для каналів, окрім Telegram, також потрібно *.blockStreaming: true.
• Передати все наприкінці: blockStreamingBreak: "message_end" (одноразовий flush, можливо з кількома chunk, якщо текст дуже довгий).
• Без block streaming: blockStreamingDefault: "off" (лише фінальна відповідь).

​

Режими preview streaming

• off: вимкнути preview streaming.
• partial: одне preview, яке замінюється найновішим текстом.
• block: preview оновлюється chunk-ами/додаваннями.
• progress: preview прогресу/статусу під час генерації, фінальна відповідь після завершення.

​

Зіставлення каналів

• channels.slack.nativeStreaming перемикає нативні виклики API streaming Slack, коли streaming=partial (типово: true).

• Telegram: streamMode + булевий streaming автоматично мігрують до enum streaming.
• Discord: streamMode + булевий streaming автоматично мігрують до enum streaming.
• Slack: streamMode автоматично мігрує до enum streaming; булевий streaming автоматично мігрує до nativeStreaming.

​

Поведінка runtime

• Використовує sendMessage + editMessageText для оновлення preview у DM і групах/темах.
• Preview streaming пропускається, якщо block streaming Telegram явно увімкнено (щоб уникнути подвійного streaming).
• /reasoning stream може записувати міркування в preview.

• Використовує надсилання + редагування preview message.
• Режим block використовує chunking чернетки (draftChunk).
• Preview streaming пропускається, якщо block streaming Discord явно увімкнено.

• partial може використовувати нативний streaming Slack (chat.startStream/append/stop), коли доступно.
• block використовує preview чернетки у стилі append.
• progress використовує preview тексту статусу, а потім фінальну відповідь.

​

Пов’язане

• Повідомлення — життєвий цикл і доставка повідомлень
• Повторні спроби — поведінка повторних спроб у разі збою доставки
• Канали — підтримка streaming для окремих каналів