​

Streaming + chunking

• Streaming a blocchi (canali): emette blocchi completati mentre l’assistente scrive. Si tratta di normali messaggi del canale (non delta di token).
• Preview streaming (Telegram/Discord/Slack): aggiorna un messaggio di anteprima temporaneo durante la generazione.

​

Streaming a blocchi (messaggi del canale)

Output del modello
  └─ text_delta/events
       ├─ (blockStreamingBreak=text_end)
       │    └─ il chunker emette blocchi man mano che il buffer cresce
       └─ (blockStreamingBreak=message_end)
            └─ il chunker svuota il buffer a message_end
                   └─ invio al canale (risposte a blocchi)

• text_delta/events: eventi di streaming del modello (possono essere radi per i modelli non streaming).
• chunker: EmbeddedBlockChunker che applica limiti min/max + preferenza di interruzione.
• channel send: messaggi effettivi in uscita (risposte a blocchi).

• agents.defaults.blockStreamingDefault: "on"/"off" (predefinito off).
• Override per canale: *.blockStreaming (e varianti per account) per forzare "on"/"off" per canale.
• agents.defaults.blockStreamingBreak: "text_end" o "message_end".
• agents.defaults.blockStreamingChunk: { minChars, maxChars, breakPreference? }.
• agents.defaults.blockStreamingCoalesce: { minChars?, maxChars?, idleMs? } (unisce i blocchi in streaming prima dell’invio).
• Limite rigido del canale: *.textChunkLimit (ad esempio channels.whatsapp.textChunkLimit).
• Modalità chunk del canale: *.chunkMode (length predefinito, newline divide sulle righe vuote, cioè ai confini dei paragrafi, prima del chunking per lunghezza).
• Limite morbido Discord: channels.discord.maxLinesPerMessage (predefinito 17) divide le risposte alte per evitare il clipping nell’interfaccia.

• text_end: trasmette i blocchi non appena il chunker li emette; svuota il buffer a ogni text_end.
• message_end: attende che il messaggio dell’assistente termini, poi svuota l’output bufferizzato.

​

Algoritmo di chunking (limiti basso/alto)

• Limite basso: non emette finché il buffer non è >= minChars (a meno che non sia forzato).
• Limite alto: preferisce divisioni prima di maxChars; se forzato, divide a maxChars.
• Preferenza di interruzione: paragraph → newline → sentence → whitespace → interruzione rigida.
• Code fence: non divide mai all’interno delle fence; quando è forzato a maxChars, chiude e riapre la fence per mantenere valido il Markdown.

​

Coalescenza (unione dei blocchi in streaming)

• La coalescenza attende intervalli di inattività (idleMs) prima di svuotare il buffer.
• I buffer sono limitati da maxChars e vengono svuotati se lo superano.
• minChars impedisce l’invio di frammenti minuscoli finché non si accumula abbastanza testo (lo svuotamento finale invia sempre il testo rimanente).
• Il separatore deriva da blockStreamingChunk.breakPreference (paragraph → \n\n, newline → \n, sentence → spazio).
• Sono disponibili override per canale tramite *.blockStreamingCoalesce (incluse le configurazioni per account).
• Il valore predefinito di coalescenza minChars viene portato a 1500 per Signal/Slack/Discord salvo override.

​

Ritmo umano tra i blocchi

• Configurazione: agents.defaults.humanDelay (override per agente tramite agents.list[].humanDelay).
• Modalità: off (predefinita), natural (800–2500ms), custom (minMs/maxMs).
• Si applica solo alle risposte a blocchi, non alle risposte finali o ai riepiloghi degli strumenti.

​

”Trasmettere i chunk o tutto”

• Trasmettere i chunk: blockStreamingDefault: "on" + blockStreamingBreak: "text_end" (emette man mano). I canali non Telegram richiedono anche *.blockStreaming: true.
• Trasmettere tutto alla fine: blockStreamingBreak: "message_end" (svuota una volta sola, eventualmente in più chunk se è molto lungo).
• Nessuno streaming a blocchi: blockStreamingDefault: "off" (solo risposta finale).

​

Modalità di preview streaming

• off: disabilita il preview streaming.
• partial: singola anteprima che viene sostituita con il testo più recente.
• block: l’anteprima si aggiorna in passaggi suddivisi in chunk/aggiunti.
• progress: anteprima di avanzamento/stato durante la generazione, risposta finale al completamento.

​

Mappatura per canale

• channels.slack.nativeStreaming abilita/disabilita le chiamate API di streaming nativo di Slack quando streaming=partial (predefinito: true).

• Telegram: streamMode + booleano streaming vengono migrati automaticamente all’enum streaming.
• Discord: streamMode + booleano streaming vengono migrati automaticamente all’enum streaming.
• Slack: streamMode viene migrato automaticamente all’enum streaming; il booleano streaming viene migrato automaticamente a nativeStreaming.

​

Comportamento a runtime

• Usa gli aggiornamenti di anteprima sendMessage + editMessageText tra DM e gruppi/topic.
• Il preview streaming viene saltato quando lo streaming a blocchi di Telegram è esplicitamente abilitato (per evitare doppio streaming).
• /reasoning stream può scrivere il ragionamento nell’anteprima.

• Usa messaggi di anteprima con invio + modifica.
• La modalità block usa il chunking delle bozze (draftChunk).
• Il preview streaming viene saltato quando lo streaming a blocchi di Discord è esplicitamente abilitato.

• partial può usare lo streaming nativo di Slack (chat.startStream/append/stop) quando disponibile.
• block usa anteprime bozza in stile append.
• progress usa testo di anteprima dello stato, poi la risposta finale.

​

Correlati

• Messaggi — ciclo di vita e consegna dei messaggi
• Retry — comportamento di retry in caso di errore di consegna
• Canali — supporto dello streaming per canale