Skip to content

【Managed Agent】流式交付与可恢复阅读

本文暂为大纲,正文待补充。

Agent的执行者可以是任意一台Worker,但用户正在看的页面连接在业务侧。流式交付要解决的不是“把字逐个推出来”这么简单,而是如何让执行与连接解耦,并在页面切换、短暂断线后仍能从正确的位置继续阅读。

Saki切走又回来的场景

  • Saki发出任务后切到另一个对话,Agent仍在后台工作。
  • 她回来时,需要看到已产生的内容,并继续收到后续增量。
  • 这条路径不能依赖某一次Redis通知恰好没有丢失。

平台内部如何产生增量

  • Worker接收模型或工具的增量结果,写入对话事件账。
  • 事件账保存事实;Redis等实时通道只用于唤醒和快速通知。
  • 一轮任务结束时,怎样记录消息完成与Turn完成。

业务侧如何交付给用户

  • 浏览器和Aviary Agent之间使用SSE保持用户可见的流。
  • 业务服务按Cursor从平台读取对话事件,再转发给页面。
  • Cursor怎样让重新连接从上次已读位置继续,而不是重复或遗漏内容。

需要继续推敲的点

  • Cursor、事件保留期与历史回放的边界。
  • 轮询、长连接和独立连接层的演进取舍。
  • 流式延迟、积压和用户可见状态的度量方式。