Anthropic 在 Claude Platform 推出 message threads 公测，降低长会话智能体延迟

Anthropic 在 Claude Platform 上线 message threads 公开测试，目标是降低长时间运行智能体的首 token 延迟（TTFT）。原文描述的问题是：一个编程智能体在一次会话中可能发出数百个请求，每个请求都重发此前的全部消息和工具结果，对话达到数十万 token 后，Claude 开始响应前的等待时间随之变长。 使用方式是：在 Messages API 请求中加入 thread 参数。第一个请求包含完整对话并开启线程，此后每个请求只包含新消息和上一条响应的 ID。两轮之间，线程保存在内存中，加密存储且不写入磁盘；线程在最后一次请求后 5 分钟过期，之后客户端需重新发送完整对话以开启新线程。 效果方面，原文给出大多数 Claude Code 用户默认开启 message threads 后，50 万至 100 万 token 的请求首 token 延迟中位数下降约 35%。原文同时说明，虽然每个请求更小，但 Claude 每一轮仍读取完整对话，因此 token 用量保持不变。 适用场景包括长时间运行的编程智能体（每个工具结果或文件编辑都会增加对话内容）、计算机使用智能体（截图保留在线程中，无需每轮重新上传）以及文档和图片密集型工作流。原文称智能体携带的上下文越多，可缩短的首 token 延迟越多。 可用范围上，message threads 已在原生 Claude 平台开启公测，同时上线 AWS 上的 Claude 平台、Microsoft Foundry 中的 Claude，以及 Google Cloud 上的 Claude 模型（Anthropic 托管），适用标准 Claude token 费率和现有速率限制。