AG2 1.3.2的缓存Token统计与旧预算怎样对应

橘子海
橘子海
发布时间:2026-11-16| 4人浏览过
原创

AG2 1.3.2统一缓存Token统计并更新ACP1.x依赖;解释预算提前触达、报表口径与Python3.15构建限制。

在AG2 1.3.2中,prompt_tokens统一代表包含缓存读写的完整输入。旧的TokenMonitor阈值因此可能提前触发;另一个独立兼容变化是ACP扩展切换到agent-client-protocol 1.x,不能继续锁在0.12.x。

AG2

缓存读写是输入的一部分,不要再加一次

过去OpenAI与Gemini把缓存Token包含在输入中,Anthropic和Bedrock却只报告未缓存部分,跨提供商汇总缺乏统一含义。1.3.2把统一放在提供商映射层:prompt_tokens是完整输入,cache_read_input_tokens与cache_creation_input_tokens是其中的组成部分,不是额外加项;total_tokens至少覆盖prompt_tokens加completion_tokens。

AG2 1.3.2用量统计、ACP及Python兼容说明

因此,读取了大量缓存的Anthropic或Bedrock任务,在新版本中输入与总Token、遥测输入指标都会变大。TokenMonitor按这类指标判断阈值时可能更早停止。已有旧版本保存的Usage不会被重写,新旧报表直接并排比较时,必须考虑统计口径不同。

Token预算与费用不是同一件事

缓存读写采用何种计费规则,仍取决于服务提供商;本次变化统一的是用量字段。若把cache_read_input_tokens再次加到prompt_tokens上,会重复计算。Gemini Live的思考Token也纳入completion_tokens,使用思考模型的完成Token和总Token因此可能上升,预算受影响的范围不只一种提供商。

ACP 1.x不仅是改一个依赖数字

acp扩展现在要求agent-client-protocol>=1.0.0,<2,不支持0.12.x。消息块由过去拼成一个字符串改为独立ModelMessage事件,reply.body代表Agent最后一条消息,而不是整个过程中说过的一切。资源、链接和工具结果结构保留更完整;工作目录及additional_directories在会话启动时解析为绝对路径。

如果下游代码依赖旧的整段拼接文本,就不能只检查安装成功。BridgeState.turn_text改为turn_messages,ag2.acp.AuthMethod移除了SDK已经取消的环境变量方法,PermissionPolicy从ag2.acp导出。这些接口变化与模型调用是否能连通是不同层面的兼容性。

多问题决策与Python 3.15的限制

决策Agent可用平坦的类作为response_schema,一次请求处理多个字段问题,支持dataclass、TypedDict与Pydantic模型;原来的标量模式仍代表一个问题。嵌套、Optional、默认值或缺少问题定义的字段会在本地被拒绝,不能据此认为任意复杂结构都能发送。

AG2新增Python 3.15测试和支持声明,但其必需依赖PyYAML尚无对应轮子时,安装会从源码构建,需要C编译器;Windows没有构建工具可能失败。框架声明支持某个Python版本,不等于所有依赖都已有免编译安装包。

免责声明:本文内容仅供参考,不代表本站观点。转载或引用请注明出处。

Python 相关产品和应用

全部下载
Selenium

Selenium

4.51.0 · Windows

用于浏览器自动化和 Web 测试的 Python 工具。

scikit-learn

scikit-learn

1.9.1 · Windows

常用 Python 机器学习算法与模型评估工具库。

Black

Black

26.10.1 · Windows

强调一致性的 Python 自动代码格式化工具。

Ruff

Ruff

0.17.1 · macOS

由 Rust 编写的高速 Python 代码检查和格式化工具。

pytest

pytest

9.1.1 · Windows

简洁而强大的 Python 自动化测试框架。

FastAPI

FastAPI

0.146.0 · Windows

高性能 Python API 框架,支持类型提示和自动接口文档。

Flask

Flask

3.1.3 · Windows

轻量灵活的 Python Web 应用框架。

Django

Django

6.1.2 · Windows

成熟的 Python Web 框架,适合构建内容站点和业务系统。

Spyder

Spyder

6.1.7 · Windows

面向科学计算与数据分析的 Python 集成开发环境。

SciPy

SciPy

1.18.1 · Windows

面向科学、工程和技术计算的 Python 算法库。