LiteLLM v1.108.10 如何改变异步 PDF 下载与 Claude 输出参数的处理?

陈默
陈默
发布时间:2026-11-18| 9人浏览过
原创

LiteLLM v1.108.10 把用户消息中的 PDF 下载移到异步客户端处理。针对 Vertex AI 版本化 Claude,无显式 max_tokens 时则使用模型映射上限。

LiteLLM 封面

文件消息为什么会返回 400

在 lts/1.108.x 分支上,Codestral 通过 OpenAI 兼容路径接收含 file 类型内容的异步聊天请求时,共享转换标志会让消息转换两遍,导致返回 400。v1.108.10 合入的回移补丁去掉该共享标志,消息转换在工作线程只执行一次。

LiteLLM v1.108.10 兼容接口异步转换与 PDF 下载的补丁说明

异步 PDF 处理的适用范围

过去流式请求遇到 PDF URL 时,下载可能卡在事件循环里,使并行流互相等待。补丁使用异步客户端预下载用户消息中的 PDF URL,再运行同步转换。对于工具消息,这条长期维护分支沿用上游透传 PDF URL 的处理方式。

Vertex AI Claude 的 4096 从哪里来

使用类似 claude-haiku-4-5@20251001 的版本化模型标识,且请求没有传 max_tokens 时,以前会用 4096 作为默认输出上限。补丁令这个分支改读模型的已映射上限,作用点是缺省值推断。调用方显式传入参数的情况与这一缺省逻辑不同。

LiteLLM v1.108.10 中版本化 Vertex AI Claude 的缺省上限修复

免责声明:本文内容仅供参考,不代表本站观点。转载或引用请注明出处。

Python 相关产品和应用

全部下载
Selenium

Selenium

4.51.0 · Windows

用于浏览器自动化和 Web 测试的 Python 工具。

scikit-learn

scikit-learn

1.9.1 · Windows

常用 Python 机器学习算法与模型评估工具库。

Black

Black

26.10.1 · Windows

强调一致性的 Python 自动代码格式化工具。

Ruff

Ruff

0.17.1 · macOS

由 Rust 编写的高速 Python 代码检查和格式化工具。

pytest

pytest

9.1.1 · Windows

简洁而强大的 Python 自动化测试框架。

FastAPI

FastAPI

0.146.0 · Windows

高性能 Python API 框架,支持类型提示和自动接口文档。

Flask

Flask

3.1.3 · Windows

轻量灵活的 Python Web 应用框架。

Django

Django

6.1.2 · Windows

成熟的 Python Web 框架,适合构建内容站点和业务系统。

Spyder

Spyder

6.1.7 · Windows

面向科学计算与数据分析的 Python 集成开发环境。

SciPy

SciPy

1.18.1 · Windows

面向科学、工程和技术计算的 Python 算法库。