New Hot

Xinference 4.2.0 修复 Windows 启动与依赖安装,支持在 Web UI 内升级

XinferenceWindows依赖滚动升级

Xinference 4.2.0 支持在 Web UI 内检查并安装更新,按 Workers、Supervisor、API 顺序升级,并可逐个副本滚动重载模型。同时修复 Windows 服务重启、OCR 引擎依赖缺失、本地 model uri 无符号链接权限与悬空缓存链接等安装问题。

4.2.0 支持 Web UI 内升级,OCR 依赖自动安装

Xinference 4.2.0 修复了 Windows 服务无法重启、OCR 引擎依赖缺失、model uri 无符号链接权限无法启动与悬空缓存链接等问题。 变动覆盖 Windows、依赖解析与缓存链接。

Web UI 内升级

管理员可以在 Web UI 里检查并安装更新,按 Workers、Supervisor、API 的顺序升级。支持 vLLM 与 SGLang 的部署可以在请求收尾时保留 GPU 权重,逐个副本滚动重载。Web UI 还支持按新增副本配置 Worker 与 GPU 放置,并在模型启动时显示耗时。

依赖缺失与缓存

省略 --model-engine 时,OCR 引擎的依赖现在会自动安装;Kokoro 依赖里损坏的 preshed wheel 被排除。已失效的 Hugging Face 固定版本也会被替换,避免因 revision 不存在而拉取失败。命令行侧还修复了 engine like 启动时 size 与 quantization 不匹配的问题。

Windows 与服务重启

Windows 支持服务重新启动;本地 model uri 模型在没有符号链接权限时也能启动。悬空的 model uri 缓存链接会在 image、audio、video 与 world 模型上被替换。官方还把模型启动失败记录保留在 Web UI 中,方便区分加载中与已失败。(来源:Xinference 官方发布说明)

升级顺序固定为 Workers、Supervisor、API,跳过会混跑

滚动重载让升级不必整机停服,但升级顺序与缓存清理仍要按官方说明执行。 Windows 部署的可用性提升明显。

顺序升级

Workers、Supervisor、API 必须按顺序升级。从官方描述看,跳过顺序可能让新旧组件在同一集群里混跑,表现为模型无法调度或接口不兼容。服务端对非 LLM 端点的非法请求会返回 400;jina-embeddings-v2-base-en 的维度报告修正为 768。

缓存与工作目录

prepared-Python Worker 重启时不再把工作目录带进新进程,减少路径污染。模型缓存链接失效时会被替换而不是直接报错。向量维度与重排文件的修复也减少了模型加载后的报错。

前缀缓存

Xavier 支持跨 vLLM、SGLang、TRT-LLM 与 MLX 副本共享兼容前缀,并新增 Mooncake Store 存储。Agent 等待工具结果时可以优先保留 KV 前缀。

Windows 部署与需要 OCR 的团队建议升级

Windows 部署、使用 OCR 或依赖滚动升级的团队建议升级。 稳定运行的 Linux 单机可以按计划跟进。

谁适合先升级

Windows 上跑 Xinference、配置本地 model uri、或需要不停机重载模型的团队优先。使用 Mooncake Store 与 Xavier 的场景也能直接受益。

升级方式

官方给出的入口是 Web UI 的检查更新,并按 Workers、Supervisor、API 顺序安装;命令行升级方式官方未披露。

出问题怎么排查

模型启动失败先看引擎依赖是否装全,尤其是省略 --model-engine 的 OCR 场景;Windows 启动异常检查服务权限与符号链接限制;缓存报错时核对 model uri 链接状态。也可以参考 SGLang 0.5.23 部署升级:TPU 平台支持、Docker 镜像标签与单卡显存策略怎么调整。

常见问题

Xinference 4.2.0 怎么在 Web UI 内升级?
管理员可以在 Web UI 中检查并安装更新,按 Workers、Supervisor、API 的顺序升级。
Xinference 4.2.0 修复了 Windows 上的哪些启动问题?
支持服务重新启动,本地 model uri 模型在没有符号链接权限时也能启动。
Xinference 4.2.0 的 OCR 依赖还会缺吗?
省略 --model-engine 时,OCR 引擎依赖现在会自动安装。
Xinference 4.2.0 的滚动重载怎么工作?
受支持的 vLLM 与 SGLang 部署可以保留 GPU 权重,逐个副本重载,旧实例继续处理进行中的请求。

相关术语

Workers
Workers 是 Xinference 集群中实际执行模型推理的进程或节点。
Supervisor
Supervisor 是 Xinference 的管理组件,负责调度与协调 Worker。
滚动重载
滚动重载是逐个替换模型副本的升级方式,避免整机停服。
model uri
model uri 是模型文件或缓存的位置标识,本版修复了它在 Windows 上的链接与悬空问题。

这篇文章的来源是什么?

文中涉及版本、价格与功能的信息,均以厂商原文为准;下面是可以核对的原始出处。

  • v4.2.0 · Xinference · 2026-11-12
「v4.2.0」 —— Xinference

搜索文章

输入关键词,快速查找标题和正文内容。