New Hot

LocalAI 4.12.0 升级修复节点级后端移除与模型导入异常,自托管日常部署与升级该如何调整策略

LocalAI后端模型导入自托管

LocalAI 4.12.0 把后端维护、远程模型导入与节点刷新改成可追踪流程:支持从指定节点确认移除单个后端构建,刷新失败时保留上次清单,导入转为后台 gallery 任务。按模型统计的磁盘占用也改了口径,自托管部署需要调整容量规划与升级节奏。

4.12.0 支持按节点移除后端,刷新失败保留上次清单

LocalAI 4.12.0 支持从选定节点确认移除单个后端构建、刷新失败保留上次清单,并把远程模型导入改成可追踪的 gallery 任务。 这是偏运维的一次更新。

节点级后端移除

Backends 现在支持从选定节点确认移除一个具体构建,保护检查与冲突锁会阻止在其他操作进行时删除。刷新失败时会保留上一次的已知清单,而不是报告未经验证的空状态。(来源:LocalAI 官方发布说明)

导入改成可追踪任务

远程手动导入改为受跟踪的 gallery 任务,导入页面与编辑器会等待获取成功,并显示失败或取消。队列中的导入可以套用推荐的推理默认值,复现配置时需要显式设置关键参数。

存储与分布式

按模型的磁盘统计会区分共享文件与模型专属文件,汇总时去重共享字节;界面显示的模型大小不等于删除后能回收的空间。分布式侧新增尝试级加载取消、租约与配置重同步。

磁盘统计包含共享文件,删除模型未必回收空间

多节点部署的删除与刷新更安全,但磁盘统计的读法变了,不能再用模型大小估算释放空间。 导入流程也需要重新适应。

删除与保护

节点级删除带保护检查和冲突锁,减少了误删共享后端的机会。刷新失败保留旧清单,排查时可以区分“真的为空”和“没取到”。

容量规划

共享文件在汇总时去重,单个模型的显示大小包含共享部分,删除它未必回收同等空间。做容量规划时要看按模型区分的明细。

安装形态预告

官方说明这次是后续 addon 支持的准备,计划把 Studio、Talk 等组件迁到按需安装的 add-on。近期部署需要留意组件拆分。

多节点自托管与依赖后端热维护的部署建议升级

多节点自托管、依赖后端热维护或需要 Qdrant 持久化的部署建议升级。 单机试用可以按计划跟进。

谁适合先升级

使用 PostgreSQL/NATS 分布式架构、需要节点级后端管理的团队优先;在意 add-on 迁移节奏的团队也应先评估。

升级方式

版本标签为 v4.12.0,官方发布页没有给出统一的升级命令或镜像标签,按现有部署方式替换版本即可。升级前备份模型目录与数据库。

出问题怎么排查

后端删除失败先看保护检查与冲突锁提示;刷新列表为空时确认是否保留了上次清单;导入卡住时查看 gallery 任务状态。同类自托管升级也可以参考 Dify 1.20.0 升级:OpenTelemetry 追踪、文件扫描与 Langfuse 端点迁移。

常见问题

LocalAI 4.12.0 修复了哪个后端维护问题?
支持从选定节点确认移除一个具体构建,并用保护检查与冲突锁阻止在冲突操作期间删除。
LocalAI 4.12.0 刷新节点失败会怎样?
会保留上一次已知的后端清单,而不是报告未经验证的空状态。
LocalAI 4.12.0 的模型导入有什么变化?
远程手动导入改为受跟踪的 gallery 任务,导入页面与编辑器会等待获取成功并显示失败或取消。
LocalAI 4.12.0 的磁盘统计能直接估算释放空间吗?
不能,显示大小包含共享文件,删除某个模型未必回收同等空间。

相关术语

节点
节点是 LocalAI 部署中运行后端的单台机器,本版支持按节点管理后端构建。
gallery 任务
gallery 任务是 LocalAI 中带状态跟踪的模型导入作业,失败与取消都会显示。
后端
后端是实际执行推理的运行时组件,不同模型可以绑定不同后端构建。
租约
租约是分布式调度中限定资源占用时间的凭据,本版增加了尝试级加载取消与租约。

这篇文章的来源是什么?

文中涉及版本、价格与功能的信息,均以厂商原文为准;下面是可以核对的原始出处。

「v4.12.0」 —— LocalAI

搜索文章

输入关键词,快速查找标题和正文内容。