NewHot /主题/开源与运行时
1 篇动态 · 0 次模型发布 · 1 个频道 · 更新至 2026-11-18
llama.cpp
llama.cpp b12503 集中修复 OpenVINO 后端的显存占用、SWA 识别与 -fa off 启动问题:GPU 无状态模式改用 4-D KV cache,减少每步解码的整块复制;-fa off 在状态模式下会回退到无状态执行并给出警告,同时还加入了新的环境变量开关。
搜索文章
输入关键词,快速查找标题和正文内容。