llama.cpp 新技能：MoE GPU 缓存

套利逻辑

llama.cpp 项目提交了为 MoE 专家模型增加主机内存 GPU 缓存的 PR，并现身 Computex 舞台。该 PR 旨在提升混合专家模型在消费级硬件的推理效率。 llama.cpp 是本地大模型运行的重要工具，MoE 缓存优化直接关系个人开发者跑大模型的体验，技术社区关注度高。