llama.cpp 发布 1.0 版,可在自己的设备上运行 AI 模型
ggml 与 Hugging Face 团队发布 llama.cpp 和 ggml 的 1.0 版,并承诺任何破坏接口的改动都会明确标示。

llama.cpp 是一个能让 AI 在你自己的设备上、不用联网就能运行的程序。它升到了 1.0 版,开发者承诺有大改动时会清楚告知。
150+支持的模型架构
炒作检查
炒作2
实际5
声势小于实际。这件事比报道显示的更重要。
这是我们基于下方来源给出的编辑观点。 我们如何评分
你的看法:炒作还是实际?
实际 = 在日常使用中真的有影响。炒作 = 声势比实际更大。只能投一票,且不能更改。
我们的看法和读者的看法都是观点,不是对产品的事实陈述。
为什么重要
许多 应用依赖这个工具,1.0 版意味着开发者有了更清晰的规则。
适合大多数人
关注:许多本地 AI 应用都建立在这个工具之上。
细节
- 1.0 版于 11 月 13 日发布,包含两个库:用于语言模型的 llama.cpp 和用于机器学习计算的 ggml。
- 任何破坏接口的改动都会用新的主版本号标示,遵循语义化版本规则。
- 该工具支持超过 150 种模型架构,并通过专用后端在多种硬件上运行。
- 支持 Linux、Mac、Windows、Android 和 iOS,也可通过 Homebrew、Winget、Docker 等获取。
- 项目已有 3.5 年历史,团队称英伟达、AMD、高通和英特尔等公司支持硬件测试。
试试试试:对开发者来说,接口更清晰,发布规则更稳定。
来源
由公司或实验室发布,附有原始来源链接。 打开来源,核查我们。
在 AI 工具的帮助下撰写,并对照上方来源核实。 我们如何工作
发现错误?告诉我们,我们会修正。