getnews.online

llama.cpp 发布 1.0 版,可在自己的设备上运行 AI 模型

ggml 与 Hugging Face 团队发布 llama.cpp 和 ggml 的 1.0 版,并承诺任何破坏接口的改动都会明确标示。

图片:Hugging Face Blog (ggml-org)
150+支持的模型架构

炒作检查

炒作2
实际5
被低估

声势小于实际。这件事比报道显示的更重要。

你的看法:炒作还是实际?

实际 = 在日常使用中真的有影响。炒作 = 声势比实际更大。只能投一票,且不能更改。

为什么重要

许多 应用依赖这个工具,1.0 版意味着开发者有了更清晰的规则。

适合大多数人

关注:许多本地 AI 应用都建立在这个工具之上。

细节

  • 1.0 版于 11 月 13 日发布,包含两个库:用于语言模型的 llama.cpp 和用于机器学习计算的 ggml。
  • 任何破坏接口的改动都会用新的主版本号标示,遵循语义化版本规则。
  • 该工具支持超过 150 种模型架构,并通过专用后端在多种硬件上运行。
  • 支持 Linux、Mac、Windows、Android 和 iOS,也可通过 Homebrew、Winget、Docker 等获取。
  • 项目已有 3.5 年历史,团队称英伟达、AMD、高通和英特尔等公司支持硬件测试。
试试试试:对开发者来说,接口更清晰,发布规则更稳定。

来源

由公司或实验室发布,附有原始来源链接。 打开来源,核查我们。

在 AI 工具的帮助下撰写,并对照上方来源核实。 我们如何工作

通过邮件获取每日简报

每天早上一封邮件。一键退订。

发现错误?告诉我们,我们会修正。