getnews.online

AMD 在 NPU 上运行 350 亿参数大模型

AMD 为 Unsloth Desktop 增加 XDNA 2 NPU 支持,AI 模型可在本地运行,无需云端。

35B演示模型参数量

炒作检查

炒作4
实际4
名副其实

声势与实际变化相符。

你的看法:炒作还是实际?

实际 = 在日常使用中真的有影响。炒作 = 声势比实际更大。只能投一票,且不能更改。

为什么重要

在 上运行模型可减轻 CPU 和显卡负担,也让笔记本更省电。

适合大多数人

跳过:面向高配电脑用户的消息。

细节

  • AMD 与 Unsloth 演示了在 NPU 上运行 350 的 Qwen 3.6 模型。
  • 这是 Unsloth Desktop 首次支持 NPU,适用于 XDNA 2 架构。
  • 运行依赖 Lemonade 和 FastFlowLM。
  • 完整上下文需要约 28 GB 分配给 NPU;按 Windows 默认设置,需要 64 GB 系统内存。
  • Unsloth Desktop 的 可连接 100 多个应用,包括 Cline、Open WebUI 和 Visual Studio Code。
关注关注:AMD 的演示,等待独立测试。

来源

一家可信媒体报道,尚未确认。 打开来源,核查我们。

在 AI 工具的帮助下撰写,并对照上方来源核实。 我们如何工作

通过邮件获取每日简报

每天早上一封邮件。一键退订。

发现错误?告诉我们,我们会修正。