AMD 在 NPU 上运行 350 亿参数大模型
AMD 为 Unsloth Desktop 增加 XDNA 2 NPU 支持,AI 模型可在本地运行,无需云端。
AMD 让电脑里的 AI 芯片自己运行一个大程序。这意味着不联网也能在自己的电脑上用 AI。它需要很大的内存。
35B演示模型参数量
炒作检查
炒作4
实际4
声势与实际变化相符。
这是我们基于下方来源给出的编辑观点。 我们如何评分
你的看法:炒作还是实际?
实际 = 在日常使用中真的有影响。炒作 = 声势比实际更大。只能投一票,且不能更改。
我们的看法和读者的看法都是观点,不是对产品的事实陈述。
为什么重要
在 上运行模型可减轻 CPU 和显卡负担,也让笔记本更省电。
适合大多数人
跳过:面向高配电脑用户的消息。
细节
- AMD 与 Unsloth 演示了在 NPU 上运行 350 的 Qwen 3.6 模型。
- 这是 Unsloth Desktop 首次支持 NPU,适用于 XDNA 2 架构。
- 运行依赖 Lemonade 和 FastFlowLM。
- 完整上下文需要约 28 GB 分配给 NPU;按 Windows 默认设置,需要 64 GB 系统内存。
- Unsloth Desktop 的 可连接 100 多个应用,包括 Cline、Open WebUI 和 Visual Studio Code。
关注关注:AMD 的演示,等待独立测试。
来源
一家可信媒体报道,尚未确认。 打开来源,核查我们。
在 AI 工具的帮助下撰写,并对照上方来源核实。 我们如何工作
发现错误?告诉我们,我们会修正。