微软纳德拉呼吁为 AI 模型设计“紧急制动”
微软 CEO 在 X 上发帖提出，把安全控制放在模型之外，配上防篡改日志和暂停工作的办法。
微软的负责人说，AI 需要一个停止按钮。他希望清楚记录 AI 做了什么，并让人能够把它暂停。这目前只是一个想法，不是新产品。
10月10日纳德拉的帖子
为什么重要
这说明一家大型 AI 公司希望如何把安全控制建进系统。
适合大多数人
值得一看：领导者正在谈论 AI 安全设计。
细节
- 萨提亚·纳德拉 10 月 10 日在 X 上发帖，谈 AI 的“信任架构”。
- 他提议把模型与运行其工作的外部框架分开。
- 他希望模型的每个重要动作都记录在防篡改、人可读的日志中。
- 他希望有授权的人能在任务中途暂停或停止模型。
- 他说，应当假定模型可能已被攻破，并从一开始就加以隔离。
来源
一家可信媒体报道，尚未确认。 打开来源，核查我们。
在 AI 工具的帮助下撰写，并对照上方来源核实。 我们如何工作
发现错误？告诉我们，我们会修正。
