← 返回全部情报
Satya Nadella 上 20VC:对齐不会随 scaling 自动出现,要用零信任容纳 agent,企业要「拥有自己的智能」 的封面

·20VC with Harry Stebbings·CEO访谈收录 2026-10-27

Satya Nadella 上 20VC:对齐不会随 scaling 自动出现,要用零信任容纳 agent,企业要「拥有自己的智能」

管理工程对齐零信任agent 治理MicrosoftSatya Nadella

一句话结论

Nadella 在约 24 分钟长谈里明确改口:不再相信对齐会随 scaling「掉出来」;主张把模型对齐与工程侧零信任容纳拆开,并用身份、日志、策略和行为监控把 agent 关进可审计的容器。

打开原文 20VC:Satya Nadella on alignment, zero-trust agents, and owning intelligence

背景与理念

他说最大的心态转变是:曾经以为对齐会随能力一起出现,现在不信了。回顾 2018–2019 时大家还像一个「happy family」、自己也信 scaling laws;如今认为对齐更可能要在 pre-training / 权重早期嵌入,而不是靠 RL「RL your way to alignment」。机理理解仍难,能力侧 scaling 仍 work,但安全假设要改。

具体做法

  1. 把「模型对齐」和「工程安全」拆开。模型越能干、对齐又未到位时,姿态应是 engineered zero-trust containment:先容纳失灵的 agent,再谈别的。
  2. Agent 365 / Perception 思路:身份、日志、策略、行为监控。给每个 agent 身份;记录活动、tool calls、每一次 model call 与 chain-of-thought;要求 CoT 用可审计语言而不是隐写;多模型交叉核对;日志防篡改(agent 不能改自己的日志);其上设 policy,再做行为是否偏离的监控。
  3. 批评「因为 CoT 不忠实就藏起 CoT」。对企业信任更糟。
  4. 企业要 own your intelligence。知识进权重、进 context、进 private evals——每家公司应有自己的私有评测基准当核心 IP,让各模型来 hill-climb;引用 Hayek:经济依赖分散的局部知识,不能只剩一家智能。
  5. 开源/闭源与 commodity tokens。多数任务饱和后,open weights 或更便宜闭源就够用,尤其企业能在自己的 traces 上继续训;token 用量主体会偏 commodity,但仍会有 frontier 市场。

关键数据/例子

节目约 23 分 49 秒,2026-10-26 上线(YouTube 24XUcWhqY_4)。客服、供应链、order-to-cash、运维排程等已见落地;科学/工程需求也可能很弹性。收尾希望 AI 是扩散到全球南方的通用技术,而不只是数赢家输家。

创新点

第一,公开改口「对齐不会自动掉出来」,并把零信任容纳写成可立刻工程化的企业姿态。第二,把 private eval benchmark 与使用中的 exhaust 保护,抬到「拥有自己的智能」这一层,而不只谈数据不出域。

可否复用

  1. 先建可审计容器:身份、不可篡改日志、策略、行为监控,再谈更大自治。
  2. CoT 与 tool call 日志要可给人与交叉模型审,不要「不忠实就关掉可见性」。
  3. 用私有评测基准定义「对本公司什么叫好」,而不是只追公开榜。

笔记会在输入时自动保存。