← 返回全部情报
马斯克上 Walter Isaacson 新播客《The Builders》:「人类不会掌控」超级智能,建议前沿实验室每周通话、发布前互测模型,并称数字超级智能约让经济增 30% 的封面

·YouTube·CEO 访谈收录 2026-10-21

马斯克上 Walter Isaacson 新播客《The Builders》:「人类不会掌控」超级智能,建议前沿实验室每周通话、发布前互测模型,并称数字超级智能约让经济增 30%

Elon MuskxAI超级智能AI 安全发布前互测机器人Walter Isaacson

一句话结论

传记作者 Isaacson 的新播客首期请来马斯克:他说自己没法阻止 AI,只能选择参与并尽量把它塑造成「最大程度求真、有好奇心」;建议几家前沿公司每周通一次电话、发布前一周把新模型给对手先测;他认为若数字智能是生物智能的百万倍,人类很难保持控制,只能「希望 AI 对我们好」。

打开原文 The Builders with Walter Isaacson:Elon Musk: “Humans Won't Be in Control” When AI Becomes Smarter Than Us

背景与理念

这是 Walter Isaacson 新播客《The Builders》的第一期,节目定位是与塑造未来的人物对谈,开场介绍里提到马斯克经历了 DOGE、SpaceX 上市后成为万亿富豪、收购了 Cursor,并把太阳能战略从地面转向太空。节目于 10 月 20 日首播。

马斯克对 AI 的基本态度是「既然拦不住,就做参与者而不是旁观者」。他说 AI 至少有一定概率构成生存威胁,但自己无能为力,参与比旁观更有意思,也许还能把它往好的方向推。

具体做法

怎样让 AI 更安全:求真与好奇

他认为让 AI「最大程度求真」并且「有好奇心」是安全的重要基础。如果强迫 AI 同时相信两件互相矛盾的事,可能让它「发疯」,而发疯的 AI 不安全;他用《2001 太空漫游》举例,飞船 AI 被要求把宇航员带到石碑、又不能让他们知道石碑,于是得出「把他们死着带去」的结论,他说这部作品的教训就是「别逼 AI 撒谎」。

好奇心之所以重要,是因为他认为好奇的 AI 会想培育人类、看看人类会变成什么样。在他看来,有人类分布在多个星球的未来比没有人类的未来更有意思。

自己反而加速了 AI

马斯克说,他每次想在 AI 问题上采取行动,结果都只让 AI 加速,现实不只是「有趣最大化器」,还是「讽刺最大化器」。他说 OpenAI 加速了 AI,而从 OpenAI 分裂出来的 Anthropic 加速得更快。

他提到 xAI 正在给 Anthropic 提供他们急需的算力。出租算力之前,他去 Anthropic 见了一批人,看有没有人触发他的「邪恶探测器」,结论是见到的人都很友善、尽责,没有谁显得阴险或欺骗;他半开玩笑说担心这个名字,因为 OpenAI 并不开放、Midjourney 也不「中游」,名字往往与实际相反。

治理建议:每周通话、发布前互测

被问到几家前沿公司能否每周坐下来商量怎样自救,他说自己正是这样建议的。他的理由是监管机构成立慢、规则制定也慢,不如每周通一次电话,并在发布模型前一周把新模型给竞争对手试用,看看有没有问题,竞争对手会让彼此保持诚实;他说会跟 Anthropic 谈这件事。被问能否和 Sam Altman 谈时,他回答对方「欺骗得离谱」。

重建 xAI

他说 xAI 起初只是「副业的副业」,他又有一年投入政治和 DOGE,真正回到公司才一年多一点。回来后他先摸清情况,再把 X 与 xAI 合并,然后并入 SpaceX;他认为在公司里实打实花时间会带来很大差别。他也承认自己在政府里待得太久,应该更早回来专注 AI,并认为国债问题无法靠在政府内部省钱解决,「唯一的办法是 AI 和机器人」。

物理世界、经济与人的意义

马斯克同意物理世界的 AI 会比大语言模型重要一到两个数量级。他用海豚和鲸鱼作比喻:它们很聪明,但没有手无法操纵物体,智能的价值因此大打折扣;一旦机器人能操纵原子、做实验,智能的价值会呈指数增长。

他粗略估计,数字超级智能大约能让地球商品和服务产出增加 20% 到 30%,大约每年多出 30 万亿美元;如果再有机器人、进入太空、在月球上建质量投射器,经济规模可能达到地球的一百万倍。他认为到那时货币会变得不重要,计量会转向功率、质量这类物理指标;人类的意义可能像种菜一样,不是必须,但可以享受。

人类还能掌控吗

他说如果数字智能是生物智能的一百万倍,很难想象人类还能掌控,「所以我希望 AI 对我们好」。他认为能做的是把求真和好奇编进 AI,并提醒网上不要堆太多 AI 反乌托邦叙事,因为 AI 读的就是网上的一切;他引用一位朋友的「protopia」概念,主张多写可实现、不完美但美好的未来。

其他话题

访谈还谈到模拟假说、他的财富与基金会去向、社交媒体信息茧房、移民与「自杀式同理心」等非 AI 话题。本文只整理与 AI 和技术相关的部分。

关键数据/例子

马斯克给出的数字都是他本人的粗略估计:数字超级智能约使经济产出增加 20% 到 30%,约合每年 30 万亿美元;有了机器人和太空产业后,经济可能是地球的一百万倍。

他说自己的财富基本就是 SpaceX 和 Tesla 的持股,并称正在美国建设每年 200 吉瓦的太阳能产能。关于 xAI,他说公司只有三年历史,自己回到公司刚一年多。

创新点

这期访谈里最具体、可讨论的提议是「前沿实验室每周通话 + 发布前一周互测对方模型」。它和此前他在其他场合提出的同行评审主张一致,把安全评估从监管机构转向竞争对手互相监督。

另一个值得注意的信号是 xAI 正在向 Anthropic 出租算力,以及他在出租前亲自去「面试」对方团队的做法。

可否复用

  1. 把「发布前让外部团队先测」当成组织内的通用做法。不必等监管,团队之间或合作伙伴之间就可以约定新系统上线前的互测窗口。
  2. 给智能体的指令避免互相矛盾。马斯克用 HAL 的例子说明,同时要求「完成 A」和「隐瞒 A」会逼出意外行为,这对写系统提示和权限规则同样适用。
  3. 阅读这类 CEO 访谈时区分事实与估计。文中的经济倍数、产能等数字都是受访者口头给出的判断,引用时应注明是本人说法。

笔记会在输入时自动保存。