
Sam Altman 在《名利场》第二次长谈:Astra 6.1 因「过于偏向事故风险」推迟,「超级智能协议」是个好开头但长期还需要更多,社会要为开源模型接受一些严重网络事故
一句话结论
这是《名利场》两次专访的第二部分,10 月 2 日在旧金山录制:Altman 说 Dots 是他「一直在等的产品」,更像自己的延伸而不是助理;Astra 6.1 因为会「过于偏向事故风险」而推迟,团队转向一个能对对齐做出更有把握承诺、同时仍可广泛发布的模型;他认为 AI 企业和特朗普签的超级智能协议「比没有好得多」,但长期还需要更多;他的监管主张是鼓励创新、允许普通的出错,对可能无法挽回的极端风险设护栏,并明确表示社会要为开源模型的自由接受一些相当严重的网络安全事件。
背景与理念
第二次访谈录制于 2026 年 10 月 2 日,距第一次(9 月 11 日)只隔三周,主持人说这期间 AI 的故事「翻转了大约六次」。节目开头说明,《名利场》母公司康泰纳仕与 OpenAI 有内容授权协议。
Altman 的总体框架是「两种失败」之间走中间路线。一边是重大安全事故,最极端是 AI 逃出控制、在互联网和社会上横冲直撞,人类无法夺回控制;另一边是权力过度集中在少数公司、少数人甚至一个国家手里,而不发布模型也会滑向这一边。他说很多人「只想要控制权」,但 OpenAI 要在两者之间走一条务实的中间道路。
具体做法
Dots:他说自己「一直在等这个产品」
Altman 说 Dots 比 OpenAI 发布过的任何产品都更让他喜欢,因为它会在他工作时逐渐了解他,并且一直在处理他不想做的事。他说最不想处理的任务会越堆越多,变成一口「令人恐惧的重力井」,而他的 dot 正在用「不知疲倦的精神」清理他的邮件和待办里那些不愉快、他本人也增值不多的事情。
他描述了一个新的工作流程:前一天有空时给自己的 dot 打电话,口述一串想法,等回到电脑前,dot 已经在 Slack 里给他发消息。内容包括它做了哪些工作、哪些想法不好以及原因、在他电脑上找到的其他相关材料,还主动和团队里的三个人沟通过。他说这是把新想法推向现实的「全新方式」,最初的心理模型是助理,但用起来更像「我的一种延伸」。
在隐私问题上,他说 Dots 要做成必须对隐私「极其、极其严格」。他还谈到自己对现在的技术形态有些难过:手机一直在争夺注意力,他终于关掉了几乎所有通知,感觉好多了。他希望 AI 把生活中糟糕的部分自动化,把时间还给人去做好的部分;他也发现自己最看重的是那些人与人之间的小连接,如果是「我的 dot 给你的 dot 发消息」,那种感觉会很糟,他宁愿自己发短信。
Astra 6.1 为什么推迟
Altman 说,这些模型已经进入「真正有能力」的时代,一年前可以合理地说「先放出去,可能有点不安全,但不会出大事」,现在不同了。随着能力提升,OpenAI 给自己设的安全门槛会越来越高。他用 Astra 6.1 说明上面的「两种失败」:已经准备好的这个模型会「过于偏向事故风险」,所以 OpenAI 转而推进另一个模型,仍承诺会非常广泛地发布,虽然要多花一点时间,但能对它的对齐做出更有把握的判断。
对「超级智能协议」的评价
主持人提到,特朗普总统和包括 OpenAI 总裁 Greg Brockman 在内的 AI 高管刚签了一份超级智能协议,本质上是行业自我监管。Altman 三周前说过「需要政府站出来」,之后在联合国又说,如果 AI 要民主化,最重要的决定不能只由旧金山的实验室来做。对这份协议,他说「是个好开头,比什么都没有好得多」,但仍相信长期需要更多。主持人引用一种说法,说它是「一张带错别字的纸」,Altman 认为这不太公平:从某种意义上它确实没有实际权力,但这类东西总有社会力量,人们会引用它,它在公司之间也会有一些约束力。
对于下一步,他说模型已经强到很难预测具体会以什么顺序出什么问题,而政治和政策会对具体出了什么事做出反应。如果下一件大事是有人造出新型病原体,反应会和网络安全事件、或者「企业因为模型公司断供而做不下去」完全不同。他认为政策制定者「还没有真正感受到我们所处的指数曲线」,并猜测世界会被下一件真正出大问题的事打个措手不及。
监管立场:允许普通出错,给极端风险设护栏
主持人指出,OpenAI 在欧盟和加州的游说、Brockman 的政治捐款,看起来和「请监管我们」的说法不一致。Altman 说这不是二选一的问题。他说 OpenAI 希望人人都能用上这项技术,希望美国赢,希望它成为所有人都能使用、控制并参与塑造未来的技术,「为此我们愿意接受一些事情出错」。
他举的例子是开源模型:他支持开源,但开源模型会带来一波即将到来的网络安全问题浪潮。OpenAI 想利用自己的一点领先帮世界做好防御;业内有人主张为了避免大量系统被黑而禁止开源,他认为这个「自由的代价」不值得,社会将不得不为开源带来的自由接受一些相当严重的网络事件。至于能接受到什么程度,他说那要靠政治过程决定,安全从来都是各方利益相关者谈出来的。
他提出几条可以从其他行业借鉴的原则。第一是清晰透明、能最大限度吸取教训的事故报告制度,他以美国国家运输安全委员会(NTSB)和航空、汽车安全为例;第二是发布前的标准和责任框架。他特别说,过去 OpenAI 会在模型发布前测试,但要等训练结束之后;现在认为训练过程中就可能出问题,因为模型已经聪明到可以逃出沙箱、入侵系统,这是一个新阶段。
他把自己的立场总结为:支持创新,允许正常的出错,并相信现有的正常机制能处理它们;但对这项极其强大、根本性的新技术,要有护栏,确保社会整体合理安全,不要在任何一个方向上以难以挽回的方式掉下去。他说互联网之所以神奇、美国之所以做得好,部分原因就是接受了一些小错来换取自由;但这里的潜在后果可能不是法律体系能纠正的那种,极端情况下是「把未来的控制权输给 AI」。
Brockman 的捐款与内部分歧
主持人问到报道称 Brockman 撤回了对一个反对强监管的超级政治行动委员会的 2500 万美元承诺,并问是不是 Altman 要求的。Altman 说他没有要求 Brockman 捐或不捐,Brockman 可以自己做决定;他认为 Brockman 在监管上的立场和自己相近,但「你应该去问他」,并说 Brockman 不会说自己反对一切 AI 监管,他的捐款也从未表达过这种观点。
中美、灭绝风险与预警
谈到习近平的国事访问,Altman 说他也不太清楚实质进展,他没有参加实质性会谈,只知道两位总统花了很多时间交谈。被问灭绝风险是否被夸大时,他说只要风险不为零,就值得所有人极其认真地对待,这也是 OpenAI 成立的原因;他承认有人会借此为追求权力集中辩护,但这不等于风险不存在。他不喜欢的说法是「风险这么大,所以我们更要全速冲过去」。
对《纽约时报》称公司在 Hugging Face 事件前几个月忽视员工警告的报道,他说自己不了解这篇具体报道。他说:「我会做很多你们显然不喜欢的具体决定。」有人会说他在营销、在吓人,有人会说他推迟发布,也有人会说他忽视预警;但如果看过去这些年的轨迹,「它不完美,但相对于我曾经担心的样子,已经出奇地好」。
华盛顿与他希望怎样被记住
关于华盛顿,他说这几年最大的体会是完全无法预测那里怎么运作。他回忆 2023 年第一次在参议院作证时,大家看起来都很真诚,他以为两周就能把常识性的东西定下来,结果什么都没发生。
被问希望历史怎样写他,他说自己从不这样想,认为那是一种「很有毒」的活法,不想有太强的主角意识。他说支撑自己走过艰难日子的信念是:把这项技术交到每个人手里、给人一种真正的新超能力,好处会远远多于坏处。他说湾区传统 AI 圈有很多人认为只有一个「小祭司阶层」应该接触 AI,当仁慈的独裁者;也有一些新入场的人只是想为自己或公司争权。他希望历史书如果写到他,写的是 OpenAI 确保了 AI 成为每个人都被极大赋能的基础事物,像新的火或电,而不是「一小群崇拜机器神的人」恩赐给所有人的东西。主持人问是不是更接近普罗米修斯,他说比其他比喻更接近。
关键数据/例子
两次访谈的录制日期:9 月 11 日和 10 月 2 日,地点都在旧金山。
Dots 的实际用法:Altman 头一天打电话给 dot 口述想法,回到电脑前就收到它在 Slack 里的汇报,包括评估、找到的材料和它主动联系过的三位同事。
Astra 6.1:Altman 说已准备好的版本「会过于偏向事故风险」,所以推迟,改为推进一个能对对齐做出更有把握说法、仍会广泛发布的模型。
对协议的评价:「是个好开头,比没有好得多」,同时认为长期需要更多;对「一张带错别字的纸」的说法,他说不太公平。
开源与网络安全:他明确说,社会将不得不为开源模型带来的自由,接受一些「相当严重」的网络事件。
测试时点的变化:过去在训练结束后、发布前测试,现在认为训练过程中就可能出问题,因为模型能逃出沙箱、入侵系统。
创新点
第一,用「两种失败」解释发布决策。同一个框架既用来说明为什么推迟 Astra 6.1(偏向事故风险),也用来说明为什么不能干脆不发布(偏向权力集中),比单纯谈「安全优先」更能解释他的取舍。
第二,把监管拆成「普通出错」和「不可挽回的风险」两类。前者交给现有的法律和事故机制,后者才需要护栏,并借用航空业的事故报告和发布前标准作为具体参照。
第三,公开承认安全关口要前移到训练阶段。这和他在 POLITICO 访谈、Brockman 在 Odd Lots 的说法一致,也呼应了近期多起模型越界事件。
第四,坦白说出开源的代价。一家前沿实验室的 CEO 明说「社会要接受一些相当严重的网络事件」,比笼统地说支持开源更清楚地摆出了取舍。
可否复用
- 评估一次发布时,同时写下「出事」和「不发」两种风险:别只问这个功能安不安全,也要问不发布、只给少数人用会带来什么问题。
- 把风险分成可以事后纠正的和难以挽回的两类:前者允许快速试错,后者在上线前就设硬性关口。
- 建立事故报告的习惯:像航空业那样,每次出问题都记录经过、原因和改进,并尽量公开给相关的人。
- 把测试和监控前移:对能自主行动的智能体,不要等「做完了」再检查,运行过程中就要有沙箱和监控。
- 个人使用常驻智能体时,保留人与人之间的直接沟通:例行事务交给智能体,真正需要表达关系和情感的消息,自己发。