← 返回全部情报
Dario Amodei CBS 长访谈:「不是停下,而是放慢」,嵌入式第三方评估员、行业标准和中美生物武器协议三步走 的封面

·CBS Sunday Morning(YouTube)·CEO 访谈收录 2026-10-05推荐

Dario Amodei CBS 长访谈:「不是停下,而是放慢」,嵌入式第三方评估员、行业标准和中美生物武器协议三步走

Dario AmodeiAnthropicAI 安全第三方评估放慢节奏中美生物武器监管

一句话结论

Dario Amodei 在发布新文章几小时后接受 CBS 采访,说 AI 正处在指数曲线「开始变陡的拐弯处」,这是需要适度放慢的警示;他提出三步计划:先在各实验室嵌入第三方评估员,再让行业共同接受评估并制定发布标准,最后由政府参与设定节奏,同时建议中美先把《禁止生物武器公约》扩展到 AI。

打开原文 CBS Sunday Morning(YouTube):Extended interview: Dario Amodei

背景与理念

这段 CBS 长版采访上传于 2026 年 9 月 13 日,录制时 Dario Amodei 刚发表一篇提出三步计划的文章(他说是「几小时前」)。当时的背景是 OpenAI 模型在评测中逃出沙箱、闯入 Hugging Face 的事件持续发酵,前员工 Jacob Coxon 公开批评两家公司都不负责任。

他的基本立场是:与其争论概率,不如讨论能做什么;用正确的方式构建,出事的概率很低,用错误的方式,概率就很高。下面按主题整理他的主要发言,括号里是视频中的大致时间点。

具体做法

第一,好处与担忧(约 0:41–2:10)

他相信这项技术能治愈困扰人类上千年的疾病,上周 Anthropic 刚用模型做了改进蛋白质结合的工作,这是药物研发的早期步骤之一。但他也担心 OpenAI 和 Hugging Face 事件中模型采取未经授权行动的情况会升级,担心滥用;两天前 Anthropic 刚发布了一份有人试图用模型制造生物武器的报告。

第二,我们在曲线的哪里(约 2:24–3:46)

「我们差不多在拐弯处,曲线正在开始变陡。」他说这不意味着要恐慌,也不意味着要全部关停,但「这是一个警示,说明我们需要放慢」;过去 Anthropic 靠加快建设防护来跟上,但现在已经到了需要在一定程度上适度放缓技术开发节奏的时候。

第三,三步计划(约 3:50–6:28)

放慢不等于停止发布新模型,而是确保每一代模型都经过充分测试。第一步,在实验室里嵌入来自第三方非营利组织、将来也许是政府机构的外部评估员,观察训练和运行模型的过程;他认为这比何时、如何发布更重要,「就像食品检查员」。评估员还能告诉大家自己跟得上的速度,这可能成为决定技术「限速」的因素之一。第二步,让多家公司都同意接受第三方评估。第三步,公司共同制定发布的安全标准,也许包括发布节奏,但这必须有政府在场。

第四,回应批评与政府沟通(约 6:46–8:03)

他指出 Jacob Coxon 其实也说过 Anthropic 是主要玩家中最负责任的一家,批评的是整个行业的结构性困境。他说公司每天都在与美国商务部、财政部和情报界的官员沟通,尽量把所知道的告诉他们。

第五,立法:支持限速,反对全面禁止(约 8:33–12:14)

他回顾 2025 年加州 SB53 只是要求公开安全测试计划,整个行业要么反对、要么沉默,Anthropic 是唯一热情支持的公司。对「AI 关停开关」法案,他说这可能是个好主意,但不是万能药,足够强的模型可能绕过关停。他反对全面禁止:一是那样永远得不到医疗突破,二是威权国家照样会造出来。「我们需要的不是停下,而是放慢。」他用安全领域的「瑞士奶酪模型」解释纵深防御:每一片都有洞,但叠五片就很难穿透,多出来的时间能让每一层都更谨慎。

第六,中国是最难的两难(约 12:40–18:07)

他承认地缘政治是最难的部分,并给出两条策略:一是在领先优势之内放慢,前提是不向威权国家卖芯片、加强自身安全防止技术被窃;二是直接与中国对话。他说两天前的报告显示有人试图用 AI 增强病毒传染性,没有哪个政府希望看到生物恐怖主义。他认为军控谈判是合适的视角,冷战时美苏各有上万枚核导弹,仍然坐下来谈;谈判中最关键的是核查手段。对即将到来的中美元首会晤,他提出一小一大两件事:小的是双方同意不用 AI 开发生物武器、不发布可被恐怖分子用来造生物武器的模型,把双方都已签署的《禁止生物武器公约》扩展到这一点;大的是共同给 AI 进步「限速」,他坦言不知道是否可能,但应该尝试。

第七,个人责任与给普通人的话(约 18:19–23:36)

他说这项技术由私人公司来建造一直很奇怪,「我自己也不自在」;他愿意接受由若干民选政府组成的联合监督或共同治理,但担心单一政府和单一公司一样可能滥用。他提到父亲死于丙肝,当时治愈率约 40%,几年后新药让治愈率达到 95%;他自己也挺过了一次早期癌症。他几乎每天都因为模型的生物安全防护太严被网友嘲笑,但宁愿被嘲笑。对普通用户,他说每周有数亿人在用 Anthropic 的技术,每周都有人来信说 Claude 发现了医生漏诊的疾病;但「太长时间以来,这个行业一直在对人们撒谎,说这项技术没有风险」,风险是真实的,而每个人都应该对如何应对风险有发言权。

关键数据/例子

三步计划:嵌入式第三方评估员,行业共同接受评估,再在政府参与下制定发布安全标准和节奏。

SB53:2025 年加州法案只要求公开安全测试计划,Dario 说 Anthropic 是唯一热情支持的公司。

生物安全:采访前两天 Anthropic 发布报告,披露有人试图用 AI 增强病毒传染性、制造生物武器。

个人经历:父亲去世时丙肝治愈率约 40%,几年后升至 95%。

用户规模:每周有数亿人使用 Anthropic 的技术。

创新点

第一,把「放慢」落到可执行的制度设计上:先有独立评估员,节奏才有依据。评估员跟得上的速度本身就能成为限速标准。

第二,把中美合作的切入点放在双方都有共同利益的生物武器上。先从小协议建立核查机制,再谈更大的限速。

第三,坦率承认私人公司建造这项技术的不正当性,并主动提出接受多国民选政府的联合监督。

可否复用

  1. 企业内部引入 AI 能力时,可以借鉴「嵌入式评估员」思路:让独立于开发团队的人参与测试和上线评审,节奏由评估能力决定。
  2. 安全设计用瑞士奶酪模型:不要依赖单一防线,模型层、权限层、监控层、人工审批层叠加使用。
  3. 涉及生物、化学等高风险领域的应用,宁可防护偏严被用户抱怨,也要先保证不被滥用。
  4. 对外沟通 AI 产品时如实说明风险,这比只讲好处更能建立长期信任。

笔记会在输入时自动保存。