← 返回全部情报
Dario Amodei 回复 Nathan Calvin:用「race to the top」解释九条商业上昂贵的安全动作,并承认部分沟通失误与 pacing 紧迫 的封面

·X·CEO访谈收录 2026-10-23

Dario Amodei 回复 Nathan Calvin:用「race to the top」解释九条商业上昂贵的安全动作,并承认部分沟通失误与 pacing 紧迫

CEO访谈Dario AmodeiAnthropicrace to the topAI 安全SB53RSPpacing

一句话结论

Amodei 在长帖中回应 Nathan Calvin 的批评:核心理论是「race to the top」——在前沿位置示范负责任研发以抬高全行业门槛;他列出过去一年九条对商业成本很高的安全动作,称 Calvin 的 1–4 条属前沿竞争应有之义,承认 7–9 条沟通失误,并表示安全快跟不上能力加速、已接近需要 pacing 的时点。

打开原文 X / Dario Amodei:回复 Nathan Calvin 论 race to the top

背景与理念

帖子引用并回复 @_NathanCalvin 对 Anthropic 的批评长文。Amodei 先肯定外部监督的价值,也承认 Calvin 列举的部分例子确是 Anthropic 的失误,但不同意批评的主线。

「Race to the top」理论。他说公司多年基本变革理论就是:通过展示如何负责任地做技术,抬高整个行业的门槛;而这些力量在公司处于前沿时有效得多。他以这份整体策略为傲并愿意为之辩护。

对「接近 pacing 临界点」的表述。他写到,当 AI 驱动的加速快到安全难以跟上,会出现必须直面的问题;「We are nearing that point」,这也在推动他们关于 pacing 的思考。但他强调 Calvin 清单里的 1–4 发生在该点之前,按公司策略本应可预期。

具体做法

九条「商业上昂贵、安全收益强」的动作(Amodei 自列,过去约一年):

1. 推动加州 SB53 及其他州法——称当时政治风险高、AI 监管很不受欢迎,且主张过比最终通过更强的版本。

2. 极强的生物安全分类器——因生物 uplift 试验结果与拦截潜在生物武器滥用企图;低漏报带来显著误报,生物学家常调侃过严,竞争对手以更宽松能力作卖点。

3. Mythos 级模型 2 月已有、6 月才广放——期间只给有限伙伴、聚焦网络防御;称可能牺牲数月模型领先,以便更多公司先加固基础设施。

4. 公开主张政府应有权拦截模型发布——见其 6 月文章 *Policy on the AI Exponential*,称当时仍在 Overton 窗口边缘并因此遭猛烈攻击。

5. 2026 年 2 月事件——称公开立场本可能严重损害公司前途(帖中不愿重燃冲突)。

6. 持续主张对华芯片与设备出口管制——以便民主国家在 AI 安全协议上从实力地位谈判,尽管与依赖的产业伙伴意见冲突。

7. 限制向 PRC 控制公司销售——自称前沿公司中首家且仍是唯一一家,含经第三国绕行;并投入资源打击蒸馏。

8. 大量报告、公告、长 model card 与公开倡导——试图向公众说明风险。

9. 当周宣布把公司 5%(未来可能更多)放入公益基金。

对 Calvin 清单的逐项态度。称 1–4 条(自研芯片、巨额算力协议、提高 Claude 主导研发任务比例、大量算力用于内部 AI R&D 等)就是在前沿竞争,透明且符合策略;第 5 条 RSP 变更:旧版过刚,常迫使做「技术上必须但回顾并不重要」的事,且覆盖不住更重要事项,现行 RSP 更重透明与外部独立评审;第 6 条 FCF:意图是用 FCF 满足监管字面与精神,同时用 RSP 试验法律尚未要求的更新方法,并承诺再核查;第 7–9 条归为「措辞或政策沟通不够严谨、或快变情况未在团队间及时同步」,他以 CEO 身份承担责任,并称 Anthropic 已超过 5000 人。

关键数据/例子

Mythos:2 月已有该类模型,6 月才普遍提供。

公益基金:当周宣布公司 5%(并可能随时间提高)。

组织规模:帖中写 Anthropic 超过 5000 人。

生物安全:称威胁情报报告中已见并拦截潜在生物武器滥用企图;分类器误报高到成为竞争对手的销售对照。

引语要点:「race to the top」;「We are nearing that point and that’s what’s driving some of our thinking about “pacing.”」;对 7–9「rhetoric or policy communication that wasn’t carefully written」。

创新点

第一,用「前沿位置才能抬高行业安全门槛」把商业竞争动作与安全叙事绑在同一策略上,而不是分开辩解。

第二,主动列出九条「对利润不友好」的安全代价清单,要求批评者对照权重,而不是只看被点名的争议项。

第三,区分「策略内可预期的前沿竞争」与「沟通失误」与「RSP/FCF 制度设计争议」,并公开承认接近安全跟不上加速的 pacing 时点。

可否复用

  1. 评估实验室安全叙事时,把「抬高行业门槛的策略」和「具体争议动作」分开记账,再看成本与收益是否匹配。
  2. 政策沟通失误与能力发布决策不要混成一类;前者要同步机制,后者要 RSP/评估门槛。
  3. 讨论 pacing 时写清:批评的是已经过线的加速,还是策略内本可预期的前沿竞争。

笔记会在输入时自动保存。