← 返回全部情报
Demis Hassabis × Masters of Scale:闭环 RSI 最危险;先造智能工具、别急着造意识体;要产业标准体与第三方审计 的封面

·YouTube·CEO访谈收录 2026-11-07

Demis Hassabis × Masters of Scale:闭环 RSI 最危险;先造智能工具、别急着造意识体;要产业标准体与第三方审计

CEO访谈Demis HassabisDeepMindMasters of ScaleRSI治理AlphaFold主权算力

一句话结论

在约 25.5 分钟的 Masters of Scale 长谈里,Hassabis 以 AlphaFold 说明 AI 服务科学的路径,强调当下早期 RSI 约让人产能提升 3–5 倍且人仍在环,而拿掉审查的闭环 RSI 是通往全面 AGI 的危险路线;主张产业标准体加第三方审计,先造智能工具、勿急造意识体,并认为不必每个国家都去训 frontier 模型。

打开原文 YouTube / Masters of Scale Summit '26:Demis Hassabis × Reid Hoffman

背景与理念

这是 Reid Hoffman 主持的一手治理向长谈(约 25.5 分钟,现场录于旧金山 Presidio Theatre),主题从 AlphaFold 到闭环 RSI、审计与意识门槛,而不是单场产品发布。Hassabis 开场把整段生涯做 AI 说成要把 AI 当作「终极工具」推进科学、医学与对世界的理解;他强调「number one thing we should use these amazing tools… is to improve the human condition and improve human health」,并以 AlphaFold 与衍生药研公司 Isomorphic 作为这条「anti-exrisk」叙事的具体项目。字幕来自 YouTube 页面对白整理。

具体做法

AlphaFold:生物学大挑战仍只是成药一环

蛋白质三维结构曾被比作生物学的「费马大定理」级难题,而设计药物必须先知道蛋白表面才能判断 bind 到哪里。Hassabis 说 AlphaFold 2 约在 2020 完成,「six plus years ago now」,至今仍可能是 AI 攻克「被认为搞不定」科学难题的最佳具体例证;约 400 万研究者在用,几乎每位生物与医学研究者都会碰到,未来几乎每款药都会用到 AlphaFold。但他同时强调这仍不够:还要把能力扩到生物化学、毒性与 ADME 等成药安全与效力预测。

RSI:可验证域的 AlphaZero 课 vs 闭环爆炸

RSI 在数学、编程等可验证域最强——因为能验答案对不对,就可以几乎无限造合成数据。最早名例是游戏里的 AlphaZero:不再需要人类数据,从随机自对弈起步,约十余到二十个 epoch,每代自对约百万局再训更强一代。他用棋手体感描述:早上随机、午饭达大师、下午茶已超所有人类与手写象棋引擎。早期 RSI(当下)大约让人类工程师产能提升 3–5 倍,人仍在环内审查、架构与写码。下一阶段风险最大的是 closed RSI / closed loop——拿掉人类 reviewer;更快,但是「a very dangerous way to get to full AGI」。危险有两点:难保持对过程的控制(旧称 intelligence explosion),以及终局可能「quite alien」、未必与人类同一 mind space。「we should be very cautious as we get closer towards that closed loop form of RSI」。

治理与审计:防御先于攻击,SRO 加第三方

较「平实」的动作是让网络防御加速快于网络攻击,并把略微调过的模型优先给信任的防御方。近约六个月许多网络问题「could have been addressed with better engineering」;需要更硬的沙箱与监测,「shouldn't be possible for agents to be running for weeks without anyone realizing」。若不集体加码,现轨迹上会出类似「oil spill」的事故。长远要 formal guarantees;他夏天写过 essay,主张产业自跑的 SRO(standards body)加一定政府监督,理想再国际化——「international institutions are very very weak… just at the time when we need them to be strongest」。那篇文章能量汇入后来大家签的 accord,「doesn't go far enough but it's a start」。领先实验室大体同意第三方 auditor / evaluator,并需要健康生态与足够收入;另有通用发布前互相 red team 的做法。

意识:先跨「智能工具」卢比孔

今天应聚焦造 intelligent tools,而不是 conscious entities。人类千年无统一意识定义,尤其 hard problem;行为像意识不等于结论,而 AI 没有与人共享的「squishy」神经基底,很难下同感假设。技术安全上,自我意图/自我意识与 instruction-following(corrigibility)有直接权衡——「RSI with self-volition is… doubly dangerous」;社会上也还没与哲学家、神学家、艺术家与多文化充分辩论是否跨「第二道卢比孔」。他主张先单独跨第一道(智能工具)→ 用这些工具做更多神经科学、弄清意识神经相关物(或需 5–10 年)→ 再讨论是否/如何跨第二道。智能与意识可双分离:今天的高 IQ 系统他「personally don't feel are at all conscious yet」;宠物狗相当有意识,但不那么聪明。

主权算力:选项多,别人人硬训 frontier

前沿大概半打到 6–8 家(含中国公司),可能互有 3–6 个月领先,但相对接近,企业可在多模型间套利。开源大约落后 6 个月到 1 年;坏角色滥用 vs 科学家赋能仍是未解问题,需要西方开源方案。若要数据私有或在敏感数据上再微调,可用上述方案;下游(如医疗)可把模型当近似商品、在之上建价值——「I wouldn't recommend every country… trying to build a frontier model」。

关键数据/例子

片长约 25.5 分钟(lengthSeconds=1532);AlphaFold 约 400 万研究者在用;早期 RSI 约 3–5 倍产能且人仍在环;前沿约 6–8 家;开源落后约 6–12 个月。以上为访谈中自述,非审计报表。发布日期为 2026-11-05(YouTube publishDate)。

创新点

第一,把 RSI 明确拆成「人在环的早期产能倍增」与「拿掉审查的闭环」两阶段,并点名闭环是通往全面 AGI 的危险路线。第二,用「先工具、后意识体」双卢比孔,把安全 corrigibility 与社会道德地位辩论绑在同一治理议程上,再配上 SRO、第三方审计与「不必各国都训 frontier」的主权算力建议。

可否复用

  1. 讨论 RSI 时先写清「人是否仍在环」与可验证域边界,避免把早期产能倍增直接当成闭环爆炸。
  2. 安全路线图可并行写:网络防御优先、沙箱监测、形式化保证、产业标准体与第三方审计。
  3. 产品与研究叙事可刻意区分「智能工具」与「意识体」,并预留对社会辩论的时间窗。
  4. 主权与开源策略上,优先评估微调/下游价值层,而不是默认每个组织都要训 frontier。

笔记会在输入时自动保存。