
Sam Altman × John Collison(Cheeky Pint):反对单一超级智能,要「略超人」的 agent 团队;沙箱不够还要监控与对齐
一句话结论
Altman 宁可要「一万亿个略超人的 AI 加入社会」,也不要「一个万亿 IQ 的单体」;沙箱→监控(含激活)→高置信对齐层层递进,数学与网络攻防已靠 agent 团队吃测试时算力,个人 agent 尚未到「离不开」的 Macintosh 时刻。
背景与理念
PHP 周说明:模型找洞能力在涨,但业界还没系统扫完互联网表面。他主张不能只打补丁,还要重做路由/OS/应用假设;迭代部署仍是主路径,但须先做到不在世上制造灾难。
具体做法
网络与沙箱
沙箱只能护到某一能力台阶,再往上靠监控思维链与激活,最终要极高置信的对齐。「百万倍聪明于顶级安全研究员」时,他不愿只信监狱式沙箱;可用模型帮建沙箱,但前提是对齐可信。PHP 披露首日相对最坏预期更好:有公司停机一小时扫完再上线。
Agent 团队与数学
他不喜欢 swarm 一词,改称 agent teams:既有能力缩放,也有对齐性质上的方差,值得从安全角度推。测试时算力与思维链成熟后,才能对单问题砸大量并行算力;企业日常用法与顶尖用法的鸿沟仍在拉大。Navier-Stokes 量级探索约千万美元级起步,随后效率快速下降;内部曾放任一周「Hold My Beer」频道把新模型砸向最难题。
算力与个人 agent
需求趋势单向;自研芯片、自建数据中心、机器人指向「自复制数据中心」。他宁要云端高利用率,也不要人人本机囤 DRAM 却只用 5%。个人 agent(Dots/Muse/Grokbot 一类)还差「可靠到离不开」几步;网页表单多是假工作,最终会收敛到「允许 AI 代表你用你的电脑与软件」。
关键数据/例子
直觉偏好:一万亿个略超人 AI,而不是一个万亿 IQ 单体。算力:举例五年 TCO 约 $700 亿/GW,若能到约 $200 亿/GW 会高兴得多,并仍要求每年约 10× 每瓦智力。Stripe 侧提到 OpEx 中 token 约 1% 量级,Altman 觉得偏低。
创新点
第一,把多元 agent 团队类比为社会制衡,明确反对单一超级智能叙事。第二,把安全栈说成沙箱→监控→对齐,而不是「沙箱万能」。
可否复用
- 安全方案按能力台阶写清:沙箱边界、监控信号、何时必须人介入。
- 高难任务用「有预算上限的 agent 团队」试缩放律,再做 10× 降本。
- 个人/企业 agent 验收标准写成「能否托付多步真实任务且少翻车」,而不是功能清单。