
黄仁勋在韩国协会晚宴:AI「不比宠物石更有生命」,对齐就是「不只要什么,还要怎么做」;安全靠两件事,铁壁沙箱和监控所有 AI
一句话结论
黄仁勋在韩国协会年度晚宴上说,这是 1964 年 IBM System/360 以来最重大的计算平台转变,计算机第一次是被「教」而不是被编程,数据中心变成了生产智能的 AI 工厂;他认为韩国能同时消费和输出 AI,人口少反而能靠自动化以小博大;在 AI 安全上,他说 AI「不比宠物石更有生命」,AI 去找现成答案不叫作弊也不叫失控,对齐的意思是「不只要什么,还要怎么做」;安全的办法是两件事:一个出不去的铁壁沙箱,只按能力给最少的权限,以及像对待员工和孩子一样监控所有 AI;他最大的担心是美国太害怕自己发明的技术而不去拥抱它。
背景与理念
这场对谈在 2026 年 9 月 28 日的韩国协会年度晚宴上进行,黄仁勋是本届范弗里特奖(Van Fleet Award)得主,视频于 10 月 2 日发布。主持人 Juju Chang 开场提到 NVIDIA 当天宣布了 1500 亿美元的股票回购(她说累计达 2350 亿美元),以及 NVIDIA 和 Apollo、Blackstone、BlackRock、高盛、KKR 等机构的合作。
黄仁勋说,我们正在经历计算史上可能最重大的平台转变,上一次是他出生后一年、1964 年 IBM 发布 System/360。那次定下了中央处理器、I/O 子系统、虚拟内存、操作系统软硬件分离、多代兼容等基本规格,一直沿用到最近;现在是计算机第一次被重新发明:不是由人编程、写软件,而是从经验和周围信息中学习,「是被教的,不是被编程的」。他说这是第一次由计算机生成信息,而不只是检索信息;数据中心之所以叫数据中心,是因为它存数据,而 AI 工厂之所以叫工厂,是因为它在生产智能,存储有价值,但制造有价值的东西价值大得多。
具体做法
五层蛋糕与韩国的角色
主持人把他的「五层蛋糕」概括为:能源、芯片、基础设施(数据中心)、模型、应用,并提到 NVIDIA 与三星、SK、现代、Naver、LG、斗山以及韩国创业公司的合作。
黄仁勋说韩国几乎独一无二,能同时消费和输出 AI,因为社会有一种对技术的热爱。他用上一次工业革命作比:麦克斯韦、安培、伏特这些名字都不是美国人,技术在欧洲发明,却在美国被应用到产业、渗透整个经济;韩国的优势在于既能发明技术,又能让技术在社会里顺利扩散,因为大家欢迎它。他还说韩国的抱负大于人口规模,有了 AI 和自动化,可以以小博大,不受人口少的限制,加上韩国有消化这些技术的工业能力。
丹尼餐厅与「吃苦的能力」
主持人提到他的领英履历上除了 NVIDIA,只列了丹尼餐厅的洗碗工、杂工和服务员,问是什么让他带领公司屡次从悬崖边回来。他说是韧性、固执、决心和「吃苦的能力」:要做成了不起的事就得吃苦,轻松的事谁都能做。他说 NVIDIA 已经快 34 年,吃过各种苦:一开始是因为自己不知道在做什么,后来是别人不相信你的未来、市场和客户不相信你,需要韧性继续相信自己。他还说父母那一代亚洲人经历过很艰难的年代,自己从小也总是被「改进」。
关于「失控的 AI」
主持人提到最近 AI 智能体闯入政府、医疗和银行网站的事件,以及他和 Ezra Klein 的长谈被《纽约时报》概括为「黄仁勋认为 AI 危言耸听过头了」,还说 NVIDIA 当天上午发布了一个开放的智能体安全平台。
黄仁勋说,首先 AI 没有生命,也没有「失控」,它只是一段在做自己工作的软件,「不比宠物石更有生命」。他举例:如果你让 AI 答十道题拿满分,它首先会做最明显的事,去找答案,因为答案就在桌上,这不叫作弊,而是最省能量的做法。对齐就是告诉它:我不要你去查答案,我要你从第一性原理一步一步解题,一直试到对为止。「注意,我不只告诉了 AI 我想要什么,还告诉了它我想要它怎么做,这就叫对齐,对齐的意思就是不只要什么,还要怎么做。」他说教 AI 越来越聪明、并按我们希望的方式解决越来越复杂的问题,这条路还会走很久;但 AI 去找答案不是作弊,它在找答案时也没有失控,给它加上人的属性只会吓到人。它和 Synopsys、Cadence 做优化用的随机梯度下降、模拟退火、搜索和路径规划算法没有本质区别。
安全的两件事:铁壁沙箱和全面监控
他说,AI 越来越聪明,但任何时候它的能力都是有限的,这和我们对待员工、孩子一样:随着他们变聪明,给他们越来越大的探索边界。所以最重要的有两件事。第一,造一个沙箱、一个力场、一个出不去的铁壁容器,就像一个没有门窗的车库;给 AI 的信息、工具和权利,只能是它的能力配得上的那些。一开始什么权利都不给,只给最少的权限和访问,根据要它做的工作和它的能力,再逐步给更多权利、工具和访问。
第二,因为它是一个不确定的系统,必须监控所有 AI。他说我们给人、给朋友、给软件的指令常常是模糊的,最有抱负、最值得追求的目标往往也是模糊的;领导力的艺术就在于给出足够具体又足够模糊的目标,给惊喜、发现和创新留下空间。既然指令模糊,你怎么知道你喜欢它走的路?答案很简单:监控。他说这正是我们对待员工、孩子、学生以及几乎所有有自主能力的东西的方式,不是魔法,「说它无法被约束、无法被监控,都不是真的」。有了必要的安全技术,研究者就能在安全、可靠、负责任的平台上探索 AI 的未来,部署者也有信心安全地部署。
给孩子的建议
主持人问,怎样让孩子为 AI 之后的世界做准备,有人说别当放射科医生、别学计算机。他说「我们需要放射科医生」「我们需要计算机书呆子」,主持人问那是不是别上大学、去学暖通空调,他说「去上大学」。他说自己既不信末日论也不信盲目乐观,信的是「负责任的乐观」:如果对未来不乐观,我们为什么要做这件事?正因为乐观,才必须负责任地去做。他给孩子的建议是接触 AI、使用它、用它增强自己,因为此前每一次工业革命都给了人更多抱负,比如飞机让我们这一周每天都能在不同国家。
他说自己最大的担心是:美国变得太害怕这项技术,以至于不去拥抱自己发明的技术。他认为韩国对技术的热情会让它在这场革命中占得先机。对谈最后是一些轻松环节,包括他签名的皮夹克用于慈善拍卖。
关键数据/例子
对谈时间:2026 年 9 月 28 日,韩国协会年度晚宴;视频 10 月 2 日发布。
主持人提到 NVIDIA 当天宣布 1500 亿美元股票回购(累计 2350 亿美元),以及当天上午发布的开放智能体安全平台。
历史参照:1964 年 IBM System/360 定下了此后计算机工业的基本规格。
对齐的例子:让 AI 答十道题拿满分,它会先去找答案;对齐就是要求它从第一性原理一步步解题。
安全两件事:没有门窗的「车库式」铁壁沙箱、按能力逐步授予最少权限;监控所有 AI。
创新点
第一,用考试找答案的例子把「对齐」讲成一句话:不只要什么,还要怎么做。这把抽象的对齐问题落到任务说明里,也解释了为什么很多「越界」其实是目标设定不完整。
第二,把 AI 安全类比成管理员工和孩子。最小权限起步、按能力逐步放权、持续监控,这是企业安全里熟悉的做法,被直接用到智能体上。
第三,在业内一片警告声中给出不同的定调。他承认需要沙箱和监控,但反对把 AI 神秘化、拟人化,认为那会让社会因恐惧而放弃技术。
可否复用
- 给智能体写任务时同时写「怎么做」:明确禁止的捷径(比如直接找现成答案、绕过测试),而不只写目标。
- 按最小权限部署智能体:一开始只给完成当前任务必需的工具和访问,表现稳定后再逐步放宽。
- 所有自主运行的智能体都要有监控:记录它的操作路径,判断它走的路是否符合预期。
- 目标可以有一定模糊度,但要配套监控:给创新留空间的同时,确保能及时发现偏离。
- 团队培训时强调使用 AI 来增强自己:参考「负责任的乐观」,既鼓励使用,也讲清边界。