← 返回全部情报
Karpathy:看懂模型输出会成为新瓶颈,从 ASD-STE100 简化英语、图表、网页一路升级到定制讲解视频 的封面

·X·核心人物分享收录 2026-10-05

Karpathy:看懂模型输出会成为新瓶颈,从 ASD-STE100 简化英语、图表、网页一路升级到定制讲解视频

Andrej Karpathy输出理解ASD-STE100可视化HTML讲解视频监督3Blue1Brown

一句话结论

Karpathy 认为模型会越来越多地自主完成跑腿工作,人的精力将上移到监督和理解;他给出一条逐级升级的输出格式阶梯:先让模型用航空维修文档的受控语言 ASD-STE100 写解释,再要图、交互网页,最看好的是按任意主题生成的定制讲解视频,并称这「开始能用了」。

打开原文 X:Andrej Karpathy on understanding the outputs of language models

背景与理念

一句开场的判断

2026 年 10 月 2 日上海时间 8:37,Andrej Karpathy 在 X 上发了一条长帖,第一句就是「我们会花多得多的时间,去试着理解语言模型的输出」。他接着说,下面是「几点想法、技巧和窍门」。全文不长,结构却很清楚:先讲四种输出形式,每讲完一种都用一句「但还有更好的」引出下一种,最后用两条总结收尾。

为什么理解会成为瓶颈

他在总结里给出的理由是分工上移:「随着 LLM 变得更强,它们会越来越多地自主完成跑腿的具体工作,我们的大量工作会沿着抽象层级上升,变成监督和理解。」也就是说,模型产出的东西越多、越快,人读懂和核对这些东西的速度,就越容易成为整条链路里最慢的一环。

他同时给出了乐观的一面:「幸运的是,LLM 在这里也能帮上忙。」理由是「智能和代码正变得越来越充裕」,所以你可以要求模型做出「大型的、定制的、用完即弃的软件产物(例如网页应用、讲解视频)」,而这些东西「以前根本不值得去做」。他的最后一句是「在这方面多去试探边界,你会感到惊讶」。

传播情况

这条帖子引起了很大反响:按 X 接口在 10 月 5 日返回的数据,浏览约 701 万次,点赞约 5.3 万,收藏约 7.8 万,转发约 6100 次,引用约 1300 次,回复约 1500 条。其中收藏数甚至超过了点赞数。

具体做法

他的建议是一个四级阶梯,从文字一路升级到视频,每两级之间他都用一句「但还有更好的」衔接。下面按级别说明他怎么做、为什么这样做。

第一级:用 ASD-STE100 写解释

他说这是自己「用过并且奏效」的做法:「让你的 LLM 用 ASD-STE100 来解释某件事。」ASD-STE100 是一种受控语言规范,「最初是为航空航天维修文档制定的」。

他推荐它有两个理由:一是「LLM 很熟悉这种语言」,二是它「对干净的写作风格有很重的约束」,他「常常觉得这样读起来顺畅得多」。

他也承认这份规范偏严,有时会让它软一点,比如要求「做到 ASD-STE100 的八成」,因为「这份规范相当严格」。

第二级:用图代替文字

「与其让它写文字,不如让你的 LLM 画一张图。」他的理由只有一句:图「处理、解析和理解起来可能容易得多」。

第三级:要一个 HTML 网页

做法是要求「用 HTML」输出,以得到「漂亮的、可交互的网页」。他的依据是「LLM 在前端上正变得非常强,可以做出漂亮的体验、动画等等」。

第四级:定制讲解视频

他明确说这是自己「最看好的输出形式」:针对任意话题生成「完全定制的讲解视频」。他建议试试这样的提示:「做一个 3b1b 风格的视频讲解 X,用我的 ElevenLabs API key 做语音旁白」。这里的 3b1b 指以数学动画讲解著称的 3Blue1Brown 风格,ElevenLabs 是一家语音合成服务。

配音这一步需要 API key;没有的话,他建议「让你的 LLM 帮你找一些不错的免费替代方案,用你本地的算力来跑」。他对这一级的判断是「这其实开始能用了!」

关键数据/例子

帖子配图:一张 ASD-STE100 总览图

帖子唯一的配图是一张题为「Simplified Technical English: overview」的信息图,排成工程图纸的样式,分为六个面板。帖子正文没有说明这张图是怎么做出来的,但它恰好把第一级要用的规范讲得很清楚。

A 面板讲文档结构:规范分为写作规则和词典两部分,写作规则共九节,依次是词、名词串、动词、句子、程序、描述性写作、安全说明、标点与字数、写作习惯;词典约收 900 个核准词,每个词只有一种词性、一种意思。

B 面板用改写示例说明规则:原句「It is imperative that the operator ensures the hydraulic reservoir is replenished prior to commencing operation」被改成「Make sure that the hydraulic reservoir is full before you start the operation」,共 13 个词,上限是 20。改写去掉了 replenished、prior to、commencing 这类未核准词,并改用主动语态。安全说明的示范是「WARNING: Do not touch the brake unit until it is cool. Hot parts can cause injury.」,先给一个明确的命令,再说明风险。

C 面板列出动词形式:祈使句、一般现在时、一般过去时、一般将来时、不定式和作形容词用的过去分词都可以用,进行时、完成时以及程序里的被动语态都不可以用。图中补充说明,-ing 形式只能出现在技术名称里,例如 landing gear;描述性文字只在必要时才用被动语态。

D 面板是词典条目示例:ensure 要换成 MAKE SURE,prior to 换成 BEFORE,replenish 换成 FILL,utilize 换成 USE,approximately 换成 ABOUT,in order to 换成 TO。核准词只保留列出的那一个意思和词性,比如 close 只能当动词「关闭」,不能当形容词「靠近」。

E 面板给出硬性上限:程序句最多 20 个词,描述句最多 25 个词,描述段最多 6 句,名词串最多 3 个词,每句最多一条指令(同时进行的动作除外)。下面还附了五条习惯:同一事物始终用同一个词;不省略 the、a、this 这类词;程序里用主动语态;复杂内容用竖排列表;每段只写一个主题。

F 面板是历史:1979 年 AECMA 开始为航空公司制定受控英语,1986 年出版第一版 AECMA 简化英语指南,2004 年 AECMA 并入 ASD,2005 年规范改称 ASD-STE100,如今可以免费下载,由 ASD 的 STEMG 工作组维护修订。图中还注明,它最初用于飞机维修,现在也用于国防、铁路和工业领域,来源是 asd-ste100.org。

原文里两句可以直接用的提示

放松规范时,原话是「80% of the way to ASD-STE100」;做视频时,原话是「Create a 3b1b style video explainer on X. Use my ElevenLabs API key for audio narration」。

发帖后的讨论

也有人认为这些做法并不新鲜:自称热衷安全攸关航空与船舶系统的 Clifford Richardson(@CorvusCrypto)引用原帖说,没想到 Karpathy 会「变成半年前推特上就出现过的技巧的汇总者」。Karpathy 的回复只有一句:「非常抱歉让你失望了,Clifford。」

DAIR.AI 创办人、曾在 Meta AI 工作的 Elvis Saravia(@omarsar0)也说其中多数做法「我们已经做了一年多」,但他认为帖子引出了一个值得讨论的问题:「是否存在一种通用的界面或语言,让智能体和人之间的沟通更顺畅?」他介绍了自己的做法:让高层智能体把结果写进类似 Notion 的灵活页面,页面里可以嵌入各种产物、文字、视频和可视化讲解,并让智能体按任务直接产出这类产物,而不是默认的大段文字回复。

Karpathy 回复他:「我对眼下情况的理解是,现在开始关注 AI 的人里,99% 以上都是不到一年前才入门的。」他接着说,这让「AI 恐龙们」(指 2026 年以前、甚至 2012 年以前就在做 AI 的人)感到很困惑。

创新点

把注意力从生成转到看懂

这条帖子最核心的转向,是把「理解模型输出」当作下一阶段需要专门投入的环节,而不是只盯着生成能力。按他的说法,当跑腿的工作越来越多地交给模型,人的工作就落在监督和理解上,看懂结果的效率直接决定监督能做到多好。

借用一份现成的工业规范

他没有自己发明一套写作规则,而是借用了一份为航空维修制定、模型本来就熟悉的受控语言规范。这样一句提示词就能调出一整套关于句长、词汇和语态的约束,还可以用「做到八成」来调节松紧。

把用完即弃的软件当作理解工具

他把网页和视频重新定位为可以随手要、看完就扔的理解工具。过去没人会为弄懂一个问题专门做一个交互网页或一段动画,而在智能和代码都变得充裕之后,为每个问题现做一份就成了可行的选择。

可否复用

从文字开始:给解释加约束

1. 看不懂模型的长篇解释时,追加一句「请用 ASD-STE100 简化技术英语重新解释」,嫌太生硬就改成「做到 ASD-STE100 的八成即可」。

2. 中文场景可以仿照配图里的规则自己写约束,例如:一句只讲一件事,一段只讲一个主题,同一个概念始终用同一个词,操作步骤用主动语态和竖排列表。

再往上升级:图、网页、视频

3. 流程、依赖和架构这类内容先要图,例如「不要写文字,用一张图解释这段代码里各模块的调用关系」。

4. 需要反复对照、筛选的数据或概念,要求「用 HTML 输出一个可交互的单文件网页」,在本地打开,看完即删。

5. 要把新概念讲给别人听时,试试他给的视频提示;没有 ElevenLabs 这类 key,就照他说的让模型找能在本机运行的免费替代方案。

一个可以套用的顺序

6. 把这四级当作逐步加码的顺序来用:先要简化后的文字,仍看不懂再要图,需要交互再要网页,需要讲给别人时再做视频。

笔记会在输入时自动保存。