
egghead 创始人 John Lindquist 演示 Jev 的八种用法:语音待办、去重路由和多 agent 避撞,靠「快且几乎免费」打开原先不划算的分类场景
Jev决策引擎实时分类路由去重多 agent 协调
一句话结论
Jev 不是聊天模型,而是输出决策、分数和是非概率的「决策引擎」;John 用语音待办、数据去重、应用路由、多 agent 避撞和演讲教练等八个演示说明:当成本接近免费、延迟接近即时,原先不值得扔进大模型的大规模分类与路由,突然都变得可试。
打开原文
How I AI:Jev — 8 real use cases for the fastest, cheapest model(John Lindquist)
背景与理念
How I AI 把这一周称为「Jev Week」。Claire Vo 请来重复嘉宾 John Lindquist(egghead.io 创始人,现做 mega.dev),专门展示 Typesafe AI 的 Jev:它不生成长文,而是在有限选项上做结构化决策与打分。
两人都强调「快且几乎免费」改变了什么。John 说自己做了上百个演示大约只花了 73 美分;扫过约两万条记录大约 4 美分;大约 5GB 的 JSON 做过一轮整理大约 40 美分。许多以前因成本和等待而不肯做的数据发现,现在可以随手试。
具体做法
- 实时语音待办。对着麦克风说指令,Jev 立刻分类并执行,几乎感觉不到停顿;适合「有限指令集 + 要马上响应」的交互。
- 把自然语言映射到函数名。例如购物车场景:一句话落到确定的函数调用,而不是先让大模型写一段解释再解析。
- 数据去重与合并。对脏记录做两两比较,靠置信度决定合并;John 说大体量集合可以在毫秒级合并,并用置信度决定要不要再找更强模型复核。
- 把 Jev 当多层应用路由器。单一文本输入可把用户导到应用深处;架构上先把界面动作收成有限决策集,而不是无限开放画布。
- 和低推理 LLM 对弈国际象棋。用限时闪击赛对比速度与成本:棋盘合法着法有限,更像路由问题;John 用它说明何时该用决策引擎、何时仍需要会「编故事」的生成模型。
- Wikipedia「通向哲学」路径映射。从任意人物词条沿链接追到 Philosophy,演示在页面级 API 上做快速路由与路径搜索。
- 多 agent 避撞。多个 agent 各有任务时,用 Jev 分配下一步,避免同一时刻抢占同一「格子」或资源。
- 实时演讲教练。边讲边听,对照事先列出的要点逐项打勾,检查有没有漏讲。
关键数据/例子
节目里可核实的用量说法包括:上百个演示合计约 73 美分;约两万条记录约 4 美分;约 5GB JSON 一轮约 40 美分。
能力边界也很清楚:Jev 适合有限选项上的分类、路由和打分;需要长文写作、开放创作或深度推理时,仍应交给完整生成模型。信息来源:How I AI 节目页与 YouTube 字幕。
创新点
第一,把模型角色从「聊天伙伴」改成「决策层」。第二,用接近零的单位成本,把「大规模数据探索」从预算外拉回实验清单。第三,用置信度串联「便宜快模型做初筛、贵模型做复核」。第四,把 DOM 操作和多 agent 调度都建模成有限决策集,而不是无限自由文本。
可否复用
- 先盘点自己工作流里「选项有限、要立刻给出结果」的步骤(归档、路由、是否合并、选哪条菜单),优先拿决策型小模型试。
- 对大批量脏数据先做置信度去重或聚类,只把低置信样本交给前沿模型。
- 给多 agent 写一条避撞规则:同一资源或同一文件在同一时刻只允许一个执行者,由路由层分配。
- 做实时语音或演讲检查时,把「允许指令 / 必讲要点」列成封闭清单,不要指望开放对话自己猜意图。
- 单独记账一次「以前觉得不划算」的数据实验,用实际花费判断是否值得常态化。