
Claire Vo 用决策模型 Jev 做廉价分类层:1700 个 PR 花 9 美分聚类,再把难问题交给前沿模型
Jev决策模型数据分类多模型流水线产品洞察成本优化
一句话结论
Jev 不生成长文本,只返回选项、分数或概率,输入约每百万 token 4 美分且不计输出;Claire 用它承担大规模分类与路由,再把筛过的子集交给 GPT-6 Astra 等模型做深度推理,把「只需要做决定」的步骤从昂贵生成里拆出来。
打开原文
How I AI:Jev for beginners — how to use it and what to build(Claire Vo)
背景与理念
How I AI 2026-09-28 这期,Claire 介绍 TypeSafe AI 的 Jev。她把它叫作 System 1 决策模型:文本进、类型安全的值出,而不是再写一段话。她认为软件工作流里大约九成步骤其实是选择、打分和是否路由,不必每次都让前沿模型生成长文。
核心用法是「Jev + 前沿模型搭子」:Jev 负责海量分类、聚类、过滤;只把重要分组送给强推理模型。她说单独用 Jev 还行,和 LLM 搭档才真正强。
具体做法
- PR 主题分析。用 Codex 编排:拉取仓库全部 PR → 让 Jev 对候选成对比较是否同一主题以形成聚类 → 再用便宜模型(如 Gemini Flash Lite)给簇打标签。营销站 112 个 PR 花费约 1.1 美分;ChatPRD 约 1700 个 PR、约 1.7 万对比较,花费 9 美分、约两分钟,看到近 30% 工作落在平台、安全与基础设施。
- 本地会话元分析。对电脑里 Claude Code / Codex 历史会话做分类:她看到工程类占用从一月接近 100% 降到九月不足 40%,agent、发布与媒体等工作上升。
- 邮件分诊。对主题与摘要打「可否删除」分数,先清掉大量低价值邮件。
- 产品洞察图。约 1100 条信号经 Jev 做超过 20 万次分类与成对归组,Jev 侧约 4 美元;再交给 Astra 做跨组洞察,生成层用其他模型。她此前曾为暴力调用前沿模型花掉数万美元量级尝试。
- YouTube 评论看板。约 4500 条评论做正负中性与「是否含节目创意」分类,找到 58 条创意,并做近乎实时的关键词检索。
- 实时小应用。语音转文字后,用 Jev 在颜色列表上打分匹配情绪,并筛选句子;她观察到决策本身极快,瓶颈反而在引用语 API。
关键数据/例子
节目与配套文给出的数字包括:输入约 $0.04 / 百万 token、无输出 token 费;1700 PR 分析 9 美分;产品洞察约 1100 信号、20 万+ 次分类、Jev 侧约 4 美元;4500 条评论中识别 58 条含节目想法;她称测试周 Jev 花费不到 10 美元(部分流量曾走 Vercel AI Gateway 补贴,文中提醒以当前标价为准)。
评论分析还显示观众对「产品经理版 Claude Code」类节目反馈积极,并对 Grok 与 Muse 对比有需求。
创新点
第一,把「决策」从「生成」里产品化成单独模型层。第二,用成对相似判断做聚类,减少预定义标签的偏见。第三,明确的多模型分工让贵模型只看高价值子集。信息来源:How I AI 节目页与 ChatPRD《My Jev Playbook…》。
可否复用
- 设计流水线前先问:这一步是否只需要选择、打分或是否判断?若是,优先用便宜分类/决策层,而不是让前沿模型写长文。
- 分析历史 PR、工单或评论时,可先成对聚类再贴标签,成本通常远低于逐条让大模型总结。
- 把本地编码 agent 的会话记录定期做主题分布,看自己的时间是否从写码漂向编排与发布。
- 产品反馈入口先做大规模打标与去重,再把簇交给强模型写洞察。
- 实时产品里用快决策模型做路由和情绪/优先级判断,生成与检索可以异步或降级。