
Meta GEM 2026:统一中央广告基础模型 Kunlun,转化 +18.9%、CTR +12%
工程推荐系统广告基础模型GEMMeta
一句话结论
2026 代 GEM 从分域优化收成单一中央基础模型 Kunlun,跨面学习点击与转化;整体转化提升 18.9%、CTR 提升 12%,并用 LoopFM 与 Solaris 把智能转到线上模型,训练 MFU 翻倍到 20–25%、总 FLOPs 约×4。
打开原文
Meta Engineering:GEM — Scaling the Central Model and Compute Engine for Frontier Ads AI
背景与理念
广告面与目标变多后,按 Facebook/Instagram/Reels 各自优化难以同步提升全漏斗。GEM 要在 LLM 级算力上弯折推荐缩放曲线,并把跨面信号学进一个中央引擎。
具体做法
- Kunlun:与最新 GPU 共设计的 LLM 风格架构,支持更长用户行为上下文。相对早期 GEM,模型复杂度约增至 2.5× 并观察到类 LLM 缩放。
- LoopFM 结构化表征做事后训练迁移;Solaris 弹性预计算收获上游增益。配合知识蒸馏,在不增加算力与延迟的前提下加倍智能转移。
- 跨面数据混合 + domain expert,让点击等富数据任务反哺稀疏转化任务。端到端训练效率翻倍到 20–25% MFU,总训练 FLOPs 约×4。
关键数据/例子
整体转化 +18.9%、广告 CTR +12%;过去一年对目标用户另贡献 Facebook / Instagram / 站外转化 uplift 5.8% / 4.1% / 1.6%。平台日活至少使用一款应用的人约 36 亿,中央引擎联合预测各面点击与转化。
创新点
第一,用中央基础模型替代分面独立预测系统,再靠后训练把智能转到可服务模型。第二,在推荐场景做出接近 LLM 的缩放与更高 MFU,而不是只堆参数。
可否复用
- 多面广告/推荐先统一表征与目标,再分面服务。
- 超大上游模型必须配事后迁移与预计算,否则线上延迟扛不住。
- 跨域学习用显式 domain expert 与数据混合配方,避免富任务淹没稀疏任务。