← 返回全部情报
扎克伯格接受 Joanna Stern 专访:Muse 为了隐私和安全推迟三个月,「对齐不是牺牲,是正确的事」;眼镜会是下一代计算平台,拆掉指示灯偷拍的用户不到千分之一 的封面

·Joanna Stern(YouTube)·厂商 CEO 访谈收录 2026-10-08

扎克伯格接受 Joanna Stern 专访:Muse 为了隐私和安全推迟三个月,「对齐不是牺牲,是正确的事」;眼镜会是下一代计算平台,拆掉指示灯偷拍的用户不到千分之一

MetaMark ZuckerbergMuseAI 眼镜信任与对齐哨兵智能体机密虚拟机隐私

一句话结论

扎克伯格在 Meta Connect 之后对 Joanna Stern 说,他不认为需要全行业协调来避免 AI 出事,每家实验室发现问题时花足够时间处理就行,Muse 就因为要把隐私和安全做对推迟了三个月;他把「信任和对齐」称为下一阶段最重要的能力,内部最看重指令遵循、意图理解和价值观对齐,并说能力和对齐之间不存在取舍;他介绍了 Muse 的「哨兵」智能体架构和由 Moxie Marlinspike 设计、只有用户持有密钥的机密虚拟机,并把「分寸」(discretion)列为必须从训练起就做好的能力;他认为眼镜会是继手机之后最重要的计算设备,称拆掉指示灯偷拍的人不到眼镜用户的千分之一,Meta 已让被改动的眼镜摄像头失效。

打开原文 Joanna Stern:Mark Zuckerberg on Muse, Audio-Only Glasses and Killer AI

背景与理念

Joanna Stern 在 Connect 大会后到 Meta 总部采访扎克伯格,开场就问「AI 会杀死我们吗」。扎克伯格说,只要大家都尽职、负责任,就不会;他对这是一个积极的未来很乐观,并说自己不认为需要某种全行业协调才能不把事情搞砸,每家实验室发现问题时,在内部花足够的时间确保安全推进就行。

他的核心论点是:接下来最重要的能力是信任和对齐,而不是数学有多好。他说模型的数学已经相当不错,内部现在讨论的是指令遵循(是否照你说的做)、意图理解,以及是否理解你的价值观;人们如果不信任一个产品就不会用它,所以「把这件事做对有充足的商业动机」。

具体做法

推迟 Muse、反思机制与「对齐不是牺牲」

他说几个月前 Muse 就已经有一个相当不错的版本,但团队想把隐私和安全的部分彻底做好,于是推迟了三个月。他不同意业内「能力和对齐之间有取舍」的说法,也不认同有些实验室说自己「为了推迟忍受了很多痛苦」:「不,你们只是在做正确的事。」

Stern 说她用了几周 Muse,发现它总在自我纠正,扎克伯格说这是有意设计的「反思」能力。他说 Muse 并不是今天就什么都做对,但它对自己能做对什么、做不对什么有一定的判断;在你没有吩咐它的空闲时间或夜里,它会回顾当天发生的事,反思怎样做得更好。

为什么是眼镜

他说每一代计算平台都更自然、更普及:从大型机、小型机、台式机、笔记本到手机,下一步是「整天戴在身上的东西」,其中最重要的会是眼镜。理由是,最自然的交互对象是一个理解你、能预判你需要什么、了解你周围世界的 AI 智能体;要做到这一点,它需要尽量接近你所拥有的上下文,而眼镜能让智能体看你所看、听你所听,在视野里不打扰地显示信息,还能和你说话。他说全世界有几十亿人戴眼镜,就像翻盖手机注定变成智能手机,现在大多数眼镜迟早会变成 AI 眼镜。

他承认 Reality Labs 的重心变了:当初他预测元宇宙和全息影像会先于高级 AI 到来,结果科技树反过来了。他用苹果做比喻:苹果做 iPad 时发现能做手机,就把 iPad 搁置了几年,后来 iPad 也成功了,但手机大得多;Meta 也是一样,继续做全息研究,但要记住 AI 会大得多,而且现在就能做。

新硬件包括:349 美元、没有摄像头只有扬声器和麦克风的 Ray-Ban Meta 音频眼镜;1299 美元、5K 屏幕、电池和处理器放在腰间小盒里的 Meta VR 眼镜(2027 年春季上市);以及 Ray-Ban Meta 第三代。扎克伯格把 VR 眼镜称为「四合一」:私人影院、可以随处展开多块屏幕的工作站(「在咖啡馆里开六个编码终端」)、游戏机和混合现实设备。眼镜还在推出听力增强功能,他说这会是一款经 FDA 批准的医疗级助听器,价格只是传统助听器的一小部分。

「变态眼镜」和偷拍问题

Stern 提到今年夏天有人提供把眼镜录制指示灯钻掉的服务,她自己也拿去一个新泽西的车库试过,扎克伯格说做这种事的人不到眼镜用户的千分之一。他说眼镜从第一代起就内置了录制指示灯,后来又加了防护:灯被改动就让摄像头失效,用胶带遮住也不允许录制;他认为最近质疑变多,是因为眼镜已经成为主流,Meta 应该更早、更多地讲清楚这些功能。音频眼镜没有指示灯,他解释指示灯是给摄像头用的,Meta 告诉 Stern 音频眼镜目前除会议录音外没有录音功能;他也否认音频眼镜是为回应批评仓促做出的,说这类项目要提前好几年开始。

他说 Meta 正在为眼镜打造一个「可信计算环境」,AI 功能和对话在其中运行,即使 Meta 员工想看也看不到。他认为人们对 Meta 的隐私印象来自 Facebook,因为它本来就是一个分享服务,但 WhatsApp 是全球最大的端到端加密网络;他说 Meta 未来做的东西会更像 WhatsApp,而不是纯粹的社交分享服务。

Muse 的安全架构与「分寸」

Stern 说她没敢把私人 Gmail 接给 Muse,一是不确定能否信任 Meta 保管私信,二是怕她的 Muse 擅自给人发邮件。扎克伯格说,所有内容都在用户自己的「Muse 安全虚拟机」里,凭据之类的信息智能体本身接触不到;Muse 其实不是一个智能体,还有一个「哨兵」智能体专门监督它,检查所有进出的信息并确认是否是你想要的,需要你确认的事项是由哨兵而不是 Muse 自己决定的。

更进一步,Moxie Marlinspike 正在做 Muse 机密虚拟机,让你的虚拟机拥有只有你持有的加密密钥,Meta 即使想看也看不到。他说这意味着即使 Meta 被黑也拿不到,如果某个国家的政府要求提供数据,Meta 也无从交出;他们会发布白皮书,让安全社区来审查。

第二个问题他称为「分寸」:智能体必须从底层就被训练出判断哪些信息可以分享、哪些不可以。他举例,让它订餐厅时,你可能有饮食限制或者怀孕了,但不想告诉对方,它应该在透露尽可能少的信息的前提下把事办成;他说这和做编码智能体很不一样,也是 Meta 成立超级智能实验室、从训练模型到做产品全链路自己做的原因,「我们不能拿别家的模型来,指望它恰好擅长分寸」。

他自己怎么用 Muse

他的 Muse 叫 Agrippa,以一位古罗马人物命名,还穿着托加袍。他举的用法有:女儿想爬一座需要许可证的山,他让 Muse 一有机会就去申请,拿到后通知他;让它查邮件找出没用或重复的订阅帮他取消;他在自己的综合格斗训练馆装了摄像头,让 Muse 在实战对练的回合间隙看录像并给反馈,这需要它搭一整套视频处理流程、认出哪个人是他,而且回合间只有一分钟,所以要处理得很快;现场它给出的反馈是「防守时要更用力地撤腿,把髋往后送」。Connect 上新增了语音对话。

被问到 AI 伴侣会不会加剧孤独,他说好坏两种版本都会有。他举例三岁的小女儿喜欢烘焙,而他完全不懂,现在每个周末 Muse 都会准备好食谱并下单食材,让他能和女儿一起做原本可能就放弃的事;他说自己 10 岁以下的孩子还没有 AI 伴侣,但他会和女儿一起用 AI 编码智能体做东西,这首先是一个家长设定边界、做好监督的问题。

关键数据/例子

Muse 推迟发布三个月,为了把隐私和安全做对。

偷拍问题:扎克伯格说拆除指示灯的用户不到眼镜用户的千分之一;灯被改动或被遮挡时摄像头将无法录制。

新硬件价格:Ray-Ban Meta 音频眼镜 349 美元;Meta VR 眼镜 1299 美元、5K 屏幕、2027 年春季上市。

安全架构:每个用户独立的安全虚拟机;监督所有进出信息的哨兵智能体;Moxie Marlinspike 设计的、只有用户持有密钥的机密虚拟机,并将发布白皮书。

个人用例:替女儿申请登山许可证、清理重复订阅、格斗对练的回合间隙在一分钟内给出视频反馈、每周准备烘焙食谱和食材。

创新点

第一,把对齐定义为产品能力而非成本。扎克伯格明确否认「能力与对齐有取舍」,把指令遵循、意图理解和价值观对齐当作下一阶段竞争的核心。

第二,让监督者而不是执行者决定何时问人。由哨兵智能体决定哪些事项需要用户确认,避免执行智能体为了完成任务而跳过确认。

第三,用「分寸」描述个人智能体的独特难点。代人办事时尽量少暴露主人的信息,这是编码智能体不需要、个人智能体必须具备的能力。

第四,空闲时自我反思。利用没有任务的时间回顾当天的执行,形成持续改进的闭环。

可否复用

  1. 把「只透露完成任务所需的最少信息」写进个人智能体的规则:订餐、预约、客服沟通时,默认不主动说出健康、财务等隐私。
  2. 让独立的检查环节决定何时要人确认:执行任务的智能体不应自己判断「这个可以不问」。
  3. 给智能体安排每日复盘:让它在空闲时回看当天的任务和纠正记录,整理成改进要点。
  4. 对硬件或软件的隐私承诺要可验证:比如发布白皮书、接受第三方审查,并主动、持续地向用户解释防护机制。
  5. 从小事开始建立信任:先把行程、订阅清理这类低风险任务交给智能体,再考虑开放私人邮箱这类高敏感权限。

笔记会在输入时自动保存。