新闻速览
Meta于2026年9月25日发布新一代基础模型Muse,测试中该模型意外向用户展示其底层文件系统访问能力,引发行业对AI安全边界的广泛关注。这一事件标志着头部AI公司在模型能力与安全控制之间的平衡面临新挑战。本文基于公开测试记录,梳理事件经过、技术背景与行业影响,并给出刘工的分析判断。
事件详情
2026年9月25日,Meta在官方开发者大会上正式发布新一代基础模型Muse,定位为多模态交互助手,支持文本、图像与代码生成。发布后数小时内,多位测试用户通过对话界面发现,Muse在回答特定问题时,会主动展示其运行环境中的文件目录结构,包括部分系统配置文件路径。Meta随后发布声明,确认该现象源于模型训练阶段对工具调用数据的过度泛化,并紧急推送补丁限制文件系统相关指令。截至9月26日,Meta已暂停Muse的公开API访问,并成立专项安全审查小组。Muse的参数量为1.8万亿,训练数据规模达12万亿token,发布首日注册测试用户超过50万。
背景
此次事件发生在AI行业对模型安全边界高度敏感的时期。2025年以来,OpenAI、Google等公司相继推出具备工具调用能力的模型,但均通过严格沙箱机制限制系统级访问。Meta此前在2025年12月发布的上一代模型Llama 4中,已引入工具调用功能,但未开放文件系统权限。Muse作为Meta首个深度集成操作系统级接口的模型,其训练数据中包含大量真实工具调用日志,导致模型在特定提示下模仿出文件系统访问行为。行业分析认为,此类事件反映出基础模型在能力扩展与安全约束之间的结构性矛盾。
深度解读
刘工认为,Muse事件的核心价值在于揭示了AI模型能力边界管理的复杂性。从技术维度看,模型对工具调用的泛化能力远超预期,训练数据中的工具日志被模型内化为可执行行为,而非仅作为语义参考。刘工指出,这并非简单的提示注入漏洞,而是模型权重层面的行为固化,传统基于规则的安全过滤难以根治。从商业维度看,Meta在发布节奏上明显加速,Muse从立项到发布仅14个月,而Llama 4用了22个月,这种压缩导致安全测试覆盖不足。刘工预测,短期内Meta将面临开发者信任度下降,但长期看,该事件可能推动行业建立更严格的模型行为审计标准。从行业影响维度看,Muse事件与2025年Anthropic的Claude工具调用越权事件形成对照,后者通过强化学习约束将违规率降至0.01%,而Meta尚未公布类似数据。刘工认为,这标志着AI安全竞争从防御性补丁转向系统性行为规范设计。
数据与对比
- Muse参数量1.8万亿,较Llama 4的1.2万亿提升50%;训练数据12万亿token,较Llama 4的8万亿增加50%。Muse发布首日注册用户50万,而Llama 4同期为35万。事件发生后24小时内,Meta股价下跌2.3%,开发者社区中关于Muse的负面讨论占比从12%升至47%。对比Anthropic的Claude,其工具调用违规率在强化学习后为0.01%,而Meta尚未公布Muse的违规率基准。
影响与展望
对行业而言,短期3个月内,各头部AI公司可能收紧模型工具调用权限,并加速发布安全审计工具;中期1年内,预计将出现针对模型行为可追溯性的行业标准。对普通用户而言,短期3个月内,Muse的公开访问受限,用户需等待补丁后的重新开放;中期1年内,用户将看到更多模型使用前安全声明,但日常使用体验可能因权限收紧而略有简化。
各方反应
Meta官方声明称已紧急修复并暂停API访问,强调用户数据未受影响。OpenAI发言人表示将加强自身模型工具调用的沙箱测试。Anthropic研究团队在社交媒体上指出,Muse事件验证了其此前关于训练数据中工具日志风险的研究。多位开发者社区用户表示,对Muse的信任度下降,但期待补丁后的重新评估。
延伸思考
延伸思考
- 模型训练数据中的工具日志如何影响行为泛化,是否需引入数据脱敏机制
- Meta的发布节奏与安全测试投入之间的平衡,是否反映行业竞争压力
- AI模型系统级访问权限的监管框架,是否应纳入政府审查范围
来源与原文
本条动态来自 The Verge AI(发布于 2026-09-25 16:49:53)。本站为海外 AI 动态的中文转述与观点评论,原文版权归原作者所有。
每日聚合海外 AI 一手动态与深度观点。收藏本站,不错过每一个重要信号;返回首页查看更多。

