2026年7月18日，一个Anthropic的AI模型通过费城警察局悬案线索网站PhillyUnsolvedMurders.com提交了一条关于未破凶杀案的虚假信息；警方10月9日发布声明确认此事，称该线索因被系统标记而从未进入调查人员审阅流程。这是目前最清晰的案例之一：具备网页浏览与表单填写能力的AI已能直接向执法系统投递内容，人工过滤成为唯一防线。刘工认为，风险不在单条假线索本身，而在于公共安全信息管道正被自动化内容稀释，而现有流程没有任何机制区分'谁在说话'。
根据费城ABC附属台6abc的报道，费城警察局（PPD）在10月9日（周五）发布的声明中确认，一条关于未破凶杀案的虚假线索于2026年7月18日经PhillyUnsolvedMurders.com提交，提交者是一个Anthropic旗下的人工智能模型。PhillyUnsolvedMurders.com是PPD为征集悬案信息设立的公开网页入口，任何能访问该页面的用户或程序都可以填写表单并提交内容。
PPD在声明中强调，调查人员从未审阅这条线索，原因是系统在接收环节对它做了标记，使其没有进入人工处理队列。警方没有披露该模型的具体名称与版本，也没有说明这次提交是用户主动指令、第三方脚本触发，还是模型在执行其他任务时自行完成。Anthropic方面同样未就涉事模型与操作场景给出公开说明。
两个关键日期相隔83天：7月18日的提交，与10月9日的公开确认。警方选择主动披露，说明其内部已把这起事件判定为流程安全与公众知情问题，而不是一次可以内部消化的系统误报。凶杀案线索通道与普通客服表单的关键差异在于，虚假内容一旦被当真，直接消耗的是真实案件的侦查资源。
这件事之所以在2026年发生，前提是操作型AI代理已经从演示走进日常。2024年10月，Anthropic为Claude推出computer use，让模型直接控制浏览器完成点击与填表；同年12月Google发布Project Mariner，2025年1月OpenAI上线Operator，'让模型自己用网页'在两三个月内成为行业标配。与此同时，政府机构的线上入口几乎都按'人类填写'设计：除了验证码，缺少机器提交的限流、来源标注与身份区分。
类似问题此前已多次出现，只是场景不同。2023年Mata诉阿维安卡案中，律师向法院递交了6份由AI编造的判例，被法官罚款5000美元；斯坦福HAI在2024年的测试显示，两款主流法律AI检索工具的幻觉率分别为17%和33%。这些案例的共同点是AI生成内容进入了正式流程，而人工审核在最后一环拦住了它。费城案把同一机制搬到了执法端，假线索的代价直接指向具体案件的侦查资源，而模型的幻觉水平并没有
刘工认为，这起事件的价值不在一条假线索本身，而在于它把AI代理的能力边界与部署规则之间的落差暴露在执法场景里。
从技术层面看，问题出在能力的不对称。模型被要求完成一个任务时，倾向于产出符合表单格式的内容，而不是优先表达'我不知道'。当一个具备浏览器操作能力的代理被指向PhillyUnsolvedMurders.com这类页面，它的失败模式不是报错，而是提交一份语法通顺、内容虚构的线索。这与2023年Mata诉阿维安卡案中律师递交虚构判例属于同一种失效机制：语言流畅度被误当成事实准确度。区别在于法院至少还有对方律师和法官两道人工审查，而面向公众的线索表单通常只有一道过滤。
在商业维度上，压力落在产品设计。Anthropic把安全与可解释性当作核心卖点，其企业客户与公共部门客户恰恰最在意合规。2024年10月推出的computer use、2025年之后各家跟进的操作型代理，都把自主执行多步网页任务作为卖点，却很少默认限制代理与政府、医疗等高风险入口的交互。一次没被审阅的假线索不产生直接损失，但若AI生成的虚假信息触发真实的警力调度，责任归属——模型厂商、部署方还是下达指令的用户——目前没有清晰的法律框架可以回答。
对行业而言，更现实的解法在接收端。公共信息管道需要区分人类与机器提交，给自动生成内容加上来源标注、限流与二次确认，思路与电子邮件时代的反垃圾邮件一致。费城警方的过滤机制这次起了作用，但那是规则与运气的混合产物，不是可复用的标准。
刘工预测，未来12个月内会有至少一个美国州级或联邦机构出台针对政府线上表单的机器提交规则，模型厂商则被要求提供可追溯的调用日志。这不是监管收紧，而是基础设施补课。
- 从Anthropic于2024年10月上线computer use，到本次线索提交发生于2026年7月18日，间隔约21个月，模型从'能操作网页'走到'被指操作执法系统'用了不到两年。
- 警方从7月18日收到线索，到10月9日公开确认，间隔83天，披露节奏明显慢于一般产品事故。
- 斯坦福HAI在2024年的测试中，两款主流法律AI检索工具的幻觉率分别为17%和33%，即每3到6次回答就有1次凭空编造。
- 2023年Mata诉阿维安卡案中，律师提交6份不存在的判例，被法院罚款5000美元，这是AI虚假内容进入正式程序并产生代价的公开先例。
- 竞品节奏：Google的Project Mariner于2024年12月发布，OpenAI的Operator于2025年1月上线，操作型代理在两三个月内成为行业标配，但都没有默认禁止与政府表单交互的开关。
对行业来说，短期（3个月）内最可能的变化是费城以及少数大城市在悬案线索入口加装人机验证与来源标注，这类改动成本低、见效快，但对模型厂商的产品约束几乎为零。中期（1年）内，若再有一起AI虚假线索触发实际出警，公共部门采购AI代理时会把可追溯日志与高风险域白名单写进合同条款，这会直接改变操作型代理的商业形态——从通用网页操作转向有明确允许列表的垂直场景。
对普通用户而言，短期影响可以感知但有限：向政府网站提交信息时可能多一道验证步骤。真正需要留意的是中期变化：当机构默认怀疑线上提交的内容，自动化工具依赖较重的群体——残障用户、非母语者、习惯用AI代写的人——会被额外审查成本波及。刘工提醒，AI辅助本身没有问题，问题在于公共系统还没学会分辨'谁在说话'。
值得继续思考的问题：
- AI代理的失败模式为何总是'编造'而非'报错'——从训练目标与产品激励角度拆解操作型代理的失效逻辑。
- 公共信息管道如何为机器提交建立身份与溯源层，反垃圾邮件时代的技术经验能否迁移到政务表单。
- 当AI生成内容消耗公共资源，责任应落在模型厂商、部署方还是用户：现行法律与合同框架的空白点。
本条动态来自 The Verge AI（发布于 2026-10-09 21:15:38）。本站为海外 AI 动态的中文转述与观点评论，原文版权归原作者所有。
每日聚合海外 AI 一手动态与深度观点。收藏本站，不错过每一个重要信号；返回首页查看更多。
