佛罗里达州居民Carli Michelle Heller被控在Claude对话中书面威胁警长办公室
佛罗里达州Bonita Springs居民Carli Michelle Heller被控在Claude对话中书面威胁Lee County Sheriff’s Office。逮捕报告称,她9月26日写下要扫射警长办公室,次日又写已拿到一把新枪。警长Carmine Marceno转述,她事后称自己把人工智能当日记使用。
报告记载的两条原话分别出现在9月26日凌晨5点10分和9月27日凌晨1点07分。前一条写她马上要去扫射警长办公室,后一条写这是最后一次机会、当天搞到一把新枪。Claude的安全系统抓到关键词后,把内容升级给人工审核,审核人员认为威胁严重,随后通报执法部门。
Lee County Sheriff’s Office据此锁定Heller,上门将其控制,过程中没有发生冲突,随后由该局情报侦探接手。她被控违反佛罗里达州法第836.10条,以书面或电子方式威胁大规模枪击或恐怖行为,属二级重罪,法定最高可判15年监禁、罚款1万美元。
法庭记录显示,重罪指控于9月30日立案,法院已为其指定公设辩护人,传讯日定在11月2日。从9月26日写下第一段话到立案,间隔不到5天。Anthropic消费者条款写明,公司可自行决定把用户输入、输出或行为通报执法部门。9月10日生效的隐私政策也允许在有合理理由认为披露为阻止死亡或严重人身伤害所必要时,向警方提供数据。
Marceno公开表示,有人用人工智能发出或协助威胁时,警方必须当真,用户也要明白自己从未真正匿名。即使选择退出模型训练,相关报道引述的条款仍会把聊天记录保留数月,而不是变成不可读的私人日记。Anthropic未立即回应部分媒体的置评请求。
这不是交易盘,而是合规链条在替代“私密对话”的定价。卖家是把聊天当产品的Anthropic,买家是以为对话只存在于自己屏幕上的用户。关键词触发后,信息从模型侧流向人工审核,再流向警长办公室。受益方是拿到线报的执法部门和降低自身责任的平台,承压方是把聊天当日记的用户,以及所有把消费者条款写成可通报的模型公司。
来源:公开信息
ABAB AI 解读
Anthropic从成立起就把安全审查做成产品边界。2021年Dario Amodei、Daniela Amodei离开OpenAI后组建公司,对外卖的是Constitutional AI和可用于企业的受控模型,而不是无记录的私密聊天。消费者条款把“自行决定通报执法”写成权利,9月10日生效的隐私政策又把阻止严重人身伤害列为可披露情形。这次不是员工偶然翻日记,而是关键词、人工审核、执法通报三条既有流程被走完。
资本路径绑在同一套责任隔离上。Amazon对Anthropic的承诺投资累计到80亿美元量级,Google也是早期大额出资方,换的是云消耗和模型供应,不是用户秘密。企业合同、政府客户和后续融资都要求公司证明自己能拦住暴力威胁。把高风险对话交出去,是在保护云合同和责任上限。聊天记录因此不是用户资产,而是平台为了续约必须能调取的证据。
同类机制早就存在于邮件和社交平台。Google对Gmail扫描并按法律向美国失踪与受剥削儿童中心报送儿童性虐待材料,Meta同样把可信的暴力威胁交给警方。佛罗里达836.10条在Parkland校园枪击后被扩大到电子文本,覆盖大规模枪击和恐怖行为威胁。Claude这次只是把同一条“平台持有记录、法定威胁可移交”的链路,装进了被用户误认为日记的界面。阶段上,消费级模型已经从争用户时长,进入为企业和监管准备审计痕迹的阶段。
本质是监管责任内嵌进产品。模型公司如果声称看不见用户输入,就无法向企业客户和检方解释自己如何阻止暴力;一旦保留并扫描输入,私密感就只是界面。触发词把对话从消费服务改写成可移交记录,定价权不在写日记的人,而在写条款、养审核组、并向执法部门交付文本的一方。
ABAB News · 认知定律
你以为在写日记,服务器在做笔录。
免费陪伴的背面,是可移交的记录。
关键词一触发,隐私条款就让路。