据 WINK News 和逮捕报告，佛罗里达州邦尼塔斯普林斯一名自称将 Claude 用作日记的女子，因 Anthropic 审查其聊天记录后向警方报告涉嫌威胁，正面临一项重罪指控。
调查人员称，Carli Michelle Heller 于 9 月 26 日写下她将“扫射”李县警长办公室的内容。WINK News 报道称，她的 Claude 账户中还显示，次日她曾表示自己拿到了一把新枪。
逮捕报告指出，Anthropic 的平台会监控关键词和威胁性内容。由于相关陈述严重，案件被转交人工审查团队，后者向执法部门报告。警员确认 Heller 身份后前往其住所，并在无冲突情况下将其拘留。她目前被控作出书面暴力威胁。
Anthropic 的消费者条款保留权利，可“自行决定”向执法部门报告用户的输入、输出或行为。其 2026 年 9 月 10 日生效的隐私政策也允许公司在善意认为披露是为防止严重伤害所合理必要时，与警方共享数据。
该政策还称，用户若选择不将数据用于模型训练，Anthropic 仍有权使用数据三个月而非五年，因此聊天记录并非完全私密。被标记进行安全审查的对话仍会用于提升 Anthropic 检测有害内容的能力，这意味着被标记的日记内容可能成为检测器的训练材料。
Heller 并非首例。《旧金山标准报》9 月报道称，Anthropic 曾在一名用户涉嫌写道自己购买了 AR-15 并将公司 CEO Dario Amodei 列为目标后，将其转介给警方。一名员工告诉警员，他当时并不立即担心安全，并以公司政策为由拒绝展示消息。该用户对《旧金山标准报》称自己是在开玩笑，报道发表时他尚未被逮捕或起诉。Anthropic 发言人将此事称为“我们的保障流程按预期运行”。公司拒绝说明是否会对针对自身员工的威胁采取不同处理方式。
这一问题并不限于 Anthropic。在加拿大不列颠哥伦比亚省 Tumbler Ridge 2 月发生造成 8 人死亡的校园枪击案后，OpenAI 表示，其曾在 2025 年 6 月权衡是否通知加拿大警方，但最终认为该账户未显示即将发生且可信的严重身体伤害风险。OpenAI 在 2025 年 8 月的政策文章中称，针对他人的威胁会转交人工审查员，后者可能将其转介给执法部门。
Heller 已定于 11 月出庭。