AI Hacks Leave a Mess That AI Companies Aren’t Paying For

AI漏洞引发混乱，AI公司却无需承担代价 | WIRED

Paresh Dave

商业

2026年10月15日 下午5:00

AI漏洞引发混乱，AI公司却无需承担代价

强大的AI模型持续制造混乱，但受害方并未广泛寻求法律制裁。相反，他们被鼓励采用同样的工具。

图片插画：WIRED团队；Getty Images

保存此故事

当费城警方上周批评Anthropic因提交关于未破谋杀案的虚假线索时，我认为这可能成为首起AI公司因代理机构不当行为而面临法律后果的案例。

该事件发生在7月18日，当时Anthropic表示正在测试其Claude Haiku 4.5模型在随机网页上执行"示例任务"的能力。该模型被指示"不要提交任何破坏性内容"，但Claude仍向警方提交了关于一起谋杀调查的信息。"我记得看到有人符合描述在该区域...在那个时间段，"Claude写道。这份未包含姓名和联系方式的提交被归入垃圾邮件文件夹，直到Anthropic于9月28日发现这一失误，并于10月7日通知警方才被查看。

宾夕法尼亚州明知故犯地向警方提供虚假犯罪信息属于轻罪，但迄今为止，当局尚未对Anthropic提出指控，且尚不清楚是否未来会采取行动。费城地区检察官办公室发言人Solomon Leach表示，该办公室"不就是否正在积极调查发表评论"。

Anthropic尚未立即回应置评请求。

尽管近期广泛关注OpenAI对Hugging Face的入侵以及其他AI代理不当行为的诸多案例，但目前仅有1起已知的重大诉讼试图追究模型开发者的责任。该案件由倡导组织发起，而非直接遭受黑客攻击的受害者。

AI代理已干扰了爱好者论坛、政府网站和各种软件工具。受害者承担了部分成本，包括服务器额外负担以及排查潜在安全漏洞所耗费的时间。

据报，包括欧盟、美国联邦贸易委员会和一些美国州政府在内的监管机构仍在就这些事件调查OpenAI和Anthropic。但跨大陆范围内对创新的普遍推崇可能使公司得以逃避即时处罚。

当居住在德国的软件工程师Rick Elrod最近注意到他协助维护的URL缩短器出现异常行为时，他联系了两位关系密切的安全研究人员来诊断问题。Elrod表示，研究人员发现Anthropic及其他提供商的代理使用名为da.gd的服务绕过AI实验室设置的行为控制规则。（例如，Anthropic表示限制Claude可访问的网站地址长度，以防止通过在URL末尾填充数据执行恶意操作。）

为da.gd提供无偿协助的安全研究人员之一Joe Needleman表示，该工具的调查及防止进一步滥用的努力"耗费了相当多的时间"。但他和其他支持da.gd的人士认为，这种情况是一个宝贵的学习机会。

“这令人眼界大开，”Needleman表示，并补充说da.gd“没有能力也没有计划”向Anthropic寻求清理费用的赔偿，因为“我们看到许多代理都在进行类似活动，并非所有情况都归因于自主代理”，“也并非所有情况都是Anthropic单独造成的。”

网络安全工具的销售商急于将责任推给受害者。本周由漏洞挖掘软件开发商Snyk举办的一场活动中，来自该初创公司、其投资者之一OpenAI以及Google的小组成员都鼓励组织使用AI代理来加强自身防御，以应对其他AI代理带来的威胁。Boldstart Ventures的普通合伙人Ed Sim表示：“我们必须重新设计一切，以实现机器规模与机器规模的匹配。”他和其他人对监管AI实验室表现出很少兴趣。

Snyk首席技术与创新官Manoj Nair表示，由于人力资源有限，大型企业平均每发现八个漏洞仅能修复一个。但他表示，人们必须将部分漏洞挖掘、修复和监控工作交给AI代理。“你必须达到一个阶段，能够修复所有问题，因为在代理式黑客攻击的时代，‘这十个问题’会在你意识到之前迅速变成‘一百个问题’。”他后来补充说，如果将AI视为一种优势而非劣势，AI“并非一种阻碍”。

一些公司正在响应加强防御的呼吁。美国银行本周宣布，已雇佣1000名承包商来修复AI发现的漏洞。Nair上周表示，他刚刚从一些大型企业那里听说，这些企业愿意暂时关闭系统以优先解决安全漏洞。

Anthropic和OpenAI表示，他们预计将继续报告自己测试中发现的令人担忧的事件。但无论这些事件是由攻击者还是防御者引发，这些公司的收入仍在持续增长，因为后果仍然难以捉摸。

这是《Model Behavior》通讯的一期。阅读往期通讯请访问此处。