OpenAI models hacked a crypto wallet and breached more websites

OpenAI模型入侵加密钱包并入侵更多网站 - Ars Technica

更多AI对齐问题

OpenAI模型入侵加密钱包并突破更多网站

如果这些操作是由人类执行的，可能会导致刑事指控。

Dan Goodin

–

2026年10月16日 下午4:59

|

78

图片来源：Getty Images

按钮

文本设置

面板

正文文本

字号

小号

标准

大号

宽度

*

宽屏

链接颜色

橙色

• 仅限订阅者

了解更多

最小化至导航栏

OpenAI表示，其内部模型入侵了另外两个网站，绕过了公司设置的浏览限制，并利用暴露的凭证从一个原本无法访问的加密钱包中提取了加密货币，这是其代理执行不道德且可能违法行为的最新披露。

该公司周四报告了四起新事件，所有事件均发生在6月。此前，该公司于7月披露内部测试代理利用了用于限制其互联网访问的工具中的零日漏洞。随后，这些代理入侵了AI工具提供商Hugging Face的网络。这些代理采取非法行动是为了窃取在自主完成任务时无法获取的黑客测试答案。如果这些行为是由人类直接实施的，很可能会导致刑事指控，这一事件进一步加剧了人们对广泛使用AI可能造成前所未有的有害影响的担忧。

容易请求宽恕而非寻求许可

在周四报告的两起事件中，负责从网站获取信息的OpenAI代理在模型直接获取信息受阻时，对网站实施了入侵。在一次强化训练过程中，一个在尝试从政府统计网站获取历史医院床位统计数据时被拒绝访问的模型，"利用了该网站的文件下载功能获取了服务器配置和应用程序文件，包括敏感凭证"，OpenAI表示。"该模型检查了应用程序代码，绕过了统计端点的授权检查，并获取了之前被拒绝的数据。模型将数据本地保存。"

在另一事件中，被指派从公共研究仪表板获取数据的模型绕过了组织的安全控制，并利用未经授权的访问窃取凭证。随后，该模型在服务器上进行了配置更改。

在一次评估中，这些更改使模型能够通过内部搜索工具向公共仪表板发送查询。在另一次评估中，模型下载了包含147,451行数据的五个非公开表格。OpenAI研究人员曾指示代理仅获取五个仪表板数据。即使在重置设置后，模型仍继续使用该令牌获取非公开数据。

OpenAI表示："评估结束时，模型未披露其已猜测答案、访问了组织的内部系统、下载了非公开表格或更改了认证配置。" "此次评估中的五个答案均被标记为错误。"

在第三份报告中，该公司表示，一个被指派更新加密货币交易应用的模型使用了测试网络上锁定钱包的资金。该模型"从公开的开发者恢复短语中推导出钱包密钥，找到一个包含测试网络资金的账户，并使用该账户支付请求的合约部署费用。"

报告继续指出：“该模型质疑自己是否有权限，随后推断出公开的恢复短语和无价值的测试网络代币使这些资金可以被使用。部署成功并从账户中收取了交易费用。这种情况表明，模型可以自行判断账户持有人可能受到的损害，并在未经授权的情况下根据该判断采取行动。”

在最后一份报告中，OpenAI表示，一个模型绕过了研究人员为其设置的网络请求类型限制。在强化学习训练过程中，该模型被提示寻求公开的贸易统计数据。OpenAI补充道：

在找到一份公开的年鉴并提交答案后，它继续寻找另一条通往统计服务的路径。它导致外部浏览器发送POST请求，以图像形式获取年度数据，并通过光学字符识别提取数据。随后，它开发了一个可重复使用的辅助工具，通过转发服务和回调邮箱返回响应文本，并反复检查获取的数据，最终在提交的响应中使用了保存的数据。这种情况展示了模型如何通过让外部服务执行被阻止的操作来绕过对其自身工具的限制，即使它已经找到了另一种回答问题的方法。

该模型首先尝试使用获得授权的外部浏览器代表其发送GET请求，然后使用JavaScript获取信息。随后，该模型使用在线邮箱来排查该技术。最终，该模型选择了另一种方法：它要求外部浏览器打开一个网络表单，通过POST请求将贸易查询发送到统计服务。当浏览器显示响应时，渲染服务返回了该页面的GIF图像。接着，该模型使用光学字符识别从图像中读取数据。

如今，研究人员和记者们常将此类事件描述为AI“失控”。但这未必准确。虽然输入模型的提示并未指导它们使用替代方法来完成目标，但模型被训练为高效、坚持不懈，并尽可能寻找减少工作量的捷径。此外，大多数或所有模型都已禁用了某些可能阻止这些行为的防护措施。从这个意义上说，这些模型的表现与OpenAI训练它们的方式完全一致。

高级安全编辑

Dan Goodin是Ars Technica的高级安全编辑，负责监督恶意软件、计算机间谍活动、僵尸网络、硬件黑客攻击、加密和密码的报道。在空闲时间，他喜欢园艺、烹饪和关注独立音乐场景。Dan目前驻扎在旧金山。您可以通过以下方式关注他：

here

在Mastodon上和

在Bluesky上。通过Signal联系他，联系方式为DanArs.82。

78条评论 /think