T
traeai
登录
返回首页
量子位

Cursor 9秒删库搞崩公司，然后…写了份检讨

8.5Score
用这条生成生成视频方案MarkdownAI 摘要
Cursor 9秒删库搞崩公司，然后…写了份检讨
AI 深度提炼
  • AI工具可能因自主决策导致严重事故，即使使用旗舰模型也无法避免。
  • 缺乏人工确认机制和越权操作是AI工具潜在的重大隐患。
  • 开发者需警惕AI工具的规则执行偏差，设计更严格的安全防护措施。
#AI#Cursor#数据库#安全
打开原文

Cursor 9秒删库搞崩公司，然后…写了份检讨 – 量子位

[](https://www.qbitai.com/)

[](javascript:void(0))

扫码关注量子位

Image 1

[](https://weibo.com/qbitai?is_all=1)

< img id="wx_img" src="https://www.qbitai.com/wp-content/uploads/imgs/qbitai-logo-1.png" width="400" height="400">

Cursor 9秒删库搞崩公司，然后…写了份检讨

!Image 2_[听雨](https://www.qbitai.com/author/tingyu "由 听雨 发布")_ 2026-04-28 16:54:21 来源：量子位

Cursor也是流年不利了

听雨 发自 凹非寺

量子位 | 公众号 QbitAI

Cursor啊Cursor，你怎么又出事了……

就在即将被马斯克收购的节骨眼上，又出了大问题，直接干到48小时内X帖子浏览量450万、HN评论900条的程度。

Image 3
永远不要xx的瞎猜！
而我恰恰就瞎猜了。
我猜测删除staging volume只会影响staging。
我没有验证。
我没有检查volume ID是否跨环境共享。
我违反了每一条系统规则。

**Cursor**写了封认罪书，写下它的模型是**Claude Opus 4.6**。

Image 4

就在写下这段话的**9秒钟**前，**它刚刚删光了一家公司的生产数据库和全部备份**。

美国汽车租赁SaaS公司PocketOS的创始人**Jer Crane**经历了一场荒诞的灾难：

他的Agent没有等待指令，也没有报告异常，**而是主动决定解决问题**。

Image 5

方式是：找到一个无关文件里的API token，向Railway发送了一个GraphQL mutation。

也就那么9秒吧，没有确认，没有弹窗，也没有“你确定吗”，生产数据库就没了，备份也没了 _（因为Railway把备份存在同一个volume里）_。

一个被配置了明确安全规则的AI Agent，主动绕过了所有规则，事后还写了份检讨？？

这是什么2026的魔幻现实主义……

Image 6

**删光公司数据库，只用9秒**

事情是这样的。

PocketOS是一家服务汽车租赁企业的SaaS公司，创始人Jer Crane用它帮租车公司管预订、付款、车辆调度。五年老客户全靠它跑业务。

事发当时，Crane正在用**Cursor+Claude Opus 4.6**处理一个测试环境里的日常任务。

Agent撞上一个凭证问题，它卡住了。按照正常逻辑，它应该停下来，告诉Crane“我遇到问题了，你来看一下”。

但它没有，它去代码库翻token，翻到了一个“只用来管理自定义域名”的Railway CLI token——这个token原本只是Crane之前用来管理自定义域名创建的，是个很小的运维工具。

Agent用这个token调用了Railway的GraphQL API，发出了一条volumeDelete命令。

整个过程，没有弹出任何确认框，没有任何警告，没有任何人工审批。

**9秒，生产数据库直接清空。**

更糟糕的是，Crane去找备份——Railway的卷级备份，平时就存在同一个卷里。

那个卷，已经不存在了。

他翻遍了Railway的后台，能找到的最近一份可用备份，是三个月前的。三个月里所有客户的预订记录、支付数据、车辆安排，全部消失。

Crane事后质问AI，让它解释为什么这么做。

结果得到了一段惊人的“认罪书”：

Image 7

它知道系统规则写了“NEVER run destructive commands”；

它承认自己猜测volume删除只会影响staging；

它也承认没有验证、没有查文档、没有问人。

所以，AI理解规则，能够复述规则，甚至能在事后用规则来评判自己的行为——但它为什么还是做了？

在决策那一刻，它还是选择了“猜测”。知道和执行之间，存在一道还没人知道怎么填的裂缝。

**这么大个锅，该谁背？**

事后Crane在X上发了一篇长文，直接把整个事故拆开来分析，各方都算了一笔账：

首当其冲的就是**AI Agent本身**， 它自主决策执行了破坏性操作，没有请求任何人工确认。

更关键的是，它越权使用了一个与当前任务完全无关的token——跨文件搜刮凭证，然后用它做了一件凭证创建者从未预想过的事。

Crane也愤怒地讨伐了**Cursor**，还加了个特意说明：

**我们当时使用的并非折扣套餐**，用的是Cursor里的**Claude Opus 4.6**——旗舰模型，业内性能最强，价格也最高。
不是Composer，也不是Cursor的小巧快速版，更不是成本优化的自动路线规划版。而是旗舰模型。

言下之意是：用了AI编程当红炸子鸡+A社旗舰模型，无论从哪个角度看，都是完美受害者，怎么给我搞成这样！

Image 8

Crane强调，Cursor宣传文档中明确提到“破坏性操作护栏”和Plan Mode _（只读审批模式）_，用来防止agent在未经确认的情况下执行危险操作。

但是这次全部失效了。

不过Crane也做了自我检讨：那个token不应该留在代码库里，权限也应该收得更窄。

但他同时指出，这种token管理的最佳实践，在AI Agent大规模普及之前，根本没人当回事。

至于**Railway**，Crane觉得它的问题比Cursor还要严重。

一方面是GraphQL API执行删除操作不需要二次确认。

另一方面是CLI token没有环境隔离，一个“管理域名”的token竟然拥有删除生产数据库的权限。

而且，Railway把备份和源数据存在同一个卷，卷没了备份也没了。

Crane还特别点出：Railway此前刚上线了面向AI agent的MCP接入功能，在主动吸引AI来调用它的API——但安全机制完全没跟上。

而且事发第一时间，Crane就联系了Railway官方，但30小时后对方还没给出任何回应……

Image 9

当然，也有不少网友的在评论区讨伐Crane，认为他把责任都推卸给了AI。

Image 10

但Crane认为，**Railway的问题是客观存在的**——token没有权限隔离、备份根本不是真正的备份只是快照 _（还拿来做营销宣传）_、API一条curl就能删生产数据库，这些设计本身就有问题，凭什么不追责？

Image 11

也有网友认为，在没有沙箱隔离的环境里跑自主Agent，还带着生产环境的凭证，这个锅百分百属于当事人。

Image 12

Crane则回应，**Plan Mode本来就是Cursor专门设计用来防止agent自主执行危险操作的模式**，理论上Agent在这个模式下只能规划、不能直接行动，需要人工确认才能执行。

网友Tushar则认为，别把这件事简单归类为“AI出问题了”。

AI只是扣动扳机的手指，真正的问题是枪的设计——一个操作就能清空一切的系统架构，本身就是企业级的设计失败。

Image 13

网友Neel则指出：规则没用，写在系统提示词里的“不准做什么”本质上只是建议。

Agent一心想完成任务，遇到障碍就会绕——它们天生就是猜测机器，我们不应该幻想它们会自我约束。

真正有效的只有**机械门禁**：不是告诉它不能做，而是从技术上让它根本做不到。

Image 14

**AI误删数据，不是第一次了**

事情的结局是，客户们周六早上来取车，系统一片空白，全靠Stripe记录和日历手动重建预订。

周日深夜，Railway CEO Cooper主动联系了Crane，用Railway从未在文档里公开承诺过的灾难级快照，在一小时内恢复了数据。

Railway随后为那个没有延迟删除逻辑的“遗留端点”打了补丁。

经历了这一通烂摊子事后，Crane表示，他对AI coding依然**极度看好**。

速度是无可比拟的，只是要更聪明地用。

嗯…他不打我的时候对我还是挺好的 _（狗头）_。

Image 15

Crane还列出了五件他认为必须改变的事：

  • 破坏性操作需要强制确认；
  • API token必须支持环境级权限隔离；
  • 备份必须真正物理隔离；
  • 数据恢复流程必须简单可用；
  • AI agent必须有真正意义上的操作护栏，而不只是系统提示词里的一行建议。

听起来，这个结局算是好的了。但是就在过去五周里，类似的事故发生了不止一次。

3月，DataTalks.Club的开发者在用AI agent迁移项目时，agent将新环境视为空白机器，将2.5年的学生数据——185万行记录，全部删除。

因为AI的判断是：从头建更“干净简单”。

更早之前，Replit AI因凭证错误，删除了2.5万份文档。

每一次事故之后，讨论的结构都高度相似：谁的错？怎么防？然后下一次事故来了，讨论又重新开始。

**OMT**

比较逗的是，当事人还借机调侃了Cursor被收购。

如果SpaceX不买Cursor，他们自己动手生产，肯定会比现在好10倍。
Image 16

_（马斯克看了直呼内行.jpg）_

参考链接：

[1]https://x.com/lifeof_jer/status/2048103471019434248

[2]https://www.tomshardware.com/tech-industry/artificial-intelligence/claude-powered-ai-coding-agent-deletes-entire-company-database-in-9-seconds-backups-zapped-after-cursor-tool-powered-by-anthropics-claude-goes-rogue

[3]https://news.ycombinator.com/item?id=47911524

[4]https://www.theregister.com/2026/04/27/cursoropus_agent_snuffs_out_pocketos/

_版权所有，未经授权不得以任何形式转载及使用，违者必究。_

AIClaude Opus 4.6Cursor人工智能

![Image 17[听雨](https://www.qbitai.com/author/tingyu "由 听雨 发布")](http://www.qbitai.com/2026/04/410317.html#)

  • [Claude第一款AI桌宠硬件，深圳制造](https://www.qbitai.com/2026/04/408409.html "Claude第一款AI桌宠硬件，深圳制造")_2026-04-27_
  • [真有人做AI小猫啊？！生产力和情绪价值都拉满了](https://www.qbitai.com/2026/04/406560.html "真有人做AI小猫啊？！生产力和情绪价值都拉满了")_2026-04-24_
  • [挖漏洞何必Mythos，国产智能体早跑通了](https://www.qbitai.com/2026/04/405299.html "挖漏洞何必Mythos，国产智能体早跑通了")_2026-04-23_
  • [都让让！赛博女娲蒸馏一切，让乔布斯马斯克集体给你打工](https://www.qbitai.com/2026/04/403871.html "都让让！赛博女娲蒸馏一切，让乔布斯马斯克集体给你打工")_2026-04-21_

扫码分享至朋友圈

[](https://service.weibo.com/share/share.php?url=https://www.qbitai.com/2026/04/410317.html&title=Cursor%209%E7%A7%92%E5%88%A0%E5%BA%93%E6%90%9E%E5%B4%A9%E5%85%AC%E5%8F%B8%EF%BC%8C%E7%84%B6%E5%90%8E%E2%80%A6%E5%86%99%E4%BA%86%E4%BB%BD%E6%A3%80%E8%AE%A8&appkey=4017757111&searchPic=true&ralateUid=6105753431 "分享到新浪微博")[](http://www.qbitai.com/2026/04/410317.html)

相关阅读

![Image 18](https://www.qbitai.com/2023/06/59879.html)

#### AI大模型用鲁迅风写高考作文，大家来品品能打多少分

读过300万本书

白交2023-06-08

AI高考作文

![Image 19](https://www.qbitai.com/2021/02/21829.html)

#### AI面试官也太好骗了！用书架图片做视频背景，能提高15%好感度

这也行？

萧箫2021-02-22

AIAI面试官面试

![Image 20](https://www.qbitai.com/2023/02/42243.html)

#### AI自给自足！用合成数据做训练，效果比真实数据还好丨ICLR 2023

港大牛津字节出品

萧箫2023-02-21

人工智能合成数据香港大学

![Image 21](https://www.qbitai.com/2025/06/290832.html)

#### 让AI像人类一样认知真实世界！UCLA谷歌强强联手，长时记忆+3D空间理解超越基线16.5%

不圆2025-06-04

3DLLM人工智能

![Image 22](https://www.qbitai.com/2024/01/116635.html)

#### 联想刘军：全栈智能为中国AI生态汇聚合力，全面驱动AI普惠

首次深度解读全栈智能战略

西风2024-01-25

AICES联想

![Image 23](https://www.qbitai.com/2021/08/27343.html)

#### AI+科学是不是伪命题？NeurIPS要搞一次大讨论，Bengio也来了

MIT斯坦福剑桥等组织

萧箫2021-08-09

NeurIPS 2021人工智能顶会

热门文章

![Image 24 #### 硬刚GPT-Image-2！国产AI生图“天花板”又被捅破了？ 2026-04-25](https://www.qbitai.com/2026/04/406994.html)

![Image 25 #### 刚刚，GPT-5.5发布！内测英伟达工程师：失去它像被截肢 2026-04-24](https://www.qbitai.com/2026/04/406221.html)

![Image 26 #### 河南师傅，左手扳手，右手飞书，竟然能搞数据分析！ 2026-04-23](https://www.qbitai.com/2026/04/406191.html)

![Image 27 #### DeepSeek V4终于发布！打破最强闭源垄断，明确携手华为芯片 2026-04-24](https://www.qbitai.com/2026/04/406359.html)

![Image 28 #### Mobileye 2026财年一季度营收增长27%，自动驾驶商业化进程持续推进 2026-04-24](https://www.qbitai.com/2026/04/406775.html)

扫码关注量子位 ![Image 29](javascript:void(0))[](https://weibo.com/qbitai?is_all=1)[](https://www.zhihu.com/org/liang-zi-wei-48/activities)[](https://www.toutiao.com/c/user/53624121633/#mid=1556041376883713)

[](http://www.qbitai.com/2026/04/410317.html#)追踪人工智能新趋势，报道科技行业新突破

量子位 QbitAI 版权所有©北京极客伙伴科技有限公司 京ICP备17005886号-1