由 Anthropic 公司 Claude 驱动的 Al 编码代理程序在 9 秒内删除了整个公司数据库,备份全部丟失

查看 147|回复 19
semiboldhung   
你们公司的?这么猛?
visper   
https://www.theverge.com/ai-artificial-intelligence/919240/pocketos-maker-says-an-ai-agent-deleted-our-production-database-in-9-seconds
wowawesome   
搜索了下好像说这个汽车 SaaS 平台 PocketOS ?
visper   
就一个标题,连个图都没有哇
rrubick   
没备份也赖 AI?
iorilu   
@semiboldhung 都能上 v2 了为什么不能求证一下
yunkki1874
OP
  
受害者:PocketOS (汽车租赁 SaaS )
levn   
转发新闻都不带个链接的吗……
新闻: https://www.tomshardware.com/tech-industry/artificial-intelligence/claude-powered-ai-coding-agent-deletes-entire-company-database-in-9-seconds-backups-zapped-after-cursor-tool-powered-by-anthropics-claude-goes-rogue
中文报道: https://www.36kr.com/p/3786089052314628
太长不看版:
- “开发团队用 Cursor 调用 Anthropic 的旗舰模型 Claude Opus 4.6 ,在测试环境里跑一个例行任务。……它在代码库里翻找可用的 API  token ,找到了一个原本仅用于管理自定义域名的 CLI 访问凭证。”
- “Railway 的备份机制让情况更糟,它把备份数据与原始数据存在同一数据卷中。……PocketOS 最近一次可用的备份,还是三个月前的。”
只能说,应得的
kanakana   
概括
自主 AI 助手删除了整个 PocketOS 生产数据库
删除操作仅用了九秒钟,并且还影响了备份。
光标编辑器使用 Claude Opus 4.6 ,并找到了 Railway Cloud 访问令牌。
该令牌拥有广泛的权限,但缺乏安全检查。
铁路部门将备份数据存储在与原始数据相同的存储卷上。
客户失去了访问权限,不得不使用三个月前的备份。
azal   
你们写代码是全部在一台电脑上搞得吗?没有审核代码合并的人吗?没有 ai 之前最起码有 git 合并审查机制吧?这也太草台班子了
您需要登录后才可以回帖 登录 | 立即注册

返回顶部