https://www.theverge.com/ai-artificial-intelligence/919240/pocketos-maker-says-an-ai-agent-deleted-our-production-database-in-9-seconds
转发新闻都不带个链接的吗…… 新闻: https://www.tomshardware.com/tech-industry/artificial-intelligence/claude-powered-ai-coding-agent-deletes-entire-company-database-in-9-seconds-backups-zapped-after-cursor-tool-powered-by-anthropics-claude-goes-rogue 中文报道: https://www.36kr.com/p/3786089052314628 太长不看版: - “开发团队用 Cursor 调用 Anthropic 的旗舰模型 Claude Opus 4.6 ,在测试环境里跑一个例行任务。……它在代码库里翻找可用的 API token ,找到了一个原本仅用于管理自定义域名的 CLI 访问凭证。” - “Railway 的备份机制让情况更糟,它把备份数据与原始数据存在同一数据卷中。……PocketOS 最近一次可用的备份,还是三个月前的。” 只能说,应得的
概括 自主 AI 助手删除了整个 PocketOS 生产数据库 删除操作仅用了九秒钟,并且还影响了备份。 光标编辑器使用 Claude Opus 4.6 ,并找到了 Railway Cloud 访问令牌。 该令牌拥有广泛的权限,但缺乏安全检查。 铁路部门将备份数据存储在与原始数据相同的存储卷上。 客户失去了访问权限,不得不使用三个月前的备份。