记一次 GLM 开发严重事故,花了 8 亿 token,买了个教训

查看 177|回复 22
CodeCaster   
我觉得干活还是得开 Full Access ,不然效率太低,总被打断不可取,但是 OP 的问题也是需要防的,我的做法就是用自己开发的工具,所有小的拆的开发任务都是进入独立的沙箱( docker 容器)的,这样,沙箱中他只能看到自己的一个分支的工作目录,就算发生了故障,也没有关系。
shintendo   
> 天天号称安全的模型能犯这么低级的错误
安全不是防这个的
yafoo   
不赞同你第四点意见
IC0ZB
OP
  
@CodeCaster 学习了
wdhwg001   
https://www./t/1235190
没时间搓 codex 版,但是如果你的 harness 是 Claude Code ,我搓的这东西有时候能救命。
hubaq   
跟模型有什么关系,你自己不做好 git ,说白了还是偷懒酿成大错
Need4more   
自动模式下,所有的大模型都可能发生你的这种情况,通常这些 agent 提供了安全机制和 hook 防止这种情况发生。
所以问题在于 op 自己,没有提前注意到这些工具的风险。
针对 zcode ,我问了它自己,给你一些方案,看能不能帮助到你:
1. 权限模式+工具规则列表。在 ~/.zcode/cli/config.json (用户级)或 /.zcode/config.json (工作区级)配置
```json
{
  "permission": {
    "mode": "auto",
    "disallowedTools": ["Bash(rm *)"]
  }
}
```
2. hook 机制。PostToolUse hook ,每次改动后提交。
```json
{
  "hooks": {
    "enabled": true,
    "events": {
      "PostToolUse": [
        {
          "matcher": "Edit|Write",
          "hooks": [
            {
              "type": "process",
              "command": "bash",
              "args": ["${ZCODE_PROJECT_DIR}/.zcode/hooks/auto-commit.sh"],
              "timeoutMs": 15000
            }
          ]
        }
      ]
    }
  }
}
```
konnga403   
话说,trellis 用的怎么样,之前用过,感觉挺啰嗦的,有点费 token
courtier   
跟国产模型没啥关系,国外的企业不也有过用 claude 还是 gpt 被误删数据库还是什么东西,拿这个来喷国产没意义
IC0ZB
OP
  
@courtier harness 明显有问题吧?这个越权了呀 明明已经选了项目 结果把上上层的整个文件夹删了呀
@hubaq 大哥 git 做了呀  是没推到 GitHub
您需要登录后才可以回帖 登录 | 立即注册

返回顶部