GPT sol 的上下文长度设置成多少比较合适,默认的 200k 太短了,随便几下就开始合并了, 1m 到后面又有点顾头不顾尾的

查看 45|回复 7
作者:coder121   
我参考的官方 API 双倍价格门槛 272K 那个界限,略微留一点缓冲区,取个整 300K 让它开始压缩。

context, length, setting

QS0x01   
试过 tibo 说的那个 1m,用了两次就删了,坚持 272,官压除了慢没毛病
schemesAlot   
codex 默认的肯定就是最合适的,1m 真的好用,那默认的设置为什么不是 1m
Rickkkkkkk   
500k
pony2335   
codex 默认呀,调那个干啥
iyaozhen   
别说 codex 了,CC 早就开放 1M ,且默认 1M 。但是实际上/usage 里都会提示 >150K 的应该 compact ,因为计费很贵。
zed1018   
@Rickkkkkkk 因为 openai 搞阶梯计费导致开 1m 很贵。codex 刚开始默认也不是 272k ,不会自己管控上下文的初级用户太多导致用量消耗太快,意见太大了才缩回去的
yh7gdiaYW   
我问了他之后,他说设 600k
您需要登录后才可以回帖 登录 | 立即注册

返回顶部