首页
论坛
Yoo趣儿
›
Geek
›
程序员
›
GPT sol 的上下文长度设置成多少比较合适,默认的 200k ...
GPT sol 的上下文长度设置成多少比较合适,默认的 200k 太短了,随便几下就开始合并了, 1m 到后面又有点顾头不顾尾的
查看
46
|
回复
7
作者:
coder121
发布时间:
昨天 19:17
我参考的官方 API 双倍价格门槛 272K 那个界限,略微留一点缓冲区,取个整 300K 让它开始压缩。
context
,
length
,
setting
相关帖子
•
兄弟们,我用分屏技巧,让 token 消耗速度降低了一倍!
•
有人说 X(twitter)现在变得怎么怎么不好了,我感觉有的还行啊
•
一个关于 Ant Design 复杂表单设计的问题
•
为什么大模型能记住 dataset 里几万亿字的内容,却记不住和用户聊天时两三万字的 context?
•
golang 里 context 和 logger 绑定的问题
•
搞了点数据,应该怎么变现呢
•
一段 WebAssembly 生成的 js 代码能否看出逆向代码是什么
•
使用 HttpURLConnection 下载文件只能下载到 1G
•
有什么 AI Agent 可以自动选择使用哪些模型
•
做了一个 harness 工具 -- loopat.ai
QS0x01
昨天 19:17
试过 tibo 说的那个 1m,用了两次就删了,坚持 272,官压除了慢没毛病
schemesAlot
昨天 19:18
codex 默认的肯定就是最合适的,1m 真的好用,那默认的设置为什么不是 1m
Rickkkkkkk
昨天 19:18
500k
pony2335
昨天 19:19
codex 默认呀,调那个干啥
iyaozhen
昨天 19:20
别说 codex 了,CC 早就开放 1M ,且默认 1M 。但是实际上/usage 里都会提示 >150K 的应该 compact ,因为计费很贵。
zed1018
昨天 19:21
@Rickkkkkkk 因为 openai 搞阶梯计费导致开 1m 很贵。codex 刚开始默认也不是 272k ,不会自己管控上下文的初级用户太多导致用量消耗太快,意见太大了才缩回去的
yh7gdiaYW
昨天 19:21
我问了他之后,他说设 600k
返回列表
您需要登录后才可以回帖
登录
|
立即注册
发表回复
浏览过的版块
Oracle
搜索
热门主题
帝国cms客服咨询插件500元你们觉得贵不贵
花了 15 元用 glm5.3 flash 做了个小游戏,
分享的免费截图工具更新:支持 Windows 和
是否所有同时带有实体卡槽与 eSIM 的手机都
有人用过 OCLP 给老电脑强制升级 macos 吗
有大佬买过 Vibe Key 键盘麦的吗?真能明显
fable 5.1 挺好用的。。。
收 dmit LAX.AS3.Pro.TINY 或者 TYO.AS3.Pr
有什么能开发票的 Coding Plan 推荐吗?
[开源] 💘C × SDL3 × OpenGL,将三股神秘
热门板块
问与答
分享发现
分享创造
奇思妙想
分享邀请码
商业推广
优惠信息
Python
PHP
Java
JavaScript
Node.js
Go语言
C++
HTML
公告
网站帮助 - Yoo趣儿
2022-03-27
我们的愿景
2022-03-27
在 Yoo趣儿 投放广告
2022-03-27
Yoo趣儿网站用户应遵守规则
2022-03-24
返回顶部