首页
论坛
Yoo趣儿
›
Geek
›
程序员
›
GPT sol 的上下文长度设置成多少比较合适,默认的 200k ...
GPT sol 的上下文长度设置成多少比较合适,默认的 200k 太短了,随便几下就开始合并了, 1m 到后面又有点顾头不顾尾的
查看
47
|
回复
7
作者:
coder121
发布时间:
昨天 19:17
我参考的官方 API 双倍价格门槛 272K 那个界限,略微留一点缓冲区,取个整 300K 让它开始压缩。
context
,
length
,
setting
相关帖子
•
做了一个 harness 工具 -- loopat.ai
•
兄弟们,我用分屏技巧,让 token 消耗速度降低了一倍!
•
有人说 X(twitter)现在变得怎么怎么不好了,我感觉有的还行啊
•
一个关于 Ant Design 复杂表单设计的问题
•
为什么大模型能记住 dataset 里几万亿字的内容,却记不住和用户聊天时两三万字的 context?
•
golang 里 context 和 logger 绑定的问题
•
搞了点数据,应该怎么变现呢
•
一段 WebAssembly 生成的 js 代码能否看出逆向代码是什么
•
使用 HttpURLConnection 下载文件只能下载到 1G
•
有什么 AI Agent 可以自动选择使用哪些模型
QS0x01
昨天 19:17
试过 tibo 说的那个 1m,用了两次就删了,坚持 272,官压除了慢没毛病
schemesAlot
昨天 19:18
codex 默认的肯定就是最合适的,1m 真的好用,那默认的设置为什么不是 1m
Rickkkkkkk
昨天 19:18
500k
pony2335
昨天 19:19
codex 默认呀,调那个干啥
iyaozhen
昨天 19:20
别说 codex 了,CC 早就开放 1M ,且默认 1M 。但是实际上/usage 里都会提示 >150K 的应该 compact ,因为计费很贵。
zed1018
昨天 19:21
@Rickkkkkkk 因为 openai 搞阶梯计费导致开 1m 很贵。codex 刚开始默认也不是 272k ,不会自己管控上下文的初级用户太多导致用量消耗太快,意见太大了才缩回去的
yh7gdiaYW
昨天 19:21
我问了他之后,他说设 600k
返回列表
您需要登录后才可以回帖
登录
|
立即注册
发表回复
浏览过的版块
Oracle
搜索
热门主题
有人被cloudflare封过号吗?
台签、席卡批量打印软件,老板有没有这方面
纯粹直播PureLive v3.0.8 斗鱼B站虎牙抖音
长期回收带过审域名的新老adsense账号,AFS
大模型服务首次登陆主流电商:智谱AI正式入
分享大模型使用的一些经验
安卓 app 如何接入广告?软著待受理中
怎么感觉最近用中转站的人突然少了?
有什么比较好玩的,介绍奇奇怪怪知识的书籍
有没有最新的公众号文章采集方案
热门板块
问与答
分享发现
分享创造
奇思妙想
分享邀请码
商业推广
优惠信息
Python
PHP
Java
JavaScript
Node.js
Go语言
C++
HTML
公告
网站帮助 - Yoo趣儿
2022-03-27
我们的愿景
2022-03-27
在 Yoo趣儿 投放广告
2022-03-27
Yoo趣儿网站用户应遵守规则
2022-03-24
返回顶部