基于 chatGPT 的文章阅读助手 # myGPTReader

查看 273|回复 22
kongkongye   
结对开发,是通过一个 chatgpt 会话实现的吗?还是多个 chatgpt 会话?
如果是用 api ,那每次都把之前聊天内容传回去,账单要爆炸。
而且一些小的东西,你非要让 chatgpt 来回答与修正,这等待的时间太浪费,反而会降低效率。
bmpidev2019
OP
  
@handuo 这也可以,主要是费用的问题,这个适合私有部署,否则人多了账单爆炸,不过增加一个 bot 也容易
bmpidev2019
OP
  
@kongkongye 一个 task 一个会话完成,任务驱动的,实际效率比自己写还要快,因为对语法和生态掌握的不熟练,所以实现交给 chatgpt 反而很快能完成。
bmpidev2019
OP
  
@kongkongye 这是 gpt_index 库利用 openai 提供的 embedding 模型完成的,具体你可以看背景提供的链接介绍,并不是把所有内容一股脑喂给模型,那样真账单爆炸了
bugschn   
@bmpidev2019 大佬,请问使用 gpt_index 阅读源码是怎样实现的?
hyperzlib   
@bmpidev2019 如果需要大量 embedding ,其实可以考虑一下本地运行 BERT 做词向量转换
hyperzlib   
@bmpidev2019 BERT 也支持句向量,可以试试 chinese-bert-wwm
bmpidev2019
OP
  
@bugschn 官方就有 demo ,本文背景里的推文也有我的阅读代码测试可以看看
bmpidev2019
OP
  
@hyperzlib 不知道这个模型效果和 openai 的相比怎么样,因为少量的话 openai 的 embedding 也不贵,大约五百多万个 token 是 2 美元,这大概是一个小型 repo 的源码大小。
lovestudykid   
gpt_index 是怎么实现的呢?这些 embedding 不需要每次都喂给 gpt 吗?长度不超标?
您需要登录后才可以回帖 登录 | 立即注册

返回顶部