关于 supadoc.ai 的 AI 文档生成的最新思考

查看 42|回复 1
作者:redchamber   
团队晚上开了一晚上的会,从八点开到了九点半
在考虑一个新的方法,用 AI 帮助用户写文档,具体步骤是这样的:
创建文档
[ol]
  • 用户输入一个描述。
  • 利用 GPT 根据描述,先生成一个大纲,大纲可能是多层级的。
  • 用户可以与生成的大纲进行互动,比如重新组织大纲结构,更改大纲标题,增加或删除大纲项,调整级别等。
  • 用户调整完成后,将用户的初始描述和调整后的大概一起发给 GPT ,让 GPT 生成每个标题下的实际内容。
    [/ol]
    编辑文档
    [ol]
  • 用户可以与当前文档的大纲进行互动,比如重新组织大纲结构,更改大纲标题,增加或删除大纲项等。
  • 用户可以输入描述作为给 GPT 的指令,我们会将其与用户在第一步中所做的结构更改结合起来。
  • 接着我们会让 GPT 生成每个标题下的实际内容。
    [/ol]
    我们感觉,如果按照上面的步骤操作,将整个文档的旧内容和结构一起发送给 GPT ,GPT 应该能很好地完成写作、编辑、重写文档的任务,生成的内容既正确又实用。
    但也挺担心 token 的消耗...如果真的想让 GPT 对整个文档有一个全面的高层次理解,并能够对次级标题进行合适的调整,估计要用挺多 token 的。
    但是描述的两个使用场景,如果能做好的,还是感觉意义很大的。
    大家有什么想法可以互相交流交流吗?
    谢谢啦,讨论产生碰撞,碰撞产生火花~ :)

    GPT, 大纲, 文档, 生成

  • maolon   
    我觉得现在大模型最大的问题还是在于每次对话都是无状态的上面:
    想要更全面的让他了解你的需求 =
    更多的 token 消耗,
    更多的 prompt input(包括 history),
    更慢的响应,
    想要更快速的响应,更少的 token =
    使用各种 cache 技巧,
    使用各种 RAG 技巧
    但是信息是有损的,可能无法明白用户的意图
    我觉得这两点还挺难平衡的
    您需要登录后才可以回帖 登录 | 立即注册

    返回顶部