在调用 OpenAI API 与 AI 对话时,如何剔除掉无效的历史信息?

查看 17|回复 0
作者:x77   
背景:在与 AI 模型对话的过程中客户端需要把对话历史记录也发给 AI ,这样 AI 能根据上下文更好的理解用户意图并作出回应。但是,无关的历史信息会影响 AI 对意图的理解,而且也会增加模型的负担。
场景:用户和模型的对话主题是旅游,然而,用户突然蹦出个电影问题,然后又回到旅游主题,这时历史记录中就冒出个无关的电影内容,这对主题是无关紧要的,而且浪费 Token 。
如何在历史记录中剔除与主题无关的内容?
您需要登录后才可以回帖 登录 | 立即注册

返回顶部