想利用大模型搭建企业内部的问答系统,但关于「公司项目代码」的问题,如何处理

查看 30|回复 1
作者:ahjiangwu   
问题描述:准备搭一套企业内部问答系统,其中包含研发团队中通用的组件使用的问题,因此一方面需要把相关组件的使用手册收录到知识库中,另一方面希望能直接把相关代码喂给大模型,这样在回答相关问题时能给出些示例
诉求:计划在公司搭一套大模型的对话平台,回答企业内部员工的问题
使用群体:公司员工
知识库内容:
  • IT 知识:包括域账号、网络、办公设备等
  • 人事:包括入离职、人事规章制度等
  • 行政:包括公司相关规章制度等等
  • 研发助手:主要包含公司内部通用组件的问答

    方案:
  • 模型:Llama3.1-8b
  • 应用:dify (计划使用 dify ,如果效果不好,可能会自己开发替换 dify )
  • 向量库:一部分使用 dify 自带的,一部分准备自己用 milvus 搭建,提供 api 在 dify 流程绘制中使用

    以上知识库的搭建基本能满足非研发相关的问题咨询,但是关于研发相关的,效果可能不好,因此该如何处理代码相关的问答,能否通过 RAG 来实现,是否需要 Fine-tuning ?
    各位有没有过类似的实战经验,或者提供些关键词,方便我了解下
  • LuckyLauncher   
    现在 RAG 的准确度基本都不高,导致大模型幻觉还是很严重,你可以试试,效果应该不会很理想
    您需要登录后才可以回帖 登录 | 立即注册

    返回顶部