公司想搞一个关于 AI 问答的知识库

查看 178|回复 15
作者:hui9000   
目前主要有俩需求:
[ol]
  • 对于常用知识进行问答,对于公司内部知识(如请假流程,内部代码建议等)可以训练并问答
  • 可对于目前的内部流程,销售等进行建议;我们公司各个部门内部流程上千。
    [/ol]
    感觉是需要大模型进行训练,但又苦于不知去哪找到合适的;部署的话可以利用公有云或者私有云都可;(公司内部有私有云)
    常识性公开的问答可以用 chatgpt 我这边可以按照 api 进行弄个前端搞,基于 gtp3.5
    但是内部流程的话或者销售数据公司领导不想给到外部进行训练。
    请问有没有好的方式进行实施,交作业

    问答, 流程, 私有, 知识库

  • Aruen8   
    哪个公司呀?
    hui9000
    OP
      
    @Aruen8 3 线非互联网公司。
    gaobh   
    首先买一个 a100 或者买至少 4 块 4090 ,然后找个中文开源大模型框架训练即可,然后训练完你需要 gpu 服务器部署或者用 a100 部署,不知道你们公司财力怎样,要求并发的话一个月至少话 1 万?
    sweat89   
    RAG
    linch97   
    chatglm 6B 或者 13B ?这俩训练成本没那么高,只是问答应该也足够用了
    bk201   
    找个外部提供服务的进行私有部署
    x86   
    低成本
    https://docs.aiproxy.io/dev/library
    luny   
    智谱 AI 大模型,好像可以私有化部署,算力要求不高,可以了解下
    0703wzq   
    试试看这个能不能满足: https://github.com/labring/FastGPT
    您需要登录后才可以回帖 登录 | 立即注册

    返回顶部