目前主要有俩需求: [ol]对于常用知识进行问答,对于公司内部知识(如请假流程,内部代码建议等)可以训练并问答可对于目前的内部流程,销售等进行建议;我们公司各个部门内部流程上千。 [/ol] 感觉是需要大模型进行训练,但又苦于不知去哪找到合适的;部署的话可以利用公有云或者私有云都可;(公司内部有私有云) 常识性公开的问答可以用 chatgpt 我这边可以按照 api 进行弄个前端搞,基于 gtp3.5 但是内部流程的话或者销售数据公司领导不想给到外部进行训练。 请问有没有好的方式进行实施,交作业 问答, 流程, 私有, 知识库
首先买一个 a100 或者买至少 4 块 4090 ,然后找个中文开源大模型框架训练即可,然后训练完你需要 gpu 服务器部署或者用 a100 部署,不知道你们公司财力怎样,要求并发的话一个月至少话 1 万?