大公司的大方向和你的大方向不一样。 目前的大模型只有大公司才有资源和能力训练和发展,这制造了垄断和行业门槛。 而且国内的一些所谓大厂中厂,虽然人数上来了,但是自己照照镜子,有没有能力训练和改进大模型自己心里有数。 目前最需要的是像 https://laion.ai/ 搞得这样的社区的开源模型和预训练模型,大公司的未来不是你的未来。 更要命的是,现在这些模型某种程度上都是语言相关的,人家拉丁语系效果特别好,到了东亚这边就差点了。 等于在国内这个小环境里,垄断和行业门槛更突出。 需要国内也有一个公益组织把中文优化的 LLM 训练出来。 可以拿 CLIP 做个参考,CLIP 出了多久中文原生的 CLIP 才出现,这还是因为国际上有了 MultiLingual CLIP ,才拿出来,要是一直没有,想想也知道会发生什么。GPT3 的规模比 CLIP 不知道要大了多少,这中间障碍更多。 好日子在后面了,兄弟们。