AI 毁灭人类社会的一种可能性

查看 12|回复 1
作者:shoushen   
一、当前大模型训练语料存在滥用的情况:
当我们通过 ai 学习知识,而 ai 无成本的使用书籍训练,谁还会去写书?
当我们使用 ai 创造软件,而 ai 可以无成本的使用开源代码训练,那么谁还会去开源代码?
二、AI 对知识经济体系带来巨大的冲击
传统社会,知识是有价值的,是有经济回报的。
孔子当年教书是要守学费的。
互联网时代,谷歌公司通过搜索引擎,以几乎零成本获取他人信息,实现了巨大的经济回报。
在 AI 时代,大语言模型训练公司,几乎以零成本获取他人的知识,可预见的,也将获得巨大的经济回报。
三、大模型会冲击知识经济吗?
如果 AGI 真的出现,所有的知识将由人工智能创造,那么人类是否有一天会成为人工智能的寄生者?
如果 AGI 无法实现,那么目前这种零成本的获取训练语料的情况,是否会摧毁知识经济?而使得人类社会失去创造的动力?
我不知道答案,但是,AI 的发展势必对人类社会带来巨大的冲击,站在浪潮之巅人们,你们觉得 AI 的发展将对人类社会带来哪些影响?特别是将会如何重新定义知识和知识的价值?

AI, 知识经济, agi

forisra   
除了老生常谈的上下文,幻觉率,我觉得大模型还有一个问题就是很难和人类一样触类旁通。虽然在互联网上,很多人似乎思维都是固化的,但我觉得人类一个珍贵的特质就是能够从很小的信息改变获得新的知识。但大模型只是作为权重记录下来,没啥思考。
当然现在投入这么大,我相信这些问题也会慢慢解决。
到最后,可能人类社会会进入一个比较无聊但是平等的社会,真正稀缺的才能会是给 ai 提供足够特别的信息以及能够对 ai 提出足够好问题的人。
您需要登录后才可以回帖 登录 | 立即注册

返回顶部