一个疯狂的想法:用本体论抽象一个现实

查看 48|回复 6
作者:shoushen   
背景。
我认为,大语言模型从 gpt3 开始( 2020 年 6 月)到今天,虽然已经有了 5-6 年时间,但仍然处于这项技术的发展初期,大语言模型本身还有很多可以改进的地方(这块我不是很懂,我觉得如何用更少的资源实现更强的能力应该是一个很重要的方面,特别是如何在 cpu 上也能运行能力强大的模型。),但是,最关键的是我认为,大语言模型的工程化还在非常早的初期,很多问题还有待解决,特别是大模型的幻觉问题,直接限制了大模型在实际业务中的应用。
我认为,从开始我们直接用语言和大模型进行沟通,也就是所谓的“提示词工程”可能就是一个错误。
大模型的本质,就是以语言为计算因子的一种数学计算过程。大模型的所谓幻觉、对齐问题,不是大模型本身的问题,而是我们使用大模型的方式不对。
我们现在发几个字符,就希望大模型实现一个准确、高质量的回复;或者发一堆字符,希望大模型都能理解、记忆。这种用文字直接让大模型生成结果的做法我认为是错误的方式。
本体论
我认为,正确的方式是,应该在大模型和人之间建立一个层,这个层是一个由人类建立的符合现实的语义空间,对话语义经过这个转换层,就能确保大模型参与计算的所有因子都是真实可信的。
那么,如何建立这个层呢?我认为,就是将本体论( ontology )引入 agent 。现在也有很多人在做这方面的工作,但问题是他们都只是将一个很小知识领域本体化,每个人都需要建立自己的领域本体论,这也是为什么 Palantir 公司的成本这么高。
** 疯狂的想法: **
我们可以花费几万亿去计算一个模型,为什么不能花一点小钱,将整个现实世界通过语言抽象到一个本体论的知识图谱空间中?
总结
人工智能领域一直有三大流派:符号主义、连接主义和行为主义。
open ai 的 chatgpt 告诉我们,连接主义正确的打开方式,就是用扩大规模。
那么,符号主义、行为主义的问题是不是也是因为规模不够大?
如果我们用力大飞砖的方式,把符号主义、行为主义的技术规模扩大是否也会产生质的变化?
最后,我们为什么不将符号主义(本体论)、连接主义(大模型)和行为主义(强化学习)的技术为什么不同用 agent 链接起来?这可能才是人工智能真正的打开方式。

本体论, 大模型, agent

zisen   
之前在某光学实验室的时候,让 chatgptpro 辅助推理物理公式,推理了半小时以上,答案基本是错的,并且它自己无法验证答案,本质原因是 gpt 读不到未发布的物理学论文,因此无法发现新的物理学规律,甚至基于当前已有的物理学定律,也无法推理出在人类世界有含义的物理学规律。
如果 gpt 可以自己做物理学实验,获得实验中的数据,那么我相信它完全可以替代物理学家,包括理论物理学家和实验物理学家。
因此下一步一定是具身智能方向。
xuanbg   
具身智能只是人工智能装在一个机械身躯上而已。具身,只是具有身体的意思,有身体也不能使得人工智能发生本质的变化,它想不到的还是永远想不到。
这样说也许不太合适,因为事实更加残酷:人工智能的底层算法决定了它并没有思考的能力。
xuanbg   
有一个成语叫做「拾人牙慧」。我想这个成语非常准确地指出了人工智能的能力和现状。
forisra   
其实 ai 领域我感觉还是实践了才知道有没有效果。很多概念看上去都挺好的,例如世界模型其实一开始本来就是 2018 搞得 vmc 架构,论文标题也是朴实无华的 world modle ,不过后来应用到机械臂上就发现问题多多,神经网络会自己找到虚拟世界的物理模型漏洞然后整出烂活。
只不过现在 transfer 时代这个 world model 又被拿起来画大饼了。反正有想法总是好的,你的想法哪怕只是改善一些问题,在现在这种天量资金(美国 ai 投资今年就差不多 1.7 万亿美元了)情况下基本就可以狠狠划拉达不溜了。
409164   
感觉是连停机问题都没有了解过就在这里疯狂输出自己想法的那种🤪
kkwa56188   
如果感觉自己的想法有一点"民科"的苗头, 例如典型的症状是像题目里会自己都说了是"一个疯狂的想法", 那么先和 AI 聊一聊如何?
您需要登录后才可以回帖 登录 | 立即注册

返回顶部