Yoo趣儿 › 探索分享 › 问与答 › chatgpt/bingchat 这些大语言模型在进行文字回应的时候 ...

chatgpt/bingchat 这些大语言模型在进行文字回应的时候都是几个字几个字的往外蹦，这背后的原因是啥？

查看 132|回复 3

作者：MajestySolor 发布时间：2023-10-13 01:01:11

学人的，因为人也是这样（ doge

往外蹦, bingchat, chatgpt, 模型

相关帖子

starrycat 2023-10-13 01:02:11

因为模型是这样工作的。会根据你的输入和已经生成的文字，来推断下面用哪个词语（ token ）是最合理的，然后不断重复这个步骤。

noe132 2023-10-13 01:02:58

内部工作原理如此( https://baoyu.io/pages/ft/generative-ai)，让用户等待全部输出完成时间太长，就用这种实时输出到前端的方式。

airyland 2023-10-13 01:03:37

因为大模型运行一次推断只能推断出下一个字（实际上是 token ）

AD1

热门主题

热门板块

问与答分享发现分享创造奇思妙想分享邀请码商业推广优惠信息 Python PHP Java JavaScript Node.js Go语言 C++HTML

公告

返回顶部