Yoo趣儿 › 探索分享 › 问与答 › ai 绘画小程序有必要检测敏感词，防止出涩图吗？ ...

ai 绘画小程序有必要检测敏感词，防止出涩图吗？

查看 66|回复 3

作者：pengxiying 发布时间：2023-7-30 07:00:20

最近写了个 ai 绘画小程序，有一些 sd 模型可以出涩图，我该如何检测呢？之前用了一个敏感词检测 API ，但是这 API 太“敏感”了，比如中国，鸡这样的字眼都会报存在敏感词。
或者是说只需在反向提示词那里做限制就可以了？

敏感, API, 检测, 绘画

相关帖子

estk 2023-7-30 07:01:08

百度 AI 的敏感词和图片审核水平还不错，可能是经过了贴吧的摧残而提高的

chenjia404 2023-7-30 07:01:56

肯定要啊，不然出现黄图，轻则喝茶，重则进去。

systemcall 2023-7-30 07:02:39

建议直接买个大厂的检测服务
没什么大范围传播的话，出黄图一般也不会进去多久，但是要是出现了小熊维尼的图的话，搞不好直接蒸发了

AD1

热门主题

热门板块

问与答分享发现分享创造奇思妙想分享邀请码商业推广优惠信息 Python PHP Java JavaScript Node.js Go语言 C++HTML

公告

返回顶部