ai 绘画小程序有必要检测敏感词,防止出涩图吗?

查看 67|回复 3
作者:pengxiying   
最近写了个 ai 绘画小程序,有一些 sd 模型可以出涩图,我该如何检测呢?之前用了一个敏感词检测 API ,但是这 API 太“敏感”了,比如中国,鸡这样的字眼都会报存在敏感词。
或者是说只需在反向提示词那里做限制就可以了?

敏感, API, 检测, 绘画

estk   
百度 AI 的敏感词和图片审核水平还不错,可能是经过了贴吧的摧残而提高的
chenjia404   
肯定要啊,不然出现黄图,轻则喝茶,重则进去。
systemcall   
建议直接买个大厂的检测服务
没什么大范围传播的话,出黄图一般也不会进去多久,但是要是出现了小熊维尼的图的话,搞不好直接蒸发了
您需要登录后才可以回帖 登录 | 立即注册

返回顶部