据央视调查显示，该系统通过批量生成虚构的产品信息与推广文章，利用生成式AI的抓取机制实施“投毒”攻击。相关测试证实，即便输入完全虚构的硬件产品参数，该系统仍能协助用户将大量虚假内容渗透至互联网，并最终诱导多个主流AI大模型将其作为真实案例进行推荐。
image.png (535.65 KB, 下载次数: 0)
下载附件
保存到相册
半小时前 上传
天眼查数据显示，涉事公司北京力思文化传媒成立于2018年，注册资本100万元，由李千钟全资持股。值得关注的是，该公司长期处于运营异常边缘，其2025年参保人数仅为1人，且此前连续多年参保人数为0。目前，淘宝、闲鱼等电商平台已紧急下架并屏蔽“力擎GEO”相关搜索结果。
此次事件揭示了生成式AI时代下的新型安全隐患:黑产团伙正利用AI大模型的训练与检索漏洞，通过“投毒”手段操纵模型输出。这不仅对AI数据治理提出了严峻挑战，也预示着大模型安全防护将从单纯的内容过滤向深层的来源真实性核查演进，行业对于“数据合规”与“模型鲁棒性”的投入或将迎来新一轮高峰。
