过去辨别一条谣言，人们习惯先问有没有截图、有没有视频。现在，截图和视频本身也可以是AI伪造的。

这不是危言耸听。2026年8月，几件事几乎同时发生：微博官方通报孙宇晨与谷爱凌的"聊天记录"系AI炮制，造谣账号被关闭，相关文章阅读量迅速突破10万；小红书通过官方账号发布严打AI造假公告；镇雄公安查处一起利用AI编造传播网络谣言案。更早一些，小米AI洗稿案关联了9000余个账号、50余家MCN机构，"AI造谣产业化"从行业预测变成了现实案件。

与此同时，《反网络暴力法（征求意见稿）》在8月28日截止征求意见，首次将网络暴力定义纳入国家层面立法。江西银行"彩礼贷"AI虚假海报事件，则让AI伪造内容对金融秩序的冲击第一次走进大众视野。

几件事叠在一起，勾勒出一个清晰信号：AI生成内容的治理，正在从"平台自律"加速切换到"立法+执法"双轮驱动阶段。但治理能力能不能跑赢造假技术的迭代速度，是接下来每个舆情周期都要回答的问题。

一、产业化：造谣成本降到了个位数

过去造谣需要找人、找图、编故事，现在只需要一段prompt。

公开监测数据显示，2025年全年全网监测到的AI生成有害舆情信息总量是2024年的3.7倍。按照当前的扩散增速计算，2026年单季度新增AI谣言数量就将超过2024年全年总和。

更关键的是成本。普通用户仅需支付5到10元，就能生成带有对口型、具体场景的深度伪造视频和音频。黑产机构还能根据目标受众定制内容：给中老年群体生成带养生骗局细节的图文，给学生群体生成伪造的校园八卦聊天记录，给股民群体生成伪造的企业内部会议录音。这类个性化定制谣言的迷惑性远高于传统模板化谣言，辟谣难度至少翻了一倍。

检测技术跟不上。目前主流平台的AI内容检测技术，对新型畸变生成有害内容的识别率不足58%，超过四成伪造信息能绕过初审进入大众传播渠道。

一句话总结：造假在降本增效，打假还在手工质检。

二、典型样本：从名人到普通人，无人幸免

8月的几个典型样本，恰好覆盖了AI造谣的不同冲击层级。

名人层面，孙宇晨与谷爱凌的AI伪造聊天记录在微博传播，红星新闻的报道阅读量冲到10万+，最终微博官方介入关闭造谣账号。这个案例的典型性在于：造谣者不需要任何真实素材，仅凭AI生成一段逼真对话，就能利用名人效应在几小时内触发全网传播。

品牌层面，江西银行"彩礼贷"AI虚假海报事件中，一张伪造的银行营销海报就能引发公众对金融机构的信任质疑。品牌方辟谣的成本远高于造谣成本，而辟谣信息的传播速度往往只有谣言的三分之一。

普通人层面，镇雄公安查处的AI造谣案显示，AI造谣已经下沉到县域级别。不再是大V的专属工具，普通账号也能用AI批量生成内容博取流量。小红书的严打公告则点明了另一个趋势：热点事件中的AI换脸、AI造假，正在成为平台内容生态的系统性威胁。

三个层级的共同特征是：造假门槛极低、传播速度极快、辟谣成本极高、识别能力不足。这四个因素叠加，构成了当前舆情治理的核心困境。

三、立法破局：从平台自律到法律进场

《反网络暴力法（征求意见稿）》8月28日截止征求意见，这是中国首次将网络暴力定义纳入国家层面立法。虽然该法主要针对网络暴力行为，但其中对AI生成虚假内容的规制条款，被视为AI内容治理的法律基础设施。

从治理结构看，2026年的AI内容治理正在形成三条线并行推进。

第一条线是立法。反网络暴力法的推进意味着，AI生成虚假内容不再只是平台规则的管辖范围，而是可能触及法律红线。此前AI造谣多以账号封禁、内容下架处理，法律进场后，违法成本将从"封号"升级为法律追责。

第二条线是执法。小米AI洗稿案关联9000余个账号和50余家MCN机构，说明执法已经从打单个账号升级到打整条产业链。镇雄公安的案例则证明，这种执法正在下沉到基层。

第三条线是平台治理。小红书、微博等平台在8月密集发布AI内容治理公告，从被动处理转向主动设防。但平台治理的天花板在于检测技术——识别率不足58%意味着，平台能拦住的只是一部分，相当比例的AI伪造内容仍会漏网。

四、下一个窗口：9月会怎样

从历史同期规律看，9月是全年舆情敏感度较高的月份之一。叠加秋季开学全周期、中秋国庆双节预热期，社会民生议题集中释放，公众情绪触点密集。

在AI造谣产业化的背景下，这意味着几个风险点值得提前关注。

开学季校园类谣言可能被AI批量生成，家长群体是高敏感传播节点。双节前消费类谣言可能增多，涉及价格、食品安全、旅游服务的AI伪造内容需要提前布防。自然灾害和安全事故发生后，AI伪造的现场视频和图片可能在黄金救援期内干扰公众判断。

短视频平台已成为社会舆情的策源地和首发主阵地。普通用户发布的单条内容可在算法分发下快速突破圈层，舆情发酵窗口显著压缩。叠加AIGC普及，虚假信息制作门槛大幅降低，对事实核查形成极大挑战。

整体舆论场呈现"情绪驱动传播、次生舆情大于原生事件、跨领域传导加快"的典型特征。单一领域个案容易被议题升维至制度和治理层面讨论，舆情复杂度同步抬升。

写在最后

AI造谣产业化的速度已经跑在了治理能力前面。立法进场是必要的，但从立法到执法到平台技术能力建设，中间还有漫长的链条。

对内容创作者和运营者来说，有几点值得注意。第一，不传未经核实的信息，尤其是带"截图""视频"的爆料——这些过去最可信的证据形式，正在变成最危险的信源。第二，关注平台的AI内容标注规则变化，提前适配。第三，自己的账号如果被AI伪造内容冒充，及时取证并走平台的侵权投诉通道，保留法律追责的权利。

舆情治理是一场持久战。立法解决了"有没有规则"的问题，但"规则能不能跑赢技术"的答案，还要在接下来的每一个舆情周期里反复验证。