小红书发布 AI 治理新规 强制标识否则限流

导语 随着 AI 生成内容的爆发式增长，平台治理正迎来新的挑战。小红书近日祭出重拳，通过“强制标识”与“分发限制”双管齐下，旨在遏制虚假信息与仿冒乱象，确立用户在 AGI 时代的知情权。

强制标识：不合规即限流

为了响应中央网信办关于网络环境治理的专项行动，小红书明确了针对 AI 生成内容的管理红线。新规的核心在于透明度。

平台将利用技术手段自动检测 AI 内容，并依照《人工智能生成合成内容标识办法》进行管理。对于被识别为 AI 生成但未主动添加标识的内容，平台将强制打标。若创作者拒不配合或试图规避，其内容将直接面临 限制分发（限流） 的严厉处罚。此外，针对售卖“去 AI 标识教程”的黑产链条，平台也将进行源头打击。

图源备注：图片由AI生成

重点整治虚假与恶搞内容

此次治理行动不仅关注形式上的标识，更聚焦内容层面的合规。相关部门与平台将重点打击以下三类违规行为：

• 制造恐慌：利用 AI 编造虚假火灾、灾难新闻。
• 低俗侵权：通过 AI “魔改”传统文化作品或恶搞公众人物。
• 矛盾引流：刻意制造家庭纠纷、地域歧视等虚假剧本博取流量。

行业透明度成为新基准

小红书此次的强监管举措，反映了内容社区在 AI 时代的普遍共识：鼓励技术创新的前提是保障用户的 知情权。

建立清晰的 AI 内容标识机制，不仅是为了防范虚假信息的传播，更是为了在算法生成的洪流中，重建用户对数字内容的信任基石。这一举措或将成为未来内容平台的行业标配。