小红书治理超120万AI托管账号成效显著

生成式AI的快速迭代将社交平台虚假内容治理推至关键转折点。在5月28日至29日举行的2026上海网络视听创作者大会上，小红书公开了其在AIGC内容管理、社区信任建设及新生代创作者生态维护方面的最新策略与实战数据。 这场“真实”与“算法”的拉锯战有多严峻？一组数据给出答案：截至2026年5月，小红书累计处理18万篇疑似AI伪造的笔记，并对超过120万个AI托管矩阵账号进行系统性封禁。这一举措直接曝光了利用自动化工具批量生产低质、虚假内容的黑产链条。 关键是，AI生成内容的逼真程度正急剧提升。精准识别并拦截这些机器流水线产出的垃圾内容，成为全行业必须攻克的难题。目前，平台正采取模型检测升级、分级处理策略，并配合社区巡查等常态化手段，构建多维度AI内容识别与过滤体系。 业内分析认为，大模型时代的内容平台面临双重挑战：一方面享受技术带来的创作效率提升，另一方面必须精准拦截泛滥的AI注水内容。此次集中清理AI造假笔记与托管账号，本质上是在捍卫“真实分享”与“可信互动”的社区根基。一旦算法生成的虚假内容侵蚀了用户的核心信任，平台将彻底失守。

来源：互联网