新浪科技讯 6月12日晚间消息，小红书公布了2025年上半年社区虚假内容治理成果：通过建设虚假内容全链路治理体系，共处置虚假笔记320万篇配资网上配资，处置虚假人设账号1万个，处置虚假低质AIGC笔记60万篇；通过持续建设“同质化识别”能力，全面提升处置手段，升级机器对抗，共封禁批量造假黑灰产账号超1000万个。
在持续主动治理之外，小红书也积极鼓励用户参与共治。在6月11日的中国网络文明大会上，小红书总编辑许磊介绍，小红书持续优化举报机制，今年上半年，虚假信息的平均审核时长同比降低25%；接下来，还将通过改进产品等措施，吸引更多用户参与到虚假内容的共治中。
小红书虚假内容治理负责人蒂法介绍，虚假不实内容、虚假人设和AIGC造假是当前社区打击“虚假”的三个重点。
在虚假不实内容治理方面，小红书建构了“前置拦截、事中追踪、分析回扫”的“前中后”全链路治理体系；上线了内容信息量模型，笔记摘要提取模型，AIGC谣言诊断模型等15个识别大模型，并建立了真实信源库和谣言库，实现了对虚假内容的实时拦截和批量回扫，半年共处置虚假笔记320万篇。
在虚假人设治理方面，小红书设置了内容前置审核制度，采用了账号关系挖掘分析策略，并上线多个图像及视频识别模型，通过综合笔记内容和账号信息进行分析判断，对虚假人设进行精准打击，半年共处置虚假人设账号 1万个。
在AIGC技术爆发式发展的当下，虚假低质AIGC内容也成为治理的重中之重。小红书不断加大对AIGC识别模型的研发投入，进一步提高识别精准度，减少虚假低质AIGC内容的曝光。同时，平台对AIGC生成内容做主动标识工作，提升信息透明度。半年共处置治理虚假低质AIGC笔记60万篇。
小红书黑灰产账号治理负责人必行介绍 ，2024年11月中，小红书黑灰产账号治理专项开启；专项开展1个月，封禁126万黑灰产账号；开展3个月，封禁320万黑灰产账号；开展7个月，封禁超1000万黑灰产账号。
为了应对黑灰产账号的数量巨大、隐蔽深、变体快和对抗强等挑战，治理团队从识别能力和处置能力两方面重点做功。
在识别能力方面：上线50多个模型，建立了以“同质化识别”为核心的风控体系，将对黑灰产的识别召回率提升了72%。在处置能力方面，不断优化处置策略，极大提升黑灰产作恶成本；全面升级机器对抗，用机器判罚大规模代替人工判罚，大幅提高对黑灰产账号的处置量级及时效性。
在线上治理的同时，小红书案件调查团队还向多地警方和市场监督部门积极提供线索，对黑灰产团伙进行线下打击。目前有7起案件在侦办中，后续警方和市场监督部门将根据调查结果采取各种处罚措施，涉及犯罪行为的还将进一步追求刑事责任。（闫妍）
海量资讯、精准解读，尽在新浪财经APP
责任编辑：何俊熹 配资网上配资
星速优配提示：文章来自网络，不代表本站观点。
