新闻资讯

　　这种技术能力在实战中得到了验证。2025年，今日头条通过全链路识别体系，不仅完成了对涉诈内容的快速处置，更重要的是在用户端建立了风险预警机制。当平台监测到潜在诈骗风险时，会通过私信提醒方式警示用户，这种前置干预有效降低了用户财产损失风险。与此同时，平台创新治理传播方式，用动画短片、条漫、真人演绎短剧等更接地气的形式，把复杂的诈骗套路讲清楚，让用户能够理解什么是骗局，做好警示和提醒的作用。每个治理周期，平台都会向社会和监管部门反馈反诈的进展和典型手段，提升用户的防范意识。

　　今日头条内容治理运营负责人郑子龙表示，平台以守护真实为核心，通过技术与规则双重手段，坚决守护用户对平台的信任感，维护生态的质量底线。在内容层面，平台通过敏捷监控聚类发文和用户负评等方式不断挖掘新的低质AI内容特征，持续迭代管控标准，并反哺模型训练，增强对于低质AI问题的识别与处置能力；在账号层面，对于持续发布低质AI内容的作者施加流量打压甚至禁言处罚，同时通过发布治理公告及对作者的透传教育，引导创作者自觉低质AI内容。

　　中国社会科学院大学互联网法治研究中心主任刘晓春认为，低质AI内容治理需明确标准、技术赋能、多方协同。平台应完善AI内容标识与审核机制，强化技术检测与创作者引导，推动形成监管、平台、用户共治格局，从源头遏制虚假误导内容蔓延。今日头条的实践正是这一理念的体现——平台增补AI内容标准，提高AI画面识别能力，对AI内容进行打标，每月通过AI模型识别用户发布AI内容并打标4000万条以上，覆盖无主动声明场景，AI判定综合准确率超过95%。