近日, 今日头条发布 2024 年度治理报告 (以下简称“报告”), 公布平台针对网络虚假谣言、网络诈骗、同质化发文、低质 AI 内容等问题的多项治理举措与成果。《报告》显示, 平台全年累计拦截不实信息超 500 万条, 处置不友善内容超 3 亿条, 处罚同质化发文超 781 万篇。
数字时代, 信息数量呈几何式爆发, 纷繁复杂、真假难辨; 人工智能技术的飞速发展更是给网络生态带来了新的挑战。虚假谣言事件频发, 不仅扰乱了网络秩序, 也渗透至用户生活的方方面面, 对现实社会造成了严重不良影响。
对此, 今日头条建立起完整的谣言治理和防范体系。一方面加强谣言拦截: 通过强化搭建全体裁谣言知识库, 培养专业领域的审核人员, 建立谣言线索互通机制等方式从根源处遏制不实信息的发布与传播; 另一方面加强辟谣教育: 成立线上“辟谣小课堂”, 发布创意治理动画《小狗的一天》《火》, 联动专家、科普创作者发起“头条讲真的”公益活动等, 全方位进行用户教育和引导。截至 2024 年 12 月底, 平台累计拦截不实信息超 500 万条, 封禁造谣、传谣等违规账号超 47000 个。
网络暴力和网络诈骗同样严重影响着用户的身心与财产安全，今日头条在预防和治理网暴方面不断完善“一键防护”、评论权限设置等产品功能, 还与抖音打通心理关怀团队, 为被网暴等原因而产生不良情绪的用户提供心理疏导, 仅 2024 年平台就处置不友善内容超 3 亿条。针对网络诈骗行为, 平台秉持“早识别、多拦截、多提示、快速干预”原则, 通过技术和运营手段不断加强治理效率, 与公安等部门合作加强反诈教育。一年累计封禁违规账号超 17 万个, 为用户发出风险提示超 2548 万次。
此外, 针对同质化内容、低质 AI 发文、网络水军等问题, 今日头条通过增加 AI 辨别标签、强化内容识别模型、收严账号管理制度等一系列举措开展了专项治理。《报告》显示,2024 年平台处罚同质化发文超 781 万篇, 处置低质 AI 内容超 93 万条, 拦截虚假流量超 150 亿次。
今日头条相关负责人表示, 平台治理是一项长期而复杂的工程, 但让用户更安心, 让社会更安宁, 是平台加强建立优质生态的初心所在和责任所在,“我们愿与多方共同努力, 为构建绿色、和谐、健康的网络环境贡献力量。”
图说: 今日头条 2024 年度治理报告重点一览
广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，IT之家所有文章均包含本声明。