2 月 24 日, 今日头条“平台治理开放日”活动在北京举办。相关业务负责人与学界专家围绕网络虚假谣言、同质化发文、AI 低质内容等领域的治理进行了深入探讨, 分享了今日头条在正面传播、平台安全、内容生态等三方面治理工作上的举措、成果及规划。
营造优质、清朗、绿色、安全的平台
“作为内容资讯平台, 今日头条有责任、有义务让我们的用户看到真实、有用的信息”, 在开放日上, 今日头条内容策划负责人刘姗姗表示,“一方面要消灭假的信息, 另一方面更要主动传播真的信息, 这也是我们团队最重要的工作之一。”
自 2023 年以来, 平台立足“传播真实信息”理念, 以“硬核科普”为主要传播方向, 推出《头条讲真的》项目。联合医学、财经、法律等领域专业创作者, 为用户进行辟谣、反诈宣传。并与熊出没、南京红山动物园、我是小魔等知名 IP、机构和优质创作者多元合作, 实现科普内容的跨圈传播, 为平台治理工作拓展了新的思路。截至 2024 年,《头条讲真的》发布科普、辟谣等主题视频, 全网话题讨论量超 36 亿, 成为今日头条健康和优质内容生态的重要一环。
今日头条内容策划负责人刘姗姗
安全问题是各大互联网资讯平台的治理重点与核心, 今日头条安全运营负责人闫梦茹分享了 2024 年平台在安全治理领域取得的成果: 作为民生热点、新闻资讯起家的内容平台, 今日头条深知网络不良信息将极大影响用户体验, 扰乱平台环境。近年来, 今日头条建立完善的“风险发现 → 风险识别 → 风险处置”全流程治理体系, 秉持“早识别、多拦截、多提示、快速干预”的原则, 针对同质化发文、网络诈骗、网络水军等乱象加大治理力度。
今日头条安全运营负责人闫梦茹
除此之外, 今日头条联合多家航空公司, 开辟反诈主题航班进行反诈知识宣传, 推出官方反诈、辟谣小课堂等加强用户教育。闫梦茹表示,2025 年, 将继续把虚假谣言和同质化治理、黑灰产管控及作者教育等方面作为工作重点, 持续加码, 不断深化安全治理工作, 为用户营造健康、绿色的网络环境。
今日头条生态治理运营负责人韩雨桐提到, 近年来越来越多用户在头条上参与创作、记录生活, 大大提升了平台内容的丰富度, 然而, 海量内容里的虚假谣言、低质 AI 内容等, 破坏了平台生态, 也不利于创作公平。
对于虚假谣言, 今日头条早早建立起三大核心治理能力, 包括: 谣言库、权威信源库以及专业审核团队。并于 2024 年在发文下方增加权威媒体报道来源标签, 在保障资讯真实性的基础上, 为用户提供了更多客观视角。针对近年来快速发展的 AI 技术和涌现的低质内容问题, 平台在鼓励用户使用 AI 提效的基础上, 保护原创空间, 迅速升级、迭代 AI 模型的识别能力, 收严 AI 内容的审核力度。
此外, 今日头条同步加强对优质内容的扶持力度,“头条深一度”等栏目精选不同领域深度内容, 通过更多的推荐机制传达至用户。最后韩雨桐表示, 希望能够与媒体、学界等加强合作, 一起共建更好的互联网生态。
今日头条生态治理运营负责人韩雨桐
善用 AI 技术, 完善法律体系, 积极应对网络谣言治理
在场的专家学者和媒体也从 AI 技术发展、平台难点、法治助力等角度, 探讨了当前复杂的互联网环境下, 资讯平台将如何迎接新挑战, 维护用户体验与内容安全。
清华大学新闻与传播学院副教授陆洪磊指出, 生成式 AI 正在重塑谣言的传播生态, 技术的加持让 AI 谣言无论在空间、速度还是结构、方向、效果上, 都更具“说服性”、虚假性和强传播性, 使得传统辟谣手段难以招架。陆洪磊表示, 今日头条近年来构建起涵盖内容治理制度、内容审核、辟谣教育、内外联动的四位一体防御工事, 取得了较为显著的效果, 对于 AI 谣言治理提供了一条具有可行性的发展之路。此外, 道阻且长, 也需要多方力量联合: 比如执法机构需要做好法治保障的护盘手, 建立“技术取证-电子证据-司法鉴定”的全链条执法标准; 而每位用户也都应当成为理性的受者和传者, 对可疑内容主动进行核实。最后, 陆洪磊呼吁有更多像今日头条这样的平台携手, 共同应对网络乱象治理。
清华大学新闻与传播学院副教授陆洪磊
北京师范大学法学院院长、教授梁迎修发表题为《网络谣言治理: 法治引领与多元共治》的演讲, 系统分析了网络谣言的类型、变体及发展趋势, 从概念层面厘清了治理的理论基础, 并基于我国法律法规梳理了网络谣言治理的法律依据。梁教授提出, 随着 AI 技术的发展,AI 虚假谣言层出不穷, 增加了甄别和治理难度, 加快了谣言的传播速度。但同时我们可以利用 AI 技术作为新工具, 在谣言内容识别、路径追踪和自动化辟谣等方面“用魔法打败魔法”。梁教授还指出, 网络平台要积极承担社会责任, 重视内容整治, 同时政府机构、媒体、公众等更应加强协同, 网络谣言治理需要多方综合施策。
北京师范大学法学院院长、教授梁迎修
彰显平台责任担当, 协力共建清朗生态
据介绍, 这是今日头条自成立以来首次举办平台治理开放日。此前, 今日头条发布《2024 年度治理报告》, 对外公布了过去一年来平台针对网络虚假谣言、同质化发文、网络诈骗、无底线博流量、网络水军等重点专项的治理成果。《报告》显示: 平台全年累计拦截不实信息超 500 万条, 低质 AI 内容超 93 万条, 处罚同质化发文超 781 万篇, 拦截和处置涉嫌诈骗内容超 200 万条。未来, 今日头条将继续聚焦平台安全与生态治理, 为社会和用户营造清朗、健康的互联网环境。
广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，IT之家所有文章均包含本声明。