2 月 24 日, 今日头条平台治理开放日在京举办。此次活动旨在与学界专家及各方媒体一同聚焦网络虚假谣言、同质化发文等领域问题, 并分享今日头条在内容生态、平台安全等方面的成功治理经验。
不久前, 今日头条发布了《2024 年度治理报告》, 报告统计: 过去一年中借助科普传播、反诈宣传, 以及一系列安全治理措施, 平台累计拦截不实信息超 500 万条, 处理低质 AI 内容超 93 万条, 处罚同质化发文超 781 万篇, 为涤清网络虚假信息和安全隐患, 提供了可靠的行业治理范本。
开放日上, 今日头条平台针对 AI 谣言与同质化发文等现象所采取的积极应对策略, 成为现场专家、行业人士与媒体热议的焦点。
清华大学新闻与传播学院副教授陆洪磊在发言中, 首先系统分析了 AI 谣言在生成式 AI 技术的加持下, 呈现出的强“说服性”、虚假性与传播性等特点, 使得传统辟谣手段难以招架。陆洪磊教授认为, 今日头条近年来所采取的四位一体防御工事, 即将“内容治理制度、内容审核、辟谣教育、内外联动”一并纳入 AI 谣言的识别及治理当中, 为 AI 谣言的治理提供了一条具有可行性的发展之路。
清华大学新闻与传播学院副教授陆洪磊
在关注 AI 谣言治理的同时, 到场媒体也就如何正确引导 AI 内容创作, 并与低质 AI 内容做区分等问题, 在现场向今日头条生态治理运营负责人韩雨桐进行了提问。韩雨桐表示, 今日头条非常支持创作者合理运用 AI 技术以提升创作效率, 但对于通过 AI 技术生成的低质内容, 平台始终采取明确且坚决的治理态度, 一直以来平台都在通过技术手段监控 AI 内容的整体流量占比, 从而使平台内容生态维持在健康占比之上, 在保护原创作者的同时, 也欢迎新技术在平台良性发展。
今日头条生态治理运营负责人韩雨桐
AI 技术既是治理核心, 也是监管利刃。对今日头条如何以 AI 技术应对同质化发文等问题, 媒体对相关业务负责人进行了提问。
对此, 今日头条安全运营负责人闫梦茹解释说, 在同质化发文治理方面, 今日头条同样采取了富有针对性的解决思路。过去一年, 今日头条安全运营部门陆续建立起完善的“风险发现 → 风险识别 → 风险处置”全流程治理体系, 对以同质化发文为代表的网络乱象进行持续治理打击, 其中就包括在审核团队和审核机制中融入 AI 能力, 从而实现对海量信息的甄别和提取。未来, 今日头条也将把更多精力投入模型能力的提升之上, 以期更好发挥“早识别、多拦截、多提示、快速干预”的网络不良信息治理经验, 这一举措和思路也得到了开放日现场各学界专家及媒体的认可。
今日头条安全运营负责人闫梦茹
以此次“平台治理开放日”为契机, 未来, 今日头条将持续强化在平台安全与生态治理方面的探索及投入, 为社会和用户营造更加绿色、健康、优质的互联网环境。
广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，IT之家所有文章均包含本声明。