2月24日,今日頭條“平臺治理開放日”活動在北京舉辦。相關業務負責人與學界專家圍繞網絡虛假謠言、同質化發文、AI低質內容等領域的治理進行了深入探討,分享了今日頭條在正面傳播、平臺安全、內容生態等三方面治理工作上的舉措、成果及規劃。

營造優質、清朗、綠色、安全的平臺

“作為內容資訊平臺,今日頭條有責任、有義務讓我們的用戶看到真實、有用的信息”,在開放日上,今日頭條內容策劃負責人劉姍姍表示,“一方面要消滅假的信息,另一方面更要主動傳播真的信息,這也是我們團隊最重要的工作之一。”

自2023年以來,平臺立足“傳播真實信息”理念,以“硬核科普”為主要傳播方向,推出《頭條講真的》項目。聯合醫學、財經、法律等領域專業創作者,為用戶進行辟謠、反詐宣傳。并與熊出沒、南京紅山動物園、我是小魔等知名IP、機構和優質創作者多元合作,實現科普內容的跨圈傳播,為平臺治理工作拓展了新的思路。截至2024年,《頭條講真的》發布科普、辟謠等主題視頻,全網話題討論量超36億,成為今日頭條健康和優質內容生態的重要一環。

今日頭條內容策劃負責人劉姍姍

安全問題是各大 互聯網 資訊平臺的治理重點與核心,今日頭條安全運營負責人閆夢茹分享了2024年平臺在安全治理領域取得的成果:作為民生熱點、新聞資訊起家的內容平臺,今日頭條深知網絡不良信息將極大影響用戶體驗,擾亂平臺環境。近年來,今日頭條建立完善的“風險發現→風險識別→風險處置”全流程治理體系,秉持“早識別、多攔截、多提示、快速干預”的原則,針對同質化發文、網絡詐騙、網絡水軍等亂象加大治理力度。

今日頭條安全運營負責人閆夢茹

除此之外,今日頭條聯合多家航空公司,開辟反詐主題航班進行反詐知識宣傳,推出官方反詐、辟謠小課堂等加強用戶教育。閆夢茹表示,2025年,將繼續把虛假謠言和同質化治理、黑灰產管控及作者教育等方面作為工作重點,持續加碼,不斷深化安全治理工作,為用戶營造健康、綠色的網絡環境。

今日頭條生態治理運營負責人韓雨桐提到,近年來越來越多用戶在頭條上參與創作、記錄生活,大大提升了平臺內容的豐富度,然而,海量內容里的虛假謠言、低質AI內容等,破壞了平臺生態,也不利于創作公平。

對于虛假謠言,今日頭條早早建立起三大核心治理能力,包括:謠言庫、權威信源庫以及專業審核團隊。并于2024年在發文下方增加權威 媒體 報道來源標簽,在保障資訊真實性的基礎上,為用戶提供了更多客觀視角。針對近年來快速發展的AI技術和涌現的低質內容問題,平臺在鼓勵用戶使用AI提效的基礎上,保護原創空間,迅速升級、迭代AI模型的識別能力,收嚴AI內容的審核力度。

此外,今日頭條同步加強對優質內容的扶持力度,“頭條深一度”等欄目精選不同領域深度內容,通過更多的推薦機制傳達至用戶。最后韓雨桐表示,希望能夠與媒體、學界等加強合作,一起共建更好的互聯網生態。

今日頭條生態治理運營負責人韓雨桐

善用 AI 技術,完善法律體系,積極應對網絡謠言治理

在場的專家學者和媒體也從AI技術發展、平臺難點、法治助力等角度,探討了當前復雜的互聯網環境下,資訊平臺將如何迎接新挑戰,維護用戶體驗與內容安全。

清華大學新聞與傳播學院副教授陸洪磊指出,生成式AI正在重塑謠言的傳播生態,技術的加持讓AI謠言無論在空間、速度還是結構、方向、效果上,都更具“說服性”、虛假性和強傳播性,使得傳統辟謠手段難以招架。陸洪磊表示,今日頭條近年來構建起涵蓋內容治理制度、內容審核、辟謠教育、內外聯動的四位一體防御工事,取得了較為顯著的效果,對于AI謠言治理提供了一條具有可行性的發展之路。此外,道阻且長,也需要多方力量聯合:比如執法機構需要做好法治保障的護盤手,建立“技術取證-電子證據-司法鑒定”的全鏈條執法標準;而每位用戶也都應當成為理性的受者和傳者,對可疑內容主動進行核實。最后,陸洪磊呼吁有更多像今日頭條這樣的平臺攜手,共同應對網絡亂象治理。

清華大學新聞與傳播學院副教授陸洪磊

北京師范大學法學院院長、教授梁迎修發表題為《網絡謠言治理:法治引領與多元共治》的演講,系統分析了網絡謠言的類型、變體及發展趨勢,從概念層面厘清了治理的理論基礎,并基于我國法律法規梳理了網絡謠言治理的法律依據。梁教授提出,隨著AI技術的發展,AI虛假謠言層出不窮,增加了甄別和治理難度,加快了謠言的傳播速度。但同時我們可以利用AI技術作為新工具,在謠言內容識別、路徑追蹤和自動化辟謠等方面“用魔法打敗魔法”。梁教授還指出,網絡平臺要積極承擔社會責任,重視內容整治,同時政府機構、媒體、公眾等更應加強協同,網絡謠言治理需要多方綜合施策。

北京師范大學法學院院長、教授梁迎修

彰顯平臺責任擔當,協力共建清朗生態

據介紹,這是今日頭條自成立以來首次舉辦平臺治理開放日。此前,今日頭條發布《2024年度治理報告》,對外公布了過去一年來平臺針對網絡虛假謠言、同質化發文、網絡詐騙、無底線博流量、網絡水軍等重點專項的治理成果。《報告》顯示:平臺全年累計攔截不實信息超500萬條,低質AI內容超93萬條,處罰同質化發文超781萬篇,攔截和處置涉嫌詐騙內容超200萬條。未來,今日頭條將繼續聚焦平臺安全與生態治理,為社會和用戶營造清朗、健康的互聯網環境。