2月24日，今日頭條在北京舉辦平臺治理開放日，圍繞AI謠言、同質化發(fā)文、網(wǎng)絡詐騙等熱議的網(wǎng)絡治理焦點，與會嘉賓共同分享今日頭條過去一年來在安全治理、內容生態(tài)等方面的細致舉措及有效經(jīng)驗。
活動現(xiàn)場，今日頭條相關業(yè)務負責人與學界專家紛紛發(fā)表演講，對近年來AI謠言與AI技術治理等議題給予了高度關注。
今日頭條生態(tài)治理運營負責人韓雨桐介紹稱，平臺很早就關注到AI謠言等情況、問題的出現(xiàn)，更針對性升級、迭代了AI模型的識別能力。在四位一體防御工事外，還建立起了包括謠言庫、權威信源庫以及專業(yè)審核團隊在內的三大核心治理能力，全面優(yōu)化了AI謠言的防控水平，加強了對AI謠言、低質內容的可靠治理和管控。
會上，清華大學新聞與傳播學院副教授陸洪磊分享了題為《AI謠言治理：多方協(xié)力的數(shù)字戰(zhàn)役》的演講，在聚焦AI謠言產(chǎn)生背景及特點。他指出，伴隨AI技術的進一步應用，生成式AI正在重塑網(wǎng)絡信息的傳播生態(tài)，體現(xiàn)在內容端就是AI謠言的日益猖獗。在AI的加持之下，謠言實現(xiàn)了分平臺、分渠道、分時段、分媒介的定制化發(fā)布，為網(wǎng)絡環(huán)境帶來了更加嚴峻的跨平臺影響。其低廉的成本和倍率傳播特性，使得辟謠難度大幅增加。而AI技術自我學習和自我強化的特性，匹配AI生成圖片等造假手段，使得AI謠言越來越逼真，對于內容平臺來說這無疑是一場需要特別關注的“進化危機”。
清華大學新聞與傳播學院副教授陸洪磊如何應對這一新的態(tài)勢，陸洪磊以今日頭條為例，指出今日頭條平臺所采取的“內容治理制度、內容審核、辟謠教育、內外聯(lián)動”四位一體防御工事，為AI謠言的治理提供了一條具有可行性的發(fā)展之路。
事實證明，今日頭條對AI謠言的相關治理舉措卓有成效。不久前今日頭條發(fā)布的《2024年度治理報告》中顯示，截止2024年底，今日頭條平臺已處理低質AI內容超93萬條，禁言、封禁相關賬號超2.9萬個，用戶關于低質AI內容的負反饋量級從28條/天降到了2條/天，有效抑制和打擊了AI謠言的傳播鏈條與傳播溫床。
陸洪磊認為，AI謠言的治理難以依靠單一力量來完成，需要聯(lián)動各方建立謠言線索互通機制。在協(xié)同治理方面，平臺需要做好技術的守門員，加強跨平臺辟謠合作，破解AI謠言的“deepfake”陷阱；平臺也可以考慮推出“事實快速核驗通道”，激發(fā)用戶的反謠言意識，便于遏制謠言的傳播。執(zhí)法機構需要做好法治保障的護盤手，加快相關法律細則的出臺和落實，建立“技術取證-電子證據(jù)-司法鑒定”的全鏈條執(zhí)法標準；而每位網(wǎng)民則都應當成為理性的受者和傳者，轉發(fā)前思考三秒，分析一下信息來源是否真實、邏輯是否合理、是否屬于誘導內容等，并對可疑內容主動進行核實。
陸洪磊總結道，魔高一尺，道高一丈。當網(wǎng)友發(fā)現(xiàn)AI圖片中的異常字母時，他們會在評論區(qū)自發(fā)形成的“真相拼圖”，這正是協(xié)同治理最生動的注腳。