網(wǎng)絡謠言治理有了新解法：“AI抖音求真”來了
來源： 紫牛新聞
2025-09-16 17:43:00
2025年9月16日，抖音舉辦不實信息治理開放日，分享平臺治理謠言的“方法論”，并宣布上線“AI抖音求真”功能。該功能可為用戶提供針對誤導性內(nèi)容與謠言的事實展示及澄清。
抖音方面表示，謠言治理是抖音2025年最重要的工作之一。近期，平臺已將大模型能力應用于謠言治理。一個季度以來，平臺謠言曝光量下降67%。
謠言治理引入大模型技術(shù)，近一個季度謠言曝光量下降67%
隨AI技術(shù)發(fā)展，內(nèi)容創(chuàng)作越來越便利，但制造謠言也更為輕易。能否用AI治理謠言？近期，抖音已嘗試在謠言治理工作中引入大模型技術(shù)，力求實現(xiàn)對謠言“發(fā)現(xiàn)即管控”。
抖音不實信息治理負責人李博在活動中介紹，在過往的謠言治理鏈路中，發(fā)現(xiàn)謠言往往需要依靠媒體報道或機構(gòu)發(fā)聲。有了辟謠信號，才能由人工將謠言信息點納入謠言庫，進一步以此為樣本回查、下架和攔截新增的該謠言內(nèi)容。單例謠言的發(fā)現(xiàn)和處置時效需以“天”為單位。
而謠言治理所使用的大模型技術(shù)能夠“化被動為主動”，主動“審閱”平臺上到達一定熱度的所有資訊內(nèi)容。大模型通過提取視頻信息、分析主旨、聯(lián)網(wǎng)搜索，完成對內(nèi)容是否為謠言的風險判斷。基于此判斷，進一步對謠言內(nèi)容進行自動處置。目前，單例謠言的處置時效已縮短至以“小時”為單位。
抖音謠言治理運行流程。依托于大模型技術(shù)，近一個季度以來，抖音謠言內(nèi)容曝光量下降67%
值得注意的是，這一謠言治理大模型更像一個由平臺訓練出來的“謠言鑒定專家”。大模型的搜索信源來自權(quán)威媒體報道、政務公開平臺及歷史謠言庫樣本。此外，謠言治理大模型擁有精準定義“內(nèi)容誤導性”“公共價值”“可證偽”等謠言特征的能力。這使得大模型對謠言的“發(fā)現(xiàn)即管控”更為精準、高效。
李博介紹，在大模型技術(shù)助力下，近一個季度以來，抖音謠言內(nèi)容曝光量下降67%。大模型識別準確率達85%，目前仍在持續(xù)提升中。
但他也坦言，謠言治理“任重道遠”。一方面，謠言的產(chǎn)生難以杜絕，主觀編造、傳播偏差等均會帶來不實信息；另一方面，辟謠的查證和時效性仍面臨挑戰(zhàn)。例如，一些熱點事件常處于動態(tài)發(fā)展中，謠言常反轉(zhuǎn)；此外，傳播方式的變化也使得信源本身受到污染?！斑@些都需要媒體、機構(gòu)、平臺，和每一位用戶攜手共治?！?/p>
“AI抖音求真”上線，與用戶共建“認知防線”
當日，抖音宣布升級推出“AI抖音求真”功能。在瀏覽一些易產(chǎn)生誤解的內(nèi)容和搜索謠言相關(guān)信息時，用戶均可通過“求真卡”獲知事件完整信息及辟謠內(nèi)容。
具體而言，一方面，用戶在瀏覽視頻時，一些易產(chǎn)生誤解、談及疑似不實信息的內(nèi)容，將會被平臺掛載“AI抖音求真”跳轉(zhuǎn)鏈接。用戶點擊可達“求真卡”頁面，獲知事件的完整信息。一些熱度較高的事件，所對應的“求真卡”還將展示更全面的謠言點信息，供用戶了解復雜事件中的多例關(guān)鍵事實點。
另一方面，用戶在搜索相關(guān)事件關(guān)鍵詞時，搜索結(jié)果將以“求真卡”形式展現(xiàn)。內(nèi)容包括事件溯源、澄清信息、權(quán)威報道、當事人發(fā)聲等。如事件為謠言或疑似謠言，還將被顯著標注為“謠言”或“存疑”。
“AI抖音求真”上線，用戶在瀏覽視頻時，一些易產(chǎn)生誤解、談及疑似不實信息的內(nèi)容，將會被掛載“AI抖音求真”跳轉(zhuǎn)鏈接。用戶點擊可達“求真卡”頁面
據(jù)了解，“AI抖音求真”呈現(xiàn)的內(nèi)容依托于平臺訓練的“謠言治理大模型”“資訊大模型”及辟謠運營團隊。通過“AI大模型+專項運營”的方式，該功能可為用戶提供針對誤導性內(nèi)容和謠言信息的事實展示及澄清。目前，“AI抖音求真”的單日曝光量估測可達近億次。
此外，辟謠運營團隊在發(fā)現(xiàn)一些謠言風險信號時，也會主動向當事人或有關(guān)部門核實內(nèi)容真?zhèn)巍?/p>
抖音辟謠運營團隊舉例介紹，在剛剛過去的暑假，社交媒體接連出現(xiàn)各地涌現(xiàn)“人販子”相關(guān)信息。運營團隊在捕捉到這一疑似謠言的風險后，一方面查證各地公安通報情況，另一方面主動與各地方公安聯(lián)動，對四川、山西、河北、海南、重慶、河南等9個地區(qū)的“人販子”謠言進行核實。核實內(nèi)容為虛假后，平臺隨即對謠言進行處置，并在站內(nèi)通過“抖音辟謠”賬號發(fā)布辟謠內(nèi)容，運營相關(guān)熱點。
揚子晚報/紫牛新聞記者 徐曉風
校對 盛媛媛