破“AI謠言”，護人工智能向善
來源： 掌上淮安
2025-08-21 17:45:00
當(dāng)前，AI（人工智能）迅速發(fā)展，給人們的生產(chǎn)生活帶來諸多便利。但AI也被用于制作發(fā)布謠言、不實信息，可能對部分群眾造成困擾。以全鏈條的“AI治理”跑贏“AI謠言”，推動人工智能向上向善、行穩(wěn)致遠(yuǎn)，已然成為數(shù)字文明建設(shè)的重要課題。
從“暴雨引發(fā)山體滑坡”的偽造視頻到“核電站泄漏”的AI生成新聞稿，“AI謠言”表現(xiàn)形式多樣，讓不少群眾一度信以為真。AI技術(shù)的迅猛發(fā)展，讓卓有成效的網(wǎng)絡(luò)謠言治理面臨新的挑戰(zhàn)。今年4月，中央網(wǎng)信辦部署開展“清朗·整治AI技術(shù)濫用”專項行動，聚焦利用AI制作發(fā)布謠言、不實信息等亂象開展重點整治。而在專項行動的集中整治之外，仍需以全方位、全鏈條治理，久久為功引領(lǐng)技術(shù)向善。
破“AI謠言”，首先要破“AI幻覺”。AI大模型因訓(xùn)練語料不足產(chǎn)生的“幻覺”，將片面信息放大為荒誕內(nèi)容；不法分子利用技術(shù)漏洞，進行需求分析、內(nèi)容生產(chǎn)并精準(zhǔn)投放大量虛假信息。開發(fā)端應(yīng)對訓(xùn)練數(shù)據(jù)進行嚴(yán)格篩選、擴充和校正，持續(xù)優(yōu)化算法，從源頭上減少“幻覺”產(chǎn)生的可能性。公眾在面對AI生成信息時，也應(yīng)保持理性和警惕，學(xué)會質(zhì)疑和分析，不被虛假信息所迷惑。
法治利劍是破除謠言迷霧的關(guān)鍵。中央網(wǎng)信辦開展“清朗·整治AI技術(shù)濫用”專項行動，彰顯出治理技術(shù)濫用的堅定決心。從《生成式AI服務(wù)管理辦法》到《人工智能生成合成內(nèi)容標(biāo)識辦法》，制度籠子正在扎緊。但法律威懾力的真正釋放，在于執(zhí)行。對惡意編造者依法追責(zé)，建立平臺內(nèi)容溯源機制，完善“AI幻覺”引發(fā)的無意謠言技術(shù)糾錯體系，構(gòu)建起全鏈條免疫系統(tǒng)，才能精準(zhǔn)擊殺“AI謠言”病毒。
技術(shù)反制與協(xié)同聯(lián)動是治理的雙翼。數(shù)字水印技術(shù)為合成內(nèi)容打上“電子身份證”，區(qū)塊鏈存證構(gòu)建信息溯源鏈，這些技術(shù)手段讓謠言無處遁形。但技術(shù)治理不能止步于“以彼之矛攻彼之盾”，更要推動平臺主體建立AI內(nèi)容審核標(biāo)準(zhǔn)，對疑似合成信息進行標(biāo)注限流，將倫理審查嵌入算法設(shè)計。相關(guān)部門也應(yīng)加強網(wǎng)絡(luò)平臺監(jiān)管力度，嚴(yán)厲打擊發(fā)布虛假信息的賬號，對涉案人員實施處罰，并封禁其賬號。
公眾媒介素養(yǎng)則是阻斷謠言傳播的最后一道防線。AI不應(yīng)成為謠言的“背鍋俠”，技術(shù)的價值最終取決于使用者的道德水準(zhǔn)。當(dāng)AI工具讓造謠門檻降低至“一句話生成”，提升公眾的“數(shù)字免疫力”尤為重要。這需要進一步推廣AI生成內(nèi)容檢測工具，提高公眾對虛假信息的辨別能力，并將媒介素養(yǎng)納入國民教育體系，構(gòu)建“技術(shù)+教育”的雙重防線，培養(yǎng)“不造謠、不信謠、不傳謠”的數(shù)字公民意識。