金觀平：合力共筑人工智能安全屏障
來源： 中國經(jīng)濟(jì)網(wǎng)-《經(jīng)濟(jì)日報》
2026-05-12 09:49:00
近期召開的中央政治局會議在部署發(fā)展智能經(jīng)濟(jì)新形態(tài)的同時，提出“完善人工智能治理”，體現(xiàn)出發(fā)展與規(guī)范并重的思路，將進(jìn)一步推動人工智能健康有序發(fā)展。
作為引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，人工智能正深刻改變?nèi)祟惿a(chǎn)生活方式，成為重塑全球競爭格局、推動經(jīng)濟(jì)社會轉(zhuǎn)型的重要力量。當(dāng)前，我國正全面實施“人工智能+”行動，大模型、智能體、具身智能等技術(shù)加速突破，一批高效率的應(yīng)用場景迅速落地。然而，技術(shù)發(fā)展也伴生著算法偏見、數(shù)據(jù)濫用、深度偽造等多重風(fēng)險。面對人工智能技術(shù)快速演進(jìn)、應(yīng)用縱深拓展、風(fēng)險復(fù)雜交織的新形勢，如何加強(qiáng)治理，推動人工智能朝著有益、安全、公平方向發(fā)展，是全社會面臨的一項重要課題。
風(fēng)險防范與監(jiān)管是治理的核心任務(wù)。人工智能技術(shù)具有“黑箱”屬性，決策邏輯不透明、輸出內(nèi)容難溯源，存在未知安全隱患。因此，需要探索新型監(jiān)管理念和方式，為技術(shù)迭代提供可試驗的、動態(tài)包容的治理環(huán)境，既給創(chuàng)新留足試錯空間，又守住安全底線。
目前，我國多地正積極探索沙盒監(jiān)管等新型監(jiān)管方式，允許相關(guān)主體在限定場景、限定規(guī)模內(nèi)試運行新產(chǎn)品、新服務(wù)、新模式與新技術(shù)，同時采取包容審慎的監(jiān)管措施，在可控范圍容錯糾錯，防范風(fēng)險外溢，取得了積極成效。未來，可加快完善相關(guān)制度安排，明確沙盒監(jiān)管的準(zhǔn)入、運行與退出規(guī)則。例如，堅持分類分級原則，對涉及數(shù)據(jù)安全、金融安全等高風(fēng)險領(lǐng)域，實行更為審慎嚴(yán)格的監(jiān)管標(biāo)準(zhǔn)和運行流程；對技術(shù)比較成熟、潛在外溢風(fēng)險較小的領(lǐng)域，適度放寬條件。同時，持續(xù)優(yōu)化監(jiān)管科技工具，讓監(jiān)管能力與人工智能技術(shù)同步提高，實現(xiàn)全生命周期動態(tài)監(jiān)管。
完善法治體系是治理的根本保障。近年來，我國在生成式人工智能、算法推薦、深度合成等重點領(lǐng)域持續(xù)推進(jìn)制度建設(shè)，出臺了《生成式人工智能服務(wù)管理暫行辦法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《人工智能生成合成內(nèi)容標(biāo)識辦法》等一系列監(jiān)管規(guī)則，積累了較為豐富的治理經(jīng)驗。但是，當(dāng)前和未來一段時間人工智能技術(shù)將處于爆發(fā)式發(fā)展階段，部分法規(guī)跟不上技術(shù)創(chuàng)新的腳步。要深刻把握人工智能發(fā)展趨勢和規(guī)律，加緊完善相關(guān)法律法規(guī)、政策制度、應(yīng)用規(guī)范、倫理準(zhǔn)則，及時劃定技術(shù)應(yīng)用的倫理邊界與安全底線，真正做到技術(shù)發(fā)展到哪里，法治建設(shè)就跟進(jìn)到哪里。
加強(qiáng)國際合作是治理的必然選擇。人工智能是跨越國界的通用技術(shù)，其風(fēng)險也具有全球性，規(guī)范治理絕非一國一域之事。不過，由于技術(shù)競爭的高敏感性，不同國家在數(shù)據(jù)跨境、內(nèi)容審核、政府監(jiān)管權(quán)限等問題上還存在分歧，需要推動各方加強(qiáng)發(fā)展戰(zhàn)略、治理規(guī)則、技術(shù)標(biāo)準(zhǔn)的對接協(xié)調(diào)，早日形成具有廣泛共識的人工智能全球治理框架和標(biāo)準(zhǔn)規(guī)范。
作為負(fù)責(zé)任大國，近年來，我國積極參與和引領(lǐng)全球人工智能治理，相繼發(fā)布《全球人工智能治理倡議》《人工智能全球治理行動計劃》等重要文件。未來，要繼續(xù)推動我國人工智能治理制度創(chuàng)新、實踐創(chuàng)新，為國際社會貢獻(xiàn)更多中國方案；加強(qiáng)國際交流與合作，推動構(gòu)建更加公平合理的全球治理體系。
人工智能治理是技術(shù)倫理、法規(guī)建設(shè)、國際合作等多方面內(nèi)容的系統(tǒng)集成，多元共治才能筑牢安全防線。堅持發(fā)展與安全并重、創(chuàng)新與規(guī)范同步，探索完善人工智能治理體系，發(fā)展智能經(jīng)濟(jì)新形態(tài)將具備更為堅實的制度保障。（本文來源：經(jīng)濟(jì)日報 作者：金觀平）