央視曝光AI造黃產(chǎn)業(yè)鏈，被點(diǎn)名公司發(fā)文致歉：將進(jìn)一步完善管理與審核流程
來(lái)源： 紫牛新聞
2026-04-14 21:00:00
央視曝光AI造黃產(chǎn)業(yè)鏈，被點(diǎn)名公司發(fā)文致歉：將進(jìn)一步完善管理與審核流程
14日，被央視曝光涉黃的AI軟件哩布哩布發(fā)布《關(guān)于加強(qiáng)內(nèi)容安全管理的說(shuō)明》，承認(rèn)在個(gè)別復(fù)雜提示詞組合及規(guī)避表達(dá)的邊界場(chǎng)景下，平臺(tái)存在生成不符合規(guī)范內(nèi)容的情況。哩布哩布AI表示，相關(guān)問題已第一時(shí)間完成技術(shù)修復(fù)，并對(duì)風(fēng)險(xiǎn)路徑進(jìn)行全面封堵。
據(jù)此前央視新聞報(bào)道，調(diào)查發(fā)現(xiàn)多個(gè)AI應(yīng)用存在涉黃生成漏洞，如果直接向平臺(tái)輸入露骨色情詞匯，平臺(tái)通常會(huì)進(jìn)行攔截，但只要改用隱晦說(shuō)法，便能輕松繞過(guò)審核，生成違規(guī)色情內(nèi)容。其中哩布哩布AI被點(diǎn)名，從網(wǎng)上購(gòu)買隱晦提示詞后，很容易就能在該平臺(tái)生成違規(guī)視頻，全程不會(huì)被平臺(tái)攔截，平臺(tái)也沒有發(fā)出警示。部分商家在社交平臺(tái)公開售賣“AI擦邊視頻制作教程”，宣稱可手把手教用戶利用AI軟件，通過(guò)隱晦提示詞生成色情內(nèi)容，甚至鼓吹“日入5位數(shù)”，誘導(dǎo)更多人參與，形成“售賣提示詞—AI生成內(nèi)容—非法牟利”的灰色產(chǎn)業(yè)鏈。AI平臺(tái)雖然沒有直接提供違規(guī)內(nèi)容，但監(jiān)管、審核的缺位導(dǎo)致違規(guī)視頻仍然能夠輕易產(chǎn)出并傳播。
“哩布哩布AI”的運(yùn)營(yíng)主體是北京奇點(diǎn)星宇科技有限公司，企查查顯示2025年該企業(yè)曾兩次收到稅務(wù)機(jī)關(guān)通知，被要求及時(shí)辦理納稅申報(bào)、報(bào)送納稅資料，并整改相關(guān)稅務(wù)違法行為。該應(yīng)用官網(wǎng)宣傳稱自身是AI文生圖賽道融資第一，是中國(guó)最大的AI圖像生成平臺(tái)。2025年10月，該公司宣布完成1.3億美元B輪融資，由紅杉中國(guó)、CMC資本及一戰(zhàn)略投資方聯(lián)合領(lǐng)投，老股東順為資本、源碼資本、明勢(shì)創(chuàng)投、渶策資本均超額增持，據(jù)稱是當(dāng)時(shí)國(guó)內(nèi)資本市場(chǎng)AI應(yīng)用賽道規(guī)模最大的一筆融資。
根據(jù)2023年8月起施行的《生成式人工智能服務(wù)管理暫行辦法》和2025年11月正式實(shí)施的《網(wǎng)絡(luò)安全技術(shù) 生成式人工智能服務(wù)安全基本要求》均要求提供和使用生成式人工智能服務(wù)，不得生成暴力、淫穢色情等內(nèi)容，還要對(duì)明顯誘導(dǎo)生成違法不良信息的問題拒絕回答。并且值得注意的是，約束AI生成侵權(quán)、濫用的繩索正在進(jìn)一步拉近，今年7月15日《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》將施行，其中也提到“提供擬人化互動(dòng)服務(wù)時(shí)，不得傳播淫穢、色情、暴力等內(nèi)容”，還對(duì)未成年人和老年人使用擬人化互動(dòng)服務(wù)作出了相關(guān)規(guī)定。
揚(yáng)子晚報(bào)|紫牛新聞?dòng)浾呱蛘?/p>
視頻|周嘉楠
校對(duì) 胡妍璐