警惕！“AI拼接怪獸”正在帶偏你的孩子
來源： 江蘇警方
2025-12-29 17:08:00
今年以來，伴隨著AI生成的短視頻在各大網(wǎng)絡(luò)平臺(tái)迅速走紅，被稱為“外國山海經(jīng)”的視頻也在未成年人群中掀起一股熱潮?！?/p>
“Tung Tung Tung Sahur”“Tralalero Tralala”“Brr brr patapim”……這些孩子們嘴里反復(fù)念叨、聽起來拗口難懂的音節(jié)，并不是胡言亂語，而是“外國山海經(jīng)”中動(dòng)畫角色的名字。
這些“網(wǎng)絡(luò)動(dòng)畫角色”有木棍人，有仙人掌身軀、腳踩拖鞋的大象，有身體是輪胎的青蛙，有鱷魚和軍用飛機(jī)的融合體，還有香蕉上頂著猩猩腦袋、魚身配貓頭等違背常理的奇怪形象。這些形象并非出自傳統(tǒng)動(dòng)畫或經(jīng)典IP，而是由AI拼接生成的。
專家介紹，“外國山海經(jīng)”與中國古代典籍《山海經(jīng)》毫無關(guān)聯(lián)。這類視頻起源于2025年初在國外社交平臺(tái)上一類名為“腦腐?！钡囊曨l。這類視頻以意大利語等外語搭配魔性音效，再通過AI圖像生成工具，將動(dòng)物、物品與人類特征隨機(jī)拼接，創(chuàng)造出一系列荒誕離奇的怪異形象。
今年年初，這些視頻被網(wǎng)友搬運(yùn)到了國內(nèi)的短視頻平臺(tái)上，并迅速引發(fā)了大量二次創(chuàng)作和傳播。有人制作了角色圖鑒，有人編造了一些新的故事背景和動(dòng)畫形象之間的關(guān)聯(lián)。部分“外國山海經(jīng)”視頻內(nèi)，還有“大逃殺”、打斗場景，甚至是軟色情的元素和題材。
在多個(gè)短視頻平臺(tái)中，帶有“外國山海經(jīng)”“AI山海經(jīng)”等標(biāo)簽的視頻動(dòng)輒收獲數(shù)十萬甚至上百萬的點(diǎn)贊與轉(zhuǎn)發(fā)。
大人很難理解這些荒誕AI動(dòng)畫形象的意義，但孩子們十分著迷。不少小學(xué)生將“外國山海經(jīng)”當(dāng)作校園社交貨幣，以熟記其中怪物的形象、名字?jǐn)?shù)量為榮，甚至形成攀比。
有家長反映，孩子寫作業(yè)時(shí)，會(huì)模仿其中的怪物發(fā)出怪異聲音，“課文都背不下來，卻能背下來外國山海經(jīng)”。還有網(wǎng)友曬出了手寫的“角色名單”，紙上密密麻麻地抄滿了這些AI形象的名稱。
這一傳播已經(jīng)不止于網(wǎng)絡(luò)中。記者調(diào)查發(fā)現(xiàn)，在一些主流網(wǎng)購平臺(tái)上，搜索“外國山海經(jīng)”會(huì)自動(dòng)關(guān)聯(lián)出大量相關(guān)詞條。除了以這些AI動(dòng)畫形象為原型制作的玩具、手辦外，還有文具、漫畫書、生活用品等等，不少商品頁面顯示“已售10萬+”。一些學(xué)校周邊的文具店、超市、玩具店，也有“外國山海經(jīng)”相關(guān)玩具在售。
對于這類短視頻存在的問題，不少家長已經(jīng)意識(shí)到，并盡力阻止孩子接觸。但讓他們困惑的是：這些內(nèi)容為何在網(wǎng)絡(luò)上擴(kuò)散得如此迅猛？
△人工智能研究人員使用市面上兩款主流大模型，輸入幾個(gè)描述角色和場景的關(guān)鍵詞，只需要幾十秒的時(shí)間，就能生成動(dòng)畫內(nèi)容。
人工智能研究人員指出，“外國山海經(jīng)”這類視頻利用夸張、獵奇、高沖擊力的畫面來抓取未成年人的注意力。孩子只要出于好奇點(diǎn)開看了幾秒，算法就會(huì)立刻標(biāo)記興趣，源源不斷地推送類似內(nèi)容，形成“越看越推、越推越看”的循環(huán)。
即便家長已經(jīng)對這類內(nèi)容進(jìn)行舉報(bào)或屏蔽，算法仍可能基于用戶行為或相似內(nèi)容特征，繼續(xù)推送此類視頻。平臺(tái)對舉報(bào)內(nèi)容的處理，采用的是人工審核流程，而算法推送是毫秒級的實(shí)時(shí)推送，人工審核與干預(yù)的速度，和算法的內(nèi)容分發(fā)速度之間存在巨大時(shí)間差。
法學(xué)專家認(rèn)為，治理“外國山海經(jīng)”這類亂象，除了算法技術(shù)的升級，也要壓實(shí)平臺(tái)主體責(zé)任。平臺(tái)作為內(nèi)容分發(fā)的核心樞紐，應(yīng)主動(dòng)履行審核、過濾和處置義務(wù)，將推薦權(quán)重向健康、有益、優(yōu)質(zhì)的內(nèi)容傾斜。
此類AI拼接怪獸亂象，經(jīng)過有關(guān)部門的治理，熱度已經(jīng)明顯降低，但是公眾仍要警惕有新的類似現(xiàn)象出現(xiàn)。治理不能止于下架視頻、清理商品，更要從源頭遏制AI生成內(nèi)容的野蠻生長，推動(dòng)算法向善、內(nèi)容向美。
守護(hù)孩子的精神家園，就是守護(hù)他們健康成長的未來。別讓算法制造的怪異幻想，擠占了真正有益于心靈發(fā)展的空間。
來源丨央視新聞