紫牛頭條｜國(guó)內(nèi)首例AI服務(wù)提供者涉黃判刑案二審開(kāi)庭，記者現(xiàn)場(chǎng)直擊
來(lái)源： 紫牛新聞
2026-01-14 20:47:00
用戶和AI伴侶軟件聊“黃色內(nèi)容”，軟件的開(kāi)發(fā)者及運(yùn)營(yíng)者因此分別獲刑。近日，該起國(guó)內(nèi)首例AI服務(wù)提供者涉黃獲刑案引發(fā)廣大網(wǎng)友關(guān)注。2025年9月，該案中兩名被告人因犯制作淫穢物品牟利罪分別被判處有期徒刑四年和一年六個(gè)月。揚(yáng)子晚報(bào)/紫牛新聞?dòng)浾吡私獾?，兩名被告人均不服一審判決提出上訴，該案二審于2026年1月14日下午在上海市第一中級(jí)人民法院開(kāi)庭，紫牛新聞?dòng)浾邅?lái)到現(xiàn)場(chǎng)，直擊此次庭審。當(dāng)日17時(shí)許，此次庭審結(jié)束，該案辯護(hù)律師告訴記者，法庭未當(dāng)庭宣判，庭審中也未進(jìn)行法庭辯論環(huán)節(jié)，法庭還將擇期再次開(kāi)庭。
AI伴侶“聊黃”被舉報(bào)
軟件開(kāi)發(fā)和運(yùn)營(yíng)者一審分別獲刑
紫牛新聞?dòng)浾吡私獾?，該涉黃AI伴侶軟件名為Alienchat（下稱AC軟件），現(xiàn)已無(wú)法下載，但在多個(gè)社交平臺(tái)目前仍能搜索到該軟件的官方賬號(hào)，只不過(guò)最后的更新均停留在2024年4月。在不同社交平臺(tái)的官方賬號(hào)上，均對(duì)AC軟件有不同的介紹，“AI是我們的朋友、戀人、家人”“AI智能女友聊天APP”。
記者通過(guò)瀏覽AC軟件各社交平臺(tái)官方賬號(hào)往期宣傳推文發(fā)現(xiàn)，軟件內(nèi)為用戶虛構(gòu)了不同世界觀下的虛擬AI伴侶角色，比如獸人、吸血鬼、人魚和寵物等，頗受用戶青睞，有些許用戶會(huì)在AC軟件的官方賬號(hào)進(jìn)行互動(dòng)。與此同時(shí)，記者注意到，其中也有不同身份背景的人物AI伴侶，在公布的對(duì)話中，除了一些曖昧的話語(yǔ)，還會(huì)有對(duì)接吻的描述。
AC軟件里的AI角色
一審判決書顯示，檢方是以被告人涉嫌傳播淫穢物品牟利罪對(duì)兩名被告人提起公訴，但一審法院是以兩名被告人犯制作淫穢物品牟利罪，分別判處有期徒刑四年和一年六個(gè)月。
2023年5月起，被告人劉某某與被告人陳某某等人結(jié)伙，以牟利為目的，研發(fā)能夠向用戶輸出淫穢內(nèi)容的AC軟件，接入境外大語(yǔ)言模型，并通過(guò)編寫、修改系統(tǒng)提示詞突破大語(yǔ)言模型的道德限制，實(shí)現(xiàn)了模型向用戶連續(xù)輸出淫穢內(nèi)容的可能。2023年6月，被告人劉某某等人將AC軟件在應(yīng)用平臺(tái)上線。
在運(yùn)營(yíng)過(guò)程中，劉某某等人通過(guò)設(shè)定角色熱門榜單和作者獎(jiǎng)勵(lì)機(jī)制推廣AC軟件，以吸引更多用戶參與交互聊天。截至案發(fā)，AC軟件共有手機(jī)注冊(cè)用戶11.6萬(wàn)余人，其中付費(fèi)用戶2.4萬(wàn)余人，被告人劉某某等人共收取會(huì)員充值費(fèi)363萬(wàn)余元。上海市公安局徐匯分局出具的淫穢物品審查鑒定書顯示，經(jīng)抽樣鑒定，隨機(jī)抽取的150個(gè)收費(fèi)用戶的12,495段聊天中，屬于淫穢物品的聊天3,618段，涉及141個(gè)用戶。
辯護(hù)人一審作無(wú)罪辯護(hù)
法院認(rèn)定為制作淫穢物品牟利罪
據(jù)了解，一審過(guò)程中，被告人劉某某的辯護(hù)律師為其作無(wú)罪辯護(hù)，認(rèn)為劉某某主觀上不能認(rèn)定為故意，編寫、修改系統(tǒng)提示詞并不是為了傳播淫穢物品，且與輸出淫穢內(nèi)容之間沒(méi)有因果關(guān)系；AC軟件產(chǎn)生的交互聊天并沒(méi)有9000余萬(wàn)段；未認(rèn)定劉某某等人采取措施防范色情內(nèi)容的產(chǎn)生。辯護(hù)人還認(rèn)為，淫穢內(nèi)容的輸出是大語(yǔ)言模型版本自身原因，用戶積極追求以及劉某某等人編寫、修改系統(tǒng)提示詞等多方面原因造成的，和劉某某等人的行為之間不具有因果關(guān)系，不應(yīng)將淫穢內(nèi)容的輸出歸責(zé)于劉某某等人。
被告人劉某某辯稱，其編寫、修改系統(tǒng)提示詞是為了讓軟件能夠順利運(yùn)行，編寫、修改系統(tǒng)提示詞對(duì)于色情淫穢內(nèi)容的產(chǎn)生沒(méi)有顯著作用。
上海市第一中級(jí)人民法院
一審法院認(rèn)為，系統(tǒng)提示詞文本、被告人劉某某和陳某某的聊天記錄等證據(jù)證實(shí)，劉某某等人之所以編寫并不斷修改系統(tǒng)提示詞，就是為了讓大語(yǔ)言模型更加順暢地與AC軟件用戶“聊黃”，主要目的不是所謂地讓AC軟件順利運(yùn)行。編寫、修改系統(tǒng)提示詞與淫穢內(nèi)容產(chǎn)生之間存在刑法意義上的因果關(guān)系。對(duì)此，偵查實(shí)驗(yàn)筆錄、證人證言，以及被告人陳某某的供述已經(jīng)證實(shí)，若不編寫，修改系統(tǒng)提示詞，大語(yǔ)言模型不會(huì)連續(xù)輸出淫穢內(nèi)容。
一審法院還認(rèn)定，本案中被告人劉某某、陳某某的行為不構(gòu)成傳播淫穢物品牟利罪，應(yīng)構(gòu)成制作淫穢物品牟利罪。記者獲悉，公安機(jī)關(guān)還追究了一名AC軟件用戶的刑事責(zé)任。該用戶創(chuàng)建角色并公開(kāi)，角色輸出過(guò)淫穢聊天內(nèi)容，還獲得平臺(tái)虛擬貨幣獎(jiǎng)勵(lì)，因此被以制作淫穢物品牟利罪取保候?qū)彙?/p>
涉黃AI軟件開(kāi)發(fā)者發(fā)聲
二審未當(dāng)庭宣判
2026年1月14日下午，該案二審在上海市第一中級(jí)人民法院開(kāi)庭。開(kāi)庭前，該案被告人劉某某的辯護(hù)律師周小羊表示，二審他將仍為被告人作無(wú)罪辯護(hù)。他認(rèn)為，用戶和AI聊天產(chǎn)生了涉黃內(nèi)容，這個(gè)責(zé)任是不是應(yīng)該由平臺(tái)來(lái)承擔(dān)，是值得討論的問(wèn)題，“因?yàn)殡[私保護(hù)的問(wèn)題，用戶與AI的聊天內(nèi)容是否需要由平臺(tái)來(lái)進(jìn)行審查?！?/p>
揚(yáng)子晚報(bào)/紫牛新聞?dòng)浾咦⒁獾?，一審判決書中的偵查實(shí)驗(yàn)筆錄，證明大語(yǔ)言模型具有道德限制。偵查人員于2024年7月至2024年8月之間，進(jìn)行了三次偵查實(shí)驗(yàn)，發(fā)現(xiàn)使用境內(nèi)，境外大語(yǔ)言模型進(jìn)行交互聊天時(shí)有限制，無(wú)法生成淫穢色情內(nèi)容。
對(duì)此，周小羊稱，此次二審他們已經(jīng)申請(qǐng)重新進(jìn)行偵查實(shí)驗(yàn)，“我覺(jué)得如果對(duì)AI軟件進(jìn)行簡(jiǎn)單測(cè)試是否涉黃，AI肯定是拒絕回答的，AI產(chǎn)生淫穢色情內(nèi)容是需要用戶進(jìn)行一系列誘導(dǎo)的?！敝苄⊙蜻€提到，編寫、修改AI軟件的系統(tǒng)提示詞是運(yùn)行AI應(yīng)用的常規(guī)工作，每天都在進(jìn)行，且編寫量非常大。“編寫、修改系統(tǒng)提示詞和用戶誘導(dǎo)AI產(chǎn)生淫穢內(nèi)容究竟有無(wú)因果關(guān)系，這是案件的主要爭(zhēng)論的焦點(diǎn)，我們也采集了技術(shù)專家的觀點(diǎn)，作為證據(jù)在二審法庭進(jìn)行提交。”
本案被告人陳某某
該案的第二被告人同時(shí)也是AC軟件的開(kāi)發(fā)團(tuán)隊(duì)成員陳某某在一審過(guò)程中，他被判有期徒刑一年六個(gè)月，目前已服刑結(jié)束。在一審判決后他提出了上訴。
陳某某在二審開(kāi)庭前接受揚(yáng)子晚報(bào)/紫牛新聞?dòng)浾邥r(shí)表示，在他的視角中AC軟件是為用戶和AI的溝通提供了一個(gè)通道，“我選擇上訴是因?yàn)椋也徽J(rèn)為自己開(kāi)發(fā)AC軟件的行為構(gòu)成制作淫穢物品牟利罪?！?/p>
記者注意到，一審法院的主要觀點(diǎn)是，系統(tǒng)提示詞文本、被告人劉某某和陳某某的聊天記錄等證據(jù)證實(shí)，劉某某等人之所以編寫并不斷修改系統(tǒng)提示詞，就是為了讓大語(yǔ)言模型更加順暢地與AC軟件用戶“聊黃”，主要目的不是所謂地讓AC軟件順利運(yùn)行。
對(duì)此陳某某回應(yīng)記者表示，他在服刑結(jié)束后重新做了實(shí)驗(yàn)，將一審法院認(rèn)定有問(wèn)題的那段提示詞刪除后，發(fā)現(xiàn)這組提示詞對(duì)AI伴侶是否輸出淫穢內(nèi)容沒(méi)有顯著的影響，“這個(gè)結(jié)論我會(huì)在這次二審開(kāi)庭的時(shí)候作為證據(jù)提交?！?/p>
本案辯護(hù)律師周小羊
14日17時(shí)許，周小羊律師告訴記者，法院未當(dāng)庭宣判，庭審中也未進(jìn)行法庭辯論環(huán)節(jié)，法院還將擇期再次開(kāi)庭。他表示，此次庭審主要進(jìn)行了檢察員訊問(wèn)、辯護(hù)人發(fā)問(wèn)，以及上訴人和辯護(hù)人發(fā)表了對(duì)一審法院認(rèn)定證據(jù)的意見(jiàn)?！敖裉鞗](méi)有進(jìn)行法庭辯論環(huán)節(jié)，此次的庭審就結(jié)束了，下次開(kāi)庭時(shí)間將另行通知?！?/p>
周小羊告訴記者，此次開(kāi)庭他當(dāng)庭向法院提請(qǐng)專家證人出庭作證，“因?yàn)锳I產(chǎn)生淫穢色情聊天內(nèi)容的原因、編寫提示詞對(duì)AI淫穢內(nèi)容的產(chǎn)生到底有多大作用，這些都是技術(shù)上的問(wèn)題。包括法庭也認(rèn)為，案件涉及到很多技術(shù)問(wèn)題，需要重新去討論，也要對(duì)專家的資質(zhì)進(jìn)行衡量。法庭表示，等到所有證據(jù)都得到充分舉證質(zhì)證、事實(shí)查清的情況下，再進(jìn)行法庭辯論環(huán)節(jié)?！?/p>
律師解讀：用戶和AI私密聊黃
開(kāi)發(fā)者為何被認(rèn)為具有社會(huì)危害性？
江蘇百聞律師事務(wù)所律師陸大偉認(rèn)為，從用戶角度看，是一個(gè)人對(duì)著一個(gè)軟件或?qū)χ鳤I在聊天，但是從服務(wù)提供者的角度看，他是給眾多的用戶提供服務(wù)，是一對(duì)多地提供服務(wù)，因?yàn)橐粚?duì)多，所以也就具有公開(kāi)性或公眾性。因此，為多數(shù)人提供存在涉黃內(nèi)容的AI陪聊服務(wù)，可以說(shuō)存在一定的社會(huì)危害性?；ヂ?lián)網(wǎng)服務(wù)提供者應(yīng)當(dāng)盡到對(duì)違法信息的屏蔽義務(wù)。
陸律師認(rèn)為，該案一審判決之所以認(rèn)定為“制作淫穢物品牟利罪”而非“傳播淫穢物品牟利罪”，法院可能也注意到，這個(gè)案件的相關(guān)淫穢內(nèi)容，是要在用戶主動(dòng)使用和操作的情況下才會(huì)產(chǎn)生，而不是像傳統(tǒng)的犯罪模式里，由平臺(tái)直接上傳到網(wǎng)站供用戶下載。因此，在這種全新的AI聊天模式中，可能難以認(rèn)定存在傳播的行為。
但是，用戶確實(shí)可以通過(guò)該軟件生成淫穢物品，而在該過(guò)程中，該軟件平臺(tái)起到了技術(shù)支持與幫助的作用。因此，可以說(shuō)，該軟件為淫穢物品的生成起到重要作用。
也有人提出疑問(wèn)，消費(fèi)者的聊天行為使得AI輸出了“涉黃”內(nèi)容，那么為什么不認(rèn)定消費(fèi)者是制作者，而是平臺(tái)開(kāi)發(fā)者獲刑責(zé)呢？
陸律師表示，消費(fèi)者，這一個(gè)詞，就已經(jīng)說(shuō)明了，他不是生產(chǎn)者，而只是一個(gè)消費(fèi)者，從經(jīng)濟(jì)學(xué)上來(lái)講，花錢購(gòu)買物品或服務(wù)的人，叫消費(fèi)者。而通過(guò)生產(chǎn)物品，或提供服務(wù)的方式來(lái)?yè)Q取貨幣的一方叫生產(chǎn)者，或服務(wù)提供者。按照這個(gè)邏輯來(lái)講，實(shí)際用戶，不能直接地作為淫穢物品制作者。除非，相關(guān)用戶將在使用過(guò)程中，將相關(guān)內(nèi)容分享出去進(jìn)行傳播。我們也注意到，該案中，確實(shí)有個(gè)別用戶被追究了刑事責(zé)任?？赡苓@些用戶的行為，已經(jīng)超出了單純地個(gè)人使用的范圍。
雖說(shuō)淫穢的聊天內(nèi)容是用戶進(jìn)行聊天過(guò)程中產(chǎn)生的，但實(shí)現(xiàn)該技術(shù)的是軟件本身。該軟件，可以產(chǎn)生涉黃的聊天對(duì)話內(nèi)容，這些對(duì)話可以認(rèn)定為淫穢物品，那么一個(gè)專門用來(lái)生成涉黃內(nèi)容的軟件本身，是否可以認(rèn)定為淫穢物品呢？陸律師認(rèn)為，從某種程度上講，這個(gè)AI聊天工具，類似于一種娛樂(lè)性質(zhì)的游戲軟件，而該游戲的內(nèi)容，也就是聊天內(nèi)容，存在一定的淫穢屬性，依據(jù)最高人民法院相關(guān)司法解釋，淫穢類的軟件，也可以認(rèn)定為淫穢物品，那么這個(gè)軟件的設(shè)計(jì)者，也就是淫穢物品的制作者了。
視頻拍攝 徐韶達(dá) 馬斌
剪輯 馬斌
揚(yáng)子晚報(bào)/紫牛新聞?dòng)浾?徐韶達(dá) 張冰晶 見(jiàn)習(xí)記者 馬斌 上海報(bào)道
校對(duì) 盛媛媛