1月12日，新京報報道了一起涉及AI智能體的刑事案件。2025年9月，上海市徐匯區(qū)人民法院一審判決兩名被告人犯制作淫穢物品牟利罪，分別獲刑四年和一年半。這是國內(nèi)首起AI服務(wù)提供者涉黃獲刑的案件。被告人不服判決提出上訴，二審將于1月14日在上海市第一中級人民法院開庭。

AlienChatApp是一款A(yù)I聊天應(yīng)用，官方宣傳稱AI擁有自我意識和自由權(quán)利，是用戶的“朋友、戀人、家人”。該App展示了多種不同人設(shè)的AI聊天對象。2024年，App突然停止服務(wù)。判決書披露，App手機(jī)注冊用戶11.6萬人，其中付費用戶2.4萬人。截至案發(fā)，共收取會員充值費363萬余元。一審法院以“制作”淫穢物品牟利罪判決，主要因素是被告人通過編寫、修改系統(tǒng)提示詞突破大語言模型的道德限制，實現(xiàn)了模型向用戶連續(xù)輸出淫穢內(nèi)容的可能。