1月12日,新京報報道了一起涉及AI智能體的刑事案件。2025年9月,上海市徐匯區(qū)人民法院一審判決兩名被告人犯制作淫穢物品牟利罪,分別獲刑四年和一年半。這是國內(nèi)首起AI服務(wù)提供者涉黃獲刑的案件。被告人不服判決提出上訴,二審將于1月14日在上海市第一中級人民法院開庭。
AlienChatApp是一款A(yù)I聊天應(yīng)用,官方宣傳稱AI擁有自我意識和自由權(quán)利,是用戶的“朋友、戀人、家人”。該App展示了多種不同人設(shè)的AI聊天對象。2024年,App突然停止服務(wù)。判決書披露,App手機(jī)注冊用戶11.6萬人,其中付費用戶2.4萬人。截至案發(fā),共收取會員充值費363萬余元。一審法院以“制作”淫穢物品牟利罪判決,主要因素是被告人通過編寫、修改系統(tǒng)提示詞突破大語言模型的道德限制,實現(xiàn)了模型向用戶連續(xù)輸出淫穢內(nèi)容的可能。



來源:一電快訊
返回第一電動網(wǎng)首頁 >
以上內(nèi)容由AI創(chuàng)作,如有問題請聯(lián)系admin#d1ev.com(#替換成@)溝通,AI創(chuàng)作內(nèi)容并不代表第一電動網(wǎng)(www.cslysp.cn)立場。
文中圖片源自互聯(lián)網(wǎng)或AI創(chuàng)作,如有侵權(quán)請聯(lián)系郵件刪除。