如今，生成式AI廣泛應(yīng)用，迭代迅速，給生活帶來了不小的改變。技術(shù)普及大幅降低了生成式AI的使用門檻，從AI視頻生成到AI聊天陪伴，豐富大眾生活的同時，個別商家也以此為牟利工具，背棄技術(shù)倫理與法律底線，借生成式AI大模型，行違法“造黃”之舉，污染網(wǎng)絡(luò)空間、敗壞社會風(fēng)氣。

AI的可定制性讓其高度擬人化，通過投喂數(shù)據(jù)，用戶可以將AI虛擬陪伴軟件中的智能體，打造成自己心目中最理想的情感投射對象，因此，與AI“談情說愛”正被越來越多年輕人嘗試和喜愛。

但業(yè)內(nèi)人士介紹，這些軟件大多是境外AI聊天軟件，它們普遍尺度很大，充斥著色情內(nèi)容。這些AI軟件并不能從國內(nèi)應(yīng)用市場上下載，一些不法分子從中窺見了商機(jī)，他們開發(fā)出各種各樣的灰色通道，繞過監(jiān)管，讓國內(nèi)的用戶可以下載并使用境外這些大尺度的涉黃AI聊天軟件，而且以此牟利。

總臺《財經(jīng)調(diào)查》記者在某社交媒體平臺上搜索“AI語聊”，在搜索結(jié)果中看到，大量以“可開車、臉紅心跳、開放、無限制詞”等為關(guān)鍵詞的帖子。點開帖子，記者在評論區(qū)中隨處可見用戶發(fā)送各種無限制詞的AI聊天軟件使用分享，以及軟件的下載鏈接和邀請碼。

戀愛的感覺、及時的回復(fù)、量身定制的人設(shè)，吸引著眾多年輕人沉浸其中，更不乏未成年人。