近期，上海網(wǎng)信部門依法約談筑夢島App運營企業(yè)主要負(fù)責(zé)人，要求平臺立即整改，健全人工智能（AI）生成合成內(nèi)容審核機(jī)制，提升技術(shù)把關(guān)能力，加強(qiáng)涉未成年人不良內(nèi)容的整治清理，切實落實未成年人網(wǎng)絡(luò)保護(hù)義務(wù)。企業(yè)負(fù)責(zé)人表示，將按照約談要求，對照問題舉一反三、全面整改。

當(dāng)前，在特定環(huán)境中能夠自主感知、思考、行動的AI智能體（AI Agent）正在加速進(jìn)入企業(yè)和個人應(yīng)用場景。其中，直擊人們情感需求的“AI伴侶”智能體產(chǎn)品以即時陪伴、擬人應(yīng)答、場景化預(yù)設(shè)等為賣點，一度備受熱捧。

然而，AI智能體在走進(jìn)人們生活的同時，涉黃、不雅、“擦邊”等涉未成年人保護(hù)問題頻頻亮起紅燈。

有相關(guān)平臺的用戶坦言，只要不斷訓(xùn)練、引導(dǎo)，就能打造一個愿意“擦邊”的虛擬戀人。其原理，一方面在于用戶可以自行選擇AI扮演的虛擬角色和故事演繹：由于這些智能體能夠做到“短暫記憶”，用戶可以獲得沉浸式親密體驗，訓(xùn)練出專屬“伴侶”。另一方面來自平臺的“擦邊營銷策略”：一些智能體依賴身材夸張的二次元形象、具有挑逗性的回應(yīng)等曖昧設(shè)定吸引用戶，逐步使用戶沉溺其中。

對于身心尚未發(fā)育完全的未成年人，沉溺AI“擦邊”和涉黃內(nèi)容，可能會增強(qiáng)現(xiàn)實中的模仿行為。過度沉迷AI智能體提供的所謂“情緒價值”，還可能導(dǎo)致未成年人社交疏離，減少真實人際互動，加劇孤獨感，甚至模糊現(xiàn)實與虛擬的邊界。其中危害不言而喻。

未成年人保護(hù)無小事。由于人機(jī)聊天內(nèi)容本身具有私域化特征，當(dāng)中出現(xiàn)涉黃、“擦邊”內(nèi)容具有隱蔽性。主打“AI伴侶”的平臺作為第一責(zé)任方，應(yīng)切實擔(dān)起保護(hù)未成年人的責(zé)任，尤其需守好“三關(guān)”。

首先，是法律倫理關(guān)。當(dāng)前主流AI大模型雖設(shè)置了內(nèi)容過濾機(jī)制，攔截違法內(nèi)容，但也有不法分子利用部分開源模型，調(diào)整提示詞，繞過關(guān)鍵詞屏蔽，誘導(dǎo)模型生成“擦邊”內(nèi)容。平臺應(yīng)進(jìn)一步健全內(nèi)容審核機(jī)制，切勿為了短期商業(yè)利益，以增強(qiáng)所謂用戶體驗和黏性為目的，以“擦邊”為賣點，利用人性“軟肋”，突破法律倫理底線。

其次，是技術(shù)保護(hù)關(guān)。應(yīng)進(jìn)一步加強(qiáng)對涉“AI伴侶”平臺未成年人保護(hù)技術(shù)體系建設(shè)。例如，做到“身份證+人臉識別”等多因子安全認(rèn)證，啟用未成年人保護(hù)模式。同時，完善防沉迷系統(tǒng)，對大額充值、頻繁充值等異常行為人員建立回訪機(jī)制，對充值者進(jìn)行二次身份確認(rèn)。

第三，是行業(yè)發(fā)展關(guān)。當(dāng)前，越來越多的行業(yè)都在更加關(guān)注AI智能體在產(chǎn)業(yè)上的應(yīng)用。賽道的拓展，要與產(chǎn)業(yè)發(fā)展更貼近。在同具體應(yīng)用場景的結(jié)合中，AI智能體要從用戶指令的被動執(zhí)行者，變?yōu)橹鲃訋椭脩籼嵘ぷ餍实闹?。通過AI智能體的幫助，使人們從重復(fù)性、事務(wù)性的工作中解脫出來，專注于更具創(chuàng)造性的工作，增強(qiáng)產(chǎn)業(yè)發(fā)展的核心競爭力。

（本報評論員吳振東 蘭天鳴）