據(jù)8月17日央視新聞報(bào)道，隨著人工智能技術(shù)的快速發(fā)展，AI應(yīng)用已深入滲透到社會(huì)生活的各個(gè)領(lǐng)域。從智能客服到內(nèi)容創(chuàng)作，從醫(yī)療輔助到金融分析，AI正在重塑我們的信息獲取方式和決策模式。然而，近期頻頻出現(xiàn)的AI“信口開(kāi)河”現(xiàn)象，卻給這項(xiàng)技術(shù)的健康發(fā)展蒙上了一層陰影。當(dāng)AI開(kāi)始“一本正經(jīng)地胡說(shuō)八道”時(shí)，我們不得不正視其背后潛藏的技術(shù)倫理危機(jī)。

AI“信口開(kāi)河”的表現(xiàn)形式多種多樣，但歸納起來(lái)主要有三類(lèi)典型特征。一是時(shí)空錯(cuò)亂，如將相隔數(shù)月的事件強(qiáng)行建立因果關(guān)系；二是價(jià)值觀偏差，如在涉及歷史文化的問(wèn)題上表現(xiàn)出明顯的錯(cuò)誤傾向；三是無(wú)中生有，包括編造學(xué)術(shù)文獻(xiàn)、虛構(gòu)新聞事件等。這不僅暴露了當(dāng)前AI技術(shù)的局限性，更反映出我們?cè)诩夹g(shù)倫理建設(shè)上的滯后。

深入分析AI“信口開(kāi)河”的成因，需要從技術(shù)、數(shù)據(jù)和監(jiān)管三個(gè)維度進(jìn)行考量。技術(shù)層面，當(dāng)前主流的大語(yǔ)言模型的工作原理是更擅長(zhǎng)“模仿”而非“理解”，這從根源上導(dǎo)致“說(shuō)謊不臉紅”。數(shù)據(jù)層面，訓(xùn)練數(shù)據(jù)的質(zhì)量直接影響AI的輸出質(zhì)量，而現(xiàn)實(shí)中存在的數(shù)據(jù)污染、文化偏見(jiàn)等問(wèn)題已經(jīng)影響了AI的輸出內(nèi)容，有報(bào)道顯示，0.001％的虛假文本可以產(chǎn)出7.2％有害信息。監(jiān)管層面，行業(yè)標(biāo)準(zhǔn)的缺失和倫理審查的不足，使得一些存在明顯缺陷的AI產(chǎn)品得以流入市場(chǎng)。

AI“信口開(kāi)河”的危害不容小覷。在信息傳播方面，AI生成的錯(cuò)誤內(nèi)容可能導(dǎo)致謠言蔓延；在文化認(rèn)知方面，帶有偏見(jiàn)的輸出可能影響用戶(hù)的價(jià)值判斷，如有智能手表告訴兒童“中國(guó)人不聰明”等；在社會(huì)治理方面，虛假信息的泛濫可能擾亂公共秩序或公共決策。更值得警惕的是，這些風(fēng)險(xiǎn)往往具有累積性和隱蔽性，其負(fù)面影響可能在長(zhǎng)期使用中逐漸顯現(xiàn)。

解決這一問(wèn)題，需要構(gòu)建全方位的治理體系。首先，技術(shù)研發(fā)者應(yīng)當(dāng)建立更嚴(yán)格的數(shù)據(jù)清洗機(jī)制，引入事實(shí)核查模塊，完善模型的糾錯(cuò)能力。其次，監(jiān)管部門(mén)需要加快制定AI內(nèi)容治理規(guī)范，建立分級(jí)分類(lèi)的監(jiān)管框架。再次，行業(yè)組織應(yīng)當(dāng)推動(dòng)建立統(tǒng)一的倫理準(zhǔn)則和技術(shù)標(biāo)準(zhǔn)。

值得欣慰的是，這些問(wèn)題已經(jīng)引起各方重視。近期，國(guó)家網(wǎng)信辦等七部門(mén)聯(lián)合公布的《生成式人工智能服務(wù)管理暫行辦法》，明確要求提供者應(yīng)當(dāng)對(duì)生成內(nèi)容進(jìn)行標(biāo)識(shí)，并對(duì)其真實(shí)性負(fù)責(zé)。

技術(shù)發(fā)展總是伴隨著新的挑戰(zhàn)，解決問(wèn)題的關(guān)鍵不在于否定技術(shù)，而在于完善治理。只有當(dāng)技術(shù)創(chuàng)新與倫理建設(shè)同步推進(jìn)時(shí)，AI才能真正成為造福人類(lèi)的工具。這需要技術(shù)開(kāi)發(fā)者保持敬畏之心，監(jiān)管部門(mén)把好安全之關(guān)，普通用戶(hù)擦亮辨別之眼，共同構(gòu)建健康可持續(xù)的AI發(fā)展生態(tài)——技術(shù)向善，方得始終；倫理先行，方能致遠(yuǎn)。