光明網(wǎng)評(píng)論員：這條“禁令”深意何在 

【閱讀提示】中小學(xué)人工智能通識(shí)教育有了指南

光明網(wǎng)評(píng)論員：近日，教育部基礎(chǔ)教育教學(xué)指導(dǎo)委員會(huì)正式發(fā)布《中小學(xué)生成式人工智能使用指南（2025年版）》?！妒褂弥改稀诽岢觯W(xué)階段禁止學(xué)生獨(dú)自使用開(kāi)放式內(nèi)容生成功能，教師不得將生成式人工智能作為替代性教學(xué)主體。

在人工智能應(yīng)用越來(lái)越普遍的當(dāng)下，禁止小學(xué)生獨(dú)自使用開(kāi)放式內(nèi)容生成功能這樣的表述，在互聯(lián)網(wǎng)上引發(fā)熱議。開(kāi)放式內(nèi)容生成功能的使用門(mén)檻早已降低，如今許多人都在使用相關(guān)功能來(lái)提升日常工作效率，其中也包括中小學(xué)生，很多人在學(xué)習(xí)中用它來(lái)答疑解惑。

只不過(guò)，當(dāng)前開(kāi)放式內(nèi)容生成功能存在諸多問(wèn)題待解?！妒褂弥改稀返慕剐越ㄗh，不僅僅旨在防范學(xué)生因過(guò)度依賴(lài)生成式人工智能而弱化獨(dú)立思考能力，還有更深層的考量。

值得關(guān)注的現(xiàn)象是，開(kāi)放式內(nèi)容生成功能目前飽受詬病，最核心的問(wèn)題在于，人工智能所生成的內(nèi)容并非百分之百準(zhǔn)確。編撰臆造、斷章取義乃至虛構(gòu)新聞、杜撰文獻(xiàn)和法律條文等情形的出現(xiàn)，使得人們通過(guò)人工智能獲取到的結(jié)果未必都是真實(shí)的?！耙槐菊?jīng)地胡說(shuō)八道”，是許多人對(duì)當(dāng)前開(kāi)放式內(nèi)容生成功能的觀感和評(píng)價(jià)。面對(duì)人工智能提供的五花八門(mén)的生成內(nèi)容，一部分成年人固然能夠通過(guò)社會(huì)經(jīng)驗(yàn)或行業(yè)經(jīng)歷來(lái)判斷其可靠性，但小學(xué)生群體并不具備這樣的能力。因此，教育部發(fā)布政策性指南文件，有其現(xiàn)實(shí)必要性。

開(kāi)放式內(nèi)容生成功能依托的是機(jī)器學(xué)習(xí)、深度學(xué)習(xí)等人工智能算法，對(duì)于信息內(nèi)容來(lái)者不拒，這讓一部分使用者可以通過(guò)大量灌輸無(wú)意義內(nèi)容，訓(xùn)練人工智能生成難以判斷真假的信息，并“污染”其他用戶(hù)的正常使用結(jié)果。譬如，一些社會(huì)機(jī)構(gòu)開(kāi)始盯上人工智能生成工具，生成虛假文章上傳到多個(gè)網(wǎng)絡(luò)平臺(tái)，實(shí)現(xiàn)流量變現(xiàn)，以此進(jìn)行牟利。報(bào)道稱(chēng)，最高峰一天能生成4000—7000篇。上述情形所制造的大量“信息垃圾”，不僅中小學(xué)生難以辨別，許多成年人同樣招架不住，一定程度上造成了互聯(lián)網(wǎng)內(nèi)容更加魚(yú)龍混雜。盡管“AI污染”是人工智能發(fā)展初期所必須經(jīng)歷的問(wèn)題，但這也提醒我們，在人工智能適用人群足夠廣泛的當(dāng)下，保護(hù)好認(rèn)知能力尚弱的中小學(xué)生，尤為必要。

長(zhǎng)遠(yuǎn)看，《使用指南》的發(fā)布，也對(duì)開(kāi)放式生成內(nèi)容行業(yè)提出了更高要求?！痘ヂ?lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》要求，智能對(duì)話(huà)、智能寫(xiě)作等模擬自然人進(jìn)行文本的生成或者編輯服務(wù)，可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)，向公眾提示深度合成情況。如何讓生成式人工智能更具信息辨識(shí)能力，如何讓開(kāi)放式內(nèi)容生成功能盡快走出“AI污染”的發(fā)展階段，需要包括研發(fā)主體、使用主體在內(nèi)的全社會(huì)一道，共同發(fā)力解決。