這條呵護(hù)小學(xué)生的“禁令”有深意
近日，教育部基礎(chǔ)教育教學(xué)指導(dǎo)委員會(huì)正式發(fā)布《中小學(xué)生成式人工智能使用指南（2025年版）》（以下簡稱《使用指南》）。《使用指南》提出，小學(xué)階段禁止學(xué)生獨(dú)自使用開放式內(nèi)容生成功能，教師不得將生成式人工智能作為替代性教學(xué)主體。
在人工智能應(yīng)用越來越普及的當(dāng)下，“禁止小學(xué)生獨(dú)自使用開放式內(nèi)容生成功能”，這一要求在互聯(lián)網(wǎng)上引發(fā)熱議。開放式內(nèi)容生成功能的使用門檻早已降低，如今許多人都在使用相關(guān)功能來提升日常工作效率，不少學(xué)生也在學(xué)習(xí)中用它來答疑解惑。
只不過，當(dāng)前開放式內(nèi)容生成功能存在諸多問題待解。《使用指南》的禁止性建議，不僅旨在防范學(xué)生因過度依賴生成式人工智能而弱化獨(dú)立思考能力，還有更深層的考量。“禁止小學(xué)生獨(dú)自使用”的表述，表明了《使用指南》的相關(guān)建議并非只是為了防止學(xué)生投機(jī)取巧完成作業(yè)。
值得關(guān)注的現(xiàn)象是，當(dāng)前開放式內(nèi)容生成功能尚不完善，最核心的問題在于，人工智能所生成的內(nèi)容并非完全準(zhǔn)確。胡編亂造、斷章取義乃至虛構(gòu)新聞、杜撰文獻(xiàn)和法律條文等情形的出現(xiàn)，使得人們通過人工智能獲取到的結(jié)果未必都是真實(shí)的。“一本正經(jīng)地胡說八道”，是許多人對(duì)當(dāng)前開放式內(nèi)容生成功能的觀感和評(píng)價(jià)。面對(duì)人工智能提供的五花八門的生成內(nèi)容，一部分成年人尚可以通過社會(huì)經(jīng)驗(yàn)或行業(yè)經(jīng)歷來判斷其可靠性，但小學(xué)生群體顯然不具備這樣的能力。因此，教育部發(fā)布政策性指南文件，有其現(xiàn)實(shí)必要性。
開放式內(nèi)容生成功能依托的是機(jī)器學(xué)習(xí)、深度學(xué)習(xí)等人工智能算法，對(duì)于信息內(nèi)容來者不拒，這讓一部分使用者可以通過大量灌輸無意義內(nèi)容，訓(xùn)練人工智能生成難以判斷真假的信息，并“污染”其他用戶的正常使用結(jié)果。譬如，一些社會(huì)機(jī)構(gòu)開始盯上人工智能生成工具，生成虛假文章上傳到多個(gè)網(wǎng)絡(luò)平臺(tái)，實(shí)現(xiàn)流量變現(xiàn)，以此進(jìn)行牟利。2024年，江西南昌警方查處的一起利用人工智能技術(shù)批量造謠案件，某MCN機(jī)構(gòu)（網(wǎng)絡(luò)信息內(nèi)容多渠道分發(fā)服務(wù)機(jī)構(gòu)）最高峰時(shí)單日能生成4000至7000篇虛假文章，并通過800多個(gè)自媒體賬號(hào)分發(fā)。上述情形所制造的大量信息垃圾，不僅中小學(xué)生難以辨別，許多成年人同樣招架不住，一定程度上造成了互聯(lián)網(wǎng)內(nèi)容更加魚龍混雜。盡管“AI污染”是人工智能發(fā)展初期所必須經(jīng)歷的問題，但這也提醒我們，在人工智能適用人群足夠廣泛的當(dāng)下，保護(hù)好認(rèn)知能力較弱的小學(xué)生尤為必要。
長遠(yuǎn)看，《使用指南》的發(fā)布也對(duì)開放式生成內(nèi)容行業(yè)提出了更高要求。《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》要求，智能對(duì)話、智能寫作等模擬自然人進(jìn)行文本的生成或者編輯服務(wù)，可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)，向公眾提示深度合成情況。如何讓生成式人工智能更具信息辨識(shí)能力，如何讓開放式內(nèi)容生成功能盡快走出“AI污染”發(fā)展階段，需要包括研發(fā)主體、使用主體在內(nèi)的全社會(huì)一道共同努力解決。
（作者：陳 城）
來源：人民網(wǎng)
來源：人民網(wǎng)
新聞排行
- 華南農(nóng)業(yè)大學(xué)團(tuán)隊(duì)利用智慧育種方式，將育種周期壓縮至3到5年 AI助推育種成為“可計(jì)算的科學(xué)”
- 截至2024年，全國共有各級(jí)各類學(xué)校47萬所
- 走進(jìn)科技前沿，提升思政教育引領(lǐng)力
- 從“知識(shí)灌輸”轉(zhuǎn)向“素養(yǎng)培育” 高考試題變了，高中教學(xué)怎樣改
- 教育部：擬同意設(shè)置北京科技職業(yè)大學(xué)等14所學(xué)校
- “百日千萬招聘專項(xiàng)行動(dòng)”啟動(dòng)
- 白澤湖中學(xué)申報(bào)省示范高中工作順利通過市級(jí)預(yù)評(píng)
- 宜秀區(qū)運(yùn)動(dòng)員在2024年安徽省青少年武術(shù)套路錦標(biāo)賽中取得佳績
新聞排行
- 大學(xué)校訓(xùn)中的“關(guān)鍵詞”：揭秘名校背后的故事
- 教育家精神2024年巡回宣講活動(dòng)啟動(dòng)
- 區(qū)紀(jì)委副書記黃繼紅深入白澤湖中學(xué)看望慰問教師
- 搭建大平臺(tái)，辦好思政課
- 《龍山鳳水》文化叢書編寫組人員尋找方守彝墓
- 完善協(xié)同育人機(jī)制 培養(yǎng)拔尖創(chuàng)新人才
- 發(fā)揮好高等教育龍頭作用 ——訪中國科學(xué)院院士、南京大學(xué)黨委書記譚鐵牛委員
- 教育部部署開展全國中小學(xué)生安全教育周活動(dòng)
- 2017中國城市大學(xué)競爭力排行榜 北京上海武漢位居前三
- 白澤湖中學(xué)2015屆高考喜報(bào)
主辦：宜秀區(qū)委宣傳部 地址：安慶市北部新城 技術(shù)支持與維護(hù)：宣傳部 楊瑞勤 皖I(lǐng)CP備10015187號(hào)
互聯(lián)網(wǎng)新聞信息服務(wù)許可證：34120240007
網(wǎng)絡(luò)內(nèi)容從業(yè)人員違法違規(guī)行為專用舉報(bào)渠道舉報(bào)電話：0556-5939076 舉報(bào)郵箱：aqyxzx@163.com 違法和不良信息舉報(bào)中心
網(wǎng)絡(luò)內(nèi)容從業(yè)人員違法違規(guī)行為專用舉報(bào)渠道舉報(bào)電話：0556-5939076 舉報(bào)郵箱：aqyxzx@163.com 違法和不良信息舉報(bào)中心
