規(guī)范管理確保人工智能安全向善

    ■教育積極應(yīng)對人工智能挑戰(zhàn)系列評論之四

人工智能技術(shù)正在深刻改變?nèi)祟惿鐣?、改變世界，并使得教育教學(xué)更加個性化、高效化和智能化，為我國數(shù)字教育變革注入新活力新動能。同時，人工智能技術(shù)帶來的錯用、濫用等新問題也已經(jīng)引起教育戰(zhàn)線乃至全社會廣泛關(guān)注、討論甚至擔(dān)憂。對此，迫切需要從思想觀念、技術(shù)建設(shè)、制度機制和研究實踐等方面著手，加強人工智能教育應(yīng)用規(guī)范管理，確保數(shù)字教育高質(zhì)量發(fā)展方向。

樹立正確的人工智能發(fā)展觀，正視人工智能的教育應(yīng)用。人工智能發(fā)展是大勢所趨，將帶來一場系統(tǒng)性的觀念變革，每個人都是“學(xué)生”，都需要學(xué)習(xí)。同時，人工智能的發(fā)展也是一把雙刃劍，正向影響和負(fù)向影響都很大。當(dāng)前在人工智能和教育應(yīng)用上還存在著重視不夠、認(rèn)知偏差以及觀望心態(tài)。思想上，對人工智能教育應(yīng)用的重要性及負(fù)面影響缺乏正確認(rèn)識，對教育數(shù)字化轉(zhuǎn)型戰(zhàn)略意義認(rèn)識不足。認(rèn)知上，存在對人工智能過高期待、過分依賴等“全能論”，對其技術(shù)的決策和推理能力盲目信任，認(rèn)為人工智能將徹底改變教育、取代教師等；還存在恐懼擔(dān)憂、不信任等“風(fēng)險論”，擔(dān)心使用人工智能技術(shù)會導(dǎo)致個人信息泄露，怕承擔(dān)責(zé)任。心態(tài)上，存在“等靠要”等觀望思想、依賴思想和畏難情緒，缺乏改革自主性、主動性和創(chuàng)新性。這都制約著人工智能教育應(yīng)用，以至于出現(xiàn)教育數(shù)字化轉(zhuǎn)型的社會熱、研究熱、上層熱、基層冷、教學(xué)冷“三熱兩冷”現(xiàn)象。

我們首先要樹立正確的人工智能發(fā)展觀，正視人工智能的“兩面性”，堅持發(fā)展與安全并重、創(chuàng)新與治理相結(jié)合，既要以積極態(tài)度和責(zé)任擔(dān)當(dāng)主動擁抱，又要做好潛在風(fēng)險研判和防范，防止錯用、濫用現(xiàn)象出現(xiàn)。

加強技術(shù)系統(tǒng)建設(shè)，確保人工智能安全向善。人工智能本質(zhì)是服務(wù)于人的工具。人工智能技術(shù)既要發(fā)展也要安全更要向善，技術(shù)帶來的問題要靠技術(shù)解決。一是提高技術(shù)安全門檻，筑牢安全屏障，防止數(shù)據(jù)隱私泄露，降低人工智能被濫用的風(fēng)險，增強教育使用人工智能技術(shù)的信任感。二是加強數(shù)據(jù)加密、權(quán)限控制、流動控制、共享控制等數(shù)據(jù)安全保護(hù)技術(shù)研發(fā)，實現(xiàn)數(shù)據(jù)從收集、存儲、處理到分析、使用等全生命周期保護(hù)，確保數(shù)據(jù)安全。三是堅持科技向善，做到為育人服務(wù)。依照有關(guān)法律法規(guī)采取必要措施，規(guī)避人工智能產(chǎn)生不當(dāng)內(nèi)容，如虛假消息、歧視性言論、侵犯個人隱私等風(fēng)險；將人工智能發(fā)展與以學(xué)習(xí)者為中心理念相結(jié)合，優(yōu)化算法，完善教育應(yīng)用模型架構(gòu)，使人工智能教育應(yīng)用符合教育規(guī)律。四是加強技術(shù)研發(fā)和創(chuàng)新，提升人工智能算法透明度及其產(chǎn)品安全性和穩(wěn)定性，確保意識形態(tài)等安全，營造可信任的人工智能發(fā)展技術(shù)環(huán)境。

建設(shè)人工智能教育應(yīng)用機制，確保其健康長效發(fā)展。建立健全保障人工智能健康發(fā)展的法律法規(guī)、制度體系、倫理道德。人工智能教育應(yīng)用是一項復(fù)雜持久的系統(tǒng)工程，目前正在拉開帷幕，需要從制度機制層面加強規(guī)范管理，實現(xiàn)健康有序持久發(fā)展。一是建立人工智能教育應(yīng)用集決策、管理、實施和督導(dǎo)等于一體的有效機制，明確誰來管、管什么、怎么管，誰來干、干什么、怎么干，誰來督、督什么、怎么督，推動其健康發(fā)展和防止錯用、濫用等問題。二是以符合倫理要求的方式，建立人工智能教育應(yīng)用的政策框架，規(guī)范關(guān)鍵步驟，避免可能出現(xiàn)的錯用、濫用問題，如意識形態(tài)風(fēng)險、個人隱私安全、“數(shù)字繭房”，以及過度沉迷依賴、教育數(shù)字鴻溝等。三是從學(xué)生的根本利益出發(fā)，做好人工智能教育應(yīng)用的宣傳、指導(dǎo)和培訓(xùn)，讓想干、敢干、能干的人干得更好，讓觀望的人行動起來，讓擔(dān)憂的人放心干，形成公眾參與、齊抓共管、協(xié)同創(chuàng)新的人工智能育人新生態(tài)。

加強研究，做到未雨綢繆、積極應(yīng)對和規(guī)范管理。人工智能教育應(yīng)用是一個新生事物，將會出現(xiàn)許多未知新問題，人工智能應(yīng)用教育往哪里走、怎么走、走到什么程度等都是嶄新課題，亟須加強研究。由于人工智能技術(shù)涉及計算機科學(xué)、語言學(xué)、心理學(xué)等諸多學(xué)科，需要多領(lǐng)域研究者共同合作。一是按照“實踐優(yōu)于理論”原則，開展人工智能教育應(yīng)用的比較研究、實驗研究、理論研究，及時總結(jié)典型經(jīng)驗、實踐案例以及策略路徑，推動人工智能教育應(yīng)用研究向理論與實踐雙輪驅(qū)動轉(zhuǎn)變，逐步形成中國自己的數(shù)字教育倫理規(guī)范體系，為世界人工智能教育及研究貢獻(xiàn)中國智慧。二是聚焦人工智能教育應(yīng)用的重大命題開展研究，如人工智能數(shù)據(jù)安全、交易、保障，數(shù)字規(guī)制與數(shù)字能力之間的平衡，進(jìn)學(xué)校、進(jìn)課堂疏堵結(jié)合等，這些都是人工智能教育應(yīng)用亟待研究解決的重大命題。三是探索人工智能育人新規(guī)律。當(dāng)前，人工智能對教育的正向和負(fù)向影響尚處在萌芽狀態(tài)，產(chǎn)生的教育新現(xiàn)象、新問題尚未顯現(xiàn)，引發(fā)的教育新規(guī)律尚待揭示，需從數(shù)字教育學(xué)的視角進(jìn)行理論研究和實踐突破，對過程中發(fā)現(xiàn)的新問題進(jìn)行及時優(yōu)化、糾偏。

（作者系教育部課程教材研究所研究員）

《中國教育報》2023年10月13日第2版