規(guī)范管理確保人工智能安全向善

    ■教育積極應(yīng)對(duì)人工智能挑戰(zhàn)系列評(píng)論之四

人工智能技術(shù)正在深刻改變?nèi)祟惿鐣?huì)生活、改變世界，并使得教育教學(xué)更加個(gè)性化、高效化和智能化，為我國(guó)數(shù)字教育變革注入新活力新動(dòng)能。同時(shí)，人工智能技術(shù)帶來(lái)的錯(cuò)用、濫用等新問(wèn)題也已經(jīng)引起教育戰(zhàn)線乃至全社會(huì)廣泛關(guān)注、討論甚至擔(dān)憂。對(duì)此，迫切需要從思想觀念、技術(shù)建設(shè)、制度機(jī)制和研究實(shí)踐等方面著手，加強(qiáng)人工智能教育應(yīng)用規(guī)范管理，確保數(shù)字教育高質(zhì)量發(fā)展方向。

樹(shù)立正確的人工智能發(fā)展觀，正視人工智能的教育應(yīng)用。人工智能發(fā)展是大勢(shì)所趨，將帶來(lái)一場(chǎng)系統(tǒng)性的觀念變革，每個(gè)人都是“學(xué)生”，都需要學(xué)習(xí)。同時(shí)，人工智能的發(fā)展也是一把雙刃劍，正向影響和負(fù)向影響都很大。當(dāng)前在人工智能和教育應(yīng)用上還存在著重視不夠、認(rèn)知偏差以及觀望心態(tài)。思想上，對(duì)人工智能教育應(yīng)用的重要性及負(fù)面影響缺乏正確認(rèn)識(shí)，對(duì)教育數(shù)字化轉(zhuǎn)型戰(zhàn)略意義認(rèn)識(shí)不足。認(rèn)知上，存在對(duì)人工智能過(guò)高期待、過(guò)分依賴等“全能論”，對(duì)其技術(shù)的決策和推理能力盲目信任，認(rèn)為人工智能將徹底改變教育、取代教師等；還存在恐懼擔(dān)憂、不信任等“風(fēng)險(xiǎn)論”，擔(dān)心使用人工智能技術(shù)會(huì)導(dǎo)致個(gè)人信息泄露，怕承擔(dān)責(zé)任。心態(tài)上，存在“等靠要”等觀望思想、依賴思想和畏難情緒，缺乏改革自主性、主動(dòng)性和創(chuàng)新性。這都制約著人工智能教育應(yīng)用，以至于出現(xiàn)教育數(shù)字化轉(zhuǎn)型的社會(huì)熱、研究熱、上層熱、基層冷、教學(xué)冷“三熱兩冷”現(xiàn)象。

我們首先要樹(shù)立正確的人工智能發(fā)展觀，正視人工智能的“兩面性”，堅(jiān)持發(fā)展與安全并重、創(chuàng)新與治理相結(jié)合，既要以積極態(tài)度和責(zé)任擔(dān)當(dāng)主動(dòng)擁抱，又要做好潛在風(fēng)險(xiǎn)研判和防范，防止錯(cuò)用、濫用現(xiàn)象出現(xiàn)。

加強(qiáng)技術(shù)系統(tǒng)建設(shè)，確保人工智能安全向善。人工智能本質(zhì)是服務(wù)于人的工具。人工智能技術(shù)既要發(fā)展也要安全更要向善，技術(shù)帶來(lái)的問(wèn)題要靠技術(shù)解決。一是提高技術(shù)安全門(mén)檻，筑牢安全屏障，防止數(shù)據(jù)隱私泄露，降低人工智能被濫用的風(fēng)險(xiǎn)，增強(qiáng)教育使用人工智能技術(shù)的信任感。二是加強(qiáng)數(shù)據(jù)加密、權(quán)限控制、流動(dòng)控制、共享控制等數(shù)據(jù)安全保護(hù)技術(shù)研發(fā)，實(shí)現(xiàn)數(shù)據(jù)從收集、存儲(chǔ)、處理到分析、使用等全生命周期保護(hù)，確保數(shù)據(jù)安全。三是堅(jiān)持科技向善，做到為育人服務(wù)。依照有關(guān)法律法規(guī)采取必要措施，規(guī)避人工智能產(chǎn)生不當(dāng)內(nèi)容，如虛假消息、歧視性言論、侵犯?jìng)€(gè)人隱私等風(fēng)險(xiǎn)；將人工智能發(fā)展與以學(xué)習(xí)者為中心理念相結(jié)合，優(yōu)化算法，完善教育應(yīng)用模型架構(gòu)，使人工智能教育應(yīng)用符合教育規(guī)律。四是加強(qiáng)技術(shù)研發(fā)和創(chuàng)新，提升人工智能算法透明度及其產(chǎn)品安全性和穩(wěn)定性，確保意識(shí)形態(tài)等安全，營(yíng)造可信任的人工智能發(fā)展技術(shù)環(huán)境。

建設(shè)人工智能教育應(yīng)用機(jī)制，確保其健康長(zhǎng)效發(fā)展。建立健全保障人工智能健康發(fā)展的法律法規(guī)、制度體系、倫理道德。人工智能教育應(yīng)用是一項(xiàng)復(fù)雜持久的系統(tǒng)工程，目前正在拉開(kāi)帷幕，需要從制度機(jī)制層面加強(qiáng)規(guī)范管理，實(shí)現(xiàn)健康有序持久發(fā)展。一是建立人工智能教育應(yīng)用集決策、管理、實(shí)施和督導(dǎo)等于一體的有效機(jī)制，明確誰(shuí)來(lái)管、管什么、怎么管，誰(shuí)來(lái)干、干什么、怎么干，誰(shuí)來(lái)督、督什么、怎么督，推動(dòng)其健康發(fā)展和防止錯(cuò)用、濫用等問(wèn)題。二是以符合倫理要求的方式，建立人工智能教育應(yīng)用的政策框架，規(guī)范關(guān)鍵步驟，避免可能出現(xiàn)的錯(cuò)用、濫用問(wèn)題，如意識(shí)形態(tài)風(fēng)險(xiǎn)、個(gè)人隱私安全、“數(shù)字繭房”，以及過(guò)度沉迷依賴、教育數(shù)字鴻溝等。三是從學(xué)生的根本利益出發(fā)，做好人工智能教育應(yīng)用的宣傳、指導(dǎo)和培訓(xùn)，讓想干、敢干、能干的人干得更好，讓觀望的人行動(dòng)起來(lái)，讓擔(dān)憂的人放心干，形成公眾參與、齊抓共管、協(xié)同創(chuàng)新的人工智能育人新生態(tài)。

加強(qiáng)研究，做到未雨綢繆、積極應(yīng)對(duì)和規(guī)范管理。人工智能教育應(yīng)用是一個(gè)新生事物，將會(huì)出現(xiàn)許多未知新問(wèn)題，人工智能應(yīng)用教育往哪里走、怎么走、走到什么程度等都是嶄新課題，亟須加強(qiáng)研究。由于人工智能技術(shù)涉及計(jì)算機(jī)科學(xué)、語(yǔ)言學(xué)、心理學(xué)等諸多學(xué)科，需要多領(lǐng)域研究者共同合作。一是按照“實(shí)踐優(yōu)于理論”原則，開(kāi)展人工智能教育應(yīng)用的比較研究、實(shí)驗(yàn)研究、理論研究，及時(shí)總結(jié)典型經(jīng)驗(yàn)、實(shí)踐案例以及策略路徑，推動(dòng)人工智能教育應(yīng)用研究向理論與實(shí)踐雙輪驅(qū)動(dòng)轉(zhuǎn)變，逐步形成中國(guó)自己的數(shù)字教育倫理規(guī)范體系，為世界人工智能教育及研究貢獻(xiàn)中國(guó)智慧。二是聚焦人工智能教育應(yīng)用的重大命題開(kāi)展研究，如人工智能數(shù)據(jù)安全、交易、保障，數(shù)字規(guī)制與數(shù)字能力之間的平衡，進(jìn)學(xué)校、進(jìn)課堂疏堵結(jié)合等，這些都是人工智能教育應(yīng)用亟待研究解決的重大命題。三是探索人工智能育人新規(guī)律。當(dāng)前，人工智能對(duì)教育的正向和負(fù)向影響尚處在萌芽狀態(tài)，產(chǎn)生的教育新現(xiàn)象、新問(wèn)題尚未顯現(xiàn)，引發(fā)的教育新規(guī)律尚待揭示，需從數(shù)字教育學(xué)的視角進(jìn)行理論研究和實(shí)踐突破，對(duì)過(guò)程中發(fā)現(xiàn)的新問(wèn)題進(jìn)行及時(shí)優(yōu)化、糾偏。

（作者系教育部課程教材研究所研究員）

《中國(guó)教育報(bào)》2023年10月13日第2版