黃蓓蓓 宋子昀 錢小龍

摘要：在生成式人工智能迅猛發(fā)展的背景下，認(rèn)識(shí)、防范和化解生成式人工智能給高等教育生態(tài)系統(tǒng)帶來的教育風(fēng)險(xiǎn)迫在眉睫。對(duì)此，文章首先剖析了生成式人工智能融入高等教育生態(tài)系統(tǒng)的風(fēng)險(xiǎn)表征，主要表現(xiàn)為師生主權(quán)消解、知識(shí)內(nèi)容扭曲、安全包容破壞和人才培養(yǎng)異化。隨后，文章構(gòu)建了由風(fēng)險(xiǎn)預(yù)警主體、風(fēng)險(xiǎn)預(yù)警內(nèi)容、風(fēng)險(xiǎn)預(yù)警保障、風(fēng)險(xiǎn)預(yù)警流程四個(gè)模塊組成的生成式人工智能融入高等教育生態(tài)系統(tǒng)的風(fēng)險(xiǎn)預(yù)警機(jī)制。最后，文章提出從激發(fā)主體意識(shí)、鑒別知識(shí)內(nèi)容、優(yōu)化數(shù)字環(huán)境、培養(yǎng)創(chuàng)新人才等方面入手，來化解生成式人工智能融入高等教育生態(tài)系統(tǒng)的風(fēng)險(xiǎn)。文章的研究可為生成式人工智能教育風(fēng)險(xiǎn)治理提供理論指導(dǎo)，并推動(dòng)生成式人工智能在高等教育中的安全應(yīng)用，從而為高等教育數(shù)字化轉(zhuǎn)型和高質(zhì)量發(fā)展保駕護(hù)航。

關(guān)鍵詞：生成式人工智能；ChatGPT；高等教育生態(tài)系統(tǒng)；教育風(fēng)險(xiǎn)；風(fēng)險(xiǎn)預(yù)警

【中圖分類號(hào)】G40-057 【文獻(xiàn)標(biāo)識(shí)碼】A 【論文編號(hào)】1009—8097（2024）05—0016—11 【DOI】10.3969/j.issn.1009-8097.2024.05.002

生成式人工智能（Generative Artificial Intelligence，GAI）的蓬勃發(fā)展，促進(jìn)了互聯(lián)網(wǎng)時(shí)代知識(shí)生產(chǎn)模式的變革，也為教育創(chuàng)新與變革增添了新動(dòng)力。生成式人工智能是一種人工智能技術(shù)，其利用深度學(xué)習(xí)模型生成類似人類的內(nèi)容，以響應(yīng)復(fù)雜多樣的提示^[1]。ChatGPT、Google Bard、文心一言、通義千問等，都屬于典型的生成式人工智能工具。以ChatGPT為代表的生成式人工智能粗暴、直接地融入教育生態(tài)系統(tǒng)中，引發(fā)了系統(tǒng)中不同要素間的“連鎖性反應(yīng)”^[2]，而高等教育生態(tài)系統(tǒng)更是首當(dāng)其沖，技術(shù)融入所導(dǎo)致的教育風(fēng)險(xiǎn)已開始涌現(xiàn)。例如，《大西洋月刊》刊發(fā)的一篇文章直接用“大學(xué)論文已不復(fù)存在”作為標(biāo)題^[3]，來表達(dá)對(duì)大學(xué)生課程論文作弊的擔(dān)憂。此外，ChatGPT會(huì)生成偽造的參考文獻(xiàn)^[4]、捏造的歷史事實(shí)等^[5]，容易誤導(dǎo)學(xué)生。隨著生成式人工智能在高等教育領(lǐng)域應(yīng)用的深入，認(rèn)識(shí)、防范和化解其給高等教育生態(tài)系統(tǒng)帶來的教育風(fēng)險(xiǎn)迫在眉睫。對(duì)此，本研究從風(fēng)險(xiǎn)表征、風(fēng)險(xiǎn)預(yù)警、風(fēng)險(xiǎn)化解三個(gè)方面展開研究，重點(diǎn)回答生成式人工智能給高等教育生態(tài)系統(tǒng)帶來的教育風(fēng)險(xiǎn)有哪些表現(xiàn)、如何提前防范風(fēng)險(xiǎn)以及如何有效化解風(fēng)險(xiǎn)這三個(gè)問題，以期實(shí)現(xiàn)新一代人工智能技術(shù)在高等教育生態(tài)系統(tǒng)中的安全應(yīng)用。

一 生成式人工智能融入高等教育生態(tài)系統(tǒng)的風(fēng)險(xiǎn)表征

生態(tài)系統(tǒng)是生物之間以及生物與非生物環(huán)境之間通過物質(zhì)循環(huán)、能量流動(dòng)、信息傳遞形成的統(tǒng)一體。而高等教育生態(tài)系統(tǒng)是高等教育系統(tǒng)內(nèi)部各要素之間及其與自然、社會(huì)環(huán)境之間交互所形成的開放性、非線性復(fù)雜系統(tǒng)^[6]。以生態(tài)系統(tǒng)的結(jié)構(gòu)和功能為分析維度，生成式人工智能融入高等教育生態(tài)系統(tǒng)的風(fēng)險(xiǎn)主要表現(xiàn)為生態(tài)主體層面的師生主權(quán)消解風(fēng)險(xiǎn)、生態(tài)介體層面的知識(shí)內(nèi)容扭曲風(fēng)險(xiǎn)、生態(tài)環(huán)境層面的安全包容破壞風(fēng)險(xiǎn)、生態(tài)功能層面的人才培養(yǎng)異化風(fēng)險(xiǎn)。

1 師生主權(quán)消解，弱化高等教育生態(tài)主體

高等教育生態(tài)系統(tǒng)的核心主體是學(xué)生和教師，其中學(xué)生是消費(fèi)者，教師是生產(chǎn)者。師生主權(quán)消解風(fēng)險(xiǎn)是指生成式人工智能在教育領(lǐng)域的過度應(yīng)用，可能會(huì)使學(xué)生和教師過度依賴技術(shù)，從而消解其教育主體地位，讓學(xué)生和教師逐漸成為被技術(shù)支配的延伸客體，具體表現(xiàn)為：①學(xué)生學(xué)習(xí)主體性消解風(fēng)險(xiǎn)。與基礎(chǔ)教育相比，高等教育更強(qiáng)調(diào)學(xué)生的自主學(xué)習(xí)。生成式人工智能采用便捷的對(duì)話問答方式，能簡(jiǎn)化信息的獲取過程，技術(shù)的頻繁使用容易讓學(xué)生產(chǎn)生一定的依賴思想和惰性心理，繼而沉迷其中。這種沉迷會(huì)影響學(xué)生的學(xué)習(xí)自主性、批判性思維和問題解決能力，使其容易屈服于技術(shù)，逐漸喪失學(xué)習(xí)主權(quán)。此外，學(xué)生的身體還可能被技術(shù)控制并導(dǎo)致身體隱退^[7]。②教師教學(xué)主體性消解風(fēng)險(xiǎn)。目前，高校的學(xué)術(shù)科研壓力可能會(huì)在一定程度上逼迫大學(xué)教師部分甚至完全借助生成式人工智能來撰寫課程方案、生成教學(xué)材料等。當(dāng)過度依賴生成式人工智能時(shí)，大學(xué)教師便容易失去教學(xué)實(shí)踐的主動(dòng)性，成為智能技術(shù)的執(zhí)行者。此外，憑借快捷的智能響應(yīng)和廣泛的信息儲(chǔ)備，生成式人工智能可以實(shí)現(xiàn)評(píng)價(jià)、反饋等部分教育教學(xué)職能，這會(huì)在一定程度上沖擊教師的知識(shí)權(quán)威地位，使其逐漸喪失教學(xué)實(shí)踐主權(quán)。

2 知識(shí)內(nèi)容扭曲，影響高等教育生態(tài)介體

高等教育生態(tài)介體是指連接不同生態(tài)主體以及生態(tài)主體與環(huán)境之間的中介，其中以知識(shí)為代表的教育內(nèi)容是一種重要的介體。傳播專業(yè)化的知識(shí)是高等教育的重要使命，這就要求知識(shí)內(nèi)容必須科學(xué)、權(quán)威。知識(shí)內(nèi)容扭曲風(fēng)險(xiǎn)是指生成式人工智能產(chǎn)生的知識(shí)內(nèi)容可能存在虛假信息，扭曲知識(shí)內(nèi)容的科學(xué)性和權(quán)威性，具體表現(xiàn)為：①知識(shí)內(nèi)容科學(xué)性存疑風(fēng)險(xiǎn)。訓(xùn)練數(shù)據(jù)的失真，會(huì)讓生成式人工智能成為虛假信息的制造者。由于生成式人工智能生成的文本與人類生成的文本相似，故大學(xué)生很難區(qū)分真實(shí)的知識(shí)和未經(jīng)驗(yàn)證的信息。在高等教育中，事實(shí)性錯(cuò)誤、概念誤用、高深知識(shí)出錯(cuò)等情況會(huì)誤導(dǎo)大學(xué)生^[8]，進(jìn)而對(duì)其價(jià)值觀念造成負(fù)面影響。②知識(shí)內(nèi)容權(quán)威性受損風(fēng)險(xiǎn)。生成式人工智能生產(chǎn)的知識(shí)是一種“組合式創(chuàng)新”，是對(duì)已有數(shù)據(jù)和信息的重組，并非實(shí)質(zhì)性的知識(shí)生成。這種知識(shí)內(nèi)容并不遵循“專家或教育行政部門開發(fā)、審定→學(xué)校傳授”的知識(shí)傳播邏輯^[9]，因而人機(jī)交互直接獲得的知識(shí)貌似“高大上”，但權(quán)威性卻難以保證。若認(rèn)識(shí)不到這種幻象，就容易引發(fā)將生成式人工智能視為知識(shí)權(quán)威和道德權(quán)威的風(fēng)險(xiǎn)^[10]。

3 安全包容破壞，侵害高等教育生態(tài)環(huán)境

高等教育生態(tài)環(huán)境既包括現(xiàn)實(shí)環(huán)境，也包括虛擬環(huán)境。伴隨高等教育數(shù)字化轉(zhuǎn)型的加快，數(shù)據(jù)日益成為數(shù)字化教學(xué)的核心資源。在此背景下，數(shù)字化的虛擬環(huán)境更加強(qiáng)調(diào)保障數(shù)據(jù)安全與實(shí)現(xiàn)數(shù)字包容。安全包容破壞風(fēng)險(xiǎn)是指生成式人工智能破壞虛擬環(huán)境的安全性和包容性，具體表現(xiàn)為：①教育數(shù)據(jù)安全和隱私風(fēng)險(xiǎn)，主要包括隱私泄露和隱私侵犯^[11]。一方面，開發(fā)商可能會(huì)從教師、學(xué)生等用戶與生成式人工智能的交互中收集數(shù)據(jù)并進(jìn)行分析，以提高生成式人工智能的性能，至于交互留下的歷史數(shù)據(jù)將會(huì)被如何處理尚不明晰；另一方面，生成式人工智能可能會(huì)根據(jù)大學(xué)師生提供的輸入數(shù)據(jù)進(jìn)行訓(xùn)練，輸入的部分隱私信息可能會(huì)以某種形式提供給后續(xù)用戶，以上均有可能造成師生個(gè)人隱私數(shù)據(jù)的泄露和隱私侵犯。②偏見歧視風(fēng)險(xiǎn)。生成式人工智能使用來自互聯(lián)網(wǎng)的大量數(shù)據(jù)進(jìn)行預(yù)訓(xùn)練，如果訓(xùn)練數(shù)據(jù)存在偏見，那么生成的結(jié)果也會(huì)存在偏見。這些偏見包括性別偏見、種族偏見、文化和語言偏見、意識(shí)形態(tài)偏見等^[12]，會(huì)強(qiáng)化先前存在的不平等和刻板印象，破壞高等教育生態(tài)環(huán)境的包容性。

4 人才培養(yǎng)異化，擾亂高等教育生態(tài)功能

除了具備生態(tài)系統(tǒng)的一般功能，高等教育生態(tài)系統(tǒng)還承載了人才培養(yǎng)、學(xué)術(shù)科研、社會(huì)服務(wù)三大重要功能，而生成式人工智能的融入給人才培養(yǎng)帶來了風(fēng)險(xiǎn)。人才培養(yǎng)異化風(fēng)險(xiǎn)是指生成式人工智能在高等教育生態(tài)系統(tǒng)中的融入會(huì)讓原本具有創(chuàng)造性、道德性、協(xié)同性的人才培養(yǎng)活動(dòng)異化，具體表現(xiàn)為：①人才培養(yǎng)異化為同質(zhì)的標(biāo)準(zhǔn)生產(chǎn)。通過培養(yǎng)創(chuàng)新型人才來助推教育強(qiáng)國(guó)建設(shè)，是高等教育的重要使命。生成式人工智能使用深度學(xué)習(xí)算法，根據(jù)已有的訓(xùn)練數(shù)據(jù)生成內(nèi)容，這限制了生成內(nèi)容的創(chuàng)造性。當(dāng)完全依賴生成式人工智能進(jìn)行教與學(xué)時(shí)，高等教育教學(xué)便會(huì)異化為標(biāo)準(zhǔn)化的工廠生產(chǎn)。②人才培養(yǎng)異化為泛濫的學(xué)業(yè)失信。培養(yǎng)有道德的數(shù)字公民，是高等教育人才培養(yǎng)的重要目標(biāo)之一。若不進(jìn)行技術(shù)檢測(cè)，將很難區(qū)分生成式人工智能產(chǎn)生的文本和人類產(chǎn)生的文本^[13]。當(dāng)大學(xué)生利用此類工具完成論文或作業(yè)、通過作弊或抄襲獲得更高的分?jǐn)?shù)時(shí)，便會(huì)導(dǎo)致學(xué)業(yè)失信。③人才培養(yǎng)異化為惡性的人機(jī)博弈。伴隨機(jī)器的加入，實(shí)現(xiàn)人機(jī)協(xié)同的教育教學(xué)成為高等教育的重要追求。然而，當(dāng)大學(xué)生利用生成式人工智能進(jìn)行學(xué)習(xí)時(shí)，若只關(guān)注機(jī)器反饋的結(jié)果而忽視知識(shí)本身及其價(jià)值，就有可能出現(xiàn)人機(jī)博弈^[14]。

二 生成式人工智能融入高等教育生態(tài)系統(tǒng)的風(fēng)險(xiǎn)預(yù)警

生成式人工智能融入高等教育生態(tài)系統(tǒng)存在諸多風(fēng)險(xiǎn)，需要進(jìn)行風(fēng)險(xiǎn)預(yù)警，以保障高等教育生態(tài)系統(tǒng)的安全運(yùn)行與可持續(xù)發(fā)展。風(fēng)險(xiǎn)預(yù)警旨在預(yù)測(cè)和警示生成式人工智能給高等教育生態(tài)系統(tǒng)帶來的教育風(fēng)險(xiǎn)，重點(diǎn)回答“誰來預(yù)警”“預(yù)警什么”“怎樣保障”“如何預(yù)警”四個(gè)問題。對(duì)此，本研究構(gòu)建了由風(fēng)險(xiǎn)預(yù)警主體、風(fēng)險(xiǎn)預(yù)警內(nèi)容、風(fēng)險(xiǎn)預(yù)警保障、風(fēng)險(xiǎn)預(yù)警流程四個(gè)模塊組成的生成式人工智能融入高等教育生態(tài)系統(tǒng)的風(fēng)險(xiǎn)預(yù)警機(jī)制，如圖1所示。具體來說，該機(jī)制是以高校為主和以政府、教育行政部門、家庭、社會(huì)為輔的風(fēng)險(xiǎn)預(yù)警主體，針對(duì)生態(tài)主體、生態(tài)介體、生態(tài)環(huán)境、生態(tài)功能四個(gè)層面的風(fēng)險(xiǎn)，通過組織建設(shè)、制度構(gòu)建、技術(shù)運(yùn)用、人才培養(yǎng)等風(fēng)險(xiǎn)預(yù)警保障，按照“風(fēng)險(xiǎn)識(shí)別→風(fēng)險(xiǎn)分析→風(fēng)險(xiǎn)評(píng)價(jià)→風(fēng)險(xiǎn)警示→風(fēng)險(xiǎn)追蹤→風(fēng)險(xiǎn)識(shí)別……”的風(fēng)險(xiǎn)預(yù)警流程，對(duì)生成式人工智能帶來的教育風(fēng)險(xiǎn)進(jìn)行預(yù)警。

1 風(fēng)險(xiǎn)預(yù)警主體：以高校為關(guān)鍵行動(dòng)者的多元主體協(xié)同參與

結(jié)合風(fēng)險(xiǎn)預(yù)警的功能實(shí)現(xiàn)，風(fēng)險(xiǎn)預(yù)警主體包括政府、教育行政部門、高校、家庭、社會(huì)。其中，高校直接參與風(fēng)險(xiǎn)預(yù)警行動(dòng)，是風(fēng)險(xiǎn)預(yù)警的關(guān)鍵行動(dòng)者；其他主體通過與高校協(xié)作互動(dòng)，間接參與風(fēng)險(xiǎn)預(yù)警行動(dòng)：①政府是“總體牽頭者”，主要負(fù)責(zé)對(duì)風(fēng)險(xiǎn)預(yù)警工作進(jìn)行統(tǒng)籌安排，包括構(gòu)建生成式人工智能教育風(fēng)險(xiǎn)預(yù)警制度、推動(dòng)制定生成式人工智能風(fēng)險(xiǎn)預(yù)警防控標(biāo)準(zhǔn)文件、為高校教育風(fēng)險(xiǎn)的預(yù)警和防控提供政策支持、調(diào)動(dòng)各職能部門參與風(fēng)險(xiǎn)預(yù)警并明確各部門的職責(zé)分工等。②教育行政部門是“直接管理者”，主要負(fù)責(zé)制定風(fēng)險(xiǎn)預(yù)警的具體政策、規(guī)章、規(guī)劃等，確定風(fēng)險(xiǎn)預(yù)警的基本流程，并對(duì)各高校的預(yù)警工作進(jìn)行指導(dǎo)、管理等。③高校是“關(guān)鍵行動(dòng)者”，主要根據(jù)政府和教育行政部門的要求開展具體的風(fēng)險(xiǎn)預(yù)警工作，對(duì)教育風(fēng)險(xiǎn)進(jìn)行識(shí)別、分析、評(píng)估、警示、追蹤；同時(shí)，根據(jù)通用的教育風(fēng)險(xiǎn)框架，結(jié)合本校的特點(diǎn)和實(shí)際，將教育教學(xué)實(shí)踐中具體的風(fēng)險(xiǎn)預(yù)警情況及時(shí)反饋給上級(jí)教育主管部門。④家庭是“重要協(xié)助者”，其與高校聯(lián)系密切，主要配合高校開展相關(guān)的教育風(fēng)險(xiǎn)調(diào)查或主動(dòng)向高校反饋觀察到的教育風(fēng)險(xiǎn)因素，輔助高校開展風(fēng)險(xiǎn)預(yù)警工作。⑤社會(huì)是“有力支持者”，其中的行業(yè)協(xié)會(huì)、科技企業(yè)、各大媒體等都可為高校開展相關(guān)的風(fēng)險(xiǎn)預(yù)警工作提供支持，如行業(yè)協(xié)會(huì)能為生成式人工智能標(biāo)準(zhǔn)規(guī)范的制定提供智力支持、科技企業(yè)能為教育風(fēng)險(xiǎn)預(yù)警平臺(tái)的搭建提供技術(shù)支持、各大媒體能為教育風(fēng)險(xiǎn)預(yù)警信息的廣泛發(fā)布提供宣傳支持等。

2 風(fēng)險(xiǎn)預(yù)警內(nèi)容：技術(shù)引發(fā)生態(tài)系統(tǒng)結(jié)構(gòu)與功能的嬗變

生成式人工智能融入高等教育生態(tài)系統(tǒng)，引發(fā)了師生主權(quán)消解、知識(shí)內(nèi)容扭曲、安全包容破壞、人才培養(yǎng)異化等風(fēng)險(xiǎn)，也引發(fā)了高等教育生態(tài)系統(tǒng)結(jié)構(gòu)（包括主體、介體、環(huán)境）與功能的嬗變。因此，風(fēng)險(xiǎn)預(yù)警內(nèi)容不僅要聚焦微觀層面的四大風(fēng)險(xiǎn)表征，更要從宏觀入手，關(guān)注以下四個(gè)層面的風(fēng)險(xiǎn)：①生態(tài)主體層面的風(fēng)險(xiǎn)，是指生成式人工智能給教育部門、高校及其管理者、教師、學(xué)生等主體帶來的風(fēng)險(xiǎn)，包括教育權(quán)益、職能、角色方面的侵害、弱化與改變等。②生態(tài)介體層面的風(fēng)險(xiǎn)，是指生成式人工智能對(duì)高等教育的內(nèi)容、方法、媒介等造成損害，影響生態(tài)主體之間以及生態(tài)主體與生態(tài)環(huán)境之間的互動(dòng)。高校是教育、科技、人才的重要匯聚點(diǎn)^[15]，而知識(shí)是支撐高校擔(dān)當(dāng)使命的重要基礎(chǔ)。因此，高等教育生態(tài)系統(tǒng)中的知識(shí)內(nèi)容扭曲風(fēng)險(xiǎn)需要得到重點(diǎn)關(guān)注。③生態(tài)環(huán)境層面的風(fēng)險(xiǎn)，是指生成式人工智能破壞高等教育發(fā)展、產(chǎn)生制約和控制作用的多維空間與環(huán)境^[16]。生成式人工智能技術(shù)的發(fā)展不僅會(huì)導(dǎo)致安全包容破壞風(fēng)險(xiǎn)，還有可能使教育環(huán)境被資本利益操控^[17]，讓商業(yè)化凌駕于公益性和人本價(jià)值之上。④生態(tài)功能層面的風(fēng)險(xiǎn)，是指生成式人工智能擾亂高等教育生態(tài)系統(tǒng)的相關(guān)教育功能。除了異化人才培養(yǎng)功能，生成式人工智能還會(huì)給高等教育生態(tài)系統(tǒng)的學(xué)術(shù)科研功能帶來危害，包括分散學(xué)術(shù)責(zé)任、催生學(xué)術(shù)歧視等^[18]。整體而言，這些風(fēng)險(xiǎn)均與高等教育密切相關(guān)，具有風(fēng)險(xiǎn)來源復(fù)雜多樣、風(fēng)險(xiǎn)類型動(dòng)態(tài)變化、風(fēng)險(xiǎn)影響持續(xù)深遠(yuǎn)等特點(diǎn)。

3 風(fēng)險(xiǎn)預(yù)警保障：整體智治助力生態(tài)系統(tǒng)安全穩(wěn)定運(yùn)轉(zhuǎn)

針對(duì)生成式人工智能的教育風(fēng)險(xiǎn)預(yù)警是一項(xiàng)系統(tǒng)工程，需要以智能的方式整體推進(jìn)?！罢w智治”主張運(yùn)用數(shù)字技術(shù)來推動(dòng)整體性治理的升級(jí)，重點(diǎn)強(qiáng)調(diào)整合組織部門、重塑制度體系、應(yīng)用數(shù)字技術(shù)和提升主體能力^[19]?；诖耍蓮慕M織建設(shè)、制度構(gòu)建、技術(shù)運(yùn)用和人才培養(yǎng)四方面提供風(fēng)險(xiǎn)預(yù)警保障：①組織建設(shè)，即政府、教育行政部門、高校都要建立專門負(fù)責(zé)或兼管教育風(fēng)險(xiǎn)預(yù)警的管理、執(zhí)行、咨詢等機(jī)構(gòu)并組織實(shí)施。對(duì)此，高?？梢越梃b麻省理工學(xué)院的做法^[20]，包括成立風(fēng)險(xiǎn)指導(dǎo)小組，為風(fēng)險(xiǎn)預(yù)警提供戰(zhàn)略指導(dǎo)和方向；成立風(fēng)險(xiǎn)咨詢團(tuán)隊(duì)，調(diào)集多個(gè)領(lǐng)域的專家、學(xué)者來識(shí)別和評(píng)估風(fēng)險(xiǎn)；成立風(fēng)險(xiǎn)管理委員會(huì)，監(jiān)督和管理風(fēng)險(xiǎn)預(yù)警工作，宣傳風(fēng)險(xiǎn)管理文化。此外，高校還可以設(shè)立風(fēng)險(xiǎn)預(yù)警研究中心，為預(yù)防數(shù)字技術(shù)帶來的教育風(fēng)險(xiǎn)提供智力支持。②制度構(gòu)建，即構(gòu)建“國(guó)家（中央政府和教育部）-地方（地方各級(jí)政府和教育行政部門）-高?！憋L(fēng)險(xiǎn)預(yù)警體系，重點(diǎn)建設(shè)部際聯(lián)席會(huì)議制度（國(guó)家各部委對(duì)教育風(fēng)險(xiǎn)預(yù)警決策進(jìn)行協(xié)商）、部門協(xié)同工作制度（多元主體對(duì)風(fēng)險(xiǎn)預(yù)警工作進(jìn)行統(tǒng)一執(zhí)行與有效落實(shí)）、風(fēng)險(xiǎn)預(yù)警管理制度（明確各主體的風(fēng)險(xiǎn)預(yù)警責(zé)任，規(guī)范風(fēng)險(xiǎn)預(yù)警管理流程，建立風(fēng)險(xiǎn)預(yù)警信息報(bào)告機(jī)制）、教育教學(xué)調(diào)查制度（定期調(diào)查生成式人工智能在高校教學(xué)中的應(yīng)用情況和潛在風(fēng)險(xiǎn)）。③技術(shù)運(yùn)用，即高校充分發(fā)揮科研的優(yōu)勢(shì)，與相關(guān)企業(yè)合作，應(yīng)用大數(shù)據(jù)、互聯(lián)網(wǎng)、云計(jì)算、人工智能等技術(shù)，建立教育風(fēng)險(xiǎn)數(shù)據(jù)庫，打造教育風(fēng)險(xiǎn)預(yù)警平臺(tái)。例如，應(yīng)用機(jī)器學(xué)習(xí)、智能統(tǒng)計(jì)引擎、圖像識(shí)別等技術(shù)，對(duì)教育數(shù)據(jù)方面的風(fēng)險(xiǎn)進(jìn)行捕捉、識(shí)別、定性、分析、評(píng)估^[21]。④人才培養(yǎng)，即高校和教育行政部門開展生成式人工智能風(fēng)險(xiǎn)預(yù)警的相關(guān)教育和培訓(xùn)活動(dòng)，通過開發(fā)風(fēng)險(xiǎn)預(yù)警課程、采用場(chǎng)景式教學(xué)模式、搭建風(fēng)險(xiǎn)預(yù)警實(shí)訓(xùn)平臺(tái)、組織風(fēng)險(xiǎn)預(yù)警專題講座、實(shí)施風(fēng)險(xiǎn)能力評(píng)估、深化校企協(xié)同育人機(jī)制等，激發(fā)學(xué)生、教師、教育管理者、技術(shù)人員等的風(fēng)險(xiǎn)預(yù)警意識(shí)，夯實(shí)其風(fēng)險(xiǎn)預(yù)警知識(shí)，不斷提高其風(fēng)險(xiǎn)預(yù)警能力。

4 風(fēng)險(xiǎn)預(yù)警流程：人機(jī)協(xié)同推動(dòng)實(shí)現(xiàn)敏捷化的信息傳遞

風(fēng)險(xiǎn)預(yù)警屬于風(fēng)險(xiǎn)管理的一部分。國(guó)際標(biāo)準(zhǔn)化組織（International Organization for Standardization，ISO）在《2018風(fēng)險(xiǎn)管理指南》中指出，風(fēng)險(xiǎn)管理的過程包括溝通與咨詢、建立環(huán)境、風(fēng)險(xiǎn)評(píng)估（包括風(fēng)險(xiǎn)識(shí)別，風(fēng)險(xiǎn)分析和風(fēng)險(xiǎn)評(píng)價(jià)）、風(fēng)險(xiǎn)應(yīng)對(duì)、追蹤和檢查、記錄和報(bào)告等活動(dòng)^[22]。此外，風(fēng)險(xiǎn)警示重在讓預(yù)警信息得到有效傳遞，其也是風(fēng)險(xiǎn)預(yù)警的關(guān)鍵一環(huán)?；诖?，本研究設(shè)計(jì)了“風(fēng)險(xiǎn)識(shí)別→風(fēng)險(xiǎn)分析→風(fēng)險(xiǎn)評(píng)價(jià)→風(fēng)險(xiǎn)警示→風(fēng)險(xiǎn)追蹤→風(fēng)險(xiǎn)識(shí)別……”的風(fēng)險(xiǎn)預(yù)警流程，如圖2所示。這是一個(gè)循環(huán)往復(fù)的過程，多元主體相互聯(lián)動(dòng)，以風(fēng)險(xiǎn)保障為支持來實(shí)施風(fēng)險(xiǎn)預(yù)警流程。其中，最核心的是運(yùn)用人機(jī)協(xié)同的風(fēng)險(xiǎn)預(yù)警方法與手段，將人對(duì)風(fēng)險(xiǎn)的認(rèn)識(shí)、研判和機(jī)器在風(fēng)險(xiǎn)數(shù)據(jù)收集、分析、評(píng)價(jià)、監(jiān)測(cè)等方面的作用進(jìn)行融合，實(shí)現(xiàn)對(duì)風(fēng)險(xiǎn)預(yù)兆的敏捷響應(yīng)，促進(jìn)風(fēng)險(xiǎn)預(yù)警信息在高等教育生態(tài)系統(tǒng)中的敏捷傳遞。

（1）風(fēng)險(xiǎn)識(shí)別

進(jìn)行教育風(fēng)險(xiǎn)預(yù)警的第一步是對(duì)教育風(fēng)險(xiǎn)進(jìn)行識(shí)別，即識(shí)別生成式人工智能帶來的教育問題中有哪些存在教育風(fēng)險(xiǎn)，并分析判斷該教育風(fēng)險(xiǎn)的類型。對(duì)此，教育部首先要發(fā)布通用的人工智能教育風(fēng)險(xiǎn)指標(biāo)體系（下文簡(jiǎn)稱“通用指標(biāo)體系”），為高校進(jìn)行教育風(fēng)險(xiǎn)識(shí)別提供抓手和依據(jù)。在此基礎(chǔ)上，高校要結(jié)合自身特點(diǎn)，依托通用指標(biāo)體系，應(yīng)用大數(shù)據(jù)技術(shù)充分收集并分析相關(guān)信息來對(duì)教育風(fēng)險(xiǎn)進(jìn)行實(shí)時(shí)甄別與篩選^[23]；再結(jié)合訪談、問卷調(diào)查等傳統(tǒng)方法，了解潛在的教育風(fēng)險(xiǎn)，最終以人機(jī)協(xié)同的方式進(jìn)行教育風(fēng)險(xiǎn)識(shí)別。風(fēng)險(xiǎn)識(shí)別主要包括兩方面的工作：①識(shí)別是否存在教育風(fēng)險(xiǎn)。高?？梢酝ㄟ^審查相關(guān)文件、分析已有數(shù)據(jù)，來識(shí)別存在的風(fēng)險(xiǎn)；也可以通過訪談、問卷調(diào)查等形式，定期從學(xué)生、教師、家長(zhǎng)等相關(guān)人員中獲得反饋信息，了解其在應(yīng)用生成式人工智能過程中遇到的問題與挑戰(zhàn)，并識(shí)別出其中的教育風(fēng)險(xiǎn)；還可以召開專家研討會(huì)，并結(jié)合技術(shù)預(yù)測(cè)，對(duì)可能出現(xiàn)的風(fēng)險(xiǎn)進(jìn)行提前預(yù)判與確定。②識(shí)別教育風(fēng)險(xiǎn)的類型。高校以教育部發(fā)布的通用指標(biāo)體系為基礎(chǔ)，對(duì)識(shí)別到的教育風(fēng)險(xiǎn)進(jìn)行分類。然而，通用指標(biāo)體系并不能覆蓋所有高校的教育風(fēng)險(xiǎn)類型。因此，不同層次水平、辦學(xué)類型、保密級(jí)別的高校需要進(jìn)一步構(gòu)建適合本校的教育風(fēng)險(xiǎn)指標(biāo)體系，對(duì)個(gè)性化的教育風(fēng)險(xiǎn)進(jìn)行定位與識(shí)別。之后，高校還需將相應(yīng)的教育風(fēng)險(xiǎn)記錄在風(fēng)險(xiǎn)登記手冊(cè)中，并及時(shí)上傳至教育風(fēng)險(xiǎn)數(shù)據(jù)庫。

（2）風(fēng)險(xiǎn)分析

識(shí)別教育風(fēng)險(xiǎn)之后，接下的一步便是分析教育風(fēng)險(xiǎn)，具體包括：①教育風(fēng)險(xiǎn)來源分析?？梢詮纳墒饺斯ぶ悄芗夹g(shù)本身、教育主體的數(shù)字素養(yǎng)、技術(shù)在教育教學(xué)中的應(yīng)用情況等方面，來分析教育風(fēng)險(xiǎn)的成因。在此過程中，高?？梢耘c企業(yè)合作，借助技術(shù)測(cè)試平臺(tái)（如新華網(wǎng)聯(lián)合中國(guó)科學(xué)院計(jì)算技術(shù)研究所等行業(yè)機(jī)構(gòu)研發(fā)打造的“生成式人工智能內(nèi)容安全與模型安全檢測(cè)平臺(tái)”^[24]），對(duì)生成式人工智能進(jìn)行測(cè)試、對(duì)教育主體開展訪談和調(diào)查、依托風(fēng)險(xiǎn)咨詢團(tuán)隊(duì)對(duì)風(fēng)險(xiǎn)來源進(jìn)行科學(xué)研判等。②教育風(fēng)險(xiǎn)概率分析。一方面，高?？梢越柚?nèi)的風(fēng)險(xiǎn)咨詢團(tuán)隊(duì)和第三方風(fēng)險(xiǎn)評(píng)估機(jī)構(gòu)，咨詢不同領(lǐng)域?qū)＜液图夹g(shù)人員的意見，從而預(yù)估教育風(fēng)險(xiǎn)發(fā)生的可能性。另一方面，不同高校、教育部可以共同搭建教育風(fēng)險(xiǎn)信息共享平臺(tái)，連接教育風(fēng)險(xiǎn)數(shù)據(jù)庫，匯集相關(guān)數(shù)據(jù)，在大數(shù)據(jù)、人工智能等技術(shù)的支持下分析風(fēng)險(xiǎn)概率。③教育風(fēng)險(xiǎn)影響分析?？梢詮纳鷳B(tài)主體、生態(tài)介體、生態(tài)環(huán)境、生態(tài)功能等要素出發(fā)，分析生成式人工智能給高等教育生態(tài)系統(tǒng)帶來的潛在危害。在此基礎(chǔ)上，高?？梢砸劳酗L(fēng)險(xiǎn)咨詢團(tuán)隊(duì)，利用機(jī)器學(xué)習(xí)、深度學(xué)習(xí)等技術(shù)構(gòu)建教育風(fēng)險(xiǎn)預(yù)測(cè)模型，來分析教育風(fēng)險(xiǎn)的影響，并關(guān)注教育風(fēng)險(xiǎn)影響的規(guī)模、范圍、時(shí)效性等。從長(zhǎng)期來看，還可以重點(diǎn)關(guān)注生成式人工智能給教育倫理帶來的影響。

（3）風(fēng)險(xiǎn)評(píng)價(jià)

教育風(fēng)險(xiǎn)評(píng)價(jià)旨在根據(jù)教育風(fēng)險(xiǎn)分析的結(jié)果來評(píng)價(jià)生成式人工智能的教育風(fēng)險(xiǎn)等級(jí)，并評(píng)價(jià)其教育風(fēng)險(xiǎn)偏好和容忍度，具體包括：①教育風(fēng)險(xiǎn)等級(jí)評(píng)價(jià)。教育風(fēng)險(xiǎn)等級(jí)反映的是教育風(fēng)險(xiǎn)的嚴(yán)重程度，大致可以分為低風(fēng)險(xiǎn)、一般風(fēng)險(xiǎn)、較大風(fēng)險(xiǎn)、重大風(fēng)險(xiǎn)四個(gè)等級(jí)?？梢愿鶕?jù)教育風(fēng)險(xiǎn)發(fā)生的概率及其影響，在專家咨詢的基礎(chǔ)上應(yīng)用風(fēng)險(xiǎn)矩陣法，計(jì)算得到風(fēng)險(xiǎn)的等級(jí)數(shù)值，之后與相應(yīng)的風(fēng)險(xiǎn)標(biāo)準(zhǔn)進(jìn)行比較，最終確定教育風(fēng)險(xiǎn)的等級(jí)。目前，國(guó)內(nèi)尚未有針對(duì)生成式人工智能和教育風(fēng)險(xiǎn)的統(tǒng)一評(píng)估標(biāo)準(zhǔn)。為科學(xué)評(píng)估教育風(fēng)險(xiǎn)，政府和教育部亟需制定生成式人工智能教育風(fēng)險(xiǎn)評(píng)估標(biāo)準(zhǔn)，明確風(fēng)險(xiǎn)等級(jí)劃分，提供評(píng)價(jià)方法指導(dǎo)，為地方各級(jí)教育行政部門和高校開展教育風(fēng)險(xiǎn)評(píng)估提供依據(jù)和支持。②教育風(fēng)險(xiǎn)偏好和容忍度評(píng)價(jià)。風(fēng)險(xiǎn)偏好（Risk Appetite）是高校愿意承擔(dān)和接受的風(fēng)險(xiǎn)水平；而風(fēng)險(xiǎn)容忍度（Risk Tolerance）是高校在管理風(fēng)險(xiǎn)時(shí)愿意接受的結(jié)果的變化程度，是對(duì)風(fēng)險(xiǎn)偏好的進(jìn)一步量化。高校需要設(shè)置不同的風(fēng)險(xiǎn)偏好聲明，明確本校為實(shí)現(xiàn)風(fēng)險(xiǎn)預(yù)警目標(biāo)而愿意接受的風(fēng)險(xiǎn)等級(jí)，并界定相應(yīng)的風(fēng)險(xiǎn)承受能力，以指導(dǎo)高校的風(fēng)險(xiǎn)管理人員進(jìn)行決策，使決策與風(fēng)險(xiǎn)承受能力相一致。在生成式人工智能驅(qū)動(dòng)的教學(xué)創(chuàng)新方面，高校需要聲明較高的風(fēng)險(xiǎn)偏好；而在技術(shù)引發(fā)的數(shù)據(jù)隱私安全方面，高校需要聲明較低的風(fēng)險(xiǎn)偏好，甚至聲明無風(fēng)險(xiǎn)偏好。

（4）風(fēng)險(xiǎn)警示

教育風(fēng)險(xiǎn)警示是教育風(fēng)險(xiǎn)預(yù)警的關(guān)鍵一環(huán)，主要通過層級(jí)化下達(dá)和網(wǎng)絡(luò)化傳播相結(jié)合的方式實(shí)現(xiàn)，警示的內(nèi)容包括教育風(fēng)險(xiǎn)的發(fā)生概率、影響情況和嚴(yán)重等級(jí)。具體而言，各級(jí)教育行政部門、高校和相關(guān)媒體通過由上而下層級(jí)化的風(fēng)險(xiǎn)預(yù)警信息報(bào)告制度，借助互聯(lián)網(wǎng)及時(shí)傳播教育風(fēng)險(xiǎn)警示信息，以確保每個(gè)利益相關(guān)者知曉警示信息：①各級(jí)教育行政部門主要以通知、建議、公示、提醒等方式進(jìn)行教育風(fēng)險(xiǎn)警示。例如，教育部發(fā)布生成式人工智能教育風(fēng)險(xiǎn)提示清單，對(duì)一定時(shí)間內(nèi)可能出現(xiàn)的普遍性教育風(fēng)險(xiǎn)進(jìn)行警示，并提醒各高校做好風(fēng)險(xiǎn)防范工作。②高校借助網(wǎng)絡(luò)平臺(tái)發(fā)布預(yù)警信息，確保各學(xué)院、年級(jí)、專業(yè)、班級(jí)的相關(guān)師生及時(shí)獲知風(fēng)險(xiǎn)預(yù)警信息，從而促使其在使用生成式人工智能進(jìn)行教與學(xué)的過程中能夠防范教育風(fēng)險(xiǎn)。除了在校內(nèi)發(fā)布生成式人工智能帶來的普遍性教育風(fēng)險(xiǎn)，高校還要結(jié)合本校的具體情況，額外提醒本校所面臨的特殊風(fēng)險(xiǎn)。③相關(guān)媒體應(yīng)積極轉(zhuǎn)發(fā)政府、教育行政部門等發(fā)布的教育風(fēng)險(xiǎn)警示信息，進(jìn)一步擴(kuò)大教育風(fēng)險(xiǎn)警示的范圍。各大媒體需重視信息來源的真實(shí)性和可靠性，避免傳播虛假信息。在此過程中，權(quán)威的官方教育媒體發(fā)揮著不可或缺的作用。

（5）風(fēng)險(xiǎn)追蹤

隨著高等教育生態(tài)系統(tǒng)內(nèi)外部環(huán)境的變化和風(fēng)險(xiǎn)應(yīng)對(duì)措施的實(shí)施，教育風(fēng)險(xiǎn)可能會(huì)出現(xiàn)、改變或消失，因而需要對(duì)教育風(fēng)險(xiǎn)進(jìn)行動(dòng)態(tài)追蹤，以增加、調(diào)整或取消相應(yīng)的教育風(fēng)險(xiǎn)警示。在此之前，高校的風(fēng)險(xiǎn)指導(dǎo)小組和風(fēng)險(xiǎn)管理委員會(huì)需先建立教育風(fēng)險(xiǎn)審查制度，實(shí)時(shí)記錄風(fēng)險(xiǎn)，定期召開風(fēng)險(xiǎn)審查會(huì)議，為風(fēng)險(xiǎn)追蹤提供制度保障。風(fēng)險(xiǎn)追蹤的內(nèi)容主要包括：①生成式人工智能技術(shù)及其應(yīng)用系統(tǒng)。繼發(fā)布ChatGPT-3.5之后，OpenAI公司又迅速發(fā)布了ChatGPT-4。生成式人工智能技術(shù)的迅猛發(fā)展，可能給高等教育生態(tài)系統(tǒng)帶來新的風(fēng)險(xiǎn)。因此，高校需掌握生成式人工智能技術(shù)的發(fā)展情況，及時(shí)對(duì)技術(shù)性能進(jìn)行測(cè)試。②相關(guān)的法律法規(guī)和監(jiān)管要求。2023年7月，國(guó)家互聯(lián)網(wǎng)信息辦公室等七部門聯(lián)合發(fā)布了《生成式人工智能服務(wù)管理暫行辦法》^[25]。高校需結(jié)合此暫行辦法的規(guī)范要求來定位教育風(fēng)險(xiǎn)，為重新確定風(fēng)險(xiǎn)的性質(zhì)和等級(jí)提供依據(jù)。③生成式人工智能在教學(xué)中的應(yīng)用情況。高校需建立教育教學(xué)調(diào)查制度，監(jiān)測(cè)教育風(fēng)險(xiǎn)的演變和發(fā)展情況，并監(jiān)測(cè)是否有新的教育風(fēng)險(xiǎn)發(fā)生。在此過程中，高?？梢月?lián)合科技企業(yè)開發(fā)教育風(fēng)險(xiǎn)監(jiān)測(cè)系統(tǒng)，借助大數(shù)據(jù)、人工智能等技術(shù)對(duì)教育風(fēng)險(xiǎn)開展大規(guī)模的持續(xù)監(jiān)測(cè)和風(fēng)險(xiǎn)重估。

三 生成式人工智能融入高等教育生態(tài)系統(tǒng)的風(fēng)險(xiǎn)化解

面對(duì)師生主權(quán)消解、知識(shí)內(nèi)容扭曲、安全包容破壞、人才培養(yǎng)異化等風(fēng)險(xiǎn)，不能僅限于通過風(fēng)險(xiǎn)預(yù)警機(jī)制來防范，還需要高校這一關(guān)鍵主體聯(lián)合政府、教育行政部門等主體，從激發(fā)主體意識(shí)、鑒別知識(shí)內(nèi)容、優(yōu)化數(shù)字環(huán)境、創(chuàng)新人才培養(yǎng)等方面入手來有效管控和化解這些風(fēng)險(xiǎn)。

1 激發(fā)主體意識(shí)：提高師生智能素養(yǎng)，制定技術(shù)應(yīng)用指南

防止生成式人工智能剝奪師生的教育主體身份、逐步消解師生的教育主體性地位，需要切實(shí)激發(fā)師生的主體意識(shí)，這一方面可從智能素養(yǎng)入手，在認(rèn)知層面讓大學(xué)師生意識(shí)到生成式人工智能服務(wù)于高等教育的工具屬性；另一方面可從應(yīng)用指南入手，在應(yīng)用層面為大學(xué)師生合理使用生成式人工智能提供指導(dǎo)：①提高師生智能素養(yǎng)。按照“初步接納→增強(qiáng)認(rèn)同→深度思考”的內(nèi)在邏輯^[26]，以開展人工智能素養(yǎng)通識(shí)教育和培訓(xùn)為抓手，幫助大學(xué)師生樹立正確的技術(shù)觀，掌握生成式人工智能的原理，發(fā)展生成式人工智能難以替代的批判性思維、創(chuàng)造力、倫理道德意識(shí)等，打破技術(shù)權(quán)威并建立教育主體自信。同時(shí)，將智能素養(yǎng)測(cè)評(píng)納入大學(xué)教師專業(yè)發(fā)展和大學(xué)生綜合素養(yǎng)評(píng)價(jià)的范疇。②高校要制定生成式人工智能技術(shù)應(yīng)用指南，說明如何在教學(xué)中正確使用這些工具和用其作弊的后果等^[27]。史翠珊效應(yīng)（Streisand Effect）顯示，全面禁止反而會(huì)增加ChatGPT的使用^[28]，而技術(shù)與教育的融合無法阻擋。因此，高校要制定應(yīng)用指南，促進(jìn)生成式人工智能有效融入大學(xué)課堂并防止師生濫用技術(shù)。例如，美國(guó)羅切斯特大學(xué)制定了《藝術(shù)、科學(xué)和工程教師課堂使用ChatGPT/AI指南》^[29]，用于教師選擇是否、何時(shí)、如何在課堂上使用生成式人工智能；同時(shí)，規(guī)定了教師需要遵守的務(wù)實(shí)、透明、始終如一、負(fù)責(zé)等倫理原則。

2 鑒別知識(shí)內(nèi)容：實(shí)施教育提示工程，設(shè)計(jì)人機(jī)協(xié)作任務(wù)

知識(shí)內(nèi)容扭曲風(fēng)險(xiǎn)源于生成式人工智能本身的缺陷，且與知識(shí)的傳遞方式密切相關(guān)。為此，可將生成式人工智能生成的知識(shí)內(nèi)容作為教學(xué)材料，讓大學(xué)生通過使用提示來實(shí)現(xiàn)知識(shí)的迭代傳遞，在人機(jī)交互的過程中有效鑒別知識(shí)內(nèi)容，具體包括：①實(shí)施教育提示工程，聚焦批判性思維培養(yǎng)，幫助大學(xué)生學(xué)會(huì)提問與反思。教育提示工程（Educational Prompt Engineering）聚焦教育領(lǐng)域提示的設(shè)計(jì)，旨在讓學(xué)習(xí)者和教育者能夠使用適合機(jī)器理解的自然語言來獲得準(zhǔn)確的響應(yīng)^[30]。大學(xué)需要實(shí)施教育提示工程，具體可從傳播全面的內(nèi)容知識(shí)、培養(yǎng)批判性思維和運(yùn)用迭代設(shè)計(jì)方法入手^[31]，來開發(fā)教育提示工程相關(guān)的課程，構(gòu)建深度對(duì)話學(xué)習(xí)模式，讓學(xué)生在問答過程中對(duì)技術(shù)生成的內(nèi)容進(jìn)行批判性思考。②設(shè)計(jì)人機(jī)協(xié)作任務(wù)，運(yùn)用評(píng)估驗(yàn)證策略，實(shí)現(xiàn)對(duì)知識(shí)的科學(xué)建構(gòu)。大學(xué)教師可以設(shè)計(jì)學(xué)生與生成式人工智能共同參與的學(xué)習(xí)任務(wù)，讓學(xué)生批判性地評(píng)估這些工具的價(jià)值，并有效和負(fù)責(zé)任地使用這些工具。例如，教師可以要求學(xué)生與ChatGPT共同撰寫一篇文章，并反思共同寫作的過程和內(nèi)容。但需注意的是，任務(wù)結(jié)束后教師必須及時(shí)為學(xué)生提供反饋，評(píng)估生成式人工智能生成的內(nèi)容的可信度，以減少虛假信息的傳播。

3 優(yōu)化數(shù)字環(huán)境：加強(qiáng)數(shù)據(jù)安全治理，完善算法監(jiān)管機(jī)制

數(shù)字化轉(zhuǎn)型是撬動(dòng)高等教育生態(tài)系統(tǒng)實(shí)現(xiàn)高質(zhì)量發(fā)展的重要杠桿，而這有賴于構(gòu)建安全包容的數(shù)字環(huán)境。安全包容破壞風(fēng)險(xiǎn)大多由技術(shù)本身的數(shù)據(jù)和算法引起，因此加強(qiáng)對(duì)數(shù)據(jù)安全的治理和對(duì)算法的監(jiān)管十分重要，具體包括：①加強(qiáng)對(duì)數(shù)據(jù)安全的整體性治理和敏捷治理，提升高校數(shù)據(jù)安全治理能力。針對(duì)教育數(shù)據(jù)安全，需要構(gòu)建政府、教育行政部門、高校三位一體的數(shù)據(jù)安全治理體系，通過整體性治理來破解教育數(shù)據(jù)安全治理的碎片化難題，并通過敏捷治理來實(shí)現(xiàn)對(duì)教育數(shù)據(jù)安全風(fēng)險(xiǎn)的快速識(shí)別與響應(yīng)。具體到高校，一要明確教育數(shù)據(jù)安全治理的目標(biāo)和戰(zhàn)略愿景；二要建設(shè)教育數(shù)據(jù)安全的管理、執(zhí)行機(jī)構(gòu)，并明確其職責(zé)分工；三要制定高校教育數(shù)據(jù)安全政策文件、管理辦法等；四要采用數(shù)據(jù)脫敏技術(shù)、訪問控制等，以保障教育數(shù)據(jù)安全；五要提升大學(xué)教師、學(xué)生、管理人員的數(shù)據(jù)安全意識(shí)與能力。②完善算法監(jiān)管機(jī)制，構(gòu)建差異化、多主體、全周期的算法監(jiān)管機(jī)制，包括參考?xì)W盟在《人工智能法案》中提出的基于風(fēng)險(xiǎn)等級(jí)的監(jiān)管思路^[32]，針對(duì)不同等級(jí)的教育風(fēng)險(xiǎn)采取不同的管控措施；調(diào)動(dòng)政府、高校、社會(huì)等多元主體參與監(jiān)管的積極性，并明確各主體的監(jiān)管責(zé)任和權(quán)力，為社會(huì)組織和用戶群體參與人工智能治理創(chuàng)造條件^[33]；從輸入端與輸出端入手，強(qiáng)化對(duì)生成式人工智能的全周期監(jiān)管^[34]。

4 培養(yǎng)創(chuàng)新人才：開發(fā)交叉課程，打造大學(xué)融合課堂

為化解人才培養(yǎng)異化風(fēng)險(xiǎn)，可以借助生成式人工智能技術(shù)創(chuàng)新人才培養(yǎng)的內(nèi)容和模式，具體包括：①利用生成式人工智能整合課程資源，開發(fā)跨學(xué)科的交叉課程。在生成式人工智能支持的人機(jī)互補(bǔ)式課程資源開發(fā)模式下^[35]，不同學(xué)科領(lǐng)域的大學(xué)教師和專家可以利用生成式人工智能整合課程資源，并對(duì)課程資源進(jìn)行二次設(shè)計(jì)，開發(fā)出跨學(xué)科的交叉課程。在此基礎(chǔ)上，大學(xué)教師可以將相關(guān)的課程資源提供給學(xué)生，學(xué)生也可以根據(jù)自身的學(xué)習(xí)需求進(jìn)一步定制課程。同時(shí)，大學(xué)教師要做好相應(yīng)的審查評(píng)估工作。此外，要按照常規(guī)的知識(shí)生產(chǎn)邏輯來開發(fā)體系化、權(quán)威化的專家課程，并注重技術(shù)生成課程與專家課程的互相補(bǔ)充^[36]，從而為開展規(guī)?；目鐚W(xué)科教學(xué)提供支持，并為應(yīng)用技術(shù)生成課程提供參考和依據(jù)。②構(gòu)建人機(jī)協(xié)同的教學(xué)模式，打造大學(xué)融合課堂。具體來說，一要分割教學(xué)責(zé)任，明確生成式人工智能機(jī)器與教師各自的角色、任務(wù)、責(zé)任^[37]；二要基于生成式人工智能支持的內(nèi)容生成和個(gè)性化輔導(dǎo)，通過設(shè)計(jì)人機(jī)協(xié)作學(xué)習(xí)任務(wù)，來提高學(xué)生的創(chuàng)造力和批判性思維，促進(jìn)學(xué)生的高意識(shí)生成式學(xué)習(xí)^[38]；三要以現(xiàn)實(shí)社會(huì)交互中蘊(yùn)含的情感來引導(dǎo)學(xué)生與生成式人工智能機(jī)器進(jìn)行正確互動(dòng)，構(gòu)建“學(xué)生-教師-機(jī)器”之間的良性關(guān)系；四要以元宇宙學(xué)校為抓手^[39]，構(gòu)建線上線下融合式學(xué)習(xí)空間，讓真實(shí)的人際互動(dòng)與智能的人機(jī)互動(dòng)相融合、讓現(xiàn)場(chǎng)的實(shí)踐操練與虛擬的仿真模擬相融合。

四 結(jié)語

生成式人工智能的融入，有望從教育教學(xué)、學(xué)術(shù)科研、社會(huì)服務(wù)、教育治理等方面重塑高等教育生態(tài)^[40]，但也給高等教育生態(tài)系統(tǒng)帶來了潛在的教育風(fēng)險(xiǎn)。本研究從風(fēng)險(xiǎn)表征、風(fēng)險(xiǎn)預(yù)警、風(fēng)險(xiǎn)化解三個(gè)方面，分析了生成式人工智能融入高等教育生態(tài)系統(tǒng)所產(chǎn)生的教育風(fēng)險(xiǎn)，可為生成式人工智能教育風(fēng)險(xiǎn)治理提供理論指導(dǎo)，并為高等教育生態(tài)系統(tǒng)的數(shù)字化轉(zhuǎn)型和高質(zhì)量發(fā)展夯實(shí)安全底座。為促進(jìn)生成式人工智能深度融入高等教育生態(tài)系統(tǒng)，本研究建議從以下方面入手：①以安全為底線，遵循可信人工智能的基本框架，立足高等教育需求，面向高等教育應(yīng)用場(chǎng)景，以基礎(chǔ)能力層、專業(yè)能力層和應(yīng)用服務(wù)層為架構(gòu)^[41]，開發(fā)安全可信的教育大模型，服務(wù)于高等教育；②關(guān)注生成式人工智能給高等教育生態(tài)系統(tǒng)帶來的倫理風(fēng)險(xiǎn)，制定生成式人工智能教育應(yīng)用的倫理原則，開展科技倫理教育，讓大學(xué)師生合乎道德地使用生成式人工智能工具；③將生成式人工智能與元宇宙相融合，構(gòu)建具身智能型的高等教育環(huán)境，開發(fā)動(dòng)態(tài)適應(yīng)的沉浸式學(xué)習(xí)資源，探索構(gòu)建新型的人機(jī)協(xié)同學(xué)習(xí)模式^[42]，讓大學(xué)生在深度對(duì)話、具身體驗(yàn)、有效移情的過程中掌握專業(yè)知識(shí)，培養(yǎng)高階思維，強(qiáng)化倫理道德意識(shí)，進(jìn)而實(shí)現(xiàn)智慧成長(zhǎng)。

參考文獻(xiàn)

[1][28]Lim W M， Gunasekara A， Pallant J L， et al. Generative AI and the future of education： Ragnar?k or reformation？ A paradoxical perspective from management educators[J]. The International Journal of Management Education， 2023，（2）：1-13.

[2][17]詹澤慧，季瑜，牛世婧，等.ChatGPT嵌入教育生態(tài)的內(nèi)在機(jī)理、表征形態(tài)及風(fēng)險(xiǎn)化解[J].現(xiàn)代遠(yuǎn)距離教育，2023，（4）：3-13.

[3]Stephen M. The college essay is dead[OL].

[4][7]周洪宇，李宇陽.ChatGPT對(duì)教育生態(tài)的沖擊及應(yīng)對(duì)策略[J].新疆師范大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2023，（4）：102-112.

[5]申麗萍，何朝帆，曹東旭，等.大語言模型在中學(xué)歷史學(xué)科中的應(yīng)用測(cè)評(píng)分析[J].現(xiàn)代教育技術(shù)，2024，（2）：62-71.

[6]胡涌，柳小玲，王玲，等.高等教育生態(tài)系統(tǒng)的基本構(gòu)架[J].中國(guó)林業(yè)教育，2009，（1）：1-5.

[8]鐘秉林，尚俊杰，王建華，等.ChatGPT對(duì)教育的挑戰(zhàn)（筆談）[J].重慶高教研究，2023，（3）：3-25.

[9][36]李會(huì)春.ChatGPT的智慧生成特征及對(duì)高等教育的挑戰(zhàn)[J].江蘇高教，2023，（8）：1-12.

[10]段偉文.積極應(yīng)對(duì)ChatGPT的倫理挑戰(zhàn)[N].中國(guó)社會(huì)科學(xué)報(bào)，2023-3-7（7）.

[11][37]王佑鎂，王旦，梁煒怡，等.ChatGPT教育應(yīng)用的倫理風(fēng)險(xiǎn)與規(guī)避進(jìn)路[J].開放教育研究，2023，（2）：26-35.

[12]Ray P P. ChatGPT： A comprehensive review on background， applications， key challenges， bias， ethics， limitations and future scope[J]. Internet of Things and Cyber-Physical Systems， 2023，（3）：121-154.

[13]Cotton D R， Cotton P A， Shipway J R. Chatting and cheating： Ensuring academic integrity in the era of ChatGPT[J]. Innovations in Education and Teaching International， 2024，（2）：228-239.

[14]張志禎，張玲玲，米天伊，等.大型語言模型會(huì)催生學(xué)校結(jié)構(gòu)性變革嗎？——基于ChatGPT的前瞻性分析[J].中國(guó)遠(yuǎn)程教育，2023，（4）：32-41.

[15]許韜，李宇航，代東旭.高等教育數(shù)字化的理論檢視、現(xiàn)實(shí)挑戰(zhàn)與進(jìn)階路徑[J].中國(guó)高等教育，2023，（23）：18-21.

[16]賀祖斌.中國(guó)高等教育系統(tǒng)的生態(tài)學(xué)分析[D].武漢：華中科技大學(xué)，2005：5.

[18]駱飛，馬雨璇.人工智能生成內(nèi)容對(duì)學(xué)術(shù)生態(tài)的影響與應(yīng)對(duì)——基于ChatGPT的討論與分析[J].現(xiàn)代教育技術(shù)，2023，（6）：15-25.

[19]趙玲玲.整體智治：基層治理模式創(chuàng)新的實(shí)踐邏輯與實(shí)現(xiàn)路徑——以浙江省“大綜合一體化”行政執(zhí)法改革為例[J].地方治理研究，2023，（1）：12-24、78.

[20]MIT Risk Management & Compliance Services. Risk management system[OL].

[21]趙磊磊，張黎，代蕊華.智能時(shí)代教育數(shù)據(jù)風(fēng)險(xiǎn)治理：實(shí)然困境與實(shí)踐路徑[J].湖南師范大學(xué)教育科學(xué)學(xué)報(bào)，2021，（6）：94-102.

[22]ISO. ISO 31000： 2018-risk management guidelines[OL].

[23]付昌奎，曾文婧.強(qiáng)化風(fēng)險(xiǎn)治理 護(hù)航教育改革[N].光明日?qǐng)?bào)，2019-12-17（13）.

[24]新華網(wǎng).新華網(wǎng)舉行“生成式人工智能內(nèi)容安全與模型安全檢測(cè)平臺(tái)”（AIGC-Safe）邀請(qǐng)測(cè)試發(fā)布會(huì)[OL].

[25]國(guó)家互聯(lián)網(wǎng)信息辦公室等七部門.生成式人工智能服務(wù)管理暫行辦法[OL].

[26]錢小龍.面向高質(zhì)量發(fā)展的基礎(chǔ)教育數(shù)字化轉(zhuǎn)型行動(dòng)[J].南通大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2023，（5）：122-132.

[27]Rudolph J， Tan S， Tan S. ChatGPT： Bullshit spewer or the end of traditional assessments in higher education？[J]. Journal of Applied Learning & Teaching， 2023，（1）：342-363.

[29]University of Rochester. AS&E instructors guide to using ChatGPT/AI in the classroom[OL].

[30]趙曉偉，祝智庭，沈書生.教育提示語工程：構(gòu)建數(shù)智時(shí)代的認(rèn)識(shí)論新話語[J].中國(guó)遠(yuǎn)程教育，2023，（11）：22-31.

[31]Cain W. Prompting change： Exploring prompt engineering in large language model AI and its potential to transform education[J]. TechTrends， 2024，（1）：47-57.

[32]EU Artificial Intelligence Act. EU artificial intelligence act[OL].

[33]張欣.生成式人工智能的算法治理挑戰(zhàn)與治理型監(jiān)管[J].現(xiàn)代法學(xué)，2023，（3）：108-123.

[34]呂健，陸宣.ChatGPT為勞動(dòng)者帶來的機(jī)遇、挑戰(zhàn)及其應(yīng)對(duì)[J].當(dāng)代經(jīng)濟(jì)管理，2023，（12）：1-8.

[35]苗逢春.生成式人工智能技術(shù)原理及其教育適用性考證[J].現(xiàn)代教育技術(shù)，2023，（11）：5-18.

[38]祝智庭，戴嶺，胡姣.高意識(shí)生成式學(xué)習(xí)：AIGC技術(shù)賦能的學(xué)習(xí)范式創(chuàng)新[J].電化教育研究，2023，（6）：5-14.

[39]錢小龍，張奕瀟，宋子昀，等.打開元宇宙學(xué)校之門：發(fā)端、現(xiàn)狀與走向[J].現(xiàn)代教育技術(shù)，2023，（3）：15-26.

[40]周洪宇，常順利.生成式人工智能嵌入高等教育的未來圖景、潛在風(fēng)險(xiǎn)及其治理[J].現(xiàn)代教育管理，2023，（11）：1-12.

[41]曹培杰，謝陽斌，武卉紫，等.教育大模型的發(fā)展現(xiàn)狀、創(chuàng)新架構(gòu)及應(yīng)用展望[J].現(xiàn)代教育技術(shù)，2024，（2）：5-12.

[42]翟雪松，楚肖燕，焦麗珍，等.基于“生成式人工智能+元宇宙”的人機(jī)協(xié)同學(xué)習(xí)模式研究[J].開放教育研究，2023，（5）：26-36.

Risk Representation， Early Warning and Resolution of

Integrating GAI into the Higher Education Ecosystem

HUANG Bei-Bei??? SONG Zi-Yun??? QIAN Xiao-Long^{[Corresponding Author]}

（Institute of Future Education， Nantong University， Nantong， Jiangsu， China 226019）

Abstract： Under the backdrop of the rapid development of generative artificial intelligence （GAI）， it is urgent to recognize， prevent， and resolve the educational risks that GAI brings to the higher education ecosystem. Therefore， this paper firstly analyzed the risk representation of integrating GAI into the higher education ecosystem， which mainly manifested as the dissolution of teachers and students sovereignty， the distortion of knowledge content， the destruction of security inclusion， and the alienation of talent cultivation. Subsequently， the risk warning mechanism that integrating GAI into the higher education ecosystem was constructed， which consisted of four modules of risk warning subject， risk warning content， risk warning guarantee， and risk warning process. Finally， this paper proposed to address the risks of integrating GAI into the higher education ecosystem by stimulating subject awareness， identifying knowledge content， optimizing digital environment and cultivating innovative talents. The research in this paper could provide theoretical guidance for risk governance of GAI education， promote the safe application of GAI in higher education， and safeguard the digital transformation and high-quality development of higher education.

Keywords： generative artificial intelligence; ChatGPT; higher education ecosystem; educational risk; risk warning

*基金項(xiàng)目：本文為國(guó)家社科基金一般項(xiàng)目“全民終身學(xué)習(xí)視野下的國(guó)家在線教育體系發(fā)展研究”（項(xiàng)目編號(hào)：20BSH053）的階段性研究成果。

作者簡(jiǎn)介：黃蓓蓓，研究員，博士，研究方向?yàn)楦叩冉逃畔⒒?，郵箱為963326617@qq.com。

收稿日期：2023年10月9日

編輯：小米