[摘要]以ChatGPT為代表的生成式人工智能在教育領域的快速發(fā)展，隨之帶來的各種潛在風險也引起了教育界的高度重視，如濫用ChatGPT生成內容導致的潛在倫理風險、生成內容可靠性難以甄別智能、使用者隱私和信息安全存在風險等。為了規(guī)范生成式人工智能技術在教育領域的應用，推進教育數字化轉型和教育高質量發(fā)展，探究生成式人工智能技術對高等教育的挑戰(zhàn)成為加強規(guī)范其應用和管理的重點。

[關鍵詞]ChatGPT；生成式人工智能；高等教育；挑戰(zhàn)

[中圖分類號]TP18；G64? ? ? [文獻標識碼]A

[DOI]：10.20122/j.cnki.2097-0536.2023.11.041

一、以ChatGPT為代表的生成式人工智能對高等教育的影響

2023年2月，中共中央、國務院印發(fā)的《數字中國建設整體布局規(guī)劃》強調要大力推行國家教育數字化戰(zhàn)略行動，促進數字技術在教育領域的創(chuàng)新應用。黨的二十大報告也明確了要推進教育數字化，使教育教學與信息技術進一步融合，加快教育數字化轉型。2023年2月13日，關于“數字變革與教育未來”的世界數字教育大會是推進教育數字化轉型的重要舉措。

教育數字化轉型是為了適應當今數字技術發(fā)展的必然趨勢，也是推進教育高質量發(fā)展的有效方式，推進教育數字化轉型已經成為世界各國的共識與趨勢。近年來，世界各國都在加快人工智能在高等教育領域的布局，以智能技術驅動教育理念的更新、教育模式的變革和教育體系的重構[1]。人工智能技術早已潛移默化地融入教學中，而以ChatGPT為代表的生成式人工智能的問世以及其帶來的各種潛在風險仍在教育界引起了軒然大波，也從側面印證了教育數字化轉型的緊迫性和必要性。

ChatGPT（Chat Generative Pre-trained Transformer，即聊天生成式預訓練模型）是一款由美國人工智能研究公司OpenAI開發(fā)的人工智能技術驅動的自然語言處理工具，使用了Transformer神經網絡架構，通過連接大量的語料庫來訓練模型，擁有接近人類水平的語言理解和文本生成能力，具有出色地回答各種復雜問題答案、撰寫視頻文案、編輯代碼等能力。ChatGPT可以通過自然語言交流，根據多輪次的對話互動，通過推理指令之間的關聯(lián)性，實現(xiàn)用戶學習和工作上的多種要求，人們可以直觀地體會到生成式人工智能技術對于工作和學習效率的提升。據在專業(yè)考試方面的測試顯示，ChatGPT基本可以通過谷歌L3級軟件工程師水平測試、美國執(zhí)業(yè)醫(yī)師資格考試、美國司法考試中的證據和侵權行為測試等[2]，因此上線五天之內用戶突破100萬，三個月內注冊數過億，成為迄今為止用戶增長速度最快的AI應用程序。

一項調查顯示，截止ChatGPT上線三個月內，美國有89%的大學生都在使用ChatGPT完成作業(yè)，其在教育領域的廣泛應用迅速引起了教育界的重視，所帶來的挑戰(zhàn)和風險更是熱議不斷。美國紐約市教育局率先禁止學生使用ChatGPT，中國香港大學也隨之嚴禁學生使用ChatGPT及其他人工智能工具完成作業(yè)和評估，也有學校和組織允許學生基于學術誠信原則合乎道德地使用ChatGPT輔助學習、但要求在引用其回答時必須明確標注。ChatGPT的優(yōu)勢顯而易見，它可以為學生提供各個領域的學習支持和輔導，并展現(xiàn)出較強的能力，但其在實際使用過程中仍存在大量的風險。如何應對ChatGPT所帶來的挑戰(zhàn)，采取應對策略賦能教學創(chuàng)新，推進以ChatGPT為代表的人工智能合理有效地推動教育數字化變革，是教育界迫切需要思考的問題。

二、以ChatGPT為代表的生成式人工智能對高等教育的挑戰(zhàn)

（一）學生濫用ChatGPT生成內容導致的潛在倫理風險

相比傳統(tǒng)搜索引擎，ChatGPT能夠幫助學生更加便捷地查閱和獲得信息；但與此同時，由于ChatGPT具有強大的信息快速生成能力，生成的內容語言流暢、邏輯結構清晰，且與人類語言習慣和思維方式高度相似，這就導致學生濫用生成內容完成作業(yè)和論文可能性的出現(xiàn)，最終導致抄襲、剽竊等惡劣學術行為，干擾正常的教學秩序，引發(fā)關于學術誠信危機的倫理問題，對學術生態(tài)產生惡劣影響，這也是目前教育界對于ChatGPT等生成式人工智能主要的擔憂之一。面對ChatGPT“便捷式”學習的誘惑，部分學生逐漸養(yǎng)成學習惰性，甚至過度依賴于這種“投喂式”學習模式，不愿去主動探索新的知識和技能，失去學習動力和能力，最終導致學習主體性被智能技術異化。倘若學生長期依賴ChatGPT的智能推薦，這種碎片化的學習方式容易導致信息渠道和信息內容的窄化，學生難以接收更全面、更豐富的信息，可能喪失對系統(tǒng)知識的通盤掌握[3]。

高等教育的目標是培養(yǎng)高素質的創(chuàng)新人才，創(chuàng)新人才的培養(yǎng)是各個領域的核心競爭力，而學生錯誤依賴于ChatGPT而失去學習能力的情況會導致創(chuàng)新人才培養(yǎng)困難。同時，學生使用ChatGPT所生成的內容時，無法保證其對生成內容完全理解和掌握，無法進一步將知識進行有效運用，這就失去了教育的最根本意義。另外，以ChatGPT為代表的生成式人工智能目前只能在部分地區(qū)使用，無法惠及到教育的所有群體，這種差異也會造成教育的不公平性。

人工技術的過多干預會導致教育中情感逐漸淡漠，甚至會導致缺失的情況。在老師的教學過程中，傳授知識的同時也會在師生間產生共同的情感體驗和共鳴，這不僅是知識的教育過程，也是立德樹人的過程，老師在教育過程中對學生情感道德的引導也是重要的環(huán)節(jié)。而ChatGPT生成信息的過程則缺乏了與學生的情感交流互動，可能導致情感和道德淡漠，將直接影響學生今后在生活工作中的人際關系。

ChatGPT本身也隱藏倫理風險，雖然其沒有自主價值觀判斷能力，但所獲取的數據庫內容大多數來自于反映西方的價值觀的網站、論壇、新聞等，包含價值觀、邏輯性、意識形態(tài)等內的隱性內容；ChatGPT的算法編制者本身也可能存在不同于我國主流思想的意識形態(tài)和道德準則，甚至可能會把個人偏見滲透入數據和算法中，因此輸出的信息可能存在文化偏見，不能夠保證正確性和真實性；另外，ChatGPT的研發(fā)公司OpenAI是在美國成立的人工智能研究公司，無法排除其被美國政府或者其他資本主義意識形態(tài)利用的可能性，甚至可能利用“算法霸權”等手段對學生進行錯誤意識形態(tài)植入?？此瓶陀^、公證、科學的算法技術，可能蘊含著算法制造者的政治偏見、民族偏見和性格偏見等[4]。

（二）學生難以甄別生成內容可靠性

數據、算法和算力作為ChatGPT等生成式人工智能的三大要素具有不透明性和不可解釋性。其核心支撐的數據主要來源于大量的西方公共語料庫，如維基百科、新聞報道、社交媒體、電子書籍等；其原始數據，即預訓練語料庫在分布上也存在傾斜，大部分是以英文數據為主，反映的也是西方國家的價值觀，契合資本主義意識形態(tài)；其內容的可信度和真實性都無法得到保障，并不適合我國主流意識形態(tài)。因此，如果不恰當使用西方數據為主的生成式人工智能，可能會對學生的思想教育產生潛在的不良影響，影響學生的價值觀和意識形態(tài)，加劇偏見價值的傳播。

由于學生無法檢索ChatGPT生成內容的出處，還可能會引發(fā)關于在不知情使用的情況下侵犯數據所有權、使用權等風險，導致無意識的學術造假和抄襲。對于一些新興領域或者具有難度的問題，ChatGPT甚至會生成錯誤答案，但這些模擬人類語言的看似具有邏輯性的錯誤答案具有迷惑性，學生難以甄別其正確性和可靠性。OpenAI自己發(fā)布的使用條款中也提到，ChatGPT存在生成有害建議、錯誤代碼或不準確信息的風險，并可能產生負面的社會影響。普林斯頓大學計算機科學教授Arvind Narayanan發(fā)表推特：“我嘗試了一些基本的信息安全問題，在大多數情況下，答案聽起來似乎有理，但實際上漏洞百出。”

ChatGPT的算法的運作過程具有不透明性，其本質就是一個基于統(tǒng)計學方式的猜詞模型，通過在大量的數據庫中歸納語言規(guī)律，總結單詞之間的搭配使用，根據與用戶的對話內容和上文的單詞的慣用搭配預測下一個單詞，模仿人類語言對單詞和語句進行搭配組合，而不是通過理解文字的邏輯結構產生文本，其底層邏輯仍然是歸納并非創(chuàng)新，無法創(chuàng)造新的科學知識，也無法保證正確性和科學性。ChatGPT所追求的是語義連貫而非正確的回答，這就導致它總是在圍繞一個話題進行反復解釋，產生沒有任何創(chuàng)新觀點的“流利的廢話”。

SimilarWeb的數據顯示，在2023年1月期間，平均每天約有1300萬用戶在使用ChatGPT。這種驚人的使用量對背后的算力提出了極高的要求，也需要先進的技術和巨大的財力來支撐。而目前我國能和OpenAI這種掌握先進技術和強大算力水平相比的公司卻是少之又少，這就可能導致將學生推向使用西方國家的人工智能軟件，而西方人工智能不可避免的滲透了不同文化和價值觀，容易對學生的意識形態(tài)產生錯誤導向。

（三）學生隱私和信息安全存在風險

OpenAI還未公布ChatGPT如何對用戶個人隱私和數據安全進行保護。在用戶的使用過程中，ChatGPT可以通過用戶在注冊賬戶時提供的銀行支付信息、通信地址信息等悄無聲息地收集到各種身份信息，還可以在用戶使用軟件時收集到IP地址、設備、操作系統(tǒng)、瀏覽器等相關的技術信息。在信息技術已經和人類生活密不可分的如今，用戶信息似乎已經不再是秘密，但是最令人擔憂的是，相比其他技術，ChatGPT生成式人工智能的運行方式是與學生直接對話，在進行多輪次的互動中便逐漸掌握了其興趣偏好、學習習慣、學習需求等大量私人信息，一旦這些隱私信息被第三方所獲取并加以利用，將會造成嚴重的后果。ChatGPT在其隱私政策中也聲明，它有權與各種實體共享用戶信息，包括附屬公司、業(yè)務合作伙伴、服務提供商和執(zhí)法部門。因此，學生信息的披露風險成為ChatGPT在教育領域應用中的重大隱患之一，如果平臺和監(jiān)管機構不采取相關保護措施，不法分子就很容易通過竊取個人信息實施違法犯罪活動。

三、結語

以ChatGPT為代表的生成式人工智能的崛起，意味著人工智能的一次重大變革，也會對高等教育的教學方式產生重大影響，如何應對人工智能在賦能教育發(fā)展同時帶來的風險是教育界需要思考的新問題。通過研究其存在的潛在風險，積極地探尋應對策略，是將生成式人工智能積極地融入教育教學的有效方式，也是推進教育數字化轉型的重要環(huán)節(jié)。教育界應該以開放的思想和廣闊的視角接納其在教育領域的影響，以科學理性、謹慎的態(tài)度把握該項技術的本質特征，并有效運用到教學中。相關教育部門和高等院校必須加快更新、制定與時俱進的高等教育課程規(guī)劃和新時代人才培養(yǎng)方案，推動教育數字化轉型，以應對高速發(fā)展的人工智能技術對高校教育巨大的沖擊和挑戰(zhàn)。

參考文獻：

[1]蓋君芳，黃寶忠.教育人工智能：新的革命[J].浙江大學學報（人文社會科學版），2022，52（6）：53-65.

[2]盧宇，余京蕾，陳鵬鶴，等.生成式人工智能的教育應用與展望——以ChatGPT系統(tǒng)為例[J].中國遠程教育，2023，43（4）：24-31+51.

[3]馮雨奐.ChatGPT在教育領域的應用價值、潛在倫理風險與治理路徑[J].思想理論教育，2023（4）：26-32.

[4]馮建軍.網絡公民教育：智能時代道德教育的新要求[J].倫理學研究，2022（3）：1-9.

作者簡介：張玥（1990.10-），女，漢族，江蘇連云港人，博士，講師，研究方向：教育學。