任鳳琴,董子涵

(山東農(nóng)業(yè)大學 馬克思主義學院,山東 泰安 271018)

2022年末,生成式人工智能應用程序ChatGPT一經(jīng)發(fā)布就迅速上升為一個現(xiàn)象級熱點事件,人工智能的發(fā)展成為世界各國關(guān)注的焦點之一。自20世紀50年代興起至今,其核心技術(shù)和典型應用都呈現(xiàn)出爆炸式增長的態(tài)勢,以算法和大數(shù)據(jù)為驅(qū)動力的生成式人工智能成為打造教育服務智能體的新型引擎,為思想政治教育的創(chuàng)新發(fā)展提供了新的契機。但人們在享受人工智能技術(shù)紅利的同時,也應該意識到其所帶來的倫理風險,教育過程中某些不可或缺的成分如倫理、價值、道德、情感等可能會被技術(shù)偏見所忽視,這反過來又在一定程度上影響著思想政治教育的實效性。因此,落實立德樹人的根本任務,必須從倫理的視角對生成式人工智能賦能思想政治教育所產(chǎn)生的風險進行審視與反思,合理掌握技術(shù)與倫理的尺度,真正回歸思想政治教育本質(zhì)。

一、生成式人工智能賦能思想政治教育的倫理風險

儒家倫理文化中,君臣、父子、夫婦、兄弟和朋友之間的人倫關(guān)系稱為五倫,忠、孝、悌、忍、善是其關(guān)系準則。五倫涉及的是人與人、人與家庭以及人與社會之間的關(guān)系,由此決定相對應的責任和角色,側(cè)重于由客觀關(guān)系的位分而帶來的客觀主體行為和思想的規(guī)約,核心是社會生活的正義秩序及其表現(xiàn)。作為一種深度合成類技術(shù),生成式人工智能所營造的虛擬場景能夠與現(xiàn)實社會共生,倫理也相應地指向虛實交融中的種種社會關(guān)系。人工智能與思想政治教育跨界相交,從技術(shù)介入到技術(shù)融入,在推進思想政治教育創(chuàng)新的同時,也不可避免地帶來了倫理風險。

(一)主體維度:教育者主導性地位下降

在思想政治教育生態(tài)中,教育者是主體,在教育過程中占據(jù)主導性地位[1]。生成式人工智能技術(shù)雖然擁有無限大的數(shù)據(jù)庫以及強大的算法系統(tǒng),也能夠模擬人類進行某些日常工作,但其本質(zhì)仍然是一門技術(shù),無法擁有傳統(tǒng)思想政治教育基于教育情感的親和力和權(quán)威性,在賦能思想政治教育的過程中,可能會影響師生的良性互動,導致教育者主導性地位下降。

一方面,生成式人工智能技術(shù)的介入在一定程度上弱化了教育者和教育對象的直接聯(lián)系,淡化了師生關(guān)系。思想政治教育不僅是一項政治性實踐,而且是一種情感養(yǎng)成[2]。生成式人工智能依托算法對思想政治教育的各個環(huán)節(jié)和組成部分進行量化分析,其所采集和利用的數(shù)據(jù)只不過是教育過程中的淺層數(shù)據(jù),并不能反映思想政治教育過程中教育者與教育對象深層次的情感聯(lián)系。不可否認,生成式人工智能提供的智能學習空間與自主學習支持系統(tǒng)能夠在一定程度上提高學生自主學習和自我獲得的能力,但在人-機-人的關(guān)系中,機作為主要技術(shù)支撐,其倫理判斷難以被完全數(shù)字編碼化,也無法像教育者一樣為學生提供相應的人文關(guān)懷。以美國人工智能實驗室OpenAI推出的ChatGPT為代表的生成式人工智能應用程序為例,它通過龐大的數(shù)據(jù)集來訓練計算機系統(tǒng),使其能夠獲得一種“類人”的響應能力,而不僅僅是大量數(shù)據(jù)和文本參數(shù)簡單堆砌而成的“大型語言模型”[3]。一旦其介入教學過程,將會重塑教育生態(tài),打破教育-學校以及教育-師生之間的強相關(guān),使教育者課堂主導角色存在感減少,削弱教育者的課堂主導作用,傳統(tǒng)的師生關(guān)系受到人工智能“類主體”功能的沖擊,可導致師生情感遮蔽以及關(guān)系淡化的倫理風險。

另一方面,人工智能與思想政治教育相結(jié)合對教育者的能力提出了新挑戰(zhàn)。與傳統(tǒng)思想政治教育師生面對面說理傳教的方式不同,生成式人工智能技術(shù)的發(fā)展改變了教育者與教育對象必須在同一時空場域內(nèi)進行理論輸出與輸入的狀況,為教育者提供了超現(xiàn)實的虛擬學習空間和開放、共享式的交互式學習系統(tǒng),打破了傳統(tǒng)思政教育以課堂為中心、以教育者為知識灌輸者的教育模式。ChatGPT爆火的背后是1 750億參數(shù)的自然語言處理模型支持,GPT-4的推出更是標志著這種聊天生成預訓練模擬器已經(jīng)遠遠超過聊天的層面,有著強大的理解能力、學習能力和自我意志,具備一種“類人”的響應能力和超出大多數(shù)機器的智慧,這種生成式人工智能在交流互動方面的應用產(chǎn)物無疑對思想政治教育者的教學能力提出了新的挑戰(zhàn)?，F(xiàn)實情況中,部分教育者由于各種因素的限制對生成式人工智能應用的認識和運用還達不到要求,無法發(fā)揮人機協(xié)作工作模式的優(yōu)勢,使得人工智能技術(shù)的使用、智能化教學無法進一步開展,降低了工作效能,進而導致在生成式人工智能賦能思想政治教育模式下出現(xiàn)教育者的身體“缺場”趨勢,引發(fā)了思想政治教育主體維度的風險。

(二)客體維度:教育對象自我認知失衡

生成式人工智能的加持使得傳統(tǒng)思想政治教育的教育空間被無限延伸,這打破了傳統(tǒng)教育模式的時間和空間界限,教育主體能夠依托網(wǎng)絡進行實時交流,在提高教育效率的同時,也增強了教育者與教育對象的交互。但正是由生成式人工智能所創(chuàng)建的“無限的”學習空間,使作為思想政治教育客體的教育對象產(chǎn)生了一定程度的自我認知的失衡。

一方面,無界限空間的匿名性導致了教育對象“自我”與“非我”的混淆。在網(wǎng)絡匿名制的保護下,教育對象脫離傳統(tǒng)教育的實名制度,披上了“馬甲”,現(xiàn)實中的班規(guī)紀律等被忽視,表現(xiàn)出強烈的個性,甚至會形成與現(xiàn)實生活中截然不同的虛擬人格。從社會認知的視角來看,虛擬人格就是其在現(xiàn)實生活中被種種制度框架所規(guī)范起來的“本我”人格。在無界限匿名制的教育空間的掩護下,這種虛擬人格會逐漸演化成“非我”人格,認為現(xiàn)實中的“我”不需要對網(wǎng)絡上的“我”的言語行為承擔責任。伴隨著生成式人工智能與思想政治教育結(jié)合的不斷深入,教育對象如果把握不好現(xiàn)實世界和虛擬世界的平衡,必將導致“自我”與“非我”的相互撕扯,最終形成“兩面人”。

另一方面,生成式人工智能的潛在畫像功能在一定程度上會導致個體自我人格的迷失。一般而言,人工智能的三大核心要素是大數(shù)據(jù)、算法和計算能力,因而人工智能與思想政治教育的關(guān)聯(lián)和契合也離不開這三大核心要素[4]。思想政治教育依托生成式人工智能強大的數(shù)據(jù)庫以及強勁的算法和計算能力,能夠?qū)€體進行畫像,從而實現(xiàn)對不同個體的個性化教育。但我們也應該注意到,生成式人工智能的畫像功能看似是對教育對象個性和心理的精準剖析,實則遠遠不能體現(xiàn)全部的我,人的社會性、復雜性等也并不是一堆符號和數(shù)據(jù)所能完全代表的。一種可能,教育對象可以借助虛擬的學習空間刻意塑造自己的符號身份,干擾人工智能的畫像功能,給教育者傳遞錯誤的信息,從而反向鞏固其虛擬的符號化身份;另一可能,教育對象完全沉浸于充當數(shù)字、符號的虛擬角色,進而喪失自我。由此可見,生成式人工智能的潛在畫像功能未必利于教育對象的全面發(fā)展,這與立德樹人的最終教育目標是相割裂的。

(三)介體維度:人工智能技術(shù)運用不當

思想政治教育介體是聯(lián)結(jié)思想政治教育主體與客體的神經(jīng)中樞,它是指在思想政治教育過程中,教育主體為取得相應的教學成果而對教育客體采取的教育方法和手段。隨著科技的發(fā)展,思想政治教育介體的種類不斷豐富,“思想政治教育+人工智能”已經(jīng)成為當下思想政治教育的發(fā)展潮流。借助生成式人工智能技術(shù),思想政治教育的方式方法逐漸多元化、時代化,但我們也應該意識到,科技本身就是一把雙刃劍,它有時也“表現(xiàn)為異己的、敵對的和統(tǒng)治的權(quán)力”[5],如果對人工智能技術(shù)運用不當,就會引發(fā)思想政治教育介體維度的倫理風險。

第一,教育信息的取用不當導致個人隱私泄露的風險。生成式人工智能賦能思想政治教育的實踐過程需要教育者和教育對象大量的數(shù)據(jù)信息支持,而這些信息數(shù)據(jù)大多來源于對教育者和教育對象全景式的監(jiān)控,依靠各種傳感設備以及錄音錄像設備等提供各種思想政治教育實踐活動的記錄。這就意味著用戶個人需要讓渡出某一部分的信息自主權(quán),將個人的隱私有意識地“泄露”給人工智能,以此來實現(xiàn)教育過程中千人千面的個性化定制與教育資源推送。當然,數(shù)據(jù)本身并不具備倫理色彩,數(shù)據(jù)倫理問題往往產(chǎn)生在使用者或智能算法等對數(shù)據(jù)的使用過程中。當數(shù)據(jù)脫離母體,被技術(shù)自身或者別有用心之人利用,其所帶來的倫理風險不容忽視。

第二,運用技術(shù)差異而導致的數(shù)字鴻溝風險。生成式人工智能本身就是一種深度合成類技術(shù),該類型技術(shù)應用便捷、場景豐富,生成內(nèi)容具有價值取向和誘導性,通過簡單的人工提示和算法運行即可產(chǎn)生高風險系數(shù)的輸出[6]。由于教育者和教育對象本身對這種合成類人工智能技術(shù)的認識和運用水平不同,在智能教育實踐中,可能會產(chǎn)生數(shù)字鴻溝問題,出現(xiàn)信息隔閡,阻礙教育主客體之間的交流。同樣,在同一性質(zhì)的教育主體之間,也會因技術(shù)運用水平的差異而降低思想政治教育的公平性,致使那些技術(shù)運用水平較低的教育主體產(chǎn)生自卑感和挫敗感,逐漸被邊緣化和透明化,喪失了思想政治教育的主導權(quán)和話語權(quán),這不利于思想政治教育成效的取得和教育現(xiàn)代化的發(fā)展。

第三,意識形態(tài)引導不當?shù)娘L險。目前來講,人工智能的研發(fā)和運用仍然需要人工的支持,在研發(fā)設計過程中,相關(guān)技術(shù)人員自身的思想觀念和價值導向被融入其中,這會不自覺地影響人工智能技術(shù)的發(fā)展走向,給某些西方國家提供可乘之機。西方國家在人工智能技術(shù)的研發(fā)上具備先發(fā)優(yōu)勢,基于生成式人工智能與我國社會生活深度融合所產(chǎn)生的收益而獲得的認同,有可能通過非政治化外衣極為隱蔽地裹挾著政治意圖進行價值輸出,以達到其不可告人的目的。思想政治教育是為我國立德樹人的過程,倘若被某些不懷好意的國家所利用或影響,將對我國意識形態(tài)安全產(chǎn)生嚴重威脅。

(四)環(huán)體維度:思想政治教育環(huán)境復雜化

思想政治教育環(huán)體即思想政治教育的環(huán)境,是指與思想政治教育有關(guān)的、對人的思想政治品德形成、發(fā)展產(chǎn)生影響的外部因素[7]240。生成式人工智能與思想政治教育的結(jié)合為思想政治教育的發(fā)展提供了智能教育環(huán)境系統(tǒng),但受其智能驅(qū)動特點的影響,思想政治教育環(huán)境也逐漸復雜化,進而引發(fā)了思想政治教育環(huán)體維度的倫理風險。

第一,家庭群體感降低。家庭是思想政治教育的第一課堂。在家庭成員之間的交流交往中,蘊含著豐富的思想政治教育元素,家庭的政治知識、態(tài)度、情感、價值取向會影響下一代[8],這是子女獲得社會化的原初起點。生成式人工智能所構(gòu)建的虛實相融的立體化教育場景使得教育對象在虛擬和現(xiàn)實之間頻繁切換,并且能夠?qū)λ屑彝コ蓡T一視同仁地提供無差別服務,因此極有可能導致“人機共情”的親密關(guān)系的產(chǎn)生,引發(fā)人類之間的地緣、業(yè)緣和類血緣關(guān)系解構(gòu)的倫理風險。長此以往,家庭中長輩的權(quán)威性被削弱,家庭思想政治教育中所蘊含的深層次的情感聯(lián)系被一步步蠶食,相對于與家庭成員交流,教育對象更傾向于人機互動,家庭成員之間的良性互動減少,這不利于教育對象的全面發(fā)展。

第二,學校思想政治教育環(huán)境復雜化。學校是開展思想政治教育的主要場域,學校環(huán)境對于教育對象的影響是潛移默化的。隨著生成式人工智能技術(shù)與學校思想政治教育活動的結(jié)合,學校思想政治教育空間被逐漸擴大,不再僅僅局限于傳統(tǒng)的思想政治教育課堂,轉(zhuǎn)而向人工智能技術(shù)所創(chuàng)造的教學平臺擴展,現(xiàn)實空間與虛擬空間的交叉混合,不僅給教育者的教學工作帶來了挑戰(zhàn),而且使學校思想政治教育環(huán)境更加復雜多變。

第三,社會主流價值觀被消解。思想政治教育作為社會政治生活的關(guān)鍵輔助,具有促進社會結(jié)構(gòu)優(yōu)化、凝聚社會共識、維護社會穩(wěn)定的重要作用[9]。一方面,生成式人工智能技術(shù)利用大數(shù)據(jù)和算法,能夠輕易捕捉用戶的興趣點,再通過內(nèi)容推薦與協(xié)同過濾兩種運行機制不斷為用戶提供感興趣的信息?；诖?思想政治教育所宣傳的核心價值觀與價值共識若不是人們感興趣的內(nèi)容,算法就會將其自動過濾掉,這極大地影響了社會主流價值觀的傳播。進而,在生成式人工智能所構(gòu)筑的信息“繭房”中,教育對象的學習興趣和注意力都被鎖定在既定的范圍內(nèi),最終會逐漸形成同質(zhì)化圈層,對更高意義上的社會共同體身份的認同卻不斷下降。此外,不同圈層的價值觀也不盡相同,某些圈層文化甚至能夠在一定程度上消解稀釋社會主流意識形態(tài)的價值共識,使社會成員的黏性逐漸減弱,產(chǎn)生群體思想極化現(xiàn)象,引發(fā)社會層面的倫理風險。

二、生成式人工智能賦能思想政治教育倫理風險的原因

生成式人工智能賦能思想政治教育,是以大數(shù)據(jù)為驅(qū)動、以智能算法為核心、以思想政治教育應用為載體而產(chǎn)生的一系列教育活動。在此基礎(chǔ)上所引發(fā)的一系列倫理風險有其必然性,它既承接了人工智能的一般性倫理問題,又體現(xiàn)了思想政治教育其本身的特殊性。究其原因,則是多方面因素相互作用的結(jié)果。

(一)算法自身的局限性與思想政治教育的實效性相矛盾

隨著技術(shù)的發(fā)展,回歸、聚類、貝葉斯、深度學習、自動編碼器以及各類神經(jīng)網(wǎng)絡算法等紛紛出現(xiàn),數(shù)據(jù)算法成為發(fā)現(xiàn)潛在教育數(shù)據(jù)價值的重要工具[10]。隨著生成式人工智能的進一步發(fā)展,人工智能的算法優(yōu)勢逐漸凸顯。一時間,“一切皆可計算”成為人工智能的代名詞。但算法在彌補人類思維局限性的同時,其自身也同樣具有一定的局限性,人工智能算法自身的局限性與思想政治教育實效性的矛盾正是其賦能思想政治教育帶來倫理風險的首要原因。

一方面,算法路徑的固定不利于教育對象的個性化發(fā)展。思想政治教育追求人自由而全面的發(fā)展,每個教育對象的成長背景和環(huán)境不同,其個性和對自身發(fā)展標準的界定也應有所不同。但在生成式人工智能介入后,所謂的思想政治教育過程卻演變?yōu)橄盗兴惴?即按照預先設定的數(shù)學公式進行運作,將教育對象“拆解”為一堆沒有溫度的數(shù)字和符號,被分門別類地細化并打上相應的標簽。算法不斷向教育對象推送所謂的個性化教育資源,后者按照算法預先設定的固定模式進行學習。這種用統(tǒng)一的算法標準衡量每個學生發(fā)展的方式,最終必然導致個體思維固化和分析解決復雜問題能力的弱化,會大大降低思想政治教育的實效性,本質(zhì)上不利于受教育者的個性化發(fā)展,因而不具備科學性。

另一方面,算法的數(shù)據(jù)依賴性與思想政治教育的動態(tài)性相悖。在生成式人工智能賦能思想政治教育的過程中,算法是通過數(shù)據(jù)收集、數(shù)據(jù)審查以及分析與計算來進行工作的,其所有的工作內(nèi)容幾乎都與數(shù)據(jù)的處理有關(guān)。因此,算法具有較強的數(shù)據(jù)依賴性,但數(shù)據(jù)分布本身就帶有一定的偏見性[11]。生成式人工智能算法模型是在收集過去數(shù)據(jù)的基礎(chǔ)上建立的,其所收錄的數(shù)據(jù)本身就是過時的。用過時的數(shù)據(jù)分析現(xiàn)時的問題,這顯然與思想政治教育“因時而新”的動態(tài)性相悖。此外,在借助算法推進思想政治教育實效性的過程中,教育對象思維的轉(zhuǎn)化、直覺靈感以及頓悟等“意外收獲”是無法通過數(shù)據(jù)來預測和分析的,即算法利用收集到的數(shù)據(jù)只能分析教育思想政治教育過程的“量變”,而無法預測其“質(zhì)變”。

(二)技術(shù)應用的工具理性與思想政治教育的價值理性相沖突

生成式人工智能賦能思想政治教育首先要具備合理性這一基本要素。合理性分為工具理性和價值理性,前者更追求效率,重視發(fā)展的結(jié)果,后者則更注重人的個體價值和意義,不一定能讓結(jié)果大于發(fā)展。馬克思·韋伯指出,當人的行為越趨向于滿足合理性的要求,社會結(jié)構(gòu)就會趨向于合理化發(fā)展[12]。因此,當生成式人工智能技術(shù)的工具理性與思想政治教育的價值理性越趨向于滿足合理性的時候,思想政治教育結(jié)構(gòu)也就越趨向于合理化的穩(wěn)定發(fā)展。然而,從當前生成式人工智能推動思想政治教育的情況來看,二者仍然存在著分歧。

首先,將生成式人工智能技術(shù)應用到思想政治教育中符合推動教育創(chuàng)新和教育現(xiàn)代化的目標合理性。生成式人工智能技術(shù)可以幫助教育者計算教育對象的知識儲備、評估與動態(tài)檢測教育對象的學業(yè)水平、重現(xiàn)或模擬教育場景等,為教育對象帶來不一樣的教育體驗,促進思想政治教育模式的創(chuàng)新與發(fā)展。但是,在二者深度融合的發(fā)展過程中,某些應用主體沉浸在人工智能所創(chuàng)造的有效性與合理性的幻象中,從而產(chǎn)生了技術(shù)依賴,進而引發(fā)了思維惰性,喪失了批判精神和創(chuàng)新精神。對人工智能的應用也背離了其當初“以技術(shù)促進以人為本”的目標設定,一味追求高效率、高回報,以達到最終目的和利益最大化的實現(xiàn)。

其次,生成式人工智能與生俱來的工具理性所攜帶的高效性和便捷性使其一開始就極其容易將人的價值理性局限在解決技術(shù)問題的范圍內(nèi),難以跳出技術(shù)的圈層,使其看不到生成式人工智能賦能思想政治教育背后的人的價值以及發(fā)展本質(zhì)。眾所周知,生成式人工智能擁有天然的科技霸權(quán),在與思想政治教育相結(jié)合的過程中能夠輕易掌握話語權(quán),使教育被技術(shù)所支配。

最后,工具理性必然導致技術(shù)依賴,過度依賴人工智能技術(shù)而忽視人與人之間的情感交流,這不僅不利于教育對象高階思維能力的發(fā)展,更背離了思想政治教育促進人全面發(fā)展的初衷。思想政治教育本身就是“人性為王”的教育,過多強調(diào)技術(shù)應用的工具理性而忽視了“以人為本”的教育的價值理性,會導致技術(shù)對教育的“越位”,導致生成式人工智能技術(shù)的工具理性與思想政治教育的價值理性產(chǎn)生沖突,形成潛在的倫理風險。

(三)人工智能的類主體性與教育者的主導地位相對峙

在教育現(xiàn)代化理念的引導下,生成式人工智能在教育領(lǐng)域的發(fā)展逐步深入,深刻改變了人們的學習方式。同時,隨著信息技術(shù)的快速發(fā)展,人工智能的工具屬性也在逐步體現(xiàn)出“類人”屬性,像ChatGPT以及“文心一言”等生成式人工智能應用程序的推出和爆火,在一定程度上預示著人工智能不僅能夠在人們的日常生活中扮演工具性的角色,而且有能力取代人類的地位,直接扮演人類角色,這種現(xiàn)象在思想政治教育領(lǐng)域表現(xiàn)為教育者主導地位的下降。

“一切技術(shù)都是身體和神經(jīng)系統(tǒng)增加力量和速度的延伸”[13],技術(shù)被創(chuàng)造的最初目的就是作為人在現(xiàn)實生活中“解弊”的工具或手段,用來輔助人的正常生產(chǎn)生活。其中,人必然是主體,技術(shù)只能是客體。第三次科技革命以來,人工智能被廣泛應用于多個行業(yè)領(lǐng)域,逐漸代替了人們無休止的勞作。從這一層面上講,這是人工智能對人的勞動解放。然而,當生成式人工智能的“類人思維”能力和自主學習能力不斷提高,我們就應該意識到,生成式人工智能已經(jīng)不再滿足于充當一個技術(shù)化工具的角色了。

從人工智能AlphaGo接連戰(zhàn)勝世界圍棋冠軍李世石和柯潔的例子不難看出,人工智能在某些方面,尤其是計算方面已經(jīng)遠遠超越人的思維能力,這就很難保證人類以后不會被技術(shù)所操控。盡管我們當前仍然處于弱人工智能時代,但人類與人工智能的關(guān)系已經(jīng)不再是純粹的“人與物”的關(guān)系,而是向著“人與類人”的關(guān)系發(fā)展。因此,隨著生成式人工智能的類人屬性屬性不斷增強,其之于思想政治教育而言,也遠遠超出了傳統(tǒng)意義上的工具價值,而扮演起了“類教師”的角色,引發(fā)了一系列的倫理風險。一方面,生成式人工智能的類人屬性不斷增強,威脅著教育者的主導地位,削弱了其道德權(quán)威,這導致了師生之間情感遮蔽與關(guān)系疏離。生成式人工智能賦能思想政治教育的出發(fā)點在于“協(xié)同育人”,但生成式人工智能的AR、VR、MR以及ChatGPT等功能應用的科技感和吸引力大于教育內(nèi)容本身,ChatGPT-4的推出更是預示著其可能具備改造人類思想和創(chuàng)造的能力,形成人工智能超越專業(yè)化和大眾化的趨勢,甚至可能在某些方面替代人類[14]。這種生成式人工智能應用的“超智慧”屬性與教育者自身有限的教學能力形成了鮮明對比,教育對象的主體自覺性不斷增強,對教育者的管理和教學方式心生抵觸,不利于和諧師生關(guān)系的構(gòu)建。另一方面,技術(shù)發(fā)展的背后不僅是科研的推動,還有巨大的資本與權(quán)力的加持。海德格爾曾指出,“現(xiàn)代技術(shù)業(yè)已不是中立中性的,它架構(gòu)式地滲透、彌散、影響,甚至操控人的現(xiàn)代生活”[15]。當生成式人工智能算法程序被資本操控、數(shù)據(jù)庫被入侵篡改,科技向善將無法得到保證。思想政治教育作為社會主義精神文明建設的中心環(huán)節(jié),在與生成式人工智能相融合的過程中,要警惕其“類主體性”,必須牢牢把握思想政治教育的正確方向。

(四)技術(shù)發(fā)展的難以預測性與風險認知的有限性相制約

生成式人工智能依賴于海量的數(shù)據(jù)和強大的算法系統(tǒng)作用于思想政治教育的教育者和教育對象,有效提高了教育對象的學習效率,大大降低了教育者的勞動強度。近年來,人工智能被越來越多地應用于思想政治教育活動中,其技術(shù)更新也越來越快。但是,由于主觀因素和現(xiàn)實條件的限制,教育者、教育對象以及技術(shù)人員等應用主體對其潛在倫理風險的認知卻是有限的,這也是導致倫理風險的重要原因之一。

一方面,算法作為生成式人工智能的技術(shù)核心之一,其本質(zhì)是一種方法或步驟。算法本身具有一定的自主性,這種自主性表現(xiàn)為它具備深度學習和強化學習的能力。深度學習表示算法已經(jīng)能夠“獨立地將簡單的概念合并,從數(shù)據(jù)出發(fā)創(chuàng)建抽象的模型”[16]。這表明只要數(shù)據(jù)足夠,算法就可以自己創(chuàng)建和修改模型。強化學習則是指算法在運用數(shù)據(jù)的同時,還可以產(chǎn)生新的數(shù)據(jù)并從中進行學習,算法所具備的這兩種能力無疑為人工智能技術(shù)的發(fā)展帶來了更多的可能性和難以預測性。更重要的是,算法以代碼的形式出現(xiàn),難以轉(zhuǎn)化為常人能夠理解的語言文字,相關(guān)應用主體無法明確掌握算法的意圖,更無法判斷生成式人工智能技術(shù)背后的決策邏輯和責任歸屬,這就導致了“算法黑箱”的出現(xiàn)。

另一方面,相關(guān)應用主體對生成式人工智能賦能思想政治教育的風險認知是有限的。當前,大量思政教育工作者積極響應“教育數(shù)字化”的要求,努力“入網(wǎng)、入圈”。但由于人工智能與思想政治教育本身是距離較遠的兩個學科,教育者對生成式人工智能的算法運行規(guī)則并不十分了解,同樣地,人工智能的相關(guān)研發(fā)設計人員對思想政治教育的相關(guān)知識和要求也未必了解,二者均缺乏對技術(shù)倫理的整體觀照。這就使得不同的應用主體之間出現(xiàn)巨大的隔閡,對生成式人工智能與思想政治教育合力育人過程中的倫理風險認知不足。

生成式人工智能賦能思想政治教育本應是相互融合、協(xié)同育人的過程,但由于技術(shù)發(fā)展的難以預測性和相關(guān)人員對風險認知的有限性相互制約,致使在教育實踐的過程中出現(xiàn)多種倫理風險,阻礙了二者的進一步融合發(fā)展。

三、生成式人工智能賦能思想政治教育倫理風險的超越路徑

消解生成式人工智能賦能思想政治教育所引發(fā)的倫理風險是推動思想政治教育智能化發(fā)展的重要條件之一。面對飛速發(fā)展的人工智能技術(shù),需要正確把握二者結(jié)合的特點和規(guī)律,堅持育人為本,牢牢把握思想政治教育的主線,促進價值理性和工具理性的協(xié)調(diào)發(fā)展,建立起相關(guān)法律保障機制,以期實現(xiàn)對生成式人工智能賦能思想政治教育倫理風險的超越。

(一)堅持育人為本和技術(shù)為用

生成式人工智能賦能思想政治教育是推動思想政治教育創(chuàng)新發(fā)展的重要方式,最終目標是使人們實現(xiàn)思想上的廣泛認同、道德上的良好養(yǎng)成以及行為上的篤實好學。要使人工智能技術(shù)真正為思想政治教育賦能增效,需要從生成式人工智能技術(shù)和思想政治教育規(guī)律二者之間的邏輯關(guān)系出發(fā),努力做到育人為本和技術(shù)為用相結(jié)合。

一方面,從學科立場和屬性出發(fā),明確人工智能賦能思想政治教育的價值導向。黨的二十大報告指出:“馬克思主義是我們立黨興國、興黨興國的根本指導思想。實踐告訴我們中國共產(chǎn)黨為什么能,中國特色社會主義為什好,歸根到底是馬克思主義行,是中國化的馬克思主義行?！盵17]新時代背景下的思想政治教育,要始終堅持馬克思主義的理論指導,以追求人的全面發(fā)展和落實立德樹人的根本教育任務為主線,明確技術(shù)為用、育人為本的價值導向。思想政治教育本質(zhì)上是意識形態(tài)的教化,應在教育過程中不斷提高人的思想指導的素質(zhì),促進人與人、人與自然、人與社會的和諧健康發(fā)展,一切技術(shù)最終都應該回歸到這一根本。

另一方面,反思生成式人工智能與思想政治教育結(jié)合的泛化趨勢,明確二者之間的結(jié)合限度。技術(shù)背后的復雜性遠超人們的想象,若毫無限制地將其用于思想政治教育領(lǐng)域,勢必會威脅到意識形態(tài)領(lǐng)域的安全。因此,要堅持以習近平總書記關(guān)于人工智能和思想政治教育的相關(guān)論述為遵循,明確思想政治教育智能化的倫理界限和適用范圍,發(fā)揮生成式人工智能在構(gòu)建智慧教室、精準畫像以及學情分析等方面的輔助作用,提升教育的實效性,在涉及道德養(yǎng)成以及價值判斷等方面,對生成式人工智能的技術(shù)標準以及相關(guān)的算法邏輯做出規(guī)范,必要時甚至可放棄人工智能技術(shù),避免思想政治教育被技術(shù)所綁架。

(二)堅持價值理性和工具理性

人工智能技術(shù)的工具理性與思想政治教育的價值理性并非是絕對對立的,在思想政治教育創(chuàng)新發(fā)展中促進二者同向同行是教育現(xiàn)代化發(fā)展、數(shù)字化發(fā)展的題中應有之義。從生成式人工智能賦能思想政治教育所帶來的倫理風險來看,人工智能與思想政治教育的結(jié)合并不是簡單的疊加,而是既要遵循人工智能技術(shù)倫理的一般性原則,又要重視思想政治教育自身的發(fā)展規(guī)律,二者相互協(xié)調(diào),以促成其合理性的實現(xiàn)。

首先,要尊重思想政治教育的規(guī)律。思想政治教育規(guī)律是“思想政治教育活動在其運動發(fā)展過程中內(nèi)在的、本質(zhì)的、必然的聯(lián)系”[7]119。在生成式人工智能賦能思想政治教育的過程中,要錨定人工智能在思想政治教育中的價值定位,實現(xiàn)技術(shù)本位到人之本位的轉(zhuǎn)變、由人到機的轉(zhuǎn)變和由師至生的轉(zhuǎn)變。依托人工智能,“為了人、發(fā)展人、服務人”的價值邏輯將思想政治教育對智能技術(shù)的依賴轉(zhuǎn)變?yōu)榻枇χ悄芗夹g(shù)回歸技術(shù)服務于促進人全面發(fā)展的價值理性,引領(lǐng)人工智能技術(shù)的持久發(fā)展。

其次,應以辯證的眼光看待生成式人工智能工具理性與思想政治教育價值理性的關(guān)系。對教育效率的追求應該以育人為前提條件,同時更關(guān)注教育價值的體現(xiàn)。教育主體要用馬克思主義的世界觀和方法論來評判生成式人工智能之于思想政治教育的利和弊,以社會主義核心價值觀不斷優(yōu)化人工智能算法系統(tǒng)“內(nèi)嵌式規(guī)則”的倫理取向,有效防范工具理性在思想政治教育領(lǐng)域內(nèi)的霸權(quán)。

最后,要減少“冷”的工具理性,增加“暖”的價值理性。隨著生成式人工智能賦能思想政治教育的強度不斷攀升,思想政治教育本身所具有的價值理性逐漸被人工智能的工具理性所掩蓋,將教育對象“囚禁”在智能工具的陷阱之中。思想政治教育是有溫度的教育,既要以理服人,又要以情動人,在教學過程中不僅要利用人工智能“傳道授業(yè)解惑”,而且要給予學生充分的情感關(guān)懷,主動與學生溝通交流,建立起和諧的師生關(guān)系,最終實現(xiàn)思想政治教育的價值旨歸。

(三)推動技術(shù)創(chuàng)新和個體賦能

生成式人工智能深度賦能思想政治教育,關(guān)鍵點在于“賦”?，F(xiàn)有的教學實踐中,生成式人工智能與思想政治教育的關(guān)聯(lián)更多體現(xiàn)在智能獲取教育數(shù)據(jù)層面,通過智能技術(shù)及傳感設備等實時捕捉與識別教育教學中的多模態(tài)信息,從而幫助教師開展學情診斷和教學評估[18]。在此基礎(chǔ)上,生成式人工智能有選擇性地向教育對象推薦相關(guān)信息。需要注意的是,沒有經(jīng)過干預的人工智能技術(shù)在一定程度上會產(chǎn)生信息“繭房”與傳播偏好的風險,使得“賦”能成為“負”能,不利于思想政治教育核心價值的傳播。這就要求人工智能技術(shù)越是進步,越應該對教育對象的主體性和價值性保持高度的自覺和肯定,推動人工智能技術(shù)創(chuàng)新與教育對象個體賦能相統(tǒng)一。

一方面,增強教育者與教育對象的主體意識,提高其個體賦能,明確人工智能技術(shù)是“輔助”性的角色。人工智能在思想政治教育領(lǐng)域展示了強大的數(shù)據(jù)處理與分析能力和算法優(yōu)勢,這些能力和優(yōu)勢也是推動思想政治教育創(chuàng)新發(fā)展不可或缺的重要因素。但歸根結(jié)底,技術(shù)的發(fā)展最終還是要落腳到現(xiàn)實的人。為此,在人工智能與思想政治教育協(xié)同育人的過程中,要加強對教育對象人工智能倫理知識的教育,使學生充分認識到人工智能的工作機理,提高其信息辨別的能力,避免信息“繭房”的產(chǎn)生,養(yǎng)成正確的科技觀。同時,教育者要努力提升自身的人工智能素養(yǎng),正確認識自身與人工智能的協(xié)同合作關(guān)系,在實踐過程中自覺遵守相關(guān)倫理規(guī)范,破除“唯數(shù)據(jù)論”,積極關(guān)注教育對象的內(nèi)心生活并設計相關(guān)教育話題對其進行引導,切實發(fā)揮教育者的主導作用。

另一方面,加強對人工智能技術(shù)性的糾偏方法研究,促進技術(shù)創(chuàng)新發(fā)展,實現(xiàn)技術(shù)突圍,提高育人的精準度與智能化。從現(xiàn)實效果來看,無論是ChatGPT還是“文心一言”,目前它們作為生成式AI的代表性產(chǎn)品,還未能達到令人滿意的水平,其功能僅為可以便捷地為我們補充一些知識、提供一些經(jīng)過整合與濃縮的資料[19]。因此,生成式人工智能技術(shù)仍需要進一步改進和完善。在樣本數(shù)據(jù)收集方面,要進一步考慮樣本數(shù)據(jù)的結(jié)構(gòu)和分布,盡可能選取更具代表性和時效性的數(shù)據(jù)進行分析,降低數(shù)據(jù)處理存在偏差的風險。在算法模型的編制過程中,應充分考慮教育對象全面發(fā)展的目標需求,提高社會主流價值觀和優(yōu)質(zhì)思想政治教育內(nèi)容賦值在算法優(yōu)先級里面的比重。要設置反向推薦功能,在向用戶推送“感興趣”選項的同時也推送“不感興趣”的內(nèi)容,以彌補算法個性化定制所造成的知識領(lǐng)域過窄的問題。

(四)建立倫理保障機制和提高相關(guān)人員倫理素養(yǎng)

生成式人工智能高速發(fā)展,已經(jīng)覆蓋了人們社會生活的大部分領(lǐng)域,但只有在具備人工智能技術(shù)可追責、可處罰的前提下,才能真正符合其為人類服務的價值邏輯。以ChatGPT為典型代表和轉(zhuǎn)折點,未來所開發(fā)設計的各類人工智能產(chǎn)品和服務越來越具有類人的思維和行為,這就要求其更嚴格地遵守人類的基本倫理規(guī)范[19]。具體到思想政治教育領(lǐng)域,要保證生成式人工智能真正為思想政治教育賦能增效,防止其在實踐過程中價值被扭曲和倫理被異化,必須以法律為準繩,明確底線要求,健全倫理保障機制。

一方面,要做好頂層設計,完善相關(guān)法律法規(guī)。通過法律化解風險、吸納風險,將風險社會置于法治社會的背景之中,即對智能革命時代的法律制度乃至整個社會規(guī)范進行新的建構(gòu)[20]。國家頂層設計要注重建立健全相關(guān)的法律法規(guī)體系,對生成式人工智能所傳播的內(nèi)容進行監(jiān)控和過濾,明確對相關(guān)的責任主體的界定、隱私保護以及信息分發(fā)準則等法律條例,將責任真正落實到思想政治教育相關(guān)主體上。要在遵守法律和道德的前提下推進算法更智能化、人性化的研發(fā),為生成式人工智能進一步賦能思想政治教育提供強大的制度保障。

另一方面,要提升生成式人工智能開發(fā)和應用主體的倫理素養(yǎng)和道德素質(zhì)。無論是思想政治教育者、教育對象,還是相關(guān)的管理和技術(shù)人員,必須在生成式人工智能賦能思想政治教育的過程中貫徹恪守技術(shù)倫理,遵守技術(shù)應用的倫理規(guī)范,構(gòu)建良好的倫理生態(tài)。特別要培養(yǎng)人工智能技術(shù)人員對倫理風險的敏感度,積極鼓勵其與思想政治教育者通力合作,重視應用主體對人工智能的意見和建議,設計更適用于思想政治教育的算法模型。要全面客觀地評價生成式人工智能技術(shù)在思想政治教育過程中的作用和意義,破除人們對人工智能的迷信,達成“技術(shù)向善”“技術(shù)為我所用”的終極目的。