沈苑　汪瓊

[摘要]隨著技術(shù)的發(fā)展，國內(nèi)外借助人工智能支持教學(xué)和校園管理的做法日漸普遍，也相應(yīng)地引發(fā)了諸多倫理討論。以教師的倫理價(jià)值為切入點(diǎn)，提出思想實(shí)驗(yàn)方法可作為探究人工智能應(yīng)用于教育的倫理困境的創(chuàng)新手段，選取了人工智能教育應(yīng)用場(chǎng)景下典型的倫理價(jià)值沖突，對(duì)應(yīng)開發(fā)了4個(gè)基于虛構(gòu)場(chǎng)景的思想實(shí)驗(yàn)，通過問卷調(diào)查探究了教師的倫理價(jià)值取向，為可信賴的人工智能教育應(yīng)用的發(fā)展提供了可參考的建議。結(jié)果表明，在角色期望方面，教師普遍希望人工智能作為教學(xué)輔助而并非直接代替他們完成教學(xué)任務(wù)；在價(jià)值排序方面，教師最擔(dān)心人工智能教育應(yīng)用會(huì)引發(fā)隱私方面的風(fēng)險(xiǎn)；在價(jià)值決策方面，教師傾向于強(qiáng)調(diào)自主以化解準(zhǔn)確和透明的沖突、愿意讓渡部分隱私換取教育福祉，以及在自主和公平內(nèi)部的平衡點(diǎn)上存在分歧。

[關(guān)鍵詞]人工智能教育應(yīng)用；倫理價(jià)值；思想實(shí)驗(yàn)；價(jià)值沖突；助教機(jī)器人

[中圖分類號(hào)]G434[文獻(xiàn)標(biāo)識(shí)碼]A[文章編號(hào)]1005-4634（2023）03-0044-09近年來，隨著人工智能（Artificial Intelligence，AI）的發(fā)展，國內(nèi)外借助AI支持教學(xué)和校園管理的做法日漸普遍，也引發(fā)了諸多倫理討論?；厮菝妊坑?0世紀(jì)中期的計(jì)算機(jī)輔助教學(xué)，一路上也經(jīng)歷了大量的倫理討論：隱私泄露、知識(shí)產(chǎn)權(quán)糾紛、網(wǎng)絡(luò)霸凌、網(wǎng)絡(luò)成癮等[1-2]，即便是21世紀(jì)的今天，這些討論仍舊存在于人工智能教育應(yīng)用（AI in Education，AIED）的場(chǎng)景下。而且與一般的教育技術(shù)不同，AIED更聚焦于通過自我學(xué)習(xí)能力以實(shí)現(xiàn)原本人類才能完成的任務(wù)[3]，這種能力所帶來的不可預(yù)測(cè)性意味著其必將成為倫理問題的多發(fā)地。如果AIED在設(shè)計(jì)或使用上忽視了教育場(chǎng)景下利益相關(guān)者的倫理價(jià)值訴求，非但可能無法達(dá)成預(yù)期效果，反而會(huì)致使教育異化——如“拍照搜題”“AI代寫”“風(fēng)險(xiǎn)學(xué)生標(biāo)記”等應(yīng)用都飽受社會(huì)爭(zhēng)議[4]。從技術(shù)發(fā)展的歷史規(guī)律來看，一項(xiàng)新技術(shù)在興起時(shí)所受到的炒作吹捧常會(huì)暫時(shí)遮蔽其倫理和社會(huì)含義，從長(zhǎng)期來看因倫理問題引發(fā)的后坐力可能會(huì)減慢甚至停止技術(shù)研發(fā)進(jìn)程，因此前瞻性地研判和規(guī)避AIED應(yīng)用場(chǎng)景下的倫理困境具有重要的現(xiàn)實(shí)意義[5]。為防范潛在風(fēng)險(xiǎn)，多國政府都發(fā)布了相關(guān)白皮書和政策文件，對(duì)AI的開發(fā)和應(yīng)用制定限度規(guī)范[6]。然而，單憑去情境化的抽象原則這種外在約束依賴行動(dòng)主體的自我規(guī)制最多也只能達(dá)到 “弱約束”的效果，對(duì)于實(shí)踐的指導(dǎo)具有明顯的局限性，利益相關(guān)者依舊會(huì)在技術(shù)應(yīng)用場(chǎng)景下面臨難以抉擇的價(jià)值沖突[7]。

基于此，本研究以教師的倫理價(jià)值為切入點(diǎn)，提出思想實(shí)驗(yàn)作為探究人工智能應(yīng)用于教育的倫理困境的創(chuàng)新手段，以人形助教機(jī)器人作為技術(shù)研究對(duì)象，采用實(shí)證手段重點(diǎn)探究了教師的倫理價(jià)值取向，包括3項(xiàng)研究問題：在AIED應(yīng)用場(chǎng)景下，（1）教師希望AIED承擔(dān)的角色是什么？（2）教師心中的倫理價(jià)值優(yōu)先級(jí)是什么？（3）教師在面臨倫理價(jià)值沖突時(shí)會(huì)做出什么樣的價(jià)值決策？通過探究這些問題，旨在為AIED的研究者和設(shè)計(jì)者開展實(shí)證研究提供可參考的研究工具與操作范式，也為AIED相關(guān)政策和規(guī)范的制定提供依據(jù)與建議。

1切入視角：AIED應(yīng)用場(chǎng)景下教師的倫理價(jià)值本研究以教師的倫理價(jià)值作為切入視角。教師作為AIED最直接的利益相關(guān)者，其主張的價(jià)值排序和決策極大地影響到技術(shù)應(yīng)該如何設(shè)計(jì)、部署和使用才能符合具體教學(xué)場(chǎng)景下的倫理要求。

芭提雅·弗里德曼（Batya Friedman）在其著作《人類價(jià)值與計(jì)算機(jī)技術(shù)設(shè)計(jì)》（Human Values and the Design of Computer Technology）中定義價(jià)值（value）是“聚焦于倫理范疇上人類認(rèn)為重要的事物”[8]。哲學(xué)家們常說的“倫理困境（ethical dilemma）” 是指人在實(shí)踐中面臨幾種不同的、相互矛盾的倫理價(jià)值，一時(shí)難以作出判斷或抉擇的情境[9]。AIED在發(fā)展過程中涉及到大量的利益相關(guān)者（如開發(fā)團(tuán)隊(duì)、教師、校長(zhǎng)、學(xué)生、家長(zhǎng)等），正因?yàn)檫@些群體之間或群體內(nèi)部持有不同的倫理價(jià)值或?qū)r(jià)值持有不同的優(yōu)先排序?qū)е铝藗惱砝Ь车漠a(chǎn)生。

AIED應(yīng)用場(chǎng)景下的教師倫理價(jià)值一方面涉及AI技術(shù)本身自帶的倫理屬性，另一方面也涉及教師角色本身的倫理特性。前者已有大量的政策文本和研究報(bào)告作出論述，通過對(duì)5篇AI倫理領(lǐng)域內(nèi)權(quán)威專家的綜述文章進(jìn)行主題編碼分析發(fā)現(xiàn)，目前此領(lǐng)域的話語顯著收斂于“透明”“公平”“自主”“安全”“隱私”“責(zé)任”“福祉”這7個(gè)主題下[10-14]。而關(guān)于教師角色本身的倫理特性方面也得到大量研究者的論證，“教學(xué)本身包含了道德行動(dòng)……教師是道德主體，課堂互動(dòng)在本質(zhì)上不可避免地具有道德屬性。”[15]有研究者分析了由189位教師提供的倫理觀點(diǎn)，對(duì)于其中產(chǎn)生的223項(xiàng)價(jià)值沖突進(jìn)行聚類，提出5類在具體教學(xué)場(chǎng)景下可能產(chǎn)生沖突的倫理規(guī)范，即“倫理人際規(guī)范”“內(nèi)部專業(yè)規(guī)范”“機(jī)構(gòu)規(guī)范”“社會(huì)一致性規(guī)范”“自我保護(hù)規(guī)范”[16]。

上述倫理價(jià)值在AIED應(yīng)用場(chǎng)景下會(huì)如何表征，又是否存在潛在的價(jià)值沖突和調(diào)適路徑？本研究著重選取了4項(xiàng)典型的價(jià)值沖突，分別是準(zhǔn)確與透明的沖突、福祉與隱私的沖突、自主與支持的沖突、平等與包容的沖突，采用思想實(shí)驗(yàn)方法深入探究教師的倫理價(jià)值取向，旨在對(duì)AIED的合倫理設(shè)計(jì)和應(yīng)用提供現(xiàn)實(shí)關(guān)照，支持可信賴AIED生態(tài)系統(tǒng)的未來發(fā)展。

2研究工具：基于虛構(gòu)場(chǎng)景的思想實(shí)驗(yàn)

本研究將虛構(gòu)場(chǎng)景的思想實(shí)驗(yàn)作為主要研究工具，探測(cè)教師在AIED應(yīng)用場(chǎng)景下的倫理價(jià)值取向，包括教師對(duì)于AIED的角色期望、對(duì)于倫理價(jià)值的優(yōu)先排序以及在面臨價(jià)值沖突時(shí)的價(jià)值決策。

2.1思想實(shí)驗(yàn)的特征與形式

思想實(shí)驗(yàn)是一種按照實(shí)驗(yàn)的格式展開的在人的頭腦中進(jìn)行的理性思維活動(dòng)，研究者通過向自己或被試提出一系列“What if”問題來討論假設(shè)情境下的事物發(fā)展和結(jié)果，以尋找某個(gè)問題的答案[17]。比如：如果不存在摩擦，將會(huì)發(fā)生什么現(xiàn)象？如果一個(gè)人分裂為變形蟲，將會(huì)發(fā)生什么現(xiàn)象？思想實(shí)驗(yàn)最早是在恩斯特·馬赫（Ernst Mach）的《認(rèn)識(shí)與謬誤》中作為一種正規(guī)的學(xué)術(shù)研究方法提出的[18]。自然科學(xué)領(lǐng)域的“自由落體”“薛定諤的貓”“麥克斯韋妖”“時(shí)鐘佯謬”，經(jīng)濟(jì)學(xué)領(lǐng)域的“囚徒困境”，哲學(xué)認(rèn)識(shí)論領(lǐng)域的“特修斯之船”“空地上的奶牛”“缸中之腦”“孿生地球”等都屬于思想實(shí)驗(yàn)。在AI領(lǐng)域最典型的思想實(shí)驗(yàn)是麻省理工大學(xué)媒體實(shí)驗(yàn)室開發(fā)的“道德機(jī)器（Moral Machine）”大規(guī)模在線實(shí)驗(yàn)，通過“嚴(yán)肅游戲”的方式來探索自動(dòng)駕駛汽車面臨的道德困境。

思想實(shí)驗(yàn)一般是由虛構(gòu)場(chǎng)景（vignette）的方式來呈現(xiàn)的。虛構(gòu)場(chǎng)景是指用書面或口語形式描述特定情況，模擬真實(shí)事件或問題，通過邀請(qǐng)回應(yīng)、鼓勵(lì)討論和探測(cè)理解來獲取信息，以深入了解參與者對(duì)研究核心的特定現(xiàn)象的信念、情感、判斷、態(tài)度和價(jià)值[19-20]。如肯尼斯·斯特賴克（Kenneth Strike）和喬納斯·索爾蒂斯（Jones Soltis）在其經(jīng)典著作《教學(xué)倫理》中，通過一系列虛構(gòu)案例來闡明教師在倫理困境下可能經(jīng)歷的思考過程和背后起作用的倫理系統(tǒng)[21]。書中的虛構(gòu)案例包含大段場(chǎng)景和細(xì)節(jié)的描述，其中的道德困境十分具體和棘手，可謂是“各種倫理原則互相矛盾抵觸的世紀(jì)難題”。他們把這些案例設(shè)計(jì)得如此棘手，是有意地讓這些道德爭(zhēng)議夾雜不清，這種模糊性有助于增加思考的趣味性并且使其成為有效的教育工具。虛擬案例的難解并不證明教學(xué)中的倫理問題是無解的，也不證明思考倫理議題是無意義的。在參與者對(duì)于這些復(fù)雜案例進(jìn)行充分思考后，如果在現(xiàn)實(shí)生活中遇到較為簡(jiǎn)單的困境，就有能力更迅速地做出倫理上恰當(dāng)?shù)倪x擇。

較之于真實(shí)實(shí)驗(yàn)，思想實(shí)驗(yàn)最大的特點(diǎn)在于條件理想化，可以借助虛構(gòu)場(chǎng)景避開實(shí)際的技術(shù)困難來開展前瞻性的分析與預(yù)測(cè)，降低教育情境下的試錯(cuò)風(fēng)險(xiǎn)[22]。雖然思想實(shí)驗(yàn)是基于虛構(gòu)情境，但被試的作答依舊是以事實(shí)經(jīng)驗(yàn)和普遍規(guī)律為來源的，因此所收集到的實(shí)驗(yàn)數(shù)據(jù)和研究結(jié)論是具備一定可靠性和推廣性的[23]?！八枷雽?shí)驗(yàn)是在想象中操作模型時(shí)形成的”[24]，并非脫離實(shí)際的主觀臆想。換言之，思想實(shí)驗(yàn)的條件是不同于事實(shí)的，但之所以能夠進(jìn)行思想實(shí)驗(yàn)，是因?yàn)橥评怼盎蚨嗷蛏贉?zhǔn)確地、非任意地反映了事實(shí)”[18]。

倫理學(xué)研究常借助思想實(shí)驗(yàn)來突出某種“倫理困境”，大多是研究者的自問自答，是為了提出某種觀點(diǎn)而有意設(shè)計(jì)出的困境表達(dá)，可能最后指向幾種理論的矛盾爭(zhēng)論之中，陷入非此即彼的理論抉擇[25]。為規(guī)避這種局限性，本研究并不將思想實(shí)驗(yàn)作為一種分析工具，而是以開放的觀點(diǎn)將思想實(shí)驗(yàn)作為一種收集教師觀點(diǎn)的工具，通過為教師提供4個(gè)虛構(gòu)的價(jià)值沖突場(chǎng)景，以探測(cè)教師在AIED應(yīng)用場(chǎng)景下的價(jià)值取向。

2.2思想實(shí)驗(yàn)的倫理學(xué)基礎(chǔ)

在本研究中運(yùn)用思想實(shí)驗(yàn)方法是以描述倫理學(xué)為基礎(chǔ)的。經(jīng)典的倫理學(xué)論文經(jīng)常論述的是一個(gè)具有“健全”觀點(diǎn)的人的想法，即采用規(guī)范倫理學(xué)視角審視某項(xiàng)價(jià)值決策。然而在實(shí)際情況中，不同群體和個(gè)體對(duì)于一件事情自己會(huì)怎么做有著不同的想法和觀點(diǎn)。描述倫理學(xué)是“對(duì)道德規(guī)范和相伴隨的一個(gè)人或一群人的道德觀念所作的調(diào)查，該理論認(rèn)為，對(duì)道德觀點(diǎn)的描述是人們?cè)谔囟〞r(shí)間和特定的共同體內(nèi)所持的道德原則”[26]，其目的在于如實(shí)地呈現(xiàn)人們現(xiàn)實(shí)或歷史的、內(nèi)在或外在的道德狀況，其研究對(duì)象不是社會(huì)的道德價(jià)值和行為規(guī)范，而是社會(huì)的道德事實(shí)及其規(guī)律，其任務(wù)在于記錄與再現(xiàn)社會(huì)道德實(shí)際和揭示社會(huì)道德發(fā)展的科學(xué)規(guī)律[27]。

如果說規(guī)范倫理學(xué)關(guān)注的是“人們應(yīng)該如何行動(dòng)？”那么描述倫理學(xué)則更關(guān)注“人們覺得怎么做是正確的？”描述倫理學(xué)能夠幫助診斷出社會(huì)的偏見，預(yù)測(cè)某個(gè)新的社會(huì)干預(yù)可能會(huì)帶來的公眾反應(yīng)。比如“電車難題”就經(jīng)常被用于描述倫理學(xué)研究中來提取公眾的道德決策。有研究發(fā)現(xiàn)，雖然大多數(shù)人愿意拉下杠桿來救5個(gè)人，但大多數(shù)不愿意將胖子推下鐵軌來救下5個(gè)人，這種取向差異有助于更加細(xì)微地探究人們內(nèi)心衡量倫理價(jià)值的標(biāo)準(zhǔn)[28]。基于描述倫理學(xué)的立場(chǎng)，開放程度較高的思想實(shí)驗(yàn)有助于揭示教師內(nèi)心的價(jià)值排序與態(tài)度觀點(diǎn)，站在用戶的立場(chǎng)上尋求更加可靠的規(guī)范AIED設(shè)計(jì)與使用的方式。

3實(shí)驗(yàn)設(shè)計(jì)：助教機(jī)器人的應(yīng)用場(chǎng)景

3.1助教機(jī)器人作為技術(shù)主體

目前AIED有著多種運(yùn)作方式（如軟件/硬件）和多種用途（如輔助學(xué)習(xí)/教學(xué)/管理），而且收集的數(shù)據(jù)類型、規(guī)模、有效性、滲入師生生活的程度都有所不同。在本次思想實(shí)驗(yàn)中，研究者選擇以一個(gè)能夠預(yù)測(cè)學(xué)情和輔助學(xué)習(xí)的人形助教機(jī)器人“小波”作為技術(shù)研究對(duì)象，因?yàn)檫@類產(chǎn)品很大程度上代表了一種未來AI與教育深度融合的重要形式。

目前，國內(nèi)外各教育階段都開始嘗試使用助教機(jī)器人輔助教學(xué)，如國內(nèi)用于學(xué)前教育的Keeko、德國用于高校教學(xué)的Yuki、美國用于STEM教育的NAO等。即便國內(nèi)的學(xué)校目前還沒有這類助教機(jī)器人，也有學(xué)校已經(jīng)開始借助AI軟件來預(yù)測(cè)學(xué)情和輔助學(xué)習(xí)。虛構(gòu)這樣的人形助教機(jī)器人符合未來教育技術(shù)的發(fā)展趨勢(shì)，研究過程和結(jié)果也能一定程度上推廣到其他具有類似功能的AIED的設(shè)計(jì)和使用上。此外，選擇人形機(jī)器人的原因是因?yàn)橐延姓{(diào)查發(fā)現(xiàn)，雖然學(xué)生更喜歡動(dòng)物形態(tài)的機(jī)器人，但是他們心目中最適合作為助教的機(jī)器人是人形的[29]。

3.2虛構(gòu)場(chǎng)景的價(jià)值沖突設(shè)計(jì)

使用思想實(shí)驗(yàn)方法最關(guān)鍵的是要虛構(gòu)出高質(zhì)量的倫理困境，本研究虛構(gòu)了4個(gè)有助教機(jī)器人參與的教學(xué)場(chǎng)景，確保場(chǎng)景簡(jiǎn)潔、易懂、不完整和開放[19]。

AIED應(yīng)用場(chǎng)景中有諸多潛在的價(jià)值沖突，本研究的4個(gè)場(chǎng)景分別對(duì)應(yīng)了4項(xiàng)較為典型的價(jià)值沖突（見表1）。第1個(gè)場(chǎng)景關(guān)注的是準(zhǔn)確與透明的沖突，重點(diǎn)探究當(dāng)助教機(jī)器人給出一個(gè)不透明但準(zhǔn)確的預(yù)測(cè)時(shí)教師會(huì)如何行動(dòng)；第2個(gè)場(chǎng)景關(guān)注的是福祉與隱私的沖突，重點(diǎn)探究當(dāng)助教機(jī)器人通過收集隱私數(shù)據(jù)能做出更準(zhǔn)確的預(yù)測(cè)時(shí)教師是否愿意為了效果而犧牲隱私；第3個(gè)場(chǎng)景關(guān)注的是自主與干預(yù)的沖突，重點(diǎn)探究的是當(dāng)助教機(jī)器人對(duì)課堂上的學(xué)生討論進(jìn)行干預(yù)時(shí)教師是否認(rèn)為這種干預(yù)損害了學(xué)生自主學(xué)習(xí)；第4個(gè)場(chǎng)景關(guān)注的是平等與包容的沖突，重點(diǎn)探究的是當(dāng)助教機(jī)器人對(duì)特需學(xué)生“一視同仁”時(shí)是否會(huì)引發(fā)包容性上的爭(zhēng)議。參與調(diào)查的教師需要分別針對(duì)4個(gè)場(chǎng)景給出自己的選擇并闡明原因。本研究將“小波”預(yù)設(shè)為一個(gè)自動(dòng)化程度較高且質(zhì)量較好的機(jī)器人，其預(yù)測(cè)的準(zhǔn)確度高且受到學(xué)生喜愛，以此來增強(qiáng)倫理價(jià)值沖突的復(fù)雜程度。

此外，由于每個(gè)場(chǎng)景都需要教師花費(fèi)時(shí)間和精力去理解和思考，因此本研究將4個(gè)場(chǎng)景都置于某所學(xué)校的初二某班期中考試之后的一周內(nèi)陸續(xù)發(fā)生，要求被試扮演班主任角色來選擇自己在這個(gè)情境下會(huì)作出的判斷和行動(dòng)，以保持場(chǎng)景的連貫性，教師不需要在每讀一個(gè)新的場(chǎng)景時(shí)就去轉(zhuǎn)變自己的視角和角色，從而一定程度上規(guī)避故事背景、角色轉(zhuǎn)變等因素對(duì)倫理價(jià)值取向產(chǎn)生的未知影響。具體見表1。

4研究發(fā)現(xiàn)：教師對(duì)AIED的倫理價(jià)值取向

本研究面向全國范圍內(nèi)的201位教師發(fā)放了調(diào)查問卷，參與填寫問卷的被試是全國范圍內(nèi)主動(dòng)報(bào)名2022年度某個(gè)以教師專業(yè)發(fā)展為主題的工作坊的教師。問卷以線上報(bào)名問卷形式發(fā)放。在調(diào)查開始前，研究者通過微信群通知詳細(xì)說明了問卷的填寫方法和起始時(shí)間，并且說明4道思想實(shí)驗(yàn)題是工作坊的熱身活動(dòng)，避免教師不愿意閱讀長(zhǎng)段文字而隨便回答的情況，以提高數(shù)據(jù)回收的質(zhì)量。調(diào)查問卷共包含5個(gè)部分：（1）基本人口學(xué)信息（包括姓名、年齡、學(xué)校、學(xué)段、學(xué)科、地區(qū)）；（2）工作坊相關(guān)信息（包括報(bào)名目的、分享意愿、參與合作研究意愿）；（3）學(xué)校AIED部署情況（產(chǎn)品名稱、用途、使用頻率、教師期望）；（4）對(duì)于AIED倫理問題的擔(dān)憂程度排序；（5）基于4個(gè)虛構(gòu)場(chǎng)景的思想實(shí)驗(yàn)（教師行動(dòng)、背后原因）。

被試教師涵蓋學(xué)前教育、基礎(chǔ)教育、高等教育、特殊教育、教師教育等領(lǐng)域，共回收問卷201份，在對(duì)問卷進(jìn)行有效性篩選后（刪除重復(fù)問卷和測(cè)試問卷共9份），獲得有效問卷共計(jì)192份（見表2）。

有70位教師（36.46%）表示目前學(xué)校里已經(jīng)部署了相關(guān)的AI產(chǎn)品，具體用途分布主要集中在輔助學(xué)習(xí)和教學(xué)方面，最多的是用在信息技術(shù)/人工智能/創(chuàng)客課堂教學(xué)中，較少用于學(xué)生心理疏導(dǎo)、校園安防等方面（見圖1）。

4.1教師期望AIED承擔(dān)的角色

問卷中詢問了教師是否支持學(xué)校進(jìn)一步部署AIED以及希望的應(yīng)用場(chǎng)景，以了解教師對(duì)于AIED的角色期望。通過NVivo12對(duì)本題的開放式回答進(jìn)行編碼（見表3）。發(fā)現(xiàn)支持部署AIED的教師主要希望通過AI來支持學(xué)科教學(xué)、備課教研、學(xué)情監(jiān)測(cè)，以減少重復(fù)勞動(dòng)或者幫助他們突破自身原有的困境。在“雙減”政策背景下，使用AI技術(shù)支持課后服務(wù)也成為一些教師的期望點(diǎn)?？梢园l(fā)現(xiàn)，教師并不期待AI替代他們完成教學(xué)任務(wù)，而是更希望借助AI手段來提高自己的工作效率，使得他們能有更多的時(shí)間精力來改進(jìn)和創(chuàng)新自己的教學(xué)。而不支持未來部署AIED的教師觀點(diǎn)主要集中于3個(gè)方面：第一是因?yàn)閭€(gè)人對(duì)于AI的不了解、不習(xí)慣以及對(duì)于未來教育變革的不確定；第二是覺得AI具有局限性，而且可能會(huì)對(duì)學(xué)生學(xué)習(xí)造成干擾；第三是考慮到外部條件的有限性。

4.2教師對(duì)AIED的倫理價(jià)值排序

為考察教師的價(jià)值排序，問卷要求教師按照他們對(duì)于AIED的風(fēng)險(xiǎn)擔(dān)憂程度進(jìn)行排序。問卷中列舉了5項(xiàng)價(jià)值相關(guān)的風(fēng)險(xiǎn)：自主（損害學(xué)生學(xué)習(xí)和教師教學(xué)的自主性）、公平（造成偏見、歧視或不公平）、隱私（侵犯數(shù)據(jù)隱私和安全）、福祉（對(duì)實(shí)現(xiàn)教育目標(biāo)沒有顯著效果）、可用（不容易掌握使用方法或用起來不方便）。從結(jié)果來看（見表4），教師的價(jià)值排序呈現(xiàn)出“隱私>自主>公平>福祉>可用”的特征，隱私成為教師普遍最擔(dān)憂的問題。而可用是教師最不擔(dān)憂的問題，這一方面可能是源于被試教師普遍在技術(shù)方面具有一定的素養(yǎng)和自信，另一方面也可能是因?yàn)樗麄儗?duì)于技術(shù)發(fā)展持相信態(tài)度。

4.3教師對(duì)價(jià)值沖突的行動(dòng)決策

4.3.1強(qiáng)調(diào)自主以化解準(zhǔn)確與透明的沖突

根據(jù)結(jié)果顯示（見表5），在第1個(gè)思想實(shí)驗(yàn)中，絕大多數(shù)教師（91.2%）都選擇了參考小波的預(yù)測(cè)，不會(huì)因?yàn)槠涓邷?zhǔn)確度就全然相信，也不會(huì)因?yàn)槠涞屯该鞫榷徊恍??？梢园l(fā)現(xiàn)教師在教學(xué)中使用AI的時(shí)候主張要保持作出決策的自主性，不愿意讓AI代替自己作出某些決定。

在第4個(gè)開放選項(xiàng)中，教師大多都提出要用數(shù)據(jù)或其他證據(jù)來驗(yàn)證AI預(yù)測(cè)，如找其他教師了解情況、調(diào)取學(xué)習(xí)數(shù)據(jù)進(jìn)行分析，幾位教師都提到自己會(huì)和王菲凡溝通交流來了解他近期是否經(jīng)歷了某些特殊事件或者遇到什么難處，以找出反常的原因?？梢园l(fā)現(xiàn)，AI在這個(gè)場(chǎng)景中對(duì)于教師的作用是給予一種提醒，教師會(huì)借助它的預(yù)測(cè)發(fā)現(xiàn)可能處于學(xué)習(xí)或生活困境的學(xué)生。在這種場(chǎng)景下，技術(shù)發(fā)現(xiàn)這個(gè)學(xué)生的過程顯得并不重要，因?yàn)榻處煵⒉粫?huì)完全聽信系統(tǒng)預(yù)測(cè)，而是會(huì)在實(shí)際工作中進(jìn)一步自行去檢驗(yàn)。因此，如果系統(tǒng)只是給教師提出建議，并不帶有任何的決策和行動(dòng)強(qiáng)制性，其實(shí)準(zhǔn)確和透明這兩項(xiàng)價(jià)值并非必要價(jià)值，而相較之下教師始終選擇保留的是自主價(jià)值。

4.3.2愿意讓渡部分隱私以換取教育福祉

第2個(gè)思想實(shí)驗(yàn)試圖探究的是實(shí)現(xiàn)教育福祉和隱私保護(hù)這兩項(xiàng)價(jià)值沖突下的教師取向。在這個(gè)場(chǎng)景下，不僅僅是常規(guī)的教學(xué)數(shù)據(jù)被收集，還涉及到學(xué)生和教師的個(gè)人敏感數(shù)據(jù)。結(jié)果顯示，多數(shù)教師（71.3%）都對(duì)于此類數(shù)據(jù)收集表示理解，為了教育福祉的實(shí)現(xiàn)愿意一定程度上讓渡自己和學(xué)生的隱私（見表5）。這種傾向性也是因?yàn)槟壳皣鴥?nèi)學(xué)校的信息化建設(shè)逐漸成熟，數(shù)據(jù)收集成為常態(tài)。與排序題所得到的結(jié)果比較可以發(fā)現(xiàn)，教師在隱私問題上存在著矛盾的心態(tài)：大多教師可以理解AI需要足夠的數(shù)據(jù)才能更加準(zhǔn)確，但隱私風(fēng)險(xiǎn)仍舊是教師擔(dān)心的首位。

在開放回答中，有教師呈現(xiàn)出矛盾的心理動(dòng)態(tài)，如“既希望能通過采集數(shù)據(jù)使預(yù)判更精準(zhǔn)地為教學(xué)服務(wù)，又擔(dān)心因?yàn)榇髷?shù)據(jù)大家沒有了隱私而被動(dòng)?！薄凹雀锌夹g(shù)可以利用數(shù)據(jù)分析預(yù)測(cè)，又擔(dān)心隱私泄露，同時(shí)會(huì)懷疑量化分析扁平化豐富的內(nèi)在情感、心理等生命活動(dòng)?！币灿薪處熣宫F(xiàn)出對(duì)于AI角色的反思審視，如“技術(shù)是服務(wù)生活，技術(shù)不是罔顧法律、凌駕于生活。”“科技手段只能用作參考，不能太過依賴?！庇薪處熃ㄗh設(shè)立一定的限制或篩選機(jī)制，如根據(jù)實(shí)際需要選擇性地收集數(shù)據(jù)、要經(jīng)過學(xué)校和教師的同意等。如果學(xué)?；蛘咂髽I(yè)能夠提前將數(shù)據(jù)類型、收集流程、審批過程進(jìn)行透明化公開化的處理，來征得學(xué)校、師生和家長(zhǎng)等利益相關(guān)者的同意，允許他們質(zhì)疑、反對(duì)或退出，能夠更好地減少教師關(guān)于隱私問題的困擾。

4.3.3自主與公平內(nèi)部的平衡點(diǎn)存在分歧

教師在第3個(gè)思想實(shí)驗(yàn)中出現(xiàn)了明顯的觀點(diǎn)分歧（見表5）。有30.7%的教師贊成小波作為助教應(yīng)當(dāng)及時(shí)糾正討論方向并引導(dǎo)學(xué)生參與討論，有55.7%的教師則認(rèn)為小波過多地干預(yù)學(xué)生討論，影響學(xué)生自主探索學(xué)習(xí)。說明在自主與支持這兩項(xiàng)價(jià)值之間如何取得平衡尚不明確。這種分歧的形成與教師對(duì)于教學(xué)和技術(shù)的理解有關(guān)。當(dāng)教師更多地將助教機(jī)器人當(dāng)作“同事”般的教師角色時(shí)，他們更多贊成小波的行為；而當(dāng)教師將助教機(jī)器人當(dāng)作“工具”時(shí)，則傾向于認(rèn)為小波的行為越界。從開放回答來看，與諸多學(xué)者所擔(dān)憂的“技術(shù)崇拜”相反，教師并沒有“神化”機(jī)器人，而是都能較為清楚地認(rèn)識(shí)到AI的功能限制，如“畢竟是虛擬人，不能用有問題或者沒問題來解釋”。在人機(jī)交互的過程中，教師始終強(qiáng)調(diào)人類自身的自主性和能動(dòng)性，普遍不會(huì)將課堂完全交給機(jī)器人主導(dǎo)，如“機(jī)器的判斷是根據(jù)大量數(shù)據(jù)而來的，它永遠(yuǎn)不能替代現(xiàn)實(shí)中教師充滿溫度的教學(xué)”。教師提出助教機(jī)器人在設(shè)計(jì)上應(yīng)當(dāng)增強(qiáng)人性化設(shè)計(jì)、豐富訓(xùn)練集、向教師及時(shí)反饋并允許教師干預(yù)等，在使用方面教師要積極地干預(yù)，以避免學(xué)生在與技術(shù)的交互過程中受到傷害。

同樣，教師在第4個(gè)思想實(shí)驗(yàn)中出現(xiàn)了明顯的觀點(diǎn)分歧（見表5）。除了有很小一部分教師（4.2%）在面臨這種沖突時(shí)選擇不再繼續(xù)使用小波之外，有將近一半的教師（42.2%）選擇以后仍舊會(huì)讓小波對(duì)每位學(xué)生進(jìn)行輔導(dǎo)，還有27.1%的教師選擇以后會(huì)讓小波輔導(dǎo)除了張毅可之外的學(xué)生。前者所陳述的理由如“要平等，不能讓張毅可感到差別”“這個(gè)屬于正常情況，教師也會(huì)出現(xiàn)這種情況”“機(jī)器人需要適應(yīng)”“多接觸，多適應(yīng)，就會(huì)有進(jìn)步”，說明他們?cè)谶@種沖突下更傾向于用“一視同仁”來實(shí)現(xiàn)公平，并且愿意AI技術(shù)有更多的學(xué)習(xí)和自我優(yōu)化的機(jī)會(huì)。后者所陳述的理由如“特殊學(xué)生特殊對(duì)待”“因材施教”“因?yàn)閺堃憧杀旧砭褪且粋€(gè)有閱讀障礙的孩子，這時(shí)候就需要教師出馬解決個(gè)性化的問題，給學(xué)生更多情感方面的關(guān)懷”“尊重學(xué)生個(gè)體差異”，說明他們?cè)谶@種沖突下更傾向于為特殊學(xué)生群體提供差異化的支持來實(shí)現(xiàn)公平。還有26.5%的教師補(bǔ)充了其他做法，主要是通過建議改進(jìn)技術(shù)設(shè)計(jì)、增加教師干預(yù)、增強(qiáng)自己對(duì)技術(shù)的了解、改進(jìn)教學(xué)策略等方式來調(diào)適平等和包容之間的價(jià)值沖突。

5總結(jié)

本研究討論了教師倫理價(jià)值對(duì)于可信賴的AIED建設(shè)的重要作用，將思想實(shí)驗(yàn)作為探測(cè)教師倫理價(jià)值的創(chuàng)新手段，并以一項(xiàng)問卷調(diào)查研究為例展示了如何設(shè)計(jì)相應(yīng)的工具來開展實(shí)證研究，在研究視角、研究方法和研究發(fā)現(xiàn)等維度上為AIED的相關(guān)從業(yè)者開展倫理實(shí)證研究提供了啟示。

在研究視角方面，將教師的倫理價(jià)值作為切入點(diǎn)有助于深入剖析AIED的倫理困境。技術(shù)在人與世界的關(guān)系中起著中介作用，不但影響著人對(duì)外在世界的感知，還影響著人的行為方式[30]，因此倫理困境是處于動(dòng)態(tài)之中的，隨著技術(shù)、情景、利益相關(guān)者的價(jià)值觀點(diǎn)與排序的變化而變化。AIED的相關(guān)從業(yè)者都應(yīng)當(dāng)深刻意識(shí)到這種動(dòng)態(tài)性，采用發(fā)展和包容的觀點(diǎn)來看待一項(xiàng)技術(shù)從設(shè)計(jì)到落地會(huì)經(jīng)歷的倫理困境。

在研究方法方面，由于當(dāng)前AI在我國教育中的應(yīng)用還處于初步探索階段，很多潛在的倫理問題尚未浮出水面。采用思想實(shí)驗(yàn)方法能夠前瞻性地關(guān)注到“利益相關(guān)者認(rèn)為怎么做是正確的”來探測(cè)出潛在的價(jià)值沖突，有助于及時(shí)采取價(jià)值敏感設(shè)計(jì)等方式提前規(guī)避倫理困境。本研究所開發(fā)的4個(gè)虛擬場(chǎng)景也為AIED相關(guān)從業(yè)者在未來開展類似的實(shí)證研究提供了工具上的支持。

在研究發(fā)現(xiàn)方面，問卷調(diào)查結(jié)果顯示教師希望AI在教學(xué)中更多地承擔(dān)起提升教學(xué)效率的角色，幫助他們從日常繁瑣、重復(fù)性的工作中解脫出來，能更多地致力于創(chuàng)造性的工作內(nèi)容，尤其強(qiáng)調(diào)保障教學(xué)中的自主性作為化解倫理價(jià)值沖突的手段。另外，也發(fā)現(xiàn)了教師們?cè)诙囗?xiàng)價(jià)值上體現(xiàn)出矛盾的觀點(diǎn)。本研究是采用思想實(shí)驗(yàn)對(duì)教師倫理價(jià)值的創(chuàng)新探索，通過問卷形式只能部分探測(cè)到在助教機(jī)器人這一特定AIED應(yīng)用場(chǎng)景下的教師價(jià)值傾向，未來可以進(jìn)一步挖掘其他類型的AIED應(yīng)用場(chǎng)景下的教師價(jià)值、影響教師倫理價(jià)值取向的具體因素，以及關(guān)于隱私、個(gè)性、公平等價(jià)值內(nèi)部的平衡點(diǎn)，以更加深刻、全面地理解AIED的倫理維度。

參考文獻(xiàn)

[1] 孫濤，陳紅兵，劉煒.網(wǎng)絡(luò)技術(shù)異化的主體根源與重構(gòu)[J].東北大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2013，15（5）： 453-458.

[2] LIN P，ABNEY K，JENKINS R.Robot ethics 2.0：from autonomous cars to artificial intelligence[M].Oxford：Oxford University Press，2017.

[3] NAZARETSKY T，ARIELY M，CUKUROVA M，et al.Teachers′ trust in AI-powered educational technology and a professional development program to improve it[J].British journal of educational technology，2022，53（4）： 914-931.

[4] 謝娟，劉成新，張婷.我國教育技術(shù)研究之倫理缺位與分析[J].開放教育研究，2014，20 （2）： 26-33.

[5] TIMMERMANS J，ZHAO Y，VAN DEN HOVEN J.Ethics and Nanopharmacy：value sensitive design of new drugs[J].NanoEthics，2011，5（3）： 269-283.

[6] AI HLEG.Ethics guidelines for trustworthy AI[EB/OL].（2019-04-08）[2022-10-24].https：//digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai.

[7] KITTO K，KNIGHT S.Practical ethics for building learning analytics[J].British Journal of Educational Technology，2019，50（6）： 2855-2870.

[8] FRIEDMAN B.Human values and the design of computer technology[M].Cambridge： Cambridge University Press，1997.

[9] SLADE S，PRINSLOO P.Learning analytics：ethical issues and dilemmas[J].American Behavioral Scientist，SAGE Publications Inc，2013，57（10）： 1510-1529.

[10] FJELD J，ACHTEN N，HILLIGOSS H，et al.Principled artificial intelligence： mapping consensus in ethical and rights-based approaches to principles for AI [EB/OL].（2020-02-14）[2022-10-24].https：//dash.harvard.edu/handle/1/42160420.

[11] HAGENDORFF T.The ethics of AI ethics：an evaluation of guidelines[J].Minds and Machines，2020，30（1）： 99-120.

[12] JOBIN A，IENCA M，VAYENA E.The global landscape of AI ethics guidelines[J].Nature Machine Intelligence，2019（1）： 389-399.

[13] SCHIFF D，BORENSTEIN J，BIDDLE J，et al.AI ethics in the public，private，and NGO sectors：a review of a global document collection[J].IEEE Transactions on Technology and Society，2021，2（1）： 31-42.

[14] ZENG Y，LU E，HUANGFU C.Linking artificial intelligence principles [EB/OL].（2018-12-12）[2022-10-24].https：//arxiv.org/abs/1812.04814.

[15] BUZZELLI C，JOHNSTON B.Authority，power，and morality in classroom discourse[J].Teaching and teacher education，2001，17（8）： 873-884.

[16] COLNERUD G.Ethical conflicts in teaching[J].Teaching and Teacher Education，1997，13（6）： 627-635.

[17] COOPER R.Thought experiments[J].Metaphilosophy，2005，36（3）： 328-347.

[18] MACH E.Knowledge and error：sketches on the psychology of enquiry[M].Boston ： Reidel，1975.

[19] SKILLING K，STYLIANIDES G J.Using vignettes in educational research： a framework for vignette construction[J].International Journal of Research & Method in Education，Routledge，2020，43（5）： 541-556.

[20] TORRES S.Vignette methodology and culture-relevance： lessons learned through a project on successful aging with Iranian immigrants to Sweden[J].Journal of cross-cultural gerontology，Netherlands： 2009，24（1）： 93-114.

[21] STRIKE K，SOLTIS J F.The ethics of teaching，5th edition[M].New York：Teachers College Press，2015.

[22] NORTON，J.Thought experiments in Einstein′s work[J].Thought experiments in science and philosophy，1991：129-144.

[23] 白倩，于偉.馬修斯兒童哲學(xué)的要旨與用境——對(duì)兒童哲學(xué) “工具主義”的反思[J].全球教育展望，2017，46（12）： 3-11.

[24] HARRé R.The philosophies of science an introductory survey[M].Oxford：Oxford University Press，1972.

[25] 李依貝.思想實(shí)驗(yàn)方法在倫理學(xué)研究中的應(yīng)用考察[J].長(zhǎng)春師范大學(xué)學(xué)報(bào)，2014，33（7）： 20-22.

[26] 何懷宏.倫理學(xué)是什么[M].北京： 北京大學(xué)出版社，2021.

[27] 李曄.事實(shí)與價(jià)值關(guān)系視域下的描述倫理學(xué)——描述倫理學(xué)的問題及其視域[J].河南師范大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2003（5）： 22-25.

[28] AWAD E，DSOUZA S，KIM R，et al.The moral machine experiment[J].Nature，2018（563）： 59-64.

[29] Ryu H J，Kwak S S，Kim M S.A study on external form design factors for robots as elementary school teaching assistants[C]//RO-MAN 2007-The 16th IEEE International Symposium on Robot and Human Interactive Communication.IEEE，2007： 1046-1051.

[30] 張衛(wèi)，王前.道德可以被物化嗎？——維貝克“道德物化”思想評(píng)介[J].哲學(xué)動(dòng)態(tài)，2013（3）： 70-75.

Research on teachers′ ethical value of Artificial Intelligence in education

SHEN Yuan，WANG Qiong

（Graduation School of Education，Peking University，Beijing 100871，China）

AbstractWith the development of technology，the practice of using artificial intelligence to support teaching and management has become common at home and abroad，which has also triggered a lot of ethical issues.Taking the ethical value of teachers as the starting point，this paper proposes that thought experiment can be used as an innovative way to explore the ethical dilemma of applying artificial intelligence to education.Four thought experiments based on vignettes were developed，and teachers' ethical value orientation was explored through teacher questionnaires.The results show that teachers worry about privacy the most，generally hope that AI should be used as a tool for improving teaching instead of replacing human teacher.Also，teachers tend to stress human agency to resolve conflicts of accuracy and transparency，be willing to trade part of privacy for educational wellbeing and disagreement on the balance between autonomy and fairness are found in this research.

Keywordsartificial intelligence in education; ethical value; thought experiment; value conflict; robot tutor

[責(zé)任編輯劉冰]