謝亞可

摘要：人工智能技術(shù)的嵌入已然引發(fā)了諸多倫理爭(zhēng)議。本文以今日頭條用戶對(duì)于“2020年全球十大人工智能事件”的評(píng)論為樣本，使用共詞分析法對(duì)用戶關(guān)切的人工智能倫理向度進(jìn)行實(shí)證研究。研究發(fā)現(xiàn)，“人本主義”是用戶最為關(guān)切的核心倫理向度，“算法透明”為用戶關(guān)切的倫理向度盲區(qū)，“審慎和節(jié)制”成為用戶倫理關(guān)切的新向度。社交媒體用戶對(duì)人工智能的關(guān)切向度在應(yīng)然與實(shí)然層面上存在一定偏差，我國(guó)用戶的人工智能倫理觀需要從技術(shù)、社會(huì)治理、法律、文化等多方面進(jìn)行引領(lǐng)。

關(guān)鍵詞：社交媒體 用戶關(guān)切 人工智能 倫理

近年來，伴隨無人駕駛、人臉識(shí)別、智能語音等人工智能技術(shù)的廣泛應(yīng)用，人工智能倫理再次被社會(huì)各界廣泛提及，并引發(fā)諸多倫理爭(zhēng)議。面對(duì)人工智能倫理評(píng)價(jià)呈現(xiàn)越來越復(fù)雜的局面，筆者以今日頭條為研究場(chǎng)景，探討用戶關(guān)注的人工智能倫理的向度問題。

筆者將從學(xué)理層面和業(yè)界訴求兩方面綜合確定討論度較高的人工智能倫理維度。從倫理學(xué)角度看，“一線倫理”是能夠讓所有人都認(rèn)可的共同價(jià)值基準(zhǔn)。某種意義上說，人權(quán)原則就是應(yīng)用倫理學(xué)下的一線倫理。盡管當(dāng)前有關(guān)人權(quán)的確立和內(nèi)涵外延上仍存在一些論爭(zhēng)，但在“自主、平等、公正、尊嚴(yán)、關(guān)愛”等基本人權(quán)價(jià)值上所達(dá)成的共識(shí)，則具有明確性和不可動(dòng)搖性。

人工智能技術(shù)正在深刻改變著人們的生產(chǎn)生活方式，但在不同領(lǐng)域與行業(yè)中，人工智能技術(shù)大規(guī)模應(yīng)用也會(huì)帶來如算法偏見、算法黑盒等諸多問題，給人類社會(huì)帶來了巨大的困擾與不安。據(jù)2019年普華永道調(diào)查顯示，人工智能技術(shù)的安全、責(zé)任、透明、隱私問題是企業(yè)目前面臨的最大難題。為應(yīng)對(duì)這些困擾，歐盟委員會(huì)于2019年4月8日發(fā)布了《人工智能倫理準(zhǔn)則》，該準(zhǔn)則要求人工智能技術(shù)應(yīng)尊重基本人權(quán)且必須安全可靠。隨后，我國(guó)也提出了和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開放協(xié)作、敏捷治理的人工智能治理八項(xiàng)原則?；诖?，筆者綜合國(guó)內(nèi)外對(duì)人工智能倫理的學(xué)理分析，再圍繞近年來對(duì)新興技術(shù)治理機(jī)制的討論，將人工智能倫理理論框架確定為“自主”、“公平”、“尊嚴(yán)”、“關(guān)愛”、“安全”、“責(zé)任”、“透明”、“隱私保護(hù)”、“可持續(xù)發(fā)展”共九個(gè)維度，九個(gè)倫理維度是理論上人工智能的倫理維度，實(shí)際上也是人類基本倫理價(jià)值標(biāo)準(zhǔn)在人工智能技術(shù)中的具體呈現(xiàn)。

在研究方法上，筆者以人民智庫和曠視AI治理研究院評(píng)選出的“2020年度全球十大人工治理事件”為焦點(diǎn)事件進(jìn)行分析。十大事件是在綜合了各領(lǐng)域的資料數(shù)據(jù)、10萬以上網(wǎng)友票選以及專家們的意見評(píng)選得出，事件樣本具有典型代表性，能真實(shí)反映出用戶的關(guān)切程度。如表1所示，筆者采用共詞分析法，首先通過事件關(guān)鍵詞在指定日期內(nèi)對(duì)事件下的用戶評(píng)論進(jìn)行搜索，共獲取相關(guān)數(shù)據(jù)60040萬條；其次對(duì)獲取的數(shù)據(jù)進(jìn)行預(yù)處理和分詞處理；最后對(duì)用戶評(píng)論的高頻詞進(jìn)行聚類分析與統(tǒng)計(jì)分析，以此推斷出今日頭條用戶對(duì)人工智能技術(shù)倫理的關(guān)切向度。

筆者將十大事件從AI與公眾福祉、AI與公平正義、AI政府（企業(yè)）治理、AI系統(tǒng)安全性與數(shù)據(jù)隱私安全四個(gè)方面進(jìn)行分類探討，通過對(duì)用戶評(píng)論高頻詞的統(tǒng)計(jì)分析，揭示同一類型事件中今日頭條用戶對(duì)人工智能倫理的關(guān)切程度。

1.涉及人工智能與公共福祉事件。第一，AI成“監(jiān)工”事件中，共有6588條用戶評(píng)論參與高頻詞提取，高頻詞關(guān)涉到的倫理向度為安全、尊嚴(yán)、關(guān)愛、責(zé)任、自主、公平六個(gè)倫理維度。通過分析發(fā)現(xiàn)，用戶對(duì)外賣員的工作和生活狀況、安全和社會(huì)保障都給予高度關(guān)注，認(rèn)為企業(yè)逐利的本質(zhì)、算法的不公平使得外賣員在工作中面臨安全威脅；也有用戶認(rèn)為外賣員缺少自主申訴途徑，無法明確責(zé)任主體，難以追責(zé)；還有用戶提出要關(guān)愛勞動(dòng)者，算法應(yīng)更具人情味，但鮮有用戶關(guān)注到“算法透明”等相關(guān)問題。

第二，AI向善事件中，共有1977條用戶評(píng)論參與高頻詞提取，高頻詞關(guān)涉到的倫理向度為關(guān)愛、隱私保護(hù)、可持續(xù)發(fā)展、公平四個(gè)方面。通過分析發(fā)現(xiàn)，多數(shù)用戶認(rèn)為“技術(shù)向善”的利民舉措能夠惠及老幼人群，充分體現(xiàn)了技術(shù)公平，可持續(xù)推廣使用；部分用戶認(rèn)為應(yīng)關(guān)愛老人并積極推動(dòng)智能社會(huì)的適老化；還有用戶擔(dān)憂技術(shù)使用可能產(chǎn)生個(gè)人隱私和信息泄露問題，要謹(jǐn)慎使用。然而極少有用戶提出對(duì)老年人技術(shù)“自主性”的要求。

2.涉及人工智能與公平正義的事件。第一，湖南岳陽警方破獲AI犯罪案事件中，共有2181條用戶評(píng)論參與高頻詞提取，高頻詞涉及的倫理向度主要為安全、隱私和責(zé)任三個(gè)方面。分析發(fā)現(xiàn)，大部分用戶擔(dān)心在享受人工智能技術(shù)帶來紅利的同時(shí)，隱私會(huì)受到侵害；部分用戶肯定了“人”在“AI犯罪”中的主導(dǎo)作用，認(rèn)為技術(shù)本無善惡，人利用技術(shù)實(shí)施的犯罪行為要承擔(dān)全部責(zé)任，僅少部分用戶認(rèn)為人與機(jī)器都應(yīng)該有明確的責(zé)任分擔(dān)。

第二，人工智能擁有著作權(quán)事件中，共有3112條用戶評(píng)論參與高頻詞提取，高頻詞關(guān)涉的倫理向度為尊嚴(yán)、公平、關(guān)愛三個(gè)維度。分析發(fā)現(xiàn)，大部分用戶認(rèn)為人工智能生成物的真正貢獻(xiàn)者應(yīng)是人工智能設(shè)計(jì)者、軟件開發(fā)者或程序設(shè)定者；有用戶認(rèn)為人類研發(fā)人工智能是為了更好地輔助人類，而不是制造出與人類競(jìng)爭(zhēng)的權(quán)利主體；部分用戶認(rèn)為評(píng)定人工智能生成物擁有著作權(quán)是對(duì)人類尊嚴(yán)的侵犯，有損公平正義；也有用戶擔(dān)憂人工智能可能使諸多產(chǎn)業(yè)發(fā)生革命性變革，導(dǎo)致部分人失業(yè)。

3.涉及人工智能系統(tǒng)安全性與數(shù)據(jù)隱私安全的事件。

第一，人工智能“讀懂意識(shí)”事件中，共有2079條用戶評(píng)論參與高頻詞提取，高頻詞關(guān)涉的倫理向度有安全、隱私、自主、尊嚴(yán)四個(gè)方面。通過分析發(fā)現(xiàn)，用戶爭(zhēng)議聲較大的是關(guān)于腦機(jī)結(jié)構(gòu)翻譯大腦想法會(huì)對(duì)人們隱私和安全構(gòu)成巨大威脅的問題；部分用戶認(rèn)為“機(jī)器意識(shí)”直追人類意識(shí)，人的獨(dú)立性、尊嚴(yán)、自主性均受到一定程度的挑戰(zhàn)；對(duì)于人工智能的可持續(xù)發(fā)展問題卻鮮有用戶關(guān)注到。

第二，“無人車”權(quán)責(zé)歸屬事件中，共有1466條用戶評(píng)論參與高頻詞提取，高頻詞關(guān)涉的倫理向度有關(guān)愛、安全、責(zé)任三個(gè)方面。大部分用戶都聚焦在無人駕駛車輛安全問題上；少數(shù)用戶認(rèn)為自動(dòng)駕駛車輛投入可能讓大量的駕駛員失業(yè)；也有極少部分用戶認(rèn)為無人駕駛是未來智能交通的發(fā)展方向；但較少有用戶關(guān)注到“無人車”可能對(duì)用戶隱私產(chǎn)生侵害等問題。

第三，人工智能技術(shù)具備“自主意識(shí)”事件中，共有905條用戶評(píng)論參與了高頻詞提取，高詞頻關(guān)涉的倫理向度有自主、尊嚴(yán)、安全三個(gè)維度。通過分析發(fā)現(xiàn)，大部分用戶認(rèn)為一旦人工智能產(chǎn)生了“自主意識(shí)”，會(huì)對(duì)人類尊嚴(yán)和安全產(chǎn)生威脅；還有用戶認(rèn)識(shí)到人工智能的發(fā)展是一把“雙刃劍”，要謹(jǐn)慎使用。對(duì)于涉及人工智能責(zé)任和法律人格尊嚴(yán)認(rèn)定的問題，用戶們并未提及。

第四，在人工智能首次控制美國(guó)軍用系統(tǒng)事件中，高頻詞提取的用戶評(píng)論共計(jì)31947條，說明用戶對(duì)此事高度關(guān)注。高頻詞關(guān)涉的倫理向度主要有安全、自主和尊嚴(yán)三個(gè)維度。有關(guān)分析發(fā)現(xiàn)，智能時(shí)代的兩國(guó)爭(zhēng)鋒或演變成兩國(guó)算法戰(zhàn)，因此用戶們對(duì)算法的安全性深表擔(dān)憂；也有部分用戶認(rèn)為人工智能模型還存在設(shè)計(jì)缺陷，無法抵御復(fù)雜多變的戰(zhàn)場(chǎng)環(huán)境；少部分用戶認(rèn)為人工智能技術(shù)的快速發(fā)展會(huì)導(dǎo)致很多工作如飛行員、司機(jī)職位等被其取代，進(jìn)而有損人類尊嚴(yán)；但事件中關(guān)于算法公平和人工智能責(zé)任的問題用戶極少談及。

4.涉及人工智能政府（企業(yè)）治理的事件。第一，在歐美、韓國(guó)相繼出臺(tái)AI治理新規(guī)事件中，高頻詞抓取的用戶評(píng)論共有7199條，高頻詞關(guān)涉的倫理向度有隱私、尊嚴(yán)、自主、安全、公平五個(gè)方面。通過分析發(fā)現(xiàn)，大多數(shù)用戶理解且贊同歐美、韓國(guó)出臺(tái)政策的做法，擔(dān)憂“人臉識(shí)別”的潛在風(fēng)險(xiǎn)；也有用戶提出人臉信息識(shí)別有損“人格尊嚴(yán)”；還有用戶認(rèn)為使用人臉信息的前提是充分知情，信息主體有對(duì)個(gè)人信息自主決定的權(quán)利；少數(shù)用戶提到人臉識(shí)別還會(huì)引發(fā)種族偏見和性別歧視等不公正問題；也有極少數(shù)用戶不贊同歐美、韓國(guó)禁止使用“人臉識(shí)別”的做法，認(rèn)為不能因噎廢食，需要建設(shè)性的解決問題。

第二，在美國(guó)科技巨頭企業(yè)對(duì)人工智能技術(shù)監(jiān)管事件中，共有2606條用戶評(píng)論參加高頻詞的抓取，高頻詞關(guān)涉到的倫理向度有隱私保護(hù)、責(zé)任、可持續(xù)發(fā)展、安全四個(gè)方面。大多數(shù)用戶贊同美國(guó)科技巨頭對(duì)人工智能技術(shù)的監(jiān)管，認(rèn)為人工智能技術(shù)的發(fā)展會(huì)產(chǎn)生安全、隱私和權(quán)責(zé)不明等問題，需要謹(jǐn)慎對(duì)待；少數(shù)部分用戶關(guān)注到人工智能準(zhǔn)則的制定是為了更好促進(jìn)人工智能的可持續(xù)發(fā)展。

筆者進(jìn)一步對(duì)今日頭條用戶在十個(gè)事件中倫理關(guān)切向度出現(xiàn)頻次進(jìn)行統(tǒng)計(jì)，結(jié)果如圖1所示，在十大事件中，用戶對(duì)“安全”、“尊嚴(yán)”的關(guān)注頻次相對(duì)較高，對(duì)“自主”、“隱私保護(hù)”、“關(guān)愛”、“責(zé)任”和“公平”的關(guān)注頻次次之，對(duì)“可持續(xù)發(fā)展”關(guān)切頻次較少，而“透明”向度未能被用戶所關(guān)切。由此可以看出，用戶更關(guān)心與自身生活產(chǎn)生直接相關(guān)的倫理風(fēng)險(xiǎn)，對(duì)其倫理訴求也更加迫切。

1.“人本主義至上”：今日頭條用戶關(guān)切的核心倫理向度。筆者研究發(fā)現(xiàn)，用戶關(guān)切頻次較高的倫理向度是“尊嚴(yán)”、“安全”、“自主”、“隱私保護(hù)”、“關(guān)愛”、“責(zé)任”、“公平”方面，這些倫理向度恰恰與社會(huì)核心價(jià)值體系保持一致。人工智能的發(fā)展應(yīng)以人類價(jià)值為核心，以人類福祉獲取為目標(biāo)，研發(fā)者應(yīng)以“人本主義”倫理原則為基本遵循，尊重和保護(hù)人權(quán)，重視人工智能技術(shù)的公平與正義。此外還發(fā)現(xiàn)，社交媒體用戶更關(guān)切人在技術(shù)中的主體性問題，當(dāng)人工智能產(chǎn)品可能獲得自主性或人工智能技術(shù)可能造成大面積失業(yè)時(shí)，用戶傾向認(rèn)為在人工智能技術(shù)發(fā)展中必須堅(jiān)持人的尊嚴(yán)，不能將人變成純粹的、操縱化的工具或手段。

2.“透明性”：今日頭條用戶關(guān)切的倫理向度盲區(qū)。當(dāng)前用戶較少對(duì)人工智能技術(shù)“透明性”倫理有所關(guān)注，這是今日頭條用戶對(duì)人工智能技術(shù)關(guān)切向度在應(yīng)然與實(shí)然層面上存在偏差的集中體現(xiàn)?！巴该餍浴痹瓌t能應(yīng)對(duì)“算法技術(shù)黑箱”所造成的信息不對(duì)稱問題，以實(shí)現(xiàn)風(fēng)險(xiǎn)的防控與監(jiān)管。以算法為主要代表的人工智能技術(shù)已成為“看不見的手”，盡管能清楚感受其存在，但卻無法對(duì)其內(nèi)部一窺究竟。算法在本質(zhì)上具有非透明性，其決策標(biāo)準(zhǔn)隱藏在用戶不易覺察的代碼中，特別是算法能依據(jù)不同的數(shù)據(jù)模式產(chǎn)生動(dòng)態(tài)變化。由此導(dǎo)致的結(jié)果是，用戶僅關(guān)注算法所帶來的結(jié)果，不關(guān)心算法的具體操作，沒有透明性的制度設(shè)計(jì)與安排最終將導(dǎo)致算法缺乏公眾的監(jiān)管和信任。

3.“審慎與節(jié)制”：今日頭條用戶關(guān)切的倫理新向度。史蒂芬·霍金曾預(yù)言，“人工智能的出現(xiàn)可能是‘人類文明史上最糟糕的事件’，除非人類社會(huì)能找到控制方法。”隨著人們技術(shù)素養(yǎng)的不斷提升，普通用戶對(duì)人工智能的發(fā)展也有了更深層次的認(rèn)識(shí)。筆者研究發(fā)現(xiàn)，用戶對(duì)于人工智能技術(shù)不再是一味接受與享用，也開始進(jìn)行深入反思，譬如在“人工智能無人駕駛”和“人工智能可實(shí)現(xiàn)自主意識(shí)”等事件中，“審慎”、“節(jié)制”、“安全”、“負(fù)責(zé)”等詞成為用戶關(guān)注的高頻詞匯，表現(xiàn)出用戶對(duì)人工智能發(fā)展的擔(dān)憂，認(rèn)為對(duì)技術(shù)的革新要保持必要的謹(jǐn)慎，需對(duì)風(fēng)險(xiǎn)進(jìn)行評(píng)估和規(guī)避。

同一事件中用戶對(duì)人工智能倫理的認(rèn)知、態(tài)度和倫理判斷存在差異性和一致性。因此，倫理觀的引領(lǐng)必定是一個(gè)多元且復(fù)雜的問題，需要從技術(shù)、社會(huì)治理、法律、文化等方面開展對(duì)我國(guó)用戶人工智能倫理觀的引領(lǐng)。

首先，人工智能設(shè)計(jì)應(yīng)遵循“以人為本”的最高原則，尊重人的尊嚴(yán)、自由及文化多樣性，正視人工智能可能產(chǎn)生的倫理問題，積極了解并回應(yīng)用戶的主要關(guān)切。在法律層面，應(yīng)完善法律法規(guī)以確保人的尊嚴(yán)和自主性；在社會(huì)治理層面，應(yīng)響應(yīng)用戶關(guān)于公平、正義、安全等與社會(huì)和諧發(fā)展緊密相關(guān)的訴求；在信息傳播層面，需要媒體充分發(fā)揮正面引領(lǐng)作用，及時(shí)為用戶提供全面、客觀的信息，與用戶展開理性的溝通與對(duì)話，并促進(jìn)政府和企業(yè)的重視；在文化教育層面，應(yīng)對(duì)用戶開展因地制宜的智能技術(shù)教育，消除因技術(shù)鴻溝產(chǎn)生的知識(shí)壁壘，譬如建立智能技術(shù)倫理教育試點(diǎn)，借助平臺(tái)加大對(duì)人工智能的解釋和風(fēng)險(xiǎn)告知等。

其次，以公眾關(guān)注的話題為切入點(diǎn)，對(duì)人工智能技術(shù)進(jìn)行系統(tǒng)性與針對(duì)性的科普。從當(dāng)前社交媒體用戶較少關(guān)注“算法透明性”倫理問題可以看出，盡管人工智能技術(shù)成了社交媒體上的熱門話題，但有關(guān)人工智能技術(shù)的科學(xué)問題、相關(guān)科普類信息的內(nèi)容仍有所欠缺。媒體普遍關(guān)注人工智能政策落地和技術(shù)應(yīng)用方面，尤其更關(guān)注人工智能技術(shù)的娛樂性和商業(yè)性。因此，對(duì)用戶進(jìn)行人工智能技術(shù)方面的科普不僅有助于提升公眾的人工智能認(rèn)知水平，還能夠減少用戶對(duì)人工智能技術(shù)的擔(dān)憂，讓用戶以理性的態(tài)度看待人工智能技術(shù)應(yīng)用對(duì)社會(huì)的影響，為我國(guó)人工智能領(lǐng)域的健康發(fā)展?fàn)I造良好的社會(huì)氛圍。

再次，倡導(dǎo)用戶深入?yún)⑴c人工智能的研發(fā)與應(yīng)用。從當(dāng)前社交媒體用戶對(duì)人工智能技術(shù)保持審慎態(tài)度來看，用戶對(duì)其已具備了一定的風(fēng)險(xiǎn)感知能力。然而，用戶對(duì)人工智能技術(shù)過度謹(jǐn)慎與節(jié)制反而會(huì)抑制其正常發(fā)展。因此，倡導(dǎo)用戶深入?yún)⑴c人工智能的研發(fā)與應(yīng)用能幫助破除技術(shù)鴻溝帶來的知識(shí)壁壘，促進(jìn)理性溝通與對(duì)話。譬如采取用戶反饋、用戶控制和用戶選擇等方式，同時(shí)包括利用人工智能技術(shù)的能力促進(jìn)用戶參與及公平賦能。另外，用戶參與也可以通過行使個(gè)人權(quán)利來實(shí)現(xiàn)。尊重用戶的隱私權(quán)、信息自由權(quán)與保護(hù)權(quán)、信息公平等個(gè)人權(quán)利，相關(guān)部門應(yīng)提供相應(yīng)的異議和申訴平臺(tái)，以確保用戶能及時(shí)維護(hù)權(quán)益；對(duì)于人工智能造成的損害，能為用戶提供相應(yīng)的救濟(jì)渠道并追究參與者的法律責(zé)任。

在未來用戶人工智能倫理觀研究層面，可以進(jìn)一步關(guān)注不同用戶在不同事件中的認(rèn)知偏向和倫理取向的共性和差異性，推動(dòng)人工智能技術(shù)平臺(tái)合力打造良性的人工智能倫理觀生態(tài)體系。

作者系湖南第一師范學(xué)院文學(xué)與新聞傳播學(xué)院副教授

本文系湖南省教育廳科學(xué)研究?jī)?yōu)秀青年項(xiàng)目“融媒體背景下數(shù)據(jù)新聞的生產(chǎn)與倫理研究”（項(xiàng)目編號(hào)：19B120）的研究成果。

參考文獻(xiàn)

[1]李倫.中國(guó)科技倫理研究范式回歸契機(jī)——“當(dāng)代科技倫理前沿問題學(xué)術(shù)研討會(huì)”綜述[J].倫理學(xué)研究，2005（11）.

[2]人民日?qǐng)?bào).歐盟發(fā)布人工智能倫理準(zhǔn)則[EB/OL].（2019-04-11）[2021-12-13].http：//www.xinhuanet.com/tech/2019-04/11/ c_1124350837.htm.

[3]中國(guó)新聞網(wǎng).新一代人工智能治理原則[EB/OL].（2019-06-17）[2021-12-13].https：//www.chinanews.com/gn/2019/06-17/8866913.shtml.

[4]人民論壇網(wǎng).2020年度全球人工智能十大事件[EB/OL].（2021-01-15）[2021-12-13].http：//www.rmlt.com.cn/2021/0115/605251. shtml.

[5]Maayan Perel，Niva Elkin-Koren，Black box tinkering：beyond disclosure in algorithmic enforcement[J].Florida Law Review，2017（69）.

【編輯：朱垚穎】

3515500338217