摘要：人工智能尤其是強(qiáng)人工智能使得人與技術(shù)之間呈現(xiàn)交互關(guān)系，技術(shù)現(xiàn)象學(xué)中具身、詮釋、它異、背景這4種人—技術(shù)—世界的意向性關(guān)系發(fā)生著變更和異化，沖擊了人作為技術(shù)主體的地位，同時蘊(yùn)含著身體虛化、詮釋遮蔽、他者競爭和文明失序的內(nèi)在性風(fēng)險。把握人—技術(shù)—世界中的意向性關(guān)系，成為人工智能風(fēng)險治理的新思路、新視角，有助于完善人工智能技術(shù)治理、原則治理路徑，促使善治良治成為機(jī)器行為學(xué)的內(nèi)生品質(zhì)。

關(guān)鍵詞：人工智能；技術(shù)現(xiàn)象學(xué)；意向性；后人類主義

中圖分類號：TP18；D63???? 文獻(xiàn)標(biāo)識碼：A???? 文章編號：１００３－１５０２（２０24）０2－０092－13

基金項目：國家社會科學(xué)基金項目“技術(shù)現(xiàn)象學(xué)視角下智能算法嵌入社會與治理研究”，項目編號：22BSH001。

作者簡介：董向慧（1983—），男，天津社會科學(xué)院輿情研究所副研究員，北京師范大學(xué)新聞傳播學(xué)院博士后。

ChatGPT、文心一言等大模型人工智能（Artificial Intelligence，簡稱AI）的應(yīng)用推廣使得2023年成為“強(qiáng)人工智能”元年。大模型人工智能的智識性、對人類語言環(huán)境和背景“主體間性”的理解，以及其集數(shù)據(jù)分析、程序?qū)懽鞯榷嘀毓δ苡谝惑w，使得生成式人工智能、強(qiáng)人工智能成為學(xué)界和業(yè)界關(guān)注焦點。強(qiáng)人工智能的巨大進(jìn)展不由得讓人們重新審視雷·庫茲韋爾在《奇點臨近》一書中的預(yù)言，即2045年人工智能將在智識水平上超越人類，生物智能與非生物智能相互融合、人類智慧飛躍發(fā)展的奇點正在臨近。而SpaceX創(chuàng)始人埃隆·馬斯克更是將ChatGPT作為人類文明由碳基文明向硅基文明轉(zhuǎn)向的起點，他認(rèn)為人類社會只是超級數(shù)字智能的生物引導(dǎo)程序，人類存在的意義在于啟動計算機(jī)。按照上述預(yù)言，科幻電影中的數(shù)字生命已不僅僅是虛構(gòu)，而是將要到來的現(xiàn)實。在風(fēng)險高度不確定的智能社會來臨時，人類不僅要探討人與人之間的相互關(guān)系與如何和諧相處，更要探索人機(jī)關(guān)系的和諧共生，從而避免現(xiàn)實和潛在的各種風(fēng)險，這包括政治、經(jīng)濟(jì)、倫理、法律等風(fēng)險，甚至是科幻作品中人工智能統(tǒng)治人類、人工智能毀滅人類的風(fēng)險。而對人工智能風(fēng)險的消解、預(yù)防和治理，從根本上依靠對人工智能這一技術(shù)深層邏輯的把握，以及對人工智能風(fēng)險類型的有效區(qū)分。從技術(shù)現(xiàn)象學(xué)的視角看，人工智能使人—技術(shù)—世界中的意向關(guān)系產(chǎn)生了交互性。這使直接經(jīng)驗、直接體驗的現(xiàn)實世界成為虛擬與現(xiàn)實共生的融合世界，唐·伊德所提出的具身、詮釋、它異、背景4種意向關(guān)系產(chǎn)生了變更，從而產(chǎn)生了身體虛化、詮釋遮蔽、他者競爭、文明失序4種風(fēng)險。

一、人工智能的現(xiàn)實與潛在風(fēng)險

人工智能先驅(qū)Donald Michie 將人工智能分為3類：弱人工智能、強(qiáng)人工智能和超人工智能。弱人工智能（專項人工智能）①指的是在某一領(lǐng)域模擬、代替人類智識的技術(shù)，如圍棋機(jī)器人阿爾法狗；強(qiáng)人工智能也稱之為通用人工智能，指具有比肩人類智識水平的智能技術(shù)，當(dāng)下的聊天機(jī)器人ChatGPT已初步具備強(qiáng)人工智能特征；超人工智能則類似于科幻作品中，具有超越人類智識水平和意識能力的智能技術(shù)。作為異于人類且具有智識性的技術(shù)，人工智能自其問世起便引發(fā)公眾和學(xué)界對其風(fēng)險性的警惕和擔(dān)憂。而伴隨人工智能技術(shù)如智能傳播、算法決策、人臉識別、自動駕駛等廣泛應(yīng)用，人工智能的現(xiàn)實和潛在風(fēng)險也日益凸顯。有研究將人工智能的風(fēng)險歸納為10個方面：隱私泄露、勞動競爭、主體多元、邊界模糊、能力溢出、懲罰無效、倫理沖突、暴力擴(kuò)張、種群替代和文明異化[1]。上述風(fēng)險部分是人工智能的現(xiàn)實風(fēng)險，更多的則是潛在風(fēng)險。從發(fā)展階段來看，當(dāng)前廣泛應(yīng)用的仍是弱人工智能技術(shù)，其現(xiàn)實風(fēng)險已經(jīng)出現(xiàn)。而隨著ChatGPT等技術(shù)的發(fā)展，強(qiáng)人工智能潛在風(fēng)險的可能性將會更為突出。

（一）弱人工智能的現(xiàn)實風(fēng)險

弱人工智能（專項人工智能）在現(xiàn)實社會中已被廣泛應(yīng)用，如人臉識別、自動駕駛、智能新聞推送、算法決策等。而從國內(nèi)外弱人工智能的現(xiàn)實風(fēng)險來看，主要集中在匹配式人工智能算法加劇了社會偏見、群體歧視，使財富、數(shù)字鴻溝擴(kuò)大。匹配式人工智能主要基于數(shù)據(jù)挖掘和分析建立算法模型，為用戶、商品、信息、服務(wù)打上具有相關(guān)性的“標(biāo)簽”?；谒惴Ｐ秃蜆?biāo)簽的復(fù)雜相關(guān)性，匹配式人工智能可進(jìn)行數(shù)據(jù)、信息和用戶之間的高效鏈接、推送、畫像，其應(yīng)用場景包括人工智能決策、智能新聞推送等，常見的應(yīng)用程序如抖音、今日頭條等。

匹配式人工智能基于算法模型和標(biāo)簽將數(shù)據(jù)、金錢、商品、服務(wù)、信息進(jìn)行鏈接、推送，其現(xiàn)實風(fēng)險主要來自兩個方面。一方面，算法決策使個人、群體在智能決策系統(tǒng)中處于被支配地位，存在著“黑箱操作”、系統(tǒng)性歧視的風(fēng)險，包括抹殺個體獲取資源的機(jī)會、算法歧視和邊緣化群體、動搖社會賴以生存的道德政治基礎(chǔ)[2]等。另一方面，算法推薦尤其是智能新聞推薦存在著“信息繭房”②“群體極化”③等效應(yīng)，可固化不同群體的偏見，加劇社會中的認(rèn)知沖突。凱西·奧尼爾將算法稱之為“數(shù)學(xué)殺傷性武器”，這些系統(tǒng)正日益在更大程度上操控著我們的生活，數(shù)學(xué)模型像上帝一樣晦暗不明，人們對模型結(jié)論無法上訴，而這一結(jié)論往往會懲罰社會中的窮人[3]。簡而言之，弱人工智能的風(fēng)險集中在匹配式人工智能領(lǐng)域，其風(fēng)險主要為現(xiàn)有社會財富、階層、認(rèn)知差距的固化與擴(kuò)大化，且掌握和使用人工智能數(shù)據(jù)、算法的多為大型企業(yè)、政府機(jī)構(gòu)，這使得數(shù)字極權(quán)、數(shù)字壟斷、數(shù)字剝削加劇的風(fēng)險大幅提升。

（二）強(qiáng)人工智能的潛在風(fēng)險

如果說弱人工智能的現(xiàn)實風(fēng)險是區(qū)域性、局部性的，強(qiáng)人工智能的潛在風(fēng)險則具有根本性和系統(tǒng)性。強(qiáng)人工智能具有類比人類智識水平和解決問題的能力，其關(guān)涉到人類的主體地位和生存發(fā)展，對人類社會的哲學(xué)、倫理、政治、經(jīng)濟(jì)、文化、社會等領(lǐng)域都是空前的沖擊和挑戰(zhàn)。正如尤瓦爾·赫拉利在《未來簡史——從智人到智神》中所預(yù)言，智能算法將多數(shù)人從就業(yè)市場排擠出去，少數(shù)壟斷算法和數(shù)據(jù)的人成為“智神”，造成前所未有的社會與政治不平等[4]299。

當(dāng)下，強(qiáng)人工智能處于起步和萌芽階段，其風(fēng)險性仍處于潛在階段。已經(jīng)發(fā)布的ChatGPT-4具有語言模型的多模態(tài)特征，能夠同時生成文本、圖像和視頻。而繪畫人工智能Midjourney則可以媲美甚至超越人類畫師、攝影師。多模態(tài)語言模型的出現(xiàn)意味著人工智能可同時完成電影、音樂、文學(xué)作品的創(chuàng)作。這將對整個知識產(chǎn)權(quán)創(chuàng)作領(lǐng)域產(chǎn)生顛覆性的影響。而隨著應(yīng)用場景的豐富和創(chuàng)新，其對于就業(yè)市場、價值觀等領(lǐng)域的影響尤為深遠(yuǎn)。譬如，強(qiáng)人工智能可代替數(shù)以萬計的文化產(chǎn)業(yè)從業(yè)者，可瞬間生成具有特定價值觀傾向的電影、電視劇等文化產(chǎn)品，這無疑蘊(yùn)含著結(jié)構(gòu)性失業(yè)、社會群體認(rèn)知沖突等巨大風(fēng)險。強(qiáng)人工智能的潛在系統(tǒng)性、根本性風(fēng)險可見一斑。

伴隨強(qiáng)人工智能的深度學(xué)習(xí)訓(xùn)練和模型完善，其將廣泛應(yīng)用于人類生產(chǎn)、生活的各個領(lǐng)域。ChatGPT所顯現(xiàn)的強(qiáng)人工智能的系統(tǒng)性和復(fù)雜性風(fēng)險只是“冰山一角”，科幻作品中人工智能馴化、控制甚至毀滅人類的風(fēng)險并非杞人憂天。正如有的研究提出的“人工智能巨風(fēng)險”概念，“巨風(fēng)險”包括機(jī)器自涉式巨風(fēng)險、社會系統(tǒng)侵入式巨風(fēng)險、非對稱破壞式巨風(fēng)險等[5]?？梢灶A(yù)見的是，隨著人工智能接近、超越人類智慧的“奇點”臨近，人工智能的風(fēng)險性也將變得尤為突出。如果說弱人工智能風(fēng)險的核心問題仍是人與人和諧相處，強(qiáng)人工智能風(fēng)險的核心問題則是人與機(jī)器的良性共生。

綜上所述，弱人工智能的風(fēng)險具有區(qū)域性、局部性，其現(xiàn)實風(fēng)險是可控的。強(qiáng)人工智能的風(fēng)險則具有根本性、系統(tǒng)性，其潛在風(fēng)險對人類社會帶有顛覆性。已有研究就人工智能的現(xiàn)實、潛在風(fēng)險進(jìn)行了多維和豐富的闡述。但這些研究對人工智能的現(xiàn)實與潛在風(fēng)險類型的劃分仍存在模糊之處，且未將現(xiàn)實與潛在風(fēng)險納入統(tǒng)一的理論框架之內(nèi)，只是從主體維度、時限維度對人工智能風(fēng)險進(jìn)行了類型劃分，但這一劃分更多是描述性的[6]。而通過引入和借鑒技術(shù)現(xiàn)象學(xué)理論視角，可將人工智能不同類型的風(fēng)險特性納入完整的理論框架之內(nèi)，從而解釋人工智能風(fēng)險的內(nèi)在邏輯關(guān)系，提升預(yù)防和治理人工智能風(fēng)險的水平。

二、技術(shù)現(xiàn)象學(xué)視角下人工智能風(fēng)險

技術(shù)現(xiàn)象學(xué)由美國學(xué)者唐·伊德于20世紀(jì)八九十年代提出。唐·伊德借鑒現(xiàn)象學(xué)中的核心概念“意向性”，吸納了梅洛-龐蒂的知覺現(xiàn)象學(xué)、海德格爾存在現(xiàn)象學(xué)對技術(shù)的重視，立足美國實用主義哲學(xué)的土壤，創(chuàng)造性地提出了技術(shù)現(xiàn)象學(xué)理論。由于技術(shù)現(xiàn)象學(xué)對經(jīng)驗、技術(shù)和身體的重視，它也被稱為經(jīng)驗主義現(xiàn)象學(xué)、實用主義現(xiàn)象學(xué)或后現(xiàn)象學(xué)。唐·伊德認(rèn)為，技術(shù)是人的意向性延伸，是人與世界關(guān)系的連接物。人—技術(shù)—世界關(guān)系是一種經(jīng)驗的意向性關(guān)系。圍繞這一意向性關(guān)系，唐·伊德提出了具身、詮釋、它異、背景4種人與技術(shù)的關(guān)系。具身關(guān)系的意向性表示為（人—技術(shù)）→世界，技術(shù)成為人的身體知覺的延伸，如眼鏡、電話；詮釋關(guān)系的意向性表示為人→（技術(shù)—世界），人借助技術(shù)來解釋和解讀世界，如溫度計之類的測量儀器；它異關(guān)系的意向性表示為人→技術(shù)—（—世界），技術(shù)作為他者與人產(chǎn)生互動作用關(guān)系，如機(jī)器人；背景關(guān)系的意向性表示為人（—技術(shù)—世界），技術(shù)成為人生存、生活的背景和庇護(hù)所，如核潛艇[7]。

隨著互聯(lián)網(wǎng)信息技術(shù)對人類社會廣泛和深遠(yuǎn)的影響，唐·伊德提出的4種技術(shù)現(xiàn)象學(xué)關(guān)系得到技術(shù)哲學(xué)研究者的關(guān)注和拓展。技術(shù)現(xiàn)象學(xué)也深受海德格爾的影響，其所引用的技術(shù)多為工具性、單一維度技術(shù)，如望遠(yuǎn)鏡、錘子、眼鏡等。隨著互聯(lián)網(wǎng)信息技術(shù)以及交互性、融合性技術(shù)的發(fā)展，學(xué)者結(jié)合新技術(shù)進(jìn)一步豐富了上述4種關(guān)系。譬如，荷蘭學(xué)者維貝克發(fā)展了技術(shù)意向性概念，提出了復(fù)合關(guān)系和賽博格關(guān)系。復(fù)合關(guān)系指的是人的意向性朝向技術(shù)意向性的后果，如智能傳播算法推薦產(chǎn)生的“信息繭房”效應(yīng)。賽博格關(guān)系則是人與機(jī)器相互融合、邊界模糊的意向關(guān)系。復(fù)合關(guān)系是對具身關(guān)系的發(fā)展，賽博格關(guān)系是對解釋學(xué)關(guān)系和他者的發(fā)展[8]。而學(xué)者Best吸納了傳播學(xué)領(lǐng)域的“擬態(tài)環(huán)境”概念，將唐·伊德提出的4種人技意向關(guān)系替換為人與媒介的4種關(guān)系，包括（人—媒介）—媒介世界形成的具身關(guān)系；人—（媒介—媒介世界）形成的詮釋關(guān)系；人—（媒介）媒介世界形成的背景關(guān)系；人—媒介（媒介世界）形成的它異關(guān)系[9]。此外，還有學(xué)者提出了人—技術(shù)—（技術(shù)—世界）的連接關(guān)系，（人—技術(shù)—世界）—世界的情境關(guān)系[10]。

已有研究對唐·伊德4種人技意向關(guān)系的發(fā)展凸顯了這一技術(shù)現(xiàn)象學(xué)理論的張力和解釋力，而交互性、沉浸性技術(shù)的發(fā)展則為技術(shù)現(xiàn)象學(xué)的邊界拓展提供了豐富素材。在唐·伊德提出的具身、詮釋、它異、背景關(guān)系中，人是技術(shù)的主體，人與技術(shù)的意向性指向世界。就人工智能技術(shù)而言，其不僅具有交互性、沉浸性，更主要的是其具有智識性。也就是說，人工智能使得人與技術(shù)之間呈現(xiàn)交互關(guān)系，人工智能既是人探索和拓展世界邊界的延伸，也反過來影響著人和社會的多個維度。正因為人工智能的智識性使其在人—技術(shù)—世界的意向性關(guān)系中發(fā)揮著中介性作用[11]，因而唐·伊德提出的人—技術(shù)—世界的意向性關(guān)系發(fā)生了變更和異化，沖擊了人作為技術(shù)主體的地位，同時蘊(yùn)含著身體虛化、詮釋遮蔽、他者競爭和文明失序的內(nèi)在性風(fēng)險（見表1）。

（一）具身關(guān)系的技術(shù)身體擴(kuò)張與身體虛化

在唐·伊德看來，具身關(guān)系中技術(shù)具有了最大程度的“透明性”，這種透明性使得技術(shù)好像融入身體自身的知覺的經(jīng)驗中[7]。眼鏡、錘子等技術(shù)是唐·伊德解釋具身關(guān)系的例證，眼鏡是視覺的延伸，錘子“上手”的狀態(tài)則是肢體的延伸。需要指出的是，眼鏡、錘子都是單向度的技術(shù)，是受身體支配的技術(shù)。而針對賽博空間、虛擬現(xiàn)實等身體“不在場”技術(shù)，唐·伊德提出了“三個身體”理論。身體一，即肉身的物質(zhì)身體，具有運動感、知覺性和情緒性；身體二，社會文化意義上文化的身體，如文化、性別、政治等；身體三，技術(shù)或技術(shù)化人工物為中介建立的技術(shù)身體存在物[8]。

人工智能技術(shù)尤其是媒介技術(shù)的使用，使得（人■AI）—世界所形成的具身關(guān)系中，技術(shù)身體急劇擴(kuò)張，而物質(zhì)身體、文化身體不斷萎縮。一方面，通過虛擬現(xiàn)實技術(shù)、視頻通信技術(shù)，人們以物質(zhì)身體“不在場”的方式認(rèn)知世界、開展社會活動，智能傳播、智能算法將信息、觀念植入人的身體。技術(shù)身體代替甚至超越物質(zhì)身體在影響和建構(gòu)著文化身體。物質(zhì)身體、文化身體的缺位，技術(shù)身體過度擴(kuò)張使得智能社會的人類缺少傳統(tǒng)社會的直觀體驗、生活體驗和情緒體驗。另一方面，各種可穿戴智能健康監(jiān)測儀器全面“入侵”物質(zhì)身體，將人類的身體和健康狀況數(shù)據(jù)化、信息化，并不斷給出建議和預(yù)警。這種“量化自我”從內(nèi)在消解人的自主性，人類不會再認(rèn)為自己是自主的個體，而是習(xí)慣把人類整體看做一種生化機(jī)制的集合體，由電子算法網(wǎng)絡(luò)實時監(jiān)測和指揮[4]。物質(zhì)身體的“不在場”和 “全景監(jiān)控”使得智能時代人的身體結(jié)構(gòu)改變，技術(shù)身體急劇擴(kuò)張，物質(zhì)身體持續(xù)萎縮，文化身體則被智能傳播和虛擬傳播技術(shù)“植入”。隨著強(qiáng)人工智能技術(shù)的發(fā)展和虛擬技術(shù)的仿真性，人類的身體將被人工智能技術(shù)形塑、監(jiān)測甚至規(guī)訓(xùn)，這種身體虛化的風(fēng)險將從根本上動搖人的主體性和能動性。

（二）詮釋關(guān)系中的技術(shù)解蔽與遮蔽

具身關(guān)系、詮釋關(guān)系統(tǒng)一被唐·伊德統(tǒng)稱為“中介關(guān)系”。詮釋關(guān)系中，技術(shù)是人解讀世界的符號中介、符號轉(zhuǎn)譯，譬如航海圖、溫度計等。詮釋學(xué)作為一種技術(shù)情境中的特殊的解釋活動，這種活動需要一種特殊的行為和知覺模式，類似于閱讀的過程[7]。與具身關(guān)系的知覺“透明性”相比，詮釋關(guān)系則側(cè)重于文本“透明性”。在詮釋關(guān)系中，人借助于符號、技術(shù)來詮釋和理解世界。從詮釋關(guān)系的角度而言，文字、圖片通過互聯(lián)網(wǎng)信息技術(shù)的迅速傳播，極大擴(kuò)展了詮釋關(guān)系。而人工智能技術(shù)的加入，則使人→（技術(shù)—世界）的關(guān)系變更為人■（AI—世界）。也就是說，一方面，人通過智能技術(shù)獲取符號來詮釋世界；另一方面，智能技術(shù)也通過人的詮釋行為詮釋人。這種“凝視深淵，深淵也報以回望”的效應(yīng)，恰是發(fā)生在人工智能技術(shù)中的詮釋關(guān)系，比較典型的例子是各種智能信息推薦算法。譬如，智能新聞軟件能夠根據(jù)用戶的閱讀習(xí)慣和瀏覽路徑來為其“畫像”，從而推送與用戶個體心理、品位、使用場景相匹配的信息。這種智能信息推送在幫助用戶詮釋世界的同時，也在強(qiáng)化和固化用戶的價值觀，形成“信息繭房”效應(yīng)?？梢哉f，人工智能技術(shù)中的詮釋關(guān)系既是一種解蔽，同時也是一種遮蔽，形成認(rèn)知的刻板印象與認(rèn)知鴻溝。而隨著強(qiáng)人工智能時代的到來，技術(shù)遮蔽的風(fēng)險性顯著提升了。首先，人工智能可遮蔽人的求知與創(chuàng)新能力。人工智能可以編寫程序、制作圖片、撰寫論文、知識問答，在幾秒鐘的時間內(nèi)完成人類需要長時段的學(xué)習(xí)與訓(xùn)練過程，這意味著人類的求知與思考過程可被替代、省略，從而遮蔽人類的學(xué)習(xí)與創(chuàng)新能力。其次，強(qiáng)人工智能的遮蔽還體現(xiàn)在價值觀層面。有研究表明，ChatGPT的價值觀偏向美國左翼政治觀。ChatGPT多模態(tài)文本的生成能力，可以使其作品全部體現(xiàn)某種特定價值觀。因而，人工智能的遮蔽風(fēng)險使特定的文化、價值觀被篩選、過濾、邊緣化，這種風(fēng)險已悄然來臨。

（三）它異關(guān)系中的競爭與替代風(fēng)險

在它異關(guān)系中，技術(shù)成為人的互動者，作為與“我”隨時隨地打交道的前景和準(zhǔn)他者出現(xiàn)。唐·伊德已然認(rèn)識到人工智能的它異性，但認(rèn)為智能機(jī)器人是一種準(zhǔn)他者。計算機(jī)是一個它異關(guān)系技術(shù)很好的例子。但是計算機(jī)的它者性是一種準(zhǔn)他者性，它的真正用處還在于它的詮釋學(xué)能力[7]。而隨著人工智能技術(shù)的發(fā)展尤其是強(qiáng)人工智能技術(shù)的臨近，人工智能與人的它異關(guān)系已逐漸成為現(xiàn)實。正如赫拉利所提出的“無用階級”④，在機(jī)器與人類的競爭僅限于身體能力時，人類還有數(shù)不盡的認(rèn)知任務(wù)有待完成，一旦算法在記憶、分析和辨識各種模式的能力上超過人類，會發(fā)生什么事尚無法預(yù)料[4]。

人工智能與人的它異關(guān)系，使人與人工智能處于競爭和替代的風(fēng)險博弈中。首先，人工智能在就業(yè)市場中與人存在競爭關(guān)系。人工智能應(yīng)用會導(dǎo)致經(jīng)濟(jì)增長過程中出現(xiàn)日益突出的資本替代勞動的趨勢，企業(yè)具有內(nèi)在的過度自動化激勵，這會導(dǎo)致嚴(yán)重的失業(yè)問題[12]。而人工智能在就業(yè)市場對人類的擠出效應(yīng)，則比想象中來得要快。人工智能要把人類擠出就業(yè)市場，只要在特定行業(yè)需要的特定能力上超越人類，就已足夠[4]。隨著ChatGPT-4的發(fā)布，其強(qiáng)大的文字、圖像和知識生成能力引發(fā)爭論，即人工智能可在很大程度上替代職場“白領(lǐng)”包括律師的工作。

其次，人工智能的智識水平與人越來越趨近，不僅在就業(yè)市場上與人類存在競爭風(fēng)險，在情感和社會關(guān)系中也存在著替代風(fēng)險。人工智能對語言背景、主體間性的理解，使其與人對話溝通更趨向真實性。ChatGPT4已經(jīng)能讀懂圖片、理解搞笑圖片的“?！薄．?dāng)下，人工智能的交互性、主體間性與元宇宙、虛擬現(xiàn)實的結(jié)合將是趨勢。在這一背景下，人類與人工智能人物、數(shù)字人物進(jìn)行互動、成為伴侶都將成為現(xiàn)實。在虛實相間的數(shù)字世界中，人工智能人物、數(shù)字人物將會比人類更能理解、同情人類，也就是說，人工智能不僅能提供智識價值，還能夠提供情緒價值。因而，人與人工智能的關(guān)系可能比人與人的關(guān)系更為親密、緊密。人與人工智能的它異關(guān)系已由科幻作品來到現(xiàn)實，兩者之間的競爭、替代風(fēng)險性也將越來越高。

（四）背景關(guān)系中的文明失序風(fēng)險

在唐·伊德提出的背景關(guān)系中，技術(shù)作為一種不在場的顯現(xiàn)，成為人的經(jīng)驗領(lǐng)域的一部分和當(dāng)下環(huán)境的共同組成部分，如庇護(hù)技術(shù)、太空站。背景技術(shù)起到場域的作用，卻調(diào)節(jié)著生活情境[7]111-112。在背景關(guān)系中，技術(shù)如同空氣和WIFI一樣，發(fā)揮著場域和情境的功能，只有在其缺失或損壞的條件下才顯示出重要性。當(dāng)下，強(qiáng)人工智能、通用型人工智能技術(shù)的背景功能已經(jīng)出現(xiàn)，以ChatGPT為例，它已可以接入辦公軟件、繪圖軟件、視頻軟件。而隨著人工智能場景的豐富，ChatGPT接入機(jī)器人、汽車、手機(jī)以及各種可穿戴設(shè)備已不存在技術(shù)障礙?？梢哉f，類似ChatGPT的強(qiáng)人工智能技術(shù)將“植入”各類智能軟件、智能設(shè)備。屆時，人工智能技術(shù)則像空氣和水一樣，成為人類世界的“背景”和基礎(chǔ)設(shè)置。

當(dāng)人工智能技術(shù)成為人類世界的“背景”，人類文明則時刻處于失序、失控的風(fēng)險之中。首先，文明失序的風(fēng)險來自人類自身。一方面，掌握和控制人工智能技術(shù)的精英、資本具有了操控世界秩序的能力，人類在生物學(xué)意義上分為了控制者和服從者；另一方面，人工智能技術(shù)的普及使“獨狼式黑客”、網(wǎng)絡(luò)極端分子破壞世界秩序和毀滅人類的便利性、可能性極大提升。其次，文明失序的風(fēng)險來自人工智能的巨大能力。具有智識、意識的人工智能有可能統(tǒng)治和操控人類，也有可能僅僅是為了自身進(jìn)化而產(chǎn)生毀滅人類的后果。有學(xué)者提出警告，一旦人工智能超越人類智能，可能就會直接消滅人類：一是可能擔(dān)心人類反撲、拔掉它的插頭；二是要追求某種難以想象的目標(biāo)[4]。而對于人工智能技術(shù)成為世界的背景，雷·庫茲韋爾則給出了偏向樂觀的預(yù)測。他認(rèn)為，人類與強(qiáng)人工智能的結(jié)合將帶來人類智慧的突破性增長，未來人類將用智能充滿宇宙中的物質(zhì)和能量，使宇宙覺醒并成為智能世界的一部分[13]。無論是悲觀還是樂觀的預(yù)測，當(dāng)人工智能尤其是強(qiáng)人工智能遍布人類世界，人類文明社會面臨著失序、失控的風(fēng)險將在理論層面成為可能。

三、人工智能的意向性與機(jī)器行為學(xué)

唐·伊德在其技術(shù)現(xiàn)象學(xué)理論中對于人工智能技術(shù)給予了高度關(guān)注。虛構(gòu)的仿制人和機(jī)器人幾乎是人類的完美復(fù)制品，這種構(gòu)想中的實體甚至比現(xiàn)實的技術(shù)更具有它異性。如果我們發(fā)明的東西，能夠事實上等同于或者超越我們自己，這會有什么結(jié)果呢[7]。而對于將整個世界納入人類技術(shù)改造的視域，唐·伊德稱之為技術(shù)總體化，且持有憂慮態(tài)度：“高技術(shù)文化的興起和變成一種世界文化的路徑是不是獨一無二的呢？如果是的話，那么，馬爾庫塞、約納斯和埃呂爾將成為我們時代的預(yù)言家[7]。毫無疑問，人工智能技術(shù)是未來世界發(fā)展的趨勢。當(dāng)人工智能技術(shù)使人類社會、地球乃至宇宙數(shù)據(jù)化、信息化，人類的未來走向和前景將如何呢？

在技術(shù)現(xiàn)象學(xué)的具身、詮釋、它異和背景4種關(guān)系中，人工智能技術(shù)的引入使得每種關(guān)系都具有了交互性和風(fēng)險性。這種風(fēng)險性不同于錘子可以作為武器的風(fēng)險，或者眼鏡存在著損壞的風(fēng)險，人工智能的風(fēng)險性來自其在人與世界關(guān)系中的交互性和意向性。換而言之，人工智能交互性帶來的風(fēng)險性是高度“透明”的，甚至是作為人類思想和意識的一部分而“植入”的，每一種風(fēng)險性都以自我意志的方式體現(xiàn)。在具身關(guān)系中，人工智能使技術(shù)身體急劇擴(kuò)張和膨脹，物質(zhì)身體、文化身體被技術(shù)身體所塑造，身體虛化、數(shù)字化和信息化直接關(guān)涉到人的主體性和能動性，極端的情況便如同電影《黑客帝國》中處于“矩陣”而不自知的人類。在詮釋關(guān)系中，人工智能與人處于一種交互詮釋關(guān)系，人工智能在解蔽的同時也有著遮蔽的風(fēng)險性，人的價值觀、創(chuàng)新能力、學(xué)習(xí)能力都存在蛻化的風(fēng)險。它異關(guān)系中，人工智能在就業(yè)市場是人類強(qiáng)有力的競爭者，這一競爭關(guān)系甚至?xí)U(kuò)展到家庭、社會生活，人工智能代替人成為伴侶和親人，與之相關(guān)的道德與倫理規(guī)則將如何建構(gòu)？而背景關(guān)系中，人工智能則關(guān)涉到人類文明的前途和方向，一個基于總體式、整體性人工智能的世界則處于精英和超人工智能壟斷及失控的風(fēng)險中。

基于人工智能意向性的風(fēng)險思考，能夠為人工智能治理提供新的思路。已有的人工智能風(fēng)險治理主要有技術(shù)治理、原則治理兩種路徑。前者注重智能算法的優(yōu)化、數(shù)據(jù)的完整性、智能技術(shù)的改善等；后者注重從立法、倫理等方面規(guī)制人工智能的可能風(fēng)險。而從技術(shù)現(xiàn)象學(xué)意向性視角對人工智能風(fēng)險的分析，能夠為人工智能風(fēng)險治理提供新的視角。麻省理工學(xué)院媒體實驗室的學(xué)者在《自然》雜志發(fā)表的《機(jī)器行為學(xué)》一文中提出，了解人工智能體的行為和性質(zhì)，以及它們可能對人類系統(tǒng)產(chǎn)生的影響是至關(guān)重要的，有必要成立專門的機(jī)器行為學(xué)學(xué)科[14]?；诩夹g(shù)現(xiàn)象學(xué)的角度，揭示人工智能技術(shù)存在的4種意向關(guān)系風(fēng)險，這對機(jī)器行為學(xué)的研究具有較多價值。技術(shù)現(xiàn)象學(xué)、現(xiàn)象學(xué)的重要概念如“意向性”“懸置”“生活世界”等對人工智能底層邏輯的理解有諸多啟發(fā)。人工智能有著智識性，但是尚不具有意識。如何限制、規(guī)訓(xùn)人工智能的意向性則成為機(jī)器行為學(xué)的重要方向。而人工智能在多大程度上能夠?qū)W習(xí)人類“生活世界”的常識則成為機(jī)器學(xué)習(xí)的重要邊界。同時，如何從人—技術(shù)—世界的意向性關(guān)系中規(guī)避人工智能的身體虛化、詮釋遮蔽、他者競爭和文明失序的風(fēng)險則成為機(jī)器行為學(xué)的重要內(nèi)容。而從意向性關(guān)系出發(fā)，則能夠有效整合人工智能技術(shù)治理、原則治理，使善治良治成為機(jī)器行為學(xué)的內(nèi)生品質(zhì)。

四、人工智能風(fēng)險治理的新思路

限制、規(guī)訓(xùn)人工智能的意向性風(fēng)險成為人工智能治理的新視角、新思路。也就是說，人工智能的風(fēng)險治理不僅要糅合技術(shù)治理、原則治理，還要重視人工智能的發(fā)展領(lǐng)域、方向和重點。針對身體虛化、詮釋遮蔽、他者競爭和文明失序的內(nèi)在性風(fēng)險，人工智能的治理思路也需要相應(yīng)完善。

首先，人工智能應(yīng)將重點轉(zhuǎn)向知覺身體、文化身體的強(qiáng)化，而非側(cè)重信息傳播的技術(shù)身體，從而克服其身體虛化和消解人的能動性風(fēng)險。一方面，在知覺身體方面，可引導(dǎo)人工智能廣泛應(yīng)用于身體功能的增強(qiáng)和延伸，尤其是針對身體缺陷的彌補(bǔ)。譬如，運用人工智能技術(shù)幫助聽障人士“聽到”聲音，幫助視障人士“看見”世界。當(dāng)下，借助“外骨骼機(jī)器人”的輔助，高位截癱患者可以抬腿、行走、上下樓梯。人工智能對于身體功能的增強(qiáng)、改善，則能夠?qū)崿F(xiàn)人類自身福祉的發(fā)展，平衡知覺身體、文化身體與技術(shù)身體的關(guān)系，建立統(tǒng)一的身體認(rèn)知，避免虛化身體、能動性消解等風(fēng)險擴(kuò)大。另一方面，在文化身體方面，人工智能技術(shù)尤其是智能傳播技術(shù)應(yīng)促進(jìn)人類文化和歷史知識的傳播。譬如，在智能推薦算法技術(shù)中，給予歷史和人文主題的內(nèi)容更多權(quán)重和流量，支持垂直領(lǐng)域內(nèi)容生產(chǎn)者。正如尼爾·波茲曼建議：所有的課程都作為人類歷史發(fā)展的一個階段來傳授；科學(xué)、歷史、語言、技術(shù)和宗教的理論都要講[15]。通過人工智能技術(shù)的“賦能”，人類將建立更加完善、健全的文化身體，既可以促進(jìn)同一文化的“各美其美”，又可以推動不同文化的“美美與共”。

其次，技術(shù)被海德格爾定義為一種解蔽方式。但由人工智能主導(dǎo)的傳播技術(shù)，存在著局部解蔽、總體遮蔽的效應(yīng)。譬如，ChatGPT等人工智能技術(shù)將特定的世界觀、價值觀、文明觀以算法推薦的形式“植入”用戶。人工智能尤其是生成式人工智能的價值傾向是由其獲取數(shù)據(jù)傾向決定的，而人類社會生產(chǎn)的數(shù)據(jù)背后必然蘊(yùn)含著特定文化與價值觀。鑒于此，應(yīng)從意識形態(tài)安全和文化安全的高度重視人工智能技術(shù)尤其是生成式人工智能技術(shù)。我國出臺的《生成式人工智能服務(wù)管理辦法》明確提出：利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)體現(xiàn)社會主義核心價值觀。在未來人工智能的發(fā)展中，應(yīng)支持和鼓勵彰顯中國氣派的類ChatGPT人工智能，將中國文化、中國話語嵌入在人工智能技術(shù)中。要善于運用生成式人工智能開展中華文明海外傳播，提升中華文明海外網(wǎng)絡(luò)傳播力、影響力。同時，針對人工智能的詮釋遮蔽風(fēng)險，還需要將其應(yīng)用場景重點轉(zhuǎn)向自然科學(xué)領(lǐng)域。既要創(chuàng)新人工智能+教育產(chǎn)品，輔助人類更便利、快速掌握自然科學(xué)知識，還要借助人工智能克服人類觀測的局限性，輔助人類探究自然世界的普遍規(guī)律，在物理學(xué)、數(shù)學(xué)、生物學(xué)等領(lǐng)域突破人類智慧的上限，拓展人類智慧的邊界，從而真正實現(xiàn)其解蔽功能。

再次，針對人工智能在就業(yè)市場、情感關(guān)系中的他者競爭風(fēng)險，應(yīng)加強(qiáng)科技倫理監(jiān)管，建立和諧的人機(jī)關(guān)系。一方面，人工智能對就業(yè)市場的競爭力已初步顯現(xiàn)。西方社會人工智能對人類就業(yè)產(chǎn)生的“他者競爭”，背后是資本與科技的牢固聯(lián)盟。而對“他者競爭”風(fēng)險，應(yīng)探索以問題為導(dǎo)向的法律法規(guī)，避免資本對勞動力形成過大優(yōu)勢，建立和諧勞資關(guān)系。譬如，我國就網(wǎng)約車、快遞服務(wù)等智能算法驅(qū)動的新形態(tài)就業(yè)，從倡導(dǎo)算法向善、建立工會組織、提供職業(yè)傷害保障等方面開展了有效治理。同時，隨著人工智能技術(shù)的發(fā)展，人形機(jī)器人對就業(yè)市場的沖擊將會日益顯著，而這需要探索科技、產(chǎn)業(yè)與人才之間的良性共生關(guān)系。工信部發(fā)布的《人形機(jī)器人創(chuàng)新發(fā)展指導(dǎo)意見》提出，形成“科技—產(chǎn)業(yè)—金融”良性循環(huán)，促進(jìn)技術(shù)創(chuàng)新與科技倫理協(xié)調(diào)發(fā)展。隨著人形機(jī)器人等產(chǎn)業(yè)的發(fā)展，建設(shè)科技、資本與勞動力的良性循環(huán)、和諧關(guān)系，則成為人工智能他者競爭風(fēng)險治理的必經(jīng)之路。另一方面，人工智能、人形機(jī)器人正在進(jìn)入人們的生活，為人類提供服務(wù)、陪伴乃至情感支持，建立和諧的人機(jī)關(guān)系則成為迫切問題。就此，應(yīng)明確家庭、婚姻制度是人類社會的倫理基礎(chǔ)，人工智能不能取代和替代人的角色、情感和價值。有研究提出，機(jī)器人可以造福于老年人的生活，但對于機(jī)器人參與兒童的社交、教育則要持審慎態(tài)度。必須確保個人獲得的福利大于機(jī)器人侵犯其權(quán)利造成的損失[16]。因而，對于生活服務(wù)領(lǐng)域的人工智能應(yīng)用，應(yīng)充分評估其受益與情感、權(quán)利、倫理侵犯的利弊得失，使他者競爭的風(fēng)險轉(zhuǎn)化為技術(shù)伴侶的福利。

最后，強(qiáng)人工智能廣泛介入人類社會存在著“文明失序”的風(fēng)險，這不得不使我們反思人工智能發(fā)展的方向與路徑。2023年3月，圖靈獎得主約書亞·本吉奧等科技界名人聯(lián)名簽署了一封公開信，發(fā)表在“未來生命研究所”網(wǎng)站上，呼吁暫停開發(fā)比ChatGPT-4更強(qiáng)大的AI系統(tǒng)至少6個月，稱其“對社會和人類構(gòu)成潛在風(fēng)險”。而埃隆·馬斯克2023年4月宣布，準(zhǔn)備啟動“TruthGPT”的人工智能開發(fā)，最大程度尋求真理并理解宇宙本質(zhì)。無論是暫停更強(qiáng)大人工智能的訓(xùn)練還是開發(fā)“尋求真理與理解宇宙本質(zhì)”的人工智能，都揭示了這樣一個觀點：強(qiáng)人工智能發(fā)展存在著“文明失序”的風(fēng)險，即對人類文明存在著不可估量風(fēng)險；而對于強(qiáng)人工智能，技術(shù)治理、原則治理都很難根除其系統(tǒng)性風(fēng)險。目前，歐盟探索出臺《人工智能法案》，歐洲議會已通過該法案的談判授權(quán)草案。授權(quán)草案基于人工智能的風(fēng)險程度（不可接受風(fēng)險、高風(fēng)險、有限風(fēng)險和最小風(fēng)險）進(jìn)行分類管理，嚴(yán)格禁止開發(fā)“對人類安全造成不可接受風(fēng)險的人工智能系統(tǒng)”。我國也發(fā)布了《關(guān)于加強(qiáng)科技倫理治理的意見》，明確提出要敏捷治理⑤，加強(qiáng)科技倫理風(fēng)險預(yù)警與跟蹤研判，及時動態(tài)調(diào)整治理方式和倫理規(guī)范。

從技術(shù)現(xiàn)象學(xué)的視角來看，人工智能的“文明失序”風(fēng)險已然有所顯現(xiàn)，強(qiáng)監(jiān)管則成為必然趨勢?；陲L(fēng)險分級和審慎發(fā)展的思路，現(xiàn)有的通用型人工智能未必是其唯一發(fā)展方向，而傳統(tǒng)的資本驅(qū)動、技術(shù)擴(kuò)張的路徑也未必是人工智能發(fā)展的唯一商業(yè)模式。因為通用型、商業(yè)擴(kuò)張路徑的強(qiáng)人工智能意味著系統(tǒng)性風(fēng)險的疊加共振和風(fēng)險失控，從根本上挑戰(zhàn)國家安全和人類生存。早在20世紀(jì)六七十年代，圖靈獎、諾貝爾經(jīng)濟(jì)學(xué)獎獲得者赫伯特·A.西蒙在其《人工智能科學(xué)》一書中就提出，人工智能應(yīng)重視通過反饋回路來進(jìn)行系統(tǒng)調(diào)節(jié)，而不是通過集中系統(tǒng)或直接機(jī)構(gòu)來調(diào)節(jié)。潘卡基·馬斯卡拉認(rèn)為，我們應(yīng)該鼓勵競爭性的、分布式的人工智能，且有足夠的保護(hù)措施避免算法失控或不法分子控制人工智能系統(tǒng)[17]。正如英國學(xué)者杰米·薩斯坎德在《算法的力量：人類如何共同生存》中所言，某一平臺控制了某領(lǐng)域所有的感知控制設(shè)備，那么其塑造人類行為的能力也將是人類無法承受之重[18]。因而，類似ChatGPT的通用型、商業(yè)化人工智能將存在著發(fā)展的瓶頸和弱點。鑒于此，分散型、分布式的專項人工智能更符合人類社會的長遠(yuǎn)福祉，也就是說，“小而美”而非“大而全”的專項人工智能更能平衡風(fēng)險性、智識性的關(guān)系，符合人工智能與人類和諧關(guān)系的建構(gòu)，而要實現(xiàn)這一目標(biāo)，則需要建立通用型人工智能的良好生態(tài)。一方面，應(yīng)鼓勵和支持開源生成式AI模型（如StableLM）與閉源生成式AI模型（如ChatGPT）之間進(jìn)行充分競爭，保持人工智能的透明性和分散性，防止少數(shù)科技公司壟斷人工智能技術(shù)。另一方面，則要規(guī)范和限制人工智能的應(yīng)用領(lǐng)域，使其服務(wù)于增進(jìn)人類福祉而非攻擊性、破壞性領(lǐng)域。同時，還應(yīng)在不同領(lǐng)域的人工智能應(yīng)用服務(wù)中建立“防火墻”制度，保持其“小而美”技術(shù)風(fēng)格。

五、結(jié)語

人工智能時代，應(yīng)確立以風(fēng)險預(yù)防為核心的價值目標(biāo)，構(gòu)建以倫理為先導(dǎo)、技術(shù)和法律為主導(dǎo)的風(fēng)險控制規(guī)范體系[19]。從技術(shù)現(xiàn)象學(xué)的視角，如何治理身體虛化、詮釋遮蔽、他者競爭、文明失序的風(fēng)險為人工智能發(fā)展的方向、領(lǐng)域提供了新的思路。正如“日心說”引發(fā)人類宇宙觀和社會思想的重大變革，強(qiáng)人工智能也帶給人類前所未有的挑戰(zhàn)和震撼。當(dāng)人工智能接近人類的智識水平、人類和宇宙被視為數(shù)據(jù)和信息的結(jié)合體、作為碳基的人類與作為硅基的人工智能互相鏈接，人類便進(jìn)入了后人類時代。正如海瑟琳·海勒所言：在后人類看來，身體性存在與計算機(jī)仿真之間、人機(jī)關(guān)系結(jié)構(gòu)與生物組織之間、機(jī)器人科技與人類目標(biāo)之間，并沒有本質(zhì)的不同或者絕對的界限。后人類的主體是一種混合物，一種各種異質(zhì)、異源成分的集合，一個物質(zhì)—信息的獨立實體，持續(xù)不斷地建構(gòu)并且重建自己的邊界[20]。在后人類時代，人機(jī)關(guān)系的和諧共處、碳基文明與硅基文明如何融合遠(yuǎn)遠(yuǎn)超越機(jī)器行為學(xué)的研究范圍。因而，站在后人類時代的視野開展機(jī)器行為學(xué)的研究則更具價值，而技術(shù)現(xiàn)象學(xué)對人類意識、意向和思維本質(zhì)的揭示則尤其具有諸多啟發(fā)意義。

注釋：

①雷·庫茲韋爾在《奇點臨近：2045年，當(dāng)計算機(jī)智能超越人類》一書中也將“專項人工智能”稱之為狹窄人工智能。

②信息繭房：由哈佛大學(xué)法學(xué)院教授凱斯·桑斯坦在其2006年出版的著作《信息烏托邦：眾人如何生產(chǎn)知識》中提出的，在信息傳播中，因公眾本身的信息需求并非全方位的，公眾只注意自己選擇的東西和使自己愉悅的信息領(lǐng)域，久而久之，會將自身桎梏于像蠶繭一樣的“繭房”中。

③群體極化：社會心理學(xué)術(shù)語，最早由媒體學(xué)者詹姆斯·斯托納于1961年發(fā)現(xiàn)群體討論時的現(xiàn)象而提出的，在一個組織群體中，個人決策同時受群體的影響，容易做出比獨自一人決策時更極端的決定，從而背離最佳決策。

④無用階級：《未來簡史——從智人到智神》一書作者尤瓦爾·赫拉利認(rèn)為2050年會出現(xiàn)“無用階級”，即西方國家有勞動能力者無法就業(yè)，依靠著社會福利生存。

⑤敏捷治理：作為公共管理研究領(lǐng)域的一種創(chuàng)新理論，其所追求的快速、靈活，共同參與等理念和方法，為創(chuàng)新與監(jiān)管之間的彈性平衡提供了新的理念與工具。

參考文獻(xiàn)：

[1] 何哲.人工智能技術(shù)的社會風(fēng)險與治理[J].電子政務(wù)，2020（9）.

[2]凱倫·楊，馬丁·洛奇.馴服算法：數(shù)字歧視與算法規(guī)制[M]. 林少偉，唐林垚，譯.上海：上海人民出版社，2020.

[3]凱西·奧尼爾.算法霸權(quán)：數(shù)字殺傷性武器的威脅[M].馬青玲，譯.北京：中信出版社，2018.

[4]尤瓦爾·赫拉利.未來簡史——從智人到智神[M]. 林俊宏，譯.北京：中信出版社，2017.

[5]王彥雨，雍熙，高芳.人工智能巨風(fēng)險研究：形成機(jī)制、路徑及未來治理[J].自然辯證法研究，2023（1）.

[6]梅立潤.人工智能到底存在什么風(fēng)險：一種類型學(xué)的劃分[J].吉首大學(xué)學(xué)報（社會科學(xué)版），2020（2）.

[7]唐·伊德.技術(shù)與生活世界——從伊甸園到塵世[M].韓連慶，譯.北京：北京大學(xué)出版社，2012.

[8] 楊慶峰.翱翔的信天翁——唐·伊德技術(shù)現(xiàn)象學(xué)研究[M].北京：中國社會科學(xué)出版社，2015.

[9]BEST KIRSTY. Redefining the Technology of Media：Actor， World， Relation[J]. Techné， 2010， 14（2）.

[10] 董浩.技術(shù)現(xiàn)象學(xué)視域下人與媒介的關(guān)系省思及認(rèn)識方法補(bǔ)闕[J].新聞與傳播評論，2020（1）.

[11] 彭蘭.生存、認(rèn)知、關(guān)系：算法將如何改變我們[J].新聞界，2021（3）.

[12]DARON ACEMOGLU， RESTREPO PASCUAL. Robots and Jobs： Evidence from US Labor Markets[J]. Journal of Political Economy， 2020（6）.

[13]RAY KURZWEIL.奇點臨近：2045年，當(dāng)計算機(jī)智能超越人類[M].李慶誠，董振華，田源，譯.北京：機(jī)械工業(yè)出版社，2011.

[14]RAHWAN IYAD， CEBRIAN MAUNEL， OBRADOVICH NICK， et al.Machine behaviour[J].Nature，2019（7753）.

[15]尼爾·波斯曼.技術(shù)壟斷——文化向技術(shù)投降[M].何道寬，譯.北京：中信出版社，2019：222.

[16]帕特里克·林.機(jī)器人倫理學(xué)[M].薛少華，仵婷，譯.北京：人民郵電出版社，2021.

[17]赫伯特·A.西蒙.人工智能科學(xué)[M].陳耿宣，陳桓亙，譯.北京：中國人民大學(xué)出版社，2023.

[18]杰米·薩斯坎德.算法的力量：人類如何共同生存？[M].李大白，譯.北京：北京日報出版社，2022.

[19]張成崗.人工智能時代：技術(shù)發(fā)展、風(fēng)險挑戰(zhàn)與秩序重構(gòu)[J].南京社會科學(xué)，2018（5）.

[20]凱瑟琳·海勒.我們何以成為后人類——文學(xué)、信息科學(xué)和控制論中的虛擬身體[M].劉宇清，譯.北京：北京大學(xué)出版社，2017.

Research on Artificial Intelligence Risks and Governance from the Perspective of Technological Phenomenology

DONG Xianghui

Abstract： Artificial intelligence， especially strong artificial intelligence， sparks an interactive relationship between human and technology. The four intentional relationships of embodiment， interpretation， otherness， and backgrounding among human， technology and the world in technological phenomenology have undergone changes and alienation， impacting the status of human as the subject of technology. At the same time， it contains inherent risks of body emptiness， interpretation obscuration， competition from others， and civilization disorder. Grasping the intentional relationship among human， technology and the world has become a new approach and perspective for risk management in artificial intelligence， which helps to improve the governance path of artificial intelligence technology and principles， and promotes good governance to become an endogenous quality of machine behavior.

Key words： artificial intelligence; technological phenomenology; intentionality; post humanism

責(zé)任編輯：鄧?? 喆