摘 要：隨著社會(huì)經(jīng)濟(jì)的快速發(fā)展，科學(xué)技術(shù)的不斷進(jìn)步，人工智能逐漸融入人們的生活，給人們的生活帶來(lái)了前所未有的改變，甚至越來(lái)越多專家學(xué)者開(kāi)始擔(dān)憂，人工智能發(fā)展可能會(huì)變?yōu)槿祟惖膹?qiáng)大競(jìng)爭(zhēng)者。因此，準(zhǔn)確識(shí)別人工智能技術(shù)存在的風(fēng)險(xiǎn)問(wèn)題顯得尤為關(guān)鍵?；诖?，本文首先闡述了人工智能的概念，然后分析人工智能技術(shù)的風(fēng)險(xiǎn)問(wèn)題，最后提出應(yīng)對(duì)人工智能技術(shù)風(fēng)險(xiǎn)的措施。

關(guān)鍵詞：人工智能技術(shù);風(fēng)險(xiǎn);應(yīng)對(duì)措施

中圖分類號(hào)：TP18 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1003-5168（2020）13-0008-03

Risk Problems and Countermeasures of Artificial Intelligence Technology

HE Lan

（Henan University，Kaifeng Henan 475000）

Abstract： With the rapid development of social economy and the continuous progress of science and technology， artificial intelligence gradually integrates into people's life， bringing unprecedented changes to people's life. Even more and more experts and scholars begin to worry that the development of artificial intelligence may become a powerful competitor of human beings. Therefore， it is very important to accurately identify the risks of AI technology. Based on this， this paper first described the concept of artificial intelligence， then analyzed the risk of artificial intelligence technology， and finally put forward measures to deal with the risk of artificial intelligence technology.

Keywords： artificial intelligence technology;risk;countermeasures

人工智能是人類社會(huì)發(fā)展到一定階段的產(chǎn)物，于人類發(fā)展而言，其產(chǎn)生、應(yīng)用及發(fā)展意義重大。從社會(huì)角度講，人工智能可以最大限度地提高生產(chǎn)力和經(jīng)濟(jì)效益;從生活角度講，人工智能有利于增加生活的便捷性，提高生活品質(zhì)。雖然人工智能的產(chǎn)生對(duì)人類社會(huì)發(fā)展具有巨大的促進(jìn)作用，但我們?nèi)砸砸环N謹(jǐn)慎的態(tài)度來(lái)看待人工智能的地位和作用，要正確認(rèn)識(shí)其存在的風(fēng)險(xiǎn)問(wèn)題，有效降低風(fēng)險(xiǎn)、控制風(fēng)險(xiǎn)、應(yīng)對(duì)風(fēng)險(xiǎn)，這樣才能充分發(fā)揮人工智能技術(shù)的優(yōu)勢(shì)和作用。

1 人工智能的概念

人工智能是計(jì)算機(jī)科學(xué)的一個(gè)分支，其企圖了解智能的實(shí)質(zhì)，并生產(chǎn)出一種新的能以人類智能相似的方式做出反應(yīng)的智能機(jī)器[1]。從語(yǔ)義學(xué)角度來(lái)講，可將人工智能分為2部分，即“人工”和“智能”。其中，人工是科學(xué)和工程的一種產(chǎn)物，是由人制造出來(lái)的;而智能則是人的智力能力，如人類認(rèn)知、記憶、思考等。總的來(lái)講，智能是一種心智能力，與神經(jīng)機(jī)制和認(rèn)知活動(dòng)息息相關(guān)。因此，筆者認(rèn)為，可將人工智能定義為，可以幫助或替代人類思維的一種工具，而其主要通過(guò)計(jì)算機(jī)程序的形式呈現(xiàn)，可在數(shù)據(jù)中心獨(dú)立存在，或以機(jī)器人等形式體現(xiàn)。此外，在特定環(huán)境下，人工智能還具備有目的地獲取及應(yīng)用知識(shí)、技能的能力。

2 人工智能技術(shù)的風(fēng)險(xiǎn)問(wèn)題

2.1 人工智能技術(shù)自身發(fā)展的局限

人工智能發(fā)展過(guò)程中，會(huì)給人類帶來(lái)諸多挑戰(zhàn)和風(fēng)險(xiǎn)，如其作為服務(wù)于人類的技術(shù)工具時(shí)產(chǎn)生的風(fēng)險(xiǎn)，主要是由其自身局限造成的，即人工智能技術(shù)發(fā)展還不甚完善，并未實(shí)現(xiàn)真正意義上的“智能”，也可以認(rèn)為，人工智能還處于“弱”人工智能階段。就目前來(lái)講，對(duì)于人工智能技術(shù)的研究，多集中于機(jī)器情感研究，在情感模擬中，人工智能機(jī)器是以主體意志對(duì)象化客體的形式體現(xiàn)，是人類程序的結(jié)果，這種情況下，還無(wú)法達(dá)到計(jì)算程序的預(yù)期研究效果。例如，“阿爾法狗”，目前只能作為圍棋核心技術(shù)，在其他領(lǐng)域應(yīng)用較少，且無(wú)法達(dá)到超乎人類的目的[2]。

由此可見(jiàn)，在技術(shù)層面上，現(xiàn)階段的人工智能技術(shù)仍存在很大的局限，并未真正實(shí)現(xiàn)人工智能的自我意識(shí)和超強(qiáng)學(xué)習(xí)能力，也就是說(shuō)，現(xiàn)階段并未達(dá)到“強(qiáng)人工智能”階段。僅針對(duì)目前研究水平，往往會(huì)出現(xiàn)人工智能技術(shù)操作失控等情況，在應(yīng)對(duì)方案實(shí)施過(guò)程中同樣存有一定問(wèn)題，若操作失誤，必定會(huì)造成嚴(yán)重?fù)p失。

2.2 人工智能倫理評(píng)估標(biāo)準(zhǔn)模糊

人工智能作為一種新興技術(shù)，在早期研究中，對(duì)人工智能倫理規(guī)則的構(gòu)建存在很大缺陷，甚至存在空白。雖然早期很多學(xué)者專家對(duì)其應(yīng)用過(guò)程中潛在的風(fēng)險(xiǎn)進(jìn)行了假設(shè)，但在實(shí)際應(yīng)用中與假設(shè)仍存在諸多出入與不同。例如，“大道”是我國(guó)古代傳統(tǒng)的技術(shù)倫理規(guī)范，其存在的意義在于保證技術(shù)進(jìn)步合乎社會(huì)倫理規(guī)則，從而保證技術(shù)進(jìn)步的正確性。然而，隨著科學(xué)技術(shù)不斷進(jìn)步，兩者往往會(huì)出現(xiàn)失衡的現(xiàn)象，如人工智能技術(shù)發(fā)展過(guò)快，已經(jīng)遠(yuǎn)遠(yuǎn)超越了人類給其構(gòu)建的倫理評(píng)價(jià)標(biāo)準(zhǔn)，從而產(chǎn)生失衡現(xiàn)象。目前，人工智能倫理評(píng)估標(biāo)準(zhǔn)還很模糊，若沒(méi)有倫理規(guī)范的約束，后期將產(chǎn)生更多的風(fēng)險(xiǎn)。

當(dāng)前，人工智能道德倫理標(biāo)準(zhǔn)的嵌入主要有兩種不同的進(jìn)路，即自上而下和自下而上。“自上而下”是指對(duì)已經(jīng)確定了的倫理原則進(jìn)行復(fù)雜編碼，隨后在人工智能系統(tǒng)內(nèi)植入編碼的過(guò)程。而“自下而上”是指無(wú)須將任何道德規(guī)則或哲學(xué)嵌入智能機(jī)器，僅需要通過(guò)觀察及分析實(shí)際情景中大量的人類行為數(shù)據(jù)，便可做出道德決策。但從現(xiàn)實(shí)來(lái)講，目前，每種道德規(guī)則在人工智能中的嵌入均存在不足，這種不足主要源于人類自身道德哲學(xué)內(nèi)在的矛盾與沖突，而這種不足，必將進(jìn)一步加劇人工智能倫理評(píng)估的模糊性，從而引發(fā)更大的風(fēng)險(xiǎn)[3]。

2.3 人工智能應(yīng)用過(guò)程監(jiān)管的失范

若技術(shù)發(fā)展監(jiān)管力度不足，人工智能在發(fā)展過(guò)程中就可能出現(xiàn)各種異化，甚至產(chǎn)生技術(shù)泛濫，從而帶來(lái)更為嚴(yán)重的后果。目前，我們應(yīng)該考慮的并不是人工智能是否需要監(jiān)管，而是如何監(jiān)管、監(jiān)管什么等。本文提到的人工智能應(yīng)用過(guò)程監(jiān)管的失范是指人工智能在使用過(guò)程中缺乏科學(xué)、有效的約束。就當(dāng)前發(fā)展形勢(shì)來(lái)講，利用法律監(jiān)管技術(shù)，還存在大量真空地帶，究其根本原因在于目前技術(shù)立法滯后于技術(shù)自身發(fā)展。作為一種新興技術(shù)，人工智能監(jiān)管方面的法律體系尚未完善。因人工智能技術(shù)所產(chǎn)生的環(huán)境問(wèn)題、倫理問(wèn)題或人權(quán)問(wèn)題等，仍無(wú)法得到較好的處理。而真正發(fā)揮監(jiān)管作用的僅僅是法律之外的部分柔性、隱形監(jiān)管，如技術(shù)人員的自身素養(yǎng)，如責(zé)任心等，或公眾的社會(huì)輿論等。這些監(jiān)管不具備強(qiáng)制性，在實(shí)際應(yīng)用中往往略顯力不從心，監(jiān)管效果也較差。

3 應(yīng)對(duì)人工智能技術(shù)風(fēng)險(xiǎn)的措施

3.1 增強(qiáng)技術(shù)源頭的風(fēng)險(xiǎn)防控

從技術(shù)一般性特征來(lái)講，人工智能作為一種新興技術(shù)，其具有“雙刃劍”的屬性，因此，可在技術(shù)層面加大風(fēng)險(xiǎn)應(yīng)對(duì)力度，做好防控工作，從而抑制不利的一面，擴(kuò)大有利的一面。

第一，從開(kāi)發(fā)設(shè)計(jì)源頭加大控制力度，如元程序設(shè)計(jì)。設(shè)計(jì)是按照一定價(jià)值取向從不完美實(shí)現(xiàn)完美的一個(gè)過(guò)程。在人工智能程序設(shè)計(jì)過(guò)程中，首先要解決的問(wèn)題是如何選定價(jià)值標(biāo)準(zhǔn)，要求在實(shí)現(xiàn)技術(shù)完美的同時(shí)，做到不以破壞和犧牲人類既有權(quán)益為代價(jià)，就如同我國(guó)的可持續(xù)發(fā)展戰(zhàn)略，要嚴(yán)格遵循人類的道德法律，不得凌駕于法律之上。

第二，做好傳統(tǒng)計(jì)算機(jī)監(jiān)管程序的升級(jí)，即通過(guò)人工智能進(jìn)行人工智能監(jiān)管。人工智能是一個(gè)極為復(fù)雜的巨系統(tǒng)，具備自身學(xué)習(xí)能力。在傳統(tǒng)計(jì)算機(jī)管理系統(tǒng)內(nèi)，即便是最優(yōu)秀的管理程序，也不能對(duì)其進(jìn)行完全掌控?；诖?，在人工智能風(fēng)險(xiǎn)防控中，可通過(guò)升級(jí)傳統(tǒng)計(jì)算機(jī)管理程序，讓其變得更加智能化，從而實(shí)現(xiàn)監(jiān)管人工智能。例如：IBM公司對(duì)人工智能技術(shù)風(fēng)險(xiǎn)防控的嘗試[4]。

3.2 增加技術(shù)全過(guò)程倫理嵌入

倫理道德標(biāo)準(zhǔn)是機(jī)器自動(dòng)化程度不斷提升過(guò)程中繞不開(kāi)的一個(gè)話題，機(jī)器自由化程度越高，越需要道德標(biāo)準(zhǔn)的約束。因此，本文提出增強(qiáng)技術(shù)全過(guò)程的倫理道德嵌入，即將倫理道德嵌入技術(shù)設(shè)計(jì)、發(fā)展和應(yīng)用的各個(gè)環(huán)節(jié)[5]。從可操作性來(lái)講，人工智能全過(guò)程倫理道德嵌入是可以實(shí)現(xiàn)的，即便是在弱人工智能階段也是具有可行性的。從本質(zhì)上看，人工智能屬于一種求解能力的計(jì)算機(jī)算法，可按照特定的倫理依據(jù)，以一種約束求解能力的計(jì)算法則將人類道德完全嵌入，并將其作為人工智能的行為準(zhǔn)則，這樣人工智能機(jī)器所作出的價(jià)值判斷便能與人類道德相符。此外，作為一種計(jì)算法則的道德指令輸入，在具體問(wèn)題分析與判斷中，人工智能機(jī)器往往更具客觀性和理性，能夠主動(dòng)過(guò)濾掉人類主觀思想上存在的干擾因素，進(jìn)而提高人工智能的安全性。

3.3 明確人工智能的技術(shù)評(píng)價(jià)標(biāo)準(zhǔn)

于人類生存與發(fā)展而言，人工智能必定會(huì)帶來(lái)巨大影響，很多人甚至?xí)?duì)其帶來(lái)的負(fù)面效應(yīng)有所擔(dān)憂，但與此同時(shí)，還未設(shè)置明確的人工智能技術(shù)評(píng)價(jià)標(biāo)準(zhǔn)。因此，筆者認(rèn)為，應(yīng)從如何正確認(rèn)識(shí)人工智能、如何完善人工智能安全評(píng)估等方面，進(jìn)一步明確人工智能評(píng)價(jià)標(biāo)準(zhǔn)。

首先，要對(duì)人工智能及其技術(shù)異化有一個(gè)正確的認(rèn)知。從本質(zhì)來(lái)講，計(jì)算求解能力便是人工智能，是將人的部分神經(jīng)生理智能賦予機(jī)器，通過(guò)機(jī)器模擬等模式，來(lái)解決特定的事項(xiàng)或問(wèn)題。然而，在現(xiàn)實(shí)應(yīng)用中，往往會(huì)產(chǎn)生使用異常的情況，這是技術(shù)領(lǐng)域不可避免的問(wèn)題。與其他技術(shù)相比，人工智能是一種高新技術(shù)，但其所帶來(lái)的風(fēng)險(xiǎn)在本質(zhì)上和其他技術(shù)基本相同。在人工智能技術(shù)異化問(wèn)題處理中，我們需要進(jìn)一步強(qiáng)調(diào)主體的人文價(jià)值選擇，通過(guò)人文要素，如個(gè)人修養(yǎng)、倫理道德等，利用人控制人工智能技術(shù)。其次，要進(jìn)行人工智能安全評(píng)價(jià)，以安全評(píng)價(jià)來(lái)達(dá)到技術(shù)發(fā)展，并健康、持續(xù)地為人類提供服務(wù)。要求通過(guò)完善立法，進(jìn)一步健全安全評(píng)價(jià)體系，從而在宏觀層面彌補(bǔ)當(dāng)前人工智能技術(shù)在安全方面的法律空白，利用法律法規(guī)、政策等對(duì)人工智能技術(shù)的安全性進(jìn)行準(zhǔn)確評(píng)價(jià)[6]。

4 結(jié)語(yǔ)

人工智能逐漸進(jìn)入人類生活，一方面給其生活帶來(lái)了便利，一方面也給人類生存帶來(lái)了挑戰(zhàn)，有人預(yù)言，快速發(fā)展的人工智能將一步步取代人類。為了應(yīng)對(duì)人工智能發(fā)展所帶來(lái)的風(fēng)險(xiǎn)，需要從技術(shù)本質(zhì)出發(fā)，對(duì)技術(shù)理性和價(jià)值理性進(jìn)行雙重約束，在發(fā)揮技術(shù)優(yōu)勢(shì)作用的同時(shí)，明確人工智能技術(shù)評(píng)價(jià)標(biāo)準(zhǔn)，加大對(duì)人工智能的監(jiān)管力度，保證人工智能技術(shù)更好地為人類、為社會(huì)服務(wù)。

參考文獻(xiàn)：

[1]錢韞竹，魏家鵬.人工智能在現(xiàn)代網(wǎng)絡(luò)技術(shù)中的應(yīng)用[J].計(jì)算機(jī)科學(xué)與應(yīng)用，2019（4）：787-789.

[2]許根宏.人工智能傳播規(guī)制基礎(chǔ)：倫理依據(jù)與倫理主體的確立[J].學(xué)術(shù)界，2018（12）：93-103.

[3]張梓堃.人工智能的歷史與發(fā)展[J].數(shù)字通信世界，2018（11）：149-150.

[4]付皓，盧燕青，桂烜，等.人工智能的發(fā)展與應(yīng)用簡(jiǎn)述[J].廣東通信技術(shù)，2018（12）：49-52.

[5]劉紅波，林彬.中國(guó)人工智能發(fā)展的價(jià)值取向、議題建構(gòu)與路徑選擇：基于政策文本的量化研究[J].電子政務(wù)，2018（11）：47-58.

[6]范敏，管琳.人工智能技術(shù)在互聯(lián)網(wǎng)金融中的應(yīng)用及安全風(fēng)險(xiǎn)探析[J].山東農(nóng)業(yè)工程學(xué)院學(xué)報(bào)，2018（3）：56-59.

收稿日期：2020-04-10

作者簡(jiǎn)介：何瀾（1999—），女，本科，研究方向：計(jì)算機(jī)科學(xué)與技術(shù)。