劉自英

摘??要：?人工智能作為當(dāng)今最具前瞻性的高新科學(xué)技術(shù)，發(fā)展遍及社會生活的各個領(lǐng)域，同時也受到社會各界的關(guān)注。人工智能為我們的生活提供極大的便捷，人類似乎渴求一個全人工智能時代的到來，準(zhǔn)備投入其懷抱。但科學(xué)技術(shù)的發(fā)展從來都是一把雙刃劍，我們在享受其便利的同時也應(yīng)該著眼于人工智能所引發(fā)的諸多社會風(fēng)險，并且考量與分析其可能存在的潛在新風(fēng)險。人工智能引發(fā)的社會風(fēng)險無外乎可以從人工智能的制造與應(yīng)用方面來考慮，分析其帶來的社會風(fēng)險，并從相應(yīng)方面提出規(guī)避風(fēng)險的可能路徑。

關(guān)鍵詞?：人工智能;社會風(fēng)險;風(fēng)險規(guī)避;可能路徑

一、?人工智能

人工智能簡稱AI，從科學(xué)的角度來看，人工智能是研究、開發(fā)用于模擬、延伸和擴(kuò)展人的智能的理論、方法、技術(shù)應(yīng)用系統(tǒng)的一門科學(xué)。[1]1956年美國的達(dá)特茅斯會議中約翰·麥卡錫首次提出了?“人工智能”這個術(shù)語，標(biāo)志著“人工智能”概念的誕生，在此后人工智能浪潮不斷發(fā)展。從“機(jī)器學(xué)習(xí)”到“深度學(xué)習(xí)”技術(shù)鴻溝的跨越，人工智能在一段時間內(nèi)獲得長足性和突破性的發(fā)展。人工智能在影響著這個時代，也在改變著這個時代。人工智能在數(shù)據(jù)挖掘、計算機(jī)視覺、專家系統(tǒng)等方面的發(fā)展，為企業(yè)帶來了經(jīng)濟(jì)效益，為大眾帶來了舒適的生活，為國家?guī)砜萍嫉母镄?，深刻的影響著人類社會的發(fā)展。然而，我們享受著人工智能的便捷也不能忽視其帶來的負(fù)面影響。人工智能對人類主體地位的沖擊，對社會倫理的挑戰(zhàn)等諸多風(fēng)險都是我們必須要思考和解決的問題。

二、?人工智能時代的社會風(fēng)險思考的必要性

在現(xiàn)階段下的人工智能給我們生活帶來了便捷，其負(fù)面影響是不可忽視的。研發(fā)不透明的黑箱操作，算法主觀性帶來的倫理問題，一些行業(yè)失業(yè)等問題，從現(xiàn)實意義上，我們必須對其產(chǎn)生的社會風(fēng)險加以分析并提出應(yīng)對措施。在人工智能發(fā)展過程中，人工智能是否超過人類智力即奇點是否會出現(xiàn)，一直是學(xué)界談?wù)摰臒狳c。奇點是否會出現(xiàn)？奇點出現(xiàn)后的人類社會又會面臨什么樣的風(fēng)險，人工智能技術(shù)發(fā)展可能性決定了我們必須去思考其潛在的風(fēng)險。所以無論從人工智能的現(xiàn)實性還是可能性來看，關(guān)于人工智能時代的社會風(fēng)險思考都有其必要性。

一、人工智能時代社會風(fēng)險思考的現(xiàn)實性

人工智能研發(fā)是不透明的，人工智能的研發(fā)“虛擬化”和研發(fā)過程的“黑箱效應(yīng)”環(huán)境，很容易脫離監(jiān)管而引發(fā)失控。同時由于人工智技術(shù)研發(fā)的特點，研發(fā)過程的隱秘性與技術(shù)的保密性極易誘發(fā)壟斷現(xiàn)象。若掌握了人工智能技術(shù)核心優(yōu)勢，壟斷陰云是極易可能出現(xiàn)的。人工智能技術(shù)壟斷的陰云一方面會帶來技術(shù)人才的斷層，同時也會加大數(shù)字鴻溝。而人工智能技術(shù)存在的算法主觀性與算法偏差更是誘發(fā)社會風(fēng)險的重要來源。比如谷歌推出的機(jī)器人誤把兩名黑人標(biāo)注為“大猩猩”，微軟公司推出的聊天機(jī)器人，在發(fā)布24小時內(nèi)，就成為一個集反猶太人、性別歧視、種族歧視于一身的“不良少女”。[2]在現(xiàn)目前的發(fā)展階段來說，人工智能已經(jīng)逐步取代大量依靠人力的工作，在一些行業(yè)已經(jīng)實現(xiàn)了自動化，同時人工智能也進(jìn)軍了服務(wù)行業(yè)。在服務(wù)行業(yè)，國內(nèi)的無人酒店與無人超市也已出現(xiàn)，海底撈機(jī)器人全程送菜服務(wù)。繁重或者危險及簡單重復(fù)的工作由機(jī)器人所替代，縱然人工智能的操控離不開人，但從管理與操控的工作要求來看，勞動力需求量并不高。這一大批依靠勞力的工作者將何去何從？從現(xiàn)實意義上，我們都必須對其產(chǎn)生的社會風(fēng)險加以深度思考與分析并提出可行的應(yīng)對措施，促進(jìn)人工智能健康有序的發(fā)展。

二、人工智能時代社會風(fēng)險思考的可能性

從現(xiàn)實層面上，人工智能已經(jīng)帶來的問題我們必須去面對，與此同時隨著人工智能的繼續(xù)發(fā)展，我們也不得不去思考其潛在的風(fēng)險。其潛在風(fēng)險的思考主要在于對奇點的預(yù)判。美國未來學(xué)家、人工智能先驅(qū)雷·庫茲韋爾在《奇點臨近》一書中大膽預(yù)言，21世紀(jì)50年代左右，奇點會來臨，人工智能將超越人類智力。1983年數(shù)學(xué)家弗諾·文奇，他認(rèn)為奇點來臨后，世界的發(fā)展將會脫離人類世界的掌控。人工智能超越人類智力這一天是否會到來，人類又會面臨什么樣的風(fēng)險？盡管諸如此類的問題我們沒法預(yù)判。但是從人工智能的發(fā)展來看，人工智能對人類思維的模擬只會走向更精細(xì)化、更精密化。對人類社會的發(fā)展來說是機(jī)遇與挑戰(zhàn)并存。而那就意味著我們對人工智能社會風(fēng)險的研究必須引起重視，必須深入。

對于人工智能的風(fēng)險研究我們既要解決好當(dāng)下的風(fēng)險，又要有防范未來風(fēng)險的正確進(jìn)路。

三、?人工智能時代的社會風(fēng)險思考的重要性

人工智能時代的社會風(fēng)險思考是從人工智能的現(xiàn)實性與可能性，實踐性與理論性層面出發(fā)，對其社會風(fēng)險進(jìn)行剖析與研究。通過對風(fēng)險的思考，提出解決風(fēng)險的治理措施。在理論意義上，豐富了人工智能社會風(fēng)險研究的內(nèi)容，在實踐層面上，促進(jìn)人工智能的有序發(fā)展，造福人類。人文社會科學(xué)研究本來就應(yīng)該超越自然科學(xué)的發(fā)展，哲學(xué)的預(yù)見性，在社會風(fēng)險還未轉(zhuǎn)變成社會危機(jī)時，我們就應(yīng)該做好充分的相關(guān)準(zhǔn)備。

四、?人工智能時代的社會風(fēng)險分析

關(guān)于人工智能時代的社會風(fēng)險研究視角是豐富的。社會風(fēng)險治理專家唐鈞從技術(shù)、社會、治理三個視角分析所產(chǎn)生的社會風(fēng)險并提出應(yīng)對措施。馬長山在分析人工智能的本質(zhì)上結(jié)合法律的視角，提出人工智能引發(fā)的五個風(fēng)險--倫理、極化、異化、規(guī)則、責(zé)任風(fēng)險，并從法律層面給出詳細(xì)的應(yīng)對措施。也有學(xué)者從風(fēng)險的危害程度視角做出研究。吳漢東則是從人工智能社會風(fēng)險的特征提出人工智能時代的冷思考，宏觀提出人工智能存在的四個問題---法律、倫理、社會、監(jiān)管。

結(jié)合以上研究成果，人工智能時代社會風(fēng)險可以從兩個方面來分析，無外乎在于兩個關(guān)鍵點，一為制造方面，二為應(yīng)用方面。從制造方面來看，一是技術(shù)的不完善帶來風(fēng)險，如日本曾經(jīng)發(fā)生過工業(yè)機(jī)器人在生產(chǎn)過程中將工人放入沖壓機(jī)之下碾死的慘痛事例。技術(shù)制造本身的缺陷而導(dǎo)致風(fēng)險的產(chǎn)生。二是研發(fā)人員的主觀性造成的風(fēng)險，也就是人工智能算法主觀性和算法偏差，由于在制造過程中，研發(fā)人員的主動裁量權(quán)很大。研發(fā)人員可能存在種族歧視、性別偏見、宗教偏好、極端價值觀等主觀偏差，代入研發(fā)后算法將出現(xiàn)失誤，導(dǎo)致預(yù)測不準(zhǔn)確、甚至決策不公正等社會問題。同時研發(fā)人員的道德倫理底線原則無法兜底，研發(fā)人員可能研發(fā)出殺人武器甚至反社會反人類的人工智能，進(jìn)而引發(fā)社會倫理和社會安全問題。三是研發(fā)技術(shù)的壟斷，而造成的數(shù)字鴻溝，兩端極化的的風(fēng)險。從應(yīng)用方面來看，社會風(fēng)險則會涉及到更多的方面，人的主體地位的沖擊、社會安全、倫理的風(fēng)險等等。人工智能的社會風(fēng)險可以從制造端和應(yīng)用方面分析，二者也是沒法割裂的。綜合制造方面和應(yīng)用方面的分析，人工智能時代的社會風(fēng)險可以分為社會主體的缺失、社會安全、社會倫理、進(jìn)而引發(fā)社會治理的困境。