李博方

摘要：1956年，人工智能的概念正式誕生。幾十年來，人類不斷享受著這門科學(xué)的福蔭。但風(fēng)險(xiǎn)暗藏其中。對于人工智能的未來，一方面是人類對行業(yè)前景抱有極大的希望，另一方面，是比爾蓋茨和史蒂芬霍金等專家對人工智能未來風(fēng)險(xiǎn)的擔(dān)憂。分析風(fēng)險(xiǎn)并研究對策顯得極為重要，認(rèn)識新世界的風(fēng)險(xiǎn)規(guī)律是為人工智能的風(fēng)險(xiǎn)提供保障的基礎(chǔ)，采取有效措施預(yù)防風(fēng)險(xiǎn)是人工智能產(chǎn)業(yè)健康發(fā)展的關(guān)鍵。本文介紹了國內(nèi)外人工智能產(chǎn)業(yè)發(fā)展的相關(guān)政策與行業(yè)現(xiàn)狀.并對人工智能產(chǎn)業(yè)發(fā)展過程中可能帶來的倫理風(fēng)險(xiǎn)、技術(shù)風(fēng)險(xiǎn)、軍事風(fēng)險(xiǎn)以及異化風(fēng)險(xiǎn)深入分析，最后在傳統(tǒng)風(fēng)險(xiǎn)管理原則的基礎(chǔ)上對防范風(fēng)險(xiǎn)提出創(chuàng)新性建議，探索應(yīng)對風(fēng)險(xiǎn)的有效措施，使其更好地造福人類。

關(guān)鍵詞：人工智能；風(fēng)險(xiǎn)保障；風(fēng)險(xiǎn)分析；對策

2016年，弱人工智能程序Alpha Go戰(zhàn)勝了圍棋大師李世石一事在世界范圍內(nèi)產(chǎn)生了巨大反響，人工智能概念在全球范圍內(nèi)瞬即成為熱點(diǎn)頭條，人們開始關(guān)注并期待著人工智能可能帶給世界及生活的貢獻(xiàn)與改變。贊許之余，仍需指出，雖然從目前來看人工智能的發(fā)展對于威脅人類尚有很大距離，但隨著大量資本投入到人工智能產(chǎn)業(yè)中，人工智能產(chǎn)業(yè)駛向了發(fā)展的快車道。加速進(jìn)步的人工智能會(huì)對人類社會(huì)產(chǎn)生極大的不確定性，新技術(shù)的產(chǎn)生會(huì)使現(xiàn)有風(fēng)險(xiǎn)不斷異化，產(chǎn)生新的風(fēng)險(xiǎn)規(guī)律，一些穩(wěn)定的邏輯會(huì)逐漸被替代，整個(gè)世界的打開方式會(huì)變得大不一樣。

新事物的產(chǎn)生伴隨著舊事物的滅亡，如同阿里巴巴的出現(xiàn)引起了實(shí)體店的倒閉與轉(zhuǎn)型，人工智能的發(fā)展將會(huì)取代人類更多的工作。當(dāng)下，一方面不能因?yàn)槿斯ぶ悄艿牟环€(wěn)定因素就對其放棄開發(fā)與使用，但另一方面則需對如下理念獲得清醒認(rèn)知，即：無法控制的人工智能定會(huì)給人類社會(huì)帶來危害。為此，將需要展開系統(tǒng)研究，從而準(zhǔn)確把握人工智能所帶來的風(fēng)險(xiǎn)，創(chuàng)新風(fēng)險(xiǎn)管理模式，采取有效的風(fēng)險(xiǎn)防控措施，并將風(fēng)險(xiǎn)防范意識從研發(fā)創(chuàng)造的源頭一直滲透到使用過程中，就需要世界各國與國際組織的大力扶持與人工智能專家們的不斷努力。

1人工智能產(chǎn)業(yè)發(fā)展現(xiàn)狀

據(jù)Venture Scanner的調(diào)查報(bào)告，截至2016年11月，全球范圍內(nèi)總計(jì)1 485家與人工智能技術(shù)有關(guān)公司的融資總額達(dá)到了89億美元。與任何一個(gè)行業(yè)相比，89億美元的融資量都顯得微不足道，但同比2016年年初的48億美元的融資總額，人工智能產(chǎn)業(yè)已然大獲豐收。伴隨著我國BAT等科技巨頭積極規(guī)劃的戰(zhàn)略布局的成功推出，國內(nèi)人工智能產(chǎn)業(yè)發(fā)展同樣十分迅速，及時(shí)了解行業(yè)現(xiàn)狀尤為重要。本小節(jié)將在如下要點(diǎn)方面針對國內(nèi)外人工智能產(chǎn)業(yè)的發(fā)展現(xiàn)狀給出綜合闡釋與分析。

1.1企業(yè)

根據(jù)《烏鎮(zhèn)指數(shù)：全球人工智能發(fā)展報(bào)告（2016）》，全球人工智能企業(yè)集中在少數(shù)國家，其中美國、中國、英國企業(yè)數(shù)分別為2 905、709、366，總共占據(jù)全球企業(yè)的65.73%。

中國人工智能企業(yè)主要集中在北京、上海、廣東等發(fā)達(dá)地區(qū)，發(fā)達(dá)地區(qū)的人工智能企業(yè)約占全國的85%左右。其中，北京市為人工智能企業(yè)集中創(chuàng)新地。

經(jīng)濟(jì)發(fā)達(dá)地區(qū)的信息化程度較高、互聯(lián)網(wǎng)發(fā)展迅速、融資環(huán)境優(yōu)良，適合各類高新產(chǎn)業(yè)的成長發(fā)展。上述數(shù)據(jù)也表明了人工智能企業(yè)在經(jīng)濟(jì)較為發(fā)達(dá)地區(qū)的發(fā)展要更為迅速。

1.2融資

全球人工智能企業(yè)的融資情況與企業(yè)分布的情況大致相同，美國人工智能企業(yè)在2016年融資總量約為180億美元，中國企業(yè)為25.7億美元，英國企業(yè)為8.16億美元。

中國2015年人工智能行業(yè)獲投金額約為100億人民幣，同比上升40%左右，略低于全球平均水平，其中機(jī)器人領(lǐng)域的投資比例則居于全領(lǐng)域首位。

1.3成果

全球?qū)＠麛?shù)據(jù)庫的數(shù)據(jù)表明，美國人工智能行業(yè)申請的專利總數(shù)約為2.7萬件，中國為1.6萬件，日本位列全球第三、約為1.5萬件。將美國和中國的公司總數(shù)和融資金額分別與專利成果相對比，中國人工智能企業(yè)創(chuàng)造專利成果的效率要遠(yuǎn)遠(yuǎn)高于美國。2017年2月美國《大西洋月刊》中的刊文指出：中國的大學(xué)及公司在研發(fā)和使用人工智能方面已開始超越美國同行。

中國人工智能企業(yè)專利數(shù)量按地區(qū)分布明顯，集中在北京、上海、江蘇、廣東和浙江五個(gè)地區(qū)，占總體60%左右。其中，機(jī)器人方向的專利占總體的38%左右。

1.4政策

近年來，世界各國和國際組織紛紛出臺相關(guān)政策扶持人工智能產(chǎn)業(yè)。以美國、歐盟和中國為例，制定計(jì)劃內(nèi)容即如表1所示。

2人工智能產(chǎn)業(yè)發(fā)展的風(fēng)險(xiǎn)分析

科技創(chuàng)新必然將帶來社會(huì)進(jìn)步，但同時(shí)也必將面臨新的問題侵?jǐn)_及風(fēng)險(xiǎn)?，F(xiàn)如今世界正處在第三次工業(yè)革命之中，在享受著快捷、便利與智能的同時(shí)，卻也并行涌現(xiàn)了諸如失業(yè)、信息泄露等風(fēng)險(xiǎn)。但是當(dāng)人工智能的收益遠(yuǎn)大于其風(fēng)險(xiǎn)的時(shí)候，就需要準(zhǔn)確把握風(fēng)險(xiǎn)的類別及規(guī)律，采取合理的手段管控風(fēng)險(xiǎn)。隨著人工智能產(chǎn)業(yè)的發(fā)展，技術(shù)會(huì)更加成熟，產(chǎn)業(yè)結(jié)構(gòu)不斷優(yōu)化，風(fēng)險(xiǎn)的種類和性質(zhì)也會(huì)逐漸變化，弱人工智能與強(qiáng)人工智能所帶來的風(fēng)險(xiǎn)后果也將截然不同。在此，針對人工智能產(chǎn)業(yè)在發(fā)展過程中的各類可能新風(fēng)險(xiǎn)則可展開如下的研究論述。

2.1倫理風(fēng)險(xiǎn)

學(xué)界和業(yè)界有許多關(guān)于人工智能倫理問題的討論，比如是否該賦予機(jī)器人人權(quán)？人工智能的倫理問題一直是輿論焦點(diǎn)，但始終也沒有定論，多年來人工智能行業(yè)在倫理擔(dān)憂中逐漸前進(jìn)，諸如人工智能的使用過程中，偶爾難免會(huì)做出違背人道主義的事情，謾罵、毆打和虐待這些惡性事件就可能降臨到機(jī)器人的頭上，甚至當(dāng)機(jī)器人變成發(fā)泄的工具、變態(tài)的玩具的時(shí)候，人類是否為這樣的行為找到了正當(dāng)理由？當(dāng)人工智能接近人類智能時(shí)，是否能夠守住人類的倫理與道德底線，給予其切實(shí)合理的倫理定位也仍是當(dāng)下值得探索深思的開放性研究課題。

2.2技術(shù)風(fēng)險(xiǎn)

幾十年來人工智能的發(fā)展已經(jīng)深入到各個(gè)領(lǐng)域，涉及數(shù)學(xué)、計(jì)算機(jī)科學(xué)、心理學(xué)、神經(jīng)學(xué)等眾多門類，在機(jī)器人、識別系統(tǒng)、智能分析、智能設(shè)計(jì)等方面獲得了廣泛應(yīng)用。歷史上由技術(shù)故障導(dǎo)致的機(jī)器人“傷人”事件早在20世紀(jì)70年代即已見諸報(bào)端，而人工智能技術(shù)的發(fā)展并沒有從根本上解決此類問題。2016年11月，第十八屆中國國際高新成果交易會(huì)上由于工作人員的操作失誤，使機(jī)器人撞向站臺，劃傷觀眾。由此可見，人工智能最為直接的現(xiàn)實(shí)挑戰(zhàn)就是技術(shù)風(fēng)險(xiǎn)。除了威脅人類日常生活安全，人工智能的技術(shù)風(fēng)險(xiǎn)也可能造成信息泄露等一系列伴生問題。諸如此類的技術(shù)問題從源頭上只能交給產(chǎn)品開發(fā)者來研究控制，如果不將“意外”的因素考慮進(jìn)去，人工智能技術(shù)便不能進(jìn)入真正的推廣普及。

2.3軍事風(fēng)險(xiǎn)

一個(gè)國家最先進(jìn)的科技通常即會(huì)先行進(jìn)入軍事領(lǐng)域?qū)で笸卣箲?yīng)用，早在20世紀(jì)60年代人工智能僅是處于定義推出階段，世界各國便已開啟了人工智能在軍事領(lǐng)域的研究，無論從智能指揮系統(tǒng)等技術(shù)方面的應(yīng)用還是替代士兵作戰(zhàn)的功能，人工智能在軍事領(lǐng)域的研究均已呈現(xiàn)向縱深及廣域展開態(tài)勢。未來的軍備競賽是兵器技術(shù)與人工智能的比拼，也是軍事費(fèi)用與研究水平的比拼。必須指出，戰(zhàn)爭風(fēng)險(xiǎn)仍然存在，但當(dāng)機(jī)器人士兵大量出現(xiàn)時(shí)，戰(zhàn)爭消耗變成了純粹的資本消耗，人身傷亡的減少會(huì)削弱道德與輿論的呼聲，戰(zhàn)爭則可能會(huì)變得更加頻繁與迅速。

2.4異化風(fēng)險(xiǎn)

國內(nèi)外的諸多學(xué)者與專家都堅(jiān)信，人工智能在未來會(huì)超越人類智能，人類正在創(chuàng)造一個(gè)比自身更加強(qiáng)大的物種。那么許多科幻電影的劇情便有可能真實(shí)上演，人工智能的異化與反抗便具備了發(fā)生可能。許多人工智能的專家也許仍持反面異議，因其會(huì)相信自己的技術(shù)水平而不是虛妄的預(yù)測。但是正如歷史已然證明，就像原子彈與克隆技術(shù)一樣，科學(xué)家們創(chuàng)造出來的成果往往并不能由本群體來決定是否投入使用。那么時(shí)下的當(dāng)務(wù)之急就要合理把控這些風(fēng)險(xiǎn)，利用制度與立法規(guī)范人工智能的開發(fā)與使用，避免極端事件的發(fā)生。

3對策及建議

綜上可得，現(xiàn)今已然無法阻擋也不會(huì)阻擋科技創(chuàng)新的步伐，但卻必須在人工智能產(chǎn)生危機(jī)之前采取適當(dāng)?shù)念A(yù)防性行動(dòng)及相應(yīng)的制度化措施來規(guī)避可能到來的危險(xiǎn)。詳情闡述可見如下。

3.1立法與監(jiān)督

2017年1月，歐洲議會(huì)法律事務(wù)委員會(huì)呼吁制定有關(guān)人工智能與機(jī)器人的法案。法律是規(guī)范人工智能的研發(fā)與使用的最佳選擇。許多可能會(huì)發(fā)生的風(fēng)險(xiǎn)，都可以由法律來提供約束化解，在研發(fā)方面，可以規(guī)定機(jī)器人“鐵律”、量化機(jī)器人的智能等級、限制人工智能的應(yīng)用范圍等；在使用方面，可以限制公司對不同級別機(jī)器人的最大使用數(shù)量或占全體工作人員的比例并逐漸放寬該項(xiàng)措施，以降低失業(yè)潮所產(chǎn)生的不良影響。并且，有必要設(shè)立監(jiān)管部門進(jìn)行專項(xiàng)監(jiān)督，從保障“人”的利益出發(fā)，規(guī)范市場行為，維護(hù)行業(yè)秩序，防止人工智能的肆意開發(fā)與過度使用。

3.2加強(qiáng)國際合作

人工智能所帶來的風(fēng)險(xiǎn)是世界性的，世界各國和國際組織應(yīng)該積極加強(qiáng)合作交流應(yīng)對風(fēng)險(xiǎn)。各國應(yīng)在聯(lián)合國的通力協(xié)調(diào)下聯(lián)合建立用于研究人工智能風(fēng)險(xiǎn)與安全問題的組織，解決人工智能所產(chǎn)生的國際問題。國際問題只能借由國際合作交流來一致探索設(shè)計(jì)策略與合理模式，世界各國應(yīng)牢固樹立人類命運(yùn)共同體意識，在共同宗旨下推動(dòng)世界在人工智能飛速發(fā)展的背景環(huán)境下實(shí)現(xiàn)平穩(wěn)有序向前邁進(jìn)。

3.3運(yùn)用保險(xiǎn)手段

隨著科技的發(fā)展，保險(xiǎn)業(yè)在金融業(yè)的地位逐漸提高，新型保險(xiǎn)產(chǎn)品可以幫助人工智能企業(yè)與個(gè)人分散風(fēng)險(xiǎn)。現(xiàn)在并未推出與人工智能相關(guān)的保險(xiǎn)產(chǎn)品，保險(xiǎn)公司有待開發(fā)針對人工智能與機(jī)器人的企業(yè)責(zé)任保險(xiǎn)、個(gè)人人身保險(xiǎn)與財(cái)產(chǎn)保險(xiǎn)，當(dāng)人工智能出現(xiàn)技術(shù)問題造成被保險(xiǎn)人人身傷亡與財(cái)產(chǎn)損失時(shí)，保險(xiǎn)公司的賠付會(huì)在一定程度上減輕企業(yè)與個(gè)人的經(jīng)濟(jì)負(fù)擔(dān)。

3.4征稅與創(chuàng)新

針對機(jī)器人造成的失業(yè)現(xiàn)象，比爾蓋茨曾表示：可以對機(jī)器人征收所得稅，對因此產(chǎn)生的失業(yè)者進(jìn)行培訓(xùn)，增強(qiáng)對失業(yè)人群高新產(chǎn)業(yè)技能的培養(yǎng)。在政策創(chuàng)新方面，可以在社會(huì)工作總量不變的情況下以減少個(gè)體工作量或者或減少社會(huì)工作日天數(shù)來增加就業(yè)人數(shù)。當(dāng)一個(gè)新技術(shù)得到了廣泛使用時(shí)，隨之而來還有其衍生行業(yè)與衍生產(chǎn)品，未來人工智能技術(shù)對人類社會(huì)改變?nèi)匀浑y以做出準(zhǔn)確描繪，這就要求人類積極創(chuàng)新，盡快適應(yīng)新科技帶給人類社會(huì)的改變。

4結(jié)束語

科技是為人類謀求福祉的一種手段，但高科技伴隨高風(fēng)險(xiǎn)。人工智能的發(fā)展方興未艾，人工智能技術(shù)是否能夠呈現(xiàn)持續(xù)穩(wěn)定的發(fā)展前景，將取決于人類對人工智能的掌控權(quán)。人工智能的風(fēng)險(xiǎn)研究會(huì)伴隨著人工智能的發(fā)展則會(huì)日益突顯其現(xiàn)實(shí)重要性，本文簡要分析了人工智能產(chǎn)業(yè)發(fā)展可能存在的前瞻風(fēng)險(xiǎn)，但還遠(yuǎn)未足夠。只有從研發(fā)人員到使用者真正重視并防范人工智能的風(fēng)險(xiǎn)，避免極端事件的發(fā)生，人工智能才能更好地服務(wù)并輔助人類生活與社會(huì)進(jìn)步。