◎盤冠員

人工智能（Artificial Intelligence，AI）被稱為21世紀三大尖端技術之一（基因工程、納米科學、人工智能），擴展延伸了人的智能，逐漸轉變成滲透到人類生活和社會各個方面的通用技術，為人類認識世界、改造世界增添了新工具新手段新方法。

推動因素與發(fā)展現(xiàn)狀

隨著網(wǎng)絡、超級計算、大數(shù)據(jù)、云服務及傳感器等技術的發(fā)展進步，人工智能進入了重新崛起并迅猛發(fā)展的新階段。

1.現(xiàn)狀

從發(fā)展史來看，人工智能并不是最近才出現(xiàn)的新技術。1956年夏天，在美國新罕布什爾州漢諾威市舉行的“達特茅斯會議”上，“人工智能”術語的提出，標志著它已成為一門新興學科。此后，它逐漸為世人熟悉接受，其相關理論和技術也在起伏中得到逐步發(fā)展。進入21世紀，人工智能再度進入爆發(fā)式發(fā)展應用的新階段，主要有四大推動因素：

（1）相關基礎理論、技術和應用的積累進入新階段。計算機、大數(shù)據(jù)、云計算以及物聯(lián)網(wǎng)等技術的突破，特別是神經(jīng)網(wǎng)絡（模仿人腦思考結構）、機器學習（記憶與認知）、數(shù)據(jù)庫和算法等研究取得的新成果，為人工智能產業(yè)化快速發(fā)展提供了重要技術基礎。

（2）國家戰(zhàn)略布局和相關政策的有力支持。美、歐、日等發(fā)達國家和地區(qū)將人工智能上升為國家戰(zhàn)略，紛紛出臺政策支持人工智能技術研發(fā)和產業(yè)發(fā)展，搶占發(fā)展先機。日本在2015年1月發(fā)布《機器人新戰(zhàn)略》，未來十年將投入1000億日元用于人工智能的研發(fā)；2017年3月，又出臺《人工智能技術戰(zhàn)略》，進一步規(guī)劃部署人工智能的技術研發(fā)。2016年，美國白宮連續(xù)發(fā)布《為未來人工智能做好準備》《美國國家人工智能研究和發(fā)展戰(zhàn)略計劃》《人工智能、自動化和經(jīng)濟》等政策和研究報告，明確提出人工智能研發(fā)戰(zhàn)略，構建人工智能研發(fā)實施框架，并于2018年5月設立相關組織機構，協(xié)調推進人工智能研發(fā)與政企協(xié)作。2018年9月，美國國防部決定未來五年投資20億美元用于開發(fā)機器常識（MCS）項目。2018年6月，歐洲委員會提出一項數(shù)字歐洲計劃，計劃2021-2027年投入10.4億美元推進人工智能技術研發(fā)與應用。2016年12月，英國發(fā)布《人工智能：未來決策制定的機遇與影響》，闡釋了人工智能對現(xiàn)代社會的影響，不斷提高政府對人工智能的認知，2017年4月英國皇家學會發(fā)布《機器學習：計算機通過案例學習的能力與潛力》研究報告，呼吁英國加大對機器學習技術的研發(fā)投入，2018年英國啟動了《人工智能行業(yè)新政》，推動英國成為人工智能領域的領導者。2018年以來，德國、法國、韓國和印度等國也紛紛推出本國的人工智能戰(zhàn)略進行規(guī)劃布局。

（3）各大企業(yè)加大金融資本的支持。高科技企業(yè)將人工智能視為下一代產業(yè)革命的技術引爆點進行投資。2016年9月，谷歌、微軟、亞馬遜、臉譜和IBM五家企業(yè)宣布成立人工智能聯(lián)盟，交流共享人工智能發(fā)展經(jīng)驗。由于人工智能產業(yè)化和商業(yè)前景看好，各種金融資本迅速介入。數(shù)據(jù)顯示，2016年，全球科技巨頭在人工智能領域投資就達300億美元。資本市場的火熱催生了一大批人工智能領域初創(chuàng)公司的誕生和快速發(fā)展。如以云知聲、思必馳等為代表的語音識別和自然語言處理公司，以商湯科技、曠視科技、依圖科技等為代表的計算機視覺公司，它們中有很多如今已發(fā)展成為新興的獨角獸企業(yè)。2018年4月9日，中國恒大與中國科學院簽署合作協(xié)議，未來10年恒大將投資1000億元人民幣，布局量子科技、機器人等新科技領域。

（4）應用場景的影響。谷歌公司機器人阿爾法狗戰(zhàn)勝韓國圍棋九段棋手李世石和圍棋世界冠軍柯潔，喚醒了世人對人工智能的高度關注。百度指數(shù)數(shù)據(jù)顯示，從2015年底開始，“人工智能”熱度逐漸升溫，且持續(xù)到現(xiàn)在。2015-2016年，其媒體關注度已經(jīng)暴漲6倍。

2.發(fā)展現(xiàn)狀

目前，人工智能蓬勃發(fā)展，技術進步迅速，其應用已經(jīng)滲透到我們的日常生活中，如人臉識別、刷臉支付、語音助手、無人機、服務機器人、自動駕駛和智能系統(tǒng)等。與互聯(lián)網(wǎng)、大數(shù)據(jù)、物聯(lián)網(wǎng)、云服務融合的人工智能應用給我們帶來了更多的便利。專家認為，人工智能的應用將使勞動生產率提高90%；至2035年，人工智能將使年度經(jīng)濟增長率提高一倍。

但是，業(yè)界普遍認為真正的人工智能尚處于發(fā)展的初級階段（認知智能發(fā)展階段），即弱人工智能階段，有“技能”，但遠遠談不上有“智能”，還沒能出現(xiàn)像人一樣思考和行動的真正的人工智能產品，離通過“圖靈測試”這一衡量人工智能技術水平的標準為時尚遠。有專家認為，人工智能目前處于嬰兒期，其智商大抵相當于3歲的孩子，說不好、笑不真、想不清、行不穩(wěn)，這四“不”客觀地描寫了人工智能目前的現(xiàn)狀。

安全風險

1.國家安全

國家安全包括國土安全、政權安全、制度安全和意識形態(tài)安全等。2017年7月，美國智庫發(fā)表題為《人工智能與國家安全》的研究報告，認為人工智能將會是國家安全領域的顛覆性力量，其影響可與核、航空航天、信息和生物技術比肩，將深刻改變軍事、信息和經(jīng)濟領域安全態(tài)勢。該報告強調人工智能通過變革軍事優(yōu)勢、信息優(yōu)勢和經(jīng)濟優(yōu)勢影響國家安全。其中，軍事領域引入人工智能幾乎是不可阻擋的，而人工智能技術與生俱來的軍民兩用特性則要求決策者必須調和商業(yè)與國家安全之間的利益。而且，利用“換臉”、“換聲”等人工智能技術可以制作具有欺騙性的假時事新聞。已有案例說明，利用人工智能技術在社交平臺大量制作散發(fā)虛假新聞可以在政府首腦選舉中影響選民的抉擇。

2.社會安全

傳統(tǒng)犯罪借助人工智能，將會衍生出新型犯罪形態(tài)、犯罪行為、手段和方法，出現(xiàn)無法辨識是機器人犯罪還是真實人犯罪的尷尬場景。2018年3月，美國發(fā)生了兩起涉及自動駕駛的車禍。3月19日，優(yōu)步（Uber）一輛自主駕駛汽車在美國亞利桑那州坦佩市發(fā)生致命車禍，一名49歲的女子晚上推著自行車穿過馬路時被汽車撞死。3月23日，一名工程師駕駛特斯拉Model X型號汽車在加州101公路和85公路交接處發(fā)生致命車禍，車禍發(fā)生時汽車啟用了自動駕駛（或自動輔助駕駛）功能。這些案例說明，人工智能產品如果沒有徹底解決安全可靠性問題，將會危及社會公共安全和人身安全。

3.網(wǎng)絡安全

網(wǎng)絡和大數(shù)據(jù)的發(fā)展推動了人工智能的進步，網(wǎng)絡攻擊智能化趨勢也給網(wǎng)絡安全保護提出更高要求。有關人工智能與網(wǎng)絡安全關系的研究表明，一旦人工智能運用到網(wǎng)絡攻擊活動，將使得網(wǎng)絡攻擊活動更加難以預警和防范，關鍵信息基礎設施也將會面臨新的安全風險威脅。如人工智能技術運用到木馬病毒制作傳播，將會出現(xiàn)難以防御的超級病毒木馬，傳統(tǒng)應對方法將不足以制止這些惡意程序傳播擴散的速度。此外，人工智能的技術研發(fā)與應用也存在一些不確定性的安全風險。

應對人工智能安全風險的對策建議

人工智能的安全風險取決于技術發(fā)展及其安全可控的程度，短期風險可以預見，長期風險受制于現(xiàn)有認知能力難以預測和判斷。因此，一方面，人類社會要積極推動人工智能技術研發(fā)和應用；另一方面，要為人工智能的發(fā)展應用規(guī)劃一條安全邊界，防止其被惡意運用、濫用，給人類社會造成不可逆轉的傷害。

1.加強人工智能安全風險的研究

樹立正確的安全觀，科學對待人工智能安全風險。研究掌握在人工智能技術研發(fā)和應用過程中會出現(xiàn)哪些風險，并從法律、政策、技術和監(jiān)管等方面進行有效防控管控。

2.加強人工智能立法研究和法律規(guī)范

人工智能理論、方法、技術及其應用引發(fā)社會關系、社會結構和行為方式的變化，產生不可預知的安全風險和新的法律問題。建議運用法律手段，重點防控人工智能行為主體及其行為的異化。從現(xiàn)有情況看，人工智能法律研究應主要聚焦在人工智能產品主體，如智能機器人的法律地位、行為的法律屬性以及法律責任如何確定等方面。在立法方面應加強對人工智能技術應用可能出現(xiàn)的法律問題的前瞻性研究探索。

3.加強人工智能安全防控體系建設

按照趨利避害原則，處理好人工智能發(fā)展應用與安全防控的關系，既要促進人工智能發(fā)展應用，又要推動其在安全、可靠和可控的軌道上前行。要加強對人工智能安全防控體系建設的戰(zhàn)略規(guī)劃部署，圍繞人工智能安全風險點，借鑒已有經(jīng)驗，有步驟地推進人工智能安全綜合防控體系建設。

4.加強人工智能產品服務的安全監(jiān)管

要及時制定人工智能安全產品和服務技術標準規(guī)范，規(guī)范和引導產品研發(fā)推廣。加強對人工智能安全產品和服務的市場監(jiān)管執(zhí)法和相關產品上市前的安全測試。對有安全缺陷的產品和服務要依法處理，對造成危害后果的要依法追究法律責任。要積極運用人工智能技術提高安全監(jiān)管能力，善于運用人工智能技術改進和加強安全監(jiān)管執(zhí)法，提高安全監(jiān)管執(zhí)法的能力和效率。

5.加強人工智能技術研發(fā)的管控

人工智能的快速發(fā)展引起了國際社會對于道德倫理問題的關注和擔心，應當為人工智能技術研發(fā)劃出“紅線”，設置禁區(qū)，禁止研究開發(fā)危害人類生存安全的人工智能技術和產品，防止人工智能技術的濫用。美國科幻小說家阿西莫夫在1950年出版的小說《我，機器人》中提出了著名的“機器人三大法則”，第一定律：機器人不得傷害人類個體，或者目睹人類個體將遭受危險時袖手不管；第二定律：機器人必須服從人類發(fā)出的命令，當該命令與第一定律沖突時例外；第三定律：機器人在不違反第一、第二定律的情況下要盡可能保護自己的生存。2017年1月，美國著名人工智能研究機構未來生命研究院（FLI）在加利福尼亞州召開主題為“有益的人工智能（Beneficial AI）”的阿西洛馬會議，法律、倫理、哲學、經(jīng)濟、機器人和人工智能等眾多學科和領域的專家，共同達成了23條人工智能原則（“阿西洛馬人工智能原則”，被稱為人工智能發(fā)展的“23條軍規(guī)”），呼吁全世界在發(fā)展人工智能的時候嚴格遵守這些原則，共同保障人類未來的利益和安全。23條規(guī)則規(guī)定，人工智能研究的目標應該建立有益的智能，而不是無向的智能。應該設計高度自主的人工智能系統(tǒng)，以確保其目標和行為在整個運行過程中與人類價值觀相一致。對于人工智能造成的風險，尤其是那些災難性的和存在價值性的風險，必須付出與其所造成的影響相稱的努力，以用于進行規(guī)劃和緩解風險。同時，人工智能軍事化問題也是國際法律界關注的熱點。目前，國際上限制致命性人工智能武器的呼聲不絕于耳，有上百家人工智能領先企業(yè)呼吁禁止發(fā)展致命性人工智能武器。國際社會應當共同努力，加強合作，反對人工智能軍事化，共同應對人工智能安全風險。