張銳

從劍橋到麻省再到哈佛，一路求學展現(xiàn)出的是戴密斯·哈薩比斯超人的稟賦；從電子游戲到計算機編程再到認知神經科學，破解未知彰顯出的是戴密斯·哈薩比斯驚人的特質；從英國到美國再到韓國，跨洋穿越輻射出的是戴密斯·哈薩比斯過人的能量。頭頂著“國際象棋神童”的光環(huán)，榮膺著“天才程序員”的美譽，擁戴著“認知神經學家”的尊稱，39歲的戴密斯·哈薩比斯正攜帶令人憧憬的智能工程朝著未來世界注入強大的變革與改造基因，創(chuàng)造著人類所癡迷與渴求的科技福音。

星球上最聰明的人之一

父親是希臘與塞浦路斯混血，母親則是新加坡和中國混血，四國混血血統(tǒng)的家族生物背景似乎讓哈薩比斯未出生前就獲得了與人不同的天資。不過，在哈薩比斯看來，自己卻是父母眼中的“另類”與“黑天鵝”。因為，與成為鋼琴家的妹妹和成為作家的弟弟相比，作為家中的長子，哈薩比斯并沒有像父母那樣走上人文科學之路，而是對自然科學表現(xiàn)出了獨特的鐘愛與興趣。

4歲時的一天，哈薩比斯發(fā)現(xiàn)父親和舅舅在玩國際象棋，便馬上對此產生了興趣。出人意料，兩周后，哈薩比斯竟然贏了父親，而且自稱棋路高手的舅舅也心悅誠服的落敗。次年，哈薩比斯參加英國國內比賽，一舉奪魁；再過了一年，哈薩比斯捧回了倫敦8歲以下錦標賽的冠軍獎杯；9歲時，哈薩比斯成為英國11歲以下國家象棋隊隊長；13歲時，哈薩比斯獲得了國際象棋大師頭銜。當然，頻繁穿梭于各大賽場和激烈角逐之余，哈薩比斯也在時常思考著兩大問題：人類大腦是如何掌握如此復雜的任務？計算機是不是也能如此？

窮究答案的哈薩比斯并沒有繼續(xù)沿著象棋這條路走下去，而是很快將興趣轉移到了計算機上。沒有向父母伸手，哈薩比斯用自己在國際象棋大賽中獲得的獎金買來了兩部頻譜電腦，并對其進行反復的拆裝；與此同時，哈薩比斯花了一個夏天的時間呆在圖書館里翻閱計算機雜志，并最終學會了編程。也正是在這個時候，人工智能初步闖入哈薩比斯的視線。不過，作為當時自己最得意的成果，哈薩比斯編寫了一個黑白棋游戲的程序，而且戰(zhàn)勝了弟弟。當然，可能哈薩比斯本人也沒有想到，就在埋頭編程的同時，自己卻不知不覺地愛上了電子游戲。

提前兩年完成高中學業(yè)的哈薩比斯被劍橋大學錄取，而且像許多同年人一樣在整個大學期間也沒有割斷對電腦游戲的愛好。所不同的是，哈薩比斯除了是一個癡迷的玩家外，還是一個游戲開發(fā)高手。在一場為游戲《太空侵略者》設計續(xù)集的比賽中，哈薩比斯獲得第二名，且被一家視頻游戲公司相中，也正是在這家企業(yè)的支持下，哈薩比斯設計和開發(fā)出了名為《主題公園》的游戲產品。據(jù)可靠資料表明，這是一款帶有沉浸式特征的模擬現(xiàn)實游戲，也是最早包含人工智能元素的游戲之一。而得益于這款游戲數(shù)百萬份的銷量，哈薩比斯也獲得了足以完成學業(yè)的全部資金，同時也愈發(fā)堅定了他的信念：人工智能將會有驚人發(fā)展。

對于哈薩比斯來講，在讀劍橋大學就讀的4年期間所得到的業(yè)余收獲其實并不只有游戲開發(fā)這一項。當時劍橋有一個高水平圍棋社團，哈薩比斯學習圍棋知識就從那里開始，只是因為忙于電腦編程與游戲開發(fā)而沒有足夠的時間去練習，圍棋技藝也就一直停留在業(yè)余一段水平。不過，這并不妨礙他對圍棋的喜愛。尤其在當時目睹了超級計算機“深藍”與國際象棋大師卡斯帕羅夫的世紀對弈后，哈薩比斯就產生了一個有朝一日為圍棋編寫一個程序的沖動。

20歲從劍橋大學計算機科學系畢業(yè)時，哈薩比斯就創(chuàng)立了自己的電腦游戲公司“仙丹工作室”。不過，在堅持了七年之后，哈薩比斯強烈的感覺到自己走商界這條途徑并不能破解有關人類大腦與計算機的許多謎團，同時公司開發(fā)的游戲也沒有取得預料中的那種成功。為了尋找靈感，27歲時哈薩比斯選擇了回歸學術領域，在倫敦大學學院攻讀認知神經科學博士學位。

攻博期間哈薩比斯研究的方向是海馬體。海馬體是人腦的一個區(qū)域，對方向感、記憶調取和未來事件的想象至關重要。經過研究，哈薩比斯發(fā)現(xiàn)，五名因腦損傷而遭受失憶癥折磨的病人，他們的海馬體會努力地設想未來的事情。緊接著，哈薩比斯發(fā)表了有關海馬體的12篇研究論文，而且相關成果被《科學》雜志納入“年度突破”的研究目錄之中。互聯(lián)網(wǎng)之父、英國計算機學家蒂姆·伯納斯·李緊隨其后發(fā)文評價稱，哈薩比斯是這個星球上最聰明的人類之一。

獲得倫敦大學神經科學博士學位之后，哈薩比斯先后進入麻省理工大學和哈佛大學分別開展“機器學習”與“深度學習”等博士后課題的研究，而為了檢驗自己的系列前期研究成果，在走出博士后流動站的當年哈薩比斯就回到倫敦創(chuàng)立了名為DeepMind（深度思維）的科技智能公司，并且成功開發(fā)出了深度學習的程序。為了讓這項技術得到更廣泛的應用，哈薩比斯選最終選擇了圍棋，目的就是望通過利用深度學習的計算機程序戰(zhàn)勝人類圍棋大師。

魚和熊掌往往不能兼得。對DeepMind持續(xù)經營與管理了三年后，哈薩比斯愈來愈感到分身乏術。由于絕大部分精力需要投放到企業(yè)融資上，相應地實際用來做研究的時間還不到十分之一；更為重要的是，當時DeepMind并沒有公開發(fā)布過任何產品，而且成立次年就發(fā)生了200萬英鎊的虧損。再三權衡之下，哈薩比斯作出了轉讓公司的決定，并很快迎來了臉譜、谷歌等科技大佬拋來的橄欖枝。不過，哈薩比斯最終選擇了谷歌，原因是在哈薩比斯看來，拉里·佩奇“一直把谷歌看作一家人工智能公司”。公開資料顯示，2014年收購DeepMind時，谷歌拿出了4億英鎊的真金白銀，為其有史以來在歐洲最大的一筆收購，而哈薩比斯也從這筆買賣中凈賺了8000萬英鎊。

戰(zhàn)勝人類的“AlphaGo”

即便是將DeepMind納入麾下，拉里·佩奇也不敢慢待至今擁有5次世界智力運動會冠軍記錄的哈薩比斯。除了讓哈薩比斯繼續(xù)擔任DeepMind的首席執(zhí)行官外，谷歌不僅絲毫沒有改變DeepMind的人工智能開發(fā)方向，而且在資金和團隊上給予了強大的支持與輔助。18個月之后，哈薩比斯構想中的結合人腦神經元與大數(shù)據(jù)的人工智能項目“AlphaGo” （阿爾法圍棋）橫空出世，而且哈薩比斯將2016年的首戰(zhàn)目標鎖定在了韓國著名圍棋棋手李世石的身上。

公開資料顯示，現(xiàn)年33歲的李世石從12歲時開始入段后，僅用了2年時間就跳至5段，并在奪得韓國LG杯冠軍的次年直接升為六段，又僅僅用了一年，李世石先后奪得韓國最大棋戰(zhàn)KT杯亞軍和第16屆富士通杯冠軍，并分別因此晉升為七段和直接升為九段，此后多年，李世石一直蟬聯(lián)韓國圍棋大獎——最優(yōu)秀棋手大獎（MVP）。另外，作為世界世界頂級的圍棋棋手，李世石的戰(zhàn)型棋風歷來以“穩(wěn)，準，狠”著稱，并善于敏銳地抓住對手的弱處主動出擊，以強大的力量擊垮對手。不過，按照哈薩比斯的說法，AlphaGo看中就是像李世石在圍棋頂尖水平已盤踞十年甚至更久的年輕選手。

作為人機大戰(zhàn)歷史上第一次電腦挑戰(zhàn)職業(yè)九段棋手，應當說哈薩比斯對AlphaGo最終取勝的結果并無十足的把握。在接受媒體采訪時，哈薩比斯將輸贏的概率確定為50：50，甚至他也公開表示過，人工智能超越人類棋手需要五年時間。然而，今年3月上旬的一周大戰(zhàn)之后，全球無數(shù)個圍棋愛好者卻屏住呼吸最終迎來了令人瞠目的時刻：AlphaGo以以4比1戰(zhàn)勝了李世石。而在第一時間得到這個消息后，哈薩比斯就在推特上發(fā)出了近似狂熱的吶喊：““贏了！登月成功！”。

的確，曾經年少輕狂藐視一眾前輩的李世石在賽前根本就沒有想到自己會如此慘敗，但在比賽中場休息時，李世石就坦言面對Alpha Go“從未如此緊張過”，而在賽后，李世石更是坦白與AlphaGo對弈之后，體力被大量透支，體重曾一度下降了7公斤。甚至李世石承認，如果再次和AlphaGo對弈，自己最多可能獲得兩場勝利，而這還是建立在AlphaGo博弈水平沒有提高的假設基礎之上的。

不知道了AlphaGo是否還會與李世石再度過招，但哈薩比斯是不會讓它停下進攻的腳步的，并公開表示接下來會去中國、日本尋找高手切磋棋藝，其中最可能接受邀請的就是中國浙江麗水的天才棋手柯潔。據(jù)悉，在AlphaGo對陣李世石的不久之前，柯潔在第二屆夢百合杯世界圍棋公開賽中以3：2險勝李世石，獲得個人職業(yè)生涯第三座世界冠軍獎杯。而作為人工智能圍棋的AlphaGo在戰(zhàn)勝李世石后，排名升至世界第二，僅次于柯潔。基于此，人們預測，雙雄鏖戰(zhàn)已近在咫尺。

實際上，在與李世石對弈之前，Alpha GO已與法國“瘋石”、日本“zen”等當今最優(yōu)秀圍棋程序進行過500盤博弈，結果Alpha GO只輸了一盤，對弈勝率高達99.8%。不僅如此，去年10月Alpha GO還以5：0的戰(zhàn)績絕殺歐洲圍棋冠軍、前中國職業(yè)棋手樊麾，創(chuàng)造了電腦首次戰(zhàn)勝圍棋職業(yè)棋手的歷史，Alpha GO也從此聲名鵲起。據(jù)悉，在完敗Alpha GO之后，樊麾也加入了哈薩比斯的團隊，主要任務就是為Alpha GO項目提供咨詢。

接下來在與人類更加頂級的圍棋棋手博弈中Alpha GO能否繼續(xù)旗開得勝？結果盡管充滿懸念，但有幾個已經存在的事實卻是人們不得不關注的。從Alpha GO戰(zhàn)勝樊麾到斗敗李世石，中間僅僅相隔了不到半年時間，其棋藝的進步可謂神速。另外，自項目啟動以來，程序員已在Alpha GO程序中錄入了多達3000萬步職業(yè)棋手的棋譜，讓它自己博弈，研習棋譜，最終結果是將預測對手下一步棋落子的準確率提升到57%。不僅如此，戰(zhàn)勝樊麾以來，工程師們還將Alpha GO的硬件從1202個CPU增加到1920個CPU。同時，擊敗李世石之后，哈薩比斯對外宣布，Alpha GO將不參考人類棋譜，完全自我演化三個月。至于三個月后機器會自我升級到什么水準，結果也不難想象。顯然，無論是硬件裝備，還是軟件配備，Alpha GO已經今非昔比，人類所面對的一定不是一個簡單的對手。

當然，目睹了Alpha GO出色棋藝與精彩戰(zhàn)績之后，人類也在更長的戰(zhàn)線上展開自己的聯(lián)想：Alpha GO能否戰(zhàn)勝中國四川的麻將美國德州的撲克？而且人們相信這兩個項目將是棋類之外電腦與人腦能夠一比高下的更高層次領域。比較而言，圍棋是一種透明的策略游戲，對弈雙方不隱藏、不欺騙、不作弊，彼此較量的是公開透明的智力，但是麻將與德?lián)涞耐该餍詣t差了許多，甚至其中充滿了人類的欺騙、設局、隱瞞的技巧。對此，很多人認為，在麻將與德?lián)涿媲?，人工智能將毫無優(yōu)勢可言。但是，我們不得不承認的是，像Alpha GO這樣的人工智能，已經具備了從已有信息中捕捉概率并做出抉擇的完全能力，譬如麻將，人工智能就能從已經打出的牌九中分析出可能的胡局，同樣，針對德?lián)淅锏姆N種心理戰(zhàn)，人工智能也能從以往的數(shù)據(jù)中判斷出牌的可能性。在專家看來，無論透明還是不透明游戲，只要是有確定的規(guī)則和邊界，在與人類博弈的過程中，人工智能最終勝出的可能性非常之大。

從“深藍”到“阿爾法狗”

20年前，國際象棋棋王卡斯帕羅夫接到了由IBM設計的名為“深藍”的電腦呈送的戰(zhàn)書，原本信心滿滿的卡斯帕羅夫最終不得不接受殘酷的結果：“深藍”2勝1負3平勝出。輸棋之后的卡斯帕羅夫認為“深藍”表現(xiàn)出的智能和創(chuàng)造性不可思議，必有人類棋手在背后操刀，并主動發(fā)出再戰(zhàn)的請求，但被IBM拒絕，同時IBM也拆卸了“深藍”，致使卡斯帕羅夫至今復仇無望。

然而，“深藍”的出現(xiàn)的確是人工智能歷史上的一個標志性事件。10之后，超級計算機浪潮天梭以一敵五，戰(zhàn)勝5位中國象棋特級大師；5年之前，“深藍”同門師弟“沃森”在美國老牌智力問答節(jié)目《危險邊緣》中戰(zhàn)勝兩位人類冠軍。深藍的一系列成功，既讓人類必須正視人工智能的強大潛力，也讓人們將眼光從國際象棋身上轉向了圍棋這一被視為最高也是最難的棋譜與棋局對弈之上。

一般人都知道，“深藍”實際上就是是一臺超級計算機，它裝有480顆特別制造的象棋芯片，下棋程序以C語言寫成，運行AIX操作系統(tǒng)，其計算能力在世界超級電腦中排名第259位。在與卡斯帕羅夫對弈時，“深藍”可以預判12步棋，而前者可以預判10步，二者勢均力敵。看得出，“深藍”戰(zhàn)勝卡斯帕羅夫依靠的就是略強于對手的“暴力”計算速度，即憑借強大的計算能力窮舉所有路數(shù)來選擇最佳策略。也正是如此，不少人認為“深藍”算不上“聰明”的電腦，它可以擊敗卡斯帕羅夫，但卻無法在幼兒園游戲中勝過三歲小孩。至于面對圍棋，“深藍”更是力不從心。

棋盤游戲在西方被視為人類頂級智力的試金石，而在中國具有2500多年歷史的圍棋更是被不少人視為抵擋電腦進攻的最后陣地。上下縱觀橫覽，19×19的圍棋棋盤共有361個點，理論上可能產生的局數(shù)為3的361次方種，這個數(shù)字大概是10的170次方，比已觀測到的宇宙中原子數(shù)量還多；相比較而言，國際象棋則只有10的46次方。更為重要的是，正如哈薩比斯所言，在圍棋博弈中，人的直觀感受和洞察力可以發(fā)揮決定性作用，其中存在的變數(shù)較國際象棋復雜得多。因此，如果說在國際象棋方面電腦可以通過快速計算戰(zhàn)勝人類，但同樣的方法面對圍棋卻很難奏效。也正是如此，哈薩比斯與他的“阿爾法狗”最終將圍棋作為了征服目標。

不錯，從先前的“深藍”到今天的智能語音助手Siri，再到人臉識別系統(tǒng)，都可以看作是人類在人工智能領域探索的成果，但在哈薩比斯眼中，這些只是預設好程序的軟件和只能掌握某項特定技能的東西都只屬于“弱人工智能”，而DeepMind所開發(fā)出的則是“通用人工智能”。所謂“通用”，就是模擬人腦神經系統(tǒng)創(chuàng)造出真正的“通用型學習機”，也就是具有自我學習、自我進化、自我提升能力以及自我解決一切問題的計算機系統(tǒng)，而且哈薩比斯相信“通用型學習機”正在向著人類越走越近。

去年2月，全球頂級科學期刊《自然》雜志刊登了哈薩比斯研究團隊一篇論文，稱“具備自學能力的人工智能軟件”在電子游戲中的表現(xiàn)已達到人類水準。據(jù)悉，這款名為“深度Q網(wǎng)絡”的程序可讓計算機實現(xiàn)更接近人類的獨立學習和推理能力，是世界上首個成功實現(xiàn)點對點通用學習的系統(tǒng)。研究人員讓這個程序通過在玩中自學來挑戰(zhàn)49款不同的經典電子游戲。結果顯示，新程序取得了與人類職業(yè)游戲測試員相當?shù)某煽儯诙喟胗螒蛑械梅峙c測試員非常接近。幾個月后，《自然》雜志再次發(fā)表了來自DeepMind的第二篇研究論文，而這一次則是“阿爾法狗”的面世。

顯然，“阿爾法狗”不僅可以通過自我學習去掌握圍棋技術，而且還能通過深度學習自我發(fā)現(xiàn)新的戰(zhàn)略，其中深度學習所模擬的就是人類大腦的神經網(wǎng)絡。據(jù)此，“阿爾法狗”除了內置了3000多萬步的職業(yè)棋手棋譜以供其自我博弈外，相比于人類在一年里只能下1000盤棋，“阿爾法狗”可以在一天就下幾百萬盤，而且只要不斷電就會永不停息。也正是如此，無論是“阿爾法狗”的強大的數(shù)據(jù)處理能力，還是新增學習與增強訓練能力，都可以到達人類遠遠達不到的境界。

進一步分析，“阿爾法狗”實際是通過兩個深度神經網(wǎng)絡和“蒙特卡洛樹”搜索算法三者的組合來完成下棋并戰(zhàn)勝人類的。兩個神經網(wǎng)絡是指“策略網(wǎng)絡”和“價值網(wǎng)絡”，其中“策略網(wǎng)絡”主要用來生成落子，直接略過那些明顯不該走的棋步；“價值網(wǎng)絡”是用來評估整體局勢，然后給出一個“勝率”；接著，相關數(shù)值就會反饋到“蒙特卡洛樹”搜索算法中，推演出“勝率”最高的走法?！懊商乜鍢洹彼阉魉惴Q定了策略網(wǎng)絡僅會在“勝率”較高的地方繼續(xù)推演，這樣就可以拋棄某些路線，不用一條道算到黑。

有人這樣形象地解釋“蒙特卡洛樹”搜索算法：假如籃子里有1000個蘋果，讓你每次閉著眼睛找一個最大的，可以不限制挑選次數(shù)。于是，你可以閉著眼隨機拿了一個，然后再隨機拿一個與第一個比，留下大的，再隨機拿一個，與前次留下的比較，又可以留下大的。循環(huán)往復這樣，拿的次數(shù)越多，挑出最大蘋果的可能性也就越大，但除非你把1000個蘋果都挑一遍，否則你無法肯定最終挑出來的就是最大的一個?？梢?，“蒙特卡洛樹”搜索算法的最大特點不是計算速度，而是算法優(yōu)化，它不僅有效降低了搜索空間，而且拋棄了窮舉法中對大量計算資源的消耗，并最終成就高勝率。

天使還是魔鬼？

沒有人懷疑哈薩比斯及其旗下的“阿爾法狗”代表著的是一股無法抗拒的科技進步力量，但正如《自然》所發(fā)表的評說那樣，在人類文明里，機器會扮演越來越重要的作用，代表這樣的力量，人應該更多思考自己的意義。的確，雖然目前“阿爾法狗”只是作為一個深度學習程序存在于計算機中，但我們相信未來絕對不會只有一只“阿爾法狗”。人工智能在給人類創(chuàng)造福音的同時，所引起的擔憂與恐慌也會如影隨行。

著名科學家斯蒂芬·霍金預言，成功開創(chuàng)人工智能將是“人類史上最偉大的一件事，但不幸的是，這也可能是最后一件大事”；無獨有偶，特斯拉公司創(chuàng)始人埃倫·馬斯克則將人工智能技術的發(fā)展比作是“召喚惡魔”。 也就在去年，霍金與馬斯克以及比爾·蓋茨等數(shù)百名頂尖精英聯(lián)名簽署發(fā)表了一封公開信，表示人工智能對人類生存的威脅更甚于核子武器。科學家與企業(yè)家們擔憂的是，包括通用人工智能被武器化，以及人工智能的發(fā)展達到“技術奇點”，從而帶來的“智能爆炸”。在這種情況下，機器將可以迅速自我優(yōu)化，其智能程度將超過人腦，從而脫離人類控制；甚至人工智能被用于軍事裝備的普及，如大量用來戰(zhàn)爭和殺敵，其帶給人類的必然是災難。

然而，在哈薩比斯看來，許多科學家之所以對人工智能存在偏見，就是因為他們對此并不太了解。據(jù)悉，哈薩比斯曾與霍金長談了四小時，自此之后，霍金就再也沒有公開發(fā)布過“關于人工智能的煽動性言論”。 另外，哈薩比斯認為，人工智能并沒有人們想象的那樣進步神速，雖然自上世紀八十年代始人工神經網(wǎng)絡的算法基礎就已經基本構建好，但由于處理器的運算能力上不去，人工神經網(wǎng)絡的威力也不能得到完全發(fā)揮，導致從“深藍”到“AlphaGo”整整花了20年時間。而即便是“AlphaGo”成功展示了計算系統(tǒng)運算能力的進步，但距離人腦水平的通用智能仍有幾十年的差距，即人工智能還處于“爬上了梯子的第一級和只能玩游戲”的水平。

因此，按照哈薩比斯的觀點，人工智能不僅不會讓人類生活變得危險，相反能夠幫助人類取得更大的進步。由于類似于“阿爾法狗”的人工智能軟件在面對任何問題時完成自學，哈薩比斯認為，這有助于解決一些全世界最棘手的問題，甚至未來“超智能機器”會跟人類專家協(xié)同工作，攻克有關癌癥、氣候變化、能源、基因組學等方面的種種難題。據(jù)悉，作為一項創(chuàng)造性舉動，哈薩比斯目前正同英國政府合作，利用人工智能提高英國全國醫(yī)療服務體系的效率。

當然，哈薩比斯也承認人工智能所可能導致的法律和倫理風險，但同時強調在如何降低通用人工智能可能的危害方面，DeepMind的研究處于領先。一方面，雖然DeepMind不受政府審查，但卻以相當透明的方式運作，包括公司主動公開代碼，并且一些研究成果定期在英國《自然》雜志上公布。另一方面，在與谷歌簽訂并購協(xié)議時，雙方就明確承諾禁止將人工智能技術用于軍事或情報；與此同時，哈薩比斯和他的同事們多次推動召開業(yè)內國際會議，發(fā)起倡議將智能技術用于善舉、杜絕潛在危險。另外，DeepMind已經成立了內部的道德委員會和顧問委員會，這些委員會的成員來自多個科學和哲學領域，他們將監(jiān)督通用人工智能技術未來的應用。

正如飛機并不是飛鳥，潛水艇并非游魚一樣，“阿爾法狗”也并非簡單的“肉身拷貝”，而是另一種獨立發(fā)展出來的心智，而當這種心智產生改變甚至顛覆世界的力量時，作為星球今日主人的人類不可能無動于衷，甚至產生些許的驚恐與慌張也屬完全正常。不過，經歷了互聯(lián)網(wǎng)沖擊與改變的人類真的沒必要對人工智能作出過度悲觀地解讀，相反應當看到其必然帶來的積極影響力。就像互聯(lián)網(wǎng)構建起了人與人之間的全新溝通方式一樣，人工智能則創(chuàng)造了人與物之間的嶄新交流渠道，對于社會經濟而言，人工智能將使得經濟成長的傳統(tǒng)路徑得到進一步的改寫，商業(yè)經濟的成本得到更寬幅地削減，新經濟的因子得到更快速地激活，整個社會的財富價值得以更順暢地疊加。

我們還想特別指出，即便是人工智能真的發(fā)展到威脅人類的那一天，人類也依然還是掌控著保護自己的鑰匙，那就是切斷電源，讓“阿爾法狗”們失去生物能力。不過，在我們拔掉了插頭的同時，實際上就拔掉了人類文明的引擎，進而關閉了通向光明未來的通道，這種結果顯然不是人類所愿意看到的。因此，控制與切斷未來人工智能電源，與其讓人類面對道德倫理風險，還不如像哈薩比斯所說的那樣：人類必須制定有價值的目標與規(guī)則，并在此基礎上切實地執(zhí)行與堅守。