Scott+Dadich+李雨蒙

近日，美國總統(tǒng)奧巴馬在白宮接受了麻省理工學(xué)院媒體實(shí)驗(yàn)室主任伊藤穰一的專訪，他們對人工智能、神經(jīng)網(wǎng)絡(luò)以及未來太空探索等話題進(jìn)行了深入探討。本文翻譯整理了本次專訪的精彩內(nèi)容。

伊藤：原本科幻小說的人工智能已經(jīng)成為改變我們生活的現(xiàn)實(shí)，您何時感受到人工智能真的離我們很近的呢？

奧巴馬：總體來看，人工智能已經(jīng)從各個方面滲透進(jìn)我們的生活，只是我們還沒有太注意到，這部分是因?yàn)槲覀兯J(rèn)知的人工智能方式是被大眾文化所粉飾過的。這就是區(qū)別所在。我們通常在科幻小說中所見到的都是普通的人工智能?，F(xiàn)在的電腦已經(jīng)超越人腦變得越來越聰明，最終人類將變得不再全部都有用處，甚至它們正在麻醉我們，讓人類陷入肥胖和愉快或是黑客帝國的世界中。

值得思考的是，這確實(shí)擴(kuò)展了我們的想象力，使人類開始思考選擇和自由意志的問題，實(shí)際上也對發(fā)展專業(yè)人工智能，進(jìn)行精確計(jì)算和解決日益復(fù)雜的工作起到了重要的作用。如今，我們生活中的各個方面都能夠看到專業(yè)人工智能的身影，無論從醫(yī)療、交通到分布式發(fā)電，它都能確保創(chuàng)造更加高效的經(jīng)濟(jì)。如果利用得當(dāng)，它將為世界創(chuàng)造巨大的經(jīng)濟(jì)繁榮和機(jī)遇。但同時接下來我們要談?wù)勅斯ぶ悄懿焕姆矫?，比如加劇不平等、壓低薪酬等等?/p>

伊藤：我認(rèn)為人工智能問題已經(jīng)遠(yuǎn)遠(yuǎn)超出了一個普通電腦的科學(xué)問題。重要的是，每個人都需要了解人工智能的行為方式。在媒體實(shí)驗(yàn)里，我們常用到“擴(kuò)展智能”這一術(shù)語，因?yàn)閱栴}在于我們該如何對人工智能建立社會價(jià)值觀？

奧巴馬：我們用無人駕駛汽車舉例。當(dāng)機(jī)器可以進(jìn)行多項(xiàng)快速決定時，就能夠徹底地降低交通事故，徹底提高交通網(wǎng)絡(luò)效率，有助于解決導(dǎo)致地球溫室效應(yīng)的二氧化碳排放問題。但是，人類將會在無人駕駛汽車上附加怎樣的價(jià)值？接下來我們需要做出一系列的選擇，比如老生常談的問題：汽車自動駕駛，如果你急轉(zhuǎn)彎避免撞到行人，你就會撞墻自殺。這是一個道德決定，而由誰來制定這個規(guī)則？

伊藤：在我們探討人工智能的道德問題時，政府將扮演什么角色？

奧巴馬：在我看來，在人工智能的早期發(fā)展階段，監(jiān)管框架應(yīng)當(dāng)百花齊放。政府要盡量少地進(jìn)行干預(yù)，更多地投資于科研，確?；A(chǔ)研究和應(yīng)用研究之間的轉(zhuǎn)化。隨著技術(shù)的開發(fā)和成熟，我們要考慮如何將其納入現(xiàn)有監(jiān)管框架中。這是個更難的問題，而政府需要更多參與。我們并不總是要讓新技術(shù)去適應(yīng)現(xiàn)存監(jiān)管框架，而是確保監(jiān)管符合更廣泛的價(jià)值。否則我們可能會發(fā)現(xiàn)，某些人群將因此處于不利地位。

伊藤：人工智能發(fā)展出新型軍備競賽的過程中是否存在風(fēng)險(xiǎn)？

奧巴馬：毫無疑問的是，我們需要圍繞著網(wǎng)絡(luò)安全建立國際準(zhǔn)則、協(xié)議和檢驗(yàn)，特別是對初期的人工智能領(lǐng)域。而其中較有趣的問題是攻防之間的界限還比較模糊。而政府之間互相的不信任更加劇了難度。

為什么我們與人工智能愛好者召開多次會議？其中一個原因之前我們并沒有談到過，就是我們真的需要徹底想清楚人工智能帶來的經(jīng)濟(jì)意義。因?yàn)楝F(xiàn)在大多數(shù)人并不會花時間擔(dān)憂那些稀罕物——他們只關(guān)心“機(jī)器會不會取代我的工作？”對此，我還是非常樂觀的，歷史證明，當(dāng)人類吸收新科技時，總能發(fā)現(xiàn)創(chuàng)造出新型的工作，我們生活的總體標(biāo)準(zhǔn)也隨之上升。高技術(shù)人員在這些領(lǐng)域表現(xiàn)出色，通過衡量自身才能，與機(jī)器互動，擴(kuò)展知識范圍、銷售額度以及產(chǎn)品和服務(wù)。低收入、低技能的人群將變得越來越多余，他們的工作或許不會被取代，但是工資會被極大縮減。如果想成功轉(zhuǎn)型過渡，我們必須對如何管理轉(zhuǎn)型進(jìn)行社會性的對話。

實(shí)際上，還沒有直觀感受到哪些工作將被替代。不過我愿意打賭，如果你有一臺懂得醫(yī)療系統(tǒng)的電腦，你將非常擅于診斷病情，所以相對于醫(yī)生，護(hù)士或藥劑師不太可能被替換，因?yàn)樗麄兊墓ぷ鞑⒉皇呛芨咝?。那些專業(yè)技術(shù)較強(qiáng)的工作，比如律師或?qū)徲?jì)員或許會消失。反而許多服務(wù)業(yè)、藝術(shù)和那些計(jì)算機(jī)難以適應(yīng)的職業(yè)將很難被取代。

伊藤：如埃隆。馬斯克、NickBostrom所說，人工智能的潛力已經(jīng)超越了人類對它們的理解能力。當(dāng)我們推動人工智能向前發(fā)展，我們該如何應(yīng)對這樣的擔(dān)憂？

奧巴馬：這不僅僅影響到我們自身，而是全人類的大事。首先，我認(rèn)為更加直觀的是，這在專業(yè)人工智能方面是可解決的問題，當(dāng)然我們必須留心它的動向。如果我們擁有一臺可以下圍棋的電腦，這是蘊(yùn)含千變?nèi)f化的一種游戲。當(dāng)人工智能開發(fā)出一套算法，很可能讓你在紐交所實(shí)現(xiàn)利益最大化。如果一個人或組織首先獲得這種算法，他們就可以迅速地打壓股市，或至少引起金融市場誠信的混亂。

當(dāng)出現(xiàn)一種算法，“圍棋能夠破譯核密碼并且算出如何發(fā)射導(dǎo)彈”，如果這是人工智能唯一的功能，如果它是自學(xué)并且真正高效的運(yùn)算，就會給我們造成極大的麻煩。

伊藤：您是一個《星際迷航》迷。它是如何影響您對未來的想象的呢？

奧巴馬：從小時候開始，我就超級迷這部電影了。那時候覺得太有趣了！我認(rèn)為使這部劇常青的原因不在于技術(shù)，而在于它所傳達(dá)出的價(jià)值觀和人們之間的關(guān)系。它講述的是關(guān)于人性，和我們通過自己的能力解決問題的自信。

探尋如何進(jìn)行下一代的太空旅行是目前我們經(jīng)費(fèi)支持的重要領(lǐng)域。私營的企業(yè)已經(jīng)做了很多很好的工作。在全美將近50個州里，已經(jīng)有超過家企業(yè)正在開展私人太空探索工作。未來，人類將成為太陽系內(nèi)一個“多星球智慧物種”，在各大行星之間建立起類似我們當(dāng)今在地球上的國家體系、貿(mào)易體系和地緣政治格局。在這種太陽系政治的格局建立過程中，遵循的是最原始的“先到先得”的規(guī)則。先出發(fā)的民族將在未來太陽系人類生態(tài)圈中占據(jù)高端的位置。