蔡書騰

《生命3.0》一書的深度遠(yuǎn)遠(yuǎn)超過(guò)市面上大多數(shù)關(guān)于AI的普及類書籍，其廣度也讓人吃驚，從AI的起源與背后的技術(shù)出發(fā)，一路上探討了諸多將被其深度影響的領(lǐng)域，比如：工作、社會(huì)、戰(zhàn)爭(zhēng)、犯罪等等。

今年8月29日，一本名為《Life 3.0》、直譯過(guò)來(lái)是《生命3.0》，副標(biāo)題是《人工智能時(shí)代的人類》的書，上線僅一天就登上美國(guó)亞馬遜“人工智能和機(jī)器學(xué)習(xí)類”書籍排行版首位。此書的作者叫麥克斯·泰格馬克，是麻省理工學(xué)院物理學(xué)家，也是真正站在AI領(lǐng)域最前沿的研究者之一。太空探索技術(shù)公司（SpaceX）CEO埃隆·馬斯克在其推特上發(fā)文稱：此書值得一讀，人工智能將是人類遇到的最棒或者最糟糕的東西，所以讓我們正確面對(duì)吧！

能夠真正以冷靜客觀、并且站在相當(dāng)?shù)母叨扰c深度來(lái)看待人工智能的人很少，本書作者泰格馬克正是其中一個(gè)?！渡?.0》一書的深度遠(yuǎn)遠(yuǎn)超過(guò)市面上大多數(shù)關(guān)于AI的普及類書籍，其廣度也讓人吃驚，從AI的起源與背后的技術(shù)出發(fā)，一路上探討了諸多將被其深度影響的領(lǐng)域，比如：工作、社會(huì)、戰(zhàn)爭(zhēng)、犯罪等等。

隨便舉舉書里談及的問(wèn)題：在不可避免的自動(dòng)化浪潮中，我們要如何確保人們的工作與收入不會(huì)減少？如何避免智能化軍備競(jìng)賽所帶來(lái)的全球性危機(jī)？我們給下一代的職業(yè)建議應(yīng)該是什么樣的，什么樣的職業(yè)將會(huì)成為下一個(gè)時(shí)代的寵兒？如何保障人工智能的安全性？如何保證AI始終在我們的控制之中，而不是如科幻電影中那樣開(kāi)始與人類對(duì)抗？

在這本書中，泰格馬克從自己的專業(yè)視角，逐個(gè)解答了這些問(wèn)題。這些解答全部都基于他多年的研究心血，并且通過(guò)通俗易懂的語(yǔ)言呈現(xiàn)給了讀者們。該書可能是2017年關(guān)于人工智能話題最為深刻的一本書籍。

生命進(jìn)行最后的升級(jí)：3.0版本

首先解釋一下書名《生命3.0》。泰格馬克認(rèn)為，生命可以分為三個(gè)階段，第一階段稱之為生物演變，以細(xì)菌為代表，在其生命周期內(nèi)無(wú)法重新設(shè)計(jì)它的軟硬件，完全由它的DNA所決定，只有通過(guò)許多代才可能發(fā)生改變；第二階段稱之為文化演變，以人類為代表，能夠在其生命周期內(nèi)重新設(shè)計(jì)它大部分的軟件，比如學(xué)習(xí)語(yǔ)言、運(yùn)動(dòng)、職業(yè)等新的技能，更新世界觀和目標(biāo)，但是基本無(wú)法重新設(shè)計(jì)自己的硬件，只能通過(guò)代際發(fā)生緩慢改變；第三階段稱之為技術(shù)演變，以未來(lái)可能出現(xiàn)的超人工智能為代表，能夠重新設(shè)計(jì)自己的軟件和硬件，完全掌控自己的命運(yùn)。

生命1.0的細(xì)菌能夠通過(guò)傳感器收集周圍環(huán)境的信息，對(duì)信息進(jìn)行處理并決定如何采取相應(yīng)的行動(dòng)。例如，許多細(xì)菌具有測(cè)量周圍液體中糖的濃度的傳感器，并且可以使用螺旋槳結(jié)構(gòu)的鞭毛進(jìn)行游弋。這里頭的算法是：如果我的傳感器報(bào)告說(shuō)，現(xiàn)在的糖濃度比幾秒鐘前的數(shù)值低一些，那么我就反方向轉(zhuǎn)動(dòng)我的螺旋槳游回去。

不過(guò)細(xì)菌并不是一個(gè)好的學(xué)習(xí)者，它不是在誕生之后慢慢學(xué)會(huì)朝著糖分高的水域游過(guò)去，而是從一開(kāi)始就在DNA里編碼了這套算法，而這則是它的老祖宗通過(guò)殘酷的自然選擇遺傳下來(lái)的，那些不這么游的細(xì)菌都滅絕了。再比如說(shuō)，經(jīng)常遇到抗生素的細(xì)菌可能會(huì)在幾代之后發(fā)展出耐藥性，但單個(gè)細(xì)菌在其生命周期內(nèi)根本不會(huì)改變自己的行為；相比之下，一個(gè)女孩知道她有花生過(guò)敏就會(huì)立即改變她的行為，主動(dòng)不吃花生。

生命2.0的人類可能掌握琴棋書畫吹拉彈唱等十八般武藝，但在你剛出生時(shí)，你無(wú)法執(zhí)行任何一項(xiàng)任務(wù)，所有這些軟件都是后來(lái)通過(guò)我們稱之為學(xué)習(xí)的過(guò)程被編入大腦的，也就是說(shuō)，我們擁有重新設(shè)計(jì)自己軟件的能力，這使得我們比生命1.0更聰明、更靈活，適應(yīng)環(huán)境的能力更強(qiáng)。

然而，我們所知道的所有生命形式仍然受到生物硬件的限制，沒(méi)有人能活一百萬(wàn)年，記住所有的維基百科，了解所有已知的科學(xué)或享受沒(méi)有航天器的太空飛行。所有這一切都需要生命進(jìn)行最后的升級(jí)，也就是生命的3.0版本，它不僅可以設(shè)計(jì)其軟件，還可以設(shè)計(jì)其硬件，完全擺脫進(jìn)化的束縛。

生命三個(gè)階段之間的界限有點(diǎn)模糊，比如老鼠可以算作生命1.1，今天的人類應(yīng)該算作生命2.1，因?yàn)槲覀兛梢詧?zhí)行較小的硬件升級(jí)，例如植入人造牙齒、膝蓋和起搏器等。

許多人工智能的研究人員認(rèn)為，生命 3.0可能在本世紀(jì)到來(lái)，這對(duì)我們意味著什么呢？

令人深切擔(dān)憂的無(wú)人操縱武器

首先說(shuō)說(shuō)武器。

到目前為止，除了地雷這樣的低技術(shù)陷阱，世界各地的國(guó)防部門部署的武器系統(tǒng)都有一個(gè)人處在決策環(huán)節(jié)中。但是，目前人類正在開(kāi)發(fā)真正的智能自主武器，能夠完全自主地選擇和攻擊目標(biāo)。從軍事上來(lái)說(shuō)，把人從決策環(huán)節(jié)中拿掉以獲得速度優(yōu)勢(shì)是十分誘人的，比如一架完全自主的無(wú)人飛機(jī)可以立即做出反應(yīng)，而一架由身處地球另一端的人所操控的無(wú)人飛機(jī)則反應(yīng)相對(duì)遲鈍，那么打起來(lái)誰(shuí)會(huì)贏？

但是，我們應(yīng)該慶幸的是，至今為止我們武器系統(tǒng)的決策環(huán)節(jié)都有人的參與。1962年10月27日，在古巴導(dǎo)彈危機(jī)期間，美國(guó)11艘海軍驅(qū)逐艦和航空母艦在古巴附近的海域?qū)⑻K聯(lián)潛艇B-59逼入困境，他們不知道的是，蘇聯(lián)潛艇內(nèi)的溫度升高到了45℃，因?yàn)闈撏У碾姵乜煊霉饬?，所以空調(diào)停止了運(yùn)轉(zhuǎn)。許多船員由于輕度的二氧化碳中毒而暈倒了。船員也已經(jīng)有好幾天失去和莫斯科的聯(lián)系，不知道第三次世界大戰(zhàn)是否已經(jīng)開(kāi)打。隨后，美國(guó)開(kāi)始投放小型的深水炸彈，他們已經(jīng)告知莫斯科這么做只是為了逼迫核潛艇浮出水面并離開(kāi)，但是潛艇上的人可不知道美國(guó)的意圖。一名船員回憶說(shuō)：我感覺(jué)我們就像坐在一個(gè)金屬桶里，而外頭有人拿著一把大錘不停地砸著桶。當(dāng)時(shí)潛艇上有一枚核魚雷，他們有權(quán)在沒(méi)有上報(bào)莫斯科的情況下發(fā)射這枚魚雷。事實(shí)上，船長(zhǎng)已經(jīng)決定發(fā)射。魚雷官也支持這一決定，打算與美軍同歸于盡。幸運(yùn)的是，這個(gè)決定要由潛艇上三名軍官同時(shí)授權(quán)，而正是這第三位軍官——瓦西里·阿爾希波夫（Vasili Arkhipov）說(shuō)了一聲：不。我們得衷心感謝瓦西里，沒(méi)有他的這個(gè)冷靜的決定，也許當(dāng)時(shí)第三次世界大戰(zhàn)就打了起來(lái)，不知又有多少生靈涂炭。假如蘇聯(lián)的B-59是一艘AI控制的自動(dòng)潛艇，沒(méi)有人參與決策環(huán)節(jié)，處在類似的情況里，結(jié)果會(huì)發(fā)生什么呢？endprint

泰格馬克對(duì)自主武器系統(tǒng)有著嚴(yán)重的關(guān)切，尤其擔(dān)心AI武器的軍備競(jìng)賽。2015年7月，他和斯圖爾特一起發(fā)表了一封公開(kāi)信，大體內(nèi)容如下：

自主武器在無(wú)需人為干預(yù)的情況下選擇和完成目標(biāo)，這種武器風(fēng)險(xiǎn)很高，被視為火藥和核武器之后的第三次戰(zhàn)爭(zhēng)革命。對(duì)于自主武器，支持者和反對(duì)者各有理由。比如說(shuō)，用機(jī)器取代士兵，能夠減少己方的傷亡，這是好事；但是這同樣也會(huì)降低戰(zhàn)斗的門檻，這則是壞事。

今天的關(guān)鍵問(wèn)題是要不要防止全球性的AI軍備競(jìng)賽的啟動(dòng)。

與核武器不同，AI武器不需要昂貴或者難以獲得的原材料，所以它們會(huì)很便宜而且無(wú)處不在。這些武器最終落到恐怖分子、獨(dú)裁者以及計(jì)劃實(shí)行種族清洗的軍閥手里只是一個(gè)時(shí)間問(wèn)題。自主武器是執(zhí)行暗殺、破壞國(guó)家穩(wěn)定、鎮(zhèn)壓老百姓以及選擇性地屠殺某個(gè)特定族群的理想工具。我們認(rèn)為，AI軍備競(jìng)賽對(duì)于人類是有害的。

正如大多數(shù)化學(xué)家和生物學(xué)家對(duì)制造化學(xué)或生物武器毫無(wú)興趣一樣，大多數(shù)AI研究人員對(duì)制造AI武器也毫無(wú)興趣，不希望其他人這樣做而玷污了這一領(lǐng)域，尤其是這可能會(huì)造成公眾對(duì)于人工智能的反感。事實(shí)上，化學(xué)家和生物學(xué)家廣泛支持相關(guān)國(guó)際協(xié)定，并由此成功地禁止了生化武器的開(kāi)發(fā)。

泰格馬克起草的這封公開(kāi)信不久就獲得了超過(guò)3000名AI研究人員的簽名，包括來(lái)自谷歌、臉書、微軟以及特斯拉的多位高管。另外17000位非專業(yè)人士也簽了名，包括史蒂芬·霍金。

事實(shí)上，AI軍備競(jìng)賽蓄勢(shì)待發(fā)。2016年，美國(guó)投資到民用AI項(xiàng)目的經(jīng)費(fèi)約為10億美元，而2017年美國(guó)五角大樓計(jì)劃投資于AI有關(guān)的軍事項(xiàng)目的資金就高達(dá)120億-150億美元。其他國(guó)家也摩拳擦掌。是否應(yīng)該有相應(yīng)的禁止性的國(guó)際條約？這個(gè)可能說(shuō)起來(lái)容易做起來(lái)難，比如說(shuō)，條約只是禁止致命性的AI武器，還是將傷害但非致命的武器一并禁止？條約是否適用于所有自主武器系統(tǒng)，還是對(duì)防御性的系統(tǒng)網(wǎng)開(kāi)一面？再者，自主武器的大多數(shù)組成部分都具有民事用途，例如送郵件的無(wú)人機(jī)和運(yùn)炸彈的無(wú)人機(jī)沒(méi)有太大區(qū)別，我們要如何執(zhí)行條約？

一些人認(rèn)為，設(shè)計(jì)一個(gè)有效的AI武器的禁止性條約是幾乎不可能的，所以干脆不搞了。但是泰格馬克引用了肯尼迪在宣布登月任務(wù)時(shí)講的話：艱難的事情也值得一試，因?yàn)橐坏┏晒?duì)人類的未來(lái)十分有利。

在泰格馬克與基辛格的一次交談中，雙方都認(rèn)為從AI軍備競(jìng)賽中獲益最多的不是超級(jí)大國(guó)，而是那些小型的流氓國(guó)家和恐怖分子，他們能夠通過(guò)黑市獲得武器。一旦開(kāi)始大規(guī)模生產(chǎn)AI驅(qū)動(dòng)的小型殺手無(wú)人機(jī)，它的成本可能比智能手機(jī)低得多。無(wú)論是恐怖分子想暗殺一位政治家，或者是一個(gè)瘋子想報(bào)復(fù)他的前女友，他們需要做的就是把目標(biāo)的照片和地址上傳到無(wú)人機(jī)，然后這架無(wú)人機(jī)就會(huì)飛到目的地，識(shí)別并殺害目標(biāo)，然后自我銷毀，使得我們無(wú)從追查操控者。對(duì)于那些計(jì)劃實(shí)行種族清洗的人來(lái)說(shuō)，他們很容易通過(guò)編程使得無(wú)人機(jī)專門殺死具有某種膚色或種族的人。也許未來(lái)一輛卡車就能放出上百萬(wàn)架小如昆蟲的殺手無(wú)人機(jī)?？催^(guò)《黑鏡》這部電視劇的朋友應(yīng)該還記得，其中有一集就為我們展示了這一可怕的場(chǎng)景。

機(jī)器法官、隱私權(quán)和機(jī)器的權(quán)利

接下來(lái)是法律。人類通過(guò)合作的能力成為萬(wàn)物之靈，征服了所有其他物種。我們創(chuàng)造的法律體系也是為了激勵(lì)和促進(jìn)合作。所以如果人工智能能夠改善我們的法律體系，那么我們能比以往任何時(shí)候都更加成功地合作，從中取得更好的成果。

以美國(guó)的法律體系為例，它的缺點(diǎn)是審判時(shí)間漫長(zhǎng)、費(fèi)用高昂以及偶爾出現(xiàn)不公正。一些學(xué)者夢(mèng)想通過(guò)機(jī)器法官來(lái)實(shí)現(xiàn)審判的自動(dòng)化，因?yàn)橐惶追沙绦蚩梢员怀橄蟮匾暈橐环N算法：輸入有關(guān)證據(jù)和法律的信息，輸出一個(gè)判決。而且人工智能沒(méi)有人類法官的常見(jiàn)缺點(diǎn)，比如偏見(jiàn)、疲勞或者缺乏最新的知識(shí)，只會(huì)不知疲倦地地將相同的法律標(biāo)準(zhǔn)應(yīng)用在每一個(gè)判決上，所以，從理論上來(lái)說(shuō)，AI能夠讓審判變得更加高效和公平。

使用機(jī)器法官能夠加快法律程序，增加那些精明的律師歪曲結(jié)果的難度，人們通過(guò)法庭獲得正義的成本將會(huì)急劇降低。因此，窮人或初創(chuàng)公司在和那些擁有豪華律師團(tuán)隊(duì)的富人或跨國(guó)公司展開(kāi)訴訟時(shí)，獲勝的概率會(huì)大大提高。

但是，機(jī)器法官的采用也會(huì)面臨以下幾個(gè)問(wèn)題：第一，如果機(jī)器法官有bug或者遭到黑客攻擊呢？第二，即使AI足夠強(qiáng)大，能夠抵御住各種網(wǎng)絡(luò)攻擊，但是每個(gè)人都能理解它的邏輯推理、對(duì)它的判決感到服氣嗎？神經(jīng)網(wǎng)絡(luò)的大行其道使得這一挑戰(zhàn)更加嚴(yán)重，因?yàn)榛谏窠?jīng)網(wǎng)絡(luò)的算法不像傳統(tǒng)AI算法那么易于理解。如果被告人想知道他為什么被定罪，也許機(jī)器法官的設(shè)計(jì)者只能給對(duì)方如下理由：我們使用大量數(shù)據(jù)對(duì)系統(tǒng)進(jìn)行訓(xùn)練，而這就是它所給出的答案。這肯定不能讓人滿意。第三，最近的研究表明，如果你用大量的囚犯數(shù)據(jù)去訓(xùn)練一個(gè)人工智能系統(tǒng)，那么它可以比人類法官更準(zhǔn)確地預(yù)測(cè)誰(shuí)的再犯率更高，所以不得假釋。但是，如果這個(gè)系統(tǒng)發(fā)現(xiàn)再犯率與囚犯的性別或種族有統(tǒng)計(jì)學(xué)上的關(guān)系，那么它會(huì)不會(huì)被視為一個(gè)抱有性別歧視或種族歧視的機(jī)器法官？

這些都是我們需要思考和討論的重要問(wèn)題，這事關(guān)我們將以何種程度和效率在我們的法律體系里部署人工智能。

談完了人工智能在法律體系里的應(yīng)用問(wèn)題，再來(lái)看看法律的內(nèi)容問(wèn)題。

由于技術(shù)進(jìn)步的步伐似乎在加快，法律已經(jīng)有落后的傾向。對(duì)于一個(gè)社會(huì)來(lái)說(shuō)，讓更多技術(shù)精湛的人才進(jìn)入法學(xué)院和政府可能是一個(gè)明智的舉動(dòng)。

如何調(diào)整我們的法律以適應(yīng)人工智能的進(jìn)步是一個(gè)引人入勝的爭(zhēng)議性話題，其中第一個(gè)重要爭(zhēng)議在于隱私與信息自由之間的矛盾。

支持信息自由的人認(rèn)為，我們擁有的隱私越少，法庭所擁有的證據(jù)就越多，判斷就越公平。例如，假如政府能夠查看每個(gè)人的電子設(shè)備和記錄，許多罪行將水落石出，還可以防止即將發(fā)生的犯罪行徑。支持隱私權(quán)的人則反駁說(shuō)，他們不想要出現(xiàn)奧威爾小說(shuō)里那種一直有雙老大哥的眼睛盯著你的監(jiān)視狀態(tài)，如果真的這么做，很有可能出現(xiàn)登峰造極的極權(quán)專制體制。endprint

此外，機(jī)器學(xué)習(xí)技術(shù)已經(jīng)十分擅長(zhǎng)分析來(lái)自功能磁共振成像掃描儀的大腦數(shù)據(jù)，能夠識(shí)別一個(gè)人正在想什么，特別是判斷他說(shuō)的是實(shí)話還是謊言。如果AI腦掃描技術(shù)在法庭上變得司空見(jiàn)慣，那么目前確定案件事實(shí)的冗長(zhǎng)的過(guò)程可能會(huì)大大簡(jiǎn)化和加速，從而加快審判，作出更公正的判決。

隱私權(quán)的捍衛(wèi)者則擔(dān)心這樣的系統(tǒng)是否偶爾會(huì)犯錯(cuò)，更重要的是，是否應(yīng)該限制政府對(duì)我們頭腦的窺探。極權(quán)政府可以利用這種技術(shù)將某些信仰和意見(jiàn)定為犯罪。你會(huì)如何在公正和隱私之間劃出一條分界線？你覺(jué)得應(yīng)該如何平衡保護(hù)社會(huì)和保護(hù)個(gè)人自由之間的關(guān)系？

第二個(gè)引人注目的爭(zhēng)議是，人工智能研究是否應(yīng)該受到監(jiān)管。一些人工智能的研究人員反對(duì)對(duì)AI研發(fā)的所有形式的監(jiān)管。而在波多黎各會(huì)議上，埃隆馬斯克認(rèn)為，我們現(xiàn)在從政府那里所要得到的不是監(jiān)督，而是洞察力：具體來(lái)說(shuō)，技術(shù)上具備能力的政府人員可以監(jiān)督人工智能的發(fā)展，并且在必要的時(shí)候進(jìn)行引導(dǎo)。他還認(rèn)為，政府監(jiān)督有時(shí)也可以是一種培育而不是扼殺進(jìn)步：比如說(shuō)，如果政府出臺(tái)的自動(dòng)駕駛汽車的安全標(biāo)準(zhǔn)能夠減少事故數(shù)量，那么公眾對(duì)于自動(dòng)駕駛汽車的排斥程度就會(huì)降低，新技術(shù)的采用也可以加快。

第三個(gè)有趣的法律爭(zhēng)議涉及授予機(jī)器的權(quán)利。如果自動(dòng)駕駛汽車的普及使得美國(guó)交通事故死亡人數(shù)從32000名減少到16000名，那么汽車制造商不可能收到16000份感謝信，而是會(huì)收到16000份起訴書。那么，如果一輛自動(dòng)駕駛汽車造成事故，誰(shuí)應(yīng)該承擔(dān)責(zé)任呢？法律學(xué)者大衛(wèi)·弗拉德克給出的答案是：汽車本身！具體來(lái)說(shuō)，他建議允許并要求每一臺(tái)自動(dòng)駕駛汽車持有汽車保險(xiǎn)。這樣，具有完整的安全記錄的車型只需繳納非常低的保費(fèi)，而來(lái)自馬虎的制造商的車型將繳納高昂的保險(xiǎn)費(fèi)。那么如果允許汽車等機(jī)器持有保險(xiǎn)，它們還應(yīng)該擁有自己的財(cái)產(chǎn)嗎？它可以在股市上賺錢、雇人幫它干活嗎？民主國(guó)家是否要授予這些機(jī)器投票權(quán)？這些都是有趣且值得探討的問(wèn)題。

AI時(shí)代

我們?nèi)祟惖氖杖牒凸ぷ?/h3>

最后是我們的收入和工作。我們都知道，古代的雅典公民生活很悠閑，他們把大把時(shí)間花在辯論、民主投票、藝術(shù)以及游戲上，這主要是因?yàn)橛信`幫他們做了很多工作。那么我們未來(lái)有沒(méi)有可能用人工智能代替奴隸，創(chuàng)造出一個(gè)現(xiàn)代化的數(shù)字雅典呢？

假如我們每個(gè)人的時(shí)薪逐年增長(zhǎng)，那么我們就可以逐步進(jìn)入到數(shù)字雅典時(shí)代，那些喜歡閑暇的人就能夠逐漸減少工作量，不斷提高生活水平。這正是美國(guó)從二戰(zhàn)結(jié)束到70年代中期所發(fā)生的事情。但是，此后的故事悄然發(fā)生變化。最近這40年來(lái)，盡管經(jīng)濟(jì)不斷發(fā)展，人均收入也不斷增加，但是新增的蛋糕幾乎全部掉進(jìn)最富有的1%的人的口袋，最貧窮的90%的人處于收入停滯狀態(tài)。如果我們從財(cái)富而非收入的角度來(lái)看，貧富分化更加嚴(yán)重。對(duì)于90%的美國(guó)底層家庭，2012年的平均財(cái)富與二十五年前一模一樣；而同一時(shí)間段內(nèi)，最富有的1%的人的財(cái)富則翻了一番。全球的貧富分化情況更加嚴(yán)重，2013年最有錢的8個(gè)人的財(cái)產(chǎn)加起來(lái)就相當(dāng)于最窮的36億人的總財(cái)產(chǎn)。

麻省理工學(xué)院經(jīng)濟(jì)學(xué)家埃里克·布林約爾松（Erik Brynjolfsson）和安德魯·邁克菲（Andrew McAfee）認(rèn)為，造成收入不平等的原因既不是全球化也不是什么富人的減稅政策，主要的原因是技術(shù)。具體來(lái)說(shuō)，他們認(rèn)為數(shù)字技術(shù)以三種不同的方式推動(dòng)了不平等。

首先，新的工作要求更多的技能，那些受過(guò)教育的人得到更高的回報(bào)：自20世紀(jì)70年代中期以來(lái)，大學(xué)畢業(yè)的人薪水平均上漲了25%，而那些高中就輟學(xué)的人薪水減少了30%。

其次，自2000年以來(lái)，企業(yè)利潤(rùn)中越來(lái)越高的比例流入了公司的所有者而不是打工者，而只要自動(dòng)化的過(guò)程持續(xù)，那么這些擁有機(jī)器的人會(huì)占有更高比例的蛋糕。舉個(gè)例子，1990年底特律的三大公司，也就是通用汽車、福特和克萊斯勒的總收入與2014年硅谷的三大公司也就是谷歌、蘋果以及臉書一樣，但后者的員工數(shù)量是前者的1/9，股價(jià)是前者的30倍，這也意味著更多的收入流入投資者而不是工人的腰包。

第三，數(shù)字經(jīng)濟(jì)導(dǎo)致贏家通吃，超級(jí)巨星的收入遠(yuǎn)高于其他人?！豆ㄌ亍返淖髡逬. K.羅琳成為第一個(gè)加入億萬(wàn)富翁俱樂(lè)部的作家，她比莎士比亞富有得多，因?yàn)樗墓适乱詷O低的成本、通過(guò)文字、電影以及游戲的形式傳送給數(shù)十億人。市場(chǎng)上只會(huì)誕生少量的超級(jí)巨星，這也意味著，如果世界各地的家長(zhǎng)都建議他們的孩子成為下一個(gè)J.K羅琳、馬特達(dá)蒙、C羅、奧普拉或者馬斯克，那么幾乎沒(méi)有一個(gè)孩子會(huì)發(fā)現(xiàn)這是一個(gè)可行的職業(yè)策略。

那么我們應(yīng)該給自己的孩子什么靠譜的職業(yè)建議呢？這幾個(gè)問(wèn)題很有用。這份職業(yè)是否需要與人打交道并且使用社交智慧？這份職業(yè)是否需要?jiǎng)?chuàng)造力，并且提出聰明的解決方案？這份職業(yè)是否需要在不可預(yù)測(cè)的環(huán)境中工作？如果這幾個(gè)問(wèn)題的答案都是yes，那么你所提供的這個(gè)職業(yè)建議應(yīng)該就比較靠譜。這也意味著，相對(duì)安全的職業(yè)選擇包括教師、護(hù)士、醫(yī)生、牙醫(yī)、科學(xué)家、企業(yè)家、程序員、工程師、律師、社會(huì)工作者、神職人員、藝術(shù)家、理發(fā)師以及按摩治療師等。

相比之下，在可預(yù)測(cè)的環(huán)境中的高度重復(fù)性或按部就班的工作則不可能存在很長(zhǎng)時(shí)間，比如電話銷售員、倉(cāng)庫(kù)工作人員、收銀員，火車司機(jī)、面包師以及廚房生產(chǎn)線上的廚師。司機(jī)這一職業(yè)也面臨機(jī)器的取代。還有更多的職業(yè)，比如律師助理、信貸分析師、貸款人員，簿記員以及稅務(wù)會(huì)計(jì)師，雖然不在瀕臨滅絕的名單上，但他們的大部分任務(wù)都是可以自動(dòng)化的，因此這類職業(yè)的用工需求會(huì)大大縮減。

但是，自動(dòng)化并不是技術(shù)所帶來(lái)的唯一的職業(yè)挑戰(zhàn)。在這個(gè)全球數(shù)字時(shí)代，旨在成為專業(yè)作家、導(dǎo)演、演員、運(yùn)動(dòng)員或者時(shí)尚設(shè)計(jì)師會(huì)面臨來(lái)自全球范圍的激烈競(jìng)爭(zhēng)，只有很少的人能夠成功。

需要補(bǔ)充的一點(diǎn)是，對(duì)某個(gè)職業(yè)領(lǐng)域是否會(huì)被機(jī)器替代不能一概而論，可能只是部分任務(wù)被替代，比如說(shuō)，如果你進(jìn)入醫(yī)學(xué)領(lǐng)域，不要花太多時(shí)間分析醫(yī)學(xué)圖像，而要學(xué)會(huì)訂購(gòu)放射學(xué)分析、與患者討論結(jié)果并制定治療方案，因?yàn)榍耙粋€(gè)任務(wù)可能會(huì)被IBM的沃森所替代；如果你進(jìn)入財(cái)務(wù)領(lǐng)域，不要變成為一個(gè)沉迷于對(duì)數(shù)據(jù)應(yīng)用算法的“寬客”，而要學(xué)會(huì)成為使用定量分析結(jié)果做出戰(zhàn)略投資決策的基金經(jīng)理；如果你進(jìn)入法律領(lǐng)域，不要安于做一個(gè)負(fù)責(zé)審閱文件的律師助理，而要學(xué)會(huì)向客戶提供咨詢意見(jiàn)并將案件提交法庭審理。endprint

上面是就個(gè)人而言的，而在政府層面，許多政策可能會(huì)有所幫助，比如對(duì)研究、教育、基礎(chǔ)設(shè)施進(jìn)行大量投資，促進(jìn)移民以及激發(fā)創(chuàng)業(yè)精神等。

那么，假如AI持續(xù)改進(jìn)，更多的工作被機(jī)器替代，人類未來(lái)會(huì)集體失業(yè)嗎？泰格馬克在此書里也逐一列舉了樂(lè)觀派和悲觀派的論據(jù)，值得一提的是，針對(duì)樂(lè)觀派所預(yù)想的未來(lái)會(huì)出現(xiàn)大批新的工作，悲觀派的反駁似乎更有力。我們剛剛經(jīng)歷過(guò)計(jì)算機(jī)為代表的信息革命，那么有多少職業(yè)是新出現(xiàn)的呢？在今天的美國(guó)，按照就業(yè)崗位的數(shù)量排列，前20大職業(yè)都是一個(gè)世紀(jì)前就已經(jīng)存在的，排在第二十一位的職業(yè)軟件開(kāi)發(fā)商僅占不到1%的就業(yè)人口。

現(xiàn)在人類所面臨的就業(yè)情況就如同海面上的島嶼，代表人工智能水平的海平面正在逐步上升，淹沒(méi)了越來(lái)越多的島嶼，我們并未發(fā)現(xiàn)全新的島嶼，而是不得不擠進(jìn)那些尚未被技術(shù)潮流所淹沒(méi)的小島。悲觀派認(rèn)為，結(jié)局是顯而易見(jiàn)的：整個(gè)群島將被淹沒(méi)，人類最終會(huì)集體失業(yè)。

泰格馬克認(rèn)為，短期來(lái)看樂(lè)觀派可能是對(duì)的，但長(zhǎng)期來(lái)看悲觀派則可能更接近事實(shí)。但另一方面，集體失業(yè)也未必是壞事！工業(yè)革命期間，勒德分子癡迷于特定的工作，忽視了其他工作可能提供相同社會(huì)價(jià)值的可能性。類似地，也許今天那些癡迷于工作的人太狹隘了：我們希望得到工作，是因?yàn)樗梢詾槲覀兲峁┦杖牒湍康母?，但也許可以找到一套替代方案，在無(wú)需工作的情況下獲得收入和目的感。

減少貧富分化除了有道德上的考量，它還能夠使民主機(jī)制更好地運(yùn)轉(zhuǎn)：當(dāng)存在一個(gè)受過(guò)良好教育的龐大的中產(chǎn)階級(jí)時(shí)，政客很難操縱選民，這樣一種民主反過(guò)來(lái)可以使一個(gè)經(jīng)濟(jì)體更少腐敗、更有效率以及獲得更快的增長(zhǎng)，最終使每個(gè)人都受益。

再來(lái)看目的感的問(wèn)題。工作能夠給予人們的不僅是錢。根據(jù)積極心理學(xué)的研究，有一系列的因素能夠提高人們的幸福感和目的感，而一些工作能夠提供這些因素，例如：朋友和同事的社交網(wǎng)絡(luò)；健康和道德的生活方式；做一件自己擅長(zhǎng)的事情時(shí)所產(chǎn)生的尊重、自尊、自我效能感和愉悅的心流；被需要和有所作為的感覺(jué)；因?yàn)榉?wù)于某種大于自己的事物所獲得的意義感。我們可以對(duì)這一發(fā)現(xiàn)感到高興，因?yàn)樗羞@些因素都能在工作場(chǎng)所之外找到落腳點(diǎn)，比如通過(guò)運(yùn)動(dòng)、愛(ài)好、學(xué)習(xí)，以及和家人、朋友、團(tuán)隊(duì)、俱樂(lè)部、社區(qū)團(tuán)體、學(xué)校、宗教、人文組織以及政治運(yùn)動(dòng)以及其他機(jī)構(gòu)所獲得。

因此，要?jiǎng)?chuàng)造一個(gè)蓬勃發(fā)展而不是退化為自我毀滅行為的低就業(yè)社會(huì)我們需要了解如何幫助這種催生幸福的活動(dòng)蓬勃發(fā)展。對(duì)它們的理解不僅關(guān)乎科學(xué)家和經(jīng)濟(jì)學(xué)家，也需要心理學(xué)家、社會(huì)學(xué)家以及教育者的參與。如果我們努力地為所有人創(chuàng)造福祉，所需財(cái)富通過(guò)AI來(lái)獲得，那么未來(lái)的社會(huì)應(yīng)該能夠像以前一樣蓬勃發(fā)展。

不同流派對(duì)人工智能的看法

假如以超人工智能為代表生命3.0真的會(huì)出現(xiàn)，對(duì)人類來(lái)說(shuō)是一件好事嗎？對(duì)待這個(gè)問(wèn)題有四大流派，第一派被統(tǒng)稱為勒德分子，最早是指英國(guó)工業(yè)革命時(shí)期因?yàn)闄C(jī)器代替了人力而失業(yè)的技術(shù)工人，現(xiàn)在引申為反對(duì)發(fā)展人工智能的人，這一派當(dāng)然非常懼怕超人工智能的出現(xiàn)。第二派是以拉里佩奇、庫(kù)茲韋爾為代表的數(shù)字烏托邦主義者，他們認(rèn)為人類很有可能在21世紀(jì)發(fā)展出超人工智能，而且他們衷心歡迎這一步的到來(lái)。第三派則是以百度前首席科學(xué)家吳恩達(dá)為代表的技術(shù)懷疑論者，他最著名的話是：擔(dān)心殺手機(jī)器人的興起就像擔(dān)心火星人口過(guò)多。第四派中有好幾位都是大名鼎鼎的人物，比如比爾·蓋茨、霍金、埃隆馬斯克，這一派被稱之為“益智運(yùn)動(dòng)派”，他們支持推動(dòng)有益的人工智能發(fā)展，關(guān)注人工智能的安全問(wèn)題。這一派認(rèn)為，超人工智能是有可能在本世紀(jì)出現(xiàn)的，但它并不保證對(duì)人類有好的結(jié)果，所以現(xiàn)在對(duì)于AI有關(guān)的安全問(wèn)題的研究和討論能夠增加未來(lái)出現(xiàn)良好結(jié)果的概率。

關(guān)于人工智能的常見(jiàn)誤解和困擾

容易混淆的術(shù)語(yǔ)

智能，指的是完成復(fù)雜目標(biāo)的能力。

弱人工智能，指的是實(shí)現(xiàn)一組有限的目標(biāo)的能力，比如下圍棋或者駕駛汽車。

通用智能：指的是有能力達(dá)成幾乎任何目標(biāo)，包括學(xué)習(xí)。

超人工智能，指的是遠(yuǎn)超人類水平的通用智能。

容易產(chǎn)生的誤解

第一個(gè)是關(guān)于時(shí)間表的神話。人類發(fā)展出超人工智能需要多長(zhǎng)時(shí)間呢？ 這個(gè)領(lǐng)域的頂尖專家對(duì)此問(wèn)題分歧極大，所以我們其實(shí)不知道答案。

第二個(gè)誤解是關(guān)于爭(zhēng)議的神話，也就是誤以為AI研究者對(duì)于是否支持人工智能安全研究存在巨大的爭(zhēng)議。比如過(guò)于強(qiáng)調(diào)吳恩達(dá)的火星人口過(guò)剩論。其實(shí)吳恩達(dá)并非不在意人工智能的安全問(wèn)題，只不過(guò)他關(guān)于超人工智能出現(xiàn)的時(shí)間表較長(zhǎng)，所以傾向于優(yōu)先考慮短期內(nèi)的AI挑戰(zhàn)。

第三個(gè)誤解是關(guān)于風(fēng)險(xiǎn)的神話。超人工智能對(duì)人類的影響在于它會(huì)做什么，而不是它意識(shí)到什么。我們真正應(yīng)該擔(dān)心的不是機(jī)器的惡意，而是它的能力。益智運(yùn)動(dòng)就是希望努力避免人類被沒(méi)有惡意但十分強(qiáng)大的超人工智能隨手毀滅。事實(shí)上，只要機(jī)器足夠聰明，它就能夠控制人類，益智運(yùn)動(dòng)主要的關(guān)注點(diǎn)不在于機(jī)器人，而在于智能本身：具體而言，就是與我們的目標(biāo)不符的智能。endprint