《紐約客》雜志2018年5月14日號(hào)

1似人非人，你怕不怕

這篇《紐約客》的長(zhǎng)文再次探究人工智能對(duì)人類社會(huì)的潛在影響和深遠(yuǎn)意義，它引述了大量科技界人士的研究和觀點(diǎn)，頗具深度，同時(shí)結(jié)合科幻小說和影視作品來解讀人工智能，不乏趣味，又充滿著浪漫的人文氣息。

一直以來，許多科學(xué)家和有識(shí)之士，包括蓋茨、馬斯克和霍金等，不斷發(fā)出警告稱，一旦人工智能進(jìn)化到所謂的通用型即AGI的階段，它的智能程度遠(yuǎn)超人類，世界末日就可能隨之而來。當(dāng)人工智能進(jìn)化到創(chuàng)造它的人類難以理解的階段，它好像具有了直覺和創(chuàng)造力，這時(shí)人類有種背后發(fā)涼的感覺，它可能是人類最后的發(fā)明。

本文指出，AGI離我們還有一段距離，專家們?cè)谧钚抡{(diào)查中預(yù)計(jì)它們到來的時(shí)間點(diǎn)是2047年，它將為人類解決一大堆難題，但也會(huì)帶來種種風(fēng)險(xiǎn)。像所有技術(shù)一樣，一旦人類失去對(duì)它的控制，就可能帶來災(zāi)難，比如，火，電力，汽車，核電站，當(dāng)然，也包括人工智能。奇怪的是，科幻小說的作者們并沒有預(yù)見到AGI會(huì)給人類帶來滅頂之災(zāi)，人類似乎并不擔(dān)心這個(gè)問題。有些人認(rèn)為，人類的智力與人工智能各有所長(zhǎng)，可以是互補(bǔ)的，人類在AI的協(xié)助下，不會(huì)失去工作，只會(huì)更好地發(fā)揮所長(zhǎng)。另一方面，機(jī)器也會(huì)渴望更像是人類，至少在影視作品中是這樣，它們會(huì)有人類那樣的意識(shí)，讓人類難以分辨。

本文提到，AGI系統(tǒng)要想達(dá)成我們指定的目標(biāo)就需要掌控全局，因此，它的真正危險(xiǎn)，也許不是來源于惡意或者它出現(xiàn)自我意識(shí)，而恰恰是它的自主，這時(shí)人類的處境就好比是小孩子玩炸彈，失去了控制它的能力。那么，該怎么辦呢？是給AGI注入價(jià)值觀，還是尊重AGI，讓它自己來解決這個(gè)難題。本文認(rèn)為，這個(gè)問題的回答很可能與人類如何看待自己有關(guān)。因此，思考人工智能，可以幫助我們更好地認(rèn)識(shí)人性，不管是好的還是不好的方面。

《大西洋月刊》2018年6月號(hào)

2人工智能，是福還是禍

近來，人工智能的熱度持續(xù)攀升，領(lǐng)頭羊谷歌公司繼阿法狗在圍棋上將人類挑下馬之后，又推出人工智能個(gè)人助理，它可以替我們打電話訂餐廳，預(yù)約理發(fā)服務(wù)，雖沒有阿法狗那么轟動(dòng)，但還是狠狠地刷了一次屏，因?yàn)樗谷或_過了接電話的服務(wù)員。就在這個(gè)當(dāng)口，美國德高望重的基辛格博士在《大西洋月刊》上發(fā)表了這篇文章，他特別指出，因?yàn)榛ヂ?lián)網(wǎng)，特別是人工智能的影響，人類的歷史正在走向一個(gè)重大的轉(zhuǎn)折點(diǎn)，我們必須為此做好準(zhǔn)備。

基辛格表示，他本人并非技術(shù)專家，但作為一名歷史學(xué)家和一名有實(shí)戰(zhàn)經(jīng)驗(yàn)的政治家，在聽取了許多技術(shù)專家的介紹，他意識(shí)到，互聯(lián)網(wǎng)特別是人工智能的技術(shù)進(jìn)步正在深刻改變著現(xiàn)代人類社會(huì)的歷史進(jìn)程，由啟蒙運(yùn)動(dòng)引領(lǐng)的理性時(shí)代的當(dāng)代世界秩序正處于變動(dòng)之中，未來的世界將依賴數(shù)據(jù)和算法所驅(qū)動(dòng)的機(jī)器。數(shù)據(jù)即意義，人們不再自省，幾乎不過問歷史或哲學(xué)，只要數(shù)據(jù)和算法即時(shí)有用，真理變成相對(duì)的，我們更關(guān)注信息，而不是智慧。

基辛格警告說，人工智能與之前的自動(dòng)化不同，自動(dòng)化只是手段，而人工智能與目的有關(guān)，它會(huì)建立起自己的目標(biāo)，特別是目前想要實(shí)現(xiàn)的可執(zhí)行多種領(lǐng)域任務(wù)的通用型人工智能。人工智能利用數(shù)據(jù)，對(duì)人類未來作出判斷，其結(jié)果有著內(nèi)在的不確定性和模糊性。這樣就產(chǎn)生了一個(gè)悖論：世界變得更透明，但它也變得越來越神秘莫測(cè)?；粮窨偨Y(jié)了三個(gè)方面的隱憂：第一，人工智能可能會(huì)得出人類不愿意看到的結(jié)果；第二，人工智能在達(dá)成既定目標(biāo)中，可能會(huì)改變?nèi)祟惖乃枷脒M(jìn)程和人類的價(jià)值觀；第三，人工智能或許可達(dá)成既定目標(biāo)，但是不能解釋出其結(jié)果背后的道理來。

基辛格認(rèn)為，人工智能的決策和行動(dòng)，有一天會(huì)超出人類的解讀能力，就像阿法狗下出的每一步棋，我們不僅關(guān)心輸贏，我們還關(guān)心背后的思考和意義。開發(fā)設(shè)計(jì)人工智能的科學(xué)家和工程師們追求的是科技和商業(yè)的極致，他們并沒有從人文傳統(tǒng)的視角看這個(gè)問題。因此，人工智能對(duì)人類的認(rèn)知本質(zhì)構(gòu)成威脅，假如我們不趁早準(zhǔn)備應(yīng)對(duì)，未來人類可能會(huì)面臨存在性危機(jī)?；粮裣喈?dāng)肯定地指出，假如政府不盡快行動(dòng)起來，人工智能可能會(huì)終結(jié)人類的歷史。你說，基辛格是不是有點(diǎn)杞人憂天呢？

《科學(xué)美國人》同站2018年5月15日

3自知之明不常有

這篇《科學(xué)美國人》的文章很有意思，它總結(jié)了關(guān)于人們并不了解自己的十件事，引用許多研究說明了我們很可能并不像我們認(rèn)為的那樣理解自己。也許你會(huì)不以為然，還有誰比我自己更了解我？

好吧，下面我們把這十件事逐一做個(gè)簡(jiǎn)單的介紹。第一，你眼中的自己是扭曲的，我們往往認(rèn)識(shí)不到自己的偏見；第二，你完全不明白自己的動(dòng)機(jī)，人們的潛意識(shí)藏得很深；第三，外在表現(xiàn)說明了你的許多，因此，我們最親近的人往往看我們更準(zhǔn)確，特別是那些突出反映在行為當(dāng)中的性格特征；第四，離自己遠(yuǎn)一點(diǎn)看自己更清楚，我們通過獨(dú)處或冥想，讓潛意識(shí)與目標(biāo)趨于一致，可提升幸福感；第五，我們經(jīng)常高估自己，人們?cè)綗o能，就越難意識(shí)到自己的無能，這就是Dunning Kruger效應(yīng)；第六，看不起自己的人更經(jīng)常有挫敗感，這與前一條并不矛盾，二者都很常見；第七，你自欺欺人卻不自知；第八，“真我”體現(xiàn)了你相對(duì)穩(wěn)定的道德觀；第九，沒有安全感的人往往行為更端正，心理學(xué)家Drazen Prelec提出了給自己發(fā)信號(hào)的理論，即我做一件事更多是做給自己看的，而不是證明給別人看的，比如，為什么有人寧愿花幾十萬買真勞力士，而不是花幾千弄一條真假難辨的仿冒品，就可以用這個(gè)理論來解釋；第十，你認(rèn)為自己可以改變，你就可以做到更好，這就是Carol Dweck著名的成長(zhǎng)心態(tài)。

本文最后指出，獲取對(duì)自我的認(rèn)識(shí)比人們想象的更難。當(dāng)代心理學(xué)從根本上質(zhì)疑我們可以客觀地、確定地了解自己，可以明確的是，自我并不是一個(gè)物品，而是對(duì)變化中的環(huán)境不斷適應(yīng)的一個(gè)過程。

（本欄目撰文 劉虎）