Emma+Pierson+陳哲震

柯潔與阿爾法狗的大戰(zhàn)成為這幾天刷屏的事件，馬克·扎克伯格在斯坦福大學的演講也讓他成為了這個世界上最性感的理工男。

這些事件再次印證了，人工智能和計算機算法儼然已經(jīng)成為了這個地球上最受人艷羨、人人都想分一杯羹的領域。

計算機算法，這個與人工智能最密切相關的領域，面臨著與人工智能一樣的雙面境遇。一方面，計算機科學至上的觀念在硅谷盛行，作為計算機工程專業(yè)學生的理工男受到社會的瘋狂膜拜，不管是工作面試還是工資對比，理工男顯然要比人文男吃香得多。然而，計算機算法卻在一定程度上加劇了社會差距，沖動的算法甚至還有可能陷社會于不義。

誠然，人工智能、計算機算法是未來發(fā)展的趨勢，但我們真的放心將我們的未來交到現(xiàn)在這群“理工男”手中嗎？現(xiàn)今社會對理工男的膜拜是否真的對這個社會、這個世界的未來有益呢？為了免于未來受其束縛，作為普通人的我們又該做出哪些改變？在人工智能尚未發(fā)展成熟的現(xiàn)在，這些問題值得所有人考慮。

作為一名計算機學科的博士，我酷愛大數(shù)據(jù)。但我并沒有把數(shù)據(jù)看得太過神圣，因為我學到的一切知識，都是通過數(shù)據(jù)而得來的，不管是性，還是莎士比亞。一些把數(shù)學神圣化了的人也因此憤怒反駁過我。

十幾歲的時候，我在斯坦福大學學會了計算機算法，通過這種優(yōu)雅又致命的武器，我可以在互聯(lián)網(wǎng)上找出最危險的通緝犯，也可以透過人們在網(wǎng)上的發(fā)言察覺到他對政府的不滿。

計算機科學的確很奇妙。但問題在于，硅谷的許多人認為計算機科學超越一切。比如招聘會上，那些面試員態(tài)度很鮮明，他們只對計算機科學背景的人感興趣；比如工資對比，計算機工程專業(yè)學生明顯要比其他非工程專業(yè)高出不少；再比如，當人文學科的學生透露自己的專業(yè)時，他們會受到質(zhì)疑與不屑。

我曾見過一些杰出的計算機科學家對自己正在研究的人群表示出可悲的無知，我對他們進行了當面嘲笑。我曾見過一些軍事科學家以孩童般的熱情向人展示自己創(chuàng)新研制的殺傷性武器，卻對這些武器的目標攻擊人群閉口不談。

世界上最恐怖的事情莫過于，科學家可以就如何槍擊同類進行一場學術對話，卻無法給出這樣做的理由。

許多計算機學科專家對非技術性研究方法不甚了解，充滿蔑視，這種狀況令人擔憂。而在我的日常工作中，會不斷遇到代碼無法解決的問題。

在在線教育平臺 Coursera 擔任程序員時，我編寫了一個算法，可以參考用戶性別對其推薦相應課程，但公司并沒有將其投入使用，因為我們發(fā)現(xiàn)，這個算法根本不會向女性用戶推薦計算機科學課程。

事實證明，計算機算法加劇了社會差距，其影響已經(jīng)擴散到包括刑事司法和信用評分在內(nèi)的社會各個領域。這其實是一個兩難困境，拿刑事司法領域來說，一個滿足了基本統(tǒng)計需求的算法，更有可能將黑人被告判為高危罪犯，即使這些黑人不會再犯。

對此問題我表示無能為力，因為我在算法教材里找不到解決辦法。而在塔-內(nèi)西斯·科特斯關于制度歧視或者米歇爾·亞歷山大關于大規(guī)模監(jiān)禁的著作里，我或許會找到相關事實。

我的個人編程項目也出現(xiàn)了同樣棘手的倫理問題。我是否應該編寫一個程序，來下載厭食癥咨詢網(wǎng)站上公布的數(shù)千名患進食障礙的青少年的聯(lián)系方式？又是否應該編寫一個程序，在各大高校的論壇上匿名發(fā)帖，說自己有自殺傾向，來調(diào)查一下哪所高校的師生最支持自殺呢？

順便說一句，我的答案是“不”。計算機的偉大與危險之處都在于，它可以把你的奇思妙想變成現(xiàn)實，并且影響他人。一個沖動的想法經(jīng)過計算機編程后，可能會傷害成千上萬的人。

或許，如果讓計算機科學家負責他們最擅長的編碼，把管控產(chǎn)品的任務交給其他人，辦事效率是不是會更高？事實上，這遠遠不夠。

程序員編程的速度往往十分驚人，而且行業(yè)內(nèi)幕不為外人所知。等到相關法規(guī)出臺時，可能數(shù)百萬人已經(jīng)受到了傷害。在其他專業(yè)領域，人們上崗之前往往要接受道德培訓。部分原因在于，對于像醫(yī)生和律師這樣的職業(yè)來說，職業(yè)道德極其重要，尤其是在無人監(jiān)管的情況之下。

此外，需要有計算機科學家的幫助才能制定相關行業(yè)法規(guī)，因為他們有必要的技術專業(yè)知識。如果你對詞嵌入（word embedding）一竅不通，又如何能規(guī)范詞嵌入領域的算法歧視現(xiàn)象呢？

以下是一些具體做法。

首先，大學應該擴大計算機科學專業(yè)學生的知識培訓范圍。我曾調(diào)查過八所頂尖學府的計算機本科課程體系，發(fā)現(xiàn)大多數(shù)學校并不要求學生學習計算機科學中的倫理與社會問題（盡管有些學校會提供相關選修課程）。

這類課程確實不太好教，計算機科學家們也往往不夠重視。他們不習慣非定向思維，對自己的數(shù)學能力非常自信，并且相信實用主義可以解決一切問題。但無論如何，大學還是要勇于嘗試。

教授需要讓學生對計算機科學充滿敬畏；要讓學生知道，他們掌握的技能不僅可以使自己發(fā)家致富，還會毀滅生命；還要教他們學會謙卑，讓學生明白，數(shù)學能力再優(yōu)秀，大千世界里他們還有很多未知的事情。

通過學習社會類課程，程序員危害社會的可能性會有所降低，而且可能會因此造福社會。算法交易等領域?qū)ι鐣m無大用，但是回報可觀，因此許多頂尖學府在這些領域投入了大量技術型人才進行研究。

斯坦福大學的計算機學科專家吳恩達同時也是 Coursera 的聯(lián)合創(chuàng)始人，他在斯坦福大學招聘時對眾學子勸誡道：“你必須問自己為何要學習計算機科學。很多學生可能會回答，因為我可以設計出最流行的社交媒體應用……而我認為，我們可以創(chuàng)造出意義更大的東西?！?/p>

科技公司也應當采取一些措施。企業(yè)應該反思一下自己產(chǎn)品中的社會和倫理問題。比如，谷歌和微軟研究了算法歧視，F(xiàn)acebook 調(diào)查了回音室效應，這些都值得稱贊。

Facebook 用1010萬用戶行為數(shù)據(jù)解釋“回音室”效應

當外部研究者評估產(chǎn)品影響時，企業(yè)應該積極配合，盡量說明自己的算法工作原理，在數(shù)據(jù)使用協(xié)議允許的范圍內(nèi)適當公布數(shù)據(jù)。（研究人員還應允許在不被起訴的情況下進行算法檢測。）

招聘面試時的問題也不應只局限于計算機算法，還應考察對方的社會倫理知識。同時，學生也應該學會如何應答招聘經(jīng)理的提問（微軟的 CEO 曾在技術采訪中被問到，如果看到一個嬰兒躺在十字路口他會怎么做，而他的答案當然不是常人都能想到的將嬰兒抱起）。

企業(yè)應該雇傭一些被自家產(chǎn)品侵犯過的人群或者非產(chǎn)品目標用戶的人群，他們的臉部可能無法被計算機視覺系統(tǒng)識別，他們的笑容可能無法被 emoji 表情捕捉，他們的簡歷可能跟公司不大相關，他們的住房選擇可能受到了公司政策的限制，他們可能深陷網(wǎng)絡巨魔的圈套（企業(yè)為網(wǎng)絡巨魔提供了平臺，卻沒有加以有效控制）。招聘一些其他領域科學家進公司來，讓他們參加午餐會談，使其對公司原有的世界觀造成沖擊。

傾聽這些非計算機領域科學家的意見，可能會減緩硅谷的發(fā)展腳步，因為不同世界觀的碰撞難免產(chǎn)生分歧。但是，當有人提出理性的反對聲音時，適當放慢腳步只會有益無害。在今天這個數(shù)字戰(zhàn)場會決定總統(tǒng)選舉輸贏的時代里，科技巨頭們需要放緩自己前進的步伐，不忘初心。