可以說,人類正在進(jìn)入人工智能(AI)時(shí)代。在人工智能深度學(xué)習(xí)研究領(lǐng)域,有“三駕馬車”和“四大金剛” 之說?!?三駕馬車” 是指杰弗里·辛頓、延恩·勒昆和約書亞·本吉奧; “ 四大金剛” 則是“ 三駕馬車”和吳恩達(dá)。
杰弗里· 辛頓被譽(yù)為“ 人工智能教父” “ 深度學(xué)習(xí)之父” 。他將神經(jīng)網(wǎng)絡(luò)帶入到研究與應(yīng)用的熱潮, 將“ 深度學(xué)習(xí)” 從邊緣課題變成了谷歌等互聯(lián)網(wǎng)巨頭仰賴的核心技術(shù), 使人工智能發(fā)展到今天這般炙手可熱。
杰弗里· 辛頓1947年12月生于英國(guó), 后移居加拿大。他的父親霍華德· 辛頓是英國(guó)著名的昆蟲學(xué)家?;羧A德有一個(gè)堂弟叫威廉· 辛頓, 一個(gè)堂妹叫瓊· 辛頓, 他們另一個(gè)更為中國(guó)人熟悉的名字分別為韓丁和寒春。
杰弗里· 辛頓可以說是家學(xué)淵源:他的曾祖父名叫查爾斯·辛頓,英國(guó)知名數(shù)學(xué)家、早期科普和科幻作者之一;曾祖母叫瑪麗·艾倫,是英國(guó)著名數(shù)學(xué)家、教育家、哲學(xué)家和邏輯學(xué)家喬治·布爾的女兒。
出生在這樣一個(gè)家庭,給辛頓帶來巨大的壓力。讀大學(xué)時(shí),因?yàn)檎也坏饺松较颍?杰弗里· 辛頓跑到倫敦打零工,讀“令人傷感的小說”,畢業(yè)后,他做過一年多木匠。直到25歲時(shí),他才決定研究神經(jīng)網(wǎng)絡(luò), 以期教會(huì)機(jī)器學(xué)習(xí)。這在當(dāng)時(shí)是癡人說夢(mèng),導(dǎo)師每周和他見一次面,每次都告訴他這是在浪費(fèi)時(shí)間。沒人想到辛頓最后會(huì)成功,他成為席卷全球的人工智能革命的核心人物,甚至被譽(yù)為“人工智能教父”。
為了對(duì)神經(jīng)網(wǎng)絡(luò)刨根問底, 杰弗里·辛頓在求學(xué)期間堅(jiān)持開展神經(jīng)網(wǎng)絡(luò)研究。1976年—1978年,他擔(dān)任蘇塞克斯大學(xué)認(rèn)知科學(xué)研究項(xiàng)目研究員,并在1978年獲得了愛丁堡大學(xué)人工智能學(xué)博士學(xué)位。1982年,辛頓轉(zhuǎn)到卡耐基梅隆大學(xué)繼續(xù)做研究。他之后結(jié)了婚,從拉美收養(yǎng)了兩個(gè)孩子。在1980年代,辛頓就已經(jīng)是一位神經(jīng)網(wǎng)絡(luò)專家了。神經(jīng)網(wǎng)絡(luò)是人腦神經(jīng)元和突觸網(wǎng)絡(luò)的一個(gè)簡(jiǎn)化模型。然而,當(dāng)時(shí)科學(xué)界認(rèn)為,把人工智能領(lǐng)域?qū)蛏窠?jīng)網(wǎng)絡(luò)方向是自尋死路。在20世紀(jì)80年代早期,他參與了一個(gè)雄心勃勃的關(guān)于使用計(jì)算機(jī)的軟硬件來模擬大腦的研究,這形成了早期的人工智能技術(shù)研究分支,也就是我們現(xiàn)在所知的“深度學(xué)習(xí)”。
1986年, 杰弗里· 辛頓和同事大衛(wèi)·魯姆哈特、羅納德·威廉姆斯一起發(fā)表了一篇突破性的論文,詳細(xì)介紹了一種叫作“反向傳播”的技術(shù)。通過推導(dǎo)人工神經(jīng)網(wǎng)絡(luò)的計(jì)算方式,反向傳播可以糾正很多深度學(xué)習(xí)模型在訓(xùn)練時(shí)產(chǎn)生的計(jì)算錯(cuò)誤。
這帶動(dòng)了人工智能在20世紀(jì)80年代末、90年代初的短暫復(fù)興,但很快,因?yàn)樽R(shí)別圖片和文字準(zhǔn)確率極低,神經(jīng)網(wǎng)絡(luò)又被棄置,“人工智能寒冬”再次到來。
在他的研究陷入泥沼時(shí),生活也瀕臨崩潰。1993年,辛頓第二任妻子羅莎德琳因癌癥去世,留下他和兩個(gè)孩子。整天待在實(shí)驗(yàn)室的辛頓被迫要學(xué)會(huì)照看孩子。他的兒子患有注意力缺陷多動(dòng)癥和其他學(xué)習(xí)障礙,辛頓必須每天下午6點(diǎn)前回家?!拔?6歲時(shí)就死在水里了?!?辛頓說, 自己當(dāng)時(shí)覺得,到死都不會(huì)看到項(xiàng)目有所突破,可能至少要等到自己死后100年才能有所進(jìn)展。
直到2009年, 在“ 水下” 掙扎了16年后,辛頓驚訝地發(fā)現(xiàn)英偉達(dá)的GPU芯片特別適合運(yùn)行神經(jīng)網(wǎng)絡(luò)。他在一次學(xué)術(shù)會(huì)議上給上千名同事做了推薦,并給英偉達(dá)發(fā)了一封郵件,提到這一點(diǎn)并詢問對(duì)方能否免費(fèi)送一塊GPU芯片給他做研究。然而,這封信石沉大海。直到2012年,一切才被改變。
2012年,計(jì)算機(jī)硬件的性能大幅提高,計(jì)算資源也越來越多,他的理論終于能在實(shí)踐中充分發(fā)展。他帶領(lǐng)兩個(gè)學(xué)生利用卷積神經(jīng)網(wǎng)絡(luò) (CNN) 參加了名為“圖像網(wǎng)絡(luò)大規(guī)模視覺識(shí)別挑戰(zhàn)” 的比賽。比賽的其中一項(xiàng)是, 讓機(jī)器辨認(rèn)每張圖像中的狗是什么類型,從而對(duì)100多種狗進(jìn)行分類。在比賽中,杰弗里·辛頓帶著他的學(xué)生以16%的錯(cuò)誤率獲勝——這個(gè)錯(cuò)誤率甚至低于人眼識(shí)別的錯(cuò)誤率18%,并且遠(yuǎn)低于前一年 25%的獲勝成績(jī),這讓人們見識(shí)了深度學(xué)習(xí)的潛力。從此,深度學(xué)習(xí)一炮而紅。
2013年, 在吳恩達(dá)的牽頭下, 杰弗里·辛頓與其他多倫多大學(xué)的研究人員加盟了谷歌。當(dāng)時(shí)谷歌正在用神經(jīng)網(wǎng)絡(luò)來幫助識(shí)別安卓手機(jī)上的語音命令和谷歌+網(wǎng)絡(luò)上標(biāo)記的圖像。辛頓加盟谷歌的原因之一就是能借力谷歌的優(yōu)勢(shì)資源把深度學(xué)習(xí)研究做進(jìn)一步推進(jìn)。后來一直跟隨杰弗里·辛頓的學(xué)生也都成了人工智能領(lǐng)域炙手可熱的人物。
46歲就“死在水里”的辛頓,于人工智能的新紀(jì)元“復(fù)活”。2018年,辛頓和學(xué)生楊立昆以及另一位人工智能學(xué)者約書亞·本希奧共同獲得圖靈獎(jiǎng),這是計(jì)算機(jī)領(lǐng)域的最高獎(jiǎng)。在整個(gè)計(jì)算機(jī)領(lǐng)域,辛頓成了論文引用量最高的學(xué)者,他同時(shí)是心理學(xué)領(lǐng)域論文引用量全球第二的人。
2023年, 辛頓從谷歌辭職。除了年齡的原因,還有他對(duì)人工智能的警覺?!叭绻阆M粋€(gè)系統(tǒng)有效,你需要賦予它創(chuàng)建自己子目標(biāo)的能力?!?辛頓說,“現(xiàn)在的問題是,有一個(gè)非常普遍的子目標(biāo)可以幫助實(shí)現(xiàn)幾乎所有目標(biāo)——獲得更多控制權(quán)。問題是如何阻止它們想要控制?沒有人知道答案?!崩潇o、謙遜與智慧,這大概就是人工智能教父讓人折服的風(fēng)范。( 綜合整理報(bào)道)( 策劃/黃李玲)