国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

開(kāi)啟數(shù)字信息時(shí)代的香農(nóng)

2016-05-30 02:55王善平
科學(xué) 2016年3期
關(guān)鍵詞:香農(nóng)密碼學(xué)二進(jìn)制

王善平

香農(nóng)發(fā)現(xiàn)了布爾代數(shù)與開(kāi)關(guān)電路的等價(jià)性,為制造數(shù)字式電子計(jì)算機(jī)奠定技術(shù)基礎(chǔ);他創(chuàng)立的信息論,揭示了信息與熵之間的深刻聯(lián)系,并開(kāi)啟令人眼花繚亂的數(shù)字化信息時(shí)代:他在密碼學(xué)領(lǐng)域也做出了開(kāi)創(chuàng)性的貢獻(xiàn)。家庭背景與早期生活

香農(nóng)(Claude Elwood Shannon,1916年4月30日-2001年2月24日)出生在美國(guó)密歇根州的佩托斯基(Petoskey)鎮(zhèn),但在附近的蓋洛德(Gaylord)鎮(zhèn)上長(zhǎng)大。香農(nóng)的祖父是農(nóng)民,也是發(fā)明家,發(fā)明了洗衣機(jī)和不少農(nóng)具;父親是商人,也做過(guò)蓋洛德小鎮(zhèn)上的法官,雖然不是數(shù)學(xué)家,但懂得不少數(shù)學(xué)。母親是德國(guó)移民的女兒,在鎮(zhèn)上一所中學(xué)里做語(yǔ)文教師,還當(dāng)了幾年校長(zhǎng)。香農(nóng)有一個(gè)比他大4歲的姐姐,是密歇根大學(xué)數(shù)學(xué)系的碩士,后來(lái)成為某學(xué)院的數(shù)學(xué)教師。香農(nóng)小時(shí)候喜歡機(jī)械和電子,制作過(guò)模型飛機(jī)和遙控小船,甚至做了一套能工作的收發(fā)報(bào)機(jī)。他還喜歡解姐姐給他做的各種數(shù)學(xué)題,他在學(xué)校里成績(jī)最好的科目是理科和數(shù)學(xué)。讀書空余時(shí)間,他靠送電報(bào)和修收音機(jī)賺零花錢。

1932年從母親的中學(xué)畢業(yè)后,香農(nóng)考進(jìn)姐姐曾就讀的密歇根大學(xué),4年后取得電氣工程和數(shù)學(xué)雙學(xué)士學(xué)位。1936年,他來(lái)到麻省理工學(xué)院(MIT),在電氣工程系做助理研究員,同時(shí)跟隨布什(VannevarBush,1890-1974)教授攻讀學(xué)位。

布什被認(rèn)為是美國(guó)最杰出的科學(xué)家和工程師之一。他不僅具有非凡的科技創(chuàng)造能力和遠(yuǎn)見(jiàn)卓識(shí),還有著極高的組織才能和領(lǐng)導(dǎo)才能。第二次世界大戰(zhàn)期間,他被羅斯??偨y(tǒng)任命為科學(xué)研究和開(kāi)發(fā)局局長(zhǎng),領(lǐng)導(dǎo)組織約6萬(wàn)名一流科學(xué)家致力于把科學(xué)用于戰(zhàn)爭(zhēng),其巾包括提出和執(zhí)行了導(dǎo)致原子彈試驗(yàn)成功并在Ll本投放的“曼哈頓計(jì)劃”。他也曾指導(dǎo)過(guò)MIT中國(guó)留學(xué)生李郁榮(Yuk-Wing Lee,1904-1989),并于1929年把李郁榮介紹給數(shù)學(xué)家維納(Norbert Wiener,1894-1964)合作研究電路網(wǎng)絡(luò),導(dǎo)致維納后來(lái)創(chuàng)立了控制論。

為制造數(shù)字式計(jì)算機(jī)奠定技術(shù)基礎(chǔ)

香農(nóng)在一開(kāi)始跟著布什研制模擬式計(jì)算機(jī),隨后被送到數(shù)學(xué)系學(xué)習(xí)。兩年后,他以論文“繼電器與開(kāi)關(guān)電路的符號(hào)分析”獲電氣工程碩士學(xué)位。這篇革命性論文獲得由美國(guó)各工程學(xué)會(huì)聯(lián)合資助并由土木工程師學(xué)會(huì)頒發(fā)的著名的“艾爾弗雷德·諾布爾獎(jiǎng)”(Alfred Noble Prize);有人稱贊它“可能是20世紀(jì)最重要和最出名的碩士論文”。

香農(nóng)在論文中首次證明了,“布爾代數(shù)”中關(guān)于“真值函數(shù)”(即只取“真”或“假”兩值之一的函數(shù))的“與”“或”“非”邏輯運(yùn)算,與只有“0”和“1”兩個(gè)數(shù)字符號(hào)的“二進(jìn)制數(shù)”算術(shù)運(yùn)算等價(jià);而且.可以用布爾代數(shù)中的“真”“假”值或二進(jìn)制數(shù)中的“0”“1”數(shù)字,來(lái)表示繼電器或電路的“開(kāi)”“關(guān)”狀態(tài);反過(guò)來(lái),也可以用后者的開(kāi)關(guān)狀態(tài)來(lái)表示真值函數(shù)或二進(jìn)制數(shù)。根據(jù)這一結(jié)果,他成功地運(yùn)用布爾代數(shù)和二進(jìn)制數(shù)運(yùn)算的方法簡(jiǎn)化了繼電器和開(kāi)關(guān)電路系統(tǒng)的設(shè)計(jì)。他還指出,也可以反過(guò)來(lái),用繼電器和開(kāi)關(guān)電路系統(tǒng)來(lái)解決布爾代數(shù)或二進(jìn)制數(shù)運(yùn)算問(wèn)題。香農(nóng)的這些工作開(kāi)創(chuàng)了一個(gè)叫做“數(shù)字電路”(也叫“邏輯電路”或“開(kāi)關(guān)電路”)的新電子技術(shù)領(lǐng)域。該領(lǐng)域是將來(lái)設(shè)計(jì)各種自動(dòng)控制系統(tǒng)和制造數(shù)字式電子計(jì)算機(jī)的技術(shù)基礎(chǔ)。

創(chuàng)立信息論

鑒于香農(nóng)在其碩士論文中運(yùn)用數(shù)學(xué)方法解決電路問(wèn)題取得成功,布什建議他去以研究生命科學(xué)著稱的冷泉港實(shí)驗(yàn)室(Cold Spring Harbor Laboratory),用類似的數(shù)學(xué)方法來(lái)研究孟德?tīng)栠z傳學(xué)。1940年,香農(nóng)以題為“理論遺傳學(xué)代數(shù)”的論文獲得MIT數(shù)學(xué)博士的學(xué)位。他在論文中試圖建立一種描述生物染色體上基因排列和遺傳規(guī)律的代數(shù)方法。

從MIT畢業(yè)后,香農(nóng)隨即以數(shù)學(xué)研究員(research mathematician)的身份加入著名的貝爾實(shí)驗(yàn)室。不久,他獲得國(guó)家研究獎(jiǎng)學(xué)金,來(lái)到普林斯頓高等研究院進(jìn)修一年;他的指導(dǎo)老師是來(lái)自德國(guó)的數(shù)學(xué)家外爾(Hermann Weyl,1885-1955),而實(shí)際上他受來(lái)自匈牙利的數(shù)學(xué)家馮·諾伊曼(John yon Neumann,1903-1957)的影響更大;在此期間,他與愛(ài)因斯坦(Albert Einstein,1879-1955)和哥德?tīng)枺↘urt Friedrich G6del,1906-1978)也有交往。這種自由自在地在跨學(xué)科領(lǐng)域與科學(xué)大師們交流,對(duì)于培養(yǎng)他用數(shù)學(xué)解決實(shí)際問(wèn)題的能力起了很大的作用。

在二次世界大戰(zhàn)期間,香農(nóng)為美國(guó)軍方設(shè)計(jì)火炮控制系統(tǒng)和研究密碼學(xué)。這兩類工作均涉及數(shù)據(jù)或信息的傳送、轉(zhuǎn)換、破解、分析和利用,這方面的研究幫助香農(nóng)形成了他的革命性思想。

1948年,香農(nóng)發(fā)表了劃時(shí)代的論文——“通信數(shù)學(xué)理論”。該文的主題是要用數(shù)學(xué)方法確定通信線路的信息帶寬和所傳輸信號(hào)的信息量,以保證所設(shè)計(jì)的線路能夠在排除噪聲干擾的同時(shí)順利地傳輸有關(guān)信號(hào)。為此,香農(nóng)給出了兩個(gè)重要的定義:信息的基本單位和信息熵。

信息的基本單位是二進(jìn)制數(shù)的位,稱為比特(bit);如果一條通信線路能在每秒傳送Ⅳ位二進(jìn)制數(shù),則該線路的通信帶寬就是每秒N比特。其中bit取自英文“二進(jìn)制數(shù)位”(binary digit)的縮寫。香農(nóng)指出,任何一個(gè)具有兩種狀態(tài)的事物——比如說(shuō)繼電器或開(kāi)關(guān)電路——正好能夠儲(chǔ)存1比特信息。

香農(nóng)指出,信息熵刻畫了這些可能事件的不確定程度:當(dāng)其中有一件是確定性事件(即發(fā)生概率為1),則其他都是不可能事件(發(fā)生概率為0),此時(shí)的熵值最小,等于0;當(dāng)這些事件發(fā)生的概率相等(即都為1/n),則此時(shí)的熵值最大,等于logn。所以在等概率可能事件的情況下,其不確定程度最大;并且可能的選擇越多(即n越大),則不確定性越大。香農(nóng)進(jìn)一步指出,信息熵與統(tǒng)計(jì)力學(xué)中的熱學(xué)熵之間有聯(lián)系。

香農(nóng)利用以上所給出的定義,成功地解決了有關(guān)線路帶寬、信號(hào)傳送和噪聲干擾之間關(guān)系的一系列問(wèn)題,由此奠定了現(xiàn)代通信理論基礎(chǔ)。

然而,他引進(jìn)的這些概念所帶來(lái)的影響遠(yuǎn)遠(yuǎn)不止于此。信息熵很好地解釋了熱力學(xué)第二定律和麥克斯韋小妖。

19世紀(jì)德國(guó)物理學(xué)家克勞修斯(Rudolph Clausius,1822-1888)和英國(guó)物理學(xué)家開(kāi)爾文(Lord Kelvin,1824-1907)所發(fā)現(xiàn)的熱力學(xué)第二定律告訴我們:一個(gè)封閉的熱學(xué)系統(tǒng)總是隨著時(shí)間的增長(zhǎng)而趨向于一個(gè)溫度處處相等的平衡狀態(tài)?;虻葍r(jià)地說(shuō),熱不可能自發(fā)地從低溫傳到高溫。熱力學(xué)第二定律解釋了,為什么宇宙時(shí)間不可逆轉(zhuǎn):比如說(shuō),茶杯里的水不會(huì)自行升溫而沸騰;生命的歷程不可能從老到幼逆向進(jìn)行;人類社會(huì)也不會(huì)倒退回去而使古人復(fù)活,等等。

熱力學(xué)第二定律可以用數(shù)學(xué)語(yǔ)言準(zhǔn)確地描述:一個(gè)封閉的熱學(xué)系統(tǒng)的熵總是隨著時(shí)間的增長(zhǎng)而增加,直到取得最大值,此時(shí)系統(tǒng)處于熱平衡狀態(tài)。這里的“熵”是一個(gè)關(guān)于系統(tǒng)熱量和溫度分布的函數(shù)。

統(tǒng)計(jì)力學(xué)的理論和實(shí)驗(yàn)證實(shí),氣體的溫度是由于氣體內(nèi)所包含大量分子的運(yùn)動(dòng)而產(chǎn)生的結(jié)果。事實(shí)上,氣體溫度與氣體分子的平均動(dòng)能(或平均速度平方)成正比。而熵則反映了氣體分子運(yùn)動(dòng)的無(wú)序性,也就是分子的運(yùn)動(dòng)速度與分子所處位置的無(wú)關(guān)性。香農(nóng)的“信息熵”提出之后,人們進(jìn)一步認(rèn)識(shí)到,分子運(yùn)動(dòng)的“無(wú)序性”其實(shí)是一種“不確定性”。因此,“熱學(xué)熵”與“信息熵”在某種意義上等價(jià)。于是“熵”把兩門看上去完全不同的學(xué)科聯(lián)系起來(lái)。

創(chuàng)立了現(xiàn)代電磁場(chǎng)理論的英國(guó)人麥克斯韋(James Clerk Maxwell,1831-1879)對(duì)于統(tǒng)計(jì)力學(xué)也有重要貢獻(xiàn)。他于1871年提出了一個(gè)挑戰(zhàn)熱力學(xué)第二定律的“理想實(shí)驗(yàn)”:一個(gè)容器被分隔成A和B兩部分,其中A充滿了處于平衡狀態(tài)的運(yùn)動(dòng)分子,B暫時(shí)為空;A,B之間有一個(gè)小孔連接,小孔邊守衛(wèi)著一個(gè)能夠觀察到分子運(yùn)動(dòng)速度的“小妖”,它只允許A中速度較快的分子穿過(guò)小孔進(jìn)入B。

如果確實(shí)有這樣的“小妖”在起作用,那么,A部分的氣體溫度將會(huì)逐漸降低,而B部分的氣體溫度則逐漸升高:處于熱平衡狀態(tài)的分子系統(tǒng)就會(huì)產(chǎn)生不平衡,系統(tǒng)的“熵”就會(huì)減小。熱力學(xué)第二定律看來(lái)要失效。

然而,運(yùn)用香農(nóng)提出的“信息熵”概念,能夠合理地解釋以上的“實(shí)驗(yàn)”:由于“小妖”提供了關(guān)于分子運(yùn)動(dòng)的額外信息,這使得系統(tǒng)分子運(yùn)動(dòng)分布的“不確定性”降低,也使得系統(tǒng)的“無(wú)序性”減少。也就是說(shuō),有沒(méi)有“小妖”的系統(tǒng)是兩個(gè)“熵值”不同的系統(tǒng)。而熱力學(xué)第二定律只能適用于一個(gè)封閉系統(tǒng)。

香農(nóng)把信息量與二進(jìn)制數(shù)的“位”聯(lián)系起來(lái),這啟發(fā)了人們把各種信息轉(zhuǎn)化成二進(jìn)制數(shù)的形式。數(shù)字化信息給世界帶來(lái)奇妙的變化,各種文字、圖像、聲音和影視信息先后被轉(zhuǎn)化成一串串二進(jìn)制數(shù);它們被儲(chǔ)存在光電磁介質(zhì)中,然后由功能強(qiáng)大的計(jì)算機(jī)處理,并通過(guò)四通八達(dá)的通信網(wǎng)絡(luò)傳送;結(jié)果給我們的世界帶來(lái)種種奇妙的變化。

如今,數(shù)字化信息使得人們能夠用計(jì)算機(jī)寫文章,坐在家中方便地通過(guò)網(wǎng)絡(luò)查找并瀏覽所需要的各種文獻(xiàn)、資料和信息,下載或在線欣賞無(wú)數(shù)的音樂(lè)、歌曲、電影和電視節(jié)目。

數(shù)字化信息提供了新的豐富多彩的人際交流方式:電子郵件、博客、微博、微信,等等。人類從來(lái)沒(méi)有能夠像今天這樣,可以跨越時(shí)空界限,無(wú)拘無(wú)束地同那么多認(rèn)識(shí)或不認(rèn)識(shí)的人開(kāi)展交流,自由自在地在網(wǎng)絡(luò)上展現(xiàn)自我。

數(shù)字化信息為我們提供了新奇的產(chǎn)品:數(shù)字電視、數(shù)碼相機(jī)、移動(dòng)電話、數(shù)碼音樂(lè)、卡拉OK,等等。

數(shù)字化信息還帶來(lái)了學(xué)習(xí)、工作和生活方式的變化:人們已經(jīng)可以實(shí)現(xiàn)遠(yuǎn)程教育、網(wǎng)上辦公、遠(yuǎn)程診斷、電子商務(wù)、網(wǎng)上購(gòu)物,等等。

數(shù)字化也帶來(lái)了全新的觀念:大家開(kāi)始談?wù)摂?shù)字圖書館、數(shù)字化城市、數(shù)字化地球、數(shù)字化經(jīng)濟(jì)、數(shù)字化生存、大數(shù)據(jù)……

數(shù)字化信息時(shí)代已經(jīng)給我們帶來(lái)那么多夢(mèng)幻般的變化,并且還在繼續(xù)制造更多神奇。而所有這一切,都源自香農(nóng)那篇?jiǎng)潟r(shí)代的論文。

“敵人了解我們的密碼系統(tǒng)”

香農(nóng)在二次大戰(zhàn)期間研究密碼學(xué)也成就卓著。在他的指導(dǎo)下研制的密碼設(shè)備被用于美國(guó)總統(tǒng)羅斯福和英國(guó)首相丘吉爾的跨洋通信。1943年,英國(guó)的頭號(hào)密碼專家、數(shù)學(xué)家圖靈(Alan Turing,1912-1954)應(yīng)美國(guó)軍方邀請(qǐng)前來(lái)考察。他去了貝爾實(shí)驗(yàn)室,與香農(nóng)見(jiàn)面并交流。香農(nóng)對(duì)圖靈在1936年寫的關(guān)于通用計(jì)算機(jī)的論文留下了深刻印象??上н@兩位傳奇人物沒(méi)有產(chǎn)生有意義的進(jìn)一步合作。

1946年,香農(nóng)寫下另一篇開(kāi)創(chuàng)性論文“保密系統(tǒng)的通信理論”。該文直到1949年才被解密公開(kāi)發(fā)表。香農(nóng)在文章的開(kāi)頭就指出:“密碼學(xué)和保密系統(tǒng)的問(wèn)題為通信理論提供了有趣的應(yīng)用?!彼又治龅溃骸耙话銇?lái)講,有三種類型的保密系統(tǒng):(1)隱藏的系統(tǒng),如用隱顯墨水寫信,信文本身被隱藏起來(lái),敵人看不見(jiàn);(2)私密系統(tǒng),如用特殊裝置改變通話者的語(yǔ)言頻率,此時(shí)只有用同樣的裝置把通信信號(hào)的頻率還原,才能聽(tīng)懂講話的內(nèi)容;(3)‘真實(shí)的保密系統(tǒng),即用密碼來(lái)隱藏信文的內(nèi)容,信文本身不隱藏,敵人也擁有截獲和記錄傳輸信文的特別裝置。”

香農(nóng)認(rèn)為:隱藏系統(tǒng)屬于心理學(xué)領(lǐng)域,私密系統(tǒng)屬于技術(shù)領(lǐng)域,而只有“真實(shí)的”保密系統(tǒng)才屬于密碼學(xué)領(lǐng)域。香農(nóng)的觀點(diǎn)后來(lái)被密碼學(xué)界歸結(jié)為“香農(nóng)格言”(Shannons maxim):“敵人了解我們的密碼系統(tǒng)”(The enemy knows the system)。這一格言已成為現(xiàn)代密碼學(xué)研究的出發(fā)點(diǎn):即假設(shè)密碼系統(tǒng)的結(jié)構(gòu)以及所傳輸?shù)男盼氖枪_(kāi)的,敵我雙方都知道;而密碼學(xué)的主要任務(wù)集中在研究用于信文加密和解密的密鑰。

香農(nóng)接著運(yùn)用他所創(chuàng)立的通信數(shù)學(xué)理論,對(duì)在信道中以信文的形式傳輸?shù)男畔⑦M(jìn)行加密和解密的過(guò)程做了全面系統(tǒng)的分析。特別是他證明了,只有那種“一次性密鑰”(即每個(gè)密鑰只使用一次)的密碼系統(tǒng)才是完全不可破解的。他的工作使得密碼學(xué)首次從一種藝術(shù)性學(xué)問(wèn)轉(zhuǎn)變?yōu)橐婚T嚴(yán)格的科學(xué)。

婚姻與后期工作

1949年3月29日,香農(nóng)與穆?tīng)枺∕ary Elizabeth Moore)結(jié)婚。穆?tīng)栆灿袛?shù)學(xué)專業(yè)研究生的學(xué)歷,原來(lái)是貝爾實(shí)驗(yàn)室微波研究室的技術(shù)助理。他們育有兩個(gè)兒子和一個(gè)女兒。

香農(nóng)生性好動(dòng),年輕時(shí)學(xué)過(guò)體操,喜歡練習(xí)拋球雜耍。那年圣誕節(jié),新婚妻子送給香農(nóng)一輛獨(dú)輪車作為禮物。他從此經(jīng)常騎著它在貝爾實(shí)驗(yàn)室大樓的過(guò)道里來(lái)回走動(dòng),像雜技演員般手里玩著拋球雜耍。這成為貝爾實(shí)驗(yàn)室的一景。

由于電子通信技術(shù)和計(jì)算機(jī)科學(xué)的飛速發(fā)展,香農(nóng)所創(chuàng)立的信息論成為一門顯學(xué)。人們開(kāi)始用信息來(lái)解釋和解決幾乎所有領(lǐng)域中的問(wèn)題。香農(nóng)也成了社會(huì)名人,不斷被采訪和報(bào)道。香農(nóng)對(duì)此十分反感。1956年,他在雜志上說(shuō):“信息論被大大超賣了(greatly oversold)?!薄八淮蹬醯某潭冗h(yuǎn)遠(yuǎn)超過(guò)其實(shí)際重要性?!彼救碎_(kāi)始逐步退出信息論的研究,改為研究人工智能,并取得一些成果。比如說(shuō),他制作了一個(gè)神奇的電子鼠,它能夠自己學(xué)會(huì)如何從迷宮中走出來(lái);他還設(shè)計(jì)了.一個(gè)計(jì)算機(jī)下棋程序,被認(rèn)為是該領(lǐng)域的一項(xiàng)突破性工作。

事實(shí)上,香農(nóng)從未利用他在信息論領(lǐng)域的研究成果和巨大聲望來(lái)發(fā)財(cái)。他后來(lái)賺了不少錢,主要是通過(guò)成功投資那些新興科技公司而獲得豐厚的回報(bào)。

1956年,香農(nóng)被聘為MIT的教授,但仍在貝爾實(shí)驗(yàn)室兼職。1972年,香農(nóng)從長(zhǎng)期工作的貝爾實(shí)驗(yàn)室退休;1978年,又從MIT退休。2001年,香農(nóng)因患阿爾茲海默癥而辭世。

因?yàn)閯?chuàng)立了信息論,香農(nóng)被譽(yù)為“20世紀(jì)最偉大的科學(xué)家之一”。他獲得了無(wú)數(shù)的獎(jiǎng)項(xiàng),其中包括1966年獲美國(guó)國(guó)家科學(xué)獎(jiǎng)?wù)潞?978年獲日本京都獎(jiǎng)。他同時(shí)是多家著名學(xué)術(shù)團(tuán)體的會(huì)員。

猜你喜歡
香農(nóng)密碼學(xué)二進(jìn)制
用二進(jìn)制解一道高中數(shù)學(xué)聯(lián)賽數(shù)論題
大衛(wèi),不可以
有趣的進(jìn)度
圖靈獎(jiǎng)獲得者、美國(guó)國(guó)家工程院院士馬丁·愛(ài)德華·海爾曼:我們正處于密鑰學(xué)革命前夕
二進(jìn)制在競(jìng)賽題中的應(yīng)用
密碼學(xué)課程教學(xué)中的“破”與“立”
校園恩仇錄:小混混和易拉罐女王的故事
矩陣在密碼學(xué)中的應(yīng)用
基于香農(nóng)熵的超細(xì)粉體填料混合均勻度的評(píng)價(jià)研究
一個(gè)生成組合的新算法