摘要：針對(duì)海量數(shù)據(jù)的指數(shù)級(jí)增長(zhǎng)，現(xiàn)有的文件存儲(chǔ)系統(tǒng)很難滿足現(xiàn)有系統(tǒng)需求，提出基于Hadoop的Scool云存儲(chǔ)平臺(tái)，系統(tǒng)通過(guò)采用Linux 集群技術(shù)、分布式文件系統(tǒng)和云計(jì)算框架等技術(shù)，來(lái)實(shí)現(xiàn)海量數(shù)據(jù)存儲(chǔ)和高速數(shù)據(jù)處理。通過(guò)比較云存儲(chǔ)和傳統(tǒng)存儲(chǔ)模式的區(qū)別，分析了云存儲(chǔ)技術(shù)優(yōu)勢(shì)和可行性，介紹了云存儲(chǔ)架構(gòu)模型，設(shè)計(jì)了基于Hadoop的Scool云存儲(chǔ)文件管理系統(tǒng)，為今后深入研究云計(jì)算和云存儲(chǔ)提供了一定的基礎(chǔ)。

關(guān)鍵詞：云計(jì)算；云存儲(chǔ)；Hadoop；海量數(shù)據(jù)

中圖分類號(hào)：TP393 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1009-3044（2013）02-0405-04

近年來(lái)，云存儲(chǔ)[1]已成為存儲(chǔ)行業(yè)未來(lái)發(fā)展最為明朗的方向之一，它是在云計(jì)算[2、3]的基礎(chǔ)之上的延伸和發(fā)展，是一個(gè)以數(shù)據(jù)存儲(chǔ)和管理為核心的云計(jì)算系統(tǒng)。海量數(shù)據(jù)的指數(shù)增長(zhǎng)已成為現(xiàn)實(shí)，根據(jù)IDC （Internet Data Center， 互聯(lián)網(wǎng)數(shù)據(jù)中心） 的最新統(tǒng)計(jì)結(jié)果顯示，到2012 年底， 全球數(shù)據(jù)總量將達(dá)到2.7 ZB，到2015年將達(dá)到8 ZB[4]。麥肯錫的研究報(bào)告指出，大量的數(shù)據(jù)已經(jīng)滲透到每一個(gè)行業(yè)和業(yè)務(wù)職能領(lǐng)域，逐漸成為重要的生產(chǎn)要素。目前， 傳統(tǒng)的數(shù)據(jù)存儲(chǔ)的擴(kuò)展性不佳， 寫人數(shù)據(jù)的速度遠(yuǎn)遠(yuǎn)低于數(shù)據(jù)產(chǎn)生的速度。

于是云計(jì)算技術(shù)應(yīng)用而生，Hadoop云計(jì)算平臺(tái)是Apache旗下的一個(gè)開源分布式計(jì)算項(xiàng)目，有效的解決了上述問(wèn)題。Hadoop在可申縮性、健壯性、計(jì)算性能和成本上具有明顯的優(yōu)勢(shì)，已成為當(dāng)前互聯(lián)網(wǎng)企業(yè)主流的大數(shù)據(jù)存儲(chǔ)和分析平臺(tái)。預(yù)計(jì)，在未來(lái)5 年內(nèi)將有50%的大數(shù)據(jù)項(xiàng)目會(huì)在Hadoop 的框架上運(yùn)行[5]。該文在Hadoop 云計(jì)算平臺(tái)為基礎(chǔ)上，驗(yàn)證了Hadoop面對(duì)海量數(shù)據(jù)的處理能力，以及設(shè)計(jì)并實(shí)現(xiàn)了基于hadoop分布式文件系統(tǒng)的Scool云存儲(chǔ)文件管理系統(tǒng)。

1 云存儲(chǔ)平臺(tái)

云存儲(chǔ)的實(shí)現(xiàn)要以多種技術(shù)的發(fā)展為前提，比如寬帶網(wǎng)絡(luò)的發(fā)展、WEB2.0技術(shù)、應(yīng)用存儲(chǔ)的發(fā)展、集群技術(shù)、網(wǎng)格技術(shù)、分布式文件系統(tǒng)、CDN內(nèi)容分發(fā)、P2P技術(shù)、數(shù)據(jù)壓縮技術(shù)、重復(fù)數(shù)據(jù)刪除技術(shù)、數(shù)據(jù)加密技術(shù)、存儲(chǔ)虛擬化技術(shù)、存儲(chǔ)網(wǎng)絡(luò)化管理技術(shù)。海量數(shù)據(jù)的可管理性、可擴(kuò)展性、可靠性、總體成本（TCO）、以及容量擴(kuò)展性將最終決定云存儲(chǔ)未來(lái)發(fā)展形式。所有云存儲(chǔ)系統(tǒng)應(yīng)具有硬件冗余、自動(dòng)的故障切換、存儲(chǔ)設(shè)備升級(jí)不會(huì)導(dǎo)致服務(wù)中斷、容量分配不受物理硬盤限制、節(jié)省電力、及時(shí)提供容量的擴(kuò)展、海量并行擴(kuò)容、統(tǒng)一的對(duì)外名稱、負(fù)載均衡、容易管理等優(yōu)點(diǎn)。

1.1 云存儲(chǔ)的特性

異構(gòu)性：是指云存儲(chǔ)系統(tǒng)能夠兼容不同的存儲(chǔ)設(shè)備、網(wǎng)絡(luò)差異、不同的操作系統(tǒng)、各種計(jì)算機(jī)硬件和不同編程語(yǔ)言。

分布性：是指單一的數(shù)據(jù)中心存儲(chǔ)模式無(wú)法滿足現(xiàn)有用戶在數(shù)據(jù)訪問(wèn)效率、數(shù)據(jù)可靠性和系統(tǒng)負(fù)載均衡方面的需求，云存儲(chǔ)平臺(tái)的存儲(chǔ)資源池中將包含多個(gè)地理位置分布的數(shù)據(jù)中心用來(lái)進(jìn)行數(shù)據(jù)冗余和負(fù)載均衡。

擴(kuò)展性：是指云存儲(chǔ)系統(tǒng)可以簡(jiǎn)單高效的為存儲(chǔ)空間擴(kuò)容，存儲(chǔ)節(jié)點(diǎn)的加入和退出必須以熱插拔的方式進(jìn)行。

透明性：是指包括存儲(chǔ)位置透明和用戶訪問(wèn)透明，用戶不需要關(guān)心數(shù)據(jù)存儲(chǔ)的具體位置，就能夠就近訪問(wèn)到數(shù)據(jù)的副本，對(duì)于用戶而言，數(shù)據(jù)總是可用的。

并發(fā)性：是指云存儲(chǔ)系統(tǒng)中多個(gè)用戶可能會(huì)同時(shí)對(duì)共享數(shù)據(jù)資源發(fā)出請(qǐng)求，每個(gè)云存儲(chǔ)組件必須被設(shè)計(jì)成在并發(fā)環(huán)境中是安全的。

可靠性：是指任一進(jìn)程、計(jì)算機(jī)和網(wǎng)絡(luò)都有可能獨(dú)立的發(fā)生故障，因此每個(gè)云存儲(chǔ)組件需要清楚所依賴的組件可能出現(xiàn)故障的方式，組件要設(shè)計(jì)成能適當(dāng)?shù)奶幚砻總€(gè)故障。

效率：是指用戶訪問(wèn)云存儲(chǔ)系統(tǒng)中共享數(shù)據(jù)的算法應(yīng)該避免性能瓶頸，頻繁訪問(wèn)的數(shù)據(jù)需要復(fù)制更多的副本，用戶能夠就近獲得最快的訪問(wèn)時(shí)間，同時(shí)用戶使用云存儲(chǔ)服務(wù)的接口應(yīng)該盡可能簡(jiǎn)單。

2 云存儲(chǔ)的結(jié)構(gòu)模型

云存儲(chǔ)是以存儲(chǔ)設(shè)備為核心，綜合了多種高新計(jì)術(shù)構(gòu)成的復(fù)雜系統(tǒng)。它通過(guò)應(yīng)用軟件來(lái)對(duì)外界用戶提供統(tǒng)一的服務(wù)。其結(jié)構(gòu)模型由以下四層組成。

2.1 存儲(chǔ)層

存儲(chǔ)層是云存儲(chǔ)中最為基礎(chǔ)的部分， 同時(shí)也是云存儲(chǔ)的底層。云存儲(chǔ)通過(guò)互聯(lián)網(wǎng)、光纖通道網(wǎng)絡(luò)等，將大量的不同類型且分布在不同地理位置的存儲(chǔ)設(shè)備連接在一起，實(shí)現(xiàn)海量數(shù)據(jù)的統(tǒng)一存儲(chǔ)。同時(shí)實(shí)現(xiàn)對(duì)存儲(chǔ)設(shè)備的集中管理、狀態(tài)監(jiān)控以及容量的動(dòng)態(tài)擴(kuò)展。實(shí)質(zhì)上，這就是一種面向服務(wù)的分布式存儲(chǔ)系統(tǒng)。

2.2 基礎(chǔ)管理層

基礎(chǔ)管理層在云存儲(chǔ)系統(tǒng)中是最難實(shí)現(xiàn)的部分，也是云存儲(chǔ)中最為核心的一層。該基礎(chǔ)管理層主要應(yīng)用集群、分布式文件系統(tǒng)、虛擬化等技術(shù)來(lái)實(shí)現(xiàn)云存儲(chǔ)系統(tǒng)中多個(gè)存儲(chǔ)設(shè)備之間的協(xié)同工作，使得這些不同設(shè)備能夠面向用戶提供一致的服務(wù)。為了保護(hù)用戶數(shù)據(jù)的安全性和私密性， 云存儲(chǔ)使用了數(shù)據(jù)加密技術(shù)、內(nèi)容分發(fā)技術(shù)、數(shù)據(jù)備份和容災(zāi)等技術(shù)來(lái)保證用戶的數(shù)據(jù)不被竊取、泄密或丟失。通過(guò)設(shè)計(jì)統(tǒng)一的用戶管理、安全管理、副本管理及策略管理等公共數(shù)據(jù)管理功能，將底層存儲(chǔ)與上層應(yīng)用無(wú)縫銜接起來(lái)， 實(shí)現(xiàn)多存儲(chǔ)設(shè)備之間的協(xié)同工作，以更好的性能對(duì)外提供多種服務(wù)。

2.3 應(yīng)用接口層

應(yīng)用接口層是云存儲(chǔ)中最靈活多變的部分。云存儲(chǔ)服務(wù)商根據(jù)實(shí)際業(yè)務(wù)需求，可以開發(fā)遠(yuǎn)程數(shù)據(jù)備份、視頻點(diǎn)播平臺(tái)等不同類型的服務(wù)接口，為用戶提供相應(yīng)的應(yīng)用服務(wù)。應(yīng)用接口層是云存儲(chǔ)平臺(tái)中可以靈活擴(kuò)展的、直接面向用戶的部分。根據(jù)用戶需求，云存儲(chǔ)可以開發(fā)出不同的應(yīng)用接口，提供相應(yīng)的服務(wù)，例如數(shù)據(jù)存儲(chǔ)服務(wù)、空間租賃服務(wù)、公共資源服務(wù)、多用戶數(shù)據(jù)共享服務(wù)、數(shù)據(jù)備份服務(wù)等。

2.4 訪問(wèn)層

訪問(wèn)層是云存儲(chǔ)中要求只有經(jīng)過(guò)授權(quán)的用戶才可以通過(guò)標(biāo)準(zhǔn)的應(yīng)用接口登陸系統(tǒng)，才能享用里面的各項(xiàng)服務(wù)。但是服務(wù)商所提供的訪問(wèn)手段和訪問(wèn)類型因采用的手段不同而不同，但是通過(guò)數(shù)據(jù)訪問(wèn)層的話，任何一個(gè)授權(quán)用戶都可以在任何地方，使用任意一臺(tái)聯(lián)網(wǎng)的終端設(shè)備，按照標(biāo)準(zhǔn)的公用應(yīng)用接口來(lái)登錄云存儲(chǔ)平臺(tái)，享受云存儲(chǔ)服務(wù)。

3 部署云平臺(tái)

3.1 Hadoop

Hadoop是Apache旗下的一個(gè)開源項(xiàng)目，用來(lái)支持?jǐn)?shù)據(jù)密集型的分布式應(yīng)用，能夠支持上千節(jié)點(diǎn)以及海量（PB 級(jí)）數(shù)據(jù)量的運(yùn)算。Hadoop 主要由兩部分構(gòu)成：Hadoop 分布式文件系統(tǒng)（HDFS[6]）和在HDFS上的MapReduce [7]編程模型實(shí)現(xiàn)。

3.1.1 HDFS分布式文件系統(tǒng)

HDFS是Google GFS[8]的開源版本的實(shí)現(xiàn)，作為一個(gè)高度容錯(cuò)的分布式文件系統(tǒng)，它能夠提供高吞吐量的數(shù)據(jù)訪問(wèn)，適合存儲(chǔ)海量的大數(shù)據(jù)文件，在軟件層內(nèi)置數(shù)據(jù)容錯(cuò)能力，可應(yīng)用于云存儲(chǔ)系統(tǒng)的搭建與開發(fā)，和現(xiàn)有的分布式系統(tǒng)最大的不同點(diǎn)在于高容錯(cuò)性、易擴(kuò)展和低成本。

HDFS是可以運(yùn)行在普通硬件上的分布式文件系統(tǒng)，采用主/叢（Master/Slave）結(jié)構(gòu)。其中NameNode主要負(fù)責(zé)維護(hù)集群內(nèi)的元數(shù)據(jù)，所有塊的元數(shù)據(jù)都被注冊(cè)在NameNode，對(duì)外提供創(chuàng)建、打開、刪除和重命名文件或目錄的功能。DataNode負(fù)責(zé)存儲(chǔ)數(shù)據(jù)，并提負(fù)責(zé)處理數(shù)據(jù)的讀寫請(qǐng)求。DataNode定期向NameNode上報(bào)心跳，NameNode通過(guò)響應(yīng)心跳來(lái)控制DataNode。HDFS 提供了一個(gè)高度容錯(cuò)性和高吞吐量的海量數(shù)據(jù)存儲(chǔ)解決方案。HDFS 可以提供以下特性：

1）可自我修復(fù)的分布式文件存儲(chǔ)系統(tǒng)；2）高可擴(kuò)展性，無(wú)需停機(jī)動(dòng)態(tài)擴(kuò)容；3）高可靠性，數(shù)據(jù)自動(dòng)檢測(cè)和復(fù)制；4）高吞吐量訪問(wèn)，消除訪問(wèn)瓶頸；5）使用低成本存儲(chǔ)和服務(wù)器構(gòu)建。

3.1.2 MapReduce的實(shí)現(xiàn)

MapReduce模型由兩項(xiàng)核心操作構(gòu)成：Map和 Reduce， 是Google 的一項(xiàng)重要技術(shù)，也是一個(gè)編程模型，用以進(jìn)行大規(guī)模據(jù)量的高效計(jì)算。對(duì)于大量數(shù)據(jù)的計(jì)算，通常采用的手法就是并行計(jì)算。對(duì)于現(xiàn)階段而言，并行計(jì)算對(duì)許多開發(fā)人員來(lái)說(shuō)還是一個(gè)比較遙遠(yuǎn)的東西。MapReduce就是一種簡(jiǎn)化并行計(jì)算的編程模型，它讓那些沒(méi)有多少并行計(jì)算經(jīng)驗(yàn)的開發(fā)人員也可以開發(fā)并行應(yīng)用程序。

3.1.3 Hadoop優(yōu)勢(shì)

綜上所述，本平臺(tái)基于Hadoop分布式技術(shù)實(shí)現(xiàn)，使編程和實(shí)現(xiàn)起來(lái)都比較容易，能夠高效地存儲(chǔ)和管理海量數(shù)據(jù)，具體來(lái)說(shuō)有以下優(yōu)勢(shì)：存儲(chǔ)方面：現(xiàn)在世界上最大的Hadoop集群目前在Facebook，可以存儲(chǔ)30PB的數(shù)據(jù)。計(jì)算方面：Hadoop是目前Terasort（Terasort是Hadoop中的的一個(gè)排序作業(yè)）記錄的保持者，Terasort是給出1TB的隨機(jī)數(shù)據(jù)，看誰(shuí)能夠在最短的時(shí)間內(nèi)完成排序，Hadoop使用了1400多個(gè)節(jié)點(diǎn)，在2分鐘內(nèi)完成1T的數(shù)據(jù)排序。

3.2 云平臺(tái)搭建

云計(jì)算平臺(tái)的部署是復(fù)雜的系統(tǒng)工程，包括基礎(chǔ)設(shè)施的組裝與搭建、云計(jì)算系統(tǒng)平臺(tái)的安裝、部署、調(diào)試和測(cè)試等等。本實(shí)驗(yàn)應(yīng)用Hadoop框架來(lái)構(gòu)建小型的云計(jì)算平臺(tái)環(huán)境，在硬件上用普通PC單機(jī)或多臺(tái)普通PC電腦即可實(shí)現(xiàn)。

本實(shí)驗(yàn)由4臺(tái)普通PC電腦構(gòu)成，配置均為Core2處理器，2G內(nèi)存，操作系統(tǒng)為Red Hat Linux。其中一臺(tái)作為Namenode，機(jī)器名為master，其余三臺(tái)作為dataNode，機(jī)器名分別為slave01、slave02、slave03。系統(tǒng)結(jié)構(gòu)如圖1所示。在4臺(tái)機(jī)器上建立統(tǒng)一的Hadoop用戶，并設(shè)置Hadoop用戶從master主機(jī)到各個(gè)slaves主面登錄不需要使用密碼。安裝Hadoop運(yùn)行環(huán)境Java1.7，安裝版本為Hadoop1.0.3的Hadoop系統(tǒng)，配置conf文件夾下的hadoopenv.sh、core-site.xml、hdfs-site.xml、mapred-site.xml、master、slave文件，初始化Namenode 節(jié)點(diǎn)并格式化hadoop文件系統(tǒng)的存儲(chǔ)空間，并保證Hadoop文件系統(tǒng)在各個(gè)節(jié)點(diǎn)上配置文件的一致性。

圖1 Hadoop 試驗(yàn)平臺(tái)結(jié)構(gòu)

3.3 Scool云存儲(chǔ)管理系統(tǒng)設(shè)計(jì)

3.3.1 系統(tǒng)設(shè)計(jì)

本文開發(fā)的Scool系統(tǒng)設(shè)計(jì)的中心思想是以WEB 方式向用戶提供文件操作服務(wù)功能，用戶在WEB基礎(chǔ)上使用本系統(tǒng)，給用戶使用帶來(lái)了極大地方便， 用戶只需要通過(guò)注冊(cè)就能獲取系統(tǒng)提供的存儲(chǔ)空間，就可以獲取系統(tǒng)提供的存儲(chǔ)服務(wù)，用戶可以方便的管理和使用自己的空間。系統(tǒng)安全也是我們?cè)O(shè)計(jì)的一個(gè)重點(diǎn)，系統(tǒng)通過(guò)單獨(dú)的文件管理服務(wù)器向云存儲(chǔ)系統(tǒng)發(fā)送用戶請(qǐng)求，系統(tǒng)通過(guò)調(diào)用Hadoop系統(tǒng)提供的多種API方式方便地管理用戶文件，沒(méi)有經(jīng)過(guò)驗(yàn)證的用戶是不能調(diào)用和使用API接口。（如圖2所示）

本系統(tǒng)利用Hadoop作為底層集群部署，由于Hadoop對(duì)硬件的要求不高，普通pc機(jī)就可以達(dá)到要求，并能夠高效的處理數(shù)據(jù)，方便用戶的使用和操作，為用戶數(shù)據(jù)提供統(tǒng)一管理界面，對(duì)用戶及時(shí)返回處理結(jié)果，系統(tǒng)設(shè)計(jì)總體可有效加快其服務(wù)應(yīng)用的部署和實(shí)施工作。

圖2 系統(tǒng)結(jié)構(gòu)

3.3.2 模塊設(shè)計(jì)

本系統(tǒng)有以下四個(gè)模塊組成，如圖3所示：

用戶管理模塊：本模塊用來(lái)完成新用戶的注冊(cè)功能，成功通過(guò)注冊(cè)的用戶將成為合法用戶，并獲取一定的存儲(chǔ)空間。經(jīng)過(guò)用戶注冊(cè)，系統(tǒng)會(huì)記錄用戶申請(qǐng)時(shí)的用戶名和密碼以及其它用戶信息，并保存這些用戶數(shù)據(jù)信息到數(shù)據(jù)庫(kù)。用戶身份認(rèn)證功能是指用戶以WEB的方式登錄到本系統(tǒng)，用戶登錄時(shí)系統(tǒng)會(huì)根據(jù)用戶登錄信息與數(shù)據(jù)庫(kù)保存的信息對(duì)比，對(duì)比完全一致時(shí)才能夠登錄到本系統(tǒng)。否則，用戶將無(wú)法獲取云存儲(chǔ)系統(tǒng)提供的服務(wù)功能。信息管理功能是指用戶擁有管理相關(guān)用戶信息的權(quán)力，如登錄密碼更改、用戶信息更改、密碼找回等功能。

文件管理模塊：本模塊是指合法用戶在系統(tǒng)提供的存儲(chǔ)空間上的文件操作服務(wù)功能，用戶通過(guò)此服務(wù)管理存儲(chǔ)空間上的相關(guān)文件。用戶可以完成上傳文件，下載文件，刪除文件等操作。本系統(tǒng)增加SWFUPLOAD技術(shù)來(lái)實(shí)現(xiàn)上傳大文件的功能，最大支持1G大小的文件上傳。

目錄管理模塊：本模塊的功能是用戶管理存儲(chǔ)空間上的文件存儲(chǔ)目錄，用戶可以新建目錄來(lái)管理不同分類的文件，用戶也可以刪除相應(yīng)的目錄。

圖3 系統(tǒng)設(shè)計(jì)

3.3.3 系統(tǒng)實(shí)現(xiàn)

基于Hadoop的云存儲(chǔ)管理系統(tǒng)，實(shí)現(xiàn)了為用戶提供云存儲(chǔ)服務(wù)的基本功能，用戶登錄系統(tǒng)就可以體驗(yàn)Scool云存儲(chǔ)帶給用戶的方便、實(shí)用、高效的服務(wù)。如圖4所示。

圖 4 系統(tǒng)界面

4 結(jié)束語(yǔ)

基于Hadoop實(shí)現(xiàn)的云存儲(chǔ)平臺(tái)，能夠提供一種廉價(jià)的大規(guī)模數(shù)據(jù)存儲(chǔ)以及高速數(shù)據(jù)處理的解決方案。同時(shí)，該存儲(chǔ)平臺(tái)具有可擴(kuò)展性、安全性、容災(zāi)性、副本自動(dòng)還原、快速的特性，能夠滿足用戶對(duì)存儲(chǔ)平臺(tái)實(shí)時(shí)的按需擴(kuò)容的需求。以HDFS作為分布式數(shù)據(jù)存儲(chǔ)的容器，解決了數(shù)據(jù)冗余備份的問(wèn)題。云存儲(chǔ)平臺(tái)解決了非結(jié)構(gòu)化和半結(jié)構(gòu)化的松散數(shù)據(jù)存儲(chǔ)，以及存儲(chǔ)層的可靠性和可擴(kuò)展性等問(wèn)題。同時(shí)，基于Hadoop的云存儲(chǔ)平臺(tái)在對(duì)象訪問(wèn)接口層實(shí)現(xiàn)了功能豐富的接口，能夠滿足日益增長(zhǎng)的應(yīng)用需求，為今后的云存儲(chǔ)安全、性能優(yōu)化、以及開發(fā)其它應(yīng)用服務(wù)的研究提供基礎(chǔ)。

系統(tǒng)的安全以及性能優(yōu)化是下一步研究工作的重點(diǎn)，系統(tǒng)安全方面最為重要，研究kerberos認(rèn)證機(jī)制是一種有效的解決方案，kerberos實(shí)現(xiàn)的是機(jī)器級(jí)別的安全認(rèn)證，由于kerberos對(duì)集群里的所有機(jī)器都分發(fā)了keytab，相互之間使用密鑰進(jìn)行通信，確保不會(huì)冒充服務(wù)器的情況，以保證云存儲(chǔ)的安全防護(hù)功能。

參考文獻(xiàn)：

[1] 張建勛，古志民，鄭超.云計(jì)算研究進(jìn)展綜述[J].計(jì)算機(jī)應(yīng)用研究，2010，27（2）：429-433.

[2] Hayes B. Cloud Computing [J].Communications of the ACM， 2008，51（7）：9-11.

[3] LING， DASMALCHI G， ZHU J. Cloud Computing and IT as a Service： Opportunities and Challenges [C]//Proceedings of the IEEE 6th International Conference on Web Services （ICWS’08）， Sep 23-26， 2008，Beijing， China. Los Alamitos， CA，USA： IEEE Computer Society， 2008：5.

[4] Kyle Zhou.China Internet market insight ： Study of Internet Big Data Technological Innovation [EB/OL]. （2012-07-12）.http：//www.ldc.com.en.

[5] Manyika ，James ，Michael Chui，Jaques Bughin ，Brad Brown，Rlchard Dobbs，Charles Roxburgh Big Data ： The next frontier for innovation ，competition ， and Productivity [R].San Francisco ：MeKinsey Global Institute ， 2011.

[6] HDFS Architecture.2010.http：//hadoop.apache.org/common/docs/current/hdfs_design.html.

[7] Dean J， Ghemawat S. Mapredteuce： Simplified Data Processing on large Clusters. Communications of ACM， 2008，51（1）：107-113.

[8] Sanjay G， Howard G， Leung Shun-Tak. The Google file system//Proc of SOSP03.New York：ACM，2003：20-43.