過正 侯振泉
【摘要】 數(shù)據(jù)挖掘一直是各個(gè)行業(yè)的關(guān)注的重點(diǎn)。近幾年,數(shù)據(jù)挖掘伴隨著大數(shù)據(jù)的火熱開始迎來更大的機(jī)遇。本文介紹了數(shù)據(jù)挖掘相關(guān)的概念,一些常用的數(shù)據(jù)挖掘的分析方法,最后介紹了數(shù)據(jù)挖掘技術(shù)幾個(gè)常見的應(yīng)用領(lǐng)域。
【關(guān)鍵詞】 數(shù)據(jù)挖掘 大數(shù)據(jù) 分析方法 應(yīng)用領(lǐng)域
一、數(shù)據(jù)挖掘
數(shù)據(jù)挖掘是一門新興的學(xué)科,它誕生于20世紀(jì)80年代,主要面向商業(yè)應(yīng)用的人工智能研究領(lǐng)域。從技術(shù)角度看,數(shù)據(jù)挖掘就是從大量的、復(fù)雜的、不規(guī)則的、隨機(jī)的、模糊的數(shù)據(jù)中獲取隱含的、人們事先沒有發(fā)覺的、有潛在價(jià)值的信息和知識的過程。
從商業(yè)角度來說,數(shù)據(jù)挖掘就是從龐大的數(shù)據(jù)庫中抽取、轉(zhuǎn)換、分析一些潛在規(guī)律和價(jià)值,從中獲取輔助商業(yè)決策的關(guān)鍵信息和有用知識。
二、數(shù)據(jù)挖掘的基本分析方法
分析方法是數(shù)據(jù)挖掘的核心工作,通過科學(xué)可靠的算法才能實(shí)現(xiàn)數(shù)據(jù)的挖掘,找出數(shù)據(jù)中潛在的規(guī)律。通過不同的分析方法,將解決不同類型的問題,在現(xiàn)實(shí)中針對不同的分析目標(biāo),找出相對應(yīng)的方法。
目前常用的分析方法主要有聚類分析、分類和預(yù)測、關(guān)聯(lián)分析等。
2.1聚類分析
聚類分析就是將物理或抽象對象的集合進(jìn)行分組,然后組成為由類似或相似的對象組成的多個(gè)分類的分析過程,其目的就是通過相似的方法來收集數(shù)據(jù)分類。它是一種無先前知識,無監(jiān)督的學(xué)習(xí)過程,從數(shù)據(jù)對象中找出有意義的數(shù)據(jù),然后將其劃分在一個(gè)未知的類。這不同于分類,因?yàn)樗鼰o法獲知對象的屬性。“物以類聚,人以群分”,通過聚類來分析事物之間類聚的潛在規(guī)律。聚類分析廣泛運(yùn)用于心理學(xué)、統(tǒng)計(jì)學(xué)、醫(yī)學(xué)、生物學(xué)、市場銷售、數(shù)據(jù)識別、機(jī)器智能學(xué)習(xí)等領(lǐng)域。
聚類分析根據(jù)隸屬度的取值范圍可分為硬聚類和模糊聚類兩種方法。硬聚類就是將對象劃分到距離最近聚類的類,非此即彼,也就是說屬于一類,就必然不屬于另一類。模糊聚類就是根據(jù)隸屬度的取值范圍的大小差異來劃分類。一個(gè)樣本可能屬于多個(gè)類。常見的聚類算法主要有密度聚類算法、層次聚類算法、劃分聚類算法、網(wǎng)格聚類算法、模型聚類算法等。
2.2分類和預(yù)測
分類和數(shù)值預(yù)測是問題預(yù)測的兩種主要類型。分類是預(yù)測分類(離散、無序的)標(biāo)號,而預(yù)測則是建立連續(xù)值函數(shù)模型。分類是數(shù)據(jù)挖掘的重要基礎(chǔ),它是對已知的訓(xùn)練數(shù)據(jù)集表現(xiàn)出來的特性,獲得每個(gè)類別的描述或?qū)傩詠順?gòu)造相應(yīng)的分類器或者分類。分類是一種有監(jiān)督的學(xué)習(xí)過程,它是根據(jù)訓(xùn)練數(shù)據(jù)集發(fā)現(xiàn)準(zhǔn)確描述來劃分類別。常見的分類算法主要有決策樹、粗糙集、貝葉斯、遺傳算法、神經(jīng)網(wǎng)路等。預(yù)測就是根據(jù)分類和回歸來預(yù)測將來的規(guī)律。常見的預(yù)測方法主要有局勢外推法、時(shí)間序列法和回歸分析法。
2.3關(guān)聯(lián)分析
在自然界,事物之間存在著千絲萬縷的聯(lián)系,當(dāng)某一事件發(fā)生時(shí),可能會帶動其它事件的發(fā)生。關(guān)聯(lián)分析就是利用事物之間存在的依賴或關(guān)聯(lián)知識來發(fā)現(xiàn)事物之間存在的規(guī)律性,然后通過這種規(guī)律性進(jìn)行預(yù)測。如經(jīng)典實(shí)例購物籃分析,就是通過分析顧客購物籃中物品的管理規(guī)律,來分析顧客的購物心理和習(xí)慣,然后根據(jù)這種規(guī)律來幫助營銷人員制定營銷策略。
三、大數(shù)據(jù)時(shí)代的數(shù)據(jù)挖掘的應(yīng)用領(lǐng)域
3.1市場營銷領(lǐng)域
市場營銷是數(shù)據(jù)挖掘技術(shù)應(yīng)用最早和最多的領(lǐng)域。通過分析和挖掘用戶的消費(fèi)習(xí)慣和消費(fèi)特點(diǎn),來提高商品的銷售業(yè)績。目前,數(shù)據(jù)挖掘在市場營銷方面已經(jīng)不僅僅限于超市購物等方面,已經(jīng)普及到各個(gè)金融領(lǐng)域,如保險(xiǎn)、電子商務(wù)、銀行、電信零售等行業(yè)。利用數(shù)據(jù)挖掘技術(shù)來分析顧客的消費(fèi)行為,為本行業(yè)帶來潛在的客戶和效益。
3.2科學(xué)研究
在科學(xué)研究中,經(jīng)常需要分析各種大量的實(shí)驗(yàn)和觀測數(shù)據(jù),并找出相關(guān)的規(guī)律和知識。這些數(shù)據(jù)分析和挖掘都需要一定的算法,利用數(shù)據(jù)挖掘技術(shù)能科學(xué)的找出數(shù)據(jù)之間的規(guī)律以及找出我們未發(fā)現(xiàn)的知識。例如,對外空星體的探索、對DNA數(shù)據(jù)的分析等等。
在制造業(yè)、電信、教育領(lǐng)域,數(shù)據(jù)挖掘也發(fā)揮著巨大的作用,對過去政策的評估和新政策的制定都有很大的幫助。
伴隨著大數(shù)據(jù)的數(shù)據(jù)管理,檢索技術(shù)研究的進(jìn)步,數(shù)據(jù)挖掘技術(shù)將迎來巨大的發(fā)展機(jī)遇,數(shù)據(jù)挖掘技術(shù)的應(yīng)用也將更加廣泛,數(shù)據(jù)挖掘的工具也將更加強(qiáng)大.
參 考 文 獻(xiàn)
[1]胡天狀.數(shù)據(jù)挖掘技術(shù)在教育決策支持系統(tǒng)中的應(yīng)用[D].杭州:浙江師范大學(xué),2002.
[2]吳文紹.甘肅省教育管理信息決策支持系統(tǒng)[D].蘭州:蘭州理工大學(xué),2006.
[3]丁守哲.基于云計(jì)算的建筑設(shè)計(jì)行業(yè)信息系統(tǒng)開發(fā)模式與實(shí)現(xiàn)技術(shù)研究[D].合肥:合肥工業(yè)大學(xué),2012.
[4]劉華婷,郭仁祥,姜浩.關(guān)聯(lián)規(guī)則挖掘Apriori算法的研究與改進(jìn)[J].計(jì)算機(jī)應(yīng)用與軟件,2009(1):146-149.
[5]程軍鋒.Web數(shù)據(jù)挖掘研究[J].重慶三峽學(xué)院學(xué)報(bào),2013(3):43-45.