◆陸敬怡 祝子健

大數(shù)據(jù)背景下機(jī)器學(xué)習(xí)的趨勢分析

◆陸敬怡 祝子健

（南京郵電大學(xué) 江蘇 210046）

機(jī)器學(xué)習(xí)是當(dāng)前計算機(jī)信息處理技術(shù)中的熱點，特別是在大數(shù)據(jù)的背景下，每天互聯(lián)網(wǎng)會產(chǎn)生30萬億千兆字節(jié)的數(shù)據(jù)，這些數(shù)據(jù)使我們的決策變得更加科學(xué)。本文通過介紹大數(shù)據(jù)背景下機(jī)器學(xué)習(xí)的特點和趨勢，分析在機(jī)器學(xué)習(xí)領(lǐng)域存在的主要問題，提出三種大數(shù)據(jù)背景下機(jī)器學(xué)習(xí)算法的趨勢。

大數(shù)據(jù)；機(jī)器學(xué)習(xí)；算法設(shè)計

0 前言

大數(shù)據(jù)通常是指不能裝進(jìn)計算機(jī)內(nèi)存儲器的數(shù)據(jù)，大數(shù)據(jù)的顯著特點是數(shù)據(jù)的數(shù)量大、種類多、產(chǎn)生快、處理快、價值高等。

面對海量的數(shù)據(jù)，人們需要一個智能分析的接口將人類與計算機(jī)世界進(jìn)行連接，隨著數(shù)據(jù)挖掘、數(shù)據(jù)處理、機(jī)器學(xué)習(xí)等相關(guān)技術(shù)的成熟，可以借助機(jī)器學(xué)習(xí)、并行處理等非傳統(tǒng)的工具對大量的數(shù)據(jù)進(jìn)行處理、分析和預(yù)測，從而為決策提供依據(jù)。

機(jī)器學(xué)習(xí)是通過模擬人類的各種學(xué)習(xí)行為，來學(xué)習(xí)新的知識并不斷完善機(jī)器的結(jié)構(gòu)，提高各方面處理問題的性能。機(jī)器學(xué)習(xí)的過程就是計算機(jī)通過學(xué)習(xí)提前輸入里面的數(shù)據(jù)和信息，對數(shù)據(jù)和信息進(jìn)行處理，展示我們想要的結(jié)果的過程。整個學(xué)習(xí)過程的目的是明確的，思路是提前設(shè)定的，數(shù)據(jù)越多學(xué)習(xí)的過程越長，建立并且訓(xùn)練的模型數(shù)據(jù)越多，處理的結(jié)果就越準(zhǔn)確。而且整個學(xué)習(xí)過程是迭代學(xué)習(xí)的過程，一般計算機(jī)在處理過程中使用這種迭代算法不斷完善模型的方法，就屬于機(jī)器學(xué)習(xí)的過程。要使用機(jī)器學(xué)習(xí)，各種學(xué)習(xí)模式是必須的，伴隨著大數(shù)據(jù)處理技術(shù)的發(fā)展，我們可以更加準(zhǔn)確地使用機(jī)器學(xué)習(xí)方法處理，使之成為大數(shù)據(jù)處理的重要工具，而大數(shù)據(jù)為機(jī)器學(xué)習(xí)提供更多的數(shù)據(jù)，幫助機(jī)器學(xué)習(xí)變得更加強(qiáng)大。但歸根到底，機(jī)器學(xué)習(xí)并不等同于大數(shù)據(jù)處理，而大數(shù)據(jù)的處理也不僅僅是機(jī)器學(xué)習(xí)。

大數(shù)據(jù)已成為信息處理的熱點，當(dāng)大數(shù)據(jù)和機(jī)器學(xué)習(xí)結(jié)合在一起時，可以顯著提高計算機(jī)對數(shù)據(jù)的處理能力和預(yù)測能力。大數(shù)據(jù)與機(jī)器學(xué)習(xí)的結(jié)合，已經(jīng)被廣泛應(yīng)用于網(wǎng)絡(luò)營銷、關(guān)鍵詞搜索、廣告設(shè)計等領(lǐng)域，未來會延伸到更多的領(lǐng)域。

1 大數(shù)據(jù)背景下機(jī)器學(xué)習(xí)的主要問題

與傳統(tǒng)的機(jī)器學(xué)習(xí)相比，大數(shù)據(jù)背景下的機(jī)器學(xué)習(xí)大大擴(kuò)充了學(xué)習(xí)數(shù)據(jù)的數(shù)量，提高了機(jī)器學(xué)習(xí)的準(zhǔn)確性，但與此同時也帶來了很多問題。

首先隨著計算機(jī)硬件技術(shù)的提高以及編程算法的不斷優(yōu)化，數(shù)據(jù)之間的關(guān)系越來越復(fù)雜，例如在海量的數(shù)據(jù)中如何區(qū)分哪些數(shù)據(jù)是有用的，哪些數(shù)據(jù)是冗余的，哪些數(shù)據(jù)會對其他數(shù)據(jù)的運(yùn)行造成干擾和影響，如何將這些數(shù)據(jù)提取出來越來越成為人們難以控制的問題，如何從海量復(fù)雜的數(shù)據(jù)中挖掘出數(shù)據(jù)之間的規(guī)律并發(fā)揮數(shù)據(jù)信息的最大價值成為大數(shù)據(jù)背景下機(jī)器學(xué)習(xí)函待解決的重點，也是大數(shù)據(jù)處理技術(shù)的核心。

大數(shù)據(jù)背景下的機(jī)器學(xué)習(xí)，在理論上，數(shù)據(jù)的數(shù)量越多，數(shù)據(jù)樣本越豐富，計算機(jī)能學(xué)習(xí)的數(shù)據(jù)就越多，機(jī)器學(xué)習(xí)就能訓(xùn)練出更加復(fù)雜的模型，模型的處理信息能力就越強(qiáng)。但在當(dāng)前現(xiàn)實中，規(guī)模宏大的大數(shù)據(jù)給計算機(jī)的機(jī)器學(xué)習(xí)帶來了很多麻煩，例如，在一些復(fù)雜的模型中，隨著數(shù)據(jù)數(shù)量的增加，機(jī)器學(xué)習(xí)過程的計算量可能會產(chǎn)生超線性增長速度，而不是按照相同比例增長，使計算量變得更加復(fù)雜，大大影響了機(jī)器學(xué)習(xí)的速度，使得計算機(jī)新建模型的處理效率變低。因此很多領(lǐng)域經(jīng)常使用簡單的模型去處理大數(shù)據(jù)，盡管有更復(fù)雜準(zhǔn)確的模型。例如在工業(yè)領(lǐng)域機(jī)器學(xué)習(xí)中的分類器常用的有l(wèi)ogistic regression和kernel SVM兩種，前者是比較簡單的線性模型，在創(chuàng)建模型的時候不需要大量的數(shù)據(jù)資源，能高效的進(jìn)行模型訓(xùn)練和數(shù)據(jù)分析預(yù)測；而kernel 屬于較復(fù)雜的分類器，它的模型通常需要大量的數(shù)據(jù)訓(xùn)練才能創(chuàng)建，它的預(yù)測結(jié)果相對來說更加準(zhǔn)確。在工業(yè)領(lǐng)域人們使用最多的是logistic regression分類器，因為如果只是增加數(shù)據(jù)的數(shù)量，而不采用更為復(fù)雜的模型，那么大數(shù)據(jù)背景下的機(jī)器學(xué)習(xí)同傳統(tǒng)的機(jī)器學(xué)習(xí)并沒有本質(zhì)的差別。因此，怎樣使用大數(shù)據(jù)訓(xùn)練出更加復(fù)雜有效的模型也是當(dāng)前機(jī)器學(xué)習(xí)的主要問題，大數(shù)據(jù)背景下訓(xùn)練模型，最大的問題就是計算量大和計算時間長以及計算機(jī)內(nèi)存容量的限制。

2 大數(shù)據(jù)背景下機(jī)器學(xué)習(xí)算法的主要趨勢

在大數(shù)據(jù)背景下去訓(xùn)練復(fù)雜的機(jī)器模型，就應(yīng)該在機(jī)器學(xué)習(xí)算法設(shè)計中解決計算量和計算時間以及內(nèi)存容量的問題。未來大數(shù)據(jù)背景下的機(jī)器學(xué)習(xí)算法設(shè)計主要有三種趨勢：并行算法、在線算法以及近似算法。

2.1 并行算法

解決大數(shù)據(jù)算法問題最主要的方法就是引入并行算法，并行算法是一些可同時執(zhí)行的諸多進(jìn)程的集合，這些進(jìn)程相互作用和協(xié)調(diào)動作從而達(dá)到求出問題的解。在大數(shù)據(jù)的處理中就是將數(shù)據(jù)處理任務(wù)分配到多臺計算機(jī)或者處理器上，這些計算機(jī)或者處理器相互通信和協(xié)作，能快速、高效地求解大型復(fù)雜數(shù)據(jù)樣本的處理。并行算法的處理效率與運(yùn)行時間、處理器數(shù)目、并行算法的成本、總運(yùn)算量和分布式有關(guān)系，分布式并行算法的設(shè)計通常需要具備較高的硬件資源，它需要各種集群計算的資源，通常適合谷歌、微軟等這種計算能力強(qiáng)大的企業(yè)。并行算法和分布式計算是有差別的，不是所有的算法都可以用分布式計算來解決，即使有大量的計算資源。例如，理想狀態(tài)下，用五十臺計算機(jī)做并行計算，會把計算時間縮短至以前的五十分之一，可事實并非如此，實際計算過程中，并行算法很難達(dá)到這種效率。分布式并行算法的設(shè)計不僅僅需要解決存儲量的問題，還需考慮到通信數(shù)據(jù)的多少，數(shù)據(jù)間是否同步等問題。

在大數(shù)據(jù)背景下，內(nèi)存容量是制約計算量的主要因素，如果并行算法可以提前對數(shù)據(jù)特征進(jìn)行識別分類，合理的安排并行的各計算機(jī)去處理分類的數(shù)據(jù)，讓每臺計算機(jī)并行計算時的內(nèi)存消耗低于未并行時的內(nèi)存消耗量，那么并行算法就會顯著提高計算量，縮短計算時間。在并行算法設(shè)計中通常需要考慮選擇同步還是異步處理的問題，如果選擇同步處理，那么在一輪輪的數(shù)據(jù)迭代過程中，每一輪所有的計算機(jī)同步運(yùn)行，先運(yùn)行完成的計算機(jī)要等待后面的計算機(jī)，直到全部計算機(jī)完成這一輪的迭代過程，這種迭代方式會降低數(shù)據(jù)處理的效率，因此在并行計算中通常使用異步算法設(shè)計，即計算機(jī)完成每一次迭代后可以繼續(xù)去計算。

2.2 在線算法

傳統(tǒng)的機(jī)器學(xué)習(xí)算法通常在每一輪訓(xùn)練完成后，用所有的數(shù)據(jù)去重新更新模型，使得每次更新的計算量很大。而在線算法是當(dāng)前機(jī)器學(xué)習(xí)的另一項發(fā)展趨勢，在線算法在每一輪數(shù)據(jù)訓(xùn)練完成后，只用少量的有用的數(shù)據(jù)去更新模型，這樣使計算量變小，機(jī)器的內(nèi)存消耗變小，提高模型創(chuàng)建效率。隨機(jī)優(yōu)化算法是在線算法的一種變體，它的設(shè)計思想與在線算法一樣，雖然經(jīng)過迭代訓(xùn)練計算機(jī)已經(jīng)獲取了數(shù)據(jù)，但每一輪模型更新只會隨機(jī)選擇少量的數(shù)據(jù)來創(chuàng)建新模型，隨機(jī)優(yōu)化算法已經(jīng)在大數(shù)據(jù)處理過程中被使用。

2.3 近似算法

矩陣分解是機(jī)器學(xué)習(xí)中的難點，因為機(jī)器學(xué)習(xí)中很多算法及模型都需要進(jìn)行各種矩陣分解，分解的時間通常與樣本數(shù)據(jù)的平方成正比，在大數(shù)據(jù)背景下，面對海量的數(shù)據(jù)，如果不能高效率的進(jìn)行矩陣分解，那么機(jī)器學(xué)習(xí)就不能用來解決大數(shù)據(jù)問題。

一種有效的處理大規(guī)模矩陣分解的方式就是隨機(jī)算法，隨機(jī)算法是找出大矩陣的近似矩陣，近似矩陣通常是小矩陣，它具有和大矩陣相似的性質(zhì)，對近似矩陣快速地進(jìn)行矩陣分解等操作，得出近似矩陣的分解結(jié)果，把近似矩陣的分解結(jié)果等同于大矩陣的分解結(jié)果。這種近似的計算已經(jīng)被越來越多的實驗證明是非常準(zhǔn)確的，因此很多近似算法已成為處理大數(shù)據(jù)的機(jī)器學(xué)習(xí)過程中非常高效且有前景的方法。

3 結(jié)語

在大數(shù)據(jù)背景下，機(jī)器學(xué)習(xí)的未來變得更加光明。然而，機(jī)器學(xué)習(xí)并不僅僅是利用海量的數(shù)據(jù)去訓(xùn)練模型，而是逐步把大數(shù)據(jù)用在復(fù)雜模型的訓(xùn)練和創(chuàng)建中。并行算法、分布式算法、在線算法和近似算法都為大數(shù)據(jù)下的機(jī)器學(xué)習(xí)的提供了幫助，未來，機(jī)器學(xué)習(xí)將會更加高效地處理大數(shù)據(jù)。

[1]孫凱.大數(shù)據(jù)背景下機(jī)器學(xué)習(xí)在數(shù)據(jù)挖掘中的應(yīng)用淺析[J].科學(xué)技術(shù)創(chuàng)新,2018.

[2]馬巍巍,殷鳳梅,張江.大數(shù)據(jù)背景下機(jī)器學(xué)習(xí)并行算法研究[J].電子技術(shù)與軟件工程,2018.

[3]李成錄.大數(shù)據(jù)背景下機(jī)器學(xué)習(xí)算法的綜述[J].信息記錄材料,2018.

[4]王凌.大數(shù)據(jù)背景下的機(jī)器學(xué)習(xí)算法簡述[J].數(shù)字傳媒研究,2017.

[5]朱巍,陳慧慧,田思媛,王紅武.人工智能:從科學(xué)夢到新藍(lán)?！斯ぶ悄墚a(chǎn)業(yè)發(fā)展分析及對策[J].科技進(jìn)步與對策,2016.

[6]吳元立,司光亞,羅批.人工智能技術(shù)在網(wǎng)絡(luò)空間安全防御中的應(yīng)用[J].計算機(jī)應(yīng)用研究,2015.