国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

探究數(shù)據(jù)挖掘取樣方法

2016-12-06 12:54:15鄧雍嫻
新教育時(shí)代·教師版 2016年26期
關(guān)鍵詞:數(shù)據(jù)挖掘方法

鄧雍嫻

摘 要:所謂取樣就是從目標(biāo)物品或數(shù)據(jù)中選擇具有典型代表性的樣本,并且該樣本具備通用的特點(diǎn)。取樣方法可有效減小需要進(jìn)行處理的數(shù)據(jù)集的規(guī)模,為在大規(guī)模的數(shù)據(jù)處理過程中使用數(shù)據(jù)挖掘計(jì)算方式提供了基礎(chǔ)條件。本文主要對數(shù)據(jù)挖掘的取樣方式進(jìn)行了研究,并探索了取樣在實(shí)際生活和研究中的應(yīng)用。

關(guān)鍵詞:數(shù)據(jù)挖掘 數(shù)據(jù)取樣 方法

近年來,數(shù)據(jù)庫技術(shù)取得了長足的發(fā)展,數(shù)據(jù)庫中存儲(chǔ)的數(shù)據(jù)量日漸增加,這就導(dǎo)致傳統(tǒng)的數(shù)據(jù)挖掘方式已經(jīng)無法滿足現(xiàn)代化數(shù)據(jù)庫發(fā)展的要求。在數(shù)據(jù)挖掘的過程中,只有保證挖掘方法具有科學(xué)性和創(chuàng)新性,才能有效減少數(shù)據(jù)挖掘計(jì)算的時(shí)間,提升數(shù)據(jù)挖掘效率。[1]

一、數(shù)據(jù)挖掘取樣方法

取樣技術(shù)是當(dāng)前世界范圍內(nèi)最通用的一種近似技術(shù),在處理大規(guī)模數(shù)據(jù)工作中應(yīng)用非常廣泛。現(xiàn)階段數(shù)據(jù)挖掘研究的核心內(nèi)容是概要結(jié)構(gòu)的設(shè)計(jì),而取樣技術(shù)本身具備的伸縮性以及靈活性,與其他技術(shù)相比是獨(dú)特的,這就使取樣技術(shù)成為能夠構(gòu)建數(shù)據(jù)流概要結(jié)構(gòu)的重要技術(shù)之一。[2]

以各個(gè)數(shù)據(jù)項(xiàng)被選擇的概率為依據(jù),可將取樣方法分成均勻取樣,即各個(gè)數(shù)據(jù)項(xiàng)被選擇的概率一致;和偏倚取樣,即各個(gè)數(shù)據(jù)項(xiàng)被選擇的概率不一致。

1.具有代表性的取樣方法

(1)A/R Sampling

A/R Sampling進(jìn)行的首要步驟是通過某一種計(jì)算方式在數(shù)據(jù)集中隨機(jī)抽選一個(gè)備選的元素,其次是將被選中的備選元素與選擇條件進(jìn)行對比,若備選元素與選擇條件相符合,則需將其放置于樣本集中,即acceptance;若與選擇條件不相符,則需拒絕,即rejection;然后從第一個(gè)步驟開始重新來過。

(2)精確取樣

在樣本集中出現(xiàn)僅有一次的元素應(yīng)該使用元素代碼進(jìn)行表示,出現(xiàn)多次的元素應(yīng)該使用value,counto表示,value代表元素代碼,counto代表數(shù)量。在樣本集中添加元素時(shí),若該元素已存在于樣本集中時(shí),應(yīng)該在目錄的相應(yīng)元素后加1,若該元素尚未被收集到樣本集內(nèi),則可進(jìn)行直接收取。樣本集中存儲(chǔ)的元素已經(jīng)超過標(biāo)準(zhǔn)值時(shí),需要對各個(gè)元素的原有參數(shù)與現(xiàn)有參數(shù)進(jìn)行對比,并選擇其中一個(gè)將其刪除,保證新數(shù)據(jù)有存放的空間。

(3)計(jì)數(shù)取樣

該種取樣方式是通過精確取樣演變而來的,變化主要體現(xiàn)在樣本集中元素?cái)?shù)量已滿時(shí),對溢出元素的處理方式。計(jì)數(shù)取樣在處理溢出元素情況時(shí),不僅需要將元素的原有參數(shù)與現(xiàn)有參數(shù)進(jìn)行對比,計(jì)算原、現(xiàn)參數(shù)之間的比率,利用現(xiàn)參數(shù)分之一對是否將元素刪除進(jìn)行判斷,若其中的一個(gè)數(shù)據(jù)的計(jì)數(shù)值為0時(shí),無需進(jìn)行該數(shù)據(jù)的操作。

二、數(shù)據(jù)挖掘取樣方法的應(yīng)用與發(fā)展

1.應(yīng)用成功案例

數(shù)據(jù)挖掘取樣技術(shù)在現(xiàn)實(shí)生活中應(yīng)用的成功案例有很多,其中包括:第一,常用于商業(yè)數(shù)據(jù)統(tǒng)計(jì)的SAS、SPSS數(shù)據(jù)處理軟件等,可使用均勻取樣方式對大規(guī)模的數(shù)據(jù)集進(jìn)行有效處理;第二,數(shù)據(jù)概要結(jié)構(gòu)構(gòu)建過程中使用的基礎(chǔ)取樣技術(shù),如Backing Sample計(jì)算技術(shù);第三,在數(shù)據(jù)挖掘計(jì)算方式中可以利用均勻取樣方式完成CURE和CLARANS的數(shù)據(jù)預(yù)處理,實(shí)現(xiàn)數(shù)據(jù)挖掘計(jì)算技術(shù)的擴(kuò)展。

2.數(shù)據(jù)挖掘取樣技術(shù)的發(fā)展

(1)傳統(tǒng)取樣技術(shù)的發(fā)展

有窮非負(fù)數(shù)數(shù)列的評估方法中就包括自適應(yīng)取樣,該取樣方式在數(shù)據(jù)挖掘中選取的樣本大小可調(diào)節(jié),有效減小取樣大小對數(shù)據(jù)結(jié)果造成的誤差。

兩階段取樣方式可有效降低取樣的成本。比如,在對象集X中進(jìn)行Y取樣的代價(jià)過高,就可以利用選取一些取樣輔助變量P的方式降低取樣代價(jià)。兩階段取樣方式的具體應(yīng)用流程為,首先完成對象集X中的大尺寸W的取樣工作,從樣本W(wǎng)中提取出輔助變量P;其次,通過已掌握的P的數(shù)據(jù)信息在W中提出數(shù)據(jù);最后通過以上步驟中的取值保證指定的取樣值Y的取樣,并且能夠提升Y的準(zhǔn)確性,以此完成取樣工作。[3]

(2)數(shù)據(jù)流中取樣技術(shù)的發(fā)展

數(shù)據(jù)流中的數(shù)據(jù)流管理和挖掘兩方面會(huì)涉及到取樣技術(shù)。第一,數(shù)據(jù)流的模型處理工作中,數(shù)據(jù)概要結(jié)構(gòu)的生成會(huì)使用到計(jì)數(shù)取樣和水庫取樣等取樣技術(shù);第二,在數(shù)據(jù)流中查詢近似聚集數(shù)據(jù)時(shí)會(huì)使用到國會(huì)取樣以及Distinct Sampling等取樣技術(shù);第三,數(shù)據(jù)流的查詢、分類、評價(jià)以及在線分析等多項(xiàng)工作中都會(huì)使用到偏倚取樣技術(shù)。

(3)取樣技術(shù)面臨的挑戰(zhàn)

現(xiàn)行的取樣技術(shù)存在的不足主要體現(xiàn)在數(shù)據(jù)流管理中,在小規(guī)模樣本集中提取的數(shù)據(jù)準(zhǔn)確性不足,在空間條件以及準(zhǔn)確性的有限制的情況下,樣本尺寸具有不確定性;與標(biāo)模界的取樣技術(shù)相比,數(shù)據(jù)流管理中使用的取樣技術(shù)略不成熟,存在附加成本較高、滑動(dòng)窗口的面積過小等缺陷。

結(jié)語

計(jì)算機(jī)技術(shù)的發(fā)展推動(dòng)了數(shù)據(jù)挖掘計(jì)算方法的創(chuàng)新,數(shù)據(jù)挖掘離不開取樣技術(shù)。多項(xiàng)研究證明取樣技術(shù)在當(dāng)前的大規(guī)模數(shù)據(jù)庫查詢、優(yōu)化以及近似處理中發(fā)揮了重要作用,廣泛應(yīng)用于數(shù)據(jù)挖掘計(jì)算的數(shù)據(jù)信息預(yù)處理中,但是取樣技術(shù)成就存在一些不足,這就需要我們對其進(jìn)行更深層次的研究,改善或消除其中的缺陷,促進(jìn)取樣技術(shù)的發(fā)展。

參考文獻(xiàn)

[1]張成叔.關(guān)于數(shù)據(jù)挖掘取樣方式的若干分析[J].赤峰學(xué)院學(xué)報(bào)(自然科學(xué)版),2014(09).

[2]陳陽.數(shù)據(jù)挖掘取樣方法研究[J].城市建設(shè)理論研究(電子版),2013(22).

[3]胡文瑜,蔡文培.數(shù)據(jù)挖掘取樣方法的衡量與選用研究[J].福建工程學(xué)院學(xué)報(bào),2011(04).

猜你喜歡
數(shù)據(jù)挖掘方法
探討人工智能與數(shù)據(jù)挖掘發(fā)展趨勢
學(xué)習(xí)方法
基于并行計(jì)算的大數(shù)據(jù)挖掘在電網(wǎng)中的應(yīng)用
電力與能源(2017年6期)2017-05-14 06:19:37
數(shù)據(jù)挖掘技術(shù)在中醫(yī)診療數(shù)據(jù)分析中的應(yīng)用
可能是方法不對
用對方法才能瘦
Coco薇(2016年2期)2016-03-22 02:42:52
一種基于Hadoop的大數(shù)據(jù)挖掘云服務(wù)及應(yīng)用
四大方法 教你不再“坐以待病”!
Coco薇(2015年1期)2015-08-13 02:47:34
賺錢方法
捕魚
同江市| 察雅县| 姜堰市| 江西省| 金山区| 邯郸县| 山阳县| 新干县| 铜川市| 冷水江市| 讷河市| 永康市| 开封市| 桂林市| 宕昌县| 天台县| 福泉市| 米泉市| 车险| 班玛县| 剑河县| 广丰县| 上思县| 武陟县| 安义县| 涿鹿县| 汽车| 横山县| 贵定县| 屏南县| 武安市| 寿宁县| 古交市| 新郑市| 会泽县| 满洲里市| 石家庄市| 商丘市| 阳谷县| 河池市| 鲁山县|