楊寧芳

(1.西南大學邏輯與智能研究中心，重慶 400716;2.中國計量學院，杭州 310018)

歸納邏輯視野下的數(shù)據(jù)挖掘研究綜述

楊寧芳1，2

(1.西南大學邏輯與智能研究中心，重慶 400716;2.中國計量學院，杭州 310018)

對歸納邏輯思想在數(shù)據(jù)挖掘中的應用研究進行了綜述。國外的研究主要集中在人工智能方面，重點是高階歸納邏輯研究，通過多態(tài)歸納邏輯、機器學習等方面發(fā)展了歸納邏輯理論。國內(nèi)的研究集中在知識發(fā)現(xiàn)方面，例如通過研究關(guān)聯(lián)規(guī)則等探討知識發(fā)現(xiàn)的內(nèi)在機理。相對來說，國外的發(fā)展更偏重于應用領(lǐng)域，而國內(nèi)也在不斷擴展歸納邏輯的理論應用，但在數(shù)據(jù)挖掘領(lǐng)域研究仍然偏少。

歸納邏輯;數(shù)據(jù)挖掘;知識發(fā)現(xiàn);人工智能

主持人語:中國邏輯學會秘書長 鄒崇理研究員

本期的“邏輯學與科學方法論”欄目收錄的兩篇論文分別是關(guān)于邏輯哲學理論的闡述與邏輯方法應用之探析的。楊寧芳博士的《歸納邏輯視野下的數(shù)據(jù)挖掘研究綜述》一文系統(tǒng)梳理了國內(nèi)外學界對于歸納邏輯思想在數(shù)據(jù)挖掘領(lǐng)域應用的研究，并總結(jié)了該研究在理論與實踐中的意義。陳昱竹的《蒯因論邏輯真理》一文則關(guān)注于邏輯哲學的核心——邏輯真理，該文在梳理萊布尼茨到維特根斯坦等前輩學者對邏輯真理的論述的基礎(chǔ)上，系統(tǒng)地介紹了蒯因從結(jié)構(gòu)、代換、模型、證明和語法上對邏輯真理作出的不同于以往的闡釋。

一、歸納邏輯與數(shù)據(jù)挖掘的發(fā)展

科學發(fā)展史表明，歸納邏輯在推動科技進步、促進科技發(fā)展方面起著巨大作用，自然科學的經(jīng)驗定律、經(jīng)驗公式大都是應用歸納法總結(jié)出來的。隨著信息技術(shù)的發(fā)展，歸納邏輯在計算機應用方面得到了廣泛的發(fā)展，例如歸納邏輯與知識創(chuàng)新，歸納邏輯與人工智能，歸納邏輯與認知科學，歸納邏輯與科學決策，以及從應用歸納邏輯角度對人類思維的認知基礎(chǔ)與方法進行系統(tǒng)的研究等。知識發(fā)現(xiàn)與數(shù)據(jù)挖掘作為互聯(lián)網(wǎng)及相關(guān)產(chǎn)業(yè)的核心技術(shù)，有著廣泛的應用領(lǐng)域和發(fā)展前景，因此歸納邏輯和數(shù)據(jù)挖掘及知識發(fā)現(xiàn)的研究有著巨大的理論價值和應用價值。

數(shù)據(jù)日益增多的現(xiàn)實推動了數(shù)據(jù)挖掘和知識發(fā)現(xiàn)技術(shù)空前的繁榮。從保健管理到社群網(wǎng)相互作用，數(shù)據(jù)已經(jīng)成為我們生活的組成部分。數(shù)據(jù)挖掘(Data Mining)就是從大量的、不完全的、有噪聲的、模糊的、隨機的實際應用數(shù)據(jù)中，提取隱含在其中的、人們事先不知道的但又是潛在有用的信息和知識的過程。該技術(shù)根據(jù)人們的特定要求，從浩如煙海的數(shù)據(jù)中找出所需的信息來，供人們的特定需求使用。從理論上說，數(shù)據(jù)挖掘就是在操作者的主動參與下進行知識發(fā)現(xiàn)的過程。知識發(fā)現(xiàn)是指在積累了大量的數(shù)據(jù)后，從中識別出有效的、新穎的、潛在的、最終可以理解并加以有目的運用的知識，該技術(shù)是信息化社會發(fā)展到一定程度的必然產(chǎn)物，是從宏觀角度利用積累數(shù)據(jù)進行知識抽象的高級階段。而歸納邏輯是指人們以一系列經(jīng)驗事物或知識素材為依據(jù)，尋找出其服從的基本規(guī)律或共同規(guī)律，并假設同類事物中的其他事物也服從這些規(guī)律，從而將這些規(guī)律作為預測同類事物中的其他事物的基本原理的一種認知方法。從歸納邏輯和數(shù)據(jù)挖掘的定義來看，兩者之間存在著某種必然的聯(lián)系。兩者的聯(lián)系到底體現(xiàn)在哪些方面?如何將已有的歸納邏輯理論應用到數(shù)據(jù)挖掘中，從而為數(shù)據(jù)挖掘提供新的思路和新的技術(shù)和方法?這些問題的研究都具有很高的理論意義和現(xiàn)實意義。

據(jù)國外專家預測，隨著數(shù)據(jù)量的日益積累和計算機的廣泛應用，在今后的5至10年，數(shù)據(jù)挖掘?qū)⒃谥袊纬梢粋€新型的產(chǎn)業(yè)，應用領(lǐng)域包括設計、零售、金融、銀行、醫(yī)療、政府決策、企業(yè)財務、商業(yè)決策等，具有廣闊的發(fā)展前景。應用歸納邏輯提升數(shù)據(jù)挖掘在相關(guān)領(lǐng)域的技術(shù)和方法，不僅具有實用價值而且具有巨大的經(jīng)濟價值。如果能夠找到新的數(shù)據(jù)挖掘技術(shù)和方法，將帶來非常大的經(jīng)濟利益。

隨著人們認識與研究的深化，尤其是現(xiàn)代科技和社會的發(fā)展、信息化時代的到來，人們原有的對問題的描述處理工具和方法受到嚴峻挑戰(zhàn)，現(xiàn)實要求研究必須是經(jīng)驗與理性的結(jié)合，必須以現(xiàn)實世界的實際問題為出發(fā)點，而不是以公理為出發(fā)點，因而歸納邏輯的作用顯得尤為突出。這在人工智能、知識工程、虛擬技術(shù)、網(wǎng)絡化和數(shù)據(jù)挖掘等的需求中充分地表現(xiàn)了出來。以人工智能研究為例，誠然，演繹邏輯是計算機科學的理論基礎(chǔ)，但人工智能研究卻離不開歸納邏輯?？梢哉f，沒有歸納邏輯，特別是沒有現(xiàn)代歸納邏輯，就沒有人工智能研究。在人工智能研究過程中，一些計算機專家不得不踏入歸納邏輯領(lǐng)域，從而也推動了歸納邏輯理論的進一步發(fā)展，同樣，歸納邏輯理論也必然會推動數(shù)據(jù)挖掘技術(shù)和方法的探索。

目前，歸納邏輯研究的重點正從理論體系構(gòu)建逐漸轉(zhuǎn)向?qū)嶋H應用。本文沿襲這一發(fā)展趨勢，通過研究歸納邏輯，為數(shù)據(jù)挖掘技術(shù)提供新的理論支持，同時為邏輯學界擴展了一個新的應用領(lǐng)域，為歸納邏輯的發(fā)展提供了動力。通過將歸納邏輯理論應用于數(shù)據(jù)挖掘以及知識發(fā)現(xiàn)中，以及將計算機邏輯和人腦邏輯之間的運行機制進行比較，必將對數(shù)據(jù)挖掘算法的研究產(chǎn)生影響，推動其更新。

二、國外研究現(xiàn)狀

20世紀40年代到70年代是國外歸納邏輯蓬勃發(fā)展的時期，現(xiàn)代歸納邏輯分成了四大派別，即經(jīng)驗主義學派、邏輯貝葉斯主義學派、主觀貝葉斯學派(頻率學派、邏輯學派)和私人主義學派。這一階段取得了很多成果，也遇到了不少難題，隨后邏輯學界對歸納邏輯的研究逐漸減弱。80年代之后人工智能的學者進入了這個領(lǐng)域，他們汲取邏輯學的思想精華，不斷推出新的成果，為歸納邏輯的研究帶來了生機和活力。人工智能領(lǐng)域機器學習的核心是歸納學習問題，與歸納邏輯有關(guān)的機器學習方式主要有:示例學習、基于說明的學習、啟發(fā)式學習、類比學習、聯(lián)結(jié)主義學習等。這些方面的研究使人們重新開始重視歸納邏輯的相關(guān)研究。

國外新的歸納邏輯理論研究較少，只有Jürgen Landes、Jeff Paris和 Alena Vencovská介紹了多態(tài)歸納邏輯，提出一些de Finetti風格的、滿足譜交換的概率函數(shù)［1］。目前大部分最新的研究集中在高階歸納邏輯程序和數(shù)據(jù)挖掘的研究方面。歸納邏輯與歸納邏輯程序在研究對象上是一致的，都以歸納為研究對象。只不過歸納邏輯側(cè)重于歸納推理，強調(diào)理論研究，它的目標主要是追求理論上的協(xié)調(diào)與完美;而歸納邏輯程序設計則側(cè)重于模擬人類最初的歸納思想，也即亞里士多德提出的從個別到一般的過程，它以實用性和效益為出發(fā)點，例如運用高階歸納邏輯程序設計以解決形式相關(guān)的數(shù)據(jù)挖掘方法存在的問題。例子、背景知識、假設和目標的概念都可用于高階邏輯程序設計語言。這種程序設計語言能夠描述復雜數(shù)據(jù)所表達的語意和模式，明確地支持包括圖形在內(nèi)的各種不同的數(shù)據(jù)類型。

David、Skillicorn和Yu Wang提出歸納邏輯是機器學習與邏輯程序的交叉點，其應用越來越廣泛，對數(shù)據(jù)挖掘的方法有很好的指導意義［2］。他們認為可以從實例提煉歸納邏輯研究構(gòu)架，從子句提供邏輯。這樣就提供了一個統(tǒng)一的表現(xiàn)形式和表達手段的例子、背景知識。而由此引起的理論都是表達的一階邏輯。這樣一種富于表現(xiàn)力的表達非常重要，所以人們會很自然地考慮運用平行度提高歸納邏輯數(shù)據(jù)挖掘的性能。他們提出一個并行化技術(shù)，并實施了一個核心歸納邏輯程序設計系統(tǒng):Progol。該技術(shù)提供了一個最理想的分割計算數(shù)據(jù)訪問和交流需求的手段，使線性加速很容易實現(xiàn)。同時他們還討論，為什么信息流程的技術(shù)允許在多個數(shù)據(jù)集的性能結(jié)果和平臺報道中使用線性加速標準序列的算法。

Luc de Raedt提出值得注意的幾個問題，推理涉及不確定性、數(shù)據(jù)挖掘、機器模擬學習。他重點介紹基于邏輯編程方法的原則［3］。他關(guān)心形式化和系統(tǒng)、實現(xiàn)和應用，以及理論歸納邏輯程序設計的概率。他同時介紹了概率歸納邏輯程序;而且詳細介紹了機器學習中最重要的概率邏輯關(guān)系的形式化和系統(tǒng)等技術(shù)，并應用馬爾可夫的邏輯、棱鏡系統(tǒng)、貝葉斯邏輯程序、自主選擇的邏輯進行程序設計。

哲學邏輯的發(fā)展中，模態(tài)邏輯、道義邏輯、多值邏輯，包括量子邏輯越來越受到關(guān)注。而歸納邏輯相對關(guān)注度在下降，目前歸納邏輯思想主要體現(xiàn)在歸納邏輯程序設計、人工智能、知識發(fā)現(xiàn)等方面。數(shù)據(jù)挖掘則建立在高階的歸納邏輯程序設計的基礎(chǔ)上。

三、國內(nèi)研究現(xiàn)狀

與國外相比，國內(nèi)對數(shù)據(jù)挖掘的研究起步稍晚，沒有形成整體力量。1993年國家自然科學基金首次支持該領(lǐng)域的研究項目。目前，國內(nèi)的許多科研單位和高等院校競相開展知識發(fā)現(xiàn)的基礎(chǔ)理論及應用研究。其中，北京系統(tǒng)工程研究所對模糊方法在知識發(fā)現(xiàn)中的應用進行了較深入的研究;北京大學也在開展對數(shù)據(jù)立方體代數(shù)的研究;華中理工大學、復旦大學、浙江大學、中國科學技術(shù)大學、中科院數(shù)學研究所、吉林大學等單位開展了對關(guān)聯(lián)規(guī)則開采算法的優(yōu)化和改造;南京大學、四川大學和上海交通大學等單位探討、研究了非結(jié)構(gòu)化數(shù)據(jù)的知識發(fā)現(xiàn)以及Web數(shù)據(jù)挖掘。

國內(nèi)在歸納邏輯和計算機技術(shù)結(jié)合方面，王雨田首先倡導并開展了概率邏輯與人工智能相結(jié)合的研究。他提出將現(xiàn)代歸納邏輯與人工智能“嫁接”起來的設想，并建立了一個包括邏輯工作者和計算機工作者的課題組。我國學者鞠實兒、陳煒、陳曉平、韓建超等在這方面做了大量的工作。其他學者包括任曉明、何向東、桂起權(quán)、熊立文、楊炳儒等也在這方面取得了相關(guān)的研究成果。

桂起權(quán)認為，經(jīng)典邏輯(尤其是歸納邏輯)的研究已經(jīng)進入新階段，不僅突破了經(jīng)典演繹邏輯的狹隘眼界，而且開始突破純粹邏輯學家的圈子，計算機人工智能研究者已經(jīng)加盟于歸納邏輯知識創(chuàng)新的事業(yè)。歸納邏輯學者不再僅僅滿足于公理系統(tǒng)的抽象的形式美，而是更多地考慮人工智能應用研究的新特點和新要求，并與之接軌。在科學哲學、人工智能和歸納邏輯的交叉點上已經(jīng)出現(xiàn)了一個新的研究領(lǐng)域。

劉宏嵐、高慶獅、楊炳儒提出:標準概率邏輯系統(tǒng)是標準概率空間的邏輯表示。其中命題是隨機事件的語言表示，命題的真值是命題所表示的事件的概率，真值滿足概率的公理化定義，具有概率的一切性質(zhì);命題間的關(guān)系是命題所表示的事件間的關(guān)系;命題的邏輯運算是事件運算的邏輯表示。概率邏輯中，命題或命題公式間的相等關(guān)系有兩個層面:等值和等義。其中等值就是真值相等［4］。

崔陽、楊炳儒提出關(guān)聯(lián)規(guī)則挖掘一直是數(shù)據(jù)挖掘領(lǐng)域中最重要、最活躍的研究內(nèi)容之一［5］。關(guān)聯(lián)規(guī)則描述事物之間的關(guān)聯(lián)性，但是通過支持度和置信度這兩個評價標準可知，關(guān)聯(lián)規(guī)則的挖掘過程中僅僅關(guān)注聯(lián)合概率表的一部分，因此存在著無法完全反映出事物間相關(guān)性的缺點。針對這一問題，研究者通常采取一些關(guān)聯(lián)分析方法，對得到的關(guān)聯(lián)規(guī)則挖掘結(jié)果作進一步分析，以便盡可能多地獲取有意義的和用戶感興趣的規(guī)則，但尚不能完全克服上述缺點。

因果關(guān)聯(lián)規(guī)則是一類特殊的關(guān)聯(lián)規(guī)則，指規(guī)則的前件與后件之間存在因果關(guān)系，由于“因”的出現(xiàn)而導致“果”的發(fā)生。因果關(guān)聯(lián)規(guī)則與一般關(guān)聯(lián)規(guī)則的不同之處在于:前者規(guī)則的前件與后件之間不但具有關(guān)聯(lián)性，而且具有因果性;前者可以使用較為完備的推理機制進行推理。有關(guān)因果關(guān)聯(lián)規(guī)則的挖掘，目前專門的研究還不是很多。但實際上因果關(guān)聯(lián)規(guī)則是知識發(fā)現(xiàn)中一個重要的知識類型，它能夠反應客觀事物之間更為本質(zhì)和內(nèi)在的聯(lián)系。之所以選擇廣義歸納邏輯因果模型，主要是考慮到其具備較好的歸納推理機制，有利于在此基礎(chǔ)上形成不確定性因果歸納推理的計算模型和自動推理機制。

李琳娜、楊炳儒提出，邏輯的復雜結(jié)構(gòu)歸納學習方法的成果最早見于基于一階邏輯知識表示方式歸納邏輯程序設計(Inductire Logic Programming，LIP)，繼而出現(xiàn)了基于高階邏輯的復雜結(jié)構(gòu)學習方法［6］。基于高階邏輯的復雜結(jié)構(gòu)學習方法涵蓋并拓展了基于一階邏輯知識表示方式的ILP方法的學習能力。他們首先介紹基于一階邏輯知識表示方式的ILP方法，然后在分析一階邏輯與高階邏輯知識表示方式及其學習機制之間區(qū)別和聯(lián)系的基礎(chǔ)上，介紹基于高階邏輯的復雜結(jié)構(gòu)學習方法。目前，ILP已經(jīng)在知識獲取、科學發(fā)現(xiàn)以及邏輯程序設計方面取得了許多重要成果。

梁開健、梁泉、楊炳儒提出隨著數(shù)據(jù)量的海量擴張、數(shù)據(jù)類型的復雜化，矛盾知識的問題越發(fā)突出，成為KDD領(lǐng)域中一個亟待解決的問題［7］。通過對知識發(fā)現(xiàn)內(nèi)在機理的研究，探討在動態(tài)的知識發(fā)現(xiàn)過程中矛盾知識的產(chǎn)生原因以及矛盾區(qū)間的求解方法，對解決當前所面臨的若干難題將具有一定的理論和實踐意義。

四、國內(nèi)外研究之比較

從對國外和國內(nèi)的研究現(xiàn)狀的梳理可以看出，國外研究主要集中于高階歸納邏輯程序設計方面，以實際應用為主。國內(nèi)學者也開始注重歸納邏輯的應用問題，目前主要將歸納邏輯應用于人工智能和知識發(fā)現(xiàn)，但很多研究都是介紹性的，缺乏具體的應用實例。而我們想將數(shù)據(jù)挖掘這一目前熱門的應用問題和歸納邏輯理論結(jié)合起來，相對來說，國內(nèi)外相關(guān)研究仍舊較少。通過對這個問題的研究，希望能推動我國數(shù)據(jù)挖掘方法和技術(shù)的進一步發(fā)展，將歸納邏輯理論應用于數(shù)據(jù)挖掘中，從而使其更好地應用于實踐。

五、在歸納邏輯的視野下研究數(shù)據(jù)挖掘的創(chuàng)新之處

1.理論上的創(chuàng)新

首先，相關(guān)研究從歸納邏輯和數(shù)據(jù)挖掘的角度分別深入研究了兩者的特征，對數(shù)據(jù)挖掘的理論基礎(chǔ)進行了總結(jié)概括，探討了如何將已有的歸納邏輯理論應用于數(shù)據(jù)挖掘。研究涉及凱恩斯類比理論在數(shù)據(jù)挖掘中的應用，萊辛巴赫、卡爾納普的歸納邏輯思想，勃克斯歸納邏輯機器哲學在數(shù)據(jù)挖掘中的體現(xiàn)，以及科恩的歸納邏輯理論在數(shù)據(jù)挖掘中的應用和馮賴特的條件化歸納邏輯與數(shù)據(jù)挖掘。研究思路主要是試圖通過對歸納邏輯思想的探討，挖掘出有價值的方法將其應用于數(shù)據(jù)挖掘。這些研究領(lǐng)域和研究內(nèi)容都具有創(chuàng)新性。

其次，數(shù)據(jù)挖掘研究為歸納邏輯的理論發(fā)展提供了重要的支持。歸納邏輯的研究方法可以借助于數(shù)據(jù)挖掘搜集數(shù)據(jù)的方法，數(shù)據(jù)挖掘應用可以對歸納邏輯理論進行評價和判斷。數(shù)據(jù)挖掘產(chǎn)生的新問題，可以用歸納邏輯理論進行解釋和說明。數(shù)據(jù)挖掘的算法和技術(shù)對歸納邏輯方法的進步也有重要作用。通過我們的研究，最終將為豐富和發(fā)展歸納邏輯理論提供一定的思路。

2.技術(shù)上的創(chuàng)新

基于歸納邏輯視野下的數(shù)據(jù)挖掘豐富和發(fā)展了現(xiàn)有的數(shù)據(jù)挖掘的技術(shù)模式。一方面優(yōu)化了現(xiàn)有的方法，另一方面也為新的數(shù)據(jù)挖掘技術(shù)方法的出現(xiàn)奠定了基礎(chǔ)。從歸納邏輯的視野研究計算機技術(shù)，目前主要在人工智能領(lǐng)域應用較多。我們將其應用于數(shù)據(jù)挖掘以及知識發(fā)現(xiàn)必將豐富和發(fā)展數(shù)據(jù)挖掘技術(shù)和方法，在技術(shù)上進一步推進相關(guān)領(lǐng)域的研究的發(fā)展。

［1］Jürgen Landes，Jeff Paris，Alena Vencovská.Some Aspects of Polyadic Inductive Logic［J］.Studia logica，2008，90(1):17 －23.

［2］David B，Skillicorn，Yu Wang.Parallel and Sequential Algorithms for Data Mining Using Inductive Logic［J］.Knowledge and Information Systems，2001，3(11):405－421.

［3］Raedt Luc de.Inductive Logic Programming ［M］.［S.l.］:springer verlag gmbh，2011.

［4］劉宏嵐，高慶獅，楊炳儒.概率命題邏輯中命題相等關(guān)系的兩個層面與命題演算［J］.哲學研究，2009(10):113－120.

［5］崔陽，楊炳儒.知識發(fā)現(xiàn)中的因果關(guān)聯(lián)規(guī)則挖掘研究［J］.計算機工程與應用，2009(31):9 －11.

［6］李琳娜，楊炳儒.復雜結(jié)構(gòu)歸納學習研究［J］.計算機工程與應用，2008(5):1－6.

［7］梁開健，梁泉，楊炳儒.動態(tài)KDD過程中矛盾規(guī)則的研究［J］.計算機應用研究，2006(1):79 －81.

Data Mining from the Perspective of Inductive Logic

YANG Ning-fang1，2
(1.Logic and Intelligence Center，Southwest University，Chongqing 400716，China;2.China Jiliang University，Hangzhou 310018，China)

The induction logic thought in data mining application of relevant research is reviewed in this paper.Foreign researches mainly focus on artificial intelligence，and the major point is the high order induction logic research.Through polymorphism inductive logic，machine learning，etc.，the inductive logic theory is developed.The domestic research focuses on the knowledge discovery，such as the formulation of association rules and discusses the inner mechanism of knowledge discovery.Relatively speaking，foreign development puts more stress on the fields of application;and the application of the inductive logic theory is also expanding domestically，but in data mining field，the study is still inadequate.

inductive logic;data mining;knowledge discovery;artificial intelligence

B81

A

1674－8425(2012)05－0006－04

2012－02－29

楊寧芳(1970—)，女，浙江仙居人，哲學博士，副教授，碩士生導師，研究方向:論證理論。

(責任編輯 王烈琦)