張師超, 李佳燁
(1.廣西師范大學(xué) 計(jì)算機(jī)科學(xué)與工程學(xué)院, 廣西 桂林 541004; 2.中南大學(xué) 計(jì)算機(jī)學(xué)院, 湖南 長沙 410083)
當(dāng)前,人工智能迎來了第3次發(fā)展熱潮,主要?dú)w功于大數(shù)據(jù)資源的利用需求增長和深度學(xué)習(xí)技術(shù)的突破[1]。嚴(yán)格地說,AlphaGo展現(xiàn)出的對人類棋手棋譜歸納學(xué)習(xí)能力,給人一種智慧革命的震撼[2-3]。所以,這次熱潮是以神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)為主的機(jī)器學(xué)習(xí)獲得快速發(fā)展的一次機(jī)遇,是人工智能引導(dǎo)工業(yè)革命的一次期盼,也是人工智能自身再突破發(fā)展的又一次起航[4]。
深度學(xué)習(xí)現(xiàn)在幾乎是機(jī)器學(xué)習(xí)與數(shù)據(jù)挖掘的代名詞,近幾年發(fā)表在相關(guān)會(huì)議和期刊上的研究成果幾乎是清一色的深度學(xué)習(xí)改良與應(yīng)用。比如,Albawi等[5]指出卷積神經(jīng)網(wǎng)絡(luò)在圖像處理和自然語言處理等領(lǐng)域表現(xiàn)十分出色,取得了驚人的結(jié)果。Zhang等[6]提出異構(gòu)圖神經(jīng)網(wǎng)絡(luò),具體地,首先引入一種帶重啟的隨機(jī)游走策略來為每個(gè)節(jié)點(diǎn)采樣固定大小的強(qiáng)相關(guān)異構(gòu)鄰居,并根據(jù)節(jié)點(diǎn)類型對它們進(jìn)行分組;然后,設(shè)計(jì)一個(gè)包含2個(gè)模塊的神經(jīng)網(wǎng)絡(luò)體系結(jié)構(gòu),以聚集這些采樣相鄰節(jié)點(diǎn)的特征信息;最后,利用一個(gè)圖上下文丟失和一個(gè)小批量梯度下降過程以端到端的方式訓(xùn)練模型。苗旭鵬等[7]利用圖神經(jīng)網(wǎng)絡(luò)將計(jì)算圖的子圖優(yōu)化建模成經(jīng)典的子圖匹配問題,并估計(jì)每種子圖替換規(guī)則的可行性。黃春等[8]為深度學(xué)習(xí)設(shè)計(jì)了批處理分塊矩陣乘法。其實(shí),AlphaGo的人工神經(jīng)網(wǎng)絡(luò)系統(tǒng)涵蓋了人工智能的核心基礎(chǔ)領(lǐng)域:知識表示、推理、機(jī)器學(xué)習(xí)和知識庫[9-13]。眾所周知,人工神經(jīng)網(wǎng)絡(luò)是一種經(jīng)典的知識表示方法,通過神經(jīng)元從仿生學(xué)角度模擬人類的智能行為[14-15]。深度學(xué)習(xí)擴(kuò)展了傳統(tǒng)人工神經(jīng)網(wǎng)絡(luò)的表示能力,增加了隱藏層次,執(zhí)行特征學(xué)習(xí)[16-17]。Zhang等[18]提出數(shù)據(jù)的超類表示,改進(jìn)了推薦算法運(yùn)行效率,提高了推薦的速度。Yue等[19]利用矩陣表示對區(qū)間值直覺模糊神經(jīng)網(wǎng)絡(luò)進(jìn)行改進(jìn),提高了最終真值的計(jì)算效率。Moroz[20]提出一個(gè)知識表示的概念模型,把知識表示為一種活躍的智力物質(zhì),并在此基礎(chǔ)上研究在組織實(shí)踐中單獨(dú)或集體產(chǎn)生的知識轉(zhuǎn)化過程的形而上學(xué)。該方法被應(yīng)用到感知行為模型,它可以考慮機(jī)器人在其路徑上遇到障礙物時(shí)可能出現(xiàn)的行為場景。Huang等[21]提出一種耦合本體和規(guī)則的知識表示方法,使用語義Web技術(shù)來豐富機(jī)器可讀的方式,并正式表示地理可視化知識。除此之外,它還開發(fā)了一個(gè)原型系統(tǒng)來推斷出相應(yīng)的幾何圖形,以便在不同條件下進(jìn)行可視化。可見,人工智能的核心基礎(chǔ)問題依然是知識表示。
本文介紹一種知識表示方法——矩陣表示,稱為知識矩陣表示。該方法利用矩陣的強(qiáng)大表示能力,將知識的某種關(guān)系表示成矩陣并定義相應(yīng)演算。例如,在時(shí)態(tài)推理中,Allen[22-23]定義了時(shí)間區(qū)間的代數(shù)理論,為時(shí)間區(qū)間關(guān)系演算奠定了基礎(chǔ)。其實(shí),時(shí)間區(qū)間關(guān)系可以采用矩陣方法表示,是一個(gè)5×5的矩陣[24],時(shí)態(tài)關(guān)系演算與傳播可以通過矩陣計(jì)算獲得[25-26]。本文將重點(diǎn)描述時(shí)間區(qū)間關(guān)系的矩陣表示方法,同時(shí),也闡述另外2種知識的矩陣表示方法:不確定性規(guī)則的矩陣表示和訓(xùn)練樣本關(guān)系的矩陣表示。這3種矩陣表示方法針對不同的應(yīng)用且是相互獨(dú)立的,但它們都巧妙地改進(jìn)了相應(yīng)的算法。具體地,時(shí)間區(qū)間關(guān)系的矩陣表示把時(shí)間區(qū)間關(guān)系轉(zhuǎn)化成矩陣表示,這樣,時(shí)態(tài)關(guān)系的演算和傳播就可以通過矩陣計(jì)算來進(jìn)行了,可以有效提高時(shí)間區(qū)間關(guān)系的計(jì)算效率;不確定性規(guī)則的矩陣表示把不確定規(guī)則轉(zhuǎn)化成一個(gè)條件概率矩陣,并利用該矩陣建立一個(gè)計(jì)算公式,以此來提高不確定性推理的效率;訓(xùn)練樣本關(guān)系的矩陣表示可以把訓(xùn)練樣本和測試樣本之間的關(guān)系存儲(chǔ)到矩陣中,在KNN中,通過該矩陣表示可以得到測試數(shù)據(jù)的K值和K個(gè)近鄰,這使得KNN懶惰學(xué)習(xí)的部分被數(shù)學(xué)模型化,從而提高了KNN中尋找測試數(shù)據(jù)K近鄰的效率。從這3種類型的知識矩陣表示可以看出,矩陣具有強(qiáng)大的表達(dá)能力,期待在更多領(lǐng)域中獲得推廣應(yīng)用。
時(shí)態(tài)推理是一門研究含有時(shí)態(tài)詞的命題及其推理形式的學(xué)科,其核心問題是時(shí)態(tài)關(guān)系演算[22-23]。最簡單的時(shí)態(tài)命題是一個(gè)命題P附加一個(gè)時(shí)間區(qū)間I,即命題P在時(shí)間I期間為真。所以,時(shí)態(tài)關(guān)系演算通常被看成是區(qū)間關(guān)系演算[22],Allen[22-23]定義了時(shí)間區(qū)間的13種關(guān)系,見表1。
表1 Allen的13種時(shí)間區(qū)間關(guān)系與符號約定
1983年,Allen[22]不僅定義了時(shí)間區(qū)間的13種基本關(guān)系,也定義了復(fù)合關(guān)系表。2018年全國科學(xué)技術(shù)名詞審定委員會(huì)公布的計(jì)算機(jī)科學(xué)技術(shù)名詞中,艾倫區(qū)間代數(shù)(Allen’s interval algebra)就是其中之一。
Allen區(qū)間代數(shù)的基本元素:時(shí)間區(qū)間I的2個(gè)端點(diǎn)值。其實(shí),I可以被看成是時(shí)間軸的一個(gè)劃分,分成5個(gè)部分:區(qū)間的左邊IL、左端點(diǎn)I-、內(nèi)部I1、右端點(diǎn)I+、右邊IR。則13種時(shí)間區(qū)間的關(guān)系可以被重新描述,如表2所示。
表2 13種時(shí)間區(qū)間關(guān)系的簡化說明
根據(jù)上述劃分,文獻(xiàn)[24]將2個(gè)時(shí)間區(qū)間X和Y之間的關(guān)系表示為矩陣,
(1)
式中X*·Y#∈{0,1},*,#∈{L,-,1,+,R}。X*·Y#=1,當(dāng)且僅當(dāng)X*和Y#的交集是非空的,否則,X*·Y#=0。
時(shí)間區(qū)間X和Y的13種關(guān)系可以分別被表示成如下矩陣:
總結(jié)以上時(shí)間區(qū)間之間的關(guān)系,如表3所示。
表3 時(shí)間區(qū)間X和Y的13種關(guān)系的矩陣表示對應(yīng)
定義1給定3個(gè)時(shí)間區(qū)間A、B和C,操作?和⊕定義如下:
1)B!·C%?A*·B@∈{0,1},且B!·C%?A*·B@=1,如果B!·C%=1且A*·B@=1。否則B!·C%?A*·B@=0。
2)B!·C%⊕A*·B@∈{0,1},且B!·C%⊕A*·B@=1,如果B!·C%=1或者A*·B@=1。否則B!·C%⊕A*·B@=0。
式中:!,%,*,@∈{L,-,1,+,R};?是邏輯“與”運(yùn)算;⊕是邏輯“或”運(yùn)算。
接下來,為了利用上面的矩陣更好地表示時(shí)間區(qū)間關(guān)系,定義矩陣的?和⊕操作。
定義2給定3個(gè)時(shí)間區(qū)間A、B和C,MA,B=(da,b)5×5和MB,C=(eb,c)5×5是時(shí)態(tài)關(guān)系矩陣,矩陣的操作?和⊕定義如下:
MA,C=MB,C?MA,B=((eb,1?d1,b)⊕(eb,2?d2,b)⊕…⊕(eb,5?d1,5))5×5,
NA,C=MA,B⊕MB,C=(da,b)5×5⊕(eb,c)5×5=(da,b⊕eb,c)5×5。
例如,讓A
(2)
因?yàn)镸i⊕MA,C=MA,C(i= 2, 4, 6, 7, 9)及Mi⊕MA,C≠M(fèi)A,C(i= 1, 3, 5, 8, 10, 11, 12, 13),所以,A和C之間的關(guān)系可能是{>,mi,oi,f,d}之一。
Zhang等[24]提出的時(shí)態(tài)推理方法巧妙地把時(shí)間區(qū)間關(guān)系用一個(gè)矩陣表示,并根據(jù)矩陣構(gòu)建了合適的時(shí)態(tài)推理規(guī)則,是一個(gè)很大的改進(jìn)。時(shí)態(tài)關(guān)系演算在矩陣表示中就是矩陣計(jì)算:
Ma=M1⊕M2⊕…⊕M13;Mb=M1⊕M3⊕M5⊕M9⊕M11;
Mc=M2⊕M4⊕M6⊕M7⊕M9;Md=M2⊕M4⊕M6⊕M9⊕M11;
Me=M7⊕M8⊕M13;Mf=M5⊕M9⊕M11;
Mg=M1⊕M3⊕M5⊕M9⊕M10;Mh=M11⊕M12⊕M13;
Mi=M6⊕M7⊕M9;Mj=M5⊕M7⊕M9⊕M11;
Mk=M6⊕M10⊕M11;Ml=M1⊕M3⊕M5;
Mm=M5⊕M6⊕M7⊕M8⊕M9⊕M10⊕M11⊕M12⊕M13;
Mn=M5⊕M7⊕M10;Mo=M2⊕M4⊕M6;
Mp=M7⊕M8⊕M13;Mq=M11⊕M12⊕M13。
(3)
13種時(shí)態(tài)關(guān)系的傳播可以用表4來描述。
表4 13種時(shí)態(tài)關(guān)系傳播
時(shí)態(tài)關(guān)系傳播例子:
(M3⊙M4)⊙M3=(M4?M3)⊙M3=Me⊙M3=
(M7⊕M8⊕M13)⊙M3=(M7⊙M3)⊕(M8⊙M3)⊕(M13⊙M3)=
(M3?M7)⊕(M3?M8)⊕(M3?M13)=M3⊕M3⊕M3=M3。
(4)
給定一個(gè)規(guī)則X→Y對應(yīng)的關(guān)系矩陣,
MY|X=p(y|x)=p(Y=y|X=x)=[p(yj|xi)]m×n,
式中:p(yj|xi)=p(Y=yj|X=xi)是Y=yj的條件概率;X∈{x1,x2,…,xm};Y∈{y1,y2,…,yn}。給定X=a=(p(a1),p(a2),…,p(am)),則能夠通過式(5)得到Y(jié)=b=(p(b1),p(b2),…,p(bn))。
b=aMY|X。
(5)
式(5)是貝葉斯網(wǎng)絡(luò)中著名的概率傳播[27-28],其中MY|X是一個(gè)條件概率矩陣,它的第i行表示所有的事件Y在xi發(fā)生的條件下發(fā)生的概率,第j列表示第j個(gè)事件yj在X發(fā)生的條件下發(fā)生的概率,每一個(gè)元素p(yj|xi)表示第j個(gè)事件yj在xi發(fā)生的條件下發(fā)生的概率。本章的目的是尋找一個(gè)新的近似傳播方法來替代式(5)[29],具體地,如以下4點(diǎn):
1) 編碼向量a為一個(gè)整數(shù)EX(a)。
2) 編碼向量b為一個(gè)整數(shù)EY(b),其中b=aMY|X。
按照矩陣表示模型,需要構(gòu)造以下形式的多項(xiàng)式函數(shù),
(6)
不失一般性,假設(shè)n=2,即得到公式(7),
(7)
接下來,首先對EX和EY進(jìn)行編碼。
定義3設(shè)R(X)={x1,x2,…,xk},X的狀態(tài)空間為
編碼器EX被定義為
EX(p1,p2,…,pk)=10dp1+102dp2+…+10kdpk。
(8)
式中d>0是一個(gè)正整數(shù)。如果被要求的小數(shù)位數(shù)為r,則d=r+1,否則d=n+1。
理論 1以上的編碼器,即式(8),是一對一映射的。
證明歸謬法。讓(p1,p2,…,pk)的編碼等于(p′1,p′2,…,p′k)的編碼,即,
EX(p1,p2,…,pk)=EX(p′1,p′2,…,p′k)。
(9)
假設(shè)當(dāng)i=j1,j2,…,jm時(shí),pi-p′i≠0,其中j1 (10) (11) 加入系數(shù)之后,進(jìn)一步得到 (12) 因?yàn)閖m-1 (13) 與之前的假設(shè)相矛盾,因此編碼器EX()是一對一映射的。證畢。 bi=(INT(F(a)/10(i-1)d)-INT(F(a)/10id)×10d)/10d。 (14) 式中i=1,2,…,m,INT()是取整函數(shù)。為了確保概率和為1的性質(zhì),最終結(jié)果如下: b1=max{0,1-(b2+b3+…+bm)};bi=bi/(b1+b2+b3+…+bm),ifb2+b3+…+bm>1。 (15) 在計(jì)算模型中,假設(shè)因計(jì)算誤差導(dǎo)致僅p(y1)的概率被改變,解碼時(shí)設(shè)置b1=max{0,1-(b2+b3+…+bm)}。 (16) 利用式(16)分別對k2、k1和k0求偏導(dǎo),并令導(dǎo)數(shù)為零,得到: (17) (18) (19) 通過求解,可以得到k2、k1和k0的值如下: (20) (21) (22) 式中: 作為十大數(shù)據(jù)挖掘算法之一的KNN分類,被廣泛應(yīng)用于文本分類、模式識別和圖像處理等領(lǐng)域[30-32]。它的核心思想是,尋找到測試樣本的K個(gè)近鄰并把近鄰樣本的多數(shù)標(biāo)簽作為測試樣本的預(yù)測標(biāo)簽。其中,尋找測試樣本的K個(gè)近鄰(測試樣本與訓(xùn)練樣本之間的關(guān)系)至關(guān)重要,影響著算法的最終預(yù)測準(zhǔn)確性。 本章利用矩陣表示的方法來構(gòu)建測試數(shù)據(jù)和訓(xùn)練數(shù)據(jù)之間的關(guān)系。給定一個(gè)包含n個(gè)訓(xùn)練樣本的數(shù)據(jù)矩陣X∈Rn×d,m個(gè)測試樣本的數(shù)據(jù)矩陣Y∈Rm×d,構(gòu)建式(23)所示的目標(biāo)函數(shù)來進(jìn)行矩陣表示下的一步KNN: (23) (24) 式(24)中W∈R6×5,它表示了5個(gè)測試數(shù)據(jù)和6個(gè)訓(xùn)練數(shù)據(jù)之間的關(guān)系。在矩陣W的第1列中,第3、4、5個(gè)位置的元素為零,即表明與第1個(gè)測試數(shù)據(jù)關(guān)系最近的訓(xùn)練樣本是第1、2、6個(gè)訓(xùn)練樣本,且它的最佳K值為3。相似地,對于第2個(gè)測試數(shù)據(jù),它的近鄰是第1、2、3、5個(gè)訓(xùn)練數(shù)據(jù),它的最佳K值為4;對于第3個(gè)測試數(shù)據(jù),它的近鄰是第2、3、4個(gè)訓(xùn)練數(shù)據(jù),它的最佳K值為3;對于第4個(gè)測試數(shù)據(jù),它的近鄰是第1、4、5、6個(gè)訓(xùn)練數(shù)據(jù),它的最佳K值4;對于第5個(gè)測試數(shù)據(jù),它的近鄰是第2、3、6個(gè)訓(xùn)練數(shù)據(jù),它的最佳K值是3。 通過以上目標(biāo)函數(shù),可以把KNN算法通過矩陣表示的一步計(jì)算來進(jìn)行。即,通過式(24)的矩陣表示計(jì)算,可以得到所有測試數(shù)據(jù)的最佳K值和對應(yīng)的K個(gè)近鄰。接下來,需要對目標(biāo)函數(shù)進(jìn)行優(yōu)化求解,以得到最終的W值。 在這一節(jié)中,對所提出的目標(biāo)函數(shù)進(jìn)行優(yōu)化求解。首先通過定理1可以對式(23)進(jìn)行轉(zhuǎn)化。 定理 1公式(23)等價(jià)于 (25) 式中θ可以由式(26)得到, (26) (27) 通過求解式(28)來得到θ的最優(yōu)解, (28) 進(jìn)一步得到θ的最優(yōu)解為 (29) 由式(29),式(28)可以寫成 (30) 因此,式(23)可以重新寫為 (31) 當(dāng)α=0時(shí),式(31)可以看成是Group lasso。在Group lasso中,所有的樣本被分組,每一組中的樣本都是相似度很高的。組與組之間的樣本是相似度很低的。它用l1-范數(shù)對組內(nèi)進(jìn)行稀疏,用l2-范數(shù)對組間進(jìn)行不稀疏。這樣可以有效地從所有訓(xùn)練數(shù)據(jù)中選出測試數(shù)據(jù)的近鄰樣本,并得到最佳K值。 式(31)等價(jià)于 (32) 式中Q和F都是對角矩陣,它們的對角線元素為: (33) (34) (35) (36) 下面給出算法的偽代碼。 算法 1一步KNN算法。 輸入:訓(xùn)練樣本X∈Rn×d,訓(xùn)練數(shù)據(jù)的標(biāo)簽Xlabel∈R1×n,測試數(shù)據(jù)Y∈Rm×d,可調(diào)參數(shù)α和β; 輸出:測試數(shù)據(jù)的類標(biāo)簽。 1.初始化t=0; 2.隨機(jī)初始化矩陣W(0); 3.利用余弦相似函數(shù)或模糊C均值聚類對數(shù)據(jù)進(jìn)行分組,從而構(gòu)建IGg; 4.do{ 4.1 通過式(34)計(jì)算F(t+1); 4.2 通過式(33)計(jì)算Q(t+1); 4.3 通過式(36)計(jì)算W(t+1); 4.4 更新t=t+1;} 5. while (式(23)收斂) 如上述偽代碼所示,在算法中,本節(jié)采用交替迭代優(yōu)化的方法來求解W,即固定一個(gè)變量去求解其他變量的方法。當(dāng)W被隨機(jī)初始化之后,可以利用W中的值來計(jì)算出F和Q矩陣,然后根據(jù)式(36)計(jì)算出新的W矩陣,不斷迭代,直到式(23)收斂,從而獲得最終的W矩陣。 為了證明所提出的目標(biāo)函數(shù)是收斂的,首先引入下面的引理和推論[33]。 引理1對于任何2個(gè)非負(fù)向量a∈Rd×1和b∈Rd×1,以下式子成立: (37) 推論1根據(jù)Cauchy-Schwarz不等式,可以得到 (38) 因此,可以得到 (39) 接下來,證明目標(biāo)函數(shù)式(32)的值在每次迭代中是單調(diào)遞減的,即目標(biāo)函數(shù)是收斂的。通過設(shè)置W在第t次迭代的值為W(t),式(32)可以寫成 (40) 進(jìn)一步,可以得到如下式子: (41) 根據(jù)引理1,可得: (42) 由式(41)和式(42)可得: (43) 至此,可以證明所提出的目標(biāo)函數(shù)是收斂的。 在這一節(jié)中,KNN分類可以被分為3步:1)利用距離函數(shù)或相似性計(jì)算函數(shù)來得到測試數(shù)據(jù)與所有訓(xùn)練數(shù)據(jù)的距離;2)根據(jù)這些距離,選取離測試數(shù)據(jù)最近的K個(gè)近鄰;3)根據(jù)K個(gè)近鄰的類標(biāo)簽來獲取測試數(shù)據(jù)的標(biāo)簽。而用樣本關(guān)系的矩陣表示可以把前2步合并為一步,如式(24)所示,矩陣W中記錄著訓(xùn)練數(shù)據(jù)與測試數(shù)據(jù)的相似性和它的K個(gè)近鄰的索引信息。 本文主要從3方面介紹知識矩陣表示,即:時(shí)態(tài)推理中的區(qū)間關(guān)系;產(chǎn)生式規(guī)則的相互關(guān)系;KNN的近鄰尋找和K值計(jì)算。矩陣表示在這3個(gè)方向上都簡化了算法的過程,使其從知識表示的根本上改進(jìn)了相應(yīng)算法。但是在這3方面仍然具有一些挑戰(zhàn): 1)高維數(shù)據(jù)帶來的挑戰(zhàn)。在人工智能時(shí)代,隨著數(shù)據(jù)的海量增長,各行各業(yè)的數(shù)據(jù)維度都在不斷增長,從而帶來“維度災(zāi)難”,這給人工智能算法帶來巨大的挑戰(zhàn)[34-35]。因此,本文所提出的知識矩陣表示方法也面臨這樣的挑戰(zhàn),比如,在KNN算法中,本文雖然巧妙地把它的近鄰尋找和K值計(jì)算轉(zhuǎn)化成了矩陣表示下的矩陣計(jì)算,但是它仍然面臨高維數(shù)據(jù)的挑戰(zhàn)。因?yàn)殡S著數(shù)據(jù)維度的增加,KNN算法的分類性能是先增后減的,當(dāng)維度增加到一定程度時(shí),它的性能會(huì)不斷下降。另一方面,隨著數(shù)據(jù)維度的增加,測試數(shù)據(jù)的最近鄰和最遠(yuǎn)鄰距離的區(qū)分度越來越低,這已在文獻(xiàn)[36]中得到證明。 2)噪聲和缺失數(shù)據(jù)帶來的挑戰(zhàn)。數(shù)據(jù)在收集或采集過程中往往會(huì)產(chǎn)生噪聲,比如高斯噪聲和白噪聲,這些噪聲都會(huì)對算法的性能帶來一定影響[37-38]。除了噪聲,數(shù)據(jù)中也可能存在缺失值[39-40]。如何處理數(shù)據(jù)中的噪聲和缺失值是十分重要的。比如,在有缺失值的數(shù)據(jù)中,矩陣表示的形式就需要發(fā)生改變:①可以先對缺失值進(jìn)行填充,然后再用矩陣表示;②改進(jìn)矩陣表示方法,直接表示含有缺失值的數(shù)據(jù),并應(yīng)用于后續(xù)的數(shù)據(jù)挖掘任務(wù)。 除了以上2點(diǎn)存在于矩陣表示的問題之外,還可以擴(kuò)寬矩陣表示的范圍,即,矩陣表示不局限于本文提到的3個(gè)方向。比如:從矩陣表示下深度學(xué)習(xí)模型、矩陣表示下的隨機(jī)森林算法和矩陣表示下的關(guān)聯(lián)規(guī)則模型等方向進(jìn)行一系列的研究。當(dāng)然,知識矩陣表示的演算方法不固定,它需要針對具體內(nèi)容的具體問題來定義。 綜上所述,未來的研究可著眼于2方面的工作:①從降維、去噪和缺失值填充等方面去改進(jìn)本文所提出的知識矩陣表示方法;②把知識矩陣表示應(yīng)用到其他方向中,針對不同的模型定義不同的矩陣表示方法。3 樣本關(guān)系的矩陣表示
3.1 優(yōu)化
3.2 收斂性分析
4 未來工作展望