以深度學(xué)習(xí)為代表的人工智能取得突破性進(jìn)展，然而海量的參數(shù)與復(fù)雜的處理機(jī)制，使得人類很難追溯與理解推理過程，導(dǎo)致這類端到端的黑箱學(xué)習(xí)方法不可解釋，造成“知其然，不知其所以然”.由此引發(fā)人們對(duì)算法可信性、公平性產(chǎn)生質(zhì)疑，甚至造成倫理、法律等問題，影響了黑箱人工智能方法在無人駕駛、精準(zhǔn)醫(yī)療、智能交通等高風(fēng)險(xiǎn)決策工程中的大規(guī)模應(yīng)用.可解釋性問題是打開黑箱人工智能方法、構(gòu)建新一代人工智能理論的關(guān)鍵問題之一.可解釋智能學(xué)習(xí)方法既要給出結(jié)果，同時(shí)也能提供計(jì)算推理過程所形成的證據(jù)鏈.

本期專題得到同行的廣泛關(guān)注，通過公開征文收到36篇高質(zhì)量投稿稿件和1篇特邀稿件，這些論文涉及可解釋的機(jī)器/深度學(xué)習(xí)模型、決策過程及預(yù)測結(jié)果的解釋、符號(hào)規(guī)則與深度學(xué)習(xí)的融合等多個(gè)主題研究，闡述了可解釋智能學(xué)習(xí)方法及其應(yīng)用的重要研究成果，展示了其與多領(lǐng)域深度融合的發(fā)展前景.本專題的審稿嚴(yán)格按照期刊審稿的要求進(jìn)行，特邀編委先后邀請(qǐng)了20余位相關(guān)領(lǐng)域的專家參與評(píng)審，歷經(jīng)初審、復(fù)審、終審等階段，最終遴選出8篇高質(zhì)量的論文入選本專題.內(nèi)容涵蓋了可解釋智能方法在無人駕駛、智能拆解、在線學(xué)習(xí)、智慧醫(yī)療、就業(yè)推薦、智能問答等方面的應(yīng)用，在一定程度上反映了當(dāng)前國內(nèi)學(xué)者在可解釋智能學(xué)習(xí)方法的代表性應(yīng)用.

小樣本學(xué)習(xí)旨在從極少的幾個(gè)樣本中學(xué)習(xí)樣本特性,張玲玲等作者的論文“基于對(duì)比約束的可解釋小樣本學(xué)習(xí)”提出一種基于區(qū)域注意力機(jī)制的小樣本分類網(wǎng)絡(luò)INT-FSL,旨在揭示小樣本分類中的2個(gè)關(guān)鍵問題:1)圖像中哪些關(guān)鍵位置的視覺特征在決策中發(fā)揮了重要作用;2)這些關(guān)鍵位置的視覺特征能體現(xiàn)哪些類別的特性.此外,作者還嘗試在每個(gè)小樣本元任務(wù)中設(shè)計(jì)全局和局部2種對(duì)比學(xué)習(xí)機(jī)制,利用數(shù)據(jù)內(nèi)部信息來緩解小樣本場景中的監(jiān)督信息匱乏問題.實(shí)驗(yàn)結(jié)果表明INT-FSL模型不僅能提升當(dāng)前小樣本學(xué)習(xí)方法的分類性能,還具備良好的過程可解釋性.

無人駕駛系統(tǒng)綜合了軟件和硬件復(fù)雜的交互過程,深度強(qiáng)化學(xué)習(xí)常常被應(yīng)用于無人駕駛系統(tǒng)決策中.然而,在面對(duì)沒有經(jīng)驗(yàn)的場景和復(fù)雜決策任務(wù)時(shí),基于黑盒的深度強(qiáng)化學(xué)習(xí)系統(tǒng)并不能保證系統(tǒng)的安全性和復(fù)雜任務(wù)獎(jiǎng)勵(lì)函數(shù)設(shè)置的可解釋性.王金永等作者的論文“面向無人駕駛時(shí)空同步約束制導(dǎo)的安全強(qiáng)化學(xué)習(xí)”提出了一種形式化時(shí)空同步約束制導(dǎo)的安全強(qiáng)化學(xué)習(xí)方法.首先,提出了一種形式化時(shí)空同步約束規(guī)約語言,接近自然語言的安全需求規(guī)約使獎(jiǎng)勵(lì)函數(shù)的設(shè)置更具有解釋性.其次,展示了時(shí)空同步自動(dòng)機(jī)和狀態(tài)動(dòng)作空間遷移系統(tǒng),保證強(qiáng)化學(xué)習(xí)的狀態(tài)行為策略更加安全.然后,提出了結(jié)合形式化時(shí)空約束制導(dǎo)的安全強(qiáng)化學(xué)習(xí)方法.論文通過無人駕駛汽車在高速場景變道超車的案例對(duì)方法進(jìn)行了驗(yàn)證.

建立完善的動(dòng)力電池回收利用體系是我國新能源汽車高質(zhì)量發(fā)展需要突破的瓶頸問題之一,研究和發(fā)展智能化、柔性化、精細(xì)化的高效拆解技術(shù)是其中的重要環(huán)節(jié).任偉等作者的論文“基于神經(jīng)符號(hào)的動(dòng)力電池拆解任務(wù)與運(yùn)動(dòng)規(guī)劃”基于神經(jīng)符號(hào)學(xué)理論對(duì)動(dòng)態(tài)環(huán)境中動(dòng)力電池的拆解任務(wù)進(jìn)行研究,設(shè)計(jì)并實(shí)現(xiàn)了一套任務(wù)和運(yùn)動(dòng)規(guī)劃系統(tǒng)，并基于該系統(tǒng)實(shí)現(xiàn)了在復(fù)雜多變的拆解工作環(huán)境中動(dòng)力電池連接約束件的智能拆解.

知識(shí)追蹤任務(wù)通過建模用戶的習(xí)題作答序列跟蹤其認(rèn)知狀態(tài),進(jìn)而預(yù)測其下一時(shí)刻的答題情況,實(shí)現(xiàn)對(duì)用戶知識(shí)掌握程度的智能評(píng)估.劉坤佳等作者的論文“可解釋深度知識(shí)追蹤模型”提出了一個(gè)可解釋的深度知識(shí)追蹤框架.首先引入習(xí)題的上下文信息挖掘習(xí)題與知識(shí)點(diǎn)間的隱含關(guān)系,得到更有表征能力的習(xí)題與知識(shí)點(diǎn)表示,然后建模用戶答題序列獲得其當(dāng)前知識(shí)狀態(tài),并以此學(xué)習(xí)個(gè)性化注意力,進(jìn)而得到當(dāng)前習(xí)題基于用戶知識(shí)狀態(tài)的個(gè)性化表示.最后,對(duì)于預(yù)測結(jié)果,依據(jù)個(gè)性化注意力選擇一條推理路徑作為其解釋.孫建文等作者的論文“基于多層注意力網(wǎng)絡(luò)的可解釋認(rèn)知追蹤方法”提出一種基于多層注意力網(wǎng)絡(luò)的認(rèn)知追蹤模型.通過挖掘題目之間多維度、深層次的語義關(guān)聯(lián)信息,建立一種包含題目元素、語義和記錄等3層注意力的網(wǎng)絡(luò)結(jié)構(gòu),利用圖注意神經(jīng)網(wǎng)絡(luò)和自注意力機(jī)制等對(duì)題目進(jìn)行嵌入表示、語義融合和記錄檢索.特別是在損失函數(shù)中引入提升模型可解釋性的正則化項(xiàng)與權(quán)衡因子,實(shí)現(xiàn)對(duì)模型預(yù)測性能與可解釋強(qiáng)度的調(diào)控.

深度學(xué)習(xí)是當(dāng)前醫(yī)療多變量時(shí)序數(shù)據(jù)分析的主流方法，但是臨床輔助決策關(guān)乎病人生命健康,需要模型具有足夠的可解釋性.馬連韜等作者的論文“Dr.Deep：基于醫(yī)療特征上下文學(xué)習(xí)的患者健康狀態(tài)可解釋評(píng)估”提出了一種多通道健康上下文表示學(xué)習(xí)方法,將各變量的時(shí)序特征分別編碼,利用多頭去協(xié)同的自注意力機(jī)制學(xué)習(xí)不同特征之間關(guān)聯(lián)關(guān)系;通過基于壓縮激勵(lì)機(jī)制的特征跳連編碼,提升模型對(duì)最新病情變化的敏感性.實(shí)驗(yàn)表明,Dr.Deep在重癥監(jiān)護(hù)患者膿毒癥預(yù)測、新冠肺炎重癥患者出院時(shí)間預(yù)測等任務(wù)中相比業(yè)界方法性能有提升,且可以針對(duì)不同患者的不同指標(biāo)自適應(yīng)學(xué)習(xí)其重要性作為可解釋性的關(guān)鍵因素.

基于協(xié)同過濾和隱因子模型的大學(xué)生就業(yè)推薦方法對(duì)推薦結(jié)果的可解釋性需求不夠友好，朱海萍等作者的論文“基于互惠性約束的可解釋就業(yè)推薦方法”設(shè)計(jì)并構(gòu)建了基于互惠性約束的可解釋就業(yè)推薦方法.通過引入注意力機(jī)制與模糊門機(jī)制,提取并自適應(yīng)聚合學(xué)生與就業(yè)單位雙向的偏好與需求,緩解“能力失配”問題;并提出一種面向就業(yè)意圖和就業(yè)特征的推薦解釋方法.

知識(shí)圖譜問答中,自然語言問句結(jié)構(gòu)與知識(shí)圖譜結(jié)構(gòu)之間的語義匹配是一個(gè)具有挑戰(zhàn)的研究問題.孫亞偉等作者的論文“基于圖匹配網(wǎng)絡(luò)的可解釋知識(shí)圖譜復(fù)雜問答方法”提出一種基于圖匹配網(wǎng)絡(luò)的知識(shí)圖譜復(fù)雜問答方法TTQA.首先,通過語法分析方法構(gòu)建一個(gè)與知識(shí)圖譜無關(guān)的未定查詢圖；然后,依據(jù)未定查詢圖和給定的知識(shí)圖譜,構(gòu)建一個(gè)與知識(shí)圖譜相關(guān)的已定查詢圖,通過結(jié)合預(yù)訓(xùn)練語言模型和圖神經(jīng)網(wǎng)絡(luò)技術(shù)，再利用注意力機(jī)制,從而得到更加豐富的結(jié)構(gòu)匹配表示,用于已定查詢圖預(yù)測.實(shí)驗(yàn)結(jié)果表明TTQA生成的未定結(jié)構(gòu)圖和已定查詢圖增強(qiáng)了問答系統(tǒng)可解釋性.

承蒙各位作者、審稿專家、編輯部各方面的全力支持，本專題得以順利出版.在審稿過程中難免出現(xiàn)不盡人意之處，希望各位作者和讀者包容諒解，同時(shí)也請(qǐng)各位同行不吝批評(píng)指正.期望本專題的出版能給廣大相關(guān)領(lǐng)域研究人員帶來啟發(fā)和幫助.