楊君瑤,余根平
(1.西安郵電大學通信與信息工程學院,陜西西安,710121;2.福建高校人文社科基地互聯(lián)網(wǎng)創(chuàng)新研究中心(閩江學院),福建福州,350108)
憶阻器作為非線性電路元件,具有非易失性和記憶能力,特定的外部條件可使其阻值隨兩端電壓或流過電流改變,掉電后保持阻值不變,這種特性與神經(jīng)突觸存儲特性相似。當前的神經(jīng)網(wǎng)絡(luò)算法多在計算機上運行,難以突破“馮·諾伊曼體系瓶頸。憶阻器能夠統(tǒng)一計算和存儲,作為突觸將有望大大提升神經(jīng)網(wǎng)絡(luò)的運算速度,實現(xiàn)高并發(fā),高容錯,低功耗的人工神經(jīng)網(wǎng)絡(luò)。2008年,HP惠普實驗室提出了三層薄膜憶阻器實物模型,證實了憶阻器的存在,使得憶阻器在阻變式存儲器、人工神經(jīng)網(wǎng)絡(luò)、非線性系統(tǒng)、圖像處理等方面的應(yīng)用走向現(xiàn)實。
本文研究了I型,II型憶阻器橋式突觸的結(jié)構(gòu),權(quán)重設(shè)置及更新方式。將憶阻器與人工神經(jīng)元感知器結(jié)合,使用憶阻器配置權(quán)值實現(xiàn)邏輯運算。實驗仿真部分,在PSPICE種構(gòu)建出的憶阻器具有明顯的“8”字磁滯回線。將橋式憶阻器突觸搭載于人工神經(jīng)元上,仿真結(jié)果符合真值表,表明兩種憶阻橋人工神經(jīng)元都具有仿生智能信息處理能力。II型憶阻橋神經(jīng)元具有更強的動態(tài)權(quán)值調(diào)整能力,應(yīng)用領(lǐng)域靈活。傳統(tǒng)I型憶阻橋神經(jīng)元采用4個反向連接憶阻器實現(xiàn),改進后的I型憶阻橋?qū)π盘栕兓舾校瑑H使用一個憶阻器,省去信號方向設(shè)置步驟,直接更新權(quán)值,在高度集成環(huán)境下更為實用。
憶阻器阻值受流經(jīng)它的電荷影響而浮動,可通俗地理解為憶阻器記住了流過的電荷。先前已知的有4種基本基本變量,電流i,電壓v,電荷q,磁通φ,電荷與電流的關(guān)系被描述為dq=idt,磁通量與電壓的關(guān)系被描述為dφ=vdt。已知無源電子元件有,電阻,電容,電感,分別描述了電壓與電流的關(guān)系dv=Rdi,電荷與電壓的關(guān)系dq=Cdv和磁通與電流的關(guān)系dφ=Ldi。憶阻器描述磁通與電荷之間的關(guān)系,線性時對應(yīng)線性電阻,非線性時對應(yīng)憶阻器,公式為dφ=M(q)dq,M(q)為憶阻器量綱,單位也是歐姆,憶阻器可理解為是由電荷控制的電阻[1]。
研究人員基于憶阻器特性提出了許多模型,如電子自旋阻塞模型,TEAM模型,西蒙斯隧道阻塞模型等。本文研究的是HP惠普實驗室提出的傳統(tǒng)離子漂移模型,這也是目前研究最廣泛、深入的憶阻器模型。
HP憶阻器模型結(jié)構(gòu)形似三明治,兩個鉑片間有一層二氧化鈦。二氧化鈦可分為摻雜區(qū)非摻雜區(qū),總體厚度為D,憶阻器的憶阻值可由兩個區(qū)域電阻加和來表示。摻雜區(qū)含有缺氧二氧化鈦(TiO2-x),厚度用w表示,電阻率較低,易受外電場影響。非摻雜區(qū)內(nèi)是純凈二氧化鈦(TiO2),有較高電阻率。
憶阻器總電阻可表示為:
上式為狀態(tài)方程,式中x為狀態(tài)變量,表示摻雜區(qū)占總厚度的比例。定義x=0時的阻值為ROFF,x=D時的阻值為RON,通常ROFF與RON差2-3個數(shù)量級,憶阻器阻值可用ROFF與RON表示。方程(1)亦可寫作:
根據(jù)歐姆定律:
狀態(tài)變量x的變化率可由流過憶阻器的電流,窗函數(shù)f(x),常數(shù)k決定,其中μv為平均離子遷移率,一般為10-14m2s·1v-1。在納米器件中微小電壓會引起巨大電場,當摻雜區(qū)與非摻雜區(qū)的界限移動到二氧化鈦層的邊界時將產(chǎn)生非線性效應(yīng),為描述憶阻器內(nèi)的離子非線性遷移,引入窗函數(shù)f(x)。常見的窗函數(shù)有:
式中,p為整數(shù)參數(shù),其作用是描述非線性程度的,當p減小時,窗函數(shù)非線性表現(xiàn)變顯著。Joglekar窗函數(shù),狀態(tài)變量的移動速率在x=0.5時達到峰值,越靠近兩端,速率越低,當x=0或者x=1時,f(x)=0,這種狀態(tài)下,即使加反向電流,憶阻器的阻值也不會產(chǎn)生任何改變,稱為邊界鎖死現(xiàn)象。為此引入stp階躍函數(shù),構(gòu)成Biolek窗函數(shù),但Biolek窗函數(shù)的缺陷是不能滿足連續(xù)變化,在邊界處存在跳躍。本文采用Biolek窗函數(shù),具體仿真過程見第2節(jié)。
根據(jù)1.2節(jié)中方程(2)(4),可列出憶阻器的微分方程,SPICE模型如圖所示。
圖1 憶阻器SPICE模型
方程(2)對應(yīng)左上部分,EMEM與ROFF串聯(lián),其中EMEM為壓控電壓源,其端電壓大小由RV(x)?Δ 控制。由方程(4)等式兩邊關(guān)于時間t積分可得:
式(7)對應(yīng)圖1右上,電容Cx模擬式中等號右側(cè)的積分器,電容器初始數(shù)值與狀態(tài)變量初始數(shù)值x0相等,由憶阻器初始電阻RINIT確定。
EFLUX與ECHAR是對憶阻器電壓和通過電流的時間積分,表示磁通量與電荷量。經(jīng)PSPICE仿真,可得出該模型符合憶阻器特有“8”字磁滯回曲線。
圖2 PSPICE仿真憶阻器磁滯回線
突觸是神經(jīng)元之間的接口。神經(jīng)元之間的連接強度或突觸權(quán)重可以通過訓練來改變,可以長時間存儲,具有記憶功能,信號可以刺激或抑制神經(jīng)元。人工神經(jīng)突觸具有以下特性:權(quán)重連續(xù)變化,有記憶特性,權(quán)重有正負。
圖3 II型橋式神經(jīng)突觸信號選擇電路
Kim等人提出了II型橋式神經(jīng)突觸信號選擇電路[2],包含五個憶阻器,M1-M4選擇信號通路方向確定突觸權(quán)值的正負性,為神經(jīng)突觸信號選擇電路。M5兩端電壓差經(jīng)由差分放大器A輸出,Is為輸入的電流信號。差分放大器A的輸出為:
若為高于憶阻器閾值的電流,可改變憶阻器的阻值,電路中M1、M4方向相同,M2、M3方向相同,通入正向大幅值電流,流經(jīng)M1、M4,上的電流為正向,它們阻值減小,最終趨于RON,流經(jīng)M2、M3上的電流為負向,故它們阻值增加,最終趨于ROFF,這時可將M1、M4視為開狀態(tài), M2、M3視為關(guān)狀態(tài),由于M1、M4,的阻值遠小于M2、M3的阻值,當前信號通路為M1、M5、M4, 在A、B間產(chǎn)生的壓差VAB為正值,表示權(quán)值為正。
通入負向大幅值電流,流經(jīng)M1、M4上的電流為負,故它們阻值增加,最終趨于ROFF。流經(jīng)M2、M3上的電流為正向,故它們阻值減小,最終趨于RON所以這種情況下認為M1、M4處于關(guān)狀態(tài),而M2、M3處于開狀態(tài),當前信號通路為M2、M5、M3,在A、B間產(chǎn)生的壓差VAB為負值,表示權(quán)值為負。
傳統(tǒng)I型橋式憶阻器突觸電路在惠斯通電橋的基礎(chǔ)上將4個憶阻器反向接入,其憶阻值和II型橋式突觸一樣受輸入影響。輸入正向脈沖時,M1和M4由于正向偏置憶阻值減小,M2和M3憶阻值增加。參照惠斯通電橋電阻分壓的公式可得傳統(tǒng)I型橋式憶阻器突觸的輸出表達式:
在傳統(tǒng)I型橋式憶阻器突觸的基礎(chǔ)上將M1,M2,M4替換為同尺寸納米電阻[3],可略去信號方向配置步驟,直接進行權(quán)值調(diào)整。
其輸出表達式為:
圖4 傳統(tǒng)I型橋式憶阻器突觸電路
xi表示神經(jīng)元的第i個輸入,wi表示第i個輸入到處理單元的突觸權(quán)值,y為神經(jīng)元輸出.式中,f采用階躍函數(shù)作為激發(fā)函數(shù),其輸出界定神經(jīng)元在各輸入xi的共同作用下是否被激發(fā)至興奮狀態(tài)
圖5 人工神經(jīng)元感知器模型
已知或運算邏輯為:0or0=0,0or1=1,1or0=1,1or1=1。列方程求解得,或運算神經(jīng)元感知器的一個可行解是w1= 1 ,w2= 1 ,θ= 0 .5。
現(xiàn)提出基于憶阻器的人工神經(jīng)元電路如下:
圖6 基于憶阻器突觸的人工神經(jīng)元電路
該電路中M5的阻值對應(yīng)式(12)中的wi,即突觸權(quán)值.輸入信號xi在M5上產(chǎn)生的壓降VM5對應(yīng)式中的輸入信號在連接權(quán)重下的乘積wixii.A1-A3構(gòu)成的差分放大器求出對于閾值θ,可視為 ?wixi。A4為反向加法器:A5為反相器:
仿真橋式突觸人工神經(jīng)元一般需要三個步驟,信號方向設(shè)定,突觸權(quán)值設(shè)定,輸入信號。
3.1中介紹了設(shè)定信號方向的辦法,突觸權(quán)值的設(shè)定過程類似,本文中權(quán)重表示為M5憶阻器阻值,所以需要通過短時間大幅值的激勵,改變M5阻值的同時,M1-M4的阻值變化需小到忽略不計[4],此處θ值為0.5的突觸所設(shè)定阻值大小應(yīng)為:
信號輸入部分,當前突觸內(nèi)的各憶阻器阻值都應(yīng)保持記憶狀態(tài)不改動,故需要通入的是短時間小幅值的激勵。參數(shù)設(shè)置部分,開狀態(tài)阻值ON= 1 00Ω,關(guān)狀態(tài)阻值ROFF= 1 6kΩ,電子遷移率μv=10?14m2s?1v?1,二氧化鈦層厚度D=10nm,p= 1 0。改進后I型憶阻橋中R1=500Ω,R3=R4= 1 00Ω。人工神經(jīng)元中R17,19,21= 5 .1kΩ ,R18,20= 1 0kΩ ,R1?16= 2 0kΩ 。
根據(jù)以上參數(shù)配置憶阻器及人工神經(jīng)元感知器中各模塊,得到各運算放大器輸出波形如下:
此處定義輸出電壓高于0V即為“1”,低于0V為“0”.
x1,x2輸入1,0,y輸出1;x1,x2輸入1,1,y輸出1;x1,x2輸入0,1,y輸出1;符合或運算真值表。
圖7 橋式憶阻器突觸人工神經(jīng)元或運算仿真(a)II型(b)改進I型
I型和II型運用在人工神經(jīng)元感知器中都能實現(xiàn)既定的或運算功能,在改變神經(jīng)元各輸入權(quán)值后可以執(zhí)行更多的布爾運算,海量的憶阻器神經(jīng)元將能處理音頻圖像等復(fù)雜數(shù)據(jù)。兩種類型的憶阻器突觸結(jié)構(gòu)原理基本類似,改進后I型的突觸結(jié)構(gòu)僅使用了一個憶阻器就實現(xiàn)了功能。當前技術(shù)水平下普遍用CMOS電路模擬憶阻器功能,過多憶阻器元件會給提高集成度帶來難度。相比于II型,在突觸設(shè)定方面,無需設(shè)定信號方向,直接配置權(quán)值即可,較為簡便,但同樣帶來了突觸權(quán)重可調(diào)節(jié)范圍較小的問題,在復(fù)雜運算中可能無法很好的完成權(quán)重設(shè)置。另外改進后I型橋式憶阻器突觸比II型對輸入信號更為敏感,且輸出波形更穩(wěn)定,在小信號條件下更具優(yōu)勢??梢愿鶕?jù)應(yīng)用場景的具體需求選擇相應(yīng)的憶阻器突觸類型,改進I型更適合高集成度環(huán)境或輸入信號強度微弱情況,II型集成度較低但權(quán)值配置更為靈活,能夠完成多種神經(jīng)網(wǎng)絡(luò)學習任務(wù)。
相比于傳統(tǒng)神經(jīng)網(wǎng)絡(luò)中僅由CMOS管直接組成的人工神經(jīng)元,憶阻器神經(jīng)元可塑性更強,能實現(xiàn)正負權(quán)值的連續(xù)調(diào)節(jié),具有記憶特性,掉電后數(shù)據(jù)仍能完整地保留,適用于復(fù)雜多變的計算任務(wù),且仿真實驗證明本文人工神經(jīng)元基本達到預(yù)定設(shè)計要求,具有一定現(xiàn)實意義。