羅娟+李志文+李汀+高鑫
摘要:在介紹智能監(jiān)控系統(tǒng)的基礎上,基于kinect,以Android為開發(fā)平臺設計并實現(xiàn)了一套軟硬件相結合的獨居老人監(jiān)控系統(tǒng)。從老人自身管理和意外情況管理兩個角度進行了需求分析,并據(jù)此設計出了系統(tǒng)的總體結構,明確了系統(tǒng)的功能、構成及工作原理??蓪崿F(xiàn)遠程照看家中的情況,對于一些突發(fā)的情況可以通過報警進行及時的安全處理。
關鍵詞:Kinect平臺;獨居老人;室內(nèi)智能監(jiān)控
中圖分類號:TP311 文獻標識碼:A 文章編號:1009-3044(2017)13-0166-05
智能監(jiān)控系統(tǒng)是采用圖像處理、模式識別和計算機視覺技術,通過在監(jiān)控系統(tǒng)中增加智能視頻分析模塊,借助計算機強大的數(shù)據(jù)處理能力過濾掉視頻畫面無用的或干擾信息、自動識別不同物體,分析抽取視頻源中關鍵有用信息,快速準確的定位事故現(xiàn)場,判斷監(jiān)控畫面中的異常情況,并以最快和最佳的方式發(fā)出警報或觸發(fā)其他動作,從而有效進行事前預警,事中處理,事后及時取證的全自動、全天候、實時監(jiān)控的智能系統(tǒng)。視覺信息主要來源于攝像頭傳感器,其中深度攝像頭在人體跟蹤、三維重建、SLAM、人機交互等領域中有著廣泛的應用,但是深度攝像頭價格昂貴的價格讓人望而卻步。但是微軟公司推出的Kinect價格相對便宜且只需要普通的CMOS感光芯片。Kinect上的紅外傳感器可不受環(huán)境光照的影響,拍攝清晰的深度圖像,并且譔深度圖像公與目標和攝像頭之間的距離有關,因此大大提高了提取前景的精度。而目前,隨著網(wǎng)絡時代的飛速發(fā)展,智能手機成為了人類生活中不可缺少的一部分,科技發(fā)展到今天,不得不說智能手機給我們的生活的確帶來了極大的便捷。信息需求是每個社會人的天然需求。手機上網(wǎng),將信息整合使人們隨身攜帶的手機成了互聯(lián)網(wǎng)的終端機,手機信息載體比報紙、廣播、電視信息載體在信息傳遞上更方便、直接、快速。因此,為了順應大眾的生活習慣與需求,本文提出一種基于Kincet的以及Android系統(tǒng)的獨居老人監(jiān)控系統(tǒng)。
1kinect感應器
Kinect是微軟在2010年6月14日對XBOX360體感周邊外設正式發(fā)布的名字。Kinect具有檢測范圍較大,不易受室內(nèi)光線強度影響、價格低廉的攝像頭特點。Kinect的核心技術是骨骼追蹤技術,它可以準確標定人體的20個關鍵點,并能對這20個點的位置進行實時追蹤。利用這項技術,可以開發(fā)出各種基于體感人機交互的有趣應用。在設計這套系統(tǒng)時,我們應充分考慮根據(jù)用戶的實際功能需求,整合了以下最實用的需求功能:包括老人的摔倒控制,小偷潛入的控制,煤氣泄漏的控制,家中著火的控制,家中濕度的控制以及及時向用戶發(fā)出安全警告通告。發(fā)生意外時,自動啟動警報系統(tǒng),以最快的時間盡可能地消除安全隱患。在最大程度上保證老人生命財產(chǎn)安全。給空巢老人一份安全保障,也給在外工作的子女帶來一份安心。
2跌倒檢測算法
跌倒檢測的一般步驟包含為:
1)人體特征檢測:此階段需要把人從背景中提取出來,并處理得到需要的人體特征,一般包括骨骼坐標點和人體姿態(tài)等;
2)動作識別:對人體的特征進行分析和處理,本文是分析人體中心點的速度和高度特征,從而檢測是否發(fā)生跌倒事件,排除誤檢和漏檢,提高準確率。
最終方案選擇:
利用Kinect體感器的實時骨骼跟蹤技術,選取人體的中心點(spinemid)、兩髖中心(spinebase)、右腳掌(righffoot)等3個骨骼點,實時計算人體中心點的空間位置、運動速度,以及兩髖中心點的空間位置、離地面的高度以及在較低高度下停留的時間等參數(shù)。
如果人中心點的下降速度超過v(閾值速度),同時兩髖中心點離地面高度低于H且停留時間大于T,則判定跌倒事件發(fā)生,系統(tǒng)會自動發(fā)出警報并切換到RGB畫面,以及自動保存當前時刻的具體時間、深度圖、骨骼圖和所有骨骼坐標,并自動把現(xiàn)場重要信息通過郵件通知監(jiān)護人。
實驗結果表明:該檢測系統(tǒng)的檢測準確率可以達到91%以上。該系統(tǒng)正常工作時,只會顯示深度圖和骨骼圖而沒有RGB圖,保護被監(jiān)護人的個人隱私,Kinect不受光照影響,系統(tǒng)晚上也可以實時檢測。Kinect無需穿戴,實用性和舒適性較好,不會影響老年人的日?;顒?,Kinect價格不高,比較容易和適合推廣和使用。
本檢測系統(tǒng)只適用于空間不大的房間,該限制由Kinect的深度識別范圍是0.5-4.5米所決定的,如果目標不在這個范圍,則Kinect的精度將急劇下降,導致檢測系統(tǒng)的準確度急劇下降。先獲取骨骼數(shù)據(jù),通過獲取的骨骼數(shù)據(jù)來分析和判斷目標人體的運動狀態(tài),主要檢測特征是目標人體的中心點的下降速度和兩髖中心點離地面的高度。
1)第一個檢測特征
通過對目標人體監(jiān)測,對返回的骨骼數(shù)據(jù)實時處理,在每相鄰10幀求一次人體中心點的下降速度spineV。當spineV>VT(臨界值),則認為檢測到了第一個跌倒特征。根據(jù)文獻里面的結果,VT一般在1.2lm/s-2.05m/s,結合實驗測試結果,本文選取1.37m/s做為人體中心點下降速度的閾值。一旦超過該閾值,則認為檢測到第一個跌倒特征。
檢測目標人體中心點的下降速度是第一個檢測特征,如果檢測到了第一個檢測特征,將進一步檢測第二個特征,即兩髖中心點離地面的高度。地面檢測的難度比較大,通過查詢Ki—nect SDK可以發(fā)現(xiàn)在IBodyFrame類里面有一個get_FloorClip-Plane方法,函數(shù)的參數(shù)是vector4*floorClipPlane,返回值是HRESULT類型。vector4結構體里有4個float類型的數(shù)據(jù)成員,分別是x,y,z,w,這4個參數(shù)即為地面方程的系數(shù)(x,y,z)和常數(shù)項(w),將這四個數(shù)分別賦值給A,B,C,D,則可得地面方程為:Ax+By+Cz+D=0
此處的地面方程是在Kinect的深度相機坐標系下得到的,常數(shù)項表示Kinect的深度相機的中心點到地面的距離。知道骨骼點的三維坐標和地面方程,則可計算兩髖中心離地面的距離baseH。
當baseH 一般情況下,人體跌倒后,身體一般是仰臥式、俯臥式和側臥式,這時兩髖中心點離地面的高度非常小,大概只有人身體腰厚大小或臀寬大小的一半。根據(jù)文獻對老年人身體尺寸的研究調查結果,第95百分位的男性腰厚大小和女性腰厚大小分別為330mm和300mm,男性臀寬大小和女性臀寬大小分別為370ram和380mm??紤]到衣服的厚度或身體接觸地面不充分等因素,結合實驗測試結果,該高度閾值需要設置更大一點才能準確檢測到跌倒事件,本文選取0.22m作為第二個檢測特征的閾值。當basell<0.22m,則判定檢測到第二個檢測特征。 當系統(tǒng)成功檢測到跌倒事件,系統(tǒng)會自動做出一系列處理。首先,系統(tǒng)自動切換到RGB畫面,對于后臺監(jiān)控可以不必時刻關注監(jiān)控畫面,發(fā)生跌倒事件后系統(tǒng)會自動切換到RGB畫面,監(jiān)護人員只需通過RGB畫面確認是否有人跌倒即可,極大減少了工作量,并很好地保護被監(jiān)護人的隱私,因為在正常情況下,本系統(tǒng)只會顯示深度圖和骨骼圖。然后,系統(tǒng)自動記錄當前時間和保存深度圖、骨骼圖及骨骼點坐標等數(shù)據(jù),這給醫(yī)護人員判斷跌倒老人的病情時提供了一定的線索和依據(jù),同時可以記錄跌倒瞬間的畫面,為進一步研究跌倒特征提供數(shù)據(jù)基礎,也可用作機器學習的數(shù)據(jù)源。最后,系統(tǒng)通過3G短信模塊向用戶發(fā)送預警信息,信息內(nèi)容包含被監(jiān)護人姓名、跌倒事件發(fā)生的時間以及現(xiàn)場RGB圖片等重要信息,確保相關監(jiān)護人會在第一時間收到老年人發(fā)生跌倒的通知,以便提供及時有效救助,減少損失和傷害。 3系統(tǒng)設計 3.1系統(tǒng)工作要求 要求在手機正常使用并且聯(lián)網(wǎng)的情況下觀看家中的畫面,觀看老人在家中的活動,溫度、氣體、溫度這三種數(shù)據(jù)的趨勢圖,并對這些數(shù)據(jù)作出科學系統(tǒng)地分析,并且能對數(shù)據(jù)進行存儲,隨時都能查看這些歷史數(shù)據(jù)。在手機沒有聯(lián)網(wǎng)的情況下,系統(tǒng)也將根據(jù)監(jiān)控到的家中情況以及老人的情況,通過3G模塊發(fā)送預警訊息給用戶,讓用戶不論在什么樣的情況下都能對家中的情況了如指掌。具體的要求如下: 1)移動終端上添加打電話的功能,當收到時警報信號,不用退出APP應用,直接撥號聯(lián)系有關人員。 2)當老人身體有恙從而摔倒時,立即發(fā)送緊急信息給看護家屬或者是120急救中心,當煙霧感應器檢查到室內(nèi)的各項指標出現(xiàn)問題時,也應該立即發(fā)出警報信號。 3)能夠對發(fā)生狀況的前后視頻進行幀保存或者錄制保存到本地,方便用戶隨時查看;對于各類數(shù)據(jù)(氣體、溫度、溫度)也要全部保存到時本地,方便用戶查看。 3.2系統(tǒng)整體設計 1)在軟件系統(tǒng)中,PC端我們主要是實現(xiàn)對老人日常行為的監(jiān)控,并且發(fā)送各類數(shù)據(jù)到指定服務器,然后用戶在手機端便可以進行查看。 2)系統(tǒng)硬件部分基于Zigbee技術,在本設計中,用到了協(xié)調器和終端設備。在終端節(jié)點(傳感器節(jié)點)中,實現(xiàn)溫濕度、主要氣體濃度等室內(nèi)參數(shù)的讀取與傳輸。 3.3基礎硬件設計 3.3.1ZigBee技術簡介 ZigBee技術是一種新興的短距離、低成本、低功耗、低復雜度的無線雙工通信技術,其基礎是IEEE 802.15.4,因此ZigBee聯(lián)盟擴展了IEEE,對其網(wǎng)絡層協(xié)議和API進行了標準化。Zig-Bee具有低功耗、成本低、網(wǎng)絡容量大等優(yōu)點。ZigBee技術具有強大的組網(wǎng)能力,可以形成星型、樹型和網(wǎng)狀網(wǎng),可以根據(jù)實際項目需要來選擇合適的網(wǎng)絡結構。 3.3.2數(shù)字溫濕度傳感器DHT11 DHT11數(shù)字溫濕度傳感器是一款含有已校準數(shù)字信號輸出的溫濕度復合傳感器。傳感器包括一個電阻式感濕元件和一個NTC測溫元件,并與一個高性能8位單片機相連接。DHT11的數(shù)據(jù)格式為:40bit數(shù)據(jù)=16bit溫度數(shù)據(jù)+16bit濕度數(shù)據(jù)+8bit校驗和,16bit的溫濕度數(shù)據(jù)中高8位為整數(shù)部分,低8位為小數(shù)部分,傳感器每次和ZigBee模塊通信的時間為5ms,考慮現(xiàn)實生活中的對于溫濕度精確度不高的特性,本系統(tǒng)只用到了溫濕度數(shù)據(jù)中的高8位,及采用了整數(shù)部分。DHT11原理圖如圖3所示: 3.3.3煙霧傳感器MQ-2 在監(jiān)測室內(nèi)有害氣體濃度時,我們用到的傳感器元件是MQ-2傳感器,主要監(jiān)測天然氣、一氧化碳等的濃度。實際設計中考慮到涉及了多個傳感器,所以每次采集一次溫濕度數(shù)據(jù)前都會進行氣體標志位的判斷,利用氣體傳感器的簡單性、DHT11的高效率,從軟件設計上實現(xiàn)了多個傳感器的同時采樣,降低了硬件的復雜度,也滿足了基本的數(shù)據(jù)需求。 3.3.4短信報警模塊 在短信報警模塊中,當系統(tǒng)檢測并分析出老人有摔倒等危險動作時,系統(tǒng)立即通過短信模塊通知戶主,在此過程中,發(fā)送短信的功能由SIM808模塊來實現(xiàn)。本系統(tǒng)中使用的SIM808發(fā)送短信的模式為PDU模式。 3.4系統(tǒng)軟件設計 3.4.1PC端設計 1)骨骼追蹤 第二代Kinect體感器提供了優(yōu)化版骨骼追蹤功能。增強保真度的深度相機結合改進版軟件,帶來了一系列骨骼追蹤功能提升。除了現(xiàn)在最多追蹤6套完整骨骼(第一代Kinect最多追蹤2套)以及每人25塊關節(jié)(第一代Kinect為20塊)之外,自動追蹤定位也比上一代更加精確穩(wěn)定,且追蹤范圍也更大。KinectforWindows SDK中的骨骼API可以提供位于Kinect前方至多兩個人的位置信息,包括詳細的姿勢和骨骼點的三維坐標信息。另外,Kinectfor Windows SDK最多可以支持20個骨骼點。數(shù)據(jù)對象類型以骨骼幀的形式提供,每一幀最多可以保存20個點,如圖所示。
在SDK中每個骨骼點都是用Joint類型來表示的,每一幀的20個骨骼點組成基于Joint類型的集合。此類型包含3個屬性,具體內(nèi)容如下所示。
JointType:骨骼點的類型,這是一種枚舉類型,列舉出了20個骨骼點的特定名稱,比如“HAND_LEbT”表示該骨骼點是左手節(jié)點。
Position:SkeletonPoint類型表示骨骼點的位置信息。Skel-etonPoint是一個結構體,包含X、Y、Z三個數(shù)據(jù)成員,用以存儲骨骼點的三維坐標。
TrackingState:JointTrackingState類型也是一種枚舉類型,表示該骨骼點的追蹤狀態(tài)。其中,Tracked表示正確捕捉到該骨骼點,NotTracked表示沒有捕捉到骨骼點,Inferred表示狀態(tài)不確定。
2)深度圖像解析
深度圖像解析的一般步驟是先獲取數(shù)據(jù)信息,然后將數(shù)據(jù)存儲到一個二維數(shù)組中,其中數(shù)組中的每一個元素代表圖像數(shù)據(jù)的每一個像素點。最后將其轉化成RGB圖像數(shù)據(jù)顯示即可。
3)打包發(fā)送
打包發(fā)送的過程將數(shù)據(jù)編碼方式進行轉換,首先將RGB數(shù)據(jù)轉化為YUV數(shù)據(jù),然后將YUV數(shù)據(jù)調用x264庫編碼為x264數(shù)據(jù),最后將x264數(shù)據(jù)通過LIBRTMP庫打包發(fā)送到服務器即可。
3.4.2Android應用端設計
1)應用總體設計結構和需求規(guī)定
2)本系統(tǒng)應具備以下功能:
(1)對使用本應用的用戶進行管理,未注冊的用戶將不能體驗應用的所有功能,完善用戶的個人資料,以便發(fā)生意外時的及時安全處理。
(2)用戶能實時查看監(jiān)控視頻,對家中的情況實時掌握。
(3)能有反應各類數(shù)據(jù)的趨勢變化圖。
(4)能有家中所有的當前情況。
(5)能對各類數(shù)據(jù)進行保存,以便用戶及時查看了解數(shù)據(jù)。
(6)當發(fā)生意外情況時,能對監(jiān)控的視頻畫面進行幀保存或是錄制保存。
(7)當發(fā)生意外情況時,能及時通知用戶或者進行警報處理。
3)部分界面展示:
如圖11,圖12所示。
4結束語
該項目的研究創(chuàng)新點在于區(qū)別于傳統(tǒng)基于單攝像頭的家庭監(jiān)控系統(tǒng),采用kinect設備基于雙目視覺原理獲取老人三維運動模型,從而更加準確判斷老人是否發(fā)生異常行為;采用分層識別算法對老人行為精確解析,智能判斷老人行為所產(chǎn)生后果,具有較強實時性和準確性;基于3G網(wǎng)絡的呼救信息傳輸系統(tǒng)能夠及時將信息多點傳輸?shù)奖O(jiān)護人員手機上,起到及時通知的目的;整套監(jiān)控設備較傳統(tǒng)監(jiān)控設備價格更低,具有較好市場前景。研發(fā)智能監(jiān)控系統(tǒng),能夠在室內(nèi)關鍵位置對獨居老人進行24小時監(jiān)控,并能夠智能分析判斷老人是否發(fā)生異常行為,成為保障獨居老人人身安全,使老人能夠幸福生活的關鍵技術。隨著人口老齡化趨勢日益加深,低成本、具有智能監(jiān)控獨居老人行為的設備市場前景廣闊,即將成為未來科研技術人員以及相關公司的研究熱點。整套監(jiān)控設備成本較低,符合廣大家庭的經(jīng)濟水平。如果投入使用,將受益更多的家庭,對于老人則是多一份保障與家人的放心。
盡管深度圖像在人體動作識別的研究中展現(xiàn)了其優(yōu)勢,但卻不能取代普通圖像的地位。深度圖像采集設備可測量范圍是有限的,運動目標人體必須在規(guī)定的范圍內(nèi)活動,所以遠距離目標就無能為力了,而普通圖像就沒有這種限制。因此基于普通圖像的人體動作識別算法還是有極在大的研究意義。