国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

基于雙目立體視覺的手術(shù)定位跟蹤技術(shù)研究

2021-05-13 07:16黃健殷鋒袁平陳彥如
現(xiàn)代計算機 2021年8期
關(guān)鍵詞:雙目手術(shù)器械標(biāo)定

黃健,殷鋒,袁平,陳彥如

(1.四川大學(xué)計算機學(xué)院,成都610065;2.西南民族大學(xué)計算機科學(xué)與技術(shù)學(xué)院,成都610041;3.重慶市第二師范學(xué)院技術(shù)與信息工程學(xué)院,重慶400067)

0 引言

計算機輔助外科手術(shù)(Computer Assisted Surgery,CAS)是一門新興的研究領(lǐng)域。它通過合理、定量地利用CT、MRI、SPET 等醫(yī)學(xué)診斷設(shè)備提供的多模圖像數(shù)據(jù)和立體手術(shù)導(dǎo)航定位系統(tǒng),輔助外科醫(yī)生進行手術(shù)的計劃和干預(yù)。手術(shù)導(dǎo)航系統(tǒng)根據(jù)采用的空間定位技術(shù),可分為機械導(dǎo)航系統(tǒng)、超聲導(dǎo)航系統(tǒng)、電磁導(dǎo)航系統(tǒng)和光學(xué)導(dǎo)航系統(tǒng),其中光學(xué)導(dǎo)航系統(tǒng)采用可見光或紅外光成像,使用雙目立體視覺技術(shù)確定空間坐標(biāo),精度較高,是目前手術(shù)導(dǎo)航定位系統(tǒng)的主流方法。

本文設(shè)計了一種低成本、高精度的光學(xué)手術(shù)器械定位跟蹤系統(tǒng)。在所提出的光學(xué)跟蹤系統(tǒng)中,三個彩色標(biāo)志小球被安裝在手術(shù)儀器上。本系統(tǒng)使用CAMAR0135-3T16 雙目攝像機,用張正友的標(biāo)定方法[2-5]通過拍攝棋盤格對攝像機進行標(biāo)定。使用Python 基于OpenCV 庫開發(fā)了一種雙目立體視覺手術(shù)器械跟蹤定位系統(tǒng)。系統(tǒng)以Win10 系統(tǒng)的個人計算機為運行載體,由圖像采集、圖像處理、特征點提取、立體匹配和三維重建幾個模塊構(gòu)成,通過連續(xù)處理視頻數(shù)據(jù),實現(xiàn)對手術(shù)器械尖端坐標(biāo)的實時跟蹤定位。

圖1 實驗器具

1 光學(xué)定位系統(tǒng)原理

1.1 攝像機標(biāo)定

雙目立體視覺模型涉及到幾個坐標(biāo)系:如圖2 所示,世界坐標(biāo)系XwYwZw,原點為Ow,其中點P 的坐標(biāo)為P(xw,yw,zw)。左攝像機坐標(biāo)系為XlYlZl,右攝像機坐標(biāo)系為XrYrZr,原點Ol、Or分別代表左右攝像機的光學(xué)中心,Zl、Zr分別為左右攝像機的光軸。以左右攝像機光軸與各自成像平面的交點O 作為成像平面的原點,建立像平面坐標(biāo)系,點p 在像平面坐標(biāo)系的坐標(biāo)可表示為p1(xl,yl),p2(xr,yr)。像素坐標(biāo)系以左上角為原點,點p 在像素坐標(biāo)系的坐標(biāo)可表示為p1(ul,vl),p2(ur,vr)。

圖2 雙目視覺模型與各坐標(biāo)系

根據(jù)上述坐標(biāo)系關(guān)系,可得世界坐標(biāo)系到像素坐標(biāo)系的變換公式為:

其中Zc為比例因子,dx和dy分別代表每一個像素在x 軸與y 軸方向上的物理尺寸,f 代表攝像機的焦距。dx、dy、u0、v0只與攝像機的結(jié)構(gòu)有關(guān),稱為攝像機內(nèi)部參數(shù);R 和T 分別代表攝像機相對于世界坐標(biāo)系的旋轉(zhuǎn)矩陣和平移矩陣,稱為攝像機外部參數(shù)。攝像機標(biāo)定就是確定內(nèi)外參數(shù)的過程。

攝像機的標(biāo)定方法根據(jù)是否需要標(biāo)定參照物分為傳統(tǒng)攝像機標(biāo)定和攝像機自標(biāo)定。傳統(tǒng)攝像機標(biāo)定需要使用已知尺寸信息的高精度參照物,將參照物的已知坐標(biāo)與圖像點建立對應(yīng)關(guān)系以完成三維空間到二維圖像的映射,精度較高。攝像機自標(biāo)定利用自身運動過程中拍攝的不同圖像建立對應(yīng)關(guān)系完成標(biāo)定,比較靈活但精度較低。張正友于1998 年提出的棋盤格標(biāo)定方法,介于傳統(tǒng)標(biāo)定方法和自標(biāo)定方法之間,兼具兩者優(yōu)勢,且已封裝為MATLAB 工具箱,可以快速對攝像機進行標(biāo)定。

1.2 雙目立體視覺模型

理想的雙目立體視覺模型中,兩個完全相同的雙目攝像機平行放置,如圖2 所示,兩個攝像機的光軸Zl、Zr互相平行,Yl、Yr軸也互相平行,Xl、Xr在同一條直線上。以兩個攝像機的光心Ol、Or作為原點分別建立坐標(biāo)系,兩個光學(xué)中心的連線稱為基線,記為b。成像平面與光心的距離為焦距,兩攝像機的焦距相同,記為f。若以左攝像機的坐標(biāo)系為世界坐標(biāo)系,空間點P(xw,yw,zw)在左右攝像機的成像平面上的坐標(biāo)分別為p1(xl,yl),p2(xr,yr),由相似三角形原理可得:

式中基線b 和焦距f 可以通過攝像機標(biāo)定得到。因此,在已標(biāo)定的理想雙目立體視覺系統(tǒng)中,可以定量計算空間點P 的深度。但實際上,兩臺攝像機光軸無法做到完全平行,若在硬件條件無法滿足的情況下,按照理想的雙目立體視覺模型來進行定位,會得到誤差較大的結(jié)果。在實際應(yīng)用中,通常會對攝像機分別進行標(biāo)定,得到兩個攝像機的標(biāo)定矩陣參數(shù),并通過立體匹配的方法,得到空間點P 在兩個攝像機成像平面上對應(yīng)像點的坐標(biāo),采用最小二乘法進行深度信息的精確求解。

2 標(biāo)志點提取

本文所述雙目視覺定位系統(tǒng)基于可見光定位,使用彩色小球作為手術(shù)器械的標(biāo)志點。通過在手術(shù)器械上安裝三個彩色標(biāo)志小球以定位手術(shù)器械針尖。標(biāo)志點的中心坐標(biāo)的提取計算直接影響三維坐標(biāo)重建的精度。如圖1 所示,本系統(tǒng)使用裝有三個紅色小球的實驗裝置模擬手術(shù)器械,雙目攝像機實時拍攝運動過程中的手術(shù)器械圖像,輸入上位機中進行處理。下面以左攝像機拍攝的一幀圖像為例,說明計算機處理圖像,獲取標(biāo)志點中心坐標(biāo)的過程:

(1)左攝像機拍攝的圖像輸入筆記本電腦中

(2)利用OpenCV-Python 庫讀取采集到的圖像,對圖像根據(jù)RGB 值做顏色通道分離,通過高斯濾波和圖像膨脹等形態(tài)學(xué)處理方法,對圖像進行二值化處理。

(3)在圖像矩陣中尋找高亮連通區(qū)域(灰度值大于一定閾值),根據(jù)公式(4)計算中心坐標(biāo):

從右攝像機采集的圖像中提取標(biāo)志點中心坐標(biāo)的流程與上述過程相同。在分別獲取并處理左右攝像機拍攝的圖像,提取三個標(biāo)志點的中心坐標(biāo)后,可以根據(jù)第4 節(jié)的理論重建三個標(biāo)志點在空間中的球心坐標(biāo)。

3 立體匹配

本文提出的手術(shù)器械跟蹤系統(tǒng)是基于雙目攝像機的。根據(jù)標(biāo)記的三維坐標(biāo)重建模型(第4 節(jié)),需要一對匹配的標(biāo)記點中心坐標(biāo)以計算真實的標(biāo)志點中心位置。在左圖像和右圖像中分別有三個標(biāo)記點。在進行三維重建之前,必須對左右圖像中同一位置的標(biāo)記對進行匹配。本文使用標(biāo)記的空間位置進行匹配,手術(shù)器械上標(biāo)記的位置固定,圖像上標(biāo)記的位置也固定。左右圖像中的三個標(biāo)記按照它們的位置從上到下和從左到右排序,可以通過匹配它們的排序順序號來匹配標(biāo)記對。

4 三維重建

假設(shè)已通過攝像機標(biāo)定獲得兩個攝像機的標(biāo)定參數(shù),空間點P(xw,yw,zw)在左右攝像機得像素平面坐標(biāo)分別為p1(ul,vl),p2(ur,vr)。根據(jù)1.1 小節(jié)中式(1),可得:

其中,Ml與Mr為世界坐標(biāo)系到左右攝像機的投影矩陣。聯(lián)立式(5)與(6)得:

式(7)表示過Ol pl的直線,式(8)表示過Or pr的直線。通過(7)、(8),根據(jù)最小二乘法,可求得空間點P的坐標(biāo)xw,yw,zw。

5 手術(shù)器械標(biāo)定

手術(shù)器械的工作點(針尖或刀尖)往往會深入病人體內(nèi)而導(dǎo)致無法在視距范圍中獲得其圖像以及位置信息。因此,對工作點坐標(biāo)的計算是間接的,首先要確定手術(shù)器械上的標(biāo)志點與工作點間的剛體約束關(guān)系。

如圖3 所示,A、B、C 為手術(shù)器械的三個標(biāo)志點的中心點,T 為手術(shù)器械的工作點。以A 為原點,在以ABC 確定的平面上,以AB 為x 軸建立坐標(biāo)系,此為手術(shù)器械坐標(biāo)系。由于手術(shù)器械是剛體結(jié)構(gòu),手術(shù)器械坐標(biāo)系中工作點T 的位置是固定的。A、B、C 三點的世界坐標(biāo)系坐標(biāo)可由上述雙目視覺方法獲得。下一步再根據(jù)三點在世界坐標(biāo)系和手術(shù)器械坐標(biāo)系中的坐標(biāo),確定手術(shù)器械坐標(biāo)系到世界坐標(biāo)系的旋轉(zhuǎn)平移矩陣。根據(jù)此旋轉(zhuǎn)平移矩陣,可以計算出T 點在世界坐標(biāo)系中的位置。因此手術(shù)器械標(biāo)定,就是確定工作點T 在手術(shù)器械坐標(biāo)系中的坐標(biāo)。

圖3 手術(shù)器械示意圖

手術(shù)器械標(biāo)定的第一步是將手術(shù)器械繞工作點T(T 點不動)進行N 次旋轉(zhuǎn)。設(shè)工作點T 的坐標(biāo)為T(xt,yt,zt),標(biāo)志點坐標(biāo)為P(xi,yi,zi),表示第i 次旋轉(zhuǎn)所拍攝圖像中標(biāo)志點的坐標(biāo)。根據(jù)該標(biāo)志點到點T 的歐氏距離d不變,可得:

i>=2 的方程均減去i=1 的方程消去d,得到N-1個方程:

對于三個標(biāo)志點,共可得到3(N-1)個方程。通過最小二乘法,可解得T(xt,yt,zt)。

根據(jù)某次旋轉(zhuǎn)得到的標(biāo)志點坐標(biāo),可求得世界坐標(biāo)系至手術(shù)器械坐標(biāo)系的旋轉(zhuǎn)平移變換矩陣,進而可以根據(jù)旋轉(zhuǎn)平移矩陣和T(xt,yt,zt),求得手術(shù)器械工作點T 在手術(shù)器械坐標(biāo)系中的坐標(biāo)。

6 手術(shù)器械定位實驗

步驟1:讀取雙目圖像;

圖4 雙目圖像

步驟2:對圖像進行RGB 通道分離、二值化、膨脹等處理;

步驟3:提取圖像中標(biāo)志點中心坐標(biāo);

步驟4:立體匹配獲取雙目圖像中對應(yīng)標(biāo)志點的中心坐標(biāo),三維重建得到標(biāo)志點在世界坐標(biāo)系中的空間坐標(biāo);

步驟5:通過坐標(biāo)系的旋轉(zhuǎn)平移變換,求得手術(shù)器械工作點的空間坐標(biāo)。

圖6 實驗結(jié)果

7 結(jié)語

本文設(shè)計了一種低成本、高精度的光學(xué)跟蹤系統(tǒng)。系統(tǒng)運行在搭載Win10 操作系統(tǒng)的個人計算機上,通過MATLAB 工具箱中的張氏標(biāo)定法對攝像機進行標(biāo)定,基于雙目視覺原理獲取標(biāo)志點的深度信息,再根據(jù)標(biāo)志點與手術(shù)器械針尖的剛體約束計算針尖坐標(biāo),實現(xiàn)對手術(shù)器械的實時跟蹤定位。系統(tǒng)通過Python 編寫基于OpenCV 庫完成圖像采集、處理和坐標(biāo)計算的功能。

猜你喜歡
雙目手術(shù)器械標(biāo)定
采用雙目視覺和自適應(yīng)Kalman濾波的作物行識別與跟蹤
供應(yīng)室手術(shù)器械消毒工作進行一體化管理的效果評價
手術(shù)器械預(yù)處理在手術(shù)室的應(yīng)用
達(dá)芬奇機器人手術(shù)器械標(biāo)準(zhǔn)化手工清洗操作流程研究
霜 降 蘇美玲
基于雙目視覺的機器人定位與導(dǎo)航算法
輕卡前視攝像頭的售后標(biāo)定
一種輕卡前視單目攝像頭下線標(biāo)定方法
一種全景泊車控制器標(biāo)定系統(tǒng)的設(shè)計研究
機械手的雙目視覺定位抓取研究