TW202108086A - 應用於與手術導航整合之混合實境系統之數位影像實境對位套件與方法 - Google Patents

應用於與手術導航整合之混合實境系統之數位影像實境對位套件與方法 Download PDF

Info

Publication number
TW202108086A
TW202108086A TW108131391A TW108131391A TW202108086A TW 202108086 A TW202108086 A TW 202108086A TW 108131391 A TW108131391 A TW 108131391A TW 108131391 A TW108131391 A TW 108131391A TW 202108086 A TW202108086 A TW 202108086A
Authority
TW
Taiwan
Prior art keywords
coordinate system
affected part
mark
image
positioning
Prior art date
Application number
TW108131391A
Other languages
English (en)
Other versions
TWI697317B (zh
Inventor
曾清秀
馮德諼
Original Assignee
國立中央大學
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 國立中央大學 filed Critical 國立中央大學
Priority to TW108131391A priority Critical patent/TWI697317B/zh
Priority to US16/690,319 priority patent/US11574446B2/en
Application granted granted Critical
Publication of TWI697317B publication Critical patent/TWI697317B/zh
Publication of TW202108086A publication Critical patent/TW202108086A/zh

Links

Images

Landscapes

  • Apparatus For Radiation Diagnosis (AREA)

Abstract

本發明主要關於一種數位影像實境對位套件,係應用於混合實境手術導航系統,包含:複數移動標記,其具有對應之複數移動標記座標系,且一部分之該等移動標記係供設置於手術器械上;定位標記,其係設置在具有患部座標系之患部附近,經設置後具有確定的定位標記座標系,並與另一部分之該等移動標記以及該患部之間具有確定的相對位置,以將該患部座標系轉換到該定位標記座標系;以及混合實境裝置,其偵測該定位標記並具有混合實境裝置座標系,據此將該定位標記座標系轉換到該混合實境裝置座標系,並將數位患部影像投影在該患部上。

Description

應用於與手術導航整合之混合實境系統之數位影像實境對 位套件與方法
本發明係有關於一種混合實境手術導航系統,尤其是指一種用於將數位患部影像對位投影到患部的對位套件與其對位方法。
現今的外科手術(surgery)仍有許多高危險的手術,例如:開顱手術、動脈栓篩手術、微創手術、或脊椎手術等,這些手術都同樣面臨到定位困難、操作難度高、高技術性、與高複雜度等問題,而這些問題主要起因於手術過程中,醫師在視覺上無法直接看到患部,只能看到一小部分的患部或其外層組織,所導致的極高手術風險。
因此在這些高風險手術實施前,醫師都須要利用X光成像技術、電腦斷層造影(CT)技術、電腦斷層血管造影(CTA)技術、數位減影除血管造影(DSA)技術、最大密度投影(MIP)技術、或者核磁共振成像(MRI)技術等,預先拍攝患部的二維切片影像,然後在手術前與過程中,不時觀看與參考上述影像,並憑藉自身專業知識以及經驗,推測與想像患部的實際狀況來執行手術,這些高風險外科手術的難度與醫師承受的心理壓力可想而知。
故為了讓醫師能眼見為真,並在手術前與過程中,都能很容 易、直覺的掌握換部實際狀況,因此本案申請人提出基於混合實境之即時動態手術導航系統的技術,透過應用混合實境(MR)技術,將患部的血管、神經、腦組織、病灶以及手術器械等,直接投影在患部處,讓醫師得以在手術前與過程中,都能以直覺的方式,隨時掌握患部實際狀況與手術進程,藉此降低手術難度並減輕醫師壓力。
但在上述混合實境即時動態手術導航系統,患部與患部影像之間,在一個開放的三維空間環境內,如何做到準確對位、即時(real time)的動態對位、以及患部空間中的定位(positioning)等,又是另外一項需要克服的技術問題。
職是之故,申請人經過悉心試驗與研究,並一本鍥而不捨之精神,終構思出本案「應用於與手術導航整合之混合實境系統之數位影像實境對位套件與方法」,能夠克服上述缺點,以下為本發明之簡要說明。
鑑於在混合實境之即時動態手術導航系統中所存在的定位、對位問題,本發明透過使用兩種不同功能的追蹤標記,分別提供給移動的MR穿戴裝置與固定的光學追蹤器進行即時位置追蹤,而得以確定MR即時動態立體3D影像的投影位置,並提供不同視角上的MR即時動態立體3D影像。
透過本發明提出的對位技術,MR裝置能夠將包含有病患患部之血管、神經與腦組織實際狀況之立體3D影像,以即時3D視覺化方式準確投影在患部上,並透過MR裝置顯示給醫師,無論醫師在手術過程中如何移動,MR裝置所顯示之立體3D影像始終可以準確的定位在患部上,並且可 以隨著醫生之視角變化,即時且動態的對應顯示出患部在不同視角上的立體3D影像,且可以同步提供給站在不同位置、不同視角上的多位醫師觀看,讓多位醫師能夠同步參與複雜手術之進行。
本發明提出的對位技術可供做為MR手術導航系統中的核心技術,最終藉由MR眼鏡即時顯示患部、病患和手術器械畫面,輔助醫師作更直觀規劃安全手術路徑、3D手術導航以及降低腦部手術腦動脈損傷的風險。
據此本發明提出一種數位影像實境對位套件,係應用於混合實境手術導航系統,包含:複數移動標記,其具有對應之複數移動標記座標系,且一部分之該等移動標記係供設置於手術器械上;定位標記,其係設置在具有患部座標系之患部附近,經設置後具有確定的定位標記座標系,並與另一部分之該等移動標記以及該患部之間具有確定的相對位置,以將該患部座標系轉換到該定位標記座標系;以及混合實境裝置,其偵測該定位標記並具有混合實境裝置座標系,據此將該定位標記座標系轉換到該混合實境裝置座標系,並將數位患部影像投影在該患部上。
較佳的,所述之數位影像實境對位套件還包含:位置追蹤器,其感應該等移動標記,經設置後具有確定的位置追蹤器座標系,以將該部分之該等移動標記所對應之該等移動標記座標系以及該數位患部影像之數位患部影像座標系,以該位置追蹤器座標系為基準轉換到該患部座標系。
較佳的,所述之數位影像實境對位套件還包含:第一註冊裝置,其設置在該患部旁,並具有第一面以及相對於該第一面的第二面,該 第一面係供該定位標記設置以及該第二面係供該另一部分之該等移動標記設置,當該第一註冊裝置在該患部旁設置後,該患部、該定位標記、以及該另一部分之該等移動標記彼此間之相對位置也因此確定;以及第二註冊裝置,其設置在該患部旁,並具有複數表面,每一個表面係供該定位標記設置,該等複數表面其中一面係供該另一部分之該等移動標記設置,當該第二註冊裝置在該患部旁設置後,該患部、該定位標記、以及該另一部分之該等移動標記彼此間之相對位置也因此確定。
較佳的,該定位標記、該另一部分之該等移動標記、以及該患部之間,經設置後彼此間具有確定的相對位置,故該定位標記座標系、該另一部分之該等移動標記所對應之該等移動標記座座標系、以及該患部座標系彼此間具有確定的座標轉換關係做為系統設計值。
較佳的,該數位患部影像座標系係以該位置追蹤器座標系為基準經由該另一部分之該等移動標記所對應之該等移動標記座座標系而轉換到該患部座標系。
較佳的,該數位患部影像座標系係透過圖像配準演算法而轉換到該位置追蹤器座標系,該定位標記座標系係透過針孔透視投影定位演算法而轉換到該混合實境裝置座標系。
本發明進一步提出一種數位影像實境對位方法,係應用於混合實境手術導航系統,包含:提供具有複數移動標記座標系之複數移動標記、具有定位標記座標系之定位標記、具有混合實境裝置座標系之混合實境裝置、以及具有患部座標系之患部;將一部分之該等移動標記設置在手術器械上;將該定位標記、以及另一部分之該等移動標記設置在該患部旁, 並確定該患部、該定位標記、以及該另一部分之該移動標記彼此間之相對位置,以將該患部座標系轉換到該定位標記座標系;以及透過該混合實境裝置偵測該定位標記,並將該定位標記座標系轉換到該混合實境裝置座標系,並將數位患部影像投影在該患部上。
較佳的,所述之數位影像實境對位方法還包含以下其中之一:提供具有位置追蹤器座標系之位置追蹤器、以及具有數位患部影像座標系之該數位患部影像;確定該位置追蹤器的設置位置,並透過該位置追蹤器感應該等移動標記,以將該部分之該等移動標記所對應之該等移動標記座標系以及該數位患部影像座標系,以該位置追蹤器座標系為基準轉換到該患部座標系;以及透過確定該患部、該定位標記、以及該另一部分之該移動標記彼此間之相對位置,而確定該定位標記座標系、該另一部分之該等移動標記所對應之該等移動標記座標系、以及該患部座標系彼此間的座標轉換關係。
100‧‧‧與手術導航系統整合之混合實境系統
106‧‧‧定位標記
108‧‧‧位置追蹤器
110‧‧‧移動標記
112‧‧‧手術器械
114‧‧‧電腦
116‧‧‧運算單元模組
118‧‧‧平面顯示器
200‧‧‧MR裝置
202‧‧‧MR顯示器
204‧‧‧MR感知器
400‧‧‧第一註冊裝置
HX‧‧‧三維腦血管分布影像
SX‧‧‧三維脊椎影像
UR‧‧‧使用者
UH‧‧‧使用者頭部
PH‧‧‧患者頭部
PW‧‧‧患者後腰部
IM‧‧‧患部影像模型
SA‧‧‧患部
PP‧‧‧病患
UR1‧‧‧使用者
UR2‧‧‧使用者
UR3‧‧‧使用者
2001‧‧‧MR裝置
2002‧‧‧MR裝置
2003‧‧‧MR裝置
1061‧‧‧定位標記
1062‧‧‧定位標記
1063‧‧‧定位標記
410‧‧‧第二註冊裝置
ST‧‧‧標記組
第1圖係揭示本發明套件與方法所應用之手術導航用混合實境系統之架構示意圖;第2圖係揭示本發明系統提出之MR裝置示意圖;第3圖係揭示本發明提出之定位標記之示意圖;第4圖係揭示本發明提出之位置追蹤器之示意圖;第5圖係揭示本發明提出之移動標記之示意圖;第6圖係揭示本發明提出安裝有移動標記之手術器械之示意圖; 第7圖揭示本發明所應用之混合實境手術導航系統中所包含的多個座標系與彼此間的座標轉換之示意圖;第8圖揭示本發明所提出對位方法中涉及患部影像模型與患部間的座標轉換示意圖;第9圖揭示本發明在患部旁邊之註冊裝置的移動標記與定位標記間的座標轉換示意圖;第10圖揭示本發明提出之定位標記包含之特徵圖案其座標系定義之示意圖;第11圖揭示本發明定位標記與MR裝置間的座標轉換示意圖;第12圖揭示本發明手術器械與患部間的座標轉換示意圖
第13圖係揭示本發明所使用之註冊裝置之正面示意圖;第14圖係揭示本發明所使用之註冊裝置之背面示意圖;第15圖與第16圖係揭示使用者在本發明系統MR裝置上觀看到的整體混合實境影像之示意圖;以及第17圖係揭示本發明套件與方法提供給多使用者操作之情境示意圖。
本發明將可由以下的實施例說明而得到充分瞭解,使得熟習本技藝之人士可以據以完成之,然本發明之實施並非可由下列實施案例而被限制其實施型態;本發明之圖式並不包含對大小、尺寸與比例尺的限定,本發明實際實施時其大小、尺寸、形狀與比例尺並非可經由本發明之圖式而被限制;以下將結合本發明實施例中的附圖,對本發明實施例中的技術方案進行清楚、完整地描述,然所描述的實施例僅僅是本發明一部分實施 例,而不是全部的實施例。基於本發明中的實施例,本領域具有通常知識者,在沒有做出創造性活動的情況下所獲得的所有其它實施例,皆屬於本發明保護的範圍。
本文中用語“較佳”是非排他性的,應理解成“較佳為但不限於”,任何說明書或請求項中所描述或者記載的任何步驟可按任何順序執行,而不限於請求項中所述的順序,本發明的範圍應僅由所附請求項及其均等方案確定,不應由實施方式示例的實施例確定;本文中用語“包含”及其變化出現在說明書和請求項中時,是一個開放式的用語,不具有限制性含義,並不排除其它特徵或步驟。
本案申請人於本案申請日108年08月30日同日所申請之發明名稱「與手術導航系統整合之混合實境系統/Mixed Reality System Integrated with Surgical Navigation System」中華民國發明專利申請第108131367號,其內容在此全完併入本案,有如在此提出。
在本發明混合實境(Mixed Reality、MR)是指透過攝影機影像的位置及角度精算並加上圖像分析技術,讓螢幕上的虛擬數位內容能夠與真實環境場景進行結合與互動的技術,較佳可利用各式感知器感測環境參數,並即時運算出虛擬影像於真實空間中位置與方向,藉由顯示器將虛擬影像投射或疊加於真實物件上;另當以真實環境和虛擬環境分別作為連續系統的兩端時,較靠近真實環境的呈現又稱為擴增實境(Augmented Reality、AR),較靠近虛擬環境的呈現又稱為虛境實境(Virtual Reality、VR),MR也可視為AR與VR的合成品。
第1圖係揭示本發明所應用之混合實境手術導航系統之架構 示意圖;第2圖係揭示本發明系統提出之MR裝置示意圖;第3圖係揭示本發明提出之定位標記之示意圖;如第1圖所揭示,本發明混合實境手術導航系統100包含:MR裝置200、MR顯示器202、多顆MR感知器204、定位標記106、位置追蹤器108、移動標記(位置標記)110、手術器械112、電腦114、運算單元模組116、平面顯示器118等元件,在本實施例MR裝置200係採用但不限於Microsoft HoloLens裝置,可供使用者UR穿戴在頭部UH,在本實施例MR顯示器202與MR感知器204較佳係配置在同一裝置即MR裝置200上,如第2圖所揭示;定位標記106是一個包含特徵圖案的平面標記,可供MR感知器204讀取與辨識,如第3圖所揭示。
第4圖係揭示本發明提出之位置追蹤器之示意圖;第5圖係揭示本發明提出之移動標記之示意圖;以及第6圖係揭示本發明提出安裝有移動標記之手術器械之示意圖;位置追蹤器108、與移動標記110係彼此搭配以即時追蹤各種手術器械112的現在位置,在本實施例,位置追蹤器108較佳是一台紅外線主動光學追蹤器,如第4圖所揭示,移動標記110較佳是對應的紅外線被動反射標記,經設計與製作為直徑大約1公分左右的球體,可供嵌入在手術器械112上,如第5圖與第6圖所揭示,當位置追蹤器108的紅外線掃瞄啟動後,可以在一個類金字塔(pyramid)狀的三維立體空間內,精確追蹤每一顆移動標記110的現在空間座標位置並持續向系統回報,使系統可隨時更新手術器械的即時空間位置。
第7圖揭示本發明所應用之混合實境手術導航系統中所包含的多個座標系與彼此間的座標轉換之示意圖;第7圖揭示患部影像模型IM、手術器械112、移動標記110、位置追蹤器108、患部SA、病患PP、定位標記 106、MR裝置200等,其中患部影像模型IM較佳是在手術之前已經預先製作完成,是由一系列較佳但不限於由電腦斷層(CT)切片影像所建構的虛擬(virtual)三維患部影像,影像內容較佳可以包含患部內層的神經、組織、結構、器官等影像,視為對實體患部的虛擬擴增(virtually augmented)。
在上述混合實境手術導航系統中同時對應存在6個彼此獨立的座標系,包含患部影像模型座標系F image 、代表手術器械座標系之移動標記座標系F Probe 、位置追蹤器座標系F opt 、患部座標系F patient 、定位標記座標系F marker 、MR裝置座標系F hc 等,如下表所列示:
Figure 108131391-A0101-12-0009-1
在上述座標系中,患部影像模型在患部影像模型座標系F image 中的座標值為已知值,當位置追蹤器、患部、定位標記等就定位並確定位置後,則位置追蹤器、患部、定位標記等在位置追蹤器座標系F opt 、患部座標系F patient 、定位標記座標系F marker 中的座標值也將隨之確定並成為已知,而患部影像模型座標系F image 、位置追蹤器座標系F opt 、患部座標系F patient 、定位標記座標系F marker 之間的座標轉換關係也隨之確定,只剩安裝在手術器械上的移動標記、以及MR裝置的座標值是變動的,但透過以位置 追蹤器定位標記以及定位標記做為錨定轉換點,可將患部影像模型準確對位到並投影在患部上。
對於患部影像模型與患部之間的對應,較佳可透過圖像配準演算法如互動式最近點(Interactive Closest Point,ICP),將患部特徵點正確對位到影像模型的對應點上,得到患部影像模型模型座標系F image 轉換到位置追蹤器座標系F opt 的座標轉換關係,由於位置追蹤器座標系F opt 與患部座標系F patient 的轉換關係本為已知,據此將位置追蹤器座標系F opt 轉換到患部座標系F patient ,完成位置追蹤器患部影像模型與患部位置之間的基本對應。
對於手術器械與患部之間的對應,透過位置追蹤器對移動標記的追蹤,可得知手術器械在位置追蹤器座標系F opt 中的座標值,等於是將手術器械座標系F Probe 轉換到位置追蹤器座標系F opt ,由於位置追蹤器座標系F opt 與患部座標系F patient 的轉換關係本為已知,據此將手術器械座標系F Probe 轉換到患部座標系F patient ,完成手術器械與患部位置之間的基本對應。
對於醫師穿戴的MR裝置與患部之間的對應關係,透過位置追蹤器對註冊裝置(Registration device)的移動標記追蹤,且註冊裝置的移動標記與定位標記的座標系轉換關係為預設的設計值,據此可將患部座標系F patient 透過位置追蹤器座標系F opt 轉換到定位標記座標系F marker ,而MR裝置較佳透過MR感知器擷取定位標記,然後透過針孔透視投影定位演算法,即可即時計算出定位標記座標系F marker 與MR裝置座標系F hc 之間的即時座標轉換關係,而將患部影像模型透過MR裝置準確投影在患部上。
上述座標系彼此之間的座標轉換如下表所列示:
Figure 108131391-A0101-12-0011-2
上述座標轉換的重點在於如何在手術器械、患部與MR裝置進行座標轉換,以將患部影像模型準確對位到患部上。
第8圖揭示本發明所提出對位方法中涉及患部影像模型與患部間的座標轉換示意圖;第9圖揭示本發明在患部旁邊之移動標記與定位標記間的座標轉換示意圖;第10圖揭示本發明提出之定位標記包含之特徵圖案其座標系定義之示意圖;第11圖揭示本發明定位標記與MR裝置間的座標轉換示意圖;第12圖揭示本發明手術器械與患部間的座標轉換示意圖。
患部影像模型與患部間的座標轉換關係如方程式(1):
Figure 108131391-A0101-12-0011-3
關於患部影像模型與患部間的座標轉換大致包含五個步驟如下:
步驟一,如第8圖所揭示,手術開始進行前的主要工作為擷取患部之影像,例如CTA影像,擷取完成後將CTA影像,根據造影機台座標 系將影像作3D重建,建立病患患部影像模型座標系F image
步驟二,在F image 上選擇三個病患頭部模型表面點,接著用帶有移動標記的定位器械F probe 在病患頭部相同位置也點選該三個點,將該三個影像點與三個點選點座標做座標轉換的初始對正,然後在病患頭部點選N個點座標,經最佳化方法如ICP(Iterative Closest Point)演算法讓該N個點座標轉換到影像座標系F image 後與對應的影像點座標有最小的位置誤差平均 值,得到
Figure 108131391-A0101-12-0012-4
,藉由與病患相對位置已知的病患(移動標記)座標系F patient ,由F opt
Figure 108131391-A0101-12-0012-5
,進一步得到方程式(2)。
步驟三,如第9圖所揭示透過位置追蹤器的量測,由病患座標系F patient 與定位標記座標系F marker 可得
Figure 108131391-A0101-12-0012-7
,進一步得到方程式(3)。
步驟四,如第10圖所揭示,根據特徵圖案定義座標系。
步驟五,如第11圖所揭示,相機F hc 透過單眼視覺方式定位F marker 得到
Figure 108131391-A0101-12-0012-6
,透過先前座標系轉換得方程式(4),最後得到方程式(5)。
Figure 108131391-A0101-12-0012-8
Figure 108131391-A0101-12-0012-9
Figure 108131391-A0101-12-0012-10
Figure 108131391-A0101-12-0012-11
關於手術器械與患部間的座標轉換大致包含四個步驟如下:
步驟一:如第12圖所揭示由手術器械設計值F probe F opt
Figure 108131391-A0101-12-0012-12
,再經由病患座標系F patient F opt
Figure 108131391-A0101-12-0012-13
,透過座標轉換得方程式(6)。
步驟二:如第9圖所揭示由病患座標系F patient 與定位標記座標系F marker 可得
Figure 108131391-A0101-12-0013-19
,又由器械座標系F probe 與定位標記座標系F marker 進一步得到方程式(7)
步驟三:如第10圖所揭示,MR裝置F hc 透過單眼視覺方式定位F marker 得到
Figure 108131391-A0101-12-0013-18
,透過方程式(7)近一步得到方程式(8),最後得方程式(9)。
Figure 108131391-A0101-12-0013-14
Figure 108131391-A0101-12-0013-15
Figure 108131391-A0101-12-0013-16
Figure 108131391-A0101-12-0013-17
第13圖係揭示本發明所使用之註冊裝置之正面示意圖;第14圖係揭示本發明所使用之定位標記之背面示意圖;為了使定位標記與移動標記兩者間能夠有一個確定的對應關係,因此本發明將放在患部旁邊之移動標記與定位標記,將兩者合併固定配置在一個註冊裝置的正面與背面,使得定位標記與移動標記兩者間產生一個確定不變的位置對應關係、與一個錨定的連結關係;如第13圖所揭示,第一註冊裝置400的正面黏貼有包含特徵圖案的定位標記106,如第14圖所揭示,第一註冊裝置400的背面裝設有由多個移動標記110所組成的標記組ST,移動標記110較佳是對應的紅外線被動反射標記,經設計與製作為直徑大約1公分左右的球體。在臨床手術應用時,是將此第一註冊裝置400改為固定在手術檯邊的器械固定橫架上。
第15圖與第16圖係揭示使用者在本發明系統MR裝置上觀看到的整體混合實境影像之示意圖;第15圖主要揭示一個三維腦血管影像 模型,在經過實施本發明對位方法與患部對位後,透過MR裝置所顯示出之混合實境影像;在本實施例患部為頭部,因此當使用者穿戴MR裝置後,視覺上所觀看到的成像包含患者頭部PH、以及經過與患部對位後顯示在MR裝置鏡片上的三維腦血管分布影像HX,因為三維腦血管分布影像HX經過本發明對位方法處理後已經與患部即患者頭部PH準確對位,因此使用者在透明顯示器上直接可以看到三維腦血管分布影像HX重疊在患部上的混合實境的狀況。
第16圖主要揭示一個三維脊椎影像模型,在經過實施本發明對位方法與患部對位後,透過MR裝置所顯示出之混合實境影像;在本實施例患部為後腰部,因此使用者穿戴MR裝置後,視覺上所觀看到的成像包含患者後腰部PW、以及經過與患部對位後顯示在鏡片上的三維脊椎影像SX,因為三維脊椎影像SX經過系統演算與處理而已經與患者後腰部PW準確對位,因此使用者在MR裝置透明顯示器上直接可以看到三維腦血管分布影像HX重疊在患部上的混合實境的狀況。
第17圖係揭示本發明套件與方法提供給多使用者操作之情境示意圖;當有多位醫師需要參與手術時,可在病患PP的患部SA附近,透過第二註冊裝置410來設置多個定位標記1061、1062與1063,並使得每一個定位標記1061、1062與1063能夠大致對應面向每一位使用者UR1、UR2與UR3的視線,每一位使用者UR1、UR2與UR3都對應穿戴一個MR裝置2001、2002與2003,而第二註冊裝置410在面對位置追蹤器108的方向上,還設置有一組多個移動標記110所組成的標記組ST,多個定位標記1061、1062與1063可以共用一組多個移動標記110所組成的標記組ST,經過確定多個定位 標記1061、1062與1063、標記組ST與患部SA之間的相對位置後,本發明提出之套件與方法即可將患部模型影像與患部SA對位好後,透過MR裝置2001、2002與2003,顯示給站在不同位置、方位、角度上、並各自擁有不同視角的每一位使用者UR1、UR2與UR3觀看,讓多位醫師能夠同步參與複雜手術之進行。
本發明透過使用兩類不同功能的追蹤標記,第一類是固定的定位標記主要是提供給可移動的MR裝置追蹤,第二類是活動的移動標記主要是提供給固定的光學追蹤器進行即時位置追蹤,透過應用這兩類的標記,系統得以確定MR即時動態立體3D影像的投影位置,並提供不同視角上的MR即時動態立體3D影像。
透過本發明提出的對位技術,MR裝置能夠將包含有病患患部之血管、神經與組織實際狀況之立體3D影像,以即時3D視覺化方式準確投影在患部上,並透過MR裝置上顯示給醫師,無論醫師在手術過程中如何移動,MR裝置所顯示之立體3D影像始終可以準確的定位在患部上,並且可以隨著醫生之視角變化,即時且動態的對應顯示出患部在不同視角上的立體3D影像,且可以同步提供給站在不同位置、不同視角上的多位醫師觀看,讓多位醫師能夠同步參與複雜手術之進行。
本發明透過MR/AR眼鏡上的相機看到包含特徵圖案的第一種定位標記,定位器以紅外線感應被動式球型標記的第二種移動標記,而算出攝影機與特徵圖案及球型標記之間位置與方向關係後,將虛擬器械與虛擬醫學影像透過MR/AR眼鏡上顯示器顯示在真實器械與病人身上,達到輔助手術導航目的。
本發明提出的對位技術可供做為MR手術導航系統中的核心技術,最終藉由MR眼鏡即時顯示患部、病患和手術器械畫面,輔助醫師作更直觀規劃安全手術路徑、3D手術導航以及降低腦部手術腦動脈損傷的風險。
實施例1:一種數位影像實境對位套件,係應用於混合實境手術導航系統,包含:複數移動標記,其具有對應之複數移動標記座標系,且一部分之該等移動標記係供設置於手術器械上;定位標記,其係設置在具有患部座標系之患部附近,經設置後具有確定的定位標記座標系,並與另一部分之該等移動標記以及該患部之間具有確定的相對位置,以將該患部座標系轉換到該定位標記座標系;以及混合實境裝置,其偵測該定位標記並具有混合實境裝置座標系,據此將該定位標記座標系轉換到該混合實境裝置座標系,並將數位患部影像投影在該患部上。
實施例2:如實施例1所述之數位影像實境對位套件還包含:位置追蹤器,其感應該等移動標記,經設置後具有確定的位置追蹤器座標系,以將該部分之該等移動標記所對應之該等移動標記座標系以及該數位患部影像之數位患部影像座標系,以該位置追蹤器座標系為基準轉換到該患部座標系。
實施例3:如實施例1所述之數位影像實境對位套件還包含:註冊裝置,其設置在該患部旁,並具有第一面以及相對於該第一面的第二面,該第一面係供該定位標記設置以及該第二面係供該另一部分之該等移動標記設置,當該註冊裝置在該患部旁設置後,該患部、該定位標記、以及該另一部分之該等移動標記彼此間之相對位置也因此確定。
實施例4:如實施例1所述之數位影像實境對位套件,其中該定位標記、該另一部分之該等移動標記、以及該患部之間,經設置後彼此間具有確定的相對位置,故該定位標記座標系、該另一部分之該等移動標記所對應之該等移動標記座標系、以及該患部座標系彼此間具有確定的座標轉換關係做為系統設計值。
實施例5:如實施例2所述之數位影像實境對位套件,其中該數位患部影像座標系係以該位置追蹤器座標系為基準經由該另一部分之該等移動標記所對應之該等移動標記座標系而轉換到該患部座標系。
實施例6:如實施例2所述之數位影像實境對位套件,其中該數位患部影像座標系係透過圖像配準演算法而轉換到該位置追蹤器座標系,該定位標記座標系係透過針孔透視投影定位演算法而轉換到該混合實境裝置座標系。
實施例7:如實施例2所述之數位影像實境對位套件,其中該數位患部影像座標系、該位置追蹤器座標系、該等移動標記座標系、該定位標記座標系、該混合實境裝置座標系、以及該患部座標系係選自二維卡式座標系、二維圓柱座標系、二維球體座標系、三維卡式座標系、三維圓柱座標系、三維球體座標系、以及其組合其中之一。
實施例8:如實施例1所述之數位影像實境對位套件,其中該數位患部影像係在手術實施前預先建構完成。
實施例9:一種數位影像實境對位方法,係應用於混合實境手術導航系統,包含:提供具有複數移動標記座標系之複數移動標記、具有定位標記座標系之定位標記、具有混合實境裝置座標系之混合實境裝 置、以及具有患部座標系之患部;將一部分之該等移動標記設置在手術器械上;將該定位標記、以及另一部分之該等移動標記設置在該患部旁,並確定該患部、該定位標記、以及該另一部分之該移動標記彼此間之相對位置,以將該患部座標系轉換到該定位標記座標系;以及透過該混合實境裝置偵測該定位標記,並將該定位標記座標系轉換到該混合實境裝置座標系,並將數位患部影像投影在該患部上。
實施例10:如實施例9所述之數位影像實境對位方法,還包含以下其中之一:提供具有位置追蹤器座標系之位置追蹤器、以及具有數位患部影像座標系之該數位患部影像;確定該位置追蹤器的設置位置,並透過該位置追蹤器感應該等移動標記,以將該部分之該等移動標記所對應之該等移動標記座標系以及該數位患部影像座標系,以該位置追蹤器座標系為基準轉換到該患部座標系;以及透過確定該患部、該定位標記、以及該另一部分之該移動標記彼此間之相對位置,而確定該定位標記座標系、該另一部分之該等移動標記所對應之該等移動標記座標系、以及該患部座標系彼此間的座標轉換關係。
在本發明的描述中,用語「同軸」、「底部」、「頂部」、「上」、以及「內」等所指示的方位或位置關,係為以圖式所示的方位或位置關係為基礎,僅是為了便於描述本發明和簡化描述,而不是指示或暗示所指的裝置或元件必須具有特定的方位、以特定的方位構造和操作,因此不能理解為對本發明的限制。
在本發明中,除非另有明確的規定和限定,用語「安裝」、「設置」、「連接」、以及「固定」等用語應做廣義理解,例如,可以是固定連接, 也可以是可拆卸連接,或組合成一體;可以是機械連接,也可以是電連接;可以是直接相連,也可以通過中間媒介間接相連,可以是兩個元件內部的連通、或兩個元件的相互作用關係,除非另有明確的限定,對於本領域具有通常知識者而言,可以依據實際情況理解上述用語在本發明中的具體意涵。
以上所述僅為本發明的較佳實施例而已,並不用於限制本發明,即使參照前述實施例對本發明進行了詳細的說明,對於本領域的技術人員來說,其依然可以對前述各實施例所記載的技術方案進行修改,或者對其中部分技術特徵進行均等替換,凡在本發明的精神和原則之內,所作的任何修改、均等替換、改進等,均應包含在本發明的保護範圍之內。
本發明各實施例彼此之間可以任意組合或者替換,從而衍生更多之實施態樣,但皆不脫本發明所欲保護之範圍,本發明保護範圍之界定,悉以本發明申請專利範圍所記載者為準。
106‧‧‧定位標記
108‧‧‧位置追蹤器
110‧‧‧移動標記
112‧‧‧手術器械
200‧‧‧MR裝置
IM‧‧‧患部影像模型
SA‧‧‧患部
PP‧‧‧病患

Claims (10)

  1. 一種數位影像實境對位套件,係應用於與手術導航系統整合之一混合實境系統,包含:複數移動標記,其具有對應之複數移動標記座標系,且一部分之該等移動標記係供設置於一手術器械上;一定位標記,其係設置在具有一患部座標系之一患部附近,經設置後具有確定的一定位標記座標系,並與另一部分之該等移動標記以及該患部之間具有確定的相對位置,以將該患部座標系轉換到該定位標記座標系;以及一混合實境裝置,其偵測該定位標記並具有一混合實境裝置座標系,據此將該定位標記座標系轉換到該混合實境裝置座標系,並將一數位患部影像投影在該患部上。
  2. 如請求項第1項所述之數位影像實境對位套件,還包含:一位置追蹤器,其感應該等移動標記,經設置後具有確定的一位置追蹤器座標系,以將該部分之該等移動標記所對應之該等移動標記座標系以及該數位患部影像之一數位患部影像座標系,以該位置追蹤器座標系為基準轉換到該患部座標系。
  3. 如請求項第1項所述之數位影像實境對位套件,還包含:一第一註冊裝置,其設置在該患部旁,並具有一第一面以及相對於該第一面的一第二面,該第一面係供該定位標記設置以及該第二面係供該另一部分之該等移動標記設置,當該第一註冊裝置在該患部旁設置後,該患 部、該定位標記、以及該另一部分之該等移動標記彼此間之相對位置也因此確定;以及一第二註冊裝置,其設置在該患部旁,並具有複數表面,每一個表面係供該定位標記設置,該等複數表面其中一面係供該另一部分之該等移動標記設置,當該第二註冊裝置在該患部旁設置後,該患部、該定位標記、以及該另一部分之該等移動標記彼此間之相對位置也因此確定。
  4. 如請求項第1項所述之數位影像實境對位套件,其中該定位標記、該另一部分之該等移動標記、以及該患部之間,經設置後彼此間具有確定的相對位置,故該定位標記座標系、該另一部分之該等移動標記所對應之該等移動標記座標系、以及該患部座標系彼此間具有確定的座標轉換關係做為系統設計值。
  5. 如請求項第2項所述之數位影像實境對位套件,其中該數位患部影像座標系係以該位置追蹤器座標系為基準經由該另一部分之該等移動標記所對應之該等移動標記座標系而轉換到該患部座標系。
  6. 如請求項第2項所述之數位影像實境對位套件,其中該數位患部影像座標系係透過一圖像配準演算法而轉換到該位置追蹤器座標系,該定位標記座標系係透過一針孔透視投影定位演算法而轉換到該混合實境裝置座標系。
  7. 如請求項第2項所述之數位影像實境對位套件,其中該數位患部影像座標系、該位置追蹤器座標系、該等移動標記座標系、該定位標記座標系、 該混合實境裝置座標系、以及該患部座標系係選自一二維卡式座標系、一二維圓柱座標系、一二維球體座標系、一三維卡式座標系、一三維圓柱座標系、一三維球體座標系、以及其組合其中之一。
  8. 如請求項第1項所述之數位影像實境對位套件,其中該數位患部影像係在手術實施前預先建構完成。
  9. 一種數位影像實境對位方法,係應用於與手術導航系統整合之一混合實境系統,包含:提供具有複數移動標記座標系之複數移動標記、具有一定位標記座標系之一定位標記、具有一混合實境裝置座標系之一混合實境裝置、以及具有一患部座標系之一患部;將一部分之該等移動標記設置在一手術器械上;將該定位標記、以及另一部分之該等移動標記設置在該患部旁,並確定該患部、該定位標記、以及該另一部分之該移動標記彼此間之相對位置,以將該患部座標系轉換到該定位標記座標系;以及透過該混合實境裝置偵測該定位標記,並將該定位標記座標系轉換到該混合實境裝置座標系,並將一數位患部影像投影在該患部上。
  10. 如請求項第9項所述之數位影像實境對位方法,還包含以下其中之一:提供具有一位置追蹤器座標系之一位置追蹤器、以及具有一數位患部影像座標系之該數位患部影像;確定該位置追蹤器的設置位置,並透過該位置追蹤器感應該等移動標記,以將該部分之該等移動標記所對應之該等移動標記座標系以及該數位 患部影像座標系,以該位置追蹤器座標系為基準轉換到該患部座標系;以及透過確定該患部、該定位標記、以及該另一部分之該移動標記彼此間之相對位置,而確定該定位標記座標系、該另一部分之該等移動標記所對應之該等移動標記座標系、以及該患部座標系彼此間的座標轉換關係。
TW108131391A 2019-08-30 2019-08-30 應用於與手術導航整合之混合實境系統之數位影像實境對位套件與方法 TWI697317B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
TW108131391A TWI697317B (zh) 2019-08-30 2019-08-30 應用於與手術導航整合之混合實境系統之數位影像實境對位套件與方法
US16/690,319 US11574446B2 (en) 2019-08-30 2019-11-21 Digital image reality aligning kit and method applied to mixed reality system for surgical navigation

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
TW108131391A TWI697317B (zh) 2019-08-30 2019-08-30 應用於與手術導航整合之混合實境系統之數位影像實境對位套件與方法

Publications (2)

Publication Number Publication Date
TWI697317B TWI697317B (zh) 2020-07-01
TW202108086A true TW202108086A (zh) 2021-03-01

Family

ID=72602155

Family Applications (1)

Application Number Title Priority Date Filing Date
TW108131391A TWI697317B (zh) 2019-08-30 2019-08-30 應用於與手術導航整合之混合實境系統之數位影像實境對位套件與方法

Country Status (1)

Country Link
TW (1) TWI697317B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI772917B (zh) * 2020-10-08 2022-08-01 國立中央大學 電腦輔助手術路徑規劃之電腦實施方法、電腦輔助處理裝置與電腦程式產品
TWI750930B (zh) * 2020-12-02 2021-12-21 國立陽明交通大學 手術輔助系統及相關手術輔助方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI594208B (zh) * 2016-11-01 2017-08-01 國立雲林科技大學 基於二維影像及三維完整八象限定位之內視鏡手術器械追蹤方法
TWI634870B (zh) * 2017-03-20 2018-09-11 承鋆生醫股份有限公司 影像定位及擴增實境系統及其擴增實境方法
TWM570117U (zh) * 2018-07-25 2018-11-21 品臻聯合系統股份有限公司 用於椎弓根螺釘微創定位的擴增實境裝置

Also Published As

Publication number Publication date
TWI697317B (zh) 2020-07-01

Similar Documents

Publication Publication Date Title
US11574446B2 (en) Digital image reality aligning kit and method applied to mixed reality system for surgical navigation
Sielhorst et al. Advanced medical displays: A literature review of augmented reality
US11596480B2 (en) Navigation, tracking and guiding system for the positioning of operatory instruments within the body of a patient
US10359916B2 (en) Virtual object display device, method, program, and system
KR101572487B1 (ko) 환자와 3차원 의료영상의 비침습 정합 시스템 및 방법
US5823958A (en) System and method for displaying a structural data image in real-time correlation with moveable body
Chu et al. Registration and fusion quantification of augmented reality based nasal endoscopic surgery
Andrews et al. Registration techniques for clinical applications of three-dimensional augmented reality devices
Gsaxner et al. The HoloLens in medicine: A systematic review and taxonomy
CN101904770B (zh) 一种基于光学增强现实技术的手术导航系统及方法
Ferrari et al. A 3-D mixed-reality system for stereoscopic visualization of medical dataset
Gsaxner et al. Markerless image-to-face registration for untethered augmented reality in head and neck surgery
Condino et al. Evaluation of a wearable AR platform for guiding complex craniotomies in neurosurgery
WO2012062482A1 (en) Visualization of anatomical data by augmented reality
Fan et al. Spatial position measurement system for surgical navigation using 3-D image marker-based tracking tools with compact volume
Hu et al. Head-mounted augmented reality platform for markerless orthopaedic navigation
Ma et al. Moving-tolerant augmented reality surgical navigation system using autostereoscopic three-dimensional image overlay
Saucer et al. A head-mounted display system for augmented reality image guidance: towards clinical evaluation for imri-guided nuerosurgery
TWI697317B (zh) 應用於與手術導航整合之混合實境系統之數位影像實境對位套件與方法
US10383692B1 (en) Surgical instrument guidance system
Gsaxner et al. Augmented reality in oral and maxillofacial surgery
JP2023526716A (ja) 外科手術ナビゲーションシステムおよびそのアプリケーション
Zhang et al. Autostereoscopic 3D augmented reality navigation for laparoscopic surgery: a preliminary assessment
Fan et al. Three-dimensional image-guided techniques for minimally invasive surgery
Zhang et al. 3D augmented reality based orthopaedic interventions