JP3707830B2 - 術式支援用画像表示装置 - Google Patents
術式支援用画像表示装置 Download PDFInfo
- Publication number
- JP3707830B2 JP3707830B2 JP16883395A JP16883395A JP3707830B2 JP 3707830 B2 JP3707830 B2 JP 3707830B2 JP 16883395 A JP16883395 A JP 16883395A JP 16883395 A JP16883395 A JP 16883395A JP 3707830 B2 JP3707830 B2 JP 3707830B2
- Authority
- JP
- Japan
- Prior art keywords
- imaging
- image
- orientation
- unit
- imaging unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
- 238000003384 imaging method Methods 0.000 claims description 208
- 238000010586 diagram Methods 0.000 description 44
- 238000012545 processing Methods 0.000 description 31
- 238000000034 method Methods 0.000 description 25
- 238000002591 computed tomography Methods 0.000 description 12
- 238000001356 surgical procedure Methods 0.000 description 12
- 238000009877 rendering Methods 0.000 description 8
- 206010028980 Neoplasm Diseases 0.000 description 7
- 230000015572 biosynthetic process Effects 0.000 description 7
- 238000003786 synthesis reaction Methods 0.000 description 7
- 238000001757 thermogravimetry curve Methods 0.000 description 6
- 238000002595 magnetic resonance imaging Methods 0.000 description 4
- 239000003550 marker Substances 0.000 description 4
- 238000002603 single-photon emission computed tomography Methods 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 3
- 238000013500 data storage Methods 0.000 description 3
- 238000006073 displacement reaction Methods 0.000 description 3
- 230000012447 hatching Effects 0.000 description 3
- 238000005259 measurement Methods 0.000 description 3
- 238000003860 storage Methods 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 2
- 239000003086 colorant Substances 0.000 description 2
- 238000013480 data collection Methods 0.000 description 2
- 210000003128 head Anatomy 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000003325 tomography Methods 0.000 description 2
- 210000004204 blood vessel Anatomy 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000009776 industrial production Methods 0.000 description 1
- 238000000691 measurement method Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000008521 reorganization Effects 0.000 description 1
- 238000002604 ultrasonography Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Description
【発明の属する技術分野】
本発明は、手術を支援するための画像を提供する術式支援用画像表示装置に関する。
【0002】
【従来の技術】
近年における電子内視鏡等の画像撮像装置の技術的発展は、画像提供という側面から術式を支援する機会の増加を促し、術式の精度の向上に貢献している。
手術対象部位をどのように画像として又は情報として医師に提供するかが術式の成否の鍵を握る重要な課題といえる。
【0003】
【発明が解決しようとする課題】
本発明の目的は、手術を好適に支援することのできる術式支援用画像表示装置を提供することである。
【0004】
【課題を解決するための手段】
本発明の第1局面による術式支援用画像表示装置は、撮像手段と、前記撮像手段の位置及び向きを測定する手段と、手術用マニピュレータの位置及び向きを計測する手段と、前記手術用マニピュレータの3次元データを記憶する手段と、前記撮像手段の位置及び向きと、前記手術用マニピュレータの位置及び向きとに基づいて、前記撮像手段から見た前記手術用マニピュレータの3次元画像を前記3次元データから生成する手段と、前記撮像手段により撮像された画像に前記3次元画像を合成して表示する手段とを具備したことを特徴とする。
本発明の第2局面による術式支援用画像表示装置は、第1の撮像手段と、前記第1の撮像手段の位置及び向きを計測する手段と、第2の撮像手段と、前記第2の撮像手段の位置と向きとの少なくとも一方を変更する変更手段と、前記第1の撮像手段の位置及び向きに基づいて、前記第1の撮像手段の撮像範囲に対して前記第2の撮像手段の撮像範囲が交差し、かつ前記第2の撮像手段の撮像中心軸が前記第1の撮像手段の撮像範囲内の注目点を通るように前記変更手段を制御する制御手段と、前記第1の撮像手段により撮像された画像と前記第2の撮像手段により撮像された画像とを表示する手段とを具備したことを特徴とする。
【0016】
【発明の実施の形態】
以下、発明の好ましい実施の形態を図面を参照して説明する。
(第1の実施の形態)
図1に第1の実施の形態に係る術式支援用立体視ビューアーシステムの構成図を示す。図2にビューアー本体10の使用例を示す。図3にビューアー本体10の斜視図を示す。図4にビューアー本体10の断面図を示す。左右眼用の覗き窓11,12の付いた暗箱様のビューアー本体10には、左右眼用小形カメラ1,2が観察者(=術者)の視線と平行になるように、且つ左右眼視差に応じた距離だけ互いに離間して装着される。左右眼用小形カメラ1,2としては、CCDカメラ、サーモグラム(温度画像)を得るカメラ又は赤外線カメラ等が採用される。図示しない拡大レンズが左右眼用小形カメラ1,2に対して着脱自在になっている。左右眼用小形カメラ1,2は、同一の光学像をプリズムにより左右眼用の2つの光学像に分配し1つの撮像部の異なるエリアでそれぞれ撮像する単カメラ両眼立体視方式のカメラであってもよい。
【0017】
またビューアー本体10の内部であって、覗き窓11,12に正対する位置に左右眼用モニタ7,8が収容されている。左右眼用小形カメラ1,2それぞれで撮像された画像はカメラコントローラ3、合成部6を介して、それぞれ対応するモニタ7,8に表示される。これにより観察者は立体視が可能である。
【0018】
ビューアー本体10は、観察者、つまり術者の頭部にバンド等により装着され、又は天井から多関節アーム9により懸垂されて、術者の眼前に設けられる。ビューアー本体位置・向き計測部4は、多関節アーム9の各関節の角度に基づいて、ビューアー本体10の位置及び向きを計測する。この位置及び向きは左右眼用小形カメラ1,2の位置及び撮像方向に相当する。ビューアー本体位置・向き計測部4で計測されたビューアー本体10の位置及び向きの情報は、術式支援情報作成部5に取り込まれる。術式支援情報作成部5は、ビューアー本体位置・向き計測部4で計測されたビューアー本体10の位置及び向きに基づいて、術式を支援するための情報を作成する。術式支援情報作成部5で作成された術式支援情報は、合成部6で左右眼用小形カメラ1,2それぞれで撮像された画像に合成され、左右眼用モニタ7,8に表示され、観察者に提示される。
【0019】
術式支援情報としては、ビューアー本体10の位置及び向きに基づいた情報であって、例えばビューアー本体10の位置及び向きをそのまま表す文字又は記号若しくは図形、3次元画像が考えられる。3次元画像は次のように作成される。術式支援情報作成部5は、マルチスライス又はヘリカルスキャン方式のX線コンピュータ断層撮影装置、磁気共鳴イメージング装置、スキャン面をそれに垂直な方向に沿って移動又は首振り可能ないわゆる3−D超音波診断装置等の3次元画像収集装置によって予め患者の術式対象部位を含む3次元領域を撮像し、この術式対象部位を2値化処理により抽出して得られた3次元データが格納されている3次元メモリを有し、この3次元データからビューアー本体10の位置を視点として、またビューアー本体10の向きに沿って投影処理することにより得られる術式対象部位の立体形状を表す表面画像やワイヤフレーム等の3次元画像を術式支援情報として作成する。
【0020】
左右眼用小形カメラ1,2それぞれで撮像された画像(図5(a)参照)と、術式支援情報作成部5で作成された3次元画像(図5(b)参照)とは、合成部6で位置整合され合成され、左右眼用モニタ7,8に表示され(図5(c)参照)、観察者に提示される。
【0021】
このような本実施の形態によれば、術者による位置や向き、また対象部位の立体形状等の術式を支援する情報が各種画像と共に提供され、術者は手操作が容易になる。
(第2の実施の形態)
図6に第2の実施の形態に係る術式支援用立体視ビューアーシステムの構成図を示す。図1と同じ部分には同符号を付して説明は省略する。左右眼用小形カメラ1,2それぞれで撮像された画像は、画像処理部15で画像処理に供される。画像処理部15で画像処理に供された画像は、左右眼用小形カメラ1,2で撮像された画像に合成部6で合成され、左右眼用モニタ7,8に表示される。
【0022】
画像処理部15による画像処理としては、術式関連分野では特定部位の輪郭を抽出する輪郭抽出処理、左右眼用小形カメラ1,2で撮像された画像間の位置ずれから3次元位置情報(奥行き情報の付加)を認識し、対象部位の立体形状を表す表面画像やワイヤフレーム等の3次元画像を作成する処理等が考えられる。また、適当な画像処理を採用することにより、本実施の形態は道案内や工業生産作業や障害者支援等の様々な分野に応用可能である。例えば、左右眼用小形カメラ1,2で撮像されたカラー画像(図7(a)参照)から、色相の相違がハッチングの相違として表現された画像(図7(b)参照)を作成する画像処理を採用することにより、色弱障害者を支援することが可能となる。なおこの場合、赤、青、黄色等の特定の幾つかの色に対してのみ、ハッチング変換することは、物体自体がハッチングにより隠れて見え難くなるという不具合を解消するという観点から好ましい。
(第3の実施の形態)
第3の実施の形態は、手術用マニピュレータ(ロボット腕)を使って穿刺術式や顕微鏡下での微細術式等でブラインドによる腫瘍摘出等を行うケースを想定してなされたものである。
【0023】
図8に第3の実施の形態に係る術式支援用画像表示装置の構成図を示す。電子顕微鏡、CCDカメラ、ステレオカメラ、超音波断層診断装置、サーモグラムカメラ、内視鏡、又はその他のイメージング装置である撮像部22で撮像された画像は、コントローラ24、合成部25を介して、モニタ26に表示される。位置・向き計測部23は、撮像部22の位置及び向き(撮像中心軸の方向)を計測する。
【0024】
手術用マニピュレータ20はその先端に開閉自在のロボット手21を装備している。
位置・向き・状態計測部27は、手術用マニピュレータ20の図示しないコントローラからの情報により、手術用マニピュレータ20の先端の位置、先端の向き、さらにロボット手21の開状態又は閉状態を計測する。
【0025】
位置・向き計測部23により計測された撮像部22の位置及び向きの情報と、位置・向き・状態計測部27により計測された撮像部22の位置、向き及び状態の情報とは、レンダリング処理部28に取り込まれる。レンダリング処理部28にはマニピュレータ3Dデータ記憶部29が接続される。マニピュレータ3−Dデータ記憶部29には、図9(a),(b)に示すように、開状態の手術用マニピュレータ20の3Dデータ(3次元データ)と、閉状態の手術用マニピュレータ20の3Dデータとが予め記憶されている。
【0026】
レンダリング処理部28は、位置・向き・状態計測部27からの状態情報にしたがって開状態又は閉状態の3Dデータをマニピュレータ3Dデータ記憶部29からロードする。そして、レンダリング処理部28は、位置・向き・状態計測部27からの位置・向き情報にしたがって、ロードした3Dデータを実際の手術用マニピュレータ20の位置及び向きに応じた座標に変換する。次に、図10に示すように、レンダリング処理部28は、座標変換後の3Dデータを位置・向き計測部23からの撮像部22の位置及び向きに基づいて、つまり撮像部22の位置を視点、その向きを投影方向としてスクリーン内の各画素に投影し、実際には観察不可能な撮像部22から見た手術用マニピュレータ20のマニピュレータ像(3次元画像)を作成する。なお、点線で示す円はスクリーン上での撮像部22の撮像範囲に相当する領域を示す。スクリーンは撮像部22の撮像範囲より相対的に広範囲に設定される。これは、手術用マニピュレータ20が撮像部22の撮像範囲から外れた場合でも、手術用マニピュレータ20の位置を画像上で観察者が確認できることを可能とするためである。
【0027】
レンダリング処理部28で作成されたマニピュレータ像は、撮像部22により撮像された画像と合成部25で1フレームに合成され(スーパーインポーズ)、図11に示すようにモニタ26に表示される。
【0028】
上述したように第3の実施の形態によれば、実際には撮像部22で捕らえられない手術用マニピュレータ20の位置、向き及び状態を画像上に提供することができる。また、手術用マニピュレータ20が撮像部22の撮像範囲外に存在したときでも、手術用マニピュレータ20の位置、向き及び状態を画像上で確認可能である。
【0029】
なお、第3の実施の形態による画像表示装置は、第1の実施の形態で説明した立体視ビューアーシステムに適用することができる。この場合、撮像部22は左右眼用小形カメラ1,2に相当し、それと同様に左右眼用の2系統の撮像部からなる。ただし、撮像部22はビューアー本体10に装着されることに限定されない。また、モニタ26は左右眼用モニタ7,8に相当し、それと同様にビューアー本体10に収容された左右眼用の2系統のモニタからなる。また、レンダリング処理部28は左右眼用の2系統の撮像部それぞれから見た左右眼用のマニピュレータ像を作成する。
(第4の実施の形態)
図12に第4の実施の形態に係る術式支援用画像表示装置の構成図を示す。電子顕微鏡、CCDカメラ、内視鏡、ステレオ式カメラ、ステレオ式内視鏡、断層像を収集する超音波診断装置、サーモグラムカメラ、又はその他のイメージング装置である第1の撮像部30で撮像された画像は、コントローラ31を介して第1の表示部32に表示される。位置・向き計測部33は、第1の撮像部30の位置及び向き(撮像中心軸の方向)を計測する。第1の撮像部30の位置及び向きの情報は、撮像位置・向きコントローラ34に送られる。撮像位置・向きコントローラ34には、観察者が必要に応じて第1の撮像部30の撮像範囲内に注目点を設定するためのものであり、キーボード、タブレット、マウス等を含む入力部35が接続される。
【0030】
電子顕微鏡、CCDカメラ、内視鏡、ステレオ式カメラ、ステレオ式内視鏡、サーモグラムカメラ、X線コンピュータ断層撮影装置(CT)、超音波断層撮影装置(US)、X線テレビジョン装置、磁気共鳴イメージング装置(MRI)、SPECT(single photon emission computed tomography)、PET(positron emission computed tomography) 、又はその他のイメージング装置である第2の撮像部36で撮像された画像は、コントローラ37を介して第2の表示部38に表示される。
【0031】
撮像位置・向き変更部39は、第2の撮像部36の位置と撮像中心軸の向きとの少なくとも一方を変更することが可能に構成され、第2の撮像部36のタイプに応じて、例えば図13に示すような多関節アーム、ガントリ傾斜台、天板スライド式寝台等の適当な組み合わせからなる。
【0032】
図13は第1の撮像部30と第2の撮像部36がCCDカメラ、ステレオカメラ、サーモグラムカメラの任意の組み合わせである場合の撮像位置・向きコントローラ34による制御の説明図である。また、図15は第1の撮像部30と第2の撮像部36とがそれぞれ電子内視鏡である場合の撮像位置・向きコントローラ34による制御の説明図である。また、図16は第1の撮像部30が電子内視鏡、第2の撮像部36がCT、US、MRI、SPECT、PET等の断層像を撮影可能な装置である場合の撮像位置・向きコントローラ34による制御の説明図である。この場合、第2の撮像部36の撮像範囲は断面である。また、図17は第1の撮像部30が電子内視鏡、第2の撮像部36がX線テレビジョン装置である場合の撮像位置・向きコントローラ34による制御の説明図である。この場合、第2の撮像部36の撮像範囲は円錐形である。
【0033】
撮像位置・向きコントローラ34は、第1の制御モードでは、第2の撮像部36の撮像範囲が第1の撮像部30の撮像範囲に対して少なくとも一部交差するように撮像位置・向き変更部39を制御する。
【0034】
また、撮像位置・向きコントローラ34は、第2の制御モードでは、第2の撮像部36の撮像中心軸が第1の撮像部30の撮像中心軸と交差するように撮像位置・向き変更部39を制御する。
【0035】
また、撮像位置・向きコントローラ34は、第3の制御モードでは、第2の撮像部36の撮像中心軸が第1の撮像部30の撮像中心軸と直交するように撮像位置・向き変更部39を制御する。
【0036】
さらに、撮像位置・向きコントローラ34は、第4の制御モードでは、第2の撮像部36の撮像中心軸上が、第1の撮像部30の撮像範囲内に設定された注目点(注目点については後述する)を通るように撮像位置・向き変更部39を制御する。第2の制御モード乃至第4の制御モードであれば、図14(a),(b)に示すようにそれぞれの画像中心には同一の対象物が表示されることになる。
【0037】
第1乃至第4の制御モードの1つを予め選定し固定的にインストールしていてもよいし、第1乃至第4の制御モードの全てをインストールしておき、観察者が適宜選択可能としてもよい。
【0038】
このような撮像位置・向きコントローラ34による第2の撮像部36の位置及び向きの制御により、第1の撮像部30の撮像対象を常に第2の撮像部36でも自動的にとらえることが可能となる。
【0039】
次に注目点について説明する。注目点とは、図18に示すように第1の撮像部30の焦点、又は入力部35を介して第1の撮像部30の撮像範囲内に設定された指定点のことをいう。指定点は撮像位置・向きコントローラ34により認識される。ここでは、指定点の指定方法として5つのモードを提案する。
【0040】
図19に示すように第1のモードでは、観察者により第1の撮像部30の例えば対物レンズ中心からの距離Lが入力され、この場合、指定点は第1の撮像部30の撮像中心軸上に存在することになる。図20に示すように第2、第3のモードでは、観察者により第1の表示部32に表示された第1の撮像部30による画像上の任意の点がマーカを使って指定される。さらに第2のモードでは、観察者により第1の撮像部30の例えば対物レンズ中心からの距離Lが入力される。図21(a)に示すように第2のモードでは、第1の撮像部30の撮像面上でマーカに対応する点から第1の撮像部30の対物レンズ中心を通る線上であって、第1の撮像部30の例えば対物レンズ中心から距離Lの点が指定点となる。図21(b)に示すように第3のモードでは、第1の撮像部30の撮像面上でマーカに対応する点から第1の撮像部30の対物レンズ中心を通る線と、第1の撮像部30の焦点を通り撮像中心軸に垂直な面との交点が指定点となる。
【0041】
第4のモードでは、図22(a)に示すように特定色又は特定形状の球様体としてのポインタが使われ、観察者によりポインタが第1の撮像部30の撮像範囲内の所望位置に支持される。図22(b)に示すように第1の撮像部30の画像内に表れるポインタ像が入力部35としての画像処理部により特定色又は特定形状に基づいて抽出され、その位置が認識される。この位置に基づいて第2、第3のモードと同様に指定点が特定される。
【0042】
第5のモードでは、図23(a)に示すように、第1の撮像部30としてステレオカメラが採用され、特定色又は特定形状のポインタが使われ、観察者によりポインタが第1の撮像部30の撮像範囲内の所望位置に支持される。第1の撮像部30の左右眼用の2つの画像内に表れるポインタ像は入力部35としての画像処理部により特定色又は特定形状に基づいて抽出され、両画像間でのポインタ像の位置ずれに基づいて3次元の位置が認識され、この位置が指定点とされる。
【0043】
なお、第2の撮像部36が断層撮像装置であれば、第5のモードは次のように発展可能である。この場合、必要なのは断面の位置及び傾斜である。第5のモードと同様に図24に示すように、第1の撮像部30としてステレオカメラが採用され、特定色又は特定形状の第1のポインタの他に、それと画像処理認識技術上で区別可能な異なる色又は形状の第2のポインタとが使われ、観察者によりそれぞれ第1の撮像部30の撮像範囲内の所望位置に支持される。第5のモードと同様に、第1の撮像部30の左右眼用の2つの画像内に表れる第1、第2のポインタ像が抽出され、両画像間でのポインタ像の位置ずれに基づいて、第1のポインタに対応する3次元の第1の位置と、第2のポインタに対応する3次元の第2の位置とが認識される。そして、第1のポインタを通り、且つ第1のポインタと第2のポインタとの結線に垂直な面が、第1、第2の位置に基づいて認識される。この垂直な面が、第2の撮像部36が撮像する断面とされる。
(第5の実施の形態)
図25に第5の実施の形態に係る術式支援用画像表示装置の構成図を示す。電子顕微鏡、CCDカメラ、内視鏡、ステレオ式カメラ、ステレオ式内視鏡、断層像を収集する超音波診断装置、サーモグラムカメラ、又はその他のイメージング装置である第1の撮像部41で撮像された画像は、コントローラ42、合成部43を介して表示部44に表示される。位置・向き計測部45は、第1の撮像部41の位置及び向き(撮像中心軸の方向)を計測する。第1の撮像部30の位置及び向きの情報は、画像プロセッサ47に送られる。
【0044】
ステレオ式カメラ、ステレオ式電子内視鏡、X線コンピュータ断層撮影装置(CT)、超音波断層撮影装置(US)、磁気共鳴イメージング装置(MRI)、SPECT、PET等の3次元データを収集可能なイメージング装置である第2の撮像部46で収集された患者の3次元領域の3次元データは、画像プロセッサ47に送られる。第2の撮像部46の3次元撮像範囲は、第1の撮像部41の撮像範囲を含むように第4の実施の形態と同様に制御される。位置・向き計測部45は、第2の撮像部41の位置及び向き(撮像中心軸の方向)を計測する。第2の撮像部45の位置及び向きの情報は、画像プロセッサ47に送られる。
【0045】
画像プロセッサ47は、第1の撮像部41の位置及び向きと、第2の撮像部46の位置及び向きとに基づいて、第2の撮像部46で収集された3次元データを画像処理に供し、画像を作成する。この画像の作成方法については後述する。画像プロセッサ47で作成された画像は、合成部43で第1の撮像部41により撮像された画像と合成(スーパーインポーズ)され、表示部44に表示される。
【0046】
第2の撮像部46が断層撮影装置である場合の画像処理について説明する。図26は特定部位の3次元データの作成手順について示す図である。ここではマルチスライスのCTを例に説明する。マルチスライスの断層像(同図(a)参照)をスライス毎に特定部位の領域を抽出し(同図(b)参照)、必要に応じてスライス間の補間を行いながらスライス方向に積み上げ、同図(c)に示す3次元データが作成される。この3次元データはワイヤフレームデータ、多面体近似データでってもよい。
【0047】
画像プロセッサ47は、3次元データを使って術式を支援することの可能な画像を作成する。画像プロセッサ47は、図27に示すように、第1の撮像部41の位置を視点として、また第1の撮像部41の向きに沿って3次元データをスクリーンに投影することにより、第1の撮像部41から見たような特定部位の3次元画像をレンダリングする。なお、注目点を中心とした局所内の3次元データだけを投影対象としてもよい。この3次元画像は、合成部43で第1の撮像部41により撮像された画像と合成され、図28に示すように表示部44に表示される。
【0048】
また、画像プロセッサ47は、3次元画像に代えて、図29に示すような断面の断層像を3次元データから再編成してもよい。断面は、第1の撮像部41の撮像中心軸に垂直であって、第4の実施の形態で説明した第1の撮像部41の撮像範囲内の注目点を通る面として決定される。
【0049】
また、画像プロセッサ47は、図30(a),(b)に示すように、第2の撮像部46で撮像されたオリジナルの断面に対する第1の撮像部41の撮像中心軸の角度に基づいて、第2の撮像部46で撮像されたオリジナルの断層像を幾何学的に変形し、この幾何学的に変形したオリジナルの断層像を第1の撮像部41の画像に合成して表示してもよい。
【0050】
次に第2の撮像部46が図31に示すようにステレオ式カメラである場合の画像処理について説明する。図32はこの手順の説明図である。第2の撮像部46の右眼用カメラと左眼用カメラとで撮像された画像間での同一部位の位置ずれに基づいて奥行きを計算することによい3次元データを作成する。ただし、3次元データは、カメラ側から見た対象の一側面の表面に関するデータに過ぎない。第1の撮像部41の位置を視点として、また第1の撮像部41の向きに沿って3次元データをスクリーンに投影することにより、第1の撮像部41から見たような対象表面の立体的形状を表現する3次元画像を作成する。この3次元画像は第1の撮像部41の画像に合成して表示される。
【0051】
このような画像処理は、図33に示すように第1の撮像部41が電子内視鏡であって、第2の撮像部46がステレオ式電子内視鏡である場合にも有用である。図34を画像処理手順の説明図である。ここでは血管外壁に発生した腫瘍を手術用マニピュレータで摘出する場合を想定する。第1の撮像部41が腫瘍の頭頂側から撮像するとき、その画像では切除すべき腫瘍根の位置及び大きさが確認できない。第2の撮像部46は腫瘍を側面から撮像するように設置される。図32で説明したと同様にステレオ式電子内視鏡による左右眼用の画像から3次元データを作成する。第1の撮像部41の位置を視点として、また第1の撮像部41の向きに沿って3次元データをスクリーンに、腫瘍の後方が見えるように累積加算投影することにより、腫瘍根の輪郭が描画された3次元画像が作成され、第1の撮像部41の画像に合成して表示される。
(第6の実施の形態)
図35は第6の実施の形態による画像表示装置の構成図である。電子内視鏡50は、対物レンズ51と、一般にCCDが用いられる固体撮像素子52と、固体撮像素子52からの映像信号を伝送する伝送路53と、固体撮像素子52の撮像動作を制御するコントローラ54と、映像信号をビジュアルな画像として表示する表示部55とから基本的に構成される。対物レンズ51、固体撮像素子52及び伝送路53は細管に収容される。
【0052】
位置・向き計測部56は、電子内視鏡50の先端の位置及び向き(撮像方向)を計測し、位置及び向きの情報を3Dプロセッサ59に出力する。例えば、電子内視鏡50の細管の先端に磁石を装着し、患者周辺に離散的に設置された少なくとも3つの磁力線センサで磁石からの磁力線強度を検出し、各磁力線センサの検出値の比較結果に基づいて電子内視鏡50の先端の位置を計測することが可能である。向きは、電子内視鏡50の先端の位置の変位に基づいて計測することが可能である。また、例えば、電子内視鏡50の細管の先端に送信用の超音波トランスデューサを装着し、患者周辺に複数の受信用の超音波トランスデューサを離散的に設置し、各受信用の超音波トランスデューサの検出値の比較結果に基づいて電子内視鏡50の先端の位置を計測することが可能である。向きは、電子内視鏡50の先端の位置の変位に基づいて計測することが可能である。勿論、位置・向き計測の手法としてはこれらに限定されない。
【0053】
X線コンピュータ断層撮影装置(CT)57としては、患者の3次元領域の3次元データを収集可能なマルチスライスタイプ、又はヘリカルスキャンタイプのものが採用される。図37に一点鎖線で示す検査又は術式対象領域の3次元データがCT57で収集され、記憶部58に記憶される。この3次元データの収集は、検査又は術式の実施の事前に行われ、このデータ収集のときの患者の位置及び姿勢を維持した状態で電子内視鏡50による画像表示作業に移行する。
【0054】
3Dプロセッサ59は、記憶部58の3次元データを使って、電子内視鏡50の先端の位置及び向きに応じた画像を作成する。作成される画像としては、2種類提案する。第1種の画像としては、図38(a)に示すように、電子内視鏡50の先端の位置又は先端位置から向きに沿って所定距離遠方の位置を通り、且つ向きに垂直な断面の断層像であり、この断面の断層像を3次元データから必要に応じて補間を行いながら再編成する。第2種の画像としては、図38(b)に示すように、電子内視鏡50の先端の位置又は先端位置から向きに沿って所定距離遠方の位置を通り、且つ向きに垂直な断面を定義し、この断面より遠方の領域内の3次元データをレンダリング処理に供した3次元画像である。
【0055】
いずれかの画像を表示部60に表示し、又は電子内視鏡50の画像と合成(スーパーインポーズ)して表示する。
これにより電子内視鏡50だけでは得られない情報を観察者に提供可能である。
本発明は上述した実施の形態に限定されることなく種々変形して実施可能である。
【0056】
【発明の効果】
本発明の第1局面によると、手術用マニピュレータの3次元画像が、撮像手段により撮像された画像に合成され表示されるので、手術用マニピュレータを撮像手段でとらえられなくても、その位置を確認できる。したがって術式を支援可能である。
本発明の第2局面によると、第1の撮像手段の撮像範囲に対して第2の撮像手段の撮像範囲が交差するように制御されるので、常に同一対象を2方向からとらえることができる。したがって術式を支援可能である。
【図面の簡単な説明】
【図1】第1の実施の形態による立体視ビューアーシステムの構成部。
【図2】立体視ビューアーシステムの適用例を示す図。
【図3】ビューアー本体の斜視図。
【図4】ビューアー本体の断面図。
【図5】小形カメラによる画像、術式支援情報作成部による画像、合成部による画像の一例を示す図。
【図6】第2の実施の形態による立体視ビューアーシステムの構成部。
【図7】画像表示例を示す図。
【図8】第3の実施の形態による術式支援用画像表示装置の構成部。
【図9】記憶部に記憶されるデータの模式図。
【図10】投影処理の説明図。
【図11】画像表示例を示す図。
【図12】第4の実施の形態による術式支援用画像表示装置の構成部。
【図13】撮像位置・向きコントローラによる制御説明図。
【図14】画像表示例を示す図。
【図15】撮像位置・向きコントローラによる他の制御説明図。
【図16】撮像位置・向きコントローラによる他の制御説明図。
【図17】撮像位置・向きコントローラによる他の制御説明図。
【図18】第1の注目点の説明図。
【図19】第2の注目点の指定方法の説明図。
【図20】注目点を指定するためのマーカを示す図。
【図21】第3、第4の注目点の指定方法の説明図。
【図22】注目点の他の指定方法の説明図。
【図23】注目点のさらに他の指定方法の説明図。
【図24】断面の指定方法の説明図。
【図25】第5の実施の形態による術式支援用画像表示装置の構成図。
【図26】3次元データ作成手順の説明図。
【図27】画像プロセッサによる3次元画像作成処理の説明図。
【図28】画像表示例を示す図。
【図29】画像プロセッサによる断層像再編成処理の説明図。
【図30】画像プロセッサによる幾何学的変形処理の説明図。
【図31】第2の撮像部としてのステレオ式カメラを示す図。
【図32】図31に対応する画像プロセッサによる3次元画像作成から画像表示に至る処理手順の説明図。
【図33】第2の撮像部としてのステレオ式電子内視鏡を示す図。
【図34】図33に対応する画像プロセッサによる3次元画像作成から画像表示に至る処理手順の説明図。
【図35】第6の実施の形態による術式支援用画像表示装置の構成図。
【図36】第6の実施の形態の適用例を示す図。
【図37】CTのデータ収集領域を示す図。
【図38】3Dプロセッサにより作成される画像の説明図。
【符号の説明】
1…右眼用小形カメラ、 2…左眼用小形カメラ、
3…カメラコントローラ、 4…ビューアー本体位置・向き計測部、
5…術式支援情報作成部、 6…合成部、
7…右眼用モニタ、 8…左眼用モニタ。
Claims (3)
- 撮像手段と、
前記撮像手段の位置及び向きを測定する手段と、
手術用マニピュレータの位置及び向きを計測する手段と、
前記手術用マニピュレータの3次元データを記憶する手段と、
前記撮像手段の位置及び向きと、前記手術用マニピュレータの位置及び向きとに基づいて、前記撮像手段から見た前記手術用マニピュレータの3次元画像を前記3次元データから生成する手段と、
前記撮像手段により撮像された画像に前記3次元画像を合成して表示する手段とを具備したことを特徴とする術式支援用画像表示装置。 - 第1の撮像手段と、
前記第1の撮像手段の位置及び向きを計測する手段と、
第2の撮像手段と、
前記第2の撮像手段の位置と向きとの少なくとも一方を変更する変更手段と、
前記第1の撮像手段の位置及び向きに基づいて、前記第1の撮像手段の撮像範囲に対して前記第2の撮像手段の撮像範囲が交差し、かつ前記第2の撮像手段の撮像中心軸が前記第1の撮像手段の撮像範囲内の注目点を通るように前記変更手段を制御する制御手段と、
前記第1の撮像手段により撮像された画像と前記第2の撮像手段により撮像された画像とを表示する手段とを具備したことを特徴とする術式支援用画像表示装置。 - 前記制御手段は、前記第2の撮像手段の撮像中心軸が前記第1の撮像手段の撮像中心軸と交差するように前記変更手段を制御することを特徴とする請求項2記載の術式支援用画像表示装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP16883395A JP3707830B2 (ja) | 1995-07-04 | 1995-07-04 | 術式支援用画像表示装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP16883395A JP3707830B2 (ja) | 1995-07-04 | 1995-07-04 | 術式支援用画像表示装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH0919441A JPH0919441A (ja) | 1997-01-21 |
JP3707830B2 true JP3707830B2 (ja) | 2005-10-19 |
Family
ID=15875373
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP16883395A Expired - Lifetime JP3707830B2 (ja) | 1995-07-04 | 1995-07-04 | 術式支援用画像表示装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3707830B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011183021A (ja) * | 2010-03-10 | 2011-09-22 | Fujifilm Corp | 放射線画像撮影システム及び放射線画像の表示方法 |
Families Citing this family (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5857633A (en) * | 1996-08-19 | 1999-01-12 | Toyota Technical Center U.S.A., Inc. | Cupholder with engaging rings |
JP2002173488A (ja) | 2000-09-28 | 2002-06-21 | Chisso Corp | 環状3級アミン化合物およびこの化合物を含有する有機電界発光素子 |
US6741883B2 (en) * | 2002-02-28 | 2004-05-25 | Houston Stereotactic Concepts, Inc. | Audible feedback from positional guidance systems |
JP4334839B2 (ja) * | 2002-09-12 | 2009-09-30 | オリンパス株式会社 | 内視鏡観測装置 |
US7145571B2 (en) * | 2002-11-01 | 2006-12-05 | Tenebraex Corporation | Technique for enabling color blind persons to distinguish between various colors |
US7916152B2 (en) | 2002-11-01 | 2011-03-29 | Tenebraex Corporaton | Technique for enabling color blind persons to distinguish between various colors |
JP2004186824A (ja) * | 2002-11-29 | 2004-07-02 | Jikei Univ School Of Medicine | 時空間多重画像装置および方法 |
JP2007512915A (ja) * | 2003-12-03 | 2007-05-24 | テネブラックス コーポレイション | ユーザーのために少なくとも一つの色を特定するためのシステムおよび方法 |
JP4703161B2 (ja) * | 2004-10-14 | 2011-06-15 | 株式会社日立メディコ | 核磁気共鳴撮像装置 |
US20070167702A1 (en) * | 2005-12-30 | 2007-07-19 | Intuitive Surgical Inc. | Medical robotic system providing three-dimensional telestration |
JP4905015B2 (ja) * | 2006-09-20 | 2012-03-28 | 富士ゼロックス株式会社 | 画像処理装置 |
EP2186466A4 (en) * | 2007-12-28 | 2011-01-19 | Olympus Medical Systems Corp | MEDICAL INSTRUMENT SYSTEM |
US9259290B2 (en) | 2009-06-08 | 2016-02-16 | MRI Interventions, Inc. | MRI-guided surgical systems with proximity alerts |
JP2011182808A (ja) * | 2010-03-04 | 2011-09-22 | Fujifilm Corp | 医用画像生成装置、医用画像表示装置、医用画像生成方法及びプログラム |
JP5486437B2 (ja) * | 2010-08-24 | 2014-05-07 | 富士フイルム株式会社 | 立体視画像表示方法および装置 |
JP2012105047A (ja) * | 2010-11-10 | 2012-05-31 | Fujifilm Corp | 立体視画像表示装置および方法並びにプログラム |
CN102805636B (zh) * | 2011-05-31 | 2015-04-29 | 上海西门子医疗器械有限公司 | 一种ct机的扫描范围确定方法、系统及ct机 |
JP5809850B2 (ja) * | 2011-06-01 | 2015-11-11 | オリンパス株式会社 | 画像処理装置 |
EP2867864A1 (en) * | 2012-06-28 | 2015-05-06 | Koninklijke Philips N.V. | Overlay and registration of preoperative data on live video using a portable device |
CN111408066B (zh) * | 2020-03-19 | 2021-04-16 | 山东大学 | 基于磁共振影像的肿瘤位置标定系统及设备 |
-
1995
- 1995-07-04 JP JP16883395A patent/JP3707830B2/ja not_active Expired - Lifetime
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011183021A (ja) * | 2010-03-10 | 2011-09-22 | Fujifilm Corp | 放射線画像撮影システム及び放射線画像の表示方法 |
Also Published As
Publication number | Publication date |
---|---|
JPH0919441A (ja) | 1997-01-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3707830B2 (ja) | 術式支援用画像表示装置 | |
US11481868B2 (en) | System and method of providing real-time dynamic imagery of a medical procedure she using multiple modalities | |
CN106455944B (zh) | Q3d模型与3d图像的对准 | |
JP6242569B2 (ja) | 医用画像表示装置及びx線診断装置 | |
JP6609616B2 (ja) | マルチポートの視点からの手術シーンの定量的な3次元イメージング | |
US6483948B1 (en) | Microscope, in particular a stereomicroscope, and a method of superimposing two images | |
US7102634B2 (en) | Apparatus and method for displaying virtual endoscopy display | |
KR101772187B1 (ko) | 이미지 데이터의 입체적 묘사를 위한 방법 및 디바이스 | |
WO2000057767A2 (en) | Apparatus and methods for medical diagnostic and for medical guided interventions and therapy | |
WO2016207628A1 (en) | Augmented reality imaging system, apparatus and method | |
JP2001218765A (ja) | 対象物のビジュアル化方法及びシステム | |
JP2004538538A (ja) | 強化現実可視化付きの、手術中にイメージガイドされる神経外科手術法及び手術用装置 | |
US20150320391A1 (en) | Ultrasonic diagnostic device and medical image processing device | |
JP2004049912A (ja) | 医療用診断または治療装置における患者の位置決め方法および装置 | |
WO2012017827A1 (ja) | 超音波画像装置と超音波画像を用いた三次元画像表示方法 | |
JP5486437B2 (ja) | 立体視画像表示方法および装置 | |
CN109893258B (zh) | 一体化外视镜腹腔镜系统 | |
JP2010035814A (ja) | 医用画像診断装置 | |
JP5498185B2 (ja) | 超音波診断装置及び超音波画像表示プログラム | |
WO2015091226A1 (en) | Laparoscopic view extended with x-ray vision | |
US11793402B2 (en) | System and method for generating a three-dimensional model of a surgical site | |
JP2003079616A (ja) | 身体部位に挿入された検査器具の3次元位置の検出方法 | |
JP4436495B2 (ja) | 手術用観察システム | |
JPH1051813A (ja) | X線ステレオ画像表示装置 | |
KR101635731B1 (ko) | 사람의 체내 구조물을 가시화하는 가시화 시스템 및 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20040624 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040629 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040830 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050329 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050530 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20050726 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20050802 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090812 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100812 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100812 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110812 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120812 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120812 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130812 Year of fee payment: 8 |
|
EXPY | Cancellation because of completion of term |