JP3878270B2 - 画像処理装置 - Google Patents
画像処理装置 Download PDFInfo
- Publication number
- JP3878270B2 JP3878270B2 JP4449597A JP4449597A JP3878270B2 JP 3878270 B2 JP3878270 B2 JP 3878270B2 JP 4449597 A JP4449597 A JP 4449597A JP 4449597 A JP4449597 A JP 4449597A JP 3878270 B2 JP3878270 B2 JP 3878270B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- unit
- processing apparatus
- image processing
- guide sign
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
- 238000004364 calculation method Methods 0.000 claims description 18
- 238000000034 method Methods 0.000 claims description 15
- 230000004044 response Effects 0.000 claims description 2
- 238000010586 diagram Methods 0.000 description 16
- 230000000694 effects Effects 0.000 description 7
- 210000000056 organ Anatomy 0.000 description 7
- 238000013075 data extraction Methods 0.000 description 6
- 241000699666 Mus <mouse, genus> Species 0.000 description 5
- 230000003902 lesion Effects 0.000 description 3
- 206010028980 Neoplasm Diseases 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 239000003550 marker Substances 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 241000699670 Mus sp. Species 0.000 description 1
- 238000012508 change request Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
Images
Description
【発明の属する技術分野】
本発明は、内視鏡スコープの先端を進めて行く方向を容易に知らせることができる画像処理装置に関する。
【0002】
【従来の技術】
一般に、電子内視鏡装置1は、図15に示すように、内視鏡スコープ2を治療台3上の被検体の体内に挿入し、この内視鏡スコープ2からの撮像信号に基づく画像を本体部4のモニタ5に映し出す。そして、術者はモニタ5の画像を見ながら内視鏡スコープ2を操作しながら挿入して行くものである。
【0003】
このような電子内視鏡装置1においては、管腔内を傷つけないで、かつ早く正確に病巣部に、内視鏡スコープ2の先端を如何に到達させるかが重要なポイントである。
【0004】
このため、図15に示すように電子内視鏡装置1の近傍に画像処理装置6を設け、この画像処理装置6に、事前に例えば被検体の臓器の3次元画像(以下3D臓器画像という)を記憶しておく。そして、術者は内視鏡スコープ2の操作に伴って画像処理装置6に記憶されている被検体の3D臓器画像をモニタ7に表示させる。
【0005】
術者は、この画像処理装置6のモニタ7の3D臓器画像を内視鏡スコープ2を先に進めるための案内画像とし、この案内画像と電子内視鏡装置1のモニタ5の実際の画像とを見比べながら内視鏡スコープ2を被検体に挿入していく。
【0006】
そして、例えば電子内視鏡装置1のモニタ5の実際の画像が分岐している管腔を表示している場合は、術者は画像処理装置6のモニタ7の臓器を外側から見た3D臓器画像により、内視鏡スコープ2の先端をどちらの管腔に進めていけばよいかを決定して挿入していた。
【0007】
また、CT装置又はMR装置等により、事前に被検体のスライス画像又はX線写真を得た場合は、このスライス画像又はX線写真等を見ながら内視鏡スコープ2の先端をどちらの管腔に進めていけばよいかを判断していた。
【0008】
【発明が解決しようとする課題】
しかしながら、電子内視鏡装置に用いる従来の画像処理装置は、内視鏡スコープを先に進めるための案内画像を3D臓器画像で表示している。つまり、臓器を外側から見た案内画像で表示している。
【0009】
このため、熟練した術者でなければ内視鏡スコープの先端をどの管腔に進めていけばよいかが判断できない場合があるという問題点があった。
【0010】
特に、管腔が複雑に複数に分岐している場合は、内視鏡スコープの先端をどの管腔に向かって進めてよいかが容易には分からない。
【0011】
また、CT装置又はMR装置のスライス画像、写真等により、内視鏡スコープの先端を進めて行く管腔を判断する場合は、熟練した術者でなければどの管腔が所望の管腔であるかを容易に判断できないという問題点があった。
【0012】
本発明は以上の問題点を解決するためになされたもので、熟練した術者でなくとも画面上で内視鏡スコープの先端を進めて行く方向を容易に判断させることができる画像処理装置を得ることを目的とする。
【0013】
【課題を解決するための手段】
請求項1は、予め被検体から収集された多数の断層像に基づき、前記被検体の所望とする部位に係る3次元画像を表示する画像処理装置において、前記多数の断層像に基づく立体モデルを作成する立体モデル作成部と、この立体モデル作成部で作成された立体モデルにおける所望の視点位置及び視線方向を視野とする第1の画像を作成して第1の画面に表示させる画像作成部と、前記所望とする部位に、正確に案内させるための案内標識を選択させて前記第1の画像上における表示指定位置を指定させ、この表示指定位置に前記選択された案内標識を生成しこの案内標識と前記位置を記憶させる案内標識生成部と、この案内標識生成部で記憶された案内標識を前記第1の画像上に表示する表示部とを有することを要旨とする。
【0014】
請求項1においては、立体モデルにおける所望の視点位置及び視線方向を視野とする第1の画像が第1の画面に表示される。つまり、立体モデルにおける内視鏡スコープの所望の視点位置及び視線方向を視野とする内視鏡的画像が表示される。
【0015】
そして、この内視鏡的画像上において、目的の腔に正確に案内させるための案内標識が表示指定位置に表示される。
【0016】
請求項2は、案内標識生成部における案内標識は、進入禁止を示す標識と、進入方向を示す矢印標識とからなることを要旨とする。
【0017】
請求項2においては、第1の画像である内視鏡的画像において、進入不可である腔には、進入禁止の標識が表示され、また進入する腔には進入方向を示す矢印が表示される。
【0018】
請求項3は、案内標識生成部は、表示指定位置と選択された案内標識とを対応させて登録することを要旨とする。
【0019】
請求項3においては、内視鏡的画像上で指定した標識と、このときの3次元座標とが対応させられて登録される。このため、後で実際に内視鏡スコープを被検体に挿入する場合に、本装置を用いて被検体の内視鏡的画像を表示したときは、腔内には標識が表示されているので、どの腔に進めていけばよいかが分かる。
【0020】
請求項4は、立体モデルにおける視点位置及び視線方向を、操作指示に基づいて上下移動、左右移動又は回転させた第1の画像を画像作成部により第1の画面に表示させる画像移動部とを備えたことを要旨とする。
【0021】
請求項4においては、視点位置及び視線方向を変えた内視鏡的画像が第1の画面に表示される。例えば、第1の画像である内視鏡的画像が上下移動、左右移動又回転した画像となる。
【0022】
請求項5は、立体モデル作成部で作成された立体モデルの内面を隠面消去した外形画像を第1の画面とは異なる第2の画面に表示する外形画像作成部とを備えたことを要旨とする。
【0023】
請求項5においては、目的の管腔に正確に案内させるための標識を表示した内視鏡画像と、この内視鏡画像の腔の外形画像とを同一画面上で見ることが可能となる。
【0024】
請求項6は、第2の画面の外形画像上において、複数の視点位置を指示させ、これらの視点位置を結ぶ立体モデル内の最短経路を求め、この最短経路を外形画像上に表示する最短コース算出部とを備えたことを要旨とする。
【0025】
請求項6においては、部位の立体モデルの外形画像上において、複数の視点位置が指示されると、これらの位置を結ぶ最短経路が立体モデルから求められて、この最短経路を示す線が外形画像上に表示される。
【0026】
請求項7は、最短コース算出部は、最短経路を求めたとき、立体モデル上における最短経路の各3次元座標を所望の視点位置及び視線方向として順次、画像作成部に送出することを要旨とする。
【0027】
請求項7においては、最短経路が求められると、この最短経路の各3次元座標に対応する前記立体モデル内の内視鏡的画像が第1の画面に順次表示される。
【0028】
請求項8は、立体モデルにおける視点位置及び視線方向が更新される毎に、これらの位置及び方向を順次登録する操作進路履歴管理部とを備えたことを要旨とする。
【0029】
請求項8においては、立体モデル上における視点位置及び視線方向が更新される毎に、これらの位置及び方向が登録される。このため、後でどのような経路を通過してきたかを再現できる。
【0030】
請求項9は、操作進路履歴管理部は、再生要求に伴って登録している視点位置及び視線方向を順次、内視鏡的画像作成部に送出することを要旨とする。
【0031】
請求項9においては、再生要求があると、予め登録している立体モデルの視線位置及び視線方向とが順次、画像作成部に送出される。
【0032】
このため、予め登録している視線位置及び視線方向に対応する内視鏡的画像を画面に再生できる。
【0033】
請求項10は、第1の画面の第1の画像をメッシュ化又は半透明化する背面画像浮上部とを有することを要旨とする。
【0034】
請求項10においては、メッシュ化又は半透明化された第1の画像である内視鏡的画像上に、目的の腔に進めさせる標識が表示される。
【0035】
【発明の実施の形態】
<実施の形態1>
図1は本発明の実施の形態1の画像処理装置の概略構成図である。本実施の形態では、部位を例えば管腔として説明する。
【0036】
図1の画像処理装置10は、表示部11と、マウス12及びキーボード13を接続した入力部14と、画像データ抽出部15と、内視鏡的画像作成部16と、色情報記憶部17と、立体モデル作成部18と、案内標識生成部20と、画像移動回転部21と、最短コース算出部22と、操作進路履歴管理部23と、スコープ先端状況画像作成部24と、画像制御部25とを備え、図1に示すようにファイル26に予め記憶されている被検体のスライス画像(以下原画像という)から得た内視鏡的画像Aiをメイン画面11aに表示すると共に、サブ画面11bに外観を示す立体モデル画像Biを表示する。
【0037】
そして、内視鏡的画像Ai上にどの管腔を進んでいけばよいかを示す案内標識を表示する。
【0038】
<各部の説明>
入力部14は、マウス12又はキーボード13の操作に伴うイベント情報を受付け、画像データ抽出部15、内視鏡的画像作成部16、色情報記憶部17、立体モデル作成部18、案内標識生成部20、画像移動回転部21、最短コース算出部22、操作進路履歴管理部23、スコープ先端状況画像作成部24のいずれかを起動させる。
【0039】
画像データ抽出部15は、ファイル26に記憶されている被検体の複数の原画像より、所定領域の所定数の原画像を全てロードした後に、初めの原画像を表示部11に表示する。
【0040】
内視鏡的画像作成部16は、視点位置及び視線方向を視野とする立体モデルの内視鏡的画像Ai(第1の画像)を作成して表示させる。
【0041】
色情報記憶部17は、コンピュータグラフィック表示するための内視鏡的画像Aiの色情報を記憶している。
【0042】
立体モデル作成部18は、画像データ抽出部15がロードした所定数の原画像を集めて、ボクセル処理、シェーデング処理等を行って立体モデルを作成する。
【0043】
案内標識生成部20は、案内標識表示の要求に伴って、後述する案内標識を内視鏡的画像Ai上に生成させる一方、その矢印と内視鏡的画像Aiにおける3次元座標位置とを記憶する。
【0044】
この案内標識は予めメモり(図示せず)に記憶され、例えば右方向の矢印、左方向の矢印、進入禁止を示す×印、上方向の矢印、下方向の矢印、任意方向の矢印等からなっている。また、メモリは病巣部の名称を示す文字を記憶している。
【0045】
画像移動回転部21は、メイン画面11aの内視鏡的画像Aiを後述すツールボックス11dの操作に基づいて移動又は回転させる。
【0046】
最短コース算出部22は、サブ画面11bのツールボックス11eのキー11e2の操作に基づいて立体モデル画像Bi上にて指示された2点間の最短コースを求め、このコースを表示させる。
【0047】
操作進行履歴管理部23は、ツールボックス11cの操作に基づいて、視点位置の移動に伴い立体モデル上の3次元座標をファイル27に記憶する。または記憶した3次元座標に対応する内視鏡的画像Aiを表示させる。
【0048】
スコープ先端状況画像作成部24(単に先端状況画像作成部ともいう)は、内視鏡的画像作成部16が把握している視点位置及び視線方向に基づいて内視鏡スコープの先端状況(視線方向、視点位置、先端の頭方向)を示すインジケータ画像Ciを立体モデル画像Bi上に表示させる。
【0049】
また、このスコープ先端状況画像作成部24は、立体モデルの内面を隠面消去した立体モデル画像Bi(外形画像ともいう)を生成し、この立体モデル画像Biを第2の画面に表示させる外形画像作成部(図示せず)を備えている。
【0050】
画像制御部25は、入力部14から送出されるイベント、及び前述の各部からの指示に基づいて表示部11の画像を表示を制御する。
【0051】
また、表示部11に表示されるツールボックス11c、11d及び11eを図2に示す。図2の(a)はツールボックス11eを示し、このツールボックス11eは計測機能(距離計測)を行わせるキー11e2を備えている。
【0052】
図2の(b)はツールボックス11dを示し、このツールボックス11dは、左方向の視線に変更させる指示を行うキー11d1と、右方向に視線を変更させる指示を行うキー11d2と、上方向に視線を変更させる指示を行うキー11d3と、下方向に視線を変更させる指示を行うキー11d4と、後ろへ視線を変更させる指示を行うキー11d5とからなっている。
【0053】
さらに、図2の(c)のツールボックス11cは、記録の停止又は再生の停止を指示するキー11c1と、記録開始を指示するキー11c2と、一時停止を指示するキー11c3と、コマ戻りを指示するキー11c4と、再生を指示するキー11c5と、コマ送りを指示するキー11c6とからなっている。
【0054】
<動作説明>
上記のように構成された実施の形態1の画像処理装置の動作を以下に説明する。図3及び図4は本実施の形態1の画像処理装置の動作を説明するフローチャートである。
【0055】
初めに画像データ抽出部15は、ファイル26に予め記憶されている被検体の複数の原画像から所定領域の所定数の原画像を全て読み、立体モデル作成部18がこれらの原画像に基づく立体モデルを作成する。そして、内視鏡的画像作成部16は立体モデルを内部を視線方向から見たときの内視表示データを読み込む(S1)。この内視表示データの読み込み開始はマウス12操作によって行う。
【0056】
そして、内視鏡的画像作成部15は、読み込んだ内視表示データを視線方向から撮像した内視鏡的画像Aiを求める内視表示算出処理を行い(S2)、画像制御部25によりメイン画面11aに表示(単に内視表示ともいう)させる(S3)。
【0057】
次に、入力部14は、マウス12又はキーボード13若しくはツールボックス等の操作に伴う処理要求イベントが発生したかどうかを判断する(S4)。
【0058】
ステップS4で処理要求イベントが発生したと判断したときは、そのイベントが視点位置の変更かどうかを判断する(S5)。ステップS5で視点位置の変更と判断した場合は、入力部14は画像移動回転部21を起動させる。画像移動回転部21は、視点位置変更の場合は、左方向の視線に変更させる指示を行うキー11d1、右方向に視線を変更させる指示を行うキー11d2、上方向に視線を変更させる指示を行うキー11d3、下方向に視線を変更させる指示を行うキー11d4、後ろへ視線を変更させる指示を行うキー11d5のいずれかの選択かを判断し、以下に説明する視点位置再計算処理及び視線方向ベクトル計算処理を行って処理をステップS2に戻す(S6)。
【0059】
例えば、ツールボックス11dのキー11d1が選択された場合は、図5の(a)の内視鏡的画像Ai上において視線方向を左側に移動させ、この移動位置において内視鏡的画像作成部16が再撮像することによって図5の(b)に示す方向によった内視鏡的画像Aiを表示させる。
【0060】
キー11d2が選択された場合は、図5の(a)の内視鏡的画像Ai上において視線方向を右側に移動させ、この移動位置において内視鏡的画像作成部16が再撮像することによって図5の(c)に示す方向によった内視鏡的画像Aiを表示させる。
【0061】
キー11d3が選択された場合は、図5の(a)の内視鏡的画像Ai上において視線方向を上側に移動させ、この移動位置において内視鏡的画像作成部16が再撮像することによって図5の(d)に示す方向によった内視鏡的画像Aiを表示させる。
【0062】
キー11d4が選択された場合は、図5の(a)の内視鏡的画像Ai上において視線方向を下側に移動させ、この移動位置において内視鏡的画像作成部16が再撮像することによって図5の(e)に示す方向によった内視鏡的画像Aiを表示させる。さらに、キー11d5が選択された場合は、図6の(a)のような画面の内視鏡的画像Aiにおける視線方向を軸として、左回転させた図6の(b)に示す内視鏡的画像Ai又は右回転させた図6の(c)の内視鏡的画像aiを表示させる。
【0063】
すなわち、画像移動回転部21は、ツールボックス11dの各キーの押下時間等から立体モデル上における視点位置及び視線方向を3次元座標で求め、求めた座標値を内視鏡的画像作成部16に送出して再撮像させて前述の移動又は回転させた画像をメイン画面11aに表示させている。
【0064】
また、ステップS5で視点位置変更要求のイベントではないと判断したときは、2点間の最短コース算出要求のイベントかどうかを判断する(S7)。
【0065】
ステップS7において、最短コース算出要求のイベントであると判断した場合は入力部14は、最短コース算出部22を起動させる。
【0066】
最短コース算出部22は、最短コース算出要求のイベントの場合(ツールボックス11eのキー11e2が選択された場合)は、図7に示すようにサブ画面11bの立体モデル画像Bi上に、第1ポイント(X1)と第2ポイント(X2)とを指定させる指示要求を行い、両ポイントが指示されると、これらのポイントの3次元座標を記憶する(S8)。
【0067】
そして、第1ポイント(X1)と第2ポイント(X2)と結ぶ最短コースを立体モデル上で求め(S9)、両ポイントを結ぶ直線を画像制御部25を用いて図7に示すようにサブ画面11bに表示させる。この直線上に沿って視点位置を移動させると共に、内視鏡的画像作成部16により、移動に伴う内視鏡的画像Aiを算出させる処理を行わせて(S10)、メイン画面11aに表示させる(S11)。このステップS10及びS11の処理は直線の始点X1からX2まで、単位座標毎に繰り返す。
【0068】
また、ステップS7で最短コース算出のイベントではないと判断したときは、入力部14は、案内標識表示(3Dアノテーション作成ともいう)の要求かどうかを判断する(S12)。ステップS12において、案内標識表示のイベントと判断した場合は、案内標識生成部20が、画面に予め記憶されている上記説明の案内標識を表示し、いずれかを選択させる(S13)。
【0069】
そして、案内標識を表示させる位置をカーソル等でメイン画面11aの内視鏡的画像Ai上で指示させ、この指示された位置の内視鏡的画像Ai上の描画位置算出を行い(S14)、画像制御部25を用いてその位置に表示させて(S15)、処理をステップS2に戻す。つまり、各矢印は3次元的な表示となる。
【0070】
従って、図8又は図9に示すように内視鏡的画像Ai上に、内視鏡スコープ2の先端を導くための案内標識が表示される。
【0071】
図8においては、内視鏡スコープ2の先端を進めて行く管腔は案内標識Y1、Y2で表示され、また、先端を進めて行ってはいけない管腔は×印で表示している。このため、実際に内視鏡スコープ2の先端を進めて行く場合は、これらの案内標識に従って、進めていけばよいので、複数に分岐している管腔であっても容易に目的の病巣部に向かって進めていくことができる。
【0072】
また、ステップS12で案内標識の表示要求ではないと判断した場合は、操作進路履歴管理の要求かどうかを判断する(S16)。
【0073】
操作進路履歴管理部23は、操作進路履歴管理の要求のイベントの場合は、記録要求のイベントかどうかを判断する(S17)。つまり、図2の(c)のツールボックス11cのキー11c2が選択されたかどうかを判断する。
【0074】
ステップS17で記録要求のイベントと判断したときは、通過点の3次元座標を順次記憶して(S18)、処理をステップS17に戻す。例えば、2点間の最短コースを求めたときの視点位置の座標を記憶する。
【0075】
また、ステップS17で記録要求のイベントではないと判断したときは、操作進路履歴管理部23は再生要求のイベントかどうかを判断する(S19)。つまり、図2の(c)のツールボックス11cのキー11c5が選択されたかどうかを判断する。
【0076】
ステップS19で再生要求のコマンドと判断した場合は、ステップS18で記憶した通過点の3次元座標を順次読み出し(S20)、この3次元座標を内視鏡算出部16に出力して、各座標位置毎の内視鏡座標Aiを生成させる内視表示算出処理を行わせて(S21)、メイン画面11aに表示させる(S22)。そして、記録地点の終了かどうかを判断する(S23)。ステップS23において、記録地点の終了でない場合は処理をステップS21に戻して、記憶している次ぎの3次元座標の内視鏡的画像Aiを表示させる。また、ステップS23で記録地点の終了と判断した場合は、処理を図3のステップS1に戻して最初の内視鏡的画像Aiを表示させる(S24)。
【0077】
さらに、ステップS19において再生要求のイベントではないと判断したときは、コマ送り又はコマ戻しのイベントかどうかを判断する(S24)。つまり、図2の(c)のツールボックス11cのキー11c3又はキー11c4のいずれかが選択されたかどうかを判断する。
【0078】
ステップS24において、コマ送り又はコマ戻しのイベントと判断した場合は、1コマ前の通過点の3次元座標又は1コマ戻した3次元座標を読み出し(S25)、内視鏡的画像作成部16に知らせて処理をステップS21に戻す。
【0079】
また、ステップS24でコマ送り又はコマ戻しのイベントではないと判断した場合は、履歴管理の終了かどうかを判断する(S26)。つまり、図2の(c)のツールボックス11cのキー11c1が選択されたかどうかを判断する。
【0080】
ステップS26において、履歴管理の終了ではないと判断したときは、処理をステップS17に戻して上記の説明の処理を行う。また、ステップS26において、履歴管理の終了と判断した場合は処理をステップS2に戻して最初の内視鏡的画像Aiを表示させる。
【0081】
すなわち、操作履歴管理においては、ビデオテープレコーダのように、視点位置を移動させたときの経路を覚えておき、後で繰り返し内視鏡的画像等を見直すことができるようにしている。
【0082】
<実施の形態2>
実施の形態2においては、内視鏡的画像Aiをメッシュ化又は半透明化して案内標識Yを表示する場合を述べる。また、被検出体の右肩、左肩、頭方向等を示す体位方向コンパス画像Mi並びにサブ画面11bの立体モデル画像Biにスコープ先端状況画像Ciを表示することにする。
【0083】
図10は実施の形態2の画像処理装置の概略構成図である。図11は本実施の形態2の画像処理装置の表示画像を説明する説明図である。図10において、表示部11〜案内標識生成部20は図1と同様なものである。図10の画像処理装置35は、表示部11〜案内標識生成部20の他に、体位方向記憶部29と、メッシュ化部31と、半透明化部32と、任意物体作成部33と、画像制御部34とを備えている。
【0084】
コンパス画像作成部30は、内視鏡的画像Aiを得たときの内視鏡スコープ2の先端の姿勢(視線位置及び方向)と、このときの先端に対する被検体の足、頭等の方向とを示した体位方向コンパス画像Miを作成して内視鏡的画像Ai上に表示させる。
【0085】
入力部28は、マウス12又はキーボード13の操作に伴うイベント情報を受付け前述の各部のいずれかを起動させる。
【0086】
スコープ先端状況画像作成部24(先端状況画像作成部ともいう)は、内視鏡的画像作成部16が把握している視点位置及び視線方向並びに体位方向記憶部29に記憶されている体位情報に基づいて内視鏡スコープの先端状況(視線方向、視点位置、術者の頭方向)を示すインジケータ画像Ciを図11に示すように、立体モデル画像Bi上に表示する。
【0087】
メッシュ化部31は、内視鏡的画像作成部16で作成した内視鏡的画像Aiを読み込む。そして、読み込んだ内視鏡的画像Aiを形成する各断層像の対象物体の輪郭抽出を行い、これらの輪郭線の点列データを線で結んでメッシュする。
【0088】
半透明化部32は、内視鏡的画像作成部16の内視鏡画面Aiを読み込む。そして、読み込んだ内視鏡的画像Aiから所定の条件に基づいて画素を間引きした半透明の内視鏡的画像Aiをメイン画面11aに表示させる。この半透明化部32及びメッシュ化部31を総称して背面画像浮上部という。
【0089】
任意物体作成部33は、腫瘍等を示す図形(星型、立方体等)と、この腫瘍等が位置している座標とを予め記憶し、必要に応じてサブ画面11bの座標系の対応する座標位置に記憶されている図形(星型、立方体等)を作成する。
【0090】
画像制御部34は、入力部28から送出されるイベント、及び前述の各部からの指示に基づいて表示部11の画像を制御する。
【0091】
例えば、立体モデルを視点位置及び視線方向から撮像したときの立体モデル画像Qi上に、内視鏡的画像Ai又はメッシュ化された内視鏡的画像Ai若しくは半透明化された内視鏡的画像Aiを表示する。さらに、体位方向コンパス画像Miをこれらの画像上に表示する。
【0092】
また、内視鏡的画像ai上に案内標識生成部20で生成された矢印を3次元的に内視鏡的画像Ai上に表示する。
【0093】
すなわち、上記実施の形態2の画像処理装置35は、内視鏡的画像作成部16によって作成された内視鏡的画像Aiを、メッシュ化部31がメッシュ化したとき、案内標識の要求があると、案内標識生成部20が、画面に予め記憶されている上記説明の案内標識を表示し、いずれかを選択させる。そして、案内標識を表示させる位置をカーソル等でメイン画面11aの内視鏡的画像Ai上で指示させ、この指示された位置の内視鏡的画像Ai上の描画位置算出を行い、画像制御部34を用いてその位置に表示させる。
【0094】
従って、図12示すようにメッシュ化された内視鏡的画像Ai上に、内視鏡スコープ2の先端を導くための案内標識が表示される。
【0095】
また、内視鏡的画像作成部16によって作成された内視鏡的画像Aiを、半透明化部32が半透明化したとき、案内標識の要求があると、案内標識生成部20が、画面に予め記憶されている上記説明の案内標識を表示し、いずれかを選択させる。そして、案内標識を表示させる位置をカーソル等でメイン画面11aの内視鏡的画像Ai上で指示させ、この指示された位置の内視鏡的画像Ai上の描画位置算出を行い、画像制御部34を用いてその位置に表示させる。
【0096】
従って、図13示すように半透明化された内視鏡的画像Ai上に、内視鏡スコープ2の先端を導くための案内標識が表示される。
【0097】
さらに、体位方向コンパス画像Miの要求がある場合は、コンパス画像作成部30が内視鏡的画像作成部16が把握している視点位置(X、Y、Z)及び視線方向(Dix、Diy、Diz)を読み込む。そして、体位方向記憶部29に記憶している体位情報を読み、この体位情報と視点位置と視線方向とに基づいて、内視鏡スコープ2の先端からの右肩の方向、左肩の方向、胸方向、背面方向、頭部方向、足方向を求める。
【0098】
次に、これらの方向に基づいてコンパス画像作成部30は、体位方向コンパス画像Miの姿勢を求めて、かつこれらの方向に対応する各バー24に記号(L、R、A、P、H、F)を付加する。
【0099】
従って、図14に示すように、内視鏡的画像Ai上に、内視鏡スコープ2の先端の姿勢及び各部の方向を示す体位方向コンパス画像Miと、案内標識が表示されることになるので、背面の立体モデル画像Qiを見ることができると共に、先端の姿勢に対する被検体の体軸方向の相対関係と、先端を進める方向とが表示される。
【0100】
なお、上記実施の形態では、メイン画面11aに内視鏡的画像Aiを表示し、サブ画面11bに立体モデル画像Biを表示したが内視鏡的画像Aiをサブ画面11bに表示し、立体モデル画像Biをメイン画面11aに表示してもよい。
【0101】
【発明の効果】
以上のように請求項1によれば、第1の画像である内視鏡的画像上に目的の部位に正確に案内させるための標識を表示できるようにしたので、事前に進入する腔を決定できるという効果が得られている。
【0102】
請求項2によれば、進入不可の管腔と進入する腔とを事前に決定できるという効果が得られている。
【0103】
請求項3によれば、後で実際に内視鏡スコープを被検体に挿入する場合に、本装置を用いて被検体の内視鏡的画像を表示したときは、腔内には標識が表示されているので、熟練していない術者であってもどの腔に進めていけばよいかが容易に分かるという効果が得られている。
【0104】
請求項4によれば、第1の画面において、視点位置及び視線方向を変えた内視鏡的画像を表示できるようにしたので、術者が見る方向に応じた方向からの内視鏡的画像を第1の画面に表示させることができるという効果が得られている。
【0105】
請求項5によれば、内視鏡的画像上において、目的の腔に正確に案内させるための標識を表示した内視鏡画面と、この内視鏡画面の腔の立体モデル画像とを同一画面上で見ることができるという効果が得られている。
【0106】
請求項6によれば、複数の視点位置が指示されると、立体モデル上のこれらの位置を結ぶ最短経路を示す線が立体モデル画像上に表示されるので、操作負担を低減できるという効果が得られている。
【0107】
請求項7によれば、最短経路の各3次元座標に対応する断画像から立体モデルを撮像したときの内視鏡的画像が第1の画面に順次表示されるという効果が得られている。
【0108】
請求項8によれば、本装置上でシュミレーションを行ったときの経路を、後で再現できるという効果が得られている。
【0109】
請求項9によれば、再生要求があると、予め登録している視線位置及び視線方向に対応する内視鏡的画像を画面に再生できるという効果が得られている。
【0110】
請求項10によれば、メッシュ化又は半透明化された内視鏡的画像上に、目的の管腔に進めさせる標識が表示されるので、矢印に従って進む方向の管腔がどのようになっているかを事前に把握できるという効果が得られている。
【図面の簡単な説明】
【図1】本発明の実施の形態1の画像処理装置の概略構成図である。
【図2】ツールボックスの構成を説明する説明図である。
【図3】本実施の形態の画像処理装置の動作を説明するフローチャートである。
【図4】本実施の形態の画像処理装置の動作を説明するフローチャートである。
【図5】内視鏡的画像の移動を説明する説明図である。
【図6】内視鏡的画像の回転を説明する説明図である。
【図7】最短コースの算出を説明する説明図である。
【図8】案内標識の表示を説明する説明図である。
【図9】案内標識の表示を説明する説明図である。
【図10】第2の実施の形態の画像処理装置の概略構成図である。
【図11】実施の形態2の表示画面を説明する説明図である。
【図12】メッシュ化した内視鏡的画像上における案内標識の表示を説明する説明図である。
【図13】半透明化した内視鏡的画像上における案内標識の表示を説明する説明図である。
【図14】体位方向コンパス画像と案内標識の表示した説明図である。
【図15】従来の画像処理装置を説明する説明図である。
【符号の説明】
2 内視鏡スコープ
11 表示部
12 マウス
13 キーボード
14 入力部
15 画像データ抽出部
16 内視鏡的画像作成部
17 色情報記憶部
18 立体モデル作成部
20 案内標識生成部
21 画像移動回転部
22 最短コース算出部
23 操作進路履歴管理部
Claims (10)
- 予め被検体から収集された多数の断層像に基づき、前記被検体の所望とする部位に係る3次元画像を表示する画像処理装置において、
前記多数の断層像に基づく立体モデルを作成する立体モデル作成部と、
この立体モデル作成部で作成された立体モデルにおける所望の視点位置及び視線方向を視野とする第1の画像を作成して第1の画面に表示させる画像作成部と、
前記所望とする部位に、正確に案内させるための案内標識を選択させて前記第1の画像上における表示指定位置を指定させ、この表示指定位置に前記選択された案内標識を生成しこの案内標識と前記位置を記憶させる案内標識生成部と、
この案内標識生成部で記憶された案内標識を前記第1の画像上に表示する表示部と
を有することを特徴とする画像処理装置。 - 前記案内標識生成部における案内標識は、進入禁止を示す標識と、進入方向を示す矢印標識とからなることを特徴とする請求項1記載の画像処理装置。
- 前記案内標識生成部は、
前記表示指定位置と前記選択された案内標識とを対応させて登録することを特徴とする請求項1又は2記載の画像処理装置。 - 前記立体モデルにおける視点位置及び視線方向を、操作指示に基づいて上下移動、左右移動又は回転させた前記第1の画像を前記画像作成部により前記第1の画面に表示させる画像移動部と
を有することを特徴とする請求項1乃至3のいずれかに記載の画像処理装置。 - 前記立体モデル作成部で作成された立体モデルの内面を隠面消去した外形画像を前記第1の画面とは異なる第2の画面に表示する外形画像作成部とを有することを特徴とする請求項1乃至4のいずれかに記載の画像処理装置。
- 前記第2の画面の外形画像上において、複数の視点位置を指示させ、これらの視点位置を結ぶ前記立体モデル内の最短経路を求め、この経路を前記外形画像上に表示させる最短コース算出部と
を有することを特徴とする請求項1乃至5のいずれかに記載の画像処理装置。 - 前記最短コース算出部は、
前記最短経路を求めたとき、前記立体モデル上における前記最短経路の各3次元座標を前記所望の視点位置及び視線方向として順次、前記画像作成部に送出することを特徴とする請求項6記載の画像処理装置。 - 前記立体モデルにおける視点位置及び視線方向が更新される毎に、これらの位置及び方向を順次登録する操作進路履歴管理部と
を有することを特徴とする請求項1乃至7のいずれかに記載の画像処理装置。 - 前記操作進路履歴管理部は、
再生要求に伴って前記登録している前記視点位置及び視線方向を順次、前記画像作成部に送出することを特徴とする請求項8記載の画像処理装置。 - 前記第1の画面の第1の画像をメッシュ化又は半透明化する背面画像浮上部とを有することを特徴とする請求項1乃至9のいずれかに記載の画像処理装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP4449597A JP3878270B2 (ja) | 1997-02-27 | 1997-02-27 | 画像処理装置 |
US09/031,661 US6346940B1 (en) | 1997-02-27 | 1998-02-27 | Virtualized endoscope system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP4449597A JP3878270B2 (ja) | 1997-02-27 | 1997-02-27 | 画像処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH10234662A JPH10234662A (ja) | 1998-09-08 |
JP3878270B2 true JP3878270B2 (ja) | 2007-02-07 |
Family
ID=12693145
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP4449597A Expired - Lifetime JP3878270B2 (ja) | 1997-02-27 | 1997-02-27 | 画像処理装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3878270B2 (ja) |
Families Citing this family (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
FR2795207B1 (fr) * | 1999-06-21 | 2001-08-17 | Ge Medical Syst Sa | Procede de visualisation d'une partie d'une image tridimensionnelle |
JP4436638B2 (ja) * | 2002-08-30 | 2010-03-24 | オリンパス株式会社 | 内視鏡装置及び内視鏡挿入動作プログラム |
JP3930423B2 (ja) * | 2002-12-03 | 2007-06-13 | オリンパス株式会社 | 内視鏡装置 |
JP4546043B2 (ja) * | 2003-05-16 | 2010-09-15 | オリンパス株式会社 | バーチャル画像表示装置 |
JP2005021354A (ja) * | 2003-07-01 | 2005-01-27 | Olympus Corp | 遠隔手術支援装置 |
JP4343723B2 (ja) * | 2004-01-30 | 2009-10-14 | オリンパス株式会社 | 挿入支援システム |
JP5239115B2 (ja) * | 2005-07-28 | 2013-07-17 | 横河電機株式会社 | 医用画像データ処理装置および医用画像データ処理方法 |
WO2009072054A1 (en) * | 2007-12-07 | 2009-06-11 | Koninklijke Philips Electronics N.V. | Navigation guide |
JP5322794B2 (ja) * | 2009-06-16 | 2013-10-23 | 株式会社東芝 | 内視鏡検査支援システム |
US9833213B2 (en) | 2011-01-14 | 2017-12-05 | Koninklijke Philips N.V. | Ariadne wall taping for bronchoscopic path planning and guidance |
JP2012165838A (ja) * | 2011-02-10 | 2012-09-06 | Nagoya Univ | 内視鏡挿入支援装置 |
KR102367194B1 (ko) | 2014-12-31 | 2022-02-25 | 삼성메디슨 주식회사 | 초음파 진단 장치 및 그 동작방법 |
JP2017153815A (ja) * | 2016-03-03 | 2017-09-07 | 拡史 瀬尾 | 内視鏡訓練装置、内視鏡訓練方法及びプログラム |
CN110300547A (zh) * | 2017-01-25 | 2019-10-01 | 全息眼株式会社 | 医疗信息虚拟现实服务器系统,医疗信息虚拟现实程序,医疗信息虚拟现实系统,医疗信息虚拟现实用数据的创建方法,以及医疗信息虚拟现实用数据 |
JP6749020B2 (ja) * | 2017-11-29 | 2020-09-02 | 水野 裕子 | 内視鏡ナビゲーション装置 |
JP2019097665A (ja) * | 2017-11-29 | 2019-06-24 | 水野 裕子 | 内視鏡装置 |
-
1997
- 1997-02-27 JP JP4449597A patent/JP3878270B2/ja not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
JPH10234662A (ja) | 1998-09-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3878270B2 (ja) | 画像処理装置 | |
US6346940B1 (en) | Virtualized endoscope system | |
JP4676021B2 (ja) | 診断支援装置、診断支援プログラムおよび診断支援方法 | |
US7061484B2 (en) | User-interface and method for curved multi-planar reformatting of three-dimensional volume data sets | |
JP5417609B2 (ja) | 医用画像診断装置 | |
JP5309109B2 (ja) | 医用画像処理装置および方法、並びにプログラム | |
JP6039903B2 (ja) | 画像処理装置、及びその作動方法 | |
US8611988B2 (en) | Projection image generation apparatus and method, and computer readable recording medium on which is recorded program for the same | |
JP4798712B2 (ja) | 医用画像表示装置及び方法並びにプログラム | |
EP3785661A2 (en) | Systems and methods for displaying medical video images and/or medical 3d models | |
JP2007044121A (ja) | 医用画像表示方法及び装置 | |
JP4845566B2 (ja) | 画像表示装置 | |
US7860282B2 (en) | Method for supporting an interventional medical operation | |
JP2007135843A (ja) | 画像処理装置、画像処理プログラム、及び画像処理方法 | |
US20210353361A1 (en) | Surgical planning, surgical navigation and imaging system | |
JP3856406B2 (ja) | 画像処理装置 | |
JPH05120451A (ja) | 医用診断画像装置 | |
JP3632862B2 (ja) | 三次元画像表示方法及び装置 | |
JPH1176228A (ja) | 三次元画像構成装置 | |
JP6487999B2 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
EP3629932B1 (en) | Device and a corresponding method for providing spatial information of an interventional device in a live 2d x-ray image | |
JP6263248B2 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
JP4110226B2 (ja) | 三次元画像表示装置 | |
JPH10234664A (ja) | 画像処理装置 | |
JP2723257B2 (ja) | 画像処理装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20050301 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20050427 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20050620 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20051018 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20060224 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060413 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20060619 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060718 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060907 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20061031 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20061102 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101110 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101110 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111110 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111110 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121110 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131110 Year of fee payment: 7 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 Free format text: JAPANESE INTERMEDIATE CODE: R313117 Free format text: JAPANESE INTERMEDIATE CODE: R313114 |
|
R371 | Transfer withdrawn |
Free format text: JAPANESE INTERMEDIATE CODE: R371 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313114 Free format text: JAPANESE INTERMEDIATE CODE: R313111 Free format text: JAPANESE INTERMEDIATE CODE: R313117 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
EXPY | Cancellation because of completion of term |