以下、図面を参照しながら本発明の実施形態に係わる内視鏡検査支援システムを説明する。なお、本実施形態に係る内視鏡検査システムの検査対象は、大腸や小腸、食道等の管腔物である。以下の説明を具体的に行うため、内視鏡検査システムの検査対象は大腸であるとする。
(第1実施形態)
図1は、第1実施形態に係る内視鏡検査システムの構成を示す図である。図1に示すように、内視鏡検査システムは、画像処理装置10と内視鏡スコープ50とを有している。画像処理装置10は、内視鏡検査システムの中枢として機能し、内視鏡検査を支援するための様々な機能を有する。例えば、画像処理装置10は、内視鏡スコープ50の先端部56に光や水、空気を供給する。また、画像処理装置10は、内視鏡スコープ50の先端部56に設けられたCCD(Charge-Coupled Device)からの出力信号に基づいて生成されたデジタル画像(以下、内視鏡画像と呼ぶことにする)を表示する。
内視鏡スコープ50は、スコープ操作部52、挿入部54、及び先端部56を有する。スコープ操作部52は、先端部56を屈曲させるためのアングルノブ、先端部56から管腔内に送水、送気するための送水・送気ボタン、先端部56から粘液等を吸引するための吸引ボタン、組織採取等を行うための鉗子を挿入するための鉗子挿入口を有する。挿入部52には、先端部56からの距離を測るための目盛りが設けられている。先端部56の表面には、ライトガイド、対物レンズ、送水・送気ノズル、鉗子口が設けられている。
図2は、第1実施形態に係る内視鏡検査システムの主要機能の構成図である。図2に示すように、内視鏡検査システムは、データ送受信部12、ボリュームデータ記憶部14、入力部16、生成条件設定部18、仮想内視鏡画像生成部20、仮想内視鏡画像記憶部22、仮想内視鏡特徴画像生成部24、CCD58、内視鏡画像生成部26、内視鏡画像記憶部28、内視鏡特徴画像生成部30、類似度計算部32、画像選択部34、表示制御部36、及び表示部38を備える。なお、データ送受信部12、ボリュームデータ記憶部14、入力部16、生成条件設定部18、仮想内視鏡画像生成部20、仮想内視鏡画像記憶部22、仮想内視鏡特徴画像生成部24、内視鏡画像生成部26、内視鏡画像記憶部28、内視鏡特徴画像生成部30、類似度計算部32、画像選択部34、表示制御部36、及び表示部38は画像処理装置10に実装され、CCD58は内視鏡スコープ50に実装される。
データ送受信部12は、ネットワークを介して他のコンピュータシステムとの間でデータを送受信する。具体的には、データ送受信部12は、X線CT装置により生成されたボリュームデータ(3次元CTデータ)を受信するために用いられる。ボリュームデータは、被検体の大腸に関する大腸領域を含む。この大腸領域には、大腸の病変部(異常部位)に関する病変部領域が含まれているものとする。さらに大腸領域は、ボリュームデータは、内視鏡スコープの挿入位置、すなわち肛門に関する挿入領域を含む。また、データ送受信部12は、ボリュームデータ内の病変部領域の位置を示すデータ、及びボリュームデータ内の大腸領域の中心線の位置を示すデータを受信するために用いられる。なお。病変部領域の位置や大腸領域の中心線の位置を決定する方法は、既に実用化されており既知の技術である。そのため、これら位置の決定方法の説明は省略する。
ボリュームデータ記憶部14は、ハードディスクや半導体メモリ等からなる記憶装置を含む。ボリュームデータ記憶部14は、データ送受信部12により受信されたボリュームデータや、病変部領域の位置を示すデータ、大腸領域の中心線の位置を示すデータを記憶する。
入力部16は、術者からの各種指令や情報入力を受け付ける。具体的には、入力部16は、先端部56から挿入位置までの距離や、内視鏡スコープ50の視野角のデータを入力する。入力部16は、マウスやトラックボールなどのポインティングデバイス、モード切替スイッチ等の選択デバイス、あるいはキーボード等の入力デバイスにより構成される。
生成条件設定部18は、入力部16から距離のデータと視野角のデータとを受け取り、ボリュームデータ記憶部14からボリュームデータと大腸中心線の位置のデータとを受け取る。次に、生成条件設定部18は、仮想内視鏡画像の視点位置や視線方向の設定対象となる領域(以下、探索領域と呼ぶことにする)をボリュームデータ内に設定する。そして生成条件設定部18は、設定された探索領域内に限定して複数の視点位置及び視線方向を設定する。
仮想内視鏡画像生成部20は、生成条件設定部18により設定された複数の視点位置及び視線方向に基づいて、複数の仮想内視鏡画像のデータをボリュームデータから生成する。具体的には、仮想内視鏡画像生成部20は、設定された視点位置及び視線方向でボリュームデータをPerspective Volume Rendering処理して仮想内視鏡画像のデータを生成する。また、仮想内視鏡画像生成部20は、生成された仮想内視鏡画像に病変部に関する病変部領域が含まれるのであれば、この病変部領域の位置のデータを仮想内視鏡画像のデータに関連付ける。
仮想内視鏡画像記憶部22は、仮想内視鏡画像生成部20により生成された複数の仮想内視鏡画像のデータを記憶する。仮想内視鏡画像記憶部22は、1つの探索領域について生成された全ての仮想内視鏡画像のデータに対して、重複しないIDを割り付けて管理する。
仮想内視鏡特徴画像生成部24は、仮想内視鏡画像記憶部20から複数の仮想内視鏡画像のデータを読み出す。そして仮想内視鏡特徴画像生成部24は、読み出された複数の仮想内視鏡画像に画像の特徴を強調するための画像処理をして、後述する類似度計算のための複数の特徴画像(以下、仮想内視鏡特徴画像と呼ぶことにする)のデータを生成する。
CCD58は、内視鏡スコープ50の先端部56に多数設けられる。CCDは、物体により反射された光を受信し、受信された光に応じた電気信号を出力する。出力された電気信号は、スコープ操作部54を介して内視鏡画像生成部26に供給される。
内視鏡画像生成部26は、CCD28からの電気信号に基づいてデジタルの内視鏡画像のデータを生成する。内視鏡画像は、内視鏡スコープ50の視野角に応じた視野を有する。生成される内視鏡画像は、カラー画像である。
内視鏡画像記憶部28は、内視鏡画像生成部26により生成された内視鏡画像のデータを一時的に記憶する。
内視鏡特徴画像生成部30は、内視鏡画像記憶部28から内視鏡画像のデータを読み出し、読み出された内視鏡画像に画像の特徴を強調するための画像処理をして、類似度計算のための特徴画像(以下、内視鏡特徴画像と呼ぶことにする)のデータを生成する。
類似度計算部32は、仮想内視鏡特徴画像生成部24により生成された複数の仮想内視鏡特徴画像のデータを読み出し、内視鏡特徴画像生成部30から内視鏡特徴画像のデータを読み出す。そして類似度計算部32は、複数の仮想内視鏡特徴画像のそれぞれと内視鏡特徴画像との間の複数の類似度を計算する。
画像選択部34は、類似度計算部32により計算された複数の類似度の中から最大類似度を特定し、特定された最大類似度に対応する仮想内視鏡画像のデータを仮想内視鏡画像記憶部22に記憶されている複数の仮想内視鏡画像のデータの中から選択する。
表示制御部36は、最大類似度に対応する仮想内視鏡画像と内視鏡画像とを並べて表示部38に表示させる。そして表示制御部36は、最大類似度に対応する仮想内視鏡画像上に病変部領域がある場合、表示部38を制御して、この病変部領域を強調して表示させる。また、この場合表示制御部36は、仮想内視鏡画像上の病変部領域に対応する内視鏡画像上の領域を特定し、表示部38を制御して、特定された領域を強調して表示させる。
表示部38は、表示制御部36による制御のもと、仮想内視鏡画像と内視鏡画像とを表示する。表示部38は、CRPディスプレイや液晶ディスプレイ、有機ELディスプレイ、プラズマディスプレイ等の表示デバイスにより実現される。
次に第1実施形態に係る内視鏡検査システムの動作を詳細に説明する。図3は、第1実施形態に係る大腸内視鏡検査の支援処理における、画像処理装置10の動作の流れの典型例を示す図である。なお、内視鏡検査の全段階においてデータ送受信部12は、ネットワークを介してボリュームデータ、画像処理により特定されたボリュームデータ内の病変部領域の位置を示すデータ、画像処理により特定されたボリュームデータ内の大腸中心線の位置を示すデータを受信し、ボリュームデータ記憶部14に記憶しておくものとする。また、内視鏡スコープ50の視野角に関するデータが入力部16を介して入力されているものとする。
内視鏡検査において術者は、まず、患者の氏名や患者ID等のデータを入力し、内視鏡検査システムに検査開始を入力する。すると表示部58は、図4のようなレイアウトで内視鏡画像I1等を表示する。表示画面は、内視鏡距離画像表示領域R1と仮想内視鏡画像表示領域R2とを有する。また、表示画面は、内視鏡スコープの挿入長さ、すなわち、探索開始時に挿入した内視鏡スコープの長さの入力欄R3を有する。画像処理装置10は、この入力欄R3に内視鏡スコープの挿入長さの入力がなされることを待機する(ステップSA1)。
術者は、表示部38に表示された内視鏡画像を観察しながら、内視鏡スコープ50の先端部56を患者の肛門から少しずつ挿入し、観察する大腸の内壁を傷つけたり破ったりしないように細心の注意を払いながら内視鏡スコープ50を操作して、ポリープ等の病変部を見つけ出す。内視鏡スコープ50の操作とは、内視鏡スコープ50を前に進めるあるいは後ろに戻す、または、先端部56を意図する方向に曲げるなどといったものである。
病変部を見つけ出すと術者は、内視鏡スコープ50の挿入部54に設けられたメモリを読み、内視鏡スコープ50の挿入長さを読み取る。そして術者は、読み取った内視鏡スコープ50の挿入長さを入力部16を介して入力する。図5は、入力後の表示画面の一例を示す図である。この例では、内視鏡スコープ50の挿入長さは、2cmである。
術者により入力部16を介して内視鏡スコープ50の挿入長さが入力されると(ステップSA1)、生成条件設定部18は、生成条件の設定処理を開始する(ステップSA2)。設定処理において生成条件設定部18は、まず探索領域を設定する。
図6は、探索領域の設定処理を説明するための図である。図6に示すように、ボリュームデータVDには、挿入位置に対応する挿入領域RSを含んだ大腸領域RDを含んでいる。また、この大腸領域RDは、病変部に対応する病変部領域RBを含んでいる。この病変部領域RBは、ポリープ等に由来し、大腸領域RDの内側に向けて隆起している。ボリュームデータVDには、この病変部領域RBの位置のデータ、すなわち座標のデータが関連付けられている。また、ボリュームデータVDには、大腸領域RDの中心線である大腸中心線LDの位置のデータが関連付けられている。
生成条件設定部18は、入力された内視鏡スコープ50の挿入長さだけ大腸中心線を挿入領域からトレースし、内視鏡スコープ50の挿入長さに対応する大腸中心線LD上の位置PTを算出する。例えば、内視鏡スコープ50の挿入長さが2cmの場合、開始点から大腸中心線LDに沿って2cm進んだ所の点を算出する。算出された位置PTが探索領域RTの中心位置となる。この探索領域RT内で、仮想内視鏡画像を生成する際に必要な複数の視点位置が設定される。すなわち、探索領域RTは、視点位置を変化させる領域であるといえる。探索領域RTは、中心位置PTを中心とする半径Rの球体内部である。但し、大腸領域RDの外側(図6の斜線部)は、探索領域から除外される。半径Rの値は予め設定されているものとする。
生成条件設定部18は、この探索領域内に複数の視点位置を設定する。そして視点位置が設定されると生成条件設定部18は、設定された視点位置について視線方向を設定する。視線方向の範囲は、視点位置周りの全方位角である。視点位置及び視線方向の組み合わせは、無限に存在するが、実際には、入力部16により入力された視野角を考慮してその範囲を限定し、さらに所定間隔をおいて離散的に視点位置及び視線方向を設定する。例えば、視点位置は2〜3mmおきに、視線方向は5度おきに設定される。これは、参照する仮想内視鏡画像と内視鏡画像との間で、視点位置が2〜3mm、視線方向が5度だけ異なっていても実用上は問題ないからである。設定された複数の視点位置及び視線方向のデータ、それに入力部16により入力された視野角のデータは、仮想内視鏡画像生成部20に供給される。
なお、上記のように探索領域を設定するのは初回のみである。2回目以降は、後述する仮想内視鏡画像記憶部22から視点位置及び視線方向のデータを受け取り、受け取ったデータを用いて新たに探索領域を設定する。この際、視線方向の範囲は、全方位角にする必要はなく、予め設定されたもっと狭い範囲でよい。
視点位置及び視線方向が設定されると、仮想内視鏡画像生成部20は、仮想内視鏡画像の生成処理を開始する(ステップSA3)。仮想内視鏡画像の生成処理において仮想内視鏡画像生成部20は、まず、ボリュームデータ記憶部14からボリュームデータを読み出し、生成条件設定部18から複数の視点位置及び視線方向のデータ、そして視野角のデータを受け取る。そして、仮想内視鏡画像生成部20は、受け取った複数の視点位置及び視線方向でボリュームデータをPerspective Volume Rendering処理し、複数の仮想内視鏡画像のデータを生成する。この際、生成された仮想内視鏡画像の視野角は、生成条件設定部18から受け取った視野角、すなわち内視鏡スコープ50(内視鏡画像)の視野角と同一である。投影の際の色付けのためのカラーテーブルは、モノクロ画像が生成されるように定義されている。空気に相当するCT値については不透明度(オパシティ)をゼロに設定する。生成された仮想内視鏡画像のデータは、視点位置及び視線方向のデータに関連付けて仮想内視鏡画像記憶部22に記憶される。また、仮想内視鏡画像に病変部領域の少なくとも一部が含まれている場合、この仮想内視鏡画像上の病変部領域の位置のデータも関連付けて仮想内視鏡画像記憶部22に記憶される。
複数の仮想内視鏡画像のデータが生成されると仮想内視鏡特徴画像生成部24は、仮想内視鏡特徴画像の生成処理を開始する(ステップSA4)。仮想内視鏡特徴画像の生成処理におい仮想内視鏡特徴画像生成部24は、まず、仮想内視鏡画像記憶部22から複数の仮想内視鏡画像のデータとそのIDとを受け取る。そして仮想内視鏡特徴画像生成部24は、複数の仮想内視鏡画像に画像処理をして、複数の仮想内視鏡特徴画像のデータを生成する。具体的には、仮想内視鏡特徴画像生成部24は、仮想内視鏡画像に微分フィルタ処理を施すことによりエッジ強調画像、すなわち仮想内視鏡特徴画像のデータを生成する。なお、仮想内視鏡特徴画像は、エッジ強調画像のみに限定されるものではない。画像の特徴を強調する他の画像処理を施して生成された他の特徴画像であってもよい。生成された仮想内視鏡特徴画像のデータとそのIDとは、類似度計算部32に供給される。
一方、内視鏡スコープ50の作動中、内視鏡画像生成部26は、内視鏡スコープ50の先端部56に設けられたCCDからの電気信号に基づいて内視鏡画像のデータを生成する(ステップSA5)。病変部が見つかった時点において生成された内視鏡画像には、病変部が描出されている。生成された内視鏡画像のデータは、一時的に内視鏡画像記憶部28に記憶される。
内視鏡画像のデータが生成されると内視鏡特徴画像生成部30は、内視鏡特徴画像の生成処理を開始する(ステップSA6)。内視鏡特徴画像の生成処理において内視鏡特徴画像生成部30は、まず、内視鏡画像記憶部28から内視鏡画像のデータを読み出す。そして内視鏡特徴画像生成部30は、読み出された内視鏡画像に画像処理をして内視鏡特徴画像のデータを生成する。具体的には、内視鏡特徴画像生成部30は、カラーの内視鏡画像をモノクロの内視鏡画像に変換し、モノクロの内視鏡画像に微分フィルタ処理を施すことによりエッジ強調画像、すなわち内視鏡特徴画像のデータを生成する。内視鏡特徴画像の生成方法は、仮想内視鏡特徴画像の生成方法と同様であるため、内視鏡特徴画像生成部30を設けず、仮想内視鏡特徴画像生成部24が内視鏡特徴画像生成部30の機能を兼ねることも可能である。生成された内視鏡特徴画像のデータは、類似度計算部32に供給される。
仮想内視鏡特徴画像生成部24により仮想内視鏡特徴画像のデータが生成され、内視鏡特徴画像生成部30により内視鏡特徴画像のデータが生成されると、類似度計算部32は、類似度の計算処理を行う(ステップSA7)。類似度の計算処理において類似度計算部32は、まず、仮想内視鏡特徴画像生成部24から複数の仮想内視鏡特徴画像のデータとそれらのIDとを受け取り、内視鏡特徴画像生成部30から内視鏡特徴画像のデータを受け取る。そして類似度計算部32は、各仮想内視鏡特徴画像と内視鏡特徴画像との類似度を計算する。類似度としては、例えば、2つの画像の相関係数が採用される。相関係数を計算する際、類似度計算部32は、仮想内視鏡特徴画像上の病変部領域と同座標にある内視鏡画像上の画素領域の位置を、病変部領域の位置として特定する。そして類似度計算部32は、特定された病変部領域の位置のデータを内視鏡画像のデータに関連付けられて内視鏡画像記憶部28に記憶される。
他の類似度としては、例えば、対応するピクセルの差の自乗和であってもよい。全ての仮想内視鏡特徴画像について類似度が計算されると類似度の計算処理は終了する。類似度のデータとIDのデータとは、関連付けられて仮想内視鏡画像記憶部22に記憶される。また、類似度のデータは、画像選択部34に供給される。
なお、類似度計算部32は、回転量を考慮して類似度の計算時間を短縮してもよい。図7は、視点位置と向きとが同一であるが、回転量が異なる2つの仮想内視鏡画像を模式的に示す図である。このように、視点位置と向きとが同一であっても回転量が異なれば、計算される類似度も異なる。多数の回転量に対応する仮想内視鏡画像を生成することなく、内視鏡画像との類似度を計算できる方法が特開2003−265408に開示されている。類似計算部32は、この技術を適用して、1つの視線方向で最適な回転量を選んで類似度を計算する。これにより、類似度計算のための仮想内視鏡画像の作成枚数と類似度計算量とを減少させることができる。
類似度計算部32により複数の類似度が計算されると画像選択部34は、画像選択処理を開始する(ステップSA8)。画像選択処理において画像選択部34は、まず、類似度計算部32から複数の類似度のデータを受け取る。そして画像選択部34は、受け取った複数の類似度の中から最大の類似度を特定する。そして特定された最大の類似度を検索キーワードとして仮想内視鏡画像記憶部22を検索し、複数の仮想内視鏡画像の中から最大類似度に関連付けられたIDを有する仮想内視鏡画像のデータを選択する。選択された仮想内視鏡画像のデータは、表示制御部36に供給される。なお、ステップSA7において、類似度としてピクセルの差の自乗和が計算された場合、最小の自乗和に対応する仮想内視鏡画像のデータが選択される。
画像選択部32により仮想内視鏡画像のデータが選択されると表示制御部36は、表示処理を開始する(ステップSA9)。表示処理において表示制御部36は、まず、画像選択部32から仮想内視鏡画像のデータを受け取り、内視鏡画像記憶部28から内視鏡画像のデータを読み出す。そして表示制御部36は、これら仮想内視鏡画像と内視鏡画像とを並べて表示部38に表示する。この際、仮想内視鏡画像に病変部領域の位置のデータが関連付けられている場合、表示制御部36は、図8に示すように、この病変部領域を指し示す矢印等のマークA2を仮想内視鏡画像I2に重ねて表示することにより病変部領域を強調表示する。また、表示制御部36は、内視鏡画像I1に病変部領域の位置のデータが関連付けられている場合、内視鏡画像I1上の病変部領域を指し示す矢印A1等のマークを重ねて表示する。なお、病変部領域の強調表示の方法はこれに限定されない。例えば、病変部領域の輪郭を色や輝度で強調して表示したり、点滅させたりしてもよい。このように内視鏡検査中に、仮想内視鏡画像と内視鏡画像とのそれぞれで病変部領域の位置が強調されることにより、術者による病変部の見落としが減少する。なお表示制御部36は、仮想内視鏡画像をモノクロ画像のまま表示してもよいし、任意のカラーテーブルを用いてモノクロ画像からカラー画像に変換して表示してもよい。
以上で大腸内視鏡検査の支援処理が終了する。なお、この支援処理は、内視鏡画像が生成されるたびに繰り返し行われる。従って術者が内視鏡スコープを操作するにつれて、表示される仮想内視鏡画像が更新される。但し、上述したように2回目以降は1回目に比して探索領域が縮小されるので、処理時間が短縮される。
上記構成により第1実施形態に係る内視鏡検査支援システムは、入力部16を介して入力された内視鏡スコープ50の挿入距離に基づいて視点位置の設定範囲である探索領域を決定している。これにより、大腸領域全体を設定範囲としていた従来に比して視点位置及び視線方向の設定範囲を大幅に制限するこができる。この結果、記録領域の小容量化や、計算時間の削減を図ることができる。また、内視鏡スコープ50の位置を位置センサにより特定していた従来に比して、位置センサのためのコストの増加を防ぐことができる。また、特徴画像同士で類似度を計算することにより、内視鏡画像に解剖学的に最も一致する仮想内視鏡画像を適切に選択し表示することができる。そして、予め特定されている病変部領域を内視鏡領域上の適切な位置で強調して表示している。これにより記憶領域の少量化や計算時間の削減、安価な製造コストを実現しながら、内視鏡検査における高い検査効率を実現している。また、仮想内視鏡画像と内視鏡画像とのそれぞれから特徴画像を生成し、生成された特徴画像同士で仮想内視鏡画像と内視鏡画像との類似度を計算している。従って、仮想内視鏡画像と内視鏡画像との一致精度は、仮想内視鏡画像と内視鏡画像とを直接的に類似度に用いる場合に比して向上する。従って、内視鏡画像上の病変部領域の強調表示に関する位置精度が実用上満足のいくレベルとなる。かくして第1実施形態によれば、内視鏡検査の検査効率を低コストで向上可能な内視鏡検査支援システムを提供することが可能となる。
(第2実施形態)
図9は第2実施形態に係る内視鏡検査システムの主要機能の構成図である。図9に示すように、内視鏡検査システムは、データ送受信部12、ボリュームデータ記憶部14、入力部16、生成条件設定部18、仮想内視鏡距離画像生成部70、仮想内視鏡距離画像記憶部72、超音波振動子60、超音波送受信部74、内視鏡距離画像生成部76、類似度計算部78、仮想内視鏡画像生成部80、CCD58、内視鏡画像生成部26、内視鏡画像記憶部28、表示制御部36、及び表示部38を備える。なお、第1実施形態と同様の機能を有する構成要素には同一符号を付し、重複説明は必要な場合のみ行う。
仮想内視鏡距離画像生成部70は、生成条件設定部18により設定された複数の視点位置及び視線方向に基づいてボリュームデータから複数の距離画像(以下、仮想内視鏡距離画像と呼ぶことにする)のデータを生成する。なお、仮想内視鏡距離画像は、視点から大腸領域の内壁までの直線距離をピクセル値とする2次元画像である。
仮想内視鏡距離画像記憶部72は、仮想内視鏡距離画像生成部70により生成され複数の仮想内視鏡距離画像のデータと複数の視点位置及び視線方向のデータとをそれぞれ関連付けて記憶する。仮想内視鏡距離画像記憶部72は、1つの探索領域について生成された全ての仮想内視鏡距離画像のデータには重複しないIDを割り付けて管理する。また、仮想内視鏡距離画像に病変部領域の位置のデータが関連付けられている場合、その位置のデータを仮想内視鏡距離画像に関連付けて記憶する。
超音波振動子60は、図10に示すように、内視鏡スコープの先端部56の前面62に複数配置される。超音波振動子60は、例えば、超音波送受信部74による制御のもと、内視鏡画像の視野内の各方向に超音波を送信する。送信された超音波は、管腔物の内壁に当たって反射する。超音波振動子60は、この反射された超音波を受信し、電気信号に変換する。この電気信号は、超音波送受信部74に供給される。
超音波送受信部74は、超音波振動子60から供給された電気信号から、視野内の各方向における超音波振動子60から管腔物内壁までの距離を計算し、距離データを生成する。この距離データの生成処理は、超音波振動子60毎に行なわれる。
内視鏡画像生成部76は、超音波送受信部74により生成された超音波振動子60毎の距離データに基づいて2次元の距離画像(以下、内視鏡距離画像と呼ぶことにする)のデータを生成する。
類似度計算部78は、仮想内視鏡距離画像記憶部72から複数の仮想内視鏡距離画像のデータとそのIDとを読み出し、内視鏡距離画像生成部76から内視鏡距離画像のデータを受け取る。そして類似度計算部78は、第1実施形態と同様の方法で複数の仮想内視鏡距離画像のそれぞれと内視鏡距離画像との複数の類似度を計算する。
仮想内視鏡画像生成部80は、類似度計算部78により計算された複数の類似度のうちの最大類似度を特定し、特定された最大類似度を有する仮想内視鏡距離画像の視点位置及び視線方向に基づいてボリュームデータをPerspective Volume Rendering処理して仮想内視鏡画像のデータを生成する。
次に第2実施形態に係る内視鏡検査システムの動作を詳細に説明する。図11は、第2実施形態に係る大腸内視鏡検査の支援処理における画像処理装置10の動作の流れの典型例を示す図である。なお、第1実施形態と同様のステップについては、重複説明を省略する。なお、図11には内視鏡画像のデータの生成処理に関するステップ(図3のステップS5及びSA6に相当)が記載されていないが、第2実施形態の支援処理においてバックグラウンド処理的に生成されているものとする。
画像処理装置10は、表示部38に表示されている内視鏡スコープの挿入長さの入力欄に内視鏡スコープの挿入長さの入力がなされることを待機する(ステップSB1)。
術者により入力部16を介して内視鏡スコープ50の挿入長さが入力されると(ステップSB1)、生成条件設定部18は、生成条件の設定処理を開始する(ステップSB2)。設定処理においては、第1実施形態と同様に探索領域内に限定して複数の視点位置及び視線方向が設定される。設定された複数の視点位置及び視線方向のデータ、それに入力部16により入力された視野角のデータは、仮想内視鏡距離画像生成部70に供給される。
視点位置及び視線方向が設定されると、仮想内視鏡距離画像生成部70は、仮想内視鏡画像の生成処理を開始する(ステップSB3)。仮想内視鏡画像の生成処理において仮想内視鏡距離画像生成部70は、まず、ボリュームデータ記憶部14からボリュームデータを読み出し、生成条件設定部18から複数の視点位置及び視線方向のデータ、そして視野角のデータを受け取る。そして、仮想内視鏡距離画像生成部70は、受け取った複数の視点位置及び視線方向でボリュームデータをPerspective Volume Rendering処理し、複数の仮想内視鏡距離画像のデータを生成する。
図12は、仮想内視鏡距離画像の生成処理を説明するための図である。Perspective Volume Rendering処理を行なう際、視点位置PSは、大腸領域RD内に設定される。また、空気のCT値に対応する不透明度はゼロ(完全透明)に設定され、大腸領域のCT値に対応する不透明度は1(完全不透明)に設定される。投影面(仮想内視鏡画像の断面)PPは、大腸領域RDを挟んで視点位置PSの反対側に設定される。Perspective Volume Rendering処理の際、視点位置PSから投影面PPの各ピクセルに向けて仮想光線RA(レイ)を視野角内に限定して飛ばす。仮想光線RAは、ゼロの不透明度が割り付けられたボクセルを次々に透過し、やがて1の不透明度が割り付けられたボクセルに当たり透過しなくなる。この視点位置PSから仮想光線が透過しなかったボクセルまでの距離を計算し、計算された距離のデータを当該仮想光線に対応するピクセルに割り当てる。全てのピクセルについて距離のデータが割り付けられると仮想内視鏡距離画像のデータが完成される。なお、投影の際の色付けのためのカラーテーブルは、モノクロ画像が生成されるように定義されている。生成された仮想内視鏡距離画像のデータは、視点位置及び視線方向のデータに関連付けて仮想内視鏡距離画像記憶部72に記憶される。また、仮想内視鏡画像に病変部領域の少なくとも一部が含まれている場合、この仮想内視鏡距離画像上の病変部領域の位置のデータも関連付けて仮想内視鏡距離画像記憶部72に記憶される。
なお仮想内視鏡距離画像のピクセルの大きさは、後述の内視鏡距離画像のピクセルの大きさと同一になるように変換される。具体的には、仮想内視鏡距離画像のマトリクスサイズを内視鏡距離画像のマトリクスサイズに合致させる。例えば、仮想内視鏡距離画像のマトリクスサイズが512×512であるとし、内視鏡距離画像のマトリクスサイズが128×128であるとする。この場合、仮想内視鏡距離画像のマトリクスサイズを4分の1に減少させ、128×128にする。この際、変換前の仮想内視鏡距離画像の正方形状の4つのピクセルのピクセル値の平均値を変換後の1つのピクセルのピクセル値に割り付けるとよい。
一方、内視鏡スコープ50の作動中、超音波送受信部74は、内視鏡スコープ50の先端部56に設けられた超音波振動子60からの電気信号に基づいて距離データを生成する(ステップSB4)。
そして超音波送受信部74により距離データが生成されると、内視鏡距離画像生成部76は、生成された距離データに基づいて内視鏡距離画像のデータを生成する(ステップSB5)。
図13は、内視鏡距離画像の生成処理を説明するための図である。図13に示すように、内視鏡スコープ50の先端部56には、超音波を送受信する超音波振動子60が複数設けられている。超音波送受信部74は、超音波送受信部74からの電気信号に基づいて、超音波の発生位置PU(超音波振動子60)から送信され、大腸内壁や病変部等の超音波発射物体OPにより反射された超音波が発生位置PUで受信されるまでの時間を計算する。また、大腸内に存在する空気中における超音波の伝播速度は、予め超音波送受信部74に設定されている。従って超音波送受信部74は、計算された時間と超音波の伝播速度とに基づいて、発生位置PUと超音波反射物体OPとの間の距離を計算することができる。計算された距離のデータは、超音波振動子60ごとに計算され、内視鏡距離画像生成部76に供給される。そして内視鏡距離画像生成部76は、超音波送受信部74から供給された各超音波振動子60の距離データに基づいて内視鏡距離画像のデータを生成する。上述のように、生成された内視鏡距離画像のマトリクスサイズは、仮想内視鏡距離画像のマトリクスサイズと同一となる。生成された内視鏡距離画像のデータは、類似度計算部78に供給される。
内視鏡距離画像生成部76により内視鏡距離画像のデータが生成されると、類似度計算部78は、類似度の計算処理を開始する(ステップSB6)。類似度の計算処理において類似度計算部78は、まず、仮想内視鏡距離画像記憶部72から複数の仮想内視鏡距離画像のデータとそれらのIDとを読み出し、内視鏡距離画像生成部76から内視鏡距離画像のデータを受け取る。そして類似度計算部78は、読み出された各仮想内視鏡距離画像と内視鏡距離画像との類似度を計算する。類似度計算部76は、仮想内視鏡距離画像上の病変部領域と同座標にある内視鏡距離画像上の画素領域の位置を、病変部領域の位置として特定する。内視鏡距離画像と内視鏡画像とは、互いに座標変換されていないので、これら2つの画像上の同一座標点同士の解剖学的位置関係は同一である。従って、類似度計算部78は、特定された病変部領域の位置のデータを内視鏡画像のデータに関連付けられて内視鏡画像記憶部28に記憶される。また、類似度のデータとIDのデータとは、関連付けられて仮想内視鏡距離画像記憶部72に記憶される。また、類似度のデータは、仮想内視鏡画像精製部80に供給される。
類似度計算部78により複数の類似度が計算されると仮想内視鏡画像生成部80は、仮想内視鏡画像の生成処理を開始する(ステップSB7)。仮想内視鏡画像の生成処理において仮想内視鏡画像生成部80は、まず、類似度計算部32から複数の類似度のデータを受け取る。そして仮想内視鏡画像生成部80は、受け取った複数の類似度の中から最大の類似度を特定する。そして特定された最大の類似度を検索キーワードとして仮想内視鏡距離画像記憶部72を検索し、複数の仮想内視鏡距離画像の中から最大類似度に関連付けられたIDを有する仮想内視鏡画像のデータを特定する。そして特定された仮想内視鏡距離画像に関連付けられた視点位置及び視線方向のデータを読み出す。次に仮想内視鏡画像生成部80は、ボリュームデータ記憶部14からボリュームデータを読み出す。そして仮想内視鏡画像生成部80は、読み出された視点位置及び視線方向に基づいてボリュームデータをPerspective Volume Rendering処理し、読み出された視点位置及び視線方向に関する仮想内視鏡画像のデータを生成する。生成される仮想内視鏡画像は、カラー画像であっても、モノクロ画像であってもよい。生成された仮想内視鏡画像のデータは、表示制御部36に供給される。
なお、類似度の計算処理においては、距離が長いピクセルは、距離が短い類似度に比して、類似度計算の重みを小さくするとよい。これは、ボリュームデータ内の大腸領域の内壁の形状が内視鏡検査時とは必ずしも一致しないが、距離が短い範囲、例えば、内視鏡スコープ50の先端部56付近では形状が大きくは変わらないという臨床上の経験則に基づいている。
仮想内視鏡画像生成部80により仮想内視鏡画像のデータが生成されると表示制御部36は、表示処理を開始する(ステップSB8)。表示処理において表示制御部36は、まず、仮想内視鏡画像生成部80から仮想内視鏡画像のデータを受け取り、内視鏡画像記憶部28から内視鏡画像のデータを読み出す。そして表示制御部36は、これら仮想内視鏡画像と内視鏡画像とを並べて表示部38に表示する。この際、仮想内視鏡画像に病変部領域の位置のデータが関連付けられている場合、表示制御部36は、図8に示すように、この病変部領域を指し示す矢印等のマークA2を仮想内視鏡画像I2に重ねて表示することにより、病変部領域を強調表示する。また、表示制御部36は、内視鏡画像I1に病変部領域の位置のデータが関連付けられている場合、内視鏡画像I1上の病変部領域を指し示す矢印A1等のマークを重ねて表示する。
以上で大腸内視鏡検査の支援処理が終了する。なお、この支援処理は、内視鏡画像が生成されるたびに繰り返し行われる。従って術者が内視鏡スコープを操作するにつれて、表示される仮想内視鏡画像が更新される。但し、上述したように2回目以降は1回目に比して探索領域が縮小されるので、処理時間が短縮される。
なお、上記の支援処理においては、仮想内視鏡距離画像と内視鏡距離画像とを用いて類似度を計算するとした。しかしながら第2実施形態は、これに限定する必要はない。例えば、仮想内視鏡距離画像に基づく仮想内視鏡特徴画像と内視鏡距離画像に基づく内視鏡特徴画像とで類似度を計算してもよい。
上記構成により第2実施形態に係る内視鏡検査支援システムは、仮想内視鏡画像と内視鏡画像との類似度を計算するために、各画像の距離画像を生成している。内視鏡距離画像を生成するために内視鏡検査支援システムは、内視鏡スコープ50の先端部56に超音波振動子60を設けている。そして第2実施形態に係る画像表示装置10は、この超音波振動子60からの出力に基づいて内視鏡距離画像のデータを生成している。位置センサを設けることなく、内視鏡画像に解剖学的に最も一致する仮想内視鏡画像を表示させることができる。また、第1実施形態のように内視鏡画像(内視鏡特徴画像)を利用した類似度計算の計算精度が良好でない場合においても、内視鏡画像の代替手段を提供することができる。かくして第2実施形態によれば、内視鏡検査の検査効率を低コストで向上可能な内視鏡検査支援システムを提供することが可能となる。
(第3実施形態)
図14は第3実施形態に係る内視鏡検査システムの主要機能の構成図である。図14に示すように、第3実施形態に係る内視鏡検査システムは、データ送受信部12、ボリュームデータ記憶部14、入力部16、超音波振動子64、超音波送受信部90、生成条件設定部92、仮想内視鏡画像生成部20、仮想内視鏡画像記憶部22、CCD58、内視鏡画像生成部26、内視鏡画像記憶部28、類似度計算部94、画像選択部34、表示制御部36、及び表示部38を備える。なお、第1及び第2実施形態と同様の機能を有する構成要素には同一符号を付し、重複説明は必要な場合のみ行う。
超音波振動子64は、図15に示すように、内視鏡スコープの先端部56の側面に複数配置される。超音波振動子64は、例えば、超音波送受信部90による制御のもと、内視鏡スコープの先端部56の軸を中心として放射状に超音波を送信する。送信された超音波は、管腔物の内壁に当たって反射する。超音波振動子60は、この反射された超音波を受信し、電気信号に変換する。この電気信号は、超音波送受信部90に供給される。
超音波送受信部90は、超音波振動子64から供給された電気信号から、各超音波振動子64から管腔物内壁までの距離を計算し、距離データを生成する。この距離データの生成処理は、超音波振動子64毎に行なわれる。
生成条件設定部92は、超音波送受信部90により生成された距離データに基づいて探索領域を縮小する。そして生成条件設定部92は、縮小された探索領域内に限定して、第1実施形態と同様に複数の視点位置及び視線方向を設定する。
類似度計算部94は、仮想内視鏡画像記憶部22から複数の仮想内視鏡画像のデータとそのIDとを読み出し、内視鏡画像記憶部28から内視鏡画像のデータを受け取る。そして類似度計算部78は、第1実施形態と同様の方法で複数の仮想内視鏡画像のそれぞれと内視鏡画像との複数の類似度を計算する。
次に第3実施形態に係る内視鏡検査システムの動作を詳細に説明する。図15は、第3実施形態に係る大腸内視鏡検査の支援処理における、画像処理装置10の動作の流れの典型例を示す図である。なお、第1又は第2実施形態と同様のステップについては、重複説明を省略する。
画像処理装置10は、表示部に表示されている内視鏡スコープの挿入長さの入力欄に内視鏡スコープの挿入長さの入力がなされることを待機する(ステップSC1)。
術者により入力部16を介して内視鏡スコープ50の挿入長さが入力されると(ステップSC1)、超音波送受信部90は、各超音波振動子64に超音波を送受信させる。そして超音波送受信部90は、各超音波振動子64からの電気信号に基づいて。各超音波振動子64から大腸内壁までの距離データを生成する(ステップSC2)。生成された距離データは、生成条件設定部92に供給される。
超音波送受信部90により距離データが生成されると、生成条件設定部92は、生成条件の設定処理を開始する(ステップSC3)。生成条件の設定処理において生成条件設定部92は、まず、第3実施形態に特有な探索領域を設定する。
まず生成条件設定部92は、第1実施形態と同様に、入力された内視鏡スコープ50の挿入長さに基づいて探索領域RTの中心位置を算出する。そして生成条件設定部92は、算出された中心位置を中心とする半径Rの球状領域(但し、大腸領域RDの外側は除く)を探索領域に設定する。次に、生成条件設定部92は、超音波送受信部90から距離データを受け取り、受け取った距離データを利用して、探索領域を縮小させる。
図17は、大腸領域RDの断面図であり、ステップSC3における探索領域の設定処理を説明するための図である。上述のように超音波振動子64は、内視鏡スコープ50の先端部56の側面を囲むように配置されている。従って生成条件設定部92は、各超音波振動子64からの距離データを解析することにより、内視鏡スコープ50の先端部56が大腸中心線LDからどれだけの距離だけ離れているのかを算出できる。従って、先端部56が大腸中心線LDから距離Lだけ離れていると算出されたとすると、生成条件設定部92は、算出された距離Lに所定のマージンを加えたドーナッツ状の領域(図17の斜線部)を探索領域RT´に設定する。マージンは、予め定められていてもよいし、術者により入力部16を介して任意に設定されてもよい。
探索領域が生成されると生成条件設定部90は、第1実施形態と同様に、この探索領域内に複数の視点位置及び視線方向を設定する。設定された複数の視点位置及び視線方向のデータ、それに入力部16により入力された視野角のデータは、仮想内視鏡画像生成部20に供給される。
なお、上記のように探索領域を設定するのは初回のみである。2回目以降は、後述する仮想内視鏡画像記憶部22から視点位置及び視線方向のデータを受け取り、受け取ったデータに修正を加えることにより新たな視点位置を設定する。すなわち、内視鏡スコープ50の先端部56の位置が存在しうる位置のうちで、受け取った視点位置に最も近い位置を新しい視点位置とする。
複数の視点位置及び視線方向が設定されると、仮想内視鏡画像生成部20は、仮想内視鏡画像の生成処理を開始する(ステップSC4)。仮想内視鏡画像の生成処理において仮想内視鏡画像生成部20は、第1実施形態と同様の方法により、複数の視点位置及び視線方向でボリュームデータをPerspective Volume Rendering処理し、複数の仮想内視鏡画像のデータを生成する。生成された仮想内視鏡画像のデータは、視点位置及び視線方向のデータに関連付けて仮想内視鏡画像記憶部22に記憶される。また、仮想内視鏡画像に病変部領域の少なくとも一部が含まれている場合、この仮想内視鏡画像上の病変部領域の位置のデータも関連付けて仮想内視鏡画像記憶部22に記憶される。
一方、内視鏡スコープ50の作動中、内視鏡画像生成部26は、内視鏡スコープ50の先端部56に設けられたCCDからの電気信号に基づいて内視鏡画像のデータを生成する(ステップSC5)。生成された内視鏡画像のデータは、一時的に内視鏡画像記憶部28に記憶される。
仮想内視鏡画像生成部20により仮想内視鏡画像のデータが生成され、内視鏡画像生成部26により内視鏡画像のデータが生成されると、類似度計算部94は、類似度の計算処理を行う(ステップSC6)。類似度の計算処理において類似度計算部94は、まず、仮想内視鏡画像記憶部22から複数の仮想内視鏡特徴画像のデータとそれらのIDとを読み出し、内視鏡画像記憶部28から内視鏡画像のデータを読み出す。そして類似度計算部94は、各仮想内視鏡画像と内視鏡画像との類似度を計算する。類似度としては、例えば、2つの画像の相関係数が採用される。相関係数を計算する際、類似度計算部94は、仮想内視鏡画像上の病変部領域と同座標にある内視鏡画像上の画素領域の位置を、病変部領域の位置として特定する。そして類似度計算部94は、特定された病変部領域の位置のデータを内視鏡画像のデータに関連付けて内視鏡画像記憶部28に記憶される。
類似度計算部94により複数の類似度が計算されると画像選択部34は、画像選択処理を開始する(ステップSC7)。画像選択処理において画像選択部34は、第1実施形態と同様の方法により、複数の類似度の中の最大の類似度に対応する仮想内視鏡画像のデータを選択する。選択された仮想内視鏡画像のデータは、表示制御部36に供給される。
画像選択部32により仮想内視鏡画像のデータが選択されると表示制御部36は、表示処理を開始する(ステップSC8)。表示処理において表示制御部36は、第1実施形態と同様の方法により仮想内視鏡画像と内視鏡画像とを並べて表示部38に表示する。
以上で大腸内視鏡検査の支援処理が終了する。なお、この支援処理は、内視鏡画像が生成されるたびに繰り返し行われる。従って術者が内視鏡スコープを操作するにつれて、表示される仮想内視鏡画像が更新される。但し、上述したように2回目以降は1回目に比して探索領域が縮小されるので、処理時間が短縮される。
上記構成により第3実施形態に係る内視鏡検査支援システムは、超音波振動子64からの出力に基づいて内視鏡スコープ50の先端部56の位置をさらに絞り込むことにより、探索領域を縮小させる。これにより仮想内視鏡画像の生成枚数を減少することができ、計算速度の向上や記憶領域の削減を図ることができる。
なお、本発明は上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。
例えば、3つの実施形態を説明したが、これら実施形態は一部又は全部を組み合わせて新たなシステムを構成することができる。以下に全部を組み合わせた例を簡単に説明する。第3実施形態に係る超音波振動子64と超音波送受信部90とを加えることにより、探索領域を狭め且つ視点位置が修正される。第2実施形態に係る超音波振動子60と超音波送受信部74とを加えて内視鏡距離画像のデータを生成し、ボリュームデータから仮想内視鏡距離画像のデータを生成し、これら2つの距離画像のデータから2つの特徴画像のデータを生成し類似度が比較される。
また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。