以下、本発明の実施形態について、図面を参照しつつ説明を行う。
(第1の実施形態)
図1から図7は、本発明の第1の実施形態に係るものである。
内視鏡システム1は、図1に示すように、被検体内に挿入されるとともに、当該被検体内における生体組織等の被写体を撮像して得られた画像を出力するように構成された内視鏡装置2と、当該被写体に照射される光を内視鏡装置2に供給するように構成された光源装置3と、内視鏡装置2から出力される画像に対して所定の画像処理を施すことにより表示用画像を生成して出力するように構成されたプロセッサ4と、プロセッサ4から出力される表示用画像等を画面上に表示するように構成された表示装置5と、を有している。図1は、実施形態に係る内視鏡システムの要部の構成を示す図である。
内視鏡装置2は、細長の挿入部6を備えた光学視管21と、光学視管21の接眼部7に対して着脱可能なカメラユニット22と、を有して構成されている。
光学視管21は、被検体内に挿入可能な細長の挿入部6と、挿入部6の基端部に設けられた把持部8と、把持部8の基端部に設けられた接眼部7と、を有して構成されている。
挿入部6の内部には、図2に示すように、ケーブル13aを介して供給される光を伝送するためのライトガイド11が挿通されている。図2は、第1の実施形態に係る内視鏡システムの具体的な構成の一例を説明するための図である。
ライトガイド11の出射端部は、図2に示すように、挿入部6の先端部における照明レンズ15の近傍に配置されている。また、ライトガイド11の入射端部は、把持部8に設けられたライトガイド口金12に配置されている。
ケーブル13aの内部には、図2に示すように、光源装置3から供給される光を伝送するためのライトガイド13が挿通されている。また、ケーブル13aの一方の端部には、ライトガイド口金12に対して着脱可能な接続部材(不図示)が設けられている。また、ケーブル13aの他方の端部には、光源装置3に対して着脱可能なライトガイドコネクタ14が設けられている。
挿入部6の先端部には、ライトガイド11により伝送された光を外部へ出射するための照明レンズ15と、外部から入射される光に応じた光学像を得るための対物レンズ17と、が設けられている。また、挿入部6の先端面には、照明レンズ15が配置された照明窓(不図示)と、対物レンズ17が配置された観察窓(不図示)と、が相互に隣接して設けられている。
挿入部6の内部には、図2に示すように、対物レンズ17により得られた光学像を接眼部7へ伝送するための複数のレンズLEを具備するリレーレンズ18が設けられている。すなわち、リレーレンズ18は、対物レンズ17から入射した光を伝送する伝送光学系としての機能を具備して構成されている。
接眼部7の内部には、図2に示すように、リレーレンズ18により伝送された光学像を肉眼で観察可能とするための接眼レンズ19が設けられている。
カメラユニット22は、撮像素子25と、信号処理回路26と、を有して構成されている。また、カメラユニット22は、信号ケーブル28の端部に設けられたコネクタ29を介してプロセッサ4に着脱可能に構成されている。
撮像素子25は、例えば、可視域に感度を有するカラーCCDまたはカラーCMOSのようなイメージセンサを具備して構成されている。また、撮像素子25は、プロセッサ4から出力される撮像素子駆動信号に応じた撮像動作を行うように構成されている。また、撮像素子25は、接眼レンズ19を経て出射される光を撮像し、当該撮像した光に応じた画像を生成して信号処理回路26へ出力するように構成されている。
信号処理回路26は、撮像素子25から出力される画像に対し、例えば、相関二重サンプリング処理、ゲイン調整処理、及び、A/D変換処理等のような所定の信号処理を施すように構成されている。また、信号処理回路26は、前述の所定の信号処理を施した画像を、信号ケーブル28が接続されたプロセッサ4へ出力するように構成されている。
光源装置3は、発光部31と、合波器32と、集光レンズ33と、光源制御部34と、を有して構成されている。
発光部31は、青色LED311と、緑色LED312と、赤色LED313と、琥珀色LED314と、を有して構成されている。
青色LED311は、青色域に強度を有する(狭帯域な)光であるB光を発するように構成されている。具体的には、青色LED311は、例えば、中心波長が460nm付近に設定され、かつ、帯域幅が20nm程度に設定されたB光を発するように構成されている。また、青色LED311は、光源制御部34の制御に応じて点灯状態または消灯状態に切り替わるように構成されている。また、青色LED311は、点灯状態において、光源制御部34の制御に応じた強度のB光を発生するように構成されている。なお、B光の中心波長は、青色域に設定される限りにおいては、460nmとは異なる波長に設定されていてもよい。また、B光の帯域幅は、中心波長に応じた所定の帯域幅に設定されていればよい。
緑色LED312は、緑色域に強度を有する(狭帯域な)光であるG光を発するように構成されている。具体的には、緑色LED312は、例えば、中心波長が540nm付近に設定され、かつ、帯域幅が20nm程度に設定されたG光を発するように構成されている。また、緑色LED312は、光源制御部34の制御に応じて点灯状態または消灯状態に切り替わるように構成されている。また、緑色LED312は、点灯状態において、光源制御部34の制御に応じた強度のG光を発生するように構成されている。なお、G光の中心波長は、緑色域に設定される限りにおいては、540nmとは異なる波長に設定されていてもよい。また、G光の帯域幅は、中心波長に応じた所定の帯域幅に設定されていればよい。
赤色LED313は、赤色域に強度を有する(狭帯域な)光であるR光を発するように構成されている。具体的には、赤色LED313は、例えば、中心波長が630nm付近に設定され、かつ、帯域幅が20nm程度に設定されたR光を発するように構成されている。また、赤色LED313は、光源制御部34の制御に応じて点灯状態または消灯状態に切り替わるように構成されている。また、赤色LED313は、点灯状態において、光源制御部34の制御に応じた強度のR光を発生するように構成されている。なお、R光の中心波長は、赤色域に設定される限りにおいては、例えば、630nmとは異なる波長に設定されていてもよい。また、R光の帯域幅は、中心波長に応じた所定の帯域幅に設定されていればよい。
琥珀色LED314は、例えば、中心波長が600nm付近に設定された(狭帯域な)琥珀色光であるA光を発するように構成されている。すなわち、琥珀色LED314は、生体組織の深部及び当該生体組織の深部に存在する太径の血管である深部血管に到達可能な光(特殊光)であるA光を発するように構成されている。また、琥珀色LED314は、光源制御部34の制御に応じて点灯状態または消灯状態に切り替わるように構成されている。また、琥珀色LED314は、点灯状態において、光源制御部34の制御に応じた強度のA光を発生するように構成されている。
合波器32は、発光部31から発せられた各光を合波して集光レンズ33に入射させることができるように構成されている。
集光レンズ33は、合波器32を経て入射した光を集光してライトガイド13へ出射するように構成されている。
光源制御部34は、プロセッサ4から出力されるシステム制御信号に基づき、発光部31の各光源に対する制御を行うように構成されている。
プロセッサ4は、画像処理装置としての機能を具備して構成されている。また、プロセッサ4は、撮像素子駆動部41と、画像入力部42と、表示用画像生成部43と、入力I/F(インターフェース)44と、制御部45と、を有して構成されている。なお、本実施形態においては、例えば、プロセッサ4の撮像素子駆動部41、画像入力部42、表示用画像生成部43及び制御部45の各部が、個々の電子回路として構成されていてもよく、または、FPGA(Field Programmable Gate Array)等の集積回路における回路ブロックとして構成されていてもよい。また、本実施形態においては、例えば、プロセッサ4が1つ以上のCPUを具備して構成されていてもよい。
撮像素子駆動部41は、制御部45から出力されるシステム制御信号に応じ、撮像素子25を駆動させるための撮像素子駆動信号を生成して出力するように構成されている。
画像入力部42は、内視鏡装置2により得られた画像が入力されるとともに、当該入力された画像の出力先を制御部45から出力されるシステム制御信号に応じて切り替えるための動作を行うように構成されている。
表示用画像生成部43は、画像入力部42から出力される画像に基づいて表示用画像を生成し、当該生成した表示用画像を表示装置5へ出力するように構成されている。また、表示用画像生成部43は、例えば、図3に示すように、内視鏡画像記憶部431と、3次元血管モデル格納部432と、血管断層画像生成部433と、画像照合部434と、ナビゲーション画像生成部435と、画像合成部436と、を有して構成されている。図3は、第1の実施形態に係るプロセッサに設けられた表示用画像生成部の具体的な構成の一例を説明するための図である。
内視鏡画像記憶部431は、画像入力部42を経て出力される画像を時系列に格納するように構成されている。
3次元血管モデル格納部432には、被検体内の所定の臓器における血管の3次元的な分布状態を表すように構築された3次元血管モデルが格納されている。具体的には、前述の3次元血管モデルは、例えば、内視鏡装置2により観察される被検体内に存在する所定の臓器をX線で3次元的に走査して得られる複数の断層画像(CT画像)と、当該所定の臓器における一般的な血管の分布状態を2次元的に表した解剖図と、に基づいて構築されている。
なお、以降においては、例えば、図4に示すような、肺における動脈の3次元的な分布状態と、当該肺における静脈の3次元的な分布状態と、を別々に表すように構築された3次元血管モデル501が3次元血管モデル格納部432に格納されている場合について説明する。図4は、第1の実施形態に係るプロセッサに格納されている3次元血管モデルの一例を示す図である。
血管断層画像生成部433は、3次元血管モデル格納部432に格納されている3次元血管モデル501を読み込むとともに、当該読み込んだ3次元血管モデル501が構築された3次元空間TDSにおける任意の平面上に含まれる血管の分布状態を表す複数の血管断層画像を生成するための処理を行うように構成されている。また、血管断層画像生成部433は、前述のように生成した血管断層画像と、当該血管断層画像に含まれる血管を観察可能な内視鏡の位置を特定可能な情報である仮想内視鏡位置情報と、を関連付けてデータベース433Dに格納するように構成されている。
具体的には、前述の仮想内視鏡位置情報には、例えば、血管断層画像の生成時に設定された当該血管断層画像に含まれる血管を観察可能な仮想内視鏡の視点を特定可能な情報として、3次元血管モデル501の中心を3次元空間TDSの原点(0,0,0)に一致させるように配置した場合における当該仮想内視鏡の先端の中心の座標(Xv,Yv,Zv)が含まれている。また、前述の仮想内視鏡位置情報には、例えば、血管断層画像の生成時における仮想内視鏡の姿勢を特定可能な情報として、3次元空間TDSの原点(0,0,0)と、座標(Xv,Yv,Zv)と、を通過する直線を基準軸とした場合における仮想内視鏡の先端部の傾き方向に応じた1つ以上の角度が含まれている。
なお、本実施形態においては、例えば、3次元空間TDS内に設定された仮想内視鏡の視点を特定するための情報である座標(Xv,Yv,Zv)のみが仮想内視鏡位置情報に含まれているとともに、当該座標(Xv,Yv,Zv)に基づいて当該仮想内視鏡の姿勢が別途算出されるようにしてもよい。
画像照合部434は、内視鏡画像記憶部431に格納されている最新の画像を読み込むとともに、データベース433Dに格納されている全てのまたは一部の血管断層画像の中から、当該最新の画像に対する一致度が所定の閾値を超えている血管断層画像を特定するための画像処理を行うように構成されている。具体的には、画像照合部434は、例えば、全てのまたは一部の血管断層画像のうち一致度が2番目に高い血管断層画像の一致度を閾値として、当該閾値よりも高い血管断層画像、すなわち、一致度が最も高い一の血管断層画像を特定するための画像照合処理を行うように構成されている。また、画像照合部434は、前述の画像照合処理の処理結果として得られた一の血管断層画像に関連付けられている仮想内視鏡位置情報を取得するとともに、当該取得した仮想内視鏡位置情報をナビゲーション画像生成部435へ出力するように構成されている。
ナビゲーション画像生成部435は、3次元血管モデル格納部432から読み込んだ3次元血管モデル501と、画像照合部434から出力される仮想内視鏡位置情報に基づいて特定した仮想内視鏡の位置と、の間の対応関係を所定の3次元空間TDS内において表すようなナビゲーション画像(後述)を生成するとともに、当該生成したナビゲーション画像を画像合成部436へ出力するように構成されている。また、ナビゲーション画像生成部435は、画像照合部434から出力される仮想内視鏡位置情報が更新される毎に、ナビゲーション画像の表示状態を変化させるように構成されている。
画像合成部436は、画像入力部42から出力される画像と、ナビゲーション画像生成部435から出力されるナビゲーション画像と、を合成した表示用画像を生成するとともに、当該生成した表示用画像を表示装置5へ出力するように構成されている。
入力I/F44は、術者等のユーザの操作に応じた指示等を行うことが可能な1つ以上のスイッチ及び/またはボタンを具備して構成されている。
制御部45は、入力I/F44においてなされた指示に応じた動作を行わせるためのシステム制御信号を生成して出力するように構成されている。また、制御部45は、発光部31から発せられる光を時分割に被写体に照射させるためのシステム制御信号を生成して光源制御部34へ出力するように構成されている。また、制御部45は、撮像素子25の撮像動作を制御するためのシステム制御信号を生成して撮像素子駆動部41へ出力するように構成されている。また、制御部45は、発光部31から発せられる光を時分割に被写体に照射する際の照射パターンに応じ、内視鏡装置2により得られた画像の出力先の切り替えに係る動作を行わせるためのシステム制御信号を生成して画像入力部42へ出力するように構成されている。
表示装置5は、例えば、LCD(液晶ディスプレイ)等を具備し、プロセッサ4から出力される表示用画像等を表示することができるように構成されている。
次に、本実施形態の内視鏡システム1の動作等について説明する。
ユーザは、内視鏡システム1の各部を接続して電源を投入した後、被検体内に挿入部6を挿入するとともに、当該被検体内の肺における所望の被写体を撮像可能な位置に挿入部6の先端部を配置する。
制御部45は、プロセッサ4の電源が投入され、かつ、光源装置3がプロセッサ4に接続された際に、R光、G光及びB光を混合した白色光であるWL光と、A光と、を交互に被写体に照射させるためのシステム制御信号を生成して光源制御部34へ出力する。
光源制御部34は、プロセッサ4から出力されるシステム制御信号に基づき、青色LED311、緑色LED312及び赤色LED313の3色のLEDを点灯させつつ琥珀色LED314を消灯させる制御と、琥珀色LED314を点灯させつつ当該3色のLEDを消灯させる制御と、を発光部31に対して交互に行う。そして、このような光源制御部34の動作に応じ、WL光及びA光が交互に被写体に照射されるとともに、当該WL光が照射された当該被写体を撮像して得られる白色光画像WLIと、当該A光が照射された当該被写体を撮像して得られる深部血管画像ALI(図5参照)と、が内視鏡装置2からそれぞれ出力される。すなわち、深部血管画像ALIは、例えば、被検体内における深部血管の存在箇所が相対的に暗くなり、かつ、当該被検体内における深部血管の存在箇所以外の箇所が相対的に明るくなるような画像として取得される。図5は、第1の実施形態に係る内視鏡システムにより取得される深部血管画像を模式的に示した図である。
制御部45は、プロセッサ4の電源が投入された際に、WL光の照射に応じて内視鏡装置2から出力される白色光画像WLIを画像合成部436へ出力させるとともに、A光の照射に応じて内視鏡装置2から出力される深部血管画像ALIを内視鏡画像記憶部431へ出力させるためのシステム制御信号を生成して画像入力部42へ出力する。そして、このような制御部45の動作に応じ、内視鏡装置2から出力される白色光画像WLIが画像入力部42を経て画像合成部436に入力されるとともに、内視鏡装置2から出力される深部血管画像ALIが画像入力部42を経て内視鏡画像記憶部431に時系列に格納される。
画像照合部434は、内視鏡画像記憶部431に格納されている最新の深部血管画像ALIを読み込むとともに、データベース433Dに格納されている全てのまたは一部の血管断層画像の中から、当該最新の深部血管画像ALIに対する一致度が最も高い一の血管断層画像BTIを特定するための画像照合処理を行う。また、画像照合部434は、前述の画像照合処理の処理結果として得られた一の血管断層画像BTIに関連付けられている仮想内視鏡位置情報VPIを取得するとともに、当該取得した仮想内視鏡位置情報VPIをナビゲーション画像生成部435へ出力する。
ナビゲーション画像生成部435は、3次元血管モデル格納部432から読み込んだ3次元血管モデル501と、画像照合部434から出力される仮想内視鏡位置情報VPIに基づいて特定した仮想内視鏡の位置と、の間の対応関係を所定の3次元空間TDS内において表すようなナビゲーション画像NGIを生成する。また、ナビゲーション画像生成部435は、画像照合部434から出力される仮想内視鏡位置情報VPIが更新される毎に、ナビゲーション画像NGIの表示状態を変化させる。
具体的には、ナビゲーション画像生成部435は、例えば、所定の3次元空間TDS内に3次元血管モデル501を配置し、画像照合部434から出力される仮想内視鏡位置情報VPIに基づいて特定した仮想内視鏡の視点及び姿勢を用いて当該仮想内視鏡の先端部を模式化した図形601を生成し、さらに、3次元血管モデル501の周囲に図形601を配置することにより、図6に示すようなナビゲーション画像NGIを生成する。すなわち、ナビゲーション画像生成部435は、所定の3次元空間TDS内に配置した3次元血管モデル501と、当該所定の3次元空間TDS内における仮想内視鏡の位置を表す図形601と、を含む画像をナビゲーション画像NGIとして生成する。また、ナビゲーション画像生成部435は、例えば、図6内の破線として示すように、画像照合部434から出力される仮想内視鏡位置情報VPIが更新される毎に、ナビゲーション画像NGIに含まれる図形601の位置を移動させる。図6は、第1の実施形態に係るプロセッサにより生成されるナビゲーション画像の一例を説明するための図である。
画像合成部436は、画像入力部42から出力される白色光画像WLIと、ナビゲーション画像生成部435から出力されるナビゲーション画像NGIと、を合成した表示用画像DSIを生成するとともに、当該生成した表示用画像DSIを表示装置5へ出力する。そして、このような画像合成部436の動作によれば、例えば、図7に示すような、白色光画像WLI及びナビゲーション画像NGIを横並びに配置した表示用画像DSIが表示装置5に表示される。なお、図7の白色光画像WLIには、例えば、毛細血管等のような、生体組織の粘膜表層またはその付近に存在する深部血管以外の構造物が含まれている。また、図7の白色光画像WLIには、画像照合部434の画像照合処理に用いられた深部血管画像ALIに比べて視認性が低い状態で撮像された深部血管が含まれている。図7は、第1の実施形態に係るプロセッサにより生成される表示用画像の一例を説明するための図である。
以上に述べたような各部の動作によれば、例えば、肺における(白色光画像WLI及び)深部血管画像ALIを取得した位置を表す図形601と、当該肺における血管の3次元的な分布状態を表す3次元血管モデル501と、を具備するナビゲーション画像NGIを表示装置5に表示させることができる。また、以上に述べたような各部の動作によれば、例えば、3次元血管モデル501に対する図形601の位置を肺の変位に追従して変化させることができる。
以上に述べたように、本実施形態によれば、手術対象の臓器における現在の観察位置と、当該臓器における血管の3次元的な分布状態と、の間の対応関係を表す情報を提示することができる。従って、本実施形態によれば、深部血管の偶発的な損傷を防ぎつつ病変部の切除等の処置を行うことができるため、内視鏡観察下で外科手術を行う術者の負担を軽減することができる。
なお、本実施形態によれば、画像照合部434から出力される仮想内視鏡位置情報VPIが更新される毎に、ナビゲーション画像NGIに含まれる3次元血管モデル501の位置を固定した状態で図形601の位置を移動させるものに限らず、例えば、当該ナビゲーション画像NGIに含まれる図形601の位置を固定した状態で3次元血管モデル501を回転させるようにしてもよい。
また、本実施形態によれば、例えば、白色光画像WLIの代わりに深部血管画像ALIを含むような表示用画像DSIが表示装置5に表示されるようにしてもよい。
また、本実施形態によれば、3次元血管モデル501に対する図形601の位置に応じ、ナビゲーション画像NGIに含まれる3次元血管モデル501の拡大率RMを変化させるようにしてもよい。具体的には、例えば、図形601が3次元血管モデル501に近づくにつれて拡大率RMを大きくするとともに、図形601が3次元血管モデル501から遠ざかるにつれて拡大率RMを小さくするようにしてもよい。
また、本実施形態によれば、例えば、画像照合部434が、データベース433Dに格納されている全てのまたは一部の血管断層画像の中から内視鏡画像記憶部431に格納されている最新の画像に対する一致度が所定の閾値を超える1以上の血管断層画像を特定し、当該特定した1以上の血管断層画像の中から生体組織に照射される光が生体組織の深部において到達可能な深さまでの血管を含む血管断層画像を抽出し、当該抽出した血管断層画像から仮想内視鏡位置情報を取得するようにしてもよい。
(第2の実施形態)
図8から図10は、本発明の第2の実施形態に係るものである。
なお、本実施形態においては、第1の実施形態と同様の構成等を有する部分に関する詳細な説明を省略するとともに、第1の実施形態と異なる構成等を有する部分に関して主に説明を行う。
内視鏡システム1Aは、図8に示すように、内視鏡装置2Aと、光源装置3Aと、プロセッサ4Aと、表示装置5と、を有して構成されている。図8は、第2の実施形態に係る内視鏡システムの具体的な構成の一例を説明するための図である。
内視鏡装置2Aは、図8に示すように、内視鏡装置2におけるカメラユニット22の代わりにカメラユニット22Aを設けて構成されている。
カメラユニット22Aは、励起光カットフィルタ23と、ダイクロイックミラー24と、撮像素子25A及び25Bと、信号処理回路26と、を有して構成されている。また、カメラユニット22Aは、信号ケーブル28の端部に設けられたコネクタ29を介してプロセッサ4Aに着脱可能に構成されている。
励起光カットフィルタ23は、接眼レンズ19を経て出射される光から励起光の反射光を除去する光学フィルタとして構成されている。すなわち、励起光カットフィルタ23は、光源装置3Aから出射されるIR光(後述)と同じ波長帯域の光を遮断しつつ、当該IR光以外の波長帯域の光を透過させるような光学特性を具備して構成されている。
ダイクロイックミラー24は、励起光カットフィルタ23を経て出射される出射光に含まれる可視域の光を撮像素子25A側へ透過させるとともに、当該出射光に含まれる近赤外域の光を撮像素子25B側へ反射するような光学特性を具備して構成されている。
撮像素子25Aは、例えば、可視域に感度を有するカラーCCDまたはカラーCMOSのようなイメージセンサを具備して構成されている。また、撮像素子25Aは、プロセッサ4Aから出力される撮像素子駆動信号に応じた撮像動作を行うように構成されている。また、撮像素子25Aは、ダイクロイックミラー24を透過した可視域の光を撮像し、当該撮像した可視域の光に応じた画像を生成して信号処理回路26へ出力するように構成されている。
撮像素子25Bは、例えば、近赤外域に感度を有するモノクロCCDまたはモノクロCMOSのようなイメージセンサを具備して構成されている。また、撮像素子25Bは、プロセッサ4Aから出力される撮像素子駆動信号に応じた撮像動作を行うように構成されている。また、撮像素子25Bは、ダイクロイックミラー24により反射された赤外域の光を撮像し、当該撮像した赤外域の光に応じた画像を生成して信号処理回路26へ出力するように構成されている。
光源装置3Aは、光源装置3における発光部31の代わりに発光部31Aを設けて構成されている。
発光部31Aは、青色LED311と、緑色LED312と、赤色LED313と、琥珀色LED314と、近赤外LD(レーザダイオード)315と、を有して構成されている。
近赤外LD315は、例えば、中心波長が800nmに設定された(狭帯域な)近赤外光であるIR光を発するように構成されている。すなわち、近赤外LD315は、ICG(インドシアニングリーン)等のような、被検体に投与された所定の蛍光薬剤を励起して蛍光を発生させることが可能な励起光であるIR光を発するように構成されている。さらに換言すると、近赤外LD315は、生体組織の深部及び当該生体組織の深部に存在する太径の血管である深部血管に到達可能な光(特殊光)であるIR光を発するように構成されている。また、近赤外LD315は、光源制御部34の制御に応じて点灯状態または消灯状態に切り替わるように構成されている。また、近赤外LD315は、点灯状態において、光源制御部34の制御に応じた強度のIR光を発生するように構成されている。
プロセッサ4Aは、画像処理装置としての機能を具備して構成されている。また、プロセッサ4Aは、撮像素子駆動部41Aと、画像入力部42と、表示用画像生成部43Aと、入力I/F(インターフェース)44Aと、制御部45Aと、を有して構成されている。なお、本実施形態においては、例えば、プロセッサ4Aの撮像素子駆動部41A、画像入力部42、表示用画像生成部43A及び制御部45Aの各部が、個々の電子回路として構成されていてもよく、または、FPGA(Field Programmable Gate Array)等の集積回路における回路ブロックとして構成されていてもよい。また、本実施形態においては、例えば、プロセッサ4Aが1つ以上のCPUを具備して構成されていてもよい。
撮像素子駆動部41Aは、制御部45Aから出力されるシステム制御信号に応じ、撮像素子25A及び25Bを駆動させるための撮像素子駆動信号を生成して出力するように構成されている。
表示用画像生成部43Aは、例えば、図9に示すように、内視鏡画像記憶部431と、3次元血管モデル格納部432と、血管断層画像生成部433と、画像照合部434Aと、ナビゲーション画像生成部435と、画像合成部436と、を有して構成されている。図9は、第2の実施形態に係るプロセッサに設けられた表示用画像生成部の具体的な構成の一例を説明するための図である。
画像照合部434Aは、制御部45Aから出力されるシステム制御信号に基づき、被写体に照射される光が生体組織の深部において到達可能な深さに相当する深度限界を特定し、さらに、データベース433Dに格納されている全てのまたは一部の血管断層画像の中から、当該深度限界までの血管を含む1つ以上の血管断層画像を抽出するための画像抽出処理を行うように構成されている。また、画像照合部434Aは、内視鏡画像記憶部431に格納されている最新の画像を読み込むとともに、前述の画像抽出処理により抽出された1つ以上の血管断層画像の中から、当該最新の画像に対する一致度が最も高い一の血管断層画像を特定するための画像照合処理を行うように構成されている。また、画像照合部434Aは、前述の画像照合処理の処理結果として得られた一の血管断層画像に関連付けられている仮想内視鏡位置情報を取得するとともに、当該取得した仮想内視鏡位置情報をナビゲーション画像生成部435へ出力するように構成されている。
入力I/F44Aは、術者等のユーザの操作に応じた指示等を行うことが可能な1つ以上のスイッチ及び/またはボタンを具備して構成されている。また、入力I/F44Aは、ユーザの操作に応じ、A光またはIR光のいずれか一方を光源装置3Aから出射させるための指示を行うことができるように構成されている。
制御部45Aは、入力I/F44Aにおいてなされた指示に応じた動作を行わせるためのシステム制御信号を生成して出力するように構成されている。また、制御部45Aは、発光部31Aから発せられる光を時分割に被写体に照射させるためのシステム制御信号を生成して光源制御部34へ出力するように構成されている。また、制御部45Aは、撮像素子25A及び25Bの撮像動作を制御するためのシステム制御信号を生成して撮像素子駆動部41Aへ出力するように構成されている。また、制御部45Aは、発光部31Aから発せられる光を時分割に被写体に照射する際の照射パターンに応じ、内視鏡装置2Aにより得られた画像の出力先の切り替えに係る動作を行わせるためのシステム制御信号を生成して画像入力部42へ出力するように構成されている。
次に、本実施形態の内視鏡システム1Aの動作等について説明する。
ユーザは、例えば、内視鏡システム1Aの各部を接続して電源を投入した後、入力I/F44Aを操作することにより、光源装置3からA光を出射させるための指示を行う。また、ユーザは、例えば、光源装置3からA光を出射させるための指示を行った後、被検体内の肺における所望の被写体を撮像可能な位置に挿入部6の先端部を配置する。
制御部45Aは、プロセッサ4Aの電源が投入され、かつ、光源装置3Aがプロセッサ4Aに接続された際に、入力I/F44Aにおいてなされた指示に応じ、WL光と、A光と、を交互に被写体に照射させるためのシステム制御信号を生成して光源制御部34へ出力する。
光源制御部34は、プロセッサ4Aから出力されるシステム制御信号に基づき、青色LED311、緑色LED312及び赤色LED313の3色のLEDを点灯させつつ琥珀色LED314及び近赤外LD315を消灯させる制御と、琥珀色LED314を点灯させつつ当該3色のLED及び近赤外LD315を消灯させる制御と、を発光部31Aに対して交互に行う。そして、このような光源制御部34の動作に応じ、WL光及びA光が交互に被写体に照射されるとともに、白色光画像WLI及び深部血管画像ALIが内視鏡装置2Aからそれぞれ出力される。
制御部45Aは、プロセッサ4Aの電源が投入され、かつ、A光を被写体に照射させるための指示が入力I/F44Aにおいて行われた際に、内視鏡装置2Aから出力される白色光画像WLIを画像合成部436へ出力させるとともに、内視鏡装置2Aから出力される深部血管画像ALIを内視鏡画像記憶部431へ出力させるためのシステム制御信号を生成して画像入力部42へ出力する。そして、このような制御部45Aの動作に応じ、内視鏡装置2Aから出力される白色光画像WLIが画像入力部42を経て画像合成部436に入力されるとともに、内視鏡装置2Aから出力される深部血管画像ALIが画像入力部42を経て内視鏡画像記憶部431に時系列に格納される。
画像照合部434Aは、制御部45Aから出力されるシステム制御信号に基づいてA光が被写体に照射されていることを検出した場合に、当該A光の照射により深部血管を観察可能な深さに相当する深度限界DMA(例えば1mm)を特定し、当該特定した深度限界DMAまでの血管を含む1つ以上の血管断層画像をデータベース433Dに格納されている全てのまたは一部の血管断層画像の中から抽出するための画像抽出処理を行う。また、画像照合部434Aは、内視鏡画像記憶部431に格納されている最新の深部血管画像ALIを読み込むとともに、前述の画像抽出処理により抽出された1つ以上の血管断層画像の中から、当該最新の深部血管画像ALIに対する一致度が最も高い一の血管断層画像BTIを特定するための画像照合処理を行う。
すなわち、画像照合部434Aは、A光が被写体に照射されている場合に、血管断層画像生成部433により生成された(データベース433Dに格納されている)全てのまたは一部の血管断層画像の中から、当該A光が生体組織の深部において到達可能な深さまでの血管を含む1つ以上の血管断層画像を抽出し、当該抽出した1つ以上の血管断層画像の中から、最新の深部血管画像ALIに対する一致度が最も高い一の血管断層画像BTIを特定するための処理を行う。
画像照合部434Aは、前述の画像照合処理の処理結果として得られた一の血管断層画像BTIに関連付けられている仮想内視鏡位置情報VPIを取得するとともに、当該取得した仮想内視鏡位置情報VPIをナビゲーション画像生成部435へ出力する。そして、このような画像照合部434Aの動作によれば、第1の実施形態と略同様のナビゲーション画像がナビゲーション画像生成部435により生成されるとともに、第1の実施形態と略同様の表示用画像が画像合成部436により生成される。
ユーザは、例えば、IR光により励起されかつ当該IR光よりも長波長な近赤外の蛍光であるFL光を発生する蛍光薬剤FLPを被検体に投与した状態において、入力I/F44Aを操作することにより、IR光を被写体に照射させるための指示を行う。また、ユーザは、例えば、光源装置3からIR光を出射させるための指示を行った後、被検体内の肺における所望の被写体を撮像可能な位置に挿入部6の先端部を配置する。
制御部45Aは、プロセッサ4Aの電源が投入され、かつ、光源装置3Aがプロセッサ4Aに接続された際に、入力I/F44Aにおいてなされた指示に応じ、WL光と、IR光と、を交互に被写体に照射させるためのシステム制御信号を生成して光源制御部34へ出力する。
光源制御部34は、プロセッサ4Aから出力されるシステム制御信号に基づき、青色LED311、緑色LED312及び赤色LED313の3色のLEDを点灯させつつ琥珀色LED314及び近赤外LD315を消灯させる制御と、近赤外LD315を点灯させつつ当該3色のLED及び琥珀色LED314を消灯させる制御と、を発光部31Aに対して交互に行う。そして、このような光源制御部34の動作に応じ、WL光及びIR光が交互に被写体に照射されるとともに、当該WL光が照射された当該被写体を撮像素子25Aで撮像して得られる白色光画像WLIと、当該IR光が照射された当該被写体から発せられるFL光を撮像素子25Bで撮像して得られる蛍光画像FLI(図10参照)と、が内視鏡装置2Aからそれぞれ出力される。すなわち、蛍光画像FLIは、例えば、被検体内における深部血管の存在箇所が相対的に明るくなり、かつ、当該被検体内における深部血管の存在箇所以外の箇所が相対的に暗くなるような画像として取得される。図10は、第2の実施形態に係る内視鏡システムにより取得される蛍光画像を模式的に示した図である。
制御部45Aは、プロセッサ4Aの電源が投入され、かつ、IR光を被写体に照射させるための指示が入力I/F44Aにおいて行われた際に、内視鏡装置2Aから出力される白色光画像WLIを画像合成部436へ出力させるとともに、内視鏡装置2Aから出力される蛍光画像FLIを内視鏡画像記憶部431へ出力させるためのシステム制御信号を生成して画像入力部42へ出力する。そして、このような制御部45Aの動作に応じ、内視鏡装置2Aから出力される白色光画像WLIが画像入力部42を経て画像合成部436に入力されるとともに、内視鏡装置2Aから出力される蛍光画像FLIが画像入力部42を経て内視鏡画像記憶部431に時系列に格納される。
画像照合部434Aは、制御部45Aから出力されるシステム制御信号に基づいてIR光が被写体に照射されていることを検出した場合に、当該IR光の照射により深部血管を観察可能な深さに相当する深度限界DMB(例えば2mm)を特定し、当該特定した深度限界DMBまでの血管を含む1つ以上の血管断層画像をデータベース433Dに格納されている全てのまたは一部の血管断層画像の中から抽出するための画像抽出処理を行う。画像照合部434Aは、内視鏡画像記憶部431に格納されている最新の蛍光画像FLIを読み込むとともに、前述の画像抽出処理により抽出された1つ以上の血管断層画像の中から、当該最新の蛍光画像FLIに対する一致度が最も高い一の血管断層画像BTJを特定するための画像照合処理を行う。
すなわち、画像照合部434Aは、IR光が被写体に照射されている場合に、血管断層画像生成部433により生成された(データベース433Dに格納されている)全ての血管断層画像の中から、当該IR光が生体組織の深部において到達可能な深さまでの血管を含む1つ以上の血管断層画像を抽出し、当該抽出した1つ以上の血管断層画像の中から、最新の蛍光画像FLIに対する一致度が最も高い一の血管断層画像BTJを特定するための処理を行う。
画像照合部434Aは、前述の画像照合処理の処理結果として得られた一の血管断層画像BTJに関連付けられている仮想内視鏡位置情報VPJを取得するとともに、当該取得した仮想内視鏡位置情報VPJをナビゲーション画像生成部435へ出力する。そして、このような画像照合部434Aの動作によれば、IR光の照射時において、A光の照射時よりも多くの血管断層画像が抽出される。また、前述のような画像照合部434Aの動作によれば、第1の実施形態と略同様のナビゲーション画像がナビゲーション画像生成部435により生成されるとともに、第1の実施形態と同様の表示用画像が画像合成部436により生成される。
以上に述べたように、本実施形態によれば、手術対象の臓器における現在の観察位置と、当該臓器における血管の3次元的な分布状態と、の間の対応関係を表す情報を提示することができる。従って、本実施形態によれば、深部血管の偶発的な損傷を防ぎつつ病変部の切除等の処置を行うことができるため、内視鏡観察下で外科手術を行う術者の負担を軽減することができる。
また、本実施形態によれば、画像照合部434Aの画像照合処理に用いられる血管断層画像の個数を、深度限界DMA及びDMBに応じてデータベース433Dから抽出した個数に制限することができる。従って、本実施形態によれば、例えば、画像照合部434Aにおける画像照合処理に費やされる時間を短縮することができるとともに、ナビゲーション画像生成部435におけるナビゲーション画像の表示状態の変化を高速化することができる。
なお、本発明は、上述した各実施形態に限定されるものではなく、発明の趣旨を逸脱しない範囲内において種々の変更や応用が可能であることは勿論である。
本出願は、2017年5月30日に日本国に出願された特願2017−106975号を優先権主張の基礎として出願するものであり、上記の開示内容は、本願明細書、請求の範囲に引用されるものとする。
本発明の一態様の画像処理装置は、被検体内に存在する所定の臓器における血管の3次元的な分布状態を表すように構築された3次元血管モデルが格納されている格納部と、前記3次元血管モデルが構築される3次元空間における任意の平面上に含まれる血管の分布状態を表す複数の血管断層画像を生成するように構成された血管断層画像生成部と、前記所定の臓器における被写体に対して生体組織の深部血管に到達可能な光が照射された際に前記被写体を撮像して得られる深部血管画像が入力される画像入力部と、前記血管断層画像生成部により生成された全てのまたは一部の血管断層画像の中から、前記画像入力部に入力された深部血管画像に対する一致度が所定の閾値よりも高い血管断層画像を特定するための処理を行うように構成された画像照合部と、前記画像照合部により特定された血管断層画像に基づき、前記3次元血管モデルと、前記画像照合部により特定された血管断層画像に含まれる血管を観察可能な内視鏡の位置と、の間の対応関係を前記3次元空間内において表すナビゲーション画像を生成するように構成されたナビゲーション画像生成部と、を有する。
本発明の一態様の画像処理システムは、被検体内に存在する所定の臓器における血管の3次元的な分布状態を表すように構築された3次元血管モデルが格納されている格納部と、前記3次元血管モデルが構築される3次元空間における任意の平面上に含まれる血管の分布状態を表す複数の血管断層画像を生成するように構成された血管断層画像生成部と、前記所定の臓器における被写体に対して生体組織の深部血管に到達可能な光が照射された際に前記被写体を撮像して得られる深部血管画像が入力される画像入力部と、前記血管断層画像生成部により生成された全てのまたは一部の血管断層画像の中から、前記画像入力部に入力された深部血管画像に対する一致度が所定の閾値よりも高い血管断層画像を特定するための処理を行うように構成された画像照合部と、前記画像照合部により特定された血管断層画像に基づき、前記3次元血管モデルと、前記画像照合部により特定された血管断層画像に含まれる血管を観察可能な内視鏡の位置と、の間の対応関係を前記3次元空間内において表すナビゲーション画像を生成するように構成されたナビゲーション画像生成部と、を有する画像処理装置と、前記被写体に対して生体組織の深部血管に到達可能な光を照射した際に前記被写体を撮像して画像を生成する内視鏡と、を備え、前記画像入力部に入力される前記深部血管画像は、前記内視鏡によって生成された画像である。
本発明の一態様の画像処理装置の作動方法は、血管断層画像生成部が、被検体内に存在する所定の臓器における血管の3次元的な分布状態を表すように構築された3次元血管モデルが構築される3次元空間における任意の平面上に含まれる血管の分布状態を表す複数の血管断層画像を生成し、画像照合部が、前記複数の血管断層画像の中から、前記所定の臓器における被写体に対して生体組織の深部血管に到達可能な光が照射された際に前記被写体を撮像して得られる深部血管画像に対する一致度が所定の閾値よりも高い血管断層画像を特定し、ナビゲーション画像生成部が、前記画像照合部により特定された血管断層画像に基づき、前記3次元血管モデルと、前記画像照合部により特定された血管断層画像に含まれる血管を観察可能な内視鏡の位置と、の間の対応関係を前記3次元空間内において表すナビゲーション画像を生成する。