JPWO2014156378A1 - 内視鏡システム - Google Patents
内視鏡システム Download PDFInfo
- Publication number
- JPWO2014156378A1 JPWO2014156378A1 JP2014549267A JP2014549267A JPWO2014156378A1 JP WO2014156378 A1 JPWO2014156378 A1 JP WO2014156378A1 JP 2014549267 A JP2014549267 A JP 2014549267A JP 2014549267 A JP2014549267 A JP 2014549267A JP WO2014156378 A1 JPWO2014156378 A1 JP WO2014156378A1
- Authority
- JP
- Japan
- Prior art keywords
- unit
- image
- information
- change amount
- predetermined
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003780 insertion Methods 0.000 claims abstract description 185
- 238000001514 detection method Methods 0.000 claims abstract description 126
- 238000003384 imaging method Methods 0.000 claims abstract description 85
- 230000000875 corresponding Effects 0.000 claims abstract description 66
- 210000000056 organs Anatomy 0.000 claims abstract description 60
- 238000000605 extraction Methods 0.000 claims abstract description 15
- 239000000284 extract Substances 0.000 abstract description 4
- 210000000621 Bronchi Anatomy 0.000 description 145
- 238000002591 computed tomography Methods 0.000 description 47
- 238000005259 measurement Methods 0.000 description 42
- 238000010586 diagram Methods 0.000 description 24
- 238000005452 bending Methods 0.000 description 18
- 206010047555 Visual field defect Diseases 0.000 description 13
- 238000000034 method Methods 0.000 description 11
- 238000005286 illumination Methods 0.000 description 9
- 230000003287 optical Effects 0.000 description 9
- 229910052797 bismuth Inorganic materials 0.000 description 8
- 210000004072 Lung Anatomy 0.000 description 6
- 239000000203 mixture Substances 0.000 description 5
- 230000002093 peripheral Effects 0.000 description 4
- 230000000007 visual effect Effects 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 101710042639 KLHL24 Proteins 0.000 description 2
- 229910004734 Oy H Inorganic materials 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000001574 biopsy Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000001276 controlling effect Effects 0.000 description 1
- 230000002950 deficient Effects 0.000 description 1
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 description 1
- 229910052745 lead Inorganic materials 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 210000001519 tissues Anatomy 0.000 description 1
Images
Abstract
内視鏡システムは、被検体の3次元画像情報を記録する画像記録部と、3次元画像情報から所定の管腔臓器を抽出する管腔臓器抽出部と、抽出された所定の管腔臓器の情報に対して所定の視点位置から仮想内視鏡画像を生成する仮想内視鏡画像生成部と、所定の管腔臓器内を撮像する撮像部と、挿入部の先端の位置情報を取得する位置情報取得部と、挿入部の先端の位置情報に基づいて管腔径の変化量を検知する管腔径変化量検知比較部と、撮像された内視鏡画像内において、所定の管腔臓器に関する特徴部の変化量を検知する画像変化量検知部と、両検知部の検知結果に基づいて、挿入部の先端の位置と、対応する仮想内視鏡画像とを含む所定の情報を記録する情報記録部と、を備える。
Description
本発明は、被検体内を撮像手段により撮像する内視鏡システムに関する。
近年、体腔内等に挿入可能な挿入部を有する内視鏡は医療分野などにおいて広く用いられるようになっている。
一方、体腔内における気管支のように複雑に分岐した管腔臓器内に挿入して管腔臓器の末梢側の目標部位(の患部組織)を検査、又は処置具による生検や処置を行うような場合においては、挿入した際に得られる内視鏡画像のみでは、目標部位付近まで挿入部先端を導入することが困難な場合がある。
このため、目標部位付近まで内視鏡の挿入部先端を導入する操作を支援するためのシステム又は装置が提案されている。
一方、体腔内における気管支のように複雑に分岐した管腔臓器内に挿入して管腔臓器の末梢側の目標部位(の患部組織)を検査、又は処置具による生検や処置を行うような場合においては、挿入した際に得られる内視鏡画像のみでは、目標部位付近まで挿入部先端を導入することが困難な場合がある。
このため、目標部位付近まで内視鏡の挿入部先端を導入する操作を支援するためのシステム又は装置が提案されている。
例えば、第1の従来例としてのWO2007−129493号公報の医療画像観察支援装置は、CT画像データ取込部、CT画像データ格納部、情報抽出部、解剖学的情報データベース、視点位置/視線方向設定部、管腔臓器画像生成部、解剖学的名称情報発生部、枝指定部、画像合成表示部及びユーザI/F制御部を備えた構成を開示している。視点位置/視線方向設定部は、情報抽出部が抽出した管腔臓器の構造情報に基づき、管腔臓器の略中心軸に視点をロックオンして管腔臓器の外観を観察する視点位置及び視線方向を設定する。
また、第2の従来例としての日本国特開2009−279250号公報の医療装置は、予め取得する気管支の3次元画像データから、複数の異なる視線位置からの仮想内視鏡画像を生成する仮想内視鏡画像生成手段と、リアル画像と類似度の高い仮想内視鏡画像を検索する画像検索手段と、類似度の高い仮想内視鏡画像の視線の位置に基づいて基準点を設定する基準点設定手段と、基準点に対する処置具の相対位置を算出する相対位置算出手段と、基準点または気管支の移動を検出する移動検出手段と、基準点または気管支の移動に応じて、相対位置を補正する位置補正手段とを具備する。
また、第2の従来例としての日本国特開2009−279250号公報の医療装置は、予め取得する気管支の3次元画像データから、複数の異なる視線位置からの仮想内視鏡画像を生成する仮想内視鏡画像生成手段と、リアル画像と類似度の高い仮想内視鏡画像を検索する画像検索手段と、類似度の高い仮想内視鏡画像の視線の位置に基づいて基準点を設定する基準点設定手段と、基準点に対する処置具の相対位置を算出する相対位置算出手段と、基準点または気管支の移動を検出する移動検出手段と、基準点または気管支の移動に応じて、相対位置を補正する位置補正手段とを具備する。
内視鏡の挿入部先端の位置を推定する場合、内視鏡の撮像手段により撮像した内視鏡画像(実画像)と、CTによる管腔臓器の3次元データに基づいて生成した仮想内視鏡画像(仮想画像)との比較により行われる。そのため、最初に両画像の比較による位置合わせが行われる。
そして、位置の推定の精度が低下したような場合には、所定の精度を確保できる状態に設定するための再度の位置合わせが必要になるが、上述した従来例は、再度の位置合わせを行うのに適した条件で情報を記録していないために時間がかかる欠点があった。
より具体的に説明すると、例えば第1の従来例は、内視鏡先端位置を3次元画像上に座標変換して芯線との距離を比較する観点と、分岐部の実画像(内視鏡画像)と仮想画像(仮想内視鏡画像)とを比較する観点を開示し、分岐部の特徴情報等を記録することも開示している。
しかし、記録した情報に基づいて再度の位置合わせを行う際に画像比較を行い両画像ができるだけ一致させるように位置合わせを行うが、内視鏡先端位置の変化に対する内視鏡画像又は仮想内視鏡画像の変化量が不確定であり、両画像をどの程度合わせたら良いかが分かり難いために、再度の位置合わせを行うのに時間がかかる。
そして、位置の推定の精度が低下したような場合には、所定の精度を確保できる状態に設定するための再度の位置合わせが必要になるが、上述した従来例は、再度の位置合わせを行うのに適した条件で情報を記録していないために時間がかかる欠点があった。
より具体的に説明すると、例えば第1の従来例は、内視鏡先端位置を3次元画像上に座標変換して芯線との距離を比較する観点と、分岐部の実画像(内視鏡画像)と仮想画像(仮想内視鏡画像)とを比較する観点を開示し、分岐部の特徴情報等を記録することも開示している。
しかし、記録した情報に基づいて再度の位置合わせを行う際に画像比較を行い両画像ができるだけ一致させるように位置合わせを行うが、内視鏡先端位置の変化に対する内視鏡画像又は仮想内視鏡画像の変化量が不確定であり、両画像をどの程度合わせたら良いかが分かり難いために、再度の位置合わせを行うのに時間がかかる。
位置合わせを行い易くするためには、記録された情報が気管支内における内視鏡先端位置の変化に対して変化し易い特徴を備え、視覚的に位置合わせがし易いように設定されていることが望まれる。
しかし、上述した従来例は、上記のように視覚的に位置合わせがし易いように設定されていないため、両画像をどの程度合わせたら良いかが分かり難いために、再度の位置合わせを行うのに時間がかかる。
また、気管支は、気管支の入り口付近からその深部側となる末端(末梢)側に至るに従って、分岐部において分岐し、管腔の径が次第に細くなるように変化する。このため、気管支径の変化の検知結果を、再度の位置合わせのための情報を記録する条件に利用すると、再度の位置合わせをより有効に行い易くすると考えられる。
本発明は上述した点に鑑みてなされたもので、再度の位置合わせを短時間に行い易くする情報を記録する内視鏡システムを提供することを目的とする。
しかし、上述した従来例は、上記のように視覚的に位置合わせがし易いように設定されていないため、両画像をどの程度合わせたら良いかが分かり難いために、再度の位置合わせを行うのに時間がかかる。
また、気管支は、気管支の入り口付近からその深部側となる末端(末梢)側に至るに従って、分岐部において分岐し、管腔の径が次第に細くなるように変化する。このため、気管支径の変化の検知結果を、再度の位置合わせのための情報を記録する条件に利用すると、再度の位置合わせをより有効に行い易くすると考えられる。
本発明は上述した点に鑑みてなされたもので、再度の位置合わせを短時間に行い易くする情報を記録する内視鏡システムを提供することを目的とする。
本発明の一態様の内視鏡システムは、予め取得した被検体における3次元画像情報を記録する画像記録部と、前記3次元画像情報から所定の管腔臓器を抽出する管腔臓器抽出部と、前記管腔臓器抽出部により抽出された前記所定の管腔臓器の情報に対して所定の視点位置から内視鏡的に描画した仮想内視鏡画像を生成する仮想内視鏡画像生成部と、内視鏡内に設けられ、前記所定の管腔臓器内を撮像する撮像部と、前記内視鏡の挿入部の先端の位置情報を取得する位置情報取得部と、前記内視鏡の挿入部の先端の位置情報に基づいて、前記所定の管腔臓器の管腔径の変化量を検知する管腔径変化量検知部と、前記撮像部により撮像された内視鏡画像内において、前記所定の管腔臓器に関する特徴部の変化量を検知する画像変化量検知部と、前記管腔径変化量検知部の検知結果及び前記画像変化量検知部の検知結果に基づいて、前記内視鏡の挿入部の先端の位置と、該先端の位置に対応する前記仮想内視鏡画像とを含む所定の情報を記録する情報記録部と、を備える。
以下、図面を参照して本発明の実施形態を説明する。
(第1の実施形態)
図1に示すように本発明の第1の実施形態の内視鏡システム1は、検査対象となる被検体としての患者における所定の管腔臓器としての気管支2(図2A)内に挿入される内視鏡3Aを備えた内視鏡装置4Aと、この内視鏡装置4Aと共に使用され、内視鏡3Aの挿入支援を行うための挿入支援装置5と、から主に構成される。
内視鏡装置4Aは、内視鏡3Aと、この内視鏡3Aに照明光を供給する光源装置6と、内視鏡3Aに搭載された撮像手段を構成する撮像素子7に対する信号処理を行う信号処理装置としてのカメラコントロールユニット(CCUと略記)8Aと、CCU8Aにより生成された内視鏡画像を表示するモニタ9Aと、を有する。
(第1の実施形態)
図1に示すように本発明の第1の実施形態の内視鏡システム1は、検査対象となる被検体としての患者における所定の管腔臓器としての気管支2(図2A)内に挿入される内視鏡3Aを備えた内視鏡装置4Aと、この内視鏡装置4Aと共に使用され、内視鏡3Aの挿入支援を行うための挿入支援装置5と、から主に構成される。
内視鏡装置4Aは、内視鏡3Aと、この内視鏡3Aに照明光を供給する光源装置6と、内視鏡3Aに搭載された撮像手段を構成する撮像素子7に対する信号処理を行う信号処理装置としてのカメラコントロールユニット(CCUと略記)8Aと、CCU8Aにより生成された内視鏡画像を表示するモニタ9Aと、を有する。
内視鏡3Aは、可撓性を有する細長の挿入部(又は内視鏡挿入部)11と、この挿入部11の後端に設けられた操作部12とを有し、挿入部11の先端部13には照明窓と観察窓とが設けられる。挿入部11,操作部12内には照明光を伝達するライトガイド14が挿通され、このライトガイド14の入射端は光源装置6に接続され、光源装置6内の図示しない光源ランプ又はLEDにより発生した照明光が入射端に入射される。このライトガイド14により伝達された照明光は、照明窓に取り付けられた出射端(先端面)から前方に出射される。
また、観察窓には、被写体を結像する対物光学系を形成する対物レンズ15が取り付けられ、その結像位置にCCD等の撮像素子7が配置され、対物レンズ15と撮像素子7とにより、挿入部11が挿入される所定の管腔臓器としての気管支2内を撮像する撮像手段としての撮像装置16が形成される。
また、観察窓には、被写体を結像する対物光学系を形成する対物レンズ15が取り付けられ、その結像位置にCCD等の撮像素子7が配置され、対物レンズ15と撮像素子7とにより、挿入部11が挿入される所定の管腔臓器としての気管支2内を撮像する撮像手段としての撮像装置16が形成される。
撮像素子7は、挿入部11,操作部12内を挿通された信号線を介してCCU8Aに接続される。CCU8Aは、その内部の図示しない画像信号生成回路により撮像素子7の撮像面に結像された光学像に対応する撮像画像の画像信号を生成し、この画像信号をモニタ9Aに出力する。モニタ9Aは、画像信号の画像(動画像)を、内視鏡画像(撮像画像とも言う)として表示する。
内視鏡3Aの挿入部11には、先端部13の後端に湾曲自在の湾曲部19が設けてあり、術者は操作部12に設けた湾曲操作ノブ20を例えば回転する操作を行うことにより、湾曲部19を上下、左右の任意の方向に湾曲することができる。なお、湾曲操作ノブ20は、上下方向に湾曲させるための上下方向用湾曲操作ノブと、左右方向に湾曲させるための左右方向用湾曲操作ノブとを備えている。
図1に示す内視鏡装置4Aの代わりに、図3Aに示す内視鏡装置4Bを採用しても良い。
内視鏡3Aの挿入部11には、先端部13の後端に湾曲自在の湾曲部19が設けてあり、術者は操作部12に設けた湾曲操作ノブ20を例えば回転する操作を行うことにより、湾曲部19を上下、左右の任意の方向に湾曲することができる。なお、湾曲操作ノブ20は、上下方向に湾曲させるための上下方向用湾曲操作ノブと、左右方向に湾曲させるための左右方向用湾曲操作ノブとを備えている。
図1に示す内視鏡装置4Aの代わりに、図3Aに示す内視鏡装置4Bを採用しても良い。
内視鏡装置4Bは、立体計測(ステレオ計測)が可能なステレオ内視鏡3Bと、光源装置6と、ステレオ内視鏡3B設けた2つの撮像素子7a,7bに対する信号処理を行うCCU8BとCCU8Bより生成されたステレオ画像信号を表示するステレオ表示用モニタ9Bを有する。
ステレオ内視鏡3Bの挿入部11の先端部13には、左右方向に所定間隔だけ離間して左右の対物レンズ15a、15bが配置され、それぞれの結像位置に左右の撮像素子7a,7bが配置されて、左右の撮像装置16a,16bを有するステレオ撮像装置16′が構成される。なお、左右の対物レンズ15a、15bと左右の撮像装置16a,16bとはそれぞれ特性が揃ったものが用いられている。
また、挿入部11内には光源装置6からの照明光を伝送するライトガイド14が挿通されている。ライトガイド14の先端は、先端部13の照明窓に取り付けられ、伝達した照明光を照明窓から出射し、体腔内における患部等の被写体を照明する。
ステレオ内視鏡3Bの挿入部11の先端部13には、左右方向に所定間隔だけ離間して左右の対物レンズ15a、15bが配置され、それぞれの結像位置に左右の撮像素子7a,7bが配置されて、左右の撮像装置16a,16bを有するステレオ撮像装置16′が構成される。なお、左右の対物レンズ15a、15bと左右の撮像装置16a,16bとはそれぞれ特性が揃ったものが用いられている。
また、挿入部11内には光源装置6からの照明光を伝送するライトガイド14が挿通されている。ライトガイド14の先端は、先端部13の照明窓に取り付けられ、伝達した照明光を照明窓から出射し、体腔内における患部等の被写体を照明する。
照明された被写体を撮像する左右の撮像素子7a,7bは、光電変換した撮像信号をCCU8B内の撮像制御部18a、18bに入力され、撮像制御部18a、18bは、左右の画像信号を生成してステレオ画像信号生成部18cに出力する。
ステレオ画像信号生成部18cは、左右の画像信号からステレオ表示用の画像信号を生成し、ステレオ表示用モニタ9Bに出力する。そして、ステレオ表示用モニタ9Bは、ステレオ表示用の画像信号を表示し、術者等のユーザはステレオ表示用の画像信号の表示により被写体を立体視することが可能となる。
また、撮像制御部18a、18bにより生成された左右の画像信号は、計測演算部18dに入力され、左右の画像信号を用いて、三角測量の原理を利用したステレオ計測により、撮像した画像上における2点間の距離等を計測可能にする。後述するように例えば気管支径Denを計測することが可能となる。なお、計測演算部18dにより算出された気管支径Den等の情報は、画像処理部25に出力される。また、撮像制御部18a(又は18b)により生成された映像信号も画像処理部25に出力される。
ステレオ画像信号生成部18cは、左右の画像信号からステレオ表示用の画像信号を生成し、ステレオ表示用モニタ9Bに出力する。そして、ステレオ表示用モニタ9Bは、ステレオ表示用の画像信号を表示し、術者等のユーザはステレオ表示用の画像信号の表示により被写体を立体視することが可能となる。
また、撮像制御部18a、18bにより生成された左右の画像信号は、計測演算部18dに入力され、左右の画像信号を用いて、三角測量の原理を利用したステレオ計測により、撮像した画像上における2点間の距離等を計測可能にする。後述するように例えば気管支径Denを計測することが可能となる。なお、計測演算部18dにより算出された気管支径Den等の情報は、画像処理部25に出力される。また、撮像制御部18a(又は18b)により生成された映像信号も画像処理部25に出力される。
次に図3Bを用いてステレオ計測による計測対象の点(位置)の3次元座標の求め方を説明する。左右の対物レンズ15a、15bを用いて撮像素子7a,7bの撮像面の画像に対して、三角測量の方法により、計測点60の3次元座標(X,Y,Z)が以下の(1)式〜(3)式で計算される。ただし、歪み補正が施された左右の画像上の計測点61,62の2次元座標をそれぞれ(XL,YL)、(XR,YR)とし、左右の対物レンズ15a,15bの光学中心63,64間の距離をDとし、焦点距離をFとし、t=D/(XL−XR)とする。すると、以下の関係式が成立する。
X=t×XR+D/2 ・・・(1)
Y=t×YR ・・・(2)
Z=t×F ・・・(3)
上記のように計測点60に対する画像上での2次元座標の計測点61,62が決定すると、パラメータとしての距離Dおよび焦点距離Fを用いて計測点60の3次元座標が求まる。
X=t×XR+D/2 ・・・(1)
Y=t×YR ・・・(2)
Z=t×F ・・・(3)
上記のように計測点60に対する画像上での2次元座標の計測点61,62が決定すると、パラメータとしての距離Dおよび焦点距離Fを用いて計測点60の3次元座標が求まる。
いくつかの点の3次元座標を求めることによって、それらにおける2点間の距離、2点を結ぶ線と1点の距離、面積、深さ、表面形状等の様々な計測が可能である。また、左の対物レンズ15aの光学中心63、または右の対物レンズ15bの光学中心64から被写体までの距離(物体距離)を求めることも可能となる。上記のステレオ計測を行うためには、内視鏡3Bの先端部13と対物レンズ15a,15bの特性を示す光学データを用いる。なお、図3Bにおいては、2つの撮像面を共に含む面をPLで示し、また、(図3Bにおいては表示していない対物レンズ15a,15bの光軸上となる)右の撮像面の中心をOL,ORで示している。
ステレオ画像から3次元座標を演算する方法としては、特開2011−027911号公報に示される方法などがある。
本実施形態においては、後述する内視鏡画像から気管支径Denを計測する場合には、図3Bの撮像面上での気管支径の一方の計測点60に対応する画像上での計測点61および62と、他方の計測点に対応する点を指定することにより気管支径Denを算出する。
ステレオ画像から3次元座標を演算する方法としては、特開2011−027911号公報に示される方法などがある。
本実施形態においては、後述する内視鏡画像から気管支径Denを計測する場合には、図3Bの撮像面上での気管支径の一方の計測点60に対応する画像上での計測点61および62と、他方の計測点に対応する点を指定することにより気管支径Denを算出する。
この方法に関して図3Cおよび図3Dを用いて説明する。モニタ9Bの表示画面71には内視鏡画像中の気管支72と、この気管支72の抹消側となる次の気管支分岐部73が表示されている様子を示している。この画面71の範囲に対して、メッシュ74で示すようなブロックで区切り、各ブロック内の平均輝度が所定値以下のエリアを抽出する。このようにして抽出された検出ブロック75を斜線をつけて示したのが図3Dとなる。
そして、検出ブロック75の一番直径の大きくなるところを計測対象の気管支径とすることで、計測点60aおよび、計測点60bを設定する。一般的に、管腔臓器を内視鏡で観察すると奥に行くほど暗い画像となるため、上記のように説明した方法で計測点を設定することが可能となる。計測点60a,60bを指定する場合、該計測点60a,60b間が最も大きくなる方向に指定するようにしても良い。
そして、検出ブロック75の一番直径の大きくなるところを計測対象の気管支径とすることで、計測点60aおよび、計測点60bを設定する。一般的に、管腔臓器を内視鏡で観察すると奥に行くほど暗い画像となるため、上記のように説明した方法で計測点を設定することが可能となる。計測点60a,60bを指定する場合、該計測点60a,60b間が最も大きくなる方向に指定するようにしても良い。
上記演算をステレオ画像を構成する左画面および右画面の両方で実施し、左画面および右画面において、それぞれ計測点60aおよび、計測点60bに相当する点を求める。そして、左画面の計測点60aに相当する点を図3Bの計測点61、右画面の計測点60aに相当する計測点62として演算すると、計測点60の位置を求めることができる。同様の演算を計測点60bに相当する左画面および、右画面に対して行うことで、気管支径両端の60に相当する3次元座標を得ることができるため、この2点間の距離から気管支径Denを算出することができる。
以上の動作を内視鏡画像が更新される毎に行うことで、内視鏡画像から気管支径Denの変化を監視することが可能となる。
また、図3Aに示した対となる左右の撮像装置16a,16bを有するステレオ撮像装置16′を備えたステレオ内視鏡3Bを用いる代わりに、図1の単眼(単一)の撮像装置16を備えた内視鏡3Aを用いて、以下のようにステレオ計測を行うようにしても良い。
以上の動作を内視鏡画像が更新される毎に行うことで、内視鏡画像から気管支径Denの変化を監視することが可能となる。
また、図3Aに示した対となる左右の撮像装置16a,16bを有するステレオ撮像装置16′を備えたステレオ内視鏡3Bを用いる代わりに、図1の単眼(単一)の撮像装置16を備えた内視鏡3Aを用いて、以下のようにステレオ計測を行うようにしても良い。
図3Eに示すように気管支2内に内視鏡3Aを挿入した場合において、術者が挿入部11の先端側の湾曲部19を左右に湾曲させて図3Bの左右の撮像装置で撮像する状態とほぼ等価な状態に設定して、ステレオ計測により気管支径を算出するようにしても良い。
例えば湾曲部19を湾曲しない状態において、挿入部11の先端を気管支2の中心線付近に設定し、術者は湾曲部19を例えば左側に湾曲させて、挿入部11の先端が気管支2の左側の内壁に接触させて、図3Bの左の撮像装置16aで撮像する状態に相当する第1の撮像位置16a′に設定する。第1の撮像位置16a′における対物レンズ15と撮像素子7とをそれぞれ15a′、7a′で示している。
例えば湾曲部19を湾曲しない状態において、挿入部11の先端を気管支2の中心線付近に設定し、術者は湾曲部19を例えば左側に湾曲させて、挿入部11の先端が気管支2の左側の内壁に接触させて、図3Bの左の撮像装置16aで撮像する状態に相当する第1の撮像位置16a′に設定する。第1の撮像位置16a′における対物レンズ15と撮像素子7とをそれぞれ15a′、7a′で示している。
この第1の撮像位置16a′において撮像を行った後に、術者は湾曲部19を右側に湾曲させて、図3Eにおいて2点鎖線で示すように先端を気管支2の右側の内壁に接触させて図3Bにおける右の撮像装置16bで撮像する状態に相当する第2の撮像位置16b′に設定する。第2の撮像位置16b′における対物レンズ15と撮像素子7とをそれぞれ15b′、7b′で示している。この第2の撮像位置16b′において撮像を行う。
湾曲操作ノブ20の操作によって湾曲部19を左右にそれぞれ湾曲させた場合の先端部13の左右の移動量や、撮像装置16の対物レンズ15の焦点距離、撮像素子7の左右及び垂直方向の画素数、画素のピッチ等の情報を予め調べて情報記録部27等に格納しておく。
湾曲操作ノブ20の操作によって湾曲部19を左右にそれぞれ湾曲させた場合の先端部13の左右の移動量や、撮像装置16の対物レンズ15の焦点距離、撮像素子7の左右及び垂直方向の画素数、画素のピッチ等の情報を予め調べて情報記録部27等に格納しておく。
このようにした場合、図3Bの左右の光学中心63,64に対応する図3Eにおける光学中心63′、64′や左右の光学中心間の距離Dに対応する距離D′を湾曲部19の湾曲角(又は湾曲操作ノブ20の操作量)等から算出することができる。また図3Bの計測点60の場合に対応する計測点60′に対する撮像素子7a′、7b′上での計測点61′,62′の情報から計測点60′の3次元位置を算出できる。また、計測点60′として気管支径の一方の位置と他方の位置との2点を指定することにより、気管支径を算出することが可能となる。このように、図1の内視鏡3Aを用いて、気管支径を算出しても良い。なお、左右の方向に湾曲させた場合で説明したが、他の方向に湾曲させた場合にも、同様に該他の方向に沿った気管支径を算出することが可能となる。
図1に示すように上記挿入支援装置5は、内視鏡3A又は3Bによる検査が行われる患者に対して、公知のCT(Computed Tomography)で生成された患者の3次元画像情報としてのCTデータを、DVD、ブルーレイディスク、フラッシュメモリ等の可搬型の記憶媒体を介して取り込むCTデータ取込部21と、このCTデータ取込部21によって取り込まれたCTデータを記録する画像記録手段としてのCT画像データ記録部22とを有する。
図1に示すように上記挿入支援装置5は、内視鏡3A又は3Bによる検査が行われる患者に対して、公知のCT(Computed Tomography)で生成された患者の3次元画像情報としてのCTデータを、DVD、ブルーレイディスク、フラッシュメモリ等の可搬型の記憶媒体を介して取り込むCTデータ取込部21と、このCTデータ取込部21によって取り込まれたCTデータを記録する画像記録手段としてのCT画像データ記録部22とを有する。
なお、CT画像データ記録部22は、CTで生成された(被検体としての患者の3次元画像情報としての)CTデータを通信回線、インタネット等を経由して記憶しても良い。このCT画像データ記録部22は、ハードディスク装置や、フラッシュメモリ、DVD等により構成することができる。
また、画像記録手段を構成するCT画像データ記録部22は、CTデータより分離したCT画像データと、CTデータより位置情報を分離した該CT画像データに対応する第1の座標系(CT座標系)を用いた3次元の位置データとを対応付けた対応付け画像情報として記録する対応付け画像情報記録部22aを有する。
また、挿入支援装置5は、CT画像データ記録部22のCT画像データから所定の管腔臓器としての気管支2の3次元画像データを抽出する管腔臓器抽出手段としての管腔臓器抽出回路等からなる気管支抽出部23を有する。
また、画像記録手段を構成するCT画像データ記録部22は、CTデータより分離したCT画像データと、CTデータより位置情報を分離した該CT画像データに対応する第1の座標系(CT座標系)を用いた3次元の位置データとを対応付けた対応付け画像情報として記録する対応付け画像情報記録部22aを有する。
また、挿入支援装置5は、CT画像データ記録部22のCT画像データから所定の管腔臓器としての気管支2の3次元画像データを抽出する管腔臓器抽出手段としての管腔臓器抽出回路等からなる気管支抽出部23を有する。
この気管支抽出部23は、抽出した気管支2の3次元データ(より具体的には3次元のボリュームデータ)から、気管支2の中空形状を表す3次元形状の情報(形状データ)と、3次元形状の画像情報(画像データ)を生成する。つまり、気管支抽出部23は、抽出した気管支2の3次元データから中空の3次元形状の気管支形状の画像としての気管支形状画像2aを生成する気管支形状画像生成手段としての気管支形状画像生成部23aを有する。
また、この気管支抽出部23は、気管支2の3次元データを抽出する際、3次元データに対応する第1の座標系(又はCT座標系)での3次元の位置データと対応付けて抽出する。そして、この気管支抽出部23は、気管支2の3次元形状のデータ(つまり気管支形状データ)と3次元の位置データとを対応付けした対応付け情報を記録するメモリなどからなる対応付け情報記録部23bを有する。また、対応付け画像情報記録部23bは、指定された(3次元)位置における気管支径のデータをルックアップテーブル等で記録している。そして、指定された位置に対応する気管支径のデータを対応付け情報記録部23bから読み出し、気管支径のデータを取得することができる。なお、対応付け情報記録部23bを用いることなく、気管支形状データから気管支径を取得するようにしても良い。
また、この気管支抽出部23は、気管支2の3次元データを抽出する際、3次元データに対応する第1の座標系(又はCT座標系)での3次元の位置データと対応付けて抽出する。そして、この気管支抽出部23は、気管支2の3次元形状のデータ(つまり気管支形状データ)と3次元の位置データとを対応付けした対応付け情報を記録するメモリなどからなる対応付け情報記録部23bを有する。また、対応付け画像情報記録部23bは、指定された(3次元)位置における気管支径のデータをルックアップテーブル等で記録している。そして、指定された位置に対応する気管支径のデータを対応付け情報記録部23bから読み出し、気管支径のデータを取得することができる。なお、対応付け情報記録部23bを用いることなく、気管支形状データから気管支径を取得するようにしても良い。
また、挿入支援装置5は、内視鏡3A又は3Bにおける挿入部11の先端部13に設けた撮像装置16又は16a,16bの撮像により生成される内視鏡画像に対応する仮想的な内視鏡画像としての仮想内視鏡画像(VBS画像と言う)を生成する仮想内視鏡画像生成手段としてのVBS画像生成部24を有する。以下においては、内視鏡3A又は3Bにおけるいずれでも良い場合においては、内視鏡3Aの場合で説明する。
VBS画像生成部24には、内視鏡3Aの先端部13の撮像装置16に関する結像系を含む特性情報(対物レンズ15の焦点距離、撮像素子7の画素数、画素サイズ等)が、例えば入力装置31から制御部26を経て入力される。なお、制御部26を経由することなく、入力装置31から撮像装置16に関する特性情報をVBS画像生成部24に入力するようにしても良い。
VBS画像生成部24には、内視鏡3Aの先端部13の撮像装置16に関する結像系を含む特性情報(対物レンズ15の焦点距離、撮像素子7の画素数、画素サイズ等)が、例えば入力装置31から制御部26を経て入力される。なお、制御部26を経由することなく、入力装置31から撮像装置16に関する特性情報をVBS画像生成部24に入力するようにしても良い。
VBS画像生成部24は、実際に気管支2内に挿入された内視鏡3Aの先端部13内に配置された撮像装置16の3次元位置(挿入部11の先端の3次元位置とも言える)の情報と、撮像装置16による気管支2内の被写体を結像する特性情報と、気管支形状データに基づいて、前記3次元位置(単に位置ともいう)を視点位置として気管支2内を内視鏡的に撮像した内視鏡画像を仮想的に描画するVBS画像を生成する。なお、VBS画像生成部24は、同じ視点位置においても先端の軸方向(撮像装置16の光軸方向とほぼ一致)を変化した場合には、その変化に対応したVBS画像を生成することができる。
従って、例えば挿入部11の先端の位置と、先端の(軸)方向とをCT座標系により指定すると、VBS画像生成部24は、位置と方向の指定に対応したVBS画像を生成する。
従って、例えば挿入部11の先端の位置と、先端の(軸)方向とをCT座標系により指定すると、VBS画像生成部24は、位置と方向の指定に対応したVBS画像を生成する。
また、挿入支援装置5は、CCU8Aから入力される内視鏡画像と、VBS画像生成部24のVBS画像との位置合わせを画像マッチングで行う画像処理部25と、画像処理部25等の制御を行う制御手段としての制御部26と、制御部26の制御下で挿入支援するためのVBS画像等の所定の情報を候補情報として記録する情報記録手段を構成する情報記録部27とを有する。
また、挿入支援装置5は、CT画像データ記録部22に記録されたCT画像データに基づき多断面再構築画像としてのCT断層画像(MPR画像という)を生成するMPR画像生成部28と、MPR画像生成部28が生成したMPR画像を有する挿入経路の設定画面としての経路設定画面を生成し、内視鏡3Aの気管支2内の目標部位側へ挿入する際の経路を設定する経路設定手段としての経路設定部29とを有する。
また、挿入支援装置5は、CT画像データ記録部22に記録されたCT画像データに基づき多断面再構築画像としてのCT断層画像(MPR画像という)を生成するMPR画像生成部28と、MPR画像生成部28が生成したMPR画像を有する挿入経路の設定画面としての経路設定画面を生成し、内視鏡3Aの気管支2内の目標部位側へ挿入する際の経路を設定する経路設定手段としての経路設定部29とを有する。
そして、例えばCT画像データから図2Aに示すように目標部位36を指定した場合、経路設定部29はCT画像データと気管支形状画像2aとから気管支2における(挿入部11の)挿入開始位置から目標部位36近傍となる目標位置までの経路データを生成する経路データ生成部29aの機能を有する。
また、内視鏡システム1は、経路設定部29に対して設定情報を入力するキーボードやポインティングデバイス等からなる入力装置31を有する。また、術者は、この入力装置31から画像処理部25に対して、画像処理を行う際のパラメータや、データを入力したり、制御部26に対して制御動作を選択、指示することができる。
また、術者が経路設定を行った場合、経路設定部29は設定された経路の情報をVBS画像生成部24、MPR画像生成部28、制御部26に送る。VBS画像生成部24及びMPR画像生成部28は、それぞれ経路に沿ったVBS画像、MPR画像を生成し、制御部26は経路に沿って各部の動作の制御を行う。
また、内視鏡システム1は、経路設定部29に対して設定情報を入力するキーボードやポインティングデバイス等からなる入力装置31を有する。また、術者は、この入力装置31から画像処理部25に対して、画像処理を行う際のパラメータや、データを入力したり、制御部26に対して制御動作を選択、指示することができる。
また、術者が経路設定を行った場合、経路設定部29は設定された経路の情報をVBS画像生成部24、MPR画像生成部28、制御部26に送る。VBS画像生成部24及びMPR画像生成部28は、それぞれ経路に沿ったVBS画像、MPR画像を生成し、制御部26は経路に沿って各部の動作の制御を行う。
上記画像処理部25には、CCU8Aにより生成された内視鏡画像(実画像又は単に画像とも言う)と、VBS画像生成部24により生成されたVBS画像とが入力される。また、気管支形状画像生成部23aにより生成された気管支形状画像2aも、画像処理部25に入力される。
本実施形態においては、撮像装置16が配置された挿入部11の先端部13に、挿入部11の先端の位置を検出するセンサを搭載していないため、画像処理部25による位置合わせ処理部25aにおける画像マッチングによって挿入部11の先端の3次元位置(位置)を推定(又は算出)する。
あらかじめ、気管支2の入口やカリーナK(図2A参照)等、気管支形状画像2aからCT座標系により特定できる3次元位置(既知となる位置)又はその近傍位置を動画マッチングの開始位置として設定しておくと、その位置情報を基にVBS画像生成部はVBS画像を生成する。画像処理部25の位置合わせ処理部25aは、気管支2の入口やカリーナ等、気管支形状画像2aからCT座標系(第1の座標系)により特定できる3次元位置(既知となる位置)又はその近傍位置に挿入部11の先端を設定して、CT座標系により挿入部11の先端の位置を推定(又は算出)できる状態に設定する。
本実施形態においては、撮像装置16が配置された挿入部11の先端部13に、挿入部11の先端の位置を検出するセンサを搭載していないため、画像処理部25による位置合わせ処理部25aにおける画像マッチングによって挿入部11の先端の3次元位置(位置)を推定(又は算出)する。
あらかじめ、気管支2の入口やカリーナK(図2A参照)等、気管支形状画像2aからCT座標系により特定できる3次元位置(既知となる位置)又はその近傍位置を動画マッチングの開始位置として設定しておくと、その位置情報を基にVBS画像生成部はVBS画像を生成する。画像処理部25の位置合わせ処理部25aは、気管支2の入口やカリーナ等、気管支形状画像2aからCT座標系(第1の座標系)により特定できる3次元位置(既知となる位置)又はその近傍位置に挿入部11の先端を設定して、CT座標系により挿入部11の先端の位置を推定(又は算出)できる状態に設定する。
そして、術者は内視鏡画像がVBS画像と同じように見えるように挿入11の先端を挿入する。このような位置合わせを行うことにより、画像処理部25の位置合わせ処理部25aは、内視鏡画像とVBS画像とを比較し、比較結果が設定された条件(所定の精度を確保できる誤差)以内で一致する画像マッチングを開始する。
このため、画像処理部25は、内視鏡画像とVBS画像とを比較する画像比較手段としての画像比較部25bを有し、位置合わせ処理部25aは、画像比較部25bによる画像比較を利用して画像マッチングによる位置合わせの処理を行う。
上記のような位置合わせを行うことにより、画像処理部25の位置合わせ処理部25aは、挿入部11の先端の位置と、先端の軸方向(撮像装置16の視点方向又は視線方向)とをCT座標系(第1の座標系)での位置座標と軸方向(姿勢とも言う)を示す情報により特定(取得)できる状態にする。
このため、画像処理部25は、内視鏡画像とVBS画像とを比較する画像比較手段としての画像比較部25bを有し、位置合わせ処理部25aは、画像比較部25bによる画像比較を利用して画像マッチングによる位置合わせの処理を行う。
上記のような位置合わせを行うことにより、画像処理部25の位置合わせ処理部25aは、挿入部11の先端の位置と、先端の軸方向(撮像装置16の視点方向又は視線方向)とをCT座標系(第1の座標系)での位置座標と軸方向(姿勢とも言う)を示す情報により特定(取得)できる状態にする。
このようにして位置合わせした後は、該位置合わせした情報を用いて、画像比較部25bによる画像比較結果により、以後の挿入部11の先端の位置を、CT座標系(第1の座標系)での位置に対応付けた情報として取得することが可能になる。つまり、画像処理部25は、挿入部11の先端の位置(情報)を取得する位置情報取得手段として、挿入部11の先端の位置を推定により取得する位置推定部25cを有する。位置推定部25cも画像比較部25bによる画像比較結果に基づいて挿入部11の先端の位置を取得する。更に説明すると、画像処理部25は、挿入部11が気管支2の深部側(末梢側)に挿入される操作において、位置合わせ処理部25aにより位置合わせ後の状態におけるCT座標系のもとで挿入部11の先端の移動した位置を、内視鏡画像とVBS画像との両画像の比較結果により、推定する。
つまり、位置合わせ処理した位置から、挿入部11の先端を芯線35にほぼ沿って(挿入のために)移動する操作に伴って、撮像装置16が移動するため、内視鏡画像が変化する。
この場合、位置推定部25cは、芯線35にほぼ沿った経路上で挿入部11の先端を移動した場合の(VBS画像生成部24から出力される)VBS画像を用いて現在の内視鏡画像と最も良くマッチングするVBS画像を画像処理により選出し、選出したVBS画像に対応する3次元位置を挿入部11の先端の位置として算出(推定)する。上記ように位置推定部25cは、挿入部11の先端の位置と共にその姿勢も算出(推定)する。
なお、挿入部11の先端は、芯線35上から外れた位置において移動される場合もあるため、芯線35から適宜の距離だけ偏心した位置においてのVBS画像をVBS画像生成部24が生成し、生成したVBS画像を位置合わせ処理部25aに出力するようにしても良い。このようにすると、画像マッチングによる位置推定の範囲を拡大できる。
この場合、位置推定部25cは、芯線35にほぼ沿った経路上で挿入部11の先端を移動した場合の(VBS画像生成部24から出力される)VBS画像を用いて現在の内視鏡画像と最も良くマッチングするVBS画像を画像処理により選出し、選出したVBS画像に対応する3次元位置を挿入部11の先端の位置として算出(推定)する。上記ように位置推定部25cは、挿入部11の先端の位置と共にその姿勢も算出(推定)する。
なお、挿入部11の先端は、芯線35上から外れた位置において移動される場合もあるため、芯線35から適宜の距離だけ偏心した位置においてのVBS画像をVBS画像生成部24が生成し、生成したVBS画像を位置合わせ処理部25aに出力するようにしても良い。このようにすると、画像マッチングによる位置推定の範囲を拡大できる。
また、位置推定部25cにより推定された2つの位置の差分量から挿入部11の先端の移動量及び移動した位置を算出(推定)する。また、位置推定部25cは、推定された1つの位置と、気管支2における特徴領域における分岐点(CT座標系により特定できる位置)のような特定の位置との間の距離を算出(推定)することもできる。
このため、位置推定部25cは、この位置推定部25cにより推定される挿入部11の先端の位置と、所定の管腔臓器としての気管支2内における分岐している分岐領域などの特徴領域までの距離を算出する距離算出手段としての距離算出部の機能を有する。上述したように、画像処理部25は、挿入部11の先端の位置の情報を推定により取得する位置情報取得手段としての位置推定部25cの機能を有する。この場合、位置合わせ処理部25aが位置推定部25cの機能を含む構成と定義しても良い。
なお、本明細書においては、挿入部11の先端は、内視鏡3Aの先端と同じ意味で用いる。
このため、位置推定部25cは、この位置推定部25cにより推定される挿入部11の先端の位置と、所定の管腔臓器としての気管支2内における分岐している分岐領域などの特徴領域までの距離を算出する距離算出手段としての距離算出部の機能を有する。上述したように、画像処理部25は、挿入部11の先端の位置の情報を推定により取得する位置情報取得手段としての位置推定部25cの機能を有する。この場合、位置合わせ処理部25aが位置推定部25cの機能を含む構成と定義しても良い。
なお、本明細書においては、挿入部11の先端は、内視鏡3Aの先端と同じ意味で用いる。
また、画像処理部25は、制御部26における表示を制御する表示制御部26a等の制御の下で、画像表示手段としてのモニタ32に表示する画像を生成する。
表示制御部26aの制御下で、画像処理部25は、通常は、気管支形状画像生成部23aにより生成された気管支形状画像2aの画像信号(映像信号)をモニタ32に出力する。そして、モニタ32には図1に示すように気管支形状画像2aが例えば管腔の中心を通る方向に沿った断面で切り出した2次元断層画像として表示される。なお、2次元断層画像で表示する場合に限定されるものでなく、3次元画像で表示しても良い。3次元画像で表示する場合には、例えば平行投影法による投影図や、管腔内部が分かるように透視図で表示しても良い。
また、図2Aに示すように、モニタ32において表示される気管支形状画像2aには、気管支2の管腔の中心を通る芯線35も表示するようにしている。
表示制御部26aの制御下で、画像処理部25は、通常は、気管支形状画像生成部23aにより生成された気管支形状画像2aの画像信号(映像信号)をモニタ32に出力する。そして、モニタ32には図1に示すように気管支形状画像2aが例えば管腔の中心を通る方向に沿った断面で切り出した2次元断層画像として表示される。なお、2次元断層画像で表示する場合に限定されるものでなく、3次元画像で表示しても良い。3次元画像で表示する場合には、例えば平行投影法による投影図や、管腔内部が分かるように透視図で表示しても良い。
また、図2Aに示すように、モニタ32において表示される気管支形状画像2aには、気管支2の管腔の中心を通る芯線35も表示するようにしている。
なお、芯線35は、例えば気管支形状画像生成部23aが生成するが、画像処理部25において芯線35を生成しても良い。また、画像処理部25は、気管支形状画像2a上に、芯線35と共に、位置推定部25cにより推定された挿入部11の先端の位置を重畳する画像等を生成する画像生成部25dの機能を有する。
術者等のユーザは、挿入部11をその先端から気管支2内に挿入する場合、気管支2の3次元形状を表す気管支形状画像2a上に芯線35と挿入部11の先端の位置とが表示されるため、その表示を参考にすることによって、挿入部11の挿入の操作が行い易くなる。また、芯線35に沿って挿入する操作を行うことにより、画像マッチングによる挿入部11の先端の位置の推定を短時間に行うことができる。
また、画像処理部25は、位置推定部25cにより推定される挿入部11の先端の位置の情報に基づいて、所定の管腔臓器の管腔径の変化量を検知する管腔径変化量検知手段として(所定の管腔臓器としての気管支2の場合の)気管支径の変化量を検知する気管支径変化量検知部25eを有する。
術者等のユーザは、挿入部11をその先端から気管支2内に挿入する場合、気管支2の3次元形状を表す気管支形状画像2a上に芯線35と挿入部11の先端の位置とが表示されるため、その表示を参考にすることによって、挿入部11の挿入の操作が行い易くなる。また、芯線35に沿って挿入する操作を行うことにより、画像マッチングによる挿入部11の先端の位置の推定を短時間に行うことができる。
また、画像処理部25は、位置推定部25cにより推定される挿入部11の先端の位置の情報に基づいて、所定の管腔臓器の管腔径の変化量を検知する管腔径変化量検知手段として(所定の管腔臓器としての気管支2の場合の)気管支径の変化量を検知する気管支径変化量検知部25eを有する。
この気管支径変化量検知部25eは、位置推定部25cにより推定された挿入部11の現在の先端の位置に対応するCT座標系から気管支径を取得する気管支径取得手段としての気管支径取得部と、気管支径取得部により取得した気管支径と予め設定された基準の気管支径とを比較する気管支径比較手段としての気管支径比較部の機能を備える。そして、気管支径取得部は、挿入部11の挿入操作中における推定された挿入部11の先端の各位置の気管支径を順次取得することにより、その変化量、つまり気管支径の変化量を検知する。
また、気管支径比較部は、順次取得された現在の気管支径と、基準の気管支径とを比較する。そして、本実施形態においては、現在の気管支径が基準の気管支径より小さい場合を、VBS画像を含む所定の情報を記録する場合の第1の条件とする。
また、気管支径比較部は、順次取得された現在の気管支径と、基準の気管支径とを比較する。そして、本実施形態においては、現在の気管支径が基準の気管支径より小さい場合を、VBS画像を含む所定の情報を記録する場合の第1の条件とする。
また、本実施形態においては、画像処理部25は、撮像装置16により撮像された内視鏡画像(単に画像とも言う)内における特徴部の変化量を検知する画像変化量検知手段としての画像変化量検知部25gを有する。
このように本実施形態は、第1の変化量検知手段としての気管支径変化量検知部25eと、第2の変化量検知手段としての画像変化量検知部25gとを有する。第1の変化量検知手段としての気管支径変化量検知部25eは、第1の条件を満たすか否かの検知(判定)に用いられる。
また、第2の変化量検知手段としての画像変化量検知部25gは、内視鏡画像内における特徴部の変化量が設定値ΔDthより大きいか否かの第2の条件を満たすかか否かの検知に用いられる。そして、本実施形態においては、第1の条件を満たす状態において、さらに第2の条件を満たす(所定の条件を満たす)場合に、VBS画像を含む情報を記録する。
このように本実施形態は、第1の変化量検知手段としての気管支径変化量検知部25eと、第2の変化量検知手段としての画像変化量検知部25gとを有する。第1の変化量検知手段としての気管支径変化量検知部25eは、第1の条件を満たすか否かの検知(判定)に用いられる。
また、第2の変化量検知手段としての画像変化量検知部25gは、内視鏡画像内における特徴部の変化量が設定値ΔDthより大きいか否かの第2の条件を満たすかか否かの検知に用いられる。そして、本実施形態においては、第1の条件を満たす状態において、さらに第2の条件を満たす(所定の条件を満たす)場合に、VBS画像を含む情報を記録する。
画像変化量検知部25gは、特徴部としての気管支径(気管支2の内径)の変化量を検知する気管支径変化量検知部25h、分岐領域における明るさの変化量、又は分岐領域における特徴領域の明るさの変化量を検知する明るさ変化量検知部25i、分岐領域における形状変化量、又は分岐領域における特徴部の形状変化量を検知する形状変化量検知部25jを有する。
また、形状変化量検知部25jは、気管支2の管腔が分かれる(分岐する)スパー(分岐点又は分岐境界)の長さや角度の変化量を分岐領域(における特徴部)の形状変化量として検知するスパー変化量検知部25kを有し、また明るさ変化量検知部25iは、後述する視野不良検知部25lの機能を有する。視野不良検知部25lの機能を明るさ変化量検知部25iが備える場合に限定されない。
なお、上記制御部26は、位置推定部25cにより推定した挿入部11の先端の位置により経路データ生成部29aによって、(内視鏡3Aの挿入部11の挿入前に)生成された経路データを補正するようにしても良い。
また、形状変化量検知部25jは、気管支2の管腔が分かれる(分岐する)スパー(分岐点又は分岐境界)の長さや角度の変化量を分岐領域(における特徴部)の形状変化量として検知するスパー変化量検知部25kを有し、また明るさ変化量検知部25iは、後述する視野不良検知部25lの機能を有する。視野不良検知部25lの機能を明るさ変化量検知部25iが備える場合に限定されない。
なお、上記制御部26は、位置推定部25cにより推定した挿入部11の先端の位置により経路データ生成部29aによって、(内視鏡3Aの挿入部11の挿入前に)生成された経路データを補正するようにしても良い。
また、制御部26は、気管支径変化量検知部25eによる検知結果と、画像変化量検知部25gによる検知結果とが記録するための所定の条件を満たすか否かの判定を行う条件判定部26bの機能を有する。
制御部26における条件判定部26bは、所定の条件を満たすと判定した場合には、所定の条件を満たすと判定した場合の位置推定部25cにより推定した挿入部11の先端の位置及び姿勢の情報と、該位置及び姿勢の情報に対応するVBS画像とを関連付けた所定の情報、つまり位置及び画像情報を(再度の位置合わせの際に提示する候補情報として)情報記録部27に記録させる。
このため、情報記録部27は、気管支径変化量検知部25eによる検知結果と、画像変化量検知部25gによる検知結果とに基づいて、挿入部11の先端の位置及び姿勢の情報と、該位置及び姿勢の情報に対応するVBS画像とを関連付けた候補情報となる所定の情報を記録する情報記録手段の機能を有する。
制御部26における条件判定部26bは、所定の条件を満たすと判定した場合には、所定の条件を満たすと判定した場合の位置推定部25cにより推定した挿入部11の先端の位置及び姿勢の情報と、該位置及び姿勢の情報に対応するVBS画像とを関連付けた所定の情報、つまり位置及び画像情報を(再度の位置合わせの際に提示する候補情報として)情報記録部27に記録させる。
このため、情報記録部27は、気管支径変化量検知部25eによる検知結果と、画像変化量検知部25gによる検知結果とに基づいて、挿入部11の先端の位置及び姿勢の情報と、該位置及び姿勢の情報に対応するVBS画像とを関連付けた候補情報となる所定の情報を記録する情報記録手段の機能を有する。
また、制御部26の条件判定部26bは、情報記録部27に所定の情報を記録する制御を行う情報記録制御手段としての情報記録制御部26cの機能を有する。情報記録制御部26cは、管腔径変化量検知手段としての気管支径変化量検知部25eが検知した気管支径が、基準の気管支径より小さく、かつ画像変化量検知部25gが検知したスパー等の特徴部の変化量が設定値以上に変化した場合に、情報記録部27がVBS画像を含む所定の情報を記録するように制御する。なお、気管支径変化量検知部25eによる検知結果と、画像変化量検知部25gによる検知結果とが記録するための所定の条件を満たすか否かの判定を制御部26内の条件判定部26bが行う代わりに、気管支径変化量検知部25eと画像変化量検知部25gとがそれぞれ第1の条件と第2の条件を満たすか否かの判定を行うようにしても良い。このため、条件判定部26bの機能を画像処理部25が備える構成にしても良い。
また、制御部26の例えば表示制御部26aは、例えば術者が現在の挿入部11の先端の推定された位置の精度が低いと思うような場合等、再度の位置合わせを行うために、入力装置31から、再度の位置合わせを行う指示信号が入力されたような場合には、情報記録部27に記録された所定の情報を読み出し、画像処理部25を介してモニタ32に候補情報として表示するように制御する。
また、制御部26の例えば表示制御部26aは、例えば術者が現在の挿入部11の先端の推定された位置の精度が低いと思うような場合等、再度の位置合わせを行うために、入力装置31から、再度の位置合わせを行う指示信号が入力されたような場合には、情報記録部27に記録された所定の情報を読み出し、画像処理部25を介してモニタ32に候補情報として表示するように制御する。
この場合、画像処理部25は、気管支形状画像2a上に情報記録部27から読み出した候補情報を、重畳して表示する画像を生成する画像生成部25dを有する。具体的には、気管支形状画像2a上に、挿入部11の先端の位置及び姿勢と、該位置及び姿勢に対応するVBS画像とを重畳して表示する。なお、後述するように図2Dは、モニタ32に表示される気管支形状画像2a上に、挿入部11の先端の位置を該位置に対応した位置に表示すると共に、該位置に対応するVBS画像を該位置に(線で)関連付けて重畳して表示した様子を示す。
術者は、候補情報を参考にして、再度の位置合わせを行い、位置合わせ処理部25a又は位置推定部25cは挿入部11の先端の位置及び姿勢の情報を気管支2の座標系(CT座標系)と対応付けた状態で取得することができる。そして、再度の位置合わせにより、位置推定部25cは、所定の精度を確保して、再度の位置合わせした位置から再び挿入部11の先端を気管支2の深部側に挿入する操作を行うことができる。
術者は、候補情報を参考にして、再度の位置合わせを行い、位置合わせ処理部25a又は位置推定部25cは挿入部11の先端の位置及び姿勢の情報を気管支2の座標系(CT座標系)と対応付けた状態で取得することができる。そして、再度の位置合わせにより、位置推定部25cは、所定の精度を確保して、再度の位置合わせした位置から再び挿入部11の先端を気管支2の深部側に挿入する操作を行うことができる。
本実施形態においては、上述したように、気管支径変化量検知部25eによる検知結果が第1の条件を満たし、画像変化量検知部25gによる検知結果が第2の条件を満たす(つまり第1の条件と第2の条件からなる所定の条件を満たす)判定結果の場合に、その判定結果が得られた場合の(推定された)挿入部11の先端の位置及び姿勢と、該位置及び姿勢に対応するVBS画像とを含む所定の情報を候補情報として情報記録部27に記録するようにしている。なお、上記先端の位置及び姿勢における少なくとも位置を含むように、候補情報となる所定の情報を情報記録部27に記録するようにしても良い。
上記のように互いに異なる複数の条件を満たす場合に所定の情報(単に情報とも記す)を記録することにより、再度の位置合わせを行う場合、適度の情報量(又は数)の候補情報を表示手段としてのモニタ32において表示(又は提示)することができるようにしている。
上記のように互いに異なる複数の条件を満たす場合に所定の情報(単に情報とも記す)を記録することにより、再度の位置合わせを行う場合、適度の情報量(又は数)の候補情報を表示手段としてのモニタ32において表示(又は提示)することができるようにしている。
本実施形態においては、撮像装置16により撮像された内視鏡画像における所定の管腔臓器としての気管支2に関する気管支径等の特徴部の変化量を画像変化量検知部25gにより検知し、少なくとも該画像変化量検知部25gによる検知結果に基づいて、前記検知結果の際の挿入部11の先端に位置及び姿勢(の情報)と、該位置及び姿勢に対応するVBS画像とを含む所定の情報を(再度の位置合わせを行う際に提示する場合の候補情報として)情報記録部27に記録する。
術者等のユーザは、撮像装置16により撮像した内視鏡画像を観察しながら挿入部11を挿入する操作を行うために、情報を記録する条件または状況を把握し易い。また、再度の位置合わせを行う際に提示される候補情報は、内視鏡画像中における特徴部の変化量が挿入部11の先端の位置の移動に対して敏感に変化するようなものに設定し易くできるため、画像比較による位置合わせも行い易いものとなる。
術者等のユーザは、撮像装置16により撮像した内視鏡画像を観察しながら挿入部11を挿入する操作を行うために、情報を記録する条件または状況を把握し易い。また、再度の位置合わせを行う際に提示される候補情報は、内視鏡画像中における特徴部の変化量が挿入部11の先端の位置の移動に対して敏感に変化するようなものに設定し易くできるため、画像比較による位置合わせも行い易いものとなる。
なお、情報記録部27に記録する情報は、挿入部11の先端の位置及び姿勢と、対応するVBS画像とを含むが、更に前記位置及び姿勢の情報に対応する内視鏡画像も含むように記録しても良い。
また、画像処理部25は、内視鏡画像とVBS画像との両画像を比較して画像マッチングを行う際に、内視鏡画像やVBS画像を一時的に記憶したり、画像処理のワークエリアとして用いる画像メモリ26fを有する。なお、画像処理部25の外部に画像メモリ25fを設けるようにしても良い。
また、本実施形態において、例えば入力装置31は、気管支径変化量検知部25eが検知する気管支2の内径の変化量に関する第1の条件と、画像変化量検知部25gが検知する特徴部の変化量に関する第2の条件とのそれぞれを選択的に指定(又は設定)する指定部31aを有する様な構成にしても良い。
また、画像処理部25は、内視鏡画像とVBS画像との両画像を比較して画像マッチングを行う際に、内視鏡画像やVBS画像を一時的に記憶したり、画像処理のワークエリアとして用いる画像メモリ26fを有する。なお、画像処理部25の外部に画像メモリ25fを設けるようにしても良い。
また、本実施形態において、例えば入力装置31は、気管支径変化量検知部25eが検知する気管支2の内径の変化量に関する第1の条件と、画像変化量検知部25gが検知する特徴部の変化量に関する第2の条件とのそれぞれを選択的に指定(又は設定)する指定部31aを有する様な構成にしても良い。
また、例えば情報記録部27は、上述した候補情報となる所定の情報(位置及び画像情報)を記録する他に、第1の条件の条件情報と第2の条件に関する第2の条件の条件情報とを予め記録する条件情報記録部27aを有するようにしても良い。なお、情報記録部27と別体で条件情報記録部27aを備える構成にしても良い。
第1の条件の条件情報は、(a)予め設定した基準の気管支径Dreと現在の(挿入部11の先端での)気管支径Daの差分(変化量)、(b')術者等のユーザが設定した基準位置での基準の気管支径Dreと現在の気管支径の差分(の変化量)である。なお、(b’)をより細分化して、(b)予め設定した分岐数の分岐部の気管支径Dreと現在の気管支径Daの差分(変化量)、(c)ユーザが設定した任意の位置での基準の気管支径Dreと現在の気管支径Daの差分(の変化量)、(d)予め設定した内視鏡挿入長の内視鏡の先端の位置における基準の気管支径Dreと現在の気管支径Daの差分(変化量)としても良い。
第1の条件の条件情報は、(a)予め設定した基準の気管支径Dreと現在の(挿入部11の先端での)気管支径Daの差分(変化量)、(b')術者等のユーザが設定した基準位置での基準の気管支径Dreと現在の気管支径の差分(の変化量)である。なお、(b’)をより細分化して、(b)予め設定した分岐数の分岐部の気管支径Dreと現在の気管支径Daの差分(変化量)、(c)ユーザが設定した任意の位置での基準の気管支径Dreと現在の気管支径Daの差分(の変化量)、(d)予め設定した内視鏡挿入長の内視鏡の先端の位置における基準の気管支径Dreと現在の気管支径Daの差分(変化量)としても良い。
第2の条件の条件情報は、(a)内視鏡画像における気管支径(内視鏡画像から算出した気管支径)Denの変化、(b)内視鏡画像又は内視鏡画像を表示する表示画面の明るさ変化、(c)内視鏡画像における分岐の形状の変化、(d)内視鏡画像におけるスパーの長さの変化、(e)内視鏡画像におけるスパーの角度の変化、(f)(内視鏡画像における)視野の不良、(g)内視鏡画像の大きなぶれ、(h)内視鏡画像に気管支以外が映ったような変化等である。そして、術者等のユーザが、(a)〜(d)の第1の条件の条件情報と、(a)〜(h)の第2の条件の条件情報の中から、例えば(入力装置31の)指定部31aから選択的に指定することができるようにしても良い。
この場合、制御部26は、指定部31aによる指定に対応して、第1の条件と第2の条件の設定を行う条件設定部26dの機能を有する。
この場合、制御部26は、指定部31aによる指定に対応して、第1の条件と第2の条件の設定を行う条件設定部26dの機能を有する。
条件設定部26dは、第1の条件と第2の条件の設定を行う際に、条件判定部26bが判定する際に用いる閾値情報等の設定も行うようにしても良い。なお、閾値情報も情報記録部27に、第1の条件及び第2の条件の情報と対応付けて記録するようにしても良い。また、第1の条件及び第2の条件の情報における一方の条件(例えば第2の条件)の条件情報のみを条件情報記録部27aに記録するようにしても良い。
また、本実施形態においては、位置情報取得部手段としての位置推定部25cが画像比較部25bの比較結果に基づく挿入部11の先端の位置情報の取得に失敗した場合、又は情報記録部27に記録された所定の情報を候補情報として提示させるための指示信号が発生した場合に、前記情報記録部27に記録された前記所定の情報における前記挿入部11の先端の位置を気管支形状画像2aにおける対応する位置に表示すると共に、該先端の位置に対応するVBS画像を表示するように制御する表示制御部26aと、を備え、位置推定部25c又は位置合わせ処理部25aは、情報記録部27から読み出されたVBS画像と、撮像手段により撮像された現在の内視鏡画像との比較により、挿入部11の先端の位置情報を取得する。
なお、図1において、例えば画像処理部25は、CPU(中央演算処理装置)により構成することができるが、画像処理部25内部の位置合わせ処理部25a〜画像変化量検知部25gをそれぞれCPU以外の専用のハードウェアを用いて構成しても良い。また、図1における制御部26に関しても、CPUにより構成しても良いし、CPU以外の専用のハードウェアを用いて構成しても良い。
また、本実施形態においては、位置情報取得部手段としての位置推定部25cが画像比較部25bの比較結果に基づく挿入部11の先端の位置情報の取得に失敗した場合、又は情報記録部27に記録された所定の情報を候補情報として提示させるための指示信号が発生した場合に、前記情報記録部27に記録された前記所定の情報における前記挿入部11の先端の位置を気管支形状画像2aにおける対応する位置に表示すると共に、該先端の位置に対応するVBS画像を表示するように制御する表示制御部26aと、を備え、位置推定部25c又は位置合わせ処理部25aは、情報記録部27から読み出されたVBS画像と、撮像手段により撮像された現在の内視鏡画像との比較により、挿入部11の先端の位置情報を取得する。
なお、図1において、例えば画像処理部25は、CPU(中央演算処理装置)により構成することができるが、画像処理部25内部の位置合わせ処理部25a〜画像変化量検知部25gをそれぞれCPU以外の専用のハードウェアを用いて構成しても良い。また、図1における制御部26に関しても、CPUにより構成しても良いし、CPU以外の専用のハードウェアを用いて構成しても良い。
このような構成の内視鏡システム1は、予め取得した被検体における3次元画像情報を記録する画像記録手段としてのCT画像データ記録部22と、前記3次元画像情報から所定の管腔臓器としての気管支2を抽出する管腔臓器抽出手段としての気管支抽出部23と、前記管腔臓器抽出手段により抽出された前記所定の管腔臓器の情報に対して所定の視点位置から内視鏡的に描画した仮想内視鏡画像を生成する仮想内視鏡画像生成手段としてのVBS画像生成部24と、内視鏡3A又は3B内に設けられ、前記所定の管腔臓器内を撮像する撮像手段としての撮像装置16又は16′と、前記所定の管腔臓器内における前記内視鏡3Aの挿入部11の先端の位置情報を取得する位置情報取得手段としての位置推定部25cと、前記内視鏡3A又は3Bの挿入部11の先端の位置情報に基づいて、前記所定の管腔臓器としての気管支2の管腔径の変化量を検知する管腔径変化量検知手段としての気管支径変化量検知部25eと、前記撮像手段により撮像された内視鏡画像内において、前記所定の管腔臓器としての気管支2に関する特徴部の変化量を検知する画像変化量検知手段としての画像変化量検知部25gと、前記管腔径変化量検知手段の検知結果及び前記画像変化量検知手段の検知結果に基づいて、前記内視鏡の挿入部の先端の位置と、該先端の位置に対応する前記仮想内視鏡画像とを含む所定の情報を記録する情報記録手段としての情報記録部27と、を備えることを特徴とする。
次に本実施形態の動作を説明する。図4は、本実施形態における代表的な処理を示す。
図1の内視鏡システム1の電源が投入され、内視鏡装置4A(又は4B)と、挿入支援装置5とが動作状態になると、図4における処理がスタートする。図4における最初のステップS1において初期設定の処理を行う。この初期設定の処理として、術者は、入力装置31から本実施形態において挿入支援に用いる情報の入力を行う。この場合、術者は指定部31aから第1の条件と第2の条件との指定を行う。また、条件判定部26bは、指定された第1の条件と第2の条件に対応した判定を行う状態になる。
術者が、第1の条件として、(a)予め設定した気管支径(基準の気管支径)Dreと現在の気管支径Daの差分を指定し、第2の条件として内視鏡画像での気管支径Denの変化を指定した場合を(A)として、以下に説明する。
図1の内視鏡システム1の電源が投入され、内視鏡装置4A(又は4B)と、挿入支援装置5とが動作状態になると、図4における処理がスタートする。図4における最初のステップS1において初期設定の処理を行う。この初期設定の処理として、術者は、入力装置31から本実施形態において挿入支援に用いる情報の入力を行う。この場合、術者は指定部31aから第1の条件と第2の条件との指定を行う。また、条件判定部26bは、指定された第1の条件と第2の条件に対応した判定を行う状態になる。
術者が、第1の条件として、(a)予め設定した気管支径(基準の気管支径)Dreと現在の気管支径Daの差分を指定し、第2の条件として内視鏡画像での気管支径Denの変化を指定した場合を(A)として、以下に説明する。
(A)予め設定した基準の気管支径Dreと現在の気管支径Daの差分と、内視鏡画像での気管支径Denの変化(変化量)を指定した場合
上記(A)の場合においては、本実施形態は、現在の気管支径Daが、設定された基準の気管支径Dreより小さい条件を満たす場合において、さらに内視鏡画像から算出した気管支径Denの変化量ΔDenが予め設定された閾値又は設定値ΔDth以上に変化した場合に所定の情報を記録することになる。
上記基準の気管支径Dreを設定することにより、記録を必要としない例えば気管支2の入り口付近等の挿入部位での情報の記録を行わないで、術者が記録を望む挿入部位において所望の情報を記録することができるようにする。また、気管支2の入り口付近等の挿入部位においては、気管支径が太く、また術者は、挿入部11の意志どおりに操作しやすい領域となるのため、挿入部11の先端の位置が気管支2のどこにいるのかは把握しやすい。また、最初の位置合わせを行う位置付近の領域となるため、挿入部11の先端の位置の推定を精度良く行うことができる。
上記(A)の場合においては、本実施形態は、現在の気管支径Daが、設定された基準の気管支径Dreより小さい条件を満たす場合において、さらに内視鏡画像から算出した気管支径Denの変化量ΔDenが予め設定された閾値又は設定値ΔDth以上に変化した場合に所定の情報を記録することになる。
上記基準の気管支径Dreを設定することにより、記録を必要としない例えば気管支2の入り口付近等の挿入部位での情報の記録を行わないで、術者が記録を望む挿入部位において所望の情報を記録することができるようにする。また、気管支2の入り口付近等の挿入部位においては、気管支径が太く、また術者は、挿入部11の意志どおりに操作しやすい領域となるのため、挿入部11の先端の位置が気管支2のどこにいるのかは把握しやすい。また、最初の位置合わせを行う位置付近の領域となるため、挿入部11の先端の位置の推定を精度良く行うことができる。
これに対して、気管支2のある程度末梢側の領域では挿入部11の挿入の操作がしにくくなり、また気管支2も細くなるため先端の位置が気管支2のどこにいるのか分かりにくくなる傾向とあると共に、最初の位置合わせした位置から離れた距離の管腔部位となるため、位置推定の精度も低下し易い傾向となる。
そのため、術者は、再度の位置合わせを行うための候補情報として用いる情報を望む場合がある。そのような場合、術者は、記録を望む部位での気管支径に相当する基準の気管支径Dreを設定する。そして、後述するように術者が記録を望むような管腔部位において再度の位置合わせを行い易くする有効な候補情報となるような所定の情報のみを記録することができるようにしている。
そのため、術者は、再度の位置合わせを行うための候補情報として用いる情報を望む場合がある。そのような場合、術者は、記録を望む部位での気管支径に相当する基準の気管支径Dreを設定する。そして、後述するように術者が記録を望むような管腔部位において再度の位置合わせを行い易くする有効な候補情報となるような所定の情報のみを記録することができるようにしている。
また、内視鏡画像での気管支径Denの変化量ΔDenが設定された設定値ΔDth以上に変化した場合に情報を記録するので、再度の位置合わせを画像の比較によって行うような場合、内視鏡画像での変化量が大きい画像部分を主要な比較対象部分に設定することができる。そして、変化量が大きい比較対象部分の設定により、画像比較による再度の位置合わせを視覚的に行い易く、かつ短時間で終了できるようにする。
上記のようにステップS1の設定が行われると、ステップS2において気管支形状画像生成部23aは、(検査前の患者の3次元データから)図2Aに示すように気管支2の形状画像としての気管支形状画像2aを生成する。そして、気管支形状画像2aは、画像処理部25を経てモニタ32に出力され、モニタ32には図2Aに示すように気管支形状画像2aが表示される。また、上述したように気管支形状画像2a上に、気管支2の管腔の中心を通る芯線35が表示される。芯線35と、分岐点Biの各位置は、CT座標系において特定される既知の3次元位置となる。
上記のようにステップS1の設定が行われると、ステップS2において気管支形状画像生成部23aは、(検査前の患者の3次元データから)図2Aに示すように気管支2の形状画像としての気管支形状画像2aを生成する。そして、気管支形状画像2aは、画像処理部25を経てモニタ32に出力され、モニタ32には図2Aに示すように気管支形状画像2aが表示される。また、上述したように気管支形状画像2a上に、気管支2の管腔の中心を通る芯線35が表示される。芯線35と、分岐点Biの各位置は、CT座標系において特定される既知の3次元位置となる。
次のステップS3において、術者は内視鏡3Aの挿入部11を気管支2内に挿入する。この場合、術者は、気管支2の入口などの既知の位置において、画像比較部25bを用いて撮像装置16(又は16′)による内視鏡画像と、VBS画像とが設定された条件(所定の精度を確保できる誤差以内)で一致するように画像マッチングによる位置合わせ処理を行う。撮像装置16′を用いる場合には、撮像装置16′における一方の撮像装置16a又は16bによる一方の内視鏡画像を採用すれば良い。なお、ステップS2とS3の順序を入れ替えたり、並行して行うようにしても良い。
ステップS3の位置合わせ処理後に、ステップS4に示すように術者は挿入部11の先端を位置合わせした位置よりも気管支2の深部側に挿入する。
挿入部11が挿入された場合、ステップS5に示すように画像処理部25の位置推定部25cは、一定の時間間隔などにおいて挿入部11の先端の位置及び姿勢を画像比較部25bを用いた画像マッチングにより推定が成功したか否かを判定する。
ステップS3の位置合わせ処理後に、ステップS4に示すように術者は挿入部11の先端を位置合わせした位置よりも気管支2の深部側に挿入する。
挿入部11が挿入された場合、ステップS5に示すように画像処理部25の位置推定部25cは、一定の時間間隔などにおいて挿入部11の先端の位置及び姿勢を画像比較部25bを用いた画像マッチングにより推定が成功したか否かを判定する。
画像マッチングにより推定できた場合には、ステップS6に示すように推定した挿入部11の先端の位置及び姿勢を取得すると共に、該挿入部11の先端の(現在の)位置に対応する気管支径Daの情報を(CT画像データ記録部22又は気管支抽出部23等から)取得する。
これらの情報を例えば画像メモリ25f等に一時記憶し、図4における処理において必要な場合に参照する。なお、このステップS6における挿入部11の先端の位置及び姿勢の推定の際に、内視鏡画像から気管支径Denも同時に算出するようにしても良い。
また、推定した挿入部11の先端の位置を気管支形状画像2aに表示する。図2Aに示すように推定した位置Pjを気管支形状画像2a上における該当する位置に表示する。
これらの情報を例えば画像メモリ25f等に一時記憶し、図4における処理において必要な場合に参照する。なお、このステップS6における挿入部11の先端の位置及び姿勢の推定の際に、内視鏡画像から気管支径Denも同時に算出するようにしても良い。
また、推定した挿入部11の先端の位置を気管支形状画像2aに表示する。図2Aに示すように推定した位置Pjを気管支形状画像2a上における該当する位置に表示する。
ステップS6の後のステップS7において気管支径変化量検知部25e又は制御部26の条件判定部26bは、ステップS5において取得した気管支径Daが予め設定した基準の気管支径Dreより小さいか否かの判定を行う。取得した現在の気管支径Daが基準の気管支径Dreより小さくない場合には、ステップS4の処理に戻り、術者は挿入部11を深部側に挿入する。
一方、図4におけるステップS7の判定処理において、取得した気管支径Daが基準の気管支径Dreより小さい場合には、次のステップS8において画像変化量検知部25g(の気管支径変化量検知部25h)は、内視鏡画像から算出した気管支径Denの変化量(差分)ΔDenを検知(算出)する。
つまり、画像変化量検知部25gは、現在の挿入部11の先端の位置における内視鏡画像から算出した気管支径Denと、前回において推定された挿入部11の先端の位置において内視鏡画像から算出した気管支径Denとの変化量ΔDenを算出する。
一方、図4におけるステップS7の判定処理において、取得した気管支径Daが基準の気管支径Dreより小さい場合には、次のステップS8において画像変化量検知部25g(の気管支径変化量検知部25h)は、内視鏡画像から算出した気管支径Denの変化量(差分)ΔDenを検知(算出)する。
つまり、画像変化量検知部25gは、現在の挿入部11の先端の位置における内視鏡画像から算出した気管支径Denと、前回において推定された挿入部11の先端の位置において内視鏡画像から算出した気管支径Denとの変化量ΔDenを算出する。
なお、内視鏡画像から算出される気管支径Denは、気管支2の管腔の平均的な値でなく、分岐部において分岐する方向に広がる非円形形状の場合を含む。このため、内視鏡画像から算出した気管支径Denは、気管支2の管腔のほぼ円形に近い基準の気管支径Dreより大きくなる場合もあり得る。
次のステップS9において制御部26の条件判定部26bは、気管支径の変化量ΔDenが設定値ΔDthより大きいか否かの判定を行う。気管支径の変化量ΔDenが設定値ΔDthより大きくない場合には、ステップS4の処理に戻る。
一方、気管支径の変化量ΔDenが設定値ΔDthより大きい場合には、次のステップS10の処理に進み、条件判定部26bはステップS9の判定結果に対応する挿入部11の先端の位置及び姿勢と、該位置及び姿勢に対応するVBS画像との所定の情報を(提示する際の候補情報として)、情報記録部27に記録する。ステップS10における情報の記録後に、ステップS4の処理に戻る。なお、ステップS9において、気管支径の変化量ΔDenが設定値ΔDthより大きいか否かの判定の代わりに、気管支径の変化量ΔDenが設定値ΔDth以上か否かの判定を行うようにしても良い。
次のステップS9において制御部26の条件判定部26bは、気管支径の変化量ΔDenが設定値ΔDthより大きいか否かの判定を行う。気管支径の変化量ΔDenが設定値ΔDthより大きくない場合には、ステップS4の処理に戻る。
一方、気管支径の変化量ΔDenが設定値ΔDthより大きい場合には、次のステップS10の処理に進み、条件判定部26bはステップS9の判定結果に対応する挿入部11の先端の位置及び姿勢と、該位置及び姿勢に対応するVBS画像との所定の情報を(提示する際の候補情報として)、情報記録部27に記録する。ステップS10における情報の記録後に、ステップS4の処理に戻る。なお、ステップS9において、気管支径の変化量ΔDenが設定値ΔDthより大きいか否かの判定の代わりに、気管支径の変化量ΔDenが設定値ΔDth以上か否かの判定を行うようにしても良い。
図2Bは、図2Aに示したように挿入部11の先端が第1の条件、つまりステップS7の条件を満たす状態になった以降において、位置推定と共に、内視鏡画像から気管支径Denを取得した様子を示す。
図2Bに示すように挿入部11の先端の位置Pj(図2Bにおいては、j=1,2,…,6)は、位置推定部25cにより例えば一定の時間間隔毎に推定されて取得され、推定された位置Pjは、位置P1,P2,…,P6を経て現在の先端の位置P7のように移動する。なお、一定の時間間隔毎の場合に限定されるものでなく、一定の距離毎でも良いし、挿入部11の先端位置の推定の演算をした場合の所定の演算回数毎や、気管支径を算出する演算を行った場合における所定の演算回数毎等でも良い。
また、図2Bにおいて白丸で示す各位置Pjは、第1の条件(ステップS7)を満たす位置であり、黒丸で示す位置P7は、現在の位置である。
図2Bに示すように挿入部11の先端の位置Pj(図2Bにおいては、j=1,2,…,6)は、位置推定部25cにより例えば一定の時間間隔毎に推定されて取得され、推定された位置Pjは、位置P1,P2,…,P6を経て現在の先端の位置P7のように移動する。なお、一定の時間間隔毎の場合に限定されるものでなく、一定の距離毎でも良いし、挿入部11の先端位置の推定の演算をした場合の所定の演算回数毎や、気管支径を算出する演算を行った場合における所定の演算回数毎等でも良い。
また、図2Bにおいて白丸で示す各位置Pjは、第1の条件(ステップS7)を満たす位置であり、黒丸で示す位置P7は、現在の位置である。
また、上述の各位置Pjにおいて、計測演算部18d等により算出された気管支径Denの変化の様子の概略は図2Bのようになり、図2CはステップS7を満たす状態での挿入部11の先端の移動中において、気管支径Denを算出した位置P1〜P6と、算出された気管支径Denの変化の様子を示す。なお、各位置P1〜P6で取得された情報は、画像メモリ25f等に一時的に記憶され、比較に用いられる。
図2B及び図2Cに示すように気管支径Denは、分岐点Bi付近においてピークとなるように気管支径Denが大きく変化する。このため、位置P2から位置P3に移動した場合に、気管支径Denの変化量ΔDenは設定値ΔDthより小さい状態から設定値ΔDthを超える大きな値に変化する。
このため、条件判定部26bは、位置P2から位置P3に変化した場合における例えば位置P3の位置及び姿勢と共に、P3の位置及び姿勢に対応するVBS画像との所定の情報を(候補情報として)情報記録部27に記録する。
図2B及び図2Cに示すように気管支径Denは、分岐点Bi付近においてピークとなるように気管支径Denが大きく変化する。このため、位置P2から位置P3に移動した場合に、気管支径Denの変化量ΔDenは設定値ΔDthより小さい状態から設定値ΔDthを超える大きな値に変化する。
このため、条件判定部26bは、位置P2から位置P3に変化した場合における例えば位置P3の位置及び姿勢と共に、P3の位置及び姿勢に対応するVBS画像との所定の情報を(候補情報として)情報記録部27に記録する。
なお、P3の位置からP4の位置に変化した場合にも気管支径Denは大きい値から小さい値に変化するが、位置P3において記録したために位置P4では記録しない。情報記録部27にP3の位置及び姿勢と共に、対応するVBS画像との情報を(候補情報として)情報記録部27に記録する代わりに、P2とP3との間の位置及び姿勢の情報と共に、対応するVBS画像との情報を記録するようにしても良い。
P3の位置(ほぼ分岐点Biの位置)の場合のように内視鏡画像における気管支径Denが最大又はピークとなる位置付近で選択的に情報を記録するように設定しても良い。このように記録すると、候補情報を提示し、挿入部11の先端を再度の位置合わせのために移動した場合の内視鏡画像における気管支径Denに相当する部分の変化が大きいので、画像マッチング(画像比較)による位置合わせを行い易くなる(下記において説明する図2Dにおける候補情報は、気管支径Denが最大又はピークとなる分岐点Bi、Bi+1の位置付近で情報を記録した例に相当する)。
P3の位置(ほぼ分岐点Biの位置)の場合のように内視鏡画像における気管支径Denが最大又はピークとなる位置付近で選択的に情報を記録するように設定しても良い。このように記録すると、候補情報を提示し、挿入部11の先端を再度の位置合わせのために移動した場合の内視鏡画像における気管支径Denに相当する部分の変化が大きいので、画像マッチング(画像比較)による位置合わせを行い易くなる(下記において説明する図2Dにおける候補情報は、気管支径Denが最大又はピークとなる分岐点Bi、Bi+1の位置付近で情報を記録した例に相当する)。
また、術者は、位置合わせを行う場合、内視鏡画像における気管支径Den部分に注目して、気管支径Den部分が最大となるように挿入部11の先端の位置及び姿勢を調整するようにする。このように再度の位置合わせを行う場合、注目すべき部分を把握し易く、かつその値が最大となるように調整すると言った具合に調整内容(調整方針)が明確になるため、画像マッチング(画像比較)による位置合わせを行い易くなる。
これに対して、従来例においては、注目すべき部分が明確でないし、挿入部11の先端の位置及び姿勢の変化に対してどのように調整すべきかの方向付けも不明確となるため、再度の位置合わせに時間がかかってしまう。
上述したステップS3の位置合わせにより、その位置合わせした位置からの移動距離が小さい場合には、比較的に精度良く位置推定部25cは位置推定を行うことができるが、移動距離が大きくなると、位置推定の精度が低下する場合がある。
これに対して、従来例においては、注目すべき部分が明確でないし、挿入部11の先端の位置及び姿勢の変化に対してどのように調整すべきかの方向付けも不明確となるため、再度の位置合わせに時間がかかってしまう。
上述したステップS3の位置合わせにより、その位置合わせした位置からの移動距離が小さい場合には、比較的に精度良く位置推定部25cは位置推定を行うことができるが、移動距離が大きくなると、位置推定の精度が低下する場合がある。
そして、ステップS5において位置推定が成功しない場合が発生すると、ステップS11において制御部26の表示制御部26aは、情報記録部27に記録された所定の情報を読み出し、画像処理部25に送る。画像処理部25は、提示情報の画像信号をモニタ32を出力し、モニタ32は候補情報を提示する。そして、ステップS3の処理に戻る。
ステップS3において術者は、モニタ32に表示された候補情報を参考にして、再度の位置合わせを行う。再度の位置合わせを行った後、図4の処理を繰り返し行う。このようにして、挿入部11を気管支2の末梢側(深部側)に挿入する操作を円滑に行うことが可能になる。
図2Dは、ステップS11の場合の候補情報の表示例を示す。図2Dの候補情報の表示例においては、位置Pkに至るまでに情報記録部27に記録された挿入部11の先端の位置(図2Dでは気管支径Denの変化量ΔDenが最大となる位置付近の分岐点BiとBi+1と、それぞれに対応するVBS画像とが例えば線で結ぶようにして表示される。なお、分岐点Biよりも基幹側(挿入口側)の分岐点Bi−1等も同様に表示しても良い。
ステップS3において術者は、モニタ32に表示された候補情報を参考にして、再度の位置合わせを行う。再度の位置合わせを行った後、図4の処理を繰り返し行う。このようにして、挿入部11を気管支2の末梢側(深部側)に挿入する操作を円滑に行うことが可能になる。
図2Dは、ステップS11の場合の候補情報の表示例を示す。図2Dの候補情報の表示例においては、位置Pkに至るまでに情報記録部27に記録された挿入部11の先端の位置(図2Dでは気管支径Denの変化量ΔDenが最大となる位置付近の分岐点BiとBi+1と、それぞれに対応するVBS画像とが例えば線で結ぶようにして表示される。なお、分岐点Biよりも基幹側(挿入口側)の分岐点Bi−1等も同様に表示しても良い。
図2Dに示すように気管支2における特徴的な領域となる管腔が分岐する分岐点Bi、Bi+1付近でそれぞれ記録した所定の情報を、再度の位置合わせする場合の候補情報として表示する。このように再度の位置合わせに適した各分岐点付近における必要最小限に絞った候補情報を表示する。従って、術者は、再度の位置合わせを円滑かつ短時間に行い易くなる。換言すると、第1の条件と第2の条件とにより、記録する情報を絞り込むようにしているので、再度の位置合わせを行うのに適した情報量の所定の情報を記録することができる。
なお、図2Dにおいては、分岐点BiとBi+1とにおける候補画像の提示例を示したが、挿入部11の先端の位置Pkに対して、推定された位置Pkに最も近い状態において情報記録部27に記録された情報を候補情報として提示するようにしても良い。図2Dに適用した場合には、分岐点Bi+1付近で記録された情報のみを候補情報として提示するようにしても良い。
なお、図2Dにおいては、分岐点BiとBi+1とにおける候補画像の提示例を示したが、挿入部11の先端の位置Pkに対して、推定された位置Pkに最も近い状態において情報記録部27に記録された情報を候補情報として提示するようにしても良い。図2Dに適用した場合には、分岐点Bi+1付近で記録された情報のみを候補情報として提示するようにしても良い。
これに対して、従来例においては、記録する情報を絞り込むようにしていないので、再度の位置合わせの際に表示される候補情報が多すぎたり、不足してしまい、適切なもので再度の位置合わせを行うまでに時間がかかってしまう。
また、本実施形態においては、挿入部11の先端の位置の移動に対して、内視鏡画像における特徴部が大きく変化した場合において、情報を記録するようにしているので、術者等のユーザは、情報を記録する条件を把握し易い。従って、本実施形態は、ユーザが視覚的に把握し易い条件で再度の位置合わせを行うのに適した情報量の所定の情報を記録するができる。
また、本実施形態においては、記録された情報を候補情報として表示(提示)して再度の位置合わせを行う場合、挿入部11の先端の位置の移動に対して、内視鏡画像における特徴部が大きく変化する特性を反映しているので、ユーザは、画像マッチングによる再度の位置合わせを視覚的に行い易くなる。
また、本実施形態においては、挿入部11の先端の位置の移動に対して、内視鏡画像における特徴部が大きく変化した場合において、情報を記録するようにしているので、術者等のユーザは、情報を記録する条件を把握し易い。従って、本実施形態は、ユーザが視覚的に把握し易い条件で再度の位置合わせを行うのに適した情報量の所定の情報を記録するができる。
また、本実施形態においては、記録された情報を候補情報として表示(提示)して再度の位置合わせを行う場合、挿入部11の先端の位置の移動に対して、内視鏡画像における特徴部が大きく変化する特性を反映しているので、ユーザは、画像マッチングによる再度の位置合わせを視覚的に行い易くなる。
また、気管支径Denが先端の位置の移動の軌跡に対して最大(ピーク)となる位置P3の状態での情報を情報記録部27に記録すると、再度の位置合わせを行い易くなる。なお、モニタ32において、図2Dにおいて更に2点鎖線で示すように現在の内視鏡画像を、情報記録部27から読み出して表示する候補情報としてのVBS画像(及び内視鏡画像)と共に、気管支形状画像2a上に重畳した合成画像として表示するようにしても良い。このように現在の内視鏡画像を候補情報に隣接して表示すると、候補情報との画像比較による位置合わせを行い易くできる。
また、この場合、候補情報側のVBS画像を現在の内視鏡画像の表示位置に重ねるように表示位置を移動可能にしたり、候補情報側の内視鏡画像を現在の内視鏡画像の表示位置に重ねるように表示位置を移動可能にする画像移動部を画像処理部25に設けた構成にしても良い。或いは現在の内視鏡画像の表示位置を候補情報側のVBS画像の表示位置や、候補情報側の内視鏡画像の表示位置に移動可能にすることができる画像移動部を備えた構成にしても良い。
なお、気管支径変化量検知部25eが挿入部11の先端の位置の情報に基づいて気管支径Daを取得する場合、図5や図6に示す方法で取得しても良い。
また、この場合、候補情報側のVBS画像を現在の内視鏡画像の表示位置に重ねるように表示位置を移動可能にしたり、候補情報側の内視鏡画像を現在の内視鏡画像の表示位置に重ねるように表示位置を移動可能にする画像移動部を画像処理部25に設けた構成にしても良い。或いは現在の内視鏡画像の表示位置を候補情報側のVBS画像の表示位置や、候補情報側の内視鏡画像の表示位置に移動可能にすることができる画像移動部を備えた構成にしても良い。
なお、気管支径変化量検知部25eが挿入部11の先端の位置の情報に基づいて気管支径Daを取得する場合、図5や図6に示す方法で取得しても良い。
気管支径を取得(計測)する場合、図5に示すように挿入部11の先端の長手方向(又は軸方向)と垂直な面上となる気管支2の管腔から算出した気管支径Da1を採用しても良いし、挿入部11の先端と、該先端から芯線35に至る垂線を含むように芯線35と垂直な面に沿って算出した気管支径Da2を採用しても良い。或いは図6に示すように気管支2の3次元データを管理するCT座標系の座標軸の方向のDa3を採用しても良い。換言すると、気管支径変化量検知部25eが挿入部11の先端の位置の情報に基づいて、先端の長手方向に対して垂直な面における前記所定の管腔臓器の管腔径の変化量を検知しても良いし、気管支2の管腔の中心線となる芯線35に対して垂直な面における前記所定の管腔臓器の管腔径の変化量を検知しても良い。
上述した(A)の場合においては、第1の条件に用いる基準の気管支径Dreは、患者に依らず1つ設定していた。これに対して、以下に説明するケース(B)、(C)、(D)においては、患者毎に最適な基準の気管支径を設定することを目的として、患者毎に以下のように基準の気管支径を設定する。
上述した(A)の場合においては、第1の条件に用いる基準の気管支径Dreは、患者に依らず1つ設定していた。これに対して、以下に説明するケース(B)、(C)、(D)においては、患者毎に最適な基準の気管支径を設定することを目的として、患者毎に以下のように基準の気管支径を設定する。
(B)予め設定した分岐数の分岐部の気管支径
術者は、再度の位置合わせを行う際に、参照しようとする候補情報として記録した方が良いと思う分岐数の分岐部を予め決めて入力する設定をする。なお、分岐数とは、気管支における入り口から管腔が分岐している部分としての分岐部の順序に応じて順次番号付けする等して特定し易いように付した識別情報である。術者が予め設定した分岐数に該当する気管支径を気管支抽出部23またはCT画像データ記録部22の3次元データから算出し、算出した気管支径を基準の気管支径Dreとして設定する。
この設定後は、設定した基準の気管支径Dreを用いて、(A)のケース(場合)と同様の動作を行う。
術者は、再度の位置合わせを行う際に、参照しようとする候補情報として記録した方が良いと思う分岐数の分岐部を予め決めて入力する設定をする。なお、分岐数とは、気管支における入り口から管腔が分岐している部分としての分岐部の順序に応じて順次番号付けする等して特定し易いように付した識別情報である。術者が予め設定した分岐数に該当する気管支径を気管支抽出部23またはCT画像データ記録部22の3次元データから算出し、算出した気管支径を基準の気管支径Dreとして設定する。
この設定後は、設定した基準の気管支径Dreを用いて、(A)のケース(場合)と同様の動作を行う。
このようにした場合、実際の患者の気管支に応じて基準の気管支径Dreを設定できる。このため、体格などが異なる患者の場合においても、実際に挿入部11が挿入される患者の気管支に対応した基準の気管支径Dreを適切に設定できる。
また、術者が実際に候補情報として記録することを望む位置の気管支径に対応した基準の気管支径Dreを精度良く設定することができる。従って、記録を必要としない情報を無駄に記録することなく、術者が望む候補情報となる有効な情報のみを記録することができる。
なお、上述した(A)の場合のように1つの基準の気管支径Dreを設定してこの値より小さい気管支径を記録する場合の条件に設定しても良いが、さらに挿入目標となる分岐数が決まっている場合には、2つ目となる基準の気管支径を設定しても良い。
また、術者が実際に候補情報として記録することを望む位置の気管支径に対応した基準の気管支径Dreを精度良く設定することができる。従って、記録を必要としない情報を無駄に記録することなく、術者が望む候補情報となる有効な情報のみを記録することができる。
なお、上述した(A)の場合のように1つの基準の気管支径Dreを設定してこの値より小さい気管支径を記録する場合の条件に設定しても良いが、さらに挿入目標となる分岐数が決まっている場合には、2つ目となる基準の気管支径を設定しても良い。
具体的には、上記のように記録することを望む位置の気管支径に対応した基準の気管支径の分岐数に対応する基準の気管支径Dre0と挿入目標とする分岐数の気管支径に対応する基準の気管支径Dre1との2つを設定し、2つの基準の気管支径Dre0,Dre1との間の気管支径を満たすことを、記録を行う際の条件に設定しても良い。換言すると、第1の条件に関する上限側の基準の気管支径となる1つの基準の気管支径Dreの他に、さらに下限側の基準の気管支径を設定し、算出した現在の気管支径Daが下限側の基準の気管支径よりも小さくなった場合には目標とする管腔部位まで挿入できたと判断して記録する動作を終了するようにしても良い。
また、上述した分岐数の代わりに、解剖学的に分岐毎に名称が決められている次数を用いるようにしても良い。
また、上述した分岐数の代わりに、解剖学的に分岐毎に名称が決められている次数を用いるようにしても良い。
なお、現在の気管支径Daが上記基準の気管支径Dreより小さい条件を満たすか否かを検知(算出)する場合、検知(算出)する位置としては図7に示すように芯線35上の分岐点Bi、スパーSpiの位置付近に設定しても良い。或いは点線で示すように、分岐点Bi、又はスパーSpiを中心とした半径Ra,Rbの領域以内に制限するようにしても良い。このような領域を設定する場合、各分岐点Bi又はスパーSpi毎に設定しても良い。
また、図7とは異なり、図8に示すように分岐点Biから距離daだけ芯線35方向に沿って気管支2の入り口(基幹)側に戻った位置Pa、又はスパーSpiから距離daだけ芯線35方向に沿って気管支2の入り口(基幹)側に戻った位置Pb、を気管支径Denの変化を検知(算出)する位置として設定しても良い。この場合、芯線35上の位置Pa又はPbから外れた場合の位置を含めるようにしても良い。
また、図7とは異なり、図8に示すように分岐点Biから距離daだけ芯線35方向に沿って気管支2の入り口(基幹)側に戻った位置Pa、又はスパーSpiから距離daだけ芯線35方向に沿って気管支2の入り口(基幹)側に戻った位置Pb、を気管支径Denの変化を検知(算出)する位置として設定しても良い。この場合、芯線35上の位置Pa又はPbから外れた場合の位置を含めるようにしても良い。
また、上述した挿入部11の先端の位置Pjにおいて気管支径を算出する場合の方向として、図9や図10に示すように挿入部11の先端の軸方向と垂直な面に沿った気管支径Da1,芯線35に垂直で面に沿った気管支径Da2や、CT座標系の3次元データの座標軸に沿った気管支径Da3としても良い。
また、基準の気管支径Dreを算出する方法として、該当する気管支2の最大値/最小値、右肺のみ、左肺のみ、両肺、或いは予め設定した挿入部11の挿入経路上のみ等としても良い。
(C)術者等のユーザが設定した任意の位置における気管支径
検査前に、術者が指定した気管支2上の位置における気管支径をCT座標系の3次元データより算出し、算出した気管支径を基準の気管支径Dreに設定する。設定後は、この基準の気管支径Dreを用いて、(A)の場合と同様の動作を行う。
また、基準の気管支径Dreを算出する方法として、該当する気管支2の最大値/最小値、右肺のみ、左肺のみ、両肺、或いは予め設定した挿入部11の挿入経路上のみ等としても良い。
(C)術者等のユーザが設定した任意の位置における気管支径
検査前に、術者が指定した気管支2上の位置における気管支径をCT座標系の3次元データより算出し、算出した気管支径を基準の気管支径Dreに設定する。設定後は、この基準の気管支径Dreを用いて、(A)の場合と同様の動作を行う。
気管支径の算出方法は、図9や図10に示すように挿入部11の先端の軸方向と垂直な面に沿った気管支径Da1,芯線35に垂直で面に沿った気管支径Da2や、CT座標系の3次元データの座標軸に沿った気管支径Da3としても良い。
(C)の場合は、(B)の場合とほぼ同様の効果を有する。
(D)予め設定した挿入長の挿入部11の先端の位置における気管支径Dre
術者は、予め候補情報を取得した方が良いと思う挿入部11の挿入長(内視鏡挿入長)を入力装置31から設定し、例えば画像処理部25の位置推定部25cが有する距離推定部の機能により、CT画像データ記録部22又は気管支抽出部23の3次元データにおいて設定された前記挿入長で到達可能となる気管支2内の位置を全て算出する。
算出した各位置における各気管支径を算出し、その平均値を基準の気管支径Dreとして設定する。
(C)の場合は、(B)の場合とほぼ同様の効果を有する。
(D)予め設定した挿入長の挿入部11の先端の位置における気管支径Dre
術者は、予め候補情報を取得した方が良いと思う挿入部11の挿入長(内視鏡挿入長)を入力装置31から設定し、例えば画像処理部25の位置推定部25cが有する距離推定部の機能により、CT画像データ記録部22又は気管支抽出部23の3次元データにおいて設定された前記挿入長で到達可能となる気管支2内の位置を全て算出する。
算出した各位置における各気管支径を算出し、その平均値を基準の気管支径Dreとして設定する。
この設定後は、(A)の場合と同様の動作を行う。(D)の場合、(B)の場合とほぼ同様の効果を有する。
なお、気管支径の算出方法は、図9や図10に示すように挿入部11の先端の軸方向と垂直な面において算出した気管支径Da1,芯線35に垂直な面において算出した気管支径Da2や、CT座標系の3次元データの座標軸に沿った気管支径Da3としても良い。
また、基準の気管支径Dreを算出する方法として、該当する気管支2の最大値/最小値、右肺のみ、左肺のみ、両肺、或いは予め設定した挿入部11の挿入経路上のみ等としても良い。
なお、気管支径の算出方法は、図9や図10に示すように挿入部11の先端の軸方向と垂直な面において算出した気管支径Da1,芯線35に垂直な面において算出した気管支径Da2や、CT座標系の3次元データの座標軸に沿った気管支径Da3としても良い。
また、基準の気管支径Dreを算出する方法として、該当する気管支2の最大値/最小値、右肺のみ、左肺のみ、両肺、或いは予め設定した挿入部11の挿入経路上のみ等としても良い。
上述した(A)〜(D)においては、画像変化量検知部25gが内視鏡画像における気管支径Denの変化を検出する気管支径変化量検知部25hの場合を説明したが、以下の(E)〜(K)のような他の変化量を検知するようにしてもよい。(E)内視鏡画像における内視鏡画像(画面)の明るさの変化、(F)分岐の形状の変化、(G)スパーの長さの変化、(H)スパーの角度の変化、(I)視野の不良、(J)内視鏡画像における気管支の分岐以外の変化を監視する動作の説明図、(K)内視鏡画像における特徴部のぶれの変化、を検知しても良い。(E)〜(K)における(E)の場合から順次説明する。
(E)内視鏡画像における内視鏡画像(画面)の明るさの変化を検知する場合、
(E)の場合には、予め設定した一定時間の時間間隔で、(画像変化量検知部25gの)明るさ変化量検知部25iは、内視鏡画像を取得し、取得した内視鏡画像内で暗部の面積を監視する動作を継続して行う。取得した場合の挿入部11の先端の位置を図11においてP1,P2,…,P5で示している。
(E)内視鏡画像における内視鏡画像(画面)の明るさの変化を検知する場合、
(E)の場合には、予め設定した一定時間の時間間隔で、(画像変化量検知部25gの)明るさ変化量検知部25iは、内視鏡画像を取得し、取得した内視鏡画像内で暗部の面積を監視する動作を継続して行う。取得した場合の挿入部11の先端の位置を図11においてP1,P2,…,P5で示している。
暗部の面積とは、内視鏡画像における明るさが、規定値以下となる画像部分の合計面積を指す。図11においては、気管支2内における挿入部11の先端前方側の管腔部分における分岐部分が暗部として認識される。
例えば、位置P1から位置P2に移動した場合における暗部の面積変化は小さいが、位置P3においては分岐している分岐領域に近づくために、位置P2と比較して暗部の面積が大きく変化している。明るさ変化量検知部25i又は条件判定部26bは、暗部の面積が設定値以上に大きく変化したことを検知した場合、変化した位置(図11の場合にはP3)において、情報記録部27にVBS画像を含む(所定の)情報を記録するように制御する。
なお、暗部として検出される分岐部分の数の変化(例えば2個から1個,又は1個から2個の変化)に基づいて、暗部の面積の大きな変化量として検知することにより、その際に情報記録部27にVBS画像を含む情報を記録するようにしても良い。
例えば、位置P1から位置P2に移動した場合における暗部の面積変化は小さいが、位置P3においては分岐している分岐領域に近づくために、位置P2と比較して暗部の面積が大きく変化している。明るさ変化量検知部25i又は条件判定部26bは、暗部の面積が設定値以上に大きく変化したことを検知した場合、変化した位置(図11の場合にはP3)において、情報記録部27にVBS画像を含む(所定の)情報を記録するように制御する。
なお、暗部として検出される分岐部分の数の変化(例えば2個から1個,又は1個から2個の変化)に基づいて、暗部の面積の大きな変化量として検知することにより、その際に情報記録部27にVBS画像を含む情報を記録するようにしても良い。
また、明るさの変化量として、暗部の面積の変化量から検出する場合に限定されるものでなく、内視鏡画像の明るさの平均値を算出し、平均値が閾値以上の変化量となった場合に、情報記録部27にVBS画像を含む情報を記録するようにしても良い。
内視鏡画像を取得する間隔は、一定時間毎、又は一定距離毎の他に、挿入部11の先端位置を取得するタイミングと連動させても良い。なお、VBS画像を含む情報を記録する場合、暗部の面積等の明るさが設定値以上変化した位置に限らず、その前後の位置としても良い。
上記のように位置P3の位置で情報を記録した場合、、画像中の特徴部の変化量として暗部の面積等、術者が視覚的に比較し易い変化量を採用しているので、候補情報として表示した場合にも、位置合わせの状態を視覚的に行い易い。
内視鏡画像を取得する間隔は、一定時間毎、又は一定距離毎の他に、挿入部11の先端位置を取得するタイミングと連動させても良い。なお、VBS画像を含む情報を記録する場合、暗部の面積等の明るさが設定値以上変化した位置に限らず、その前後の位置としても良い。
上記のように位置P3の位置で情報を記録した場合、、画像中の特徴部の変化量として暗部の面積等、術者が視覚的に比較し易い変化量を採用しているので、候補情報として表示した場合にも、位置合わせの状態を視覚的に行い易い。
(F)分岐の形状の変化を検知する場合、
図12は気管支2の分岐形状の部分を抽出した状態で示している。この場合には図12に示すように挿入部11を気管支2内に挿入した場合、画像変化量検知部25gの形状変化量検知部25jは、内視鏡画像における特徴部の形状の変化量を検知する。
より具体的には、図12に示す位置P1,P2,…,P5で示すように例えば一定間隔又は一定時間間隔で形状変化量検知部25jは、内視鏡画像を取得し、取得した内視鏡画像内で例えば気管支2の分岐形状を監視する動作を継続して行う。
図12おいては各位置Pj(j=1,2,…,5)で取得した内視鏡画像と共に、気管支2の分岐形状を抽出した状態で示す。
図12は気管支2の分岐形状の部分を抽出した状態で示している。この場合には図12に示すように挿入部11を気管支2内に挿入した場合、画像変化量検知部25gの形状変化量検知部25jは、内視鏡画像における特徴部の形状の変化量を検知する。
より具体的には、図12に示す位置P1,P2,…,P5で示すように例えば一定間隔又は一定時間間隔で形状変化量検知部25jは、内視鏡画像を取得し、取得した内視鏡画像内で例えば気管支2の分岐形状を監視する動作を継続して行う。
図12おいては各位置Pj(j=1,2,…,5)で取得した内視鏡画像と共に、気管支2の分岐形状を抽出した状態で示す。
具体的には、位置P1から位置P2に移動した場合における気管支分岐形状の変化は小さいが、位置P3においては分岐している分岐領域に近づくために、位置P2と比較して気管支分岐形状が大きく変化している。形状変化量検知部25jは、気管支分岐形状が(設定値以上に)大きく変化したことを検知した場合、変化した位置(図12ではP3)において、情報記録部27にVBS画像を含む情報を記録する。
内視鏡画像を取得する間隔は、一定時間毎、又は一定距離毎の他に、挿入部11の先端位置を取得するタイミングと連動させても良い。
(F)の場合には、画像中の特徴部の変化量として気管支分岐形状の変化のように、術者が視覚的に比較し易い変化量を採用しているので、候補情報として表示した場合にも、位置合わせの状態を視覚的に行い易い。
内視鏡画像を取得する間隔は、一定時間毎、又は一定距離毎の他に、挿入部11の先端位置を取得するタイミングと連動させても良い。
(F)の場合には、画像中の特徴部の変化量として気管支分岐形状の変化のように、術者が視覚的に比較し易い変化量を採用しているので、候補情報として表示した場合にも、位置合わせの状態を視覚的に行い易い。
(G)スパーの長さの変化を検知する場合、
この場合には図13(A)に示すように挿入部11を気管支2内に挿入した場合、画像変化量検知部25gのスパー変化量検知部25kは、内視鏡画像におけるスパーの長さの変化量を検知する。図13(A)おいては各位置Pj(j=1,2,…,5)で取得した内視鏡画像と共に、スパーの長さを抽出した状態で示す。なお、スパーの長さとは、気管支2の管腔が二股の分岐している分岐部における境界の長さである。
図13(A)に示すように一定間隔又は一定時間間隔の位置P1,P2,…,P5において、(画像変化量検知部25gの)スパー変化量検知部25kは、内視鏡画像を取得し、取得した内視鏡画像内で例えば気管支2のスパーの長さを監視する動作を継続して行う。
この場合には図13(A)に示すように挿入部11を気管支2内に挿入した場合、画像変化量検知部25gのスパー変化量検知部25kは、内視鏡画像におけるスパーの長さの変化量を検知する。図13(A)おいては各位置Pj(j=1,2,…,5)で取得した内視鏡画像と共に、スパーの長さを抽出した状態で示す。なお、スパーの長さとは、気管支2の管腔が二股の分岐している分岐部における境界の長さである。
図13(A)に示すように一定間隔又は一定時間間隔の位置P1,P2,…,P5において、(画像変化量検知部25gの)スパー変化量検知部25kは、内視鏡画像を取得し、取得した内視鏡画像内で例えば気管支2のスパーの長さを監視する動作を継続して行う。
図13(B)は挿入部11の先端の位置Pjと、スパーの長さの関係を示す。図13(A),図13(B)から分かるように例えば、位置P1から位置P2に移動した場合におけるスパーの長さの変化は小さいが、位置P3においては分岐している分岐領域に近づくために、位置P2と比較してスパーの長さが大きく変化している。スパー変化量検知部25kは、スパーの長さが(設定値以上に)大きく変化したことを検知した場合、変化した位置(図13ではP3)において、情報記録部27にVBS画像を含む情報を記録するように制御する。
内視鏡画像を取得する間隔は、一定時間毎、又は一定距離毎の他に、挿入部11の先端位置を取得するタイミングと連動させても良い。
(G)の場合には、画像中の特徴部の変化量として気管支分岐形状の変化のように、術者が視覚的に比較し易い変化量を採用しているので、候補情報として表示した場合にも、位置合わせの状態を視覚的に行い易い。
内視鏡画像を取得する間隔は、一定時間毎、又は一定距離毎の他に、挿入部11の先端位置を取得するタイミングと連動させても良い。
(G)の場合には、画像中の特徴部の変化量として気管支分岐形状の変化のように、術者が視覚的に比較し易い変化量を採用しているので、候補情報として表示した場合にも、位置合わせの状態を視覚的に行い易い。
(H)スパーの角度の変化を検知する場合、
この場合には図14(A)に示すように挿入部11を気管支2内に挿入した場合、画像変化量検知部25gのスパー変化量検知部25kは、内視鏡画像におけるスパーの角度(向き)の変化量を検知する。図14(A)おいては各位置Pj(j=1,2,…,5)で取得した内視鏡画像と共に、スパーの角度を抽出した状態で示す。なお、スパーの角度とは、気管支2の管腔が二股の分岐している分岐部における境界部分の長手方向の向き又は、基準方向となす角度である。
図14(A)に示す位置P1,P2,…,P5で示すように例えば一定間隔又は一定時間間隔で(画像変化量検知部25gの)スパー変化量検知部25kは、内視鏡画像を取得し、取得した内視鏡画像内で例えば気管支2のスパーの角度を監視する動作を継続して行う。
この場合には図14(A)に示すように挿入部11を気管支2内に挿入した場合、画像変化量検知部25gのスパー変化量検知部25kは、内視鏡画像におけるスパーの角度(向き)の変化量を検知する。図14(A)おいては各位置Pj(j=1,2,…,5)で取得した内視鏡画像と共に、スパーの角度を抽出した状態で示す。なお、スパーの角度とは、気管支2の管腔が二股の分岐している分岐部における境界部分の長手方向の向き又は、基準方向となす角度である。
図14(A)に示す位置P1,P2,…,P5で示すように例えば一定間隔又は一定時間間隔で(画像変化量検知部25gの)スパー変化量検知部25kは、内視鏡画像を取得し、取得した内視鏡画像内で例えば気管支2のスパーの角度を監視する動作を継続して行う。
図14(B)は挿入部11の先端の位置Pjと、スパーの角度の関係を示す。図14(A),図14(B)から分かるように例えば、位置P1から位置P2に移動した場合におけるスパーの角度の変化は小さいが、位置P3においては分岐している分岐領域に近づけるために術者は挿入部11を捩るために、位置P2と比較してスパーの角度が大きく変化している。スパー変化量検知部25kは、スパーの角度が(設定値以上に)大きく変化したことを検知した場合、変化した位置(図14ではP3)において、情報記録部27にVBS画像を含む情報を記録するように制御する。
内視鏡画像を取得する間隔は、一定時間毎、又は一定距離毎の他に、挿入部11の先端位置を取得するタイミングと連動させても良い。
(H)の場合には、画像中の特徴部の変化量として気管支分岐形状の変化のように、術者が視覚的に比較し易い変化量を採用しているので、候補情報として表示した場合にも、位置合わせの状態を視覚的に行い易い。
内視鏡画像を取得する間隔は、一定時間毎、又は一定距離毎の他に、挿入部11の先端位置を取得するタイミングと連動させても良い。
(H)の場合には、画像中の特徴部の変化量として気管支分岐形状の変化のように、術者が視覚的に比較し易い変化量を採用しているので、候補情報として表示した場合にも、位置合わせの状態を視覚的に行い易い。
(I)視野の不良を検知する場合、
この場合には図15に示すように挿入部11を気管支2内に挿入した場合、画像変化量検知部25gの視野不良検知部25lは、内視鏡画像における視野不良の発生を検知する。
視野不良(の発生)は、気管支内で撮像した内視鏡画像において、管腔の先端側の分岐や暗部が識別できる程度に映っているか否かで判定し、汚れが視野全体を覆ってしまうことを想定して、視野不良検知部25lは、内視鏡画像の明るさが所定の明るさよりも暗くなり、暗い領域がほぼ内視鏡画像の全体に及ぶ場合に視野不良と判定する。
このため、例えば明るさ変化量検知部25iが視野不良検知部25lの機能を備える。
この場合には図15に示すように挿入部11を気管支2内に挿入した場合、画像変化量検知部25gの視野不良検知部25lは、内視鏡画像における視野不良の発生を検知する。
視野不良(の発生)は、気管支内で撮像した内視鏡画像において、管腔の先端側の分岐や暗部が識別できる程度に映っているか否かで判定し、汚れが視野全体を覆ってしまうことを想定して、視野不良検知部25lは、内視鏡画像の明るさが所定の明るさよりも暗くなり、暗い領域がほぼ内視鏡画像の全体に及ぶ場合に視野不良と判定する。
このため、例えば明るさ変化量検知部25iが視野不良検知部25lの機能を備える。
図15においては各位置Pj(j=1,2,…,5)で取得した内視鏡画像の概略を示す。位置P1,P2,…,P5で示すように例えば一定間隔又は一定時間間隔で(画像変化量検知部25gの)視野不良検知部25lは、内視鏡画像を取得し、取得した内視鏡画像内で視野不良を監視する動作を継続して行う。図15に示す例では、位置P2から位置P3に移動した場合に視野不良の発生を検知して、変化の直前の位置P2において、情報記録部27にVBS画像を含む情報を記録する。
内視鏡画像を取得する間隔は、一定時間毎、又は一定距離毎の他に、挿入部11の先端位置を取得するタイミングと連動させても良い。
(I)の場合には、画像中の特徴部の変化量として視野不良のように、術者が視覚的に比較し易い変化量を採用しているので、情報を記録した状態を把握し易い。
内視鏡画像を取得する間隔は、一定時間毎、又は一定距離毎の他に、挿入部11の先端位置を取得するタイミングと連動させても良い。
(I)の場合には、画像中の特徴部の変化量として視野不良のように、術者が視覚的に比較し易い変化量を採用しているので、情報を記録した状態を把握し易い。
なお、上述した形状変化量検知部25jは、気管支内の分岐形状の変化量を検知していたが、以下のように分岐形状から分岐形状以外の構造、形状に変化した場合、換言すると、分岐形状以外に変化したことを検知した場合に情報を記録するようにしても良い。
(J)内視鏡画像における気管支の分岐以外の変化を検知する場合、
この場合には図16に示すように挿入部11を気管支2内に挿入した場合、変化量検知部25gの形状変化量検知部25jは、気管支2内を撮像した内視鏡画像における気管支2の分岐が内視鏡画像内に存在しているか否かを監視する動作を継続して行う。そして、術者により挿入部11の湾曲部19が湾曲されたり、挿入部11が捩られたりして、分岐が内視鏡画像内に存在していないと判定した場合には、その直前の位置でのVBS画像を含む情報を情報記録部27に記録する。
(J)内視鏡画像における気管支の分岐以外の変化を検知する場合、
この場合には図16に示すように挿入部11を気管支2内に挿入した場合、変化量検知部25gの形状変化量検知部25jは、気管支2内を撮像した内視鏡画像における気管支2の分岐が内視鏡画像内に存在しているか否かを監視する動作を継続して行う。そして、術者により挿入部11の湾曲部19が湾曲されたり、挿入部11が捩られたりして、分岐が内視鏡画像内に存在していないと判定した場合には、その直前の位置でのVBS画像を含む情報を情報記録部27に記録する。
図16に示すように位置P1,P2,…,P5で示すように例えば一定間隔又は一定時間間隔で(画像変化量検知部25gの)形状変化量検知部25jは、内視鏡画像を取得し、取得した内視鏡画像内で例えば分岐形状部分を抽出し、分岐の有無を監視する動作を継続して行う。そして、図16において位置P2から位置P3に移動した場合、分岐が存在しない状態に変化したことを判定し、その変化の直前の位置P2において、情報記録部27にVBS画像を含む情報を記録するように制御する。
内視鏡画像を取得する間隔は、一定時間毎、又は一定距離毎の他に、挿入部11の先端位置を取得するタイミングと連動させても良い。
(J)の場合には、画像中の特徴部の変化量として分岐形状の有無の変化のように、術者が視覚的に比較し易い変化量を採用しているので、情報を記録した状態を把握し易い。
内視鏡画像を取得する間隔は、一定時間毎、又は一定距離毎の他に、挿入部11の先端位置を取得するタイミングと連動させても良い。
(J)の場合には、画像中の特徴部の変化量として分岐形状の有無の変化のように、術者が視覚的に比較し易い変化量を採用しているので、情報を記録した状態を把握し易い。
(K)内視鏡画像における特徴部のぶれの変化を検知する場合、
この場合には図17に示すように画像処理部25は、CCU8Aから順次所定の時間間隔(例えば1/30s又は1/60s)で入力される画像信号を画像メモリ25fにおける第1メモリ81aと第2メモリ81bに交互に記憶する。例えば、最新となるn番目の画像Inは、第2メモリ81bに記憶され、その1フレーム又は1フィールド前のn−1番目の画像In−1は第2メモリ81bに記憶されている。
隣接するフレーム又はフィールドで撮像されたn−1番目の画像In−1と、n番目の画像Inとはぶれ量演算処理部82に入力され、ぶれ量演算処理部82は、一方の画像(例えば画像In)中において設定した点に対して、他方の画像における対応点をぶれ量を表す動きベクトル量として算出する演算を行う。
この場合には図17に示すように画像処理部25は、CCU8Aから順次所定の時間間隔(例えば1/30s又は1/60s)で入力される画像信号を画像メモリ25fにおける第1メモリ81aと第2メモリ81bに交互に記憶する。例えば、最新となるn番目の画像Inは、第2メモリ81bに記憶され、その1フレーム又は1フィールド前のn−1番目の画像In−1は第2メモリ81bに記憶されている。
隣接するフレーム又はフィールドで撮像されたn−1番目の画像In−1と、n番目の画像Inとはぶれ量演算処理部82に入力され、ぶれ量演算処理部82は、一方の画像(例えば画像In)中において設定した点に対して、他方の画像における対応点をぶれ量を表す動きベクトル量として算出する演算を行う。
ぶれ量演算処理部82により算出された動きベクトル量は、ぶれ量判定部83に入力され、ぶれ量判定部83は、算出された動きベクトル量をぶれ量と見なして、動きベクトル量の大きさ(絶対値)が規定値を超えるか否かを判定し、判定結果に応じてVBS画像を含む情報を候補情報として記録したりする。なお、図1に示す条件判定部26bがぶれ量判定部83の機能を備える構成にしても良い。
ぶれ量演算処理部82は、画像Inの中心点を中心としたW×Hピクセルの範囲をテンプレートに設定し、その中心点に対応する画像In−1上の対応点を探索する。対応点の探索は、例えば輝度のSAD(Sum of Absolute Differences)を算出することにより行われる。テンプレートの画素値をt(x,y)、探索対象の画像の画素値をg(x,y)とすると、座標(u,v)におけるSADであるF(u,v) は一般に以下の(4)式で算出される。
ぶれ量演算処理部82は、画像Inの中心点を中心としたW×Hピクセルの範囲をテンプレートに設定し、その中心点に対応する画像In−1上の対応点を探索する。対応点の探索は、例えば輝度のSAD(Sum of Absolute Differences)を算出することにより行われる。テンプレートの画素値をt(x,y)、探索対象の画像の画素値をg(x,y)とすると、座標(u,v)におけるSADであるF(u,v) は一般に以下の(4)式で算出される。
F(u,v)=ΣiΣj|g(i+u,j+v)−t(i,j)| (4)
なお、Σi,Σjは、それぞれiがNW以内、NH以内のテンプレートの幅W、高さHにおいて|g−t|を加算する演算を行うことを表し、またテンプレートの幅をW、高さをHとした場合、−W/2≦NW≦W/2,−H/2≦NH≦H/2とする。また、画像Inに相当する画像In−1の中心座標を (Ox,Oy)とし、Ox−W/2≦u≦Ox+W/2,Oy−H/2≦v≦Oy+H/2の範囲でF(u,v)が算出される。F(u,v)が最小となるときの座標(Ex,Ey)が対応点となる。
画像Inの中心座標(Ox,Oy)に対する対応点の座標(Ex,Ey)から、動きベクトルmは(5)式で算出される。
m=(Ex−Ox,Ey−Oy) ・・・(5)
以上が動きベクトルmの算出方法である。
なお、Σi,Σjは、それぞれiがNW以内、NH以内のテンプレートの幅W、高さHにおいて|g−t|を加算する演算を行うことを表し、またテンプレートの幅をW、高さをHとした場合、−W/2≦NW≦W/2,−H/2≦NH≦H/2とする。また、画像Inに相当する画像In−1の中心座標を (Ox,Oy)とし、Ox−W/2≦u≦Ox+W/2,Oy−H/2≦v≦Oy+H/2の範囲でF(u,v)が算出される。F(u,v)が最小となるときの座標(Ex,Ey)が対応点となる。
画像Inの中心座標(Ox,Oy)に対する対応点の座標(Ex,Ey)から、動きベクトルmは(5)式で算出される。
m=(Ex−Ox,Ey−Oy) ・・・(5)
以上が動きベクトルmの算出方法である。
動きベクトルmの算出により、該動きベクトルmをぶれ量として算出する処理が終了すると、ぶれ量判定部83にて動きベクトルmの大きさを規定値と比較を行い、ぶれ量判定部83は、動きベクトルmの大きさが規定値より大きいと判定した場合は、ぶれ量判定部83は、情報記録部27に対して規定値を超えるぶれ変化が発生したと判定して、情報記録部27に対して、VBS画像を記録する記録指示信号(又は保存指示信号)を出力する。
この記録指示信号を受けた情報記録部27は、規定値を超えるぶれが発生前の、画像メモリ25fの第1メモリ81aの画像を候補画像として記録する。この候補画像を記録する動作は、記録指示信号が入力される度に行われ、情報記録部27には候補画像が蓄積されていく。
この記録指示信号を受けた情報記録部27は、規定値を超えるぶれが発生前の、画像メモリ25fの第1メモリ81aの画像を候補画像として記録する。この候補画像を記録する動作は、記録指示信号が入力される度に行われ、情報記録部27には候補画像が蓄積されていく。
以上の動作を繰り返すことで、内視鏡画像のぶれが規定値より大きくなった場合の直前の内視鏡画像を候補画像として蓄積していくことが可能となる。尚、内視鏡画像のぶれを検出する方法としては、SHIFT(Scale-Invariant Feature Transform)による演算や、各画像に対応する特徴点を演算することができなかった場合あるいは、画像の周波数解析で高周波成分が規定値以上に減少した場合に、同様に記録するようにしても良い。そのような場合にも同様の効果が得られる。
なお、上述した実施形態において、代表的な組み合わせの場合を説明したが、上述した組み合わせ以外の組み合わせにより、情報を記録するようにしても良い。
つまり、本発明は上述した実施形態における第1の条件と第2の条件に関する任意の組み合わせの構成、方法の場合も含む。
また、条件情報記録手段としての条件情報記録部27aは、第1の条件と第2の条件として設定可能な複数の候補条件の情報や候補情報をそれぞれ記録すると説明したが、候補条件の情報や候補情報を用いることなく、第1の条件と第2の条件として設定可能な複数の条件情報(又は情報)をそれぞれ記録しても良い。また、複数の条件情報(又は情報)を記録することなく、術者などが所望とする条件情報を指定するようにしても良い。
なお、上述した実施形態において、代表的な組み合わせの場合を説明したが、上述した組み合わせ以外の組み合わせにより、情報を記録するようにしても良い。
つまり、本発明は上述した実施形態における第1の条件と第2の条件に関する任意の組み合わせの構成、方法の場合も含む。
また、条件情報記録手段としての条件情報記録部27aは、第1の条件と第2の条件として設定可能な複数の候補条件の情報や候補情報をそれぞれ記録すると説明したが、候補条件の情報や候補情報を用いることなく、第1の条件と第2の条件として設定可能な複数の条件情報(又は情報)をそれぞれ記録しても良い。また、複数の条件情報(又は情報)を記録することなく、術者などが所望とする条件情報を指定するようにしても良い。
なお、上述の説明においては、入力装置31等から再度の位置合わせを行う指示信号が制御部26に入力された場合に、情報記録部27に記録された情報を候補情報として表示手段としてのモニタ32に表示(提示)することを説明した。
本発明はこの場合に限定されるものでなく、例えば、所定のタイミングで情報記録部27に記録された情報を候補情報として表示手段としてのモニタ32で表示(提示)するようにしても良い。
例えば入力装置31等からユーザが制御部26に対して、候補情報を表示する時間間隔や条件を設定するための入力を行い、制御部26は、設定された時間間隔又は条件に合致する場合に、情報記録部27から情報を読み出す制御を行い、画像処理部25を経てモニタ32にVBS画像を含む候補情報を表示するようにしても良い。
また、撮像手段により撮像された画像情報及び仮想内視鏡画像を比較する画像比較手段と、情報取得手段に記録された仮想内視鏡画像を所定のタイミングで表示する表示手段と、備えた構成において、情報取得手段が、画像比較手段の比較結果に基づいて撮像手段の少なくとも位置情報を取得する構成にしても良い。
なお、気管支径変化量検知部25eが検知した気管支径が基準の気管支径Dreより小さく、かつ画像変化量検知手段25gが検知したスパー等の特徴部の変化量が設定値以上に変化した場合に、VBS画像を含む情報を情報記録部27に記録するが、前記変化量が最大値又はピークとなるように変化する場合には、情報記録制御部26c等がその変化量が最大値又はピークとなる挿入部11の先端の位置及びその姿勢と、対応するVBS画像を含む情報を情報記録部27に記録するようにしても良い。
また、本発明は、上述した例えば図1に示した構成に限定されるものでなく、請求項1に記載した基本的な構成(要素)のみにしても良いし、この基本的な構成において、単数又は複数の構成要素を選択的に追加した構成にしても良い。
本発明はこの場合に限定されるものでなく、例えば、所定のタイミングで情報記録部27に記録された情報を候補情報として表示手段としてのモニタ32で表示(提示)するようにしても良い。
例えば入力装置31等からユーザが制御部26に対して、候補情報を表示する時間間隔や条件を設定するための入力を行い、制御部26は、設定された時間間隔又は条件に合致する場合に、情報記録部27から情報を読み出す制御を行い、画像処理部25を経てモニタ32にVBS画像を含む候補情報を表示するようにしても良い。
また、撮像手段により撮像された画像情報及び仮想内視鏡画像を比較する画像比較手段と、情報取得手段に記録された仮想内視鏡画像を所定のタイミングで表示する表示手段と、備えた構成において、情報取得手段が、画像比較手段の比較結果に基づいて撮像手段の少なくとも位置情報を取得する構成にしても良い。
なお、気管支径変化量検知部25eが検知した気管支径が基準の気管支径Dreより小さく、かつ画像変化量検知手段25gが検知したスパー等の特徴部の変化量が設定値以上に変化した場合に、VBS画像を含む情報を情報記録部27に記録するが、前記変化量が最大値又はピークとなるように変化する場合には、情報記録制御部26c等がその変化量が最大値又はピークとなる挿入部11の先端の位置及びその姿勢と、対応するVBS画像を含む情報を情報記録部27に記録するようにしても良い。
また、本発明は、上述した例えば図1に示した構成に限定されるものでなく、請求項1に記載した基本的な構成(要素)のみにしても良いし、この基本的な構成において、単数又は複数の構成要素を選択的に追加した構成にしても良い。
本出願は、2013年3月27日に日本国に出願された特願2013−67408号を優先権主張の基礎として出願するものであり、上記の開示内容は、本願明細書、請求の範囲に引用されるものとする。
本発明の一態様の内視鏡システムは、被検体の管腔臓器の位置と対応付けられた形状情報及び画像情報を予め取得可能な内視鏡システムであって、内視鏡の挿入部の先端の位置を推定する位置推定部と、前記管腔臓器の位置に対応付けられた前記形状情報に基づいて、前記位置推定部に推定された前記内視鏡の挿入部の先端の位置における前記被検体の管腔臓器の管腔径を取得する管腔径取得部と、前記管腔径取得部により取得された前記管腔径と予め設定された基準の管腔径とに基づいて、前記管腔径取得部により取得された管腔径が前記基準の管腔径より小さいか否かを判定する条件判定部と、前記内視鏡内に設けられ、前記被検体の管腔臓器内を撮像する撮像部と、前記条件判定部により、前記管腔径取得部により取得された管腔径が前記基準の管腔径より小さいと判定された場合、前記内視鏡の挿入部の挿入動作に伴う前記撮像部により撮像された内視鏡画像に関する所定のパラメータの変化量を検知する画像変化量検知部と、前記画像情報に基づいて、任意の視点位置から内視鏡的に描画した仮想内視鏡画像を生成する仮想内視鏡画像生成部と、前記画像変化量検知部により検知された前記内視鏡画像に関する所定のパラメータの変化量が予め設定された基準の設定値より大きい場合、前記内視鏡の挿入部の先端の位置及び当該内視鏡の挿入部の先端の位置に対応する前記仮想内視鏡画像の少なくとも一方を記録する情報記録部と、を備える。
本発明の一態様の内視鏡システムは、被検体の管腔臓器を撮像する撮像部を有する内視鏡と、前記内視鏡とは異なる医療診断装置から取得された前記被検体の管腔臓器の3次元画像情報を記録する記録部と、前記内視鏡の挿入部の先端の位置を推定する位置推定部と、前記位置推定部に推定された前記内視鏡の挿入部の先端の位置における前記被検体の管腔臓器の管腔径を前記記録部に記録された前記3次元画像情報に基づいて取得する管腔径取得部と、前記管腔径取得部により取得された前記管腔径と予め設定された基準の管腔径とに基づいて、前記管腔径取得部により取得された管腔径が前記基準の管腔径より小さいか否かを判定する条件判定部と、前記条件判定部により、前記管腔径取得部により取得された管腔径が前記基準の管腔径より小さいと判定された場合、前記内視鏡の挿入部の挿入動作に伴う前記撮像部により撮像された内視鏡画像に関する所定のパラメータの変化量を検知する画像変化量検知部と、前記記録部に記録された前記3次元画像情報に基づいて、任意の視点位置から内視鏡的に描画した仮想内視鏡画像を生成する仮想内視鏡画像生成部と、前記画像変化量検知部により検知された前記内視鏡画像に関する所定のパラメータの変化量が予め設定された基準の設定値より大きい場合、前記内視鏡の挿入部の先端の位置及び当該内視鏡挿入部の先端の位置に対応する前記仮想内視鏡画像を記録する情報記録部と、を備える。
Claims (13)
- 予め取得した被検体における3次元画像情報を記録する画像記録部と、
前記3次元画像情報から所定の管腔臓器を抽出する管腔臓器抽出部と、
前記管腔臓器抽出部により抽出された前記所定の管腔臓器の情報に対して所定の視点位置から内視鏡的に描画した仮想内視鏡画像を生成する仮想内視鏡画像生成部と、
内視鏡内に設けられ、前記所定の管腔臓器内を撮像する撮像部と、
前記内視鏡の挿入部の先端の位置情報を取得する位置情報取得部と、
前記内視鏡の挿入部の先端の位置情報に基づいて前記所定の管腔臓器の管腔径の変化量を検知する管腔径変化量検知比較部と、
前記撮像部により撮像された内視鏡画像内において、前記所定の管腔臓器に関する特徴部の変化量を検知する画像変化量検知部と、
前記管腔径変化量検知部の検知結果及び前記画像変化量検知部の検知結果に基づいて、前記内視鏡の挿入部の先端の位置と、該先端の位置に対応する前記仮想内視鏡画像とを含む所定の情報を記録する情報記録部と、
を備えることを特徴とする内視鏡システム。 - 前記管腔径変化量検知部は、前記内視鏡の挿入部の先端の長手方向に対して垂直な面における前記所定の管腔臓器の管腔径の変化量を検知することを特徴とする請求項1に記載の内視鏡システム。
- 前記管腔径変化量検知部は、前記所定の管腔臓器の管腔の中心線となる芯線に対して垂直な面における前記所定の管腔臓器の管腔径の変化量を検知することを特徴とする請求項1に記載の内視鏡システム。
- 前記画像変化量検知部は、前記所定の管腔臓器の管腔が分岐する分岐領域における特徴部の形状変化量を検知することを特徴とする請求項1に記載の内視鏡システム。
- 前記画像変化量検知部は、前記所定の管腔臓器の管腔が分岐する分岐領域における特徴領域の明るさ情報の変化量を検知することを特徴とすることを特徴とする請求項1に記載の内視鏡システム。
- 前記撮像部により撮像された前記内視鏡画像及び前記仮想内視鏡画像生成部により生成された前記仮想内視鏡画像を比較する画像比較部を更に備え、
前記位置情報取得部は、前記画像比較部の比較結果に基づいて前記内視鏡の挿入部の先端の前記位置情報を取得することを特徴とする請求項1に記載の内視鏡システム。 - 前記所定の管腔臓器の管腔形状画像を生成する管腔形状画像生成部と、
前記位置情報取得部が前記画像比較部の比較結果に基づく前記内視鏡の挿入部の先端の位置情報の取得に失敗した場合、又は前記所定の情報を提示させるための指示信号が発生した場合に、前記情報記録部に記録された前記所定の情報における前記内視鏡の挿入部の先端の位置を前記管腔形状画像における対応する位置に表示すると共に、該先端の位置に対応する前記仮想内視鏡画像を表示するように制御する表示制御部と、
を更に備え、
前記位置情報取得部は、前記情報記録部から読み出された前記仮想内視鏡画像と、前記撮像部により撮像された現在の内視鏡画像との比較により、前記内視鏡の挿入部の先端の位置情報を取得することを特徴とする請求項6に記載の内視鏡システム。 - 前記管腔径変化量知部が検知した前記管腔径が、予め設定された基準の管腔径より小さく、かつ前記画像変化量検知部が検知した前記特徴部の変化量が予め設定された設定値以上に変化した場合に、前記情報記録部が前記所定の情報を記録するように制御する情報記録制御部を更に有することを特徴とする請求項1に記載の内視鏡システム。
- 前記画像変化量検知部が検知した前記特徴部の変化量が前記設定値を超えて変化する場合には、前記変化量が最大値となる場合に前記情報記録部が前記所定の情報を記録するように制御することを特徴とする請求項8に記載の内視鏡システム。
- 更に、管腔径変化量検知部の検知結果と前記画像変化量検知部の検知結果とが所定の条件を形成する第1の条件と第2の条件をそれぞれ満たすか否かの判定を行う条件判定部を有し、前記情報記録部は、前記条件判定部が前記所定を満たす判定結果の場合に、前記所定の情報を記録することを特徴とする請求項1に記載の内視鏡システム。
- 更に、前記第1の条件と前記第2の条件としてそれぞれ複数の条件情報を記録した条件情報記録部と、
前記条件情報記録部から前記第1の条件と前記第2の条件としてそれぞれ使用する条件情報を選択的に指定する指定部と、
を備えることを特徴とする請求項10に記載の内視鏡システム。 - 前記画像変化量検知部は、前記所定の管腔臓器の管腔が分岐する分岐領域における特徴部の形状変化量として、前記管腔が分岐する分岐境界の長さ、又は前記分岐境界の長手方向の向きの変化が設定値以上変化したか否かを検知することを特徴とする請求項4に記載の内視鏡システム。
- 前記条件判定部が、前記所定の条件を満たすと判定した場合、前記情報記録部は、前記挿入部の先端の位置と、前記仮想内視鏡画像とを含む前記所定の情報として、更に前記挿入部の先端の軸方向の情報を記録することを特徴とする請求項10に記載の内視鏡システム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014549267A JP5715312B2 (ja) | 2013-03-27 | 2014-02-19 | 内視鏡システム |
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013067408 | 2013-03-27 | ||
JP2013067408 | 2013-03-27 | ||
JP2014549267A JP5715312B2 (ja) | 2013-03-27 | 2014-02-19 | 内視鏡システム |
PCT/JP2014/053876 WO2014156378A1 (ja) | 2013-03-27 | 2014-02-19 | 内視鏡システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP5715312B2 JP5715312B2 (ja) | 2015-05-07 |
JPWO2014156378A1 true JPWO2014156378A1 (ja) | 2017-02-16 |
Family
ID=51623379
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014549267A Active JP5715312B2 (ja) | 2013-03-27 | 2014-02-19 | 内視鏡システム |
Country Status (5)
Country | Link |
---|---|
US (1) | US9516993B2 (ja) |
EP (1) | EP2918218A4 (ja) |
JP (1) | JP5715312B2 (ja) |
CN (1) | CN104883950B (ja) |
WO (1) | WO2014156378A1 (ja) |
Families Citing this family (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016214782A (ja) * | 2015-05-26 | 2016-12-22 | Mrt株式会社 | 気管支鏡の作動方法、マーキング用気管支鏡、切除標的領域の特定方法、及び、プログラム |
JP6594133B2 (ja) * | 2015-09-16 | 2019-10-23 | 富士フイルム株式会社 | 内視鏡位置特定装置、内視鏡位置特定装置の作動方法および内視鏡位置特定プログラム |
JP6654038B2 (ja) * | 2015-12-22 | 2020-02-26 | 富士フイルム株式会社 | 内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法 |
EP3395229A4 (en) * | 2015-12-25 | 2019-09-04 | Olympus Corporation | IMAGE PROCESSING DEVICE, IMAGE PROCESSING METHOD, AND PROGRAM |
JP6608111B2 (ja) * | 2016-09-28 | 2019-11-20 | 富士フイルム株式会社 | 医用画像保存再生装置および方法並びにプログラム |
JP6779089B2 (ja) * | 2016-10-05 | 2020-11-04 | 富士フイルム株式会社 | 内視鏡システム及び内視鏡システムの駆動方法 |
JP6828465B2 (ja) * | 2017-01-30 | 2021-02-10 | セイコーエプソン株式会社 | 内視鏡操作支援システム |
JP6745748B2 (ja) * | 2017-03-16 | 2020-08-26 | 富士フイルム株式会社 | 内視鏡位置特定装置、その作動方法およびプログラム |
US10638084B2 (en) * | 2017-03-28 | 2020-04-28 | Olympus Corporation | Endoscope apparatus, endoscope system, and endoscope image recording method |
WO2018188466A1 (en) * | 2017-04-12 | 2018-10-18 | Bio-Medical Engineering (HK) Limited | Automated steering systems and methods for a robotic endoscope |
CN110769731B (zh) * | 2017-06-15 | 2022-02-25 | 奥林巴斯株式会社 | 内窥镜系统、内窥镜用处理系统、图像处理方法 |
JP7126673B2 (ja) * | 2017-10-17 | 2022-08-29 | 国立大学法人千葉大学 | 内視鏡画像処理プログラム及び内視鏡システム |
JP7037410B2 (ja) | 2018-03-28 | 2022-03-16 | 日本光電工業株式会社 | 挿管システム |
JP2020022563A (ja) | 2018-08-06 | 2020-02-13 | ソニー・オリンパスメディカルソリューションズ株式会社 | 医療用観察装置 |
CN112584738B (zh) * | 2018-08-30 | 2024-04-23 | 奥林巴斯株式会社 | 记录装置、图像观察装置、观察系统、观察系统的控制方法及存储介质 |
WO2020194472A1 (ja) * | 2019-03-25 | 2020-10-01 | オリンパス株式会社 | 移動支援システム、移動支援方法、および移動支援プログラム |
WO2021038495A1 (en) | 2019-08-30 | 2021-03-04 | Auris Health, Inc. | Instrument image reliability systems and methods |
EP4340718A1 (en) * | 2021-05-17 | 2024-03-27 | Jihad Ali Mustapha | A measuring device and a measurement method thereof |
US20230053189A1 (en) * | 2021-08-11 | 2023-02-16 | Terumo Cardiovascular Systems Corporation | Augmented-reality endoscopic vessel harvesting |
US20230404670A1 (en) * | 2022-05-27 | 2023-12-21 | Covidien Lp | Creating a navigation pathway to a target in the lung and method of navigating to the target |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6773393B1 (en) * | 1999-08-05 | 2004-08-10 | Olympus Optical Co., Ltd. | Apparatus and method for detecting and displaying form of insertion part of endoscope |
US20040059263A1 (en) * | 2002-09-24 | 2004-03-25 | Spiration, Inc. | Device and method for measuring the diameter of an air passageway |
JP4245880B2 (ja) * | 2002-08-30 | 2009-04-02 | オリンパス株式会社 | 内視鏡装置 |
US8465452B2 (en) * | 2003-02-21 | 2013-06-18 | 3Dt Holdings, Llc | Devices, systems, and methods for removing stenotic lesions from vessels |
JP2005338551A (ja) * | 2004-05-28 | 2005-12-08 | Olympus Corp | 工業用内視鏡装置 |
WO2007100846A2 (en) * | 2006-02-28 | 2007-09-07 | Emphasys Medical, Inc. | Endoscopic tool |
WO2007129493A1 (ja) | 2006-05-02 | 2007-11-15 | National University Corporation Nagoya University | 医療画像観察支援装置 |
JP5372407B2 (ja) * | 2008-05-23 | 2013-12-18 | オリンパスメディカルシステムズ株式会社 | 医療機器 |
JP5188879B2 (ja) * | 2008-05-23 | 2013-04-24 | オリンパスメディカルシステムズ株式会社 | 医療機器 |
RU2011120186A (ru) * | 2008-10-20 | 2012-11-27 | Конинклейке Филипс Электроникс, Н.В. | Способ и система локализации на основе изображений |
JP5570769B2 (ja) | 2009-07-23 | 2014-08-13 | オリンパス株式会社 | 内視鏡装置、計測方法、およびプログラム |
CN102883651B (zh) * | 2010-01-28 | 2016-04-27 | 宾夕法尼亚州研究基金会 | 可应用于支气管镜引导的基于图像的全局配准系统和方法 |
JP5877797B2 (ja) | 2010-02-18 | 2016-03-08 | コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. | 標的組織の運動を推定するシステム及びその作動方法 |
JP5380348B2 (ja) | 2010-03-31 | 2014-01-08 | 富士フイルム株式会社 | 内視鏡観察を支援するシステムおよび方法、並びに、装置およびプログラム |
US20130281821A1 (en) * | 2011-01-13 | 2013-10-24 | Koninklijke Philips Electronics N.V. | Intraoperative camera calibration for endoscopic surgery |
-
2014
- 2014-02-19 CN CN201480003398.2A patent/CN104883950B/zh active Active
- 2014-02-19 WO PCT/JP2014/053876 patent/WO2014156378A1/ja active Application Filing
- 2014-02-19 EP EP14776199.3A patent/EP2918218A4/en not_active Withdrawn
- 2014-02-19 JP JP2014549267A patent/JP5715312B2/ja active Active
-
2015
- 2015-06-11 US US14/736,710 patent/US9516993B2/en active Active
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5715312B2 (ja) | 内視鏡システム | |
JP5715311B2 (ja) | 内視鏡システム | |
JPWO2014156378A1 (ja) | 内視鏡システム | |
US9357945B2 (en) | Endoscope system having a position and posture calculating portion | |
US9326660B2 (en) | Endoscope system with insertion support apparatus | |
US9066086B2 (en) | Methods for generating stereoscopic views from monoscopic endoscope images and systems using the same | |
JP5750669B2 (ja) | 内視鏡システム | |
WO2017212725A1 (ja) | 医療用観察システム | |
JP6022133B2 (ja) | 医療装置 | |
US9345394B2 (en) | Medical apparatus | |
WO2018230099A1 (ja) | 内視鏡システム、内視鏡システムの作動方法 | |
JP7441934B2 (ja) | 処理装置、内視鏡システム及び処理装置の作動方法 | |
WO2016098665A1 (ja) | 医療機器システム、医療機器システムの作動方法 | |
WO2022190366A1 (ja) | 内視鏡用形状計測システムおよび内視鏡用形状計測方法 | |
JP6335839B2 (ja) | 医療装置、医療画像生成方法及び医療画像生成プログラム | |
WO2016039292A1 (ja) | 内視鏡システム |