JP2017225700A - 観察支援装置及び内視鏡システム - Google Patents
観察支援装置及び内視鏡システム Download PDFInfo
- Publication number
- JP2017225700A JP2017225700A JP2016124808A JP2016124808A JP2017225700A JP 2017225700 A JP2017225700 A JP 2017225700A JP 2016124808 A JP2016124808 A JP 2016124808A JP 2016124808 A JP2016124808 A JP 2016124808A JP 2017225700 A JP2017225700 A JP 2017225700A
- Authority
- JP
- Japan
- Prior art keywords
- dimensional shape
- region
- image
- shape model
- cut
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Instruments For Viewing The Inside Of Hollow Bodies (AREA)
- Endoscopes (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
【課題】未観察領域を視認し易く表示する。【解決手段】 観察支援装置は、被検体の3次元形状データに基づいて3次元形状モデル画像を生成する3次元形状モデル画像生成部と、前記被検体の内部を観察する内視鏡により取得された前記被検体の2次元画像に基づいて前記3次元形状モデル画像上における観察領域及び未観察領域の少なくとも一方を算出する観察領域判定部と、前記3次元形状モデル画像上において視線手前側の観察領域と視線奥側の未観察領域とが視線上に重なる重畳領域を検出する重畳領域検出部と、前記重畳領域が存在する場合には、前記重畳領域を含む所定の切出し面において前記被検体の3次元形状データに基づく形状を切断して得られる断面画像を切出し画像として生成する切出し画像生成部と、前記切り出し画像生成部により生成された前記切り出し画像を前記3次元形状モデル画像と同時に表示する表示制御部とを具備する。【選択図】図1
Description
本発明は、内視鏡を用いて被検体を観察する観察支援装置及び内視鏡システムに関する。
近年、内視鏡を用いた内視鏡システムは、医療分野及び工業用分野において広く用いられている。例えば、医療分野においては、内視鏡を、被検体内における複雑な管腔形状を有する臓器の内部に挿入し、その内部の詳細な観察や検査に利用することがある。 この場合には、術者が管腔臓器内のいずれの部位を内視鏡により観察したかを把握し易いように、モニタ画面上に観察範囲を表示する機能を有する内視鏡システムも開発されている。
このような内視鏡システムにおいては、例えば、事前に患者の臓器についての計測を行って臓器の計測データを取得し、取得した計測データに基づいて推定した3次元形状モデル画像を生成し、この3次元形状モデル画像上に観察中における観察位置を表示するものもある。
また例えば、特許文献1においては、内視鏡により観察した領域を提示するために、内視鏡により撮像して得た内視鏡画像から臓器の内腔形状を求めて3次元形状モデル画像をその場で生成して表示する内視鏡システムも提案されている。
これらの技術によって、内視鏡による所定の検査等の観察時に、観察済みの領域(以下、観察領域という)と観察済みでない領域(以下、未観察領域という)とを、3次元形状モデル画像上に識別可能に表示することができる。術者は、3次元形状モデル画像上の表示によって、例えば被挿入体内のいずれの位置を観察しているかをある程度把握することができると共に、被検体内の全ての領域を観察したか否かを確認することができる。
しかしながら、3次元形状モデル画像は、通常2次元モニタ画面に表示されることから、3次元形状モデル画像上の視線手前側の領域の表示によって視線奥側の領域は確認し難く、視線奥側の領域に存在する未観察領域を視認性良く表示することは困難である。
本発明は上述した点に鑑みてなされたもので、未観察領域を視認し易く表示することができる観察支援装置及び内視鏡システムを提供することを目的とする。
本発明の一態様の観察支援装置は、被検体の3次元形状データに基づいて3次元形状モデル画像を生成する3次元形状モデル画像生成部と、前記被検体の内部を観察する内視鏡により取得された前記被検体の2次元画像に基づいて前記3次元形状モデル画像上における観察領域及び未観察領域の少なくとも一方を算出する観察領域判定部と、前記3次元形状モデル画像上において視線手前側の観察領域と視線奥側の未観察領域とが視線上に重なる重畳領域を検出する重畳領域検出部と、前記重畳領域が存在する場合には、前記重畳領域を含む所定の切出し面において前記被検体の3次元形状データに基づく形状を切断して得られる断面画像を切出し画像として生成する切出し画像生成部と、前記切り出し画像生成部により生成された前記切り出し画像を前記3次元形状モデル画像と同時に表示する表示制御部とを具備する。
また、本発明の一態様の内視鏡システムは、被検体の内部を観察する内視鏡と、前記被検体の3次元形状データに基づいて3次元形状モデル画像を生成する3次元形状モデル画像生成部と、前記内視鏡により取得された前記被検体の2次元画像に基づいて前記3次元形状モデル画像上における観察領域及び未観察領域の少なくとも一方を算出する観察領域判定部と、前記3次元形状モデル画像上において視線手前側の観察領域と視線奥側の未観察領域とが視線上に重なる重畳領域を検出する重畳領域検出部と、前記重畳領域が存在する場合には、前記重畳領域を含む所定の切出し面において前記被検体の3次元形状データに基づく形状を切断して得られる断面画像を切出し画像として生成する切出し画像生成部と、前記切り出し画像生成部により生成された前記切り出し画像を前記3次元形状モデル画像と同時に表示する表示制御部とを具備する。
本発明によれば、未観察領域を視認し易く表示することができるという効果を有する。
以下、図面を参照して本発明の実施の形態について詳細に説明する。
(第1の実施の形態)
図1は本発明の第1の実施の形態に係る観察支援装置を示すブロック図である。また、図2は図1中の観察支援装置が組み込まれた内視鏡システムの全体構成図である。
図1は本発明の第1の実施の形態に係る観察支援装置を示すブロック図である。また、図2は図1中の観察支援装置が組み込まれた内視鏡システムの全体構成図である。
本実施の形態においては、被検体内における観察領域と未観察領域との区別を、観察対象の被検体の3次元形状モデル画像上に表示するものである。3次元形状モデル画像は、例えば被検体のCTスキャンにより取得した情報等の3次元画像データに基づいて事前に生成可能である。
また、被検体内を内視鏡により観察しながら、この観察時に内視鏡によって得られる内視鏡画像を用いて、3次元形状モデル画像(以下、構築中の3次元形状モデル画像という)を生成することも可能である。この場合には、観察が進につれて、観察範囲までの3次元形状モデル画像が順次構築されて表示される。即ち、この場合には、3次元形状モデル画像の構築領域が観察領域となり、未構築領域が未観察領域となる。
なお、観察前に既に生成されている3次元形状モデル画像(以下、既存の3次元形状モデル画像という)の例としては、以前の検査や観察において3次元形状モデル画像が用いられた場合や、所定の管腔臓器等について作成されている汎用の3次元形状モデル画像が存在する場合も含まれる。本実施の形態は観察前に3次元形状モデル画像が既に作成されている場合であっても、観察時と同時に3次元形状モデル画像が作成される場合のいずれにも適用可能である。
本実施の形態は、3次元形状モデル画像上において、視線手前側の領域によって視線奥側の未観察領域が表示されない場合でも、未観察領域について観察領域とは異なる表示を施すと共に、当該未観察領域を含む被検体の断面画像を表示することにより、未観察領域の視認性を向上させるものである。
例えば、複数の管腔が枝別れしている場合において、ある視点から見た既存の3次元形状モデル画像上では、手前側の管腔によって奥側の管腔が表示されない場合がある。このような場合、視線手前側の観察領域と視線奥側の未観察領域とが視線上に重なる領域(以下、重畳領域という)が存在することがある。重畳領域における未観察領域については、例えば色付け等により3次元形状モデル画像上に観察領域と区別可能な表示を行う。また、3次元形状モデル画像の元となる3次元形状データを用いて重畳領域を含む断面画像を表示することで、未観察領域の視認性を向上させる。この場合には、後述するように、視線手前側の管腔の断面画像部分と、視線奥側の管腔の断面画像部分とが、島状に別れて表示されることになり、未観察領域の視認性を著しく向上させることができる。
また、構築中の3次元形状モデル画像の生成時には、枝分かれする所定の管腔が未観察である場合には、当該所定の管腔を未観察領域とする。この場合の未観察領域と観察領域との重畳領域においても、未観察領域については、例えば色付け等により3次元形状モデル画像上に観察領域と区別可能な表示を行う。また、3次元形状データを用いて重畳領域を含む断面画像を表示することで、未観察領域の視認性を向上させる。なお、この場合には、後述するように、視線手前側の観察領域の断面画像部分の一部分に、視線奥側の未観察領域が表示されることになる。
図2に示す内視鏡システム1は、被検体内に挿入される内視鏡2Aを有する。なお、内視鏡2Aに代えて2点鎖線にて示す内視鏡2Bを採用してもよい。光源装置4は、内視鏡2A又は2B(以下、内視鏡2A,2Bを区別する必要が無い場合には内視鏡2という)に照明光を供給する。内視鏡画像装置5は、内視鏡2に設けられた撮像部に対する信号処理を行う信号処理装置を備える。内視鏡画像装置5は、内視鏡2によって撮影された画像に基づいて内視鏡画像を生成してモニタ8に出力することができるようになっている。モニタ8は、内視鏡画像装置5及び観察支援装置6からの画像を表示することができるようになっている。
内視鏡システム1においては、例えば、内視鏡2Aが採用された場合には、構築中の3次元形状モデル画像を表示に用い、内視鏡2Bが採用された場合には、既存の3次元形状モデル画像を表示に用いる。なお、内視鏡2Aが採用された場合でも、既存の3次元形状モデル画像を表示に用いてもよく、内視鏡2Bが採用された場合でも、公知の処理によって構築中の3次元形状モデル画像を生成して表示に用いることが可能である。
内視鏡2Aは、観察しながら構築中の3次元形状モデル画像を生成することができるように、内視鏡2Aの先端の位置及び方向を検出するためのセンサを備えている。内視鏡2Aは、患者9における観察対象の被検体となる所定の管腔臓器(単に管腔臓器ともいう)の一部を形成する例えば尿管10内に挿入される挿入部11を有する。内視鏡2Aは、挿入部11の後端(基端)に操作部12が設けられている。操作部12からはユニバーサルケーブル13が延出されており、ユニバーサルケーブル13の端部に設けたライトガイドコネクタ14は、光源装置4のライトガイドコネクタ受けに着脱自在に接続される。
なお、尿管10は、その深部側において腎盂51a、腎杯51bに連通する(図5参照)。
挿入部11は、その先端に設けられた先端部15と、該先端部15の後端に設けられた湾曲可能な湾曲部16と、該湾曲部16の後端から操作部12の前端まで延びる可撓性を有する可撓管部17とを有する。 操作部12には湾曲部16を湾曲操作するための湾曲操作ノブ18が設けられている。
図2における一部の拡大図で示すように挿入部11内には、照明光を伝送するライトガイド19が挿通されており、このライトガイド19の先端は、先端部15の照明窓に取り付けられ、ライトガイド19の後端は、ライトガイドコネクタ14に至る。 ライトガイドコネクタ14には、光源装置4の光源ランプ21で発生した照明光が集光レンズ22により集光されて入射される。この照明光は、ライトガイド19により照明窓に伝送され、その先端面から出射されるようになっている。
挿入部11は、その先端に設けられた先端部15と、該先端部15の後端に設けられた湾曲可能な湾曲部16と、該湾曲部16の後端から操作部12の前端まで延びる可撓性を有する可撓管部17とを有する。 操作部12には湾曲部16を湾曲操作するための湾曲操作ノブ18が設けられている。
図2における一部の拡大図で示すように挿入部11内には、照明光を伝送するライトガイド19が挿通されており、このライトガイド19の先端は、先端部15の照明窓に取り付けられ、ライトガイド19の後端は、ライトガイドコネクタ14に至る。 ライトガイドコネクタ14には、光源装置4の光源ランプ21で発生した照明光が集光レンズ22により集光されて入射される。この照明光は、ライトガイド19により照明窓に伝送され、その先端面から出射されるようになっている。
照明窓から出射された照明光により管腔臓器内の観察対象部位(被写体ともいう)が照明されるようになっている。被写体からの反射光は、先端部15の照明窓に隣接して設けられた観察窓(撮像窓)に取り付けられた対物光学系23に入射する。対物光学系23により被写体光学像が結像される。光学系23の結像位置には、撮像素子としての例えば電荷結合素子(CCDと略記)24の撮像面が配置され、CCD24は被写体光学像を電気信号に変換して撮像信号を出力する。なお、CCD24は、所定の画角(視野角)を有する。
対物光学系23及びCCD24によって、管腔臓器内を撮像する撮像部(又は撮像装置)25が形成される。なお、CCD24の画角は、対物光学系23の光学特性(例えば焦点距離)にも依存するために、対物光学系23の光学特性を考慮に入れた撮像部25の画角や、または対物光学系を用いて観察する場合の画角ということもできる。
CCD24は、挿入部11内などを挿通された信号線26及びライトガイドコネクタ14に接続される接続ケーブル27(内の信号線)を介して信号コネクタ28に接続される。信号コネクタ28は内視鏡画像装置5の信号コネクタ受けに着脱自在に接続されるようになっている。 これにより、CCD24は、内視鏡画像装置5から駆動信号等が供給されると共に、撮像信号を内視鏡画像装置5に供給することができるようになっている。
CCD24は、挿入部11内などを挿通された信号線26及びライトガイドコネクタ14に接続される接続ケーブル27(内の信号線)を介して信号コネクタ28に接続される。信号コネクタ28は内視鏡画像装置5の信号コネクタ受けに着脱自在に接続されるようになっている。 これにより、CCD24は、内視鏡画像装置5から駆動信号等が供給されると共に、撮像信号を内視鏡画像装置5に供給することができるようになっている。
CCD24から出力される撮像信号は、内視鏡画像装置5により画像信号に変換されてモニタ8に供給される。モニタ8は、CCD24の撮像面に結像された所定の画角(の範囲)で撮像された光学像に対応する画像を内視鏡画像表示領域において内視鏡画像として表示する。図2においては、CCD24の撮像面が例えば正方形の場合において、その4つの隅を切り欠いた8角形に近い内視鏡画像を表示する様子を示す。
内視鏡2Aは、例えばライトガイドコネクタ14内に、該内視鏡2Aに固有の情報(固有情報)を格納したメモリ30を有する。メモリ30は、固有情報として例えば内視鏡2Aに搭載されたCCD24の画角情報や画素数データ等を格納している。光源装置4は、ライトガイドコネクタ14が光源装置4に接続された際に、メモリ30から画角情報を読み出し、観察支援装置6に供給するようになっている。また、光源装置4は、CCD24の画素数データを内視鏡画像装置5に出力する。これにより、内視鏡画像装置5は、入力された画素数データに応じたCCD駆動信号を発生すると共に、画素数データに対応した信号処理を行う。
内視鏡2Aは、例えばライトガイドコネクタ14内に、該内視鏡2Aに固有の情報(固有情報)を格納したメモリ30を有する。メモリ30は、固有情報として例えば内視鏡2Aに搭載されたCCD24の画角情報や画素数データ等を格納している。光源装置4は、ライトガイドコネクタ14が光源装置4に接続された際に、メモリ30から画角情報を読み出し、観察支援装置6に供給するようになっている。また、光源装置4は、CCD24の画素数データを内視鏡画像装置5に出力する。これにより、内視鏡画像装置5は、入力された画素数データに応じたCCD駆動信号を発生すると共に、画素数データに対応した信号処理を行う。
内視鏡2Aは、挿入部11内に、挿入部11が被検体内に挿入された場合の挿入形状を検出するためのセンサとなる複数のセンスコイル34a,34bが配設されている。センスコイル34a,34bは、挿入部11の長手方向に沿って、適宜の間隔で配置されている。また、挿入部11には、例えば2つのセンスコイル34a,34bを結ぶ線分と直交する方向に配置されたセンスコイル34cが配置されている。そして、3つのセンスコイル34a,34b,34cは、センスコイル34a,34bを結ぶ線分方向が撮像部25を構成する対物光学系23の光軸方向(又は撮像方向)とほぼ一致し、3つのセンスコイル34a,34b,34cを含む面がCCD24の撮像面における上下方向にほぼ一致するように配置されている。
アンテナ7は観察支援装置6の制御部41に駆動されて所定の電磁波を周囲に放射する。各センスコイル34a〜34cは、アンテナ7に発生した磁界を検出する。センスコイル34a〜34cの検出結果は、センサ情報として複数の信号線35を介してライトガイドコネクタ14に伝送され、接続ケーブル27及び信号コネクタ28を介して内視鏡画像装置5に伝送され、更に、観察支援装置6に供給されるようになっている。
また、体表マーカ36は、アンテナ7に発生した磁界を検出して検出結果を体表マーカ情報として観察支援装置6に出力する。体表マーカ36は、被検体との位置関係が既知の位置に配置されて、挿入部11の先端部15の位置の基準となる。
図1に示すように、観察支援装置6には、内視鏡2によって取得された内視鏡画像データ、体表マーカ情報、各センスコイル34a〜34cからのセンサ情報及びCTスキャン情報等の3次元画像データが入力可能である。観察支援装置6には先端位置推定部42が設けられている。先端位置推定部42は、センスコイル34a〜34cの検出結果であるセンサ情報及び体表マーカ情報が与えられる。先端位置推定部42は、体表マーカ情報を位置の基準に用いて、先端部15における3つのセンスコイル34a,34b,34cの3次元位置を検出する。撮像部25を構成する対物光学系23は、3つのセンスコイル34a,34b,34cからそれぞれ既知の距離離れて配置されており、先端位置推定部42は、撮像部25を構成する対物光学系23の3次元位置及び対物光学系23の撮像方向(光軸方向)を検出することができる。即ち、先端位置推定部42は、対物光学系23の観察位置及び撮像方向を推定することができ、推定結果を画像処理部43に出力するようになっている。
なお、図2に示す内視鏡2Aにおける撮像部25は、対物光学系23の結像位置にCCD24の撮像面を配置した構成であるが、対物光学系23とCCDとの間に対物光学系23の光学像を伝送するイメージガイドを用いた構成の撮像部を備えた内視鏡の場合にも適用できる。
一方、内視鏡2Bは、内視鏡2Aからセンスコイル34a〜34c及び複数の信号線35を省略した挿入部11を備える。この内視鏡2Bが、光源装置4と、内視鏡画像装置5に接続された場合にも、ライトガイドコネクタ14内のメモリ30の固有情報は光源装置4を介して観察支援装置6に供給される。観察支援装置6は、内視鏡2Bが、ソースコイルが設けられていない種別の内視鏡であることを認識する。
内視鏡2Bが採用された場合においても、観察支援装置6は、画像処理により対物光学系23の観察位置及び撮像方向を推定することも可能であり、これにより3次元形状モデル画像の作成が可能である。
内視鏡2Bが採用された場合においても、観察支援装置6は、画像処理により対物光学系23の観察位置及び撮像方向を推定することも可能であり、これにより3次元形状モデル画像の作成が可能である。
このように、観察支援装置6は、位置センサを有する内視鏡2Aからのセンサ情報を用いて構築中の3次元形状モデル画像を生成して表示を行うことができる。また、位置センサを有しない内視鏡2Bを用いた場合には、観察支援装置6は、例えばCTスキャン情報を用いて既知の3次元形状モデル画像を生成することができるようになっている。
観察支援装置6には制御部41が設けられている。制御部41は、観察支援装置6の全体を制御することができるようになっている。制御部41は、例えば、CPU等のプロセッサによって構成され、図示しないメモリに記憶されているプログラムに従って動作するものであってもよい。入力装置39は、例えばキーボードやマウス等によって構成することができ、ユーザ操作を受け付けて、ユーザ操作に基づく操作信号を制御部41に供給するようになっている。制御部41は、入力装置39によるユーザ操作に応じて、観察支援装置6の各部を制御することができるようになっている。
観察支援装置6は、画像処理部43を有している。画像処理部43は、制御部41に制御されて、各種画像処理を行う。画像処理部43は、CPUやDSP(デジタルシグナルプロセッサ)等のプロセッサによって構成することができる。なお、画像処理部43は、CPU、DSPの他に、FPGA(Field Programmable Gate Array)により構成したり、その他の専用の電子回路により構成しても良い。
画像処理部43は、3次元形状モデル画像の元となる3次元形状データを生成する3次元形状データ生成部43aを有している。3次元形状データ生成部43aは、例えば、2次元画像データ、先端位置推定部42により推定された観察位置、撮像方向データを用いて、内視鏡2の撮像部25により撮像(観察)された2次元画像データに対応する3次元形状データを生成する。
この場合、3次元形状データ生成部43aは、例えば特許文献1の公報に記載された方法や、この公報以外に公知となるShape from Shading 法のように1枚の2次元画像から対応する3次元形状を推定してもよい。また、2枚以上の画像を用いるステレオ法、単眼移動視による3次元形状推定法、SLAM法、位置センサと組み合わせて3次元形状を推定する手法でも良い。
この場合、3次元形状データ生成部43aは、例えば特許文献1の公報に記載された方法や、この公報以外に公知となるShape from Shading 法のように1枚の2次元画像から対応する3次元形状を推定してもよい。また、2枚以上の画像を用いるステレオ法、単眼移動視による3次元形状推定法、SLAM法、位置センサと組み合わせて3次元形状を推定する手法でも良い。
また、3次元形状データ生成部43aは、3次元画像データ記録部38に記録されている断層像取得装置により取得したCTスキャンデータ等の3次元画像データを用いて、3次元形状データを構築することもできるようになっている。
3次元形状モデル画像生成部43bは、3次元形状データ生成部43aにより生成(又は構築)された3次元形状データに対して、ポリゴンを設定し、設定されたポリゴンに対する画像処理を行ってポリゴンを用いた3次元形状モデル画像を生成する。
観察領域判定部としての3次元形状モデル画像生成部43bは、3次元形状データ生成部43aにより生成(又は構築)された3次元形状データに対して、内視鏡の撮像部25によって観察された2次元の画像領域に対応して、3次元形状モデル画像上に構築領域を生成すると共に、内視鏡の撮像部25によって観察されていない2次元の画像領域に対応して、3次元形状モデル画像上に未構築領域を視認可能(視認し易いよう)にする未観察領域表示画像を生成する。
制御部41には表示制御部41bが設けられている。表示制御部41bは、画像処理部43を制御して、内視鏡画像及び3次元形状モデル画像等の各種画像をモニタ8に与えて、モニタ8の画面上に、各種画像を表示させることができるようになっている。例えば、表示制御部41bは、内視鏡画像と3次元形状モデル画像とをモニタ8の表示画面上に同時に表示させることも可能である。
更に、表示制御部41bは、3次元形状データ生成部43aを制御して、3次元形状モデル画像を所定の回転軸に沿って回転させて表示させることができるようになっていてもよい。
3次元形状モデル画像生成部43bは、構築中の3次元形状モデル画像を利用する場合においては、例えば2次元の内視鏡画像データの輝度値等を用いて未観察領域を判定してもよい。例えば、内視鏡2によって観察中の管腔の途中から枝分かれした管腔が存在する場合には、枝分かれする管腔と元の管腔との境界部分においては、内視鏡画像の輝度が他の部分よりも低いことが考えられる。3次元形状モデル画像生成部43bは、このような管腔壁面のうち輝度が他の部分よりも所定の閾値以上低い部分や、輝度が急峻に変化する部分等を境界領域として、枝分かれする管腔、即ち、未観察の管腔が存在するものと判定してもよい。この場合には、未観察の管腔は形状が不明であり、境界領域を未観察領域として未観察領域表示画像を生成する。
観察支援装置6には、情報記憶部44が設けられている。情報記憶部44は、フラッシュメモリ、RAM、USBメモリ、ハードディスク装置等により構成することができる。情報記憶部44は、内視鏡のメモリ30から取得される画角データを記憶すると共に、先端位置推定部42により推定された観察位置及び撮像方向のデータを記憶する。また、情報記憶部44は、画像処理部43が生成した3次元形状データ及び3次元形状モデル画像のデータ等を記憶する。更に、情報記憶部44は、構築中の3次元形状モデル画像の構築領域と、構築領域の境界となる境界領域のデータを記憶するようになっている。
上述したように、3次元画像データ記録部38からの3次元画像データを用いて3次元形状データを構築する場合には、観察前に既存の3D形状モデル画像を生成することができ、内視鏡2によって観察しながら観察領域や未観察領域を表示することができる。また、内視鏡2からの画像を用いて3次元形状データを構築する場合には、観察と同時に構築中の3D形状モデル画像を生成することになり、観察しながら未構築領域である未観察領域を表示することになる。
上述したように、3次元画像データ記録部38からの3次元画像データを用いて3次元形状データを構築する場合には、観察前に既存の3D形状モデル画像を生成することができ、内視鏡2によって観察しながら観察領域や未観察領域を表示することができる。また、内視鏡2からの画像を用いて3次元形状データを構築する場合には、観察と同時に構築中の3D形状モデル画像を生成することになり、観察しながら未構築領域である未観察領域を表示することになる。
なお、制御部41は、ユーザ操作に基づいて、未観察領域表示画像の表示色や、強調表示のやり方等を、3次元形状モデル画像生成部43bに指示することができるようになっている。これにより、3次元形状モデル画像に表示される未観察領域表示画像を、ユーザの希望に応じた視認しやすい表示に変更することが可能である。
本実施の形態においては、制御部41には、重畳領域検出部41aが設けられている。重畳領域検出部41aは、モニタ8の表示画面上に表示中の3次元形状モデル画像上において、視線手前側の観察領域に隠れて視線奥側の未観察領域が存在する場合、即ち、観察領域と未観察領域との重畳領域が存在する場合には、この重畳領域を検出して検出結果を判定処理部41cに与える。
判定処理部41cは、重畳領域を含む所定の平面(以下、切出し面という)を設定し、切出し面の情報を画像処理部43の切出し画像生成部43cに指示するようになっている。
切出し画像生成部43cは、判定処理部41cから切出し面の情報が与えられて、この切出し面で3次元形状データに基づく形状を切断して得られる断面の画像を切出し画像として生成するようになっている。表示制御部41bは、切出し画像生成部43cによって生成された切出し画像をモニタ8の表示画面に表示させることができるようになっている。例えば、表示制御部41bは、重畳領域が存在しない場合には、表示画面上に2次元内視鏡画像を表示すると共に、未観察領域画像を含む3次元形状モデル画像を表示する。一方、重畳領域が存在する場合には、表示制御部41bは、表示画面上に2次元内視鏡画像及び未観察領域画像を含む3次元形状モデル画像と共に、切出し画像を表示することができるようになっている。
図1のモニタ8の表示画面上の表示はこの例を示しており、内視鏡画像8a、3次元形状モデル画像8b及び2つの切出し画像8cが表示されていることを示している。
なお、表示制御部41bは、複数の重畳領域が存在する場合には、複数の重畳領域のうちのいずれか1つの重畳領域に対応する切出し画像のみを表示するようになっていてもよく、複数の重畳領域にそれぞれ対応する複数の切出し画像を表示するようになっていてもよい。また、表示制御部41bは、1つの重畳領域に対応して、切出し面が異なる複数の切出し画像を表示するように構成されていてもよい。
判定処理部41cは、複数の重畳領域が存在する場合において、全ての重畳画像のなかから1又は複数の重畳画像を選択し、選択した重畳画像に対応する切出し画像を表示制御部41bに表示させるようになっていてもよい。
例えば、判定処理部41cは、複数の重畳領域が存在する場合において、複数の重畳領域のうちユーザ操作に基づいて選択された1つの重畳領域に対応する切出し画像を表示させるようになっていてもよく、また、複数の重畳領域のうち所定の選択規則に従って自動的に選択された1つ又は複数の重畳領域に対応する切出し画像を表示させるようになっていてもよい。判定処理部41cが採用する所定の選択規則としては、撮像部25の観察位置からの距離が近い順に重畳領域を選択する方法、切出し面における未観察領域の面積が大きい順に重畳領域を選択する方法、未観察領域の容積が大きい順に重畳領域を選択する方法等がある。
次に、このように構成された実施の形態の動作について図3乃至図10を参照して説明する。図3及び図4は実施の形態の動作を説明するためのフローチャートである。図5は内視鏡により管腔臓器が観察されている様子を3次元形状モデル画像に対応して示す説明図である。
術者は、図2に示すように光源装置4と内視鏡画像装置5に観察支援装置6を接続し、光源装置4と内視鏡画像装置5に内視鏡2を接続して内視鏡検査を行う。図5は観察対象の管腔臓器として腎盂51a及び腎杯51bを例にしたものである。なお、以下の説明では、CTスキャンデータ等により、観察前に3次元形状モデル画像が生成されている例について説明するが、内視鏡2により観察しながら構築中の3次元形状モデル画像を生成する場合においても同様に適用可能である。
この場合には、ユーザ操作に従って、画像処理部43の3次元形状データ生成部43aは、3次元画像データ記録部38から3次元画像データを読出して、3次元形状データを生成する。3次元形状モデル画像生成部43bは、3次元形状データを用いて3次元形状モデル画像を生成し、情報記憶部44に与えて記憶させる。
術者は、内視鏡2の挿入部11を患者9の尿管10内に挿入する。そして、図5に示すような尿管10を経て、内視鏡2の挿入部11を、深部側の腎盂51a及び腎杯51b内に挿入する。 挿入部11の先端部15には、撮像部25が設けてあり、撮像部25は、撮像部25の画角内で撮像した撮像信号を内視鏡画像装置5に出力する。
内視鏡画像装置5は、撮像部25により撮像した撮像信号に対する信号処理を行い、撮像部25により観察した2次元画像を生成(取得)する。また、内視鏡画像装置5は、生成した2次元画像(のA/D変換された2次元画像データ)を観察支援装置6の画像処理部43に出力する。
画像処理部43は、表示制御部41bに制御されて、入力された2次元の内視鏡画像及び既存の3次元形状モデル画像をモニタ8に出力する。こうして、モニタ8の表示画面上には、観察中の内視鏡画像と3次元形状モデル画像とが表示される。
内視鏡画像装置5は、撮像部25により撮像した撮像信号に対する信号処理を行い、撮像部25により観察した2次元画像を生成(取得)する。また、内視鏡画像装置5は、生成した2次元画像(のA/D変換された2次元画像データ)を観察支援装置6の画像処理部43に出力する。
画像処理部43は、表示制御部41bに制御されて、入力された2次元の内視鏡画像及び既存の3次元形状モデル画像をモニタ8に出力する。こうして、モニタ8の表示画面上には、観察中の内視鏡画像と3次元形状モデル画像とが表示される。
3次元形状モデル画像生成部43bは、先端位置推定部42からの観察位置及び撮像方向のデータが与えられ、これらの情報に基づいて、3次元形状モデル画像上における撮像部25の現在の観察範囲の情報を得る。3次元形状データ生成部43aは、現在の観察範囲の情報を逐次更新しながら情報記憶部44に与えて順次記憶させる。3次元形状データ生成部43aは、逐次更新される観察範囲の情報に基づいて、管腔臓器の観察した領域に対応する3次元形状モデル画像上における観察領域を求める。3次元形状データ生成部43aは、求めた観察領域に基づいて管腔臓器の観察していない領域に対応する3次元形状モデル画像上における未観察領域を求める。3次元形状データ生成部43aは、求めた未観察領域を観察領域と区別するための未観察領域表示画像を生成する。
3次元形状データ生成部43aは、表示制御部41bに制御されて、3次元形状モデル画像上に未観察領域表示画像を重ねた画像をモニタ8に出力する。こうして、3次元形状モデル画像上において、未観察領域の確認を行うことができる。
図5はハッチングによって未観察領域表示画像55a,55bを示している。なお、ハッチングは所定の着色処理や所定の強調処理を示すものである。図5の例は、未観察領域表示画像55aは、当該表示55aによって示される未観察領域が視線手前側の腎盂51aによって表示されない視線奥側の腎杯51bに存在する例を示している。また、未観察領域表示画像55bは、当該表示55bによって示される未観察領域が視線手前側の腎杯51bによって表示されない視線奥側の腎杯51bに存在する例を示している。
しかし、図5の3次元形状モデル画像では、未観察領域表示画像55a,55bだけでは、管腔臓器のいずれの部分が未観察領域であるかを把握することは困難である。そこで、本実施の形態において、重畳領域における断面画像の表示を行う。
制御部41の重畳領域検出部41aは、図3のステップS1において、観察領域と未観察領域とがモニタ8に平行透視変換して映し出された画像を正面視する方向を視線方向として、視線方向に重なる重畳領域を検出する。重畳領域検出部41aの検出結果は判定処理部41cに与えられる。
判定処理部41cは、重畳領域を含む所定の切出し面を設定し、切出し面の情報を画像処理部43の切出し画像生成部43cに指示する。前記、所定の切出し面とは、X軸方向に任意のピッチで切出し面を複数設定し、それぞれの切出し面に対して、重量領域を2次元の平面に展開したものである。重畳領域は3次元形状を有しており、判定処理部41cは、重量領域を含む所定の切出し面に展開した分割平面を1つの未観察領域 としてグループ化する。
図6は切出し面の設定を説明するための説明図である。ここで座標系X−Y−Zは、全体座標系の原点から無限遠方において、Z軸に垂直な面をモニタ8に平行透視変換して投影している。図6は未観察領域表示画像55a,55bにそれぞれ対応する重畳領域54a,54bを示している。重畳領域54a,54bは3次元形状を有しており、判定処理部41cは、例えば、y−z平面で各重畳領域54a,54bをX軸に任意のピッチで分割して分割平面のグループを得る。判定処理部41cは、各重畳領域54a,54b毎に、グループ内の分割平面の面積を求め、最大面積が得られる分割平面を切出し面P1,P2に設定する(ステップS2)。
表示制御部41bは、ステップS3において、後述するように、図10の3次元形状モデル画像表示領域62の切出し面P1,P2の位置を示すラインLP1,LP2をモニタ8の表示画面上の3次元形状モデル画像上に表示する(ステップS3)。
図5の例では、判定処理部41cは、y−z平面に切出し面P1,P2を設定した例を示している。なお、x−y平面はモニタ8の表示画面に平行な面であり、z方向は視線方向である。切出し面P1は未観察領域表示画像55aによって示される重畳領域を含む断面であり、切出し面P2は未観察領域表示画像55bによって示される重畳領域を含む断面である。切出し画像生成部43cは、判定処理部41cから切出し面の情報が与えられて、この切出し面で3次元形状データに基づく3次元形状を切断して得られる断面画像(切出し画像)を生成する。
図7及び図8はそれぞれ図5の未観察領域表示画像55a,55bによって示される重畳領域に設定された切出し面P1,P2における切出し画像を示す説明図である。切出し面P1における切出し画像は、未観察領域を含まない腎盂51aの断面画像51apと腎杯51bの断面画像51bpとを有すると共に、未観察領域表示画像55aに対応する断面画像55apの画像部分(ハッチング領域)を有する。断面画像55apは、腎盂51aの視線奥側に位置する未観察の腎杯51bによる画像である。また、切出し面P2における切出し画像は、未観察領域を含まない腎盂51a及び腎杯51bによる断面画像51ap,51bpと未観察領域表示画像55bに対応する断面画像55bpの画像部分(ハッチング領域)とを有する。断面画像55bpは、視線奥側に位置する未観察の腎杯51bによる画像である。
表示制御部41bは、切出し画像生成部43cによって生成された切出し画像をモニタ8の表示画面に表示させる。例えば、表示制御部41bは、重畳領域が存在する場合には、表示画面上に2次元内視鏡画像及び未観察領域画像を含む3次元形状モデル画像と共に、切出し画像を表示する。
ところで、表示画面のサイズ等によっては、複数の重畳領域に対応する全ての切出し画像を表示するよりも、所定数の切出し画像を表示した方が、未観察領域の確認が容易な場合が考えられる。そこで、判定処理部41cは、全ての重畳領域のうち所定の選択規則に従った重畳領域についての切出し画像を表示するように制御する。例えば、判定処理部41cは、撮像部25に最も近接した重畳領域を複数の重畳領域のうち最初に観察が行われる可能性が高い重畳領域であるものとして、この重畳領域の切出し画像のみを表示するように制御してもよい。
図5及び図6の距離L1,L2は、それぞれ撮像部25から重畳領域中の切出し面までの距離(x方向)を示している。判定処理部41cは、先端位置推定部42からの観察位置及び重畳領域の情報に基づいて、距離L1,L2を求める(ステップS4)。これにより判定処理部41cは、L1<L2であるものと判定して、撮像部25からの距離が最も小さい重畳領域54aについての切出し画像を表示するように表示制御部41bを制御する。こうして、切出し面P1における切出し画像がモニタ8の表示画面上に表示される。
図9はこの場合の画面表示を示す説明図であり、図5乃至図8に対応した表示を示している。なお、図9におけるハッチングは、他の画像部分と着色処理や強調処理が異なる画像部分であることを示す。モニタ8の表示画面8d上には、表示制御部41bによって、内視鏡画像表示領域61、3次元形状モデル画像表示領域62及び切出し画像(断面画像)表示領域63が設けられている。内視鏡画像表示領域61には、内視鏡2によって撮像されている観察中の内視鏡画像が表示されている。3次元形状モデル画像表示領域62には、観察対象の管腔臓器の3次元形状モデル画像62aが表示されている。また、切出し画像表示領域63には、重畳領域54aを含む切出し面P1における切出し画像64が表示されている。切出し画像64中には、視線方向を示す表示65が表示されている。3次元形状モデル画像62a中には、切出し面P1の位置を示すラインLP1も表示されている。
3次元形状モデル画像62aによって、撮像部25の比較的近い位置に、観察済みの腎盂51aに隠れて表示されない未観察の腎杯51bが存在することが分かる。更に、切出し画像64によって、腎盂51aの視線奥側に、腎盂51aから枝分かれした未観察の腎杯51bが存在することが分かる。
図10は重畳領域の全ての切出し画像を表示する例を示す説明図であり、図5乃至図8に対応した表示を示している。なお、図10においてもハッチングは、他の画像部分と着色処理や強調処理が異なる画像部分であることを示す。モニタ8の表示画面8d上には、表示制御部41bによって、内視鏡画像表示領域61、3次元形状モデル画像表示領域62及び切出し画像(断面画像)表示領域63a,63bが設けられている。内視鏡画像表示領域61には、内視鏡2によって撮像されている観察中の内視鏡画像が表示されている。3次元形状モデル画像表示領域62には、観察対象の管腔臓器の3次元形状モデル画像62aが表示されている。また、切出し画像表示領域63aには、重畳領域54aを含む切出し面P1における切出し画像64aが表示されており、切出し画像表示領域63bには、重畳領域54bを含む切出し面P2における切出し画像64bが表示されている。切出し画像64a,64b中には、それぞれ視線方向を示す表示65a,65bが表示されている。3次元形状モデル画像62a中には、切出し面P1,P2の位置をそれぞれ示すラインLP1,LP2も表示されている。
図10の例においては、切出し画像64aの断面画像55apによって、腎盂51aの視線奥側に、腎盂51aから枝分かれした未観察の腎杯51bが存在することが分かる。また、切出し画像64bの断面画像55bpによって、腎盂51aの視線奥側に、腎盂51aから枝分かれした未観察の腎杯51bが存在することが分かる。
本実施の形態においては、切出し画像の表示を観察状況に応じて更新することができるようになっている。図4はこの場合の動作を示している。重畳領域検出部41aは、図4のステップS11において、内視鏡の操作によって観察領域が更新されたか否かを判定する。観察領域が更新されると、重畳領域検出部41aは、ステップS12において、内視鏡によって未観察領域についての観察が行われて、重畳領域が解消されたか否かを判定する。重畳領域が解消されると、重畳領域検出部41aは、当該解消された重畳領域についての切出し画像の表示を消去するように、表示制御部41bを制御する。
これにより、モニタ8の表示画面から当該切出し画像の表示が消去される(ステップS13)。重畳領域検出部41aは、ステップS14において、未観察領域の全てのグループが解消されたか否かを判定する。重畳領域検出部41aは、観察対象の管腔臓器の全ての領域が観察領域になるまで、ステップS11〜S14の処理を繰り返す。
こうして、本実施の形態においては、観察の状況に応じて、重畳領域における切出し画像が消去される。これにより、術者は、未観察領域の確認が一層容易となる。
このように、本実施の形態においては、3次元形状モデル画像上において、未観察領域を観察領域とは区別可能に表示すると共に、観察領域と未観察領域とが重なる重畳領域においては、当該重畳領域を含む切出し面における断面画像を切出し画像として表示するようになっており、未観察領域の存在や位置を極めて明瞭に把握することができる。
(第2の実施の形態)
図11、図12A、図12B、図13A及び図13Bは本発明の第2の実施の形態に係り、図11は第2の実施の形態において採用される動作フローを示すフローチャート、図12A,図12B及び図13A,図13Bは第2の実施の形態を説明するための説明図である。本実施の形態におけるハードウェア構成は第1の実施の形態と同様である。
図11、図12A、図12B、図13A及び図13Bは本発明の第2の実施の形態に係り、図11は第2の実施の形態において採用される動作フローを示すフローチャート、図12A,図12B及び図13A,図13Bは第2の実施の形態を説明するための説明図である。本実施の形態におけるハードウェア構成は第1の実施の形態と同様である。
上記第1の実施の形態においては、視線手前側の観察領域に隠れて視線奥側の未観察領域が存在する場合、即ち、観察領域と未観察領域との重畳領域が存在する場合には、この重畳領域については、切出し画像を同時に表示することにより、未観察領域の視認性を向上させた。本実施の形態においては、未観察領域表示画像を重畳する3次元形状モデル画像を回転させることで、未観察領域の視認性を向上させるものである。
本実施の形態においては、表示制御部41bは、ユーザ操作に基づいて、又は所定の回転規則に従って、3次元形状モデル画像を回転させるための回転制御信号を3次元形状モデル画像生成部43b及び切出し画像生成部43cに与える。3次元形状モデル画像生成部43bは、回転制御信号に基づいて、3次元形状モデル画像を所定の回転軸に沿って回転させた3次元形状モデル画像を生成して、モニタ8に出力する。また、この場合には、3次元形状モデル画像生成部43bは、未観察領域表示画像の形状及び表示位置についても回転制御信号に従って変更してモニタ8に出力する。こうして、モニタ8の表示画面上には、回転制御信号に応じて所定の回転軸に沿って回転した3次元形状モデル画像が表示され、この画像中には未観察領域を示す未観察領域表示画像が重畳表示される。
なお、切出し画像生成部43cは、表示制御部41bに制御されて、生成した切出し画像を、回転制御信号に拘わらずそのまま出力しても良く、また、回転制御信号に従って、座標軸を回転させた切出し画像を出力してもよい。こうして、表示制御部41bは、モニタ8の表示画面上に、3次元形状モデル画像の回転前と同じ切出し画像を表示させることもでき、また、3次元形状モデル画像の回転に応じて回転させた切出し画像を表示させることもできるようになっている。
(回転規則)
表示制御部41bは、3次元形状モデル画像を常時回転させるための回転制御信号を出力してもよい。この場合には、3次元形状モデル画像は、内視鏡による観察中に常時回転しながら表示される。
表示制御部41bは、3次元形状モデル画像を常時回転させるための回転制御信号を出力してもよい。この場合には、3次元形状モデル画像は、内視鏡による観察中に常時回転しながら表示される。
また、表示制御部41bは、重畳領域が存在する場合にのみ3次元形状モデル画像を回転させるための回転制御信号を出力してもよい。この場合には、表示制御部41bは、重畳領域検出部41aの検出結果に基づいて、3次元形状モデル画像を回転させるための回転制御信号を発生する。重畳領域検出部41aは、逐次重畳領域を検出しており、重畳領域が検出されなくなるまで、3次元形状モデル画像は回転しながら表示されることになる。
また、表示制御部41bは、未観察領域のうちサイズが最も大きい未観察領域が視線正面に位置するように3次元形状モデル画像を回転させるようになっていてもよい。判定処理部41cは、未観察領域のサイズを判定している。例えば、判定処理部41cは、視線方向から見た面積が最も大きい未観察領域、切出し面における面積が最も大きい未観察領域、容積が最も大きい未観察領域等をサイズが最も大きい未観察領域として判定して、当該サイズが最も大きい未観察領域を視線正面に配置するために必要な回転角度の情報を発生して表示制御部41bに与える。表示制御部41bは、判定処理部41cからの回転角度の情報に基づく回転制御信号を発生するようになっている。こうして、この場合には、最もサイズが大きい未観察領域が視線正面に配置された3次元形状モデル画像が表示される。なお、表示制御部41bは、判定処理部41cからの回転角度の情報を用いることなく、フィードバック制御によって、サイズが最も大きい未観察領域が視線正面に配置されるように3次元形状モデル画像を回転させてもよい。
また、表示制御部41bは、未観察領域のうち内視鏡の観察位置(撮像部25の位置)に最も近い未観察領域が視線正面に位置するように3次元形状モデル画像を回転させるようになっていてもよい。判定処理部41cは、観察位置から未観察領域までの距離を判定している。判定処理部41cは、観察位置からの距離が最も近い未観察領域を視線正面に配置するために必要な回転角度の情報を発生して表示制御部41bに与える。表示制御部41bは、判定処理部41cからの回転角度の情報に基づく回転制御信号を発生するようになっている。こうして、この場合には、観察位置に最も近い未観察領域が視線正面に配置された3次元形状モデル画像が表示される。
更に、本実施の形態においては、表示制御部41bは、複数の未観察領域が存在する場合には、全ての未観察領域が視線手前側に位置するように、なるべく多くの個数の未観察領域が視線手前側に位置するように、或いはなるべく多くの範囲の未観察領域が視線手前側に位置するように、3次元形状モデル画像を回転させるようになっていてもよい。
例えば、判定処理部41cは、各未観察領域について、3次元形状モデル画像の回転軸を中心として未観察領域が占める中心角の範囲を求める。判定処理部41cは、例えば、求めた中心角の範囲がなるべく視線方向の180度の範囲に入るように、3次元形状モデル画像の回転角度を算出する。例えば、判定処理部41cは、視線方向の180度の範囲に含まれる中心角の和が最も大きくするための回転角度を求めて、表示制御部41bに出力する。表示制御部41bは、判定処理部41cからの回転角度の情報に基づく回転制御信号を発生する。こうして、この場合には、未観察領域の多くが、視線手前側に表示されることになり、未観察領域の視認性が向上する。なお、表示制御部41bは、判定処理部41cからの回転角度の情報を用いることなく、フィードバック制御によって、未観察領域の重畳箇所が最小となるように、3次元形状モデル画像を回転させてもよい。
次に、このように構成された実施の形態の動作について図11乃至図13を参照して説明する。
本実施の形態においても、観察対象の管腔臓器として腎盂51a及び腎杯51bを例にして説明する。なお、以下の説明では、内視鏡2により観察しながら構築中の3次元形状モデル画像が生成する場合を例に説明するが、観察前に既存の3次元形状モデル画像が生成されている場合でも同様に適用可能である。
術者は、内視鏡2の挿入部11を患者9の尿管10内に挿入する。そして、図12Aに示すような尿管10を経て、内視鏡2の挿入部11を、深部側の腎盂51a及び腎杯51b内に挿入する。 挿入部11の先端部15には、撮像部25が設けてあり、撮像部25は、撮像部25の画角内で撮像した撮像信号を内視鏡画像装置5に出力する。
内視鏡画像装置5は、撮像部25により撮像した撮像信号に対する信号処理を行い、撮像部25により観察した2次元画像を生成(取得)する。また、内視鏡画像装置5は、生成した2次元画像(のA/D変換された2次元画像データ)を観察支援装置6の画像処理部43に出力する。
先端位置推定部42は、体表マーカ情報を位置の基準に用いて、挿入部11の先端部15に配置されたセンスコイル34a,34b,34cの3次元位置を検出する。これにより、先端位置推定部42は、撮像部25の観察位置及び撮像方向を推定して推定結果を画像処理部43に出力する。画像処理部43によって、先端位置推定部42により推定された観察位置及び撮像方向のデータが記憶される。また、情報記憶部44には撮像部25の画角データも記憶される。
内視鏡画像装置5は、撮像部25により撮像した撮像信号に対する信号処理を行い、撮像部25により観察した2次元画像を生成(取得)する。また、内視鏡画像装置5は、生成した2次元画像(のA/D変換された2次元画像データ)を観察支援装置6の画像処理部43に出力する。
先端位置推定部42は、体表マーカ情報を位置の基準に用いて、挿入部11の先端部15に配置されたセンスコイル34a,34b,34cの3次元位置を検出する。これにより、先端位置推定部42は、撮像部25の観察位置及び撮像方向を推定して推定結果を画像処理部43に出力する。画像処理部43によって、先端位置推定部42により推定された観察位置及び撮像方向のデータが記憶される。また、情報記憶部44には撮像部25の画角データも記憶される。
画像処理部43の3次元形状データ生成部43aは、2次元内視鏡画像や観察位置、撮像方向及び画角のデータ等を用いて、撮像部25により観察した画像領域に対応する3次元形状を推定し、3次元形状データを生成する。3次元形状モデル画像生成部43bは、3次元形状データ生成部43aが求めた3次元形状データを用いて、例えばポリゴンを用いた3次元形状モデル画像を順次構築する。
画像処理部43は、表示制御部41bに制御されて、入力された2次元の内視鏡画像及び構築中の3次元形状モデル画像をモニタ8に出力する。こうして、モニタ8の表示画面上には、観察中の内視鏡画像と構築中の3次元形状モデル画像とが表示される。
3次元形状モデル画像生成部43bは、先端位置推定部42からの観察位置及び撮像方向のデータが与えられ、これらの情報に基づいて、3次元形状モデル画像上における撮像部25の現在の観察範囲の情報を得る。3次元形状データ生成部43aは、現在の観察範囲の情報を逐次更新しながら情報記憶部44に与えて順次記憶させる。3次元形状データ生成部43aは、逐次更新される観察範囲の情報に基づいて、管腔臓器の観察した領域に対応する3次元形状モデル画像上における観察領域を求める。3次元形状データ生成部43aは、求めた観察領域に基づいて管腔臓器の観察していない領域に対応する3次元形状モデル画像上における未観察領域を求める。3次元形状データ生成部43aは、求めた未観察領域を観察領域と区別するための未観察領域表示画像を生成する。
3次元形状データ生成部43aは、表示制御部41bに制御されて、3次元形状モデル画像上に未観察領域表示画像を重ねた画像をモニタ8に出力する。こうして、3次元形状モデル画像上において、未観察領域の確認を行うことができる。
図12Aはモニタ8の表示画面上の3次元形状モデル画像表示領域70に表示される3次元形状モデル画像71を示している。なお、図12A中の領域72a,72bは、腎盂51aから分岐した2つの腎杯51bに対応する領域であるが、撮像部25による観察が行われていないことから、その形状が不明であり、構築中の3次元形状モデル画像71上には表示されていない領域を示している。しかし、腎盂51aの観察中において、当該2つの未構築領域である腎杯51bとの境界領域が未観察領域表示画像73a,73bとして求められる。
即ち、図12Aの例における未観察領域表示画像73aは、当該表示73aによって示される領域が、視線手前側の腎盂51aによって表示されない視線奥側の腎杯51bとの境界領域(未観察領域)であることを示している。また、未観察領域表示画像73bは、当該表示73bによって示される領域が視線手前側の腎杯51bによって表示されない視線奥側の腎杯51bとの境界領域(未観察領域)であることを示している。なお、未観察領域表示画像73a,73bのハッチングは所定の着色処理や所定の強調処理を示すものである。
また、図12Bはモニタ8の表示画面上の切出し画像表示領域75に表示される切出し画像76を示している。切出し画像76は、腎盂51aの断面画像51ap、腎盂51aから枝分かれした2つの未観察の腎杯51bに基づく断面画像51bpが含まれる。そして、2つの断面画像51bpの各端部には、境界領域を示す未観察領域表示画像73ap,73bpが表示されている。
3次元形状モデル画像71によって、観察済みの腎盂51aに隠れて表示されない未観察の腎杯51bとの境界領域である未観察領域が存在することが分かる。更に、切出し画像76によって、腎盂51aの視線奥側に、腎盂51aから枝分かれした未観察の腎杯51bが存在することが分かる。
重畳領域における断面画像である切出し画像76の表示によって、管腔臓器のいずれの部分が未観察領域であるかを簡単に把握することができる。
更に、本実施の形態においては、3次元形状モデル画像を回転させることで、視線手前側の観察領域によって未観察領域が表示されなくなる重畳領域を無くすか又は少なくするようにしており、未観察領域の確認を容易にすることができる。
制御部41の重畳領域検出部41aは、図3のステップS21において、観察領域と未観察領域とが視線上で重なる重畳領域を検出する。重畳領域検出部41aの検出結果は判定処理部41cに与えられる。
判定処理部41cは、重畳領域を含む所定の切出し面を設定し、切出し面の情報を画像処理部43の切出し画像生成部43cに指示する。重畳領域は3次元形状を有しており、判定処理部41cは、2次元の切出し面を設定するために、1つの重畳領域を各2次元平面に分割して重畳領域毎に分割平面をグループ化する。
判定処理部41cは、例えば、y−z平面で各重畳領域を分割して分割平面のグループを得る。判定処理部41cは、各重畳領域毎に、グループ内の分割平面の面積を求め、最大面積が得られる分割平面を切出し面に設定する(ステップS222)。
本実施の形態においては、判定処理部41cは、ステップS23において、未観察領域の重畳を解消するための3次元形状モデル画像の回転角度を検出する。なお、3次元形状モデル画像をどのように回転させても未観察領域の重畳を解消することができない場合には、判定処理部41cは、未観察領域の重畳箇所を最小にするための3次元形状モデル画像の回転角度を検出する。判定処理部41cからの回転角度の情報は、表示制御部41bに与えられる。
表示制御部41bは、判定処理部41cからの回転角度の情報に基づく回転制御信号を発生して、3次元形状モデル画像生成部43bに供給する。3次元形状モデル画像生成部43bは、回転制御信号に基づいて、3次元形状モデル画像を回転させる。なお、図12Aには、この回転制御による回転方向を示す矢印表示74が表示制御部41bによって表示されていることを示している。こうして、モニタ8に表示される3次元形状モデル画像が回転して、未観察領域の多くが視線手前側に表示されることになり、未観察領域の視認性が向上する(ステップS24)。
図12Bはモニタ8の表示画面上において図12Aの3次元形状モデル画像71をx軸を中心に所定角度回転させて得られる3次元形状モデル画像71rを示している。図12Bの領域72ar,72br及び未観察領域表示画像73ar,73brはそれぞれ図12Aの領域72a,72b及び未観察領域表示画像73a,73bに対応する。また、切出し画像76中には、視線方向を示す表示77が表示されている。
図12Aでは、腎盂51aと2つの未構築領域である腎杯51bとの境界領域を示す未観察領域表示画像73a,73bは視線手前側の腎盂51aによって隠れていたのに対し、図12Bでは、腎盂51aと2つの未構築領域である腎杯51bとの境界領域を示す未観察領域表示画像73ar,73brは、視線手前側に移動して表示されている。
このように、3次元形状モデル画像において、未観察領域の確認を容易にすることができる。
なお、図13Bは切出し画像表示領域75において、3次元形状モデル画像の回転に合わせて切出し画像76を回転させた切出し画像76rが表示されている例を示している。切出し画像76rは、腎盂51aの断面画像51apr、腎盂51aから枝分かれした2つの未観察の腎杯51bに基づく断面画像51bprが含まれる。そして、2つの断面画像51bprの各端部には、境界領域を示す未観察領域表示画像73apr,73bprが表示されている。また、切出し画像76r中には、視線方向を示す表示77が表示されている。
なお、図11では、表示制御部41bが判定処理部41cの判定結果に従って、自動的に3次元形状モデル画像を回転させる例を示したが、術者のユーザ操作によって3次元形状モデル画像を回転させるようにしてもよい。
このように本実施の形態においては、視線手前の観察領域によって視線奥側の未観察領域が隠される重畳領域が存在する場合には、未観察領域の確認を容易にするように3次元形状モデル画像を回転させる。これにより、3次元形状モデル画像の表示によって、観察領域の裏側に隠れている未観察領域をユーザが把握できるようにすることができ、未観察領域の見落としを防止することができる。
ところで、視線奥側の未観察領域を視認できるように、3次元形状モデル画像を多断面表示する表示方法を採用してもよい。例えば、3次元形状モデル画像の視線手前側から見た180度の範囲と視線奥側から見た180度の範囲を2画面の多断面表示するのである。これにより、視線奥側の未観察領域が視線手前側の観察領域に重なる重畳領域においても、未観察領域の視認性を向上させることができる。
なお、視線奥側から見た3次元形状モデル画像と視線奥側から見た3次元形状モデル画像との多断面表示に限らず、3次元形状モデル画像の手前側、奥側、右側、左側から見た画像を表示するように、多断面表示を行ってもよい。
また、視線奥側の未観察領域を視認できるように、3次元形状モデル画像を2次元モデル画像に変換して表示してもよい。例えば、3次元形状モデル画像を前壁と後壁の2つに分割して、所定のポイントを共通の位置に表示しながら前壁と後壁とを対象に分割した2次元モデル画像表示を採用してもよい。この2次元モデル画像表示においては、全ての領域が視認可能であり、未観察領域を確認することが可能である。
本発明は、上記各実施形態にそのまま限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記各実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素の幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。
6…観察支援装置、8…モニタ、41…制御部、41a…重畳領域検出部、41b…表示制御部、41c…判定処理部、42…先端位置推定部、43…画像処理部、43a…3次元形状データ生成部、43b…3次元形状モデル画像生成部、43c…切出し画像生成部、44…情報記憶部。
Claims (10)
- 被検体の3次元形状データに基づいて3次元形状モデル画像を生成する3次元形状モデル画像生成部と、
前記被検体の内部を観察する内視鏡により取得された前記被検体の2次元画像に基づいて前記3次元形状モデル画像上における観察領域及び未観察領域の少なくとも一方を算出する観察領域判定部と、
前記3次元形状モデル画像上において視線手前側の観察領域と視線奥側の未観察領域とが視線上に重なる重畳領域を検出する重畳領域検出部と、
前記重畳領域が存在する場合には、前記重畳領域を含む所定の切出し面において前記被検体の3次元形状データに基づく形状を切断して得られる断面画像を切出し画像として生成する切出し画像生成部と、
前記切り出し画像生成部により生成された前記切り出し画像を前記3次元形状モデル画像と同時に表示する表示制御部と
を具備したことを特徴とする観察支援装置。 - 前記3次元形状モデル画像生成部は、前記内視鏡により取得された前記被検体の2次元画像に基づいて前記被検体の3次元形状データを求めて前記3次元形状モデル画像を構築する
ことを特徴とする請求項1に記載の観察支援装置。 - 前記3次元形状モデル画像生成部は、前記被検体の3次元形状を示す3次元画像データに基づいて前記被検体の3次元形状データを求めて前記3次元形状モデル画像を構築する
ことを特徴とする請求項1に記載の観察支援装置。 - 前記表示制御部は、前記重畳領域が複数存在する場合には、全ての重畳領域のうち選択した1又は複数の重畳領域に対応する前記切出し画像を前記3次元形状モデル画像と共に表示する
ことを特徴とする請求項1乃至3のいずれか1つに記載の観察支援装置。 - 前記内視鏡の撮像部の位置情報を取得する位置情報取得部をさらに備え、
前記表示制御部は、前記位置情報取得部により取得された前記撮像部の位置に対応した重畳領域を選択して、選択した重畳領域に対応する前記切り出し画像を表示する
ことを特徴とする請求項4に記載の観察支援装置。 - 前記表示制御部は、前記撮像部に最も近い重畳領域を選択して、選択した重畳領域に対応する前記切出し画像を表示する
ことを特徴とする請求項4に記載の観察支援装置。 - 前記表示制御部は、前記複数の重畳領域のうち最もサイズが大きい未観察領域に対応する重畳領域を選択して、選択した重畳領域に対応する前記切出し画像を表示する
ことを特徴とする請求項4に記載の観察支援装置。 - 前記表示制御部は、前記内視鏡による観察によって消滅した未観察領域に対応する切出し画像の表示を消去する
ことを特徴とする請求項1乃至7のいずれか1つに記載の観察支援装置。 - 前記表示制御部は、前記重畳領域が複数存在する場合には、全ての重畳領域を解消させるか又は重畳領域の総和を最小にするように、前記3次元形状モデル画像を回転させて表示する
ことを特徴とする請求項1乃至8のいずれか1つに記載の観察支援装置。 - 被検体の内部を観察する内視鏡と、
前記被検体の3次元形状データに基づいて3次元形状モデル画像を生成する3次元形状モデル画像生成部と、
前記内視鏡により取得された前記被検体の2次元画像に基づいて前記3次元形状モデル画像上における観察領域及び未観察領域の少なくとも一方を算出する観察領域判定部と、
前記3次元形状モデル画像上において視線手前側の観察領域と視線奥側の未観察領域とが視線上に重なる重畳領域を検出する重畳領域検出部と、
前記重畳領域が存在する場合には、前記重畳領域を含む所定の切出し面において前記被検体の3次元形状データに基づく形状を切断して得られる断面画像を切出し画像として生成する切出し画像生成部と、
前記切り出し画像生成部により生成された前記切り出し画像を前記3次元形状モデル画像と同時に表示する表示制御部と
を具備したことを特徴とする内視鏡システム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016124808A JP2017225700A (ja) | 2016-06-23 | 2016-06-23 | 観察支援装置及び内視鏡システム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016124808A JP2017225700A (ja) | 2016-06-23 | 2016-06-23 | 観察支援装置及び内視鏡システム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2017225700A true JP2017225700A (ja) | 2017-12-28 |
Family
ID=60890599
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016124808A Pending JP2017225700A (ja) | 2016-06-23 | 2016-06-23 | 観察支援装置及び内視鏡システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2017225700A (ja) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6535143B1 (ja) * | 2018-03-06 | 2019-06-26 | オリンパス株式会社 | 内視鏡および内視鏡の作動方法 |
WO2019171614A1 (ja) * | 2018-03-06 | 2019-09-12 | オリンパス株式会社 | 内視鏡および内視鏡の作動方法 |
WO2020203405A1 (ja) | 2019-03-29 | 2020-10-08 | ソニー株式会社 | 医療用観察システムおよび方法、並びに医療用観察装置 |
WO2021171465A1 (ja) * | 2020-02-27 | 2021-09-02 | オリンパス株式会社 | 内視鏡システム及び内視鏡システムによる管腔走査方法 |
JP2022504220A (ja) * | 2018-10-04 | 2022-01-13 | バイオセンス・ウエブスター・(イスラエル)・リミテッド | Entツールを備えるカメラの使用 |
WO2022059197A1 (ja) * | 2020-09-18 | 2022-03-24 | オリンパスメディカルシステムズ株式会社 | 生体組織の採取方法および生検支援システム |
WO2024028924A1 (ja) * | 2022-08-01 | 2024-02-08 | 日本電気株式会社 | 内視鏡検査支援装置、内視鏡検査支援方法、及び、記録媒体 |
-
2016
- 2016-06-23 JP JP2016124808A patent/JP2017225700A/ja active Pending
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6535143B1 (ja) * | 2018-03-06 | 2019-06-26 | オリンパス株式会社 | 内視鏡および内視鏡の作動方法 |
WO2019171614A1 (ja) * | 2018-03-06 | 2019-09-12 | オリンパス株式会社 | 内視鏡および内視鏡の作動方法 |
US11045072B2 (en) | 2018-03-06 | 2021-06-29 | Olympus Corporation | Endoscope and method of operating endoscope |
JP2022504220A (ja) * | 2018-10-04 | 2022-01-13 | バイオセンス・ウエブスター・(イスラエル)・リミテッド | Entツールを備えるカメラの使用 |
JP7375001B2 (ja) | 2018-10-04 | 2023-11-07 | バイオセンス・ウエブスター・(イスラエル)・リミテッド | Entツールを備えるカメラの使用 |
WO2020203405A1 (ja) | 2019-03-29 | 2020-10-08 | ソニー株式会社 | 医療用観察システムおよび方法、並びに医療用観察装置 |
WO2021171465A1 (ja) * | 2020-02-27 | 2021-09-02 | オリンパス株式会社 | 内視鏡システム及び内視鏡システムによる管腔走査方法 |
JPWO2021171465A1 (ja) * | 2020-02-27 | 2021-09-02 | ||
JP7385731B2 (ja) | 2020-02-27 | 2023-11-22 | オリンパス株式会社 | 内視鏡システム、画像処理装置の作動方法及び内視鏡 |
WO2022059197A1 (ja) * | 2020-09-18 | 2022-03-24 | オリンパスメディカルシステムズ株式会社 | 生体組織の採取方法および生検支援システム |
WO2024028924A1 (ja) * | 2022-08-01 | 2024-02-08 | 日本電気株式会社 | 内視鏡検査支援装置、内視鏡検査支援方法、及び、記録媒体 |
WO2024029503A1 (ja) * | 2022-08-01 | 2024-02-08 | 日本電気株式会社 | 内視鏡検査支援装置、内視鏡検査支援方法、及び、記録媒体 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2017225700A (ja) | 観察支援装置及び内視鏡システム | |
JP5718537B2 (ja) | 内視鏡システム | |
JP5160699B2 (ja) | 医療機器 | |
US7967742B2 (en) | Method for using variable direction of view endoscopy in conjunction with image guided surgical systems | |
JP5715311B2 (ja) | 内視鏡システム | |
US7794388B2 (en) | Method and apparatus for generating at least one section of a virtual 3D model of a body interior | |
US9516993B2 (en) | Endoscope system | |
JP5159995B2 (ja) | 内視鏡システム | |
JP5687811B1 (ja) | 内視鏡システム | |
US20050054895A1 (en) | Method for using variable direction of view endoscopy in conjunction with image guided surgical systems | |
JP6242543B2 (ja) | 画像処理装置及び画像処理方法 | |
US20130250081A1 (en) | System and method for determining camera angles by using virtual planes derived from actual images | |
JP2007531554A (ja) | 管状構造を立体的に表示するディスプレイ及び該ディスプレイのための改善された技術(「ステレオ・ディスプレイ」) | |
JP2017513662A (ja) | Q3d画像の3d画像とのアライメント | |
JP5161013B2 (ja) | 医用ガイドシステム | |
KR20140108066A (ko) | 내시경 시스템 및 그 제어방법 | |
US9345394B2 (en) | Medical apparatus | |
JP2010088699A (ja) | 医療画像処理システム | |
EP3782529A1 (en) | Systems and methods for selectively varying resolutions | |
JP4700405B2 (ja) | 超音波診断装置 | |
US20230062782A1 (en) | Ultrasound and stereo imaging system for deep tissue visualization | |
JP2022132940A (ja) | 内視鏡及び内視鏡システム |