JP5385176B2 - 画像表示装置の作動方法および画像表示装置 - Google Patents

画像表示装置の作動方法および画像表示装置 Download PDF

Info

Publication number
JP5385176B2
JP5385176B2 JP2010036812A JP2010036812A JP5385176B2 JP 5385176 B2 JP5385176 B2 JP 5385176B2 JP 2010036812 A JP2010036812 A JP 2010036812A JP 2010036812 A JP2010036812 A JP 2010036812A JP 5385176 B2 JP5385176 B2 JP 5385176B2
Authority
JP
Japan
Prior art keywords
image
normal
unit
representing
tube
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2010036812A
Other languages
English (en)
Other versions
JP2011087906A (ja
Inventor
臣一 下津
祐二 西尾
英之 山田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2010036812A priority Critical patent/JP5385176B2/ja
Publication of JP2011087906A publication Critical patent/JP2011087906A/ja
Application granted granted Critical
Publication of JP5385176B2 publication Critical patent/JP5385176B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)
  • Endoscopes (AREA)

Description

本発明は、通常光の被観察部への照射によって取得した通常画像と特殊光の被観察部への照射によって取得した特殊画像とに基づいて、被観察部内に含まれる管部分を表す画像を表示する画像表示方法および装置に関するものである。
従来、体腔内の組織を観察する内視鏡システムが広く知られており、白色光の照射によって体腔内の被観察部を撮像して通常画像を得、この通常画像をモニタ画面上に表示する電子式内視鏡システムが広く実用化されている。
また、上記のような内視鏡システムとして、たとえば、特許文献1においては、通常画像とともに、励起光の照射によって被観察部から発せられた自家蛍光像を撮像して自家蛍光画像を得、これらの画像をモニタ画面上に表示する蛍光内視鏡システムが提案されている。
また、蛍光内視鏡システムとしては、たとえば、ICG(インドシアニングリーン)を予め体内に投入し、励起光を被観察部に照射して血管内のICGの蛍光を検出することによって血管の蛍光画像を取得するものも提案されている。
そして、たとえば、特許文献1に記載の蛍光内視鏡システムにおいては、通常画像と自家蛍光画像とをモニタ上に切り替えて表示することが提案されている。
特開2005−204905号公報
ここで、たとえば、上述したようなICGを用いた血管画像の観察を行う場合、蛍光画像上において、通常画像上には現れない脂肪下の血管まで表示することが可能であるが、蛍光画像はモノクロ画像であり、蛍光画像上では蛍光を発している血管部分しか認識することができないため、蛍光画像を観察しただけでは被観察部のどの位置に血管が存在するのかを正確に把握することができない。
また、特許文献1に記載の蛍光内視鏡システムのように、通常画像と蛍光画像とを切り替えて表示すれば2つの画像を比較することは可能であるが、通常画像と蛍光画像とを同時に比較することができないので、やはり通常画像上のどの位置に血管が存在するのかを正確に判断することができない。また、蛍光画像上における血管画像と通常画像上における血管画像とでは共通部分を有するので、これらを交互に比較観察しただけでは蛍光画像のみに存在する血管部分、すなわち脂肪下に隠れて通常画像上には現われていない血管部分だけを瞬時に判断することは非常に困難である。
また、通常画像と蛍光画像とを同時に表示する方法も考えられるが、たとえ、これらの画像を同時に表示したとしても、観察者は通常画像と蛍光画像とを交互に比較観察する必要があるので、やはり蛍光画像のみに存在する部分を瞬時に判断することは非常に困難であり、観察者の疲労も招くことになる。
さらに、蛍光画像を通常画像上に重畳させて表示することも考えられるが、このような方法を採用したとしても、蛍光画像がそのまま通常画像上に現れるだけであり、蛍光画像の血管画像は、通常画像の血管画像と共通する部分を有するので、やはり蛍光画像上にのみ存在する部分を判断することはできない。
本発明は、上記の問題に鑑みてなされたものであり、通常画像と特殊画像とに基づいて、被観察部内に含まれる管部分を表す画像を表示する画像表示方法および装置において、特殊画像にのみ存在する管部分を瞬時に判断することができる画像表示方法および装置を提供することを目的とする。
本発明の画像表示方法は、通常光の被観察部への照射によって被観察部から反射された反射光を受光して撮像された通常画像と、特殊光の被観察部への照射によって被観察部から発せられた光を受光して撮像された特殊画像とを取得し、その取得した通常画像および特殊画像から、被観察部に含まれる管部分を表す画像をそれぞれ抽出し、その抽出した特殊画像の管部分を表す画像から通常画像の管部分を表す画像を差し引く演算処理を行い、その演算処理の演算結果に基づいて、特殊画像の管部分を表す画像にのみ存在する部分と特殊画像の管部分を表す画像と通常画像の管部分を表す画像との共通部分とを異なる表示態様で表示することを特徴とする。
また、上記本発明の画像表示方法においては、特殊画像の管部分を表す画像にのみ存在する部分の画像信号に対し、その部分の輝度が周期的に変化するような変調処理を施すようにすることができる。
また、上記変調処理の施された部分と通常画像とを合成した合成画像を表示するようにすることができる。
本発明の画像表示装置は、通常光および特殊光を被観察部に照射する光照射部と、通常光の照射によって被観察部から反射された反射光を受光して通常画像を撮像するとともに、特殊光の照射によって被観察部から発せられた光を受光して特殊画像を撮像する撮像部と、撮像部によって撮像された通常画像および特殊画像から、被観察部に含まれる管部分を表す画像をそれぞれ抽出する管画像抽出部と、管画像抽出部によって抽出された特殊画像の管部分を表す画像から通常画像の管部分を表す画像を差し引く演算処理部と、演算処理部における演算結果に基づいて、特殊画像の管部分を表す画像にのみ存在する部分と特殊画像の管部分を表す画像と通常画像の管部分を表す画像との共通部分とを異なる表示態様で表示する表示部とを備えたことを特徴とする。
ここで、上記「異なる表示態様で表示する」とは、一方の部分を表示し、他方の部分を非表示とする態様も含むものとする。
また、上記本発明の画像表示装置においては、表示部を、特殊画像の管部分を表す画像にのみに存在する部分のみを表示するものとすることができる。
また、表示部を、特殊画像の管部分を表す画像にのみに存在する部分のみを表示する第1の表示態様と、特殊画像の管部分を表す画像にのみに存在する部分と上記共通部分との両方を表示する第2の表示態様とを切り替えて表示可能なものとすることができる。
また、表示部を、特殊画像の管部分を表す画像にのみに存在する部分の両端部のうちの、特殊画像の管部分を表す画像と通常画像の管部分を表す画像との共通部分側の端部からその端部と反対側の端部へ向かう方向を示す画像を表示するものとすることができる。
また、表示部を、特殊画像の管部分を表す画像と通常画像の管部分を表す画像との共通部分の両端部のうちの、特殊画像の管部分を表す画像にのみに存在する部分側の端部からその端部と反対側の端部へ向かう方向を示す画像を表示するものとすることができる。
また、特殊画像の管部分を表す画像にのみ存在する部分の画像信号に対し、その部分の輝度が周期的に変化するような変調処理を施す変調処理部をさらに設け、表示部を、特殊画像の管部分を表す画像にのみ存在する部分を強弱表示するものとすることができる。
また、変調処理の施された部分と通常画像とを合成した合成画像を生成する合成画像生成部をさらに設け、表示部を、その合成画像を表示するものとすることができる。
本発明の画像表示方法および装置によれば、通常画像および特殊画像から被観察部に含まれる管部分を表す画像をそれぞれ抽出し、その抽出した特殊画像の管部分を表す画像から通常画像の管部分を表す画像を差し引く演算処理を行い、その演算処理の演算結果に基づいて、特殊画像の管部分を表す画像にのみ存在する部分と特殊画像の管部分を表す画像と通常画像の管部分を表す画像との共通部分とを異なる表示態様で表示するようにしたので、たとえば、ICGを用いた血管画像の観察を行う場合などにおいて、通常画像上には現れず特殊画像上にのみ現れる脂肪下の血管部分を瞬時に判断することができる。
また、特殊画像の管部分を表す画像にのみに存在する部分のみを表示する第1の表示態様と、特殊画像の管部分を表す画像にのみに存在する部分と特殊画像および通常画像の管部分を表す画像の共通部分との両方を表示する第2の表示態様とを切り替えて表示するようにした場合には、第1の表示態様時には特殊画像上にのみ現れる脂肪下の血管部分を瞬時に判断することができ、さらに第2の表示態様時には血管画像全体を観察することができるので、より精度の高い画像診断を行うことができる。
また、特殊画像の管部分を表す画像にのみに存在する部分の両端部のうちの、特殊画像の管部分を表す画像と通常画像の管部分を表す画像との共通部分側の端部からその端部と反対側の端部へ向かう方向を示す画像を表示するようにした場合には、管部分が深部へ延びる方向を瞬時に判断することができる。
また、特殊画像の管部分を表す画像と通常画像の管部分を表す画像との共通部分の両端部のうちの、特殊画像の管部分を表す画像にのみに存在する部分側の端部からその端部と反対側の端部へ向かう方向を示す画像を表示するようにした場合には、管部分が浅部へ延びる方向を瞬時に判断することができる。
また、特殊画像の管部分を表す画像にのみ存在する部分の画像信号に対し、その部分の輝度が周期的に変化するような変調処理を施し、たとえば、その変調処理の施された部分と通常画像とを合成した合成画像を表示するようにした場合には、特殊画像の管部分を表す画像にのみ存在する部分を強弱表示することができるので、強調表示している間は、たとえば、特殊画像上にのみ現れる脂肪下の血管部分を瞬時に判断することができ、弱表示している間は、通常画像の可視情報も認識することができる。
本発明の画像表示装置の一実施形態を用いた腹腔鏡システムの概略構成図 硬質挿入部の概略構成図 撮像ユニットの概略構成図 画像処理装置および光源装置の概略構成を示すブロック図 画像処理部の概略構成を示すブロック図 通常画像、蛍光画像および合成画像を表示する作用を説明するためのフローチャート エッジ検出を用いた線分抽出処理を説明するためのフローチャート 通常画像の一例を示す図 蛍光画像の一例を示す図 通常画像から抽出された血管画像の一例を示す図 蛍光画像から抽出された血管画像の一例を示す図 通常血管画像信号が表す血管画像K1、蛍光血管画像信号が表す血管画像K2、深部血管画像信号が表す深部血管画像K3,K4の一例を示す図 深さ画像信号A1〜A3が表す深さ方向画像の一例を示す図 合成画像の一例を示す図 深部血管画像を点滅表示させる場合の画像処理部の概略構成を示すブロック図 変調係数の値の一例を示す図 合成画像内の深部血管画像の画像強度変化を示す図 画像処理部の変形例を示すブロック図 通常画像、蛍光画像および合成画像の一例を示す図
以下、図面を参照して本発明の画像表示装置の一実施形態を用いた腹腔鏡システムについて詳細に説明する。図1は、本実施形態の腹腔鏡システム1の概略構成を示す外観図である。
本実施形態の腹腔鏡システム1は、図1に示すように、白色の通常光および特殊光を同時に射出する光源装置2と、光源装置2から射出された通常光および特殊光を導光して被観察部に照射するとともに、通常光の照射により被観察部から反射された反射光に基づく通常像および特殊光の照射により被観察部から発せられた蛍光に基づく蛍光像を撮像する硬性鏡撮像装置10と、硬性鏡撮像装置10によって撮像された画像信号に所定の処理を施す画像処理装置3と、画像処理装置3において生成された表示制御信号に基づいて被観察部の通常画像および蛍光画像を表示するモニタ4とを備えている。
硬性鏡撮像装置10は、図1に示すように、腹腔内に挿入される硬質挿入部30と、硬質挿入部30によって導光された被観察部の通常像および蛍光像を撮像する撮像ユニット20とを備えている。
また、硬性鏡撮像装置10は、図2に示すように、硬質挿入部30と撮像ユニット20とが着脱可能に接続されている。そして、硬質挿入部30は接続部材30a、挿入部材30b、ケーブル接続口30c、および照射窓30dを備えている。
接続部材30aは、硬質挿入部30(挿入部材30b)の一端側30Xに設けられており、たとえば撮像ユニット20側に形成された開口20aに嵌め合わされることにより、撮像ユニット20と硬質挿入部30とが着脱可能に接続される。
挿入部材30bは、腹腔内の撮影を行う際に腹腔内に挿入されるものであって、硬質な材料から形成され、たとえば、直径略5mmの円柱形状を有している。挿入部材30bの内部には、被観察部の像を結像するためのレンズ群が収容されており、他端側30Yから入射された被観察部の通常像および蛍光像はレンズ群を介して一端側30Xの撮像ユニット20側に射出される。
挿入部材30bの側面にはケーブル接続口30cが設けられており、このケーブル接続口30cに光ケーブルLCが機械的に接続される。これにより、光源装置2と挿入部材30bとが光ケーブルLCを介して光学的に接続されることになる。
照射窓30dは、硬質挿入部30の他端側30Yに設けられており、光ケーブルLCによって導光された通常光および特殊光を被観察部に対し照射するものである。なお、挿入部材30b内にはケーブル接続口30cから照射窓30dまで通常光および特殊光を導光するライトガイドが収容されており(図示せず)、照射窓30dはライトガイドによって導光された通常光および特殊光を被観察部に照射するものである。
図3は、撮像ユニット20の概略構成を示す図である。撮像ユニット20は、硬質挿入部30内のレンズ群により結像された被観察部の蛍光像を撮像して被観察部の蛍光画像信号を生成する第1の撮像系と、硬質挿入部30内のレンズ群により結像された被観察部の通常像を撮像して通常画像信号を生成する第2の撮像系とを備えている。これらの撮像系は、通常像を反射するとともに、蛍光像を透過する分光特性を有するダイクロイックプリズム21によって、互いに直交する2つの光軸に分けられている。
第1の撮像系は、被観察部において反射し、ダイクロイックプリズム21を透過した特殊光をカットする特殊光カットフィルタ22と、硬質挿入部30から射出され、ダイクロイックプリズム21および特殊光カットフィルタ22を透過した蛍光像L4を結像する第1結像光学系23と、第1結像光学系23により結像された蛍光像L4を撮像する高感度撮像素子24とを備えている。
第2の撮像系は、硬質挿入部30から射出され、ダイクロイックプリズム21を反射した通常像L3を結像する第2結像光学系25と、第2結像光学系25により結像された通常像L3を撮像する撮像素子26を備えている。
高感度撮像素子24は、蛍光像L4の波長帯域の光を高感度に検出し、蛍光画像信号に変換して出力するものである。高感度撮像素子24はモノクロの撮像素子である。
撮像素子26は、通常像の波長帯域の光を検出し、通常画像信号に変換して出力するものである。撮像素子26の撮像面には、3原色の赤(R)、緑(G)および青(B)、またはシアン(C)、マゼンダ(M)およびイエロー(Y)のカラーフィルタがベイヤー配列またはハニカム配列で設けられている。
また、撮像ユニット20は、撮像制御ユニット27を備えている。撮像制御ユニット27は、高感度撮像素子24から出力された蛍光画像信号および撮像素子26から出力された通常画像信号に対し、CDS/AGC(相関二重サンプリング/自動利得制御)処理やA/D変換処理を施し、ケーブル5(図1参照)を介して画像処理装置3に出力するものである。
画像処理装置3は、図4に示すように、通常画像入力コントローラ31、蛍光画像入力コントローラ32、画像処理部33、メモリ34、ビデオ出力部35、操作部36、TG(タイミングジェネレータ)37およびCPU38を備えている。
通常画像入力コントローラ31および蛍光画像入力コントローラ32は、所定容量のラインバッファを備えており、撮像ユニット20の撮像制御ユニット27から出力された1フレーム分の通常画像信号および蛍光画像信号をそれぞれ一時的に記憶するものである。そして、通常画像入力コントローラ31に記憶された通常画像信号および蛍光画像入力コントローラ32に記憶された蛍光画像信号はバスを介してメモリ34に格納される。
画像処理部33は、メモリ34から読み出された1フレーム分の通常画像信号および蛍光画像信号が入力され、これらの画像信号に所定の画像処理を施し、バスに出力するものである。画像処理部33のより具体的な構成を図5に示す。
画像処理部33は、図5に示すように、入力された通常画像信号に対し、通常画像に適した所定の画像処理を施して出力する通常画像処理部33aと、入力された蛍光画像信号に対し、蛍光画像に適した所定の画像処理を施して出力する蛍光画像処理部33bと、入力された通常画像信号と蛍光画像信号に対して、血管を表す画像信号を抽出する処理を施す血管抽出部33cと、蛍光画像信号から抽出された血管を表す画像信号(以下、「蛍光血管画像信号」という)から通常画像信号から抽出された血管を表す画像信号(以下、「通常血管画像信号」という)を差し引く演算処理を行う画像演算部33dと、画像演算部33dの演算処理の結果に基づいて、蛍光血管画像信号にのみ存在する部分の深部血管画像信号と蛍光血管画像信号と通常血管画像信号との共通部分の共通血管画像信号とをそれぞれ生成し、通常画像処理部33aから出力された通常画像信号に合成して合成画像信号を生成する画像合成部33eとを備えている。なお、画像処理部33の各部における処理については、後で詳述する。
ビデオ出力部35は、画像処理部33から出力された通常画像信号、蛍光画像信号および合成画像信号がバスを介して入力され、所定の処理を施して表示制御信号を生成し、その表示制御信号をモニタ4に出力するものである。
操作部36は、種々の操作指示や制御パラメータなどの操作者による入力を受け付けるものである。また、TG37は、撮像ユニット20の高感度撮像素子24、撮像素子26および後述する光源装置2のLDドライバ45を駆動するための駆動パルス信号を出力するものである。また、CPU36は装置全体を制御するものである。
光源装置2は、図4に示すように、約400〜700nmの広帯域の波長からなる通常光(白色光)L1を射出する通常光源40と、通常光源40から射出された通常光L1を集光する集光レンズ42と、集光レンズ42によって集光された通常光L1を透過するとともに、後述する特殊光L2を反射し、通常光L1および特殊光L2とを光ケーブルLCの入射端に入射させるダイクロイックミラー43とを備えている。なお、通常光源40としては、たとえばキセノンランプが用いられる。また、通常光源40と集光レンズ42との間には、絞り41が設けられており、ALC(Automatic light control)からの制御信号に基づいてその絞り量が制御される。
また、光源装置2は、700nm〜800nmの可視から近赤外帯域の光であり、たとえば蛍光色素としてICG(インドシアニングリーン)を用いた場合には750〜790nmの近赤外光を特殊光L2として射出するLD光源44と、LD光源44を駆動するLDドライバ45と、LD光源44から射出された特殊光L2を集光する集光レンズ46と、集光レンズ46によって集光された特殊光りL2をダイクロイックミラー43に向けて反射するミラー47とを備えている。
なお、特殊光L2としては、広帯域の波長からなる通常光よりも狭帯域の波長が用いられる。そして、特殊光L2としては上記波長域の光に限定されず、蛍光色素の種類もしくは自家蛍光させる生体組織の種類によって適宜決定される。
また、光源装置2は、光ケーブルLCを介して硬性鏡撮像装置10に光学的に接続されている。
次に、本実施形態の腹腔鏡システムの作用について説明する。
まず、光ケーブルLCが接続された硬質挿入部30およびケーブル5が撮像ユニット20に取り付けられた後、光源装置2および撮像ユニット20および画像処理装置3の電源が投入され、これらが駆動される。
次に、操作者により硬質挿入部30が腹腔内に挿入され、硬質挿入部30の先端が被観察部の近傍に設置される。
そして、光源装置2の通常光源40から射出された通常光L1が、集光レンズ42、ダイクロイックミラー43および光ケーブルLCを介して硬質挿入部30に入射され、硬質挿入部30の照射窓30dから被観察部に照射される。一方、光源装置2のLD光源44から射出された特殊光L2が、集光レンズ46、ミラー47、ダイクロイックミラー43および光ケーブルLCを介して硬質挿入部30に入射され、硬質挿入部30の照射窓30dから被観察部に通常光と同時に照射される。なお、同時に照射するとは、必ずしも照射期間が完全に一致している必要はなく、少なくとも一部の照射期間が重複していればよい。
そして、通常光L1の照射によって被観察部から反射された反射光に基づく通常像が撮像されるとともに、特殊光L2の照射によって被観察部から発せられた蛍光に基づく蛍光像が通常像と同時に撮像される。なお、同時に撮像するとは、必ずしも高感度撮像素子24と撮像素子26の撮像タイミングが完全に一致している必要はなく、少なくとも一部の撮像タイミングが重複していればよい。また、被観察部には、予めICGが投与されており、このICGから発せられる蛍光を撮像するものとする。
より具体的には、通常像の撮像の際には、通常光L1の照射によって被観察部から反射された反射光に基づく通常像L3が挿入部材30bの先端30Yから入射し、挿入部材30b内のレンズ群により導光されて撮像ユニット20に向けて射出される。
撮像ユニット20に入射された通常像L3は、ダイクロイックプリズム21により撮像素子26に向けて直角方向に反射され、第2結像光学系25により撮像素子26の撮像面上に結像され、撮像素子26によって撮像される。
撮像素子26から出力された通常画像信号は、撮像制御ユニット27においてCDS/AGC(相関二重サンプリング/自動利得制御)処理やA/D変換処理が施された後、ケーブル5を介して画像処理装置3に出力される。
一方、蛍光像の撮像の際には、特殊光の照射によって被観察部から発せられた蛍光に基づく蛍光像L4が挿入部材30bの先端30Yから入射し、挿入部材30b内のレンズ群により導光されて撮像ユニット20に向けて射出される。
撮像ユニット20に入射された蛍光像L4は、ダイクロイックプリズム21および特殊光カットフィルタ22を通過した後、第1結像光学系23により高感度撮像素子24の撮像面上に結像され、高感度撮像素子24によって撮像される。高感度撮像素子24から出力された蛍光画像信号は、撮像制御ユニット27においてCDS/AGC(相関二重サンプリング/自動利得制御)処理やA/D変換処理が施された後、ケーブル5を介して画像処理装置3に出力される。
次に、上記のようにして撮像ユニット20において撮像された通常画像信号および蛍光画像信号に基づいて通常画像、蛍光画像および合成画像を表示する作用について、図4、図5および図6に示すフローチャートを参照しながら説明する。
まず、通常画像および蛍光画像を表示する作用について説明する。画像処理装置3に入力された通常画像信号は、通常画像入力コントローラ31において一時的に記憶された後、メモリ34に格納される(図6、S30)。そして、メモリ34から読み出された1フレーム分の通常画像信号は、画像処理部33の通常画像処理部33aにおいて階調補正処理およびシャープネス補正処理が施された後(図6、S32,S34)、ビデオ出力部35に出力される。
そして、ビデオ出力部35は、入力された通常画像信号に所定の処理を施して表示制御信号を生成し、その表示制御信号をモニタ4に出力する。そして、モニタ4は、入力された表示制御信号に基づいて通常画像を表示する(図6、S36)。図8Aに、上記のようにして表示された通常画像の一例を示す。
また、画像処理装置3に入力された蛍光画像信号は、蛍光画像入力コントローラ32において一時的に記憶された後、メモリ34に格納される(図6、S40)。そして、メモリ34から読み出された1フレーム分の蛍光画像信号は、画像処理部33の蛍光画像処理部33bにおいて所定の画像処理が施された後、ビデオ出力部35に出力される。
そして、ビデオ出力部35は、入力された蛍光画像信号に所定の処理を施して表示制御信号を生成し、その表示制御信号をモニタ4に出力する。そして、モニタ4は、入力された表示制御信号に基づいて蛍光画像を表示する(図6、S42)。図8Bに、上記のようにして表示された蛍光画像の一例を示す。
次に、通常画像信号および蛍光画像信号に基づいて、合成画像を表示する作用について説明する。
上記のようにしてメモリ34に記憶された通常画像信号および蛍光画像信号は、画像処理部33の血管抽出部33cに入力される。そして、血管抽出部33cにおいて血管抽出処理が施される(図6、S50)。
血管抽出処理は、線分抽出処理を行うことによって行われる。本実施形態においては、エッジ検出とそのエッジ検出によって検出したエッジから孤立点を除去することによって線分抽出処理を行う。エッジ検出方法としては、たとえば、1次微分を用いたキャニー法を用いることができる。図7に、キャニー法によるエッジ検出を用いた線分抽出処理を説明するためのフローチャートを示す。
図7に示すように、まず、通常画像信号および蛍光画像信号のそれぞれに対し、DOG(Derivative of Gaussian)フィルタを用いたフィルタ処理が施される(図7、S10〜S14)。このDOGフィルタを用いたフィルタ処理は、ノイズを減らすためのガウシアンフィルタ処理(平滑化処理)と濃度勾配を検出するためのx,y方向の1次微分フィルタ処理とを組み合わせた処理である。
そして、フィルタ処理済の通常画像信号および蛍光画像信号のそれぞれについて、濃度勾配の大きさと方向が計算される(図7、S16)。そして、濃度勾配の極大点を抽出し、それ以外の非極大点を除去する(図7、S18)。
そして、その極大点と所定の閾値とを比較し、所定の閾値以上の極大点をエッジとして検出する(図7、S20)。さらに、極大点であり所定の閾値以上であるが、連続したエッジを構成していない孤立点を除去する処理を行う(図7、S22)。孤立点の除去処理は、血管としては適当でない孤立点をエッジ検出結果から除去するための処理で、具体的には、検出された各エッジの長さをチェックすることによって孤立点を検出する。
なお、エッジ検出のアルゴリズムは、上記に限らず、ノイズを減らすためのガウシアンフィルタ処理と2次微分処理とを行ってエッジを抽出するラプラシアンフィルタを組み合わせたLOG(Laplace of Gaussian)フィルタを用いてエッジ検出を行うようにしてもよい。
また、上記の線分抽出処理は、通常画像信号については、通常画像信号のR−G成分またはR成分に対して施すことが望ましい。蛍光画像信号については、モノクロなのでそのまま輝度信号に施すことが望ましい。
また、本実施形態においては、エッジ検出を用いた線分抽出処理を行うことによって血管抽出を行うようにしたが、これに限らず、血管部分を抽出する処理であれば、たとえば、色相や輝度を用いた処理など如何なる処理を用いてもよい。
上記のようにして血管抽出処理を行うことによって、通常画像信号および蛍光画像信号のそれぞれについて通常血管画像信号および蛍光血管画像信号が生成されるが、この通常血管画像信号は、被観察部の表層から深さ10分の数mmまでに存在する血管画像を表すものとなり、蛍光血管画像信号は、被観察部の表層から深さ数mm程度までに存在する血管画像を表すものとなる。図9に通常血管画像信号が表す血管画像の一例を、図10に蛍光血管画像信号が表す血管画像の一例を太実線で示す。
そして、次に、血管抽出部33cにおいて生成された通常血管画像信号と蛍光血管画像信号とが画像演算部33dに出力され、これらの信号に基づいて深部画像生成処理が行われる。具体的には、蛍光血管画像信号から通常血管画像信号が減算されて深部血管画像信号が生成されるとともに、蛍光血管画像信号と通常血管画像信号の共通部分である共通血管画像信号が生成される(図6、S52)。なお、深部血管画像信号は、脂肪下の深さ10分の数mmから深さ数mmまでに存在する血管画像を表すものとなる。
図11に、通常血管画像信号が表す血管画像K1,蛍光血管画像信号が表す血管画像K2、深部血管画像信号が表す深部血管画像K3,K4の一例を表す。なお、血管画像K1は、共通血管画像信号が表す血管画像でもある。
そして、さらに、画像演算部33dにおいては、上記のようにして生成された深部血管画像信号と、共通血管画像信号とに基づいて、深さ画像信号が生成される(図6、S54)。
具体的には、深部血管画像信号K3(K4)の両端部のうちの、共通血管画像信号K1側の端部からその端部と反対側の端部へ向かう方向を示す深さ画像信号A2,A3が生成される。また、共通血管画像信号K1の両端部のうちの、深部血管画像信号K3(K4)側の端部からその端部と反対側の端部へ向かう方向を示す深さ画像信号A1が生成される。
図12に、深さ画像信号A1〜A3が表す画像の一例を示す。なお、本実施形態においては、矢印の画像によって上記方向を表すようにしたが、必ずしも矢印の画像でなくてもよく、たとえば、グラデーション画像など上記方向を示す画像であれば如何なる画像でもよい。また、本実施形態においては、深さ画像信号A1〜A3が、血管が延びる方向および血管の範囲の両方を示すものとしたが、血管が延びる方向を示す画像信号と血管の範囲を示す画像信号をそれぞれ別個に生成し、これらを別個に表示するようにしてもよい。
そして、上記のようにして画像演算部33dにおいて生成された深さ画像信号A1〜A3は、画像合成部33eに出力される。そして、画像合成部33eには、通常画像処理部33aから出力された通常画像信号も入力され、この通常画像信号と深さ画像信号A1〜A3が合成されて合成画像信号が生成される(図6、S56)。
そして、画像合成部33eにおいて生成された合成画像信号は、ビデオ出力部35に出力される。
そして、ビデオ出力部35は、入力された合成画像信号に所定の処理を施して表示制御信号を生成し、その表示制御信号をモニタ4に出力する。そして、モニタ4は、入力された表示制御信号に基づいて合成画像を表示する(図6、S58)。図13に、合成画像信号に基づいて表示された合成画像の一例を示す。図13に示すように、深さ画像信号A1と深さ画像信号A2,A3とは、たとえば、互いに異なる色で表示することが望ましい。また、深さ画像信号A1と深さ画像信号A2,A3とで色を変えるのではなく、線分のパターンを変えたりしてもよく、要は、深さ画像信号A1と深さ画像信号A2,A3とが区別がつくような表示態様であれば如何なる表示態様を採用してもよい。
また、上記実施形態においては、深さ画像信号A1と深さ画像信号A2,A3とを同時に表示するようにしたが、これに限らず、たとえば、操作部36によって切替信号を受け付け、その切替信号に応じて、深さ画像信号A2,A3のみを表示する表示態様と、深さ画像信号A1と深さ画像信号A2,A3との両方を表示する表示態様とを切り替えて表示するようにしてもよい。さらに、深さ画像信号A1のみを表示するようにしてもよい。
また、上記実施形態においては、通常画像信号と深さ画像信号A1〜A3とを合成して合成画像信号を生成するようにしたが、蛍光画像信号と深さ画像信号A1〜A3とを合成して合成画像信号を生成し、その合成画像信号に基づいて合成画像を表示するようにしてもよい。
また、上記実施形態において生成された深部血管画像信号K3,K4や深さ画像信号A2,A3(以下、深部血管画像信号等という)に基づいて、深部血管画像を点滅表示させるようにしても良い。具体的には、図14に示すように、画像処理部33に対し、セレクタ部33fと複数の係数乗算部33gとからなる変調処理部をさらに設けるようにしてもよい。
セレクタ部33fは、画像演算部33dから出力されたフレーム毎の深部血管画像信号等を各係数乗算部33gにそれぞれ切り替えて出力するものである。
係数乗算部33gは、互いに異なる変調係数k1〜k10がそれぞれ予め設定されるものであり、その係数kiと入力された各フレームの深部血管画像信号等を掛け合わせた乗算信号を画像合成部33eに出力するものである。
ここで、複数の係数乗算部33gのそれぞれに設定される変調係数ki(i=1〜10)の値の大きさの一例を図15に示す。図15に示す変調係数kiは、変調の周期を0.5s、変調係数kiの最大値を0.5とし、下式に基づいて算出されるものである。
ki=0.25×sin{i/(10×0.5)×2π}+0.25(i=1〜10)
そして、本実施形態においては、蛍光画像信号は10fpsのフレームレートで撮像されるものとし、1秒間に撮像された10枚のフレームの蛍光画像信号に基づいて生成された深部血管画像信号等に対し、それぞれ図15に示す変調係数k1〜k10の値が乗算される。
そして、図15に示す変調係数k1〜k10が各フレームの深部血管画像信号等に対して順次繰り返して乗算され、その乗算信号が画像合成部33eに順次出力される。
そして、画像合成部33eは、入力された乗算信号と通常画像処理部33aから出力された通常画像信号と合成して合成画像信号を生成し、その生成された合成画像信号は、ビデオ出力部35に出力される。
そして、ビデオ出力部35は、入力された合成画像信号に所定の処理を施して表示制御信号を生成し、その表示制御信号をモニタ4に出力し、モニタ4は、入力された表示制御信号に基づいて合成画像を表示する。
ここで、上述したように変調係数kiの変調の周期を0.5sに設定した場合における合成画像内の深部血管画像の画像強度の変化を図16に示す。図16に示すように、深部血管画像の輝度は0.5sの周期で正弦波として変動することになる。
なお、変調係数については、図15に示すような値に限らず、深部血管画像を見やすくするため、その最大値を適宜変更するなどしてもよい。また、通常画像信号に対しても任意の係数(たとえばK=0.5)をかけて強度を調整するようにしてもよい。
また、上記説明では、図16に示すように深部血管画像の輝度の強弱の周期が2Hzとなるようにしたが、強弱の周期はこれに限らない。具体的には、視認特性に関する実験を行った結果、照明の点滅は60Hz以上の周波数ではほぼ視認されないこと、そして30Hz以下の周波数では顕著に視認されるようになることが確認されたので、たとえば、強弱の周期を30Hz以下に設定するようにしてもよい。なお、用途などを考慮すると、より好ましくは1Hz程度である。
また、上記説明においては、深部血管画像のみを点滅表示させるようにしたが、これに限らず、変形例として、たとえば、蛍光画像全体を点滅表示させるようにしてもよい。その場合の画像処理部50の構成を図17に示す。この画像処理部50は、上記実施形態の画像処理部33とは異なり、深部血管画像信号の生成は行わないものである。
具体的には、図17に示すように、通常画像処理部50aと、蛍光画像処理部50bと、血管抽出部50cと、セレクタ部50dと、係数乗算部50eと、画像合成部50fとを備えたものである。
通常画像処理部50aおよび蛍光画像処理部50bは、上記実施形態と同様である。
血管抽出部50cは、血管抽出処理の対象の信号が蛍光画像信号のみであること以外は、その具体的な処理方法は上記実施形態の血管抽出処理部33cと同様である。
セレクタ部50dは、血管抽出部50cから出力されたフレーム毎の蛍光血管画像信号を各係数乗算部50eにそれぞれ切り替えて出力するものである。
係数乗算部50eは、その乗算対象の信号が蛍光血管画像信号であること以外は、上記実施形態の係数乗算部50eと同様である。
画像合成部50fは、係数乗算部50eから出力された乗算信号(蛍光血管画像信号と変調係数とを掛け合わせたもの)と通常画像信号とを合成して合成画像信号を生成し、その合成画像信号をビデオ出力部35に出力するものである。
そして、この変形例においても、蛍光画像信号は10fpsのフレームレートで撮像されるものとし、1秒間に撮像された10枚のフレームの蛍光画像信号に基づいて生成された蛍光血管画像信号に対し、それぞれ図15に示す変調係数k1〜k10の値が乗算される。
そして、図15に示す変調係数k1〜k10が各フレームの蛍光血管画像信号に対して順次繰り返して乗算され、その乗算信号が画像合成部50fに順次出力される。
そして、画像合成部50fは、入力された乗算信号と通常画像信号と合成して合成画像信号を生成し、その生成された合成画像信号をビデオ出力部35に出力する。
そして、ビデオ出力部35は、入力された合成画像信号に所定の処理を施して表示制御信号を生成し、その表示制御信号をモニタ4に出力し、モニタ4は、入力された表示制御信号に基づいて合成画像を表示する。
図18に、モニタ4に表示される通常画像および合成画像の一例を示す。なお、図18においては、通常画像に現れる部分と蛍光画像に現れる部分(血管部分)とを明確にするために蛍光画像の一例を示しているが、蛍光画像については表示してもしなくてもよい。
そして、図18には、時間とともに変化する3つの状態の合成画像1〜3を示している。合成画像1〜3に示すように、蛍光画像に現れる部分(血管部分)については、時間とともに濃度が変化し、1秒間に2回の割合で強弱表示される。
なお、この変形例においても、変調係数については、図15に示すような値に限らず、血管画像を見やすくするため、その最大値を適宜変更するなどしてもよい。また、通常画像信号に対しても任意の係数(たとえば、K=0.5)をかけて強度を調整するようにしてもよい。
また、上記実施形態においては、通常光源としてキセノンランプを用いるようにしたが、これに限らず、GaN系半導体レーザーを用いた高輝度白色光源(商品名:マイクロホワイト、日亜化学工業(株)製)を用いるようにしてもよい。この高輝度白色光源は、波長445nmの半導体レーザーから出射する光を,光学レンズを用いて光ファイバーに導光し,蛍光体材料を塗布した光ファイバーのもう一方の端面から,全光束が501nmの白色光を放出させるものである。
また、上記実施形態においては、特殊光源としてLD光源を用いるようにしたが、これに限らず、キセノンランプに励起フィルタを付加し、通常光と特殊光とを時系列に照射するようにしてもよい。
また、上記実施形態においては、第1の撮像系により蛍光画像を撮像するようにしたが、これに限らず、被観察部への特殊光の照射による被観察部の吸光特性に基づく画像を撮像するようにしてもよい。
また、上記実施形態においては、血管画像を抽出するようにしたが、これに限らず、たとえば、リンパ管、胆管などのその他の管部分を表す画像を抽出するようにしてもよい。
また、上記実施形態は、本発明の画像表示装置を腹腔鏡システムに適用したものであるが、これに限らず、たとえば、軟性内視鏡装置を有するその他の内視鏡システムに適用してもよい。また、内視鏡システムに限らず、体内に挿入される挿入部を備えていない、いわゆるビデオカメラ型の医用画像撮像装置に適用してもよい。
1 腹腔鏡システム
2 光源装置
3 画像処理装置
4 モニタ
10 硬性鏡撮像装置
20 撮像ユニット
21 ダイクロイックプリズム
22 特殊光カットフィルタ
24 高感度撮像素子
26 撮像素子
27 撮像制御ユニット
30 硬質挿入部
33 画像処理部
33c 血管抽出部
33d 画像演算部
33e 画像合成部
35 ビデオ出力部
36 操作部
40 通常光源
44 LD光源

Claims (10)

  1. 画像取得部と、管画像抽出部と、演算処理部と、表示部とを備えた画像表示装置の作動方法であって、
    前記画像取得部が、通常光が照射された被観察部から反射された反射光を受光して撮像された通常画像と、励起光が照射された被観察部から発せられた蛍光を受光して撮像された蛍光画像とを取得するものであり、
    前記管画像抽出部が、前記通常画像および前記蛍光画像から、前記被観察部に含まれる管部分を表す画像をそれぞれ抽出し、
    前記演算処理部が、前記蛍光画像の前記管部分を表す画像から前記通常画像の前記管部分を表す画像を差し引き、
    前記表示部が、前記演算処理部における演算結果に基づいて、前記蛍光画像の管部分を表す画像にのみ存在する部分と、前記蛍光画像の管部分を表す画像と前記通常画像の管部分を表す画像との共通部分とを異なる表示態様で表示することを特徴とする画像表示装置の作動方法。
  2. 前記画像表示装置が、変調処理部をさらに備え、
    該変調処理部が、前記蛍光画像の管部分を表す画像にのみ存在する部分の画像信号に対し、該部分の輝度が周期的に変化するような変調処理を施し、
    前記表示部が、前記蛍光画像の管部分を表す画像にのみ存在する部分を強弱表示することを特徴とする請求項1記載の画像表示装置の作動方法。
  3. 前記画像表示装置が、合成画像生成部をさらに備え、
    該合成画像生成部が、前記変調処理の施された部分と前記通常画像とを合成した合成画像を生成し、
    前記表示部が、前記合成画像を表示することを特徴とする請求項2記載の画像表示装置の作動方法。
  4. 通常光および励起光を被観察部に照射する光照射部と、
    前記通常光の照射によって前記被観察部から反射された反射光を受光して通常画像を撮像するとともに、前記励起光の照射によって前記被観察部から発せられた蛍光を受光して蛍光画像を撮像する撮像部と、
    該撮像部によって撮像された前記通常画像および前記蛍光画像から、前記被観察部に含まれる管部分を表す画像をそれぞれ抽出する管画像抽出部と、
    該管画像抽出部によって抽出された前記蛍光画像の前記管部分を表す画像から前記通常画像の前記管部分を表す画像を差し引く演算処理部と、
    該演算処理部における演算結果に基づいて、前記蛍光画像の管部分を表す画像にのみ存在する部分と前記蛍光画像の管部分を表す画像と前記通常画像の管部分を表す画像との共通部分とを異なる表示態様で表示する表示部とを備えたことを特徴とする画像表示装置。
  5. 前記表示部が、前記蛍光画像の管部分を表す画像にのみに存在する部分のみを表示するものであることを特徴とする請求項4記載の画像表示装置。
  6. 前記表示部が、前記蛍光画像の管部分を表す画像にのみに存在する部分のみを表示する第1の表示態様と、前記蛍光画像の管部分を表す画像にのみに存在する部分と前記共通部分との両方を表示する第2の表示態様とを切り替えて表示可能なものであることを特徴とする請求項4記載の画像表示装置。
  7. 前記表示部が、前記蛍光画像の管部分を表す画像にのみに存在する部分の両端部のうちの、前記共通部分側の端部から該端部と反対側の端部へ向かう方向を示す画像を表示するものであることを特徴とする請求項4から6いずれか1項記載の画像表示装置。
  8. 前記表示部が、前記蛍光画像の管部分を表す画像と前記通常画像の管部分を表す画像との共通部分の両端部のうちの、前記蛍光画像の管部分を表す画像にのみに存在する部分側の端部から該端部と反対側の端部へ向かう方向を示す画像を表示するものであることを特徴とする請求項4、6および7いずれか1項記載の画像表示装置。
  9. 前記蛍光画像の管部分を表す画像にのみ存在する部分の画像信号に対し、該部分の輝度が周期的に変化するような変調処理を施す変調処理部を備え、
    前記表示部が、前記蛍光画像の管部分を表す画像にのみ存在する部分を強弱表示するものであることを特徴とする請求項4から8いずれか1項記載の画像表示装置。
  10. 前記変調処理の施された部分と前記通常画像とを合成した合成画像を生成する合成画像生成部を備え、
    前記表示部が、前記合成画像を表示するものであることを特徴とする請求項9記載の画像表示装置。
JP2010036812A 2009-09-28 2010-02-23 画像表示装置の作動方法および画像表示装置 Active JP5385176B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010036812A JP5385176B2 (ja) 2009-09-28 2010-02-23 画像表示装置の作動方法および画像表示装置

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2009222034 2009-09-28
JP2009222034 2009-09-28
JP2010036812A JP5385176B2 (ja) 2009-09-28 2010-02-23 画像表示装置の作動方法および画像表示装置

Publications (2)

Publication Number Publication Date
JP2011087906A JP2011087906A (ja) 2011-05-06
JP5385176B2 true JP5385176B2 (ja) 2014-01-08

Family

ID=44106741

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010036812A Active JP5385176B2 (ja) 2009-09-28 2010-02-23 画像表示装置の作動方法および画像表示装置

Country Status (1)

Country Link
JP (1) JP5385176B2 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5642619B2 (ja) 2011-05-12 2014-12-17 富士フイルム株式会社 医療装置システム及び医療装置システムの作動方法
JP6533358B2 (ja) * 2013-08-06 2019-06-19 三菱電機エンジニアリング株式会社 撮像装置
JP6432770B2 (ja) * 2014-11-12 2018-12-05 ソニー株式会社 画像処理装置、画像処理方法、並びにプログラム
JP6488249B2 (ja) * 2016-03-08 2019-03-20 富士フイルム株式会社 血管情報取得装置、内視鏡システム及び血管情報取得方法
JP2018108173A (ja) 2016-12-28 2018-07-12 ソニー株式会社 医療用画像処理装置、医療用画像処理方法、プログラム
US20210169305A1 (en) * 2017-11-13 2021-06-10 Sony Corporation Image processing apparatus, image processing method, and image processing system
JP7046786B2 (ja) * 2018-12-11 2022-04-04 株式会社日立製作所 機械学習システム、ドメイン変換装置、及び機械学習方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002065582A (ja) * 2000-08-25 2002-03-05 Asahi Optical Co Ltd 電子内視鏡装置
JP4476033B2 (ja) * 2004-06-11 2010-06-09 Hoya株式会社 電子内視鏡用プロセッサ
JP5396004B2 (ja) * 2007-01-31 2014-01-22 オリンパス株式会社 蛍光観察装置および蛍光観察装置の作動方法

Also Published As

Publication number Publication date
JP2011087906A (ja) 2011-05-06

Similar Documents

Publication Publication Date Title
JP5385350B2 (ja) 画像表示方法および装置
JP5435796B2 (ja) 画像取得装置の作動方法および画像撮像装置
JP6488249B2 (ja) 血管情報取得装置、内視鏡システム及び血管情報取得方法
JP6533358B2 (ja) 撮像装置
JP5385176B2 (ja) 画像表示装置の作動方法および画像表示装置
JP5502812B2 (ja) 生体情報取得システムおよび生体情報取得システムの作動方法
JP5358368B2 (ja) 内視鏡システム
US8996087B2 (en) Blood information measuring method and apparatus
JP5320268B2 (ja) 画像表示装置
JP4895750B2 (ja) 内視鏡プロセッサ、自家蛍光画像表示プログラム、及び内視鏡システム
JP6581984B2 (ja) 内視鏡システム
US9596982B2 (en) Endoscope system and composite image generation method
US9788709B2 (en) Endoscope system and image generation method to generate images associated with irregularities of a subject
JP5399187B2 (ja) 画像取得装置の作動方法および画像取得装置
JP5637783B2 (ja) 画像取得装置およびその作動方法
JP5570352B2 (ja) 画像撮像装置
JP2011110272A (ja) 内視鏡装置
JP2013039224A (ja) 煙検出方法および装置並びに画像撮像装置
JP3881143B2 (ja) 蛍光表示方法および装置
JP2006122560A (ja) 体液蛍光スペクトル取得装置

Legal Events

Date Code Title Description
RD15 Notification of revocation of power of sub attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7435

Effective date: 20110524

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120702

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130527

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130625

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130821

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130924

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131003

R150 Certificate of patent or registration of utility model

Ref document number: 5385176

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250