JPWO2018211885A1 - 画像取得システム、制御装置及び画像取得方法 - Google Patents

画像取得システム、制御装置及び画像取得方法 Download PDF

Info

Publication number
JPWO2018211885A1
JPWO2018211885A1 JP2019519131A JP2019519131A JPWO2018211885A1 JP WO2018211885 A1 JPWO2018211885 A1 JP WO2018211885A1 JP 2019519131 A JP2019519131 A JP 2019519131A JP 2019519131 A JP2019519131 A JP 2019519131A JP WO2018211885 A1 JPWO2018211885 A1 JP WO2018211885A1
Authority
JP
Japan
Prior art keywords
image
medical device
light
unit
acquisition system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019519131A
Other languages
English (en)
Inventor
高橋 健治
健治 高橋
憲治 池田
憲治 池田
浩司 鹿島
浩司 鹿島
雅矢 竹本
雅矢 竹本
白木 寿一
寿一 白木
貴美 水倉
貴美 水倉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JPWO2018211885A1 publication Critical patent/JPWO2018211885A1/ja
Pending legal-status Critical Current

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/043Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for fluorescence imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000095Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope for image enhancement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0071Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence by measuring fluorescence emission
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Optics & Photonics (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Pathology (AREA)
  • Veterinary Medicine (AREA)
  • Biophysics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Public Health (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Astronomy & Astrophysics (AREA)
  • General Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Endoscopes (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)

Abstract

【課題】術者や助手に対して医療具の情報を利用し適切な画像を提供することが可能な画像取得システム、制御装置及び画像取得方法を提供する。【解決手段】画像取得システムは、光源部と、撮像部と、医療具検出部と、画像処理部とを具備する。上記光源部は、励起光の照射により蛍光を発する医療具が存在する患部に対して、通常光及び上記励起光を照射する。上記撮像部は、上記励起光照射下及び上記通常光照射下の上記患部を撮像し、上記蛍光を撮像した第1の画像信号と、上記通常光を撮像した第2の画像信号とを取得する。上記医療具検出部は、上記第1の画像信号を基に、上記第1の画像信号より得られる第1の画像における上記医療具の存在領域を検出する。上記画像処理部は、上記存在領域の検出結果と上記第2の画像信号を利用して表示画像を生成する。【選択図】図2

Description

本技術は、医療用画像を取得するに際し、術者に最適な画像を提供できるようにした画像取得システム、制御装置及び画像取得方法に関する。
内視鏡システムにおいて、患部に配置される医療具に発光剤を含ませることにより、医療具の位置を視覚的に発見しやすくすることが提案されている(例えば特許文献1参照)。また、励起光の照射によって蛍光を発する蛍光材料からなるマークが設けられた処置具を用いて、内視鏡挿入部の先端と被観察部との間の距離情報を取得することが提案されている(例えば特許文献2参照)。
特開2012−115535号公報 特開2011−136005号公報
特殊光照射下での撮像で得られる蛍光画像は、通常光照射下での撮像で得られる通常光画像よりも一般に全体的に暗い画像となり、患部を詳細に確認することが難しい場合がある。また、医療具が配置された患部の撮像画像に対して、例えば自動露出制御が行なわれる場合、医療具も含む撮像領域全体の明るさをもとにして自動露出制御が行われるので、全体的に暗い画像となり適切な画像が表示されない場合がある。
以上のような事情に鑑み、本技術の目的は、術者や助手に対して医療具の情報を利用し適切な画像を提供することが可能な画像取得システム、制御装置及び画像取得方法を提供することである。
上記目的を達成するため、本技術に係る画像取得システムは、光源部と、撮像部と、医療具検出部と、画像処理部とを具備する。
上記光源部は、励起光の照射により蛍光を発する医療具が存在する患部に対して、通常光及び上記励起光を照射する。
上記撮像部は、上記励起光の照射下及び上記通常光の照射下の上記患部を撮像し、上記蛍光を撮像した第1の画像信号と、上記通常光を撮像した第2の画像信号とを取得する。
上記医療具検出部は、上記第1の画像信号を基に、上記第1の画像信号より得られる第1の画像における上記医療具の存在領域を検出する。
上記画像処理部は、上記存在領域の検出結果と上記第2の画像信号を利用して表示画像を生成する。
このような構成によれば、励起光の照射下での撮像により得られる第1の画像信号を基に医療具が配置される領域が検出される。そして、この医療具の存在領域の検出結果を用いて、術者や助手に対して状況に応じた適切な表示画像を提供することができる。
上記画像処理部は、存在領域の検出結果を基に、上記第2の画像信号より得られる第2の画像における上記医療具の存在領域を設定し、上記第2の画像における上記医療具の存在領域又は上記第2の画像における上記医療具の存在領域以外の領域を画像処理して上記表示画像を生成してもよい。
このような構成によれば、医療具の存在領域の検出結果を基に、通常光の照射下での撮像により得られる第2の画像における医療具の存在領域が設定される。第2の画像における医療具の存在領域が設定されることにより、医療具の存在領域を、医療具の存在領域以外の領域の情報に影響されずに画像処理することが可能となる。また、第2の画像における医療具の存在領域以外の領域である患部を、医療具の存在領域の情報に影響されずに画像処理することが可能となる。これにより、術者や助手に対して適切な画像を提供することができる。
上記画像処理部は、上記第2の画像における上記医療具の存在領域の画像振れ又は上記第2の画像における上記医療具の存在領域以外の領域の画像振れを補正する画像処理をして上記表示画像を生成してもよい。
これにより、医療具の存在領域における画像振れの補正を医療具の存在領域以外の領域の情報に影響されず行うことができる。また、医療具の存在領域以外の領域の画像振れの補正を医療具の存在領域の情報に影響されず行うことができる。
上記撮像部に上記励起光及び上記通常光を集光するレンズ部と、上記レンズ部の駆動を制御する制御部とを更に具備し、上記画像処理部は、上記第2の画像における上記医療具の存在領域以外の領域で自動フォーカス検波値を算出し、上記制御部は、算出された上記自動フォーカス検波値を基に上記レンズ部の駆動を制御してもよい。
これにより、医療具の存在領域以外の領域を、医療具の存在領域の情報に影響されずにフォーカス制御することが可能となる。このようにフォーカス制御されて撮像が行われることにより、医療具の存在領域以外の領域となる患部にピントがあうように画像処理された表示画像を得ることができる。
上記撮像部に前記励起光及び前記通常光を集光するレンズ部と、前記レンズ部の駆動を制御する制御部を更に具備し、前記画像処理部は、前記第2の画像における前記医療具の存在領域以外の領域で自動露出検波値を算出し、前記制御部は、算出された前記自動露出検波値を基に前記レンズ部の駆動を制御してもよい。
これにより、医療具の存在領域以外の領域を、医療具の存在領域の情報に影響されずに露出制御することが可能となる。このように露出制御されて撮像が行われることにより、医療具の存在領域以外の領域となる患部が適正な明るさで画像表示されるように画像処理された表示画像を得ることができる。
上記画像処理部は、第2の画像における医療具の存在領域を色補正する画像処理をして上記表示画像を生成してもよい。
これにより、医療具の位置が視認しやすい表示画像を得ることができる。
上記画像処理部は、第2の画像における医療具の存在領域以外の領域を色補正する画像処理をして上記表示画像を生成してもよい。
これにより、医療具の存在領域の情報に影響されずに患部の色補正がなされた表示画像を得ることができる。
上記画像処理部は、上記第1の画像と、上記第2の画像とを重畳する画像処理をして上記表示画像を生成してもよい。
これにより、医療具が配置される領域において、第1の画像における情報と第2の画像における情報の両方が反映された表示画像を得ることができる。
本技術に係る制御装置は、医療具検出部と、画像処理部とを具備する。
上記医療具検出部は、励起光の照射により蛍光を発する医療具が存在する患部を上記励起光の照射下で撮像して取得される第1の画像信号を基に、上記第1の画像信号より得られる第1の画像における上記医療具の存在領域を検出する。
上記画像処理部は、上記存在領域の検出結果と、上記患部を通常光の照射下で撮像して取得される第2の画像信号とを利用して表示画像を生成する。
本技術に係る画像取得方法は、励起光の照射により蛍光を発する医療具が存在する患部を上記励起光の照射下で撮像して第1の画像信号を取得し、上記患部を通常光の照射下で撮像して第2の画像信号を取得し、上記第1の画像信号より得られる第1の画像における上記医療具の存在領域を検出し、上記存在領域の検出結果と上記第2の画像信号とを利用して表示画像を生成する。
以上のように、本技術によれば、医療具の存在領域の情報を利用して術者や助手に対して適切な画像を提供することができる。
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
本技術を適用した内視鏡画像取得システムの概要を説明する図である。 図1の内視鏡画像取得システムの構成例を示す図である。 図1の内視鏡画像取得システムの部分ブロック図である。 図1の内視鏡画像取得システムにおける光源装置からの光を患部に対して照射して撮像する様子を示す模式図である。 蛍光画像と通常光画像を同時に取得するシステム例を説明する図である。 他の蛍光画像と通常光画像を同時に取得するシステム例を説明する図である。 更に他の蛍光画像と通常光画像を同時に取得するシステム例を説明する図である。 蛍光画像と通常光画像を同時に取得するシステムに用いられるカラーフィルタセンサ例の図である。 第1の実施形態における振れ補正の画像処理を行う内視鏡画像取得システムの部分ブロック図である。 図9に示す内視鏡画像取得システムの振れ制御部における処理の流れを説明する図である。 図10に示す振れ制御部において、医療具補正モードをオン、オフそれぞれで設定した際の振れ制御方法を説明する図である。 第2の実施形態における内視鏡画像取得システムの部分ブロック図である。 図12に示す内視鏡画像取得システムにおけるAF/AE制御部及び駆動部を説明するブロック図である。 図12に示す内視鏡画像取得システムにおけるAF/AE制御処理を説明する図である。 第3の実施形態における色補正の画像処理を行う内視鏡画像取得システムを説明するブロック図である。 図15に示す内視鏡画像取得システムにおける色補正処理を説明する図である。 第4の実施形態における重畳処理の画像処理を行う内視鏡画像取得システムを説明するブロック図である。 図17に示す内視鏡画像取得システムにおける重畳処理を説明する図である。
以下、本技術に係る実施形態を、図面を参照しながら説明する。
<内視鏡画像取得システムの構成例>
図1は、本技術を適用した画像取得システムとしての内視鏡画像取得システムの概要を説明する図である。図2は、内視鏡画像取得システムの構成例を示す図であり、図3は、その部分ブロック図である。この内視鏡画像取得システムは、近年、医療現場において従来の開腹手術に代わって行われる腹腔鏡下手術において利用される。
腹腔鏡下手術では、例えば腹部の手術を行う場合、従来行われていた腹壁1を切って開腹する代わりに、トロッカ2と称される開孔器具が腹壁1に数か所取り付けられ、トロッカ2に設けられている孔から腹腔鏡(以下、内視鏡装置と称する)11と医療具3が体内に挿入される。そして、内視鏡装置11によってビデオ撮像された患部(腫瘍等)4の画像を表示装置13にてリアルタイムに見ながら、医療具3によって患部4を切除するなどの処置が行われる。直線棒状の内視鏡装置11では、ヘッド部24を術者、助手、スコピスト、またはロボットなどが保持している。
内視鏡画像取得システム10は、内視鏡装置11と、制御装置としてのカメラコントロールユニット(CCU:Camera Control Unit)12と、表示装置13と、光源部としての光源装置14とから構成される。
内視鏡装置11やCCU12は、ケーブルを介して接続する他、無線で接続してもよい。また、CCU12を手術室から離れた場所に配置し、構内LANやインターネットなどのネットワークを介して接続するようにしてもよい。CCU12と表示装置13の接続についても同様とする。
内視鏡装置11は、直線棒状の鏡筒部21とヘッド部24から構成される。鏡筒部21は、光学視管または硬性管とも称され、その長さが数10センチ程度であり、体内に挿入される側の一端には対物レンズ22が設けられており、他端はヘッド部24に接続されている。鏡筒部21の内部にはリレー光学系の光学レンズ部23が設けられている。なお、鏡筒部21の形状は、直線棒状に限定されるものではない。
ヘッド部24は、撮像部25と、レンズ部26と、制御部27と、駆動部28とを有し、撮像装置の機能を備える。
レンズ部26は、鏡筒部21との接続部に設けられる光学系である。鏡筒部21の先端から取り込まれた観察光は、ヘッド部24まで導光され、レンズ部26に入射する。レンズ部26は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。レンズ部26は、撮像部25の撮像素子の受光面上に観察光を集光するように、その光学特性が調整されている。また、ズームレンズ及びフォーカスレンズは、撮像画像の倍率及び焦点の調整のため、その光軸上の位置が移動可能に構成される。
撮像部25は、例えばCMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等の撮像素子であり、鏡筒部21から入力される患部の光学像を所定のフレームレートで画像信号に変換する。CMOSイメージセンサは、各画素が1つのフォトダイオードとCMOSトランジスタを使ったスイッチで構成される。
撮像素子は、被写体輝度を検出する、すなわち被写体光像の光量に応じて、R、G、B各成分の画像信号に光電変換するものである。典型的には、撮像素子は、例えばフォトダイオードを有して構成される複数の画素がマトリクス状に2次元配置され、各画素の受光面に、それぞれ分光特性の異なる例えばR(赤)、G(緑)、B(青)のカラーフィルタが1:2:1の比率で配設されてなるベイヤー配列のカラー撮影可能なカラーフィルタセンサが用いられる。撮像素子は、被写体の光像をR、G、B各色成分のアナログの電気信号(画像信号)に変換し、各色の画像信号を生成する。
制御部27は、レンズ部26の駆動を制御する。
駆動部28は、制御部27からの撮像画像の倍率及び焦点を指定する旨の情報を有する制御信号に基づいて、レンズ部26のズームレンズ及びフォーカスレンズを適宜移動させる。
内視鏡装置11においては、対物レンズ22により集光される患部4の光学像が光学レンズ部23を介してヘッド部24の撮像部25に入射され、撮像部25によって所定のフレームレートの画像信号に変換されてCCU12に出力される。
また、内視鏡装置11には、光源装置14が接続されている。内視鏡装置11は、光源装置14から出射される撮像に必要とされる光を、ライトガイド15を介して、鏡筒部21の先端から出射し、医療具3が存在する患部4に照射する。この際、光源装置14は、さまざまな波長の光を切り替えて発することができ、通常光に加えて、患部4を特に識別できるような特殊光を発することもできる。したがって、撮像部25は、励起光の照射下及び通常光の照射下の患部を撮像し、蛍光を撮像した第1の画像信号である蛍光画像信号と、通常光を撮像した第2の画像信号である通常光画像信号とを取得することが可能である。
医療具3には蛍光材料が塗布されている。或いは、蛍光材料を有する材料により医療具3を構成してもよい。このような蛍光材料を含む医療具3は、励起光の照射により発光する。例えば蛍光剤にはICG(インドシアニングリーン)が用いられ、励起光としては750〜800nm付近の光が用いられる。励起光の照射により蛍光剤を含む医療具3は、805〜830nm付近の蛍光を発する。
励起光が照射されることにより蛍光を発する医療具としては、電気メス、鉗子、カテーテルチューブ、ドレーンチューブ、糸、ガーゼ等の体内には存在しない人工物が挙げられる。尚、ここでは蛍光剤としてICGを例に挙げたがこれに限定されず、人体に影響のない既知の蛍光剤を用いることができ、特殊光(励起光)の照射により医療具3が発光するように構成することができる。
光源装置14は、医療具3を蛍光させる特殊光である励起光及び通常光が出射可能に構成される。通常光は、例えば、白色光(可視光)である。
図4は、医療具3が存在する患部4に対して光源装置14から光を照射して撮像装置であるヘッド部24により撮像する様子を示す模式図である。図4に示すように、光源装置14は、近赤外(NIR:Near-infrared)バンドパスフィルタ142と光源141を有する。
光源141は、通常光(白色光)を出射する。光源141にはキセノンランプや白色LED(Light Emitting Diode)等を用いることができる。光源141と内視鏡装置11の鏡筒部21との間に配置されるNIRバンドパスフィルタ142は、蛍光剤の励起波長を有する励起光を透過するフィルタであり、光源141から出射される光の光路上に配置可能に構成される。
例えば医療具3にICGが含まれる場合、ICGを励起する750〜800nm付近の近赤外光が励起光として光源装置14から照射されるように構成される。
被写体である医療具3が存在する患部4に励起光を照射する場合、NIRバンドパスフィルタ142は光路上に配置される。光源141から出射された通常光は、NIRバンドパスフィルタ142を通って励起光となり、鏡筒部21に入射される。鏡筒部21を通過した励起光146は、医療具3が存在する患部4に照射される。
照射された励起光146により患部4に存在する医療具3は蛍光を発する。その蛍光と患部4で反射した反射光からなる光147は鏡筒部21に入射する。鏡筒部21に入射された光147は、鏡筒部21内に配置される励起光カットフィルタ261を通過して蛍光成分だけ抽出されて、撮像部25に入射する。
医療具3が存在する患部4に白色光を照射する場合、NIRバンドパスフィルタ142は光路上に配置されないように構成される。光源141から出射された白色光546は、鏡筒部21を通過して患部4を照射する。患部4に照射された白色光は患部4で反射し、この反射した光547は鏡筒部21に入射される。鏡筒部21に入射した光547は、鏡筒部21内に配置される励起光カットフィルタ261を通過し、撮像部25に入射する。
尚、光源装置14は上述の構成に限定されない。例えば、上述では、1つの光源141から通常光と励起光を得ることが可能な構成としたが、通常光を出射する光源と励起光を出射する光源の2つの光源を用いる構成としてもよい。
図1〜図3に示すように、撮像部25は、光電変換により、励起光照射で撮像された第1の画像信号としての蛍光画像信号(図3におけるIR(infrared)信号に相当)と、白色光(通常光)で撮像された第2の画像信号としての通常光画像信号(図3におけるWLI(white light imaging)信号に相当)を取得する。撮像部25により取得された通常光画像信号及び蛍光画像信号はCCU12に出力される。
制御装置としてのCCU12は、医療具検出部121と、画像処理部122とを具備する。CCU12は、ヘッド部24との間で各種の情報を送受信する。CCU12には、撮像部25によって光電変換された蛍光画像信号(IR信号)及び通常光画像信号(WLI信号)が入力される。
医療具検出部121は、第1の画像信号を基に、第1の画像信号より得られる第1の画像である蛍光画像における医療具の存在領域を検出する。より具体的には、医療具検出部121は、蛍光画像信号を前処理し、この前処理された蛍光画像信号を基に、蛍光画像信号により得られる第1の画像である蛍光画像における医療具3が存在する領域を検出する。医療具検出については後述する。
画像処理部122は、医療具検出部121の医療具検出結果(医療具の存在領域の検出結果)と第2の画像信号とを利用して表示画像を生成する。
より具体的には、画像処理部122は、医療具の検出結果を基に、第2の画像信号より得られる第2の画像としての通常光画像における医療具の存在領域を設定する。そして、通常光画像における医療具の存在領域又は第2の画像における医療具の存在領域以外の領域を画像処理して表示画像を生成する。
画像処理された画像データは表示装置13の表示部131に表示画像として表示される。画像処理としては、例えば、振れ補正処理、色補正処理、重畳処理等があげられる。また、画像処理部122は、自動フォーカス制御(AF)、自動露出制御(AE)処理を行うための、画像信号に対する検波処理を行う。
表示装置13は、液晶又は有機EL(Electro Luminescence)からなる表示部131を有する。表示装置13は、CCU12が生成した画像データを受信し、該画像データに対応する表示画像を表示する。
内視鏡画像取得システム10においては、例えばCCU12に設けられた各種の操作ボタン、タッチパネル、リモートコントローラ等で構成されたユーザインターフェース30から術者や助手による操作入力が可能に構成される。
本技術に係る画像取得システムによる画像取得方法では、患部の蛍光画像(第1の画像)を取得し、患部の通常光画像(第2の画像)を取得し、蛍光画像における医療具の存在領域を検出し、この医療具の存在領域の検出結果と通常光画像とを利用して表示画像を生成する。
より詳細には、医療具の存在領域の検出結果を用いて通常光画像における医療具の存在領域を設定し、通常光画像における医療具の存在領域又は通常光画像における医療具の存在領域以外の領域を画像処理して表示画像を生成する。
本技術に係る内視鏡画像取得システムでは、励起光の照射下で取得される第1の画像としての蛍光画像と通常光の照射下で取得される第2の画像としての通常光画像とが同時に取得される。
そして、蛍光画像を基に蛍光画像内の医療具3が存在する領域が検出され、この医療具3の存在領域の検出結果を基に、通常光画像における医療具3の存在領域が設定される。この医療具3の存在領域における情報と通常光画像を利用して、術者や助手に対して適切な画像処理が施された表示画像が表示されるように構成される。
<蛍光画像と通常光画像を同時に取得するシステム例>
内視鏡画像取得システム10では、蛍光画像と通常光画像を同時に取得するように構成される。以下、図5を用いて説明する。図5は、蛍光画像と通常光画像を同時に取得するシステムの一例を説明する図である。
ここでは、撮像部25の撮像素子としてバイヤー配列されたカラーフィルタセンサ220が用いられる。図8(A)はバイヤー配列されたカラーフィルタセンサ220の概略分解斜視図である。
図8(A)に示すように、カラーフィルタセンサ220は、各画素の撮像素子2201の上部に色選択用フィルタ2202が形成されて構成される。色選択用フィルタ2202は、赤色フィルタ2202R、緑色フィルタ2202G、青色フィルタ2202Bから構成される。
図5に示すように、光源装置14から出射し、赤外域カットフィルタ(IRCF)270を通過した可視光246は医療具3が存在する患部4に照射される。患部4からの反射光247はカラーフィルタセンサ220に入射される。これにより、カラーフィルタセンサ220は通常光画像信号を取得する。
図5に示すように、光源装置14から出射した励起光248は、医療具3が存在する患部4に照射される。励起光248により医療具3から発する蛍光と患部4で反射した励起光とからなる光249は励起光カットフィルタ(励起光CF)261を通過することにより励起光成分がカットされて蛍光成分の光となる。この蛍光成分の光は、カラーフィルタセンサ220に入射される。これにより、カラーフィルタセンサ220は蛍光画像信号を取得する。
図5に示すシステムでは、可視光と励起光とがフレーム毎に切り替わってカラーフィルタセンサ220へ入射されるように構成され、高速にフレームを切り替えて蛍光画像、通常光画像を撮像する。このように時分割で高速でフレームを切り替えることにより、疑似的に蛍光画像と通常光画像を同時に取得することができる。また、可視光照射による患部4からの光と、励起光照射による患部4からの光を、同一のカラーフィルタセンサ220で受光しているので、システム構成が簡便化される。
図6は、他の蛍光画像と通常光画像を同時に取得するシステム例を説明する図である。図5に示すシステムと同様の構成については同様の符号を付している。図5に示すシステムでは、光源装置から可視光と励起光の2種類の光が出射可能な構成となっていたが、図6に示すシステムでは光源装置から可視光と励起光が混在した光が光源装置から出射される構成となっている。
図6に示すように、光源装置14から可視光と励起光が混在した光346が、医療具3が存在する患部4に照射されると、励起光照射により医療具3は蛍光を発するので、患部4からは、可視光と励起光と蛍光とが混在した光347が戻ってくる。
この光347は、ビームスプリッタであるダイクロイックミラー371で、通常光画像用の光3471と、蛍光画像用の光3472に分割される。
分割された通常光画像用の光3471は、IRカットフィルタ(IRCF)372を通過してIR成分がカットされる。このIR成分がカットされた光がカラーフィルタセンサ220に入射される。これにより、カラーフィルタセンサ220は通常光画像信号を取得する。
ダイクロイックミラー371により分割された蛍光画像用の光3472は、励起光カットフィルタ(励起光CF)261を通過して励起光成分がカットされる。この励起光成分がカットされた光がモノクロセンサ330に入射される。これにより、モノクロセンサ330は蛍光画像信号を取得する。モノクロセンサ330は、蛍光波長帯(本実施形態においては805〜830nm)を取得可能な、複数の撮像素子331を有するセンサである。
このように、図6に示すシステム構成では、蛍光画像用の励起光と通常光画像用の通常光を同時に取得することができるので、同時性を保った蛍光画像及び通常光画像を撮像することができる。
また、ここでは、カラーフィルタセンサとモノクロセンサの2つのセンサを用いた例を示したが、通常光画像取得で使用するセンサの個数を増やして、各色の解像度をより向上させる構成としてもよく、センサ個数は限定されない。
更に、ここではダイクロイックミラーで入射光を分割する構成としたが、これに限定されない。例えばダイクロイックミラー371を配置せず、カラーフィルタセンサ220の前にIRカットフィルタ及び励起光カットフィルタを配置し、モノクロセンサ330の前に可視光カットフィルタ及び励起光カットフィルタを配置し、カラーフィルタセンサ220及びモノクロセンサ330それぞれに、可視光と励起光と蛍光とが混在した光347が入射される構成としてもよい。
図7は、更に他の蛍光画像と通常光画像を同時に取得するシステム例を説明する図である。図5に示すシステムと同様の構成については同様の符号を付している。図5に示すシステムでは、光源装置から可視光と励起光の2種類の光が出射可能な構成となっていたが、図7に示すシステムでは光源装置から可視光と励起光が混在した光が光源装置から出射される構成となっている。
ここでは、撮像部の撮像素子として、430R、430G、430BのRGB画素に加えて蛍光波長帯(本実施形態においては805〜830nm)を取得可能なIR画素430IRを有する特殊センサであるRGB−IRセンサ430が用いられる。
光源装置から可視光と励起光が混在した光446が患部4に照射されると、患部4からは、可視光と励起光と蛍光とが混在した光447が戻ってくる。この光447は、RGB−IRセンサ430に入射される。これにより、RGB−IRセンサ430は通常光画像信号及び蛍光画像信号の双方を同時に取得する。
このように、図7に示すシステム構成では、蛍光画像用の光と通常光画像用の光を同時に取得することができるので、同時性を保った蛍光画像及び通常光画像を撮像することができる。
また、図7に示すシステム構成例では、同一面にRGB画素及びIR画素が配列されたセンサを例にあげて説明したが、図8(B)に示すように、RGBそれぞれのイメージセンサ520R、520G、520Bと蛍光波長帯(本実施形態においては805〜830nm)が取得可能なイメージセンサ520IRを画素毎に4層積層してなる積層型センサ520を用いることもできる。積層型センサ520では、光の波長による透過の違いを利用して、R(赤)、G(緑)、B(青)、IR(赤外域光)を分別する。
また、図5及び図6に示すシステムで用いたバイヤー配列のカラーフィルタセンサ220の代わりに、RGBそれぞれのイメージセンサを画素毎に3層積層してなる積層型センサを用いても良い。
尚、上述にいくつかあげた蛍光画像と通常光画像を同時に取得するシステム例では、通常光画像をカラー画像とすることを前提にして説明したが、これに限定されない。用途、目的によっては単色(グレースケール)、2チャンネル表現等で表示する場合もあり、本技術はモノクロ画像表示にも適用可能である。
<医療具検出>
医療具検出部121は、撮像部25により取得される蛍光画像信号(IR信号)を前処理し、この前処理した蛍光画像信号を用いて、医療具の存在領域の検出を行う。前処理として、ノイズ成分除去処理及び強調処理が行われる。
一般に撮像素子で取得した画像にはノイズ成分があり、この画像を用いて正確に物体検出を行う場合、ノイズ成分を除去する必要がある。また、画像情報から物体を検出しやすくするために、コントラストやエッジを強調したり、色の情報を強調する強調処理が必要に応じて行われる。
特殊光が照射された条件下で撮像される蛍光画像は、通常光が照射された条件下で撮像される通常光画像と比較して暗くなる傾向にあり、ノイズ量もそれにあわせて増大する。従って、医療具検出部121による医療具検出を行う前に、適切な度合いでノイズ成分除去処理や画像強調処理を行うことにより、より正確に医療具3の検出を行うことができる。
ノイズ除去処理としては、時空間フィルタ処理、メディアンフィルタ処理等を用いることができる。
時空間フィルタ処理は、各画素の値を、周辺空間、時間的に連続する点の平均値に置き換える処理である。周辺空間の平均値に置き換えることにより、全体的にエッジがなまった画像が生成される。
メディアンフィルタ処理は、各画素の値を周辺画素の中央値に置き換える処理である。この処理は、時空間フィルタと比較して入力画像のエッジを損なわない画像が取得できる。
蛍光画像は通常光画像と比較して画像が暗くなる傾向にあるので、特殊光観察時で取得される蛍光画像信号に対しては、強めにノイズ除去を行う場合がある。例えば、時空間フィルタ処理の際に、時間方向への足しこみを増やしノイズ除去効果を強くすることができる。
医療具検出部121は、前処理された蛍光画像信号を用いて医療具3の検出を行う。具体的には、前処理されて得られる蛍光画像を輝度などで閾値処理を行う。すなわち、蛍光画像からある一定輝度以上の領域を抽出する処理を行う。そして、抽出された領域を医療具が存在する領域と判断する。閾値は予め設定した値を継続的に利用してもよいし、前処理の手法により増減させてもよい。撮像時の環境は逐次変化するので、時間的に閾値を変化させてもよい。
本実施形態では、医療具検出部121では蛍光画像信号を用いて医療具3の検出を行ったが、蛍光画像信号に加え、通常光画像信号を補助的に用いて医療具3の検出を行うこともできる。
<内視鏡画像取得システムを用いた画像処理>
以下、上述の内視鏡画像取得システム10における画像処理について、第1〜第5の実施形態を例にあげ説明する。いずれの実施形態においても、上述した蛍光画像信号を基に医療具検出部121により出力された医療具検出結果(医療具の存在領域の検出結果)を利用して、画像処理を行っている。尚、上述で既に説明した構成については、同様の符号を付し、その説明を省略する。
(第1の実施形態)
上述の内視鏡画像取得システム10を用いて、画像処理として振れ補正処理を行う場合について説明する。
本実施形態において、画像取得システムの画像処理部は、第2の画像における医療具の存在領域の画像振れ又は第2の画像における医療具の存在領域以外の領域の画像振れを補正する画像処理をして表示画像を生成する振れ制御部を有する。
図9は本実施形態に係る内視鏡画像取得システムの主要部分ブロック図である。図10は本実施形態の内視鏡画像取得システムの振れ制御部における処理の流れを説明する図である。図11は振れ制御部において、医療具補正モードをオン、オフそれぞれで設定したときの振れ制御方法を説明する図である。
CCU12に設けられた画像処理部122は、振れ制御部161を有する。本実施形態においては、振れ制御部161での振れ補正で医療具検出部121からの医療具検出結果を利用している。
内視鏡装置11により撮像される画像には画像振れが生じ得るので、振れ制御部161は、その振れ補正するものである。振れ制御部161は、画像振れに基づく画像の乱れを補正する、いわゆる手ぶれ補正を実現するものである。本実施形態においては、術者や助手によって、患部4に存在する医療具3の存在領域以外の患部4の画像振れを補正するか、医療具3の画像振れを補正するかが選択可能となっている。
内視鏡装置11では、ヘッド部24を術者、助手、スコピスト、またはロボットなどが保持しているが、ヘッド部24を保持する手などが振れた場合、その振れの動きが、トロッカ2を支点として対物レンズ22に伝わるので、ヘッド部24を保持する手の振れに起因する画像振れが発生し得る。この画像振れが、患部4の画像の画像振れとなる。
また、医療具3も、術者、助手、スコピスト、またはロボットなどが保持しており、医療具3を保持する手などが振れた場合、その振れの動きが、トロッカ2を支点として医療具3の先端に伝わるので、医療具3を保持する手の振れに起因する画像振れが発生し得る。この画像振れが、医療具3の画像振れとなる。
すなわち、ヘッド部24と医療具3の両方に振れが生じている場合には、内視鏡装置11のヘッド部24に備えられる撮像部25により取得される画像において、医療具3が存在する領域における画像振れは、ヘッド部24の振れと医療具3の振れの双方が反映されたものとなる。一方、内視鏡装置11のヘッド部24に備えられる撮像部25により取得される画像において、医療具3の存在領域以外の領域における画像振れはヘッド部24の振れが反映されたものとなる。
本実施形態において、医療具3の存在領域以外の領域の患部4の画像振れを補正する場合には、蛍光画像により医療具3が存在する領域が検出され、この検出結果が用いられて通常光画像における医療具3の存在領域が設定され、この設定された医療具3の存在領域以外の領域の通常光画像の画像振れを補正するように構成される。
一方、医療具3の画像振れを補正する場合には、蛍光画像により医療具3が存在する領域が検出され、この検出結果が用いられて通常光画像における医療具3の存在領域が設定され、通常光画像内に設定された医療具3の存在領域の画像振れを補正するように構成される。
図10に示すように、ユーザインターフェース30を介して、術者や助手等により、医療具静止モードをオンとするかオフとするかが入力される(S101)。
医療具静止モードオンは、術者や助手が医療具3の画像振れを補正したいときに設定される。例えば、医療具3として鉗子や電気メス等を用いる際、鉗子や電気メスの患部4側に位置する先端の様子を確認したいときに医療具静止モードをオンとする。
医療具静止モードオフは、術者や助手が医療具3以外の患部4の画像振れを補正したいときに設定される。例えば、患部4の臓器等の様子を詳細に確認したいときに医療具静止モードをオフする。
振れ制御部161は、医療具静止モードがオンである情報を受け取ると、医療具検出結果を基に設定された通常光画像における医療具3の存在領域に対して画像振れ補正処理を行う。
すなわち、図11に示すように、医療具検出部121により、蛍光画像45内における医療具3が存在する領域が検出される。この医療具検出部121により検出された医療具検出結果を基に、振れ制御部161により、通常光画像における医療具3の存在領域が設定される。そして、通常光画像46における医療具3の存在領域の特徴点51が抽出される(S102)。
次に、抽出された特徴点51から、動き検出(Motion Estimation)が行われる(S103)。動き検出の結果、動きベクトルが得られ、この動きベクトルにより動きの方向が決定される。そして、この動きベクトルを用いて全画面の振れを補正するように全画面振れ補正値が算出される(S104)。次に、補正強度制御部にて補正の強度が調節され(S105)、その強度に応じて振れ補正処理が行なわれる(S106)。
このように振れ補正処理が施された画像データは、表示装置13に出力され、該画像データに対応する表示画像が表示部131に表示される。
一方、振れ制御部161は、医療具静止モードがオフである情報を受け取ると、医療具検出結果を基に設定された通常光画像46の医療具3の存在領域以外の領域に対して画像振れ補正処理を行う。
すなわち、図11に示すように、医療具検出部121により、蛍光画像45内における医療具3の配置領域が検出される。この医療具検出結果を基に、振れ制御部161により、通常光画像46における医療具3の存在領域が設定される。そして、通常光画像46における医療具3の存在領域以外の領域の特徴点52が抽出される(S102)。
その後、抽出された特徴点52から、動き検出(Motion Estimation)が行われる(S103)。動き検出の結果、動きベクトルが得られ、これを基に全画面振れの補正値が算出される(S104)。次に、補正強度制御部にて補正の強度が調節され(S105)、その強度に応じて振れ補正処理が行なわれる(S106)。
このように振れ補正処理が施された画像データは、表示装置13に出力され、該画像データに対応する表示画像が表示部131に表示される。
ここで、例えば、ヘッド部24及び医療具3の双方が振れている場合、撮像部25で取得される通常光画像において、医療具3の画像振れは、ヘッド部24の振れと医療具の振れ3の両方が反映された振れとなる。これに対して、医療具3以外の画像領域の画像振れは、ヘッド部24の振れのみが反映された振れとなる。
このように、ヘッド部24及び医療具3の双方が振れている場合、医療具3の存在領域の画像振れと医療具3以外の画像領域の振れとは異なる。このような場合、例えば、医療具3が存在する領域を含む通常光画像の全領域で特徴点を抽出して、振れ補正処理を行うと、医療具3の存在領域においても医療具3以外の領域においても十分な振れ補正処理が行われていない画像となってしまう。
これに対し、本実施形態においては、医療具静止モードがオフの場合、通常光画像の医療具3の存在領域以外の画像領域のみの特徴点が抽出されて振れ補正処理が行われるので、医療具の存在領域の画像振れの情報に影響されず、ヘッド部24の振れによる画像振れが補正された患部4の画像を得ることができる。これにより、術者や助手は、十分な振れ補正処理が行われた適切な患部の表示画像を見ながら、手術を行うことができる。
また、医療具静止モードがオンの場合、医療具3の医療具検出結果に基づいて、通常光画像の医療具3の存在領域のみの特徴点が抽出されて振れ補正処理が行われるので、医療具の存在領域以外の画像振れの情報に影響されず、ヘッド部24の振れと医療具3の振れによる画像振れが補正された医療具3の表示画像を得ることができる。これにより、術者や助手は、表示画像で医療具3の先端を詳細に確認しながら手術を行うことができる。
以上のように、本実施形態においては、蛍光を含む医療具3を励起光により照射して取得される蛍光画像を基に医療具3が存在する領域の検出を行い、この医療具の存在領域の検出結果を用いて、振れ補正の画像処理を行うことにより、術者により適切な画像を提供することができる。
尚、ここでは、振れ補正をする領域を術者や助手によって選択可能としているが、例えば医療具3の存在領域以外の患部4の画像振れのみを補正するように構成してもよく、このような構成の場合は、術者や助手によって振れ補正をする領域を選択する必要がない。
このような構成の場合、画像取得システムにおいて、画像処理部は、医療具の存在領域の検出結果を基に、通常光画像信号(第2の画像信号)より得られる通常光画像(第2の画像)における医療具の存在領域を設定し、通常光画像(第2の画像)における医療具の存在領域以外の領域の画像振れを補正する画像処理をして表示画像を生成する振れ補正部を有する。
(第2の実施形態)
次に上述の内視鏡画像取得システム10において、医療具検出結果(医療具の存在領域の情報)を用いて、画像処理部122が自動フォーカス制御(AF)、自動露出制御(AE)処理を行うための、画像信号に対する検波処理を行う場合について説明する。
図12は本実施形態に係る内視鏡画像取得システムの部分ブロック図である。図13は本実施形態の内視鏡画像取得システムのAF/AE制御部及び駆動部のブロック図である。図14は本実施形態におけるAF/AE制御処理を説明するための図である。
CCU12に設けられる画像処理部122は、AF検波部163とAE検波部164とを有する。本実施形態においては、AF検波部163及びAE検波部164での検波に対し、医療具検出部121からの医療具検出結果を利用している。
AF検波部163とAE検波部164では、図14に示すように、通常光画像46に対して検波枠41が設定され、検波枠41内で検波値が算出される。本実施形態においては、検波値算出にあたり、医療具検出部121により検出された医療具検出結果を利用し、医療具3が存在する領域は検波値の算出から除去される。尚、検波枠は予めいくつかのパターンのものが準備されている。
本実施形態においては、検波値算出時、通常光画像46に対して検波枠41が設定され、検波枠41内であって、医療具検出部121により検出された医療具3の存在領域を除く領域で検波値が算出される。
検波枠41は、AF検波、AE検波毎に任意の位置に設定可能となっている。
AF検波部163は、検波枠41内のコントラストの最大値をAF検波値として算出する。
AE検波部164は、検波枠41内の輝度の平均を検波値として算出する。
図2及び図12に示すように、ヘッド部24は、撮像部25と、レンズ部26と、制御部27と、駆動部28を有する。制御部27は、AF/AE制御部271を有する。駆動部28は、レンズ駆動部282と、シャッタ駆動部283と、センサゲイン駆動部284とを有する。AF/AE制御部271は、レンズ制御部2711と、シャッタスピード制御部2712と、センサゲイン制御部2713とを有する。
図12及び図13に示すように、画像処理部122のAF検波部163及びAE検波部164より算出されたAF検波値及びAE検波値は、AF/AE制御部271に出力される。
AF/AE制御部271は、入力されたAF検波値及びAE検波値を基に、ヘッド部24に設けられているレンズ、絞り、及び撮像のタイミングを制御するシャッタの駆動を制御する。AE検波値が高い場合は、シャッタスピードをあげたり、センサゲインをさげることで、撮像画像の全体の輝度を低下させる。AE検波値が低い場合は、シャッタスピードをさげたり、センサゲインをあげることで、撮像画像の全体の輝度をあげる。
撮像部25の撮像素子に被写体像が入射すると、撮像素子は撮像範囲内の被写体像を撮像する。すなわち、撮像素子は、撮像面に結像された光学像を光電変換して、撮像画像を表すアナログ画像信号を出力する。
この撮像時に、レンズ制御部2711は、撮像画像におけるAF検波枠内の画像信号(AF検波値)を処理することによって、撮像光学系の焦点がAF検波枠内の特定の被写体に合焦するような焦点位置を計算し、レンズ制御情報をレンズ駆動部282に出力する。
レンズ駆動部282は、レンズ制御部2711の指示に基づき、フォーカスモータを駆動してレンズ部26のフォーカスレンズを移動させることによって、撮像光学系の焦点を特定の被写体に自動的に合焦させる。
上記撮像時に、シャッタスピード制御部2712は、撮像画像におけるAE検波枠内の画像信号(AE検波値)に基づいて、撮像中の撮像画像に適した露出量を計算し、シャッタスピード制御情報をシャッタ駆動部283に出力する。
シャッタ駆動部283は、シャッタスピード制御部2712の指示に基づいて、タイミング信号を撮像素子に供給し、このタイミングにより撮像素子におけるシャッタスピードが制御される。
また、AF検波値に基づいて、撮像中の撮像画像に適した露出量が計算され、撮像光学系の絞りの開度が調整されるように制御される。このように、シャッタスピード及び絞りが調整されることにより、撮像画像の明るさが適切となるように、撮像画像の露出が自動的に制御される。
センサゲイン制御部2713は、AE検波値に基づいてセンサゲインを計算し、センサゲイン制御情報をセンサゲイン駆動部254に出力する。センサゲイン駆動部284は、センサゲイン制御部2713の指示に基づき、センサゲインを設定する。
このように、本実施形態においては、AF/AE制御において、医療具3が存在する領域以外の領域を検波枠に設定し、AF検波及びAE検波の算出を行っているので、医療具3の情報が入ることによるAF/AEの誤りがなくなり、患部4の観察に適したAF/AE処理が施された患部の画像を得ることができる。術者や助手は、AF/AE処理が行われた、適切な画像を見ながら、手術を行うことができる。
(第3の実施形態)
次に上述の内視鏡画像取得システム10において、画像処理として色補正処理を行う場合について説明する。
図15は本実施形態に係る内視鏡画像取得システムの主要部分ブロック図である。図16は本実施形態における色補正処理を説明する図である。
本実施形態の画像取得システムでは、画像処理部は、第2の画像における医療具の存在領域を色補正する画像処理をして表示画像を生成する。
また、本実施形態の画像取得システムでは、画像処理部は、第2の画像における医療具の存在領域以外の領域を色補正する画像処理をして表示画像を生成する。
まず、医療具の存在領域を色補正する画像処理をする場合について説明する。
図15に示すように、CCU12に設けられた画像処理部122は、色補正部165を有する。色補正部165は予め設定された色補正パラメータに基づいて、医療具3の色補正処理を行う。色補正パラメータとしては、医療具が存在する領域を、例えば生体色にない固定色に変換するというパラメータと、通常光画像の色を参照して医療具の色を変換するというパラメータがある。本実施形態においては、固定色に変換するという色補正パラメータに基づいて色補正を行う例をあげて説明する。
本実施形態においては、医療具検出結果(医療具の存在領域の情報)を用いて通常光画像における医療具が存在する領域が設定され、この設定された医療具の存在領域が色補正パラメータに基づいて色補正処理されて表示画像が生成され、表示部131に表示される。
図16に示すように、例えば、医療具3に血液32が付着している場合、蛍光画像信号により得られる蛍光画像45では医療具3の存在領域のみが検出され、血液は視認されない。
色補正部165は、医療具検出結果を用いて、通常光画像46中の医療具3の存在領域を設定し、この通常光画像46内の医療具3の存在領域に対して色補正パラメータに応じた色補正を施す。例えば、本実施形態では、医療具3を固定色である青色に変換する色補正が行われる。色補正処理が施された表示画像47は表示部131に表示される。
このように医療具3の存在領域が生体色にない色により着色された表示画像が得られるので、術者や助手は、表示画像内の医療具3の位置を確認しやすい。これにより、体内にガーゼ等の医療具が遺残しても、発見が容易となる。
ここで、医療具として例えば蛍光材料を含まない一般的な白色のガーゼを用いた場合、ガーゼは血液を吸収すると赤色に変色し、患部の臓器との見分けがつきにくい。
これに対し、本実施形態においては、医療具が励起光により蛍光を発する蛍光材料を含むので、例えば白色のガーゼが血液を吸収しても、励起光照射による蛍光画像から医療具が存在する領域が検出されるよう構成されるので、術者や助手は患部内の医療具の位置を確認しやすくなる。
色補正パラメータとして、通常光画像46の色を参照して医療具が存在する領域の色を変換するというパラメータを用いる場合について説明する。
例えば医療具3に血液32が付着していた場合、通常光画像の医療具3においては、血液32が付着している領域と付着していない領域とでは色が異なる。このような場合、通常光画像46の色を参照して医療具が存在する領域の色を変換するというパラメータを用いて色補正処理が行われると、医療具3の血液32が付着している部分と血液32が付着していない部分が識別できるように医療具3の色が変換される。この際、医療具3の血液32が付着していない領域と付着している領域とが、患部4との識別がしやすいように生体色にない色で互いに異なる色で着色された表示画像とすることができる。
このように、本実施形態においては、蛍光を含む医療具3を励起光により照射して取得される蛍光画像を基に医療具3が存在する領域の検出を行い、この医療具検出結果を用いて通常光画像の医療具の存在領域を設定する。そして、通常光画像に対して医療具の存在領域の色を変換する色補正処理を行うことにより、患部における医療具の位置を術者や助手が認識しやすい画像を得ることができる。
次に、医療具の存在領域以外の領域を色補正する場合について説明する。
ここでは、医療具が存在する領域の検出結果(医療具検出結果)を用いて通常光画像における医療具が存在する領域が設定され、この設定された医療具の存在領域以外の領域の患部を、術者や助手が確認しやすい色相、明度、色調となるように色補正されて表示画像が生成され、表示部131に表示される。
これにより医療具の情報に影響されずに、患部の色補正が行われることになるので、適切な画像が表示される。
ここで、医療具として例えば蛍光材料を含まない一般的な白色のガーゼを用いた場合、白色のガーゼが存在する患部を通常光照射下で撮像すると、撮像領域内に白色の被写体が入ることにより、その白色にあわせて色補正処理が行われて明るさが調整されると、表示画像が暗くなり、術者や助手が患部を確認しづらくなる場合がある。
これに対し、本技術においては、医療具検出結果により通常光画像における医療具の存在領域が設定することが可能であり、通常光画像内の医療具の存在領域以外の領域に対して色補正処理を施すように構成することができる。これにより、色補正処理の対象領域内には医療具が存在しないので、例えば白色のガーゼを医療具として用いたとしても、色補正処理されて得られる表示画像が暗くなることはなく、術者や助手は視野を失うことなく、患部を適切に確認することができる。
(第4の実施形態)
次に上述の内視鏡画像取得システム10において、画像処理として重畳処理を行う場合について説明する。
図17は本実施形態に係る内視鏡画像取得システムの主要部分ブロック図である。図18は本実施形態における重畳処理を説明する図である。
本実施形態の画像取得システムにおいて、画像処理部は、第1の画像信号より得られる第1の画像と、第2の画像信号より得られる第2の画像とを重畳する画像処理をして表示画像を生成する重畳処理部を有する。
図17に示すように、CCU12に設けられた画像処理部122は、重畳処理部166を有する。重畳処理部166は重畳パラメータに基づいて、蛍光画像と通常光画像とを重畳する重畳処理を行う。重畳パラメータは、蛍光画像と通常光画像との重畳比率を示すパラメータである。重畳パラメータは、蛍光画像の画素値の調整の割合を示す係数aと通常光画像の画像値の調整の割合を示す係数bとの和が1となるように設定される。例えば係数a、係数bをそれぞれ0.5とすることができる。
本実施形態においては、医療具が存在する領域が視認可能な蛍光画像と通常光画像を、重畳パラメータに基づいて重畳処理をして表示画像が生成され、表示部131に表示される。言い換えると、医療具検出結果を基に第2の画像である通常光画像における医療具の存在領域が設定され、この通常光画像における医療具の存在領域において蛍光画像と通常光画像とが重畳するように通常光画像が画像処理される。
図18に示すように、蛍光画像45では医療具3の画像のみが取得される。通常光画像信号により得られる通常光画像46では医療具3を含む患部4の画像が取得される。
重畳処理部166は、医療具3が存在する領域が撮像された蛍光画像45と、通常光画像46とを、重畳パラメータに基づいて重畳し、表示画像47を生成する。この際、例えば、通常光画像46の医療具3に血液32が付着している場合、血液32が付着した医療具3が患部4に存在する表示画像47が得られる。
このように、蛍光画像と通常光画像とを重畳することにより、患部における医療具が存在する領域を術者や助手が認識しやすい表示画像とすることができ、更に医療具の存在領域における表示が血液の付着等の通常光画像により得られる情報も加味された表示画像とすることができる。
なお、本技術は以下のような構成もとることができる。
(1) 励起光の照射により蛍光を発する医療具が存在する患部に対して、通常光及び前記励起光を照射する光源部と、
前記励起光照射下及び前記通常光照射下の前記患部を撮像し、前記蛍光を撮像した第1の画像信号と、前記通常光を撮像した第2の画像信号とを取得する撮像部と、
前記第1の画像信号を基に、前記第1の画像信号より得られる第1の画像における前記医療具の存在領域を検出する医療具検出部と、
前記存在領域の検出結果と前記第2の画像信号を利用して表示画像を生成する画像処理部と
を具備する画像取得システム。
(2) 上記(1)記載の画像取得システムであって、
前記画像処理部は、前記存在領域の検出結果を基に、前記第2の画像信号より得られる第2の画像における前記医療具の存在領域を設定し、前記第2の画像における前記医療具の存在領域又は前記第2の画像における前記医療具の存在領域以外の領域を画像処理して前記表示画像を生成する
画像取得システム。
(3) 上記(2)に記載の画像取得システムであって、
前記画像処理部は、前記第2の画像における前記医療具の存在領域の画像振れ又は前記第2の画像における前記医療具の存在領域以外の領域の画像振れを補正する画像処理をして前記表示画像を生成する
画像取得システム。
(4) 上記(2)又は(3)に記載の画像取得システムであって、
前記撮像部に前記励起光及び前記通常光を集光するレンズ部と、
前記レンズ部の駆動を制御する制御部と
を更に具備し、
前記画像処理部は、前記第2の画像における前記医療具の存在領域以外の領域で自動フォーカス検波値を算出し、
前記制御部は、算出された前記自動フォーカス検波値を基に前記レンズ部の駆動を制御する
画像取得システム。
(5) 上記(2)から(4)いずれかに記載の画像取得システムであって、
前記撮像部に前記励起光及び前記通常光を集光するレンズ部と、前記レンズ部の駆動を制御する制御部を更に具備し、
前記画像処理部は、前記第2の画像における前記医療具の存在領域以外の領域で自動露出検波値を算出し、
前記制御部は、算出された前記自動露出検波値を基に前記レンズ部の駆動を制御する
画像取得システム。
(6) 上記(2)から(5)いずれかに記載の画像取得システムであって、
前記画像処理部は、前記第2の画像における医療具の存在領域を色補正する画像処理をして前記表示画像を生成する
画像取得システム。
(7) 上記(2)から(6)いずれかに記載の画像取得システムであって、
前記画像処理部は、前記第2の画像における医療具の存在領域以外の領域を色補正する画像処理をして前記表示画像を生成する
画像取得システム。
(8) 上記(2)に記載の画像取得システムであって、
前記画像処理部は、前記第1の画像と、前記第2の画像とを重畳する画像処理をして前記表示画像を生成する
画像取得システム。
(9) 励起光の照射により蛍光を発する医療具が存在する患部を前記励起光照射下で撮像して取得される第1の画像信号を基に、前記第1の画像信号より得られる第1の画像における前記医療具の存在領域を検出する医療具検出部と、
前記存在領域の検出結果と、前記患部を通常光照射下で撮像して取得される第2の画像信号とを利用して表示画像を生成する画像処理部と
を具備する制御装置。
(10) 励起光の照射により蛍光を発する医療具が存在する患部を前記励起光照射下で撮像して第1の画像信号を取得し、
前記患部を通常光照射下で撮像して第2の画像信号を取得し、
前記第1の画像信号より得られる第1の画像における前記医療具の存在領域を検出し、
前記存在領域の検出結果と前記第2の画像信号とを利用して表示画像を生成する
画像取得方法。
3…医療具
4…患部
10…内視鏡画像取得システム(画像取得システム)
12…CCU(制御装置)
14…光源装置(光学部)
25…撮像部
26…レンズ部
27…制御部
45…蛍光画像(第1の画像)
46…通常光画像(第2の画像)
121…医療具検出部
122…画像処理部

Claims (10)

  1. 励起光の照射により蛍光を発する医療具が存在する患部に対して、通常光及び前記励起光を照射する光源部と、
    前記励起光の照射下及び前記通常光の照射下の前記患部を撮像し、前記蛍光を撮像した第1の画像信号と、前記通常光を撮像した第2の画像信号とを取得する撮像部と、
    前記第1の画像信号を基に、前記第1の画像信号より得られる第1の画像における前記医療具の存在領域を検出する医療具検出部と、
    前記存在領域の検出結果と前記第2の画像信号を利用して表示画像を生成する画像処理部と
    を具備する画像取得システム。
  2. 請求項1記載の画像取得システムであって、
    前記画像処理部は、前記存在領域の検出結果を基に、前記第2の画像信号より得られる第2の画像における前記医療具の存在領域を設定し、前記第2の画像における前記医療具の存在領域又は前記第2の画像における前記医療具の存在領域以外の領域を画像処理して前記表示画像を生成する
    画像取得システム。
  3. 請求項2記載の画像取得システムであって、
    前記画像処理部は、前記第2の画像における前記医療具の存在領域の画像振れ又は前記第2の画像における前記医療具の存在領域以外の領域の画像振れを補正する画像処理をして前記表示画像を生成する
    画像取得システム。
  4. 請求項2記載の画像取得システムであって、
    前記撮像部に前記励起光及び前記通常光を集光するレンズ部と、
    前記レンズ部の駆動を制御する制御部と
    を更に具備し、
    前記画像処理部は、前記第2の画像における前記医療具の存在領域以外の領域で自動フォーカス検波値を算出し、
    前記制御部は、算出された前記自動フォーカス検波値を基に前記レンズ部の駆動を制御する
    画像取得システム。
  5. 請求項2記載の画像取得システムであって、
    前記撮像部に前記励起光及び前記通常光を集光するレンズ部と、前記レンズ部の駆動を制御する制御部を更に具備し、
    前記画像処理部は、前記第2の画像における前記医療具の存在領域以外の領域で自動露出検波値を算出し、
    前記制御部は、算出された前記自動露出検波値を基に前記レンズ部の駆動を制御する
    画像取得システム。
  6. 請求項2記載の画像取得システムであって、
    前記画像処理部は、前記第2の画像における医療具の存在領域を色補正する画像処理をして前記表示画像を生成する
    画像取得システム。
  7. 請求項2記載の画像取得システムであって、
    前記画像処理部は、前記第2の画像における医療具の存在領域以外の領域を色補正する画像処理をして前記表示画像を生成する
    画像取得システム。
  8. 請求項2記載の画像取得システムであって、
    前記画像処理部は、前記第1の画像と、前記第2の画像とを重畳する画像処理をして前記表示画像を生成する
    画像取得システム。
  9. 励起光の照射により蛍光を発する医療具が存在する患部を前記励起光の照射下で撮像して取得される第1の画像信号を基に、前記第1の画像信号より得られる第1の画像における前記医療具の存在領域を検出する医療具検出部と、
    前記存在領域の検出結果と、前記患部を通常光の照射下で撮像して取得される第2の画像信号とを利用して表示画像を生成する画像処理部と
    を具備する制御装置。
  10. 励起光の照射により蛍光を発する医療具が存在する患部を前記励起光の照射下で撮像して第1の画像信号を取得し、
    前記患部を通常光の照射下で撮像して第2の画像信号を取得し、
    前記第1の画像信号より得られる第1の画像における前記医療具の存在領域を検出し、
    前記存在領域の検出結果と前記第2の画像信号とを利用して表示画像を生成する
    画像取得方法。
JP2019519131A 2017-05-17 2018-04-16 画像取得システム、制御装置及び画像取得方法 Pending JPWO2018211885A1 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2017098126 2017-05-17
JP2017098126 2017-05-17
PCT/JP2018/015694 WO2018211885A1 (ja) 2017-05-17 2018-04-16 画像取得システム、制御装置及び画像取得方法

Publications (1)

Publication Number Publication Date
JPWO2018211885A1 true JPWO2018211885A1 (ja) 2020-03-19

Family

ID=64273576

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019519131A Pending JPWO2018211885A1 (ja) 2017-05-17 2018-04-16 画像取得システム、制御装置及び画像取得方法

Country Status (4)

Country Link
US (1) US20200163538A1 (ja)
EP (1) EP3610779A4 (ja)
JP (1) JPWO2018211885A1 (ja)
WO (1) WO2018211885A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6580646B2 (ja) * 2017-09-04 2019-09-25 池上通信機株式会社 撮像装置
JP7338845B2 (ja) * 2019-02-12 2023-09-05 i-PRO株式会社 内視鏡システムおよび内視鏡システムの作動方法
US20220296082A1 (en) * 2019-10-17 2022-09-22 Sony Group Corporation Surgical information processing apparatus, surgical information processing method, and surgical information processing program
US20220409057A1 (en) * 2020-02-21 2022-12-29 Surgvision Gmbh Assisting medical procedures with luminescence images processed in limited informative regions identified in corresponding auxiliary images
WO2021207034A1 (en) * 2020-04-06 2021-10-14 Boston Scientific Scimed, Inc. Image processing systems and methods of using the same
WO2021250777A1 (ja) * 2020-06-09 2021-12-16 オリンパス株式会社 内視鏡システム及び内視鏡のフォーカス制御方法
WO2022066601A1 (en) * 2020-09-25 2022-03-31 Boston Scientific Scimed, Inc. Color extrapolation from monochrome image sensor
US20230240518A1 (en) * 2022-01-28 2023-08-03 Visionsense Ltd. System and method for surgical instrument tracking with autofocus

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5449816B2 (ja) * 2009-03-26 2014-03-19 オリンパス株式会社 画像処理装置、画像処理プログラムおよび画像処理装置の作動方法
JP2011136005A (ja) 2009-12-28 2011-07-14 Fujifilm Corp 内視鏡装置
JP5606120B2 (ja) * 2010-03-29 2014-10-15 富士フイルム株式会社 内視鏡装置
US9211058B2 (en) * 2010-07-02 2015-12-15 Intuitive Surgical Operations, Inc. Method and system for fluorescent imaging with background surgical image composed of selective illumination spectra
JP5539840B2 (ja) * 2010-10-21 2014-07-02 富士フイルム株式会社 電子内視鏡システム、電子内視鏡システムのプロセッサ装置、及び電子内視鏡システムの作動方法
JP2012115535A (ja) 2010-12-02 2012-06-21 Kochi Univ 近赤外蛍光を発する医療具及び医療具位置確認システム
JP5864880B2 (ja) * 2011-04-07 2016-02-17 オリンパス株式会社 内視鏡装置及び内視鏡装置の作動方法
JP5865606B2 (ja) * 2011-05-27 2016-02-17 オリンパス株式会社 内視鏡装置及び内視鏡装置の作動方法
CN103906458B (zh) * 2012-02-17 2016-03-09 奥林巴斯株式会社 内窥镜装置和医用系统
EP2856965B1 (en) * 2012-06-01 2020-04-01 National University Corporation Kochi University Medical product that emits near-infrared fluorescence and medical-product usage-status ascertainment device
EP3070932B1 (en) * 2013-11-14 2021-09-01 Panasonic Intellectual Property Management Co., Ltd. Projection system
JP2017064091A (ja) * 2015-09-30 2017-04-06 ソニー株式会社 画像処理装置、画像処理方法、手術システム、及び、手術糸
WO2017077882A1 (ja) * 2015-11-04 2017-05-11 オリンパス株式会社 画像処理装置、内視鏡システム、画像処理方法、及び画像処理プログラム
JP6609688B2 (ja) * 2016-02-29 2019-11-20 オリンパス株式会社 光走査型撮影投影装置および内視鏡システム
JP2017164007A (ja) * 2016-03-14 2017-09-21 ソニー株式会社 医療用画像処理装置、医療用画像処理方法、プログラム

Also Published As

Publication number Publication date
US20200163538A1 (en) 2020-05-28
WO2018211885A1 (ja) 2018-11-22
EP3610779A1 (en) 2020-02-19
EP3610779A4 (en) 2020-05-13

Similar Documents

Publication Publication Date Title
US11788966B2 (en) Imaging system
JPWO2018211885A1 (ja) 画像取得システム、制御装置及び画像取得方法
US9498153B2 (en) Endoscope apparatus and shake correction processing method
US10335014B2 (en) Endoscope system, processor device, and method for operating endoscope system
US11216941B2 (en) Medical image processing apparatus, medical image processing method, and program
JP5507376B2 (ja) 撮像装置
JP4566754B2 (ja) 画像処理装置
JP6581984B2 (ja) 内視鏡システム
JP5358368B2 (ja) 内視鏡システム
US20160128545A1 (en) Endoscope apparatus and method for controlling endoscope apparatus
JP6072374B2 (ja) 観察装置
WO2015012096A1 (ja) 医療用観察装置
JP2010063590A (ja) 内視鏡システム、およびその駆動制御方法
JP2007020880A (ja) 内視鏡
US11051683B2 (en) Control device for imaging system, imaging system, and method for controlling imaging system
WO2022044897A1 (ja) 医療撮像システム、医療撮像装置、および動作方法
US11684238B2 (en) Control device and medical observation system
JP6293392B1 (ja) 生体観察システム
JP2009142586A (ja) 内視鏡システムの自動焦点調整方法および内視鏡システム
JP5570352B2 (ja) 画像撮像装置
WO2016151675A1 (ja) 生体観察装置および生体観察方法
WO2021140923A1 (ja) 医療画像生成装置、医療画像生成方法および医療画像生成プログラム
CN115315210A (zh) 图像处理装置、图像处理方法、导航方法以及内窥镜系统
JP7456385B2 (ja) 画像処理装置、および画像処理方法、並びにプログラム
WO2016072172A1 (ja) 内視鏡システム