JP2018108173A - 医療用画像処理装置、医療用画像処理方法、プログラム - Google Patents

医療用画像処理装置、医療用画像処理方法、プログラム Download PDF

Info

Publication number
JP2018108173A
JP2018108173A JP2016256731A JP2016256731A JP2018108173A JP 2018108173 A JP2018108173 A JP 2018108173A JP 2016256731 A JP2016256731 A JP 2016256731A JP 2016256731 A JP2016256731 A JP 2016256731A JP 2018108173 A JP2018108173 A JP 2018108173A
Authority
JP
Japan
Prior art keywords
frame
special
image processing
correlation coefficient
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2016256731A
Other languages
English (en)
Inventor
浩司 鹿島
Koji Kajima
浩司 鹿島
貴美 水倉
Takami Mizukura
貴美 水倉
神尾 和憲
Kazunori Kamio
和憲 神尾
イーウェン ズー
Yiwen Zhu
イーウェン ズー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2016256731A priority Critical patent/JP2018108173A/ja
Priority to PCT/JP2017/044860 priority patent/WO2018123613A1/ja
Priority to CN201780079951.4A priority patent/CN110099599B/zh
Priority to US16/469,152 priority patent/US11004197B2/en
Publication of JP2018108173A publication Critical patent/JP2018108173A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/043Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for fluorescence imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000095Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope for image enhancement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0655Control therefor
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/94Dynamic range modification of images or parts thereof based on local image properties, e.g. for local contrast enhancement
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30096Tumor; Lesion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30101Blood vessel; Artery; Vein; Vascular

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Surgery (AREA)
  • Physics & Mathematics (AREA)
  • Medical Informatics (AREA)
  • General Health & Medical Sciences (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Optics & Photonics (AREA)
  • Animal Behavior & Ethology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Pathology (AREA)
  • Biophysics (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Quality & Reliability (AREA)
  • Multimedia (AREA)
  • Astronomy & Astrophysics (AREA)
  • Endoscopes (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

【課題】観察条件の違いを視認できるような表示を行う。
【解決手段】被写体に対して通常光を照射した状態で撮像された通常フレームと、被写体に対して特殊光を照射した状態で撮像された特殊フレームとの相関関係を表す相関係数を算出する係数算出部と、特殊フレームにおいて、相関係数の高い部分と低い部分とが異なる表示となるように特殊フレームを画像処理する処理部とを備える。通常フレームの画素毎または領域毎に、所定の部位が撮像されている可能性を表す第1の判定値を算出する第1の判定部と、特殊フレームの画素毎または領域毎に、所定の部位が撮像されている可能性を表す第2の判定値を算出する第2の判定部とをさらに備え、係数算出部は、第1の判定値と第2の判定値を用いて相関係数を算出する。本技術は、医療用の画像処理装置に適用できる。
【選択図】図8

Description

本技術は医療用画像処理装置、医療用画像処理方法、プログラムに関し、例えば、人体に白色光などの通常光を照射して撮像した通常画像と、特殊な光を照射して撮像することにより得られる血管の位置を表す特殊画像と合成して表示できるようにした医療用画像処理装置、医療用画像処理方法、プログラムに関する。
従来、例えば、医療現場に用いることを目的として、内視鏡装置によって撮像される臓器などの通常画像に、当該通常画像では見分けにくい血管や腫瘍などの病変の位置を表す特殊画像を合成して表示するさまざま技術が提案されている。
例えば、特許文献1には、通常画像と特殊画像とを時分割に撮像することが記載されている。また例えば、特許文献2には、通常画像と特殊画像を合成表示することが記載されている。また特許文献3には、通常画像と特殊画像を合成表示し、特殊画像を点滅表示することが記載されている。
ここで、通常画像とは、被写体となる臓器などに白色光などの通常光を照射して撮像した画像を指す。特殊画像とは、通常光とは異なる所定の波長の特殊光を照射して撮像した画像を指す。なお、特殊画像を撮像する際には、被写体となる血管(血液)や病変には特殊光の照射に反応する蛍光剤などを混入または塗布することがある。
特開2007−313171号公報 特開2012−24283号公報 特許第5320268号公報
特殊画像には、通常画像では撮像されていない血管なども撮像されているが、特殊画像と通常画像を合成した画像においても、そのような特殊画像と通常画像とで異なる部分が、一目でわかるような画像とすることが望まれている。
本技術は、このような状況に鑑みてなされたものであり、通常画像と特殊画像との異なる部分がわかるような合成を行うことができるようにするものである。
本技術の一側面の医療用画像処理装置は、被写体に対して通常光を照射した状態で撮像された通常フレームと、前記被写体に対して特殊光を照射した状態で撮像された特殊フレームとの相関関係を表す相関係数を算出する係数算出部と、前記特殊フレームにおいて、前記相関係数の高い部分と低い部分とが異なる表示となるように前記特殊フレームを画像処理する処理部とを備える。
本技術の一側面の医療用画像処理方法は、被写体に対して通常光を照射した状態で撮像された通常フレームと、前記被写体に対して特殊光を照射した状態で撮像された特殊フレームとの相関関係を表す相関係数を算出し、前記特殊フレームにおいて、前記相関係数の高い部分と低い部分とが異なる表示となるように前記特殊フレームを画像処理するステップを含む。
本技術の一側面のプログラムは、コンピュータに、被写体に対して通常光を照射した状態で撮像された通常フレームと、前記被写体に対して特殊光を照射した状態で撮像された特殊フレームとの相関関係を表す相関係数を算出し、前記特殊フレームにおいて、前記相関係数の高い部分と低い部分とが異なる表示となるように前記特殊フレームを画像処理するステップを含む処理を実行させる。
本技術の一側面の医療用画像処理装置、医療用画像処理方法、並びにプログラムにおいては、被写体に対して通常光を照射した状態で撮像された通常フレームと、被写体に対して特殊光を照射した状態で撮像された特殊フレームとの相関関係を表す相関係数が算出され、特殊フレームにおいて、相関係数の高い部分と低い部分とが異なる表示となるように特殊フレームが画像処理される。
なお、医療用画像処理装置は、独立した装置であっても良いし、1つの装置を構成している内部ブロックであっても良い。
また、プログラムは、伝送媒体を介して伝送することにより、または、記録媒体に記録して、提供することができる。
本技術の一側面によれば、通常画像と特殊画像との異なる部分がわかるような合成を行うことができる。
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
本技術を適用した内視鏡手術システムの一実施の形態の構成を示す図である。 カメラヘッドおよびCCUの機能構成の一例を示すブロック図である。 内視鏡装置の構成例を示すブロック図である。 通常フレームと特殊フレームの撮像タイミングを示す図である。 画像処理部の詳細な構成例を示すブロック図である。 動きベクトル検出部の詳細な構成例を示すブロック図である。 画像合成処理を説明するフローチャートである。 重畳処理部の構成例を示す図である。 判定値の算出について説明するための図である。 判定値の算出について説明するための図である。 表示に係わる処理について説明するためのフローチャートである。 表示される画面例を示す図である。 表示される画面例を示す図である。 表示される画面例を示す図である。 記録媒体について説明するための図である。
以下に、本技術を実施するための形態(以下、実施の形態という)について説明する。
<内視鏡システムの構成>
本開示に係る技術は、さまざまな製品へ応用することができる。例えば、本開示に係る技術は、内視鏡手術システムに適用されてもよい。またここでは、内視鏡手術システムを例に挙げて説明をするが、本技術は、外科手術システム、顕微鏡下手術システムなどにも適用できる。
図1は、本開示に係る技術が適用され得る内視鏡手術システム10の概略的な構成の一例を示す図である。図1では、術者(医師)71が、内視鏡手術システム10を用いて、患者ベッド73上の患者75に手術を行っている様子が図示されている。図示するように、内視鏡手術システム10は、内視鏡20と、その他の術具30と、内視鏡20を支持する支持アーム装置40と、内視鏡下手術のための各種の装置が搭載されたカート50と、から構成される。
内視鏡手術では、腹壁を切って開腹する代わりに、トロッカ37a〜37dと呼ばれる筒状の開孔器具が腹壁に複数穿刺される。そして、トロッカ37a〜37dから、内視鏡20の鏡筒21や、その他の術具30が患者75の体腔内に挿入される。図示する例では、その他の術具30として、気腹チューブ31、エネルギー処置具33および鉗子35が、患者75の体腔内に挿入されている。また、エネルギー処置具33は、高周波電流や超音波振動により、組織の切開および剥離、または血管の封止等を行う処置具である。ただし、図示する術具30はあくまで一例であり、術具30としては、例えば攝子、レトラクタ等、一般的に内視鏡下手術において用いられる各種の術具が用いられてよい。
内視鏡20によって撮影された患者75の体腔内の術部の画像が、表示装置53に表示される。術者71は、表示装置53に表示された術部の画像をリアルタイムで見ながら、エネルギー処置具33や鉗子35を用いて、例えば患部を切除する等の処置を行う。なお、気腹チューブ31、エネルギー処置具33および鉗子35は、手術中に、術者71または助手等によって支持される。
(支持アーム装置)
支持アーム装置40は、ベース部41から延伸するアーム部43を備える。図示する例では、アーム部43は、関節部45a、45b、45c、およびリンク47a、47bから構成されており、アーム制御装置57からの制御により駆動される。アーム部43によって内視鏡20が支持され、その位置および姿勢が制御される。これにより、内視鏡20の安定的な位置の固定が実現され得る。
(内視鏡)
内視鏡20は、先端から所定の長さの領域が患者75の体腔内に挿入される鏡筒21と、鏡筒21の基端に接続されるカメラヘッド23と、から構成される。図示する例では、硬性の鏡筒21を有するいわゆる硬性鏡として構成される内視鏡20を図示しているが、内視鏡20は、軟性の鏡筒21を有するいわゆる軟性鏡として構成されてもよい。
鏡筒21の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡20には光源装置55が接続されており、当該光源装置55によって生成された光が、鏡筒21の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者75の体腔内の観察対象に向かって照射される。なお、内視鏡20は、直視鏡であってもよいし、斜視鏡または側視鏡であってもよい。
カメラヘッド23の内部には光学系および撮像素子が設けられており、観察対象からの反射光(観察光)は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、RAWデータとしてカメラコントロールユニット(CCU:Camera Control Unit)51に送信される。なお、カメラヘッド23には、その光学系を適宜駆動させることにより、倍率および焦点距離を調整する機能が搭載される。
なお、例えば立体視(3D表示)等に対応するために、カメラヘッド23には撮像素子が複数設けられてもよい。この場合、鏡筒21の内部には、当該複数の撮像素子のそれぞれに観察光を導光するために、リレー光学系が複数系統設けられる。
(カートに搭載される各種の装置)
CCU51は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等によって構成され、内視鏡20および表示装置53の動作を統括的に制御する。具体的には、CCU51は、カメラヘッド23から受け取った画像信号に対して、例えば現像処理(デモザイク処理)等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。CCU51は、当該画像処理を施した画像信号を表示装置53に提供する。また、CCU51は、カメラヘッド23に対して制御信号を送信し、その駆動を制御する。当該制御信号には、倍率や焦点距離等、撮像条件に関する情報が含まれ得る。
表示装置53は、CCU51からの制御により、当該CCU51によって画像処理が施された画像信号に基づく画像を表示する。内視鏡20が例えば4K(水平画素数3840×垂直画素数2160)または8K(水平画素数7680×垂直画素数4320)等の高解像度の撮影に対応したものである場合、および/または3D表示に対応したものである場合には、表示装置53としては、それぞれに対応して、高解像度の表示が可能なもの、および/または3D表示可能なものが用いられ得る。4Kまたは8K等の高解像度の撮影に対応したものである場合、表示装置53として55インチ以上のサイズのものを用いることで一層の没入感が得られる。また、用途に応じて、解像度、サイズが異なる複数の表示装置53が設けられてもよい。
光源装置55は、例えばLED(light emitting diode)等の光源から構成され、術部を撮影する際の照射光を内視鏡20に供給する。
アーム制御装置57は、例えばCPU等のプロセッサによって構成され、所定のプログラムに従って動作することにより、所定の制御方式に従って支持アーム装置40のアーム部43の駆動を制御する。
入力装置59は、内視鏡手術システム10に対する入力インタフェースである。ユーザは、入力装置59を介して、内視鏡手術システム10に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、入力装置59を介して、患者の身体情報や、手術の術式についての情報等、手術に関する各種の情報を入力する。また、例えば、ユーザは、入力装置59を介して、アーム部43を駆動させる旨の指示や、内視鏡20による撮像条件(照射光の種類、倍率及び焦点距離等)を変更する旨の指示、エネルギー処置具33を駆動させる旨の指示等を入力する。
入力装置59の種類は限定されず、入力装置59は各種の公知の入力装置であってよい。入力装置59としては、例えば、マウス、キーボード、タッチパネル、スイッチ、フットスイッチ69および/またはレバー等が適用され得る。入力装置59としてタッチパネルが用いられる場合には、当該タッチパネルは表示装置53の表示面上に設けられてもよい。
あるいは、入力装置59は、例えばメガネ型のウェアラブルデバイスやHMD(Head Mounted Display)等の、ユーザによって装着されるデバイスであり、これらのデバイスによって検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。また、入力装置59は、ユーザの動きを検出可能なカメラを含み、当該カメラによって撮像された映像から検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。
更に、入力装置59は、ユーザの声を収音可能なマイクロフォンを含み、当該マイクロフォンを介して音声によって各種の入力が行われる。このように、入力装置59が非接触で各種の情報を入力可能に構成されることにより、特に清潔域に属するユーザ(例えば術者71)が、不潔域に属する機器を非接触で操作することが可能となる。また、ユーザは、所持している術具から手を離すことなく機器を操作することが可能となるため、ユーザの利便性が向上する。
処置具制御装置61は、組織の焼灼、切開または血管の封止等のためのエネルギー処置具33の駆動を制御する。気腹装置63は、内視鏡20による視野の確保および術者の作業空間の確保の目的で、患者75の体腔を膨らめるために、気腹チューブ31を介して当該体腔内にガスを送り込む。レコーダ65は、手術に関する各種の情報を記録可能な装置である。プリンタ67は、手術に関する各種の情報を、テキスト、画像またはグラフ等各種の形式で印刷可能な装置である。
以下、内視鏡手術システム10において特に特徴的な構成について、更に詳細に説明する。
(支持アーム装置)
支持アーム装置40は、基台であるベース部41と、ベース部41から延伸するアーム部43と、を備える。図示する例では、アーム部43は、複数の関節部45a、45b、45cと、関節部45bによって連結される複数のリンク47a、47bと、から構成されているが、図1では、簡単のため、アーム部43の構成を簡略化して図示している。
実際には、アーム部43が所望の自由度を有するように、関節部45a〜45cおよびリンク47a、47bの形状、数および配置、並びに関節部45a〜45cの回転軸の方向等が適宜設定され得る。例えば、アーム部43は、好適に、6自由度以上の自由度を有するように構成され得る。これにより、アーム部43の可動範囲内において内視鏡20を自由に移動させることが可能になるため、所望の方向から内視鏡20の鏡筒21を患者75の体腔内に挿入することが可能になる。
関節部45a〜45cにはアクチュエータが設けられており、関節部45a〜45cは当該アクチュエータの駆動により所定の回転軸まわりに回転可能に構成されている。当該アクチュエータの駆動がアーム制御装置57によって制御されることにより、各関節部45a〜45cの回転角度が制御され、アーム部43の駆動が制御される。これにより、内視鏡20の位置および姿勢の制御が実現され得る。この際、アーム制御装置57は、力制御または位置制御等、各種の公知の制御方式によってアーム部43の駆動を制御することができる。
例えば、術者71が、入力装置59(フットスイッチ69を含む)を介して適宜操作入力を行うことにより、当該操作入力に応じてアーム制御装置57によってアーム部43の駆動が適宜制御され、内視鏡20の位置および姿勢が制御されてよい。当該制御により、アーム部43の先端の内視鏡20を任意の位置から任意の位置まで移動させた後、その移動後の位置で固定的に支持することができる。なお、アーム部43は、いわゆるマスタースレイブ方式で操作されてもよい。この場合、アーム部43は、手術室から離れた場所に設置される入力装置59を介してユーザによって遠隔操作され得る。
また、力制御が適用される場合には、アーム制御装置57は、ユーザからの外力を受け、その外力にならってスムーズにアーム部43が移動するように、各関節部45a〜45cのアクチュエータを駆動させる、いわゆるパワーアシスト制御を行ってもよい。これにより、ユーザが直接アーム部43に触れながらアーム部43を移動させる際に、比較的軽い力で当該アーム部43を移動させることができる。従って、より直感的に、より簡易な操作で内視鏡20を移動させることが可能となり、ユーザの利便性を向上させることができる。
ここで、一般的に、内視鏡下手術では、スコピストと呼ばれる医師によって内視鏡20が支持されていた。これに対して、支持アーム装置40を用いることにより、人手によらずに内視鏡20の位置をより確実に固定することが可能になるため、術部の画像を安定的に得ることができ、手術を円滑に行うことが可能になる。
なお、アーム制御装置57は必ずしもカート50に設けられなくてもよい。また、アーム制御装置57は必ずしも1つの装置でなくてもよい。例えば、アーム制御装置57は、支持アーム装置40のアーム部43の各関節部45a〜45cにそれぞれ設けられてもよく、複数のアーム制御装置57が互いに協働することにより、アーム部43の駆動制御が実現されてもよい。
(光源装置)
光源装置55は、内視鏡20に術部を撮影する際の照射光を供給する。光源装置55は、例えばLED、レーザ光源またはこれらの組み合わせによって構成される白色光源から構成される。このとき、RGBレーザ光源の組み合わせにより白色光源が構成される場合には、各色(各波長)の出力強度および出力タイミングを高精度に制御することができるため、光源装置55において撮像画像のホワイトバランスの調整を行うことができる。
また、この場合には、RGBレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド23の撮像素子の駆動を制御することにより、RGBそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
また、光源装置55は、出力する光の強度を所定の時間毎に変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド23の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれおよび白とびのない高ダイナミックレンジの画像を生成することができる。
また、光源装置55は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光(すなわち、白色光)に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察(Narrow Band Imaging)が行われる。
あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察するもの(自家蛍光観察)、またはインドシアニングリーン(ICG)、5-ALA(5−網のレブリン酸)、レザフィリン等の試薬を体組織に局注すると共に当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得るもの等が行われ得る。光源装置55は、このような特殊光観察に対応した狭帯域光および/または励起光を供給可能に構成され得る。
(カメラヘッドおよびCCU)
図2を参照して、内視鏡20のカメラヘッド23およびCCU51の機能についてより詳細に説明する。図2は、図1に示すカメラヘッド23およびCCU51の機能構成の一例を示すブロック図である。
図2を参照すると、カメラヘッド23は、その機能として、レンズユニット25、撮像部27、駆動部29、通信部26、およびカメラヘッド制御部28を有する。また、CCU51は、その機能として、通信部81、画像処理部83、および制御部85を有する。カメラヘッド23とCCU51とは、伝送ケーブル91によって双方向に通信可能に接続されている。
まず、カメラヘッド23の機能構成について説明する。レンズユニット25は、鏡筒21との接続部に設けられる光学系である。鏡筒21の先端から取り込まれた観察光は、カメラヘッド23まで導光され、当該レンズユニット25に入射する。レンズユニット25は、ズームレンズおよびフォーカスレンズを含む複数のレンズが組み合わされて構成される。レンズユニット25は、撮像部27の撮像素子の受光面上に観察光を集光するように、その光学特性が調整されている。また、ズームレンズおよびフォーカスレンズは、撮像画像の倍率および焦点の調整のため、その光軸上の位置が移動可能に構成される。
撮像部27は撮像素子によって構成され、レンズユニット25の後段に配置される。レンズユニット25を通過した観察光は、当該撮像素子の受光面に集光され、光電変換によって、観察像に対応した画像信号が生成される。撮像部27によって生成された画像信号は、通信部26に提供される。
撮像部27を構成する撮像素子としては、例えばCMOS(Complementary Metal Oxide Semiconductor)タイプのイメージセンサであり、Bayer配列を有するカラー撮影可能なものが用いられる。なお、当該撮像素子としては、例えば4K以上の高解像度の画像の撮影に対応可能なものが用いられてもよい。術部の画像が高解像度で得られることにより、術者71は、当該術部の様子をより詳細に把握することができ、手術をより円滑に進行することが可能となる。
また、撮像部27を構成する撮像素子は、3D表示に対応する右目用および左目用の画像信号をそれぞれ取得するための1対の撮像素子を有するように構成される。3D表示が行われることにより、術者71は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部27が多板式で構成される場合には、各撮像素子に対応して、レンズユニット25も複数系統設けられる。
また、撮像部27は、必ずしもカメラヘッド23に設けられなくてもよい。例えば、撮像部27は、鏡筒21の内部に、対物レンズの直後に設けられてもよい。
駆動部29は、アクチュエータによって構成され、カメラヘッド制御部28からの制御により、レンズユニット25のズームレンズおよびフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部27による撮像画像の倍率および焦点が適宜調整され得る。
通信部26は、CCU51との間で各種の情報を送受信するための通信装置によって構成される。通信部26は、撮像部27から得た画像信号をRAWデータとして伝送ケーブル91を介してCCU51に送信する。この際、術部の撮像画像を低レイテンシで表示するために、当該画像信号は光通信によって送信されることが好ましい。
手術の際には、術者71が撮像画像によって患部の状態を観察しながら手術を行うため、より安全で確実な手術のためには、術部の動画像が可能な限りリアルタイムに表示されることが求められるからである。光通信が行われる場合には、通信部26には、電気信号を光信号に変換する光電変換モジュールが設けられる。画像信号は当該光電変換モジュールによって光信号に変換された後、伝送ケーブル91を介してCCU51に送信される。
また、通信部26は、CCU51から、カメラヘッド23の駆動を制御するための制御信号を受信する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに/または撮像画像の倍率および焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。通信部26は、受信した制御信号をカメラヘッド制御部28に提供する。
なお、CCU51からの制御信号も、光通信によって伝送されてもよい。この場合、通信部26には、光信号を電気信号に変換する光電変換モジュールが設けられ、制御信号は当該光電変換モジュールによって電気信号に変換された後、カメラヘッド制御部28に提供される。
なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、取得された画像信号に基づいてCCU51の制御部85によって自動的に設定される。つまり、いわゆるAE(Auto Exposure)機能、AF(Auto Focus)機能およびAWB(Auto White Balance)機能が内視鏡20に搭載される。
カメラヘッド制御部28は、通信部26を介して受信したCCU51からの制御信号に基づいて、カメラヘッド23の駆動を制御する。例えば、カメラヘッド制御部28は、撮像画像のフレームレートを指定する旨の情報および/または撮像時の露光を指定する旨の情報に基づいて、撮像部27の撮像素子の駆動を制御する。また、例えば、カメラヘッド制御部28は、撮像画像の倍率および焦点を指定する旨の情報に基づいて、駆動部29を介してレンズユニット25のズームレンズおよびフォーカスレンズを適宜移動させる。カメラヘッド制御部28は、更に、鏡筒21やカメラヘッド23を識別するための情報を記憶する機能を備えてもよい。
なお、レンズユニット25や撮像部27等の構成を、気密性および防水性が高い密閉構造内に配置することで、カメラヘッド23について、オートクレーブ滅菌処理に対する耐性を持たせることができる。
次に、CCU51の機能構成について説明する。通信部81は、カメラヘッド23との間で各種の情報を送受信するための通信装置によって構成される。通信部81は、カメラヘッド23から、伝送ケーブル91を介して送信される画像信号を受信する。この際、上記のように、当該画像信号は好適に光通信によって送信され得る。この場合、光通信に対応して、通信部81には、光信号を電気信号に変換する光電変換モジュールが設けられる。通信部81は、電気信号に変換した画像信号を画像処理部83に提供する。
また、通信部81は、カメラヘッド23に対して、カメラヘッド23の駆動を制御するための制御信号を送信する。当該制御信号も光通信によって送信されてよい。
画像処理部83は、カメラヘッド23から送信されたRAWデータである画像信号に対して各種の画像処理を施す。当該画像処理としては、例えば現像処理、高画質化処理(帯域強調処理、超解像処理、NR(Noise reduction)処理および/または手ブレ補正処理等)、並びに/または拡大処理(電子ズーム処理)等、各種の公知の信号処理が含まれる。また、画像処理部83は、AE、AFおよびAWBを行うための、画像信号に対する検波処理を行う。
画像処理部83は、CPUやGPU等のプロセッサによって構成され、当該プロセッサが所定のプログラムに従って動作することにより、上述した画像処理や検波処理が行われ得る。なお、画像処理部83が複数のGPUによって構成される場合には、画像処理部83は、画像信号に係る情報を適宜分割し、これら複数のGPUによって並列的に画像処理を行う。
制御部85は、内視鏡20による術部の撮像、およびその撮像画像の表示に関する各種の制御を行う。例えば、制御部85は、カメラヘッド23の駆動を制御するための制御信号を生成する。この際、撮像条件がユーザによって入力されている場合には、制御部85は、当該ユーザによる入力に基づいて制御信号を生成する。あるいは、内視鏡20にAE機能、AF機能およびAWB機能が搭載されている場合には、制御部85は、画像処理部83による検波処理の結果に応じて、最適な露出値、焦点距離およびホワイトバランスを適宜算出し、制御信号を生成する。
また、制御部85は、画像処理部83によって画像処理が施された画像信号に基づいて、術部の画像を表示装置53に表示させる。この際、制御部85は、各種の画像認識技術を用いて術部画像内における各種の物体を認識する。
例えば、制御部85は、術部画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具33使用時のミスト等を認識することができる。制御部85は、表示装置53に術部の画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させる。手術支援情報が重畳表示され、術者71に提示されることにより、より安全かつ確実に手術を進めることが可能になる。
カメラヘッド23およびCCU51を接続する伝送ケーブル91は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、またはこれらの複合ケーブルである。
ここで、図示する例では、伝送ケーブル91を用いて有線で通信が行われていたが、カメラヘッド23とCCU51との間の通信は無線で行われてもよい。両者の間の通信が無線で行われる場合には、伝送ケーブル91を手術室内に敷設する必要がなくなるため、手術室内における医療スタッフの移動が当該伝送ケーブル91によって妨げられる事態が解消され得る。
以上、本開示に係る技術が適用され得る内視鏡手術システム10の一例について説明した。
なお、ここでは、一例として内視鏡手術システム10について説明したが、本開示に係る技術が適用され得るシステムは係る例に限定されない。例えば、本開示に係る技術は、検査用軟性内視鏡システムや顕微鏡手術システムに適用されてもよい。
以下の説明おいては、本技術が適用される例として、上記した内視鏡手術システム10を一例として説明を続ける。本技術が適用される内視鏡手術システム10においては、通常画像と特殊画像を取得し、取得された通常画像と特殊画像を重畳して術者に提示することができる。
この通常画像と特殊画像を取得し、取得された通常画像と特殊画像を重畳することについて説明を加えるために、再度、内視鏡手術システムの構成について説明する。図3は、通常画像と特殊画像を取得し、取得された通常画像と特殊画像を重畳し、重畳した画像を提示する機能を有する内視鏡装置の一例の構成を示す図である。
ここで通常画像とは、被写体となる臓器などに白色光などの通常光を照射して撮像した画像を指す。以下、通常画像を通常フレームとも称する。特殊画像とは、通常光とは異なる所定の波長の特殊光を照射して撮像した画像を指す。以下、特殊画像を特殊フレームとも称する。なお、特殊画像を撮像する際には、被写体となる血管(血液)や病変には特殊光の照射に反応する蛍光剤などを混入または塗布することがある。
図3に示した内視鏡装置110は、通常フレームと特殊フレームを時分割で撮像し、これらを正確に位置合わせして合成し、その結果得られる合成フレームを表示する内視鏡装置の構成例を示している。
この内視鏡装置110は、光源部111、撮像部112、現像部113、画像処理部114、および表示部115から構成される。光源部111は、例えば、内視鏡手術システム10の光源装置55(図1)に該当し、撮像部112は、撮像部27(図2)に該当し、現像部113は、画像処理部83(図2)に含まれ、画像処理部114は、画像処理部83(図2)に該当し、表示部115は、表示装置53(図1)に該当する。
光源部111は、撮像されるフレーム毎に、白色光などの通常光または所定の波長を有する特殊光を切り替えて被写体(体内の臓器など)に照射する。また、光源部111は、撮像されるフレーム毎に、通常光または特殊光のどちらを照射したのかを示す照射識別信号を画像処理部114に出力する。なお、特殊光を照射するには、通常光の光路に所定の波長のみを透過する光学フィルタを設ければよい。
撮像部112は、光源部111から通常光または特殊光が照射されている状態の被写体を撮像し、その結果得られる画像信号を現像部113に出力する。現像部113は、撮像部112から入力される画像信号に対してモザイク処理などの現像処理を行い、処理結果の画像信号(通常光照射時の通常フレーム、または特殊光照射時の特殊フレーム)を画像処理部114に出力する。
ここで、特殊フレームは、血管、腫瘍などの病変が通常フレームに比較してより明確になっているが、その反面、フレーム全体の明るさが暗く、ノイズが多いものとなる。一方、通常フレームは、特殊フレームに比較してフレーム全体の明るさが明るく、ノイズが少ないが、その反面、血管や腫瘍などの病変が見分けにくいものとなる。
画像処理部114は、撮像タイミングが異なる2枚の通常フレームを用いて動きベクトルを検出する。また、画像処理部114は、通常フレームから検出した動きベクトルに基づき、特殊フレームの動き補正を行い、通常フレーム、並びに動き補正した特殊フレームを合成し、その結果得られた合成フレームを表示部115に出力する。
表示部115は、合成フレームを表示する。
<通常フレームと特殊フレームの撮像タイミング>
図4は、通常フレームと特殊フレームの撮像タイミングの一例を示している。
内視鏡装置110においては、数フレーム連続して通常フレームを撮像し、その間に定義的に特殊フレームを撮像するようにする。例えば、図4に示されるように、通常フレームと特殊フレームの撮像の割合を4:1とする。
ただし、この割合は4:1に限定されるものではなく、変更可能としてもよい。同図におけるTaは特殊フレームが撮像される1フレーム前に通常フレームが撮像されたタイミングを、Tbは特殊フレームが撮像されるタイミングを、Tc,Td,Teは、それぞれ特殊フレームが撮像された1,2,3フレーム後に通常フレームが撮像されたタイミングを示している。Ta乃至Teは、後述する動きベクトルの検出の説明に使用する。
<画像処理部114の構成例>
次に、図5は、画像処理部114の構成例を示している。
画像処理部114は、切り替え部121、動きベクトル検出部122、補正量推定部123、フレームメモリ124、動き補正部125、および重畳処理部126から構成される。
画像処理部114において、前段の現像部113から入力される通常フレームおよび特殊フレームは切り替え部121に入力され、光源部111からの照射識別信号は切り替え部121、動きベクトル検出部122、および補正量推定部123に入力される。
切り替え部121は、照射識別信号に基づき、現像部113からの入力が特殊フレームであるか否かを判別し、特殊フレームではない(通常フレームである)場合には動きベクトル検出部122および重畳処理部126に出力し、特殊フレームである場合にはフレームメモリ124に出力する。
動きベクトル検出部122は、フレーム周期毎に、撮像タイミングが異なる2枚の通常フレームを用いて動きベクトルを検出し、検出した動きベクトルを補正量推定部123に出力する。
補正量推定部123は、動きベクトル検出部122で検出された動きベクトルに基づき、特殊フレームの動き補正量を推定し、推定した動き補正量を動き補正部125に出力する。なお、補正量推定部123は、連続して検出された動きベクトルに基づき、誤検出されている可能性がある動きベクトルを補正することができ、補正した動きベクトルに基づいて動き補正量を推定できる。
フレームメモリ124は、切り替え部121から入力された特殊フレームを保持し、フレーム周期毎に、保持する特殊フレームを動き補正部125に供給する。また、フレームメモリ124は、切り替え部121から次の特殊フレームは入力された場合、保持する特殊フレームを更新する。
なお、例えば、微小ブロック内の例えば(3x3)の分散やダイナミックレンジが閾値以上の領域を抽出し、抽出結果を表す特徴抽出フレームを生成する処理が実行されるようにしても良い。また例えば、画素の信号レベルが特定の閾値内の領域、すなわち特定のRGBレベルを持つ領域を抽出し、抽出結果を表す特徴抽出フレームを生成する処理が実行されるようにしても良い。また例えば、(腫瘍などに相当する)閉領域に対してSNAKE等の輪郭検出処理を行い、その結果を表す特徴抽出フレームを生成するようにしてもよい。
動き補正部125は、動き補正量推定部123から入力される動き補正量に基づき、フレームメモリ124からの特殊フレームの動き補正を行い、動き補正後の特殊フレームを重畳処理部126に出力する。
重畳処理部126は、通常フレームと動き補正後の特殊フレームを入力として、重畳合成処理を行うことによって合成フレーム(重畳フレーム)を生成して後段の表示部115に出力する。
<動きベクトル検出部122の構成例>
図6は、動きベクトル検出部122の構成例を示している。動きベクトル検出部122は、フレームメモリ131および132、フレーム選択部133、ブロックマッチング部134、並びにベクトル補正部135から構成される。
動きベクトル検出部122において、前段の切り替え部121から入力される通常フレームはフレームメモリ131およびフレーム選択部133に入力される。
フレームメモリ131は、フレーム周期毎に、それまで保持していた通常フレームをフレームメモリ132およびフレーム選択部133に出力するとともに、保持するデータを前段の切り替え部121から入力される通常フレームにより更新する。同様に、フレームメモリ132は、フレーム周期毎に、保持していた通常フレームをフレーム選択部133に出力するとともに、保持するデータを前段のフレームメモリ131から入力される通常フレームにより更新する。
ただし、フレーム周期のうち、動きベクトル検出部122に通常フレームが入力されないタイミングでは、フレームメモリ131は、それまで保持していた通常フレームを後段に出力するとともに、それまで保持していたデータをクリアする。
その次のタイミングでは、フレームメモリ131は、保持しているデータがないので、後段への出力は行わない。フレームメモリ132は、それまで保持していた通常フレームを後段に出力するとともに、それまで保持していたデータをクリアする。
したがって、フレーム選択部133には、撮像タイミングが異なる2枚または3枚の通常フレームが同時に入力されることになる。
フレーム選択部133は、同時に2枚の通常フレームが入力された場合、該2枚の通常フレームをブロックマッチング部134に出力する。また、フレーム選択部133は、同時に3枚の通常フレームが入力された場合、フレームメモリ131および132から入力された2枚の通常フレームをブロックマッチング部134に出力する。ブロックマッチング部134は、ブロックマッチング処理によって2枚の通常フレーム間の動きベクトルを検出する。
ベクトル補正部135は、照射識別信号に基づいて、動きベクトルに用いられた2枚の通常フレームの関係を判断し、その関係に基づいて、検出された動きベクトルを補正して動きベクトルを補正量推定部123に出力する。
ベクトル補正部135による動きベクトルの補正について具体的に説明する。フレームメモリ131からの出力を基準とすれば、基準の撮像タイミングが図4に示されるTaである場合、フレーム選択部133に対して、フレームメモリ132から基準よりも1フレーム前の通常フレームと、フレームメモリ131から基準の通常フレームとが入力され、この2枚の通常フレームから動きベクトルが検出される。この場合、ベクトル補正部135は動きベクトルの補正を行わない。
基準の撮像タイミングが図4に示されるTbである場合、Tbは特殊フレームの撮像タイミングであるので、フレームメモリ131は出力しない。そして、フレーム選択部133に対して、フレームメモリ131から基準よりも1フレーム前の通常フレームと、切り替え部121から基準よりも1フレーム後の通常フレームとが入力され、この2枚の通常フレームから動きベクトルが検出される。この場合、検出された動きベクトルは2フレーム分離れた通常フレーム間のものであるので、ベクトル補正部135は検出された動きベクトルの縦横それぞれの成分に1/2を乗算する。
基準の撮像タイミングが図4に示されるTcである場合、フレーム選択部133に対して、フレームメモリ131から基準の通常フレームと、切り替え部121から基準よりも1フレーム後の通常フレームとが入力され、この2枚の通常フレームから動きベクトルが検出される。この場合、検出された動きベクトルの方向が反対しているので、ベクトル補正部135は検出された動きベクトルの縦横それぞれの成分に−1を乗算する。
基準の撮像タイミングが図4に示されるTdである場合、フレーム選択部133に対しては、フレームメモリ132から基準よりも1フレーム前の通常フレームと、フレームメモリ131から基準の通常フレームと、切り替え部121から基準よりも1フレーム後の通常フレームとが入力され、フレームメモリ131および132からの2枚の通常フレームから動きベクトルが検出される。この場合、ベクトル補正部135は動きベクトルの補正を行わない。
基準の撮像タイミングが図4に示されるTeである場合、フレーム選択部133に対しては、フレームメモリ132から基準よりも1フレーム前の通常フレームと、フレームメモリ131から基準の通常フレームと、切り替え部121から基準よりも1フレーム後の通常フレームとが入力され、フレームメモリ131および132からの2枚の通常フレームから動きベクトルが検出される。この場合、ベクトル補正部135は動きベクトルの補正を行わない。
以上のようにして補正された動きベクトルがベクトル補正部135から後段の補正量推定部123に出力される。
<画像処理部114による画像合成処理>
次に、画像処理部114による画像合成処理について図7を参照して説明する。図7は、画像合成処理を説明するフローチャートである。この画像合成処理はフレーム周期毎に実行される。
ステップS11において、切り替え部121は、照射識別信号に基づき、現像部113からの入力が特殊フレームであるか否かを判別し、特殊フレームであると判別した場合、該特殊フレームをフレームメモリ124に出力する。反対に、特殊フレームではない(通常フレームである)と判別した場合、該通常フレームを動きベクトル検出部122および重畳処理部126に出力する。
ステップS12において、フレームメモリ124は、それまで保持していた特殊フレームを動き補正部125に供給する。なお、切り替え部121から特殊フレームが入力された場合には、保持する特殊フレームを更新する。
ステップS13において、動きベクトル検出部122は、撮像タイミングが異なる2枚の通常フレームを用いて動きベクトルを検出し補正量推定部123に出力する。ステップS14において、補正量推定部123は、検出された動きベクトルが所定の閾値以下であるか否かを判定し、所定の閾値以下である場合には、その動きベクトルを動き補正に利用するために処理をステップS15に進める。反対に、検出された動きベクトルが所定の閾値よりも大きい場合には、その動きベクトルを動き補正に利用しない。この場合、今回の撮像タイミングに対応する画像合成処理は終了される。
ステップS15においては、補正量推定部123は、動きベクトル検出部122で検出された動きベクトルに基づき、特殊フレームの動き補正量を推定し、推定した動き補正量を動き補正部125に出力する。
動き補正量が推定された後、処理はステップS16に進められる。ステップS16において、動き補正部125は、動き補正量推定部123から入力される動き補正量に基づき、フレームメモリ124からの特殊フレームの動き補正を行い、動き補正後の特殊フレームを重畳処理部126に出力する。重畳処理部126に入力された通常フレームと特殊フレームは、それぞれにおける被写体が正確に位置合わせされたものとなる。
ステップS17において、重畳処理部126は、通常フレームと、動き補正後の特殊フレームを用いて重畳合成処理を行うことによって合成フレームを生成して後段の表示部115に出力する。
このような処理が行われることで、内視鏡装置110によれば、通常フレームのみを使って動きベクトルを検出し、検出した動きベクトルを補正してから動き補正量を推定することができ、特殊フレームの動き補正を正確に実行できる。これにより、通常フレームに対して、血管や腫瘍などの特殊フレームの情報を正確に位置合わせできるので、ユーザ(手術を行う医師など)に対し、切除すべき腫瘍部分と、切除してはいけない血管部分を正確かつ明確に視認させることができる。
ユーザに提示される合成フレームは、通常フレームをベースに作られているので、特殊フレームに比べて、明るくノイズ少ない合成フレームをユーザに提示できる。
<重畳された画像の提供の仕方について>
上記したように、通常フレームと特殊フレームを重畳(合成)し、ユーザにその合成された合成フレームを提供しても勿論良いが、よりユーザに情報を提示するための画像に加工して、提示されるようにしても良い。
通常フレームの画像だけでは判断しづらい、例えば、血液やリンパ液の流れ、腫瘍部位などを可視化する目的で、体内に蛍光物質を注入し、その蛍光物質を蛍光画像として観察するために特殊フレームは撮像される。
特殊フレームを表示する際には、モノクロ表示、単色表示、蛍光の輝度によって色を変えるカラーマップ表示、などの表示が選択的に行われる。なお選択的とは、ユーザによる選択や、所定の条件に基づいて表示が選択される場合などである。また特殊フレームを表示するだけでは蛍光部位の周りの様子が視認しづらいため、上記したように、同時に撮像された通常フレーム上に特殊フレームを重畳して合成フレームを表示することも行われる。
さらに、本技術によれば、合成フレームや特殊フレームが表示されるとき、通常フレームと特殊フレームとのフレーム間の相関係数(画素間の相関係数)を算出し、その相関係数の違いにより表示方法が切り替えられる。以下に、相関係数や、表示方法について説明を加える。なお、以下の説明においては、相関係数に基づく表示を、相関表示と記述し、相関表示のときに表示されるフレームを相関フレームと記述する。
相関フレームは、例えば、蛍光物質の観察条件の違いによって、通常フレームと特殊フレームとの相関係数が変化することから、その相関係数の違いを可視化することで、観察条件の違いを視認しやすくしたフレーム(画像)である。
相関フレームは、上記した合成フレームとして生成することができ、相関フレームの生成は、上記した(図7などを参照して説明した)合成フレームの生成と基本的に同様に行うことができるが、一部の処理として相関係数を算出したり、その相関係数に基づいて合成を行うといった処理が含まれる点が異なる。
以下の説明においては、合成フレームの生成と同様に行われる点については適宜説明を省略する。
<重畳処理部の構成>
図8は、重畳処理部126の構成例を示す図である。重畳処理部126は、判定値算出部401、判定値算出部402、相関係数算出部403、および合成フレーム生成部404を含む構成とされている。
判定値算出部401には、通常フレーム301が供給される。判定値算出部401は、通常フレーム301における所定の部位、例えば、血管、患部などである可能性を判定し、その判定値を算出する。ここでは、血管である可能性を判定する場合を例に挙げて説明を続ける。
例えば、判定値算出部401は、通常フレーム301内の所定の領域(画素)が、血管であるか否かを判定し、血管である可能性を示す判定値を算出する。ここでは、判定値は、0.0〜1.0の値を取るとし、血管である可能性が高いほど、1.0に近い値になるとして説明を続ける。
なお、血管である可能性が高いほど、0.0に近い値になるとしても良い。またここで挙げる数値は、一例であり、このような数値に本技術の適用範囲が限定されることを示す記載ではなく、他の数値が用いられて処理が行われるようにしても勿論良い。
判定値算出部402には、特殊フレーム302が供給される。判定値算出部402は、特殊フレーム302における血管である可能性を判定し、その判定値を算出する。例えば、判定値算出部402は、特殊フレーム302内の所定の領域(画素)が、血管であるか否かを判定し、血管である可能性を示す判定値(0.0〜1.0の値)を算出する。
なお、判定値算出部402に供給される特殊フレーム302は、上記したような処理により、通常フレーム301との位置合わせが行われてたフレームである。よって、通常フレーム301と特殊フレーム302との同一部分に対して、血管が撮像されているか否かの判定を行い、判定値を算出することができる。
相関係数算出部403には、判定値算出部401からの判定値(判定値Aとする)と判定値算出部402からの判定値(判定値Bとする)が供給される。相関係数算出部403は、例えば、判定値Aと判定値Bを乗算し、相関係数を算出する。なお、相関係数の求め方は、一例であり、判定値Aと判定値Bを乗算する以外の演算で求められても良い。
またここでは詳細な説明は省略するが、ZNCC(ゼロ平均正規化相互相関)や、SSIM(Structural Similarity)などを用いて、相関係数が算出されるようにしても良い。また、相関係数は、画素毎、または所定の大きさの領域(ブロック)毎に算出される。
通常フレーム301で血管が撮像されている部分は、特殊フレーム302でも血管が撮像されている可能性が高いため、相関係数は、高い値になる。一方で、通常フレーム301で血管が撮像されていない部分であっても、特殊フレーム302では血管が撮像されている可能性もあり、そのような部分での相関係数は、低い値になる。そのような相関係数が、合成フレーム生成部404に供給される。
合成フレーム生成部404には、通常フレーム301、特殊フレーム302、および相関係数算出部403からの相関係数が供給される。合成フレーム生成部404は、通常フレーム301と特殊フレーム302とを、相関係数に基づき合成し、合成フレームを生成する。
なお、後述するように、ユーザにより、通常フレーム、特殊フレーム、または相関フレームのうちのどのフレームを表示させるかを設定できるようにすることもできる。
ユーザにより表示されるフレームが設定されるように構成した場合、通常フレームの表示が設定されたときには、合成フレーム生成部404は、合成処理を行わずに、供給された通常フレーム301を、後段(表示部115)に出力する。または、画像処理部148(図4)は、通常フレーム301を、重畳処理部126に供給せずに、後段(表示部115)に出力するようにしても良い(そのようなパスを設けても良い)。
同様に、特殊フレームの表示が設定された場合、合成フレーム生成部404は、合成処理を行わずに、供給された特殊フレーム302を、後段(表示部115)に出力する。または、画像処理部148(図4)は、特殊フレーム302を、重畳処理部126に供給せずに、後段(表示部115)に出力するようにしても良い(そのようなパスを設けても良い)。
<判定値の算出について>
判定値算出部401、判定値算出部402の判定値の算出について説明を加える。まず、通常フレーム301から、判定値を算出する判定値算出部401における判定値Aの算出の仕方について説明を加える。
判定値算出部401は、図9に示すように、ゲイン1(Gain1)とゲイン2(Gain2)を算出し、ゲイン1とゲイン2を乗算することで、判定値Aを算出する。ゲイン1は、可視光で撮像された通常フレーム301におけるDR(Dynamic Range)(以下、可視のDRと記述する)の大きさにより算出される値である。可視のDRは、例えば、処理対象としている画素(注目画素)の周辺の画素における画素値の最大値と最小値の差分とすることができる。
図9の左図は、可視のDRとゲイン1との関係を表すグラフであり、横軸が可視のDR、縦軸がゲイン1とされている。可視のDRが10〜50の値を有するとき、ゲイン1は、0.0〜1.0を一次関数的に遷移する値とされる。また、可視のDRが10以下の場合、ゲイン1は、0.0とされ、可視のDRが50以上の場合、ゲイン1は、1.0とされる。
例えば、血管と血管の周りを比較したとき、血管の方が、周りよりも明るい、赤色が濃いなどのため、血管と血管の周りとでは、その画素値の差分が大きくなる。すなわち、そのような領域においては、可視のDRは大きくなると考えられる。よって、図9の左図に示したように、可視のDRが大きくなると、ゲイン1の値も大きくなるような関数に基づき、ゲイン1が算出される。
また、図9の右図に示したような関数が用いられ、ゲイン2が算出される。ゲイン2は、血液色との近さにより算出される値である。図9の右図は、血液色との近さ(を表す値)とゲイン2との関係を表すグラフであり、横軸が血液色との近さ(血液色との類似度)、縦軸がゲイン2とされている。
図9の右図に示したグラフは、血液色との近さを表す値が10〜50の値を有するとき、ゲイン2は、0.0〜1.0を一次関数的に遷移する値とされる。また、血液色との近さを表す値が10以下の場合、ゲイン2は、0.0とされ、血液色との近さを表す値が50以上の場合、ゲイン2は、1.0とされる。
通常フレーム301において、可視のDRが大きく、血管色に近いほど、血管である可能性が高く、そのような血管である可能性が高い領域(画素)には、判定値Aが高い値(この場合、1.0に近い値)となるように、ゲイン1とゲイン2が乗算されることで、判定値Aが算出される。
なお、このようなゲイン1からゲイン1に関する相関マップを作成したり、ゲイン2からゲイン2に関する相関マップを作成したりするようにし、そのようなマップが用いられ、判定値Aが算出されるようにしても良い。また、判定値Aに関するマップが作成され、相関係数が算出されるようにしても良い。
判定値算出部402は、図10に示すように、ゲイン3(Gain3)とゲイン4(Gain4)を算出し、ゲイン3とゲイン4を乗算することで、判定値Bを算出する。ゲイン3は、蛍光のDR(Dynamic Range)の大きさにより算出される値である。蛍光のDRは、例えば、処理対象としている画素(注目画素)の周辺の画素における画素値の最大値と最小値の差分とすることができる。
図10の左図は、蛍光で撮像された特殊フレームのDR(以下、蛍光のDRと記述する)とゲイン3との関係を表すグラフであり、横軸が蛍光のDR、縦軸がゲイン3とされている。蛍光のDRが10〜30の値を有するとき、ゲイン3は、0.0〜1.0を一次関数的に遷移する値とされる。また、蛍光のDRが10以下の場合、ゲイン3は、0.0とされ、蛍光のDRが30以上の場合、ゲイン3は、1.0とされる。
例えば、血管と血管の周りを比較したとき、蛍光剤を流し込まれた血管の方が、周りよりも明るい、色が濃いなどのため、血管と血管の周りとでは、その画素値の差分が大きくなる。すなわち蛍光のDRは大きくなると考えられる。よって、図10の左図に示したように、蛍光のDRが大きくなると、ゲイン3の値も大きくなるような関数に基づき、ゲイン3が算出される。
また、図10の右図に示したような関数が用いられ、ゲイン4が算出される。ゲイン4は、処理対象としている画素の輝度(蛍光の輝度)により算出される値である。図10の右図は、蛍光の輝度とゲイン4との関係を表すグラフであり、横軸が蛍光の輝度、縦軸がゲイン4とされている。なお、領域毎に処理を行う場合、処理対象としている領域内の画素の輝度値の平均値などを用いて処理が行われる。
図10の右図に示したグラフは、蛍光の輝度が20〜100の値を有するとき、ゲイン4は、0.0〜1.0を一次関数的に遷移する値とされる。また、蛍光の輝度が20以下の場合、ゲイン4は、0.0とされ、蛍光の輝度が100以上の場合、ゲイン4は、1.0とされる。
特殊フレーム302において、蛍光のDRが大きく、輝度が高いほど、血管である可能性が高く、そのような血管である可能性が高い領域(画素)には、判定値Bが高い値(この場合、1.0に近い値)となるように、ゲイン3とゲイン4が乗算されることで、判定値Bが算出される。
なお、このようなゲイン3からゲイン3に関する相関マップを作成したり、ゲイン4からゲイン4に関する相関マップを作成したりするようにし、そのようなマップが用いられ、判定値Bが算出されるようにしても良い。また、判定値Bに関するマップが作成され、相関係数が算出されるようにしても良い。
相関係数は、判定値Aと判定値Bが乗算されることで算出される。
ここでは、判定値算出部401から相関係数算出部403に判定値Aが供給され、判定値算出部402から相関係数算出部403に判定値Bが供給され、相関係数算出部403で、判定値Aと判定値Bが乗算されることで、相関係数が算出されるとして説明を続ける。
判定値算出部401から相関係数算出部403にゲイン1とゲイン2が供給され、判定値算出部402から相関係数算出部403にゲイン3とゲイン4が供給され、相関係数算出部403で、ゲイン1、ゲイン2、ゲイン3、およびゲイン4が乗算されることで、相関係数が算出されるようにしても良い。
相関係数は、例えば、蛍光があり、可視光で血管が見える箇所は高い数値となり、蛍光があり、可視光では血管が見えない箇所は、低い数値となる。このような関係が満たされるように、相関係数算出部403における相関係数の算出は調整される。
<重畳処理部126の処理>
図11のフローチャートを参照し、重畳処理部126が行う処理について説明を加える。
ステップS101において、相関フレームの表示が選択されたか否かが判定される。例えば、表示部115(図3)に表示させるフレーム(画像)を、ユーザが選択できるように構成し、ユーザにより選択されたフレームが表示されるようにする。
ここでは、ユーザにより選択できるフレームとして、相関フレーム、合成フレーム、通常フレーム、および特殊フレームがある場合を例に挙げて説明を続ける。
相関フレームは、相関係数を用いた画像処理が施されたフレームである。後述するように、相関フレームとしては、合成フレームに対して、相関表示を行う場合と、特殊フレームに対して相関表示を行う場合とがあり、ユーザは、この2つの相関フレームのうちのどちらかを選択して表示させることができるように構成されている。以下、前者を、相関表示ありの合成フレームと記述し、後者を相関表示ありの特殊フレームと記述する。
ステップS101において、相関フレームの表示が選択されたか否かが判定され、相関フレームの表示が選択されたと判定された場合、ステップS102に処理は進められる。
なお、ユーザは、術中に、表示されるフレームの切り替え、例えば、相関フレームから通常フレームへの表示の切り替えなどを行えるように構成されており、ユーザは、所望とする表示で、手術を行えるように構成されている。よって、図11に示したフローチャートの処理は、術中、繰り返し行われる。
ステップS102において、相関係数が算出される。図8乃至図10を参照して説明したように、判定値算出部401、判定値算出部402、および相関係数算出部403の各部の処理により、相関係数が算出され、合成フレーム生成部404に供給される。
ステップS103において、相関表示ありの合成フレームの表示が選択されたか否かが判定される。ステップS103において、相関表示ありの合成フレームの表示が選択されたと判定された場合、ステップS104に処理が進められる。
ステップS104において、相関表示ありの合成フレームが表示部115に表示される。この場合、重畳処理部126の合成フレーム生成部404は、通常フレーム301と特殊フレーム302を重畳し、相関係数に基づき画像処理を施すことで、相関表示ありの合成フレームを生成する。
図12に、相関表示ありの合成フレームの一例を示す。表示部115には、通常フレーム301上に、特殊フレーム302が重畳されている合成フレームが表示されている。さらに、図中、太線で示した部分が、相関表示部分501であり、相関表示ありの表示の場合、このような相関表示部分501が表示される。
相関表示部分501として表示されるのは、相関係数が高い値の領域である。また、そのような相関係数が高い値となるのは、例えば、特殊フレーム302には撮像されているが、通常フレーム301には撮像されていない血管や患部(以下、血管を例に挙げる)などである。
よって、相関表示部分501は、特殊フレーム302に撮像されている血管であるため、相関フレームの表示が選択されていない場合には、特殊フレーム302の他の血管と同様の表示がなされている部分である。
図12では、説明の都合上、相関表示部分501と、相関表示部分501以外の血管を区別するために、相関表示部分501を太線で示しているが、実際には、撮像されている血管の太さで表示される。
相関表示部分501(相関が低い部分、この場合、相関係数が低い部分)と、相関表示部分501以外の部分(相関が高い部分、この場合、相関係数が高い部分)とでは、異なる色で表示されるようにすることができる。例えば、相関表示部分501(相関係数が低い蛍光領域)は、緑色で表示し、相関表示部分501以外の部分(相関係数が高い蛍光領域)は、マゼンタで表示することができる。
また、このような緑色やマゼンタなどの単色で表示されるのではなく、相関係数に応じた色で表示されるようにしても良い。例えば、相関係数が、0.0に近い値の場合、相関表示部分501は紫色にし、相関係数が、1.0に近い値の場合、相関表示部分501は緑色にし、相関係数が、0.0から1.0になるにつれて、相関表示部分501は紫色から緑色に変化するような色表示がなされるようにしても良い。
相関係数が、0.0に近い値の場合、特殊フレーム302(蛍光で撮像された画像)では見える血管であるが、通常フレーム301(可視光で撮像された画像)では、見えない血管である。このような特殊フレーム302にだけ撮像されているような部分(相関表示部分501)は、そのことが明確にわかるような色、ここでは紫色で表示される。
相関係数が、1.0に近い値の場合、特殊フレーム302(蛍光で撮像された画像)で見える血管であり、通常フレーム301(可視光で撮像された画像)でも見える血管である。そのような血管は、緑色で表示されるようにしても良い。また、この緑色は、相関表示部分501以外の特殊フレーム302の部分の表示色とすることができる。
換言すれば、相関係数が、1.0に近い値の場合の例えば血管の色と、特殊フレーム302だけを表示するときの特殊フレーム302で撮像されている例えば血管の色は、同一色とすることができる。このような表示色とすることで、例えば、相関表示ありの特殊フレーム302の表示と、相関表示なしの特殊フレーム302の表示のときの差分を明確にすることができ、ユーザに提供できる情報量を増やすことが可能となる。
例えば、図12に示した相関フレームのうち、相関表示あり(相関表示部分501の表示あり)の特殊フレーム302の表示が指示されたときには、図13に示したような画像が表示され、相関表示なしの特殊フレーム302の表示が指示されたときには、図14に示したような画像が表示される。
図13に示した相関表示ありの特殊フレーム302は、表示部115に特殊フレーム302が表示され、さらに相関表示部分501は、所定の色で表示されている。相関表示部分501は、例えば紫色で表示され、特殊フレーム302の相関表示部分501以外の部分(血管など)は、例えば緑色で表示されている。
図14に示した相関表示なしの特殊フレーム302は、表示部115に特殊フレーム302が表示されている。相関表示ありのときに表示される相関表示部分501の部分も、特殊フレーム302の相関表示部分501以外の部分(血管など)と同じ、例えば緑色で表示されている。換言すれば、相関表示なしの特殊フレーム302の蛍光部分の表示は、同一色で行われる。
例えば、相関表示なしの特殊フレーム302の表示から、相関表示ありの特殊フレーム302の表示に切り換えられた場合、相関表示部分501が、緑色から紫色に切り替えられた表示が行われる。
例えば、相関表示部分501は、深い位置にある血管のため、通常フレーム301には撮像されていないが、特殊フレーム302には撮像されているような血管である。例えば、ユーザは、深い位置にある血管を知りたいとき、相関表示なしの特殊フレーム302の表示から、相関表示ありの特殊フレーム302の表示に切り換えることで、相関表示部分501の部分の表示が切り替えられる(表示色が切り替えられる)ため、深い位置にある血管を知ることができる。
このように、相関表示部分501を表示することで、ユーザに観察条件の違いを視認させることができる。観察条件の違いとしては、例えば、血管がある深さ、血管壁の厚さ、血管までの組織性状などである。換言すれば、相関係数は、血管がある深さ、血管壁の厚さ、血管までの組織性状に依存する値となり、そのような値に基づいて、相関表示が行われる。
図11のフローチャートの説明に戻る。ステップS104において、例えば、図12に示したような相関表示ありの合成フレームが表示部115に表示される。
一方で、ステップS103において、相関表示ありの合成フレームの表示は選択されていないと判定された場合、ステップS105に処理が進められる。ステップS105において、相関表示ありの特殊フレーム302が表示部115に表示される。この場合、ステップS101において、相関フレームの表示が選択されたが、相関表示ありの合成フレームの表示の選択ではないため、相関表示ありの特殊フレームが表示される。
ステップS105において、例えば、図13に示したような相関表示ありの特殊フレーム302が、表示部115に表示される。相関表示ありの特殊フレーム302は、特殊フレーム302の相関表示部分501に該当する部分が、他の部分と異なる色で表示された画像である。
なお、ここでは、相関表示ありの通常フレーム301が表示されるという選択肢はない場合を例に挙げて説明しているが、そのような選択肢を設け、相関表示ありの通常フレーム301が表示されるようにしても良い。このような選択肢が選択された場合、通常フレーム301に、相関表示部分501が重畳されたような画像が、表示部115に表示される。
一方、ステップS101において、相関フレームの表示は選択されていないと判定された場合、ステップS106に処理は進められる。ステップS106において、合成フレームの表示が選択されたか否かが判定される。ステップS106において、合成フレームの表示が選択されたと判定された場合、ステップS107に処理は進められる。
ステップS107において、合成フレーム303が、表示部115に表示される。例えば、図7に示したフローチャートの処理が実行されることで生成された合成フレーム303が、表示部115に表示される。
一方、ステップS106において、合成フレームの表示は選択されていないと判定された場合、ステップS108に処理は進められる。ステップS108において、通常フレームの表示が選択されたか否かが判定される。
ステップS108において、通常フレームの表示が選択されたと判定された場合、ステップS109に処理は進められる。ステップS109において、通常フレーム301が、表示部115に表示される。
一方、ステップS108において、通常フレームの表示は選択されていないと判定された場合、ステップS110に処理は進められる。ステップS110において、特殊フレーム302が、表示部115に表示される。このステップS110で表示される特殊フレーム302は、図14に示したような画像であり、相関表示部分501は表示されない画像である。
このように、本技術によれば、ユーザが選択した画像が表示されるようにすることができる。また、可視光などの通常の光で撮像された通常フレーム301と、蛍光などの特殊光で撮像された特殊フレーム302とを合成した合成フレーム303を表示させるようにすることができる。
さらに、通常フレーム301と特殊フレーム302との相関が強い部分と弱い部分とを異なる表示とすることができる。すなわち、本技術によれば、相関表示部分501を表示させることができる。相関表示部分501が表示されることで、通常フレーム301と特殊フレーム302との違い、換言すれば、観察条件の違いを視認しやすい画像を提供することができ、ユーザに、情報をより多く提示することができる。
なお、上記した実施の形態においては、相関表示部分501と、相関表示部分501以外の部分は、異なる色で表示されるとして説明したが、その他の表示方式が適用されても良い。例えば、相関表示部分501と、相関表示部分501以外の部分は、異なる明るさで表示されるようにしても良い。
また、相関表示部分501は、点滅状態で表示されるようにしても良い。また、相関表示部分501を、他の部分よりも強調して表示する強調具合は、どのような表示でも良い。また、これらの色、明るさ、点滅状態、強調具合などは、ユーザにより切り替えられたり、何らかの条件に基づき切り替えられたりする仕組みを設けても良い。
また、上記したように、相関表示部分501を、相関係数に応じた色で表示するようにした場合と同じく、色、明るさ、点滅状態、強調具合なども、相関係数に応じて、段階的に切り替えられるようにしても良い。
なお、上記した実施の形態においては、リアルタイムに撮像しながら相関表示を行う場合を例に挙げて説明したが、録画しておいた画像データを再生するときに、相関表示が行われるようにする場合にも、本技術は適用できる。
<記録媒体について>
上述した一連の処理は、ハードウエアにより実行することもできるし、ソフトウエアにより実行することもできる。一連の処理をソフトウエアにより実行する場合には、そのソフトウエアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウエアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどが含まれる。
図15は、上述した一連の処理をプログラムにより実行するコンピュータのハードウエアの構成例を示すブロック図である。コンピュータにおいて、CPU(Central Processing Unit)1001、ROM(Read Only Memory)1002、RAM(Random Access Memory)1003は、バス1004により相互に接続されている。バス1004には、さらに、入出力インタフェース1005が接続されている。入出力インタフェース1005には、入力部1006、出力部1007、記憶部1008、通信部1009、及びドライブ1010が接続されている。
入力部1006は、キーボード、マウス、マイクロフォンなどよりなる。出力部1007は、ディスプレイ、スピーカなどよりなる。記憶部1008は、ハードディスクや不揮発性のメモリなどよりなる。通信部1009は、ネットワークインタフェースなどよりなる。ドライブ1010は、磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリなどのリムーバブルメディア1011を駆動する。
以上のように構成されるコンピュータでは、CPU1001が、例えば、記憶部1008に記憶されているプログラムを、入出力インタフェース1005及びバス1004を介して、RAM1003にロードして実行することにより、上述した一連の処理が行われる。
コンピュータ(CPU1001)が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブルメディア1011に記録して提供することができる。また、プログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供することができる。
コンピュータでは、プログラムは、リムーバブルメディア1011をドライブ1010に装着することにより、入出力インタフェース1005を介して、記憶部1008にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部1009で受信し、記憶部1008にインストールすることができる。その他、プログラムは、ROM1002や記憶部1008に、あらかじめインストールしておくことができる。
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
また、本明細書において、システムとは、複数の装置により構成される装置全体を表すものである。
なお、本明細書に記載された効果はあくまで例示であって限定されるものでは無く、また他の効果があってもよい。
なお、本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
なお、本技術は以下のような構成も取ることができる。
(1)
被写体に対して通常光を照射した状態で撮像された通常フレームと、前記被写体に対して特殊光を照射した状態で撮像された特殊フレームとの相関関係を表す相関係数を算出する係数算出部と、
前記特殊フレームにおいて、前記相関係数の高い部分と低い部分とが異なる表示となるように前記特殊フレームを画像処理する処理部と
を備える医療用画像処理装置。
(2)
前記通常フレームの画素毎または領域毎に、所定の部位が撮像されている可能性を表す第1の判定値を算出する第1の判定部と、
前記特殊フレームの画素毎または領域毎に、所定の部位が撮像されている可能性を表す第2の判定値を算出する第2の判定部と
をさらに備え、
前記係数算出部は、前記第1の判定値と前記第2の判定値を用いて前記相関係数を算出する
前記(1)に記載の医療用画像処理装置。
(3)
前記第1の判定部は、前記通常フレーム内の処理対象とした画素または領域の周辺部に位置する画素の画素値の最大値と最小値の差分から算出される第1のゲインと、前記所定の部位が有する色との類似度から算出される第2のゲインとから、前記第1の判定値を算出する
前記(2)に記載の医療用画像処理装置。
(4)
前記第2の判定部は、前記特殊フレーム内の処理対象とした画素または領域の周辺部に位置する画素の画素値の最大値と最小値の差分から算出される第3のゲインと、前記処理対象とした画素または領域の輝度から算出される第4のゲインとから、前記第2の判定値を算出する
前記(2)または(3)に記載の医療用画像処理装置。
(5)
前記通常フレームと前記特殊フレームを、合成した合成フレームを生成する
前記(1)乃至(4)のいずれかに記載の医療用画像処理装置。
(6)
前記合成フレームは、前記処理部により処理された前記特殊フレームが前記通常フレームと合成されたフレームである
前記(5)に記載の医療用画像処理装置。
(7)
前記処理部は、前記相関係数の高い部分と低い部分とが異なる色で表示されるように前記特殊フレームを画像処理する
前記(1)乃至(6)のいずれかに記載の医療用画像処理装置。
(8)
前記色は、前記相関係数により段階的に異なる色に設定される
前記(7)に記載の医療用画像処理装置。
(9)
前記処理部は、前記相関係数の高い部分と低い部分とが異なる明るさで表示されるように前記特殊フレームを画像処理する
前記(1)乃至(6)のいずれかに記載の医療用画像処理装置。
(10)
前記処理部は、前記相関係数の高い部分または低い部分の一方が点滅して表示されるように前記特殊フレームを画像処理する
前記(1)乃至(6)のいずれかに記載の医療用画像処理装置。
(11)
前記所定の部位は、血管であり、
前記相関係数は、前記通常フレームで血管である部分と前記特殊フレームで血管である部分とでは相関が強いことを表す係数となり、前記通常フレームで血管ではない部分と前記特殊フレームで血管である部分とでは相関が弱いことを表す係数となり、
前記処理部は、前記相関が強い部分と相関が弱い部分とが異なる表示となるように、前記特殊フレームを処理する
前記(1)乃至(10)のいずれかに記載の医療用画像処理装置。
(12)
前記相関係数は、前記血管の深さ、前記血管の厚さ、または前記血管までの組織性状に依存する係数である
前記(11)に記載の医療用画像処理装置。
(13)
被写体に対して通常光を照射した状態で撮像された通常フレームと、前記被写体に対して特殊光を照射した状態で撮像された特殊フレームとの相関関係を表す相関係数を算出し、
前記特殊フレームにおいて、前記相関係数の高い部分と低い部分とが異なる表示となるように前記特殊フレームを画像処理する
ステップを含む医療用画像処理方法。
(14)
コンピュータに、
被写体に対して通常光を照射した状態で撮像された通常フレームと、前記被写体に対して特殊光を照射した状態で撮像された特殊フレームとの相関関係を表す相関係数を算出し、
前記特殊フレームにおいて、前記相関係数の高い部分と低い部分とが異なる表示となるように前記特殊フレームを画像処理する
ステップを含む処理を実行させるためのコンピュータ読み取り可能なプログラム。
110 内視鏡装置, 111 光源部, 112 撮像部, 113 現像部, 114 画像処理部, 115 表示部, 121 切り替え部, 122 動きベクトル検出部, 123 補正量推定部, 124 フレームメモリ, 125 動き補正部, 126 重畳処理部, 131,132 フレームメモリ, 133 フレーム選択部, 134 ブロックマッチング部, 135 ベクトル補正部, 401,402 判定値算出部, 403 相関係数算出部, 404 合成フレーム生成部

Claims (14)

  1. 被写体に対して通常光を照射した状態で撮像された通常フレームと、前記被写体に対して特殊光を照射した状態で撮像された特殊フレームとの相関関係を表す相関係数を算出する係数算出部と、
    前記特殊フレームにおいて、前記相関係数の高い部分と低い部分とが異なる表示となるように前記特殊フレームを画像処理する処理部と
    を備える医療用画像処理装置。
  2. 前記通常フレームの画素毎または領域毎に、所定の部位が撮像されている可能性を表す第1の判定値を算出する第1の判定部と、
    前記特殊フレームの画素毎または領域毎に、所定の部位が撮像されている可能性を表す第2の判定値を算出する第2の判定部と
    をさらに備え、
    前記係数算出部は、前記第1の判定値と前記第2の判定値を用いて前記相関係数を算出する
    請求項1に記載の医療用画像処理装置。
  3. 前記第1の判定部は、前記通常フレーム内の処理対象とした画素または領域の周辺部に位置する画素の画素値の最大値と最小値の差分から算出される第1のゲインと、前記所定の部位が有する色との類似度から算出される第2のゲインとから、前記第1の判定値を算出する
    請求項2に記載の医療用画像処理装置。
  4. 前記第2の判定部は、前記特殊フレーム内の処理対象とした画素または領域の周辺部に位置する画素の画素値の最大値と最小値の差分から算出される第3のゲインと、前記処理対象とした画素または領域の輝度から算出される第4のゲインとから、前記第2の判定値を算出する
    請求項2に記載の医療用画像処理装置。
  5. 前記通常フレームと前記特殊フレームを、合成した合成フレームを生成する
    請求項1に記載の医療用画像処理装置。
  6. 前記合成フレームは、前記処理部により処理された前記特殊フレームが前記通常フレームと合成されたフレームである
    請求項5に記載の医療用画像処理装置。
  7. 前記処理部は、前記相関係数の高い部分と低い部分とが異なる色で表示されるように前記特殊フレームを画像処理する
    請求項1に記載の医療用画像処理装置。
  8. 前記色は、前記相関係数により段階的に異なる色に設定される
    請求項7に記載の医療用画像処理装置。
  9. 前記処理部は、前記相関係数の高い部分と低い部分とが異なる明るさで表示されるように前記特殊フレームを画像処理する
    請求項1に記載の医療用画像処理装置。
  10. 前記処理部は、前記相関係数の高い部分または低い部分の一方が点滅して表示されるように前記特殊フレームを画像処理する
    請求項1に記載の医療用画像処理装置。
  11. 前記所定の部位は、血管であり、
    前記相関係数は、前記通常フレームで血管である部分と前記特殊フレームで血管である部分とでは相関が強いことを表す係数となり、前記通常フレームで血管ではない部分と前記特殊フレームで血管である部分とでは相関が弱いことを表す係数となり、
    前記処理部は、前記相関が強い部分と相関が弱い部分とが異なる表示となるように、前記特殊フレームを処理する
    請求項1に記載の医療用画像処理装置。
  12. 前記相関係数は、前記血管の深さ、前記血管の厚さ、または前記血管までの組織性状に依存する係数である
    請求項11に記載の医療用画像処理装置。
  13. 被写体に対して通常光を照射した状態で撮像された通常フレームと、前記被写体に対して特殊光を照射した状態で撮像された特殊フレームとの相関関係を表す相関係数を算出し、
    前記特殊フレームにおいて、前記相関係数の高い部分と低い部分とが異なる表示となるように前記特殊フレームを画像処理する
    ステップを含む医療用画像処理方法。
  14. コンピュータに、
    被写体に対して通常光を照射した状態で撮像された通常フレームと、前記被写体に対して特殊光を照射した状態で撮像された特殊フレームとの相関関係を表す相関係数を算出し、
    前記特殊フレームにおいて、前記相関係数の高い部分と低い部分とが異なる表示となるように前記特殊フレームを画像処理する
    ステップを含む処理を実行させるためのコンピュータ読み取り可能なプログラム。
JP2016256731A 2016-12-28 2016-12-28 医療用画像処理装置、医療用画像処理方法、プログラム Pending JP2018108173A (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2016256731A JP2018108173A (ja) 2016-12-28 2016-12-28 医療用画像処理装置、医療用画像処理方法、プログラム
PCT/JP2017/044860 WO2018123613A1 (ja) 2016-12-28 2017-12-14 医療用画像処理装置、医療用画像処理方法、プログラム
CN201780079951.4A CN110099599B (zh) 2016-12-28 2017-12-14 医学图像处理设备、医学图像处理方法和程序
US16/469,152 US11004197B2 (en) 2016-12-28 2017-12-14 Medical image processing apparatus, medical image processing method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016256731A JP2018108173A (ja) 2016-12-28 2016-12-28 医療用画像処理装置、医療用画像処理方法、プログラム

Publications (1)

Publication Number Publication Date
JP2018108173A true JP2018108173A (ja) 2018-07-12

Family

ID=62708004

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016256731A Pending JP2018108173A (ja) 2016-12-28 2016-12-28 医療用画像処理装置、医療用画像処理方法、プログラム

Country Status (4)

Country Link
US (1) US11004197B2 (ja)
JP (1) JP2018108173A (ja)
CN (1) CN110099599B (ja)
WO (1) WO2018123613A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022145424A1 (ja) * 2020-12-29 2022-07-07 アナウト株式会社 コンピュータプログラム、学習モデルの生成方法、及び手術支援装置

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE112017002826T5 (de) * 2016-06-06 2019-02-28 Olympus Corporation Endoskopvorrichtung
US11216941B2 (en) * 2016-11-04 2022-01-04 Sony Corporation Medical image processing apparatus, medical image processing method, and program
WO2020203164A1 (ja) * 2019-03-29 2020-10-08 ソニー株式会社 医療システム、情報処理装置及び情報処理方法
US11288772B2 (en) * 2019-06-20 2022-03-29 Cilag Gmbh International Super resolution and color motion artifact correction in a pulsed fluorescence imaging system
US11398011B2 (en) 2019-06-20 2022-07-26 Cilag Gmbh International Super resolution and color motion artifact correction in a pulsed laser mapping imaging system
US11360028B2 (en) 2019-06-20 2022-06-14 Cilag Gmbh International Super resolution and color motion artifact correction in a pulsed hyperspectral, fluorescence, and laser mapping imaging system
US11276148B2 (en) * 2019-06-20 2022-03-15 Cilag Gmbh International Super resolution and color motion artifact correction in a pulsed fluorescence imaging system
US11793399B2 (en) 2019-06-20 2023-10-24 Cilag Gmbh International Super resolution and color motion artifact correction in a pulsed hyperspectral imaging system
CN113542562A (zh) * 2021-07-12 2021-10-22 黑龙江生物科技职业学院 一种双光融合无人机的图像采集系统

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007313171A (ja) 2006-05-29 2007-12-06 Olympus Corp 内視鏡システム
US8131336B2 (en) * 2006-06-01 2012-03-06 University Of Washington Automated in vivo plaque composition evaluation
FR2915301A1 (fr) * 2007-04-20 2008-10-24 Groupe Ecoles Telecomm Procede de comparaison d'images d'une biometrie entre au moi ns une image de reference et au moins une image de test dont on cherche a evaluer un degre de correlation avec l'image d e reference
JP5389380B2 (ja) * 2008-05-28 2014-01-15 オリンパス株式会社 信号処理システム及び信号処理プログラム
JP5087529B2 (ja) * 2008-12-01 2012-12-05 オリンパス株式会社 識別処理装置、識別処理プログラム及び識別処理方法
JP5385176B2 (ja) * 2009-09-28 2014-01-08 富士フイルム株式会社 画像表示装置の作動方法および画像表示装置
JP5389612B2 (ja) 2009-11-06 2014-01-15 富士フイルム株式会社 電子内視鏡システム、電子内視鏡用のプロセッサ装置、及び電子内視鏡システムの作動方法
JP5320268B2 (ja) 2009-11-12 2013-10-23 富士フイルム株式会社 画像表示装置
JP5435796B2 (ja) 2010-02-18 2014-03-05 富士フイルム株式会社 画像取得装置の作動方法および画像撮像装置
JP5452300B2 (ja) * 2010-03-19 2014-03-26 富士フイルム株式会社 電子内視鏡システム、電子内視鏡用のプロセッサ装置、電子内視鏡システムの作動方法、病理観察装置および病理顕微鏡装置
US9298581B2 (en) * 2010-03-26 2016-03-29 Microsoft Technology Licensing, Llc Dynamically controlled server rack illumination system
JP2012024283A (ja) 2010-07-22 2012-02-09 Fujifilm Corp 内視鏡診断装置
US8744211B2 (en) * 2011-08-31 2014-06-03 Analogic Corporation Multi-modality image acquisition
EP3037030A4 (en) 2013-08-23 2017-04-19 Olympus Corporation Fluorescence observation apparatus
JP6392570B2 (ja) * 2014-07-11 2018-09-19 オリンパス株式会社 画像処理装置、画像処理装置の作動方法、画像処理プログラム、及び内視鏡システム
US11304604B2 (en) * 2014-10-29 2022-04-19 Spectral Md, Inc. Reflective mode multi-spectral time-resolved optical imaging methods and apparatuses for tissue classification
JP6432770B2 (ja) * 2014-11-12 2018-12-05 ソニー株式会社 画像処理装置、画像処理方法、並びにプログラム

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022145424A1 (ja) * 2020-12-29 2022-07-07 アナウト株式会社 コンピュータプログラム、学習モデルの生成方法、及び手術支援装置
JP7146318B1 (ja) * 2020-12-29 2022-10-04 アナウト株式会社 コンピュータプログラム、学習モデルの生成方法、及び手術支援装置

Also Published As

Publication number Publication date
US20200098104A1 (en) 2020-03-26
US11004197B2 (en) 2021-05-11
CN110099599A (zh) 2019-08-06
WO2018123613A1 (ja) 2018-07-05
CN110099599B (zh) 2021-12-24

Similar Documents

Publication Publication Date Title
WO2018123613A1 (ja) 医療用画像処理装置、医療用画像処理方法、プログラム
JP7074065B2 (ja) 医療用画像処理装置、医療用画像処理方法、プログラム
US10904437B2 (en) Control apparatus and control method
WO2017159335A1 (ja) 医療用画像処理装置、医療用画像処理方法、プログラム
JP2018075218A (ja) 医療用支持アーム及び医療用システム
JPWO2018221041A1 (ja) 医療用観察システム及び医療用観察装置
WO2018180573A1 (ja) 手術用画像処理装置、画像処理方法、及び、手術システム
JPWO2019092950A1 (ja) 画像処理装置、画像処理方法および画像処理システム
WO2020008920A1 (ja) 医療用観察システム、医療用観察装置、及び医療用観察装置の駆動方法
JP7063321B2 (ja) 撮像装置、映像信号処理装置および映像信号処理方法
JP7092111B2 (ja) 撮像装置、映像信号処理装置および映像信号処理方法
WO2020203164A1 (ja) 医療システム、情報処理装置及び情報処理方法
WO2021140923A1 (ja) 医療画像生成装置、医療画像生成方法および医療画像生成プログラム
US20220261967A1 (en) Endoscopic surgery system, image processing apparatus, and image processing method
WO2020009127A1 (ja) 医療用観察システム、医療用観察装置、及び医療用観察装置の駆動方法
WO2018043205A1 (ja) 医療用画像処理装置、医療用画像処理方法、プログラム
JPWO2020045014A1 (ja) 医療システム、情報処理装置及び情報処理方法
JP7456385B2 (ja) 画像処理装置、および画像処理方法、並びにプログラム
US20230293258A1 (en) Medical arm control system, medical arm control method, and program
WO2022004250A1 (ja) 医療システム、情報処理装置及び情報処理方法
WO2020050187A1 (ja) 医療システム、情報処理装置及び情報処理方法