JPWO2020136858A1 - 内視鏡画像処理装置、内視鏡画像処理方法及びプログラム - Google Patents

内視鏡画像処理装置、内視鏡画像処理方法及びプログラム Download PDF

Info

Publication number
JPWO2020136858A1
JPWO2020136858A1 JP2020562259A JP2020562259A JPWO2020136858A1 JP WO2020136858 A1 JPWO2020136858 A1 JP WO2020136858A1 JP 2020562259 A JP2020562259 A JP 2020562259A JP 2020562259 A JP2020562259 A JP 2020562259A JP WO2020136858 A1 JPWO2020136858 A1 JP WO2020136858A1
Authority
JP
Japan
Prior art keywords
lesion
area
endoscopic image
display
mark
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020562259A
Other languages
English (en)
Other versions
JP7123173B2 (ja
Inventor
健人 速水
大和 神田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Publication of JPWO2020136858A1 publication Critical patent/JPWO2020136858A1/ja
Application granted granted Critical
Publication of JP7123173B2 publication Critical patent/JP7123173B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • A61B1/0005Display arrangement combining images e.g. side-by-side, superimposed or tiled
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30096Tumor; Lesion

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Radiology & Medical Imaging (AREA)
  • General Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Veterinary Medicine (AREA)
  • Biomedical Technology (AREA)
  • Optics & Photonics (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Pathology (AREA)
  • Public Health (AREA)
  • Signal Processing (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Endoscopes (AREA)

Abstract

内視鏡画像処理装置は、内視鏡画像において病変部を含むと推定される領域に相当する病変領域を検出するとともに、内視鏡画像に含まれる病変領域の位置を示す情報を含む病変情報を取得するための処理を行う病変検出部と、内視鏡画像に病変領域が含まれているか否かを判定する判定部と、病変情報と、判定部により得られた判定結果と、に基づき、病変検出部による病変領域の検出状態の概要を示す1つ以上のマークを生成するとともに、内視鏡画像を内視鏡画像表示領域に表示させつつ、内視鏡画像表示領域の外部の所定の位置に設定されるとともに、1つ以上のマークの最大表示数に応じた個数を有する領域として設定されるN個のマーク表示領域のうちの少なくとも1つに1つ以上のマークを表示させるための表示画像を生成する表示制御部と、を有する。

Description

本発明は、内視鏡画像処理装置、内視鏡画像処理方法及びプログラムに関するものである。
医療分野においては、被検者の所望の部位を撮像して得られた画像から病変部を検出し、当該検出した病変部に関する情報を当該画像に付加して表示するような技術が従来知られている。
具体的には、例えば、日本国特開2004−73488号公報には、被検者の胸部を撮像して得られたX線画像から病変部を検出し、当該検出した病変部の位置を特定可能なマークを当該X線画像に対応する診断画像の外枠部分に表示するような技術が開示されている。
ここで、医療分野の内視鏡観察においては、内視鏡に設けられた細長な挿入部が被験者の内部に挿入され、当該挿入部の先端部に設けられた光学素子等により規定される観察視野内の被写体が撮像されるとともに、当該被写体を撮像して得られた画像がモニタ等の表示装置に表示される。また、医療分野の内視鏡観察においては、例えば、被験者の内部に挿入された挿入部の先端部と当該被験者の内部に存在する病変部との相対的な位置関係に応じ、当該被験者の内部の被写体を撮像して得られた画像における当該病変部の位置が変化する。
しかし、日本国特開2004−73488号公報には、内視鏡観察時に被写体を撮像して得られた画像における病変部の位置を特定可能なマークを表示する際の具体的な表示方法等について特に言及されていない。
そのため、日本国特開2004−73488号公報に開示された構成によれば、例えば、内視鏡観察時に被写体を撮像して得られた画像における病変部の位置の変化に応じ、当該病変部の位置を特定可能なマークの表示位置が頻繁に変化するような状況が発生し得る。そして、日本国特開2004−73488号公報に開示された構成によれば、前述のような状況が発生した際に、病変部の診断等の作業を行うユーザがマークの表示位置に細心の注意を払わなければならなくなる、という問題点が生じている。
すなわち、日本国特開2004−73488号公報に開示された構成によれば、内視鏡観察により病変部の診断等の作業を行うユーザに対して過度な負担を強いるおそれがある、という前述の問題点に応じた課題が生じている。
本発明は、前述した事情に鑑みてなされたものであり、内視鏡観察により病変部の診断等の作業を行うユーザの負担を軽減可能な内視鏡画像処理装置、内視鏡画像処理方法及びプログラムを提供することを目的としている。
本発明の一態様の内視鏡画像処理装置は、被検体内の被写体を内視鏡で撮像して得られた内視鏡画像において病変部を含むと推定される領域に相当する病変領域を検出するための処理を行うとともに、前記内視鏡画像に含まれる前記病変領域の位置を示す情報を含む病変情報を取得するための処理を行うように構成された病変検出部と、前記内視鏡画像に前記病変領域が含まれているか否かを判定するように構成された判定部と、前記病変情報と、前記判定部により得られた判定結果と、に基づき、前記病変検出部による前記病変領域の検出状態の概要を示す1つ以上のマークを生成するための処理を行うとともに、前記内視鏡画像を表示装置の表示画面上に設定される内視鏡画像表示領域に表示させつつ、前記表示画面上における前記内視鏡画像表示領域の外部の所定の位置に設定されるとともに、前記1つ以上のマークの最大表示数に応じた個数を有する領域として設定されるN個のマーク表示領域のうちの少なくとも1つに前記1つ以上のマークを表示させるための表示画像を生成するための処理を行うように構成された表示制御部と、を有する。
本発明の一態様の内視鏡画像処理方法は、病変検出部が、被検体内の被写体を内視鏡で撮像して得られた内視鏡画像において病変部を含むと推定される領域に相当する病変領域を検出するための処理を行うとともに、前記内視鏡画像に含まれる前記病変領域の位置を示す情報を含む病変情報を取得するための処理を行い、判定部が、前記内視鏡画像に前記病変領域が含まれているか否かを判定し、表示制御部が、前記病変情報と、前記判定部により得られた判定結果と、に基づき、前記病変検出部による前記病変領域の検出状態の概要を示す1つ以上のマークを生成するための処理を行い、前記表示制御部が、前記内視鏡画像を表示装置の表示画面上に設定される内視鏡画像表示領域に表示させつつ、前記表示画面上における前記内視鏡画像表示領域の外部の所定の位置に設定されるとともに、前記1つ以上のマークの最大表示数に応じた個数を有する領域として設定されるN個のマーク表示領域のうちの少なくとも1つに前記1つ以上のマークを表示させるための表示画像を生成するための処理を行う。
本発明の一態様のプログラムは、コンピュータに、被検体内の被写体を内視鏡で撮像して得られた内視鏡画像において病変部を含むと推定される領域に相当する病変領域を検出するための処理と、前記内視鏡画像に含まれる前記病変領域の位置を示す情報を含む病変情報を取得するための処理と、前記内視鏡画像に前記病変領域が含まれているか否かを判定する判定処理と、前記病変情報と、前記判定処理により得られた判定結果と、に基づき、前記病変領域の検出状態の概要を示す1つ以上のマークを生成するための処理と、前記内視鏡画像を表示装置の表示画面上に設定される内視鏡画像表示領域に表示させつつ、前記表示画面上における前記内視鏡画像表示領域の外部の所定の位置に設定されるとともに、前記1つ以上のマークの最大表示数に応じた個数を有する領域として設定されるN個のマーク表示領域のうちの少なくとも1つに前記1つ以上のマークを表示させるための表示画像を生成するための処理と、を実行させる。
実施形態に係る内視鏡画像処理装置を含む内視鏡システムの要部の構成を示す図。 第1の実施形態に係る内視鏡画像処理装置において行われる処理を説明するためのフローチャート。 表示装置の表示画面上に設定される内視鏡画像表示領域及びマーク表示領域の一例を示す図。 内視鏡画像に設定される参照領域の一例を示す図である。 第1の実施形態に係る内視鏡画像処理装置の処理に応じて表示される表示画像の一例を示す図。 第1の実施形態に係る内視鏡画像処理装置の処理に応じて表示される表示画像の一例を示す図。 第1の実施形態に係る内視鏡画像処理装置の処理に応じて表示される表示画像の一例を示す図。 第1の実施形態に係る内視鏡画像処理装置の処理に応じて表示される表示画像の一例を示す図。 第2の実施形態に係る内視鏡画像処理装置において行われる処理を説明するためのフローチャート。 第2の実施形態に係る内視鏡画像処理装置の処理に応じて表示される表示画像の一例を示す図。 第2の実施形態に係る内視鏡画像処理装置の処理に応じて表示される表示画像の一例を示す図。 第2の実施形態に係る内視鏡画像処理装置の処理に応じて表示される表示画像の一例を示す図。 第2の実施形態に係る内視鏡画像処理装置の処理に応じて表示される表示画像の一例を示す図。 第2の実施形態に係る内視鏡画像処理装置の処理に応じて表示される表示画像の一例を示す図。 第2の実施形態の変形例に係る内視鏡画像処理装置において行われる処理を説明するためのフローチャート。
以下、本発明の実施形態について、図面を参照しつつ説明を行う。
(第1の実施形態)
図1から図8は、第1の実施形態に係るものである。
内視鏡システム1は、図1に示すように、内視鏡11と、本体装置12と、内視鏡画像処理装置13と、表示装置14と、を有して構成されている。図1は、実施形態に係る内視鏡画像処理装置を含む内視鏡システムの要部の構成を示す図である。
内視鏡11は、例えば、被検体内に挿入可能な細長形状の挿入部(不図示)と、当該挿入部の基端部に設けられた操作部(不図示)と、を具備して構成されている。また、内視鏡11は、例えば、操作部から延びるユニバーサルケーブル(不図示)を介し、本体装置12に対して着脱自在に接続されるように構成されている。また、内視鏡11の内部には、例えば、本体装置12から供給される照明光を導光して挿入部の先端部から出射するための光ファイバ等の導光部材(不図示)が設けられている。また、内視鏡11の挿入部の先端部には、撮像部111が設けられている。
撮像部111は、例えば、CCDイメージセンサまたはCMOSイメージセンサのような撮像素子を具備して構成されている。また、撮像部111は、内視鏡11の挿入部の先端部を経て出射された照明光により照明された被写体からの戻り光を撮像し、当該撮像した戻り光に応じた撮像信号を生成して本体装置12へ出力するように構成されている。
本体装置12は、内視鏡11及び内視鏡画像処理装置13のそれぞれに対して着脱自在に接続されるように構成されている。また、本体装置12は、例えば、図1に示すように、光源部121と、画像生成部122と、制御部123と、記憶媒体124と、を有して構成されている。
光源部121は、例えば、LED等のような1つ以上の発光素子を具備して構成されている。具体的には、光源部121は、例えば、青色光(以降、B光とも称する)を発生する青色LEDと、緑色光(以降、G光とも称する)を発生する緑色LEDと、赤色光(以降、R光とも称する)を発生する赤色LEDと、を有して構成されている。また、光源部121は、制御部123の制御に応じた照明光を発生して内視鏡11に供給することができるように構成されている。
画像生成部122は、内視鏡11から出力される撮像信号に基づいて内視鏡画像を生成し、当該生成した内視鏡画像を内視鏡画像処理装置13へ1フレームずつ順次出力することができるように構成されている。
本実施形態においては、本体装置12の画像生成部122及び制御部123が、個々の電子回路として構成されていてもよく、または、FPGA(Field Programmable Gate Array)等の集積回路における回路ブロックとして構成されていてもよい。また、本実施形態においては、例えば、本体装置12が1つ以上のプロセッサ(CPU等)を具備して構成されていてもよい。また、本実施形態に係る構成を適宜変形することにより、例えば、本体装置12が、画像生成部122及び制御部123の機能を実行させるためのプログラムをメモリ等の記憶媒体124から読み込むとともに、当該読み込んだプログラムに応じた動作を行うようにしてもよい。
内視鏡画像処理装置13は、本体装置12及び表示装置14のそれぞれに対して着脱自在に接続されるように構成されている。また、内視鏡画像処理装置13は、本体装置12から出力される内視鏡画像に基づく処理を行うことにより、当該内視鏡画像における病変領域の検出状態の概要を示す1つ以上のマークを生成するように構成されている。また、内視鏡画像処理装置13は、本体装置12から出力される内視鏡画像と、前述のように生成した1つ以上のマークと、を含む表示画像を生成して表示装置14へ出力することができるように構成されている。また、内視鏡画像処理装置13は、病変検出部131と、判定部132と、表示制御部133と、記憶媒体134と、を有して構成されている。
病変検出部131は、本体装置12から順次出力される内視鏡画像において病変部を含むと推定される領域に相当する病変領域Lを検出するための処理を行うとともに、当該検出した病変領域Lを示す情報に相当する病変情報ILを取得するための処理を行うように構成されている。
なお、本実施形態においては、病変領域Lが、例えば、ポリープを含む領域として検出されるものとする。また、本実施形態においては、病変情報ILが、例えば、本体装置12から出力される内視鏡画像に含まれる病変領域Lの位置(画素位置)を示す情報と、当該内視鏡画像に含まれる当該病変領域Lのサイズ(画素数)を示す情報と、を含む情報として取得されるものとする。
判定部132は、病変検出部131における病変情報ILの取得状態に応じ、本体装置12から出力される内視鏡画像に病変領域Lが含まれているか否かを判定するように構成されている。
具体的には、判定部132は、例えば、病変検出部131において病変情報ILが取得されたことを検出した場合に、本体装置12から出力される内視鏡画像に病変領域Lが含まれているとの判定結果を取得する。また、判定部132は、例えば、病変検出部131において病変情報ILが取得されなかったことを検出した場合に、本体装置12から順次出力される内視鏡画像に病変領域Lが含まれていないとの判定結果を取得する。
判定部132は、病変検出部131により得られた病変情報ILを順次格納するためのメモリ(不図示)を有して構成されている。また、判定部132は、病変検出部131により得られた病変情報ILに基づき、当該病変情報ILに対応する病変領域Lの検出が途絶したか否かを判定するための処理を行うように構成されている。
具体的には、判定部132は、例えば、注目領域検出部131により得られた第1の病変情報と、当該第1の病変情報よりも1フレーム前にメモリに格納された第2の病変情報と、に基づき、当該第1の病変情報により示される第1の病変領域と、当該第2の病変情報により示される第2の病変領域と、が同一の病変領域Lであるか否かを検出する。そして、判定部132は、前述の第1及び第2の病変領域が同一の病変領域Lであることを検出できた場合に、病変領域Lの検出が途絶していないとの判定結果を取得する。また、判定部132は、前述の第1及び第2の病変領域が同一の病変領域Lであることを検出できなかった場合に、病変領域Lの検出が途絶したとの判定結果を取得する。
表示制御部133は、表示装置14の表示画面上に内視鏡画像表示領域を設定するとともに、当該表示画面上における当該内視鏡画像表示領域の外部の所定の位置に、後述のマークの最大表示数に対応するN個のマーク表示領域を設定するための処理を行うように構成されている。すなわち、N個のマーク表示領域は、表示装置14の表示画面上における内視鏡画像表示領域の外部の所定の位置に設定されるとともに、後述のマークの最大表示数に応じた個数を有する領域として設定される。なお、本実施形態よれば、後述のマークの最大表示数に対応する値である限りにおいては、前述のNの値を任意の値に設定してもよい。
表示制御部133は、病変検出部131により得られた病変情報ILと、判定部132により得られた判定結果と、に基づき、当該病変情報ILに対応する病変領域Lの検出状態の概要を示す1つ以上のマークを生成するための処理を行うように構成されている。
表示制御部133は、本体装置12から出力される内視鏡画像を内視鏡画像表示領域に表示させつつ、前述のように生成した1つ以上のマークをN個のマーク表示領域のうちの少なくとも1つに表示させるための表示画像を生成して出力するための処理を行うように構成されている。すなわち、表示制御部133は、本体装置12から出力される内視鏡画像と、前述のように生成した1つ以上のマークと、を含む表示画像を生成して表示装置14へ出力することができるように構成されている。
本実施形態においては、内視鏡画像処理装置13の病変検出部131、判定部132及び表示制御部133が、個々の電子回路として構成されていてもよく、または、FPGA(Field Programmable Gate Array)等の集積回路における回路ブロックとして構成されていてもよい。また、本実施形態においては、例えば、内視鏡画像処理装置13が1つ以上のプロセッサ(CPU等)を具備して構成されていてもよい。また、本実施形態に係る構成を適宜変形することにより、例えば、内視鏡画像処理装置13が、病変検出部131、判定部132及び表示制御部133の機能を実行させるためのプログラムをメモリ等の記憶媒体134から読み込むとともに、当該読み込んだプログラムに応じた動作を行うようにしてもよい。
表示装置14は、内視鏡画像処理装置13に対して着脱自在に接続されるように構成されている。また、表示装置14は、モニタ等を具備し、内視鏡画像処理装置13から出力される表示画像を表示することができるように構成されている。
続いて、本実施形態の作用について説明する。
術者等のユーザは、内視鏡システム1の各部を接続して電源を投入した後、被検者の内部へ内視鏡11の挿入部を挿入するとともに、当該被検者の内部における所望の被写体を撮像可能な位置に当該挿入部の先端部を配置する。
制御部123は、本体装置12の電源が投入された際に、B光、G光及びR光を照明光として順次または同時に発生させるための制御を光源部121に対して行う。そして、このような制御部123の制御に応じ、光源部121から内視鏡11へ照明光が供給され、当該照明光により照明された被写体からの戻り光が撮像部111において撮像され、撮像部111から本体装置12へ出力される撮像信号に応じた内視鏡画像EGが画像生成部122において生成され、当該生成された内視鏡画像EGが内視鏡画像処理装置13へ1フレームずつ順次出力される。
ここで、本実施形態の内視鏡画像処理装置13の各部において行われる処理の具体例について、図2等を参照しつつ説明する。図2は、第1の実施形態に係る内視鏡画像処理装置において行われる処理を説明するためのフローチャートである。
病変検出部131は、内視鏡画像EGにおいて病変部を含むと推定される領域に相当する病変領域Lを検出するための処理を行うとともに、当該検出した病変領域Lを示す情報に相当する病変情報ILを取得するための処理を行う。
表示制御部133は、表示装置14の表示画面上に内視鏡画像表示領域を設定するとともに、当該表示画面上における当該内視鏡画像表示領域の外部の所定の位置にN個のマーク表示領域を設定するための処理を行う。
具体的には、表示制御部133は、例えば、図3に示すような、1つの内視鏡画像表示領域AGと、4つのマーク表示領域AM1、AM2、AM3及びAM4と、を表示装置14の表示画面上にそれぞれ設定する。図3は、表示装置の表示画面上に設定される内視鏡画像表示領域及びマーク表示領域の一例を示す図である。
内視鏡画像表示領域AGは、例えば、内視鏡画像EGのサイズと同一のサイズまたは内視鏡画像EGのサイズよりも大きなサイズを有する八角形の領域として設定される(図3参照)。また、マーク表示領域AM1〜AM4は、例えば、表示装置14の表示画面上における内視鏡画像表示領域AGの外部に位置し、かつ、当該内視鏡画像表示領域AGの中心から見て左上側、左下側、右上側及び右下側の4方向に位置する4つの三角形の領域として設定される(図3参照)。すなわち、マーク表示領域AM1〜AM4は、内視鏡画像表示領域AGの外部の所定の位置に設定されるとともに、後述の各表示例におけるマークの最大表示数に対応する4つの領域として設定される。なお、図3の表示画面内の破線は、内視鏡画像表示領域AG及びマーク表示領域AM1〜AM4の位置関係等を説明するために描画されたものであるため、表示装置14には実際には表示されないものとする。
表示制御部133は、内視鏡画像EGに所定の複数の参照領域を設定するための処理を行う。
具体的には、表示制御部133は、例えば、図4に示すような、八角形の内視鏡画像EGを左上部、左下部、右上部及び右下部の各部に分割した領域に相当する4つの参照領域AR1、AR2、AR3及びAR4を設定する。なお、図4においては、図示及び説明の便宜上、内視鏡画像EGに含まれる病変領域L等の被写体の描画を省略している。図4は、内視鏡画像に設定される参照領域の一例を示す図である。
本実施形態によれば、表示制御部133が、内視鏡画像EGに所定の複数の参照領域を設定する限りにおいては、図4に例示した参照領域AR1〜AR4とは異なる数及び/または形状を有する参照領域を設定するようにしてもよい。
判定部132は、病変検出部131における病変情報ILの取得状態に応じ、内視鏡画像EGに病変領域Lが含まれているか否かを判定する(図2のステップS1)。
表示制御部133は、内視鏡画像EGに病変領域Lが含まれていないとの判定結果が判定部132により得られた場合(S1:NO)に、当該内視鏡画像EGを内視鏡画像表示領域に表示させるための表示画像を生成して表示装置14へ出力した(図2のステップS4)後、一連の処理を終了させる。すなわち、本実施形態においては、内視鏡画像EGに病変領域Lが含まれていない場合には、当該病変領域Lの検出状態の概要を示すマークがマーク表示領域に表示されない。
表示制御部133は、内視鏡画像EGに病変領域Lが含まれているとの判定結果が判定部132により得られた場合(S1:YES)に、病変検出部131により得られた病変情報ILと、当該内視鏡画像EGに設定した所定の複数の参照領域と、に基づき、当該病変情報ILに対応する病変領域Lの検出状態の概要を示すマークを生成するための処理を行う(図2のステップS2)。
表示制御部133は、内視鏡画像EGを内視鏡画像表示領域に表示させつつ、図2のステップS2により生成したマークをマーク表示領域に表示させるための表示画像を生成して表示装置14へ出力した(図2のステップS3)後、一連の処理を終了させる。
ここで、図2のステップS2及びステップS3の処理によれば、例えば、図5〜図8のいずれかに示すような表示画像が表示装置14に表示される。図5〜図8は、第1の実施形態に係る内視鏡画像処理装置の処理に応じて表示される表示画像の一例を示す図である。
図5の表示画像DGAの内視鏡画像表示領域AGには、当該内視鏡画像表示領域AGと同一の形状及びサイズを有する内視鏡画像EGAが表示されている。また、図5の内視鏡画像EGAによれば、当該内視鏡画像EGAの左下部に設定された参照領域AR2(図4参照)に病変領域LAが含まれている。そのため、図5の表示画像DGAによれば、内視鏡画像EGAの参照領域AR2において病変領域LAが検出されたことを示すマークMAがマーク表示領域AM2に表示されている。なお、図5の表示画面内の破線は、病変領域LA及びマーク表示領域AM1〜AM4の位置関係等を説明するために描画されたものであるため、表示装置14には実際には表示されないものとする。
図5の表示例によれば、図2のステップS2の処理として、病変領域LAの現在の位置が参照領域AR2に含まれていることを特定するための処理が表示制御部133により行われる。また、図5の表示例によれば、図2のステップS2の処理として、内視鏡画像EGAの参照領域AR2において病変領域LAが検出されたことを示すマークMAを生成するための処理が表示制御部133により行われる。また、図5の表示例によれば、図2のステップS3の処理として、内視鏡画像EGA及びマークMAを含む表示画像DGAを生成して表示装置14に表示させるための処理が表示制御部133により行われる。
すなわち、図5の表示例によれば、病変情報ILに基づいて所定の複数の参照領域のうちの病変領域LAの現在の位置を含む一の参照領域AR2を特定する処理と、当該一の参照領域AR2を示す一のマークMAを生成する処理と、N個のマーク表示領域のうちの当該一の参照領域AR2に最も近い位置に設定された一のマーク表示領域AM2に当該一のマークMAを表示させる処理と、が表示制御部133により行われる。
なお、本実施形態によれば、病変領域LAが検出された参照領域AR2に対応するマーク表示領域AM2にマークを表示させるための処理が行われる代わりに、例えば、当該病変領域LAが検出されなかった参照領域AR1、AR3及びAR4に対応するマーク表示領域AM1、AM3及びAM4にマークを表示させるための処理が行われるようにしてもよい。
また、本実施形態によれば、例えば、病変領域LAが参照領域AR1〜AR4における複数の参照領域に含まれるようなサイズを有している場合に、当該複数の参照領域に対応する各マーク表示領域にマークを表示させるための処理が行われるようにしてもよい。具体的には、例えば、病変領域LAが参照領域AR1及びAR2に含まれる場合に、当該参照領域AR1及びAR2に対応するマーク表示領域AM1及びAM2にマークを表示させるための処理が表示制御部133により行われるようにしてもよい。
また、本実施形態によれば、例えば、病変領域LAが参照領域AR1〜AR4における複数の参照領域に含まれるようなサイズを有している場合に、当該複数の参照領域のうちの当該病変領域Lを含む面積が最も大きな一の参照領域に対応する一のマーク表示領域にマークを表示させるための処理が行われるようにしてもよい。
図6の表示画像DGBの内視鏡画像表示領域AGには、当該内視鏡画像表示領域AGと同一の形状及びサイズを有する内視鏡画像EGBが表示されている。また、図6の内視鏡画像EGBによれば、当該内視鏡画像EGBの左上部に設定された参照領域AR1(図4参照)に病変領域LBが含まれている。そのため、図6の表示画像DGBによれば、内視鏡画像EGBにおいて病変領域LBが検出されたことを示す4つのマークMB1、MB2、MB3及びMB4がマーク表示領域AM1〜AM4に表示されている。また、図6の表示画像DGBによれば、内視鏡画像EGBの参照領域AR1において病変領域LBが検出されたことを示すような形状を有するマークMB1が表示されている。換言すると、図6の表示画像DGBによれば、内視鏡画像EGBにおける病変領域LBが検出された領域に相当する参照領域AR1を指し示すような三角形のマークMB1が表示されている。また、図6の表示画像DGBによれば、内視鏡画像EGBの参照領域AR2、AR3及びAR4において病変領域LBが検出されなかったことを示すような形状を有するマークMB2、MB3及びMB4が表示されている。なお、図6の表示画面内の破線は、病変領域LB及びマーク表示領域AM1〜AM4の位置関係等を説明するために描画されたものであるため、表示装置14には実際には表示されないものとする。
図6の表示例によれば、図2のステップS2の処理として、内視鏡画像EGBにおいて病変領域LBが検出されたことを示すマークMB1、MB2、MB3及びMB4をそれぞれ生成するための処理が表示制御部133により行われる。また、図6の表示例によれば、図2のステップS2の処理として、病変領域LBの現在の位置が参照領域AR1に含まれていることを特定するための処理が表示制御部133により行われる。また、図6の表示例によれば、図2のステップS2の処理として、内視鏡画像EGBにおける病変領域LBが検出された領域に相当する参照領域AR1を指し示すような三角形のマークMB1を生成するための処理が表示制御部133により行われる。また、図6の表示例によれば、図2のステップS2の処理として、内視鏡画像EGBにおける参照領域AR1が存在する方向とは異なる方向を指し示すような三角形のマークMB2、MB3及びMB4を生成するための処理が表示制御部133により行われる。また、図6の表示例によれば、図2のステップS3の処理として、内視鏡画像EGB及びマークMB1〜MB4を含む表示画像DGBを生成して表示装置14に表示させるための処理が表示制御部133により行われる。
すなわち、図6の表示例によれば、N個のマーク表示領域各々にマークを1つずつ表示させる処理と、病変情報ILに基づいて所定の複数の参照領域のうちの病変領域LBの現在の位置を含む一の参照領域AR1を特定する処理と、当該N個のマーク表示領域のうちの当該一の参照領域AR1に最も近い位置に設定された一のマーク表示領域AM1に表示されている一のマークMB1の形状を当該一の参照領域AR1を指し示すような形状に設定する処理と、が表示制御部133により行われる。
図7の表示画像DGCの内視鏡画像表示領域AGには、当該内視鏡画像表示領域AGと同一の形状及びサイズを有する内視鏡画像EGCが表示されている。また、図7の内視鏡画像EGCによれば、当該内視鏡画像EGCの左下部に設定された参照領域AR2(図4参照)に病変領域LCが含まれている。そのため、図7の表示画像DGCによれば、内視鏡画像EGCにおいて病変領域LCが検出されたことを示す4つのマークMC1、MC2、MC3及びMC4がマーク表示領域AM1〜AM4に表示されている。また、図7の表示画像DGCによれば、内視鏡画像EGCの参照領域AR2において病変領域LCが検出されたことを示すような輝度を有するマークMC2が表示されている。また、図7の表示画像DGCによれば、内視鏡画像EGCの参照領域AR1、AR3及びAR4において病変領域LCが検出されなかったことを示すような輝度を有するマークMC1、MC3及びMC4が表示されている。なお、図7の表示画面内の破線は、病変領域LC及びマーク表示領域AM1〜AM4の位置関係等を説明するために描画されたものであるため、表示装置14には実際には表示されないものとする。
図7の表示例によれば、図2のステップS2の処理として、内視鏡画像EGCにおいて病変領域LCが検出されたことを示すマークMC1、MC2、MC3及びMC4をそれぞれ生成するための処理が表示制御部133により行われる。また、図7の表示例によれば、図2のステップS2の処理として、病変領域LCの現在の位置が参照領域AR2に含まれていることを特定するための処理が表示制御部133により行われる。また、図7の表示例によれば、図2のステップS2の処理として、輝度BHAを有するマークMC2を生成するための処理が表示制御部133により行われる。また、図7の表示例によれば、図2のステップS2の処理として、輝度BHAよりも低い輝度BLAを有するマークMC1、MC3及びMC4を生成するための処理が表示制御部133により行われる。換言すると、図7の表示例によれば、図2のステップS2の処理として、マークMC2の輝度をマークMC1、MC3及びMC4の輝度よりも高い輝度に設定するための処理が表示制御部133により行われる。また、図7の表示例によれば、図2のステップS3の処理として、内視鏡画像EGC及びマークMC1〜MC4を含む表示画像DGCを生成して表示装置14に表示させるための処理が表示制御部133により行われる。
すなわち、図7の表示例によれば、N個のマーク表示領域各々にマークを1つずつ表示させる処理と、病変情報ILに基づいて所定の複数の参照領域のうちの病変領域Lの現在の位置を含む一の参照領域AR2を特定する処理と、当該N個のマーク表示領域のうちの当該一の参照領域AR2に最も近い位置に設定された一のマーク表示領域AM2に表示されている一のマークMC2の輝度を当該一のマークMC2以外の(N−1)個のマークの輝度とは異なる輝度に設定する処理と、が表示制御部133により行われる。
図8の表示画像DGDの内視鏡画像表示領域AGには、当該内視鏡画像表示領域AGと同一の形状及びサイズを有する内視鏡画像EGDが表示されている。また、図8の内視鏡画像EGDによれば、当該内視鏡画像EGDの左上部に設定された参照領域AR1(図4参照)に病変領域LDが含まれている。そのため、図8の表示画像DGDによれば、内視鏡画像EGDにおいて病変領域LDが検出されたことを示す4つのマークMD1、MD2、MD3及びMD4がマーク表示領域AM1〜AM4に表示されている。また、図8の表示画像DGDによれば、内視鏡画像EGDの参照領域AR1において病変領域LDが検出されたことを示すような形状を有するMD1〜MD4が表示されている。換言すると、図8の表示画像DGDによれば、内視鏡画像EGDにおける病変領域LDが検出された領域に相当する参照領域AR1を指し示すような三角形のマークMD1〜MD4が表示されている。なお、図8の表示画面内の破線は、病変領域LD及びマーク表示領域AM1〜AM4の位置関係等を説明するために描画されたものであるため、表示装置14には実際には表示されないものとする。
図8の表示例によれば、図2のステップS2の処理として、内視鏡画像EGDにおいて病変領域LDが検出されたことを示すマークMD1、MD2、MD3及びMD4をそれぞれ生成するための処理が表示制御部133により行われる。また、図8の表示例によれば、図2のステップS2の処理として、病変領域LDの現在の位置が参照領域AR1に含まれていることを特定するための処理が表示制御部133により行われる。また、図8の表示例によれば、図2のステップS2の処理として、内視鏡画像EGDにおける病変領域LDを含む参照領域AR1が存在する方向(内視鏡画像EGDの左上側に相当する方向)を指し示すような三角形のマークMD1〜MD4を生成するための処理が表示制御部133により行われる。また、図8の表示例によれば、図2のステップS3の処理として、内視鏡画像EGD及びマークMD1〜MD4を含む表示画像DGDを生成して表示装置14に表示させるための処理が表示制御部133により行われる。
すなわち、図8の表示例によれば、N個のマーク表示領域各々にマークを1つずつ表示させる処理と、病変情報ILに基づいて所定の複数の参照領域のうちの病変領域Lの現在の位置を含む一の参照領域AR1を特定する処理と、当該N個のマーク表示領域に表示されているN個のマークの形状を内視鏡画像EGにおける当該一の参照領域AR1が存在する方向を指し示すような形状に設定する処理と、が表示制御部133により行われる。
本実施形態に係る各表示例によれば、病変検出部131による病変領域Lの検出状態の概要として、内視鏡画像EGにおいて病変領域Lが検出されたか否かを示すとともに、当該病変領域Lの現在の位置が当該内視鏡画像EGに設定された所定の複数の参照領域のうちのどの参照領域に含まれているかを示すような1つ以上のマークを生成してN個のマーク表示領域のうちの少なくとも1つに表示させるための処理が表示制御部133により行われる。また、本実施形態に係る各表示例によれば、内視鏡画像EGに病変領域Lが含まれているとの判定結果が判定部132により得られた場合に、病変情報ILに基づき、病変検出部131による病変領域Lの検出状態の概要を示す1つ以上かつ4つ以下のM個のマークを生成するための処理と、4つのマーク表示領域AM1〜AM4のうちのM個のマーク表示領域に当該M個のマークを1つずつ表示させるための処理と、が表示制御部133により行われる。
以上に述べたように、本実施形態によれば、例えば、病変領域Lの位置が内視鏡画像EGの内部で頻繁に変化するような状況が発生した場合であっても、当該病変領域Lが現在検出されている箇所に応じた表示態様を有する1つ以上のマークを、表示装置14の表示画面上における内視鏡画像表示領域AGの外部の所定の位置に設定されたマーク表示領域に表示させることができる。そのため、本実施形態によれば、例えば、ユーザが、表示装置14の表示画面上における所定の位置に設定された1つ以上のマーク表示領域に表示されるマークを見ることにより、病変領域Lの検出状態を容易に把握することができる。従って、本実施形態によれば、内視鏡観察により病変部の診断等の作業を行うユーザの負担を軽減することができる。
また、以上に述べたように、本実施形態によれば、ユーザが1つ以上のマーク表示領域に表示されるマークを見た際に得られる情報を、内視鏡画像EGにおける病変領域Lの検出状態の概要を示す情報に制限するような処理が行われる。そのため、本実施形態によれば、例えば、内視鏡画像EGに含まれる病変領域Lの診断を行うユーザに対して無用な先入観を与えてしまうことを極力防ぐことができる。
なお、本実施形態によれば、例えば、日本国特開2013−255656号公報に開示された撮像距離の推定に係る手法を応用することにより、内視鏡11の挿入部の先端部から病変部の表面までの推定距離ELを(内視鏡画像EGの赤色成分等に基づいて)検出するための処理が病変検出部131により行われるとともに、当該推定距離ELに基づいて生成したマークをマーク表示領域に表示させるための処理が表示制御部133により行われるようにしてもよい。そして、このような処理によれば、例えば、推定距離ELが近い場合に相対的に大きなサイズを有するマークをマーク表示領域に表示させる一方で、当該推定距離ELが遠い場合に相対的に小さなサイズを有するマークを当該マーク表示領域に表示させることができる。また、前述のような処理によれば、例えば、推定距離ELが近い場合に相対的に高い輝度を有するマークをマーク表示領域に表示させる一方で、当該推定距離ELが遠い場合に相対的に低い輝度を有するマークを当該マーク表示領域に表示させることができる。すなわち、前述のような処理によれば、内視鏡11の挿入部の先端部と病変領域Lに含まれる病変部とがどれだけ離れているかを当該病変領域Lの検出状態の概要としてさらに示すような1つ以上のマークを推定距離ELに基づいて生成するための処理が表示制御部133により行われる。
また、本実施形態の表示制御部133は、図5〜図8の表示例各々に対応するマークの表示方法に係る処理を複数組み合わせて行うように構成されていてもよい。
また、本実施形態によれば、表示装置14の表示画面上における内視鏡画像表示領域AGの外部の所定の位置に設定され、かつ、当該内視鏡画像表示領域AGに表示される内視鏡画像EGにおける病変領域Lの検出状態の概要をユーザに視認させることが可能な位置に設定される限りにおいては、当該表示画面上のマーク表示領域を図3に示した位置とは異なる位置に設定してもよい。
また、本実施形態によれば、表示装置14の表示画面上における内視鏡画像表示領域AGの外部の所定の位置に設定され、かつ、当該内視鏡画像表示領域AGに表示される内視鏡画像EGにおける病変領域Lの検出状態の概要を示すマークの最大表示数に対応する個数を有する領域として設定される限りにおいては、当該表示画面に含まれるマーク表示領域の個数を任意の個数に設定してもよい。
また、本実施形態によれば、内視鏡画像表示領域AGに表示される内視鏡画像EGにおける病変領域Lの検出状態の概要をユーザに視認させることが可能な形状を有している限りにおいては、マーク表示領域に表示されるマークの形状を任意の形状に変形してもよい。
また、本実施形態によれば、内視鏡画像EGにおける病変領域Lの検出状態の概要をユーザに視認させることが可能な色を有するマークを生成するための処理が行われるとともに、当該内視鏡画像EG及び当該マークを含む表示画像を表示装置14に表示させるための処理が行われるようにしてもよい。そして、このような構成によれば、例えば、内視鏡画像EGに病変領域Lが含まれているとの判定結果が判定部132により得られた場合に、N個のマーク表示領域各々に所定の色を有するマークを1つずつ表示させるための処理と、病変情報ILに基づいて所定の複数の参照領域のうちの当該病変領域Lの現在の位置を含む一の参照領域を特定する処理と、当該N個のマーク表示領域のうちの当該一の参照領域に最も近い位置に設定された一のマーク表示領域に表示されている一のマークの色を当該所定の色とは異なる色に変化させる処理と、が表示制御部133により行われる。
(第2の実施形態)
図9から図15は、第2の実施形態に係るものである。
なお、本実施形態においては、第1の実施形態と同様の構成を有する内視鏡システム1を利用することができる一方で、第1の実施形態とは異なる処理が内視鏡画像処理装置13において行われる。そのため、以降においては、図9等を参照しつつ内視鏡画像処理装置13の各部において行われる処理の具体例を説明する一方で、第1の実施形態で既述の処理等を適用可能な部分に関する具体的な説明を適宜省略するものとする。具体的には、以降においては、図3に例示したような内視鏡画像表示領域AG及びマーク表示領域AM1〜AM4が表示装置14の表示画面上に設定されるとともに、図4に例示したような参照領域AR1〜AR4が内視鏡画像EGに設定された状態で処理が行われるものとして説明を行う。図9は、第2の実施形態に係る内視鏡画像処理装置において行われる処理の具体例を説明するためのフローチャートである。
病変検出部131は、内視鏡画像EGにおいて病変部を含むと推定される領域に相当する病変領域Lを検出するための処理を行うとともに、当該検出した病変領域Lを示す情報に相当する病変情報ILを取得するための処理を行う。
判定部132は、病変検出部131における病変情報ILの取得状態に応じ、内視鏡画像EGに病変領域Lが含まれているか否かを判定する(図9のステップS11)。
表示制御部133は、内視鏡画像EGに病変領域Lが含まれていないとの判定結果が判定部132により得られた場合(S11:NO)に、当該内視鏡画像EGを内視鏡画像表示領域に表示させるための表示画像を生成して表示装置14へ出力した(図9のステップS16)後、一連の処理を終了させる。
表示制御部133は、内視鏡画像EGに病変領域Lが含まれているとの判定結果が判定部132により得られた場合(S11:YES)に、当該内視鏡画像EGにおいて当該病変領域Lが検出されたことを示すマークを生成するための処理を行う(図9のステップS12)。
表示制御部133は、内視鏡画像EGを内視鏡画像表示領域に表示させつつ、図9のステップS12により生成したマークをマーク表示領域に表示させるための表示画像を生成して表示装置14へ出力する(図9のステップS13)。
ここで、図9のステップS12及びステップS13の処理によれば、例えば、図10に示すような表示画像DGEが表示装置14に表示される。図10は、第2の実施形態に係る内視鏡画像処理装置の処理に応じて表示される表示画像の一例を示す図である。
図10の表示画像DGEの内視鏡画像表示領域AGには、当該内視鏡画像表示領域AGと同一の形状及びサイズを有する内視鏡画像EGEが表示されている。また、図6の内視鏡画像EGEによれば、当該内視鏡画像EGEの左下側に設定された参照領域AR2(図4参照)に病変領域LEが含まれている。そのため、図10の表示画像DGEによれば、内視鏡画像EGEにおいて病変領域LEが検出されたことを示す4つのマークME1、ME2、ME3及びME4がマーク表示領域AM1〜AM4に表示されている。なお、図10の表示画面内の破線は、病変領域LE及びマーク表示領域AM1〜AM4の位置関係等を説明するために描画されたものであるため、表示装置14には実際には表示されないものとする。
図10の表示例によれば、図9のステップS12の処理として、内視鏡画像EGEにおいて病変領域LEが検出されたことを示すマークME1、ME2、ME3及びME4をそれぞれ生成するための処理が表示制御部133により行われる。また、図10の表示例によれば、図9のステップS13の処理として、内視鏡画像EGE及びマークME1〜ME4を含む表示画像DGEを生成して表示装置14に表示させるための処理が表示制御部133により行われる。
判定部132は、図9のステップS11の処理以降に病変検出部131により得られた病変情報ILをメモリに順次格納する。また、判定部132は、メモリに格納された病変情報ILに基づき、当該病変情報ILに対応する病変領域Lの検出が途絶したか否かを判定するための処理を行う(図9のステップS14)。
表示制御部133は、病変領域Lの検出が途絶していないとの判定結果が判定部132により得られた場合(S14:NO)に、図9のステップS13に戻って処理を行う。すなわち、本実施形態によれば、病変検出部131による病変領域Lの検出が継続している期間中において、図10に例示したような、図9のステップS13により生成されたマークを含む表示画像が表示装置14に表示され続ける。
表示制御部133は、病変領域Lの検出が途絶したとの判定結果が判定部132により得られた場合(S14:YES)に、当該判定結果を得る直前の病変情報ILから特定される当該病変領域Lの位置、すなわち、当該病変領域Lの検出が途絶する直前に当該病変領域Lが存在していた位置が内視鏡画像EGに設定した所定の複数の参照領域のうちのどの参照領域に含まれているかに応じ、表示装置14に現在表示されている少なくとも1つのマークの表示態様を変更するための処理を行った(図9のステップS15)後、一連の処理を終了させる。なお、本実施形態においては、図9のステップS15の処理によりマークの表示態様が変更された場合に、変更後の表示態様が一定期間維持されるものとする。
ここで、例えば、図10の内視鏡画像EGEに含まれる病変部が当該内視鏡画像EGEの外部へ変位したことに起因して病変領域LEの検出が途絶した直後に図9のステップS15の処理が行われた場合には、図11〜図13のいずれかに示すような表示画像が表示装置14に表示される。図11〜図13は、第2の実施形態に係る内視鏡画像処理装置の処理に応じて表示される表示画像の一例を示す図である。
図11の表示画像DGFの内視鏡画像表示領域AGには、当該内視鏡画像表示領域AGと同一の形状及びサイズを有するとともに、図10の内視鏡画像EGEにおける病変領域LEに含まれていた病変部がフレームアウトした画像に相当する内視鏡画像EGFが表示されている。また、図11の表示画像DGFによれば、内視鏡画像EGFにおける参照領域AR2に対応するマーク表示領域AM2にはマークが表示されていない。また、図11の表示画像DGFによれば、図10と同様のマークME1、ME3及びME4が、内視鏡画像EGFにおける参照領域AR2以外の3つの参照領域に対応するマーク表示領域AM1、AM3及びAM4に表示されている。
図11の表示例によれば、図9のステップS15の処理として、病変領域LEの検出が途絶したとの判定結果を得る直前における当該病変領域LEの位置が参照領域AR2に含まれていることを特定するための処理が表示制御部133により行われる。また、図11の表示例によれば、図9のステップS15の処理として、病変領域LEに含まれる病変部が内視鏡画像EGEの外部へ変位する直前に存在していた参照領域AR2に対応するマークME2をマーク表示領域AM2から消去するための処理が表示制御部133により行われる。
すなわち、図11の表示例によれば、内視鏡画像EGに病変領域Lが含まれているとの判定結果が判定部132により得られた場合に、N個のマーク表示領域各々にマークを1つずつ表示させるための処理が表示制御部133により行われる。また、図11の表示例によれば、病変領域LEの検出が途絶したとの判定結果が判定部132により得られた場合に、病変情報ILに基づいて所定の複数の参照領域のうちの当該病変領域LEの検出が途絶する直前に当該病変領域LEが存在していた位置を含む一の参照領域AR2を特定する処理と、N個のマーク表示領域のうちの当該一の参照領域AR2に最も近い位置に設定された一のマーク表示領域AM2に表示されている一のマークME2を消去する処理と、が表示制御部133により行われる。
なお、本実施形態によれば、図9のステップS15の処理として、参照領域AR2に対応するマークME2をマーク表示領域AM2から消去するための処理が行われる代わりに、例えば、参照領域AR1、AR3及びAR4に対応するマーク表示領域AM1、AM3及びAM4からマークを消去するための処理が表示制御部133により行われるようにしてもよい。
図12の表示画像DGGの内視鏡画像表示領域AGには、当該内視鏡画像表示領域AGと同一の形状及びサイズを有するとともに、図10の内視鏡画像EGEにおける病変領域LEに含まれていた病変部がフレームアウトした画像に相当する内視鏡画像EGGが表示されている。また、図12の表示画像DGGによれば、図10のマークME2とは異なる形状を有するマークMG2が、内視鏡画像EGGにおける参照領域AR2に対応するマーク表示領域AM2に表示されている。また、図12の表示画像DGGによれば、図10と同様の形状を有するマークME1、ME3及びME4が、内視鏡画像EGGにおける参照領域AR2以外の3つの参照領域に対応するマーク表示領域AM1、AM3及びAM4に表示されている。
図12の表示例によれば、図9のステップS15の処理として、病変領域LEの検出が途絶したとの判定結果を得る直前における当該病変領域LEの位置が参照領域AR2に含まれていることを特定するための処理が表示制御部133により行われる。また、図12の表示例によれば、図9のステップS15の処理として、病変領域LEに含まれる病変部が内視鏡画像EGEの外部へ変位する直前に存在していた参照領域AR2に対応するマークME2の形状を変化させることにより、当該参照領域AR2を指し示すような三角形のマークMG2を生成するための処理が表示制御部133により行われる。
すなわち、図12の表示例によれば、内視鏡画像EGに病変領域Lが含まれているとの判定結果が判定部132により得られた場合に、N個のマーク表示領域各々にマークを1つずつ表示させるための処理が表示制御部133により行われる。また、図12の表示例によれば、病変領域LEの検出が途絶したとの判定結果が判定部132により得られた場合に、病変情報ILに基づいて所定の複数の参照領域のうちの当該病変領域LEの検出が途絶する直前に当該病変領域LEが存在していた位置を含む一の参照領域AR2を特定する処理と、N個のマーク表示領域のうちの当該一の参照領域AR2に最も近い位置に設定された一のマーク表示領域AM2に表示されている一のマークME2の形状を当該一の参照領域AR2を指し示すような形状に設定する処理と、が表示制御部133により行われる。
なお、本実施形態によれば、図9のステップS15の処理として、例えば、参照領域AR1、AR3及びAR4に対応するマークME1、ME3及びME4の形状を変化させることにより、参照領域AR2を指し示すようなマークを生成するための処理が表示制御部133により行われるようにしてもよい。そして、このような処理によれば、例えば、マークME1、ME3及びME4が、マークME2と同じ形状を有する三角形として表示装置14に表示される。
図13の表示画像DGHの内視鏡画像表示領域AGには、当該内視鏡画像表示領域AGと同一の形状及びサイズを有するとともに、図10の内視鏡画像EGEにおける病変領域LEに含まれていた病変部がフレームアウトした画像に相当する内視鏡画像EGHが表示されている。また、図13の表示画像DGHによれば、図10のマークME2の輝度BLBよりも高い輝度BLHを有するマークMH2が、内視鏡画像EGHにおける参照領域AR2に対応するマーク表示領域AM2に表示されている。また、図13の表示画像DGHによれば、図10のマークME2の輝度BLBと同じ輝度を有するマークME1、ME3及びME4が、内視鏡画像EGHにおける参照領域AR2以外の3つの参照領域に対応するマーク表示領域AM1、AM3及びAM4に表示されている。
図13の表示例によれば、図9のステップS15の処理として、病変領域LEの検出が途絶したとの判定結果を得る直前における当該病変領域LEの位置が参照領域AR2に含まれていることを特定するための処理が表示制御部133により行われる。また、図13の表示例によれば、図9のステップS15の処理として、病変領域LEに含まれる病変部が内視鏡画像EGEの外部へ変位する直前に存在していた参照領域AR2に対応するマークME2の輝度BLBを増加させることにより、当該輝度BLBよりも高い輝度を有するマークMH2を生成するための処理が表示制御部133により行われる。換言すると、図13の表示例によれば、図9のステップS15の処理として、マークME2の輝度をマークME1、ME3及びME4の輝度よりも高い輝度に設定するための処理が表示制御部133により行われる。
すなわち、図13の表示例によれば、内視鏡画像EGに病変領域Lが含まれているとの判定結果が判定部132により得られた場合に、N個のマーク表示領域各々にマークを1つずつ表示させるための処理が表示制御部133により行われる。また、図13の表示例によれば、病変領域LEの検出が途絶したとの判定結果が判定部132により得られた場合に、病変情報ILに基づいて所定の複数の参照領域のうちの当該病変領域LEの検出が途絶する直前に当該病変領域LEが存在していた位置を含む一の参照領域AR2を特定する処理と、N個のマーク表示領域のうちの当該一の参照領域AR2に最も近い位置に設定された一のマーク表示領域AM2に表示されている一のマークME2の輝度を当該一のマークME2以外の(N−1)個のマークの輝度とは異なる輝度に設定する処理と、が表示制御部133により行われる。
なお、本実施形態によれば、図9のステップS15の処理として、参照領域AR2に対応するマークME2の輝度BLBを増加させるための処理が行われる代わりに、例えば、参照領域AR1、AR3及びAR4に対応するマークME1、ME3及びME4の輝度BLBを減少させるための処理が表示制御部133により行われるようにしてもよい。
本実施形態に係る各表示例によれば、病変領域Lの検出状態の概要として、内視鏡画像EGにおいて当該病変領域Lが検出されたか否かを示すとともに、当該病変領域Lの検出が途絶する直前に当該病変領域Lが存在していた位置が当該内視鏡画像EGに設定された所定の複数の参照領域のうちのどの参照領域に含まれているかを示すような1つ以上のマークを生成してN個のマーク表示領域のうちの少なくとも1つに表示させるための処理が表示制御部133により行われる。また、本実施形態に係る各表示例によれば、内視鏡画像EGに病変領域Lが含まれているとの判定結果が判定部132により得られた場合に、当該病変領域Lが検出されたことを示す4つのマークを生成するための処理と、4つのマーク表示領域AM1〜AM4に当該4つのマークを1つずつ表示させるための処理と、が表示制御部133により行われる。
以上に述べたように、本実施形態によれば、例えば、病変領域Lが内視鏡画像EGにおいて頻繁にフレームイン及びフレームアウトを繰り返すような状況が発生した場合であっても、当該病変領域Lが検出されているか否かを示すマークを、表示装置14の表示画面上における内視鏡画像表示領域AGの外部の所定の位置に設定されたマーク表示領域に表示させることができる。さらに、以上に述べたように、本実施形態によれば、例えば、病変領域Lが内視鏡画像EGの内部から外部へ変位するような状況が発生した場合であっても、当該病変領域Lが最後に検出された箇所に応じた表示態様を有する1つ以上のマークを、表示装置14の表示画面上における内視鏡画像表示領域AGの外部の所定の位置に設定されたマーク表示領域に表示させることができる。そのため、本実施形態によれば、例えば、ユーザが、表示装置14の表示画面上における所定の位置に設定された1つ以上のマーク表示領域に表示されるマークを見ることにより、病変領域Lの検出状態を容易に把握することができる。従って、本実施形態によれば、内視鏡観察により病変部の診断等の作業を行うユーザの負担を軽減することができる。
また、以上に述べたように、本実施形態によれば、ユーザが1つ以上のマーク表示領域に表示されるマークを見た際に得られる情報を、内視鏡画像EGにおける病変領域Lの検出状態の概要を示す情報に制限するような処理が行われる。そのため、本実施形態によれば、例えば、内視鏡画像EGに含まれる病変領域Lの診断を行うユーザに対して無用な先入観を与えてしまうことを極力防ぐことができる。
なお、本実施形態において説明した各表示例は、内視鏡画像EGに含まれる病変部が残渣等の遮蔽物の裏側へ変位したことに起因して病変領域Lの検出が途絶した場合においても略同様に適用される。そして、このような場合においては、例えば、図9のステップS15の処理に応じ、図14に示すような表示画像DGPが表示装置14に表示される。図14は、第2の実施形態に係る内視鏡画像処理装置の処理に応じて表示される表示画像の一例を示す図である。
図14の表示画像DGPの内視鏡画像表示領域AGには、当該内視鏡画像表示領域AGと同一の形状及びサイズを有するとともに、図10の内視鏡画像EGEにおける病変領域LEに含まれていた病変部が残渣等の遮蔽物SPの裏側へ変位した画像に相当する内視鏡画像EGPが表示されている。また、図14の表示画像DGPによれば、内視鏡画像EGPにおける参照領域AR2に対応するマーク表示領域AM2にはマークが表示されていない。また、図14の表示画像DGPによれば、図10と同様のマークME1、ME3及びME4が、内視鏡画像EGPにおける参照領域AR2以外の3つの参照領域に対応するマーク表示領域AM1、AM3及びAM4に表示されている。なお、図14の表示画面内の破線は、病変領域LEに含まれていた病変部が遮蔽物SPの裏側に位置することを表すために描画されたものであるため、表示装置14には実際には表示されないものとする。
図14の表示例によれば、図9のステップS15の処理として、病変領域LEの検出が途絶したとの判定結果を得る直前における当該病変領域LEの位置が参照領域AR2に含まれていることを特定するための処理が表示制御部133により行われる。また、図14の表示例によれば、図9のステップS15の処理として、病変領域LEに含まれる病変部が遮蔽物SPの裏側へ変位する直前に存在していた参照領域AR2に対応するマークME2をマーク表示領域AM2から消去するための処理が表示制御部133により行われる。
本実施形態の表示制御部133は、病変領域Lの検出が途絶したとの判定結果が判定部132により得られた場合に、図9のステップS15の処理の代わりに、例えば、図15に示すような処理を行うように構成されていてもよい。このような変形例に係る表示制御部133の処理の具体例について、以下に説明する。図15は、第2の実施形態の変形例に係る内視鏡画像処理装置において行われる処理を説明するためのフローチャートである。
表示制御部133は、病変領域Lの検出が途絶したとの判定結果が判定部132により得られた場合(S14:YES)に、当該判定結果を得る直前の病変情報ILから特定される当該病変領域Lの位置、すなわち、当該病変領域Lの検出が途絶する直前における当該病変領域Lの位置が内視鏡画像EGの端部に相当する位置であるか否かを判定するための処理を行う(図15のステップS21)。
表示制御部133は、病変領域Lの検出が途絶する直前における当該病変領域Lの位置が内視鏡画像EGの端部に相当する位置であるとの判定結果を得た場合(S21:YES)に、当該病変領域Lに含まれていた病変部が当該内視鏡画像EGの外部へ変位したことを示すように、表示装置14に現在表示されている少なくとも1つのマークの表示態様を変更するための処理を行った(図15のステップS22)後、一連の処理を終了させる。
具体的には、表示制御部133は、例えば、図10に示した病変領域LEの検出が途絶する直前における当該病変領域LEの位置が、参照領域AR2に含まれていることを特定し、かつ、当該参照領域AR2の端部に相当する位置であるとの判定結果を得た場合に、図13の表示例と同様の表示態様を有するマークMH2を生成してマーク表示領域AM2に表示させるための処理を行う。
表示制御部133は、病変領域Lの検出が途絶する直前における当該病変領域Lの位置が内視鏡画像EGの端部よりも内側に相当する位置であるとの判定結果を得た場合(S21:NO)に、当該病変領域Lに含まれていた病変部が残渣等の遮蔽物の裏側へ変位したことを示すように、表示装置14に現在表示されている少なくとも1つのマークの表示態様を変更するための処理を行った(図15のステップS23)後、一連の処理を終了させる。
具体的には、表示制御部133は、例えば、図10に示した病変領域LEの検出が途絶する直前における当該病変領域LEの位置が、参照領域AR2に含まれていることを特定し、かつ、当該参照領域AR2の端部よりも内側に相当する位置であるとの判定結果を得た場合に、図12の表示例と同様の表示態様を有するマークMG2を生成してマーク表示領域AM2に表示させるための処理を行う。
すなわち、図15に示した処理によれば、病変情報ILに基づいて所定の複数の参照領域のうちの病変領域LEの検出が途絶する直前に当該病変領域LEが存在していた位置を含む一の参照領域AR2を特定する処理と、N個のマーク表示領域のうちの当該一の参照領域AR2に最も近い位置に設定された一のマーク表示領域AM2に表示されている一のマークME2の表示態様を当該病変領域LEの検出が途絶した要因に応じて異なる表示態様に設定する処理と、が表示制御部133により行われる。また、図15に示した処理によれば、病変部が内視鏡画像EGの外部へ変位したことに起因して病変領域LEの検出が途絶した場合に、前述の一のマークME2の表示態様を(マークMH2のような)第1の表示態様に設定する処理が表示制御部133により行われる。また、図15に示した処理によれば、病変部が内視鏡画像EGに含まれる遮蔽物の裏側へ変位したことに起因して病変領域Lの検出が途絶した場合に、前述の一のマークの表示態様を前述の第1の表示態様とは異なる(マークMG2のような)第2の表示態様に設定する処理が表示制御部133により行われる。
また、本実施形態の表示制御部133は、図11〜図13の表示例各々に対応するマークの表示方法に係る処理を複数組み合わせて行うように構成されていてもよい。
また、本実施形態によれば、内視鏡画像EGにおける病変領域Lの検出状態の概要をユーザに視認させることが可能な色を有するマークを生成するための処理が行われるとともに、当該内視鏡画像EG及び当該マークを含む表示画像を表示装置14に表示させるための処理が行われるようにしてもよい。そして、このような構成によれば、例えば、内視鏡画像EGに病変領域Lが含まれているとの判定結果が判定部132により得られた場合に、N個のマーク表示領域各々に所定の色を有するマークを1つずつ表示させるための処理が表示制御部133により行われる。また、前述のような構成によれば、例えば、病変領域Lの検出が途絶したとの判定結果が判定部132により得られた場合に、病変情報ILに基づいて所定の複数の参照領域のうちの当該病変領域Lの検出が途絶する直前に当該病変領域Lが存在していた位置を含む一の参照領域を特定する処理と、N個のマーク表示領域のうちの当該一の参照領域に最も近い位置に設定された一のマーク表示領域に表示されている一のマークの色を当該所定の色とは異なる色に変化させる処理と、が表示制御部133により行われる。
なお、本発明は、上述した実施形態に限定されるものではなく、発明の趣旨を逸脱しない範囲内において種々の変更や応用が可能である。
本発明の一態様の内視鏡画像処理装置は、被検体内の被写体を内視鏡で撮像して得られた内視鏡画像において病変部を含むと推定される領域に相当する病変領域を検出するための処理を行うとともに、前記内視鏡画像に含まれる前記病変領域の位置を示す情報を含む病変情報を取得するための処理を行うように構成された病変検出部と、前記内視鏡画像に前記病変領域が含まれているか否かを判定するように構成された判定部と、前記病変情報と、前記判定部により得られた判定結果と、に基づき、前記病変検出部による前記病変領域の検出状態の概要を示す1つ以上のマークを生成するための処理を行うとともに、前記内視鏡画像を表示装置の表示画面上に設定される内視鏡画像表示領域に表示させつつ、前記表示画面上における前記内視鏡画像表示領域の外部の所定の位置に設定されるとともに、前記1つ以上のマークの最大表示数に応じた個数を有する領域として設定されるN個のマーク表示領域のうちの少なくとも1つに前記1つ以上のマークを表示させるための表示画像を生成するための処理を行うように構成された表示制御部と、を有し、前記表示制御部は、前記病変領域の現在、または検出が途絶する直前の位置が、前記内視鏡画像に設定された所定の複数の参照領域のうちのどの参照領域に含まれているかを示すような前記1つ以上のマークを生成して前記N個のマーク表示領域のうちの少なくとも1つに表示させるための処理を行う
本発明の一態様の内視鏡画像処理方法は、病変検出部が、被検体内の被写体を内視鏡で撮像して得られた内視鏡画像において病変部を含むと推定される領域に相当する病変領域を検出するための処理を行うとともに、前記内視鏡画像に含まれる前記病変領域の位置を示す情報を含む病変情報を取得するための処理を行い、判定部が、前記内視鏡画像に前記病変領域が含まれているか否かを判定し、表示制御部が、前記病変情報と、前記判定部により得られた判定結果と、に基づき、前記病変検出部による前記病変領域の検出状態の概要を示す1つ以上のマークを生成するための処理を行い、前記表示制御部が、前記内視鏡画像を表示装置の表示画面上に設定される内視鏡画像表示領域に表示させつつ、前記表示画面上における前記内視鏡画像表示領域の外部の所定の位置に設定されるとともに、前記1つ以上のマークの最大表示数に応じた個数を有する領域として設定されるN個のマーク表示領域のうちの少なくとも1つに前記1つ以上のマークを表示させるための表示画像を生成するための処理を行う内視鏡画像処理方法であって、前記表示制御部は、前記病変領域の現在、または検出が途絶する直前の位置が、前記内視鏡画像に設定された所定の複数の参照領域のうちのどの参照領域に含まれているかを示すような前記1つ以上のマークを生成して前記N個のマーク表示領域のうちの少なくとも1つに表示させるための処理を行う
本発明の一態様のプログラムは、コンピュータに、被検体内の被写体を内視鏡で撮像して得られた内視鏡画像において病変部を含むと推定される領域に相当する病変領域を検出するための処理と、前記内視鏡画像に含まれる前記病変領域の位置を示す情報を含む病変情報を取得するための処理と、前記内視鏡画像に前記病変領域が含まれているか否かを判定する判定処理と、前記病変情報と、前記判定処理により得られた判定結果と、に基づき、前記病変領域の検出状態の概要を示す1つ以上のマークを生成するための処理と、前記内視鏡画像を表示装置の表示画面上に設定される内視鏡画像表示領域に表示させつつ、前記表示画面上における前記内視鏡画像表示領域の外部の所定の位置に設定されるとともに、前記1つ以上のマークの最大表示数に応じた個数を有する領域として設定されるN個のマーク表示領域のうちの少なくとも1つに前記1つ以上のマークを表示させるための表示画像を生成するための処理と、を実行させるためのプログラムであって、前記表示画像を生成するための処理は、前記病変領域の現在、または検出が途絶する直前の位置が、前記内視鏡画像に設定された所定の複数の参照領域のうちのどの参照領域に含まれているかを示すような前記1つ以上のマークを生成して前記N個のマーク表示領域のうちの少なくとも1つに表示させるための処理である

Claims (19)

  1. 被検体内の被写体を内視鏡で撮像して得られた内視鏡画像において病変部を含むと推定される領域に相当する病変領域を検出するための処理を行うとともに、前記内視鏡画像に含まれる前記病変領域の位置を示す情報を含む病変情報を取得するための処理を行うように構成された病変検出部と、
    前記内視鏡画像に前記病変領域が含まれているか否かを判定するように構成された判定部と、
    前記病変情報と、前記判定部により得られた判定結果と、に基づき、前記病変検出部による前記病変領域の検出状態の概要を示す1つ以上のマークを生成するための処理を行うとともに、前記内視鏡画像を表示装置の表示画面上に設定される内視鏡画像表示領域に表示させつつ、前記表示画面上における前記内視鏡画像表示領域の外部の所定の位置に設定されるとともに、前記1つ以上のマークの最大表示数に応じた個数を有する領域として設定されるN個のマーク表示領域のうちの少なくとも1つに前記1つ以上のマークを表示させるための表示画像を生成するための処理を行うように構成された表示制御部と、
    を有することを特徴とする内視鏡画像処理装置。
  2. 前記表示制御部は、前記病変領域の検出状態の概要として、前記内視鏡画像において前記病変領域が検出されたか否かを示すとともに、前記病変領域の現在の位置が前記内視鏡画像に設定された所定の複数の参照領域のうちのどの参照領域に含まれているかを示すような前記1つ以上のマークを生成して前記N個のマーク表示領域のうちの少なくとも1つに表示させるための処理を行う
    ことを特徴とする請求項1に記載の内視鏡画像処理装置。
  3. 前記表示制御部は、前記内視鏡画像に前記病変領域が含まれているとの判定結果が前記判定部により得られた場合に、前記病変情報に基づいて前記所定の複数の参照領域のうちの前記病変領域の現在の位置を含む一の参照領域を特定する処理と、前記一の参照領域を示す一のマークを生成する処理と、前記N個のマーク表示領域のうちの前記一の参照領域に最も近い位置に設定された一のマーク表示領域に前記一のマークを表示させる処理と、を行う
    ことを特徴とする請求項2に記載の内視鏡画像処理装置。
  4. 前記表示制御部は、前記内視鏡画像に前記病変領域が含まれているとの判定結果が前記判定部により得られた場合に、前記N個のマーク表示領域各々にマークを1つずつ表示させる処理と、前記病変情報に基づいて前記所定の複数の参照領域のうちの前記病変領域の現在の位置を含む一の参照領域を特定する処理と、前記N個のマーク表示領域のうちの前記一の参照領域に最も近い位置に設定された一のマーク表示領域に表示されている一のマークの形状を前記一の参照領域を指し示すような形状に設定する処理と、を行う
    ことを特徴とする請求項2に記載の内視鏡画像処理装置。
  5. 前記表示制御部は、前記内視鏡画像に前記病変領域が含まれているとの判定結果が前記判定部により得られた場合に、前記N個のマーク表示領域各々にマークを1つずつ表示させるための処理と、前記病変情報に基づいて前記所定の複数の参照領域のうちの前記病変領域の現在の位置を含む一の参照領域を特定する処理と、前記N個のマーク表示領域のうちの前記一の参照領域に最も近い位置に設定された一のマーク表示領域に表示されている一のマークの輝度を前記一のマーク以外の(N−1)個のマークの輝度とは異なる輝度に設定する処理と、を行う
    ことを特徴とする請求項2に記載の内視鏡画像処理装置。
  6. 前記表示制御部は、前記内視鏡画像に前記病変領域が含まれているとの判定結果が前記判定部により得られた場合に、前記N個のマーク表示領域各々にマークを1つずつ表示させるための処理と、前記病変情報に基づいて前記所定の複数の参照領域のうちの前記病変領域の現在の位置を含む一の参照領域を特定する処理と、前記N個のマーク表示領域に表示されているN個のマークの形状を前記内視鏡画像における前記一の参照領域が存在する方向を指し示すような形状に設定する処理と、を行う
    ことを特徴とする請求項2に記載の内視鏡画像処理装置。
  7. 前記表示制御部は、前記内視鏡画像に前記病変領域が含まれているとの判定結果が前記判定部により得られた場合に、前記N個のマーク表示領域各々に所定の色を有するマークを1つずつ表示させるための処理と、前記病変情報に基づいて前記所定の複数の参照領域のうちの前記病変領域の現在の位置を含む一の参照領域を特定する処理と、前記N個のマーク表示領域のうちの前記一の参照領域に最も近い位置に設定された一のマーク表示領域に表示されている一のマークの色を前記所定の色とは異なる色に変化させる処理と、を行う
    ことを特徴とする請求項2に記載の内視鏡画像処理装置。
  8. 前記病変検出部は、前記内視鏡の挿入部の先端部から前記病変部の表面までの推定距離を検出するための処理をさらに行い、
    前記表示制御部は、前記内視鏡の挿入部の先端部と前記病変領域に含まれる前記病変部とがどれだけ離れているかを前記病変領域の検出状態の概要としてさらに示すような前記1つ以上のマークを前記推定距離に基づいて生成するための処理を行う
    ことを特徴とする請求項2に記載の内視鏡画像処理装置。
  9. 前記表示制御部は、前記内視鏡画像に前記病変領域が含まれているとの判定結果が前記判定部により得られた場合に、前記病変情報に基づいて前記病変検出部による前記病変領域の検出状態の概要を示す1つ以上かつ4つ以下のM個のマークを生成するための処理と、前記内視鏡画像表示領域の中心から見て左上側、左下側、右上側及び右下側の4方向に位置するように設定された4つのマーク表示領域のうちのM個のマーク表示領域に前記M個のマークを1つずつ表示させるための処理と、を行う
    ことを特徴とする請求項2に記載の内視鏡画像処理装置。
  10. 前記判定部は、さらに、前記病変情報に対応する前記病変領域の検出が途絶したか否かを判定し、
    前記表示制御部は、前記病変領域の検出状態の概要として、前記内視鏡画像において前記病変領域が検出されたか否かを示すとともに、前記病変領域の検出が途絶する直前に前記病変領域が存在していた位置が前記内視鏡画像に設定された所定の複数の参照領域のうちのどの参照領域に含まれているかを示すような前記1つ以上のマークを生成して前記N個のマーク表示領域のうちの少なくとも1つに表示させるための処理を行う
    ことを特徴とする請求項1に記載の内視鏡画像処理装置。
  11. 前記表示制御部は、前記内視鏡画像に前記病変領域が含まれているとの判定結果が前記判定部により得られた場合に、前記N個のマーク表示領域各々にマークを1つずつ表示させるための処理を行い、さらに、前記病変領域の検出が途絶したとの判定結果が前記判定部により得られた場合に、前記病変情報に基づいて前記所定の複数の参照領域のうちの前記病変領域の検出が途絶する直前に前記病変領域が存在していた位置を含む一の参照領域を特定する処理と、前記N個のマーク表示領域のうちの前記一の参照領域に最も近い位置に設定された一のマーク表示領域に表示されている一のマークを消去する処理と、を行う
    ことを特徴とする請求項10に記載の内視鏡画像処理装置。
  12. 前記表示制御部は、前記内視鏡画像に前記病変領域が含まれているとの判定結果が前記判定部により得られた場合に、前記N個のマーク表示領域各々にマークを1つずつ表示させるための処理を行い、さらに、前記病変領域の検出が途絶したとの判定結果が前記判定部により得られた場合に、前記病変情報に基づいて前記所定の複数の参照領域のうちの前記病変領域の検出が途絶する直前に前記病変領域が存在していた位置を含む一の参照領域を特定する処理と、前記N個のマーク表示領域のうちの前記一の参照領域に最も近い位置に設定された一のマーク表示領域に表示されている一のマークの形状を前記一の参照領域を指し示すような形状に設定する処理と、を行う
    ことを特徴とする請求項10に記載の内視鏡画像処理装置。
  13. 前記表示制御部は、前記内視鏡画像に前記病変領域が含まれているとの判定結果が前記判定部により得られた場合に、前記N個のマーク表示領域各々にマークを1つずつ表示させるための処理を行い、さらに、前記病変領域の検出が途絶したとの判定結果が前記判定部により得られた場合に、前記病変情報に基づいて前記所定の複数の参照領域のうちの前記病変領域の検出が途絶する直前に前記病変領域が存在していた位置を含む一の参照領域を特定する処理と、前記N個のマーク表示領域のうちの前記一の参照領域に最も近い位置に設定された一のマーク表示領域に表示されている一のマークの輝度を前記一のマーク以外の(N−1)個のマークの輝度とは異なる輝度に設定する処理と、を行う
    ことを特徴とする請求項10に記載の内視鏡画像処理装置。
  14. 前記表示制御部は、前記内視鏡画像に前記病変領域が含まれているとの判定結果が前記判定部により得られた場合に、前記N個のマーク表示領域各々に所定の色を有するマークを1つずつ表示させるための処理を行い、さらに、前記病変領域の検出が途絶したとの判定結果が前記判定部により得られた場合に、前記病変情報に基づいて前記所定の複数の参照領域のうちの前記病変領域の検出が途絶する直前に前記病変領域が存在していた位置を含む一の参照領域を特定する処理と、前記N個のマーク表示領域のうちの前記一の参照領域に最も近い位置に設定された一のマーク表示領域に表示されている一のマークの色を前記所定の色とは異なる色に変化させる処理と、を行う
    ことを特徴とする請求項10に記載の内視鏡画像処理装置。
  15. 前記表示制御部は、前記内視鏡画像に前記病変領域が含まれているとの判定結果が前記判定部により得られた場合に、前記N個のマーク表示領域各々にマークを1つずつ表示させるための処理を行い、さらに、前記病変領域の検出が途絶したとの判定結果が前記判定部により得られた場合に、前記病変情報に基づいて前記所定の複数の参照領域のうちの前記病変領域の検出が途絶する直前に前記病変領域が存在していた位置を含む一の参照領域を特定する処理と、前記N個のマーク表示領域のうちの前記一の参照領域に最も近い位置に設定された一のマーク表示領域に表示されている一のマークの表示態様を前記病変領域の検出が途絶した要因に応じて異なる表示態様に設定する処理と、を行う
    ことを特徴とする請求項10に記載の内視鏡画像処理装置。
  16. 前記表示制御部は、前記病変部が前記内視鏡画像の外部へ変位したことに起因して前記病変領域の検出が途絶した場合に、前記一のマークの表示態様を第1の表示態様に設定する処理を行うとともに、前記病変部が前記内視鏡画像に含まれる遮蔽物の裏側へ変位したことに起因して前記病変領域の検出が途絶した場合に、前記一のマークの表示態様を前記第1の表示態様とは異なる第2の表示態様に設定する処理を行う
    ことを特徴とする請求項15に記載の内視鏡画像処理装置。
  17. 前記表示制御部は、前記内視鏡画像に前記病変領域が含まれているとの判定結果が前記判定部により得られた場合に、前記病変領域が検出されたことを示す4つのマークを生成するための処理と、前記内視鏡画像表示領域の中心から見て左上側、左下側、右上側及び右下側の4方向に位置するように設定された4つのマーク表示領域に前記4つのマークを1つずつ表示させるための処理と、を行う
    ことを特徴とする請求項10に記載の内視鏡画像処理装置。
  18. 病変検出部が、被検体内の被写体を内視鏡で撮像して得られた内視鏡画像において病変部を含むと推定される領域に相当する病変領域を検出するための処理を行うとともに、前記内視鏡画像に含まれる前記病変領域の位置を示す情報を含む病変情報を取得するための処理を行い、
    判定部が、前記内視鏡画像に前記病変領域が含まれているか否かを判定し、
    表示制御部が、前記病変情報と、前記判定部により得られた判定結果と、に基づき、前記病変検出部による前記病変領域の検出状態の概要を示す1つ以上のマークを生成するための処理を行い、
    前記表示制御部が、前記内視鏡画像を表示装置の表示画面上に設定される内視鏡画像表示領域に表示させつつ、前記表示画面上における前記内視鏡画像表示領域の外部の所定の位置に設定されるとともに、前記1つ以上のマークの最大表示数に応じた個数を有する領域として設定されるN個のマーク表示領域のうちの少なくとも1つに前記1つ以上のマークを表示させるための表示画像を生成するための処理を行う
    ことを特徴とする内視鏡画像処理方法。
  19. コンピュータに、
    被検体内の被写体を内視鏡で撮像して得られた内視鏡画像において病変部を含むと推定される領域に相当する病変領域を検出するための処理と、
    前記内視鏡画像に含まれる前記病変領域の位置を示す情報を含む病変情報を取得するための処理と、
    前記内視鏡画像に前記病変領域が含まれているか否かを判定する判定処理と、
    前記病変情報と、前記判定処理により得られた判定結果と、に基づき、前記病変領域の検出状態の概要を示す1つ以上のマークを生成するための処理と、
    前記内視鏡画像を表示装置の表示画面上に設定される内視鏡画像表示領域に表示させつつ、前記表示画面上における前記内視鏡画像表示領域の外部の所定の位置に設定されるとともに、前記1つ以上のマークの最大表示数に応じた個数を有する領域として設定されるN個のマーク表示領域のうちの少なくとも1つに前記1つ以上のマークを表示させるための表示画像を生成するための処理と、
    を実行させるためのプログラム。
JP2020562259A 2018-12-28 2018-12-28 内視鏡画像処理装置、内視鏡画像処理方法及びプログラム Active JP7123173B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2018/048408 WO2020136858A1 (ja) 2018-12-28 2018-12-28 内視鏡画像処理装置、内視鏡画像処理方法及びプログラム

Publications (2)

Publication Number Publication Date
JPWO2020136858A1 true JPWO2020136858A1 (ja) 2021-11-04
JP7123173B2 JP7123173B2 (ja) 2022-08-22

Family

ID=71125996

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020562259A Active JP7123173B2 (ja) 2018-12-28 2018-12-28 内視鏡画像処理装置、内視鏡画像処理方法及びプログラム

Country Status (4)

Country Link
US (1) US20210327067A1 (ja)
JP (1) JP7123173B2 (ja)
CN (1) CN113226151A (ja)
WO (1) WO2020136858A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102536369B1 (ko) * 2021-02-26 2023-05-26 주식회사 인피니트헬스케어 인공 지능 기반 위 내시경 영상 진단 보조 시스템 및 방법

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006191989A (ja) * 2005-01-11 2006-07-27 Olympus Corp 蛍光観察内視鏡装置
JP2011224038A (ja) * 2010-04-15 2011-11-10 Olympus Corp 画像処理装置及びプログラム
WO2015049962A1 (ja) * 2013-10-02 2015-04-09 オリンパスメディカルシステムズ株式会社 内視鏡システム
WO2018198327A1 (ja) * 2017-04-28 2018-11-01 オリンパス株式会社 内視鏡診断支援システム、内視鏡診断支援プログラム及び内視鏡診断支援方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4190917B2 (ja) * 2002-03-28 2008-12-03 富士フイルム株式会社 内視鏡装置
EP2149332B1 (en) * 2007-05-17 2014-12-17 Olympus Medical Systems Corp. Image information display processing device and display processing method
US9295372B2 (en) * 2013-09-18 2016-03-29 Cerner Innovation, Inc. Marking and tracking an area of interest during endoscopy
KR101599129B1 (ko) * 2014-05-20 2016-03-02 박현준 내시경 상 보이는 병변의 크기 측정 방법 및 컴퓨터 판독 가능한 기록매체
JP6246431B2 (ja) * 2015-11-10 2017-12-13 オリンパス株式会社 内視鏡装置
JP6335412B1 (ja) * 2017-02-02 2018-05-30 オリンパス株式会社 内視鏡画像観察支援システム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006191989A (ja) * 2005-01-11 2006-07-27 Olympus Corp 蛍光観察内視鏡装置
JP2011224038A (ja) * 2010-04-15 2011-11-10 Olympus Corp 画像処理装置及びプログラム
WO2015049962A1 (ja) * 2013-10-02 2015-04-09 オリンパスメディカルシステムズ株式会社 内視鏡システム
WO2018198327A1 (ja) * 2017-04-28 2018-11-01 オリンパス株式会社 内視鏡診断支援システム、内視鏡診断支援プログラム及び内視鏡診断支援方法

Also Published As

Publication number Publication date
CN113226151A (zh) 2021-08-06
US20210327067A1 (en) 2021-10-21
WO2020136858A1 (ja) 2020-07-02
JP7123173B2 (ja) 2022-08-22

Similar Documents

Publication Publication Date Title
CN107485455B (zh) 手术系统中有效的交互式出血检测
JP6596203B2 (ja) ビデオ内視鏡システム
JP5771757B2 (ja) 内視鏡システム及び内視鏡システムの作動方法
US20160073927A1 (en) Endoscope system
JP7060536B2 (ja) 内視鏡画像処理装置、内視鏡画像処理装置の作動方法及びプログラム、内視鏡システム
JP6013665B1 (ja) 診断支援装置及び診断支援情報表示方法
US20190043215A1 (en) Endoscope apparatus
JP6956853B2 (ja) 診断支援装置、診断支援プログラム、及び、診断支援方法
WO2019123827A1 (ja) 内視鏡システム及び内視鏡プロセッサ
JPWO2019220801A1 (ja) 内視鏡画像処理装置、内視鏡画像処理方法、及びプログラム
JP6017198B2 (ja) 内視鏡装置およびプログラム
CN113271841A (zh) 促进使用不同荧光成像剂的医学成像系统和方法
JP6615550B2 (ja) 電子内視鏡用画像記録システム
JP7123173B2 (ja) 内視鏡画像処理装置、内視鏡画像処理方法及びプログラム
JP2017205343A (ja) 内視鏡装置、内視鏡装置の作動方法
US8692869B2 (en) Image processing device, image processing method, machine readable recording medium, endoscope system
CN113164054A (zh) 医学成像系统和方法
JP5809850B2 (ja) 画像処理装置
JP6205531B1 (ja) 内視鏡システム
US20220151467A1 (en) Medical image processing apparatus, endoscope system, medical image processing method, and program
JP2021191314A (ja) 内視鏡システム及び内視鏡システムの作動方法
JP7029281B2 (ja) 内視鏡システム及び内視鏡システムの作動方法
WO2019146079A1 (ja) 内視鏡画像処理装置、内視鏡画像処理方法及びプログラム
US20120100512A1 (en) Inspection apparatus and inspection method
JP6211239B1 (ja) 内視鏡装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210623

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210623

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220712

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220809

R151 Written notification of patent or utility model registration

Ref document number: 7123173

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151