JPWO2018020558A1 - 画像処理装置、画像処理方法およびプログラム - Google Patents

画像処理装置、画像処理方法およびプログラム Download PDF

Info

Publication number
JPWO2018020558A1
JPWO2018020558A1 JP2018530219A JP2018530219A JPWO2018020558A1 JP WO2018020558 A1 JPWO2018020558 A1 JP WO2018020558A1 JP 2018530219 A JP2018530219 A JP 2018530219A JP 2018530219 A JP2018530219 A JP 2018530219A JP WO2018020558 A1 JPWO2018020558 A1 JP WO2018020558A1
Authority
JP
Japan
Prior art keywords
image
lesion area
unit
image processing
processing apparatus
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2018530219A
Other languages
English (en)
Inventor
隆志 河野
隆志 河野
大和 神田
大和 神田
健人 速水
健人 速水
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Publication of JPWO2018020558A1 publication Critical patent/JPWO2018020558A1/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • G06T7/0016Biomedical image inspection using an image reference approach involving temporal comparison
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/041Capsule endoscopes for imaging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Surgery (AREA)
  • Quality & Reliability (AREA)
  • Biophysics (AREA)
  • Optics & Photonics (AREA)
  • Pathology (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Signal Processing (AREA)
  • Endoscopes (AREA)
  • Studio Devices (AREA)

Abstract

内視鏡画像群から高画質な内視鏡画像を抽出する画像処理装置、画像処理方法およびプログラムを提供する。時系列順で並ぶ内視鏡画像群における各内視鏡画像の病変領域の特性を解析する病変領域解析部71と、病変領域の特性に基づいて、内視鏡画像群から診断に適切な内視鏡画像を抽出するための抽出条件を設定する抽出条件設定部72と、抽出条件に基づいて、診断に適切な内視鏡画像を内視鏡画像群から抽出する画像抽出部73と、を備える。

Description

本発明は、時系列順で並ぶ内視鏡画像群から高画質の内視鏡画像を抽出する画像処理装置、画像処理方法およびプログラムに関する。
特許文献1には、ユーザの指示画像周囲から画質と動作情報を指標に表示画像を抽出する技術が開示されている。これは、超音波診断装置におけるフリーズ操作は、診断者の手による超音波深触子の保持、呼吸、体位変化等による超音波深触子の姿勢変化を原因としたブレ、ボケ等で画質低下するため、高画質の画像を得ようと繰返し撮影するといった煩雑さを解決している。具体的には、時系列の複数の超音波画像を格納後、ユーザの指示によるフリーズ画像を設定し、フリーズ画像に時間的に近接する関係にある複数の候補画像を選択し、複数の候補画像に附帯する画質、動作といった参照情報を特徴量(指標)として表示画像を選択している。
特開2004−24559号公報
しかしながら、上述した特許文献1では、医師の診断に適した画像を取得することが難しい。
本発明は、上記に鑑みてなされたものであって、内視鏡画像群から診断に適切な内視鏡画像を抽出する画像処理装置、画像処理方法およびプログラムを提供することを目的とする。
上述した課題を解決し、目的を達成するために、本発明に係る画像処理装置は、時系列順で並ぶ内視鏡画像群における各内視鏡画像に写る病変領域の特性を解析する病変領域解析部と、前記病変領域の特性に基づいて、前記内視鏡画像群から診断に適切な内視鏡画像を抽出するための抽出条件を設定する抽出条件設定部と、前記抽出条件に基づいて、診断に適切な画質を有する内視鏡画像を前記内視鏡画像群から抽出する画像抽出部と、を備えることを特徴とする。
また、本発明に係る画像処理方法は、画像処理装置が実行する画像処理方法であって、時系列順で並ぶ内視鏡画像群における各内視鏡画像に写る病変領域の特性を解析する病変領域解析ステップと、前記病変領域の特性に基づいて、前記内視鏡画像群から診断に適切な内視鏡画像を抽出するための抽出条件を設定する抽出条件設定ステップと、前記抽出条件に基づいて、診断に適切な画質を有する内視鏡画像を前記内視鏡画像群から抽出する画像抽出ステップと、を含むことを特徴とする。
また、本発明に係るプログラムは、画像処理装置に、時系列順で並ぶ内視鏡画像群における各内視鏡画像に写る病変領域の特性を解析する病変領域解析ステップと、前記病変領域の特性に基づいて、前記内視鏡画像群から診断に適切な内視鏡画像を抽出するための抽出条件を設定する抽出条件設定ステップと、前記抽出条件に基づいて、診断に適切な画質を有する内視鏡画像を前記内視鏡画像群から抽出する画像抽出ステップと、を実行させることを特徴とする。
本発明によれば、内視鏡画像群から診断に適切な高画質な内視鏡画像を抽出することができるという効果を奏する。
図1は、本発明の実施の形態1に係る画像処理装置の構成を示すブロック図である。 図2は、本発明の実施の形態1に係る画像処理装置が実行する処理の概要を示すフローチャートである。 図3は、図2の病変領域特性解析処理の概要を示すフローチャートである。 図4は、図2の抽出条件設定処理の概要を示すフローチャートである。 図5は、本発明の実施の形態1の変形例1に係る病変特性情報算出部の構成を示すブロック図である。 図6は、本発明の実施の形態1の変形例1に係る注視動作判定部の構成を示すブロック図である。 図7は、本発明の実施の形態1の変形例1に係る基点画像設定部の構成を示すブロック図である。 図8は、本発明の実施の形態1の変形例1に係る端点区間設定部の構成を示すブロック図である。 図9は、本発明の実施の形態1の変形例2に係る病変特性情報算出部の構成を示すブロック図である。 図10は、本発明の実施の形態1の変形例2に係る注視動作判定部の構成を示すブロック図である。 図11は、本発明の実施の形態1の変形例3に係る病変領域解析部の構成を示すブロック図である。 図12は、本発明の実施の形態1の変形例3に係る病変領域解析部が実行する病変領域特性解析処理の概要を示すフローチャートである。 図13は、本発明の実施の形態1の変形例4に係る病変領域解析部の構成を示すブロック図である。 図14は、本発明の実施の形態1の変形例4に係る病変領域解析部が実行する病変領域特性解析処理の概要を示すフローチャートである。 図15は、本発明の実施の形態2に係る演算部の構成を示すブロック図である。 図16は、本発明の実施の形態2に係る画像処理装置が実行する処理の概要を示すフローチャートである。 図17は、図16の病変領域特性解析処理の概要を示すフローチャートである。 図18は、図16の抽出条件設定処理の概要を示すフローチャートである。 図19は、図16の内視鏡画像抽出処理の概要を示すフローチャートである。 図20は、本発明の実施の形態3に係る演算部の構成を示すブロック図である。 図21は、本発明の実施の形態3に係る画像処理装置が実行する処理の概要を示すフローチャートである。 図22は、図21の病変領域特性解析処理の概要を示すフローチャートである。 図23は、図21の抽出条件設定処理の概要を示すフローチャートである。 図24は、図21の内視鏡画像抽出処理の概要を示すフローチャートである。
以下、本発明の実施の形態に係る画像処理装置、画像処理方法およびプログラムについて、図面を参照しながら説明する。なお、これらの実施の形態によって本発明が限定されるものではない。また、各図面の記載において、同一の部分には同一の符号を付して示している。
(実施の形態1)
〔画像処理装置の構成〕
図1は、本発明の実施の形態1に係る画像処理装置の構成を示すブロック図である。本実施の形態1に係る画像処理装置1は、一例として、内視鏡(軟性内視鏡や硬性内視鏡等の内視鏡スコープ)またはカプセル型内視鏡(以下、これらをまとめて単に「内視鏡」という)によって、連続的に撮像されて時系列順に並ぶ内視鏡画像群(動画データや時系列画像群)から診断に最適な高画質の内視鏡画像を抽出する装置である。また、内視鏡画像は、通常、各画素位置において、R(赤)、G(緑)、B(青)の波長成分に対する画素レベル(画素値)を持つカラー画像である。また、以下において、病変領域とは、特定領域として、出血、発赤、凝固血、腫瘍、びらん、潰瘍、アフタ、絨毛異常等、病変又は異常とみられる部位が写った特定領域、即ち異常領域である。
図1に示す画像処理装置1は、内視鏡によって撮像された内視鏡画像群に対して病変領域検出装置(例えばDeepLearning等の機械学習装置)によって病変領域が検出された病変領域の座標情報を示す病変領域情報を取得する画像取得部2と、外部からの操作によって入力された入力信号を受け付ける入力部3と、内視鏡画像群のうち診断に最適な診断対象画像を外部へ出力する出力部4と、画像取得部2によって取得された内視鏡画像群および各種プログラムを記録する記録部5と、画像処理装置1全体の動作を制御する制御部6と、内視鏡画像群に対して所定の画像処理を行う演算部7と、を備える。
画像取得部2は、内視鏡を含むシステムの態様に応じて適宜構成される。例えば、画像取得部2は、内視鏡との間の内視鏡画像群(動画データや画像データ)および病変領域情報の受け渡しに可搬型の記録媒体が使用される場合、この記録媒体を着脱自在に装着し、記録された内視鏡画像群および病変領域情報を読み出すリーダ装置として構成される。また、画像取得部2は、内視鏡によって撮像された内視鏡画像群および病変領域情報を記録するサーバを用いる場合、このサーバと双方向に通信可能な通信装置等で構成され、サーバとデータ通信を行うことによって内視鏡画像群および病変領域情報を取得する。さらにまた、画像取得部2は、内視鏡からケーブルを介して内視鏡画像群および病変領域情報が入力されるインターフェース装置等で構成してもよい。
入力部3は、例えばキーボードやマウス、タッチパネル、各種スイッチ等の入力デバイスによって実現され、外部からの操作に応じて受け付けた入力信号を制御部6へ出力する。
出力部4は、制御部6の制御のもと、演算部7の演算によって抽出された診断対象画像を外部の表示装置等へ出力する。なお、出力部4は、液晶や有機EL(Electro Luminescence)の表示パネル等を用いて構成し、演算部7の演算によって抽出された診断対象画像を含む各種画像を表示してもよい。
記録部5は、フラッシュメモリ、ROM(Read Only Memory)およびRAM(Random Access Memory)といった各種ICメモリ、および内蔵若しくはデータ通信端子で接続されたハードディスク等によって実現される。記録部5は、画像取得部2によって取得された内視鏡画像群の他、画像処理装置1を動作させるとともに、種々の機能を画像処理装置1に実行させるためのプログラム、このプログラムの実行中に使用されるデータ等を記録する。例えば、記録部5は、内視鏡画像群から診断に最適な内視鏡画像を抽出する画像処理プログラム51、および、このプログラムの実行中に使用される種々の情報等を記録する。
制御部6は、CPU(Central Processing Unit)等の汎用プロセッサまたはASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)等の特定の機能を実行する各種演算回路等の専用プロセッサを用いて構成される。制御部6が汎用プロセッサである場合、記録部5が記憶する各種プログラムを読み込むことによって画像処理装置1を構成する各部への指示やデータの転送等を行い、画像処理装置1全体の動作を統括して制御する。また、制御部6が専用プロセッサである場合、プロセッサが単独で種々の処理を実行しても良いし、記録部5が記憶する各種データ等を用いることで、プロセッサと記憶部5が協働又は結合して種々の処理を実行してもよい。
演算部7は、CPU等の汎用プロセッサまたはASICやFPGA等の特定の機能を実行する各種演算回路等の専用プロセッサを用いて構成される。演算部7が汎用プロセッサである場合、記録部5から画像処理プログラム51を読み込むことにより、取得した時系列順に並ぶ内視鏡画像群から診断に最適な内視鏡画像を抽出する画像処理を実行する。また、演算部7が専用プロセッサである場合、プロセッサが単独で種々の処理を実行してもよいし、記録部5が記憶する各種データ等を用いることで、プロセッサと記録部5が協働又は結合して画像処理を実行してもよい。
〔演算部の詳細な構成〕
次に、演算部7の詳細な構成について説明する。
演算部7は、病変領域解析部71と、抽出条件設定部72と、画像抽出部73と、を備える。
病変領域解析部71は、制御部6または記録部5を介して画像取得部2が取得した内視鏡画像群、および各内視鏡画像における病変領域の座標情報を示す病変領域情報の入力を受け付け、各内視鏡画像に写る病変領域の特徴や特性を解析する。病変領域解析部71は、病変領域取得部711と、病変領域有情報取得部712と、病変特性情報算出部713と、注視動作判定部714と、を有する。
病変領域取得部711は、制御部6または記録部5を介して画像取得部2が取得した内視鏡画像群、および各内視鏡画像における病変領域の座標情報を示す病変領域情報を取得する。
病変領域有情報取得部712は、各内視鏡画像の病変領域情報に基づいて、予め設定された所定値以上の面積を持つ病変領域を含むか否かの病変領域有情報を取得する。
病変特性情報算出部713は、病変領域情報をもとに病変領域の特性を示す病変特性情報を算出する。また、病変特性情報算出部713は、病変領域有情報に予め設定された所定値以上の面積を持つ病変領域を含む情報が含まれる場合(以下、「有判定の場合」という)、病変領域情報に基づいて、病変領域のサイズ情報を取得するサイズ取得部7131を有する。
注視動作判定部714は、病変特性情報に基づいて、病変領域に対する注視動作を判定する。また、注視動作判定部714は、病変領域有情報が有判定であり、かつ、病変特性情報におけるサイズ情報が予め設定された所定値以上の場合、視認中であるとともに、近景撮像と判定する近景撮影動作判定部7141を有する。
抽出条件設定部72は、病変領域の特性(特徴)に基づいて、抽出条件を設定する。抽出条件設定部72は、抽出対象範囲設定部721を有する。
抽出対象範囲設定部721は、病変領域の特性(特徴)に基づいて、基点と基点をもとに決まる各端点間を抽出対象範囲として設定する。また、抽出対象範囲設定部721は、病変領域の特性(特徴)における動作情報に基づいて、特定の動作位置の内視鏡画像を基準画像として設定する基点画像設定部7211と、病変領域の特性(特徴)における動作情報に基づいて、基点画像の前後の特定の動作位置の内視鏡画像を端点画像とし、基点画像から端点画像の区間を設定する端点区間設定部7212と、を有する。
基点画像設定部7211は、特定の動作が予め設定された所定区間継続後、異なる動作に切り替わる位置近辺の内視鏡画像を基点画像とする動作変化点抽出部7211aを有する。
端点区間設定部7212は、特定の動作が発生する画像までの区間を設定する動作発生区間位置設定部7212aを有する。さらにまた、動作発生区間位置設定部7212aは、病変領域有情報が有判定である区間で、基点画像前後の基点画像を端点画像とする基点間設定部7212bを有する。
画像抽出部73は、抽出条件に基づいて、診断に適切な画質(所定条件を満たす画質)を有する内視鏡画像を抽出する。画像抽出部73は、病変領域の画質に応じた評価値を算出する画質評価値算出部731を有する。
〔画像処理装置の処理〕
次に、画像処理装置1が実行する画像処理方法について説明する。図2は、画像処理装置1が実行する処理の概要を示すフローチャートである。
図2に示すように、病変領域解析部71は、記録部5に記録された内視鏡画像群および病変領域情報を取得し、各内視鏡画像の病変領域の特性(特徴)を解析する病変領域特性解析処理を実行する(ステップS1)。ステップS1の後、画像処理装置1は、後述するステップS2へ移行する。
図3は、図2のステップS1の病変領域特性解析処理の概要を示すフローチャートである。図3に示すように、病変領域有情報取得部712は、病変領域取得部711が記録部5から取得した入力情報である内視鏡画像群と病変領域の座標情報を持つ病変領域情報とに基づいて、予め設定された所定値以上の面積を持つ病変領域を含むか否かの病変領域有情報を取得して判断する(ステップS10)。具体的には、病変領域有情報取得部712は、病変領域情報に、病変領域の座標情報と、病変領域が予め設定された所定値以上の面積を持つ病変領域を示す情報(フラグ)とが含まれるか否かを判断する。
続いて、病変特性情報算出部713は、病変領域情報に基づいて、病変領域の特性を示す病変特性情報を算出する(ステップS11)。具体的には、サイズ取得部7131は、病変領域有情報が有判定の場合、病変領域情報に基づいて、病変領域のサイズ情報を取得する。
その後、注視動作判定部714は、病変特性情報をもとに病変領域に対する注視動作を判定する(ステップS12)。具体的には、近景撮影動作判定部7141は、病変領域有情報が有判定の場合、視認中であり、かつ、病変特性情報におけるサイズ情報が予め設定された所定以上の場合、近景撮像と判定する。ステップS12の後、画像処理装置1は、図2のメインルーチンへ戻る。以上の処理により、病変領域解析部71は、動作情報を病変領域の特性として抽出条件設定部72へ出力する。
図2に戻り、ステップS2以降の説明を続ける。
ステップS2において、抽出条件設定部72は、内視鏡画像群に対し、病変領域の特性(特徴)に基づいて、基点と基点をもとに決まる各端点間を抽出する抽出対象範囲を設定する抽出条件設定処理を実行する。
図4は、図2のステップS2の抽出条件設定処理の概要を示すフローチャートである。図4に示すように、まず、抽出対象範囲設定部721は、病変領域の特性(特徴)における動作情報に基づいて、特定の動作位置の内視鏡画像を基点画像として設定する(ステップS20)。具体的には、基点画像設定部7211は、特定の動作が予め設定された所定区間継続後、異なる動作に切り替わる位置付近の内視鏡画像を基点画像として設定する。より具体的には、動作変化点抽出部7211aは、動作情報に基づいて、視認中であるか否かを判断するとともに、近景撮像か遠景撮像かを判断し、視認中から非視認中に切り替わるタイミング近辺の内視鏡画像であって、近景撮像から遠景撮像に切り替わるタイミング近辺の内視鏡画像を基点画像として設定する。ここで、タイミング近辺とは、視認中から非視認中に切り替わるタイミングから所定範囲の時間、例えば1秒である。また、異なる動作に切り替わる位置付近とは、異なる動作に切り替わる位置から所定範囲の時間、例えば1秒である。
続いて、端点区間設定部7212は、病変領域の特性(特徴)における動作情報に基づいて、基点画像前後の特定の動作位置の内視鏡画像を端点画像とし、基点画像から端点画像の区間を設定する(ステップS21)。具体的には、動作発生区間位置設定部7212aは、特定の動作が発生する画像までの区間を設定する。より具体的には、基点間設定部7212bは、予め設定した特定の診断動作が継続後、診断動作が切り替わるタイミングの内視鏡画像を端点画像とし、基点画像から端点画像の区間を設定する。ステップS21の後、画像処理装置1は、上述した図2のメインルーチンへ戻る。以上の処理により、抽出条件設定部72は、抽出対象範囲の情報を画像抽出部73へ出力する。
図2に戻り、ステップS3以降の説明を続ける。
ステップS3において、画像抽出部73は、抽出条件に基づいて、所定条件画質の内視鏡画像を抽出する。具体的には、画質評価値算出部731は、画素値として、表層構造における色ズレ量、先鋭度、有効領域面積のいずれか1つ以上を想定して内視鏡画像を抽出する。ここで、色ズレ量に関し、画質評価値算出部731は、画像全体から算出される彩度情報の代表値(平均値等)を基点画像で算出し、基点画像の彩度情報の代表値と比較して小さい内視鏡画像を色ズレ量が少ないとみなし、画質に関する評価値を高くするように算出する。また、先鋭度に関し、画質評価値算出部731は、基点画像の先鋭度情報と比較して大きい内視鏡画像を先鋭度が強いとみなし、画質に関する評価値を高くするように算出する。また、画質評価値算出部731は、有効領域面積が大きいほど画質に関する評価値を高くするように算出する。続いて、画像抽出部73は、算出された評価値に基づいて、画質評価値の特徴量空間上で所定範囲に入る画像を抽出することによって、高画質の画像を抽出する。
ここで、上述した特許文献1(特開2004−24559号公報)では、ユーザが指示した参照範囲から、画像を選択する際の特徴量を、参照情報に記載されている画質、又は動作を適用したものでありユーザが抽出対象範囲や、抽出枚数を指示する点についての負担軽減を解決することには言及がされていなかった。例えば、内視鏡の管腔内画像では、被写体の動作変化が大きいうえ、病変領域が撮像範囲から出入りすることが頻繁に起き被写体の変動が大きいようなシーンでは、ユーザによるフリーズの指示タイミングの失敗や、フリーズ画像の近接範囲の設定を失敗することが想定され、必ずしも高画質の画像を抽出できていなかった。これに対して、本発明の実施の形態1によれば、入力情報として得た病変領域の特性(特徴)の解析を行い、病変領域の特性(特徴)に基づいて抽出条件を設定し、この抽出条件に基づいて参照範囲画像から高画質の画像を抽出することによって、時系列順に並ぶ内視鏡画像群から診断に適切な内視鏡画像を抽出することができる。
(実施の形態1の変形例1)
次に、本発明の実施の形態1の変形例1について説明する。本実施の形態1の変形例1は、上述した実施の形態1に係る病変特性情報算出部713、注視動作判定部714、基点画像設定部7211および端点区間設定部7212の構成が異なる。以下においては、本実施の形態1の変形例1に係る病変特性情報算出部、注視動作判定部、基点画像設定部および端点区間設定部について説明する。なお、上述した実施の形態1に係る画像処理装置1と同一の構成には同一の符号を付して説明を省略する。
図5は、本発明の実施の形態1の変形例1に係る病変特性情報算出部の構成を示すブロック図である。図5に示す病変特性情報算出部713aは、病変領域情報をもとに病変領域の特性を示す病変特性情報を算出する。また、病変特性情報算出部713aは、病変領域有情報が有判定の場合、時系列順で注目の内視鏡画像と隣接する内視鏡画像との病変領域間の変化量を算出する変化量算出部7132を有する。ここで、変化量とは、注目画像と注目画像とが近接する内視鏡画像の2つの病変領域情報の論理和の面積から論理積の面積を引いた面積サイズである。
図6は、本発明の実施の形態1の変形例1に係る注視動作判定部の構成を示すブロック図である。図6に示す注視動作判定部714aは、病変特性情報に基づいて、病変領域に対する注視動作を判定する。また、注視動作判定部714aは、病変特性情報における変化量が予め設定された所定値未満の場合、停止とする静止動作判定部7142を有する。
図7は、本発明の実施の形態1の変形例1に係る基点画像設定部の構成を示すブロック図である。図7に示す基点画像設定部721aは、病変領域の特性(特徴)における動作情報に基づいて、特定の動作位置の内視鏡画像を基点画像として設定する。具体的には、基点画像設定部721aは、動作情報が移動または停止に関する情報の場合、停止から移動へ切り替わるタイミング手前の内視鏡画像を基点画像として設定する。また、基点画像設定部721aは、特定の診断動作が発生する点を基点画像とする動作発生点抽出部7213を有する。具体的には、動作発生点抽出部7213は、動作情報が操作動作に関する情報の場合において、画像取得動作時における操作者の操作の開始および終了点の内視鏡画像を基点画像とする。
図8は、本発明の実施の形態1の変形例1に係る端点区間設定部の構成を示すブロック図である。図8に示す端点区間設定部722aは、病変領域の特性(特徴)診断に適切な画質における動作情報に基づいて、基点画像の前後の特定の動作位置の内視鏡画像を端点画像とし、基点画像から端点画像の区間を設定する。また、端点区間設定部722aは、動作継続区間位置設定部7222を有する。動作継続区間位置設定部7222は、基点画像前後の病変領域有情報が有判定である区間の端点を端点画像とする病変視認区間設定部7222aと、病変領域有情報が有判定である区間で、基点画像前後に予め決められた所定値の位置の内視鏡画像を端点画像とする時間区間設定部7222bと、を備える。
以上説明した本発明の実施の形態1の変形例1によれば、入力情報として得た病変領域の特性(特徴)の解析を行い、病変領域の特性(特徴)に基づいて抽出条件を設定し、この抽出条件に基づいて参照範囲画像から高画質の画像を抽出することによって、時系列順に並ぶ内視鏡画像群から診断に適切な内視鏡画像を抽出することができる。
(実施の形態1の変形例2)
次に、本発明の実施の形態1の変形例2について説明する。本実施の形態1の変形例1は、上述した実施の形態1に係る病変特性情報算出部713および注視動作判定部714の構成が異なる。以下においては、本実施の形態1の変形例2に係る病変特性情報算出部および注視動作判定部について説明する。なお、上述した実施の形態1に係る画像処理装置1と同一の構成には同一の符号を付して説明を省略する。
図9は、本発明の実施の形態1の変形例2に係る病変特性情報算出部の構成を示すブロック図である。図9に示す病変特性情報算出部713bは、病変領域情報をもとに病変領域の特性を示す病変特性情報を算出する。また、病変特性情報算出部713bは、内視鏡画像中に病変領域が写りだしてからの枚数をカウントして連続枚数とする連続枚数取得部7133を有する。
図10は、本発明の実施の形態1の変形例2に係る注視動作判定部の構成を示すブロック図である。図10に示す注視動作判定部714bは、病変特性情報に基づいて、病変領域に対する注視動作を判定する。また、注視動作判定部714bは、病変特性情報における連続枚数が予め設定された所定値以上の場合、注視継続中とする注視継続動作判定部7143を有する。ここで、注視継続動作判定部7143における注視継続中を判定する所定値は、n枚毎といった繰り返し注視を判定する閾値である。また、連続枚数が所定数以上のもののうち、変化量の累積が所定値以下のものを注視継続中とする。
以上説明した本発明の実施の形態1の変形例2によれば、入力情報として得た病変領域の特性(特徴)の解析を行い、病変領域の特性(特徴)に基づいて抽出条件を設定し、この抽出条件に基づいて参照範囲画像から高画質の画像を抽出することによって、時系列順に並ぶ内視鏡画像群から診断に適切な内視鏡画像を抽出することができる。
(実施の形態1の変形例3)
次に、本発明の実施の形態1の変形例3について説明する。本発明の実施の形態1の変形例3は、上述した実施の形態1に係る病変領域解析部71の構成および病変領域解析部71による病変領域特性解析処理が異なる。以下においては、本実施の形態1の変形例3に係る病変領域解析部について説明後、病変領域解析部が実行する病変領域特性解析処理について説明する。なお、上述した実施の形態1に係る画像処理装置1と同一の構成には同一の符号を付して説明を省略する。
図11は、本発明の実施の形態1の変形例3に係る病変領域解析部の構成を示すブロック図である。図11に示す病変領域解析部71aは、制御部6または記録部5を介して画像取得部2が取得した内視鏡画像群、および各内視鏡画像における病変領域の座標情報を示す病変領域情報の入力を受け付け、各内視鏡画像の病変領域の特性(特徴)を解析する。病変領域解析部71aは、病変領域取得部711と、病変領域有情報取得部712と、内視鏡の信号情報に基づいて、内視鏡の操作動作を判定する操作動作判定部715と、を有する。
次に、病変領域解析部71aが実行する病変領域特性解析処理について説明する。図12は、病変領域解析部71aが実行する病変領域特性解析処理の概要を示すフローチャートである。図12において、病変領域解析部71aは、上述したステップS11およびステップS12に換えて、ステップS13を実行する。このため、以下においては、ステップS13について説明する。
ステップS13において、操作動作判定部715は、内視鏡の信号情報に基づいて、内視鏡の操作動作を判定する。具体的には、内視鏡の信号情報には、画像の倍率の変更する場像の倍率変更情報、サムネイル(フリーズ画像や静止画像)の取得を指示するサムネイル取得情報、アングルの変更を指示するアングル操作情報および、その他のボタン操作による操作情報が含まれる。
以上説明した本発明の実施の形態1の変形例3によれば、入力情報として得た病変領域の特性(特徴)の解析を行い、病変領域の特性(特徴)に基づいて抽出条件を設定し、この抽出条件に基づいて参照範囲画像から高画質の画像を抽出することによって、時系列順に並ぶ内視鏡画像群から診断に適切な内視鏡画像を抽出することができる。
(実施の形態1の変形例4)
次に、本発明の実施の形態1の変形例4について説明する。本実施の形態1の変形例4は、上述した実施の形態1に係る病変領域解析部71の構成および病変領域特性解析処理が異なる。以下においては、本実施の形態1の変形例4に係る病変領域解析部について説明後、病変領域解析部が実行する病変領域特性解析処理について説明する。なお、上述した実施の形態1に係る画像処理装置1と同一の構成には同一の符号を付して説明を省略する。
図13は、本発明の実施の形態1の変形例4に係る病変領域解析部の構成を示すブロック図である。図13に示す病変領域解析部71bは、上述した実施の形態1に係る病変領域解析部71の構成に加えて、上述した実施の形態1の変形例3に係る病変領域解析部71aの操作動作判定部715をさらに有する。
次に、病変領域解析部71bが実行する病変領域特性解析処理について説明する。図14は、病変領域解析部71bが実行する病変領域特性解析処理の概要を示すフローチャートである。図14において、病変領域解析部71bは、上述した図3のステップS10〜ステップS12をそれぞれ実行するとともに、上述した図12のステップS13を実行する。
以上説明した本発明の実施の形態1の変形例4によれば、入力情報として得た病変領域の特性(特徴)の解析を行い、病変領域の特性(特徴)に基づいて抽出条件を設定し、この抽出条件に基づいて参照範囲画像から高画質の画像を抽出することによって、時系列順に並ぶ内視鏡画像群から診断に適切な内視鏡画像を抽出することができる。
(実施の形態2)
次に、本発明の実施の形態2について説明する。本実施の形態2は、上述した実施の形態1に係る画像処理装置1の演算部7と構成が異なるうえ、実行する処理が異なる。以下においては、本実施の形態2に係る演算部の構成を説明後、本実施の形態2に係る画像処理装置が実行する処理について説明する。なお、上述した実施の形態1に係る画像処理装置1と同一の構成には同一の符号を付して説明を省略する。
〔演算部の構成〕
図15は、本実施の形態2に係る演算部の構成を示すブロック図である。図15に示す演算部7cは、上述した実施の形態1に係る病変領域解析部71および抽出条件設定部72に換えて、病変領域解析部71cおよび抽出条件設定部72cを備える。
病変領域解析部71cは、上述した実施の形態1に係る病変特性情報算出部713に換えて、病変特性情報算出部713cを有する。
病変特性情報算出部713cは、病変領域情報をもとに病変領域の特性を示す病変特性情報を算出する。また、病変特性情報算出部713cは、予め設定された悪性度のクラスに応じて、病変領域を分類する悪性度判定部7134を有する。
抽出条件設定部72cは、病変領域の特性(特徴)に基づいて、抽出条件を設定する。また、抽出条件設定部72cは、病変領域の悪性情報に基づいて、悪性度が大きい場合、小さい場合と比較して多い枚数を設定する抽出枚数決定部723を有する。
〔画像処理装置の処理〕
次に、画像処理装置1が実行する画像処理方法について説明する。図16は、画像処理装置1が実行する処理の概要を示すフローチャートである。
図16に示すように、病変領域解析部71cは、記録部5に記録された内視鏡画像群および病変領域情報を取得し、各内視鏡画像の病変領域の特性(特徴)を解析する病変領域特性解析処理を実行する(ステップS31)。
図17は、図16のステップS31の病変領域特性解析処理の概要を示すフローチャートである。図17において、ステップS311は、上述した図3のステップS10に対応する。
ステップS312において、悪性度判定部7134は、予め設定された悪性度のクラスに応じて、病変領域を分類する。具体的には、悪性度のクラス分類処理は、病変領域内部に矩形領域を設定し、矩形領域内部のテスクチャ特徴量を算出し、機械学習によってクラス分類する。ここで、テクスチャ特徴量は、SIFT特徴量やLBP特徴量、CoHoGといった公知の技術を用いて算出される。続いて、テクスチャ特徴量をBoFやBoVM等でベクトル量子化を行う。また、機械学習は、SVM等の強力な分類器で分類する。例えば、病変は、過形成ポリープ、腺腫病変および浸潤癌等に分類される。ステップS312の後、画像処理装置1は、図16のメインルーチンへ戻る。
図16に戻り、ステップS32以降の説明を続ける。
ステップS32において、抽出条件設定部72cは、内視鏡画像群に対し、病変領域の特性(特徴)に基づいて、基点と基点をもとに決まる各端点間を抽出する抽出対象範囲を設定する抽出条件設定処理を実行する。
図18は、図16のステップS32の抽出条件設定処理の概要を示すフローチャートである。図18に示すように、抽出枚数決定部723は、病変領域の悪性度情報に基づいて、悪性度が大きい場合、小さい場合と比較して多い枚数を設定する(ステップS321)。ステップS321の後、画像処理装置1は、図16のメインルーチンへ戻る。
図16に戻り、ステップS33以降の説明を続ける。
ステップS33において、画像抽出部73は、抽出条件に基づいて、診断に適切な画質(所定条件を満たす画質)を持つ内視鏡画像を抽出する内視鏡画像抽出処理を実行する。
図19は、図16のステップS33の内視鏡画像抽出処理の概要を示すフローチャートである。図19に示すように、画像抽出部73は、病変領域の画質に応じた評価値を算出する(ステップS331)。具体的には、画像抽出部73は、上述した実施の形態1の図2のステップS3と同様に算出される画質に関する評価値と、悪性度情報に関する評価値と、を取得する。
続いて、画像抽出部73は、画質評価値の特徴量空間上で所定範囲と距離とが近い方から抽出条件設定部72cで設定された抽出枚数を抽出する(ステップS332)。具体的には、画像抽出部73は、画質評価値の特徴量空間上で所定範囲と距離とが近い方から抽出条件設定部72cで設定された抽出枚数を抽出する。ステップS332の後、画像処理装置1は、図16のメインルーチンへ戻る。
以上説明した本発明の実施の形態2によれば、入力情報として得た病変領域の特性(特徴)の解析を行い、病変領域の特性(特徴)に基づいて抽出条件を設定し、この抽出条件に基づいて参照範囲画像から高画質の画像を抽出することによって、時系列順に並ぶ内視鏡画像群から診断に適切な内視鏡画像を抽出することができる。
(実施の形態3)
次に、本発明の実施の形態3について説明する。本実施の形態3は、上述した実施の形態1に係る画像処理装置1の演算部7と構成が異なるうえ、実行する処理が異なる。以下においては、本実施の形態3に係る演算部の構成を説明後、本実施の形態3に係る画像処理装置が実行する処理について説明する。なお、上述した実施の形態1に係る画像処理装置1と同一の構成には同一の符号を付して説明を省略する。
〔演算部の構成〕
図20は、本実施の形態3に係る演算部の構成を示すブロック図である。図20に示す演算部7dは、上述した実施の形態1に係る病変領域解析部71、抽出条件設定部72および画像抽出部73に換えて、病変領域解析部71d、抽出条件設定部72dおよび画像抽出部73dを備える。
病変領域解析部71dは、上述した実施の形態1に係る病変領域解析部71の病変特性情報算出部713および注視動作判定部714に換えて、病変特性情報算出部713dおよび注視動作判定部714dを有する。
病変特性情報算出部713dは、病変領域情報をもとに病変領域の特性を示す病変特性情報を算出する。また、病変特性情報算出部713dは、変領域有情報が有判定の場合、時系列順で注目の内視鏡画像と、この注目の内視鏡画像と隣接する内視鏡画像との病変領域の変化量を算出する変化量算出部7135を有する。
注視動作判定部714dは、病変特性情報に基づいて、病変領域に対する注視動作を判定する。また、注視動作判定部714dは、変化量が予め設定された所定値未満の場合、停止と判定する静止動作判定部7145を有する。
抽出条件設定部72dは、上述した実施の形態2に係る抽出条件設定部72cと同一の構成を有し、病変領域の特性(特徴)に基づいて、抽出条件を設定する。また、抽出条件設定部72cは、病変領域の悪性情報に基づいて、悪性度が大きい場合、小さい場合と比較して多い枚数を設定する抽出枚数決定部723を有する。
画像抽出部73dは、抽出条件に基づいて、所定条件画質の内視鏡画像を抽出する。また、画像抽出部73dは、病変領域の画質に応じた評価値を算出する画質評価値算出部731dを有する。また、画質評価値算出部731dは、病変領域に対する視点情報に応じた評価値を算出する視点評価値算出部7311を有する。
〔画像処理装置の処理〕
次に、画像処理装置1が実行する画像処理方法について説明する。図21は、画像処理装置1が実行する処理の概要を示すフローチャートである。
図21に示すように、病変領域解析部71dは、記録部5に記録された内視鏡画像群および病変領域情報を取得し、各内視鏡画像の病変領域の特性(特徴)を解析する病変領域特性解析処理を実行する(ステップS41)。
図22は、図21のステップS41の病変領域特性解析処理の概要を示すフローチャートである。図22に示すように、病変領域有情報取得部712は、病変領域取得部711が記録部5から取得した入力情報である内視鏡画像群と病変領域の座標情報を持つ病変領域情報とに基づいて、所定サイズ以上の病変領域を含むか否かの病変領域有情報を取得して判断する(ステップS411)。
続いて、変化量算出部7135は、病変領域有情報が有判定の場合、時系列順で注目の内視鏡画像と、この注目の内視鏡画像と隣接する内視鏡画像との病変領域の変化量を算出する(ステップS412)。
その後、静止動作判定部7145は、静止動作の診断動作を判定する(ステップS413)。具体的には、静止動作判定部7145は、変化量が予め設定された所定値未満の場合、停止と判定する。ステップS413の後、画像処理装置1は、図21のメインルーチンへ戻る。
図21に戻り、ステップS42以降の説明を続ける。
ステップS42において、抽出条件設定部72dは、内視鏡画像群に対し、病変領域の特性(特徴)に基づいて、基点と基点をもとに決まる各端点間を抽出する抽出対象範囲を設定する抽出条件設定処理を実行する。
図23は、図21のステップS42の抽出条件設定処理の概要を示すフローチャートである。図23に示すように、抽出枚数決定部723は、診断動作における静止動作情報に基づいて、非静止動作で、変化量が大きい場合、小さい場合と比較して多い枚数を設定する(ステップS421)。ステップS421の後、画像処理装置1は、図21のメインルーチンへ戻る。
図21に戻り、ステップS43以降の説明を続ける。
ステップS43において、画像抽出部73は、抽出条件に基づいて、診断に適切な画質(所定条件を満たす画質)を持つ内視鏡画像を抽出する内視鏡画像抽出処理を実行する。
図24は、図21のステップS43の内視鏡画像抽出処理の概要を示すフローチャートである。図24において、ステップS431およびステップS433は、上述した図19のステップS331およびステップS332それぞれに対応するため、説明を省略する。
ステップS432において、視点評価値算出部7311は、病変領域に対する視点情報に応じた評価値を算出する。具体的には、視点評価値算出部7311は、病変の頂部を確認できる上方から見た視点、病変の立ち上がりを確認できる側面から見た視点等、重要領域が画像中に広く写る画像の評価値が上がるように算出する。ここで、視点情報は、病変領域周囲の粘膜面の勾配上方によって定まる。例えば、視点評価値算出部7311は、上方の視点であれば、病変近傍領域の勾配強度および方向がばらつくように評価値が算出する。ステップS432の後、画像処理装置1は、ステップS433へ移行する。
以上説明した本発明の実施の形態3によれば、入力情報として得た病変領域の特性(特徴)の解析を行い、病変領域の特性(特徴)に基づいて抽出条件を設定し、この抽出条件に基づいて参照範囲画像から高画質の画像を抽出することによって、時系列順に並ぶ内視鏡画像群から診断に適切な内視鏡画像を抽出することができる。
(その他の実施の形態)
本発明では、記録装置に記録された画像処理プログラムをパーソナルコンピュータやワークステーション等のコンピュータシステムで実行することによって実現することができる。また、このようなコンピュータシステムを、ローカルエリアネットワーク(LAN)、広域エリアネットワーク(WAN)、または、インターネット等の公衆回線を介して、他のコンピュータシステムやサーバ等の機器に接続して使用しても良い。この場合、実施の形態1〜2およびこれらの変形例に係る画像処理装置は、これらのネットワークを介して管腔内画像の画像データを取得したり、これらのネットワークを介して接続されたビュアーやプリンタ等の種々の出力機器に画像処理結果を出力したり、これらのネットワークを介して接続された記憶装置、例えばネットワークに接続された読取装置によって読み取り可能な記録媒体等に画像処理結果を格納するようにしても良い。
なお、本明細書におけるフローチャートの説明では、「まず」、「その後」、「続いて」等の表現を用いてステップ間の処理の前後関係を明示していたが、本発明を実施するために必要な処理の順序は、それらの表現によって一意的に定められるわけではない。すなわち、本明細書で記載したフローチャートにおける処理の順序は、矛盾のない範囲で変更することができる。
なお、本発明は、実施の形態1〜3およびこれらの変形例に限定されるものではなく、各実施の形態や変形例に開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成できる。例えば、各実施の形態や変形例に示される全構成要素からいくつかの構成要素を除外して形成しても良いし、異なる実施の形態や変形例に示した構成要素を適宜組み合わせて形成しても良い。
1 画像処理装置
2 画像取得部
3 入力部
4 出力部
5 記録部
6 制御部
7,7c,7d 演算部
51 画像処理プログラム
62 画像抽出部
71,71a,71b,71c,71d 病変領域解析部
72,72c,72d 抽出条件設定部
73,73d 画像抽出部
711 病変領域取得部
712 病変領域有情報取得部
713,713a,713b,713c,713d 病変特性情報算出部
714,714a,714b,714d 注視動作判定部
715 操作動作判定部
721 抽出対象範囲設定部
721a 基点画像設定部
722a 端点区間設定部
723 抽出枚数決定部
731 画質評価値算出部
7131 サイズ取得部
7132 変化量算出部
7133 連続枚数取得部
7134 悪性度判定部
7135 変化量算出部
7141 近景撮影動作判定部
7142,7145 静止動作判定部
7143 注視継続動作判定部
7211 基点画像設定部
7211a,7211b 動作変化点抽出部
7212 端点区間設定部
7212a 動作発生区間位置設定部
7212b 基点間設定部
7213 動作発生点抽出部
7222 動作継続区間位置設定部
7222a 病変視認区間設定部
7222b 時間区間設定部
7311 視点評価値算出部

Claims (35)

  1. 時系列順で並ぶ内視鏡画像群における各内視鏡画像に写る病変領域の特性を解析する病変領域解析部と、
    前記病変領域の特性に基づいて、前記内視鏡画像群から診断に適切な内視鏡画像を抽出するための抽出条件を設定する抽出条件設定部と、
    前記抽出条件に基づいて、診断に適切な画質を有する内視鏡画像を前記内視鏡画像群から抽出する画像抽出部と、
    を備えることを特徴とする画像処理装置。
  2. 前記病変領域解析部は、
    前記各内視鏡画像における病変領域の座標情報を示す病変領域情報を取得する病変領域取得部と、
    前記病変領域情報に基づいて、前記各内視鏡画像において予め設定された所定値以上の面積を持つ病変領域を含むか否かを示す病変領域有情報を取得する病変領域有情報取得部と、
    前記病変領域情報に基づいて、前記病変領域の特性を示す病変特性情報を算出する病変特性情報算出部と、
    を有することを特徴とする請求項1に記載の画像処理装置。
  3. 前記病変特性情報算出部は、
    前記病変領域を予め設定された悪性度のクラスに分類する悪性度判定部を有することを特徴とする請求項2に記載の画像処理装置。
  4. 前記病変領域解析部は、
    前記各内視鏡画像における病変領域の座標情報を示す病変領域情報を取得する病変領域取得部と、
    前記病変領域情報に基づいて、前記各内視鏡画像において予め設定された所定値以上の面積を持つ病変領域を含むか否かを示す病変領域有情報を取得する病変領域有情報取得部と、
    前記病変領域情報に基づいて、前記病変領域の特性を示す病変特性情報を算出する病変特性情報算出部と、
    前記病変特性情報に基づいて、前記病変領域に対する注視動作を判定する注視動作判定部と、
    を有することを特徴とする請求項1に記載の画像処理装置。
  5. 前記病変特性情報算出部は、
    前記病変領域有情報に予め設定された所定値以上の面積を持つ病変領域を含む情報が含まれる場合、前記病変領域情報に基づいて、前記病変領域のサイズ情報を取得するサイズ取得部を有し、
    前記注視動作判定部は、
    前記サイズ情報が予め設定された所定値以上の場合、視認中と判定するとともに、近景撮影と判定する近景撮影動作判定部を有することを特徴とする請求項4に記載の画像処理装置。
  6. 前記病変特性情報算出部は、
    前記病変領域有情報に予め設定された所定値以上の面積を持つ病変領域を含む情報が含まれる場合、時系列順で注目する内視鏡画像と該注目する内視鏡画像と隣接する内視鏡画像との前記病変領域の変化量を算出する変化量算出部を有し、
    前記注視動作判定部は、
    前記変化量が予め設定された所定値未満の場合、停止と判定する静止動作判定部を有することを特徴とする請求項4に記載の画像処理装置。
  7. 前記病変特性情報算出部は、
    前記内視鏡画像群における前記各内視鏡画像に病変領域が写りだしてからの枚数をカウントする連続枚数取得部を有し、
    前記注視動作判定部は、
    前記カウントの枚数が予め設定された所定値以上の場合、注視継続中と判定する注視継続判定部を有することを特徴とする請求項4に記載の画像処理装置。
  8. 前記所定値は、予め設定された枚数毎に繰り返し注視を判定するための閾値であることを特徴とする請求項7に記載の画像処理装置。
  9. 前記注視継続判定部は、
    前記カウントの枚数が所定値以上のもののうち、前記病変領域の変化量の累積が所定値未満のものを注視継続中と判定することを特徴とする請求項7に記載の画像処理装置。
  10. 前記病変領域解析部は、
    前記各内視鏡画像における病変領域の座標情報を示す病変領域情報を取得する病変領域取得部と、
    前記病変領域情報に基づいて、前記各内視鏡画像において予め設定された所定値以上の面積を持つ病変領域を含むか否かを示す病変領域有情報を取得する病変領域有情報取得部と、
    内視鏡の信号情報に基づいて、内視鏡の操作動作を判定する操作動作判定部と、
    を有することを特徴とする請求項1に記載の画像処理装置。
  11. 前記抽出条件設定部は、
    前記病変領域の特性に基づいて、基点と基点をもとに決まる各端点間を抽出対象範囲として設定する抽出対象範囲設定部を備えることを特徴とする請求項10に記載の画像処理装置。
  12. 前記抽出対象範囲設定部は、
    前記病変領域の特性における動作情報に基づいて、特定の動作位置の内視鏡画像を基点画像として設定する基点画像設定部と、
    前記病変領域の特性における動作情報に基づいて、前記基点画像の前後における特定の動作位置の内視鏡画像を端点画像とし、前記基点画像から前記端点画像までの区間を設定する端点区間設定部と、
    を有することを特徴とする請求項11に記載の画像処理装置。
  13. 前記基点画像設定部は、
    特定の動作が予め設定された所定区間継続後、異なる動作へ切り替わる位置から所定範囲の内視鏡画像を前記基点画像とする動作変化点抽出部を有することを特徴とする請求項12に記載の画像処理装置。
  14. 前記動作変化点抽出部は、前記動作情報が視認中から非視認中へ切り替わるタイミングから所定範囲の内視鏡画像を前記基点画像とすることを特徴とする請求項13に記載の画像処理装置。
  15. 前記動作変化点抽出部は、前記動作情報が近景撮影から遠景撮影へ切り替わるタイミングから所定範囲の内視鏡画像を前記基点画像とすることを特徴とする請求項13に記載の画像処理装置。
  16. 前記動作変化点抽出部は、前記動作情報が移動から停止へ切り替わるタイミングから所定範囲の内視鏡画像を前記基点画像とすることを特徴とする請求項13に記載の画像処理装置。
  17. 前記動作変化点抽出部は、診断動作が停止から移動に切り替わるタイミング手前の内視鏡画像を前記基点画像とすることを特徴とする請求項13に記載の画像処理装置。
  18. 前記基点画像設定部は、
    特定の診断動作が発生する点を基点画像とする動作発生点抽出部を有することを特徴とする請求項12に記載の画像処理装置。
  19. 前記動作発生点抽出部は、
    前記動作情報が画像取得動作の場合、操作者の操作の開始時点および終了時点の内視鏡画像を前記基点画像とすることを特徴とする請求項18に記載の画像処理装置。
  20. 前記端点区間設定部は、
    特定の動作が発生する画像までの区間を設定する動作発生区間位置設定部を有することを特徴とする請求項12に記載の画像処理装置。
  21. 前記動作発生区間位置設定部は、
    前記病変領域有情報に予め設定された所定値以上の面積を持つ病変領域を含む情報が含まれる有区間である区間において、前記基点画像の前後の前記基点画像を前記端点画像とする基点間設定部を有することを特徴とする請求項20に記載の画像処理装置。
  22. 前記端点区間設定部は、
    特定の動作が継続している区間を設定する動作継続区間位置設定部を有することを特徴とする請求項12に記載の画像処理装置。
  23. 前記動作継続区間位置設定部は、
    前記基点画像の前後における前記病変領域有情報が有判定である区間の端点の内視鏡画像を前記端点画像とする病変視認区間設定部を有することを特徴とする請求項22に記載の画像処理装置。
  24. 前記動作継続区間位置設定部は、
    前記病変領域有情報に予め設定された所定値以上の面積を持つ病変領域を含む情報が含まれる有区間である区間において、前記基点画像の前後に予め決められた所定値の位置の内視鏡画像を前記端点画像とする時間区間設定部を有することを特徴とする請求項22に記載の画像処理装置。
  25. 前記抽出条件設定部は、
    前記病変領域の特性に応じて抽出枚数を設定する抽出枚数決定部を有することを特徴とする請求項1に記載の画像処理装置。
  26. 前記抽出枚数決定部は、悪性度が大きい場合、小さい場合と比較して多い枚数を設定することを特徴とする請求項25に記載の画像処理装置。
  27. 前記抽出枚数決定部は、前記病変領域の変化量が大きい場合、小さい場合と比較して多い枚数を設定することを特徴とする請求項25に記載の画像処理装置。
  28. 前記画像抽出部は、
    前記病変領域の画質に応じた評価値を算出する画質評価値算出部を有することを特徴とする請求項1に記載の画像処理装置。
  29. 前記画質は、表層構造における色ズレ量、先鋭度および有効領域面積のいずれか1つ以上であることを特徴とする請求項28に記載の画像処理装置。
  30. 前記画質評価値算出部は、
    前記病変領域に対する視点に応じた評価値を算出する視点評価値算出部を有することを特徴とする請求項28に記載の画像処理装置。
  31. 前記画像抽出部は、画質評価値の特徴量空間上で所定範囲と距離が近い方から前記抽出条件設定部で設定された抽出枚数を抽出することを特徴とする請求項1に記載の画像処理装置。
  32. 前記画像抽出部は、画質評価値の特徴量空間上で所定範囲に入る内視鏡画像を抽出することを特徴とする請求項1に記載の画像処理装置。
  33. 前記病変領域情報は、前記内視鏡画像群の各内視鏡画像に対して病変領域検出装置によって病変領域が検出されて生成されたものであることを特徴とする請求項2に記載の画像処理装置。
  34. 画像処理装置が実行する画像処理方法であって、
    時系列順で並ぶ内視鏡画像群における各内視鏡画像に写る病変領域の特性を解析する病変領域解析ステップと、
    前記病変領域の特性に基づいて、前記内視鏡画像群から診断に適切な内視鏡画像を抽出するための抽出条件を設定する抽出条件設定ステップと、
    前記抽出条件に基づいて、診断に適切な画質を有する内視鏡画像を前記内視鏡画像群から抽出する画像抽出ステップと、
    を含むことを特徴とする画像処理方法。
  35. 画像処理装置に、
    時系列順で並ぶ内視鏡画像群における各内視鏡画像に写る病変領域の特性を解析する病変領域解析ステップと、
    前記病変領域の特性に基づいて、前記内視鏡画像群から診断に適切な内視鏡画像を抽出するための抽出条件を設定する抽出条件設定ステップと、
    前記抽出条件に基づいて、診断に適切な画質を有する内視鏡画像を前記内視鏡画像群から抽出する画像抽出ステップと、
    を実行させることを特徴とするプログラム。
JP2018530219A 2016-07-25 2016-07-25 画像処理装置、画像処理方法およびプログラム Pending JPWO2018020558A1 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2016/071770 WO2018020558A1 (ja) 2016-07-25 2016-07-25 画像処理装置、画像処理方法およびプログラム

Publications (1)

Publication Number Publication Date
JPWO2018020558A1 true JPWO2018020558A1 (ja) 2019-05-09

Family

ID=61017544

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018530219A Pending JPWO2018020558A1 (ja) 2016-07-25 2016-07-25 画像処理装置、画像処理方法およびプログラム

Country Status (4)

Country Link
US (1) US20190156483A1 (ja)
JP (1) JPWO2018020558A1 (ja)
CN (1) CN109475278A (ja)
WO (1) WO2018020558A1 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017099616A (ja) * 2015-12-01 2017-06-08 ソニー株式会社 手術用制御装置、手術用制御方法、およびプログラム、並びに手術システム
WO2019239854A1 (ja) * 2018-06-12 2019-12-19 富士フイルム株式会社 内視鏡画像処理装置、内視鏡画像処理方法及び内視鏡画像処理プログラム
WO2020017213A1 (ja) * 2018-07-20 2020-01-23 富士フイルム株式会社 内視鏡画像認識装置、内視鏡画像学習装置、内視鏡画像学習方法及びプログラム
KR102168485B1 (ko) * 2018-10-02 2020-10-21 한림대학교 산학협력단 실시간으로 획득되는 위 내시경 이미지를 기반으로 위 병변을 진단하는 내시경 장치 및 방법
JP6877486B2 (ja) * 2018-12-04 2021-05-26 Hoya株式会社 情報処理装置、内視鏡用プロセッサ、情報処理方法およびプログラム
WO2020170809A1 (ja) * 2019-02-19 2020-08-27 富士フイルム株式会社 医療画像処理装置、内視鏡システム、及び医療画像処理方法
WO2020188682A1 (ja) * 2019-03-18 2020-09-24 オリンパス株式会社 診断支援装置、診断支援方法及びプログラム
WO2020230332A1 (ja) * 2019-05-16 2020-11-19 オリンパス株式会社 内視鏡、画像処理装置、内視鏡システム、画像処理方法およびプログラム
KR102360615B1 (ko) * 2019-11-05 2022-02-09 주식회사 인피니트헬스케어 내시경 영상에 대한 복수의 의료 영상 판독 알고리듬들을 이용하는 의료 영상 판독 지원 장치 및 방법
WO2022097294A1 (ja) * 2020-11-09 2022-05-12 オリンパス株式会社 情報処理システム、内視鏡システム及び情報処理方法
US20240153090A1 (en) * 2021-03-01 2024-05-09 Nec Corporation Image processing device, image processing method, and storage medium
CN113034480B (zh) * 2021-04-01 2023-12-19 艾德领客(上海)数字技术有限公司 一种基于人工智能及图像处理的高炉损坏分析方法
KR102388535B1 (ko) * 2021-06-15 2022-04-22 (주)제이엘케이 인공지능에 기반하여 내시경 영상을 분석하기 위한 방법 및 장치

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007252635A (ja) * 2006-03-23 2007-10-04 Olympus Medical Systems Corp 画像処理装置
WO2009008125A1 (ja) * 2007-07-12 2009-01-15 Olympus Medical Systems Corp. 画像処理装置、該動作方法及び該プログラム
JP2009056160A (ja) * 2007-08-31 2009-03-19 Olympus Medical Systems Corp 被検体内画像取得システム、被検体内画像処理方法および被検体内導入装置
JP2010187756A (ja) * 2009-02-16 2010-09-02 Olympus Corp 画像処理装置、画像処理方法および画像処理プログラム
JP2011087793A (ja) * 2009-10-23 2011-05-06 Hoya Corp 電子内視鏡用プロセッサ
JP2011156203A (ja) * 2010-02-02 2011-08-18 Olympus Corp 画像処理装置、内視鏡システム、プログラム及び画像処理方法
US20120113239A1 (en) * 2010-11-08 2012-05-10 Hagai Krupnik System and method for displaying an image stream
US20120316421A1 (en) * 2009-07-07 2012-12-13 The Johns Hopkins University System and method for automated disease assessment in capsule endoscopy
JP2015173921A (ja) * 2014-03-17 2015-10-05 オリンパス株式会社 画像処理装置、画像処理方法、及び画像処理プログラム
JP2015173827A (ja) * 2014-03-14 2015-10-05 オリンパス株式会社 画像処理装置、画像処理方法、及び画像処理プログラム

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5296396B2 (ja) * 2008-03-05 2013-09-25 オリンパスメディカルシステムズ株式会社 生体内画像取得装置、生体内画像受信装置、生体内画像表示装置およびノイズ除去方法
JP5281826B2 (ja) * 2008-06-05 2013-09-04 オリンパス株式会社 画像処理装置、画像処理プログラムおよび画像処理方法
JP6188477B2 (ja) * 2013-08-02 2017-08-30 オリンパス株式会社 画像処理装置、画像処理方法及びプログラム
JP6022133B2 (ja) * 2014-11-17 2016-11-09 オリンパス株式会社 医療装置

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007252635A (ja) * 2006-03-23 2007-10-04 Olympus Medical Systems Corp 画像処理装置
WO2009008125A1 (ja) * 2007-07-12 2009-01-15 Olympus Medical Systems Corp. 画像処理装置、該動作方法及び該プログラム
JP2009056160A (ja) * 2007-08-31 2009-03-19 Olympus Medical Systems Corp 被検体内画像取得システム、被検体内画像処理方法および被検体内導入装置
JP2010187756A (ja) * 2009-02-16 2010-09-02 Olympus Corp 画像処理装置、画像処理方法および画像処理プログラム
US20120316421A1 (en) * 2009-07-07 2012-12-13 The Johns Hopkins University System and method for automated disease assessment in capsule endoscopy
JP2011087793A (ja) * 2009-10-23 2011-05-06 Hoya Corp 電子内視鏡用プロセッサ
JP2011156203A (ja) * 2010-02-02 2011-08-18 Olympus Corp 画像処理装置、内視鏡システム、プログラム及び画像処理方法
US20120113239A1 (en) * 2010-11-08 2012-05-10 Hagai Krupnik System and method for displaying an image stream
JP2015173827A (ja) * 2014-03-14 2015-10-05 オリンパス株式会社 画像処理装置、画像処理方法、及び画像処理プログラム
JP2015173921A (ja) * 2014-03-17 2015-10-05 オリンパス株式会社 画像処理装置、画像処理方法、及び画像処理プログラム

Also Published As

Publication number Publication date
WO2018020558A1 (ja) 2018-02-01
US20190156483A1 (en) 2019-05-23
CN109475278A (zh) 2019-03-15

Similar Documents

Publication Publication Date Title
JPWO2018020558A1 (ja) 画像処理装置、画像処理方法およびプログラム
US9959618B2 (en) Image processing apparatus, image processing method, and computer-readable recording medium
US8502861B2 (en) Image display apparatus
JP5147308B2 (ja) 画像抽出装置および画像抽出プログラム
CN113573654A (zh) 用于检测并测定病灶尺寸的ai系统
JP5385138B2 (ja) 画像処理装置、該動作方法及び該プログラム
KR20200106028A (ko) 화상 진단 지원 장치, 자료 수집 방법, 화상 진단 지원 방법 및 화상 진단 지원 프로그램
US20160014328A1 (en) Image processing device, endoscope apparatus, information storage device, and image processing method
JP6741759B2 (ja) 画像処理装置、画像処理装置の作動方法及び画像処理装置の作動プログラム
US20160314585A1 (en) Dermatological feature tracking over multiple images
JP2010158308A (ja) 画像処理装置、画像処理方法および画像処理プログラム
WO2006100808A1 (ja) カプセル内視鏡画像表示制御装置
JP5676063B1 (ja) 医療装置及び医療装置の作動方法
JP5442542B2 (ja) 病理診断支援装置、病理診断支援方法、病理診断支援のための制御プログラムおよび該制御プログラムを記録した記録媒体
JP7326308B2 (ja) 医療画像処理装置及び医療画像処理装置の作動方法、内視鏡システム、プロセッサ装置、診断支援装置並びにプログラム
JP7503592B2 (ja) 内視鏡検査処置の視覚化のためのユーザインターフェース
US20220369920A1 (en) Phase identification of endoscopy procedures
JP6425868B1 (ja) 内視鏡画像観察支援システム、内視鏡画像観察支援装置、内視鏡画像観察支援方法
JP5756939B1 (ja) 画像表示装置、画像表示方法、及び画像表示プログラム
JP5573674B2 (ja) 医用画像処理装置及びプログラム
JP4909315B2 (ja) 映像処理装置及び方法及びプログラム及びコンピュータ読取可能な記録媒体
JP7100505B2 (ja) 画像処理装置、画像処理装置の作動方法、及び画像処理装置の作動プログラム
Zhang et al. Cable footprint history: Spatio-temporal technique for instrument detection in gastrointestinal endoscopic procedures
JP2019030502A (ja) 内視鏡画像観察支援システム
Vats et al. CAPTIV8: A Comprehensive Large Scale Capsule Endoscopy Dataset For Integrated Diagnosis

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190117

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190117

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200114

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200303

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20200519