JP5784751B2 - 画像処理装置、画像処理装置の作動方法、及び画像処理プログラム - Google Patents

画像処理装置、画像処理装置の作動方法、及び画像処理プログラム Download PDF

Info

Publication number
JP5784751B2
JP5784751B2 JP2013548327A JP2013548327A JP5784751B2 JP 5784751 B2 JP5784751 B2 JP 5784751B2 JP 2013548327 A JP2013548327 A JP 2013548327A JP 2013548327 A JP2013548327 A JP 2013548327A JP 5784751 B2 JP5784751 B2 JP 5784751B2
Authority
JP
Japan
Prior art keywords
distribution
color feature
determination
residue
candidate
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013548327A
Other languages
English (en)
Other versions
JPWO2013085061A1 (ja
Inventor
隆志 河野
隆志 河野
大和 神田
大和 神田
北村 誠
誠 北村
昌士 弘田
昌士 弘田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2013548327A priority Critical patent/JP5784751B2/ja
Publication of JPWO2013085061A1 publication Critical patent/JPWO2013085061A1/ja
Application granted granted Critical
Publication of JP5784751B2 publication Critical patent/JP5784751B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/143Segmentation; Edge detection involving probabilistic approaches, e.g. Markov random field [MRF] modelling
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000096Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope using artificial intelligence
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/041Capsule endoscopes for imaging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/23Clustering techniques
    • G06F18/232Non-hierarchical techniques
    • G06F18/2321Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/136Segmentation; Edge detection involving thresholding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/50Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis
    • G06V10/507Summing image-intensity values; Histogram projection analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/762Arrangements for image or video recognition or understanding using pattern recognition or machine learning using clustering, e.g. of similar faces in social networks
    • G06V10/763Non-hierarchical techniques, e.g. based on statistics of modelling distributions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20021Dividing image into blocks, subimages or windows
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20076Probabilistic image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30028Colon; Small intestine
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30092Stomach; Gastric

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • Surgery (AREA)
  • General Physics & Mathematics (AREA)
  • Medical Informatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Health & Medical Sciences (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Biophysics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Biomedical Technology (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Pathology (AREA)
  • Optics & Photonics (AREA)
  • Evolutionary Computation (AREA)
  • Probability & Statistics with Applications (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Data Mining & Analysis (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Endoscopes (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Description

本発明は、被検体の体内を撮像した画像から、診断に不要な領域を検出する画像処理装置、画像処理方法、及び画像処理プログラムに関する。
従来、患者等の被検体内に導入され、生体内を非侵襲に観察する医用観察装置として、内視鏡が広く普及している。近年では、カプセル型の筐体内部に撮像装置及び通信装置等を収容し、撮像装置で撮像を行うことにより取得した画像データを体外に無線送信する飲み込み型の内視鏡(カプセル内視鏡)も開発されている。
しかしながら、これらの医用観察装置によって生体の管腔内を撮像した画像(管腔内画像)に対する観察及び診断には、多くの経験が必要とされる。そのため、医師による診断を補助する医療診断支援機能が望まれている。このような機能を実現する画像認識技術の1つとして、管腔内画像から注目対象領域を自動的に検出し、注目対象領域を抽出して提示したり、反対に、注目対象領域を診断対象から除外して提示する技術が提案されている。
管腔内画像内の領域が注目対象領域であるか否かを判定する方法としては、例えば、各種領域(例えば粘膜領域と病変領域)の座標情報が予め与えられた複数枚の画像(教師データ)をもとに、各画素の画素値(R値、G値、B値)に基づく色特徴量(例えば、G/R値、B/G値)を成分とする色特徴量空間を用いる方法が知られている。この方法においては、上記色特徴量空間に、例えば注目対象領域に属する画素の色特徴量の分布とそれ以外の領域に属する画素の色特徴量の分布との間に判定閾値を設定し、判定対象である管腔内画像の各画素の色特徴量を上記判定閾値で閾値処理することにより、各画素が注目対象領域に属するか否かを判定する。
しかしながら、色特徴量空間において各種領域が分布する範囲は管腔内画像間で大きく揺らぐことがあるため、上記方法においては領域の検出精度が低くなるという問題がある。そこで、特許文献1においては、色特徴量空間において、管腔内画像の画素(又は管腔内画像を分割した小領域)の色特徴量の分布をクラスタリングし、各クラスタから算出した重心等の代表値を上記判定閾値と比較してクラスタごとに各領域に属するか否かを判定することにより、画像間における分布の揺らぎに起因する検出精度の低下を抑制している。
特開2010−113616号公報
ところで、自動検出が望まれる注目対象領域としては、例えば、便等の残渣が写った残渣領域が挙げられる。管腔内画像における残渣領域の判別は、色特徴量空間において、例えば黄みの強さを表す座標軸上に予め定められた判定閾値を設定することにより行うことができる。しかしながら、判定に用いる座標軸によっては、色特徴量の分布が上記判定閾値を超えて大きく変動する場合がある。このような場合、残渣領域の誤判別が生じてしまうという問題がある。
本発明は、上記に鑑みて為されたものであって、管腔内画像から残渣領域を精度良く判別することができる画像処理装置、画像処理方法、及び画像処理プログラムを提供することを目的とする。
上述した課題を解決し、目的を達成するために、本発明に係る画像処理装置は、被検体の管腔内を撮像した管腔内画像から、残渣が写った残渣領域を判別する画像処理装置において、前記管腔内画像内の各画素の色特徴量、又は、前記管腔内画像を複数の小領域に分割した各小領域の色特徴量を算出する色特徴量算出部と、前記色特徴量のうち、相対的に赤みの強い側に分布する色特徴量を粘膜分布と判定し、相対的に赤みが弱い側に分布する色特徴量を残渣候補分布として判定する残渣候補分布判定部と、残渣候補分布のうち、前記粘膜分布を基準として黄みの強い側に分布する残渣候補分布を残渣分布として判定する残渣分布判定部とを備えることを特徴とする。
本発明に係る画像処理方法は、被検体の管腔内を撮像した管腔内画像から、残渣が写った残渣領域を判別する画像処理方法において、前記管腔内画像内の各画素の色特徴量、又は、前記管腔内画像を複数の小領域に分割した各小領域の色特徴量を算出する色特徴量算出ステップと、前記色特徴量のうち、相対的に赤みの強い側に分布する色特徴量を粘膜分布と判定し、相対的に赤みが弱い側に分布する色特徴量を残渣候補分布として判定する残渣候補分布判定ステップと、残渣候補分布のうち、前記粘膜分布を基準として黄みの強い側に分布する残渣候補分布を残渣分布として判定する残渣分布判定ステップとを含むことを特徴とする。
本発明に係る画像処理プログラムは、被検体の管腔内を撮像した管腔内画像から、残渣が写った残渣領域を判別する画像処理をコンピュータに実行させるプログラムにおいて、前記管腔内画像内の各画素の色特徴量、又は、前記管腔内画像を複数の小領域に分割した各小領域の色特徴量を算出する色特徴量算出ステップと、前記色特徴量のうち、相対的に赤みの強い側に分布する色特徴量を粘膜分布と判定し、相対的に赤みが弱い側に分布する色特徴量を残渣候補分布として判定する残渣候補分布判定ステップと、残渣候補分布のうち、前記粘膜分布を基準として黄みの強い側に分布する残渣候補分布を残渣分布として判定する残渣分布判定ステップとを含むことを特徴とする。
また、本発明に係る画像処理装置は、被検体の管腔内を撮像した管腔内画像から、残渣が写った残渣領域を判別する画像処理装置において、前記管腔内画像内の各画素の色特徴量、又は、前記管腔内画像を複数の小領域に分割した各小領域の色特徴量を算出する色特徴量算出部と、赤みの度合いを判定する色特徴量の第1の判定軸において、前記色特徴量の分布に対して1つ以上の分布モデルを当てはめ、該1つ以上の分布モデルの赤みの度合いに基づき、残渣候補を表す色特徴量を判定する残渣候補分布判定部と、黄みの度合いを判定する色特徴量の第2の判定軸において、前記残渣候補分布判定部により残渣候補を表すと判定された色特徴量に対して1つ以上の分布モデルを当てはめ、該1つ以上の分布モデルの黄みの度合いに基づき、残渣を表す色特徴量を判定する残渣分布判定部と、を備えることを特徴とする。
また、本発明に係る画像処理方法は、被検体の管腔内を撮像した管腔内画像から、残渣が写った残渣領域を判別する画像処理方法において、前記管腔内画像内の各画素の色特徴量、又は、前記管腔内画像を複数の小領域に分割した各小領域の色特徴量を算出する色特徴量算出ステップと、赤みの度合いを判定する色特徴量の第1の判定軸において、前記色特徴量の分布に対して1つ以上の分布モデルを当てはめ、該1つ以上の分布モデルの赤みの度合いに基づき、残渣候補を表す色特徴量を判定する残渣候補分布判定ステップと、黄みの度合いを判定する色特徴量の第2の判定軸において、前記残渣候補分布判定ステップにおいて残渣候補を表すと判定された色特徴量に対して1つ以上の分布モデルを当てはめ、該1つ以上の分布モデルの黄みの度合いに基づき、残渣を表す色特徴量を判定する残渣分布判定ステップと、を含むことを特徴とする。
また、本発明に係る画像処理プログラムは、被検体の管腔内を撮像した管腔内画像から、残渣が写った残渣領域を判別する画像処理をコンピュータに実行させる画像処理プログラムにおいて、前記管腔内画像内の各画素の色特徴量、又は、前記管腔内画像を複数の小領域に分割した各小領域の色特徴量を算出する色特徴量算出ステップと、赤みの度合いを判定する色特徴量の第1の判定軸において、前記色特徴量の分布に対して1つ以上の分布モデルを当てはめ、該1つ以上の分布モデルの赤みの度合いに基づき、残渣候補を表す色特徴量を判定する残渣候補分布判定ステップと、黄みの度合いを判定する色特徴量の第2の判定軸において、前記残渣候補分布判定ステップにおいて残渣候補を表すと判定された色特徴量に対して1つ以上の分布モデルを当てはめ、該1つ以上の分布モデルの黄みの度合いに基づき、残渣を表す色特徴量を判定する残渣分布判定ステップと、を含むことを特徴とする。
本発明によれば、処理対象の管腔内画像から検出された粘膜分布を基準として、該粘膜分布よりも黄みの強い側に分布する残渣候補分布を残渣分布として判定するので、管腔内画像における色特徴量の分布が揺らいだ場合であっても、適応的に設定される基準に基づいて、残渣領域を精度良く判別することが可能となる。
図1は、本発明の実施の形態に係る画像処理装置の構成を示すブロック図である。 図2は、図1に示す画像処理装置の動作を示すフローチャートである。 図3は、図1に示す画像処理装置の処理対象である管腔内画像の一例を示す模式図である。 図4は、色特徴量空間にプロットされた色特徴量の分布を示す図である。 図5は、図1に示す残渣候補分布判定部の動作を示すフローチャートである。 図6は、色特徴量空間にプロットされた色特徴量の分布と、候補判定軸に対して作成された色特徴量の頻度分布を示す図である。 図7は、図1に示す分布判定部の動作を示すフローチャートである。 図8は、色特徴量空間にプロットされた色特徴量と、判定軸に対して作成された色特徴量の頻度分布とを示す図である。 図9は、図1に示す第2判定閾値設定部の動作を示すフローチャートである。 図10は、残渣分布の判定閾値の設定方法を説明する図である。 図11は、残渣分布の判定閾値の設定方法を説明する図である。 図12は、残渣分布の判定閾値の設定方法を説明する図である。 図13は、残渣分布の判定閾値の設定方法を説明する図である。 図14は、変形例1−3における判定軸を示す図である。 図15は、変形例1−5における残渣候補分布及び残渣分布の判定方法を説明する図である。 図16は、変形例1−7における第1判定閾値設定部の構成を示すブロック図である。 図17は、図16に示す合成ヒストグラム作成部の動作を説明する図である。 図18は、合成ヒストグラムを示す図である。 図19は、本発明の実施の形態2に係る画像処理装置の構成を示すブロック図である。 図20は、図19に示す分布モデル間外候補閾値設定部の詳細な構成を示すブロック図である。 図21は、図19に示す分布モデル間外閾値設定部の詳細な構成を示すブロック図である。 図22は、図19に示す画像処理装置の動作を示すフローチャートである。 図23は、図19に示す不要領域除外部の動作を示すフローチャートである。 図24は、図19に示す残渣候補分布判定部の動作を示すフローチャートである。 図25は、EMアルゴリズムの概要を説明するための模式図である。 図26は、EMアルゴリズムの概要を説明するための模式図である。 図27は、EMアルゴリズムの概要を説明するための模式図である。 図28Aは、EMアルゴリズムの概要を説明するための模式図である。 図28Bは、EMアルゴリズムの概要を説明するための模式図である。 図29は、候補判定軸における1つ以上の分布モデルの代表値を説明するための図である。 図30は、分布モデルの代表値の算出方法を説明するための図である。 図31は、分布モデルの代表値の算出方法を説明するための図である。 図32は、分布モデルの代表値の算出方法を説明するための図である。 図33は、分布モデルの代表値の算出方法を説明するための図である。 図34は、分布モデルの代表値の算出方法を説明するための図である。 図35は、色特徴量のクラスタに対する残渣候補分布の判定方法を説明するための模式図である。 図36は、色特徴量のクラスタに対する残渣候補分布の判定方法を説明するための模式図である。 図37は、残渣候補を表す色特徴量を判定する候補閾値の設定方法を説明するための模式図である。 図38は、残渣候補を表す色特徴量を判定する候補閾値の設定方法を説明するための模式図である。 図39は、図19に示す残渣分布判定部の動作を示すフローチャートである。 図40は、色特徴量のクラスタに対する残渣分布の判定方法を説明するための模式図である。 図41は、色特徴量のクラスタに対する残渣分布の判定方法を説明するための模式図である。 図42は、残渣を表す色特徴量を判定する閾値の設定方法を説明するための模式図である。 図43は、残渣を表す色特徴量を判定する閾値の設定方法を説明するための模式図である。 図44は、変形例2−1における分布モデル間外候補閾値設定部の構成を示すブロック図である。 図45は、変形例2−1における分布モデル間外閾値設定部の構成を示すブロック図である。 図46は、図44に示す分布モデル間外候補閾値設定部の動作を説明するための模式図である。 図47は、図44に示す分布モデル間外候補閾値設定部の動作を説明するための模式図である。 図48は、図44に示す分布モデル間外候補閾値設定部の動作を説明するための模式図である。 図49は、図44に示す分布モデル間外候補閾値設定部の動作を説明するための模式図である。 図50は、変形例2−2における閾値処理部の構成を示すブロック図である。 図51は、変形例2−2における色特徴量のクラスタに対する残渣分布の判定方法を説明するための模式図である。 図52は、変形例2−2における色特徴量のクラスタに対する残渣分布の判定方法を説明するための模式図である。 図53は、本発明の実施の形態3に係る画像処理装置が備える分布モデル当てはめ部の構成を示すブロック図である。 図54は、管腔内画像内の色特徴量の分布に対して分布モデルの当てはめを行う分布モデル当てはめ部の動作を示すフローチャートである。 図55は、図53に示す分布モデル当てはめ部の動作を説明するための模式図である。 図56は、図53に示す分布モデル当てはめ部の動作を説明するための模式図である。 図57は、図53に示す分布モデル当てはめ部の動作を説明するための模式図である。 図58は、図53に示す分布モデル当てはめ部の動作を説明するための模式図である。 図59は、残渣候補と判定された色特徴量の分布に対して分布モデルの当てはめを行う分布モデル当てはめ部の動作を示すフローチャートである。 図60は、本発明の実施の形態4に係る画像処理装置が備える分布モデル当てはめ部の構成を示すブロック図である。 図61は、管腔内画像内の色特徴量の分布に対して分布モデルの当てはめを行う分布モデル当てはめ部の動作を示すフローチャートである。 図62は、図60に示す分布モデル当てはめ部の動作を説明するための模式図である。 図63は、図60に示す分布モデル当てはめ部の動作を説明するための模式図である。 図64は、図60に示す分布モデル当てはめ部の動作を説明するための模式図である。 図65は、残渣候補と判定された色特徴量の分布に対して分布モデルの当てはめを行う分布モデル当てはめ部の動作を示すフローチャートである。
以下、本発明の実施の形態に係る画像処理装置、画像処理方法、及び画像処理プログラムについて、図面を参照しながら説明する。なお、これらの実施の形態によって本発明が限定されるものではない。また、各図面の記載において、同一部分には同一の符号を付して示している。
以下の実施の形態においては、一例として、カプセル内視鏡等の医用観察装置によって被検体の管腔内を撮像することにより取得された管腔内画像(以下、単に画像ともいう)から残渣領域を判別する画像処理について説明する。なお、以下の実施の形態において画像処理の対象となる管腔内画像は、各画素位置においてR(赤)、G(緑)、B(青)の各色成分(波長成分)に対する画素レベル(画素値)を持つカラー画像である。
(実施の形態1)
図1は、本発明の実施の形態1に係る画像処理装置の構成を示すブロック図である。図1において、画像信号等のデータを伝送するラインは実線で示し、制御信号を伝送するラインは破線で示している。
図1に示すように、実施の形態1に係る画像処理装置1は、画像処理装置1全体の動作を制御する制御部10と、カプセル内視鏡等の医用観察装置によって撮像された画像に対応する画像データを取得する画像取得部としての外部インタフェース(I/F)部20と、外部からの操作により入力信号を発生させる操作入力部30と、各種情報の表示を行う表示部40と、種々のプログラムや外部インタフェース部20を介して取得された画像データを記録する記録部50と、画像データに対して所定の画像処理を実行する演算部100とを備える。
制御部10は、CPU等のハードウェアによって実現され、記録部50に記録された各種プログラムを読み込むことにより、外部インタフェース部20から入力される画像データや操作入力部30から入力される操作信号等に従って、画像処理装置1を構成する各部への指示やデータの転送等を行い、画像処理装置1全体の動作を統括的に制御する。
外部インタフェース部20は、外部機器や記録媒体から画像処理装置に画像データを取り込む画像取得部である。外部インタフェース部20には、医用観察装置を含むシステムの態様に応じて、種々の外部機器が接続される。例えば、医用観察装置がカプセル内視鏡であり、医用観察装置との間の画像データの受け渡しに可搬型の記録媒体が使用される場合、この記録媒体を着脱自在に装着し、記録媒体に記録された管腔内画像の画像データを読み出すリーダ装置が外部インタフェース部20に接続される。また、医用観察装置によって撮像された管腔内画像の画像データを保存しておくサーバを設置する場合、サーバとの間でデータ通信を行う通信装置等が外部インタフェース部20に接続され、データ通信により画像データを画像処理装置1に取り込む。或いは、内視鏡等の医用観察装置を、ケーブルを介して外部インタフェース部20に接続し、画像信号を医用観察装置から画像処理装置1に直接取り込んでも良い。
操作入力部30は、例えばキーボードやマウス、タッチパネル、各種スイッチ等の入力デバイスによって実現され、受け付けた入力信号を制御部10に出力する。
表示部40は、LCDやELディスプレイ等の表示装置によって実現され、制御部10の制御の下で、管腔内画像を含む各種画面を表示する。
記録部50は、更新記録可能なフラッシュメモリ等のROMやRAMといった各種ICメモリ、内蔵若しくはデータ通信端子で接続されたハードディスク、又は、CD−ROM等の情報記録媒体及びその読取装置等によって実現される。記録部50は、外部インタフェース部20を介して取得された管腔内画像の画像データの他、画像処理装置1を動作させると共に、種々の機能を画像処理装置1に実行させるためのプログラムや、このプログラムの実行中に使用されるデータ等を記録する。具体的には、記録部50は、管腔内画像から残渣領域を判別する画像処理を当該画像処理装置1に実行させるための画像処理プログラム51と、当該画像処理プログラムの実行中に用いられる判定閾値等を記録する。
演算部100は、CPU等のハードウェアによって実現され、画像処理プログラム51を読み込むことによって管腔内画像に対応する画像データに画像処理を施し、管腔内画像から残渣領域を判別するための種々の演算処理を行う。
次に、演算部100の詳細な構成について説明する。
演算部100は、管腔内画像内の各画素の色特徴量を算出して分布を作成する色特徴量算出部110と、色特徴量の分布のうち、相対的に赤みの強い側に分布する色特徴量を粘膜分布と判定し、相対的に赤みが弱い側に分布する色特徴量を残渣候補分布として判定する残渣候補分布判定部120と、残渣候補分布のうち、粘膜分布を基準として黄みの強い側に分布する残渣候補分布を残渣分布として判定する残渣分布判定部130とを備える。
この内、残渣候補分布判定部120は、粘膜分布と残渣候補分布とを判別して各分布が残渣候補分布か否かを判定する判定軸を候補判定軸として設定する候補判定軸設定部121と、各画素が有する色特徴量の頻度分布を表すヒストグラムを上記候補判定軸に対して作成する第1ヒストグラム作成部122と、粘膜領域に対応する色特徴量の範囲を抽出するための判定閾値(以下、候補判定閾値ともいう)を候補判定軸上に設定する第1判定閾値設定部123と、この判定閾値をもとに、粘膜分布と残渣候補分布とを判定する候補判定部124とを有する。
この内、候補判定軸設定部121は、少なくとも赤みの強さが変化する色特徴量に対応する軸を候補判定軸に設定する。
また、第1ヒストグラム作成部122は、管腔内画像から泡領域、暗部領域、及び赤色病変領域との内の少なくとも1つを検出し、残渣領域の判別に不要な領域と判定して除外する不要領域除外部122aを含む。より詳細には、不要領域除外部122aは、暗部領域判定部122a−1と、泡領域判定部122a−2と、赤色病変領域判定部122a−3とを含む。
第1判定閾値設定部123は、第1ヒストグラム作成部122が作成したヒストグラムに基づいて、上記候補判定閾値を設定する。より詳細には、第1判定閾値設定部123は、ヒストグラムの双性の形状を評価して、この評価結果をもとにヒストグラムを1つ又は2つの正規分布で近似し、近似した正規分布と粘膜分布及び残渣分布との関係に基づいて候補判定閾値を設定する。或いは、第1判定閾値設定部123は、ヒストグラムが双性を有しないと評価される場合には、ヒストグラムを正規分布で近似することなく、ヒストグラムそのものに基づいて候補判定閾値を設定しても良い。
一方、残渣分布判定部130は、残渣候補分布が残渣分布に相当するか否かを判定する際に用いられる判定軸を設定する判定軸設定部131と、残渣候補分布に含まれる色特徴量の頻度分布を表すヒストグラムを上記判定軸に対して作成する第2ヒストグラム作成部132と、残渣候補分布が残渣分布に相当するか否かを判定する際の判定閾値を判定軸上に設定する第2判定閾値設定部133と、判定閾値よりも黄みの強い側に存在する残渣候補分布を残渣分布として判定する判定部134とを有する。
この内、判定軸設定部131は、黄みの強さが変化する色特徴量に対応する軸を判定軸に設定する。
また、第2判定閾値設定部133は、第2ヒストグラム作成部132が作成したヒストグラムに基づいて、上記判定閾値を設定する。より詳細には、第2判定閾値設定部133は、ヒストグラムの双性の形状を評価して、この評価結果をもとにヒストグラムを1つ又は2つの正規分布で近似し、近似した正規分布と粘膜分布との関係に基づいて判定閾値を設定する。或いは、第2判定閾値設定部133は、ヒストグラムが双性を有しないと評価される場合には、ヒストグラムを正規分布で近似することなく、ヒストグラムそのものに基づいて判定閾値を設定しても良い。
次に、画像処理装置1の動作について説明する。図2は、画像処理装置1の動作を示すフローチャートである。また、図3は、画像処理装置1の処理対象である管腔内画像の一例を示す模式図である。図3に例示する画像M1には、管腔内の粘膜領域m1と、この粘膜領域m1の手前側に写った残渣領域m2と、粘膜の一部が白色化した白色病変領域m3とが表示されている。
まず、ステップS11において、画像処理装置1は、外部インタフェース部20を介して被検体の管腔内画像を取得し、記録部50に記録する。演算部100は、処理対象の画像(例えば、図3に示す画像M1)を記録部50から順次読み込む。
続くステップS12において、色特徴量算出部110は、管腔内画像内の各画素の画素値(R成分、G成分、B成分)から色特徴量を算出する。実施の形態1においては、第1の色特徴量として、G成分とR成分の比であるG/R値を算出し、第2の色特徴量として、B成分とG成分の比であるB/G値とを算出する。
ステップS13において、残渣候補分布判定部120は、例えば図4に示すような管腔内画像の色特徴量の分布のうち、粘膜分布よりも赤みの弱い分布を残渣候補分布として判定する。
図5は、候補分布判定部の詳細な動作を示すフローチャートである。
ステップS131において、候補判定軸設定部121は、色特徴量を粘膜分布と残渣候補分布とに判別する際に用いられる候補判定軸として、G/R値に対応する軸(G/R軸)を設定する。ここで、R、G、Bの各成分がいずれも0〜255の間の画素レベルで輝度飽和せずに安定して得られる管腔内画像において、粘膜分布の変動は、G/R値において十分に小さい。このため、候補判定軸をG/R値に対応して設定することにより、後段の閾値処理において、粘膜領域と、該粘膜領域に対して赤みが弱い色特徴量の分布である残渣候補分布とを分離し易くすることができる。
ステップS132において、第1ヒストグラム作成部122は、候補判定軸に対して、管腔内画像の各画素の色特徴量の頻度分布を表すヒストグラムを作成する。
そのために、まず、不要領域除外部122aは、粘膜分布と残渣候補分布との判別に不要な領域を除外する。不要領域としては、例えば、被写体の観察が困難な暗部領域や、管腔内において消化液等が泡となった泡領域や、残渣ではないことが確定的な赤色病変領域等が挙げられる。
より詳細には、暗部領域判定部122a−1は、輝度値Y(参考:CG−ARTS協会、「ディジタル画像処理」、第299頁)又は所定の画素値(例えば、R値)が所定の閾値よりも低い画素の領域を暗部領域として判定する。ここで、R値を用いるのは、Rの色成分は、管腔内画像においては最も吸光が少なく、被写体の表面でほとんど反射されるので、粘膜の構造情報を最もよく反映するからである。
また、泡領域判定部122a−2は、輝度値Yの周波数成分が所定の閾値よりも高く、且つ、彩度(参考:CG−ARTS協会、「ディジタル画像処理」、第64頁)が所定の閾値よりも低い画素の領域を泡領域として判定する。周波数成分は、管腔内画像にDCT変換(離散コサイン変換)を施した後に得られる係数や、元の管腔内画像とその平均画像との差分値を算出することにより求めることができる。また、彩度に基づく判定は、例えば、色比情報(G/R値及びB/G値)を閾値処理することにより行うことができる。
また、赤色病変領域判定部122a−3は、色特徴量空間における色特徴量の頻度分布を、該頻度分布の山ごとに分水嶺等の処理を施すことによりクラスタリングし、頻度が多い主要な分布(例えば最大クラスタ)から外れた分布(クラスタ)を抽出し、この外れたクラスタのうち、絶対位置や相対位置が上記主要な分布よりも赤みの強い側に位置するクラスタ内の色特徴量に対応する画素の領域を赤色病変領域として判定する。
不要領域除外部122aは、これらの不要領域が検出された場合、各不要領域に含まれる画素にフラグ(例えば、0:その他、1:暗部領域、2:泡領域、3:赤色病変領域)を付加したフラグ画像を作成する。
第1ヒストグラム作成部122は、このフラグ画像をもとに、管腔内画像から暗部領域、泡領域、及び赤色病変領域といった不要領域を除外し、その結果残った領域の画素の色特徴量の頻度分布を表すヒストグラムを候補判定軸に対して作成する。第1ヒストグラム作成部122は、さらに、作成したヒストグラムに対し、頻度が所定値以下となる分布をノイズとして除外する。或いは、ヒストグラムの和(積分値)が1となるように当該ヒストグラムを正規化した後、所定の割合以下となる分布をノイズとして除外しても良い。図6に示す分布D10は、管腔内画像から不要領域を除いた後の管腔内画像における色特徴量の頻度分布を示している。なお、上述したノイズの除外処理は必須ではなく、省略しても良い。
ステップS133において、第1判定閾値設定部123は、粘膜分布と残渣候補分布とを判別するための判定閾値(候補判定閾値)を設定する。より詳細には、第1判定閾値設定部123は、後述するステップS134において候補判定部124が判定に用いる各クラスタの代表値が最小値である場合、教師データによる粘膜分布及び残渣分布の各クラスタの最小値の分布を各々作成し、両分布の境界付近を候補判定閾値として予め算出して持っておく。また、候補判定部124が判定に用いる各クラスタの代表値が重心位置の場合、粘膜分布及び残渣分布の各々の重心の分布から、両分布の境界付近を候補判定閾値として持っておく。
ステップS134において、候補判定部124は、判定閾値をもとに粘膜分布と残渣候補分布とを判別する。より詳細には、候補判定部124は、色特徴量空間における色特徴量の分布をクラスタリングすると共に、各クラスタの代表値(例えば、重心位置)を算出し、この代表値を候補判定閾値Th0と比較することにより、クラスタごとに粘膜分布であるか残渣候補分布であるかの判定を行う。具体的には、図6に示すように、重心位置g10が候補判定閾値Th0よりも赤みの強い側(G/R値の小さい側)にあるクラスタC10は粘膜分布と判定され、重心位置g21、g22が候補判定閾値Th0よりも赤みの弱い側(G/R値の大きい側)にあるクラスタC21、C22は残渣候補分布と判定される。なお、クラスタリングの手法としては、分水嶺処理、階層法、k-means法(参考:CG−ARTS協会、「ディジタル画像処理」、第231〜232頁)、期待値最大化アルゴリズム(EMアルゴリズム)、自己組織化マップ等の公知の手法を用いることができる。また、クラスタの代表値としては、重心位置の他にも、平均値、最頻値、最小値等を用いても良い。また、図6には粘膜分布に相当するクラスタとして、クラスタC10のみが示されているが、粘膜分布に相当するクラスタが複数生成される場合もあり得る。
或いは、候補判定部124は、各色特徴量cnを候補判定閾値Th0と比較することにより、色特徴量cnごとに粘膜分布と残渣候補分布とのうちのいずれに含まれるかの判定を行っても良い。
この後、画像処理装置1の動作はメインルーチンに戻る。
ステップS13に続くステップS14において、残渣分布判定部130は、残渣候補分布判定部120から粘膜分布及び残渣候補分布にそれぞれ属する色特徴量cnの情報を受取り、残渣分布を判別する。具体的には、粘膜分布を基準として黄みの強い側に分布する残渣候補分布を残渣分布と判定する。
図7は、残渣分布判定部130の詳細な動作を示すフローチャートである。
ステップS141において、判定軸設定部131は、残渣候補分布が残渣分布に相当するか否かを判定する際に用いられる判定軸として、B/G値に対応する軸(B/G軸)を設定する。B/G値は、黄みが強いほど値が小さくなる。
ステップS142において、第2ヒストグラム作成部132は、判定軸に対して、残渣候補分布に属する色特徴量cnの頻度分布を表すヒストグラムを作成し、さらに、作成したヒストグラムに対し、頻度が所定値以下となる分布をノイズとして除外する。或いは、ヒストグラムの和(積分値)が1となるように当該ヒストグラムを正規化した後、所定の割合以下となる分布をノイズとして除外しても良い。例えば、図8に示す分布D20は、残渣候補分布と判定されたクラスタC21、C22に含まれる色特徴量cnの分布を表す。なお、上述したノイズの除外処理は必須ではなく、省略しても良い。
ステップS143において、第2判定閾値設定部133は、残渣候補分布が残渣分布に相当するか否かを判定するための判定閾値を設定する。
図9は、第2判定閾値設定部133の詳細な動作を示すフローチャートである。以下、図8及び図10〜図13に具体例を示しつつ説明する。なお、以下の説明においては、各分布の代表値として重心位置を用いるが、代表値としては、この他にも、平均値、最頻値等を用いても良い。
まず、ステップs1において、第2判定閾値設定部133は、粘膜分布(クラスタC10)の重心位置g10を判定軸(B/G軸)上に射影した重心位置kG10を取得する。
続くステップs2において、第2判定閾値設定部133は、ステップS142において作成したヒストグラム(分布D20)の幅Wが所定値以上であるか否かを判定する。
幅Wが所定値以上である場合(ステップs2:Yes)、第2判定閾値設定部133は、分布D20を2つの正規分布に近似する(ステップs3)。2つの正規分布への近似法としては、例えば、期待値最大化アルゴリズム(EMアルゴリズム)を用いることができる。それにより、図10に示すように、分布D20の境界位置kBORDERと、2つの正規分布D21及びD22とが得られる。
続くステップs4において、第2判定閾値設定部133は、2つの正規分布D21、D22それぞれの重心位置kG21、kG22を取得する。
ステップs5において、第2判定閾値設定部133は、粘膜分布の重心位置kG10が2つの正規分布D21、D22の重心位置kG21、kG22の間にあるか否かを判定する。
図10に示すように、粘膜分布の重心位置kG10が2つの正規分布D21、D22の重心位置kG21、kG22の間にある場合(ステップs5:Yes)、第2判定閾値設定部133は、境界位置kBORDERを判定閾値に設定する(ステップs6)。
一方、粘膜分布の重心位置kG10が2つの正規分布D21、D22の重心位置kG21、kG22の間にない場合(ステップs5:No)、続いて、第2判定閾値設定部133は、粘膜分布の重心位置kG10が2つの正規分布D21、D22の重心位置kG21、kG22よりも黄みの強い側(B/G値が小さい側)にあるか否かを判定する(ステップs7)。
図11に示すように、粘膜分布の重心位置kG10が重心位置kG21、kG22よりも黄みの強い側(B/G値が小さい側)にある場合(ステップs7:Yes)、第2判定閾値設定部133は、2つの正規分布D21、D22の分布範囲の最小値kMinを取得し、該最小値kMinを判定閾値に設定する(ステップs8)。
一方、図12に示すように、正規分布D21、D22の重心位置kG21、kG22の方が粘膜分布の重心位置kG10よりも黄みの強い側(B/G値が小さい側)にある場合(ステップs7:No)、第2判定閾値設定部133は、2つの正規分布D21、D22の分布範囲の最大値kMaxを取得し、該最大値kMaxを判定閾値に設定する(ステップs9)。
また、ステップs2において、図13に示すようにヒストグラム(分布D20)の幅Wが所定値よりも小さいと判定された場合(ステップs2:No)、第2判定閾値設定部133は、ヒストグラムを1つの正規分布D30に近似する(ステップs10)。なお、特徴量空間内に示す分布C30は、正規分布D30に対応する色特徴量cnの分布である。
ステップs11において、第2判定閾値設定部133は、正規分布D30の分布範囲の最大値kMAX、最小値kMIN、及び重心位置k30を取得する。なお、この際、第2判定閾値設定部133は、正規分布D30ではなく、元のヒストグラム(図13に示す分布D20)から直接、分布範囲の最大値kMAX、最小値kMIN、及び重心位置k30を取得しても良い。この場合、ステップs10は省略しても良い。
ステップs12において、第2判定閾値設定部133は、粘膜分布の重心位置kG10が正規分布D30の重心位置kG30よりも黄みの強い側にあるか否かを判定する。
粘膜分布の重心位置kG10が正規分布D30の重心位置kG30よりも黄みの強い側(B/G値が小さい側)にある場合(ステップs12:Yes)、第2判定閾値設定部133は、正規分布D30の分布範囲の最小値kMinを判定閾値に設定する(ステップs13)。
一方、図13に示すように、粘膜分布の重心位置kG10が正規分布D30の重心位置kG30よりも黄みの弱い側(B/G値が大きい側)にある場合(ステップs12:No、図13に示す場合)、第2判定閾値設定部133は、正規分布D30の分布範囲の最大値kMaxを判定閾値に設定する(ステップs14)。
その後、残渣分布判定部130の動作は図7に示すサブルーチンに戻る。
ステップS143に続くステップS144において、判定部134は、判定閾値をもとに、残渣候補分布が残渣分布に相当するか否かを判定する。より詳細には、判定部134は、残渣候補である各分布の代表値(例えば、重心位置)を判定閾値と比較し、代表値が判定閾値よりも黄みの強い側にある分布は残渣分布であると判定し、代表値が判定閾値よりも黄みの弱い側にある分布は残渣分布ではないと判定する。例えば、図10の場合、判定閾値として設定された境界位置kBORDERよりも重心位置kG21における黄みが強い(B/G値が小さい)クラスタC21は残渣分布であると判定され、境界位置kBORDERよりも重心位置kG22における黄みが弱い(B/G値が大きい)クラスタC22は残渣分布ではないと判定される。このようにして残渣分布と判定された色特徴量を有する画素が、残渣領域の画素であると判定される。
なお、判定部134は、残渣候補分布に含まれる各色特徴量cnを判定閾値と比較することにより、色特徴量cnごとに残渣分布に含まれるか否かの判定を行っても良い。
この後、画像処理装置1の動作はメインルーチンに戻る。
ステップS14に続くステップS15において、演算部100は、ステップS14における判定結果を出力する。これに応じて、制御部10は、この判定結果を記録部50に記録させると共に、表示部40に表示させる。
以上説明したように、実施の形態1においては、赤みの強さが変化する色特徴量を表す候補判定軸において、粘膜分布と残渣候補分布とを判別し、次に、黄みの強さが変化する色特徴量を表す判定軸において、残渣候補分布と粘膜分布との相対的な関係に応じて残渣分布を判別する。即ち、実施の形態1によれば、学習によって予め設定された閾値ではなく、処理対象の管腔内画像内の色特徴量の相対的な関係に基づいて適応的に設定された閾値を用いて、残渣分布を判別するので、残渣領域を従来よりも高精度で検出することが可能となる。
特に、残渣領域は、管腔内画像間における色特徴量の分布の変動が大きいので、処理対象の管腔内画像ごとに判定閾値を適応的に設定することにより、各管腔内画像における残渣領域の検出精度を向上させることができる。
(変形例1−1)
次に、変形例1−1について説明する。
上述した実施の形態において、色特徴量算出部110は、管腔内画像内の各画素の色特徴量を算出して、色特徴量の分布を作成した。しかしながら、色特徴量算出部110は、管腔内画像を複数の小領域に分割し、小領域単位で色特徴量を算出しても良い。管腔内画像を分割する小領域は、予め設定されたサイズの矩形領域であっても良い。或いは、管腔内画像の画素値(R値若しくはG値)又は画素値から算出される輝度値Yに対して分水嶺処理(参考:Luc Vincent and Pierre Soille,“Watersheds in Digital Spaces: An Efficient Algorithm Based on Immersion Simulations”,IEEE Transactions on Pattern Analysis and Machine Intelligence, Vol.13,No.6, pp.583−598,June 1991)等を施すことにより、管腔内画像を複数の小領域に分割しても良い。小領域単位の色特徴量としては、例えば各小領域に含まれる画素の色特徴量の平均値が用いられる。
この場合、残渣候補分布判定部120及び残渣分布判定部130は、小領域単位で算出された色特徴量の分布に基づいて、上述した処理を行う。
変形例1−1によれば、色特徴量を小領域単位で算出することによりノイズの影響を抑制することができるので、不要領域の判定精度を向上させることが可能となる。
(変形例1−2)
次に、変形例1−2について説明する。
候補判定軸設定部121は、粘膜領域と残渣候補領域とを判別する際に用いられる候補判定軸を、複数の管腔内画像間における粘膜分布の変動が小さい色特徴量に対応して設定しても良い。それにより、粘膜領域の検出誤差を低減できるからである。この場合、候補判定軸設定部121は、予め複数の管腔内画像から取得した粘膜領域内の色特徴量をプロットした色特徴量空間において、例えば、1次関数による最小二乗法、回帰法、固有値法等を実行することにより、分散が最小となる方向を検出して、該方向に対応する色特徴量を候補判定軸として設定する。
(変形例1−3)
次に、変形例1−3について説明する。
判定軸設定部131は、残渣候補分布が残渣分布に相当するか否かを判定する際に用いられる判定軸を、管腔内画像間において残渣候補領域の変動幅が大きい色特徴量に対応して設定しても良い。これは、残渣候補分布には、白色病変領域に対応する分布やハレーション領域に対応する分布のように、残渣分布以外の複数の分布が含まれるため、これらの分布を明確に分離できるようにするためである。この場合、判定軸設定部131は、予め複数の管腔内画像から取得した残渣領域内の色特徴量をプロットした色特徴量空間において、分散が最大となる方向を検出して、該方向に対応する色特徴量に関する座標軸を判定軸として設定する。
図14は、残渣候補分布において分散の大きい色特徴量に対応して設定された判定軸を、処理対象の管腔内画像内の画素の色特徴量がプロットされた色特徴量空間に重ねて表示した例を示している。図14に示すように、設定された判定軸が色特徴量空間の軸と平行にならない場合(即ち、判定軸に対応する色特徴量が、G/R値、B/R値のいずれとも異なる場合)には、処理対象の管腔内画像の色特徴量を、G/R値及びB/G値を成分とする色特徴量空間に一旦プロットした上で、設定した判定軸に対して色特徴量の頻度分布を累積すると良い。
或いは、別の変形例として、簡易的には、色特徴量空間において候補判定軸と直交する軸に対応する色特徴量を表す判定軸を設定しても良い。
(変形例1−4)
次に、変形例1−4について説明する。
第1判定閾値設定部123は、粘膜領域と残渣候補領域とを判別する際に用いられる候補判定閾値を、予め複数の管腔内画像から取得した色特徴量の分布に基づいて設定しても良い。そのために、まず、第1判定閾値設定部123は、各管腔内画像に対し、粘膜領域内の画素の色特徴量(例えば、G/R値)の頻度分布を作成し、分水嶺処理により頻度分布を山毎に分割する。そして、山毎に分割した各分布の重心位置を算出する。続いて、第1判定閾値設定部123は、複数の管腔内画像から取得した重心位置の頻度分布を作成する。この重心位置の頻度分布において、頻度が最大となる色特徴量から赤みの弱い側(例えばG/R値が大きい側)を見たときに、頻度が最初に最小又は極小となるときの候補判定軸の値を候補判定閾値とする。
(変形例1−5)
次に、変形例1−5について説明する。
候補判定部124は、処理対象の管腔内画像の色特徴量をクラスタリングしたクラスタごとに、残渣候補分布に相当するか否かを判定しても良い。なお、クラスタリングの手法としては、上述したように、分水嶺処理、階層法、k-means法、EMアルゴリズム、自己組織化マップ等の公知の手法を用いることができる。
この場合、候補判定部124は、例えば図15に示すように、色特徴量空間における色特徴量の分布をクラスタリングして得られた各クラスタC41〜C43の重心位置g41(x41、y41)、g42(x42、y42)、g43(x43、y43)を取得する。なお、値x41、x42、x43は、重心位置g41、g42、g43の候補判定軸(G/R軸)における重心成分であり、値y41、y42、y43は、重心位置g41、g42、g43の判定軸(B/G軸)における重心成分である。
候補判定部124は、重心成分x41、x42、x43と候補判定閾値Th0とを比較し、候補判定閾値Th0よりも重心位置が赤みの強い側(G/R値が小さい側)にあるクラスタC41を粘膜分布と判定し、候補判定閾値Th0よりも赤みの弱い側(G/R値が大きい側)に重心位置があるクラスタC42、C43を残渣候補分布と判定する。
また、判定部134は、残渣候補分布に対し、クラスタごとに残渣分布に相当するか否かを判定しても良い。この場合、判定部134は、例えば図15に示すように、残渣候補分布として判定されたクラスタC42、C43の重心成分y42、y43を、粘膜分布として判定されたクラスタC41の重心成分y41と比較し、重心位置が粘膜分布のクラスタC41の重心位置よりも黄みの強い側(B/G値が小さい側)にあるクラスタC42を残渣分布と判定し、重心位置が粘膜分布のクラスタC41の重心位置よりも黄みの弱い側(B/G値が大きい側)にあるクラスタC43を残渣分布ではないと判定する。
或いは、判定部134は、実施の形態において説明した方法により残渣候補分布が残渣分布に相当するか否かを判定する際に用いられる判定閾値が取得されている場合には、クラスタC42、C43の重心成分y42、y43をこの判定閾値と比較することにより判定を行っても良い。
(変形例1−6)
次に、変形例1−6について説明する。
第1判定閾値設定部123は、第2判定閾値設定部133と同様に、ヒストグラムの双性の形状を評価し、この評価結果をもとにヒストグラムの境界位置を算出して、この境界位置を判定閾値に設定しても良い。
即ち、第1判定閾値設定部123は、候補判定軸に対して作成された特徴量のヒストグラムが所定値以上の幅を有する場合、EMアルゴリズム等の手法により、このヒストグラムに2つの正規分布に近似する。続いて、第1判定閾値設定部123は、候補判定軸において、各正規分布の代表値(例えば重心位置)をもとに、例えば教師データから取得された粘膜ヒストグラムの重心位置と比較して、各正規分布が粘膜分布と残渣候補分布とのいずれに対応するかを判定する。ここで、2つの正規分布が共に粘膜分布に対応すると判定された場合、第1判定閾値設定部123は、2つの正規分布の範囲の最大値を判定閾値に設定する。また、2つの正規分布が共に残渣候補分布に対応すると判定された場合、第1判定閾値設定部123は、2つの正規分布の範囲の最小値を判定閾値に設定する。さらに、2つの正規分布の内の一方が粘膜分布で、他方が残渣候補分布に対応すると判定された場合、第1判定閾値設定部123は、2つの正規分布の境界位置を判定閾値に設定する。
また、ヒストグラムの幅が所定値以下の場合、第1判定閾値設定部123は、ヒストグラムを1つの正規分布に近似する。続いて、第1判定閾値設定部123は、候補判定軸における正規分布の代表値(例えば重心位置)をもとに、例えば教師データから取得された粘膜ヒストグラムの重心位置と比較して、その正規分布が粘膜分布と残渣候補分布との内のいずれに対応するかを判定する。そして、正規分布が粘膜分布に対応すると判定された場合、第1判定閾値設定部123は、正規分布の範囲の最大値を判定閾値に設定する。一方、正規分が残渣候補分布に対応すると判定された場合、第1判定閾値設定部123は、正規分布の範囲の最小値を判定閾値に設定する。
(変形例1−7)
次に、変形例1−7について説明する。
変形例1−7においては、図1に示す第1判定閾値設定部123の代わりに、図16に示すように、合成ヒストグラム作成部125aを含む第1判定閾値設定部125を適用しても良い。
ここで、例えば図17の画像M2として例示するように、管腔内画像の大部分に判定対象の一方の領域(例えば粘膜領域m4)が写っており、判定対象の他方の領域(例えば残渣領域m5)が僅かしか写っていない場合、管腔内画像全体の画素の色特徴量を用いて1つのヒストグラムを作成すると、僅かな領域に対応する頻度がノイズに埋もれてしまい、両領域に対応する粘度分布及び残渣分布を適切に判別できなくなるおそれがある。
このような場合、合成ヒストグラム作成部125aは、まず、管腔内画像を所定のサイズの複数の矩形領域に分割し、矩形領域毎に、画素の色特徴量の頻度分布を表すヒストグラムを候補判定軸に対して作成する。例えば、図17の場合、1つの画像M2が16個の矩形領域A01〜A16に分割され、各矩形領域A01〜A16に対して、図18に示す16個のヒストグラムa01〜a16が作成される。続いて、合成ヒストグラム作成部125aは、これらのヒストグラムを合成した合成ヒストグラムを作成する。図18に示すように、合成ヒストグラムD40は、各色特徴量において、ヒストグラムa01〜a16間の頻度の最大値を抽出して合成したものである。或いは、最大値の代わりに最頻値を抽出して合成ヒストグラムを作成しても良い。
この変形例1−7によれば、粘膜領域又は残渣領域のいずれかが極端に小さい場合においても、候補判定軸に対して作成される合成ヒストグラムには、各矩形領域内における粘膜領域と残渣領域との割合に応じた分布の特徴が現れる。従って、適切な判定閾値を設定して粘膜領域と残渣候補領域とを判別することが可能となる。
(実施の形態2)
次に、本発明の実施の形態2について説明する。
図19は、本発明の実施の形態2に係る画像処理装置の構成を示すブロック図である。図19に示すように、実施の形態2に係る画像処理装置2は、図1に示す演算部100の代わりに、演算部200を備える。なお、演算部200以外の各部の構成及び動作については、実施の形態1と同様である。
演算部200は、管腔内画像内の各画素又は小領域ごとの色特徴量を算出して分布を作成する色特徴量算出部210と、管腔内画像から残渣領域の判別に不要な領域を除外する不要領域除外部220と、管腔内画像内の色特徴量の赤みの度合いに基づき、残渣候補を表す色特徴量を判定する残渣候補分布判定部230と、残渣候補として判定された色特徴量の黄みの度合いに基づき、残渣を表す色特徴量を判定する残渣分布判定部240とを備える。このうち、色特徴量算出部210の動作は、図1に示す色特徴量算出部110と同様である。
不要領域除外部220は、暗部領域判定部221と、泡領域判定部222と、赤色病変領域判定部223とを備え、これらの各部により泡領域、暗部領域、及び赤色病変領域としてそれぞれ判定された領域を不要領域として除外する。なお、暗部領域判定部221、泡領域判定部222、及び赤色病変領域判定部223の動作は、図1に示す暗部領域判定部122a−1、泡領域判定部122a−2、及び赤色病変領域判定部122a−3とそれぞれ同様である。
残渣候補分布判定部230は、分布モデル当てはめ部231と、分布モデル判定部232と、候補閾値設定部233と、候補判定部234とを備え、相対的に赤みが弱い側に分布する色特徴量を残渣候補分布として判定する。このうち、分布モデル当てはめ部231は、赤みの度合いを判定するための候補判定軸(第1の判定軸)において、管腔内画像内の色特徴量の分布に対して1つ以上の分布モデルを当てはめる。分布モデル判定部232は、1つ以上の分布モデルを予め設定されている所定の閾値(固定値)と比較することにより、該1つ以上の分布モデルの赤みの度合いに基づいて、各分布モデルが残渣候補であるか否か判定する。候補閾値設定部233は、分布モデル判定部232による判定結果をもとに、残渣候補を表す色特徴量を判定するための候補閾値を設定する。候補判定部234は、設定された候補閾値をもとに、残渣候補を表す色特徴量を判定する。
分布モデル判定部232は、候補判定軸における上記1つ以上の分布モデルの代表値を算出する代表値算出部232aと、該代表値に対応して候補判定軸に予め設定された閾値をもとに、赤みの弱い分布モデルを残渣候補分布として判定する閾値処理部232bとを備える。
また、候補閾値設定部233は、分布モデル判定部232による判定の結果、複数の分布モデルに対して互いに異なる結果となる判定がなされた場合に、候補判定軸における複数の分布モデルの間の値を候補閾値として設定する分布モデル間候補閾値設定部233aと、複数の分布モデルに対して互いに同一の結果となる判定がなされた場合、又は色特徴量に対して1つしか分布モデルの当てはめが行われなかった場合に、候補判定軸における1つ又は複数の分布モデルの外側の値を候補閾値として設定する分布モデル間外候補閾値設定部233bとを備える。
残渣分布判定部240は、分布モデル当てはめ部241と、分布モデル判定部242と、閾値設定部243と、判定部244とを備え、残渣候補と判定された色特徴量のうち、相対的に黄みが強い側に分布する色特徴量を残渣分布として判定する。このうち、分布モデル当てはめ部241は、黄みの度合いを判定するための色特徴量の判定軸(第2の判定軸)において、残渣候補と判定された色特徴量の分布に対して1つ以上の分布モデルを当てはめる。分布モデル判定部242は、1つ以上の分布モデルを予め設定されている所定の閾値(固定値)と比較することにより、該1つ以上の分布モデルの黄みの度合いに基づいて、各分布モデルが残渣であるか否かを判定する。閾値設定部243は、分布モデル判定部242による判定結果をもとに、残渣を表す色特徴量を判定するための閾値を設定する。判定部244は、閾値設定部243により設定された閾値をもとに、残渣を表す色特徴量を判定する。
分布モデル判定部242は、判定軸における上記1つ以上の分布モデル代表値を算出する代表値算出部242aと、該代表値に対応して判定軸に予め設定された閾値をもとに、黄みの強い分布モデルを残渣分布として判定する閾値処理部242bとを備える。
図20は、図19に示す分布モデル間外候補閾値設定部233bの詳細な構成を示すブロック図である。図20に示すように、分布モデル間外候補閾値設定部233bは、候補判定軸における分布モデルの代表値を候補閾値として設定する代表値候補閾値設定部233b−1を備える。
図21は、図19に示す分布モデル間外閾値設定部243bの詳細な構成を示すブロック図である。図21に示すように、分布モデル間外閾値設定部243bは、判定軸における分布モデルの代表値を閾値として設定する代表値閾値設定部243b−1を備える。
次に、画像処理装置2の動作について説明する。図22は、画像処理装置2の動作を示すフローチャートである。なお、図22に示すステップS21及びS26は、図2に示すステップS11及びS15にそれぞれ対応している。
ステップS21に続くステップS22において、色特徴量算出部210は、管腔内画像内の各画素の画素値(R成分、G成分、B成分)から色特徴量を算出する。実施の形態2においては、赤みを示す色特徴量として、G成分とR成分のと比であるG/R値を算出し、黄みを示す色特徴量として、B成分とG成分のと比であるB/G値を算出する。なお、実施の形態2においても、変形例1−1と同様に、各画素の色特徴量を取得する代わりに、管腔内画像を複数の小領域に分割した小領域単位で色特徴量を算出しても良い。
続くステップS23において、不要領域除外部220は、管腔内画像から残渣領域の判定に不要な領域を除外する。図23は、不要領域除外部220の動作を示すフローチャートである。
まず、ステップS231において、暗部領域判定部221は、輝度値が所定の閾値よりも低い領域(画素又は小領域)を暗部領域として判定する。例えば、管腔内画像の赤色成分の強さが所定の閾値以下の領域が暗部領域として判定される。暗部領域判定部221は、暗部領域を検出すると、当該領域に暗部領域を示すフラグ(1:暗部領域)を付加する。ここで、赤色成分に基づいて判定を行うのは、管腔内において赤色成分はもっとも吸収されにくく、被検体(粘膜)表面においてほとんど反射されるため、粘膜の構造情報をよく表すためである。
続くステップS232において、泡領域判定部222は、輝度値の周波数成分が高く、且つ彩度が低い領域(画素又は小領域)を泡領域として判定する。泡領域判定部222は、泡領域を検出すると、当該領域に泡領域を示すフラグ(2:泡領域)を付加する。ここで、周波数成分は、管腔内画像にDCT変換(離散コサイン変換)を施した後に得られる係数や、原画像と平均画像との差分値等を算出することにより求めることができる。また、彩度は、G/B値及びB/G値が共に所定の範囲に分布しているか否かの判定、若しくは、輝度値及び赤色成分に対する閾値処理により判断することができる。
続くステップS233において、赤色病変領域判定部223は、G/R値及びB/G値を成分とする色特徴量空間において、色特徴量の分布をクラスタリングし、主要なクラスタ(頻度が多いクラスタ、例えば最大クラスタ)に対して相対的に赤色の方向に外れたクラスタを赤色病変領域として判定する。クラスタリングは、色特徴量空間における色特徴量の頻度分布を、該頻度分布の山ごとに分水嶺等の処理を施すことによりことにより行う。赤色病変領域判定部223は、主要なクラスタから外れたクラスタの絶対位置及び主要なクラスタに対する相対位置が赤色方向にある場合、そのクラスタに対応する管腔内画像の領域に赤色病変領域を示すフラグ(3:赤色病変領域)を付加する。
なお、ステップS231〜S233においてフラグ1〜3のいずれも附されていない領域には、その他のフラグ(0:その他)が付加される。ステップS234において、不要領域除外部220は、管腔内画像内の画素又は小領域のうち、フラグ1〜3が付加された画素又は小領域を不要領域として除外する。その後、演算部200の動作はメインルーチンに戻る。
ステップS23に続くステップS24において、残渣候補分布判定部230は、色特徴量のうち、赤みの弱い色特徴量を残渣候補として判定する。図24は、残渣候補分布判定部230の動作を示すフローチャートである。
まず、ステップS241において、分布モデル当てはめ部231は、赤みの度合いを判定する候補判定軸において、色特徴量の分布に対して所定の分布モデルを当てはめることにより、1つ以上の分布モデルを作成する。実施の形態2においては、候補判定軸として、0に近づくほど赤みが強くなるG/R値を設定する。また、実施の形態2においては、色特徴量の分布に対して1つ又は2つの正規分布を当てはめることとする。
ここで、正規分布fk(i)は、次式(1)によって与えられる。
Figure 0005784751
式(1)において、色特徴量の分布に対して当てはめられるk番目の正規分布を表し、実施の形態2において、k=1又は2である。また、符号iは色特徴量G/R値を示す。
この正規分布fk(i)は、色特徴量をもとに、パラメータである平均μk、分散σk 2、混合比率ωkを更新して最適解を求めるEMアルゴリズムの手法により求めることができる(参考:J. A. Bilmes, “A Gentle Tutorial of the EM Algorithm and its Application to Parameter Estimation for Gaussian Mixture and Hidden Markov Models,” Technical Report TR-97-021, International Computer Science Institute and Computer Science Division, University of California at Berkeley, April 1998)。
以下、図25〜図28Bを参照しながらEMアルゴリズムの概要を説明する。
EMアルゴリズムとは、あるデータ軸(例えば、候補判定軸)に対する有限個数のデータ(例えば、色特徴量G/R値)に対し、以下に説明するEステップ(expectation)及びMステップ(maximization)を繰り返し、繰り返し回数又は対数尤度が最大値付近となったときに処理を終了するアルゴリズムである。
<Eステップ>
(i)ステップ1
例えば図25に示すように、あるデータ軸におけるN(Nは自然数)個のデータX={xi}(i=1、2、…、N)の密度関数Fに対し、データXが分布A、Bのいずれに属するかを示す確率モデルを、2つの正規分布で定義する(図26参照)。ここで、2つの正規分布の各種パラメータを、以下のように定義する。
平均:μA、μB
分散:σA 2、σB 2
分布Aと分布Bの混合比率(事前確率):ωA、ωB
データXが分布A、Bに属する確率モデル(確率密度)ωAP(X|A)、ωBP(X|B)は、それぞれ、次式(2)、(3)によって与えられる。
Figure 0005784751
なお、図26は、式(2)、(3)における各パラメータの初期値を以下のように設定した場合を示している。
平均μA:密度関数Fの最小値
平均μB:密度関数Fの最大値
分散σA 2:1.0
分散σB 2:1.0
混合比率ωA:0.5
混合比率ωB:0.5(=1−ωA
(ii)ステップ2
式(2)、(3)に示す確率密度から、G/R軸におけるあるデータの位置が、分布A、Bのいずれに属しているかを示す事後確率P(A|X)、P(B|X)を、式(4)及び(5)を用いて算出する(図27参照)。
Figure 0005784751
ここで、データXは、分布A、Bのいずれかに属するため、次式のとおり、確率の和は1となる。
P(A|X)+P(B|X)=1
(iii)ステップ3
次式(6)に示す尤度Q(X|ω,μ,σ2)を用い、密度関数Fに対して確率モデルが当てはめられているか否かを評価する。ここで、評価には、対数尤度が用いられる。対数尤度は尤もらしい状態において最大値を取る。
Figure 0005784751
<Mステップ>
(iv)ステップ4
確率モデルのパラメータを更新する。平均μA、μBの更新は、式(7)、(8)により、分散σA 2、σB 2の更新は式(9)、(10)により、混合比率ωA、ωBの更新は(11)、(12)によりそれぞれ行われる。
Figure 0005784751
Figure 0005784751
Figure 0005784751
ここで、式(7)〜(12)に示す符号(0)は、各パラメータが初期値であることを示し、符号(1)は各パラメータが1回目の更新後の値であることを示す。この符号(j)(j=0、1、2、…)は、更新回数に応じてインクリメントされる。
例えば、図28Aに示すように、分布Aの初期パラメータである平均μA (0)、分散σA (0)2、混合比率ωA (0)を1回更新すると、図28Bに示すように、更新パラメータである平均μA (1)、分散σA (1)2、混合比率ωA (1)が得られる。分布Bに関しても同様である。
このようなEステップ及びMステップを繰り返すことにより、分布A、Bの最適なパラメータを求めることができる。
ステップS241に続くステップS242において(図24参照)、分布モデル判定部232の代表値算出部232aは、分布モデル当てはめ部231が作成した1つ以上の分布モデルの候補判定軸における代表値を算出する。具体的には、図29に示すように、代表値として、分布モデルの分布範囲の最大値gmax及び最小値gminを算出する。
より詳細には、代表値算出部232aは、まず、図30に示すように、各正規分布fkのパラメータである平均μk及び分散σk 2を取得する。そして、平均μkから±2σkだけ離れた色特徴量の値を、当該正規分布fkの分布範囲の最大値gmax(fk)(=μk+2σk)及び最小値gmin(fk)(=μk−2σk)とする。
続いて、代表値算出部232aは、1つ以上の正規分布fkの最大値gmax(fk)の間における最大値max(gmax(fk))を取得する。例えば図31に示す正規分布f1、f2が得られた場合、正規分布f2の最大値gmax(f2)が最大値max(gmax(fk))として取得される。
続いて、代表値算出部232aは、色特徴量の分布範囲の最大値gmax(F)を取得し、正規分布fkの最大値max(gmax(fk))と比較して小さい方の値を、分布モデルの分布範囲の最大値gmaxとして設定する。例えば図31の場合、正規分布f2の最大値gmax(f2)が実際の密度関数Fの最大値gmax(F)を超えて大きくなっているので、密度関数Fの最大値gmax(F)が分布モデルの分布範囲の最大値gmaxとして設定される(gmax=gmax(F))。一方、図32の場合、正規分布f2の最大値gmax(f2)の方が密度関数Fの最大値gmax(F)よりも小さいため、正規分布f2の最大値gmax(f2)が分布モデルの分布範囲の最大値gmaxとして設定される(gmax=gmax(f2))。
また、代表値算出部232aは、1つ以上の正規分布fkの最小値gmin(fk)の間における最小値min(gmin(fk))を取得する。例えば図33の場合、正規分布f1、f2の間においては、正規分布f1の最小値gmin(f1)が最小値min(gmin(fk))として取得される。
続いて、代表値算出部232aは、色特徴量の分布範囲の最小値gmin(F)を取得し、正規分布fkの最小値min(gmin(fk))と比較して大きい方の値を、分布モデルの分布範囲の最小値gminとして設定する。例えば図33の場合、正規分布f1の最小値gmin(f1)が実際の密度関数Fの最小値gmin(F)を超えて小さくなっているので、密度関数Fの最小値gmin(F)が分布モデルの分布範囲の最小値gminとして設定される(gmin=gmin(F))。一方、図34の場合、正規分布f1の最小値gmin(f1)の方が密度関数Fの最小値gmin(F)よりも大きいため、正規分布f1の最小値gmin(f1)が分布モデルの分布範囲の最小値gminとして設定される(gmin=gmin(f1))。
なお、ステップS241において色特徴量の分布に当てはめられた正規分布が1つである場合、当該正規分布の最大値μ+2σ及び最小値μ−2σが、それぞれ、色特徴量の分布範囲の最大値gmax(F)及び最値gmin(F)と比較され、当該比較の結果に基づいて分布モデルの分布範囲の最大値gmax、最小値gminが設定される。
続くステップS243において、閾値処理部232bは、候補判定軸において予め設定された閾値をもとに、赤みの弱い分布モデルを残渣候補分布として判定する。ここで、候補判定軸においては、粘膜の有無を判定するための粘膜閾値Th(M)と、残渣候補の有無を判定するための残渣候補閾値Th(R)(Th(R)>Th(M))とが予め設定されている。
ここで、図35及び図36は、ステップS241において作成された1つ以上の分布モデルに基づいて色特徴量をクラスタリングすることにより作成されたクラスタを示している。なお、クラスタリングは、例えば、色特徴量空間において管腔内画像の色特徴量の頻度分布を作成し、該頻度分布に対して分水嶺等の処理を施すことにより行うことができる。
このうち、図35は、色特徴量の分布に2つの分布モデルを当てはめた場合に対応する2つのクラスタC(1)、C(2)を示し、色特徴量(G/R)が小さい方のクラスタをクラスタC(1)とし、色特徴量が大きい方のクラスタをクラスタC(2)としている。一方、図36は、色特徴量の分布に2つの分布モデルを当てはめた際に、一方の分布の内部に他方の分布が内包された場合に対応するクラスタC(3)を示している。以下においては、分布モデルの一例として、これらのクラスタC(1)〜C(3)が残渣候補分布(残渣候補クラスタ)であるか否かを判定する方法を説明する。
図35(a)に示すように、分布モデルの分布範囲の最大値(即ち、クラスタ内の色特徴量の最大値、以下、クラスタの最大値という)gmaxが残渣候補閾値Th(R)よりも小さく(gmax<Th(R))、且つ、分布モデルの分布範囲の最小値(即ち、クラスタ内の色特徴量の最小値、以下、クラスタの最小値という)gminが粘膜閾値Th(M)以下である場合(gmin≦Th(M))、閾値処理部232bは、クラスタC(1)、C(2)を共に粘膜分布と判定する。
図35(b)に示すように、クラスタの最大値gmaxが残渣候補閾値Th(R)以上であり(gmax≧Th(R))、且つ、クラスタの最小値gminが粘膜閾値Th(M)以下である場合(gmin≦Th(M))、閾値処理部232bは、クラスタC(1)を粘膜分布、クラスタC(2)を残渣候補分布と判定する。
図35(c)に示すように、クラスタの最大値gmaxが残渣候補閾値Th(R)よりも小さく(gmax<Th(R))、且つ、クラスタの最小値gminが粘膜閾値Th(M)よりも大きい場合(gmin>Th(M))、閾値処理部232bは、クラスタC(1)、C(2)を共に残渣候補分布と判定する。
図35(d)に示すように、クラスタの最大値gmaxが残渣候補閾値Th(R)以上であり(gmax≧Th(R))、且つ、クラスタの最小値gminが粘膜閾値Th(M)よりも大きい場合(gmin>Th(M))、閾値処理部232bは、クラスタC(1)、C(2)を共に残渣候補分布と判定する。
また、図36(a)に示すように、クラスタの最大値gmaxが残渣候補閾値Th(R)よりも小さく(gmax<Th(R))、且つ、クラスタの最小値gminが粘膜閾値Th(M)以下である場合(gmin≦Th(M))、閾値処理部232bは、クラスタC(3)を粘膜分布と判定する。
図36(b)に示すように、クラスタの最大値gmaxが残渣候補閾値Th(R)以上であり(gmax≧Th(R))、且つ、クラスタの最小値gminが粘膜閾値Th(M)以下である場合(gmin≦Th(M))、閾値処理部232bは、クラスタC(3)を粘膜分布と判定する。
図36(c)に示すように、クラスタの最大値gmaxが残渣候補閾値Th(R)よりも小さく(gmax<Th(R))、且つ、クラスタの最小値gminが粘膜閾値Th(M)よりも大きい場合(gmin>Th(M))、閾値処理部232bは、クラスタC(3)を残渣候補分布と判定する。
図36(d)に示すように、クラスタの最大値gmaxが残渣候補閾値Th(R)以上であり(gmax≧Th(R))、且つ、クラスタの最小値gminが粘膜閾値Th(M)よりも大きい場合(gmin>Th(M))、閾値処理部232bは、クラスタC(3)を残渣候補分布と判定する。
続くステップS244において、候補閾値設定部233は、ステップS243における判定結果をもとに、残渣候補を表す色特徴量を判定する候補閾値を設定する。より詳細には、複数のクラスタに対して互いに異なる判定結果が得られた場合、分布モデル間候補閾値設定部233aは、候補判定軸(G/R軸)における複数のクラスタの間の値を候補閾値として設定する。一方、複数のクラスタに対して互いに同一の判定結果が得られた場合、分布モデル間外候補閾値設定部233bは、候補判定軸におけるクラスタの外側の値を候補閾値として設定する。
具体的には、図35(a)に示すように、2つのクラスタC(1)、C(2)が共に粘膜分布と判定された場合、分布モデル間候補閾値設定部233aは、図37(a)に示すように、候補判定軸の赤みが弱い側(G/R値が大きい側)におけるクラスタC(1)、C(2)の外側の値である最大値gmaxを、候補閾値Th(N)として設定する。
また、図35(b)に示すように、クラスタC(1)が粘膜分布、クラスタC(2)が残渣候補分布と判定された場合、分布モデル間外候補閾値設定部233bは、図37(b)に示すように、候補判定軸におけるクラスタC(1)、C(2)の境界位置の色特徴量(即ち、正規分布f1、f2(図29参照)の境界位置の値)を、候補閾値Th(N)として設定する。
さらに、図35(c)及び(d)に示すように、2つのクラスタC(1)、C(2)が共に残渣候補分布と判定された場合、分布モデル間外候補閾値設定部233bは、図37(c)及び(d)に示すように、候補判定軸の赤みが強い側(G/R値が小さい側)におけるクラスタC(1)、C(2)の外側の値である最小値gminを、候補閾値Th(N)として設定する。
一方、候補閾値設定部233は、ステップS243において1つのクラスタに対する判定がなされた場合、以下のようにして候補閾値を設定する。
即ち、図36(a)及び(b)に示すように、クラスタC(3)が粘膜分布と判定された場合、分布モデル間外候補閾値設定部233bは、図38(a)及び(b)に示すように、候補判定軸の赤みが弱い側(G/R値が大きい側)の値である最大値gmaxを、候補閾値Th(N)として設定する。
また、図36(c)及び(d)に示すように、クラスタC(3)が残渣候補領域と判定された場合、分布モデル間外候補閾値設定部233bは、図38(c)及び(d)に示すように、候補判定軸の赤みが強い側(G/R値が小さい側)の値である最小値gminを、候補閾値Th(N)として設定する。
続くステップS245において、候補判定部234は、候補閾値Th(N)をもとに、管腔内画像内の各色特徴量のうち、残渣候補を表す色特徴量を判定する。具体的には、候補判定部234は、候補判定軸において、候補閾値Th(N)よりも赤みの強い(即ち、G/R値が小さい)側に存在する色特徴量は粘膜を表すものと判定し、赤みの弱い(即ち、G/R値が大きい)側に存在する色特徴量は残渣候補を表すものと判定する。
なお、この際、候補判定部234は、管腔内画像内の色特徴量をクラスタリングすることにより作成したクラスタごとに、上記判定を行っても良い。この場合、各クラスタの重心位置を算出し、重心位置が候補閾値Th(N)に対して赤みの強い側に存在するクラスタを粘膜分布と判定し、赤みの弱い側に存在するクラスタを残渣候補分布と判定する。その後、演算部200の動作はメインルーチンに戻る。
ステップS24に続くステップS25(図22参照)において、残渣分布判定部240は、残渣候補として判定された色特徴量のうち、黄みの強い色特徴量を残渣として判定する。図39は、残渣分布判定部240の動作を示すフローチャートである。
まず、ステップS251において、分布モデル当てはめ部241は、黄みの度合いを判定する判定軸において、残渣候補と判定された色特徴量の分布に対して所定の分布モデルを当てはめることにより、1つ以上の分布モデルを作成する。実施の形態2においては、判定軸として、0に近づくほど黄みが強くなるB/G軸を設定する。また、実施の形態2においては、残渣候補と判定された色特徴量の分布に対し、1つ又は2つの正規分布を当てはめる。なお、色特徴量の分布に対して正規分布を当てはめる処理の詳細は、ステップS241(図24参照)と同様である。
続くステップS252において、分布モデル判定部242の代表値算出部242aは、分布モデル当てはめ部241が作成した1つ以上の分布モデルの判定軸における代表値を算出する。より詳細には、ステップS242(図24参照)と同様にして、残渣候補と判定された色特徴量の分布に当てはめられた分布モデルの分布範囲の最大値gmax’及び最小値gmin’を算出する。
続くステップS253において、閾値処理部242bは、判定軸において予め設定された閾値をもとに、黄みの強い分布モデルを残渣分布として判定する。ここで、判定軸には、残渣の有無を判定するための残渣閾値Th(R’)と、ハレーション領域、褪色調病変等の白色領域の有無を判定するための白色領域閾値Th(W)(Th(W)>Th(R’))とが予め設定されている。
ここで、図40及び図41は、ステップS251において作成された1つ以上の分布モデルに基づいて、残渣候補である色特徴量をクラスタリングすることにより作成されたクラスタを示している。このうち、図40は、色特徴量の分布に2つの分布モデルを当てはめた場合に対応する2つのクラスタC(4)、C(5)を示し、色特徴量(B/G)が小さい方のクラスタをクラスタC(4)とし、色特徴量が大きい方のクラスタをクラスタC(5)としている。一方、図41は、色特徴量の分布に2つの分布モデルを当てはめた際に、一方の分布の内部に他方の分布が内包された場合に対応するクラスタC(6)を示している。以下においては、分布モデルの一例として、これらのクラスタC(4)〜C(6)が残渣分布(残渣クラスタ)であるか否かを判定する方法を説明する。
図40(a)に示すように、分布モデルの分布範囲の最大値(即ち、クラスタ内の色特徴量の最大値、以下、クラスタの最大値という)gmax’が白色領域閾値Th(W)よりも小さく(gmax’<Th(W))、且つ、分布モデルの分布範囲の最小値(即ち、クラスタ内の色特徴量の最小値、以下、クラスタの最小値という)gmin’が残渣閾値Th(R’)以下である場合(gmin’≦Th(R’))、閾値処理部242bは、クラスタC(4)、C(5)を共に残渣分布と判定する。
図40(b)に示すように、クラスタの最大値gmax’が白色領域閾値Th(W)以上であり(gmax’≧Th(W))、且つ、クラスタの最小値gmin’が残渣閾値Th(R’)以下である場合(gmin’≦Th(R’))、閾値処理部242bは、クラスタC(4)を残渣分布、クラスタC(5)を白色領域分布と判定する。
図40(c)に示すように、クラスタの最大値gmax’が白色領域閾値Th(W)よりも小さく(gmax’<Th(W))、且つ、クラスタの最小値gmin’が残渣閾値Th(R’)よりも大きい場合(gmin’>Th(R’))、閾値処理部242bは、クラスタC(4)、C(5)を共に白色領域分布と判定する。
図40(d)に示すように、クラスタの最大値gmax’が白色領域閾値Th(W)以上であり(gmax’≧Th(W))、且つ、クラスタの最小値gminが残渣閾値Th(R’)よりも大きい場合(gmin’>Th(R’))、閾値処理部242bは、クラスタC(4)、C(5)を共に白色領域分布と判定する。
また、図41(a)に示すように、クラスタの最大値gmax’が白色領域閾値Th(W)よりも小さく(gmax’<Th(W))、且つ、クラスタの最小値gmin’が残渣閾値Th(R’)以下である場合(gmin’≦Th(R’))、閾値処理部242bは、クラスタC(6)を残渣分布と判定する。
図41(b)に示すように、クラスタの最大値gmax’が白色領域閾値Th(W)以上であり(gmax’≧Th(W))、且つ、クラスタの最小値gmin’が残渣閾値Th(R’)以下である場合(gmin’≦Th(R’))、閾値処理部242bは、クラスタC(6)を残渣分布と判定する。
図41(c)に示すように、クラスタの最大値gmax’が白色領域閾値Th(W)よりも小さく(gmax’<Th(W))、且つ、クラスタの最小値gmin’が残渣閾値Th(R’)よりも大きい場合(gmin’>Th(R’))、閾値処理部242bは、クラスタC(6)を白色領域分布と判定する。
図41(d)に示すように、クラスタの最大値gmax’が白色領域閾値Th(W)以上であり(gmax’≧Th(W))、且つ、クラスタの最小値gmin’が残渣閾値Th(R’)よりも大きい場合(gmin’>Th(R’))、閾値処理部242bは、クラスタC(6)を白色領域分布と判定する。
続くステップS254において、閾値設定部243は、ステップS253における判定結果をもとに、残渣を表す色特徴量を判定する閾値を設定する。より詳細には、複数のクラスタに対して互いに異なる判定結果が得られた場合、分布モデル間閾値設定部243aは、判定軸(B/G軸)における複数のクラスタの間の値を閾値として設定する。一方、複数のクラスタに対して互いに同一の判定結果が得られた場合、分布モデル間外閾値設定部243bは、判定軸におけるクラスタの外側の値を閾値として設定する。
具体的には、図40(a)に示すように、2つのクラスタC(4)、C(5)が共に残渣分布と判定された場合、分布モデル間閾値設定部243は、図42(a)に示すように、判定軸の黄みが弱い側(B/G値が大きい側)におけるクラスタC(4)、C(5)の外側の値である最大値gmax’を、閾値Thとして設定する。
また、図40(b)に示すように、クラスタC(4)が残渣分布、クラスタC(5)が白色領域分布と判定された場合、分布モデル間閾値設定部243は、図42(b)に示すように、判定軸におけるクラスタC(4)、C(5)の境界位置の色特徴量(即ち、正規分布f1、f2(図29参照)の境界位置の値)を、閾値Thとして設定する。
さらに、図40(c)及び(d)に示すように、2つのクラスタC(4)、C(5)が共に白色領域分布と判定された場合、分布モデル間外閾値設定部243bは、図42(c)及び(d)に示すように、判定軸の黄みが強い側(B/G値が小さい側)におけるクラスタC(4)、C(5)の外側の値である最小値gmin’を閾値Thとして設定する。
一方、閾値設定部243は、ステップS253において1つのクラスタに対する判定がなされた場合、以下のようにして候補閾値を設定する。
即ち、図41(a)及び(b)に示すように、クラスタC(6)が残渣分布と判定された場合、分布モデル間外閾値設定部243bは、図43(a)及び(b)に示すように、判定軸の黄みが弱い側(B/G値が大きい側)の値である最大値gmax’を閾値Thとして設定する。
また、図41(c)及び(d)に示すように、クラスタC(6)が白色領域分布と判定された場合、分布モデル間外閾値設定部243bは、図43(c)及び(d)に示すように、判定軸の黄みが強い側(B/G値が小さい側)の値である最小値gmin’を閾値Thとして設定する。
続くステップS255において、判定部244は、閾値Thをもとに、残渣を表す色特徴量を判定する。具体的には、判定部244は、判定軸において、残渣候補と判定された色特徴量のうち、閾値Thよりも黄みの強い(即ち、B/G値が小さい)側に存在する色特徴量は残渣を表すものと判定し、黄みの弱い(即ち、B/G値が大きい)側に存在する色特徴量は白色領域を表すものと判定する。
なお、この際、判定部244は、残渣候補と判定された色特徴量をクラスタリングすることにより作成したクラスタごとに、上記判定を行っても良い。この場合、各クラスタの重心位置を算出し、重心位置が閾値Thに対して黄みの強い側に存在するクラスタを残渣分布と判定し、黄みの弱い側に存在するクラスタを白色領域分布と判定する。その後、演算部200の動作はメインルーチンに戻る。
ステップS25に続くステップS26(図22参照)において、演算部200は、ステップS24における判定結果を出力する。これに応じて、制御部10は、この判定結果を記録部50に記録させると共に、表示部40に表示させる。
以上説明したように、実施の形態2によれば、管腔内画像における色特徴量の分布が揺らいだ場合であっても、適応的に設定される基準である候補閾値Th(N)及び閾値Thに基づいて、残渣領域を精度良く判定することが可能となる。
ここで、色特徴量の頻度分布に基づいて管腔内画像内の残渣領域を判別する処理部を実際の画像処理装置に実装する場合、頻度が所定値以下である色特徴量を予めノイズとして除去しておくことがある。この際、ノイズを除去するための閾値が適切でない場合に、時系列の前後で撮像され、実際には被写体に大きな変化がないはずの管腔内画像の間で判別結果が大きく異なってしまうことがあった。
しかしながら、実施の形態2においては、色特徴量の分布に所定の分布モデル(例えば正規分布)を当てはめることにより、色特徴量の分布を主要な分布とそれ以外の分布とに分け、当該分布モデルに対する残渣候補分布の判定結果に応じ、当該分布モデルの代表値(最大値、最小値、境界位置の値)を用いて残渣候補を判定するための閾値を適応的に設定する。また、残渣領域を判定するための閾値についても同様である。従って、実施の形態2によれば、従来よりも高精度な残渣領域の判別が可能となる。
(変形例2−1)
次に、実施の形態2の変形例2−1について説明する。
変形例2−1に係る画像処理装置は、図19に示す画像処理装置2に対し、分布モデル間外候補閾値設定部233b、分布モデル間外閾値設定部243bの代わりに、図44に示す分布モデル間外候補閾値設定部233cと、図45に示す分布モデル間外閾値設定部243cとを備える。なお、変形例2−1に係る画像処理装置のうち、分布モデル間外候補閾値設定部233c及び分布モデル間外閾値設定部243c以外の各部の構成及び動作は、実施の形態2と同様である。
図44に示すように、分布モデル間外候補閾値設定部233cは、固定候補閾値設定部233c−1及び代表値候補閾値設定部233c−2を備える。固定候補閾値設定部233c−1は、候補判定軸において予め定められた固定値を候補閾値として設定する。一方、代表値候補閾値設定部233c−2は、1つ以上の分布モデルの代表値を候補閾値として設定する。これらの各部は、1つ以上の分布モデルの分布範囲に応じていずれかが動作する。
図45に示すように、分布モデル間外閾値設定部243cは、固定閾値設定部243c−1及び代表値閾値設定部243c−2を備える。固定閾値設定部243c−1は、判定軸において予め定められた固定値を閾値として設定する。一方、代表値閾値設定部243c−2は、1つ以上の分布モデルの代表値を閾値として設定する。これらの各部は、1つ以上の分布モデルの分布範囲に応じていずれかが動作する。
以下、分布モデル間外候補閾値設定部233c及び分布モデル間外閾値設定部243cの具体的な動作を、図35、図36、図40、図41、図46〜図49を参照しながら説明する。
固定候補閾値設定部233c−1は、図35(a)及び図36(a)に示すように、クラスタC(2)、C(3)の最大値gmaxが残渣候補閾値Th(R)よりも小さい場合、図46(a)、図47(a)に示すように、閾値Th(R)を候補閾値Th(N)として設定する。
また、固定候補閾値設定部233c−1は、図35(c)及び(d)、図36(c)及び(d)に示すように、クラスタC(1)、C(3)の最小値gminが粘膜閾値Th(M)よりも大きい場合、図46(c)及び(d)、図47(c)及び(d)に示すように、閾値Th(M)を候補閾値Th(N)として設定する。
一方、代表値候補閾値設定部233c−2は、図36(b)に示すように、クラスタC(3)の最小値gminが閾値Th(M)以下であり、且つ、最大値gmaxが閾値Th(R)以上である場合、クラスタC(3)の最大値gmaxを候補閾値Th(N)として設定する。
なお、図35(b)に示すように、2つのクラスタC(1)、C(2)の最小値gminが閾値Th(M)以下であり、且つ、最大値gmaxが閾値Th(R)以上である場合には、実施の形態2と同様に、分布モデル間候補閾値設定部233aが、2つのクラスタC(1)、C(2)の境界位置の値を候補閾値Th(N)に設定する(図46(b)参照)。
固定閾値設定部243c−1は、図40(a)、図41(a)に示すように、1つ以上の分布モデルに対応するクラスタC(5)、C(6)の最大値gmax’が白色領域閾値Th(W)よりも小さい場合、図48(a)、図49(a)に示すように、閾値Th(W)を閾値Thとして設定する。
また、固定閾値設定部243c−1は、図40(c)及び(d)、図41(c)及び(d)に示すように、クラスタC(4)、C(6)の最小値gmin’が残渣閾値Th(R’)よりも大きい場合、図48(c)及び(d)、図49(c)及び(d)に示すように、閾値Th(R’)を閾値Thとして設定する。
一方、代表値閾値設定部243c−2は、図41(b)に示すように、クラスタC(6)の最小値gmin’が閾値Th(R’)以下であり、且つ、最大値gmax’が閾値Th(W)以上である場合、クラスタC(6)の最大値gmax’を閾値Thとして設定する。
なお、図40(b)に示すように、2つのクラスタC(4),C(5)の最小値gmin’が閾値Th(R’)以下であり、且つ、最大値gmax’が閾値Th(W)以上である場合には、実施の形態2と同様に、分布モデル間閾値設定部243aが、2つのクラスタC(4)、C(5)の境界位置の値を閾値Thに設定する(図48(b)参照)。
(変形例2−2)
次に、実施の形態2の変形例2−2について説明する。
変形例2−2に係る画像処理装置は、図19に示す画像処理装置2に対し、閾値処理部242bの代わりに、図50に示す閾値処理部242cを備える。なお、変形例2−2に係る画像処理装置のうち、閾値処理部242c以外の各部の構成及び動作は、実施の形態2と同様である。
図50に示すように、閾値処理部242cは、残渣候補分布判定部230により残渣候補として判定されなかった色特徴量の分布を粘膜分布とみなし、判定軸における粘膜分布の代表値を算出する粘膜基準閾値設定部242c−1を備える。
より詳細には、粘膜基準閾値設定部242c−1は、残渣候補分布判定部230により残渣候補分布と判定された分布以外の色特徴量の分布を粘膜分布に設定する。そして、判定軸(B/G軸)における当該粘膜分布の重心gMを算出し、これを粘膜分布の代表値とする。
続いて、粘膜基準閾値設定部242c−1は、図51及び図52に示すように、判定軸において、残渣の有無を判定する残渣閾値Th(RM)と、白色領域を判定する白色領域閾値Th(WM)とを、粘膜分布の重心gMを基準として設定する。このうち、残渣閾値Th(RM)は、重心gMに対し、教師データから取得した所定値αを減算することにより算出される。一方、閾値Th(WM)は、重心gMに対し、教師データから取得した所定値βを加算することにより算出される。
閾値処理部242cは、このようにして設定された残渣閾値Th(RM)、白色領域閾値Th(WM)に基づいて、各色特徴量の分布が残渣であるか白色領域であるかを判定する。具体的には、図51(a)に示すように、クラスタの最大値gmax’が白色領域閾値Th(WM)よりも小さく(gmax’<Th(WM))、且つ、クラスタの最小値gmin’が残渣閾値Th(RM)以下である場合(gmin’≦Th(RM))、閾値処理部242cは、クラスタC(4)、C(5)を共に残渣分布と判定する。
図51(b)に示すように、クラスタの最大値gmax’が白色領域閾値Th(WM)以上であり(gmax’≧Th(WM))、且つ、クラスタの最小値gmin’が残渣閾値Th(RM)以下である場合(gmin’≦Th(RM))、閾値処理部242cは、クラスタC(4)を残渣分布、クラスタC(5)を白色領域と判定する。
図51(c)に示すように、クラスタの最大値gmax’が白色領域閾値Th(WM)よりも小さく(gmax’<Th(WM))、且つ、クラスタの最小値gmin渣閾値Th(RM)よりも大きい場合(gmin’>Th(RM))、閾値処理部242cは、クラスタC(4)、C(5)を共に白色領域と判定する。
図51(d)に示すように、クラスタの最大値gmax’が白色領域閾値Th(WM)以上であり(gmax’≧Th(WM))、且つ、クラスタの最小値gminが残渣閾値Th(RM)よりも大きい場合(gmin’>Th(RM))、閾値処理部242cは、クラスタC(4)、C(5)を共に白色領域と判定する。
また、図52(a)に示すように、クラスタの最大値gmax’が白色領域閾値Th(WM)よりも小さく(gmax’<Th(WM))、且つ、クラスタの最小値gmin’が残渣閾値Th(RM)以下である場合(gmin’≦Th(RM))、閾値処理部242cは、クラスタC(6)を残渣分布と判定する。
図52(b)に示すように、クラスタの最大値gmax’が白色領域閾値Th(WM)以上であり(gmax’≧Th(WM))、且つ、クラスタの最小値gmin’が残渣閾値Th(RM)以下である場合(gmin’≦Th(RM))、閾値処理部242cは、クラスタC(6)を残渣分布と判定する。
図52(c)に示すように、クラスタの最大値gmax’が白色領域閾値Th(WM)よりも小さく(gmax’<Th(WM))、且つ、クラスタの最小値gmin’が残渣閾値Th(RM)よりも大きい場合(gmin’>Th(RM))、閾値処理部242cは、クラスタC(6)を白色領域と判定する。
図52(d)に示すように、クラスタの最大値gmax’が白色領域閾値Th(WM)以上であり(gmax’≧Th(WM))、且つ、クラスタの最小値gmin’が残渣閾値Th(RM)よりも大きい場合(gmin’>Th(RM))、閾値処理部242cは、クラスタC(6)を白色領域と判定する。
なお、本変形例2−2は、単独で実行しても良いし、実施の形態2における閾値処理部242bが実行する処理と組み合わせても良い。後者の場合、図40(c)及び図41(b)に示すように、色特徴量の最大値gmax’が閾値Th(W)よりも小さく、且つ、クラスタの最小値gmin’が閾値Th(R’)よりも大きい場合に、変形例2−2において設定した閾値Th(WM)、Th(RM)を用いて再度判定を行うと良い。
(実施の形態3)
次に、本発明の実施の形態3について説明する。
実施の形態3に係る画像処理装置は、図19に示す画像処理装置2に対し、分布モデル当てはめ部231、241の代わりに、図53に示す分布モデル当てはめ部331、341をそれぞれ備える。なお、実施の形態3に係る画像処理装置のうち、分布モデル当てはめ部331、341以外の各部の構成及び動作は、実施の形態2と同様である。
図53に示すように、分布モデル当てはめ部331、341は、概要分布モデル当てはめ部331a、341aと、概要分布モデル範囲取得部331b、341bと、分布モデル修正部331c、341cとをそれぞれ備える。
このうち、概要分布モデル当てはめ部331aは、赤みの度合いを判定する色特徴量の候補判定軸(例えばG/R軸)において、管腔内画像内の色特徴量の分布に対して当てはめ可能な分布モデルよりも少ない数の分布モデル(以下、概要分布モデルという)を当てはめる。概要分布モデル範囲取得部331bは、候補判定軸における概要分布モデルの分布範囲を取得する。分布モデル修正部331cは、概要分布モデルの分布範囲において、色特徴量の分布に対して1つ以上の分布モデルを当てはめる。
また、概要分布モデル当てはめ部341aは、黄みの度合いを判定する色特徴量の判定軸(例えばB/G軸)において、残渣候補と判定された色特徴量の分布に対して当てはめ可能な分布モデルよりも少ない数の分布モデル(以下、概要分布分布モデルという)を当てはめる。概要分布モデル範囲取得部341bは、判定軸における概要分布モデルの分布範囲を取得する。分布モデル修正部341cは、概要分布モデルの分布範囲において、残渣候補と判定された色特徴量の分布に対して1つ以上の分布モデルを当てはめる。
次に、実施の形態3に係る画像処理装置の動作について説明する。実施の形態3に係る画像処理装置の動作は、全体として図22、図24、図39に示すものと同様であり、図24に示すステップS241及び図39に示すステップS251における詳細な動作が異なる。
図54は、図24に示すステップS241において、管腔内画像内の色特徴量の分布に対して分布モデルの当てはめを行う分布モデル当てはめ部331の動作を示すフローチャートである。また、図55〜図58は、分布モデル当てはめ部331の動作を説明するための模式図である。
まず、ステップs311において、概要分布モデル当てはめ部331aは、候補判定軸(G/R軸)において、色特徴量の分布に対し、当てはめ可能な分布モデルの数より少ない分布モデルを概要分布モデルとして当てはめる。例えば、図55(a)に示すように、色特徴量の分布に対応する密度関数Fに対して2つの正規分布f3及びf4が当てはめ可能である場合、図56に示すように、密度関数Fに対し、概要分布モデルとして1つの正規分布f5を当てはめる。なお、正規分布f5の当てはめは、例えば、実施の形態2において説明したEMアルゴリズムにより行うことができる。
続くステップs312において、概要分布モデル範囲取得部331bは、候補判定軸における概要分布モデルの分布範囲を取得する。具体的には、図57に示すように、正規分布f5のパラメータである平均μ及び分散σ2を取得し、色特徴量の95.7%が含まれるμ±2σの範囲を概要分布モデルの分布範囲Δ1とする。
続くステップs313において、分布モデル修正部331cは、概要分布モデルの分布範囲において、色特徴量の分布に対して1つ以上の分布モデルを当てはめる。具体的には、図58に示すように、分布範囲Δ1内の色特徴量の分布に対し、例えばEMアルゴリズムにより2つの正規分布f3’、f4’を当てはめる。その後、動作はメインルーチンに戻る。
図59は、図39に示すステップS251において、残渣候補と判定された色特徴量の分布に対して分布モデルの当てはめを行う分布モデル当てはめ部341の動作を示すフローチャートである。なお、以下においては、図56〜図58に示す候補判定軸(G/R軸)を判定軸(B/G軸)に読み替えた上で、これらの図を援用して説明を行う。
まず、ステップs321において、概要分布モデル当てはめ部341aは、判定軸(B/G軸)において、残渣候補と判定された色特徴量の分布に対し、当てはめ可能な分布モデルの数より少ない分布モデルを概要分布モデルとして当てはめる。例えば、図56に示すように、残渣候補と判定された色特徴量の分布に対応する密度関数Fに対し、2つの正規分布の当てはめが可能である場合、1つの正規分布f5を当てはめる。
続くステップs322において、概要分布モデル範囲取得部341bは、判定軸における概要分布モデルの分布範囲を取得する。例えば、図57に示すように、正規分布f5のパラメータである平均μ及び分散σ2を取得し、μ±2σの範囲を概要分布モデルの分布範囲Δ1とする。
続くステップs323において、分布モデル修正部341cは、概要分布モデルの分布範囲Δ1において、残渣候補と判定された色特徴量の分布に対して1つ以上の分布モデルを当てはめる。例えば、図58に示すように、分布範囲Δ1内の色特徴量の分布に対して2つの正規分布f3’、f4’を当てはめる。その後、動作はメインルーチンに戻る。
以上説明した実施の形態3によれば、色特徴量の分布に複数のピークが存在する場合であっても、適切に分布モデルを当てはめることができる。従って、残渣領域を精度良く識別することが可能となる。
ここで、EMアルゴリズムにおいては、初期値に依存して局所解に陥ってしまう場合がある。そのため、例えば図55(a)に示すように、3つのピークP1〜P3が存在する密度関数Fに対し、図55(b)に示すように、2つの正規分布f3、f4を当てはめようとすると、正規分布f3、f4の境界Th1が、実際の色特徴量の分布に含まれる複数の分布の境界Th2からずれてしまうおそれがある。この場合、後段における候補閾値(又は閾値)を適切に設定することができなくなってしまう。
そこで、実施の形態3においては、密度関数Fに対して1つの正規分布f5を当てはめた後、当該正規分布f5の分布範囲Δ1に限定して2つの正規分布f3’、f4’を当てはめるという段階的な処理を行っている。それにより、実際の色特徴量の分布に、より適合した境界Th2’を得ることができ、適切な候補閾値(又は閾値)を設定することが可能となる。
(実施の形態4)
次に、本発明の実施の形態4について説明する。
実施の形態4に係る画像処理装置は、図19に示す画像処理装置2に対し、分布モデル当てはめ部231、241の代わりに、図60に示す分布モデル当てはめ部431、441をそれぞれ備える。なお、実施の形態4に係る画像処理装置のうち、分布モデル当てはめ部431、441以外の各部の構成及び動作は、実施の形態2と同様である。
図60に示すように、分布モデル当てはめ部431、441は、低比率分布モデル判定部431a、441aと、高比率分布モデル取得部431b、441bと、分布モデル修正部431c、441cとをそれぞれ備える。
このうち、低比率分布モデル判定部431aは、赤みの度合いを判定する色特徴量の候補判定軸(例えばG/R軸)において、管腔内画像内の色特徴量の分布に対して当てはめられた1つ以上の分布モデルに、該1つ以上の分布モデル間の混合比率が所定値以下である低比率分布モデルが含まれるか否かを判定する。高比率分布モデル取得部431bは、上記1つ以上の分布モデルに低比率分布モデルが含まれる場合に、低比率分布モデルを除外した残りの分布モデルが候補判定軸に分布する分布範囲を取得する。分布モデル修正部431cは、高比率分布モデル取得部431bによって取得された分布範囲において、色特徴量の分布に対し、再度、1つ以上の分布モデルの当てはめを行う。
また、低比率分布モデル判定部441aは、黄みの度合いを判定する色特徴量の判定軸(例えばB/G軸)において、残渣候補と判定された色特徴量の分布に対して当てはめられた1つ以上の分布モデルに対し、該1つ以上の分布モデル間の混合比率が所定値以下である低比率分布モデルが含まれるか否かを判定する。高比率分布モデル取得部441bは、上記1つ以上の分布モデルに低比率分布モデルが含まれる場合に、低比率分布モデルを除外した残りの分布モデルが判定軸に分布する分布範囲を取得する。分布モデル修正部441cは、高比率分布モデル取得部431bによって取得された分布範囲において、残渣候補と判定された色特徴量の分布に対し、再度、1つ以上の分布モデルの当てはめを行う。
次に、実施の形態4に係る画像処理装置の動作について説明する。実施の形態4に係る画像処理装置の動作は、全体として図22、図24、図39に示すものと同様であり、図24に示すステップS241及び図39に示すステップS251における詳細な動作が異なる。
図61は、図24に示すステップS241において、管腔内画像内の色特徴量の分布に対して分布モデルの当てはめを行う分布モデル当てはめ部431の動作を示すフローチャートである。また、図62〜図64は、分布モデル当てはめ部431の動作を説明するための模式図である。
まず、ステップs411において、低比率分布モデル判定部431aは、候補判定軸(G/R軸)において、色特徴量の分布に対して1つ以上の分布モデルを当てはめ、当てはめられた分布モデルの中に、混合比率が所定値以下である低比率分布モデルが含まれるか否かを判定する。例えば、色特徴量の分布に対応する密度関数Fに対し(図62(a)参照)、2つの正規分布f6、f7を当てはめたときの正規分布f6、f7の混合比率をそれぞれω6、ω7とする(図62(b)参照)。なお、正規分布f6、f7の当てはめは、例えば、実施の形態2において説明したEMアルゴリズムにより行うことができる。
低比率分布モデル判定部431aは、混合比率ω6、ω7に基づき、正規分布f6、f7が低比率分布モデルであるか否かを判定する。例えば、図62(b)において、混合比率ω7が所定値以下である場合、正規分布f7が低比率分布モデルであると判定される。
低比率分布モデルが含まれる場合(ステップs412:Yes)、高比率分布モデル取得部441bは、色特徴量の分布に当てはめた分布モデルから低比率分布モデルを除外し、それ以外の分布モデル(高比率分布モデル)が候補判定軸に分布する分布範囲を取得する(ステップs413)。例えば、正規分布f7が低比率分布モデルである場合、高比率分布モデル取得部431bは、図63に示すように、残りの正規分布f6のパラメータである平均μ及び分散σ2を取得し、色特徴量の95.45%が含まれるμ±2σの範囲を分布範囲Δ2とする。
続くステップs414において、分布モデル修正部431cは、高比率分布モデルの分布範囲において、色特徴量の分布に対し、再度、1つ以上の分布モデルを当てはめる。具体的には、図64に示すように、分布範囲Δ2内の色特徴量の分布に対し、例えばEMアルゴリズムにより2つの正規分布f8、f9を当てはめる。その後、動作はメインルーチンに戻る。
なお、ステップs412において、低比率分布モデルが含まれない場合(ステップs412:No)、動作はそのままメインルーチンに戻る。
図65は、図39に示すステップS251において、残渣候補と判定された色特徴量の分布に対して分布モデルの当てはめを行う分布モデル当てはめ部441の動作を示すフローチャートである。なお、以下においては、図62〜図64に示す候補判定軸(G/R軸)を判定軸(B/G軸)に読み替えた上で、これらの図を援用して説明を行う。
まず、ステップs421において、低比率分布モデル判定部441aは、判定軸(B/G軸)において、残渣候補と判定された色特徴量の分布に対して1つ以上の分布モデルを当てはめ、当てはめられた分布モデルの中に、混合比率が所定値以下である低比率分布モデルが含まれるか否かを判定する(図62参照)。
低比率分布モデルが含まれる場合(ステップs422:Yes)、高比率分布モデル取得部441bは、色特徴量の分布に当てはめた分布モデルから低比率分布モデルを除外し、それ以外の分布モデル(高比率分布モデル)が判定軸に分布する分布範囲を取得する(ステップs423)。例えば、正規分布f7が低比率分布モデルである場合、図63に示すように、高比率分布モデル取得部441bは、高比率分布モデルである残りの正規分布f6のμ±2σの範囲を分布範囲Δ2とする。
続くステップs424において、分布モデル修正部441cは、高比率分布モデルの分布範囲において、残渣候補と判定された色特徴量の分布に対し、再度、1つ以上の分布モデルを当てはめる(図64参照)。その後、動作はメインルーチンに戻る。
なお、ステップs422において、低比率分布モデルが含まれない場合(ステップs422:No)、動作はそのままメインルーチンに戻る。
以上説明した実施の形態4によれば、色特徴量の分布に低いピークが存在する場合であっても、適切に分布モデルを当てはめることができる。従って、残渣領域を精度良く識別することが可能となる。
ここで、例えば図62(a)に示すように、3つのピークP4〜P6が存在する密度関数に対して2つの正規分布を当てはめようとすると、図62(b)に示すように、ピークP6に引きずられて低比率の正規分布f7が作成され、正規分布f6、f7の境界Th3が設定される。このような境界Th3に基づいて、後段の候補閾値(又は閾値)設定処理を行うと、残渣領域の判定処理において、ピークP5に表される色特徴量の分布が全く反映されない結果が得られてしまう。
そこで、実施の形態4においては、低比率分布モデルを除外した残りの分布モデルの分布範囲Δ2に限定して、再度、2つの正規分布f6’、f7’の当てはめを行っている。それにより、実際の色特徴量の分布により適合した境界Th4を得ることができ、適切な候補閾値(又は閾値)を設定することが可能となる。
以上説明した実施の形態1〜4及びそれらの変形例に係る画像処理装置は、記録媒体に記録された画像処理プログラムをパーソナルコンピュータやワークステーション等のコンピュータシステムで実行することによって実現することができる。また、このようなコンピュータシステムを、ローカルエリアネットワーク、広域エリアネットワーク(LAN/WAN)、又は、インターネット等の公衆回線を介して、他のコンピュータシステムやサーバ等の機器に接続して使用しても良い。この場合、実施の形態及び変形例に係る画像処理装置は、これらのネットワークを介して管腔内画像の画像データを取得したり、これらのネットワークを介して接続された種々の出力機器(ビュアーやプリンタ等)に画像処理結果を出力したり、これらのネットワークを介して接続された記憶装置(記録媒体及びその読取装置等)に画像処理結果を格納するようにしても良い。
なお、本発明は、実施の形態1〜4及びそれらの変形例に限定されるものではなく、実施の形態や各変形例に開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成できる。例えば、各実施の形態や変形例に示される全構成要素からいくつかの構成要素を除外して形成しても良いし、異なる実施の形態や変形例に示した構成要素を適宜組み合わせて形成しても良い。
1、2 画像処理装置
10 制御部
20 外部インタフェース(I/F)部
30 操作入力部
40 表示部
50 記録部
51 画像処理プログラム
100、200 演算部
110、210 色特徴量算出部
120 候補分布判定部
121 候補判定軸設定部
122 第1ヒストグラム作成部
122a、220 不要領域除外部
122a−1、221 暗部領域判定部
122a−2、222 泡領域判定部
122a−3、223 赤色病変領域判定部
123、125 第1判定閾値設定部
124 候補判定部
125a 合成ヒストグラム作成部
130 分布判定部
131 判定軸設定部
132 第2ヒストグラム作成部
133 第2判定閾値設定部
134 判定部
230 残渣候補分布判定部
231、241、331,341、431、441 分布モデル当てはめ部
232、242 分布モデル判定部
232a、242a 代表値算出部
232b、242b、242c 閾値処理部
233 候補閾値設定部
233a 分布モデル間候補閾値設定部
233b 分布モデル間外候補閾値設定部
233c 分布モデル間外候補閾値設定部
233c−1 固定候補閾値設定部
233c−2 代表値候補閾値設定部
234 候補判定部
240 残渣分布判定部
242c−1 粘膜基準閾値作成部
243 閾値設定部
243a 分布モデル間閾値設定部
243b 分布モデル間外閾値設定部
243c 分布モデル間外閾値設定部
243c−1 固定閾値設定部
243c−2 代表値閾値設定部
244 判定部
331a、341a 概要分布モデル当てはめ部
331b、341b 概要分布モデル範囲取得部
331c、341c、431c、441c 分布モデル修正部
431a、441a 低比率分布モデル判定部
431b、441b 高比率分布モデル取得部

Claims (32)

  1. 被検体の管腔内を撮像した管腔内画像から、残渣が写った残渣領域を判別する画像処理装置において、
    前記管腔内画像内の各画素の色特徴量、又は、前記管腔内画像を複数の小領域に分割した各小領域の色特徴量を算出する色特徴量算出部と、
    前記色特徴量のうち、相対的に赤みの強い側に分布する色特徴量を粘膜分布と判定し、相対的に赤みが弱い側に分布する色特徴量を残渣候補分布として判定する残渣候補分布判定部と、
    前記残渣候補分布として判定された色特徴量の分布のうち、前記粘膜分布を基準として黄みの強い側に分布する残渣候補分布を残渣分布として判定する残渣分布判定部と、
    を備えることを特徴とする画像処理装置。
  2. 前記候補分布判定部は、
    前記粘膜分布と前記残渣候補分布とを判別する際に用いられる候補判定軸として、少なくとも赤みの強さが変化する色特徴量に対応する軸を設定する候補判定軸設定部と、
    前記各画素又は前記各小領域が有する前記色特徴量の頻度分布を前記候補判定軸に対して作成する第1のヒストグラム作成部と、
    前記粘膜分布に対応する色特徴量の範囲を定める判定閾値を前記候補判定軸上に設定する第1の判定閾値設定部と、
    前記頻度分布と前記判定閾値とをもとに、前記粘膜分布と前記残渣候補分布とを判別する候補判定部と、
    を有することを特徴とする請求項1に記載の画像処理装置。
  3. 前記残渣分布判定部は、
    前記残渣候補分布が前記残渣分布に相当するか否かを判定する際に用いられる判定軸として、少なくとも黄みの強さが変化する色特徴量に対応する軸を設定する判定軸設定部と、
    前記残渣候補分布における色特徴量の頻度分布を前記判定軸に対して作成する第2のヒストグラム作成部と、
    前記頻度分布と前記粘膜分布の代表値とをもとに、判定閾値を設定する第2の判定閾値設定部と、
    前記判定閾値よりも黄みの強い側に存在する残渣候補分布を残渣分布として判定する判定部と、
    を有することを特徴とする請求項1に記載の画像処理装置。
  4. 前記管腔内画像の輝度成分のエッジをもとに前記管腔内画像を分割した小領域単位で色特徴量を算出する色特徴量算出部をさらに備えることを特徴とする請求項1に記載の画像処理装置。
  5. 前記管腔内画像は、各画素位置においてR、G、Bの各色成分を有し、
    前記候補判定軸は、G/R値に対応することを特徴とする請求項2に記載の画像処理装置。
  6. 前記第1のヒストグラム作成部は、前記管腔内画像から泡領域、暗部領域、及び赤色病変領域との内の少なくとも1つを検出し、前記粘膜分布と前記残渣候補分布との判別に不要な領域と判定して除外する不要領域除外部を含むことを特徴とする請求項2に記載の画像処理装置。
  7. 前記第1の判定閾値設定部は、予め複数の管腔内画像から取得した粘膜領域内の色特徴量を前記候補判定軸に対して累積した粘膜の頻度分布を作成し、前記粘膜の頻度分布において、頻度が最大となる色特徴量から赤みの弱い側を見たときに、頻度が最初に最小又は極小となるときの色特徴量を前記判定閾値として保持することを特徴とする請求項2に記載の画像処理装置。
  8. 前記第1の判定閾値設定部は、前記頻度分布の双峰性の形状を評価し、該評価の結果をもとに前記頻度分布における境界位置を算出し、該境界位置を前記判定閾値に設定することを特徴とする請求項2に記載の画像処理装置。
  9. 前記第1の判定閾値設定部は、前記管腔内画像を所定サイズの複数の矩形領域に分割し、前記複数の矩形領域毎に、前記色特徴量の頻度分布を作成し、前記複数の矩形領域間の色特徴量の頻度の最大値又は最頻値を抽出して合成する合成ヒストグラム作成部を含むことを特徴とする請求項2に記載の画像処理装置。
  10. 前記管腔内画像は、各画素位置においてR、G、Bの各色成分を有し、
    前記候補判定部は、G/R値を成分の1つとする色特徴量空間において、前記色特徴量の分布をクラスタリングすると共に、クラスタリングによって得られた各クラスタにおける前記G/R値の代表値を前記判定閾値と比較して、クラスタ毎に判定を行うことを特徴とする請求項に記載の画像処理装置。
  11. 前記管腔内画像は、各画素位置においてR、G、Bの各色成分を有し、
    前記判定軸は、B/G値に対応することを特徴とする請求項3に記載の画像処理装置。
  12. 前記第2の判定閾値設定部は、前記色特徴量の頻度分布を1つ又は2つの正規分布で近似し、前記1つの正規分布の代表値又は前記2つの正規分布の境界位置と、前記粘膜分布の代表値とをもとに、判定閾値を設定することを特徴とする請求項3に記載の画像処理装置。
  13. 前記管腔内画像は、各画素位置においてR、G、Bの各色成分を有し、
    前記判定部は、B/G値を成分の1つとする色特徴量空間において、前記色特徴量の分布をクラスタリングすると共に、クラスタリングによって得られた各クラスタにおける前記B/G値の代表値を、前記粘膜分布における前記B/G値の代表値と比較して、クラスタ毎に判定を行うことを特徴とする請求項3に記載の画像処理装置。
  14. 被検体の管腔内を撮像した管腔内画像から、残渣が写った残渣領域を判別する画像処理装置の作動方法において、
    演算部が、前記管腔内画像内の各画素の色特徴量、又は、前記管腔内画像を複数の小領域に分割した各小領域の色特徴量を算出する色特徴量算出ステップと、
    前記演算部が、前記色特徴量のうち、相対的に赤みの強い側に分布する色特徴量を粘膜分布と判定し、相対的に赤みが弱い側に分布する色特徴量を残渣候補分布として判定する残渣候補分布判定ステップと、
    前記演算部が、残渣候補分布のうち、前記粘膜分布を基準として黄みの強い側に分布する残渣候補分布を残渣分布として判定する残渣分布判定ステップと、
    を含むことを特徴とする画像処理装置の作動方法。
  15. 被検体の管腔内を撮像した管腔内画像から、残渣が写った残渣領域を判別する画像処理をコンピュータに実行させるプログラムにおいて、
    前記管腔内画像内の各画素の色特徴量、又は、前記管腔内画像を複数の小領域に分割した各小領域の色特徴量を算出する色特徴量算出ステップと、
    前記色特徴量のうち、相対的に赤みの強い側に分布する色特徴量を粘膜分布と判定し、相対的に赤みが弱い側に分布する色特徴量を残渣候補分布として判定する残渣候補分布判定ステップと、
    残渣候補分布のうち、前記粘膜分布を基準として黄みの強い側に分布する残渣候補分布を残渣分布として判定する残渣分布判定ステップと、
    を前記コンピュータに実行させることを特徴とする画像処理プログラム。
  16. 被検体の管腔内を撮像した管腔内画像から、残渣が写った残渣領域を判別する画像処理装置において、
    前記管腔内画像内の各画素の色特徴量、又は、前記管腔内画像を複数の小領域に分割した各小領域の色特徴量を算出する色特徴量算出部と、
    赤みの度合いを判定する色特徴量の第1の判定軸において、前記色特徴量の分布に対して1つ以上の分布モデルを当てはめ、該1つ以上の分布モデルの赤みの度合いに基づき、残渣候補を表す色特徴量を判定する残渣候補分布判定部と、
    黄みの度合いを判定する色特徴量の第2の判定軸において、前記残渣候補分布判定部により残渣候補を表すと判定された色特徴量に対して1つ以上の分布モデルを当てはめ、該1つ以上の分布モデルの黄みの度合いに基づき、残渣を表す色特徴量を判定する残渣分布判定部と、
    を備えることを特徴とする画像処理装置。
  17. 前記残渣分布判定部は、
    前記第2の判定軸において、前記残渣候補を表すと判定された色特徴量の分布に対して所定の分布モデルを当てはめることにより、1つ以上の分布モデルを作成する分布モデル当てはめ部と、
    前記1つ以上の分布モデルを所定の閾値と比較することにより、前記1つ以上の分布モデルの各々が残渣分布であるか否かを判定する分布モデル判定部と、
    前記分布モデル判定部による判定結果をもとに、残渣を表す色特徴量を判定するための閾値を設定する閾値設定部と、
    前記閾値設定部により設定された閾値をもとに、前記残渣候補として判定された前記色特徴量のうちから、残渣を表す色特徴量を判定する判定部と、
    を備えることを特徴とする請求項16に記載の画像処理装置。
  18. 前記管腔内画像から前記残渣の判定に不要な領域を除外する不要領域除外部をさらに備えることを特徴とする請求項16に記載の画像処理装置。
  19. 前記残渣候補分布判定部は、
    前記第1の判定軸において、前記色特徴量の分布に対して所定の分布モデルを当てはめることにより、1つ以上の分布モデルを作成する分布モデル当てはめ部と、
    前記1つ以上の分布モデルを所定の閾値と比較することにより、前記1つ以上の分布モデルの各々が残渣候補分布であるか否かを判定する分布モデル判定部と、
    前記分布モデル判定部による判定結果をもとに、残渣候補を表す色特徴量を判定するための候補閾値を設定する候補閾値設定部と、
    前記候補閾値をもとに、前記管腔内画像内の前記色特徴量のうち、残渣候補を表す色特徴量を判定する候補判定部と、
    を備えることを特徴とする請求項16に記載の画像処理装置。
  20. 前記分布モデル当てはめ部は、
    前記色特徴量の分布に対し、該色特徴量の分布に当てはめ可能な分布モデルよりも少ない数の分布モデルを概要分布モデルとして当てはめる概要分布モデル当てはめ部と、
    前記第1の判定軸における前記概要分布モデルの分布範囲を取得する概要分布モデル範囲取得部と、
    前記分布範囲において、前記色特徴量の分布に対して1つ以上の分布モデルを当てはめる分布モデル修正部と、
    を備えることを特徴とする請求項19に記載の画像処理装置。
  21. 前記分布モデル当てはめ部は、
    前記1つ以上の分布モデルに、該1つ以上の分布モデル間の混合比率が所定値以下である低比率分布モデルが含まれるか否かを判定する低比率分布モデル判定部と、
    前記1つ以上の分布モデルに前記低比率分布モデルが含まれる場合に、前記1つ以上の分布モデルから前記低比率分布モデルを除外した残りの分布モデルが前記第1の判定軸に分布する分布範囲を取得する高比率分布モデル範囲取得部と、
    前記分布範囲において、前記色特徴量の分布に対し、再度、1つ以上の分布モデルを当てはめる分布モデル修正部と、
    を備えることを特徴とする請求項19に記載の画像処理装置。
  22. 前記分布モデル判定部は、
    前記第1の判定軸における前記1つ以上の分布モデルの代表値を算出する代表値算出部と、
    前記代表値に対応して前記第1の判定軸に予め設定された閾値をもとに、赤みの弱い側に分布する分布モデルを残渣候補分布として判定する閾値処理部と、
    を備えることを特徴とする請求項19に記載の画像処理装置。
  23. 前記候補閾値設定部は、
    前記分布モデル当てはめ部により前記色特徴量の分布に対して複数の分布モデルが当てはめられた場合において、前記分布モデル判定部により前記複数の分布モデルに対して互いに異なる結果となる判定がなされたとき、前記第1の判定軸における前記複数の分布モデルの間の値を候補閾値として設定する分布モデル間候補閾値設定部と、
    前記分布モデル当てはめ部により前記色特徴量の分布に対して複数の分布モデルが当てはめられた場合において、前記分布モデル判定部により前記複数の分布モデルに対して互いに同一の結果となる判定がなされたとき、又は、前記分布モデル当てはめ部により前記色特徴量の分布に対して1つの分布モデルが当てはめられた場合、前記第1の判定軸における前記1つ以上の分布モデルの外側の値を候補閾値として設定する分布モデル間外候補閾値設定部と、
    を備えることを特徴とする請求項19に記載の画像処理装置。
  24. 前記候補判定部は、前記色特徴量の分布をクラスタリングすることにより取得したクラスタの各々に対し、各クラスタの代表値を用いて判定を行うことを特徴とする請求項19に記載の画像処理装置。
  25. 前記分布モデル当てはめ部は、
    前記色特徴量の分布に対し、該色特徴量の分布に当てはめ可能な分布モデルよりも少ない数の分布モデルを概要分布モデルとして当てはめる概要分布モデル当てはめ部と、
    前記第2の判定軸における前記概要分布モデルの分布範囲を取得する概要分布モデル範囲取得部と、
    前記分布範囲において、前記色特徴量の分布に対して1つ以上の分布モデルを当てはめる分布モデル修正部と、
    を備えることを特徴とする請求項17に記載の画像処理装置。
  26. 前記分布モデル当てはめ部は、
    前記1つ以上の分布モデルに、該1つ以上の分布モデル間の混合比率が所定値以下である低比率分布モデルが含まれるか否かを判定する低比率分布モデル判定部と、
    前記1つ以上の分布モデルに前記低比率分布モデルが含まれる場合に、前記1つ以上の分布モデルから前記低比率分布モデルを除外した残りの分布モデルが前記第2の判定軸に分布する分布範囲を取得する高比率分布モデル範囲取得部と、
    前記分布範囲において、前記残渣候補と判定された前記色特徴量の分布に対し、再度、1つ以上の分布モデルを当てはめる分布モデル修正部と、
    を備えることを特徴とする請求項17に記載の画像処理装置。
  27. 前記分布モデル判定部は、
    前記第2の判定軸における前記1つ以上の分布モデルの代表値を算出する代表値算出部と、
    前記代表値に対応して前記第2の判定軸に予め設定された閾値をもとに、黄みの強い側に分布する分布モデルを残渣分布として判定する閾値処理部と、
    を備えることを特徴とする請求項17に記載の画像処理装置。
  28. 前記閾値処理部は、前記1つ以上の分布モデルのうち、前記残渣候補分布判定部により前記残渣候補として判定されなかった色特徴量の分布を粘膜分布とし、前記第2の判定軸における該粘膜分布の代表値を算出する粘膜基準閾値設定部を備えることを特徴とする請求項27に記載の画像処理装置。
  29. 前記閾値処理部は、
    前記分布モデル当てはめ部により前記色特徴量の分布に対して複数の分布モデルが当てはめられた場合において、前記分布モデル判定部により前記複数の分布モデルに対して互いに異なる結果となる判定がなされたとき、前記第2の判定軸における前記複数の分布モデルの間の値を閾値として設定する分布モデル間閾値設定部と、
    前記分布モデル当てはめ部により前記色特徴量の分布に対して複数の分布モデルが当てはめられた場合において、前記分布モデル判定部により前記複数の分布モデルに対して互いに同一の結果となる判定がなされたとき、又は、前記分布モデル当てはめ部により前記色特徴量の分布に対して1つの分布モデルが当てはめられた場合、前記第2の判定軸における前記1つ以上の分布モデルの外側の値を閾値として設定する分布モデル間外閾値設定部と、
    を備えることを特徴とする請求項27に記載の画像処理装置。
  30. 前記判定部は、前記色特徴量の分布をクラスタリングすることにより取得した各クラスタに対し、当該クラスタの代表値を用いて判定を行うことを特徴とする請求項17に記載の画像処理装置。
  31. 被検体の管腔内を撮像した管腔内画像から、残渣が写った残渣領域を判別する画像処理装置の作動方法において、
    演算部が、前記管腔内画像内の各画素の色特徴量、又は、前記管腔内画像を複数の小領域に分割した各小領域の色特徴量を算出する色特徴量算出ステップと、
    前記演算部が、赤みの度合いを判定する色特徴量の第1の判定軸において、前記色特徴量の分布に対して1つ以上の分布モデルを当てはめ、該1つ以上の分布モデルの赤みの度合いに基づき、残渣候補を表す色特徴量を判定する残渣候補分布判定ステップと、
    前記演算部が、黄みの度合いを判定する色特徴量の第2の判定軸において、前記残渣候補分布判定ステップにおいて残渣候補を表すと判定された色特徴量に対して1つ以上の分布モデルを当てはめ、該1つ以上の分布モデルの黄みの度合いに基づき、残渣を表す色特徴量を判定する残渣分布判定ステップと、
    を含むことを特徴とする画像処理装置の作動方法。
  32. 被検体の管腔内を撮像した管腔内画像から、残渣が写った残渣領域を判別する画像処理をコンピュータに実行させる画像処理プログラムにおいて、
    前記管腔内画像内の各画素の色特徴量、又は、前記管腔内画像を複数の小領域に分割した各小領域の色特徴量を算出する色特徴量算出ステップと、
    赤みの度合いを判定する色特徴量の第1の判定軸において、前記色特徴量の分布に対して1つ以上の分布モデルを当てはめ、該1つ以上の分布モデルの赤みの度合いに基づき、残渣候補を表す色特徴量を判定する残渣候補分布判定ステップと、
    黄みの度合いを判定する色特徴量の第2の判定軸において、前記残渣候補分布判定ステップにおいて残渣候補を表すと判定された色特徴量に対して1つ以上の分布モデルを当てはめ、該1つ以上の分布モデルの黄みの度合いに基づき、残渣を表す色特徴量を判定する残渣分布判定ステップと、
    を前記コンピュータに実行させることを特徴とする画像処理プログラム。
JP2013548327A 2011-12-08 2012-12-10 画像処理装置、画像処理装置の作動方法、及び画像処理プログラム Active JP5784751B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013548327A JP5784751B2 (ja) 2011-12-08 2012-12-10 画像処理装置、画像処理装置の作動方法、及び画像処理プログラム

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2011269055 2011-12-08
JP2011269055 2011-12-08
JP2013548327A JP5784751B2 (ja) 2011-12-08 2012-12-10 画像処理装置、画像処理装置の作動方法、及び画像処理プログラム
PCT/JP2012/081989 WO2013085061A1 (ja) 2011-12-08 2012-12-10 画像処理装置、画像処理方法、及び画像処理プログラム

Publications (2)

Publication Number Publication Date
JPWO2013085061A1 JPWO2013085061A1 (ja) 2015-04-27
JP5784751B2 true JP5784751B2 (ja) 2015-09-24

Family

ID=48574410

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013548327A Active JP5784751B2 (ja) 2011-12-08 2012-12-10 画像処理装置、画像処理装置の作動方法、及び画像処理プログラム

Country Status (5)

Country Link
US (1) US9129412B2 (ja)
EP (1) EP2789288A4 (ja)
JP (1) JP5784751B2 (ja)
CN (1) CN103974653B (ja)
WO (1) WO2013085061A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6010571B2 (ja) * 2014-02-27 2016-10-19 富士フイルム株式会社 内視鏡システム、内視鏡システム用プロセッサ装置、内視鏡システムの作動方法、内視鏡システム用プロセッサ装置の作動方法
JP6113116B2 (ja) * 2014-03-31 2017-04-12 富士フイルム株式会社 医用画像処理装置及びその作動方法並びに内視鏡システム
US9058692B1 (en) 2014-04-16 2015-06-16 Heartflow, Inc. Systems and methods for image-based object modeling using multiple image acquisitions or reconstructions
US9665943B2 (en) * 2015-09-25 2017-05-30 Intel Corporation Histogram-based image segmentation
JP7105300B2 (ja) 2018-04-24 2022-07-22 オリンパス株式会社 内視鏡システム及び内視鏡システムの作動方法
CN108921833B (zh) * 2018-06-26 2022-03-25 中国科学院合肥物质科学研究院 一种双向吸收的马尔可夫显著性目标检测方法及装置

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4615963B2 (ja) 2004-10-29 2011-01-19 オリンパス株式会社 カプセル型内視鏡装置
JP4472631B2 (ja) * 2005-12-28 2010-06-02 オリンパスメディカルシステムズ株式会社 画像処理装置および当該画像処理装置における画像処理方法
CN101947113B (zh) * 2005-12-28 2011-12-07 奥林巴斯医疗株式会社 图像处理装置和该图像处理装置中的图像处理方法
JP4520405B2 (ja) * 2005-12-28 2010-08-04 オリンパスメディカルシステムズ株式会社 画像処理装置および当該画像処理装置における画像処理方法
JP5374078B2 (ja) * 2008-06-16 2013-12-25 オリンパス株式会社 画像処理装置、画像処理方法および画像処理プログラム
JP5117353B2 (ja) * 2008-11-07 2013-01-16 オリンパス株式会社 画像処理装置、画像処理プログラムおよび画像処理方法
JP5305850B2 (ja) 2008-11-14 2013-10-02 オリンパス株式会社 画像処理装置、画像処理プログラムおよび画像処理方法
JP2010187756A (ja) * 2009-02-16 2010-09-02 Olympus Corp 画像処理装置、画像処理方法および画像処理プログラム
JP5800468B2 (ja) 2010-05-11 2015-10-28 オリンパス株式会社 画像処理装置、画像処理方法、および画像処理プログラム
JP5622461B2 (ja) * 2010-07-07 2014-11-12 オリンパス株式会社 画像処理装置、画像処理方法、および画像処理プログラム
JP5526044B2 (ja) * 2011-01-11 2014-06-18 オリンパス株式会社 画像処理装置、画像処理方法、及び画像処理プログラム
JP5926937B2 (ja) * 2011-11-30 2016-05-25 オリンパス株式会社 画像処理装置、画像処理方法、及び画像処理プログラム

Also Published As

Publication number Publication date
US20140270499A1 (en) 2014-09-18
CN103974653A (zh) 2014-08-06
EP2789288A1 (en) 2014-10-15
CN103974653B (zh) 2016-06-01
US9129412B2 (en) 2015-09-08
EP2789288A4 (en) 2016-02-24
JPWO2013085061A1 (ja) 2015-04-27
WO2013085061A1 (ja) 2013-06-13

Similar Documents

Publication Publication Date Title
JP5784751B2 (ja) 画像処理装置、画像処理装置の作動方法、及び画像処理プログラム
JP5851160B2 (ja) 画像処理装置、画像処理装置の作動方法、及び画像処理プログラム
US8811676B2 (en) Image processing apparatus, image processing method, and computer readable recording device
JP6552613B2 (ja) 画像処理装置、画像処理装置の作動方法、及び画像処理プログラム
US8705818B2 (en) Image processing device, computer readable storage medium storing image processing program, and image processing method
JP5576782B2 (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
US8913806B2 (en) Texture homogeneity based in-vivo image identifying device, method, and computer-readable recording device
EP2523164B1 (en) Image processing apparatus, image processing method, and image processing program
US7555152B2 (en) System and method for detecting ground glass nodules in medical images
JP2015154918A (ja) 病変検出装置及び方法
JP2009297450A (ja) 画像処理装置、画像処理プログラムおよび画像処理方法
CN115136189A (zh) 基于图像处理的肿瘤的自动化检测
JP2011206531A (ja) 画像処理装置および方法並びにプログラム
CN109241898B (zh) 腔镜视像的目标定位方法和系统、存储介质
CN114140378A (zh) 扫描图像处理方法、电子设备和可读介质
JP2016016265A (ja) 画像処理装置、画像処理方法及び医用画像診断装置
Yang et al. Novel subtypes of pulmonary emphysema based on spatially-informed lung texture learning: the multi-ethnic study of Atherosclerosis (MESA) COPD study
KR20110130288A (ko) 점막하 종양의 초음파 내시경 영상 분석에 의한 질병의 진단 방법
Arnold et al. Indistinct frame detection in colonoscopy videos
Klepaczko et al. Local polynomial approximation for unsupervised segmentation of endoscopic images
Gómez et al. Finding regions of interest in pathological images: An attentional model approach
CN118071746A (zh) 基于人工智能的超声影像数据管理系统及方法
WO2006093564A9 (en) System and method for detecting ground glass nodules in medical images

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150407

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150519

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150707

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150722

R151 Written notification of patent or utility model registration

Ref document number: 5784751

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250