JPWO2012147505A1 - 医用画像処理装置 - Google Patents

医用画像処理装置 Download PDF

Info

Publication number
JPWO2012147505A1
JPWO2012147505A1 JP2012549176A JP2012549176A JPWO2012147505A1 JP WO2012147505 A1 JPWO2012147505 A1 JP WO2012147505A1 JP 2012549176 A JP2012549176 A JP 2012549176A JP 2012549176 A JP2012549176 A JP 2012549176A JP WO2012147505 A1 JPWO2012147505 A1 JP WO2012147505A1
Authority
JP
Japan
Prior art keywords
pixel
filter
blood vessel
medical image
surface structure
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012549176A
Other languages
English (en)
Other versions
JP5301737B2 (ja
Inventor
佐和子 柴田
佐和子 柴田
田中 健一
健一 田中
博一 西村
博一 西村
美穂 沢
美穂 沢
徹緒 野波
徹緒 野波
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Medical Systems Corp
Original Assignee
Olympus Medical Systems Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Medical Systems Corp filed Critical Olympus Medical Systems Corp
Priority to JP2012549176A priority Critical patent/JP5301737B2/ja
Application granted granted Critical
Publication of JP5301737B2 publication Critical patent/JP5301737B2/ja
Publication of JPWO2012147505A1 publication Critical patent/JPWO2012147505A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/12Edge-based segmentation
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/20ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30101Blood vessel; Artery; Vein; Vascular

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • General Health & Medical Sciences (AREA)
  • Radiology & Medical Imaging (AREA)
  • Medical Informatics (AREA)
  • Physics & Mathematics (AREA)
  • Public Health (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Primary Health Care (AREA)
  • Epidemiology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Surgery (AREA)
  • Optics & Photonics (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Veterinary Medicine (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Biomedical Technology (AREA)
  • Pathology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Signal Processing (AREA)
  • Quality & Reliability (AREA)
  • Image Processing (AREA)
  • Endoscopes (AREA)
  • Image Analysis (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)

Abstract

医用画像処理装置は、医療機器により撮像された医用画像を入力する画像入力部と、医用画像から注目画素を含む複数の画素からなる局所領域に対して、抽出対象の粘膜表面構造における濃度変化のサイズと、粘膜表面構造の走行している方向と、に対応した複数のフィルタと、複数のフィルタを用いて、粘膜表面構造に対応した特微量を抽出するための演算を行うフィルタリング部と、フィルタ出力から粘膜表面構造の特徴量を選択する特微量選択部と、選択された特微量が粘膜表面構造の特徴を含むか否かを判定する判定部と、を備える。

Description

本発明は医用画像に対する画像処理により血管の構造等の粘膜模様を抽出する医用画像処理装置及び医用画像処理方法に関する。
従来から、画像、例えば眼底透視画像や内視鏡画像のような医用画像から対象形状を抽出する技術においては、物体の光の吸収によって生じる色調差(濃度差とも言う)を用いた閾値による二値化処理や、以下のようなフィルタリングが行われる。
フィルタリングとしては、対象のエッジを抽出するエッジ抽出フィルタ、デジタルフィルタ、例えば対象の周波数特性を利用したローパスフィルタ(Low-Pass Filter:LPF)や対象が有する幅情報などによって設計されたバンドパスフィルタ(Band-Pass Filter:BPF)などにより対象形状を抽出する手法が利用されている。
例えば第1の従来例としての日本国特開平9−62836号公報においては、医用画像に平滑化処理を施して得た平滑化画像と、医用画像との差分画像を求めて、エッジ領域を抽出する。所定の閾値よりもエッジの度合いが大きいエッジ領域に対しては、エッジ強調を施さないで、所定の閾値よりもエッジの度合いが大きくないエッジ領域に対しては、エッジ強調を施して、過強調を防止して見やすい画像を生成する。
また、第2の従来例としての日本国特開2007−325656号公報には、生体を撮像した近赤外画像において、相対的に周辺画素よりも輝度値が小さい画素である暗画素を抽出し、当該暗画素を示す暗画素画像データを作成した後、2次元のマスクパターンを用いて画素が連続している暗画素である連続暗領域を抽出し、該連続暗領域を示す連続暗領域画像データを作成する。
そして、連続暗領域画像データに対して血管が存在する画素からなる特定領域を抽出し、当該特定領域を示す特定領域画像データを作成する。
しかし上記第1の従来例の手法では、例えば内視鏡画像における血管を抽出しようとした場合、血管と血管以外の領域との色調差が不明瞭である画像や、深さの違いによる濃淡の異なる血管が存在する画像、画像全域において生体の曲面などの理由で光量が均一に当たらず背景の明るさが変化した画像に対しては、精度の良い抽出結果を得ることができない。
上記のような画像に対して第1の従来例の手法により、平滑化処理し、エッジによる抽出処理を行うと、画像内の位置や色調の違いによってばらつきが生じ、所望とする対象形状としての血管の形状だけでなく、対象形状でない部分も抽出してしまうなど、精度の良い抽出結果を得ることができない。
第2の従来例は、画素の連続性を示す2次元のマスクパターンを用いることにより、血管が走行する形状を抽出し易くするが、例えば血管は種々に屈曲したり蛇行したりするため、抽出する精度を向上できない。
このため、種々に分岐や蛇行した形状で走行したり、管径(幅)が変化する血管のような複雑な形状を有する粘膜表面構造の場合においても適用でき、精度良くその構造を抽出することができる医用画像処理装置が望まれる。
本発明は上述した点に鑑みてなされたもので、分岐や蛇行したり、管径が変化する複雑な形状を有する場合においても適用でき、精度良くその構造を抽出することができる医用画像処理装置及び医用画像処理方法を提供することを目的とする。
本発明の一態様の医用画像処理装置は、医療機器により撮像された医用画像を入力する画像入力部と、前記医用画像から注目画素を含む複数の画素からなる局所領域に対して、抽出対象の粘膜表面構造に応じて設定され、前記粘膜表面構造の横断面に対する濃度変化を検出するために用意される互いに異なる複数の横断面に対する濃度変化のサイズと、前記粘膜表面構造の表面的に走行している方向を検出するために用意される互いに異なる複数のフィルタと、前記複数のフィルタを用いて、前記注目画素を含む前記局所領域に対して前記粘膜表面構造に対応した特微量を抽出するための演算を行うフィルタリング部と、前記フィルタリング部による演算により、ある画素における複数のフィルタ出力のうち該画素に最も反応したフィルタから前記粘膜表面構造の特徴量を選択する特微量選択部と、選択された前記特微量に対して該特徴量が前記粘膜表面構造の特徴を含むか否かを判定する判定部と、を備え、前記複数のフィルタは、Nを1以上、Mを2以上の整数として、前記複数の横断面に対する濃度変化のサイズに対応して用意されるN個のフィルタを、前記横断面に対する濃度変化の方向と直交する方向に対応して用意されるM個の方向にそれぞれ配置したN×M個からなる。
本発明の一態様の医用画像処理方法は、医療機器により撮像された医用画像を入力する画像入力ステップと、前記医用画像から注目画素を含む複数の画素からなる局所領域に対して、抽出対象の粘膜表面構造に応じて設定され、前記粘膜表面構造の横断面に対する濃度変化を検出するために用意される互いに異なる複数の横断面に対する濃度変化のサイズと、前記粘膜表面構造の表面的に走行している方向を検出するために用意される互いに異なる複数の方向と、に対応した複数のフィルタを用いて、前記注目画素を含む前記局所領域に対して前記粘膜表面構造に対応した特微量を抽出するための演算を行うフィルタリングステップと、前記フィルタリングステップによる演算により、ある画素における複数のフィルタ出力のうち該画素に最も反応したフィルタから前記粘膜表面構造の特徴量を選択する特微量選択ステップと、選択された前記特微量に対して該特徴量が前記粘膜表面構造の特徴を含むか否かを判定する判定ステップと、を備え、
前記複数のフィルタは、Nを1以上、Mを2以上の整数として、前記複数の横断面に対する濃度変化のサイズに対応して用意されるN個のフィルタを、前記横断面に対する濃度変化の方向と直交する方向に対応して用意されるM個の方向にそれぞれ配置したN×M個からなる。
図1は本発明の第1の実施形態に係る内視鏡システムの構成を示す図。 図2は画像処理装置を構成するCPUによる機能的構成を示すブロック図。 図3は画像処理装置による処理内容を示すフローチャート。 図4は血管を含む生体粘膜の内視鏡画像を示す図。 図5は内視鏡画像中における抽出対象の血管を含む周辺領域を模式的に示す説明図。 図6は血管の横断面形状を示す図。 図7は血管の横断面形状に対応した1次元フィルタの輪郭を示す図。 図8は複数の1次元フィルタを用いたフィルタリング処理を示すフローチャート。 図9は複数の1次元フィルタの形状を示す図。 図10は特徴量の抽出及び血管の特徴量であるか否かの判定内容を示すフローチャート。 図11は処理画像を入力画像と共に表示する表示例を示す図。 図12は本発明の第2の実施形態におけるフィルタ記憶部が格納する情報を示す図。 図13は第2の実施形態における処理内容を示すフローチャート。 図14は本発明の第3の実施形態における処理内容を示すフローチャート。 図15は図14における判定の処理内容を示すフローチャート。 図16は図14における判定の処理内容を示すフローチャート。 図17は図15及び図16の補正の処理内容を示すフローチャート。
以下、図面を参照して本発明の実施形態を説明する。
(第1の実施形態)
図1に示す本発明の第1の実施形態の内視鏡システム1は、医療機器としての内視鏡装置2と、この内視鏡装置2により得られた医療画像としての内視鏡画像に対して画像処理を行うパーソナルコンピュータにより構成される医用画像処理装置(以下、単に画像処理装置と略記)3と、この画像処理装置3により画像処理された画像を表示するモニタ4とから構成される。
内視鏡装置2は、体腔内に挿入され、体内を撮像する体内撮像装置を形成する内視鏡6と、この内視鏡6に照明光を供給する光源装置7と、内視鏡6の撮像手段に対する信号処理を行うカメラコントロールユニット(CCUと略記)8と、このCCU8から出力される画像信号が入力されることにより、撮像素子で撮像した画像を内視鏡画像として表示するモニタ9とを有する。
内視鏡6は、体腔内に挿入される挿入部11とこの挿入部11の後端に設けられた操作部12とを有する。また挿入部11内には照明光を伝送するライトガイド13が挿通されている。
このライトガイド13の後端は、光源装置7に接続される。そして、この光源装置7から供給される照明光をライトガイド13により伝送し、挿入部11の先端部14に設けた照明窓に取り付けられた先端面から(伝送した照明光を)出射し、検査、又は診断対象の生体組織を照明する。なお、光源装置7は、通常観察用の白色の照明光、又は白色をカバーする赤(R)、緑(G)、青(B)の面順次照明光をライトガイド13に供給する。
なお、光源装置7として、狭帯域の照明光をライトガイド13に供給し、検査対象の生体組織を狭帯域光で照明する構成にしても良い。
照明窓に隣接する観察窓には対物レンズ15が取り付けられており、この対物レンズ15の結像位置には固体撮像素子しての例えば電荷結合素子(CCDと略記)16が配置されている。対物レンズ15とCCD16とにより撮像を行う撮像部17が形成される。このCCD16の撮像面に結像された光学像は、このCCD16により光電変換される。
このCCD16は、信号線を介してCCU8と接続され、このCCU8からのCCD駆動信号が印加されることにより、CCD16は光電変換した画像信号を出力する。この画像信号は、CCU8内の画像処理回路により信号処理され、表示装置に表示する画像信号に変換される。この画像信号はモニタ9に出力され、モニタ9の表示面には、内視鏡画像が表示される。この画像信号は、画像処理装置3にも入力される。
この画像処理装置3は、内視鏡装置2により生成された医用画像としての内視鏡画像を入力する画像入力手段としての画像入力部21と、この画像入力部21から入力された内視鏡画像に対応する画像信号のデジタル化された画像信号に対する画像処理を行う中央演算処理装置としてのCPU22と、このCPU22により画像処理を実行させる処理プログラム(制御プログラム)を記憶する処理プログラム記憶部23とを有する。なお、画像入力部21を内視鏡装置2側に設けた構成にしても良い。
また、この画像処理装置3は、画像入力部21から入力される入力画像の画像信号、処理途中、処理終了の画像信号等を記憶する画像記憶部24と、CPU22により画像処理する場合に用いられる複数の1次元フィルタ等の情報を処理情報として記憶する処理情報記憶部25と、CPU22により処理された画像信号及び処理情報等を記憶装置インタフェース26を介して記憶する記憶装置としてのハードディスク27と、CPU22により処理された画像等を表示するための表示処理を行う表示処理部28と、術者等のユーザが画像処理のパラメータ等の入力、選択、指示操作を行うキーボードなどからなる入力操作部29とを有する。
上記のように処理情報記憶部25は、CPU22により画像処理する場合に用いられる複数の1次元フィルタの情報を記憶(格納)するフィルタ記憶部39を備える。
このフィルタ記憶部39には、複数の1次元フィルタが予め格納されており、画像処理装置3を使用する術者等の使用者は、入力操作部29から、医用画像における診断対象の生体組織に含まれる血管の対象形状に応じて、その対象形状、又はその特徴量を抽出し易くする1次元フィルタを選択して実際の画像処理に利用する入力操作を行うことができる。
なお、本実施形態においては複数の1次元フィルタを用いるが、後述するように本発明は複数の1次元フィルタの場合に限定されるものでなく、複数の1次元フィルタないしはそれに準じたフィルタを含む複数のフィルタを用いても良い。
上記表示処理部28により生成された画像信号は、モニタ4に出力され、このモニタ4の表示面には画像処理された処理画像等が表示される。なお、画像入力部21、CPU22、処理プログラム記憶部23、画像記憶部24、処理情報記憶部25、記憶装置インタフェース26、表示処理部28、入力操作部29は、データバス30を介して互いに接続されている。
一般的に、正常な組織と病変組織の場合とでは内視鏡画像中の血管の走行の様子を含む形状が異なる場合が多い。このため、術者が生体粘膜表面の内視鏡画像から、正常な組織であるか、病変した病変組織であるかを診断する場合、内視鏡画像中の血管の走行の様子を含む形状を、診断する場合の指標、又は拠り所とする場合がある。従って、内視鏡画像中における血管の走行の様子を含む形状を、より視認し易いように抽出して表示ができるように画像処理すると、術者による診断を有効に支援することができる。
本実施形態は、粘膜表面構造における血管のように複雑な形状を有する(抽出しようと望む)抽出対象物を演算量が少ない画像処理により精度良く抽出し、視認し易く表示する等ができるように支援することを主要な目的とする。
なお、以下の説明においては、医用画像としての内視鏡画像から血管を抽出対象として抽出する場合を説明するが、血管以外の生体の粘膜表面構造に適用しても良い。
本実施形態では、例えば図2に示すようにCPU22は、画像入力部21を経て入力される医用画像としての画像信号に対してノイズ抑制、逆ガンマ補正等の前処理を行う前処理部31の機能を有する。
なお、前処理部31は、後述するようにノイズを抑制する処理を行うノイズ抑制部31a、逆ガンマ補正を行う逆ガンマ補正部31b、光量の影響を低減するために2つの色信号の比の画像信号を算出する色信号比算出部31cを含む。
また、このCPU22は、前処理された画像信号に対して、上記フィルタ記憶部39に格納された複数のフィルタとしての複数の1次元フィルタを用いて、抽出しようと望む対象形状の特徴量を抽出するための演算を行うフィルタリング手段としてのフィルタリング処理部(又はフィルタリング演算部)32の機能を有する。
また、このCPU22は、フィルタリング処理部32によるある画素における複数のフィルタ出力のうち該画素に最も反応したフィルタ、具体的には最大値を(広義には絶対値が最大値)を出力(生成)する1次元フィルタを求め、この1次元フィルタに対応した注目画素を、抽出しようと望む対象形状の特徴量として選択(又は抽出)する(特徴量選択手段としての)特徴量選択部33の機能を有する。
この特徴量選択部33は、フィルタリング処理部32の出力値から最大値を探索する最大値探索部33aを有する。そして、上記のように最大値を出力する1次元フィルタに対応した注目画素を対象形状の特徴量、つまり血管の特徴量を有する血管特徴量として抽出する。
また、この最大値探索部33aは、最大値を出力する1次元フィルタの幅と方向の情報から、注目画素での血管の幅(又は幅候補)を推定する幅推定部33bと、注目画素での血管の表面的に走行している方向としての走行方向(又は走行方向候補)を推定する走行方向推定部33cの機能を有する。また、このCPU22は、特徴量抽出部33により抽出された特徴量が、対象形状の特徴を含むか否かを判定するための判定基準に合致するか否かを判定する判定手段としての判定部34の機能を有する。
この判定部34は、抽出された血管特徴量に対して、血管の特徴を含むか否かを判定するための判定基準として用意した閾値を用いて判定する。また、このCPU22は、他の実施形態において説明するため点線で示すように、判定部34等により判定された血管画素(又は血管画素が複数となる場合における血管候補画素)、非血管画素(又は非血管画素を補正する場合における非血管画素候補画素)を補正する補正部35の機能を有する。
なお、補正部35は、推定された幅を補正する幅補正部35a、推定された走行方向を補正する走行方向補正部35bを有する。この他、後述するようにCPU22は、注目画素を含む局所領域における複数画素による統計量を算出する統計量算出部36、算出された統計量を用いて特徴量を補正する補正部36aを備える。
なお、CPU22を用いること無く、ハードウェアによって、前処理部31、フィルタリング処理部32、特徴量選択部33、判定部34、補正部35、統計量算出部36をそれぞれ、またはその一部を形成しても良い。また、図1に示すように分離した構成に限らず、1つの処理機能が他の機能を含む組み合わせなどにしても良い。
本実施形態における画像処理装置3は、医療機器により撮像された医用画像を入力する画像入力手段としての画像入力部21と、前記医用画像から注目画素を含む複数の画素からなる局所領域に対して、抽出対象の粘膜表面構造に応じて設定され、前記粘膜表面構造の横断面に対する濃度変化を検出するために用意される互いに異なる複数の横断面のサイズと、前記粘膜表面構造の表面的に走行している方向を検出するために用意される互いに異なる複数の方向と、に対応した複数のフィルタと、前記複数のフィルタを用いて、前記注目画素を含む前記局所領域に対して前記粘膜表面構造に対応した特微量を抽出するための演算を行うフィルタリング手段としてのフィルタリング処理部32と、前記フィルタリング手段による演算により、ある画像における複数のフィルタ出力のうち該画素に最も反応したフィルタから前記粘膜表面構造の特徴量を選択する特微量選択手段としての特徴量選択部33と、選択された前記特微量に対して該特徴量が前記粘膜表面構造の特徴を含むか否かを判定する判定手段としての判定部34と、を備え、前記複数のフィルタは、Nを1以上,Mを2以上の整数として、前記複数の横断面に対する濃度変化のサイズに対応して用意されるN個のフィルタを、前記横断面に対する濃度変化の方向と直交する方向に対応して用意されるM個の方向にそれぞれ配置したN×M個からなることを特徴とする。
次に図3を参照して本実施形態の画像処理装置3による処理内容を説明する。内視鏡装置2により撮像され、モニタ9に表示される生体の粘膜表面構造の内視鏡画像の1例を図4に示す。内視鏡画像における血管は、ヘモグロビンがG成分を吸収することから、血管周囲の背景粘膜と比較して濃度値が低くなる。
例えば、図4の濃度値が低い部分(暗い部分)となる血管は、画像上では様々な方向に走行し、表面的に走行している方向としての走行方向に直交する方向の横断面の構造は,下に凸の形状を示す(これを谷構造と呼ぶこととする)と考えられる。このような形状を有する血管の特徴量としての谷構造は、様々な幅のサイズ(谷となっている画素数)を持つ。
このような内視鏡画像の画像信号は、図3のステップS1において画像入力部21により画像処理装置3内に読み込まれ、画像記憶部24に記憶される。
次のステップS2においてCPU22の前処理部31は、画像記憶部24に一時記憶した画像信号を読み出し、その画像信号に対して前処理を行う。
この前処理として、ノイズ抑制部31aは、例えば3×3のメディアンフィルタを用いて画像信号に対するノイズ抑制を行い、さらに逆ガンマ補正部31bは、ノイズ抑制の処理後の画像信号に対して逆ガンマ補正を行う。
さらに、逆ガンマ補正された画像信号に対して、光量等の影響を受けにくくするために、色信号比算出部31cは、各画素における3つの色信号における、例えばG信号及びR信号の画素信号値g、rの比の値を算出する処理を行う。算出された色信号値比(g/r値とも記す)からなるG/R画像を、次のステップS3の処理の入力画像として用いる。
ステップS3においてフィルタリング処理部32は、入力画像に対してフィルタ記憶部39に格納された複数のフィルタとして複数の1次元フィルタを用いて、血管の特徴量を抽出するためのフィルタリング処理を行う。
このフィルタリング処理により、1次元フィルタの数(但し、以下に説明するように同じ1次元フィルタが異なる複数の方向に用意される)に等しい数のフィルタリング処理された複数の処理値が出力値として生成される。
次のステップS4において特徴量選択部33は、画素ごとに生成された複数の出力値において最大となる処理値を、血管の特徴量を持つ血管特徴量とする。つまり、ある画素における複数のフィルタ処理結果のうち、最大の出力値をとるフィルタから血管の特徴量を選択又は抽出する。
次のステップS5において判定部34は、抽出された血管の特徴量を持つ画素に対して判定基準としての例えば閾値を用いて実際に血管の特徴を有する血管画素であるか否かを判定、つまり血管の特徴量を持つ画素が血管の特徴を有する血管画素で有るか否かの判定の処理を行う。ステップS5の判定の処理により、ステップS6に示すように血管の特徴量を有する血管画素が決定され、該血管画素から構成される血管領域が決定される。
次のステップS7において判定部34により判定された処理結果の情報を記録すると共に、処理結果の処理画像(血管領域が決定された処理画像)を表示処理部28を経てモニタ4で表示し、図3の画像処理を終了する。
次に図3における血管の特徴量を抽出するためのフィルタリング処理等を詳細に説明する。図5は内視鏡画像中における抽出しようとする対象形状の血管51を含む粘膜領域52をモデル化して示す。
この粘膜領域52中には、血管51を抽出するための注目画素Pが設定される。図5においては、血管51部分に注目画素Pが設定された状態を示している。実際には、注目画素Pは、内視鏡画像中において、術者が注目する2次元の注目領域としての処理対象領域を指定した場合、その処理対象領域の処理対象画素全体を走査(スキャン)するように注目画素Pが設定される。例えば、術者が図5に示す粘膜領域52を処理対象領域に設定した場合には、注目画素Pは、左上の画素Paから水平方向に順次走査するように設定され、右下の最後の画素Pzまで設定される。
血管51の横断面は、例えば図6に示すように下に凸となる形状、つまり谷構造を有し、その谷の幅、つまり横断面のサイズが異なるものが存在する。
このため、本実施形態においては、図6に示す表面構造の横断面に対する濃度変化に対応した形状の血管51を抽出するために、例えば図7に示した形状のもので、幅のサイズが異なる複数の1次元形状フィルタを用意する。なお、図7における横軸は、血管51の横断面の方向に対応して設定される方向であり、縦軸は1次元形状フィルタの値、つまりフィルタ係数値を表す。
また、血管51の走行方向が異なる場合にも対応できるようにするために、その複数の走行方向に対応した複数の方向のもの(走行方向候補)を用意する。なお、本明細書に記載の実施形態は、血管以外のピットパターンなどの上皮構造にも適用できる。そして、横断面が下に凸の場合に限らず、上に凸である等、抽出しようとする特徴的な形状を持つ横断面であれば、その横断面に応じたフィルタを用意することで、血管以外の場合にも同様に対応可能となる。
従って、本実施形態における複数の1次元フィルタは、画像中における抽出しようとする血管51の幅Wに対応した複数の1次元形状フィルタを、複数の方向に配置したものを用意する。図5における点線は、複数の方向として、水平方向、水平方向と45°、水平方向と90°、水平方向と135°をなす4つの方向d,d,d,dのものを示している。
図8は、図3のステップS3の対象形状を抽出するフィルタリング処理を示す。入力画像内に注目すべき注目領域としての処理対象領域が設定されると、フィルタリング処理部32は、処理対象領域内の注目画素Pに対して、その注目画素Pが所望の対象形状を有する特徴量の画素であるかどうかを決定するためのフィルタリング処理を行う。
処理対象領域中における注目画素Pを表すためにパラメータkを用いて注目画素Pk(0≦k≦処理対象画素数−1)とする。
また、パラメータkとして直交する2次元座標としてのXY座標表現を(i,j)とする。ここで、0≦i<width、 0≦j<height(とし、width、heightは処理対象領域の水平方向及び垂直方向の画像のpixel数(画素数)を示す。また、注目画素P(i,j)の観測値をp(i,j)とする。なお、注目画素P(i,j)、観測値p(i,j)を簡略的に表すPk,pkも用いる。本実施形態では、観測値p(i,j)は注目画素P(i,j)におけるg/r値となる。
図8は、ステップS2における前処理を行った後の画像を入力とし、予め作成された、複数の幅Wと複数の方向Dとに対応して構成される複数の1次元フィルタとして、N×M個のフィルタ係数fdw(d1≦d≦d、w1≦w≦w)を適用する。
そして、後述する式(3)で示すように、観測値p(i,j)と、フィルタ係数fdwとの積和演算を行う。
この積和演算を行う場合、フィルタ係数fdwの係数要素数(係数長)をFN(=2K+1)とし、j番目の要素をfdw(j)と表すとすると、フィルタ係数fdwは以下のように表すことができる。
fdw={fdw(−K)、fdw(−(K−1))、…、fdw(0)、fdw(1)、…、fdw(K−1)、fdw(K)} (1)
なお、フィルタ係数fdwの係数要素数FNは、後述する具体例に示すように、用意(設定)されるフィルタ形状(特に幅のサイズ)に応じて適宜に設定される。
また、フィルタ係数fdwにおける複数の方向は、処理対象領域の水平方向を0°とした場合の角度(本実施形態では反時計回りに0°〜360°とする)に対応して複数が設定される。
上記の積和演算を行う場合、フィルタ係数fdwにおける上記式(1)中の係数要素数FNの中央位置に注目画素Pを設定し、フィルタ係数fdwのその1次元の配列方向に沿って注目画素を含む局所領域としての複数の画素を設定して(積和演算が)行われる。
また、本実施形態においては、幅が異なる複数の血管51の横断面形状に対応した幅のサイズが異なる複数のフィルタ係数fdw(fdw1,fdw,…,fdw)を準備すると共に、積和演算を行った場合、実際の血管の幅のサイズに対応したフィルタ係数fdwを用いた演算値としての出力値が最大となるようにフィルタ係数fdwのフィルタ係数値が設定されている。
例えば図7に示した1次元フィルタ(フィルタ係数)は、実際の血管51の谷の幅に対応したサイズで中央が負となり、中央の両側においては正となる。そして、フィルタリング処理部32は、血管51を撮像した観測値pkを用いてフィルタ係数と積和演算を行う。
つまり、観測値pkと1次元フィルタとの関係が、幅が対応した関係で、かつ方向が対応した関係(一致した関係)となる場合での積和演算を行うと、中央の谷の部分と観測値pの負の値との積が、殆ど全ての積において正の値となり、それらの積和により大きな演算値として最大の出力値が得られる。
一方、対応した関係に無い観測値pk及び1次元フィルタで積和演算を行うと、例えば図7の谷に部分での積が正、負を含んだり、谷の外側での積が正、負を含んだりして、それらの積和では、大きな演算値となる出力値とはならない。
本実施形態における以下の説明においては、複数の方向の種類数N=4、幅の種類数M=3として説明する。例えば血管51の幅が最大値から最小値まであるものに対して、種類数Mとして最大値、最大値と最小値の中央値、最小値の3種類とする。
3種類の場合に限定されるものでなく、検出対象の粘膜領域等に応じて、Mの値を大きくする等、その値を変更こともできる。複数の方向の種類数Nも、4種類の場合に限定されるものでなく、5種類数以上に設定しても良い。
上記のように、幅の種類数M=3とした場合において、例えば、フィルタ係数fdwは、画素数が5の幅の血管51を最も良く抽出することができる幅(適応幅と定義)が設定されているとする。
同様に、フィルタ係数fdwの適応幅は画素数が7、フィルタ係数fdwの適応幅は画素数が9であるものとする。
具体例で説明すると、方向がdである場合のフィルタ係数は、
fdw={0.18238、0.32356、0.1682、−0.3481、−0.652、−0.3481、0.1682、0.32356、0.18238}、
fdw={0.19347、0.28177、0.24509、−0.0356、−0.4009、−0.5676、−0.4009、−0.0356、0.24509、0.28177、0.19347}、
fdw={0.16261、0.18215、0.2109、0.20337、0.08723、−0.1554、−0.4214、−0.5389、−0.4214、−0.1554、0.08723、0.20337、0.2109、0.18215、0.16261} (2)
と設定される。
なお、フィルタ係数fdw、fdw、fdwに関して係数値(係数要素値)の総和はそれぞれ0となるように設定されている。これらフィルタ係数fdw、fdw、fdwの形状の輪郭は図9に示すようになる。なお、図9の輪郭は、血管の横断面に対する濃度変化のサイズに対応して設定される。
また、フィルタ係数fdw、fdw、fdw、fdwが設定される方向は、それぞれ0°、45°、90°及び135°の方向(図5のd,d, d, dにそれぞれ相当)に設定されるものとして説明する。なお、図9の下側には、フィルタ係数fdw、fdw、fdwと、積和演算が行われる注目画素Pkを含む複数画素からなる局所領域を形成する1次元の配列方向の1つ(0°の場合)を示す。
上記のようにフィルタ係数を設定しているので、図8のステップS31に示したN×M個のフィルタリング処理により、ステップS32に示すように注目画素Pkの観測値pkに対してN×M個の積和演算値の出力値が得られる。
上述したようにフィルタ係数fdwの係数要素数をFNとすると、フィルタリング処理した出力値FOUTwdは次の式(3)で示すことができる。
OUTwd(i,j)=Σp(i+k,j)fdw(k)
OUTwd(i,j)=Σp(i+k,j)fdw(k)
OUTwd(i,j)=Σp(i+k,j)fdw(k) (3)
OUTwdi,j)=Σp(i+k,j)fdw(k)
なお、式(3)におけるΣはk=−FN/2から0を含むk=FN/2まで、観測値p(i+k,j)とフィルタ係数fdw(k)との積p(i+k,j)fdw(k)を和算(加算)することを表す。
また、式(3)において、45°、90°方向のフィルタリング処理(積和演算)では、画素間の距離が√2(2の平方根を表す)となり、0°や90°方向のフィルタリング処理の画素間の距離が1となる場合と異なる。
このため、どの方向の出力でも同じ条件で比較できるように、本実施形態ではBicubic補間法を用いて画素間の距離が1となる画素を求めて、45°と90°方向の観測値とする。ただし、他の補間法を用いた補間による観測値の設定でも良いし、画素間の距離が√2の観測値に合わせたフィルタ係数を別途用意しても良い。
上記の処理により、各注目画素Pkの観測値pkについてN×M個のフィルタリング処理の出力値Vkdwが得られる。
このようにして取得された出力値Vkdwに対して図2のステップS4の特徴量選択(抽出)の処理として、図10の処理が行われる。
上記のようにフィルタリング処理における注目画素Pkが血管51を構成する画素であった場合、その画素の位置における血管の幅と走行方向に最も合致したフィルタ係数fDWの出力が複数のフィルタ係数によるN×M個のフィルタリング処理の演算結果の中で最大となる。
この特性を利用して、図10のステップS41において最大値探索部33aは、N×M個の出力値Vkdwから最大値となるフィルタ係数fDWを探索する。
出力値が最大値となったフィルタ係数fDWが注目画素Pkに最もフィットしたフィルタであるので、上記ステップS41において最大値探索部33aは、フィルタリング処理した出力値Vkdwが最大値となるフィルタ係数fDWを探索し、探索したフィルタ係数fDWとフィルタリング処理の演算に用いられた注目画素Pkにおける出力値VkDWを注目画素kの出力値とする。
また、そのフィルタ係数fDWの適応幅と、その設定された方向がその注目画素Pkにおいて血管が有する幅と走行方向の情報となる。この情報を注目画素Pkの血管の幅と走行方向の情報とも言う。
次のステップS42において判定部34は、血管であるか否かを判定するために予め設定(用意)した所定の閾値Tと、前のステップS41において探索した前記出力値VkDWと、を比較して(観測値pk又はp(i,j)で表される)注目画素Pkが血管の画素、つまり血管画素であるか否かの判定する。本実施形態においては所定の閾値TはT=0.003に設定されている。
ステップS42の判定処理において、判定部34は、VkDW>TであればステップS43に進み、注目画素Pk(観測値pkの画素)は、血管を構成する血管領域の血管画素であると判定する。
一方、ステップS42の判定処理において、判定部34は、VkDW≦TであればステップS44に進み、注目画素Pk(観測値pkの画素)は血管を構成する血管領域の画素でない(つまり、非血管画素である)と判定する。なお、上述した処理は、処理対象領域における注目画素Pkが無くなるまで繰り返される。
処理対象領域に対して上述した処理を行うことにより、ステップS6に示すように注目画素Pkが血管を構成する血管領域の画素であるか否か、換言する血管領域が決定する。
以上の処理により、様々な濃度の谷構造を有する血管を抽出して血管領域を決定することができる。また、処理対象領域における全ての注目画素Pkに対する処理が終了するとステップS45において例えば処理情報記憶部25は、判定結果の情報を記憶する。なお、判定結果の情報をハードディスク27に記憶しても良い。
また、ステップS46において表示処理部28は、ステップS45の判定結果の情報を反映した処理画像をモニタ4に出力し、モニタ4は処理画像を表示する。モニタ4において処理画像を表示する場合、例えば血管画素と判定された画素信号値を、非血管後素と判定された画素信号値とは識別し易くするように輝度値、又は特定の色で強調する。
また、モニタ4には、画像処理装置3に入力される入力画像と、図3又は図10の処理により血管又は非血管と判定された処理画像とが例えば図11に示すように対比し易いように表示する。そして、図10或いは図3の処理を終了する。
本実施形態における医用画像処理方法は、医療機器により撮像された医用画像を入力する画像入力ステップとしての図3の入力画像を読み込ませるステップS1と、前記医用画像から注目画素を含む複数の画素からなる局所領域に対して、抽出対象の粘膜表面構造に応じて設定され、前記粘膜表面構造の横断面に対する濃度変化を検出するために用意される互いに異なる複数の横断面に対する濃度変化のサイズと、前記粘膜表面構造の表面的に走行している方向を検出するために用意される互いに異なる複数の方向と、に対応した複数のフィルタを用いて、前記注目画素を含む前記局所領域に対して前記粘膜表面構造に対応した特微量を抽出するための演算を行うフィルタリングステップとしてのステップS3と、前記フィルタリングステップによる演算により、ある画素における複数のフィルタ出力のうち該画素に最も反応したフィルタから前記粘膜表面構造の特徴量を選択する特微量選択ステップとしてのステップS4と、選択された前記特微量に対して該特徴量が前記粘膜表面構造の特徴を含むか否かを判定する判定ステップとしてのステップS5とを備え、前記複数のフィルタは、Nを1以上、Mを2以上の整数として、前記複数の横断面に対する濃度変化のサイズに対応して用意されるN個のフィルタを、前記横断面に対する濃度変化の方向と直交する方向に対応して用意されるM個の方向にそれぞれ配置したN×M個からなることを特徴とする。
本実施形態によれば、術者は、モニタ4に表示される入力画像と、処理画像とを参照することにより、入力画像のみから血管部分を識別して診断を行う場合に比較して、画像処理により血管と非血管と判定された処理画像を参照することによって、より血管を識別し易い状態で把握できる。このため、血管部分の構造に基づく診断をより短時間に、かつ円滑に行うことができる。
また、本実施形態によれば、複数の1次元フィルタを用いて、特徴量を抽出するための画像処理を行うようにしているので、簡単でしかも演算量が少ない画像処理により、屈曲または蛇行したり、管径が変化する血管のような複雑な形状(構造)を有する場合にも、精度良くその形状(構造)を抽出することができる。また、演算量が少ない画像処理で済むため、処理画像を表示するまでに短時間で済む。
なお、上述した実施形態においては血管候補の抽出処理は、フィルタリング処理の出力値に対する最大値探索を行う処理により構成されると説明したが、血管候補の抽出処理は、フィルタリング処理と最大値探索処理により構成されると定義しても良い。
(第2の実施形態)
次に本発明の第2の実施形態を説明する。本実施形態は、第1の実施形態とハードウェア上の構成は同じ(後述する第3,第4の実施形態も同様)である。本実施形態は、第1の実施形態において、血管が分岐している部分を抽出する機能を追加したものである。
このため、本実施形態におけるフィルタ記憶部39は、図12に示すように第1の実施形態における複数の1次元フィルタの情報を格納するものに対応する1次元フィルタの情報記憶部39aの他に、さらに分岐部分を検出(抽出)するための1次元フィルタにより構成される分岐検出用フィルタの情報を格納する分岐検出用フィルタの情報記憶部39bを備えている。以下においては、第1の実施形態における複数の1次元フィルタを、血管の横断面の谷構造に対応した形状の谷構造フィルタと呼ぶ。
なお、図12中における括弧で示す幅広谷構造フィルタは、分岐検出用フィルタの代わりに用いることができる変形例の1次元フィルタを示す。
第1の実施形態においては、分岐を考慮していない場合における血管の横断面の谷構造に対応した形状の谷構造フィルタを用いていたが、本実施形態においては分岐した部分を検出(抽出)するための分岐検出用フィルタをさらに用いる。
分岐検出用フィルタとして、例えば、n個の1次元分岐形状フィルタをM個の走行方向に配置したn×M個のフィルタ係数fdbを、上述したフィルタ係数fdwに追加して使用される。
そして、本実施形態は、図13に示すような処理手順で血管を抽出するための処理を行う。
図13におけるステップS1及びS2は図3と同じ処理である。また、本実施形態におけるステップS3′のフィルタリング処理においては、上述した第1の実施形態で説明した複数の1次元フィルタ(谷構造フィルタ)を用いたフィルタリング処理の他に、分岐検出用フィルタを用いても同様に行う。
さらに補足説明すると、第1の実施形態においては、フィルタリング処理として図8に示したステップS31においてN×M個のフィルタ係数fdwを用いてフィルタリング処理を行ったが、本実施形態においては、さらにn×M個のフィルタ係数fdbを用いてフィルタリング処理を行う。つまり、(n+N)×Mのフィルタリング処理を行う。なお、図8のNを(n+N)に置換すると、図8と同様の処理となる。
また、次のステップS4′においても、上述したステップS4の処理の他に、分岐検出用フィルタを用いた場合の出力値Vkdbから血管の特徴量を選択(抽出)する。
このように谷構造フィルタの他に,分岐検出用フィルタを用意して、当該分岐検出用フィルタでフィルタリング処理した出力値が、例えば第2の所定値以上に大きくなる画素を血管画素として、谷構造フィルタでフィルタリング処理した結果に追加して抽出することで,分岐等によって谷構造フィルタでは抽出することができなかった血管画素を抽出するように補正することができる。
このようにして抽出された血管の特徴量に対して、ステップS5′において判定基準に合致するか否かにより血管特徴量の判定、つまり血管画素か非血管画素かの判定を行う。
なお、ステップS5′における判定の処理においては、第1の実施形態で説明したように谷構造フィルタによる出力値が閾値を超えるか否かに応じて、その注目画素が血管画素か非血管画素かを判定した。
一方、分岐検出用フィルタの場合においては、複数の方向においてその出力値が閾値を超えるか否かに応じて、その注目画素が血管画素か非血管画素かを判定する判定基準を用いる。例えば,分岐検出用フィルタの出力結果が複数の方向において予め設定した閾値Tw(例えばTw=0.003)を超える出力値であった場合はその画素を血管画素として、谷構造フィルタによる血管画素を追加補正する。このようにしてステップS6に示すように血管領域が決定する。なお、判定基準は、上記閾値Twの場合に限定されるものでなく、異なる閾値、例えば上記閾値Twと異なる第2の閾値等に設定しても良い。
そして、図3のステップS7に進み、処理結果の記録、表示を行う。
以上説明した本実施形態によれば、第1の実施形態と同様の効果を有すると共に、第1の実施形態では抽出し難い血管が分岐している部分を精度良く抽出することができる効果を有する。本実施形態も複数の1次元フィルタを用いたフィルタリング処理を採用するため、少ない演算量で済む。
なお、本実施形態の変形例として、分岐検出用フィルタの代わりに、谷構造フィルタの場合よりも、幅が広い谷構造を抽出(検出)するための幅広谷構造フィルタ(又は幅広谷形状フィルタ)を用いても良い。また、下に凸となる谷構造以外(例えが上に凸となる構造)にも適用可能である。
分岐検出用フィルタの代わりに、幅広谷構造フィルタを用いた場合の処理は、上述した分岐検出用フィルタを用いた場合と同様である。
例えば、図8のステップS31におけるフィルタリング処理として、谷構造フィルタの他に、画像内に存在すると想定される血管の幅よりも幅の広い谷構造を抽出するための上記幅広谷構造フィルタを用いてフィルタリング処理を行う。
そして、第1の実施形態における谷構造フィルタの出力値の他に、幅広谷構造フィルタの出力値を用いることにより、第1の実施形態における血管の特徴量の選択結果を補正することができる。
例えば,幅広谷構造フィルタの出力結果が複数の方向において予め設定した閾値Tw(例えばTw=0.003)以上の出力であった場合はその画素を血管画素として追加する。
また、谷構想フィルタの出力値が最大となる方向と、幅広谷構造検出フィルタの検出結果が同じ方向を示した場合に,その画素が谷構想フィルタからは血管の画素として抽出されない非血管候補の画素の場合においても血管画素に追加しても良い。
なお、谷構造フィルタにおける横断面の幅のサイズより広い幅広谷構造フィルタ又は分岐した部分の形状に合わせた形状のフィルタを用意し、両方又はその一方を選択して、上記の分岐検出用フィルタとして使用できるようにしても良い。両方を適用することにより、分岐した部分をより確実に抽出することができる。また、分岐した部分の他に、蛇行した部分を検出するために蛇行した形状に合わせた蛇行検出用フィルタを用意しても良い。
また、分岐検出用フィルタ或いは蛇行検出用フィルタ(つまり分岐・蛇行検出用フィルタ)として、例えば1次元フィルタのものの他に、1次元フィルタから外れるが1次元フィルタを複数の係数要素数を1行に配置したものとした場合、2、3行以内とした1次元フィルタに近い2次元フィルタを用いるようにしても良い。この2次元フィルタを1次元フィルタに準じたフィルタと言う。
例えば、分岐・蛇行検出用フィルタとして、例えば1次元フィルタのものの方向がdである場合のフィルタ係数を{0,0.1,−0.2,−0.6,−0.2,0.1,0}とした場合、1次元フィルタに準じたフィルタのフィルタ係数を3行からなる{0,0.05,−0.1,−0.3,−0.1,−0.05,0},{0,0.1,−0.2,−0.6,−0.2,0.1,0},{0,0.05,−0.1,−0.3,−0.1,−0.05,0}に拡張したものを用意して、分岐又は蛇行した部分をより確実に抽出することができるようにしても良い。
また、1次元フィルタのものと、1次元フィルタに準じた2次元フィルタのものとを用意し、分岐・蛇行検出用フィルタとして実際に使用する場合にその一方を術者等が選択できるようにしても良い。
なお、1次元フィルタに準じたフィルタとしての2次元フィルタのものを分岐・蛇行検出用フィルタとして実際に使用する場合に対して説明したが、分岐や蛇行した部分を検出する場合に限定されるものでなく、1次元フィルタに準じたフィルタとしての2次元フィルタを抽出対象の粘膜表面構造に対して適用しても良い。
なお、図10に示したステップS41の最大値探索の処理において、g/r値と、谷構造を変形して特徴量化し、フィルタ出力値の補助として利用するようにしても良い。例えば、フィルタ出力値が小さい画素に対して、g/r値が予め設定した閾値Tgr(例えばTgr=0.01)以下のもの、又は近傍との比較によりg/r値が谷構造を持つ画素を血管画素として追加するようにしても良い。
(第3の実施形態)
次に本発明の第3の実施形態を説明する。本実施形態は、注目画素に対する特徴量の判定結果を、その周辺画素の情報を利用して補正するものである。上述した実施形態で説明したように、フィルタリング処理した出力値が最大となるフィルタ係数fDWの幅と方向を、注目画素の血管幅と走行方向の情報として決定する。
これにより、少ない演算量で注目画素の血管幅と走行方向として決定することが可能になる。しかし、入力画像における注目画素の画素信号値(g/r値)に、除去できなかったノイズが重畳すると、注目画素において血管幅又は走行方向が急激に変化する判定結果となることが有り得る。
単一の血管上で隣接する血管画素の幅や走行方向は、例えば連続して幅5であったものがある1点においてのみ幅9となることや、dの方向に走行していた血管がある1点においてのみ方向がdになること等、急激な変動はないであろうと想定して、幅と方向の補正を行う。
この補正を行うため、本実施形態においては、注目画素周辺の結果を利用して特徴量の判定結果を補正する。この補正を行うために、本実施形態におけるCPU22は、第1の実施形態の構成において、例えば図2に示した補正部35により上記の補正を行う。
本実施形態における処理内容は図14に示すようになる。
図14におけるステップS1−S3は、図3において説明した処理と同様である。また、ステップS41さらにステップS42は図10で説明した閾値を用いた比較を行う処理と同様である。ステップS42の比較結果に対する処理はステップS43′、ステップS44′に示すようにステップS43、ステップS44とは若干異なる。
上述した第1の実施形態においてはフィルタリング処理した出力値の最大値が閾値を超えるか否かに応じて、図10のステップS43,S44に示すように注目画素が血管画素であるか非血管画素であるかの判定を行っていたが、本実施形態においては、図14のステップS43′、ステップS44′に示すように、その判定結果により注目画素が補正前の血管画素(血管候補画素とも言う)であるか補正前の非血管画素(非血管候補画素とも言う)であると判定する。
なお、図14におけるステップS42における閾値Tを、第1の実施形態における閾値Tとは異なる値、つまり上記判定基準と異なる第2の判定基準に設定して、(血管候補画素であるか非血管候補画素であると判定するための)比較を行うようにしても良い。換言すると、図14におけるステップS42は、第1の実施形態の判定基準と異なる第2の判定基準とを用いた判定を行うようにしても良い。
ステップS43′、ステップS44′により血管候補画素、非血管候補画素が判定され、ステップS51に示すように血管候補画素(補正前の血管画素)及び非血管候補画素(補正前の非血管画素)が抽出される。
そして、次のステップS52においてCPU22(による図2に示した補正部35)は、血管候補画素、非血管候補画素に対して血管画素、非血管画素であるか否かを判定に対する判定の処理を行う。本実施形態におけるステップS52の処理は、第1の実施形態における血管画素、非血管画素と判定された結果を実質的に補正するため、判定の処理は、補正処理とも言える。
ステップS52による上記候補判定の処理後に、ステップS6に示すように特徴量が算出(血管領域が決定)され、さらにステップS7の処理が行われる。ステップS6,S7は図3と同じ処理である。
次にステップS52の判定の処理としては、例えば以下のような処理により、補正部35を構成する走行方向補正部35bは実質的に走行方向の補正の処理を行う。
まず、血管候補画素(補正前の血管画素)からなる血管候補領域を1、血管候補画素以外の領域を0とし、細線化の処理を行うことで血管芯線を抽出する。
次に、血管芯線の中から注目画素Pkを選択し、その注目画素Pk(の観測値pk)の血管の走行方向の情報をdK1とし、その隣の芯線の走行方向の情報をdK2とする。
走行方向の情報dK1とdK2のなす角度が90°の場合、注目画素Pk又は隣の芯線の画素の血管の走行方向の情報dK1又はdK2をフィルタリング処理の出力値が2番目に大きいフィルタ係数の方向として修正する補正処理を行う。
なお、血管芯線の抽出は、フィルタリング処理の出力値を用いて決定する場合に限らず、極値収束法を用いて領域分割した際の境界と抽出された血管候補領域との比較により決定しても良い。
以上の処理により、単一の血管上での走行方向の誤認識を修正することができる。その他、第1の実施形態と同様の効果を有する。
なお、注目画素Pkにおける芯線の走行方向に沿って注目画素Pkに隣り合う例えば2つの隣接画素(より広義には複数の近傍画素)の血管の走行方向の情報をdK2l、dK2rとして、dK2l、dK2rが一致した条件、つまりdK2l=dK2r(=dK2)を満たす場合において、注目画素Pk走行方向の情報dK1とdK2のなす角度が90°の場合、注目画素Pkの血管の走行方向の情報dK1をフィルタリング処理の出力値が2番目に大きいフィルタ係数の方向として修正する補正処理を行うようにしても良い。
このように注目画素における血管の走行方向の情報が、その血管の芯線方向に隣合う複数の近傍画素における血管の走行方向の情報と予め設定された閾値以上異なる場合において、注目画素における血管の走行方向の情報を補正することを行うようにしても良い。
以上は、血管の走行方向の補正を行う場合を説明したが、図2の補正部35を構成する幅補正部35aは、血管の幅を以下のように補正する。
例えば注目画素Pkにおける芯線の走行方向に沿って隣り合う例えば2つの隣接画素(より広義には複数の近傍画素)の血管の幅の情報をwK2l、wK2rとして、wK2l、wK2rが一致した条件、つまwK2l=wK2r(=wK2)を満たす場合において、注目画素Pkの幅の情報wK1とwK2との差の絶対値が、予め設定された閾値以上の場合、注目画素Pkの血管の幅の情報wK1を隣接画素の値に修正する補正処理を行うようにしても良い。
このように注目画素における血管の幅の情報が、その血管の芯線方向に隣合う複数の近傍画素における血管の幅の情報と予め設定された閾値以上異なる場合において、注目画素における血管の幅の情報を補正することを行うようにしても良い。
なお、上述の実施形態における図14のステップS42による判定処理に応じてS43′、S44′において、注目画素Pkが血管候補画素及び非血管候補画素と決定していた。このように決定する代わりに、第1の実施形態のように血管画素及び非血管画素と決定し、決定した血管画素及び非血管画素(但し補正前の血管画素及び補正前の非血管画素)に対して、ステップS52により補正前の血管画素及び補正前の非血管画素補正を行うことにより、補正済みの血管画素及び非血管画素を決定する(図14のステップS6に相当)ようにしても良い。
(第4の実施形態)
次に本発明の第4の実施形態を説明する。本実施形態は、特徴量判定により判定された血管画素及び非血管画素に対して注目画素の近傍の複数画素の情報を用いて補正する。本実施形態の全体の処理内容は、第3の実施形態で説明した図14と同様であるため、本実施形態の全体の処理内容を図示しない。但し、本実施形態においては、図14におけるステップS52の判定の処理内容が第3の実施形態の場合と異なる。
本実施形態は、上述した第3の実施形態と同様に図14におけるステップS43′、S44′の処理により血管候補画素と非血管候補画素とを判定することにより、ステップS51に示すように血管及び非血管候補画素を抽出する。換言すると、血管候補画素からなる血管候補領域と非血管候補画素からなる非血管候補領域とが抽出される。
そして、本実施形態においては、ステップS52の候補判定の処理において、血管候補領域(補正前の血管領域)と非血管候補領域(補正前の非血管領域)の注目画素Pkを中央に含む近傍領域(局所領域)の各画素に対して図15及び図16に示すように血管候補、非血管候補の画素数をカウント(計数)し、図17に示すようにカウント数に応じて注目画素Pk(観測値pk)が血管又は非血管であるかを判定する処理を行う。
図15及び図16は、近傍領域における血管候補、非血管候補の画素数をカウント(計数)して、補正する処理(その具体的な処理内容は図17)を示す。図15による処理の概略を説明すると、
(i)血管の走行方向の情報が既知である場合、
(a)近傍画素が血管候補画素である場合には、近傍画素の走行方向に注目画素が位置し、かつ、着目画素の走行方向の情報が近傍画素の走行方向の情報と一致する場合、近傍画素を血管候補画素としてカウントする。
(b)近傍画素が非血管候補画素である場合には、近傍画素の走行方向に注目画素が位置し、かつ、注目画素の走行方向の情報が近傍画素の走行方向と一致しない場合、近傍画素を非血管候補画素としてカウントする。
また、図16による処理の概略を説明すると、
(ii)血管の幅の情報が既知である場合、
(c)近傍画素が血管候補画素である場合には、注目画素の幅と近傍画素の幅の差が閾値T2未満の場合、近傍画素を血管候補画素としてカウントする。
(d)近傍画素が非血管候補画素である場合には、注目画素の幅と近傍画素の幅の差が閾値T2以上の場合、近傍画素を非血管候補画素としてカウントする。
さらに、上記(a)〜(d)の各条件が1画素以上で満足する場合、(a)、(c)、(b)、(d)の順で優先的に血管候補画素/非血管候補画素のカウントを行い、さらにカウントした結果を条件として図17で示すように血管画素、非血管画素の補正をする。
なお、上述した(a)と(b)、又は(c)と(d)は、互いに排他的な関係にあるため、近傍において条件を満たす画素数が多いものを採用する等の組合せをしてもよいし、最も条件が一致した数が多かった場合の出力を利用してもよい。
次に図15の処理を詳細に説明する。最初のステップS61において、CPU22は、例えば注目画素を含むその近傍の近傍領域(例えば注目画素を中心に配置した3×3の画素サイズ)において、血管の走行方向の情報が既知であるか否かの判定を行う。
この判定は、例えば近傍領域(局所領域)において血管候補領域に属する画素が複数存在し、それら複数の画素における血管の走行方向の情報が、予め設定された閾値以内のばらつきに収まる場合には、近傍領域に含まれる近傍画素における血管の走行方向の情報が既知であるとする。
一方、閾値以内のばらつきに収まらない場合には、CPU22は、血管の走行方向の情報が既知でないと判定し、図15の処理を終了する。
血管の走行方向が既知と判定された場合には、次のステップS62においてCPU22は、注目画素の近傍画素が血管候補の画素であるか否かの判定を行う。注目画素の近傍画素が血管候補の画素である判定結果の場合には、次のステップS63においてCPU22は、近傍画素の走行方向に注目画素が在るか否かの判定を行う。
近傍画素の走行方向に注目画素が在る判定結果の場合には、次のステップS64においてCPU22は、近傍画素の走行方向が注目画素の走行方向と一致している(同じである)か否かの判定を行う。
近傍画素の走行方向が注目画素の走行方向と一致している判定結果の場合には、次のステップS65においてCPU22は、血管候補の画素のカウント数(図15中では血管候補数と略記)に1を加算する。つまり、当該近傍画素を血管候補の画素としてカウントする。なお、この血管候補の画素のカウント数の初期値は0に設定されている。
一方、ステップS62、S63,S64において、注目画素の近傍画素が血管候補の画素でない判定結果、近傍画素の走行方向に注目画素が無い判定結果、近傍画素の走行方向と注目画素の走行方向とが一致しない判定結果の場合には、ステップS66においてCPU22は、非血管候補の画素のカウント数(図15中では非血管候補数と略記)に1加算する。つまり、当該近傍画素を非血管候補の画素としてカウントする。なお、この非血管候補の画素のカウント数の初期値は0に設定されている。
ステップS65、S66の処理の後、ステップS67においてCPU22は、注目画素の近傍領域の全画素を探索済みであるか否かの判定を行い、近傍領域の全画素を探索済みでない場合には残りの近傍画素に対して、ステップS61−S67の処理を繰り返す。
一方、近傍領域の全画素に対して上述したステップS61−S67の処理を行った場合には、ステップS68においてCPU22は、補正の処理を行い、図15の処理を終了する。ステップS68の処理に関しては、図17にて後述する。
なお、ステップS64の判定処理により、近傍画素の走行方向が注目画素の走行方向と一致しない判定結果の場合には、さらに近傍画素の走行方向が注目画素の走行方向と直交しているか否かを判定し、直交している場合に非血管候補の画素数に1加算するようにしても良い。
図16においては以下の処理を行う。最初のステップS71においてCPU22は、近傍画素での血管の幅の情報が既知であるか否かの判定を行う。この判定は、例えば近傍領域(局所領域)において血管候補領域に属する画素が複数存在し、それら複数の画素における血管の幅の情報が、予め設定された閾値以内のばらつきに収まる場合には、血管の幅が既知であるとする。
一方、閾値以内のばらつきに収まらない場合には、CPU22は、血管の幅が既知でないと判定し、図16の処理を終了する。
血管の幅が既知と判定された場合には、次のステップS72においてCPU22は、注目画素の近傍画素が血管候補の画素であるか否かの判定を行う。注目画素の近傍画素が血管候補の画素である判定結果の場合には、次のステップS73においてCPU22は、近傍画素の血管の幅(の情報)と注目画素の血管の幅(の情報)との差(近傍画素と注目画素との幅との差と略記)が閾値T2未満であるか否かの判定を行う。
近傍画素と注目画素との幅との差が閾値T2未満である判定結果の場合には、次のステップS74においてCPU22は、血管候補の画素のカウント数に1加算する。つまり、当該近傍画素を血管候補の画素としてカウントする。なお、図16の処理を開始した場合におけるこの血管候補の画素のカウント数の初期値は0に設定されている。
一方、ステップS72、S73において、注目画素の近傍画素が血管候補の画素でない判定結果、近傍画素と注目画素との幅との差が閾値T2未満で無い判定結果の場合には、ステップS75においてCPU22は、非血管候補の画素のカウント数に1を加算する。つまり、当該近傍画素を非血管候補の画素としてカウントする。なお、図16の処理を開始した場合における非血管候補の画素のカウント数の初期値は0に設定されている。
ステップS74、S75の処理の後、ステップS76においてCPU22は、注目画素の近傍領域の全画素を探索済みであるか否かの判定を行い、近傍領域の全画素を探索済みでない場合には残りの近傍画素に対して、ステップS71−S76の処理を繰り返す。
一方、近傍領域の全画素に対して上述したステップS71−S76の処理を行った場合には、ステップS77においてCPU22は、候補補正の処理を行い、図16の処理を終了する。
次に図17を参照して図15のステップS68及び図16のステップS77の補正の処理を説明する。
補正の処理が開始すると、最初のステップS81においてCPU22は、注目画素の近傍領域における血管候補の画素数が非血管候補の画素数以上であるか否かの判定を行う。血管候補の画素数をNv、非血管候補の画素数をNnvとした場合には、CPU22は、Nv≧Nnvの条件を満たすか否かの判定を行う。血管候補の画素数が非血管候補の画素数以上の場合には、次のステップS82においてCPU22は、注目画素Pkを血管画素と判定する。
一方、血管候補の画素数が非血管候補の画素数以上の条件を満たさない場合には、ステップS83においてCPU22は、注目画素Pkを非血管画素と判定する。そして、図17の処理を終了する。
なお、図15の処理による画素数Nv、Nnvと図16処理による画素数Nv、Nnvとが異なるような場合には、上記のNv≧Nnvか否かの判定の条件をより十分に満たす場合(具体的には両画素数間の大小関係の差が大きいもの)を採用する。
このように処理する本実施形態は、注目画素の近傍領域における全体的な特徴量となる血管候補数、非血管候補数の情報を用いて、注目画素を補正するようにしている。
従って、谷構造フィルタを用いて、血管の抽出結果に、血管の途切れが発生した場合の途切れの改善や、血管端の輪郭の抽出を可能にしたり、急激に幅が変化するような線構造ではない領域を抽出してしまうことを抑制する等が可能となる。その他、第1の実施形態と同様の効果を有する。
なお、本実施形態においても、血管候補画素、非血管候補画素に対して、補正を行う場合に限らす、第3の実施形態において述べたように、血管画素、非血管画素に対して補正を行うようにしても良い。
また、上述した近傍領域又は局所領域は、注目画素を中心に配置した3×3の矩形の画素サイズに限定されるものでなく、領域のサイズ、形状も異なるものを設定しても良い。
なお、図14のステップS52の処理を行う場合、図16及び図17の両方を行う場合に限らず、一方のみを行うようにしても良い。
また、図16及び図17の判定の処理を行う場合、注目画素を選択的に設定するようにして、判定の処理を行う場合の着目する着目画素に対してのみ、判定の処理を行うようにしても良い。
なお、上述した実施形態、例えば図3のステップS5の特徴量判定又は図10のステップS42−S44により血管と非血管とを判定する場合、このような判定に用いられる入力画像内の局所的な色調変化の影響を受け易く、血管の特徴量の抽出機能を低下させる場合がある。このような低下を抑制する補正を、以下に説明する。
例えば、図2に示すようにCPU22により、注目画素Pkを含む局所領域における複数画素の画素信号値に関する統計量を算出する統計量算出手段としての統計量算出部(より具体的には平均値算出部)36と、統計量を用いて特徴量候補等を補正する補正手段としての補正部36aとを設ける。
上述した実施形態においては、G/R画像におけるg/r値を採用しているが、個々の画素での値を採用しているため、ノイズの影響を受け易い。そのため、注目画素を含む局所領域の複数画素における色調の平均値(換言すると統計量)を用いた補正値を用いて補正することで、色調変化の影響を軽減することができる。
例えば、統計量算出部36は、任意に選択した注目画素Pkを中心とした例えば51×51画素の矩形領域のG/R平均値(G/Rave)を算出し、例えば以下の式(4)に示す補正式に代入することで、補正部36aは、色調変化の影響を軽減した補正特徴量を得て、特徴量を補正する。
補正特徴量=特徴量/(−0.0271・G/Rave +0.02・G/Rave−0.0008) (4)
ただし、補正対象の特徴量としては、フィルタリング処理の出力値でも良いし、特徴量を算出するための入力画像のg/r値に適用しても良い。また、補正対象の特徴量に応じて、式(4)の各係数は変更してもよい。また、上記矩形領域は、51×51画素の場合に限定されるものでなく、より小さい矩形領域等でも良い。また、統計量を用いて補正する方法は、統計量により特徴量から抽出画素を判定する判定基準を補正する補正テーブルを用いても良い。
また、2次元の矩形領域等の局所領域の場合に限定されるものでなく、1次元の複数画素からなる局所領域でも良い。
この他に、血管候補/非血管候補を判定する閾値を、生体粘膜の平均値を用いた補正式で補正したり、閾値を補正する閾値を補正テーブルを用意し、この閾値補正テーブルに格納した閾値を用いて補正するようにしても良い。
また、上述した実施形態等においては、谷構造の場合に対して説明したが、本発明は、上に凸となる山構造の場合に対しても適用できる。この場合には、山構造の形状に対応した複数の1次元フィルタを用意すれば良い。そして、第1の実施形態において説明したようにフィルタリング処理の出力値が最大となるものを探索すれば良い。
また、谷構造に対応した複数の1次元フィルタを用いて上に凸となる山構造の場合に適用することもできる。この場合には、フィルタリング処理の出力値の絶対値が最大値となるものを探索すれば良い。また、上に凸の構造のみ探索又は抽出する場合には、フィルタリング処理の出力が最小値(出力が負の場合の絶対値が最大値)となるものか、又は出力の符号を反転した値を利用すれば良い。従って、上述したある画素における複数のフィルタ出力が最も合致する、最大値又は絶対値が最大となるものに設定しても良い。
さらに、上述した特徴量選択部33がフィルタリング処理した場合の複数のフィルタ出力の絶対値が最大になる場合のフィルタから特徴量を選択する場合に限定されるものでなく、他の選択基準を採用しても良い。その理由は以下のようになる。
例えばフィルタAにより最も合致した場合の値は1で、フィルタBでは2であるとすると、フィルタチング処理により実際に算出されたフィルタAの出力が0.8で、フィルタB場合には出力が1.2となる場合を考える。最大値の選択基準を適用すると、0.8<1.2となるのでフィルタBが選択される。しかし、合致率を選択基準と考えると単純計算でフィルタBは1.2/2=0.6<0.8となるので、フィルタAの方が、選択すべきフィルタにより合致している。
このため、特徴量選択部33が、フィルタリング手段により算出された複数のフィルタ出力を比較し、設定された選択基準に基づき(比較結果が選択基準に最も反応又は適合する)生体粘膜構造の特徴量を選択するようにしても良い。
また、前記抽出対象の粘膜表面構造としては、血管、上皮構造に限定されるものでなく、大腸の表面、パターン(表面構造)、ピットパターン、胃でいうMCL,Light blue crest,ピット、窩間部等の様々な場合に広く適用できる。
なお、上述した実施形態等を部分的に組み合わせる等して構成される実施形態も本発明に属する。
本出願は、2011年4月27日に日本国に出願された特願2011−099850号を優先権主張の基礎として出願するものであり、上記の開示内容は、本願明細書、請求の範囲に引用されるものとする。

本発明は医用画像に対する画像処理により血管の構造等の粘膜模様を抽出する医用画像処理装置に関する。
本発明は上述した点に鑑みてなされたもので、分岐や蛇行したり、管径が変化する複雑な形状を有する場合においても適用でき、精度良くその構造を抽出することができる医用画像処理装置を提供することを目的とする。
本発明の一態様の医用画像処理装置は、生体粘膜を撮像して得られる医用画像情報を入力する入力部と、前記医用画像情報における複数の画素の各々に対して異なる複数のフィルタを適用し、前記生体粘膜の表面構造に対応した少なくとも1種類の特徴情報を前記複数のフィルタ毎に抽出するための演算を行うフィルタリング部と、前記複数の画素の各々において、前記フィルタリング部による演算結果から前記複数のフィルタのうち最も反応したフィルタに対応する前記少なくとも1種類の特徴情報を選択す選択部と、前記選択部によって選択された少なくとも1種類の特徴情報から、前記複数の画素の各々が粘膜表面構造候補画素であるか非粘膜表面構造候補画素であるかを判定する判定部と、前記判定部における判定結果または前記選択部において選択された少なくとも1種類の特徴情報を補正する補正部と、を備える
本発明の一態様の医用画像処理装置は、生体粘膜を撮像して得られる複数の画素からなる医用画像情報を入力する入力部と、前記医用画像情報の複数の画素における注目画素に対して前記生体粘膜の表面構造の走行方向と幅のうち少なくとも一方の情報を含む第1のフィルタを適用することにより前記注目画素の第1の特徴情報を取得し、さらに前記注目画素に対して表面構造の走行方向と幅のうち少なくとも一方の情報を含む第2のフィルタを適用することにより前記注目画素の第2の特徴情報を取得し、さらに前記注目画素の近傍に位置する近傍画素に前記第1のフィルタを適用することにより前記近傍画素の第3の特徴情報を取得し、さらに前記近傍画素に前記第2のフィルタを適用することにより前記近傍画素の第4の特徴情報を取得するフィルタリング部と、前記注目画素の第1の特徴情報および前記注目画素の第2の特徴情報に基づき前記第1のフィルタ及び前記第2のフィルタのうち前記注目画素においてより反応したフィルタを選択し、さらに前記近傍画素の第3の特徴情報および前記近傍画素の第4の特徴情報に基づき前記第1のフィルタ及び前記第2のフィルタのうち前記近傍画素においてより反応したフィルタを選択する選択部と、前記注目画素において前記選択部によって選択されたフィルタに対応する特徴情報に基づき前記注目画素が表面構造候補画素であるか非粘膜表面構造候補画素であるかを判定し、さらに前記近傍画素において前記選択部によって選択されたフィルタに対応する特徴情報に基づき前記近傍画素が表面構造候補画素であるか非粘膜表面構造候補画素であるかを判定する判定部と、前記判定部により判定された前記注目画素における判定結果及び前記近傍画素における判定結果と、前記注目画素において前記選択部により選択されたフィルタが含む前記表面構造の走行方向と幅のうち少なくとも一方の情報および前記近傍画素において前記選択部により選択されたフィルタが含む前記表面構造の走行方向と幅のうち少なくとも一方の情報と、に基づき前記注目画素になされた前記判定部における判定結果を補正する補正部と、を有する。
本発明の一態様の医用画像処理装置は、生体粘膜を撮像して得られる複数の画素からなる医用画像情報を入力する入力部と、前記医用画像情報の複数の画素における注目画素に対して前記生体粘膜の表面構造の走行方向と幅のうち少なくとも一方の情報を含む第1のフィルタを適用することにより前記注目画素の第1の特徴情報を取得し、さらに前記注目画素に対して表面構造の走行方向と幅のうち少なくとも一方の情報を含む第2のフィルタを適用することにより前記注目画素の第2の特徴情報を取得し、さらに前記注目画素の近傍に位置する近傍画素に前記第1のフィルタを適用することにより前記近傍画素の第3の特徴情報を取得し、さらに前記近傍画素に前記第2のフィルタを適用することにより前記近傍画素の第4の特徴情報を取得するフィルタリング部と、前記注目画素の第1の特徴情報および前記注目画素の第2の特徴情報に基づき前記第1のフィルタ及び前記第2のフィルタのうち前記注目画素においてより反応したフィルタを選択し、さらに前記近傍画素の第3の特徴情報および前記近傍画素の第4の特徴情報に基づき前記第1のフィルタ及び前記第2のフィルタのうち前記近傍画素においてより反応したフィルタを選択する選択部と、前記注目画素において前記選択部によって選択されたフィルタに対応する特徴情報に基づき前記注目画素が表面構造候補画素であるか非粘膜表面構造候補画素であるかを判定し、さらに前記近傍画素において前記選択部によって選択されたフィルタに対応する特徴情報に基づき前記近傍画素が表面構造候補画素であるか非粘膜表面構造候補画素であるかを判定する判定部と、前記判定部により判定された前記注目画素における判定結果及び前記近傍画素における判定結果と、前記注目画素において前記選択部により選択されたフィルタが含む前記表面構造の走行方向と幅のうち少なくとも一方の情報および前記近傍画素において前記選択部により選択されたフィルタが含む前記表面構造の走行方向と幅のうち少なくとも一方の情報と、に基づき前記注目画素になされた前記判定部における判定結果を補正し、さらに、前記判定部により前記表面構造候補画素であると判断された近傍画素が複数存在し、前記複数の近傍画素において前記選択部により選択されたフィルタが含む前記表面構造の走行方向と幅のうち少なくとも一方の情報が所定の閾値以内のばらつきに収まる場合においてのみ前記判定結果を補正する補正部と、を有する。

Claims (22)

  1. 医療機器により撮像された医用画像を入力する画像入力部と、
    前記医用画像から注目画素を含む複数の画素からなる局所領域に対して、抽出対象の粘膜表面構造に応じて設定され、前記粘膜表面構造の横断面に対する濃度変化を検出するために用意される互いに異なる複数の横断面に対する濃度変化のサイズと、前記粘膜表面構造の表面的に走行している方向を検出するために用意される互いに異なる複数の方向と、に対応した複数のフィルタと、
    前記複数のフィルタを用いて、前記注目画素を含む前記局所領域に対して前記粘膜表面構造に対応した特微量を抽出するための演算を行うフィルタリング部と、
    前記フィルタリング部による演算により、ある画素における複数のフィルタ出力のうち該画素に最も反応したフィルタから前記粘膜表面構造の特徴量を選択する特微量選択部と、
    選択された前記特微量に対して該特徴量が前記粘膜表面構造の特徴を含むか否かを判定する判定部と、
    を備え、
    前記複数のフィルタは、Nを1以上、Mを2以上の整数として、前記複数の横断面に対する濃度変化のサイズに対応して用意されるN個のフィルタを、前記横断面に対する濃度変化の方向と直交する方向に対応して用意されるM個の方向にそれぞれ配置したN×M個からなることを特徴とする医用画像処理装置。
  2. 前記複数のフィルタは、複数の1次元フィルタないしはそれに準じたフィルタにより構成されることを特徴とする請求項1に記載の医用画像処理装置。
  3. 前記特徴量選択部は、前記フィルタリング部により算出された複数のフィルタ出力を比較し、所定の選択基準に基づき前記粘膜表面構造の特徴量を選択することを特徴とする請求項1に記載の医用画像処理装置。
  4. 前記判定部は、前記特徴量が判定基準に合致するか否かに応じて、前記注目画素が抽出対象の粘膜表面構造であるか否かの判定を行うことを特徴とする請求項1に記載の医用画像処理装置。
  5. 前記判定基準は、特徴量判定用の閾値であり、前記判定部は、前記特徴量が前記閾値以上であるか否かに応じて、前記注目画素が抽出対象の粘膜表面構造であるか否かの判定を行うことを特徴とする請求項4に記載の医用画像処理装置。
  6. 前記フィルタリング部による演算により、ある画素における複数のフィルタ出力のうち前記所定値を生成するフィルタから、前記注目画素における前記粘膜表面構造の方向を推定する方向推定部を有することを特徴とする請求項1に記載の医用画像処理装置。
  7. 前記所定値は、最大値又は絶対値が最大値であることを特徴とする請求項6に記載の医用画像処理装置。
  8. 前記フィルタリング部による演算により、ある画素における複数のフィルタ出力のうち前記所定値を生成するフィルタから、前記注目画素における前記粘膜表面構造の横断面に対する濃度変化の幅を推定する幅推定部を有することを特徴とする請求項1に記載の医用画像処理装置。
  9. 前記所定値は、最大値又は絶対値が最大値であることを特徴とする請求項8に記載の医用画像処理装置。
  10. さらに、前記注目画素に対して、該注目画素を含む2次元の近傍領域を設定し、前記近傍領域における前記特徴を含む画素の第1の画素と、前記特徴を含まない第2の画素の比較結果に応じて前記注目画素の特徴量及び情報を補正する補正部を有することを特徴とする請求項4に記載の医用画像処理装置。
  11. 前記抽出対象の粘膜表面構造は、血管、上皮構造、ピット、窩間部におけるいずれかの抽出対象構造であり、前記判定部又は該判定部とは異なる第2の判定部は、前記判定基準又は該判定基準とは異なる第2の判定基準に合致するか否かに応じて、前記注目画素が抽出対象構造を表す抽出対象構造画素であるか、抽出対象構造以外表す非抽出対象構造画素であるかを判定することを特徴とする請求項4に記載の医用画像処理装置。
  12. さらに、前記注目画素に対して、該注目画素を含む2次元の近傍領域を設定し、前記近傍領域における前記抽出対象構造画素の第1の画素数と、非抽出対象構造画素の第2画素数を計数し、前記第1及び第2の画素数の比較結果に応じて前記注目画素の情報を補正する補正部を有することを特徴とする請求項11に記載の医用画像処理装置。
  13. さらに、前記抽出対象の粘膜表面構造が1つの走行方向から分岐した分岐部分または走行方向が蛇行した蛇行部分の粘膜表面構造を抽出するために、前記複数のフィルタにおける前記横断面に対する濃度変化の幅サイズよりも広い、又は分岐部分若しくは蛇行部分の形状に対応した形状の分岐・蛇行抽出用フィルタを有し、
    前記フィルタリング部は、前記複数のフィルタの他に、前記分岐・蛇行抽出用フィルタを用いて前記特微量を抽出するための演算を行うことを特徴とする請求項1に記載の医用画像処理装置。
  14. 前記分岐・蛇行抽出用フィルタを用いた前記フィルタリング部による分岐・蛇行抽出用フィルタ出力が第2の所定値以上となる場合の画素を、前記特微量選択部により選択された特徴量の画素に追加することを特徴とする請求項13に記載の医用画像処理装置。
  15. 前記分岐・蛇行抽出用フィルタを用いた前記フィルタリング部による分岐・蛇行抽出用フィルタ出力が、複数の方向において閾値を超える判定結果の場合の画素を前記特徴量を有する画素であると判定することを特徴とする請求項13に記載の医用画像処理装置。
  16. 前記非抽出対象構造画素に対して、前記分岐・蛇行抽出用フィルタを用いた前記フィルタリング部による分岐・蛇行抽出用フィルタ出力から推定される方向が、前記複数のフィルタ出力から推定される方向と同じ方向となる場合には、当該非抽出対象構造画素を前記抽出対象構造画素として追加する補正を行うことを特徴とする請求項13に記載の医用画像処理装置。
  17. さらに、前記方向推定部により推定された前記注目画素における方向を、前記注目画素の近傍における複数画素において推定された方向により補正することを特徴とする請求項6に記載の医用画像処理装置。
  18. さらに、前記幅推定部により推定された前記注目画素における前記粘膜表面構造の横断面に対する濃度変化の幅を、前記注目画素の近傍における複数画素において推定された前記粘膜表面構造の横断面に対する濃度変化の幅により補正することを特徴とする請求項8に記載の医用画像処理装置。
  19. 前記特徴量選択部は、前記フィルタリング部により算出された複数のフィルタ出力を比較し、選択基準に基づき前記粘膜表面構造の特徴量を選択することを特徴とする請求項4に記載の医用画像処理装置。
  20. さらに、前記複数のフィルタを記憶するフィルタ記憶部を有し、該フィルタ記憶部は、さらに前記粘膜表面構造の走行方向の分岐又は蛇行を検出するために、前記粘膜表面構造の横断面に対する濃度変化の幅のサイズとは異なる幅、又は形状のフィルタを記憶することを特徴とする請求項5に記載の医用画像処理装置。
  21. 前記注目画素を含む前記局所領域における複数画素の画素信号値に関する統計量を算出する統計量算出部と、
    前記統計量を用いて前記特徴量候補を補正する補正部と、
    を備えることを特徴とする請求項1に記載の医用画像処理装置。
  22. 医療機器により撮像された医用画像を入力する画像入力ステップと、
    前記医用画像から注目画素を含む複数の画素からなる局所領域に対して、抽出対象の粘膜表面構造に応じて設定され、前記粘膜表面構造の横断面に対する濃度変化を検出するために用意される互いに異なる複数の横断面に対する濃度変化のサイズと、前記粘膜表面構造の表面的に走行している方向を検出するために用意される互いに異なる複数の方向と、に対応した複数のフィルタを用いて、前記注目画素を含む前記局所領域に対して前記粘膜表面構造に対応した特微量を抽出するための演算を行うフィルタリングステップと、
    前記フィルタリングステップによる演算により、ある画素における複数のフィルタ出力のうち該画素に最も反応したフィルタから前記粘膜表面構造の特徴量を選択する特微量選択ステップと、
    選択された前記特微量に対して該特徴量が前記粘膜表面構造の特徴を含むか否かを判定する判定ステップと、
    を備え、
    前記複数のフィルタは、Nを1以上、Mを2以上の整数として、前記複数の横断面に対する濃度変化のサイズに対応して用意されるN個のフィルタを、前記横断面に対する濃度変化の方向と直交する方向に対応して用意されるM個の方向にそれぞれ配置したN×M個からなることを特徴とする医用画像処理方法。
JP2012549176A 2011-04-27 2012-04-09 医用画像処理装置 Active JP5301737B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012549176A JP5301737B2 (ja) 2011-04-27 2012-04-09 医用画像処理装置

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2011099850 2011-04-27
JP2011099850 2011-04-27
PCT/JP2012/059688 WO2012147505A1 (ja) 2011-04-27 2012-04-09 医用画像処理装置及び医用画像処理方法
JP2012549176A JP5301737B2 (ja) 2011-04-27 2012-04-09 医用画像処理装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2013128704A Division JP5856999B2 (ja) 2011-04-27 2013-06-19 医用画像処理装置

Publications (2)

Publication Number Publication Date
JP5301737B2 JP5301737B2 (ja) 2013-09-25
JPWO2012147505A1 true JPWO2012147505A1 (ja) 2014-07-28

Family

ID=47072028

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2012549176A Active JP5301737B2 (ja) 2011-04-27 2012-04-09 医用画像処理装置
JP2013128704A Active JP5856999B2 (ja) 2011-04-27 2013-06-19 医用画像処理装置

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2013128704A Active JP5856999B2 (ja) 2011-04-27 2013-06-19 医用画像処理装置

Country Status (2)

Country Link
JP (2) JP5301737B2 (ja)
WO (1) WO2012147505A1 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012147505A1 (ja) * 2011-04-27 2012-11-01 オリンパスメディカルシステムズ株式会社 医用画像処理装置及び医用画像処理方法
CN104869884B (zh) * 2012-12-19 2017-03-08 奥林巴斯株式会社 医用图像处理装置以及医用图像处理方法
US10052015B2 (en) 2014-09-30 2018-08-21 Fujifilm Corporation Endoscope system, processor device, and method for operating endoscope system
US10039439B2 (en) 2014-09-30 2018-08-07 Fujifilm Corporation Endoscope system and method for operating the same
CN107529957B (zh) 2016-03-03 2019-10-25 Hoya株式会社 修正数据生成方法以及修正数据生成装置
JP6488249B2 (ja) * 2016-03-08 2019-03-20 富士フイルム株式会社 血管情報取得装置、内視鏡システム及び血管情報取得方法
JP7084546B2 (ja) * 2019-03-20 2022-06-14 Hoya株式会社 内視鏡システム
JP2021065370A (ja) 2019-10-21 2021-04-30 ソニー株式会社 画像処理装置、画像処理方法および内視鏡システム
CN116456908A (zh) 2020-11-19 2023-07-18 富士胶片株式会社 图像处理装置及图像处理装置的控制方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4409166B2 (ja) * 2002-12-05 2010-02-03 オリンパス株式会社 画像処理装置
JP4050169B2 (ja) * 2003-03-11 2008-02-20 アロカ株式会社 超音波診断装置
WO2012147505A1 (ja) * 2011-04-27 2012-11-01 オリンパスメディカルシステムズ株式会社 医用画像処理装置及び医用画像処理方法

Also Published As

Publication number Publication date
JP5856999B2 (ja) 2016-02-10
WO2012147505A1 (ja) 2012-11-01
JP2013255808A (ja) 2013-12-26
JP5301737B2 (ja) 2013-09-25

Similar Documents

Publication Publication Date Title
JP5301737B2 (ja) 医用画像処理装置
JP6150583B2 (ja) 画像処理装置、内視鏡装置、プログラム及び画像処理装置の作動方法
JP5276225B2 (ja) 医用画像処理装置及び医用画像処理装置の作動方法
JP4832927B2 (ja) 医療用画像処理装置及び医療用画像処理方法
JP5444511B1 (ja) 画像処理装置
JP5931418B2 (ja) 画像処理装置、画像処理装置の作動方法、及び画像処理プログラム
JP5007420B2 (ja) 画像解析システム、及び画像解析プログラム
WO2012153568A1 (ja) 医用画像処理装置及び医用画像処理方法
US8666135B2 (en) Image processing apparatus
JP2011218090A (ja) 画像処理装置、内視鏡システム及びプログラム
JP4749732B2 (ja) 医用画像処理装置
US7840055B2 (en) Computer aided tube and tip detection
JP7335157B2 (ja) 学習データ作成装置、学習データ作成装置の作動方法及び学習データ作成プログラム並びに医療画像認識装置
JP2010184057A (ja) 画像処理方法および装置
JP2007105264A (ja) 医用画像判定装置、医用画像判定方法およびそのプログラム
JP3842171B2 (ja) 断層像処理装置
JP4077716B2 (ja) 内視鏡挿入方向検出装置
JP4855673B2 (ja) 医用画像処理装置
EP1992273B1 (en) Medical image processing device and medical image processing method
JP6081209B2 (ja) 内視鏡装置およびプログラム
JP6082337B2 (ja) 心胸郭比算出装置
JP2010179023A (ja) 画像処理方法および装置
JP2019180748A (ja) 画像処理プログラム、画像処理装置、および画像処理方法
JP5315376B2 (ja) 柵状血管検出装置および柵状血管検出装置の作動方法
CN115393326A (zh) 基于局部细粒度轮廓特征的电子喉镜医学图像检测方法

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130521

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130619

R150 Certificate of patent or registration of utility model

Ref document number: 5301737

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250