JP6907398B2 - 内視鏡システム - Google Patents
内視鏡システム Download PDFInfo
- Publication number
- JP6907398B2 JP6907398B2 JP2020500422A JP2020500422A JP6907398B2 JP 6907398 B2 JP6907398 B2 JP 6907398B2 JP 2020500422 A JP2020500422 A JP 2020500422A JP 2020500422 A JP2020500422 A JP 2020500422A JP 6907398 B2 JP6907398 B2 JP 6907398B2
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- evaluation value
- image
- representative
- value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000011156 evaluation Methods 0.000 claims description 243
- 230000003902 lesion Effects 0.000 claims description 136
- 210000004204 blood vessel Anatomy 0.000 claims description 123
- 238000004364 calculation method Methods 0.000 claims description 76
- 206010061218 Inflammation Diseases 0.000 claims description 48
- 230000004054 inflammatory process Effects 0.000 claims description 48
- 238000012545 processing Methods 0.000 claims description 44
- 208000025865 Ulcer Diseases 0.000 claims description 22
- 231100000397 ulcer Toxicity 0.000 claims description 19
- 238000001839 endoscopy Methods 0.000 claims description 6
- 210000001519 tissue Anatomy 0.000 description 183
- 238000000034 method Methods 0.000 description 27
- 230000000875 corresponding effect Effects 0.000 description 25
- 230000010354 integration Effects 0.000 description 21
- 238000010586 diagram Methods 0.000 description 15
- 238000005286 illumination Methods 0.000 description 15
- 238000007689 inspection Methods 0.000 description 14
- 102000001554 Hemoglobins Human genes 0.000 description 13
- 108010054147 Hemoglobins Proteins 0.000 description 13
- 238000012937 correction Methods 0.000 description 9
- 238000007781 pre-processing Methods 0.000 description 9
- 230000002792 vascular Effects 0.000 description 9
- 206010009900 Colitis ulcerative Diseases 0.000 description 7
- 201000006704 Ulcerative Colitis Diseases 0.000 description 7
- 239000003086 colorant Substances 0.000 description 7
- 210000004400 mucous membrane Anatomy 0.000 description 7
- 239000011159 matrix material Substances 0.000 description 6
- 208000011231 Crohn disease Diseases 0.000 description 5
- 238000006243 chemical reaction Methods 0.000 description 5
- 201000010099 disease Diseases 0.000 description 5
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 5
- 230000000740 bleeding effect Effects 0.000 description 4
- 238000003384 imaging method Methods 0.000 description 4
- 230000002757 inflammatory effect Effects 0.000 description 4
- 210000003097 mucus Anatomy 0.000 description 4
- 238000011002 quantification Methods 0.000 description 4
- 206010030113 Oedema Diseases 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 3
- 210000004369 blood Anatomy 0.000 description 3
- 239000008280 blood Substances 0.000 description 3
- 238000001914 filtration Methods 0.000 description 3
- 210000004877 mucosa Anatomy 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000012935 Averaging Methods 0.000 description 2
- 208000022559 Inflammatory bowel disease Diseases 0.000 description 2
- 238000007796 conventional method Methods 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 238000003708 edge detection Methods 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 230000020169 heat generation Effects 0.000 description 2
- 239000000049 pigment Substances 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 210000001124 body fluid Anatomy 0.000 description 1
- 239000010839 body fluid Substances 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000003760 hair shine Effects 0.000 description 1
- 229910052736 halogen Inorganic materials 0.000 description 1
- 150000002367 halogens Chemical class 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 208000028774 intestinal disease Diseases 0.000 description 1
- 238000007477 logistic regression Methods 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- QSHDDOUJBYECFT-UHFFFAOYSA-N mercury Chemical compound [Hg] QSHDDOUJBYECFT-UHFFFAOYSA-N 0.000 description 1
- 229910052753 mercury Inorganic materials 0.000 description 1
- 229910001507 metal halide Inorganic materials 0.000 description 1
- 150000005309 metal halides Chemical class 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000000611 regression analysis Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 238000012549 training Methods 0.000 description 1
- 230000036269 ulceration Effects 0.000 description 1
- 229910052724 xenon Inorganic materials 0.000 description 1
- FHNFHKCVQCLJFQ-UHFFFAOYSA-N xenon atom Chemical compound [Xe] FHNFHKCVQCLJFQ-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
- G06T7/0014—Biomedical image inspection using an image reference approach
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
- A61B1/000094—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/90—Determination of colour characteristics
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00006—Operational features of endoscopes characterised by electronic signal processing of control signals
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00064—Constructional details of the endoscope body
- A61B1/00071—Insertion part of the endoscope body
- A61B1/0008—Insertion part of the endoscope body characterised by distal tip features
- A61B1/00096—Optical elements
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/045—Control thereof
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/05—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by the image sensor, e.g. camera, being in the distal end portion
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/0661—Endoscope light sources
- A61B1/0669—Endoscope light sources at proximal end of an endoscope
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/07—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements using light-conductive means, e.g. optical fibres
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10068—Endoscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30028—Colon; Small intestine
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30096—Tumor; Lesion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30101—Blood vessel; Artery; Vein; Vascular
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Medical Informatics (AREA)
- Radiology & Medical Imaging (AREA)
- General Health & Medical Sciences (AREA)
- Surgery (AREA)
- Quality & Reliability (AREA)
- Heart & Thoracic Surgery (AREA)
- Molecular Biology (AREA)
- Animal Behavior & Ethology (AREA)
- Biomedical Technology (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Pathology (AREA)
- Optics & Photonics (AREA)
- Biophysics (AREA)
- Signal Processing (AREA)
- Endoscopes (AREA)
Description
これに対して、画像の明るさによる炎症部位の評価値の変動を抑えて安定した評価値の計算を行い、かつ、評価値の計算の処理負荷を抑えることが可能な内視鏡システムが知られている(特許文献1)。
このような構成によれば、画像の明るさによる炎症評価値の変動を抑えて、安定した炎症評価値の計算を行い、かつ、炎症評価値の計算の処理負荷を抑えることができる。
体腔内の生体組織を撮像するように構成された電子内視鏡と、
前記電子内視鏡で得られた前記生体組織の病変部の画像から、前記生体組織の病変の程度を前記画像の色成分の情報を少なくとも用いて1つの値で表した病変の重症度を求めるように構成された画像処理ユニットを含むプロセッサと、
前記重症度の情報を表示するように構成されたモニタと、を備える。
前記画像処理ユニットは、
前記病変部に現れる外観の第1特徴及び第2特徴を少なくとも含む複数の外観の特徴のそれぞれを、前記病変部が示す色成分、あるいは前記病変部の形状により前記生体組織の健常部の特徴と区別できる、前記複数の外観の特徴に対応した複数の画素評価値であって、前記病変部が示す色成分、あるいは前記色成分及び前記病変部の形状に関する、前記第1特徴及び前記第2特徴のそれぞれの程度を示す第1画素評価値及び第2画素評価値を含む前記複数の画素評価値を、前記画像から画素毎に算出するように構成された特徴量算出部と、
前記画像における各画素の前記複数の画素評価値それぞれを前記複数の外観の特徴毎に統合することにより撮像した生体組織の前記第1特徴の第1代表評価値及び前記第2特徴の第2代表評価値を含む複数の代表評価値を算出するように構成された代表値算出部と、
前記複数の代表評価値のうち少なくとも2つの代表評価値を演算して統合した1つの数値を前記病変の重症度として算出するように構成された統合部と、
を備える。
体腔内の生体組織を撮像するように構成された電子内視鏡と、
前記電子内視鏡で得られた前記生体組織の病変部の画像から、前記生体組織の病変の程度を前記画像の色成分の情報を用いて1つの値で表した病変の重症度を求めるように構成された画像処理ユニットを含むプロセッサと、
前記重症度の情報を表示するように構成されたモニタと、を備える。
前記画像処理ユニットは、
前記病変部に現れる外観の第1特徴及び第2特徴のそれぞれを、前記病変部が示す色成分、あるいは前記病変部の形状により前記生体組織の健常部と区別できる2つの画素評価値であって、前記病変部が示す色成分、あるいは前記色成分及び前記病変部の形状に関する、前記第1特徴及び前記第2特徴それぞれの程度を示す第1画素評価値及び第2画素評価値を、前記画像から画素毎に算出するように構成された特徴量算出部と、
前記画像における各画素の前記第1画素評価値を統合することにより撮像した生体組織の前記第1特徴の第1代表評価値を算出し、前記画像における各画素の前記第2画素評価値を統合することにより撮像した生体組織の前記第2特徴の第2代表評価値を算出するように構成された代表値算出部と、
前記第1代表評価値及び前記第2代表評価値を演算して統合した1つの数値を前記病変の重症度として算出するように構成された統合部と、
を備える。
前記第2画素評価値は、前記画像中の、筋状に延びる血管を示す血管領域に含まれる色成分の程度を示す値である、ことが好ましい。
前記特徴量算出部は、前記赤色成分と、前記青色成分あるいは前記緑色成分とによって定義される色空間内において、前記色空間内に設定される基準点と前記画像の各画素の色成分に対応する画素対応点とを結ぶ線分の向きが、前記基準点を通る、予め定めた基準軸に対してずれるずれ角度に基づいて前記第1画素評価値を算出するように構成される、ことが好ましい。
前記第2特徴の程度は、前記画像中の所定の形状をなした部分に含まれる色成分の程度である、ことが好ましい。
前記代表値算出部は、前記画像における各画素の前記第3画素評価値を統合することにより撮像した生体組織の前記第3特徴の第3代表評価値を算出するように構成され、
前記統合部は、前記第2代表評価値が閾値以上の場合、前記第1代表評価値から前記第2代表評価値を減算し、前記第2代表評価値が閾値未満の場合、前記第1代表評価値に前記第3代表評価値を加算することにより、前記重症度を算出するように構成される、ことが好ましい。
前記第2画素評価値は、前記画像中の、筋状に延びる血管を示す血管領域に含まれる色成分の程度を示す値であり、
前記第3画素評価値は、生体組織の潰瘍の程度を示す色成分に関する特徴の程度を示す値である、ことが好ましい。
このように、複数の外観の特徴に関する各画素の画素評価値を用いて、病変部の病変の重症度を算出するので、従来のように、生体組織が示す赤色の程度のみを用いて評価する場合に比べて病変部の病変の重症度を精度よく評価することができる。
また、外観の特徴が第1特徴、第2特徴及び第3特徴は、一例として、第1特徴の程度は、病変部が示す特定の色成分、たとえば赤色の程度であり、第2特徴の程度は、撮像した生体組織のうち、特定の形状をした部分に含まれる色成分の程度であり、第3特徴の程度は、病変部が示す特定の色成分、たとえば白色の程度である。
外観の特徴の程度は、形状に関する程度を含み、例えば、病変部の表面凹凸の形状の程度や表面塑造等の所定の形状の程度であってもよい。
複数の代表評価値を統合した1つの数値は、求めた複数の代表評価値同士を演算した演算結果でもよく、すべての代表評価値のうちの一部の代表評価値同士を演算した演算結果でもよい。この場合、演算に用いなかった代表評価値は、この代表評価値の高低によって、異なる演算をするための指標として用いてもよい。
あるいは、光源部230は、所定の色の波長帯域の光を出射する複数の発光ダイオードを備える。発光ダイオードから出射した光はダイクロイックミラー等の光学素子を用いて合成され、合成した光は照明光として、図示されない集光レンズにより集光された後、電子スコープ100のLCB(Light Carrying Bundle)102の入射端に入射されるように光源部230は構成される。発光ダイオードに代えてレーザーダイオードを用いることもできる。発光ダイオード及びレーザーダイオードは、他の光源と比較して、低消費電力、発熱量が小さい等の特徴があるため、消費電力や発熱量を抑えつつ明るい画像を取得できるというメリットがある。明るい画像が取得できることにより、後述する病変に関する評価値の精度を向上させることができる。
なお、図1に示す例では、光源部230は、電子内視鏡用プロセッサ200に内蔵して設けられるが、電子内視鏡用プロセッサ200とは別体の装置として電子内視鏡システム1に設けられてもよい。また、光源部230は、後述する電子スコープ100の先端部に設けられてもよい。この場合、照明光を導光するLCB102は不要である。
特徴量算出部220bは、一実施形態として、第1画素評価値として、生体組織の赤色の程度を画素毎に数値化した生体組織赤色度を計算し、第2画素評価値として、生体組織上の筋状に延在する血管領域の赤色を数値化した血管赤色度を計算する。以下、生体組織赤色度及び血管赤色度を計算する形態を説明する。
前処理部220aは、ドライバ信号処理回路112より入力した画像信号(輝度信号Y、色差信号Cb,Cr)を所定のマトリックス係数を用いて画像色成分(R,G,B)に変換する。
前処理部220aは、さらに、画像色成分に変換された画像データをRG平面に正射影する色空間変換を行う。具体的には、RGB3原色で定義されるRGB色空間の各画素の画像色成分がRGの画像色成分に変換される。概念的には、RGB色空間の各画素の画像色成分が、R,G成分の画素値に応じてRG平面内(例えば、R成分の画素値=0〜255、G成分の画素値=0〜255の値を取るRG平面内の区画)にプロットされる。以下、説明の便宜上、RGB色空間の各画素の画像色成分の点及びRG色空間内にプロットされた画像色成分の点を「画素対応点」と記す。RGB色空間のRGBそれぞれの画像色成分は、順番に、例えば、波長620〜750nm、波長495〜570nm、及び波長450〜495nmの色成分である。なお、色成分は、色空間(色平面も含む。)を構成するものである。色相及び彩度は、「色成分」から除かれる。
前処理部220aは、生体組織赤色度及び血管赤色度を評価するために必要なRG平面内の基準軸が設定される。
このような基準軸の設定を行った後、正射影された画像の色成分に対して後述する赤色の程度を示す生体組織赤色度を算出する処理が行われる。この生体組織赤色度を算出する処理の前に、正射影された画素データに対して色補正が行われる。
図3に示す基準軸は、一例であり、疾患の種類に応じて基準軸は種々異なる。
他方、基準点O’を座標(−50,−50)から(−200,−200)の間に設定することで、炎症の程度を示す評価結果はノイズの影響を受け難い。
なお、注目画素は、画像の全画素について1つずつ選択される。
なお、図4に示す例では、色空間としてRG色空間を用いるが、RG色空間に代えてRB色空間を用いることもできる。
こうして、特徴量算出部220bは、生体組織赤色度に応じて色を付与したカラーマップ画像を作成する。
図5(a)に示すように、生体組織を撮像した画像には、病変部Xの近傍には、粘膜を通して透けて見える筋状の血管領域Yの像も含まれる。このような画像に対して上述の生体組織赤色度に応じて色分けした、図5(b)に示すカラーマップ画像においても、血管領域Yは炎症部位と同じ色で表示される場合がある。図5(a),(b)は、生体組織の画像の一例と、従来の方法で得られるカラーマップ画像の一例を模式的に説明する図である。
特徴量算出部220bは、血管領域Yの確からしさを求め、確からしさに基づいて血管領域Yを抽出する。
特徴量算出部220bは、生体組織の画像の一部の検査対象エリアARの形状と複数のテンプレートTP1〜TP4の直線形状それぞれとの相関の程度を表すマッチング度を求め、複数のテンプレートTP1〜TP4それぞれに対応するマッチング度の中で、最も高い最高マッチング度を検査対象エリアARにおける血管領域Yの確からしさとする。テンプレートTP1〜TP4は、画素で構成され、テンプレートTP1〜TP4は、直線の延在方向を互いに異ならせた複数の直線形状を備える。テンプレートTP1〜TP4は、それぞれの直線形状に合わせて各画素は画素値を有する。図6に示すように、画像の端から矢印に沿って順番に検査対象エリアARをオーバーラップさせながら移動させることにより、検査対象エリアAR内の画像の画素評価値とテンプレートTP1〜TP4それぞれの対応する画素の値との相関度を求める。一実施形態によれば、テンプレートTP1〜TP4は、血管を特徴付ける形状として、直線を4つの異なる延在方向に延ばした4つの直線形状を備える。検査対象エリアARが血管領域を含む場合、検査対象エリアAR内の画素値は、血管が筋状に延びるといった特徴形状の情報を含んでいるので、ずれ角度θに応じて設定された画素評価値を画素値とする画像を用いて、血管領域Yを抽出することができる。テンプレートTP1〜TP4は、図6に示す白領域及び黒領域に対応して画素毎に値を有する。このため、一実施形態によれば、マッチング度は、テンプレートTP1〜TP4の画素の値と、検査対象領域ARの対応する画素評価値との相関係数である。また一実施形態によれば、マッチング度は、テンプレートTP1〜TP4の画素毎の値を空間フィルタのフィルタ係数として、このフィルタ係数のそれぞれと検査対象エリアARの対応する画素の画像評価値を乗算して合計した値であってもよい。
特徴量算出部220bは、抽出した血管領域Yに対応する画素における生体組織赤色度を血管赤色度として定める。この場合、血管領域Yに対応しない領域の血管赤色度はゼロとする。また、特徴量算出部220bは、血管の確からしさを0〜1の範囲に正規化した値を求め、この値が高い程値が高くなり、低い程値が低くなるように生体組織赤色度を補正した結果を血管赤色度として求めてもよい。このように、全画素に対して血管赤色度が計算される。例えば、生体組織赤色度の値に、血管の確からしさの値を乗算した結果を血管赤色度として求めてもよい。
このように、一実施形態の特徴量算出部220bは、生体組織赤色度を第1画素評価値として算出し、血管赤色度を第2画素評価値として算出する。したがって、この実施形態における第1画素評価値は、画像の炎症部位が示す色成分の程度を示す評価値であり、第2画素評価値は、画像中の血管の形状をなした部分に含まれる色成分の程度を示す評価値である。
各画素における生体組織赤色度及び血管赤色度の統合の処理は、各画素の生体組織赤色度及び血管赤色度の平均値を算出する平均化処理であってもよいし、別の公知の処理、例えば、メディアン値を求める処理であってもよい。平均化処理は、単純平均値を求める処理、及び加重平均値を求める処理を含む。また、公知の処理として、生体組織赤色度及び血管赤色度のそれぞれを、順位のついた少なくとも2つ以上のレベルに分け、この各レベルに属する画素数に所定の重み付け係数を乗算した値の合計値Pを所定の式に代入して代表値を算出する処理であってもよい。この場合、所定の式は、例えば1/(1+e−P)である。この場合、重み付け係数は、医師による主観評価結果と相関を有するように、多重ロジスティック回帰分析によって得られる係数であることが好ましい。
統合部220dは、計算した重症度を、特徴量算出部220bで作成したカラーマップ画像とともに、画面表示のための信号を生成してモニタ300に送る。
図8からわかるように、MAYO0からMAYO1に進む場合、概略、血管赤色度が低下しつつ生体組織赤色度が上昇することを示している。また、MAYO1からMAYO2に進む場合、概略血管赤色度及び生体組織赤色度の双方が上昇することを示している。したがって、この事実より、血管赤色度の代表値が所定の閾値TH以上か、未満かによって重症度の算出の方法が異ならせることが、MAYO endoscopic subscoreに対応させる点で好ましいことがわかる。
次に、前処理部220aは、上述したRGB変換、色空間変換、基準軸の設定、及び色補正、必要に応じてトーン強調処理を含む前処理を行い、さらに、特徴量算出部220bは、前処理を行った画像に対して、病変部が示す色成分あるいは形状に関する複数の特徴それぞれの程度を示す複数の画素評価値(第1画素評価値、第2画素評価値、第3画素評価値)、例えば生体組織赤色度及び血管赤色度度、生体組織白色度等を、画素毎に計算する(ステップS12)。
特徴量算出部220bは、画素評価値を現フレームの画像の全画素について計算したか否かを判定する(ステップS14)。全画素について画素評価値の計算を完了した場合、代表値算出部220cは、画素評価値を統合した代表値(第1代表評価値、第2代表評価値、あるいはさらに、第3代表評価値)を計算する(ステップS16)。代表値は、画素評価値の種類毎に算出される。
この後、統合部220dは、複数の代表値を組み合わせて1つの重症度を計算する(ステップS18)。すなわち、複数の代表値を演算して統合した1つの数値を病変の重症度として算出する。なお、複数の代表値の組み合わせについては、医師による主観評価結果が得られている生体組織の画像における複数の代表値の中で、主観評価結果に最もよく対応する代表値の組み合わせ方(統合の仕方)を予め回帰分析等により確立しておく。
このような重症度は、炎症部位(図8におけるMYYO0〜MAYO1)において、医師による主観評価結果と精度よく対応する。図8に示すように、炎症部位の炎症の程度が大きいほど、生体組織赤色度の代表値は大きくなり、血管赤色度の代表値は小さくなる分布を示す。したがって、生体組織赤色度の代表値がたまたま同じであっても、血管赤色度の代表値の相違によって、重症度の高低を判定することができる。同様に、血管赤色度の代表値がたまたま同じであっても、生体組織赤色度の代表値の相違によって、重症度の高低を判定することができる。
一方、血管赤色度の代表値が予め定めた閾値TH1未満である場合、統合部220dは、生体組織赤色度の代表値と血管赤色度の代表値とを加算し、この加算結果を重症度とする(ステップS46)。なお、加算については、生体組織赤色度の代表値に定数αを乗算したものと血管赤色度の代表値に定数βを乗算したものを加算してもよい。
こうして画像処理ユニット220は、電子スコープ100から順次撮像画像が送られてくる間、上記処理を繰り返す(ステップS22)。
一方、血管赤色度の代表値が予め定めた閾値TH1未満である場合、統合部220dは、生体組織赤色度の代表値と生体組織白色度の代表値とを加算し、この加算結果を重症度とする(ステップS56)。なお、加算については、生体組織赤色度の代表値に定数αを乗算したものと生体組織白色度の代表値に定数βを乗算したものを加算してもよい。
生体組織白色度の代表値は、潰瘍部位が含む白苔や膿様粘液が示す色成分と同じ、白色の程度を示すことから、病変の程度が強くなるほど、生体組織白色度の代表値は大きくなる。また、病変の程度が進むと血管は見え難くなる(血管の赤色は目立たなくなる)ため、病変の程度が強いとき、血管赤色度の代表値は小さい。このため、炎症部位のみの場合と炎症部位と潰瘍部位を含む場合の境として血管赤色度の閾値TH1を用いる。このように、生体組織における炎症の程度と潰瘍の程度を同時に評価することができるため、医師による主観評価結果と精度よく対応する。
形状に関する特徴の程度が、生体組織の表面の凹凸の程度である場合、この凹凸の程度は、画像の輝度成分(Y信号)の画像に公知のエッジ検出フィルタを用いて求めることができるエッジ強度により評価することができる。したがって、特徴量算出部220bは、エッジ検出用フィルタを用いて得られるエッジ強度に基づいて、画素毎に生体組織表面凹凸度を計算する。生体組織表面凹凸度の値は、生体組織の表面の凹凸が激しくなる程、大きくなる。
上述したように、特徴量算出部220bは、生体組織の潰瘍の特徴の程度を示す生体組織白色度を計算する。
代表値算出部220cは、生体組織白色度及び生体組織表面凹凸度の代表値を求める。生体組織表面凹凸度の代表値は、生体組織赤色度や血管赤色度等の代表値と同様に、特に制限はされず、平均値やメディアン値であってもよく、公知の処理から計算される値であってもよい。
統合部220dは、取得した生体組織白色部の代表値と生体組織表面凹凸度の代表値とを加算し、加算した結果を重症度とする(ステップS62)。加算については、生体組織白色度の代表値に定数βを乗算したものと生体組織表面凹凸度の代表値に定数γを乗算したものを加算してもよい。
このように、生体組織白色度の代表値と生体組織表面凹凸度の代表値とを加算し、加算した結果を重症度とするので、病変が潰瘍を伴う場合が多いクローン病において、病変のが進行するほど、表面凹凸の大きくなることから、潰瘍の色成分がたまたま同じ場合でも、生体組織表面凹凸度の相違によって、重症度の高低を判定することができる。また、表面凹凸の程度がたまたま同じ場合でも、生体組織の潰瘍の色成分の程度を示す生体組織白色度の相違によって重症度の高低を判定することができる。
なお、上記形状に関する特徴の程度は、表面の凹凸形状の他に、テクスチャ形状を示す表面塑造の形状であってもよい。表面塑造の程度は、画像の輝度成分(Y信号)の画像に公知のフィルタを用いて同時生起行列を作成して、各画素を評価することができる。
100 電子スコープ
200 電子内視鏡用プロセッサ
220 画像処理ユニット
220a 前処理部
220b 特徴量算出部
220c 代表値算出部
220d 統合部
222 メモリ
224 画像メモリ
230 光源部
300 モニタ
400 プリンタ
600 サーバ
Claims (14)
- 体腔内の生体組織を撮像するように構成された電子内視鏡と、
前記電子内視鏡で得られた前記生体組織の病変部の画像から、前記生体組織の病変の程度を前記画像の色成分の情報を少なくとも用いて1つの値で表した病変の重症度を求めるように構成された画像処理ユニットを含むプロセッサと、
前記重症度の情報を表示するように構成されたモニタと、を備え、
前記画像処理ユニットは、
前記病変部に現れる外観の第1特徴及び第2特徴を少なくとも含む複数の外観の特徴のそれぞれを、前記病変部が示す色成分、あるいは前記病変部の形状により前記生体組織の健常部の特徴と区別できる、前記複数の外観の特徴に対応した複数の画素評価値であって、前記病変部が示す色成分、あるいは前記色成分及び前記病変部の形状に関する、前記第1特徴及び前記第2特徴のそれぞれの程度を示す第1画素評価値及び第2画素評価値を含む前記複数の画素評価値を、前記画像から画素毎に算出するように構成された特徴量算出部と、
前記画像における各画素の前記複数の画素評価値それぞれを前記複数の外観の特徴毎に統合することにより撮像した生体組織の前記第1特徴の第1代表評価値及び前記第2特徴の第2代表評価値を含む複数の代表評価値を算出するように構成された代表値算出部と、
前記複数の代表評価値のうち少なくとも2つの代表評価値を演算して統合した1つの数値を前記病変の重症度として算出するように構成された統合部と、
を備え、
前記画像の色成分は、赤色成分、緑色成分、及び青色成分を含み、
前記特徴量算出部は、前記赤色成分と、前記青色成分あるいは前記緑色成分とによって定義される色空間内での前記画像の各画素の色成分に対応する画素対応点に基づいて前記第1画素評価値を算出するとともに、前記病変部の形状に基づいて前記第2画素評価値を算出するように構成されることを特徴とする内視鏡システム。 - 前記統合部は、前記1つの数値を算出するために、前記複数の代表評価値のうちの少なくとも1つの代表評価値の高低によって異なる演算を行うように構成される、請求項1に記載の内視鏡システム。
- 前記異なる演算では、前記演算に用いる少なくとも2つの代表評価値の組が異なる、請求項2に記載の内視鏡システム。
- 体腔内の生体組織を撮像するように構成された電子内視鏡と、
前記電子内視鏡で得られた前記生体組織の病変部の画像から、前記生体組織の病変の程度を前記画像の色成分の情報を用いて1つの値で表した病変の重症度を求めるように構成された画像処理ユニットを含むプロセッサと、
前記重症度の情報を表示するように構成されたモニタと、を備え、
前記画像処理ユニットは、
前記病変部に現れる外観の第1特徴及び第2特徴のそれぞれを、前記病変部が示す色成分、あるいは前記病変部の形状により前記生体組織の健常部と区別できる2つの画素評価値であって、前記病変部が示す色成分、あるいは前記色成分及び前記病変部の形状に関する、前記第1特徴及び前記第2特徴それぞれの程度を示す第1画素評価値及び第2画素評価値を、前記画像から画素毎に算出するように構成された特徴量算出部と、
前記画像における各画素の前記第1画素評価値を統合することにより撮像した生体組織の前記第1特徴の第1代表評価値を算出し、前記画像における各画素の前記第2画素評価値を統合することにより撮像した生体組織の前記第2特徴の第2代表評価値を算出するように構成された代表値算出部と、
前記第1代表評価値及び前記第2代表評価値を演算して統合した1つの数値を前記病変の重症度として算出するように構成された統合部と、
を備え、
前記画像の色成分は、赤色成分、緑色成分、及び青色成分を含み、
前記特徴量算出部は、前記赤色成分と、前記青色成分あるいは前記緑色成分とによって定義される色空間内での前記画像の各画素の色成分に対応する画素対応点に基づいて前記第1画素評価値を算出するとともに、前記病変部の形状に基づいて前記第2画素評価値を算出するように構成されることを特徴とする内視鏡システム。 - 前記第2特徴の程度は、前記画像中の所定の形状をなした部分に含まれる色成分の程度である、請求項1〜4のいずれか1項に記載の内視鏡システム。
- 前記第2特徴の程度は、前記画像中の所定の形状をなした部分における前記所定の形状の特徴の程度である、請求項1〜4のいずれか1項に記載の内視鏡システム。
- 前記第1特徴の程度は、前記画像の前記病変部が示す色成分の程度である、請求項1〜6のいずれか1項に記載の内視鏡システム。
- 前記第1画素評価値は、生体組織の炎症の程度を示す色成分に関する特徴の程度を示す値であり、
前記第2画素評価値は、前記画像中の、筋状に延びる血管を示す血管領域に含まれる色成分の程度を示す値である、請求項1〜7のいずれか1項に記載の内視鏡システム。 - 前記特徴量算出部は、前記色空間内に設定される基準点と前記画素対応点とを結ぶ線分の向きが、前記基準点を通る、予め定めた基準軸に対してずれるずれ角度に基づいて前記第1画素評価値を算出するように構成される、請求項1〜8のいずれか1項に記載の内視鏡システム。
- 前記統合部は、前記第1代表評価値あるいは前記第2代表評価値が閾値を越える場合と越えない場合との間で、前記重症度を算出する演算を変えるように構成される、請求項1〜9のいずれか1項に記載の内視鏡システム。
- 前記統合部は、前記第2代表評価値が閾値以上の場合、前記第1代表評価値から前記第2代表評価値を減算し、前記第2代表評価値が閾値未満の場合、前記第1代表評価値に前記第2代表評価値を加算することにより、前記重症度を算出するように構成される、請求項1〜8のいずれか1項に記載の内視鏡システム。
- 前記第1特徴の程度は、前記画像の前記病変部が示す色成分の程度であり、
前記第2特徴の程度は、前記画像中の所定の形状をなした部分に含まれる色成分の程度である、請求項1〜4のいずれか1項に記載の内視鏡システム。 - 前記特徴量算出部は、前記第1特徴及び前記第2特徴と異なる、前記病変部が示す色成分に関する第3特徴の程度を示す第3画素評価値を画素毎に算出するように構成され、
前記代表値算出部は、前記画像における各画素の前記第3画素評価値を統合することにより撮像した生体組織の前記第3特徴の第3代表評価値を算出するように構成され、
前記統合部は、前記第2代表評価値が閾値以上の場合、前記第1代表評価値から前記第2代表評価値を減算し、前記第2代表評価値が閾値未満の場合、前記第1代表評価値に前記第3代表評価値を加算することにより、前記重症度を算出するように構成される、請求項1〜4、及び12のいずれか1項に記載の内視鏡システム。 - 前記第1画素評価値は、生体組織の炎症の程度を示す色成分に関する特徴の程度を示す値であり、
前記第2画素評価値は、前記画像中の、筋状に延びる血管を示す血管領域に含まれる色成分の程度を示す値であり、
前記第3画素評価値は、生体組織の潰瘍の程度を示す色成分に関する特徴の程度を示す値である、請求項13に記載の内視鏡システム。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018023111 | 2018-02-13 | ||
JP2018023111 | 2018-02-13 | ||
JPPCT/JP2018/039235 | 2018-10-22 | ||
PCT/JP2018/039235 WO2019159435A1 (ja) | 2018-02-13 | 2018-10-22 | 内視鏡システム |
PCT/JP2019/004147 WO2019159770A1 (ja) | 2018-02-13 | 2019-02-06 | 内視鏡システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2019159770A1 JPWO2019159770A1 (ja) | 2020-12-17 |
JP6907398B2 true JP6907398B2 (ja) | 2021-07-21 |
Family
ID=67618611
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020500422A Active JP6907398B2 (ja) | 2018-02-13 | 2019-02-06 | 内視鏡システム |
Country Status (3)
Country | Link |
---|---|
US (1) | US11436728B2 (ja) |
JP (1) | JP6907398B2 (ja) |
WO (2) | WO2019159435A1 (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6912608B2 (ja) * | 2018-02-07 | 2021-08-04 | Hoya株式会社 | 内視鏡システム |
DE112020004617T5 (de) | 2019-09-27 | 2022-06-09 | Hoya Corporation | Endoskopsystem |
KR102094780B1 (ko) * | 2019-11-22 | 2020-03-30 | 주식회사 핏펫 | 색공간 변환을 이용한 생화학 정보 측정 방법 및 시스템 |
WO2022064987A1 (ja) * | 2020-09-25 | 2022-03-31 | Hoya株式会社 | 内視鏡用プロセッサ及び内視鏡システム |
JP7455716B2 (ja) * | 2020-09-25 | 2024-03-26 | Hoya株式会社 | 内視鏡用プロセッサ及び内視鏡システム |
JP7455717B2 (ja) * | 2020-09-28 | 2024-03-26 | Hoya株式会社 | 内視鏡用プロセッサ及び内視鏡システム |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4652694B2 (ja) * | 2004-01-08 | 2011-03-16 | オリンパス株式会社 | 画像処理方法 |
JP2006218138A (ja) * | 2005-02-14 | 2006-08-24 | Yoshihiro Sasaki | ハイビジョンデジタル内視鏡画像のファイリング及びコンピューター支援診断装置 |
JP2009247463A (ja) * | 2008-04-02 | 2009-10-29 | Fujifilm Corp | 画像処理装置、画像処理方法、およびプログラム |
WO2014156938A1 (ja) | 2013-03-27 | 2014-10-02 | 富士フイルム株式会社 | 画像処理装置及び内視鏡システムの作動方法 |
JP6097629B2 (ja) * | 2013-04-26 | 2017-03-15 | Hoya株式会社 | 病変評価情報生成装置 |
JP6346576B2 (ja) * | 2015-02-27 | 2018-06-20 | Hoya株式会社 | 画像処理装置 |
JP2016158682A (ja) * | 2015-02-27 | 2016-09-05 | Hoya株式会社 | 画像処理装置 |
US10702127B2 (en) | 2015-06-25 | 2020-07-07 | Hoya Corporation | Endoscope system and evaluation value calculation device |
DE112016000094B4 (de) | 2015-08-13 | 2019-07-11 | Hoya Corporation | Vorrichtung zur Berechnung von Analysewerten und elektronisches Endoskopsystem |
CN107072509B (zh) * | 2015-09-30 | 2019-03-19 | Hoya株式会社 | 内窥镜系统以及评价值计算装置 |
WO2018043551A1 (ja) | 2016-08-31 | 2018-03-08 | Hoya株式会社 | 電子内視鏡用プロセッサ及び電子内視鏡システム |
-
2018
- 2018-10-22 WO PCT/JP2018/039235 patent/WO2019159435A1/ja active Application Filing
-
2019
- 2019-02-06 US US16/963,405 patent/US11436728B2/en active Active
- 2019-02-06 JP JP2020500422A patent/JP6907398B2/ja active Active
- 2019-02-06 WO PCT/JP2019/004147 patent/WO2019159770A1/ja active Application Filing
Also Published As
Publication number | Publication date |
---|---|
US20210133974A1 (en) | 2021-05-06 |
WO2019159770A1 (ja) | 2019-08-22 |
WO2019159435A1 (ja) | 2019-08-22 |
US11436728B2 (en) | 2022-09-06 |
JPWO2019159770A1 (ja) | 2020-12-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6907398B2 (ja) | 内視鏡システム | |
JP7068487B2 (ja) | 電子内視鏡システム | |
JP7041318B2 (ja) | 内視鏡システム | |
US11944261B2 (en) | Electronic endoscope system and data processing device | |
JP6877672B2 (ja) | 電子内視鏡システム及びデータ処理装置 | |
JP7084546B2 (ja) | 内視鏡システム | |
JP6912608B2 (ja) | 内視鏡システム | |
JP6912688B2 (ja) | 電子内視鏡システム及びデータ処理装置 | |
WO2022064987A1 (ja) | 内視鏡用プロセッサ及び内視鏡システム | |
JP7455716B2 (ja) | 内視鏡用プロセッサ及び内視鏡システム | |
JP7455717B2 (ja) | 内視鏡用プロセッサ及び内視鏡システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200701 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210224 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210414 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210608 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210630 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6907398 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |