JP2016154588A - 画像処理装置 - Google Patents
画像処理装置 Download PDFInfo
- Publication number
- JP2016154588A JP2016154588A JP2015032714A JP2015032714A JP2016154588A JP 2016154588 A JP2016154588 A JP 2016154588A JP 2015032714 A JP2015032714 A JP 2015032714A JP 2015032714 A JP2015032714 A JP 2015032714A JP 2016154588 A JP2016154588 A JP 2016154588A
- Authority
- JP
- Japan
- Prior art keywords
- color
- image
- mask
- pixel
- lesion
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012545 processing Methods 0.000 title claims abstract description 127
- 230000003902 lesion Effects 0.000 claims abstract description 93
- 238000000034 method Methods 0.000 claims description 139
- 230000008569 process Effects 0.000 claims description 124
- 238000004364 calculation method Methods 0.000 claims description 24
- 239000008280 blood Substances 0.000 claims description 15
- 210000004369 blood Anatomy 0.000 claims description 15
- 238000006243 chemical reaction Methods 0.000 claims description 15
- 238000002834 transmittance Methods 0.000 claims description 6
- 238000003745 diagnosis Methods 0.000 abstract description 14
- 238000003384 imaging method Methods 0.000 description 17
- 210000001519 tissue Anatomy 0.000 description 16
- 238000012986 modification Methods 0.000 description 14
- 230000004048 modification Effects 0.000 description 14
- 206010061218 Inflammation Diseases 0.000 description 13
- 230000004054 inflammatory process Effects 0.000 description 13
- 238000004458 analytical method Methods 0.000 description 11
- 238000012937 correction Methods 0.000 description 11
- 238000010191 image analysis Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 10
- 230000014509 gene expression Effects 0.000 description 10
- 208000022559 Inflammatory bowel disease Diseases 0.000 description 6
- 208000025865 Ulcer Diseases 0.000 description 4
- 231100000397 ulcer Toxicity 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 3
- 230000035945 sensitivity Effects 0.000 description 3
- 210000004204 blood vessel Anatomy 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 230000000295 complement effect Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000001839 endoscopy Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 230000003595 spectral effect Effects 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 238000012327 Endoscopic diagnosis Methods 0.000 description 1
- 206010030113 Oedema Diseases 0.000 description 1
- 230000003321 amplification Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000000740 bleeding effect Effects 0.000 description 1
- 210000005013 brain tissue Anatomy 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000007428 craniotomy Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000002950 deficient Effects 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 230000004069 differentiation Effects 0.000 description 1
- 230000010339 dilation Effects 0.000 description 1
- 201000010099 disease Diseases 0.000 description 1
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 229910052736 halogen Inorganic materials 0.000 description 1
- 150000002367 halogens Chemical class 0.000 description 1
- 230000002008 hemorrhagic effect Effects 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 238000003707 image sharpening Methods 0.000 description 1
- 230000001771 impaired effect Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- QSHDDOUJBYECFT-UHFFFAOYSA-N mercury Chemical compound [Hg] QSHDDOUJBYECFT-UHFFFAOYSA-N 0.000 description 1
- 229910052753 mercury Inorganic materials 0.000 description 1
- 229910001507 metal halide Inorganic materials 0.000 description 1
- 150000005309 metal halides Chemical class 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 210000004400 mucous membrane Anatomy 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 238000010422 painting Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 208000024891 symptom Diseases 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 238000012549 training Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- 229910052724 xenon Inorganic materials 0.000 description 1
- FHNFHKCVQCLJFQ-UHFFFAOYSA-N xenon atom Chemical compound [Xe] FHNFHKCVQCLJFQ-UHFFFAOYSA-N 0.000 description 1
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
- A61B1/000094—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
- A61B1/000095—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope for image enhancement
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/0002—Operational features of endoscopes provided with data storages
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00039—Operational features of endoscopes provided with input arrangements for the user
- A61B1/0004—Operational features of endoscopes provided with input arrangements for the user for electronic operation
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00043—Operational features of endoscopes provided with output arrangements
- A61B1/00045—Display arrangement
- A61B1/0005—Display arrangement combining images e.g. side-by-side, superimposed or tiled
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0059—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
- A61B5/0082—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence adapted for particular medical purposes
- A61B5/0084—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence adapted for particular medical purposes for introduction into the body, e.g. by catheters
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/103—Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
- A61B5/1032—Determining colour for diagnostic purposes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10068—Endoscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30096—Tumor; Lesion
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Engineering & Computer Science (AREA)
- Surgery (AREA)
- Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Pathology (AREA)
- Biophysics (AREA)
- Veterinary Medicine (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Public Health (AREA)
- Molecular Biology (AREA)
- Animal Behavior & Ethology (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Radiology & Medical Imaging (AREA)
- Optics & Photonics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Signal Processing (AREA)
- Quality & Reliability (AREA)
- Dentistry (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Endoscopes (AREA)
- Image Processing (AREA)
Abstract
Description
[電子内視鏡装置1全体の構成]
図1は、本発明の第1実施形態の電子内視鏡装置1の構成を示すブロック図である。図1に示されるように、電子内視鏡装置1は、電子スコープ100、プロセッサ200及びモニタ900を備えている。
次に、画像処理回路220が行う処理について説明する。
図4は、画像処理回路220が行う処理の手順を示すフローチャートである。AFE114から出力されたデジタル信号は、先ず基本処理部220aによって一般的な信号処理(基本処理S1)が行われて、通常観察画像データNが生成される。
次に、画像解析モードに設定されているか否かが判断される(S2)。本発明の実施形態に係る画像解析モードは、画像データの各画素について色情報を解析し、色情報の解析結果から所定の判定基準に基づいて病変部が写された画素(以下「病変画素」という。)であるか否かを判定し、病変画素を識別表示する動作モードである。判定する病変の種類は、検査内容に応じて選択することができる。以下に説明する例は、炎症性腸疾患(IBD)の病変である炎症(浮腫や易出血性を含む赤変病変)の観察像に特有の色域の画素を抽出して、識別表示するものである。
画像解析モードが選択されている場合は(S2:Yes)、次にTE処理部221によるTE処理S3が行われる。TE処理S3は、病変の判定精度を上げるために、通常観察画像データNの各原色信号R,G,Bに対して非線形なゲイン(利得)を与えるゲイン調整を行い、判定対象の病変に特有の色域(特にその境界部)付近におけるダイナミックレンジを実質的に広げて、色表現の実効的な分解能を高める処理である。具体的には、TE処理S3では、各原色信号R,G,Bに対して、図5に示すような非線形のゲインを与えて原色信号R´,G´,B´(トーン強調画像データE)を取得する処理が行われる。例えば、図5のゲイン曲線は、潰瘍に特徴的な色域の境界領域RAから、炎症に特徴的な色域の境界領域RBにかけて、傾きが急峻になっている。このようなゲイン曲線に従ってゲインを与えることにより、境界領域RAから境界領域RBにかけて原色信号R´(原色信号Rに対してTE処理S3を施した信号)の実質的なダイナミックレンジを広げることができ、より精密な閾値判定が可能になる。
TE処理S3が完了すると、次にトーン強調画像データEに対して有効画素判定部222による有効画素判定処理S4が行われる。なお、TE処理S3を省略して、通常観察画像データNに対して有効画素判定処理S4を行うこともできる。
0:画素データ無効
1:正常又は未判定(画素データ有効)
2:病変(炎症)
有効画素判定処理S4が完了すると、次にトーン強調画像データEに対して色空間変換部223により色空間変換処理S5が行われる。色空間変換処理S5は、RGB3原色で定義されるRGB空間の画素値を、色相(Hew)・彩度(Saturation)・輝度(Intensity)の3要素で定義されるHSI(Heu-Saturation-Intensity)空間の画素値に変換する処理である。具体的には、色空間変換処理S5において、トーン強調画像データEの各画素(x,y)の原色信号R´(x,y),G´(x,y),B´(x,y)が、色相H(x,y),彩度S(x,y),輝度I(x,y)に変換される。
色空間変換処理S5が完了すると、次に病変判定部224により判定用画像データJを用いた病変判定処理S6が行われる。病変判定処理S6は、内視鏡画像の各画素(x,y)について、判定用画像データJがHS空間(色相−彩度空間)上の後述する領域α、β(図8)のいずれにプロットされるかによって、その画素に写された生体組織の状態(炎症部であるか否か)を判定する処理である。なお、HS空間は、色度空間と同様に、色の質(明るさ・輝度を除いた色の要素)を表す空間である。例えば、CIE 1976 L*a*b*色空間等の他の色空間上で画像解析を行う場合には、病変判定部224は色度空間(例えばa*b*空間)上で行われる。
病変判定処理S6が完了すると、次にスコア計算処理S7が行われる。スコア計算処理S7は、判定用画像データJの画素値に基づいて、病変部の重症度の評価値であるスコアSc(x,y)を計算する処理である。スコア計算処理S7は、画像データを構成する全ての画素(x,y)について順次行われる。なお、以下に説明するスコア計算のアルゴリズムは一例であり、本発明は様々なアルゴリズムにより算出したスコアの画面表示に適用することができる。
ここで、本実施形態のスコア計算の原理について簡単に説明する。炎症部は、血管の拡張及び血漿成分の血管外への漏出等を伴い、症状が進行するほど、表面の正常粘膜が脱落するため、血液の色に近付くことが知られている。そのため、炎症部の色と血液の色との相関の程度(後述する相関値CV)が、炎症部の重症度を示す良い指標となる。本実施形態では、各画素(x,y)の判定用画像データJ{H(x,y),S(x,y)}と血液の色(色相、彩度)との相関値CV(x,y)を計算して、これを炎症部の重症度を示すスコアSc(x,y)として使用する。
図9は、スコア計算処理S7の手順を示すフローチャートである。スコア計算処理S7では、まずフラグテーブルFTが読み出され、画素(x,y)に対応するフラグF(x,y)の値が「2」(炎症)であるか否かが判断される(S71)。
血液や血液を含有する生体組織の画像の彩度は、輝度に依存することが知られている。具体的には、輝度と彩度は負の相関を有し、明るいほど彩度が低下する。S72では、本発明者が開発した以下の補正式(数式6)を使用して、判定用画像データJ(x,y)の輝度I(x,y)による彩度S(x,y)の変動が補正される。この補正により、スコア計算の精度を高めることができる。
Icorr.(x,y):判定用画像データJの補正後の輝度
Scorr.(x,y):判定用画像データJの補正後の彩度
Iref:基準値となる血液サンプルデータの輝度
Sref:基準値となる血液サンプルデータの彩度
θ:血液サンプルデータの輝度値と彩度値との相関係数(cosθ)を与える角度
なお、血液サンプルの彩度と輝度の相関係数(実測値)は−0.86であり、θ=149.32(deg)を使用した。
次に、数式7により、色相距離DHUE(x,y)が計算される(S73)。色相距離DHUEは、血液サンプルデータの色相Hrefを基準とする、判定用画像データJ(x,y)の色相の相対値である。
次に、色相距離DHUE(x,y)から色相相関値HCV(x,y)が決定される(S74)。色相相関値HCV(x,y)は、炎症部の重症度と強い相関を有するパラメーターである。図10(a)は、色相距離DHUEと色相相関値HCVとの関係を図示したグラフである。色相距離DHUEは、±30°以内の範囲(以下「色相近似範囲R11」という。)において、炎症部の重症度と強い相関を有し、それ以外の範囲(以下「色相近似外範囲R12」という。)においては殆ど相関を有しない。そのため、本実施形態の色相相関値HCV(x,y)は、色相近似外範囲R12においては最小値の0.0に設定され、色相近似範囲R11においては色相距離DHUE(x,y)が0°に近づくほど線形的に増加するように設定されている。また、色相相関値HCV(x,y)は、最小値が0.0、最大値が1.0となるように規格化されている。
次に、数式8により、彩度距離DSAT(x,y)が計算される(S75)。彩度距離DSAT(x,y)は、血液サンプルデータの彩度Srefを基準とする、判定用画像データJ(x,y)の彩度の相対値である。
次に、彩度距離DSAT(x,y)から彩度相関値SCV(x,y)が決定される(S76)。彩度相関値SCV(x,y)も、炎症部の重症度と強い相関を有するパラメーターである。図10(b)は、彩度距離DSATと彩度相関値SCVとの関係を図示したグラフである。彩度距離DSATは、所定値以上の負の範囲(以下、「彩度近似範囲R22」という。)において、炎症部の重症度と強い相関を有し、負の所定値以下の範囲(以下「彩度近似外範囲R23」という。)においては殆ど相関を有しない。また、彩度距離DSATがゼロ以上の範囲、すなわち、病変画素の彩度が血液サンプルデータの彩度Sref以上となる範囲(以下「彩度一致範囲R21」という。)においては、重症度が極めて高いと考えられる。そのため、本実施形態の彩度相関値SCV(x,y)は、彩度一致範囲R21において最大値の1.0に設定され、彩度近似外範囲R23において最小値の0.0に設定され、彩度近似範囲R22において線形的に増加するように設定されている。また、彩度相関値SCV(x,y)も、最小値が0.0、最大値が1.0となるように規格化された値である。
次に、色相相関値HCV(x,y)と彩度相関値SCV(x,y)との乗算により、病変画素(x,y)の色と血液の色との相関値CV(x,y)を得る。なお、相関値CV(x,y)も、最小値が0.0、最大値が1.0となるように規格化された値となる。また、相関値CV(x,y)は、0.1ポイント刻みで11段階に区分される。
また、相関値CV(x,y)は炎症の重症度の良い指標となるため、スコアテーブルSTのスコアSc(x,y)の値が相関値CV(x,y)によって書き換えられる(S78)。
また、画素(x,y)が病変画素でない場合は(S71:No)、上述した相関値CV(x,y)の計算を行わずに、スコアテーブルSTのスコアSc(x,y)の値が「0」に書き換えられる(S79)。これにより、少ない計算量で全ての画素(x,y)に対してスコアSc(x,y)を与えることができる。
スコア計算処理S7が完了すると、次にマーキング処理部226によりマーキング処理S8が行われる。マーキング処理S8は、病変部を容易に識別できるように、通常観察画像NPに対して病変画素が分布する画像領域に印を付す処理である。具体的には、本実施形態のマーキング処理8では、病変画素が分布する画像領域に、その画像領域における重症度に応じた大きさの記号(例えば、図16における「×」印330)が付される。
本実施形態では、マスク310の大きさ(及び、マスクの大きさによって決まる印330の大きさ)が、マスク310内の画素311のスコアScに応じて変動する。図12は、予め設定された初期サイズのマスク310を示したものである。本実施形態では、マスク310の初期サイズは、5×5(水平方向の画素数×垂直方向の画素数)に設定されている。マスク310の初期サイズは、例えば、マスク310内の画像に付される印330の視認性(例えば、印330の形状の複雑さやモニタ910の表示画面の画素数等に依存する)に応じて設定される。具体的には、マスク310の初期サイズは、印330の良好な視認性が確保される範囲内で、できるだけ多くの印330を表示できるように、最小の大きさに設定される。
図13は、マーキング処理S8の手順を示すフローチャートである。マーキング処理S8では、まず画像メモリ227の記憶領域Pnに記憶された通常観察画像データN(原画像)が複製され、マーキング画像データMの初期値として記憶領域Pmに記憶される。また、メモリ229からスコアテーブルSTが読み出され、スコアテーブルST上で基準点312の走査が行われる(S81)。本実施形態では、基準点312は、スコアテーブルSTの上端のライン(y=0)から下端のライン(y=ymax)へ、ライン毎に順次走査される(図11)。また、基準点312は、各ラインにおいて、左端(x=0)から右端(x=xmax)へ走査される。
・条件a:病変画素[スコアSc(x,y)が0.1以上]であること
・条件b:マスク310が、既に付された印330(より正確には、印330を付したときのマスク310)と重ならないこと
上記の条件a及び条件bの両方を満たす位置(x,y)に到達すると、その位置で初期サイズ(5×5)のマスクが設定される(S82)。
次に、マスク内の画素のスコアSc(x,y)の相加平均である平均スコアScAvg.を計算する(S83)。なお、平均スコアScAvg.も、最小値が0.0、最大値が1.0となるように規格化された値となる。また、平均スコアScAvg.は、マスク内のスコアSc(x,y)を代表する他の数値(例えば、加重平均、中央値、最頻値、二乗平均平方根等)により代替することもできる。
次に、メモリ229に格納されたマスクテーブルMTを参照して、平均スコアScAvg.に対応するマスクサイズを読み取る。そして、読み取ったマスクサイズにマスク310のサイズを更新(マスク310を再設定)する(S84)。
次に、マーキング画像データMに対して、再設定後のマスク310の縁に内接するように、印330が付される(S85)。
次に、図14〜20を参照して、マーキング処理S8の具体例を説明する。図14〜20の通常観察画像データN(スコアテーブルST)には、複数の病変画素321からなる病変部の画像320が含まれている。
マーキング処理S8が完了すると、次に表示画面生成処理S9が行われる。表示画面生成処理S9は、画像メモリ227に記憶された各種画像データを使用して、モニタ900に表示するための表示画面データを生成する処理であり、画像処理回路220の表示画面生成部228によって行われる。表示画面生成部228は、システムコントローラ202の制御に応じて、複数種類の表示画面データを生成することができる。生成された表示画面データは、出力回路220bにより、ガンマ補正等の処理が行われた後、所定のビデオ・フォーマットのビデオ信号に変換され、モニタ900に出力される(出力処理S10)。
次に、上記に説明した本発明の第1実施形態の幾つかの変形例を説明する。
図22は、本発明の第1実施形態の第1変形例のマーキング画像MPである。上述した第1実施形態では、マスクサイズ更新処理S84において、マスク310内の平均スコアScAvg.に応じてマスクサイズを変更し、印330の大きさによって重症度を表現する構成が採用された。一方、第1変形例では、マスクサイズではなく、マスク310内に付す印330の数が、マスク310内の平均スコアScAvg.に応じて設定される。本変形例では、印330の密度によって重症度が表現される。
図23は、本発明の第1実施形態の第2変形例のマーキング画像MPである。上述した第1実施形態では、マスク310内に文字や記号を付すことによって通常観察画像NPに対してマーキングを施す構成が採用された。一方、本変形例では、マスク310内の平均スコアScAvg.に応じて、通常観察画像NPに対してマスク310内の色を変更する(言い換えれば、色の印を付す)処理を施すことによって、病変部の位置やその重症度を表示するものである。
次に、本発明の第2実施形態について説明する。
図24は、第2実施形態のマーキング処理S8aの手順を示すフローチャートである。本実施形態のマーキング処理S8aは、上述した第1実施形態のマーキング処理S8に替えて行われる。また、本実施形態のマーキング処理S8aは、通常観察画像データNを構成する全ての画素(x,y)について順次行われる。
マーキング処理S8aでは、先ず、メモリ229に格納された表示色テーブルが参照され、スコアSc(x,y)に基づいて、各画素に適用される色Col(x,y)が決定される。なお、病変画素以外の画素の色Col(x,y)は無色透明(null値)に設定される。そして、各画素(x,y)の色Col(x,y)から構成されるカラーマップ画像データCMが生成され、メモリ229の記憶領域Pcに記憶される(S81a)。
次に、カラーマップ画像CMPに透過性を与えて通常観察画像NP上に重ね合わせる画像混合処理S82aが行われる。画像混合処理S82aは、具体的には、通常観察画像データNとカラーマップ画像データCMとを加重平均する処理である。加重平均を行うことにより、カラーマップ画像CMPに透過性を与えて通常観察画像NPと重ね合わせることができる。なお、加重平均における通常観察画像データNの重みは、予め設定されたカラーマップ画像CMPの透過率により決定される。画像混合処理S82aによって生成されたマーキング画像データMは、画像メモリ227の記憶領域Pmに記憶され、マーキング処理S8aが完了する。なお、加重平均は、病変画素(スコアSc(x,y)>0)に対してのみ行われ、健常部(スコアSc(x,y)=0)の画素(x,y)については、通常観察画像データNの画素値N(x,y)がそのままマーキング画像データMの画素値M(x,y)となる。
図25(a)は、病変部の画像320を含む通常観察画像NPである。
図25(b)は、通常観察画像NP上にカラーマップ画像CMPをそのまま重ね合わせた画像(透過率0%)である。
図25(c)は、本実施形態の画像混合処理S82aによって生成されたマーキング画像MPである。
図25(b)と(c)との比較から明らかなように、画像混合処理S82aによって生成されたマーキング画像MPは、カラーマップにより、病変部と推定される部位や推定される重症度を視覚的に容易に把握することができる。また、カラーマップが透過性を有するため、病変部の形状やテクスチャも、マーキング画像MPからある程度把握することができ、診断をより容易に行うことが可能になる。
次に、本発明の第3実施形態について説明する。本実施形態は、通常観察画像NPにコアSc(x,y)の等高線CLを重ねて表示することにより、病変部の位置や重症度の分布を視認性良く表示するものである。
100 電子スコープ
132 移動量センサ
200 電子内視鏡用プロセッサ
202 システムコントローラ
220 画像処理回路
220a 基本処理部
220b 出力回路
221 TE処理部
222 有効画素判定部
223 色空間変換部
224 病変判定部
225 スコア計算部
226 マーキング処理部
227 画像メモリ
228 メモリ
229 表示画面生成部
900 モニタ
Claims (17)
- 生体組織のカラー画像を表すカラー画像データを取得するカラー画像取得手段と、
前記カラー画像データに基づいて、前記カラー画像の各画素について病変部の画素か否かの判定をする病変判定手段と、
前記判定の結果に基づいて、前記カラー画像上に前記病変部の位置を示す印を付すマーキング手段と、
を備え、
前記印は、背景の前記カラー画像が透ける印である、
画像処理装置。 - 前記病変判定手段が、
前記カラー画像の画素毎に前記生体組織の病変の重症度を示すスコアを要素に含むスコアテーブルを生成するスコアテーブル生成手段を有し、
前記マーキング手段が、前記スコアテーブルに基づいて、前記カラー画像上に前記病変部の位置及び重症度を示す前記印を付す、
請求項1に記載の画像処理装置。 - 前記マーキング手段が、
前記カラー画像内に処理の対象領域であるマスクを設定し、
前記マスク内の前記スコアの代表値を計算し、
前記代表値に基づいて前記マスクに前記印を付す、
請求項2に記載の画像処理装置。 - 前記マーキング手段が、
所定の初期サイズのマスクを設定し、
前記初期サイズのマスクについて前記代表値を計算し、
前記代表値に応じて前記マスクの大きさを変更し、
大きさを変更した前記マスクに内接するように前記印を付す、
請求項3に記載の画像処理装置。 - 前記初期サイズが、前記マスクの最小サイズである、
請求項4に記載の画像処理装置。 - 前記マーキング手段が、
前記代表値に応じた数の前記印を前記マスク内に付す、
請求項3に記載の画像処理装置。 - 前記マーキング手段が、
前記カラー画像内で前記マスクを走査させながら前記カラー画像上に前記印を付す、
請求項3から請求項6のいずれか一項に記載の画像処理装置。 - 前記マーキング手段が、
設定済みの他の前記マスクと重ならないように前記マスクを設定する、
請求項7に記載の画像処理装置。 - 前記代表値が、相加平均、加重平均、中央値、最頻値及び二乗平均平方根のいずれかである、
請求項3から請求項8のいずれか一項に記載の画像処理装置。 - 前記スコアテーブル生成手段が、
前記カラー画像データの色空間を、輝度又は明度を表す1つの座標と、色の質を表わす2つの座標と、を有する色空間に変換する色空間変換手段と、
前記カラー画像データの各画素の色の質に基づいて、各画素のスコアを計算するスコア計算手段と、
を備える、
請求項2から請求項9のいずれか一項に記載の画像処理装置。 - 前記スコアテーブル生成手段が、
病変部に特徴的な画素値の範囲の境界領域において色の質のコントラストを高める色彩強調処理を行う色彩強調手段を更に備え、
前記スコア計算手段が、
前記色彩強調処理後の画素値に基づいて各画素のスコアを計算する、
請求項10に記載の画像処理装置。 - 前記スコア計算手段が、
色相−彩度空間又は色度空間における基準点との距離に基づいて各画素のスコアを計算する、
請求項10又は請求項11に記載の画像処理装置。 - 前記病変部が炎症部であり、
前記基準点が血液の色である、
請求項12に記載の画像処理装置。 - 前記印が記号である、
請求項1から請求項13のいずれか一項に記載の画像処理装置。 - 前記印が透過率を有する色である、
請求項1から請求項14のいずれか一項に記載の画像処理装置。 - 前記印が前記重症度の等高線である、
請求項2に記載の画像処理装置。 - 前記カラー画像が電子内視鏡画像である、
請求項1から請求項16のいずれか一項に記載の画像処理装置。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015032714A JP6584090B2 (ja) | 2015-02-23 | 2015-02-23 | 画像処理装置 |
CN201680000508.9A CN106068092B (zh) | 2015-02-23 | 2016-02-08 | 图像处理装置 |
US15/106,978 US10231600B2 (en) | 2015-02-23 | 2016-02-08 | Image processing apparatus |
EP16728210.2A EP3263006B1 (en) | 2015-02-23 | 2016-02-08 | Image processing device |
PCT/JP2016/053623 WO2016136442A1 (ja) | 2015-02-23 | 2016-02-08 | 画像処理装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015032714A JP6584090B2 (ja) | 2015-02-23 | 2015-02-23 | 画像処理装置 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2016154588A true JP2016154588A (ja) | 2016-09-01 |
JP2016154588A5 JP2016154588A5 (ja) | 2018-03-22 |
JP6584090B2 JP6584090B2 (ja) | 2019-10-02 |
Family
ID=56789399
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015032714A Active JP6584090B2 (ja) | 2015-02-23 | 2015-02-23 | 画像処理装置 |
Country Status (5)
Country | Link |
---|---|
US (1) | US10231600B2 (ja) |
EP (1) | EP3263006B1 (ja) |
JP (1) | JP6584090B2 (ja) |
CN (1) | CN106068092B (ja) |
WO (1) | WO2016136442A1 (ja) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018069992A1 (ja) * | 2016-10-12 | 2018-04-19 | オリンパス株式会社 | 挿入システム |
KR101943011B1 (ko) | 2018-01-22 | 2019-01-28 | 주식회사 뷰노 | 피검체의 의료 영상 판독을 지원하는 방법 및 이를 이용한 장치 |
JP2019042157A (ja) * | 2017-09-01 | 2019-03-22 | 富士フイルム株式会社 | 医療画像処理装置、内視鏡装置、診断支援装置、及び、医療業務支援装置 |
JPWO2020235502A1 (ja) * | 2019-05-23 | 2020-11-26 | ||
US11115601B2 (en) | 2018-06-13 | 2021-09-07 | Canon Kabushiki Kaisha | Image processing apparatus, imaging apparatus, and image processing method |
JP7485193B2 (ja) | 2021-02-26 | 2024-05-16 | 日本電気株式会社 | 画像処理装置、画像処理方法及びプログラム |
Families Citing this family (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10806334B2 (en) * | 2017-02-28 | 2020-10-20 | Verily Life Sciences Llc | System and method for multiclass classification of images using a programmable light source |
WO2019142689A1 (ja) * | 2018-01-19 | 2019-07-25 | Hoya株式会社 | 電子内視鏡用プロセッサ及び電子内視鏡システム |
WO2019146079A1 (ja) * | 2018-01-26 | 2019-08-01 | オリンパス株式会社 | 内視鏡画像処理装置、内視鏡画像処理方法及びプログラム |
WO2019175032A1 (en) * | 2018-03-14 | 2019-09-19 | Koninklijke Philips N.V. | Scoring intravascular lesions and stent deployment in medical intraluminal ultrasound imaging |
CN109222859A (zh) * | 2018-08-03 | 2019-01-18 | 广州高通影像技术有限公司 | 一种带有ai辅助诊断功能的智能内窥镜影像系统 |
CN109330566A (zh) * | 2018-11-21 | 2019-02-15 | 佛山市第人民医院(中山大学附属佛山医院) | 一种伤口监测方法及装置 |
CN111091536B (zh) * | 2019-11-25 | 2023-04-07 | 腾讯科技(深圳)有限公司 | 医学图像处理方法、装置、设备、介质以及内窥镜 |
CN111358573B (zh) * | 2020-02-26 | 2023-06-20 | 西安交通大学医学院第二附属医院 | 高光谱成像的术区快速检测、标记的设备及检测方法 |
CN113128402A (zh) * | 2021-04-19 | 2021-07-16 | 国网江苏电动汽车服务有限公司 | 一种识别充换电设备安全状态的系统和方法 |
CN117257204B (zh) * | 2023-09-19 | 2024-05-07 | 深圳海业医疗科技有限公司 | 一种内窥镜控制组件控制方法及系统 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003033327A (ja) * | 2001-07-24 | 2003-02-04 | Fujitsu Ltd | 画像情報による診断支援装置 |
JP2003260027A (ja) * | 2003-02-06 | 2003-09-16 | Olympus Optical Co Ltd | 内視鏡用画像処理装置 |
JP2006025802A (ja) * | 2003-06-17 | 2006-02-02 | Olympus Corp | 内視鏡装置 |
JP2011177419A (ja) * | 2010-03-03 | 2011-09-15 | Olympus Corp | 蛍光観察装置 |
JP2014018332A (ja) * | 2012-07-17 | 2014-02-03 | Hoya Corp | 画像処理装置及び内視鏡装置 |
WO2014084134A1 (ja) * | 2012-11-30 | 2014-06-05 | オリンパス株式会社 | 観察装置 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6947784B2 (en) | 2000-04-07 | 2005-09-20 | The General Hospital Corporation | System for digital bowel subtraction and polyp detection and related techniques |
US20050027166A1 (en) * | 2003-06-17 | 2005-02-03 | Shinya Matsumoto | Endoscope system for fluorescent observation |
JP6027803B2 (ja) * | 2012-07-17 | 2016-11-16 | Hoya株式会社 | 画像処理装置及び内視鏡装置 |
JP5567168B2 (ja) | 2013-03-06 | 2014-08-06 | 富士フイルム株式会社 | 画像処理装置および内視鏡システム |
JP6097629B2 (ja) * | 2013-04-26 | 2017-03-15 | Hoya株式会社 | 病変評価情報生成装置 |
-
2015
- 2015-02-23 JP JP2015032714A patent/JP6584090B2/ja active Active
-
2016
- 2016-02-08 WO PCT/JP2016/053623 patent/WO2016136442A1/ja active Application Filing
- 2016-02-08 EP EP16728210.2A patent/EP3263006B1/en active Active
- 2016-02-08 US US15/106,978 patent/US10231600B2/en active Active
- 2016-02-08 CN CN201680000508.9A patent/CN106068092B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003033327A (ja) * | 2001-07-24 | 2003-02-04 | Fujitsu Ltd | 画像情報による診断支援装置 |
JP2003260027A (ja) * | 2003-02-06 | 2003-09-16 | Olympus Optical Co Ltd | 内視鏡用画像処理装置 |
JP2006025802A (ja) * | 2003-06-17 | 2006-02-02 | Olympus Corp | 内視鏡装置 |
JP2011177419A (ja) * | 2010-03-03 | 2011-09-15 | Olympus Corp | 蛍光観察装置 |
JP2014018332A (ja) * | 2012-07-17 | 2014-02-03 | Hoya Corp | 画像処理装置及び内視鏡装置 |
WO2014084134A1 (ja) * | 2012-11-30 | 2014-06-05 | オリンパス株式会社 | 観察装置 |
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018069992A1 (ja) * | 2016-10-12 | 2018-04-19 | オリンパス株式会社 | 挿入システム |
JPWO2018069992A1 (ja) * | 2016-10-12 | 2019-07-18 | オリンパス株式会社 | 挿入システム |
US11602263B2 (en) | 2016-10-12 | 2023-03-14 | Olympus Corporation | Insertion system, method and computer-readable storage medium for displaying attention state information over plurality of times |
JP2019042157A (ja) * | 2017-09-01 | 2019-03-22 | 富士フイルム株式会社 | 医療画像処理装置、内視鏡装置、診断支援装置、及び、医療業務支援装置 |
US11010891B2 (en) | 2017-09-01 | 2021-05-18 | Fujifilm Corporation | Medical image processing apparatus, endoscope apparatus, diagnostic support apparatus, and medical service support apparatus |
KR101943011B1 (ko) | 2018-01-22 | 2019-01-28 | 주식회사 뷰노 | 피검체의 의료 영상 판독을 지원하는 방법 및 이를 이용한 장치 |
US11115601B2 (en) | 2018-06-13 | 2021-09-07 | Canon Kabushiki Kaisha | Image processing apparatus, imaging apparatus, and image processing method |
JPWO2020235502A1 (ja) * | 2019-05-23 | 2020-11-26 | ||
WO2020235502A1 (ja) * | 2019-05-23 | 2020-11-26 | 富士フイルム株式会社 | 画像処理装置 |
JP7284814B2 (ja) | 2019-05-23 | 2023-05-31 | 富士フイルム株式会社 | 画像処理装置 |
US12020350B2 (en) | 2019-05-23 | 2024-06-25 | Fujifilm Corporation | Image processing apparatus |
JP7485193B2 (ja) | 2021-02-26 | 2024-05-16 | 日本電気株式会社 | 画像処理装置、画像処理方法及びプログラム |
Also Published As
Publication number | Publication date |
---|---|
EP3263006B1 (en) | 2024-01-31 |
WO2016136442A1 (ja) | 2016-09-01 |
EP3263006A4 (en) | 2018-11-14 |
EP3263006A1 (en) | 2018-01-03 |
US10231600B2 (en) | 2019-03-19 |
US20170112353A1 (en) | 2017-04-27 |
CN106068092A (zh) | 2016-11-02 |
JP6584090B2 (ja) | 2019-10-02 |
CN106068092B (zh) | 2018-05-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6584090B2 (ja) | 画像処理装置 | |
JP6346576B2 (ja) | 画像処理装置 | |
CN106102556B (zh) | 图像处理装置 | |
US20220296123A1 (en) | Electronic endoscope processor and electronic endoscopic system | |
US8027533B2 (en) | Method of automated image color calibration | |
JP7068487B2 (ja) | 電子内視鏡システム | |
JP6907398B2 (ja) | 内視鏡システム | |
CN112469323B (zh) | 内窥镜系统 | |
JP6531202B2 (ja) | 画像処理装置 | |
CN112351723A (zh) | 电子内窥镜系统与数据处理装置 | |
CN112469324B (zh) | 内窥镜系统 | |
JP7455716B2 (ja) | 内視鏡用プロセッサ及び内視鏡システム | |
JP7455717B2 (ja) | 内視鏡用プロセッサ及び内視鏡システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20170717 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180208 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180208 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190207 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190329 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190808 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190903 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6584090 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |