JP2016154588A - 画像処理装置 - Google Patents

画像処理装置 Download PDF

Info

Publication number
JP2016154588A
JP2016154588A JP2015032714A JP2015032714A JP2016154588A JP 2016154588 A JP2016154588 A JP 2016154588A JP 2015032714 A JP2015032714 A JP 2015032714A JP 2015032714 A JP2015032714 A JP 2015032714A JP 2016154588 A JP2016154588 A JP 2016154588A
Authority
JP
Japan
Prior art keywords
color
image
mask
pixel
lesion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015032714A
Other languages
English (en)
Other versions
JP2016154588A5 (ja
JP6584090B2 (ja
Inventor
洋祐 池本
Yosuke Ikemoto
洋祐 池本
水口 直志
Naoshi Mizuguchi
直志 水口
敦 小師
Atsushi Koshi
敦 小師
俊雄 橘
Toshio Tachibana
俊雄 橘
太田 紀子
Noriko Ota
紀子 太田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hoya Corp
Original Assignee
Hoya Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hoya Corp filed Critical Hoya Corp
Priority to JP2015032714A priority Critical patent/JP6584090B2/ja
Priority to CN201680000508.9A priority patent/CN106068092B/zh
Priority to US15/106,978 priority patent/US10231600B2/en
Priority to EP16728210.2A priority patent/EP3263006B1/en
Priority to PCT/JP2016/053623 priority patent/WO2016136442A1/ja
Publication of JP2016154588A publication Critical patent/JP2016154588A/ja
Publication of JP2016154588A5 publication Critical patent/JP2016154588A5/ja
Application granted granted Critical
Publication of JP6584090B2 publication Critical patent/JP6584090B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000095Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope for image enhancement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/0002Operational features of endoscopes provided with data storages
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00039Operational features of endoscopes provided with input arrangements for the user
    • A61B1/0004Operational features of endoscopes provided with input arrangements for the user for electronic operation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • A61B1/0005Display arrangement combining images e.g. side-by-side, superimposed or tiled
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0082Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence adapted for particular medical purposes
    • A61B5/0084Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence adapted for particular medical purposes for introduction into the body, e.g. by catheters
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/1032Determining colour for diagnostic purposes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30096Tumor; Lesion

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Surgery (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Pathology (AREA)
  • Biophysics (AREA)
  • Veterinary Medicine (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Public Health (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Optics & Photonics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Quality & Reliability (AREA)
  • Dentistry (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Endoscopes (AREA)
  • Image Processing (AREA)

Abstract

【課題】画像診断をより容易且つ正確に行えるようにする。【解決手段】画像処理装置は、生体組織のカラー画像を表すカラー画像データを取得するカラー画像取得手段と、カラー画像データに基づいて、カラー画像の各画素について病変部の画素か否かの判定をする病変判定手段と、判定の結果に基づいて、カラー画像上に病変部の位置を示す印を付すマーキング手段と、を備える。印は、背景のカラー画像が透ける印である。【選択図】図20

Description

本発明は、生体組織の画像を処理する画像処理装置に関する。
一般に、生体組織の病変部は正常な部位とは異なる色を呈する。カラー内視鏡装置の性能向上により、正常組織とわずかに色の異なる病変部の識別も可能になってきている。しかしながら、術者が内視鏡画像上のわずかな色の相違により正常組織から病変部を正確に識別できるようになるには、熟練者の指導下で長期間のトレーニングを受ける必要があった。また、熟練した術者であっても、わずかな色の違いから病変部を識別することは容易ではなく、慎重な作業が要求された。
そこで、病変部の識別を容易にするために、白色光を使用して撮像した内視鏡画像データに対して、色情報に基づいて被写体が病変部か否かを判定し、病変部と判定された画素の色を変更する処理を行う機能を備えた電子内視鏡装置が提案されている。
特開2014−18332号公報
特許文献1の電子内視鏡装置が生成するマーキング画像は、病変部と疑われる箇所が明確に色分けされるが、診断に必要な病変部の像の情報が損なわれてしまうため、診断の際に通常観察画像と丁寧に見比べる必要があり、診断しにくいという不便があった。
本発明は上記の事情に鑑みてなされたものであり、その目的とするところは、病変部の像の情報を十分に維持しつつ、病変部と疑われる箇所を明示可能な画像処理装置を提供することである。
本発明の一実施形態によれば、生体組織のカラー画像を表すカラー画像データを取得するカラー画像取得手段と、カラー画像データに基づいて、カラー画像の各画素について病変部の画素か否かの判定をする病変判定手段と、判定の結果に基づいて、カラー画像上に病変部の位置を示す印を付すマーキング手段と、を備え、印は、背景のカラー画像が透ける印である、画像処理装置が提供される。
また、上記の画像処理装置において、病変判定手段が、カラー画像の画素毎に生体組織の病変の重症度を示すスコアを要素に含むスコアテーブルを生成するスコアテーブル生成手段を有し、マーキング手段が、スコアテーブルに基づいて、カラー画像上に病変部の位置及び重症度を示す前記印を付す構成としてもよい。
この構成によれば、カラー画像上に付される印から、病変の重症度に関する情報も得られるため、客観的なデータに基づく高度な診断が可能になる。
また、上記の画像処理装置において、マーキング手段が、カラー画像内に処理の対象領域であるマスクを設定し、マスク内のスコアの代表値を計算し、代表値に基づいてマスクに印を付す構成としてもよい。
また、上記の画像処理装置において、マーキング手段が、所定の初期サイズのマスクを設定し、初期サイズのマスクについて代表値を計算し、代表値に応じてマスクの大きさを変更し、大きさを変更したマスクに内接するように印を付す構成としてもよい。
この構成によれば、病変の重症度が印の大きさによって示されるため、印が付された画像から重症度を直観的に把握することができる。
また、上記の画像処理装置において、初期サイズが、マスクの最小サイズである構成としてもよい。
また、上記の画像処理装置において、マーキング手段が、代表値に応じた数の印をマスク内に付す構成としてもよい。
この構成によれば、病変の重症度が印の密度によって示されるため、印が付された画像から重症度を直観的に把握することができる。
また、上記の画像処理装置において、マーキング手段が、カラー画像内でマスクを走査させながらカラー画像上に印を付す構成としてもよい。
また、上記の画像処理装置において、マーキング手段が、設定済みの他のマスクと重ならないようにマスクを設定する構成としてもよい。
この構成によれば、既に付された印の情報が失われることがなく、印の情報の精度が維持される。
また、上記の画像処理装置において、代表値が、相加平均、加重平均、中央値、最頻値及び二乗平均平方根のいずれかである構成としてもよい。
また、上記の画像処理装置において、スコアテーブルを生成する手段が、カラー画像データの色空間を、輝度又は明度を表す1つの座標と、色の質を表わす2つの座標と、を有する色空間に変換する色空間変換手段と、カラー画像データの各画素の色の質に基づいて、各画素のスコアを計算するスコア計算手段と、を備える構成としてもよい。
また、上記の画像処理装置において、スコアテーブルを生成する手段が、病変部に特徴的な画素値の範囲の境界領域において色の質のコントラストを高める色彩強調処理を行う色彩強調手段を更に備え、スコア計算手段が、色彩強調処理後の画素値に基づいて各画素のスコアを計算する構成としてもよい。
また、上記の画像処理装置において、スコア計算手段が、色相−彩度空間又は色度空間における基準点との距離に基づいて各画素のスコアを計算する構成としてもよい。
また、上記の画像処理装置において、病変部が炎症部であり、基準点が血液の色である構成としてもよい。
また、上記の画像処理装置において、印が記号である構成としてもよい。
また、上記の画像処理装置において、印が透過率を有する色である構成としてもよい。
また、上記の画像処理装置において、印が重症度の等高線である構成としてもよい。
また、上記の画像処理装置において、カラー画像が電子内視鏡画像である構成としてもよい。
本発明の一実施形態によれば、生体組織のカラー画像が透ける印が付され、印を付す前のカラー画像を参照しなくても生体組織の形状やテクスチャを把握することができるため、画像診断をより容易且つ正確に行うことが可能になる。
本発明の実施形態に係る電子内視鏡装置の概略構成を示すブロック図である。 本発明の実施形態に係る電子内視鏡装置の画像処理に関する回路の概略構成を示したブロック図である。 画像メモリの記憶領域の概略構成を示す図である。 画像処理回路が行う処理の手順を示すフローチャートである。 TE処理に使用されるゲイン曲線の一例である。 有効画素判定処理の手順を示すフローチャートである。 病変判定処理の手順を示すフローチャートである。 生体組織像の画素値をHS座標空間にプロットした散布図である。 スコア計算処理の手順を示すフローチャートである。 色相距離、彩度距離と相関値との関係を示すグラフである。 マーキング処理(マスクの走査)を説明する図である。 マスクの構成を示す図である。 マーキング処理の手順を示すフローチャートである。 マーキング処理の具体例を説明する図である。 マーキング処理の具体例を説明する図である。 マーキング処理の具体例を説明する図である。 マーキング処理の具体例を説明する図である。 マーキング処理の具体例を説明する図である。 マーキング処理の具体例を説明する図である。 マーキング処理の具体例を説明する図である。 表示画面の一例である。 本発明の第1実施形態の第1変形例のマーキング画像である。 本発明の第1実施形態の第2変形例のマーキング画像である。 本発明の第2実施形態のマーキング処理の手順を示すフローチャートである。 画像混合処理の効果を説明する図である。 本発明の第3実施形態における等高線の作成方法を説明する図である。
以下、本発明の画像処理装置の実施形態について図面を参照しながら説明する。なお、以下においては、本発明の一実施形態として電子内視鏡システムを例に取り説明する。
<第1実施形態>
[電子内視鏡装置1全体の構成]
図1は、本発明の第1実施形態の電子内視鏡装置1の構成を示すブロック図である。図1に示されるように、電子内視鏡装置1は、電子スコープ100、プロセッサ200及びモニタ900を備えている。
プロセッサ200は、システムコントローラ202及びタイミングコントローラ204を備えている。システムコントローラ202は、メモリ212に記憶された各種プログラムを実行し、電子内視鏡装置1全体を統合的に制御する。また、システムコントローラ202は、操作パネル214に接続されている。システムコントローラ202は、操作パネル214より入力される術者からの指示に応じて、電子内視鏡装置1の各動作及び各動作のためのパラメーターを変更する。タイミングコントローラ204は、各部の動作のタイミングを調整する同期信号を電子内視鏡装置1内の各回路に出力する。
ランプ208は、ランプ電源イグナイタ206による始動後、照射光Lを射出する。ランプ208は、例えば、キセノンランプ、ハロゲンランプ、水銀ランプ、メタルハライドランプ等の高輝度ランプやLED(Light Emitting Diode)である。照射光Lは、主に可視光領域から不可視である赤外光領域に広がるスペクトルを持つ広帯域光(又は少なくとも可視光領域を含む白色光)である。
ランプ208より射出された照射光Lは、集光レンズ210によりLCB(Light Carrying Bundle)102の入射端面に集光されてLCB102内に入射される。
LCB102内に入射された照射光Lは、LCB102内を伝播して電子スコープ100の先端に配置されたLCB102の射出端面より射出され、配光レンズ104を介して被写体に照射される。照射光Lにより照射された被写体からの戻り光は、対物レンズ106を介して固体撮像素子108の受光面上で光学像を結ぶ。
固体撮像素子108は、補色市松色差線順次方式の単板式カラーCCD(Charge Coupled Device)イメージセンサである。固体撮像素子108は、受光面上で結像した被写体の光学像を撮像して、アナログ撮像信号を出力する。具体的には、固体撮像素子108は、受光面上の各画素で結像した光学像を光量に応じた電荷として蓄積して、イエローYe、シアンCy、グリーンG、マゼンタMgの色信号を生成し、生成された垂直方向に隣接する2つの画素の色信号を加算し混合して得た走査線を順次出力する。なお、固体撮像素子108は、CCDイメージセンサに限らず、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサやその他の種類の撮像装置に置き換えられてもよい。固体撮像素子108はまた、原色系フィルタ(ベイヤ配列フィルタ)を搭載したものであってもよい。
電子スコープ100の接続部内には、ドライバ信号処理回路110が備えられている。ドライバ信号処理回路110には、上記の走査線からなるアナログ撮像信号がフィールド周期で固体撮像素子108より入力される。なお、以降の説明において「フィールド」は「フレーム」に置き替えてもよい。本実施形態において、フィールド周期、フレーム周期はそれぞれ、1/60秒、1/30秒である。ドライバ信号処理回路110は、固体撮像素子108より入力されるアナログ撮像信号に対して所定の処理を施してプロセッサ200の画像処理回路220に出力する。
ドライバ信号処理回路110はまた、メモリ120にアクセスして電子スコープ100の固有情報を読み出す。メモリ120に記録される電子スコープ100の固有情報には、例えば、固体撮像素子108の画素数や感度、動作可能なフィールドレート、型番等が含まれる。ドライバ信号処理回路110は、メモリ120より読み出された固有情報をシステムコントローラ202に出力する。
システムコントローラ202は、電子スコープ100の固有情報に基づいて各種演算を行い、制御信号を生成する。システムコントローラ202は、生成された制御信号を用いて、プロセッサ200に接続されている電子スコープに適した処理がなされるようにプロセッサ200内の各種回路の動作やタイミングを制御する。
タイミングコントローラ204は、システムコントローラ202によるタイミング制御に従って、同期信号を生成する。ドライバ信号処理回路110は、タイミングコントローラ204から供給される同期信号に従って、プロセッサ200が生成するビデオ信号のフィールドレートに同期したタイミングで固体撮像素子108を駆動制御する。
画像処理回路220は、システムコントローラ202による制御の下、電子スコープ100から出力される撮像信号に基づいて画像データを生成する。また、画像処理回路220は、生成された画像データを使用してモニタ表示用の画面データを生成し、この画面データを所定のビデオ・フォーマットのビデオ信号に変換して出力する。ビデオ信号はモニタ900に入力され、被写体のカラー画像がモニタ900の表示画面に表示される。
図2は、電子内視鏡装置1の画像処理に関する回路の概略構成を示したブロック図である。
ドライバ信号処理回路110は、駆動回路112とAFE(Analog Front End)114を備えている。駆動回路112は、同期信号に基づいて固体撮像素子108の駆動信号を生成する。AFE114は、固体撮像素子108から出力されるアナログ撮像信号に対して、ノイズ除去、信号増幅・ゲイン補正及びA/D変換を行い、デジタル撮像信号を出力する。なお、本実施形態においてAFE114が行う処理の全部又は一部を固体撮像素子108又は画像処理回路220が行う構成としてもよい。
画像処理回路220は、基本処理部220a、出力回路220b、TE(Tone Enhancement:トーン強調)処理部221、有効画素判定部222、色空間変換部223、病変判定部224、スコア計算部225、マーキング処理部226、画像メモリ227、表示画面生成部228及びメモリ229を備えている。画像処理回路220の各部が行う処理については後述する。
図3(a)は、画像メモリ227が備える記憶領域の概略構成を示す図である。本実施形態の画像メモリ227には、3つの記憶領域P、P、Pが設けられている。記憶領域Pは、基本処理部220aが生成する通常観察画像データN(通常観察画像NPを表す画像データ)を記憶する領域である。記憶領域Pは、TE処理部221が生成するトーン強調画像データE(トーン強調画像EPを表す画像データ)を記憶する領域である。記憶領域Pは、マーキング処理部226が生成するマーキング画像データM(マーキング画像MPを表す画像データ)を記憶する領域である。
また、図2に示されるように、メモリ229には、フラグテーブルFT、スコアテーブルST、マスクテーブルMT、色相相関値テーブルHCT及び彩度相関値テーブルSCTが格納される。フラグテーブルFT及びスコアテーブルSTは、それぞれ通常観察画像データNの各画素(x,y)に関する解析結果を示すフラグF(x,y)、スコアSc(x,y)から構成された数値テーブルである。具体的には、フラグF(x,y)は対応する画素(x,y)に写された組織の病変の有無を示すパラメーターであり、スコアSc(x,y)はその病変の重症度を示すパラメーターである。色相相関値テーブルHCT、彩度相関値テーブルSCT及びマスクテーブルMTについては後述する。
[基本処理S1]
次に、画像処理回路220が行う処理について説明する。
図4は、画像処理回路220が行う処理の手順を示すフローチャートである。AFE114から出力されたデジタル信号は、先ず基本処理部220aによって一般的な信号処理(基本処理S1)が行われて、通常観察画像データNが生成される。
基本処理S1には、AFE114から出力されたデジタル撮像信号を輝度信号Y及び色差信号Cb、Crに変換する処理、輝度信号Y及び色差信号Cb、Crから原色信号R、G、Bを分離する原色分離処理、オフセット成分を除去するクランプ処理、欠陥画素の画素値を周囲の画素の画素値を用いて補正する欠陥補正処理、単色の画素値からなる撮像データ(RAWデータ)をフルカラーの画素値からなる画像データに変換するデモザイク処理(補間処理)、カラーマトリクスを用いて撮像素子の分光特性を補正するリニアマトリクス処理、照明光のスペクトル特性を補正するホワイトバランス処理、空間周波数特性の劣化を補償する輪郭補正等が含まれる。
なお、本実施形態において基本処理部220aが行う処理の全部又は一部をドライバ信号処理回路110又は固体撮像素子108が行う構成としてもよい。
基本処理部220aによって生成された通常観察画像データNは、TE処理部221に入力されると共に、画像メモリ227の記憶領域Pに記憶される。
[動作モード判定処理S2]
次に、画像解析モードに設定されているか否かが判断される(S2)。本発明の実施形態に係る画像解析モードは、画像データの各画素について色情報を解析し、色情報の解析結果から所定の判定基準に基づいて病変部が写された画素(以下「病変画素」という。)であるか否かを判定し、病変画素を識別表示する動作モードである。判定する病変の種類は、検査内容に応じて選択することができる。以下に説明する例は、炎症性腸疾患(IBD)の病変である炎症(浮腫や易出血性を含む赤変病変)の観察像に特有の色域の画素を抽出して、識別表示するものである。
なお、本実施形態の電子内視鏡装置1は、画像解析モードと通常観察モードの2つの動作モードで動作するように構成されている。動作モードは、電子スコープ100の操作部130やプロセッサ200の操作パネル214に対するユーザ操作によって切り換えられる。通常観察モードに設定されている場合は(S2:No)、処理はS9へ進む。
[TE(トーン強調)処理S3]
画像解析モードが選択されている場合は(S2:Yes)、次にTE処理部221によるTE処理S3が行われる。TE処理S3は、病変の判定精度を上げるために、通常観察画像データNの各原色信号R,G,Bに対して非線形なゲイン(利得)を与えるゲイン調整を行い、判定対象の病変に特有の色域(特にその境界部)付近におけるダイナミックレンジを実質的に広げて、色表現の実効的な分解能を高める処理である。具体的には、TE処理S3では、各原色信号R,G,Bに対して、図5に示すような非線形のゲインを与えて原色信号R´,G´,B´(トーン強調画像データE)を取得する処理が行われる。例えば、図5のゲイン曲線は、潰瘍に特徴的な色域の境界領域Rから、炎症に特徴的な色域の境界領域Rにかけて、傾きが急峻になっている。このようなゲイン曲線に従ってゲインを与えることにより、境界領域Rから境界領域Rにかけて原色信号R´(原色信号Rに対してTE処理S3を施した信号)の実質的なダイナミックレンジを広げることができ、より精密な閾値判定が可能になる。
なお、TE処理S3により、炎症部は赤く、潰瘍部は白く、正常部は緑色に色味が変化する。そのため、TE処理S3によって生成されたトーン強調画像データEをモニタ900に表示した場合、TE処理S3前の通常観察画像データNを表示した場合よりも病変部(炎症部や潰瘍部)を容易に視認することができる。なお、上記のTE処理S3は、本発明に適用可能な色彩強調処理の一例であり、TE処理S3に替えて、色の質、具体的には色相又は彩度(あるいは色度)のコントラストを高める他の種類の色彩強調処理を使用してもよい。
[有効画素判定処理S4]
TE処理S3が完了すると、次にトーン強調画像データEに対して有効画素判定部222による有効画素判定処理S4が行われる。なお、TE処理S3を省略して、通常観察画像データNに対して有効画素判定処理S4を行うこともできる。
図6は、有効画素判定処理S4の手順を示すフローチャートである。有効画素判定処理S4は、画素値が画像解析に適したものであるか否かを判定する処理であり、画像データを構成する全ての画素(x,y)について順次行われる。有効画素判定処理S4では、まず各画素(x,y)について、トーン強調画像データEの原色信号R´(x,y),G´(x,y),B´(x,y)から、下記の数式1により補正輝度int(x,y)が計算される(S41)。
なお、計算した補正輝度int(x,y)の値は、次の適正露出判定処理S42に使用される。また、数式1から分かるように、補正輝度int(x,y)は、原色信号R´(x,y),G´(x,y),B´(x,y)の単純平均ではなく、ヒト(術者)の比視感度特性に基づいた加重平均として求められる。
次に、各画素(x,y)について、処理S41において計算したトーン強調画像データEの補正輝度int(x,y)及び原色信号R´(x,y),G´(x,y),B´(x,y)に基づいて、画像解析に適した露出レベルであるか否かを判定する適正露出判定処理S42が行われる。適正露出判定処理S42では、次の2つの条件(数式2、数式3)の少なくとも一方(或いは、両方)を満たす場合に、適正露出(S42:Yes)と判定する。なお、数式2により補正輝度int(x,y)(全体の光量)の上限値が規定され、数式3により各原色信号R´(x,y),G´(x,y),B´(x,y)の下限値が規定されている。
画素(x,y)について、数式2又は数式3(或いは、数式2及び数式3)を満たし、適正露出と判定されると(S42:Yes)、有効画素判定部222は、メモリ229に格納されているフラグテーブルFTの画素(x,y)に対応するフラグF(x,y)の値を「1」に書き換える(S43)。
なお、フラグF(x,y)は、0〜2のいずれかのフラグ値をとる。各フラグ値の定義は以下の通りである。
0:画素データ無効
1:正常又は未判定(画素データ有効)
2:病変(炎症)
また、適正露出判定処理S42において、数式2、数式3のいずれの条件も(或いは、いずれかの条件を)満たさず、露出不適正と判定されると(S42:No)、有効画素判定部222は、フラグテーブルFTのフラグF(x,y)の値を「0」に書き換える(S44)。
次に、処理S45では、全ての画素(x,y)について処理が完了したかどうかが判定される。全ての画素(x,y)の処理が完了するまで、上記の処理S41〜S45が繰り返される。
[色空間変換処理S5]
有効画素判定処理S4が完了すると、次にトーン強調画像データEに対して色空間変換部223により色空間変換処理S5が行われる。色空間変換処理S5は、RGB3原色で定義されるRGB空間の画素値を、色相(Hew)・彩度(Saturation)・輝度(Intensity)の3要素で定義されるHSI(Heu-Saturation-Intensity)空間の画素値に変換する処理である。具体的には、色空間変換処理S5において、トーン強調画像データEの各画素(x,y)の原色信号R´(x,y),G´(x,y),B´(x,y)が、色相H(x,y),彩度S(x,y),輝度I(x,y)に変換される。
また、露出が不足又は過剰な画素(x,y)のデータは精度が低く、解析結果の信頼度を下げてしまう。そのため、色空間変換処理S5は、フラグF(x,y)の値が「1」に設定された(すなわち、上述の有効画素判定処理S4において適正露出と判定された)画素(x,y)についてのみ行われる。
色空間変換部223によって生成された各画素(x,y)の色相H(x,y)、彩度S(x,y)及び輝度I(x,y)からなる判定用画像データJ{H(x,y),S(x,y),I(x,y)}は、病変判定部224に入力される。
[病変判定処理S6]
色空間変換処理S5が完了すると、次に病変判定部224により判定用画像データJを用いた病変判定処理S6が行われる。病変判定処理S6は、内視鏡画像の各画素(x,y)について、判定用画像データJがHS空間(色相−彩度空間)上の後述する領域α、β(図8)のいずれにプロットされるかによって、その画素に写された生体組織の状態(炎症部であるか否か)を判定する処理である。なお、HS空間は、色度空間と同様に、色の質(明るさ・輝度を除いた色の要素)を表す空間である。例えば、CIE 1976 L*a*b*色空間等の他の色空間上で画像解析を行う場合には、病変判定部224は色度空間(例えばa*b*空間)上で行われる。
図7は、病変判定処理S6の手順を示すフローチャートである。病変判定処理S6は、画像データを構成する全ての画素(x,y)について順次行われる。病変判定処理S6では、まず、フラグテーブルFTを参照して、各画素(x,y)のデータが有効であるか否かを判断する(S61)。フラグF(x,y)の値が「1」(画素データ有効)であれば、次に炎症判定処理S62を行う。また、フラグF(x,y)の値が「0」(画素データ無効)であれば、炎症判定処理S62を行わずに、処理S64へ進む。
ここで、病変判定処理S6において行われる炎症判定処理S62について説明する。図8は、複数の炎症性腸疾患患者の内視鏡画像データから取得した判定用画像データJをHS空間上にプロットした散布図である。
図8の散布図は、右側下方の破線で囲まれた領域βと、それ以外の領域αとに区分される。本発明者の研究により、炎症性腸疾患の内視鏡診断に熟練した医師によって炎症部と判断された部位の画素の大半が領域βにプロットされ、非炎症部と判断された部位の画素の大半が領域αにプロットされることが判明した。このことは、生体組織を撮像した内視鏡観察画像の色相(色合い)と彩度(鮮やかさ)の2つの情報により、生体組織の状態(炎症の有無)を十分な確度で判別できることを意味している。
炎症判定処理S62においては、各画素(x,y)の判定用画像データJ{(H(x,y),S(x,y)}が、図8の領域βにプロットされるか否かが判定される。具体的には、判定用画像データJ{(H(x,y),S(x,y)}が、以下の数式4及び数式5の両方を満たす場合に、領域βにプロットされる(すなわち炎症部の画素と判定される)。また、判定用画像データJ{(H(x,y),S(x,y)}は、数式4及び数式5の少なくとも一方を満たさない場合に、領域αにプロットされる(すなわち炎症部の画素ではないと判定される)。なお、δS1、δH1及びδH2は、術者によって設定可能な補正値であり、これらの補正値の設定によって判定の厳しさ(感度)等を適宜調整することができる。
画素(x,y)の判定用画像データJ{(H(x,y),S(x,y)}が領域βにプロットされる場合は(S62:Yes)、画素(x,y)に対応するフラグF(x,y)の値が「2」(炎症)に書き換えられ(S63)、処理S64に進む。また、判定用画像データJ{H(x,y),S(x,y)}が領域βにプロットされない場合は(S62:No)、フラグF(x,y)は書き換えられずに、処理S64に進む。
処理S64では、全ての画素(x,y)について処理が完了したかどうかが判定される。全ての画素(x,y)の処理が完了するまで、上記の処理S61〜S64が繰り返される。
[スコア計算処理:S7]
病変判定処理S6が完了すると、次にスコア計算処理S7が行われる。スコア計算処理S7は、判定用画像データJの画素値に基づいて、病変部の重症度の評価値であるスコアSc(x,y)を計算する処理である。スコア計算処理S7は、画像データを構成する全ての画素(x,y)について順次行われる。なお、以下に説明するスコア計算のアルゴリズムは一例であり、本発明は様々なアルゴリズムにより算出したスコアの画面表示に適用することができる。
[スコア計算の原理]
ここで、本実施形態のスコア計算の原理について簡単に説明する。炎症部は、血管の拡張及び血漿成分の血管外への漏出等を伴い、症状が進行するほど、表面の正常粘膜が脱落するため、血液の色に近付くことが知られている。そのため、炎症部の色と血液の色との相関の程度(後述する相関値CV)が、炎症部の重症度を示す良い指標となる。本実施形態では、各画素(x,y)の判定用画像データJ{H(x,y),S(x,y)}と血液の色(色相、彩度)との相関値CV(x,y)を計算して、これを炎症部の重症度を示すスコアSc(x,y)として使用する。
[病変部の判定:S71]
図9は、スコア計算処理S7の手順を示すフローチャートである。スコア計算処理S7では、まずフラグテーブルFTが読み出され、画素(x,y)に対応するフラグF(x,y)の値が「2」(炎症)であるか否かが判断される(S71)。
フラグF(x,y)の値が「2」(炎症)である場合、すなわち画素(x,y)が病変画素である場合は(S71:Yes)、処理はS72へ進む。また、画素(x,y)が病変画素でない場合は(S71:No)、処理はS79へ進む。
[彩度の補正:S72]
血液や血液を含有する生体組織の画像の彩度は、輝度に依存することが知られている。具体的には、輝度と彩度は負の相関を有し、明るいほど彩度が低下する。S72では、本発明者が開発した以下の補正式(数式6)を使用して、判定用画像データJ(x,y)の輝度I(x,y)による彩度S(x,y)の変動が補正される。この補正により、スコア計算の精度を高めることができる。
但し、
Icorr.(x,y):判定用画像データJの補正後の輝度
Scorr.(x,y):判定用画像データJの補正後の彩度
Iref:基準値となる血液サンプルデータの輝度
Sref:基準値となる血液サンプルデータの彩度
θ:血液サンプルデータの輝度値と彩度値との相関係数(cosθ)を与える角度
なお、血液サンプルの彩度と輝度の相関係数(実測値)は−0.86であり、θ=149.32(deg)を使用した。
[色相距離DHUEの計算:S73]
次に、数式7により、色相距離DHUE(x,y)が計算される(S73)。色相距離DHUEは、血液サンプルデータの色相Hrefを基準とする、判定用画像データJ(x,y)の色相の相対値である。
[色相相関値HCVの決定:S74]
次に、色相距離DHUE(x,y)から色相相関値HCV(x,y)が決定される(S74)。色相相関値HCV(x,y)は、炎症部の重症度と強い相関を有するパラメーターである。図10(a)は、色相距離DHUEと色相相関値HCVとの関係を図示したグラフである。色相距離DHUEは、±30°以内の範囲(以下「色相近似範囲R11」という。)において、炎症部の重症度と強い相関を有し、それ以外の範囲(以下「色相近似外範囲R12」という。)においては殆ど相関を有しない。そのため、本実施形態の色相相関値HCV(x,y)は、色相近似外範囲R12においては最小値の0.0に設定され、色相近似範囲R11においては色相距離DHUE(x,y)が0°に近づくほど線形的に増加するように設定されている。また、色相相関値HCV(x,y)は、最小値が0.0、最大値が1.0となるように規格化されている。
図10(a)に示す色相距離DHUEと色相相関値HCVとの関係は、色相相関値テーブルHCTとしてメモリ229に格納されている。色相相関値テーブルHCTを参照することにより、色相距離DHUE(x,y)に対応する色相相関値HCV(x,y)が取得される。
[彩度距離DSATの計算:S75]
次に、数式8により、彩度距離DSAT(x,y)が計算される(S75)。彩度距離DSAT(x,y)は、血液サンプルデータの彩度Srefを基準とする、判定用画像データJ(x,y)の彩度の相対値である。
[彩度相関値SCVの決定:S76]
次に、彩度距離DSAT(x,y)から彩度相関値SCV(x,y)が決定される(S76)。彩度相関値SCV(x,y)も、炎症部の重症度と強い相関を有するパラメーターである。図10(b)は、彩度距離DSATと彩度相関値SCVとの関係を図示したグラフである。彩度距離DSATは、所定値以上の負の範囲(以下、「彩度近似範囲R22」という。)において、炎症部の重症度と強い相関を有し、負の所定値以下の範囲(以下「彩度近似外範囲R23」という。)においては殆ど相関を有しない。また、彩度距離DSATがゼロ以上の範囲、すなわち、病変画素の彩度が血液サンプルデータの彩度Sref以上となる範囲(以下「彩度一致範囲R21」という。)においては、重症度が極めて高いと考えられる。そのため、本実施形態の彩度相関値SCV(x,y)は、彩度一致範囲R21において最大値の1.0に設定され、彩度近似外範囲R23において最小値の0.0に設定され、彩度近似範囲R22において線形的に増加するように設定されている。また、彩度相関値SCV(x,y)も、最小値が0.0、最大値が1.0となるように規格化された値である。
図10(b)に示す彩度距離DSATと彩度相関値SCVとの関係は、彩度相関値テーブルSCTとしてメモリ229に格納されている。彩度相関値テーブルSCTを参照することにより、彩度距離DSAT(x,y)に対応する彩度相関値SCV(x,y)が取得される。
[相関値CVの計算:S77]
次に、色相相関値HCV(x,y)と彩度相関値SCV(x,y)との乗算により、病変画素(x,y)の色と血液の色との相関値CV(x,y)を得る。なお、相関値CV(x,y)も、最小値が0.0、最大値が1.0となるように規格化された値となる。また、相関値CV(x,y)は、0.1ポイント刻みで11段階に区分される。
[スコアSc更新:S78]
また、相関値CV(x,y)は炎症の重症度の良い指標となるため、スコアテーブルSTのスコアSc(x,y)の値が相関値CV(x,y)によって書き換えられる(S78)。
[スコアSc更新:S79]
また、画素(x,y)が病変画素でない場合は(S71:No)、上述した相関値CV(x,y)の計算を行わずに、スコアテーブルSTのスコアSc(x,y)の値が「0」に書き換えられる(S79)。これにより、少ない計算量で全ての画素(x,y)に対してスコアSc(x,y)を与えることができる。
処理S80では、全ての画素(x,y)について処理が完了したかどうかが判定される。全ての画素(x,y)の処理が完了するまで、上記の処理S71〜S80が繰り返される。
[マーキング処理:S8]
スコア計算処理S7が完了すると、次にマーキング処理部226によりマーキング処理S8が行われる。マーキング処理S8は、病変部を容易に識別できるように、通常観察画像NPに対して病変画素が分布する画像領域に印を付す処理である。具体的には、本実施形態のマーキング処理8では、病変画素が分布する画像領域に、その画像領域における重症度に応じた大きさの記号(例えば、図16における「×」印330)が付される。
図11は、マーキング処理S8の進め方(マスク310の走査)を説明する図である。本実施形態のマーキング処理S8は、通常観察画像NP(及びスコアテーブルST)内に、所定サイズの画像領域であるマスク310を設定し、マスク310を順次移動させながら、マスク310内の画素311(図12)のスコアScに応じてマスク310内の画像に印330を付すものである。
[マスクの構成]
本実施形態では、マスク310の大きさ(及び、マスクの大きさによって決まる印330の大きさ)が、マスク310内の画素311のスコアScに応じて変動する。図12は、予め設定された初期サイズのマスク310を示したものである。本実施形態では、マスク310の初期サイズは、5×5(水平方向の画素数×垂直方向の画素数)に設定されている。マスク310の初期サイズは、例えば、マスク310内の画像に付される印330の視認性(例えば、印330の形状の複雑さやモニタ910の表示画面の画素数等に依存する)に応じて設定される。具体的には、マスク310の初期サイズは、印330の良好な視認性が確保される範囲内で、できるだけ多くの印330を表示できるように、最小の大きさに設定される。
マスクサイズは、メモリ229に格納されたマスクテーブルMTを参照して、スコアScに基づいて決定される。表1は、本実施形態で使用されるマスクテーブルMTの一例である。本実施形態では、マスクサイズは、初期値(5×5)を下限とし、スコアScに比例して大きくなるように設定される。
図12に示されるように、マスク310を構成する複数の画素311のうち、左上端のもの(すなわち、x座標及びy座標が共に最小の画素)を基準点312と呼ぶ。この基準点312の位置(x,y)がマスク310の位置として定義される。なお、マスク310内のいずれの画素を基準点312に設定してもよい。
[基準点の走査:S81]
図13は、マーキング処理S8の手順を示すフローチャートである。マーキング処理S8では、まず画像メモリ227の記憶領域Pに記憶された通常観察画像データN(原画像)が複製され、マーキング画像データMの初期値として記憶領域Pに記憶される。また、メモリ229からスコアテーブルSTが読み出され、スコアテーブルST上で基準点312の走査が行われる(S81)。本実施形態では、基準点312は、スコアテーブルSTの上端のライン(y=0)から下端のライン(y=ymax)へ、ライン毎に順次走査される(図11)。また、基準点312は、各ラインにおいて、左端(x=0)から右端(x=xmax)へ走査される。
マーキング処理部226は、スコアテーブルST上で基準点312を走査させながら、以下の条件a及び条件bの両方を満たす位置(x,y)を探索する。
・条件a:病変画素[スコアSc(x,y)が0.1以上]であること
・条件b:マスク310が、既に付された印330(より正確には、印330を付したときのマスク310)と重ならないこと
[マスク設定:S82]
上記の条件a及び条件bの両方を満たす位置(x,y)に到達すると、その位置で初期サイズ(5×5)のマスクが設定される(S82)。
[マスク内平均スコア計算:S83]
次に、マスク内の画素のスコアSc(x,y)の相加平均である平均スコアScAvg.を計算する(S83)。なお、平均スコアScAvg.も、最小値が0.0、最大値が1.0となるように規格化された値となる。また、平均スコアScAvg.は、マスク内のスコアSc(x,y)を代表する他の数値(例えば、加重平均、中央値、最頻値、二乗平均平方根等)により代替することもできる。
[マスクサイズ更新S84]
次に、メモリ229に格納されたマスクテーブルMTを参照して、平均スコアScAvg.に対応するマスクサイズを読み取る。そして、読み取ったマスクサイズにマスク310のサイズを更新(マスク310を再設定)する(S84)。
[マーキングS85]
次に、マーキング画像データMに対して、再設定後のマスク310の縁に内接するように、印330が付される(S85)。
処理S86では、スコアテーブルSTの最後まで走査が完了したかどうかが判定される。全てのスコアSc(x,y)が走査されるまで、上記の処理S81〜S86が繰り返される。
[マーキング処理の具体例:図14〜20]
次に、図14〜20を参照して、マーキング処理S8の具体例を説明する。図14〜20の通常観察画像データN(スコアテーブルST)には、複数の病変画素321からなる病変部の画像320が含まれている。
図14に示されるように、スコアテーブルST上でマスク310の基準点312を左上からライン毎に順次走査させると(S81)、最初に病変画素321aが検出される。
病変画素321aにおいて、上記の条件a及び条件bの両方が満たされるため、病変画素321aを基準点として初期サイズ(5×5)のマスク310a(図15の破線枠)が設定される(S82)。
次に、マスク310a内のスコアSc(x,y)の平均値(平均スコアScAvg.)が計算される(S83)。
平均スコアScAvg.の計算結果が例えば0.3であれば、マスクテーブルMT(表1)から、この平均スコアScAvg.の値に対応するマスクサイズ7×7が取得され、マスク310aの大きさが7×7(図15の実線枠)に変更される(S84)。
そして、マーキング画像MPに対して、マスク310aの縁に内接するように、「×」印330aが付される(S85)。なお、本実施形態では印330として「×」が使用されるが、印330には任意の印(文字、数字、記号、絵文字、模様などを含む。但し、マスク310の全体を塞ぐものを除く。)を使用することができる。
次に、再び、基準点312が走査される(図16)。以前に設定したマスク310a内は、上記の条件bを満たさないため、走査がスキップされる。病変画素321aのラインには、上記の条件a及び条件bの両方を満たす病変画素321が存在しないため、走査は一つ下のラインに移り、病変画素321bが検出される。しかし、病変画素321bを起点にマスク310を設定すると、以前に設定したマスク310aと干渉してしまう。そのため、病変画素321bではマスク310を設定せずに、走査を続行する。そして、以前に設定したマスク310aをスキップした直後に病変画素321cが検出される。
病変画素321cにおいては、上記の条件a及び条件bの両方が満たされるため、病変画素321cを起点に初期サイズ(5×5)のマスク310c(図17)が設定される。マスク310c内の平均スコアScAvg.が、例えば0.1であれば、対応するマスクサイズは初期サイズ(5×5)と変わらないため、マスクサイズは更新されず、マスク310cの縁に内接するように「×」印330cが付される。
以降、同様に処理S81〜S86が繰り返され、病変画素321dを起点に設定されたマスク310dに「×」印330dが付され(図18)、更に病変画素321eを起点に設定されたマスク310eに「×」印330eが付された後(図19)、通常観察画像データN(スコアテーブルST)の走査が完了する。その結果、通常観察画像データN上に、病変部の画像320の位置や、その重症度の分布を示す印330a、330c、330d、330eが付されたマーキング画像MPが得られる(図20)。生成されたマーキング画像データMは、画像メモリ227の記憶領域Pに記憶される。
[表示画面生成処理〜出力処理:S9〜S10]
マーキング処理S8が完了すると、次に表示画面生成処理S9が行われる。表示画面生成処理S9は、画像メモリ227に記憶された各種画像データを使用して、モニタ900に表示するための表示画面データを生成する処理であり、画像処理回路220の表示画面生成部228によって行われる。表示画面生成部228は、システムコントローラ202の制御に応じて、複数種類の表示画面データを生成することができる。生成された表示画面データは、出力回路220bにより、ガンマ補正等の処理が行われた後、所定のビデオ・フォーマットのビデオ信号に変換され、モニタ900に出力される(出力処理S10)。
図21は、表示画面生成処理S9によって生成される表示画面の一例であり、画像解析モードでの内視鏡観察中に表示される解析モード観察画面340である。解析モード観察画面340は、撮影日時が表示される日時表示領域341と、検査に関連する基本的な情報(例えば、カルテ番号、患者名、術者名)を表示する基本情報表示領域342と、通常観察画像NP(又はトーン強調画像EP)を表示する通常画像表示領域344と、マーキング画像MP(マーキング処理S8後の観察画像)を表示する解析画像表示領域345を備えている。
表示画面生成処理S9において、表示画面生成部228は、画像メモリ227の記憶領域群Pから通常観察画像データN(又は、記憶領域群Pからトーン強調画像データE)を読み出し、通常画像表示領域344に通常観察画像NP(又は、トーン強調画像EP)を表示する。また、画像メモリ227の記憶領域群Pからマーキング画像データMを読み出し、解析画像表示領域345にマーキング画像MPを表示する。また、日時表示領域341及び基本情報表示領域342には、システムコントローラ202から提供された情報が表示される。
術者は、解析モード観察画面340を見ながら内視鏡観察を行う。具体的には、解析画像表示領域345に表示されるマーキング画像MPを参照しつつ、通常画像表示領域344に表示される通常観察画像NP(又はトーン強調画像EP)を見ながら内視鏡観察を行う。マーキング画像MPにおいてマーキングされた部位について特に慎重に観察を行うことで、病変部を見落とすことなく、正確な診察を行うことができる。
また、本実施形態では、マーキング画像MPに、背景の通常観察画像NPが透ける印330が付されるため、マーキング画像MPのみを見ながら内視鏡観察及び診断を行うことができる。そのため、例えば、通常画像表示領域344を含まず、大きな解析画像表示領域345を含む解析モード観察画面340を生成する構成としてもよい。
表示画面生成処理S9及び出力処理S10が完了すると、次に、内視鏡観察を継続するか否かが判断される(S11)。プロセッサ200の操作パネル214に対して、内視鏡観察終了又は電子内視鏡装置1の運転停止を指示するユーザ操作が行われる(S11:No)まで、上記の処理S1〜S11が繰り返される。
以上が本発明の第1実施形態の説明である。上述した本発明の第1実施形態の構成によれば、マーキング画像MPにおいて、病変部の位置及び重症度を示す印330が病変部の画像320上に付されるため、内視鏡観察の経験が浅い術者であっても、病変部を見落とすことや、重症度を見誤ることなく、内視鏡画像による正確な診断を容易に行うことができる。また、マーキング画像MPには、背景(病変部の画像320)を完全に覆わずに、背景の一部を隙間から透過させる(すなわち、透過性を有する)印330が付される。これにより、マーキング画像MPからも病変部の形状やテクスチャを把握することができるため、より効率的且つより正確な診断を行うことが可能になる。
なお、上述の第1実施形態では、通常観察画像NPに印330を付すことによってマーキング画像MPが生成されるが、トーン強調画像EPその他の通常観察画像NPを加工した画像に印330を付すことによってマーキング画像MPを生成する構成としてもよい。
<第1実施形態の第1変形例>
次に、上記に説明した本発明の第1実施形態の幾つかの変形例を説明する。
図22は、本発明の第1実施形態の第1変形例のマーキング画像MPである。上述した第1実施形態では、マスクサイズ更新処理S84において、マスク310内の平均スコアScAvg.に応じてマスクサイズを変更し、印330の大きさによって重症度を表現する構成が採用された。一方、第1変形例では、マスクサイズではなく、マスク310内に付す印330の数が、マスク310内の平均スコアScAvg.に応じて設定される。本変形例では、印330の密度によって重症度が表現される。
なお、本変形例では、上述した第1実施形態におけるマスクテーブルMT(表1)に替えて、マスク310内の平均スコアScAvg.とマスク内に付すべき印の数との対応関係が記憶されたマーク数テーブルが使用される。マーク数テーブルの例を表2に示す。
<第1実施形態の第2変形例>
図23は、本発明の第1実施形態の第2変形例のマーキング画像MPである。上述した第1実施形態では、マスク310内に文字や記号を付すことによって通常観察画像NPに対してマーキングを施す構成が採用された。一方、本変形例では、マスク310内の平均スコアScAvg.に応じて、通常観察画像NPに対してマスク310内の色を変更する(言い換えれば、色の印を付す)処理を施すことによって、病変部の位置やその重症度を表示するものである。
また、本変形例では、通常観察画像NPに対してマスク内を単一の色(透過率0%)で塗潰すのではなく、所定の透過性(例えば透過率80%)を与えた色が通常観察画像NPに付される。そのため、第1実施形態と同様に、マーキング画像MPにも病変部の像の情報が残されるため、病変部を所定の色で塗潰す従来の方法と比べて、正確な診断を容易に行うことが可能になる。
また、本変形例では、病変部に付される記号の形状を認識する必要が無いため、マスクの大きさを1×1まで小さく設定する(又は、マスクを設定せずに、1画素ごとに処理を行う)構成とすることもできる。
なお、本変形例では、上述した第1実施形態におけるマスクテーブルMT(表1)に替えて、各画素(x,y)のスコアSc(x,y)と各画素(x,y)に付すべき色Col(x,y)との対応関係が記憶された表示色テーブルが使用される。表示色テーブル(24ビットカラー)の例を表3に示す。なお、スコアSc(x,y)の値がゼロ(正常組織)の画素(x,y)に対しては、無色透明を示す空の値(null値)が与えられるため、正常組織の画素は着色されない。また、各画素(x,y)に付すべき色の指定は、RGBによる指定に限らず、他の色表現(例えば、色相及び/又は彩度)によって指定することもできる。
<第2実施形態>
次に、本発明の第2実施形態について説明する。
図24は、第2実施形態のマーキング処理S8aの手順を示すフローチャートである。本実施形態のマーキング処理S8aは、上述した第1実施形態のマーキング処理S8に替えて行われる。また、本実施形態のマーキング処理S8aは、通常観察画像データNを構成する全ての画素(x,y)について順次行われる。
本実施形態の電子内視鏡装置1は、上述した第1実施形態の第2変形例と同じく、メモリ229上に表示色テーブル(表3)が格納されている。また、本実施形態の画像メモリ227には、記憶領域P、P、Pの他に、マーキング処理S8aにおいて作成されるカラーマップ画像データCM(カラーマップ画像CMPを表す画像データ)が記憶される記憶領域Pが設けられている(図3(b)参照)。
[カラーマップ画像データ生成:S81a]
マーキング処理S8aでは、先ず、メモリ229に格納された表示色テーブルが参照され、スコアSc(x,y)に基づいて、各画素に適用される色Col(x,y)が決定される。なお、病変画素以外の画素の色Col(x,y)は無色透明(null値)に設定される。そして、各画素(x,y)の色Col(x,y)から構成されるカラーマップ画像データCMが生成され、メモリ229の記憶領域Pに記憶される(S81a)。
[画像混合処理:S82a]
次に、カラーマップ画像CMPに透過性を与えて通常観察画像NP上に重ね合わせる画像混合処理S82aが行われる。画像混合処理S82aは、具体的には、通常観察画像データNとカラーマップ画像データCMとを加重平均する処理である。加重平均を行うことにより、カラーマップ画像CMPに透過性を与えて通常観察画像NPと重ね合わせることができる。なお、加重平均における通常観察画像データNの重みは、予め設定されたカラーマップ画像CMPの透過率により決定される。画像混合処理S82aによって生成されたマーキング画像データMは、画像メモリ227の記憶領域Pに記憶され、マーキング処理S8aが完了する。なお、加重平均は、病変画素(スコアSc(x,y)>0)に対してのみ行われ、健常部(スコアSc(x,y)=0)の画素(x,y)については、通常観察画像データNの画素値N(x,y)がそのままマーキング画像データMの画素値M(x,y)となる。
ここで、図25を参照して、画像混合処理S82aの効果を説明する。
図25(a)は、病変部の画像320を含む通常観察画像NPである。
図25(b)は、通常観察画像NP上にカラーマップ画像CMPをそのまま重ね合わせた画像(透過率0%)である。
図25(c)は、本実施形態の画像混合処理S82aによって生成されたマーキング画像MPである。
図25(b)と(c)との比較から明らかなように、画像混合処理S82aによって生成されたマーキング画像MPは、カラーマップにより、病変部と推定される部位や推定される重症度を視覚的に容易に把握することができる。また、カラーマップが透過性を有するため、病変部の形状やテクスチャも、マーキング画像MPからある程度把握することができ、診断をより容易に行うことが可能になる。
<第3実施形態>
次に、本発明の第3実施形態について説明する。本実施形態は、通常観察画像NPにコアSc(x,y)の等高線CLを重ねて表示することにより、病変部の位置や重症度の分布を視認性良く表示するものである。
図26は、第3実施形態における等高線CLの作成過程を説明する図である。本実施形態では、まず、図26(a)に示される病変部の画像320を含む通常観察画像NPから生成されたコアテーブルSTに基づいて、表示色テーブル(表3)を参照して、図26(b)に示されるカラーマップ画像CMPが生成される。このカラーマップ画像CMPに対して、例えばカラーマップ画像データCMに対するベクトル微分演算等の処理を行うことにより、等高線CLが生成される。このようにして生成された等高線CLを通常観察画像NP上に重ね合わせることにより、図26(c)に示される本実施形態のマーキング画像MPが生成される。
以上が本発明の例示的な実施形態の説明である。本発明の実施形態は、上記に説明したものに限定されず、本発明の技術的思想の範囲において様々な変形が可能である。例えば明細書中に例示的に明示される実施形態等又は自明な実施形態等を適宜組み合わせた内容も本発明の実施形態に含まれる。
上記の実施形態では、HSI空間において病変の判定等の画像解析が行われるが、HSI空間の代わりに色相(hue)、彩度(saturation)及び明度(value(又はbrightness))を基底とするHSV(HSB)空間において画像解析を行う構成としてもよい。また、さらに、CIE 1976 L*a*b*色空間や、YCbCr色空間等、輝度又は明度を表す1つの座標と、色の質(例えば、色相及び彩度、あるいは色度)を表わす2つの座標とを有する他の種類の色空間上で画像解析を行うこともできる。
また、上記の実施形態では、TE処理S3がRGB空間上で行われているが、色空間変換処理S5の後にHSI空間上でTE処理S3を行う構成としてもよい。
また、TE処理S3(色彩強調処理)の代わりに、コントラスト強調処理(例えば、ヒストグラムの分布幅を広げることによりコントラストを強調するヒストグラム均等化法)や、アンシャープマスクフィルタを使用した画像鮮鋭化処理など、他の種類の画像強調処理を用いてもよい。
また、上記の実施形態は炎症性腸疾患の内視鏡検査に本発明を適用した例であるが、当然ながら他の疾患の内視鏡検査にも本発明を適用することができる。
また、上記の実施形態は、観察画像に基づいて1種類の病変(炎症)の重症度のみを評価して、その重症度に応じた印を観察画像の該当箇所に付する例であるが、複数種類の病変(例えば、炎症性腸疾患に特徴的な病変である炎症と潰瘍)のそれぞれについて重症度を判定し、重症度に応じた印を観察画像の該当箇所に付する構成としてもよい。また、この場合には、病変の種類毎に表示態様(例えば、記号の種類や色)を変えてもよい。
また、上記の実施形態は、病変部にのみ印を付すものであるが、これとは逆に、健常部のみに印を付す構成としてもよい。また、病変部と健常部のそれぞれに異なる印を付す構成としてもよい。
また、上記の実施形態は、記号、等高線及び表示色のいずれか一つを用いて病変部の重症度を表示するものであるが、これら3種類の表示態様の2つ以上を組み合わせて病変部の重症度を表示してもよい。また、記号の種類、大きさ、色の二つ以上の組み合わせによって重症度を表示する構成としてもよい。また、等高線の種類(実線、破線、鎖線、波線等)、太さ、色のいずれか又はこれらの二つ以上の組み合わせによって重症度を表示する構成としてもよい。
また、上記の実施形態は、本発明をデジタルカメラの一形態である電子内視鏡装置に適用した例であるが、他の種類のデジタルカメラ(例えば、デジタルスチルカメラやデジタルビデオカメラ)を使用したシステムに本発明を適用することもできる。例えば、本発明をデジタルスチルカメラに適用すると、体表組織の病変部の診断支援や開頭手術時の脳組織の診断支援を行うことができる。
1 電子内視鏡装置
100 電子スコープ
132 移動量センサ
200 電子内視鏡用プロセッサ
202 システムコントローラ
220 画像処理回路
220a 基本処理部
220b 出力回路
221 TE処理部
222 有効画素判定部
223 色空間変換部
224 病変判定部
225 スコア計算部
226 マーキング処理部
227 画像メモリ
228 メモリ
229 表示画面生成部
900 モニタ

Claims (17)

  1. 生体組織のカラー画像を表すカラー画像データを取得するカラー画像取得手段と、
    前記カラー画像データに基づいて、前記カラー画像の各画素について病変部の画素か否かの判定をする病変判定手段と、
    前記判定の結果に基づいて、前記カラー画像上に前記病変部の位置を示す印を付すマーキング手段と、
    を備え、
    前記印は、背景の前記カラー画像が透ける印である、
    画像処理装置。
  2. 前記病変判定手段が、
    前記カラー画像の画素毎に前記生体組織の病変の重症度を示すスコアを要素に含むスコアテーブルを生成するスコアテーブル生成手段を有し、
    前記マーキング手段が、前記スコアテーブルに基づいて、前記カラー画像上に前記病変部の位置及び重症度を示す前記印を付す、
    請求項1に記載の画像処理装置。
  3. 前記マーキング手段が、
    前記カラー画像内に処理の対象領域であるマスクを設定し、
    前記マスク内の前記スコアの代表値を計算し、
    前記代表値に基づいて前記マスクに前記印を付す、
    請求項2に記載の画像処理装置。
  4. 前記マーキング手段が、
    所定の初期サイズのマスクを設定し、
    前記初期サイズのマスクについて前記代表値を計算し、
    前記代表値に応じて前記マスクの大きさを変更し、
    大きさを変更した前記マスクに内接するように前記印を付す、
    請求項3に記載の画像処理装置。
  5. 前記初期サイズが、前記マスクの最小サイズである、
    請求項4に記載の画像処理装置。
  6. 前記マーキング手段が、
    前記代表値に応じた数の前記印を前記マスク内に付す、
    請求項3に記載の画像処理装置。
  7. 前記マーキング手段が、
    前記カラー画像内で前記マスクを走査させながら前記カラー画像上に前記印を付す、
    請求項3から請求項6のいずれか一項に記載の画像処理装置。
  8. 前記マーキング手段が、
    設定済みの他の前記マスクと重ならないように前記マスクを設定する、
    請求項7に記載の画像処理装置。
  9. 前記代表値が、相加平均、加重平均、中央値、最頻値及び二乗平均平方根のいずれかである、
    請求項3から請求項8のいずれか一項に記載の画像処理装置。
  10. 前記スコアテーブル生成手段が、
    前記カラー画像データの色空間を、輝度又は明度を表す1つの座標と、色の質を表わす2つの座標と、を有する色空間に変換する色空間変換手段と、
    前記カラー画像データの各画素の色の質に基づいて、各画素のスコアを計算するスコア計算手段と、
    を備える、
    請求項2から請求項9のいずれか一項に記載の画像処理装置。
  11. 前記スコアテーブル生成手段が、
    病変部に特徴的な画素値の範囲の境界領域において色の質のコントラストを高める色彩強調処理を行う色彩強調手段を更に備え、
    前記スコア計算手段が、
    前記色彩強調処理後の画素値に基づいて各画素のスコアを計算する、
    請求項10に記載の画像処理装置。
  12. 前記スコア計算手段が、
    色相−彩度空間又は色度空間における基準点との距離に基づいて各画素のスコアを計算する、
    請求項10又は請求項11に記載の画像処理装置。
  13. 前記病変部が炎症部であり、
    前記基準点が血液の色である、
    請求項12に記載の画像処理装置。
  14. 前記印が記号である、
    請求項1から請求項13のいずれか一項に記載の画像処理装置。
  15. 前記印が透過率を有する色である、
    請求項1から請求項14のいずれか一項に記載の画像処理装置。
  16. 前記印が前記重症度の等高線である、
    請求項2に記載の画像処理装置。
  17. 前記カラー画像が電子内視鏡画像である、
    請求項1から請求項16のいずれか一項に記載の画像処理装置。
JP2015032714A 2015-02-23 2015-02-23 画像処理装置 Active JP6584090B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2015032714A JP6584090B2 (ja) 2015-02-23 2015-02-23 画像処理装置
CN201680000508.9A CN106068092B (zh) 2015-02-23 2016-02-08 图像处理装置
US15/106,978 US10231600B2 (en) 2015-02-23 2016-02-08 Image processing apparatus
EP16728210.2A EP3263006B1 (en) 2015-02-23 2016-02-08 Image processing device
PCT/JP2016/053623 WO2016136442A1 (ja) 2015-02-23 2016-02-08 画像処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015032714A JP6584090B2 (ja) 2015-02-23 2015-02-23 画像処理装置

Publications (3)

Publication Number Publication Date
JP2016154588A true JP2016154588A (ja) 2016-09-01
JP2016154588A5 JP2016154588A5 (ja) 2018-03-22
JP6584090B2 JP6584090B2 (ja) 2019-10-02

Family

ID=56789399

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015032714A Active JP6584090B2 (ja) 2015-02-23 2015-02-23 画像処理装置

Country Status (5)

Country Link
US (1) US10231600B2 (ja)
EP (1) EP3263006B1 (ja)
JP (1) JP6584090B2 (ja)
CN (1) CN106068092B (ja)
WO (1) WO2016136442A1 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018069992A1 (ja) * 2016-10-12 2018-04-19 オリンパス株式会社 挿入システム
KR101943011B1 (ko) 2018-01-22 2019-01-28 주식회사 뷰노 피검체의 의료 영상 판독을 지원하는 방법 및 이를 이용한 장치
JP2019042157A (ja) * 2017-09-01 2019-03-22 富士フイルム株式会社 医療画像処理装置、内視鏡装置、診断支援装置、及び、医療業務支援装置
JPWO2020235502A1 (ja) * 2019-05-23 2020-11-26
US11115601B2 (en) 2018-06-13 2021-09-07 Canon Kabushiki Kaisha Image processing apparatus, imaging apparatus, and image processing method
JP7485193B2 (ja) 2021-02-26 2024-05-16 日本電気株式会社 画像処理装置、画像処理方法及びプログラム

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10806334B2 (en) * 2017-02-28 2020-10-20 Verily Life Sciences Llc System and method for multiclass classification of images using a programmable light source
WO2019142689A1 (ja) * 2018-01-19 2019-07-25 Hoya株式会社 電子内視鏡用プロセッサ及び電子内視鏡システム
WO2019146079A1 (ja) * 2018-01-26 2019-08-01 オリンパス株式会社 内視鏡画像処理装置、内視鏡画像処理方法及びプログラム
WO2019175032A1 (en) * 2018-03-14 2019-09-19 Koninklijke Philips N.V. Scoring intravascular lesions and stent deployment in medical intraluminal ultrasound imaging
CN109222859A (zh) * 2018-08-03 2019-01-18 广州高通影像技术有限公司 一种带有ai辅助诊断功能的智能内窥镜影像系统
CN109330566A (zh) * 2018-11-21 2019-02-15 佛山市第人民医院(中山大学附属佛山医院) 一种伤口监测方法及装置
CN111091536B (zh) * 2019-11-25 2023-04-07 腾讯科技(深圳)有限公司 医学图像处理方法、装置、设备、介质以及内窥镜
CN111358573B (zh) * 2020-02-26 2023-06-20 西安交通大学医学院第二附属医院 高光谱成像的术区快速检测、标记的设备及检测方法
CN113128402A (zh) * 2021-04-19 2021-07-16 国网江苏电动汽车服务有限公司 一种识别充换电设备安全状态的系统和方法
CN117257204B (zh) * 2023-09-19 2024-05-07 深圳海业医疗科技有限公司 一种内窥镜控制组件控制方法及系统

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003033327A (ja) * 2001-07-24 2003-02-04 Fujitsu Ltd 画像情報による診断支援装置
JP2003260027A (ja) * 2003-02-06 2003-09-16 Olympus Optical Co Ltd 内視鏡用画像処理装置
JP2006025802A (ja) * 2003-06-17 2006-02-02 Olympus Corp 内視鏡装置
JP2011177419A (ja) * 2010-03-03 2011-09-15 Olympus Corp 蛍光観察装置
JP2014018332A (ja) * 2012-07-17 2014-02-03 Hoya Corp 画像処理装置及び内視鏡装置
WO2014084134A1 (ja) * 2012-11-30 2014-06-05 オリンパス株式会社 観察装置

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6947784B2 (en) 2000-04-07 2005-09-20 The General Hospital Corporation System for digital bowel subtraction and polyp detection and related techniques
US20050027166A1 (en) * 2003-06-17 2005-02-03 Shinya Matsumoto Endoscope system for fluorescent observation
JP6027803B2 (ja) * 2012-07-17 2016-11-16 Hoya株式会社 画像処理装置及び内視鏡装置
JP5567168B2 (ja) 2013-03-06 2014-08-06 富士フイルム株式会社 画像処理装置および内視鏡システム
JP6097629B2 (ja) * 2013-04-26 2017-03-15 Hoya株式会社 病変評価情報生成装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003033327A (ja) * 2001-07-24 2003-02-04 Fujitsu Ltd 画像情報による診断支援装置
JP2003260027A (ja) * 2003-02-06 2003-09-16 Olympus Optical Co Ltd 内視鏡用画像処理装置
JP2006025802A (ja) * 2003-06-17 2006-02-02 Olympus Corp 内視鏡装置
JP2011177419A (ja) * 2010-03-03 2011-09-15 Olympus Corp 蛍光観察装置
JP2014018332A (ja) * 2012-07-17 2014-02-03 Hoya Corp 画像処理装置及び内視鏡装置
WO2014084134A1 (ja) * 2012-11-30 2014-06-05 オリンパス株式会社 観察装置

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018069992A1 (ja) * 2016-10-12 2018-04-19 オリンパス株式会社 挿入システム
JPWO2018069992A1 (ja) * 2016-10-12 2019-07-18 オリンパス株式会社 挿入システム
US11602263B2 (en) 2016-10-12 2023-03-14 Olympus Corporation Insertion system, method and computer-readable storage medium for displaying attention state information over plurality of times
JP2019042157A (ja) * 2017-09-01 2019-03-22 富士フイルム株式会社 医療画像処理装置、内視鏡装置、診断支援装置、及び、医療業務支援装置
US11010891B2 (en) 2017-09-01 2021-05-18 Fujifilm Corporation Medical image processing apparatus, endoscope apparatus, diagnostic support apparatus, and medical service support apparatus
KR101943011B1 (ko) 2018-01-22 2019-01-28 주식회사 뷰노 피검체의 의료 영상 판독을 지원하는 방법 및 이를 이용한 장치
US11115601B2 (en) 2018-06-13 2021-09-07 Canon Kabushiki Kaisha Image processing apparatus, imaging apparatus, and image processing method
JPWO2020235502A1 (ja) * 2019-05-23 2020-11-26
WO2020235502A1 (ja) * 2019-05-23 2020-11-26 富士フイルム株式会社 画像処理装置
JP7284814B2 (ja) 2019-05-23 2023-05-31 富士フイルム株式会社 画像処理装置
US12020350B2 (en) 2019-05-23 2024-06-25 Fujifilm Corporation Image processing apparatus
JP7485193B2 (ja) 2021-02-26 2024-05-16 日本電気株式会社 画像処理装置、画像処理方法及びプログラム

Also Published As

Publication number Publication date
EP3263006B1 (en) 2024-01-31
WO2016136442A1 (ja) 2016-09-01
EP3263006A4 (en) 2018-11-14
EP3263006A1 (en) 2018-01-03
US10231600B2 (en) 2019-03-19
US20170112353A1 (en) 2017-04-27
CN106068092A (zh) 2016-11-02
JP6584090B2 (ja) 2019-10-02
CN106068092B (zh) 2018-05-25

Similar Documents

Publication Publication Date Title
JP6584090B2 (ja) 画像処理装置
JP6346576B2 (ja) 画像処理装置
CN106102556B (zh) 图像处理装置
US20220296123A1 (en) Electronic endoscope processor and electronic endoscopic system
US8027533B2 (en) Method of automated image color calibration
JP7068487B2 (ja) 電子内視鏡システム
JP6907398B2 (ja) 内視鏡システム
CN112469323B (zh) 内窥镜系统
JP6531202B2 (ja) 画像処理装置
CN112351723A (zh) 电子内窥镜系统与数据处理装置
CN112469324B (zh) 内窥镜系统
JP7455716B2 (ja) 内視鏡用プロセッサ及び内視鏡システム
JP7455717B2 (ja) 内視鏡用プロセッサ及び内視鏡システム

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20170717

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180208

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180208

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190207

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190329

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190808

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190903

R150 Certificate of patent or registration of utility model

Ref document number: 6584090

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250