JP6707533B2 - 画像処理装置、画像処理方法、及び画像処理プログラム - Google Patents

画像処理装置、画像処理方法、及び画像処理プログラム Download PDF

Info

Publication number
JP6707533B2
JP6707533B2 JP2017518774A JP2017518774A JP6707533B2 JP 6707533 B2 JP6707533 B2 JP 6707533B2 JP 2017518774 A JP2017518774 A JP 2017518774A JP 2017518774 A JP2017518774 A JP 2017518774A JP 6707533 B2 JP6707533 B2 JP 6707533B2
Authority
JP
Japan
Prior art keywords
image
unit
frequency component
images
intensity
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017518774A
Other languages
English (en)
Other versions
JPWO2016185733A1 (ja
Inventor
昌士 弘田
昌士 弘田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Publication of JPWO2016185733A1 publication Critical patent/JPWO2016185733A1/ja
Application granted granted Critical
Publication of JP6707533B2 publication Critical patent/JP6707533B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/044Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for absorption imaging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/03Circuitry for demodulating colour component signals modulated spatially by colour striped filters by frequency separation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/74Circuits for processing colour signals for obtaining special effects
    • H04N9/76Circuits for processing colour signals for obtaining special effects for mixing of colour signals
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0638Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20224Image subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30101Blood vessel; Artery; Vein; Vascular
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Surgery (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Theoretical Computer Science (AREA)
  • Biomedical Technology (AREA)
  • General Physics & Mathematics (AREA)
  • Veterinary Medicine (AREA)
  • Public Health (AREA)
  • Biophysics (AREA)
  • Optics & Photonics (AREA)
  • Pathology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Molecular Biology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Quality & Reliability (AREA)
  • Multimedia (AREA)
  • Endoscopes (AREA)
  • Image Processing (AREA)

Description

本発明は、生体内を観察する内視鏡により取得された画像に対する画像処理を行う画像処理装置、画像処理方法、及び画像処理プログラムに関する。
内視鏡により生体内を照射する照明光としては、白色光や狭帯域光が用いられる。狭帯域光は波長帯域によって吸収散乱特性が異なるため、使用する狭帯域光を適宜選択することにより、波長帯域に応じた被写体の特徴を抽出することができる。例えば、青色の狭帯域光はヘモグロビンに吸収され易いため、青色の狭帯域光を使用して撮像された狭帯域画像には、粘膜下表層の微細血管等が鮮明に表れる。このような狭帯域光の吸収散乱特性に応じて被写体で生じる吸光変化は、白色光により撮像された白色画像には表れ難い。そのため、狭帯域画像及び白色画像の両者の特徴を併せ持つ画像を生成することで、より詳細な内視鏡観察が可能になる。
例えば特許文献1には、白色光により撮像された画像に対し、狭帯域光により撮像された画像に周波数フィルタリング処理を施した画像を合成することによって、両画像の特徴を併せ持つ画像を作成している。
特開2012−125461号公報
上述した狭帯域画像には、微細な血管の他にも、血管増生によって生じる領域的な吸光変化等、様々な形状や大きさの吸光変化が現れる。そのため、これらの吸光変化を上記特許文献1に開示された手法により網羅的に抽出することは困難である。これらの吸光変化を網羅的に抽出するためには、例えば狭帯域画像に周波数フィルタリングを施す際の周波数帯域を広くすることも考えられる。しかし、この場合には、吸光変化以外に、粘膜形状等の構造も抽出され易くなる。そのため、狭帯域画像から抽出した吸光変化を他の画像に合成した際に、画像の視認性が低下するといった影響を与えてしまう。
本発明は、上記に鑑みて為されたものであって、狭帯域光の吸収散乱特性に応じて狭帯域画像に現れる吸光変化を網羅的に抽出すると共に、抽出した吸光変化を他の画像に合成した際に視認性に影響を与えることのない表示画像を作成することができる画像処理装置、画像処理方法、及び画像処理プログラムを提供することを目的とする。
上述した課題を解決し、目的を達成するために、本発明に係る画像処理装置は、少なくとも1つの狭帯域画像を含み、波長成分の分布が互いに異なる複数の画像を取得する画像取得部と、前記複数の画像のうちの狭帯域画像である第1の画像における特定の周波数成分、及び、前記複数の画像のうちの前記第1の画像と異なる第2の画像と前記第1の画像との間の相関に基づいて、前記第1の画像の撮像に用いられた狭帯域光を吸光体が吸収することによって生じた吸光変化を表す画像情報である吸光情報を前記第1の画像から抽出する吸光情報抽出部と、前記複数の画像のうちの少なくともいずれかの画像に前記吸光情報を合成することにより表示画像を作成する表示画像作成部と、を備えることを特徴とする。
本発明に係る画像処理方法は、少なくとも1つの狭帯域画像を含み、波長成分の分布が互いに異なる複数の画像を取得する画像取得ステップと、前記複数の画像のうちの狭帯域画像である第1の画像における特定の周波数成分、及び、前記複数の画像のうちの前記第1の画像と異なる第2の画像と前記第1の画像との間の相関に基づいて、前記第1の画像の撮像に用いられた狭帯域光を吸光体が吸収することによって生じた吸光変化を表す画像情報である吸光情報を前記第1の画像から抽出する吸光情報抽出ステップと、前記複数の画像のうちの少なくともいずれかの画像に前記吸光情報を合成することにより表示画像を作成する表示画像作成ステップと、を含むことを特徴とする。
本発明に係る画像処理プログラムは、少なくとも1つの狭帯域画像を含み、波長成分の分布が互いに異なる複数の画像を取得する画像取得ステップと、前記複数の画像のうちの狭帯域画像である第1の画像における特定の周波数成分、及び、前記複数の画像のうちの前記第1の画像と異なる第2の画像と前記第1の画像との間の相関に基づいて、前記第1の画像の撮像に用いられた狭帯域光を吸光体が吸収することによって生じた吸光変化を表す画像情報である吸光情報を前記第1の画像から抽出する吸光情報抽出ステップと、前記複数の画像のうちの少なくともいずれかの画像に前記吸光情報を合成することにより表示画像を作成する表示画像作成ステップと、をコンピュータに実行させることを特徴とする。
本発明によれば、狭帯域画像である第1の画像における特定の周波数成分及び第1の画像と第2の画像との相関を用いることにより、様々な形状や大きさの吸光変化を網羅的に抽出することができると共に、粘膜形状等の構造の抽出を抑制することができるので、狭帯域画像から抽出した吸光変化を他の画像に合成した際に視認性に影響を与えることのない表示画像を作成することが可能となる。
図1は、本発明の実施の形態1に係る画像処理装置の構成を示すブロック図である。 図2は、図1に示す画像処理装置の動作を示すフローチャートである。 図3は、λ415画像を示す模式図である。 図4は、本発明の実施の形態1における吸光情報の抽出処理を示すフローチャートである。 図5Aは、高周波成分画像を示す模式図である。 図5Bは、相対強度画像を示す模式図である。 図6は、抑制関数の例を示すグラフである。 図7は、本発明の実施の形態1の変形例1に係る画像処理装置が備える合成部の構成を示す模式図である。 図8は、本発明の実施の形態1の変形例1における吸光情報の抽出処理を示すフローチャートである。 図9は、本発明の実施の形態2に係る画像処理装置が備える演算部の構成を示すブロック図である。 図10は、本発明の実施の形態2における吸光情報の抽出処理を示すフローチャートである。 図11は、本発明の実施の形態3に係る画像処理装置が備える演算部の構成を示すブロック図である。 図12は、本発明の実施の形態3に係る画像処理装置の動作を示すフローチャートである。 図13は、図12の吸光情報を抽出する抽出処理を示すフローチャートである。 図14は、本発明の実施の形態3の変形例1に係る演算部の周波数成分抽出部の構成を示すブロック図である。 図15は、本発明の実施の形態3の変形例1に係る吸光情報を抽出する抽出処理を示すフローチャートである。 図16は、本発明の実施の形態3の変形例2に係る演算部の周波数成分抽出部の構成を示すブロック図である。 図17は、本発明の実施の形態3の変形例2に係る吸光情報を抽出する抽出処理を示すフローチャートである。 図18は、本発明の実施の形態4に係る画像処理装置が備える演算部の構成を示すブロック図である。 図19は、本発明の実施の形態4に係る画像処理装置の動作を示すフローチャートである。 図20は、図19の吸光情報を抽出する抽出処理を示すフローチャートである。 図21は、本発明の実施の形態4の変形例1に係る吸光情報を抽出する抽出処理を示すフローチャートである。
以下、本発明の実施の形態に係る画像処理装置、画像処理方法、及び画像処理プログラムについて、図面を参照しながら説明する。なお、これら実施の形態によって本発明が限定されるものではない。また、各図面の記載において、同一部分には同一の符号を付して示している。
(実施の形態1)
図1は、本発明の実施の形態1に係る画像処理装置の構成を示すブロック図である。本実施の形態1に係る画像処理装置1は、内視鏡により取得された複数の画像をもとに、白色画像には現れ難い吸光変化を抽出し、抽出した吸光変化を1つ又は複数の画像と合成して表示用の画像を作成する装置である。
以下の説明においては、ビデオスコープと呼ばれる一般的な内視鏡又はカプセル型内視鏡によって生体の管腔内を撮像することにより取得された狭帯域画像及び白色画像を含む内視鏡画像を処理対象とする。
図1に示すように、画像処理装置1は、該画像処理装置1全体の動作を制御する制御部10と、内視鏡画像の画像データを取得する画像取得部20と、外部からの操作により入力信号を発生させる入力部30と、各種表示を行う表示部40と、画像取得部20によって取得された画像データや種々のプログラムを格納する記憶部50と、画像データに対して所定の画像処理を実行する演算部100とを備える。
制御部10は、CPU(Central Processing Unit)等の汎用プロセッサやASIC(Application Specific Integrated Circuit)等の特定の機能を実行する各種演算回路等の専用プロセッサを用いて構成される。制御部10が汎用プロセッサである場合、記憶部50が記憶する各種プログラムを読み込むことによって画像処理装置1を構成する各部への指示やデータの転送等を行い、画像処理装置1全体の動作を統括して制御する。また、制御部10が専用プロセッサである場合、プロセッサが単独で種々の処理を実行しても良いし、記憶部50が記憶する各種データ等を用いることで、プロセッサと記憶部50が協働又は結合して種々の処理を実行してもよい。
画像取得部20は、内視鏡を含むシステムの態様に応じて適宜構成される。例えば、ビデオスコープを体内に挿入する一般的な内視鏡システムに画像処理装置1に接続する場合、画像取得部20は、内視鏡システムにおいて生成された画像データを取り込むインタフェースによって構成される。また、内視鏡システムにおいて生成された画像データを保存するサーバを設置する場合、画像取得部20は、サーバと接続される通信装置等で構成され、サーバとの間でデータ通信を行って画像データを取得する。或いは、生体内を移動しながら撮像を行うカプセル型内視鏡を用いる場合には、カプセル型内視鏡との間で可搬型の記憶媒体を用いて画像データを受け渡ししても良く、この場合、画像取得部20は、可搬型の記憶媒体を着脱自在に装着し、記憶された画像の画像データを読み出すリーダ装置によって構成される。
入力部30は、例えばキーボードやマウス、タッチパネル、各種スイッチ等の入力デバイスによって構成され、これらの入力デバイスに対する外部からの操作に応じて発生させた入力信号を制御部10に出力する。
表示部40は、LCDやELディスプレイ等の表示装置によって構成され、制御部10の制御の下で、内視鏡画像を含む各種画面を表示する。
記憶部50は、更新記録可能なフラッシュメモリ等のROMやRAMといった各種ICメモリ、内蔵若しくはデータ通信端子で接続されたハードディスク若しくはCD−ROM等の情報記憶装置及び該情報記憶装置に対する情報の書込読取装置等によって構成される。記憶部50は、画像取得部20によって取得された内視鏡画像の画像データの他、画像処理装置1を動作させると共に、種々の機能を画像処理装置1に実行させるためのプログラムや、このプログラムの実行中に使用されるデータ等を格納する。具体的には、記憶部50は、内視鏡によって取得された少なくとも1つの狭帯域画像を含み、波長成分の分布が互いに異なる複数の画像に基づき、該1つの狭帯域画像から抽出した吸光変化を他の画像と合成した表示画像を作成する画像処理を当該画像処理装置1に実行させる画像処理プログラムを記憶するプログラム記憶部51を有する。
演算部100は、CPU等の汎用プロセッサやASIC等の特定の機能を実行する各種演算回路等の専用プロセッサを用いて構成される。演算部100が汎用プロセッサである場合、プログラム記憶部51が記憶する画像処理プログラムを読み込むことにより、内視鏡によって取得された少なくとも1つの狭帯域画像を含み、波長成分の分布が互いに異なる複数の画像に基づき、該1つの狭帯域画像から抽出した吸光変化を他の画像と合成した表示画像を作成する画像処理を実行する。また、演算部100が専用プロセッサである場合、プロセッサが単独で種々の処理を実行してもよいし、記憶部50が記憶する各種データ等を用いることで、プロセッサと記憶部50が協働又は結合して画像処理を実行してもよい。
次に、演算部100の構成について説明する。図1に示すように、演算部100は、画像取得部20が取得した複数の画像から吸光情報を抽出する吸光情報抽出部110と、抽出した吸光情報を画像と合成した表示用の画像を作成する表示画像作成部120とを備える。以下においては、一例として、中心波長が互いに異なる複数の狭帯域画像を取得した場合の処理を説明する。
ここで、吸光情報とは、狭帯域画像の撮像に用いられた狭帯域光が被写体内の吸光体に吸収されることによって当該狭帯域画像に現れる吸光変化を表す画像情報のことである。狭帯域画像に現れる吸光変化は、狭帯域光の吸収散乱特性に応じて異なる。例えば、中心波長が415nm近傍の狭帯域光はヘモグロビンに吸収され易いため、ヘモグロビンを含む血液が流れる血管や血管増生領域において狭帯域光の吸収量が増加することにより、狭帯域画像に吸光変化が現れる。この吸光が変化した領域の画素位置と、該画素位置における狭帯域光の吸光変化量を表す値とが、吸光情報に含まれる。吸光が変化した領域においては、狭帯域光が吸収されて輝度が低下するので、吸光変化量を表す値は負の値となる。吸光変化量を表す値は、吸光体による狭帯域光の吸収量が多いほど値が小さくなる。即ち、絶対値が大きくなる。
吸光情報抽出部110は、狭帯域光の吸収散乱特性に基づいて狭帯域画像に現れる吸光情報を抽出する。具体的には、中心波長が415nm近傍の狭帯域光は、ヘモグロビンに吸収され易く、且つ管腔内の粘膜に散乱され易いという特性がある。反対に、中心波長が630nm近傍の狭帯域光は、ヘモグロビンに吸収され難く、粘膜にも散乱され難いため、管腔内の奥まで到達し易いという特性がある。吸光情報抽出部110は、このような狭帯域光の特性の違いに基づき、粘膜下表層の微細血管や、血管増生によって生じる領域的な吸光変化等の画像情報を、吸光情報として狭帯域画像から抽出する。以下、吸光情報を取得する狭帯域画像のことを、特定狭帯域画像という。
吸光情報抽出部110は、周波数成分抽出部111と、相対強度算出部112と、合成部113とを備える。周波数成分抽出部111は、特定狭帯域画像(第1の画像)にハイパスフィルタを適用することにより、特定の周波数成分として高周波数成分を抽出した高周波数成分画像を作成する。
相対強度算出部112は、複数の狭帯域画像間における相対強度を算出する。詳細には、複数の狭帯域画像のうち特定狭帯域画像以外の狭帯域画像の中で、特定狭帯域画像に表れる吸光体に対して吸収が最も少ない狭帯域光、具体的には中心波長630nm近傍の狭帯域光によって撮像された狭帯域画像(第2の画像)と、特定狭帯域画像との間の相対強度を算出する。以下、上記吸光体に対する吸収が最も少ない狭帯域光によって撮像された狭帯域画像を、低吸光画像という。相対強度算出部112は、低吸光画像の強度を特定狭帯域画像の強度に合わせて補正する強度補正部112aと、特定狭帯域画像の強度から補正済みの低吸光画像の強度を減算することにより、両画像間の相対強度を求める減算部112bとを備える。
合成部113は、周波数成分抽出部111が抽出した高周波数成分の強度と、相対強度算出部112が算出した相対強度とに基づき、特定狭帯域画像に現れる吸光情報を網羅的に取得する。詳細には、合成部113は、同一の画素位置における高周波数成分の強度と相対強度とを加算する加算部113aと、この加算結果に応じて出力値を抑制する抑制部113bとを備える。
表示画像作成部120は、複数の狭帯域画像から白色画像を作成する白色画像作成部121と、吸光情報抽出部110が抽出した吸光情報を白色画像に合成する画像合成部122とを備える。
次に、画像処理装置1の動作について説明する。図2は、画像処理装置1の動作を示すフローチャートである。まず、ステップS10において、画像取得部20は、中心波長が互いに異なる少なくとも2つの狭帯域画像を含む複数の画像を取得する。この複数の画像には、RGBそれぞれの波長帯域に相当する画像を含めるものとする。具体的には、吸光情報を抽出する中心波長415nmの狭帯域画像と、RGBの波長帯域に相当する中心波長460nm、540nm、及び630nmの3つの狭帯域画像と、を取得する。或いは、吸光情報を抽出する中心波長415nmの狭帯域画像と、中心波長415nmの狭帯域光を吸収する吸光体に対して吸収が少ない波長帯域である中心波長630nmの狭帯域画像と、RGBの波長帯域を含む白色画像とを取得しても良い。本実施の形態1においては、前者である4つの狭帯域画像を取得することとする。
狭帯域画像を取得する方法は特に限定されない。内視鏡による狭帯域画像の取得方法の一例として、複数の狭帯域の波長ピークを有する光を発光するLEDを用いる方法が挙げられる。例えば、RGBの波長帯域に相当する波長460nm、540nm、630nmを中心とするピークを有する光を発光するLEDと、波長415nmを中心とするピークを有する光を発光するLEDとを内視鏡に設け、これらのLEDを交互に発光させて生体内を照射し、生体内からの反射光をカラーの撮像素子により、R(赤色)成分、G(緑色)成分、B(青色)成分別に取得する。それにより、415nm、460nm、540nm、630nmをそれぞれ中心波長とする4種類の狭帯域画像を得ることができる。
或いは、狭帯域画像の取得方法の別の例として、キセノンランプ等の白色光源の前方に狭帯域フィルタを配置し、該狭帯域フィルタにより狭帯域化された光で生体内を順次照射する方法や、中心波長が互いに異なる狭帯域光をそれぞれ発光する複数のレーザーダイオードを順次駆動する方法も挙げられる。さらには、生体内を白色光により照射し、生体からの反射光を、狭帯域フィルタを介して撮像素子に入射させることにより、狭帯域画像を取得しても良い。
以下においては、中心波長が415nm、460nm、540nm、630nmの狭帯域画像をそれぞれ、λ415画像、λ460画像、λ540画像、λ630画像と記す。なお、これらの狭帯域画像を取得する際の狭帯域光の実際の中心波長は、上述した415nm、460nm、540nm、630nmの各値の近傍の値であっても良い。
続くステップS11において、吸光情報抽出部110は、λ415画像から吸光情報を抽出する。図3は、λ415画像を示す模式図である。図3に示すλ415画像M1においては、粘膜下表層から中層に存在する微細血管m11や少し太い血管m12による吸光変化や、血管増生による吸光変化が領域的に表れる吸光変化領域m13等が観察される。本実施の形態1においては、これらの吸光変化を表す画像情報を吸光情報として抽出する。
図4は、ステップS11における吸光情報の抽出処理を示すフローチャートである。また、図5A及び図5Bは、吸光情報の抽出処理を説明するための模式図である。
ステップS111において、周波数成分抽出部111は、λ415画像にハイパスフィルタを適用することにより、高周波数成分を抽出する。抽出された高周波数成分のうち、強度が負の値となる画素位置が、狭帯域光の吸光変化が生じた領域であり、この高周波数成分の強度が吸光変化量を表す。
図5Aに示す画像M2は、ハイパスフィルタ処理により抽出された高周波数成分をもとに作成した高周波成分画像である。図5Aに示すように、ハイパスフィルタを適用する場合、微細血管m11や少し太い血管m12のように比較的細かい吸光変化はλ415画像から抽出され易いが、吸光変化領域m13(図3参照)のような領域的な、即ち、あまり細かくない吸光変化は抽出され難い。
そこで、次のステップS112以降において、中心波長630nmの狭帯域光はヘモグロビンに吸収され難いという特性を利用して、λ630画像に対するλ415画像の相対的な強度変化を吸光変化として抽出する。
ステップS112において、相対強度算出部112は、λ415画像及びλ630画像の平均強度を算出する。つまり、λ415画像内の画素の画素値の平均値Avg415と、λ630画像内の画素の画素値の平均値Avg630とを算出する。ここで、画素値を取得する画素は、各画像内の全画素であっても良いし、所定の関心領域内の画素であっても良い。
続くステップS113において、強度補正部112aは、平均値の比Avg415/Avg630をλ630画像内の各画素の画素値に積算することにより、λ630画像の強度レベルをλ415画像の強度レベルに合わせる補正を行う。
続くステップS114において、減算部112bは、λ415画像から補正後のλ630画像を減算することにより、相対強度を求める。詳細には、λ415画像内の画素の画素値から、同一の画素位置における補正後のλ630画像内の画素の画素値を減算する。それによって得られた相対強度のうち、強度が負の値となる画素位置が、狭帯域光の吸光変化が生じた領域であり、この相対強度が吸光変化量を表す。
図5Bに示す画像M3は、λ415画像から補正後のλ630画像を減算することにより得られた相対強度をもとに作成された相対強度画像である。図5Bに示すように、相対強度画像においては、少し太い血管m12や吸光変化領域m13のようにあまり細かくない吸光変化は抽出され易い一方、微細血管m11(図5A参照)のような細かな吸光変化は抽出され難くなる。これは、補正後のλ630画像をλ415画像から減算することにより、強度レベルが近い粘膜等の構造が相殺される一方、λ630画像における強度のばらつきにより、補正後のλ630画像において強度が部分的にλ415画像の強度よりも小さくなってしまうことがあり、そのような部分においてはλ415画像における細かな吸光変化が相殺され易いからである。
そこで、続くステップS115において、合成部113は、λ415画像から抽出した高周波数成分の強度と、λ415画像とλ630画像との相対強度とを加算し、さらに抑制処理を行う。つまり、図5Aに示す高周波数成分画像と図5Bに示す相対強度画像との間で同じ画素位置の高周波数成分の強度と相対強度とを加算することにより、λ415画像内の吸光情報を網羅的に抽出する。
この際、少し太い血管m12のように、高周波数成分としても抽出され、相対強度としても抽出された吸光変化は、高周波数成分の強度と相対強度とを加算することにより2重抽出されることになる。上述したように、吸光変化量を表す値は負の値となるので、吸光変化の2重抽出を防ぐため、加算結果における負の値が大きくなりすぎないように抑制処理を行う。
具体的には、同じ画素位置における高周波数成分の強度と相対強度との加算値Iaddに対し、図6に示すように、絶対値|Iadd|が大きいほど負の出力値Ioutを抑制する抑制関数Iout=f(|Iadd|)を適用する。この抑制処理後の加算値が、λ415画像から抽出された吸光情報として出力される。その後、処理はメインルーチンに戻る。
ステップS11に続くステップS12において、表示画像作成部120は、白色画像に吸光情報を合成した表示画像を作成する。詳細には、まず、白色画像作成部121が、ステップS10において取得したRGBそれぞれの波長帯域に相当するλ460画像、λ540画像、及びλ630画像を用いて白色画像を作成する。即ち、λ460画像をB成分、λ540画像をG成分、λ630画像をR成分とすることにより、白色画像内の各画素の画素値を決定する。そして、この白色画像に、ステップS11において取得した吸光情報をB成分として合成する。なお、吸光情報の合成方法はこれに限定されず、例えば、吸光情報をG成分として合成しても良い。また、ステップS10において白色画像そのものを取得した場合には、この白色画像に吸光情報を直接合成すれば良い。
以上説明したように、本発明の実施の形態1によれば、λ415画像から抽出した高周波数成分と、λ630画像に対するλ415画像の相対強度とを組み合わせることにより、吸光変化を表す吸光情報をλ415画像から網羅的に抽出し、抽出漏れを抑制することが可能になる。従って、このような吸光情報を白色画像と合成して表示することで、ユーザにとって多くの有用な情報を提示することが可能となる。
なお、上記実施の形態1のステップS115(図4参照)においては、吸光変化量を表す値が負の値であることを前提として抑制処理を行っている。しかしながら、高周波数成分の強度や相対強度の正負を反転したり、規格化するなどして、吸光変化量を表す値を正の値として処理を行っても良い。この場合には、上記ステップS115において、加算結果における絶対値が大きいほど正の出力値を抑制する関数を用いれば良い。抑制関数としては、例えば、図6に示すグラフIout=f(|Iadd|)を|Iadd|軸に対して反転させた形状となる。
(実施の形態1の変形例1)
次に、本発明の実施の形態1の変形例1について説明する。図7は、本変形例1に係る画像処理装置が備える合成部の構成を示す模式図である。本変形例1に係る画像処理装置は、図1に示す合成部113の代わりに、図7に示す合成部123を備える。
合成部123は、高周波数成分の強度と相対強度とを加算する加算部123aと、高周波数成分の強度と相対強度とのうちのいずれかの値を選択する選択部123bとを備える。なお、合成部123以外の演算部の各部の構成及び動作、並びに演算部以外の画像処理装置の各部の構成及び動作は、実施の形態1と同様である。
図8は、本変形例1における吸光情報の抽出処理を示すフローチャートである。なお、図8に示すステップS111〜S114は、実施の形態1と同様である(図4参照)。
ステップS114に続くステップS131において、合成部123は、ステップS111において抽出された高周波数成分の強度と、ステップS114において算出された相対強度との間で、同一の画素位置における高周波数成分の強度及び相対強度が共に負であるか否かを判定する。上述したように、吸光変化量を表す値は負の値となるため、同一の画素位置における高周波数成分の強度と相対強度とが共に負である場合、その画素位置における吸光変化が高周波数成分として抽出され、さらに相対強度としても抽出されたことを意味する。
高周波数成分の強度及び相対強度が共に負であった場合(ステップS131:Yes)、選択部123bは、2重に吸光変化を抽出しないよう、高周波数成分の強度と相対強度とのうち小さい方の値、即ち絶対値が大きい方の値を選択する(ステップS132)。この選択された値が、吸光情報として出力される。
一方、高周波数成分の強度及び相対強度の少なくとも一方が正であった場合(ステップS131:No)、加算部123aは、高周波数成分の強度と相対強度とを加算する(ステップS133)。この加算された値が、吸光情報として出力される。その後、処理はメインルーチンに戻る。
以上説明したように、本変形例1によれば、吸光変化の2重抽出をより精度良く抑制することができる。
なお、上記変形例1においては、吸光変化量を表す値が負の値であることを前提として、吸光変化の2重抽出の抑制処理を行っている。しかしながら、高周波数成分の強度や相対強度の正負を反転したり、規格化するなどして、吸光変化量を表す値を正の値として処理を行っても良い。
この場合には、図8のステップS131において、高周波数成分の強度及び相対強度が共に正であるか否かを判定し、共に正であるときには高周波数成分の強度と相対強度とのうち大きい方の値を選択し(ステップS132参照)、少なくとも一方が負であるときには高周波数成分の強度と相対強度とを加算する(ステップS133参照)ことにより、吸光情報を抽出する。要は、高周波数成分の強度及び相対強度の正負の符号が共に吸光変化量を表す値の符号と同一である場合には絶対値が大きい方の値を選択し、それ以外の場合には高周波数成分の強度と相対強度との加算値を算出すれば良い。
(実施の形態1の変形例2)
次に、本発明の実施の形態1の変形例2について説明する。上記実施の形態1においては、λ415画像から抽出した高周波数成分の強度と、λ415画像とλ630画像との相対強度とを合成する際に単純に加算したが、高周波数成分の強度と相対強度とにそれぞれ適宜重みをつけた上で加算しても良い。この際、微細な吸光変化は視認性が低いので、高周波数成分の強度に対する重みを、相対強度に対する重みよりも大きく設定すると良い。
(実施の形態1の変形例3)
次に、本発明の実施の形態1の変形例3について説明する。上記実施の形態1においては、狭帯域画像を複数取得した場合の処理を説明したが、狭帯域画像は少なくとも1つあれば良い。例えば、中心波長が415nmの狭帯域画像と広帯域の白色画像とを取得し、白色画像を構成する各画素の画素値のR成分を、上記実施の形態1における中心波長が630nmの狭帯域画像の画素値の代わりに用いても良い。
(実施の形態2)
次に、本発明の実施の形態2について説明する。図9は、本実施の形態2に係る画像処理装置が備える演算部の構成を示すブロック図である。なお、演算部以外の画像処理装置の各部の構成及び動作は、実施の形態1と同様である。
図9に示すように、本実施の形態2に係る画像処理装置が備える演算部200は、吸光情報抽出部210及び表示画像作成部120を備える。このうち、表示画像作成部120の構成及び動作は、実施の形態1と同様である。
吸光情報抽出部210は、各狭帯域画像における特定の周波数成分を抽出する周波数成分抽出部211と、複数の狭帯域画像間における上記特定の周波数成分の相対的な強度を算出する相対周波数成分算出部212とを備える。
次に、本実施の形態2に係る画像処理装置の動作を説明する。本実施の形態2に係る画像処理装置の動作は、全体として図2と同様であり、このうち、ステップS11における吸光情報の抽出処理の詳細が実施の形態1と異なる。
図10は、本実施の形態2における吸光情報の抽出処理を示すフローチャートである。以下においても、実施の形態1と同様に、λ415画像から吸光情報を抽出する場合を説明する。
ステップS10(図2参照)に続くステップS211において、周波数成分抽出部211は、λ415画像及びλ630画像にバンドパスフィルタを適用することにより、特定の周波数成分を抽出する。抽出する周波数成分としては、ある程度大きな領域の吸光変化も抽出できるように、実施の形態1において用いたハイパスフィルタよりも低周波側に帯域を拡げる。
λ415画像にバンドパスフィルタを適用することにより作成された特定周波数成分画像においては、図3に示すような微細な血管m11や少し太い血管m12に加えて、吸光変化領域m13のような領域的な吸光変化も抽出され易くなる。一方で、帯域を低周波側に拡げたことにより、粘膜形状等の構造も抽出される可能性が生じる。
これに対し、λ630画像には血管等の吸光体が写り難いため、λ630画像にバンドパスフィルタを適用することにより作成された特定周波数成分画像においては、主に粘膜形状等の構造が抽出される。
続くステップS212において、相対周波数成分算出部212は、λ415画像から抽出された特定の周波数成分の強度から、λ630画像から抽出された特定の周波数成分の強度を減算することにより、特定の周波数成分の強度の相対値を求める。
詳細には、まず、もとのλ415画像内の画素の画素値の平均値Avg415と、もとのλ630画像内の画素の画素値の平均値Avg630とを算出する。なお、画素値を取得する画素は、各画像内の全画素であっても良いし、所定の関心領域内の画素であっても良い。そして、これらの平均値の比Avg415/Avg630を、λ630画像に基づく特定周波数成分画像内の各画素の画素値に積算することにより、λ630画像に基づく特定周波数成分画像の強度レベルをλ415画像に基づく特定周波数成分画像の強度レベルに合わせる補正を行う。このように、特定周波数成分画像同士の強度レベルを揃えた上で、λ415画像に基づく特定周波数成分画像の画素値から、同一画素位置におけるλ630画像に基づく特定周波数成分画像の画素値を減算することにより相対値を求める。
それにより、λ415画像から抽出された特定の周波数成分に含まれる粘膜形状等の構造を表す情報を除去することができる。吸光情報抽出部210は、この減算処理に得られた相対値を吸光情報として出力する。その後、処理はメインルーチンに戻る。
以上説明したように、本発明の実施の形態2によれば、λ415画像及びλ630画像から特定の周波数成分をそれぞれ抽出し、抽出された特定の周波数成分の間の相対値を取るという簡単な演算処理によって吸光情報を取得することができる。
なお、上記実施の形態2においても、必ずしも複数の狭帯域画像を取得する必要はない。例えば、上述した変形例3と同様に、中心波長が415nmの狭帯域画像と広帯域の白色画像とを取得し、白色画像を構成する各画素の画素値のR成分を、中心波長が630nmの狭帯域画像の画素値の代わりに用いても良い。
(実施の形態3)
次に、本発明の実施の形態3について説明する。図11は、本実施の形態3に係る画像処理装置が備える演算部の構成を示すブロック図である。なお、演算部以外の画像処理装置の各部の構成及び動作は、実施の形態1と同様である。
図11に示すように、本実施の形態3に係る画像処理装置が備える演算部300は、吸光情報抽出部310及び表示画像作成部120を備える。このうち、表示画像作成部120の構成及び動作は、実施の形態1と同様である。
吸光情報抽出部310は、各狭帯域画像における特定の周波数成分を抽出する周波数成分抽出部311と、複数の狭帯域画像間における上記特定の周波数成分の相対的な強度を算出する相対周波数成分算出部312と、を備える。
周波数成分抽出部311は、第1の画像の強度レベルと前記第2の画像の強度レベルとを合わせるよう補正を行う強度補正部311aを有する。
相対周波数成分算出部312は、第1及び第2の画像における上記特定の周波数成分の正負の符号が共に吸光変化を表す値の符号と同一であるか否かを判定する判定部312aと、第1及び第2の画像における上記特定の周波数成分の差分を算出する差分算出部312bと、を有する。
次に、本実施の形態3に係る画像処理装置の動作を説明する。図12は、本実施の形態3に係る画像処理装置の動作を示すフローチャートである。本実施の形態3に係る画像処理装置の動作は、全体として上述した実施の形態1の図2と同様であり、このうち、ステップS30及びステップS32は、上述した実施の形態1の図2のステップS10及びステップS12と同様の処理のため、説明を省略する。また、以下においては、実施の形態1と同様に、λ415画像から吸光情報を抽出する場合について説明する。
図12に示すように、まず、吸光情報抽出部310は、λ415画像から吸光情報を抽出する(ステップS31)。実施の形態1において上述したように、λ415画像には、粘膜下表層から中層における吸光変化が表れる。この中には、λ460画像等の波長帯域が近い画像に表れる吸光変化と共通する吸光変化が含まれる。また、後述する処理で作成するベース画像には、λ460画像が含まれているため、λ415画像から網羅的に抽出した吸光変化をベース画像に合成した場合、ベース画像に表れている血管の色に変化が生じる場合がある。このため、本実施の形態3では、λ460画像に対する相対強度を用いることによって、λ460画像と共通する吸光変化を除外し、λ415画像にのみ強く表れる吸光変化を抽出する。
図13は、図12のステップS31の吸光情報を抽出する抽出処理を示すフローチャートである。
図13に示すように、まず、強度補正部311aは、λ415画像及びλ460画像(以下、単に「両画像」という)から画像中の平均強度を算出する(ステップS311)。
続いて、強度補正部311aは、平均強度に基づいて、両画像の強度(強度レベル)が同等となるように補正する(ステップS312)。
その後、周波数成分算出部311は、強度補正部311aによって補正された両画像それぞれから周波数成分を算出する(ステップS313)。この後、上述した実施の形態2のように、λ415画像における周波数成分からλ460画像における周波数成分を減算した場合、λ415画像に表れず、λ460画像のみに表れる吸光変化が差分画像において正の振幅として表れる。この算出された差分画像は、吸光情報としてベース画像に合成されるため、ベース画像に正の振幅がある場合、ベース画像における吸光変化を打ち消し、血管のコントラストを下げる等の恐れがある。そこで、本実施の形態1では、λ415画像における周波数成分とλ460画像における周波数成分が共に負である、つまり、λ415画像及びλ460画像に共通して吸光変化が表れる領域のみで減算する。即ち、判定部312aは、両画像における周波数成分が共に負であるか否かを判定する(ステップS314)。判定部312aが両画像における周波数成分が共に負であると判定した場合(ステップS314:Yes)、画像処理装置1は、後述するステップS315へ移行する。これに対して、判定部312aが両画像における周波数成分の少なくとも一方が正であると判定した場合(ステップS314:No)、画像処理装置1は、後述するステップS316へ移行する。
ステップS315において、差分算出部312bは、両画像の周波数成分の差分を算出する。ステップS315の後、画像処理装置1は、図12のメインルーチンへ戻る。
ステップS316において、相対周波数成分算出部312は、λ415画像における周波数成分を吸光情報とする。ステップS316の後、画像処理装置1は、図12のメインルーチンへ戻る。
以上説明した本実施の形態3によれば、ヘモグロビンの吸光が十分ある画像同士の相関を利用することによって、特定の狭帯域画像のみで強く表れる吸光変化を抽出することができる。
なお、本実施の形態3では、吸光情報抽出部310がλ460画像に対する相対強度を用いて吸光情報を抽出していたが、白色のB(青色)からG(緑色)の帯域に相当する画像は、類似した吸光特性を示すため、λ540画像等をBからGの帯域に相当する他の画像を用いてもよい。
(実施の形態3の変形例1)
次に、本発明の実施の形態3の変形例1について説明する。図14は、本変形例1に係る演算部の周波数成分抽出部の構成を示すブロック図である。本変形例1に係る画像処理装置は、図11に示す相対周波数成分算出部312に換えて、図14に示す相対周波数成分算出部313を備える。
相対周波数成分算出部313は、複数の狭帯域画像間における上記特定の周波数成分の相対的な強度を算出する。相対周波数成分算出部313は、第1及び第2の画像を撮影した光の波長帯域に基づいて、第1及び第2の画像に対して重みを設定する波長重み設定部313aと、第1及び第2の画像における上記特定の周波数成分の正負の符号が共に前記吸光変化を表す値の符号と同一であるか否かを判定する判定部313bと、波長重み設定部313aが設定した重みに基づいて、第1及び第2の画像における周波数成分の差分を算出する差分算出部313cと、を有する。本変形例1に係る画像処理装置は、図11に示す相対周波数成分算出部312以外の演算部の各部の構成及び動作、並びに演算部以外の画像処理装置の各部の構成及び動作は、実施の形態3と同様である。
図15は、本変形例1に係る吸光情報を抽出する抽出処理を示すフローチャートである。
図15に示すように、まず、波長重み設定部313aは、両画像に対して重みを設定する(ステップS411)。具体的には、λ460の光は、λ415の光よりヘモグロビンにおける吸収量が小さいため、λ460画像とλ415画像に共通する吸光変化があった場合、λ460画像に表れる変化量がλ415画像より小さくなり易い。このため、波長重み設定部313aは、両画像に対して、λ460画像の重みがλ415画像の重みより大きくなるように重みを設定する。設定方法は、例えば、波長重み設定部313aが、記憶部50に記録された波長毎の重み係数を示すテーブルを参照して重みを設定する。ステップS412〜ステップS414は、上述した図13のステップS311〜ステップS313それぞれに対応するため、説明を省略する。
ステップS415において、判定部313bは、両画像における周波数成分が共に負であるか否かを判定する。判定部313bが両画像における周波数成分が共に負であると判定した場合(ステップS415:Yes)、画像処理装置1は、後述するステップS416へ移行する。これに対して、判定部313bが両画像における周波数成分の少なくとも一方が正であると判定した場合(ステップS415:No)、画像処理装置1は、後述するステップS417へ移行する。
ステップS416において、差分算出部313cは、両画像の周波数成分に重みを乗算した後に差分を算出する。ステップS416の後、画像処理装置1は、図12のメインルーチンへ戻る。
ステップS417において、差分算出部313cは、λ415画像における周波数成分を吸光情報とする。ステップS417の後、画像処理装置1は、図12のメインルーチンへ戻る。
以上説明した本実施の形態3の変形例1によれば、波長帯域に応じた重みを設定することによって、特定の狭帯域画像のみで強く表れる吸光変化をより精度良く抽出することができる。
なお、本実施の形態3の変形例1では、波長重み設定部313aが記憶部50に記録された波長毎の重み係数を示すテーブルを参照して重みを設定していたが、例えばλ460画像とλ415画像それぞれの特定の周波数成分の平均値に基づく重みを設定したり、λ460画像とλ415画像それぞれの特定の周波数成分の平均値からの差に基づく重みを設定したりしてもよい。もちろん、波長重み設定部313aは、指数的に増加する係数やリニアに増加する係数を用いて重み付けを行ってもよい。
(実施の形態3の変形例2)
次に、本発明の実施の形態3の変形例2について説明する。図16は、本変形例2に係る演算部の周波数成分抽出部の構成を示すブロック図である。本変形例2に係る画像処理装置は、図11に示す相対周波数成分算出部312に換えて、図16に示す相対周波数成分算出部314を備える。
相対周波数成分算出部314は、複数の狭帯域画像間における上記特定の周波数成分の相対的な強度を算出する。相対周波数成分算出部314は、複数の周波数帯域毎に重みを設定する周波数重み設定部314aと、周波数重み設定部314aが設定した上記重みに基づいて、第1及び第2の画像における複数の周波数帯域における周波数成分を加算する重み加算部314bと、第1及び第2の画像における上記周波数成分の加算結果における正負の符号が共に前記吸光変化を表す値の符号と同一であるか否かを判定する判定部314cと、第1及び第2の画像における上記周波数成分の加算結果の差分を算出する差分算出部314dと、を有する。本変形例2に係る画像処理装置は、図11に示す相対周波数成分算出部312以外の演算部の各部の構成及び動作、並びに演算部以外の画像処理装置の各部の構成及び動作は、実施の形態3と同様である。
図17は、本変形例2に係る吸光情報を抽出する抽出処理を示すフローチャートである。図17において、ステップS511及びステップS512は、上述した図13のステップS311及びステップS312それぞれと同様の処理であるため、説明を省略する。
ステップS513において、周波数成分算出部311は、補正後の両画像にから複数帯域の周波数成分を算出する。実施の形態1で述べたように、λ415画像には、粘膜下表層から中層における吸光変化が表れ、これらの内で微細血管による吸光変化が高周波成分に、領域的な吸光変化が中周波成分に表れる。ただし、微細血管による変化量は領域的な吸光変化による変化量に比べて小さくなり易い。そのため、単純に高周波から中周波に相当する帯域の周波数成分を抽出した場合、高周波成分が中周波成分に埋もれてしまい、微細血管による変化量を抽出できない可能性がある。そこで、本変形例2では、周波数重み設定部314aは、周波数帯域に応じて重みを設定し、この設定した重みを利用して上述したステップS513において算出した各周波数成分を合成する(ステップS514)。この重みは、高周波側の周波数帯域であるほど大きくなるように設定する。例えば、周波数重み設定部314aは、記憶部50に記録された周波数毎の重み係数を示すテーブルを参照して重みを設定する。ステップS515〜ステップS517は、上述した図13のステップS314〜ステップS316それぞれと同様の処理であるため、説明を省略する。
以上説明した本実施の形態3の変形例2によれば、周波数帯域に応じた重みを設定することによって、特定の狭帯域画像のみで強く表れる吸光変化をより精度良く抽出することができる。
(実施の形態4)
次に、本発明の実施の形態4について説明する。図18は、本実施の形態4に係る画像処理装置が備える演算部の構成を示すブロック図である。なお、演算部以外の画像処理装置の各部の構成及び動作は、実施の形態1と同様である。
図18に示すように、本実施の形態4に係る画像処理装置が備える演算部400は、吸光情報抽出部410及び表示画像作成部120を備える。このうち、表示画像作成部120の構成及び動作は、実施の形態1と同様である。
吸光情報抽出部410は、各狭帯域画像における特定の周波数成分を抽出する周波数成分抽出部411と、複数の狭帯域画像間における上記特定の周波数成分の相対的な強度を算出する相対周波数成分算出部412と、上記相対周波数成分を基に特定の狭帯域画像における周波数成分の強度を補正する周波数成分補正部413と、を備える。
周波数成分抽出部411は、第1の画像の強度レベルと前記第2の画像の強度レベルとが同等になるよう補正を行う強度補正部411aを有する。
相対周波数成分算出部412は、第1及び第2の画像における上記特定の周波数成分の比率を算出する比率算出部412aを有する。
周波数成分補正部413は、第1及び第2の画像における上記特定の周波数成分の正負の符号が共に吸光変化を表す値の符号と同一であるか否かを判定する判定部413aを有する。
次に、本実施の形態4に係る画像処理装置の動作を説明する。図19は、本実施の形態4に係る画像処理装置の動作を示すフローチャートである。本実施の形態4に係る画像処理装置の動作は、全体として上述した実施の形態1の図2と同様であり、このうち、ステップS60及びステップS62は、上述した実施の形態1の図2のステップS10及びステップS12と同様の処理のため、説明を省略する。また、以下においては、実施の形態1と同様に、λ415画像から吸光情報を抽出する場合について説明する。
図20は、図19のステップS61の吸光情報を抽出する抽出処理を示すフローチャートである。
図20に示すように、まず、強度補正部411aは、λ415画像及びλ460画像(以下、単に「両画像」という)から画像中の平均強度を算出する(ステップS611)。
続いて、強度補正部411aは、平均強度に基づいて、両画像の強度(強度レベル)が同等となるように補正する(ステップS612)。
その後、周波数成分算出部411は、強度補正部411aによって補正された両画像それぞれから周波数成分を算出する(ステップS613)。そして、比率算出部412aが、λ460画像の周波数成分に対するλ415画像の周波数成分の比率を算出する(ステップS614)。比率を算出した後は、実施例3と同様に、判定部413aは、両画像における周波数成分が共に負であるか否かを判定する(ステップS615)。判定部312aが両画像における周波数成分が共に負であると判定した場合(ステップS615:Yes)、画像処理装置1は、後述するステップS616へ移行する。これに対して、判定部413aが両画像における周波数成分の少なくとも一方が正であると判定した場合(ステップS615:No)、画像処理装置1は、後述するステップS617へ移行する。
ステップS616において、周波数成分補正部413は、ステップS614で算出された比率を基に、比率が小さいほどλ415画像の周波数成分の絶対値が小さくなるよう補正する。補正方法は、例えば、記憶部50に記録された係数テーブルを参照し、得られた係数とλ415画像の周波数成分を乗算することで行う。ステップS616の後、画像処理装置1は、図19のメインルーチンへ戻る。
ステップS617において、吸光情報抽出部410は、λ415画像における周波数成分を吸光情報とする。ステップS617の後、画像処理装置1は、図19のメインルーチンへ戻る。
以上説明した本実施の形態4によれば、ヘモグロビンの吸光が十分ある画像同士の相関を利用して特定の狭帯域画像における周波数成分を補正することにより、特定の狭帯域画像のみで強く表れる吸光変化を抽出することができる。
(実施の形態4の変形例1)
次に、本発明の実施の形態4の変形例1について説明する。図21は、本変形例1における吸光情報を抽出する抽出処理を示すフローチャートである。また、以下においては、λ600画像から吸光情報を抽出する場合について説明する。
図21に示すように、まず、強度補正部411aは、λ540画像、λ600画像、λ630画像から画像中の平均強度を算出する(ステップS711)。
続いて、強度補正部411aは、平均強度に基づいて、λ540画像、λ600画像、λ630画像の強度(強度レベル)が同等となるように補正する(ステップS712)。
その後、周波数成分算出部411は、強度補正部411aによって補正されたλ540画像、λ600画像、λ630画像から周波数成分を算出する(ステップS713)。そして、比率算出部412aが、λ630画像の周波数成分に対するλ600画像の周波数成分の比率を算出する(ステップS714)。比率を算出した後は、判定部413aは、λ630画像とλ600画像における周波数成分が共に負であるか否かを判定する(ステップS715)。判定部312aがλ630画像とλ600画像における周波数成分が共に負であると判定した場合(ステップS715:Yes)、画像処理装置1は、後述するステップS716へ移行する。これに対して、判定部413aがλ630画像とλ600画像における周波数成分の少なくとも一方が正であると判定した場合(ステップS715:No)、画像処理装置1は、後述するステップS717へ移行する。
ステップS716において、周波数成分補正部413は、ステップS714で算出された比率を基に、比率が小さいほどλ600画像の周波数成分の絶対値が小さくなるよう補正し、補正結果を仮吸光情報する。補正方法は、例えば、記憶部50に記録された係数テーブルを参照し、得られた係数とλ600画像の周波数成分を乗算することで行う。
ステップS717において、吸光情報抽出部410は、λ600画像における周波数成分を仮吸光情報とする。
続いて、比率算出部412aが、λ540画像の周波数成分に対するλ600画像の周波数成分の比率を算出する(ステップS718)。比率を算出した後、判定部413aは、λ540画像とλ600画像における周波数成分が共に負であるか否かを判定する(ステップS719)。判定部312aがλ540画像とλ600画像における周波数成分が共に負であると判定した場合(ステップS715:Yes)、画像処理装置1は、後述するステップS720へ移行する。これに対して、判定部413aがλ540画像とλ600画像における周波数成分の少なくとも一方が正であると判定した場合(ステップS715:No)、画像処理装置1は、後述するステップS721へ移行する。
ステップS720において、周波数成分補正部413は、ステップS718で算出された比率を基に、比率が小さいほど仮吸光情報の絶対値が小さくなるよう補正し、補正結果を吸光情報する。補正方法は、例えば、記憶部50に記録された係数テーブルを参照し、得られた係数と仮吸光情報を乗算することで行う。ステップS720の後、画像処理装置1は、図19のメインルーチンへ戻る。
ステップS721において、吸光情報抽出部410は、仮吸光情報を吸光情報とする。ステップS721の後、画像処理装置1は、図19のメインルーチンへ戻る。
以上説明した本実施の形態4の変形例1によれば、画像同士の相関を複数利用して特定の狭帯域画像における周波数成分を補正することにより、より精度良く特定の狭帯域画像のみで強く表れる吸光変化を抽出することができる。
以上説明した実施の形態1〜4、実施の形態1の変形例1〜3及び実施の形態3の変形例1〜2、実施の形態4の変形例1は、記憶装置に記憶された画像処理プログラムをパーソナルコンピュータやワークステーション等のコンピュータシステムで実行することによって実現することができる。また、このようなコンピュータシステムを、ローカルエリアネットワーク(LAN)、広域エリアネットワーク(WAN)、又は、インターネット等の公衆回線を介して、他のコンピュータシステムやサーバ等の機器に接続して使用しても良い。この場合、実施の形態1〜4、実施の形態1の変形例1〜3及び実施の形態3の変形例1〜2、実施の形態4の変形例1に係る画像処理装置は、これらのネットワークを介して管腔内画像の画像データを取得したり、これらのネットワークを介して接続された種々の出力機器(ビュアーやプリンタ等)に画像処理結果を出力したり、これらのネットワークを介して接続された記憶装置(記憶媒体及びその読取装置等)に画像処理結果を格納するようにしても良い。
本発明は、実施の形態1〜4、実施の形態1の変形例1〜3及び実施の形態3の変形例1〜2、実施の形態4の変形例1に限定されるものではなく、各実施の形態や変形例に開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成できる。例えば、各実施の形態や変形例に示される全構成要素からいくつかの構成要素を除外して形成しても良いし、異なる実施の形態や変形例に示した構成要素を適宜組み合わせて形成しても良い。
1 画像処理装置
10 制御部
20 画像取得部
30 入力部
40 表示部
50 記憶部
51 プログラム記憶部
100、200、300、400 演算部
110、210、310、410 吸光情報抽出部
111、211、212、411 周波数成分抽出部
112、312、313、314、412 相対周波数成分算出部
413 周波数成分補正部
112a、311a、411a 強度補正部
112b 減算部
113、123 合成部
113a、123a 加算部
113b 抑制部
121 白色画像作成部
122 画像合成部
123b 選択部
120 表示画像作成部
312a、313b、314c、413a 判定部
312b、313c、314d 差分算出部
313a 波長重み設定部
314a 周波数重み設定部
314b 重み加算部
412a 比率算出部

Claims (23)

  1. 少なくとも1つの狭帯域画像を含み、波長成分の分布が互いに異なる複数の画像を取得する画像取得部と、
    前記複数の画像のうちの狭帯域画像である第1の画像における特定の周波数成分、及び、前記複数の画像のうちの前記第1の画像と異なる第2の画像と前記第1の画像との間の相対強度に基づいて、前記第1の画像の撮像に用いられた狭帯域光を吸光体が吸収することによって生じた吸光変化を表す画像情報である吸光情報を前記第1の画像から抽出する吸光情報抽出部と、
    前記複数の画像のうちの少なくともいずれかの画像に前記吸光情報を合成することにより表示画像を作成する表示画像作成部と、
    を備えることを特徴とする画像処理装置。
  2. 前記第2の画像は、前記第1の画像の撮像に用いられた狭帯域光よりも、前記吸光体に対する吸収が少ない光によって撮像された狭帯域画像である、ことを特徴とする請求項1に記載の画像処理装置。
  3. 前記吸光情報抽出部は、
    前記第1の画像における前記特定の周波数成分を抽出する周波数成分抽出部と、
    前記第1の画像と前記第2の画像との相対強度を算出する相対強度算出部と、
    前記周波数成分抽出部が抽出した前記特定の周波数成分の強度と、前記相対強度算出部が算出した前記相対強度とを合成する合成部と、
    を備えることを特徴とする請求項1に記載の画像処理装置。
  4. 前記相対強度算出部は、
    前記第1の画像の強度レベルと前記第2の画像の強度レベルとを合わせる補正を行う強度補正部と、
    強度レベルの補正後の前記第1の画像と前記第2の画像との間で画像の強度を減算することにより、前記相対強度を求める減算部と、
    を備えることを特徴とする請求項3に記載の画像処理装置。
  5. 前記合成部は、同一の画素位置における前記特定の周波数成分の強度と前記相対強度とを加算する加算部を備えることを特徴とする請求項3に記載の画像処理装置。
  6. 前記吸光情報は、前記吸光変化が生じている画素位置と、該画素位置における前記吸光変化の量を表す値とを含み、
    前記合成部は、前記加算部による加算結果に対し、絶対値が大きいほど出力値を抑制する抑制部をさらに備えることを特徴とする請求項5に記載の画像処理装置。
  7. 前記吸光情報は、前記吸光変化が生じている画素位置と、該画素位置における前記吸光変化の量を表す値とを含み、
    前記合成部は、
    同一の画素位置における前記特定の周波数成分の強度と前記相対強度とを加算する加算部と、
    同一の画素位置における前記特定の周波数成分の強度と前記相対強度とのうちのいずれかの値を選択する選択部と、
    を備え、
    前記特定の周波数成分の強度及び前記相対強度の正負の符号が共に前記吸光変化の量を表す値の符号と同一である場合に前記選択部による選択結果を出力し、前記特定の周波数成分の強度と前記相対強度との間で正負の符号が異なる場合又は前記特定の周波数成分の強度及び前記相対強度の正負の符号が共に前記吸光変化の量を表す値の符号と異なる場合に前記加算部による加算結果を出力し、
    ことを特徴とする請求項3に記載の画像処理装置。
  8. 前記選択部は、前記特定の周波数成分の強度と前記相対強度とのうち絶対値が大きい方を選択する、ことを特徴とする請求項7に記載の画像処理装置。
  9. 前記吸光情報抽出部は、
    前記第1及び第2の画像における前記特定の周波数成分を抽出する周波数成分抽出部と、
    前記第2の画像における前記特定の周波数成分の強度に対する前記第1の画像における前記特定の周波数成分の強度の相対値を算出する相対周波数成分算出部と、
    を備えることを特徴とする請求項1に記載の画像処理装置。
  10. 前記複数の画像は、RGBそれぞれの波長帯域に相当する複数の狭帯域画像を含み、
    前記表示画像作成部は、前記複数の狭帯域画像に基づいて白色画像を作成し、該白色画像に対して前記吸光情報を合成する、ことを特徴とする請求項1に記載の画像処理装置。
  11. 前記複数の画像は白色画像を含み、
    前記表示画像作成部は、前記白色画像に対して吸光情報を合成する、
    ことを特徴とする請求項1に記載の画像処理装置。
  12. 前記複数の画像は、生体の管腔内を撮像することにより取得された画像である、ことを特徴とする請求項1に記載の画像処理装置。
  13. 前記相対周波数成分算出部は、前記第1及び第2の画像における前記特定の周波数成分の差分を算出する差分算出部を備えることを特徴とする請求項9に記載の画像処理装置。
  14. 前記相対周波数成分算出部は、前記第1及び第2の画像における前記特定の周波数成分の正負の符号が共に前記吸光変化を表す値の符号と同一であるか否かを判定する判定部を備え、
    前記差分算出部は、前記判定部によって共に同一であると判定された領域のみ前記差分を算出することを特徴とする請求項13に記載の画像処理装置。
  15. 前記相対周波数成分算出部は、
    前記第1及び第2の画像を撮影した光の波長帯域に基づいて前記第1及び第2の画像に対して重みを設定する波長重み設定部と、
    を備え、
    前記差分算出部は、前記波長重み設定部が設定した前記重みに基づいて、前記第1及び第2の画像における周波数成分の差分を算出することを特徴とする請求項13に記載の画像処理装置。
  16. 前記相対周波数成分算出部は、
    前記特定の周波数成分を複数の周波数帯域に分割して算出し、
    前記差分算出部は、
    前記複数の周波数帯域毎に重みを設定する周波数重み設定部と、
    前記周波数重み設定部が設定した前記重みに基づいて、前記第1及び第2の画像における前記複数の周波数帯域における周波数成分を加算する重み加算部と、
    を備え、
    前記差分算出部は、前記重み加算部が加算した前記第1及び第2の画像における周波数成分の差分を算出することを特徴とする請求項13に記載の画像処理装置。
  17. 前記吸光情報抽出部は、
    前記特定の周波数成分の強度に基づいて前記第1の画像における周波数成分の強度を補正する周波数成分補正部を更に備えることを特徴とする請求項9に記載の画像処理装置。
  18. 前記相対周波数成分算出部は、前記第1及び第2の画像における前記特定の周波数成分の比率を算出する比率算出部を備えることを特徴とする請求項17に記載の画像処理装置。
  19. 前記相対周波数成分算出部は、前記第1と第2の画像に加えて更に1以上の画像を用いて、前記第1の画像と前記第1の画像以外の画像における周波数成分を基に複数の相対周波数成分を算出することを特徴とする請求項17に記載の画像処理装置。
  20. 前記周波数成分補正部は、前記第1の画像と前記第1の画像以外の画像における周波数成分の正負の符号が共に前記吸光変化を表す値の符号と同一であるか否かを判定する判定部を備え、前記判定部によって共に同一であると判定された領域のみ前記補正を行うことを特徴とする請求項19に記載の画像処理装置。
  21. 前記周波数成分抽出部は、前記第1の画像の強度レベルと前記第2の画像の強度レベルとを合わせる補正を行う強度補正部を備えることを特徴とする請求項9に記載の画像処理装置。
  22. 少なくとも1つの狭帯域画像を含み、波長成分の分布が互いに異なる複数の画像を取得する画像取得ステップと、
    前記複数の画像のうちの狭帯域画像である第1の画像における特定の周波数成分、及び、前記複数の画像のうちの前記第1の画像と異なる第2の画像と前記第1の画像との間の相対強度に基づいて、前記第1の画像の撮像に用いられた狭帯域光を吸光体が吸収することによって生じた吸光変化を表す画像情報である吸光情報を前記第1の画像から抽出する吸光情報抽出ステップと、
    前記複数の画像のうちの少なくともいずれかの画像に前記吸光情報を合成することにより表示画像を作成する表示画像作成ステップと、
    を含むことを特徴とする画像処理方法。
  23. 少なくとも1つの狭帯域画像を含み、波長成分の分布が互いに異なる複数の画像を取得する画像取得ステップと、
    前記複数の画像のうちの狭帯域画像である第1の画像における特定の周波数成分、及び、前記複数の画像のうちの前記第1の画像と異なる第2の画像と前記第1の画像との間の相対強度に基づいて、前記第1の画像の撮像に用いられた狭帯域光を吸光体が吸収することによって生じた吸光変化を表す画像情報である吸光情報を前記第1の画像から抽出する吸光情報抽出ステップと、
    前記複数の画像のうちの少なくともいずれかの画像に前記吸光情報を合成することにより表示画像を作成する表示画像作成ステップと、
    をコンピュータに実行させることを特徴とする画像処理プログラム。
JP2017518774A 2015-05-21 2016-01-27 画像処理装置、画像処理方法、及び画像処理プログラム Active JP6707533B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JPPCT/JP2015/064651 2015-05-21
JP2015064651 2015-05-21
PCT/JP2016/052330 WO2016185733A1 (ja) 2015-05-21 2016-01-27 画像処理装置、画像処理方法、及び画像処理プログラム

Publications (2)

Publication Number Publication Date
JPWO2016185733A1 JPWO2016185733A1 (ja) 2018-03-08
JP6707533B2 true JP6707533B2 (ja) 2020-06-10

Family

ID=57319757

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017518774A Active JP6707533B2 (ja) 2015-05-21 2016-01-27 画像処理装置、画像処理方法、及び画像処理プログラム

Country Status (3)

Country Link
US (1) US10356378B2 (ja)
JP (1) JP6707533B2 (ja)
WO (1) WO2016185733A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11399699B2 (en) 2017-05-15 2022-08-02 Sony Corporation Endoscope including green light sensor with larger pixel number than pixel number of red and blue light sensors
WO2019083020A1 (ja) * 2017-10-26 2019-05-02 富士フイルム株式会社 医療画像処理装置、及び、内視鏡装置
CN113543689B (zh) * 2019-03-19 2024-08-30 奥林巴斯株式会社 内窥镜装置、内窥镜装置的工作方法以及信息存储介质
WO2021006093A1 (ja) * 2019-07-09 2021-01-14 富士フイルム富山化学株式会社 画像生成装置、薬剤識別装置、薬剤表示装置、画像生成方法及びプログラム

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4554944B2 (ja) * 2004-01-15 2010-09-29 Hoya株式会社 内視鏡装置
JP4847250B2 (ja) * 2006-08-03 2011-12-28 オリンパスメディカルシステムズ株式会社 内視鏡装置
JP5541914B2 (ja) * 2009-12-28 2014-07-09 オリンパス株式会社 画像処理装置、電子機器、プログラム及び内視鏡装置の作動方法
JP5737899B2 (ja) * 2010-10-07 2015-06-17 Hoya株式会社 診断システム
JP5501210B2 (ja) * 2010-12-16 2014-05-21 富士フイルム株式会社 画像処理装置
JP5334952B2 (ja) * 2010-12-16 2013-11-06 富士フイルム株式会社 画像処理装置
WO2012081297A1 (ja) * 2010-12-17 2012-06-21 オリンパスメディカルシステムズ株式会社 内視鏡装置及び内視鏡を用いた被写体画像を表示する方法
JP5611892B2 (ja) * 2011-05-24 2014-10-22 富士フイルム株式会社 内視鏡システム及び内視鏡システムの作動方法
JP6128888B2 (ja) * 2013-02-27 2017-05-17 オリンパス株式会社 画像処理装置、画像処理方法、及び画像処理プログラム
JP6054806B2 (ja) * 2013-04-25 2016-12-27 富士フイルム株式会社 画像処理装置及び内視鏡システムの作動方法
JP6109695B2 (ja) * 2013-09-27 2017-04-05 富士フイルム株式会社 内視鏡システム及びプロセッサ装置並びに作動方法並びに距離測定装置

Also Published As

Publication number Publication date
US20180077399A1 (en) 2018-03-15
JPWO2016185733A1 (ja) 2018-03-08
US10356378B2 (en) 2019-07-16
WO2016185733A1 (ja) 2016-11-24

Similar Documents

Publication Publication Date Title
JP6140056B2 (ja) 内視鏡システム、内視鏡システムのプロセッサ装置、内視鏡システムの作動方法、プロセッサ装置の作動方法
JP6707533B2 (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
JP5968944B2 (ja) 内視鏡システム、プロセッサ装置、光源装置、内視鏡システムの作動方法、プロセッサ装置の作動方法、光源装置の作動方法
JP6906593B2 (ja) 画像処理装置、蛍光観察装置および第1のタイプの蛍光観察装置を第2のタイプの蛍光観察装置においてエミュレートするための方法
US20150363932A1 (en) Image processing apparatus, image processing method, and computer-readable recording medium
JP2004202217A (ja) イメージング装置
WO2017022324A1 (ja) 画像信号処理方法、画像信号処理装置および画像信号処理プログラム
US20170311774A1 (en) Image processing apparatus, image processing method, and image processing program
JP2020065685A (ja) 内視鏡システム
CN114521122A (zh) 图像处理装置、内窥镜系统及图像处理的工作方法
JP7163386B2 (ja) 内視鏡装置、内視鏡装置の作動方法及び内視鏡装置の作動プログラム
JP2016193107A (ja) 画像処理装置
JP2023533018A (ja) オブジェクトを描く画像フレームの自動露光を管理しながらオブジェクトを割り引くための装置、システムおよび方法
JP6458205B1 (ja) 画像処理装置、画像処理方法および画像処理プログラム
JPWO2017221353A1 (ja) 画像処理装置、画像処理装置の作動方法及び画像処理装置の作動プログラム
JP6210923B2 (ja) 生体観察システム
JP6389299B2 (ja) 内視鏡システム、内視鏡システムのプロセッサ装置、内視鏡システムの作動方法、プロセッサ装置の作動方法
WO2022071413A1 (ja) 画像処理装置、内視鏡システム、画像処理装置の作動方法、及び画像処理装置用プログラム
JP5528122B2 (ja) 内視鏡装置
JP7123135B2 (ja) 内視鏡装置、内視鏡装置の作動方法及びプログラム
WO2017203996A1 (ja) 画像信号処理装置、画像信号処理方法および画像信号処理プログラム
JPWO2020008527A1 (ja) 内視鏡装置、内視鏡装置の作動方法及びプログラム
JP2015006398A (ja) 画像処理装置、画像処理方法及びプログラム
JP6949134B2 (ja) 電子内視鏡用プロセッサ及び電子内視鏡システム
JPWO2021059889A1 (ja) 内視鏡システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181106

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191001

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191118

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200428

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200520

R151 Written notification of patent or utility model registration

Ref document number: 6707533

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250