JPWO2020158165A1 - 内視鏡システム - Google Patents

内視鏡システム Download PDF

Info

Publication number
JPWO2020158165A1
JPWO2020158165A1 JP2020569410A JP2020569410A JPWO2020158165A1 JP WO2020158165 A1 JPWO2020158165 A1 JP WO2020158165A1 JP 2020569410 A JP2020569410 A JP 2020569410A JP 2020569410 A JP2020569410 A JP 2020569410A JP WO2020158165 A1 JPWO2020158165 A1 JP WO2020158165A1
Authority
JP
Japan
Prior art keywords
image signal
image
light
gain coefficient
acquisition period
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020569410A
Other languages
English (en)
Other versions
JP7136933B2 (ja
Inventor
弘亮 岩根
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of JPWO2020158165A1 publication Critical patent/JPWO2020158165A1/ja
Application granted granted Critical
Publication of JP7136933B2 publication Critical patent/JP7136933B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00039Operational features of endoscopes provided with input arrangements for the user
    • A61B1/00042Operational features of endoscopes provided with input arrangements for the user for mechanical operation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • A61B1/0005Display arrangement combining images e.g. side-by-side, superimposed or tiled
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0638Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0655Control therefor
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0661Endoscope light sources
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0661Endoscope light sources
    • A61B1/0684Endoscope light sources using light emitting diodes [LED]
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/313Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor for introducing through surgical openings, e.g. laparoscopes
    • A61B1/3137Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor for introducing through surgical openings, e.g. laparoscopes for examination of the interior of blood vessels
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
    • G02B23/26Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes using light guides
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10152Varying illumination

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Optics & Photonics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Veterinary Medicine (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • General Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Mechanical Engineering (AREA)
  • Theoretical Computer Science (AREA)
  • Astronomy & Astrophysics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Endoscopes (AREA)

Abstract

複数の光を切り替えて照明し、各光の照明により得られる複数の画像を切り替えて表示する場合において、被写体の変化に合わせて、各画像の色味を揃えつつ、各画像の違いを可視化することができる内視鏡システムを提供する。内視鏡システムは、光源部(14)と、光源制御部(21)と、画像取得部(52)と、ホワイトバランス部(55)と、補正係数算出部(56)とを備える。ホワイトバランス部(55)は、第1画像信号には第1ゲイン係数をかけ、第2画像信号には第2ゲイン係数をかけて、また、第1ゲイン係数および第2ゲイン係数の少なくともいずれかを補正した補正ゲイン係数を用いてホワイトバランス処理を行う。

Description

本発明は、複数種類の画像を切り替えて表示する内視鏡システムに関する。
近年の医療分野では、光源装置、内視鏡、プロセッサ装置を備える内視鏡システムが広く用いられている。内視鏡システムでは、内視鏡から観察対象に照明光を照射し、その照明光で照明中の観察対象を内視鏡の撮像素子で撮像して得られるRGB画像信号に基づいて、観察対象の画像をモニタ上に表示する。
また、近年では、診断の目的に応じて、互いに波長域が異なる複数の照明光を観察対象に照明することが行われている。例えば、特許文献1では、ピーク波長が422nmのNB1光と、ピーク波長が460〜470nmのNB2光との2つの青色の狭帯域光を交互に照明することによって、観察対象に含まれる血管中の酸素飽和度を取得することが記載されている。また、特許文献2では、B1領域(第1のB領域:390nmから440nm)にピークを有する光と、B2領域(第2のB領域:440nmから490nm)にピークを有する光とを観察対象に照明し、B1領域の光及びB2領域の光の両方に感度を有するB画素を含む撮像素子によって撮像を行うことにより、表層血管の解像情報を得ることが記載されている。また、特許文献3には、中心波長405nmの紫色光、中心波長445nmの青色レーザ光、及び青色レーザ光によって励起発光する励起発光を用いて、生体組織の所望の組織情報を、診断に適したより明瞭な状態で取得することが記載されている。
特開2015−173737号公報 国際公開第2016/080130号 特開2017−185258号公報
近年では、内視鏡分野においては、背景粘膜以外の生体情報、例えば、深さが異なる血管や深さ、高さが異なる腺管構造などに着目する診断が行われている。このような診断においては、ユーザーに対して、背景粘膜以外の複数の情報をそれぞれ把握できるように表示する必要がある。このような複数の情報をそれぞれ表示する方法として、生体組織への深達度が異なる複数波長の光を自動で周期的に切り替えて照明し、それらの照明によって得られる複数の画像を切り替えて表示する方法が考えられる。例えば、表層血管など表層の情報と深層血管など深層の情報を得るためには、表層にまで深達度を有する短波光と深層にまで深達度を有する中波長光を切り替えて照明し、短波光の照明により得られる表層画像と中波長光の照明により得られる深層画像とを切り替えて表示する。このような切替表示を行うことにより、表層画像と深層画像の差分が表示されるため、異なる生体情報を分離して表示することができる。したがって、表層情報と深層情報との異なる生体情報を把握することができる。
しかしながら、短波光と中波長光を切り替えて照明した場合には、表層画像の信号値と深層画像の信号値とが大きく異なると、表層画像と深層画像とで画像全体の色味が大きく異なる。したがって、例えば、短波項と中波長光とを自動で切替えて照明した場合には、色味が違う画像が自動で切り替えられて表示されるため、見づらい画面となるおそれがある。また、診断時に注目する表層情報及び深層情報の視認性が低下するおそれがある。
これらを防ぐために、オートホワイトバランスのように、基準の色に常に色調を合わせると、正常粘膜と炎症を伴う粘膜とが同じ色調となり、正しい診断ができないおそれがある。また、あらかじめ、粘膜等による標準的な被写体を仮定し、複数波長の光で撮影した画像において、色調、および明るさが同等となるように、例えば、各波長の光に対して、予め設定した異なるゲイン係数によりホワイトバランス処理等を行うことにより対応することが考えられる。しかしながら、このように対応した場合であっても、観察部位の違い、個人差、炎症等の疾患の有無、または色素散布の有無等の被写体の変化により、標準的な被写体と分光反射率が異なり、複数波長の光で撮影したそれぞれの画像の明るさ、色調等が大きく異なるために、目的とする生体情報の差が認識しにくいとの問題が生じるおそれがある。
本発明は、複数の光を切り替えて照明し、各光の照明により得られる複数の画像を切り替えて表示する場合において、被写体の変化に合わせて、各画像の明るさ、色調等を揃えつつ、各画像の違いを認識しやすい内視鏡システムを提供することを目的とする。
本発明の内視鏡システムは、光源部と、光源制御部と、画像取得部と、ホワイトバランス部とを備える。光源部は、第1照明光と、第1照明光とは異なる発光スペクトルを有する第2照明光とを発光する。光源制御部は、第1照明光と第2照明光とを自動的に切り替えて発光する制御を行う光源制御部であって、第1照明光を発光する発光期間と第2照明光を発光する発光期間は、それぞれ少なくとも1フレーム以上の発光期間である。画像取得部は、第1照明光の発光期間において第1照明光により照明された被写体を撮像して得られる第1画像信号を含む第1画像信号群と、第2照明光の発光期間において第2照明光により照明された被写体を撮像して得られる第2画像信号を含む第2画像信号群とを取得する。ホワイトバランス部は、第1画像信号に第1ゲイン係数をかけ合わせ、第2画像信号に第2ゲイン係数をかけ合わせてホワイトバランス処理を行う。ホワイトバランス部は、第1ゲイン係数と第2ゲイン係数の少なくともいずれかを補正した補正ゲイン係数を用いて、ホワイトバランス処理を行う。
ホワイトバランス部は、補正無しの固定の第2ゲイン係数を用いて、ホワイトバランス処理を行うことが好ましい。
第1画像信号または第2画像信号は、青色信号、赤色信号、及び緑色成分を含み、第1画像の信号値または第2画像の信号値は、青色信号値、赤色信号値、及び緑色信号値からなることが好ましい。
ホワイトバランス部は、第1ゲイン係数または第2ゲイン係数を、青色信号値、赤色信号値、及び緑色信号値のそれぞれについて定めることが好ましい。
第1ゲイン係数を補正する場合において、取得期間P(Nは整数)の第1画像信号群に含まれる第1画像信号に対して用いる取得期間Pの第1ゲイン係数は、取得期間Pの直前の取得期間PN−2の第1画像信号に対して用いた取得期間PN−2の第1ゲイン係数を補正した補正第1ゲイン係数であることが好ましい。
第1ゲイン係数を補正する場合において、取得期間Pよりも前の複数の取得期間PN−K(Kは2以上の偶数)の第1画像信号群に含まれる第1画像信号に対して用いる複数の取得期間PN−Kの第1ゲイン係数は、少なくとも一部はそれぞれ補正された補正ゲイン係数であり、取得期間Pの第1画像信号群に含まれる第1画像信号に対して用いる取得期間Pの第1ゲイン係数は、複数の取得期間PN−Kの第1ゲイン係数に対して、それぞれ重み付け係数をかけて加算された値であり、重み付け係数は、取得期間Pに近いほど大きいことが好ましい。
複数の取得期間PN−Kの第1ゲイン係数は、各取得期間PN−Kにおいてホワイトバランス処理で用いられていることが好ましい。
第1ゲイン係数または第2ゲイン係数の補正には、第1ゲイン係数および第2ゲイン係数のうち少なくとも一方を補正するための補正係数が用いられ、補正係数は、第1画像信号群に基づく演算により得られる第1演算値と、第2画像信号群に基づく演算により得られる第2演算値とを用いて算出することが好ましい。
第1演算値は、第1画像信号群に含まれる第1画像信号において、第1画像信号の信号値を平均して得られる第1画像信号値平均のそれぞれを加算平均して得られ、第2演算値は、第2画像信号群に含まれる第2画像信号において、第2画像信号の信号値を平均して得られる第2画像信号値平均のそれぞれを加算平均して得られることが好ましい。
第1画像信号または第2画像信号において、血管または病変部分の画像信号を検出して異常画像信号とする検出部を備え、第1画像信号値平均または第2画像信号値平均は、それぞれ異常画像信号以外の第1画像信号の信号値また記第2画像信号の信号値を用いることにより得られることが好ましい。
第1画像信号または第2画像信号において、異常画素部分の画像信号を検出して異常画像信号とする検出部を備え、第1画像信号値平均または第2画像信号値平均は、それぞれ異常画像信号以外の第1画像信号の信号値または第2画像信号の信号値を用いることにより得られることが好ましい。
補正係数は、第1演算値と第2演算値の比であることが好ましい。
取得期間Pの第1ゲイン係数は、取得期間PN−2の第1画像信号群に含まれる第1画像信号に対して用いた第1ゲイン係数に、取得期間PN−2における第1演算値と取得期間PN−1における第2演算値との比の値をかけ合わせた値であることが好ましい。
取得期間Pの第1ゲイン係数と、取得期間PN−2の第1画像信号群に含まれる第1画像信号に対して用いた第1ゲイン係数との差が、予め設定した閾値以下の場合は、取得期間Pの第1ゲイン係数の補正を行わないことが好ましい。
取得期間Pの第1ゲイン係数と、取得期間PN−2の第1画像信号群に含まれる第1画像信号に対して用いた第1ゲイン係数との差が、予め設定した閾値以上の場合は、取得期間Pの第1ゲイン係数の補正を行わないことが好ましい。
第1照明光は、紫色光、緑色光、及び赤色光を含み、第2照明光は、青色光、緑色光及び赤色光を含み、光源制御部は、第1照明光と第2照明光とが含む各色のそれぞれの発光量を、第1ゲイン係数または第2ゲイン係数に基づいて制御することが好ましい。
光源制御部は、第1ゲイン係数または第2ゲイン係数に基づいて制御された発光量が、特定の閾値以下である場合、予め設定された最低発光量まで発光量を増加させることが好ましい。
画像処理部は、第1画像信号により第1表示用観察画像を生成し、かつ、第2画像信号により第2表示用観察画像を生成し、第1表示用観察画像は表層血管が強調されており、第2表示用観察画像は表層血管よりも深い位置にある中深層血管が強調されていることが好ましい。
本発明によれば、複数の光を切り替えて照明し、各光の照明により得られる複数の画像を切り替えて表示する場合において、被写体の変化に合わせて、各画像の明るさ、色調等を揃えつつ、各画像の違いを認識しやすい内視鏡システムを提供することができる。
内視鏡システムの外観図である。 内視鏡システムの機能を示すブロック図である。 紫色光V、青色光B、緑色光G、及び赤色光Rの発光スペクトルを示すグラフである。 紫色光V、青色光B、緑色光G、及び赤色光Rを含む第1照明光の発光スペクトルを示すグラフである。 紫色光V、青色光B、緑色光G、及び赤色光Rを含む第2照明光の発光スペクトルを示すグラフである。 第1照明光の発光期間と第2照明光の発光期間を示す説明図である。 発光期間設定メニューを示す説明図である。 撮像センサに設けられたBフィルタ、Gフィルタ、Rフィルタの分光透過率である。 第1画像信号群および第2画像信号群の取得について、時系列により説明する説明図である。 DSPの機能を示すブロック図である。 特殊画像処理部の機能を示すブロック図である。 第1特殊観察画像(第1画像)を示す画像図である。 第1照明光を照明した場合に得られる紫及び青色光画像と緑及び赤色光画像を示す説明図である。 第2特殊観察画像(第2画像)を示す画像図である。 第2照明光を照明した場合に得られる紫及び青色光画像と緑及び赤色光画像を示す説明図である。 取得期間Pにおける補正第1ゲイン係数の一例を説明する説明図である。 取得期間Pにおける補正第1ゲイン係数の別の一例を説明する説明図である。 第1画像信号値平均及び第2画像信号値平均を説明する説明図である。 補正係数の一例を説明する説明図である。 補正係数の別の一例を説明する説明図である。 第1赤色狭帯域光を含む第1照明光の発光スペクトルを示すグラフである。 第2赤色狭帯域光を含む第2照明光の発光スペクトルを示すグラフである。
図1に示すように、本実施形態の内視鏡システム10は、内視鏡12と、光源装置14と、プロセッサ装置16と、モニタ18(表示部)と、ユーザーインターフェース19とを有する。内視鏡12は光源装置14と光学的に接続され、且つ、プロセッサ装置16と電気的に接続される。内視鏡12は、被検体内に挿入される挿入部12aと、挿入部12aの基端部分に設けられた操作部12bと、挿入部12aの先端側に設けられる湾曲部12c及び先端部12dを有している。操作部12bのアングルノブ12eを操作することにより、湾曲部12cは湾曲動作する。この湾曲動作に伴って、先端部12dが所望の方向に向けられる。なお、ユーザーインターフェース19は図示したキーボードの他、マウスなどが含まれる。
また、操作部12bには、アングルノブ12eの他、モード切替SW13a、静止画取得指示部13bが設けられている。モード切替SW13aは、通常観察モードと、第1特殊観察モードと、第2特殊観察モードと、マルチ観察モードとの切替操作に用いられる。通常観察モードは、通常画像をモニタ18上に表示するモードである。第1特殊観察モードは、表層血管などの表層情報を強調した第1特殊観察画像をモニタ18上に表示するモードである。第2特殊観察モードは、深層血管などの深層情報を強調した第2特殊観察画像をモニタ18上に表示するモードである。マルチ観察モードは、第1特殊観察画像(以下、第1画像という)と第2特殊観察画像(以下、第2画像という)とを自動的に切り替えてモニタ18に表示するモードである。なお、モードを切り替えるためには、モード切替SW13aの他に、フットスイッチ等を用いてもよい。
プロセッサ装置16は、モニタ18及びユーザーインターフェース19と電気的に接続される。モニタ18は、画像情報等を出力表示する。ユーザーインターフェース19は、機能設定等の入力操作を受け付けるUI(User Interface:ユーザーインターフェース)として機能する。なお、プロセッサ装置16には、画像情報等を記録する外付けの記録部(図示省略)を接続してもよい。
図2に示すように、光源装置14は、光源部20と、光源制御部21と、光路結合部23と、発光期間設定部24とを有している。光源部20は、V−LED(Violet Light Emitting Diode)20a、B−LED(Blue Light Emitting Diode)20b、G−LED(Green Light Emitting Diode)20c、R−LED(Red Light Emitting Diode)20dを有している。光源制御部21は、LED20a〜20dの駆動を制御する。光路結合部23は、4色のLED20a〜20dから発せられる4色の光の光路を結合する。光路結合部23で結合された光は、挿入部12a内に挿通されたライトガイド41及び照明レンズ45を介して、被検体内に照射される。なお、LEDの代わりに、LD(Laser Diode)を用いてもよい。発光期間設定部24は、複数の照明光のそれぞれの発光期間を設定する。
図3に示すように、V−LED20aは、中心波長405±10nm、波長範囲380〜420nmの紫色光Vを発生する。B−LED20bは、中心波長460±10nm、波長範囲420〜500nmの青色光Bを発生する。G−LED20cは、波長範囲が480〜600nmに及ぶ緑色光Gを発生する。R−LED20dは、中心波長620〜630nmで、波長範囲が600〜650nmに及ぶ赤色光Rを発生する。
光源制御部21は、V−LED20a、B−LED20b、G−LED20c、及びR−LED20dを制御する。また、光源制御部21は、通常観察モード時には、紫色光V、青色光B、緑色光G、及び赤色光R間の光強度比がVc:Bc:Gc:Rcとなる通常光を発光するように、各LED20a〜20dを制御する。
また、光源制御部21は、第1特殊観察モード時には、紫色光V、青色光B、緑色光G、及び赤色光R間の光強度比がVs1:Bs1:Gs1:Rs1となる第1照明光を発光するように、各LED20a〜20dを制御する。光強度比Vs1:Bs1:Gs1:Rs1は、第1照明光の光量条件に対応する。第1照明光は、表層血管を強調することが好ましい。そのため、第1照明光は、紫色光Vの光強度を青色光Bの光強度よりも大きくすることが好ましい。例えば、図4に示すように、紫色光Vの光強度Vs1と青色光Bの光強度Bs1との比率を「4:1」とする。
なお、本明細書において、光強度比は、少なくとも1つの半導体光源の比率が0(ゼロ)の場合を含む。したがって、各半導体光源のいずれか1つまたは2つ以上が点灯しない場合を含む。例えば、紫色光V、青色光B、緑色光G、及び赤色光R間の光強度比が1:0:0:0の場合のように、半導体光源の1つのみを点灯し、他の3つは点灯しない場合も、光強度比を有するものとする。
また、光源制御部21は、第2特殊観察モード時には、紫色光V、青色光B、緑色光G、及び赤色光R間の光強度比がVs2:Bs2:Gs2:Rs2となる第2照明光を発光するように、各LED20a〜20dを制御する。光強度比Vs2:Bs2:Gs2:Rs2は、第2照明光の光量条件に対応する。第2照明光は、深層血管を強調することが好ましいい。そのため、第2照明光は、青色光Bの光強度を紫色光Vの光強度よりも大きくすることが好ましい。例えば、図5に示すように、紫色光Vの光強度Vs2と青色光Bの光強度Bs2との比率を「1:3」とする。
光源制御部21は、マルチ観察モードに設定されている場合には、第1照明光と第2照明光とをそれぞれ第1期間と第2期間の発光期間にて発光し、且つ、第1照明光と第2照明光とを自動的に切り替えて発光する制御を行う。第1期間と第2期間とは、それぞれ少なくとも1フレーム以上の発光期間を有する。
より具体的には、例えば、図6に示すように、光源制御部21は、第1期間を4フレームとし、第2期間を4フレームとした場合、第1照明光が4フレーム続けて発光した後に、第2照明光が4フレーム続けて発光される。そして、この発光パターンを繰り返し行う。
なお、「フレーム」とは、観察対象を撮像する撮像センサ48(図2参照)を制御するための単位をいい、例えば、「1フレーム」とは、観察対象からの光で撮像センサ48を露光する露光期間と画像信号を読み出す読出期間とを少なくとも含む期間のことをいう。本実施形態においては、撮像の単位である「フレーム」に対応して第1期間または第2期間がそれぞれ定められている。
第1照明光の発光期間である第1期間と第2照明光の発光期間である第2期間は、光源制御部21に接続された発光期間設定部24によって、適宜変更が可能である。ユーザーインターフェース19の操作により、発光期間の変更操作を受け付けると、発光期間設定部24は、図7に示すような発光期間設定メニューをモニタ18上に表示する。第1期間は、例えば、2フレームから10フレームの間で変更可能である。各発光期間については、スライドバー26a上に割り当てられている。
第1期間を変更する場合には、ユーザーインターフェース19を操作して、スライドバー26a上の変更したい発光期間を示す位置にスライダ27aを合わせることで、第1期間が変更される。第2期間についても、ユーザーインターフェース19を操作して、スライドバー26b上の変更したい発光期間を示す位置にスライダ27bを合わせることで、第2期間が変更される。なお、スライドバー26bも、例えば、2フレームから10フレームの発光期間が割り当てられている。
図2に示すように、ライトガイド41は、内視鏡12及びユニバーサルコード(内視鏡12と光源装置14及びプロセッサ装置16とを接続するコード)内に内蔵されており、光路結合部23で結合された光を内視鏡12の先端部12dまで伝搬する。なお、ライトガイド41としては、マルチモードファイバを使用することができる。一例として、コア径105μm、クラッド径125μm、外皮となる保護層を含めた径がφ0.3〜0.5mmの細径なファイバケーブルを使用することができる。
内視鏡12の先端部12dには、照明光学系30aと撮像光学系30bが設けられている。照明光学系30aは照明レンズ45を有しており、この照明レンズ45を介して、ライトガイド41からの光が観察対象に照射される。撮像光学系30bは、対物レンズ46及び撮像センサ48を有している。観察対象からの反射光は、対物レンズ46を介して、撮像センサ48に入射する。これにより、撮像センサ48に観察対象の反射像が結像される。
撮像センサ48はカラーの撮像センサであり、被検体の反射像を撮像して画像信号を出力する。この撮像センサ48は、CCD(Charge Coupled Device)撮像センサやCMOS(Complementary Metal-Oxide Semiconductor)撮像センサ等であることが好ましい。本発明で用いられる撮像センサ48は、R(赤)、G(緑)及びB(青)の3色のRGB画像信号を得るためのカラーの撮像センサ、即ち、Rフィルタが設けられたR画素、Gフィルタが設けられたG画素、Bフィルタが設けられたB画素を備えた、いわゆるRGB撮像センサである。
図8に示すように、Bフィルタ48bは、紫色帯域の光、青色帯域の光、及び緑色帯域の光のうち短波側の光を透過させる。Gフィルタ48gは、緑色帯域の光、青色帯域の光の長波側の光、及び赤色帯域の光の短波側の光を透過させる。Rフィルタ48rは、赤色帯域の光、緑色帯域の長波側の光を透過させる。したがって、撮像センサ48のうち、B画素は紫色光V及び青色光Bに感度を有し、G画素は青色光B、緑色光G、及び赤色光Rに感度を有し、R画素は緑色光G及び赤色光Rに感度を有している。
なお、撮像センサ48としては、RGBのカラーの撮像センサの代わりに、C(シアン)、M(マゼンタ)、Y(イエロー)及びG(緑)の補色フィルタを備えた、いわゆる補色撮像センサであっても良い。補色撮像センサを用いる場合には、CMYGの4色の画像信号が出力されるため、補色−原色色変換によって、CMYGの4色の画像信号をRGBの3色の画像信号に変換する必要がある。また、撮像センサ48はカラーフィルタを設けていないモノクロ撮像センサであっても良い。この場合、光源制御部21は青色光B、緑色光G、及び赤色光Rを時分割で点灯させて、撮像信号の処理では同時化処理を加える必要がある。
図2に示すように、撮像センサ48から出力される画像信号は、CDS/AGC回路50に送信される。CDS/AGC回路50は、アナログ信号である画像信号に相関二重サンプリング(CDS(Correlated Double Sampling))や自動利得制御(AGC(Auto Gain Control))を行う。CDS/AGC回路50を経た画像信号は、A/D変換器(A/D(Analog /Digital)コンバータ)52により、デジタル画像信号に変換される。A/D変換されたデジタル画像信号は、プロセッサ装置16に入力される。
プロセッサ装置16は、画像取得部52と、DSP(Digital Signal Processor)54と、ノイズ除去部58と、信号切替部60と、通常観察画像処理部62と、特殊観察画像処理部63と、表示制御部64と、静止画保存部65と、静止画保存制御部66とを備えている。
画像取得部52は、内視鏡12において観察対象を撮像することにより得られた観察画像を取得する。具体的には、観察画像として、内視鏡12からのデジタルのカラー画像信号が画像取得部52に入力される。カラー画像信号は、撮像センサ48のR画素から出力される赤色信号と、撮像センサ48のG画素から出力される緑色信号と、撮像センサ48のB画素から出力される青色信号とから構成される。
図9に示すように、画像取得部52は、第1期間PL1において第1画像信号群を取得する。第1画像信号群は、第1期間PL1において第1照明光L1により照明された被写体を撮像した複数の第1画像信号SP1を含む。また、画像取得部52は、第2期間PL2において第2画像信号群を取得する。第2画像信号群は、第2期間PL2において第2照明光L2により照明された被写体を撮像した複数の第2画像信号SP2を含む。本実施形態では、マルチ観察モードに設定されている場合には、光源制御部21は、第1照明光L1と第2照明光L2とをそれぞれ第1期間PL1と第2期間PL2の発光期間にて発光し、且つ、第1照明光L1と第2照明光L2とを自動的に切り替えて発光する制御を行うため、画像取得部52は、時間の経過により、第1画像信号群、第2画像信号群の順に、周期的に画像を取得する。
第1期間PL1と第2期間PL2とは、それぞれ少なくとも1フレーム以上の発光期間を有するため、第1画像信号群と第2画像信号群とは、それぞれ少なくとも1つ以上の第1画像信号SP1と第2画像信号SP2とを含む。本実施形態では、第1期間PL1と第2期間PL2とは、どちらも4フレームの発光期間である。したがって、第1期間PL1では、4つの第1画像信号SP1を含む第1画像信号群が取得され、第2期間PL2では、4つの第2画像信号SP2を含む第2画像信号群が取得される。
DSP56は、受信した画像信号に対して、欠陥補正処理、オフセット処理、ホワイトバランス処理、リニアマトリクス処理、ガンマ変換処理、又はデモザイク処理等の各種信号処理を施す。また、図10に示すように、DSP54は、ホワイトバランス部55を備える。また、ホワイトバランス部55は、補正係数算出部56を備える。
欠陥補正処理では、撮像センサ48の欠陥画素の信号が補正される。オフセット処理では、欠陥補正処理が施された画像信号から暗電流成分が除かれ、正確な零レベルが設定される。ホワイトバランス部55は、第1画像信号に第1ゲイン係数をかけ合わせて、また、第2画像信号に第2ゲイン係数をかけ合わせて、ホワイトバランス処理を行う。第1ゲイン係数とは、第1画像信号にかけ合わせるゲイン係数を、また、第2ゲイン係数とは、第2画像信号にかけ合わせるゲイン係数を意味する。ホワイトバランス処理では、オフセット処理後の画像信号にゲインを乗じることにより信号レベルが整えられる。補正係数算出部56は、第1ゲイン係数および第2ゲイン係数のうち少なくとも一方を補正するための補正係数を算出する。ホワイトバランス処理後の画像信号には、色再現性を高めるためのリニアマトリクス処理が施される。その後、ガンマ変換処理によって明るさや彩度が整えられる。リニアマトリクス処理後の画像信号には、デモザイク処理(等方化処理、同時化処理とも言う)が施され、各画素で不足した色の信号が補間によって生成される。このデモザイク処理によって、全画素が各色の信号を有するようになる。
ノイズ除去部58は、DSP56でガンマ補正等が施された画像信号に対してノイズ除去処理(例えば移動平均法やメディアンフィルタ法等)を施すことによって、画像信号からノイズを除去する。ノイズが除去された画像信号は、信号切替部60に送信される。
信号切替部60は、モード切替SW13aにより、通常観察モードにセットされている場合には、通常光の照明及び撮像で得られた通常光用画像信号を通常観察画像処理部62に送信する。図11に示すように、特殊観察画像処理部63は、第1特殊観察画像処理部67、第2特殊観察画像処理部68、及び検出部69を含む。そして、第1特殊観察モードにセットされている場合には、第1照明光の照明及び撮像で得られた第1画像信号を第1特殊観察画像処理部67に送信する。第1画像信号には、撮像センサのR画素から出力される第1赤色信号と、撮像センサ48のG画素から出力される第1緑色信号と、撮像センサ48のB画素から出力される第1青色信号が含まれる。また、第2特殊観察モードにセットされている場合には、第2照明光の照明及び撮像で得られた第2画像信号を第2特殊観察画像処理部63に送信する。第2画像信号には、撮像センサのR画素から出力される第2赤色信号と、撮像センサ48のG画素から出力される第2緑色信号と、撮像センサ48のB画素から出力される第2青色信号が含まれる。また、マルチ観察モードにセットされている場合には、第1照明光の照明及び撮像で得られた第1画像信号は第1特殊観察画像処理部67に送信され、第2照明光の照明及び撮像で得られた第2画像信号は第2特殊観察画像処理部63に送信される。
通常観察画像処理部62は、通常観察モード時に得られたRGB画像信号に対して、通常画像用の画像処理を施す。通常画像用の画像処理には、通常画像用の構造強調処理などが含まれる。通常観察画像処理部62では、通常画像用の画像処理を行うために、RGB画像信号に対して掛け合わされる通常画像用パラメータが設けられている。通常画像用の画像処理が施されたRGB画像信号は、通常画像として、通常観察画像処理部62から表示制御部64に入力される。
第1特殊観察画像処理部67は、第1画像信号に基づいて、彩度強調処理、色相強調処理、及び構造強調処理などの画像処理が行われた第1画像を生成する。第1画像では、表層血管が多く含まれているとともに、背景粘膜の色も正確に再現されている。第1特殊観察画像処理部67では、第1画像の画像処理を行うために、第1画像信号に対して掛け合わされる第1画像用のパラメータが設けられている。なお、第1特殊観察画像処理部67では、表層血管を強調する表層血管強調処理は行わないが、処理負荷の状況によっては、表層血管強調処理を行うようにしてもよい。
第1画像により、図12に示すように、観察対象のうち背景粘膜BM、及び、表層血管VS1が表された画像が表示される。第1画像は、紫色光、青色光、緑色光、及び赤色光を含む第1照明光に基づいて得られる。図13に示すように、第1照明光L1が観察対象に照明されると、第1照明光L1のうち紫色光及び青色光V/Bは、表層血管VS1が分布する表層にまで深達する。なお、図13において、紙面上方から第1照明光L1が観察対象に照明され、紙面下方が観察対象の深さ方向Dである。第1照明光では紫色光Vの光強度が青色光B、緑色光G、及び赤色光Rの光強度より強いため、紫色光Vの反射光に基づいて得られる紫色光画像VPに含まれる表層血管VS1の像が強調される。なお、ここでは、紫色光Vの光強度が青色光B、緑色光G、及び赤色光Rの光強度より強いことから、紫色光画像VPとする。また、第1照明光L1のうち赤色光Rは、表層血管VS1及び深層血管VS2(表層血管VS1よりも深い位置にある血管)よりもさらに深い位置に分布する背景粘膜BMにまで深達する。したがって、赤色光Rの反射光に基づいて得られる赤色光画像RPには、背景粘膜BMの像が含まれる。以上から、第1画像は紫色光画像VPと赤色光画像RPを組み合わせた画像であるため、背景粘膜BM及び表層血管VS1の像が表示される。
第2特殊観察画像処理部68は、第2画像信号に基づいて、彩度強調処理、色相強調処理、及び構造強調処理などの画像処理が行われた第2画像を生成する。第2画像では、深層血管が多く含まれているとともに、背景粘膜の色も正確に再現されている。第2特殊観察画像処理部68では、第2画像の画像処理を行うために、第2画像信号に対して掛け合わされる第2画像用のパラメータが設けられている。なお、第2特殊観察画像処理部68では、深層血管を強調する表層血管強調処理は行わないが、処理負荷の状況によっては、深層血管強調処理を行うようにしてもよい。
第2画像により、図14に示すように、観察対象のうち背景粘膜BM、及び、深層血管VS2が表された画像が表示される。第2画像は、紫色光V、青色光B、緑色光G、及び赤色光Rを含む第2照明光に基づいて得られる。図15に示すように、第2照明光L2のうち緑色光Gは、深層血管VS2が分布する深層にまで深達する。なお、図14において、紙面上方から第1照明光L1が観察対象に照明され、紙面下方が観察対象の深さ方向Dである。第2照明光L2では緑色光Gの光強度が青色光B、緑色光G、及び赤色光Rの光強度より強いので、緑色光Gの反射光に基づいて得られる緑色光画像GPに含まれる深層血管VS2の像が強調される。なお、ここでは、緑色光Gの光強度が強いことから、緑色光画像GPとする。また、第2照明光L2のうち赤色光Rは、表層血管VS1及び深層血管VS2(表層血管VS1よりも深い位置にある血管)よりもさらに深い位置に分布する背景粘膜BMにまで深達する。したがって、赤色光Rの反射光に基づいて得られる赤色光画像RPには、背景粘膜BMの像が含まれる。以上から、第2画像は赤色光画像RPを組み合わせた画像であるため、背景粘膜BM及び深層血管VS2の像が表示される。
以上のように、本実施形態では、第1画像信号により第1特殊観察画像を生成し、かつ、第2画像信号により第2特殊観察画像を生成し、第1特殊観察画像は表層血管が強調されており、第2特殊観察画像は表層血管よりも深い位置にある中深層血管が強調されることが好ましい。
検出部69は、通常画像、第1画像及び第2画像により、血管または病変を検出する。上記のとおり、第1画像は、表層血管VS1が表された画像であり、第2画像は、深層血管VS2が表された画像であるため、画像処理により、これらの血管を検出することができる。また、検出部69は、第1画像または第2画像における異常部分を検出し、異常画像信号とする。血管または病変の検出結果は、ホワイトバランス部55または光源制御部21に送られる。
表示制御部64は、通常観察画像処理部62または特殊観察画像処理部63から入力された通常画像、第1画像、および/または第2画像を、モニタ18で表示可能な画像として表示するための制御を行う。表示制御部64による制御によって、各観察モードに応じた画像が表示される。通常観察モードの場合には、通常画像がモニタ18に表示される。また、第1特殊観察モードの場合には、第1画像(図12参照)がモニタ18に表示される。また、第2特殊観察モードの場合には、第2画像(図14参照)がモニタ18に表示される。
また、マルチ観察モードの場合には、第1照明光の発光期間と第2照明光の発光期間に合わせて、カラーの第1画像と第2画像が切り替えてモニタ18に表示される。即ち、第1期間が4フレームで、第2期間が4フレームである場合には、第1表示用観察画像が4フレーム続けて表示され、かつ、第2表示用観察画像が4フレーム続けて表示される。
以上のように、マルチ観察モードにおいては、ユーザーによるモード切替SW13aの操作を行うことなく、2種類の第1画像と第2画像を自動的に切り替えて表示することができる。このように自動的に切り替えて表示することで、観察対象に動き又は内視鏡12の先端部12dに動きが無い限り、第1画像と第2画像とでは同一の観察対象が表示される。ただし、第1画像と第2画像とでは同一の観察対象であっても、それぞれ分光情報が異なっているため、分光情報の違いにより観察対象の見え方は異なっている。即ち、第1画像では表層血管の視認性が高くなっている一方、第2画像では深層血管の視認性が高くなっている。したがって、第1画像と第2画像とを切り替えて表示することによって、深さが異なる複数の血管に対する視認性の向上を図ることができる。
なお、本実施形態では、通常観察モード、第1特殊観察モード、第2特殊観察モード、及び、第1特殊観察モードと第2特殊観察モードとを切替えるマルチ観察モードとを備えるが、通常観察モード、第1特殊観察モードと第2特殊観察モードとを切替えるマルチ観察モードに加え、これらの観察モードとは異なる複数の観察モードを備えても良い。この場合は、より多角的に被写体を観察することができる。
静止画保存制御部66は、静止画取得指示部13bの指示に従って、その静止画取得指示のタイミングで得られた画像を静止画として静止画保存部65に保存する制御を行う。通常観察モードの場合であれば、静止画取得指示のタイミングで得られた通常画像を静止画として静止画保存部65に保存する。第1特殊観察モードの場合であれば、静止画取得指示のタイミングで得られた第1特殊観察画像を静止画として静止画保存部65に保存する。第2特殊観察モードの場合であれば、静止画取得指示のタイミングで得られた第2特殊観察画像を静止画として静止画保存部65に保存する。また、マルチ観察モードの場合であれば、静止画取得指示のタイミングで得られた第1特殊観察画像と第2特殊観察画像の1セットの表示用観察画像を静止画保存部65に保存する。
次に、ホワイトバランス処理について、以下に詳説する。ホワイトバランス部55は、第1ゲイン係数と第2ゲイン係数の少なくともいずれかを補正した補正ゲイン係数を用いて、ホワイトバランス処理を行う。第1ゲイン係数を補正した場合は、補正第1ゲイン係数を用い、また、第2ゲイン係数を補正した場合は、補正第2ゲイン係数を用いる。補正は、各種データを用いて算出した特定の係数をかけ合わせてもよい。算出については、その都度算出してもよいし、一定の期間を設定し、その期間毎に算出してもよい。
したがって、ゲイン係数として、第1ゲイン係数と第2ゲイン係数の少なくともいずれかを補正した補正ゲイン係数を用いるため、第1照明光による第1画像信号と第2照明光による第2画像信号とによる画像を切り替えて表示する場合において、被写体の変化に合わせて、各画像の明るさ、色調等を揃えつつ、各画像の違いを認識しやすい内視鏡システムを提供することができる。
本実施形態では、ホワイトバランス部55は、補正なしの固定の第2ゲイン係数を用いて、ホワイトバランス処理を行う。この場合、第1ゲイン係数を補正する。これにより、第2画像信号の色調が変化して、例えば、第1画像信号と第2画像信号で、正常粘膜と炎症を伴う粘膜が同じ色調となることが避けられる。しかも、第1画像信号の色調は、第2画像信号の色調に合わせられる。したがって、第1画像信号と第2画像信号との違いを保ちつつ、例えば、正常粘膜と炎症を伴う粘膜等の色調の違いを保つことができ、より正しい診断を行うことができる。
本実施形態では、第1画像信号または第2画像信号は、青色信号、赤色信号、及び緑色成分を含み、第1画像信号の信号値または第2画像信号の信号値は、青色信号値、赤色信号値、及び緑色信号値からなる。また、ホワイトバランス部55は、第1ゲイン係数または第2ゲイン係数を、青色信号値、赤色信号値、及び緑色信号値のそれぞれについて定める。
本実施形態では、第1ゲイン係数を補正する場合において、ある取得期間P(Nは整数)の第1画像信号群に含まれる第1画像信号に対して用いる取得期間Pの第1ゲイン係数は、取得期間Pの直前の取得期間PN−2の第1画像信号に対して用いた第1ゲイン係数を補正した補正第1ゲイン係数ARを用いる。取得期間Pは、特定の第1期間PL1または第2期間PL2を指す。本実施形態では、Nが奇数の場合は、第1画像信号群を取得する取得期間であり、Nが偶数の場合は、第2画像信号群を取得する取得期間である。
図16を用いて補正第1ゲイン係数ARを説明する。図16の矢印で示す任意の第1期間PL1である取得期間Pに対し、取得期間Pの直前の第2期間PL2を取得期間P、取得期間Pの直前の第1期間PL1を取得期間Pとする。取得期間Pの前は、取得期間P、取得期間P、取得期間Pの後は取得期間P、取得期間Pと、順に続く。取得期間Pに含まれる第1画像信号SP1の赤色信号値に対する第1ゲイン係数を第1ゲイン係数R、緑色信号値に対する第1ゲイン係数を第1ゲイン係数G、及び青色信号値に対する第1ゲイン係数を第1ゲイン係数Bとするので、取得期間Pに含まれる第1画像信号SP1の赤色信号値に対する第1ゲイン係数は、第1ゲイン係数R、緑色信号値に対する第1ゲイン係数は、第1ゲイン係数G、及び青色信号値に対する第1ゲイン係数は、第1ゲイン係数Bである。また、Nが奇数の場合の取得期間Pにおいて取得された画像信号が、第1画像信号SP1である。同様に、Nが偶数の場合の取得期間Pにおいて取得された画像信号が、第2画像信号SP2である。取得期間Pにおいて、Nが奇数の場合は第1画像信号群を取得する第1期間PL1であり、Nが偶数の場合は第2画像信号群を取得する第2期間PL2である。以下、主に赤色信号値に対する第1ゲイン係数Rを代表として説明を行うが、緑色信号値に対する第1ゲイン係数G、及び青色信号値に対する第1ゲイン係数Bについても同様である。
第1ゲイン係数を補正する場合について説明する。例えば、N=5の場合、取得期間Pにおいて、赤色信号値については、図16の矢印に示すように、取得期間Pの第1画像信号群に含まれる第1画像信号SP1に対して用いる取得期間Pの第1ゲイン係数Rは、取得期間Pの直前の第1画像信号を取得する取得期間Pの第1画像信号に対して用いた第1ゲイン係数Rを補正した補正第1ゲイン係数ARを用いる。補正ゲイン係数ARは、ゲイン係数Rが補正されたものであることを示す。したがって、ゲイン係数Rとして補正されたゲイン係数Rを用いる場合は、ゲイン係数Rは補正ゲイン係数ARと同じである。
上記したとおり、緑色信号値及び青色信号値についても、それぞれ同様である。したがって、緑色信号値については、取得期間Pの第1画像信号群に含まれる第1画像信号SP1に対して用いる取得期間Pの第1ゲイン係数Gは、取得期間Pの直前の第1画像信号を取得する取得期間Pの第1画像信号に対して用いた第1ゲイン係数Gを補正した補正第1ゲイン係数AGを用いる。また、青色信号値については、取得期間Pの第1画像信号群に含まれる第1画像信号SP1に対して用いる取得期間Pの第1ゲイン係数Bは、取得期間Pの直前の第1画像信号を取得する取得期間Pの第1画像信号に対して用いた第1ゲイン係数Bを補正した補正第1ゲイン係数ABを用いる。
以上のように、取得期間Pに取得された第1画像信号SP1においては、複数の光を切り替えて照明し、各光の照明により得られる複数の画像を切り替えて表示する場合において、補正第1ゲイン係数AR、AG、及びABを用いるため、安定した色調および明るさの画像を得ることができる。
本実施形態では、第1ゲイン係数Rの補正には、第1ゲイン係数Rを補正するための補正係数Wを用いる。補正係数Wは、第1画像信号群に基づく演算により得られる第1演算値と、第2画像信号群に基づく演算により得られる第2演算値とを用いて算出する。第1演算値は、第1画像信号群の信号値の代表値を表しており、第2演算値は、第2画像信号群の信号値の代表値を表す。補正係数Wは、第1演算値と第2演算値の比であることが好ましい。第1及び第2演算値と補正係数Wの詳細については後述する。なお、第2ゲイン係数の補正をする場合についても、同様の補正係数を用いて補正してもよい。
赤色信号に対する第1ゲイン係数Rを補正するための補正係数をWr、緑色信号に対する第1ゲイン係数G、及び第1ゲイン係数Bの補正係数を、それぞれWg及びWbとする。取得期間Pの直前の取得期間PN−2の第1画像信号に対して用いた第1ゲイン係数RN−2、GN−2、BN−2に、補正係数Wr、Wg及びWbをかけ合わせることにより補正する場合の補正第1ゲイン係数AR、AG、ABは、以下の式(1)〜(3)となる。
AR=Wr*RN−2 (1)
AG=Wg*GN−2 (2)
AB=Wb*BN−2 (3)
第1ゲイン係数Rの補正は上記のように行われるため、第1ゲイン係数Rが、第1画像信号群に基づく演算により得られる第1演算値、および第2画像信号群に基づく演算により得られる第2演算値を用いて算出した補正係数Wrで補正したものとなる。したがって、第2照明光L2による第2期間PL2と第1照明光L1による第1期間PL1とを、あわせて調整することとなるため、複数の光を切り替えて照明し、各光の照明により得られる複数の画像を切り替えて表示する場合に、被写体の変化に合わせて、各画像の色味を揃えつつ、各画像の違いを可視化することができる。
また、本実施形態では、第1ゲイン係数Rを補正する場合において、すなわち、第1ゲイン係数として、補正の処理がされた補正第1ゲイン係数ARを用いる場合において、取得期間Pの直前の取得期間PN−2の第1画像信号に対して用いた第1ゲイン係数RN−2に加え、それより前の取得期間の第1ゲイン係数Rを用いて補正してもよい。
より具体的には、取得期間Pの第1ゲイン係数Rは、複数の取得期間PN−Kの第1ゲイン係数RN−Kに対して、それぞれ重み付け係数をかけて加算した値としてもよい。Kは、2以上の偶数である。重み付け係数は、取得期間Pに近いほど大きくすることが好ましい。
また、取得期間Pよりも前の複数の取得期間PN−Kの第1ゲイン係数RN−Kは、少なくとも一部はそれぞれ補正された補正第1ゲイン係数ARN−Kである。複数の取得期間PN−Kの第1ゲイン係数は、各取得期間PN−Kにおいてホワイトバランス処理で用いられている第1ゲイン係数であることが好ましい。したがって、この場合は、第1ゲイン係数RN−Kとして補正第1ゲイン係数ARN−Kを用いるため、第1ゲイン係数RN−Kと補正第1ゲイン係数ARN−Kとは等しい。なお、本実施形態では、取得期間Pよりも前の複数の取得期間PN−Kの第1ゲイン係数RN−Kは、それぞれすべて補正の処理がされた補正第1ゲイン係数ARN−Kであり、複数の取得期間PN−Kでは、ホワイトバランス処理で用いられている第1ゲイン係数RN−Kは、補正の処理がされた補正第1ゲイン係数ARN−Kである。
このように第1ゲイン係数を補正する場合、例えば、取得期間Pにおいて、N=5の場合、赤色信号値については、図17の矢印に示すように、取得期間Pの第1画像信号群に含まれる第1画像信号SP1に対して用いる取得期間Pの第1ゲイン係数Rは、取得期間Pの直前の取得期間Pの第1画像信号SP1に対して用いた第1ゲイン係数である補正第1ゲイン係数ARと、取得期間Pの2回前の第1画像信号SP1に対して用いた第1ゲイン係数である補正第1ゲイン係数ARと、それ以前の第1画像信号SP1を取得する取得期間Pがあれば、それぞれの補正第1ゲイン係数ARと、複数の取得期間Pの補正第1ゲイン係数ARを用いる。用いる補正第1ゲイン係数ARの個数は特に制限されない。したがって、取得期間P以前については図示をしないが、例えば、取得期間Pの前に、取得期間P−1、P−3、…があれば、取得期間P−1、P−3、…の第1画像信号SP1に対して用いた補正第1ゲイン係数ARである第1ゲイン係数AR−1、AR−3…を用いる。
重み付け係数については、取得期間Pに近いほど大きくすることが好ましい。ここで、重み付け係数をαとし、取得期間PN−Kの第1ゲイン係数RN−K(Kは2以上の偶数)について、取得期間PN−2の補正第1ゲイン係数ARN−2に対する重み付け係数をα、取得期間PN−4の補正第1ゲイン係数ARN−4に対する重み付け係数をαと、番号を順次付す。取得期間Pにおける第1ゲイン係数Rは、数式にすると、以下の式(4)及び(5)とすることができる。ここで、Nは整数、nは自然数である。
Figure 2020158165
なお、重み付け係数は、以上のように付す場合、重み付け係数αを全て足すと1となるようにする。式(4)において、重み付け係数αは、取得時期Pに近い補正第1ゲイン係数ARN−Kほど重い係数をかけることができる。したがって、例えば、αを0.5とし、αを0.25、αを0.125、と0.5のn乗とする。したがって、αについては数式(5)とすることができる。
本実施形態においては、例えば、取得期間Pの補正第1ゲイン係数ARを重み付け係数αの重みで、取得期間Pの補正第1ゲイン係数ARを重み付け係数αの重みで、取得期間P−1の補正第1ゲイン係数を重み付け係数αの重みでそれぞれ重み付けを行うとすると、αを0.5,αを0.25、αを0.125、α以下の重み付け係数を全て合わせると0.125、とするというように、取得期間Pに近いほど重み付け係数を大きくする。
また、図17において、例えば、取得期間Pが最初の取得期間Pであるとすると、取得期間Pにおいて取得される第1画像信号SP1に対して用いられる第1ゲイン係数Rは、以下の式(6)となる。なお、αは0.5、αは0.5である。
Figure 2020158165
以上のように、取得期間Rの第1画像信号SP1に用いる第1ゲイン係数Rを算出するために、1回前の取得期間PN−2の第1画像信号SP1に対するゲイン係数RN−2のみならず、それ以前の取得期間の複数の第1画像信号SP1に対するゲイン係数をも用いるため、急に色味または明るさが変化した被写体であってもゲイン係数が大きくかわることがなく、引き続いて同様の色味または明るさで観察することができる。したがって、複数の光を切り替えて照明し、各光の照明により得られる複数の画像を切り替えて表示する場合において、安定した色調および明るさの画像を得ることができる。なお、以上の実施形態では、主に、第1ゲイン係数について説明したが、第2ゲイン係数を補正する場合は、第1ゲイン係数と同様に行うことができる。
本実施形態では、補正係数の算出に第1演算値と第2演算値を用いても良い。補正係数の算出に用いられる第1演算値と第2演算値は、次のようにすることが好ましい。すなわち、第1演算値は、第1画像信号群に含まれる第1画像信号SP1において、第1画像信号SP1の信号値を平均して得られる第1画像信号値平均のそれぞれを加算平均して得られ、第2演算値は、第2画像信号群に含まれる第2画像信号SP2において、第2画像信号SP2の信号値を平均して得られる第2画像信号値平均のそれぞれを加算平均して得られる。なお、第1演算値及び第2演算値は、上記のように各画像信号値平均の加算平均の他に、第1画像信号群および第2画像信号群により得られる値を用いることができ、例えば、過去の特定期間分の第1画像信号群が含む第1画像信号SP1の信号値と、過去の特定期間分の第2画像信号群が含む第2画像信号SP2の信号値とを、加算、平均等の演算の処理をしたもの等を用いてもよい。
より具体的には、例えば、補正係数算出部56が、まず、第1画像信号群に含まれる第1画像信号SP1のそれぞれについて、第1画像信号SP1の信号値を平均した第1画像信号値平均を、第1画像信号SP1の個数分、算出する。次に、これらの複数の第1画像信号値平均のそれぞれを、加算平均して得られる値を第1演算値とする。さらに、第2画像信号群に含まれる第2画像信号SP2においても同様に、第2画像信号SP2のそれぞれについて、第2画像信号SP2の信号値を平均した第2画像信号値平均を、第2画像信号SP2の個数分、算出する。次に、これらの複数の第2画像信号値平均のそれぞれを、加算平均して得られる値を第2演算値とする。
第1演算値及び第2演算値について、図18を用いて説明する。例えば、取得期間Pに含まれる第1画像信号SP1に対して用いる補正ゲイン係数ARの補正係数を算出するために、取得期間P1と取得期間P2の画像信号に基づく演算により、第1演算値及び第2演算値を算出する。まず、取得期間Pに含まれる複数の第1画像信号SP1のうちの任意の1つの第1画像信号のRGB信号値を、r1−1、g1−1、b1−1とし、別の1つの第1画像信号のRGB信号値を、r1−2、g1−2、b1−2とし、順次番号を付与する。取得期間Pは、フレーム数がLであるので、取得期間Pに含まれる第1画像信号はL個であり、第1画像信号のRGB信号値は、r1−1、g1−1、b1−1からr1−L、g1−L、b1−Lまでとなる。
また、同様に、取得期間Pに含まれる複数の第2画像信号SP2についても同様に、取得期間に含まれる複数の第2画像信号SP2のうちの任意の1つの第2画像信号のRGB信号値を、r2−1、g2−2、b2−3とする。取得期間Pは、フレーム数がMであるので、取得期間Pに含まれる第2画像信号は、M個であり、第2画像信号のRGB信号値は、r2−1、g2−1、b2−1からr2−M、g2−M、b2−Mまでとなる。
また、各画像信号の水平画素数をi、垂直画素数をjとする。第1画像信号値平均は、複数の第1画像信号の各色信号値の画像面内の平均であり、Sr1−1、Sg1−1、Sb1−1とする。同様に、第2画像信号値平均は、複数の第2画像信号の各色信号値の画像面内の平均であり、Sr2−1、Sg2−1、Sb2−1とする。したがって、Sr1−1、Sg1−1、Sb1−1、Sr2−1、Sg2−1、Sb2−1は、以下の式(7)〜(12)により得られる。一般式は、以下の式(13)〜(18)となる。
Figure 2020158165
Figure 2020158165
次に、第1演算値は、第1画像信号値平均のそれぞれを加算平均して得られる値であるので、取得期間P1の第1画像信号値平均Sr1−Lを、取得期間Pに含まれるフレーム数の個数の複数の第1画像信号について、すべてを加算して平均した値を、それぞれ、AveSr、AveSg、AveSbとする。したがって、取得期間Pの第1画像信号値平均は、Sr1−1からSr1−LまでのL個があるため、これらを足し合わせてLで割った値である。これらは以下の式(19)〜(21)により得られる。同様に、第2演算値は、第2画像信号値平均のそれぞれを加算平均して得られる値であるので、取得期間Pの第2画像信号値平均を、取得期間Pに含まれるフレーム数の個数の複数の第2画像信号について、すべてを加算して平均した値を、それぞれ、AveSr、AveSg、AveSbとすると、これらは以下の式(22)〜(24)により得られる。
Figure 2020158165
ここで、例えば、取得期間Pの補正係数Wについて、赤色信号のゲイン係数の補正係数をWr、緑色信号のゲイン係数の補正係数をWg、青色信号のゲイン係数の補正係数をWgとすると、これらの補正係数Wr、Wg、Wbは、取得期間Pの第1演算値であるAveSr、AveSg、AveSbと、取得期間Pの第2演算値であるAveSr、AveSg、AveSbとを用いて算出する。なお、本実施形態では、赤色信号の補正係数Wrを、赤色信号の第1演算値AveSrと赤色信号の第2演算値AveSrとを用いて算出するというように、演算値と補正係数とを同色にする。場合によっては、同色以外の組み合わせにより補正係数を算出してもよい。
なお、第1画像信号値平均または第2画像信号値平均を算出する場合には、検出部69が、第1画像信号または第2画像信号において、血管または病変であると検出した部分の画像信号を異常画像信号であるとして除いた上で、第1画像信号値平均または第2画像信号値平均を算出することが好ましい。同様に、検出部69が、第1画像信号または第2画像信号において、異常画素であると検出した部分の画像信号を異常画像信号であるとして除いた上で、第1画像信号値平均または第2画像信号値平均を算出することが好ましい。ここで、異常画素とは、暗部、ハレーション等の明部、または、異常フレーム等を含む。
第1演算値または第2演算値を上記のように算出することにより、第1画像信号及び第2画像信号において、それぞれ画像全体の信号値を用いて補正係数を算出する。したがって、各光の照明により得られる複数の画像を切り替えて表示する場合において、被写体の変化に合わせて、画像全体として、色味、明るさ等が急激に変化することを防止して複数の画像を表示することができるため、複数の画像の違いの認識が容易となる。なお、第1画像信号及び第2画像信号において、それぞれ異常画像信号を除いた画像の信号値を用いて補正係数を算出する場合は、さらに、安定した色調、明るさで複数の画像を表示することができる。
本実施形態では、第1演算値と第2演算値の比を補正係数とする場合には、以下のようにして、補正係数が得られる。すなわち、取得期間Pの第1ゲイン係数は、取得期間PN−2の第1画像信号群に含まれる第1画像信号に対して用いた第1ゲイン係数に、取得期間PN−2における第1演算値と取得期間PN−1における第2演算値との比の値をかけ合わせた値とすることができる。
例えば、図19に示すように、取得期間Pの補正係数Wr、Wg、Wbは、第1演算値、第2演算値として、AveSr、AveSg、AveSb、AveSr、AveSg、AveSbとを用いることにより、以下の式(25)〜(27)とする。
Figure 2020158165
したがって、取得期間Pの各色のゲイン係数をR、G、Bとして補正ゲイン係数である補正第1ゲイン係数AR、AG、及びABを用いる場合、上記式(1)〜(3)と式(25)〜(27)とにより、以下の式(28)〜(30)とすることができる。
Figure 2020158165
式(28)〜(30)は、取得期間Pのゲイン係数に関する式であるが、これを一般化すると、以下の式(31)〜(33)とすることができる。以下の式(31)〜(33)において、hは奇数である。したがって、以下の式(31)〜(33)により、第1照明光により得られる取得期間(h+2)における第1画像に対する補正第1ゲイン係数ARh+2、AGh+2、及びABh+2が得られる。
Figure 2020158165
また、図20に示すように、取得期間Pの第1ゲイン係数Rを、複数の取得期間PN−Kの第1ゲイン係数RN−Kに対して、それぞれ重み付け係数をかけて加算した値とする場合は、式(4)と式(31)〜(33)とにより、補正第1ゲイン係数は、以下の式(34)とすることができる。ここで、第1ゲイン係数は、取得期間hにおける第1ゲイン係数とする。ここで、Kは2以上の偶数である。
Figure 2020158165
なお、式(34)において、係数αは、上記したとおり、全てを足すと1となるようにし、取得期間hに近い補正第1ゲイン係数ほど大きい係数とする。したがって、例えば、αを0.5とし、αを0.25、αを0.125、と0.5のn乗とする。したがって、αは、数式(5)とすることができる。
Figure 2020158165
以上のように、例えば、第1ゲイン係数を算出するために、前回の第1画像に対するゲイン係数のみならず、前々回の第1画像に対するゲイン係数をも用いるため、急に色味または明るさが変化した被写体であってもゲイン係数が大きくかわることがなく、引き続いて同様の色味または明るさで観察することができる。なお、以上の実施形態では、主に、第1ゲイン係数について説明したが、第2ゲイン係数の算出も同様に行うことができる。
以上のとおり、補正係数を上記のように、直前の第1演算値と第2演算値とにより算出することにより、ゲイン係数を被写体の変化に合わせて補正できるため、より良く被写体の変化に合わせながら、各画像の色味を揃えつつ、各画像の違いを可視化することができる。
なお、取得期間Pの第1ゲイン係数R、G、及びBと、取得期間PN−2の第1画像信号群に含まれる第1画像信号に対して用いた第1ゲイン係数RN−2、GN−2、及びBN−2との差が、予め設定した閾値以下の場合は、取得期間Pの第1ゲイン係数R、G、及びBの補正を行わないことが好ましい。また、取得期間Pの第1ゲイン係数R、G、及びBと、取得期間PN−2の第1画像信号群に含まれる第1画像信号に対して用いた第1ゲイン係数RN−2、GN−2、及びBN−2との差が、予め設定した閾値以上の場合は、取得期間Pの第1ゲイン係数R、G、及びBの補正を行わないことが好ましい。ここで、予め設定した閾値以下の場合とは、例えば、画像信号に不感帯等の異常画素部分を有している場合等である。ここで、不感帯とは、取得した画像において照明光が届かない部分、レンズ外の部分等である。また、予め設定した閾値以上の場合とは、例えば、画像信号にハレーション等の異常画素部分が含まれる場合である。これらの画像信号の異常画素部分は、検出部69により検出される。
なお、上記実施形態では、光源制御部21は、予め設定された光量比により、各照明光を発光していたが、第1ゲイン係数または第2ゲイン係数に基づいて、光量比を制御して各照明光を発光してもよい。すなわち、第1照明光は、紫色光、青色光、緑色光、及び赤色光を含み、第2照明光は、紫色光、青色光、緑色光及び赤色光を含み、光源制御部21は、第1照明光と第2照明光とが含む各色のそれぞれの発光量を、第1ゲイン係数または第2ゲイン係数に基づいて制御してもよい。
光源制御部21は、第1照明光について、紫色光V、青色光B、緑色光G、及び赤色光R間の光強度比がVs1:Bs1:Gs1:Rs1となる第1照明光を発光するように、各LED20a〜20dを制御する。その結果、第1画像のR信号値、第1画像のG信号値、第1画像のB信号値が得られるが、例えば、補正第1ゲイン係数が、それぞれAR、AG、ABと算出された場合、ゲイン処理を行わない場合に第1画像信号値にそれぞれ補正第1ゲイン係数AR、AG、ABをかけ合わせた値のR信号値となるように、第1照明光の光強度比を制御してもよい。第1画像のG信号値、第1画像のB信号値についても、同様にして、第1照明光の光強度比を制御することができる。
なお、光源制御部21は、上記のように補正第1ゲイン係数または補正第2ゲイン係数に基づいて制御された発光量が、特定の閾値以下である場合、予め設定された最低発光量まで発光量を増加させることが好ましい。例えば、光源制御部21は、第1ゲイン係数によりホワイトバランス処理を行った画像信号値が、ホワイトバランス処理を行わなかった場合に同様の画像信号値となる発光量に、発光量を制御するが、この際の発光量を特定の閾値と比較する。
このように光源制御部21が光量比を調整することにより、ゲイン処理を行うことにより、処理を行った画像にノイズが発生する場合があるが、これにより、ゲイン処理によるノイズの発生を抑えながら、色味、または明るさを整えた画像を得ることができる。
なお、上記実施形態のように、第1照明光は、紫色光V、青色光B、緑色光G、赤色光Rを含めることに代えて、図21に示すように、中心波長又はピーク波長が560〜580nmの第1赤色狭帯域光NR1を第1照明光に含めるようにしてもよい。また、第2照明光には、紫色光V、青色光B、緑色光G、赤色光Rを含めることに代えて、図22に示すように、中心波長又はピーク波長が630〜670nmの第2赤色狭帯域光NR2を含めるようにしてもよい。この場合には、第1赤色狭帯域光NR1を観察対象に撮像して得られる第1画像信号のうち特定生体組織に少なくとも対応する特定生体組織の第1赤色信号(第1特定色信号)の信号値と、第2赤色狭帯域光NR2を観察対象に撮像して得られる第2画像信号のうち特定生体組織に少なくとも対応する特定生体組織の第2赤色信号(第2特定色信号)の信号値とが一致するように、特定光量条件(第1赤色狭帯域光NR1の光量条件、第2赤色狭帯域光NR2の光量条件)を定めることが好ましい。なお、第1赤色狭帯域光NR1と第2赤色狭帯域光NR2は、それぞれ撮像センサ48のR画素に感度を有している。
上記実施形態において、画像取得部52、DSP54、ノイズ除去部58、通常観察画像処理部62、特殊観察画像処理部63、表示制御部64、静止画保存部65、静止画保存制御部66など、プロセッサ装置16に含まれる処理部(processing unit)のハードウェア的な構造は、次に示すような各種のプロセッサ(processor)である。各種のプロセッサには、ソフトウエア(プログラム)を実行して各種の処理部として機能する汎用的なプロセッサであるCPU(Central Processing Unit)、GPU(Graphical Processing Unit)、FPGA(Field Programmable Gate Array)などの製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、ASIC(Application Specific Integrated Circuit)などの特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路などが含まれる。
1つの処理部は、これら各種のプロセッサのうちの1つで構成されてもよいし、同種または異種の2つ以上のプロセッサの組み合せ(例えば、複数のFPGAや、CPUとFPGAの組み合わせ、GPUとCPUの組み合わせ)で構成されてもよい。また、複数の処理部を1つのプロセッサで構成してもよい。複数の処理部を1つのプロセッサで構成する例としては、第1に、クライアントやサーバなどのコンピュータに代表されるように、1つ以上のCPUとソフトウエアの組み合わせで1つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。第2に、システムオンチップ(System On Chip:SoC)などに代表されるように、複数の処理部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の処理部は、ハードウェア的な構造として、上記各種のプロセッサを1つ以上用いて構成される。
さらに、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子などの回路素子を組み合わせた形態の電気回路(circuitry)である。
なお、本発明は、上記実施形態のような内視鏡システムに組み込まれるプロセッサ装置の他、カプセル型の内視鏡システムに組み込まれるプロセッサ装置、または各種の医用画像処理装置に対して適用することが可能である。
本発明は、下記の別形態によっても実施可能である。
第1照明光と、前記第1照明光とは異なる発光スペクトルを有する第2照明光とを発光する光源部を備える内視鏡システムのプロセッサ装置において、
第1照明光と前記第2照明光とを自動的に切り替えて発光する制御を行い、第1照明光を発光する発光期間と前記第2照明光を発光する発光期間は、それぞれ少なくとも1フレーム以上の発光期間であり、、
第1照明光の発光期間において第1照明光により照明された被写体を撮像して得られる第1画像信号を含む第1画像信号群と、第2照明光の発光期間において第2照明光により照明された被写体を撮像して得られる第2画像信号を含む第2画像信号群とを取得し、
第1画像信号に第1ゲイン係数をかけ合わせ、第2画像信号に第2ゲイン係数をかけ合わせてホワイトバランス処理を行い、
ホワイトバランス部は、第1ゲイン係数と第2ゲイン係数の少なくともいずれかを補正した補正ゲイン係数を用いて、ホワイトバランス処理を行うプロセッサ装置。
10 内視鏡システム
12 内視鏡
12a 挿入部
12b 操作部
12c 湾曲部
12d 先端部
12e アングルノブ
13a モード切替SW
13b 静止画取得指示部
14 光源装置
16 プロセッサ装置
18 モニタ
19 ユーザーインターフェース
20 光源部
20a V−LED(Violet Light Emitting Diode)
20b B−LED(Blue Light Emitting Diode)
20c G−LED(Green Light Emitting Diode)
20d R−LED(Red Light Emitting Diode)
21 光源制御部
23 光路結合部
24 発光期間設定部
26a スライドバー
26b スライドバー
27a スライダ
27b スライダ
30a 照明光学系
30b 撮像光学系
41 ライトガイド
45 照明レンズ
46 対物レンズ
48 撮像センサ
48b Bフィルタ
48g Gフィルタ
48r Rフィルタ
50 CDS/AGC回路
52 画像取得部
54 DSP(Digital Signal Processor)
55 ホワイトバランス部
56 補正係数算定部
58 ノイズ除去部
60 信号切替部
62 通常観察画像処理部
63 特殊観察画像処理部
64 表示制御部
65 静止画保存部
66 静止画保存制御部
67 第1特殊観察画像処理部
68 第2特殊観察画像処理部
69 検出部
L1 第1照明光
L2 第2照明光
PL1 第1期間
PL2 第2期間
SP1 第1特殊観察画像(第1画像)
SP2 第2特殊観察画像(第2画像)
VP 紫色光画像
RP 赤色光画像
VS1 表層血管
VS2 中層血管
BM 背景粘膜
V/B 紫色光及び青色光
G 緑色光
R 赤色光
D 深さ方向
しかしながら、短波光と中波長光を切り替えて照明した場合には、表層画像の信号値と深層画像の信号値とが大きく異なると、表層画像と深層画像とで画像全体の色味が大きく異なる。したがって、例えば、短波と中波長光とを自動で切替えて照明した場合には、色味が違う画像が自動で切り替えられて表示されるため、見づらい画面となるおそれがある。また、診断時に注目する表層情報及び深層情報の視認性が低下するおそれがある。
第1画像信号または第2画像信号は、青色信号、赤色信号、及び緑色信号を含み、第1画像信号の信号値または第2画像信号の信号値は、青色信号値、赤色信号値、及び緑色信号値からなることが好ましい。
また、光源制御部21は、第2特殊観察モード時には、紫色光V、青色光B、緑色光G、及び赤色光R間の光強度比がVs2:Bs2:Gs2:Rs2となる第2照明光を発光するように、各LED20a〜20dを制御する。光強度比Vs2:Bs2:Gs2:Rs2は、第2照明光の光量条件に対応する。第2照明光は、深層血管を強調することが好ましい。そのため、第2照明光は、青色光Bの光強度を紫色光Vの光強度よりも大きくすることが好ましい。例えば、図5に示すように、紫色光Vの光強度Vs2と青色光Bの光強度Bs2との比率を「1:3」とする。
図8に示すように、Bフィルタ48bは、紫色帯域の光、青色帯域の光、及び緑色帯域の光のうち短波側の光を透過させる。Gフィルタ48gは、緑色帯域の光、青色帯域の光の長波側の光、及び赤色帯域の光の短波側の光を透過させる。Rフィルタ48rは、赤色帯域の光、緑色帯域の光の長波側の光を透過させる。したがって、撮像センサ48のうち、B画素は紫色光V及び青色光Bに感度を有し、G画素は青色光B、緑色光G、及び赤色光Rに感度を有し、R画素は緑色光G及び赤色光Rに感度を有している。
図2に示すように、撮像センサ48から出力される画像信号は、CDS/AGC回路(CDS/AGC)50に送信される。CDS/AGC50は、アナログ信号である画像信号に相関二重サンプリング(CDS(Correlated Double Sampling))や自動利得制御(AGC(Auto Gain Control))を行う。CDS/AGC50を経た画像信号は、A/D変換器(A/D(Analog /Digital)コンバータ)(A/D)51により、デジタル画像信号に変換される。A/D変換されたデジタル画像信号は、プロセッサ装置16に入力される。
DSP5は、受信した画像信号に対して、欠陥補正処理、オフセット処理、ホワイトバランス処理、リニアマトリクス処理、ガンマ変換処理、又はデモザイク処理等の各種信号処理を施す。また、図10に示すように、DSP54は、ホワイトバランス部55を備える。また、ホワイトバランス部55は、補正係数算出部56を備える。
ノイズ除去部58は、DSP5でガンマ補正等が施された画像信号に対してノイズ除去処理(例えば移動平均法やメディアンフィルタ法等)を施すことによって、画像信号からノイズを除去する。ノイズが除去された画像信号は、信号切替部60に送信される。
第2特殊観察画像処理部68は、第2画像信号に基づいて、彩度強調処理、色相強調処理、及び構造強調処理などの画像処理が行われた第2画像を生成する。第2画像では、深層血管が多く含まれているとともに、背景粘膜の色も正確に再現されている。第2特殊観察画像処理部68では、第2画像の画像処理を行うために、第2画像信号に対して掛け合わされる第2画像用のパラメータが設けられている。なお、第2特殊観察画像処理部68では、層血管を強調する表層血管強調処理は行わないが、処理負荷の状況によっては、層血管強調処理を行うようにしてもよい。
第2画像により、図14に示すように、観察対象のうち背景粘膜BM、及び、深層血管VS2が表された画像が表示される。第2画像は、紫色光V、青色光B、緑色光G、及び赤色光Rを含む第2照明光に基づいて得られる。図15に示すように、第2照明光L2のうち緑色光Gは、深層血管VS2が分布する深層にまで深達する。なお、図1において、紙面上方から第2照明光L2が観察対象に照明され、紙面下方が観察対象の深さ方向Dである。第2照明光L2では緑色光Gの光強度が青色光B、緑色光G、及び赤色光Rの光強度より強いので、緑色光Gの反射光に基づいて得られる緑色光画像GPに含まれる深層血管VS2の像が強調される。なお、ここでは、緑色光Gの光強度が強いことから、緑色光画像GPとする。また、第2照明光L2のうち赤色光Rは、表層血管VS1及び深層血管VS2(表層血管VS1よりも深い位置にある血管)よりもさらに深い位置に分布する背景粘膜BMにまで深達する。したがって、赤色光Rの反射光に基づいて得られる赤色光画像RPには、背景粘膜BMの像が含まれる。以上から、第2画像は赤色光画像RPを組み合わせた画像であるため、背景粘膜BM及び深層血管VS2の像が表示される。
また、マルチ観察モードの場合には、第1照明光の発光期間と第2照明光の発光期間に合わせて、カラーの第1画像と第2画像が切り替えてモニタ18に表示される。即ち、第1期間が4フレームで、第2期間が4フレームである場合には、第1画像が4フレーム続けて表示され、かつ、第2画像が4フレーム続けて表示される。
本実施形態では、第1画像信号または第2画像信号は、青色信号、赤色信号、及び緑色信号を含み、第1画像信号の信号値または第2画像信号の信号値は、青色信号値、赤色信号値、及び緑色信号値からなる。また、ホワイトバランス部55は、第1ゲイン係数または第2ゲイン係数を、青色信号値、赤色信号値、及び緑色信号値のそれぞれについて定める。
なお、重み付け係数は、以上のように付す場合、重み付け係数αを全て足すと1となるようにする。式(4)において、重み付け係数αは、取得期間に近い補正第1ゲイン係数ARN−Kほど重い係数をかけることができる。したがって、例えば、αを0.5とし、αを0.25、αを0.125、と0.5のn乗とする。したがって、αについては数式(5)とすることができる。
第1演算値及び第2演算値について、図18を用いて説明する。例えば、取得期間Pに含まれる第1画像信号SP1に対して用いる補正ゲイン係数ARの補正係数を算出するために、取得期間P と取得期間P の画像信号に基づく演算により、第1演算値及び第2演算値を算出する。まず、取得期間Pに含まれる複数の第1画像信号SP1のうちの任意の1つの第1画像信号のRGB信号値を、r1−1、g1−1、b1−1とし、別の1つの第1画像信号のRGB信号値を、r1−2、g1−2、b1−2とし、順次番号を付与する。取得期間Pは、フレーム数がLであるので、取得期間Pに含まれる第1画像信号はL個であり、第1画像信号のRGB信号値は、r1−1、g1−1、b1−1からr1−L、g1−L、b1−Lまでとなる。
また、同様に、取得期間Pに含まれる複数の第2画像信号SP2についても同様に、取得期間に含まれる複数の第2画像信号SP2のうちの任意の1つの第2画像信号のRGB信号値を、r2−1、g2−1 、b2−1 とする。取得期間Pは、フレーム数がMであるので、取得期間Pに含まれる第2画像信号は、M個であり、第2画像信号のRGB信号値は、r2−1、g2−1、b2−1からr2−M、g2−M、b2−Mまでとなる。
次に、第1演算値は、第1画像信号値平均のそれぞれを加算平均して得られる値であるので、取得期間P の第1画像信号値平均Sr1−Lを、取得期間Pに含まれるフレーム数の個数の複数の第1画像信号について、すべてを加算して平均した値を、それぞれ、AveSr、AveSg、AveSbとする。したがって、取得期間Pの第1画像信号値平均は、Sr1−1からSr1−LまでのL個があるため、これらを足し合わせてLで割った値である。これらは以下の式(19)〜(21)により得られる。同様に、第2演算値は、第2画像信号値平均のそれぞれを加算平均して得られる値であるので、取得期間Pの第2画像信号値平均を、取得期間Pに含まれるフレーム数の個数の複数の第2画像信号について、すべてを加算して平均した値を、それぞれ、AveSr、AveSg、AveSbとすると、これらは以下の式(22)〜(24)により得られる。
ここで、例えば、取得期間Pの補正係数Wについて、赤色信号のゲイン係数の補正係数をWr、緑色信号のゲイン係数の補正係数をWg、青色信号のゲイン係数の補正係数をW とすると、これらの補正係数Wr、Wg、Wbは、取得期間Pの第1演算値であるAveSr、AveSg、AveSbと、取得期間Pの第2演算値であるAveSr、AveSg、AveSbとを用いて算出する。なお、本実施形態では、赤色信号の補正係数Wrを、赤色信号の第1演算値AveSrと赤色信号の第2演算値AveSrとを用いて算出するというように、演算値と補正係数とを同色にする。場合によっては、同色以外の組み合わせにより補正係数を算出してもよい。
10 内視鏡システム
12 内視鏡
12a 挿入部
12b 操作部
12c 湾曲部
12d 先端部
12e アングルノブ
13a モード切替SW
13b 静止画取得指示部
14 光源装置
16 プロセッサ装置
18 モニタ
19 ユーザーインターフェース
20 光源部
20a V−LED(Violet Light Emitting Diode)
20b B−LED(Blue Light Emitting Diode)
20c G−LED(Green Light Emitting Diode)
20d R−LED(Red Light Emitting Diode)
21 光源制御部
23 光路結合部
24 発光期間設定部
26a スライドバー
26b スライドバー
27a スライダ
27b スライダ
30a 照明光学系
30b 撮像光学系
41 ライトガイド
45 照明レンズ
46 対物レンズ
48 撮像センサ
48b Bフィルタ
48g Gフィルタ
48r Rフィルタ
50 CDS/AGC回路(CDS/AGC)
51 A/D変換器(A/D)
52 画像取得部
54 DSP(Digital Signal Processor)
55 ホワイトバランス部
56 補正係数算
58 ノイズ除去部
60 信号切替部
62 通常観察画像処理部
63 特殊観察画像処理部
64 表示制御部
65 静止画保存部
66 静止画保存制御部
67 第1特殊観察画像処理部
68 第2特殊観察画像処理部
69 検出部
L1 第1照明光
L2 第2照明光
PL1 第1期間
PL2 第2期間
SP1 第1特殊観察画像(第1画像)
SP2 第2特殊観察画像(第2画像)
VP 紫色光画像
RP 赤色光画像
VS1 表層血管
VS2 層血管
BM 背景粘膜
V/B 紫色光及び青色光
G 緑色光
R 赤色光
D 深さ方向

Claims (18)

  1. 第1照明光と、前記第1照明光とは異なる発光スペクトルを有する第2照明光とを発光する光源部と、
    前記第1照明光と前記第2照明光とを自動的に切り替えて発光する制御を行う光源制御部であって、前記第1照明光を発光する発光期間と前記第2照明光を発光する発光期間は、それぞれ少なくとも1フレーム以上の発光期間である光源制御部と、
    前記第1照明光の発光期間において前記第1照明光により照明された被写体を撮像して得られる第1画像信号を含む第1画像信号群と、前記第2照明光の発光期間において前記第2照明光により照明された被写体を撮像して得られる第2画像信号を含む第2画像信号群とを取得する画像取得部と、
    前記第1画像信号に第1ゲイン係数をかけ合わせ、前記第2画像信号に第2ゲイン係数をかけ合わせてホワイトバランス処理を行うホワイトバランス部とを備え、
    前記ホワイトバランス部は、前記第1ゲイン係数と前記第2ゲイン係数の少なくともいずれかを補正した補正ゲイン係数を用いて、ホワイトバランス処理を行う内視鏡システム。
  2. 前記ホワイトバランス部は、補正無しの固定の前記第2ゲイン係数を用いて、前記ホワイトバランス処理を行う請求項1に記載の内視鏡システム。
  3. 前記第1画像信号または前記第2画像信号は、青色信号、赤色信号、及び緑色成分を含み、
    前記第1画像信号の信号値または前記第2画像信号の信号値は、青色信号値、赤色信号値、及び緑色信号値からなる請求項1または2に記載の内視鏡システム。
  4. 前記ホワイトバランス部は、前記第1ゲイン係数または前記第2ゲイン係数を、前記青色信号値、前記赤色信号値、及び前記緑色信号値のそれぞれについて定める請求項3に記載の内視鏡システム。
  5. 前記第1ゲイン係数を補正する場合において、
    取得期間P(Nは整数)の前記第1画像信号群に含まれる前記第1画像信号に対して用いる前記取得期間Pの前記第1ゲイン係数は、前記取得期間Pの直前の取得期間PN−2の前記第1画像信号に対して用いた前記取得期間PN−2の前記第1ゲイン係数を補正した補正第1ゲイン係数である請求項1ないし4のいずれか1項に記載の内視鏡システム。
  6. 前記第1ゲイン係数を補正する場合において、
    取得期間Pよりも前の複数の取得期間PN−K(Kは2以上の偶数)の前記第1画像信号群に含まれる前記第1画像信号に対して用いる複数の前記取得期間PN−Kの前記第1ゲイン係数は、少なくとも一部はそれぞれ補正された前記補正ゲイン係数であり、
    前記取得期間Pの前記第1画像信号群に含まれる前記第1画像信号に対して用いる前記取得期間Pの前記第1ゲイン係数は、複数の前記取得期間PN−Kの前記第1ゲイン係数に対して、それぞれ重み付け係数をかけて加算された値であり、
    前記重み付け係数は、前記取得期間Pに近いほど大きい請求項1ないし4のいずれか1項に記載の内視鏡システム。
  7. 複数の前記取得期間PN−Kの前記第1ゲイン係数は、各前記取得期間PN−Kにおいて前記ホワイトバランス処理で用いられている請求項6に記載の内視鏡システム。
  8. 前記第1ゲイン係数または前記第2ゲイン係数の補正には、前記第1ゲイン係数および前記第2ゲイン係数のうち少なくとも一方を補正するための補正係数が用いられ、
    前記補正係数は、前記第1画像信号群に基づく演算により得られる第1演算値と、前記第2画像信号群に基づく演算により得られる第2演算値とを用いて算出する請求項1ないし7のいずれか1項記載の内視鏡システム。
  9. 前記第1演算値は、前記第1画像信号群に含まれる前記第1画像信号において、前記第1画像信号の信号値を平均して得られる第1画像信号値平均のそれぞれを加算平均して得られ、
    前記第2演算値は、前記第2画像信号群に含まれる前記第2画像信号において、前記第2画像信号の信号値を平均して得られる第2画像信号値平均のそれぞれを加算平均して得られる請求項8に記載の内視鏡システム。
  10. 前記第1画像信号または前記第2画像信号において、血管または病変部分の画像信号を検出して異常画像信号とする検出部を備え、
    前記第1画像信号値平均または前記第2画像信号値平均は、それぞれ前記異常画像信号以外の前記第1画像信号の信号値または前記第2画像信号の信号値を用いることにより得られる請求項9に記載の内視鏡システム。
  11. 前記第1画像信号または前記第2画像信号において、異常画素部分の画像信号を検出して異常画像信号とする検出部を備え、
    前記第1画像信号値平均または前記第2画像信号値平均は、それぞれ前記異常画像信号以外の前記第1画像信号の信号値または前記第2画像信号の信号値を用いることにより得られる請求項9に記載の内視鏡システム。
  12. 前記補正係数は、前記第1演算値と前記第2演算値の比である請求項8ないし11のいずれか1項に記載の内視鏡システム。
  13. 前記取得期間Pの前記第1ゲイン係数は、前記取得期間PN−2の前記第1画像信号群に含まれる前記第1画像信号に対して用いた前記第1ゲイン係数に、前記取得期間PN−2における前記第1演算値と前記取得期間PN−1における前記第2演算値との比の値をかけ合わせた値である請求項8ないし12のいずれか1項に記載の内視鏡システム。
  14. 前記取得期間Pの前記第1ゲイン係数と、前記取得期間PN−2の前記第1画像信号群に含まれる前記第1画像信号に対して用いた前記第1ゲイン係数との差が、予め設定した閾値以下の場合は、前記前記取得期間Pの前記第1ゲイン係数の補正を行わない請求項5に記載の内視鏡システム。
  15. 前記取得期間Pの前記第1ゲイン係数と、前記取得期間PN−2の前記第1画像信号群に含まれる前記第1画像信号に対して用いた前記第1ゲイン係数との差が、予め設定した閾値以上の場合は、前記前記取得期間Pの前記第1ゲイン係数の補正を行わない請求項5に記載の内視鏡システム。
  16. 前記第1照明光は、紫色光、緑色光、及び赤色光を含み、前記第2照明光は、青色光、緑色光及び赤色光を含み、
    前記光源制御部は、前記第1照明光と前記第2照明光とが含む各色のそれぞれの発光量を、前記第1ゲイン係数または前記第2ゲイン係数に基づいて制御する請求項1ないし15のいずれか1項に記載の内視鏡システム。
  17. 前記光源制御部は、前記第1ゲイン係数または前記第2ゲイン係数に基づいて制御された前記発光量が、特定の閾値以下である場合、予め設定された最低発光量まで前記発光量を増加させる請求項16に記載の内視鏡システム。
  18. 前記画像処理部は、前記第1画像信号により第1表示用観察画像を生成し、かつ、前記第2画像信号により第2表示用観察画像を生成し、
    前記第1表示用観察画像は表層血管が強調されており、前記第2表示用観察画像は前記表層血管よりも深い位置にある中深層血管が強調されている請求項1ないし17のいずれか1項記載の内視鏡システム。
JP2020569410A 2019-01-30 2019-12-02 内視鏡システム Active JP7136933B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2019014802 2019-01-30
JP2019014802 2019-01-30
PCT/JP2019/047008 WO2020158165A1 (ja) 2019-01-30 2019-12-02 内視鏡システム

Publications (2)

Publication Number Publication Date
JPWO2020158165A1 true JPWO2020158165A1 (ja) 2021-11-11
JP7136933B2 JP7136933B2 (ja) 2022-09-13

Family

ID=71842114

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020569410A Active JP7136933B2 (ja) 2019-01-30 2019-12-02 内視鏡システム

Country Status (4)

Country Link
US (1) US20210338069A1 (ja)
JP (1) JP7136933B2 (ja)
CN (1) CN113366366B (ja)
WO (1) WO2020158165A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023007896A1 (ja) * 2021-07-28 2023-02-02 富士フイルム株式会社 内視鏡システム、プロセッサ装置及びその作動方法
DE102022117580A1 (de) 2022-07-27 2024-02-01 Karl Storz Se & Co. Kg Medizinische Bildgebungsvorrichtung, medizinisches Bildgebungssystem und Verfahren zum Betrieb einer medizinischen Bildgebungsvorrichtung

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015159957A (ja) * 2014-02-27 2015-09-07 富士フイルム株式会社 内視鏡システム及びその作動方法
JP2015173737A (ja) * 2014-03-13 2015-10-05 オリンパス株式会社 生体観察システム
WO2016080130A1 (ja) * 2014-11-20 2016-05-26 オリンパス株式会社 観察装置
JP2017113458A (ja) * 2015-12-25 2017-06-29 富士フイルム株式会社 内視鏡用光源装置及びその作動方法、並びに内視鏡システム
JP2017185258A (ja) * 2017-06-02 2017-10-12 富士フイルム株式会社 内視鏡装置
JP2019005096A (ja) * 2017-06-23 2019-01-17 富士フイルム株式会社 プロセッサ装置及びその作動方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012152246A (ja) * 2011-01-21 2012-08-16 Hoya Corp ホワイトバランス調整システム、内視鏡プロセッサ、補正とバランス調整キャップ
JP6234350B2 (ja) * 2014-09-30 2017-11-22 富士フイルム株式会社 内視鏡システム、プロセッサ装置、内視鏡システムの作動方法、及びプロセッサ装置の作動方法
JP6660707B2 (ja) * 2015-10-23 2020-03-11 Hoya株式会社 内視鏡システム
JP6562554B2 (ja) * 2016-05-13 2019-08-21 富士フイルム株式会社 内視鏡システム、プロセッサ装置、及び内視鏡システムの信号処理方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015159957A (ja) * 2014-02-27 2015-09-07 富士フイルム株式会社 内視鏡システム及びその作動方法
JP2015173737A (ja) * 2014-03-13 2015-10-05 オリンパス株式会社 生体観察システム
WO2016080130A1 (ja) * 2014-11-20 2016-05-26 オリンパス株式会社 観察装置
JP2017113458A (ja) * 2015-12-25 2017-06-29 富士フイルム株式会社 内視鏡用光源装置及びその作動方法、並びに内視鏡システム
JP2017185258A (ja) * 2017-06-02 2017-10-12 富士フイルム株式会社 内視鏡装置
JP2019005096A (ja) * 2017-06-23 2019-01-17 富士フイルム株式会社 プロセッサ装置及びその作動方法

Also Published As

Publication number Publication date
CN113366366B (zh) 2023-04-28
US20210338069A1 (en) 2021-11-04
WO2020158165A1 (ja) 2020-08-06
JP7136933B2 (ja) 2022-09-13
CN113366366A (zh) 2021-09-07

Similar Documents

Publication Publication Date Title
US11937788B2 (en) Endoscope system
JP6917518B2 (ja) 内視鏡システム
WO2018061434A1 (ja) プロセッサ装置及び内視鏡システム並びにプロセッサ装置の作動方法
JP6909856B2 (ja) 内視鏡システム
JPWO2019093355A1 (ja) 内視鏡システム及びその作動方法
US11311185B2 (en) Endoscope system
US20210338069A1 (en) Endoscope system
JP6891294B2 (ja) 内視鏡システム及びその作動方法
US11744437B2 (en) Medical image processing system
US11969152B2 (en) Medical image processing system
JPWO2019159817A1 (ja) 内視鏡システム及びその作動方法
JP7171885B2 (ja) 内視鏡システム
JPWO2019151190A1 (ja) 内視鏡システム及びその作動方法
JP2021040958A (ja) 内視鏡システム及びその作動方法
JP2020178738A (ja) プロセッサ装置及び内視鏡システム並びにキャリブレーション方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210630

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210816

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220308

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220412

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220809

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220901

R150 Certificate of patent or registration of utility model

Ref document number: 7136933

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150