JP6259747B2 - Processor device, endoscope system, operating method of processor device, and program - Google Patents

Processor device, endoscope system, operating method of processor device, and program Download PDF

Info

Publication number
JP6259747B2
JP6259747B2 JP2014201749A JP2014201749A JP6259747B2 JP 6259747 B2 JP6259747 B2 JP 6259747B2 JP 2014201749 A JP2014201749 A JP 2014201749A JP 2014201749 A JP2014201749 A JP 2014201749A JP 6259747 B2 JP6259747 B2 JP 6259747B2
Authority
JP
Japan
Prior art keywords
blood vessel
image signal
index
duct
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014201749A
Other languages
Japanese (ja)
Other versions
JP2016067706A (en
Inventor
泰士 白石
泰士 白石
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2014201749A priority Critical patent/JP6259747B2/en
Publication of JP2016067706A publication Critical patent/JP2016067706A/en
Application granted granted Critical
Publication of JP6259747B2 publication Critical patent/JP6259747B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures

Landscapes

  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Surgery (AREA)
  • Engineering & Computer Science (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Optics & Photonics (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Endoscopes (AREA)

Description

本発明は、微細な血管と腺管に基づく病変診断を支援するプロセッサ装置、内視鏡システム、プロセッサ装置の作動方法、及びプログラムに関する。   The present invention relates to a processor device, an endoscope system, an operating method of a processor device, and a program that support lesion diagnosis based on minute blood vessels and gland ducts.

近年の医療においては、光源装置、電子内視鏡、プロセッサ装置を備える内視鏡システムを用いた診断等が広く行われている。内視鏡システムによる検体内の観察としては、ブラウニッシュエリアや発赤など病変部である可能性が高い病変可能性部位を遠景状態から検出するスクリーニング観察の他、そのような病変可能性部位を検出したときに、ズームレンズを用いて、その病変可能性部位を拡大して精査する拡大観察が行われている。   In recent medical treatments, diagnosis and the like using an endoscope system including a light source device, an electronic endoscope, and a processor device are widely performed. For observation in the specimen using an endoscope system, in addition to screening observations that detect possible lesions such as brownish areas and redness from a distant view, detection of such lesions is also possible. When the zoom lens is used, a magnified observation is performed in which the likely lesion site is enlarged and examined.

拡大観察では、近年、微細な粘膜構造について着目して診断する「VS classification」が行わるようになってきている。この「VS classification」では、粘膜表層にある微細な血管パターンと腺管パターンをそれぞれ独立に観察して、「正常」のパターンに該当するか否かを判断する。血管パターンと腺管パターンのいずれもが「正常」のパターンである場合には、病変でないと判断し、血管パターンと腺管パターンのいずれか一方が「正常」でない場合には、病変の可能性が高いと判断する。   In recent years, “VS classification” has been performed in which the diagnosis is focused on a fine mucosal structure. In this “VS classification”, a fine blood vessel pattern and a gland duct pattern on the surface layer of the mucosa are independently observed to determine whether or not a “normal” pattern is met. If both the vascular pattern and the duct pattern are “normal” patterns, it is determined that the lesion is not a lesion. If either the vascular pattern or the duct pattern is not “normal”, the possibility of a lesion is determined. It is judged that is high.

このVS classificationにおいて、血管パターンと腺管パターンが「正常」のパターンに該当するか否かの判断は、ドクターがパターンの観察に熟練していないと難しい。そこで、特許文献1では、内視鏡観察中に得られた画像の中の血管パターンと腺管パターンと、テンプレートのパターンとをパターンマッチングし、そのパターンマッチングの処理結果を用いて診断の支援に関する情報をモニタ等に表示している。この特許文献1の方法を用いることで、ドクターの熟練度によらなくても、病変部の診断を確実に行えることができるようになると考えられる。   In this VS classification, it is difficult to determine whether or not the blood vessel pattern and the gland duct pattern are “normal” patterns unless the doctor is skilled in pattern observation. Therefore, in Patent Document 1, a blood vessel pattern, a gland duct pattern, and a template pattern in an image obtained during endoscopic observation are subjected to pattern matching, and diagnosis support is performed using the pattern matching processing result. Information is displayed on a monitor or the like. By using the method of Patent Document 1, it is considered that the lesion can be diagnosed reliably without depending on the skill level of the doctor.

特許5435746号Patent 5435746

しかしながら、特許文献1においては、内視鏡観察中に得られた画像の画質が良くない場合には、テンプレートのパターンとのパターンマッチングを確実に行えない場合がある。また、血管パターンや腺管パターンは多種多様であることから、パターンマッチングの精度を上げようとすると、マッチングに必要なテンプレートが数多く必要になる。したがって、テンプレートの血管パターンや腺管パターンに基づくパターンマッチングを用いることなく、血管と腺管に基づく病変部の診断を支援できることが求められていた。   However, in Patent Document 1, when the image quality of an image obtained during endoscopic observation is not good, pattern matching with a template pattern may not be reliably performed. In addition, since there are a wide variety of blood vessel patterns and gland duct patterns, a large number of templates required for matching are required to increase the accuracy of pattern matching. Therefore, it has been demanded that diagnosis of a lesion part based on a blood vessel and a duct can be supported without using pattern matching based on a blood vessel pattern or a duct pattern of the template.

本発明は、血管と腺管に基づく病変部の診断を支援するプロセッサ装置、内視鏡システム、プロセッサ装置の作動方法、及びプログラムを提供することを目的とする。   It is an object of the present invention to provide a processor device, an endoscope system, an operation method of a processor device, and a program that support diagnosis of a lesion site based on blood vessels and gland ducts.

本発明のプロセッサ装置は、観察対象を撮像して得られた画像信号を取得する画像信号取得部と、画像信号から血管を抽出して血管画像信号を生成する血管抽出部と、画像信号から腺管を抽出して腺管画像信号を生成する腺管抽出部と、血管画像信号から血管指標を算出し、腺管画像信号から腺管指標を算出する指標算出部と、血管指標及び腺管指標に基づく情報を表示部に表示するための表示用の画像を生成する画像生成部と、を備える。   The processor device of the present invention includes an image signal acquisition unit that acquires an image signal obtained by imaging an observation target, a blood vessel extraction unit that extracts a blood vessel from the image signal and generates a blood vessel image signal, and a gland from the image signal. A duct extraction unit that extracts a duct and generates a duct image signal, an index calculation unit that calculates a blood vessel index from the blood vessel image signal, and calculates a duct index from the duct image signal, and a blood vessel index and a duct index And an image generation unit that generates an image for display for displaying information based on the display unit.

画像生成部は、血管指標及び腺管指標に基づく情報として、血管指標及び腺管指標を表示部に表示するための表示用の画像を生成することが好ましい。血管指標から、血管の形状や走行に関する血管パターンを判定し、且つ、腺管指標から、腺管の形状や走行に関する腺管パターンを判定するパターン判定部を有することが好ましい。血管パターンには「正常」、「異常」、「消失」が含まれ、腺管パターンには「正常」、「異常」、「消失」が含まれることが好ましい。画像生成部は、血管指標及び腺管指標に基づく情報として、パターン判定部での判定結果を表示するための表示用の画像を生成することが好ましい。   Preferably, the image generation unit generates a display image for displaying the blood vessel index and the gland duct index on the display unit as information based on the blood vessel index and the gland duct index. It is preferable to have a pattern determination unit that determines a blood vessel pattern related to the shape and running of the blood vessel from the blood vessel index and determines a gland duct pattern related to the shape and running of the gland duct from the gland duct index. The blood vessel pattern preferably includes “normal”, “abnormal”, and “disappearance”, and the gland duct pattern preferably includes “normal”, “abnormal”, and “disappearance”. The image generation unit preferably generates a display image for displaying the determination result of the pattern determination unit as information based on the blood vessel index and the gland duct index.

パターン判定部の判定結果において血管パターンと腺管パターンのうち少なくともいずれかが「異常」または「消失」の場合に、病変であると判定する第1の病変判定部を有することが好ましい。腺管指標の分布から病変境界部を算出する境界部算出部と、病変境界部を含む領域を関心領域として設定する関心領域設定部とを有することが好ましい。画像生成部は、血管指標及び腺管指標に基づく情報として、第1の病変判定部での判定結果及び関心領域の少なくとも一方を表示部に表示するための表示用の画像を生成することが好ましい。   It is preferable to have a first lesion determination unit that determines a lesion when at least one of a blood vessel pattern and a gland duct pattern is “abnormal” or “disappear” in the determination result of the pattern determination unit. It is preferable to have a boundary calculation unit that calculates a lesion boundary from the distribution of ductal index and a region of interest setting unit that sets a region including the lesion boundary as a region of interest. The image generation unit preferably generates a display image for displaying at least one of the determination result in the first lesion determination unit and the region of interest on the display unit as information based on the blood vessel index and the gland duct index. .

血管パターンには「正常」、「異常1」、「異常2」、「消失」が含まれ、腺管パターンには、「正常」、「異常1」、「異常2」、「消失」が含まれることが好ましい。画像信号から色調を求める色調算出部と、パターン判定部の判定結果において血管パターンと腺管パターンのうち少なくともいずれかが「異常1」、「異常2」、「消失」の場合に病変であると判定し、且つ、色調に従って、病変のタイプを判別する第2の病変判定部を有することが好ましい。色調は、周囲との色又は明るさの関係がそれぞれ異なる「色調1」、「色調2」、「色調3」で表わされることが好ましい。画像生成部は、血管指標及び腺管指標に基づく情報として、第2の病変判定部での判定結果を表示部に表示するための表示用の画像を生成することが好ましい。   The blood vessel pattern includes “normal”, “abnormal 1”, “abnormal 2”, “disappearance”, and the gland duct pattern includes “normal”, “abnormality 1”, “abnormality 2”, “disappearance” It is preferred that A color tone calculation unit that obtains a color tone from an image signal and a determination result of the pattern determination unit that a lesion is present when at least one of a blood vessel pattern and a gland duct pattern is “abnormal 1”, “abnormal 2”, or “disappear” It is preferable to have a second lesion determination unit that determines and determines the lesion type according to the color tone. It is preferable that the color tone is represented by “color tone 1”, “color tone 2”, and “color tone 3” that have different colors or brightness relationships with the surroundings. The image generation unit preferably generates a display image for displaying the determination result of the second lesion determination unit on the display unit as information based on the blood vessel index and the gland duct index.

血管指標は、血管の密度、正常時の血管パターンと血管との相関係数、血管の走行方向、血管の周波数成分のうち少なくとも1つであり、腺管指標は、腺管の密度、正常時の腺管パターンと腺管との相関係数、腺管の走行方向、腺管の周波数成分のうち少なくとも1つであることが好ましい。   The blood vessel index is at least one of the density of the blood vessel, the correlation coefficient between the normal blood vessel pattern and the blood vessel, the traveling direction of the blood vessel, and the frequency component of the blood vessel. The gland duct index is the density of the gland duct, Preferably, at least one of the correlation coefficient between the duct pattern and the duct, the traveling direction of the duct, and the frequency component of the duct.

血管抽出部は、画像信号内で、周辺の画素よりも画素値が小さい画素を含む領域を前記血管の画素として抽出して、血管画像信号を生成し、腺管抽出部は、前記画像信号内で、周辺の画素よりも画素値が大きい画素を含む領域を腺管の画素として抽出して、腺管画像信号を生成することが好ましい。血管抽出部は、画像信号に対してブラックハットフィルタ処理を施すことにより、血管画像信号を生成し、腺管抽出部は、画像信号に対してトップハットフィルタ処理を施すことにより、腺管画像信号を生成することが好ましい。   The blood vessel extraction unit extracts a region including a pixel having a smaller pixel value than the surrounding pixels in the image signal as the blood vessel pixel to generate a blood vessel image signal, and the gland duct extraction unit includes the image signal in the image signal. Thus, it is preferable to extract a region including a pixel having a pixel value larger than that of surrounding pixels as a gland duct pixel to generate a gland duct image signal. The blood vessel extraction unit generates a blood vessel image signal by performing black hat filter processing on the image signal, and the gland duct extraction unit performs top hat filter processing on the image signal. Is preferably generated.

上記記載の本発明のプロセッサ装置を備える内視鏡システムにおいて、短波長の光を含む光又は短波長の光を、観察対象を照明するための光として発する光源部を有する。短波長の光は400〜420nmの波長域を含む狭帯域光であることが好ましい。   The endoscope system including the processor device of the present invention described above includes a light source unit that emits light including short-wave light or short-wave light as light for illuminating an observation target. The short wavelength light is preferably narrow band light including a wavelength range of 400 to 420 nm.

本発明の内視鏡システムの作動方法は、画像信号取得部が、観察対象を撮像して得られた画像信号を取得するステップと、血管抽出部が、画像信号から血管を抽出して血管画像信号を生成するステップと、腺管抽出部が、画像信号から腺管を抽出して腺管画像信号を生成するステップと、指標算出部が、血管画像信号から血管指標を算出し、腺管画像信号から腺管指標を算出するステップと、画像生成部が、血管指標及び腺管指標に基づく情報を表示部に表示するための表示用の画像を生成するステップと、を有する。   The operation method of the endoscope system according to the present invention includes a step in which an image signal acquisition unit acquires an image signal obtained by imaging an observation target, and a blood vessel extraction unit extracts a blood vessel from the image signal to obtain a blood vessel image. A signal generating step, a duct extracting unit extracting a duct from the image signal to generate a duct image signal, and an index calculating unit calculating a blood vessel index from the blood vessel image signal, A step of calculating a duct index from the signal, and an image generating unit generating a display image for displaying information based on the blood vessel index and the duct index on the display unit.

本発明のプログラムは、コンピュータを、観察対象を撮像して得られた画像信号を取得する画像信号取得部と、画像信号から血管を抽出して血管画像信号を生成する血管抽出部と、画像信号から腺管を抽出して腺管画像信号を生成する腺管抽出部と、血管画像信号から血管指標を算出し、腺管画像信号から腺管指標を算出する指標算出部と、血管指標及び腺管指標に基づく情報を表示部に表示するための表示用の画像を生成する画像生成部として機能させる。   The program according to the present invention includes a computer, an image signal acquisition unit that acquires an image signal obtained by imaging an observation target, a blood vessel extraction unit that extracts a blood vessel from the image signal and generates a blood vessel image signal, and an image signal A gland duct extraction unit that extracts a gland duct from the gland duct, generates a gland duct image signal, calculates a blood vessel index from the blood vessel image signal, calculates a gland duct index from the gland duct image signal, a blood vessel index and a gland It is made to function as an image generation part which produces | generates the image for a display for displaying the information based on a pipe | tube index on a display part.

本発明によれば、テンプレートの血管パターンや腺管パターンに基づくパターンマッチングを用いることなく、血管と腺管に基づく病変部の診断を支援することができる。   ADVANTAGE OF THE INVENTION According to this invention, the diagnosis of the lesion part based on a blood vessel and a gland duct can be supported, without using the pattern matching based on the blood vessel pattern and gland duct pattern of a template.

第1実施形態の内視鏡システムの外観図である。1 is an external view of an endoscope system according to a first embodiment. 第1実施形態の内視鏡システムの機能を示すブロック図である。It is a block diagram which shows the function of the endoscope system of 1st Embodiment. 紫色光V、青色光B、緑色光G、及び赤色光Rの発光スペクトルを示すグラフである。It is a graph which shows the emission spectrum of purple light V, blue light B, green light G, and red light R. 紫色光Vの発光スペクトルを示すグラフである。3 is a graph showing an emission spectrum of purple light V. 特殊画像処理部の機能を示すブロック図である。It is a block diagram which shows the function of a special image process part. 血管抽出部の機能を示す説明図である。It is explanatory drawing which shows the function of the blood vessel extraction part. 腺管抽出部の機能を示す説明図である。It is explanatory drawing which shows the function of a duct extraction part. 観察対象と血管指標及び腺管指標を表示する表示用の特殊画像を示す画像図である。It is an image figure which shows the special image for a display which displays an observation object, a blood vessel index, and a gland duct index. パターン判定部が追加された特殊画像処理部の機能を示すブロック図である。It is a block diagram which shows the function of the special image process part to which the pattern determination part was added. 観察対象とパターン判定部での判定結果を表示する表示用の特殊画像を示す画像図である。It is an image figure which shows the special image for a display which displays the observation object and the determination result in a pattern determination part. パターン判定部、第1の病変判定部、境界部算出部、関心領域設定部が追加された特殊画像処理部の機能を示すブロック図である。It is a block diagram which shows the function of the special image process part to which the pattern determination part, the 1st lesion determination part, the boundary part calculation part, and the region-of-interest setting part were added. 観察対象、第1の病変判定部での判定結果、関心領域ROIを表示する表示用の特殊画像を示す画像図である。It is an image figure which shows the special image for a display which displays an observation object, the determination result in a 1st lesion determination part, and the region of interest ROI. パターン判定部、第2の病変判定部、色調算出部が追加された特殊画像処理部の機能を示すブロック図である。It is a block diagram which shows the function of the special image process part to which the pattern determination part, the 2nd lesion determination part, and the color tone calculation part were added. 観察対象、第2の病変判定部での判定結果、関心領域ROIを表示する表示用の特殊画像を示す画像図である。It is an image figure which shows the special image for a display which displays the observation object, the determination result in a 2nd lesion determination part, and the region of interest ROI. 本発明の一連の流れを示すフローチャートである。It is a flowchart which shows a series of flows of this invention. 第2実施形態の内視鏡システムの機能を示すブロック図である。It is a block diagram which shows the function of the endoscope system of 2nd Embodiment. 白色光の発光スペクトルを示すグラフである。It is a graph which shows the emission spectrum of white light. 特殊光の発光スペクトルを示すグラフである。It is a graph which shows the emission spectrum of special light. 青紫色レーザ光のスペクトルを示すグラフである。It is a graph which shows the spectrum of a blue-violet laser beam. 第3実施形態の内視鏡システムの機能を示すブロック図である。It is a block diagram which shows the function of the endoscope system of 3rd Embodiment. 回転フィルタを示す平面図である。It is a top view which shows a rotation filter. 第4実施形態のカプセル内視鏡システムの機能を示す図である。It is a figure which shows the function of the capsule endoscope system of 4th Embodiment. 図3とは異なる紫色光V、青色光B、緑色光G、及び赤色光Rの発光スペクトルを示すグラフである。4 is a graph showing emission spectra of purple light V, blue light B, green light G, and red light R different from those in FIG. 3.

[第1実施形態]
図1に示すように、第1実施形態の内視鏡システム10は、内視鏡12と、光源装置14と、プロセッサ装置16と、モニタ18と、コンソール19とを有する。内視鏡12は光源装置14と光学的に接続されるとともに、プロセッサ装置16と電気的に接続される。内視鏡12は、被検体内に挿入される挿入部12aと、挿入部12aの基端部分に設けられた操作部12bと、挿入部12aの先端側に設けられる湾曲部12c及び先端部12dを有している。操作部12bのアングルノブ12eを操作することにより、湾曲部12cは湾曲動作する。この湾曲動作に伴って、先端部12dが所望の方向に向けられる。
[First Embodiment]
As shown in FIG. 1, the endoscope system 10 according to the first embodiment includes an endoscope 12, a light source device 14, a processor device 16, a monitor 18, and a console 19. The endoscope 12 is optically connected to the light source device 14 and electrically connected to the processor device 16. The endoscope 12 includes an insertion portion 12a to be inserted into a subject, an operation portion 12b provided at a proximal end portion of the insertion portion 12a, a bending portion 12c and a distal end portion 12d provided at the distal end side of the insertion portion 12a. have. By operating the angle knob 12e of the operation unit 12b, the bending unit 12c performs a bending operation. With this bending operation, the tip 12d is directed in a desired direction.

また、操作部12bには、アングルノブ12eの他、モード切替SW13a、診断情報表示用SW13b、ズーム操作部13cが設けられている。モード切替SW13aは、通常観察モードと、特殊観察モードの2種類のモード間の切り替え操作に用いられる。通常観察モードは、通常画像をモニタ18上に表示するモードである。特殊観察モードは、特殊画像をモニタ18上に表示するモードである。診断情報表示用SW13bは特殊画像中に押圧操作したときに、特殊画像とともに、血管又は腺管に関する指標など病変部の診断を支援するための診断情報がモニタ18上に表示される。ズーム操作部13cはズームレンズ47(図2参照)をテレ位置とワイド位置との間で移動させることによって、モニタ18に表示中の観察対象を拡大又は縮小する。なお、通常観察モードの場合にも、診断情報表示用SW13bを押圧操作したときに、診断情報をモニタ18に表示するようにしてもよい。   In addition to the angle knob 12e, the operation unit 12b includes a mode switching SW 13a, a diagnostic information display SW 13b, and a zoom operation unit 13c. The mode switching SW 13a is used for switching operation between two types of modes, a normal observation mode and a special observation mode. The normal observation mode is a mode for displaying a normal image on the monitor 18. The special observation mode is a mode for displaying a special image on the monitor 18. When the diagnostic information display SW 13b is pressed in the special image, diagnostic information for supporting diagnosis of a lesioned part such as an index related to a blood vessel or a gland duct is displayed on the monitor 18 together with the special image. The zoom operation unit 13c enlarges or reduces the observation target being displayed on the monitor 18 by moving the zoom lens 47 (see FIG. 2) between the tele position and the wide position. Even in the normal observation mode, the diagnostic information may be displayed on the monitor 18 when the diagnostic information display SW 13b is pressed.

プロセッサ装置16は、モニタ18及びコンソール19と電気的に接続される。モニタ18は、画像情報等を出力表示する。コンソール19は、機能設定等の入力操作を受け付けるUI(User Interface:ユーザーインターフェース)として機能する。なお、プロセッサ装置16には、画像情報等を記録する外付けの記録部(図示省略)を接続してもよい。   The processor device 16 is electrically connected to the monitor 18 and the console 19. The monitor 18 outputs and displays image information and the like. The console 19 functions as a UI (User Interface) that receives input operations such as function settings. The processor device 16 may be connected to an external recording unit (not shown) for recording image information and the like.

図2に示すように、光源装置14は、V-LED(Violet Light Emitting Diode)20a、B-LED(Blue Light Emitting Diode)20b、G-LED(Green Light Emitting Diode)20c、R-LED(Red Light Emitting Diode)20d、これら4色のLED20a〜20dの駆動を制御する光源制御部21、及び4色のLED20a〜20dから発せられる4色の光の光路を結合する光路結合部23を備えている。光路結合部23で結合された光は、挿入部12a内に挿通されたライトガイド(LG(Light Guide))41及び照明レンズ45を介して、被検体内に照射される。なお、LEDの代わりに、LD(Laser Diode)を用いてもよい。なお、本発明の「光源部」は4色のLED20a〜20dに対応する。   As shown in FIG. 2, the light source device 14 includes a V-LED (Violet Light Emitting Diode) 20a, a B-LED (Blue Light Emitting Diode) 20b, a G-LED (Green Light Emitting Diode) 20c, and an R-LED (Red). Light Emitting Diode) 20d, a light source control unit 21 that controls driving of the four color LEDs 20a to 20d, and an optical path coupling unit 23 that couples the optical paths of the four color lights emitted from the four color LEDs 20a to 20d. . The light coupled by the optical path coupling unit 23 is irradiated into the subject through a light guide (LG (Light Guide)) 41 and an illumination lens 45 inserted into the insertion unit 12a. An LD (Laser Diode) may be used instead of the LED. The “light source unit” of the present invention corresponds to the four-color LEDs 20a to 20d.

図3に示すように、V-LED20aは、中心波長405±10nm、波長範囲380〜420nmの紫色光Vを発生する。B-LED20bは、中心波長460±10nm、波長範囲420〜500nmの青色光Bを発生する。G-LED20cは、波長範囲が480〜600nmに及ぶ緑色光Gを発生する。R-LED20dは、中心波長620〜630nmで、波長範囲が600〜650nmに及ぶ赤色光Rを発生する。なお、本発明の「400〜420nmの波長域を含む狭帯域光」は紫色光Vに対応する。   As shown in FIG. 3, the V-LED 20a generates purple light V having a center wavelength of 405 ± 10 nm and a wavelength range of 380 to 420 nm. The B-LED 20b generates blue light B having a center wavelength of 460 ± 10 nm and a wavelength range of 420 to 500 nm. The G-LED 20c generates green light G having a wavelength range of 480 to 600 nm. The R-LED 20d generates red light R having a center wavelength of 620 to 630 nm and a wavelength range of 600 to 650 nm. In the present invention, “narrowband light including a wavelength range of 400 to 420 nm” corresponds to the violet light V.

光源制御部21は、通常観察モード及び特殊観察モードのいずれの観察モードにおいても、V-LED20a、B-LED20b、G-LED20c、R-LED20dを点灯する。したがって、紫色光V、青色光B、緑色光G、及び赤色光Rの4色の光が混色した光が、観察対象に照射される。また、光源制御部21は、通常観察モード時には、紫色光V、青色光B、緑色光G、赤色光R間の光量比がVc:Bc:Gc:Rcとなるように、各LED20a〜20dを制御する。一方、光源制御部21は、第1及び第2特殊観察モード時には、紫色光V、青色光B、緑色光G、赤色光R間の光量比がVs:Bs:Gs:Rsとなるように、各LED20a〜20dを制御する。   The light source control unit 21 lights the V-LED 20a, the B-LED 20b, the G-LED 20c, and the R-LED 20d in any of the normal observation mode and the special observation mode. Accordingly, the observation target is irradiated with light in which four colors of light of purple light V, blue light B, green light G, and red light R are mixed. In the normal observation mode, the light source controller 21 controls the LEDs 20a to 20d so that the light quantity ratio among the violet light V, blue light B, green light G, and red light R is Vc: Bc: Gc: Rc. Control. On the other hand, in the first and second special observation modes, the light source control unit 21 is configured so that the light quantity ratio among the violet light V, the blue light B, the green light G, and the red light R is Vs: Bs: Gs: Rs. Each LED 20a-20d is controlled.

なお、特殊観察モードのときには、図4に示すように、青色光B、緑色光G、及び赤色光Rは消灯して、紫色光Vのみを発するようにしてもよい。このように紫色光Vのみを観察対象に照明するようにすることで、血管や腺管のコントラストを向上させることができる。これにより、後述する血管指標や腺管指標の算出精度を高めることができるとともに、血管指標や腺管指標に基づく病変判定の精度も高めることができる。   In the special observation mode, as shown in FIG. 4, the blue light B, the green light G, and the red light R may be turned off and only the purple light V may be emitted. By thus illuminating only the purple light V on the observation target, the contrast of blood vessels and gland ducts can be improved. Thereby, the calculation accuracy of the blood vessel index and gland duct index, which will be described later, can be increased, and the accuracy of lesion determination based on the blood vessel index and gland duct index can also be increased.

図2に示すように、ライトガイド41は、内視鏡12及びユニバーサルコード(内視鏡12と光源装置14及びプロセッサ装置16とを接続するコード)内に内蔵されており、光路結合部23で結合された光を内視鏡12の先端部12dまで伝搬する。なお、ライトガイド41としては、マルチモードファイバを使用することができる。一例として、コア径105μm、クラッド径125μm、外皮となる保護層を含めた径がφ0.3〜0.5mmの細径なファイバケーブルを使用することができる。   As shown in FIG. 2, the light guide 41 is built in the endoscope 12 and the universal cord (the cord connecting the endoscope 12, the light source device 14, and the processor device 16). The combined light propagates to the distal end portion 12d of the endoscope 12. A multimode fiber can be used as the light guide 41. As an example, a thin fiber cable having a core diameter of 105 μm, a cladding diameter of 125 μm, and a diameter of φ0.3 to 0.5 mm including a protective layer serving as an outer shell can be used.

内視鏡12の先端部12dには、照明光学系30aと撮像光学系30bが設けられている。照明光学系30aは照明レンズ45を有しており、この照明レンズ45を介して、ライトガイド41からの光が観察対象に照射される。撮像光学系30bは、対物レンズ46、ズームレンズ47、撮像センサ48を有している。観察対象からの反射光は、対物レンズ46及びズームレンズ47を介して、撮像センサ48に入射する。これにより、撮像センサ48に観察対象の反射像が結像される。   The distal end portion 12d of the endoscope 12 is provided with an illumination optical system 30a and an imaging optical system 30b. The illumination optical system 30 a has an illumination lens 45, and light from the light guide 41 is irradiated to the observation target via the illumination lens 45. The imaging optical system 30 b includes an objective lens 46, a zoom lens 47, and an imaging sensor 48. Reflected light from the observation target enters the image sensor 48 through the objective lens 46 and the zoom lens 47. As a result, a reflected image of the observation object is formed on the image sensor 48.

撮像センサ48はカラーの撮像センサであり、被検体の反射像を撮像して画像信号を出力する。この撮像センサ48は、CCD(Charge Coupled Device)撮像センサやCMOS(Complementary Metal-Oxide Semiconductor)撮像センサ等であることが好ましい。本発明で用いられる撮像センサ48は、R(赤)、G(緑)及びB(青)の3色のRGB画像信号を得るためのカラーの撮像センサ、即ち、Rフィルタが設けられたR画素、Gフィルタが設けられたG画素、Bフィルタが設けられたB画素を備えた、いわゆるRGB撮像センサである。   The imaging sensor 48 is a color imaging sensor that captures a reflection image of a subject and outputs an image signal. The image sensor 48 is preferably a CCD (Charge Coupled Device) image sensor, a CMOS (Complementary Metal-Oxide Semiconductor) image sensor, or the like. The image sensor 48 used in the present invention is a color image sensor for obtaining RGB image signals of three colors of R (red), G (green), and B (blue), that is, an R pixel provided with an R filter. , A so-called RGB imaging sensor including a G pixel provided with a G filter and a B pixel provided with a B filter.

なお、撮像センサ48としては、RGBのカラーの撮像センサの代わりに、C(シアン)、M(マゼンタ)、Y(イエロー)及びG(緑)の補色フィルタを備えた、いわゆる補色撮像センサであっても良い。補色撮像センサを用いる場合には、CMYGの4色の画像信号が出力されるため、補色−原色色変換によって、CMYGの4色の画像信号をRGBの3色の画像信号に変換する必要がある。また、撮像センサ48はカラーフィルタを設けていないモノクロ撮像センサであっても良い。この場合、光源制御部21は青色光B、緑色光G、赤色光Rを時分割で点灯させて、撮像信号の処理では同時化処理を加える必要がある。   The image sensor 48 is a so-called complementary color image sensor that includes complementary filters for C (cyan), M (magenta), Y (yellow), and G (green) instead of an RGB color image sensor. May be. When the complementary color imaging sensor is used, CMYG four-color image signals are output. Therefore, it is necessary to convert CMYG four-color image signals into RGB three-color image signals by complementary color-primary color conversion. . Further, the image sensor 48 may be a monochrome image sensor not provided with a color filter. In this case, the light source control unit 21 needs to turn on the blue light B, the green light G, and the red light R in a time-sharing manner, and add a synchronization process in the processing of the imaging signal.

撮像センサ48から出力される画像信号は、CDS・AGC回路50に送信される。CDS・AGC回路50は、アナログ信号である画像信号に相関二重サンプリング(CDS(Correlated Double Sampling))や自動利得制御(AGC(Auto Gain Control))を行う。CDS・AGC回路50を経た画像信号は、A/D変換器(A/D(Analog /Digital)コンバータ)52により、デジタル画像信号に変換される。A/D変換されたデジタル画像信号は、プロセッサ装置16に入力される。   The image signal output from the image sensor 48 is transmitted to the CDS / AGC circuit 50. The CDS / AGC circuit 50 performs correlated double sampling (CDS (Correlated Double Sampling)) and automatic gain control (AGC (Auto Gain Control)) on an image signal which is an analog signal. The image signal that has passed through the CDS / AGC circuit 50 is converted into a digital image signal by an A / D converter (A / D (Analog / Digital) converter) 52. The A / D converted digital image signal is input to the processor device 16.

プロセッサ装置16は、受信部53と、DSP(Digital Signal Processor)56と、ノイズ除去部58と、画像処理切替部60と、通常画像処理部62と、特殊画像処理部64と、映像信号生成部66とを備えている。受信部53は内視鏡12からのデジタルのRGB画像信号を受信する。R画像信号は撮像センサ48のR画素から出力される信号に対応し、G画像信号は撮像センサ48のG画素から出力される信号に対応し、B画像信号は撮像センサ48のB画素から出力される信号に対応している。   The processor device 16 includes a receiving unit 53, a DSP (Digital Signal Processor) 56, a noise removing unit 58, an image processing switching unit 60, a normal image processing unit 62, a special image processing unit 64, and a video signal generating unit. 66. The receiving unit 53 receives a digital RGB image signal from the endoscope 12. The R image signal corresponds to a signal output from the R pixel of the imaging sensor 48, the G image signal corresponds to a signal output from the G pixel of the imaging sensor 48, and the B image signal is output from the B pixel of the imaging sensor 48. Corresponds to the signal to be transmitted.

DSP56は、受信した画像信号に対して、欠陥補正処理、オフセット処理、ゲイン補正処理、リニアマトリクス処理、ガンマ変換処理、デモザイク処理等の各種信号処理を施す。欠陥補正処理では、撮像センサ48の欠陥画素の信号が補正される。オフセット処理では、欠陥補正処理が施されたRGB画像信号から暗電流成分が除かれ、正確な零レベルが設定される。ゲイン補正処理では、オフセット処理後のRGB画像信号に特定のゲインを乗じることにより信号レベルが整えられる。ゲイン補正処理後のRGB画像信号には、色再現性を高めるためのリニアマトリクス処理が施される。その後、ガンマ変換処理によって明るさや彩度が整えられる。リニアマトリクス処理後のRGB画像信号には、デモザイク処理(等方化処理、画素補間処理とも言う)が施され、各画素で不足した色の信号が補間によって生成される。このデモザイク処理によって、全画素がRGB各色の信号を有するようになる。   The DSP 56 performs various signal processing such as defect correction processing, offset processing, gain correction processing, linear matrix processing, gamma conversion processing, and demosaicing processing on the received image signal. In the defect correction process, the signal of the defective pixel of the image sensor 48 is corrected. In the offset process, the dark current component is removed from the RGB image signal subjected to the defect correction process, and an accurate zero level is set. In the gain correction process, the signal level is adjusted by multiplying the RGB image signal after the offset process by a specific gain. The RGB image signal after the gain correction process is subjected to a linear matrix process for improving color reproducibility. After that, brightness and saturation are adjusted by gamma conversion processing. The RGB image signal after the linear matrix processing is subjected to demosaic processing (also referred to as isotropic processing or pixel interpolation processing), and a signal of a color that is insufficient at each pixel is generated by interpolation. By this demosaic processing, all the pixels have RGB signals.

ノイズ除去部58は、DSP56でガンマ補正等が施されたRGB画像信号に対してノイズ除去処理(例えば移動平均法やメディアンフィルタ法等)を施すことによって、RGB画像信号からノイズを除去する。ノイズが除去されたRGB画像信号は、画像処理切替部60に送信される。なお、本発明の「画像信号取得部」は、受信部53と、DSP56と、ノイズ除去部58を含む構成に対応する。   The noise removing unit 58 removes noise from the RGB image signal by performing noise removal processing (for example, a moving average method, a median filter method, etc.) on the RGB image signal subjected to gamma correction or the like by the DSP 56. The RGB image signal from which noise has been removed is transmitted to the image processing switching unit 60. The “image signal acquisition unit” of the present invention corresponds to a configuration including the reception unit 53, the DSP 56, and the noise removal unit 58.

画像処理切替部60は、モード切替SW13aにより、通常観察モードにセットされている場合には、RGB画像信号を通常画像処理部62に送信し、第1又は第2特殊観察モードにセットされている場合には、RGB画像信号を特殊画像処理部64に送信する。   When the mode switching SW 13a sets the normal observation mode, the image processing switching unit 60 transmits the RGB image signal to the normal image processing unit 62 and is set to the first or second special observation mode. In this case, the RGB image signal is transmitted to the special image processing unit 64.

通常画像処理部62は、RGB画像信号に対して、色変換処理、色彩強調処理、構造強調処理を行う。色変換処理では、デジタルのRGB画像信号に対しては、3×3のマトリックス処理、階調変換処理、3次元LUT処理などを行い、色変換処理済みのRGB画像信号に変換する。次に、色変換処理済みのRGB画像信号に対して、各種色彩強調処理を施す。この色彩強調処理済みのRGB画像信号に対して、空間周波数強調等の構造強調処理を行う。構造強調処理が施されたRGB画像信号は、表示用の通常画像のRGB画像信号として、通常画像処理部62から映像信号生成部66に入力される。   The normal image processing unit 62 performs color conversion processing, color enhancement processing, and structure enhancement processing on the RGB image signal. In the color conversion process, a 3 × 3 matrix process, a gradation conversion process, a three-dimensional LUT process, and the like are performed on the digital RGB image signal to convert the digital RGB image signal into a color converted RGB image signal. Next, various color enhancement processes are performed on the RGB image signal that has been subjected to the color conversion process. A structure enhancement process such as spatial frequency enhancement is performed on the RGB image signal that has been subjected to the color enhancement process. The RGB image signal subjected to the structure enhancement processing is input from the normal image processing unit 62 to the video signal generation unit 66 as an RGB image signal of a normal image for display.

特殊画像処理部64は、表示用の特殊画像を生成するとともに、診断情報表示用SW13bが操作されたときに、血管や腺管に関する指標など病変の診断を支援するための診断情報を加えた表示用の特殊画像を生成する。この特殊画像処理部64の詳細については後述する。この特殊画像処理部64で生成された表示用の特殊画像のRGB画像信号は、映像信号生成部66に入力される。なお、特殊画像処理部64においても、通常画像処理部62と同様に、色変換処理、色彩強調処理、構造強調処理を行うようにしてもよい。   The special image processing unit 64 generates a special image for display, and when the diagnostic information display SW 13b is operated, a display including diagnostic information for supporting diagnosis of a lesion such as an index related to a blood vessel or a gland duct Generate special images for Details of the special image processing unit 64 will be described later. The RGB image signal of the special image for display generated by the special image processing unit 64 is input to the video signal generation unit 66. Note that the special image processing unit 64 may perform color conversion processing, color enhancement processing, and structure enhancement processing in the same manner as the normal image processing unit 62.

映像信号生成部66は、通常画像処理部62又は特殊画像処理部64から入力された表示用の画像のRGB画像信号を、モニタ18で表示可能な画像として表示するための映像信号に変換する。この映像信号に基づいて、モニタ18は、通常画像、特殊画像を表示する。   The video signal generation unit 66 converts the RGB image signal of the display image input from the normal image processing unit 62 or the special image processing unit 64 into a video signal for display as an image that can be displayed on the monitor 18. Based on this video signal, the monitor 18 displays a normal image and a special image.

図5に示すように、特殊画像処理部64は、切替部68、血管抽出部70、腺管抽出部72、指標算出部74、画像生成部76を備えている。切替部68は、診断情報表示用SW13bが操作されていないときには、画像処理切替部60からのRGB画像信号を画像生成部76にのみ送信する。一方、切替部68は、診断情報表示用SW13bが操作されると、画像処理切替部60からのRGB画像信号を画像生成部76だけでなく、血管抽出部70及び腺管抽出部72に送信する。   As shown in FIG. 5, the special image processing unit 64 includes a switching unit 68, a blood vessel extraction unit 70, a gland duct extraction unit 72, an index calculation unit 74, and an image generation unit 76. When the diagnostic information display SW 13 b is not operated, the switching unit 68 transmits the RGB image signal from the image processing switching unit 60 only to the image generation unit 76. On the other hand, when the diagnostic information display SW 13 b is operated, the switching unit 68 transmits the RGB image signal from the image processing switching unit 60 not only to the image generation unit 76 but also to the blood vessel extraction unit 70 and the gland duct extraction unit 72. .

血管抽出部70は、切替部68からのRGB画像信号のうちB画像信号に対してブラックハットフィルタ処理を施して、B画像信号から血管を抽出した血管画像信号を生成する。図6に示すように、血管抽出部70に入力する前のB画像信号には、周辺の画素よりも画素値が小さい血管Vの画素の他に、周辺の画素よりも画素値が大きい腺管Sの画素とが含まれている。このB画像信号に対してブラックハットフィルタを施すことで、画素値が周辺の画素よりも小さい血管Vの画素のみが抽出された血管画像信号が得られる。一方、腺管抽出部72は、切替部68からのRGB画像信号のうちB画像信号に対してトップハットフィルタ処理を施す。このトップハットフィルタを施すことにより、図7に示すように、画素値が周辺の画素よりも大きい腺管Sの画素のみが抽出された腺管画像信号が得られる。   The blood vessel extraction unit 70 performs black hat filter processing on the B image signal among the RGB image signals from the switching unit 68 to generate a blood vessel image signal obtained by extracting blood vessels from the B image signal. As shown in FIG. 6, the B image signal before being input to the blood vessel extraction unit 70 includes a gland duct having a pixel value larger than that of the surrounding pixels, in addition to the pixel of the blood vessel V having a pixel value smaller than that of the surrounding pixels. S pixels are included. By applying a black hat filter to the B image signal, a blood vessel image signal in which only pixels of the blood vessel V having a pixel value smaller than that of surrounding pixels is extracted can be obtained. On the other hand, the duct extraction unit 72 performs top hat filter processing on the B image signal among the RGB image signals from the switching unit 68. By applying this top hat filter, as shown in FIG. 7, a duct image signal in which only pixels of the duct S having a pixel value larger than that of surrounding pixels is extracted is obtained.

なお、血管抽出部70においては、B画像信号に対してトップハットフィルタ処理を施した後に反転処理することで、上記と同様の血管画像信号を生成することが可能である。このように血管抽出部70と腺管抽出部72で同じトップハットフィルタ処理を行うことで、処理負担を軽減することが可能である。また、腺管抽出部72においては、B画像信号にブラックハットフィルタ処理を施して反転処理することで、上記と同様の腺管画像信号を生成することができる。   In the blood vessel extraction unit 70, it is possible to generate a blood vessel image signal similar to the above by performing inversion processing after performing top hat filter processing on the B image signal. By performing the same top hat filter processing in the blood vessel extraction unit 70 and the gland duct extraction unit 72 in this way, it is possible to reduce the processing load. The duct extraction unit 72 can generate a duct image signal similar to the above by performing black hat filter processing on the B image signal and performing inversion processing.

指標算出部74は、血管画像信号から血管指標を算出する。血管指標としては、例えば、血管画像信号における単位面積当たりの血管の密度、血管画像信号上の血管パターンと正常時の血管パターンと相関係数、血管画像信号上の血管の走行方向、血管画像信号上の血管の周波数成分である。同様にして、指標算出部74は、腺管画像信号から腺管指標を算出する。腺管指標としては、例えば、腺管画像信号における単位面積当たりの腺管の密度、腺管画像信号上の腺管パターンと正常時の腺管パターンと相関係数、腺管画像信号上の腺管の走行方向、腺管画像信号上の腺管の周波数成分である。   The index calculation unit 74 calculates a blood vessel index from the blood vessel image signal. Examples of the blood vessel index include the density of blood vessels per unit area in the blood vessel image signal, the blood vessel pattern on the blood vessel image signal and the correlation coefficient between the normal blood vessel pattern, the traveling direction of the blood vessel on the blood vessel image signal, and the blood vessel image signal. It is the frequency component of the upper blood vessel. Similarly, the index calculation unit 74 calculates a duct index from the duct image signal. Examples of the duct index include, for example, the density of the duct per unit area in the duct image signal, the correlation between the duct pattern on the duct image signal and the normal duct pattern, and the gland on the duct image signal. It is a frequency component of the duct on the traveling direction of the duct and the duct image signal.

なお、血管画像信号上の血管の走行方向や腺管画像信号上の腺管の走行方向は、例えば、血管画像信号や腺管画像信号にガボールフィルタを施すことで得ることができる。このガボールフィルタを用いた場合、全ての方向に成分を有しているときには、血管又は腺管はランダム走行とされる。また、血管画像信号上の血管の周波数成分や腺管画像信号上の腺管の周波数成分は、例えば、血管画像信号や腺管画像信号にフーリエ変換を施すことで得ることができる。   The traveling direction of the blood vessel on the blood vessel image signal and the traveling direction of the gland duct on the gland duct image signal can be obtained, for example, by applying a Gabor filter to the blood vessel image signal or the gland duct image signal. When this Gabor filter is used, when there are components in all directions, the blood vessel or gland duct is made to run randomly. Moreover, the frequency component of the blood vessel on the blood vessel image signal and the frequency component of the gland duct on the gland duct image signal can be obtained, for example, by performing Fourier transform on the blood vessel image signal or the gland duct image signal.

画像生成部76は、切替部68からのRGB画像信号と血管指標及び腺管指標に基づいて、表示用の特殊画像を生成する。表示用の特殊画像としては、例えば、図8に示すように、血管Vや腺管Sなど観察対象の画像78を中央に表示するとともに、血管指標及び腺管指標79を右上に表示する。   The image generation unit 76 generates a special image for display based on the RGB image signal from the switching unit 68, the blood vessel index, and the gland duct index. As a special image for display, for example, as shown in FIG. 8, an image 78 to be observed such as a blood vessel V and a gland duct S is displayed in the center, and a blood vessel index and a gland duct index 79 are displayed in the upper right.

なお、指標算出部74で算出した血管指標及び腺管指標に基づいて、血管の形状や走行に関する血管パターン及び腺管の形状や走行に関する腺管パターンを判定してもよい。この場合には、図9に示すように、指標算出部74と画像生成部76との間に、パターン判定部80が設けられる。   It should be noted that based on the blood vessel index and gland duct index calculated by the index calculation unit 74, the blood vessel pattern related to the blood vessel shape and running and the gland duct shape and gland duct pattern related to running may be determined. In this case, as shown in FIG. 9, a pattern determination unit 80 is provided between the index calculation unit 74 and the image generation unit 76.

例えば、観察対象が胃である場合には、パターン判定部80では、血管指標から血管パターンが「正常」、「異常」、「消失」のいずれに該当するかを判定するとともに、腺管指標から腺管パターンが「正常」、「異常」、「消失」のいずれに該当するかを判定する。この「正常」、「異常」、「消失」は、それぞれ、VS classificationの「regular」、「irregular」、「absent」に相当する(例えば、「NBI内視鏡アトラス(編集:武藤学/八尾健史/佐野寧)(出版:南江堂)」の114、115頁参照)。パターン判定部80での判定結果82については、図10に示すように、血管Vや腺管Sなど観察対象の画像78とともに、表示用の特殊画像上に表示される。   For example, when the observation target is the stomach, the pattern determination unit 80 determines whether the blood vessel pattern corresponds to “normal”, “abnormal”, or “disappearance” from the blood vessel index, and from the glandular duct index. It is determined whether the duct pattern corresponds to “normal”, “abnormal”, or “disappearance”. These “normal”, “abnormal”, and “disappearance” correspond to “regular”, “irregular”, and “absent” of VS classification, respectively (for example, “NBI Endoscopy Atlas (edited by Manabu Muto / Kenji Yao) / Nano Sano) (published by Nankodo) ", pages 114 and 115). The determination result 82 in the pattern determination unit 80 is displayed on a special image for display together with an image 78 to be observed such as a blood vessel V and a gland duct S as shown in FIG.

具体的には、パターン判定部80は、血管密度が一定値以下、もしくは血管の周波数成分の周波数成分が低周波成分のパワーしかない場合には、血管パターンは「消失」と判定される。また、パターン判定部80は、腺管密度が一定値以上かつ正常値と著しく異なる場合、「正常」の血管パターンとの相関係数が一定値以下の場合、血管の走行方向が「正常」の血管パターンの走行方向と一致しない場合のうちいずれか1つでも該当する場合には、血管パターンを「異常」と判定する。そして、パターン判定部80は、上記「消失」の条件、「異常」の条件のいずれにも該当しない場合に、血管パターンを「正常」と判定する。なお、腺管パターンの「消失」、「異常」、「正常」についても、血管パターンと同様の方法で、判定を行う。   Specifically, the pattern determining unit 80 determines that the blood vessel pattern is “disappeared” when the blood vessel density is equal to or lower than a certain value or the frequency component of the blood vessel has only the power of the low frequency component. The pattern determination unit 80 also determines that the blood vessel running direction is “normal” when the duct density is not less than a certain value and significantly different from the normal value, and the correlation coefficient with the “normal” blood vessel pattern is not more than a certain value. If any one of the cases in which the traveling direction of the blood vessel pattern does not match, the blood vessel pattern is determined as “abnormal”. The pattern determining unit 80 determines that the blood vessel pattern is “normal” when neither the “disappearance” condition nor the “abnormal” condition is satisfied. Note that “disappearance”, “abnormality”, and “normal” of the ductal pattern are also determined by the same method as the blood vessel pattern.

例えば、観察対象が大腸である場合には、パターン判定部80は、血管指標から血管パターンが「正常」、「異常1」、「異常2」「消失」のいずれに該当するかを判定するとともに、腺管指標から腺管パターンが「正常」、「異常1」、「異常2」、「消失」のいずれに該当するかを判定する。これらのうち「異常1」、「異常2」、「消失」は、NICE(NBI International Colorectal Endoscopic classification)分類に従って分類される(例えば、上記の「NBI内視鏡アトラス」の164、165頁参照)。観察対象を大腸とした場合のパターン判定部80での判定結果については、上記と同様に、血管Vや腺管Sなど観察対象の画像とともに、表示用の特殊画像上に表示される。   For example, when the observation target is the large intestine, the pattern determination unit 80 determines whether the blood vessel pattern corresponds to “normal”, “abnormal 1”, “abnormal 2”, or “disappear” from the blood vessel index. From the duct index, it is determined whether the duct pattern corresponds to “normal”, “abnormal 1”, “abnormal 2”, or “disappearance”. Among these, “abnormal 1”, “abnormal 2”, and “disappearance” are classified according to NICE (NBI International Colorectal Endoscopic classification) classification (for example, see pages 164 and 165 of the above-mentioned “NBI Endoscopic Atlas”). . The determination result in the pattern determination unit 80 when the observation target is the large intestine is displayed on the special image for display together with the image of the observation target such as the blood vessel V and the gland duct S as described above.

なお、血管パターンの「異常1」は、「血管が存在しない、若しくは病変を横切るように走行するレース状の孤立した血管」を示している。血管パターンの「異常2」は「白い腺管構造を取り囲む茶色の血管」を示している。血管パターンの「消失」は「血管が分裂又は消失した領域が存在すること」を示している。一方、腺管パターンの「異常1」は「それぞれのサイズが同である暗い又は白のスポットが存在する、若しくは同じような腺管構造が存在しない」ことを示している。腺管パターンの「異常2」は「茶色の血管によって囲まれる楕円、管状、若しくは分岐した白の腺管構造」を示している。腺管パターンの「消失」は「無形化した、若しくは消失した腺管パターン」を示している。   The “abnormality 1” of the blood vessel pattern indicates “a lace-like isolated blood vessel that does not exist or travels across a lesion”. The “abnormality 2” in the blood vessel pattern indicates “a brown blood vessel surrounding the white gland duct structure”. The “disappearance” of the blood vessel pattern indicates “there is a region where the blood vessel has been divided or disappeared”. On the other hand, “abnormality 1” of the duct pattern indicates that “a dark or white spot having the same size exists or a similar duct structure does not exist”. “Abnormal 2” of the duct pattern indicates “an oval, tubular, or branched white duct structure surrounded by a brown blood vessel”. The “disappearance” of the duct pattern indicates “an intangible or disappeared duct pattern”.

なお、パターン判定部80での判定結果などを用いて、がんなどの病変が存在するか否かを判定するとともに、病変の領域を関心領域としてモニタ18上に表示するようにしてもよい。例えば、観察対象が胃である場合には、図11に示すように、パターン判定部80と画像生成部76との間に設けた第1の病変判定部84と関心領域設定部86と、指標算出部74と関心領域設定部86との間に設けた境界部算出部88を用いて、病変の判定及び関心領域の設定を行う。   Note that it is possible to determine whether or not a lesion such as cancer exists using the determination result in the pattern determination unit 80 and to display the lesion region on the monitor 18 as a region of interest. For example, when the observation target is the stomach, as shown in FIG. 11, the first lesion determination unit 84, the region of interest setting unit 86 provided between the pattern determination unit 80 and the image generation unit 76, and an index A boundary calculation unit 88 provided between the calculation unit 74 and the region of interest setting unit 86 is used to determine a lesion and set a region of interest.

第1の病変判定部84は、血管パターンと腺管パターンのいずれもが「正常」である場合に、「病変は存在しない」と判定する。この場合には、表示用の特殊画像上に、「病変は存在しない」旨が表示される。これに対して、病変判定部84は、血管パターンと腺管パターンのいずれか一方が「異常」又は「消失」である場合(即ち、「正常」でない場合)、「病変が存在する」と判定する。この場合には、図12に示すように、「病変が存在する可能性がある」ことを知らせる旨のガイダンス表示が表示用の特殊画像上に表示される。   The first lesion determination unit 84 determines that “the lesion does not exist” when both the blood vessel pattern and the gland duct pattern are “normal”. In this case, “no lesion exists” is displayed on the display special image. On the other hand, the lesion determination unit 84 determines that “the lesion is present” when either one of the blood vessel pattern and the gland duct pattern is “abnormal” or “disappear” (that is, not “normal”). To do. In this case, as shown in FIG. 12, a guidance display indicating that “a lesion may exist” is displayed on the special image for display.

また、境界部算出部88が、病変と非病変との境界を示す病変境界部(デマルケーションライン)を算出する。この境界部算出部88では、指標算出部74で算出した腺管指標のうち、例えば、腺管の密度分布及び/又は形状分布を用いて、腺管の密度分布及び/又は形状分布非連続点を算出する。非連続点は、腺管の密度及び/又は形状が急激に変化する部分であり、エッジ検出などによって算出することができる。そして、境界部算出部88は、算出した非連続点を連結して閉曲線を生成する。この生成された閉曲線が病変境界部となる。そして、関心領域設定部86は、境界部算出部88で算出した病変境界部を、病変が含まれる関心領域ROI(Region Of Interest)として設定する。この設定された関心領域ROIは、図12に示すように、観察対象の画像90とともに、表示用の特殊画像上に表示される。   In addition, the boundary calculation unit 88 calculates a lesion boundary (demarcation line) indicating a boundary between a lesion and a non-lesion. In this boundary calculation unit 88, among the gland duct indices calculated by the index calculation unit 74, for example, the density distribution and / or shape distribution discontinuous points of the gland duct using the density distribution and / or shape distribution of the gland duct. Is calculated. The discontinuous point is a portion where the density and / or shape of the gland duct changes rapidly, and can be calculated by edge detection or the like. And the boundary part calculation part 88 connects the calculated discontinuous point, and produces | generates a closed curve. The generated closed curve becomes a lesion boundary. Then, the region of interest setting unit 86 sets the lesion boundary calculated by the boundary calculation unit 88 as a region of interest ROI (Region Of Interest) including the lesion. As shown in FIG. 12, the set region of interest ROI is displayed on a special image for display together with the image 90 to be observed.

また、観察対象が大腸である場合には、図13に示すように、色調算出部92と、第2病変判定部94とを用いて、病変の判定を行う。色調算出部92は第2切替部68からのRGB画像信号を受信し、この受信したRGB画像信号に基づいて、観察対象の色調を算出する。また、色調算出部92では、算出した色調を、「周囲と同等もしくは明るい」を色調1として、「周囲の色と比較して茶色」を色調2として、「周囲より茶色で明るい」を色調3として分類する。   When the observation target is the large intestine, as shown in FIG. 13, lesion determination is performed using a color tone calculation unit 92 and a second lesion determination unit 94. The color tone calculation unit 92 receives the RGB image signal from the second switching unit 68, and calculates the color tone of the observation target based on the received RGB image signal. Further, the color tone calculation unit 92 sets the calculated color tone as “tone equal to or brighter than the surroundings” as the color tone 1, “brown compared to the surrounding colors” as the color tone 2, and “brown brighter than the surroundings” as the color tone 3 Classify as

第2の病変判定部94はパターン判定部80と画像生成部76との間に設けられている。この第2の病変判定部94では、血管パターンと腺管パターンのいずれもが「正常」である場合に、「病変は存在しない」と判定する。この場合には、表示用の特殊画像上に、「病変は存在しない」旨が表示される。これに対して、第2の病変判定部94は、血管パターンと腺管パターンのいずれか一方が「異常1」、「異常2」、又は「消失」である場合に、「病変が存在する」と判定する。このように「病変が存在する」と判定した場合には、更に、第2の病変判定部94は、パターン判定部80での判定結果と色調算出部94で算出した色調も加えて、病変のタイプを判別する。病変のタイプは、「タイプ1」、「タイプ2」、「タイプ3」からなり、以下の表1に従って、分類される。

Figure 0006259747
なお、観察対象が大腸である場合においても、血管指標又は腺管指標が特定の条件を満たす領域を、病変が含まれる関心領域ROI(Region Of Interest)として、表示用の特殊画像上に表示するようにしてもよい。 The second lesion determination unit 94 is provided between the pattern determination unit 80 and the image generation unit 76. The second lesion determination unit 94 determines that “the lesion does not exist” when both the blood vessel pattern and the gland duct pattern are “normal”. In this case, “no lesion exists” is displayed on the display special image. On the other hand, the second lesion determination unit 94 determines that “a lesion is present” when one of the blood vessel pattern and the gland duct pattern is “abnormal 1”, “abnormal 2”, or “disappearance”. Is determined. When it is determined that “the lesion is present” as described above, the second lesion determination unit 94 further adds the determination result of the pattern determination unit 80 and the color tone calculated by the color tone calculation unit 94, and the lesion Determine the type. The types of lesions are “type 1”, “type 2”, and “type 3”, and are classified according to Table 1 below.
Figure 0006259747
Even when the observation target is the large intestine, a region where the blood vessel index or gland duct index satisfies a specific condition is displayed as a region of interest ROI (Region Of Interest) including a lesion on a special image for display. You may do it.

次に、本発明の一連の流れについて、図15に示すフローチャートを用いて説明する。まず、通常モードにおいて、遠景状態からスクリーニングを行う。このスクリーニング時に、ブラウニッシュエリアや発赤など病変の可能性がある部位(病変可能性部位)を検出したときには、ズーム操作部13cを操作して、その病変可能性部位を拡大表示する拡大観察を行う。これに合わせて、モード切替SW13aを操作して、特殊モードに切り替える。これにより、特殊画像がモニタ18に表示される。   Next, a series of flows of the present invention will be described with reference to the flowchart shown in FIG. First, screening is performed from a distant view state in the normal mode. At the time of this screening, when a site (possible site of lesion) such as a brownish area or redness is detected, the zoom operation unit 13c is operated to perform enlarged observation to display the site of possible lesion. . In accordance with this, the mode switching SW 13a is operated to switch to the special mode. As a result, the special image is displayed on the monitor 18.

そして、特殊画像の表示中に、病変可能性部位が病変かどうかを血管Vと腺管Sの状態から診断するために、診断情報表示用SW13bを操作する。この操作に応じて、血管抽出部70が特殊画像のB画像信号にブラックハットフィルタ処理を施すことにより、血管Vを抽出した血管画像信号を生成する。また、腺管抽出部72が特殊画像のB画像信号にトップハットフィルタ処理を施すことにより、腺管Sを抽出した腺管画像信号を生成する。そして、指標算出部74が、血管画像信号から血管指標を算出するとともに、腺管画像信号から腺管指標を算出する。算出した血管指標と腺管指標は、血管Vと腺管Sを含む観察対象とともに、モニタ18に表示される。   Then, during the display of the special image, the diagnostic information display SW 13b is operated in order to diagnose from the state of the blood vessel V and the gland duct S whether the possible lesion site is a lesion. In response to this operation, the blood vessel extraction unit 70 performs black hat filter processing on the B image signal of the special image, thereby generating a blood vessel image signal from which the blood vessel V is extracted. In addition, the duct extraction unit 72 performs a top hat filter process on the B image signal of the special image to generate a duct image signal from which the duct S is extracted. Then, the index calculation unit 74 calculates a blood vessel index from the blood vessel image signal and calculates a gland duct index from the gland duct image signal. The calculated blood vessel index and gland duct index are displayed on the monitor 18 together with the observation target including the blood vessel V and the gland duct S.

以上のように、拡大観察中において、血管V及び腺管Sに関する血管密度や腺管密度など客観的な血管指標及び腺管指標をモニタ18上に表示することで、血管パターンや腺管パターンの観察に熟練していないドクターであっても、確実に病変部の診断を行うことができるようになる。   As described above, the objective blood vessel index and the gland duct index such as the blood vessel density and the gland duct density related to the blood vessel V and the gland duct S are displayed on the monitor 18 during the enlarged observation, so that the blood vessel pattern and the gland duct pattern are displayed. Even a doctor who is not skilled in observation can surely diagnose a lesion.

[第2実施形態]
第2実施形態では、第1実施形態で示した4色のLED20a〜20dの代わりに、レーザ光源と蛍光体を用いて観察対象の照明を行う。それ以外については、第1実施形態と同様である。
[Second Embodiment]
In the second embodiment, the observation target is illuminated using a laser light source and a phosphor instead of the four-color LEDs 20a to 20d shown in the first embodiment. The rest is the same as in the first embodiment.

図16に示すように、第2実施形態の内視鏡システム100では、光源装置14において、4色のLED20a〜20dの代わりに、中心波長445±10nmの青色レーザ光を発する青色レーザ光源(図16では「445LD」と表記)104と、中心波長405±10nmの青紫色レーザ光を発する青紫色レーザ光源(図16では「405LD」と表記)106とが設けられている。これら各光源104、106の半導体発光素子からの発光は、光源制御部108により個別に制御されており、青色レーザ光源104の出射光と、青紫色レーザ光源106の出射光の光量比は変更自在になっている。なお、本発明の「400〜420nmの波長域を含む狭帯域光」は青紫色レーザ光に対応する。   As shown in FIG. 16, in the endoscope system 100 according to the second embodiment, in the light source device 14, a blue laser light source that emits blue laser light having a central wavelength of 445 ± 10 nm instead of the four color LEDs 20 a to 20 d (see FIG. 16). 16, a blue-violet laser light source (indicated as “405LD” in FIG. 16) 106 that emits blue-violet laser light having a central wavelength of 405 ± 10 nm is provided. Light emission from the semiconductor light emitting elements of these light sources 104 and 106 is individually controlled by the light source control unit 108, and the light quantity ratio between the emitted light of the blue laser light source 104 and the emitted light of the blue-violet laser light source 106 is freely changeable. It has become. In the present invention, “narrowband light including a wavelength range of 400 to 420 nm” corresponds to blue-violet laser light.

光源制御部108は、通常観察モードの場合には、青色レーザ光源104を駆動させる。これに対して、特殊観察モードの場合には、青色レーザ光源104と青紫色レーザ光源106の両方を駆動させるとともに、青色レーザ光の発光比率を青紫色レーザ光の発光比率よりも大きくなるように制御している。以上の各光源104、106から出射されるレーザ光は、集光レンズ、光ファイバ、合波器などの光学部材(いずれも図示せず)を介して、ライトガイド(LG)41に入射する。   The light source control unit 108 drives the blue laser light source 104 in the normal observation mode. In contrast, in the special observation mode, both the blue laser light source 104 and the blue violet laser light source 106 are driven, and the emission ratio of the blue laser light is made larger than the emission ratio of the blue violet laser light. I have control. The laser light emitted from each of the light sources 104 and 106 enters the light guide (LG) 41 through optical members (all not shown) such as a condenser lens, an optical fiber, and a multiplexer.

なお、青色レーザ光又は青紫色レーザ光の半値幅は±10nm程度にすることが好ましい。また、青色レーザ光源104及び青紫色レーザ光源106は、ブロードエリア型のInGaN系レーザダイオードが利用でき、また、InGaNAs系レーザダイオードやGaNAs系レーザダイオードを用いることもできる。また、上記光源として、発光ダイオード等の発光体を用いた構成としてもよい。   Note that the full width at half maximum of the blue laser beam or the blue-violet laser beam is preferably about ± 10 nm. As the blue laser light source 104 and the blue-violet laser light source 106, a broad area type InGaN laser diode can be used, and an InGaNAs laser diode or a GaNAs laser diode can also be used. In addition, a light-emitting body such as a light-emitting diode may be used as the light source.

照明光学系30aには、照明レンズ45の他に、ライトガイド41からの青色レーザ光又は青紫色レーザ光が入射する蛍光体110が設けられている。蛍光体110に、青色レーザ光が照射されることで、蛍光体110から蛍光が発せられる。また、一部の青色レーザ光は、そのまま蛍光体110を透過する。青紫色レーザ光は、蛍光体110を励起させることなく透過する。蛍光体110を出射した光は、照明レンズ45を介して、検体内に照射される。なお、本発明の「光源部」は、青色レーザ光源104、青紫色レーザ光源106、蛍光体110を含む構成に対応する。   In addition to the illumination lens 45, the illumination optical system 30a is provided with a phosphor 110 on which blue laser light or blue-violet laser light from the light guide 41 is incident. When the phosphor 110 is irradiated with the blue laser light, the phosphor 110 emits fluorescence. Some of the blue laser light passes through the phosphor 110 as it is. The blue-violet laser light is transmitted without exciting the phosphor 110. The light emitted from the phosphor 110 is irradiated into the specimen through the illumination lens 45. The “light source unit” of the present invention corresponds to a configuration including the blue laser light source 104, the blue-violet laser light source 106, and the phosphor 110.

ここで、通常観察モードにおいては、主として青色レーザ光が蛍光体110に入射するため、図17に示すような、青色レーザ光、及び青色レーザ光により蛍光体110から励起発光する蛍光を合波した白色光が、観察対象に照射される。一方、特殊観察モードにおいては、青紫色レーザ光と青色レーザ光の両方が蛍光体110に入射するため、図18に示すような、青紫色レーザ光、青色レーザ光、及び青色レーザ光により蛍光体110から励起発光する蛍光を合波した特殊光が、検体内に照射される。   Here, in the normal observation mode, mainly the blue laser light is incident on the phosphor 110. Therefore, as shown in FIG. 17, the blue laser light and the fluorescence excited and emitted from the phosphor 110 are combined by the blue laser light. White light is irradiated to the observation target. On the other hand, in the special observation mode, since both the blue-violet laser beam and the blue laser beam are incident on the phosphor 110, the phosphor is generated by the blue-violet laser beam, the blue laser beam, and the blue laser beam as shown in FIG. Special light obtained by combining fluorescence excited and emitted from 110 is irradiated into the specimen.

なお、蛍光体110は、青色レーザ光の一部を吸収して、緑色〜黄色に励起発光する複数種の蛍光体(例えばYAG系蛍光体、或いはBAM(BaMgAl1017)等の蛍光体)を含んで構成されるものを使用することが好ましい。本構成例のように、半導体発光素子を蛍光体110の励起光源として用いれば、高い発光効率で高強度の白色光が得られ、白色光の強度を容易に調整できる上に、白色光の色温度、色度の変化を小さく抑えることができる。 The phosphor 110 absorbs a part of the blue laser light and emits a plurality of types of phosphors that emit green to yellow light (for example, YAG phosphors or phosphors such as BAM (BaMgAl 10 O 17 )). It is preferable to use what is comprised including. If a semiconductor light emitting element is used as an excitation light source for the phosphor 110 as in this configuration example, high intensity white light can be obtained with high luminous efficiency, and the intensity of white light can be easily adjusted, and the color of white light can be easily adjusted. Changes in temperature and chromaticity can be kept small.

なお、特殊観察モードのときには、図19に示すように、青色レーザ光は消灯して、青紫色レーザ光のみを発するようにしてもよい。この青紫色レーザ光のみを観察対象に照明するようにすることで、血管や腺管のコントラストを向上させることができる。これにより、上述した血管指標や腺管指標の算出精度を高めることができるとともに、血管指標や腺管指標に基づく病変判定の精度も高めることができる。   In the special observation mode, as shown in FIG. 19, the blue laser light may be turned off and only the blue-violet laser light may be emitted. By illuminating the observation target with only this blue-violet laser beam, the contrast of blood vessels and gland ducts can be improved. Thereby, the calculation accuracy of the blood vessel index and gland duct index described above can be increased, and the accuracy of lesion determination based on the blood vessel index and gland duct index can also be increased.

[第3実施形態]
第3実施形態では、第1実施形態で示した4色のLED20a〜20dの代わりに、キセノンランプなどの広帯域光源と回転フィルタを用いて観察対象の照明を行う。また、カラーの撮像センサ48に代えて、モノクロの撮像センサで観察対象の撮像を行う。それ以外については、第1実施形態と同様である。
[Third Embodiment]
In the third embodiment, the observation target is illuminated using a broadband light source such as a xenon lamp and a rotary filter instead of the four-color LEDs 20a to 20d shown in the first embodiment. Further, instead of the color image sensor 48, the observation target is imaged by a monochrome image sensor. The rest is the same as in the first embodiment.

図20に示すように、第3実施形態の内視鏡システム200では、光源装置14において、4色のLED20a〜20dに代えて、広帯域光源202、回転フィルタ204、フィルタ切替部205が設けられている。また、撮像光学系30bには、カラーの撮像センサ48の代わりに、カラーフィルタが設けられていないモノクロの撮像センサ206が設けられている。なお、本発明の「光源部」は広帯域光源202、回転フィルタ204を含む構成に対応する。   As shown in FIG. 20, in the endoscope system 200 of the third embodiment, the light source device 14 is provided with a broadband light source 202, a rotary filter 204, and a filter switching unit 205 instead of the four color LEDs 20 a to 20 d. Yes. The imaging optical system 30b is provided with a monochrome imaging sensor 206 that is not provided with a color filter, instead of the color imaging sensor 48. The “light source unit” of the present invention corresponds to a configuration including the broadband light source 202 and the rotation filter 204.

広帯域光源202はキセノンランプ、白色LEDなどであり、波長域が青色から赤色に及ぶ白色光を発する。回転フィルタ204は、内側に設けられた通常観察モード用フィルタ208と、外側に設けられた特殊観察モード用フィルタ209とを備えている(図21参照)。フィルタ切替部205は、回転フィルタ204を径方向に移動させるものであり、モード切替SW13aにより通常観察モードにセットされたときに、回転フィルタ204の通常観察モード用フィルタ208を白色光の光路に挿入し、特殊観察モードにセットされたときに、回転フィルタ204の特殊観察モード用フィルタ209を白色光の光路に挿入する。   The broadband light source 202 is a xenon lamp, a white LED, or the like, and emits white light having a wavelength range from blue to red. The rotary filter 204 includes a normal observation mode filter 208 provided inside and a special observation mode filter 209 provided outside (see FIG. 21). The filter switching unit 205 moves the rotary filter 204 in the radial direction, and when the normal switching mode is set by the mode switching SW 13a, the normal observation mode filter 208 of the rotary filter 204 is inserted into the white light path. When the special observation mode is set, the special observation mode filter 209 of the rotation filter 204 is inserted into the optical path of white light.

図21に示すように、通常観察モード用フィルタ208には、周方向に沿って、白色光のうち青色光を透過させるBフィルタ208a、白色光のうち緑色光を透過させるGフィルタ208b、白色光のうち赤色光を透過させるRフィルタ208cが設けられている。したがって、通常観察モード時には、回転フィルタ204が回転することで、青色光、緑色光、赤色光が交互に観察対象に照射される。   As shown in FIG. 21, the normal observation mode filter 208 includes, along the circumferential direction, a B filter 208a that transmits blue light of white light, a G filter 208b that transmits green light of white light, and white light. Among them, an R filter 208c that transmits red light is provided. Therefore, in the normal observation mode, the rotation filter 204 is rotated, so that blue light, green light, and red light are alternately irradiated on the observation target.

特殊観察モード用フィルタ209には、周方向に沿って、白色光のうちと青色光と異なる帯域の特殊青色光を透過させるBフィルタ209aと、白色光のうち緑色光と異なる帯域の特殊緑色光を透過させるGフィルタ209b、白色光のうち赤色光と異なる帯域の特殊赤色光を透過させるRフィルタ209cが設けられている。したがって、特殊観察モード時には、回転フィルタ204が回転することで、特殊青色光、特殊緑色光、特殊赤色光が交互に観察対象に照射される。   The special observation mode filter 209 includes, in the circumferential direction, a B filter 209a that transmits special blue light in a band different from that of blue light and white light, and special green light in a band different from green light among white light. A G filter 209b that transmits light and an R filter 209c that transmits special red light in a band different from red light among white light are provided. Therefore, in the special observation mode, the rotation filter 204 is rotated so that special blue light, special green light, and special red light are alternately irradiated onto the observation target.

内視鏡システム200では、通常観察モード時には、青色光、緑色光、赤色光が観察対象に照射される毎にモノクロの撮像センサ206で検体内を撮像する。これにより、RGBの3色の画像信号が得られる。そして、それらRGBの画像信号に基づいて、上記第1実施形態と同様の方法で、通常画像が生成される。   In the endoscope system 200, in the normal observation mode, the inside of the sample is imaged by the monochrome imaging sensor 206 every time the observation target is irradiated with blue light, green light, and red light. Thereby, RGB image signals of three colors are obtained. Based on the RGB image signals, a normal image is generated by the same method as in the first embodiment.

一方、特殊観察モード時には、特殊青色光、特殊緑色光、特殊赤色光が観察対象に照射される毎にモノクロの撮像センサ206で検体内を撮像する。これにより、RGBの3色の画像信号が得られる。これら3色のRGB画像信号のうち少なくとも1色の画像信号に基づいて、特殊画像の生成が行われる。それ以外については、第1実施形態と同様の方法で特殊画像の生成が行われる。   On the other hand, in the special observation mode, the inside of the specimen is imaged by the monochrome imaging sensor 206 each time the observation object is irradiated with special blue light, special green light, and special red light. Thereby, RGB image signals of three colors are obtained. A special image is generated based on an image signal of at least one color among the RGB image signals of these three colors. Other than that, a special image is generated in the same manner as in the first embodiment.

なお、特殊観察モードのときには、回転フィルタ204のBフィルタ209aに固定して、特殊青色光のみを発するようにしてもよい。この場合、狭帯域の特殊青色光(本発明の「400〜420nmの波長域を含む狭帯域光」に対応する)のみを観察対象に照明するようにすることで、血管や腺管のコントラストを向上させることができる。これにより、上述した血管指標や腺管指標の算出精度を高めることができるとともに、血管指標や腺管指標に基づく病変判定の精度も高めることができる。   In the special observation mode, only the special blue light may be emitted by being fixed to the B filter 209a of the rotary filter 204. In this case, only the narrow-band special blue light (corresponding to the “narrow-band light including the wavelength range of 400 to 420 nm” of the present invention) is illuminated on the observation target, so that the contrast of blood vessels and gland ducts can be reduced. Can be improved. Thereby, the calculation accuracy of the blood vessel index and gland duct index described above can be increased, and the accuracy of lesion determination based on the blood vessel index and gland duct index can also be increased.

[第4実施形態]
第4実施形態では、挿入型の内視鏡12及び光源装置14に代えて、飲み込み式のカプセル内視鏡を用いて、通常画像、特殊画像の生成に必要なRGB画像信号を取得する。
[Fourth Embodiment]
In the fourth embodiment, instead of the insertion type endoscope 12 and the light source device 14, a swallowable capsule endoscope is used to acquire RGB image signals necessary for generating a normal image and a special image.

図22に示すように、第4実施形態のカプセル内視鏡システム300は、カプセル内視鏡302と、送受信アンテナ304と、カプセル用受信装置306と、プロセッサ装置16と、モニタ18を備えている。カプセル内視鏡302は、LED302aと、撮像センサ302bと、画像処理部302cと、送信アンテナ302dとを備えている。なお、プロセッサ装置16は第1実施形態と同様であるが、第4実施形態では、通常観察モード、特殊観察モードに切り替えるためのモード切替SW308、診断情報表示用SW310が新たに設けられている。   As illustrated in FIG. 22, the capsule endoscope system 300 according to the fourth embodiment includes a capsule endoscope 302, a transmission / reception antenna 304, a capsule receiving device 306, a processor device 16, and a monitor 18. . The capsule endoscope 302 includes an LED 302a, an image sensor 302b, an image processing unit 302c, and a transmission antenna 302d. The processor device 16 is the same as that in the first embodiment, but in the fourth embodiment, a mode switching SW 308 for switching between the normal observation mode and the special observation mode and a diagnostic information display SW 310 are newly provided.

LED302aは、白色光を発するものであり、カプセル内視鏡302内に複数設けられている。ここで、LED302aとしては、青色光源と、この青色光源からの光を波長変換して蛍光を発する蛍光体とを備える白色LEDなどを用いることが好ましい。LEDに代えて、LD(Laser Diode)を用いてもよい。LED302aから発せられた白色光は、観察対象に対して照明される。なお、本発明の「光源部」はLED302aに対応する。   The LEDs 302 a emit white light, and a plurality of LEDs 302 a are provided in the capsule endoscope 302. Here, as the LED 302a, it is preferable to use a white LED or the like that includes a blue light source and a phosphor that emits fluorescence by converting the wavelength of light from the blue light source. An LD (Laser Diode) may be used instead of the LED. White light emitted from the LED 302a is illuminated on the observation target. The “light source unit” of the present invention corresponds to the LED 302a.

撮像センサ302bはカラーの撮像センサであり、白色光で照明された観察対象を撮像して、RGBの画像信号を出力する。ここで、撮像センサ302bとしては、CCD(Charge Coupled Device)撮像センサやCMOS(Complementary Metal-Oxide Semiconductor)撮像センサを用いることが好ましい。撮像センサ302bから出力されたRGB画像信号は、画像処理部302cで、送信アンテナ302dで送信可能な信号にするための処理が施される。画像処理部302cを経たRGB画像信号は、送信アンテナ302dから、無線で送受信アンテナ304に送信される。   The imaging sensor 302b is a color imaging sensor, images an observation target illuminated with white light, and outputs RGB image signals. Here, as the imaging sensor 302b, a CCD (Charge Coupled Device) imaging sensor or a CMOS (Complementary Metal-Oxide Semiconductor) imaging sensor is preferably used. The RGB image signal output from the imaging sensor 302b is processed by the image processing unit 302c so as to be a signal that can be transmitted by the transmission antenna 302d. The RGB image signal that has passed through the image processing unit 302c is wirelessly transmitted from the transmission antenna 302d to the transmission / reception antenna 304.

送受信アンテナ304は被検者の体に貼り付けられており、送信アンテナ302dからのRGB画像信号を受信する。送受信アンテナ304は、受信したRGB画像信号を、無線でカプセル用受信装置306に送信する。カプセル用受信装置306はプロセッサ装置16の受信部53と接続されており、送受信アンテナ304からのRGB画像信号を受信部53に送信する。   The transmission / reception antenna 304 is attached to the body of the subject and receives the RGB image signal from the transmission antenna 302d. The transmission / reception antenna 304 transmits the received RGB image signal to the capsule receiver 306 wirelessly. The capsule receiving device 306 is connected to the receiving unit 53 of the processor device 16 and transmits the RGB image signal from the transmitting / receiving antenna 304 to the receiving unit 53.

なお、上記実施形態では、図3に示すような発光スペクトルを有する4色の光を用いたが、発光スペクトルはこれに限られない。例えば、図23に示すように、緑色光G及び赤色光Rについては、図3と同様のスペクトルを有する一方で、紫色光Vについては、中心波長410〜420nmで、図3の紫色光Vよりもやや長波長側に波長範囲を有する光にしてもよい。また、青色光Bについては、中心波長445〜460nmで、図3の青色光Bよりもやや短波長側に波長範囲を有する光にしてもよい。 In the above embodiment, four colors of light having an emission spectrum as shown in FIG. 3 are used, but the emission spectrum is not limited to this. For example, as shown in FIG. 23, the green light G and the red light R have the same spectrum as that in FIG. 3, while the violet light V * has a center wavelength of 410 to 420 nm and the purple light V in FIG. Light having a wavelength range slightly longer than the wavelength may be used. Further, the blue light B * may be light having a central wavelength of 445 to 460 nm and a wavelength range slightly shorter than the blue light B in FIG.

なお、本発明は、第1〜第3実施形態のような内視鏡システムや第4実施形態のようなカプセル内視鏡システムに組み込まれるプロセッサ装置の他、各種の医用画像処理装置に対して適用することが可能である。   The present invention is applicable to various medical image processing apparatuses in addition to the processor apparatus incorporated in the endoscope system as in the first to third embodiments and the capsule endoscope system as in the fourth embodiment. It is possible to apply.

10,100,200 内視鏡システム
70 血管抽出部
72 腺管抽出部
74 指標算出部
76 画像生成部
80 パターン判定部
84 第1の病変判定部
86 関心領域設定部
88 境界部算出部
92 色調算出部
94 第2の病変判定部
300 カプセル内視鏡システム
10, 100, 200 Endoscope system 70 Blood vessel extraction unit 72 Gland duct extraction unit 74 Index calculation unit 76 Image generation unit 80 Pattern determination unit 84 First lesion determination unit 86 Region of interest setting unit 88 Boundary unit calculation unit 92 Color tone calculation Unit 94 second lesion determination unit 300 capsule endoscope system

Claims (19)

観察対象を撮像して得られた画像信号を取得する画像信号取得部と、
前記画像信号から血管を抽出して血管画像信号を生成する血管抽出部と、
前記画像信号から腺管を抽出して腺管画像信号を生成する腺管抽出部と、
前記血管画像信号から血管指標を算出し、前記腺管画像信号から腺管指標を算出する指標算出部と、
前記血管指標及び前記腺管指標に基づく情報を表示部に表示するための表示用の画像を生成する画像生成部と、
を備えるプロセッサ装置。
An image signal acquisition unit for acquiring an image signal obtained by imaging an observation target;
A blood vessel extraction unit that extracts blood vessels from the image signal and generates a blood vessel image signal;
A duct extraction unit for extracting a duct from the image signal and generating a duct image signal;
A blood vessel index from the blood vessel image signal, an index calculation unit for calculating a gland duct index from the gland duct image signal;
An image generating unit that generates an image for display for displaying information based on the blood vessel index and the gland duct index on a display unit;
A processor device comprising:
前記画像生成部は、前記血管指標及び前記腺管指標に基づく情報として、前記血管指標及び前記腺管指標を表示部に表示するための表示用の画像を生成する請求項1記載のプロセッサ装置。   The processor device according to claim 1, wherein the image generation unit generates a display image for displaying the blood vessel index and the gland duct index on a display unit as information based on the blood vessel index and the gland duct index. 前記血管指標から、前記血管の形状や走行に関する血管パターンを判定し、且つ、前記腺管指標から、前記腺管の形状や走行に関する腺管パターンを判定するパターン判定部を有する請求項1記載のプロセッサ装置。   The pattern determining unit according to claim 1, further comprising: a pattern determining unit that determines a blood vessel pattern related to the shape and running of the blood vessel from the blood vessel index and determines a gland duct pattern related to the shape and running of the gland duct from the gland duct index. Processor device. 前記血管パターンには「正常」、「異常」、「消失」が含まれ、前記腺管パターンには「正常」、「異常」、「消失」が含まれる請求項3記載のプロセッサ装置。   The processor device according to claim 3, wherein the blood vessel pattern includes “normal”, “abnormal”, and “disappearance”, and the gland duct pattern includes “normal”, “abnormal”, and “disappearance”. 前記画像生成部は、前記血管指標及び前記腺管指標に基づく情報として、前記パターン判定部での判定結果を表示するための表示用の画像を生成する請求項3または4記載のプロセッサ装置。   5. The processor device according to claim 3, wherein the image generation unit generates a display image for displaying a determination result in the pattern determination unit as information based on the blood vessel index and the gland duct index. 前記パターン判定部の判定結果において前記血管パターンと前記腺管パターンのうち少なくともいずれかが「異常」または「消失」の場合に、病変であると判定する第1の病変判定部を有する請求項4記載のプロセッサ装置。   5. A first lesion determination unit that determines that a lesion is present when at least one of the blood vessel pattern and the gland duct pattern is “abnormal” or “disappear” in the determination result of the pattern determination unit. The processor device as described. 前記腺管指標の分布から病変境界部を算出する境界部算出部と、
前記病変境界部を含む領域を関心領域として設定する関心領域設定部とを有する請求項6記載のプロセッサ装置。
A boundary calculation unit for calculating a lesion boundary from the distribution of the duct index;
The processor device according to claim 6, further comprising a region-of-interest setting unit that sets a region including the lesion boundary as a region of interest.
前記画像生成部は、前記血管指標及び前記腺管指標に基づく情報として、前記第1の病変判定部での判定結果及び前記関心領域の少なくとも一方を表示部に表示するための表示用の画像を生成する請求項7記載のプロセッサ装置。   The image generation unit displays a display image for displaying at least one of the determination result in the first lesion determination unit and the region of interest on the display unit as information based on the blood vessel index and the gland duct index. The processor device according to claim 7 to be generated. 前記血管パターンには「正常」、「異常1」、「異常2」、「消失」が含まれ、前記腺管パターンには、「正常」、「異常1」、「異常2」、「消失」が含まれる請求項3記載のプロセッサ装置。   The blood vessel pattern includes “normal”, “abnormal 1”, “abnormal 2”, and “disappearance”. The gland duct pattern includes “normal”, “abnormal 1”, “abnormal 2”, “disappearance”. 4. The processor device according to claim 3, wherein: 前記画像信号から色調を求める色調算出部と、
前記パターン判定部の判定結果において前記血管パターンと前記腺管パターンのうち少なくともいずれかが「異常1」、「異常2」、「消失」の場合に病変であると判定し、且つ、前記色調に従って、前記病変のタイプを判別する第2の病変判定部を有する請求項9記載のプロセッサ装置。
A color tone calculation unit for obtaining a color tone from the image signal;
When at least one of the blood vessel pattern and the gland duct pattern is “abnormal 1”, “abnormal 2”, “disappear” in the determination result of the pattern determination unit, it is determined that the lesion is present, and according to the color tone The processor device according to claim 9, further comprising a second lesion determination unit that determines a type of the lesion.
前記色調は、周囲との色又は明るさの関係がそれぞれ異なる「色調1」、「色調2」、「色調3」で表わされる請求項10記載のプロセッサ装置。   The processor according to claim 10, wherein the color tone is represented by “color tone 1”, “color tone 2”, and “color tone 3” having different colors or brightness relationships with surroundings. 前記画像生成部は、前記血管指標及び前記腺管指標に基づく情報として、前記第2の病変判定部での判定結果を表示部に表示するための表示用の画像を生成する請求項10または11記載のプロセッサ装置。   The said image generation part produces | generates the image for a display for displaying the determination result in a said 2nd lesion determination part on a display part as information based on the said blood vessel index and the said gland duct index. The processor device as described. 前記血管指標は、前記血管の密度、正常時の血管パターンと前記血管との相関係数、前記血管の走行方向、前記血管の周波数成分のうち少なくとも1つであり、前記腺管指標は、前記腺管の密度、正常時の腺管パターンと前記腺管との相関係数、前記腺管の走行方向、前記腺管の周波数成分のうち少なくとも1つである請求項1ないし12いずれか1項記載のプロセッサ装置。   The blood vessel index is at least one of the density of the blood vessel, a correlation coefficient between a normal blood vessel pattern and the blood vessel, a traveling direction of the blood vessel, and a frequency component of the blood vessel, The density of the ducts, the correlation coefficient between the duct pattern in the normal state and the ducts, the traveling direction of the ducts, and the frequency components of the ducts are at least one. The processor device as described. 前記血管抽出部は、前記画像信号内で、周辺の画素よりも画素値が小さい画素を含む領域を前記血管の画素として抽出して、前記血管画像信号を生成し、
前記腺管抽出部は、前記画像信号内で、周辺の画素よりも画素値が大きい画素を含む領域を前記腺管の画素として抽出して、前記腺管画像信号を生成する請求項1ないし13いずれか1項記載のプロセッサ装置。
The blood vessel extraction unit extracts, as the blood vessel pixel, a region including a pixel having a pixel value smaller than that of surrounding pixels in the image signal, and generates the blood vessel image signal,
The gland duct extraction unit extracts a region including a pixel having a pixel value larger than that of surrounding pixels in the image signal as a pixel of the gland duct, and generates the gland duct image signal. The processor device according to claim 1.
前記血管抽出部は、前記画像信号に対してブラックハットフィルタ処理を施すことにより、前記血管画像信号を生成し、
前記腺管抽出部は、前記画像信号に対してトップハットフィルタ処理を施すことにより、前記腺管画像信号を生成する請求項14記載のプロセッサ装置。
The blood vessel extraction unit generates the blood vessel image signal by performing black hat filter processing on the image signal,
15. The processor device according to claim 14, wherein the duct extraction unit generates the duct image signal by performing top hat filter processing on the image signal.
請求項1ないし15いずれか1項記載のプロセッサ装置を備える内視鏡システムにおいて、
短波長の光を含む光又は前記短波長の光を、前記観察対象を照明するための光として発する光源部を有する内視鏡システム。
An endoscope system comprising the processor device according to any one of claims 1 to 15,
An endoscope system having a light source unit that emits light including short wavelength light or light having the short wavelength as light for illuminating the observation target.
前記短波長の光は400〜420nmの波長域を含む狭帯域光である請求項16記載の内視鏡システム。   The endoscope system according to claim 16, wherein the short-wavelength light is narrow-band light including a wavelength range of 400 to 420 nm. 画像信号取得部が、観察対象を撮像して得られた画像信号を取得するステップと、
血管抽出部が、前記画像信号から血管を抽出して血管画像信号を生成するステップと、
腺管抽出部が、前記画像信号から腺管を抽出して腺管画像信号を生成するステップと、
指標算出部が、前記血管画像信号から血管指標を算出し、前記腺管画像信号から腺管指標を算出するステップと、
画像生成部が、前記血管指標及び前記腺管指標に基づく情報を表示部に表示するための表示用の画像を生成するステップと、
を有するプロセッサ装置の作動方法。
An image signal acquisition unit acquiring an image signal obtained by imaging an observation target;
A blood vessel extraction unit extracting a blood vessel from the image signal to generate a blood vessel image signal;
A duct extraction unit to extract a duct from the image signal and generate a duct image signal;
An index calculator calculates a blood vessel index from the blood vessel image signal, and calculates a gland duct index from the gland duct image signal;
An image generating unit generating a display image for displaying information based on the blood vessel index and the gland duct index on a display unit;
A method for operating a processor device comprising:
コンピュータを、
観察対象を撮像して得られた画像信号を取得する画像信号取得部と、
前記画像信号から血管を抽出して血管画像信号を生成する血管抽出部と、
前記画像信号から腺管を抽出して腺管画像信号を生成する腺管抽出部と、
前記血管画像信号から血管指標を算出し、前記腺管画像信号から腺管指標を算出する指標算出部と、
前記血管指標及び前記腺管指標に基づく情報を表示部に表示するための表示用の画像を生成する画像生成部として機能させるためのプログラム。
Computer
An image signal acquisition unit for acquiring an image signal obtained by imaging an observation target;
A blood vessel extraction unit that extracts blood vessels from the image signal and generates a blood vessel image signal;
A duct extraction unit for extracting a duct from the image signal and generating a duct image signal;
A blood vessel index from the blood vessel image signal, an index calculation unit for calculating a gland duct index from the gland duct image signal;
The program for functioning as an image generation part which produces | generates the image for a display for displaying the information based on the said blood vessel index and the said gland duct index on a display part.
JP2014201749A 2014-09-30 2014-09-30 Processor device, endoscope system, operating method of processor device, and program Active JP6259747B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014201749A JP6259747B2 (en) 2014-09-30 2014-09-30 Processor device, endoscope system, operating method of processor device, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014201749A JP6259747B2 (en) 2014-09-30 2014-09-30 Processor device, endoscope system, operating method of processor device, and program

Publications (2)

Publication Number Publication Date
JP2016067706A JP2016067706A (en) 2016-05-09
JP6259747B2 true JP6259747B2 (en) 2018-01-10

Family

ID=55863516

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014201749A Active JP6259747B2 (en) 2014-09-30 2014-09-30 Processor device, endoscope system, operating method of processor device, and program

Country Status (1)

Country Link
JP (1) JP6259747B2 (en)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6823072B2 (en) 2016-10-27 2021-01-27 富士フイルム株式会社 Processor device and endoscopic system
JP6785942B2 (en) 2017-03-03 2020-11-18 富士フイルム株式会社 Endoscope system, processor device, and how to operate the endoscope system
JP6858672B2 (en) 2017-08-29 2021-04-14 富士フイルム株式会社 Medical image processing system and endoscopic system
JP6920931B2 (en) * 2017-09-01 2021-08-18 富士フイルム株式会社 Medical image processing equipment, endoscopy equipment, diagnostic support equipment, and medical business support equipment
JP6956853B2 (en) * 2018-03-30 2021-11-02 オリンパス株式会社 Diagnostic support device, diagnostic support program, and diagnostic support method
JP7019039B2 (en) * 2018-06-05 2022-02-14 オリンパス株式会社 Endoscope device, operation method and program of the endoscope device
WO2020188825A1 (en) * 2019-03-20 2020-09-24 Hoya株式会社 Endoscope system

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4652694B2 (en) * 2004-01-08 2011-03-16 オリンパス株式会社 Image processing method
JP4493637B2 (en) * 2006-09-29 2010-06-30 オリンパス株式会社 Diagnosis support apparatus and diagnosis support method
JP5389742B2 (en) * 2009-09-30 2014-01-15 富士フイルム株式会社 Electronic endoscope system, processor device for electronic endoscope, and method for operating electronic endoscope system
JP5435746B2 (en) * 2011-01-24 2014-03-05 富士フイルム株式会社 Endoscope device
JP6176978B2 (en) * 2013-01-31 2017-08-09 オリンパス株式会社 Endoscope image processing apparatus, endoscope apparatus, operation method of endoscope image processing apparatus, and image processing program
JP6017669B2 (en) * 2013-02-27 2016-11-02 富士フイルム株式会社 Image processing apparatus and method for operating endoscope system

Also Published As

Publication number Publication date
JP2016067706A (en) 2016-05-09

Similar Documents

Publication Publication Date Title
JP6495539B2 (en) Image processing apparatus, method of operating image processing apparatus, and image processing program
JP6259747B2 (en) Processor device, endoscope system, operating method of processor device, and program
JP6285383B2 (en) Image processing apparatus, endoscope system, operation method of image processing apparatus, and operation method of endoscope system
JP6461739B2 (en) Image processing apparatus, endoscope system, and method of operating image processing apparatus
CN108109134B (en) Image processing apparatus and method for operating the same
JP6243364B2 (en) Endoscope processor, operation method, and control program
JP6313884B2 (en) Endoscope system and operating method thereof
JP5789280B2 (en) Processor device, endoscope system, and operation method of endoscope system
CN110868908B (en) Medical image processing apparatus, endoscope system, and method for operating medical image processing apparatus
JP5972312B2 (en) Medical image processing apparatus and operating method thereof
JP2015066050A (en) Endoscope system, processor, and operation method
JP6017669B2 (en) Image processing apparatus and method for operating endoscope system
JPWO2019239854A1 (en) Endoscopic image processing device, endoscopic image processing method and endoscopic image processing program
US20190246874A1 (en) Processor device, endoscope system, and method of operating processor device
JP6243311B2 (en) Endoscope processor device, operation method of endoscope processor device, control program for endoscope
JP6285373B2 (en) Endoscope system, processor device, and operation method of endoscope system
JP6254506B2 (en) Endoscope system and operating method thereof
JP6425995B2 (en) Endoscope system and method of operating the same
JP6258834B2 (en) Endoscope system and operating method thereof
JP6196599B2 (en) Endoscope processor device and method of operating endoscope processor device
JP6586206B2 (en) Endoscope system and operating method thereof
JP6383829B2 (en) MEDICAL IMAGE PROCESSING DEVICE, ITS OPERATION METHOD, AND ENDOSCOPE SYSTEM
JP2022160298A (en) Medical image processing device and operation method thereof

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160803

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170728

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170802

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171129

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171211

R150 Certificate of patent or registration of utility model

Ref document number: 6259747

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250