JP2016144507A - Endoscope system, processor device, and operation method for endoscope system - Google Patents

Endoscope system, processor device, and operation method for endoscope system Download PDF

Info

Publication number
JP2016144507A
JP2016144507A JP2015021992A JP2015021992A JP2016144507A JP 2016144507 A JP2016144507 A JP 2016144507A JP 2015021992 A JP2015021992 A JP 2015021992A JP 2015021992 A JP2015021992 A JP 2015021992A JP 2016144507 A JP2016144507 A JP 2016144507A
Authority
JP
Japan
Prior art keywords
image
blood vessel
vessel extraction
endoscopic
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015021992A
Other languages
Japanese (ja)
Other versions
JP6285373B2 (en
Inventor
泰士 白石
Hiroshi Shiraishi
泰士 白石
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2015021992A priority Critical patent/JP6285373B2/en
Publication of JP2016144507A publication Critical patent/JP2016144507A/en
Application granted granted Critical
Publication of JP6285373B2 publication Critical patent/JP6285373B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

PROBLEM TO BE SOLVED: To provide an endoscope system, processor device, and operation method for the endoscope system for extracting a blood vessel of a patient.SOLUTION: An endoscope system 10 includes: an endoscope 12; a light source device 14; and a processor device 16. The endoscope 12 images a patient and outputs an image signal. The light source device 14 illuminates the patient. The processor device 16 has an image processing unit for highlighting blood vessel 60. The image processing unit for highlighting blood vessel 60 includes: an image generating unit 70, a first blood vessel extraction part 72; a second blood vessel extraction part 74; and a composition processor 76. The image generating unit 70 generates an endoscopic image based on the image signal. The first blood vessel extraction part 72 outputs a first blood vessel extraction image including a middle-deep layer blood vessel extracted from the endoscopic image. The second blood vessel extraction part 74 outputs a second blood vessel extraction image including the middle-deep layer blood vessel and surface layer blood vessel extracted from the endoscopic image. The composition processor 76 composes the endoscopic image, the first blood vessel extraction image, and the second blood vessel extraction image.SELECTED DRAWING: Figure 13

Description

本発明は、観察対象の血管を抽出する内視鏡システム、プロセッサ装置、及び内視鏡システムの作動方法に関する。   The present invention relates to an endoscope system that extracts a blood vessel to be observed, a processor device, and an operation method of the endoscope system.

医療現場において、光源装置、内視鏡、プロセッサ装置を備える内視鏡システムを用いた診断が広く行われている。光源装置は、観察対象を照明するための照明光を発生する。内視鏡は、照明光で照明された観察対象を撮像センサで撮像して画像信号を出力する。プロセッサ装置は、内視鏡から送信された画像信号から観察対象の画像を生成してモニタに表示させる。   In a medical field, diagnosis using an endoscope system including a light source device, an endoscope, and a processor device is widely performed. The light source device generates illumination light for illuminating the observation target. An endoscope images an observation target illuminated with illumination light with an imaging sensor and outputs an image signal. The processor device generates an image to be observed from the image signal transmitted from the endoscope and displays the image on the monitor.

近年では、観察対象を撮像して得た画像から、観察対象の表面から浅い表層付近に存在する細い表層血管と、観察対象の表面から中深層程度に存在する太い中深層血管とを抽出するとともに、画像に対して、抽出した表層血管及び中深層程度を重ね合わせることによって、血管が明瞭に写されている画像を用いた診断が行われてきている。例えば、特許文献1は、通常画像と血管抽出用の血管強調画像とを同時に取得し、血管強調画像に対して周波数フィルタ等の血管抽出処理を施すことによって表層血管と中深層血管とを抽出するとともに、これらの血管を通常画像に重畳させて表示している。   In recent years, thin superficial blood vessels that exist in the vicinity of the shallow surface layer from the surface of the observation target and thick middle and deep blood vessels that exist in the middle and deep layers from the surface of the observation target are extracted from the image obtained by imaging the observation target. Diagnosis using an image in which blood vessels are clearly copied has been performed by superimposing the extracted surface blood vessels and middle and deep layers on the image. For example, Patent Literature 1 extracts a normal blood vessel and a blood vessel enhancement image for blood vessel extraction at the same time, and performs blood vessel extraction processing such as a frequency filter on the blood vessel enhancement image to extract surface blood vessels and middle-deep blood vessels. At the same time, these blood vessels are displayed superimposed on the normal image.

特許5501210Patent 5501210

表層血管と中深層血管については、ガンなどの病変部の診断に有効な情報であることから、表層血管と中深層血管を漏れなく抽出し、それら血管を強調した画像をドクターに提供することが求められている。ここで、太い中深層血管を抽出する処理については、プロセッサ装置の処理負担はそれほど大きくはないものの、細い表層血管を抽出する処理は、太い中深層血管を抽出する処理と比較して、プロセッサ装置の処理負担が大きいことが多い。したがって、細い表層血管を連続的に抽出して画像上で表示した場合には、プロセッサ装置の処理が滞って、動画性が低下するなどの問題が生じることがある。   For superficial blood vessels and mid-deep blood vessels, it is useful information for diagnosing lesions such as cancer. Therefore, it is possible to extract superficial blood vessels and mid-deep blood vessels without omission and provide the doctor with images that emphasize these blood vessels. It has been demanded. Here, although the processing load of the processor device is not so large for the process of extracting the thick middle-and-deep blood vessels, the process of extracting the thin surface-layer blood vessels is more difficult than the process of extracting the thick middle-and-deep blood vessels. In many cases, the processing burden is large. Therefore, when thin superficial blood vessels are continuously extracted and displayed on an image, the processing of the processor device may be delayed, resulting in a problem such as deterioration of moving image properties.

本発明は、処理負担をかけることなく、表層血管と中深層血管を抽出した画像を表示する内視鏡システム、プロセッサ装置、及び内視鏡システムの作動方法を提供することを目的とする。   It is an object of the present invention to provide an endoscope system, a processor device, and an operation method of the endoscope system that display an image obtained by extracting surface blood vessels and intermediate deep blood vessels without imposing a processing burden.

上記目的を達成するために、本発明の内視鏡システムは、観察対象を撮像する撮像センサと、撮像センサから得られる画像信号を用いて内視鏡画像を連続的に生成する画像生成部と、内視鏡画像または内視鏡画像を生成するための画像信号に対して第1血管抽出処理を施すことにより、画像生成部が連続的に生成する内視鏡画像について、観察対象の血管を抽出した第1血管抽出画像を出力する第1血管抽出部と、連続的に生成される内視鏡画像から間欠的に選択される内視鏡画像に対して、または連続的に生成される内視鏡画像から間欠的に選択された内視鏡画像を生成するための画像信号に対して、第1血管抽出処理よりも高精度の第2血管抽出処理を施すことにより、内視鏡画像のうち一部の内視鏡画像について、観察対象の血管を抽出した第2血管抽出画像を出力する第2血管抽出部と、第1タイミングに取得した第1血管抽出画像と、第1タイミング以前の第2タイミングに取得した第2血管抽出画像のうち、第1タイミングに最も近いタイミングで取得した第2血管抽出画像とを、第1タイミングに取得した内視鏡画像に対して合成して、表示用画像を生成する合成処理部とを備える。   In order to achieve the above object, an endoscope system of the present invention includes an imaging sensor that images an observation target, and an image generation unit that continuously generates an endoscopic image using an image signal obtained from the imaging sensor. By applying the first blood vessel extraction process to the endoscopic image or the image signal for generating the endoscopic image, the blood vessel to be observed on the endoscopic image continuously generated by the image generating unit A first blood vessel extraction unit that outputs the extracted first blood vessel extraction image, and an endoscopic image that is intermittently selected from endoscopic images that are continuously generated, By performing a second blood vessel extraction process with higher accuracy than the first blood vessel extraction process on an image signal for generating an endoscopic image intermittently selected from the endoscopic image, Extract blood vessels to be observed for some endoscopic images. Of the second blood vessel extraction unit that outputs the second blood vessel extraction image, the first blood vessel extraction image acquired at the first timing, and the second blood vessel extraction image acquired at the second timing before the first timing, A synthesis processing unit that synthesizes the second blood vessel extraction image acquired at the timing closest to the timing with the endoscope image acquired at the first timing to generate a display image;

また、本発明の内視鏡システムは、観察対象を撮像する撮像センサと、撮像センサから得られる画像信号を用いて内視鏡画像を連続的に生成する画像生成部と、内視鏡画像または内視鏡画像を生成するための画像信号に対して第1血管抽出処理を施すことにより、画像生成部が連続的に生成する内視鏡画像について、観察対象の血管を抽出した第1血管抽出画像を出力する第1血管抽出部と、連続的に生成される内視鏡画像から間欠的に選択される内視鏡画像に対して、または連続的に生成される内視鏡画像から間欠的に選択された内視鏡画像を生成するための画像信号に対して、第1血管抽出処理よりも高精度の第2血管抽出処理を施すことにより、内視鏡画像のうち一部の内視鏡画像について、観察対象の血管を抽出した第2血管抽出画像を出力する第2血管抽出部と、内視鏡画像の静止画像の取得を指示する静止画像取得指示部と、静止画像取得指示部から静止画像取得指示があった場合に、静止画像取得指示の前後の特定期間中に生成される複数の内視鏡画像の中から、静止画像に適した一つの内視鏡画像を選択する選択部と、選択部によって選択された内視鏡画像を取得したタイミングを第1タイミングとした場合に、第1タイミングに取得した第1血管抽出画像と、第1タイミング以前の第2タイミングに取得した第2血管抽出画像のうち、第1タイミングに最も近いタイミングで取得した第2血管抽出画像とを、第1タイミングに取得した内視鏡画像に対して合成して表示用画像を生成し、静止画像として表示または記録させる合成処理部とを備える。   In addition, an endoscope system of the present invention includes an imaging sensor that images an observation target, an image generation unit that continuously generates an endoscope image using an image signal obtained from the imaging sensor, an endoscope image or First blood vessel extraction in which a blood vessel to be observed is extracted from an endoscope image continuously generated by the image generation unit by performing a first blood vessel extraction process on an image signal for generating an endoscopic image A first blood vessel extraction unit that outputs an image, and an endoscopic image intermittently selected from continuously generated endoscopic images, or intermittently from continuously generated endoscopic images By applying a second blood vessel extraction process with higher accuracy than the first blood vessel extraction process to the image signal for generating the endoscopic image selected in step S1, a part of the endoscopic images A second blood vessel extraction image in which the blood vessel to be observed is extracted from the mirror image A second blood vessel extraction unit that outputs a still image, a still image acquisition instruction unit that instructs acquisition of a still image of an endoscopic image, and a still image acquisition instruction A selection unit that selects one endoscopic image suitable for a still image from a plurality of endoscopic images generated during a specific period before and after, and an endoscopic image selected by the selection unit are acquired. When the timing is set to the first timing, the first blood vessel extraction image acquired at the first timing and the second blood vessel extraction image acquired at the second timing before the first timing are closest to the first timing. The image processing apparatus includes a combining processing unit that combines the acquired second blood vessel extraction image with the endoscope image acquired at the first timing to generate a display image, and displays or records the image as a still image.

本発明のプロセッサ装置は、撮像センサによって観察対象を撮像して得られる画像信号を取得する画像信号取得部と、撮像センサから得られる画像信号を用いて内視鏡画像を連続的に生成する画像生成部と、内視鏡画像または内視鏡画像を生成するための画像信号に対して第1血管抽出処理を施すことにより、画像生成部が連続的に生成する内視鏡画像について観察対象の血管を抽出した第1血管抽出画像を出力する第1血管抽出部と、連続的に生成される内視鏡画像から間欠的に選択される内視鏡画像に対して、または連続的に生成される内視鏡画像から間欠的に選択された内視鏡画像を生成するための画像信号に対して、第1血管抽出処理よりも高精度の第2血管抽出処理を施すことにより、内視鏡画像のうち一部の内視鏡画像について観察対象の血管を抽出した第2血管抽出画像を出力する第2血管抽出部と、第1タイミングに取得した第1血管抽出画像と、第1タイミング以前の第2タイミングに取得した第2血管抽出画像のうち、第1タイミングに最も近いタイミングで取得した第2血管抽出画像とを、第1タイミングに取得した内視鏡画像に対して合成して、表示用画像を生成する合成処理部とを備える。   The processor device of the present invention includes an image signal acquisition unit that acquires an image signal obtained by imaging an observation target with an imaging sensor, and an image that continuously generates an endoscopic image using the image signal obtained from the imaging sensor. The first blood vessel extraction process is performed on the generation unit and the image signal for generating the endoscopic image or the endoscopic image, so that the endoscope image continuously generated by the image generation unit A first blood vessel extraction unit that outputs a first blood vessel extraction image from which blood vessels have been extracted, and an endoscopic image that is intermittently selected from endoscopic images that are continuously generated, or are generated continuously. By performing a second blood vessel extraction process with higher accuracy than the first blood vessel extraction process on an image signal for generating an endoscopic image intermittently selected from the endoscope image, the endoscope About some endoscopic images A second blood vessel extraction unit that outputs a second blood vessel extraction image obtained by extracting a blood vessel to be observed, a first blood vessel extraction image acquired at a first timing, and a second blood vessel extraction acquired at a second timing before the first timing A synthesis processing unit that generates a display image by synthesizing the second blood vessel extraction image acquired at the timing closest to the first timing with the endoscopic image acquired at the first timing. Prepare.

本発明の内視鏡システムの作動方法は、撮像センサによって観察対象を撮像して得られる画像信号を用いて、画像生成部が、内視鏡画像を連続的に生成するステップと、第1血管抽出部が、内視鏡画像または内視鏡画像を生成するための画像信号に対して第1血管抽出処理を施すことにより、画像生成部が連続的に生成する内視鏡画像について観察対象の血管を抽出した第1血管抽出画像を出力するステップと、第2血管抽出部が、連続的に生成される内視鏡画像から間欠的に選択される内視鏡画像に対して、または連続的に生成される内視鏡画像から間欠的に選択された内視鏡画像を生成するための画像信号に対して、第1血管抽出処理よりも高精度の第2血管抽出処理を施すことにより、内視鏡画像のうち一部の内視鏡画像について観察対象の血管を抽出した第2血管抽出画像を出力するステップと、合成処理部が、第1タイミングに取得した第1血管抽出画像と、第1タイミング以前の第2タイミングに取得した第2血管抽出画像のうち、第1タイミングに最も近いタイミングで取得した第2血管抽出画像とを、第1タイミングに取得した内視鏡画像に対して合成して、表示用画像を生成するステップとを備える。   The operation method of the endoscope system according to the present invention includes a step in which an image generation unit continuously generates an endoscope image using an image signal obtained by imaging an observation target by an imaging sensor, and a first blood vessel The extraction unit performs the first blood vessel extraction process on the endoscopic image or the image signal for generating the endoscopic image, so that the endoscopic images continuously generated by the image generation unit are subject to observation. A step of outputting a first blood vessel extraction image obtained by extracting blood vessels; and a second blood vessel extraction unit continuously or continuously with respect to an endoscopic image selected from endoscopic images generated continuously By applying a second blood vessel extraction process with higher accuracy than the first blood vessel extraction process to an image signal for generating an endoscope image intermittently selected from the endoscope image generated in Observe some of the endoscopic images A step of outputting a second blood vessel extraction image obtained by extracting an elephant blood vessel; a first blood vessel extraction image obtained by the synthesis processing unit at a first timing; and a second blood vessel extraction obtained at a second timing before the first timing. Synthesizing the second blood vessel extraction image acquired at the timing closest to the first timing among the images with the endoscopic image acquired at the first timing to generate a display image.

第1血管抽出処理は、観察対象の中深層血管を抽出する低解像度の血管抽出処理であり、第2血管抽出処理は、観察対象の表層血管と中深層血管とを抽出する高解像度の血管抽出処理であることが好ましい。   The first blood vessel extraction process is a low-resolution blood vessel extraction process for extracting a middle-deep blood vessel to be observed, and the second blood vessel extraction process is a high-resolution blood vessel extraction for extracting a surface blood vessel and a middle deep blood vessel to be observed. A treatment is preferred.

合成処理部は、中深層血管を基準にして内視鏡画像及び第1血管抽出画像に対して第2血管抽出画像の位置合わせをすることが好ましい。   The synthesis processing unit preferably aligns the second blood vessel extraction image with respect to the endoscopic image and the first blood vessel extraction image with reference to the middle deep blood vessel.

第1血管抽出画像または第2血管抽出画像を用いて、観察対象の血管に関する血管情報指標を算出する血管情報指標算出部を備えることが好ましい。合成処理部は、第1血管抽出画像及び第2血管抽出画像に加えて血管情報指標を内視鏡画像に合成して表示用画像を生成する好ましい。血管情報指標は、観察対象の血管の密度であることが好ましい。   It is preferable to include a blood vessel information index calculation unit that calculates a blood vessel information index related to a blood vessel to be observed using the first blood vessel extraction image or the second blood vessel extraction image. The synthesis processing unit preferably generates a display image by synthesizing a blood vessel information index with an endoscope image in addition to the first blood vessel extraction image and the second blood vessel extraction image. The blood vessel information index is preferably the density of blood vessels to be observed.

内視鏡画像、内視鏡画像を生成するための画像信号、または第1血管抽出画像を用いて、観察対象の動き量を検出する動き検出部と、動き量を用いて、第2血管抽出部による第2血管抽出処理の頻度を変更する制御部とを備えることが好ましい。   An endoscopic image, an image signal for generating an endoscopic image, or a first blood vessel extraction image is used to detect a motion amount of an observation target, and a second blood vessel extraction using the motion amount It is preferable to include a control unit that changes the frequency of the second blood vessel extraction processing by the unit.

制御部は、動き量が第1閾値よりも大きい場合に第2血管抽出処理を停止させ、動き量が第2閾値以上第1閾値以下の場合に第2血管抽出処理を第1の頻度で行わせ、動き量が第2閾値よりも小さい場合に第2血管抽出処理を第1の頻度よりも低い第2の頻度で行わせることが好ましい。   The control unit stops the second blood vessel extraction process when the motion amount is larger than the first threshold value, and performs the second blood vessel extraction process at the first frequency when the motion amount is equal to or greater than the second threshold value and equal to or less than the first threshold value. Therefore, it is preferable that the second blood vessel extraction process is performed at a second frequency lower than the first frequency when the amount of motion is smaller than the second threshold.

第1血管抽出部と合成処理部とが設けられた第1処理装置と、第2血管抽出部が設けられ、第1処理装置よりも処理能力が高い第2処理装置とを備えることが好ましい。   It is preferable to include a first processing device provided with a first blood vessel extraction unit and a synthesis processing unit, and a second processing device provided with a second blood vessel extraction unit and having a higher processing capacity than the first processing device.

合成処理部は、第2処理装置から一定期間、第2血管抽出画像が入力されない場合、内視鏡画像に第2血管抽出画像を合成せずに表示用画像を生成することが好ましい。   When the second blood vessel extraction image is not input from the second processing device for a certain period of time, the synthesis processing unit preferably generates the display image without synthesizing the second blood vessel extraction image with the endoscopic image.

第1処理装置に設けられ、内視鏡画像にタグを付けるタグ付け部と、第1処理装置に設けられ、タグが付けられたタグ付きの内視鏡画像を、第2処理装置に送信する第1処理装置側送信部と第2処理装置に設けられ、第1処理装置側送信部からのタグ付きの内視鏡画像を受信する第2処理装置側受信部と、第2処理装置に設けられ、タグ付きの内視鏡画像に対して第2血管抽出処理を施して出力されたタグ付きの第2血管抽出画像を、第1処理装置に送信する第2処理装置側送信部と、第1処理装置に設けられ、第2処理装置側送信部からのタグ付きの第2血管抽出画像を受信する第1処理装置側受信部とを備えることが好ましい。   A tagging unit that is provided in the first processing device and attaches a tag to the endoscopic image, and an endoscopic image with a tag that is provided in the first processing device and is tagged is transmitted to the second processing device. Provided in the first processing device side transmission unit and the second processing device, provided in the second processing device, a second processing device side reception unit for receiving the tagged endoscopic image from the first processing device side transmission unit A second processing device-side transmission unit for transmitting the tagged second blood vessel extraction image output by performing the second blood vessel extraction processing on the tagged endoscopic image to the first processing device; It is preferable to include a first processing device side receiving unit that is provided in one processing device and receives a tagged second blood vessel extraction image from the second processing device side transmission unit.

本発明によれば、連続的に生成された内視鏡画像について血管を抽出する第1血管抽出処理を施し、連続的に生成される内視鏡画像から間欠的に選択される内視鏡画像に対して、第1血管抽出処理よりも高精度に血管を抽出する第2血管抽出処理を施し、第1血管抽出処理によって出力された第1血管抽出画像と、第2血管抽出処理によって出力された第2血管抽出画像とを内視鏡画像に合成することによって、処理負担をかけることなく、表層血管と中深層血管を抽出した画像を表示する内視鏡システム、プロセッサ装置、及び内視鏡システムの作動方法を提供できる。   According to the present invention, an endoscopic image that is subjected to a first blood vessel extraction process for extracting a blood vessel from a continuously generated endoscopic image and is intermittently selected from endoscopic images that are continuously generated. The second blood vessel extraction process for extracting blood vessels with higher accuracy than the first blood vessel extraction process is performed, and the first blood vessel extraction image output by the first blood vessel extraction process and the second blood vessel extraction process are output. An endoscope system, a processor device, and an endoscope for displaying an image obtained by extracting surface blood vessels and middle-deep blood vessels without applying a processing burden by combining the second blood vessel extraction image with the endoscope image A method of operating the system can be provided.

内視鏡システムの外観図である。It is an external view of an endoscope system. 内視鏡システムの機能を示すブロック図である。It is a block diagram which shows the function of an endoscope system. 紫色光、青色光、緑色光、及び赤色光の分光スペクトルを示すグラフである。It is a graph which shows the spectrum of purple light, blue light, green light, and red light. カラーフィルタの分光特性を示すグラフである。It is a graph which shows the spectral characteristic of a color filter. 内視鏡画像の生成について説明する説明図である。It is explanatory drawing explaining the production | generation of an endoscopic image. 内視鏡画像を示す模式図である。It is a schematic diagram which shows an endoscopic image. 第1血管抽出画像の生成について説明する説明図である。It is explanatory drawing explaining the production | generation of a 1st blood vessel extraction image. 第1血管抽出画像を示す模式図である。It is a schematic diagram which shows a 1st blood vessel extraction image. 第2血管抽出画像の生成について説明する説明図である。It is explanatory drawing explaining the production | generation of a 2nd blood vessel extraction image. 第2血管抽出画像を示す模式図である。It is a schematic diagram which shows a 2nd blood vessel extraction image. 表示用画像の生成について説明する説明図である。It is explanatory drawing explaining the production | generation of the image for a display. 表示用画像を示す模式図である。It is a schematic diagram which shows the image for a display. 第1実施形態の作用について説明するフローチャートである。It is a flowchart explaining the effect | action of 1st Embodiment. 第2実施形態における血管強調用画像処理部の機能を説明するブロック図である。It is a block diagram explaining the function of the image processing part for blood vessel emphasis in 2nd Embodiment. 血管情報指標に基づく情報を表示した表示用画像を示す模式図である。It is a schematic diagram which shows the image for a display which displayed the information based on a blood-vessel information parameter | index. 第3実施形態における血管強調用画像処理部の機能を説明するブロック図である。It is a block diagram explaining the function of the image processing part for blood vessel emphasis in 3rd Embodiment. 第3実施形態における第2血管抽出処理の制御を示すフローチャートである。It is a flowchart which shows control of the 2nd blood vessel extraction process in 3rd Embodiment. 第4実施形態におけるプロセッサ装置と外部処理装置を示すブロック図である。It is a block diagram which shows the processor apparatus and external processing apparatus in 4th Embodiment. 内視鏡画像に対するタグ付けについて説明する説明図である。It is explanatory drawing explaining tagging with respect to an endoscopic image. 第4実施形態における第2血管抽出画の生成について説明する説明図である。It is explanatory drawing explaining the production | generation of the 2nd blood vessel extraction image in 4th Embodiment. 第2血管抽出画像の入力の有無に応じた合成について説明するフローチャートである。It is a flowchart explaining the synthesis | combination according to the presence or absence of the input of a 2nd blood vessel extraction image. 第5実施形態の内視鏡システムの機能を示すブロック図である。It is a block diagram which shows the function of the endoscope system of 5th Embodiment. 白色光の発光スペクトルを示すグラフである。It is a graph which shows the emission spectrum of white light. 特殊光の発光スペクトルを示すグラフである。It is a graph which shows the emission spectrum of special light. 第6実施形態の内視鏡システムの機能を示すブロック図である。It is a block diagram which shows the function of the endoscope system of 6th Embodiment. 回転フィルタを示す平面図である。It is a top view which shows a rotation filter.

[第1実施形態]
図1において、内視鏡システム10は、内視鏡12と、光源装置14と、プロセッサ装置16と、モニタ18と、コンソール19とを有する。内視鏡12は、光源装置14と光学的に接続されるとともに、プロセッサ装置16と電気的に接続される。内視鏡12は、観察対象の体内に挿入される挿入部12aと、挿入部12aの基端部分に設けられた操作部12bと、挿入部12aの先端側に設けられた湾曲部12c及び先端部12dとを有している。湾曲部12cは、操作部12bのアングルノブ12eを操作することにより湾曲動作する。先端部12dは、湾曲部12cの湾曲動作によって所望の方向に向けられる。
[First Embodiment]
In FIG. 1, the endoscope system 10 includes an endoscope 12, a light source device 14, a processor device 16, a monitor 18, and a console 19. The endoscope 12 is optically connected to the light source device 14 and electrically connected to the processor device 16. The endoscope 12 includes an insertion portion 12a to be inserted into the body to be observed, an operation portion 12b provided at the proximal end portion of the insertion portion 12a, a bending portion 12c provided at the distal end side of the insertion portion 12a, and a distal end. Part 12d. The bending portion 12c bends by operating the angle knob 12e of the operation portion 12b. The distal end portion 12d is directed in a desired direction by the bending operation of the bending portion 12c.

また、操作部12bには、アングルノブ12eの他、モード切替SW(モード切替スイッチ)12fと、静止画像取得指示部12gとが設けられている。モード切替SW12fは、観察モードの切り替え操作に用いられる。内視鏡システム10は、観察モードとして通常モードと血管抽出モードとを有している。通常モードは、照明光に白色光を用いて観察対象を撮像して得た自然な色合いの画像(以下、通常画像という)をモニタ18に表示する。血管抽出モードは、観察対象に含まれる血管が強調された画像(以下、血管強調画像という)をモニタ18に表示する。静止画像取得指示部12gは、内視鏡システム10に静止画像の取得を指示するとともに、取得させた静止画像をモニタ18に表示、またはストレージ(図示省略)に記録させるために用いられる。   In addition to the angle knob 12e, the operation unit 12b is provided with a mode switch SW (mode switch) 12f and a still image acquisition instruction unit 12g. The mode switching SW 12f is used for an observation mode switching operation. The endoscope system 10 has a normal mode and a blood vessel extraction mode as observation modes. In the normal mode, an image having a natural hue (hereinafter referred to as a normal image) obtained by capturing an observation target using white light as illumination light is displayed on the monitor 18. In the blood vessel extraction mode, an image in which blood vessels included in the observation target are emphasized (hereinafter referred to as a blood vessel emphasized image) is displayed on the monitor 18. The still image acquisition instruction unit 12g is used to instruct the endoscope system 10 to acquire a still image, and to display the acquired still image on the monitor 18 or to record it in a storage (not shown).

プロセッサ装置16は、モニタ18及びコンソール19と電気的に接続される。モニタ18は、観察対象の画像や、観察対象の画像に付帯する情報などを出力表示する。コンソール19は、機能設定などの入力操作を受け付けるユーザインタフェースとして機能する。なお、プロセッサ装置16には、画像や画像情報などを記録する外付けの記録部(図示省略)を接続してもよい。   The processor device 16 is electrically connected to the monitor 18 and the console 19. The monitor 18 outputs and displays an image to be observed and information attached to the image to be observed. The console 19 functions as a user interface that receives input operations such as function settings. The processor device 16 may be connected to an external recording unit (not shown) for recording images and image information.

図2において、光源装置14は、光源20と、光源20を制御する光源制御部21とを備えている。光源20は、例えば、複数の半導体光源を有し、これらをそれぞれ点灯または消灯し、点灯する場合には各半導体光源の発光量を制御することにより、観察対象を照明するための照明光を発する。本実施形態では、光源20は、V−LED(Violet Light Emitting Diode)20a、B−LED(Blue Light Emitting Diode)20b、G−LED(Green Light Emitting Diode)20c、及びR−LED(Red Light Emitting Diode)20dの4色のLEDを有する。   In FIG. 2, the light source device 14 includes a light source 20 and a light source control unit 21 that controls the light source 20. The light source 20 includes, for example, a plurality of semiconductor light sources, and these are turned on or off, and when they are turned on, the amount of light emitted from each semiconductor light source is controlled to emit illumination light for illuminating the observation target. . In the present embodiment, the light source 20 includes a V-LED (Violet Light Emitting Diode) 20a, a B-LED (Blue Light Emitting Diode) 20b, a G-LED (Green Light Emitting Diode) 20c, and an R-LED (Red Light Emitting Diode). Diode) 20d has four-color LEDs.

図3において、V−LED20aは、中心波長405nm、波長帯域380nm〜420nmの紫色光Vを発する紫色半導体光源である。B−LED20bは、中心波長460nm、波長帯域420nm〜500nmの青色光Bを発する青色半導体光源である。G−LED20cは、波長帯域が480nm〜600nmに及ぶ緑色光Gを発する緑色半導体光源である。R−LED20dは、中心波長620nm〜630nmで、波長帯域が600nm〜650nmに及び赤色光Rを発する赤色半導体光源である。なお、V−LED20aとB−LED20bの中心波長は、±5nmから±10nm程度の幅を有する。   In FIG. 3, a V-LED 20a is a violet semiconductor light source that emits violet light V having a center wavelength of 405 nm and a wavelength band of 380 nm to 420 nm. The B-LED 20b is a blue semiconductor light source that emits blue light B having a center wavelength of 460 nm and a wavelength band of 420 nm to 500 nm. The G-LED 20c is a green semiconductor light source that emits green light G having a wavelength band ranging from 480 nm to 600 nm. The R-LED 20d is a red semiconductor light source that emits red light R with a center wavelength of 620 nm to 630 nm and a wavelength band of 600 nm to 650 nm. The center wavelengths of the V-LED 20a and the B-LED 20b have a width of about ± 5 nm to ± 10 nm.

光源制御部21は、各LED20a〜20dに対して独立に制御信号を入力することによって、各LED20a〜20dの点灯や消灯、点灯時の発光量などを独立に制御する。本実施形態では、通常モード及び血管抽出モードのどちらの観察モードでも、光源制御部21は、V−LED20a、B−LED20b、G−LED20c、及びR−LED20dを全て点灯させる。このため、紫色光V、青色光B、緑色光G、及び赤色光Rを含む白色光が、通常モード及び血管抽出モードの照明光として用いられる。   The light source control unit 21 independently controls the lighting and extinction of each LED 20a to 20d, the light emission amount at the time of lighting, and the like by inputting a control signal to each of the LEDs 20a to 20d independently. In the present embodiment, the light source control unit 21 turns on all the V-LEDs 20a, B-LEDs 20b, G-LEDs 20c, and R-LEDs 20d in both the normal mode and the blood vessel extraction mode. For this reason, white light including purple light V, blue light B, green light G, and red light R is used as illumination light in the normal mode and the blood vessel extraction mode.

各LED20a〜20dが発する各色の光は、ミラーやレンズなどで構成される光路結合部23を介して、挿入部12a内に挿通されたライトガイド25に入射される。ライトガイド25は、内視鏡12及びユニバーサルコード(内視鏡12と、光源装置14及びプロセッサ装置16を接続するコード)に内蔵されている。ライトガイド25は、光源20が発した照明光を、内視鏡12の先端部12dまで伝搬する。   The light of each color emitted from each of the LEDs 20a to 20d is incident on a light guide 25 inserted into the insertion portion 12a through an optical path coupling portion 23 constituted by a mirror, a lens, and the like. The light guide 25 is built in the endoscope 12 and the universal cord (a cord connecting the endoscope 12, the light source device 14, and the processor device 16). The light guide 25 propagates illumination light emitted from the light source 20 to the distal end portion 12 d of the endoscope 12.

内視鏡12の先端部12dには、照明光学系30aと撮像光学系30bが設けられている。照明光学系30aは照明レンズ32を有しており、ライトガイド25によって伝搬された照明光は照明レンズ32を介して観察対象に照射される。撮像光学系30bは、対物レンズ42、撮像センサ44を有している。照明光を照射したことによる観察対象からの反射光、散乱光、及び蛍光などの各種の光は、対物レンズ42を介して撮像センサ44に入射する。これにより、撮像センサ44に観察対象の像が結像される。   The distal end portion 12d of the endoscope 12 is provided with an illumination optical system 30a and an imaging optical system 30b. The illumination optical system 30 a has an illumination lens 32, and the illumination light propagated by the light guide 25 is irradiated to the observation target through the illumination lens 32. The imaging optical system 30 b includes an objective lens 42 and an imaging sensor 44. Various types of light such as reflected light, scattered light, and fluorescence from the observation target due to the illumination light being incident on the image sensor 44 through the objective lens 42. As a result, an image to be observed is formed on the image sensor 44.

撮像センサ44は、照明光で照明された観察対象を撮像するカラー撮像センサである。撮像センサ44の各画素には、図4に示すB(青色)カラーフィルタ、G(緑色)カラーフィルタ、R(赤色)カラーフィルタのいずれかが設けられている。このため、撮像センサ44は、Bカラーフィルタが設けられたB画素(青色画素)で紫色から青色の光を受光し、Gカラーフィルタが設けられたG画素(緑色画素)で緑色の光を受光し、Rカラーフィルタが設けられたR画素(赤色画素)で赤色の光を受光する。そして、各色の画素から、RGB各色の画像信号を出力する。   The imaging sensor 44 is a color imaging sensor that images an observation target illuminated with illumination light. Each pixel of the image sensor 44 is provided with one of a B (blue) color filter, a G (green) color filter, and an R (red) color filter shown in FIG. Therefore, the image sensor 44 receives purple to blue light at the B pixel (blue pixel) provided with the B color filter, and receives green light at the G pixel (green pixel) provided with the G color filter. Then, red light is received by the R pixel (red pixel) provided with the R color filter. Then, RGB color image signals are output from each color pixel.

撮像センサ44としては、CCD(Charge Coupled Device)撮像センサやCMOS(Complementary Metal-Oxide Semiconductor)撮像センサを利用可能である。また、原色の撮像センサ44の代わりに、C(シアン)、M(マゼンタ)、Y(イエロー)及びG(グリーン)の補色フィルタを備えた補色撮像センサを用いても良い。補色撮像センサを用いる場合には、CMYGの4色の画像信号が出力されるので、補色−原色色変換によって、CMYGの4色の画像信号をRGBの3色の画像信号に変換することにより、撮像センサ44と同様のRGB各色の画像信号を得ることができる。また、撮像センサ44の代わりに、カラーフィルタを設けていないモノクロの撮像センサを用いても良い。   As the image sensor 44, a charge coupled device (CCD) image sensor or a complementary metal-oxide semiconductor (CMOS) image sensor can be used. In place of the primary color image sensor 44, a complementary color image sensor having complementary color filters of C (cyan), M (magenta), Y (yellow), and G (green) may be used. When the complementary color imaging sensor is used, CMYG four-color image signals are output. By converting the CMYG four-color image signals into RGB three-color image signals by complementary color-primary color conversion, The RGB image signals similar to those of the image sensor 44 can be obtained. Instead of the image sensor 44, a monochrome image sensor without a color filter may be used.

CDS/AGC(Correlated Double Sampling/Automatic Gain Control)回路46は、撮像センサ44から得られるアナログの画像信号に相関二重サンプリング(CDS)や自動利得制御(AGC)を行う。CDS/AGC回路46を経た画像信号は、A/D(Analog/Digital)コンバータ48により、デジタルの画像信号に変換される。A/D変換後のデジタル画像信号がプロセッサ装置16に入力される。   A CDS / AGC (Correlated Double Sampling / Automatic Gain Control) circuit 46 performs correlated double sampling (CDS) and automatic gain control (AGC) on an analog image signal obtained from the image sensor 44. The image signal that has passed through the CDS / AGC circuit 46 is converted into a digital image signal by an A / D (Analog / Digital) converter 48. The digital image signal after A / D conversion is input to the processor device 16.

プロセッサ装置16は、画像信号取得部50と、DSP(Digital Signal Processor)52と、ノイズ除去部54と、画像処理切替部56と、通常用画像処理部58と、血管強調用画像処理部60と、映像信号生成部62と、選択部64とを備えている。画像信号取得部50は、CDS/AGC回路46及びA/Dコンバータ48を介して、撮像センサ44からデジタル画像信号を取得する。   The processor device 16 includes an image signal acquisition unit 50, a DSP (Digital Signal Processor) 52, a noise removal unit 54, an image processing switching unit 56, a normal image processing unit 58, and a blood vessel enhancement image processing unit 60. A video signal generator 62 and a selector 64 are provided. The image signal acquisition unit 50 acquires a digital image signal from the imaging sensor 44 via the CDS / AGC circuit 46 and the A / D converter 48.

DSP52は、取得した画像信号に対して、欠陥補正処理、オフセット処理、ゲイン補正処理、リニアマトリクス処理、ガンマ変換処理、デモザイク処理などの各種信号処理を施す。欠陥補正処理では、撮像センサ44の欠陥画素の信号が補正される。オフセット処理では、欠陥補正処理が施された画像信号から暗電流成分が除かれ、正確な零レベルが設定される。ゲイン補正処理では、オフセット処理後の画像信号に特定のゲインを乗じることにより信号レベルが整えられる。   The DSP 52 performs various signal processing such as defect correction processing, offset processing, gain correction processing, linear matrix processing, gamma conversion processing, and demosaicing processing on the acquired image signal. In the defect correction process, the signal of the defective pixel of the image sensor 44 is corrected. In the offset process, the dark current component is removed from the image signal subjected to the defect correction process, and an accurate zero level is set. In the gain correction process, the signal level is adjusted by multiplying the image signal after the offset process by a specific gain.

ゲイン補正処理後の画像信号には、色再現性を高めるためのリニアマトリクス処理が施される。その後、ガンマ変換処理によって明るさや彩度が整えられる。ガンマ変換処理後の画像信号には、デモザイク処理(等方化処理、または同時化処理ともいう)が施され、各画素で不足した色の信号が補間によって生成される。このデモザイク処理によって、全画素がRGB各色の信号を有するようになる。ノイズ除去部54は、DSP52でデモザイク処理などが施された画像信号に対してノイズ除去処理(例えば移動平均法やメディアンフィルタ法などによる)を施すことによってノイズを除去する。ノイズが除去された画像信号は、画像処理切替部56に送信される。   The image signal after gain correction processing is subjected to linear matrix processing for improving color reproducibility. After that, brightness and saturation are adjusted by gamma conversion processing. The image signal after the gamma conversion processing is subjected to demosaic processing (also referred to as isotropic processing or synchronization processing), and a signal of insufficient color at each pixel is generated by interpolation. By this demosaic processing, all the pixels have RGB signals. The noise removal unit 54 removes noise by performing noise removal processing (for example, using a moving average method or a median filter method) on the image signal that has been demosaiced by the DSP 52. The image signal from which the noise has been removed is transmitted to the image processing switching unit 56.

画像処理切替部56は、モード切替SW12fの操作によって通常モードにセットされている場合には、画像信号を通常用画像処理部58に送信し、血管抽出モードにセットされている場合には、画像信号を血管強調用画像処理部60に送信する。   The image processing switching unit 56 transmits an image signal to the normal image processing unit 58 when the normal mode is set by the operation of the mode switching SW 12f, and when set to the blood vessel extraction mode, the image processing switching unit 56 The signal is transmitted to the blood vessel enhancement image processing unit 60.

通常用画像処理部58は、画像処理切替部56から受信した画像信号に対して色変換処理、色彩強調処理、及び構造強調処理を行い、通常画像を生成する。色変換処理では、画像信号に対して3×3のマトリクス処理、階調変換処理、及び3次元LUT(ルックアップテーブル)処理などにより色変換処理を行う。色彩強調処理は、色変換処理済みの画像信号に対して行われる。構造強調処理は、例えば、血管やピットパターン(腺管)などの観察対象の構造を強調する処理であり、色彩強調処理後の画像信号に対して行われる。上記のように各種画像処理などを施した画像信号を用いたカラー画像が通常画像である。   The normal image processing unit 58 performs color conversion processing, color enhancement processing, and structure enhancement processing on the image signal received from the image processing switching unit 56 to generate a normal image. In the color conversion processing, color conversion processing is performed on the image signal by 3 × 3 matrix processing, gradation conversion processing, three-dimensional LUT (look-up table) processing, and the like. The color enhancement process is performed on the image signal that has been subjected to the color conversion process. The structure enhancement process is a process for enhancing the structure of the observation target such as a blood vessel or a pit pattern (gland duct), and is performed on the image signal after the color enhancement process. A color image using an image signal subjected to various image processing as described above is a normal image.

血管強調用画像処理部60は、画像処理切替部56から受信した画像信号から、観察対象に含まれる血管が強調された血管強調画像を生成する。   The blood vessel enhancement image processing unit 60 generates a blood vessel emphasized image in which blood vessels included in the observation target are emphasized from the image signal received from the image processing switching unit 56.

血管強調用画像処理部60には、画像生成部70と、第1血管抽出部72と、第2血管抽出部74と、合成処理部76とが設けられている(図2参照)。画像処理切替部56からの画像信号は、画像生成部70が受信する。   The blood vessel enhancement image processing unit 60 includes an image generation unit 70, a first blood vessel extraction unit 72, a second blood vessel extraction unit 74, and a synthesis processing unit 76 (see FIG. 2). The image generation unit 70 receives the image signal from the image processing switching unit 56.

画像生成部70は、画像処理切替部56から受信した画像信号を用いて内視鏡画像を生成する。例えば、画像生成部70は、通常用画像処理部58と同様に、画像信号に対して色変換処理、色彩強調処理、及び構造強調処理を行うことによって、内視鏡画像を生成する。具体的には、図5において、画像生成部70は、各時間ta〜tjで画像信号を連続的に受信した場合に、各時間ta〜tfの画像信号のそれぞれに対して上記各種処理を行う。これにより、画像生成部70は、各時間ta〜tjの内視鏡画像82a〜82jを連続的に生成する。   The image generation unit 70 generates an endoscopic image using the image signal received from the image processing switching unit 56. For example, as with the normal image processing unit 58, the image generation unit 70 generates an endoscopic image by performing color conversion processing, color enhancement processing, and structure enhancement processing on the image signal. Specifically, in FIG. 5, when the image generation unit 70 continuously receives image signals at each time ta to tj, the image generation unit 70 performs the above-described various processes on each of the image signals at each time ta to tf. . Thereby, the image generation part 70 produces | generates continuously the endoscopic images 82a-82j of each time ta-tj.

図6において、例えば、画像生成部70で生成された時間tgの内視鏡画像82gは、観察対象の粘膜83の他に、粘膜83の表面から中深層程度の深さに存在する太い中深層血管84と、粘膜83の表面から表層付近までの深さに存在する細い表層血管85とが観察できる。その他の時間の内視鏡画像についても同様であり、粘膜83と中深層血管84と表層血管85とが観察できる。画像生成部70は、生成した内視鏡画像を第1血管抽出部72と第2血管抽出部74と合成処理部76に送信する。   In FIG. 6, for example, an endoscopic image 82g generated at the time tg generated by the image generation unit 70 is a thick medium-deep layer existing at a depth of about the medium-deep layer from the surface of the mucous membrane 83 in addition to the mucosa 83 to be observed. A blood vessel 84 and a thin superficial blood vessel 85 existing at a depth from the surface of the mucous membrane 83 to the vicinity of the superficial layer can be observed. The same applies to endoscopic images at other times, and the mucous membrane 83, the mid-depth blood vessel 84, and the surface blood vessel 85 can be observed. The image generation unit 70 transmits the generated endoscope image to the first blood vessel extraction unit 72, the second blood vessel extraction unit 74, and the synthesis processing unit 76.

第1血管抽出部72は、画像生成部70から受信した内視鏡画像に対して第1血管抽出処理を施すことにより、第1血管抽出画像を出力する。第1血管抽出処理は、内視鏡画像に対して低精度の周波数解析を行うことによって、太い中深層血管に対応する低周波成分を得るための低解像度の血管抽出処理である。周波数解析を低精度で行う場合は、低周波成分が得られ高周波成分については得られないが、プロセッサ装置16の処理負担が小さいため、解析結果を出力するまでの時間が短い。一方、周波数解析を高精度で行う場合は、低周波成分と高周波成分とを得られるが、プロセッサ装置16の処理負担が大きいため、解析結果を出力するまでの時間が長い。したがって、第1血管抽出部72では、画像生成部70で連続的に生成された内視鏡画像について第1血管抽出処理を施すことによって、中深層血管が抽出された第1血管抽出画像をほぼリアルタイムに出力する。   The first blood vessel extraction unit 72 outputs a first blood vessel extraction image by performing a first blood vessel extraction process on the endoscopic image received from the image generation unit 70. The first blood vessel extraction processing is low-resolution blood vessel extraction processing for obtaining a low-frequency component corresponding to a thick middle-deep blood vessel by performing low-accuracy frequency analysis on the endoscopic image. When performing frequency analysis with low accuracy, a low frequency component is obtained and a high frequency component cannot be obtained. However, since the processing load on the processor device 16 is small, the time until the analysis result is output is short. On the other hand, when performing a frequency analysis with high accuracy, a low-frequency component and a high-frequency component can be obtained. Therefore, the first blood vessel extraction unit 72 performs the first blood vessel extraction process on the endoscopic images continuously generated by the image generation unit 70, so that the first blood vessel extraction image from which the mid-deep blood vessels have been extracted is substantially the same. Output in real time.

具体的には、図7において、第1血管抽出部72は、画像生成部70が時間ta〜tjで連続的に生成した内視鏡画像82a〜82jについて、それぞれ第1血管抽出処理を施す。これにより、第1血管抽出部72は、時間ta〜tjで生成された内視鏡画像82a〜82jに対して、リアルタイムに第1血管抽出画像86a〜86jを出力する。   Specifically, in FIG. 7, the first blood vessel extraction unit 72 performs a first blood vessel extraction process on the endoscopic images 82 a to 82 j that the image generation unit 70 continuously generates at times ta to tj. Accordingly, the first blood vessel extraction unit 72 outputs the first blood vessel extraction images 86a to 86j in real time with respect to the endoscopic images 82a to 82j generated at the times ta to tj.

図8において、例えば、第1血管抽出画像86gは、画像生成部70が時間tgに生成した内視鏡画像82gから中深層血管84が抽出されている。その他の第1血管抽出画像についても、同様に中深層血管84が抽出される。第1血管抽出部72は、出力した第1血管抽出画像を合成処理部76に送信する。   In FIG. 8, for example, in the first blood vessel extraction image 86g, the middle-layer blood vessel 84 is extracted from the endoscope image 82g generated by the image generation unit 70 at time tg. The mid-deep blood vessels 84 are similarly extracted from the other first blood vessel extraction images. The first blood vessel extraction unit 72 transmits the output first blood vessel extraction image to the synthesis processing unit 76.

第2血管抽出部74は、画像生成部70から受信した内視鏡画像に対して第1血管抽出処理よりも高精度の第2血管抽出処理を施すことにより、第2血管抽出画像を出力する。第2血管抽出処理は、第1血管抽出処理で行われる周波数解析よりも演算精度が高精度の周波数解析を行うことによって、太い中深層血管に対応する低周波成分と細い表層血管に対応する高周波成分とを得るための高解像度の血管抽出処理である。このため、第2血管抽出処理で第2血管抽出画像が出力されるまでの時間は、第1血管抽出処理で第1血管抽出画像が出力されるまでの時間よりも長い。   The second blood vessel extraction unit 74 outputs a second blood vessel extraction image by performing a second blood vessel extraction process with higher accuracy than the first blood vessel extraction process on the endoscopic image received from the image generation unit 70. . The second blood vessel extraction process performs a frequency analysis with higher calculation accuracy than the frequency analysis performed in the first blood vessel extraction process, whereby a low frequency component corresponding to a thick middle-deep blood vessel and a high frequency corresponding to a thin surface blood vessel. This is a high-resolution blood vessel extraction process for obtaining components. For this reason, the time until the second blood vessel extraction image is output in the second blood vessel extraction processing is longer than the time until the first blood vessel extraction image is output in the first blood vessel extraction processing.

第2血管抽出部74は、画像生成部70で連続的に生成される内視鏡画像から間欠的に選択される内視鏡画像に対して第2血管抽出処理を施す。具体的には、図9において、第2血管抽出部74は、10フレーム分の内視鏡画像82a〜82jの中から、5フレーム毎に、内視鏡画像に対して第2血管抽出処理を施す。例えば、第2血管抽出部74は、時間taに生成された1フレーム目の内視鏡画像82aに対して第2血管抽出処理を施すことによって、内視鏡画像82aに対応する第2血管抽出画像88aを出力する。第2血管抽出画像88aは、内視鏡画像82aに対して第2血管抽出処理を開始した時間taから4フレーム分後の時間teに出力される。また、第2血管抽出部74は、時間tfに生成された6フレーム目の内視鏡画像82fに対して第2血管抽出処理を施すことによって、内視鏡画像82fに対応する第2血管抽出画像88bを出力する。第2血管抽出画像88bは、内視鏡画像82fに対して第2血管抽出処理を開始した時間tfから4フレーム分後の時間tjに出力される。   The second blood vessel extraction unit 74 performs the second blood vessel extraction process on the endoscopic image that is intermittently selected from the endoscopic images continuously generated by the image generation unit 70. Specifically, in FIG. 9, the second blood vessel extraction unit 74 performs the second blood vessel extraction process on the endoscopic image every 5 frames from among the 10 frames of endoscopic images 82a to 82j. Apply. For example, the second blood vessel extraction unit 74 performs a second blood vessel extraction process on the first frame of the endoscopic image 82a generated at time ta, so that the second blood vessel extraction corresponding to the endoscopic image 82a is performed. The image 88a is output. The second blood vessel extraction image 88a is output at a time te that is four frames after the time ta when the second blood vessel extraction processing is started for the endoscopic image 82a. Further, the second blood vessel extraction unit 74 performs the second blood vessel extraction process on the endoscope image 82f of the sixth frame generated at time tf, so that the second blood vessel extraction corresponding to the endoscope image 82f is performed. The image 88b is output. The second blood vessel extraction image 88b is output at a time tj four frames after the time tf when the second blood vessel extraction processing is started for the endoscopic image 82f.

図10において、第2血管抽出画像88aでは、画像生成部70が時間taに生成した内視鏡画像82aから、中深層血管84と表層血管85とが抽出されている。また、第2血管抽出画像88bでは、画像生成部70が時間tfに生成した内視鏡画像82fから、中深層血管84と表層血管85とが抽出される。第2血管抽出部74は、出力した第2血管抽出画像を合成処理部76に送信する。   In FIG. 10, in the second blood vessel extraction image 88a, the middle-deep blood vessel 84 and the surface blood vessel 85 are extracted from the endoscope image 82a generated by the image generation unit 70 at time ta. Further, in the second blood vessel extraction image 88b, the mid-deep blood vessel 84 and the surface blood vessel 85 are extracted from the endoscope image 82f generated by the image generation unit 70 at time tf. The second blood vessel extraction unit 74 transmits the output second blood vessel extraction image to the synthesis processing unit 76.

合成処理部76は、画像生成部70から受信した内視鏡画像に対して、第1血管抽出部72から受信した第1血管抽出画像と、第2血管抽出部74から受信した第2血管抽出画像とを合成して、モニタ18に表示するための表示用画像を生成する。合成処理部76は、生成した表示用画像を映像信号生成部62に送信する。   The synthesis processing unit 76 performs the first blood vessel extraction image received from the first blood vessel extraction unit 72 and the second blood vessel extraction received from the second blood vessel extraction unit 74 on the endoscopic image received from the image generation unit 70. The image is combined with the image to generate a display image for display on the monitor 18. The composition processing unit 76 transmits the generated display image to the video signal generation unit 62.

以下においては、合成処理部76が特定の第1タイミングに表示用画像を生成する場合の説明を行う。   In the following, a description will be given of a case where the composition processing unit 76 generates a display image at a specific first timing.

例えば、図11に示すように、第1タイミングが時間tgである場合に、合成処理部76は、時間tgに取得した第1血管抽出画像86gと、時間tg以前の第2タイミングに取得した第2血管抽出画像のうち、時間tgに最も近いタイミングである時間teに取得した第2血管抽出画像88aとを用いて、時間tgにおける表示用画像90を生成する。ここで、第1血管抽出画像86gは、時間tgの内視鏡画像82gに第1血管抽出処理を施して得られる画像であるのに対して、第2血管抽出画像88aは、時間taの内視鏡画像82aに第2血管抽出処理を施して得られる画像である。したがって、第1血管抽出画像86gと第2血管抽出画像88aは位置ずれが生じている場合がある。   For example, as shown in FIG. 11, when the first timing is time tg, the synthesis processing unit 76 obtains the first blood vessel extraction image 86g acquired at time tg and the second timing acquired before time tg. A display image 90 at time tg is generated using the second blood vessel extraction image 88a acquired at time te which is the timing closest to time tg among the two blood vessel extraction images. Here, the first blood vessel extraction image 86g is an image obtained by performing the first blood vessel extraction processing on the endoscope image 82g at time tg, whereas the second blood vessel extraction image 88a is within the time ta. This is an image obtained by performing the second blood vessel extraction process on the endoscopic image 82a. Therefore, the first blood vessel extraction image 86g and the second blood vessel extraction image 88a may be misaligned.

このため、合成処理部76は、内視鏡画像82g及び第1血管抽出画像86gに対して、第2血管抽出画像88aの位置合わせをする。例えば、合成処理部76は、内視鏡画像82g(図6参照)と第1血管抽出画像86g(図8参照)と第2血管抽出画像88a(図10参照)とのそれぞれに含まれた中深層血管84を基準にして、内視鏡画像82g及び第1血管抽出画像86gに対して、第2血管抽出画像88aの位置合わせをする。そして、合成処理部76は、位置合わせ後に、第1血管抽出画像86gと第2血管抽出画像88aとを、内視鏡画像82gに対して合成することによって、図12に示すような表示用画像90を生成する。   For this reason, the composition processing unit 76 aligns the second blood vessel extraction image 88a with respect to the endoscope image 82g and the first blood vessel extraction image 86g. For example, the composition processing unit 76 is included in each of the endoscopic image 82g (see FIG. 6), the first blood vessel extraction image 86g (see FIG. 8), and the second blood vessel extraction image 88a (see FIG. 10). The second blood vessel extraction image 88a is aligned with respect to the endoscope image 82g and the first blood vessel extraction image 86g with the deep blood vessel 84 as a reference. Then, after the alignment, the synthesis processing unit 76 synthesizes the first blood vessel extraction image 86g and the second blood vessel extraction image 88a with the endoscopic image 82g, thereby displaying an image for display as shown in FIG. 90 is generated.

なお、合成を行う方法の例として、合成処理部76は、第1血管抽出画像86gと第2血管抽出画像88aとにそれぞれ含まれた中深層血管84に対応する画素の画像信号と、第2血管抽出画像88aに含まれた表層血管85に対応する画素の画像信号とを、内視鏡画像82gに対して重畳(加算または乗算)する。これにより、表示用画像90は、内視鏡画像82gよりも、中深層血管84に対応する画素の画像信号、及び表層血管85に対応する画素の画像信号が大きくなる。このため、表示用画像90では、内視鏡画像82gに対して、中深層血管84及び表層血管85が強調して表される。   As an example of a method for performing the synthesis, the synthesis processing unit 76 includes an image signal of a pixel corresponding to the middle deep blood vessel 84 included in each of the first blood vessel extraction image 86g and the second blood vessel extraction image 88a, and a second The image signal of the pixel corresponding to the surface blood vessel 85 included in the blood vessel extraction image 88a is superimposed (added or multiplied) on the endoscope image 82g. Thereby, in the display image 90, the image signal of the pixel corresponding to the middle deep blood vessel 84 and the image signal of the pixel corresponding to the surface blood vessel 85 are larger than the endoscopic image 82g. Therefore, in the display image 90, the intermediate deep blood vessel 84 and the superficial blood vessel 85 are highlighted with respect to the endoscopic image 82g.

映像信号生成部62は、通常用画像処理部58または血管強調用画像処理部60から受信した画像を、モニタ18で表示可能な画像として表示するための映像信号に変換し、モニタ18に順次出力する。これにより、モニタ18には、通常画像が入力された場合は通常画像を表示し、表示用画像が入力された場合はこの表示用画像を血管強調画像として表示する。   The video signal generation unit 62 converts the image received from the normal image processing unit 58 or the blood vessel enhancement image processing unit 60 into a video signal for display as an image that can be displayed on the monitor 18, and sequentially outputs the video signal to the monitor 18. To do. Thus, the normal image is displayed on the monitor 18 when a normal image is input, and the display image is displayed as a blood vessel emphasized image when a display image is input.

次に、本発明の作用について、図13に示すフローチャートに沿って説明する。まず、血管抽出モードにセットされた場合(S11)に、画像生成部70は、観察対象を撮像して得られた画像信号を連続的に取得する(S12)。画像生成部70は、これら画像信号から、内視鏡画像を連続的に生成する(S13)。第1血管抽出部72は、連続的に生成された内視鏡画像について第1血管抽出処理を実行することによって(S14)、中深層血管が抽出された第1血管抽出画像を出力する(S15)。   Next, the effect | action of this invention is demonstrated along the flowchart shown in FIG. First, when the blood vessel extraction mode is set (S11), the image generation unit 70 continuously acquires image signals obtained by imaging the observation target (S12). The image generation unit 70 continuously generates an endoscopic image from these image signals (S13). The first blood vessel extraction unit 72 performs the first blood vessel extraction process on the continuously generated endoscopic images (S14), thereby outputting the first blood vessel extraction image from which the middle-deep blood vessels have been extracted (S15). ).

第2血管抽出部74では、連続的に生成された内視鏡画像から間欠的に選択される内視鏡画像に対して、第1血管抽出処理よりも高精度の第2血管抽出処理を実行することによって(S16)、中深層血管及び表層血管が抽出された第2血管抽出画像を出力する(S17)。   The second blood vessel extraction unit 74 executes a second blood vessel extraction process with higher accuracy than the first blood vessel extraction process on an endoscopic image that is intermittently selected from continuously generated endoscopic images. By doing this (S16), the second blood vessel extraction image from which the middle-layer blood vessel and the surface blood vessel are extracted is output (S17).

合成処理部76は、内視鏡画像及び第1血管抽出画像に対して第2血管抽出画像の位置合わせを行い(S18)、内視鏡画像に対して第1血管抽出画像と第2血管抽出画像を合成することにより(S19)、表示用画像を生成する(S20)。具体的には、合成処理部76は、第1タイミングに取得した第1血管抽出画像と、第1タイミング以前の第2タイミングに取得した第2血管抽出画像のうち、第1タイミングに最も近いタイミングで取得した第2血管抽出画像とを、第1タイミングに取得した内視鏡画像に対して合成して表示用画像を生成する。モニタ18は、生成された表示用画像を表示する(S21)。   The composition processing unit 76 aligns the second blood vessel extraction image with respect to the endoscopic image and the first blood vessel extraction image (S18), and the first blood vessel extraction image and the second blood vessel extraction with respect to the endoscope image. By synthesizing the images (S19), a display image is generated (S20). Specifically, the synthesizing processing unit 76 has a timing closest to the first timing among the first blood vessel extraction image acquired at the first timing and the second blood vessel extraction image acquired at the second timing before the first timing. The second blood vessel extraction image acquired in step 1 is combined with the endoscopic image acquired at the first timing to generate a display image. The monitor 18 displays the generated display image (S21).

以上のように、本発明は、連続的に生成される内視鏡画像の全フレームに対して低解像度の第1血管抽出処理を施して第1血管抽出画像を出力し、連続的に生成される内視鏡画像から間欠的に選択される内視鏡画像に対して高解像度の第2血管抽出処理を施して第2血管抽出画像を出力し、第1血管抽出画像と第2血管抽出画像とを内視鏡画像に合成した表示用画像を生成するため、プロセッサ装置の処理負担を低減し、且つ全フレームで高解像度の第2血管抽出処理を行う場合と同様の画像を表示できる。   As described above, the present invention performs low-resolution first blood vessel extraction processing on all frames of endoscopic images that are continuously generated, outputs a first blood vessel extracted image, and is continuously generated. A second blood vessel extraction image is output by performing high-resolution second blood vessel extraction processing on an endoscopic image that is intermittently selected from the endoscopic images, and the first blood vessel extraction image and the second blood vessel extraction image Therefore, the processing load of the processor device is reduced, and an image similar to the case where the high-resolution second blood vessel extraction processing is performed in all frames can be displayed.

なお、合成処理部76は、静止画像取得指示部12gから静止画像取得指示があった場合には、静止画像取得指示の前後の特定期間中に生成される複数の内視鏡画像の中から選択部64(図2参照)によって選択された内視鏡画像に対して、第1血管抽出画像と第2血管抽出画像を合成することによって表示用画像を生成し、この表示用画像を静止画像として表示させても良い。選択部64は、特定期間中に生成される複数の内視鏡画像の中から、静止画像に適した一つの内視鏡画像を選択する。例えば、選択部64は、複数の内視鏡画像のうち、高周波成分が最も多い内視鏡画像を選択する。なお、合成処理部76は、静止画像をストレージ(図示省略)に記録させるようにしても良い。   In addition, when there is a still image acquisition instruction from the still image acquisition instruction unit 12g, the composition processing unit 76 selects from a plurality of endoscopic images generated during a specific period before and after the still image acquisition instruction. A display image is generated by synthesizing the first blood vessel extraction image and the second blood vessel extraction image with respect to the endoscopic image selected by the unit 64 (see FIG. 2), and this display image is used as a still image. It may be displayed. The selection unit 64 selects one endoscopic image suitable for a still image from among a plurality of endoscopic images generated during a specific period. For example, the selection unit 64 selects an endoscope image having the highest high-frequency component from among a plurality of endoscope images. Note that the composition processing unit 76 may record a still image in a storage (not shown).

具体的には、合成処理部76は、選択部64によって選択された内視鏡画像を取得したタイミングを第1タイミングとした場合に、この第1タイミングに取得した第1血管抽出画像を、表示用画像の生成に用いる第1血管抽出画像として選択する。また、合成処理部76は、第1タイミング以前の第2タイミングに取得した第2血管抽出画像のうち、第1タイミングに最も近いタイミングで取得した第2血管抽出画像を、表示用画像の生成に用いる第2血管抽出画像として選択する。そして、合成処理部76は、選択した第1血管抽出画像と第2血管抽出画像とを、第1タイミングに取得した内視鏡画像(すなわち、選択部64によって選択された内視鏡画像)に対して合成することによって表示用画像を生成し、この表示用画像を静止画像とする。   Specifically, the synthesis processing unit 76 displays the first blood vessel extraction image acquired at the first timing when the timing at which the endoscopic image selected by the selection unit 64 is acquired is the first timing. It selects as the 1st blood vessel extraction image used for generation of a picture for operation. Further, the synthesis processing unit 76 generates the second blood vessel extraction image acquired at the timing closest to the first timing among the second blood vessel extraction images acquired at the second timing before the first timing to generate a display image. It selects as the 2nd blood vessel extraction image to be used. Then, the synthesis processing unit 76 converts the selected first blood vessel extraction image and second blood vessel extraction image into an endoscopic image acquired at the first timing (that is, an endoscopic image selected by the selection unit 64). On the other hand, a display image is generated by synthesizing, and this display image is set as a still image.

また、上記実施形態では、第1血管抽出部72は、内視鏡画像に対して第1血管抽出処理を施しているが、内視鏡画像を生成するための画像信号に対して第1血管抽出処理を施しても良い。   Moreover, in the said embodiment, although the 1st blood vessel extraction part 72 has performed the 1st blood vessel extraction process with respect to the endoscopic image, it is the 1st blood vessel with respect to the image signal for producing | generating an endoscopic image. An extraction process may be performed.

第2血管抽出部74は、画像生成部70が連続的に生成した内視鏡画像から間欠的に選択される内視鏡画像に対して第2血管抽出処理を施しているが、連続的に生成した内視鏡画像から間欠的に選択される内視鏡画像を生成するための画像信号に対して第2血管抽出処理を施しても良い。   The second blood vessel extraction unit 74 performs the second blood vessel extraction process on the endoscopic image that is intermittently selected from the endoscopic images continuously generated by the image generation unit 70. You may perform a 2nd blood-vessel extraction process with respect to the image signal for producing | generating the endoscopic image intermittently selected from the produced | generated endoscopic image.

[第2実施形態]
第2実施形態では、第1血管抽出部72で出力された第1血管抽出画像または第2血管抽出部74で出力された第2血管抽出画像を用いて、観察対象の血管に関する血管情報を指標化(数値化)した血管情報指標を算出する。また、第2実施形態では、血管強調用画像処理部60に代えて、血管強調用画像処理部91が設けられる。それ以外については、上記第1実施形態と同様である。
[Second Embodiment]
In the second embodiment, using the first blood vessel extraction image output from the first blood vessel extraction unit 72 or the second blood vessel extraction image output from the second blood vessel extraction unit 74, blood vessel information related to the blood vessel to be observed is used as an index. The blood vessel information index converted into a numerical value is calculated. In the second embodiment, a blood vessel enhancement image processing unit 91 is provided instead of the blood vessel enhancement image processing unit 60. The rest is the same as in the first embodiment.

図14において、血管強調用画像処理部91には、上記第1実施形態の画像生成部70と第1血管抽出部72と第2血管抽出部74とに加え、合成処理部92と、血管情報指標算出部93とを備える。   In FIG. 14, the blood vessel enhancement image processing unit 91 includes a synthesis processing unit 92, blood vessel information, in addition to the image generation unit 70, the first blood vessel extraction unit 72, and the second blood vessel extraction unit 74 of the first embodiment. And an index calculation unit 93.

合成処理部92は、画像生成部70で生成された内視鏡画像に対して、第1血管抽出部72で出力された第1血管抽出画像と、第2血管抽出部74で出力された第2血管抽出画像とを、上記第1実施形態と同様に、位置合わせした後に合成することにより、ベース画像を生成する。このベース画像は、内視鏡画像に対して、中深層血管84及び表層血管85が強調された画像であり、上記第1実施形態の表示用画像と同じ画像であるが、モニタ18には表示されない。合成処理部92は、ベース画像を血管情報指標算出部93に送信する。   The synthesis processing unit 92 outputs the first blood vessel extraction image output by the first blood vessel extraction unit 72 and the first blood vessel extraction unit 74 output by the second blood vessel extraction unit 74 with respect to the endoscope image generated by the image generation unit 70. Similar to the first embodiment, the two blood vessel extraction images are combined after being aligned to generate a base image. This base image is an image in which the mid-depth blood vessel 84 and the surface blood vessel 85 are emphasized with respect to the endoscopic image, and is the same image as the display image of the first embodiment, but is displayed on the monitor 18. Not. The composition processing unit 92 transmits the base image to the blood vessel information index calculation unit 93.

血管情報指標算出部93は、合成処理部92から受信したベース画像から血管情報指標を算出する。血管情報指標は、観察対象に含まれる血管が単位面積中に占める割合、即ち血管の密度であることが好ましい。血管の密度を算出する場合、血管情報指標算出部93は、例えば、ベース画像から特定の大きさ(単位面積)の領域を切り出し、その領域内の全画素に占める血管の割合を算出する。これをベース画像内の全画素に対して行うことで血管の密度を算出する。血管情報指標算出部93は、算出した血管情報指標を、合成処理部92に送信する(図14参照)。   The blood vessel information index calculation unit 93 calculates a blood vessel information index from the base image received from the synthesis processing unit 92. The blood vessel information index is preferably a ratio of blood vessels included in the observation target in a unit area, that is, a blood vessel density. When calculating the density of blood vessels, for example, the blood vessel information index calculation unit 93 cuts out a region having a specific size (unit area) from the base image, and calculates the proportion of blood vessels in all the pixels in the region. By performing this operation for all the pixels in the base image, the blood vessel density is calculated. The blood vessel information index calculation unit 93 transmits the calculated blood vessel information index to the synthesis processing unit 92 (see FIG. 14).

合成処理部92では、血管情報指標算出部93から血管情報指標を受信した場合、生成したベース画像に対して、血管情報指標に基づく情報を合成することにより、表示用画像を生成する。即ち、合成処理部92は、第1血管抽出画像及び第2血管抽出画像に加えて血管情報指標を内視鏡画像に合成して表示用画像を生成する。例えば、合成処理部92は、ベース画像に対して、血管情報指標に基づく情報を表示させるようにオーバーラップ処理することにより、図15に示す表示用画像96を生成する。表示用画像96には、例えば、左上領域98などに、血管の密度を示す数値が表示される。なお、画面上の血管を示す画素をピクセル(pix)で表す場合には、血管の密度は、単位面積(pix)あたりに血管を示す画素が占める割合なのでpix−2で示される。例えば、図15においては、血管の密度は0.24(pix−2)と表示されている。また、合成処理部92は、ベース画像に対して、血管情報指標に応じて色付け処理を行うことにより、血管情報指標が一定値以上の領域を疑似カラーで表示させるように表示用画像を生成しても良い。また、疑似カラーの領域を、血管情報指標の数値に応じて異なる色で表示させても良い。このように、血管情報指標に基づいた表示用画像96をモニタ18に表示させることによって、病変の診断を確実に行うことができる。 When the blood vessel information index is received from the blood vessel information index calculation unit 93, the synthesis processing unit 92 generates a display image by synthesizing information based on the blood vessel information index with the generated base image. That is, the synthesis processing unit 92 generates a display image by synthesizing the blood vessel information index with the endoscope image in addition to the first blood vessel extraction image and the second blood vessel extraction image. For example, the synthesis processing unit 92 generates a display image 96 illustrated in FIG. 15 by performing overlap processing on the base image so as to display information based on the blood vessel information index. In the display image 96, for example, a numerical value indicating the density of blood vessels is displayed in the upper left region 98 or the like. In addition, when the pixel indicating the blood vessel on the screen is represented by a pixel (pix), the density of the blood vessel is represented by pix- 2 because the pixel representing the blood vessel occupies per unit area (pix 2 ). For example, in FIG. 15, the density of blood vessels is displayed as 0.24 (pix −2 ). Further, the composition processing unit 92 performs a coloring process on the base image according to the blood vessel information index, thereby generating a display image so as to display a region in which the blood vessel information index is a certain value or more in a pseudo color. May be. Further, the pseudo color region may be displayed in a different color depending on the numerical value of the blood vessel information index. In this way, by displaying the display image 96 based on the blood vessel information index on the monitor 18, the diagnosis of the lesion can be performed reliably.

なお、血管情報指標算出部93は、合成処理部92から受信したベース画像から血管情報指標を算出しているが、第1血管抽出部72から第1血管抽出画像を受信し、この第1血管抽出画像から血管情報指標を算出しても良い。また、血管情報指標算出部93は、第2血管抽出部74から第2血管抽出画像を受信し、この第2血管抽出画像から血管情報指標を算出しても良い。   The blood vessel information index calculation unit 93 calculates a blood vessel information index from the base image received from the synthesis processing unit 92. However, the blood vessel information index calculation unit 93 receives the first blood vessel extraction image from the first blood vessel extraction unit 72 and receives the first blood vessel. A blood vessel information index may be calculated from the extracted image. The blood vessel information index calculation unit 93 may receive the second blood vessel extraction image from the second blood vessel extraction unit 74 and calculate the blood vessel information index from the second blood vessel extraction image.

[第3実施形態]
上記第1実施形態では、第2血管抽出部74は、一定の時間間隔で間欠的に第2血管抽出処理を実行しているが、第3実施形態では、観察対象の動き量に応じて、第2血管抽出部74が第2血管抽出処理を実行する頻度を変更する。第3実施形態では、血管強調用画像処理部60に代えて、血管強調用画像処理部100が設けられる。それ以外については、上記第1実施形態と同様である。
[Third Embodiment]
In the first embodiment, the second blood vessel extraction unit 74 executes the second blood vessel extraction process intermittently at regular time intervals. In the third embodiment, according to the amount of motion of the observation target, The frequency with which the second blood vessel extraction unit 74 executes the second blood vessel extraction process is changed. In the third embodiment, a blood vessel enhancement image processing unit 100 is provided instead of the blood vessel enhancement image processing unit 60. The rest is the same as in the first embodiment.

図16において、血管強調用画像処理部100には、上記第1実施形態が備える各部に加え、動き検出部102と、制御部104とを備える。   In FIG. 16, the blood vessel enhancement image processing unit 100 includes a motion detection unit 102 and a control unit 104 in addition to the units included in the first embodiment.

動き検出部102は、画像生成部70で連続的に生成される内視鏡画像を受信し、受信した内視鏡画像を用いて、観察対象の動き量を検出する。動き検出部102は、例えば、時間taで生成された内視鏡画像82aに含まれる中深層血管84と、時間tbで生成された内視鏡画像82bに含まれる中深層血管84との間の動き量を検出する。動き検出部102は、検出した動き量を、制御部104に送信する。   The motion detection unit 102 receives the endoscopic images continuously generated by the image generation unit 70, and detects the amount of motion of the observation target using the received endoscopic images. The motion detection unit 102, for example, between the intermediate deep blood vessel 84 included in the endoscopic image 82a generated at time ta and the intermediate deep blood vessel 84 included in the endoscopic image 82b generated at time tb. Detect the amount of movement. The motion detection unit 102 transmits the detected amount of motion to the control unit 104.

制御部104は、第2血管抽出部74を制御して、動き検出部102から受信した動き量に基づいて、第2血管抽出処理の実行頻度を変更する。   The control unit 104 controls the second blood vessel extraction unit 74 to change the execution frequency of the second blood vessel extraction process based on the amount of motion received from the motion detection unit 102.

具体的には、図17に示すように、制御部104は、動き検出部102から動き量を受信すると(S31)、動き量が第1閾値よりも大きいか否かを判定する(S32)。動き量が第1閾値よりも大きい場合(S32でYES)、第2血管抽出部74を制御して、第2血管抽出処理を停止させる(S33)。動き量が第1閾値よりも大きい場合は、スクリーニング等で内視鏡を大きく動かしている可能性があるため、第2血管抽出処理を停止させることによって、プロセッサ装置の処理負担を軽減する。   Specifically, as shown in FIG. 17, when the control unit 104 receives a motion amount from the motion detection unit 102 (S31), the control unit 104 determines whether or not the motion amount is larger than a first threshold value (S32). When the amount of motion is larger than the first threshold (YES in S32), the second blood vessel extraction unit 74 is controlled to stop the second blood vessel extraction process (S33). When the amount of movement is larger than the first threshold value, the endoscope may be moved greatly by screening or the like, so the processing load on the processor device is reduced by stopping the second blood vessel extraction process.

また、動き量が第1閾値以下の場合(S32でNO)、動き量が第2閾値以上第1閾値以下であるか否かを判定する(S34)。なお、第1閾値は、第2閾値よりも大きい値とする。そして、動き量が第2閾値以上第1閾値以下である場合(S34でYES)、第2血管抽出部74を制御して、第2血管抽出処理を第1の頻度で実行させる(S35)。動き量が第2閾値以上第1閾値以下である場合は、比較的ゆっくりと内視鏡を動かして観察対象の観察が行われているため、第2血管抽出処理を第1の頻度で行わせることによって、中深層血管と表層血管とが表示された表示用画像を見ながら診断を行うことができる。   If the amount of motion is less than or equal to the first threshold (NO in S32), it is determined whether the amount of motion is greater than or equal to the second threshold and less than or equal to the first threshold (S34). Note that the first threshold value is larger than the second threshold value. If the amount of motion is not less than the second threshold and not more than the first threshold (YES in S34), the second blood vessel extraction unit 74 is controlled to execute the second blood vessel extraction process at the first frequency (S35). When the amount of movement is greater than or equal to the second threshold and less than or equal to the first threshold, since the observation target is observed by moving the endoscope relatively slowly, the second blood vessel extraction process is performed at the first frequency. Thus, diagnosis can be performed while viewing the display image on which the middle-deep blood vessel and the surface blood vessel are displayed.

また、動き量が第2閾値よりも小さい場合(S34でNO)、第2血管抽出部74を制御して、第2血管抽出処理を第1の頻度よりも低い第2の頻度で実行させる(S36)。動き量が第2閾値よりも小さい場合は、観察対象を精査するために内視鏡の動きを停止させている可能性があるため、第2血管抽出処理を第1の頻度よりも低い第2の頻度で行わせることにより、プロセッサ装置の処理負担を軽減する。   When the amount of motion is smaller than the second threshold (NO in S34), the second blood vessel extraction unit 74 is controlled to execute the second blood vessel extraction process at a second frequency lower than the first frequency ( S36). When the amount of movement is smaller than the second threshold value, there is a possibility that the movement of the endoscope is stopped in order to examine the observation target. Therefore, the second blood vessel extraction process is performed at a second level lower than the first frequency. This reduces the processing load on the processor device.

なお、動き検出部102は、連続的に生成される内視鏡画像を用いて観察対象の動き量を検出しているが、第1血管抽出部72で連続的に出力される第1血管抽出画像を受信し、この第1血管抽出画像を用いて観察対象の動き量を検出しても良い。   Note that the motion detection unit 102 detects the amount of motion of the observation target using continuously generated endoscopic images, but the first blood vessel extraction unit 72 continuously outputs the first blood vessel extraction. An image may be received, and the amount of movement of the observation target may be detected using the first blood vessel extraction image.

[第4実施形態]
第4実施形態では、第1血管抽出部72と合成処理部76とをプロセッサ装置16(本発明の「第1処理装置」に対応する)に設ける一方で、第2血管抽出部74をプロセッサ装置16に対して接続ケーブル(図示省略)などを介して接続される外付けの外部処理装置112(本発明の「第2処理装置」に対応する)(図18参照)に設ける。
[Fourth Embodiment]
In the fourth embodiment, the first blood vessel extraction unit 72 and the synthesis processing unit 76 are provided in the processor device 16 (corresponding to the “first processing device” of the present invention), while the second blood vessel extraction unit 74 is provided in the processor device. 16 is provided in an external external processing apparatus 112 (corresponding to the “second processing apparatus” of the present invention) (see FIG. 18) connected to the terminal 16 via a connection cable (not shown).

具体的には、図18において、第4実施形態におけるプロセッサ装置16の血管強調用画像処理部60は、上記第1実施形態と異なり、第2血管抽出部74が設けられていない代わりに、タグ付け部114と、第1送信部116(本発明の「第1処理装置側送信部」に対応する)と、第1受信部118(本発明の「第1処理装置側受信部」に対応する)とが設けられている。また、外部処理装置112には、第2血管抽出部74の他、第2受信部120(本発明の「第2処理装置側受信部」に対応する)と、第2送信部122(本発明の「第2処理装置側送信部」に対応する)とが設けられている。外部処理装置112は、GPU(Graphics Processing Unit)等を搭載したコンピュータであり、プロセッサ装置16よりも、画像に対する処理能力が高い。なお、画像に対する処理能力は、画像に対して施す画像処理の処理速度を示している。したがって、外部処理装置112は、第2血管抽出部74が第2血管抽出処理を行った場合に、その処理結果が出力されるまでの速度がプロセッサ装置16よりも速い、すなわち、画像に対する画像処理の処理速度がプロセッサ装置16よりも速い。また、第4実施形態においては、プロセッサ装置16と外部処理装置112との間で、第1送信部116と第2受信部120とを介して内視鏡画像の送受信が行われ、第2送信部122と第1受信部118とを介して第2血管抽出画像の送受信が行われる。   Specifically, in FIG. 18, the blood vessel enhancement image processing unit 60 of the processor device 16 in the fourth embodiment differs from the first embodiment in that a second blood vessel extraction unit 74 is not provided, Appending unit 114, first transmission unit 116 (corresponding to “first processing device side transmission unit” of the present invention), and first reception unit 118 (corresponding to “first processing device side reception unit” of the present invention). ) And are provided. In addition to the second blood vessel extraction unit 74, the external processing device 112 includes a second reception unit 120 (corresponding to the “second processing device side reception unit” of the present invention) and a second transmission unit 122 (the present invention). Corresponding to the “second processing apparatus side transmitter”). The external processing device 112 is a computer equipped with a GPU (Graphics Processing Unit) or the like, and has a higher processing capability for images than the processor device 16. The processing capability for an image indicates the processing speed of image processing performed on the image. Therefore, when the second blood vessel extraction unit 74 performs the second blood vessel extraction processing, the external processing device 112 is faster than the processor device 16 until the processing result is output, that is, the image processing for the image. Is faster than the processor device 16. In the fourth embodiment, an endoscope image is transmitted and received between the processor device 16 and the external processing device 112 via the first transmission unit 116 and the second reception unit 120, and the second transmission is performed. The second blood vessel extraction image is transmitted / received via the unit 122 and the first receiving unit 118.

タグ付け部114は、画像生成部70から連続的に生成された内視鏡画像を取得した場合、これら連続的に生成された内視鏡画像に対してタグを付ける。タグは、内視鏡画像が生成されたタイミングに関する情報を有する。例えば、図19において、タグ付け部114は、時間taに取得した内視鏡画像82aに対して、時間taの情報を有するタグXを付けることによって、タグ付きの内視鏡画像121aを生成する。以降、時間tb〜tjに取得した内視鏡画像82b〜82jに対しても同様に、タグ付け部114は、各時間tb〜tjの情報を有するタグが付けられたタグ付きの内視鏡画像を生成する。生成されたタグ付きの内視鏡画像は、第1送信部116を介して、外部処理装置112の第2受信部120に送信される。   When the tagging unit 114 acquires endoscopic images generated continuously from the image generation unit 70, the tagging unit 114 adds tags to the endoscopic images generated continuously. The tag has information related to the timing at which the endoscopic image is generated. For example, in FIG. 19, the tagging unit 114 generates a tagged endoscopic image 121a by attaching a tag X having information on the time ta to the endoscopic image 82a acquired at the time ta. . Thereafter, similarly for the endoscopic images 82b to 82j acquired at times tb to tj, the tagging unit 114 also includes tagged endoscopic images to which tags having information of the times tb to tj are attached. Is generated. The generated tagged endoscopic image is transmitted to the second receiving unit 120 of the external processing device 112 via the first transmitting unit 116.

第2血管抽出部74は、第2受信部120が第1送信部116から受信したタグ付きの内視鏡画像に対して第2血管抽出処理を施すことによって、タグ付きの第2血管抽出画像を出力する。外部処理装置112はプロセッサ装置16よりも画像に対する画像処理の処理速度が速いため、第2血管抽出部74は、上記第1実施形態の第2血管抽出部と比較して、第2血管抽出画像を出力するまでの時間が短い。   The second blood vessel extraction unit 74 performs a second blood vessel extraction process on the tagged endoscopic image received by the second reception unit 120 from the first transmission unit 116, thereby providing a tagged second blood vessel extraction image. Is output. Since the external processing device 112 has a higher processing speed of image processing on the image than the processor device 16, the second blood vessel extraction unit 74 compares the second blood vessel extraction image with the second blood vessel extraction unit of the first embodiment. The time until output is short.

例えば、図20において、第2血管抽出部74は、タグ付きの内視鏡画像121aに対して第2血管抽出処理を施すことによって、タグXが付けられたタグ付きの第2血管抽出画像122aを出力する。タグ付きの第2血管抽出画像122aは、内視鏡画像82a内視鏡画像が生成された時間taから2フレーム分後の時間tcに出力される。出力されたタグ付きの第2血管抽出画像122aは、第2送信部122を介して、プロセッサ装置16の第1受信部118に送信される。   For example, in FIG. 20, the second blood vessel extraction unit 74 performs a second blood vessel extraction process on the tagged endoscopic image 121a, thereby providing a tagged second blood vessel extraction image 122a with a tag X attached thereto. Is output. The tagged second blood vessel extraction image 122a is output at a time tc two frames after the time ta at which the endoscopic image 82a is generated. The output tagged second blood vessel extraction image 122 a is transmitted to the first reception unit 118 of the processor device 16 via the second transmission unit 122.

合成処理部76は、第1タイミングに取得した第1血管抽出画像と、第1タイミング以前の第2タイミングに受信した第2血管抽出画像のうち、第1タイミングに最も近いタイミングで受信した第2血管抽出画像とを、第1タイミングに取得した内視鏡画像に対して合成して表示用画像を生成する。   The synthesis processing unit 76 receives the second blood vessel extracted at the timing closest to the first timing among the first blood vessel extracted image acquired at the first timing and the second blood vessel extracted image received at the second timing before the first timing. The blood vessel extraction image is combined with the endoscopic image acquired at the first timing to generate a display image.

このように、高精度の第2血管抽出処理を行う第2血管抽出部74を、プロセッサ装置16よりも処理能力の高い外部処理装置112に設けることによって、プロセッサ装置16の処理負担を軽減できる。また、プロセッサ装置16と外部処理装置112との間で内視鏡画像及び第2血管抽出画像の送受信を行った場合でも、内視鏡画像と第2血管抽出画像とを対応付けるタグの情報に基づいて位置合わせ及び合成が行われるため、内視鏡画像と第2血管抽出画像との間で大きく位置ずれが生じることを防止できる。   As described above, by providing the second blood vessel extraction unit 74 that performs the second blood vessel extraction processing with high accuracy in the external processing device 112 having a higher processing capability than the processor device 16, the processing load on the processor device 16 can be reduced. Even when the endoscopic image and the second blood vessel extraction image are transmitted and received between the processor device 16 and the external processing device 112, the information is based on the tag information that associates the endoscopic image with the second blood vessel extraction image. Therefore, it is possible to prevent a large positional shift between the endoscopic image and the second blood vessel extraction image.

なお、第4実施形態におけるプロセッサ装置16の合成処理部76は、外部処理装置112から、一定期間、第2血管抽出画像の入力が無い場合には、内視鏡画像に対して、第2血管抽出画像を合成せずに、第1血管抽出画像のみを合成するようにしても良い。具体的には、図21に示すように、合成処理部76は、外部処理装置112からの第2血管抽出画像の入力の有無を判定する(S41)。合成処理部76は、一定期間、第2血管抽出画像の入力が無い場合(S41でYES)、内視鏡画像に対して、第2血管抽出画像を合成せずに、第1血管抽出画像のみを合成する(S42)。一方、合成処理部76は、一定期間内に第2血管抽出画像の入力が有った場合(S41でNO)、内視鏡画像に対して、第1血管抽出画像と第2血管抽出画像を合成する(S43)。このように、一定期間、第2血管抽出画像の入力が無い場合は、プロセッサ装置16と外部処理装置112との間で通信が途絶している場合や、外部処理装置112が故障している場合があるため、第2血管抽出画像を合成しないことによって、プロセッサ装置16の処理負担を低減できる。なお、一定期間、第2血管抽出画像の入力が無い場合には、モニタ18に対して、異常が発生していることを示す警告表示をしても良い。   Note that the composition processing unit 76 of the processor device 16 in the fourth embodiment performs the second blood vessel on the endoscope image when the second blood vessel extraction image is not input from the external processing device 112 for a certain period. You may make it synthesize | combine only a 1st blood-vessel extraction image, without synthesize | combining an extraction image. Specifically, as illustrated in FIG. 21, the composition processing unit 76 determines whether or not the second blood vessel extraction image is input from the external processing device 112 (S41). When there is no input of the second blood vessel extraction image for a certain period (YES in S41), the synthesis processing unit 76 does not synthesize the second blood vessel extraction image with the endoscopic image, and only the first blood vessel extraction image. Is synthesized (S42). On the other hand, when the second blood vessel extraction image is input within a certain period (NO in S41), the composition processing unit 76 adds the first blood vessel extraction image and the second blood vessel extraction image to the endoscope image. Synthesize (S43). As described above, when there is no input of the second blood vessel extraction image for a certain period, communication between the processor device 16 and the external processing device 112 is interrupted, or the external processing device 112 is out of order. Therefore, the processing burden on the processor device 16 can be reduced by not synthesizing the second blood vessel extraction image. When there is no input of the second blood vessel extraction image for a certain period, a warning may be displayed on the monitor 18 indicating that an abnormality has occurred.

[第5実施形態]
第5実施形態では、上記第1実施形態で示した4色のLED20a〜20dの代わりに、レーザ光源と蛍光体を用いて観察対象の照明を行う。それ以外については、第1実施形態と同様である。
[Fifth Embodiment]
In the fifth embodiment, the observation target is illuminated using a laser light source and a phosphor instead of the four-color LEDs 20a to 20d shown in the first embodiment. The rest is the same as in the first embodiment.

図22に示すように、第5実施形態の内視鏡システム200では、光源装置14において、4色のLED20a〜20dの代わりに、中心波長445±10nmの青色レーザ光を発する青色レーザ光源(図22では「445LD」と表記)204と、中心波長405±10nmの青紫色レーザ光を発する青紫色レーザ光源(図22では「405LD」と表記)206とが設けられている。これら各光源204、206の半導体発光素子からの発光は、光源制御部208により個別に制御されており、青色レーザ光源204の出射光と、青紫色レーザ光源206の出射光の光量比は変更自在になっている。   As shown in FIG. 22, in the endoscope system 200 of the fifth embodiment, in the light source device 14, a blue laser light source that emits blue laser light having a center wavelength of 445 ± 10 nm instead of the four-color LEDs 20 a to 20 d (see FIG. 22). 22, a blue-violet laser light source (indicated as “405LD” in FIG. 22) 206 that emits blue-violet laser light having a center wavelength of 405 ± 10 nm is provided. Light emission from the semiconductor light emitting elements of these light sources 204 and 206 is individually controlled by the light source control unit 208, and the light quantity ratio between the emitted light of the blue laser light source 204 and the emitted light of the blue-violet laser light source 206 is freely changeable. It has become.

光源制御部208は、通常モードの場合には、青色レーザ光源204を駆動させる。これに対して、血管抽出モードの場合には、青色レーザ光源204と青紫色レーザ光源206の両方を駆動させるとともに、青色レーザ光の発光比率を青紫色レーザ光の発光比率よりも大きくなるように制御している。以上の各光源204、206から出射されるレーザ光は、集光レンズ、光ファイバ、合波器などの光学部材(いずれも図示せず)を介して、ライトガイド25に入射する。   The light source control unit 208 drives the blue laser light source 204 in the normal mode. In contrast, in the blood vessel extraction mode, both the blue laser light source 204 and the blue violet laser light source 206 are driven, and the emission ratio of the blue laser light is larger than the emission ratio of the blue violet laser light. I have control. The laser light emitted from each of the light sources 204 and 206 is incident on the light guide 25 through optical members (all not shown) such as a condenser lens, an optical fiber, and a multiplexer.

なお、青色レーザ光又は青紫色レーザ光の半値幅は±10nm程度にすることが好ましい。また、青色レーザ光源204及び青紫色レーザ光源206は、ブロードエリア型のInGaN系レーザダイオードが利用でき、また、InGaNAs系レーザダイオードやGaNAs系レーザダイオードを用いることもできる。また、上記光源として、発光ダイオードなどの発光体を用いた構成としてもよい。   Note that the full width at half maximum of the blue laser beam or the blue-violet laser beam is preferably about ± 10 nm. As the blue laser light source 204 and the blue-violet laser light source 206, a broad area type InGaN laser diode can be used, and an InGaNAs laser diode or a GaNAs laser diode can also be used. In addition, a light-emitting body such as a light-emitting diode may be used as the light source.

照明光学系30aには、照明レンズ32の他に、ライトガイド25からの青色レーザ光又は青紫色レーザ光が入射する蛍光体210が設けられている。蛍光体210は、青色レーザ光によって励起され、蛍光を発する。また、青色レーザ光の一部は、蛍光体210を励起させることなく透過する。青紫色レーザ光は、蛍光体210を励起させることなく透過する。蛍光体210を出射した光は、照明レンズ32を介して、観察対象の体内を照明する。   In addition to the illumination lens 32, the illumination optical system 30a is provided with a phosphor 210 on which blue laser light or blue-violet laser light from the light guide 25 is incident. The phosphor 210 is excited by blue laser light and emits fluorescence. Further, part of the blue laser light is transmitted without exciting the phosphor 210. The blue-violet laser light is transmitted without exciting the phosphor 210. The light emitted from the phosphor 210 illuminates the body to be observed through the illumination lens 32.

ここで、通常モードにおいては、主として青色レーザ光が蛍光体210に入射するため、図23に示すような、青色レーザ光、及び青色レーザ光により蛍光体210から励起発光する蛍光を合波した白色光によって観察対象が照明される。一方、血管抽出モードにおいては、青紫色レーザ光と青色レーザ光の両方が蛍光体210に入射するため、図24に示すような、青紫色レーザ光、青色レーザ光、及び青色レーザ光により蛍光体210から励起発光する蛍光を合波した特殊光によって観察対象が照明される。   Here, in the normal mode, mainly the blue laser light is incident on the phosphor 210. Therefore, as shown in FIG. 23, the white color obtained by combining the blue laser light and the fluorescence excited and emitted from the phosphor 210 by the blue laser light. The observation object is illuminated with light. On the other hand, in the blood vessel extraction mode, since both the blue-violet laser beam and the blue laser beam are incident on the phosphor 210, the phosphor is generated by the blue-violet laser beam, the blue laser beam, and the blue laser beam as shown in FIG. The observation target is illuminated by special light obtained by combining the fluorescence excited and emitted from 210.

なお、蛍光体210は、青色レーザ光の一部を吸収して、緑色〜黄色に励起発光する複数種の蛍光体(例えばYAG系蛍光体、或いはBAM(BaMgAl1017)などの蛍光体)を含んで構成されるものを使用することが好ましい。本構成例のように、半導体発光素子を蛍光体210の励起光源として用いれば、高い発光効率で高強度の白色光が得られ、白色光の強度を容易に調整できる上に、白色光の色温度、色度の変化を小さく抑えることができる。 The phosphor 210 absorbs part of the blue laser light and emits green to yellow excitation light (for example, YAG phosphor or phosphor such as BAM (BaMgAl 10 O 17 )). It is preferable to use what is comprised including. If a semiconductor light emitting device is used as an excitation light source for the phosphor 210 as in this configuration example, high intensity white light can be obtained with high luminous efficiency, and the intensity of white light can be easily adjusted. Changes in temperature and chromaticity can be kept small.

[第6実施形態]
第6実施形態では、上記第1実施形態で示した4色のLED20a〜20dの代わりに、キセノンランプなどの広帯域光源と回転フィルタを用いて観察対象の照明を行う。また、カラーの撮像センサ44に代えて、モノクロの撮像センサで観察対象の撮像を行う。それ以外については、第1実施形態と同様である。
[Sixth Embodiment]
In the sixth embodiment, the observation target is illuminated using a broadband light source such as a xenon lamp and a rotary filter instead of the four-color LEDs 20a to 20d shown in the first embodiment. Further, instead of the color image sensor 44, the observation target is imaged with a monochrome image sensor. The rest is the same as in the first embodiment.

図25に示すように、第6実施形態の内視鏡システム300では、光源装置14において、4色のLED20a〜20dに代えて、広帯域光源302、回転フィルタ304、フィルタ切替部305が設けられている。また、撮像光学系30bには、カラーの撮像センサ44の代わりに、カラーフィルタが設けられていないモノクロの撮像センサ306が設けられている。   As shown in FIG. 25, in the endoscope system 300 of the sixth embodiment, the light source device 14 is provided with a broadband light source 302, a rotary filter 304, and a filter switching unit 305 instead of the four-color LEDs 20a to 20d. Yes. The imaging optical system 30b is provided with a monochrome imaging sensor 306 that is not provided with a color filter, instead of the color imaging sensor 44.

広帯域光源302はキセノンランプ、白色LEDなどであり、波長域が青色から赤色に及ぶ白色光を発する。回転フィルタ304は、内側に設けられた通常モード用フィルタ308と、外側に設けられた血管抽出モード用フィルタ309とを備えている(図26参照)。フィルタ切替部305は、回転フィルタ304を径方向に移動させるものであり、モード切替SW12fにより通常モードにセットされたときに、回転フィルタ304の通常モード用フィルタ308を白色光の光路に挿入し、血管抽出モードにセットされたときに、回転フィルタ304の血管抽出モード用フィルタ309を白色光の光路に挿入する。   The broadband light source 302 is a xenon lamp, a white LED, or the like, and emits white light having a wavelength range from blue to red. The rotary filter 304 includes a normal mode filter 308 provided on the inner side and a blood vessel extraction mode filter 309 provided on the outer side (see FIG. 26). The filter switching unit 305 moves the rotary filter 304 in the radial direction. When the normal mode is set by the mode switching SW 12f, the filter switching unit 305 inserts the normal mode filter 308 of the rotary filter 304 into the white light path, When the blood vessel extraction mode is set, the blood vessel extraction mode filter 309 of the rotation filter 304 is inserted into the optical path of white light.

図26に示すように、通常モード用フィルタ308には、周方向に沿って、白色光のうち青色光を透過させるBフィルタ308a、白色光のうち緑色光を透過させるGフィルタ308b、白色光のうち赤色光を透過させるRフィルタ308cが設けられている。したがって、通常モード時には、回転フィルタ304が回転することで、青色光、緑色光、赤色光が交互に観察対象に照射される。   As shown in FIG. 26, the normal mode filter 308 includes, in the circumferential direction, a B filter 308a that transmits blue light of white light, a G filter 308b that transmits green light of white light, and white light. Among them, an R filter 308c that transmits red light is provided. Therefore, in the normal mode, the rotation filter 304 is rotated, so that blue light, green light, and red light are alternately irradiated on the observation target.

血管抽出モード用フィルタ309には、周方向に沿って、白色光のうち特定波長の青色狭帯域光を透過させるBnフィルタ309aと、白色光のうち緑色光を透過させるGフィルタ309b、白色光のうち赤色光を透過させるRフィルタ309cが設けられている。したがって、血管抽出モード時には、回転フィルタ304が回転することで、青色狭帯域光、緑色光、赤色光が交互に観察対象に照射される。   The blood vessel extraction mode filter 309 includes, along the circumferential direction, a Bn filter 309a that transmits blue narrow-band light having a specific wavelength among white light, a G filter 309b that transmits green light among white light, and white light. Among them, an R filter 309c that transmits red light is provided. Therefore, in the blood vessel extraction mode, the rotation filter 304 is rotated, so that the observation target is alternately irradiated with the blue narrow band light, the green light, and the red light.

内視鏡システム300では、通常モード時には、青色光、緑色光、赤色光で観察対象が照明される毎にモノクロの撮像センサ306で観察対象を撮像する。これにより、RGBの3色の画像信号が得られる。そして、それらRGB色の画像信号に基づいて、上記第1実施形態と同様の方法で、通常画像が生成される。   In the endoscope system 300, in the normal mode, the observation target is imaged by the monochrome imaging sensor 306 every time the observation target is illuminated with blue light, green light, and red light. Thereby, RGB image signals of three colors are obtained. Based on the RGB color image signals, a normal image is generated by the same method as in the first embodiment.

一方、血管抽出モード時には、青色狭帯域光、緑色光、赤色光で観察対象が照明される毎にモノクロの撮像センサ306で観察対象を撮像する。これにより、Bn画像信号と、G画像信号、R画像信号が得られる。これらBn画像信号と、G画像信号、R画像信号に基づいて、血管強調画像の生成が行われる。このように、血管強調画像の生成には、B画像信号の代わりに、Bn画像信号が用いられる。それ以外については、第1実施形態と同様の方法で血管強調画像の生成が行われる。   On the other hand, in the blood vessel extraction mode, the observation target is imaged by the monochrome imaging sensor 306 every time the observation target is illuminated with blue narrow band light, green light, and red light. Thereby, a Bn image signal, a G image signal, and an R image signal are obtained. Based on these Bn image signal, G image signal, and R image signal, a blood vessel emphasized image is generated. As described above, the Bn image signal is used instead of the B image signal for generating the blood vessel emphasized image. Other than that, the blood vessel emphasized image is generated by the same method as in the first embodiment.

10、200、300 内視鏡システム
12 内視鏡
12g 静止画像取得指示部
14 光源装置
16 プロセッサ装置(第1処理装置)
60,91,100 血管強調用画像処理部
64 選択部
70 画像生成部
72 第1血管抽出部
74 第2血管抽出部
76,92 合成処理部
93 血管情報指標算出部
102 動き検出部
104 制御部
112 外部処理装置(第2処理装置)
114 タグ付け部
116 第1送信部(第1処理装置側送信部)
118 第1受信部(第1処理装置側受信部)
120 第2受信部(第2処理装置側受信部)
122 第2送信部(第2処理装置側送信部)
10, 200, 300 Endoscope system 12 Endoscope 12g Still image acquisition instruction unit 14 Light source device 16 Processor device (first processing device)
60, 91, 100 Blood vessel enhancement image processing unit 64 Selection unit 70 Image generation unit 72 First blood vessel extraction unit 74 Second blood vessel extraction unit 76, 92 Synthesis processing unit 93 Blood vessel information index calculation unit 102 Motion detection unit 104 Control unit 112 External processing device (second processing device)
114 Tagging part 116 1st transmission part (1st processing apparatus side transmission part)
118 1st receiving part (1st processing device side receiving part)
120 Second receiver (second processor side receiver)
122 2nd transmission part (2nd processing apparatus side transmission part)

Claims (14)

観察対象を撮像する撮像センサと、
前記撮像センサから得られる画像信号を用いて内視鏡画像を連続的に生成する画像生成部と、
前記内視鏡画像または前記内視鏡画像を生成するための前記画像信号に対して第1血管抽出処理を施すことにより、前記画像生成部が連続的に生成する前記内視鏡画像について、前記観察対象の血管を抽出した第1血管抽出画像を出力する第1血管抽出部と、
連続的に生成される前記内視鏡画像から間欠的に選択される前記内視鏡画像に対して、または連続的に生成される前記内視鏡画像から間欠的に選択された前記内視鏡画像を生成するための前記画像信号に対して、前記第1血管抽出処理よりも高精度の第2血管抽出処理を施すことにより、前記内視鏡画像のうち一部の前記内視鏡画像について、前記観察対象の血管を抽出した第2血管抽出画像を出力する第2血管抽出部と、
第1タイミングに取得した第1血管抽出画像と、前記第1タイミング以前の第2タイミングに取得した第2血管抽出画像のうち、前記第1タイミングに最も近いタイミングで取得した第2血管抽出画像とを、前記第1タイミングに取得した内視鏡画像に対して合成して、表示用画像を生成する合成処理部とを備える内視鏡システム。
An imaging sensor for imaging an observation target;
An image generation unit that continuously generates an endoscopic image using an image signal obtained from the imaging sensor;
The endoscope image continuously generated by the image generator by applying a first blood vessel extraction process to the endoscope image or the image signal for generating the endoscope image, A first blood vessel extraction unit that outputs a first blood vessel extraction image obtained by extracting blood vessels to be observed;
The endoscope selected intermittently from the endoscopic image generated continuously or with respect to the endoscopic image selected intermittently from the endoscopic image generated continuously By performing a second blood vessel extraction process with higher accuracy than the first blood vessel extraction process on the image signal for generating an image, a part of the endoscopic images among the endoscopic images A second blood vessel extraction unit for outputting a second blood vessel extraction image obtained by extracting the blood vessel to be observed;
A first blood vessel extraction image acquired at a first timing and a second blood vessel extraction image acquired at a timing closest to the first timing among second blood vessel extraction images acquired at a second timing before the first timing; An endoscope system comprising: a combination processing unit that combines an endoscope image acquired at the first timing to generate a display image.
前記第1血管抽出処理は、前記観察対象の中深層血管を抽出する低解像度の血管抽出処理であり、
前記第2血管抽出処理は、前記観察対象の表層血管と前記中深層血管とを抽出する高解像度の血管抽出処理である請求項1に記載の内視鏡システム。
The first blood vessel extraction process is a low-resolution blood vessel extraction process for extracting the middle-deep blood vessel of the observation target;
The endoscope system according to claim 1, wherein the second blood vessel extraction process is a high-resolution blood vessel extraction process for extracting the surface blood vessel and the intermediate deep blood vessel to be observed.
前記合成処理部は、前記中深層血管を基準にして前記内視鏡画像及び前記第1血管抽出画像に対して前記第2血管抽出画像の位置合わせをする請求項2に記載の内視鏡システム。   The endoscope system according to claim 2, wherein the synthesis processing unit aligns the second blood vessel extraction image with respect to the endoscopic image and the first blood vessel extraction image with respect to the intermediate deep blood vessel. . 前記第1血管抽出画像または前記第2血管抽出画像を用いて、前記観察対象の血管に関する血管情報指標を算出する血管情報指標算出部を備える請求項1〜3のいずれか1項に記載の内視鏡システム。   The inside of any one of Claims 1-3 provided with the blood vessel information parameter | index calculation part which calculates the blood vessel information parameter | index regarding the said blood vessel of the observation object using the said 1st blood vessel extraction image or the said 2nd blood vessel extraction image. Endoscopy system. 前記合成処理部は、前記第1血管抽出画像及び前記第2血管抽出画像に加えて前記血管情報指標を前記内視鏡画像に合成して前記表示用画像を生成する請求項4に記載の内視鏡システム。   5. The internal processing unit according to claim 4, wherein the synthesis processing unit generates the display image by synthesizing the blood vessel information index with the endoscopic image in addition to the first blood vessel extraction image and the second blood vessel extraction image. Endoscopy system. 前記血管情報指標は、前記観察対象の血管の密度である請求項4または5に記載の内視鏡システム。   The endoscope system according to claim 4 or 5, wherein the blood vessel information index is a density of a blood vessel to be observed. 前記内視鏡画像、前記内視鏡画像を生成するための前記画像信号、または前記第1血管抽出画像を用いて、前記観察対象の動き量を検出する動き検出部と、
前記動き量を用いて、前記第2血管抽出部による前記第2血管抽出処理の頻度を変更する制御部とを備える請求項1〜6のいずれか1項に記載の内視鏡システム。
A motion detector that detects the amount of motion of the observation object using the endoscopic image, the image signal for generating the endoscopic image, or the first blood vessel extraction image;
The endoscope system according to claim 1, further comprising: a control unit that changes the frequency of the second blood vessel extraction processing by the second blood vessel extraction unit using the amount of movement.
前記制御部は、前記動き量が第1閾値よりも大きい場合に前記第2血管抽出処理を停止させ、前記動き量が第2閾値以上前記第1閾値以下の場合に前記第2血管抽出処理を第1の頻度で行わせ、前記動き量が前記第2閾値よりも小さい場合に前記第2血管抽出処理を前記第1の頻度よりも低い第2の頻度で行わせる請求項7に記載の内視鏡システム。   The control unit stops the second blood vessel extraction process when the amount of motion is greater than a first threshold value, and performs the second blood vessel extraction process when the amount of motion is greater than or equal to a second threshold value and less than or equal to the first threshold value. 8. The method according to claim 7, wherein the second blood vessel extraction processing is performed at a second frequency lower than the first frequency when the movement amount is smaller than the second threshold. Endoscopy system. 前記第1血管抽出部と前記合成処理部とが設けられた第1処理装置と、
前記第2血管抽出部が設けられ、前記第1処理装置よりも処理能力が高い第2処理装置とを備える請求項1〜8のいずれか1項に記載の内視鏡システム。
A first processing apparatus provided with the first blood vessel extraction unit and the synthesis processing unit;
The endoscope system according to any one of claims 1 to 8, further comprising a second processing device provided with the second blood vessel extraction unit and having a processing capability higher than that of the first processing device.
前記合成処理部は、前記第2処理装置から一定期間、前記第2血管抽出画像が入力されない場合、前記内視鏡画像に前記第2血管抽出画像を合成せずに前記表示用画像を生成する請求項9に記載の内視鏡システム。   The synthesis processing unit generates the display image without synthesizing the second blood vessel extraction image with the endoscopic image when the second blood vessel extraction image is not input from the second processing device for a certain period of time. The endoscope system according to claim 9. 前記第1処理装置に設けられ、前記内視鏡画像にタグを付けるタグ付け部と、
前記第1処理装置に設けられ、前記タグが付けられたタグ付きの内視鏡画像を、前記第2処理装置に送信する第1処理装置側送信部と
前記第2処理装置に設けられ、前記第1処理装置側送信部からの前記タグ付きの内視鏡画像を受信する第2処理装置側受信部と、
前記第2処理装置に設けられ、前記タグ付きの内視鏡画像に対して前記第2血管抽出処理を施して出力されたタグ付きの第2血管抽出画像を、前記第1処理装置に送信する第2処理装置側送信部と、
前記第1処理装置に設けられ、前記第2処理装置側送信部からの前記タグ付きの第2血管抽出画像を受信する第1処理装置側受信部とを備える請求項10に記載の内視鏡システム。
A tagging unit provided in the first processing device, for tagging the endoscopic image;
Provided in the first processing device, the first processing device-side transmission unit for transmitting the tagged endoscopic image with the tag attached thereto to the second processing device, and provided in the second processing device, A second processor side receiver for receiving the tagged endoscopic image from the first processor side transmitter;
A second blood vessel extraction image with a tag provided in the second processing device and output by performing the second blood vessel extraction process on the endoscopic image with the tag is transmitted to the first processing device. A second processing device side transmission unit;
The endoscope according to claim 10, further comprising: a first processing device-side receiving unit that is provided in the first processing device and receives the tagged second blood vessel extraction image from the second processing device-side transmission unit. system.
観察対象を撮像する撮像センサと、
前記撮像センサから得られる画像信号を用いて内視鏡画像を連続的に生成する画像生成部と、
前記内視鏡画像または前記内視鏡画像を生成するための前記画像信号に対して第1血管抽出処理を施すことにより、前記画像生成部が連続的に生成する前記内視鏡画像について、前記観察対象の血管を抽出した第1血管抽出画像を出力する第1血管抽出部と、
連続的に生成される前記内視鏡画像から間欠的に選択される前記内視鏡画像に対して、または連続的に生成される前記内視鏡画像から間欠的に選択された前記内視鏡画像を生成するための前記画像信号に対して、前記第1血管抽出処理よりも高精度の第2血管抽出処理を施すことにより、前記内視鏡画像のうち一部の前記内視鏡画像について、前記観察対象の血管を抽出した第2血管抽出画像を出力する第2血管抽出部と、
前記内視鏡画像の静止画像の取得を指示する静止画像取得指示部と、
前記静止画像取得指示部から静止画像取得指示があった場合に、前記静止画像取得指示の前後の特定期間中に生成される複数の前記内視鏡画像の中から、静止画像に適した一つの前記内視鏡画像を選択する選択部と、
前記選択部によって選択された前記内視鏡画像を取得したタイミングを第1タイミングとした場合に、前記第1タイミングに取得した第1血管抽出画像と、前記第1タイミング以前の第2タイミングに取得した第2血管抽出画像のうち、前記第1タイミングに最も近いタイミングで取得した第2血管抽出画像とを、前記第1タイミングに取得した前記内視鏡画像に対して合成して表示用画像を生成し、前記静止画像として表示または記録させる合成処理部とを備える内視鏡システム。
An imaging sensor for imaging an observation target;
An image generation unit that continuously generates an endoscopic image using an image signal obtained from the imaging sensor;
The endoscope image continuously generated by the image generator by applying a first blood vessel extraction process to the endoscope image or the image signal for generating the endoscope image, A first blood vessel extraction unit that outputs a first blood vessel extraction image obtained by extracting blood vessels to be observed;
The endoscope selected intermittently from the endoscopic image generated continuously or with respect to the endoscopic image selected intermittently from the endoscopic image generated continuously By performing a second blood vessel extraction process with higher accuracy than the first blood vessel extraction process on the image signal for generating an image, a part of the endoscopic images among the endoscopic images A second blood vessel extraction unit for outputting a second blood vessel extraction image obtained by extracting the blood vessel to be observed;
A still image acquisition instruction unit for instructing acquisition of a still image of the endoscopic image;
When there is a still image acquisition instruction from the still image acquisition instruction unit, one of the plurality of endoscopic images generated during a specific period before and after the still image acquisition instruction is suitable for a still image. A selection unit for selecting the endoscopic image;
When the timing at which the endoscope image selected by the selection unit is acquired is the first timing, the first blood vessel extraction image acquired at the first timing and the second timing before the first timing are acquired. Of the second extracted blood vessel images, the second extracted blood vessel image acquired at the timing closest to the first timing is combined with the endoscopic image acquired at the first timing to obtain a display image. An endoscope system including a synthesis processing unit that generates and displays or records the still image.
撮像センサによって観察対象を撮像して得られる画像信号を取得する画像信号取得部と、
前記撮像センサから得られる画像信号を用いて内視鏡画像を連続的に生成する画像生成部と、
前記内視鏡画像または前記内視鏡画像を生成するための前記画像信号に対して第1血管抽出処理を施すことにより、前記画像生成部が連続的に生成する前記内視鏡画像について前記観察対象の血管を抽出した第1血管抽出画像を出力する第1血管抽出部と、
連続的に生成される前記内視鏡画像から間欠的に選択される前記内視鏡画像に対して、または連続的に生成される前記内視鏡画像から間欠的に選択された前記内視鏡画像を生成するための前記画像信号に対して、前記第1血管抽出処理よりも高精度の第2血管抽出処理を施すことにより、前記内視鏡画像のうち一部の前記内視鏡画像について前記観察対象の血管を抽出した第2血管抽出画像を出力する第2血管抽出部と、
第1タイミングに取得した第1血管抽出画像と、前記第1タイミング以前の第2タイミングに取得した第2血管抽出画像のうち、前記第1タイミングに最も近いタイミングで取得した第2血管抽出画像とを、前記第1タイミングに取得した内視鏡画像に対して合成して、表示用画像を生成する合成処理部とを備えるプロセッサ装置。
An image signal acquisition unit for acquiring an image signal obtained by imaging an observation target by an imaging sensor;
An image generation unit that continuously generates an endoscopic image using an image signal obtained from the imaging sensor;
The observation of the endoscopic image continuously generated by the image generation unit by applying a first blood vessel extraction process to the endoscopic image or the image signal for generating the endoscopic image A first blood vessel extraction unit that outputs a first blood vessel extraction image obtained by extracting a target blood vessel;
The endoscope selected intermittently from the endoscopic image generated continuously or with respect to the endoscopic image selected intermittently from the endoscopic image generated continuously By performing a second blood vessel extraction process with higher accuracy than the first blood vessel extraction process on the image signal for generating an image, a part of the endoscopic images among the endoscopic images A second blood vessel extraction unit that outputs a second blood vessel extraction image obtained by extracting the blood vessel to be observed;
A first blood vessel extraction image acquired at a first timing and a second blood vessel extraction image acquired at a timing closest to the first timing among second blood vessel extraction images acquired at a second timing before the first timing; Is combined with the endoscopic image acquired at the first timing to generate a display image.
撮像センサによって観察対象を撮像して得られる画像信号を用いて、画像生成部が、内視鏡画像を連続的に生成するステップと、
第1血管抽出部が、前記内視鏡画像または前記内視鏡画像を生成するための前記画像信号に対して第1血管抽出処理を施すことにより、前記画像生成部が連続的に生成する前記内視鏡画像について前記観察対象の血管を抽出した第1血管抽出画像を出力するステップと、
第2血管抽出部が、連続的に生成される前記内視鏡画像から間欠的に選択される前記内視鏡画像に対して、または連続的に生成される前記内視鏡画像から間欠的に選択された前記内視鏡画像を生成するための前記画像信号に対して、前記第1血管抽出処理よりも高精度の第2血管抽出処理を施すことにより、前記内視鏡画像のうち一部の前記内視鏡画像について前記観察対象の血管を抽出した第2血管抽出画像を出力するステップと、
合成処理部が、第1タイミングに取得した第1血管抽出画像と、前記第1タイミング以前の第2タイミングに取得した第2血管抽出画像のうち、前記第1タイミングに最も近いタイミングで取得した第2血管抽出画像とを、前記第1タイミングに取得した内視鏡画像に対して合成して、表示用画像を生成するステップとを備える内視鏡システムの作動方法。
A step of continuously generating an endoscopic image using an image signal obtained by imaging an observation target by an imaging sensor;
The first blood vessel extraction unit performs the first blood vessel extraction process on the endoscopic image or the image signal for generating the endoscopic image, thereby continuously generating the image generation unit. Outputting a first blood vessel extraction image obtained by extracting the blood vessel to be observed with respect to an endoscopic image;
The second blood vessel extraction unit is intermittently selected for the endoscopic image selected intermittently from the endoscopic image generated continuously or intermittently from the endoscopic image generated continuously. A part of the endoscopic image is obtained by performing second blood vessel extraction processing with higher accuracy than the first blood vessel extraction processing on the selected image signal for generating the endoscopic image. Outputting a second blood vessel extraction image obtained by extracting the blood vessel to be observed from the endoscopic image of
The synthesis processing unit obtains the first blood vessel extracted image acquired at the first timing and the second blood vessel extracted image acquired at the second timing before the first timing at the timing acquired closest to the first timing. A method of operating an endoscope system comprising: synthesizing two blood vessel extraction images with an endoscope image acquired at the first timing to generate a display image.
JP2015021992A 2015-02-06 2015-02-06 Endoscope system, processor device, and operation method of endoscope system Active JP6285373B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015021992A JP6285373B2 (en) 2015-02-06 2015-02-06 Endoscope system, processor device, and operation method of endoscope system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015021992A JP6285373B2 (en) 2015-02-06 2015-02-06 Endoscope system, processor device, and operation method of endoscope system

Publications (2)

Publication Number Publication Date
JP2016144507A true JP2016144507A (en) 2016-08-12
JP6285373B2 JP6285373B2 (en) 2018-02-28

Family

ID=56685753

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015021992A Active JP6285373B2 (en) 2015-02-06 2015-02-06 Endoscope system, processor device, and operation method of endoscope system

Country Status (1)

Country Link
JP (1) JP6285373B2 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018159461A1 (en) 2017-03-03 2018-09-07 富士フイルム株式会社 Endoscope system, processor device, and method of operating endoscope system
JP7457699B2 (en) 2018-06-13 2024-03-28 コスモ アーティフィシャル インテリジェンス-エーアイ リミティド System and method for processing real-time video from medical imaging devices and detecting objects in the video

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013099509A (en) * 2011-10-12 2013-05-23 Fujifilm Corp Endoscope system and image generation method
JP2014128423A (en) * 2012-12-28 2014-07-10 Olympus Medical Systems Corp Endoscope system

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013099509A (en) * 2011-10-12 2013-05-23 Fujifilm Corp Endoscope system and image generation method
JP2014128423A (en) * 2012-12-28 2014-07-10 Olympus Medical Systems Corp Endoscope system

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018159461A1 (en) 2017-03-03 2018-09-07 富士フイルム株式会社 Endoscope system, processor device, and method of operating endoscope system
CN110381807A (en) * 2017-03-03 2019-10-25 富士胶片株式会社 The working method of endoscopic system, processor device and endoscopic system
JPWO2018159461A1 (en) * 2017-03-03 2019-12-26 富士フイルム株式会社 Endoscope system, processor device, and method of operating endoscope system
CN110381807B (en) * 2017-03-03 2022-01-18 富士胶片株式会社 Endoscope system, processor device, and method for operating endoscope system
US11759092B2 (en) 2017-03-03 2023-09-19 Fujifilm Corporation Endoscope system, processor device, and method of operating endoscope system
JP7457699B2 (en) 2018-06-13 2024-03-28 コスモ アーティフィシャル インテリジェンス-エーアイ リミティド System and method for processing real-time video from medical imaging devices and detecting objects in the video

Also Published As

Publication number Publication date
JP6285373B2 (en) 2018-02-28

Similar Documents

Publication Publication Date Title
JP6285383B2 (en) Image processing apparatus, endoscope system, operation method of image processing apparatus, and operation method of endoscope system
US10779714B2 (en) Image processing apparatus, method for operating image processing apparatus, and image processing program
US10022074B2 (en) Endoscope system, processor device for endoscope system, operation method for endoscope system, and operation method for processor device
JP5997817B2 (en) Endoscope system
JP6243364B2 (en) Endoscope processor, operation method, and control program
JP6259747B2 (en) Processor device, endoscope system, operating method of processor device, and program
JP2015139657A (en) Processor device, endoscope system, operation method for endoscope system
JP6690003B2 (en) Endoscope system and operating method thereof
WO2018079205A1 (en) Processor device and endoscopic system
JP2018051065A (en) Endoscope system, processor device, and endoscope system operating method
US20170231469A1 (en) Processor device for endoscope,operation method thereof, and non-transitory computer readable medium
JP6285373B2 (en) Endoscope system, processor device, and operation method of endoscope system
US20190246874A1 (en) Processor device, endoscope system, and method of operating processor device
JP7217351B2 (en) Image processing device, endoscope system, and method of operating image processing device
JP6254506B2 (en) Endoscope system and operating method thereof
JP6243311B2 (en) Endoscope processor device, operation method of endoscope processor device, control program for endoscope
JP2016120026A (en) Endoscope system and operation method thereof
WO2021172131A1 (en) Endoscope system and endoscope system operation method
JP2022160298A (en) Medical image processing device and operation method thereof
JP2018171544A (en) Endoscope system and operation method thereof

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170210

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20171219

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180105

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180201

R150 Certificate of patent or registration of utility model

Ref document number: 6285373

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250