JP7447281B2 - Processor device, operating method of processor device - Google Patents

Processor device, operating method of processor device Download PDF

Info

Publication number
JP7447281B2
JP7447281B2 JP2022543269A JP2022543269A JP7447281B2 JP 7447281 B2 JP7447281 B2 JP 7447281B2 JP 2022543269 A JP2022543269 A JP 2022543269A JP 2022543269 A JP2022543269 A JP 2022543269A JP 7447281 B2 JP7447281 B2 JP 7447281B2
Authority
JP
Japan
Prior art keywords
image
special
normal
observation mode
light
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022543269A
Other languages
Japanese (ja)
Other versions
JPWO2022038803A1 (en
Inventor
進吾 増野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of JPWO2022038803A1 publication Critical patent/JPWO2022038803A1/ja
Application granted granted Critical
Publication of JP7447281B2 publication Critical patent/JP7447281B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Biomedical Technology (AREA)
  • Optics & Photonics (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Biophysics (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Endoscopes (AREA)

Description

本発明は、内視鏡が撮像した内視鏡画像を取得するプロセッサ装置、プロセッサ装置の作動方法に関する。 The present invention relates to a processor device that acquires endoscopic images captured by an endoscope, and a method of operating the processor device.

光源装置、内視鏡、及びプロセッサ装置を備える内視鏡システムが広く知られている。内視鏡システムでは、観察対象に対して照明光を照射し、照明光で照明された観察対象を撮像することにより、内視鏡画像を取得する。内視鏡画像は、ディスプレイに表示されるなどして診断等に使用される。 Endoscope systems that include a light source device, an endoscope, and a processor device are widely known. In an endoscope system, an endoscopic image is obtained by irradiating an observation target with illumination light and capturing an image of the observation target illuminated with the illumination light. Endoscopic images are displayed on a display and used for diagnosis and the like.

また、内視鏡システムの中には、白色光(通常光)を観察対象に照射して、観察用の内視鏡画像(通常画像)を撮像する通常撮像と、通常光とは発光スペクトルの異なる特殊光を観察対象に照射して、生体情報取得用の内視鏡画像(特殊画像)を撮像する特殊撮像とを行なうものもある。例えば、下記特許文献1には、特殊光としてICG(インドシアニングリーン)の励起光を照射して、内視鏡画像として蛍光画像を取得する例が記載されている。 In addition, some endoscope systems use normal imaging, in which white light (normal light) is irradiated onto the observation target to capture an endoscopic image for observation (normal image), and normal light has a different emission spectrum. Some systems perform special imaging in which an endoscopic image (special image) for acquiring biological information is captured by irradiating different special lights onto an observation target. For example, Patent Document 1 listed below describes an example in which excitation light of ICG (indocyanine green) is irradiated as special light to obtain a fluorescence image as an endoscopic image.

また、下記特許文献1では、通常画像と特殊画像とを録画して共通の画面内に表示する構成が記載されている。こうすることで、例えば、観察中に注目すべき領域を検出した場合に、録画された画像を再生、巻き戻し等しながら、詳細に観察することが可能である。 Further, Patent Document 1 listed below describes a configuration in which a normal image and a special image are recorded and displayed on a common screen. By doing so, for example, when a region of interest is detected during observation, it is possible to observe it in detail while playing back, rewinding, etc. the recorded image.

特開2019-098008号公報JP2019-098008A

しかしながら、上記特許文献1記載の装置では、必要な情報が得られない場合があった。つまり、内視鏡システムを用いた内視鏡検査では、検査の大半の時間が通常画像を観察しながら行われるため、特殊画像の撮像頻度が通常画像と比較して低く設定されている。このため、所望の情報を得るための特殊画像が存在しない場合がある。このような問題を防止するために、特殊画像の撮像頻度を高く設定するといったことも考えられるが、この場合、通常画像の撮像頻度が低下してしまうので、通常画像が見難く、検査に悪影響を及ぼしてしまう。 However, with the device described in Patent Document 1, necessary information may not be obtained in some cases. In other words, in an endoscopy using an endoscope system, the majority of the examination is performed while observing normal images, so the frequency of special images is set lower than that of normal images. Therefore, there are cases where a special image for obtaining desired information does not exist. In order to prevent this kind of problem, it may be possible to set the frequency of special images to be high, but in this case, the frequency of normal images will decrease, making it difficult to see the normal images and having a negative impact on the examination. It will affect you.

本発明は、上記背景を鑑みてなされたものであり、検査への悪影響を抑えながら、必要な情報をより確実に得ることが可能な、プロセッサ装置、プロセッサ装置の作動方法を提供することを目的とする。 The present invention has been made in view of the above background, and an object of the present invention is to provide a processor device and a method of operating the processor device that can more reliably obtain necessary information while suppressing adverse effects on inspection. shall be.

上記目的を達成するために、本発明のプロセッサ装置は、内視鏡から出力された内視鏡画像をディスプレイに表示する通常観察モードと、内視鏡画像をディスプレイに表示するとともに、内視鏡画像を動画像として記録し、再生指示に基づいて記録した動画像をディスプレイに再生表示する詳細観察モードと、を含む複数種類の観察モードの切り替えを行うプロセッサ装置において、撮像制御用プロセッサが、通常光を観察対象に照射して、内視鏡画像として通常画像を撮像する通常撮像と、通常光とは発光スペクトルの異なる特殊光を観察対象に照射して、内視鏡画像として特殊画像を撮像する特殊撮像と、を行い、通常画像の撮像頻度と特殊画像の撮像頻度とを、観察モードの種類に応じて切り替える。 In order to achieve the above object, the processor device of the present invention has a normal observation mode in which an endoscopic image output from an endoscope is displayed on a display, a normal observation mode in which an endoscopic image output from an endoscope is displayed on a display, and a processor device in which an endoscope image is displayed on a display. In a processor device that records an image as a moving image and switches between multiple types of observation modes, including a detailed observation mode in which the recorded moving image is played back and displayed on a display based on a playback instruction, the imaging control processor usually Normal imaging in which light is irradiated onto the observation target to capture a normal image as an endoscopic image, and special light with a different emission spectrum from normal light is irradiated onto the observation target to capture a special image as an endoscopic image. special imaging is performed, and the imaging frequency of normal images and the imaging frequency of special images are switched according to the type of observation mode.

詳細観察モードでは、通常観察モードに対して、通常画像の撮像頻度を低下させてもよい。 In the detailed observation mode, the frequency of capturing normal images may be lowered compared to the normal observation mode.

詳細観察モードでは、通常観察モードに対して、特殊画像の撮像頻度を増加させてもよい。 In the detailed observation mode, the frequency of capturing special images may be increased compared to the normal observation mode.

特殊光には、発光スペクトルが互いに異なる、複数種類の特殊光が含まれ、特殊画像には、複数種類の特殊光に対応する複数種類の特殊画像が含まれ、詳細観察モードでは、通常観察モードに対して、複数種類の特殊画像のうちの一部の特殊画像について、通常観察モードよりも撮像頻度を増加させてもよい。 The special light includes multiple types of special light with different emission spectra, and the special image includes multiple types of special images corresponding to multiple types of special light.In detailed observation mode, in normal observation mode On the other hand, for some of the plurality of types of special images, the imaging frequency may be increased more than in the normal observation mode.

詳細観察モードでは、一部の特殊画像とは別の一部の特殊画像については、通常観察モードよりも撮像頻度を低下させてもよい。 In the detailed observation mode, the imaging frequency may be lowered than in the normal observation mode for some special images other than some special images.

特殊画像を用いて、観察対象の生体情報を表示する生体情報画像を生成し、生成した生体情報画像を、ディスプレイに表示してもよい。 A biometric information image that displays biometric information of the observation target may be generated using the special image, and the generated biometric information image may be displayed on a display.

生体情報画像は、血中ヘモグロビンの酸素飽和度を示す酸素飽和度画像であってもよい。 The biological information image may be an oxygen saturation image indicating the oxygen saturation of blood hemoglobin.

生体情報画像は、特定深さの血管を示す血管画像であってもよい。 The biological information image may be a blood vessel image showing a blood vessel at a specific depth.

生体情報画像は、特殊画像に設定された複数の範囲の各々について、各々の範囲の色差を拡張する色差拡張画像であってもよい。 The biological information image may be a color difference expansion image that expands the color difference of each range for each of a plurality of ranges set in the special image.

また、上記目的を達成するために、本発明のプロセッサ装置の作動方法は、内視鏡から出力された内視鏡画像をディスプレイに表示する通常観察モードと、内視鏡画像をディスプレイに表示するとともに、内視鏡画像を動画像として記録し、再生指示に基づいて記録した動画像をディスプレイに再生表示する詳細観察モードと、を含む複数種類の観察モードの切り替えを行うプロセッサ装置の作動方法において、撮像制御用プロセッサが、通常光を観察対象に照射して、内視鏡画像として通常画像を撮像する通常撮像と、通常光とは発光スペクトルの異なる特殊光を観察対象に照射して、内視鏡画像として特殊画像を撮像する特殊撮像と、を行い、通常画像の撮像頻度と特殊画像の撮像頻度とを、観察モードの種類に応じて切り替える。 Further, in order to achieve the above object, the operating method of the processor device of the present invention includes a normal observation mode in which an endoscopic image output from an endoscope is displayed on a display, and a normal observation mode in which an endoscopic image output from an endoscope is displayed on a display. and a detailed observation mode in which an endoscopic image is recorded as a moving image and the recorded moving image is played back and displayed on a display based on a playback instruction. , the imaging control processor performs normal imaging in which the observation target is irradiated with normal light to capture a normal image as an endoscopic image, and special light with a different emission spectrum from normal light is irradiated on the observation target to perform internal imaging. Special imaging is performed in which a special image is taken as a endoscopic image, and the imaging frequency of normal images and the imaging frequency of special images are switched depending on the type of observation mode.

本発明によれば、通常画像が見易く、また、詳細な観察を行なう場合には特殊画像が見易いプロセッサ装置、プロセッサ装置の作動方法を提供できる。 According to the present invention, it is possible to provide a processor device and a method for operating the processor device in which normal images are easy to see and special images are easy to see when performing detailed observation.

内視鏡システムを簡略化した模式図である。FIG. 1 is a simplified schematic diagram of an endoscope system. 内視鏡システムの機能を示すブロック図である。FIG. 2 is a block diagram showing the functions of the endoscope system. 内視鏡画像が表示される流れを示すフローチャートである。It is a flowchart showing the flow of displaying endoscopic images. 内視鏡画像が録画及び再生される流れを示すフローチャートである。It is a flowchart showing the flow of recording and playing back endoscopic images. 通常観察モードにおける撮像制御を示す説明図である。It is an explanatory diagram showing imaging control in normal observation mode. 詳細観察モードにおける撮像制御を示す説明図である。FIG. 3 is an explanatory diagram showing imaging control in detailed observation mode.

図1において、内視鏡システム10は、内視鏡12と、光源装置14と、プロセッサ装置16と、ディスプレイ18と、UI(User InterFace、ユーザーインターフェース)19とを有する。内視鏡12は、光源装置14と光学的に接続され、且つ、プロセッサ装置16と電気的に接続される。内視鏡12は、観察対象の体内に挿入される挿入部12aと、挿入部12aの基端部分に設けられた操作部12bと、挿入部12aの先端側に設けられた湾曲部12c及び先端部12dとを有している。湾曲部12cは、操作部12bを操作することにより湾曲動作する。先端部12dは、湾曲部12cの湾曲動作によって所望の方向に向けられる。 In FIG. 1, an endoscope system 10 includes an endoscope 12, a light source device 14, a processor device 16, a display 18, and a UI (User Interface) 19. The endoscope 12 is optically connected to the light source device 14 and electrically connected to the processor device 16 . The endoscope 12 includes an insertion section 12a that is inserted into the body of an observation target, an operation section 12b provided at the proximal end of the insertion section 12a, a curved section 12c provided at the distal end of the insertion section 12a, and a distal end. 12d. The bending portion 12c performs a bending operation by operating the operating portion 12b. The distal end portion 12d is directed in a desired direction by the bending action of the bending portion 12c.

また、操作部12bには、観察モードの切り替え操作に用いる観察モード切替スイッチ12fと、処置具に係る手技支援情報の提示に用いる手技支援情報提示スイッチ12gと、観察対象の静止画の取得指示に用いられる静止画像取得指示スイッチ12hと、ズームレンズ43の操作に用いられるズーム操作部12iとが設けられている。内視鏡システム10では、観察モードとして、通常観察モードと、通常観察モードよりも詳細な観察を行うための詳細観察モードとが設けられており、モード切替スイッチ12fを操作することで、観察モードの切り替えが行われる。 The operation unit 12b also includes an observation mode changeover switch 12f used to switch the observation mode, a procedure support information presentation switch 12g used to present procedure support information related to the treatment instrument, and a procedure support information presentation switch 12g used to provide instructions for obtaining a still image of the observation target. A still image acquisition instruction switch 12h that is used and a zoom operation section 12i that is used to operate the zoom lens 43 are provided. The endoscope system 10 has two observation modes: a normal observation mode and a detailed observation mode for performing more detailed observation than the normal observation mode. The switching is performed.

光源装置14は、観察対象を照明するための照明光を発する光源部20(図2参照)を備えている。光源部20からの照明光は、ライトガイド25(図2参照)により導光されて先端部12dから観察対象へ向けて照射される。光源部20からの照明光により照明された観察対象は、先端部12dに内蔵された撮像センサ44(図2参照)により撮像される。 The light source device 14 includes a light source section 20 (see FIG. 2) that emits illumination light for illuminating an observation target. Illumination light from the light source section 20 is guided by a light guide 25 (see FIG. 2) and irradiated toward the observation target from the tip section 12d. The observation target illuminated by the illumination light from the light source section 20 is imaged by an image sensor 44 (see FIG. 2) built into the distal end section 12d.

プロセッサ装置16は、ディスプレイ18及びUI19と電気的に接続される。ディスプレイ18は、観察対象の画像や、観察対象の画像に付帯する情報等を出力表示する。UI19は、キーボード、マウス、タッチパッド、マイク等を有し、機能設定等の入力操作を受け付ける機能を有する。なお、プロセッサ装置16には、外付けのメモリ(図示しない)を接続してもよい。 Processor device 16 is electrically connected to display 18 and UI 19. The display 18 outputs and displays an image of the observation target, information attached to the image of the observation target, and the like. The UI 19 includes a keyboard, a mouse, a touch pad, a microphone, etc., and has a function of accepting input operations such as function settings. Note that an external memory (not shown) may be connected to the processor device 16.

図2において、光源装置14は、前述した光源部20を備えている。光源部20は、プロセッサ装置16の光源制御部21に接続されており、光源部20が発する照明光の発光スペクトル並びに発光タイミングは、光源制御部21により制御される。 In FIG. 2, the light source device 14 includes the light source section 20 described above. The light source section 20 is connected to a light source control section 21 of the processor device 16, and the emission spectrum and emission timing of the illumination light emitted by the light source section 20 are controlled by the light source control section 21.

本実施形態において、光源部20は、発光スペクトルが互いに異なる通常光と特殊光とを発光する。通常光は、例えば、白色光である。白色光は、例えば、波長帯域380~420nmの紫色光、波長帯域420~500nmの青色光、波長帯域480~600nmの緑色光、波長帯域600~650nmの赤色光、を含む。通常光を観察対象に照射して撮像された内視鏡画像(通常画像)は、ディスプレイ18に表示される。 In this embodiment, the light source section 20 emits normal light and special light that have different emission spectra. The normal light is, for example, white light. White light includes, for example, violet light with a wavelength band of 380 to 420 nm, blue light with a wavelength band of 420 to 500 nm, green light with a wavelength band of 480 to 600 nm, and red light with a wavelength band of 600 to 650 nm. An endoscopic image (normal image) captured by irradiating the observation target with normal light is displayed on the display 18.

特殊光は、1種類であってもよいし複数種類であってもよいが、本実施形態では、6種類の特殊光を設定している(図5参照)。これらの特殊光には、例えば、血中ヘモグロビンの吸収係数が高い紫色光(ピーク波長400nm~420nm)の発光量が、通常光よりも大きくされたものが含まれる。この特殊光を観察対象に照射して撮像された内視鏡画像(特殊画像)は、表層の血管構造や腺管構造を示す血管画像(生体情報画像)の生成に用いられる。 There may be one type of special light or multiple types of special light, but in this embodiment, six types of special light are set (see FIG. 5). These special lights include, for example, violet light (peak wavelength 400 nm to 420 nm) for which the absorption coefficient of blood hemoglobin is high, and the amount of light emitted is made larger than that of normal light. An endoscopic image (special image) captured by irradiating the observation target with this special light is used to generate a blood vessel image (biological information image) showing the superficial blood vessel structure and glandular duct structure.

また、特殊光には、例えば、前述した紫色光のみを発光するものが含まれる。この特殊光を観察対象に照射して撮像された内視鏡画像(特殊画像)は、前述の場合(紫色光の発光量を通常光よりも大きくした場合)と比較して、より表層の血管構造や腺管構造を示す血管画像(生体情報画像)の生成に用いられる。 Furthermore, the special light includes, for example, the light that emits only the violet light described above. The endoscopic image (special image) captured by irradiating this special light onto the observation target shows more superficial blood vessels than in the case described above (in which the amount of violet light emitted is greater than that of normal light). It is used to generate blood vessel images (biological information images) showing the structure and duct structure.

さらに、特殊光には、例えば、酸化ヘモグロビンと還元ヘモグロビンの吸光係数に差がある青紫色光(ピーク波長470nm~480nm)を発光するものが含まれる。この特殊光を観察対象に照射して撮像された内視鏡画像(特殊画像)は、血中ヘモグロビンの酸素飽和度を示す酸素飽和度画像(生体情報画像)の生成に用いられる。 Furthermore, the special light includes, for example, light that emits blue-violet light (peak wavelength of 470 nm to 480 nm) in which oxyhemoglobin and deoxyhemoglobin have different extinction coefficients. An endoscopic image (special image) captured by irradiating the observation target with this special light is used to generate an oxygen saturation image (biological information image) indicating the oxygen saturation of blood hemoglobin.

また、特殊光には、例えば、前述した紫色光及び青紫光、並びに、赤色光(ピーク波長620nm~630nm)の発光量が、通常光よりも大きくされたものが含まれる。この特殊光を観察対象に照射して撮像された内視鏡画像(特殊画像)は、病変部と病変部以外の範囲との色差を拡張した色差拡張画像(生体情報画像)の生成に用いられる。なお、特殊光の種類、及び、各特殊光を照射して撮像された内視鏡画像(特殊画像)を用いて生成する生体情報画像の種類は、上記に限定されず適宜変更できる。 Further, the special light includes, for example, the above-mentioned violet light, blue-violet light, and red light (peak wavelength 620 nm to 630 nm) whose emission amount is greater than that of normal light. The endoscopic image (special image) captured by irradiating this special light onto the observation target is used to generate a color difference-enhanced image (biological information image) that expands the color difference between the lesion and the area other than the lesion. . Note that the type of special light and the type of biological information image generated using the endoscopic image (special image) captured by irradiating each special light are not limited to the above and can be changed as appropriate.

光源部20からの照明光は、ミラーやレンズなどで構成される光路結合部23を介して、前述したライトガイド25に入射される。ライトガイド25は、内視鏡12及びユニバーサルコード(内視鏡12と、光源装置14及びプロセッサ装置16を接続するコード)に内蔵されている。ライトガイド25は、光路結合部23からの光を、内視鏡12の先端部12dまで伝搬する。 Illumination light from the light source section 20 is incident on the above-mentioned light guide 25 via the optical path coupling section 23 composed of mirrors, lenses, and the like. The light guide 25 is built into the endoscope 12 and a universal cord (a cord that connects the endoscope 12, the light source device 14, and the processor device 16). The light guide 25 propagates the light from the optical path coupling section 23 to the distal end portion 12d of the endoscope 12.

内視鏡12の先端部12dには、照明光学系30aと撮像光学系30bが設けられている。照明光学系30aは照明レンズ32を有しており、ライトガイド25によって伝搬した照明光は照明レンズ32を介して観察対象に照射される。撮像光学系30bは、対物レンズ42、ズームレンズ43、撮像センサ44を有している。照明光を照射したことによる観察対象からの光は、対物レンズ42及びズームレンズ43を介して撮像センサ44に入射する。これにより、撮像センサ44に観察対象の像が結像される。ズームレンズ43は観察対象を拡大するためのレンズであり、ズーム操作部12iを操作することによって、テレ端とワイド端と間を移動する。 The distal end portion 12d of the endoscope 12 is provided with an illumination optical system 30a and an imaging optical system 30b. The illumination optical system 30a has an illumination lens 32, and the illumination light propagated by the light guide 25 is irradiated onto the observation target via the illumination lens 32. The imaging optical system 30b includes an objective lens 42, a zoom lens 43, and an image sensor 44. Light emitted from the observation target by illumination light enters the image sensor 44 via the objective lens 42 and the zoom lens 43. As a result, an image of the observation target is formed on the image sensor 44. The zoom lens 43 is a lens for enlarging an observation target, and is moved between a telephoto end and a wide end by operating the zoom operation section 12i.

撮像センサ44は、カラーセンサであり、本実施形態では、B(ブルー)カラーフィルタを有するB画素、G(グリーン)カラーフィルタを有するG画素、及び、R(レッド)カラーフィルタを有するR画素の3種類の画素を備えた原色系のカラーセンサを用いている。このような撮像センサ44としては、CCD(Charge-Coupled Device)またはCMOS(Complementary Metal Oxide Semiconductor)撮像センサ等を用いることができる。 The image sensor 44 is a color sensor, and in this embodiment, a B pixel has a B (blue) color filter, a G pixel has a G (green) color filter, and an R pixel has an R (red) color filter. A primary color color sensor with three types of pixels is used. As such an image sensor 44, a CCD (Charge-Coupled Device) or a CMOS (Complementary Metal Oxide Semiconductor) image sensor can be used.

撮像センサ44は、プロセッサ装置16の撮像センサ制御部45により制御される。撮像センサ制御部45は、所定サイクルで(本実施形態では、毎秒60回)、撮像(撮像センサ44の信号読み出し)を行う。そして、この撮像に伴い、撮像センサ44から画像信号が出力される。本実施形態では、毎秒60フレーム(枚)分の画像信号が出力される。 The image sensor 44 is controlled by an image sensor control section 45 of the processor device 16. The image sensor control unit 45 performs imaging (reading out signals from the image sensor 44) at predetermined cycles (60 times per second in this embodiment). Then, along with this imaging, an image signal is output from the imaging sensor 44. In this embodiment, image signals for 60 frames (sheets) are output per second.

なお、RGBの原色のカラーフィルタを設けた原色系の撮像センサ44の代わりに、C(シアン)、M(マゼンタ)、Y(イエロー)及びG(緑)の補色フィルタを有する補色系の撮像センサを用いてもよい。補色系の撮像センサを用いる場合には、CMYGの4色の画像信号を出力する。このため、補色-原色色変換によって、CMYGの4色の画像信号をRGBの3色の画像信号に変換することにより、撮像センサ38と同様のRGB各色の画像信号を得ることができる。また、撮像センサ38の代わりに、カラーフィルタを設けていないモノクロセンサを用いてもよい。 Note that instead of the primary color image sensor 44 provided with RGB primary color filters, a complementary color image sensor 44 having complementary color filters of C (cyan), M (magenta), Y (yellow), and G (green) is used. may also be used. When using a complementary color image sensor, image signals of four colors, CMYG, are output. Therefore, by converting the image signals of four colors of CMYG into image signals of three colors of RGB through complementary color-primary color conversion, it is possible to obtain image signals of each color of RGB similar to that of the image sensor 38. Further, instead of the image sensor 38, a monochrome sensor without a color filter may be used.

CDS/AGC(Correlated Double Sampling/Automatic Gain Control)回路46は、撮像センサ44から得られるアナログの画像信号に相関二重サンプリング(CDS)や自動利得制御(AGC)を行う。CDS/AGC回路46を経た画像信号は、A/D(Analog/Digital)コンバータ48により、デジタルの画像信号に変換される。A/D変換後のデジタル画像信号がプロセッサ装置16に入力される。 A CDS/AGC (Correlated Double Sampling/Automatic Gain Control) circuit 46 performs correlated double sampling (CDS) and automatic gain control (AGC) on the analog image signal obtained from the image sensor 44 . The image signal that has passed through the CDS/AGC circuit 46 is converted into a digital image signal by an A/D (Analog/Digital) converter 48. The digital image signal after A/D conversion is input to the processor device 16.

プロセッサ装置16は、本発明の撮像制御用プロセッサを構成する中央制御部68を備えている。中央制御部68は、メモリ69に格納されたプログラム命令を実行させるためのハードウェア資源であり、プロセッサ装置16の各部を駆動制御してプログラム命令を実行させる。プログラム命令の実行に伴う中央制御部68の駆動制御により、プロセッサ装置16は、撮像制御部50、DSP(Digital Signal Processor)52、ノイズ低減部54、画像処理部58、表示制御部60、として機能する。 The processor device 16 includes a central control section 68 that constitutes an imaging control processor of the present invention. The central control unit 68 is a hardware resource for executing program instructions stored in the memory 69, and drives and controls each unit of the processor device 16 to execute the program instructions. Under drive control of the central control unit 68 in accordance with execution of program instructions, the processor device 16 functions as an imaging control unit 50, a DSP (Digital Signal Processor) 52, a noise reduction unit 54, an image processing unit 58, and a display control unit 60. do.

撮像制御部50には、前述した光源制御部21及び撮像センサ制御部45が設けられている。撮像制御部50は、光源制御部21を介して光源部20を制御して観察対象を照明するとともに、撮像センサ制御部45を介して撮像センサ44を制御して観察対象を撮像する(撮像センサ44から信号読み出しを行う)。そして、この撮像により撮像センサ44から出力された内視鏡画像を取得する。 The imaging control section 50 is provided with the light source control section 21 and the imaging sensor control section 45 described above. The imaging control unit 50 controls the light source unit 20 via the light source control unit 21 to illuminate the observation target, and controls the image sensor 44 via the imaging sensor control unit 45 to capture an image of the observation target (imaging sensor 44). Then, by this imaging, an endoscopic image output from the image sensor 44 is obtained.

撮像制御部50は、通常光を観察対象に照射して撮像する通常撮像を行い、通常画像を取得する。また、撮影制御部50は、特殊光を観察態様に照射して撮像する特殊撮像を行い、特殊画像を取得する。特殊撮像は、特殊光の種類毎に行われる。前述のように、本実施形態では、6種類の特殊光が設けられているため、6種類の特殊光のそれぞれについて特殊撮像が行われ、6種類の特殊画像が取得される(図5参照)。なお、本実施形態において、通常画像及び特殊画像といった内視鏡画像は、撮像センサ44のB画素、G画素、R画素から出力される青色信号(B画像信号)、緑色信号(G画像信号)、赤色信号(R画像信号)から構成されるカラー画像である。 The imaging control unit 50 performs normal imaging in which the object to be observed is imaged by irradiating normal light to obtain a normal image. Further, the photographing control unit 50 performs special imaging in which an observation mode is irradiated with special light to take an image, and acquires a special image. Special imaging is performed for each type of special light. As described above, in this embodiment, six types of special light are provided, so special imaging is performed for each of the six types of special light, and six types of special images are acquired (see FIG. 5). . In this embodiment, endoscopic images such as normal images and special images are blue signals (B image signals) and green signals (G image signals) output from B pixels, G pixels, and R pixels of the image sensor 44. , is a color image composed of red signals (R image signals).

撮像制御部50が取得した内視鏡画像は、DSP52に送信される。DSP52は、受信した内視鏡画像に対して、欠陥補正処理、オフセット処理、ゲイン補正処理、マトリクス処理、ガンマ変換処理、デモザイク処理、及びYC変換処理等の各種信号処理を行う。 The endoscopic image acquired by the imaging control unit 50 is transmitted to the DSP 52. The DSP 52 performs various signal processing such as defect correction processing, offset processing, gain correction processing, matrix processing, gamma conversion processing, demosaic processing, and YC conversion processing on the received endoscopic image.

欠陥補正処理では、撮像センサ44の欠陥画素の信号が補正される。オフセット処理では、欠陥補正処理を施した画像信号から暗電流成分を除かれ、正確な零レベルを設定される。ゲイン補正処理は、オフセット処理後の各色の画像信号に特定のゲイン係数を乗じることにより内視鏡画像の信号レベルを整える。なお、内視鏡画像は、撮像センサ44としてモノクロセンサを用いる場合には、特定の色の光の発光毎にモノクロセンサで撮像し、モノクロセンサから出力される複数色のモノクロ画像とすることが好ましい。 In the defect correction process, signals of defective pixels of the image sensor 44 are corrected. In the offset processing, dark current components are removed from the image signal that has been subjected to the defect correction processing, and an accurate zero level is set. The gain correction process adjusts the signal level of the endoscopic image by multiplying the image signal of each color after the offset process by a specific gain coefficient. Note that when a monochrome sensor is used as the image sensor 44, the endoscopic image may be captured by the monochrome sensor every time light of a specific color is emitted, and a monochrome image of multiple colors may be output from the monochrome sensor. preferable.

ゲイン補正処理後の各色の画像信号には、色再現性を高めるマトリクス処理が施される。その後、ガンマ変換処理によって、内視鏡画像の明るさや彩度が整えられる。マトリクス処理後の内視鏡画像には、デモザイク処理(等方化処理,同時化処理とも言う)が施され、補間により各画素の欠落した色の信号を生成される。デモザイク処理によって、全画素がRGB各色の信号を有するようになる。DSP52は、デモザイク処理後の内視鏡画像にYC変換処理を施し、輝度信号Yと色差信号Cb及び色差信号Crをノイズ低減部54に出力する。 The image signal of each color after the gain correction process is subjected to matrix processing to improve color reproducibility. Thereafter, the brightness and saturation of the endoscopic image are adjusted by gamma conversion processing. The endoscopic image after matrix processing is subjected to demosaic processing (also referred to as isotropic processing or simultaneous processing), and a signal of the missing color of each pixel is generated by interpolation. Through demosaic processing, all pixels have signals of each RGB color. The DSP 52 performs YC conversion processing on the demosaiced endoscopic image, and outputs the luminance signal Y, color difference signal Cb, and color difference signal Cr to the noise reduction unit 54.

ノイズ低減部54は、DSP56でデモザイク処理等を施した内視鏡画像に対して、例えば移動平均法やメディアンフィルタ法等によるノイズ低減処理を施す。ノイズを低減した内視鏡画像は、画像処理部58に入力される。本実施形態では、内視鏡画像として、通常光を照射して撮像した通常画像と、特殊光Sを照射して撮像した特殊画像とが画像処理部58に入力される。 The noise reduction unit 54 performs noise reduction processing using, for example, a moving average method or a median filter method, on the endoscopic image that has been subjected to demosaic processing or the like by the DSP 56. The endoscopic image with reduced noise is input to the image processing section 58. In this embodiment, a normal image captured by irradiating normal light and a special image captured by irradiating special light S are input to the image processing unit 58 as endoscopic images.

画像処理部58は、通常観察モード画層処理部62と、詳細観察モード画像処理部64と、ストレージデバイス66と、を備えている。通常観察モード画像処理部62は、前述した観察モードが通常観察モードである場合に作動する。他方、詳細観察モード画像処理部64は、観察モードが詳細観察モードである場合に作動する。ストレージデバイス66は、詳細観察モード画像処理部64による内視鏡画像の録画に用いられる。 The image processing section 58 includes a normal observation mode layer processing section 62, a detailed observation mode image processing section 64, and a storage device 66. The normal observation mode image processing section 62 operates when the above-mentioned observation mode is the normal observation mode. On the other hand, the detailed observation mode image processing section 64 operates when the observation mode is the detailed observation mode. The storage device 66 is used for recording endoscopic images by the detailed observation mode image processing unit 64.

図3に示すように、通常観察モード画像処理部62は、ノイズ低減部54から通常画像が入力された場合(ノイズ低減部54から通常画像が入力された内視鏡画像が特殊画像でなかった場合)、通常画像を表示制御部60に入力する。表示制御部60は、ディスプレイ18の表示制御を行うものであり、通常画像は、表示制御部60において表示用の映像信号に変換されてディスプレイ18に表示される。 As shown in FIG. 3, when the normal observation mode image processing section 62 receives a normal image from the noise reduction section 54 (the endoscopic image into which the normal image is input from the noise reduction section 54 is not a special image) case), the normal image is input to the display control unit 60. The display control section 60 controls the display of the display 18 , and the normal image is converted into a video signal for display in the display control section 60 and displayed on the display 18 .

また、通常観察モード画像処理部62は、ノイズ低減部54から特殊画像が入力された場合、特殊画像を単独で用いて、または、特殊画像と通常画像とを用いて観察対象の生体情報を示す生体情報画像を生成する。生体情報画像は、前述した血管画像、酸素飽和度画像、色差拡張画像などであり、特殊画像に対して解析処理を行なうことにより生成される。通常観察モード画像処理部62は、生成した生体情報画像を表示制御部60に入力する。生体情報画像は、表示制御部60において表示用の映像信号に変換されてディスプレイ18に表示される。生体情報画像は、観察用画像に重畳させて、または、観察用画像に並べて表示される。 Further, when a special image is input from the noise reduction unit 54, the normal observation mode image processing unit 62 indicates the biological information of the observation target using the special image alone or using the special image and the normal image. Generate biometric information images. The biological information image is the aforementioned blood vessel image, oxygen saturation image, color difference expansion image, etc., and is generated by performing analysis processing on a special image. The normal observation mode image processing unit 62 inputs the generated biological information image to the display control unit 60. The biological information image is converted into a display video signal by the display control unit 60 and displayed on the display 18. The biological information image is displayed superimposed on the observation image or side by side with the observation image.

なお、通常画像、特殊画像、または生体情報画像に対して、認識処理を行ってもよい。認識処理には、病変部などの注目領域を検出する検出処理と、病変部の種類やステージ(程度)を鑑別する鑑別処理とが含まれる。また、鑑別処理には、注目領域に対して行なう処理と、認識処理を行なう画像全体に対して行う処理とが含まれる。 Note that the recognition process may be performed on a normal image, a special image, or a biometric information image. The recognition process includes a detection process that detects a region of interest such as a lesion, and a discrimination process that discriminates the type and stage (grade) of the lesion. Further, the discrimination process includes a process performed on the region of interest and a process performed on the entire image to be subjected to the recognition process.

認識処理では、例えば、内視鏡画像を複数の小領域に分割し、分割した内視鏡画像から画像的な特徴量を算出する。そして、検出処理では、算出した特徴量に基づき、各小領域が病変部であるか否かを判断し、同じ種類と特定されたひとかたまりの領域を1つの病変部として抽出し、抽出した病変部を含む領域を注目領域として検出する。また、鑑別処理では、検出された注目領域について、注目領域内の特徴量と、注目領域の態様(位置、大きさ、形状など)と、に基づいて病変部の種類及び/または病変部の程度(ステージ)が判断される。上述した認識処理(検出処理、鑑別処理)における判断は、畳み込みニューラルネットワーク(Convolutional Neural Network)や、深層学習(Deep Learning)などの機械学習アルゴリズムによって行われることが好ましい。 In the recognition process, for example, an endoscopic image is divided into a plurality of small regions, and image feature amounts are calculated from the divided endoscopic images. Then, in the detection process, it is determined whether each small region is a lesion based on the calculated feature amount, a group of regions identified as the same type is extracted as one lesion, and the extracted lesion is The area containing the area is detected as the area of interest. In addition, in the discrimination process, the type and/or degree of the lesion is determined based on the detected region of interest, the feature amount within the region of interest, and the aspect (position, size, shape, etc.) of the region of interest. (stage) is determined. Judgments in the recognition processing (detection processing, discrimination processing) described above are preferably performed by a machine learning algorithm such as a convolutional neural network or deep learning.

詳細観察モード画像処理部64は、通常観察モード画像処理部62と同様に、通常画像及び特殊画像から生成した生体情報画像を表示制御部60に出力してディスプレイ18に表示させる(図3参照)。 Similar to the normal observation mode image processing unit 62, the detailed observation mode image processing unit 64 outputs the biological information image generated from the normal image and the special image to the display control unit 60 and displays it on the display 18 (see FIG. 3). .

また、図4に示すように、詳細観察モード画像処理部64は、通常画像及び特殊画像を、動画像としてエンコード(符号化)し、ストレージデバイス66に記憶させる(録画する)。そして、再生、巻き戻し等の指示に基づいて、記憶した(録画した)動画像をストレージデバイス66から読み出してデコード(復号化)する。デコードされた通常画像は、表示制御部60を介してディスプレイ18に表示される。他方、デコードされた特殊画像は、解析処理が行われて生体情報画像が生成され、生体情報画像が表示制御部60を介してディスプレイ18に表示される。なお、詳細観察モードにおいても、通常画像、特殊画像、または生体情報画像に対して、認識処理を行うことができる。認識処理は、録画前の画像に対して行なってもよいし、録画した画像を再生する際に行ってもよい。 Further, as shown in FIG. 4, the detailed observation mode image processing unit 64 encodes the normal image and the special image as a moving image, and stores (records) the moving image in the storage device 66. Then, based on instructions for playback, rewinding, etc., the stored (recorded) moving image is read out from the storage device 66 and decoded. The decoded normal image is displayed on the display 18 via the display control unit 60. On the other hand, the decoded special image is subjected to analysis processing to generate a biometric information image, and the biometric information image is displayed on the display 18 via the display control unit 60. Note that recognition processing can also be performed on a normal image, special image, or biological information image in the detailed observation mode. The recognition process may be performed on images before recording, or may be performed when playing back recorded images.

このように、詳細観察モードでは、通常画像及び特殊画像を録画し、通常画像や特殊画像を用いて生成された生体情報画像を再生、巻き戻し等しながら、より詳細な観察が可能である。しかし、一般に、特殊画像のフレームレート(撮像頻度)は、通常画像のフレームレートよりも低く設定されており、通常画像のフレーム数と比較して特殊画像のフレーム数が少ないので、特殊画像が存在せずに所望の情報を得られない(所望の生体情報画像が生成できない)といった問題がある。また、このような問題を防止するために特殊画像のフレームレートを高くすると、通常画像のフレームレートが低下してしまうので、通常画像の観察において悪影響がでてしまう。 In this manner, in the detailed observation mode, it is possible to record normal images and special images, and perform more detailed observation while playing back, rewinding, etc. the biological information image generated using the normal images and special images. However, in general, the frame rate (imaging frequency) of special images is set lower than that of normal images, and the number of frames of special images is small compared to the number of frames of normal images, so it is difficult to detect the presence of special images. There is a problem that the desired information cannot be obtained (desired biometric information image cannot be generated) without doing so. Furthermore, if the frame rate of the special image is increased in order to prevent such a problem, the frame rate of the normal image will be lowered, which will have an adverse effect on the observation of the normal image.

このため、本発明では、前述した撮像制御部50が、観察モードに応じて、通常画像と特殊画像のフレームレートを切り替えている。以下、図5、図6を用いて、観察モードと、通常画像と特殊画像のフレームレートの関係について、具体的な説明を行なう。 Therefore, in the present invention, the above-mentioned imaging control section 50 switches the frame rate between the normal image and the special image depending on the observation mode. Hereinafter, the relationship between the observation mode and the frame rate of the normal image and special image will be specifically explained using FIGS. 5 and 6.

なお、以下の説明では、特殊光として6種類の特殊光を用いる場合について説明を行なう。また以下の説明では、通常光を「通常光N、または単にN」と称し、6種類の特殊光を「特殊光S1~S6、または単にS1~S6」と称する。さらに、以下の説明では、通常画像、すなわち、通常光Nを照射して撮像した内視鏡画像を「通常画像NP、または単にNP」と称する。また、特殊光S1を照射して撮像した内視鏡画像を「特殊画像SP1、または単にSP1」、特殊光S2を照射して撮像した内視鏡画像を「特殊画像SP2、または単にSP2」、特殊光S3を照射して撮像した内視鏡画像を「特殊画像SP3、または単にSP3」、特殊光S4を照射して撮像した内視鏡画像を「特殊画像SP4、または単にSP4」、特殊光S5を照射して撮像した内視鏡画像を「特殊画像SP5、または単にSP5」、特殊光S6を照射して撮像した内視鏡画像を「特殊画像SP6、または単にSP6」と称する。 Note that in the following description, a case will be described in which six types of special light are used as the special light. In the following description, the normal light will be referred to as "normal light N," or simply "N," and the six types of special light will be referred to as "special lights S1 to S6, or simply S1 to S6." Furthermore, in the following description, a normal image, that is, an endoscopic image captured by irradiating normal light N, will be referred to as a "normal image NP, or simply NP." In addition, the endoscopic image captured by irradiating the special light S1 is "special image SP1," or simply SP1, and the endoscopic image captured by irradiating the special light S2 is "special image SP2, or simply SP2." The endoscopic image captured by irradiating the special light S3 is referred to as "special image SP3," or simply SP3, and the endoscopic image captured by irradiating the special light S4 is referred to as "special image SP4," or simply SP4, special light. The endoscopic image captured by irradiating the light S5 will be referred to as a "special image SP5," or simply SP5, and the endoscopic image captured by irradiating the special light S6 will be referred to as a "special image SP6, or simply SP6."

図5に示すように、観察モードが通常観察モードである場合、撮影制御部50は、通常光N及び特殊光S1~S6を、「N、N、N、N、N、S1、N、N、N、N、N、S2、N、N、N、N、N、S3、N、N、N、N、N、S4、N、N、N、N、N、S5、N、N、N、N、N、S6」の順番で照射し、各照明光の照射に合わせて撮像を行なう。各照明光の照射期間は、1/60(秒)であり、撮像は、毎秒60回行われる。これにより、「NP、NP、NP、NP、NP、SP1、NP、NP、NP、NP、NP、SP2、NP、NP、NP、NP、NP、SP3、NP、NP、NP、NP、NP、SP4、NP、NP、NP、NP、NP、SP5、NP、NP、NP、NP、NP、SP6」の順番で内視鏡画像(通常画像N及び特殊画像SP1~SP6)が撮像される。 As shown in FIG. 5, when the observation mode is the normal observation mode, the photographing control unit 50 changes the normal light N and the special lights S1 to S6 to "N, N, N, N, N, S1, N, N , N, N, N, S2, N, N, N, N, N, S3, N, N, N, N, N, S4, N, N, N, N, N, S5, N, N, N , N, N, S6" and images are taken in accordance with the irradiation of each illumination light. The irradiation period of each illumination light is 1/60 (second), and imaging is performed 60 times per second. As a result, "NP, NP, NP, NP, NP, SP1, NP, NP, NP, NP, NP, SP2, NP, NP, NP, NP, NP, SP3, NP, NP, NP, NP, NP, Endoscopic images (normal image N and special images SP1 to SP6) are captured in the order of ``SP4, NP, NP, NP, NP, NP, SP5, NP, NP, NP, NP, NP, SP6''.

このように、通常観察モードでは、通常画像の撮像頻度が高い(1秒あたり50回)。このため、通常画像の動きが滑らかで観察し易い。特に、通常観察モードでは、カメラ(挿入部12aの先端部12d)の位置及び/または向きを変化させながら、病変等の疑いのある部位(より詳細に観察すべき部位)の抽出(拾い上げ)を行なうといった作業を、通常画像を観察しながら行なう。このため、本例のように、通常観察モードにおいて通常画像の撮像頻度を高く設定して観察し易くすることが効果的である。 Thus, in the normal observation mode, the normal image capturing frequency is high (50 times per second). Therefore, the movement of the normal image is smooth and easy to observe. In particular, in the normal observation mode, while changing the position and/or direction of the camera (the distal end 12d of the insertion section 12a), the extraction (pickup) of a suspected lesion (site that should be observed in more detail) is performed. This is usually done while observing the image. Therefore, as in this example, it is effective to set the normal image capturing frequency to be high in the normal observation mode to facilitate observation.

一方、図6に示すように、観察モードが詳細観察モードである場合、撮像制御部50は、通常光N及び特殊光S1~S3を「N、S1、N、S2、N、S3」の順番で照射し、各照明光の照射に合わせて撮像を行なう。この場合も前述した通常観察モードの場合と同様に、各照明光の照射期間は、1/60(秒)であり、撮像は、毎秒60回行われる。これにより、「NP、SP1、NP、SP2、NP、SP3」の順番で内視鏡画像(通常画像N及び特殊画像SP1~SP3)が撮像される。 On the other hand, as shown in FIG. 6, when the observation mode is the detailed observation mode, the imaging control unit 50 controls the normal light N and the special lights S1 to S3 in the order of "N, S1, N, S2, N, S3". The images are taken in accordance with the irradiation of each illumination light. In this case, as in the normal observation mode described above, the irradiation period of each illumination light is 1/60 (second), and imaging is performed 60 times per second. As a result, endoscopic images (normal image N and special images SP1 to SP3) are captured in the order of "NP, SP1, NP, SP2, NP, SP3".

このように、詳細観察モードでは、通常画像NPの撮像頻度が通常観察モードと比較して低下する(1秒あたり50回から30回に低下する)。しかし、詳細観察モードは、通常観察モードにおいて抽出(拾い上げ)した部位についてより詳細に観察するためのモードであり、カメラ(挿入部12aの先端部12d)の位置及び/または向きの変化は通常モードと比較して少ない。このため、撮像頻度の低下による悪影響を受け難い。 In this way, in the detailed observation mode, the imaging frequency of the normal image NP is lowered compared to the normal observation mode (reduced from 50 times per second to 30 times per second). However, the detailed observation mode is a mode for observing in more detail the region extracted (picked up) in the normal observation mode, and changes in the position and/or orientation of the camera (the distal end 12d of the insertion section 12a) are not performed in the normal observation mode. less compared to Therefore, it is unlikely to be adversely affected by a decrease in imaging frequency.

また、詳細観察モードでは、特殊画像SP1~SP6のトータルとしての撮像頻度が通常観察モードと比較して増加している。具体的には、特殊画像SP1~SP6のトータルとしての撮像頻度は、通常観察モードにおいては1秒あたり10回であるのに対し、詳細観察モードにおいては1秒あたり30回に増加している。より具体的には、特殊画像SP1~SP3の撮像頻度が1秒あたり3/5回から10回に増加しており、特殊画像SP4~SP6の撮像頻度が1秒あたり3/5回から0回に低下しているものの、トータルとしては、特殊画像の撮像頻度が1秒あたり10回から30回に増加している。 Furthermore, in the detailed observation mode, the total imaging frequency of special images SP1 to SP6 is increased compared to the normal observation mode. Specifically, the total imaging frequency of special images SP1 to SP6 is 10 times per second in the normal observation mode, but increases to 30 times per second in the detailed observation mode. More specifically, the imaging frequency of special images SP1 to SP3 has increased from 3/5 times per second to 10 times, and the imaging frequency of special images SP4 to SP6 has increased from 3/5 times per second to 0 times. However, overall, the frequency of capturing special images has increased from 10 times per second to 30 times per second.

つまり、本実施形態では、特殊光には、発光スペクトルが互いに異なる、複数種類の特殊光(本実施形態では、特殊光S1~S6)が含まれ、特殊画像には、複数種類の特殊光に対応する複数種類の特殊画像(本実施形態では、特殊SP1~SP6)が含まれ、詳細観察モードでは、通常観察モードに対して、複数種類の特殊画像のうちの一部の特殊画像(本実施形態ではSP1~SP3)について、通常観察モードよりも撮像頻度を増加させている。 That is, in this embodiment, the special light includes multiple types of special light (in this embodiment, special lights S1 to S6) whose emission spectra are different from each other, and the special image includes multiple types of special light. The detailed observation mode includes a plurality of corresponding special images (special SP1 to SP6 in this embodiment), and in the detailed observation mode, some of the plurality of special images (in this embodiment) are For SP1 to SP3), the imaging frequency is increased compared to the normal observation mode.

一方、本実施形態では、詳細観察モードでは、前述した一部の特殊画像(本実施形態ではSP1~SP3)とは別の一部の特殊画像(本実施形態ではSP3~SP6)については、通常観察モードよりも撮像頻度を低下させているが、特殊画像SP1~SP6のトータルとしては、通常観察モードよりも撮像頻度を増加させている。 On the other hand, in this embodiment, in the detailed observation mode, some special images (SP3 to SP6 in this embodiment) other than the above-mentioned part of the special images (SP1 to SP3 in this embodiment) are normally Although the imaging frequency is lower than in the observation mode, the overall imaging frequency of special images SP1 to SP6 is increased compared to the normal observation mode.

このように、詳細観察モードにおいては、特殊画像(本実施形態では、特殊画像SP1~SP3)の撮像頻度が通常モードよりも増加している。このため、詳細観察モードにおいては、これら特殊画像及びこれら特殊画像を用いて生成された生体情報画像の動きが滑らかで観察し易い。また、確認したい画像が存在せずに必要な情報が得られないといったことがない。前述のように、詳細観察モードは、通常観察モードにおいて抽出(拾い上げ)した部位を詳細に観察するためのモードであり、詳細観察モードでは、通常画像NPのみならず特殊画像や特殊画像を用いて生成された生体情報画像を観察しながら詳細な観察が行われる。このため、本例のように、詳細観察モードにおいて特殊画像の撮像頻度を高く設定することが効果的である。特に、詳細観察モードでは、リアルタイムに得られた内視鏡画像だけでなく録画された内視鏡画像も参照されるため、特殊画像の撮像頻度を高く設定することで、より確実に必要な情報を得ることができる。 In this way, in the detailed observation mode, the frequency of capturing special images (special images SP1 to SP3 in this embodiment) is increased compared to the normal mode. Therefore, in the detailed observation mode, these special images and the biological information images generated using these special images move smoothly and are easy to observe. In addition, there is no need to obtain necessary information because the image you want to check does not exist. As mentioned above, the detailed observation mode is a mode for observing in detail the parts extracted (picked up) in the normal observation mode, and in the detailed observation mode, not only the normal image NP but also special images and special images are used. Detailed observation is performed while observing the generated biological information image. For this reason, it is effective to set the special image capturing frequency to be high in the detailed observation mode, as in this example. In particular, in detailed observation mode, not only endoscopic images obtained in real time but also recorded endoscopic images are referred to, so by setting the special image capturing frequency to be high, you can more accurately obtain the necessary information. can be obtained.

なお、上記実施形態では、特殊光として、特殊光S1~S6の6種類を設け、特殊画像として特殊画像SP1~SP6が撮像される例で説明をしたが、特殊光及び特殊画像の種類は5種類以下であってもよいし、7種類以上であってもよい。 In the above embodiment, six types of special lights S1 to S6 are provided as special lights, and the explanation has been given using an example in which special images SP1 to SP6 are captured as special images, but there are five types of special lights and special images. The number of types may be less than or equal to seven types, or may be seven or more types.

また、上記実施形態では、詳細観察モードでは通常観察モードに対して、特殊画像SP1~SP3の撮像頻度を増加させる例で説明をしたが、撮像頻度を増加させる特殊画像の種類及び/または数、並びに、撮影頻度の増加率は自由に設定できる。例えば、特殊画像SP1~SP6のうち1種類のみ撮像頻度を増加させてもよい。また、特殊画像SP1~SP6の全ての撮像頻度を増加させてもよい。さらに、特殊画像SP1については撮像頻度を10倍に増加させ、特殊画像SP2については撮像頻度を5倍に増加させるといったように、撮像頻度の増加率を特殊画像毎に個別に設定してもよい。 Further, in the above embodiment, an example has been described in which the frequency of capturing special images SP1 to SP3 is increased in the detailed observation mode compared to the normal observation mode. Furthermore, the rate of increase in the frequency of photographing can be freely set. For example, the imaging frequency of only one of the special images SP1 to SP6 may be increased. Furthermore, the frequency of capturing all of the special images SP1 to SP6 may be increased. Furthermore, the rate of increase in the imaging frequency may be set individually for each special image, such as increasing the imaging frequency by 10 times for the special image SP1 and increasing the imaging frequency by 5 times for the special image SP2. .

さらに、上記実施形態では、詳細観察モードでは通常観察モードに対して、特殊画像SP4~SP6の撮像頻度を低下させる例で説明をしたが、撮像頻度を低下させる特殊画像の種類及び/または数、並びに、撮影頻度の低下率は自由に設定できる。また、撮影頻度を低下させる特殊画像を廃止してもよい。また、撮像頻度を変化(増加または低下)させる特殊画像の種類及び/または数、並びに撮影頻度の変化率(増加率または低下率)をユーザーが指定してもよい。 Furthermore, in the above embodiment, an example was explained in which the imaging frequency of special images SP4 to SP6 is reduced in the detailed observation mode compared to the normal observation mode, but the type and/or number of special images whose imaging frequency is reduced, Furthermore, the rate of decrease in the frequency of photographing can be freely set. Additionally, special images that reduce the frequency of shooting may be abolished. Further, the user may specify the type and/or number of special images for which the imaging frequency is to be changed (increased or decreased), and the rate of change (increase or decrease rate) in the imaging frequency.

上記実施形態において、光源制御部21、撮像センサ制御部45、撮像制御部50、DPS52、ノイズ低減部54、画像処理部58、通常観察モード画像処理部62、詳細観察モード画像処理部64、中央制御部68、等の各種の処理を実行する処理部(processing unit)のハードウェア的な構造は、次に示すような各種のプロセッサ(processor)である。各種のプロセッサには、ソフトウエア(プログラム)を実行して各種の処理部として機能する汎用的なプロセッサであるCPU(Central Processing Unit)、FPGA (Field Programmable Gate Array) などの製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、各種の処理を実行するために専用に設計された回路構成を有するプロセッサである専用電気回路などが含まれる。 In the above embodiment, the light source control unit 21, the image sensor control unit 45, the image capture control unit 50, the DPS 52, the noise reduction unit 54, the image processing unit 58, the normal observation mode image processing unit 62, the detailed observation mode image processing unit 64, the center The hardware structure of a processing unit that executes various processes, such as the control unit 68, is the following various processors. Various types of processors include CPUs (Central Processing Units) and FPGAs (Field Programmable Gate Arrays), which are general-purpose processors that execute software (programs) and function as various processing units.The circuit configuration is changed after manufacturing. These include a programmable logic device (PLD), which is a capable processor, and a dedicated electric circuit, which is a processor having a circuit configuration specially designed to execute various types of processing.

1つの処理部は、これら各種のプロセッサのうちの1つで構成されてもよいし、同種または異種の2つ以上のプロセッサの組み合せ(例えば、複数のFPGAや、CPUとFPGAの組み合わせ)で構成されてもよい。また、複数の処理部を1つのプロセッサで構成してもよい。複数の処理部を1つのプロセッサで構成する例としては、第1に、クライアントやサーバなどのコンピュータに代表されるように、1つ以上のCPUとソフトウエアの組み合わせで1つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。第2に、システムオンチップ(System On Chip:SoC)などに代表されるように、複数の処理部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の処理部は、ハードウェア的な構造として、上記各種のプロセッサを1つ以上用いて構成される。 One processing unit may be composed of one of these various types of processors, or may be composed of a combination of two or more processors of the same type or different types (for example, multiple FPGAs or a combination of a CPU and an FPGA). may be done. Further, the plurality of processing units may be configured with one processor. As an example of configuring multiple processing units with one processor, first, as typified by computers such as clients and servers, one processor is configured with a combination of one or more CPUs and software, There is a form in which this processor functions as a plurality of processing units. Second, there are processors that use a single IC (Integrated Circuit) chip to implement the functions of an entire system including multiple processing units, as typified by System On Chip (SoC). be. In this way, various processing units are configured using one or more of the various processors described above as a hardware structure.

さらに、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子などの回路素子を組み合わせた形態の電気回路(circuitry)である。また、記憶部のハードウェア的な構造はHDD(hard disc drive)やSSD(solid state drive)等の記憶装置である。 Furthermore, the hardware structure of these various processors is, more specifically, an electric circuit (circuitry) in the form of a combination of circuit elements such as semiconductor elements. Further, the hardware structure of the storage unit is a storage device such as an HDD (hard disc drive) or an SSD (solid state drive).

10 内視鏡システム
12 内視鏡
12a 挿入部
12b 操作部
12c 湾曲部
12d 先端部
12f モード切替スイッチ
12g 手技支援情報提示スイッチ
12h 静止画取得指示部
12i ズーム操作部
14 光源装置
16 プロセッサ装置
18 ディスプレイ
19 UI
20 光源部
21 光源制御部
23 光路結合部
25 ライトガイド
30a 照明光学系
30b 撮像光学系
32 照明レンズ
42 対物レンズ
43 ズームレンズ
44 撮像センサ
45 撮像センサ制御部
46 CDS/AGC回路
48 A/Dコンバータ
50 撮像制御部
52 DSP
54 ノイズ低減部
58 画像処理部
60 表示制御部
62 通常観察モード画像処理部
64 詳細観察モード画像処理部
66 ストレージデバイス
68 中央制御部
69 メモリ
N 通常光
NP 通常画像
S1~S6 特殊光
SP1~SP6 特殊画像
10 Endoscope system 12 Endoscope 12a Insertion section 12b Operation section 12c Curved section 12d Tip section 12f Mode changeover switch 12g Procedure support information presentation switch 12h Still image acquisition instruction section 12i Zoom operation section 14 Light source device 16 Processor device 18 Display 19 U.I.
20 Light source section 21 Light source control section 23 Optical path coupling section 25 Light guide 30a Illumination optical system 30b Imaging optical system 32 Illumination lens 42 Objective lens 43 Zoom lens 44 Image sensor 45 Image sensor control section 46 CDS/AGC circuit 48 A/D converter 50 Imaging control unit 52 DSP
54 Noise reduction section 58 Image processing section 60 Display control section 62 Normal observation mode image processing section 64 Detailed observation mode image processing section 66 Storage device 68 Central control section 69 Memory N Normal light NP Normal images S1 to S6 Special light SP1 to SP6 Special image

Claims (10)

内視鏡から出力された内視鏡画像をディスプレイに表示する通常観察モードと、前記内視鏡画像を前記ディスプレイに表示するとともに、前記内視鏡画像を動画像として記録し、再生指示に基づいて記録した動画像を前記ディスプレイに再生表示する詳細観察モードと、を含む複数種類の観察モードの切り替えを行うプロセッサ装置において、
撮像制御用プロセッサが、
通常光を観察対象に照射して、前記内視鏡画像として通常画像を撮像する通常撮像と、前記通常光とは発光スペクトルの異なる特殊光を観察対象に照射して、前記内視鏡画像として特殊画像を撮像する特殊撮像と、を行い、
前記通常画像の撮像頻度と前記特殊画像の撮像頻度とを、前記観察モードの種類に応じて切り替える、プロセッサ装置。
A normal observation mode in which an endoscopic image output from an endoscope is displayed on a display, and a normal observation mode in which the endoscopic image is displayed on the display, and the endoscopic image is recorded as a moving image, based on a reproduction instruction. A processor device that switches between a plurality of types of observation modes, including a detailed observation mode in which a moving image recorded by a camera is played back and displayed on the display,
The imaging control processor is
Normal imaging involves irradiating an observation target with normal light to capture a normal image as the endoscopic image, and normal imaging involves irradiating the observation target with special light that has a different emission spectrum from the normal light to capture the endoscopic image. Perform special imaging to capture a special image,
A processor device that switches the imaging frequency of the normal image and the imaging frequency of the special image according to the type of the observation mode.
前記詳細観察モードでは、前記通常観察モードに対して、前記通常画像の撮像頻度を低下させる、請求項1に記載のプロセッサ装置。 The processor device according to claim 1, wherein in the detailed observation mode, the frequency of capturing the normal images is lowered compared to the normal observation mode. 前記詳細観察モードでは、前記通常観察モードに対して、前記特殊画像の撮像頻度を増加させる、請求項1または2に記載のプロセッサ装置。 3. The processor device according to claim 1, wherein in the detailed observation mode, the frequency of capturing the special image is increased compared to the normal observation mode. 前記特殊光には、発光スペクトルが互いに異なる、複数種類の特殊光が含まれ、
前記特殊画像には、前記複数種類の特殊光に対応する複数種類の特殊画像が含まれ、
前記詳細観察モードでは、前記通常観察モードに対して、前記複数種類の特殊画像のうちの一部の特殊画像について、前記通常観察モードよりも撮像頻度を増加させる、請求項3に記載のプロセッサ装置。
The special light includes multiple types of special light with different emission spectra,
The special images include multiple types of special images corresponding to the multiple types of special light,
4. The processor device according to claim 3, wherein in the detailed observation mode, the frequency of imaging is increased for some special images of the plurality of types of special images compared to the normal observation mode. .
前記詳細観察モードでは、前記一部の特殊画像とは別の一部の特殊画像については、前記通常観察モードよりも撮像頻度を低下させる、請求項4に記載のプロセッサ装置。 5. The processor device according to claim 4, wherein in the detailed observation mode, the imaging frequency of some special images other than the some special images is lowered than in the normal observation mode. 前記特殊画像を用いて、前記観察対象の生体情報を表示する生体情報画像を生成し、
生成した生体情報画像を、前記ディスプレイに表示する、請求項1から5のいずれか1項に記載のプロセッサ装置。
generating a biological information image displaying biological information of the observation target using the special image;
The processor device according to claim 1 , wherein the generated biometric information image is displayed on the display.
前記生体情報画像は、血中ヘモグロビンの酸素飽和度を示す酸素飽和度画像である、請求項6に記載のプロセッサ装置。 The processor device according to claim 6, wherein the biological information image is an oxygen saturation image indicating the oxygen saturation of blood hemoglobin. 前記生体情報画像は、特定深さの血管を示す血管画像である、請求項6または7に記載のプロセッサ装置。 The processor device according to claim 6 or 7, wherein the biological information image is a blood vessel image showing a blood vessel at a specific depth. 前記生体情報画像は、前記特殊画像に設定された複数の範囲の各々について、各々の範囲の色差を拡張する色差拡張画像である、請求項6から8のいずれか1項に記載のプロセッサ装置。 The processor device according to any one of claims 6 to 8, wherein the biological information image is a color difference expansion image that expands the color difference of each range for each of a plurality of ranges set in the special image. 内視鏡から出力された内視鏡画像をディスプレイに表示する通常観察モードと、前記内視鏡画像を前記ディスプレイに表示するとともに、前記内視鏡画像を動画像として記録し、再生指示に基づいて記録した動画像を前記ディスプレイに再生表示する詳細観察モードと、を含む複数種類の観察モードの切り替えを行うプロセッサ装置の作動方法において、
撮像制御用プロセッサが、
通常光の照明を制御し、前記内視鏡画像として通常画像を撮像する通常撮像と、前記通常光とは発光スペクトルの異なる特殊光の照明を制御し、前記内視鏡画像として特殊画像を撮像する特殊撮像と、を行い、
前記通常画像の撮像頻度と前記特殊画像の撮像頻度とを、前記観察モードの種類に応じて切り替える、プロセッサ装置の作動方法。
A normal observation mode in which an endoscopic image output from an endoscope is displayed on a display, and a normal observation mode in which the endoscopic image is displayed on the display, and the endoscopic image is recorded as a moving image, based on a reproduction instruction. A method for operating a processor device that switches between multiple types of observation modes, including a detailed observation mode in which a moving image recorded by a camera is played back and displayed on the display,
The imaging control processor is
Normal imaging in which normal light illumination is controlled to capture a normal image as the endoscopic image; and special light illumination with a different emission spectrum from the normal light is controlled to capture a special image as the endoscopic image. special imaging and
An operating method of a processor device, wherein the frequency of capturing the normal image and the frequency of capturing the special image are switched depending on the type of the observation mode.
JP2022543269A 2020-08-19 2021-02-08 Processor device, operating method of processor device Active JP7447281B2 (en)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2020138518 2020-08-19
JP2020138518 2020-08-19
PCT/JP2021/004603 WO2022038803A1 (en) 2020-08-19 2021-02-08 Processor device and processor device operation method

Publications (2)

Publication Number Publication Date
JPWO2022038803A1 JPWO2022038803A1 (en) 2022-02-24
JP7447281B2 true JP7447281B2 (en) 2024-03-11

Family

ID=80322622

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022543269A Active JP7447281B2 (en) 2020-08-19 2021-02-08 Processor device, operating method of processor device

Country Status (2)

Country Link
JP (1) JP7447281B2 (en)
WO (1) WO2022038803A1 (en)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006271871A (en) 2005-03-30 2006-10-12 Olympus Medical Systems Corp Image processor for endoscope
JP2016019569A (en) 2014-07-11 2016-02-04 オリンパス株式会社 Image processing device, image processing method, image processing program, and endoscope system
WO2019059059A1 (en) 2017-09-22 2019-03-28 富士フイルム株式会社 Medical image processing system, endoscope system, diagnostic support device, and medical task support device

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006271871A (en) 2005-03-30 2006-10-12 Olympus Medical Systems Corp Image processor for endoscope
JP2016019569A (en) 2014-07-11 2016-02-04 オリンパス株式会社 Image processing device, image processing method, image processing program, and endoscope system
WO2019059059A1 (en) 2017-09-22 2019-03-28 富士フイルム株式会社 Medical image processing system, endoscope system, diagnostic support device, and medical task support device

Also Published As

Publication number Publication date
JPWO2022038803A1 (en) 2022-02-24
WO2022038803A1 (en) 2022-02-24

Similar Documents

Publication Publication Date Title
JP6488249B2 (en) Blood vessel information acquisition apparatus, endoscope system, and blood vessel information acquisition method
JP4009626B2 (en) Endoscope video signal processor
EP1527729B1 (en) Image processing apparatus
JP5591570B2 (en) Image processing apparatus, image processing method, and program
JP6039639B2 (en) Endoscope system, processor device for endoscope system, method for operating endoscope system, and method for operating processor device for endoscope system
US8000776B2 (en) Imaging apparatus
JP5808031B2 (en) Endoscope system
JP7135082B2 (en) Endoscope device, method of operating endoscope device, and program
US10194849B2 (en) Endoscope system and method for operating the same
CN107105987B (en) Image processing apparatus and its working method, recording medium and endoscope apparatus
JP6917518B2 (en) Endoscope system
JP7146925B2 (en) MEDICAL IMAGE PROCESSING APPARATUS, ENDOSCOPE SYSTEM, AND METHOD OF OPERATION OF MEDICAL IMAGE PROCESSING APPARATUS
JP7337073B2 (en) MEDICAL IMAGE PROCESSING APPARATUS, ENDOSCOPE SYSTEM, AND METHOD OF OPERATION OF MEDICAL IMAGE PROCESSING APPARATUS
JP5948203B2 (en) Endoscope system and operating method thereof
WO2020054255A1 (en) Endoscope device, endoscope processor, and endoscope device operation method
JP7386347B2 (en) Endoscope system and its operating method
US11510559B2 (en) Endoscope system and method of operating the same
JP7447281B2 (en) Processor device, operating method of processor device
WO2022014258A1 (en) Processor device and processor device operation method
US20230101620A1 (en) Medical image processing apparatus, endoscope system, method of operating medical image processing apparatus, and non-transitory computer readable medium
US20230029239A1 (en) Medical image processing system and method for operating medical image processing system
JP6243311B2 (en) Endoscope processor device, operation method of endoscope processor device, control program for endoscope
JP2022090759A (en) Medical image processing system and operation method of medical image processing system
JP7411515B2 (en) Endoscope system and its operating method
JP7447243B2 (en) Processor device and method of operation thereof

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230130

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240130

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240207

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240220

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240228

R150 Certificate of patent or registration of utility model

Ref document number: 7447281

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150