JPWO2017022324A1 - Endoscopy system signal processing method and endoscope system - Google Patents

Endoscopy system signal processing method and endoscope system Download PDF

Info

Publication number
JPWO2017022324A1
JPWO2017022324A1 JP2017503966A JP2017503966A JPWO2017022324A1 JP WO2017022324 A1 JPWO2017022324 A1 JP WO2017022324A1 JP 2017503966 A JP2017503966 A JP 2017503966A JP 2017503966 A JP2017503966 A JP 2017503966A JP WO2017022324 A1 JPWO2017022324 A1 JP WO2017022324A1
Authority
JP
Japan
Prior art keywords
signal
component
brightness adjustment
image
brightness
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2017503966A
Other languages
Japanese (ja)
Inventor
朋也 佐藤
朋也 佐藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Publication of JPWO2017022324A1 publication Critical patent/JPWO2017022324A1/en
Pending legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0655Control therefor
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
    • G02B23/26Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes using light guides

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Engineering & Computer Science (AREA)
  • Public Health (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Veterinary Medicine (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Astronomy & Astrophysics (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)
  • Endoscopes (AREA)

Abstract

本発明にかかる画像信号処理方法は、映像信号を、コントラスト成分信号を含む第1の信号、および映像信号の成分信号のうち第1の信号が含む成分信号以外の成分信号を含む第2の信号に分割する分割ステップと、分割ステップで分割された成分信号のうち、第2の信号に対して明るさ調整処理を施す明るさ調整ステップと、分割ステップで分割された第1の信号、および明るさ調整ステップで明るさ調整された後の第2の信号を合成する合成ステップと、を含む。The image signal processing method according to the present invention includes a video signal, a first signal including a contrast component signal, and a second signal including a component signal other than the component signal included in the first signal among the component signals of the video signal. A division step for dividing the input signal into components, a brightness adjustment step for performing a brightness adjustment process on the second signal among the component signals divided in the division step, the first signal divided in the division step, and the brightness And a synthesis step of synthesizing the second signal after the brightness adjustment in the height adjustment step.

Description

本発明は、入力画像に対して明るさ調整処理を行う画像信号処理方法、画像信号処理装置および画像信号処理プログラムに関する。   The present invention relates to an image signal processing method, an image signal processing apparatus, and an image signal processing program for performing brightness adjustment processing on an input image.

従来、入力画像に対してγ補正処理などの明るさ調整処理を施すことにより、入力画像の明るさを調整する技術が知られている。γ補正処理では、入力画像のうち、輝度値の小さい暗部を明るくする補正が行われる。このようなγ補正処理として、色に応じてγ係数を設定し、各々の色に応じたγ補正を行う技術が開示されている(例えば、特許文献1を参照)。   Conventionally, a technique for adjusting the brightness of an input image by performing brightness adjustment processing such as γ correction processing on the input image is known. In the γ correction process, correction is performed to brighten a dark part having a small luminance value in the input image. As such γ correction processing, a technique is disclosed in which a γ coefficient is set according to color and γ correction according to each color is performed (see, for example, Patent Document 1).

特開2009−118898号公報JP 2009-118898 A

しかしながら、従来のγ補正処理では、暗部の明るさを明るくする補正が行われる一方、輝度値の大きい明部については、コントラストを圧縮するような補正が施される。このため、入力画像に対して従来のγ補正処理を行うと、入力画像の明るさは改善されるものの、入力画像と比してコントラストが劣化した画像が得られるという問題があった。   However, in the conventional γ correction processing, correction for increasing the brightness of the dark part is performed, while correction for compressing the contrast is performed for the bright part having a large luminance value. For this reason, when the conventional γ correction processing is performed on the input image, although the brightness of the input image is improved, there is a problem that an image having a deteriorated contrast as compared with the input image can be obtained.

本発明は、上記に鑑みてなされたものであって、コントラストの劣化を抑制しつつ、明るさを調整することができる画像信号処理方法、画像信号処理装置および画像信号処理プログラムを提供することを目的とする。   The present invention has been made in view of the above, and provides an image signal processing method, an image signal processing apparatus, and an image signal processing program capable of adjusting brightness while suppressing deterioration of contrast. Objective.

上述した課題を解決し、目的を達成するために、本発明にかかる画像信号処理方法は、映像信号を、コントラスト成分信号を含む第1の信号、および前記映像信号の成分信号のうち前記第1の信号が含む成分信号以外の成分信号を含む第2の信号に分割する分割ステップと、前記分割ステップで分割された成分信号のうち、前記第2の信号に対して明るさ調整処理を施す明るさ調整ステップと、前記分割ステップで分割された前記第1の信号、および前記明るさ調整ステップで明るさ調整された後の前記第2の信号を合成する合成ステップと、を含むことを特徴とする。   In order to solve the above-described problems and achieve the object, an image signal processing method according to the present invention includes a video signal, a first signal including a contrast component signal, and the first signal among the component signals of the video signal. A division step of dividing the second signal including a component signal other than the component signal included in the first signal, and a brightness for performing a brightness adjustment process on the second signal among the component signals divided in the division step And a synthesis step of synthesizing the first signal divided in the division step and the second signal after the brightness adjustment in the brightness adjustment step. To do.

また、本発明にかかる画像信号処理方法は、上記発明において、前記映像信号は、複数の色成分を含み、前記分割ステップ、前記明るさ調整ステップおよび前記合成ステップは、各色成分に対して独立した信号処理を施すことを特徴とする。   In the image signal processing method according to the present invention, in the above invention, the video signal includes a plurality of color components, and the division step, the brightness adjustment step, and the synthesis step are independent for each color component. Signal processing is performed.

また、本発明にかかる画像信号処理方法は、上記発明において、前記明るさ調整ステップは、前記第2の信号の輝度値において、閾値より小さい輝度値を大きくするとともに、前記閾値以上の輝度値を等倍にすることによって、前記第2の信号に対して明るさ調整処理を施すことを特徴とする。   In the image signal processing method according to the present invention as set forth in the invention described above, in the brightness adjustment step, in the brightness value of the second signal, a brightness value smaller than a threshold value is increased and a brightness value equal to or greater than the threshold value is set. A brightness adjustment process is performed on the second signal by setting the same magnification.

また、本発明にかかる画像信号処理方法は、上記発明において、前記明るさ調整ステップは、前記第2の信号の輝度値に基づいて適応的に明るさを調整することを特徴とする。   The image signal processing method according to the present invention is characterized in that, in the above invention, the brightness adjustment step adaptively adjusts the brightness based on a luminance value of the second signal.

また、本発明にかかる画像信号処理方法は、上記発明において、前記合成ステップにより合成された合成画像信号をもとに、調光信号を生成する調光信号生成ステップ、をさらに含むことを特徴とする。   The image signal processing method according to the present invention further includes a dimming signal generation step for generating a dimming signal based on the synthesized image signal synthesized by the synthesis step. To do.

また、本発明にかかる画像信号処理装置は、上記発明において、映像信号を、コントラスト成分信号を含む第1の信号、および前記映像信号の成分信号のうち前記第1の信号が含む成分信号以外の成分信号を含む第2の信号に分割する分割部と、前記分割部が分割した成分信号のうち、前記第2の信号に対して明るさ調整処理を施す明るさ調整部と、前記分割部が分割した前記第1の信号、および前記明るさ調整部による明るさ調整後の前記第2の信号を合成する合成部と、を備えたことを特徴とする。   In the image signal processing apparatus according to the present invention, in the above invention, the video signal is a first signal including a contrast component signal, and a component signal other than the component signal included in the first signal among the component signals of the video signal. A division unit that divides the signal into a second signal including a component signal; a brightness adjustment unit that performs a brightness adjustment process on the second signal among the component signals divided by the division unit; and the division unit. And a combining unit that combines the divided first signal and the second signal after brightness adjustment by the brightness adjustment unit.

また、本発明にかかる画像信号処理プログラムは、上記発明において、映像信号を、コントラスト成分信号を含む第1の信号、および前記映像信号の成分信号のうち前記第1の信号が含む成分信号以外の成分信号を含む第2の信号に分割する分割手順と、前記分割手順で分割された成分信号のうち、前記第2の信号に対して明るさ調整処理を施す明るさ調整手順と、前記分割手順で分割された前記第1の信号、および前記明るさ調整手順で明るさ調整された後の前記第2の信号を合成する合成手順と、をコンピュータに実行させることを特徴とする。   In the image signal processing program according to the present invention, in the above invention, the video signal is a first signal including a contrast component signal, and a component signal other than the component signal included in the first signal among the component signals of the video signal. A division procedure for dividing the second signal including a component signal; a brightness adjustment procedure for performing a brightness adjustment process on the second signal among the component signals divided by the division procedure; and the division procedure. And a synthesizing procedure for synthesizing the second signal after the brightness adjustment in the brightness adjustment procedure and the second signal after the brightness adjustment in the brightness adjustment procedure.

本発明によれば、コントラストの劣化を抑制しつつ、明るさを調整することができるという効果を奏する。   According to the present invention, it is possible to adjust brightness while suppressing deterioration of contrast.

図1は、本発明の一実施の形態にかかる内視鏡システムの概略構成を示す図である。FIG. 1 is a diagram showing a schematic configuration of an endoscope system according to an embodiment of the present invention. 図2は、本発明の一実施の形態にかかる内視鏡システムの概略構成を示すブロック図である。FIG. 2 is a block diagram showing a schematic configuration of the endoscope system according to the embodiment of the present invention. 図3は、本発明の一実施の形態にかかる内視鏡システムによる画像信号処理方法を説明する図であって、明るさ調整部がベース成分に対して行う明るさ調整処理について説明する図である。FIG. 3 is a diagram for explaining an image signal processing method by the endoscope system according to the embodiment of the present invention, and a diagram for explaining brightness adjustment processing performed by the brightness adjustment unit on the base component. is there. 図4は、本発明の一実施の形態にかかる処理装置が行う画像信号処理方法を示すフローチャートである。FIG. 4 is a flowchart showing an image signal processing method performed by the processing apparatus according to the embodiment of the present invention. 図5は、本発明の一実施の形態にかかる内視鏡システムによる画像信号処理方法を説明する図であって、ある画素ライン上の各画素位置における入力画像およびベース成分画像の相対強度をそれぞれ示す図である。FIG. 5 is a diagram for explaining an image signal processing method by the endoscope system according to the embodiment of the present invention, and shows the relative intensity of the input image and the base component image at each pixel position on a certain pixel line. FIG. 図6は、本発明の一実施の形態にかかる内視鏡システムによる画像信号処理方法を説明する図であって、ある画素ライン上の各画素位置におけるディテール成分の相対強度をそれぞれ示す図である。FIG. 6 is a diagram for explaining the image signal processing method by the endoscope system according to the embodiment of the present invention, and is a diagram showing the relative intensity of the detail component at each pixel position on a certain pixel line. . 図7は、本発明の一実施の形態にかかる内視鏡システムによる画像信号処理方法を説明する図であって、ある画素ライン上の各画素位置における入力画像、明るさ調整前のベース成分画像、および明るさ調整後のベース成分画像の相対強度をそれぞれ示す図である。FIG. 7 is a diagram for explaining an image signal processing method by the endoscope system according to the embodiment of the present invention, in which an input image at each pixel position on a pixel line and a base component image before brightness adjustment are illustrated. FIG. 6 is a diagram illustrating relative intensities of base component images after brightness adjustment. 図8は、本発明の一実施の形態にかかる内視鏡システムによる画像信号処理方法を説明する図であって、ある画素ライン上の各画素位置における入力画像、従来の明るさ調整を行った画像、および本発明の明るさ調整を行った画像の相対強度をそれぞれ示す図である。FIG. 8 is a diagram for explaining an image signal processing method by the endoscope system according to the embodiment of the present invention, in which an input image at each pixel position on a certain pixel line and conventional brightness adjustment are performed. It is a figure which shows the relative intensity | strength of an image and the image which performed the brightness adjustment of this invention, respectively.

以下、本発明を実施するための形態(以下、「実施の形態」という)を説明する。実施の形態では、本発明にかかる画像信号処理装置を含むシステムの一例として、患者等の被検体内の画像を撮像して表示する医療用の内視鏡システムについて説明する。また、この実施の形態により、この発明が限定されるものではない。さらに、図面の記載において、同一部分には同一の符号を付して説明する。   Hereinafter, modes for carrying out the present invention (hereinafter referred to as “embodiments”) will be described. In the embodiment, a medical endoscope system that captures and displays an image in a subject such as a patient will be described as an example of a system including an image signal processing device according to the present invention. Moreover, this invention is not limited by this embodiment. Furthermore, in the description of the drawings, the same portions will be described with the same reference numerals.

図1は、本発明の一実施の形態にかかる内視鏡システムの概略構成を示す図である。図2は、本実施の形態にかかる内視鏡システムの概略構成を示すブロック図である。   FIG. 1 is a diagram showing a schematic configuration of an endoscope system according to an embodiment of the present invention. FIG. 2 is a block diagram showing a schematic configuration of the endoscope system according to the present embodiment.

図1および図2に示す内視鏡システム1は、被検体内に先端部を挿入することによって被検体の体内画像を撮像する内視鏡2と、内視鏡2の先端から出射する照明光を発生する光源部3aを有し、内視鏡2が撮像した撮像信号に所定の信号処理を施すとともに、内視鏡システム1全体の動作を統括的に制御する処理装置3と、処理装置3の信号処理により生成された体内画像を表示する表示装置4と、を備える。   An endoscope system 1 shown in FIGS. 1 and 2 includes an endoscope 2 that captures an in-vivo image of a subject by inserting a tip portion into the subject, and illumination light emitted from the tip of the endoscope 2. And a processing device 3 that performs predetermined signal processing on the image signal captured by the endoscope 2 and controls the overall operation of the endoscope system 1. And a display device 4 for displaying the in-vivo image generated by the signal processing.

内視鏡2は、可撓性を有する細長形状をなす挿入部21と、挿入部21の基端側に接続され、各種の操作信号の入力を受け付ける操作部22と、操作部22から挿入部21が延びる方向と異なる方向に延び、処理装置3(光源部3aを含む)に接続する各種ケーブルを内蔵するユニバーサルコード23と、を備える。   The endoscope 2 includes an insertion portion 21 having an elongated shape having flexibility, an operation portion 22 that is connected to a proximal end side of the insertion portion 21 and receives input of various operation signals, and an insertion portion from the operation portion 22. And a universal cord 23 that includes various cables that extend in a direction different from the direction in which 21 extends and are connected to the processing device 3 (including the light source unit 3a).

挿入部21は、光を受光して光電変換を行うことにより信号を生成する画素が2次元状に配列された撮像素子244を内蔵した先端部24と、複数の湾曲駒によって構成された湾曲自在な湾曲部25と、湾曲部25の基端側に接続され、可撓性を有する長尺状の可撓管部26と、を有する。挿入部21は、被検体内に挿入され、外光の届かない位置にある生体組織などの被写体を撮像素子244によって撮像する。   The insertion unit 21 receives a light and performs photoelectric conversion to generate a signal to generate a signal. The insertion unit 21 includes an image pickup element 244 in which pixels are arranged in a two-dimensional shape, and a bendable portion formed by a plurality of bending pieces. And a long flexible tube portion 26 connected to the proximal end side of the bending portion 25 and having flexibility. The insertion unit 21 uses the image sensor 244 to image a subject such as a living tissue that is inserted into the subject and is not reachable by external light.

先端部24は、グラスファイバ等を用いて構成されて光源部3aが発光した光の導光路をなすライトガイド241と、ライトガイド241の先端に設けられた照明レンズ242と、集光用の光学系243と、光学系243の結像位置に設けられ、光学系243が集光した光を受光して電気信号に光電変換して所定の信号処理を施す撮像素子244と、を有する。   The tip portion 24 is configured by using a glass fiber or the like, and forms a light guide path for light emitted from the light source portion 3a, an illumination lens 242 provided at the tip of the light guide 241, and condensing optics. And an image sensor 244 that is provided at an image forming position of the optical system 243, receives light collected by the optical system 243, photoelectrically converts the light into an electrical signal, and performs predetermined signal processing.

光学系243は、一または複数のレンズを用いて構成され、画角を変化させる光学ズーム機能および焦点を変化させるフォーカス機能を有する。   The optical system 243 is configured using one or a plurality of lenses, and has an optical zoom function for changing the angle of view and a focus function for changing the focus.

撮像素子244は、光学系243からの光を光電変換して電気信号(撮像信号)を生成する。具体的には、撮像素子244は、光量に応じた電荷を蓄積するフォトダイオードや、フォトダイオードから転送される電荷を電圧レベルに変換するコンデンサなどをそれぞれ有する複数の画素がマトリックス状に配列され、各画素が光学系243からの光を光電変換して電気信号を生成する受光部244aと、受光部244aの複数の画素のうち読み出し対象として任意に設定された画素が生成した電気信号を順次読み出して、撮像信号として出力する読み出し部244bと、を有する。受光部244aには、カラーフィルタが設けられ、各画素が、赤色(R)、緑色(G)および青色(B)の各色成分の波長帯域のうちのいずれかの波長帯域の光を受光する。撮像素子244は、処理装置3から受信した駆動信号に従って先端部24の各種動作を制御する。撮像素子244は、例えばCCD(Charge Coupled Device)イメージセンサや、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサを用いて実現される。   The image sensor 244 photoelectrically converts light from the optical system 243 to generate an electrical signal (image signal). Specifically, in the imaging element 244, a plurality of pixels each having a photodiode that accumulates electric charge according to the amount of light, a capacitor that converts electric charge transferred from the photodiode into a voltage level, and the like are arranged in a matrix, A light receiving unit 244a in which each pixel photoelectrically converts light from the optical system 243 to generate an electric signal, and an electric signal generated by a pixel arbitrarily set as a reading target among a plurality of pixels of the light receiving unit 244a is sequentially read out And a reading unit 244b for outputting as an imaging signal. The light receiving unit 244a is provided with a color filter, and each pixel receives light in one of the wavelength bands of the color components of red (R), green (G), and blue (B). The image sensor 244 controls various operations of the distal end portion 24 in accordance with the drive signal received from the processing device 3. The image sensor 244 is realized by using, for example, a charge coupled device (CCD) image sensor or a complementary metal oxide semiconductor (CMOS) image sensor.

操作部22は、湾曲部25を上下方向および左右方向に湾曲させる湾曲ノブ221と、被検体内に生体鉗子、電気メスおよび検査プローブ等の処置具を挿入する処置具挿入部222と、処理装置3に加えて、送気手段、送水手段、画面表示制御等の周辺機器の操作指示信号を入力する操作入力部である複数のスイッチ223と、を有する。処置具挿入部222から挿入される処置具は、先端部24の処置具チャンネル(図示せず)を経由して開口部(図示せず)から表出する。   The operation unit 22 includes a bending knob 221 that bends the bending unit 25 in the vertical direction and the left-right direction, a treatment tool insertion unit 222 that inserts a treatment tool such as a biological forceps, an electric knife, and an inspection probe into the subject, and a processing device. 3, a plurality of switches 223 that are operation input units for inputting operation instruction signals of peripheral devices such as air supply means, water supply means, and screen display control. The treatment tool inserted from the treatment tool insertion portion 222 is exposed from the opening (not shown) via the treatment tool channel (not shown) of the distal end portion 24.

ユニバーサルコード23は、ライトガイド241と、一または複数の信号線をまとめた集合ケーブル245と、を少なくとも内蔵している。集合ケーブル245は、撮像信号を伝送するための信号線や、撮像素子244を駆動するための駆動信号を伝送するための信号線、内視鏡2(撮像素子244)に関する固有情報などを含む情報を送受信するための信号線を含む。なお、本実施の形態では、信号線を用いて電気信号を伝送するものとして説明するが、光信号を伝送するものであってもよいし、無線通信により内視鏡2と処理装置3との間で信号を伝送するものであってもよい。   The universal cord 23 includes at least a light guide 241 and a collective cable 245 in which one or a plurality of signal lines are collected. The collective cable 245 is a signal line for transmitting an image signal, a signal line for transmitting a drive signal for driving the image sensor 244, information including unique information regarding the endoscope 2 (image sensor 244), and the like. Including a signal line for transmitting and receiving. In the present embodiment, the description will be made assuming that an electrical signal is transmitted using a signal line. However, an optical signal may be transmitted, or the endoscope 2 and the processing device 3 may be connected by wireless communication. A signal may be transmitted between them.

次に、処理装置3の構成について説明する。処理装置3は、撮像信号取得部31と、分割部32と、明るさ調整部33と、合成部34と、表示画像生成部35と、入力部36と、記憶部37と、制御部38と、を備える。なお、本発明にかかる画像信号処理装置は、少なくとも分割部32と、明るさ調整部33と、合成部34とを用いて構成される。   Next, the configuration of the processing device 3 will be described. The processing device 3 includes an imaging signal acquisition unit 31, a division unit 32, a brightness adjustment unit 33, a synthesis unit 34, a display image generation unit 35, an input unit 36, a storage unit 37, and a control unit 38. . Note that the image signal processing apparatus according to the present invention includes at least a dividing unit 32, a brightness adjusting unit 33, and a combining unit 34.

撮像信号取得部31は、内視鏡2から、撮像素子244が出力した撮像信号を受信する。撮像信号取得部31は、取得した撮像信号に対してノイズ除去やA/D変換、同時化処理(例えば、カラーフィルタ等を用いて色成分ごとの撮像信号が得られた場合に行う)などの信号処理を施す。撮像信号取得部31は、上述した信号処理によりRGBの色成分が付与された入力画像を含む入力画像信号SCを生成する。撮像信号取得部31は、生成した入力画像信号SCを分割部32に入力するとともに、記憶部37に入力して格納させる。The imaging signal acquisition unit 31 receives the imaging signal output from the imaging element 244 from the endoscope 2. The imaging signal acquisition unit 31 performs noise removal, A / D conversion, and synchronization processing (for example, performed when an imaging signal for each color component is obtained using a color filter or the like) for the acquired imaging signal. Apply signal processing. The imaging signal acquisition unit 31 generates an input image signal S C including an input image to which RGB color components are given by the signal processing described above. The imaging signal acquisition unit 31 inputs the generated input image signal S C to the dividing unit 32 and inputs to the storage unit 37 for storage.

分割部32は、入力画像信号SCを撮像信号取得部31から取得して、視覚的に相関の弱い成分と強い成分とに分割する。分割処理は、例えば、Lightness and retinex theory, E.H.Land, J.J.McCann, Journal of the Optical Society of America, 61(1), 1-11(1971)に記載された技術(Retinex理論)を用いて行うことができる。Retinex理論に基づく分割処理において、視覚的に相関の弱い成分は、物体の照明光成分に相当し、一般にベース成分と呼ばれている。一方、視覚的に相関の強い成分は、物体の反射率に相当する成分であり、一般にディテール成分と呼ばれている。ディテール成分は、画像を構成する信号をベース成分で除算して得られる成分である。ディテール成分は、物体の輪郭(エッジ)成分や、テクスチャ成分等のコントラスト成分を含んでいる。分割部32は、ベース成分を成分信号として含む信号(第2の信号、以下「ベース成分信号SB」という)を明るさ調整部33に入力するとともに、ディテール成分を成分信号として含む信号(第1の信号、以下「ディテール成分信号SD」という)を合成部34に入力する。なお、分割部32は、RGBの各色成分の入力画像信号が入力された場合、各色成分の信号についてそれぞれ分割処理を行う。以降の信号処理においても、各色成分について処理が施される。Dividing unit 32 obtains an input image signal S C from the imaging signal acquisition unit 31 is divided into a weak component and component having a strong visual correlation. The division process can be performed using, for example, the technique (Retinex theory) described in Lightness and retinex theory, EHLand, JJ McCann, Journal of the Optical Society of America, 61 (1), 1-11 (1971). . In the division processing based on the Retinex theory, the visually weakly correlated component corresponds to the illumination light component of the object and is generally called a base component. On the other hand, a visually strongly correlated component is a component corresponding to the reflectance of an object, and is generally called a detail component. The detail component is a component obtained by dividing the signal constituting the image by the base component. The detail component includes a contour component (edge) component of the object and a contrast component such as a texture component. The dividing unit 32 inputs a signal including a base component as a component signal (second signal, hereinafter referred to as “base component signal S B ”) to the brightness adjusting unit 33 and a signal (first signal) including a detail component as a component signal. 1 signal (hereinafter referred to as “detail component signal S D ”) is input to the synthesis unit 34. In addition, when the input image signal of each color component of RGB is input, the division unit 32 performs a division process on each color component signal. In the subsequent signal processing, each color component is processed.

分割部32による成分分割処理は、例えば、Temporally Coherent Local Tone Mapping of HDR Video, T.O.Aydin, et al., ACM Transactions on Graphics, Vol 33, November 2014に記載されたEdge-aware filtering技術を用いて行うことができる。また、分割部32は、空間周波数を複数の周波数帯域に分けて分割するようにしてもよい。   The component division processing by the dividing unit 32 is performed using, for example, the edge-aware filtering technique described in Temporally Coherent Local Tone Mapping of HDR Video, TOAydin, et al., ACM Transactions on Graphics, Vol 33, November 2014. be able to. Further, the dividing unit 32 may divide the spatial frequency into a plurality of frequency bands.

明るさ調整部33は、分割部32によって分割された成分信号のうち、ベース成分信号SBに対して明るさ調整処理を施す。具体的には、明るさ調整部33は、記憶部37に記憶されている関係テーブルを参照して、各画素位置における輝度値をもとに、低輝度値を大きくするゲインアップ処理を行なう。なお、明るさ調整部33は、入力されるベース成分信号に対して演算処理を行なうことでゲインアップ処理を施してもよい。明るさ調整部33は、明るさ調整処理後のベース成分信号SB’を合成部34に入力する。Brightness adjustment unit 33, out of the divided component signal by dividing unit 32 performs brightness adjustment processing on the base component signal S B. Specifically, the brightness adjustment unit 33 refers to the relation table stored in the storage unit 37 and performs gain-up processing for increasing the low luminance value based on the luminance value at each pixel position. Note that the brightness adjustment unit 33 may perform gain-up processing by performing arithmetic processing on the input base component signal. The brightness adjustment unit 33 inputs the base component signal S B ′ after the brightness adjustment processing to the synthesis unit 34.

合成部34は、分割部32が分割したディテール成分信号SDと、明るさ調整部33により明るさ調整処理が施されたベース成分信号SB’とを合成する。合成部34は、ディテール成分信号SDとベース成分信号SB’とを合成することにより、視覚的に相関の弱いベース成分に対してのみゲイン調整処理が施された合成画像信号SSを生成する。合成部34は、生成した合成画像信号SSを表示画像生成部35に入力する。The synthesizer 34 synthesizes the detail component signal SD divided by the divider 32 and the base component signal S B ′ subjected to the brightness adjustment processing by the brightness adjuster 33. The synthesizer 34 synthesizes the detail component signal S D and the base component signal S B ′ to generate a synthesized image signal S S that has been subjected to gain adjustment processing only for the base component that is visually weakly correlated. To do. The synthesizer 34 inputs the generated synthesized image signal S S to the display image generator 35.

表示画像生成部35は、合成部34が生成した合成画像信号SSに対して、表示装置4で表示可能な態様の信号となるような信号処理を施して、表示用の画像信号STを生成する。入力された信号がRGBの各色成分に分かれている場合は、各色成分について補間処理を施して、各画素位置にRGBの色成分を付与した画像信号を生成する。表示画像生成部35は、生成した画像信号STを表示装置4に出力する。The display image generation unit 35 performs signal processing on the combined image signal S S generated by the combining unit 34 so as to be a signal in a form that can be displayed on the display device 4, and generates a display image signal ST . Generate. When the input signal is divided into RGB color components, an interpolation process is performed on each color component to generate an image signal in which the RGB color component is added to each pixel position. The display image generation unit 35 outputs the generated image signal ST to the display device 4.

入力部36は、キーボード、マウス、スイッチ、タッチパネルを用いて実現され、内視鏡システム1の動作を指示する動作指示信号等の各種信号の入力を受け付ける。なお、入力部36は、操作部22に設けられたスイッチや、外部のタブレット型のコンピュータなどの可搬型端末を含んでいてもよい。   The input unit 36 is realized using a keyboard, a mouse, a switch, and a touch panel, and receives input of various signals such as an operation instruction signal that instructs the operation of the endoscope system 1. The input unit 36 may include a portable terminal such as a switch provided in the operation unit 22 or an external tablet computer.

記憶部37は、内視鏡システム1を動作させるための各種プログラム、および内視鏡システム1の動作に必要な各種パラメータ等を含むデータを記憶する。また、記憶部37は、処理装置3の識別情報を記憶する。ここで、識別情報には、処理装置3の固有情報(ID)、年式およびスペック情報等が含まれる。   The storage unit 37 stores various programs for operating the endoscope system 1 and data including various parameters necessary for the operation of the endoscope system 1. Further, the storage unit 37 stores identification information of the processing device 3. Here, the identification information includes unique information (ID) of the processing device 3, model year, specification information, and the like.

記憶部37は、明るさ調整部33が明るさ調整処理を行う際に用いる入出力にかかる輝度値の関係に関する明るさ調整情報を記憶する明るさ調整情報記憶部371を有する。図3は、本発明の一実施の形態にかかる内視鏡システムによる画像信号処理方法を説明する図であって、明るさ調整部がベース成分に対して行う明るさ調整処理について説明する図である。図3は、入力される輝度値に対して設定された最大値を1に正規化した例を示している。明るさ調整情報記憶部371は、例えば、図3に示すような相対入力輝度値に対する相対出力輝度値の関係を示すグラフを明るさ調整情報として記憶している。明るさ調整部33は、図3に示すグラフを参照し、入力される信号に対し、相対的に輝度値が小さい場合に該輝度値を大きくして相対輝度値を上げるとともに、相対的に輝度値が大きい場合は等倍とするような明るさ調整処理を行う。例えば、図3では、入力輝度値に対する閾値を約0.4に設定し、入力された輝度値(相対値)が閾値よりも小さい場合に出力輝度値を上げるとともに、閾値以上の場合に出力輝度値を入力輝度値と等倍にする調整処理を施す。   The storage unit 37 includes a brightness adjustment information storage unit 371 that stores brightness adjustment information related to the relationship of luminance values related to input and output used when the brightness adjustment unit 33 performs brightness adjustment processing. FIG. 3 is a diagram for explaining an image signal processing method by the endoscope system according to the embodiment of the present invention, and a diagram for explaining brightness adjustment processing performed by the brightness adjustment unit on the base component. is there. FIG. 3 shows an example in which the maximum value set for the input luminance value is normalized to 1. The brightness adjustment information storage unit 371 stores, for example, a graph indicating the relationship between the relative output brightness value and the relative output brightness value as brightness adjustment information as illustrated in FIG. The brightness adjustment unit 33 refers to the graph shown in FIG. 3, and when the luminance value is relatively small with respect to the input signal, the luminance adjustment unit 33 increases the luminance value to increase the relative luminance value. When the value is large, brightness adjustment processing is performed so that the magnification is the same. For example, in FIG. 3, the threshold value for the input luminance value is set to about 0.4, the output luminance value is increased when the input luminance value (relative value) is smaller than the threshold value, and the output luminance when the input luminance value is equal to or higher than the threshold value. Adjustment processing is performed to make the value equal to the input luminance value.

また、記憶部37は、処理装置3の画像信号処理方法を実行するための画像信号処理プログラムを含む各種プログラムを記憶する。各種プログラムは、ハードディスク、フラッシュメモリ、CD−ROM、DVD−ROM、フレキシブルディスク等のコンピュータ読み取り可能な記録媒体に記録して広く流通させることも可能である。なお、上述した各種プログラムは、通信ネットワークを介してダウンロードすることによって取得することも可能である。ここでいう通信ネットワークは、例えば既存の公衆回線網、LAN(Local Area Network)、WAN(Wide Area Network)などによって実現されるものであり、有線、無線を問わない。   The storage unit 37 stores various programs including an image signal processing program for executing the image signal processing method of the processing device 3. Various programs can be recorded on a computer-readable recording medium such as a hard disk, a flash memory, a CD-ROM, a DVD-ROM, or a flexible disk and widely distributed. The various programs described above can also be obtained by downloading via a communication network. The communication network here is realized by, for example, an existing public line network, a LAN (Local Area Network), a WAN (Wide Area Network) or the like, and may be wired or wireless.

以上の構成を有する記憶部37は、各種プログラム等が予めインストールされたROM(Read Only Memory)、および各処理の演算パラメータやデータ等を記憶するRAM(Random Access Memory)やハードディスク等を用いて実現される。   The storage unit 37 having the above configuration is realized by using a ROM (Read Only Memory) in which various programs are installed in advance, a RAM (Random Access Memory) storing a calculation parameter and data of each process, a hard disk, and the like. Is done.

制御部38は、CPU(Central Processing Unit)等を用いて構成され、撮像素子244および光源部3aを含む各構成部の駆動制御、および各構成部に対する情報の入出力制御などを行う。制御部38は、記憶部37に記憶されている撮像制御のための制御情報データ(例えば、読み出しタイミングなど)を参照し、集合ケーブル245に含まれる所定の信号線を介して駆動信号として撮像素子244へ送信する。   The control unit 38 is configured using a CPU (Central Processing Unit) or the like, and performs drive control of each component including the image sensor 244 and the light source unit 3a, input / output control of information with respect to each component, and the like. The control unit 38 refers to control information data (for example, read timing) for imaging control stored in the storage unit 37, and uses the imaging signal as a drive signal via a predetermined signal line included in the collective cable 245. To 244.

また、制御部38は、取得した撮像信号に基づく画像(例えば、合成後の画像)をもとに明るさを検出して露光量を設定し、該設定した露光量に応じた発光量(強度および時間を含む)、またはシャッタ開放時間を指示する調光信号を生成する。   Further, the control unit 38 detects the brightness based on the image (for example, the synthesized image) based on the acquired imaging signal, sets the exposure amount, and the light emission amount (intensity) corresponding to the set exposure amount. And a dimming signal indicating the shutter opening time.

続いて、光源部3aの構成について説明する。光源部3aは、照明部301と、照明制御部302と、を備える。照明部301は、照明制御部302の制御のもと、被写体(被検体)に対して、異なる露光量の照明光を順次切り替えて出射する。照明部301は、光源301aと、光源ドライバ301bと、を有する。   Next, the configuration of the light source unit 3a will be described. The light source unit 3 a includes an illumination unit 301 and an illumination control unit 302. Under the control of the illumination control unit 302, the illumination unit 301 sequentially switches and emits illumination light with different exposure amounts to the subject (subject). The illumination unit 301 includes a light source 301a and a light source driver 301b.

光源301aは、白色光を出射するLED光源や、一または複数のレンズ等を用いて構成され、LED光源の駆動により光(照明光)を出射する。光源301aが発生した照明光は、ライトガイド241を経由して先端部24の先端から被写体に向けて出射される。なお、光源301aは、赤色LED光源、緑色LED光源および青色LED光源を用いて構成し、照明光を出射するものであってもよい。また、光源301aは、レーザー光源や、キセノンランプ、ハロゲンランプなどのランプを用いるものであってもよい。   The light source 301a is configured using an LED light source that emits white light, one or a plurality of lenses, and the like, and emits light (illumination light) by driving the LED light source. Illumination light generated by the light source 301 a is emitted from the tip of the tip 24 toward the subject via the light guide 241. The light source 301a may be configured by using a red LED light source, a green LED light source, and a blue LED light source to emit illumination light. The light source 301a may be a laser light source or a lamp such as a xenon lamp or a halogen lamp.

光源ドライバ301bは、照明制御部302の制御のもと、光源301aに対して電流を供給することにより、光源301aに照明光を出射させる。   The light source driver 301b causes the light source 301a to emit illumination light by supplying a current to the light source 301a under the control of the illumination control unit 302.

照明制御部302は、制御部38からの制御信号(調光信号)に基づいて、光源301aに供給する電力量を制御するとともに、光源301aの駆動タイミングを制御する。   The illumination control unit 302 controls the amount of power supplied to the light source 301a and the drive timing of the light source 301a based on a control signal (dimming signal) from the control unit 38.

表示装置4は、映像ケーブルを介して処理装置3(表示画像生成部35)が生成した画像信号STに対応する表示画像を表示する。表示装置4は、液晶または有機EL(Electro Luminescence)等のモニタを用いて構成される。The display device 4 displays the display image corresponding to the image signal S T of the processing unit 3 via the video cable (display image generation unit 35) is generated. The display device 4 is configured using a monitor such as liquid crystal or organic EL (Electro Luminescence).

以上説明した内視鏡システム1では、処理装置3に入力された撮像信号をもとに、分割部32が、撮像信号に含まれる成分を二つの成分信号に分割し、明るさ調整部33が、分割された成分信号のうち一方の成分信号に対して明るさ調整処理を施し、合成部34が、明るさ調整後の成分信号と、他方の成分信号とを合成し、表示画像生成部35が、合成後の信号に基づいて表示用の信号処理を施した画像信号STを生成し、表示装置4が、画像信号STに基づく表示画像を表示する。In the endoscope system 1 described above, the dividing unit 32 divides the component included in the imaging signal into two component signals based on the imaging signal input to the processing device 3, and the brightness adjusting unit 33 Then, brightness adjustment processing is performed on one of the divided component signals, and the combining unit 34 combines the component signal after the brightness adjustment with the other component signal, and a display image generating unit 35. but to generate an image signal S T which has been subjected to signal processing for display based on the combined signal, the display device 4 displays the display image based on the image signal S T.

図4は、本発明の一実施の形態にかかる処理装置が行う画像信号処理方法を示すフローチャートである。以下、制御部38の制御のもと、各部が動作するものとして説明する。撮像信号取得部31は、内視鏡2から撮像信号を取得すると(ステップS101:Yes)、信号処理により赤色(R)、緑色(G)および青色(B)の色成分が付与された画像を含む入力画像信号SCを生成し、分割部32に入力する。一方、撮像信号取得部31は、内視鏡2から撮像信号が入力されていない場合(ステップS101:No)、撮像信号の入力確認を繰り返す。FIG. 4 is a flowchart showing an image signal processing method performed by the processing apparatus according to the embodiment of the present invention. The following description is based on the assumption that each unit operates under the control of the control unit 38. When the imaging signal acquisition unit 31 acquires an imaging signal from the endoscope 2 (step S101: Yes), an image to which red (R), green (G), and blue (B) color components are added by signal processing is displayed. An input image signal S C including this is generated and input to the dividing unit 32. On the other hand, when the imaging signal is not input from the endoscope 2 (step S101: No), the imaging signal acquisition unit 31 repeats the input confirmation of the imaging signal.

分割部32は、入力画像信号SCが入力されると、該入力画像信号SCをディテール成分信号とベース成分信号とに分割する(ステップS102:分割ステップ)。分割部32は、上述した分割処理によって生成したベース成分信号SBを明るさ調整部33に入力するとともに、ディテール成分信号SDを合成部34に入力する。Dividing unit 32, the input image signal S C is input, divide the input image signal S C to the detail component signal and the base component signal (step S102: dividing step). Dividing section 32 receives an input to the base component signal S B brightness adjustment portion 33 produced by the above-mentioned division processing, and inputs the detail component signal S D to the combining unit 34.

図5は、本発明の一実施の形態にかかる内視鏡システムによる画像信号処理方法を説明する図であって、ある画素ライン上の各画素位置における入力画像およびベース成分画像の相対強度をそれぞれ示す図である。図6は、本発明の一実施の形態にかかる内視鏡システムによる画像信号処理方法を説明する図であって、ある画素ライン上の各画素位置におけるディテール成分画像の相対強度をそれぞれ示す図である。入力画像は入力画像信号SCに応じた画像であり、ベース成分画像はベース成分信号SBに応じた画像である。図5,6に示す画素ラインは、同一の画素ラインであり、この画素ラインのうちの200番目から1000番目の画素の位置についての相対強度を示している。図5は、入力画像の輝度値の最大値を1に正規化した例を示している。図6は、ディテール成分の輝度値の最大値を1に正規化した例を示している。FIG. 5 is a diagram for explaining an image signal processing method by the endoscope system according to the embodiment of the present invention, and shows the relative intensity of the input image and the base component image at each pixel position on a certain pixel line. FIG. FIG. 6 is a diagram for explaining the image signal processing method by the endoscope system according to the embodiment of the present invention, and is a diagram showing the relative intensity of the detail component image at each pixel position on a certain pixel line. is there. The input image is an image corresponding to the input image signal S C, the base component image is an image corresponding to the base component signal S B. The pixel lines shown in FIGS. 5 and 6 are the same pixel line, and indicate the relative intensities at the positions of the 200th to 1000th pixels in the pixel line. FIG. 5 shows an example in which the maximum luminance value of the input image is normalized to 1. FIG. 6 shows an example in which the maximum luminance value of the detail component is normalized to 1.

ベース成分は、図5に示すように、入力画像の輝度変化から低周波成分が抽出されていることが分かる。これが視覚的に相関の弱い成分(物体の照明光成分)に相当する。一方、ディテール成分は、図6に示すように、入力画像の輝度変化からベース成分を除外した成分であり、コントラスト成分を多く含む成分である。これが視覚的に強い成分(物体の反射率に相当する成分)に相当する。   As shown in FIG. 5, it can be seen that the low-frequency component is extracted from the luminance change of the input image. This corresponds to a visually weakly correlated component (object illumination light component). On the other hand, the detail component is a component obtained by excluding the base component from the luminance change of the input image as shown in FIG. This corresponds to a visually strong component (a component corresponding to the reflectance of the object).

その後、明るさ調整部33が、入力されたベース成分信号SBに対して明るさ調整処理を施す(ステップS103:明るさ調整ステップ)。具体的には、明るさ調整部33は、図3に示すような相対入力輝度値と相対出力輝度値とのグラフを参照し、ベース成分信号SBの入力輝度値に対して明るさを調整する。明るさ調整部33は、明るさ調整処理後のベース成分信号SB’を合成部34に入力する。Then, the brightness adjustment unit 33 performs brightness adjustment processing on the inputted base component signal S B (step S103: brightness adjustment step). Specifically, the brightness adjusting unit 33 refers to the graph of the relative input luminance value and a relative output intensity values as shown in FIG. 3, adjust the brightness for the input luminance value of the base component signal S B To do. The brightness adjustment unit 33 inputs the base component signal S B ′ after the brightness adjustment processing to the synthesis unit 34.

図7は、本発明の一実施の形態にかかる内視鏡システムによる画像信号処理方法を説明する図であって、ある画素ライン上の各画素位置における入力画像、明るさ調整前のベース成分画像、および明るさ調整後のベース成分画像の相対強度をそれぞれ示す図である。図7に示す画素ラインは、図5に示す画素ラインと同一の画素ラインである。図7は、入力画像の輝度値の最大値を1に正規化した例を示している。   FIG. 7 is a diagram for explaining an image signal processing method by the endoscope system according to the embodiment of the present invention, in which an input image at each pixel position on a pixel line and a base component image before brightness adjustment are illustrated. FIG. 6 is a diagram illustrating relative intensities of base component images after brightness adjustment. The pixel line shown in FIG. 7 is the same pixel line as the pixel line shown in FIG. FIG. 7 shows an example in which the maximum luminance value of the input image is normalized to 1.

明るさ調整後のベース成分信号SB’に応じたベース成分画像は、図7に示すように、全体的に相対強度が大きくなっており、特に、相対強度の小さい輝度値ほど輝度値を大きくする調整処理が施されている。明るさ調整部33がベース成分信号SBに対してのみ明るさ調整処理を行うことで、入力画像信号SCにおけるディテール成分を保持することができる。As shown in FIG. 7, the base component image corresponding to the base component signal S B ′ after brightness adjustment has a relatively large relative intensity as a whole. In particular, a luminance value with a smaller relative intensity has a larger luminance value. Adjustment processing is performed. The brightness adjustment unit 33 performs the brightness adjustment process only on the base component signal S B , so that the detail component in the input image signal S C can be held.

合成部34は、分割部32からディテール成分信号SDが入力され、明るさ調整部33から明るさ調整後のベース成分信号SB’が入力されると、該ディテール成分信号SDおよびベース成分信号SB’を合成し、合成画像信号SSを生成する(ステップS104:合成ステップ)。合成部34は、生成した合成画像信号SSを表示画像生成部35に入力する。When the detail component signal SD is input from the divider 32 and the brightness-adjusted base component signal S B ′ is input from the brightness adjuster 33, the synthesizer 34 receives the detail component signal SD and the base component. The signal S B ′ is synthesized to generate a synthesized image signal S S (step S104: synthesis step). The synthesizer 34 inputs the generated synthesized image signal S S to the display image generator 35.

図8は、本発明の一実施の形態にかかる内視鏡システムによる画像信号処理方法を説明する図であって、ある画素ライン上の各画素位置における入力画像、従来の明るさ調整を行った画像、および本発明の明るさ調整を行った画像の相対強度をそれぞれ示す図である。図8に示す画素ラインは、図5〜7に示す画素ラインと同一の画素ラインである。図8は、明るさ調整後の画像の輝度値の最大値を1に正規化した例を示している。   FIG. 8 is a diagram for explaining an image signal processing method by the endoscope system according to the embodiment of the present invention, in which an input image at each pixel position on a certain pixel line and conventional brightness adjustment are performed. It is a figure which shows the relative intensity | strength of an image and the image which performed the brightness adjustment of this invention, respectively. The pixel lines shown in FIG. 8 are the same pixel lines as the pixel lines shown in FIGS. FIG. 8 shows an example in which the maximum luminance value of the image after brightness adjustment is normalized to 1.

図8に示すように、従来の明るさ調整、すなわち従来のγ補正を行った画像、および本発明の明るさ調整、すなわちベース成分のみに対して明るさ調整を行った合成画像信号SSに応じた合成画像のどちらの画像についても、入力画像信号SCに応じた入力画像に対して相対強度が高くなっている。As shown in FIG. 8, a conventional brightness adjustment, that is, an image that has been subjected to conventional γ correction, and a composite image signal S S that has been subjected to the brightness adjustment of the present invention, that is, the brightness adjustment for only the base component. for both images corresponding combined image, the relative intensities are higher for the input image corresponding to the input image signal S C.

ここで、本発明の明るさ調整を行った合成画像信号SSに応じた合成画像は、従来の明るさ調整を行った画像と比して、コントラスト情報、すなわち入力画像に含まれる輝度変化が失われていないことが分かる。このコントラストの差異は、従来の明るさ調整処理(γ補正処理)では、輝度値の大きい明部についてコントラストを圧縮するような補正が施される一方、本発明の明るさ調整では、入力画像をベース成分とディテール成分とに分割し、ベース成分にのみ明るさ調整を行うことにより生じる。Here, the composite image corresponding to the composite image signal S S subjected to the brightness adjustment of the present invention has contrast information, that is, a luminance change included in the input image, as compared with the image subjected to the conventional brightness adjustment. You can see that it is not lost. In contrast to the contrast difference, in the conventional brightness adjustment process (γ correction process), correction is performed such that the contrast is compressed for a bright part having a large luminance value. It is generated by dividing the base component and the detail component and adjusting the brightness only for the base component.

表示画像生成部35は、合成部34から合成画像信号SSが入力されると、該合成画像信号SSに対して表示装置4で表示可能な態様の信号となるような信号処理を施して、表示用の画像信号STを生成する(ステップS105)。表示画像生成部35は、生成した画像信号STを表示装置4に出力する。表示装置4は、入力された画像信号STに応じた画像を表示する。When the synthesized image signal S S is input from the synthesizing unit 34, the display image generating unit 35 performs signal processing so that the synthesized image signal S S becomes a signal that can be displayed on the display device 4. to generate an image signal S T for display (step S105). The display image generation unit 35 outputs the generated image signal ST to the display device 4. Display device 4 displays an image corresponding to the image signal S T inputted.

表示画像生成部35による画像信号STの生成後、制御部38は、調光信号を生成する旨の調光制御にかかる指示信号が入力されているか否かを判断する(ステップS106)。制御部38は、例えば、入力部36が、調光信号を生成する旨の指示信号の操作入力を受け付けているか否かを判断する。ここで、制御部38は、調光信号を生成する旨の指示信号が入力されていないと判断すると(ステップS106:No)、画像信号処理を終了する。After generation of the image signal S T by the display image generating unit 35, the control unit 38, an instruction signal according to the dimming control to the effect of generating a dimming signal to determine whether it is entered (step S106). For example, the control unit 38 determines whether or not the input unit 36 has received an operation input of an instruction signal for generating a dimming signal. If the control unit 38 determines that an instruction signal for generating a dimming signal has not been input (step S106: No), the image signal processing is terminated.

制御部38は、調光信号を生成する旨の指示信号が入力されていると判断すると(ステップS106:Yes)、取得した撮像信号に基づく画像(例えば、合成後の画像)をもとに明るさを検出して露光量を設定し、該設定した露光量に応じた発光量(強度および時間を含む)、またはシャッタ開放時間を指示する調光信号を生成する(ステップS107)。制御部38は、生成した調光信号を内視鏡2または光源部3aに入力し、画像信号処理を終了する。   When the control unit 38 determines that an instruction signal for generating a dimming signal is input (step S106: Yes), the control unit 38 determines whether the brightness is based on an image (for example, an image after synthesis) based on the acquired imaging signal. The exposure amount is detected and the exposure amount is set, and the light emission amount (including the intensity and time) corresponding to the set exposure amount or the dimming signal indicating the shutter opening time is generated (step S107). The control unit 38 inputs the generated dimming signal to the endoscope 2 or the light source unit 3a, and ends the image signal processing.

上述した本発明の一実施の形態によれば、分割部32が、入力画像信号SCを撮像信号取得部31から取得して、ディテール成分信号SDと、ディテール成分信号の成分信号以外の成分信号を含むベース成分信号SBとに分割し、明るさ調整部33が、ベース成分信号SBに対して明るさ調整処理を施し、合成部34が、分割部32が分割したディテール成分信号SDと、明るさ調整部33により明るさ調整処理が施されたベース成分信号SB’とを合成するようにしたので、従来のγ補正のような明部のコントラストの劣化を抑制しつつ、明るさを調整することができる。According to the embodiment of the present invention described above, the dividing unit 32 acquires the input image signal S C from the imaging signal acquisition unit 31, and the component other than the detail component signal S D and the component signal of the detail component signal. is divided into a base component signal S B containing signal, the brightness adjustment unit 33, the base component signal S performs brightness adjustment processing to the B, the combining unit 34, the detail component signal dividing section 32 divides S Since D and the base component signal S B ′ subjected to the brightness adjustment processing by the brightness adjustment unit 33 are synthesized, while suppressing the deterioration of the contrast of the bright part as in the conventional γ correction, The brightness can be adjusted.

なお、上述した実施の形態では、撮像信号取得部31が、RGBの各色成分が付与された画像を含む入力画像信号SCを生成するものとして説明したが、YCbCr色空間に基づいて輝度(Y)成分および色差成分を含むYCbCr色空間を有する入力画像信号SCを生成するものであってもよいし、色相(Hue)、彩度(Saturation Chroma)、明度(Value Lightness Brightness)の三つの成分からなるHSV色空間や、三次元空間を用いるL***色空間などを用いて、色と輝度とに分けた成分を有する入力画像信号SCを生成するものであってもよい。In the above-described embodiment, the imaging signal acquisition unit 31 has been described as generating the input image signal S C including an image to which the RGB color components are added. However, the luminance (Y ) and the component may be one for generating an input image signal S C with YCbCr color space including the color difference components, three components of hue (hue), saturation (saturation chroma), lightness (Value lightness brightness) The input image signal S C having components divided into color and luminance may be generated using an HSV color space consisting of the above, an L * a * b * color space using a three-dimensional space, or the like.

また、上述した実施の形態では、明るさ調整部33が、図3に示すような相対入力輝度値と相対出力輝度値とのグラフを参照し、ベース成分信号SBの入力輝度値に対して閾値以下の輝度値の明るさを調整するものとして説明したが、入力輝度値に対する閾値は任意に設定可能であり、また、従来のようなγカーブに基づくγ補正処理を適用してもよい。Further, in the embodiment described above, the brightness adjusting unit 33, with reference to the graph of the relative input luminance value and a relative output intensity values as shown in FIG. 3, with respect to the input luminance value of the base component signal S B Although described as adjusting the brightness of the luminance value below the threshold, the threshold for the input luminance value can be arbitrarily set, and a conventional γ correction process based on a γ curve may be applied.

また、上述した実施の形態では、明るさ調整部33が、図3に示すような相対入力輝度値と相対出力輝度値とのグラフを参照し、ベース成分信号SBの入力輝度値に対して閾値以下の輝度値の明るさを調整するものとして説明したが、周辺画素の輝度値に応じて適応的に明るさを調整するものであってもよい。例えば、所定の画素領域の輝度値(平均値や最頻値など)に応じて決まる係数(ゲイン係数)を、該画素領域の輝度値にそれぞれ乗じるようにしてもよい。適応的に明るさ調整を行う場合、得られる画像ごとに調整量(ゲインマップ)が変化し、同じ輝度値であっても画素位置によりゲイン係数が異なる。このような適応的に調整を行うための指標として、例えば、iCAM06: A refined image appearance model for HDR image rendering, Jiangtao Kuang, et al., J.Vis.Commun.Image R, 18(2007) 406−414に記載されたWhite画像を用いた手法が知られている。Further, in the embodiment described above, the brightness adjusting unit 33, with reference to the graph of the relative input luminance value and a relative output intensity values as shown in FIG. 3, with respect to the input luminance value of the base component signal S B Although it has been described that the brightness of the brightness value below the threshold is adjusted, the brightness may be adaptively adjusted according to the brightness value of the surrounding pixels. For example, a coefficient (gain coefficient) determined according to a luminance value (an average value, a mode value, etc.) of a predetermined pixel area may be multiplied by the luminance value of the pixel area. When the brightness adjustment is adaptively performed, the adjustment amount (gain map) changes for each obtained image, and the gain coefficient varies depending on the pixel position even with the same luminance value. As an index for such adaptive adjustment, for example, iCAM06: A refined image appearance model for HDR image rendering, Jiangtao Kuang, et al., J. Vis. Commun. Image R, 18 (2007) 406− A method using a white image described in 414 is known.

また、上述した実施の形態において、明るさ調整部33が、入力部36が受け付けた操作入力に応じて明るさのレベルを変更するようにしてもよいし、ディテール成分信号が有するコントラスト成分を強調する輪郭強調処理を施すようにしてもよい。   In the above-described embodiment, the brightness adjustment unit 33 may change the brightness level according to the operation input received by the input unit 36, or emphasize the contrast component included in the detail component signal. You may make it perform the outline emphasis process to perform.

また、上述した実施の形態では、光源部3aから白色光が出射され、受光部244aがRGBの各色成分の光を受光する同時式の照明/撮像方式であるものとして説明したが、光源部3aが、RGBの色成分の波長帯域の光を個別に順次出射して、受光部244aが、各色成分の光をそれぞれ受光する面順次式の照明/撮像方式であってもよい。   In the above-described embodiment, the light source unit 3a has been described as being a simultaneous illumination / imaging method in which white light is emitted from the light source unit 3a and the light receiving unit 244a receives light of each color component of RGB. However, a surface-sequential illumination / imaging method in which light in the wavelength band of RGB color components is separately emitted sequentially and the light receiving unit 244a receives light of each color component, respectively.

また、上述した実施の形態では、光源部3aが内視鏡2とは別体で構成されているものとして説明したが、例えば、内視鏡2の先端に半導体光源を設けるなど、光源装置を内視鏡2に設けた構成であってもよい。さらに、内視鏡2に処理装置3の機能を付与してもよい。   In the above-described embodiment, the light source unit 3a has been described as being configured separately from the endoscope 2. However, for example, a light source device such as a semiconductor light source is provided at the distal end of the endoscope 2. The structure provided in the endoscope 2 may be sufficient. Furthermore, the function of the processing device 3 may be given to the endoscope 2.

また、上述した実施の形態では、光源部3aが、処理装置3とは一体であるものとして説明したが、光源部3aおよび処理装置3が別体であって、例えば処理装置3の外部に照明部301および照明制御部302が設けられているものであってもよい。   Moreover, although the light source part 3a was demonstrated as what was integrated with the processing apparatus 3 in embodiment mentioned above, the light source part 3a and the processing apparatus 3 are separate bodies, for example, it illuminates the exterior of the processing apparatus 3. The part 301 and the illumination control part 302 may be provided.

また、上述した実施の形態では、本発明にかかる画像信号処理装置が、観察対象が被検体内の生体組織などである軟性の内視鏡2を用いた内視鏡システム1の分割部32、明るさ調整部33および合成部34として機能するものとして説明したが、硬性の内視鏡や、材料の特性を観測する工業用の内視鏡、カプセル型の内視鏡、ファイバースコープ、光学視管などの光学内視鏡の接眼部にカメラヘッドを接続したものを用いた内視鏡システムであっても適用できる。本発明にかかる画像信号処理装置は、体内、体外を問わず適用可能であり、外部で生成された撮像信号や画像信号を含む映像信号に対して分割、明るさ調整、合成処理を施すものである。   In the above-described embodiment, the image signal processing apparatus according to the present invention includes the dividing unit 32 of the endoscope system 1 using the flexible endoscope 2 whose observation target is a living tissue or the like in the subject. Although described as functioning as the brightness adjustment unit 33 and the synthesis unit 34, a rigid endoscope, an industrial endoscope for observing material characteristics, a capsule endoscope, a fiberscope, an optical view The present invention can also be applied to an endoscope system using a camera head connected to an eyepiece of an optical endoscope such as a tube. The image signal processing apparatus according to the present invention can be applied to both inside and outside the body, and performs division, brightness adjustment, and composition processing on a video signal including an imaging signal and an image signal generated outside. is there.

また、上述した実施の形態では、内視鏡システムを例に挙げて説明したが、例えばデジタルスチルカメラ等に設けられるEVF(Electronic View Finder)に映像を出力する場合にも適用可能である。   In the above-described embodiment, the endoscope system has been described as an example. However, the present invention can also be applied to, for example, outputting an image to an EVF (Electronic View Finder) provided in a digital still camera or the like.

以上のように、本発明にかかる画像信号処理方法、画像信号処理装置および画像信号処理プログラムは、コントラストの劣化を抑制しつつ、明るさを調整するのに有用である。   As described above, the image signal processing method, the image signal processing apparatus, and the image signal processing program according to the present invention are useful for adjusting the brightness while suppressing the deterioration of the contrast.

1 内視鏡システム
2 内視鏡
3 処理装置
3a 光源部
4 表示装置
21 挿入部
22 操作部
23 ユニバーサルコード
24 先端部
25 湾曲部
26 可撓管部
31 撮像信号取得部
32 分割部
33 明るさ調整部
34 合成部
35 表示画像生成部
36 入力部
37 記憶部
38 制御部
301 照明部
302 照明制御部
371 明るさ調整情報記憶部
DESCRIPTION OF SYMBOLS 1 Endoscope system 2 Endoscope 3 Processing apparatus 3a Light source part 4 Display apparatus 21 Insertion part 22 Operation part 23 Universal code 24 Tip part 25 Bending part 26 Flexible pipe part 31 Imaging signal acquisition part 32 Dividing part 33 Brightness adjustment Unit 34 composition unit 35 display image generation unit 36 input unit 37 storage unit 38 control unit 301 illumination unit 302 illumination control unit 371 brightness adjustment information storage unit

Claims (7)

映像信号を、コントラスト成分信号を含む第1の信号、および前記映像信号の成分信号のうち前記第1の信号が含む成分信号以外の成分信号を含む第2の信号に分割する分割ステップと、
前記分割ステップで分割された成分信号のうち、前記第2の信号に対して明るさ調整処理を施す明るさ調整ステップと、
前記分割ステップで分割された前記第1の信号、および前記明るさ調整ステップで明るさ調整された後の前記第2の信号を合成する合成ステップと、
を含むことを特徴とする画像信号処理方法。
A dividing step of dividing the video signal into a first signal including a contrast component signal and a second signal including a component signal other than the component signal included in the first signal among the component signals of the video signal;
A brightness adjustment step of performing a brightness adjustment process on the second signal among the component signals divided in the division step;
A synthesis step of synthesizing the first signal divided in the division step and the second signal after the brightness adjustment in the brightness adjustment step;
An image signal processing method comprising:
前記映像信号は、複数の色成分を含み、
前記分割ステップ、前記明るさ調整ステップおよび前記合成ステップは、各色成分に対して独立した信号処理を施す
ことを特徴とする請求項1に記載の画像信号処理方法。
The video signal includes a plurality of color components,
The image signal processing method according to claim 1, wherein the division step, the brightness adjustment step, and the synthesis step perform independent signal processing on each color component.
前記明るさ調整ステップは、前記第2の信号の輝度値において、閾値より小さい輝度値を大きくするとともに、前記閾値以上の輝度値を等倍にすることによって、前記第2の信号に対して明るさ調整処理を施す
ことを特徴とする請求項1に記載の画像信号処理方法。
In the brightness adjustment step, the brightness value of the second signal is increased with respect to the brightness value of the second signal by increasing the brightness value smaller than the threshold value and making the brightness value equal to or greater than the threshold value equal. The image signal processing method according to claim 1, wherein a depth adjustment process is performed.
前記明るさ調整ステップは、前記第2の信号の輝度値に基づいて適応的に明るさを調整する
ことを特徴とする請求項1に記載の画像信号処理方法。
The image signal processing method according to claim 1, wherein the brightness adjustment step adaptively adjusts the brightness based on a luminance value of the second signal.
前記合成ステップにより合成された合成画像信号をもとに、調光信号を生成する調光信号生成ステップ、
をさらに含むことを特徴とする請求項1に記載の画像信号処理方法。
A dimming signal generating step for generating a dimming signal based on the synthesized image signal synthesized by the synthesizing step,
The image signal processing method according to claim 1, further comprising:
映像信号を、コントラスト成分信号を含む第1の信号、および前記映像信号の成分信号のうち前記第1の信号が含む成分信号以外の成分信号を含む第2の信号に分割する分割部と、
前記分割部が分割した成分信号のうち、前記第2の信号に対して明るさ調整処理を施す明るさ調整部と、
前記分割部が分割した前記第1の信号、および前記明るさ調整部による明るさ調整後の前記第2の信号を合成する合成部と、
を備えたことを特徴とする画像信号処理装置。
A dividing unit that divides the video signal into a first signal including a contrast component signal and a second signal including a component signal other than the component signal included in the first signal among the component signals of the video signal;
Among the component signals divided by the dividing unit, a brightness adjusting unit that performs a brightness adjusting process on the second signal;
A combining unit that combines the first signal divided by the dividing unit and the second signal after brightness adjustment by the brightness adjustment unit;
An image signal processing apparatus comprising:
映像信号を、コントラスト成分信号を含む第1の信号、および前記映像信号の成分信号のうち前記第1の信号が含む成分信号以外の成分信号を含む第2の信号に分割する分割手順と、
前記分割手順で分割された成分信号のうち、前記第2の信号に対して明るさ調整処理を施す明るさ調整手順と、
前記分割手順で分割された前記第1の信号、および前記明るさ調整手順で明るさ調整された後の前記第2の信号を合成する合成手順と、
をコンピュータに実行させることを特徴とする画像信号処理プログラム。
A division procedure for dividing the video signal into a first signal including a contrast component signal and a second signal including a component signal other than the component signal included in the first signal among the component signals of the video signal;
A brightness adjustment procedure for performing a brightness adjustment process on the second signal among the component signals divided in the division procedure;
A synthesis procedure for synthesizing the first signal divided by the division procedure and the second signal after the brightness adjustment by the brightness adjustment procedure;
An image signal processing program for causing a computer to execute the above.
JP2017503966A 2015-08-05 2016-06-06 Endoscopy system signal processing method and endoscope system Pending JPWO2017022324A1 (en)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2015155012 2015-08-05
JP2015155012 2015-08-05
PCT/JP2016/066800 WO2017022324A1 (en) 2015-08-05 2016-06-06 Image signal processing method, image signal processing device and image signal processing program

Publications (1)

Publication Number Publication Date
JPWO2017022324A1 true JPWO2017022324A1 (en) 2017-08-03

Family

ID=57943879

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017503966A Pending JPWO2017022324A1 (en) 2015-08-05 2016-06-06 Endoscopy system signal processing method and endoscope system

Country Status (2)

Country Link
JP (1) JPWO2017022324A1 (en)
WO (1) WO2017022324A1 (en)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6458205B1 (en) * 2017-02-16 2019-01-23 オリンパス株式会社 Image processing apparatus, image processing method, and image processing program
KR102272979B1 (en) * 2017-11-22 2021-07-02 한국전기연구원 Method and system for retinex processing of endoscopic image, and a recording medium having computer readable program for executing the method
KR102272978B1 (en) * 2017-11-23 2021-07-02 한국전기연구원 System and method for retinex processing of encoscopic images with variable field-of-view, and a recording medium having computer readable program for executing the method
CN111511263B (en) * 2017-12-26 2023-02-28 奥林巴斯株式会社 Image processing apparatus and image processing method
JP2019201887A (en) * 2018-05-23 2019-11-28 オリンパス株式会社 Endoscope image processing device and endoscope system
JP7257829B2 (en) * 2019-03-15 2023-04-14 ソニー・オリンパスメディカルソリューションズ株式会社 Image processing device, image processing method and program

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003126032A (en) * 2001-10-26 2003-05-07 Olympus Optical Co Ltd Endoscopic system
WO2007069432A1 (en) * 2005-12-12 2007-06-21 Konica Minolta Holdings, Inc. Image processing method, image processing device and image processing program
JP2008104010A (en) * 2006-10-19 2008-05-01 Sony Corp Image processing apparatus, imaging apparatus, image processing method, and program
JP2008200289A (en) * 2007-02-20 2008-09-04 Olympus Medical Systems Corp Light source unit
JP2008228058A (en) * 2007-03-14 2008-09-25 Sony Corp Imaging apparatus, imaging method, exposure control method, and program
JP2010283690A (en) * 2009-06-05 2010-12-16 Ricoh Co Ltd Image processing device, image processing method, program, and storage medium
JP2013047935A (en) * 2011-07-22 2013-03-07 Hitachi Consumer Electronics Co Ltd Video processing device, video display device, and video processing method
JP2013211662A (en) * 2012-03-30 2013-10-10 Eizo Corp Gradation correction apparatus or method thereof
JP2015008785A (en) * 2013-06-27 2015-01-19 オリンパス株式会社 Endoscope apparatus, and operation method and program of endoscope apparatus
WO2015103739A1 (en) * 2014-01-08 2015-07-16 富士通株式会社 Apparatus, electronic device and method for enhancing image contrast

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012247873A (en) * 2011-05-25 2012-12-13 Sony Corp Image processing apparatus and method

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003126032A (en) * 2001-10-26 2003-05-07 Olympus Optical Co Ltd Endoscopic system
WO2007069432A1 (en) * 2005-12-12 2007-06-21 Konica Minolta Holdings, Inc. Image processing method, image processing device and image processing program
JP2008104010A (en) * 2006-10-19 2008-05-01 Sony Corp Image processing apparatus, imaging apparatus, image processing method, and program
JP2008200289A (en) * 2007-02-20 2008-09-04 Olympus Medical Systems Corp Light source unit
JP2008228058A (en) * 2007-03-14 2008-09-25 Sony Corp Imaging apparatus, imaging method, exposure control method, and program
JP2010283690A (en) * 2009-06-05 2010-12-16 Ricoh Co Ltd Image processing device, image processing method, program, and storage medium
JP2013047935A (en) * 2011-07-22 2013-03-07 Hitachi Consumer Electronics Co Ltd Video processing device, video display device, and video processing method
JP2013211662A (en) * 2012-03-30 2013-10-10 Eizo Corp Gradation correction apparatus or method thereof
JP2015008785A (en) * 2013-06-27 2015-01-19 オリンパス株式会社 Endoscope apparatus, and operation method and program of endoscope apparatus
WO2015103739A1 (en) * 2014-01-08 2015-07-16 富士通株式会社 Apparatus, electronic device and method for enhancing image contrast

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
大脇一泰: "撮影画像の明るさ最適化技術 ContrastMagic", 東芝レビュー, vol. 64, no. 6, JPN6017013621, June 2009 (2009-06-01), JP, pages 19 - 22, ISSN: 0003631759 *
株式会社ナナオ: "暗部視認性向上技術"Smart Insight"とその効果について", TECHNICAL OVERVIEW, vol. No.12-001 Revision A, JPN6017013620, 7 December 2012 (2012-12-07), JP, ISSN: 0003751197 *

Also Published As

Publication number Publication date
WO2017022324A1 (en) 2017-02-09

Similar Documents

Publication Publication Date Title
JP5968944B2 (en) Endoscope system, processor device, light source device, operation method of endoscope system, operation method of processor device, operation method of light source device
WO2017022324A1 (en) Image signal processing method, image signal processing device and image signal processing program
JP6109456B1 (en) Image processing apparatus and imaging system
US10574934B2 (en) Ultrasound observation device, operation method of image signal processing apparatus, image signal processing method, and computer-readable recording medium
WO2016104386A1 (en) Dimmer, imaging system, method for operating dimmer, and operating program for dimmer
US20190328218A1 (en) Image processing device, image processing method, and computer-readable recording medium
JP7230174B2 (en) Endoscope system, image processing device, and control method for image processing device
WO2016088628A1 (en) Image evaluation device, endoscope system, method for operating image evaluation device, and program for operating image evaluation device
WO2017203996A1 (en) Image signal processing device, image signal processing method, and image signal processing program
JP6242552B1 (en) Image processing device
JP6937902B2 (en) Endoscope system
JP2017123997A (en) Imaging system and processing device
US20200037865A1 (en) Image processing device, image processing system, and image processing method
JP6946468B2 (en) Image processing device and operation method of image processing device
WO2017022323A1 (en) Image signal processing method, image signal processing device and image signal processing program
JP6801990B2 (en) Image processing system and image processing equipment
JP2017221276A (en) Image processing device

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170425

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170623

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170905

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20180306