JP2017059905A - Imaging device - Google Patents

Imaging device Download PDF

Info

Publication number
JP2017059905A
JP2017059905A JP2015181214A JP2015181214A JP2017059905A JP 2017059905 A JP2017059905 A JP 2017059905A JP 2015181214 A JP2015181214 A JP 2015181214A JP 2015181214 A JP2015181214 A JP 2015181214A JP 2017059905 A JP2017059905 A JP 2017059905A
Authority
JP
Japan
Prior art keywords
image
value
reference value
captured image
processing unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2015181214A
Other languages
Japanese (ja)
Inventor
杉本 和彦
Kazuhiko Sugimoto
和彦 杉本
靖博 吉村
Yasuhiro Yoshimura
靖博 吉村
勇樹 稲垣
Yuki Inagaki
勇樹 稲垣
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsuboshi Diamond Industrial Co Ltd
Original Assignee
Mitsuboshi Diamond Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsuboshi Diamond Industrial Co Ltd filed Critical Mitsuboshi Diamond Industrial Co Ltd
Priority to JP2015181214A priority Critical patent/JP2017059905A/en
Priority to KR1020160063958A priority patent/KR20170032158A/en
Priority to TW105117864A priority patent/TW201711442A/en
Priority to CN201610602503.5A priority patent/CN106534663A/en
Publication of JP2017059905A publication Critical patent/JP2017059905A/en
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/64Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/62Control of parameters via user interfaces
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/20Circuitry for controlling amplitude response
    • H04N5/202Gamma control

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide an imaging device capable of suppressing malfunction when automatically correcting an unclear captured image, by a simple processing.SOLUTION: An imaging device 1 includes an imaging section 10 for making the light from a target area to be focused on an image pickup device 14, an image processing section 21 for processing the signals outputted from the image pickup device 14 and outputting video information, and a storage section 22 for storing the reference value of parameters representing the clearness of the captured image. The image processing section 21 acquires the measured values of the parameters based on the signals inputted from the image pickup device 14, stores the measured values acquired at a predetermined timing, as reference values, in the storage section 22, and executes sharpening of the captured image, based on the difference between the measured values acquired later and the reference values stored in the storage section 22.SELECTED DRAWING: Figure 1

Description

本発明は、目標領域を撮像する撮像装置に関するものであり、特に、雨や霧等の発生により鮮明さが低下し得る風景を撮像する際に用いて好適なものである。   The present invention relates to an image pickup apparatus that picks up a target area, and is particularly suitable for use in picking up a landscape whose sharpness may be reduced due to the occurrence of rain, fog, or the like.

街路や交差点を監視カメラで撮像する撮像装置が知られている。この種の撮像装置では、撮像された画像が、たとえば、交通事故の検証等に用いられる。検証では、車両や歩行者の状況や、信号機の点灯状況等が確認される。すなわち、事故の際に信号機が赤色、青色、黄色のどの色で点灯していたかが確認される。   2. Description of the Related Art An imaging device that captures images of streets and intersections with a monitoring camera is known. In this type of imaging apparatus, the captured image is used, for example, for verification of a traffic accident. In the verification, the status of vehicles and pedestrians, the lighting status of traffic lights, and the like are confirmed. That is, it is confirmed whether the traffic light was lit in red, blue, or yellow at the time of the accident.

しかしながら、街路や交差点等では、雨や霧の発生により被写体のコントラストが低下することが起こり得る。たとえば、交差点が霧で覆われると、車両や歩行者の状況や、信号機の点灯状況等をクリアに撮像できなくなる恐れがある。こうなると、撮像画像を用いた検証を円滑に行えなくなる。   However, on streets, intersections, etc., the contrast of the subject can be reduced due to rain or fog. For example, if the intersection is covered with fog, there is a risk that the situation of the vehicle or the pedestrian, the lighting state of the traffic light, etc. cannot be clearly imaged. If this happens, verification using the captured image cannot be performed smoothly.

以下の特許文献1には、監視カメラ装置と制御装置とを備える監視カメラシステムが記載されている。この監視カメラシステムでは、監視カメラ装置が撮像した画像に基づいて、制御装置により霧や霞が検出される。霧や霞の発生は、予め撮像した画像と現在の画像とを比較し、その結果、白浮きが生じたか否かによって検出される。また、霧や霞の強さは、デジタル映像信号成分の中で映像の明るさが最低になる部分のレベル(黒ピークレベル)が所定の閾値を超えるか否かによって判定される。こうして霧や霞が検出され、さらに、霧や霞の強さが判定されると、霧や霞の強さに対応する警報が制御装置から外部機器に出力される。また、判定された霧や霞の強さに応じた霞補正が行われる。   Patent Document 1 below describes a surveillance camera system including a surveillance camera device and a control device. In this surveillance camera system, fog and haze are detected by the control device based on the image captured by the surveillance camera device. The occurrence of fog and haze is detected by comparing a pre-captured image with the current image, and as a result, whether whitening has occurred. Further, the strength of fog or haze is determined based on whether or not the level (black peak level) of the portion of the digital video signal component where the video brightness is minimum exceeds a predetermined threshold. Thus, when fog or haze is detected and the strength of the fog or haze is determined, an alarm corresponding to the strength of the fog or haze is output from the control device to an external device. Further, the haze correction is performed according to the determined fog and haze strength.

特開2014−192762号公報JP 2014-192762 A

上記のように、特許文献1の手法では、画像を補正するために、霧や霞の検出と、霧や霞の強さの判定の2ステップの処理が必要であった。霧や霞の強さの判定は、黒ピークレベルが所定の閾値を超えるかにより行われているため、たとえば、もともと映像信号の黒ピークレベルが高くなる風景が撮像対象とされたような場合は、補正に誤動作が生じる惧れがあった。   As described above, in the method of Patent Document 1, in order to correct an image, a two-step process of detecting fog and haze and determining the strength of fog and haze is necessary. The determination of fog or haze strength is based on whether the black peak level exceeds a predetermined threshold. For example, when a scene in which the black peak level of the video signal is originally high is taken as the imaging target, There was a risk of malfunction in the correction.

かかる課題を鑑み、本発明は、簡素な処理により、撮像画像の不鮮明さを自動で補正する場合の誤動作を抑制することが可能な撮像装置を提供することを目的とする。   In view of such a problem, an object of the present invention is to provide an imaging apparatus capable of suppressing a malfunction when automatically correcting unclearness of a captured image by simple processing.

本発明の主たる態様は、撮像装置に関する。本態様に係る撮像装置は、目標領域からの光を撮像素子に結像させる撮像部と、前記撮像素子から出力される信号を処理して映像情報を出力する画像処理部と、撮像画像の鮮明さを表す所定のパラメータの基準値を記憶する記憶部と、を備える。ここで、前記画像処理部は、前記撮像素子から入力された信号に基づいて前記パラメータの実測値を取得し、所定のタイミングで取得した実測値を前記基準値として前記記憶部に記憶させ、その後に取得した実測値と前記記憶部に記憶された基準値との差に基づいて、撮像画像に対する鮮明化処理を実行する。   A main aspect of the present invention relates to an imaging apparatus. An imaging apparatus according to this aspect includes an imaging unit that forms an image of light from a target area on an imaging element, an image processing unit that processes a signal output from the imaging element and outputs video information, and a sharpened captured image And a storage unit for storing a reference value of a predetermined parameter representing the height. Here, the image processing unit acquires an actual measurement value of the parameter based on a signal input from the image sensor, stores the actual measurement value acquired at a predetermined timing in the storage unit as the reference value, and then Based on the difference between the actually measured value acquired in step S3 and the reference value stored in the storage unit, a sharpening process is performed on the captured image.

本態様に係る撮像装置によれば、撮像素子から入力された信号に基づいて撮像画像の鮮明さを表すパラメータの基準値が設定されるため、設定された基準値は、撮像対象の風景に応じたものとなる。たとえば、撮像装置が交差点を撮像するために設置された場合、基準値は、交差点の規模や信号機の設置状況等、目標領域の風景(構造物のレイアウト等)に応じたものとなる。そして、こうして設定された基準値と、その後の撮像時に取得される実測値との差に基づいて、撮像画像に対する鮮明化処理が実行されるため、撮像対象の目標領域がどの程度不鮮明になったかを適正に識別することができ、鮮明化処理の誤動作を抑制することができる。このように、本態様に係る撮像装置によれば、撮像画像の不鮮明さを自動で補正する場合の誤動作を抑制することができる。   According to the imaging apparatus according to this aspect, the reference value of the parameter representing the sharpness of the captured image is set based on the signal input from the image sensor, and thus the set reference value depends on the scene to be imaged. It will be. For example, when the imaging device is installed to capture an intersection, the reference value corresponds to the scenery of the target area (such as the layout of the structure) such as the size of the intersection and the installation status of the traffic light. Since the sharpening process is performed on the captured image based on the difference between the reference value set in this way and the actual measurement value acquired at the time of subsequent imaging, how much the target area of the imaging target has become unclear Can be properly identified, and malfunction of the sharpening process can be suppressed. As described above, according to the imaging apparatus according to this aspect, it is possible to suppress a malfunction when automatically correcting the unclearness of the captured image.

また、本態様に係る撮像装置によれば、基準値と実測値の差に応じて適正に鮮明化処理が実行されるため、別途、撮像画像が不鮮明になったか否かを検出する処理を行う必要がない。よって、本態様に係る撮像装置によれば、簡素な処理により撮像画像の鮮明化を行うことができる。   In addition, according to the imaging apparatus according to this aspect, since the sharpening process is appropriately executed according to the difference between the reference value and the actual measurement value, a process for separately detecting whether the captured image has become unclear is performed. There is no need. Therefore, according to the imaging device according to this aspect, it is possible to sharpen the captured image by a simple process.

なお、「実測値と基準値との差」とは、実測値から基準値を減算して得た値のみならず、基準値に対する実測値の比率など、基準値から実測値がどれほど相違しているかを表す値であれば如何なる値であってもよい。   Note that “difference between measured value and reference value” means not only the value obtained by subtracting the reference value from the measured value, but also how much the measured value differs from the reference value, such as the ratio of the measured value to the reference value. Any value may be used as long as it represents a value.

本態様に係る撮像装置において、前記画像処理部は、設定指示の入力を受け付けた場合に、前記撮像素子からの信号に基づいて取得した前記パラメータの実測値を前記基準値として前記記憶部に記憶させるよう構成され得る。こうすると、目標領域が不鮮明であるタイミングで基準値が取得され設定されることを円滑に回避できる。このため、撮像画像の不鮮明さを自動で補正する場合の誤動作を、より確実に抑制することができる。   In the imaging device according to this aspect, when receiving an input of a setting instruction, the image processing unit stores the measured value of the parameter acquired based on a signal from the imaging element as the reference value in the storage unit. Can be configured. In this way, it is possible to smoothly avoid the reference value being acquired and set at a timing when the target area is unclear. For this reason, it is possible to more reliably suppress a malfunction when automatically correcting the unclearness of the captured image.

本態様に係る撮像装置において、前記記憶部は、実測値に基づく第1の基準値とは別に予め第2の基準値を記憶する構成とされ得る。この場合、前記画像処理部は、実測値に基づく前記第1の基準値を用いるモードが設定されている場合は、実測値に基づき前記第1の基準値を取得して前記鮮明化処理を実行し、前記モードが設定されていない場合は、前記第2の基準値に基づいて前記鮮明化処理を実行するよう構成され得る。こうすると、たとえば、第1基準値の設定に適した鮮明な撮像画像が得られないために第1の基準値を用いるモードが設定されていない場合にも、第2の基準値を用いて鮮明化処理を実行することができる。   In the imaging device according to this aspect, the storage unit may be configured to store the second reference value in advance separately from the first reference value based on the actual measurement value. In this case, when the mode using the first reference value based on the actual measurement value is set, the image processing unit acquires the first reference value based on the actual measurement value and executes the sharpening process. However, when the mode is not set, the sharpening process may be executed based on the second reference value. In this way, for example, even when a mode using the first reference value is not set because a clear captured image suitable for setting the first reference value cannot be obtained, the second reference value is used for clearness. Can be executed.

本態様に係る撮像装置において、前記画像処理部は、前記実測値と前記基準値との差に基づいて、撮像画像を鮮明化するための調整値を切り替えるよう構成され得る。この場合、前記調整値は、前記撮像素子から出力される信号に対しガンマ補正を行うための値とされ得る。このように、ガンマ補正を行うための値を調整することで、撮像画像のコントラストを簡易な処理により円滑に、鮮明化に適する状態に調整することができる。   In the imaging apparatus according to this aspect, the image processing unit may be configured to switch an adjustment value for sharpening a captured image based on a difference between the actual measurement value and the reference value. In this case, the adjustment value may be a value for performing gamma correction on a signal output from the image sensor. In this way, by adjusting the value for performing gamma correction, the contrast of the captured image can be smoothly adjusted to a state suitable for sharpening by simple processing.

なお、本態様に係る撮像装置では、撮像画像の鮮明さを表す前記パラメータとして、たとえば、撮像素子から出力される1画像分の信号から取得した輝度の標準偏差を用いることができる。このように輝度の標準偏差を用いることにより、撮像画像の不鮮明さを的確に把握することができる。   In the imaging apparatus according to this aspect, for example, a standard deviation of luminance acquired from a signal for one image output from the imaging element can be used as the parameter representing the sharpness of the captured image. Thus, by using the standard deviation of the brightness, it is possible to accurately grasp the unclearness of the captured image.

以上のとおり、本発明によれば、簡素な処理により、撮像画像の不鮮明さを自動で補正する場合の誤動作を抑制することが可能な撮像装置を提供することができる。   As described above, according to the present invention, it is possible to provide an imaging apparatus capable of suppressing malfunctions when automatically correcting the unclearness of a captured image by a simple process.

本発明の効果ないし意義は、以下に示す実施の形態の説明により更に明らかとなろう。ただし、以下に示す実施の形態は、あくまでも、本発明を実施化する際の一つの例示であって、本発明は、以下の実施の形態に記載されたものに何ら制限されるものではない。   The effects and significance of the present invention will become more apparent from the following description of embodiments. However, the embodiment described below is merely an example when the present invention is implemented, and the present invention is not limited to what is described in the following embodiment.

図1は、実施形態に係る撮像装置の構成を示すブロック図である。FIG. 1 is a block diagram illustrating a configuration of an imaging apparatus according to the embodiment. 図2は、実施形態に係る画像処理部の構成を示すブロック図である。FIG. 2 is a block diagram illustrating a configuration of the image processing unit according to the embodiment. 図3(a)〜(d)は、実施形態に係る撮像画像の状況と輝度のヒストグラムとの関係を例示する図である。FIGS. 3A to 3D are diagrams illustrating the relationship between the situation of the captured image and the luminance histogram according to the embodiment. 図4(a)〜(d)は、実施形態に係る撮像画像のコントラストの補正方法(鮮明化処理)を説明する図である。4A to 4D are views for explaining a method for correcting the contrast of a captured image (a sharpening process) according to the embodiment. 図5(a)、(b)は、実施形態に係るガンマ値を変化させた場合の輝度のヒストグラムの変化を示す図である。FIGS. 5A and 5B are diagrams showing changes in the luminance histogram when the gamma value according to the embodiment is changed. 図6(a)、(b)は、実施形態に係る撮像画像が鮮明であってもヒストグラムの輝度の分布範囲が狭い場合の目標領域の構成例を示す図である。FIGS. 6A and 6B are diagrams illustrating a configuration example of the target region when the luminance distribution range of the histogram is narrow even if the captured image according to the embodiment is clear. 図7は、実施形態に係る鮮明化処理を示すフローチャートである。FIG. 7 is a flowchart showing a sharpening process according to the embodiment. 図8は、実施形態に係る鮮明化処理に用いるガンマ特性の一例を示す図である。FIG. 8 is a diagram illustrating an example of a gamma characteristic used for the sharpening process according to the embodiment. 図9(a)、(b)は、実施形態における鮮明化処理の作用を模式的に示す図である。FIGS. 9A and 9B are diagrams schematically illustrating the effect of the sharpening process in the embodiment.

以下、本発明の実施形態について、図面を参照して説明する。本実施形態は、交差点や街路等を撮像する監視カメラに本発明を適用したものである。   Hereinafter, embodiments of the present invention will be described with reference to the drawings. In the present embodiment, the present invention is applied to a monitoring camera that images an intersection, a street, and the like.

図1は、撮像装置1の構成を示す図である。   FIG. 1 is a diagram illustrating a configuration of the imaging apparatus 1.

撮像装置1は、撮像部10と、画像処理部21と、記憶部22と、フィルタ駆動部23と、アイリス駆動部24と、入力部25と、出力部26と、を備える。   The imaging apparatus 1 includes an imaging unit 10, an image processing unit 21, a storage unit 22, a filter driving unit 23, an iris driving unit 24, an input unit 25, and an output unit 26.

撮像部10は、レンズ11と、アイリス12と、フィルタ13と、撮像素子14と備える。   The imaging unit 10 includes a lens 11, an iris 12, a filter 13, and an imaging element 14.

レンズ11は、目標領域からの光を取り込んで、目標領域の像を撮像素子14の受光面に結像させる。アイリス12は、目標領域からの光の強弱に応じて適切な光量が撮像素子14に入射するように、外部からの光を制限する。アイリス12は、アイリス駆動部24により、絞り量が調整される。   The lens 11 takes in light from the target area and forms an image of the target area on the light receiving surface of the image sensor 14. The iris 12 limits light from the outside so that an appropriate amount of light enters the image sensor 14 according to the intensity of light from the target area. The iris amount of the iris 12 is adjusted by the iris driving unit 24.

フィルタ13は、赤外線を除去するためのIRカットフィルタと、可視光とともに赤外線も透過させるダミーガラスからなっている。フィルタ13は、フィルタ駆動部23を介して画像処理部21により、IRカットフィルタとダミーガラスの何れか一方が、アイリス12と撮像素子14との間の光路に位置付けられる。具体的には、撮像素子14において通常レベル以上の照度が得られる場合は、IRカットフィルタが光路に挿入され、赤外線が除去される。また、撮像素子14において得られる照度が低い場合は、ダミーガラスが光路に挿入され、可視光とともに赤外線も撮像素子14へ導かれて、感度が高められる。   The filter 13 is made of an IR cut filter for removing infrared rays and a dummy glass that transmits infrared rays together with visible light. In the filter 13, either the IR cut filter or the dummy glass is positioned in the optical path between the iris 12 and the image sensor 14 by the image processing unit 21 via the filter driving unit 23. Specifically, when the illuminance of the normal level or higher is obtained in the image sensor 14, an IR cut filter is inserted into the optical path, and infrared rays are removed. In addition, when the illuminance obtained in the image sensor 14 is low, dummy glass is inserted into the optical path, and infrared light is guided to the image sensor 14 together with visible light, and sensitivity is increased.

撮像素子14は、カラーのCMOSイメージセンサである。撮像素子14は、CCDイメージセンサであってもよい。撮像素子14は、画像処理部21からの制御により、撮像画像に応じた信号を画像処理部21に出力する。   The image sensor 14 is a color CMOS image sensor. The image sensor 14 may be a CCD image sensor. The imaging element 14 outputs a signal corresponding to the captured image to the image processing unit 21 under the control of the image processing unit 21.

画像処理部21は、CPU(Central Processing Unit)等の演算処理回路を備え、記憶部22に保持されたプログラムに従って画像処理を実行する。記憶部22は、ROM(Read Only Memory)やRAM(Random Access Memory)等の記憶媒体を備え、画像処理用のプログラムを保持する他、画像処理部21による処理の際にワーク領域としても利用される。記憶部22には、撮像画像の鮮明さのレベルに応じた複数のガンマ補正値が保持されている。記憶部22に保持されたガンマ補正値については、追って、図8を参照して説明する。   The image processing unit 21 includes an arithmetic processing circuit such as a CPU (Central Processing Unit) and executes image processing according to a program held in the storage unit 22. The storage unit 22 includes a storage medium such as a ROM (Read Only Memory) or a RAM (Random Access Memory), and stores an image processing program, and is also used as a work area when the image processing unit 21 performs processing. The The storage unit 22 holds a plurality of gamma correction values corresponding to the sharpness level of the captured image. The gamma correction values held in the storage unit 22 will be described later with reference to FIG.

フィルタ駆動部23およびアイリス駆動部24は、それぞれ、画像処理部21からの制御によりフィルタ13およびアイリス12を駆動するためのドライバである。入力部25は、操作ボタン等の入力手段を有し、ユーザからの指示を受け付ける。出力部26は、画像処理部21により処理された映像情報を、出力端子を介して外部機器に出力する。   The filter driving unit 23 and the iris driving unit 24 are drivers for driving the filter 13 and the iris 12 under the control of the image processing unit 21, respectively. The input unit 25 has input means such as operation buttons and receives instructions from the user. The output unit 26 outputs the video information processed by the image processing unit 21 to an external device via an output terminal.

図3は、画像処理部21の機能ブロック図である。   FIG. 3 is a functional block diagram of the image processing unit 21.

画像処理部21は、モザイク処理部101と、リニアマトリクス処理部102と、ガンマ補正処理部103と、Y/C分離処理部104と、輪郭補正処理部105と、色差補正処理部106と、ノイズ除去処理部107、108と、を備える。   The image processing unit 21 includes a mosaic processing unit 101, a linear matrix processing unit 102, a gamma correction processing unit 103, a Y / C separation processing unit 104, a contour correction processing unit 105, a color difference correction processing unit 106, a noise Removal processing units 107 and 108.

図1の撮像素子14から出力された信号は、モザイク処理部101に入力される。モザイク処理部101は、各画素からの信号からR、G、Bの3色分の信号を生成する。リニアマトリクス処理部102は、モザイク処理部101により生成された信号に対し、分光特性補正を施す。   A signal output from the image sensor 14 of FIG. 1 is input to the mosaic processing unit 101. The mosaic processing unit 101 generates signals for three colors of R, G, and B from signals from each pixel. The linear matrix processing unit 102 performs spectral characteristic correction on the signal generated by the mosaic processing unit 101.

ガンマ補正処理部103は、分光特性補正がなされた信号に対し、ガンマ補正を施す。上記のように、記憶部22には、撮像画像の鮮明さのレベルに応じた複数のガンマ補正値が保持されている。ガンマ補正処理部103には、撮像画像の鮮明さに応じたガンマ補正値が適用される。ガンマ補正処理部103は、適用されたガンマ補正値によって、リニアマトリクス処理部102からの信号にガンマ補正を施す。   The gamma correction processing unit 103 performs gamma correction on the signal subjected to spectral characteristic correction. As described above, the storage unit 22 holds a plurality of gamma correction values corresponding to the sharpness level of the captured image. A gamma correction value corresponding to the sharpness of the captured image is applied to the gamma correction processing unit 103. The gamma correction processing unit 103 performs gamma correction on the signal from the linear matrix processing unit 102 according to the applied gamma correction value.

Y/C分離処理部104は、ガンマ補正が施された信号を輝度信号と色差信号に分離する。輪郭補正処理部105は、モザイク処理後の信号に基づき被写体の輪郭を抜き出し、Y/C分離後の輝度信号に輪郭信号を加える。色差補正処理部106は、Y/C分離後の色差信号に対し、所定の色を強調する等の補正処理を施す。ノイズ除去処理部107、108は、それぞれ、Y/C分離後の輝度信号および色差信号に重畳されたノイズを除去する。ノイズが除去された輝度信号および色差信号は、図1の出力部26に出力される。出力部26は、輝度信号と色差信号をシリアル変換して、外部に出力する。   The Y / C separation processing unit 104 separates the signal subjected to gamma correction into a luminance signal and a color difference signal. The contour correction processing unit 105 extracts the contour of the subject based on the signal after mosaic processing, and adds the contour signal to the luminance signal after Y / C separation. The color difference correction processing unit 106 performs correction processing such as emphasizing a predetermined color on the color difference signal after Y / C separation. The noise removal processing units 107 and 108 remove noise superimposed on the luminance signal and color difference signal after Y / C separation, respectively. The luminance signal and color difference signal from which noise has been removed are output to the output unit 26 in FIG. The output unit 26 serially converts the luminance signal and the color difference signal and outputs them to the outside.

次に、図3(a)〜図6(b)を参照して、画像処理部21における鮮明化処理について説明する。なお、ここでは、便宜上、交差点や街路以外の風景が被写体とされている。   Next, the sharpening process in the image processing unit 21 will be described with reference to FIGS. Here, for the sake of convenience, scenery other than intersections and streets is taken as the subject.

図3(a)〜(d)は、実施形態に係る撮像画像の状況と輝度のヒストグラムとの関係の一例を示す図である。図3(b)は、図3(a)の撮像画像に対するヒストグラムであり、図3(d)は、図3(c)の撮像画像に対するヒストグラムである。なお、図3(a)、(c)は、実際はカラーの画像である。すなわち、画像中のモザイクタイルと人形は種々の色に色付けされている。また、図3(c)の撮像画像は、撮像光学系にフォギーフィルタを挿入して撮像したものである。   FIGS. 3A to 3D are diagrams illustrating an example of a relationship between the state of a captured image and a luminance histogram according to the embodiment. 3B is a histogram for the captured image of FIG. 3A, and FIG. 3D is a histogram for the captured image of FIG. 3A and 3C are actually color images. That is, the mosaic tile and the doll in the image are colored in various colors. Further, the captured image of FIG. 3C is obtained by inserting a foggy filter into the imaging optical system.

図3(b)、(d)に示すように、被写体が同じであっても、撮像画像の鮮明度により、ヒストグラム上の輝度の分布範囲(R1、R2)が変化する。具体的には、撮像画像が不鮮明である場合の分布範囲R2は、撮像画像が鮮明である場合の分布範囲R1よりも狭くなっている。このように、撮像画像の鮮明度(コントラスト)が低下するほど、輝度の分布範囲が狭くなる。したがって、輝度の分布範囲に基づいて撮像画像の鮮明度を検出することが可能である。   As shown in FIGS. 3B and 3D, even if the subject is the same, the luminance distribution range (R1, R2) on the histogram changes depending on the sharpness of the captured image. Specifically, the distribution range R2 when the captured image is unclear is narrower than the distribution range R1 when the captured image is clear. Thus, the lower the definition (contrast) of the captured image, the narrower the luminance distribution range. Therefore, it is possible to detect the sharpness of the captured image based on the luminance distribution range.

なお、撮像画像の鮮明度を判定するための情報は、輝度のヒストグラムに限定されるものではない。たとえば、オートアイリスのスタティスティックデータなどを用いて、撮像画像の鮮明度を判定することもできる。   Note that the information for determining the sharpness of the captured image is not limited to the luminance histogram. For example, the sharpness of a captured image can also be determined using auto iris statistical data or the like.

図4(a)〜(d)は、撮像画像のコントラストの補正方法(鮮明化処理)を説明する図である。図4(a)、(c)は、それぞれ、図3(b)、(d)に示したヒストグラムであり、図3(a)、(c)の撮像画像のヒストグラムに対応する。また、図4(b)、(d)は、それぞれ、輝度のヒストグラムが図4(a)、(b)である場合のガンマ補正値(ガンマ特性)を模式的に示すグラフである。図4(a)、(b)において、横軸は、入力信号の信号レベルであり、縦軸は、ガンマ補正後の出力信号の信号レベルである。   4A to 4D are diagrams for explaining a method of correcting the contrast of a captured image (sharpening process). FIGS. 4A and 4C are the histograms shown in FIGS. 3B and 3D, respectively, and correspond to the histograms of the captured images in FIGS. 3A and 3C. FIGS. 4B and 4D are graphs schematically showing gamma correction values (gamma characteristics) when the luminance histograms are FIGS. 4A and 4B, respectively. 4A and 4B, the horizontal axis represents the signal level of the input signal, and the vertical axis represents the signal level of the output signal after gamma correction.

図4(a)に示すようにヒストグラムにおける輝度の分布範囲R1が広い場合は、図4(b)に示す通常のガンマ補正値を用いてガンマ補正を行う。一方、図4(c)に示すようにヒストグラムにおける輝度の分布範囲R2が狭い場合は、図4(d)に示すコントラストを高めるためのガンマ補正値を用いてガンマ補正を行う。   When the luminance distribution range R1 in the histogram is wide as shown in FIG. 4A, gamma correction is performed using the normal gamma correction value shown in FIG. On the other hand, when the luminance distribution range R2 in the histogram is narrow as shown in FIG. 4C, gamma correction is performed using the gamma correction value for increasing the contrast shown in FIG.

図4(d)のガンマ補正値では、範囲Wよりも信号レベルが低い入力信号は、一様に最低レベルの出力信号に変換される。また、範囲Wよりも信号レベルが高い入力信号は、一様に最高レベルの出力信号に変換される。したがって、黒付近のグレーの入力信号は一様に黒に変換され、白付近のグレーの入力信号は一様に白に変換される。これにより、画像のコントラストが高められる。   In the gamma correction value of FIG. 4D, an input signal whose signal level is lower than the range W is uniformly converted to an output signal of the lowest level. An input signal having a signal level higher than the range W is uniformly converted to an output signal having the highest level. Therefore, the gray input signal near black is uniformly converted to black, and the gray input signal near white is uniformly converted to white. Thereby, the contrast of an image is raised.

図5(a)、(b)は、ガンマ値(ガンマ特性)を変化させた場合の輝度のヒストグラムの変化を示す図である。図5(a)において、破線は、ガンマ値が0.45の場合の通常のガンマ補正に用いるガンマ特性であり、実線は、撮像画像の鮮明度(コントラスト)が低い場合に適用されるガンマ特性である。図5(a)では、縦軸と横軸が1で規格化されている。また、図5(b)において、破線は、所定の撮像画像に対して、図5(a)のガンマ値が0.45の破線のガンマ特性を適用した場合のヒストグラムであり、実線は、同じ撮像画像に対して、図5(a)の低コントラスト用の実線のガンマ特性を適用した場合のヒストグラムである。   FIGS. 5A and 5B are diagrams illustrating changes in luminance histograms when the gamma value (gamma characteristic) is changed. In FIG. 5A, the broken line is a gamma characteristic used for normal gamma correction when the gamma value is 0.45, and the solid line is a gamma characteristic applied when the sharpness (contrast) of the captured image is low. It is. In FIG. 5A, the vertical axis and the horizontal axis are normalized by 1. In FIG. 5B, the broken line is a histogram when the gamma characteristic of the broken line having the gamma value of 0.45 in FIG. 5A is applied to a predetermined captured image, and the solid line is the same. It is a histogram at the time of applying the solid-line gamma characteristic for low contrast of Fig.5 (a) with respect to a captured image.

図5(b)に示すように、低コントラスト用のガンマ特性を適用してガンマ補正を行うと、補正後の撮像画像のヒストグラムは、補正前に比べ、輝度の分布範囲が顕著に広がっている。つまり、鮮明度が低い低コントラストの撮像画像に、図5(a)の低コントラスト用のガンマ特性を適用してガンマ補正を行うことにより、画像の鮮明度(コントラスト)を高めることができる。   As shown in FIG. 5B, when the gamma correction is performed by applying the low-contrast gamma characteristic, the histogram of the captured image after the correction has a significantly wider luminance distribution range than before the correction. . That is, the image sharpness (contrast) can be improved by performing gamma correction by applying the low-contrast gamma characteristic of FIG. 5A to a low-contrast captured image with low sharpness.

以上のように、適用されるガンマ補正値を選択することにより、撮像画像のコントラストを高めることができる。図1の画像処理部21は、撮像画像の鮮明度(コントラスト)が低い場合に、図2のガンマ補正処理部103に適用するガンマ値(ガンマ特性)を変更することにより、撮像画像のコントラストを高める。   As described above, the contrast of the captured image can be increased by selecting the gamma correction value to be applied. The image processing unit 21 in FIG. 1 changes the gamma value (gamma characteristic) applied to the gamma correction processing unit 103 in FIG. 2 when the sharpness (contrast) of the captured image is low, thereby changing the contrast of the captured image. Increase.

より詳細には、図1の記憶部22は、鮮明度が高い場合の通常のガンマ値(ガンマ特性)とともに、撮像画像の鮮明度が低い場合に適用されるガンマ値(ガンマ特性)を記憶している。画像処理部21は、撮像素子14により撮像された撮像画像の鮮明度(コントラスト)が低い場合に、当該撮像画像の鮮明度に適するガンマ値を記憶部22から選択し、選択したガンマ値を図2のガンマ補正処理部103に適用する。これにより、撮像画像の鮮明度を高められる。   More specifically, the storage unit 22 in FIG. 1 stores a normal gamma value (gamma characteristic) when the sharpness is high and a gamma value (gamma characteristic) applied when the sharpness of the captured image is low. ing. When the sharpness (contrast) of the captured image captured by the image sensor 14 is low, the image processing unit 21 selects a gamma value suitable for the sharpness of the captured image from the storage unit 22, and displays the selected gamma value. The second gamma correction processing unit 103 is applied. Thereby, the sharpness of the captured image can be increased.

ここで、撮像画像の鮮明度が低いか否かは、図3(a)〜(d)に示すように、輝度分布のヒストグラムに基づいて、判定され得る。   Here, whether or not the sharpness of the captured image is low can be determined based on the histogram of the luminance distribution, as shown in FIGS.

しかしながら、撮像画像によっては、鮮明度が低下していないにも拘わらず、被写体のレイアウト等によって、ヒストグラムの輝度の分布範囲が狭い場合がある。たとえば、図6(a)に示す撮像画像(実際はカラー画像)のヒストグラムは、図6(b)のようになる。このヒストグラムでは、撮像画像が鮮明であるにも拘わらず、輝度の分布範囲R3は狭いものとなる。このような場合に、低コントラスト用のガンマ値が適用されると、却って撮像画像の鮮明度が低下する。   However, depending on the captured image, the brightness distribution range of the histogram may be narrow depending on the subject layout and the like even though the sharpness is not lowered. For example, the histogram of the captured image (actually a color image) shown in FIG. 6A is as shown in FIG. In this histogram, although the captured image is clear, the luminance distribution range R3 is narrow. In such a case, if a low-contrast gamma value is applied, the sharpness of the captured image is decreased.

そこで、本実施形態では、不鮮明な撮像画像を自動で補正する場合の誤動作を抑制するための処理が行われる。   Therefore, in the present embodiment, processing is performed to suppress malfunction when automatically correcting a blurred captured image.

図7は、画像処理部21にて行われる鮮明化処理を示すフローチャートである。   FIG. 7 is a flowchart showing the sharpening process performed by the image processing unit 21.

図7のフローチャートでは、撮像画像の鮮明度を表すパラメータとして、輝度のヒストグラム(たとえば図3(b)、(d)参照)の標準偏差σが用いられる。また、図1の記憶部22には、通常の鮮明度の場合に適用されるガンマ値G3の他に、鮮明度が低い場合に適用される2種類のガンマ値G1、G2が記憶されている。   In the flowchart of FIG. 7, a standard deviation σ of a luminance histogram (see, for example, FIGS. 3B and 3D) is used as a parameter representing the sharpness of a captured image. In addition to the gamma value G3 applied in the case of normal sharpness, the storage unit 22 in FIG. 1 stores two types of gamma values G1 and G2 applied when the sharpness is low. .

さらに、図7のフローチャートでは、処理が開始される前、あるいは、開始された後に、図1に示す入力部25を介して、ユーザにより、鮮明化処理のモード設定がなされ得る。ここで、目標領域を撮像して得た撮像画像に基づいて標準偏差の基準値σRefが設定されるモードをプリセットONモードと称し、記憶部22に予め保持された汎用的な標準偏差σ0が基準値σRefに設定されるモードをプリセットOFFモードと称する。標準偏差σ0は、たとえば、標準的な風景を鮮明な状態で撮像して得られた撮像画像の輝度ヒストグラムの標準偏差である。   Further, in the flowchart of FIG. 7, the mode setting of the sharpening process can be performed by the user via the input unit 25 illustrated in FIG. 1 before or after the process is started. Here, a mode in which a standard deviation reference value σRef is set based on a captured image obtained by imaging a target area is referred to as a preset ON mode, and a general-purpose standard deviation σ0 stored in advance in the storage unit 22 is a reference. A mode set to the value σRef is referred to as a preset OFF mode. The standard deviation σ0 is, for example, a standard deviation of a luminance histogram of a captured image obtained by capturing a standard landscape in a clear state.

図7を参照して、撮像装置1に電源が投入され、初期化処理が完了すると、画像処理部21は撮像動作を開始する。こうして、撮像動作を開始した後、画像処理部21は、垂直同期信号(Vsync)の出力タイミングであるか否かを判定する(S101)。垂直同期信号の出力タイミングである場合(S101:YES)、画像処理部21は、オートアイリス処理(S102)とオートホワイトバランス処理(S103)を実行する。さらに、画像処理部21は、撮像素子14から出力される信号に基づいて、撮像画像における輝度ヒストグラムの標準偏差σを算出する(S104)。   Referring to FIG. 7, when the imaging apparatus 1 is turned on and the initialization process is completed, the image processing unit 21 starts an imaging operation. Thus, after starting the imaging operation, the image processing unit 21 determines whether or not it is the output timing of the vertical synchronization signal (Vsync) (S101). When it is the output timing of the vertical synchronization signal (S101: YES), the image processing unit 21 executes auto iris processing (S102) and auto white balance processing (S103). Furthermore, the image processing unit 21 calculates the standard deviation σ of the luminance histogram in the captured image based on the signal output from the image sensor 14 (S104).

次いで、画像処理部21は、撮像装置1に設定された鮮明化処理のモードがプリセットONモードであるか否かを判定する(S105)。ここで、鮮明化処理のモードがプリセットONモードでない場合(S105:NO)、画像処理部21は、予め記憶部22に記憶されている汎用的な標準偏差σ0を標準偏差の基準値σRefに設定する(S108)。   Next, the image processing unit 21 determines whether or not the sharpening processing mode set in the imaging apparatus 1 is the preset ON mode (S105). If the sharpening processing mode is not the preset ON mode (S105: NO), the image processing unit 21 sets the general-purpose standard deviation σ0 stored in advance in the storage unit 22 as the standard deviation reference value σRef. (S108).

一方、鮮明化処理のモードがプリセットONモードである場合(S105:YES)、画像処理部21は、一つ前の垂直同期信号の出力タイミングにおいて鮮明化処理のモードがプリセットOFFモードであったか否か、すなわち、鮮明化処理のモードがプリセットOFFモードからプリセットONモードに切り替えられたか否かを判定する(S106)。ここで、一つ前の垂直同期信号の出力タイミングにおいて鮮明化処理のモードがプリセットOFFモードであった場合(S106:YES)、画像処理部21は、ステップS104で算出した標準偏差σを基準値σRefに設定し、設定した基準値σRefを記憶部22に記憶させる(S107)。   On the other hand, when the sharpening processing mode is the preset ON mode (S105: YES), the image processing unit 21 determines whether the sharpening processing mode is the preset OFF mode at the output timing of the previous vertical synchronization signal. That is, it is determined whether or not the sharpening processing mode has been switched from the preset OFF mode to the preset ON mode (S106). Here, when the sharpening processing mode is the preset OFF mode at the output timing of the previous vertical synchronization signal (S106: YES), the image processing unit 21 uses the standard deviation σ calculated in step S104 as a reference value. σRef is set, and the set reference value σRef is stored in the storage unit 22 (S107).

また、一つ前の垂直同期信号の出力タイミングにおいても鮮明化処理のモードがプリセットONモードであった場合(S106:NO)、すなわち、プリセットONモードが前回から継続中である場合、画像処理部21は、ステップS107をスキップし、処理をステップS109に進める。この場合、少なくとも前回以前の垂直同期信号の出力タイミングにおいて、基準値σRefに、そのタイミングで取得された撮像画像に基づく標準偏差σが設定され、この基準値が、今回の垂直同期信号の出力タイミングにおいても有効となっている。   Further, when the sharpening processing mode is the preset ON mode at the output timing of the previous vertical synchronization signal (S106: NO), that is, when the preset ON mode is continuing from the previous time, the image processing unit 21 skips step S107 and advances the process to step S109. In this case, at least at the output timing of the vertical synchronization signal before the previous time, the standard deviation σ based on the captured image acquired at that timing is set as the reference value σRef, and this reference value is the output timing of the current vertical synchronization signal. Is also effective.

次いで、画像処理部21は、ステップS104で取得された標準偏差σにより基準値σRefを除算して、参照値を取得する(S109)。こうして算出された参照値は、ステップS104で取得された標準偏差σが基準値σRefに比べて小さくなるほど大きくなる。すなわち、今回取得された撮像画像に対する輝度ヒストグラムの輝度の分布範囲が、基準値σRefに対応する輝度ヒストグラムの輝度の分布範囲に比べて狭くなるほど、参照値が大きくなる。したがって、参照値が大きくなるほど、今回取得された撮像画像の鮮明度が低いと評価され得る。   Next, the image processing unit 21 acquires the reference value by dividing the reference value σRef by the standard deviation σ acquired in step S104 (S109). The reference value calculated in this way increases as the standard deviation σ acquired in step S104 becomes smaller than the reference value σRef. That is, the reference value increases as the luminance distribution range of the luminance histogram for the captured image acquired this time becomes narrower than the luminance distribution range of the luminance histogram corresponding to the reference value σRef. Therefore, it can be evaluated that the sharpness of the captured image acquired this time is lower as the reference value increases.

こうして、参照値を算出した後、画像処理部21は、予め設定した閾値Th1、Th2(Th1>Th2)と参照値とを比較する(S110、S112)。ここで、参照値が閾値Th1よりも大きいと(S110:YES)、画像処理部21は、記憶部22に記憶されている低鮮明度用のガンマ値G1を、図2のガンマ補正処理部103に適用する(S111)。また、参照値が閾値Th1以下で且つ閾値Th2よりも大きいと(S110:NO、S112:YES)、画像処理部21は、記憶部22に記憶されている低鮮明度用のガンマ値G2を、図2のガンマ補正処理部103に適用する(S113)。また、参照値が閾値Th2以下である場合(S110:NO、S112:NO)、画像処理部21は、記憶部22に記憶されている通常の鮮明度用のガンマ値G3を、図2のガンマ補正処理部103に適用する(S114)。図2のガンマ補正処理部103は、こうして適用されたガンマ値に基づいて、ガンマ補正を実行する。   After calculating the reference value in this way, the image processing unit 21 compares the threshold values Th1 and Th2 (Th1> Th2) set in advance with the reference value (S110, S112). If the reference value is larger than the threshold value Th1 (S110: YES), the image processing unit 21 uses the gamma value G1 for low definition stored in the storage unit 22 as the gamma correction processing unit 103 in FIG. (S111). When the reference value is equal to or smaller than the threshold Th1 and greater than the threshold Th2 (S110: NO, S112: YES), the image processing unit 21 uses the low-definition gamma value G2 stored in the storage unit 22, This is applied to the gamma correction processing unit 103 in FIG. 2 (S113). If the reference value is equal to or less than the threshold Th2 (S110: NO, S112: NO), the image processing unit 21 uses the normal definition gamma value G3 stored in the storage unit 22 as the gamma value in FIG. This is applied to the correction processing unit 103 (S114). The gamma correction processing unit 103 in FIG. 2 performs gamma correction based on the gamma value applied in this way.

しかる後、画像処理部21は、垂直同期信号の出力タイミングが終了したか否かを判定する(S115)。垂直同期信号の出力タイミングが終了すると(S115:YES)、画像処理部21は、処理をステップS101に戻して、次の垂直同期信号の出力タイミングの到来を待つ(S101)。そして、次の垂直同期信号の出力タイミングが到来すると(S101:YES)、画像処理部21は、再度、S102以降の処理を実行する。この処理は、撮像装置1の電源が遮断されるまで繰り返し実行される。   Thereafter, the image processing unit 21 determines whether or not the output timing of the vertical synchronization signal has ended (S115). When the output timing of the vertical synchronization signal ends (S115: YES), the image processing unit 21 returns the process to step S101 and waits for the arrival of the next vertical synchronization signal output timing (S101). Then, when the output timing of the next vertical synchronization signal arrives (S101: YES), the image processing unit 21 executes the processing subsequent to S102 again. This process is repeatedly executed until the power supply of the imaging apparatus 1 is cut off.

図8は、ガンマ値G1、G2、G3のガンマ特性を模式的に示す図である。   FIG. 8 is a diagram schematically showing the gamma characteristics of the gamma values G1, G2, and G3.

図8に示すように、ガンマ値G2は、ガンマ値G3に対して入力信号の低レベル側の範囲W2がゼロレベルの出力信号に補正され、且つ、ガンマ値G3に比べて入力信号の高レベル側がより早く最大レベルに接近するように設定されている。また、ガンマ値G1は、入力側の範囲W1がガンマ値G2の範囲W2に比べて広げられ、且つ、ガンマ値G2に比べて入力信号の高レベル側がより早く最大レベルに接近するように設定されている。   As shown in FIG. 8, the gamma value G2 is corrected such that the range W2 on the low level side of the input signal with respect to the gamma value G3 is corrected to a zero level output signal, and the input signal has a higher level than the gamma value G3. The side is set to approach the maximum level sooner. The gamma value G1 is set so that the input side range W1 is expanded compared to the gamma value G2 range W2, and the high level side of the input signal approaches the maximum level sooner than the gamma value G2. ing.

このようにガンマ値G1、G2を設定することにより、図5(a)、(b)を参照して説明したように、ガンマ値G2を適用してガンマ補正を行う場合の方が、通常のガンマ値G3を適用してガンマ補正を行う場合に比べ、撮像画像の鮮明度(コントラスト)が高められる。また、ガンマ値G1を適用してガンマ補正を行う場合には、ガンマ値G2を適用してガンマ補正を行う場合に比べて、さらに、撮像画像の鮮明度(コントラスト)が高められる。   By setting the gamma values G1 and G2 in this way, as described with reference to FIGS. 5A and 5B, the case of performing gamma correction by applying the gamma value G2 is more normal. The sharpness (contrast) of the captured image is improved as compared with the case where the gamma correction is performed by applying the gamma value G3. In addition, when performing gamma correction by applying the gamma value G1, the sharpness (contrast) of the captured image is further enhanced as compared to performing gamma correction by applying the gamma value G2.

したがって、図7のステップS110において、参照値が閾値Th1よりも大きい、すなわち、撮像画像の鮮明度低下が激しいと判定された場合には、ガンマ値G1をガンマ補正処理部103(図2参照)に適用してガンマ補正を行うことで、撮像画像の鮮明化を効果的に行うことができる。また、図7のステップS112において、参照値が閾値Th2よりも大きい、すなわち、撮像画像の鮮明度低下が中程度であると判定された場合には、ガンマ値G2をガンマ補正処理部103に適用してガンマ補正を行うことで、撮像画像に対し過剰な鮮明化処理を行うことなく効果的に、撮像画像の鮮明化を行うことができる。   Therefore, if it is determined in step S110 in FIG. 7 that the reference value is larger than the threshold value Th1, that is, it is determined that the sharpness reduction of the captured image is severe, the gamma value G1 is used as the gamma correction processing unit 103 (see FIG. 2). By applying gamma correction to the image, it is possible to effectively sharpen the captured image. In addition, when it is determined in step S112 in FIG. 7 that the reference value is larger than the threshold value Th2, that is, the sharpness reduction of the captured image is moderate, the gamma value G2 is applied to the gamma correction processing unit 103. By performing gamma correction, it is possible to effectively sharpen the captured image without performing excessive sharpening processing on the captured image.

図9は、撮像装置1を交差点に設置した場合の撮像画像を模式的に示す図である。   FIG. 9 is a diagram schematically illustrating a captured image when the imaging device 1 is installed at an intersection.

図9(a)は、雨や霧等の影響により撮像画像の鮮明度が低下した状態を示している。本実施形態では、上記のように、参照値の大きさ、すなわち、撮像画像の鮮明度低下のレベルに応じて適切なガンマ値が適用されるため、図9(b)のように、撮像画像の鮮明度が改善される。これにより、ユーザは、撮像画像により、信号機2、交差点3、人4および自動車5の状況を的確に確認することができる。   FIG. 9A shows a state in which the sharpness of the captured image is lowered due to the influence of rain, fog, or the like. In the present embodiment, as described above, an appropriate gamma value is applied according to the size of the reference value, that is, the level of sharpness reduction of the captured image, and thus the captured image is as illustrated in FIG. The sharpness of the image is improved. Thereby, the user can confirm correctly the condition of the traffic light 2, the intersection 3, the person 4, and the motor vehicle 5 with a captured image.

<実施形態の効果>
本実施形態によれば、以下の効果が奏される。
<Effect of embodiment>
According to this embodiment, the following effects are produced.

図7のステップS104、S107に示すように、撮像素子14から入力された信号に基づいて、撮像画像の鮮明さを表すパラメータ(輝度ヒストグラムの標準偏差)の基準値σRefが設定される。このため、設定された基準値σRefは、撮像対象の風景に応じたものとなる。たとえば、図9(a)、(b)に示すように、撮像装置1が交差点3を撮像するために設置された場合、基準値σRefは、交差点3の規模や信号機2の設置状況等、目標領域の風景(構造物のレイアウト等)に応じたものとなる。そして、こうして設定された基準値σRefと、その後の撮像時に取得される実測値(標準偏差σ)との差(参照値:σRef/σ)に基づいて、撮像画像に対する鮮明化処理が実行されるため、撮像対象の目標領域がどの程度不鮮明になったかを適正に識別することができ、鮮明化処理の誤動作を抑制することができる。このように、本実施形態に係る撮像装置1によれば、撮像画像の不鮮明さを自動で補正する場合の誤動作を抑制することができる。   As shown in steps S104 and S107 in FIG. 7, a reference value σRef of a parameter (standard deviation of luminance histogram) representing the sharpness of a captured image is set based on a signal input from the image sensor 14. For this reason, the set reference value σRef is in accordance with the scenery to be imaged. For example, as shown in FIGS. 9A and 9B, when the imaging apparatus 1 is installed to capture an intersection 3, the reference value σRef is a target such as the scale of the intersection 3 or the installation status of the traffic light 2. This corresponds to the scenery of the area (structure layout, etc.). Then, based on the difference (reference value: σRef / σ) between the reference value σRef set in this way and the actually measured value (standard deviation σ) acquired at the time of subsequent imaging, a sharpening process is performed on the captured image. Therefore, it is possible to properly identify how much the target area to be imaged is unclear, and it is possible to suppress the malfunction of the sharpening process. As described above, according to the imaging device 1 according to the present embodiment, it is possible to suppress malfunctions in the case of automatically correcting the unclearness of a captured image.

また、本実施形態に係る撮像装置によれば、基準値σRefと実測値(標準偏差σ)の差(参照値:σRef/σ)に応じて適正に鮮明化処理が実行されるため、別途、撮像画像が不鮮明になったか否かを検出する処理を行う必要がない。よって、本実施形態に係る撮像装置1によれば、簡素な処理により撮像画像の鮮明化を行うことができる。   Further, according to the imaging apparatus according to the present embodiment, the sharpening process is appropriately executed according to the difference (reference value: σRef / σ) between the reference value σRef and the actual measurement value (standard deviation σ). There is no need to perform processing for detecting whether or not the captured image has become blurred. Therefore, according to the imaging apparatus 1 according to the present embodiment, the captured image can be sharpened by a simple process.

また、本実施形態に係る撮像装置1では、図7のステップS105に示すように、入力部25を介してユーザからプリセットONモードの設定指示の入力を受け付けた場合に、画像処理部21が、撮像素子14からの信号に基づいて取得したパラメータの実測値(標準偏差σ)を基準値σRefとして記憶部22に記憶させるよう構成されている。このため、ユーザは、目標領域が鮮明であるタイミングでプリセットONモードの設定指示を入力することで、鮮明な撮像画像に基づく標準偏差σを基準値σRefに設定することができる。これにより、目標領域が不鮮明であるタイミングで基準値が取得され設定されることを円滑に回避できる。よって、撮像画像の不鮮明さを自動で補正する場合の誤動作を、より確実に抑制することができる。   Moreover, in the imaging device 1 according to the present embodiment, when receiving an input of a preset ON mode setting instruction from the user via the input unit 25 as illustrated in step S105 in FIG. The measured value (standard deviation σ) of the parameter acquired based on the signal from the image sensor 14 is stored in the storage unit 22 as the reference value σRef. For this reason, the user can set the standard deviation σ based on a clear captured image as the reference value σRef by inputting a preset ON mode setting instruction at a timing when the target area is clear. Thereby, it is possible to smoothly avoid the reference value being acquired and set at a timing when the target area is unclear. Therefore, it is possible to more reliably suppress a malfunction when the unclearness of the captured image is automatically corrected.

また、本実施形態に係る撮像装置1では、実測値(標準偏差σ)に基づく基準値σRefが設定される前に、予め汎用的な基準値σ0が記憶部22に記憶されている。そして、図7のステップS105〜S108に示すように、画像処理部21は、プリセットONモードが設定されている場合は、実測値に基づく基準値σRefを取得して鮮明化処理を実行し、プリセットONモードが設定されていない場合は、汎用的な基準値σ0に基づいて鮮明化処理を実行する。このため、たとえば、撮像装置1の起動時が曇天である場合等、基準値σRefの設定に適した鮮明な撮像画像が得られないためにプリセットONモードが設定されていない場合にも、汎用的な基準値σ0を用いて鮮明化処理を実行することができる。   In the imaging apparatus 1 according to the present embodiment, the general-purpose reference value σ0 is stored in the storage unit 22 in advance before the reference value σRef based on the actual measurement value (standard deviation σ) is set. Then, as shown in steps S105 to S108 in FIG. 7, when the preset ON mode is set, the image processing unit 21 acquires the reference value σRef based on the actual measurement value, executes the sharpening process, and performs the presetting. When the ON mode is not set, the sharpening process is executed based on the general-purpose reference value σ0. For this reason, even when the preset ON mode is not set because a clear captured image suitable for the setting of the reference value σRef cannot be obtained, for example, when the imaging apparatus 1 is activated at a cloudy day The sharpening process can be executed using a large reference value σ0.

また、本実施形態に係る撮像装置1では、図7のステップS110〜S114に示すように、参照値の大きさに基づいて、撮像画像を鮮明化するための調整値(ガンマ値G1〜G3)を切り替えるよう構成されているため、撮像画像のコントラストを簡易な処理により円滑に、鮮明化に適する状態に調整することができる。   Further, in the imaging apparatus 1 according to the present embodiment, as shown in steps S110 to S114 in FIG. 7, adjustment values (gamma values G1 to G3) for sharpening the captured image based on the size of the reference value. Therefore, the contrast of the captured image can be smoothly adjusted to a state suitable for sharpening by simple processing.

なお、本実施形態に係る撮像装置1では、撮像画像の鮮明さを表すパラメータとして、撮像素子14から出力される1画像分の信号から取得した輝度の標準偏差σを用いたため、図3(a)、(b)を参照して説明したように、撮像画像の不鮮明さを的確に把握することができる。   In the imaging apparatus 1 according to the present embodiment, the luminance standard deviation σ acquired from the signal for one image output from the imaging element 14 is used as a parameter representing the sharpness of the captured image. As described with reference to (b) and (b), it is possible to accurately grasp the unclearness of the captured image.

<変更例>
上記実施形態では、ガンマ補正処理部103に適用されるガンマ値を調整することにより撮像画像の鮮明化が行われたが、撮像画像の鮮明化処理はこれに限られるものではない。たとえば、鮮明化を行うための鮮明化処理エンジンを搭載する撮像装置では、鮮明化処理エンジンに設定するパラメータ値を調整することにより、撮像画像の鮮明化が行われてもよい。
<Example of change>
In the above-described embodiment, the captured image is sharpened by adjusting the gamma value applied to the gamma correction processing unit 103, but the captured image sharpening process is not limited to this. For example, in an imaging apparatus equipped with a sharpening processing engine for sharpening, a captured image may be sharpened by adjusting a parameter value set in the sharpening processing engine.

また、上記実施形態では、鮮明度が低い撮像画像の補正用に2つのガンマ値G1、G2が準備されたが、鮮明化処理に用いるガンマ値の種類はこれに限られるものではない。たとえば、図7のフローチャートにおいて、参照値と比較する閾値を3つ以上設定して、鮮明化処理に用いるガンマ値を3つ以上設定してもよい。こうすると、より的確な鮮明化処理を実現できる。あるいは、閾値を1つとして、ガンマ値を1つとすることも可能である。   In the above-described embodiment, two gamma values G1 and G2 are prepared for correcting a captured image with low sharpness, but the type of gamma value used for the sharpening process is not limited to this. For example, in the flowchart of FIG. 7, three or more threshold values to be compared with the reference value may be set, and three or more gamma values used for the sharpening process may be set. In this way, more accurate sharpening processing can be realized. Alternatively, it is possible to set one threshold and one gamma value.

また、上記実施形態では、参照値を基準値σRefと実測値(標準偏差σ)との比としたが、参照値はこれに限られるものではなく、基準値から実測値がどれほど相違しているかを表す値であれば如何なる値であってもよい。たとえば、基準値σRefから実測値(標準偏差σ)を減算して得た値を参照値として用いてもよい。   In the above embodiment, the reference value is the ratio between the standard value σRef and the actual measurement value (standard deviation σ). However, the reference value is not limited to this, and how much the actual measurement value differs from the standard value. Any value may be used as long as it represents a value. For example, a value obtained by subtracting an actual measurement value (standard deviation σ) from the standard value σRef may be used as the reference value.

また、上記実施形態では、撮像画像の鮮明度を表すパラメータとして、輝度ヒストグラムの分散を用いたが、撮像画像の鮮明度を表すパラメータはこれに限られるものではない。また、撮像画像の鮮明度を表すパラメータは、必ずしも1種類に限られるものではなく、2種類以上のパラメータを組み合わせて撮像画像の鮮明度を判定してもよい。   In the above embodiment, the variance of the luminance histogram is used as a parameter representing the sharpness of the captured image, but the parameter representing the sharpness of the captured image is not limited to this. Further, the parameter representing the sharpness of the captured image is not necessarily limited to one type, and the sharpness of the captured image may be determined by combining two or more types of parameters.

また、上記実施形態では、垂直同期信号に同期して鮮明化処理に用いる値(ガンマ値)の更新が行われたが、かかる更新が行われるタイミングは、これに限られるものではない。たとえば、所定の時間(たとえば、数秒〜数十秒)毎に鮮明化処理に用いる値の更新が行われてもよく、あるいは、日時と照度から天候の変化を検出したタイミングで、かかる更新を行ってもよい。   In the above embodiment, the value (gamma value) used for the sharpening process is updated in synchronization with the vertical synchronization signal. However, the timing at which the update is performed is not limited to this. For example, the value used for the sharpening process may be updated every predetermined time (for example, several seconds to several tens of seconds), or such update is performed at the timing when a change in weather is detected from the date and time and illuminance. May be.

また、撮像装置1のブロック構成は、図1に示す構成に限られるものではなく、種々の変更が可能である。また、画像処理部21は、ハードウエア(回路)で構成されてもよく、あるいは、ソフトウエアで構成されてもよい。また、撮像装置1は、街路や交差点を撮像する監視カメラの他、種々の用途に用い得る。   In addition, the block configuration of the imaging apparatus 1 is not limited to the configuration illustrated in FIG. 1, and various changes can be made. Further, the image processing unit 21 may be configured by hardware (circuit) or may be configured by software. Moreover, the imaging device 1 can be used for various purposes in addition to a monitoring camera that images streets and intersections.

この他、本発明の実施形態は、特許請求の範囲に示された技術的思想の範囲内において、適宜、種々の変更が可能である。   In addition, the embodiment of the present invention can be variously modified as appropriate within the scope of the technical idea shown in the claims.

1 … 撮像装置
10 … 撮像部
21 … 画像処理部
22 … 記憶部
DESCRIPTION OF SYMBOLS 1 ... Imaging device 10 ... Imaging part 21 ... Image processing part 22 ... Memory | storage part

Claims (6)

目標領域からの光を撮像素子に結像させる撮像部と、
前記撮像素子から出力される信号を処理して映像情報を出力する画像処理部と、
撮像画像の鮮明さを表す所定のパラメータの基準値を記憶する記憶部と、を備え、
前記画像処理部は、前記撮像素子から入力された信号に基づいて前記パラメータの実測値を取得し、所定のタイミングで取得した実測値を前記基準値として前記記憶部に記憶させ、その後に取得した実測値と前記記憶部に記憶された基準値との差に基づいて、撮像画像に対する鮮明化処理を実行する、ことを特徴とする撮像装置。
An imaging unit that focuses light from the target region on the imaging device;
An image processing unit that processes video signals output from the image sensor and outputs video information;
A storage unit that stores a reference value of a predetermined parameter that represents the sharpness of the captured image,
The image processing unit acquires an actual measurement value of the parameter based on a signal input from the image sensor, stores the actual measurement value acquired at a predetermined timing in the storage unit as the reference value, and then acquired An image pickup apparatus that executes a sharpening process on a picked-up image based on a difference between an actual measurement value and a reference value stored in the storage unit.
請求項1に記載の撮像装置において、
前記画像処理部は、設定指示の入力を受け付けた場合に、前記撮像素子からの信号に基づいて取得した前記パラメータの実測値を前記基準値として前記記憶部に記憶させる、ことを特徴とする撮像装置。
The imaging device according to claim 1,
The image processing unit, when receiving an input of a setting instruction, stores the measured value of the parameter acquired based on a signal from the image sensor as the reference value in the storage unit. apparatus.
請求項1または2に記載の撮像装置において、
前記記憶部は、実測値に基づく第1の基準値とは別に予め第2の基準値を記憶し、
前記画像処理部は、実測値に基づく前記第1の基準値を用いるモードが設定されている場合は、実測値に基づき前記第1の基準値を取得して前記鮮明化処理を実行し、前記モードが設定されていない場合は、前記第2の基準値に基づいて前記鮮明化処理を実行する、ことを特徴とする撮像装置。
The imaging device according to claim 1 or 2,
The storage unit stores a second reference value in advance separately from the first reference value based on the actual measurement value,
When the mode using the first reference value based on the actual measurement value is set, the image processing unit acquires the first reference value based on the actual measurement value and executes the sharpening process, An image pickup apparatus, wherein when the mode is not set, the sharpening process is executed based on the second reference value.
請求項1ないし3の何れか一項に記載の撮像装置において、
前記画像処理部は、前記実測値と前記基準値との差に基づいて、撮像画像を鮮明化するための調整値を切り替える、ことを特徴とする撮像装置。
In the imaging device according to any one of claims 1 to 3,
The image processing unit switches an adjustment value for sharpening a captured image based on a difference between the actual measurement value and the reference value.
請求項4に記載の撮像装置において、
前記調整値は、前記撮像素子から出力される信号に対しガンマ補正を行うための値である、ことを特徴とする撮像装置。
The imaging apparatus according to claim 4,
The image pickup apparatus, wherein the adjustment value is a value for performing gamma correction on a signal output from the image pickup device.
請求項1ないし5の何れか一項に記載の撮像装置において、
撮像画像の鮮明さを表す前記パラメータは、前記撮像素子から出力される1画像分の信号から取得した輝度の標準偏差である、ことを特徴とする撮像装置。
In the imaging device according to any one of claims 1 to 5,
The imaging device, wherein the parameter representing the sharpness of a captured image is a standard deviation of luminance acquired from a signal for one image output from the imaging device.
JP2015181214A 2015-09-14 2015-09-14 Imaging device Pending JP2017059905A (en)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2015181214A JP2017059905A (en) 2015-09-14 2015-09-14 Imaging device
KR1020160063958A KR20170032158A (en) 2015-09-14 2016-05-25 Imaging apparatus
TW105117864A TW201711442A (en) 2015-09-14 2016-06-06 Photographic device capable of restraining an accidental operation by a simple process when automatically calibrating the low resolution of a photographed picture
CN201610602503.5A CN106534663A (en) 2015-09-14 2016-07-27 Imaging apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015181214A JP2017059905A (en) 2015-09-14 2015-09-14 Imaging device

Publications (1)

Publication Number Publication Date
JP2017059905A true JP2017059905A (en) 2017-03-23

Family

ID=58344283

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015181214A Pending JP2017059905A (en) 2015-09-14 2015-09-14 Imaging device

Country Status (4)

Country Link
JP (1) JP2017059905A (en)
KR (1) KR20170032158A (en)
CN (1) CN106534663A (en)
TW (1) TW201711442A (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108932847B (en) * 2017-05-23 2020-08-28 杭州海康威视数字技术股份有限公司 Method and device for collecting signal lamp image
JP7127297B2 (en) * 2018-02-23 2022-08-30 オムロン株式会社 image sensor

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6227266B2 (en) 2013-03-27 2017-11-08 株式会社日立国際電気 Monitoring system

Also Published As

Publication number Publication date
KR20170032158A (en) 2017-03-22
TW201711442A (en) 2017-03-16
CN106534663A (en) 2017-03-22

Similar Documents

Publication Publication Date Title
CN110536051B (en) Image pickup apparatus, control method thereof, and storage medium
US20170330053A1 (en) Color night vision system and operation method thereof
JP6029954B2 (en) Imaging device
KR101367637B1 (en) Monitoring apparatus
JP5071198B2 (en) Signal recognition device, signal recognition method, and signal recognition program
US20140085473A1 (en) In-vehicle camera apparatus
JP6531542B2 (en) IMAGE PROCESSING SYSTEM, IMAGE PROCESSING DEVICE, IMAGING DEVICE, IMAGE PROCESSING METHOD, PROGRAM, AND RECORDING MEDIUM
KR20130139788A (en) Imaging apparatus which suppresses fixed pattern noise generated by an image sensor of the apparatus
KR102333707B1 (en) A low-light imaging system
JP2017059905A (en) Imaging device
JP7091031B2 (en) Imaging device
JP4523629B2 (en) Imaging device
JP2017059904A (en) Imaging device
JP6478138B2 (en) Image processing apparatus, imaging apparatus, image processing program, and image processing method
JP6525723B2 (en) Imaging device, control method therefor, program, and storage medium
KR20120055824A (en) Image acquiring method of vehicle camera system
JP2010178036A (en) Imaging apparatus and imaging method
EP3389257A1 (en) Method for adapting brightness of image data, image capturing system and advanced driver assistance system
JP6561479B2 (en) Imaging device capable of color shading correction
KR101691043B1 (en) Closed circuit television camera for color image at night using infrared light
JP6906084B2 (en) Color camera device and optical parts
US20160344932A1 (en) Omnidirectional camera system
JP2009077279A (en) Image recognizing apparatus, on-vehicle image recognizing apparatus, and on-vehicle image recognition method
JP2017182331A (en) Vehicle license number recognition device
JP2017151930A (en) White line recognition device