JP5668951B2 - Image input device - Google Patents

Image input device Download PDF

Info

Publication number
JP5668951B2
JP5668951B2 JP2013236827A JP2013236827A JP5668951B2 JP 5668951 B2 JP5668951 B2 JP 5668951B2 JP 2013236827 A JP2013236827 A JP 2013236827A JP 2013236827 A JP2013236827 A JP 2013236827A JP 5668951 B2 JP5668951 B2 JP 5668951B2
Authority
JP
Japan
Prior art keywords
pixel
saturated
image
signal
color
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013236827A
Other languages
Japanese (ja)
Other versions
JP2014060779A (en
Inventor
清 高
清 高
洪 博哲
博哲 洪
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Konica Minolta Inc
Original Assignee
Konica Minolta Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Konica Minolta Inc filed Critical Konica Minolta Inc
Priority to JP2013236827A priority Critical patent/JP5668951B2/en
Publication of JP2014060779A publication Critical patent/JP2014060779A/en
Application granted granted Critical
Publication of JP5668951B2 publication Critical patent/JP5668951B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/12Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/86Camera processing pipelines; Components thereof for processing colour signals for controlling the colour saturation of colour signals, e.g. automatic chroma control circuits

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Color Television Image Signal Generators (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)
  • Image Input (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

本発明は、撮像素子を備えた画像入力装置に関し、特に撮像素子の画素が飽和した場合でも、適切な画像を形成できる画像入力装置に関するものである。   The present invention relates to an image input device including an image sensor, and more particularly to an image input device capable of forming an appropriate image even when pixels of the image sensor are saturated.

近年、夜間のシーンをカラーで撮像する撮像装置が開発されており、更に監視カメラや、夜間走行時のドライバーの視覚をサポートする運転支援システムとして車両に搭載する研究などが行われている。しかし、一般的には撮像素子のダイナミックレンジに限度があるので、ハロゲン光の信号や車のランプなど輝度の高い発光体を撮像する際に、撮像素子のいずれかの画素が飽和してしまい、各色成分の値がともに最大値になり、色度信号が失われる場合がある。一旦、色度信号が失われてしまうと、カラー画像を適切に形成できなくなる。   In recent years, imaging devices that capture night scenes in color have been developed, and research is also being carried out on vehicles such as surveillance cameras and driving support systems that support driver vision during night driving. However, in general, since there is a limit to the dynamic range of the image sensor, when imaging a bright light emitter such as a halogen light signal or a car lamp, any pixel of the image sensor is saturated, The value of each color component becomes the maximum value, and the chromaticity signal may be lost. Once the chromaticity signal is lost, a color image cannot be formed properly.

これに対し特許文献1には、道路のカラー画像を取得し、該道路の路面標示を検出し、画像内で路面標示が含まれる領域である路面標示領域を特定し、路面標示領域の信号が、該信号の出力範囲内で設定された所定レベル以上であるときには、該信号が飽和していると判定して、所定時点の制御サイクルにおいて、次の制御サイクルにおける撮像手段の露出量を減少させる技術が開示されている。   On the other hand, Patent Document 1 acquires a color image of a road, detects a road marking of the road, specifies a road marking area that includes the road marking in the image, and a signal of the road marking area is obtained. When the signal level is equal to or higher than a predetermined level set within the output range of the signal, it is determined that the signal is saturated, and the exposure amount of the imaging unit in the next control cycle is decreased in the control cycle at a predetermined time point. Technology is disclosed.

特開2007−28279号公報JP 2007-28279 A

しかるに、特許文献1の従来技術によれば、露出量を減少させることで、飽和領域の色再現が改善されるが、飽和していない領域では露出量の減少により暗くなってしまい、全体的にカラー画像として不適切となる恐れがある。   However, according to the prior art of Patent Document 1, by reducing the exposure amount, the color reproduction in the saturated region is improved, but in a region that is not saturated, the exposure amount is reduced due to a decrease in the exposure amount. There is a risk of becoming inappropriate as a color image.

本発明は、上述の問題に鑑みてなされたものであり、画素が飽和した場合でも、適切なカラー画像作成に必要な情報を得ることができる画像入力装置を提供することを目的とする。   The present invention has been made in view of the above-described problems, and an object of the present invention is to provide an image input device that can obtain information necessary for creating an appropriate color image even when pixels are saturated.

請求項1に記載の画像入力装置は、
被写体像を撮像し、それに応じてカラー画像信号を出力する複数の画素を備えた撮像手段と、
前記撮像手段が出力したカラー画像信号を画像処理する処理手段と、
前記撮像手段のいずれかの画素が飽和したことを検出する検出手段と、を有し、
前記検出手段が、前記撮像手段の撮像により、前記撮像手段のいずれかの画素が飽和したことを検出したときは、前記処理手段は、飽和した飽和画素の周囲に配置された周囲画素より出力されたカラー画像信号に基づいて、前記飽和画素が出力したカラー画像信号を補正し、
前記周囲画素はフレア成分を検出し、前記処理手段は、前記周囲画素から出力されたカラー画像信号の色度座標と、所定の色度座標系の原点との相対関係から、前記飽和画素が出力したカラー画像信号の色度座標を推定して補正することを特徴とする。
An image input device according to claim 1 is provided.
An imaging means comprising a plurality of pixels for capturing a subject image and outputting a color image signal in response thereto;
Processing means for performing image processing on a color image signal output by the imaging means;
Detecting means for detecting that any pixel of the imaging means is saturated,
When the detection unit detects that any pixel of the imaging unit is saturated by the imaging of the imaging unit, the processing unit is output from surrounding pixels arranged around the saturated saturated pixel. Based on the color image signal, the color image signal output from the saturated pixel is corrected ,
The surrounding pixel detects a flare component, and the processing means outputs the saturated pixel from the relative relationship between the chromaticity coordinates of the color image signal output from the surrounding pixel and the origin of a predetermined chromaticity coordinate system. The chromaticity coordinates of the color image signal thus obtained are estimated and corrected .

本発明によれば、前記検出手段が、前記撮像手段の撮像により、前記撮像手段のいずれかの画素が飽和したことを検出したときは、前記処理手段は、飽和した飽和画素の周囲に配置された周囲画素より出力されたカラー画像信号に基づいて、前記飽和画素が出力したカラー画像信号を補正するので、周囲画素より出力されたカラー画像信号から、飽和画素が撮像すべき被写体像の本来の色を推定でき、それにより適切なカラー画像を形成することができる。尚、「周囲画素」とは、飽和画素に隣接する非飽和画素、並びに飽和画素から5画素以内の非飽和画素も含む。   According to the present invention, when the detection unit detects that any pixel of the imaging unit is saturated by the imaging of the imaging unit, the processing unit is arranged around the saturated saturated pixel. Since the color image signal output from the saturated pixel is corrected based on the color image signal output from the surrounding pixel, the original image of the subject image to be captured by the saturated pixel is extracted from the color image signal output from the surrounding pixel. The color can be estimated and thereby an appropriate color image can be formed. The “surrounding pixel” includes a non-saturated pixel adjacent to the saturated pixel and a non-saturated pixel within 5 pixels from the saturated pixel.

前記周囲画素はフレア成分を検出し、前記処理手段は、前記周囲画素から出力されたカラー画像信号の色度座標と、所定の色度座標系の原点との相対関係から、前記飽和画素が出力したカラー画像信号の色度座標を推定して補正する。これにより、飽和画素の周囲に広がるフレア成分を用いて、飽和画素が撮像すべき被写体像の本来の色を推定でき、それにより適切なカラー画像を形成することができる。尚、「色度座標系の原点」とは、予め指定された色度座標系の白色領域内の任意の点をいう。
The surrounding pixel detects a flare component, and the processing means outputs the saturated pixel from the relative relationship between the chromaticity coordinates of the color image signal output from the surrounding pixel and the origin of a predetermined chromaticity coordinate system. The chromaticity coordinates of the color image signal thus obtained are estimated and corrected . Accordingly, the original color of the subject image to be captured by the saturated pixel can be estimated using the flare component spreading around the saturated pixel, thereby forming an appropriate color image. The “origin of the chromaticity coordinate system” refers to an arbitrary point in the white area of the chromaticity coordinate system designated in advance.

請求項に記載の画像入力装置は、前記処理手段は、前記飽和画素と前記周囲画素から出力されたカラー画像信号を、平滑化フィルタを通過させ、平滑化された信号を用いて前記飽和画素が出力したカラー画像信号を補正することを特徴とする。これにより、飽和画素と周囲画素の信号を平均化して、飽和画素が撮像すべき被写体像の本来の色を推定できる。平滑化フィルタは、例えばWO2006/129529号明細書に記載されたものを用いることができる。
The image input apparatus according to claim 2 , wherein the processing unit passes a color image signal output from the saturated pixel and the surrounding pixels through a smoothing filter, and uses the smoothed signal to output the saturated pixel. The color image signal output from is corrected. As a result, the signals of the saturated pixel and the surrounding pixels are averaged, and the original color of the subject image to be captured by the saturated pixel can be estimated. As the smoothing filter, for example, those described in WO 2006/129529 can be used.

なお、別の画像入力装置は、
被写体像を撮像し、それに応じてカラー画像信号を出力する複数の画素を備えた撮像手段と、
前記撮像手段が出力したカラー画像信号を画像処理する処理手段と、
前記撮像手段のいずれかの画素が飽和したことを検出する検出手段と、を有し、
前記処理手段は、特定間隔で並んだ3つの円形パターンを記憶しており、前記検出手段が、前記撮像手段の撮像により、得られた画像において前記3つの円形パターンが認識され、且つ1つの円形パターンに応じて前記撮像手段のいずれかの画素が飽和したことを検出した場合には、飽和した画素の位置が3つの円形パターンのいずれかに対応するかによって、飽和した画素の受光した光の色が青色、黄色、赤色のうちの1色と推定することを特徴とする。
Another image input device is
An imaging means comprising a plurality of pixels for capturing a subject image and outputting a color image signal in response thereto;
Processing means for performing image processing on a color image signal output by the imaging means;
Detecting means for detecting that any pixel of the imaging means is saturated,
The processing means stores three circular patterns arranged at specific intervals, and the detection means recognizes the three circular patterns in the obtained image by imaging by the imaging means, and one circular pattern. When it is detected that one of the pixels of the imaging unit is saturated according to the pattern, the light received by the saturated pixel depends on whether the position of the saturated pixel corresponds to one of the three circular patterns. The color is estimated to be one of blue, yellow, and red.

例えば車両管制用の信号機は、形状パターンや色の並び順が各国毎に定まっている。そこで、前記処理手段が、特定間隔で並んだ青色、黄色、赤色の円形パターンを記憶していれば、前記検出手段が、前記撮像手段の撮像により、得られた画像において前記3つの円形パターンが認識され、且つ1つの円形パターンに応じて前記撮像手段のいずれかの画素が飽和したことを検出した場合には、被写体像が車両管制用の信号機であると認定して、飽和した画素の位置が3つの円形パターンのいずれかに対応するかによって、飽和した画素の受光した光の色が青色、黄色、赤色のうちの1色と推定するため、かかる情報に基づいて前記撮像素子からのカラー画像信号を補正することで、適切なカラー画像を得ることができる。尚、「特定間隔」とは、青色円、黄色円、赤色円の径に対して、一定の割合で決定された間隔をいう。   For example, in traffic signals for vehicle control, the order of arrangement of shape patterns and colors is determined for each country. Therefore, if the processing means stores blue, yellow, and red circular patterns arranged at specific intervals, the detection means can detect the three circular patterns in an image obtained by imaging by the imaging means. If it is recognized and it is detected that any pixel of the imaging means is saturated according to one circular pattern, the subject image is recognized as a traffic signal for vehicle control, and the position of the saturated pixel is determined. Since the color of light received by a saturated pixel is estimated to be one of blue, yellow, and red depending on which one of the three circular patterns corresponds to, the color from the image sensor based on such information An appropriate color image can be obtained by correcting the image signal. The “specific interval” means an interval determined at a certain ratio with respect to the diameters of the blue circle, the yellow circle, and the red circle.

本発明によれば、画素が飽和した場合でも、適切なカラー画像作成に必要な情報を得ることができる画像入力装置を提供することができる。   ADVANTAGE OF THE INVENTION According to this invention, even when a pixel is saturated, the image input apparatus which can obtain information required for appropriate color image preparation can be provided.

第1の実施の形態に係る画像入力装置MGの概略図である。It is the schematic of the image input device MG which concerns on 1st Embodiment. 画像入力装置MGにより撮像した画像の一例を示す図である。It is a figure which shows an example of the image imaged with the image input device MG. 飽和画素と高輝度画素の重なり具合を示す図である。It is a figure which shows the overlapping condition of a saturated pixel and a high-intensity pixel. 複数枚の画像からなる一連のフレームを示す図である。It is a figure showing a series of frames which consist of a plurality of pictures. 第2の実施の形態に係る画像入力装置MGの概略図である。It is the schematic of the image input device MG which concerns on 2nd Embodiment. 色度座標を示す図である。It is a figure which shows chromaticity coordinates. 第3の実施の形態に係る画像入力装置MGの概略図である。It is the schematic of the image input device MG which concerns on 3rd Embodiment.

(第1の実施の形態)
以下、図面を参照して本発明の実施の形態を詳細に説明する。図1は、第1の実施の形態に係る画像入力装置MGの概略図である。かかる画像入力装置MGは、車載カメラに用いることができるが、用途はそれに限られず、例えば監視カメラであっても良い。画像入力装置MGは、レンズ101、撮像手段である撮像素子102(A/D変換部を含む),画像取得回路103、撮像枚数カウント回路104,露光量算出回路105、露光量制御回路106,検出手段である飽和/高輝度領域検出回路107,処理手段である飽和領域色補正回路108を備えている。
(First embodiment)
Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings. FIG. 1 is a schematic diagram of an image input device MG according to the first embodiment. Such an image input device MG can be used for an in-vehicle camera, but the application is not limited thereto, and may be a surveillance camera, for example. The image input device MG includes a lens 101, an image pickup device 102 (including an A / D conversion unit) that is an image pickup unit, an image acquisition circuit 103, an image pickup number count circuit 104, an exposure amount calculation circuit 105, an exposure amount control circuit 106, and a detection. A saturation / high luminance area detection circuit 107 as a means and a saturation area color correction circuit 108 as a processing means are provided.

レンズ101を介して入射した被写体像は、不図示のRGBカラーフィルタを介して撮像素子102の複数の画素に結像する。これによりアナログのカラー画像信号を発生させるので、A/D変換部を介してデジタルのカラー画像信号に変換されて出力される。かかるカラー画像信号は、画像取得回路103に入力されてフレーム毎に1枚の画像を形成され、これに基づき撮像枚数カウント回路104で撮像枚数(撮像回数)がカウントされる、又,露光量算出回路105で露光量が算出され、これに基づき露光量制御回路106は,撮像素子102の露光量(シャッタスピード)を制御するようになっている。一方、画像取得回路103からの信号に基づいて、飽和/高輝度領域検出回路107で,飽和画素と高輝度画素とが検出され、更に飽和領域色補正回路108で、飽和画素からのカラー画像信号が補正され、不図示のディスプレイを介して表示されたり、不図示のメモリ等に記憶されるようになっている。   A subject image incident through the lens 101 is formed on a plurality of pixels of the image sensor 102 through an RGB color filter (not shown). As a result, an analog color image signal is generated, which is converted into a digital color image signal via the A / D converter and output. The color image signal is input to the image acquisition circuit 103 to form one image for each frame, and based on this, the number of images (number of times of imaging) is counted by the number-of-images counting circuit 104, and the exposure amount is calculated. The exposure amount is calculated by the circuit 105, and based on this, the exposure amount control circuit 106 controls the exposure amount (shutter speed) of the image sensor 102. On the other hand, based on the signal from the image acquisition circuit 103, the saturation / high luminance region detection circuit 107 detects the saturated pixel and the high luminance pixel, and the saturation region color correction circuit 108 further detects the color image signal from the saturation pixel. Is corrected and displayed via a display (not shown) or stored in a memory (not shown).

次に、画像入力装置MGの具体的な画像処理(以下、補間画像処理という)について説明する。例えば図2に示すように、夜間のシーンにおいて、周囲が暗い中で、ハロゲン光を発する赤信号SRや自動車VHのブレーキランプBLなどの高輝度発光体を撮像すると、その被写体像が結像した画素は飽和する可能性が高い。しかしながら、画素が飽和すると色情報が失われてしまい、赤信号やブレーキランプの点灯を検出できないという問題がある。そこで、本実施の形態にかかる画像入力装置MGは、以下のように補間画像処理を行う。   Next, specific image processing (hereinafter referred to as interpolation image processing) of the image input device MG will be described. For example, as shown in FIG. 2, in a night scene, a subject image is formed when a high-luminance illuminant such as a red signal SR that emits halogen light or a brake lamp BL of an automobile VH is imaged in a dark environment. The pixel is likely to be saturated. However, when the pixel is saturated, the color information is lost, and there is a problem that the red signal and the lighting of the brake lamp cannot be detected. Therefore, the image input device MG according to the present embodiment performs interpolation image processing as follows.

まず、予め設定された通常の第1のシャッタスピード(第1の露光量)で1枚の画像Img0を撮像する。このとき、画像取得回路103から、画像Img0に対応したカラー画像信号が出力される。かかるカラー画像信号を入力した飽和/高輝度領域検出回路107は、信号が飽和した飽和画素の有無を検出し、飽和画素がある場合には、撮像面上における飽和画素の座標を検出する。飽和画素としては、画素から出力される信号値(例えばR、G、B値)が最大値であるものを選択する。又、飽和画素に隣接している飽和画素がある場合、その全数nをカウントする。なお、画素から出力される信号値が最大値である画素のみならず、信号値が飽和闘値(例えばR、G、B値が最大値の95%)以上の画素を飽和画素としてもよい。但し、飽和画素として認定するのは、信号値が飽和闘値以上の画素が所定数以上(例えばn≧5)連続して並んでいる場合とする。これは白キズなどを誤って飽和画素として判別することを回避するためである。   First, a single image Img0 is captured at a preset normal first shutter speed (first exposure amount). At this time, the image acquisition circuit 103 outputs a color image signal corresponding to the image Img0. The saturated / high luminance area detection circuit 107 to which such a color image signal is input detects the presence or absence of a saturated pixel in which the signal is saturated, and if there is a saturated pixel, detects the coordinates of the saturated pixel on the imaging surface. As the saturated pixel, a pixel having a maximum signal value (for example, R, G, B value) output from the pixel is selected. When there are saturated pixels adjacent to the saturated pixels, the total number n is counted. Note that not only a pixel having a maximum signal value output from the pixel but also a pixel having a signal value equal to or higher than a saturation threshold (for example, R, G, and B values are 95% of the maximum value) may be a saturated pixel. However, the pixel is recognized as a saturated pixel when a predetermined number or more (for example, n ≧ 5) of pixels having a signal value equal to or higher than the saturation threshold are continuously arranged. This is to avoid erroneously determining white scratches as saturated pixels.

次いで、画像入力装置MGは、露光量制御回路106の制御により、第1のシャッタスピードより速い第2のシャッタスピード(第1の露光量より少ない第2の露光量)を設定し、1枚の画像Img1を撮像する。ここで、第2のシャッタスピードは、実験やシミュレーション等により、点灯した赤信号やブレーキランプを撮像しても飽和画素が発生しないと予めわかっているシャッタスピードとしても良いし、シャッタスピードを漸次速く(1/2,1/4、1/8・・・)しながら複数回の撮像を行って、その都度飽和画素を検出し、最初に飽和画素が検出されなくなった撮像におけるシャッタスピードを第2のシャッタスピードとしても良い。   Next, the image input device MG sets a second shutter speed (second exposure amount smaller than the first exposure amount) faster than the first shutter speed under the control of the exposure amount control circuit 106, and sets one sheet. An image Img1 is captured. Here, the second shutter speed may be a shutter speed that is known in advance that saturated pixels are not generated even if an image of a lit red signal or a brake lamp is captured by experiment or simulation, or the shutter speed is gradually increased. (1/2, 1/4, 1/8...), A plurality of times of imaging are performed, a saturated pixel is detected each time, and a shutter speed in imaging where no saturated pixel is first detected is set to the second. It is good also as shutter speed of.

更に、飽和/高輝度領域検出回路107が、第2のシャッタスピードで撮像を行って得られたカラー画像信号より、信号値が高輝度闘値(飽和閾値より低く、例えばR、G、B値が最大値の95%未満、80%以上)以上の画素を高輝度画素として、その座標を検出する。但し、高輝度画素として認定するのは、信号値が高輝度闘値以上の画素が所定数以上(例えばn≧5)連続して並んでいる場合とする。   Further, the signal value of the saturation / high luminance area detection circuit 107 is higher than the luminance threshold value (lower than the saturation threshold, for example, R, G, B values) from the color image signal obtained by imaging at the second shutter speed. Is a pixel with a luminance of less than 95% of the maximum value and 80% or more), and the coordinates thereof are detected. However, the high luminance pixel is recognized as a case where a predetermined number or more (for example, n ≧ 5) of pixels having a signal value equal to or higher than the high luminance threshold value are continuously arranged.

次に、画像入力装置MGは、シャッタスピードを第1のシャッタスピードに戻して撮像を行い、画像Img2を得る。例えば車載カメラに組み込まれた画像入力装置MGの場合、画像Img2と画像Img0との違いは、例えば車両の移動に応じて撮像シーンが変化することが主要因となって生じる。よって、シーン変化が少ない場合、画像Img2を新たに撮像する代わりに、既に撮像した画像Img0を用いても良い。   Next, the image input device MG performs imaging by returning the shutter speed to the first shutter speed, and obtains an image Img2. For example, in the case of the image input device MG incorporated in an in-vehicle camera, the difference between the image Img2 and the image Img0 is mainly caused by, for example, the imaging scene changing according to the movement of the vehicle. Therefore, when the scene change is small, the image Img0 that has already been captured may be used instead of newly capturing the image Img2.

次に、飽和/高輝度領域検出回路107は、第1のシャッタスピードで撮像して得られた画像Img2(又は画像Img0)と、第2のシャッタスピードで撮像して得られた画像Img1から、撮像面における飽和画素と高輝度画素の座標を比較する。同じ座標を持つ画素がある場合、これらは同じ被写体を撮像したものと推定し、飽和領域色補正回路108が、画像Img1における高輝度画素からの信号に含まれる色度に合わせるように、同じ座標を持つ画像Img2(又は画像Img0)の飽和画素からの信号に含まれる色度を調整する。   Next, the saturation / high brightness region detection circuit 107 uses the image Img2 (or the image Img0) obtained by imaging at the first shutter speed and the image Img1 obtained by imaging at the second shutter speed. The coordinates of saturated pixels and high luminance pixels on the imaging surface are compared. If there are pixels having the same coordinates, they are assumed to be images of the same subject, and the same coordinates are set so that the saturation region color correction circuit 108 matches the chromaticity included in the signal from the high luminance pixel in the image Img1. The chromaticity included in the signal from the saturated pixel of the image Img2 (or the image Img0) having is adjusted.

また、飽和領域色補正回路108は、カラー画像信号R,G,Bを、輝度信号Yと色度信号Cb、Crとを含む色空間に変換する。   The saturated area color correction circuit 108 converts the color image signals R, G, and B into a color space that includes the luminance signal Y and the chromaticity signals Cb and Cr.

例えば、以下の式により輝度信号Y、色度信号Cb、Crを算出する。色度信号CbはBと輝度信号Yの色度(色差)信号を示し、色度信号CrはRと輝度信号Yの色度(色差)信号を示す。
Y=0.3R+0.59G+0.11B
Cb=−0.17R−0.33G+0.5B
Cr=0.5R−0.42G−0.08B
ここで、撮像面上x行y列に配置された画素の座標を(x、y)で表したとき、画像Img1の高輝度画素の1つである画素I1(x,y)の輝度信号はY1(x,y)、色度信号はCb1(x,y)、Cr1(x,y)とする。一方、画像Img2(又は画像Img0)の飽和画素において、同じ座標を持つ画素I2(x、y)がある場合、画素I2(x,y)の輝度信号はY2(x,y)、色度信号はCb2(x,y)、Cr2(x,y)であるが、信号値が飽和してしまっているため、各色成分の値がともに最大値になり、色度信号Cb2(x,y)、Cr2(x,y)が0に近い値になっている。そこで、画像Img2(又は画像Img0)の画素I2(x,y)の新しい色度を以下の式で算出する。
For example, the luminance signal Y and the chromaticity signals Cb and Cr are calculated by the following equations. The chromaticity signal Cb indicates the chromaticity (color difference) signal of B and the luminance signal Y, and the chromaticity signal Cr indicates the chromaticity (color difference) signal of R and the luminance signal Y.
Y = 0.3R + 0.59G + 0.11B
Cb = −0.17R−0.33G + 0.5B
Cr = 0.5R-0.42G-0.08B
Here, when the coordinates of the pixels arranged in x rows and y columns on the imaging surface are represented by (x, y), the luminance signal of the pixel I 1 (x, y) which is one of the high luminance pixels of the image Img1. Is Y 1 (x, y), and the chromaticity signals are Cb 1 (x, y) and Cr 1 (x, y). On the other hand, if there is a pixel I 2 (x, y) having the same coordinates in the saturated pixels of the image Img2 (or image Img0), the luminance signal of the pixel I 2 (x, y) is Y 2 (x, y), The chromaticity signals are Cb 2 (x, y) and Cr 2 (x, y), but since the signal values are saturated, the values of the respective color components become maximum values, and the chromaticity signal Cb 2 (X, y) and Cr 2 (x, y) are close to 0. Therefore, the new chromaticity of the pixel I 2 (x, y) of the image Img2 (or image Img0) is calculated by the following equation.

Cb’2(x,y)=Cb1(x,y)×Y2(x、y)/Y1(x,y)・・(1)
Cr’2(x,y)=Cr1(x,y)×Y2(x,y)/Y1(x、y)・・(2)
ここで、図3(a)に示す画像Img2(又は画像Img0)と、図3(b)に示す画像Img1とは、撮像上で被写体の位置が若干ずれることが多い。しかるに、図3(a)にハッチングで示すように、画像Img1の高輝度画素と同じ座標を持つ画像Img2(又は画像Img0)の飽和画素PX1(重合飽和画素という)の色度信号は、(1)、(2)式に基づいて、画像Img1の高輝度画素からの信号を、更に高輝度画素の輝度信号と飽和画素の輝度信号の比で増大することによって補正することができる。
Cb ′ 2 (x, y) = Cb 1 (x, y) × Y 2 (x, y) / Y 1 (x, y) (1)
Cr ′ 2 (x, y) = Cr 1 (x, y) × Y 2 (x, y) / Y 1 (x, y) (2)
Here, the image Img2 (or image Img0) shown in FIG. 3A and the image Img1 shown in FIG. However, as indicated by hatching in FIG. 3A, the chromaticity signal of the saturated pixel PX1 (referred to as the superposed saturated pixel) of the image Img2 (or the image Img0) having the same coordinates as the high luminance pixel of the image Img1 is (1 ) And (2) can be corrected by further increasing the signal from the high luminance pixel of the image Img1 by the ratio of the luminance signal of the high luminance pixel and the luminance signal of the saturated pixel.

一方、図3(a)に白抜きで示すように、画像Img1の高輝度画素と同じ座標を持っていない画像Img2(又は画像Img0)の飽和画素PX2(非重合飽和画素という)の色度信号は不明である。そこで、このような場合には、図3(b)に示すように、重合飽和画素PX1と同じ座標を持たない(或いは全ての)高輝度画素PX3の色度信号の平均値を求め、(1)、(2)式に代入して、重合飽和画素PX1に隣接した非重合飽和画素PX2の色度信号に置き換えることで補正する。これは、飽和画素は、例えば赤信号やブレーキランプなど高輝度被写体から照射された単色光によって飽和されたと推定するからである。但し、重合飽和画素PX1に隣接した非重合飽和画素PX2の補正された色度信号を、重合飽和画素PX1の色度信号に置き換えても良い。   On the other hand, as shown in white in FIG. 3A, the chromaticity signal of the saturated pixel PX2 (referred to as a non-polymerized saturated pixel) of the image Img2 (or the image Img0) that does not have the same coordinates as the high luminance pixel of the image Img1. Is unknown. Therefore, in such a case, as shown in FIG. 3B, the average value of the chromaticity signals of the high-luminance pixel PX3 not having the same coordinates as the superposed saturation pixel PX1 (or all) is obtained, and (1 ), Substituting into the equation (2), and correcting by substituting with the chromaticity signal of the non-polymerization saturated pixel PX2 adjacent to the superposition saturation pixel PX1. This is because the saturated pixel is estimated to be saturated by monochromatic light emitted from a high brightness subject such as a red signal or a brake lamp. However, the corrected chromaticity signal of the non-polymerization saturated pixel PX2 adjacent to the superposition saturation pixel PX1 may be replaced with the chromaticity signal of the superposition saturation pixel PX1.

このようにして、画像Img2(又は画像Img0)において、全ての飽和画素の輝度信号Y2(x,y)及び補正された色度信号Cb’2(x,y)、Cr’2(x,y)を求めることができる。 In this way, in the image Img2 (or the image Img0), the luminance signal Y 2 (x, y) of all the saturated pixels and the corrected chromaticity signals Cb ′ 2 (x, y), Cr ′ 2 (x, y) can be determined.

更に、画像入力装置MGは、画像Img2(又は画像Img0)の飽和画素以外の輝度を、画像Img1の信号を用いて補正することもできる。かかる補正は、まず、画像Img1の高輝度画素以外の画素(低輝度画素という)の座標と、画像Img2(又は画像Img0)の飽和画素以外の画素(非飽和画素という)の座標を比較することにより行う。同じ座標を持つ画素がある場合、非飽和画素の輝度信号を、それに対応する低輝度画素の輝度信号に置き換える。   Furthermore, the image input device MG can also correct luminance other than the saturated pixels of the image Img2 (or the image Img0) using the signal of the image Img1. In this correction, first, the coordinates of pixels other than the high luminance pixels (referred to as low luminance pixels) in the image Img1 and the coordinates of pixels other than the saturated pixels (referred to as non-saturated pixels) in the image Img2 (or the image Img0) are compared. To do. When there is a pixel having the same coordinates, the luminance signal of the non-saturated pixel is replaced with the luminance signal of the corresponding low luminance pixel.

一方、同じ座標を持つ画素がなければ、低輝度画素の周囲にある画素の輝度信号の平均値を求め、非飽和画素の輝度信号を、その平均値に置き換える。このようにして、画像Img2(又は画像Img0)において、全ての画素の輝度信号及び色度信号を求めることができたので、これからRGB値を算出して、適切なカラー画像信号を出力することができる。   On the other hand, if there is no pixel having the same coordinates, the average value of the luminance signals of the pixels around the low luminance pixel is obtained, and the luminance signal of the unsaturated pixel is replaced with the average value. In this way, since the luminance signal and chromaticity signal of all the pixels can be obtained in the image Img2 (or the image Img0), RGB values can be calculated from this to output an appropriate color image signal. it can.

画像入力装置MGは、1フレーム毎に、第1のシャッタスピードと第2のシャッタスピードで繰り返し撮像することができる。図4に示すように、第1のシャッタスピードで撮像された画像Aから飽和画素を検出し、第2のシャッタスピードで撮像された画像Bの高輝度画素の信号より、先の画像Aの飽和画素の信号を補正する。このとき、画素が飽和しない画像Bを表示せず、補正された画像Aのみを表示する。従って、1枚置きに動画のフレームを表示することになる。尚、1枚の画像Bの高輝度画素の信号より、複数枚(例えば2枚)の画像Aを補正することも出来る。よって、この場合におけるフレームは、B,A,A,B,A,A・・・という順序で並ぶが、表示されるのは補正された画像Aだけである。画像B、B間に3枚以上の画像Aがあってもよい。   The image input device MG can repeatedly capture images at the first shutter speed and the second shutter speed for each frame. As shown in FIG. 4, a saturated pixel is detected from an image A captured at the first shutter speed, and the saturation of the previous image A is detected from the signal of the high-luminance pixel of the image B captured at the second shutter speed. The pixel signal is corrected. At this time, only the corrected image A is displayed without displaying the image B in which the pixels are not saturated. Therefore, every other frame displays a moving image frame. Note that a plurality of (for example, two) images A can be corrected from the signal of the high-luminance pixel of one image B. Therefore, the frames in this case are arranged in the order of B, A, A, B, A, A..., But only the corrected image A is displayed. There may be three or more images A between the images B and B.

尚、撮像枚数カウント回路104が、第1のシャッタスピードで撮像された画像の枚数をカウントして、積算枚数が所定の枚数となったことを検出した場合、露光量制御回路106は、所定の枚数目の画像から検出された飽和領域が飽和しないように、第2のシャッタスピードで撮像を行うよう露光量を制御することができる。   When the number-of-images counting circuit 104 counts the number of images captured at the first shutter speed and detects that the integrated number has reached a predetermined number, the exposure amount control circuit 106 It is possible to control the exposure amount so that imaging is performed at the second shutter speed so that the saturated region detected from the number of images is not saturated.

以上の補間画像処理は、飽和/高輝度領域検出回路107が飽和画素を検出しない限り行う必要はない。無駄な処理をなくすためである。飽和/高輝度領域検出回路107が飽和画素を検出したときから、上記補間画像処理を行えばよい。   The interpolated image processing described above need not be performed unless the saturated / high brightness area detection circuit 107 detects a saturated pixel. This is to eliminate useless processing. The interpolation image processing may be performed after the saturation / high luminance area detection circuit 107 detects a saturated pixel.

更に、被写体の動きを予想して、飽和画素と高輝度画素の撮像面上の位置合わせを行うことも可能である。例えば、車載カメラで撮像を行っている場合、信号機などの定地物は、車両の移動に応じて画面上を移動する。そこで、現在の車速とフレーム間隔とから、被写体の撮像面上の移動方向及び移動量を検出して、前後フレームでの位置ズレを抑制して、飽和画素と高輝度画素の位置合わせを精度良く行うことが出来る。   Furthermore, it is possible to align the saturation pixel and the high luminance pixel on the imaging surface in anticipation of the movement of the subject. For example, when imaging is performed with an in-vehicle camera, a fixed object such as a traffic light moves on the screen in accordance with the movement of the vehicle. Therefore, the current vehicle speed and frame interval are used to detect the direction and amount of movement of the subject on the imaging surface, suppressing positional deviation in the previous and next frames, and accurately aligning saturated pixels and high-brightness pixels. Can be done.

又、飽和画素の発生頻度が少ない(例えば、30フレーム間における飽和画素の発生回数が閾値以下)場合には、上述した補間画像処理の頻度を減らすか、全く補間画像処理を行わなくても良い。飽和画素の発生頻度が少なければユーザーが気にならない場合もあるからであり、それにより処理の無駄を省くことができる。   Further, when the frequency of occurrence of saturated pixels is low (for example, the number of occurrences of saturated pixels in 30 frames is less than or equal to a threshold value), the frequency of interpolation image processing described above may be reduced or no interpolation image processing may be performed. . This is because the user may not be concerned if the frequency of occurrence of saturated pixels is low, thereby eliminating waste of processing.

更に、車両の速度に連動して、上述した補間画像処理の頻度を調整することもできる。例えば車両の速度が高い場合は、補間画像処理の頻度を小さくし、車両の速度が低い場合は、補間画像処理の頻度を高くする。これにより飽和画素と高輝度画素の補間をしやすくなり、前後フレームにおける同じ領域の画素の座標ズレを抑えることができる。
(第2の実施の形態)
図5は、第2の実施の形態に係る画像入力装置MGの概略図である。画像入力装置MGは、レンズ101、撮像手段である撮像素子102(A/D変換部を含む),画像取得回路103、検出手段である飽和領域検出回路111,フレア領域検出回路112、処理手段である飽和領域色補正回路113を含む。撮像素子102,画像取得回路103は、上述した実施の形態と同様である。又、飽和画素の検出は、上述した処理と同様に行うことができる。
Furthermore, the frequency of the above-described interpolation image processing can be adjusted in conjunction with the speed of the vehicle. For example, when the vehicle speed is high, the frequency of the interpolation image processing is decreased, and when the vehicle speed is low, the frequency of the interpolation image processing is increased. As a result, it becomes easy to interpolate saturated pixels and high-luminance pixels, and it is possible to suppress a coordinate shift between pixels in the same region in the preceding and following frames.
(Second Embodiment)
FIG. 5 is a schematic diagram of an image input device MG according to the second embodiment. The image input device MG includes a lens 101, an image sensor 102 (including an A / D conversion unit) that is an imaging unit, an image acquisition circuit 103, a saturation region detection circuit 111 that is a detection unit, a flare region detection circuit 112, and a processing unit. A saturation region color correction circuit 113 is included. The image sensor 102 and the image acquisition circuit 103 are the same as those in the above-described embodiment. Moreover, the detection of a saturated pixel can be performed similarly to the process mentioned above.

画像入力装置MGの画像処理について説明する。例えば図2に示すように、夜間のシーンにおいて、周囲が暗い中で、ハロゲン光を発する赤信号SRや自動車VHのブレーキランプBLなどの高輝度発光体を撮像した場合、その被写体像が結像した画素が飽和したときは、その周囲の画素がフレア光FLを検出する可能性が高い。フレア光は、高輝度の被写体を撮像した場合において、ゴーストや迷光が原因となって発生することが多い。   The image processing of the image input device MG will be described. For example, as shown in FIG. 2, when a bright scene such as a red signal SR that emits halogen light or a brake lamp BL of an automobile VH is imaged in a night scene, the subject image is formed. When the selected pixel is saturated, the surrounding pixels are likely to detect the flare light FL. Flare light often occurs due to ghost or stray light when a high-luminance subject is imaged.

飽和領域検出回路111が、上述した第1の実施の形態と同様にして飽和画素を検出したときは、フレア領域検出回路112が、フレア光を受光した画素(フレア画素という)を検出する。尚、飽和画素に隣接した非飽和画素がある場合、フレア画素と推定できる。   When the saturated region detection circuit 111 detects a saturated pixel in the same manner as in the first embodiment described above, the flare region detection circuit 112 detects a pixel that receives flare light (referred to as a flare pixel). Note that if there is an unsaturated pixel adjacent to the saturated pixel, it can be estimated as a flare pixel.

更にフレア領域検出回路112は、フレア画素からの信号に含まれる輝度信号の平均値Yfと、色度信号の平均値Cbf、Crfを算出する。   Further, the flare area detection circuit 112 calculates the average value Yf of the luminance signal included in the signal from the flare pixel and the average values Cbf and Crf of the chromaticity signal.

ここで、飽和領域色補正回路113は、記憶した図6に示すJIS規格の安全色光の色度座標系において、フレア画素からの信号に含まれる色度信号の平均値Cbf、Crf(色度座標)を点Pとしてプロットする。更に、白色を示す領域WRの中心を原点Oとし、原点Oから点Pに直線を引き、その直線の点P側を延長したときに、かかる延長線が赤色の領域RRを通過した場合、飽和画素に結像した被写体光は本来的には赤色を含んでいると推定する。よって、JIS規格の安全色光の赤色に従い、飽和画素の色度信号を補正することで、撮像された画像の適正なRGB値を得ることができる。明らかであるが、その延長線が黄色の領域YRを通過した場合、飽和画素に結像した被写体光は本来的には黄色を含んでおり、その延長線が緑色の領域GRを通過した場合、飽和画素に結像した被写体光は本来的には緑色を含んでいると推定出来、同様に補正できる。   Here, in the stored chromaticity coordinate system of the safe color light of the JIS standard shown in FIG. 6, the saturation region color correction circuit 113 stores the average values Cbf and Crf (chromaticity coordinates) of the chromaticity signals included in the signal from the flare pixel. ) As a point P. Furthermore, when the center of the white area WR is set as the origin O, a straight line is drawn from the origin O to the point P, and when the point P side of the straight line is extended, the extension line passes through the red area RR and is saturated. It is estimated that the subject light imaged on the pixel inherently contains red. Accordingly, by correcting the chromaticity signal of the saturated pixel in accordance with the red color of the JIS standard safe color light, an appropriate RGB value of the captured image can be obtained. Obviously, when the extension line passes through the yellow region YR, the subject light imaged on the saturated pixel inherently contains yellow, and when the extension line passes through the green region GR, It can be estimated that the subject light imaged on the saturated pixel inherently contains green, and can be corrected similarly.

一般的にフレア光は、高輝度光源の周囲で、その光源の色でにじんだような色を持つため、色度は必ずしも光源と一致しない。一方、JIS規格では、信号機や自動車用ランプなどの色の色度座標の範囲を規定している。よって、飽和領域色補正回路113が、それらを予め記憶し、フレア画素からの平均色度信号を用いて、最も近い色度を飽和画素の信号における色度として推定するのである。   In general, flare light has a color that blurs around the high-intensity light source, and the chromaticity does not necessarily match that of the light source. On the other hand, the JIS standard defines the range of chromaticity coordinates of colors such as traffic lights and automobile lamps. Therefore, the saturated area color correction circuit 113 stores them in advance and estimates the closest chromaticity as the chromaticity in the saturated pixel signal using the average chromaticity signal from the flare pixel.

尚、飽和画素に隣接する画素のみならず、飽和画素から5画素以内で離れた非飽和画素をフレア画素と認定しても良い。   Note that not only a pixel adjacent to a saturated pixel but also a non-saturated pixel within 5 pixels from the saturated pixel may be recognized as a flare pixel.

別の画像処理として、飽和領域色補正回路113は、飽和画素及びそれに隣接した(5画素以内を含む)非飽和画素を含む領域における画素からの信号を、平滑化フィルタを通過させることで平滑化信号を作成し、これを飽和画素からの信号に置き換えることもできる。飽和画素及びそれに隣接した非飽和画素を含む領域における画素からの信号を、平滑化フィルタを通過させると、周囲の色を飽和領域に惨ませることができるため、フレア光を用いずとも、ある程度本来の色を推定できるからである。かかる例では、フレア領域検出回路112は不要となる。
(第3の実施の形態)
図7は、第3の実施の形態に係る画像入力装置MGの概略図である。画像入力装置MGは、レンズ101、撮像手段である撮像素子102(A/D変換部を含む),画像取得回路103、検出手段である信号機検出回路114及び点灯信号検出回路115、信号位置検出回路116,処理手段である信号色推定回路117及び信号色付与回路118を含む。撮像素子102,画像取得回路103は、上述した実施の形態と同様である。又、飽和画素の検出は、上述した処理と同様に行うことができる。
As another image processing, the saturation region color correction circuit 113 smoothes a signal from a pixel in a region including a saturated pixel and a non-saturated pixel (including within 5 pixels) adjacent thereto by passing the signal through a smoothing filter. It is also possible to create a signal and replace it with a signal from a saturated pixel. If the signal from the pixel in the region including the saturated pixel and the adjacent unsaturated pixel is passed through the smoothing filter, the surrounding color can be lost to the saturated region. It is because the color of can be estimated. In such an example, the flare area detection circuit 112 is unnecessary.
(Third embodiment)
FIG. 7 is a schematic diagram of an image input device MG according to the third embodiment. The image input device MG includes a lens 101, an image sensor 102 (including an A / D converter) that is an imaging unit, an image acquisition circuit 103, a traffic light detection circuit 114 and a lighting signal detection circuit 115 that are detection units, and a signal position detection circuit. 116, a signal color estimation circuit 117 and a signal color provision circuit 118 as processing means. The image sensor 102 and the image acquisition circuit 103 are the same as those in the above-described embodiment. Moreover, the detection of a saturated pixel can be performed similarly to the process mentioned above.

本実施の形態にかかる画像入力装置MGは、パターン認識技術を用いて、信号機を検出するものである。具体的には、前記処理手段は、特定間隔で並んだ3つの円形パターンを記憶しており、信号機検出回路114は、画像取得回路103から出力されたカラー画像信号において、近距離にある大きさがほぼ等しい3つの円を含み、それらの重心が水平もしくは垂直に一直線で並んでいる被写体があった場合、かかる被写体を信号機として認識することができる。   The image input device MG according to the present embodiment detects a traffic light using a pattern recognition technique. Specifically, the processing means stores three circular patterns arranged at specific intervals, and the traffic light detection circuit 114 has a size at a short distance in the color image signal output from the image acquisition circuit 103. Can be recognized as a traffic light if there is a subject that includes three circles that are substantially equal and whose centroids are aligned horizontally or vertically.

ところで、夜間シーンにおいて、信号機のいずれかの色が発光していた場合、飽和画素が生じる恐れがあり、点灯している色がわからなくなる恐れがある。しかしながら、信号機は各国の規則により形状と点灯色が定まっている。例えば、日本国内では、点灯色は左から「青色、黄色、赤色」の順である。そこで、点灯信号検出回路115が1つの円形パターンに応じていずれかの画素が飽和したことを検出した場合には、信号色推定回路117が、3つの円に対応する画素のうち、左側の円に相当する画素が飽和画素である場合、かかる画素から青色の光が投射されていると判断し、中央の円に相当する画素が飽和画素である場合、かかる画素から黄色の光が投射されていると判断し、右側の円に相当する画素が飽和画素である場合、かかる画素から赤色の光が投射されていると判断できる。信号色付与回路118は、飽和画素からの色度信号を、図6に示す安全色光の色度座標系に従って青色、黄色、赤色のいずれかの色に補正して出力する。飽和画素の輝度信号は、検出された3つの円に対応した画素の輝度信号の平均値として良い。以上のようにして飽和画素の色度信号を補正することで、撮像された画像の適正なRGB値を得ることができる。   By the way, in a night scene, when any color of a traffic light emits light, a saturated pixel may be generated, and there is a possibility that a lighted color may not be understood. However, the shape and lighting color of traffic lights are determined by the rules of each country. For example, in Japan, the lighting colors are “blue, yellow, red” in order from the left. Therefore, when the lighting signal detection circuit 115 detects that one of the pixels is saturated according to one circular pattern, the signal color estimation circuit 117 has a left circle among the pixels corresponding to the three circles. If the pixel corresponding to is a saturated pixel, it is determined that blue light is projected from the pixel. If the pixel corresponding to the center circle is a saturated pixel, yellow light is projected from the pixel. If the pixel corresponding to the right circle is a saturated pixel, it can be determined that red light is projected from the pixel. The signal color assigning circuit 118 corrects the chromaticity signal from the saturated pixel to any one of blue, yellow, and red according to the chromaticity coordinate system of the safe color light shown in FIG. The luminance signal of the saturated pixel may be an average value of the luminance signals of the pixels corresponding to the three detected circles. By correcting the chromaticity signal of the saturated pixel as described above, an appropriate RGB value of the captured image can be obtained.

尚、信号位置検出回路116は、例えばGPS情報等から信号機の緯度・経度を求め、信号機が位置する緯度・経度付近を走行しているときにのみ、信号機検出回路114に信号機を検出させても良い。これにより、信号機の誤検出を抑制できる。   The signal position detection circuit 116 may obtain the latitude / longitude of the traffic light from, for example, GPS information, etc., and let the traffic light detection circuit 114 detect the traffic light only when traveling near the latitude / longitude where the traffic light is located. good. Thereby, the false detection of a traffic signal can be suppressed.

本発明は、車載カメラや監視カメラ等に適用可能であるが、用途はそれに限られない。   The present invention can be applied to in-vehicle cameras, surveillance cameras, and the like, but the application is not limited thereto.

101 レンズ
102 撮像素子
103 画像取得回路
104 撮像枚数カウント回路
105 露光量算出回路
106 露光量制御回路
107 飽和/高輝度領域検出回路
108 飽和領域色補正回路
111 飽和領域検出回路
112 フレア領域検出回路
113 飽和領域色補正回路
114 信号機検出回路
115 点灯信号検出回路
116 信号位置検出回路
117 信号色推定回路
118 信号色付与回路
BL ブレーキランプ
FL フレア光
MG 画像入力装置
O 原点
P 点
PX1 重合飽和画素
PX2 非重合飽和画素
PX3 高輝度画素
RR 赤色領域
SR 赤信号
VH 自動車
WR 白色領域
DESCRIPTION OF SYMBOLS 101 Lens 102 Image pick-up element 103 Image acquisition circuit 104 Image pick-up number count circuit 105 Exposure amount calculation circuit 106 Exposure amount control circuit 107 Saturation / high brightness area detection circuit 108 Saturation area color correction circuit 111 Saturation area detection circuit 112 Flare area detection circuit 113 Saturation Area color correction circuit 114 Signal detection circuit 115 Lighting signal detection circuit 116 Signal position detection circuit 117 Signal color estimation circuit 118 Signal color assignment circuit BL Brake lamp FL Flare light MG Image input device O Origin P point PX1 Polymerization saturation pixel PX2 Nonpolymerization saturation Pixel PX3 High brightness pixel RR Red area SR Red signal VH Car WR White area

Claims (2)

被写体像を撮像し、それに応じてカラー画像信号を出力する複数の画素を備えた撮像手段と、
前記撮像手段が出力したカラー画像信号を画像処理する処理手段と、
前記撮像手段のいずれかの画素が飽和したことを検出する検出手段と、を有し、
前記検出手段が、前記撮像手段の撮像により、前記撮像手段のいずれかの画素が飽和したことを検出したときは、前記処理手段は、飽和した飽和画素の周囲に配置された周囲画素より出力されたカラー画像信号に基づいて、前記飽和画素が出力したカラー画像信号を補正し、
前記周囲画素はフレア成分を検出し、前記処理手段は、前記周囲画素から出力されたカラー画像信号の色度座標と、所定の色度座標系の原点との相対関係から、前記飽和画素が出力したカラー画像信号の色度座標を推定して補正することを特徴とする画像入力装置。
An imaging means comprising a plurality of pixels for capturing a subject image and outputting a color image signal in response thereto;
Processing means for performing image processing on a color image signal output by the imaging means;
Detecting means for detecting that any pixel of the imaging means is saturated,
When the detection unit detects that any pixel of the imaging unit is saturated by the imaging of the imaging unit, the processing unit is output from surrounding pixels arranged around the saturated saturated pixel. Based on the color image signal, the color image signal output from the saturated pixel is corrected ,
The surrounding pixel detects a flare component, and the processing means outputs the saturated pixel from the relative relationship between the chromaticity coordinates of the color image signal output from the surrounding pixel and the origin of a predetermined chromaticity coordinate system. An image input apparatus characterized by correcting and correcting the chromaticity coordinates of a color image signal .
前記処理手段は、前記飽和画素と前記周囲画素から出力されたカラー画像信号を、平滑化フィルタを通過させ、平滑化された信号を用いて前記飽和画素が出力したカラー画像信号を補正することを特徴とする請求項1に記載の画像入力装置。   The processing means passes the color image signal output from the saturated pixel and the surrounding pixels through a smoothing filter, and corrects the color image signal output from the saturated pixel using the smoothed signal. The image input device according to claim 1, wherein:
JP2013236827A 2009-04-07 2013-11-15 Image input device Expired - Fee Related JP5668951B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013236827A JP5668951B2 (en) 2009-04-07 2013-11-15 Image input device

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2009092588 2009-04-07
JP2009092588 2009-04-07
JP2013236827A JP5668951B2 (en) 2009-04-07 2013-11-15 Image input device

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2011508338A Division JP5454572B2 (en) 2009-04-07 2010-03-30 Image input device

Publications (2)

Publication Number Publication Date
JP2014060779A JP2014060779A (en) 2014-04-03
JP5668951B2 true JP5668951B2 (en) 2015-02-12

Family

ID=42936207

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2011508338A Expired - Fee Related JP5454572B2 (en) 2009-04-07 2010-03-30 Image input device
JP2013236827A Expired - Fee Related JP5668951B2 (en) 2009-04-07 2013-11-15 Image input device

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2011508338A Expired - Fee Related JP5454572B2 (en) 2009-04-07 2010-03-30 Image input device

Country Status (2)

Country Link
JP (2) JP5454572B2 (en)
WO (1) WO2010116922A1 (en)

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5750291B2 (en) * 2011-04-07 2015-07-15 日立オートモティブシステムズ株式会社 Image processing device
JP5272041B2 (en) * 2011-05-12 2013-08-28 富士重工業株式会社 Environment recognition apparatus and environment recognition method
JP5803505B2 (en) * 2011-09-28 2015-11-04 株式会社デンソー Video processing device
JP5832855B2 (en) 2011-11-01 2015-12-16 クラリオン株式会社 Image processing apparatus, imaging apparatus, and image processing program
JP5397714B1 (en) 2012-08-01 2014-01-22 株式会社ジェイエイアイコーポレーション Surveillance camera device
JP6206299B2 (en) * 2013-08-29 2017-10-04 株式会社Jvcケンウッド Imaging device and color correction method for captured image
KR101606476B1 (en) 2014-04-02 2016-03-25 한양대학교 산학협력단 Apparatus and method for recognition signal light using multiple exposure image of camera
JP6428245B2 (en) * 2014-12-19 2018-11-28 日亜化学工業株式会社 Light emitting device
JP6616573B2 (en) * 2015-01-27 2019-12-04 オリンパス株式会社 Image processing apparatus, image processing method, image processing program, and imaging apparatus
JP6859659B2 (en) * 2016-10-25 2021-04-14 株式会社リコー Information processing equipment, information processing methods and programs
JP6948243B2 (en) * 2017-12-15 2021-10-13 フォルシアクラリオン・エレクトロニクス株式会社 Traffic light recognition device
JP2020095620A (en) 2018-12-14 2020-06-18 株式会社デンソーテン Image processing device and image processing method
JP7252750B2 (en) 2018-12-14 2023-04-05 株式会社デンソーテン Image processing device and image processing method
JP2020095624A (en) 2018-12-14 2020-06-18 株式会社デンソーテン Image processing device and image processing method
JP7195131B2 (en) 2018-12-14 2022-12-23 株式会社デンソーテン Image processing device and image processing method
JP7359541B2 (en) 2018-12-14 2023-10-11 株式会社デンソーテン Image processing device and image processing method
JP7203587B2 (en) 2018-12-14 2023-01-13 株式会社デンソーテン Image processing device and image processing method
JP7141940B2 (en) 2018-12-14 2022-09-26 株式会社デンソーテン Image processing device and image processing method
JP7236857B2 (en) * 2018-12-14 2023-03-10 株式会社デンソーテン Image processing device and image processing method
JP2020095623A (en) 2018-12-14 2020-06-18 株式会社デンソーテン Image processing device and image processing method
JP7203586B2 (en) 2018-12-14 2023-01-13 株式会社デンソーテン Image processing device and image processing method
JP7226986B2 (en) 2018-12-14 2023-02-21 株式会社デンソーテン Image processing device and image processing method
WO2024053824A1 (en) * 2022-09-07 2024-03-14 삼성전자 주식회사 Electronic device for providing image, and operating method therefor

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3836237B2 (en) * 1997-12-26 2006-10-25 富士写真フイルム株式会社 Image correction method and apparatus
JP4040171B2 (en) * 1998-04-24 2008-01-30 キヤノン株式会社 Signal processing device
JP3707725B2 (en) * 2000-05-30 2005-10-19 松下電器産業株式会社 Still image solid-state imaging device
JP3985134B2 (en) * 2001-12-25 2007-10-03 ソニー株式会社 Imaging apparatus and image composition method thereof
JP4031299B2 (en) * 2002-06-21 2008-01-09 富士フイルム株式会社 Color image signal processing method, color image output apparatus, and photographing apparatus
JP2005284423A (en) * 2004-03-29 2005-10-13 Seiko Epson Corp Image processor and image processing method
JP4272221B2 (en) * 2006-07-25 2009-06-03 株式会社アクセル Color image motion detection circuit, multiple color image integration device, and color image motion detection method
JP4700656B2 (en) * 2007-06-20 2011-06-15 オリンパス株式会社 Electronic imaging device

Also Published As

Publication number Publication date
WO2010116922A1 (en) 2010-10-14
JP2014060779A (en) 2014-04-03
JP5454572B2 (en) 2014-03-26
JPWO2010116922A1 (en) 2012-10-18

Similar Documents

Publication Publication Date Title
JP5668951B2 (en) Image input device
JP5852637B2 (en) Arrow signal recognition device
JP4863951B2 (en) Traffic light recognition device
US9758086B2 (en) Vehicle lamp control device
JP5435307B2 (en) In-vehicle camera device
EP2471691A1 (en) Obstacle detection device, obstacle detection system provided therewith, and obstacle detection method
JP2010286791A5 (en)
JP5921983B2 (en) In-vehicle imaging device
JP5071198B2 (en) Signal recognition device, signal recognition method, and signal recognition program
WO2015015580A1 (en) Imaging device, imaging method, and on-board imaging system
JP2018526851A (en) Video stream image processing system and method for flicker correction of amplitude modulated light
JP2013005234A5 (en)
US20140055572A1 (en) Image processing apparatus for a vehicle
CN110915204B (en) Image processing apparatus, image processing method, storage medium, and imaging apparatus
JP6267493B2 (en) Arrow signal light detector
JP6478138B2 (en) Image processing apparatus, imaging apparatus, image processing program, and image processing method
JP2007013777A (en) Imaging apparatus
JP5545596B2 (en) Image input device
JP6266022B2 (en) Image processing device, alarm device, and image processing method
JP2022188888A (en) Image processing device and method of image processing
US20120206628A1 (en) Noise suppression
JP2009042098A (en) Object detector of image processing type
JP7116001B2 (en) Imaging device and image processing method
US20150353013A1 (en) Detection apparatus
JP2007245970A (en) Vehicular lighting device

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140808

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140908

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20141030

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20141119

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141202

R150 Certificate of patent or registration of utility model

Ref document number: 5668951

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees