JP5600580B2 - Image processing apparatus and imaging apparatus - Google Patents

Image processing apparatus and imaging apparatus Download PDF

Info

Publication number
JP5600580B2
JP5600580B2 JP2010281805A JP2010281805A JP5600580B2 JP 5600580 B2 JP5600580 B2 JP 5600580B2 JP 2010281805 A JP2010281805 A JP 2010281805A JP 2010281805 A JP2010281805 A JP 2010281805A JP 5600580 B2 JP5600580 B2 JP 5600580B2
Authority
JP
Japan
Prior art keywords
pixel data
light source
value
image
noise removal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2010281805A
Other languages
Japanese (ja)
Other versions
JP2012129929A (en
Inventor
康 伊波
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hanwha Techwin Co Ltd
Original Assignee
Samsung Techwin Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Techwin Co Ltd filed Critical Samsung Techwin Co Ltd
Priority to JP2010281805A priority Critical patent/JP5600580B2/en
Priority to KR1020110104831A priority patent/KR101271737B1/en
Publication of JP2012129929A publication Critical patent/JP2012129929A/en
Application granted granted Critical
Publication of JP5600580B2 publication Critical patent/JP5600580B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration using histogram techniques
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/73Colour balance circuits, e.g. white balance circuits or colour temperature control

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Color Television Image Signal Generators (AREA)
  • Facsimile Scanning Arrangements (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Color Image Communication Systems (AREA)
  • Image Processing (AREA)

Description

本発明は、画像処理装置、及び撮像装置に関する。   The present invention relates to an image processing device and an imaging device.

撮像装置において撮像された画像に発生するノイズに対して、ノイズ除去をする技術が提案されている。例えば、撮像された画像において、ノイズ除去の対象となる画素の周辺画素を含む領域の画像が平坦画像(低周波数成分の画像)領域であるか、またはエッジ画像(高周波数成分の画像)領域であるかに基づいてノイズ除去の除去強度を変更する技術が提案されている(例えば、特許文献1参照)。   A technique for removing noise from noise generated in an image captured by an imaging apparatus has been proposed. For example, in a captured image, an image of a region including peripheral pixels of a pixel to be subjected to noise removal is a flat image (low frequency component image) region or an edge image (high frequency component image) region. A technique for changing the removal strength of noise removal based on whether or not there is proposed (see, for example, Patent Document 1).

特開2010−92461号公報JP 2010-92461 A

ところで、撮像素子において発生するノイズには、空間周波数が低周波数のノイズがあり、この低周波数のノイズを除去するためには、対象画素を中心とする広い空間フィルタが必要である。広い空間フィルタを用いてノイズ除去処理をする場合、当該広い空間の画素データを処理するために多くのメモリが必要となり、多大なコスト増となる。また、ノイズ除去処理によるノイズ除去の除去強度を強くした場合、撮像された画像の周波数成分の一部がノイズと同様に除去されてしまい、当該画像において解像感の低下やコントラストの低下が生じてしまうことがある。そのため、撮像素子において生成される画素データの信号レベルに対するノイズレベルの比(S/N比)がなるべく小さく、当該画素データにおいてノイズ除去処理により除去するノイズが少ないことが、撮像された画像のノイズを低減することに優位である。   Incidentally, noise generated in the image sensor includes noise having a low spatial frequency, and a wide spatial filter centering on the target pixel is required to remove the low-frequency noise. When noise removal processing is performed using a wide spatial filter, a large amount of memory is required to process the pixel data in the wide space, resulting in a significant increase in cost. In addition, when the noise removal strength of the noise removal process is increased, part of the frequency component of the captured image is removed in the same way as noise, resulting in a reduction in resolution and contrast in the image. May end up. Therefore, the ratio of the noise level (S / N ratio) to the signal level of the pixel data generated in the image sensor is as small as possible, and the noise that is removed by the noise removal processing in the pixel data is small. It is advantageous to reduce.

しかしながら、撮像される際の条件は様々であり、例えば、撮像時において被写体に照射される光源の分光分布に偏りがある場合、撮像素子のそれぞれの色画素(例えばR画素、G画素、B画素)における色画素データの信号レベルの大きさに差が生じ、特定の色画素における信号レベルのみが著しく小さくなる場合がある。ここで、分光分布に偏りがある光源とは、例えば、ナトリウムランプのように特定の波長の光に限られている光源、または青みを帯びた高い色温度の光源や赤みを帯びた低い色温度の光源等である。そして、撮像素子において発生するノイズは、色画素データの信号レベルに係らず同様に発生して当該色画素データに重畳されるため、信号レベルが小さい程S/N比が大きくなり、相対的にノイズが多くなる。よって、上述のような光源の分光分布に偏りがある撮像条件においては、撮像素子において生成される色画素データのうち特定の色画素データの信号レベルが著しく小さく相対的にノイズが著しく多くなることがある。そのため、撮像された画像のノイズが増加してしまうという問題があった。   However, there are various conditions at the time of imaging. For example, when the spectral distribution of the light source irradiated to the subject at the time of imaging is biased, each color pixel (for example, R pixel, G pixel, B pixel) of the imaging device ), The signal level of the color pixel data may differ, and only the signal level of a specific color pixel may be significantly reduced. Here, a light source with a biased spectral distribution is, for example, a light source that is limited to light of a specific wavelength, such as a sodium lamp, or a light source with a bluish high color temperature or a reddish low color temperature. For example. The noise generated in the image sensor is generated regardless of the signal level of the color pixel data and is superimposed on the color pixel data. Therefore, the S / N ratio increases as the signal level decreases. Increases noise. Therefore, under the imaging conditions where the spectral distribution of the light source is biased as described above, the signal level of the specific color pixel data among the color pixel data generated in the imaging device is remarkably small and the noise is remarkably increased. There is. For this reason, there is a problem that noise of the captured image increases.

本発明は、このような事情に鑑みてなされたもので、その目的は、被写体に照射される光源の分光分布に偏りがある場合であっても、当該被写体が撮像された画像におけるノイズを適切に低減することができる画像処理装置、及び撮像装置を提供することにある。   The present invention has been made in view of such circumstances, and an object of the present invention is to appropriately reduce noise in an image of the subject even when the spectral distribution of the light source irradiated on the subject is biased. It is an object of the present invention to provide an image processing apparatus and an imaging apparatus that can be reduced to a minimum.

上記課題を解決するために、本発明は、撮像素子により被写体が撮像されて、前記撮像素子の有する色画素毎に生成されたそれぞれの色画素データに対して、ノイズ除去処理をそれぞれ実行するノイズ除去部と、撮像時において前記被写体に照射される光源の種類を示す情報に基づいて、前記ノイズ除去部における前記色画素データ毎のノイズ除去処理を変更する制御部と、を備えることを特徴とする画像処理装置である。
この構成により、画像処理装置は、撮像時における光源の種類を示す情報に基づいて、撮像素子の有する色画素毎に生成された色画素データ毎にノイズ除去処理を変更することが可能である。
In order to solve the above-described problem, the present invention provides a noise that performs noise removal processing on each color pixel data generated for each color pixel of the image pickup device after the subject is picked up by the image pickup device. A removal unit; and a control unit that changes a noise removal process for each color pixel data in the noise removal unit based on information indicating a type of a light source irradiated to the subject during imaging. An image processing apparatus.
With this configuration, the image processing apparatus can change the noise removal process for each color pixel data generated for each color pixel included in the imaging element, based on information indicating the type of light source at the time of imaging.

この発明によれば、画像処理装置は、被写体に照射される光源の分光分布に偏りがある場合であっても、当該光源の種類を示す情報に基づいて、撮像素子において生成された色画素データ毎にノイズ除去処理を変更することにより、当該被写体が撮像された画像におけるノイズを適切に低減することができる。   According to this invention, even when the spectral distribution of the light source irradiated to the subject is biased, the image processing apparatus generates color pixel data generated in the image sensor based on the information indicating the type of the light source. By changing the noise removal process every time, it is possible to appropriately reduce noise in an image of the subject.

本発明の一実施形態による撮像装置の構成を示すブロック図である。It is a block diagram which shows the structure of the imaging device by one Embodiment of this invention. 光源の分光分布の例を示すグラフである。It is a graph which shows the example of the spectral distribution of a light source. 被写体の分光反射率の例を示すグラフである。It is a graph which shows the example of the subject's spectral reflectance. 撮像素子の分光分布の例を示すグラフである。It is a graph which shows the example of the spectral distribution of an image sensor. 本実施形態におけるノイズ除去処理を示すフローチャートである。It is a flowchart which shows the noise removal process in this embodiment. 各種光源の色温度の例を示す図である。It is a figure which shows the example of the color temperature of various light sources. ノイズ除去処理の制御内容を設定する動作を示すフローチャートである。It is a flowchart which shows the operation | movement which sets the control content of a noise removal process. 図7において選択されるノイズ除去処理の制御内容を示す表である。It is a table | surface which shows the control content of the noise removal process selected in FIG.

以下、図面を参照して、本発明の実施形態について説明する。
図1は、本発明の一実施形態による撮像装置100の構成を示す概略ブロック図である。図1に示す撮像装置100は、画像処理装置1、及び撮像部2を備えている。
Embodiments of the present invention will be described below with reference to the drawings.
FIG. 1 is a schematic block diagram illustrating a configuration of an imaging apparatus 100 according to an embodiment of the present invention. An imaging apparatus 100 illustrated in FIG. 1 includes an image processing apparatus 1 and an imaging unit 2.

撮像部2は、レンズ部21、撮像素子22、及びA/D変換部23を備えている。この撮像部2は、設定された撮像条件(例えば絞り値、露出等)に基づいて、レンズ部21を介して入力された被写体の光学像を、撮像素子22の撮像面上に結像させる。また、撮像部2は、撮像素子22の有する色画素それぞれから出力されたアナログ信号をA/D変換部23においてデジタル信号に変換し、それぞれの色画素データを生成して出力する。
なお、上述したレンズ部21は、撮像装置100に取り付けられて一体とされていてもよいし、撮像装置100に着脱可能に取り付けられてもよい。
The imaging unit 2 includes a lens unit 21, an imaging element 22, and an A / D conversion unit 23. The imaging unit 2 forms an optical image of the subject input via the lens unit 21 on the imaging surface of the imaging element 22 based on the set imaging conditions (for example, aperture value, exposure, etc.). Further, the imaging unit 2 converts the analog signal output from each color pixel of the imaging element 22 into a digital signal in the A / D conversion unit 23, and generates and outputs each color pixel data.
Note that the lens unit 21 described above may be attached to and integrated with the imaging apparatus 100, or may be detachably attached to the imaging apparatus 100.

撮像素子22は、R(赤)画素、G(緑)画素、及びB(青)画素の色画素を有しており、撮像面に結像された光学像を光電変換したそれぞれの色画素におけるアナログ信号を、A/D変換部23に出力する。A/D変換部23は、撮像素子22から入力されたアナログ信号をデジタル信号に変換し、この変換したデジタル信号であるR画素データ、G画素データ、及びB画素データを出力する。なお、このデジタル信号であるR画素データ、G画素データ、及びB画素データを、撮像素子22において生成された色画素データとも記述する。また、このR画素データ、G画素データ、及びB画素データは、例えば、各種の画像処理が実行される前のRAW画像データである。   The imaging element 22 has color pixels of R (red) pixels, G (green) pixels, and B (blue) pixels, and in each color pixel obtained by photoelectrically converting an optical image formed on the imaging surface. An analog signal is output to the A / D converter 23. The A / D converter 23 converts the analog signal input from the image sensor 22 into a digital signal, and outputs R pixel data, G pixel data, and B pixel data, which are the converted digital signals. Note that the R pixel data, G pixel data, and B pixel data, which are digital signals, are also referred to as color pixel data generated in the image sensor 22. The R pixel data, G pixel data, and B pixel data are, for example, RAW image data before various types of image processing are executed.

画像処理装置1は、ノイズ除去部3、画像処理部4、記録部5、表示部6、操作入力部7、AWB(Auto White Balance)検波部8、及び制御部10を備えている。
ノイズ除去部3は、撮像部2から入力されたR画素データ、G画素データ、及びB画素データに対して、ノイズ除去処理をそれぞれ実行するR画素データ処理部31、G画素データ処理部32、及びB画素データ処理部33を備えており、制御部10の制御によりノイズ除去処理を実行する。
The image processing apparatus 1 includes a noise removing unit 3, an image processing unit 4, a recording unit 5, a display unit 6, an operation input unit 7, an AWB (Auto White Balance) detection unit 8, and a control unit 10.
The noise removal unit 3 includes an R pixel data processing unit 31, a G pixel data processing unit 32, and a noise removal process that respectively perform noise removal processing on the R pixel data, G pixel data, and B pixel data input from the imaging unit 2. And a B pixel data processing unit 33, and a noise removal process is executed under the control of the control unit 10.

画像処理部4は、ノイズ除去部3によりノイズ除去処理がされたR画素データ、G画素データ、及びB画素データに対して、WB(White Balance)調整、色補正、及び階調補正等の各種画像処理を実行した後、当該画像データに圧縮処理を実行して画像データ(例えば、JPEG方式により圧縮された画像データ)を生成する。   The image processing unit 4 performs various types such as WB (White Balance) adjustment, color correction, and gradation correction on the R pixel data, G pixel data, and B pixel data that have been subjected to noise removal processing by the noise removal unit 3. After executing the image processing, the image data is compressed to generate image data (for example, image data compressed by the JPEG method).

記録部5は、メモリカード等の着脱可能な記憶媒体が挿入され、当該記憶媒体に画像処理部4により画像処理された画像データを記録する。また、記録部5は、記憶媒体に記録されている画像データの読み出し、または消去も実行可能である。なお、記録部5には、ハードディスク装置や光磁気ディスク装置、フラッシュメモリ等の不揮発性のメモリ、またはこれらの組み合わせにより構成される記憶部が備えられていてもよい。   The recording unit 5 inserts a removable storage medium such as a memory card, and records the image data image-processed by the image processing unit 4 in the storage medium. The recording unit 5 can also read or erase image data recorded on the storage medium. The recording unit 5 may include a storage unit configured by a hard disk device, a magneto-optical disk device, a nonvolatile memory such as a flash memory, or a combination thereof.

表示部6は、例えば、液晶ディスプレイであり、撮像部2によって撮像された画像データに基づく画像、もしくは記憶媒体から読み出された画像データに基づく画像、または撮像条件等を選択する選択画面、もしくは撮像装置100の動作状態や設定に関する情報等を表示する。   The display unit 6 is, for example, a liquid crystal display, and a selection screen for selecting an image based on the image data captured by the imaging unit 2, an image based on the image data read from the storage medium, or an imaging condition, or the like Information related to the operating state and settings of the imaging apparatus 100 is displayed.

操作入力部7は、撮像装置100に対して操作者が操作入力するための操作スイッチを備えている。例えば、操作入力部7は、電源スイッチ、レリーズスイッチ、モードスイッチ、メニュースイッチ、上下左右選択スイッチ、確定スイッチ、取消スイッチ、及びその他の操作スイッチを備えている。操作入力部7が備えている上述のそれぞれのスイッチは、操作されることに応じて、それぞれの操作に対応した操作信号を制御部10に出力する。   The operation input unit 7 includes an operation switch for an operator to input an operation to the imaging apparatus 100. For example, the operation input unit 7 includes a power switch, a release switch, a mode switch, a menu switch, an up / down / left / right selection switch, a confirmation switch, a cancel switch, and other operation switches. Each of the above-described switches included in the operation input unit 7 outputs an operation signal corresponding to each operation to the control unit 10 in response to the operation.

AWB検波部8は、撮像部2から入力されたR画素データ、G画素データ、及びB画素データに基づいて、R画素、G画素、及びB画素毎に、データの平均値、ヒストグラム、または積算値等のAWB評価値を算出して、算出した結果を制御部10に出力する。   Based on the R pixel data, the G pixel data, and the B pixel data input from the imaging unit 2, the AWB detection unit 8 averages, histograms, or integrates the data for each of the R pixel, the G pixel, and the B pixel. An AWB evaluation value such as a value is calculated, and the calculated result is output to the control unit 10.

制御部10は、撮像装置100が備えている各部を制御する。また、制御部10は、光源を判定する光源判定部11と、ノイズ除去部3にノイズ除去処理の制御内容を設定する設定部12とを備えている。   The control unit 10 controls each unit included in the imaging device 100. In addition, the control unit 10 includes a light source determination unit 11 that determines a light source, and a setting unit 12 that sets control details of noise removal processing in the noise removal unit 3.

光源判定部11は、撮像部2が出力するR画素データ、G画素データ、及びB画素データに基づいて、撮像時において被写体に照射される光源の種類を判定する。例えば、光源判定部11は、AWB検波部8により算出されたAWB評価値に基づいて、光源の種類を判定する。   Based on the R pixel data, G pixel data, and B pixel data output from the imaging unit 2, the light source determination unit 11 determines the type of light source irradiated to the subject during imaging. For example, the light source determination unit 11 determines the type of light source based on the AWB evaluation value calculated by the AWB detection unit 8.

設定部12は、光源判定部11により判定された光源の種類を示す情報に基づいて、ノイズ除去部3に、撮像部2から入力されるR画素データ、G画素データ、及びB画素データのそれぞれに対して実行させるノイズ除去処理の制御内容を設定する。   Based on the information indicating the type of light source determined by the light source determination unit 11, the setting unit 12 receives R pixel data, G pixel data, and B pixel data input from the imaging unit 2 to the noise removal unit 3. The control content of the noise removal process to be executed is set.

例えば、設定部12は、光源判定部11により判定された光源の種類を示す情報に基づいて、ノイズ除去部3に実行させるノイズ除去処理の制御内容を、光源の種類を示す情報に対応付けされて予め定められたノイズ除去処理の複数の制御内容の中から選択する。そして、設定部12は、ノイズ除去部3のR画素データ処理部31、G画素データ処理部32、及びB画素データ処理部33のそれぞれに、選択したノイズ除去処理の制御内容を設定するためのノイズ除去制御信号を出力して設定する。   For example, the setting unit 12 associates the control content of the noise removal processing to be executed by the noise removal unit 3 with the information indicating the type of the light source based on the information indicating the type of the light source determined by the light source determination unit 11. Then, the control content is selected from a plurality of control details of the predetermined noise removal processing. Then, the setting unit 12 sets the control details of the selected noise removal processing in each of the R pixel data processing unit 31, the G pixel data processing unit 32, and the B pixel data processing unit 33 of the noise removal unit 3. Output and set the noise removal control signal.

これにより、制御部10は、光源判定部11において判定した、撮像時において被写体に照射される光源の種類を示す情報に基づいて、設定部12において、ノイズ除去部3における色画素データ毎のノイズ除去処理を変更する。   Thereby, the control unit 10 determines noise for each color pixel data in the noise removal unit 3 in the setting unit 12 based on the information indicating the type of light source irradiated to the subject at the time of imaging determined by the light source determination unit 11. Change the removal process.

次に、撮像装置100におけるノイズ除去処理の制御を説明するために、まず、光源の分光分布、及び被写体の分光反射率について説明する。
光源に照射される被写体の色は、その光源の種類によって異なって見える。これは、被写体を照射する光源の光の波長成分が、光源の種類によって異なるためである。なお、光源から照射される光の波長成分の分布を光源の分光分布とする。
Next, in order to describe control of noise removal processing in the imaging apparatus 100, first, the spectral distribution of the light source and the spectral reflectance of the subject will be described.
The color of the subject irradiated with the light source looks different depending on the type of the light source. This is because the wavelength component of the light from the light source that irradiates the subject differs depending on the type of the light source. Note that the distribution of wavelength components of light emitted from the light source is the spectral distribution of the light source.

図2は、光源の分光分布の例を示すグラフである。図2(a)は、光源が太陽光である場合の分光分布の例を示している。また、図2(b)は、光源がナトリウムランプである場合の分光分布の例を示している。光源が太陽光である場合、太陽光から照射される光の分光分布は、広範囲の波長に分布している。一方、光源がナトリウムランプである場合、ナトリウムランプから照射される光の分光分布は、600nm付近の波長に偏って分布している。   FIG. 2 is a graph showing an example of the spectral distribution of the light source. FIG. 2A shows an example of a spectral distribution when the light source is sunlight. FIG. 2B shows an example of a spectral distribution when the light source is a sodium lamp. When the light source is sunlight, the spectral distribution of light emitted from sunlight is distributed over a wide range of wavelengths. On the other hand, when the light source is a sodium lamp, the spectral distribution of the light emitted from the sodium lamp is biased toward wavelengths near 600 nm.

また、色を識別できるのは、被写体において特定の光の波長成分が反射または吸収されるためである。つまり、反射される光の波長成分が被写体の色として認識される。なお、被写体における光の波長成分の反射特性を分光反射率とする。   The color can be identified because the wavelength component of specific light is reflected or absorbed by the subject. That is, the wavelength component of the reflected light is recognized as the color of the subject. Note that the reflection characteristic of the wavelength component of light in the subject is the spectral reflectance.

図3は、被写体の分光反射率の例を示すグラフである。図3(a)は、被写体が観葉植物である場合の分光反射率の例を示している。また、図3(b)は、被写体がりんごである場合の分光反射率の例を示している。被写体が観葉植物である場合、観葉植物の分光反射率は、緑や黄緑の波長の付近(550nm付近)が最も高い。一方、被写体がりんごである場合、りんごの分光反射率は、橙や赤の波長の付近(650nm付近)が最も高い。   FIG. 3 is a graph showing an example of the spectral reflectance of the subject. FIG. 3A shows an example of the spectral reflectance when the subject is a foliage plant. FIG. 3B shows an example of the spectral reflectance when the subject is an apple. When the subject is a foliage plant, the spectral reflectance of the foliage plant is highest near the wavelength of green or yellow-green (near 550 nm). On the other hand, when the subject is an apple, the spectral reflectance of the apple is highest near the orange and red wavelengths (near 650 nm).

そして、撮像素子22に入力される被写体の光の波長成分(分光分布)は、上述した光源の分光分布と被写体の分光反射率との積算値により表される(「撮像素子22に入力される被写体の分光分布」=「光源の分光分布」×「被写体の分光反射率」)。   The wavelength component (spectral distribution) of the light of the subject input to the image sensor 22 is represented by the integrated value of the spectral distribution of the light source and the spectral reflectance of the subject ("input to the image sensor 22"). "Spectral distribution of subject" = "Spectral distribution of light source" x "Spectral reflectance of subject").

例えば、トンネル内の照明、または夜間時の道路の照明に等に一般的に使用されているナトリウムランプの光源下においては、ナトリウムランプの分光分布が600nm付近の波長に偏っていることにより、特に青い被写体(400nm付近)の反射光はほとんど無い。そのため、ナトリウムランプの光源下においては、青い被写体から撮像素子22に入力される光はほとんど無いことになる。   For example, under the light source of a sodium lamp that is generally used for lighting in tunnels or roads at night, the spectral distribution of the sodium lamp is biased to a wavelength near 600 nm. There is almost no reflected light of a blue subject (around 400 nm). Therefore, almost no light is input from the blue subject to the image sensor 22 under the light source of the sodium lamp.

しかし、ナトリウムランプから照射される600nm付近の波長成分の光が青い被写体以外の色の被写体において反射されて撮像素子22に入力されることにより、撮像素子22のB画素にもこの600nm付近の波長成分の光が受光される。   However, light having a wavelength component near 600 nm emitted from the sodium lamp is reflected by a subject other than a blue subject and input to the image sensor 22, so that the B pixel of the image sensor 22 also has a wavelength near 600 nm. The component light is received.

図4は、撮像素子22の分光分布の例を示すグラフである。この図に示すように、撮像素子22のR画素、G画素、及びB画素のそれぞれの分光分布(撮像素子22のそれぞれの色画素の分光感度と、撮像素子22のそれぞれの色画素におけるカラーフィルターの分光透過率とに基づく分光分布)は、それぞれの色画素の色に対応する光の波長付近で最も高くなるが、その他の波長領域においても零ではない。   FIG. 4 is a graph showing an example of the spectral distribution of the image sensor 22. As shown in this figure, the spectral distribution of each of the R pixel, G pixel, and B pixel of the image sensor 22 (the spectral sensitivity of each color pixel of the image sensor 22 and the color filter in each color pixel of the image sensor 22 (The spectral distribution based on the spectral transmittance of the color) becomes the highest near the wavelength of light corresponding to the color of each color pixel, but is not zero in other wavelength regions.

そのため、例えば、光源がナトリウムランプである場合、青い被写体から撮像素子22に入力される光がほとんど無いにもかかわらず、撮像素子22のB画素には600nm付近の波長成分の光が受光されることになる。よって、この場合、撮像素子22から出力されるB画素データには、画像を生成するために有効なデータ(青い被写体のデータ)がほとんど無く、画像を生成するために必要ではない無効なデータ(600nm付近の波長成分のデータ)が含まれることになる。また、撮像素子22において発生するノイズは、それぞれの色画素に受光される光の量に係らず同様に発生して撮像素子22から出力される色画素データに重畳される。   Therefore, for example, when the light source is a sodium lamp, light having a wavelength component near 600 nm is received by the B pixel of the image sensor 22 even though there is almost no light input from the blue subject to the image sensor 22. It will be. Therefore, in this case, the B pixel data output from the image sensor 22 has almost no data (blue subject data) effective for generating an image, and invalid data (not necessary for generating an image) ( Data of wavelength components near 600 nm) is included. Further, noise generated in the image sensor 22 is similarly generated regardless of the amount of light received by each color pixel, and is superimposed on the color pixel data output from the image sensor 22.

これにより、光源がナトリウムランプである場合、撮像素子22から出力されるB画素データは、画像を生成するために有効データがほとんど無いデータであって、画像を生成するために必要ではない無効なデータと、この無効なデータに重畳されたノイズとによるデータである。なお、有効なデータに対して、無効なデータもノイズである。すなわち、撮像素子22から出力されるB画素データは、画像を生成するために有効データがほとんど無く相対的にノイズが多いため、信号レベル(有効なデータ)に対するノイズレベルの比(S/N比)が大きいデータである。このように、撮像素子22から出力されるB画素データは、ノイズが支配的なデータである。よって、このノイズが支配的なデータであるB画素データを用いて画像処理を実行して画像データを生成した場合、ノイズの多い画像データが生成されることになる。   Accordingly, when the light source is a sodium lamp, the B pixel data output from the image sensor 22 is data that has almost no effective data for generating an image, and is invalid that is not necessary for generating an image. This is data due to data and noise superimposed on the invalid data. Note that invalid data is also noise with respect to valid data. That is, since the B pixel data output from the image sensor 22 has little effective data for generating an image and is relatively noisy, the ratio of the noise level to the signal level (effective data) (S / N ratio) ) Is large data. Thus, the B pixel data output from the image sensor 22 is data in which noise is dominant. Therefore, when image data is generated by executing image processing using B pixel data, which is data in which noise is dominant, image data with a lot of noise is generated.

撮像装置100は、上述したように撮像される被写体に照射される光源がナトリウムランプのような光源の分光分布に偏りがある場合、撮像された色画素データ毎のノイズ除去処理を変更することにより、撮像された画像データのノイズを低減するものである。以下に、撮像装置100の画像処理装置1におけるノイズ除去処理の制御について説明する。   When the light source irradiated to the subject to be imaged is biased in the spectral distribution of the light source such as a sodium lamp as described above, the imaging apparatus 100 changes the noise removal processing for each color pixel data that has been imaged. The noise of the captured image data is reduced. Hereinafter, control of noise removal processing in the image processing apparatus 1 of the imaging apparatus 100 will be described.

画像処理装置1の制御部10は、撮像時において被写体に照射される光源の種類を示す情報に基づいて、ノイズ除去部3における色画素データ毎のノイズ除去処理を変更する。例えば、制御部10は、上述のノイズ除去処理として、光源の種類を示す情報に基づいて、それぞれの色画素データのうちから選択された色画素データの値を零にさせる制御をする。   The control unit 10 of the image processing apparatus 1 changes the noise removal processing for each color pixel data in the noise removal unit 3 based on information indicating the type of light source irradiated to the subject during imaging. For example, as the above-described noise removal processing, the control unit 10 performs control to make the value of the color pixel data selected from the respective color pixel data zero based on the information indicating the type of the light source.

具体的には、制御部10の光源判定部11は、AWB検波部8において算出されたAWB評価値に基づいて、光源の種類を判定する。制御部10の設定部12は、光源判定部11により判定された光源の種類を示す情報に基づいて、R画素データ、G画素データ、及びB画素データのうちから選択された色画素データの値を零にさせるノイズ除去制御信号をノイズ除去部3に出力する。そして、ノイズ除去部3は、設定部12から入力されたノイズ除去制御信号に基づいて、ノイズ除去処理として、R画素データ、G画素データ、及びB画素データのうちから選択された色画素データの値を零にして、画像処理部4に出力する。   Specifically, the light source determination unit 11 of the control unit 10 determines the type of light source based on the AWB evaluation value calculated by the AWB detection unit 8. The setting unit 12 of the control unit 10 determines the value of the color pixel data selected from the R pixel data, the G pixel data, and the B pixel data based on the information indicating the type of the light source determined by the light source determination unit 11. Is output to the noise removing unit 3. Then, the noise removal unit 3 performs the noise removal processing based on the noise removal control signal input from the setting unit 12 as the color pixel data selected from the R pixel data, the G pixel data, and the B pixel data. The value is set to zero and output to the image processing unit 4.

例えば、制御部10は、光源がナトリウムランプである場合、B画素データの値を零にさせるノイズ除去制御信号をノイズ除去部3に出力する。そして、ノイズ除去部3は、設定部12から入力されたノイズ除去制御信号に基づいて、ノイズ除去処理として、B画素データの値を零にして、画像処理部4に出力する。   For example, when the light source is a sodium lamp, the control unit 10 outputs a noise removal control signal that makes the value of the B pixel data zero to the noise removal unit 3. Then, the noise removal unit 3 sets the value of the B pixel data to zero as the noise removal processing based on the noise removal control signal input from the setting unit 12 and outputs the result to the image processing unit 4.

図5は、本実施形態におけるノイズ除去処理を示すフローチャートである。以下、図5が示すフローチャートを用いて、撮像装置100におけるノイズ除去処理の動作について説明する。   FIG. 5 is a flowchart showing noise removal processing in the present embodiment. Hereinafter, the operation of noise removal processing in the imaging apparatus 100 will be described using the flowchart shown in FIG.

撮像装置100の撮像部2は、被写体を撮像して撮像素子22のR画素、G画素、及びB画素それぞれから出力されたアナログ信号をA/D変換部23においてデジタル信号に変換し、R画素データ、G画素データ、及びB画素データを出力する。そして、このR画素データ、G画素データ、及びB画素データが、撮像部2から画像処理装置1に入力される(ステップS1)。   The image capturing unit 2 of the image capturing apparatus 100 captures an object and converts analog signals output from the R pixel, the G pixel, and the B pixel of the image sensor 22 into digital signals in the A / D conversion unit 23, and R pixels Data, G pixel data, and B pixel data are output. Then, the R pixel data, G pixel data, and B pixel data are input from the imaging unit 2 to the image processing apparatus 1 (step S1).

画像処理装置1のAWB検波部8は、撮像部2から入力されたR画素データ、G画素データ、及びB画素データに基づいて、R画素、G画素、及びB画素毎に、データの平均値、ヒストグラム、または積算値等のAWB評価値を算出して、算出した結果を制御部10に出力する(ステップS2)。   Based on the R pixel data, G pixel data, and B pixel data input from the imaging unit 2, the AWB detection unit 8 of the image processing apparatus 1 calculates the average value of the data for each R pixel, G pixel, and B pixel. An AWB evaluation value such as a histogram or an integrated value is calculated, and the calculated result is output to the control unit 10 (step S2).

そして、制御部10の光源判定部11は、AWB検波部8により算出されたAWB評価値に基づいて、撮像時において被写体に照射される光源の種類を判定する。例えば、光源判定部11は、撮像時において被写体に照射される光源がナトリウムランプであると判定する(ステップS3)。   Then, the light source determination unit 11 of the control unit 10 determines the type of light source irradiated to the subject during imaging based on the AWB evaluation value calculated by the AWB detection unit 8. For example, the light source determination unit 11 determines that the light source irradiated to the subject at the time of imaging is a sodium lamp (step S3).

次に、制御部10の設定部12は、光源判定部11により判定された光源の種類を示す情報に基づいて、ノイズ除去部3に、撮像部2から入力されるR画素データ、G画素データ、及びB画素データのそれぞれに対して実行させるノイズ除去処理の制御内容を設定する。例えば、設定部12は、光源判定部11により判定された光源がナトリウムランプである場合、ノイズが支配的なデータであるB画素データの値を零にさせるノイズ除去制御信号をノイズ除去部3に出力して設定する。また、この場合、設定部12は、R画素データ、及びG画素データに対して通常のノイズ除去処理(画素データに重畳されているノイズを低減させるための予め定められたノイズ除去処理)を実行させるノイズ除去制御信号をノイズ除去部3に出力して設定する(ステップS4)。   Next, the setting unit 12 of the control unit 10 includes R pixel data and G pixel data input from the imaging unit 2 to the noise removal unit 3 based on information indicating the type of light source determined by the light source determination unit 11. , And the control content of the noise removal processing to be executed for each of the B pixel data. For example, when the light source determined by the light source determination unit 11 is a sodium lamp, the setting unit 12 sends a noise removal control signal that causes the value of B pixel data, which is data with dominant noise, to be zero, to the noise removal unit 3. Output and set. In this case, the setting unit 12 performs normal noise removal processing (predetermined noise removal processing for reducing noise superimposed on the pixel data) on the R pixel data and the G pixel data. The noise removal control signal to be output is set to be output to the noise removal unit 3 (step S4).

続いて、ノイズ除去部3は、設定部12から入力されたノイズ除去制御信号に基づいて、ノイズ除去処理として、R画素データ、G画素データ、及びB画素データのうちから選択された色画素データの値を零にして、画像処理部4に出力する。例えば、光源がナトリウムランプである場合、ノイズ除去部3は、設定部12から入力されたノイズ除去制御信号に基づいて、通常のノイズ除去処理を実行したR画素データ、及びG画素データと、データの値を零にしたB画素データとを画像処理部4に出力する(ステップS5)。   Subsequently, the noise removal unit 3 performs color pixel data selected from R pixel data, G pixel data, and B pixel data as noise removal processing based on the noise removal control signal input from the setting unit 12. Is set to zero and output to the image processing unit 4. For example, when the light source is a sodium lamp, the noise removal unit 3 performs R pixel data, G pixel data, and data obtained by performing normal noise removal processing based on the noise removal control signal input from the setting unit 12. The B pixel data in which the value of 0 is made zero is output to the image processing unit 4 (step S5).

画像処理部4は、ノイズ除去部3によりノイズ除去処理がされて入力されたR画素データ、G画素データ、及びB画素データに対して、WB調整、色補正、及び階調補正等の各種画像処理を実行した後、圧縮処理(例えば、JPEG方式による圧縮処理)を実行して、画像データを生成する(ステップS6)。次に、記録部5は、画像処理部4により画像処理されて生成された画像データを記憶媒体に記録する(ステップS7)。   The image processing unit 4 performs various images such as WB adjustment, color correction, and gradation correction on the R pixel data, G pixel data, and B pixel data that have been subjected to noise removal processing by the noise removal unit 3 and input. After executing the processing, compression processing (for example, compression processing by the JPEG method) is executed to generate image data (step S6). Next, the recording unit 5 records the image data generated by the image processing by the image processing unit 4 on the storage medium (step S7).

このように、撮像装置100は、撮像時における光源の種類を判定し、判定した光源の種類に基づいて、撮像素子22の有する色画素毎に生成された色画素データ毎にノイズ除去処理を変更して画像データを生成する。例えば、撮像装置100は、撮像時における光源がナトリウムランプである場合、撮像素子22において生成された色画素データのうちから、ノイズが支配的なデータであるB画素データを選択して、選択したB画素データの値を零にして画像データを生成する。   As described above, the imaging apparatus 100 determines the type of the light source at the time of imaging, and changes the noise removal processing for each color pixel data generated for each color pixel of the imaging element 22 based on the determined type of the light source. Then, image data is generated. For example, when the light source at the time of imaging is a sodium lamp, the imaging apparatus 100 selects and selects B pixel data that is data in which noise is dominant from the color pixel data generated in the imaging element 22. Image data is generated with the value of B pixel data set to zero.

これにより、撮像装置100は、ノイズが支配的なデータである色画素データを用いずに画像データを生成するため、生成された画像データのノイズを低減することができる。例えば、光源がナトリウムランプである場合、撮像装置100は、ノイズが支配的なデータであるB画素データの値を用いずに画像データを生成するため、生成された画像データのノイズを低減することができる。   Thereby, since the imaging device 100 generates image data without using color pixel data, which is noise-dominant data, noise of the generated image data can be reduced. For example, when the light source is a sodium lamp, the imaging apparatus 100 generates image data without using the value of B pixel data, which is data in which noise is dominant, and therefore reduces noise in the generated image data. Can do.

よって、本実施形態によれば、撮像装置100は、被写体に照射される光源がナトリウムランプのように分光分布に偏りがある場合であっても、当該光源の種類を示す情報に基づいて、撮像素子22において生成された色画素データのうちから選択された色画素データの値を零にすることにより、当該被写体が撮像された画像データのノイズを適切に低減することができる。   Therefore, according to the present embodiment, the imaging apparatus 100 captures an image based on information indicating the type of the light source even when the light source irradiated to the subject is biased in the spectral distribution like a sodium lamp. By setting the value of the color pixel data selected from the color pixel data generated in the element 22 to zero, it is possible to appropriately reduce noise in the image data obtained by capturing the subject.

なお、上述したノイズ除去処理において、分光分布に偏りがある光源としてナトリウムランプを光源とした場合の例について説明したが、青みを帯びた高い色温度の光源、または赤みを帯びた低い色温度の光源とした場合においても、本実施形態のノイズ除去処理を適用することができる。   In the noise removal processing described above, an example in which a sodium lamp is used as a light source with a biased spectral distribution has been described. However, a light source having a high bluish color temperature or a light color having a reddish color temperature is used. Even when the light source is used, the noise removal processing of the present embodiment can be applied.

図6は、各種光源の色温度の例を示す図である。この図が示すように、晴天の屋外の色温度は、5000K〜6000K付近である。また、色温度が高い光源ほど、より青みを帯びた光源であって、色温度が低い光源ほど、より赤みを帯びた光源である。   FIG. 6 is a diagram illustrating examples of color temperatures of various light sources. As shown in this figure, the color temperature in the clear sky is around 5000K to 6000K. Further, a light source with a higher color temperature is a lighter lighter blue, and a light source with a lower color temperature is a lighter reddish.

青みを帯びた高い色温度の光源の場合、光源の分光分布においては青系の波長成分に光が偏っており赤系の波長成分の光が少ない。この高い色温度の光源が照射されて被写体の分光反射率により被写体から反射された光を撮像して撮像素子22により生成されたR画素データの値が著しく小さい場合、すなわち画像を生成するために有効な値でない場合、画像処理装置1は、R画素データの値を零にする。ここで、高い色温度の光源は、例えば、色温度が9000K(第1の閾値)以上であって、青空からの光(太陽からの直接光は除く)等である。   In the case of a light source having a blue color temperature and a high color temperature, the light is biased toward the blue wavelength component and the light of the red wavelength component is small in the spectral distribution of the light source. When the value of the R pixel data generated by the image pickup device 22 by imaging the light reflected from the subject by the light source having the high color temperature and reflected by the spectral reflectance of the subject is extremely small, that is, for generating an image. If it is not a valid value, the image processing apparatus 1 sets the value of the R pixel data to zero. Here, the light source having a high color temperature is, for example, light from a blue sky (excluding direct light from the sun) having a color temperature of 9000 K (first threshold) or more.

例えば、制御部10は、光源が、予め定められた第1の閾値(例えば、9000K)以上の色温度の光源である場合、R画素データの値に基づいて、R画素データが画像を生成するために有効な値であるか否かを判定し、R画素データの値が有効な値でないと判定した場合、R画素データの値を零にさせる制御をする。   For example, when the light source is a light source having a color temperature equal to or higher than a predetermined first threshold (for example, 9000 K), the control unit 10 generates an image of the R pixel data based on the value of the R pixel data. Therefore, it is determined whether or not it is an effective value, and when it is determined that the value of the R pixel data is not an effective value, control is performed to make the value of the R pixel data zero.

なお、制御部10は、R画素データの値に基づいて、R画素データが画像を生成するために有効な値であるか否かを判定する場合、例えば、R画素データが64分割されたヒストグラムにおいて、デジタル値(0〜15)に含まれる画素の割合が90%以上であるとき、R画素データの値が有効な値でないと判定する。そして、R画素データの値が有効な値でない場合、R画素データは、画像を生成するために有効データがほとんど無いデータであって、ノイズが支配的なデータである。一方、制御部10は、R画素データが64分割されたヒストグラムにおいて、デジタル値(0〜15)に含まれる画素の割合が90%以上でないとき、R画素データの値が有効な値であると判定する。   Note that when the control unit 10 determines whether or not the R pixel data is an effective value for generating an image based on the value of the R pixel data, for example, a histogram obtained by dividing the R pixel data into 64 parts. When the ratio of the pixels included in the digital value (0 to 15) is 90% or more, it is determined that the value of the R pixel data is not a valid value. When the value of the R pixel data is not an effective value, the R pixel data is data that has almost no effective data for generating an image and is dominant in noise. On the other hand, when the ratio of the pixels included in the digital value (0 to 15) is not 90% or more in the histogram in which the R pixel data is divided into 64, the control unit 10 determines that the value of the R pixel data is an effective value. judge.

また、赤みを帯びた低い色温度の光源の場合、光源の分光分布においては赤系の波長成分に光が偏っており青系の波長成分の光が少ない。この低い色温度の光源が照射されて被写体の分光反射率により被写体から反射された光を撮像して撮像素子22により生成されたB画素データの値が著しく小さい場合、すなわち画像を生成するために有効な値でない場合、画像処理装置1は、B画素データの値を零にする。ここで、低い色温度の光源は、例えば、色温度が2000K(第2の閾値)以下であって、ろうそくの光等である。   In the case of a light source having a red color temperature and a low color temperature, the light is biased toward the red wavelength component and the light of the blue wavelength component is small in the spectral distribution of the light source. When the light source of this low color temperature is irradiated and the light reflected from the subject is imaged by the spectral reflectance of the subject and the value of the B pixel data generated by the image sensor 22 is extremely small, that is, to generate an image If it is not an effective value, the image processing apparatus 1 sets the value of the B pixel data to zero. Here, the light source having a low color temperature is, for example, a candle light or the like having a color temperature of 2000K (second threshold) or less.

例えば、制御部10は、光源が、予め定められた第2の閾値(例えば、2000K)以下の色温度の光源である場合、B画素データの値に基づいて、B画素データが画像を生成するために有効な値であるか否かを判定し、B画素データの値が有効な値でないと判定した場合、B画素データの値を低減させる制御をする。   For example, when the light source is a light source having a color temperature equal to or lower than a predetermined second threshold (for example, 2000K), the control unit 10 generates an image of the B pixel data based on the value of the B pixel data. Therefore, it is determined whether or not the value is an effective value, and when it is determined that the value of the B pixel data is not an effective value, control is performed to reduce the value of the B pixel data.

なお、制御部10は、B画素データの値に基づいて、B画素データが画像を生成するために有効な値であるか否かを判定する場合、例えば、B画素データが64分割されたヒストグラムにおいて、デジタル値(0〜15)に含まれる画素の割合が90%以上であるとき、B画素データの値が有効な値でないと判定する。そして、B画素データの値が有効な値でない場合、B画素データは、画像を生成するために有効データがほとんど無いデータであって、ノイズが支配的なデータである。一方、制御部10は、B画素データが64分割されたヒストグラムにおいて、デジタル値(0〜15)に含まれる画素の割合が90%以上でないとき、B画素データの値が有効な値であると判定する。   Note that when the control unit 10 determines whether the B pixel data is an effective value for generating an image based on the value of the B pixel data, for example, a histogram obtained by dividing the B pixel data into 64 parts. When the ratio of pixels included in the digital value (0 to 15) is 90% or more, it is determined that the value of the B pixel data is not an effective value. When the value of the B pixel data is not an effective value, the B pixel data is data that has almost no effective data for generating an image and is dominant in noise. On the other hand, when the ratio of the pixels included in the digital value (0 to 15) is not 90% or more in the histogram in which the B pixel data is divided into 64, the control unit 10 determines that the value of the B pixel data is an effective value. judge.

このように、撮像装置100の画像処理装置1は、撮像時における光源が、色温度の高い光源の場合であって、R画素データの値に基づいて、R画素データが画像を生成するために有効な値でないと判定した場合、R画素データの値を零にする。これにより、画像処理装置1は、画像を生成するために有効な値でないR画素データ、すなわち、ノイズが支配的なデータであるR画素データの値を零にして画像データを生成することができる。   As described above, the image processing apparatus 1 of the imaging apparatus 100 is a case where the light source at the time of imaging is a light source having a high color temperature, and the R pixel data generates an image based on the value of the R pixel data. If it is determined that the value is not valid, the value of the R pixel data is set to zero. As a result, the image processing apparatus 1 can generate image data by setting the value of R pixel data that is not an effective value for generating an image, that is, the value of R pixel data that is noise-dominated data to zero. .

また、撮像装置100の画像処理装置1は、撮像時における光源が、色温度の低い光源の場合であって、B画素データの値に基づいて、B画素データが画像を生成するために有効な値でないと判定した場合、B画素データの値を零にする。これにより、画像処理装置1は、画像を生成するために有効な値でないB画素データ、すなわち、ノイズが支配的なデータであるB画素データの値を零にして画像データを生成することができる。   The image processing apparatus 1 of the imaging apparatus 100 is effective when the light source at the time of imaging is a light source having a low color temperature, and the B pixel data is effective for generating an image based on the value of the B pixel data. If it is determined that the value is not a value, the value of the B pixel data is set to zero. Thereby, the image processing apparatus 1 can generate image data by setting the value of B pixel data that is not an effective value for generating an image, that is, the value of B pixel data that is noise-dominant data to zero. .

よって、本実施形態によれば、撮像装置100の画像処理装置1は、被写体に照射される光源が色温度の高い光源または低い光源のように分光分布に偏りがある場合であっても、当該光源の種類を示す情報に基づいて、撮像素子22において生成された色画素データのうちから選択された色画素データの値を零にすることにより、撮像された当該被写体画像のノイズを適切に低減することができる。   Therefore, according to the present embodiment, the image processing apparatus 1 of the imaging apparatus 100 can perform the processing even when the light source irradiated to the subject is biased in the spectral distribution such as a light source having a high color temperature or a light source having a low color temperature. Based on the information indicating the type of light source, the value of the color pixel data selected from the color pixel data generated in the image sensor 22 is set to zero, so that the noise of the captured subject image is appropriately reduced. can do.

なお、R画素データ、またはB画素データが画像を生成するために有効な値であるか否かを判定する場合、それぞれの色画素データが64分割されたヒストグラムにおいて、デジタル値(0〜15)に含まれる画素の割合が90%以上であるか否かを判定する例について説明したが、これは一例であってこれに限られるものではない。例えば、ヒストグラムを算出する際の分割数、デジタル値の範囲、またはこの範囲に含まれる画素の割合等は、他の値としてもよい。また、ヒストグラムによる解析以外の方法により、それぞれの色画素データに含まれるデータの値に基づいて、画像を生成するために有効な値であるか否かを判定してもよい。   When determining whether R pixel data or B pixel data is an effective value for generating an image, a digital value (0 to 15) is used in a histogram in which each color pixel data is divided into 64 parts. Although the example which determines whether the ratio of the pixel contained in is 90% or more was demonstrated, this is an example and is not restricted to this. For example, the number of divisions when calculating the histogram, the range of digital values, or the ratio of pixels included in this range may be other values. Further, it may be determined whether or not the value is effective for generating an image based on the value of data included in each color pixel data by a method other than the analysis by the histogram.

図7は、ノイズ除去処理の制御内容を設定する動作の詳細を示すフローチャートである。また、図8は、図7が示すフローチャートにおいて選択して設定されるノイズ除去処理の制御内容を示す表である。
以下、判定された光源が、ナトリウムランプ、高い色温度の光源、または低い色温度の光源であるか否かにより、ノイズ除去処理の制御内容を設定する場合の動作(図5のステップS4に相当する動作)の一例を、図7及び図8を用いて説明する。
FIG. 7 is a flowchart showing details of an operation for setting the control content of the noise removal processing. FIG. 8 is a table showing the control content of the noise removal process selected and set in the flowchart shown in FIG.
Hereinafter, an operation for setting the control content of the noise removal processing depending on whether the determined light source is a sodium lamp, a light source with a high color temperature, or a light source with a low color temperature (corresponding to step S4 in FIG. 5). An example of the operation is described with reference to FIGS.

制御部10の光源判定部11は、AWB検波部8により算出されたAWB評価値に基づいて、撮像時において被写体に照射される光源の種類を判定する(ステップS11)。   Based on the AWB evaluation value calculated by the AWB detection unit 8, the light source determination unit 11 of the control unit 10 determines the type of light source irradiated to the subject during imaging (step S11).

次に、制御部10の設定部12は、光源判定部11により判定された光源がナトリウムランプであるか否かを判定する(ステップS12)。設定部12は、光源判定部11により判定された光源がナトリウムランプでないと判定した場合、ステップS13に処理を進める。一方、設定部12は、光源判定部11により判定された光源がナトリウムランプであると判定した場合、ノイズ除去処理の制御内容として「処理1」を選択して、「処理1」を示すノイズ除去制御信号をノイズ除去部3に出力して設定する。   Next, the setting part 12 of the control part 10 determines whether the light source determined by the light source determination part 11 is a sodium lamp (step S12). If the setting unit 12 determines that the light source determined by the light source determination unit 11 is not a sodium lamp, the setting unit 12 proceeds to step S13. On the other hand, if the setting unit 12 determines that the light source determined by the light source determination unit 11 is a sodium lamp, the setting unit 12 selects “processing 1” as the control content of the noise removal processing and performs noise removal indicating “processing 1”. A control signal is output to the noise removing unit 3 and set.

すなわち、設定部12は、光源がナトリウムランプであると判定した場合、図8の「処理1」に示すように、R画素データ及びG画素データに対しては、通常のノイズ除去処理を実行し、B画素データに対しては、B画素データの値を零にする処理を実行する制御を選択してノイズ除去部3に設定する。   That is, when the setting unit 12 determines that the light source is a sodium lamp, as illustrated in “Process 1” in FIG. 8, the setting unit 12 performs normal noise removal processing on the R pixel data and the G pixel data. For the B pixel data, the control for executing the process of making the value of the B pixel data zero is selected and set in the noise removing unit 3.

ステップS13において、設定部12は、光源判定部11により判定された光源の色温度が第1の閾値以上(例えば、9000K以上の高い色温度)であるか否かを判定する。設定部12は、光源判定部11により判定された光源の色温度が第1の閾値以上(例えば、9000K以上の高い色温度)でないと判定した場合、ステップS16に処理を進める。一方、設定部12は、光源判定部11により判定された光源の色温度が第1の閾値以上(例えば、9000K以上の高い色温度)であると判定した場合、ステップS14に処理を進めて、AWB検波部8により算出されたR画素データのヒストグラムを解析する。   In step S <b> 13, the setting unit 12 determines whether the color temperature of the light source determined by the light source determination unit 11 is equal to or higher than a first threshold (for example, a high color temperature of 9000 K or higher). If the setting unit 12 determines that the color temperature of the light source determined by the light source determination unit 11 is not equal to or higher than the first threshold (for example, a high color temperature of 9000 K or higher), the setting unit 12 proceeds to step S16. On the other hand, if the setting unit 12 determines that the color temperature of the light source determined by the light source determination unit 11 is equal to or higher than the first threshold (for example, a high color temperature of 9000 K or higher), the process proceeds to step S14. The histogram of the R pixel data calculated by the AWB detection unit 8 is analyzed.

次に、設定部12は、AWB検波部8により算出されたR画素データのヒストグラムを解析した結果に基づいて、画像を生成するために有効なR画素データが存在するか否かを判定する。例えば、設定部12は、R画素データが64分割されたヒストグラムにおいて、デジタル値(0〜15)に含まれる画素の割合が90%以上であるとき、R画素データの値が有効な値でないと判定する。一方、制御部10は、R画素データが64分割されたヒストグラムにおいて、デジタル値(0〜15)に含まれる画素の割合が90%以上でないとき、R画素データの値が有効な値であると判定する(ステップS15)。   Next, the setting unit 12 determines whether there is valid R pixel data for generating an image based on the result of analyzing the histogram of the R pixel data calculated by the AWB detection unit 8. For example, the setting unit 12 determines that the value of the R pixel data is not a valid value when the ratio of the pixels included in the digital value (0 to 15) is 90% or more in the histogram in which the R pixel data is divided into 64 parts. judge. On the other hand, when the ratio of the pixels included in the digital value (0 to 15) is not 90% or more in the histogram in which the R pixel data is divided into 64, the control unit 10 determines that the value of the R pixel data is an effective value. Determination is made (step S15).

ステップS15において、設定部12は、有効なR画素データが存在しないと判定した場合、ノイズ除去処理の制御内容として「処理2」を選択して、「処理2」を示すノイズ除去制御信号をノイズ除去部3に出力して設定する。すなわち、図8の「処理2」に示すように、設定部12は、G画素データ及びB画素データに対しては、通常のノイズ除去処理を実行し、R画素データに対しては、R画素データの値を零にする処理を実行する制御を選択してノイズ除去部3に設定する。   In step S15, if the setting unit 12 determines that there is no valid R pixel data, the setting unit 12 selects “processing 2” as the control content of the noise removal processing, and sets the noise removal control signal indicating “processing 2” as noise. Output to the removal unit 3 and set. That is, as shown in “Processing 2” in FIG. 8, the setting unit 12 performs normal noise removal processing on the G pixel data and B pixel data, and R pixels on the R pixel data. The control for executing the process of making the data value zero is selected and set in the noise removing unit 3.

一方、ステップS15において、設定部12は、有効なR画素データが存在すると判定した場合、ノイズ除去処理の制御内容として「処理0」を選択して、「処理0」を示すノイズ除去制御信号をノイズ除去部3に出力して設定する。すなわち、図8の「処理0」に示すように、設定部12は、R画素データ、G画素データ、及びB画素データに対して、通常のノイズ除去処理を実行する制御を選択してノイズ除去部3に設定する。   On the other hand, if the setting unit 12 determines in step S15 that valid R pixel data exists, “setting 0” is selected as the control content of the noise removal processing, and a noise removal control signal indicating “processing 0” is displayed. Output to noise removal unit 3 and set. That is, as shown in “Processing 0” in FIG. 8, the setting unit 12 selects control for executing normal noise removal processing on R pixel data, G pixel data, and B pixel data, and performs noise removal. Set to part 3.

また、ステップS16において、設定部12は、光源判定部11により判定された光源の色温度が第2の閾値以下(例えば、2000K以下の低い色温度)であるか否かを判定する。設定部12は、光源判定部11により判定された光源の色温度が第2の閾値以下(例えば、2000K以下の低い色温度)でないと判定した場合、ノイズ除去処理の制御内容として「処理0」を選択して、「処理0」を示すノイズ除去制御信号をノイズ除去部3に出力して設定する。すなわち、図8の「処理0」に示すように、設定部12は、R画素データ、G画素データ、及びB画素データに対して、通常のノイズ除去処理を実行する制御を選択してノイズ除去部3に設定する。   In step S <b> 16, the setting unit 12 determines whether the color temperature of the light source determined by the light source determination unit 11 is equal to or lower than a second threshold (for example, a low color temperature equal to or lower than 2000K). When the setting unit 12 determines that the color temperature of the light source determined by the light source determination unit 11 is not less than or equal to the second threshold (for example, a low color temperature of 2000K or less), “processing 0” is set as the control content of the noise removal process. And a noise removal control signal indicating “processing 0” is output to the noise removal unit 3 and set. That is, as shown in “Processing 0” in FIG. 8, the setting unit 12 selects control for executing normal noise removal processing on R pixel data, G pixel data, and B pixel data, and performs noise removal. Set to part 3.

一方、ステップS16において、設定部12は、光源判定部11により判定された光源の色温度が第2の閾値以下(例えば、2000K以下の低い色温度)であると判定した場合、ステップS17に処理を進めて、AWB検波部8により算出されたB画素データのヒストグラムを解析する。   On the other hand, if the setting unit 12 determines in step S16 that the color temperature of the light source determined by the light source determination unit 11 is equal to or lower than the second threshold (for example, a low color temperature of 2000K or lower), the process proceeds to step S17. The histogram of the B pixel data calculated by the AWB detection unit 8 is analyzed.

次に、設定部12は、AWB検波部8により算出されたB画素データのヒストグラムを解析した結果に基づいて、画像を生成するために有効なB画素データが存在するか否かを判定する。例えば、設定部12は、B画素データが64分割されたヒストグラムにおいて、デジタル値(0〜15)に含まれる画素の割合が90%以上であるとき、B画素データの値が有効な値でないと判定する。一方、制御部10は、B画素データが64分割されたヒストグラムにおいて、デジタル値(0〜15)に含まれる画素の割合が90%以上でないとき、B画素データの値が有効な値であると判定する(ステップS18)。   Next, the setting unit 12 determines whether there is valid B pixel data for generating an image based on the result of analyzing the histogram of the B pixel data calculated by the AWB detection unit 8. For example, the setting unit 12 determines that the value of the B pixel data is not a valid value when the ratio of the pixels included in the digital value (0 to 15) is 90% or more in the histogram in which the B pixel data is divided into 64 parts. judge. On the other hand, when the ratio of the pixels included in the digital value (0 to 15) is not 90% or more in the histogram in which the B pixel data is divided into 64, the control unit 10 determines that the value of the B pixel data is an effective value. Determination is made (step S18).

ステップS18において、設定部12は、有効なB画素データが存在しないと判定した場合、ノイズ除去処理の制御内容として「処理1」を選択して、「処理1」を示すノイズ除去制御信号をノイズ除去部3に出力して設定する。すなわち、図8の「処理1」に示すように、設定部12は、R画素データ及びG画素データに対しては、通常のノイズ除去処理を実行し、B画素データに対しては、B画素データの値を零にする処理を実行する制御を選択してノイズ除去部3に設定する。   In step S18, when the setting unit 12 determines that there is no valid B pixel data, the setting unit 12 selects “processing 1” as the control content of the noise removal processing, and sets the noise removal control signal indicating “processing 1” as noise. Output to the removal unit 3 and set. That is, as shown in “Process 1” in FIG. 8, the setting unit 12 performs a normal noise removal process on the R pixel data and the G pixel data, and a B pixel on the B pixel data. The control for executing the process of making the data value zero is selected and set in the noise removing unit 3.

一方、ステップS18において、設定部12は、有効なB画素データが存在すると判定した場合、ノイズ除去処理の制御内容として「処理0」を選択して、「処理0」を示すノイズ除去制御信号をノイズ除去部3に出力して設定する。すなわち、図8の「処理0」に示すように、設定部12は、R画素データ、G画素データ、及びB画素データに対して、通常のノイズ除去処理を実行する制御を選択してノイズ除去部3に設定する。   On the other hand, if the setting unit 12 determines in step S18 that valid B pixel data exists, “setting 0” is selected as the control content of the noise removal processing, and a noise removal control signal indicating “processing 0” is displayed. Output to noise removal unit 3 and set. That is, as shown in “Processing 0” in FIG. 8, the setting unit 12 selects control for executing normal noise removal processing on R pixel data, G pixel data, and B pixel data, and performs noise removal. Set to part 3.

以上のように、本実施形態における撮像装置100は、被写体に照射される光源がナトリウムランプ、高い色温度の光源、または低い色温度の光源等のように分光分布に偏りがある場合であっても、当該光源の種類を示す情報に基づいて、撮像素子22において生成された色画素データのうちから選択された色画素データの値を零にすることにより、当該被写体が撮像された画像のノイズを適切に低減することができる。   As described above, the imaging apparatus 100 according to this embodiment is a case where the light source irradiated to the subject is biased in the spectral distribution such as a sodium lamp, a light source with a high color temperature, or a light source with a low color temperature. In addition, based on the information indicating the type of the light source, by setting the value of the color pixel data selected from the color pixel data generated in the image sensor 22 to zero, the noise of the image in which the subject is imaged Can be appropriately reduced.

また、光源がナトリウムランプ、または低い色温度の光源である場合の撮像条件は、例えば、トンネル内の照明、夜間時の道路の照明、または、ろうそくの光等、暗い光源下の撮像条件であることが多い。このように暗い光源下の撮像条件である場合であって、撮像装置100が高感度設定により撮像した場合、撮像素子22において発生するノイズはより大きくなる。そのため、撮像装置100は、特に高感度設定により撮像されるような暗い光源下の条件において、撮像された画像のノイズを低減することに、より有効である。   The imaging condition when the light source is a sodium lamp or a light source with a low color temperature is an imaging condition under a dark light source such as lighting in a tunnel, road lighting at night, or candlelight. There are many cases. As described above, when the imaging condition is under a dark light source and the imaging apparatus 100 captures an image with the high sensitivity setting, noise generated in the imaging element 22 becomes larger. Therefore, the imaging apparatus 100 is more effective in reducing noise of a captured image under conditions of a dark light source that is captured with a high sensitivity setting.

なお、上記実施形態によれば、画像処理装置1のノイズ除去部3は、撮像素子22により被写体が撮像されて、撮像素子22の有する色画素毎に生成されたそれぞれの色画素データに対して、ノイズ除去処理をそれぞれ実行する。そして、画像処理装置1の制御部10は、撮像時において当該被写体に照射される光源の種類を示す情報に基づいて、ノイズ除去部3における色画素データ毎のノイズ除去処理を変更する。   Note that, according to the embodiment, the noise removing unit 3 of the image processing apparatus 1 captures the subject with the image sensor 22 and generates each color pixel data generated for each color pixel of the image sensor 22. The noise removal process is executed. Then, the control unit 10 of the image processing apparatus 1 changes the noise removal processing for each color pixel data in the noise removal unit 3 based on information indicating the type of light source irradiated to the subject during imaging.

つまり、画像処理装置1は、光源の種類に基づいて色画素データ毎に異なるノイズ除去処理を実行する。例えば、画像処理装置1は、光源の種類に基づいて、ノイズが支配的なデータである色画素データに対して、データの値を零にするノイズ除去処理を実行する。すなわち、画像処理装置1は、光源の種類に基づいて、ノイズが大きい色画素データに対してデータの値を零にし、ノイズが小さい色画素データに対して通常のノイズ除去をするといったように、色画素データ毎に異なるノイズ除去処理を実行する。また、画像処理装置1は、光源の種類に基づいて、ノイズが大きい色画素データに対するノイズ除去の除去強度を強くし、ノイズが小さい色画素データに対するノイズ除去の除去強度を弱くするといったように、色画素データ毎に異なる除去強度のノイズ除去処理を実行してもよい。これにより、画像処理装置1は、光源の種類に基づいて、それぞれの色画素データに対して適切なノイズ除去処理を実行することできる。よって、画像処理装置1は、光源の種類に基づいて、撮像された画像のノイズを適切に低減することができる。   That is, the image processing apparatus 1 executes different noise removal processing for each color pixel data based on the type of light source. For example, the image processing apparatus 1 executes a noise removal process for setting the data value to zero on the color pixel data, which is data in which noise is dominant, based on the type of light source. That is, the image processing apparatus 1 sets the data value to zero for color pixel data with large noise based on the type of light source, and performs normal noise removal for color pixel data with low noise. A different noise removal process is executed for each color pixel data. Further, the image processing apparatus 1 increases the noise removal removal strength for color pixel data with large noise and weakens the noise removal removal strength for color pixel data with small noise based on the type of light source. You may perform the noise removal process of different removal intensity | strength for every color pixel data. Thereby, the image processing apparatus 1 can perform an appropriate noise removal process with respect to each color pixel data based on the kind of light source. Therefore, the image processing apparatus 1 can appropriately reduce noise in the captured image based on the type of the light source.

また、画像処理装置1の制御部10は、ノイズ除去処理として、光源の種類を示す情報に基づいて、それぞれの色画素データのうちから選択された色画素データの値を低減させる制御をしてもよい。
つまり、上記実施形態において、ノイズ除去処理として、光源の種類に基づいて選択された色画素データの値を零にさせる制御について説明したが、零にさせる制御に限らず、当該選択された色画素データの値を低減させる制御としてもよい。これにより、画像処理装置1は、ノイズ除去処理として、光源の種類に基づいて選択された色画素データのノイズを低減することができる。
In addition, the control unit 10 of the image processing apparatus 1 performs control to reduce the value of the color pixel data selected from each color pixel data based on information indicating the type of the light source as noise removal processing. Also good.
That is, in the above-described embodiment, the control for reducing the value of the color pixel data selected based on the type of the light source to zero is described as the noise removal processing. However, the control is not limited to zero, and the selected color pixel is not limited to the control. It is good also as control which reduces the value of data. Thereby, the image processing apparatus 1 can reduce the noise of the color pixel data selected based on the type of the light source as the noise removal processing.

また、画像処理装置1のノイズ除去部3は、R画素、G画素、及びB画素の色画素を有する撮像素子22により被写体が撮像されて、当該色画素毎に生成されたR画素データ、G画素データ、及びB画素データに対して、ノイズ除去処理をそれぞれ実行する。そして、制御部10は、ノイズ除去処理として、光源の種類を示す情報に基づいて、R画素データ、G画素データ、及びB画素データのうちから選択された色画素データの値を低減させる制御をする。
つまり、ノイズ除去部3は、制御部10の制御により、撮像素子22により生成されたR画素データ、G画素データ、及びB画素データに対してノイズ除去処理をそれぞれ実行する。これにより、画像処理装置1は、光源の種類に応じて、撮像素子22により生成されたR画素データ、G画素データ、及びB画素データのうちから選択された色画素データの値を低減させる制御をすることができる。
In addition, the noise removal unit 3 of the image processing apparatus 1 captures a subject with an imaging element 22 having color pixels of R pixels, G pixels, and B pixels, and generates R pixel data, G generated for each color pixel. A noise removal process is performed on each of the pixel data and the B pixel data. And the control part 10 performs control which reduces the value of the color pixel data selected from R pixel data, G pixel data, and B pixel data based on the information which shows the kind of light source as a noise removal process. To do.
That is, the noise removal unit 3 performs noise removal processing on the R pixel data, the G pixel data, and the B pixel data generated by the imaging element 22 under the control of the control unit 10. Thereby, the image processing apparatus 1 controls to reduce the value of the color pixel data selected from the R pixel data, the G pixel data, and the B pixel data generated by the imaging element 22 according to the type of the light source. Can do.

また、上記実施形態によれば、画像処理装置1の制御部10は、光源がナトリウムランプである場合、B画素データの値を低減させる制御をする。
つまり、制御部10は、光源がナトリウムランプである場合、ノイズが支配的なデータであるB画素データの値を低減させる制御をする。これにより、画像処理装置1は、被写体に照射される光源がナトリウムランプのように分光分布に偏りがある場合であっても、撮像された画像のノイズを適切に低減することができる。
Further, according to the embodiment, the control unit 10 of the image processing apparatus 1 performs control to reduce the value of the B pixel data when the light source is a sodium lamp.
That is, when the light source is a sodium lamp, the control unit 10 performs control to reduce the value of B pixel data that is data in which noise is dominant. Thereby, the image processing apparatus 1 can appropriately reduce noise of a captured image even when the light source irradiated to the subject is biased in the spectral distribution like a sodium lamp.

また、上記実施形態によれば、画像処理装置1の制御部10は、光源が予め定められた第1の閾値以上の色温度(例えば、9000K以上の高い色温度)の光源である場合、R画素データの値に基づいて、R画素データが画像を生成するために有効な値であるか否かを判定する。そして、制御部10は、R画素データの値が有効な値でないと判定した場合、R画素データの値を低減させる制御をする。
つまり、画像処理装置1は、青みを帯びた高い色温度の光源である場合であって、R画素データの値が有効な値でない場合、ノイズが支配的なデータであるR画素データの値を低減させる制御をする。これにより、画像処理装置1は、被写体に照射される光源が青みを帯びた高い色温度の光源のように分光分布に偏りがある場合であっても、撮像された画像のノイズを適切に低減することができる。なお、上記実施形態において、高い色温度の光源であるか否かを判定するために予め定められた第1の閾値を9000Kとした例について説明したが、これに限らず、第1の閾値を9000K以外のその他の色温度としてもよい。
Further, according to the embodiment, the control unit 10 of the image processing apparatus 1 determines that the light source is a light source having a color temperature equal to or higher than a predetermined first threshold (for example, a high color temperature of 9000 K or higher). Based on the value of the pixel data, it is determined whether or not the R pixel data is an effective value for generating an image. When the control unit 10 determines that the value of the R pixel data is not a valid value, the control unit 10 performs control to reduce the value of the R pixel data.
That is, when the image processing apparatus 1 is a light source having a blue color temperature and a high color temperature, and the value of the R pixel data is not an effective value, the value of the R pixel data, which is noise-dominated data, is obtained. Control to reduce. As a result, the image processing apparatus 1 appropriately reduces noise in the captured image even when the light source applied to the subject is biased in the spectral distribution, such as a light source with a high color temperature that is bluish. can do. In the above-described embodiment, an example in which the first threshold value set in advance for determining whether the light source has a high color temperature is set to 9000K has been described. Other color temperatures other than 9000K may be used.

なお、上記実施形態によれば、画像処理装置1の制御部10は、光源が、予め定められた第2の閾値以下の色温度(例えば、2000K以下の低い色温度)の光源である場合、B画素データの値に基づいて、B画素データが画像を生成するために有効な値であるか否かを判定する。そして、制御部10は、B画素データの値が有効な値でないと判定した場合、B画素データの値を低減させる制御をする。
つまり、画像処理装置1は、赤みを帯びた低い色温度の光源である場合であって、B画素データの値が有効な値でない場合、ノイズが支配的なデータであるB画素データの値を低減させる制御をする。これにより、画像処理装置1は、被写体に照射される光源が赤みを帯びた低い色温度の光源のように分光分布に偏りがある場合であっても、撮像された画像のノイズを適切に低減することができる。なお、上記実施形態において、低い色温度の光源であるか否かを判定するために予め定められた第2の閾値を2000Kとした例について説明したが、これに限らず、第2の閾値を2000K以外のその他の色温度としてもよい。
Note that, according to the embodiment, the control unit 10 of the image processing apparatus 1 is configured such that the light source is a light source having a color temperature equal to or lower than a predetermined second threshold (for example, a low color temperature equal to or lower than 2000K). Based on the value of the B pixel data, it is determined whether or not the B pixel data is an effective value for generating an image. When the control unit 10 determines that the value of the B pixel data is not a valid value, the control unit 10 performs control to reduce the value of the B pixel data.
In other words, when the image processing apparatus 1 is a light source having a red color temperature and a low color temperature, and the value of the B pixel data is not an effective value, the value of the B pixel data, which is data in which noise is dominant, is obtained. Control to reduce. As a result, the image processing apparatus 1 appropriately reduces noise in the captured image even when the light source applied to the subject is biased in the spectral distribution, such as a light source with a low color temperature that is reddish. can do. In the above embodiment, the example in which the second threshold value set in advance for determining whether or not the light source has a low color temperature has been described as 2000K. However, the present invention is not limited to this. Other color temperatures other than 2000K may be used.

また、上記実施形態によれば、画像処理装置1の制御部10は、ノイズ除去処理として、光源の種類を示す情報に基づいて、それぞれの色画素データのうちから選択された色画素データの値を低減させる制御をする場合、選択された色画素データの値を零にさせる制御をする。
つまり、制御部10は、光源の種類に基づいて選択された色画素データの値を零にさせる制御をする。これにより、画像処理装置1は、選択された色画素データに重畳されているノイズを零にして、撮像された画像データを生成することができる。
Further, according to the above-described embodiment, the control unit 10 of the image processing apparatus 1 performs the noise removal processing based on the information indicating the type of the light source, and the value of the color pixel data selected from each color pixel data. When the control is performed to reduce the color pixel data, the selected color pixel data is controlled to be zero.
That is, the control unit 10 performs control to make the value of the color pixel data selected based on the type of light source zero. Thereby, the image processing apparatus 1 can generate captured image data with zero noise superimposed on the selected color pixel data.

また、上記実施形態によれば、画像処理装置1の制御部10は、色画素データに基づいて光源の種類を判定する光源判定部11を備えている。
例えば、画像処理装置1のAWB検波部8は、撮像部2から入力されたR画素データ、G画素データ、及びB画素データに基づいて、R画素、G画素、及びB画素毎に、データの平均値、ヒストグラム、または積算値等のAWB評価値を算出して、算出した結果を制御部10に出力する。そして、光源の種類によって分光分布が異なることを利用して、光源判定部11は、AWB検波部8により算出されたAWB評価値に基づいて、撮像時において被写体に照射される光源の種類を判定する。これにより、画像処理装置1は、撮像時において被写体に照射される光源の種類を、当該被写体が撮像されて生成された色画素データに基づいて判定することができる。
Further, according to the embodiment, the control unit 10 of the image processing apparatus 1 includes the light source determination unit 11 that determines the type of the light source based on the color pixel data.
For example, the AWB detection unit 8 of the image processing apparatus 1 performs data processing for each R pixel, G pixel, and B pixel based on R pixel data, G pixel data, and B pixel data input from the imaging unit 2. An AWB evaluation value such as an average value, a histogram, or an integrated value is calculated, and the calculated result is output to the control unit 10. Then, using the fact that the spectral distribution varies depending on the type of light source, the light source determination unit 11 determines the type of light source irradiated to the subject at the time of imaging based on the AWB evaluation value calculated by the AWB detection unit 8. To do. Thereby, the image processing apparatus 1 can determine the type of light source irradiated to the subject at the time of imaging based on the color pixel data generated by imaging the subject.

なお、画像処理装置1は、撮像時において被写体に照射される光源の種類を判定する場合、当該被写体が撮像されて画像データを生成するための色画素データに基づいて光源の種類を判定してもよいし、画像データを生成するための色画素データとは異なる当該被写体が撮像された色画素データに基づいて光源の種類を判定してもよい。ここで、画像データを生成するための色画素データとは異なる当該被写体が撮像された色画素データとは、例えば、撮像される被写体の画角等を確認するために時系列に繰り返し撮像されて表示部6に表示される当該被写体が撮像された色画素データであって、当該被写体画像を生成するために撮像するタイミングより前に撮像された色画素データである。   The image processing apparatus 1 determines the type of light source based on color pixel data for generating image data when the subject is imaged when determining the type of light source irradiated to the subject at the time of imaging. Alternatively, the type of the light source may be determined based on color pixel data obtained by imaging the subject that is different from the color pixel data for generating the image data. Here, the color pixel data obtained by imaging the subject different from the color pixel data for generating the image data is, for example, repeatedly imaged in time series in order to confirm the angle of view of the subject to be imaged. This is color pixel data obtained by imaging the subject displayed on the display unit 6 and taken before the timing of imaging for generating the subject image.

なお、上記実施形態において、光源判定部11が、色画素データに基づいて光源の種類を判定する場合、AWB検波部8を介して光源の種類を判定する例について説明したが、これに限られるものではない。光源判定部11は、AWB検波部8を介さずに、色画素データに基づいて光源の種類を判定してもよい。   In the above embodiment, the light source determination unit 11 determines the type of the light source via the AWB detection unit 8 when determining the type of the light source based on the color pixel data. It is not a thing. The light source determination unit 11 may determine the type of the light source based on the color pixel data without using the AWB detection unit 8.

また、光源判定部11は、入力された光源の種類に関する撮像条件の情報に基づいて、光源の種類を判定してもよい。
つまり、光源判定部11は、操作者によって操作入力部7から入力された光源の種類に関する撮像条件の情報に基づいて、光源の種類を判定してもよい。例えば、制御部10は、撮像条件として、撮像時において被写体に照射される光源の種類に対応したWB制御を実行するために予め設定されているWB設定条件(例えば、太陽光、蛍光灯、電球、ろうそく、またはナトリウムランプ等、光源の種類)を選択する選択画面を表示部6に表示させ、操作者に操作入力部7において操作させることにより選択させる。そして、光源判定部11は、選択されて入力されたWB設定条件の情報(光源の種類を示す情報)に基づいて、光源の種類を判定してもよい。これにより、制御部10は、入力された撮影条件の情報に基づいて、光源の種類を判定して、上述したノイズ除去処理を実行することができる。
In addition, the light source determination unit 11 may determine the type of light source based on information on imaging conditions regarding the type of input light source.
That is, the light source determination unit 11 may determine the type of the light source based on information on the imaging condition regarding the type of the light source input from the operation input unit 7 by the operator. For example, the control unit 10 sets WB setting conditions (for example, sunlight, fluorescent lamps, light bulbs) set in advance to execute WB control corresponding to the type of light source irradiated to the subject at the time of imaging as the imaging conditions. A selection screen for selecting the type of light source such as a candle or a sodium lamp is displayed on the display unit 6, and is selected by causing the operator to operate the operation input unit 7. And the light source determination part 11 may determine the kind of light source based on the information (information which shows the kind of light source) of WB setting conditions selected and input. Thereby, the control part 10 can determine the kind of light source based on the information of the imaging | photography condition input, and can perform the noise removal process mentioned above.

また、上記実施形態によれば、撮像装置100は、画像処理装置1を備えている。つまり、撮像装置100により撮像された被写体に照射される光源の分光分布に偏りがある場合、撮像装置100の画像処理装置1は、当該光源の種類に基づいて、撮像素子22において生成した色画素データ毎にノイズ除去処理を変更する。これにより、画像処理装置1は、当該被写体が撮像された画像におけるノイズを適切に低減することができる。   Further, according to the above embodiment, the imaging apparatus 100 includes the image processing apparatus 1. That is, when the spectral distribution of the light source irradiated to the subject imaged by the imaging device 100 is biased, the image processing device 1 of the imaging device 100 uses the color pixel generated in the imaging element 22 based on the type of the light source. Change the noise removal process for each data. Thereby, the image processing apparatus 1 can appropriately reduce noise in an image in which the subject is captured.

なお、上記実施形態において、画像処理装置1を備えている撮像装置100について説明したが、これに限られるものではなく、画像処理装置1は、他の撮像装置により撮像された画像データを処理する画像処理装置であってもよい。例えば、画像処理装置1は、他の撮像装置において撮像されたRAW画像データを記録部5から読み出して、読み出したRAW画像データにおけるR画素データ、G画素データ、及びB画素データに基づいて、上記実施形態におけるノイズ除去処理を実行してもよい。   In the above embodiment, the imaging apparatus 100 including the image processing apparatus 1 has been described. However, the present invention is not limited to this, and the image processing apparatus 1 processes image data captured by another imaging apparatus. An image processing apparatus may be used. For example, the image processing apparatus 1 reads out RAW image data captured by another imaging apparatus from the recording unit 5, and based on the R pixel data, G pixel data, and B pixel data in the read RAW image data, You may perform the noise removal process in embodiment.

なお、図1における、ノイズ除去部3、画像処理部4、AWB検波部8、及び制御部10は専用のハードウェアにより実現されるものであってもよく、また、メモリおよびCPU(中央演算装置)により構成され、上述の各部の機能を実現するためのプログラムをメモリにロードして実行することによりその機能を実現させるものであってもよい。   Note that the noise removal unit 3, the image processing unit 4, the AWB detection unit 8, and the control unit 10 in FIG. 1 may be realized by dedicated hardware, and may include a memory and a CPU (central processing unit). ), And a program for realizing the function of each unit described above may be loaded into a memory and executed to implement the function.

また、図1における画像処理装置1の機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより上述の各部の処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。   Further, the program for realizing the function of the image processing apparatus 1 in FIG. 1 is recorded on a computer-readable recording medium, and the program recorded on the recording medium is read into the computer system and executed, thereby executing the above-described operation. You may perform the process of each part. Here, the “computer system” includes an OS and hardware such as peripheral devices.

また、「コンピュータシステム」は、WWWシステムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含むものとする。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
Further, the “computer system” includes a homepage providing environment (or display environment) if a WWW system is used.
The “computer-readable recording medium” refers to a storage device such as a flexible medium, a magneto-optical disk, a portable medium such as a ROM and a CD-ROM, and a hard disk incorporated in a computer system. Furthermore, the “computer-readable recording medium” dynamically holds a program for a short time like a communication line when transmitting a program via a network such as the Internet or a communication line such as a telephone line. In this case, a volatile memory in a computer system serving as a server or a client in that case, and a program that holds a program for a certain period of time are also included. The program may be a program for realizing a part of the functions described above, and may be a program capable of realizing the functions described above in combination with a program already recorded in a computer system.

以上、この発明の実施形態を図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。   The embodiment of the present invention has been described in detail with reference to the drawings. However, the specific configuration is not limited to this embodiment, and includes design and the like within a scope not departing from the gist of the present invention.

1 画像処理装置、3 ノイズ除去部、10 制御部、11 光源判定部、22 撮像素子、100 撮像装置   DESCRIPTION OF SYMBOLS 1 Image processing apparatus, 3 Noise removal part, 10 Control part, 11 Light source determination part, 22 Imaging element, 100 Imaging device

Claims (5)

撮像素子により被写体が撮像されて、前記撮像素子の有する色画素毎に生成されたそれぞれの色画素データに対して、ノイズ除去処理をそれぞれ実行するノイズ除去部と、
撮像時において前記被写体に照射される光源の種類を示す情報に基づいて、前記ノイズ除去部における前記色画素データ毎のノイズ除去処理を変更する制御部と、を備え、
前記ノイズ除去部は、
R(赤)画素、G(緑)画素、及びB(青)画素の色画素を有する前記撮像素子により被写体が撮像されて、当該色画素毎に生成されたR(赤)画素データ、G(緑)画素データ、及びB(青)画素データに対して、ノイズ除去処理をそれぞれ実行し、
前記制御部は、
前記ノイズ除去処理として、前記光源の種類を示す情報に基づいて、前記R(赤)画素データ、前記G(緑)画素データ、及び前記B(青)画素データのうちから選択された色画素データの値を低減させる制御をし、
前記制御部は、
前記光源が、予め定められた第1の閾値以上の色温度の光源である場合、前記R(赤)画素データの値に基づいて、前記R(赤)画素データが画像を生成するために有効な値であるか否かを判定し、
前記R(赤)画素データの値が有効な値でないと判定した場合、
前記R(赤)画素データの値を低減させる制御をする
ことを特徴とする画像処理装置。
A noise removal unit that performs image-removing processing on each color pixel data generated for each color pixel of the image-pickup element, in which a subject is imaged by the image-pickup element;
A control unit that changes noise removal processing for each of the color pixel data in the noise removal unit based on information indicating a type of light source irradiated to the subject at the time of imaging,
The noise removing unit
A subject is imaged by the imaging element having color pixels of R (red) pixels, G (green) pixels, and B (blue) pixels, and R (red) pixel data generated for each color pixel, G ( A noise removal process is performed on each of the green (pixel) and B (blue) pixel data,
The controller is
Color pixel data selected from the R (red) pixel data, the G (green) pixel data, and the B (blue) pixel data based on information indicating the type of the light source as the noise removal processing Control to reduce the value of
The controller is
When the light source is a light source having a color temperature equal to or higher than a predetermined first threshold, the R (red) pixel data is effective for generating an image based on the value of the R (red) pixel data. Determine whether the value is
When it is determined that the value of the R (red) pixel data is not a valid value,
Control to reduce the value of the R (red) pixel data
An image processing apparatus.
前記制御部は、
前記光源が、予め定められた第2の閾値以下の色温度の光源である場合、前記B(青)画素データの値に基づいて、前記B(青)画素データが画像を生成するために有効な値であるか否かを判定し、
前記B(青)画素データの値が有効な値でないと判定した場合、
前記B(青)画素データの値を低減させる制御をする
ことを特徴とする請求項1に記載の画像処理装置。
The controller is
When the light source is a light source having a color temperature equal to or lower than a predetermined second threshold, the B (blue) pixel data is effective for generating an image based on the value of the B (blue) pixel data. Determine whether the value is
When it is determined that the value of the B (blue) pixel data is not a valid value,
Control to reduce the value of the B (blue) pixel data
The image processing apparatus according to claim 1.
撮像素子により被写体が撮像されて、前記撮像素子の有する色画素毎に生成されたそれぞれの色画素データに対して、ノイズ除去処理をそれぞれ実行するノイズ除去部と、
撮像時において前記被写体に照射される光源の種類を示す情報に基づいて、前記ノイズ除去部における前記色画素データ毎のノイズ除去処理を変更する制御部と、を備え、
前記ノイズ除去部は、
R(赤)画素、G(緑)画素、及びB(青)画素の色画素を有する前記撮像素子により被写体が撮像されて、当該色画素毎に生成されたR(赤)画素データ、G(緑)画素データ、及びB(青)画素データに対して、ノイズ除去処理をそれぞれ実行し、
前記制御部は、
前記ノイズ除去処理として、前記光源の種類を示す情報に基づいて、前記R(赤)画素データ、前記G(緑)画素データ、及び前記B(青)画素データのうちから選択された色画素データの値を低減させる制御をし、
前記制御部は、
前記光源が、予め定められた第2の閾値以下の色温度の光源である場合、前記B(青)画素データの値に基づいて、前記B(青)画素データが画像を生成するために有効な値であるか否かを判定し、
前記B(青)画素データの値が有効な値でないと判定した場合、
前記B(青)画素データの値を低減させる制御をする
ことを特徴とする画像処理装置。
A noise removal unit that performs image-removing processing on each color pixel data generated for each color pixel of the image-pickup element, in which a subject is imaged by the image-pickup element;
A control unit that changes noise removal processing for each of the color pixel data in the noise removal unit based on information indicating a type of light source irradiated to the subject at the time of imaging,
The noise removing unit
A subject is imaged by the imaging element having color pixels of R (red) pixels, G (green) pixels, and B (blue) pixels, and R (red) pixel data generated for each color pixel, G ( A noise removal process is performed on each of the green (pixel) and B (blue) pixel data,
The controller is
Color pixel data selected from the R (red) pixel data, the G (green) pixel data, and the B (blue) pixel data based on information indicating the type of the light source as the noise removal processing Control to reduce the value of
The controller is
When the light source is a light source having a color temperature equal to or lower than a predetermined second threshold, the B (blue) pixel data is effective for generating an image based on the value of the B (blue) pixel data. Determine whether the value is
When it is determined that the value of the B (blue) pixel data is not a valid value,
Control to reduce the value of the B (blue) pixel data
An image processing apparatus.
前記制御部は、
前記ノイズ除去処理として、前記光源の種類を示す情報に基づいて、それぞれの前記色画素データのうちから選択された色画素データの値を低減させる制御をする
ことを特徴とする請求項1乃至請求項3のいずれか一項に記載の画像処理装置。
The controller is
Examples noise removal process, on the basis of the information indicating the type of the light source, each of the claims 1 to, characterized by a control for reducing the value of the selected color pixel data from among the color pixel data Item 4. The image processing device according to any one of Items 3 to 3 .
前記制御部は、
前記光源がナトリウムランプである場合、前記B(青)画素データの値を低減させる制御をする
ことを特徴とする請求項1乃至請求項4のいずれか一項に記載の画像処理装置。
The controller is
The image processing apparatus according to any one of claims 1 to 4 , wherein when the light source is a sodium lamp, control is performed to reduce a value of the B (blue) pixel data.
JP2010281805A 2010-12-17 2010-12-17 Image processing apparatus and imaging apparatus Active JP5600580B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2010281805A JP5600580B2 (en) 2010-12-17 2010-12-17 Image processing apparatus and imaging apparatus
KR1020110104831A KR101271737B1 (en) 2010-12-17 2011-10-13 Image processing apparatus and photographing apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010281805A JP5600580B2 (en) 2010-12-17 2010-12-17 Image processing apparatus and imaging apparatus

Publications (2)

Publication Number Publication Date
JP2012129929A JP2012129929A (en) 2012-07-05
JP5600580B2 true JP5600580B2 (en) 2014-10-01

Family

ID=46646448

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010281805A Active JP5600580B2 (en) 2010-12-17 2010-12-17 Image processing apparatus and imaging apparatus

Country Status (2)

Country Link
JP (1) JP5600580B2 (en)
KR (1) KR101271737B1 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102109191B1 (en) 2013-11-14 2020-05-12 삼성디스플레이 주식회사 Organic light emitting display device and driving method thereof

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03155292A (en) * 1989-11-14 1991-07-03 Hitachi Ltd Image pickup device
JP4175587B2 (en) * 1999-01-26 2008-11-05 キヤノン株式会社 Image processing apparatus and method, imaging apparatus, and memory medium
JP2003234950A (en) * 2002-02-12 2003-08-22 Nikon Corp Image processing device, image processing program, and image processing method
JP2003264843A (en) * 2002-03-08 2003-09-19 Hitachi Kokusai Electric Inc High sensitivity camera
JP4622899B2 (en) 2006-03-17 2011-02-02 パナソニック株式会社 Image processing apparatus, image processing method, program, and recording medium
JP4740912B2 (en) * 2007-08-13 2011-08-03 オリンパス株式会社 Image processing apparatus, imaging apparatus, image processing program, and image processing method
JP5253000B2 (en) 2008-06-03 2013-07-31 オリンパス株式会社 Imaging device
JP2010278711A (en) * 2009-05-28 2010-12-09 Olympus Corp Multi-band image pickup device and multi-band image pickup method

Also Published As

Publication number Publication date
KR20120068684A (en) 2012-06-27
JP2012129929A (en) 2012-07-05
KR101271737B1 (en) 2013-06-04

Similar Documents

Publication Publication Date Title
US10313589B2 (en) Imaging device having an image mode set according to a filter
US8842194B2 (en) Imaging element and imaging apparatus
JP5011814B2 (en) Imaging apparatus, image processing method, and computer program
US20120025080A1 (en) Color correction circuitry and methods for dual-band imaging systems
KR102491544B1 (en) Imaging processing device and Imaging processing method
JPWO2011155297A1 (en) Imaging apparatus and image processing method
US20120236175A1 (en) Methods and Systems for Flicker Correction
US8711245B2 (en) Methods and systems for flicker correction
JP2010272996A (en) Image processor and image processing program
JP2003219254A (en) Camera with photographing mode switching function
WO2020146118A1 (en) Lens rolloff assisted auto white balance
JP5464982B2 (en) Imaging apparatus and image processing method
JP5228717B2 (en) Image input device
JP5899894B2 (en) Imaging apparatus, image processing apparatus, image processing program, and image processing method
JP2010021791A (en) Image capturing apparatus, and image processing method therefor, and program
JP5600580B2 (en) Image processing apparatus and imaging apparatus
JP2009100252A (en) Imaging device
US20200228769A1 (en) Lens rolloff assisted auto white balance
US10536645B2 (en) Image processing method and imaging device
JP2010276442A (en) Multi-band image photographing apparatus
JP6827782B2 (en) Image processing equipment, imaging equipment, image processing methods, image processing programs, and recording media
JP2012010282A (en) Imaging device, exposure control method, and exposure control program
JP2006180270A (en) Image processor, imaging device, image processing method, program, and recording medium
JP2012199804A (en) Image processor and image processing method
JP2010271951A (en) Image processing apparatus and method thereof

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20131004

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140407

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140507

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140703

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140722

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140818

R150 Certificate of patent or registration of utility model

Ref document number: 5600580

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250