JP2015130544A - Signal processor, signal processing program, and digital camera - Google Patents

Signal processor, signal processing program, and digital camera Download PDF

Info

Publication number
JP2015130544A
JP2015130544A JP2012102614A JP2012102614A JP2015130544A JP 2015130544 A JP2015130544 A JP 2015130544A JP 2012102614 A JP2012102614 A JP 2012102614A JP 2012102614 A JP2012102614 A JP 2012102614A JP 2015130544 A JP2015130544 A JP 2015130544A
Authority
JP
Japan
Prior art keywords
signal
moving average
pixel
subtraction value
signal processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2012102614A
Other languages
Japanese (ja)
Inventor
篤史 河合
Atsushi Kawai
篤史 河合
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2012102614A priority Critical patent/JP2015130544A/en
Priority to PCT/JP2013/062478 priority patent/WO2013162023A1/en
Publication of JP2015130544A publication Critical patent/JP2015130544A/en
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/62Detection or reduction of noise due to excess charges produced by the exposure, e.g. smear, blooming, ghost image, crosstalk or leakage between pixels
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/63Noise processing, e.g. detecting, correcting, reducing or removing noise applied to dark current

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

PROBLEM TO BE SOLVED: To appropriately correct a striped pattern noise when high luminance strip noise occurs.SOLUTION: A signal processor 1 includes: first computation means 15 which calculates a first subtraction value on the basis of a signal from a calibrating pixel among signals from an imaging element 13 having an imaging pixel and the calibrating pixel; second computation means 15 which calculates a second subtraction value on the basis of a signal from the calibrating pixel; third computation means 15 which calculates a third subtraction value by adding up the first subtraction value and the second subtraction value by a prescribed ratio; subtraction means 15 which subtracts the third subtraction value from a signal according to the imaging pixel outputted via an element common to the signal from the calibrating pixel; and control means 21 which controls the subtraction means 15 in the way that ratios differ when high luminance strip noise occurs from when it does not occur.

Description

本発明は、信号処理装置、信号処理プログラム、およびデジタルカメラに関する。   The present invention relates to a signal processing device, a signal processing program, and a digital camera.

CCDやCMOSなどのイメージセンサにおいて、蓄積電荷を増幅、変換する素子の特性のばらつきによって筋状のパターンノイズが発生することがある。このようなノイズは画質劣化の要因となるため、画質劣化を軽減するためにノイズ補正処理が行われる(特許文献1参照)。このノイズ補正は、補正対象信号のノイズと相関するノイズを含む校正用信号に基づいて、補正対象信号に含まれるノイズ形状を推定し、推定したノイズ形状補正値を用いて補正対象信号を補正するものである。   In an image sensor such as a CCD or CMOS, streak pattern noise may occur due to variations in characteristics of elements that amplify and convert accumulated charges. Since such noise causes image quality deterioration, noise correction processing is performed to reduce the image quality deterioration (see Patent Document 1). In this noise correction, a noise shape included in the correction target signal is estimated based on a calibration signal including noise correlated with the noise of the correction target signal, and the correction target signal is corrected using the estimated noise shape correction value. Is.

国際公開第WO2007/111264号International Publication No. WO2007 / 111264

しかしながら、発明者は、補正対象とする画像信号に高輝度引きと呼ばれる現象が発生している場合には、従来技術による筋状のパターンノイズ補正が適さないことを見いだした。高輝度引きとは、撮像素子の一部に強い光が当たった場合に、入射光が強い画素を含む画素列の蓄積電荷を増幅、変換する素子の特性が変化して生じる現象をいう。画像の高輝度部分の周囲に引きずった跡のように現れることから、高輝度引きと呼ばれる。   However, the inventor has found that the streak pattern noise correction according to the prior art is not suitable when a phenomenon called high luminance subtraction occurs in the image signal to be corrected. High luminance pulling refers to a phenomenon that occurs when the characteristics of an element that amplifies and converts the accumulated charge of a pixel column including pixels with strong incident light changes when intense light strikes a part of the image sensor. Since it appears like a trace dragged around the high brightness portion of the image, it is called high brightness pull.

本発明による信号処理装置は、撮像用画素および校正用画素を有する撮像素子からの信号のうち、校正用画素からの信号に基づいて第1減算値を算出する第1演算手段と、校正用画素からの信号に基づいて第2減算値を算出する第2演算手段と、第1減算値および第2減算値を所定の割合で足し合わせて第3減算値を算出する第3演算手段と、校正用画素からの信号と共通の素子を介して出力される撮像用画素による信号から第3減算値を減算する減算手段と、高輝度引き発生時と非発生時とで割合を異ならせるように減算手段を制御する制御手段と、を備えることを特徴とする。
本発明によるデジタルカメラは、上記信号処理装置を搭載することを特徴とする。
A signal processing apparatus according to the present invention includes a first calculation unit that calculates a first subtraction value based on a signal from a calibration pixel among signals from an imaging element having an imaging pixel and a calibration pixel, and a calibration pixel. Second calculation means for calculating a second subtraction value based on a signal from the first calculation means, third calculation means for calculating a third subtraction value by adding the first subtraction value and the second subtraction value at a predetermined ratio, and calibration Subtracting means for subtracting the third subtracted value from the signal from the imaging pixel output through a common element with the signal from the pixel for subtraction, and subtraction so that the ratio is different between when the high luminance pull occurs and when it does not occur Control means for controlling the means.
A digital camera according to the present invention includes the signal processing device.

本発明によれば、高輝度引きが生じる場合にも、筋状のパターンノイズを適切に補正できる。   According to the present invention, it is possible to appropriately correct streak pattern noise even when high luminance pull occurs.

本発明の一実施の形態による電子カメラの要部構成を説明する図である。It is a figure explaining the principal part structure of the electronic camera by one embodiment of this invention. 撮像素子を説明する図である。It is a figure explaining an image sensor. ラインクランプ処理に用いる信号のノイズ波形を説明する図である。It is a figure explaining the noise waveform of the signal used for a line clamp process. ラインクランプ処理に用いる信号のノイズ波形を説明する図である。It is a figure explaining the noise waveform of the signal used for a line clamp process. ラインクランプ処理後の信号のノイズ波形を例示する図である。It is a figure which illustrates the noise waveform of the signal after a line clamp process. 移動平均クランプ処理後の信号のノイズ波形を例示する図である。It is a figure which illustrates the noise waveform of the signal after a moving average clamp process. ノイズ減衰補正クランプ処理後の信号のノイズ波形を例示する図である。It is a figure which illustrates the noise waveform of the signal after a noise attenuation correction clamp process. ノイズ減衰係数と分散との関係を例示する図である。It is a figure which illustrates the relationship between a noise attenuation coefficient and dispersion | distribution. 高輝度引きを説明する図である。It is a figure explaining high-intensity pulling. 高輝度引きが生じた撮像用画素から読み出された信号のノイズ波形を例示する図である。It is a figure which illustrates the noise waveform of the signal read from the pixel for imaging in which high-intensity pulling occurred. 高輝度引きが生じたOB画素から読み出された信号のノイズ波形を例示する図である。It is a figure which illustrates the noise waveform of the signal read from the OB pixel in which high-intensity pulling occurred. 高輝度引き発生時のノイズ減衰補正クランプ処理後の信号のノイズ波形を例示する図である。It is a figure which illustrates the noise waveform of the signal after the noise attenuation correction clamp process at the time of high-intensity pulling generation. 高輝度引き発生時のラインクランプ寄与率を高めたノイズ減衰補正クランプ処理後の信号のノイズ波形を例示する図である。It is a figure which illustrates the noise waveform of the signal after the noise attenuation correction clamp process which raised the line clamp contribution rate at the time of high-intensity pulling generation. 高輝度引き発生時のラインクランプ寄与率を選択的に高めたノイズ減衰補正クランプ処理後の信号のノイズ波形を例示する図である。It is a figure which illustrates the noise waveform of the signal after the noise attenuation correction clamp process which selectively raised the line clamp contribution rate at the time of high-intensity pulling generation. クランプ処理の流れを説明するフローチャートである。It is a flowchart explaining the flow of a clamp process. コンピュータ装置を例示する図である。It is a figure which illustrates a computer apparatus.

以下、図面を参照して本発明を実施するための形態について説明する。図1は、本発明の一実施の形態によるデジタルカメラ1の要部構成を説明する図である。図1において、デジタルカメラ1は、撮像光学系11と、シャッタ12と、撮像素子13と、A/D変換部14と、クランプ部15と、バッファメモリ16と、画像処理部17と、液晶モニタ18と、光学系駆動部19と、シャッタ駆動部20と、CPU21と、フラッシュメモリ22と、カードインターフェース(I/F)部23と、操作部材24とを備える。   Hereinafter, embodiments for carrying out the present invention will be described with reference to the drawings. FIG. 1 is a diagram for explaining a main configuration of a digital camera 1 according to an embodiment of the present invention. In FIG. 1, a digital camera 1 includes an imaging optical system 11, a shutter 12, an imaging device 13, an A / D conversion unit 14, a clamping unit 15, a buffer memory 16, an image processing unit 17, and a liquid crystal monitor. 18, an optical system drive unit 19, a shutter drive unit 20, a CPU 21, a flash memory 22, a card interface (I / F) unit 23, and an operation member 24.

撮像光学系11は、シャッタ12を介して撮像素子13の撮像面に被写体像を結像させる。図1では、撮像光学系11を単レンズとして図示しているが、実際は複数のレンズ群で構成される。光学系駆動部19は、CPU21からの指示に応じて撮像光学系11を構成するフォーカシングレンズを光軸方向(矢印方向)に進退移動させることにより、焦点調節を行う。   The imaging optical system 11 forms a subject image on the imaging surface of the imaging element 13 via the shutter 12. In FIG. 1, the imaging optical system 11 is illustrated as a single lens, but actually includes a plurality of lens groups. The optical system drive unit 19 performs focus adjustment by moving the focusing lens constituting the imaging optical system 11 forward and backward in the optical axis direction (arrow direction) in response to an instruction from the CPU 21.

シャッタ12は、シャッタ駆動部20によって開閉駆動される。撮像素子13の露光時間は、CPU21からシャッタ駆動部20へ指示される。撮像素子13は、CMOSイメージセンサなどによって構成される。撮像素子13は、結像された被写体像をアナログ画像信号に光電変換する。A/D変換部14は、光電変換信号をデジタルデータに変換する。   The shutter 12 is driven to open and close by the shutter drive unit 20. The exposure time of the image sensor 13 is instructed from the CPU 21 to the shutter drive unit 20. The image sensor 13 is configured by a CMOS image sensor or the like. The image sensor 13 photoelectrically converts the formed subject image into an analog image signal. The A / D converter 14 converts the photoelectric conversion signal into digital data.

クランプ部15は、CPU21からの指示に応じて、入力される画像データに対し、画像の黒に相当する校正用データに基づく基準レベルに揃える(合わせて後述するノイズ成分を除去する)クランプ処理を行う。クランプ後の画像データ(いわゆるRAWデータ)は、バッファメモリ16に格納される。   In accordance with an instruction from the CPU 21, the clamp unit 15 performs a clamp process for aligning the input image data with a reference level based on calibration data corresponding to black of the image (to remove a noise component described later). Do. The clamped image data (so-called RAW data) is stored in the buffer memory 16.

バッファメモリ16は、画像データを一時的に格納するメモリである。画像処理部17は、CPU21からの指示によって画像データに所定の画像処理(例えば階調変換、色空間変換、色補間、ホワイトバランス処理等)を施す。画像処理部17はさらに、画像データを格納した所定形式の画像ファイル(例えば静止画ファイル、動画ファイル)を生成する。   The buffer memory 16 is a memory that temporarily stores image data. The image processing unit 17 performs predetermined image processing (for example, gradation conversion, color space conversion, color interpolation, white balance processing, etc.) on the image data according to an instruction from the CPU 21. The image processing unit 17 further generates an image file (for example, a still image file or a moving image file) in a predetermined format storing the image data.

液晶モニタ18は、CPU21からの指示に応じて、画像や操作メニュー画面を表示する。フラッシュメモリ22は、CPU21が実行するプログラムや、実行処理に必要なデータなどを格納する。フラッシュメモリ22が格納するプログラムやデータの内容は、CPU21からの指示によって追加、変更が可能に構成されている。CPU21は、制御プログラムを実行してカメラ各部に対する種々の制御を行う。   The liquid crystal monitor 18 displays an image and an operation menu screen in response to an instruction from the CPU 21. The flash memory 22 stores programs executed by the CPU 21, data necessary for execution processing, and the like. The contents of the program and data stored in the flash memory 22 can be added or changed by an instruction from the CPU 21. CPU21 performs a control program and performs various control with respect to each part of a camera.

カードI/F部23は、CPU21からの指示に応じてメモリカード50に対する画像ファイルの記録や、メモリカード50からの画像ファイルの読出しを行う。メモリカード50は、図示しないカードスロットに着脱自在に取り付けられる記憶媒体である。   The card I / F unit 23 records an image file to the memory card 50 and reads an image file from the memory card 50 in accordance with an instruction from the CPU 21. The memory card 50 is a storage medium that is detachably attached to a card slot (not shown).

操作部材24は、メニュースイッチおよびシャッターボタンなどを含み、各部材の操作に応じた信号をCPU21へ送出する。CPU21、フラッシュメモリ22、カードI/F23、バッファメモリ16、画像処理部17、および液晶モニタ18は、それぞれバス25を介して接続されている。   The operation member 24 includes a menu switch, a shutter button, and the like, and sends a signal corresponding to the operation of each member to the CPU 21. The CPU 21, flash memory 22, card I / F 23, buffer memory 16, image processing unit 17, and liquid crystal monitor 18 are connected via a bus 25.

本実施形態は、上記デジタルカメラ1のクランプ部15で行うクランプ処理に特徴を有するので、以降の説明はクランプ処理を中心に行う。本実施形態のクランプ処理は、ラインクランプと移動平均クランプとを組み合わせたノイズ減衰補正クランプを行うものである。先ず、それぞれのクランプについて説明する。   Since the present embodiment is characterized by the clamping process performed by the clamping unit 15 of the digital camera 1, the following description will be focused on the clamping process. The clamp processing of this embodiment performs noise attenuation correction clamp that combines a line clamp and a moving average clamp. First, each clamp will be described.

<ラインクランプ>
図2は、撮像素子13を説明する図である。撮像素子13の水平方向をXとし、撮像素子13の垂直方向をYとする。X方向に並ぶ画素並びを「行」と呼び、Y方向に並ぶ画素並びを「列」と呼ぶ。図2において、撮像素子13の撮像面には、画素を構成する光電変換素子が2次元状に配列される。領域13aは、撮像用画素が設けられた領域である。撮像素子13の端部に形成される領域13bは、OB(Optical Black)画素と呼ばれる遮光画素が設けられた領域である。各画素の蓄積電荷は、例えば、「行」ごとに設けられた増幅変換素子13cを介して、画素順次に読み出される。
<Line clamp>
FIG. 2 is a diagram illustrating the image sensor 13. The horizontal direction of the image sensor 13 is X, and the vertical direction of the image sensor 13 is Y. The pixel arrangement arranged in the X direction is called “row”, and the pixel arrangement arranged in the Y direction is called “column”. In FIG. 2, the photoelectric conversion elements constituting the pixels are two-dimensionally arranged on the imaging surface of the imaging element 13. The region 13a is a region where imaging pixels are provided. A region 13b formed at the end of the image sensor 13 is a region where light-shielding pixels called OB (Optical Black) pixels are provided. For example, the accumulated charge of each pixel is sequentially read out via the amplification conversion element 13 c provided for each “row”.

撮像用画素領域13a内の各画素には、入射された被写体光の強さに応じた電荷が蓄積されるが、入射光に無関係なノイズ成分を構成する電荷も含まれる。OB画素領域13b内の各OB画素では、遮光されているためノイズ成分を構成する電荷のみが蓄積される。   Each pixel in the imaging pixel region 13a stores a charge corresponding to the intensity of the incident subject light, but also includes a charge constituting a noise component unrelated to the incident light. Each OB pixel in the OB pixel region 13b is shielded from light so that only charges constituting a noise component are accumulated.

ラインクランプは、OB画素領域13bに含まれるOB画素からの信号値を「行」ごとに平均し、この平均値OBline(y)を撮像用画素領域13a内の各画素からの読み出し信号data(x,y) から「行」ごとにそれぞれ減算する。上記平均値OBline(y)をOBクランプ減算値と呼ぶ。 The line clamp averages the signal values from the OB pixels included in the OB pixel area 13b for each “row”, and the average value OB line (y) is read out from each pixel in the imaging pixel area 13a. x, y) is subtracted for each "row". The average value OB line (y) is called an OB clamp subtraction value.

上述したラインクランプの意味は、補正対象とする撮像用画素領域13aの画素からの信号data(x,y)に含まれるノイズ成分は、同一の「行」におけるOB画素領域13bのOB画素からの信号に含まれるノイズ成分と等価であると推定し、撮像用画素の信号data(x,y)からOBクランプ減算値OBline(y)を差し引くことで、黒レベル基準化とノイズ補正の双方を行なうものである。 The above-described line clamp means that the noise component included in the signal data (x, y) from the pixel in the imaging pixel region 13a to be corrected is from the OB pixel in the OB pixel region 13b in the same “row”. Estimated to be equivalent to the noise component included in the signal, and subtracting the OB clamp subtraction value OB line (y) from the signal data (x, y) of the imaging pixel, both black level standardization and noise correction To do.

図2に例示した撮像素子13の場合、同一の「行」に並ぶ画素は全て同じ増幅変換素子13cを通過するため、増幅変換素子13cの特性が他の「行」との間で一様でない場合には、読み出された画像上では筋状のパターンノイズとなって現れる。   In the case of the imaging device 13 illustrated in FIG. 2, all the pixels arranged in the same “row” pass through the same amplification conversion element 13 c, and thus the characteristics of the amplification conversion element 13 c are not uniform with other “rows”. In this case, it appears as streak pattern noise on the read image.

図3および図4は、ラインクランプ処理に用いる信号のノイズ波形を説明する図である。図3(a)は、撮像用画素領域13aの画素から読み出された信号 data(x,y)に基づく波形を例示する図である。図3(a)の横軸は撮像素子13のY方向を表し、縦軸はdata(x,y)の同一の「行」における読み出し信号の平均値(すなわちX方向の平均値)を表す。なお、縦軸スケールは任意である。一般に、図3(a)の平均値波形には高周波成分と低周波成分、および各撮像用画素のランダムノイズ平均が含まれる。図3(b)は、これらを分解して表した波形である。   3 and 4 are diagrams for explaining a noise waveform of a signal used for the line clamp processing. FIG. 3A is a diagram illustrating a waveform based on the signal data (x, y) read from the pixels in the imaging pixel region 13a. In FIG. 3A, the horizontal axis represents the Y direction of the image sensor 13, and the vertical axis represents the average value of read signals (that is, the average value in the X direction) in the same “row” of data (x, y). The vertical scale is arbitrary. In general, the average waveform in FIG. 3A includes a high-frequency component and a low-frequency component, and a random noise average of each imaging pixel. FIG. 3B shows a waveform obtained by disassembling them.

図4(a)は、OB画素領域13bのOB画素から読み出された信号に基づく波形を例示する図である。図4(a)の横軸は撮像素子13のY方向を表し、縦軸は上記OB画素からの同一の「行」における読み出し信号の平均値(すなわちOBクランプ減算値OBline(y))を表す。図3(a)の場合と同様に、縦軸スケールは任意である。図4(b)は、図3(a)の場合と同様に、高周波成分、低周波成分、およびOB画素のランダムノイズ平均を分解して表した波形である。 FIG. 4A is a diagram illustrating a waveform based on a signal read from an OB pixel in the OB pixel region 13b. The horizontal axis of FIG. 4A represents the Y direction of the image sensor 13, and the vertical axis represents the average value of readout signals in the same “row” from the OB pixel (that is, the OB clamp subtraction value OB line (y)). Represent. Similar to the case of FIG. 3 (a), the vertical scale is arbitrary. FIG. 4B is a waveform obtained by decomposing the high-frequency component, the low-frequency component, and the random noise average of the OB pixel as in the case of FIG.

図3(b)および図4(b)を比較すると、撮像用画素とOB画素との間では、信号に含まれるノイズの高周波成分および低周波成分は共通するが、ランダムノイズ成分はOB画素に基づくOBクランプ減算値OBline(y)の方に大きく含まれることがわかる。高周波成分および低周波成分が共通するのは、同一の「行」において信号が同じ増幅変換素子13cを通過するためである。一方、ランダムノイズ成分がOB画素に基づく信号で大きくなるのは、同一の「行」において平均するOB画素数が撮像用画素数と比べてはるかに小さいため、平均化によるランダムノイズ成分の低減が不十分であることを意味する。 Comparing FIG. 3B and FIG. 4B, the imaging pixel and the OB pixel share the high frequency component and the low frequency component of the noise included in the signal, but the random noise component is the OB pixel. It can be seen that the OB clamp subtraction value OB line (y) based on the OB clamp is largely included. The high frequency component and the low frequency component are common because the signal passes through the same amplification conversion element 13c in the same “row”. On the other hand, the reason why the random noise component is increased by the signal based on the OB pixel is that the average number of OB pixels in the same “row” is much smaller than the number of imaging pixels, and therefore the random noise component is reduced by averaging. Means insufficient.

図5は、ラインクランプ処理後の信号のノイズ波形を例示する図である。図5の横軸は撮像素子13のY方向を表し、縦軸は図3(a)から図4(a)のOBクランプ減算値OBline(y)を減算後の値を表す。図5によれば、ラインクランプ処理によって高周波ノイズ成分および低周波ノイズ成分に対するノイズ低減は行われるが、ランダムノイズ成分については低減効果が低い。これは、ラインクランプ前の信号に含まれるランダムノイズより大きなランダムノイズを減算するからであり、ラインクランプのみでは、ランダムノイズ成分を除去することが困難であることを示す。このように、「行」間で異なるノイズ成分が残存する場合、X方向の筋状のノイズが残ることになる。 FIG. 5 is a diagram illustrating the noise waveform of the signal after the line clamp processing. The horizontal axis in FIG. 5 represents the Y direction of the image sensor 13, and the vertical axis represents the value after subtraction of the OB clamp subtraction value OB line (y) in FIGS. 3 (a) to 4 (a). According to FIG. 5, noise reduction is performed on the high-frequency noise component and the low-frequency noise component by the line clamp process, but the random noise component has a low reduction effect. This is because the random noise larger than the random noise included in the signal before the line clamp is subtracted, and it is difficult to remove the random noise component only by the line clamp. Thus, when different noise components remain between “rows”, streak noise in the X direction remains.

<移動平均クランプ>
移動平均クランプは、平均するOB画素数を増やすために、近接する他の「行」のOB画素を含む広い範囲(例えば256行分)でOB画素信号の移動平均を算出し、この平均値をOBクランプ減算値OBRM(y)とする。そして、撮像用画素の信号data(x,y)からOBクランプ減算値OBRM(y)を差し引く。
<Moving average clamp>
In order to increase the number of OB pixels to be averaged, the moving average clamp calculates a moving average of OB pixel signals over a wide range (for example, 256 rows) including OB pixels in other adjacent “rows”, and calculates the average value. OB clamp subtraction value OBRM (y). Then, the OB clamp subtraction value OBRM (y) is subtracted from the signal data (x, y) of the imaging pixel.

移動平均クランプの意味は、補正対象とする撮像用画素領域13aの画素からの信号data(x,y)に含まれるノイズ成分は、同一の「行」および近接する他の「行」におけるOB画素領域13bのOB画素からの信号に含まれるノイズ成分と等価であると推定し、撮像用画素の信号data(x,y)からOBクランプ減算値OBRM(y)を差し引くことで、黒レベル基準化とノイズ補正の双方を行なうものである。 The meaning of the moving average clamp is that the noise components included in the signal data (x, y) from the pixels in the imaging pixel region 13a to be corrected are OB pixels in the same “row” and other adjacent “rows”. It is estimated that the noise component is equivalent to the noise component included in the signal from the OB pixel in the region 13b, and the black level reference is obtained by subtracting the OB clamp subtraction value OBRM (y) from the signal data (x, y) of the imaging pixel. Both noise reduction and noise correction are performed.

図6は、移動平均クランプ処理後の信号のノイズ波形を例示する図である。図6の横軸は撮像素子13のY方向を表し、縦軸は図3(a)からOBクランプ減算値OBRM(y)を減算後の値を表す。図6によれば、移動平均クランプ処理によって低周波ノイズ成分およびランダムノイズ成分に対するノイズ低減は行われるが、高周波ノイズ成分については低減効果が低い。これは、移動平均によってランダムノイズ成分だけでなく高周波ノイズ成分まで平滑化されてしまうからであり、移動平均クランプのみでは、高周波ノイズ成分を除去することが困難であることを示す。このような高周波ノイズ成分が残存する場合、X方向の横縞として観察される。なお、図5および図6の例では、ランダムノイズ成分の振幅の方が高周波ノイズ成分の振幅よりも大きく、図中に示した分散σは図5の方が大きい。 FIG. 6 is a diagram illustrating a noise waveform of a signal after the moving average clamping process. The horizontal axis in FIG. 6 represents the Y direction of the image sensor 13, and the vertical axis represents the value after subtracting the OB clamp subtraction value OBRM (y) from FIG. According to FIG. 6, noise reduction is performed on the low-frequency noise component and the random noise component by the moving average clamp process, but the reduction effect is low on the high-frequency noise component. This is because not only the random noise component but also the high-frequency noise component is smoothed by the moving average, which indicates that it is difficult to remove the high-frequency noise component only by the moving average clamp. When such a high-frequency noise component remains, it is observed as a horizontal stripe in the X direction. 5 and 6, the random noise component has a larger amplitude than the high-frequency noise component, and the variance σ shown in FIG. 5 is larger in FIG.

<ノイズ減衰補正クランプ>
ノイズ減衰補正クランプは、上記移動平均クランプとラインクランプの双方を組み合わせて行う。y行についてのOBクランプ減算値OBopt(y)は、次式(1)で得られる。
OBopt(y) = (1−Kopt)×OBRM(y)+Kopt×OBline(y) ……(1)
ただし、Koptはノイズ減衰係数、OBRM(y)は上記移動平均クランプで用いたOBクランプ減算値、OBline(y)は上記ラインクランプで用いたOBクランプ減算値である。
<Noise attenuation correction clamp>
The noise attenuation correction clamp is performed by combining both the moving average clamp and the line clamp. The OB clamp subtraction value OB opt (y) for the y row is obtained by the following equation (1).
OB opt (y) = (1-K opt ) × OB RM (y) + K opt × OB line (y) (1)
Here, K opt is a noise attenuation coefficient, OB RM (y) is an OB clamp subtraction value used in the moving average clamp, and OB line (y) is an OB clamp subtraction value used in the line clamp.

図7は、ノイズ減衰補正クランプ処理後の信号のノイズ波形を例示する図である。図7の横軸は撮像素子13のY方向を表し、縦軸は図3(a)からOBクランプ減算値OBopt(y)を減算後の値を表す。図7によれば、低周波ノイズ成分、高周波ノイズ成分ともに低減され、かつランダムノイズ成分による悪影響も抑えられている。図7に示した分散は、図5および図6で示した分散よりも小さい。また、図7において残存する縞は周期性が小さいために目に付きにくいので、図5および図6の場合に比べて、画質的に最も好ましい状態である。 FIG. 7 is a diagram illustrating the noise waveform of the signal after the noise attenuation correction clamp processing. The horizontal axis in FIG. 7 represents the Y direction of the image sensor 13, and the vertical axis represents the value after subtracting the OB clamp subtraction value OB opt (y) from FIG. According to FIG. 7, both the low-frequency noise component and the high-frequency noise component are reduced, and adverse effects due to the random noise component are suppressed. The dispersion shown in FIG. 7 is smaller than the dispersion shown in FIGS. Further, since the remaining stripes in FIG. 7 are less noticeable because of their small periodicity, they are the most preferable state in terms of image quality compared to the cases of FIGS.

なお、ノイズ減衰係数Koptは、前もって撮影した同じ撮像素子13のデータに基づいて求めてもよいし、経験的に図7の分散σを最小にする値を選んでもよい。一般に、分散σを最小にするノイズ減衰係数Koptの値は撮像素子13(増幅変換素子13cを含む)や設定されるISO感度ごとに異なるが、通常は図8に例示するように、ノイズ減衰係数Koptの変化に対して分散σの変化は下に凸な関数形を示すため、0から1までの値で一意的に決定できる。図8は、ノイズ減衰係数Koptと分散σとの関係を例示する図である。 Note that the noise attenuation coefficient K opt may be obtained based on the data of the same image sensor 13 taken in advance, or a value that empirically minimizes the dispersion σ in FIG. 7 may be selected. In general, the value of the noise attenuation coefficient K opt that minimizes the variance σ differs depending on the imaging element 13 (including the amplification conversion element 13c) and the set ISO sensitivity. However, as illustrated in FIG. The change of the variance σ with respect to the change of the coefficient K opt shows a downward convex function form, and can be uniquely determined by a value from 0 to 1. FIG. 8 is a diagram illustrating the relationship between the noise attenuation coefficient K opt and the variance σ.

本実施形態ではさらに、ノイズ減衰補正クランプにおけるノイズ減衰係数Koptの値を、高輝度引きが生じるおそれがある場合に変化させる。一般に、高輝度引きは、撮像素子13の一部に強い光が当たった場合に、入射光が強い画素を含む「行」の増幅変換素子13cの特性が変化して生じる。図9は、高輝度引きを説明する図であり、図1で例示した撮像素子13の中央の正方形部分に高輝度被写体が投影された場合を表す。 In the present embodiment, the value of the noise attenuation coefficient K opt in the noise attenuation correction clamp is further changed when there is a possibility of high luminance pulling. In general, high luminance pulling occurs when the characteristics of the amplification conversion elements 13c in the “row” including pixels with strong incident light change when strong light hits a part of the image sensor 13. FIG. 9 is a diagram for explaining high-brightness pulling, and represents a case where a high-brightness subject is projected on the central square portion of the image sensor 13 illustrated in FIG.

図9において、高入力領域HLを含む複数の「行」において増幅変換素子13cの特性が変化するので、これらの増幅変換素子13を介して出力される高入力領域HL以外の領域HLt内の撮像用画素からの信号も、正側へ偏って(あるいは負側へ偏る場合もある)高輝度引き状態となる。   In FIG. 9, the characteristics of the amplification conversion element 13 c change in a plurality of “rows” including the high input area HL. Therefore, the imaging in the area HLt other than the high input area HL output via these amplification conversion elements 13. The signal from the pixel for use is also biased toward the positive side (or may be biased toward the negative side), resulting in a high luminance pulling state.

図10は、高輝度引きが生じた撮像用画素領域13aの画素から読み出された信号data(x,y)に基づく波形を例示する図である。図10の横軸は撮像素子13のY方向を表し、縦軸はdata(x,y)の同一の「行」における読み出し信号の平均値(すなわちX方向の平均値)を表す。図中の高輝度引き発生領域は、高入力領域HLを含む「行」に相当する。なお、縦軸スケールは任意である。   FIG. 10 is a diagram illustrating a waveform based on the signal data (x, y) read from the pixel in the imaging pixel region 13a where the high luminance pull has occurred. The horizontal axis in FIG. 10 represents the Y direction of the image sensor 13, and the vertical axis represents the average value of read signals in the same “row” of data (x, y) (that is, the average value in the X direction). The high-intensity pulling generation region in the drawing corresponds to a “row” including the high input region HL. The vertical scale is arbitrary.

図11は、高輝度引きが生じたOB画素領域13bのOB画素から読み出された信号に基づく波形を例示する図である。図11の横軸は撮像素子13のY方向を表し、縦軸は上記OB画素からの同一の「行」における読み出し信号の平均値(すなわちOBline(y))を表す。図10の場合と同様に、高輝度引き発生領域は、高入力領域HLを含む「行」に相当する。 FIG. 11 is a diagram illustrating a waveform based on a signal read from the OB pixel in the OB pixel region 13b where the high luminance pull has occurred. The horizontal axis in FIG. 11 represents the Y direction of the image sensor 13, and the vertical axis represents the average value (ie, OB line (y)) of the readout signal in the same “row” from the OB pixel. As in the case of FIG. 10, the high luminance pull generation area corresponds to a “row” including the high input area HL.

図12は、高輝度引き発生時のノイズ減衰補正クランプ処理後の信号のノイズ波形を例示する図である。図12の横軸は撮像素子13のY方向を表し、縦軸は図10からOBクランプ減算値OBopt(y)を減算後の値を表す。図12によれば、(1−Kopt)の割合で、高輝度引きに起因する信号を移動平均によって平滑化してから減じることになり、高輝度引き発生領域では、撮像用画素からの信号の正側(あるいは負側)への偏りを抑える補正が不十分になる。このような高輝度引き補正の失敗は、高入力領域HLに相当する幅を持った明るい(あるいは暗い)帯となって目立ちやすい。 FIG. 12 is a diagram illustrating the noise waveform of the signal after the noise attenuation correction clamp processing when high luminance pull occurs. The horizontal axis of FIG. 12 represents the Y direction of the image sensor 13, and the vertical axis represents the value after subtracting the OB clamp subtraction value OB opt (y) from FIG. According to FIG. 12, the signal due to high luminance pulling is smoothed by a moving average at a rate of (1−K opt ) and then reduced. In the high luminance pulling generation region, the signal from the imaging pixel is reduced. The correction for suppressing the bias toward the positive side (or the negative side) becomes insufficient. Such a failure of high luminance pull correction tends to stand out as a bright (or dark) band having a width corresponding to the high input area HL.

本実施形態は、高輝度引き発生時には、上式(1)のノイズ減衰係数Koptの値を1に近い値へ変更することによって右辺第2項を支配的にし、ラインクランプが寄与する割合を高める。図13は、高輝度引き発生時のラインクランプ寄与率を高めたノイズ減衰補正クランプ処理後の信号のノイズ波形を例示する図である。図13の横軸は撮像素子13のY方向を表し、縦軸は図10からOBクランプ減算値OBopt(y)を減算後の値を表す。図13によれば、高輝度引き発生領域であっても、撮像用画素からの信号の正側(あるいは負側)への偏りを抑える補正が行える。 In the present embodiment, when high luminance pulling occurs, the second term on the right side becomes dominant by changing the value of the noise attenuation coefficient K opt of the above formula (1) to a value close to 1, and the ratio of the contribution of the line clamp is determined. Increase. FIG. 13 is a diagram illustrating the noise waveform of the signal after the noise attenuation correction clamp process in which the line clamp contribution rate at the time of occurrence of high luminance pull is increased. The horizontal axis in FIG. 13 represents the Y direction of the image sensor 13, and the vertical axis represents the value after subtracting the OB clamp subtraction value OB opt (y) from FIG. According to FIG. 13, correction can be performed to suppress the bias of the signal from the imaging pixel to the positive side (or the negative side) even in the high luminance pulling generation region.

しかしながら、一方では、非高輝度引き発生領域において図5に例示した場合と同様に、ランダムノイズ成分を除去することが困難になる。そこで、高入力領域HLを含む「行」に対してのみ、選択的にラインクランプ寄与率を高めるようにノイズ減衰係数Koptの値を変更する。図14は、このようにノイズ減衰係数Koptの値を制御する場合のノイズ減衰補正クランプ処理後の信号のノイズ波形を例示する図である。図14の横軸は撮像素子13のY方向を表し、縦軸は図10からOBクランプ減算値OBopt(y)を減算後の値を表す。図14によれば、高輝度引き発生領域では、撮像用画素からの信号の正側(あるいは負側)への偏りを抑える補正が行え、非高輝度引き発生領域では、低周波ノイズ成分、高周波ノイズ成分ともに低減され、かつランダムノイズ成分による悪影響も抑えられる。 However, on the other hand, it becomes difficult to remove random noise components in the non-high luminance pull-out generation region, as in the case illustrated in FIG. Therefore, the value of the noise attenuation coefficient K opt is changed so as to selectively increase the line clamp contribution rate only for the “row” including the high input region HL. FIG. 14 is a diagram illustrating the noise waveform of the signal after the noise attenuation correction clamp process when the value of the noise attenuation coefficient K opt is thus controlled. The horizontal axis in FIG. 14 represents the Y direction of the image sensor 13, and the vertical axis represents the value after subtracting the OB clamp subtraction value OB opt (y) from FIG. According to FIG. 14, in the high luminance pulling generation region, correction for suppressing the bias of the signal from the imaging pixel to the positive side (or negative side) can be performed, and in the non-high luminance pulling generation region, the low frequency noise component and the high frequency are generated. Both noise components are reduced, and adverse effects due to random noise components are suppressed.

<クランプ処理の流れ>
CPU21がクランプ部15に実行させるクランプ処理の流れについて、図15に例示するフローチャートを参照して説明する。CPU21は、撮像素子13によって撮像が行われるごとに、画素信号の読み出し時に図15による処理を起動させる。
<Flow of clamping process>
The flow of the clamping process that the CPU 21 causes the clamp unit 15 to execute will be described with reference to the flowchart illustrated in FIG. The CPU 21 activates the processing shown in FIG. 15 at the time of reading the pixel signal every time the imaging element 13 performs imaging.

図15のステップS10において、CPU21は、y行ごとに、OB領域13bからのOB画素信号の平均値OBline(y)を算出させてステップS20へ進む。クランプ部15は、算出結果を図示しないメモリに格納しておく。ステップS20において、CPU21は、全ての行について、平均値OBline(y)の算出が終了したか否かを判定する。CPU21は、全ての行について算出終了している場合はステップS20を肯定判定してステップS30へ進む。CPU21は、全ての行について算出終了していない場合には、ステップS20を否定判定してステップS40へ進む。ステップS40において、CPU21は、yをインクリメントさせてステップS10へ戻る。ステップS10へ戻る場合は、他の行についても同様の平均値算出処理を行わせる。 In step S10 of FIG. 15, the CPU 21 calculates the average value OB line (y) of the OB pixel signal from the OB area 13b for each y row, and proceeds to step S20. The clamp unit 15 stores the calculation result in a memory (not shown). In step S20, the CPU 21 determines whether or not the calculation of the average value OB line (y) has been completed for all rows. If the calculation has been completed for all rows, the CPU 21 makes an affirmative decision in step S20 and proceeds to step S30. If the calculation has not been completed for all rows, the CPU 21 makes a negative determination in step S20 and proceeds to step S40. In step S40, the CPU 21 increments y and returns to step S10. When returning to step S10, similar average value calculation processing is performed for other rows.

ステップS30において、CPU21は、メモリ(不図示)に格納されている平均値OBline(y)に基づいて、次式(2)により高輝度検出用移動平均値OBhlt(y)を算出させてステップS50へ進む。
ただし、Nhlt は移動平均距離であり、例えば、注目する行(y)から下側へ8(行分)とする。
In step S30, the CPU 21 calculates the moving average value OB hlt (y) for high-intensity detection by the following equation (2) based on the average value OB line (y) stored in the memory (not shown). Proceed to step S50.
Here, N hlt is a moving average distance, and is, for example, 8 (for the line) from the focused line (y) to the lower side.

ステップS50において、CPU21は、メモリ(不図示)に格納されている平均値OBline(y)に基づいて、次式(3)により移動平均クランプ用移動平均値OBRM(y)を算出させてステップS60へ進む。OBRM(y)は、上述した移動平均クランプにおいてOBクランプ減算値として用いたものである。
ただし、NRM は移動平均距離であり、例えば、注目する行(y)から下側へ256(行分)とする。
In step S50, the CPU 21 calculates the moving average clamping moving average value OBRM (y) by the following equation (3) based on the average value OBline (y) stored in the memory (not shown). Proceed to step S60. OBRM (y) is used as the OB clamp subtraction value in the above-described moving average clamp.
However, NRM is a moving average distance, for example, 256 (line) from the target line (y) to the lower side.

ステップS60において、CPU21は、y行ごとに、高輝度引きが発生するか否かを判定させる。CPU21は、例えばOBhlt(y)−OBRM(y)の差分絶対値と所定の判定閾値THhlt とを比較させ、|OBhlt(y)−OBRM(y)|>THhlt が成立する場合にステップS60を肯定判定してステップS70へ進む。CPU21は、|OBhlt(y)−OBRM(y)|>THhlt が成立しない場合には、ステップS60を否定判定してステップS80へ進む。 In step S60, the CPU 21 determines whether or not high luminance pull occurs for each y row. For example, the CPU 21 compares the absolute difference value of OB hlt (y) −OB RM (y) with a predetermined determination threshold value TH hlt, and | OB hlt (y) −OB RM (y) |> TH hlt is satisfied. In this case, an affirmative decision is made in step S60 and the process proceeds to step S70. If | OB hlt (y) −OB RM (y) |> TH hlt is not satisfied, the CPU 21 makes a negative determination in step S60 and proceeds to step S80.

ステップS70において、CPU21は、高輝度引きが発生していると推定し、係数KをKhlt に置き換えてステップS90へ進む。Khltは、例えば1を用いるが、上記差分絶対値の大きさ|OBhlt(y)−OBRM(y)|に応じて1に近づける値を得るようにしてもよい。ステップS80において、CPU21は高輝度引きが発生していないと推定し、係数Kとして上述したノイズ減衰係数Koptを用いるようにしてステップS90へ進む。 In step S70, the CPU 21 estimates that high luminance pulling has occurred, replaces the coefficient K with K hlt , and proceeds to step S90. For example, 1 is used as K hlt , but a value approaching 1 may be obtained according to the magnitude | OB hlt (y) −OB RM (y) | In step S80, the CPU 21 estimates that no high luminance pull has occurred, and proceeds to step S90 using the above-described noise attenuation coefficient Kopt as the coefficient K.

ステップS90において、CPU21は、次式(4)で得られる値をOBクランプ減算値OBopt(y)とするノイズ減衰補正クランプを次式(5)により行ってステップS100へ進む。
DATA(x,y) = data(x,y) −OBopt(y) ……(5)
ただし、data(x,y)は撮像画素領域13aから読み出される画像データであり、DATA(x,y)はクランプ後の画像データである。
In step S90, the CPU 21 performs a noise attenuation correction clamp using the value obtained by the following equation (4) as the OB clamp subtraction value OB opt (y) by the following equation (5), and proceeds to step S100.
DATA (x, y) = data (x, y) -OB opt (y) (5)
However, data (x, y) is image data read from the imaging pixel region 13a, and DATA (x, y) is image data after clamping.

ステップS100において、CPU21は、全ての行について、クランプを終了したか否かを判定する。CPU21は、全ての行について終了している場合はステップS100を肯定判定して図15による処理を終了する。CPU21は、全ての行について終了していない場合には、ステップS100を否定判定してステップS110へ進む。ステップS110において、CPU21は、yをインクリメントさせてステップS60へ戻る。ステップS60へ戻る場合は、他の行についても同様の処理を繰り返させる。   In step S100, the CPU 21 determines whether or not clamping has been completed for all rows. If all the rows have been completed, the CPU 21 makes an affirmative decision in step S100 and ends the processing in FIG. If the CPU 21 has not finished processing for all the rows, the CPU 21 makes a negative determination in step S100 and proceeds to step S110. In step S110, the CPU 21 increments y and returns to step S60. When returning to step S60, the same processing is repeated for the other rows.

以上説明した実施形態によれば、次の作用効果が得られる。
(1)デジタルカメラ1は、撮像用画素(13a)およびOB画素(13b)を有する撮像素子13からの信号のうち、OB画素(13b)からの信号に基づいてOBRM(y)を算出するクランプ部15と、OB画素(13b)からの信号に基づいてOBline(y)を算出するクランプ部15と、OBRM(y)およびOBline(y)を所定の係数Kにより足し合わせてOBopt(y)を算出するクランプ部15と、OB画素(13b)からの信号と共通の素子(13c)を介して出力される撮像用画素(13a)による信号からOBopt(y)を減算するクランプ部15と、高輝度引き発生時と非発生時とで係数Kを異ならせるようにクランプ部15を制御するCPU21と、を備えるようにしたので、高輝度引きが生じる場合にも、筋状のパターンノイズを適切に補正できる。
According to the embodiment described above, the following operational effects can be obtained.
(1) The digital camera 1 calculates OBRM (y) based on the signal from the OB pixel (13b) among the signals from the image pickup device 13 having the imaging pixel (13a) and the OB pixel (13b). The clamp unit 15, the clamp unit 15 that calculates OB line (y) based on the signal from the OB pixel (13b), and OB RM (y) and OB line (y) are added together by a predetermined coefficient K to obtain OB OB opt (y) is subtracted from the signal from the image pickup pixel (13a) output via the clamp unit 15 for calculating opt (y) and the common element (13c) with the signal from the OB pixel (13b). Since the clamp unit 15 and the CPU 21 that controls the clamp unit 15 so as to make the coefficient K different between when the high luminance pull occurs and when the high luminance pull does not occur, the streaks are formed even when the high luminance pull occurs. Pattern noise can be corrected appropriately.

(2)上記デジタルカメラ1において、CPU21は、高輝度引き発生時において、OBline(y)の係数Kをより1に近づけるようにクランプ部15を制御するので、高輝度引き発生時において、適切に筋状のパターンノイズを適切に補正できる。 (2) In the digital camera 1, the CPU 21 controls the clamp unit 15 so that the coefficient K of OB line (y) is closer to 1 when high luminance pull occurs. It is possible to appropriately correct streak pattern noise.

(3)上記デジタルカメラ1において、共通の素子(13c)および当該共通の素子以外の素子を(13c)介して出力されるOB画素(13b)からの信号に基づいて、256行分の移動平均距離によるOBRM(y)、および256行分より短い8行分の移動平均距離によるOBhlt(y)をそれぞれ算出するクランプ部15をさらに備え、CPU21は、OBRM(y)とOBhlt(y)との比較結果に基づいて高輝度引き発生か否かを判断するようにしたので、高輝度引きが発生し得るか、し得ないかを適切に推定できる。 (3) In the digital camera 1, a moving average for 256 rows based on signals from the OB pixel (13b) output via the common element (13c) and the elements other than the common element via (13c) distance further comprising a clamp unit 15 that calculates OB RM (y), and the moving average distance shorter than 256 rows 8 rows by OB hlt a (y), respectively by, CPU 21 may, OB RM (y) and OB hlt ( Since it is determined whether or not high luminance pulling occurs based on the comparison result with y), it can be appropriately estimated whether or not high luminance pulling can occur.

(4)上記デジタルカメラ1において、CPU21は、OBRM(y)とOBhlt(y)との差に基づいて高輝度引き発生か否かを判断するようにしたので、高輝度引きが発生し得るか、し得ないかを、少ない演算量で適切に推定できる。 (4) In the digital camera 1, CPU 21 is, since the determination as to whether the high luminance lookup occurs whether on the basis of the difference between OB RM (y) and OB hlt (y), high brightness pulling occurs Whether it can be obtained or not can be estimated appropriately with a small amount of computation.

(5)上記デジタルカメラ1において、クランプ部15は、移動平均値に基づいてOBRM(y)を算出し、共通の素子(13c)を介して出力されるOB画素(13b)からの信号に基づいてOBline(y)算出するので、上記推定を適切に行うことができる。 (5) In the digital camera 1, the clamp unit 15 calculates OBRM (y) based on the moving average value, and outputs the signal from the OB pixel (13b) output through the common element (13c). Since OB line (y) is calculated based on this, the above estimation can be performed appropriately.

(変形例1)
上述した説明では、高輝度検出用の移動平均距離Nhlt として8(行分)を例にあげたが、8行に限らず、4行でも16行でも適宜変更して構わない。
(Modification 1)
In the above description, the moving average distance N hlt for high-luminance detection is 8 (for the line) as an example. However, the moving average distance N hlt is not limited to 8 lines, and may be appropriately changed to 4 lines or 16 lines.

(変形例2)
また、移動平均クランプ用移動平均値OBRM(y)を算出するための移動平均距離NRM として256(行分)を例にあげたが、256行に限らず、128行でも512行でも適宜変更して構わない。
(Modification 2)
In addition, the moving average distance NRM for calculating the moving average clamping moving average value OBRM (y) is 256 (rows) as an example. However, the moving average distance NRM is not limited to 256 lines, and may be 128 lines or 512 lines as appropriate. You can change it.

(変形例3)
上記ステップS60において、算出距離が異なる2つの移動平均値OBhlt(y)およびOBRM(y)の差に基づいて高輝度引きの発生の有無を推定する例を説明した。この代わりに、算出距離が異なる2つの移動平均値OBhlt(y)およびOBRM(y)の比に基づいて高輝度引きの発生の有無を推定するようにしてもよい。
(Modification 3)
In the above-described step S60, the example in which the presence / absence of high luminance pull is estimated based on the difference between two moving average values OB hlt (y) and OB RM (y) having different calculated distances has been described. Instead, the presence / absence of occurrence of high luminance pull may be estimated based on the ratio of two moving average values OB hlt (y) and OB RM (y) having different calculated distances.

(変形例4)
また、比較する移動平均の数は、上述した2つに限られない。例えば3つの移動平均値を用いる場合には、高輝度検出用の移動平均距離を8行分とする第1移動平均値と、移動平均距離を64行分とする第2移動平均値と、移動平均クランプ用である第3の移動平均値OBRM(y)をそれぞれ算出し、これら3つの移動平均値の大小関係、または比に基づいて高輝度引きの発生の有無を推定するようにしてもよい。この場合にも、各移動平均距離を適宜変更してよいことはいうまでもない。
(Modification 4)
Further, the number of moving averages to be compared is not limited to the two described above. For example, when three moving average values are used, a first moving average value having a moving average distance for high luminance detection corresponding to 8 rows, a second moving average value having a moving average distance corresponding to 64 rows, and moving The third moving average value OB RM (y) for average clamping is calculated, and the presence / absence of occurrence of high luminance pull is estimated based on the magnitude relationship or ratio of these three moving average values. Good. Also in this case, it goes without saying that each moving average distance may be changed as appropriate.

(変形例5)
移動平均を算出する方向は、注目する行(y)から下側のみでなく、注目する行(y)から上側へ設定してもよい。また、注目する行(y)を挟んで上下それぞれの方向を設定してもよい。
(Modification 5)
The direction in which the moving average is calculated may be set not only from the lower side from the focused row (y) but also from the focused row (y) to the upper side. In addition, the upper and lower directions may be set across the row (y) of interest.

(変形例6)
上述した実施形態では、デジタルカメラ1にクランプ処理を行う信号処理装置を搭載する例を説明したが、パーソナルコンピュータを用いて、事後的にOBクランプ処理を行う信号処理装置を構成してもよい。この場合、デジタルカメラで取得した画像データとして、撮像画素領域13aに含まれる各画素の読み出しデータと、OB画素領域13bに含まれる各OB画素の読み出しデータとを、それぞれ保存しておく。
(Modification 6)
In the embodiment described above, an example in which a signal processing device that performs clamping processing is mounted on the digital camera 1 has been described. However, a signal processing device that performs OB clamping processing later may be configured using a personal computer. In this case, read data of each pixel included in the imaging pixel area 13a and read data of each OB pixel included in the OB pixel area 13b are stored as image data acquired by the digital camera.

そして、図16に示すコンピュータ装置200に図15に例示したフローチャートの処理を行うプログラムを実行させることにより、画像データに対してOBクランプ処理を行い信号処理装置を構成する。プログラムをパーソナルコンピュータ200に取込んで使用する場合には、パーソナルコンピュータ200のデータストレージ装置にプログラムをローディングした上で、当該プログラムを実行させることによって信号処理装置として使用する。   Then, by causing the computer device 200 shown in FIG. 16 to execute a program for performing the processing of the flowchart illustrated in FIG. 15, the signal processing device is configured by performing OB clamping processing on the image data. When the program is used by being loaded into the personal computer 200, the program is loaded into the data storage device of the personal computer 200 and then used as a signal processing device by executing the program.

パーソナルコンピュータ200に対するプログラムのローディングは、プログラムを格納したCD−ROMなどの記憶媒体204をパーソナルコンピュータ200にセットして行ってもよいし、ネットワークなどの通信回線201を経由する方法でパーソナルコンピュータ200へローディングしてもよい。通信回線201を経由する場合は、通信回線201に接続されたサーバー(コンピュータ)202のハードディスク装置203などにプログラムを格納しておく。プログラムは、記憶媒体204や通信回線201を介する提供など、種々の形態のコンピュータプログラム製品として供給することができる。   The loading of the program to the personal computer 200 may be performed by setting a storage medium 204 such as a CD-ROM storing the program in the personal computer 200, or to the personal computer 200 by a method via the communication line 201 such as a network. You may load. When passing through the communication line 201, the program is stored in the hard disk device 203 of the server (computer) 202 connected to the communication line 201. The program can be supplied as various forms of computer program products such as provision via the storage medium 204 or the communication line 201.

以上の説明はあくまで一例であり、上記の実施形態の構成に何ら限定されるものではない。   The above description is merely an example, and is not limited to the configuration of the above embodiment.

1…デジタルカメラ
13…撮像素子
14…A/D変換部
15…クランプ部
16…バッファメモリ
17…画像処理部
21…CPU
24…操作部材
DESCRIPTION OF SYMBOLS 1 ... Digital camera 13 ... Image pick-up element 14 ... A / D conversion part 15 ... Clamp part 16 ... Buffer memory 17 ... Image processing part 21 ... CPU
24. Operation member

Claims (8)

撮像用画素および校正用画素を有する撮像素子からの信号のうち、前記校正用画素からの信号に基づいて第1減算値を算出する第1演算手段と、
前記校正用画素からの信号に基づいて第2減算値を算出する第2演算手段と、
前記第1減算値および前記第2減算値を所定の割合で足し合わせて第3減算値を算出する第3演算手段と、
前記校正用画素からの信号と共通の素子を介して出力される前記撮像用画素による信号から前記第3減算値を減算する減算手段と、
高輝度引き発生時と非発生時とで前記割合を異ならせるように前記減算手段を制御する制御手段と、
を備えることを特徴とする信号処理装置。
First calculation means for calculating a first subtraction value based on a signal from the calibration pixel among signals from an imaging element having an imaging pixel and a calibration pixel;
Second calculating means for calculating a second subtraction value based on a signal from the calibration pixel;
Third computing means for calculating a third subtraction value by adding the first subtraction value and the second subtraction value at a predetermined ratio;
Subtracting means for subtracting the third subtracted value from the signal from the imaging pixel output via a common element with the signal from the calibration pixel;
Control means for controlling the subtracting means so as to vary the ratio between when high-intensity pulling occurs and when it does not occur;
A signal processing apparatus comprising:
請求項1に記載の信号処理装置において、
前記制御手段は、前記高輝度引き発生時において、第2減算値の割合をより高めるように前記減算手段を制御することを特徴とする信号処理装置。
The signal processing device according to claim 1,
The signal processing apparatus is characterized in that the control means controls the subtraction means so as to increase the ratio of the second subtraction value when the high luminance pull occurs.
請求項1または2に記載の信号処理装置において、
前記共通の素子および当該共通の素子以外の素子を介して出力される前記校正用画素からの信号に基づいて、第1の移動平均距離による第1移動平均値、および前記第1の移動平均距離より短い第2の移動平均距離による第2移動平均値をそれぞれ算出する移動平均手段をさらに備え、
前記制御手段は、前記第1移動平均値と前記第2移動平均値との比較結果に基づいて前記高輝度引き発生か否かを判断することを特徴とする信号処理装置。
The signal processing device according to claim 1 or 2,
Based on a signal from the calibration pixel output via the common element and an element other than the common element, a first moving average value based on a first moving average distance, and the first moving average distance A moving average means for calculating a second moving average value based on a shorter second moving average distance;
The signal processing apparatus is characterized in that the control means determines whether or not the high luminance pull occurs based on a comparison result between the first moving average value and the second moving average value.
請求項3に記載の信号処理装置において、
前記制御手段は、前記第1移動平均値と前記第2移動平均値との差に基づいて前記高輝度引き発生か否かを判断することを特徴とする信号処理装置。
The signal processing device according to claim 3.
The signal processing apparatus, wherein the control unit determines whether or not the high luminance pull is generated based on a difference between the first moving average value and the second moving average value.
請求項3に記載の信号処理装置において、
前記制御手段は、前記第1移動平均値と前記第2移動平均値との比に基づいて前記高輝度引き発生か否かを判断することを特徴とする信号処理装置。
The signal processing device according to claim 3.
The signal processing apparatus according to claim 1, wherein the control means determines whether or not the high luminance pull is generated based on a ratio between the first moving average value and the second moving average value.
請求項3〜5のいずれか一項に記載の信号処理装置において、
前記第1演算手段は、前記第1移動平均値に基づいて前記第1減算値を算出し、
前記第2演算手段は、前記共通の素子を介して出力される校正用画素からの信号に基づいて前記第2減算値を算出することを特徴とする信号処理装置。
In the signal processing device according to any one of claims 3 to 5,
The first calculation means calculates the first subtraction value based on the first moving average value,
The signal processing apparatus, wherein the second calculation means calculates the second subtraction value based on a signal from a calibration pixel output via the common element.
撮像用画素および校正用画素を有する撮像素子からの信号のうち、前記校正用画素からの信号に基づいて第1減算値を算出する第1演算ステップと、
前記校正用画素からの信号に基づいて第2減算値を算出する第2演算ステップと、
前記第1減算値および前記第2減算値を所定の割合で足し合わせて第3減算値を算出する第3演算ステップと、
前記校正用画素からの信号と共通の素子を介して出力される前記撮像用画素による信号から前記第3減算値を減算する減算ステップと、
高輝度引き発生時と非発生時とで前記割合を異ならせるように前記減算手段を制御する制御ステップと、
をコンピュータに実行させることを特徴とする信号処理プログラム。
A first calculation step of calculating a first subtraction value based on a signal from the calibration pixel among signals from an imaging device having an imaging pixel and a calibration pixel;
A second calculation step of calculating a second subtraction value based on a signal from the calibration pixel;
A third calculation step of calculating a third subtraction value by adding the first subtraction value and the second subtraction value at a predetermined ratio;
A subtraction step of subtracting the third subtraction value from a signal from the imaging pixel output via a common element with a signal from the calibration pixel;
A control step of controlling the subtracting means so as to vary the ratio between when high-intensity pulling occurs and when it does not occur;
A signal processing program for causing a computer to execute.
請求項1〜6のいずれか一項に記載の信号処理装置を搭載することを特徴とするデジタルカメラ。   A digital camera equipped with the signal processing apparatus according to claim 1.
JP2012102614A 2012-04-27 2012-04-27 Signal processor, signal processing program, and digital camera Pending JP2015130544A (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2012102614A JP2015130544A (en) 2012-04-27 2012-04-27 Signal processor, signal processing program, and digital camera
PCT/JP2013/062478 WO2013162023A1 (en) 2012-04-27 2013-04-26 Signal processing device, signal processing program, and digital camera

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012102614A JP2015130544A (en) 2012-04-27 2012-04-27 Signal processor, signal processing program, and digital camera

Publications (1)

Publication Number Publication Date
JP2015130544A true JP2015130544A (en) 2015-07-16

Family

ID=49483319

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012102614A Pending JP2015130544A (en) 2012-04-27 2012-04-27 Signal processor, signal processing program, and digital camera

Country Status (2)

Country Link
JP (1) JP2015130544A (en)
WO (1) WO2013162023A1 (en)

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010136271A (en) * 2008-12-08 2010-06-17 Olympus Imaging Corp Imaging apparatus

Also Published As

Publication number Publication date
WO2013162023A1 (en) 2013-10-31

Similar Documents

Publication Publication Date Title
US8798395B2 (en) Image processing apparatus, image processing method, and program
US8982249B2 (en) Image capturing apparatus and method for controlling an image capturing apparatus for capturing and processing a plurality of pieces of exposure and dark image data to correct combined exposure image data in accordance with combined dark image data
JP5526014B2 (en) Imaging device
US9491381B2 (en) Image processing apparatus and control method for image processing apparatus
US20150281540A1 (en) Image processing device, control method thereof, and program
US8976274B2 (en) Apparatus and method for image pickup and correction
JP6351271B2 (en) Image composition apparatus, image composition method, and program
US20160080627A1 (en) Image processing apparatus, image-pickup apparatus, image processing method, non-transitory computer-readable storage medium
US10270991B2 (en) Image processing apparatus, image processing method, and computer-readable recording medium
JP2012199774A (en) Image processing apparatus, imaging apparatus, image processing program, and image processing method
JP5520833B2 (en) Imaging method and imaging apparatus
JP2011029722A (en) Image capturing apparatus and signal processing method
JP6652290B2 (en) Image processing apparatus, image processing method, and program
JP2010200109A (en) Imaging device, control method, and program
JP5959828B2 (en) IMAGING DEVICE AND IMAGING DEVICE CONTROL METHOD
WO2013162023A1 (en) Signal processing device, signal processing program, and digital camera
US8957990B2 (en) Apparatus and method for compensating for back light of image
JP2010011073A (en) Imaging device, its image processing method and program
JP5632703B2 (en) Image processing apparatus, control method, and program
JP2011250249A (en) Video signal processing apparatus and video signal processing method
JP4397869B2 (en) Smear correction method and smear correction circuit
JP5631153B2 (en) Image processing apparatus, control method, and program
JP6961477B2 (en) Imaging device and its control method
JP2013115702A (en) Imaging apparatus
US9549131B2 (en) Imaging apparatus and imaging method using independently corrected color values