JP2014068404A - Imaging apparatus - Google Patents
Imaging apparatus Download PDFInfo
- Publication number
- JP2014068404A JP2014068404A JP2014008767A JP2014008767A JP2014068404A JP 2014068404 A JP2014068404 A JP 2014068404A JP 2014008767 A JP2014008767 A JP 2014008767A JP 2014008767 A JP2014008767 A JP 2014008767A JP 2014068404 A JP2014068404 A JP 2014068404A
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- imaging
- image
- subject
- signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Abstract
Description
本発明は、撮像装置に関する。 The present invention relates to an imaging apparatus.
従来から、例えば特許文献1に示すように、輝度差のあるシーンを撮像するときに画像内の低輝度領域で局所的に画素加算を行う撮像装置が提案されている。 Conventionally, as shown in Patent Document 1, for example, there has been proposed an imaging device that locally performs pixel addition in a low-luminance region in an image when imaging a scene having a luminance difference.
しかし、特許文献1には、画素加算をする領域と、画素加算をしない領域とで生じる解像度の差を如何に調整して1つの画像を出力するかについて改善の余地があった。 However, Patent Document 1 has room for improvement in how to adjust a difference in resolution generated between a region where pixel addition is performed and a region where pixel addition is not performed to output one image.
一の態様の撮像装置は、第1撮像素子と、第2撮像素子と、画素加算判別部と、タイミングジェネレータと、画像処理部とを備える。第1撮像素子は、画素が複数配列された撮像素子であって複数の画素のうち指定された画素から読み出された画素信号を加算して出力可能である。第2撮像素子は、被写体を撮像して第1撮像素子の撮像範囲と被写体の輝度との対応関係を示す輝度分布情報を生成する。画素加算判別部は、輝度分布情報に基づいて第1撮像素子に配列された複数の画素のうち画素信号の加算を行う画素の位置を示す画素位置情報を生成する。タイミングジェネレータは、画素位置情報に基づいて指定された画素に対して画素信号の加算を行わせるための駆動信号を第1撮像素子に供給する。画像処理部は、第1撮像素子に配列された複数の画素のうち指定された画素から読み出された画素信号を加算して出力した場合、画素信号を加算して出力された信号により示される画像と画素信号を加算せずに出力された信号により示される画像とで解像度を調整する。また、画素加算判別部は、輝度分布情報から第1撮像素子の撮像範囲内において被写体の明るい部分と被写体の暗い部分との面積比を求め、第1撮像素子の撮像範囲内において被写体の暗い部分よりも被写体の明るい部分が多い場合、画素信号を加算して出力された信号により示される画像を拡大するように画像処理部に対して指示を行い、第1撮像素子の撮像範囲内において被写体の明るい部分よりも被写体の暗い部分が多い場合、画素信号を加算せずに出力された信号により示される画像を縮小するように画像処理部に対して指示を行う。 An imaging apparatus according to one aspect includes a first imaging element, a second imaging element, a pixel addition determination unit, a timing generator, and an image processing unit. The first image sensor is an image sensor in which a plurality of pixels are arranged, and can add and output a pixel signal read from a designated pixel among the plurality of pixels. The second image sensor captures a subject and generates luminance distribution information indicating a correspondence relationship between the imaging range of the first image sensor and the luminance of the subject. The pixel addition determination unit generates pixel position information indicating the position of the pixel to which the pixel signal is added among the plurality of pixels arranged in the first image sensor based on the luminance distribution information. The timing generator supplies a drive signal for causing the pixel designated based on the pixel position information to be added to the first image sensor. When the image processing unit adds and outputs a pixel signal read from a designated pixel among a plurality of pixels arranged in the first image sensor, the image processing unit is indicated by the signal output by adding the pixel signal. The resolution is adjusted between the image and the image indicated by the output signal without adding the pixel signal. The pixel addition determining unit obtains an area ratio between a bright part of the subject and a dark part of the subject within the imaging range of the first image sensor from the luminance distribution information, and a dark part of the subject within the imaging range of the first image sensor. When there are more bright parts of the subject, the image processing unit is instructed to enlarge the image indicated by the output signal by adding the pixel signals, and the subject is within the imaging range of the first image sensor. If there are more dark parts of the subject than bright parts, the image processing unit is instructed to reduce the image indicated by the output signal without adding the pixel signals.
別の態様の撮像装置は、撮像素子と、画素加算判別部と、タイミングジェネレータと、画像処理部と、を備える。撮像素子は、画素が複数配列された撮像素子であって、複数の画素のうち指定された画素から読み出された画素信号を加算して出力可能である。画素加算判別部は、撮像素子の撮像範囲と被写体輝度との対応関係を示す輝度分布情報に基づいて複数の画素のうち画素信号の加算を行う画素の位置を示す画素位置情報を生成する。タイミングジェネレータは、画素位置情報に基づいて指定された画素に対して画素信号の加算を行わせるための駆動信号を撮像素子に供給する。画像処理部は、複数の画素のうち指定された画素から読み出された画素信号を加算して出力した場合、画素信号を加算して出力された信号により示される画像と画素信号を加算せずに出力された信号により示される画像とで解像度を調整する。また、画素加算判別部は、輝度分布情報から撮像素子の撮像範囲内において被写体の明るい部分と被写体の暗い部分との面積比を求め、撮像素子の撮像範囲内において被写体の暗い部分よりも被写体の明るい部分が多い場合、画素信号を加算して出力された信号により示される画像を拡大するように画像処理部に対して指示を行い、撮像素子の撮像範囲内において被写体の明るい部分よりも被写体の暗い部分が多い場合、画素信号を加算せずに出力された信号により示される画像を縮小するように画像処理部に対して指示を行う。 An imaging device according to another aspect includes an imaging device, a pixel addition determination unit, a timing generator, and an image processing unit. The image sensor is an image sensor in which a plurality of pixels are arranged, and can output a pixel signal read from a designated pixel among the plurality of pixels. The pixel addition determination unit generates pixel position information indicating a position of a pixel to which pixel signals are added among a plurality of pixels, based on luminance distribution information indicating a correspondence relationship between the imaging range of the imaging element and subject luminance. The timing generator supplies a drive signal for causing the pixel designated based on the pixel position information to be added to the image sensor. When the image processing unit adds and outputs a pixel signal read from a specified pixel among a plurality of pixels, the image processing unit does not add the pixel signal to the image indicated by the output signal and add the pixel signal. The resolution is adjusted with the image indicated by the signal output to. The pixel addition determination unit obtains an area ratio between a bright part of the subject and a dark part of the subject in the imaging range of the image sensor from the luminance distribution information, and the subject area is more than the dark part of the subject in the imaging range of the image sensor. When there are many bright parts, the image processing unit is instructed to enlarge the image indicated by the signal output by adding the pixel signals, and the subject is located within the imaging range of the image sensor rather than the bright part of the subject. When there are many dark portions, the image processing unit is instructed to reduce the image indicated by the output signal without adding pixel signals.
本発明の撮像装置では、画素加算をする領域と、画素加算をしない領域とで生じる解像度の差が適切に調整される。 In the imaging apparatus of the present invention, the difference in resolution generated between the area where pixel addition is performed and the area where pixel addition is not performed is appropriately adjusted.
図1は、一の実施形態に係る撮像装置の構成例を示すブロック図である。撮像装置は、撮像光学系11および絞り12と、第1撮像素子13と、AFE14と、画像処理部15と、タイミングジェネレータ(TG)16と、フレームメモリ17と、記録I/F18と、レンズ19および第2撮像素子20と、信号処理部21と、CPU22と、操作部23とを有している。なお、絞り12、画像処理部15、TG16、記録I/F18、信号処理部21および操作部23は、それぞれCPU22と接続されている。
FIG. 1 is a block diagram illustrating a configuration example of an imaging apparatus according to an embodiment. The imaging apparatus includes an imaging optical system 11 and an aperture 12, a first imaging element 13, an
撮像光学系11は、ズームレンズ、フォーカシングレンズを含む複数のレンズで構成されている。なお、簡単のため、図1では撮像光学系11を1枚のレンズとして図示する。また、絞り12は、第1撮像素子13に入射する単位時間当たりの光量を調節する。この絞り12の開口量(絞り値)は、CPU22の指示に応じて調整される。
The imaging optical system 11 includes a plurality of lenses including a zoom lens and a focusing lens. For simplicity, the imaging optical system 11 is illustrated as a single lens in FIG. The diaphragm 12 adjusts the amount of light per unit time incident on the first image sensor 13. The opening amount (aperture value) of the diaphragm 12 is adjusted according to an instruction from the
第1撮像素子13の受光面上には、複数の画素がマトリックス状に配列されている。また、第1撮像素子13の各画素には、赤色(R)、緑色(Gr,Gb)、青色(B)のカラーフィルタが公知のベイヤ配列で配置されている。そして、第1撮像素子13は、撮像光学系11および絞り12を通過した光束による被写体の像を撮像し、アナログの画像信号を生成する。なお、第1撮像素子13の出力はAFE14に接続されている。 On the light receiving surface of the first image sensor 13, a plurality of pixels are arranged in a matrix. Further, red (R), green (Gr, Gb), and blue (B) color filters are arranged in a known Bayer array in each pixel of the first image sensor 13. Then, the first image sensor 13 captures an image of the subject by the light flux that has passed through the imaging optical system 11 and the diaphragm 12, and generates an analog image signal. Note that the output of the first image sensor 13 is connected to the AFE 14.
また、第1撮像素子13は、任意の画素の画像信号をランダムアクセスで読み出し可能なCMOS型の固体撮像素子で構成される。また、第1撮像素子13は、受光面の画素配列のうちで指定された部分領域に含まれる画素群の信号値を加算して出力可能である。この画素加算では、指定された部分領域において、カラーフィルタの色別(R面、Gr面、Gb面、B面)にそれぞれ信号値の加算が行われる。また、一の実施形態での第1撮像素子13は、各色における2×2画素(4画素分)の範囲を1画素に加算する画素加算と、各色における4×4画素(16画素分)の範囲を1画素に加算する画素加算とを選択的に実行できる。なお、一例として、図2(a)では、R面における4画素分の画素加算の例を示し、図2(b)では、R面における16画素分の画素加算の例を示す。なお、上記した他の色についても同様の画素加算が行われるものとする。 The first image sensor 13 is configured by a CMOS solid-state image sensor that can read an image signal of an arbitrary pixel by random access. The first image sensor 13 can add and output the signal values of the pixel group included in the partial area specified in the pixel array on the light receiving surface. In this pixel addition, signal values are added for each color filter (R plane, Gr plane, Gb plane, B plane) in the designated partial region. In addition, the first image sensor 13 in one embodiment includes pixel addition for adding a range of 2 × 2 pixels (for 4 pixels) in each color to 1 pixel, and 4 × 4 pixels (for 16 pixels) in each color. Pixel addition for adding the range to one pixel can be selectively executed. As an example, FIG. 2A shows an example of pixel addition for four pixels on the R plane, and FIG. 2B shows an example of pixel addition for 16 pixels on the R plane. It is assumed that the same pixel addition is performed for the other colors described above.
また、図3は、一の実施形態での第1撮像素子13の回路構成例を示す図である。図3では、簡単のため、図2で示す2×2個分のR画素(画素PX1−PX4)のみを部分的に示すが、図2(b)に示す画素PX5−PX8、PX9−PX12、PX13−PX16の各回路もそれぞれ画素PX1−PX4と同様に構成されるものとする。勿論、実際の第1撮像素子13の受光面にはさらに多数の画素が配列されることはいうまでもない。また、図3では、垂直デコーダ、水平デコーダなどの図示は省略する。 FIG. 3 is a diagram illustrating a circuit configuration example of the first image sensor 13 in the embodiment. In FIG. 3, for simplification, only the 2 × 2 R pixels (pixels PX1 to PX4) shown in FIG. 2 are partially shown, but the pixels PX5 to PX8, PX9 to PX12 shown in FIG. The circuits PX13 to PX16 are also configured similarly to the pixels PX1 to PX4. Of course, it goes without saying that a larger number of pixels are arranged on the light receiving surface of the actual first image sensor 13. In FIG. 3, illustration of a vertical decoder, a horizontal decoder, etc. is omitted.
図3に示す画素PX1−PX4では、フォトダイオードPDおよび転送トランジスタTXが、各画素でそれぞれ1つずつ配置されている。また、画素PX1−PX4の4画素において、フローティングディフュージョンFDと、リセットトランジスタRESと、増幅トランジスタAMPと、選択トランジスタSELとがそれぞれ共有されている(いわゆる7Tr/4画素の1.75Tr構成)。 In the pixels PX1 to PX4 shown in FIG. 3, one photodiode PD and one transfer transistor TX are arranged for each pixel. Further, in the four pixels PX1 to PX4, the floating diffusion FD, the reset transistor RES, the amplification transistor AMP, and the selection transistor SEL are shared (so-called 7.75 / 4 pixel 1.75Tr configuration).
上記のフォトダイオードPDは、入射光の光量に応じて信号電荷を生成する。転送トランジスタTXは、フォトダイオードPDに蓄積された信号電荷をフローティングディフュージョンFDに転送する。リセットトランジスタRESは、フローティングディフュージョンFDを電源電圧にリセットする。増幅トランジスタAMPは、フローティングディフュージョンFDの電圧値に応じて、選択トランジスタSELを介して出力端子に読み出し電流を出力する。選択トランジスタSELは、増幅トランジスタAMPのソースを出力端子に接続する。 Said photodiode PD produces | generates a signal charge according to the light quantity of incident light. The transfer transistor TX transfers the signal charge accumulated in the photodiode PD to the floating diffusion FD. The reset transistor RES resets the floating diffusion FD to the power supply voltage. The amplification transistor AMP outputs a read current to the output terminal via the selection transistor SEL according to the voltage value of the floating diffusion FD. The selection transistor SEL connects the source of the amplification transistor AMP to the output terminal.
また、画素PX1−PX4の信号値を別々に読み出す場合、第1撮像素子13は、4つのフォトダイオードPDの信号電荷を時分割で順次出力すればよい。一方、画素PX1−PX4を画素加算して読み出す場合、第1撮像素子13は、4つのフォトダイオードPDの信号電荷をフローティングディフュージョンFDにまとめて蓄積してから出力すればよい。また、画素加算が行われる場合、増幅トランジスタAMPは加算する画素の数に応じて信号値のゲインを調整する。例えば、上記のように4画素を加算する場合、増幅トランジスタAMPは加算後の信号値を1/4倍する。 Further, when the signal values of the pixels PX1 to PX4 are read out separately, the first image sensor 13 may output the signal charges of the four photodiodes PD sequentially in a time division manner. On the other hand, when the pixels PX1 to PX4 are added and read out, the first image sensor 13 may accumulate the signal charges of the four photodiodes PD in the floating diffusion FD and output them. When pixel addition is performed, the amplification transistor AMP adjusts the gain of the signal value according to the number of pixels to be added. For example, when adding four pixels as described above, the amplification transistor AMP multiplies the signal value after the addition by ¼.
なお、画素PX1−PX4、PX5−PX8、PX9−PX12、PX13−PX16の4系統の出力は、第1撮像素子13内の画素加算回路にそれぞれ接続されている。この画素加算回路は、CPU22の指示に応じて、画素PX1−PX16の16画素分の信号値の加算を行う。
Note that the outputs of the four systems of pixels PX 1 -PX 4, PX 5 -PX 8, PX 9 -PX 12, and PX 13 -
図1に戻って、AFE14は、第1撮像素子13の出力に対してアナログ信号処理を施すアナログフロントエンド回路である。このAFE14は、相関二重サンプリングや、画像信号のゲインの調整や、画像信号のA/D変換を行う。そして、AFE14の出力は画像処理部15に接続されている。なお、CPU22は、AFE14により画像信号のゲインを調整することで、ISO感度に相当する撮像感度の調整を行う。
Returning to FIG. 1, the
画像処理部15は、デジタルの画像信号に対して各種の画像処理(色補間処理、階調変換処理、ホワイトバランス調整など)を施す。また、画像処理部15は、第1撮像素子13で画素加算を行って撮像画像を取得したときに、1フレームの撮像画像のうちで画素加算が行なわれた部分と画素加算が行われていない部分との間で解像度(画像サイズ)を調整する。
The
TG16は、CPU22の出力に基づいて、第1撮像素子13、AFE14、画像処理部15に対して、同期用の駆動信号をそれぞれ供給する。また、TG16は、画素加算を行うときに、第1撮像素子13のうちの部分領域の各画素に対して、画素加算での信号値の読み出しを指示する駆動信号を供給する。
The
フレームメモリ17は、画像処理部15に接続されたメモリであって、画像処理の前工程や後工程で画像のデータを一時的に記憶する。例えば、フレームメモリ17は、揮発性の記憶媒体であるSDRAMにより構成される。
The
記録I/F18は、不揮発性の記憶媒体24を接続するためのコネクタが形成されている。そして、記録I/F18は、コネクタに接続された記憶媒体24に対してデータの書き込み/読み込みを実行する。上記の記憶媒体24は、ハードディスクや、半導体メモリを内蔵したメモリカードなどで構成される。なお、図1では記憶媒体24の一例としてメモリカードを図示する。
The recording I /
第2撮像素子20は、撮像光学系11とは別個のレンズ19を通過した光束によって、第1撮像素子13の撮像範囲を含む被写体の像をカラーで撮像する測光用センサである。一の実施形態では、第2撮像素子20の解像度(画素数)は第1撮像素子13の解像度よりも低く設定されている。この第2撮像素子20は、第1撮像素子13の撮像範囲と被写体の輝度との対応関係を示す輝度分布情報を取得する。また、第2撮像素子20の出力は信号処理部21に接続されている。信号処理部21は、第2撮像素子20の出力に対して各種の信号処理とA/D変換とを行う。
The second
CPU22は、撮像装置の動作を統括的に制御するプロセッサである。このCPU22は、画素加算判別部25と、撮像条件調整部26と、CPU22での演算結果を記憶するワークメモリ27とを有している。
The
画素加算判別部25は、上記の輝度分布情報を用いて、第1撮像素子13の画素配列で画素加算を行う部分領域の位置を指定する。また、画素加算判別部25は、上記の輝度分布情報を用いて、画像処理部15による解像度の調整方法を決定する。
The pixel
撮像条件調整部26は、上記の輝度分布情報を用いて、第1撮像素子13で撮像画像を撮像するときの撮像条件を調整する。例えば、撮像条件調整部26は、輝度分布情報を用いて公知の自動露出(AE)演算を実行する。そして、撮像条件調整部26は、絞り12の絞り値、第1撮像素子13の電荷蓄積時間(シャッタ秒時)、AFE14のゲイン(撮像感度)をそれぞれ設定する。
The imaging
また、撮像条件調整部26は、輝度分布情報を用いてホワイトバランス演算を実行する。このとき、撮像条件調整部26は、被写体の各色成分における階調の平均値Rave,Gave,Baveに基づいてホワイトバランス調整値(Grd,Gbd)を求める。Rのレベルを補正するホワイトバランス調整値Grdは、Gave/Raveで求めることができる。また、Bのレベルを補正するホワイトバランス調整値Gbdは、Gave/Baveで求めることができる。なお、画像処理部15は、上記のホワイトバランス調整値(Grd,Gbd)を適用して、撮像画像のホワイトバランス調整を実行する。
In addition, the imaging
操作部23は、ユーザの操作を受け付ける複数のスイッチを有している。この操作部23は、例えば、撮像画像の取得指示を受け付けるレリーズ釦や、十字状のカーソルキーや、決定釦などで構成される。
The
次に、図4の流れ図を参照しつつ、一の実施形態における撮像装置の動作例を説明する。この図4の流れ図の処理は、レリーズ釦の押圧による撮像画像の取得指示をCPU22が受け付けたときに開始される。
Next, an operation example of the imaging apparatus according to the embodiment will be described with reference to the flowchart of FIG. The process of the flowchart of FIG. 4 is started when the
ステップS101:CPU22は、第2撮像素子20を駆動させて輝度分布情報を取得する。なお、輝度分布情報は、CPU22の制御によりワークメモリ27に記憶される。
Step S101: The
ステップS102:画素加算判別部25は、輝度分布情報(S101)に基づいて、第1撮像素子13の撮像範囲のうちで画素加算を行う部分領域の位置を示すアドレス情報を生成する。このとき、画素加算判別部25は、輝度分布情報の示す各位置の輝度値の大きさに注目する。そして、画素加算判別部25は、第1撮像素子13の撮像範囲のうちで被写体の輝度値が閾値以下となる箇所を上記の部分領域として指定する。
Step S102: The pixel
一例として、第1撮像素子13で撮像されるRAW画像の階調が12bit(0−4095)のとき、画素加算判別部25は、RAW画像の出力に換算したときに200LSB相当となる値を第1閾値とし、RAW画像の出力に換算したときに100LSB相当となる値を第2閾値とする。そして、画素加算判別部25は、第1撮像素子13の撮像範囲のうちで輝度値が第2閾値以下となる箇所を16画素分の画素加算を行う部分領域に指定する。また、画素加算判別部25は、第1撮像素子13の撮像範囲のうちで輝度値が第2閾値を上回るが第1閾値以下となる箇所を4画素分の画素加算を行う部分領域に指定する。
As an example, when the gradation of the RAW image captured by the first image sensor 13 is 12 bits (0-4095), the pixel
また、画素加算判別部25は、上記の部分領域の位置を示すアドレス情報を生成する。このアドレス情報は、CPU22の制御によりワークメモリ27に記憶される。なお、第1撮像素子13の撮像範囲全域で輝度値がいずれも第1閾値を上回る場合、画素加算判別部25は、アドレス情報を生成することなくS103に処理を移行させる。
In addition, the pixel
ここで、一の実施形態において低輝度部分で画素加算を行うのは、画像の低輝度部分ほどノイズが目立ちやすくなるためである。画素加算を行って信号値を平均化すればノイズの影響を低減できる。また、一の実施形態では、撮像素子の内部で画素加算を行うことでノイズの影響をより一層抑制することができる。 Here, the reason why pixel addition is performed in the low-luminance portion in one embodiment is that noise becomes more conspicuous in the low-luminance portion of the image. If the signal values are averaged by performing pixel addition, the influence of noise can be reduced. In one embodiment, the influence of noise can be further suppressed by performing pixel addition inside the image sensor.
図5(a)は、撮像素子内部で画素加算を行う場合を説明する模式図である。この例では、2画素分の出力を加算する例をそれぞれ説明する。図5(a)の例で、各画素で発生するノイズをNP1,NP2とし、ベースラインノイズをNBとし、アンプでのゲインをAとすると、トータルノイズN1は以下の式(1)で表すことができる。
FIG. 5A is a schematic diagram illustrating a case where pixel addition is performed inside the image sensor. In this example, an example in which outputs for two pixels are added will be described. Figure in example 5 (a), the noise generated in each pixel is N P1, N P2, the baseline noise and N B, when the gain of the amplifier and A, total noise N 1 is the following formula (1 ).
上記の式(1)において、簡単のため、NP1=NP2=NPとし、かつゲインAを1とし、2画素を加算した分を考慮して2で割ると、以下の式(2)のように整理できる。
In the above formula (1), for the sake of simplicity, when N P1 = N P2 = N P and the gain A is set to 1 and divided by 2 in consideration of the addition of two pixels, the following formula (2) Can be organized like
一方、図5(b)は、比較例として、撮像素子外部で画素加算を行う場合を説明する模式図である。図5(b)の例で、各画素で発生するノイズをNP1,NP2とし、各々のベースラインノイズをNB1,NB2とし、アンプでのゲインをAとすると、トータルノイズN2は以下の式(3)で表すことができる。
On the other hand, FIG. 5B is a schematic diagram illustrating a case where pixel addition is performed outside the imaging device as a comparative example. In the example of FIG. 5B, assuming that the noise generated in each pixel is N P1 and N P2 , the respective baseline noises are N B1 and N B2, and the gain at the amplifier is A, the total noise N 2 is It can be represented by the following formula (3).
上記の式(3)において、簡単のため、NP1=NP2=NP、NB1=NB2=NB、かつゲインAを1とし、2画素を加算した分を考慮して2で割ると、以下の式(4)のように整理できる。
In the above formula (3), for the sake of simplicity, N P1 = N P2 = N P , N B1 = N B2 = N B , and the gain A is set to 1, and the two pixels are added and divided by 2 And can be organized as the following equation (4).
式(2)のN1と式(4)のN2とを比較すると、式中の分子における平方根内のNB 2にかかる「2」の分だけ、式(4)で示したN2の値の方が大きくなる。このことから、撮像素子内部で画素加算を行うことで、撮像素子外部で画素加算を行う場合よりもノイズを低減できることが分かる。 Comparing the N 2 of formula (2) N 1 and equation (4) of, according to N B 2 in the square root in the numerator in the formula by "2" of the minute, the N 2 shown in equation (4) The value is larger. From this, it is understood that noise can be reduced by performing pixel addition inside the image sensor, compared to the case where pixel addition is performed outside the image sensor.
ステップS103:撮像条件調整部26は、輝度分布情報(S101)を用いて、第1撮像素子13で撮像画像を撮像するときの撮像条件(絞り値、シャッタ秒時など)を調整する。また、撮像条件調整部26は、輝度分布情報(S101)を用いてホワイトバランス調整値を求める。
Step S103: The imaging
ステップS104:画素加算判別部25は、ワークメモリ27のアドレス情報(S102)の有無に基づいて、画素加算を行う部分領域が指定されたか否かを判定する。アドレス情報が存在する場合には、画素加算判別部25はS104のYES側の判定を行って、S105に処理を移行させる。一方、アドレス情報が存在しない場合には、画素加算判別部25はS104のNO側の判定を行って、S107に処理を移行させる。
Step S104: The pixel
ステップS105:CPU22は、TG16を介して第1撮像素子13を駆動させて被写体の撮像処理を実行する。
Step S105: The
S105での画素加算判別部25は、撮像に先立ってTG16にアドレス情報(S102)を出力し、画素加算を行う部分領域の位置をTG16に指示する。そして、撮像時のTG16は、第1撮像素子13の部分領域の各画素に対して、画素加算での信号値の読み出しを指示する駆動信号を供給する。
The pixel
これにより、アドレス情報で指定された部分領域の画素の出力が局所的に加算された状態で、第1撮像素子13から撮像画像の画像信号が出力される。一例として、全画素読み出しでの撮像を行う場合、第1撮像素子13で画素加算が行われない部分では1画素につき1つの信号値が出力されるが、第1撮像素子13で画素加算を行う部分では4画素または16画素につき1つの信号値が出力されることとなる。 Accordingly, the image signal of the captured image is output from the first image sensor 13 in a state where the outputs of the pixels in the partial area designated by the address information are locally added. As an example, when imaging with all-pixel readout is performed, one signal value is output per pixel in a portion where pixel addition is not performed by the first image sensor 13, but pixel addition is performed by the first image sensor 13. In the portion, one signal value is output for every 4 pixels or 16 pixels.
なお、第1撮像素子13から出力された各画像信号は、AFE14および画像処理部15をパイプライン式に通過してフレームメモリ17にバッファリングされる。
Each image signal output from the first image sensor 13 passes through the
ステップS106:画像処理部15は、フレームメモリ17に記憶された1フレームの撮像画像について、画素加算が行なわれた部分と画素加算が行われていない部分との間で解像度の調整を行う。このとき、画像処理部15は、(イ)画素加算が行なわれた部分を拡大して画像の解像度を揃えてもよい(図6(a)参照)。また、画像処理部15は、(ロ)画素加算が行なわれていない部分を縮小して画像の解像度を揃えてもよい(図6(b)参照)。なお、1つの撮像画像において、16画素分の画素加算と4画素分の画素加算とがそれぞれ行われる場合、画像処理部15は、異なる画素数で画素加算が行われた部分の間でも解像度の調整を行うものとする。
Step S106: The
また、S106での解像度の調整を上記の(イ)、(ロ)のいずれの方法で行うかは、画素加算判別部25が輝度分布情報(S101)に基づいて決定する。一例として、画素加算判別部25は、輝度分布情報(S101)に基づいて、撮像範囲内の被写体の明るい部分と暗い部分との面積比を求める。上記の面積比で明るい部分が暗い部分よりも多くなる場合、画素加算判別部25は、画素加算された部分を拡大して画像の解像度を揃える指示を行う。一方、上記の面積比で暗い部分の方と明るい部分とが等しくなるか、あるいは暗い部分が明るい部分よりも多くなる場合には、画素加算判別部25は、画素加算されていない部分を縮小して画像の解像度を揃える指示を行う。
In addition, the pixel
そして、CPU22は、上記の処理後に、記録I/F18を介して記憶媒体24に撮像画像のデータを記録し、図4の一連の処理を終了する。
Then, after the above processing, the
ステップS107:CPU22は、TG16を介して第1撮像素子13を駆動させて被写体の撮像処理を実行する。このS108でのCPU22は、TG16を介して通常の信号読み出しを第1撮像素子13に指示する。そして、第1撮像素子13は、局所的な画素加算を行うことなく撮像画像の画像信号を出力する。なお、撮像画像のデータは、AFE14および画像処理部15で所定の処理が施された後に、記録I/F18を介して記憶媒体24に記録される。以上で、図4の流れ図の説明を終了する。
Step S107: The
一の実施形態での撮像装置は、第2撮像素子20から取得した輝度分布情報を用いて、被写体の輝度が閾値以下となる箇所を求める(S101、S102)。そして、撮像装置は、被写体の輝度が閾値以下となる箇所について、第1撮像素子13内で局所的に画素加算を行って撮像画像を取得する(S105、S106)。これにより、一の実施形態の撮像装置では、被写体の低輝度部分においてノイズの影響が抑制された撮像画像を取得できる。
The imaging apparatus according to the embodiment uses the luminance distribution information acquired from the
また、一の実施形態の撮像装置では、撮像画像を撮像する第1撮像素子13とは別個の第2撮像素子20によって輝度分布情報を取得する。そのため、一の実施形態の撮像装置では、第1撮像素子13を駆動させずに輝度分布情報を取得できるので、画素加算を伴う撮像をより迅速に行うことができる。
In the imaging device of one embodiment, luminance distribution information is acquired by the
また、一の実施形態の撮像装置では、第1撮像素子13の内部で局所的な画素加算を行うことにより、撮像画像の低輝度部分のノイズをより低減することができる。また、一の実施形態の撮像装置では、第1撮像素子13の内部で局所的な画素加算を行うことにより、撮像画像の読み出しを高速化することもできる。 In the imaging device of one embodiment, by performing local pixel addition inside the first imaging element 13, it is possible to further reduce noise in a low-luminance portion of the captured image. In the imaging device of one embodiment, reading of a captured image can be speeded up by performing local pixel addition inside the first imaging element 13.
<実施形態の補足事項>
(1)上記の一の実施形態では、撮像画像の取得指示に応じて輝度分布情報を取得する例を説明したが、例えば、撮像画像の取得指示に先立つAF動作時に輝度分布情報を取得してもよい。
<Supplementary items of the embodiment>
(1) In the above-described embodiment, the example in which the luminance distribution information is acquired according to the captured image acquisition instruction has been described. However, for example, the luminance distribution information is acquired during the AF operation prior to the captured image acquisition instruction. Also good.
(2)上記の一の実施形態では、撮像画像として静止画像を取得する例を説明したが、本発明の撮像装置は動画撮影を行うときにも、上記と同様に各フレームで局所的な画素加算を行ってもよい。 (2) In the above-described one embodiment, an example in which a still image is acquired as a captured image has been described. However, the image capturing apparatus of the present invention also performs local pixels in each frame in the same manner as described above when capturing a moving image. Addition may be performed.
(3)上記の一の実施形態における画素加算の構成はあくまで一例にすぎない。例えば、本発明の撮像装置は、第1撮像素子で4画素分の画素加算のみ行うようにしてもよい。また、本発明の第1撮像素子は、縦方向または横方向の2画素で画素加算を行うようにしてもよい(この場合の図示は省略する)。 (3) The configuration of pixel addition in the above one embodiment is merely an example. For example, the imaging apparatus of the present invention may perform only pixel addition for four pixels by the first imaging element. The first image sensor of the present invention may perform pixel addition with two pixels in the vertical direction or the horizontal direction (illustration is omitted in this case).
(4)上記の一の実施形態において、第2撮像素子の解像度は、第1撮像素子の解像度と同じであってもよい。 (4) In one embodiment described above, the resolution of the second image sensor may be the same as the resolution of the first image sensor.
以上の詳細な説明により、実施形態の特徴点および利点は明らかになるであろう。これは、特許請求の範囲が、その精神および権利範囲を逸脱しない範囲で前述のような実施形態の特徴点および利点にまで及ぶことを意図する。また、当該技術分野において通常の知識を有する者であれば、あらゆる改良および変更に容易に想到できるはずであり、発明性を有する実施形態の範囲を前述したものに限定する意図はなく、実施形態に開示された範囲に含まれる適当な改良物および均等物によることも可能である。 From the above detailed description, features and advantages of the embodiments will become apparent. It is intended that the scope of the claims extend to the features and advantages of the embodiments as described above without departing from the spirit and scope of the right. Further, any person having ordinary knowledge in the technical field should be able to easily come up with any improvements and modifications, and there is no intention to limit the scope of the embodiments having the invention to those described above. It is also possible to use appropriate improvements and equivalents within the scope disclosed in.
13…第1撮像素子、15…画像処理部、16…タイミングジェネレータ(TG)、20…第2撮像素子、22…CPU、25…画素加算判別部、26…撮像条件調整部 DESCRIPTION OF SYMBOLS 13 ... 1st image sensor, 15 ... Image processing part, 16 ... Timing generator (TG), 20 ... 2nd image sensor, 22 ... CPU, 25 ... Pixel addition discrimination | determination part, 26 ... Imaging condition adjustment part
Claims (7)
被写体を撮像して前記第1撮像素子の撮像範囲と前記被写体の輝度との対応関係を示す輝度分布情報を生成する第2撮像素子と、
前記輝度分布情報に基づいて前記第1撮像素子に配列された複数の前記画素のうち画素信号の加算を行う画素の位置を示す画素位置情報を生成する画素加算判別部と、
前記画素位置情報に基づいて指定された画素に対して画素信号の加算を行わせるための駆動信号を前記第1撮像素子に供給するタイミングジェネレータと、
前記第1撮像素子に配列された複数の前記画素のうち指定された画素から読み出された画素信号を加算して出力した場合、画素信号を加算して出力された信号により示される画像と画素信号を加算せずに出力された信号により示される画像とで解像度を調整する画像処理部と、を備え、
前記画素加算判別部は、前記輝度分布情報から前記第1撮像素子の撮像範囲内において被写体の明るい部分と被写体の暗い部分との面積比を求め、前記第1撮像素子の撮像範囲内において被写体の暗い部分よりも被写体の明るい部分が多い場合、画素信号を加算して出力された信号により示される画像を拡大するように前記画像処理部に対して指示を行い、前記第1撮像素子の撮像範囲内において被写体の明るい部分よりも被写体の暗い部分が多い場合、画素信号を加算せずに出力された信号により示される画像を縮小するように前記画像処理部に対して指示を行う
ことを特徴とする撮像装置。 A first imaging device that is an imaging device in which a plurality of pixels are arranged and is capable of adding and outputting a pixel signal read from a designated pixel among the plurality of pixels;
A second imaging element that images a subject and generates luminance distribution information indicating a correspondence relationship between the imaging range of the first imaging element and the luminance of the subject;
A pixel addition determining unit that generates pixel position information indicating a position of a pixel to which a pixel signal is added among the plurality of pixels arranged in the first image sensor based on the luminance distribution information;
A timing generator that supplies a drive signal for adding a pixel signal to a pixel designated based on the pixel position information to the first image sensor;
When a pixel signal read from a designated pixel among the plurality of pixels arranged in the first image sensor is added and output, an image and a pixel indicated by the signal output by adding the pixel signal An image processing unit that adjusts the resolution with the image indicated by the signal output without adding the signal,
The pixel addition determining unit obtains an area ratio between a bright part of the subject and a dark part of the subject within the imaging range of the first image sensor from the luminance distribution information, and the subject is within the imaging range of the first image sensor. When there are more bright parts of the subject than dark parts, the image processing unit is instructed to enlarge the image indicated by the signal output by adding the pixel signals, and the imaging range of the first image sensor When there are more dark parts of the subject than bright parts of the subject, the image processing unit is instructed to reduce the image indicated by the output signal without adding the pixel signal. An imaging device.
前記画素加算判別部は、前記第1撮像素子が撮像動作を行う前に前記輝度分布情報に基づいて前記第1撮像素子に配列された複数の前記画素のうち画素信号の加算を行う画素の数を設定することを特徴とする撮像装置。 The imaging device according to claim 1,
The pixel addition determination unit is configured to add a pixel signal among a plurality of the pixels arranged in the first image sensor based on the luminance distribution information before the first image sensor performs an imaging operation. An image pickup apparatus characterized by setting.
前記第2撮像素子の解像度は、前記第1撮像素子の解像度よりも低く設定されていることを特徴とする撮像装置。 In the imaging device according to claim 1 or 2,
The resolution of the second image sensor is set to be lower than the resolution of the first image sensor.
前記第2撮像素子で生成された前記輝度分布情報を用いて、前記第1撮像素子が撮像を行うときの撮像条件を調整する撮像条件調整部をさらに備えることを特徴とする撮像装置。 In the imaging device according to any one of claims 1 to 3,
An imaging apparatus, further comprising: an imaging condition adjustment unit that adjusts an imaging condition when the first imaging element performs imaging using the luminance distribution information generated by the second imaging element.
前記撮像素子の撮像範囲と被写体輝度との対応関係を示す輝度分布情報に基づいて複数の前記画素のうち画素信号の加算を行う画素の位置を示す画素位置情報を生成する画素加算判別部と、
前記画素位置情報に基づいて指定された画素に対して画素信号の加算を行わせるための駆動信号を前記撮像素子に供給するタイミングジェネレータと、
複数の前記画素のうち指定された画素から読み出された画素信号を加算して出力した場合、画素信号を加算して出力された信号により示される画像と画素信号を加算せずに出力された信号により示される画像とで解像度を調整する画像処理部と、を備え、
前記画素加算判別部は、前記輝度分布情報から前記撮像素子の撮像範囲内において被写体の明るい部分と被写体の暗い部分との面積比を求め、前記撮像素子の撮像範囲内において被写体の暗い部分よりも被写体の明るい部分が多い場合、画素信号を加算して出力された信号により示される画像を拡大するように前記画像処理部に対して指示を行い、前記撮像素子の撮像範囲内において被写体の明るい部分よりも被写体の暗い部分が多い場合、画素信号を加算せずに出力された信号により示される画像を縮小するように前記画像処理部に対して指示を行う
ことを特徴とする撮像装置。 An image sensor in which a plurality of pixels are arranged, and an image sensor capable of adding and outputting a pixel signal read from a designated pixel among the plurality of pixels,
A pixel addition determining unit that generates pixel position information indicating a position of a pixel to which a pixel signal is added among the plurality of pixels based on luminance distribution information indicating a correspondence relationship between an imaging range of the imaging element and subject luminance;
A timing generator that supplies a drive signal to the image sensor for adding a pixel signal to a pixel designated based on the pixel position information;
When the pixel signals read from the specified pixel among the plurality of pixels are added and output, the pixel signal is added and the image indicated by the output signal is output without adding the pixel signal An image processing unit that adjusts the resolution with the image indicated by the signal,
The pixel addition determination unit obtains an area ratio between a bright part of the subject and a dark part of the subject in the imaging range of the image sensor from the luminance distribution information, and is larger than a dark part of the subject in the imaging range of the image sensor. When there are many bright portions of the subject, the image processing unit is instructed to enlarge the image indicated by the signal output by adding the pixel signals, and the bright portion of the subject within the imaging range of the image sensor An image pickup apparatus that instructs the image processing unit to reduce an image indicated by an output signal without adding a pixel signal when there are more dark portions of the subject.
前記画素加算判別部は、前記撮像素子が撮像動作を行う前に輝度分布情報に基づいて複数の前記画素のうち画素信号の加算を行う画素の位置を示す画素位置情報を生成することを特徴とする撮像装置。 The imaging apparatus according to claim 5,
The pixel addition determination unit generates pixel position information indicating a position of a pixel to which a pixel signal is added among the plurality of pixels based on luminance distribution information before the imaging element performs an imaging operation. An imaging device.
前記輝度分布情報を用いて、前記撮像素子が撮像を行うときの撮像条件を調整する撮像条件調整部をさらに備えることを特徴とする撮像装置。
In the imaging device according to claim 5 or 6,
An imaging apparatus, further comprising: an imaging condition adjustment unit that adjusts an imaging condition when the imaging element performs imaging using the luminance distribution information.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014008767A JP5637326B2 (en) | 2014-01-21 | 2014-01-21 | Imaging device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014008767A JP5637326B2 (en) | 2014-01-21 | 2014-01-21 | Imaging device |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009096253A Division JP2010251855A (en) | 2009-04-10 | 2009-04-10 | Image pickup device |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2014068404A true JP2014068404A (en) | 2014-04-17 |
JP5637326B2 JP5637326B2 (en) | 2014-12-10 |
Family
ID=50744319
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014008767A Expired - Fee Related JP5637326B2 (en) | 2014-01-21 | 2014-01-21 | Imaging device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5637326B2 (en) |
-
2014
- 2014-01-21 JP JP2014008767A patent/JP5637326B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP5637326B2 (en) | 2014-12-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10110827B2 (en) | Imaging apparatus, signal processing method, and program | |
JP4773179B2 (en) | Imaging device | |
CN101753843B (en) | Image sensing apparatus and control method therefor | |
US9277113B2 (en) | Image pickup apparatus and driving method therefor | |
JP5946421B2 (en) | Imaging apparatus and control method thereof | |
JP6099904B2 (en) | Imaging device | |
US7633536B2 (en) | Image capturing apparatus | |
US9210333B2 (en) | Image capturing apparatus for generating composite image and control method thereof | |
CN109474781B (en) | Image pickup apparatus, control method for image pickup apparatus, and recording medium | |
JP2014219588A (en) | Imaging device and control method of the same | |
US8026965B2 (en) | Image pickup apparatus and method for controlling the same | |
JP5452269B2 (en) | Imaging device | |
JP6929106B2 (en) | Imaging device and control method of imaging device | |
JP2020092346A (en) | Imaging device and method of controlling the same | |
JP6594048B2 (en) | Imaging apparatus and control method thereof | |
JP5637326B2 (en) | Imaging device | |
JP2010251855A (en) | Image pickup device | |
JP2011009834A (en) | Imager and imaging method | |
JP5387167B2 (en) | Imaging device | |
JP5256888B2 (en) | Autofocus evaluation device, imaging device, autofocus evaluation method, and program | |
JP7329136B2 (en) | Imaging device | |
JP2020057882A (en) | Imaging apparatus | |
JP2016225848A (en) | Imaging device and control method for image pickup device | |
JP6389693B2 (en) | Imaging apparatus, control method therefor, program, and storage medium | |
JP5061697B2 (en) | Imaging apparatus and imaging method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20140121 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20140818 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20140924 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20141007 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5637326 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees | ||
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R360 | Written notification for declining of transfer of rights |
Free format text: JAPANESE INTERMEDIATE CODE: R360 |
|
R370 | Written measure of declining of transfer procedure |
Free format text: JAPANESE INTERMEDIATE CODE: R370 |