JP6809562B2 - Image sensor and image sensor - Google Patents

Image sensor and image sensor Download PDF

Info

Publication number
JP6809562B2
JP6809562B2 JP2019106430A JP2019106430A JP6809562B2 JP 6809562 B2 JP6809562 B2 JP 6809562B2 JP 2019106430 A JP2019106430 A JP 2019106430A JP 2019106430 A JP2019106430 A JP 2019106430A JP 6809562 B2 JP6809562 B2 JP 6809562B2
Authority
JP
Japan
Prior art keywords
photoelectric conversion
signal
unit
image
conversion unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019106430A
Other languages
Japanese (ja)
Other versions
JP2019195185A (en
Inventor
昭 和泉
昭 和泉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2019106430A priority Critical patent/JP6809562B2/en
Publication of JP2019195185A publication Critical patent/JP2019195185A/en
Application granted granted Critical
Publication of JP6809562B2 publication Critical patent/JP6809562B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、撮像素子および撮像装置に関する。 The present invention relates to an image pickup device and an image pickup apparatus.

マイクロレンズと第1および第2の光電変換部とを有する画素が2次元配列された撮像素子を備えたデジタルカメラが知られている(特許文献1)。このデジタルカメラは、第1および第2の光電変換部からの第1および第2の光電変換信号により位相差式の焦点検出を行うと共に、各画素の第1および第2の光電変換信号を加算して画像を生成する。位相差焦点検出は、異なった2方向に瞳分割された一対の像、例えば水平方向と垂直方向とに瞳分割された一対の像に基づく位相差焦点検出を可能にするために、撮像素子は、第1および第2の光電変換部が水平方向に並んだ第1の画素と、第1および第2の光電変換部が垂直方向に並んだ第2の画素とを有する。このような第1および第2の画素によって、縦縞パターンまたは横縞パターンをそれぞれ多く含む被写体パターンに対して、良好な位相差焦点検出を可能にしている。 A digital camera including an image sensor in which pixels having a microlens and first and second photoelectric conversion units are two-dimensionally arranged is known (Patent Document 1). This digital camera performs phase difference type focus detection by the first and second photoelectric conversion signals from the first and second photoelectric conversion units, and adds the first and second photoelectric conversion signals of each pixel. To generate an image. In order to enable phase difference focus detection based on a pair of images whose pupils are divided in two different directions, for example, a pair of images whose pupils are divided in the horizontal direction and the vertical direction, the image sensor is used. , The first pixel in which the first and second photoelectric conversion units are arranged in the horizontal direction and the second pixel in which the first and second photoelectric conversion units are arranged in the vertical direction are provided. Such first and second pixels enable good phase difference focus detection for a subject pattern containing a large number of vertical stripe patterns or horizontal stripe patterns.

特開2007−65330号公報JP-A-2007-65330

上述のデジタルカメラは、同一の被写体像を異なった方向に瞳分割することができないという問題がある。 The above-mentioned digital camera has a problem that the same subject image cannot be divided into pupils in different directions.

第1の態様によると、撮像素子は、第1の方向に配置され、光を光電変換して電荷を生成する第1の光電変換部および第2の光電変換部と、前記第1の方向とは異なる第2の方向に配置され、前記第1の光電変換部と前記第2の光電変換部とを透過した光を光電変換して電荷を生成する第3の光電変換部および第4の光電変換部と、前記第1の光電変換部で生成された電荷に基づく信号および前記第2の光電変換部で生成された電荷に基づく信号の少なくとも一方を出力する信号線と、前記第3の光電変換部で生成された電荷に基づく信号および前記第4の光電変換部で生成された電荷に基づく信号の少なくとも一方を出力する信号線と、を備える。 According to the first aspect, the image pickup element is arranged in the first direction, and has a first photoelectric conversion unit and a second photoelectric conversion unit that photoelectrically convert light to generate electric charges, and the first direction. Are arranged in different second directions, and the third photoelectric conversion unit and the fourth photoelectric conversion unit and the fourth photoelectric conversion unit generate electric charges by photoelectrically converting the light transmitted through the first photoelectric conversion unit and the second photoelectric conversion unit. A conversion unit, a signal line that outputs at least one of a charge-based signal generated by the first photoelectric conversion unit and a charge-based signal generated by the second photoelectric conversion unit, and the third photoelectric conversion unit. It includes a signal line that outputs at least one of a charge-based signal generated by the conversion unit and a charge-based signal generated by the fourth photoelectric conversion unit .

第1の実施の形態によるデジタルカメラの構成を例示する図である。It is a figure which illustrates the structure of the digital camera by 1st Embodiment. 第1および第2の撮像素子の概要を示す図である。It is a figure which shows the outline of the 1st and 2nd image pickup elements. (a)は第1の撮像素子の一部である10行×6列の画素の配置を示す図であり、(b)は第2の撮像素子の一部である10行×6列の画素の配置を示す図である。(A) is a diagram showing the arrangement of pixels of 10 rows × 6 columns which is a part of the first image sensor, and (b) is a pixel of 10 rows × 6 columns which is a part of the second image sensor. It is a figure which shows the arrangement of. 第1および第2の撮像素子の一画素の構成を示す断面図である。It is sectional drawing which shows the structure of one pixel of the 1st and 2nd image pickup elements. 第1の撮像素子の各画素の第1および第2の光電変換部の光電変換信号の読み出し回路を単純化して示した図である。It is a figure which showed the reading circuit of the photoelectric conversion signal of the 1st and 2nd photoelectric conversion part of each pixel of the 1st image sensor simplified. 第2の撮像素子の各画素の第1および第2の光電変換部の光電変換信号の読み出し回路を単純化して示した図である。It is a figure which showed the reading circuit of the photoelectric conversion signal of the 1st and 2nd photoelectric conversion part of each pixel of the 2nd image sensor simplified. 図1に示した焦点検出部の果たす機能を詳細に示したブロック図である。It is a block diagram which showed in detail the function performed by the focus detection part shown in FIG. 第1の焦点検出動作を表すフローチャートである。It is a flowchart which shows the 1st focus detection operation. 第1の実施の形態の変形例を示すブロック図である。It is a block diagram which shows the modification of the 1st Embodiment. 第1および第2の撮像素子の構成の変形例を示す断面図である。It is sectional drawing which shows the modification of the structure of the 1st and 2nd image pickup elements. 第1および第2の撮像素子の構成の変形例を示す断面図である。It is sectional drawing which shows the modification of the structure of the 1st and 2nd image pickup elements. 第1および第2の撮像素子の構成の変形例を示す断面図である。It is sectional drawing which shows the modification of the structure of the 1st and 2nd image pickup elements. 第1および第2の撮像素子の構成の変形例を示す断面図である。It is sectional drawing which shows the modification of the structure of the 1st and 2nd image pickup elements. 第1の実施の形態の変形例を示すブロック図である。It is a block diagram which shows the modification of the 1st Embodiment. (a)は第1の撮像素子の画素の変形例を示す図であり、(b)は第2の撮像素子の画素の変形例を示す図である。(A) is a diagram showing a deformation example of the pixel of the first image sensor, and (b) is a diagram showing a deformation example of the pixel of the second image sensor. (a)は第1および第2の撮像素子の画素の変形例を示す図であり、(b)は第1および第2の撮像素子の画素の別の変形例を示す図である。(A) is a diagram showing a modification of the pixels of the first and second image sensors, and (b) is a diagram showing another modification of the pixels of the first and second image sensors. 第2の実施の形態の基本的な考え方を説明する図であり、(a)は第1の撮像素子の画素を示す図であり、(b)は第2の撮像素子の画素を示す図であり、(c)は第1および第2の撮像素子の対応関係にある画素を重ね合わせた図である。It is a figure explaining the basic idea of the 2nd Embodiment, (a) is a figure which shows the pixel of the 1st image sensor, (b) is the figure which shows the pixel of the 2nd image sensor. Yes, (c) is a diagram in which the corresponding pixels of the first and second image pickup elements are superimposed. 第2の実施の形態による第1および第2の撮像素子に関する対応関係の画素の第1および第2の光電変換信号の合成方法を示す図であり、(a)は第1の撮像素子の一部の画素を示す図であり、(b)はRGB画像信号と第1の撮像素子の画素との関係を示す図であり、(c)は第2の撮像素子の一部の画素を示す図であり、(d)は第1および第2の撮像素子の対応関係にある画素を重ねて表示し、重ねられた画素と加算信号との関係を模式的に示した図である。It is a figure which shows the synthesis method of the 1st and 2nd photoelectric conversion signals of the corresponding pixel about the 1st and 2nd image sensor by 2nd Embodiment, (a) is one of the 1st image sensor. It is a figure which shows the pixel of a part, (b) is the figure which shows the relationship between the RGB image signal and the pixel of the 1st image sensor, (c) is the figure which shows a part pixel of the 2nd image sensor. (D) is a diagram in which the corresponding pixels of the first and second image pickup elements are displayed in an overlapping manner, and the relationship between the overlapped pixels and the addition signal is schematically shown. 第3の実施の形態の原理を説明するための図であり、(a)は静止している被写体を撮像して得られた画像であり、(b)は矢印方向に移動する被写体を第1の撮像素子によって撮像して得られた画像であり、(c)は矢印方向に移動する被写体を第1の撮像素子によって撮像して得られた画像であり、(d)は矢印方向に移動する被写体を第2の撮像素子によって撮像して得られた画像であり、(e)は矢印方向に移動する被写体を第2の撮像素子によって撮像して得られた画像である。It is a figure for demonstrating the principle of the 3rd Embodiment, (a) is an image obtained by imaging a stationary subject, (b) is a subject moving in the direction of an arrow, the 1st. (C) is an image obtained by capturing an image of a subject moving in the arrow direction by the first image sensor, and (d) is an image obtained by capturing the image in the direction of the arrow. It is an image obtained by imaging a subject by a second image sensor, and (e) is an image obtained by imaging a subject moving in the direction of an arrow by a second image sensor. 第3の実施の形態のブロック図である。It is a block diagram of a third embodiment.

(第1の実施の形態)
図1は、第1の実施の形態によるデジタルカメラ1の構成を例示する図である。デジタルカメラ1は、撮影光学系10、撮像部11、制御部12、操作部13、画像処理部14、液晶やELなどのディスプレー、すなわちモニタ15、バッファメモリ16を有する。また、デジタルカメラ1には、メモリカード17が装着されている。メモリカード17は、不揮発性のフラッシュメモリなどから構成され、デジタルカメラ1に対して着脱可能である。
(First Embodiment)
FIG. 1 is a diagram illustrating the configuration of the digital camera 1 according to the first embodiment. The digital camera 1 has a photographing optical system 10, an imaging unit 11, a control unit 12, an operation unit 13, an image processing unit 14, a display such as a liquid crystal display or an EL, that is, a monitor 15, and a buffer memory 16. A memory card 17 is attached to the digital camera 1. The memory card 17 is composed of a non-volatile flash memory or the like, and is removable from the digital camera 1.

撮影光学系10は、複数のレンズにより構成され、撮像部11の撮像面に被写体像を結像させる。撮影光学系10を構成する複数のレンズには、焦点調節のために光軸方向に駆動されるフォーカスレンズが含まれる。フォーカスレンズは、不図示のレンズ駆動部により光軸方向に駆動される。 The photographing optical system 10 is composed of a plurality of lenses, and forms a subject image on the imaging surface of the imaging unit 11. The plurality of lenses constituting the photographing optical system 10 include a focus lens driven in the optical axis direction for focus adjustment. The focus lens is driven in the optical axis direction by a lens driving unit (not shown).

撮像部11は、互いに積層された第1および第2の撮像素子21,22と、増幅回路23と、AD変換回路24とを有する。第1および第2の撮像素子21,22の各々は、2次元状に配列された複数の画素から構成され、入射光、すなわち、撮影光学系10を介して被写体からの可視光の光束を受光し、光電変換を行って光電変換信号を出力する。第1および第2の撮像素子21,22の各画素は、後に詳述するように、撮影光学系10の瞳の一対の領域を通過した一対の光束をそれぞれ受光する第1および第2の光電変換部を有し、各画素の第1および第2の光電変換部は、それぞれアナログの第1および第2の光電変換信号を出力する。これらの第1および第2の光電変換信号は、後述するように位相差式焦点検出用の信号として使用されると共に、画像用信号として使用される。
増幅回路23は、第1および第2の光電変換信号を所定の増幅率(ゲイン)で増幅してAD変換回路24に出力する。AD変換回路24は、第1および第2の光電変換信号をAD変換する。
The image pickup unit 11 has first and second image pickup elements 21 and 22 stacked on each other, an amplifier circuit 23, and an AD conversion circuit 24. Each of the first and second image pickup elements 21 and 22 is composed of a plurality of pixels arranged in a two-dimensional manner, and receives incident light, that is, a luminous flux of visible light from a subject via a photographing optical system 10. Then, photoelectric conversion is performed and a photoelectric conversion signal is output. As will be described in detail later, each pixel of the first and second image pickup elements 21 and 22 receives a pair of light fluxes that have passed through a pair of pupil regions of the photographing optical system 10, respectively, and the first and second photoelectrics It has a conversion unit, and the first and second photoelectric conversion units of each pixel output analog first and second photoelectric conversion signals, respectively. These first and second photoelectric conversion signals are used as signals for phase difference type focus detection and as image signals as described later.
The amplifier circuit 23 amplifies the first and second photoelectric conversion signals at a predetermined amplification factor (gain) and outputs them to the AD conversion circuit 24. The AD conversion circuit 24 AD-converts the first and second photoelectric conversion signals.

制御部12は、マイクロプロセッサおよびその周辺回路から構成され、不図示のROMに格納された制御プログラムを実行することにより、デジタルカメラ1の各種の制御を行う。また、制御部12は、焦点検出部12aと画像生成部12bと焦点検出エリア設定部12cを機能的に有する。これらの各機能部12a、12b、12cは、上記の制御プログラムによりソフトウェア的に実装される。なお、これらの各機能部を電子回路により構成することも可能である。 The control unit 12 is composed of a microprocessor and its peripheral circuits, and performs various controls of the digital camera 1 by executing a control program stored in a ROM (not shown). Further, the control unit 12 functionally includes a focus detection unit 12a, an image generation unit 12b, and a focus detection area setting unit 12c. Each of these functional units 12a, 12b, and 12c is implemented by software by the above control program. It is also possible to configure each of these functional units with an electronic circuit.

制御部12は、AD変換回路24によってAD変換された第1および第2の光電変換信号をバッファメモリ16に格納する。焦点検出部12aは、バッファメモリ16に格納された第1の撮像素子21の第1および第2の光電変換信号に基づき、およびバッファメモリ16に格納された第2の撮像素子22の第1および第2の光電変換信号に基づき、それぞれ撮影光学系10の焦点調節状態を検出する。
画像生成部12bは、バッファメモリ16に格納された第1および第2の撮像素子21,22の各々の第1および第2の光電変換信号に基づき画像信号を生成する。すなわち、画像生成部12bは、第1の撮像素子21の各画素の第1および第2の光電変換信号を加算して第1の画像信号を生成すると共に、第2の撮像素子22の各画素の第1および第2の光電変換信号を加算して第2の画像信号を生成する。
The control unit 12 stores the first and second photoelectric conversion signals AD-converted by the AD conversion circuit 24 in the buffer memory 16. The focus detection unit 12a is based on the first and second photoelectric conversion signals of the first image sensor 21 stored in the buffer memory 16, and the first and second image sensors 22 of the second image sensor 22 stored in the buffer memory 16. Based on the second photoelectric conversion signal, the focus adjustment state of the photographing optical system 10 is detected respectively.
The image generation unit 12b generates an image signal based on the first and second photoelectric conversion signals of the first and second image pickup devices 21 and 22 stored in the buffer memory 16. That is, the image generation unit 12b adds the first and second photoelectric conversion signals of each pixel of the first image sensor 21 to generate the first image signal, and each pixel of the second image sensor 22. The first and second photoelectric conversion signals of the above are added to generate a second image signal.

画像処理部14は、ASIC等により構成されている。画像処理部14は、画像生成部12bからの第1および第2の画像信号に対して、補間処理、圧縮処理、ホワイトバランス処理などの各種の画像処理を行って第1および第2の画像データを生成する。これらの第1および第2の画像データは、モニタ15に表示されたり、メモリカード17に格納されたりする。 The image processing unit 14 is composed of an ASIC or the like. The image processing unit 14 performs various image processing such as interpolation processing, compression processing, and white balance processing on the first and second image signals from the image generation unit 12b to perform the first and second image data. To generate. These first and second image data are displayed on the monitor 15 or stored in the memory card 17.

操作部13は、レリーズ操作部材やモード切り替え操作部材や焦点検出エリア設定用の操作部材や電源操作部材などの各種の操作部材から構成され、撮影者により操作される。操作部13は、撮影者による上記の各操作部材の操作に応じた操作信号を制御部12へ出力する。
焦点検出エリア設定部12cは、焦点検出エリア設定用の操作部材の操作に応じて、撮影画面内に所定の領域の焦点検出エリアを設定する。焦点検出エリア設定部12cと焦点検出エリア設定用の操作部材とによる焦点検出エリアの設定方法は、以下に詳述するように種々の方法がある。例えば、撮影者が焦点検出エリア設定用の操作部材を操作すると、焦点検出エリア設定部12cが焦点検出エリア設定用の操作部材の操作に応じた撮影画面の任意の位置に所定の領域の焦点検出エリアを設定する。または、撮影画面の複数個所に予め焦点検出エリアを用意しておき、撮影者が焦点検出エリア設定用の操作部材を操作してその複数の焦点検出エリアから一つの焦点検出エリアを選択すると、焦点検出エリア設定部12cがその選択に応じて焦点検出エリアを設定する。更には、デジタルカメラ1が被写体人物の顔などを撮像画像から認識する被写体認識部を備える場合には、被写体認識部によって被写体人物の顔を認識すると、焦点検出エリア設定部12cがその顔部分に焦点検出エリアを設定することもできる。この場合には、焦点検出エリア設定用の操作部材は、被写体認識部による被写体人物の顔の認識結果によって自動的に焦点検出エリアを設定するモードを選択するための操作部材となる。なお、焦点検出エリア設定部12cが上述のように焦点検出対象領域として設定した焦点検出エリアを設定焦点検出エリアと称する。
The operation unit 13 is composed of various operation members such as a release operation member, a mode switching operation member, a focus detection area setting operation member, and a power supply operation member, and is operated by the photographer. The operation unit 13 outputs an operation signal corresponding to the operation of each of the above operation members by the photographer to the control unit 12.
The focus detection area setting unit 12c sets the focus detection area of a predetermined area in the shooting screen according to the operation of the operation member for setting the focus detection area. There are various methods for setting the focus detection area by the focus detection area setting unit 12c and the operating member for setting the focus detection area, as described in detail below. For example, when the photographer operates the operation member for setting the focus detection area, the focus detection area setting unit 12c detects the focus of a predetermined area at an arbitrary position on the shooting screen according to the operation of the operation member for setting the focus detection area. Set the area. Alternatively, if focus detection areas are prepared in advance at a plurality of locations on the shooting screen and the photographer operates an operation member for setting the focus detection area to select one focus detection area from the plurality of focus detection areas, the focus is set. The detection area setting unit 12c sets the focus detection area according to the selection. Further, when the digital camera 1 is provided with a subject recognition unit that recognizes the face of the subject person from the captured image, when the subject recognition unit recognizes the face of the subject person, the focus detection area setting unit 12c is applied to the face portion. You can also set the focus detection area. In this case, the operation member for setting the focus detection area is an operation member for selecting a mode for automatically setting the focus detection area according to the recognition result of the face of the subject person by the subject recognition unit. The focus detection area set by the focus detection area setting unit 12c as the focus detection target area as described above is referred to as a set focus detection area.

(第1および第2の撮像素子21,22の説明)
図2は、本実施形態に係る第1および第2の撮像素子21,22の概要を示す図である。第1の撮像素子21は、有機光電膜を光電変換部とする撮像素子であり、第2の撮像素子22は、半導体基板に形成されたフォトダイオードを光電変換部とする撮像素子である。第1の撮像素子21は、第2の撮像素子22に積層され、第1および第2の撮像素子21,22は、図1に示した撮影光学系10の光軸が第1および第2の撮像素子21,22の各々の撮像面の中心を通るように、撮影光学系10の光路中に配置されている。なお、第1および第2の撮像素子21,22は、図2では、図の複雑化を避けるために4行×3列の画素210,220のみが示されているが、本第1の実施の形態では、共に、m行×n列の画素が配列され、第1の撮像素子21の各画素と第2の撮像素子22の各画素とは、共に同一サイズである。
(Explanation of First and Second Image Sensors 21 and 22)
FIG. 2 is a diagram showing an outline of the first and second image pickup devices 21 and 22 according to the present embodiment. The first image sensor 21 is an image sensor having an organic photoelectric film as a photoelectric conversion unit, and the second image sensor 22 is an image sensor having a photodiode formed on a semiconductor substrate as a photoelectric conversion unit. The first image sensor 21 is laminated on the second image sensor 22, and the first and second image sensors 21 and 22 have the optical axes of the photographing optical system 10 shown in FIG. 1 having the first and second optical axes. It is arranged in the optical path of the photographing optical system 10 so as to pass through the center of each image pickup surface of the image pickup elements 21 and 22. Although the first and second image pickup elements 21 and 22 show only the pixels 210 and 220 in 4 rows × 3 columns in FIG. 2 in order to avoid complication of the figure, the first embodiment of the present invention is performed. In the above embodiment, pixels of m rows × n columns are arranged, and each pixel of the first image sensor 21 and each pixel of the second image sensor 22 have the same size.

第1の撮像素子21の各画素210は、所定の色成分の光を吸収(光電変換)する有機光電膜を有する。第1の撮像素子21で吸収(光電変換)されなかった色成分の光は、第1の撮像素子21を透過して第2の撮像素子22に入射し、第2の撮像素子22で光電変換される。なお、第1の撮像素子21で光電変換される色成分と、第2の撮像素子22で光電変換される色成分とは、補色関係である。すなわち、後述するように、第1の撮像素子21の画素210のうち、マゼンタの色成分を吸収し光電変換する画素の真後ろに位置する第2の撮像素子22の画素220には、マゼンタと補色関係にある緑の色成分の光が入射する。第1の撮像素子21の画素210のうち、イエローの色成分を吸収し光電変換する画素の真後ろに位置する第2の撮像素子22の画素220には、イエローと補色関係にある青の色成分の光が入射する。第1の撮像素子21の画素210のうち、シアンの色成分を吸収し光電変換する画素の真後ろに位置する第2の撮像素子22の画素220には、シアンと補色関係にある赤の色成分の光が入射する。
このように、第1の撮像素子21の各画素210は、当該画素210の真後ろに位置する第2の撮像素子22の画素220と対応関係にあり、すなわち、第1の撮像素子21の各画素210は、自身を通過した光束を受光する第2の撮像素子22の画素220と対応関係にあり、このような対応関係にある第1および第2の撮像素子21,22の画素210,220は、互いに補色関係の色成分を吸収して光電変換する。このような互いに対応関係にある第1および第2の撮像素子21,22の画素210,220を対応関係の画素と称する。
Each pixel 210 of the first image sensor 21 has an organic photoelectric film that absorbs (photoelectrically converts) light of a predetermined color component. Light of a color component that is not absorbed (photoelectrically converted) by the first image sensor 21 passes through the first image sensor 21 and is incident on the second image sensor 22, and is photoelectrically converted by the second image sensor 22. Will be done. The color component photoelectrically converted by the first image pickup element 21 and the color component photoelectrically converted by the second image pickup element 22 have a complementary color relationship. That is, as will be described later, among the pixels 210 of the first image sensor 21, the pixels 220 of the second image sensor 22 located directly behind the pixels that absorb the color component of magenta and perform photoelectric conversion have complementary colors with magenta. The light of the related green color component is incident. Of the pixels 210 of the first image sensor 21, the pixel 220 of the second image sensor 22 located directly behind the pixel that absorbs and photoelectrically converts the yellow color component has a blue color component that has a complementary color relationship with yellow. Light is incident. Of the pixels 210 of the first image sensor 21, the pixel 220 of the second image sensor 22 located directly behind the pixel that absorbs and photoelectrically converts the cyan color component has a red color component that has a complementary color relationship with cyan. Light is incident.
As described above, each pixel 210 of the first image sensor 21 has a corresponding relationship with the pixel 220 of the second image sensor 22 located directly behind the pixel 210, that is, each pixel of the first image sensor 21. The 210 has a correspondence relationship with the pixel 220 of the second image sensor 22 that receives the light beam passing through itself, and the pixels 210 and 220 of the first and second image pickup elements 21 and 22 having such a correspondence relationship have. , Absorbs color components that are complementary to each other and performs photoelectric conversion. The pixels 210 and 220 of the first and second image pickup devices 21 and 22 that are in a corresponding relationship with each other are referred to as the corresponding pixels.

図3は、第1の撮像素子21の一部である10行×6列の画素210の配置と、第2の撮像素子22の一部である10行×6列の画素220の配置と、をそれぞれ示す図である。図3(a)において、第1の撮像素子21について、画素210に付された「Mg」は、その画素がマゼンタの色成分を吸収し光電変換する画素、すなわち、マゼンタの分光感度を有する画素を示し、同様に、画素210に付された「Ye」は、その画素がイエローの色成分を吸収し光電変換する画素、すなわち、イエローの分光感度を有する画素を示し、画素210に付された「Cy」は、その画素がシアンの色成分を吸収し光電変換する画素、すなわち、シアンの分光感度を有する画素を示す。第1の撮像素子21は、奇数行の画素列では、「Mg」画素210と「Ye」画素210が交互に配列され、偶数行の画素列では、「Cy」画素210と「Mg」画素210とが交互に配列されている。
なお、「Mg」画素210は、一般には、マゼンタの色成分をそれぞれ100%吸収することはできず、「Ye」画素210は、一般には、イエローの色成分をそれぞれ100%吸収することはできず、「Cy」画素210は、一般には、シアンの色成分をそれぞれ100%吸収することはできず、それらの色成分の一部が画素を通過してしまうものである。
FIG. 3 shows an arrangement of 10 rows × 6 columns of pixels 210 which is a part of the first image sensor 21, and an arrangement of 10 rows × 6 columns of pixels 220 which is a part of the second image sensor 22. It is a figure which shows each. In FIG. 3A, with respect to the first image pickup element 21, the “Mg” attached to the pixel 210 is a pixel in which the pixel absorbs the color component of magenta and performs photoelectric conversion, that is, a pixel having spectral sensitivity of magenta. Similarly, "Ye" attached to the pixel 210 indicates a pixel in which the pixel absorbs the color component of yellow and performs photoelectric conversion, that is, a pixel having a spectral sensitivity of yellow, and is attached to the pixel 210. “Cy” indicates a pixel in which the pixel absorbs a color component of cyan and performs photoelectric conversion, that is, a pixel having a spectral sensitivity of cyan. In the first imaging element 21, "Mg" pixels 210 and "Ye" pixels 210 are alternately arranged in the odd-numbered row of pixel columns, and "Cy" pixel 210 and "Mg" pixel 210 in the even-numbered row of pixel columns. And are arranged alternately.
In general, the "Mg" pixel 210 cannot absorb 100% of each magenta color component, and the "Ye" pixel 210 can generally absorb 100% of each yellow color component. However, in general, the "Cy" pixel 210 cannot absorb 100% of each of the cyan color components, and a part of those color components passes through the pixel.

図3(b)において、第2の撮像素子22について、画素220に付された「G」は、その画素が緑の色成分を吸収し光電変換する画素、すなわち、緑の分光感度を有する画素を示し、同様に、画素220に付された「B」は、その画素が青の色成分を吸収し光電変換する画素、すなわち、青の分光感度を有する画素を示し、画素220に付された「R」は、その画素が赤の色成分を吸収し光電変換する画素、すなわち、赤の分光感度を有する画素を示す。第2の撮像素子22は、奇数行の画素列では、「G」画素220と「B」画素220が交互に配列され、偶数行の画素列では、「R」画素220と「G」画素220とが交互に配列されている。すなわち、第2の撮像素子22は、画素がベイヤ配列されている。
図3(a)および(b)において、第1の撮像素子21の「Mg」画素210と第2の撮像素子22の「G」画素220とは、対応関係にあり、第1の撮像素子21の「Ye」画素210と第2の撮像素子22の「B」画素220とは、対応関係にあり、第1の撮像素子21の「Cy」画素210と第2の撮像素子22の「R」画素220とは、対応関係にある。
In FIG. 3B, with respect to the second image pickup element 22, the “G” attached to the pixel 220 is a pixel in which the pixel absorbs a green color component and performs photoelectric conversion, that is, a pixel having a green spectral sensitivity. Similarly, "B" attached to the pixel 220 indicates a pixel in which the pixel absorbs a blue color component and photoelectrically converts it, that is, a pixel having a blue spectral sensitivity, and is attached to the pixel 220. “R” indicates a pixel in which the pixel absorbs a red color component and performs photoelectric conversion, that is, a pixel having a red spectral sensitivity. In the second imaging element 22, "G" pixels 220 and "B" pixels 220 are alternately arranged in the odd-numbered rows of pixels, and "R" pixels 220 and "G" pixels 220 are arranged alternately in the even-numbered rows of pixels. And are arranged alternately. That is, the pixels of the second image sensor 22 are arranged in a Bayer array.
In FIGS. 3A and 3B, the “Mg” pixel 210 of the first image sensor 21 and the “G” pixel 220 of the second image sensor 22 are in a corresponding relationship, and the first image sensor 21 The “Ye” pixel 210 and the “B” pixel 220 of the second image sensor 22 are in a corresponding relationship, and the “Cy” pixel 210 of the first image sensor 21 and the “R” of the second image sensor 22 There is a correspondence relationship with the pixel 220.

このように、有機光電膜で構成される第1の撮像素子21が第2の撮像素子22に対してカラーフィルターの役割を果たし、第2の撮像素子22から第1の撮像素子21の補色画像(図3の例ではベイヤー配列の画像)が得られる。したがって、第1の撮像素子21からはCy,Mg,Yeの3色からなるCMY画像を取得することができ、第2の撮像素子22からはR,G,Bの3色からなるRGB画像を取得することができる。このように、第1の撮像素子21が従来の撮像素子で必要であったカラーフィルターの代わりとなるため、カラーフィルターで吸収されてしまっていた入射光を第1の撮像素子21により有効に利用することができる。なお、第1の撮像素子21のCMY画像は、後に詳述するように公知の表色系変換処理によってRGB画像に変換されて、第1の画像信号になる。 As described above, the first image sensor 21 composed of the organic photoelectric film acts as a color filter for the second image sensor 22, and the complementary color images of the second image sensor 22 to the first image sensor 21. (In the example of FIG. 3, an image of the Bayer arrangement) is obtained. Therefore, a CMY image composed of three colors of Cy, Mg, and Ye can be acquired from the first image sensor 21, and an RGB image composed of three colors of R, G, and B can be obtained from the second image sensor 22. Can be obtained. In this way, since the first image sensor 21 replaces the color filter required in the conventional image sensor, the incident light absorbed by the color filter is effectively used by the first image sensor 21. can do. The CMY image of the first image sensor 21 is converted into an RGB image by a known color system conversion process as described in detail later to become a first image signal.

次に、第1の撮像素子21の各画素210の第1および第2の光電変換部と、第2の撮像素子22の各画素220の第1および第2の光電変換部との位置関係を説明する。図3(a)において、第1の撮像素子21の各画素210は、第1および第2の光電変換部210aおよび210bを有する。これらの第1および第2の光電変換部210aと210bは、列方向、すなわち図3(a)で上下方向に配列されている。また、図3(b)において、第2の撮像素子22の各画素220は、第1および第2の光電変換部220aおよび220bを有する。これらの第1および第2の光電変換部220aと220bは、行方向、すなわち図3(b)で左右方向に配列されている。以上のように、第1の撮像素子21の各画素210の第1および第2の光電変換部210a,210bと、第2の撮像素子22の各画素220の第1および第2の光電変換部220a,220bとは、互いに直交するように配列されている。 Next, the positional relationship between the first and second photoelectric conversion units of each pixel 210 of the first image sensor 21 and the first and second photoelectric conversion units of each pixel 220 of the second image sensor 22 is determined. explain. In FIG. 3A, each pixel 210 of the first image sensor 21 has first and second photoelectric conversion units 210a and 210b. These first and second photoelectric conversion units 210a and 210b are arranged in the column direction, that is, in the vertical direction in FIG. 3A. Further, in FIG. 3B, each pixel 220 of the second image sensor 22 has first and second photoelectric conversion units 220a and 220b. These first and second photoelectric conversion units 220a and 220b are arranged in the row direction, that is, in the left-right direction in FIG. 3B. As described above, the first and second photoelectric conversion units 210a and 210b of each pixel 210 of the first image sensor 21 and the first and second photoelectric conversion units of each pixel 220 of the second image sensor 22 The 220a and 220b are arranged so as to be orthogonal to each other.

また、第1の撮像素子21は、後述するように、画素210の第1および第2の光電変換部210a,210bからの第1および第2の光電変換信号が列単位で読み出される。すなわち、第1の撮像素子21は例えば、左端の列に位置する10個の画素210の第1および第2の光電変換信号が同時に読み出され、次いで、左端の右隣の列に位置する10個の画素210の第1および第2の光電変換信号が同時に読み出され、以下同様に、順次右隣に位置する列の10個の画素210の第1および第2の光電変換信号が読み出される。 Further, in the first image sensor 21, as will be described later, the first and second photoelectric conversion signals from the first and second photoelectric conversion units 210a and 210b of the pixel 210 are read out in column units. That is, for example, the first image sensor 21 simultaneously reads the first and second photoelectric conversion signals of the 10 pixels 210 located in the leftmost row, and then 10 located in the leftmost right adjacent row. The first and second photoelectric conversion signals of the pixels 210 are read out at the same time, and similarly, the first and second photoelectric conversion signals of the ten pixels 210 in the column located on the right side are read out in the same manner. ..

他方、第2の撮像素子22は、画素220の第1および第2の光電変換部220a,220bからの第1および第2の光電変換信号が行単位で読み出される。すなわち、第2の撮像素子22は例えば、上端の行に位置する6個の画素220の第1および第2の光電変換信号が同時に読み出され、次いで、その下の行に位置する6個の画素220の第1および第2の光電変換信号が同時に読み出され、以下同様に、順次各行の6個の画素220の第1および第2の光電変換信号が読み出される。
なお、第1の撮像素子21の各画素210の回路例は、たとえば、国際公開第2013/105481号公報に開示されている。
On the other hand, in the second image sensor 22, the first and second photoelectric conversion signals from the first and second photoelectric conversion units 220a and 220b of the pixel 220 are read out in units of rows. That is, for example, the second image sensor 22 simultaneously reads the first and second photoelectric conversion signals of the six pixels 220 located in the uppermost row, and then six six pixels located in the lower row. The first and second photoelectric conversion signals of the pixel 220 are read out at the same time, and similarly, the first and second photoelectric conversion signals of the six pixels 220 in each row are sequentially read out.
A circuit example of each pixel 210 of the first image sensor 21 is disclosed in, for example, International Publication No. 2013/105481.

図4は、第1および第2の撮像素子21,22の一画素210,220の構成を示す断面図である。図4に示すように、第2の撮像素子22は、半導体基板50に形成され、各画素220は、紙面に垂直方向に配列された第1および第2の光電変換部220a,220bを有する。第2の撮像素子22の表面、すなわち、上面には平坦化層55を介して第1の撮像素子21が積層されている。この平坦化層55内には、配線層51が形成されている。なお、図4では、配線層51は3層構造になっているが2層構造であってもよい。 FIG. 4 is a cross-sectional view showing the configuration of one pixel 210, 220 of the first and second image pickup devices 21 and 22. As shown in FIG. 4, the second image sensor 22 is formed on the semiconductor substrate 50, and each pixel 220 has first and second photoelectric conversion units 220a and 220b arranged in the direction perpendicular to the paper surface. The first image sensor 21 is laminated on the surface of the second image sensor 22, that is, on the upper surface via the flattening layer 55. A wiring layer 51 is formed in the flattening layer 55. Although the wiring layer 51 has a three-layer structure in FIG. 4, it may have a two-layer structure.

第1の撮像素子21の各画素210は、有機光電膜230と、有機光電膜230の上面に形成された透明な共通電極231と、有機光電膜230の下面に形成された透明な第1および第2の部分電極232a,232bとを有する。第1および第2の部分電極232a,232bは、上述のように、紙面で左右方向、すなわち、第2の撮像素子22の第1および第2の光電変換部220a,220bの配列方向と直交する方向に配列されている。第1の撮像素子21の各画素210は、有機光電膜230と共通電極231と第1の部分電極232aとが第1の光電変換部210aを構成し、有機光電膜230と共通電極231と第2の部分電極232bとが第2の光電変換部210bを構成する。
また、第1の撮像素子21の各画素210の上方には、それぞれマイクロレンズ233が配置され、各マイクロレンズ233と第1の撮像素子21の各画素210と第2の撮像素子22の各画素220とはマイクロレンズ233の光軸方向に、整列配置されている。
Each pixel 210 of the first image sensor 21 has an organic photoelectric film 230, a transparent common electrode 231 formed on the upper surface of the organic photoelectric film 230, and a transparent first and transparent electrodes 231 formed on the lower surface of the organic photoelectric film 230. It has a second partial electrode 232a, 232b. As described above, the first and second partial electrodes 232a and 232b are orthogonal to the left-right direction on the paper, that is, the arrangement direction of the first and second photoelectric conversion units 220a and 220b of the second image sensor 22. Arranged in the direction. In each pixel 210 of the first image sensor 21, the organic photoelectric film 230, the common electrode 231 and the first partial electrode 232a form a first photoelectric conversion unit 210a, and the organic photoelectric film 230, the common electrode 231 and the first The partial electrode 232b of 2 constitutes the second photoelectric conversion unit 210b.
Further, microlenses 233 are arranged above each pixel 210 of the first image sensor 21, and each pixel 210 of each microlens 233 and the first image sensor 21 and each pixel of the second image sensor 22. The 220 is aligned with the microlens 233 in the optical axis direction.

また、マイクロレンズ233の焦点233Fは、第1の撮像素子21と第2の撮像素子22との中間に位置する。すなわち、マイクロレンズ233の焦点面(すなわち、焦点233Fを含むマイクロレンズ233の光軸に垂直な面)と第1の撮像素子21の第1および第2の光電変換部との距離は、マイクロレンズ233の焦点面と第2の撮像素子22の第1および第2の光電変換部との距離に等しく定められている。第1および第2の撮像素子21,22の間隔は比較的小さく、かつマイクロレンズ233の焦点233Fが上述のように第1の撮像素子21と第2の撮像素子22との中間に位置しているので、マイクロレンズ233に関して第1の撮像素子21の第1および第2の光電変換部と共役な面(以下にこの共役な面を第1の測距瞳面と称する)は、マイクロレンズ233に関して第2の撮像素子22の第1および第2の光電変換部と共役な面(以下にこの共役な面を第2の測距瞳面と称する)に対して、図1に示した撮影光学系10の光軸方向に近傍に位置する。すなわち、第1および第2の測距瞳面は、互いに撮影光学系10の光軸方向に近傍に位置する。 Further, the focal point 233F of the microlens 233 is located between the first image sensor 21 and the second image sensor 22. That is, the distance between the focal plane of the microlens 233 (that is, the plane perpendicular to the optical axis of the microlens 233 including the focal 233F) and the first and second photoelectric conversion portions of the first image sensor 21 is the microlens. The distance between the focal plane of 233 and the first and second photoelectric conversion units of the second image sensor 22 is set to be equal. The distance between the first and second image sensors 21 and 22 is relatively small, and the focal point 233F of the microlens 233 is located between the first image sensor 21 and the second image sensor 22 as described above. Therefore, with respect to the microlens 233, the surface conjugated to the first and second photoelectric conversion units of the first image sensor 21 (hereinafter, this conjugated surface is referred to as the first ranging pupil surface) is the microlens 233. With respect to the surface conjugated to the first and second photoelectric conversion units of the second image sensor 22 (hereinafter, this conjugated surface is referred to as the second ranging pupil surface), the imaging optics shown in FIG. It is located near the optical axis of the system 10. That is, the first and second ranging pupil planes are located close to each other in the optical axis direction of the photographing optical system 10.

以上のようにマイクロレンズ233と第1および第2の撮像素子21,22とが配置されているので、第1の撮像素子21の各画素210の第1および第2の光電変換部210a,210bは、第1の測距瞳面の第1および第2の瞳領域をそれぞれ通過した一対の光束をそれぞれ受光し、第2の撮像素子22の各画素220の第1および第2の光電変換部220a,220bは、第2の測距瞳面の第3および第4の瞳領域をそれぞれ通過した一対の光束をそれぞれ受光する。なお、第1の測距瞳面の第1および第2の瞳領域の並び方向と第2の測距瞳面の第3および第4の瞳領域の並び方向とは、互いに直交している。 Since the microlens 233 and the first and second image pickup elements 21 and 22 are arranged as described above, the first and second photoelectric conversion units 210a and 210b of each pixel 210 of the first image pickup element 21 are arranged. Receives a pair of light fluxes that have passed through the first and second pupil regions of the first ranging pupil surface, respectively, and the first and second photoelectric conversion units of each pixel 220 of the second image sensor 22. The 220a and 220b receive a pair of light fluxes that have passed through the third and fourth pupil regions of the second ranging pupil surface, respectively. The alignment directions of the first and second pupil regions of the first ranging pupil surface and the alignment directions of the third and fourth pupil regions of the second ranging pupil surface are orthogonal to each other.

図1に示した焦点検出部12aは、後述のように第1の撮像素子21の列方向に配列された複数の画素210の第1および第2の光電変換信号に基づき、第1および第2の瞳領域を通過した一対の光束によって形成される一対の像のズレ量、すなわち位相差を検出して、この像ズレ量に基づきデフォーカス量を算出する。また、焦点検出部12aは、第2の撮像素子22の行方向に配列された複数の画素220の第1および第2の光電変換信号に基づき、第3および第4の瞳領域を通過した一対の光束によって形成される一対の像のズレ量、すなわち位相差を検出して、この像ズレ量に基づきデフォーカス量を算出する。 The focus detection unit 12a shown in FIG. 1 is the first and second based on the first and second photoelectric conversion signals of the plurality of pixels 210 arranged in the row direction of the first image sensor 21 as described later. The amount of defocus, that is, the phase difference, is detected by the pair of images formed by the pair of light fluxes that have passed through the pupil region, and the defocus amount is calculated based on this amount of image shift. Further, the focus detection unit 12a is a pair that has passed through the third and fourth pupil regions based on the first and second photoelectric conversion signals of the plurality of pixels 220 arranged in the row direction of the second image sensor 22. The amount of deviation of the pair of images formed by the luminous flux of the above, that is, the phase difference is detected, and the amount of defocus is calculated based on this amount of image deviation.

(撮像素子21の回路構成)
図5は、第1の撮像素子21の各画素210の第1および第2の光電変換部210aおよび210bの光電変換信号の読み出し回路を単純化して示した図である。図5において、第1の撮像素子21は、列走査回路151と第1および第2の水平出力回路152,153と有する。列走査回路151は、列方向、すなわち、図5では上下方向に配列された複数の画素210の第1および第2の光電変換部210a,210bに対する信号読み出し用のタイミング信号R(n)を出力する。詳述すると、列走査回路151は、第1列目の複数の画素210の第1および第2の光電変換部210a,210bに対するタイミング信号R(1)を出力する。
(Circuit configuration of image sensor 21)
FIG. 5 is a simplified diagram showing the photoelectric conversion signal reading circuits of the first and second photoelectric conversion units 210a and 210b of each pixel 210 of the first image sensor 21. In FIG. 5, the first image sensor 21 includes a column scanning circuit 151 and first and second horizontal output circuits 152 and 153. The column scanning circuit 151 outputs a timing signal R (n) for reading signals to the first and second photoelectric conversion units 210a and 210b of the plurality of pixels 210 arranged in the column direction, that is, in the vertical direction in FIG. To do. More specifically, the column scanning circuit 151 outputs a timing signal R (1) to the first and second photoelectric conversion units 210a and 210b of the plurality of pixels 210 in the first row.

タイミング信号R(1)に応じて、第1列目の複数の画素210の第1および第2の光電変換部210a,210bの第1および第2の光電変換信号がそれぞれ第1および第2の水平出力回路152,153に同時に読み出される。本第1の実施の形態では、第1の光電変換部210aの第1の光電変換信号が第1の水平出力回路152に読み出され、第2の光電変換部210bの第2の光電変換信号が第2の水平出力回路153に読み出される。第1の水平出力回路152は、読み出した第1列目画素の第1の光電変換部210aの第1の光電変換信号を順次、出力部152Aから出力し、同様に、第2の水平出力回路153は、読み出した第1列目画素の第2の光電変換部210bの第2の光電変換信号を順次、出力部153Aから出力する。 According to the timing signal R (1), the first and second photoelectric conversion signals of the first and second photoelectric conversion units 210a and 210b of the plurality of pixels 210 in the first row are the first and second photoelectric conversion signals, respectively. It is read out simultaneously by the horizontal output circuits 152 and 153. In the first embodiment, the first photoelectric conversion signal of the first photoelectric conversion unit 210a is read out by the first horizontal output circuit 152, and the second photoelectric conversion signal of the second photoelectric conversion unit 210b is read out. Is read out to the second horizontal output circuit 153. The first horizontal output circuit 152 sequentially outputs the first photoelectric conversion signal of the first photoelectric conversion unit 210a of the first row pixel read out from the output unit 152A, and similarly, the second horizontal output circuit 152. The 153 sequentially outputs the second photoelectric conversion signal of the second photoelectric conversion unit 210b of the first row pixel read out from the output unit 153A.

次いで、列走査回路151は、第2列目の複数の画素210の第1および第2の光電変換部210a,210bに対するタイミング信号R(2)を出力する。タイミング信号R(2)に応じて、第2列目の複数の画素210の第1および第2の光電変換部210a,210bの第1および第2の光電変換信号がそれぞれ第1および第2の水平出力回路152,153に同時に読み出される。第1および第2の水平出力回路152,153は、それぞれ読み出した第2列目画素の第1および第2の光電変換部210a,210bの第1および第2の光電変換信号を順次、出力部152A,153Aから出力する。
以下同様に、列走査回路151は、第(n)列目の複数の画素210の第1および第2の光電変換部210a,210bに対するタイミング信号R(n)を出力する。タイミング信号R(n)に応じて第(n)列目の複数の画素210の第1および第2の光電変換部210a,210bの第1および第2の光電変換信号がそれぞれ第1および第2の水平出力回路152,153に同時に読み出され、第1および第2の水平出力回路152,153の出力部152A,153Aから順次、出力される。
Next, the column scanning circuit 151 outputs a timing signal R (2) to the first and second photoelectric conversion units 210a and 210b of the plurality of pixels 210 in the second row. According to the timing signal R (2), the first and second photoelectric conversion signals of the first and second photoelectric conversion units 210a and 210b of the plurality of pixels 210 in the second row are the first and second photoelectric conversion signals, respectively. It is read out simultaneously by the horizontal output circuits 152 and 153. The first and second horizontal output circuits 152 and 153 sequentially output the first and second photoelectric conversion signals of the first and second photoelectric conversion units 210a and 210b of the second row pixels read out, respectively. Output from 152A and 153A.
Similarly, the column scanning circuit 151 outputs a timing signal R (n) to the first and second photoelectric conversion units 210a and 210b of the plurality of pixels 210 in the (n) th column. The first and second photoelectric conversion signals of the first and second photoelectric conversion units 210a and 210b of the plurality of pixels 210 in the first row (n) according to the timing signal R (n) are the first and second photoelectric conversion signals, respectively. Is read simultaneously by the horizontal output circuits 152 and 153, and is sequentially output from the output units 152A and 153A of the first and second horizontal output circuits 152 and 153.

第1の水平出力回路152から出力された第1の光電変換信号と第2の水平出力回路153から出力された第2の光電変換信号は、図1に示されたバッファメモリ16を介して焦点検出部12aおよび画像生成部12bに送られ、焦点検出部12aは、同時に読み出された第n列目の第1および第2の光電変換部210a,210bの第1および第2の光電変換信号に基づき、位相差焦点検出演算を行う。また、画像生成部12bは、各画素210の第1および第2の光電変換部210a,210bの光電変換信号を加算して、画像信号を生成する。 The first photoelectric conversion signal output from the first horizontal output circuit 152 and the second photoelectric conversion signal output from the second horizontal output circuit 153 are focused via the buffer memory 16 shown in FIG. The first and second photoelectric conversion signals of the first and second photoelectric conversion units 210a and 210b in the nth row, which are sent to the detection unit 12a and the image generation unit 12b and simultaneously read out by the focus detection unit 12a. Based on, the phase difference focus detection calculation is performed. Further, the image generation unit 12b adds the photoelectric conversion signals of the first and second photoelectric conversion units 210a and 210b of each pixel 210 to generate an image signal.

図6は、第2の撮像素子22の各画素の第1および第2の光電変換部220aおよび220bの光電変換信号の読み出し回路を単純化して示した図である。図6において、第2の撮像素子22は、行走査回路161と第1および第2の水平出力回路162,163とを有する。第2の撮像素子22の第1および第2の光電変換部220a,220bの光電変換信号に関する信号読み出し回路161,162,163は、図5に示した第1の撮像素子22の信号読み出し回路151,152,153に類似しているので、以下の説明では、相違している点を説明する。 FIG. 6 is a simplified diagram showing the photoelectric conversion signal reading circuits of the first and second photoelectric conversion units 220a and 220b of each pixel of the second image sensor 22. In FIG. 6, the second image sensor 22 includes a row scanning circuit 161 and first and second horizontal output circuits 162 and 163. The signal readout circuits 161, 162, 163 relating to the photoelectric conversion signals of the first and second photoelectric conversion units 220a and 220b of the second image pickup element 22 are the signal readout circuits 151 of the first image pickup element 22 shown in FIG. , 152, 153, so the following description describes the differences.

行走査回路161は、行方向、図6では、左右方向に配列された複数の画素220の第1および第2の光電変換部220a,220bに対して信号読み出し用のタイミング信号R(m)を出力する。すなわち、行走査回路161は、第1行目の複数の画素220の第1および第2の光電変換部220a,220bに対して信号読み出し用のタイミング信号R(1)を出力し、次いで、第2行目の複数の画素220の第1および第2の光電変換部220a,220bに対して信号読み出し用のタイミング信号R(2)を出力し、その後、順次、第(m)行目の複数の画素220の第1および第2の光電変換部220a,220bに対して信号読み出し用のタイミング信号R(m)を出力する。 The row scanning circuit 161 transmits a timing signal R (m) for reading a signal to the first and second photoelectric conversion units 220a and 220b of the plurality of pixels 220 arranged in the row direction and in the left-right direction in FIG. Output. That is, the row scanning circuit 161 outputs the timing signal R (1) for signal reading to the first and second photoelectric conversion units 220a and 220b of the plurality of pixels 220 in the first row, and then the second row scanning circuit 161. The timing signal R (2) for signal reading is output to the first and second photoelectric conversion units 220a and 220b of the plurality of pixels 220 in the second row, and then the plurality of pixels in the second row (m) are sequentially output. The timing signal R (m) for signal reading is output to the first and second photoelectric conversion units 220a and 220b of the pixel 220.

タイミング信号R(m)に応じて、第1の水平出力回路162は、第(m)行目の複数の画素220の第1の光電変換部220aの第1の光電変換信号を同時に読み出し、同様に、第2の水平出力回路163は、第(m)行目の複数の画素220の第2の光電変換部220bの第2の光電変換信号を同時に読み出す。
第1の水平出力回路162は、読み出した第1の光電変換部220aの第1の光電変換信号を出力部162Aから出力し、第2の水平出力回路163は、読み出した第2の光電変換部220bの第2の光電変換信号を出力部163Aから出力する。
In response to the timing signal R (m), the first horizontal output circuit 162 simultaneously reads out the first photoelectric conversion signal of the first photoelectric conversion unit 220a of the plurality of pixels 220 in the (m) row, and similarly. In addition, the second horizontal output circuit 163 simultaneously reads out the second photoelectric conversion signal of the second photoelectric conversion unit 220b of the plurality of pixels 220 in the second row (m).
The first horizontal output circuit 162 outputs the first photoelectric conversion signal of the read first photoelectric conversion unit 220a from the output unit 162A, and the second horizontal output circuit 163 reads out the second photoelectric conversion unit. The second photoelectric conversion signal of 220b is output from the output unit 163A.

第1の水平出力回路162から出力された第1の光電変換信号と第2の水平出力回路163から出力された第2の光電変換信号は、図1に示されたバッファメモリ16を介して焦点検出部12aおよび画像生成部12bに送られ、焦点検出部12aは、同時に読み出された第(m)行目の第1および第2の光電変換部220a,220bの第1および第2の光電変換信号に基づき、位相差焦点検出演算を行う。また、画像生成部12bは、各画素220の第1および第2の光電変換部220a,220bの第1および第2の光電変換信号を加算して、画像信号を生成する。 The first photoelectric conversion signal output from the first horizontal output circuit 162 and the second photoelectric conversion signal output from the second horizontal output circuit 163 are focused via the buffer memory 16 shown in FIG. The first and second photoelectrics of the first and second photoelectric conversion units 220a and 220b of the first and second rows (m) that were sent to the detection unit 12a and the image generation unit 12b and simultaneously read out by the focus detection unit 12a. The phase difference focus detection calculation is performed based on the converted signal. Further, the image generation unit 12b adds the first and second photoelectric conversion signals of the first and second photoelectric conversion units 220a and 220b of each pixel 220 to generate an image signal.

なお、図5に示した第1の撮像素子21の信号読み出し回路例と、図6に示した第2の撮像素子22の信号読み出し回路例とは共に、図4に示した第2の撮像素子22の半導体基板50上に形成され、配線層51によって、それぞれ第1および第2の撮像素子21,22の各画素210、220に接続されている。 Both the signal readout circuit example of the first image pickup element 21 shown in FIG. 5 and the signal readout circuit example of the second image pickup element 22 shown in FIG. 6 are the second image pickup element shown in FIG. It is formed on the semiconductor substrate 50 of 22 and is connected to the pixels 210 and 220 of the first and second image pickup devices 21 and 22, respectively, by the wiring layer 51.

図7は、図1に示した焦点検出部12aの果たす機能を詳細に示したブロック図である。焦点検出部12aは、第1および第2の焦点検出信号取得部120,121と、第1および第2のコントラスト検出部122,123と、判定部124と、選択部125と、相関演算部126と、デフォーカス量算出部127とを有する。
焦点検出エリア設定部12cは、焦点検出対象領域として設定した設定焦点検出エリアに関する位置情報を出力する。第1の焦点検出信号取得部120は、第1の撮像素子21について、図5の第1および第2の水平出力回路152,153から出力される第1および第2の光電変換信号のうち、焦点検出エリア設定部12cによって設定された設定焦点検出エリアに対応する位置に列方向に配列された複数の画素210からの第1および第2の光電変換信号を取得する。
FIG. 7 is a block diagram showing in detail the function performed by the focus detection unit 12a shown in FIG. The focus detection unit 12a includes the first and second focus detection signal acquisition units 120 and 121, the first and second contrast detection units 122 and 123, the determination unit 124, the selection unit 125, and the correlation calculation unit 126. And a defocus amount calculation unit 127.
The focus detection area setting unit 12c outputs position information regarding the set focus detection area set as the focus detection target area. The first focus detection signal acquisition unit 120 has the first image sensor 21 among the first and second photoelectric conversion signals output from the first and second horizontal output circuits 152 and 153 of FIG. The first and second photoelectric conversion signals from a plurality of pixels 210 arranged in the column direction at positions corresponding to the set focus detection area set by the focus detection area setting unit 12c are acquired.

同様に、第2の焦点検出信号取得部121は、第2の撮像素子22について、図6に示された第1および第2の水平出力回路162,163から出力される第1および第2の光電変換信号のうち、焦点検出エリア設定部12cによって設定された設定焦点検出エリアに対応する位置に行方向に配列された複数の画素220からの第1および第2の光電変換信号を取得する。 Similarly, the second focus detection signal acquisition unit 121 outputs the first and second image sensors 22 from the first and second horizontal output circuits 162 and 163 shown in FIG. Among the photoelectric conversion signals, the first and second photoelectric conversion signals from a plurality of pixels 220 arranged in the row direction at positions corresponding to the set focus detection area set by the focus detection area setting unit 12c are acquired.

このようにして、第1の焦点検出信号取得部120は、第1の撮像素子21について、設定焦点検出エリアに対応した列方向配列の複数の画素210から同時に読み出された第1および第2の光電変換信号を取得する。第1の焦点検出信号取得部120が取得した第1の撮像素子21に関する第1および第2の光電変換信号を第1の焦点検出信号を称する。また、第2の焦点検出信号取得部121は、第2の撮像素子22について、設定焦点検出エリアに対応した行方向配列の複数の画素220から同時に読み出された第1および第2の光電変換信号を取得する。第2の焦点検出信号取得部121が取得した第2の撮像素子22に関する第1および第2の光電変換信号を第2の焦点検出信号を称する。 In this way, the first focus detection signal acquisition unit 120 simultaneously reads the first image sensor 21 from the plurality of pixels 210 in the columnar arrangement corresponding to the set focus detection area, the first and the second. Acquires the photoelectric conversion signal of. The first and second photoelectric conversion signals related to the first image sensor 21 acquired by the first focus detection signal acquisition unit 120 are referred to as the first focus detection signal. Further, the second focus detection signal acquisition unit 121 simultaneously reads the first and second photoelectric conversions of the second image sensor 22 from the plurality of pixels 220 in the row direction array corresponding to the set focus detection area. Get the signal. The first and second photoelectric conversion signals related to the second image sensor 22 acquired by the second focus detection signal acquisition unit 121 are referred to as the second focus detection signal.

なお、第1および第2の焦点検出信号は、それぞれ、同一の分光感度の画素の第1および第2の光電変換信号から構成される。具体的には、第1の撮像素子21に関する第1の焦点検出信号は、図3(a)において、列方向に一つ置き配列されたMg画素210の第1および第2の光電変換信号が選択される。同様に、第2の撮像素子22に関する第2の焦点検出信号は、図3(b)において、行方向に一つ置き配列されたG画素220の第1および第2の光電変換信号が選択される。勿論、第1の焦点検出信号は、Mg画素の第1および第2の光電変換信号に限らず、Cy画素またはYe画素の第1および第2の光電変換信号を使用することもできるし、第2の焦点検出信号は、G画素の第1および第2の光電変換信号に限らず、R画素またはB画素の第1および第2の光電変換信号を使用することもできる。 The first and second focus detection signals are composed of first and second photoelectric conversion signals of pixels having the same spectral sensitivity, respectively. Specifically, the first focus detection signal relating to the first image sensor 21 is the first and second photoelectric conversion signals of Mg pixels 210 arranged one by one in the column direction in FIG. 3A. Be selected. Similarly, as the second focus detection signal for the second image sensor 22, the first and second photoelectric conversion signals of the G pixels 220 arranged one by one in the row direction are selected in FIG. 3B. To. Of course, the first focus detection signal is not limited to the first and second photoelectric conversion signals of the Mg pixel, but the first and second photoelectric conversion signals of the Cy pixel or the Ye pixel can also be used. The focus detection signal 2 is not limited to the first and second photoelectric conversion signals of the G pixel, but the first and second photoelectric conversion signals of the R pixel or the B pixel can also be used.

第1のコントラスト検出部122は、第1の焦点検出信号取得部120が取得した第1の焦点検出信号に基づいて、設定焦点検出エリアにおける被写体像の第1のコントラスト量を算出する。なお、このコントラスト量は、第1の焦点検出信号取得部120が取得した隣接画素に関する第1の光電変換信号または第2の光電変換信号(または第1および第2の光電変換信号の加算信号)の差分を積算して算出する。なお、この第1のコントラスト量は、設定焦点検出エリア内において第1の撮像素子21の列方向配列の複数の画素210上に形成される被写体像のコントラスト量である。 The first contrast detection unit 122 calculates the first contrast amount of the subject image in the set focus detection area based on the first focus detection signal acquired by the first focus detection signal acquisition unit 120. The amount of contrast is the first photoelectric conversion signal or the second photoelectric conversion signal (or the addition signal of the first and second photoelectric conversion signals) related to the adjacent pixels acquired by the first focus detection signal acquisition unit 120. Is calculated by integrating the differences between. The first contrast amount is the contrast amount of the subject image formed on the plurality of pixels 210 in the columnar arrangement of the first image sensor 21 in the set focus detection area.

第2のコントラスト検出部123は、第1のコントラスト検出部122と同様に、第2の焦点検出信号取得部121が取得した第2の焦点検出信号に基づいて、第1のコントラスト検出部122と同様に、設定焦点検出エリアにおける被写体像の第2のコントラスト量を算出する。この第2のコントラスト量は、設定エリア内において第2の撮像素子22の行方向配列の複数の画素220上に形成される被写体像のコントラスト量である。 Similar to the first contrast detection unit 122, the second contrast detection unit 123 together with the first contrast detection unit 122 is based on the second focus detection signal acquired by the second focus detection signal acquisition unit 121. Similarly, the second contrast amount of the subject image in the set focus detection area is calculated. This second contrast amount is the contrast amount of the subject image formed on the plurality of pixels 220 in the row direction arrangement of the second image sensor 22 in the setting area.

判定部124は、第1および第2のコントラスト量の少なくとも一方が第1の閾値以上であるか否かを判定する。この第1の閾値は、第1の閾値以上のコントラスト量の焦点検出信号が位相差焦点検出に有効に使用することができるように、定められる。従って、判定部124は、第1および第2のコントラスト量の両方が第1の閾値未満である場合には、設定焦点検出エリアにおける被写体像が非常にボケている、すなわち非常に大デフォーカス状態であると、判断して、撮影レンズ10のフォーカスレンズをスキャン駆動させる。 The determination unit 124 determines whether or not at least one of the first and second contrast amounts is equal to or greater than the first threshold value. The first threshold value is determined so that a focus detection signal having a contrast amount equal to or higher than the first threshold value can be effectively used for phase difference focus detection. Therefore, when both the first and second contrast amounts are less than the first threshold value, the determination unit 124 has a very blurred subject image in the set focus detection area, that is, a very large defocus state. Therefore, the focus lens of the photographing lens 10 is scanned-driven.

判定部124は、第1および第2のコントラスト量の少なくとも一方が第1の閾値以上である場合に第1のコントラスト量と第2のコントラスト量との差が第2の閾値以上であるか否かを判定する。判定部124は、第1および第2のコントラスト量の差が第2の閾値以上である場合は、第1および第2のコントラスト量のうち、コントラスト量の大きい方の焦点検出信号は位相差焦点検出に適するが、コントラスト量の小さい方の焦点検出信号は位相差焦点検出に適さないと、判断する。判定部124は、第1および第2のコントラスト量の差が第2の閾値未満である場合は、この第1および第2の焦点検出信号が共に位相差焦点検出に適すると判断する。 When at least one of the first and second contrast amounts is equal to or greater than the first threshold value, the determination unit 124 determines whether or not the difference between the first contrast amount and the second contrast amount is equal to or greater than the second threshold value. Is determined. When the difference between the first and second contrast amounts is equal to or greater than the second threshold value, the determination unit 124 determines that the focus detection signal having the larger contrast amount among the first and second contrast amounts is the phase difference focus. It is determined that the focus detection signal, which is suitable for detection but has a smaller contrast amount, is not suitable for phase difference focus detection. When the difference between the first and second contrast amounts is less than the second threshold value, the determination unit 124 determines that both the first and second focus detection signals are suitable for phase difference focus detection.

選択部125は、判定部124の出力信号に基づき、第1および第2の焦点検出信号取得部120,121の第1および第2の焦点検出信号の一方、またはその両方を選択して、相関演算部126に送出する。詳述すると、選択部125は、第1および第2のコントラスト量の差が第2の閾値以上である場合には、第1のコントラスト量が第2のコントラスト量よりも大きいときに、第1の焦点検出信号取得部120の第1の焦点検出信号を選択して相関演算部126に出力し、第2のコントラスト量が第1のコントラスト量よりも大きいときに、第2の焦点検出信号取得部121の第2の焦点検出信号を選択して相関演算部126に出力する。また、選択部125は、第1および第2のコントラスト量の差が第2の閾値未満である場合は第1および第2の焦点検出信号取得部120,121の第1および第2の焦点検出信号の両方を選択して相関演算部126に出力する。 The selection unit 125 selects one or both of the first and second focus detection signals of the first and second focus detection signal acquisition units 120 and 121 based on the output signal of the determination unit 124 and correlates them. It is sent to the calculation unit 126. More specifically, the selection unit 125 makes a first when the difference between the first and second contrast amounts is equal to or greater than the second threshold value and the first contrast amount is larger than the second contrast amount. The first focus detection signal of the focus detection signal acquisition unit 120 is selected and output to the correlation calculation unit 126, and when the second contrast amount is larger than the first contrast amount, the second focus detection signal acquisition The second focus detection signal of unit 121 is selected and output to the correlation calculation unit 126. Further, the selection unit 125 detects the first and second focal points of the first and second focus detection signal acquisition units 120 and 121 when the difference between the first and second contrast amounts is less than the second threshold value. Both signals are selected and output to the correlation calculation unit 126.

相関演算部126は、選択部125から第1の焦点検出信号が入力された場合には、第1の焦点検出信号に基づき相関演算を行って第1の像ズレ量を算出し、選択部125から第2の焦点検出信号が入力された場合には、第2の焦点検出信号に基づき相関演算を行って第2の像ズレ量を算出し、選択部125から第1および第2の焦点検出信号が入力された場合には、第1の焦点検出信号に基づき相関演算を行って第1の像ズレ量を算出すると共に第2の焦点検出信号に基づき相関演算を行って第2の像ズレ量を算出する。 When the first focus detection signal is input from the selection unit 125, the correlation calculation unit 126 performs a correlation calculation based on the first focus detection signal to calculate the first image deviation amount, and the selection unit 125. When the second focus detection signal is input from, the correlation calculation is performed based on the second focus detection signal to calculate the second image shift amount, and the first and second focus detections are performed from the selection unit 125. When a signal is input, a correlation calculation is performed based on the first focus detection signal to calculate the amount of the first image shift, and a correlation calculation is performed based on the second focus detection signal to perform a second image shift. Calculate the amount.

デフォーカス量算出部127は、相関演算部126の相関演算結果、すなわち像ズレ量に基づき、デフォーカス量を算出する。このデフォーカス量に基づき、撮影光学系の焦点調節が行われる。なお、上述のように、選択部125が第1および第2の焦点検出信号の両方を選択した場合には、デフォーカス量算出部127は、第1の焦点検出信号に基づく第1のデフォーカス量と第2の焦点検出信号に基づく第2のデフォーカス量との平均値を算出してそれを最終デフォーカス量とする。この最終デフォーカス量に基づき撮影光学系の焦点調節が行われる。 The defocus amount calculation unit 127 calculates the defocus amount based on the correlation calculation result of the correlation calculation unit 126, that is, the image deviation amount. Based on this defocus amount, the focus of the photographing optical system is adjusted. As described above, when the selection unit 125 selects both the first and second focus detection signals, the defocus amount calculation unit 127 is the first defocus based on the first focus detection signal. The average value of the amount and the second defocus amount based on the second focus detection signal is calculated and used as the final defocus amount. The focus of the photographing optical system is adjusted based on this final defocus amount.

このように、第1の撮像素子21の列方向に配列された複数の画素210から第1および第2の光電変換信号が同時に読み出されるように読み出し回路を構成し、同時に読み出された第1および第2の光電変換信号、すなわち第1の焦点検出信号に基づいて位相差焦点検出演算を行うように構成した。同様に、第2の撮像素子22の行方向に配列された複数の画素220から第1および第2の光電変換信号が同時に読み出されるように読み出し回路を構成し、同時に読み出された第1および第2の光電変換信号、すなわち第2の焦点検出信号に基づいて位相差焦点検出演算を行うように構成した。これにより、同時に読み出された第1の焦点検出信号により、または、同時に読み出された第2の焦点検出信号により位相差焦点検出演算を行えば、デフォーカス量の算出精度が高くなるので、撮影光学系10の焦点調節精度が向上し、撮像して得られる画像の画質を向上できる。 In this way, the reading circuit is configured so that the first and second photoelectric conversion signals are simultaneously read from the plurality of pixels 210 arranged in the column direction of the first image sensor 21, and the first reading circuits are simultaneously read. And the phase difference focus detection calculation is performed based on the second photoelectric conversion signal, that is, the first focus detection signal. Similarly, a readout circuit is configured so that the first and second photoelectric conversion signals are simultaneously read out from the plurality of pixels 220 arranged in the row direction of the second image pickup element 22, and the first and second pixels are simultaneously read out. The phase difference focus detection calculation is performed based on the second photoelectric conversion signal, that is, the second focus detection signal. As a result, if the phase difference focus detection calculation is performed by the first focus detection signal read at the same time or by the second focus detection signal read at the same time, the calculation accuracy of the defocus amount is improved. The focus adjustment accuracy of the photographing optical system 10 is improved, and the image quality of the image obtained by imaging can be improved.

図8は、本第1の焦点検出動作を表すフローチャートである。図8に示す焦点検出処理は、制御部12が実行する制御プログラムに含まれる。撮影者により所定の焦点検出操作、例えばレリーズ操作部材の半押し操作などが行われると、制御部12は、図8に示す焦点検出処理を開始する。
図7および図8において、ステップS1で第1の撮像素子21および第2の撮像素子22は、撮影光学系10によって結像された被写体像をそれぞれ撮像する。第1の撮像素子21は、列方向に配列された複数の画素210の第1および第2の光電変換部210a,210bの第1および第2の光電変換信号が同時に読み出される。第2の撮像素子22は、行方向に配列された複数の画素220の第1および第2の光電変換部220a,220bの第1および第2の光電変換信号が同時に読み出される。第1または第2の撮像素子21,22からの第1および第2の光電変換信号は、図1の画像生成部12bで加算されて第1または第2の画像信号となり、図1の画像処理部14で画像処理されて、図1のモニタ15にスルー画像として表示される。なお、スルー画像は、第1の撮像素子21からの第1の画像信号に基づいて表示されても、第2の撮像素子22の第2の画像信号に基づいて表示されてもよい。
FIG. 8 is a flowchart showing the first focus detection operation. The focus detection process shown in FIG. 8 is included in the control program executed by the control unit 12. When a predetermined focus detection operation, for example, a half-press operation of the release operation member, is performed by the photographer, the control unit 12 starts the focus detection process shown in FIG.
In FIGS. 7 and 8, in step S1, the first image sensor 21 and the second image sensor 22 image the subject image imaged by the photographing optical system 10, respectively. In the first image sensor 21, the first and second photoelectric conversion signals of the first and second photoelectric conversion units 210a and 210b of the plurality of pixels 210 arranged in the column direction are simultaneously read out. In the second image sensor 22, the first and second photoelectric conversion signals of the first and second photoelectric conversion units 220a and 220b of the plurality of pixels 220 arranged in the row direction are simultaneously read out. The first and second photoelectric conversion signals from the first or second image pickup elements 21 and 22 are added by the image generation unit 12b of FIG. 1 to become the first or second image signal, and the image processing of FIG. 1 The image is processed by the unit 14 and displayed as a through image on the monitor 15 of FIG. The through image may be displayed based on the first image signal from the first image sensor 21 or may be displayed based on the second image signal of the second image sensor 22.

ステップS2において、図1の焦点検出エリア設定部12cによって撮影画面内に設定焦点検出エリアが設定される。ステップS3において、第1の焦点検出信号取得部120は、第1の撮像素子21から出力された第1および第2の光電変換信号のうち、設定焦点検出エリアに対応する列方向配列の複数の画素210の第1および第2の光電変換部210a,210bの第1および第2の光電変換信号を、第1の焦点検出信号として、取得する。同様に、第2の焦点検出信号取得部121は、第2の撮像素子22から出力された第1および第2の光電変換信号のうち、設定焦点検出エリアに対応する行方向配列の複数の画素220の第1および第2の光電変換部220a,220bの第1および第2の光電変換信号を、第2の焦点検出信号として、取得する。 In step S2, the set focus detection area is set in the shooting screen by the focus detection area setting unit 12c of FIG. In step S3, the first focus detection signal acquisition unit 120 has a plurality of columnar arrangements corresponding to the set focus detection area among the first and second photoelectric conversion signals output from the first image sensor 21. The first and second photoelectric conversion signals of the first and second photoelectric conversion units 210a and 210b of the pixel 210 are acquired as the first focus detection signal. Similarly, the second focus detection signal acquisition unit 121 has a plurality of pixels in the row direction array corresponding to the set focus detection area among the first and second photoelectric conversion signals output from the second image sensor 22. The first and second photoelectric conversion signals of the first and second photoelectric conversion units 220a and 220b of 220 are acquired as the second focus detection signal.

ステップS4において、第1のコントラスト検出部122は、第1の焦点検出信号取得部120によって取得された第1の焦点検出信号に基づき、設定焦点検出エリアにおける被写体像の第1のコントラスト量を算出する。この第1のコントラスト量は、上述のように、第1の撮像素子21の画素210の列方向のコントラスト量である。同様に第2のコントラスト検出部123は、第2の焦点検出信号取得部121によって取得された第2の焦点検出信号に基づき、設定焦点検出エリアにおける被写体像の第2のコントラスト量を算出する。この第2のコントラスト量は、上述のように、第2の撮像素子22の画素220の列方向のコントラスト量である。 In step S4, the first contrast detection unit 122 calculates the first contrast amount of the subject image in the set focus detection area based on the first focus detection signal acquired by the first focus detection signal acquisition unit 120. To do. As described above, the first contrast amount is the contrast amount in the column direction of the pixels 210 of the first image sensor 21. Similarly, the second contrast detection unit 123 calculates the second contrast amount of the subject image in the set focus detection area based on the second focus detection signal acquired by the second focus detection signal acquisition unit 121. As described above, the second contrast amount is the contrast amount in the column direction of the pixels 220 of the second image sensor 22.

ステップS5において、判定部124が第1および第2のコントラスト量の少なくとも一方が第1の閾値以上であるか否かを判定し、否定判定の場合には、ステップS6に進み、肯定判定の場合にステップS7に進む。ステップS6では、設定焦点検出エリアにおける被写体像が非常にボケている、すなわち非常に大デフォーカス状態であると判断して、撮影レンズ10のフォーカスレンズをスキャン駆動させる。ステップS7では、判定部124が第1のコントラスト量と第2のコントラスト量との差が第2の閾値以上であるか否かを判定し、肯定判定の場合にステップS8に進み、否定判定の場合に、ステップS9に進む。ステップS8では、第1のコントラスト量が第2のコントラスト量よりも大きいか否かを判定し、肯定判定の場合に、ステップS10に進み、否定判定の場合にステップS11に進む。 In step S5, the determination unit 124 determines whether or not at least one of the first and second contrast amounts is equal to or greater than the first threshold value. In the case of a negative determination, the process proceeds to step S6, and in the case of an affirmative determination. Proceed to step S7. In step S6, it is determined that the subject image in the set focus detection area is very out of focus, that is, in a very large defocus state, and the focus lens of the photographing lens 10 is scanned-driven. In step S7, the determination unit 124 determines whether or not the difference between the first contrast amount and the second contrast amount is equal to or greater than the second threshold value, and in the case of an affirmative determination, proceeds to step S8 to determine a negative determination. In this case, the process proceeds to step S9. In step S8, it is determined whether or not the first contrast amount is larger than the second contrast amount, and if the determination is affirmative, the process proceeds to step S10, and if the determination is negative, the process proceeds to step S11.

ステップS10では、第1のコントラスト量が第2のコントラスト量よりも大きい、すなわち、設定焦点検出エリアにおいて、第1の撮像素子21の列方向のコントラスト量が第2の撮像素子22の行方向のコントラスト量よりも大きいので、選択部124が第1の焦点検出信号取得部120の第1の焦点検出信号を選択して相関演算部126が第1の焦点検出信号に基づき相関演算を行い、デフォーカス量算出部127がこの相関演算結果に基づきデフォーカス量を算出する。ステップS11では、第2のコントラスト量が第1のコントラスト量よりも大きい、すなわち、設定焦点検出エリアにおいて、第2の撮像素子22の行方向のコントラスト量が第1の撮像素子21の列方向のコントラスト量よりも大きいので、選択部124が第2の焦点検出信号取得部121の第2の焦点検出信号を選択して相関演算部126が第2の焦点検出信号に基づき相関演算を行い、デフォーカス量算出部127がこの相関演算結果に基づきデフォーカス量を算出する。 In step S10, the first contrast amount is larger than the second contrast amount, that is, in the set focus detection area, the contrast amount in the column direction of the first image pickup element 21 is in the row direction of the second image pickup element 22. Since it is larger than the contrast amount, the selection unit 124 selects the first focus detection signal of the first focus detection signal acquisition unit 120, and the correlation calculation unit 126 performs the correlation calculation based on the first focus detection signal. The focus amount calculation unit 127 calculates the defocus amount based on the correlation calculation result. In step S11, the second contrast amount is larger than the first contrast amount, that is, in the set focus detection area, the contrast amount in the row direction of the second image pickup element 22 is in the column direction of the first image pickup element 21. Since it is larger than the contrast amount, the selection unit 124 selects the second focus detection signal of the second focus detection signal acquisition unit 121, and the correlation calculation unit 126 performs the correlation calculation based on the second focus detection signal. The focus amount calculation unit 127 calculates the defocus amount based on the correlation calculation result.

また、ステップS9では、第1および第2のコントラスト量の差が第2の閾値未満である、すなわち、第1および第2のコントラスト量がほぼ同等であるので、選択部125が第1および第2の焦点検出信号取得部120,121の第1および第2の焦点検出信号の両方を選択し、相関演算部126が第1の焦点検出信号に基づき相関演算を行うと共に第2の焦点検出信号に基づき相関演算を行い、デフォーカス量算出部127が、第1の焦点検出信号による相関演算結果に基づき第1のデフォーカス量を算出すると共に、第2の焦点検出信号による相関演算結果に基づき第2のデフォーカス量を算出し、第1および第2のデフォーカス量から最終デフォーカス量を算出する。 Further, in step S9, the difference between the first and second contrast amounts is less than the second threshold value, that is, the first and second contrast amounts are substantially the same, so that the selection unit 125 is the first and first. Both the first and second focus detection signals of the focus detection signal acquisition units 120 and 121 of 2 are selected, and the correlation calculation unit 126 performs the correlation calculation based on the first focus detection signal and the second focus detection signal. The correlation calculation is performed based on the above, and the defocus amount calculation unit 127 calculates the first defocus amount based on the correlation calculation result by the first focus detection signal and based on the correlation calculation result by the second focus detection signal. The second defocus amount is calculated, and the final defocus amount is calculated from the first and second defocus amounts.

ステップS12では、ステップS10,S11,S9で算出されたデフォーカス量に基づき、撮影光学系10のフォーカスレンズを駆動して焦点調節を行う。ステップS13は、レリーズ操作部材の半押し操作が終了したか否かを判定し、肯定判定の場合には焦点検出動作を終了し、否定判定の場合にはステップS1に戻る。 In step S12, the focus lens of the photographing optical system 10 is driven to adjust the focus based on the defocus amount calculated in steps S10, S11, and S9. Step S13 determines whether or not the half-pressing operation of the release operating member is completed, ends the focus detection operation in the case of affirmative determination, and returns to step S1 in the case of negative determination.

以上のように、本第1の実施の形態では、第1の撮像素子21の画素210の第1および第2の光電変換部210a,210bの配列方向と第2の撮像素子22の画素220の第1および第2の光電変換部220a,220bの配列方向とが異なっているので、設定焦点検出エリアにおける第1の撮像素子21の列方向に配列された複数の画素210に形成された被写体像のコントラストと設定焦点検出エリアにおける第2の撮像素子22の行方向に配列された複数の画素220に形成された被写体像のコントラストとを比べて、コントラストが高い方の撮像素子の焦点検出信号に基づき高精度な焦点検出を行うことができる。 As described above, in the first embodiment, the arrangement direction of the first and second photoelectric conversion units 210a and 210b of the pixel 210 of the first image sensor 21 and the pixel 220 of the second image sensor 22. Since the arrangement directions of the first and second photoelectric conversion units 220a and 220b are different, the subject image formed on the plurality of pixels 210 arranged in the row direction of the first image sensor 21 in the set focus detection area. Compared with the contrast of the subject image formed on the plurality of pixels 220 arranged in the row direction of the second image sensor 22 in the set focus detection area, the focus detection signal of the image sensor having the higher contrast Based on this, highly accurate focus detection can be performed.

本第1の実施の形態では、第1および第2のコントラスト量に応じて、第1および第2の焦点検出信号のいずれか、またはその両方を選択して選択された焦点検出信号に基づき相関演算部126が相関演算を行うものであった。これの代わりに、選択部125は、常に第1および第2の焦点検出信号を選択し、相関演算部126は、第1および第2の焦点検出信号について相関演算を行い、第1および第2のコントラスト量の大きさに基づき第1の焦点検出信号による相関演算結果と第2の焦点検出信号による相関演算結果との一方または両方を選択し、選択された相関演算結果に基づきデフォーカス量を算出するようにしてもよい。
更には、デフォーカス量算出部127は、相関演算部126が相関演算した全ての相関演算結果に基づき、それぞれデフォーカス量を算出し、こうして算出された複数のデフォーカス量から第1および第2のコントラスト量の大きさに基づき所望のデフォーカス量を選択してもよい。
In the first embodiment, depending on the amount of contrast of the first and second, one or both of the first and second focus detection signals are selected and correlated based on the selected focus detection signal. The calculation unit 126 performs the correlation calculation. Instead of this, the selection unit 125 always selects the first and second focus detection signals, and the correlation calculation unit 126 performs the correlation calculation on the first and second focus detection signals, and the first and second focus detection signals are performed. One or both of the correlation calculation result by the first focus detection signal and the correlation calculation result by the second focus detection signal are selected based on the magnitude of the contrast amount of, and the defocus amount is determined based on the selected correlation calculation result. It may be calculated.
Further, the defocus amount calculation unit 127 calculates the defocus amount based on all the correlation calculation results obtained by the correlation calculation unit 126, and the first and second defocus amounts are calculated from the plurality of defocus amounts calculated in this way. The desired defocus amount may be selected based on the magnitude of the contrast amount of.

撮像面に第1および第2の光電変換部の分割方向が異なる画素が設けられている撮像素子では、第1および第2の光電変換部の分割方向が異なる2つの画素に、同じ光量の光がそれぞれ入射したとしても、第1および第2の光電変換部の分割方向の相違によって、各画素の第1および第2の光電変換部からの出力が異なってしまうおそれがある。そのため、撮像して得られた画像の画質が低下するおそれがある。
これに対して、本第1の実施の形態では、第1の撮像素子21の各画素210の、列方向に分割された第1および第2の光電変換部210a,210bの光電変換信号を加算して画像信号を生成するように構成した。そして、第2の撮像素子22の各画素220の、行方向に分割された第1および第2の光電変換部220a,220bの光電変換信号を加算して画像信号を生成するように構成した。これにより、第1および第2の撮像素子21,22によって、高画質の画像を得ることができる。
In an imaging device in which pixels having different division directions of the first and second photoelectric conversion units are provided on the imaging surface, the same amount of light is emitted to two pixels having different division directions of the first and second photoelectric conversion units. Even if they are incident on each other, the output from the first and second photoelectric conversion units of each pixel may be different due to the difference in the division direction of the first and second photoelectric conversion units. Therefore, the image quality of the image obtained by imaging may deteriorate.
On the other hand, in the first embodiment, the photoelectric conversion signals of the first and second photoelectric conversion units 210a and 210b of each pixel 210 of the first image sensor 21 are added. It was configured to generate an image signal. Then, the photoelectric conversion signals of the first and second photoelectric conversion units 220a and 220b divided in the row direction of each pixel 220 of the second image sensor 22 are added to generate an image signal. As a result, high-quality images can be obtained by the first and second image sensors 21 and 22.

<第1の変形例>
本第1の実施の形態では、コントラストが低い被写体像については、位相差焦点検出が精度良く行うことができない恐れがあるので、設定焦点検出エリアにおける第1の撮像素子21の列方向に配列された複数の画素210に形成された被写体像のコントラストと設定焦点検出エリアにおける第2の撮像素子22の行方向に配列された複数の画素220に形成された被写体像のコントラストとを比べて、コントラストが高い方の撮像素子の焦点検出信号に基づき焦点調節を行うものであった。位相差焦点検出が精度良く行うことができない被写体像は、上述の低コントラスト像以外に、一定周期の明暗パターンの像も存在する。そこで、そのような一定の周期パターン像が第1および第2の撮像素子21,22の画素の列方向と行方向のどちらに存在するかを検出して、周期パターンが存在しない方の撮像素子の焦点検出信号を使用して焦点検出を行う本実施の形態の変形例を以下に説明する。
<First modification>
In the first embodiment, since there is a possibility that the phase difference focus detection cannot be performed accurately for a subject image having low contrast, the subject images are arranged in the column direction of the first image pickup element 21 in the set focus detection area. The contrast of the subject image formed on the plurality of pixels 210 is compared with the contrast of the subject image formed on the plurality of pixels 220 arranged in the row direction of the second image pickup element 22 in the set focus detection area. The focus is adjusted based on the focus detection signal of the image pickup element with the higher value. In addition to the above-mentioned low-contrast image, there is also an image of a light-dark pattern having a fixed period as a subject image for which the phase difference focus detection cannot be performed with high accuracy. Therefore, it is detected whether such a constant periodic pattern image exists in the column direction or the row direction of the pixels of the first and second image pickup devices 21 and 22, and the image pickup device in which the periodic pattern does not exist is detected. A modified example of the present embodiment in which the focus is detected by using the focus detection signal of the above will be described below.

図9は、本第1の実施の形態の変形例を示すブロック図であり、図7に示された本第1の実施の形態のブロック図との相違点は、図7の第1および第2のコントラスト検出部122,123の代わりに、第1および第2の周期パターン検出部128,129が設けられている点である。第1の周期パターン検出部128は、第1の焦点検出信号取得部120からの第1の焦点検出信号の周期パターン信号波形を検出することによって、第1の焦点検出信号に周期パターンが存在するか否かを検出する。同様に、第2の周期パターン検出部129は、第2の焦点検出信号取得部121からの第2の焦点検出信号の周期パターン信号波形を検出することによって、第2の焦点検出信号に周期パターンが存在するか否かを検出する。判定部124は、第1および第2の周期パターン検出部128,129のどちらが周期パターンを検出したかを判定する。選択部125は、判定部124が、第1および第2の周期パターン検出部128,129のどちらも周期パターンを検出していないと、判定した場合には、第1および第2の焦点検出信号の両方を選択し、判定部124が、第1の周期パターン検出部128が周期パターンを検出したと、判定した場合には、第2の焦点検出信号を選択し、判定部124が、第2の周期パターン検出部129が周期パターンを検出したと、判定した場合には、第1の焦点検出信号を選択する。相関演算部126およびデフォーカス量算出部127の動作は、図7の場合と同様である。 FIG. 9 is a block diagram showing a modified example of the first embodiment, and the differences from the block diagram of the first embodiment shown in FIG. 7 are the first and the first in FIG. The point is that the first and second periodic pattern detection units 128 and 129 are provided instead of the contrast detection units 122 and 123 of 2. The first periodic pattern detection unit 128 detects the periodic pattern signal waveform of the first focus detection signal from the first focus detection signal acquisition unit 120, so that the periodic pattern exists in the first focus detection signal. Detects whether or not. Similarly, the second periodic pattern detection unit 129 detects the periodic pattern signal waveform of the second focus detection signal from the second focus detection signal acquisition unit 121, thereby producing a periodic pattern on the second focus detection signal. Detects if is present. The determination unit 124 determines which of the first and second periodic pattern detection units 128 and 129 has detected the periodic pattern. When the determination unit 124 determines that neither the first and second periodic pattern detection units 128 and 129 have detected the periodic pattern, the selection unit 125 determines that the first and second focus detection signals are not detected. When both of the above are selected and the determination unit 124 determines that the first periodic pattern detection unit 128 has detected the periodic pattern, the second focus detection signal is selected and the determination unit 124 selects the second. When it is determined that the periodic pattern detection unit 129 has detected the periodic pattern, the first focus detection signal is selected. The operations of the correlation calculation unit 126 and the defocus amount calculation unit 127 are the same as in the case of FIG. 7.

以上のように、本変形例では、第1の撮像素子21の画素210の第1および第2の光電変換部210a,210bの配列方向と第2の撮像素子22の画素220の第1および第2の光電変換部220a,220bの配列方向とが異なっているので、設定焦点検出エリアにおける第1の撮像素子21の列方向に配列された複数の画素210に形成された被写体像の周期パターンの有無と設定焦点検出エリアにおける第2の撮像素子22の行方向に配列された複数の画素220に形成された被写体像の周期パターンの有無とに基づき、周期パターンの存在しない方の撮像素子の焦点検出信号に基づき高精度な焦点検出を行うことができる。 As described above, in this modification, the arrangement directions of the first and second photoelectric conversion units 210a and 210b of the pixels 210 of the first image sensor 21 and the first and first pixels 220 of the second image sensor 22 Since the arrangement directions of the photoelectric conversion units 220a and 220b of No. 2 are different, the periodic pattern of the subject image formed on the plurality of pixels 210 arranged in the row direction of the first image sensor 21 in the set focus detection area. Presence / absence and setting Based on the presence / absence of the periodic pattern of the subject image formed on the plurality of pixels 220 arranged in the row direction of the second image sensor 22 in the focus detection area, the focus of the image sensor having no periodic pattern Highly accurate focus detection can be performed based on the detection signal.

なお、図9に示した変形例にあっても、選択部125が周期パターンの有無に応じて、第1および第2の焦点検出信号のいずれか、または両方を選択する代わりに、相関演算部126が常に第1および第2の焦点検出信号に基づく相関演算を行い、それらの相関演算結果から周期パターンの有無に応じて所定の相関演算結果を選択してもよく、または、デフォーカス量算出部127が常に第1および第2の焦点検出信号に基づくデフォーカス量を算出して、それらのデフォーカス量から周期パターンの有無に応じて所定のデフォーカス量を選択してもよい。 Even in the modified example shown in FIG. 9, instead of the selection unit 125 selecting either or both of the first and second focus detection signals depending on the presence or absence of the periodic pattern, the correlation calculation unit The 126 may always perform a correlation calculation based on the first and second focus detection signals, and select a predetermined correlation calculation result from the correlation calculation results depending on the presence or absence of a periodic pattern, or calculate the defocus amount. The unit 127 may always calculate the defocus amount based on the first and second focus detection signals, and select a predetermined defocus amount from the defocus amount according to the presence or absence of the periodic pattern.

上述の第1の実施の形態または第1の変形例では、コントラスト量の多寡や周期パターンの有無に基づき、第1の撮像素子21からの第1の焦点検出信号または第2の撮像素子22からの第2の焦点検出信号を選択したが、これの代わりに、デジタルカメラ1の姿勢を姿勢センサーなどで検出し、デジタルカメラ1が通常位置、横位置にあるとき、すなわち、図3の第2の撮像素子22の画素配列の行方向が水平方向に一致するときには、第2の撮像素子22からの第2の焦点検出信号を選択する、すなわち第2の焦点検出信号を用いて焦点調節を行い、他方、デジタルカメラ1が縦位置にあるとき、すなわち、図3の第1の撮像素子21の画素配列の列方向が水平方向に一致するときには、第1の撮像素子21からの第1の焦点検出信号を選択し、すなわち第1の焦点検出信号を用いて焦点調節を行うように、することもできる。 In the first embodiment or the first modification described above, from the first focus detection signal from the first image sensor 21 or from the second image sensor 22 based on the amount of contrast and the presence or absence of the periodic pattern. The second focus detection signal of FIG. 3 is selected, but instead of this, the posture of the digital camera 1 is detected by an attitude sensor or the like, and when the digital camera 1 is in the normal position or the lateral position, that is, the second in FIG. When the row directions of the pixel arrangement of the image sensor 22 of the image sensor 22 match in the horizontal direction, the second focus detection signal from the second image sensor 22 is selected, that is, the focus is adjusted using the second focus detection signal. On the other hand, when the digital camera 1 is in the vertical position, that is, when the column directions of the pixel arrangements of the first image sensor 21 in FIG. 3 coincide with the horizontal direction, the first focus from the first image sensor 21 It is also possible to select the detection signal, that is, to perform focus adjustment using the first focus detection signal.

<第2の変形例>
図10は、本第1の実施の形態の第2の変形例を示したものである。第2の変形例は、図10において、実線で示すようにマイクロレンズ233の焦点233Fが第2の撮像素子22の第1および第2の光電変換部220a,220bに位置するか、または、破線で示すようにマイクロレンズ233の焦点233Fが第1の撮像素子21の第1および第2の光電変換部210a,210bに位置する。
<Second modification>
FIG. 10 shows a second modification of the first embodiment. In the second modification, as shown by the solid line in FIG. 10, the focal point 233F of the microlens 233 is located at the first and second photoelectric conversion units 220a and 220b of the second image sensor 22, or is a broken line. As shown by, the focal point 233F of the microlens 233 is located at the first and second photoelectric conversion units 210a and 210b of the first image sensor 21.

<第3の変形例>
図11は、本第1の実施の形態の第3の変形例を示したものである。図11において、マイクロレンズ233の焦点233F、すなわち焦点面は、第1の撮像素子21の第1および第2の光電変換部210a,210bの位置に位置する。第1の撮像素子21と第2の撮像素子22との間にインナーレンズ234が配置される。このインナーレンズ234の屈折力および配置位置は、インナーレンズ234に関して第1の撮像素子21の第1および第2の光電変換部210a,210bの位置と第2の撮像素子22の第1および第2の光電変換部220a,220bの位置とが光学的に共役となるように、定められている。
<Third variant>
FIG. 11 shows a third modification of the first embodiment. In FIG. 11, the focal point 233F of the microlens 233, that is, the focal plane, is located at the positions of the first and second photoelectric conversion units 210a and 210b of the first image sensor 21. The inner lens 234 is arranged between the first image sensor 21 and the second image sensor 22. The refractive power and the arrangement position of the inner lens 234 are the positions of the first and second photoelectric conversion units 210a and 210b of the first image sensor 21 and the first and second positions of the second image sensor 22 with respect to the inner lens 234. The positions of the photoelectric conversion units 220a and 220b of the above are set so as to be optically conjugated.

このインナーレンズ234を配置することによって、マイクロレンズ233およびインナーレンズ234に関して第2の撮像素子22の第1および第2の光電変換部220a,220bの位置と共役な位置は、マイクロレンズ233に関して第1の撮像素子21の第1および第2の光電変換部210a,210bの位置と共役な位置と一致する。換言すると、インナーレンズ234の配置によって、第1の撮像素子21に関する第1の測距瞳面の位置と第2の撮像素子22に関する第2の測距瞳面の位置とを一致させることができる。 By arranging the inner lens 234, the positions conjugate with the positions of the first and second photoelectric conversion units 220a and 220b of the second image sensor 22 with respect to the microlens 233 and the inner lens 234 are different with respect to the microlens 233. The position coincides with the position of the first and second photoelectric conversion units 210a and 210b of the image sensor 21 of 1. In other words, by arranging the inner lens 234, the position of the first ranging pupil surface with respect to the first image sensor 21 and the position of the second ranging pupil surface with respect to the second image sensor 22 can be matched. ..

<第4の変形例>
図12は、本第1の実施の形態に関する第4の変形例を示す断面図である。本第1の実施の形態は図4に示したように第1の撮像素子21は光電変換部として有機光電膜を使用し、第2の撮像素子22は光電変換部としてフォトダイオードを使用するものであった。第4の変形例は第1および第2の撮像素子21,22の両方とも、光電変換部として有機光電膜を使用するものである。
<Fourth modification>
FIG. 12 is a cross-sectional view showing a fourth modification of the first embodiment. In the first embodiment, as shown in FIG. 4, the first imaging element 21 uses an organic photoelectric film as a photoelectric conversion unit, and the second imaging element 22 uses a photodiode as a photoelectric conversion unit. Met. In the fourth modification, both the first and second image pickup devices 21 and 22 use an organic photoelectric film as a photoelectric conversion unit.

図12において、第1の撮像素子21の構成は、図4に示した第1の撮像素子21と同一である。第2の撮像素子23は、半導体基板50の上面に平坦化層55を介して形成され、各画素240は、紙面に垂直方向に配列された第1および第2の光電変換部240a,240bを有する。
第2の撮像素子23の各画素240は、有機光電膜250と、有機光電膜250の下面に形成された透明な共通電極251と、有機光電膜250の上面に形成された透明な第1および第2の部分電極252a,252bとを有する。第1および第2の部分電極252a,252bは、上述のように、紙面に垂直な方向、すなわち、第1の撮像素子21の第1および第2の第1および第2の部分電極232a,232bの配列方向と直交する方向に配列されている。第2の撮像素子23の各画素240は、有機光電膜250と共通電極251と第1の部分電極252aとが第1の光電変換部240aを構成し、有機光電膜250と共通電極251と第2の部分電極252bとが第2の光電変換部240bを構成する。
第1の撮像素子21と第2の撮像素子23との間には、絶縁層56が設けられている。第1の撮像素子22の信号読み出し回路、および、第2の撮像素子23の信号読み出し回路は、半導体基板50に形成されている。半導体基板50と第2の撮像素子23との間には例えば3層構造の配線層51が設けられている。
In FIG. 12, the configuration of the first image sensor 21 is the same as that of the first image sensor 21 shown in FIG. The second image sensor 23 is formed on the upper surface of the semiconductor substrate 50 via the flattening layer 55, and each pixel 240 has first and second photoelectric conversion units 240a and 240b arranged in the direction perpendicular to the paper surface. Have.
Each pixel 240 of the second image sensor 23 has an organic photoelectric film 250, a transparent common electrode 251 formed on the lower surface of the organic photoelectric film 250, and a transparent first and transparent electrodes 251 formed on the upper surface of the organic photoelectric film 250. It has a second partial electrode 252a, 252b. As described above, the first and second partial electrodes 252a and 252b are oriented in the direction perpendicular to the paper surface, that is, the first and second first and second partial electrodes 232a and 232b of the first image sensor 21. It is arranged in the direction orthogonal to the arrangement direction of. In each pixel 240 of the second image pickup device 23, the organic photoelectric film 250, the common electrode 251 and the first partial electrode 252a form the first photoelectric conversion unit 240a, and the organic photoelectric film 250, the common electrode 251 and the first The partial electrode 252b of 2 constitutes the second photoelectric conversion unit 240b.
An insulating layer 56 is provided between the first image sensor 21 and the second image sensor 23. The signal readout circuit of the first image pickup device 22 and the signal readout circuit of the second image pickup element 23 are formed on the semiconductor substrate 50. For example, a wiring layer 51 having a three-layer structure is provided between the semiconductor substrate 50 and the second image sensor 23.

以上のように、第4の変形例によると、第2の撮像素子23と半導体基板50との間の間隔には配線層51が設けられるので、比較的大きな間隔を必要とするが、第1および第2の撮像素子21,23との間隔は配線層51を必要としないので、比較的小さくすることができる。したがって、第1の撮像素子21に関する測距瞳面の位置と第2の撮像素子23に関する測距瞳面の位置とを接近させることができる。 As described above, according to the fourth modification, since the wiring layer 51 is provided at the distance between the second image sensor 23 and the semiconductor substrate 50, a relatively large distance is required, but the first Since the wiring layer 51 is not required, the distance between the second image sensor 21 and 23 and the second image sensor 21 and 23 can be relatively small. Therefore, the position of the distance measuring pupil surface with respect to the first image sensor 21 and the position of the distance measuring pupil surface with respect to the second image sensor 23 can be brought close to each other.

また、図13に示すように、第2の撮像素子22を裏面照射型の撮像素子としてもよい。これにより、上述の場合と同様に、第1および第2の撮像素子21,22との間隔は配線層51を必要としないので、比較的小さくすることができる。したがって、第1の撮像素子21に関する測距瞳面の位置と第2の撮像素子22に関する測距瞳面の位置とを接近させることができる。 Further, as shown in FIG. 13, the second image sensor 22 may be a back-illuminated image sensor. As a result, as in the above case, the distance between the first and second image sensors 21 and 22 does not require the wiring layer 51, so that the distance between them can be made relatively small. Therefore, the position of the distance measuring pupil surface of the first image sensor 21 and the position of the distance measuring pupil surface of the second image sensor 22 can be brought close to each other.

<第5の変形例>
図14は、本第1の実施の形態に関する第5の変形例を示すブロック図である。図5および図6に示した第1および第2の撮像素子21,22の信号読み出し回路にあっては、第1の光電変換信号が第1の水平出力回路152,162から出力され、第2の光電変換信号が第2の水平出力回路153,163から出力され、また、第1および第2の撮像素子21,22について、AD変換回路24が第1および第2の光電変換信号をAD変換し、制御部12の画像生成部12bが第1および第2の光電変換信号の加算を行うものであった。第5の変形例は、第2の撮像素子22の各画素220の第1および第2の光電変換信号をAD変換するAD変換部と、第1および第2の光電変換信号の両方を出力する第1および第2の光電変換信号用の水平出力回路と、第1および第2の光電変換信号を加算する加算回路と、加算信号を出力する加算信号用の水平出力回路とを有するものである。
<Fifth variant>
FIG. 14 is a block diagram showing a fifth modification of the first embodiment. In the signal readout circuits of the first and second image pickup devices 21 and 22 shown in FIGS. 5 and 6, the first photoelectric conversion signal is output from the first horizontal output circuits 152 and 162, and the second The photoelectric conversion signal of the above is output from the second horizontal output circuit 153, 163, and the AD conversion circuit 24 converts the first and second photoelectric conversion signals into AD for the first and second image sensors 21 and 22. Then, the image generation unit 12b of the control unit 12 adds the first and second photoelectric conversion signals. In the fifth modification, both the AD conversion unit that AD-converts the first and second photoelectric conversion signals of each pixel 220 of the second image sensor 22 and the first and second photoelectric conversion signals are output. It has a horizontal output circuit for the first and second photoelectric conversion signals, an addition circuit for adding the first and second photoelectric conversion signals, and a horizontal output circuit for the addition signal to output the addition signal. ..

図14において、第2の撮像素子22は、行走査回路161と、AD変換部164と、第1および第2の光電変換信号用の水平出力回路165と、加算部166と、加算信号用の水平出力回路167とを有する。以下の説明では、図6に示した、第2の撮像素子22の光電変換信号の読み出し回路との相違点を主に説明する。
AD変換部164は、行方向にn列配置された各画素220の第1の光電変換部220aのそれぞれに対応する、n個のADC(アナログ−デジタル変換回路)164aと、各画素220の第2の光電変換部220bのそれぞれに対応する、n個のADC164bとを備えている。
第1および第2の光電変換信号用の水平出力回路165は、AD変換部164のn個のADC164aにそれぞれ対応するn個のメモリ165aと、AD変換部164のn個のADC164bにそれぞれ対応するn個のメモリ165bとを備えている。
加算部166は、行方向にn列配置された各画素220のそれぞれに対応する、n個のデジタル加算回路165aを備えている。
加算信号用の水平出力回路167は、加算部166のn個のデジタル加算回路166aにそれぞれ対応するn個のメモリ167aを備えている。
In FIG. 14, the second image sensor 22 includes a row scanning circuit 161, an AD conversion unit 164, a horizontal output circuit 165 for the first and second photoelectric conversion signals, an addition unit 166, and an addition signal. It has a horizontal output circuit 167. In the following description, the differences from the photoelectric conversion signal reading circuit of the second image sensor 22 shown in FIG. 6 will be mainly described.
The AD conversion unit 164 has n ADCs (analog-to-digital conversion circuits) 164a corresponding to each of the first photoelectric conversion units 220a of each pixel 220 arranged in n columns in the row direction, and the second of each pixel 220. It is provided with n ADCs 164b corresponding to each of the photoelectric conversion units 220b of 2.
The horizontal output circuits 165 for the first and second photoelectric conversion signals correspond to n memories 165a corresponding to n ADCs 164a of the AD conversion unit 164 and n ADCs 164b of the AD conversion unit 164, respectively. It has n memories 165b.
The addition unit 166 includes n digital addition circuits 165a corresponding to each of the pixels 220 arranged in n columns in the row direction.
The horizontal output circuit 167 for the addition signal includes n memories 167a corresponding to the n digital addition circuits 166a of the addition unit 166.

タイミング信号R(1)に応じて、第1行目のn個の画素220の第1および第2の光電変換部220a,220bの光電変換信号が、それぞれ対応するAD変換部164のADC164a,164bに同時に出力される。ADC164a,164bは、入力された第1および第2の光電変換部220a,220bの光電変換信号をそれぞれデジタル信号に変換して、それぞれ対応する第1および第2の光電変換信号用の水平出力回路165のメモリ165a,165bに出力する。第1および第2の光電変換信号用の水平出力回路165の各メモリ165a,165bは、ADC164a,164bから出力されたデジタル信号をそれぞれ記憶する。第1および第2の光電変換信号用の水平出力回路165は各メモリ165a,165bに記憶した第1および第2の光電変換信号を順次、出力部165Aから出力する。
また、加算部166のデジタル加算回路166aは、各画素220毎にADC164a,164bによってAD変換された第1および第2の光電変換信号を加算する。加算信号用の水平出力回路167の各メモリ167aは、デジタル加算回路166aから出力されたデジタル加算信号をそれぞれ記憶する。加算信号用の水平出力回路167は各メモリ167aに記憶されたデジタル加算信号を順次、出力部167Aから出力する。
According to the timing signal R (1), the photoelectric conversion signals of the first and second photoelectric conversion units 220a and 220b of the n pixels 220 in the first row are the ADCs 164a and 164b of the corresponding AD conversion units 164, respectively. Is output at the same time. The ADCs 164a and 164b convert the input photoelectric conversion signals of the first and second photoelectric conversion units 220a and 220b into digital signals, respectively, and the horizontal output circuits for the corresponding first and second photoelectric conversion signals, respectively. It is output to the memories 165a and 165b of the 165. The memories 165a and 165b of the horizontal output circuits 165 for the first and second photoelectric conversion signals store the digital signals output from the ADCs 164a and 164b, respectively. The horizontal output circuit 165 for the first and second photoelectric conversion signals sequentially outputs the first and second photoelectric conversion signals stored in the memories 165a and 165b from the output unit 165A.
Further, the digital addition circuit 166a of the addition unit 166 adds the first and second photoelectric conversion signals AD-converted by the ADCs 164a and 164b for each pixel 220. Each memory 167a of the horizontal output circuit 167 for the addition signal stores the digital addition signal output from the digital addition circuit 166a. The horizontal output circuit 167 for the addition signal sequentially outputs the digital addition signal stored in each memory 167a from the output unit 167A.

次いで、タイミング信号R(2)に応じて、第2行目の複数の画素220の第1および第2の光電変換部220a,220bの第1および第2の光電変換信号がそれぞれAD変換部164でデジタル信号に変換されて、第1および第2の光電変換信号用の水平出力回路165の出力部165Aから順次出力される。また、AD変換部164でAD変換された第1および第2の光電変換信号はデジタル加算回路166aで加算され、加算信号が、加算信号用の水平出力回路167の出力部167Aから順次出力される。
その後、順次、タイミング信号R(m)に応じて、第(m)行目の複数の画素220の第1および第2の光電変換部220a,220bの第1および第2の光電変換信号がAD変換部164でデジタル信号に変換されて、第1および第2の光電変換信号用の水平出力回路165の出力部165Aから順次出力され、加算信号が加算信号用の水平出力回路167の出力部167Aから順次出力される。
このように、第1の撮像素子21の各画素210の第1および第2の光電変換部210a,210bの光電変換信号、および、第2の撮像素子22の各画素220の第1および第2の光電変換部220a,220bの光電変換信号は、各撮像素子21,22の外部で、すなわち図1の画像生成部12bで加算してもよく、図14に示すように各撮像素子21,22の内部で加算してもよい。
Next, according to the timing signal R (2), the first and second photoelectric conversion signals of the first and second photoelectric conversion units 220a and 220b of the plurality of pixels 220 in the second row are the AD conversion units 164, respectively. Is converted into a digital signal, and is sequentially output from the output unit 165A of the horizontal output circuit 165 for the first and second photoelectric conversion signals. Further, the first and second photoelectric conversion signals AD-converted by the AD conversion unit 164 are added by the digital addition circuit 166a, and the addition signals are sequentially output from the output unit 167A of the horizontal output circuit 167 for the addition signal. ..
After that, the first and second photoelectric conversion signals of the first and second photoelectric conversion units 220a and 220b of the plurality of pixels 220 in the first row (m) are sequentially AD according to the timing signal R (m). It is converted into a digital signal by the conversion unit 164 and sequentially output from the output unit 165A of the horizontal output circuit 165 for the first and second photoelectric conversion signals, and the addition signal is output unit 167A of the horizontal output circuit 167 for the addition signal. It is output sequentially from.
As described above, the photoelectric conversion signals of the first and second photoelectric conversion units 210a and 210b of each pixel 210 of the first image sensor 21 and the first and second photoelectric conversion signals of each pixel 220 of the second image sensor 22. The photoelectric conversion signals of the photoelectric conversion units 220a and 220b of the above may be added outside each of the image pickup elements 21 and 22, that is, the image generation unit 12b of FIG. 1, and as shown in FIG. 14, each of the image pickup elements 21 and 22 May be added inside.

<第6の変形例>
本第1の実施の形態では、図3に示したように第1の撮像素子21の各画素210における第1および第2の光電変換部210aおよび210bが、列方向、すなわち図3(a)で上下方向に配列され、第2の撮像素子22の各画素220における第1および第2の光電変換部220aおよび220bが、行方向、すなわち図3(b)で左右方向に配列されるように構成した。しかしながら、第1の撮像素子21の各画素210における第1および第2の光電変換部210aおよび210bが、行方向に配列され、第2の撮像素子22の各画素220における第1および第2の光電変換部220aおよび220bが、列方向に配列されるように構成してもよい。
<Sixth modification>
In the first embodiment, as shown in FIG. 3, the first and second photoelectric conversion units 210a and 210b in each pixel 210 of the first image sensor 21 are in the column direction, that is, in FIG. 3A. The first and second photoelectric conversion units 220a and 220b in each pixel 220 of the second image sensor 22 are arranged in the vertical direction in the row direction, that is, in the left-right direction in FIG. 3B. Configured. However, the first and second photoelectric conversion units 210a and 210b in each pixel 210 of the first image sensor 21 are arranged in the row direction, and the first and second photoelectric conversion units 210a and 210b in each pixel 210 of the second image sensor 22 are arranged in the row direction. The photoelectric conversion units 220a and 220b may be configured to be arranged in the column direction.

<第7の変形例>
本第1の実施の形態では、第1および第2の撮像素子21,22からの第1および第2の光電変換信号が、焦点検出信号として用いられると共に、画像信号として用いられるものであった。しかしながら、たとえば、第1および第2の撮像素子21,22の一方からの第1および第2の光電変換信号を画像信号に使用し、第1および第2の撮像素子21,22の他方からの第1および第2の光電変換信号を焦点検出信号に使用するようにしてもよい。
<7th variant>
In the first embodiment, the first and second photoelectric conversion signals from the first and second image sensors 21 and 22 are used as the focus detection signal and also as the image signal. .. However, for example, the first and second photoelectric conversion signals from one of the first and second image sensors 21 and 22 are used as the image signal, and the other of the first and second image sensors 21 and 22 is used. The first and second photoelectric conversion signals may be used as the focus detection signal.

<第8の変形例>
図15は、第8の変形例を示すものである。本第1の実施の形態にあっては、図3に示したように、第1の撮像素子21の各画素210の第1および第2の光電変換部210a,210bの形状は、大きな矩形を水平方向に2等分したような形状であり、第2の撮像素子22の各画素220の第1および第2の光電変換部220a,220bの形状は、大きな矩形を上下方向に2等分したような形状であった。第8の変形例は、第1および第2の撮像素子21,22の第1および第2の光電変換部の形状は、大きな矩形をその対角線方向に2等分したような形状である。図15(a)は、第1の撮像素子21の2行2列の画素210を示したもので、第1および第2の光電変換部210a,210bは、大きな正方形をその対角線で分断したような直角三角形状である。図15(b)は、第2の撮像素子22の2行2列の画素220を示したもので、第1および第2の光電変換部220a,220bは、第1の撮像素子21と同様に大きな正方形をその対角線で分断したような直角三角形状である、この分断方向は、第1の撮像素子21の分断方向と直交する。
したがって、第1の撮像素子21の各画素210の第1および第2の光電変換部210a,210bの並び方向、すなわち配列方向と、第2の撮像素子22の各画素220の第1および第2の光電変換部220a,220bの並び方向、すなわち配列方向とは、異なる。
<8th variant>
FIG. 15 shows an eighth modification. In the first embodiment, as shown in FIG. 3, the shapes of the first and second photoelectric conversion units 210a and 210b of each pixel 210 of the first image sensor 21 have a large rectangular shape. The shape is such that it is bisected in the horizontal direction, and the shapes of the first and second photoelectric conversion units 220a and 220b of each pixel 220 of the second image sensor 22 are bisected in the vertical direction. It was shaped like this. In the eighth modification, the shapes of the first and second photoelectric conversion portions of the first and second image sensors 21 and 22 are such that a large rectangle is bisected in the diagonal direction thereof. FIG. 15A shows the pixels 210 in 2 rows and 2 columns of the first image sensor 21, and the first and second photoelectric conversion units 210a and 210b appear to divide a large square by its diagonal line. It is a right triangle. FIG. 15B shows the pixels 220 in 2 rows and 2 columns of the second image sensor 22, and the first and second photoelectric conversion units 220a and 220b are the same as those of the first image sensor 21. It has a right-angled triangular shape as if a large square was divided by its diagonal line. This division direction is orthogonal to the division direction of the first image sensor 21.
Therefore, the arrangement direction of the first and second photoelectric conversion units 210a and 210b of each pixel 210 of the first image sensor 21, that is, the arrangement direction, and the first and second arrangement directions of each pixel 220 of the second image sensor 22. This is different from the arrangement direction of the photoelectric conversion units 220a and 220b, that is, the arrangement direction.

<第9の変形例>
図16は、第9の変形例を示すものである。本第1の実施の形態では、図3に示したように、第1の撮像素子21の各画素210、および、第2の撮像素子22の各画素220は、第1および第2の光電変換部を有するものであった。第9の変形例は、第1および第2の撮像素子21,22の各画素は、第1〜第4の光電変換部を有する。すなわち、第9の変形例は、各画素の光電変換部は、4分割されている。図16(a)において、第1および第2の撮像素子21,22の各画素210,220は、行方向および列方向に分割された第1〜第4の光電変換部210c〜210f,220c〜220fを有する。
<9th variant>
FIG. 16 shows a ninth modification. In the first embodiment, as shown in FIG. 3, each pixel 210 of the first image sensor 21 and each pixel 220 of the second image sensor 22 are subjected to first and second photoelectric conversion. It had a part. In the ninth modification, each pixel of the first and second image pickup devices 21 and 22 has a first to fourth photoelectric conversion unit. That is, in the ninth modification, the photoelectric conversion unit of each pixel is divided into four parts. In FIG. 16A, the pixels 210 and 220 of the first and second image pickup devices 21 and 22 are the first to fourth photoelectric conversion units 210c to 210f and 220c divided in the row direction and the column direction. It has 220f.

したがって、第1の撮像素子21の画素210について、例えば、第1の光電変換部210cの光電変換信号と第2の光電変換部210dの光電変換信号とから第1の焦点検出信号を作成すると共に、第2の撮像素子22の画素220について、例えば、第1の光電変換部220cの光電変換信号と第3の光電変換部220eの光電変換信号とから第2の焦点検出信号を作成すると、第1の撮像素子21の各画素210の第1および第2の光電変換部210c,210dの並び方向、すなわち配列方向と、第2の撮像素子22の各画素220の第1および第3の光電変換部220c,220eの並び方向、すなわち配列方向とは、異なることになる。 Therefore, for the pixel 210 of the first image pickup element 21, for example, a first focus detection signal is created from the photoelectric conversion signal of the first photoelectric conversion unit 210c and the photoelectric conversion signal of the second photoelectric conversion unit 210d. For the pixel 220 of the second imaging element 22, for example, when a second focus detection signal is created from the photoelectric conversion signal of the first photoelectric conversion unit 220c and the photoelectric conversion signal of the third photoelectric conversion unit 220e, the second focus detection signal is created. The arrangement direction, that is, the arrangement direction of the first and second photoelectric conversion units 210c and 210d of each pixel 210 of the image pickup element 21 and the first and third photoelectric conversion of each pixel 220 of the second image pickup element 22. The arrangement direction of the portions 220c and 220e, that is, the arrangement direction is different.

また、図16(b)において、第1および第2の撮像素子21,22の各画素210,220は、斜め方向に分割された第1〜第4の光電変換部210c〜210f,220c〜220fを有する。したがって、第1の撮像素子21の画素210について、例えば、第1の光電変換部210cの光電変換信号と第4の光電変換部210fの光電変換信号とから第1の焦点検出信号を作成すると共に、第2の撮像素子22の画素220について、例えば、第2の光電変換部220dの光電変換信号と第3の光電変換部220eの光電変換信号とから第2の焦点検出信号を作成すると、第1の撮像素子21の各画素210の第1および第4の光電変換部210c,210fの並び方向、すなわち配列方向と、第2の撮像素子22の各画素220の第2および第3の光電変換部220d,220eの並び方向、すなわち配列方向とは、異なることになる。 Further, in FIG. 16B, the pixels 210 and 220 of the first and second image pickup elements 21 and 22 are obliquely divided into the first to fourth photoelectric conversion units 210c to 210f and 220c to 220f. Has. Therefore, for the pixel 210 of the first image pickup element 21, for example, a first focus detection signal is created from the photoelectric conversion signal of the first photoelectric conversion unit 210c and the photoelectric conversion signal of the fourth photoelectric conversion unit 210f. For the pixel 220 of the second imaging element 22, for example, when a second focus detection signal is created from the photoelectric conversion signal of the second photoelectric conversion unit 220d and the photoelectric conversion signal of the third photoelectric conversion unit 220e, the second focus detection signal is created. The arrangement direction, that is, the arrangement direction of the first and fourth photoelectric conversion units 210c and 210f of each pixel 210 of the image pickup element 21 and the second and third photoelectric conversion of each pixel 220 of the second image pickup element 22. The arrangement direction of the parts 220d and 220e, that is, the arrangement direction is different.

<第10の変形例>
第10の変形例では、有機光電膜を用いた撮像素子を2層構造としたものである。
第1の撮像素子は、「Mg」画素と「Cy」画素と「Ye」画素とによって、マゼンタの色成分の例えば50%とシアンの色成分の例えば50%とイエローの色成分の例えば50%とを吸収し、マゼンタの色成分の残部とシアンの色成分の残部とイエローの色成分の残部とを透過させる共に、緑色成分と赤色成分と青色成分とを透過させる。
第3の撮像素子は、第1の撮像素子21と同様に、有機光電膜を光電変換部とする撮像素子である。第3の撮像素子は、第1の撮像素子の背後に積層配置され、第1の撮像素子と同様に、「Mg」画素と「Cy」画素と「Ye」画素とを有し、これらの「Mg」画素と「Cy」画素と「Ye」画素は、第1の撮像素子を透過したマゼンタの色成分の残部とシアンの色成分の残部とイエローの色成分の残部とをそれぞれ吸収すると共に、第1の撮像素子を透過した緑色成分と赤色成分と青色成分とを透過させる。
第2の撮像素子は、図3および図4に示した第2の撮像素子と全く同一のものであり、第3の撮像素子を透過した緑色成分と赤色成分と青色成分とを吸収して光電変換する。
したがって、第3の撮像素子の各画素の第1および第2の光電変換部として、例えば、図15(a)または(b)に示した光電変換部を使用すると、第1〜第3の撮像素子は、それぞれの第1および第2の光電変換部の並び方向がそれぞれ異なることになる。
<10th variant>
In the tenth modification, the image sensor using an organic photoelectric film has a two-layer structure.
The first imaging element is composed of "Mg" pixels, "Cy" pixels and "Ye" pixels, for example, 50% of the magenta color component, 50% of the cyan color component, and 50% of the yellow color component. And the rest of the magenta color component, the rest of the cyan color component, and the rest of the yellow color component are transmitted, and the green component, the red component, and the blue component are transmitted.
The third image sensor, like the first image sensor 21, is an image sensor that uses an organic photoelectric film as a photoelectric conversion unit. The third image sensor is stacked behind the first image sensor and, like the first image sensor, has "Mg" pixels, "Cy" pixels, and "Ye" pixels. The "Mg" pixel, "Cy" pixel, and "Ye" pixel absorb the balance of the magenta color component, the balance of the cyan color component, and the balance of the yellow color component that have passed through the first image sensor, respectively. The green component, the red component, and the blue component that have passed through the first image sensor are transmitted.
The second image sensor is exactly the same as the second image sensor shown in FIGS. 3 and 4, and absorbs the green component, the red component, and the blue component transmitted through the third image sensor and is photoelectric. Convert.
Therefore, if, for example, the photoelectric conversion unit shown in FIGS. 15A or 15B is used as the first and second photoelectric conversion units of each pixel of the third image sensor, the first to third imaging can be performed. The elements are arranged in different directions of the first and second photoelectric conversion units.

更に、第3の撮像素子と第2の撮像素子との間に、「R」画素と「G」画素と「B」画素とを有する有機光電膜を用いた第4の撮像素子を設けてもよい。この第4の撮像素子の「R」画素と「G」画素と「B」画素は、第3の撮像素子を透過した赤色成分の例えば50%と緑色成分の例えば50%と青色成分の例えば50%とを吸収し、残りを透過させる。これによって、「Mg」画素と「Cy」画素と「Ye」画素とを有する第1および第3の撮像素子と、「R」画素と「G」画素と「B」画素とを有する第2および第4の撮像素子とが互いに積層される。これらの第1〜第4の撮像素子の各画素の光電変換部の構成として、図3、図15、図16などの構成を使用することによって、撮像素子毎に、光電変換部の並び方向を異ならせることができる。 Further, even if a fourth image sensor using an organic photoelectric film having "R" pixels, "G" pixels and "B" pixels is provided between the third image sensor and the second image sensor. Good. The "R" pixel, "G" pixel, and "B" pixel of the fourth image sensor have, for example, 50% of the red component, for example 50% of the green component, and for example 50 of the blue component that have passed through the third image sensor. % And permeate the rest. As a result, the first and third image sensors having "Mg" pixels, "Cy" pixels and "Ye" pixels, and the second and third image sensors having "R" pixels, "G" pixels and "B" pixels are provided. The fourth image pickup element and the fourth image pickup element are laminated with each other. By using the configurations shown in FIGS. 3, 15, 15 and 16 as the configurations of the photoelectric conversion units of each pixel of the first to fourth image pickup elements, the arrangement direction of the photoelectric conversion units can be set for each image pickup element. Can be different.

<第11の変形例>
本第1の実施の形態では、第1の撮像素子21の第(n)列目の複数の画素210の第1および第2の光電変換部210a,210bの第1および第2の光電変換信号がそれぞれ第1および第2の水平出力回路152,153に同時に読み出され、第1および第2の水平出力回路152,153の出力部152A,153Aから順次、出力されるものであった。第11の変形例は、第1の撮像素子21の各画素210の第1および第2の光電変換部210aおよび210bの光電変換信号の読み出し回路が、図6に示すもの、すなわち、第2の撮像素子22の読み出し回路と同一構成のものである。
<11th modification>
In the first embodiment, the first and second photoelectric conversion signals of the first and second photoelectric conversion units 210a and 210b of the plurality of pixels 210 in the first (n) row of the first image sensor 21. Are simultaneously read out to the first and second horizontal output circuits 152 and 153, respectively, and are sequentially output from the output units 152A and 153A of the first and second horizontal output circuits 152 and 153, respectively. In the eleventh modification, the photoelectric conversion signal reading circuits of the first and second photoelectric conversion units 210a and 210b of each pixel 210 of the first image sensor 21 are shown in FIG. 6, that is, the second. It has the same configuration as the readout circuit of the image sensor 22.

行走査回路161は、複数の画素210の第1および第2の光電変換部210a,210bに対して信号読み出し用のタイミング信号R(m)を出力する。すなわち、行走査回路161は、第1行目の複数の画素210の第1および第2の光電変換部210a,210bに対して信号読み出し用のタイミング信号R(1)を出力し、次いで、第2行目の複数の画素210の第1および第2の光電変換部210a,210bに対して信号読み出し用のタイミング信号R(2)を出力し、その後、順次、第(m)行目の複数の画素210の第1および第2の光電変換部210a,210bに対して信号読み出し用のタイミング信号R(m)を出力する。 The row scanning circuit 161 outputs a timing signal R (m) for signal reading to the first and second photoelectric conversion units 210a and 210b of the plurality of pixels 210. That is, the row scanning circuit 161 outputs the timing signal R (1) for signal reading to the first and second photoelectric conversion units 210a and 210b of the plurality of pixels 210 in the first row, and then the second row scanning circuit 161. The timing signal R (2) for signal reading is output to the first and second photoelectric conversion units 210a and 210b of the plurality of pixels 210 in the second row, and then the plurality of pixels in the second row (m) are sequentially output. The timing signal R (m) for signal reading is output to the first and second photoelectric conversion units 210a and 210b of the pixel 210.

タイミング信号R(m)に応じて、第1の水平出力回路162は、第(m)行目の複数の画素210の第1の光電変換部210aの第1の光電変換信号を同時に読み出し、同様に、第2の水平出力回路163は、第(m)行目の複数の画素210の第2の光電変換部210bの第2の光電変換信号を同時に読み出す。
第1の水平出力回路162は、読み出した第1の光電変換部210aの第1の光電変換信号を出力部162Aから出力し、第2の水平出力回路163は、読み出した第2の光電変換部210bの第2の光電変換信号を出力部163Aから出力する。
In response to the timing signal R (m), the first horizontal output circuit 162 simultaneously reads out the first photoelectric conversion signal of the first photoelectric conversion unit 210a of the plurality of pixels 210 in the (m) row, and similarly. In addition, the second horizontal output circuit 163 simultaneously reads out the second photoelectric conversion signal of the second photoelectric conversion unit 210b of the plurality of pixels 210 in the second row (m).
The first horizontal output circuit 162 outputs the first photoelectric conversion signal of the read first photoelectric conversion unit 210a from the output unit 162A, and the second horizontal output circuit 163 reads out the second photoelectric conversion unit. The second photoelectric conversion signal of 210b is output from the output unit 163A.

第1の水平出力回路162から出力された第1の光電変換信号と第2の水平出力回路163から出力された第2の光電変換信号は、図1に示されたバッファメモリ16を介して焦点検出部12aおよび画像生成部12bに送られ、焦点検出部12aは、同時に読み出された第(m)行目の第1および第2の光電変換部210a,210bの第1および第2の光電変換信号に基づき、位相差焦点検出演算を行う。また、画像生成部12bは、各画素210の第1および第2の光電変換部210a,210bの第1および第2の光電変換信号を加算して、画像信号を生成する。 The first photoelectric conversion signal output from the first horizontal output circuit 162 and the second photoelectric conversion signal output from the second horizontal output circuit 163 are focused via the buffer memory 16 shown in FIG. The first and second photoelectrics of the first and second photoelectric conversion units 210a and 210b of the first and second rows (m) that were sent to the detection unit 12a and the image generation unit 12b and simultaneously read out by the focus detection unit 12a. The phase difference focus detection calculation is performed based on the converted signal. Further, the image generation unit 12b adds the first and second photoelectric conversion signals of the first and second photoelectric conversion units 210a and 210b of each pixel 210 to generate an image signal.

第11の変形例では、第2の撮像素子22と同様に、同一行に配列された複数の画素210の第1の光電変換部210aの第1の光電変換信号が同時に読み出され、第2の光電変換部210bの第2の光電変換信号を同時に読み出される。これにより、後述するように、第1および第2の撮像素子21,22に関する対応関係の画素210,220の第1および第2の光電変換信号を合成して画像を得る場合に、対応関係の画素210,220同士の読み出しタイミングを一致させることができるので、得られる画像の画質を向上できる。 In the eleventh modification, similarly to the second image sensor 22, the first photoelectric conversion signal of the first photoelectric conversion unit 210a of the plurality of pixels 210 arranged in the same row is simultaneously read out, and the second. The second photoelectric conversion signal of the photoelectric conversion unit 210b of the above is read out at the same time. As a result, as will be described later, when the first and second photoelectric conversion signals of the corresponding pixels 210 and 220 related to the first and second image sensors 21 and 22 are combined to obtain an image, the corresponding relationship is obtained. Since the read timings of the pixels 210 and 220 can be matched, the image quality of the obtained image can be improved.

<第12の変形例>
本第1の実施の形態では、画像生成部12bが、第1の撮像素子21の各画素の第1および第2の光電変換信号を加算して第1の画像信号を生成すると共に、第2の撮像素子22の各画素の第1および第2の光電変換信号を加算して第2の画像信号を生成するものであった。第12の変形例は、更に、画像生成部12bが、第1の水平出力回路152から出力された第1の撮像素子21の各画素の第1の光電変換信号に基づき、例えば左眼用の画像信号を、第2の水平出力回路153から出力された各画素の第2の光電変換信号に基づき、例えば右眼用の画像信号を、それぞれ生成して、第1の立体画像信号を生成する。同様に、画像生成部12bが、第1の水平出力回路162から出力された第2の撮像素子22の各画素の第1の光電変換信号に基づき、例えば左眼用の画像信号を、第2の水平出力回路163から出力された各画素の第2の光電変換信号に基づき、例えば右眼用の画像信号を、それぞれ生成して、第2の立体画像信号を生成する。
<12th variant>
In the first embodiment, the image generation unit 12b adds the first and second photoelectric conversion signals of each pixel of the first image sensor 21 to generate the first image signal and the second image signal. The second image signal was generated by adding the first and second photoelectric conversion signals of each pixel of the image sensor 22. In the twelfth modification, the image generation unit 12b is based on the first photoelectric conversion signal of each pixel of the first image sensor 21 output from the first horizontal output circuit 152, for example, for the left eye. The image signal is generated based on the second photoelectric conversion signal of each pixel output from the second horizontal output circuit 153, for example, an image signal for the right eye is generated, and a first stereoscopic image signal is generated. .. Similarly, the image generation unit 12b obtains, for example, an image signal for the left eye, based on the first photoelectric conversion signal of each pixel of the second image sensor 22 output from the first horizontal output circuit 162. Based on the second photoelectric conversion signal of each pixel output from the horizontal output circuit 163 of the above, for example, an image signal for the right eye is generated, respectively, to generate a second stereoscopic image signal.

画像処理部14は、画像生成部12bからの第1および第2の立体画像信号に対して、補間処理、圧縮処理、ホワイトバランス処理などの各種の画像処理を行って第1および第2の立体画像データを生成する。第1および第2の立体画像データは、モニタ15に表示されたり、メモリカード17に格納されたりする。 The image processing unit 14 performs various image processing such as interpolation processing, compression processing, and white balance processing on the first and second stereoscopic image signals from the image generation unit 12b to perform the first and second stereoscopic processing. Generate image data. The first and second stereoscopic image data are displayed on the monitor 15 or stored in the memory card 17.

次に、第1および第2の立体画像データの再生について説明する。第1の撮像素子21からの第1および第2の光電変換信号による第1の立体画像信号は、撮像素子の画素の列方向、すなわち撮影光学系10の瞳の第1および第2の瞳領域の並び方向に視差を有する。同様に、第2の撮像素子22からの第1および第2の光電変換信号による第2の立体画像信号は、撮像素子の画素の行方向、すなわち撮影光学系10の瞳の第3および第4の瞳領域の並び方向に視差を有する。
そこで、図1に示したモニタ15は、観察者の顔が正立または直立している場合には、行方向に視差を有する第2の立体画像信号に基づき立体画像を表示し、逆に、観察者が寝転がっているなどして観察者の顔が横に傾いている場合には、列方向に視差を有する第1の立体画像信号に基づき立体画像を表示する。
Next, reproduction of the first and second stereoscopic image data will be described. The first stereoscopic image signal by the first and second photoelectric conversion signals from the first image sensor 21 is the row direction of the pixels of the image sensor, that is, the first and second pupil regions of the pupil of the photographing optical system 10. Has parallax in the direction of arrangement. Similarly, the second stereoscopic image signal by the first and second photoelectric conversion signals from the second image sensor 22 is the row direction of the pixels of the image sensor, that is, the third and fourth pupils of the photographing optical system 10. Has parallax in the alignment direction of the pupil region of.
Therefore, when the observer's face is upright or upright, the monitor 15 shown in FIG. 1 displays a stereoscopic image based on a second stereoscopic image signal having a parallax in the row direction, and conversely, When the observer's face is tilted sideways, such as when the observer is lying down, the stereoscopic image is displayed based on the first stereoscopic image signal having a parallax in the row direction.

なお、このように、観察者の顔の傾きに応じて表示する立体画像を切り替えるためには、例えばモニタ15の外側に撮像装置を設置し、この撮像装置によって、観察者の顔を撮像し、図1に示した制御部12に設けられた公知の顔認識部によって、観察者の顔を認識し、認識した顔における左右の目の並びの方向を検出し、この目の並び方向に基づき、顔の正立または横向きを判定する。上述した観察者の顔の傾きに応じて立体画像の表示を切り替えることは、モニタ15以外のモニタにおいても実施することができる。例えば、第1および第2の立体画像信号をパソコンなどに転送して、そのパソコンのモニタにおいて観察者の顔の傾き角度に応じて、第1の立体画像信号に基づく立体画像と第2の立体画像信号に基づく立体画像とを切り替えることができる。 In this way, in order to switch the stereoscopic image to be displayed according to the inclination of the observer's face, for example, an image pickup device is installed outside the monitor 15, and the observer's face is imaged by this image pickup device. A known face recognition unit provided in the control unit 12 shown in FIG. 1 recognizes the observer's face, detects the direction of left and right eye alignment in the recognized face, and based on this eye alignment direction. Determine whether the face is upright or sideways. Switching the display of the stereoscopic image according to the inclination of the observer's face described above can also be performed on a monitor other than the monitor 15. For example, the first and second stereoscopic image signals are transferred to a personal computer or the like, and the stereoscopic image based on the first stereoscopic image signal and the second stereoscopic image are displayed according to the tilt angle of the observer's face on the monitor of the personal computer. It is possible to switch between a stereoscopic image based on an image signal.

以上のように、本変形例によると、互いに異なった方向に視差を有する第1および第2の立体画像信号が生成されるので、観察者の顔の傾き角度に応じて、立体画像表示を切り替えることができ、これによって例えば、顔が正立していても横を向いていても効果的に立体視が可能になる。 As described above, according to this modification, since the first and second stereoscopic image signals having parallax in different directions are generated, the stereoscopic image display is switched according to the tilt angle of the observer's face. This allows, for example, to effectively enable stereoscopic viewing whether the face is upright or sideways.

<第2の実施の形態>
図17は、第2の実施の形態の基本的な考え方を示したものである。上述の第1の実施の形態では、第1の撮像素子21の画素210は、第1および第2の光電変換部210a,210bの第1および第2の光電変換信号を加算して画像信号を生成するが、図17(a)に示すように第1および第2の光電変換部210a,210bは、間隙210cを隔てて配置されているので、この間隙210cに入射した光束は、光電変換されない。すなわち、画素210は、入射光束に関して不感帯領域210cが生じている。同様に第2の撮像素子22の画素220も第1および第2の光電変換部220a,220bの第1および第2の光電変換信号を加算して画像信号を生成するが、図17(b)に示すように第1および第2の光電変換部220a,220bが間隙220cを隔てて配置されているので、その間隙220cが画素220への入射光束に関して不感帯領域となっている。第2の実施の形態は、このような画像信号に関する不感帯領域を減少させるものである。
<Second Embodiment>
FIG. 17 shows the basic idea of the second embodiment. In the first embodiment described above, the pixels 210 of the first image sensor 21 add the first and second photoelectric conversion signals of the first and second photoelectric conversion units 210a and 210b to obtain an image signal. However, as shown in FIG. 17A, since the first and second photoelectric conversion units 210a and 210b are arranged with the gap 210c spaced apart, the light flux incident on the gap 210c is not photoelectrically converted. .. That is, the pixel 210 has a dead zone region 210c with respect to the incident luminous flux. Similarly, the pixel 220 of the second image sensor 22 also adds the first and second photoelectric conversion signals of the first and second photoelectric conversion units 220a and 220b to generate an image signal. FIG. 17B Since the first and second photoelectric conversion units 220a and 220b are arranged with a gap 220c as shown in the above, the gap 220c is a dead zone region with respect to the incident light flux to the pixel 220. The second embodiment reduces the dead zone region for such an image signal.

図17(c)に示したように、撮像素子21と撮像素子22との対応関係にある画素210と220とを重ねて表示すると、第1の撮像素子21の画素210の不感帯領域210cの大部分には、第2の撮像素子22の画素220の第1および第2の光電変換部220a,220bが存在し、第2の撮像素子22の画素220の不感帯領域220cの大部分には、第1の撮像素子21の画素210の第1および第2の光電変換部210a,210bが存在する。したがって、対応関係にある画素210および220の全体における不感帯領域は、図17(c)に示したように不感帯領域210cと不感帯領域220cとの重なり部分291、すなわち、ハッチングを付した非常に小さな領域になる。 As shown in FIG. 17C, when the pixels 210 and 220, which are in a corresponding relationship between the image sensor 21 and the image sensor 22, are displayed in an overlapping manner, the large dead zone region 210c of the pixels 210 of the first image sensor 21 is displayed. The first and second photoelectric conversion units 220a and 220b of the pixel 220 of the second image sensor 22 are present in the portion, and the most of the dead zone region 220c of the pixel 220 of the second image sensor 22 is the second. There are first and second photoelectric conversion units 210a and 210b of the pixel 210 of the image sensor 21 of 1. Therefore, the dead zone region in the entire of the corresponding pixels 210 and 220 is the overlapping portion 291 of the dead zone region 210c and the dead zone region 220c as shown in FIG. 17C, that is, a very small region with hatching. become.

図18は、第2の実施の形態による第1および第2の撮像素子21,22に関する対応関係の画素210,220の第1および第2の光電変換信号の合成方法を示す図である。図18(a)は、第1の撮像素子21の一部の画素である2行×2列の「Mg」画素210と「Ye」画素210と「Cy」画素210と「Mg」画素210とを示し、図18(c)は、図18(a)の第1の撮像素子21の2行×2列の画素210にそれぞれ対応関係にある第2の撮像素子22の一部の画素である2行×2列の「G」画素220と「B」画素220と「R」画素220と「G」画素220を示す。 FIG. 18 is a diagram showing a method of synthesizing the first and second photoelectric conversion signals of the corresponding pixels 210 and 220 with respect to the first and second image sensors 21 and 22 according to the second embodiment. FIG. 18A shows two rows × two columns of “Mg” pixels 210, “Ye” pixels 210, “Cy” pixels 210, and “Mg” pixels 210, which are some pixels of the first image pickup element 21. 18 (c) is a part of the pixels of the second image pickup element 22 that correspond to the pixels 210 of the first image pickup element 21 of FIG. 18 (a) in 2 rows × 2 columns, respectively. 2 rows × 2 columns “G” pixel 220, “B” pixel 220, “R” pixel 220, and “G” pixel 220 are shown.

図18(a)に示したように、第1の撮像素子21の「Cy」画素210と二つの「Mg」画素210と「Ye」画素210は、CMY画像信号を出力し、このCMY画像信号は、図1に示した画像処理部14で公知の表色系変換処理によってRGB画像信号に変換される。この表色系変換処理によって生成したRGB画像信号は、RGB画像信号と画素210との関係で見ると、図18(a)に示した「Mg」画素210があたかもG信号を出力し、「Ye」画素210があたかもB信号を出力し、「Cy」画素210があたかもR信号を出力したものとなる。図18(b)は、RGB画像信号と画素210との関係を示したものである。 As shown in FIG. 18A, the “Cy” pixel 210, the two “Mg” pixels 210, and the “Ye” pixel 210 of the first image sensor 21 output a CMY image signal, and the CMY image signal is output. Is converted into an RGB image signal by a color system conversion process known by the image processing unit 14 shown in FIG. Looking at the RGB image signal generated by this color system conversion process in relation to the RGB image signal and the pixel 210, the “Mg” pixel 210 shown in FIG. 18A outputs a G signal as if it were “Ye”. The pixel 210 outputs the B signal, and the "Cy" pixel 210 outputs the R signal. FIG. 18B shows the relationship between the RGB image signal and the pixel 210.

図1に示した画像処理部14は、図18(b)に示された第1の撮像素子21の各画素210の画像信号と、これに対応関係の、図18(c)に示された第2の撮像素子22の各画素220の画像信号とを加算する。すなわち画像処理部14は、図18(b)および(c)において、左上の画素210、220のG信号同士を加算してG加算信号を生成し、右上の画素210、220のB信号同士を加算してB加算信号を生成し、左下の画素210、220のR信号同士を加算してR加算信号を生成し、右下の画素210、220のG信号同士を加算してG加算信号を生成する。勿論、これらは、加算の代わりに、加算平均してもよい。 The image processing unit 14 shown in FIG. 1 has an image signal of each pixel 210 of the first image sensor 21 shown in FIG. 18 (b) and a corresponding relationship with the image signal shown in FIG. 18 (c). The image signal of each pixel 220 of the second image sensor 22 is added. That is, in FIGS. 18B and 18C, the image processing unit 14 adds the G signals of the upper left pixels 210 and 220 to generate a G addition signal, and the B signals of the upper right pixels 210 and 220 are combined. The B addition signal is generated by adding, the R signals of the lower left pixels 210 and 220 are added to generate the R addition signal, and the G signals of the lower right pixels 210 and 220 are added to obtain the G addition signal. Generate. Of course, these may be added and averaged instead of the addition.

図18(d)は、撮像素子21の画素210と、これと対応関係の撮像素子22の画素220とを重ねて表示し、重ねられた画素210,220と加算信号との関係を模式的に示したものである。R,GおよびBの加算信号に関する不感帯は、図18(d)のハッチング領域291となり、非常に小さくすることができる。 FIG. 18D schematically shows the relationship between the pixels 210 of the image pickup device 21 and the pixels 220 of the image pickup device 22 having a corresponding relationship with the pixels 210, and the superimposed pixels 210 and 220 and the addition signal. It is shown. The dead zone for the added signals of R, G, and B is the hatched area 291 of FIG. 18 (d), which can be made very small.

<第3の実施の形態>
第3の実施の形態では、ローリングシャッタ歪みの補正について説明する。
図19は、第3の実施の形態の原理を説明するためのものである。上述したように、第1の撮像素子21の各画素210の第1および第2の光電変換部210aおよび210bの光電変換信号は、列毎に順次読み出され、第2の撮像素子22の各画素220の第1および第2の光電変換部220aおよび220bの光電変換信号は、行毎に順次読み出される。そのため、被写体が動いていると、撮像画像の移動被写体像にはいわゆるローリングシャッタ歪みが生じてしまう。
<Third embodiment>
In the third embodiment, correction of rolling shutter distortion will be described.
FIG. 19 is for explaining the principle of the third embodiment. As described above, the photoelectric conversion signals of the first and second photoelectric conversion units 210a and 210b of each pixel 210 of the first imaging element 21 are sequentially read out for each column, and each of the second imaging elements 22. The photoelectric conversion signals of the first and second photoelectric conversion units 220a and 220b of the pixel 220 are sequentially read line by line. Therefore, when the subject is moving, so-called rolling shutter distortion occurs in the moving subject image of the captured image.

例えば、第1および第2の撮像素子21,22の行方向が水平となるようにデジタルカメラ1の姿勢を保ちつつ、正方形の被写体を撮像すると、被写体が静止していれば、図19(a)に示すように、第1および第2の撮像素子21,22によってそれぞれ撮像して得られた画像180における被写体像181は共に歪まない。しかし、被写体が水平方向に移動している場合、第1の撮像素子21の読み出し回路が図5に示す読み出し回路であれば、第1の撮像素子21によって撮像された被写体像181は、移動方向に応じて図19(b)または(c)に示すように、左右方向の長さが変化する。すなわち、図19(b)に示すように、被写体の移動方向が矢印方向(右方向へ移動)であると、被写体像181は、伸張され、図19(c)に示すように、被写体の移動が矢印方向(左方向へ移動)であると、被写体像181は短縮される。また、第2の撮像素子22の読み出し回路が図6に示す読み出し回路であれば、第2の撮像素子22によって撮像された被写体像181は、図19(d)または(e)に示すように、傾いてしまう。 For example, when a square subject is imaged while maintaining the posture of the digital camera 1 so that the row directions of the first and second image sensors 21 and 22 are horizontal, if the subject is stationary, FIG. 19 (a) ), The subject image 181 in the image 180 obtained by imaging by the first and second image sensors 21 and 22, respectively, is not distorted. However, when the subject is moving in the horizontal direction, if the reading circuit of the first image sensor 21 is the reading circuit shown in FIG. 5, the subject image 181 captured by the first image sensor 21 will move in the moving direction. As shown in FIG. 19 (b) or (c), the length in the left-right direction changes accordingly. That is, as shown in FIG. 19 (b), when the moving direction of the subject is the arrow direction (moving to the right), the subject image 181 is stretched and the subject is moved as shown in FIG. 19 (c). When is in the arrow direction (moves to the left), the subject image 181 is shortened. Further, if the readout circuit of the second image pickup element 22 is the readout circuit shown in FIG. 6, the subject image 181 captured by the second image pickup element 22 is as shown in FIGS. 19D or 19E. , Will tilt.

図20は、第3の実施の形態を示したブロック図である。第1の画像信号取得部200は、第1の撮像素子21から繰り返し出力される画像信号を順次取得し、第2の画像信号取得部201は、第2の撮像素子22から繰り返し出力される画像信号を取得する。移動方向検出部202は、第1の画像信号取得部200からの画像信号と第2の画像信号取得部201からの画像信号とに基づき、移動被写体の移動方向を検出する。この移動方向の検出は、繰り返し出力された画像信号を比較することによって求めることができる。移動方向検出部202は、第1の画像信号取得部200と第2の画像信号取得部201との一方からの画像信号に基づいて移動方向を検出することもできる。 FIG. 20 is a block diagram showing a third embodiment. The first image signal acquisition unit 200 sequentially acquires the image signals repeatedly output from the first image sensor 21, and the second image signal acquisition unit 201 sequentially outputs the images repeatedly output from the second image sensor 22. Get the signal. The moving direction detection unit 202 detects the moving direction of the moving subject based on the image signal from the first image signal acquisition unit 200 and the image signal from the second image signal acquisition unit 201. The detection of this moving direction can be obtained by comparing the repeatedly output image signals. The moving direction detection unit 202 can also detect the moving direction based on the image signal from one of the first image signal acquisition unit 200 and the second image signal acquisition unit 201.

選択部203は、移動方向検出部202が検出した被写体の移動方向に基づき、第1の画像信号取得部200または第2の画像信号取得部201からの画像信号を選択する。具体的には、選択部203は、被写体の移動方向が左右方向である場合には第1の画像信号取得部200からの画像信号、すなわち第1の撮像素子21の画像信号を選択し、被写体の移動方向が上下方向である場合には第2の画像信号取得部201からの画像信号、すなわち第2の撮像素子22の画像信号を選択する。選択部203によって選択された画像信号は、モニタ15に表示されるか、またはメモリカード17に記憶される。このようにして、選択部が選択する画像信号は、図19(d)または(e)のような傾斜歪みを持つ画像ではなく、図19(b)または(c)のような傾斜歪みのない画像信号となる。 The selection unit 203 selects an image signal from the first image signal acquisition unit 200 or the second image signal acquisition unit 201 based on the movement direction of the subject detected by the movement direction detection unit 202. Specifically, when the moving direction of the subject is the left-right direction, the selection unit 203 selects the image signal from the first image signal acquisition unit 200, that is, the image signal of the first image sensor 21, and the subject. When the moving direction is the vertical direction, the image signal from the second image signal acquisition unit 201, that is, the image signal of the second image sensor 22 is selected. The image signal selected by the selection unit 203 is displayed on the monitor 15 or stored in the memory card 17. In this way, the image signal selected by the selection unit is not an image having tilt distortion as shown in FIG. 19 (d) or (e), and is not an image having tilt distortion as shown in FIG. 19 (b) or (c). It becomes an image signal.

また、たとえば、図19(b)または(c)に示した被写体像181と、図19(d)または(e)に示した被写体像181と被写体移動方向情報とを用いて、このローリングシャッタ歪みを補正した画像を生成するように構成してもよい。すなわち、例えば、図19(b)または(c)に示した傾斜歪みの存在しない被写体像181の特定部分の角度αを検出すると共に、図19(d)または(e)に示した傾斜歪みが生じた被写体像181の前記特定部分の角度θを検出する。これらの角度αと角度θとを比較することによって、傾斜歪みに起因する角度を算出し、この傾斜歪みに起因する角度を補正することによって、傾斜歪みの存在しない被写体画像を生成する。
なお、上述した各実施の形態および変形例は、それぞれ組み合わせてもよい。
Further, for example, using the subject image 181 shown in FIG. 19 (b) or (c), the subject image 181 shown in FIG. 19 (d) or (e), and the subject moving direction information, this rolling shutter distortion is used. It may be configured to generate an image corrected by. That is, for example, the angle α of the specific portion of the subject image 181 in which the tilt distortion does not exist as shown in FIG. 19B or (c) is detected, and the tilt distortion shown in FIG. 19D or (e) is detected. The angle θ of the specific portion of the generated subject image 181 is detected. By comparing these angles α and the angle θ, the angle caused by the tilt distortion is calculated, and by correcting the angle caused by the tilt distortion, a subject image without the tilt distortion is generated.
In addition, each of the above-described embodiments and modifications may be combined.

上記では、種々の実施の形態および変形例を説明したが、本発明はこれらの内容に限定されるものではない。本発明の技術的思想の範囲内で考えられるその他の態様も本発明の範囲内に含まれる。 Although various embodiments and modifications have been described above, the present invention is not limited to these contents. Other aspects conceivable within the scope of the technical idea of the present invention are also included within the scope of the present invention.

1;デジタルカメラ、10;撮影光学系、11;撮像部、12;制御部、21;第1の撮像素子、22,23;第2の撮像素子、210,220;画素、210a;第1の光電変換部、210b;第2の光電変換部、220a;第1の光電変換部、220b;第2の光電変換部、151;列走査回路、152;第1の水平出力回路、153;第2の水平出力回路、161;行走査回路、162;第1の水平出力回路、163;第2の水平出力回路
233;マイクロレンズ、233F;焦点、234;インナーレンズ
1; Digital camera, 10; Imaging optical system, 11; Imaging unit, 12; Control unit, 21; First imaging element, 22, 23; Second imaging element, 210, 220; Pixel, 210a; First Photoelectric conversion unit, 210b; 2nd photoelectric conversion unit, 220a; 1st photoelectric conversion unit, 220b; 2nd photoelectric conversion unit, 151; row scanning circuit, 152; 1st horizontal output circuit, 153; second Horizontal output circuit, 161; row scanning circuit, 162; first horizontal output circuit, 163; second horizontal output circuit 233; microlens, 233F; focus, 234; inner lens

Claims (14)

第1の方向に配置され、光を光電変換して電荷を生成する第1の光電変換部および第2の光電変換部と、
前記第1の方向とは異なる第2の方向に配置され、前記第1の光電変換部と前記第2の光電変換部とを透過した光を光電変換して電荷を生成する第3の光電変換部および第4の光電変換部と、
前記第1の光電変換部で生成された電荷に基づく信号および前記第2の光電変換部で生成された電荷に基づく信号の少なくとも一方を出力する信号線と、前記第3の光電変換部で生成された電荷に基づく信号および前記第4の光電変換部で生成された電荷に基づく信号の少なくとも一方を出力する信号線と、を備える撮像素子。
A first photoelectric conversion unit and a second photoelectric conversion unit, which are arranged in the first direction and generate electric charges by photoelectric conversion of light,
A third photoelectric conversion that is arranged in a second direction different from the first direction and that photoelectrically converts the light transmitted through the first photoelectric conversion unit and the second photoelectric conversion unit to generate an electric charge. And the fourth photoelectric conversion part,
A signal line that outputs at least one of a charge-based signal generated by the first photoelectric conversion unit and a charge-based signal generated by the second photoelectric conversion unit, and a signal line generated by the third photoelectric conversion unit. An image pickup device including a signal line that outputs at least one of a signal based on the electric charge generated and a signal based on the electric charge generated by the fourth photoelectric conversion unit .
請求項に記載の撮像素子において、
前記第1の光電変換部で生成された電荷に基づく信号および前記第2の光電変換部で生成された電荷に基づく信号の少なくとも一方を読み出す第1の読み出し部と、
前記第3の光電変換部で生成された電荷に基づく信号および前記第4の光電変換部で生成された電荷に基づく信号の少なくとも一方を読み出す第2の読み出し部と、を備える撮像素子。
In the image pickup device according to claim 1 ,
A first readout unit that reads at least one of a charge-based signal generated by the first photoelectric conversion unit and a charge-based signal generated by the second photoelectric conversion unit.
An image pickup device including a second reading unit that reads at least one of a charge-based signal generated by the third photoelectric conversion unit and a charge-based signal generated by the fourth photoelectric conversion unit.
請求項に記載の撮像素子において、
前記第1の光電変換部で生成された電荷に基づく信号および前記第2の光電変換部で生成された電荷に基づく信号の少なくとも一方を前記第1の読み出し部から出力する第1の出力線と、
前記第3の光電変換部で生成された電荷に基づく信号および前記第4の光電変換部で生成された電荷に基づく信号の少なくとも一方を前記第2の読み出し部から出力する第2の出力線と、を備える撮像素子。
In the image pickup device according to claim 2 ,
With the first output line that outputs at least one of the charge-based signal generated by the first photoelectric conversion unit and the charge-based signal generated by the second photoelectric conversion unit from the first readout unit. ,
A second output line that outputs at least one of a charge-based signal generated by the third photoelectric conversion unit and a charge-based signal generated by the fourth photoelectric conversion unit from the second reading unit. An image sensor comprising.
請求項1に記載の撮像素子において、
前記第1の光電変換部で生成された電荷に基づく第1信号を出力する信号線と、前記第2の光電変換部で生成された電荷に基づく第2信号を出力する信号線と、前記第3の光電変換部で生成された電荷に基づく第3信号を出力する信号線と、前記第4の光電変換部で生成された電荷に基づく第4信号を出力する信号線と、を備える撮像素子。
In the image pickup device according to claim 1,
A signal line that outputs a first signal based on the charge generated by the first photoelectric conversion unit, a signal line that outputs a second signal based on the charge generated by the second photoelectric conversion unit, and the first signal line. An image sensor including a signal line for outputting a third signal based on the charge generated by the photoelectric conversion unit 3 and a signal line for outputting a fourth signal based on the charge generated by the fourth photoelectric conversion unit. ..
請求項1またはに記載の撮像素子において、
前記第1の光電変換部で生成された電荷に基づく信号を読み出す第1の読み出し部と、
前記第2の光電変換部で生成された電荷に基づく信号を読み出す第2の読み出し部と、
前記第3の光電変換部で生成された電荷に基づく信号を読み出す第3の読み出し部と、
前記第4の光電変換部で生成された電荷に基づく信号を読み出す第4の読み出し部と、を備える撮像素子。
In the image pickup device according to claim 1 or 4 ,
A first reading unit that reads a signal based on the electric charge generated by the first photoelectric conversion unit, and
A second reading unit that reads a signal based on the electric charge generated by the second photoelectric conversion unit, and
A third reading unit that reads a signal based on the electric charge generated by the third photoelectric conversion unit, and
An image sensor including a fourth reading unit that reads a signal based on the electric charge generated by the fourth photoelectric conversion unit.
請求項に記載の撮像素子において、
前記第1の光電変換部で生成された電荷に基づく信号または前記第2の光電変換部で生成された電荷に基づく信号を前記第1の読み出し部または前記第2の読み出し部から出力する第1の出力線と、
前記第3の光電変換部で生成された電荷に基づく信号または前記第4の光電変換部で生成された電荷に基づく信号を前記第3の読み出し部または前記第4の読み出し部から出力する第2の出力線と、を備える撮像素子。
In the image pickup device according to claim 5 ,
A first to output a signal based on the charge generated by the first photoelectric conversion unit or a signal based on the charge generated by the second photoelectric conversion unit from the first reading unit or the second reading unit. Output line and
A second that outputs a signal based on the charge generated by the third photoelectric conversion unit or a signal based on the charge generated by the fourth photoelectric conversion unit from the third reading unit or the fourth reading unit. An image sensor with an output line of.
請求項1から6までのいずれか一項に記載の撮像素子において、
前記第1の光電変換部で生成された電荷に基づく信号を記憶する第1記憶部と、
前記第2の光電変換部で生成された電荷に基づく信号を記憶する第2記憶部と、を備える撮像素子。
In the image pickup device according to any one of claims 1 to 6 .
A first storage unit that stores a signal based on the electric charge generated by the first photoelectric conversion unit, and
An image pickup device including a second storage unit that stores a signal based on the electric charge generated by the second photoelectric conversion unit.
請求項1から7までのいずれか一項に記載の撮像素子において、
前記第1の光電変換部で生成された電荷に基づく信号と前記第2の光電変換部で生成された電荷に基づく信号とを加算する第1加算部と、
前記第1加算部で加算された信号を出力する第3出力線と、を備える撮像素子。
In the image pickup device according to any one of claims 1 to 7 .
A first addition unit that adds a signal based on the charge generated by the first photoelectric conversion unit and a signal based on the charge generated by the second photoelectric conversion unit.
An image pickup device including a third output line that outputs a signal added by the first addition unit.
請求項に記載の撮像素子において、
前記第1加算部で加算された信号を記憶する記憶部を備える撮像素子。
In the image pickup device according to claim 8 ,
An image pickup device including a storage unit that stores a signal added by the first addition unit.
請求項1から9までのいずれか一項に記載の撮像素子において、
前記第3の光電変換部で生成された電荷に基づく信号を記憶する第3記憶部と、
前記第4の光電変換部で生成された電荷に基づく信号を記憶する第4記憶部と、を備える撮像素子。
In the image pickup device according to any one of claims 1 to 9 .
A third storage unit that stores a signal based on the electric charge generated by the third photoelectric conversion unit, and
An image sensor including a fourth storage unit that stores a signal based on the electric charge generated by the fourth photoelectric conversion unit.
請求項1から10までのいずれか一項に記載の撮像素子において、
前記第3の光電変換部で生成された電荷に基づく信号と前記第4の光電変換部で生成された電荷に基づく信号とを加算する第2加算部と、
前記第2加算部で加算された信号を出力する第4出力線と、を備える撮像素子。
In the image pickup device according to any one of claims 1 to 10 .
A second addition unit that adds a signal based on the charge generated by the third photoelectric conversion unit and a signal based on the charge generated by the fourth photoelectric conversion unit, and
An image sensor including a fourth output line that outputs a signal added by the second addition unit.
請求項11に記載の撮像素子において、
前記第2加算部で加算された信号を記憶する記憶部を備える撮像素子。
In the image pickup device according to claim 11 ,
An image pickup device including a storage unit that stores a signal added by the second addition unit.
請求項1から12までのいずれか一項に記載の撮像素子において、
前記第1の光電変換部および前記第2の光電変換部は、マイクロレンズを透過した光を光電変換し、
前記第3の光電変換部および前記第4の光電変換部は、前記マイクロレンズと前記第1の光電変換部および前記第2の光電変換部とを透過した光を光電変換する撮像素子。
In the image pickup device according to any one of claims 1 to 12 ,
The first photoelectric conversion unit and the second photoelectric conversion unit photoelectrically convert the light transmitted through the microlens.
The third photoelectric conversion unit and the fourth photoelectric conversion unit are imaging elements that photoelectrically convert light transmitted through the microlens, the first photoelectric conversion unit, and the second photoelectric conversion unit.
光学系による像を撮像する請求項1から13までのいずれか一項に記載の撮像素子と、
前記第1の光電変換部で生成された電荷に基づく信号と前記第2の光電変換部で生成された電荷に基づく信号、および前記第3の光電変換部で生成された電荷に基づく信号と前記第4の光電変換部で生成された電荷に基づく信号の少なくとも一方に基づいて、前記光学系の合焦位置を制御する制御部と、を備える撮像装置。
The image pickup device according to any one of claims 1 to 13, which captures an image by an optical system.
A signal based on the charge generated by the first photoelectric conversion unit, a signal based on the charge generated by the second photoelectric conversion unit, and a signal based on the charge generated by the third photoelectric conversion unit and the above. An imaging device including a control unit that controls a focusing position of the optical system based on at least one of charges-based signals generated by the fourth photoelectric conversion unit.
JP2019106430A 2019-06-06 2019-06-06 Image sensor and image sensor Active JP6809562B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019106430A JP6809562B2 (en) 2019-06-06 2019-06-06 Image sensor and image sensor

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019106430A JP6809562B2 (en) 2019-06-06 2019-06-06 Image sensor and image sensor

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2015071017A Division JP6536126B2 (en) 2015-03-31 2015-03-31 Imaging device and imaging device

Publications (2)

Publication Number Publication Date
JP2019195185A JP2019195185A (en) 2019-11-07
JP6809562B2 true JP6809562B2 (en) 2021-01-06

Family

ID=68469420

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019106430A Active JP6809562B2 (en) 2019-06-06 2019-06-06 Image sensor and image sensor

Country Status (1)

Country Link
JP (1) JP6809562B2 (en)

Also Published As

Publication number Publication date
JP2019195185A (en) 2019-11-07

Similar Documents

Publication Publication Date Title
JP6536126B2 (en) Imaging device and imaging device
JP6536642B2 (en) Image sensor
JP5045350B2 (en) Imaging device and imaging apparatus
JP5256711B2 (en) Imaging device and imaging apparatus
US8063978B2 (en) Image pickup device, focus detection device, image pickup apparatus, method for manufacturing image pickup device, method for manufacturing focus detection device, and method for manufacturing image pickup apparatus
JP5092685B2 (en) Imaging device and imaging apparatus
KR101310105B1 (en) Focus detection apparatus
JP5513326B2 (en) Imaging device and imaging apparatus
US20120249846A1 (en) Solid-state image sensor and image capturing apparatus
JP4992481B2 (en) Focus detection apparatus and imaging apparatus
JP4826507B2 (en) Focus detection apparatus and imaging apparatus
JP2008085738A (en) Imaging apparatus
JP5167783B2 (en) Focus detection apparatus and imaging apparatus
US10685995B2 (en) Image sensor and image-capturing device
JP2008017116A (en) Imaging element and imaging device
JP4983271B2 (en) Imaging device
JP2017098513A (en) Imaging device, imaging apparatus, and focusing apparatus
JP4858179B2 (en) Focus detection apparatus and imaging apparatus
JP2017152658A (en) Imaging device and imaging apparatus
US20210181461A1 (en) Image sensor and image-capturing device
JP6671130B2 (en) Imaging device, imaging device, focus detection device, image processing device, and control method therefor
JP6809562B2 (en) Image sensor and image sensor
JP2010039106A (en) Imaging element, focus detection device and imaging apparatus
JP5403117B2 (en) Focus detection apparatus and imaging apparatus
JP2019219594A (en) Processing apparatus, imaging apparatus, interchangeable lens, processing method and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190610

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200326

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A132

Effective date: 20200428

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200619

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201110

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201123

R150 Certificate of patent or registration of utility model

Ref document number: 6809562

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250