WO2013145886A1 - 撮像素子及びこれを用いた撮像装置及び撮像方法 - Google Patents

撮像素子及びこれを用いた撮像装置及び撮像方法 Download PDF

Info

Publication number
WO2013145886A1
WO2013145886A1 PCT/JP2013/053033 JP2013053033W WO2013145886A1 WO 2013145886 A1 WO2013145886 A1 WO 2013145886A1 JP 2013053033 W JP2013053033 W JP 2013053033W WO 2013145886 A1 WO2013145886 A1 WO 2013145886A1
Authority
WO
WIPO (PCT)
Prior art keywords
pixel cell
pair
microlens
pixel
image
Prior art date
Application number
PCT/JP2013/053033
Other languages
English (en)
French (fr)
Inventor
小林 誠
Original Assignee
富士フイルム株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 富士フイルム株式会社 filed Critical 富士フイルム株式会社
Priority to CN201380016798.2A priority Critical patent/CN104221369B/zh
Priority to JP2014507495A priority patent/JP5542249B2/ja
Publication of WO2013145886A1 publication Critical patent/WO2013145886A1/ja
Priority to US14/498,328 priority patent/US10003731B2/en

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/34Systems for automatic generation of focusing signals using different areas in a pupil plane
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/703SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/704Pixels specially adapted for focusing, e.g. phase difference pixel sets
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14625Optical elements or arrangements associated with the device
    • H01L27/14627Microlenses
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • H04N23/661Transmitting camera control signals through networks, e.g. control via the Internet
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/672Focus control based on electronic image sensor signals based on the phase difference signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/1462Coatings
    • H01L27/14621Colour filter arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/69Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/703SSIS architectures incorporating pixels for producing signals other than image signals

Definitions

  • the present invention relates to an imaging element, an imaging apparatus using the imaging element, and an imaging method.
  • an imaging device In recent years, with the increase in the resolution of solid-state imaging devices such as CCD (Charge Coupled Device) image sensors and CMOS (Complementary Metal Oxide Semiconductor) image sensors, mobile phones such as digital still cameras, digital video cameras, and smartphones, PDA (Personal Digital). Demand for information equipment having a photographing function such as an assistant (mobile information terminal) is rapidly increasing. Note that an information device having the above imaging function is referred to as an imaging device.
  • CCD Charge Coupled Device
  • CMOS Complementary Metal Oxide Semiconductor
  • phase difference AF method can detect the in-focus position at a higher speed and with higher accuracy than the contrast AF method, it is widely used in various imaging apparatuses (see, for example, Patent Document 1).
  • Patent Document 1 describes that so-called microlens scaling is performed in which the position of a microlens mounted on a pixel cell for phase difference detection is shifted toward the center of the solid state image sensor as it goes toward the periphery of the solid state image sensor. ing.
  • the angle (incident angle) of light incident on the solid-state imaging device tends to be wide from a steep angle to a gentle angle.
  • the microlens of the pixel cell for detecting the phase difference in the peripheral portion is shifted toward the central portion. For this reason, for example, when the zoom magnification is low, sensitivity unevenness hardly occurs in the pixel cells for phase difference detection between the central portion and the peripheral portion of the image sensor due to the effect of scaling. However, when the zoom magnification is high, light cannot be sufficiently received in the peripheral pixel cells, resulting in uneven sensitivity.
  • the microlens is simply scaled, the sensitivity unevenness occurs due to the change of the photographing condition, and the good imaging quality cannot be maintained.
  • the present invention has been made in view of the above circumstances, and an object of the present invention is to provide an imaging device capable of realizing good imaging quality regardless of the incident angle of light, an imaging device using the imaging device, and an imaging method.
  • An image pickup apparatus is an image pickup apparatus having an image pickup device capable of outputting a pair of image signals corresponding to each of a pair of light beams passing through different portions of a pupil region of a photographing optical system, and the pair of image signals
  • the pixel cell includes a first photoelectric conversion unit and a first microlens provided above the first photoelectric conversion unit, and the second pixel cell includes a second photoelectric conversion unit and the second photoelectric conversion unit.
  • a second microlens provided above the photoelectric conversion unit, wherein the first microlens and the second microlens are arranged with different regularity, and read from the first pixel cell group
  • the imaging optics based on a pair of image signals
  • a second control for adjusting the focus of the photographing optical system based on the pair of image signals read out from the second pixel cell group.
  • a control unit that is selected and executed according to the incident angle of light is provided.
  • the imaging device of the present invention is an imaging device having an imaging device capable of outputting a pair of image signals corresponding to each of a pair of light beams passing through different portions of the pupil region of the imaging optical system, A first pixel cell group including a plurality of first pixel cells for acquiring the pair of image signals; and a second pixel cell group including a plurality of second pixel cells for acquiring the pair of image signals.
  • the first pixel cell includes a first photoelectric conversion unit and a first microlens provided above the first photoelectric conversion unit, and the second pixel cell includes a second photoelectric conversion unit.
  • a second microlens provided above the second photoelectric conversion unit, wherein the first microlens and the second microlens are arranged with different regularity, and the first pixel cell Based on the pair of image signals read from the group
  • a control unit that is selected and executed according to the incident angle of light to the element is provided.
  • the imaging device of the present invention is an imaging device having an imaging device capable of outputting a pair of image signals corresponding to each of a pair of light beams passing through different parts of the pupil region of the photographing optical system,
  • a first pixel cell group including a plurality of first pixel cells for acquiring the pair of image signals; and a second pixel cell group including a plurality of second pixel cells for acquiring the pair of image signals.
  • the first pixel cell includes a first photoelectric conversion unit and a first microlens provided above the first photoelectric conversion unit, and the second pixel cell includes a second photoelectric conversion unit. And a second microlens provided above the second photoelectric conversion unit, wherein the first microlens and the second microlens are arranged with different regularities.
  • the imaging method using the imaging device according to the present invention includes a first control for adjusting a focus of the photographing optical system based on the pair of image signals read from the first pixel cell group, and the second control
  • the second control for adjusting the focus of the photographing optical system based on the pair of image signals read from the pixel cell group is selected and executed in accordance with the incident angle of the light to the image sensor. .
  • the imaging method using the imaging device of the present invention includes a first control for generating and recording captured image data based on the pair of image signals read from the first pixel cell group, and the second pixel.
  • the second control for generating and recording the captured image data based on the pair of image signals read from the cell group is selected and executed according to the incident angle of the light to the image sensor.
  • an imaging device capable of realizing good imaging quality regardless of the incident angle of light, an imaging device using the imaging device, and an imaging method.
  • FIG. 1 is a schematic plan view showing a schematic configuration of the solid-state imaging device 100 shown in FIG.
  • FIG. 2 It is a figure which shows the modification of the solid-state image sensor 5 shown in FIG. 2, and is a figure corresponding to FIG.
  • the top view which shows the structure in the peripheral part of the solid-state image sensor 5a which is a modification of the solid-state image sensor 5 shown in FIG.
  • the top view which shows the structure of the solid-state image sensor 5b which is a modification of the solid-state image sensor 5 shown in FIG.
  • the top view which shows the structure of the solid-state image sensor 5d which is a modification of the solid-state image sensor 5 shown in FIG.
  • FIG. 1 is a diagram showing a schematic configuration of a digital camera which is an example of an imaging apparatus for explaining an embodiment of the present invention.
  • the imaging system of the illustrated digital camera includes a single photographing optical system 1 including a focus lens, a zoom lens, and the like, a solid-state imaging device 5 such as a CCD image sensor or a CMOS image sensor, and a diaphragm provided between the two. 2, an infrared cut filter 3, and an optical low-pass filter 4.
  • the system control unit 11 that controls the entire electric control system of the digital camera controls the flash light emitting unit 12. Further, the system control unit 11 controls the lens driving unit 8 to adjust the position of the focus lens included in the photographing optical system 1 and adjust the position of the zoom lens included in the photographing optical system. In addition, the system control unit 11 adjusts the exposure amount by controlling the opening amount of the aperture 2 via the aperture driving unit 9.
  • system control unit 11 drives the solid-state imaging device 5 via the imaging device driving unit 10 and outputs a subject image captured through the imaging optical system 1 as a captured image signal.
  • An instruction signal from the user is input to the system control unit 11 through the operation unit 14.
  • the electric control system of the digital camera further includes an analog signal processing unit 6 that performs analog signal processing such as correlated double sampling processing connected to the output of the solid-state imaging device 5, and RGB output from the analog signal processing unit 6. And an A / D conversion circuit 7 for converting the color signal into a digital signal.
  • the analog signal processing unit 6 and the A / D conversion circuit 7 are controlled by the system control unit 11.
  • the electric control system of the digital camera includes a main memory 16, a memory control unit 15 connected to the main memory 16, a digital signal processing unit 17, a compression / decompression processing unit 18, a 3D image generation unit 19, An external memory control unit 20 to which a detachable recording medium 21 is connected and a display control unit 22 to which a liquid crystal display unit 23 mounted on the back of the camera or the like is connected.
  • the digital signal processing unit 17 performs an interpolation operation, a gamma correction operation, an RGB / YC conversion process, and the like on the captured image signal output from the A / D conversion circuit 7 to generate captured image data.
  • the compression / decompression processing unit 18 compresses the captured image data generated by the digital signal processing unit 17 into a JPEG format or decompresses the compressed image data.
  • the 3D image generation unit 19 generates stereoscopic image data using a plurality of captured image data (a plurality of captured image data with parallax) having different viewpoints obtained by capturing with the solid-state imaging device 5.
  • the liquid crystal display unit 23 can display two photographed image data with different viewpoints so as to be stereoscopically viewed.
  • the memory control unit 15, digital signal processing unit 17, compression / decompression processing unit 18, 3D image generation unit 19, external memory control unit 20, and display control unit 22 are mutually connected by a control bus 24 and a data bus 25. It is controlled by a command from the control unit 11.
  • FIG. 2 is a schematic plan view showing a schematic configuration of the solid-state imaging device 5 shown in FIG.
  • the solid-state imaging device 5 includes a pixel cell 50a and a pixel cell 50c for obtaining one of a pair of image signals corresponding to each of a pair of light beams passing through different parts of the pupil region of the photographing optical system 1, and a pair of A pixel cell 50b and a pixel cell 50d for obtaining the other of the image signals are provided.
  • the pixel cells 50a to 50d may be referred to as the pixel cell 50 without being distinguished from each other.
  • the pixel cells 50 are arranged in a two-dimensional shape (in the example of FIG. 2, a square lattice shape) in the row direction X and the column direction Y orthogonal thereto.
  • Each pixel cell 50 includes a photoelectric conversion unit such as a photodiode.
  • the arrangement of the pixel cells 50 is such that a plurality of pixel cell rows composed of a plurality of pixel cells 50 arranged at a constant pitch in the row direction X are arranged at a constant pitch in the column direction Y.
  • the pixel cell rows in the odd rows are constituted by the pixel cells 50a and 50b, and the pixel cell rows in the even rows are constituted by the pixel cells 50c and 50d.
  • the pixel cell rows in the odd rows are obtained by alternately arranging the pixel cells 50a and the pixel cells 50b in the row direction X.
  • the pixel cell rows in the even rows are obtained by alternately arranging the pixel cells 50c and the pixel cells 50d in the row direction X.
  • the pixel cell 50a and the pixel cell 50b receive light beams that pass through different portions of the pupil region of the photographing optical system 1, respectively. That is, the pixel cells 50a and 50b in the odd rows are divided into pupils, and the pair of image signals can be acquired by these.
  • the pixel cell 50c and the pixel cell 50d receive light beams that pass through different portions of the pupil region of the photographing optical system 1, respectively. That is, the pixel cells 50c and 50d in the even-numbered rows are divided into pupils, and the pair of image signals can be acquired also by these.
  • Each of the pixel cells 50a to 50d includes three types of pixel cells: a pixel cell that detects red light, a pixel cell that detects green light, and a pixel cell that detects blue light.
  • the pixel cell that detects red light is marked with the letter “R” in the block.
  • the pixel cell that detects green light is marked with a letter “G” in the block.
  • the pixel cell that detects blue light has a letter “B” in the block.
  • the arrangement of the detection colors of the pixel cells 50a in the odd rows is a Bayer shape.
  • a pixel cell 50b of the same type (that detects light of the same color) as each pixel cell 50a is arranged next to each pixel cell 50a in the same direction (right direction in the row direction X). That is, the arrangement of the detection colors of the pixel cell 50b is also Bayer as a whole.
  • a pixel cell 50c of the same type as each pixel cell 50a is arranged next to each pixel cell 50a in the same direction (downward in the column direction Y). That is, the arrangement of the detection colors of the pixel cell 50c is also Bayer as a whole.
  • a pixel cell 50d of the same type as each pixel cell 50b is arranged next to each pixel cell 50b in the same direction (downward in the column direction Y). That is, the arrangement of the detection colors of the pixel cell 50d is also Bayer as a whole.
  • a first pixel cell pair is configured by the pixel cell 50a and the same type of pixel cell 50b adjacent to the right in the row direction X.
  • a second pixel cell pair is configured by the pixel cell 50c and the same type of pixel cell 50d adjacent to the right in the row direction X.
  • the solid-state imaging device 5 is configured such that a second pixel cell pair that detects light of the same color as the color detected by the first pixel cell pair is arranged adjacent to the first pixel cell pair. .
  • the second pixel cell pair that detects light of the same color as the color detected by the first pixel cell pair is adjacent to the first pixel cell pair without interposing another pixel cell therebetween.
  • the two pixel cell pairs may be adjacent to each other with another pixel cell interposed therebetween.
  • the second pixel cell pair that detects light of the same color as the color detected by the first pixel cell pair may be disposed close to the first pixel cell pair.
  • each pixel cell pair it is only necessary that two pixel cells are arranged close to each other.
  • FIG. 3 is an enlarged view of a range 30 at the center of the solid-state imaging device 5 shown in FIG.
  • Each pixel cell 50 includes a photoelectric conversion unit PD such as a photodiode, a microlens 53 that collects light on the photoelectric conversion unit PD, and a color filter (not shown) provided therebetween.
  • a photoelectric conversion unit PD such as a photodiode
  • a microlens 53 that collects light on the photoelectric conversion unit PD
  • a color filter (not shown) provided therebetween.
  • Each pixel cell 50 is shielded by the light shielding film W, and an opening K is formed in the light shielding film W above the photoelectric conversion unit PD. Light enters the photoelectric conversion unit PD through the opening K. In FIG. 3, the color (R, G, B) of light detected by the pixel cell 50 is entered in the opening K.
  • the center position of the opening K of the pixel cells 50a and 50c in the row direction X is eccentric to the right side of the center position of the microlens 53 of the pixel cells 50a and 50c.
  • the center position of the opening K of the pixel cells 50b and 50d in the row direction X is decentered to the left of the center position of the microlens 53 of the pixel cells 50b and 50d.
  • the positions of the openings K are decentered in opposite directions. Therefore, according to the pixel cells 50a and 50c, an image signal corresponding to one of a pair of light beams passing through different portions of the pupil region of the photographing optical system 1 can be obtained. According to the pixel cells 50b and 50d, An image signal corresponding to the other of the pair of light beams can be obtained.
  • FIG. 4 is an enlarged view of a range 31 in the peripheral portion of the solid-state imaging device 5 shown in FIG.
  • the pixel cell 50a and the pixel cell 50b have the same configuration as the central part of the solid-state image sensor 5.
  • the position of the microlens 53 is different from the central portion. That is, the center position of the micro lens 53 in the row direction X is shifted toward the center of the solid-state imaging device 5 as compared with the pixel cell 50c and the pixel cell 50d in the center.
  • the shift amount of the microlens 53 in the pixel cell 50c and the pixel cell 50d increases from the center of the solid-state imaging device 5 toward the periphery.
  • the shift amount of the microlens 53 in the pixel cell 50c and the pixel cell 50d can be determined as follows, for example.
  • the distance from the center of the solid-state imaging device 5 to the diagonal end is Xo, the distance X from the center of the solid-state imaging device 5 of the pixel cell 50c (50d) at an arbitrary position, and the photoelectric conversion unit included in the pixel cell 50c (50d) If the distance L from the surface to the bottom surface of the microlens 53 and the inclination ⁇ of the principal ray of the imaging optical system 1 at the diagonal end of the solid-state image pickup device 5 from the normal direction of the surface of the solid-state image pickup device 5 are arbitrary positions.
  • the shift amount of the microlens 53 in the pixel cell 50c (50d) is generally obtained by the following equation (1). However, it is not limited to this formula.
  • the scaling of the microlens is performed only for the pixel cell 50c and the pixel cell 50d.
  • FIG. 5 is a diagram showing the sensitivity characteristics of the pixel cells 50a and 50b and the sensitivity characteristics of the pixel cells 50c and 50d in the peripheral portion of the solid-state imaging device 5 shown in FIG.
  • the characteristics indicated by reference numerals 50a and 50b indicate the characteristics of the pixel cells 50a and 50b
  • the characteristics indicated by reference numerals 50c and 50d indicate the characteristics of the pixel cells 50b and 50d.
  • the pixel cells 50a and 50b have a maximum signal output when the incident light angle is 0 °, and the signal output decreases as the incident light angle increases.
  • the pixel cells 50c and 50d have a maximum signal output when the angle of incident light is a constant value corresponding to the shift amount of the microlens 53, and the signal increases as the angle of incident light increases or decreases. The output decreases.
  • the center portion and the microlens scaling are performed.
  • the overlapping range of the incident light angle width (allowable incident light angle allowable width) with which the allowable output can be obtained can be increased with the peripheral portion. For this reason, it is possible to obtain an allowable output from the pixel cells in the peripheral portion in both the wide-angle shooting and the telephoto shooting.
  • the pixel cell 50 has a smaller amount of decrease in signal output with respect to the inclination of the incident light than the normal pixel cell, so that the allowable angle of incident light angle is smaller than that of the normal pixel cell.
  • the solid-state imaging device 5 it is possible to widen the angle range of incident light from which allowable output can be obtained by changing the incident angle sensitivity characteristics between the pixel cells 50a and 50b and the pixel cells 50c and 50d in the peripheral portion. I have to. As a result, it is possible to employ a high-magnification zoom lens for the photographing optical system 1.
  • 3D shooting mode capable of recording stereoscopic image data in which two captured image data obtained by photographing from different viewpoints are associated
  • 2D photography mode capable of recording captured image data obtained by photographing from one viewpoint. And can be set.
  • FIG. 6 is a flowchart for explaining the operation of the digital camera shown in FIG. 1 in the 3D shooting mode.
  • the system control unit 11 detects the position of the zoom lens included in the shooting optical system 1 and determines the current zoom magnification from the position (step S1).
  • step S1: NO If the zoom magnification is equal to or less than the threshold (step S1: NO), the system control unit 11 sets the pixel cells to be read from the solid-state imaging device 5 as the pixel cells 50c and 50d (step S2). . On the other hand, when the zoom magnification exceeds the threshold (step S1: YES), the system control unit 11 sets the pixel cells to be read from the solid-state imaging device 5 as the pixel cells 50a and 50b (step S3). .
  • the system control unit 11 controls the imaging device driving unit 10 to start moving image shooting for generating a live view image by the solid-state imaging device 5 and displays the live view image on the display unit 23. (Step S4).
  • the image sensor driving unit 10 performs driving for reading out signals from only the pixel cells set in steps S2 and S3. With this driving, the solid-state imaging device 5 outputs captured image signals corresponding to the pixel cells in the odd or even rows.
  • the digital signal processing unit 17 processes the first captured image signal composed of the captured image signal obtained from the pixel cell 50a (50c) among the output captured image signals to generate first captured image data. In addition, the digital signal processing unit 17 processes the second captured image signal including the captured image signal obtained from the pixel cell 50b (50d) among the captured image signals to generate second captured image data.
  • the display control unit 22 displays an image based on the first captured image data and an image based on the second captured image data. 23 is displayed in a stereoscopic view. As a result, the stereoscopic live view image can be confirmed on the display unit 23.
  • step S5 When the zoom magnification is changed after the live view image is displayed (step S5: YES), the system control unit 11 returns the processing to step S1, and when there is no change in the zoom magnification (step S5: NO), the AE When an instruction of (automatic exposure) / AF (automatic focus adjustment) is given (step S6: YES), the process of step S7 is performed.
  • step S ⁇ b> 7 the system control unit 11 performs AE / AF using the captured image signal output from the solid-state imaging device 5.
  • the system control unit 11 performs AF control based on the phase difference between the first captured image signal and the second captured image signal included in the captured image signal.
  • step S8 the system control unit 11 controls the image sensor driving unit 10 to perform exposure for main imaging by the solid-state image sensor 5.
  • the imaging element driving unit 10 reads a signal from the pixel cell set in step S2 or step S3 after the exposure is completed.
  • the digital signal processing unit 17 generates first captured image data and second captured image data from the captured image signal output from the solid-state image sensor 5, and generates a correlation between them as stereoscopic image data.
  • the stereoscopic image data is recorded on the recording medium 21 by the external memory control unit 20 (step S9). After step S9, the process returns to step S1.
  • the operation in the 2D shooting mode is the same as that shown in FIG. 6 except that the captured image data generated in step S4 and step S9 is different.
  • the digital signal processing unit 17 includes a pixel cell pair (adjacent in the row direction X) of the captured image signal. Signals obtained from a pair of pixel cells 50a (50c) and pixel cells 50b (50d) of the same type) are added.
  • the digital signal processing unit 17 processes the added captured image signal to generate captured image data.
  • the display control unit 22 displays an image (non-stereoscopic 2D image) based on the captured image data on the display unit 23 as a live view image.
  • step S9 in the 2D shooting mode when a captured image signal is output from the solid-state imaging device 5, the digital signal processing unit 17 adds a signal obtained from the pixel cell pair in the captured image signal. Then, the captured image data obtained by processing the added captured image signal is recorded in the recording medium 21.
  • the threshold value used in the determination in step S1 of FIG. 6 may be set to a value that provides an optimum image quality according to the scaling amount of the pixel cells 50c and 50d.
  • the F value may be used for switching determination instead of the zoom magnification. That is, it suffices to determine which pixel group is used for AF control or image generation according to the incident angle of light to the solid-state imaging device 5.
  • a live view image and a recording image are generated by the first pixel cell group including the pixel cells 50a and 50b, or a live view image and recording are performed by the second pixel cell group including the pixel cells 50c and 50d. Whether to generate an image for use is selected according to the zoom magnification.
  • the digital camera generates a live view image or a recording image by the second pixel cell group until the zoom magnification reaches the first threshold value. Also, until the zoom magnification exceeds the first threshold and reaches the second threshold, a live view image and a recording image are generated using both the first pixel cell group and the second pixel cell group. When the zoom magnification exceeds the second threshold value, a live view image or a recording image is generated by the first pixel cell group.
  • Data may be added at a ratio corresponding to the zoom magnification, and stereoscopic image data may be generated from the two captured image data after the addition.
  • the ratio of the captured image data obtained from the first pixel cell group may be increased as the zoom magnification is increased.
  • the captured image data may be added at a ratio corresponding to the zoom magnification to generate one captured image data.
  • the scaling of the microlens 53 is not performed for the pixel cells 50a and 50b. However, the scaling of the microlens 53 may be performed for the pixel cells 50a and 50b.
  • FIG. 7 is a view showing a modification of the solid-state imaging device 5 shown in FIG. 2, and corresponds to FIG.
  • the position of the microlens 53 is relative to the position of the microlens 53 in the pixel cells 50a and 50b in the center of the solid-state image sensor 5. It is the point which has shifted
  • the shift amount of the microlens 53 in the pixel cell 50a (50b) and the pixel cell 50c (50d) at the same position in the row direction X is different.
  • the zoom magnification is high, the angle range of light incident on the solid-state image sensor 5 is narrowed.
  • the pixel cells in the periphery of the solid-state image sensor 5 light is incident obliquely. Therefore, by shifting the microlens 53 by different scaling amounts in the first pixel cell group including the pixel cells 50a and 50b and the second pixel cell group including the pixel cells 50c and 50d, higher image quality can be obtained. Shooting is possible.
  • FIG. 8 is a plan view showing a configuration in the periphery of a solid-state image sensor 5a which is a modification of the solid-state image sensor 5 shown in FIG.
  • one microlens 53a is not provided for each pixel cell 50, but one microlens 53a is provided corresponding to two pixel cells 50 constituting a pixel cell pair. Different from the image sensor 5.
  • the microlens 53a has an elliptical shape and is disposed across two pixel cells 50 constituting a pixel cell pair.
  • the scaling of the microlens 53a is the same as that of the microlens 53. That is, the microlens 53a corresponding to the pixel cells 50a and 50b and the microlens 53a corresponding to the pixel cells 50c and 50d are arranged with different regularity.
  • the light incident on each of the two pixel cells 50 below the micro lens 53a alone can be separated. That is, even if the aperture K in the pixel cell 50 is enlarged in the row direction X, the pupil division performance can be maintained, and thus the sensitivity can be improved.
  • FIG. 9 is a plan view showing a configuration of a solid-state imaging device 5b which is a modification of the solid-state imaging device 5 shown in FIG.
  • the solid-state imaging device 5b is obtained by shifting the pixel cell rows in the odd-numbered rows in the solid-state imaging device 5 in the row direction X by the arrangement pitch in the row direction X of the pixel cells 50.
  • the microlens when a configuration in which one microlens is provided for a pixel cell pair is employed, the microlens can be made substantially circular. For this reason, a conventional manufacturing method can be used, and the manufacturing cost can be reduced as compared with the configuration of FIG.
  • FIG. 10 is a plan view showing a configuration of a solid-state imaging device 5c which is a modification of the solid-state imaging device 5 shown in FIG.
  • the solid-state imaging device 5c includes a first pair line in which first pairs of pixel cells 50a and 50b adjacent in the column direction Y are arranged in the row direction X, and pixel cells 50c and pixels adjacent in the column direction Y.
  • the second pair lines in which the second pairs of cells 50d are arranged in the row direction X are alternately arranged in the column direction Y.
  • the same amount as that of the solid-state imaging device 5 is obtained by changing the scaling amount of the microlens between the first pair line and the second pair line (the microlenses are arranged with different regularities). An effect can be obtained.
  • FIG. 11 is a plan view showing a configuration of a solid-state imaging device 5d which is a modification of the solid-state imaging device 5 shown in FIG.
  • the solid-state imaging devices 5, 5 a, 5 b, and 5 c do not have pixel cells (pixel cells that are not pupil-divided) that receive both a pair of light beams that pass through different parts of the pupil region of the photographing optical system 1. It was.
  • the solid-state imaging device 5d includes pixel cells 50e that are not pupil-divided and pixel cells 50a to 50d that are pupil-divided as described above.
  • some of the pixel cells 50e arranged in a two-dimensional manner are pixel cells 50a to 50d.
  • the microlens scaling is not performed in the pixel cells 50a to 50d in the central portion of the solid-state imaging device 5d, and the microlens scaling is performed only in the pixel cells 50c and 50d in the pixel cells 50a to 50d in the peripheral portion. Has been done. That is, the pixel cells 50a and 50b and the pixel cells 50c and 50d are arranged with different regularities of microlenses.
  • the system control unit 11 performs phase difference AF using signals acquired from the pixel cells 50a to 50d.
  • the system control unit 11 sets a pixel cell used for the phase difference AF according to the zoom magnification. For example, if the zoom magnification exceeds a threshold value, phase difference AF is performed using signals from the pixel cells 50a and 50b. If the zoom magnification is equal to or less than the threshold value, phase difference AF is performed using signals from the pixel cells 50c and 50d. I do.
  • the phase difference AF accuracy can be optimized by the zoom magnification.
  • the solid-state imaging device 5d it is possible to deal with both 3D imaging and 2D imaging by arranging the pixel cells 50a to 50d evenly throughout.
  • stereoscopic image data is generated using the captured image signals acquired from the pixel cells 50a to 50d
  • captured image data is generated using the captured image signals acquired from the pixel cell 50e. It can be used.
  • signals corresponding to the pixel cells 50a to 50d may be generated by interpolation using signals obtained from the pixel cell 50e.
  • the pixel cell 50 is assumed to be equipped with a color filter, but the color filter may be omitted. In this case, monochrome captured image data can be obtained.
  • FIG. 12 shows an appearance of a smartphone 200 that is an embodiment of the photographing apparatus of the present invention.
  • a smartphone 200 shown in FIG. 12 has a flat housing 201, and a display input in which a display panel 202 as a display unit and an operation panel 203 as an input unit are integrated on one surface of the housing 201. Part 204 is provided.
  • Such a housing 201 includes a speaker 205, a microphone 206, an operation unit 207, and a camera unit 208.
  • the configuration of the housing 201 is not limited thereto, and for example, a configuration in which the display unit and the input unit are independent can be employed, or a configuration having a folding structure and a slide mechanism can be employed.
  • FIG. 13 is a block diagram showing a configuration of the smartphone 200 shown in FIG.
  • the main components of the smartphone include a wireless communication unit 210, a display input unit 204, a call unit 211, an operation unit 207, a camera unit 208, a storage unit 212, and an external input / output unit. 213, a GPS (Global Positioning System) receiving unit 214, a motion sensor unit 215, a power supply unit 216, and a main control unit 220.
  • a wireless communication function for performing mobile wireless communication via a base station device BS (not shown) and a mobile communication network NW (not shown) is provided.
  • the wireless communication unit 210 performs wireless communication with the base station apparatus BS accommodated in the mobile communication network NW according to an instruction from the main control unit 220. Using this wireless communication, transmission and reception of various file data such as audio data and image data, e-mail data, and reception of Web data and streaming data are performed.
  • the display input unit 204 displays images (still images and moving images), character information, and the like, visually transmits information to the user under the control of the main control unit 220, and detects user operations on the displayed information.
  • a so-called touch panel which includes a display panel 202 and an operation panel 203.
  • the display panel 202 uses an LCD (Liquid Crystal Display), an OELD (Organic Electro-Luminescence Display), or the like as a display device.
  • LCD Liquid Crystal Display
  • OELD Organic Electro-Luminescence Display
  • the operation panel 203 is a device that is placed so that an image displayed on the display surface of the display panel 202 is visible and detects one or more coordinates operated by a user's finger or stylus.
  • a detection signal generated due to the operation is output to the main control unit 220.
  • the main control unit 220 detects an operation position (coordinates) on the display panel 202 based on the received detection signal.
  • the display panel 202 and the operation panel 203 of the smartphone 200 exemplified as an embodiment of the photographing apparatus of the present invention integrally constitute a display input unit 204.
  • the arrangement 203 covers the display panel 202 completely.
  • the operation panel 203 may have a function of detecting a user operation even in an area outside the display panel 202.
  • the operation panel 203 includes a detection area (hereinafter referred to as a display area) for an overlapping portion that overlaps the display panel 202 and a detection area (hereinafter, a non-display area) for an outer edge portion that does not overlap the other display panel 202. May be included).
  • the operation panel 203 may include two sensitive areas of the outer edge portion and the other inner portion. Further, the width of the outer edge portion is appropriately designed according to the size of the housing 201 and the like.
  • the position detection method employed in the operation panel 203 include a matrix switch method, a resistance film method, a surface acoustic wave method, an infrared method, an electromagnetic induction method, a capacitance method, and the like. You can also
  • the call unit 211 includes a speaker 205 and a microphone 206, converts user's voice input through the microphone 206 into voice data that can be processed by the main control unit 220, and outputs the voice data to the main control unit 220.
  • 210 or the audio data received by the external input / output unit 213 is decoded and output from the speaker 205.
  • the speaker 205 can be mounted on the same surface as the surface on which the display input unit 204 is provided, and the microphone 206 can be mounted on the side surface of the housing 201.
  • the operation unit 207 is a hardware key using a key switch or the like, and receives an instruction from the user.
  • the operation unit 207 is mounted on the side surface of the housing 201 of the smartphone 200 and is turned on when pressed with a finger or the like, and turned off when the finger is released with a restoring force such as a spring. It is a push button type switch.
  • the storage unit 212 includes a control program and control data of the main control unit 220, application software, address data that associates the name and telephone number of a communication partner, transmitted / received e-mail data, Web data downloaded by Web browsing, The downloaded content data is stored, and streaming data and the like are temporarily stored.
  • the storage unit 212 includes an internal storage unit 217 built in the smartphone and an external storage unit 218 having a removable external memory slot.
  • Each of the internal storage unit 217 and the external storage unit 218 constituting the storage unit 212 includes a flash memory type (hard memory type), a hard disk type (hard disk type), a multimedia card micro type (multimedia card micro type), This is realized using a storage medium such as a card type memory (for example, MicroSD (registered trademark) memory), a RAM (Random Access Memory), a ROM (Read Only Memory), or the like.
  • a flash memory type hard memory type
  • hard disk type hard disk type
  • multimedia card micro type multimedia card micro type
  • a storage medium such as a card type memory (for example, MicroSD (registered trademark) memory), a RAM (Random Access Memory), a ROM (Read Only Memory), or the like.
  • the external input / output unit 213 serves as an interface with all external devices connected to the smartphone 200, and communicates with other external devices (for example, universal serial bus (USB), IEEE 1394, etc.) or a network.
  • external devices for example, universal serial bus (USB), IEEE 1394, etc.
  • a network for example, Internet, wireless LAN, Bluetooth (registered trademark), RFID (Radio Frequency Identification), Infrared Data Association (IrDA) (registered trademark), UWB (Ultra Wideband) (registered trademark) ZigBee) (registered trademark, etc.) for direct or indirect connection.
  • an external device connected to the smartphone 200 for example, a wired / wireless headset, a wired / wireless external charger, a wired / wireless data port, a memory card (Memory card) connected via a card socket, or a SIM (Subscriber).
  • Identity Module Card / UIM (User Identity Module Card) card external audio / video equipment connected via audio / video I / O (Input / Output) terminal, external audio / video equipment connected wirelessly, yes / no
  • the external input / output unit 213 transmits data received from such an external device to each component inside the smartphone 200, or allows the data inside the smartphone 200 to be transmitted to the external device. Can do.
  • the GPS receiving unit 214 receives GPS signals transmitted from the GPS satellites ST1 to STn in accordance with instructions from the main control unit 220, executes positioning calculation processing based on the received GPS signals, and calculates the latitude of the smartphone 200 Detect the position consisting of longitude and altitude.
  • the GPS reception unit 214 can acquire position information from the wireless communication unit 210 or the external input / output unit 213 (for example, a wireless LAN), the GPS reception unit 214 can also detect the position using the position information.
  • the motion sensor unit 215 includes, for example, a three-axis acceleration sensor, and detects the physical movement of the smartphone 200 in accordance with an instruction from the main control unit 220. By detecting the physical movement of the smartphone 200, the moving direction and acceleration of the smartphone 200 are detected. The detection result is output to the main control unit 220.
  • the power supply unit 216 supplies power stored in a battery (not shown) to each unit of the smartphone 200 in accordance with an instruction from the main control unit 220.
  • the main control unit 220 includes a microprocessor, operates according to a control program and control data stored in the storage unit 212, and controls each unit of the smartphone 200 in an integrated manner.
  • the main control unit 220 includes a mobile communication control function that controls each unit of the communication system and an application processing function in order to perform voice communication and data communication through the wireless communication unit 210.
  • the application processing function is realized by the main control unit 220 operating according to the application software stored in the storage unit 212.
  • Examples of the application processing function include an infrared communication function for controlling the external input / output unit 213 to perform data communication with the opposite device, an e-mail function for transmitting / receiving e-mails, and a web browsing function for browsing web pages. .
  • the main control unit 220 has an image processing function such as displaying video on the display input unit 204 based on image data (still image or moving image data) such as received data or downloaded streaming data.
  • the image processing function is a function in which the main control unit 220 decodes the image data, performs image processing on the decoding result, and displays an image on the display input unit 204.
  • the main control unit 220 executes display control for the display panel 202 and operation detection control for detecting a user operation through the operation unit 207 and the operation panel 203.
  • the main control unit 220 displays an icon for starting application software, a software key such as a scroll bar, or a window for creating an e-mail.
  • a software key such as a scroll bar, or a window for creating an e-mail.
  • the scroll bar refers to a software key for accepting an instruction to move the display portion of a large image that does not fit in the display area of the display panel 202.
  • the main control unit 220 detects a user operation through the operation unit 207 or accepts an operation on the icon or an input of a character string in the input field of the window through the operation panel 203. Or a display image scroll request through a scroll bar.
  • the main control unit 220 causes the operation position with respect to the operation panel 203 to overlap with the display panel 202 (display area) or other outer edge part (non-display area) that does not overlap with the display panel 202.
  • a touch panel control function for controlling the sensitive area of the operation panel 203 and the display position of the software key.
  • the main control unit 220 can also detect a gesture operation on the operation panel 203 and execute a preset function in accordance with the detected gesture operation.
  • Gesture operation is not a conventional simple touch operation, but an operation that draws a trajectory with a finger or the like, designates a plurality of positions at the same time, or combines these to draw a trajectory for at least one of a plurality of positions. means.
  • the camera unit 208 includes configurations other than the external memory control unit 20, the recording medium 21, the display control unit 22, the display unit 23, and the operation unit 14 in the digital camera shown in FIG.
  • the captured image data generated by the camera unit 208 can be recorded in the storage unit 212 or output through the input / output unit 213 or the wireless communication unit 210.
  • the camera unit 208 is mounted on the same surface as the display input unit 204, but the mounting position of the camera unit 208 is not limited to this and may be mounted on the back surface of the display input unit 204. Good.
  • the camera unit 208 can be used for various functions of the smartphone 200.
  • an image acquired by the camera unit 208 can be displayed on the display panel 202, or the image of the camera unit 208 can be used as one of operation inputs of the operation panel 203.
  • the GPS receiving unit 214 detects a position
  • the position can be detected with reference to an image from the camera unit 208.
  • the optical axis direction of the camera unit 208 of the smartphone 200 can be determined without using the triaxial acceleration sensor or in combination with the triaxial acceleration sensor. It is also possible to determine the current usage environment.
  • the image from the camera unit 208 can also be used in the application software.
  • the position information acquired by the GPS receiving unit 214 to the image data of the still image or the moving image, the voice information acquired by the microphone 206 (the text information may be converted into voice information by the main control unit or the like), Posture information and the like acquired by the motion sensor unit 215 can be added and recorded in the recording unit 212, or can be output through the input / output unit 213 and the wireless communication unit 210.
  • the main control unit 220 performs the same processing as the system control unit 11 of the digital camera 1 illustrated in FIG. 1, thereby enabling shooting with less image quality degradation from the telephoto side to the wide-angle side. become.
  • the disclosed imaging apparatus is an imaging apparatus having an imaging element capable of outputting a pair of image signals corresponding to each of a pair of light beams passing through different parts of the pupil region of the imaging optical system, A first pixel cell group including a plurality of first pixel cells for acquiring the pair of image signals; and a second pixel cell group including a plurality of second pixel cells for acquiring the pair of image signals.
  • the first pixel cell includes a first photoelectric conversion unit and a first microlens provided above the first photoelectric conversion unit, and the second pixel cell includes a second photoelectric conversion unit.
  • a second microlens provided above the second photoelectric conversion unit, wherein the first microlens and the second microlens are arranged with different regularity, and the first pixel cell Based on the pair of image signals read from the group.
  • a control unit is provided that is selected and executed according to an incident angle of light to the image sensor.
  • the position of the first microlens in the first pixel cell is such that the position of the first pixel cell is closer to the center portion from the center of the image sensor toward the periphery.
  • the position of the second microlens in the second pixel cell is shifted toward the center as the position of the second pixel cell moves from the center to the periphery of the image sensor.
  • the amounts of positional deviation of the first microlens and the second microlens that are at substantially the same distance from the center of the image sensor with respect to the center are different from each other.
  • the first microlens is arranged at the same position in all the first pixel cells, and the position of the second microlens in the second pixel cell is The position of the second pixel cell is shifted toward the central part as it goes from the central part of the image sensor to the peripheral part.
  • the first pixel cell group includes a first pixel cell that receives one of the pair of light beams, and a first pixel cell that receives the other of the pair of light beams in proximity to the first pixel cell.
  • a pair of one pixel cell is arranged two-dimensionally, and the second pixel cell group is adjacent to the second pixel cell that receives one of the pair of light beams and the second pixel cell. It includes a two-dimensionally arranged pair of second pixel cells that receive the other of the pair of light beams.
  • the pixel cell has a plurality of types of pixel cells that detect light of different colors, and all the pairs of the pixel cells are configured by the same type of pixel cell.
  • the second pair of pixel cells for detecting light of the same color as the pair is arranged in proximity.
  • the disclosed imaging apparatus is an imaging apparatus having an imaging element capable of outputting a pair of image signals corresponding to each of a pair of light beams passing through different parts of the pupil region of the imaging optical system, A first pixel cell group including a plurality of first pixel cells for acquiring the pair of image signals; and a second pixel cell group including a plurality of second pixel cells for acquiring the pair of image signals.
  • the first pixel cell includes a first photoelectric conversion unit and a first microlens provided above the first photoelectric conversion unit, and the second pixel cell includes a second photoelectric conversion unit.
  • a second microlens provided above the second photoelectric conversion unit, wherein the first microlens and the second microlens are arranged with different regularity, and the first pixel cell Based on the pair of image signals read from the group.
  • a control unit that is selected and executed according to the incident angle of light to the element is provided.
  • the control unit of the disclosed imaging device uses the pair of image signals read from the first pixel cell group and the pair of image signals read from the second pixel cell group to obtain captured image data.
  • the third control to be generated and recorded is selected and executed according to the incident angle of light to the image sensor.
  • the disclosed imaging device is an imaging device capable of outputting a pair of image signals corresponding to each of a pair of light beams that pass through different portions of the pupil region of the imaging optical system, and a plurality of image signals for acquiring the pair of image signals.
  • a first pixel cell group including a first pixel cell and a second pixel cell group including a plurality of second pixel cells for acquiring the pair of image signals, wherein the first pixel cell includes: A first microlens provided above the first photoelectric conversion unit and the first photoelectric conversion unit, and the second pixel cell is located above the second photoelectric conversion unit and the second photoelectric conversion unit.
  • the first microlens and the second microlens are arranged with different regularity.
  • the position of the first microlens in the first pixel cell is such that the position of the first pixel cell is closer to the periphery from the center of the image sensor toward the periphery.
  • the position of the second microlens in the second pixel cell is shifted toward the center as the position of the second pixel cell moves from the center to the periphery of the image sensor.
  • the amounts of positional deviation of the first microlens and the second microlens that are at substantially the same distance from the center of the image sensor with respect to the center are different from each other.
  • the first microlens is arranged at the same position in all the first pixel cells, and the position of the second microlens in the second pixel cell is The position of the second pixel cell is shifted toward the central part as it goes from the central part of the image sensor to the peripheral part.
  • the first pixel cell group includes a first pixel cell that receives one of the pair of light beams, and a first pixel cell that receives the other of the pair of light beams in proximity to the first pixel cell.
  • a pair of one pixel cell is arranged two-dimensionally, and the second pixel cell group is adjacent to the second pixel cell that receives one of the pair of light beams and the second pixel cell. It includes a two-dimensionally arranged pair of second pixel cells that receive the other of the pair of light beams.
  • the disclosed imaging device includes the pixel cell and a plurality of types of pixel cells that detect light of different colors, and all the pixel cell pairs are configured by the same type of pixel cell, and the first pixel In the cell pair, the second pixel cell pair that detects light of the same color as that of the pair is arranged close to the cell pair.
  • the disclosed imaging method is an imaging method using the imaging device, and performs first focus adjustment of the imaging optical system based on the pair of image signals read from the first pixel cell group. And a second control for adjusting the focus of the imaging optical system based on the pair of image signals read from the second pixel cell group according to an incident angle of light to the image sensor. To execute.
  • the disclosed imaging method is an imaging method using the imaging device, and includes first control for generating and recording captured image data based on the pair of image signals read from the first pixel cell group. Second control for generating and recording captured image data based on the pair of image signals read from the second pixel cell group is selected and executed according to an incident angle of light to the image sensor. To do.
  • an imaging device capable of realizing good imaging quality regardless of the incident angle of light, an imaging device using the imaging device, and an imaging method.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Power Engineering (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Optics & Photonics (AREA)
  • Electromagnetism (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Computer Hardware Design (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Studio Devices (AREA)
  • Automatic Focus Adjustment (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Color Television Image Signal Generators (AREA)
  • Focusing (AREA)

Abstract

 固体撮像素子5は、撮影光学系1の異なる瞳領域を通過する一対の光束の各々に対応する一対の像信号取得用の画素セル50a,50bと、前記一対の像信号取得用の画素セル50c,50dとを備える。各画素セル50a~50dは、光電変換部PD及びその上方に設けられるマイクロレンズ53を含む。画素セル50a,50bと画素セル50c,50dとでは、マイクロレンズ53が異なる規則性をもって配置されている。

Description

撮像素子及びこれを用いた撮像装置及び撮像方法
 本発明は、撮像素子及びこれを用いた撮像装置及び撮像方法に関する。
 近年、CCD(Charge Coupled Device)イメージセンサ、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等の固体撮像素子の高解像度化に伴い、デジタルスチルカメラ、デジタルビデオカメラ、スマートフォン等の携帯電話機、PDA(Personal Digital Assistant,携帯情報端末)等の撮影機能を有する情報機器の需要が急増している。なお、以上のような撮像機能を有する情報機器を撮像装置と称する。
 ところで、主要な被写体に焦点を合わせる合焦制御方法には、コントラストAF(Auto Focus、自動合焦)方式や位相差AF方式がある。位相差AF方式は、コントラストAF方式に比べて合焦位置の検出を高速,高精度に行うことができるため、様々な撮像装置で多く採用されている(例えば特許文献1参照)。
 特許文献1には、固体撮像素子の周辺に向かうほど、位相差検出用の画素セルに搭載するマイクロレンズの位置を固体撮像素子の中心側にずらす、所謂マイクロレンズスケーリングを実施することが記載されている。
日本国特開2010-169709号公報
 近年の撮像装置は、高倍率のズーム機能を搭載するものが増えてきている。そのため、固体撮像素子に入射する光の角度(入射角)が、急峻な角度から緩やかな角度まで幅広くなる傾向にある。
 特許文献1に記載された撮像素子は、周辺部にある位相差検出用の画素セルのマイクロレンズが中心部側にずれている。このため、例えばズーム倍率が低いときには、スケーリングの効果により、撮像素子の中心部と周辺部とで位相差検出用の画素セルに感度ムラは生じ難くなる。しかし、ズーム倍率が高いときには、周辺部の画素セルにおいて光を十分に受光できなくなり、感度ムラが生じる。
 このように、マイクロレンズを単純にスケーリングしただけでは、撮影条件の変化によって感度ムラが発生し、良好な撮像品質を維持することができない。
 本発明は、上記事情に鑑みてなされたものであり、光の入射角に関わらず良好な撮像品質を実現することのできる撮像素子及びこれを用いた撮像装置及び撮像方法を提供することを目的とする。
 本発明の撮像装置は、撮影光学系の瞳領域の異なる部分を通過する一対の光束の各々に対応する一対の像信号を出力可能な撮像素子を有する撮像装置であって、前記一対の像信号取得用の複数の第一の画素セルを含む第一の画素セル群と、前記一対の像信号取得用の複数の第二の画素セルを含む第二の画素セル群とを備え、前記第一の画素セルは、第一の光電変換部及び前記第一の光電変換部上方に設けられる第一のマイクロレンズを含み、前記第二の画素セルは、第二の光電変換部及び前記第二の光電変換部上方に設けられる第二のマイクロレンズを含み、前記第一のマイクロレンズと前記第二のマイクロレンズは、異なる規則性をもって配置されており、前記第一の画素セル群から読み出した前記一対の像信号に基づいて前記撮影光学系の焦点調節を行う第一の制御と、前記第二の画素セル群から読み出した前記一対の像信号に基づいて前記撮影光学系の焦点調節を行う第二の制御とを、前記撮像素子への光の入射角に応じて選択して実行する制御部を備えるものである。
 本発明の撮像装置は、撮影光学系の瞳領域の異なる部分を通過する一対の光束の各々に対応する一対の像信号を出力可能な撮像素子を有する撮像装置であって、前記撮像素子は、前記一対の像信号取得用の複数の第一の画素セルを含む第一の画素セル群と、前記一対の像信号取得用の複数の第二の画素セルを含む第二の画素セル群とを備え、前記第一の画素セルは、第一の光電変換部及び前記第一の光電変換部上方に設けられる第一のマイクロレンズを含み、前記第二の画素セルは、第二の光電変換部及び前記第二の光電変換部上方に設けられる第二のマイクロレンズを含み、前記第一のマイクロレンズと前記第二のマイクロレンズは、異なる規則性をもって配置されており、前記第一の画素セル群から読み出した前記一対の像信号に基づいて撮像画像データを生成し記録する第一の制御と、前記第二の画素セル群から読み出した前記一対の像信号に基づいて撮像画像データを生成し記録する第二の制御とを、前記撮像素子への光の入射角に応じて選択して実行する制御部を備えるものである。
 本発明の撮像素子は、撮影光学系の瞳領域の異なる部分を通過する一対の光束の各々に対応する一対の像信号を出力可能な撮像素子を有する撮像装置であって、前記撮像素子は、前記一対の像信号取得用の複数の第一の画素セルを含む第一の画素セル群と、前記一対の像信号取得用の複数の第二の画素セルを含む第二の画素セル群とを備え、前記第一の画素セルは、第一の光電変換部及び前記第一の光電変換部上方に設けられる第一のマイクロレンズを含み、前記第二の画素セルは、第二の光電変換部及び前記第二の光電変換部上方に設けられる第二のマイクロレンズを含み、前記第一のマイクロレンズと前記第二のマイクロレンズは、異なる規則性をもって配置されているものである。
 本発明の前記撮像素子を用いた撮像方法は、前記第一の画素セル群から読み出した前記一対の像信号に基づいて前記撮影光学系の焦点調節を行う第一の制御と、前記第二の画素セル群から読み出した前記一対の像信号に基づいて前記撮影光学系の焦点調節を行う第二の制御とを、前記撮像素子への光の入射角に応じて選択して実行するものである。
 本発明の前記撮像素子を用いた撮像方法は、前記第一の画素セル群から読み出した前記一対の像信号に基づいて撮像画像データを生成し記録する第一の制御と、前記第二の画素セル群から読み出した前記一対の像信号に基づいて撮像画像データを生成し記録する第二の制御とを、前記撮像素子への光の入射角に応じて選択して実行するものである。
 本発明によれば、光の入射角に関わらず良好な撮像品質を実現することのできる撮像素子及びこれを用いた撮像装置及び撮像方法を提供することができる。
本発明の一実施形態を説明するための撮像装置の一例であるデジタルカメラの概略構成を示す図 図1に示す固体撮像素子100の概略構成を示す平面模式図 図2に示す固体撮像素子5の中心部における範囲30の拡大図 図2に示す固体撮像素子5の周辺部における範囲31の拡大図 図2に示した固体撮像素子5の周辺部における画素セル50a,50bの感度特性及び画素セル50c,50dの感度特性を示す図 図1に示すデジタルカメラの3D撮影モード時の動作を説明するためのフローチャート 図2に示す固体撮像素子5の変形例を示す図であり、図4に対応する図 図2に示す固体撮像素子5の変形例である固体撮像素子5aの周辺部における構成を示す平面図 図2に示す固体撮像素子5の変形例である固体撮像素子5bの構成を示す平面図 図2に示す固体撮像素子5の変形例である固体撮像素子5cの構成を示す平面図 図2に示す固体撮像素子5の変形例である固体撮像素子5dの構成を示す平面図 撮像装置としてスマートフォンを説明する図 図12のスマートフォンの内部ブロック図
 以下、本発明の実施形態について図面を参照して説明する。
 図1は、本発明の一実施形態を説明するための撮像装置の一例であるデジタルカメラの概略構成を示す図である。
 図示するデジタルカメラの撮像系は、フォーカスレンズ、ズームレンズ等を含む単一の撮影光学系1と、CCDイメージセンサやCMOSイメージセンサ等の固体撮像素子5と、この両者の間に設けられた絞り2と、赤外線カットフィルタ3と、光学ローパスフィルタ4とを備える。
 デジタルカメラの電気制御系全体を統括制御するシステム制御部11は、フラッシュ発光部12を制御する。また、システム制御部11は、レンズ駆動部8を制御して、撮影光学系1に含まれるフォーカスレンズの位置を調整したり、撮影光学系に含まれるズームレンズの位置を調整したりする。また、システム制御部11は、絞り駆動部9を介し絞り2の開口量を制御して露光量調整を行う。
 また、システム制御部11は、撮像素子駆動部10を介して固体撮像素子5を駆動し、撮影光学系1を通して撮像した被写体像を撮像画像信号として出力させる。システム制御部11には、操作部14を通してユーザからの指示信号が入力される。
 デジタルカメラの電気制御系は、更に、固体撮像素子5の出力に接続された相関二重サンプリング処理等のアナログ信号処理を行うアナログ信号処理部6と、このアナログ信号処理部6から出力されたRGBの色信号をデジタル信号に変換するA/D変換回路7とを備える。アナログ信号処理部6とA/D変換回路7は、システム制御部11によって制御される。
 更に、このデジタルカメラの電気制御系は、メインメモリ16と、メインメモリ16に接続されたメモリ制御部15と、デジタル信号処理部17と、圧縮伸張処理部18と、3D画像生成部19と、着脱自在の記録媒体21が接続される外部メモリ制御部20と、カメラ背面等に搭載された液晶表示部23が接続される表示制御部22とを備える。
 デジタル信号処理部17は、A/D変換回路7から出力された撮像画像信号に対し、補間演算やガンマ補正演算,RGB/YC変換処理等を行って撮影画像データを生成する。
 圧縮伸張処理部18は、デジタル信号処理部17で生成された撮影画像データをJPEG形式に圧縮したり圧縮画像データを伸張したりする。
 3D画像生成部19は、固体撮像素子5によって撮影して得られる視点の異なる複数の撮影画像データ(視差のある複数の撮影画像データ)を用いて立体画像データを生成する。
 液晶表示部23は、視点の異なる2つの撮影画像データを立体視可能に表示することができるものである。
 メモリ制御部15、デジタル信号処理部17、圧縮伸張処理部18、3D画像生成部19、外部メモリ制御部20、及び表示制御部22は、制御バス24及びデータバス25によって相互に接続され、システム制御部11からの指令によって制御される。
 図2は、図1に示す固体撮像素子5の概略構成を示す平面模式図である。
 固体撮像素子5は、撮影光学系1の瞳領域の異なる部分を通過する一対の光束の各々に対応する一対の像信号のうちの一方を得るための画素セル50a及び画素セル50cと、一対の像信号のうちの他方を得るための画素セル50b及び画素セル50dとを備える。以下では、画素セル50a~50dをそれぞれ区別せずに画素セル50ということもある。
 画素セル50は、行方向Xとこれに直交する列方向Yに二次元状(図2の例では正方格子状)に配列されている。各画素セル50は、フォトダイオード等の光電変換部を含む。
 画素セル50の配置は、行方向Xに一定ピッチで並ぶ複数の画素セル50からなる画素セル行を、列方向Yに一定ピッチで複数個並べたものとなっている。
 この配置において、奇数行にある画素セル行は、画素セル50a及び画素セル50bにより構成され、偶数行にある画素セル行は、画素セル50c及び画素セル50dにより構成されている。
 奇数行にある画素セル行は、画素セル50aと画素セル50bを行方向Xに交互に配列したものとなっている。
 偶数行にある画素セル行は、画素セル50cと画素セル50dを行方向Xに交互に配列したものとなっている。
 画素セル50aと画素セル50bは、それぞれ、撮影光学系1の瞳領域の異なる部分を通過する光束を受光するものである。つまり、奇数行にある画素セル50a,50bは瞳分割されており、これらによって、上記一対の像信号を取得することができる。
 画素セル50cと画素セル50dは、それぞれ、撮影光学系1の瞳領域の異なる部分を通過する光束を受光するものである。つまり、偶数行にある画素セル50c,50dは瞳分割されており、これらによっても、上記一対の像信号を取得することができる。
 画素セル50a~50dは、それぞれ、赤色光を検出する画素セルと、緑色光を検出する画素セルと、青色光を検出する画素セルの3種類の画素セルを含む。
 図2では、赤色光を検出する画素セルにはブロック内に“R”の文字を付している。また、緑色光を検出する画素セルには、ブロック内に“G”の文字を付している。また、青色光を検出する画素セルには、ブロック内に“B”の文字を付している。
 図2に示すように、奇数行にある画素セル50aの検出色の並びはベイヤ状となっている。
 各画素セル50aに対して同一方向(行方向Xにおいて右方向)の隣には、当該各画素セル50aと同じ種類(同じ色の光を検出するもの)の画素セル50bが配置されている。つまり、画素セル50bの検出色の並びも全体としてベイヤ状となっている。
 各画素セル50aに対して同一方向(列方向Yにおいて下方向)の隣には、当該各画素セル50aと同じ種類の画素セル50cが配置されている。つまり、画素セル50cの検出色の並びも全体としてベイヤ状となっている。
 各画素セル50bに対して同一方向(列方向Yにおいて下方向)の隣には、当該各画素セル50bと同じ種類の画素セル50dが配置されている。つまり、画素セル50dの検出色の並びも全体としてベイヤ状となっている。
 画素セル50aと、これに対して行方向Xの右隣にある同種類の画素セル50bにより第一の画素セルペアが構成される。また、画素セル50cと、これに対して行方向Xの右隣にある同種類の画素セル50dにより第二の画素セルペアが構成される。固体撮像素子5は、第一の画素セルペアに対し、当該第一の画素セルペアによって検出される色と同じ色の光を検出する第二の画素セルペアが隣接して配置されたものとなっている。
 なお、図2では、第一の画素セルペアに対し、当該第一の画素セルペアによって検出される色と同じ色の光を検出する第二の画素セルペアが間に他の画素セルを挟まずに隣接するものとしたが、これら2つの画素セルペアが他の画素セルをはさんで隣接する構成でもよい。つまり、第一の画素セルペアに対し、当該第一の画素セルペアによって検出される色と同じ色の光を検出する第二の画素セルペアが近接して配置されていればよい。
 また、各画素セルペアについても、2つの画素セルが近接して配置されていればよい。
 図3は、図2に示す固体撮像素子5の中心部における範囲30の拡大図である。
 各画素セル50は、フォトダイオード等の光電変換部PDと、光電変換部PDに光を集光するマイクロレンズ53と、これらの間に設けられるカラーフィルタ(図示せず)とを含む。
 各画素セル50は遮光膜Wによって遮光され、遮光膜Wには、光電変換部PDの上方に開口Kが形成されている。この開口Kを介して、光電変換部PDに光が入射する。図3では、画素セル50が検出する光の色(R,G,B)を、開口K内に記入してある。
 行方向Xにおける、画素セル50a,50cの開口Kの中心位置は、画素セル50a,50cのマイクロレンズ53の中心位置よりも右側に偏心している。
 行方向Xにおける、画素セル50b,50dの開口Kの中心位置は、画素セル50b,50dのマイクロレンズ53の中心位置よりも左側に偏心している。
 このように、画素セル50a,50cと画素セル50b,50dとでは、開口Kの位置が互いに逆方向に偏心している。したがって、画素セル50a,50cによれば、撮影光学系1の瞳領域の異なる部分を通過する一対の光束の一方に対応する像信号を得ることができ、画素セル50b,50dによれば、当該一対の光束の他方に対応する像信号を得ることができる。
 図4は、図2に示す固体撮像素子5の周辺部における範囲31の拡大図である。
 固体撮像素子5の周辺部において、画素セル50a及び画素セル50bは、固体撮像素子5の中心部と同じ構成である。
 これに対し、画素セル50c及び画素セル50dは、マイクロレンズ53の位置が中心部とは異なっている。つまり、行方向Xにおけるマイクロレンズ53の中心位置が、中心部にある画素セル50c及び画素セル50dと比較すると、固体撮像素子5の中心部側にずれている。画素セル50c及び画素セル50dにおけるマイクロレンズ53のずらし量は、固体撮像素子5の中心部から周辺部に向かうにしたがって大きくなっている。
 画素セル50c及び画素セル50dにおけるマイクロレンズ53のずらし量は例えば以下のように決めることができる。
 固体撮像素子5の中心から対角端までの距離をXo、任意の位置にある画素セル50c(50d)の固体撮像素子5中心からの距離X、画素セル50c(50d)に含まれる光電変換部表面からマイクロレンズ53の底面までの距離L、固体撮像素子5の対角端における撮影光学系1の主光線の固体撮像素子5表面の垂線方向からの傾きθ、とすると、任意の位置にある画素セル50c(50d)におけるマイクロレンズ53のずらし量は、一般的には以下の式(1)により求まる。ただし、この式に限定されるものではない。
 ずらし量=(X/Xo)*L*tanθ ・・(1)
 このように、固体撮像素子5では、画素セル50c及び画素セル50dについてのみ、マイクロレンズのスケーリングが行われている。
 図5は、図2に示した固体撮像素子5の周辺部における画素セル50a,50bの感度特性及び画素セル50c,50dの感度特性を示す図である。図5において符号50a,50bで示す特性は画素セル50a,50bの特性を示し、符号50c,50dで示す特性は画素セル50b,50dの特性を示す。
 図5に示すように、画素セル50a,50bは、入射光の角度が0°のときに信号出力が最大となり、入射光の角度が増加するにしたがって信号出力が減少する。また、画素セル50c,50dは、入射光の角度がマイクロレンズ53のずらし量に応じた一定の値のときに信号出力が最大となり、それよりも入射光の角度が増加又は減少するにしたがって信号出力が減少する。
 この信号出力の減少分は、図1に示すデジタルカメラのデジタル信号処理部17によって行われるシェーディング補正によって補正することができる。しかし、信号出力が非常に小さいと、シェーディング補正後の撮像画像信号のS/Nが低下するため、画質を損なう。そのため、固体撮像素子5の各画素セル50からの信号出力はある一定値以上(許容出力という)が必要であり、この一定値を図5では一点鎖線で示している。
 開口Kの中心位置とマイクロレンズ53の中心位置とが一致する通常の画素セル(つまり、瞳分割されていない画素セル)のみを有する固体撮像素子であれば、中心部とマイクロレンズスケーリングを行っている周辺部とで、許容出力が得られる入射光角度の幅(入射光角度許容幅)の重複範囲を大きくできる。このため、広角撮影時と望遠撮影時のいずれにおいても、周辺部にある画素セルからは許容出力を得ることが可能である。
 しかし、画素セル50は、通常の画素セルと比べると、入射光の傾きに対する信号出力の減少量が大きいため、入射光角度許容幅は通常の画素セルよりも小さい。
 したがって、固体撮像素子5において、全ての画素セル50で一律にスケーリングを行ったのでは、中心部にある画素セル50の入射光角度許容幅と、固体撮像素子5の周辺部にある画素セル50の入射光角度許容幅とを大きく重複させることが難しい。
 そこで、固体撮像素子5では、周辺部において、画素セル50a,50bと画素セル50c,50dとで、入射角感度特性を変えることで、許容出力が得られる入射光の角度範囲を広げることを可能にしている。この結果、撮影光学系1に高倍率のズームレンズを採用することが可能になる。
 以下、図1に示すデジタルカメラの動作について説明する。このデジタルカメラでは、異なる視点から撮影して得られる2つの撮像画像データを関連付けた立体画像データを記録できる3D撮影モードと、1つの視点から撮影して得られる撮像画像データを記録できる2D撮影モードとが設定可能である。
 図6は、図1に示すデジタルカメラの3D撮影モード時の動作を説明するためのフローチャートである。
 3D撮影モードに設定されると、システム制御部11は、撮影光学系1に含まれるズームレンズの位置を検出し、その位置から現時点でのズーム倍率を判定する(ステップS1)。
 そして、ズーム倍率が閾値以下であった場合(ステップS1:NO)、システム制御部11は、固体撮像素子5から信号を読み出す対象とする画素セルを画素セル50c,50dに設定する(ステップS2)。一方、ズーム倍率が閾値を超えていた場合(ステップS1:YES)、システム制御部11は、固体撮像素子5から信号を読み出す対象とする画素セルを画素セル50a,50bに設定する(ステップS3)。
 ステップS2,S3の後、システム制御部11は、撮像素子駆動部10を制御し、固体撮像素子5によるライブビュー画像生成のための動画撮影を開始させ、ライブビュー画像を表示部23に表示させる(ステップS4)。
 具体的には、撮像素子駆動部10は、動画の1フレームの露光が終了すると、ステップS2,S3で設定された画素セルのみから信号を読み出す駆動を行う。この駆動により、固体撮像素子5からは奇数行又は偶数行の画素セルに対応する撮像画像信号が出力される。
 デジタル信号処理部17は、出力された撮像画像信号のうち、画素セル50a(50c)から得られた撮像信号からなる第一の撮像画像信号を処理して第一の撮像画像データを生成する。また、デジタル信号処理部17は、この撮像画像信号のうち、画素セル50b(50d)から得られた撮像信号からなる第二の撮像画像信号を処理して第二の撮像画像データを生成する。
 第一の撮像画像データ及び第二の撮像画像データが生成されると、表示制御部22が、第一の撮像画像データに基づく画像と、第二の撮像画像データに基づく画像とを、表示部23に立体視可能に表示させる。これにより、立体ライブビュー画像を表示部23にて確認できるようになる。
 システム制御部11は、ライブビュー画像表示後、ズーム倍率の変更があった場合(ステップS5:YES)はステップS1に処理を戻し、ズーム倍率に変更がない場合(ステップS5:NO)は、AE(自動露出)・AF(自動焦点調節)の指示があったときに(ステップS6:YES)、ステップS7の処理を行う。
 ステップS7において、システム制御部11は、固体撮像素子5から出力されてくる撮像画像信号を用いてAE・AFを行う。システム制御部11は、撮像画像信号に含まれる第一の撮像画像信号と第二の撮像画像信号の位相差に基づいてAF制御を行う。
 ステップS7の後、撮影指示があると(ステップS8:YES)、システム制御部11は、撮像素子駆動部10を制御して固体撮像素子5による本撮像用の露光を行わせる。撮像素子駆動部10は、この露光の終了後、ステップS2又はステップS3で設定された画素セルから信号を読み出す。
 デジタル信号処理部17は、固体撮像素子5から出力された撮像画像信号から第一の撮像画像データと第二の撮像画像データを生成し、これらを関連付けたものを立体画像データとして生成する。そして、この立体画像データは、外部メモリ制御部20によって記録媒体21に記録される(ステップS9)。ステップS9の後は、ステップS1に処理が戻る。
 なお、2D撮影モードの動作は、ステップS4とステップS9において生成される撮像画像データが異なる以外は図6に示すものと同じである。
 2D撮影モードのときは、ステップS2又はステップS3の後に固体撮像素子5から撮像画像信号が出力されると、デジタル信号処理部17が、撮像画像信号のうち、画素セルペア(行方向Xにおいて隣接する同一種類の画素セル50a(50c)及び画素セル50b(50d)のペア)から得られた信号を加算する。
 この加算処理により、被写体を1つの視点から撮影して得たものに相当する撮像画像信号を得ることができる。デジタル信号処理部17は、加算後の撮像画像信号を処理して撮像画像データを生成する。表示制御部22は、この撮像画像データに基づく画像(非立体の2D画像)を表示部23にライブビュー画像として表示させる。
 同様に、2D撮影モードにおけるステップS9では、固体撮像素子5から撮像画像信号が出力されると、デジタル信号処理部17が、撮像画像信号のうち、画素セルペアから得られた信号を加算する。そして、加算後の撮像画像信号を処理して得られる撮像画像データを記録媒体21に記録させる。
 なお、図6のステップS1の判定で用いる閾値は、画素セル50c,50dのスケーリング量に応じて、最適な画質が得られる値に設定すればよい。
 以上のように、図1に示すデジタルカメラによれば、中心部から周辺部に向かってマイクロレンズ53のスケーリングを行っていない画素群(画素セル50a,50b)と、中心部から周辺部に向かってマイクロレンズ53のスケーリングを行っている画素群(画素セル50c,50d)とを含む固体撮像素子5を搭載しているため、画質低下をさせずに済む固体撮像素子5への入射光角度の範囲を広くすることができる。この結果、撮影光学系1に高倍率ズームレンズを採用することができ、コンパクトでありながら光学ズーム倍率の高いデジタルカメラを提供することができる。
 なお、以上の説明では、ズーム倍率に応じて第一の画素群と第二の画素群のどちらを用いてAFを行ったり、画像を生成したりするかを切り替えているが、例えば絞りのF値等によっても、固体撮像素子5への光の入射角は変わる。このため、上記ズーム倍率の変わりにF値を切り替えの判定に用いても良い。つまり、固体撮像素子5への光の入射角に応じて、どちらの画素群を用いてAF制御や画像生成を行うかを決めればよい。
 以上の説明では、画素セル50a,50bからなる第一の画素セル群によってライブビュー画像や記録用画像を生成するか、画素セル50c,50dからなる第二の画素セル群によってライブビュー画像や記録用画像を生成するかを、ズーム倍率によって選択するものとした。
 しかし、第一の画素セル群と第二の画素セル群の両方を用いて、ライブビュー画像や記録用画像を生成することも可能である。
 例えば、デジタルカメラは、ズーム倍率が第一の閾値までは、第二の画素セル群によってライブビュー画像や記録用画像を生成する。また、ズーム倍率が第一の閾値を超えて第二の閾値までは、第一の画素セル群と第二の画素セル群の両方を用いて、ライブビュー画像や記録用画像を生成する。また、ズーム倍率が第二の閾値を超えるときは第一の画素セル群によってライブビュー画像や記録用画像を生成する。
 第一の画素セル群と第二の画素セル群の両方を用いて、ライブビュー画像や記録用画像を生成する例について説明する。
 3D撮影モードであれば、第一の画素セル群から得られる撮像画像信号から生成される2つの撮像画像データと、第二の画素セル群から得られる撮像画像信号から生成される2つの撮像画像データとをズーム倍率に応じた割合で加算し、加算後の2つの撮像画像データから立体画像データを生成すればよい。上記割合は、ズーム倍率が大きいほど第一の画素セル群から得られる撮像画像データの割合を大きくすればよい。
 また、2D撮影モードであれば、第一の画素セル群から得られる撮像画像信号から生成される1つの撮像画像データと、第二の画素セル群から得られる撮像画像信号から生成される1つの撮像画像データとを、ズーム倍率に応じた割合で加算して1つの撮像画像データを生成すればよい。
 このようにすることで、ズーム倍率によって撮像画像の品質が急激に変化することがなくなり、違和感のない撮影操作が可能になる。
 なお、以上の説明では、画素セル50a,50bについては、マイクロレンズ53のスケーリングを行わないものとした。しかし、画素セル50a,50bについて、マイクロレンズ53のスケーリングを行ってもよい。
 図7は、図2に示す固体撮像素子5の変形例を示す図であり、図4に対応する図である。
 図4との違いは、画素セル50a,50bにおいても、マイクロレンズ53の位置が、固体撮像素子5の中心部にある画素セル50a,50bにおけるマイクロレンズ53の位置に対して、固体撮像素子5の中心部側にずれている点である。
 ただし、行方向Xにおいて同一位置にある画素セル50a(50b)と画素セル50c(50d)におけるマイクロレンズ53のずれ量は異なっている。
 ズーム倍率が高い場合は、固体撮像素子5に入射する光の角度範囲は狭くなるが、それでも、固体撮像素子5の周辺部にある画素セルにおいては、光が斜めに入射する。そのため、画素セル50a,50bからなる第一の画素セル群と、画素セル50c,50dからなる第二の画素セル群とのそれぞれにおいてマイクロレンズ53を異なるスケーリング量でずらすことで、より高画質の撮影が可能になる。
 以下、固体撮像素子5のその他の変形例について説明する。
 図8は、図2に示す固体撮像素子5の変形例である固体撮像素子5aの周辺部における構成を示す平面図である。
 固体撮像素子5aでは、各画素セル50に対して1つのマイクロレンズを設けるのではなく、画素セルペアを構成する2つの画素セル50に対応して1つのマイクロレンズ53aを設けている点が、固体撮像素子5とは異なる。
 図8に示すように、マイクロレンズ53aは楕円形状であり、画素セルペアを構成する2つの画素セル50に跨って配置されている。マイクロレンズ53aのスケーリングについてはマイクロレンズ53と同様である。即ち、画素セル50a、50bに対応するマイクロレンズ53aと、画素セル50c、50dに対応するマイクロレンズ53aとは、異なる規則性をもって配置されている。
 この構成によれば、マイクロレンズ53aだけでも、その下方にある2つの画素セル50の各々に入射させる光を分離することができる。つまり、画素セル50における開口Kを行方向Xに拡大して大きくしても、瞳分割性能を維持することができるため、感度を向上させることができる。
 図9は、図2に示す固体撮像素子5の変形例である固体撮像素子5bの構成を示す平面図である。
 固体撮像素子5bは、固体撮像素子5において、奇数行にある画素セル行を、画素セル50の行方向Xにおける配列ピッチ分、行方向Xにずらしたものとなっている。
 この構成によれば、第一の画素セル群と第二の画素セル群の両方を用いて、ライブビュー画像や記録用画像を生成する場合における画質を向上させることができる。
 また、この構成によれば、画素セルペアに対して1つのマイクロレンズを設ける構成を採用する場合に、マイクロレンズを略円形にすることが可能になる。このため、従来からある製造方法を流用することができ、図8の構成と比較して製造コストの削減が可能になる。
 図10は、図2に示す固体撮像素子5の変形例である固体撮像素子5cの構成を示す平面図である。
 固体撮像素子5cは、列方向Yにおいて隣接する画素セル50a及び画素セル50bの第一のペアが行方向Xに並べられた第一のペアラインと、列方向Yにおいて隣接する画素セル50c及び画素セル50dの第二のペアが行方向Xに並べられた第二のペアラインとが、列方向Yに交互に並べられた構成である。
 この固体撮像素子5cにおいても、第一のペアラインと第二のペアラインとで、マイクロレンズのスケーリング量を変える(マイクロレンズを異なる規則性をもって配置する)ことで、固体撮像素子5と同様の効果を得ることができる。
 図11は、図2に示す固体撮像素子5の変形例である固体撮像素子5dの構成を示す平面図である。
 固体撮像素子5、5a,5b,5cは、撮影光学系1の瞳領域の異なる部分を通過する一対の光束の両方を受光する画素セル(瞳分割されていない画素セル)を持たないものであった。これに対し、固体撮像素子5dは、瞳分割されていない画素セル50eと、これまで説明してきた瞳分割された画素セル50a~50dとを備えている。
 固体撮像素子5dでは、二次元状(図11の例では正方格子状)に配列された画素セル50eのうちの一部を、画素セル50a~50dとしている。
 そして、固体撮像素子5dの中心部にある画素セル50a~50dでは、マイクロレンズのスケーリングは行われておらず、周辺部にある画素セル50a~50dでは、画素セル50c,50dだけマイクロレンズのスケーリングが行われている。つまり、画素セル50a,50bと画素セル50c,50dとは、マイクロレンズが異なる規則性をもって配置されたものとなっている。
 この固体撮像素子5dを搭載するデジタルカメラでは、画素セル50a~50dから取得した信号を用いて、システム制御部11が位相差AFを行う。システム制御部11は、ズーム倍率に応じて、位相差AFに使用する画素セルを設定する。例えば、ズーム倍率が閾値を超えていれば画素セル50a,50bからの信号を用いて位相差AFを行い、ズーム倍率が閾値以下であれば画素セル50c,50dからの信号を用いて位相差AFを行う。
 このように、固体撮像素子5dを用いた場合には、ズーム倍率によって位相差AF精度を最適化することができる。
 なお、固体撮像素子5dにおいて、画素セル50a~50dを全体に満遍なく配置しておくことで、3D撮影と2D撮影の両方に対応することが可能になる。
 例えば、3D撮影時には、画素セル50a~50dから取得した撮像画像信号を用いて立体画像データを生成し、2D撮影時には、画素セル50eから取得した撮像画像信号を用いて撮像画像データを生成するといった使い方が可能である。なお、2D撮影時には、画素セル50a~50dに対応する信号については、画素セル50eから得た信号を用いて補間生成すればよい。
 ここまでは、画素セル50がカラーフィルタを搭載しているものとしたが、カラーフィルタは省略してもよい。この場合は、モノクロの撮像画像データを得ることができる。
 次に、撮像装置としてスマートフォンの構成について説明する。
 図12は、本発明の撮影装置の一実施形態であるスマートフォン200の外観を示すものである。図12に示すスマートフォン200は、平板状の筐体201を有し、筐体201の一方の面に表示部としての表示パネル202と、入力部としての操作パネル203とが一体となった表示入力部204を備えている。また、この様な筐体201は、スピーカ205と、マイクロホン206と、操作部207と、カメラ部208とを備えている。なお、筐体201の構成はこれに限定されず、例えば、表示部と入力部とが独立した構成を採用したり、折り畳み構造やスライド機構を有する構成を採用したりすることもできる。
 図13は、図12に示すスマートフォン200の構成を示すブロック図である。図13に示すように、スマートフォンの主たる構成要素として、無線通信部210と、表示入力部204と、通話部211と、操作部207と、カメラ部208と、記憶部212と、外部入出力部213と、GPS(Global Positioning System)受信部214と、モーションセンサ部215と、電源部216と、主制御部220とを備える。また、スマートフォン200の主たる機能として、図示省略の基地局装置BSと図示省略の移動通信網NWとを介した移動無線通信を行う無線通信機能を備える。
 無線通信部210は、主制御部220の指示にしたがって、移動通信網NWに収容された基地局装置BSに対し無線通信を行うものである。この無線通信を使用して、音声データ、画像データ等の各種ファイルデータ、電子メールデータなどの送受信や、Webデータやストリーミングデータなどの受信を行う。
 表示入力部204は、主制御部220の制御により、画像(静止画像及び動画像)や文字情報などを表示して視覚的にユーザに情報を伝達するとともに、表示した情報に対するユーザ操作を検出する、いわゆるタッチパネルであって、表示パネル202と、操作パネル203とを備える。
 表示パネル202は、LCD(Liquid Crystal Display)、OELD(Organic Electro-Luminescence Display)などを表示デバイスとして用いたものである。
 操作パネル203は、表示パネル202の表示面上に表示される画像を視認可能に載置され、ユーザの指や尖筆によって操作される一又は複数の座標を検出するデバイスである。このデバイスをユーザの指や尖筆によって操作すると、操作に起因して発生する検出信号を主制御部220に出力する。次いで、主制御部220は、受信した検出信号に基づいて、表示パネル202上の操作位置(座標)を検出する。
 図12に示すように、本発明の撮影装置の一実施形態として例示しているスマートフォン200の表示パネル202と操作パネル203とは一体となって表示入力部204を構成しているが、操作パネル203が表示パネル202を完全に覆うような配置となっている。
 係る配置を採用した場合、操作パネル203は、表示パネル202外の領域についても、ユーザ操作を検出する機能を備えてもよい。換言すると、操作パネル203は、表示パネル202に重なる重畳部分についての検出領域(以下、表示領域と称する)と、それ以外の表示パネル202に重ならない外縁部分についての検出領域(以下、非表示領域と称する)とを備えていてもよい。
 なお、表示領域の大きさと表示パネル202の大きさとを完全に一致させても良いが、両者を必ずしも一致させる必要は無い。また、操作パネル203が、外縁部分と、それ以外の内側部分の2つの感応領域を備えていてもよい。更に、外縁部分の幅は、筐体201の大きさなどに応じて適宜設計されるものである。更にまた、操作パネル203で採用される位置検出方式としては、マトリクススイッチ方式、抵抗膜方式、表面弾性波方式、赤外線方式、電磁誘導方式、静電容量方式などが挙げられ、いずれの方式を採用することもできる。
 通話部211は、スピーカ205やマイクロホン206を備え、マイクロホン206を通じて入力されたユーザの音声を主制御部220にて処理可能な音声データに変換して主制御部220に出力したり、無線通信部210あるいは外部入出力部213により受信された音声データを復号してスピーカ205から出力させたりするものである。また、図12に示すように、例えば、スピーカ205を表示入力部204が設けられた面と同じ面に搭載し、マイクロホン206を筐体201の側面に搭載することができる。
 操作部207は、キースイッチなどを用いたハードウェアキーであって、ユーザからの指示を受け付けるものである。例えば、図12に示すように、操作部207は、スマートフォン200の筐体201の側面に搭載され、指などで押下されるとオンとなり、指を離すとバネなどの復元力によってオフ状態となる押しボタン式のスイッチである。
 記憶部212は、主制御部220の制御プログラムや制御データ、アプリケーションソフトウェア、通信相手の名称や電話番号などを対応づけたアドレスデータ、送受信した電子メールのデータ、WebブラウジングによりダウンロードしたWebデータや、ダウンロードしたコンテンツデータを記憶し、またストリーミングデータなどを一時的に記憶するものである。また、記憶部212は、スマートフォン内蔵の内部記憶部217と着脱自在な外部メモリスロットを有する外部記憶部218により構成される。なお、記憶部212を構成するそれぞれの内部記憶部217と外部記憶部218は、フラッシュメモリタイプ(flash memory type)、ハードディスクタイプ(hard disk type)、マルチメディアカードマイクロタイプ(multimedia card micro type)、カードタイプのメモリ(例えば、MicroSD(登録商標)メモリ等)、RAM(Random Access Memory)、ROM(Read Only Memory)などの格納媒体を用いて実現される。
 外部入出力部213は、スマートフォン200に連結される全ての外部機器とのインターフェースの役割を果たすものであり、他の外部機器に通信等(例えば、ユニバーサルシリアルバス(USB)、IEEE1394など)又はネットワーク(例えば、インターネット、無線LAN、ブルートゥース(Bluetooth)(登録商標)、RFID(Radio Frequency Identification)、赤外線通信(Infrared Data Association:IrDA)(登録商標)、UWB(Ultra Wideband)(登録商標)、ジグビー(ZigBee)(登録商標)など)により直接的又は間接的に接続するためのものである。
 スマートフォン200に連結される外部機器としては、例えば、有/無線ヘッドセット、有/無線外部充電器、有/無線データポート、カードソケットを介して接続されるメモリカード(Memory card)やSIM(Subscriber Identity Module Card)/UIM(User Identity Module Card)カード、オーディオ・ビデオI/O(Input/Output)端子を介して接続される外部オーディオ・ビデオ機器、無線接続される外部オーディオ・ビデオ機器、有/無線接続されるスマートフォン、有/無線接続されるパーソナルコンピュータ、有/無線接続されるPDA、有/無線接続されるパーソナルコンピュータ、イヤホンなどがある。外部入出力部213は、このような外部機器から伝送を受けたデータをスマートフォン200の内部の各構成要素に伝達することや、スマートフォン200の内部のデータが外部機器に伝送されるようにすることができる。
 GPS受信部214は、主制御部220の指示にしたがって、GPS衛星ST1~STnから送信されるGPS信号を受信し、受信した複数のGPS信号に基づく測位演算処理を実行し、当該スマートフォン200の緯度、経度、高度からなる位置を検出する。GPS受信部214は、無線通信部210や外部入出力部213(例えば、無線LAN)から位置情報を取得できる時には、その位置情報を用いて位置を検出することもできる。
 モーションセンサ部215は、例えば、3軸の加速度センサなどを備え、主制御部220の指示にしたがって、スマートフォン200の物理的な動きを検出する。スマートフォン200の物理的な動きを検出することにより、スマートフォン200の動く方向や加速度が検出される。係る検出結果は、主制御部220に出力されるものである。
 電源部216は、主制御部220の指示にしたがって、スマートフォン200の各部に、バッテリ(図示しない)に蓄えられる電力を供給するものである。
 主制御部220は、マイクロプロセッサを備え、記憶部212が記憶する制御プログラムや制御データにしたがって動作し、スマートフォン200の各部を統括して制御するものである。また、主制御部220は、無線通信部210を通じて、音声通信やデータ通信を行うために、通信系の各部を制御する移動通信制御機能と、アプリケーション処理機能を備える。
 アプリケーション処理機能は、記憶部212が記憶するアプリケーションソフトウェアにしたがって主制御部220が動作することにより実現するものである。アプリケーション処理機能としては、例えば、外部入出力部213を制御して対向機器とデータ通信を行う赤外線通信機能や、電子メールの送受信を行う電子メール機能、Webページを閲覧するWebブラウジング機能などがある。
 また、主制御部220は、受信データやダウンロードしたストリーミングデータなどの画像データ(静止画像や動画像のデータ)に基づいて、映像を表示入力部204に表示する等の画像処理機能を備える。画像処理機能とは、主制御部220が、上記画像データを復号し、この復号結果に画像処理を施して、画像を表示入力部204に表示する機能のことをいう。
 更に、主制御部220は、表示パネル202に対する表示制御と、操作部207、操作パネル203を通じたユーザ操作を検出する操作検出制御を実行する。表示制御の実行により、主制御部220は、アプリケーションソフトウェアを起動するためのアイコンや、スクロールバーなどのソフトウェアキーを表示したり、あるいは電子メールを作成したりするためのウィンドウを表示する。なお、スクロールバーとは、表示パネル202の表示領域に収まりきれない大きな画像などについて、画像の表示部分を移動する指示を受け付けるためのソフトウェアキーのことをいう。
 また、操作検出制御の実行により、主制御部220は、操作部207を通じたユーザ操作を検出したり、操作パネル203を通じて、上記アイコンに対する操作や、上記ウィンドウの入力欄に対する文字列の入力を受け付けたり、あるいは、スクロールバーを通じた表示画像のスクロール要求を受け付ける。
 更に、操作検出制御の実行により主制御部220は、操作パネル203に対する操作位置が、表示パネル202に重なる重畳部分(表示領域)か、それ以外の表示パネル202に重ならない外縁部分(非表示領域)かを判定し、操作パネル203の感応領域や、ソフトウェアキーの表示位置を制御するタッチパネル制御機能を備える。
 また、主制御部220は、操作パネル203に対するジェスチャ操作を検出し、検出したジェスチャ操作に応じて、予め設定された機能を実行することもできる。ジェスチャ操作とは、従来の単純なタッチ操作ではなく、指などによって軌跡を描いたり、複数の位置を同時に指定したり、あるいはこれらを組み合わせて、複数の位置から少なくとも1つについて軌跡を描く操作を意味する。
 カメラ部208は、図1に示したデジタルカメラにおける外部メモリ制御部20、記録媒体21、表示制御部22、表示部23、及び操作部14以外の構成を含む。カメラ部208によって生成された撮像画像データは、記憶部212に記録したり、入出力部213や無線通信部210を通じて出力したりすることができる。図12に示すにスマートフォン200において、カメラ部208は表示入力部204と同じ面に搭載されているが、カメラ部208の搭載位置はこれに限らず、表示入力部204の背面に搭載されてもよい。
 また、カメラ部208はスマートフォン200の各種機能に利用することができる。例えば、表示パネル202にカメラ部208で取得した画像を表示することや、操作パネル203の操作入力のひとつとして、カメラ部208の画像を利用することができる。また、GPS受信部214が位置を検出する際に、カメラ部208からの画像を参照して位置を検出することもできる。更には、カメラ部208からの画像を参照して、3軸の加速度センサを用いずに、或いは、3軸の加速度センサと併用して、スマートフォン200のカメラ部208の光軸方向を判断することや、現在の使用環境を判断することもできる。勿論、カメラ部208からの画像をアプリケーションソフトウェア内で利用することもできる。
 その他、静止画又は動画の画像データにGPS受信部214により取得した位置情報、マイクロホン206により取得した音声情報(主制御部等により、音声テキスト変換を行ってテキスト情報となっていてもよい)、モーションセンサ部215により取得した姿勢情報等などを付加して記録部212に記録したり、入出力部213や無線通信部210を通じて出力したりすることもできる。
 以上のような構成のスマートフォン200において、主制御部220が、図1に示したデジタルカメラ1のシステム制御部11と同じ処理を行うことで、望遠側から広角側まで画質低下の少ない撮影が可能になる。
 以上説明してきたように、本明細書には以下の事項が開示されている。
 開示された撮像装置は、撮影光学系の瞳領域の異なる部分を通過する一対の光束の各々に対応する一対の像信号を出力可能な撮像素子を有する撮像装置であって、前記撮像素子は、前記一対の像信号取得用の複数の第一の画素セルを含む第一の画素セル群と、前記一対の像信号取得用の複数の第二の画素セルを含む第二の画素セル群とを備え、前記第一の画素セルは、第一の光電変換部及び前記第一の光電変換部上方に設けられる第一のマイクロレンズを含み、前記第二の画素セルは、第二の光電変換部及び前記第二の光電変換部上方に設けられる第二のマイクロレンズを含み、前記第一のマイクロレンズと前記第二のマイクロレンズは、異なる規則性をもって配置されており、前記第一の画素セル群から読み出した前記一対の像信号に基づいて前記撮影光学系の焦点調節を行う第一の制御と、前記第二の画素セル群から読み出した前記一対の像信号に基づいて前記撮影光学系の焦点調節を行う第二の制御とを、前記撮像素子への光の入射角に応じて選択して実行する制御部を備えるものである。
 開示された撮像装置は、前記第一のマイクロレンズの前記第一の画素セルにおける位置は、当該第一の画素セルの位置が前記撮像素子の中心部から周辺部に向うほど、前記中心部側にずれており、前記第二のマイクロレンズの前記第二の画素セルにおける位置は、当該第二の画素セルの位置が前記撮像素子の中心部から周辺部に向うほど、前記中心部側にずれており、前記撮像素子の中心部から略同一距離にある前記第一のマイクロレンズ及び前記第二のマイクロレンズの各々の前記中心部に対する位置ずれの量が互いに異なるものである。
 開示された撮像装置は、前記第一のマイクロレンズは、全ての前記第一の画素セルにおいて同じ位置に配置されており、前記第二のマイクロレンズの前記第二の画素セルにおける位置は、当該第二の画素セルの位置が前記撮像素子の中心部から周辺部に向うほど、前記中心部側にずれているものである。
 開示された撮像装置は、前記第一の画素セル群は、前記一対の光束の一方を受光する第一の画素セル及び当該第一の画素セルに近接し前記一対の光束の他方を受光する第一の画素セルのペアを二次元状に配置したものであり、前記第二の画素セル群は、前記一対の光束の一方を受光する第二の画素セル及び当該第二の画素セルに近接し前記一対の光束の他方を受光する第二の画素セルのペアを二次元状に配置したものを含む。
 開示された撮像装置は、前記画素セルは、異なる色の光を検出する複数種類の画素セルを有し、全ての前記画素セルのペアは、同一種類の画素セルにより構成され、前記第一の画素セルのペアには、当該ペアと同じ色の光を検出する前記第二の画素セルのペアが近接して配置されるものである。
 開示された撮像装置は、撮影光学系の瞳領域の異なる部分を通過する一対の光束の各々に対応する一対の像信号を出力可能な撮像素子を有する撮像装置であって、前記撮像素子は、前記一対の像信号取得用の複数の第一の画素セルを含む第一の画素セル群と、前記一対の像信号取得用の複数の第二の画素セルを含む第二の画素セル群とを備え、前記第一の画素セルは、第一の光電変換部及び前記第一の光電変換部上方に設けられる第一のマイクロレンズを含み、前記第二の画素セルは、第二の光電変換部及び前記第二の光電変換部上方に設けられる第二のマイクロレンズを含み、前記第一のマイクロレンズと前記第二のマイクロレンズは、異なる規則性をもって配置されており、前記第一の画素セル群から読み出した前記一対の像信号に基づいて撮像画像データを生成し記録する第一の制御と、前記第二の画素セル群から読み出した前記一対の像信号に基づいて撮像画像データを生成し記録する第二の制御とを、前記撮像素子への光の入射角に応じて選択して実行する制御部を備えるものである。
 開示された撮像装置の前記制御部は、前記第一の画素セル群から読み出した前記一対の像信号と前記第二の画素セル群から読み出した前記一対の像信号とを用いて撮像画像データを生成し記録する第三の制御を、前記撮像素子への光の入射角に応じて選択して実行するものである。
 開示された撮像素子は、撮影光学系の瞳領域の異なる部分を通過する一対の光束の各々に対応する一対の像信号を出力可能な撮像素子であって、前記一対の像信号取得用の複数の第一の画素セルを含む第一の画素セル群と、前記一対の像信号取得用の複数の第二の画素セルを含む第二の画素セル群とを備え、前記第一の画素セルは、第一の光電変換部及び前記第一の光電変換部上方に設けられる第一のマイクロレンズを含み、前記第二の画素セルは、第二の光電変換部及び前記第二の光電変換部上方に設けられる第二のマイクロレンズを含み、前記第一のマイクロレンズと前記第二のマイクロレンズは、異なる規則性をもって配置されているものである。
 開示された撮像素子は、前記第一のマイクロレンズの前記第一の画素セルにおける位置は、当該第一の画素セルの位置が前記撮像素子の中心部から周辺部に向うほど、前記中心部側にずれており、前記第二のマイクロレンズの前記第二の画素セルにおける位置は、当該第二の画素セルの位置が前記撮像素子の中心部から周辺部に向うほど、前記中心部側にずれており、前記撮像素子の中心部から略同一距離にある前記第一のマイクロレンズ及び前記第二のマイクロレンズの各々の前記中心部に対する位置ずれの量が互いに異なるものである。
 開示された撮像素子は、前記第一のマイクロレンズは、全ての前記第一の画素セルにおいて同じ位置に配置されており、前記第二のマイクロレンズの前記第二の画素セルにおける位置は、当該第二の画素セルの位置が前記撮像素子の中心部から周辺部に向うほど、前記中心部側にずれているものである。
 開示された撮像素子は、前記第一の画素セル群は、前記一対の光束の一方を受光する第一の画素セル及び当該第一の画素セルに近接し前記一対の光束の他方を受光する第一の画素セルのペアを二次元状に配置したものであり、前記第二の画素セル群は、前記一対の光束の一方を受光する第二の画素セル及び当該第二の画素セルに近接し前記一対の光束の他方を受光する第二の画素セルのペアを二次元状に配置したものを含む。
 開示された撮像素子は、前記画素セル、異なる色の光を検出する複数種類の画素セルを有し、全ての前記画素セルのペアは、同一種類の画素セルにより構成され、前記第一の画素セルのペアには、当該ペアと同じ色の光を検出する前記第二の画素セルのペアが近接して配置されるものである。
 開示された撮像方法は、前記撮像素子を用いた撮像方法であって、前記第一の画素セル群から読み出した前記一対の像信号に基づいて前記撮影光学系の焦点調節を行う第一の制御と、前記第二の画素セル群から読み出した前記一対の像信号に基づいて前記撮影光学系の焦点調節を行う第二の制御とを、前記撮像素子への光の入射角に応じて選択して実行するものである。
 開示された撮像方法は、前記撮像素子を用いた撮像方法であって、前記第一の画素セル群から読み出した前記一対の像信号に基づいて撮像画像データを生成し記録する第一の制御と、前記第二の画素セル群から読み出した前記一対の像信号に基づいて撮像画像データを生成し記録する第二の制御とを、前記撮像素子への光の入射角に応じて選択して実行するものである。
 本発明によれば、光の入射角に関わらず良好な撮像品質を実現することのできる撮像素子及びこれを用いた撮像装置及び撮像方法を提供することができる。
 以上、本発明を特定の実施形態によって説明したが、本発明はこの実施形態に限定されるものではなく、開示された発明の技術思想を逸脱しない範囲で種々の変更が可能である。
 本出願は、2012年3月28日出願の日本特許出願(特願2012-074307)に基づくものであり、その内容はここに取り込まれる。
5 固体撮像素子
50a,50b,50c,50d 画素セル
53 マイクロレンズ
PD 光電変換部

Claims (14)

  1.  撮影光学系の瞳領域の異なる部分を通過する一対の光束の各々に対応する一対の像信号を出力可能な撮像素子を有する撮像装置であって、
     前記撮像素子は、前記一対の像信号取得用の複数の第一の画素セルを含む第一の画素セル群と、前記一対の像信号取得用の複数の第二の画素セルを含む第二の画素セル群とを備え、
     前記第一の画素セルは、第一の光電変換部及び前記第一の光電変換部上方に設けられる第一のマイクロレンズを含み、
     前記第二の画素セルは、第二の光電変換部及び前記第二の光電変換部上方に設けられる第二のマイクロレンズを含み、
     前記第一のマイクロレンズと前記第二のマイクロレンズは、異なる規則性をもって配置されており、
     前記第一の画素セル群から読み出した前記一対の像信号に基づいて前記撮影光学系の焦点調節を行う第一の制御と、前記第二の画素セル群から読み出した前記一対の像信号に基づいて前記撮影光学系の焦点調節を行う第二の制御とを、前記撮像素子への光の入射角に応じて選択して実行する制御部を備える撮像装置。
  2.  請求項1記載の撮像装置であって、
     前記第一のマイクロレンズの前記第一の画素セルにおける位置は、当該第一の画素セルの位置が前記撮像素子の中心部から周辺部に向うほど、前記中心部側にずれており、
     前記第二のマイクロレンズの前記第二の画素セルにおける位置は、当該第二の画素セルの位置が前記撮像素子の中心部から周辺部に向うほど、前記中心部側にずれており、
     前記撮像素子の中心部から略同一距離にある前記第一のマイクロレンズ及び前記第二のマイクロレンズの各々の前記中心部に対する位置ずれの量が互いに異なる撮像装置。
  3.  請求項1記載の撮像装置であって、
     前記第一のマイクロレンズは、全ての前記第一の画素セルにおいて同じ位置に配置されており、
     前記第二のマイクロレンズの前記第二の画素セルにおける位置は、当該第二の画素セルの位置が前記撮像素子の中心部から周辺部に向うほど、前記中心部側にずれている撮像装置。
  4.  請求項1~3のいずれか1項記載の撮像装置であって、
     前記第一の画素セル群は、前記一対の光束の一方を受光する第一の画素セル及び当該第一の画素セルに近接し前記一対の光束の他方を受光する第一の画素セルのペアを二次元状に配置したものであり、
     前記第二の画素セル群は、前記一対の光束の一方を受光する第二の画素セル及び当該第二の画素セルに近接し前記一対の光束の他方を受光する第二の画素セルのペアを二次元状に配置したものである撮像装置。
  5.  請求項4記載の撮像装置であって、
     前記画素セルは、異なる色の光を検出する複数種類の画素セルを有し、
     全ての前記画素セルのペアは、同一種類の画素セルにより構成され、
     前記第一の画素セルのペアには、当該ペアと同じ色の光を検出する前記第二の画素セルのペアが近接して配置される撮像装置。
  6.  撮影光学系の瞳領域の異なる部分を通過する一対の光束の各々に対応する一対の像信号を出力可能な撮像素子を有する撮像装置であって、
     前記撮像素子は、前記一対の像信号取得用の複数の第一の画素セルを含む第一の画素セル群と、前記一対の像信号取得用の複数の第二の画素セルを含む第二の画素セル群とを備え、
     前記第一の画素セルは、第一の光電変換部及び前記第一の光電変換部上方に設けられる第一のマイクロレンズを含み、
     前記第二の画素セルは、第二の光電変換部及び前記第二の光電変換部上方に設けられる第二のマイクロレンズを含み、
     前記第一のマイクロレンズと前記第二のマイクロレンズは、異なる規則性をもって配置されており、
     前記第一の画素セル群から読み出した前記一対の像信号に基づいて撮像画像データを生成し記録する第一の制御と、前記第二の画素セル群から読み出した前記一対の像信号に基づいて撮像画像データを生成し記録する第二の制御とを、前記撮像素子への光の入射角に応じて選択して実行する制御部を備える撮像装置。
  7.  請求項6記載の撮像装置であって、
     前記制御部は、前記第一の画素セル群から読み出した前記一対の像信号と前記第二の画素セル群から読み出した前記一対の像信号とを用いて撮像画像データを生成し記録する第三の制御を、前記入射角に応じて選択して実行する撮像装置。
  8.  撮影光学系の瞳領域の異なる部分を通過する一対の光束の各々に対応する一対の像信号を出力可能な撮像素子であって、
     前記一対の像信号取得用の複数の第一の画素セルを含む第一の画素セル群と、
     前記一対の像信号取得用の複数の第二の画素セルを含む第二の画素セル群とを備え、
     前記第一の画素セルは、第一の光電変換部及び前記第一の光電変換部上方に設けられる第一のマイクロレンズを含み、
     前記第二の画素セルは、第二の光電変換部及び前記第二の光電変換部上方に設けられる第二のマイクロレンズを含み、
     前記第一のマイクロレンズと前記第二のマイクロレンズは、異なる規則性をもって配置されている撮像素子。
  9.  請求項8記載の撮像素子であって、
     前記第一のマイクロレンズの前記第一の画素セルにおける位置は、当該第一の画素セルの位置が前記撮像素子の中心部から周辺部に向うほど、前記中心部側にずれており、
     前記第二のマイクロレンズの前記第二の画素セルにおける位置は、当該第二の画素セルの位置が前記撮像素子の中心部から周辺部に向うほど、前記中心部側にずれており、
     前記撮像素子の中心部から略同一距離にある前記第一のマイクロレンズ及び前記第二のマイクロレンズの各々の前記中心部に対する位置ずれの量が互いに異なる撮像素子。
  10.  請求項8記載の撮像素子であって、
     前記第一のマイクロレンズは、全ての前記第一の画素セルにおいて同じ位置に配置されており、
     前記第二のマイクロレンズの前記第二の画素セルにおける位置は、当該第二の画素セルの位置が前記撮像素子の中心部から周辺部に向うほど、前記中心部側にずれている撮像素子。
  11.  請求項8~10のいずれか1項記載の撮像素子であって、
     前記第一の画素セル群は、前記一対の光束の一方を受光する第一の画素セル及び当該第一の画素セルに近接し前記一対の光束の他方を受光する第一の画素セルのペアを二次元状に配置したものであり、
     前記第二の画素セル群は、前記一対の光束の一方を受光する第二の画素セル及び当該第二の画素セルに近接し前記一対の光束の他方を受光する第二の画素セルのペアを二次元状に配置したものである撮像素子。
  12.  請求項11記載の撮像素子であって、
     前記画素セルは、異なる色の光を検出する複数種類の画素セルを有し、
     全ての前記画素セルのペアは、同一種類の画素セルにより構成され、
     前記第一の画素セルのペアには、当該ペアと同じ色の光を検出する前記第二の画素セルのペアが近接して配置される撮像素子。
  13.  請求項8~12のいずれか1項記載の撮像素子を用いた撮像方法であって、
     前記第一の画素セル群から読み出した前記一対の像信号に基づいて前記撮影光学系の焦点調節を行う第一の制御と、前記第二の画素セル群から読み出した前記一対の像信号に基づいて前記撮影光学系の焦点調節を行う第二の制御とを、前記撮像素子への光の入射角に応じて選択して実行する撮像方法。
  14.  請求項8~12のいずれか1項記載の撮像素子を用いた撮像方法であって、
     前記第一の画素セル群から読み出した前記一対の像信号に基づいて撮像画像データを生成し記録する第一の制御と、前記第二の画素セル群から読み出した前記一対の像信号に基づいて撮像画像データを生成し記録する第二の制御とを、前記撮像素子への光の入射角に応じて選択して実行する撮像方法。
PCT/JP2013/053033 2012-03-28 2013-02-08 撮像素子及びこれを用いた撮像装置及び撮像方法 WO2013145886A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
CN201380016798.2A CN104221369B (zh) 2012-03-28 2013-02-08 摄像元件以及使用该摄像元件的摄像装置和摄像方法
JP2014507495A JP5542249B2 (ja) 2012-03-28 2013-02-08 撮像素子及びこれを用いた撮像装置及び撮像方法
US14/498,328 US10003731B2 (en) 2012-03-28 2014-09-26 Image element, and imaging device and imaging method using the same for achieving improved image quality regardless of an incident angle of light

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2012074307 2012-03-28
JP2012-074307 2012-03-28

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US14/498,328 Continuation US10003731B2 (en) 2012-03-28 2014-09-26 Image element, and imaging device and imaging method using the same for achieving improved image quality regardless of an incident angle of light

Publications (1)

Publication Number Publication Date
WO2013145886A1 true WO2013145886A1 (ja) 2013-10-03

Family

ID=49259171

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2013/053033 WO2013145886A1 (ja) 2012-03-28 2013-02-08 撮像素子及びこれを用いた撮像装置及び撮像方法

Country Status (4)

Country Link
US (1) US10003731B2 (ja)
JP (1) JP5542249B2 (ja)
CN (1) CN104221369B (ja)
WO (1) WO2013145886A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017208702A1 (ja) * 2016-06-01 2017-12-07 富士フイルム株式会社 撮像素子及び撮像装置
WO2020230675A1 (ja) * 2019-05-10 2020-11-19 ソニーセミコンダクタソリューションズ株式会社 撮像素子および電子機器

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104904197B (zh) * 2012-12-05 2016-12-28 富士胶片株式会社 摄像装置及异常倾斜入射光检测方法
WO2014087804A1 (ja) * 2012-12-07 2014-06-12 富士フイルム株式会社 撮像装置、画像処理方法及びプログラム
JPWO2014112002A1 (ja) * 2013-01-15 2017-01-19 オリンパス株式会社 撮像素子、及び撮像装置
CN104995912B (zh) * 2013-03-05 2017-03-08 富士胶片株式会社 摄像装置、图像处理装置及图像处理方法
KR102103983B1 (ko) * 2013-07-31 2020-04-23 삼성전자주식회사 시프트된 마이크로 렌즈 어레이를 구비하는 라이트 필드 영상 획득 장치
KR20150121564A (ko) * 2014-04-21 2015-10-29 삼성전자주식회사 촬상 소자 및 촬영 장치
US10589221B2 (en) * 2015-04-21 2020-03-17 Exxonmobil Research And Engineering Company Low-emission fired heater
JP6600246B2 (ja) * 2015-12-17 2019-10-30 キヤノン株式会社 撮像装置及びカメラ
JP7102114B2 (ja) * 2016-11-11 2022-07-19 キヤノン株式会社 光電変換素子、撮像素子および撮像装置
WO2018168551A1 (ja) 2017-03-16 2018-09-20 富士フイルム株式会社 撮像素子及び撮像装置
CN107146797B (zh) 2017-04-28 2020-03-27 Oppo广东移动通信有限公司 双核对焦图像传感器及其对焦控制方法和成像装置
JP6947590B2 (ja) * 2017-09-08 2021-10-13 オリンパス株式会社 撮像装置、撮像装置の制御方法
US10347678B2 (en) * 2017-11-16 2019-07-09 Visera Technologies Company Limited Image sensor with shifted microlens array
JP2019139944A (ja) 2018-02-09 2019-08-22 オムロン株式会社 マイクロスイッチ及び操作装置
WO2021253308A1 (zh) * 2020-06-18 2021-12-23 深圳市汇顶科技股份有限公司 图像采集装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003007994A (ja) * 2001-06-27 2003-01-10 Konica Corp 固体撮像素子、立体カメラ装置及び測距装置
JP2009094339A (ja) * 2007-10-10 2009-04-30 Dainippon Printing Co Ltd 固体撮像素子およびそれを用いた撮像装置
JP2010212649A (ja) * 2009-02-13 2010-09-24 Nikon Corp 撮像素子
JP2012059845A (ja) * 2010-09-07 2012-03-22 Canon Inc 撮像素子及び撮像装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6819360B1 (en) * 1999-04-01 2004-11-16 Olympus Corporation Image pickup element and apparatus for focusing
DE10016015A1 (de) * 2000-03-31 2001-10-04 Butzbacher Weichenbau Gmbh Oberbau-Zungenvorrichtung
KR100679856B1 (ko) * 2005-06-09 2007-02-07 (주) 픽셀플러스 좌우상하 비율에 따라 서로 다른 비율로 배치되는마이크로렌즈를 포함하는 이미지 센서
CN101809994B (zh) * 2007-08-10 2012-11-14 佳能株式会社 摄像设备及其控制方法
JP2009115893A (ja) * 2007-11-02 2009-05-28 Canon Inc 撮像装置
JP5451111B2 (ja) * 2008-03-11 2014-03-26 キヤノン株式会社 焦点検出装置およびそれを有する撮像装置
JP5161702B2 (ja) * 2008-08-25 2013-03-13 キヤノン株式会社 撮像装置、撮像システム、及び焦点検出方法
JP2010169709A (ja) 2009-01-20 2010-08-05 Sony Corp 撮像素子および撮像装置
JP2011059337A (ja) * 2009-09-09 2011-03-24 Fujifilm Corp 撮像装置
WO2012008209A1 (ja) * 2010-07-12 2012-01-19 富士フイルム株式会社 固体撮像装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003007994A (ja) * 2001-06-27 2003-01-10 Konica Corp 固体撮像素子、立体カメラ装置及び測距装置
JP2009094339A (ja) * 2007-10-10 2009-04-30 Dainippon Printing Co Ltd 固体撮像素子およびそれを用いた撮像装置
JP2010212649A (ja) * 2009-02-13 2010-09-24 Nikon Corp 撮像素子
JP2012059845A (ja) * 2010-09-07 2012-03-22 Canon Inc 撮像素子及び撮像装置

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017208702A1 (ja) * 2016-06-01 2017-12-07 富士フイルム株式会社 撮像素子及び撮像装置
JPWO2017208702A1 (ja) * 2016-06-01 2018-11-29 富士フイルム株式会社 撮像素子及び撮像装置
US10694130B2 (en) 2016-06-01 2020-06-23 Fujifilm Corporation Imaging element and imaging device
WO2020230675A1 (ja) * 2019-05-10 2020-11-19 ソニーセミコンダクタソリューションズ株式会社 撮像素子および電子機器
US11930287B2 (en) 2019-05-10 2024-03-12 Sony Semiconductor Solutions Corporation Imaging element and electronic device

Also Published As

Publication number Publication date
US20150009367A1 (en) 2015-01-08
US10003731B2 (en) 2018-06-19
CN104221369B (zh) 2016-02-10
JPWO2013145886A1 (ja) 2015-12-10
JP5542249B2 (ja) 2014-07-09
CN104221369A (zh) 2014-12-17

Similar Documents

Publication Publication Date Title
JP5542249B2 (ja) 撮像素子及びこれを用いた撮像装置及び撮像方法
JP5799178B2 (ja) 撮像装置及び合焦制御方法
JP5697801B2 (ja) 撮像装置及び自動焦点調節方法
WO2013168505A1 (ja) 撮像装置及び信号補正方法
JP5690977B2 (ja) 撮像素子及び撮像装置
JP6031587B2 (ja) 撮像装置、信号処理方法、信号処理プログラム
JP5982601B2 (ja) 撮像装置及び合焦制御方法
JP5779726B2 (ja) 撮像装置及び露出決定方法
WO2014155806A1 (ja) 撮像装置及び合焦制御方法
JPWO2014080674A1 (ja) 撮像装置、デフォーカス量演算方法、及び撮像光学系
WO2014038258A1 (ja) 撮像装置及び合焦制御方法
CN110447223B (zh) 摄像装置
WO2015045704A1 (ja) 撮像装置及び合焦制御方法
WO2014046038A1 (ja) 撮像装置及び合焦確認表示方法
WO2013168493A1 (ja) 信号処理装置、撮像装置、信号補正方法
JP5542248B2 (ja) 撮像素子及び撮像装置
US9344646B2 (en) Imaging device and imaging method
WO2014065004A1 (ja) 撮像装置及びその合焦制御方法
JP5740053B2 (ja) 撮像装置及び画像処理方法
JP5740053B6 (ja) 撮像装置及び画像処理方法
WO2013145887A1 (ja) 撮像装置及び撮像方法

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 13769618

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2014507495

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 13769618

Country of ref document: EP

Kind code of ref document: A1