JPWO2016009707A1 - 複眼撮像装置 - Google Patents

複眼撮像装置 Download PDF

Info

Publication number
JPWO2016009707A1
JPWO2016009707A1 JP2016534307A JP2016534307A JPWO2016009707A1 JP WO2016009707 A1 JPWO2016009707 A1 JP WO2016009707A1 JP 2016534307 A JP2016534307 A JP 2016534307A JP 2016534307 A JP2016534307 A JP 2016534307A JP WO2016009707 A1 JPWO2016009707 A1 JP WO2016009707A1
Authority
JP
Japan
Prior art keywords
eye
compound
image
eye imaging
imaging device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016534307A
Other languages
English (en)
Other versions
JP6555264B2 (ja
Inventor
忠邦 奈良部
忠邦 奈良部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JPWO2016009707A1 publication Critical patent/JPWO2016009707A1/ja
Application granted granted Critical
Publication of JP6555264B2 publication Critical patent/JP6555264B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/207Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H04N13/232Image signal generators using stereoscopic image cameras using a single 2D image sensor using fly-eye lenses, e.g. arrangements of circular lenses
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14603Special geometry or disposition of pixel-elements, address-lines or gate-electrodes
    • H01L27/14605Structural or functional details relating to the position of the pixel elements, e.g. smaller pixel elements in the center of the imager compared to pixel elements at the periphery
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B3/00Simple or compound lenses
    • G02B3/0006Arrays
    • G02B3/0037Arrays characterized by the distribution or form of lenses
    • G02B3/0056Arrays characterized by the distribution or form of lenses arranged along two different directions in a plane, e.g. honeycomb arrangement of lenses
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B17/00Details of cameras or camera bodies; Accessories therefor
    • G03B17/02Bodies
    • G03B17/12Bodies with means for supporting objectives, supplementary lenses, filters, masks, or turrets
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/1462Coatings
    • H01L27/14621Colour filter arrangements
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/1462Coatings
    • H01L27/14623Optical shielding
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14625Optical elements or arrangements associated with the device
    • H01L27/14627Microlenses
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14625Optical elements or arrangements associated with the device
    • H01L27/14629Reflectors
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14634Assemblies, i.e. Hybrid structures
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/1464Back illuminated imager structures
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14643Photodiode arrays; MOS imagers
    • H01L27/14645Colour imagers
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14683Processes or apparatus peculiar to the manufacture or treatment of these devices or parts thereof
    • H01L27/14685Process for coatings or optical elements
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14683Processes or apparatus peculiar to the manufacture or treatment of these devices or parts thereof
    • H01L27/1469Assemblies, i.e. hybrid integration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/12Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/54Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/135Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements
    • H04N25/136Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements using complementary colours
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/41Extracting pixel data from a plurality of image sensors simultaneously picking up an image, e.g. for increasing the field of view by combining the outputs of a plurality of sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
    • H04N25/611Correction of chromatic aberration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/63Noise processing, e.g. detecting, correcting, reducing or removing noise applied to dark current
    • H04N25/633Noise processing, e.g. detecting, correcting, reducing or removing noise applied to dark current by using optical black pixels
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/71Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
    • H04N25/75Circuitry for providing, modifying or processing image signals from the pixel array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N25/771Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising storage means other than floating diffusion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N25/778Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising amplifiers shared between a plurality of pixels, i.e. at least one part of the amplifier must be on the sensor array itself
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/646Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14625Optical elements or arrangements associated with the device
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2209/00Details of colour television systems
    • H04N2209/04Picture signal generators
    • H04N2209/041Picture signal generators using solid-state devices
    • H04N2209/042Picture signal generators using solid-state devices having a single pick-up sensor
    • H04N2209/047Picture signal generators using solid-state devices having a single pick-up sensor using multispectral pick-up elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/65Control of camera operation in relation to power supply
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2625Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects for obtaining an image which is composed of images from a temporal image sequence, e.g. for a stroboscopic effect
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/265Mixing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Power Engineering (AREA)
  • General Physics & Mathematics (AREA)
  • Electromagnetism (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Optics & Photonics (AREA)
  • Solid State Image Pick-Up Elements (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Color Television Image Signal Generators (AREA)
  • Studio Devices (AREA)

Abstract

画質を向上させる。複眼撮像装置は、複数の個眼光学系と、撮像素子と、信号処理部とを具備する複眼撮像装置である。複眼撮像装置が具備する複数の個眼光学系は、被写体に対向して2次元状に配置される。また、複眼撮像装置が具備する撮像素子は、個眼光学系により集光される光を受光して画像信号を生成する複数の画素を個眼単位で備えるものである。また、複眼撮像装置が具備する信号処理部は、複眼撮像装置が具備する撮像素子により生成された画像信号に基づいて被写体に対応する画像を生成するものである。

Description

本技術は、複眼撮像装置に関する。詳しくは、画像データを生成する複眼撮像装置に関する。
従来、被写体を撮像して画像データを生成する撮像装置が存在する。例えば、1つの光学系を備えるデジタルスチルカメラやデジタルビデオカメラ等の撮像装置が広く普及している。
また、例えば、複数の光学系を備える複眼撮像装置が提案されている(例えば、特許文献1参照。)。
特開2001−61109号公報
上述の従来技術では、複数の光学系に対応する複数の個眼のそれぞれにより画像信号(画像データ)が生成される。また、複数の個眼のそれぞれにより生成される画像信号(画像データ)を用いて出力画像が生成される。
このように、複数の個眼のそれぞれにより生成される画像信号(画像データ)を用いて出力画像が生成されるため、この出力画像の画質を高めることが重要である。
本技術はこのような状況に鑑みて生み出されたものであり、画質を向上させることを目的とする。
本技術は、上述の問題点を解消するためになされたものであり、その第1の側面は、被写体に対向して2次元状に配置される複数の個眼光学系と、上記個眼光学系により集光される光を受光して画像信号を生成する複数の画素を個眼単位で備える撮像素子と、上記撮像素子により生成された画像信号に基づいて上記被写体に対応する画像を生成する信号処理部とを具備する複眼撮像装置である。これにより、複数の画素を個眼単位で備える撮像素子により生成された画像信号に基づいて、被写体に対応する画像を生成するという作用をもたらす。
また、この第1の側面において、上記個眼光学系の光軸の位置をずらすことにより空間画素ずらしを行うようにしてもよい。これにより、個眼光学系の光軸の位置をずらすことにより空間画素ずらしを行うという作用をもたらす。
また、この第1の側面において、上記信号処理部は、上記個眼光学系の倍率色収差による焦点面上の周辺部における色に応じて生じる像のずれを補正するようにしてもよい。これにより、個眼光学系の倍率色収差による焦点面上の周辺部における色に応じて生じる像のずれを補正するという作用をもたらす。
また、この第1の側面において、上記複数の個眼光学系のうちの少なくとも1つの光学特性を他の個眼光学系と異なるようにするようにしてもよい。これにより、複数の個眼光学系のうちの少なくとも1つの光学特性を他の個眼光学系と異なるようにした複眼撮像装置を用いるという作用をもたらす。
また、この第1の側面において、上記撮像素子の周辺部における個眼光学系のF値を他の個眼光学系のF値よりも小さくするようにしてもよい。これにより、撮像素子の周辺部における個眼光学系のF値を他の個眼光学系のF値よりも小さくした複眼撮像装置を用いるという作用をもたらす。
また、この第1の側面において、上記複眼撮像装置は、WLCM(Wafer Level Camera Module)および積層型複眼撮像装置により構成され、上記個眼の数を閾値を基準として多くするようにしてもよい。これにより、個眼の数を閾値を基準として多くした複眼撮像装置を用いるという作用をもたらす。
また、この第1の側面において、上記複数の個眼のうちで使用されない個眼の駆動の停止と、当該個眼に設置されるADC(Analog to Digital Converter)のオフとのうちの少なくとも1つを行う制御部をさらに具備するようにしてもよい。これにより、個眼の駆動の停止とADCのオフとのうちの少なくとも1つを行うという作用をもたらす。
また、この第1の側面において、上記複数の個眼のうちの少なくとも1つに距離センサを備えるようにしてもよい。これにより、複数の個眼のうちの少なくとも1つに備えられる距離センサを用いるという作用をもたらす。
また、この第1の側面において、上記複数の個眼のうちの少なくとも1つを、偏光角度が他の個眼と異なる個眼とするようにしてもよい。これにより、複数の個眼のうちの少なくとも1つを、偏光角度が他の個眼と異なる個眼とした複眼撮像装置を用いるという作用をもたらす。
また、この第1の側面において、上記複数の個眼のうちの少なくとも1つを、分光感度が他の個眼と異なる個眼とするようにしてもよい。これにより、複数の個眼のうちの少なくとも1つを、分光感度が他の個眼と異なる個眼とした複眼撮像装置を用いるという作用をもたらす。
また、この第1の側面において、上記複数の個眼のうちの少なくとも1つを他の個眼と異なる材料とするようにしてもよい。これにより、複数の個眼のうちの少なくとも1つを他の個眼と異なる材料とした複眼撮像装置を用いるという作用をもたらす。
また、この第1の側面において、上記撮像素子は、個片化されたチップを並べて疑似1チップ化され、MLA(Multi Lens Array)を付加して作製されるようにしてもよい。これにより、個片化されたチップを並べて疑似1チップ化され、MLAを付加して作製される撮像素子を用いるという作用をもたらす。
また、この第1の側面において、上記撮像素子は、タイリングで作製されるようにしてもよい。これにより、タイリングで作製される撮像素子を用いるという作用をもたらす。
また、この第1の側面において、上記撮像素子は、光の入射方向において同一画素で異なる色情報を取得するための複数の層からなるようにしてもよい。これにより、光の入射方向において同一画素で異なる色情報を取得するための複数の層からなる撮像素子を用いて画像を生成するという作用をもたらす。
また、この第1の側面において、上記個眼毎の像距離(レンズから結像面までの距離)を調整するための像距離調整部をさらに具備するようにしてもよい。これにより、個眼毎の像距離を調整するという作用をもたらす。
また、この第1の側面において、上記個眼毎に合焦状態を変更するようにしてもよい。これにより、個眼毎に合焦状態を変更するという作用をもたらす。
また、この第1の側面において、上記個眼毎に異なる焦点距離を設定するようにしてもよい。これにより、個眼毎に異なる焦点距離を設定するという作用をもたらす。
また、この第1の側面において、上記個眼光学系の光学特性に関する光学特性情報を保持する保持部をさらに具備し、上記信号処理部は、上記保持されている光学特性情報を用いて信号処理を行うことにより上記被写体に対応する画像を生成するようにしてもよい。これにより、保持されている光学特性情報を用いて信号処理を行うことにより被写体に対応する画像を生成するという作用をもたらす。
また、この第1の側面において、上記信号処理部は、上記撮像素子により生成された画像信号のうち、時間応答補正処理が行われる前の画像信号と、上記時間応答補正が行われた後の画像信号との双方を用いて画像を生成するようにしてもよい。これにより、撮像素子により生成された画像信号のうち、時間応答補正処理が行われる前の画像信号と、時間応答補正が行われた後の画像信号との双方を用いて画像を生成するという作用をもたらす。
また、この第1の側面において、上記信号処理部は、上記撮像素子により生成された画像信号について上記撮像素子による光電変換の時間応答特性により生じる差異を補正するようにしてもよい。これにより、撮像素子により生成された画像信号について、撮像素子による光電変換の時間応答特性により生じる差異を補正するという作用をもたらす。
本技術によれば、画質を向上させることができるという優れた効果を奏し得る。なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
本技術の基礎となる複眼撮像装置10の構成例を示す図である。 本技術の基礎となる複眼撮像装置により生成される複眼画像による再構成画像の導出例を示す図である。 本技術の基礎となる複眼撮像装置により生成される複眼画像による距離情報の抽出例を示す図である。 本技術の基礎となるイメージセンサの上面および断面を簡略化して示す図である。 本技術の基礎となるイメージセンサの上面および断面を簡略化して示す図である。 本技術の基礎となるイメージセンサの上面および断面を簡略化して示す図である。 本技術の基礎となるイメージセンサの上面および断面を簡略化して示す図である。 本技術の基礎となるイメージセンサの上面および断面を簡略化して示す図である。 本技術の第1の実施の形態における複眼撮像装置100の機能構成例を示すブロック図である。 本技術の第1の実施の形態における複眼撮像部110が備えるイメージセンサを簡略的に示す図である。 本技術の第1の実施の形態における複眼撮像部110が備えるイメージセンサを簡略的に示す図である。 本技術の第1の実施の形態における複眼撮像部110が備えるイメージセンサを簡略的に示す図である。 本技術の第2の実施の形態における複眼撮像装置が備えるイメージセンサを簡略的に示す図である。 本技術の第2の実施の形態における複眼撮像装置が備えるイメージセンサを簡略的に示す図である。 本技術の第2の実施の形態における複眼撮像装置が備えるイメージセンサを簡略的に示す図である。 本技術の第2の実施の形態における複眼撮像装置が備えるイメージセンサを簡略的に示す図である。 本技術の第2の実施の形態における複眼撮像装置が備えるイメージセンサを簡略的に示す図である。 本技術の第3の実施の形態における複眼撮像部110の断面を示す図である。 本技術の第4の実施の形態における複眼撮像部110の断面を示す図である。 本技術の第4の実施の形態における複眼撮像部110の断面を示す図である。 本技術の第4の実施の形態における複眼撮像部110の断面を示す図である。 本技術の第5の実施の形態における複眼撮像部110の構成例を示す図である。 本技術の第5の実施の形態における複眼撮像部110の構成例を示す図である。 本技術の第5の実施の形態における複眼撮像部110の構成例を示す図である。 本技術の第5の実施の形態における複眼撮像装置による画像処理例を模式的に示す図である。 本技術の第6の実施の形態における複眼撮像部110の構成例を示す図である。 本技術の第6の実施の形態における複眼撮像部110の構成例を示す図である。 本技術の第6の実施の形態における複眼撮像部110の構成例を示す図である。 本技術の第6の実施の形態における複眼撮像部110の構成例を示す図である。 本技術の第7の実施の形態における複眼撮像部110の構成例を示す図である。 本技術の第8の実施の形態における複眼撮像部110の構成例を示す図である。 本技術の第8の実施の形態における複眼撮像部110の構成例を示す図である。 本技術の第8の実施の形態における複眼撮像部110の構成例を示す図である。 本技術の第9の実施の形態における複眼撮像装置の構成例を示す図である。 本技術の第10の実施の形態における複眼撮像部110の構成例を示す図である。 本技術の第10の実施の形態における複眼撮像部110の構成例を示す図である。 本技術の第10の実施の形態における複眼撮像部110の構成例を示す図である。 本技術の第10の実施の形態における複眼撮像部110の構成例を示す図である。 本技術の第10の実施の形態における複眼撮像部110の構成例を示す図である。 本技術の第11の実施の形態における複眼撮像部110の構成例を示す図である。 本技術の第13の実施の形態における複眼撮像部110に用いられるグローバルシャッタ方式のCMOSイメージセンサ400の構成例を示す図である。 本技術の第14の実施の形態における複眼撮像部110に用いられる裏面照射型CMOSイメージセンサの構成例を示す図である。 本技術の第15の実施の形態における複眼撮像部110に用いられる積層型イメージセンサの構成例を示す図である。 本技術の第16の実施の形態における距離センサを備えるイメージセンサの一例を示す断面図である。 本技術の第17の実施の形態における偏光子アレイ451を備えるイメージセンサの一例を示す分解斜視図である。 本技術の第18の実施の形態における複眼撮像部110に分光感度が異なる個眼を備える場合の例を示す。 本技術の第19の実施の形態における複眼撮像部110に可視光以外の感度を有するセンサを備える場合の例を示す。 本技術の第19の実施の形態における複眼撮像部110を構成する光電変換材料の一例を示す図である。 本技術の第20の実施の形態における複眼撮像部110の断面を示す図である。 本技術の第21の実施の形態における複眼撮像部110の外観を示す上面図である。 本技術の第22の実施の形態における複眼撮像部110の外観を示す上面図である。 本技術の第25の実施の形態における複眼撮像装置600の外観を示す上面図である。 本技術の第26の実施の形態における複眼撮像装置610の断面を示す断面図である。 本技術の第27の実施の形態における複眼撮像装置620を示す断面図である。 本技術の第28の実施の形態における複眼撮像装置630を示す上面図である。 本技術の第29の実施の形態における複眼撮像部110の断面を示す断面図である。 本技術の第29の実施の形態における複眼撮像部110の断面を示す断面図である。 本技術の第29の実施の形態における複眼撮像部110の断面を示す断面図である。 本技術の第30の実施の形態における複眼撮像部110の断面を示す断面図である。 本技術の第30の実施の形態における複眼撮像部110の断面を示す断面図である。 本技術の第30の実施の形態における複眼撮像部110の断面を示す断面図である。 本技術の第30の実施の形態における複眼撮像部110の断面を示す断面図である。 本技術の第30の実施の形態における複眼撮像部110から出力される画像信号の出力波形を示す図である。 本技術の第30の実施の形態における複眼撮像部110から出力される画像信号の出力波形を示す図である。 本技術の第30の実施の形態における複眼撮像部110に用いられる積層型イメージセンサの構成例を示す図である。 本技術の第31の実施の形態における複眼撮像部110の断面を示す断面図である。 本技術の第31の実施の形態における複眼撮像部110の断面を示す断面図である。 本技術の第31の実施の形態における複眼撮像部110の断面を示す断面図である。 本技術の第31の実施の形態における複眼撮像部110の断面を示す断面図である。 本技術の第31の実施の形態における複眼撮像部110の断面を示す断面図である。 本技術の第32の実施の形態における複眼撮像部110の断面を示す断面図である。 本技術の第32の実施の形態における複眼撮像部110の断面を示す断面図である。 本技術の第33の実施の形態における複眼撮像部110の断面を示す断面図である。 本技術の第33の実施の形態における複眼撮像部110の断面を示す断面図である。 本技術の第35の実施の形態における複眼撮像部110から出力される画像信号の出力波形を示す図である。 本技術の第36の実施の形態における複眼撮像部110から出力される画像信号の出力波形を示す図である。
以下、本技術を実施するための形態(以下、実施の形態と称する)について説明する。説明は以下の順序により行う。
1.第1の実施の形態(色フィルタ(光学フィルタ)毎に画素の実効開口を変更する例)
2.第2の実施の形態(個眼の光軸の位置をずらすことにより空間画素ずらしを行う例)
3.第3の実施の形態(個眼レンズの倍率色収差を信号処理で補正する例)
4.第4の実施の形態(個眼レンズの軸上色収差による焦点距離の差異に応じて個眼の光学設計をする例)
5.第5の実施の形態(1つの個眼を複数のサブ個眼で構成する例)
6.第6の実施の形態(複数の個眼レンズのうちの少なくとも1つの光学特性や構造を異なるように構成する例)
7.第7の実施の形態(個眼毎に瞳補正を行う例)
8.第8の実施の形態(スペースに余裕のある周辺の光学系のF値を小さくすることによりシェーディング特性を向上させる例)
9.第9の実施の形態(WLCM(Wafer Level Camera Module)および積層型複眼撮像装置において個眼の数を増加させることにより感度を高める例)
10.第10の実施の形態(WLCMにおいて感度の異なる個眼を配置して感度およびダイナミックレンジ(Dynamic Range)を高める例)
11.第11の実施の形態(複眼撮像部から複数の読み出し方法により読み出しを行う例)
12.第12の実施の形態(個眼の駆動やADC(Analog to Digital Converter)をオフして消費電力を低減させる例)
13.第13の実施の形態(グローバルシャッタ方式のCMOS(Complementary Metal Oxide Semiconductor)イメージセンサを用いる例)
14.第14の実施の形態(裏面照射型CMOSイメージセンサを用いる例)
15.第15の実施の形態(積層型イメージセンサを用いる例)
16.第16の実施の形態(距離センサを個眼に配置する例)
17.第17の実施の形態(偏光角度が異なる個眼を設ける例)
18.第18の実施の形態(分光感度が異なる個眼を設ける例)
19.第19の実施の形態(可視光以外の感度を有するセンサからなる個眼を設ける例)
20.第20の実施の形態(WLCMの視差を利用して距離情報を算出する例)
21.第21の実施の形態(複数の個眼のうちの少なくとも1つを他と異なる材料とする例)
22.第22の実施の形態(個片化したイメージセンサ(撮像素子)のチップを並べて疑似1チップ化してマルチレンズアレイ(MLA)等を付加して複眼撮像部を作製する例)
23.第23の実施の形態(タイリングで複眼撮像部を作製する例)
24.第24の実施の形態(タイリング、薄肉化、再配線、積層接続で複眼撮像部を作製する例)
25.第25の実施の形態(複数の複眼撮像部を並べて撮像する撮像装置の例)
26.第26の実施の形態(個眼、または、複数の複眼撮像部を並べる面や角度を変えて複眼撮像装置を作製する例)
27.第27の実施の形態(薄肉化した複眼撮像装置を基準面に貼り付けることにより、 複眼撮像装置を湾曲させる、または、個眼の基準面を変え、個眼の光軸を変える例)
28.第28の実施の形態(個眼(または、複数の複眼撮像部)が接続されている場合に、その個眼(または、複数の複眼撮像部)同士の相対位置のずれ、傾き、ねじれの大きさを検出する例)
29.第29の実施の形態(撮像素子の受光面を個眼毎に凹部形状とする例)
30.第30の実施の形態(光の入射方向において同一画素で異なる色情報を取得するための複数の層からなる撮像素子の例)
31.第31の実施の形態(個眼毎の像距離を調整するための像距離調整部を備える複眼撮像装置の例)
32.第32の実施の形態(個眼毎に合焦状態を変更する複眼撮像装置の例)
33.第33の実施の形態(個眼毎に異なる焦点距離を設定する複眼撮像装置の例)
34.第34の実施の形態(個眼光学系の光学特性に関する情報(光学特性情報)を保持して信号処理に用いる複眼撮像装置の例)
35.第35の実施の形態(時間応答補正前後の両信号を利用する複眼撮像装置の例)
36.第36の実施の形態(光電変換の時間応答特性差異を補正する複眼撮像装置の例)
<1.第1の実施の形態>
[撮像装置の構成例]
図1は、本技術の基礎となる複眼撮像装置10の構成例を示す図である。また、図1では、複眼撮像装置10との比較例として単眼撮像装置20の構成例を示す。すなわち、図1のaには、複眼撮像装置10の構成例を示し、図1のbには、単眼撮像装置20の構成例を示す。なお、図1のaおよびbでは、説明の容易のため、各構成を簡略化して示す。
図1のaに示す複眼撮像装置10は、1つのカメラに複数の個眼レンズ11乃至14が備えられているカメラである。複数の個眼レンズ11乃至14のそれぞれにより集光された光がイメージセンサ(撮像素子)15により受光される。そして、イメージセンサ15により光電変換された画像信号が、信号処理部16により信号処理される。この信号処理により、複数の個眼レンズ11乃至14のそれぞれにより集光された光に基づく、1つの画像が生成されて出力される。
図1のbに示す単眼撮像装置20は、1つのカメラに1つのレンズ21が備えられているカメラである。レンズ21により集光された光がイメージセンサ22により受光される。そして、イメージセンサ22により光電変換された画像信号が、信号処理部23により信号処理される。この信号処理により、レンズ21により集光された光に基づく、1つの画像が生成されて出力される。
ここで、複眼撮像装置10の主な特長は、単眼撮像装置20よりもレンズ(個眼レンズ)の表面からイメージセンサまでの距離を短くすることができることである。このため、例えば、カメラの厚さを薄くすることができる。また、複数の個眼による視差等を利用してカメラから被写体までの距離情報を抽出することができる。また、個眼により得られた画像情報について、複眼撮像装置10の構造に基づいた信号処理を施すことにより、個眼の解像度よりも高い解像度を得ることができる。
複眼撮像装置10におけるこれらの特長の中で、個眼により得られた画像情報を、複眼撮像装置10の構造に基づく信号処理を施すことにより、個眼の解像度よりも高い解像度を得る手法に関しては、図2を参照して詳細に説明する。
[複眼画像による再構成画像の導出例]
図2は、本技術の基礎となる複眼撮像装置により生成される複眼画像による再構成画像の導出例を示す図である。図2では、垂直方向において3つの個眼レンズ17乃至19が設置されている複眼撮像装置の例を示す。
例えば、次の式を用いてx0を算出することができる。
x0={(ix/r resolution)×r height}+(r bottom×xs)={(xc−x0)×fs/d}+xc
この式を用いて求められたx0を用いて、複眼画像による再構成画像を導出することができる。
[複眼画像による距離情報の抽出例]
図3は、本技術の基礎となる複眼撮像装置により生成される複眼画像による距離情報の抽出例を示す図である。
例えば、複数の個眼による視差等を利用して複眼撮像装置から被写体までの距離情報を抽出することができる。例えば、9つの個眼を用いて撮像動作を行うモードAと、2つの個眼を用いて撮像動作を行うモードBとのそれぞれにより生成された画像データを用いる。
そして、モードAにより生成された画像データと、モードBにより生成された画像データとについて、複数の仮想距離を設定し、再構成画像を生成する。続いて、これらの画像データについて差分演算を行い、最少となる仮想距離を抽出し、その仮想距離に基づいて距離情報を求めることができる。
[実効開口の計算例]
次に、イメージセンサの実効開口および実効開口率について図面を参照して説明する。
実効開口は、画素において実効的に入射光を取り入れることができる面積を意味する。例えば、表面型イメージセンサにおいては、画素にあるフォトダイオードの開口面積が小さくても、オンチップレンズを付けることにより、画素面積と同程度の実効開口を得ることができる。また、例えば、裏面型イメージセンサに関しては、オンチップレンズが無い場合でも、実効開口を画素面積と同程度にすることができる。
図4乃至図8は、本技術の基礎となるイメージセンサの上面および断面を簡略化して示す図である。図4乃至図8のaには、イメージセンサの上面図を示し、図4乃至図8のbには、イメージセンサの断面図を示す。
図4乃至図8のaにおいて、2次元上に配置されている複数の矩形は画素を表す。また、図4乃至図8のbにおいて、点線の複数の矩形は画素を表す。また、図5のb、図8のbにおいて、黒塗りの複数の矩形は遮光膜(例えば、41、44)を表す。また、図6乃至図8のbにおいて、複数の半円形はオンチップレンズ(例えば、42、43、45)を表す。
また、pxは、画素の水平方向の長さを示す。また、pyは、画素の垂直方向の長さを示す。また、Wは、実効開口の水平方向の長さを示す。また、Hは、実効開口の垂直方向の長さを示す。この場合に、実効開口面積Saは、Sa=W×Hで求めることができ、画素面積Spは、Sp=px×pyで求めることができる。
また、実効開口率は、実効開口面積および画素面積の比を意味する。図4に示すように、画素および実効開口の形状を矩形で表すことができる場合には、実効開口率Gは、次の式により表される。
G=Sa/Sp=(W×H)/(Px×Py)
ここで、図4には、裏面イメージセンサのように画素開口率が100%のイメージセンサの一例を示す。
また、図5には、混色抑制のために裏面イメージセンサに画素間遮光膜(遮光膜41)を設けることにより画素開口率が100%よりも小さくなるイメージセンサの一例を示す。
また、図6には、混色抑制のために裏面イメージセンサにオンチップレンズ42を設け、画素開口率100%を保持するイメージセンサの一例を示す。
また、図7には、混色抑制等のために裏面イメージセンサに画素面積よりも小さなオンチップレンズ43を設けることにより画素開口率が100%よりも小さくなるイメージセンサの一例を示す。
また、図8には、混色抑制等のために裏面イメージセンサに画素間遮光膜(遮光膜44)を設け、さらに、画素面積よりも小さなオンチップレンズ45を設けることにより画素開口率が100%よりも小さくなるイメージセンサの一例を示す。
<1.第1の実施の形態>
本技術の第1の実施の形態では、色フィルタ(光学フィルタ)毎に画素の実効開口を変更する例を示す。
[複眼撮像装置の構成例]
図9は、本技術の第1の実施の形態における複眼撮像装置100の機能構成例を示すブロック図である。
複眼撮像装置100は、複眼撮像部110と、信号処理部120と、制御部130と、表示部140と、記憶部150と、操作受付部160と、無線通信部170とを備える。なお、図9では、複眼撮像装置100が、表示部140、操作受付部160および無線通信部170を備える例を示すが、これらのうちの少なくとも1つを省略して複眼撮像装置100を構成するようにしてもよい。また、例えば、外部機器とのデータのやりとりを行うインターフェースを複眼撮像装置100に設けるようにしてもよい。この場合には、例えば、複眼撮像装置100は、そのインターフェースを介して接続される外部機器(例えば、表示装置)から情報を出力(例えば、画像表示)させることができる。また、例えば、複眼撮像装置100は、そのインターフェースを介して接続される外部機器(例えば、入力装置)において入力された情報(ユーザによる操作入力の情報)を取得することができる。また、例えば、複眼撮像装置100は、そのインターフェースを介して接続される外部機器(例えば、無線通信装置)により、無線通信を利用して他の装置との情報(例えば、画像情報)のやりとりを行うことができる。
複眼撮像部110は、制御部130の制御に基づいて、被写体を撮像して画像信号(画像データ)を生成するものであり、生成された画像信号を信号処理部120に出力する。例えば、複眼撮像部110は、複数の個眼光学系(個眼レンズ)と、撮像素子(イメージセンサ)と、色フィルタとを備える。ここで、個眼光学系(個眼レンズ)は、被写体に対向して2次元状に配置されるものである。また、撮像素子(イメージセンサ)は、個眼光学系により集光される光を受光して画像信号を生成する複数の画素を個眼単位で備えるものである。また、色フィルタは、個眼毎に設置されるものである。なお、複眼撮像部110の構成については、本技術の第1の実施の形態および他の実施の形態において詳細に説明する。
信号処理部120は、制御部130の制御に基づいて、複眼撮像部110により生成された画像信号(画像データ)について所定の信号処理を施すものであり、信号処理が施された画像データを表示部140または記憶部150に出力する。すなわち、信号処理部120は、複眼撮像部110により生成された画像信号(画像データ)に基づいて、被写体に対応する画像を生成する。
制御部130は、制御プログラムに基づいて、複眼撮像装置100の各部を制御するものである。
表示部140は、信号処理部120により信号処理が施された画像データに基づく画像を表示するものである。
記憶部150は、信号処理部120により信号処理が施された画像データを記憶するものである。
操作受付部160は、ユーザ操作を受け付ける操作受付部であり、受け付けられたユーザ操作に応じた制御信号を制御部130に出力する。
無線通信部170は、制御部130の制御に基づいて、無線通信を利用して、他の装置との間で各情報(例えば、画像データ)の送受信を行うものである。ここで、無線通信として、例えば、無線LAN(Local Area Network)を用いることができる。この無線LANとして、例えば、Wi−Fi(Wireless Fidelity)を用いることができる。また、無線通信として、例えば、Bluetooth(登録商標)、NFC(Near Field Communication)、赤外線、携帯電話用電波等の無線通信を用いることができる。
[色フィルタ毎に画素の実効開口を変更する例]
図10乃至図12は、本技術の第1の実施の形態における複眼撮像部110が備えるイメージセンサを簡略的に示す図である。なお、図10乃至図12では、複眼撮像部110が備えるイメージセンサの上面図を示す。
図10乃至図12では、複数(3×3)の個眼により構成されるイメージセンサの例を示す。また、図10乃至図12では、複数の個眼を特定するための行番号1乃至3と列番号1乃至3とをイメージセンサの周りに付して示す。
また、図10乃至図12では、各画素を点線の矩形で表し、実効開口を実線の矩形で表す。すなわち、各画素を表す点線の矩形内に、実効開口を表す実線の矩形を示す。また、図10乃至図12では、各個眼上に、個眼レンズを表す円を示す。
なお、本技術の実施の形態では、説明の容易のため、各個眼(または、サブ個眼(図22乃至図24に示す))には1つの個眼レンズのみを配置する例を示す。ただし、各個眼(または、サブ個眼)には複数のレンズから構成される光学系を配置するようにしてもよい。
[赤色フィルタ、緑色フィルタ、青色フィルタを用いる例]
図10、図11では、赤色フィルタ、緑色フィルタ、青色フィルタを用いる例を示す。
[青色フィルタの実効開口を最大とし、緑色フィルタの実効開口を最小とする例]
図10では、複数(3×3)の個眼により構成される矩形状のイメージセンサに、緑色フィルタ201乃至205、赤色フィルタ206および207、青色フィルタ208および209が配置される例を示す。具体的には、矩形状のイメージセンサにおける対角線上に緑色フィルタ201乃至205が配置され、赤色フィルタ206および207のラインと、青色フィルタ208および209のラインとが直交するように配置される例を示す。なお、図10では、説明の容易のため、各個眼上における白抜きの矩形内に各フィルタの名称を示す。
図10では、青色フィルタ208および209の実効開口を最大とし、赤色フィルタ206および207の実効開口を次に大きい値とし、緑色フィルタ201乃至205の実効開口を最小とする例を示す。
また、図10では、各色の色フィルタが、イメージセンサにオンチップされている場合、または、イメージセンサに近接している場合の例を示す。また、図10では、各色の色フィルタが、個眼レンズや絞りに近接している場合の例を示す。
[赤色フィルタの実効開口を最大とし、青色フィルタの実効開口を最小とする例]
図11では、複数(3×3)の個眼により構成される矩形状のイメージセンサにおける対角線上に青色フィルタ211乃至215が配置され、赤色フィルタ218および219のラインと、緑色フィルタ216および217のラインとが直交するように配置される例を示す。
図11では、赤色フィルタ218および219の実効開口を最大とし、緑色フィルタ216および217の実効開口を次に大きい値とし、青色フィルタ211乃至215の実効開口を最小とする例を示す。
また、図11では、各色の色フィルタが、イメージセンサにオンチップされている場合、または、イメージセンサに近接している場合の例を示す。また、図11では、各色の色フィルタが、個眼レンズや絞りに近接している場合の例を示す。
[シアンフィルタ、マゼンタフィルタ、イエローフィルタ、グリーンフィルタを用いる例]
図12では、シアンフィルタ、マゼンタフィルタ、イエローフィルタ、グリーンフィルタを用いる例を示す。
[マゼンタフィルタの実効開口を最大とし、イエローフィルタの実効開口を最小とする例]
図12では、複数(3×3)の個眼により構成される矩形状のイメージセンサにおいて、V字状のマゼンタフィルタ221乃至223およびV字状のグリーンフィルタ224乃至226が対向するように配置される例を示す。また、イエローフィルタ229が中心に配置され、同一ライン上にシアンフィルタ227、228およびイエローフィルタ229が交互に配置される例を示す。
図12では、マゼンタフィルタ221乃至223の実効開口を最大とし、グリーンフィルタ224乃至226の実効開口を2番目に大きい値とし、シアンフィルタ227、228の実効開口を3番目に大きい値とし、イエローフィルタ229の実効開口を最小とする例を示す。
また、図12では、各色の色フィルタが、イメージセンサにオンチップされている場合、または、イメージセンサに近接している場合の例を示す。また、図12では、各色の色フィルタが、個眼レンズや絞りに近接している場合の例を示す。
[視差を補正するための画像処理例]
ここで、イメージセンサにおける色フィルタ毎に画素の実効開口を変える場合に、視差を補正するための画像処理方法の一例について説明する。
上述したように、複眼撮像装置100は、複数の個眼からなる構造であるため、被写体の距離に応じて、個眼間に視差が生じる場合がある。このように、個眼間に視差が生じている場合に、視差の補正を行わずに複眼撮像装置の出力信号として出力すると、視差を有する個眼数に相当する枚数の画像がダブったような画像となり、不自然な画像となる。
そこで、これらの個眼から得られる視差を有するローデータ(Raw Data)について信号処理を施して視差を補正することにより自然な画像情報とすることができる。また、この自然な画像情報を、複眼撮像装置により得られる画像とすることができる。
最初に、画素出力の差を求める例を示す。例えば、i行j列の個眼におけるk行l列の画素出力と、I行J列の個眼におけるk行l列の画素出力との差δijklは、次の式1で表される。言い換えると、δijklは、i行j列の個眼におけるk行l列の画素出力と、他の個眼(I行J列の個眼)におけるk行l列の画素出力との差を示す。
δijkl=Sijkl−SIJkl … 式1
ここで、Sijklは、各個眼の出力信号を示す。また、iは、イメージセンサにおける個眼の行番号を示す。また、jは、イメージセンサにおける個眼の列番号を示す。また、kは、個眼における画素の行番号を示す。また、lは、個眼における画素の列番号を示す。また、Iは、出力画像における個眼の行番号を示す。また、Jは、出力画像における個眼の列番号を示す。
例えば、視差が無い場合や、視差を無視することができる大きさの場合には、δijklは、ゼロの値、または、極めてゼロに近い数値になる。一方、視差がある場合には、δijklは、ゼロではなく、有限の数値になる。
次に、視差の補正を行う例を示す。
i行j列の個眼におけるk行l列の画素から、ε行、ζ列だけ離れた画素の出力信号Sij(k+ε)(L+ζ)と、I行J列の個眼におけるk行l列の画素出力SIJklとの差δijklは、次の式2で表される。
δijkl=Sij(k+ε)(L+ζ)−SIJkl … 式2
この式2を用いて求められるδijklが最小となるεとζを求める。そして、i行j列の個眼における(k+ε)行(l+ζ)列の画素出力をi行j列の個眼におけるk行l列の画素出力として、置換する。また、i行j列の個眼における(k+ε)行(l+ζ)列の画素出力は、I行J列の個眼における(k+ε)行(l+ζ)列の画素出力に置換する。すなわち、εは、個眼における画素行番号の補正数を示す。また、ζは、個眼における画素列番号の補正数を示す。
このような視差補正を行うことにより、複眼撮像装置からの信号処理後の画像を、ダブった画像が無い自然な画像とすることができる。
なお、本技術の第1の実施の形態では、色フィルタ(光学フィルタ)として、R、G、B等の可視光原色フィルタ、Ye(黄色)、Cy(シアン)、Mg(マゼンタ)等の可視光補色フィルタを用いる例を示した。ただし、他の色フィルタ(光学フィルタ)を用いる場合についても本技術の第1の実施の形態を適用することができる。例えば、W(白)、C(クリア)等の可視光全域フィルタ、Ir(赤外)等の可視光以外の色フィルタ(光学フィルタ)についても本技術の第1の実施の形態を適用することができる。
ここで、複眼撮像装置の実効画素開口率を、全ての光学フィルタについて同様に設計する場合を想定する。このように、複眼撮像装置の実効画素開口率を全ての光学フィルタについて同様とすると、画素のアパーチャ効果のMTF(空間周波数特性)が、全ての光学フィルタにおいて同様となる。そして、空間画素ずらしによるMTFの高域特性向上の程度が、この全て同様のMTF特性によって制約を受ける。具体的には、アパーチャ効果によるMTFのNull Pointが全ての光学フィルタにおいて同様であるため、このNull Point近傍の空間周波数の改善が困難となるとなるおそれがある。
また、複眼撮像装置の実効画素開口率を全ての光学フィルタについて同様とすると、最も感度の大きな光学フィルタの画素の信号電荷によって撮像素子全体の飽和電荷量が設定されてしまうおそれがある。これにより、撮像素子特性としてのダイナミックレンジが狭くなるおそれがある。
そこで、本技術の第1の実施の形態では、色フィルタ毎に画素の実効開口を変更する。これにより、解像度を向上させることができる。また、撮像素子特性としてのダイナミックレンジを広くすることができる。
<2.第2の実施の形態>
本技術の第2の実施の形態では、個眼の光軸の位置をずらすことにより空間画素ずらしを行う例を示す。
[個眼の光軸の位置をずらすことにより空間画素ずらしを行う例]
図13乃至図17は、本技術の第2の実施の形態における複眼撮像装置が備えるイメージセンサを簡略的に示す図である。なお、図13乃至図17では、図10乃至図12と同様に、各画素を矩形で簡略的に示し、個眼レンズを円で簡略化して示す。また、図13乃至図17では、図10乃至図12と同様に、複数(3×3)の個眼により構成される矩形状のイメージセンサの例を示す。
[赤色フィルタ、緑色フィルタ、青色フィルタを用いる例]
図13乃至図17では、赤色フィルタ、緑色フィルタ、青色フィルタを用いる例を示す。また、図13乃至図17では、図10と同様に、緑色フィルタ、赤色フィルタ、青色フィルタが配置される例を示す。
[全色を斜め方向(同一方向)に半画素ずらす例]
図13では、全色の色フィルタを斜め方向(同一方向)に半画素ずらす例を示す。
また、図13では、各色の色フィルタが、イメージセンサにオンチップされている場合、または、イメージセンサに近接している場合の例を示す。また、各色の色フィルタが、個眼レンズや絞りに近接している場合の例を示す。
例えば、各色フィルタのうちの一部の色フィルタの個眼の光軸を斜め方向に半画素ずらす。この場合に、ずらす方向は、各色について同一方向とする。例えば、図13では、4つの個眼の光軸を、矢印231乃至234に示す方向にずらす例を示す。
[全色を斜め方向(異なる方向)に半画素ずらす例]
図14では、全色の色フィルタを斜め方向(異なる方向)に半画素ずらす例を示す。
また、図14では、各色の色フィルタが、イメージセンサにオンチップされている場合、または、イメージセンサに近接している場合の例を示す。また、各色の色フィルタが、個眼レンズや絞りに近接している場合の例を示す。
例えば、各色フィルタのうちの一部の色フィルタの個眼の光軸を斜め方向に半画素ずらす。この場合に、緑色フィルタの個眼の光軸は、相反する方向にずらし、赤色フィルタおよび青色フィルタの個眼の光軸については、同一方向にずらす。例えば、図14では、緑色フィルタの一部と、赤色フィルタおよび青色フィルタとの個眼の光軸を、矢印241乃至244に示す方向(同一方向)にずらす。また、図14では、緑色フィルタの一部の個眼の光軸を、矢印245、246に示す方向(反対方向)にずらす。
[全色を斜め方向(同一方向)にずらす例]
図15では、全色の色フィルタを斜め方向(同一方向)にずらす例を示す。
また、図15では、各色の色フィルタが、イメージセンサにオンチップされている場合、または、イメージセンサに近接している場合の例を示す。また、各色の色フィルタが、個眼レンズや絞りに近接している場合の例を示す。
例えば、各色フィルタのうちの一部の色フィルタの個眼の光軸を斜め方向に半画素ずらす。また、各色フィルタのうちの一部の色フィルタの個眼の光軸を斜め方向に1/3画素または2/3画素ずらす。例えば、緑色フィルタの個眼の光軸を斜め方向に1/3画素および2/3画素ずらし、赤色フィルタおよび青色フィルタの個眼の光軸を斜め方向に半画素ずらす。例えば、図15では、緑色フィルタの一部の個眼の光軸を、矢印251、252に示す方向に1/3画素ずらす。また、緑色フィルタの一部の個眼の光軸を、矢印253、254に示す方向に2/3画素ずらす。また、赤色フィルタおよび青色フィルタの個眼の光軸を、矢印255、256に示す方向に半画素ずらす。
[全色を斜め方向(同一方向)にずらす例]
図16では、全色の色フィルタを斜め方向(同一方向)にずらす例を示す。
また、図16では、各色の色フィルタが、イメージセンサにオンチップされている場合、または、イメージセンサに近接している場合の例を示す。また、各色の色フィルタが、個眼レンズや絞りに近接している場合の例を示す。
例えば、各色フィルタのうちの一部の色フィルタの個眼の光軸を斜め方向に半画素ずらす。また、各色フィルタのうちの一部の色フィルタの個眼の光軸を斜め方向に1/5画素、2/5画素、3/5画素および4/5画素ずらす。例えば、緑色フィルタの個眼の光軸を斜め方向に1/5画素、2/5画素、3/5画素および4/5画素ずらし、赤色フィルタおよび青色フィルタの個眼の光軸を斜め方向に半画素ずらす。例えば、図16では、緑色フィルタの一部の個眼の光軸を矢印261に示す方向に1/5画素ずらす。また、緑色フィルタの一部の個眼の光軸を矢印262に示す方向に2/5画素ずらす。また、緑色フィルタの一部の個眼の光軸を矢印263に示す方向に3/5画素ずらす。また、緑色フィルタの一部の個眼の光軸を矢印264に示す方向に4/5画素ずらす。また、赤色フィルタおよび青色フィルタの個眼の光軸を矢印265、266に示す方向に半画素ずらす。
[全色を各方向にずらす例]
図17では、全色の色フィルタを水平方向、垂直方向および斜め方向に半画素ずらす例を示す。
また、図17では、各色の色フィルタが、イメージセンサにオンチップされている場合、または、イメージセンサに近接している場合の例を示す。また、各色の色フィルタが、個眼レンズや絞りに近接している場合の例を示す。
例えば、緑色フィルタの一部の個眼の光軸を相反するように垂直方向に半画素ずらし、緑色フィルタの一部の個眼の光軸を相反するように水平方向に半画素ずらし、赤色フィルタおよび青色フィルタの個眼の光軸を斜め方向に半画素ずらす。例えば、図17では、緑色フィルタの一部の個眼の光軸を、矢印271に示す方向(垂直方向)に半画素ずらす。また、緑色フィルタの一部の個眼の光軸を、矢印272に示す方向(矢印271に示す方向の反対方向)に半画素ずらす。また、緑色フィルタの一部の個眼の光軸を、矢印273に示す方向(水平方向)に半画素ずらす。また、緑色フィルタの一部の個眼の光軸を、矢印274に示す方向(矢印273に示す方向の反対方向)に半画素ずらす。また、赤色フィルタおよび青色フィルタの個眼の光軸を矢印275、276に示す方向に半画素ずらす。
このように、本技術の第2の実施の形態では、個眼の光軸の位置をずらすことにより空間画素ずらしを行う。これにより、解像度を向上させることができる。
<3.第3の実施の形態>
本技術の第3の実施の形態では、個眼レンズの倍率色収差を信号処理で補正する例を示す。
[倍率色収差の信号処理による補正例]
最初に、倍率色収差を信号処理で補正する補正方法について説明する。
図18は、本技術の第3の実施の形態における複眼撮像部110の断面を示す図である。図18では、個眼レンズ、色フィルタおよびイメージセンサの関係を簡略化して示す。
ここで、個眼レンズ284乃至286の倍率色収差による撮像面での各色の倍率を、次のように定義する。
NR:赤色の像面倍率
NG:緑色の像面倍率
NB:青色の像面倍率
また、図18において、赤色フィルタ281の個眼における被写体の点A(280)の結像位置をXRとする。また、緑色フィルタ282の個眼における被写体の点A(280)の結像位置をXGとする。また、青色フィルタ283の個眼における被写体の点A(280)の結像位置をXBとする。
図18に示すように、結像位置XR、XGおよびXBは、個眼レンズ284乃至286の倍率色収差により全て異なる位置となる。
ここで、個眼レンズ284乃至286の倍率色収差は、設計値、または、測定値により予め把握することが可能であるため、NR、NG、NBは、既知である。そこで、次の式に示すように、結像位置XR、XBを補正することができる。
X'R=(NG/NR)XR
X'B=(NG/NB)XB
信号処理部120は、上述した式を用いた信号処理による補正を行うことにより、倍率色収差を抑圧、または、無くすことができる。すなわち、信号処理部120は、個眼レンズの倍率色収差による焦点面上の周辺部における色に応じて生じる像のずれを補正する。
例えば、個眼レンズの倍率色収差や軸上色収差等のような、色収差を少なくするように、個眼レンズの色収差特性が良くなるように個眼レンズの設計を行う場合を想定する。この場合には、個眼レンズ構造が複雑になるとともに、個眼レンズのコストが高くなる。
そこで、本技術の第3の実施の形態では、個眼レンズの倍率色収差による焦点面上の周辺部における色によりずれる像はそのままにして個眼レンズを設計、構成し、色の違いによる像のずれについては信号処理により補正する。これにより、個眼レンズ構造を簡素化することができ、個眼レンズのコストを低減させることができる。
<4.第4の実施の形態>
本技術の第4の実施の形態では、個眼レンズの軸上色収差による焦点距離の差異に応じて個眼の光学設計をする例を示す。
[個眼の光学設計例]
図19乃至図21は、本技術の第4の実施の形態における複眼撮像部110の断面を示す図である。図19乃至図21では、個眼レンズ、色フィルタおよびイメージセンサの関係を簡略化して示す。なお、図19乃至図21では、イメージセンサを構成する画素を、点線の矩形で示す。
図19には、個眼レンズに軸上色収差があるが、この補正をしていない場合の個眼レンズ294乃至296およびイメージセンサの関係を示す。
図19に示すように、個眼レンズ294乃至296の軸上色収差により、色(すなわち、光の波長)に応じて焦点距離が変わる。このため、図19に示す複眼撮像装置では、全ての色について同時に合焦をすることができない。そこで、全ての色について同時に合焦をすることができる個眼の光学設計例を、図20および図21に示す。
図20には、個眼レンズ294乃至296およびイメージセンサ間に、光路長を変更する材料301、302を設置する例を示す。
例えば、個眼レンズ294乃至296およびイメージセンサ間に、光路長を変更する材料301、302を色毎に厚みを変えて挿入する。これにより、個眼レンズ294乃至296の軸上色収差に関して、個眼レンズ単体についてはあまり補正を行わず、複眼撮像装置全体として軸上色収差を改善させることができる。例えば、緑色フィルタ292の個眼に設置する材料301の厚みよりも、青色フィルタ293の個眼に設置する材料302の厚みを大きくする。
図21には、個眼レンズ294乃至296およびイメージセンサ間の距離を変更する例を示す。
例えば、個眼レンズ294乃至296およびイメージセンサ間の距離を色毎に変更する。例えば、赤色フィルタ291の個眼における個眼レンズ294およびイメージセンサ間の距離よりも、緑色フィルタ292の個眼における個眼レンズ295およびイメージセンサ間の距離を短くする。また、例えば、緑色フィルタ292の個眼における個眼レンズ295およびイメージセンサ間の距離よりも、青色フィルタ293の個眼における個眼レンズ296およびイメージセンサ間の距離を短くする。
これにより、個眼レンズの軸上色収差に関して、個眼レンズ単体についてはあまり補正を行わず、複眼撮像装置全体として軸上色収差を改善させることができる。
ここで、通常の単眼撮像装置の個眼レンズは、倍率色収差、および、軸上色収差ができるだけ少なくなるように作られている。このため、個眼レンズの材料として、例えば、クラウングラスとフリントグラスの2つの個眼レンズ同士を張り合わせて1つの個眼レンズのように構成する必要があり、個眼レンズの枚数を増やすことが必要となる。このため、個眼レンズのコストが高くなるとともに、個眼レンズ全体が厚くなってしまう。
これに対して、本技術の第3の実施の形態における複眼撮像装置では、個眼レンズの倍率色収差や軸上色収差については、個眼レンズにおいて過度補正をすることなく、倍率色収差を信号処理で補正することができる。また、本技術の第4の実施の形態における複眼撮像装置では、軸上色収差に応じた個眼の光学設計をすることができる。これらにより、個眼レンズそのものを低コストとすることができ、個眼レンズの厚さを薄くすることができる。
<5.第5の実施の形態>
本技術の第5の実施の形態では、1つの個眼を複数のサブ個眼で構成する例を示す。
[1つの個眼を複数のサブ個眼とする複眼撮像部の構成例]
図22乃至図24は、本技術の第5の実施の形態における複眼撮像部110の構成例を示す図である。また、図22乃至図24では、各色の色フィルタが、個眼レンズや絞りに近接している場合の例を示す。
図22には、1つの個眼を4つのサブ個眼で構成する例を示す。なお、図22乃至図24では、色フィルタの種類を個眼レンズの形態で表す。具体的には、緑色フィルタの個眼に配置される個眼レンズを白塗りの丸で表し、赤色フィルタの個眼に配置される個眼レンズを黒塗りの丸で表し、青色フィルタの個眼に配置される個眼レンズを、内部に斜線を付した丸で表す。
図22に示すように、各個眼が、4つのサブ個眼で構成されている。なお、色フィルタの配置については、図10等に示す例と同様である。また、サブ個眼は、例えば、1つの個眼レンズおよびイメージセンサで構成されている単位であるものとする。
図23には、1つの個眼を9つのサブ個眼で構成する例を示す。なお、色フィルタの配置については、図22に示す例と同様である。また、1つの個眼を9つのサブ個眼で構成する点以外についても、図22に示す例と略同様である。
図24には、1つの個眼を9つのサブ個眼で構成し、かつ、各個眼内の色フィルタを変更する例を示す。このように、1つの個眼内のサブ個眼の色フィルタを変更することができる。この場合に、個眼内における色フィルタの配置については、図22に示す複眼撮像部110の全体の配置と同様とすることができる。
また、1つの個眼を4、または、これ以外の数(例えば、16)のサブ個眼で構成する場合についても、各個眼内の色フィルタを変更するようにしてもよい。
[個眼をサブ個眼で構成する場合の画像処理例]
ここで、上述したように、個眼をサブ個眼で構成する場合の画像処理方法の一例について説明する。
上述したように、個眼を一つの個眼レンズではなく、複数の個眼レンズを用いて(すなわち、サブ個眼を用いて)構成することが可能である。特に、個眼全体で実現しようとしている画角よりも、サブ個眼の画角を小さくすることにより、サブ個眼の光学系の設計、製造の負担を軽減することができる。
図25は、本技術の第5の実施の形態における複眼撮像装置による画像処理例を模式的に示す図である。具体的には、Fraunhoferによる画像処理の一例を示す。すなわち、個眼の画角を狭くし、個眼毎に撮像領域をシフトさせて撮像し、これらの各個眼から得られるローデータ(Raw data)画像を繋ぎ合わせて出力画像を得る画像処理例を示す。
FraunhoferによるStitching処理は、サブ個眼という概念ではなく、全ての個眼の撮像領域を少しずつ変えていく処理である。
図25に示す複眼撮像部は、開口部181と、マイクロレンズアレイ182と、遮光部183と、イメージセンサ184と、撮像領域185とを備える。そして、被写体180からの光が撮像領域185に入射される。このように、撮像領域185に入射された光が光電変換されて画像信号(画像データ)186が生成される。これらの画像信号(画像データ)186を繋ぎ合わせて出力画像187を得ることができる。
これに対し、上述したように、サブ個眼を設置する場合には、サブ個眼からなる個眼を一つの単位とし、その個眼の光学系を他の個眼にも適用することができる。すなわち、同一(または、ほぼ同様)の撮像領域を有するサブ個眼が、一つの複眼撮像装置の中に、複数存在することを意味する。このサブ個眼構造は、個眼単位で光学系の繰り返しが可能となるため、複眼撮像装置の光学系設計と製造が容易になる。
また、上述したように、サブ個眼で構成する場合における画像処理方法は、基本的には、Fraunhoferによる画像処理と同様とすることができる。すなわち、図25に示すように、隣り合うサブ個眼の同一出力となる画素に対して、それぞれのサブ個眼の出力を繋いでいくように画像処理が行われる。このように画像処理を施すことにより、複眼撮像装置からの信号処理後の出力画像を、被写体と同様に撮像領域が広い一つの画像とすることができる。
このため、例えば、画角を広くとったような場合でも、個眼の光学系の構造設計や製造の負担を軽減することができ、コストを低減させることができる。
<6.第6の実施の形態>
本技術の第6の実施の形態では、複数の個眼レンズのうちの少なくとも1つの光学特性や構造を異なるように構成する例を示す。
[複数の個眼レンズのうちの少なくとも1つの光学特性や構造が異なる構成例]
図26乃至図29は、本技術の第6の実施の形態における複眼撮像部110の構成例を示す図である。
図26には、複眼撮像部110のイメージセンサ300の周辺部に配置されている個眼の光学特性と中央部個眼の光学特性とを異なる構成とする例を示す。
具体的には、中央部個眼については、個眼レンズ302の主光線の入射角を0度(または、略0度)とする最適設計を行う。一方、イメージセンサ300の周辺部に配置されている個眼については、個眼レンズ301、303の主光線の入射角が0度以外(または、第1個眼光学系の入射角とは異なる角度)とする最適設計を行う。
このように、図26では、異なる最適設計を行った個眼光学系が混在しているマルチレンズアレイ(MLA)を有する複眼撮像部110の例を示す。
図27には、複眼撮像部110のイメージセンサ300の周辺部に配置されている個眼の光学特性と中央部個眼の光学特性とを異なる構成とする例を示す。
具体的には、図26と同様に、中央部個眼については、個眼レンズ302の主光線の入射角を0度とする最適設計を行う。一方、イメージセンサ300の周辺部に配置されている個眼については、個眼レンズ301、303の主光線の入射角が0度以外とする最適設計を行う。さらに、図27では、個眼毎の色特性にマルチレンズアレイの光学特性を最適化する。
このように、図27では、異なる最適設計を行った個眼光学系が混在しているマルチレンズアレイ(MLA)を有する複眼撮像部110の例を示す。
また、図27では、各色の色フィルタ304乃至306が、イメージセンサ300にオンチップされている場合、または、イメージセンサ300に近接している場合の例を示す。
図28および図29には、複眼撮像部110のイメージセンサ300の周辺部に配置されている個眼の光学特性と中央部個眼の光学特性とを異なる構成とする例を示す。なお、図28には、断面図を示し、図29には、上面図を示す。
具体的には、図26と同様に、個眼の中央のサブ個眼については、個眼レンズ312、315、318の主光線の入射角を0度とする最適設計を行う。一方、個眼の周辺部に配置されているサブ個眼については、個眼レンズ311、313、314、316、317、319の主光線の入射角が0度以外とする最適設計を行う。このように、図28および図29では、サブ個眼の光学特性および個眼レンズ位置を、通常の個眼の光学特性と異なる構成とする。
このように、図28および図29では、異なる最適設計を行った個眼光学系が混在しているマルチレンズアレイ(MLA)を有する複眼撮像部110の例を示す。
また、図28および図29では、各色の色フィルタが、個眼レンズや絞りに近接している場合の例を示す。
ここで、個眼レンズの光学特性を結像領域全体に亘って同じにする場合を想定する。この場合には、個眼レンズのコストが増加し、個眼レンズが厚く大型になる。
そこで、本技術の第6の実施の形態では、主光線の入射角を0度とする最適設計を行った個眼光学系と、主光線の入射角を0度以外とする最適設計(特に、画角の周辺部のような領域における最適設計)を行った個眼光学系とを混在させる。これにより、個眼の個眼レンズの作製が容易となり、個眼レンズの低コスト化、および、個眼レンズの薄型化が可能になる。
さらに、画角の周辺部のような領域における最適設計を行った個眼光学系により、画角の周辺部の色再現性および解像度特性を向上させることができる。また、周辺解像度を向上させることができる。
<7.第7の実施の形態>
本技術の第7の実施の形態では、個眼毎に瞳補正を行う例を示す。
[個眼毎に瞳補正を行う例]
図30は、本技術の第7の実施の形態における複眼撮像部110の構成例を示す図である。図30には、個眼毎に瞳補正を行う複眼撮像部110の断面図を示す。
例えば、各個眼のイメージセンサ320を構成する画素上に、瞳補正を行うためのオンチップレンズ324乃至326を配置する。
このように、各個眼のイメージセンサ320を構成する画素上にオンチップレンズ324乃至326を配置することにより、個眼毎に、いわゆる、瞳補正を行うことができる。このため、個眼におけるシェーディング特性を改善することができ、全体画像のシェーディング特性を改善することができる。また、全体画像の周辺部のS/N(Signal to Noise ratio)を良好にすることができる。
<8.第8の実施の形態>
本技術の第8の実施の形態では、スペースに余裕のある周辺の光学系のF値を小さくすることによりシェーディング特性を向上させる例を示す。
[スペースに余裕のある周辺の光学系のF値を小さくする例]
図31乃至図33は、本技術の第8の実施の形態における複眼撮像部110の構成例を示す図である。図31には、複眼撮像部110の上面図を示し、図32および図33には、複眼撮像部110の断面図を示す。
図31乃至図33では、個眼のイメージセンサ330および個眼レンズ331乃至339が3×3に配置される場合の例を示す。複眼撮像部110の周辺には、スペースに余裕がある。このため、複眼撮像部110の周辺の光学系のF値を小さくするため、個眼レンズ331乃至339の形状を、図31乃至図33に示す形状(複眼撮像部110の矩形からはみ出すような形状)とする。これにより、シェーディング特性を向上させることができる。
図32には、複眼撮像部110の周辺部に配置されている個眼の光軸の個眼撮像領域における位置関係と、中央部の個眼の光軸の個眼撮像領域における位置関係とをほぼ同様の関係とする例を示す。
図33には、複眼撮像装置の周辺部に配置されている個眼の光軸の個眼撮像領域における位置関係と、中央部の個眼の光軸の個眼撮像領域における位置関係とを大きく異なる関係とする例を示す。
このように、マルチレンズアレイ(MLA)に含まれている個眼光学系の特性を同一特性で設計、製造せずに、スペースに余裕のある周辺の個眼光学系のF値を小さくする。これにより、1つの個眼光学系に生じるシェーディング特性を改善することができる。
<9.第9の実施の形態>
本技術の第9の実施の形態では、WLCM(Wafer Level Camera Module)および積層型複眼撮像装置において個眼の数を増加させることにより感度を高める例を示す。
[個眼の数を増加させる場合の構成例]
図34は、本技術の第9の実施の形態における複眼撮像装置の構成例を示す図である。図34には、個眼の数を81(9×9)とする場合の例を示す。
ここで、例えば、大学の研究レベルにおいて、単体カメラを複数台アレイ状に配置し、複数の単眼カメラ全体の機能や画質を向上させる試みがある。また、複数のカメラモジュールをアレイ状に配置し、複数のカメラモジュール全体の機能や画質を向上させる試みがある。
これらの手法は、複数の単眼カメラ、または、複数のカメラモジュールの相対位置精度をイメージセンサの画素サイズ程度までに高めることは困難であることが想定される。
そのため、空間画素ずらしによる解像度向上、画素単位における同期加算による信号対雑音比(S/N)の向上を実現することは困難であることが想定される。
これに対し、WLCMは、半導体製造のアライメント精度での個眼位置精度を実現することができるため、画素サイズ程度の相対位置精度を得ることができる。このため、空間画素ずらしによる解像度向上、画素単位における同期加算による信号対雑音比(S/N)の向上を実現することが可能となる。
<10.第10の実施の形態>
本技術の第10の実施の形態では、WLCMにおいて感度の異なる個眼を配置して感度およびダイナミックレンジ(Dynamic Range)を高める例を示す。
[WLCMにおいて感度の異なる個眼を配置する場合の構成例]
図35乃至図39は、本技術の第10の実施の形態における複眼撮像部110の構成例を示す図である。
図35乃至図38では、複数(9×9)の個眼により構成されるイメージセンサの例を示す。また、図39では、複数(3×3)の個眼により構成されるイメージセンサの例を示す。
図35には、高感度個眼および低感度個眼が交互に一列に配置されている場合の例を示す。図36には、高感度個眼および低感度個眼が交互に一列に配置されているイメージセンサにおいて色フィルタを配置する場合の例を示す。
なお、図36乃至図39では、個眼の感度を丸の大きさで示す。具体的には、高感度個眼を大きい丸で示し、低感度個眼を小さい丸で示す。また、図36、図38では、色フィルタの種類を画素の形態で表す。具体的には、緑色フィルタの個眼に対応する矩形を白塗りで表し、赤色フィルタの個眼に対応する矩形を黒塗りで表し、青色フィルタの個眼に対応する矩形を、内部に斜線を付して表す。
図37には、高感度個眼および低感度個眼が市松状に配置されている場合の例を示す。図38には、高感度個眼および低感度個眼が市松状に配置されているイメージセンサにおいて色フィルタを配置する場合の例を示す。
図39には、図35乃至図38に示す配置以外の配置例を示す。なお、図39では、色フィルタの種類を個眼レンズの形態で表す。具体的には、緑色フィルタの個眼に配置される個眼レンズを白塗りの丸で表し、赤色フィルタの個眼に配置される個眼レンズを黒塗りの丸で表し、青色フィルタの個眼に配置される個眼レンズを、内部に斜線を付した丸で表す。
例えば、従来のウエハレベルカメラモジュールは、1つのカメラモジュールの感度特性で撮像装置としての感度が決まっていた。これに対して、本技術の第10の実施の形態では、WLCMにおいて感度の異なる個眼を配置することにより、感度およびダイナミックレンジを高めることができる。
また、従来の複眼撮像装置は、複数の個眼出力信号を加算または信号処理することにより個眼の感度よりも最終出力信号の感度を高めることができると想定される。しかしながら、イメージセンサ(撮像素子)とMLA等の組み立て工程が半導体プロセスとは別行程で行われるため、複眼撮像装置全体を小型にすること(特に、厚みを薄くすること)が困難であることが想定される。
また、従来の複眼撮像装置は、個眼の絞りの大きさを複数用意することにより個眼の感度特性を複数設定し、これら感度の異なる複数の個眼の出力信号を信号処理することにより、最終出力信号のダイナミックレンジを広くすることができるものが提案されている。しかしながら、イメージセンサ(撮像素子)とMLA等の組み立て工程が半導体プロセスとは別行程で行われるため、複眼撮像装置全体を小型にすること(特に、厚みを薄くすること)が困難であることが想定される。
そこで、本技術の第10の実施の形態では、WLCMにおいて感度の異なる個眼を配置することにより、複眼撮像装置全体を小型にすることができ、感度およびダイナミックレンジを高めることができる。
<11.第11の実施の形態>
本技術の第11の実施の形態では、複眼撮像部から複数の読み出し方法により読み出しを行う例を示す。
[ライブビューおよび高画質モードの複数の読み出しを行う場合の構成例]
図40は、本技術の第11の実施の形態における複眼撮像部110の構成例を示す図である。図40では、複数(3×3)の個眼により構成されるイメージセンサの例を示す。
例えば、ライブビューの表示時には、制御部130(図9に示す)は、図40に示す9つの個眼のうち、(2,1)、(2,2)、(3,2)の3つの個眼からの画像データのみを読み出して出力させる。
ここで、(x,y)は、複眼撮像部110を構成する個眼の位置を示す情報であり、xは、行番号を示し、yは、列番号を示す。
また、高画質モードが設定されている場合には、制御部130は、図40に示す9つの個眼のうちの全ての個眼から画像データを読み出して出力させる。
このように、制御部130は、撮像モードに応じて、複眼撮像部110を構成するイメージセンサからの読み出し方法を変更する制御を行う。
ここで、複眼撮像装置を用いて動画撮影を行う場合には、動画を撮りながら、撮った画像をモニターで再生し、撮影されている画像を確認する必要が生じる。
全ての個眼を信号処理して、高画質の画像を出力しようとすると、信号処理によるレイテンシが生じ、動いている被写体を撮影する場合や、カメラを動かして撮影する場合に、被写体の動きと、モニターに現れる画像との時間的なずれが生じるため、撮影に支障が出る。
このような事態を回避するため、複眼撮像装置に、ライブビューモードと高画質モードとの複数の読み出し手法を取り入れる。この手法は、個眼毎の出力信号を選択可能なように、イメージセンサとシステムを予め設計しておくことによって可能となる。
モニター(例えば、図9に示す表示部140)に出力する画像は、できるだけ少ない数の個眼の画像を使用して信号処理の負荷を減らし、レイテンシを最小限にする。また、高画質で記録が必要な場合には、並行して、高画質モードの記録を行っておく。ただし、高画質での記録が必要でない場合には、必要最小限の個眼の画像を記録する。
このように、複数の個眼の中で、その時の状況に応じた読み出し、記録を行うことにより、レイテンシを最少化し、消費電力を低減することができる。すなわち、リアルタイム性の向上(レイテンシの改善)を行うことができる。
また、従来の複眼撮像装置は、最終出力信号を得るまでに時間がかかるため、動画像を得ようとすると、電子ビューファインダに出力される画像に遅延が生じる。このため、動いている被写体を撮像することが極めて困難である。そこで、本技術の第11の実施の形態では、複数の個眼の中で、その時の状況に応じた読み出し、記録を行うことにより、レイテンシを最少化し、動いている被写体を適切に撮像することができる。
ここで、例えば、複眼撮像装置が表示部を備えない場合も想定される。この場合には、他の情報処理装置(例えば、携帯型の情報処理装置(例えば、スマートフォン、タブレット端末、携帯電話)のディスプレイを使用して、撮影している画像を確認することが考えられる。
例えば、他の装置との間で無線通信を行うための無線通信部(例えば、図9に示す無線通信部170)を複眼撮像装置に設ける。そして、複眼撮像装置で撮影をしながら、必要最小限の情報(画像データ)を無線通信部により他の装置に送信し、他の装置の表示部に、撮影している画像を表示させる。これにより、複眼撮像装置にモニターが無い場合や、モニターがあっても複眼撮像装置が手元に無いような場合でも、他の装置の表示部を使用して、撮影している画像を確認することができる。
このように、必要最小限の情報(画像データ)を無線通信部により他の装置に送信する場合には、上述したライブビューの表示時における読み出し方法により、読み出された画像を送信する送信方法が有効である。
<12.第12の実施の形態>
本技術の第12の実施の形態では、個眼の駆動やADC(Analog to Digital Converter)をオフして消費電力を低減させる例を示す。なお、本技術の第12の実施の形態では、図40を参照して説明する。
例えば、ライブビューの表示時には、制御部130(図9に示す)は、図40に示す9つの個眼のうち、(2,1)、(2,2)、(3,2)の3つの個眼のみを駆動させる。この場合に、他の個眼については、オフや、他の個眼内のADCをオフさせる等のスタンバイモードにする。
このように、制御部130は、複数の個眼のうちで使用されない個眼の駆動の停止と、その個眼に設置されるADCのオフとのうちの少なくとも1つを行うように制御することができる。
ここで、従来の複眼撮像装置は、個眼を駆動し、最終出力信号を得るため、消費電力が大きくなり、携帯機器としてのバッテリーの持続時間が短くなってしまうおそれがある。そこで、本技術の第12の実施の形態では、使用しない個眼の駆動や個眼内のADCをオフして低消費電力化を実現することができる。
<13.第13の実施の形態>
本技術の第13の実施の形態では、グローバルシャッタ方式のCMOS(Complementary Metal Oxide Semiconductor)イメージセンサを用いる例を示す。
図41は、本技術の第13の実施の形態における複眼撮像部110に用いられるグローバルシャッタ方式のCMOSイメージセンサ400の構成例を示す図である。
例えば、同一チップ上に形成されたローリングシャッタ方式のイメージセンサを使用する場合を想定する。この場合には、複数の個眼の撮像信号の蓄積開始から蓄積終了までの時間が異なる。このため、動いている被写体を撮影する場合には、各個眼の出力信号に画像ずれが生じ、最終出力信号を得ることが困難となることが想定される。同様に、複眼撮像装置のぶれ等が生じた場合についても、各個眼の出力信号に画像ずれが生じ、最終出力信号を得ることが困難となることが想定される。
そこで、本技術の第13の実施の形態では、グローバルシャッタ方式のCMOSイメージセンサ400を用いる。これにより、動いている被写体を撮影する場合や、複眼撮像装置のぶれ等が生じたような場合でも、各個眼の出力信号の画像ずれを防止し、適切な最終出力信号を得ることができる。すなわち、動被写体のアーチファクト改善(または、除去)をすることができる。
<14.第14の実施の形態>
本技術の第14の実施の形態では、裏面照射型CMOSイメージセンサを用いる例を示す。
図42は、本技術の第14の実施の形態における複眼撮像部110に用いられる裏面照射型CMOSイメージセンサの構成例を示す図である。また、図42には、比較例として表面照射型CMOSイメージセンサの構成例を示す。すなわち、図42のaには、裏面照射型CMOSイメージセンサを示し、図42のbには、表面照射型CMOSイメージセンサを示す。
図42のaに示す裏面照射型CMOSイメージセンサは、オンチップレンズ411と、カラーフィルタ412と、受光面413と、基板414と、フォトダイオード415とを備える。また、図42のbに示す表面照射型CMOSイメージセンサは、オンチップレンズ421と、カラーフィルタ422と、配線423と、受光面424と、基板425と、フォトダイオード426とを備える。また、図42のaおよびbにおいて、矢印は、入射光を示す。
図42のbに示すように、表面照射型撮像素子を用いた複眼撮像装置は、配線423の層が画素の上部にあるため、画素に入射する光の一部が遮られ、感度が低下するおそれがある。また、焦点面の周辺部の画像は、画素への入射角が大きくなり、中央部と比較すると遮光される光の割合が増加し、画像としてシェーディングが悪化するおそれがある。すなわち、斜めの入射光となる領域では、中央部と比較すると遮光される光の割合が増加し、画像としてシェーディングが悪化するおそれがある。
また、表面照射型撮像素子を用いた複眼撮像装置は、各個眼の出力を同時刻とする(または、時間差を少なくする)ことが困難である。
そこで、図42のaに示す裏面照射型CMOSイメージセンサを用いることにより、感度を高めることができる。また、シェーディングを高めることができる。また、各個眼の出力を同時刻とする(または、時間差を少なくする)ことができる。
<15.第15の実施の形態>
本技術の第15の実施の形態では、積層型イメージセンサを用いる例を示す。また、本技術の第15の実施の形態では、積層型イメージセンサを使用して個眼の並列出力を行う例を示す。
図43は、本技術の第15の実施の形態における複眼撮像部110に用いられる積層型イメージセンサの構成例を示す図である。また、図43のaには、積層型イメージセンサ(裏面照射型CMOSイメージセンサ)の斜視図を示し、図43のbには、積層型イメージセンサ(裏面照射型CMOSイメージセンサ)の側面図を示す。
図43に示す積層型イメージセンサ(裏面照射型CMOSイメージセンサ)は、画素と回路とが積層化されているイメージセンサである。
ここで、単層のイメージセンサ(撮像素子)のチップで構成されている複眼撮像装置を想定する。この複眼撮像装置では、各個眼の出力を同時刻とする(または、時間差を少なくする)ことが困難であることが想定される。
また、各個眼の出力を同時刻にしようとする(または、時間差を少なくしようとする)と、各個眼毎に出力回路が必要となり、撮像領域ではない回路領域が各個眼の間に必要となり、イメージセンサ(撮像素子)のチップサイズが大きくなる。
また、イメージセンサ(撮像素子)のチップに設けられる回路領域は、先端の微細トランジスタを使用することが困難であるため、回路領域の面積が大きくなり、イメージセンサ(撮像素子)のチップサイズがさらに大きくなる。
そこで、図43に示す裏面照射型CMOSイメージセンサを用いることにより、各個眼の出力を同時刻とする(または、時間差を少なくする)ことができる。また、イメージセンサ(撮像素子)のチップサイズを小さくすることができる。
<16.第16の実施の形態>
本技術の第16の実施の形態では、距離センサを個眼に配置する例を示す。
図44は、本技術の第16の実施の形態における距離センサを備えるイメージセンサの一例を示す断面図である。
図44に示すイメージセンサは、レンチキュラーレンズ(lenticular lens(beam splitter))431と、DML(focus enhancer)432と、メタル433と、フォトダイオード434とを備える。また、フォトダイオード434は、右瞳436、438、左瞳435、437により構成される。また、1対の右瞳および左瞳(例えば、右瞳436および左瞳437)によりペアが構成される。
そして、左瞳領域からの光439と右瞳領域からの光440とを、ペアとなる右瞳436および左瞳437が受光して光電変換が行われる。制御部130(図9に示す)は、その結果に基づいて、被写体までの距離を算出する。
これにより、例えば、視差を利用した距離算出を行う場合に、精度の高い距離情報を取得することができる。
<17.第17の実施の形態>
本技術の第17の実施の形態では、偏光角度が異なる個眼を設ける例を示す。
図45は、本技術の第17の実施の形態における偏光子アレイ451を備えるイメージセンサの一例を示す分解斜視図である。なお、各個眼に対応する偏光子内の矢印は、偏光角度の方向を示す。
図45に示すように、個眼452毎に偏光角度が異なる偏光子アレイ451をイメージセンサに備えるようにする。
これにより、被写体の偏光情報と画像情報との両方を同時に取得することができる。
<18.第18の実施の形態>
本技術の第18の実施の形態では、分光感度が異なる個眼を設ける例を示す。
図46は、本技術の第18の実施の形態における複眼撮像部110に分光感度が異なる個眼を備える場合の例を示す。図46のaには、複眼撮像部110の上面図を示し、図46のbには、波長特性を示す。
例えば、図46のaに示す個眼のうち、斜め方向の個眼のライン461乃至477を同一の分光感度とすることができる。また、例えば、斜め方向の個眼のライン461と、斜め方向の個眼のライン470とは、同一の分光感度とすることができる。同様に、斜め方向の個眼のライン462乃至468のそれぞれと、斜め方向の個眼のライン471乃至477のそれぞれとについても、同一の分光感度とすることができる。なお、図46のaでは、同一の分光感度の個眼については、同一の表示態様として示す。
また、図46のbに示す波長特性のうち、波長の短い方から順に、斜め方向の個眼のライン461乃至477に割り当てることができる。
これにより、被写体の多くの分光特性を取得することができ、分光特性と画像情報との両方を取得することができる。すなわち、マルチスペクトル情報と画像情報との両方を取得することができる。
<19.第19の実施の形態>
本技術の第19の実施の形態では、可視光以外の感度を有するセンサからなる個眼を設ける例を示す。
図47は、本技術の第19の実施の形態における複眼撮像部110に可視光以外の感度を有するセンサを備える場合の例を示す。
図47のaには、光の種類を横軸に表す。図47のbには、可視光以外の感度を有するセンサを備える複眼撮像部110の上面図を示す。なお、図47のbでは、同一の感度の個眼については、同一の表示態様として示す。
図48は、本技術の第19の実施の形態における複眼撮像部110を構成する光電変換材料の一例を示す図である。図48では、可視光以外の感度を有するセンサに関する光電変換材料の一例を示す。
図48に示す光電変換材料を用いることにより、可視光以外の感度を有するセンサを備える複眼撮像部110を実現することができる。
これにより、被写体の可視光以外の情報を取得することができ、可視光以外の情報と画像情報との両方を取得することができる。
また、本技術の第16乃至第19の実施の形態を組み合わせることにより、距離情報、偏光情報、マルチスペクトル情報、可視光外情報等の複合情報を同時に取得するようにしてもよい。
<20.第20の実施の形態>
本技術の第20の実施の形態では、WLCMの視差を利用して距離情報を算出する例を示す。
[距離情報の算出例]
図49は、本技術の第20の実施の形態における複眼撮像部110の断面を示す図である。
最初に、複眼撮像部110の最も左端と、最も右端との個眼における同一アドレスの画素出力信号の差分値Diklを、次の式3を用いて求める。
Dikl=Si1kl−SiNkl … 式3
ここで、Sijklは、各個眼の出力信号を示す値である。
また、iは、個眼の行番号を示す値である。また、jは、個眼の列番号を示す値である。また、kは、個眼における画素の行番号を示す値である。また、lは、個眼における画素の列番号を示す値である。
式3において、Si1klは、例えば、複眼撮像装置の最も左端の個眼における被写体Aの結像情報(出力信号)を示す値である。また、SiNklは、複眼撮像装置の最も右端の個眼における被写体Aの結像情報(出力信号)を示す値である。
なお、被写体が視差に比較して充分遠方にあるときには、差分値Diklは0となる。また、被写体の位置が複眼撮像部110の視差が生じる程度に近い場合には、差分値Diklは0以外の値となる。
そこで、次の式4のように、個眼の画素位置をaだけずらした画素の情報の差分をとり、その差分値が最少になるaを求める。
Dikl=Si1k(l−a)−SiNkl(l+a) … 式4
このようにして求められたaを用いることにより、次の式5により、複眼撮像部110(イメージセンサ)から被写体までの距離Doを、三角測量の原理に基づいて求めることができる。
Do=L{(Ws/aWp)+1} … 式5
ここで、Wpは、画素ピッチを示す値である。また、Wsは、個眼ピッチを示す値である。また、Lは、複眼撮像部110における個眼レンズ501乃至503および撮像面504間の距離を示す値である。
ここで、例えば、従来は、イメージセンサ(撮像素子)と、MLA等との組み立て工程が半導体プロセスとは別行程で行われるため、視差を利用して距離情報を算出する際の精度が悪くなる。また、精度を上げようとすると複眼撮像装置全体が大きくなり、特に、厚みを薄くすることが困難である。これに対して、本技術の第20の実施の形態では、視差を利用して距離情報の算出精度を高めることができ、複眼撮像装置全体の厚みを薄くすることができる。
<21.第21の実施の形態>
本技術の第21の実施の形態では、複数の個眼のうちの少なくとも1つを他と異なる材料とする例を示す。
[複眼撮像部の構成例]
図50は、本技術の第21の実施の形態における複眼撮像部110の外観を示す上面図である。
例えば、図50に示す複眼撮像部110のうち、(2,2)の個眼(図50ではグレーで示す)をInGaAsで作製したイメージセンサ(撮像素子)とすることができる。また、他の個眼(8つの個眼)については、シリコンを使用したイメージセンサ(撮像素子)とすることができる。
ここで、従来の複眼撮像装置は、同じ材料からなるイメージセンサ(撮像素子)で構成されている。このため、イメージセンサ(撮像素子)の特性では、取得することができない情報を得ることはできないおそれがある。例えば、可視光と遠赤外の情報を複眼撮像装置で取得することはできない。
そこで、本技術の第21の実施の形態では、複数の個眼のうちの少なくとも1つを他と異なる材料とすることにより、取得することができない情報を低減させることができる。
<22.第22の実施の形態>
本技術の第22の実施の形態では、個片化したイメージセンサ(撮像素子)のチップを並べて疑似1チップ化してマルチレンズアレイ(MLA)等を付加して複眼撮像部を作製する例を示す。
[複眼撮像部の構成例]
図51は、本技術の第22の実施の形態における複眼撮像部110の外観を示す上面図である。
図51に示すように、個片化したイメージセンサ(撮像素子)のチップを並べて疑似1チップ化してマルチレンズアレイ(MLA)等を付加して複眼撮像部110を作製することができる。
<23.第23の実施の形態>
本技術の第23の実施の形態では、タイリングで複眼撮像部を作製する例を示す。なお、タイリングで作製された複眼撮像部の外観構成については、図51と同様であるため、ここでの図示を省略する。
例えば、ガラス、樹脂、シリコン、または、これらを複数種類使用したタイリング技術により複眼撮像装置を生成することができる。
ここで、タイリング技術は、例えば、異種チップ、または、同種複数チップを疑似Wafer化する技術である。
<24.第24の実施の形態>
本技術の第24の実施の形態では、タイリング、薄肉化、再配線、積層接続で複眼撮像部を作製する例を示す。なお、タイリング、薄肉化、再配線、積層接続で作製された複眼撮像部の外観構成については、図51と同様であるため、ここでの図示を省略する。
ここで、従来の複眼撮像装置として、例えば、独立したカメラやカメラモジュールを複数使用したもの、または、1つのイメージセンサ(撮像素子)とMLAを組み合わせて構成したものが存在する。
独立したカメラやカメラモジュールを複数使用した複眼撮像装置は、カメラやカメラモジュール間の特性差により、使用したカメラの台数に見合う複眼撮像装置としての目標特性を得るのが困難である。
また、1つのイメージセンサ(撮像素子)とMLAを組み合わせて構成した複眼撮像装置は、個眼間の遮蔽側壁や遮蔽楯側壁等によるフレアを抑制するための個眼間チップスペースの確保により、撮像素子チップの面積が大きくなる。このため、撮像特性を向上しようとすると、コスト増になる。
そこで、本技術の第22乃至第24の実施の形態に示すように、複眼撮像部110を作製することにより、適切な複眼撮像装置を作製することができる。これにより、複眼撮像装置のコストダウン、複眼撮像装置の薄型化、小型化を行うことができる。
<25.第25の実施の形態>
本技術の第25の実施の形態では、複数の複眼撮像部を並べて撮像する撮像装置の例を示す。
[撮像装置の構成例]
図52は、本技術の第25の実施の形態における複眼撮像装置600の外観を示す上面図である。
複眼撮像装置600は、複数の複眼撮像部601乃至603をタイリングで作製した撮像装置である。また、複眼撮像装置600は、複数の複眼撮像部601乃至603を並べて撮像する撮像装置である。
なお、図52では、3つの複眼撮像部601乃至603を並べて配置する例を示すが、2、または、4以上の複眼撮像部を並べて配置するようにしてもよい。
ここで、複眼撮像装置の感度を高めようとして個眼の数を多くすると複眼撮像装置の面積が大きくなり1つの複眼撮像装置を作製することが困難であるも想定される。そこで、本技術の第25の実施の形態に示すように、複数の複眼撮像部601乃至603をタイリングで作製することにより、適切な複眼撮像装置を作製することができる。
<26.第26の実施の形態>
本技術の第26の実施の形態では、個眼、または、複数の複眼撮像部を並べる面や角度を変えて複眼撮像装置を作製する例を示す。
[撮像装置の構成例]
図53は、本技術の第26の実施の形態における複眼撮像装置610の断面を示す断面図である。
複眼撮像装置610は、複数の複眼撮像部611乃至613を並べる面や角度を変えて作製した複眼撮像装置である。例えば、図53に示すように、複数の複眼撮像部611乃至613を基準面614上の角度を変えて並べて配置することができる。
すなわち、複数の複眼撮像部を並べる基準面を同一平面や同一角度ではなく、複数の複眼撮像部に応じて、それらを並べる面や角度を変えて撮像装置を作製することができる。
なお、図53では、3つの複眼撮像部611乃至613を並べて配置する例を示すが、複数の個眼を並べて配置する場合についても同様とすることができる。また、2、または、4以上の複眼撮像部(または、複眼)を並べて配置するようにしてもよい。
ここで、並べる面は、曲面の意味も含む。また、タイリングで作製する場合についても同様とすることができる。
なお、従来の複眼撮像装置は、個眼を並べる基準面が同一平面、同一角度であるため、個眼の光軸を中心とした領域の画像を用いて複眼撮像装置としての画角を広くとることが困難であることが想定される。そこで、本技術の第26の実施の形態では、複数の複眼撮像部を並べる面や角度を変えて複眼撮像装置を作製する。これにより、複眼撮像装置としての画角を広くとることができる。すなわち、画角の拡大、各情報の取得範囲の拡大を実現することができる。
<27.第27の実施の形態>
本技術の第27の実施の形態では、薄肉化した複眼撮像装置を基準面に貼り付けることにより、 複眼撮像装置を湾曲させる、または、個眼の基準面を変え、個眼の光軸を変える例を示す。
[撮像装置の構成例]
図54は、本技術の第27の実施の形態における複眼撮像装置620を示す断面図である。
複眼撮像装置620は、薄肉化した複数の複眼撮像部621乃至623を基準面624に貼り付けることにより、 複眼撮像装置を湾曲させる、または、個眼の基準面を変え、個眼の光軸を変える複眼撮像装置である。
<28.第28の実施の形態>
本技術の第28の実施の形態では、個眼(または、複数の複眼撮像部)が接続されている場合に、その個眼(または、複数の複眼撮像部)同士の相対位置のずれ、傾き、ねじれの大きさを検出する例を示す。例えば、個眼(または、複数の複眼撮像部)をフレキシブルな材料で接続し、個眼(または、複数の複眼撮像部)間にセンサ(例えば、圧力センサ)を設置する。そして、そのセンサの出力信号に基づいて、個眼(または、複数の複眼撮像部)同士の相対位置のずれ、傾き、ねじれの大きさを判定することができる。
[撮像装置の構成例]
図55は、本技術の第28の実施の形態における複眼撮像装置630を示す上面図である。
複眼撮像装置630は、複数の複眼撮像部631乃至633と、センサ634、635とを備える。なお、センサ634、635は、請求の範囲に記載の検出部の一例である。
センサ634、635は、個眼(または、複数の複眼撮像部)同士の相対位置のずれ、傾き、ねじれの大きさを検出するセンサである。例えば、センサ634、635として、圧力センサ(例えば、有機材料を使用した圧力センサ)を用いることができる。この有機材料を使用した圧力センサは、例えば、圧力によって、センサ部の抵抗が変化し、アクセスされたFET(Field Effect Transistor)の電流が変化するセンサである。
この有機材料を使用した圧力センサを用いる場合には、FETの電流の変化を検出することにより、個眼(または、複数の複眼撮像部)同士の相対位置のずれ、傾き、ねじれの大きさを検出することができる。
また、個眼(または、複数の複眼撮像部)同士の相対位置のずれ、傾き、ねじれの大きさを検出することができた場合には、個眼毎の出力画像の相関性を計算し、画像のStitchingを行うことにより、連続した画角の広い画像を得ることができる。
ここで、従来の複眼撮像装置は、個眼(または、複数の複眼撮像部)の位置が固定されていて、個眼同士の相対位置、傾き、ねじれ具合を変えることが不可能である。これに対し、本技術の第28の実施の形態では、個眼(または、複数の複眼撮像部)間にセンサ(例えば、圧力センサ)を設置する。これにより、個眼(または、複数の複眼撮像部)同士の相対位置のずれ、傾き、ねじれの大きさを検出することができ、これらの値を用いることができる。また、複眼撮像装置の使いやすさを向上させることができる。
<29.第29の実施の形態>
本技術の第29の実施の形態では、撮像素子の受光面を個眼毎に凹部形状とする例を示す。すなわち、個眼の撮像面を平面ではなく湾曲した形状とする例を示す。
[複眼撮像部の構成例]
図56乃至図58は、本技術の第29の実施の形態における複眼撮像部110の断面を示す断面図である。図56には、個眼の湾曲面の面積を最大にした場合の例を簡略化して示す。図57には、各個眼の境界付近を平面形状とした場合の例を簡略化して示す。図58には、各個眼の境界付近を滑らかな曲面とした場合の例を簡略化して示す。
図56には、個眼レンズ641乃至643と、個眼の撮像面644乃至646との関係を示す。図56に示すように、個眼の撮像面のうち、略全ての撮像面を湾曲した形状とすることができる。例えば、隣接する個眼の撮像面の境界(例えば、個眼の撮像面644および645の境界)までの略全ての撮像面を湾曲した形状とすることができる。なお、個眼の撮像面644乃至646における点線の矩形は、画素を示すものとする。ただし、図56では、説明の容易のため、少ない数の画素を簡略化して示す。また、図57および図58についても同様とする。
ここで、湾曲した形状は、例えば、光の入射側の反対側が凹部となる形状である。例えば、最も単純な例として、球面をそれと交わる平面で切りとった部分(すなわち、球冠)を凹部の形状(湾曲した形状)とすることができる。また、凹部の形状として最も効果が得られる例の一つとして、受光面を個眼毎にレンズの像面湾曲特性に合わせた形状とすることができる。例えば、撮像特性を最もよくするものの一つとして、レンズの像面湾曲特性によるレンズの焦点面に基づいて、湾曲した形状を決定することができる。また、例えば、比較的レンズに近い被写体の撮像特性を良くする場合などのために、個眼レンズから結像面までの距離(すなわち、像距離)に基づいて、湾曲した形状を決定することができる。また、例えば、回転放物面を利用した椀形の形状(例えば、パラボラ(放物線、放物線型)形状)とすることができる。
図57には、個眼レンズ647乃至649と、個眼の撮像面650乃至652との関係を示す。図57に示すように、個眼の撮像面のうち、個眼の撮像面の境界付近を平面形状(光軸方向と略直交する平面)とし、他の領域を湾曲した形状とすることができる。例えば、隣接する個眼の撮像面の境界付近(例えば、個眼の撮像面650および651の境界付近)を平面形状とすることができる。
図58には、個眼レンズ653乃至655と、個眼の撮像面656乃至658との関係を示す。図58に示すように、個眼の撮像面のうち、個眼の撮像面の境界付近を滑らかな曲面形状とし、他の領域を湾曲した形状とすることができる。例えば、隣接する個眼の撮像面の境界付近(例えば、個眼の撮像面656および657の境界付近)を曲面形状とすることができる。
ここで、本技術の第1乃至第28に示す複眼撮像装置を構成する個眼の撮像面は平面である。このように、個眼の撮像面が平面である場合には、収差の補正等を行うため、レンズが厚くなったり、レンズの数が増加したりするため、複眼撮像装置の厚さが厚くなる。特に、広角の場合には、レンズの厚さや数がさらに増加し、複眼撮像装置の厚さがさらに厚くなることもある。このため、レンズの厚さや数の増加による複眼撮像装置のコストが増加する。
そこで、本技術の第29の実施の形態では、個眼の撮像面を平面ではなく湾曲した形状とする。これにより、レンズの枚数を削減することができる。また、レンズの厚さを薄くすることができる。また、複眼撮像装置の厚みを薄くすることができる。また、レンズのコストを低減することができる。また、明暗が生じ難いため、シェーディング特性を向上させることができる。
なお、図56乃至図58では、境界付近を異なる3種類の形状とする例を示したが、境界付近を他の形状とするようにしてもよい。
<30.第30の実施の形態>
本技術の第30の実施の形態では、光の入射方向において同一画素で異なる色情報を取得するための複数の層からなる撮像素子の例を示す。すなわち、縦分光の撮像素子を用いる複眼撮像装置の例を示す。
ここで、光がシリコンを透過する場合には、波長に応じてその特性が異なる。例えば、シリコンの受光面側から順に短い波長(例えば、B(Blue))の光が吸収され、深くなるに応じて長い波長(例えば、R(Red))が吸収される。そこで、本技術の第30の実施の形態では、その特性を利用して、フォトダイオード毎に、B(Blue)、G(Green)、R(Red)の順に分光して光信号を取得する例を示す。なお、縦分光は、例えば、光軸方向の分光、撮像素子の奥行方向の分光、撮像素子の厚み方向の分光、光の入射方向の分光等と言い換えることができる。
[複眼撮像部の構成例]
図59乃至図62は、本技術の第30の実施の形態における複眼撮像部110の断面を示す断面図である。
図59には、光の入射側からB、G、Rの順に分光する場合の例を示す。図60には、光の入射側からG、B、Rの順に分光する場合の例を示す。
図61には、光の入射側からB、G、Rの順に分光し、かつ、撮像面を湾曲させた場合の例を示す。図61では、各個眼の境界面を滑らかな曲面にした場合の例(図58に対応する例)を示す。
図62には、光の入射側からG、B、Rの順に分光し、かつ、撮像面を湾曲させた場合の例を示す。図62では、各個眼の境界面を滑らかな曲面にした場合の例(図58に対応する例)を示す。
図59には、個眼レンズ661乃至663と、第1層(B層)664と、第2層(G層)665と、第3層(R層)666との関係を示す。
上述したように、光がシリコンを透過する場合には、波長に応じてその特性が異なる。そこで、その特性を利用して、第1層(B層)664、第2層(G層)665、第3層(R層)666を縦方向に配置して、同一位置(同一画素)の異なる色情報を分離するようにする。すなわち、3層(第1層(B層)664、第2層(G層)665、第3層(R層)666)のセンサを用いるようにする。また、第1層(B層)664、第2層(G層)665、第3層(R層)666は、個眼毎に配置されるものとする。
ここで、最上層の第1層(B層)664は、RGBの全ての光の強さに反応する層であり、波長が短いBを吸収し、RGを透過する。このため、中間層の第2層(G層)665には、波長が短いBの光は到達しない。なお、図59では、内部をグレーとした矩形で第1層(B層)664を表す。
また、中間層の第2層(G層)665は、波長が短いB以外のRGの光の強さに反応する層であり、Gを吸収し、Rを透過する。このため、最下層の第3層(R層)666には、GBの光は到達しない。なお、図59では、内部を白とした矩形で第2層(G層)665を表す。
また、最下層の第3層(R層)666は、第1層(B層)664および第2層(G層)665に吸収されたGB以外のRの光の強さに反応する層である。なお、図59では、内部に斜線を付した矩形で第3層(R層)666を表す。
このように、取得されたRGBの各値を用いて信号処理が行われる。例えば、信号処理部120(図9)は、中間層の第2層(G層)665で取得されたRGの値から、最下層の第3層(R層)666で取得されたRの値にシリコンの光吸収特性とデバイス構造特性とに基づく係数を掛けて算出した値を引くことにより、Gの値を求めることができる。また、例えば、信号処理部120(図9)は、最上層の第1層(B層)664で取得されたRGBの値から、中間層の第2層(G層)665で取得されたRGの値にシリコンの光吸収特性とデバイス構造特性とに基づく係数を掛けて算出した値を引くことにより、Bの値を求めることができる。このように、画素毎に受光した光のエネルギーを略100%光電変換に利用することができるため、画質をさらに向上させることができる。
なお、3層(第1層(B層)664、第2層(G層)665、第3層(R層)666)における点線の矩形は、画素を示すものとする。ただし、図59では、説明の容易のため、少ない数の画素を簡略化して示す。また、図60乃至図62についても同様とする。
図60には、個眼レンズ667乃至669と、第1層(G層)670と、第2層(B層)671と、第3層(R層)672との関係を示す。なお、図60は、図59に示す例において、G層およびB層の位置を入れ替えた点以外は、図59と略同様である。このように色分離の順番を変えることは、例えば、光電変換膜にシリコン以外の材料を用いることなどで可能になる。
図61には、個眼レンズ673乃至675と、第1層(B層)676と、第2層(G層)677と、第3層(R層)678との関係を示す。図61には、3層(第1層(B層)676、第2層(G層)677、第3層(R層)678)の撮像面を個眼毎に湾曲させる例を示す。すなわち、3層の配置を図59に示す例に対応させ、湾曲の形状を図58に示す例に対応させる場合の例を示す。
図62には、個眼レンズ679乃至681と、第1層(G層)682と、第2層(B層)683と、第3層(R層)684との関係を示す。図62には、3層(第1層(G層)682、第2層(B層)683、第3層(R層)684)の撮像面を個眼毎に湾曲させる例を示す。すなわち、3層の配置を図60に示す例に対応させ、湾曲の形状を図58に示す例に対応させる場合の例を示す。
なお、図61および図62では、各個眼の境界面を滑らかな曲面にする例(図58に対応する例)を示すが、他の例(例えば、図56、図57に示す例)を適用するようにしてもよい。
図63および図64は、本技術の第30の実施の形態における複眼撮像部110から出力される画像信号の出力波形を示す図である。図63および図64に示すグラフにおいて、縦軸は、光信号の入力値および画像信号の出力値を示し、横軸は、時間軸を示す。
図63には、入出力波形の例を示す。すなわち、光信号の入力波形と、画像信号の出力波形との関係を示す。具体的には、光の入力に対する画像信号の出力の一部に遅延が発生する場合の例を示す。
図63のaには、信号処理による補正を行わない場合における光信号の入力波形と、画像信号の出力波形との関係を示す。
例えば、図59乃至図62に示すように、光軸方向において、3層を重ねて配置する場合には、光電変換層の特性に差異がある。このように、光電変換層の特性に差異がある場合には、光信号の入力に対する画像信号の応答が遅延することも想定される。例えば、光の入力値をVinとし、この光の入力値Vinに対するG、B、Rの各画像信号の出力値を、それぞれVG、VB、VRとする。この場合に、例えば、図63のaに示すように、光の入力値Vinに対して、画像信号の出力値VB、VRは、同時(または、略同時)に応答するが、画像信号の出力値VGには応答が遅延することがある。この場合における画像信号の出力値VGの遅延時間をD1とする。
このような場合には、適切な信号処理を行うことにより、図63のbに示すように、画像信号の出力値VB、VR、VGの応答時間を揃えることができる。例えば、画像信号の出力値VB、VRを、遅延が生じている画像信号の出力値VGに合わせるように、画像信号の出力値VB、VRのタイミングを変更(遅延時間D1だけ遅延させる)するための信号処理を行う。
図64には、入出力波形の例を示す。すなわち、光信号の入力波形と、画像信号の出力波形との関係を示す。具体的には、光の入力に対する画像信号の出力の一部に遅延が発生し、さらに、高い周波数が減衰する場合の例を示す。
例えば、図64のaに示すように、光の入力値Vinに対して、画像信号の出力値VB、VRは、同時(または、略同時)に応答するが、画像信号の出力値VGには応答が遅延し、さらに、高い周波数が減衰することがある。この場合における画像信号の出力値VGの遅延時間をD2とする。
このような場合にも、適切な信号処理を行うことにより、図64のbに示すように、画像信号の出力値の波形を揃えることができる。例えば、遅延が生じている画像信号の出力値VGの波形を補正し、かつ、画像処理の出力値VB、VRを、遅延が生じている画像処理の出力値VGに基づいて補正するようにする。例えば、画像信号の出力値VB、VRのタイミングを、遅延が生じている画像処理の出力値VGに合うように、遅延時間D3だけ遅延させる。すなわち、画像処理の出力値VG、VB、VRの波形、タイミングを変更するための信号処理を行う。
このように、光電変換層の特性に差異がある場合には、信号処理部120が信号処理による補正を行うことにより、適切な画像を出力することができる。これにより、画質を向上させることができる。
ここで、光電変換層の特性に差異がある場合には、この光電変換層の特性の差異を補正するための情報(補正情報)を予め取得しておき、その補正情報を用いることも想定される。例えば、複眼撮像装置100が、その補正情報を保持しておき、この保持されている補正情報に基づいて、信号処理部120が信号処理による補正を行うことにより、目的に応じた信号を出力することができる。そこで、図65では、その補正情報を保持して用いる例を示す。
図65は、本技術の第30の実施の形態における複眼撮像部110に用いられる積層型イメージセンサの構成例を示す図である。また、図65のaには、積層型イメージセンサ(裏面照射型CMOSイメージセンサ)の斜視図を示し、図65のbには、積層型イメージセンサ(裏面照射型CMOSイメージセンサ)の側面図を示す。
なお、図65に示す積層型イメージセンサ(裏面照射型CMOSイメージセンサ)は、図43に示す積層型イメージセンサ(裏面照射型CMOSイメージセンサ)の回路691に不揮発性メモリ692を設けたものである。また、不揮発性メモリ692を設けた点以外は、図43に示す例と同様である。
このように、補正情報を保持するための不揮発性メモリ692を新たに設けて用いることができる。なお、図65では、不揮発性メモリ692を設ける例を示したが、他の保持部に補正情報を保持させて用いるようにしてもよい。また、外部メモリに補正情報を保持させて用いるようにしてもよい。
このように、補正情報を積層やマルチチップ構成の複眼撮像部に保持させ、この補正情報に基づいて適切な信号処理を行い、目的に応じた信号を出力することができる。
ここで、本技術の第1乃至第29の実施の形態では、水平方向の分光の撮像素子を用いる複眼撮像装置100の例を示した。例えば、水平方向の分光の撮像素子を用いる場合には、入射光を水平方向に分光するための色フィルタが必要である。この色フィルタにより透過されない光が発生し、この透過されない光のエネルギーが光電変換に寄与されず、複眼撮像装置としての感度が低くなるおそれがあるため、その感度を高めることが重要である。
そこで、本技術の第30の実施の形態では、縦分光の撮像素子を用いるようにする。これにより、入射光のエネルギーを無駄なく光電変換に利用することができる。また、複眼撮像装置を高感度にすることができる。また、動いている被写体の色ずれを改善することができる。また、複眼撮像装置の内部で信号処理されるため、個体間のバラツキを極めて少なくすることができる。また、ユーザは、光電変換材料の特性差異による違和感を受けずに複眼撮像装置を使用することができる。
<31.第31の実施の形態>
本技術の第31の実施の形態では、個眼毎の像距離を調整するための像距離調整部を備える複眼撮像装置の例を示す。具体的には、アクチュエータ機能を有する複眼撮像装置の例を示す。なお、像距離は、レンズから結像面までの距離である。
[複眼撮像部の構成例]
図66乃至図70は、本技術の第31の実施の形態における複眼撮像部110の断面を示す断面図である。
図66には、アクチュエータを備える複眼撮像装置の例を示す。図67には、アクチュエータを備え、撮像面が湾曲している場合の例を示す。また、図67では、各個眼の境界面を滑らかな曲面にした場合の例(図58に対応する例)を示す。
図68には、光の入射側からG、B、Rの順に縦分光する場合の例(図60に対応する例)を示す。図69には、光の入射側からG、B、Rの順に縦分光し、かつ、撮像面を湾曲させた場合の例を示す。また、図69では、各個眼の境界面を滑らかな曲面にした場合の例(図62に対応する例)を示す。
図66には、アクチュエータ700と、可動部材701乃至704と、個眼レンズ705乃至707と、各個眼の撮像素子708との関係を示す。
アクチュエータ700は、各個眼の撮像素子708を備える基板に設けられる像距離調整素子である。また、アクチュエータ700は、制御部130(図9に示す)により制御される。また、可動部材701乃至704は、個眼レンズ701乃至703を支持し、アクチュエータ700の移動に応じて、個眼レンズ701乃至703を光軸方向に移動させる可能部材である。
このように、アクチュエータ700は、個眼レンズ701乃至703を移動させて、各個眼の合焦位置を調整する。
ここで、アクチュエータ700として、例えば、緩急を伴う伸縮の繰り返しを行うことにより個眼レンズ705乃至707を移動させることが可能な圧電素子を用いることができる。この圧電素子として、例えば、電圧を加えると変位が生じる素子(ピエゾ素子)を用いることができる。
なお、各個眼の撮像素子708における点線の矩形は、画素を示すものとする。ただし、図66では、説明の容易のため、少ない数の画素を簡略化して示す。また、図67乃至図69についても同様とする。
図67には、アクチュエータ709と、可動部材710乃至713と、個眼レンズ714乃至716と、各個眼の撮像素子717との関係を示す。なお、図67に示す例は、各個眼の境界面を滑らかな曲面にした点以外は、図66に示す例と略同様である。
図68には、アクチュエータ718と、可動部材719乃至722と、個眼レンズ723乃至725と、各個眼の撮像素子726との関係を示す。なお、図68に示す例は、光の入射側からG、B、Rの順に縦分光する撮像素子を用いる点以外は、図66に示す例と略同様である。
図69には、アクチュエータ727と、可動部材728乃至731と、個眼レンズ732乃至734と、各個眼の撮像素子735との関係を示す。なお、図69に示す例は、光の入射側からG、B、Rの順に縦分光する撮像素子を用いる点と、撮像面を湾曲させる点以外は、図66に示す例と略同様である。
ここで、アクチュエータを用いて各個眼の合焦位置を調整するための情報(合焦位置情報)を予め取得しておき、その合焦位置情報を用いることも想定される。例えば、複眼撮像装置100が、その合焦位置情報を保持しておき、この保持されている合焦位置情報に基づいて、制御部130(図9に示す)がアクチュエータを制御することができる。
例えば、図65に示す不揮発性メモリ692に合焦位置情報を保持して用いることができる。
このように、合焦位置情報を保持して用いることにより、個体間の位置精度に冗長性を持たせることができる撮像素子を実現することができる。これにより、複眼撮像装置の性能を向上させることができる。また、この性能向上のためのコストを削減することができる。また、被写体に応じた合焦に至るまでの時間を短縮することもできる。また、複眼撮像装置固有の情報(合焦位置情報)の紛失を防止することができる。
なお、この例では、図65に示す不揮発性メモリ692に合焦位置情報を保持させて用いる例を示したが、他の保持部に合焦位置情報を保持させて用いるようにしてもよい。また、外部メモリに合焦位置情報を保持させて用いるようにしてもよい。
図70には、複数のアクチュエータを備える複眼撮像装置の例を示す。すなわち、アクチュエータを個眼毎に設ける例を示す。具体的には、図70には、アクチュエータ736乃至738と、可動部材739乃至744と、個眼レンズ745乃至747と、各個眼の撮像素子748との関係を示す。
このように、個眼毎にアクチュエータ736乃至738を設けることにより、各個眼の製造時の位置精度のバラツキまで冗長性を持たせることができる。また、個眼毎に焦点位置を合わせる対象を変えることができる。すなわち、合焦位置を個眼毎に調整することが可能となる。
ここで、固定焦点の複眼撮像装置は、近距離から無限遠までを含めた合焦範囲が狭い。特に、焦点距離が長く、F値が小さなレンズを使用する場合には、近距離から無限遠までを含めた合焦範囲がさらに狭くなる。
そこで、本技術の第31の実施の形態では、像距離を調整するためのアクチュエータ機能を備えるようにする。
これにより、近距離から無限遠までを含めた合焦範囲を広くすることができる。特に、焦点距離が長く、F値が小さなレンズを使用する場合でも、近距離から無限遠までを含めた合焦範囲を広くすることができる。
なお、アクチュエータ700、709、718、727、736乃至738は、請求の範囲に記載の像距離調整部の一例である。
<32.第32の実施の形態>
本技術の第32の実施の形態では、個眼毎に合焦状態を変更する複眼撮像装置の例を示す。
[複眼撮像部の構成例]
図71および図72は、本技術の第32の実施の形態における複眼撮像部110の断面を示す断面図である。
図71には、アクチュエータを備え、個眼毎に合焦状態を変える複眼撮像装置の例を示す。具体的には、図71には、アクチュエータ750と、可動部材751乃至754と、個眼レンズ755乃至757と、各個眼の撮像素子758との関係を示す。なお、図71に示す例は、個眼毎に合焦状態を変える点以外は、図66に示す例と略同様である。
すなわち、図71では、個眼毎に合焦状態が異なる個眼レンズ755乃至757を用いるようにする。これにより、個眼レンズ755乃至757を介して各個眼の撮像素子758に入射される光(図71では、点線で示す。)の合焦位置が異なるようになる。
図72には、個眼毎にアクチュエータを備え、個眼毎に合焦状態を変える複眼撮像装置の例を示す。すなわち、複数のアクチュエータを備える例を示す。具体的には、図72には、アクチュエータ759乃至761と、可動部材762乃至767と、個眼レンズ768乃至770と、各個眼の撮像素子771との関係を示す。なお、図72に示す例は、個眼毎に合焦状態を変える点以外は、図70に示す例と略同様である。
ここで、個眼の合焦状態が一様である複眼撮像装置を用いて撮影を行う場合には、近距離から無限遠までの範囲において、ピントが合わない距離に存在する被写体が全てボケた画像として撮像される。
これに対して、本技術の第32の実施の形態では、個眼毎に合焦状態を変えるため、近距離から無限遠までの範囲において、個眼に応じて最もピントが合っている画像が存在する確率が高まる。これにより、完全なピンぼけの状態を回避することができる。
また、複数のアクチュエータを個眼毎に備えることにより、状況に応じて最適な個眼毎のピント合わせを設定することができる。これにより、ピント合わせに対する自由度を高めることができる。
<33.第33の実施の形態>
本技術の第33の実施の形態では、個眼毎に異なる焦点距離を設定する複眼撮像装置の例を示す。
[複眼撮像部の構成例]
図73および図74は、本技術の第33の実施の形態における複眼撮像部110の断面を示す断面図である。
図73には、個眼毎に合焦距離を変える複眼撮像装置の例を示す。具体的には、図73には、個眼レンズ775乃至777と、各個眼の撮像素子778との関係を示す。
すなわち、図73では、個眼毎に合焦距離が異なる個眼レンズ775乃至777を、各合焦位置に応じた高さ(光軸方向の長さ)に設置するようにする。
図74には、個眼毎にアクチュエータを備え、個眼毎に合焦距離を変える複眼撮像装置の例を示す。すなわち、複数のアクチュエータを備える例を示す。具体的には、図74には、アクチュエータ780乃至782と、可動部材783乃至788と、個眼レンズ789乃至791と、各個眼の撮像素子792との関係を示す。なお、図74に示す例は、個眼毎に合焦距離を変える点以外は、図70に示す例と略同様である。
ここで、個眼の合焦距離が一様である複眼撮像装置を用いて撮影を行う場合には、広角から望遠までを含めた画角の広い画像を得ることが困難であることが想定される。
これに対して、本技術の第33の実施の形態では、個眼毎に合焦距離を変えるため、広角から望遠までを含めた画角の広い画像を得ることができる。
また、個眼毎の複数のアクチュエータを備えることにより、状況に応じて最適な個眼毎のピント合わせを設定することができる。これにより、ピント合わせに対する自由度を高めることができる。
これらにより、中央部の解像度が高く、周辺部の解像度は低く、画角が広い等の画像を生成することができる。
<34.第34の実施の形態>
本技術の第34の実施の形態では、個眼光学系の光学特性に関する情報(光学特性情報)を保持して信号処理に用いる複眼撮像装置の例を示す。
各個眼の出力信号S ijklと被写体情報B ijqrとの関係を式6乃至式11に示す。すなわち、式6乃至式11では、複眼撮像装置100が信号処理に用いる光学特性の一例と光学特性を用いる場合の計算例とを示す。
Figure 2016009707
ここで、関数fは、光学特性を表す関数である。なお、関数fは、既知、または、取得可能な情報である。また、関数fの逆関数をgとする。
また、iは、個眼の行番号を示し、jは、個眼の列番号を示す。また、kは、個眼における画素の行番号を示し、lは、個眼における画素の列番号を示す。
また、qは、被写体の垂直方向番号を示し、rは、被写体の水平方向番号を示す。
また、a ijklqrは、光学特性を示す係数である。また、Mは、垂直画素数を示し、Nは、水平画素数を示す。
上述したように、関数f(光学特性を表す関数)は既知(または、取得可能な情報)であるため、関数fの逆関数gを求め、イメージセンサのローデータを処理することにより、被写体情報を精度良く求めることができる。
具体的には、例えば、光学特性を表す係数aを要素とする行列の逆行列を求める。そして、式11に示すように、その逆行列の要素bとイメージセンサのローデータとの演算により、被写体情報を精度良く求めることができる。
これらの光学特性(または、光学特性の逆特性)に関する情報(光学特性情報)を積層やマルチチップ構成の複眼撮像装置に保持する。そして、信号処理部120は、その保持されている光学特性情報に基づいて、イメージセンサから出力されるローデータについて信号処理を施し、目的に応じた信号を出力することができる。これにより、画質を向上させることができる。
例えば、図65に示す不揮発性メモリ692に光学特性情報を保持して用いることができる。また、他の保持部に光学特性情報を保持させて用いるようにしてもよく、外部メモリに光学特性情報を保持させて用いるようにしてもよい。なお、不揮発性メモリ692は、請求の範囲に記載の保持部の一例である。
このように、製造過程におけるバラツキを反映されることにより、個体間の画質のバラツキを少なくすることができる。すなわち、個体間の画質のバラツキを少なくすることができるため、製造工程における管理値をロバストにすることができ、製造コストを下げることができる。また、複眼撮像装置により生成される画像を、高画質で安定させることができる。
また、複眼撮像装置の内部で信号処理されるため、ユーザは、特性差異による違和感を受けずに複眼撮像装置を使用することができる。
<35.第35の実施の形態>
本技術の第35の実施の形態では、時間応答補正前後の両信号を利用する複眼撮像装置の例を示す。
図75は、本技術の第35の実施の形態における複眼撮像部110から出力される画像信号の出力波形を示す図である。図75に示すグラフにおいて、縦軸は、光信号の入力値および画像信号の出力値を示し、横軸は、時間軸を示す。
図75のaには、信号処理部120により時間応答補正が行われる前の入出力波形の例を示す。図75のbには、信号処理部120により時間応答補正が行われた後の入出力波形の例を示す。
例えば、表示部140(図9に示す)への出力(モニタ出力)には、図75のaに示す時間応答補正前のVG、VB、VRを使用し、レイテンシ(遅延)を最小にする。一方、記憶部150(図9に示す)への記録用には、図75のbに示す時間応答補正後のVG、VB、VRを使用して、高画質の信号を記録するようにする。
このように、信号処理部120(図9に示す)は、撮像素子により生成された画像信号のうち、時間応答補正処理が行われる前の画像信号と、時間応答補正が行われた後の画像信号との双方を用いて画像を生成する。具体的には、信号処理部120は、時間応答補正処理が行われる前の画像信号に基づいて表示対象画像を生成し、時間応答補正が行われた後の画像信号に基づいて記録対象画像を生成する。
例えば、光の波長帯に応じて異なる光電変換材料を使用する場合には、光の入力に対する光電変換材料の応答速度に差異が生じる可能性がある。この差異を少なくするための信号処理(時間応答補正処理)を行うと、複眼撮像装置からの出力信号にレイテンシが発生する。このため、そのレイテンシが発生した画像をモニタ表示すると、被写体の動きに対してカメラの追従が遅れ、動いている被写体を撮像することが困難になるおそれがある。
そこで、本技術の第35の実施の形態では、二つの信号(時間応答補正前の信号、時間応答補正後の信号)を利用する。これにより、複眼撮像装置からの出力信号にレイテンシが発生した場合でも、適切な画像をモニタ表示することができる。これにより、被写体の動きに対してカメラの追従を適切に行うことができる。また、動いている被写体を撮像することを容易にすることができる。また、適切な画像をモニタ表示するとともに、記録データについては、高画質な画像情報とすることができる。
<36.第36の実施の形態>
本技術の第36の実施の形態では、光電変換の時間応答特性差異を補正する複眼撮像装置の例を示す。
図76は、本技術の第36の実施の形態における複眼撮像部110から出力される画像信号の出力波形を示す図である。図76に示すグラフにおいて、縦軸は、光信号の入力値および画像信号の出力値を示し、横軸は、時間軸を示す。
図76のaには、信号処理部120による信号処理前の入出力波形の例を示す。図76のbには、信号処理部120による信号処理後の入出力波形の例を示す。
例えば、図76のaに示すように、光信号の入力値Vinに対して、画像信号の出力値VB、VRは、略同時に応答するが、画像信号の出力値VGは応答が遅延し、さらに、高い周波数が減衰することが想定される。このような場合には、図76のbに示すように、適切な信号処理を行い、波形を揃え、画質を向上させることができる。
このように、信号処理部120(図9に示す)は、撮像素子により生成された画像信号について、撮像素子による光電変換の時間応答特性により生じる差異を補正する。
例えば、光の波長帯に応じて異なる光電変換材料を使用する場合には、光の入力に対する光電変換材料の応答速度に差異が生じる可能性がある。この応答速度の差異により、複眼撮像装置から出力される画像信号の画質が悪化するおそれがある。
そこで、本技術の第36の実施の形態では、光電変換の時間応答特性差異を補正する。例えば、光の波長帯に応じて異なる光電変換材料を使用する場合等において、光の入力に対する光電変換材料の応答速度に差異が生じることも想定される。このような場合でも、信号処理による補正を行うことにより、複眼撮像装置から出力される画像信号の画質を向上させることができる。
このように、本技術の実施の形態によれば、複眼撮像装置の解像度を向上させることができる。また、複眼撮像装置の光学系を薄型化することができる。また、複眼撮像装置の光学系をコストダウンすることができる。また、複眼撮像装置を薄型化することができる。
なお、上述の実施の形態は本技術を具現化するための一例を示したものであり、実施の形態における事項と、請求の範囲における発明特定事項とはそれぞれ対応関係を有する。同様に、請求の範囲における発明特定事項と、これと同一名称を付した本技術の実施の形態における事項とはそれぞれ対応関係を有する。ただし、本技術は実施の形態に限定されるものではなく、その要旨を逸脱しない範囲において実施の形態に種々の変形を施すことにより具現化することができる。
なお、本明細書に記載された効果はあくまで例示であって、限定されるものではなく、また、他の効果があってもよい。
なお、本技術は以下のような構成もとることができる。
(1)
被写体に対向して2次元状に配置される複数の個眼光学系と、
前記個眼光学系により集光される光を受光して画像信号を生成する複数の画素を個眼単位で備える撮像素子と、
前記撮像素子により生成された画像信号に基づいて前記被写体に対応する画像を生成する信号処理部と
を具備する複眼撮像装置。
(2)
前記個眼光学系の光軸の位置をずらすことにより空間画素ずらしを行う前記(1)に記載の複眼撮像装置。
(3)
前記信号処理部は、前記個眼光学系の倍率色収差による焦点面上の周辺部における色に応じて生じる像のずれを補正する前記(1)または(2)に記載の複眼撮像装置。
(4)
前記複数の個眼光学系のうちの少なくとも1つの光学特性を他の個眼光学系と異なるようにする前記(1)から(3)のいずれかに記載の複眼撮像装置。
(5)
前記撮像素子の周辺部における個眼光学系のF値を他の個眼光学系のF値よりも小さくする前記(1)から(4)のいずれかに記載の複眼撮像装置。
(6)
前記複眼撮像装置は、WLCM(Wafer Level Camera Module)および積層型複眼撮像装置により構成され、
前記個眼の数を閾値を基準として多くする
前記(1)から(5)のいずれかに記載の複眼撮像装置。
(7)
前記複数の個眼のうちで使用されない個眼の駆動の停止と、当該個眼に設置されるADC(Analog to Digital Converter)のオフとのうちの少なくとも1つを行う制御部をさらに具備する前記(1)から(6)のいずれかに記載の複眼撮像装置。
(8)
前記複数の個眼のうちの少なくとも1つに距離センサを備える前記(1)から(7)のいずれかに記載の複眼撮像装置。
(9)
前記複数の個眼のうちの少なくとも1つを、偏光角度が他の個眼と異なる個眼とする前記(1)から(8)のいずれかに記載の複眼撮像装置。
(10)
前記複数の個眼のうちの少なくとも1つを、分光感度が他の個眼と異なる個眼とする前記(1)から(9)のいずれかに記載の複眼撮像装置。
(11)
前記複数の個眼のうちの少なくとも1つを他の個眼と異なる材料とする前記(1)から(10)のいずれかに記載の複眼撮像装置。
(12)
前記撮像素子は、個片化されたチップを並べて疑似1チップ化され、MLA(Multi Lens Array)を付加して作製される前記(1)から(11)のいずれかに記載の複眼撮像装置。
(13)
前記撮像素子は、タイリングで作製される前記(1)から(11)のいずれかに記載の複眼撮像装置。
(14)
前記撮像素子は、光の入射方向において同一画素で異なる色情報を取得するための複数の層からなる前記(1)から(13)のいずれかに記載の複眼撮像装置。
(15)
前記個眼毎の像距離を調整するための像距離調整部をさらに具備する前記(1)から(14)のいずれかに記載の複眼撮像装置。
(16)
前記個眼毎に合焦状態を変更する前記(1)から(15)のいずれかに記載の複眼撮像装置。
(17)
前記個眼毎に異なる焦点距離を設定する前記(1)から(16)のいずれかに記載の複眼撮像装置。
(18)
前記個眼光学系の光学特性に関する光学特性情報を保持する保持部をさらに具備し、
前記信号処理部は、前記保持されている光学特性情報を用いて信号処理を行うことにより前記被写体に対応する画像を生成する
前記(1)から(17)のいずれかに記載の複眼撮像装置。
(19)
前記信号処理部は、前記撮像素子により生成された画像信号のうち、時間応答補正処理が行われる前の画像信号と、前記時間応答補正が行われた後の画像信号との双方を用いて画像を生成する前記(1)から(18)のいずれかに記載の複眼撮像装置。
(20)
前記信号処理部は、前記撮像素子により生成された画像信号について前記撮像素子による光電変換の時間応答特性により生じる差異を補正する前記(1)から(19)のいずれかに記載の複眼撮像装置。
(21)
被写体に対向して2次元状に配置される複数の個眼光学系と、
前記個眼光学系により集光される光を受光して画像信号を生成する複数の画素を個眼単位で備える撮像素子と、
前記個眼毎に設置される色フィルタと、
前記撮像素子により生成された画像信号に基づいて前記被写体に対応する画像を生成する信号処理部とを具備し、
前記色フィルタ毎に画素の実効開口を変更する
複眼撮像装置。
(22)
被写体に対向して2次元状に配置される複数の個眼光学系と、前記個眼光学系により集光される光を受光して画像信号を生成する複数の画素を個眼単位で備える撮像素子と、前記撮像素子により生成された画像信号に基づいて前記被写体に対応する画像を生成する信号処理部とを備える複数の複眼撮像部が並べて配置される複眼撮像装置。
(23)
前記複数の複眼撮像部は、タイリングで作製される前記(22)に記載の複眼撮像装置。
(24)
前記複数の複眼撮像部を並べて設置する設置面の角度を前記複眼撮像部毎に変更する前記(22)または(23)に記載の複眼撮像装置。
(25)
前記複数の複眼撮像部が湾曲するように並べて設置する前記(22)から(24)のいずれかに記載の複眼撮像装置。
(26)
前記複数の複眼撮像部を並べて設置し、
前記複数の複眼撮像部のうちの隣接する複眼撮像部間の相対位置のずれと傾きとねじれとのうちの少なくとも1つを検出する検出部をさらに具備する
前記(22)から(25)のいずれかに記載の複眼撮像装置。
(27)
前記個眼毎に瞳補正が行われる前記(1)から(26)のいずれかに記載の複眼撮像装置。
(28)
前記個眼光学系の色収差による焦点距離の差異に応じて前記個眼の光学設計が行われる前記(1)から(27)のいずれかに記載の複眼撮像装置。
(29)
前記個眼は、複数のサブ個眼で構成される前記(1)から(28)のいずれかに記載の複眼撮像装置。
(30)
前記複数の個眼光学系のうちの少なくとも1つの構造を他の個眼光学系と異なるようにする前記(1)から(29)のいずれかに記載の複眼撮像装置。
(31)
前記個眼光学系は、主光線の入射角を略0度とする第1個眼光学系と、主光線の入射角を0度以外、かつ、前記第1個眼光学系の入射角とは異なる角度とする第2個眼光学系とを含む前記(1)から(30)のいずれかに記載の複眼撮像装置。
(32)
前記第2個眼光学系は、前記撮像素子の周辺部の領域に配置される個眼光学系である前記(31)に記載の複眼撮像装置。
(33)
前記複眼撮像装置は、WLCMにより構成され、
前記WLCMにおいて感度の異なる前記複数の個眼が配置される
前記(1)から(32)のいずれかに記載の複眼撮像装置。
(34)
撮像モードに応じて前記撮像素子からの読み出し方法を変更する制御を行う制御部をさらに具備する前記(1)から(33)のいずれかに記載の複眼撮像装置。
(35)
前記撮像素子は、グローバルシャッタ方式のCMOS(Complementary Metal Oxide Semiconductor)イメージセンサである前記(1)から(34)のいずれかに記載の複眼撮像装置。
(36)
前記撮像素子は、裏面照射型CMOSイメージセンサである前記(1)から(34)のいずれかに記載の複眼撮像装置。
(37)
前記撮像素子は、積層型イメージセンサである前記(1)から(34)のいずれかに記載の複眼撮像装置。
(38)
前記積層型イメージセンサは、前記複数の個眼の並列出力を行う前記(37)に記載の複眼撮像装置。
(39)
前記複数の個眼のうちの少なくとも1つを、可視光以外の感度を有するセンサを備える個眼とする前記(1)から(38)のいずれかに記載の複眼撮像装置。
(40)
前記複眼撮像装置は、WLCMにより構成され、
前記WLCMの視差を利用して距離情報を算出する
前記(1)から(39)のいずれかに記載の複眼撮像装置。
(41)
前記撮像素子は、タイリング、薄肉化、再配線、積層接続で作製される前記(1)から(40)のいずれかに記載の複眼撮像装置。
(42)
前記撮像素子の受光面を前記個眼毎に凹部形状とする前記(1)から(41)のいずれかに記載の複眼撮像装置。
(43)
前記信号処理部は、前記時間応答補正処理が行われる前の画像信号に基づいて表示対象画像を生成し、前記時間応答補正が行われた後の画像信号に基づいて記録対象画像を生成する前記(19)に記載の複眼撮像装置。
100 複眼撮像装置
110 複眼撮像部
120 信号処理部
130 制御部
140 表示部
150 記憶部
160 操作受付部
170 無線通信部

Claims (20)

  1. 被写体に対向して2次元状に配置される複数の個眼光学系と、
    前記個眼光学系により集光される光を受光して画像信号を生成する複数の画素を個眼単位で備える撮像素子と、
    前記撮像素子により生成された画像信号に基づいて前記被写体に対応する画像を生成する信号処理部と
    を具備する複眼撮像装置。
  2. 前記個眼光学系の光軸の位置をずらすことにより空間画素ずらしを行う請求項1記載の複眼撮像装置。
  3. 前記信号処理部は、前記個眼光学系の倍率色収差による焦点面上の周辺部における色に応じて生じる像のずれを補正する請求項1記載の複眼撮像装置。
  4. 前記複数の個眼光学系のうちの少なくとも1つの光学特性を他の個眼光学系と異なるようにする請求項1記載の複眼撮像装置。
  5. 前記撮像素子の周辺部における個眼光学系のF値を他の個眼光学系のF値よりも小さくする請求項1記載の複眼撮像装置。
  6. 前記複眼撮像装置は、WLCM(Wafer Level Camera Module)および積層型複眼撮像装置により構成され、
    前記個眼の数を閾値を基準として多くする
    請求項1記載の複眼撮像装置。
  7. 前記複数の個眼のうちで使用されない個眼の駆動の停止と、当該個眼に設置されるADC(Analog to Digital Converter)のオフとのうちの少なくとも1つを行う制御部をさらに具備する請求項1記載の複眼撮像装置。
  8. 前記複数の個眼のうちの少なくとも1つに距離センサを備える請求項1記載の複眼撮像装置。
  9. 前記複数の個眼のうちの少なくとも1つを、偏光角度が他の個眼と異なる個眼とする請求項1記載の複眼撮像装置。
  10. 前記複数の個眼のうちの少なくとも1つを、分光感度が他の個眼と異なる個眼とする請求項1記載の複眼撮像装置。
  11. 前記複数の個眼のうちの少なくとも1つを他の個眼と異なる材料とする請求項1記載の複眼撮像装置。
  12. 前記撮像素子は、個片化されたチップを並べて疑似1チップ化され、MLA(Multi Lens Array)を付加して作製される請求項1記載の複眼撮像装置。
  13. 前記撮像素子は、タイリングで作製される請求項1記載の複眼撮像装置。
  14. 前記撮像素子は、光の入射方向において同一画素で異なる色情報を取得するための複数の層からなる請求項1記載の複眼撮像装置。
  15. 前記個眼毎の像距離を調整するための像距離調整部をさらに具備する請求項1記載の複眼撮像装置。
  16. 前記個眼毎に合焦状態を変更する請求項1記載の複眼撮像装置。
  17. 前記個眼毎に異なる焦点距離を設定する請求項1記載の複眼撮像装置。
  18. 前記個眼光学系の光学特性に関する光学特性情報を保持する保持部をさらに具備し、
    前記信号処理部は、前記保持されている光学特性情報を用いて信号処理を行うことにより前記被写体に対応する画像を生成する
    請求項1記載の複眼撮像装置。
  19. 前記信号処理部は、前記撮像素子により生成された画像信号のうち、時間応答補正処理が行われる前の画像信号と、前記時間応答補正が行われた後の画像信号との双方を用いて画像を生成する請求項1記載の複眼撮像装置。
  20. 前記信号処理部は、前記撮像素子により生成された画像信号について前記撮像素子による光電変換の時間応答特性により生じる差異を補正する請求項1記載の複眼撮像装置。
JP2016534307A 2014-07-16 2015-05-08 複眼撮像装置 Expired - Fee Related JP6555264B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
JP2014145570 2014-07-16
JP2014145570 2014-07-16
JP2014189701 2014-09-18
JP2014189701 2014-09-18
PCT/JP2015/063310 WO2016009707A1 (ja) 2014-07-16 2015-05-08 複眼撮像装置

Publications (2)

Publication Number Publication Date
JPWO2016009707A1 true JPWO2016009707A1 (ja) 2017-04-27
JP6555264B2 JP6555264B2 (ja) 2019-08-07

Family

ID=55078211

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016534307A Expired - Fee Related JP6555264B2 (ja) 2014-07-16 2015-05-08 複眼撮像装置

Country Status (7)

Country Link
US (1) US10911738B2 (ja)
EP (1) EP3171587A4 (ja)
JP (1) JP6555264B2 (ja)
KR (1) KR20170032227A (ja)
CN (1) CN106537890A (ja)
TW (1) TWI676392B (ja)
WO (1) WO2016009707A1 (ja)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6019997B2 (ja) 2012-09-26 2016-11-02 ソニー株式会社 表示装置および電子機器
WO2017138372A1 (ja) * 2016-02-10 2017-08-17 ソニー株式会社 固体撮像装置および電子機器
US10600213B2 (en) * 2016-02-27 2020-03-24 Focal Sharp, Inc. Method and apparatus for color-preserving spectrum reshape
JP6825231B2 (ja) * 2016-05-20 2021-02-03 株式会社リコー 撮像光学系及び撮像装置
JP2018019020A (ja) * 2016-07-29 2018-02-01 ソニーセミコンダクタソリューションズ株式会社 撮像装置
CN107105141B (zh) * 2017-04-28 2019-06-28 Oppo广东移动通信有限公司 图像传感器、图像处理方法、成像装置和移动终端
CN108449532B (zh) * 2018-03-30 2021-11-16 联想(北京)有限公司 一种电子设备以及控制方法
KR102593949B1 (ko) * 2018-07-25 2023-10-27 삼성전자주식회사 이미지 센서
US11187914B2 (en) 2018-09-28 2021-11-30 Apple Inc. Mirror-based scene cameras
US11448886B2 (en) * 2018-09-28 2022-09-20 Apple Inc. Camera system
JP7182437B2 (ja) * 2018-11-28 2022-12-02 株式会社アサヒ電子研究所 複眼撮像装置
CN112866512B (zh) * 2019-11-26 2022-03-22 中国科学院上海微系统与信息技术研究所 复眼摄像装置及复眼系统
US20240178250A1 (en) * 2021-03-31 2024-05-30 Sony Semiconductor Solutions Corporation Imaging element and electronic apparatus
CN113188776B (zh) * 2021-04-27 2022-11-11 哈尔滨工业大学 一种复眼成像重合度检测系统及检测方法
CN113612929B (zh) * 2021-10-11 2021-12-21 北京创米智汇物联科技有限公司 复眼摄像装置及其控制方法、电子设备以及存储介质

Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000278605A (ja) * 1999-03-29 2000-10-06 Canon Inc 撮像装置および画像処理システム
JP2001523929A (ja) * 1997-11-14 2001-11-27 タンゲン、レイダル、イー. 光電子カメラおよびそれで画像をフォーマッティングする方法
JP2003283907A (ja) * 2002-03-20 2003-10-03 Japan Science & Technology Corp 撮像装置
JP2007074079A (ja) * 2005-09-05 2007-03-22 Ricoh Co Ltd 画像入力装置
JP2007129751A (ja) * 2006-12-18 2007-05-24 Fujifilm Corp 撮像装置、撮像方法、及びプログラム
JP2008017116A (ja) * 2006-07-05 2008-01-24 Nikon Corp 撮像素子および撮像装置
JP2009162847A (ja) * 2007-12-28 2009-07-23 Nikon Corp 撮像装置
JP2010008873A (ja) * 2008-06-30 2010-01-14 Nikon Corp 焦点検出装置および撮像装置
JP2012018993A (ja) * 2010-07-06 2012-01-26 Toshiba Corp カメラモジュールおよびその製造方法
WO2013042281A1 (ja) * 2011-09-20 2013-03-28 パナソニック株式会社 固体撮像装置
JP2013062587A (ja) * 2011-09-12 2013-04-04 Canon Inc 画像処理方法、画像処理装置、撮像装置および画像処理プログラム
JP2013157780A (ja) * 2012-01-30 2013-08-15 Olympus Corp 撮像装置
JP2014041202A (ja) * 2012-08-21 2014-03-06 Nikon Corp 焦点検出装置および撮像装置
JP2014099896A (ja) * 2014-01-10 2014-05-29 Casio Comput Co Ltd 画像処理装置、画像処理方法及びプログラム

Family Cites Families (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3821614B2 (ja) 1999-08-20 2006-09-13 独立行政法人科学技術振興機構 画像入力装置
US7262799B2 (en) * 2000-10-25 2007-08-28 Canon Kabushiki Kaisha Image sensing apparatus and its control method, control program, and storage medium
JP2002209226A (ja) * 2000-12-28 2002-07-26 Canon Inc 撮像装置
US7286168B2 (en) * 2001-10-12 2007-10-23 Canon Kabushiki Kaisha Image processing apparatus and method for adding blur to an image
JP2004032172A (ja) * 2002-06-24 2004-01-29 Canon Inc 複眼撮像装置およびこれを備えた機器
US20050133879A1 (en) * 2003-04-07 2005-06-23 Takumi Yamaguti Solid-state imaging device, signal processing device, camera, and spectral device
US7502058B2 (en) * 2003-06-09 2009-03-10 Micron Technology, Inc. Imager with tuned color filter
JP4071793B2 (ja) * 2003-10-22 2008-04-02 松下電器産業株式会社 撮像装置とその製造方法、及び携帯機器
WO2006026354A2 (en) * 2004-08-25 2006-03-09 Newport Imaging Corporation Apparatus for multiple camera devices and method of operating same
US7564019B2 (en) * 2005-08-25 2009-07-21 Richard Ian Olsen Large dynamic range cameras
JP5022573B2 (ja) * 2005-06-02 2012-09-12 富士フイルム株式会社 光電変換素子、及び撮像素子、並びに、これらに電場を印加する方法
US20070102622A1 (en) * 2005-07-01 2007-05-10 Olsen Richard I Apparatus for multiple camera devices and method of operating same
CN101533202B (zh) * 2005-07-26 2011-04-13 松下电器产业株式会社 复眼方式的摄像装置
US7999873B2 (en) * 2005-11-22 2011-08-16 Panasonic Corporation Imaging device with plural lenses and imaging regions
JP5105482B2 (ja) 2008-09-01 2012-12-26 船井電機株式会社 光学的条件設計方法及び複眼撮像装置
JP2010096723A (ja) * 2008-10-20 2010-04-30 Funai Electric Co Ltd 物体の距離導出装置
KR20100057302A (ko) * 2008-11-21 2010-05-31 삼성전자주식회사 이미지 센서 및 이의 제조 방법
US8300108B2 (en) * 2009-02-02 2012-10-30 L-3 Communications Cincinnati Electronics Corporation Multi-channel imaging devices comprising unit cells
DE102009049387B4 (de) * 2009-10-14 2016-05-25 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung, Bildverarbeitungsvorrichtung und Verfahren zur optischen Abbildung
EP2502115A4 (en) * 2009-11-20 2013-11-06 Pelican Imaging Corp RECORDING AND PROCESSING IMAGES THROUGH A MONOLITHIC CAMERA ARRAY WITH HETEROGENIC IMAGE CONVERTER
KR101824672B1 (ko) * 2010-05-12 2018-02-05 포토네이션 케이맨 리미티드 이미저 어레이 구조 및 어레이 카메라
JP2012070046A (ja) * 2010-09-21 2012-04-05 Sony Corp 収差補正装置、収差補正方法、および、プログラム
US20140192238A1 (en) * 2010-10-24 2014-07-10 Linx Computational Imaging Ltd. System and Method for Imaging and Image Processing
US8478123B2 (en) * 2011-01-25 2013-07-02 Aptina Imaging Corporation Imaging devices having arrays of image sensors and lenses with multiple aperture sizes
US20120274811A1 (en) * 2011-04-28 2012-11-01 Dmitry Bakin Imaging devices having arrays of image sensors and precision offset lenses
US20130321675A1 (en) * 2012-05-31 2013-12-05 Apple Inc. Raw scaler with chromatic aberration correction
US8988538B2 (en) * 2012-07-02 2015-03-24 Canon Kabushiki Kaisha Image pickup apparatus and lens apparatus
CN104520745B (zh) * 2012-08-06 2016-09-28 富士胶片株式会社 摄像装置
CN105579902B (zh) * 2013-09-23 2019-06-28 Lg伊诺特有限公司 一种制造相机模块的方法

Patent Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001523929A (ja) * 1997-11-14 2001-11-27 タンゲン、レイダル、イー. 光電子カメラおよびそれで画像をフォーマッティングする方法
JP2000278605A (ja) * 1999-03-29 2000-10-06 Canon Inc 撮像装置および画像処理システム
JP2003283907A (ja) * 2002-03-20 2003-10-03 Japan Science & Technology Corp 撮像装置
JP2007074079A (ja) * 2005-09-05 2007-03-22 Ricoh Co Ltd 画像入力装置
JP2008017116A (ja) * 2006-07-05 2008-01-24 Nikon Corp 撮像素子および撮像装置
JP2007129751A (ja) * 2006-12-18 2007-05-24 Fujifilm Corp 撮像装置、撮像方法、及びプログラム
JP2009162847A (ja) * 2007-12-28 2009-07-23 Nikon Corp 撮像装置
JP2010008873A (ja) * 2008-06-30 2010-01-14 Nikon Corp 焦点検出装置および撮像装置
JP2012018993A (ja) * 2010-07-06 2012-01-26 Toshiba Corp カメラモジュールおよびその製造方法
JP2013062587A (ja) * 2011-09-12 2013-04-04 Canon Inc 画像処理方法、画像処理装置、撮像装置および画像処理プログラム
WO2013042281A1 (ja) * 2011-09-20 2013-03-28 パナソニック株式会社 固体撮像装置
JP2013157780A (ja) * 2012-01-30 2013-08-15 Olympus Corp 撮像装置
JP2014041202A (ja) * 2012-08-21 2014-03-06 Nikon Corp 焦点検出装置および撮像装置
JP2014099896A (ja) * 2014-01-10 2014-05-29 Casio Comput Co Ltd 画像処理装置、画像処理方法及びプログラム

Also Published As

Publication number Publication date
EP3171587A4 (en) 2018-03-14
TW201605236A (zh) 2016-02-01
CN106537890A (zh) 2017-03-22
JP6555264B2 (ja) 2019-08-07
KR20170032227A (ko) 2017-03-22
US10911738B2 (en) 2021-02-02
US20170214863A1 (en) 2017-07-27
WO2016009707A1 (ja) 2016-01-21
TWI676392B (zh) 2019-11-01
EP3171587A1 (en) 2017-05-24

Similar Documents

Publication Publication Date Title
JP6555264B2 (ja) 複眼撮像装置
US11856291B2 (en) Thin multi-aperture imaging system with auto-focus and methods for using same
CN105898118B (zh) 图像传感器和包括图像传感器的成像设备
US9681057B2 (en) Exposure timing manipulation in a multi-lens camera
JP5538553B2 (ja) 固体撮像素子及び撮像装置
US9609208B2 (en) Image generation method, image generation apparatus, program, and storage medium
JP6120508B2 (ja) 撮像素子および撮像装置
JP5746496B2 (ja) 撮像装置
WO2013046973A1 (ja) 固体撮像素子、撮像装置、及び合焦制御方法
WO2014164909A1 (en) Array camera architecture implementing quantum film sensors
WO2013094121A1 (ja) 撮像装置および電子情報機器
US20140192237A1 (en) Image processing apparatus, image processing method and program, and image pickup apparatus including image processing apparatus
KR20200113484A (ko) 이미지 센서 및 그 동작 방법
JP5554139B2 (ja) 複合型撮像素子およびそれを備えた撮像装置
JP2016139988A (ja) 固体撮像装置
US9386203B2 (en) Compact spacer in multi-lens array module
JP2017098513A (ja) 撮像素子、撮像装置および焦点調節装置
US11889186B2 (en) Focus detection device, focus detection method, and image capture apparatus
JP2011227388A (ja) 撮像装置
JP2019219577A (ja) 検出装置および検出方法
WO2020066341A1 (ja) 合焦度検出装置、深度マップ生成装置、及び、電子機器
JP2018046563A (ja) 撮像素子
JP2012128101A (ja) 撮像装置
JP2016046773A (ja) 撮像装置
JP2012042863A (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180410

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190423

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190530

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190611

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190624

R151 Written notification of patent or utility model registration

Ref document number: 6555264

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees