WO2012176355A1 - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
WO2012176355A1
WO2012176355A1 PCT/JP2012/000621 JP2012000621W WO2012176355A1 WO 2012176355 A1 WO2012176355 A1 WO 2012176355A1 JP 2012000621 W JP2012000621 W JP 2012000621W WO 2012176355 A1 WO2012176355 A1 WO 2012176355A1
Authority
WO
WIPO (PCT)
Prior art keywords
color
region
optical
light
image
Prior art date
Application number
PCT/JP2012/000621
Other languages
English (en)
French (fr)
Inventor
今村 典広
Original Assignee
パナソニック株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by パナソニック株式会社 filed Critical パナソニック株式会社
Priority to EP12788104.3A priority Critical patent/EP2725802A4/en
Priority to US13/700,184 priority patent/US8836825B2/en
Priority to CN201280001541.5A priority patent/CN102959960B/zh
Priority to JP2012551397A priority patent/JP5406383B2/ja
Publication of WO2012176355A1 publication Critical patent/WO2012176355A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0075Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for altering, e.g. increasing, the depth of field or depth of focus
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/18Diffraction gratings
    • G02B5/1876Diffractive Fresnel lenses; Zone plates; Kinoforms
    • G02B5/188Plurality of such optical elements formed in or on a supporting substrate
    • G02B5/1885Arranged as a periodic array
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/20Filters
    • G02B5/201Filters in the form of arrays
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2209/00Details of colour television systems
    • H04N2209/04Picture signal generators
    • H04N2209/041Picture signal generators using solid-state devices
    • H04N2209/042Picture signal generators using solid-state devices having a single pick-up sensor
    • H04N2209/045Picture signal generators using solid-state devices having a single pick-up sensor using mosaic colour filter

Definitions

  • the present invention relates to an imaging apparatus such as a camera.
  • the refractive index of light with respect to the material constituting the lens varies depending on the wavelength. Therefore, when light of various wavelengths is incident on the optical system of the imaging apparatus, axial chromatic aberration occurs, and images with different sharpness (sharpness of the image) are obtained depending on colors. When a color with low sharpness is included in the image, the color causes deterioration in image quality.
  • an imaging apparatus such as a camera
  • the imaging apparatus requires a means for detecting the focus state and a means for adjusting the focus.
  • Patent Document 1 A technique for realizing depth extension and correction of longitudinal chromatic aberration has been proposed (Patent Document 1).
  • Patent Document 1 A technique for realizing depth extension and correction of longitudinal chromatic aberration has been proposed (Patent Document 1).
  • the sharpness of the second color component can be increased by reflecting the sharpness of the first color component in the second color component.
  • the depth of field can be increased, and subjects at various distances can be imaged relatively clearly without adjusting the focus.
  • Patent Document 1 In the configuration of Patent Document 1, in order to reflect the sharpness of the first color component in the second color component, information on the sharpness of both the first color component and the second color component is necessary. . For this reason, the depth of focus is limited to a range in which information on the sharpness of all colors exists. As described above, in the configuration of Patent Document 1, there is a limit to the range in which the depth of focus can be expanded, and it has been difficult to sufficiently increase the depth of field.
  • the present invention has been made to solve the above-described problems, and a main object of the present invention is to provide an imaging apparatus that can obtain an image with high depth of focus and a large depth of field and high sharpness. is there. Another object of the present invention is to provide an imaging apparatus capable of photographing a single color (for example, blue) subject having a black background with high sharpness.
  • the first color, the second color, and the third color light pass, and the first color, the second color, and the third color light pass, and the first color, the second color, and the third color light pass.
  • a lens optical system including: an imaging element having a plurality of first pixels and a plurality of second pixels into which light from the lens optical system is incident; and between the lens optical system and the imaging element An arrayed optical element that is arranged and causes light that has passed through the first region to enter the plurality of first pixels, and light that has passed through the second region to enter the plurality of second pixels; An arithmetic processing unit that generates an output image, and the arithmetic processing unit includes a plurality of first pixels.
  • Pixels obtained from the plurality of second pixels by generating a first image of at least one of the first, second, and third colors using the obtained pixel values
  • a second image including a component having the same color as the at least one color component is generated using the value, and each of the predetermined region of the first image and the predetermined region of the second image is sharp for each color.
  • the output image is generated using an image component having a higher degree or contrast value.
  • the first region through which the light of the first color, the second color, and the third color passes, and the light of the first color, the second color, and the third color pass through the first system.
  • a lens optical system including: an imaging element having a plurality of first pixels and a plurality of second pixels into which light from the lens optical system is incident; and between the lens optical system and the imaging element An arrayed optical element that is arranged and causes light that has passed through the first region to enter the plurality of first pixels, and light that has passed through the second region to enter the plurality of second pixels;
  • An imaging device comprising: a pixel value obtained in the plurality of first pixels; Generating a first image of at least one color component of a color, a second color, and a third color, and using the
  • the sharpness of the output image is increased by a simple method. be able to.
  • the depth of focus can be increased as compared with the prior art, a sufficiently large depth of field can be obtained.
  • the sharpness of the subject color is greater than a predetermined value in any of the two or more imaging regions. It has become. Therefore, an image with high sharpness can be generated.
  • FIG. 6B is a diagram showing a positional relationship between the arrayed optical element K and the pixels of the image sensor N.
  • (A) shows the 1st color image obtained by the some pixel P1
  • (b) shows the 2nd color image obtained by the some pixel P2.
  • (A), (b) is a figure which shows the 1st, 2nd color image. Sectional drawing which shows the imaging device A in Embodiment 1 of this invention.
  • (A) is a graph which shows the through focus MTF characteristic of the light ray which passed 1st optical area
  • (B) is a graph showing the through focus MTF characteristic of the light beam that has passed through the second optical region D2.
  • FIG. 6B is a diagram showing a positional relationship between the arrayed optical element K and the pixels of the image sensor N.
  • A) is a graph which shows the through focus MTF characteristic of the light ray which passed 1st optical area
  • B) is a graph showing the through focus MTF characteristic of the light beam that has passed through the second optical region D2.
  • (A) is sectional drawing which shows the optical adjustment layer provided on the diffraction surface of 2nd optical area
  • FIG. 1 The front view which looked at the optical element L1 in the form from which Embodiment 4 of this invention differs from the to-be-photographed object side.
  • (A) And (b) is a figure which expands and shows the array-like optical element K and the image pick-up element N in Embodiment 5 of this invention.
  • (A) is the front view which looked at the optical element L1 from the to-be-photographed object side
  • (b) is a figure which shows the positional relationship of the array-like optical element K and the pixel on the image pick-up element N.
  • FIG. 1 is a schematic diagram illustrating an imaging apparatus A according to the first embodiment.
  • the imaging apparatus A according to the present embodiment includes a lens optical system L having V as an optical axis, an arrayed optical element K disposed near the focal point of the lens optical system L, an imaging element N, and an arithmetic processing unit C. Prepare.
  • FIG. 2 is a front view of the optical element L1 as viewed from the subject side.
  • the first and second optical regions D1 and D2 in the optical element L1 are divided into two parts vertically with the optical axis V as the boundary center.
  • the condensing positions on the optical axes of red, green, and blue light in the light that has passed through the first and second optical regions D1 and D2 are different.
  • the first and second optical regions D1 and D2 have different optical powers.
  • the second optical region D2 is a condensing position of red, green, and blue light with respect to a condensing position of red, green, and blue light that has passed through the first optical region D1.
  • the broken line s indicates the position of the diaphragm S.
  • FIG. 6A shows the first image information obtained by the plurality of pixels P1 in FIG. 5B
  • FIG. 6B shows the second image information obtained by the plurality of pixels P2. Note that the image information obtained by the image sensor N is separated into first image information and second image information in the arithmetic processing unit C.
  • green and blue luminance values may be interpolated in the pixel P (i, j).
  • the green luminance values of the pixel P (i ⁇ 2, j) and the pixel P (i + 1, j) are used.
  • the luminance value of the pixel P (i-2, j) and the pixel P A value obtained by weighted averaging the luminance values of i + 1, j) with a ratio of 1: 2 may be used.
  • the condensing position of the blue (B), green (G), and red (R) rays that have passed through the first optical region D1 of the optical element L1 and the second optical region D2 have passed. Since the positions of the blue (B), green (G), and red (R) light rays are shifted from each other, the sharpness of each of blue, green, and red in the image obtained by the pixel P1, and the image obtained by the pixel P2 The sharpness of blue, green and red is different.
  • the image component having the higher sharpness in each of blue, green, and red is used from the first color image obtained by the pixel P1 and the second color image obtained by the pixel P2.
  • an output image with high sharpness (or resolution) of each color can be generated.
  • the first color image and the second color image do not include all of blue, green, and red, use the image component having the higher sharpness in each of the colors included in these images.
  • an output image with high sharpness can be obtained for the colors included in the image.
  • Such processing can be performed by the arithmetic processing unit C.
  • the minute region may be one pixel P (x, y) shown in FIG. 7 or a region R1 (u, v) in which a plurality of pixels P (x, y) are combined.
  • the sharpness may be obtained based on a frequency spectrum obtained by Fourier transforming the luminance values of the first color image and the second color image.
  • the response value at a predetermined spatial frequency can be obtained as the sharpness. That is, it is possible to evaluate the sharpness of an image by comparing response values at a predetermined spatial frequency. Since the image is two-dimensional, a method for obtaining the sharpness using a two-dimensional Fourier transform is desirable.
  • the diaphragm S is an area through which light beams of all angles of view pass. Accordingly, by inserting a surface having an optical characteristic for controlling the optical power in the vicinity of the stop S, it is possible to similarly control the light condensing characteristic of the light beam at all angles of view. That is, in this embodiment, the optical element L1 may be provided in the vicinity of the stop S. By providing optical regions D1 and D2 having optical powers that make light condensing positions of light of at least two colors different from each other in the vicinity of the stop S, a light condensing characteristic corresponding to the number of divisions of the regions is given to the light flux. Can do.
  • FIG. 8 is a cross-sectional view showing the imaging apparatus A according to the first embodiment. 8, the same components as those in FIG. 1 are denoted by the same reference numerals as those in FIG. However, in FIG. 8, the lens L2 includes two lenses, a lens L2A and a lens L2B.
  • the array-like optical element K shown in FIG. 1 and the like is not shown, but the array-like optical element K is actually provided in the region H of FIG.
  • the region H has the configuration shown in FIG.
  • FIG. 9 is a through focus MTF characteristic (simulation result) on the optical axis of the light beam that has passed through the first optical region D1 and the second optical region D2 in the lens optical system L.
  • the graph of FIG. 9A shows the through-focus MTF characteristic due to the light beam that has passed through the first optical region D1
  • the graph of FIG. 9B shows the through-focus MTF characteristic due to the light beam that has passed through the second optical region D2. Show.
  • the horizontal axis indicates the focus shift
  • the vertical axis indicates the MTF when the spatial frequency is 50 Lp / mm.
  • the through focus MTF characteristics by the light beams that have passed through the first optical region D1 shield the diaphragm surface immediately before the second optical region D2.
  • the through focus MTF characteristic by the light beam that has passed through the second optical region D2 is calculated by shielding the diaphragm surface immediately before the first optical region D1. That is, each through focus MTF characteristic is calculated on the assumption that a semicircular diaphragm surface is used.
  • the sagittal direction and the tangential direction of the MTF value on the optical axis coincide.
  • the sagittal direction and the tangential direction of the MTF value on the optical axis are the same because the immediately preceding diaphragm surface is semicircular.
  • FIG. 10 is a diagram schematically showing the through focus MTF characteristic by the light beam that has passed through the first optical region and the through focus MTF characteristic by the light beam that has passed through the second optical region for each subject distance.
  • FIG. 10 only the through focus MTF characteristic in the sagittal direction with a shallow depth in FIG. 9 is extracted and schematically illustrated.
  • the MTF value of blue 1Bm by the light beam that has passed through the first optical region D1 the MTF value of red 2Rm by the light beam that has passed through the second optical region D2, and the green 2Gm
  • the MTF value is selected.
  • the MTF value of green 1Gf, the MTF value of blue 1Bf, and the MTF value of red 2Rf, which are light rays that have passed through the second optical region D2 are selected.
  • the MTF represents how faithfully the contrast of the subject can be reproduced on the image plane
  • the spatial frequency of the subject is required to calculate the MTF value. Therefore, the MTF value cannot be directly detected from an arbitrary image during actual imaging. Therefore, at the time of actual imaging, a difference in luminance value is used to evaluate the level of sharpness. The higher the sharpness, the less blurring of the image. Usually, an image with higher sharpness has a larger difference in luminance value between adjacent pixels.
  • curves MBa, MGa, and MRa indicate blue, green, and red MTF characteristics, respectively.
  • the curves MBa, MGa, and MRa overlap each other.
  • Curves MRb, MGb, and MBb indicate red, green, and blue MTF characteristics, respectively.
  • the curves MRb, MGb, MBb overlap each other.
  • the predetermined value Md is the above-described “boundary value”. If the MTF value is equal to or greater than this value, it is generally within the depth of focus.
  • a first color image and a second color image are generated as in the first embodiment, and an output image is generated by selecting an image having a higher sharpness (or contrast) for each color. To do.
  • Each image includes an image extracted for each pixel in an odd row ((a2), (b2), (c2)), and an image extracted for each pixel in an even row ((a3), (b3), (c3) ) Is schematically shown as being doubled in the Y direction by interpolation processing.
  • FIG. 27 is a diagram schematically illustrating a change of a point image and its center of gravity for each subject distance in the present embodiment.
  • (a1) and (a2), (b1) and (b2), and (c1) and (c2) are point images (illustrated as semicircles) obtained by imaging an object point O through a microlens.
  • the center of gravity (black point) is shown, which corresponds to the object distance of the object point O shown in (a1), (b1) and (c1) of FIG.

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Color Television Image Signal Generators (AREA)
  • Lenses (AREA)
  • Studio Devices (AREA)

Abstract

 本発明の撮像装置は、第1の光学領域D1と、第1の光学領域D1とは異なる光学パワーを有する第2の光学領域D2とを有するレンズ光学系Lと、複数の画素P1、P2を有する撮像素子Nと、第1の光学領域D1を通過した光を画素P1に入射させ、第2の光学領域D2を通過した光を画素P2に入射させるアレイ状光学素子Kとを備える。

Description

撮像装置
 本発明は、カメラ等の撮像装置に関する。
 レンズを構成する材料に対する光の屈折率は波長によって異なる。そのため、撮像装置の光学系に様々な波長の光が入射した場合、軸上色収差が生じ、色によって鮮鋭度(画像のシャープさ)の異なる画像が得られる。鮮鋭度の低い色が画像に含まれる場合には、その色が画質劣化の要因となる。
 また、カメラ等の撮像装置では、被写体の位置が被写界深度の範囲内に含まれる場合に、フォーカスが合い、鮮明な画像を撮像することができる。様々な位置に配置される被写体の撮像を可能にするためには、撮像装置には、フォーカス状態を検出する手段と、フォーカスの調整を行う手段が別途必要となる。
 以上の課題を解決するために、光学系の軸上色収差を利用して第1の色成分の鮮鋭度を第1の色成分とは異なる第2の色成分に反映させることにより、被写界深度の拡張と軸上色収差の補正を実現する技術が提案されている(特許文献1)。特許文献1の方法によると、第1の色成分の鮮鋭度を第2の色成分に反映させることにより、第2の色成分の鮮鋭度を高めることができる。これにより、被写界深度を大きくすることができ、フォーカスの調整を行わずにより様々な距離の被写体を比較的鮮明に撮像することができる。
特表2008-532449号公報
 特許文献1の構成において、第1の色成分の鮮鋭度を第2の色成分に反映させるためには、第1の色成分および第2の色成分の両方の鮮鋭度の情報が必要である。そのため、焦点深度は全ての色の鮮鋭度の情報が存在する範囲に限られる。このように、特許文献1の構成においては、焦点深度を拡大することができる範囲には限界があり、被写界深度を十分に大きくすることが困難であった。
 また、例えば黒色を背景とする単色(例えば青色)の被写体を撮像する場合、画像には、被写体の色以外の色(緑色および赤色)の成分が存在しない。そのため、軸上色収差によって被写体の画像がぼけている場合、画像上の他の色の鮮鋭度を検出して被写体の鮮鋭度に反映させることができない。
 本発明は、上記課題を解決するためになされたものであり、その主な目的は、焦点深度および被写界深度が大きく、鮮鋭度の高い画像を得ることができる撮像装置を提供することにある。本発明の他の目的は、黒色を背景とする単色(例えば青色)の被写体も高い鮮鋭度で撮影することができる撮像装置を提供することにある。
 本発明の撮像装置は、第1色、第2色および第3色の光が通過する第1の領域と、前記第1色、第2色および第3色の光が通過し、前記第1の領域を通過した前記第1色、第2色および第3色のそれぞれの光の集光位置に対して、少なくとも2色以上の光の集光位置を異ならせる光学パワーを有する第2の領域とを有するレンズ光学系と、前記レンズ光学系からの光が入射する複数の第1の画素と複数の第2の画素とを有する撮像素子と、前記レンズ光学系と前記撮像素子との間に配置され、前記第1の領域を通過した光を前記複数の第1の画素に入射させ、前記第2の領域を通過した光を前記複数の第2の画素に入射させるアレイ状光学素子と、出力画像を生成する演算処理部とを備え、前記演算処理部は、前記複数の第1の画素において得られた画素値を用いて、前記第1色、第2色および第3色のうち少なくとも1つの色の成分の第1の画像を生成し、前記複数の第2の画素において得られた画素値を用いて、前記少なくとも1つの色の成分と同じ色の成分を含む第2の画像を生成し、前記第1の画像の所定領域および前記第2の画像の所定領域のうち色ごとに鮮鋭度またはコントラスト値の高い方の画像成分を用いて、前記出力画像を生成する。
 本発明の撮像システムは、第1色、第2色および第3色の光が通過する第1の領域と、前記第1色、第2色および第3色の光が通過し、前記第1の領域を通過した前記第1色、第2色および第3色のそれぞれの光の集光位置に対して、少なくとも2色以上の光の集光位置を異ならせる光学パワーを有する第2の領域とを有するレンズ光学系と、前記レンズ光学系からの光が入射する複数の第1の画素と複数の第2の画素とを有する撮像素子と、前記レンズ光学系と前記撮像素子との間に配置され、前記第1の領域を通過した光を前記複数の第1の画素に入射させ、前記第2の領域を通過した光を前記複数の第2の画素に入射させるアレイ状光学素子と、を備える撮像装置と、前記複数の第1の画素において得られた画素値を用いて、前記第1色、第2色および第3色のうち少なくとも1つの色の成分の第1の画像を生成し、前記複数の第2の画素において得られた画素値を用いて、前記少なくとも1つの色の成分と同じ色の成分を含む第2の画像を生成し、前記第1の画像の所定領域および前記第2の画像の所定領域のうち色ごとに鮮鋭度の高い方の画像成分を用いて、前記出力画像を生成する演算処理部と、を備える。
 本発明によると、2つ以上の画像の所定領域のうち、それぞれの色における鮮鋭度の高い方の画像成分に基づいて出力画像を生成することにより、簡単な手法によって出力画像の鮮鋭度を高めることができる。また、従来よりも焦点深度を拡大することができるため、十分に大きな被写界深度を得ることができる。
 さらに、本発明によると、黒色を背景とした赤、緑または青の単色の被写体を撮像する場合、2つ以上の撮像領域のいずれかにおいては、被写体の色の鮮鋭度は所定値よりも大きくなっている。そのため、鮮鋭度の高い画像を生成することができる。
本発明による撮像装置Aの第1の実施形態を示す模式図。 本発明の実施の形態1における光学素子L1を被写体側から見た正面図。 本発明の実施の形態1におけるアレイ状光学素子Kの斜視図。 本発明の実施の形態1における第1色、第2色、第3色の光線の光路を模式的に示す図。 (a)は、本実施の形態1における図1に示すアレイ状光学素子Kおよび撮像素子Nを拡大して示す図。(b)は、アレイ状光学素子Kと撮像素子Nの画素との位置関係を示す図。 (a)は複数の画素P1によって得られる第1のカラー画像を示し、(b)は複数の画素P2によって得られる第2のカラー画像を示す。 (a)、(b)は、第1、第2のカラー画像を示す図である。 本発明の実施の形態1における撮像装置Aを示す断面図。 (a)は、本発明の実施の形態1における第1の光学領域D1を通過した光線のスルーフォーカスMTF特性を示すグラフ。(b)は、第2の光学領域D2を通過した光線のスルーフォーカスMTF特性を示すグラフ。 本発明の実施の形態1における第1の光学領域D1を通過した光線のスルーフォーカスMTF特性および第2の光学領域D2を通過した光線のスルーフォーカスMTF特性を、被写体距離毎に模式的に示す図。 本発明の実施の形態1における第1の光学領域D1を通過した光線のスルーフォーカスMTF特性および第2の光学領域D2を通過した光線のスルーフォーカスMTF特性を模式的に示すグラフ。 本発明による撮像装置Aの第2の実施形態を示す模式図。 本発明の実施の形態2における光学素子L1を被写体側から見た正面図。 本発明の実施の形態2における第1色、第2色、第3色の光線を示す図。 (a)は、本実施の形態2における図11に示すアレイ状光学素子Kおよび撮像素子Nを拡大して示す図。(b)は、アレイ状光学素子Kと撮像素子Nの画素との位置関係を示す図。 (a)は、本発明の実施の形態2における第1の光学領域D1を通過した光線のスルーフォーカスMTF特性を示すグラフ。(b)は、第2の光学領域D2を通過した光線のスルーフォーカスMTF特性を示すグラフ。 本発明の実施の形態2における第1の光学領域D1を通過した光線のスルーフォーカスMTF特性および第2の光学領域D2を通過した光線のスルーフォーカスMTF特性を、被写体距離毎に模式的に示す図。 本発明の実施の形態2における第1の光学領域D1を通過した光線のスルーフォーカスMTF特性および第2の光学領域D2を通過した光線のスルーフォーカスMTF特性を模式的に示すグラフ。 (a)は、本発明の実施の形態3における第2の光学領域D2の回折面上に設けた光学調整層を示す断面図。(b)は、第1の光学領域D1の平面上と第2の光学領域D2の回折面上の両方に設けた光学調整層を示す断面図。 本発明の実施の形態4における光学素子L1を被写体側から見た正面図。 (a)は、本発明の本実施の形態4における図1に示すアレイ状光学素子Kおよび撮像素子Nを拡大して示す図。(b)は、アレイ状光学素子Kと撮像素子Nの画素との位置関係を示す図。 本発明の実施の形態4におけるアレイ状光学素子Kの斜視図。 本発明の実施の形態4の異なる形態における光学素子L1を被写体側から見た正面図。 (a)および(b)は、本発明の実施の形態5におけるアレイ状光学素子Kおよび撮像素子Nを拡大して示す図。 (a)は、光学素子L1を被写体側から見た正面図であり、(b)は、アレイ状光学素子Kと撮像素子N上の画素との位置関係を示す図である。 (a1)、(b1)および(c1)は、実施の形態1の構成において、光学素子L1の被写体側の面のうち第1の光学領域D1に位置する部分を平面、光学素子L1の被写体側の面のうち第2の光学領域D2に位置する部分を球面とした場合の被写体距離毎の光線図を示している。(a2)、(b2)および(c2)は、第1の光学領域D1を通過した物点Oの光がレンチキュラを介して奇数列の画素に到達することにより得られた点像の画像を模式的に示している。(a3)、(b3)、(c3)は、第2の光学領域D2を通過した物点Oの光が、レンチキュラを介して偶数列の画素に到達することにより得られた画像を模式的に示している。 (a1)、(b1)および(c1)は、奇数行奇数列の画素と偶数行偶数列の画素との画素値を加算して得られる点像の画像を模式的に示す図である。(a2)、(b2)および(c2)は、偶数行奇数列の画素と奇数行偶数列の画素との画素値を加算して得られる点像の画像を模式的に示す図である。 (a)および(b)は、本発明によるその他の形態におけるアレイ状光学素子Kおよび撮像素子Nを拡大して示す図。 本発明によるその他の形態におけるアレイ状光学素子Kと撮像素子N上の画素との位置関係を示す図。 本発明によるその他の形態におけるアレイ状光学素子Kと撮像素子N上の画素との位置関係を示す図。 (a1)は、光軸に対して回転非対称な形状を有するマイクロレンズアレイを示す斜視図である。(a2)は、(a1)に示すマイクロレンズアレイの等高線を示す図である。(a3)は、(a1)、(a2)に示すマイクロレンズを本発明のアレイ状光学素子に適用した場合の、光線追跡シミュレーションの結果を示す図である。(b1)は、光軸に対して回転対称な形状を有するマイクロレンズアレイを示す斜視図である。(b2)は、(b1)に示すマイクロレンズアレイの等高線を示す図である。(b3)は、(b1)、(b2)に示すマイクロレンズを本発明の実施の形態におけるアレイ状光学素子に適用した場合の、光線追跡シミュレーションの結果を示す図である。
 以下、本発明による撮像装置の実施形態を、図面を参照しながら説明する。
(実施の形態1)
 図1は、実施の形態1の撮像装置Aを示す模式図である。本実施形態の撮像装置Aは、Vを光軸とするレンズ光学系Lと、レンズ光学系Lの焦点近傍に配置されたアレイ状光学素子Kと、撮像素子Nと、演算処理部Cとを備える。
 レンズ光学系Lは、互いに光学パワーの異なる第1の光学領域D1、および第2の光学領域D2を有し、被写体(図示せず)からの光が入射する絞りSと、絞りSを通した光が通過する光学素子L1と、光学素子L1を通過した光が入射するレンズL2とから構成されている。ここで、レンズL2は1枚構成として図示しているが、複数枚の構成であってもよい。図1において、光束A1は、光学素子L1上の第1の光学領域D1を通過する光束であり、光束A2は、光学素子L1上の第2の光学領域D2を通過する光束である。光束A1、A2は、絞りS、光学素子L1、レンズL2、アレイ状光学素子Kをこの順に通過し、撮像素子N上の撮像面Niに到達する。
 図2は、光学素子L1を被写体側から見た正面図である。光学素子L1における第1、第2の光学領域D1、D2は、互いに、光軸Vを境界中心として上下に2分割されている。第1、第2の光学領域D1、D2を通過した光における赤色、緑色、青色のそれぞれの光の光軸上の集光位置は異なる。また、第1、第2の光学領域D1、D2は互いに異なる光学パワーを有する。具体的には、第2の光学領域D2は、第1の光学領域D1を通過した赤色、緑色、青色の光の集光位置に対して、赤色、緑色、青色のそれぞれの光の集光位置を異ならせる光学パワーを有する。図2において、破線sは、絞りSの位置を示している。
 アレイ状光学素子Kは、レンズ光学系Lの焦点近傍に配置されており、撮像面Niから所定の距離だけ離れた位置に配置されている。
 図3は、アレイ状光学素子Kの斜視図である。アレイ状光学素子Kにおける撮像素子N側の面には、横方向に細長い複数の光学要素M1が縦方向に配置されている。それぞれの光学要素M1の断面(縦方向)の断面は、撮像素子N側に突出した円弧状の形状を有する。このように、アレイ状光学素子Kは、レンチキュラレンズの構成を有する。
 図4は、第1の光学領域D1および第2の光学領域D2をそれぞれ通過した光線A1Wおよび光線A2Wの光路を模式的に示す図である。
 光学素子L1のうち第1の光学領域D1に位置する部分を介してレンズL2に光線A1Wが入射すると、軸上色収差に起因して、レンズL2の光軸上の像面に向かう方向に、青色(A1B)、緑色(A1G)、赤色(A1R)の順に光線が集まる。
 同様に、光学素子L1のうち第2の光学領域D2に位置する部分を介してレンズL2に光線A2Wが入射すると、軸上色収差に起因して、レンズL2の光軸上の像面に向かう方向に、青色(A2B)、緑色(A2G)、赤色(A2R)の順に光線が集まるが、第2の光学領域D2は、第1の光学領域D1とは異なる光学パワーを有しているため、第1の光学領域D1を通過した光線とは、それぞれずれた位置に集まる。
 図5(a)は、図1に示すアレイ状光学素子Kおよび撮像素子Nを拡大して示す図であり、図5(b)は、アレイ状光学素子Kと撮像素子N上の画素との位置関係を示す図である。画素P1および画素P2のそれぞれは、横方向(行方向)に1行に並んで配置されている。縦方向(列方向)において、画素P1とP2とは交互に配置されている。画素P1は、赤色の光を検出する画素P1R、緑色の光を検出する画素P1G、青色の光を検出する画素P1Bによって構成されている。画素P2も、赤色の光を検出する画素P2R、緑色の光を検出する画素P2G、青色の光を検出する画素P2Bによって構成されている。赤色の光を検出する画素P1R、P2Rの表面には赤色の光を透過するフィルタが、緑色の光を検出する画素P1G、P2Gの表面には緑色の光を透過するフィルタが、青色の光を検出する画素P1B、P2Bの表面には青色の光を透過するフィルタが設けられている。このように、画素P1、P2のそれぞれの表面に異なる波長帯域の光を透過するフィルタが設けられていることにより、各画素は、R(赤)、G(緑)、B(青)の光のいずれかの色の光を主に検出することができる。
 アレイ状光学素子Kは、その光学要素M1の1つが、撮像面Ni上における1行の画素P1および1行の画素P2からなる2行の画素に対応するように配置されている。撮像面Ni上には、画素P1、P2の表面を覆うようにマイクロレンズMsが設けられている。
 アレイ状光学素子Kは、光学素子L1上の第1の光学領域D1(図1、図2に示す)を通過した光束(図1において実線で示される光束A1)の大部分が、撮像面Ni上の画素P1に到達し、第2の光学領域D2を通過した光束(図1において破線で示される光束A2)の大部分が、撮像面Ni上の画素P2に到達するように設計されている。具体的には、アレイ状光学素子Kの屈折率、撮像面Niからの距離及び光学要素M1表面の曲率半径等のパラメータを適切に設定することで、上記構成が実現する。
 図5(b)の複数の画素P1によって得られる第1の画像情報を図6(a)に、複数の画素P2によって得られる第2の画像情報を図6(b)に示す。なお、撮像素子Nによって得られた画像情報は、演算処理部Cにおいて、第1の画像情報と第2の画像情報とに分離される。
 図6(a)に示すように、第1の画像情報においては、それぞれの画素P(x, y)に、画素P1によって得られた輝度値(画素値)が与えられている。
 図5(b)に示すように、画素P1として、赤、緑および青のいずれかの色の光を検出する画素P1R、P1G、P1Bが横方向(行方向)に順に配列されているため、第1の画像情報においても、赤色の輝度値1Rが得られる画素、緑色の輝度値1Gが得られる画素、および青色の輝度値1Bが得られる画素が横方向に順に配列される。このように、第1の画像情報のそれぞれの輝度値は、1つの画素に対して1色の色情報しか有していないため、他の2色の色情報を周辺の画素の輝度値から補完してもよい。例えば、ある画素P(i,j)において赤色の輝度値が得られた場合、画素P(i,j)に、緑色および青色の輝度値を補間してもよい。緑色の輝度値を補間するために、画素P(i-2,j)および画素P(i+1,j)の緑色の輝度値を用いる。画素P(i,j)に近い領域の寄与を大きくするために、例えば、画素P(i,j)の緑色の輝度値として、画素P(i-2,j)の輝度値と画素P(i+1,j)の輝度値とを1:2の比で加重平均した値を用いればよい。同様に、画素P(i,j)の青色の輝度値として、画素P(i-1,j)の輝度値と画素P(i+2,j)の輝度値とを2:1の比で加重平均した値を用いればよい。
 さらに、第1、第2の画像情報のそれぞれでは、縦方向(列方向)の画像の輝度情報は、1行おきに欠落している。欠落している画素P(x, y)の輝度情報を、縦方向(列方向)に隣接する輝度値によって補間して生成してもよい。例えば、図6(a)に示す第1の画像においては、画素P(i,j-1)の輝度情報が欠落している。この場合、画素P(i,j)と画素P(i,j-2)の輝度情報を平均して画素P(i,j-1)を補間すればよい。
 以上のような補完処理によって、図7(a)に示す第1のカラー画像と、図7(b)に示す第2のカラー画像が生成される。第1のカラー画像は、画素毎に赤色(R)、緑色(G)、青色(B)の色情報1R’、1G’、1B'を有しており、第2のカラー画像は、画素毎に赤色(R)、緑色(G)、青色(B)の色情報2R’、2G’、2B'を有している。以下において、「第1のカラー画像」および「第2のカラー画像」は、通常、補間後の画像のことを指す。
 本実施形態によると、光学素子L1の第1の光学領域D1を通過した青色(B)、緑色(G)、赤色(R)の光線の集光位置と、第2の光学領域D2を通過した青色(B)、緑色(G)、赤色(R)の光線の集光位置とは互いにずれるため、画素P1によって得られる画像における青、緑、赤それぞれの鮮鋭度と、画素P2によって得られる画像における青、緑、赤それぞれの鮮鋭度とは異なる。
 この違いを利用して、画素P1によって得られた第1のカラー画像および画素P2によって得られた第2のカラー画像から、青色、緑色、赤色のそれぞれにおける鮮鋭度の高い方の画像成分を用いることにより、それぞれの色の鮮鋭度(または解像度)の高い出力画像を生成することができる。第1のカラー画像および第2のカラー画像が青色、緑色、赤色の全てを含んでいない場合には、これらの画像に含まれている色のそれぞれにおいて鮮鋭度の高い方の画像成分を用いることにより、画像に含まれている色について鮮鋭度の高い出力画像を得ることができる。このような処理は、演算処理部Cによって行うことができる。
 鮮鋭度が高いほど画像のボケが少なくなるため、通常、隣接する画素間の輝度値の差(階調の差)は大きくなると考えられる。そのため、本実施形態では、鮮鋭度を、取得した画像上の所定の微小領域内において隣接する画素間の輝度値の差分に基づいて求める。微小領域は、図7に示す1つの画素P(x, y)であってもよいし、画素P(x, y)が複数組み合わされた領域R1(u、v)であってもよい。
 また、鮮鋭度は、第1のカラー画像および第2のカラー画像の輝度値をフーリエ変換した周波数スペクトルに基づいて求めてもよい。この場合、所定の空間周波数における応答値を鮮鋭度として求めることができる。つまり、所定の空間周波数における応答値を比較することで、画像の鮮鋭度の高低評価を行うことができる。なお、画像は2次元であるため、2次元フーリエ変換を用いて鮮鋭度を求める方法が望ましい。
 絞りSは全ての画角の光束が通過する領域である。従って、絞りSの近傍に光学パワーを制御する光学特性を有する面を挿入することにより、全ての画角における光束の集光特性を同様に制御することができる。すなわち、本実施形態では、光学素子L1は、絞りSの近傍に設けられていてもよい。少なくとも2色以上の光の集光位置を互いに異ならせる光学パワーを有する光学領域D1、D2を、絞りSの近傍に配置することによって、領域の分割数に応じた集光特性を光束に与えることができる。
 図1においては、光学素子L1は、絞りSとレンズL2との間に設けられており、絞りSを通過した光が、直接(他の光学部材を介することなく)、光学素子L1に入射する位置に設けられている。光学素子L1は、絞りSよりも被写体側に設けられていてもよい。この場合、光学素子L1を通過した光が、直接(他の光学部材を介することなく)、絞りSに入射してもよい。像側テレセントリック光学系の場合、光学系の焦点における光線の入射角は、絞りSを通過する光線の位置によって一義的に決定される。また、アレイ状光学素子Kは、光線の入射角に応じて出射方向を振り分ける機能を有する。そのため、絞りSの近傍で分割された光学領域D1、D2に対応するように、撮像面Ni上の画素に光束を振り分けることができる。
 次に、具体的に被写界深度を深くする方法について説明する。
 図8は、実施の形態1における撮像装置Aを示す断面図である。図8において図1と同じ構成要素には、図1と同じ符号を付している。但し、図8においてレンズL2は、レンズL2AとレンズL2Bの2枚で構成されている。図8においては、アレイ状光学素子K(図1等に示す)の図示は省略しているが、図8の領域Hには、実際には、アレイ状光学素子Kが設けられている。領域Hは、図5(a)に示す構成を有する。
 表1および表2は、図8に示す撮像装置Aの光学系の設計データである。表1および表2において、Riは各面の近軸曲率半径(mm)、diは各面の面中心間隔(mm)、ndはレンズもしくはフィルタのd線の屈折率、νdは各光学素子のd線のアッベ数を示している。また、非球面形状は、面頂点の接平面から光軸方向の距離をx、光軸からの高さをhとして、rを近軸曲率半径、kを円錐定数、Am(m=4,6,8)を第m次の非球面係数としたとき(数1)で表される。
Figure JPOXMLDOC01-appb-M000001
Figure JPOXMLDOC01-appb-T000001
Figure JPOXMLDOC01-appb-T000002
 本設計例では、光学素子L1における被写体側の面のうち、第1の光学領域D1に位置する面が平面であり、第2の光学領域D2に位置する面が曲率半径1600mmの球面レンズとなっている光学面である。このような構成により、前述のように各光学領域を通過した光線は、色毎に互いにずれた位置に集まる。
 図9は、レンズ光学系Lにおける第1の光学領域D1と第2の光学領域D2を通過した光線による光軸上のスルーフォーカスMTF特性(シミュレーション結果)である。図9(a)のグラフは第1の光学領域D1を通過した光線によるスルーフォーカスMTF特性を示し、図9(b)のグラフは第2の光学領域D2を通過した光線によるスルーフォーカスMTF特性を示す。図9において、横軸はフォーカスシフトを示しており、縦軸は空間周波数が50Lp/mmのときのMTFを示している。各光学領域を通過した光線はアレイ状光学素子によって分離できることを考慮し、第1の光学領域D1を通過した光線によるスルーフォーカスMTF特性は、第2の光学領域D2の直前の絞り面を遮光して算出し、第2の光学領域D2を通過した光線によるスルーフォーカスMTF特性は、第1の光学領域D1の直前の絞り面を遮光して算出している。すなわち、それぞれのスルーフォーカスMTF特性は、半円形状の絞り面を用いた場合を想定して算出している。
 一般的な光学系の場合、光軸上のMTF値のサジタル方向とタンジェンシャル方向は一致する。本実施形態においては、各光学領域を通過する光線毎にMTF値を算出する場合、直前の絞り面がいずれも半円形状であるため、光軸上のMTF値のサジタル方向とタンジェンシャル方向は図9に示すように分離する。
 第1の光学領域D1を通過した光線による特性を示すグラフにおいて、MBa、MGa、MRaは、それぞれ青色、緑色、赤色のスルーフォーカスMTF特性を示している。また、PBa、PGa、PRaは、それぞれのピーク位置を示している。同様に、第2の光学領域D2を通過した光線による特性を示すグラフにおいて、MRb、MGb、MBbは、それぞれ赤色、緑色、青色のスルーフォーカスMTF特性を示している。また、PRb、PGb、PBbは、それぞれのピーク位置を示している。ここで、各符号における括弧内のSおよびTは、それぞれ、サジタル方向およびタンジェンシャル方向を示している。
 図10は、第1の光学領域を通過した光線によるスルーフォーカスMTF特性および第2の光学領域を通過した光線によるスルーフォーカスMTF特性を、被写体距離毎に模式的に示す図である。撮像面におけるMTFが高いほど鮮鋭度が高いことを意味している。図10では、図9において深度の浅いサジタル方向のスルーフォーカスMTF特性のみを抽出して模式的に図示している。
 一般的な撮像光学系では、被写体の距離がレンズから近いほど、レンズを通過した光はレンズから遠い領域(被写体から遠い領域)に集まる。そのため、図10に示すように、被写体距離を近距離、中距離、遠距離に分けた場合、MTF特性のピーク位置は、近距離、中距離、遠距離の順にレンズから遠い位置に配置される。このように、被写体距離がどの程度であるかによって、第1の光学領域D1を通過した光線によって形成された画像と、第2の光学領域D2を通過した光線によって形成された画像のそれぞれの色のMTF値に違いが生じる。
 被写体距離が近距離の場合には、図10に示すように、第1の光学領域D1を通過した光線による青色1BnのMTF値のほうが第2の光学領域D2を通過した光線による青色のMTF値よりも大きい。一方、第2の光学領域D2を通過した光線による緑色2GnのMTF値のほうが第1の光学領域D1を通過した光線による緑色のMTF値よりも大きい。また、第2の光学領域D2を通過した光線による赤色2RnのMTF値のほうが、第1の光学領域D1を通過した光線による赤色のMTF値よりも大きい。それぞれの色においてMTF値の高いほうを選択すると、第1の光学領域D1を通過した光線による青色1BnのMTF値、第2の光学領域D2を通過した光線による緑色2GnのMTF値、赤色2RnのMTF値が選択される。
 同様の方法によると、中距離の場合には、第1の光学領域D1を通過した光線による青色1BmのMTF値と第2の光学領域D2を通過した光線による赤色2RmのMTF値、緑色2GmのMTF値とが選択される。遠距離の場合には、第1の光学領域D1を通過した光線による緑色1GfのMTF値、青色1BfのMTF値と第2の光学領域D2を通過した光線による赤色2RfのMTF値とが選択される。
 レンズ光学系Lの設計時には、図10に示すスルーフォーカスMTF特性を有するように設計が行われる。その際には、所望の鮮鋭度を得ることができるMTF値が境界値として設定される。そして、第1の光学領域D1、第2の光学領域Dを通過した光線から得られた画像のそれぞれの色について、MTF値が高い方の値が上記境界値よりも大きくなる被写体距離の範囲(図10における近距離、中距離、遠距離を含む範囲)が概ね被写界深度となる。なお、「境界値」は、図11等に示される所定値Mdのことであり、所定値Mdについては後述する。
 MTFは、被写体の持つコントラストを像面上でどれだけ忠実に再現できるかを表すため、MTF値を算出するには、被写体の空間周波数が必要になる。そのため、実際の撮像時に、任意の画像からはMTF値を直接検出することはできない。したがって、実際の撮像時には、鮮鋭度の高低を評価するために輝度値の差が用いられる。鮮鋭度が高いほど画像のボケが少ないため、通常は、鮮鋭度が高い画像の方が、隣接する画素間の輝度値の差が大きい。
 具体的には、まず、図1に示す演算処理部Cの画像分離部C0において、撮像面Niにおいて得られた画像を、複数の画素P1のみによって形成された第1のカラー画像と複数の画素P2のみによって形成された第2のカラー画像とに分離(生成)する。次に第1鮮鋭度検出部C1は、第1のカラー画像における所定の微小領域内において隣接する画素間の輝度値の差分に基づいて鮮鋭度を算出する。同様に、第2鮮鋭度検出部C2も、第2の画像における所定の微小領域内において隣接する画素間の輝度値の差分に基づいて鮮鋭度を算出する。次に、画像生成部C3は、第1のカラー画像における所定の微小領域内から算出した鮮鋭度と第2のカラー画像における所定の微小領域内から算出した鮮鋭度とのうち値の大きい方が、鮮鋭度が高いと判断することができる。以上のような判断を、所定の微小領域毎にそれぞれの色成分(赤、青、緑)において行う。
 第1の光学領域D1と第2の光学領域D2が上述の方法で設計されている場合、被写体が被写界深度内に存在していれば、画素P1によって算出された鮮鋭度と、画素P2によって算出された鮮鋭度のうち大きい方の鮮鋭度は所望の値以上になる。したがって、被写体までの距離を測らなくても、輝度値の差の絶対値を比較することにより、それぞれの色について、高い鮮鋭度の画像を選択することができる。
 カラー画像合成の手段としては、前述した鮮鋭度の高い色をそれぞれ選択して1つの出力画像を合成する手法や、2つのカラー画像を色毎に加算して合成する手法がある。この方法によって、被写体距離が変化しても鮮鋭度の高い出力画像を生成することができる。
 次に、第1の光学領域D1および第2の光学領域D2を通過した光線の軸上色収差の範囲を説明する。図11の上のグラフは、第1の光学領域D1を通過した光線のスルーフォーカスMTF特性(サジタル方向)を示し、図11の下のグラフは、第2の光学領域D2を通過した光線のスルーフォーカスMTF特性(サジタル方向)を示すグラフである。図11において、縦軸は赤色、緑色および青色の所定の空間周波数におけるMTF値を示し、横軸は光軸上の位置を示す。
 図11において、曲線MBa、MGa、MRaはそれぞれ、青色、緑色、赤色のMTF特性を示す。曲線MBa、MGa、MRaは、互いにオーバーラップしている。曲線MRb、MGb、MBbはそれぞれ、赤色、緑色、青色のMTF特性を示す。曲線MRb、MGb、MBbは、互いにオーバーラップしている。所定値Mdは、前述した「境界値」であり、この値以上のMTF値であれば、概ね焦点深度内である。
 また、図11の上のグラフのWaおよび下のグラフWbは、各光学領域を通過した光線の青色、緑色、赤色のMTF値がいずれも所定値Mdより大きくなる領域であり、この範囲が概ね第1、第2の光学領域D1、D2を通過した光線それぞれの焦点深度となる。また、第1の光学領域D1および第2の光学領域D2における光学素子L1の被写体側の表面が共に平面であった場合、スルーフォーカスMTF特性はサジタル方向、タンジェンシャル方向共に、図11の上のグラフになり、領域を分割しない通常の光学系の場合であっても、Waが青色、緑色、赤色のMTF値がいずれも所定値Mdより大きくなる領域であり、この範囲が概ね焦点深度となる。同様に、第1の光学領域D1および第2の光学領域D2における光学素子L1の被写体側の表面が共に球面であった場合、スルーフォーカスMTF特性はサジタル方向、タンジェンシャル方向共に、図11の下のグラフになり、領域を分割しない通常の光学系の場合であっても、Wbが青色、緑色、赤色のMTF値がいずれも所定値Mdより大きくなる領域であり、この範囲が概ね焦点深度となる。
 一方、図11に示すWsの範囲では、第1の光学領域D1を通過した光線によるMTFと第2の光学領域D2を通過した光線によるMTFのいずれかが、全ての色において所定値Md以上となる。
 ここで、第1の光学領域D1を通過した光線によって生成された画像から算出した鮮鋭度と、第2の光学領域D2を通過した光線によって生成された画像から算出した鮮鋭度をそれぞれ算出して、色毎に鮮鋭度の高い方の画像を選択して出力画像を生成するため、図11においてWsの範囲が概ね焦点深度となり、第1、第2の光学領域D1、D2を通過した光線それぞれの焦点深度よりも広い焦点深度が得られる。
 本実施形態によると、第1の光学領域D1を通過した光線によって生成された第1のカラー画像の微小領域、および第2の光学領域D2を通過した光線によって生成された第2のカラー画像の微小領域のうち、それぞれの色における鮮鋭度の高い方の画像成分を用いて出力画像を生成することにより、簡単な手法によって出力画像の鮮鋭度を高めることができる。また、図11に示すように、範囲Wsのどの位置に撮像面が配置した場合にも、3色全てのMTFを所定値Mdよりも大きくすることができる。したがって、従来よりも焦点深度を大幅に拡大することができるため、十分に大きな被写界深度を得ることができる。さらに、本実施形態によると、フォーカス状態を検出する手段や調整を行う手段を用いずに、より様々な被写体距離の被写体を撮影することができる。
 また、画像内に被写体距離の異なる複数の被写体が含まれる場合には、画像領域毎において、色毎に鮮鋭度の高い方の画像を選択して出力画像を生成すればよい。
 本実施形態では、黒色を背景とした赤、緑または青の単色の被写体を撮像する場合、第1、第2の光学領域D1、D2を通過した光線によってそれぞれ生成された画像のいずれかでは、被写体の色の鮮鋭度は所定値Mdよりも大きくなっている。そのため、鮮鋭度の高い画像を生成することができる。
 なお、本実施形態の説明では、カラー画像の光軸上の領域の合成のみについて記載した。軸外領域については、倍率色収差補正や歪曲収差補正を実施した上でカラー画像を生成してもよい。
 本実施形態では、画像の鮮鋭度の高低評価を、輝度値の差分の絶対値、つまり鮮鋭度それ自体を比較することで行ったが、それ以外に、例えばコントラスト値を比較することで行ってもよい。通常、コントラスト値が大きい画像の方が、鮮鋭度が高い。コントラスト値は、例えば、所定の演算ブロック内における最大輝度値Lmaxと最低輝度値Lminとの比(Lmax/Lmin)から求めることができる。鮮鋭度は輝度値の差分であるのに対し、コントラスト値は輝度値の比である。最大輝度値である一点と最低輝度値である一点との比からコントラスト値を求めてもよいし、例えば輝度値の上位数点の平均値と、輝度値の下位数点の平均値との比からコントラスト値を求めてもよい。この場合、演算処理部Cは、図1に示す第1、第2鮮鋭度検出部C1、C2の代わりとして、画素P1によって生成される輝度値の比を算出する第1コントラスト検出部と、画素P2によって生成される輝度値の比を算出する第2コントラスト検出部とを備える。
 また、表1および表2に示す撮像装置の光学系は、像側テレセントリック光学系としている。これにより画角が変化しても、アレイ状光学素子Kの主光線入射角は、0度に近い値で入射するため、撮像領域全域にわたって、画素P1に到達する光束と画素P2に到達する光束とのクロストークを低減することができる。
 また、本実施形態では、光学素子L1の第1、第2の光学領域D1、D2における光学素子L1の被写体側の表面は、それぞれ平面と球面としているが、互いに光学パワーの異なる球面であってもよいし、互いに光学パワーの異なる非球面であってもよい。
  (実施の形態2)
 図12は、実施の形態2の撮像装置Aを示す模式図である。本実施の形態2は、光学素子L1の第2の光学領域D2を回折レンズ形状にした点で、実施の形態1と異なっている。ここでは、本実施形態において実施の形態1と同様の内容についての詳細な説明は省略する。
 図13は、光学素子L1を被写体側から見た正面図である。光学素子L1における第1、第2の光学領域D1、D2は、光軸Vを境界中心として上下に2分割されている。図13において、破線sは、絞りSの位置を示している。
 図14は、光学領域D1と光学領域D2をそれぞれ通過した光線A1Wと光線A2Wの光路を模式的に示す図である。
 光学素子L1の第1の光学領域D1を介してレンズL2に光線A1Wが入射すると、軸上色収差に起因して、レンズL2の光軸上の像面に向かう方向に、青色(A1B)、緑色(A1G)、赤色(A1R)の順に光線が集まる。
 一方、光学素子L1の第2の光学領域D2を介してレンズL2に光線A2Wが入射すると、軸上色収差に起因して、レンズL2の光軸上の像面に向かう方向に、赤色(A2R)、緑色(A2G)、青色(A2B)の順に光線が集まる。第2の光学領域D2は、回折レンズの作用によって、第1の光学領域D1とは軸上色収差が反転した光学パワーを有している。そのため、第2の光学領域D2を通過した光は、第1の光学領域を通過した光線に対して、赤色と青色との集光順序が逆転する。
 図15(a)は、図12に示すアレイ状光学素子Kおよび撮像素子Nを拡大して示す図であり、図15(b)は、アレイ状光学素子Kと撮像素子N上の画素との位置関係を示す図である。画素のP1、P2の構成およびアレイ状光学素子Kの作用は実施の形態1と同じである。
 本実施の形態2では、実施の形態1と同様に第1のカラー画像と第2カラー画像を生成し、色毎に鮮鋭度(またはコントラスト)の高い方の画像を選択して出力画像を生成する。
 次に、具体的に被写界深度を深くする方法について説明する。
本実施の形態2における撮像装置Aの断面図は、光学素子L1における被写体側の表面のうち第2の光学領域D2に位置する部分を回折レンズ形状にした点を除いて図8と同様である。
 表3、表4および表5は、撮像装置Aの光学系の設計データである。表3および表4において、各記号は、表1と表2と同じである。
 また、表5において回折面に(L1-R1面)おける位相差関数φ(h)は、光軸からの高さをhとし、Bn(n=2,4,6)を第n次の位相関数の係数としたとき、単位をラジアンとして(数2)で表される。
Figure JPOXMLDOC01-appb-M000002
Figure JPOXMLDOC01-appb-T000003
Figure JPOXMLDOC01-appb-T000004
Figure JPOXMLDOC01-appb-T000005
 本設計例では、光学素子L1における被写体側の面のうち、第1の光学領域D1に位置する部分が平面であり、第2の光学領域D2に位置する部分が曲率半径-132mmの球面レンズ上に回折形状を付加した光学面である。このような構成により、前述のように各光学領域を通過した光線は、色毎に反転した順序で集光する。
 図16は、レンズ光学系Lにおける第1の光学領域D1と第2の光学領域D2を通過した光線による光軸上のスルーフォーカスMTF特性(シミュレーション結果)である。図16(a)のグラフは第1の光学領域D1を通過した光線によるスルーフォーカスMTF特性を示し、図16(b)のグラフは第2の光学領域D2を通過した光線によるスルーフォーカスMTF特性を示す。図16において、各グラフのスルーフォーカスMTF特性は、図9の場合と同様に半円形状の絞り面を用いた場合を想定して算出している。
 図17は、第1の光学領域を通過した光線によるスルーフォーカスMTF特性および第2の光学領域を通過した光線によるスルーフォーカスMTF特性を、被写体距離毎に模式的に示す図である。ここで、撮像面におけるMTFが高いほど鮮鋭度が高い。図17では、図16において深度の浅いサジタル方向のスルーフォーカスMTF特性のみを抽出して模式的に図示している。
 実施の形態1と同様に、被写体距離がどの程度であるかによって、第1の光学領域D1を通過した光線が結像した画像と、第2の光学領域D2を通過した光線が結像した画像のそれぞれの色のMTF値に違いが生じる。
 被写体距離が近距離の場合には、図17に示すように、第1の光学領域D1を通過した光線による青色1BnのMTF値のほうが第2の光学領域D2を通過した光線による青色のMTF値よりも大きい。一方、第2の光学領域D2を通過した光線による緑色2GnのMTF値のほうが第1の光学領域D1を通過した光線による緑色のMTF値よりも大きい。また、第2の光学領域D2を通過した光線による赤色2RnのMTF値のほうが、第1の光学領域D1を通過した光線による赤色のMTF値よりも大きい。それぞれの色においてMTF値の高いほうを選択すると、第1の光学領域D1を通過した光線による青色1BnのMTF値、第2の光学領域D2を通過した光線による緑色2GnのMTF値、赤色2RnのMTF値が選択される。
 同様の方法によると、中距離の場合には、第1の光学領域D1を通過した光線による青色1BmのMTF値と第2の光学領域D2を通過した光線による赤色2RmのMTF値、緑色2GmのMTF値とが選択される。遠距離の場合には、第1の光学領域D1を通過した光線による緑色1GfのMTF値、赤色1RfのMTF値と第2の光学領域D2を通過した光線による青色2BfのMTF値とが選択される。
 以下、実施の形態1と同様にして演算処理部C内の第1、第2鮮鋭度検出部C1、C2において実際に画素P1と画素P2の鮮鋭度が算出される。
 次に、第1の光学領域D1および第2の光学領域D2を通過した光線の軸上色収差の範囲を説明する。図18の上のグラフは、第1の光学領域D1のスルーフォーカスMTF特性(サジタル方向)を示し、図18の下のグラフは、第2の光学領域D2のスルーフォーカスMTF特性(サジタル方向)を示すグラフである。図18において、縦軸は赤色、緑色および青色の所定の空間周波数におけるMTF値を示し、横軸は光軸上の位置を示す。
 図18において、曲線MBa、MGa、MRaはそれぞれ、青色、緑色、赤色のMTF特性を示す。曲線MBa、MGa、MRaは、互いにオーバーラップしている。曲線MRb、MGb、MBbはそれぞれ、赤色、緑色、青色のMTF特性を示す。曲線MRb、MGb、MBbは、互いにオーバーラップしている。所定値Mdは、前述した「境界値」であり、この値以上のMTF値であれば、概ね焦点深度内である。
 実施の形態1と同様に、図18に示すWsの範囲では、第1の光学領域D1を通過した光線によるMTFと第2の光学領域D2を通過した光線によるMTFのいずれかが、所定値Md以上となる。
 ここで、第1の光学領域D1を通過した光線によって生成された画像から算出した鮮鋭度と、第2の光学領域D2を通過した光線によって生成された画像から算出した鮮鋭度をそれぞれ算出して、色毎に鮮鋭度の高い方の画像を選択して出力画像を生成するため、図18においてWsの範囲が概ね焦点深度となる。
 本実施の形態においても実施の形態1と同様に、第1の光学領域D1を通過した光線によって生成された第1のカラー画像の微小領域、および第2の光学領域D2を通過した光線によって生成された第2のカラー画像の微小領域のうち、それぞれの色における鮮鋭度の高い方の画像成分を用いて出力画像を生成することにより、簡単な手法によって出力画像の鮮鋭度を高めることができる。また、図18に示すように、範囲Wsのどの位置に撮像面が配置した場合にも、3色全ての鮮鋭度を所定値Mdよりも大きくすることができる。したがって、従来よりも焦点深度を大幅に拡大することができるため、十分に大きな被写界深度を得ることができる。さらに、本実施形態によると、フォーカス状態を検出する手段や調整を行う手段を用いずに、より様々な被写体距離の被写体を撮影することができる。
 本実施形態では、黒色を背景とした赤、緑または青の単色の被写体を撮像する場合、第1、第2の光学領域D1、D2を通過した光線によってそれぞれ生成された画像のいずれかでは、被写体の色の鮮鋭度は所定値Mdよりも大きくなっている。そのため、鮮鋭度の高い画像を生成することができる。
  (実施の形態3)
 本実施の形態3は、光学素子L1において回折格子形状を有する第2の光学領域D2に光学調整層Oを設けた点で、実施の形態2と異なっている。
 図19(a)は、第2の光学領域D2における回折面上に設けた光学調整層を示す断面図である。実施の形態2の図12に示すような回折面形状では、特定の波長のみ回折効率が100%となり、それ以外の波長帯域では不要回折光が生じ、回折効率が低下するため画質が低下する。一方、本実施の形態のように光学調整層を設けることにより、広い波長帯域において回折効率を高く維持することができる。具体的には、図19(a)のブレーズ段差dは、波長λ、基材Gの屈折率n1、および光学調整層Oの屈折率n2を用いて式(3)で表すことができ、波長が変化してもdが一定となるようなn1とn2の材料が設定されている。
Figure JPOXMLDOC01-appb-M000003
 このような構成により、第2の光学領域D2を通過した光線において、広い波長帯域で回折効率を高く維持することができるため、画素P2によって生成された画像の画質を実施の形態1に比べて高めることができる。これにより、演算処理部で生成される画像の画質を高めることができる。
 光学調整層Oとしては、光学素子L1の基材よりも高い屈折率およびアッベ数の大きい材料、または光学素子L1の基材よりも低い屈折率およびアッベ数の小さい材料を用いることができる。このような材料を用いることにより、1次回折効率の波長依存性を低減することができる。光学素子L1の基材がポリカーボネートである場合、光学調整層Oとしては、例えば酸化ジルコニウムを樹脂中に分散させたコンポジット材料を用いればよい。
 なお、図19(a)は、第2の光学領域D2の面回折面形状の上面部のみに光学調整層を設けているが、このような構成を実現するのが製造上困難である場合には、図19(b)のように第1、第2の光学領域D1、D2の両方に光学調整層を設けても良い。このような構成にすることにより、図19(a)の構成に比べて、簡単に光学調整層を設けることができる。
  (実施の形態4)
 本実施の形態4は、光学素子L1の領域分割を4つにした点と、アレイ状光学素子をレンチキュラからマイクロレンズに置き換えた点で、実施の形態1と異なっている。図20は、光学素子L1を被写体側から見た正面図である。光学素子L1における第1から第4の光学領域D1からD4は、光軸Vを境界中心として上下左右に4分割されており、各光学領域は、互いに曲率半径の異なる球面レンズである。図20において、破線sは、絞りSの位置を示している。
 第3の光学領域D3は第1、第2の光学領域D1、D2と異なる光学パワーを有する。具体的には、第3の光学領域D3は、第1、第2の光学領域D1、D2のそれぞれの領域を通過した赤色、緑色および青色の光の集光位置に対して、赤色、緑色および青色のそれぞれの光の集光位置を異ならせる性質を有する。
 同様に、第4の光学領域D4は第1、第2、第3の光学領域D1、D2、D3と異なる光学パワーを有する。具体的には、第4の光学領域D4は、第1、第2、第3の光学領域D1、D2、D3のそれぞれの領域を通過した赤色、緑色および青色の光の集光位置に対して、赤色、緑色および青色のそれぞれの光の集光位置を異ならせる性質を有する。
 図21(a)は、アレイ状光学素子Kと撮像素子Nとを拡大して示す図であり、図21(b)は、アレイ状光学素子Kと撮像素子N上の画素との位置関係を示す図である。アレイ状光学素子Kは、実施の形態1と同様に、レンズ光学系Lの焦点近傍に配置されており、かつ撮像面Niから所定の距離だけ離れた位置に配置されている。また、撮像面Ni上には、赤色の光を検出する画素P1R、P2R、P3R、P4R、緑色の光を検出する画素P1G、P2G、P3G、P4G、青色の光を検出する画素P1B、P2B、P3B、P4Bが設けられている。赤色の光を検出する画素P1R、P2R、P3R、P4Rの表面には赤色の光を透過するフィルタが、緑色の光を検出する画素P1G、P2G、P3G、P4Gの表面には緑色の光を透過するフィルタが、青色の光を検出する画素P1B、P2B、P3B、P4Bの表面には青色の光を透過するフィルタが設けられている。このように、各画素Pのそれぞれの表面に異なる波長帯域の光を透過するフィルタが設けられていることにより、各画素は、R(赤)、G(緑)、B(青)の光のいずれかの色の光を主に検出することができる。また、画素P1c~P4c(cは、R,G,B)の表面を覆うようにマイクロレンズMsが設けられている。
 また、アレイ状光学素子Kは、光学要素M2が形成された面が撮像面Ni側に向うように配置されている。アレイ状光学素子Kは、その光学要素M2の1つが、撮像面Niにおける2行2列の画素P1c~P4c(cは、R,G,B)の4つの画素に対応するように配置されている。
 このような構成により、図20に示す光学素子L1上の第1から第4の光学領域D1からD4を通過した光束の大部分は、それぞれ撮像面Ni上の各色の画素P1cからP4c(cは、R,G,B)に到達する。
 図22は、アレイ状光学素子Kの斜視図である。アレイ状光学素子Kにおける撮像素子N側の面には、光学要素M2が格子状に配置されている。それぞれの光学要素M2の断面(縦方向および横方向それぞれの断面)は円弧状であり、それぞれの光学要素M2は、撮像素子N側に突出している。このように、光学要素M2はマイクロレンズであり、アレイ状光学素子Kは、マイクロレンズアレイとなっている。
 前述の通り、光学素子L1における第1から第4の光学領域D1からD4は、互いに曲率半径の異なる球面レンズであるため、焦点の位置を4段階にずらして各色の画素P1cからP4c(cは、R,G,B)に入射する。
 複数の画素P1c、P2c、P3c、P4c(cは、R,G,B)のそれぞれによって、第1、第2、第3、第4の画像情報が得られる。演算処理部C(図1等に示す)は、撮像素子Nにおいて得られた画像情報を、第1、第2、第3、第4の画像情報に分離し、画素毎に欠落している色情報については、実施の形態1と同様に補完処理する事により、第1、第2、第3、第4のカラー画像を生成する。さらに、演算処理部Cは、第1、第2、第3、第4のカラー画像の所定領域のうち最も鮮鋭度(またはコントラスト)の高い画像成分を用いて、出力画像を生成する。
 このような構成により、実施の形態1や実施の形態2よりも焦点深度を深くすることができ、さらに被写界深度を拡大することができる。
 なお、本実施の形態4では光学素子L1における被写体側の面の全体を球面としているが、光学素子L1における被写体側の面のうち少なくとも1つの光学領域に位置する部分が平面であってもよいし、一部の光学領域に位置する部分が非球面であってもよい。あるいは、光学素子L1における被写体側の面のうちの全体が非球面であってもよい。また、図23のように一部の光学領域が回折形状であってもよい。
(実施の形態5)
 本実施の形態5は、レンチキュラレンズやマイクロレンズアレイを撮像面上に形成したという点で、実施の形態1、4と異なる。ここでは、本実施形態において実施の形態1と同様の内容についての詳細な説明は省略する。
 図24(a)および(b)は、アレイ状光学素子Kおよび撮像素子Nを拡大して示す図である。本実施形態では、レンチキュラレンズ(またはマイクロレンズアレイ)であるアレイ状光学素子Kが、撮像素子Nの撮像面Ni上に形成されている。撮像面Niには、実施の形態1等と同様に、画素Pが行列状に配置されている。これら複数の画素Pに対して、1つのレンチキュラレンズの光学要素あるいは、1つのマイクロレンズが対応している。本実施の形態においても、実施の形態1、4と同様に、光学素子L1上の異なる領域を通過した光束を、それぞれ異なる画素に導くことができる。また、図24(b)は、本実施形態の変形例を示す図である。図24(b)に示す構成では、撮像面Ni上に、画素Pを覆うようにマイクロレンズMsが形成され、マイクロレンズMsの表面上にアレイ状光学素子Kが積層されている。図24(b)に示す構成では、図24(a)の構成よりも集光効率を高めることができる。
 実施の形態1のようにアレイ状光学素子Kが撮像素子Nと離れている場合、アレイ状光学素子Kと撮像素子Nとの位置合せが難しくなるが、本実施の形態5のように、アレイ状光学素子Kを撮像素子N上に形成することにより、ウエハプロセスによって位置合せが可能になる。したがって、位置合せが容易となり、位置合せ精度を向上させることができる。
  (実施の形態6)
 本実施の形態6は、第1、第2の光学領域D1、D2のそれぞれが、光軸を挟んで分けられた複数の領域である点と、アレイ状光学素子Kをレンチキュラからマイクロレンズに置き換えた点で、実施の形態1と異なっている。ここでは、実施の形態1と同様の内容についての詳細な説明は省略する。
 図25(a)は、光学素子L1を被写体側から見た正面図である。図25(a)において、光学素子L1は、レンズ光学系の光軸に垂直な平面において、光軸Vを中心とした回転対称の4つの領域(2つの第1の光学領域D1および2つの第2の光学領域D2)に分割されている。2つの第1の光学領域D1同士および2つの第2の光学領域D2同士が隣接しないように、第1、第2の光学領域D1、D2は交互に設けられている。2つの第1の光学領域D1は、互いに光軸を中心(接点)として点対称な関係にある。同様に、2つの第2の光学領域D2は、互いに光軸を中心(接点)として点対称な関係にある。
 図25(b)は、アレイ状光学素子Kと撮像素子N上の画素との位置関係を示す図である。本実施の形態6では、第1の光学領域D1を通過した光線は、奇数行奇数列の画素および偶数行偶数列の画素P1c(cは、R,G,B)に到達する。そのため、奇数行奇数列の画素によって得られた輝度値、および、偶数行偶数列の画素によって得られた輝度値が、第1のカラー画像の生成に用いられる。また、第2の光学領域D2を通過した光線は、偶数行奇数列の画素および奇数行偶数列の画素P2c(cは、R,G,B)に到達するため、偶数行奇数列の画素における輝度値、および奇数行偶数列の画素における輝度値が、第2のカラー画像の生成に用いられる。
 次に、本実施形態において得られる効果を、実施の形態1において得られる効果と比較して説明する。
 実施の形態1では、図2に示すように、第1の光学領域D1と第2の光学領域D2のそれぞれが、レンズ光学系の光軸に垂直な平面において、円形を2つに分割した半円形状の領域である。このため、各領域を通過した光の像面におけるスポット重心が被写体距離によって変化し、位置ずれが発生する場合がある。
 図26は、実施の形態1の構成において、第1の光学領域D1における光学素子L1の被写体側の面を平面、第2の光学領域D2における光学素子L1の被写体側の面を球面とした場合の、被写体距離毎の光線図、および、点像とその重心の変化について模式的に説明する図である。図26において、(a1)、(b1)および(c1)は、被写体距離毎の光線図を示している。図26の(a1)、(b1)および(c1)においては、被写体として物点Oを示している。ここでは、図26において図1と同様の符号の説明は省略する。図26の(a2)、(b2)および(c2)は、第1の光学領域D1を通過した物点Oの光がレンチキュラを介して奇数行の画素に到達することにより得られた点像を含む画像である。図26の(a3)、(b3)、(c3)は、第2の光学領域D2を通過した物点Oの像が、レンチキュラを介して偶数行の画素に到達することにより得られた点像を含む画像である。それぞれの画像において、物点Oの像は半円形状となる。図26の(a2)、(a3)、(b2)、(b3)、(c2)、(c3)には、それぞれの像の照度の重心(黒点)を示している。
 それぞれの画像は、奇数行の画素毎に抽出した画像((a2)、(b2)、(c2))、および偶数行の画素毎に抽出した画像((a3)、(b3)、(c3))を、補間処理によってY方向に2倍に引き伸ばしたものとして模式的に示している。
 図26に示す通り、物点Oの位置(被写体距離)によってスポット径は変化する。第1、第2の光学領域D1、D2のそれぞれを通過した光によって得られた画像はそれぞれ半円形状になるため、奇数行の画素の画像と偶数行の画素の画像のそれぞれにおける点像の重心間距離dは、物点の位置によって異なる。この重心間距離dが存在すると、視差(画像の鮮鋭度(またはコントラスト)を算出するときの誤差)となるため好ましくない。
 一方、本実施の形態6では、第1、第2の光学領域D1、D2のそれぞれは、光軸を中心として点対称に配置されているため、被写体距離が変化しても点像の重心間距離dは変化しない。
 図27は、本実施形態において、被写体距離毎の点像とその重心の変化について模式的に説明する図である。図27において、(a1)と(a2)、(b1)と(b2)および(c1)と(c2)は、マイクロレンズを介して物点Oを撮像した点像(半円で図示)とその重心(黒点)を示しており、それぞれ図27の(a1)、(b1)および(c1)に示す物点Oの被写体距離に対応している。
 図27の(a1)、(b1)および(c1)は、奇数行奇数列の画素および偶数行偶数列の画素によって得られた点像を含む画像である。図27の(a2)、(b2)および(c2)は、偶数行奇数列の画素および奇数行偶数列の画素によって得られた点像を含む画像である。図27に示すように、本実施の形態6では、それぞれの点像は、中心角が90°の扇形が光軸を中心として対向した形状になるため、奇数行奇数列および偶数行偶数列の画素によって得られた画像と偶数行奇数列および奇数行偶数列の画素によって得られた画像のそれぞれにおける点像の重心間距離dは常に0であり、被写体距離によって変化しない。
 このように、本実施の形態6においては、第1、第2の光学面領域D1、D2のそれぞれを、光軸を挟んで分離して配置することにより、被写体距離が変化しても取得した画像において視差が発生しないようにすることができる。これにより、視差に起因する画像の抽出位置のズレを抑制することができ、鮮鋭度(またはコントラスト)の劣化を抑制することができる。
(その他の実施形態)
 なお、第1の光学領域D1を通過した光の集光位置と、第2の光学領域D2を通過した光の集光位置とは、少なくとも2色以上の光において異なっていればよく、上述の実施の形態に記載のものに限定されない。2色以上の光の集光位置の違いがさらに小さいものでもよいし、さらに大きいものでもよい。
 なお、レンズL2は1枚の構成としているが、複数群または複数枚の構成のレンズであってもよい。
 また、光学素子L1は、絞りの位置に対して像面側に配置されているが、絞りの位置に対して被写体側に配置されていてもよい。
 また、前述の実施の形態1から6では、レンズ光学系Lは像側テレセントリック光学系としているが、像側非テレセントリック光学系であってもよい。図28(a)は、撮像部近傍を拡大して示す図である。図28(a)では、アレイ状光学素子Kを通過する光のうち1つの光学領域を通過する光束のみを示している。図28(a)に示すように、レンズ光学系Lが非テレセントリック光学系の場合には、撮像面の周辺部では、光線が斜めに入射するため、隣接画素に光が漏れてクロストークが発生しやすいが、図28(b)のようにアレイ状光学素子を画素配列に対してΔだけオフセットさせることにより、クロストークを低減させることができる。前記入射角は、像高によって異なるため、前記オフセット量Δは、撮像面への光束の入射角に応じて設定すればよい。なお、像側非テレセントリック光学系の場合、光学系の焦点における光線の入射角は、絞りSを通過する光線の位置と画角によって一義的に決定される。
 また、前述の実施の形態1では、レンチキュラレンズの1つの光学要素M1内でR(赤)、G(緑)、B(青)の3色の画素が繰り返し配列されているが、図29に示すように、レンチキュラレンズの1つの光学要素M1内でG(緑)、R(赤)の画素が繰り返し配列されており、その光学要素M1に隣り合う光学要素M1内では、B(青)、G(緑)の画素が繰り返し配列されている構成であってもよい。
 また、前述の実施の形態1では、アレイ状光学素子Kの各光学要素M1に対して異なる色の画素が繰り返し配列されているが、各画素が光学要素M1毎に色分けされていてもよい。光学要素がレンチキュラの場合、図30に示すように、アレイ状光学素子Kであるレンチキュラレンズの1つの光学要素M1に対応して、2行の画素Pが配置されている。例えば、2行の画素Pのうち上の行には画素P1が配置され、下の行には画素P2が配置されている。レンチキュラレンズの1つの光学要素M1に対応する各画素P1、P2は全て同じ色であってもよい。それぞれの画素P1、P2は、光学要素M1毎に色分けされ、繰り返し配列されている。
 また、本実施の形態2から6におけるマイクロレンズアレイの各光学要素(マイクロレンズ)は、光軸に対して回転対称形状であってもよい。以下、光軸に対して回転非対称な形状を有するマイクロレンズと比較して説明する。
 図31(a1)は、光軸に対して回転非対称な形状を有するマイクロレンズアレイを示す斜視図である。このようなマイクロレンズアレイは、アレイの上に四角柱状のレジストを形成して熱処理を行うことによりレジストの角部を丸め、そのレジストを用いてパターニングを行うことにより形成される。図31(a1)に示すマイクロレンズの等高線を図31(a2)に示す。回転非対称な形状を有するマイクロレンズでは、縦横方向(マイクロレンズの底面の四辺と平行な方向)と斜め方向(マイクロレンズの底面の対角線方向)との曲率半径が異なる。
 図31(a3)は、図31(a1)、(a2)に示すマイクロレンズを本発明のアレイ状光学素子に適用した場合の、光線追跡シミュレーションの結果を示す図である。図31(a3)では、アレイ状光学素子Kを通過する光のうち1つの光学領域を通過する光束のみを示しているが、このように回転非対称形状のマイクロレンズの場合、隣接の画素に光が漏れてクロストークが発生する。
 図31(b1)は、光軸に対して回転対称な形状を有するマイクロレンズアレイを示す斜視図である。このような回転対称形状のマイクロレンズは、熱インプリントやUVインプリント製法により、ガラス板等の上に形成することができる。
 図31(b2)に、回転対称形状のマイクロレンズの等高線を示す。回転対称な形状を有するマイクロレンズでは、縦横方向と斜め方向の曲率半径は等しい。
 図31(b3)は、図31(b1)、(b2)に示すマイクロレンズを本発明のアレイ状光学素子に適用した場合の、光線追跡シミュレーションの結果を示す図である。図31(b3)では、アレイ状光学素子Kを通過する光のうち1つの光学領域を通過する光束のみを示しているが、図31(a3)のようなクロストークは、発生していないことがわかる。このように、マイクロレンズを回転対称形状にすることにより、クロストークを低減させることができるため、より鮮鋭度(またはコントラスト)の高い画像を得ることができる。
 本発明にかかる撮像装置は、デジタルスチルカメラやデジタルビデオカメラ等の撮像装置として有用である。また、セキュリティカメラや自動車の周辺監視用および乗員監視用の撮像装置、医療用の撮像装置にも応用できる。
A             撮像装置
L             レンズ光学系
L1            光学素子
L2            レンズ
D1、D2、D3、D4   第1、第2、第3、第4の光学領域
S             絞り
K             アレイ状光学素子
N             撮像素子
Ni            撮像面
M1            アレイ状光学素子のレンチキュラ(光学要素)
M2            アレイ状光学素子のマイクロレンズ(光学要素)
P1、P2、P3、P4、P 撮像素子上の受光素子
C             演算処理部
O             光学調整層

Claims (17)

  1.  第1色、第2色および第3色の光が通過する第1の領域と、前記第1色、第2色および第3色の光が通過し、前記第1の領域を通過した前記第1色、第2色および第3色のそれぞれの光の集光位置に対して、少なくとも2色以上の光の集光位置を異ならせる光学パワーを有する第2の領域とを有するレンズ光学系と、
     前記レンズ光学系からの光が入射する複数の第1の画素と複数の第2の画素とを有する撮像素子と、
     前記レンズ光学系と前記撮像素子との間に配置され、前記第1の領域を通過した光を前記複数の第1の画素に入射させ、前記第2の領域を通過した光を前記複数の第2の画素に入射させるアレイ状光学素子と、
     出力画像を生成する演算処理部とを備え、
     前記演算処理部は、前記複数の第1の画素において得られた画素値を用いて、前記第1色、第2色および第3色のうち少なくとも1つの色の成分の第1の画像を生成し、前記複数の第2の画素において得られた画素値を用いて、前記少なくとも1つの色の成分と同じ色の成分を含む第2の画像を生成し、前記第1の画像の所定領域および前記第2の画像の所定領域のうち色ごとに鮮鋭度またはコントラスト値の高い方の画像成分を用いて、前記出力画像を生成する、撮像装置。
  2.  前記第1の領域を通過した前記第1色、前記第2色および前記第3色の光のうち、少なくとも2色の光の光軸上の集光位置は互いに異なり、
     前記第2の領域を通過した前記第1色、前記第2色および前記第3色の光のうち、少なくとも2色の光の光軸上の集光位置は互いに異なる、請求項1に記載の撮像装置。
  3.  前記第1の領域および前記第2の領域のうち少なくとも一方は、回折レンズ形状を有する、請求項1または2に記載の撮像装置。
  4.  前記回折レンズ形状の表面には光学調整層が設けられている、請求項3に記載の撮像装置。
  5.  前記第1の領域および前記第2の領域は、前記レンズ光学系の光軸を境界中心として分割された領域である、請求項1から4のいずれかに記載の撮像装置。
  6.  前記第1の領域は、前記レンズ光学系の光軸を挟んで互いに点対称に配置された複数の第1領域構成部を有し、
     前記第2の領域は、前記レンズ光学系の光軸を挟んで互いに点対称に配置された複数の第2領域構成部を有する、請求項1から5のいずれかに記載の撮像装置。
  7.  前記レンズ光学系は、前記第1、第2の領域以外の少なくとも第3の領域をさらに備え、
     前記第3の領域は、前記第1の領域および前記第2の領域をそれぞれ通過した前記第1色、第2色、第3色の光の集光位置に対して、前記第1色、前記第2色および前記第3色のうち少なくとも2色の集光位置を異ならせる光学パワーを有し、
     前記アレイ状光学素子は、前記第3の領域を通過した光を、前記複数の第1、第2の画素以外の複数の第3の画素に入射させ、
     前記演算処理部は、前記複数の第3の画素において得られた画素値を用いて、前記少なくとも1つの色の成分と同じ色の成分を含む第3の画像を生成し、前記複数の第1の画像の所定領域、前記第2の画像の所定領域および前記第3の画像の所定領域のうち、色ごとに最も鮮鋭度またはコントラスト値の高い画像成分を用いて、前記出力画像を生成する、請求項1から6のいずれかに記載の撮像装置。
  8.  前記レンズ光学系が像側テレセントリック光学系である、請求項1から7のいずれかに記載の撮像装置。
  9.  前記レンズ光学系は像側非テレセントリック光学系であって、
     前記レンズ光学系の光軸外において前記アレイ状光学素子の配列を前記撮像素子の前記第1の画素および前記第2の画素の配列に対してオフセットさせている、請求項1から7のいずれかに記載の撮像装置。
  10.  前記アレイ状光学素子はレンチキュラレンズまたはマイクロレンズアレイである、請求項1から9のいずれかに記載の撮像装置。
  11.  前記アレイ状光学素子はマイクロレンズアレイであって、
     前記マイクロレンズアレイは複数の光学要素を有し、
     前記複数の光学要素のそれぞれは、前記複数の第1の画素のうちの少なくとも1つおよび前記第2の画素のうちの少なくとも1つに対応し、
     前記複数の各光学要素のそれぞれは、光軸に対して回転対称な形状を有する、請求項1から9のいずれかに記載の撮像装置。
  12.  前記アレイ状光学素子は前記撮像素子上に形成されている、請求項1から11のいずれかに記載の撮像装置。
  13.  前記アレイ状光学素子と前記撮像素子との間に設けられたマイクロレンズをさらに備え、
     前記アレイ状光学素子は、前記マイクロレンズを介して前記撮像素子上に形成されている、請求項12に記載の撮像装置。
  14.  前記複数の第1の画素および前記複数の第2の画素のそれぞれは、異なる波長帯域の光を透過するフィルタを有する、請求項1から13のいずれかに記載の撮像装置。
  15.  前記アレイ状光学素子は複数の光学要素を有し、
     前記複数の光学要素のそれぞれは、前記複数の第1の画素のうちの少なくとも1つおよび前記第2の画素のうちの少なくとも1つに対応し、
     前記複数の光学要素のうちのそれぞれに対応する画素は同じ波長域の光を透過するフィルタを有する、請求項1から14のいずれかに記載の撮像装置。
  16.  前記レンズ光学系は絞りをさらに備え、
     前記第1の領域および前記第2の領域は、前記絞り近傍に配置されている、請求項1から15のいずれかに記載の撮像装置。
  17.  第1色、第2色および第3色の光が通過する第1の領域と、前記第1色、第2色および第3色の光が通過し、前記第1の領域を通過した前記第1色、第2色および第3色のそれぞれの光の集光位置に対して、少なくとも2色以上の光の集光位置を異ならせる光学パワーを有する第2の領域とを有するレンズ光学系と、
     前記レンズ光学系からの光が入射する複数の第1の画素と複数の第2の画素とを有する撮像素子と、
     前記レンズ光学系と前記撮像素子との間に配置され、前記第1の領域を通過した光を前記複数の第1の画素に入射させ、前記第2の領域を通過した光を前記複数の第2の画素に入射させるアレイ状光学素子と、
    を備える撮像装置と、
     前記複数の第1の画素において得られた画素値を用いて、前記第1色、第2色および第3色のうち少なくとも1つの色の成分の第1の画像を生成し、前記複数の第2の画素において得られた画素値を用いて、前記少なくとも1つの色の成分と同じ色の成分を含む第2の画像を生成し、前記第1の画像の所定領域および前記第2の画像の所定領域のうち色ごとに鮮鋭度の高い方の画像成分を用いて、前記出力画像を生成する演算処理部と、を備える撮像システム。
PCT/JP2012/000621 2011-06-23 2012-01-31 撮像装置 WO2012176355A1 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
EP12788104.3A EP2725802A4 (en) 2011-06-23 2012-01-31 IMAGING DEVICE
US13/700,184 US8836825B2 (en) 2011-06-23 2012-01-31 Imaging apparatus
CN201280001541.5A CN102959960B (zh) 2011-06-23 2012-01-31 摄像装置
JP2012551397A JP5406383B2 (ja) 2011-06-23 2012-01-31 撮像装置

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2011-139502 2011-06-23
JP2011139502 2011-06-23

Publications (1)

Publication Number Publication Date
WO2012176355A1 true WO2012176355A1 (ja) 2012-12-27

Family

ID=47422221

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2012/000621 WO2012176355A1 (ja) 2011-06-23 2012-01-31 撮像装置

Country Status (5)

Country Link
US (1) US8836825B2 (ja)
EP (1) EP2725802A4 (ja)
JP (1) JP5406383B2 (ja)
CN (1) CN102959960B (ja)
WO (1) WO2012176355A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015004886A1 (ja) * 2013-07-12 2015-01-15 パナソニックIpマネジメント株式会社 撮像装置

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5671842B2 (ja) * 2010-06-03 2015-02-18 株式会社ニコン 画像処理装置および撮像装置
WO2013114888A1 (ja) * 2012-02-02 2013-08-08 パナソニック株式会社 撮像装置
JP6396638B2 (ja) * 2013-03-29 2018-09-26 マクセル株式会社 位相フィルタ、撮像光学系、及び撮像システム
US9571731B2 (en) * 2013-08-01 2017-02-14 Corephotonics Ltd. Thin multi-aperture imaging system with auto-focus and methods for using same
WO2015059346A1 (en) * 2013-10-25 2015-04-30 Nokia Technologies Oy An apparatus and a method for producing a depth-map
JP6136019B2 (ja) * 2014-02-03 2017-05-31 パナソニックIpマネジメント株式会社 動画像撮影装置、および、動画像撮影装置の合焦方法
CN104730688B (zh) * 2015-04-17 2017-01-11 张家港中贺自动化科技有限公司 一种宽视场高分辨率光学系统
US9894285B1 (en) * 2015-10-01 2018-02-13 Hrl Laboratories, Llc Real-time auto exposure adjustment of camera using contrast entropy
US11699215B2 (en) * 2017-09-08 2023-07-11 Sony Corporation Imaging device, method and program for producing images of a scene having an extended depth of field with good contrast
WO2020215046A1 (en) 2019-04-19 2020-10-22 Arizona Board Of Regents On Behalf Of The University Of Arizona On-chip signal processing method and pixel-array sensor
WO2020215050A1 (en) * 2019-04-19 2020-10-22 Arizona Board Of Regents On Behalf Of The University Of Arizona All-in-focus imager and associated method
WO2023227545A1 (en) * 2022-05-24 2023-11-30 Nil Technology Aps Reconstructing an image from multiple images

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000152281A (ja) * 1998-11-09 2000-05-30 Sony Corp 撮像装置
JP2003523646A (ja) * 1999-02-25 2003-08-05 ヴィジョンセンス リミテッド 光学装置
JP2004191893A (ja) * 2002-12-13 2004-07-08 Canon Inc 撮像装置
JP2006184065A (ja) * 2004-12-27 2006-07-13 Matsushita Electric Ind Co Ltd 物体検出装置
JP2006184844A (ja) * 2004-12-03 2006-07-13 Tochigi Nikon Corp 結像光学系及びこれを用いた撮像装置
JP2008532449A (ja) 2005-03-07 2008-08-14 ディーエックスオー ラブズ カラーデジタル画像を使用する、機能すなわち鮮鋭度の変更を活動化する方法
WO2011052172A1 (ja) * 2009-10-27 2011-05-05 パナソニック株式会社 撮像装置およびそれを用いた測距装置
WO2012017577A1 (ja) * 2010-08-06 2012-02-09 パナソニック株式会社 撮像装置および撮像方法

Family Cites Families (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0442207A (ja) 1990-06-08 1992-02-12 Kyocera Corp オートフォーカス装置
JP2001174696A (ja) 1999-12-15 2001-06-29 Olympus Optical Co Ltd カラー撮像装置
JP2004241991A (ja) 2003-02-05 2004-08-26 Minolta Co Ltd 撮像装置、画像処理装置及び画像処理プログラム
JP2005142869A (ja) * 2003-11-06 2005-06-02 Pentax Corp 光学機器、望遠鏡本体および望遠鏡
US7242478B1 (en) 2003-12-05 2007-07-10 Surface Optics Corporation Spatially corrected full-cubed hyperspectral imager
US7433042B1 (en) 2003-12-05 2008-10-07 Surface Optics Corporation Spatially corrected full-cubed hyperspectral imager
JP2007017401A (ja) 2005-07-11 2007-01-25 Central Res Inst Of Electric Power Ind 立体画像情報取得方法並びに装置
JP5012135B2 (ja) 2007-03-28 2012-08-29 コニカミノルタアドバンストレイヤー株式会社 超深度画像生成装置
JP4967873B2 (ja) 2007-07-13 2012-07-04 ソニー株式会社 撮像装置
JP5078148B2 (ja) * 2008-03-10 2012-11-21 株式会社リコー 画像処理装置及び画像撮像装置
JP4966894B2 (ja) 2008-03-18 2012-07-04 株式会社リコー 画像撮像装置
GB2463480A (en) 2008-09-12 2010-03-17 Sharp Kk Camera Having Large Depth of Field
JP5515396B2 (ja) 2009-05-08 2014-06-11 ソニー株式会社 撮像装置
JP5246424B2 (ja) 2009-05-11 2013-07-24 ソニー株式会社 撮像装置
FR2949003B1 (fr) * 2009-08-10 2017-09-08 Dxo Labs Systeme et procede de capture d'images avec deux modes de fonctionnement
US8143565B2 (en) 2009-09-30 2012-03-27 Ricoh Co., Ltd. Adjustable multimode lightfield imaging system having an actuator for changing position of a non-homogeneous filter module relative to an image-forming optical module
JP5446797B2 (ja) * 2009-12-04 2014-03-19 株式会社リコー 撮像装置
JP5421364B2 (ja) * 2010-01-05 2014-02-19 パナソニック株式会社 3次元撮像装置
JP2012003080A (ja) * 2010-06-17 2012-01-05 Olympus Corp 撮像装置
CN103155543B (zh) 2010-10-01 2014-04-09 富士胶片株式会社 成像设备
WO2012066741A1 (ja) 2010-11-16 2012-05-24 株式会社ニコン マルチバンドカメラ及びマルチバンド画像撮像方法
US9250131B2 (en) 2011-01-17 2016-02-02 Ricoh Co., Ltd. Multi-imaging system with interleaved images
CN102959939A (zh) * 2011-06-27 2013-03-06 松下电器产业株式会社 摄像装置
JP5358039B1 (ja) * 2011-11-30 2013-12-04 パナソニック株式会社 撮像装置

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000152281A (ja) * 1998-11-09 2000-05-30 Sony Corp 撮像装置
JP2003523646A (ja) * 1999-02-25 2003-08-05 ヴィジョンセンス リミテッド 光学装置
JP2004191893A (ja) * 2002-12-13 2004-07-08 Canon Inc 撮像装置
JP2006184844A (ja) * 2004-12-03 2006-07-13 Tochigi Nikon Corp 結像光学系及びこれを用いた撮像装置
JP2006184065A (ja) * 2004-12-27 2006-07-13 Matsushita Electric Ind Co Ltd 物体検出装置
JP2008532449A (ja) 2005-03-07 2008-08-14 ディーエックスオー ラブズ カラーデジタル画像を使用する、機能すなわち鮮鋭度の変更を活動化する方法
WO2011052172A1 (ja) * 2009-10-27 2011-05-05 パナソニック株式会社 撮像装置およびそれを用いた測距装置
WO2012017577A1 (ja) * 2010-08-06 2012-02-09 パナソニック株式会社 撮像装置および撮像方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP2725802A4 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015004886A1 (ja) * 2013-07-12 2015-01-15 パナソニックIpマネジメント株式会社 撮像装置
JPWO2015004886A1 (ja) * 2013-07-12 2017-03-02 パナソニックIpマネジメント株式会社 撮像装置

Also Published As

Publication number Publication date
EP2725802A4 (en) 2014-07-02
EP2725802A1 (en) 2014-04-30
US20130215299A1 (en) 2013-08-22
JP5406383B2 (ja) 2014-02-05
CN102959960B (zh) 2015-04-01
JPWO2012176355A1 (ja) 2015-02-23
US8836825B2 (en) 2014-09-16
CN102959960A (zh) 2013-03-06

Similar Documents

Publication Publication Date Title
JP5406383B2 (ja) 撮像装置
JP5831105B2 (ja) 撮像装置及び撮像方法
JP5144841B1 (ja) 撮像装置
JP5682437B2 (ja) 固体撮像素子、固体撮像装置、撮像機器、及び、偏光素子の製造方法
JP5490309B2 (ja) 撮像装置および測距装置
JP5454424B2 (ja) 撮像方法
US8988582B2 (en) Multi-channel image sensors
KR101265432B1 (ko) 촬상 소자 및 이것을 사용하는 촬상 장치
WO2012017577A1 (ja) 撮像装置および撮像方法
WO2011148851A1 (ja) 撮像装置及び撮像方法
JP5001471B1 (ja) 撮像装置、撮像システム、及び撮像方法
JP5254291B2 (ja) 固体撮像装置
JP2006033493A (ja) 撮像装置
JP2012235472A (ja) 撮像装置、撮像システム、及び撮像方法
JP2012170026A (ja) 撮像装置、画像処理方法およびプログラム
JP4796666B2 (ja) 撮像装置およびそれを用いた測距装置
WO2015053113A1 (ja) 撮像装置及び電子機器
JP2013102322A (ja) 撮像装置及び撮像方法
US11889186B2 (en) Focus detection device, focus detection method, and image capture apparatus
JP6600217B2 (ja) 画像処理装置および画像処理方法、撮像装置およびその制御方法
WO2013038595A1 (ja) 撮像装置
JP2015166723A (ja) 撮像装置および撮像システム
JP6825231B2 (ja) 撮像光学系及び撮像装置
JP2013219180A (ja) 撮像素子および撮像装置
JP2008166436A (ja) 撮像素子及びそれを有する撮像装置

Legal Events

Date Code Title Description
WWE Wipo information: entry into national phase

Ref document number: 201280001541.5

Country of ref document: CN

ENP Entry into the national phase

Ref document number: 2012551397

Country of ref document: JP

Kind code of ref document: A

WWE Wipo information: entry into national phase

Ref document number: 13700184

Country of ref document: US

WWE Wipo information: entry into national phase

Ref document number: 2012788104

Country of ref document: EP

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 12788104

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE