JPWO2006068129A1 - 撮像装置およびその製造方法 - Google Patents
撮像装置およびその製造方法 Download PDFInfo
- Publication number
- JPWO2006068129A1 JPWO2006068129A1 JP2006548994A JP2006548994A JPWO2006068129A1 JP WO2006068129 A1 JPWO2006068129 A1 JP WO2006068129A1 JP 2006548994 A JP2006548994 A JP 2006548994A JP 2006548994 A JP2006548994 A JP 2006548994A JP WO2006068129 A1 JPWO2006068129 A1 JP WO2006068129A1
- Authority
- JP
- Japan
- Prior art keywords
- correction coefficient
- imaging
- origin
- intensity
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N17/00—Diagnosis, testing or measuring for television systems or their details
- H04N17/002—Diagnosis, testing or measuring for television systems or their details for television cameras
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
- H04N23/13—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with multiple sensors
- H04N23/15—Image signal generation with circuitry for avoiding or correcting image misregistration
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/50—Constructional details
- H04N23/54—Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/57—Mechanical or electrical details of cameras or camera modules specially adapted for being embedded in other devices
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
- H04N23/673—Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/131—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements including elements passing infrared wavelengths
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/135—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/40—Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
- H04N25/41—Extracting pixel data from a plurality of image sensors simultaneously picking up an image, e.g. for increasing the field of view by combining the outputs of a plurality of sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/67—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response
-
- H—ELECTRICITY
- H01—ELECTRIC ELEMENTS
- H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
- H01L2224/00—Indexing scheme for arrangements for connecting or disconnecting semiconductor or solid-state bodies and methods related thereto as covered by H01L24/00
- H01L2224/01—Means for bonding being attached to, or being formed on, the surface to be connected, e.g. chip-to-package, die-attach, "first-level" interconnects; Manufacturing methods related thereto
- H01L2224/42—Wire connectors; Manufacturing methods related thereto
- H01L2224/44—Structure, shape, material or disposition of the wire connectors prior to the connecting process
- H01L2224/45—Structure, shape, material or disposition of the wire connectors prior to the connecting process of an individual wire connector
- H01L2224/45001—Core members of the connector
- H01L2224/45099—Material
- H01L2224/451—Material with a principal constituent of the material being a metal or a metalloid, e.g. boron (B), silicon (Si), germanium (Ge), arsenic (As), antimony (Sb), tellurium (Te) and polonium (Po), and alloys thereof
- H01L2224/45138—Material with a principal constituent of the material being a metal or a metalloid, e.g. boron (B), silicon (Si), germanium (Ge), arsenic (As), antimony (Sb), tellurium (Te) and polonium (Po), and alloys thereof the principal constituent melting at a temperature of greater than or equal to 950°C and less than 1550°C
- H01L2224/45144—Gold (Au) as principal constituent
-
- H—ELECTRICITY
- H01—ELECTRIC ELEMENTS
- H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
- H01L2224/00—Indexing scheme for arrangements for connecting or disconnecting semiconductor or solid-state bodies and methods related thereto as covered by H01L24/00
- H01L2224/01—Means for bonding being attached to, or being formed on, the surface to be connected, e.g. chip-to-package, die-attach, "first-level" interconnects; Manufacturing methods related thereto
- H01L2224/42—Wire connectors; Manufacturing methods related thereto
- H01L2224/47—Structure, shape, material or disposition of the wire connectors after the connecting process
- H01L2224/48—Structure, shape, material or disposition of the wire connectors after the connecting process of an individual wire connector
- H01L2224/4805—Shape
- H01L2224/4809—Loop shape
- H01L2224/48091—Arched
-
- H—ELECTRICITY
- H01—ELECTRIC ELEMENTS
- H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
- H01L2924/00—Indexing scheme for arrangements or methods for connecting or disconnecting semiconductor or solid-state bodies as covered by H01L24/00
- H01L2924/15—Details of package parts other than the semiconductor or other solid state devices to be connected
- H01L2924/161—Cap
- H01L2924/1615—Shape
- H01L2924/16195—Flat cap [not enclosing an internal cavity]
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- General Health & Medical Sciences (AREA)
- Studio Devices (AREA)
- Color Television Image Signal Generators (AREA)
Abstract
部品精度のばらつきや組み立てのばらつきがあっても、各色光が同様の光量分布を有する撮像信号を得られる小型、薄型の撮像装置を提供する。それぞれが少なくとも1枚のレンズを含む複数のレンズ部(113)と、前記複数のレンズ部に一対一に対応し、対応する前記レンズ部の光軸方向に対して略垂直な受光面をそれぞれ備える複数の撮像領域と、前記複数の撮像領域からそれぞれ出力される複数の撮像信号が入力される撮像信号入力部(133)と、撮像領域の位置により補正の度合が変化するように、それぞれの前記撮像信号の強度を補正する強度補正部と、を有する撮像装置(101)である。
Description
本発明は、小型、薄型の撮像装置とその製造方法に関する。
従来の撮像装置として、例えば特開2001−78213号公報に開示された撮像装置がある。図50は、従来の撮像装置の構成を示す断面図である。
図50において、撮像系9010は、物体からの光を絞り9110及び撮像レンズ9100を介して撮像素子9120の撮像面に結像する光学処理系である。絞り9110は、3つの円形開口9110a、9110b、9110cを有する。開口9110a、9110b、9110cの各々から撮像レンズ9100の光入射面9100eに入射した物体光は、撮像レンズ9100の3つのレンズ部9100a、9100b、9100cから射出して撮像素子9120の撮像面上に3つの物体像を形成する。撮像レンズ9100の平面部9100dには遮光性膜が形成されている。撮像レンズ9100の光入射面9100e上には互いに異なる波長帯域の光を透過させる3つの光学フィルタ9052a、9052b、9052cが形成されている。また、撮像素子9120上の3つの撮像領域9120a、9120b、9120c上にも、互いに異なる波長帯域の光を透過させる3つの光学フィルタ9053a、9053b、9053cが形成されている。光学フィルタ9052aと光学フィルタ9053aは、主に緑色(Gで示す)を透過する分光透過率特性を有し、光学フィルタ9052bと光学フィルタ9053bは、主に赤色(Rで示す)を透過する分光透過率特性を有し、さらに、光学フィルタ9052cと光学フィルタ9053cは、主に青色(Bで示す)を透過する分光透過率特性を有する。そのため、撮像領域9120aは緑色光(G)に対して、撮像領域9120bは赤色光(R)に対して、撮像領域9120cは青色光(B)に対して、それぞれ感度を持つ。
このような複数の撮像レンズを備えた撮像装置では、カメラモジュールから物体までの距離が変化すると、撮像素子9120の撮像面上に複数の撮像レンズがそれぞれ形成する複数の物体像の相互間隔が変化する。
上記の従来のカメラモジュールでは、仮想被写体距離D[m]を複数の結像系の撮影画角θ[°]の関数として、D=1.4/(tan(θ/2))と定義したとき、物体が仮想被写体距離D[m]にあるときの複数の物体像の相互間隔と無限遠にあるときの複数の物体像の相互間隔との変化が、基準画像信号の画素ピッチの2倍よりも小さくなるように、複数の結像系の光軸間隔が設定されている。すなわち、仮想被写体距離D[m]にある物体の撮影に最適化された画像処理と同一の画像処理を、無限遠にある物体の撮影に対して行っても、撮像面上での両物体像の相互間隔の差が基準信号の画素ピッチの2倍より小さくなるように光軸間隔が設定されているので、無限遠にある物体像の色ズレを許容可能なレベルに抑えることができる。
従来の撮像装置において、撮像レンズ9100の3つのレンズ部9100a、9100b、9100cの光軸は、それぞれ絞り9110の3つの円形開口9110a、9110b、9110cの中心、および撮像領域9120a、9120b、9120cの中心を通るように配置される。しかしながら、部品精度のばらつき、組み立てのばらつきなどにより、撮像レンズ9100の3つのレンズ部9100a、9100b、9100cの光軸は、それぞれ絞り9110の3つの円形開口9110a、9110b、9110cの中心からずれることがある。レンズの固有の特性として、撮像素子9120の撮像面において、中心部と比較し周辺部は光量(周辺光量)が減少するが、撮像レンズ9100の3つのレンズ部9100a、9100b、9100cの光軸と絞り9110の3つの円形開口9110a、9110b、9110cの中心とがそれぞれ異なる方向にずれるとき、周辺光量の減少度合がそれぞれ異なる。
図51は、絞りとレンズ部と周辺光量の関係を説明する図である。図51において、簡単のため、レンズ9100、絞り9110、および撮像素子9120のみが示されている。また、G,R,Bで示される曲線は、それぞれ緑色、赤色、青色の光量の大きさを示す。ここで、図51に示すとおり、紙面の上向きをy方向の正の向きとする。図51のように、円形開口9110bの中心がレンズ部9100bの光軸と一致するとき、撮像素子9120の撮像面において、周辺光量はy方向の正負の向きに対称に減少する(Rで示した曲線分布になる)。そのため、赤色の光量分布は、y方向に関して正負対称である。しかし、レンズ9100や絞り9110の加工精度のばらつきなどにより、円形開口9110aの中心がレンズ部9100aの光軸よりy方向で負の向きにずれるとき、撮像素子9120の撮像面において、周辺光量はy方向に負向きの減少度合が大きい(Gで示した曲線分布になる)。そのため、緑色の光量分布は、y方向に関して正向きが大きい。一方、レンズ9100や絞り9110の加工精度のばらつきなどにより、円形開口9110cの中心がレンズ部9100cの光軸よりy方向で正の向きにずれるとき、撮像素子9120の撮像面において、周辺光量はy方向に正向きの減少度合が大きい(Bで示した曲線分布になる)。そのため、青色の光量分布は、y方向に関して負向きが大きい。なお、図51のようなばらつきは、絞り9110とレンズ9100とが樹脂から構成され、熱成形により作成されるとき、組成違いによる熱膨張率の違いから、発生する可能性を有する。
図52は、緑色成分と赤色成分と青色成分の光量分布を示す図である。横軸はy軸を示し、縦軸は光量の大きさを示す。上述のようなばらつきを持つとき、例えば灰色の被写体を撮影し画像合成した場合、図52のように、赤色の光量分布(Rで示した曲線)は、y方向に関して正負対称であり、緑色の光量分布(Gで示した曲線)は、y方向に関して正向きが大きく、青色の光量分布(Bで示した曲線)は、y方向に関して負向きが大きいため、y方向の中央部が赤色に、正の位置が緑色に、負の位置が青色になるというように、実際の被写体の色(この例では灰色)以外の色(偽色)が発生する。すなわち、複数のレンズ部を持ち、それぞれのレンズ部に対応する撮像領域において、被写体の赤色光、緑色光、青色光を独立に受光する従来の撮像装置は、光量分布に偏りがあるとき、赤色光、緑色光、青色光が異なる光量となるため、偽色が発生する。
このように、部品精度のばらつき、組み立てのばらつきなどにより、撮像レンズ9100の3つのレンズ部9100a、9100b、9100cの光軸が、それぞれ絞り9110の3つの円形開口9110a、9110b、9110cの中心からずれると偽色が発生する。
なお、1つのレンズ部と1つの撮像領域から構成され、撮像領域にベイヤー配列のカラーフィルタが配置された撮像素子(例えば、撮像素子がCCDであり、撮像素子の表面に赤色、緑色、青色の3つの異なるカラーフィルタが格子状に配置され、そのカラーフィルタがそれぞれ1つのフォトダイオードに対応するもの)を有する撮像装置では上記の問題は発生しない。すなわち、上述のような部品精度のばらつき、組み立てのばらつきなどにより、レンズ部が絞りの中心からずれ、光量が偏っても、赤色、緑色、青色のカラーフィルタは互いに格子状に近接して配置され、被写体の赤色光、緑色光、青色光をそれぞれ近接した撮像領域で受光するため、赤色光、緑色光、青色光が同様の光量分布となるため、偽色が発生しない。しかし、このような1つのレンズ部と1つの撮像素子から構成された撮像装置は、光学長が長いため、小型化、薄型化できない。
本発明は、上記問題に鑑みなされたもので、部品精度のばらつきや組み立てのばらつきがあっても、各色光が同様の光量分布を有する撮像信号を得られる小型、薄型の撮像装置を提供することを目的とする。
本発明の撮像装置は、それぞれが少なくとも1枚のレンズを含む複数のレンズ部と、前記複数のレンズ部に一対一に対応し、対応する前記レンズ部の光軸方向に対して略垂直な受光面をそれぞれ備える複数の撮像領域と、前記複数の撮像領域からそれぞれ出力される複数の撮像信号が入力される撮像信号入力部と、前記撮像領域の強度むらの情報である強度補正係数を保存する強度補正係数保存部と、前記強度補正係数を用いて、前記撮像領域の強度むらの影響を低減するように前記複数の撮像信号のそれぞれの強度を補正する強度補正部とを有する。
本発明は、部品精度のばらつきや組み立てのばらつきがあっても、各色光が同様の光量分布を有する撮像信号を得られる小型、薄型の撮像装置を提供することができる。
本発明の撮像装置は、それぞれが少なくとも1枚のレンズを含む複数のレンズ部と、前記複数のレンズ部に一対一に対応し、対応する前記レンズ部の光軸方向に対して略垂直な受光面をそれぞれ備える複数の撮像領域と、前記複数の撮像領域からそれぞれ出力される複数の撮像信号が入力される撮像信号入力部と、前記撮像領域の強度むらの情報である強度補正係数を保存する強度補正係数保存部と、前記強度補正係数を用いて、前記撮像領域の強度むらの影響を低減するように前記複数の撮像信号のそれぞれの強度を補正する強度補正部とを有する。
部品精度のばらつきや組み立てのばらつきがあると、各色によって光軸中心に対し光量分布が偏り、偽色が発生する。本発明の撮像装置によれば、強度補正係数を保存し、強度補正係数に基づき、撮像領域の強度むらの影響を低減するように撮像信号の強度を補正することにより、光量分布の偏りを補償できる、これにより、補正後の撮像信号から例えば画像を合成する場合に、偽色の発生を抑制し、きれいな画像を合成することができる。
上記の撮像装置において、前記複数の撮像領域のうち少なくとも2つの前記撮像領域に対する入射光の光路上に、第1の波長を略中心とする透過特性を有する光学素子をさらに備え、その他の撮像領域に対する入射光の光路上に、前記第1の波長と異なる波長を略中心とする透過特性を有する光学素子をさらに備えたことが好ましい。さらに、前記強度補正部は、前記複数の撮像領域のうち、少なくとも前記第1の波長を略中心とする透過特性を有する光学素子を透過した光線を受光する撮像領域に対応した前記撮像信号の強度を補正することが好ましい。なお、前記第1の波長は、例えば、人間の視覚に略緑として認識される波長であることが好ましい。
上記の撮像装置において、前記強度補正部により強度を補正された撮像信号に基づき、前記複数のレンズ部がそれぞれ形成する像間の視差を求める視差演算部と、前記視差に基づいて前記複数の撮像信号を補正し画像を合成する視差補正部とをさらに有することが好ましい。
部品精度のばらつきや組み立てのばらつきがあると、各色によって光軸中心に対し光量分布が偏り、視差を正しく求められない。この好ましい構成によれば、撮像信号の強度を補正して光量分布の偏りを補償し、補正された撮像信号に基づき視差を求めるため、正しい視差を求めることができる。また、正しい視差に基づき視差の影響を低減するように画像合成するため、きれいな画像を合成することができる。
あるいは、上記の撮像装置において、前記強度補正部により強度を補正された撮像信号に基づき、前記複数のレンズ部がそれぞれ形成する像間の視差を求める視差演算部と、前記視差に基づいて被写体に対する距離を求める距離演算部とをさらに有することが好ましい。
部品精度のばらつきや組み立てのばらつきがあると、各色によって光軸中心に対し光量分布が偏り、視差を正しく求められない。この好ましい構成によれば、撮像信号の強度を補正して光量分布の偏りを補償し、補正された撮像信号に基づき視差を求めるため、正しい視差を求めることができる。また、正しい視差に基づいて、被写体に対する距離を正しく求めることができる。
上記の撮像装置において、前記複数の撮像信号のうちの少なくとも1つの撮像信号を複数のブロックに分割するブロック分割部をさらに有し、前記視差演算部は、前記ブロックごとに前記複数のレンズ部がそれぞれ形成する像間の視差を演算することが好ましい。
この構成によれば、複数の撮像信号のうちの少なくとも1つの撮像信号を複数のブロックに分割し、同一波長特性の透過特性素子を透過した光線を受光する少なくとも2つの撮像領域に対応した撮像信号の強度を補正し、光量分布の偏りを補償し、補正された撮像信号に基づきブロック毎に正しい視差を求めることができる。また、この正しい視差に基づきブロック毎に視差の影響を低減するように画像合成するため、きれいな画像を合成することができる。あるいは、この正しい視差に基づき被写体に対する距離を正しく求めることができる。
上記の撮像装置において、前記複数のレンズ部の光軸の原点と撮像信号の原点との対応に関する情報である原点補正係数を保存する原点補正係数保存部と、
前記原点補正係数に基づき前記複数の撮像信号のそれぞれの原点を補正する原点補正部とをさらに有することが好ましい。
前記原点補正係数に基づき前記複数の撮像信号のそれぞれの原点を補正する原点補正部とをさらに有することが好ましい。
上記の撮像装置において、前記レンズ部の歪曲の情報である歪曲補正係数を保存する歪曲補正係数保存部と、前記歪曲補正係数に基づき前記複数のレンズ部の歪曲の影響を低減するように前記複数の撮像信号のそれぞれを補正する歪曲補正部とをさらに有することが好ましい。
上記の撮像装置において、前記強度補正部が、前記複数の撮像信号を、強度レベルが互いに等しくなるよう補正することが好ましい。
また、本発明にかかる撮像装置の製造方法は、それぞれが少なくとも1枚のレンズを含む複数のレンズ部と、前記複数のレンズ部に一対一に対応し、対応する前記レンズ部の光軸方向に対して略垂直な受光面をそれぞれ備える複数の撮像領域と、前記複数の撮像領域からそれぞれ出力される複数の撮像信号が入力される撮像信号入力部と、前記撮像領域の強度むらの情報である強度補正係数を保存する強度補正係数保存部と、前記強度補正係数を用いて、前記撮像領域の強度むらの影響を低減するように前記撮像信号の強度を補正する強度補正部とを備えた撮像装置の製造方法であって、前記撮像装置により、略白色の物体を撮影する第1の撮影工程と、前記第1の撮影工程により得られた撮像信号に基づいて、前記強度補正係数を算出する強度補正係数演算工程と、前記強度補正係数演算工程により算出された強度補正係数を前記強度補正係数保存部へ保存する保存工程とを有することを特徴とする。
製造工程において、例えば白色均一光を表示したディスプレイまたはテストチャート等の略白色の物体を撮像して得られる撮像信号に基づき強度補正係数を作成し強度補正係数保存部に書き込むことにより、部品精度のばらつきや組み立てのばらつきが各個体毎に変化しても、光量分布の偏りを補償し、偽色の発生を抑制し、きれいな画像を合成することができる。
上記の製造方法において、前記撮像装置が、前記複数のレンズ部の光軸の原点と撮像信号の原点との対応に関する情報である原点補正係数を保存する原点補正係数保存部と、前記原点補正係数に基づき前記撮像信号の原点を補正する原点補正部とをさらに有し、前記撮像装置により、中央部に十字を含むパターンを有する物体を撮影する第2の撮影工程と、前記第2の撮影工程により得られた撮像信号に基づいて、前記原点補正係数を算出する原点補正係数演算工程と、前記原点補正係数演算工程により算出された原点補正係数を前記原点補正係数保存部へ保存する工程とをさらに有することが好ましい。
これにより、レンズ部同士の製造時のずれや撮像素子の配置位置ずれなどによる製造ばらつきによる原点ずれを補償するための原点補正係数を算出し、原点補正係数保存部へ保存することができる。
上記の製造方法において、前記撮像装置が、前記レンズ部の歪曲の情報である歪曲補正係数を保存する歪曲補正係数保存部と、前記歪曲補正係数に基づき前記複数のレンズ部の歪曲の影響を低減するように撮像信号を補正する歪曲補正部とをさらに有し、前記撮像装置により、格子状のパターンを有する物体を撮影する第3の撮影工程と、前記第3の撮影工程により得られた撮像信号に基づいて、前記歪曲補正係数を算出する歪曲補正係数演算工程と、前記歪曲補正係数演算工程により算出された歪曲補正係数を前記歪曲補正係数保存部へ保存する工程とをさらに有することが好ましい。
この製造方法によれば、レンズの歪曲を補償する歪曲補正係数を算出し、歪曲補正係数保存部へ保存することができる。
上記の製造方法において、前記撮像装置が、前記複数のレンズ部の光軸の原点と撮像信号の原点との対応に関する情報である原点補正係数を保存する原点補正係数保存部と、前記原点補正係数に基づき前記撮像信号の原点を補正する原点補正部とをさらに有し、前記第1の撮影工程において、前記物体として、背景が略白色で中央部に十字を含むパターンを有する物体を用い、前記第1の撮影工程により得られた撮像信号に基づいて、前記原点補正係数を算出する原点補正係数演算工程と、前記原点補正係数演算工程により算出された原点補正係数を前記原点補正係数保存部へ保存する工程とをさらに有することが好ましい。
この製造方法によれば、1回の撮影により得られた同一の撮像信号を用いて強度補正係数と原点補正係数とを作成するため、製造工程における撮影回数を抑制し、製造工程のタクトを短縮することができる。
上記の製造方法において、前記撮像装置が、前記レンズ部の歪曲の情報である歪曲補正係数を保存する歪曲補正係数保存部と、前記歪曲補正係数に基づき前記複数のレンズ部の歪曲の影響を低減するように撮像信号を補正する歪曲補正部とをさらに有し、前記第1の撮影工程において、前記物体として、背景が略白色で格子状のパターンを有する物体を用い、前記第1の撮影工程において得られた撮像信号に基づいて、前記歪曲補正係数を算出する歪曲補正係数演算工程と、前記歪曲補正係数演算工程により算出された歪曲補正係数を、前記歪曲補正係数保存部へ保存する工程とをさらに有することが好ましい。
この製造方法によれば、1回の撮影により得られた同一の撮像信号を用いて強度補正係数と歪曲補正係数とを作成するため、製造工程における撮影回数を抑制し、製造工程のタクトを短縮することができる。
上記の製造方法において、前記撮像装置が、前記複数のレンズ部の光軸の原点と撮像信号の原点との対応に関する情報である原点補正係数を保存する原点補正係数保存部と、前記原点補正係数に基づき前記撮像信号の原点を補正する原点補正部と、前記レンズ部の歪曲の情報である歪曲補正係数を保存する歪曲補正係数保存部と、前記歪曲補正係数に基づき前記複数のレンズ部の歪曲の影響を低減するように撮像信号を補正する歪曲補正部とをさらに有し、前記第1の撮影工程において、前記物体として、背景が略白色で格子状のパターンを有する物体を用い、前記第1の撮影工程により得られた撮像信号に基づいて、前記原点補正係数を算出する原点補正係数演算工程と、前記第1の撮影工程において得られた撮像信号に基づいて、前記歪曲補正係数を算出する歪曲補正係数演算工程と、前記原点補正係数演算工程および歪曲補正係数演算工程により算出された原点補正係数および歪曲補正係数を、前記原点補正係数保存部および歪曲補正係数保存部へそれぞれ保存する工程とをさらに有することが好ましい。
この製造方法によれば、1回の撮影により得られた同一の撮像信号を用いて強度補正係数と原点補正係数と歪曲補正係数とを作成するため、製造工程における撮影回数を抑制し、製造工程のタクトを短縮することができる。
以下、本発明のより具体的な実施の形態について、図面を用いて説明する。
(実施の形態1)
本発明の実施の形態1に係る撮像装置は、強度補正係数を保存し、強度補正係数に基づき、撮像領域の位置により補正の度合が変化するように、撮像信号の強度を補正する。このことにより、光量分布の偏りを補償し、偽色の発生を抑制し、きれいな画像を合成する。
本発明の実施の形態1に係る撮像装置は、強度補正係数を保存し、強度補正係数に基づき、撮像領域の位置により補正の度合が変化するように、撮像信号の強度を補正する。このことにより、光量分布の偏りを補償し、偽色の発生を抑制し、きれいな画像を合成する。
また、本発明の実施の形態1に係る撮像装置は、複数の撮像信号のうちの少なくとも1つの撮像信号を複数のブロックに分割し、同一波長特性の透過特性素子を透過した光線を受光する少なくとも2つの撮像領域に対応した撮像信号の強度を補正し、光量分布の偏りを補償し、補正された撮像信号に基づきブロック毎に視差を求め、この視差に基づきブロック毎に視差の影響を低減するように画像合成する。このことにより、光量分布の偏りを補償し、正しい視差を求め、この正しい視差に基づき画像合成するため、きれいな画像を合成することができる。
また、本発明の実施の形態1に係る撮像装置は、原点補正係数を保存し、原点補正係数に基づき、撮像信号の原点を補正し、補正された撮像信号に基づきブロック毎に視差を求め、この視差に基づきブロック毎に視差の影響を低減するように画像合成する。このことにより、原点のずれを補償し、正しい視差を求め、この正しい視差に基づき画像合成するため、きれいな画像を合成することができる。
また、本発明の実施の形態1に係る撮像装置は、歪曲補正係数を保存し、歪曲補正係数に基づき、複数のレンズ部の歪曲の影響を低減するように撮像信号を補正し、補正された撮像信号に基づきブロック毎に視差を求め、この視差に基づきブロック毎に視差の影響を低減するように画像合成する。このことにより、歪曲の影響を低減し、正しい視差を求め、この正しい視差に基づき画像合成するため、きれいな画像を合成することができる。
本発明の実施の形態1に係る撮像装置について、図面を参照しながら説明する。
図1は、本発明の実施の形態1に係る撮像装置の構成を示す断面図である。図1において、撮像装置101は、レンズモジュール部110、および回路部120を有する。
レンズモジュール部110は、鏡筒111、上部カバーガラス112、レンズ113、アクチュエータ固定部114、およびアクチュエータ可動部115を有する。回路部120は、基板121、パッケージ122、撮像素子123、パッケージカバーガラス124、およびシステムLSI(以下、SLSIと記す)125を有する。
鏡筒111は、円筒状であり、その内壁面は光の乱反射を防止するためにつやが消された黒色であり、樹脂を射出成形し形成される。上部カバーガラス112は、円盤状であり、透明樹脂から形成され、鏡筒111の上面に接着剤などにより固着され、その表面は摩擦などによる損傷を防止する保護膜と、入射光の反射を防止する反射防止膜とが設けられている。
図2は、本発明の実施の形態1に係る撮像装置のレンズ113の上面図である。レンズ113は、略円盤状であり、ガラスや透明樹脂から形成され、第1のレンズ部113a、第2のレンズ部113b、第3のレンズ部113c、および第4のレンズ部113dが碁盤目状に配置される。第1〜第4のレンズ部113a〜113dの配置方向に沿って、図2に示すようにX軸及びY軸を設定する。第1のレンズ部113a、第2のレンズ部113b、第3のレンズ部113c、および第4のレンズ部113dにおいて、被写体側から入射した光は、撮像素子123側へ射出し、撮像素子123上に4つの像を結像する。
アクチュエータ固定部114は、鏡筒111の内壁面に接着剤などにより固着される。アクチュエータ可動部115は、レンズ113の外周縁に接着剤などにより固着される。アクチュエータ固定部114およびアクチュエータ可動部115は、ボイスコイルモータを構成する。アクチュエータ固定部114は永久磁石(図示せず)と強磁性体ヨーク(図示せず)とを有し、アクチュエータ可動部115はコイル(図示せず)を有する。アクチュエータ可動部115は、アクチュエータ固定部114に対し、弾性体(図示せず)により弾性支持される。アクチュエータ可動部115のコイルに通電することにより、アクチュエータ可動部115がアクチュエータ固定部114に対して相対的に移動し、レンズ113と撮像素子123との光軸に沿った相対距離が変化する。
基板121は、樹脂基板から構成され、上面に鏡筒111がその底面を接して接着剤などにより固着される。このようにして、レンズモジュール部110と回路部120とが固定され、撮像装置101を構成する。
パッケージ122は、金属端子を有する樹脂からなり、鏡筒111の内側において、基板121の上面にその金属端子部が半田づけ等されて固着される。撮像素子123は、第1の撮像素子123a、第2の撮像素子123b、第3の撮像素子123c、および第4の撮像素子124dから構成される。第1の撮像素子123a、第2の撮像素子123b、第3の撮像素子123c、および第4の撮像素子124dは、それぞれCCDセンサやCMOSセンサのような固体撮像素子であり、これらの受光面の中心が、それぞれ第1のレンズ部113a、第2のレンズ部113b、第3のレンズ部113c、および第4のレンズ部113dの光軸中心と略一致するように、また各撮像素子の受光面が対応するレンズ部の光軸と略垂直になるようにして配置される。第1の撮像素子123a、第2の撮像素子123b、第3の撮像素子123c、および第4の撮像素子123dの各端子は、パッケージ122の内側の底部の金属端子にワイヤーボンディングにより金線127で接続され、基板121を介して、SLSI125と電気的に接続される。第1の撮像素子123a、第2の撮像素子123b、第3の撮像素子123c、および第4の撮像素子123dの各受光面に、第1のレンズ部113a、第2のレンズ部113b、第3のレンズ部113c、および第4のレンズ部113dから射出された光がそれぞれ結像し、フォトダイオードにより光の情報から変換された電気の情報が、SLSI125に出力される。
図3は、本発明の実施の形態1に係る撮像装置の回路部120の上面図である。パッケージカバーガラス124は、平板状であり、透明樹脂により形成され、パッケージ122の上面に接着などにより固着される。パッケージカバーガラス124の上面には、第1のカラーフィルタ124a、第2のカラーフィルタ124b、第3のカラーフィルタ124c、第4のカラーフィルタ124d、および遮光部124eが蒸着などにより配置される。また、パッケージカバーガラス124の下面には、赤外遮断フィルタ(図示せず。以下、IRフィルタと記す)が蒸着などにより配置される。
図4は、本発明の実施の形態1に係る撮像装置のカラーフィルタの特性図であり、図5は、本発明の実施の形態1に係る撮像装置のIRフィルタの特性図である。第1のカラーフィルタ124aは、図4のGで示した主に緑色を透過する分光透過特性を有し、第2のカラーフィルタ124bは、図4のBで示した主に青色を透過する分光透過特性を有し、第3のカラーフィルタ124cは、図4のRで示した主に赤色を透過する分光透過特性を有し、第4のカラーフィルタは、図4のGで示した主に緑色を透過する分光透過特性を有する。また、IRフィルタは、図5のIRで示した赤外光を遮断する分光透過特性を有する。
したがって、第1のレンズ部113aの上部から入射した物体光は、第1のレンズ部113aの下部から射出され、第1のカラーフィルタ124aおよびIRフィルタにより主に緑色が透過し、第1の撮像素子123aの受光部に結像するため、第1の撮像素子123aは物体光のうち緑色成分を受光する。また、第2のレンズ部113bの上部から入射した物体光は、第2のレンズ部113bの下部から射出され、第2のカラーフィルタ124bおよびIRフィルタにより主に青色が透過し、第2の撮像素子123bの受光部に結像するため、第2の撮像素子123bは物体光のうち青色成分を受光する。また、第3のレンズ部113cの上部から入射した物体光は、第3のレンズ部113cの下部から射出され、第3のカラーフィルタ124cおよびIRフィルタにより主に赤色が透過し、第3の撮像素子123cの受光部に結像するため、第3の撮像素子123cは物体光のうち赤色成分を受光する。更に、第4のレンズ部113dの上部から入射した物体光は、第4のレンズ部113dの下部から射出され、第4のカラーフィルタ124dおよびIRフィルタにより主に緑色が透過し、第4の撮像素子123dの受光部に結像するため、第4の撮像素子123dは物体光のうち緑色成分を受光する。
SLSI125は、後述の方法で、アクチュエータ可動部115のコイルの通電を制御し、撮像素子123を駆動し、撮像素子123からの電気情報を入力し、各種画像処理を行い、上位CPUと通信を行い、外部に画像出力する。
次に、被写体距離と視差との関係を説明する。本発明の実施の形態1に係るカメラモジュールは4つのレンズ部(第1のレンズ部113a、第2のレンズ部113b、第3のレンズ部113c、および第4のレンズ部113d)を有するため、4つのレンズ部がそれぞれ形成する4つの物体像の相対的位置が被写体距離に応じて変化する。
図6は、本発明の実施の形態1に係る撮像装置において、無限遠にある物体像の位置を説明するための図である。図6において、簡単のため、第1のレンズ部113a、第1の撮像素子123a、第2のレンズ部113b、第2の撮像素子123bのみを記す。無限遠の物体10からの光の第1のレンズ部113aへの入射光L1と第2のレンズ部113bへの入射光L2とは平行であるため、第1のレンズ部113aと第2のレンズ部113bとの距離と、第1の撮像素子123a上の物体像11aと第2の撮像素子123b上の物体像11bとの距離は等しい。ここで、第1のレンズ部113aの光軸、第2のレンズ部113bの光軸、第3のレンズ部113cの光軸、および第4のレンズ部113dの光軸が、それぞれ第1の撮像素子123aの受光面の中心、第2の撮像素子123bの受光面の中心、第3の撮像素子123cの受光面の中心、および第4の撮像素子123dの受光面の中心と略一致するように配置されている。従って、第1の撮像素子123a、第2の撮像素子123b、第3の撮像素子123c、および第4の撮像素子123dの各受光面の中心と、各受光面にそれぞれ結像される無限遠の物体像との相対的位置関係は、全ての撮像素子について同一である。すなわち、視差はない。
図7は、本発明の実施の形態1に係る撮像装置において、有限距離の位置にある物体像の位置を説明するための図である。図7において、簡単のため、第1のレンズ部113a、第1の撮像素子123a、第2のレンズ部113b、第2の撮像素子123bのみを記す。有限距離の物体12からの光の第1のレンズ部113aへの入射光L1と第2のレンズ部113bへの入射光L2とは平行ではないため、第1のレンズ部113aと第2のレンズ部113bとの距離に比べて、第1の撮像素子123a上の物体像13aと第2の撮像素子123b上の物体像13bとの距離は長い。そのため、第1の撮像素子123a、第2の撮像素子123b、第3の撮像素子123c、および第4の撮像素子123dの各受光面の中心と、各受光面にそれぞれ結像される有限距離の物体像との相対的位置関係は、撮像素子ごとに異なる。すなわち、視差がある。物体像12までの距離(被写体距離)をA、第1のレンズ部113aと第2のレンズ部113bとの距離をD、レンズ部113a,113bの焦点距離をfとすると、図7の直角を挟む2辺の長さがA、Dの直角三角形と、直角を挟む2辺の長さがf、Δの直角三角形とが相似であることより、視差Δは、下記式(1)のように表される。なお、下記式(1)および後述するその他の式において、*は乗算演算子である。その他のレンズ部間についても同様の関係が成立する。このように、被写体距離に応じて4つのレンズ部113a,113b,113c,113dがそれぞれ形成する4つの物体像の相対的位置が変化する。例えば、被写体距離Aが小さくなると、視差Δが大きくなる。
次に、コントラストと焦点距離との関係を説明する。
図8(A)は、本発明の実施の形態1に係る撮像装置において、合焦時(焦点調整が合っているとき)の画像とコントラスト評価値との関係を説明する図であり、図8(B)は、本発明の実施の形態1に係る撮像装置において、非合焦時(焦点調整が合っていないとき)の画像とコントラスト評価値との関係を説明する図である。図8(A)及び図8(B)の各左図は、左半分が白色、右半分が黒色の矩形を撮影したときの画像である。図8(A)の左図のように、合焦時は撮影画像の輪郭がはっきりし、コントラストが大きい。一方、図8(B)の左図のように、非合焦時は撮影画像の輪郭がぼやけ、コントラストが小さい。図8(A)及び図8(B)の各右図は、左図の情報信号にバンドパスフィルタ(BPF)を作用させたときの結果を示している。横軸はX軸方向位置であり、縦軸はBPF後の出力値である。図8(A)の右図のように、合焦時はBPF後の信号振幅が大きく、図8(B)の右図のように、非合焦時はBPF後の信号振幅が小さい。ここで、このBPF後の信号振幅をどれだけコントラストが大きいかを示すコントラスト評価値と定義する。すると、図8(A)の右図のように、合焦時はコントラスト評価値が大きく、図8(B)の右図のように、非合焦時はコントラスト評価値が小さい。
図9は、本発明の実施の形態1に係る撮像装置のレンズ位置とコントラスト評価値との関係を説明する図である。ある物体を撮影するとき、レンズ113と撮像素子123との距離が小さいとき(z1のとき)、非合焦であるためコントラスト評価値が小さい。レンズ113と撮像素子123との距離を徐々に大きくすると、コントラスト評価値が徐々に大きくなり、合焦時(z2のとき)はコントラスト評価値が極大となる。さらに、レンズ113と撮像素子123との距離を徐々に大きくすると(z3のとき)、非合焦となり、コントラスト評価値が小さくなる。このように、合焦時において、コントラスト評価値は極大となる。
次に、本発明の実施の形態1に係る撮像装置の動作を説明する。図10は、本発明の実施の形態1に係る撮像装置のブロック図である。SLSI125は、システム制御部131、撮像素子駆動部132、撮像信号入力部133、アクチュエータ操作量出力部134、画像処理部135、入出力部136、強度補正係数用メモリ137、原点補正係数用メモリ138、および歪曲補正用メモリ139を有する。また、回路部120は、前述の構成に加えて、アンプ126を有する。
アンプ126は、アクチュエータ操作量出力部134からの出力に応じた電圧をアクチュエータ可動部115のコイルに印加する。
システム制御部131は、CPU(中央演算処理装置、Central Processing Unit)、メモリなどから構成され、SLSI125の全体を制御する。
撮像素子駆動部132は、ロジック回路などから構成され、撮像素子123を駆動する信号を発生し、この信号に応じた電圧を撮像素子123に印加する。
撮像信号入力部133は、第1の撮像信号入力部133a、第2の撮像信号入力部133b、第3の撮像信号入力部133c、および第4の撮像信号入力部133dから構成される。第1の撮像信号入力部133a、第2の撮像信号入力部133b、第3の撮像信号入力部133c、および第4の撮像信号入力部133dは、それぞれCDS回路(相関二重サンプリング回路。Correlated Double Sampling Circuit)、AGC(自動利得制御器。Automatic Gain Controller)、ADC(アナログ/ディジタル変換器。Analog Digital converter)が直列に接続されて構成され、それぞれ第1の撮像素子123a、第2の撮像素子123b、第3の撮像素子123c、および第4の撮像素子123dに接続され、これらからの電気信号が入力され、CDS回路により固定ノイズを除去し、AGCによりゲインを調整し、ADCによりアナログ信号からディジタル値に変換し、システム制御部131のメモリに書き込む。
アクチュエータ操作量出力部134は、DAC(ディジタル/アナログ変換器。Digital Analog converter)から構成され、アクチュエータ可動部115のコイルに印加すべき電圧に応じた電圧信号を出力する。
画像処理部135は、ロジック回路、またはDSP(ディジタル信号プロセッサ。Digital Signal Processor)、あるいは両者を含んで構成され、システム制御部131のメモリ情報を利用し、所定のプログラム制御に従って各種画像処理を行う。画像処理部135は、自動焦点制御部141、強度補正部142、原点補正部143、歪曲補正部144、および視差補正部145を有する。
入出力部136は、上位CPU(図示せず)との通信や、上位CPU、外部メモリ(図示せず)、および液晶などの外部表示装置(図示せず)へ画像信号を出力する。
強度補正係数用メモリ137は、フラッシュメモリやFeRAM(Ferroelectric Random Access Memory)などのような不揮発性メモリから構成され、強度補正部142で使用する強度補正係数を保存する。原点補正係数用メモリ138は、フラッシュメモリやFeRAMなどのような不揮発性メモリから構成され、原点補正部143で使用する原点補正係数を保存する。歪曲補正係数用メモリ139は、フラッシュメモリやFeRAMなどのような不揮発性メモリから構成され、歪曲補正部144で使用する歪曲補正係数を保存する。
図11は、本発明の実施の形態1に係る撮像装置の動作を示すフローチャートである。SLSI125のシステム制御部131により、撮像装置101は、このフローチャートとおりに動作される。
ステップS1000において、動作を開始する。例えば、上位CPU(図示せず)がシャッターボタン(図示せず)などが押されたことを検知し、入出力部136を介し、撮像装置101に動作の開始を命令することにより、撮像装置101は、動作を開始する。次に、ステップS1100を実行する。
ステップS1100において、自動焦点制御部141は、自動焦点制御を実行する。図12は、本発明の実施の形態1に係る自動焦点制御の動作を示すフローチャートである。図12のフローチャートは、ステップS1100の動作の詳細を示す。
ステップS1110において、焦点制御の動作を開始する。次に、ステップS1121を実行する。
ステップS1121において、カウンタiを0に初期化する。次に、ステップS1122を実行する。
ステップS1122において、アクチュエータの位置指令を演算する。下記式(2)のように、カウンタiを用いてアクチュエータの位置指令Xactを演算する。なお、位置指令Xactは、無限遠像の合焦位置を基準とし、被写体に向かう向きが正である位置の指令を示す。ここで、kxは、設定された値である。次に、ステップS1123を実行する。
ステップS1123において、下記式(3)で示した操作量関数を用いてアクチュエータ操作量(アクチュエータ可動部115のコイルへの印加電圧)Vactを演算する。ここで、ka、およびkbは、それぞれ設定された値である。次に、ステップS1124を実行する。
ステップS1124において、アクチュエータを動作させる。アクチュエータ操作量出力部134は、アンプ126を介したのちアクチュエータ可動部115のコイル(図示せず)に印加される電圧がVactになるように、出力する電圧信号を変更する。次に、ステップS1125を実行する。
ステップS1125において、第1のレンズ部113aに入射し第1の撮像素子123a上に結像した被写体像の撮影を実行する。システム制御部131の命令により、撮像素子駆動部132が電子シャッターや転送を行うための信号を随時出力する。第1の撮像信号入力部133aは、撮像素子駆動部132が発生する信号に同期して、第1の撮像素子123aが出力する画像のアナログ信号である撮像信号を入力し、CDSにより固定ノイズを除去し、AGCにより自動的に入力ゲインを調整し、ADCによりアナログ信号をディジタル値に変換し、第1の撮像信号I1(x,y)として、システム制御部131の所定アドレスのメモリにディジタル値を書き込む。図13は、本発明の実施の形態1に係る撮像装置の撮像信号の座標を説明する図である。I1(x,y)は、水平方向にx番目、垂直方向にy番目の画素の第1の撮像信号であることを示す。入力される画像の縦方向の画素数がH、横方向の画素数がLならば、総画素数はH×Lであり、xは0からL−1まで変化し、yは0からH−1まで変化する。次に、ステップS1126を実行する。
ステップS1126において、自動焦点制御用ブロックを設定する。画像領域の中心付近の矩形状の領域を自動焦点制御用ブロックとする。なお、このブロックは必ずしも中央付近である必要はなく、カメラを操作するユーザの意思などを反映し(例えば、センサで視点方向を検出し)、ブロックを設定してもよい。なお、単一のブロックではなく複数のブロックを選択し、複数のブロックにおいて後述の自動焦点制御用コントラスト評価値の平均を用いてもよい。また、複数のブロックにおいて後述の自動焦点制御用コントラスト評価値を演算し、後に少なくとも1つのブロックを自動焦点制御用ブロックとして選択してもよい。次に、ステップS1127を実行する。
ステップS1127において、システム制御部131のメモリ上のデータを用いて、自動焦点制御用コントラスト評価値を作成する。この演算は、第1の撮像信号I1の自動焦点制御用ブロックの画素について行う。下記式(11)のように、x方向とy方向の2階微分の和であるラプラシアンの絶対値を演算し、下記式(12)のように空間的にLPF(ローパスフィルタ。Low Pass Filter)を作用させ、これを下記式(13)のように自動焦点制御用ブロック内で平均して自動焦点用コントラスト評価値C3を得る。ここで、Nafは、自動焦点制御用ブロックの画素数である。次に、ステップS1128を実行する。
ステップS1128において、下記式(14)のように、コントラスト評価値C3をC3(i)として、システム制御部131のメモリに書き込む。次に、ステップS1129を実行する。
ステップS1129において、下記式(15)のように、カウンタiに1を加える。次に、ステップS1130を実行する。
ステップS1130において、カウンタiをしきい値Safと比較し、その結果により分岐する。カウンタiがしきい値Safより小さいとき(ステップS1130の比較結果がY)、次に、ステップ1122を実行する。一方、カウンタiがしきい値Saf以上のとき(ステップS1130の比較結果がN)、次に、ステップS1140を実行する。このように、ステップS1121においてカウンタiを0に初期化し、ステップS1129においてカウンタiに1を加え、ステップS1130においてカウンタiで分岐を行うことにより、S1122からS1128までの処理をSaf回だけ繰り返す。
ステップS1140において、コントラスト評価値C3の評価を行う。図9のように、合焦位置では、コントラスト評価値C3が最大となる。下記式(16)のように、この最大値を与えるカウンタ値iをコントラスト最大値を与えるカウンタ値iafとする。次に、ステップS1151を実行する。
ステップS1151において、アクチュエータの位置指令を演算する。下記式(17)のように、コントラスト最大値を与えるカウンタ値iafを用いてアクチュエータの位置指令Xactを演算する。なお、位置指令Xactは、無限遠像の合焦位置を基準とし、被写体に向かう向きが正の位置の指令を示す。次に、ステップS1152を実行する。
ステップS1152において、操作量関数を用いてアクチュエータ操作量(アクチュエータ可動部115のコイルへの印加電圧)Vactを演算する。この動作は、ステップS1123と同様であり、説明を省略する。次に、ステップS1153を実行する。
ステップS1153において、アクチュエータを動作させる。この動作は、ステップS1124と同様であり、説明を省略する。次に、ステップS1160を実行する。
ステップS1160において、自動焦点制御を終了し、メインルーチンへ戻る。従って、次に、図11のステップS1200を実行する。
ステップS1200において、画像を入力する。システム制御部131の命令により、撮像素子駆動部132が電子シャッターや転送を行うための信号を随時出力する。第1の撮像信号入力部133a、第2の撮像信号入力部133b、第3の撮像信号入力部133c、および第4の撮像信号入力部133dは、撮像素子駆動部132が発生する信号に同期して、第1の撮像素子123a、第2の撮像素子123b、第3の撮像素子123c、および第4の撮像素子123dが出力する各画像のアナログ信号である撮像信号を入力し、CDSにより固定ノイズを除去し、AGCにより自動的に入力ゲインを調整し、ADCによりアナログ信号をディジタル値に変換し、第1の撮像信号I1(x,y)、第2の撮像信号I2(x,y)、第3の撮像信号I3(x,y)、および第4の撮像信号I4(x,y)として、システム制御部131の所定アドレスのメモリにディジタル値を書き込む。図13は、本発明の実施の形態1に係るカメラモジュールの撮像信号の座標を説明する図である。I1(x,y)は、水平方向にx番目、垂直方向にy番目の第1の撮像信号であることを示す。入力される画像の縦方向の画素数がH、横方向の画素数がLであり、総画素数はH×Lであり、xは0からL−1まで変化し、yは0からH−1まで変化する。第2の撮像信号I2(x,y)、第3の撮像信号I3(x,y)、第4の撮像信号I4(x,y)も同様である。すなわち、I2(x,y)、I3(x,y)、およびI4(x,y)は、ぞれぞれ水平方向にx番目、垂直方向にy番目の第2の撮像信号、第3の撮像信号、および第4の撮像信号であることを示す。入力される画像の縦方向の画素数がH、横方向の画素数がLであり、それぞれの総画素数はH×Lであり、xは0からL−1まで変化し、yは0からH−1まで変化する。次に、ステップS1300を実行する。
ステップS1300において、強度補正部142は、強度補正係数用メモリ137に保存された強度補正係数を用いて第1の撮像信号I1、第2の撮像信号I2、第3の撮像信号I3、第4の撮像信号I4を補正する。そして、その結果をシステム制御部131のメモリに書き込む。
強度補正係数用メモリ137には、第1の撮像信号I1(x,y)の補正に使用する第1の強度補正係数a1(x,y)、第2の撮像信号I2(x,y)の補正に使用する第2の強度補正係数a2(x,y)、第3の撮像信号I3(x,y)の補正に使用する第3の強度補正係数a3(x,y)、および第4の撮像信号I4(x,y)の補正に使用する第4の強度補正係数a4(x,y)が保存されている。a1(x,y)、a2(x,y)、a3(x,y)、およびa4(x,y)は、ぞれぞれ水平方向にx番目、垂直方向にy番目の画素の第1の強度補正係数、第2の強度補正係数、第3の強度補正係数、および第4の強度補正係数であることを示す。入力される画像の縦方向の画素数がH、横方向の画素数がLならば、総画素数はH×Lであり、xは0からL−1まで変化し、yは0からH−1まで変化する。
図14は、本発明の実施の形態1に係る強度補正の動作を示すフローチャートである。図14のフローチャートは、強度補正を行うステップS1300の詳細を示す。
まず、ステップS1320において、各画素(x,y)における補正値を演算する。下記式(18)、(19)、(20)、および(21)のように、第1の強度補正係数a1(x,y)、第2の強度補正係数a2(x,y)、第3の強度補正係数a3(x,y)、および第4の強度補正係数a4(x,y)にそれぞれ設定値kab1、kab2、kab3、およびkab4を乗じた結果を第1の強度補正値b1(x,y)、第2の強度補正値b2(x,y)、第3の強度補正値b3(x,y)、および第4の強度補正値b4(x,y)とする。次に、ステップS1330を実行する。
ステップS1330において、強度補正を行う。下記式(22)、(23)、(24)、および(25)のように、第1の撮像信号I1(x,y)、第2の撮像信号I2(x,y)、第3の撮像信号I3(x,y)、および第4の撮像信号I4(x,y)に、第1の強度補正値b1(x,y)、第2の強度補正値b2(x,y)、第3の強度補正値b3(x,y)、および第4の強度補正値b4(x,y)を乗じ補正する。次に、ステップS1340を実行する。
ステップS1340において、強度補正を終了し、メインルーチンへ戻る。従って、次に、図11のステップS1400を実行する。
ステップS1400において、原点補正部143は、原点補正係数用メモリ138に保存された原点補正係数を用いて第1の撮像信号I1、第2の撮像信号I2、第3の撮像信号I3、第4の撮像信号I4を補正する。そして、その結果をシステム制御部131のメモリに書き込む。
原点補正係数用メモリ138には、第1の撮像信号I1(x,y)の補正に使用する第1の原点補正係数g1x、g1y、第2の撮像信号I2(x,y)の補正に使用する第2の原点補正係数g2x、g2y、第3の撮像信号I3(x,y)の補正に使用する第3の原点補正係数g3x、g3y、および第4の撮像信号I4(x,y)の補正に使用する第4の原点補正係数g4x、g4yが保存されている。g1x、g2x、g3x、g4xは原点補正係数のx成分を示し、g1y、g2y、g3y、g4yは原点補正係数のy成分を示す。
そして、下記式(26)のように、第1の撮像信号I1を第1の原点補正係数(g1x,g1y)だけ移動させるように補正する。また、下記式(27)のように、第2の撮像信号I2を第2の原点補正係数(g2x,g2y)だけ移動させるように補正する。また、下記式(28)のように、第3の撮像信号I3を第3の原点補正係数(g3x,g3y)だけ移動させるように補正する。下記式(29)のように、第4の撮像信号I4を第4の原点補正係数(g4x,g4y)だけ移動させるように補正する。なお、式(26)、(27)、(28)、(29)の右辺の値が存在しない場合(例えば、x=0、y=0、g1xが正数、g1yが正数の場合)は、近隣の実在する値と同一値や、近隣から外挿などにより推定された値や、0などを代入すればよい。なお、g1x、g2x、g3x、g4x、g1y、g2y、g3y、およびg4yは整数に限定されず、小数でもよい。この場合、式(26)、(27)、(28)、(29)の右辺の値として、最近隣値や、周りの画素からの補間値を利用する。次に、図11のステップS1500を実行する。
ステップS1500において、歪曲補正部144は、歪曲補正係数用メモリ139に保存された歪曲補正係数を用いて第1の撮像信号I1、第2の撮像信号I2、第3の撮像信号I3、第4の撮像信号I4を補正する。そして、その結果をシステム制御部131のメモリに書き込む。
歪曲補正係数用メモリ139には、第1の撮像信号I1(x,y)の補正に使用する第1の歪曲補正係数p1x(x,y)、p1y(x,y)、第2の撮像信号I2(x,y)の補正に使用する第2の歪曲補正係数p2x(x,y)、p2y(x,y)、第3の撮像信号I3(x,y)の補正に使用する第3の歪曲補正係数p3x(x,y)、p3y(x,y)、および第4の撮像信号I4(x,y)の補正に使用する第4の歪曲補正係数p4x(x,y)、p4y(x,y)が保存されている。p1x(x,y)、p2x(x,y)、p3x(x,y)、およびp4x(x,y)は、ぞれぞれ水平方向にx番目、垂直方向にy番目の第1の歪曲補正係数、第2の歪曲補正係数、第3の歪曲補正係数、および第4の歪曲補正係数のx成分であることを示す。また、p1y(x,y)、p2y(x,y)、p3y(x,y)、およびp4y(x,y)は、ぞれぞれ水平方向にx番目、垂直方向にy番目の画素の第1の歪曲補正係数、第2の歪曲補正係数、第3の歪曲補正係数、および第4の歪曲補正係数のy成分であることを示す。入力される画像の縦方向の画素数がH、横方向の画素数がLならば、総画素数はH×Lであり、xは0からL−1まで変化し、yは0からH−1まで変化する。
図15は、本発明の実施の形態1に係る歪曲補正係数を説明する図である。点線の格子の交点は理想上の座標を示し、実線の格子の交点は歪曲がある座標を示す。図15のように、例えば、理想的には(0,0)に撮像されるべき画像は、実際には歪曲によって(0,0)から(p1x(0,0),p1y(0,0))だけずれた位置に撮像される。このずれ量(p1x(0,0),p1y(0,0))を歪曲補正係数とし、歪曲補正用メモリ139に記憶する。すなわち、理想的には(x,y)に撮像されるべき画像は、歪曲によって(x,y)から(p1x(x,y),p1y(x,y))だけずれた位置に撮像される。このずれ量(p1x(x,y),p1y(x,y))を歪曲補正係数とし、歪曲補正用メモリ139に記憶する。
図16は、本発明の実施の形態1に係る歪曲補正の動作を示すフローチャートである。図16のフローチャートは、歪曲補正を行うステップS1500の詳細を示す。
まず、ステップS1520において、各画素(x,y)における歪曲補正用座標を演算する。下記式(30)、(31)、(32)、および(33)のように、第1の歪曲補正係数のx成分p1x(x,y)、第2の歪曲補正係数のx成分p2x(x,y)、第3の歪曲補正係数のx成分p3x(x,y)、および第4の歪曲補正係数のx成分p4x(x,y)に、それぞれx座標の値xを加えた結果を、第1の歪曲補正用座標のx成分q1x(x,y)、第2の歪曲補正用座標のx成分q2x(x,y)、第3の歪曲補正用座標のx成分q3x(x,y)、および第4の歪曲補正用座標のx成分q4x(x,y)とする。また、下記式(34)、(35)、(36)、および(37)のように、第1の歪曲補正係数のy成分p1y(x,y)、第2の歪曲補正係数のy成分p2y(x,y)、第3の歪曲補正係数のy成分p3y(x,y)、および第4の歪曲補正係数のy成分p4y(x,y)にそれぞれy座標の値yを加えた結果を、第1の歪曲補正用座標のy成分q1y(x,y)、第2の歪曲補正用座標のy成分q2y(x,y)、第3の歪曲補正用座標のy成分q3y(x,y)、および第4の歪曲補正用座標のy成分q4y(x,y)とする。次に、ステップS1530を実行する。
ステップS1330において、歪曲補正を行う。下記式(38)、(39)、(40)、および(41)のように、座標(x,y)上の第1の撮像信号I1(x,y)、第2の撮像信号I2(x,y)、第3の撮像信号I3(x,y)、および第4の撮像信号I4(x,y)として、第1の歪曲補正用座標(q1x(x,y),q1y(x,y))上の第1の撮像信号I1(q1x(x,y),q1y(x,y))、第2の歪曲補正用座標(q2x(x,y),q2y(x,y))上の第2の撮像信号I2(q2x(x,y),q2y(x,y))、第3の歪曲補正用座標(q3x(x,y),q3y(x,y))上の第3の撮像信号I3(q3x(x,y),q3y(x,y))、および第4の歪曲補正用座標(q4x(x,y),q4y(x,y))上の第4の撮像信号I4(q4x(x,y),q4y(x,y))を用いる。なお、式(38)、(39)、(40)、(41)の右辺の値が存在しない場合は、近隣の実在する値と同一値や、近隣から外挿などにより推定された値や、0などを代入すればよい。なお、q1x(x,y)、q2x(x,y)、q3x(x,y)、q4x(x,y)、q1y(x,y)、q2y(x,y)、q3y(x,y)、およびq4y(x,y)は整数に限定されず、小数でもよい。この場合、式(38)、(39)、(40)、(41)の右辺の値として、最近隣値や、周りの画素からの補間値を利用する。次に、ステップS1540を実行する。
ステップS1540において、歪曲補正を終了し、メインルーチンへ戻る。従って、次に、図11のステップS1600を実行する。
ステップS1600において、視差補正を実行する。図17は、本発明の実施の形態1に係る視差補正の動作を示すフローチャートである。図17のフローチャートは、ステップS1600の動作の詳細を示す。
まず、ステップS1620において、ブロック分割を行う。図18は、本発明の実施の形態1に係る撮像装置において、ブロック分割を説明する図である。図18のように、第1の撮像信号I1を、横方向にM個のブロックに、縦方向にN個のブロックに、総数でM×N個に分割し、それぞれのブロックをBiで示す。ここで、iは0からM×N−1まで変化する。次に、ステップS1630を実行する。
ステップS1630において、各ブロック毎の視差値を演算する。まず、各ブロック(B0、B1、…、Bi、…、BMN−1)毎に、視差評価値(R0(k)、R1(k)、…、Ri(k)、…、RMN−1(k)。k=0、1、…、kmax)を演算する。図19は、本発明の実施の形態1に係る撮像装置において、視差評価値の演算領域を説明する図である。Biで示される(I1としても示されている)領域は、第1の撮像信号I1からステップS1620で求められたi番目のブロックである。I4で示される領域は、Biをx方向にkだけ、y方向にkだけ移動した領域である。そして、それぞれの領域の全画像信号I1(x,y)、I4(x−k,y−k)について、下記式(42)に示される絶対値差分総和を視差評価値Ri(k)として演算する。ここで、ΣΣは、ブロックBi内の全ての画素の総和を示す。
この視差評価値Ri(k)は、i番目のブロックBiの第1の画像信号I1と、x、y方向にそれぞれ(k、k)だけ離れた領域における第4の画像信号14がどれだけ相関があるかを示し、値が小さいほど相関が大きい(よく似ている)ことを示す。図20は、本発明の実施の形態1に係る撮像装置の視差と視差評価値との関係を説明する図である。図20のように、視差評価値Ri(k)はkの値によって変化し、k=Δiのとき極小値を持つ。これは、第1の画像信号I1のi番目のブロックBiをx、y方向にそれぞれ(−Δi、−Δi)だけ移動させて得られるブロックの画像信号は、第4の画像信号14と最も相関がある(最も似ている)ことを示す。したがって、i番目のブロックBiについての第1の撮像信号I1と第4の撮像信号I4とのx、y方向の視差が(Δi、Δi)であることが分かる。以下、このΔiを、i番目のブロックBiの視差値Δiと呼ぶ。このように、i=0からi=M×N−1までBiの視差値Δiを求める。次に、ステップS1640を実行する。
ステップS1640において、視差補正を行い、画像合成する。その結果をシステム制御部131のメモリに書き込む。第1の撮像素子123aおよび第4の撮像素子123dは、主に物体光の緑色成分を受光するため、第1の撮像信号I1、および第4の撮像信号I4は、物体光の緑色成分の情報信号である。また、第2の撮像素子123bは、主に物体光の青色成分を受光するため、第2の撮像信号I2は、物体光の青色成分の情報信号である。さらに、第3の撮像素子123cは、主に物体光の赤色成分を受光するため、第3の撮像信号I3は、物体光の赤色成分の情報信号である。i番目のブロックBiにおいて、第1の撮像素子123aと第4の撮像素子123dとの視差が(Δi、Δi)であると予測されたため、下記式(43)のように、画素座標(x、y)における緑色の強度を示すG(x,y)を、第1の撮像信号I1(x,y)、および第4の撮像信号I4(x−Δi,y−Δi)の平均とする。このように平均をとることにより、ランダムノイズの影響を低減できる。また、第1の撮像素子123aと第2の撮像素子123bの視差が(Δi、0)であると予測されたため、下記式(44)のように、画素座標(x、y)における青色の強度を示すB(x,y)を、第2の撮像信号I2(x−Δi,y)とする。さらに、第1の撮像素子123aと第3の撮像素子123cの視差が(0、Δi)であると予測されたため、下記式(45)のように、(x、y)における赤色の強度を示すR(x,y)を、第3の撮像信号I3(x,y−Δi)とする。次に、ステップS1650を実行する。
ステップS1650において、視差補正を終了し、メインルーチンへ戻る。従って、次に、図11のステップS1700を実行する。
ステップS1700において、画像を出力する。入出力部136は、システム制御部131のメモリ上のデータであるG(x,y),B(x,y),R(x,y)を、上位CPU(図示せず)や外部表示装置(図示せず)に出力する。なお、G(x,y),B(x,y),R(x,y)の代わりに、例えば、輝度、色差信号などの出力を出力してもよい。また、ホワイトバランスやγ補正などの画像処理後の値を出力してもよい。さらに、可逆圧縮やJPEG等のような非可逆圧縮をしたデータを出力してもよい。また、それらの複数を出力してもよい。次に、S1800を実行する。
ステップS1800において、動作を終了する。
以上のように構成し、動作させることにより、以下の効果を有する。
部品精度のばらつきや組み立てのばらつきがあると、各色によって光軸中心に対し光量分布が偏り、偽色が発生する。実施の形態1の撮像装置では、強度補正係数a1、a2、a3、a4を不揮発メモリである強度補正係数用メモリ137に保存し、ステップS1300において、強度補正係数a1、a2、a3、a4に基づき、撮像領域の位置(x,y)により補正の度合が変化する強度補正値b1(x,y)、b2(x,y)、b3(x,y)、b4(x,y)を作成し、撮像信号I1(x,y)、I2(x,y)、I3(x,y)、I4(x,y)を補正する。このことにより、光量分布の偏りを補償し、偽色の発生を抑制し、きれいな画像を合成することができる。
また、実施の形態1の係る撮像装置は、ステップS1300において強度補正係数a1、a2、a3、a4に基づき、撮像領域の位置(x,y)により補正の度合が変化する強度補正値b1(x,y)、b2(x,y)、b3(x,y)、b4(x,y)を作成し、撮像信号I1(x,y)、I2(x,y)、I3(x,y)、I4(x,y)を補正し、光量分布の偏りを補償し、ステップS1620において第1の撮像信号I1を複数のブロックに分割し、ステップS1630において補正された撮像信号I1(x,y)、I4(x,y)に基づきブロック毎に視差を求め、ステップS1640においてこの視差に基づきブロック毎に視差の影響を低減するように画像合成する。このことにより、光量分布の偏りを補償し、正しい視差を求め、この正しい視差に基づき画像合成するため、きれいな画像を合成することができる。
また、実施の形態1に係る撮像装置は、原点補正用係数用メモリ138に原点補正係数g1x、g2x、g3x、g4x、g1y、g2y、g3y、g4yを保存し、ステップS1400において原点補正係数g1x、g2x、g3x、g4x、g1y、g2y、g3y、g4yに基づき、撮像信号I1(x,y)、I2(x,y)、I3(x,y)、I4(x,y)の原点を補正し、ステップS1630において補正された撮像信号I1(x,y)、I4(x,y)に基づきブロック毎に視差を求め、ステップS1640においてこの視差に基づきブロック毎に視差の影響を低減するように画像合成する。このことにより、正しい視差を求め、この正しい視差に基づき画像合成するため、きれいな画像を合成することができる。
また、実施の形態1に係る撮像装置は、歪曲補正係数p1x(x,y)、p2x(x,y)、p3x(x,y)、p4x(x,y)、p1y(x,y)、p2y(x,y)、p3y(x,y)、p4y(x,y)を保存し、ステップS1520において歪曲補正係数p1x(x,y)、p2x(x,y)、p3x(x,y)、p4x(x,y)、p1y(x,y)、p2y(x,y)、p3y(x,y)、p4y(x,y)に基づき、歪曲補正用座標q1x(x,y)、q2x(x,y)、q3x(x,y)、q4x(x,y)、q1y(x,y)、q2y(x,y)、q3y(x,y)、q4y(x,y)を演算し、ステップS1530において歪曲補正用座標q1x(x,y)、q2x(x,y)、q3x(x,y)、q4x(x,y)、q1y(x,y)、q2y(x,y)、q3y(x,y)、q4y(x,y)において複数のレンズ部の歪曲の影響を低減するように撮像信号I1(x,y)、I2(x,y)、I3(x,y)、I4(x,y)を補正し、ステップS1630において補正された撮像信号I1(x,y)、I4(x,y)に基づきブロック毎に視差を求め、ステップS1640においてこの視差に基づきブロック毎に視差の影響を低減するように画像合成する。このことにより、正しい視差を求め、この正しい視差に基づき画像合成するため、きれいな画像を合成することができる。
なお、実施の形態1の撮像装置は、第1の撮像素子123a、第2の撮像素子123b、第3の撮像素子123c、第4の撮像素子123dの感度の偏りがそれぞれ異なる場合にも、偽色発生を抑制する効果も併せて持つ。
なお、実施の形態1の撮像装置において、演算された視差をそのまま利用したが、適宜リミットしてもよい。レンズ特性によっては被写体距離Aがある値よりも小さいとき、画像が不鮮明となる。そのため、この値を被写体距離Aの最小値と定めれば、視差Δの最大値を定められる。この値よりも大きい視差は、誤差であるとして無視してもよい。また、このような場合、視差評価値が2番目に小さい値を視差として採用してもよい。
また、実施の形態1の撮像装置では、視差を第1の撮像信号I1(主に緑色を示す)と第4の撮像信号I4(主に緑色を示す)とから演算したが、本発明はこれに限定されない。例えば、紫色の被写体は緑色成分が少なく、青色成分、赤色成分を多く含むため、第1の撮像信号I1(主に緑色を示す)と第4の撮像信号I4(主に緑色を示す)とから演算できないことがある。この場合、第2の撮像信号I2(主に青色を示す)と第3の撮像信号I3(主に赤色を示す)とから視差を演算してもよい。また、第1の視差信号I1(主に緑色を示す)と第4の視差信号I4(主に緑色を示す)とから視差が演算不能であり、かつ、第2の撮像信号I2(主に青色を示す)と第3の撮像信号I3(主に赤色を示す)とから視差が演算不能であれば、視差の影響がないものとみなし、視差なしとすればよい。
また、第1の実施の形態において、全てのレンズ部を透過した光線にIRフィルタが作用するが、IRフィルタの一部を削除し、一部のレンズ部を透過した光線について作用しなくてもよい。また、IRフィルタを全て削除してもよい。
また、第1の実施の形態において、第1のカラーフィルタ124a、第2のカラーフィルタ124b、第3のカラーフィルタ124c、および第4のカラーフィルタ124dが、それぞれが主に緑色、青色、赤色、および緑色を透過したが、波長が異なってもよい。例えば、補色を利用し、第1のカラーフィルタ124a、第2のカラーフィルタ124b、第3のカラーフィルタ124c、および第4のカラーフィルタ124dが、それぞれが主に黄色、シアン、マゼンタ、および黄色を透過してもよい。さらに、順番を入れ替えてもよい。例えば、第1のカラーフィルタ124a、第2のカラーフィルタ124b、第3のカラーフィルタ124c、および第4のカラーフィルタ124dが、それぞれが主に緑色、緑色、青色、および赤色を透過してもよい。また、第1のカラーフィルタ124a、第2のカラーフィルタ124b、第3のカラーフィルタ124c、および第4のカラーフィルタ124dが、それぞれが主に赤色、青色、緑色、および赤色を透過してもよい。
また、第1の実施の形態の撮像装置をカメラに搭載するとき、撮影時に上側になる方に第2の撮像素子123aが、下側になる方に第3の撮像素子123cが配置されるように、第1〜第4の撮像素子123a〜123dを配置することにより、上側が青色に敏感となり、下側が赤色に敏感となるので、風景写真の色再現をより自然にできる。
また、視差評価値に目立つ極値が2つあるときは、より大きい方の視差を採用してもよい。このようなブロックには、被写体と背景が含まれており、被写体距離と背景距離とが異なるため、極値が2つ現れる。背景距離と比較して被写体距離は小さいため、背景の視差と比較して被写体の視差は大きい。ここで、大きい方の視差を採用すれば、背景の視差の影響は低減できないが、画質に直接影響する被写体の視差の影響を低減できる。
また、画像出力のタイミングは、上記に限定されず、適宜プレビュー出力をしてもよい。例えば、ステップS1100において自動焦点制御を行う途中で、視差補正なしの画像を出力してもよい。
また、実施の形態1において、撮像素子123は、第1の撮像素子123a、第2の撮像素子123b、第3の撮像素子123c、および第4の撮像素子123dから構成され、撮像信号入力部133は、第1の撮像信号入力部133a、第2の撮像信号入力部133b、第3の撮像信号入力部133c、および第4の撮像信号入力部133dから構成された。しかし、撮像素子123を1つの撮像素子で構成し、この受光面上の異なる位置に第1〜第4のレンズ部113a〜113dによる4つの像を形成しても良い。また、撮像信号入力部133が1つの撮像素子123からの信号が入力される1つの撮像信号入力部から構成されてもよい。この場合、システム制御部131のメモリ上に置かれたデータから適宜領域を選択し、第1の撮像信号I1、第2の撮像信号I2、第3の撮像信号I3、および第4の撮像信号I4とすればよい。
また、第1の実施の形態において、第1のレンズ部113a、第2のレンズ部113b、第3のレンズ113c、および第4のレンズ部113dの光軸の中心を互いに結んで得られる矩形が正方形になるように配置されたがこれに限定されない。この矩形のx方向の長さとy方向の長さが異なってもよい。この場合、ステップS1630において視差を求めるとき、ステップS1640において視差補正をするときなど適宜変更を要する。すなわち、x方向とy方向とで同一のkを用いるのではなく、前述の矩形のx方向の長さとy方向の長さとの比を保つようにkを変更する。
なお、上記の説明では、撮影によって得られた撮像信号に対して各種の補正を行い、視差を補正した後、撮像信号から画像を合成する装置の構成および動作を例示したが、本発明の撮像装置は、被写体までの距離を検出する測距装置としての応用も可能である。すなわち、本発明の撮像装置は、上述のように得られた視差に基づいて距離を演算し、得られた距離を出力する装置としての実施も可能であり、測量装置や車間距離検出装置等としての実用化が考えられる。すなわち、式(1)を距離Aについて解くと、下記式(46)のように示される。したがって、ブロックBiにおける被写体の距離は、下記式(47)のように演算され、そのブロックBiに含まれる画素(x,y)における被写体の距離は、下記式(48)のように示され、システム制御部131のメモリ上に保存される。なお、単位は演算時に適宜変更されている。そして、この距離情報A(x,y)を入出力部136を介し、外部に出力すれば、測距装置として機能する撮像装置を実現できる。
(実施の形態2)
本発明の実施の形態2に係る撮像装置は、製造工程において強度補正係数を作成し、強度補正係数用メモリに書き込む。このことにより、部品精度のばらつきや組み立てのばらつきが各個体毎に変化しても、光量分布の偏りを補償し、偽色の発生を抑制し、きれいな画像を合成する。
本発明の実施の形態2に係る撮像装置は、製造工程において強度補正係数を作成し、強度補正係数用メモリに書き込む。このことにより、部品精度のばらつきや組み立てのばらつきが各個体毎に変化しても、光量分布の偏りを補償し、偽色の発生を抑制し、きれいな画像を合成する。
また、本発明の実施の形態2に係る撮像装置は、複数の撮像信号のうちの少なくとも1つの撮像信号を複数のブロックに分割し、製造工程において強度補正係数を作成し、強度補正係数用メモリに書き込む。これにより、部品精度のばらつきや組み立てのばらつきが各個体毎に変化しても、光量分布の偏りを補償し、補正された撮像信号に基づきブロック毎に視差を求め、この視差に基づきブロック毎に視差の影響を低減するように画像合成できる。このことにより、光量分布の偏りを補償し、正しい視差を求め、この正しい視差に基づき画像合成するため、きれいな画像を合成することができる。
また、本発明の実施の形態2に係る撮像装置は、製造工程において原点補正係数を作成し、原点補正係数用メモリに書き込む。これにより、部品精度のばらつきや組み立てのばらつきが各個体毎に変化しても、原点のばらつきを補償し、補正された撮像信号に基づきブロック毎に視差を求め、この視差に基づきブロック毎に視差の影響を低減するように画像合成できる。このことにより、原点のばらつきを補償し、正しい視差を求め、この正しい視差に基づき画像合成するため、きれいな画像を合成することができる。
また、本発明の実施の形態2に係る撮像装置は、製造工程において歪曲補正係数を作成し、歪曲補正係数用メモリに書き込む。これにより、部品精度のばらつきや組み立てのばらつきが各個体毎に変化しても、複数のレンズ部の歪曲の影響を低減するように撮像信号を補正し、補正された撮像信号に基づきブロック毎に視差を求め、この視差に基づきブロック毎に視差の影響を低減するように画像合成できる。このことにより、歪曲の影響を低減し、正しい視差を求め、この正しい視差に基づき画像合成するため、きれいな画像を合成することができる。
本発明の実施の形態2に係る撮像装置について、図面を参照しながら説明する。図21は、本発明の実施の形態2に係る撮像装置の構成を示す断面図である。図21において、撮像装置201は、レンズモジュール部110、および回路部220を有する。
レンズモジュール部110は、鏡筒111、上部カバーガラス112、レンズ113、アクチュエータ固定部114、およびアクチュエータ可動部115を有する。回路部220は、基板121、パッケージ122、撮像素子123、パッケージカバーガラス124、およびシステムLSI(以下、SLSIと記す)225を有する。SLSI225以外の構成と動作は、実施の形態1と同様であり、同一の符号を付与し、説明を省略する。
図22は、本発明の実施の形態2に係る撮像装置のブロック図である。SLSI225は、システム制御部231、撮像素子駆動部132、撮像信号入力部133、アクチュエータ操作量出力部134、画像処理部135、入出力部136、強度補正係数用メモリ137、原点補正係数用メモリ138、歪曲補正係数用メモリ139、強度補正係数作成部251、原点補正係数作成部252、および歪曲補正係数作成部253を有する。また、回路部220は、前述の構成に加えて、アンプ126を有する。
撮像装置201を組み立て後、製造工程の中の完成品検査工程において、以下に説明するように、強度補正係数作成部251が、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を作成し、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を強度補正係数用メモリ137に書き込む。また、原点補正係数作成部252が、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを作成し、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを原点補正係数用メモリ138に書き込む。さらに、歪曲補正係数作成部253が、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成し、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を歪曲補正係数用メモリ139に書き込む。
図23は、本発明の実施の形態2に係る補正係数の作成時の撮像装置などの外観図である。201は本発明の実施の形態2の撮像装置であり、202は補正係数作成用コントローラ、203はディスプレイ、および204は撮像装置用ケーブルである。補正係数作成用コントローラ202は、産業用コンピュータから構成され、撮像装置201とディスプレイ204とを協調制御し、撮像装置201に強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4y、および歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成させる。ディスプレイ203は、CRT(Cathode Ray Tube)ディスプレイなどから構成され、補正係数作成用コントローラ202に制御され、撮像装置201と協調動作し、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4、および歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)の作成に使用する画像(チャート)を描画する。撮像装置用ケーブル204は、USB(Universal Serial Bus)ケーブルなどから構成され、撮像装置201と補正係数作成用コントローラ202とを接続し、撮像装置201に電力を供給し、撮像装置201と補正係数作成用コントローラ202の通信を媒介する。
次に、本発明の実施の形態2に係る撮像装置の動作を説明する。図24は、本発明の実施の形態2に係る強度補正係数作成に使用する強度補正用チャートの外観図である。実施の形態2の撮像装置は、製造工程において、図24のような白色均一の被写体である強度補正用チャート205を撮影する。図25(A)〜図25(C)は、本発明の実施の形態2に係る撮像装置の撮像信号と強度補正係数と補正後の撮像信号とを示す波形図である。図25(A)〜(C)において、簡単のため、第1の撮像信号I1と、第1の強度補正係数a1と、補正後の第1の撮像信号I1のみを示す。図25(A)のように、この撮像信号I1は、周辺光量の落ち込みの強度情報を含む光量分布の偏りの強度情報である。強度補正係数作成部251は、撮像信号I1の逆数を、図25(B)のような強度補正係数a1として求め、強度補正係数用メモリ137に保存する。つまり、強度補正係数作成部251は、I1(x,y)*a1(x,y)=1となるように、a1(x,y)の値を求める。これにより、ステップS1300のように強度補正をすると、補正後の撮像信号は、図25(C)のように平坦となり、均一の被写体像を再現する。同様に、強度補正係数作成部251は、第2の撮像信号I2に対する第2の強度補正係数a2、第3の撮像信号I3に対する第3の強度補正係数a3、および第4の撮像信号I4に対する第4の強度補正係数a4を作成し、強度補正係数用メモリ137に書き込む。ここで、部品精度のばらつきや組み立てのばらつきがあり、各色によって光軸中心に対し光量分布が偏り、周辺光量の落ち込みがそれぞれ異なるとき、第2の強度補正係数a2、第3の強度補正係数a3、および第4の強度補正係数a4はそれぞれ異なる。このように、白色均一の被写体を撮影し、そのときの撮像信号の逆数を強度補正係数とすることにより、強度補正を適切に行うことができる。実施の形態2の撮像装置は、この原理に基づき、強度補正係数作成部251によって強度補正係数を作成し、作成された強度補正係数を強度補正係数用メモリ137に書き込む。そして、画像処理部135の強度補正部142が、強度補正係数用メモリ137に保存された強度補正係数に基づき強度補正を行う。
図26は、本発明の実施の形態2に係る原点補正係数作成に使用する原点補正用チャートの外観図である。実施の形態2の撮像装置は、製造工程において、図26のような白色均一の被写体に十字が描画された原点補正用チャート206を撮影する。撮像装置201は、原点補正用チャート206に正対するように配置され、撮像装置201の複数のレンズの光軸の中心が、原点補正用チャート206の十字の中心に一致するように配置される。図27(A)〜図27(D)は、本発明の実施の形態2に係る原点補正用チャート206を撮影時の撮像信号を示す図である。原点補正用チャート206の撮影によって、第1の撮像信号I1、第2の撮像信号I2、第3の撮像信号I3、第4の撮像信号I4は、それぞれ図27(A)〜図27(D)に示されるような信号となる。図27(A)〜図27(D)における十字状の実線は、原点補正用チャート206に描画された十字が撮像されたものである。なお、図27(A)〜図27(D)における十字状の破線は、撮像信号との比較の便宜のために、画像の中心を通る線を仮想的に示したものであって、実際の信号には含まれない。図27のように、第1の撮像信号I1、第2の撮像信号I2、第3の撮像信号I3、第4の撮像信号I4の十字の中心(実線の中心)は、画像の中心(破線の中心)と比較し、それぞれ(s1x,s1y)、(s2x,s2y)、(s3x,s3y)、(s4x,s4y)だけずれている。このずれは、撮像装置201から原点補正用チャート206が有限の距離に配置されることによる視差の要因、およびレンズ部同士の製造時のずれや撮像素子の配置位置ずれなどによる製造ばらつきによる要因が複合されて生じる。したがって、それぞれの十字の中心のずれ(s1x,s1y)、(s2x,s2y)、(s3x,s3y)、(s4x,s4y)から視差の要因を減じたものが製造ばらつきによるずれである。原点補正係数作成部252は、このずれの影響をなくすように原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを作成し、作成した原点補正係数を原点補正係数用メモリ138へ書き込む。画像処理部135の原点補正部143が、原点補正係数用メモリ138の原点補正係数を用いて、S1400において原点補正する。
図28は、本発明の実施の形態2に係る歪曲補正係数作成に使用する歪曲補正用チャートの外観図である。実施の形態2の撮像装置は、製造工程において、図28のような白色均一の被写体に格子が描画された歪曲補正用チャート207を撮影する。この格子の間隔は、撮影された画像において、10ピクセルから15ピクセルであることが好ましい。撮像装置201は、歪曲補正用チャート207に正対するように配置され、撮像装置201の複数のレンズの光軸の中心が、歪曲補正用チャート207の格子の中心に一致するように配置される。図29は、本発明の実施の形態2に係る歪曲補正用チャート207を撮影時の撮像信号を示す図である。図29において、簡単のため、第1の撮像信号I1のみを示す。歪曲補正用チャート207を撮影することにより、第1の撮像信号I1として、図29に示されるような信号が得られる。図29において格子状で歪曲した実線は、歪曲補正用チャート207に描画された格子が撮像されたものである。なお、図29において格子状で歪曲がない破線は、撮像信号との比較の便宜のために、レンズに歪曲がないときに撮像されるものを仮想的に示したものであって、実際の撮像信号には含まれない。なお、図29においては、原点ずれ、視差によるずれを除去している。撮像信号I1上の歪曲した格子の交点(実線の交点)を(ux1(i,j),uy1(i,j))と示し、レンズに歪曲がないときに撮像される格子の交点(破線の交点)を(vx1(i,j),vy1(i,j))と示す。ここで、(i,j)はそれぞれx方向にi番目、y方向にj番目の交点であることを示し、図29のように、格子の交点は端も含めx方向にWX+1個、y方向にWY+1個あり、左上端の交点は(vx1(0,0),vy1(0,0))と示され、右下端の交点は(vx1(WX,WY),vy1(WX,WY))と示される。
歪曲補正係数作成部253は、歪曲補正後の(vx1(i,j),vy1(i,j))の撮像信号I1として、(ux1(i,j),uy1(i,j))の座標の撮像信号I1を用いるように、歪曲補正係数p1x(x,y)、p1y(x,y)を作成する。また、歪曲補正係数作成部253は、交点以外のピクセルの座標については、近隣の交点から補間により求めた座標の撮像信号I1を用いるように、歪曲補正係数p1x(x,y)、p1y(x,y)を作成する。なお、歪曲補正係数作成部253は、他の撮像信号I2、I3、I4についても同様に、歪曲補正係数p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成する。作成された歪曲補正係数は、歪曲補正係数用メモリ139に格納される。なお、原点ずれ、視差によるずれは適宜補正する。
図30は、本発明の実施の形態2に係る強度補正係数、原点補正係数、および歪曲補正係数の作成方法を示すフローチャートである。
ステップS2000において、撮像装置201の複数のレンズ部の光軸の中心がディスプレイ203の描画領域の中心に一致するように、撮像装置201を配置し、強度補正係数、原点補正係数、および歪曲補正係数の作成を開始する。次に、ステップS2110を実行する。
ステップS2110において、撮像装置201と撮像装置用ケーブル204を接続する。これは、産業用ロボットなどにより行われる。このことにより、補正係数作成用コントローラ202から撮像装置201に電力が供給され、補正係数作成用コントローラ202と撮像装置201との通信が可能になる。次に、ステップS2120を実行する。
ステップS2120において、補正係数作成用プログラムを撮像装置201へダウンロードする。補正係数作成用コントローラ202は、撮像装置201に撮像装置用ケーブル204が接続されたことを検知後、撮像装置201に補正係数作成用プログラムを送信する。そして、撮像装置201は、補正係数作成用プログラムを受信し、システム制御部131のメモリに書き込み、以下、この補正係数作成プログラムに従い強度補正係数の作成を進める。すなわち、強度補正係数作成部251、原点補正係数作成部252、および歪曲補正係数作成部253は、図22においては、システム制御部231とは独立したブロックとして図示したが、システム制御部131が補正係数作成用プログラムを実行することによってその機能が実現される仮想的なブロックである。なお、補正係数作成後、この補正係数作成プログラムは不要であり削除するため、揮発性メモリに保存しても、不揮発性メモリに保存してもよい。従って、出荷後の撮像装置201に、強度補正係数作成部251、原点補正係数作成部252、および歪曲補正係数作成部253が必ず存在するわけではない。次に、ステップS2210を実行する。
ステップS2210において、補正係数作成用コントローラ202は、ディスプレイ203に白色均一光である強度補正用チャート205を描画させる。次に、ステップS2220を実行する。
ステップS2220において、補正係数作成用コントローラ202は、撮像装置201に、撮像装置用ケーブル204を介し、撮影開始の指令を送信する。次に、ステップS2230を実行する。
ステップS2230において、撮像装置201は強度補正用チャート205の撮影を行う。ステップS2220の指令に反応し、撮像装置201は、このステップS2230を実行する。この動作はステップS1200と同様であり説明を省略する。そして、撮像装置201は、撮像信号を、強度補正係数作成用の第1の撮像信号I1(0,x,y)、第2の撮像信号I2(0,x,y)、第3の撮像信号I3(0,x,y)、および第4の撮像信号I4(0,x,y)としてシステム制御部231のメモリに保存する。なお、このメモリとして、通常使用時に動画を保存する領域などを利用する。次に、ステップS2310を実行する。
ステップS2310において、補正係数作成用コントローラ202は、ディスプレイ203に白色均一光を背景とし十字が配置された原点補正用チャート206を描画させる。ここで、補正係数作成用コントローラ202は、ディスプレイ203の描画領域の中心、すなわち撮像装置201の複数のレンズ部の光軸の中心が十字の交点と一致するように、原点補正用チャート206を描画させる。次に、ステップS2320を実行する。
ステップS2320において、補正係数作成用コントローラ202は、撮像装置201に、撮影開始の指令を、撮像装置用ケーブル204を介し送信する。次に、ステップS2330を実行する。
ステップS2330において、撮像装置201は、原点補正用チャート206の撮影を行う。ステップS2320の指令に反応し、撮像装置201は、このステップS2330を実行する。この動作はステップS1200と同様であり説明を省略する。そして、撮像装置201は、撮像信号を、原点補正係数作成用の第1の撮像信号I1(1,x,y)、第2の撮像信号I2(1,x,y)、第3の撮像信号I3(1,x,y)、および第4の撮像信号I4(1,x,y)としてシステム制御部231のメモリに保存する。なお、このメモリとして、通常使用時に動画を保存する領域などを利用する。次に、ステップS2410を実行する。
ステップS2410において、補正係数作成用コントローラ202は、ディスプレイ203に、白色均一光を背景とし格子が配置された歪曲補正用チャート207を描画する。ここで、補正係数作成用コントローラ202は、ディスプレイ203の描画領域の中心、すなわち撮像装置201の複数のレンズ部の光軸の中心が格子の中心と一致するように、歪曲補正用チャート207を描画させる。次に、ステップS2420を実行する。
ステップS2420において、補正係数作成用コントローラ202は、撮像装置201に、撮影開始の指令を、撮像装置用ケーブル204を介し送信する。次に、ステップS2430を実行する。
ステップS2430において、撮像装置201は、歪曲補正用チャート207の撮影を行う。ステップS2320の指令に反応し、撮像装置201は、このステップS2430を実行する。この動作はステップS1200と同様であり説明を省略する。そして、撮像装置201は、撮像信号を、歪曲補正係数作成用の第1の撮像信号I1(2,x,y)、第2の撮像信号I2(2,x,y)、第3の撮像信号I3(2,x,y)、および第4の撮像信号I4(2,x,y)としてシステム制御部231のメモリに保存する。なお、このメモリとして、通常使用時に動画を保存する領域などを利用する。次に、ステップS2510を実行する。
ステップS2510において、強度補正係数作成部251は、ステップS2230で撮影してメモリに保存されている、強度補正係数作成用の第1の撮像信号I1(0,x,y)、第2の撮像信号I2(0,x,y)、第3の撮像信号I3(0,x,y)、および第4の撮像信号I4(0,x,y)を用いて、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、およびa4(x,y)を作成する。強度補正係数作成部251は、下記式(49)のように画像の中心位置での強度補正係数作成用の第1の撮像信号I1(0,L/2,H/2)と、強度補正係数作成用の第1の撮像信号I1(0,x,y)との比を、第1の強度補正係数a1(x,y)とする。ここで、I1(0,L/2,H/2)は、強度補正係数作成用の第1の撮像信号のうち、画像の中央部の画素(すなわち、x座標がL/2、y座標H/2の画素)の信号を表す。なお、Hは画像の縦方向の画素数、Lは横方向の画素数である。また、強度補正係数作成部251は、下記式(50)のように画像の中心位置での強度補正係数作成用の第2の撮像信号I2(0,L/2,H/2)と強度補正係数作成用の第2の撮像信号I2(0,x,y)との比を第2の強度補正係数a2(x,y)とし、下記式(51)のように画像の中心位置での強度補正係数作成用の第3の撮像信号I3(0,L/2,H/2)と強度補正係数作成用の第3の撮像信号I3(i,x,y)のと比を第3の強度補正係数a3(x,y)とし、下記式(52)のように画像の中心位置での強度補正係数作成用の第4の撮像信号I4(0,L/2,H/2)と強度補正係数作成用の第4の撮像信号I4(i,x,y)との比を第4の強度補正係数a4(x,y)とする。なお、ステップS2230において強度補正用チャート205の撮影を複数回行い、それらの画像を加算平均した画像を、強度補正係数作成用の撮像信号として用いてもよい。この場合、平均化により、ランダムノイズなどの影響を低減できる。次に、ステップS2520を実行する。
ステップS2520において、強度補正係数作成部251は、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、およびa4(x,y)を強度補正係数用メモリ137に書き込む。この強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、およびa4(x,y)は、S1300の強度補正において使用される。次に、ステップS2610を実行する。
ステップS2610において、原点補正係数作成部252は、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを作成する。図27のように、原点補正係数作成用の第1の撮像信号I1(1,x,y)、原点補正係数作成用の第2の撮像信号I2(1,x,y)、原点補正係数作成用の第3の撮像信号I3(1,x,y)、原点補正係数作成用の第4の撮像信号I4(1,x,y)の十字の中心(図27(A)〜図27(D)に示す実線の中心)の、画像の中心(図27(A)〜図27(D)に示す破線の中心)に対するそれぞれのずれ(s1x,s1y)、(s2x,s2y)、(s3x,s3y)、(s4x,s4y)を検知する。ここで、それぞれの原点補正係数作成用の撮像信号I1(1,x,y)、I2(1,x,y)、I3(1,x,y)、I4(1,x,y)における十字の中心の座標を求める方法としては、撮像信号I1(1,x,y)、I2(1,x,y)、I3(1,x,y)、I4(1,x,y)と十字の小画像とのパターンマッチングを行う方法や、撮像信号I1(1,x,y)、I2(1,x,y)、I3(1,x,y)、I4(1,x,y)を二値化して十字のパターンを求める方法などが用いられる。このような方法により撮像信号I1(1,x,y)、I2(1,x,y)、I3(1,x,y)、I4(1,x,y)から得られた十字の中心の座標から、画像の中心の座標を減じることにより、前記のずれ(s1x,s1y)、(s2x,s2y)、(s3x,s3y)、(s4x,s4y)が得られる。
次に、原点補正係数作成部252は、視差の影響を除去するために、まず、視差の大きさを演算する。下記式(53)、(54)のように、原点補正係数作成部252は、視差のx成分Δxと視差のy成分Δyとを求める。ここで、fはレンズの焦点距離であり、Dxはレンズ部の光軸間の距離のx成分である。Dxは、第1のレンズ113aの光軸と第2のレンズ113bの光軸との距離、あるいは、第3のレンズ113cの光軸と第4のレンズ113dの光軸との距離であり、これらの距離は略一致する。Dyはレンズ部の光軸間の距離のy成分である。Dyは、第1のレンズ113aの光軸と第3のレンズ113cの光軸との距離、あるいは、第2のレンズ113bの光軸と第4のレンズ113dの光軸との距離であり、これらの距離は略一致する。Aは、撮像装置のレンズの主点(第1のレンズ113aの主点、第2のレンズ113bの主点、第3のレンズ113cの主点、あるいは第4のレンズ114dの主点)からディスプレイ203(原点補正用チャート206)までの距離である。なお、各レンズの主点からディスプレイ203までの距離は略一致する。そして、原点補正係数作成部252は、下記式(55)、(56)、(57)、(58)、(59)、(60)、(61)、および(62)のように、第1の撮像信号I1、第2の撮像信号I2、第3の撮像信号I3、第4の撮像信号I4の十字の中心(図27(A)〜図27(D)に示す実線の中心)の、画像の中心(図27(A)〜図27(D)に示す波線の中心)に対するそれぞれのずれ(s1x,s1y)、(s2x,s2y)、(s3x,s3y)、(s4x,s4y)から視差(Δx、あるいはΔy)を除去し、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを作成する。なお、ステップS2330において、原点補正用チャート206の撮影を複数回行い、それらの画像を加算平均した画像を、原点補正係数作成用の撮像信号として用いてもよい。この場合、平均化により、ランダムノイズなどの影響を低減できる。また、視差(Δx、あるいはΔy)やずれ(s1x,s1y)、(s2x,s2y)、(s3x,s3y)、(s4x,s4y)を小数点の精度で求めることにより、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを小数点の精度で求めてもよい。次に、ステップS2620を実行する。
ステップS2620において、原点補正係数作成部252は、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを原点補正係数用メモリ138に書き込む。この原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yは、ステップS1400の原点補正において使用される。次に、ステップS2710を実行する。
ステップS2710において、歪曲補正係数作成部253は、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成する。以下、第1の歪曲補正係数p1x(x,y)、p1y(x,y)の作成方法を説明する。歪曲補正用チャート207を撮影したときの歪曲補正係数作成用の第1の撮像信号I1(2,x,y)は、レンズ部に歪曲がなければ図29の歪曲のない格子(波線)として撮像されるべきものが、レンズ部の歪曲のために、歪曲した格子(実線)として撮像される。まず、歪曲補正係数作成用の第1の撮像信号I1(2,x,y)を2値化し、十字状のパターンを検知することにより、歪曲した格子(図29に示す実線)の交点の座標(ux1(i,j),uy1(i,j))を求める。この歪曲した格子(図29に示す実線)の交点(ux1(i,j),uy1(i,j))は、レンズ部の歪曲がなければ、歪曲のない格子(図29に示す波線)の交点(vx1(i,j),vy1(i,j))にあるべき点である。
歪曲のない格子(図29に示す波線)において、左上端の交点(vx1(0,0),vy1(0,0))の座標を(vx10,vy10)とし、格子のx方向の間隔をpx、格子のy方向の間隔をpyとすると、この格子の各交点(vx1(i,j),vy1(i,j))の座標は、下記式(63)および(64)のように表される。vx10、vy10、px、pyはレンズの焦点距離、撮像装置201とディスプレイ203との距離、歪曲補正用チャート207の格子サイズなどから決定される。そして、歪曲した格子(図29に示す実線)の交点(ux1(i,j),uy1(i,j))は、歪曲がなければ、歪曲のない格子(図29に示す波線)の交点(vx1(i,j),vy1(i,j))にあるべき点であるため、交点(vx1(i,j),vy1(i,j))での第1の歪曲補正係数p1x(vx1(i,j),vy1(i,j))、p1y(vx1(i,j),vy1(i,j))は、下記式(65)および(66)のように示される。交点(vx1(i,j),vy1(i,j))以外の座標での第1の歪曲補正係数p1x(x,y)、p1y(x,y)は、下記式(67)および(68)のように、座標(x,y)の周辺の歪曲のない格子(図29に示す波線)上の交点での歪曲補正係数(式(65)および(66)に示されたもの)を線形補間し作成する。図31は、歪曲補正係数を線形補間より作成する際に参照する座標を示す図である。ここで、(vx(i,j),vy(i,j))は、求めようとする座標(x,y)の左上にある歪曲のない格子(図29に示す波線)の交点である。そして、歪曲補正係数作成部253は、下記式(69)および(70)のように、原点補正係数g1x、g1yと視差Δx(式(53)参照)、Δy(式(54参照))とを用いて、原点ずれと視差の影響を除去する。
歪曲補正係数作成部253は、第2の歪曲補正係数p2x(x,y)、p2y(x,y)、第3の歪曲補正係数p3x(x,y)、p3y(x,y)、および第4の歪曲補正係数p4x(x,y)、p4y(x,y)も同様に求める。すなわち、歪曲補正係数作成用の第2の撮像信号I2(2,x,y)、歪曲補正係数作成用の第3の撮像信号I3(2,x,y)、および歪曲補正係数作成用の第4の撮像信号I4(2,x,y)に基づき、歪曲した格子の交点の座標(ux2(i,j),uy2(i,j))、(ux3(i,j),uy3(i,j))、および(ux4(i,j),uy4(i,j))を求める。歪曲のない格子の交点(vx2(i,j),vy2(i,j))、(vx3(i,j),vy3(i,j))、(vx4(i,j),vy4(i,j))は、下記式(71)、(72)、(73)、(74)、(75)、および(76)のように示される。
そして、(vx2(i,j),vy2(i,j))での第2の歪曲補正係数p2x(vx2(i,j),vy2(i,j))、p2y(vx2(i,j),vy2(i,j))は、下記式(77)および(78)のように示され、(vx3(i,j),vy3(i,j))での第3の歪曲補正係数p3x(vx3(i,j),vy3(i,j))、p3y(vx3(i,j),vy3(i,j))は、下記式(79)および(80)のように示され、(vx4(i,j),vy4(i,j))での第4の歪曲補正係数p4x(vx4(i,j),vy4(i,j))、p4y(vx4(i,j),vy4(i,j))は、下記式(81)および(82)のように示される。さらに、歪曲補正係数作成部253は、(vx2(i,j),vy2(i,j))以外の座標での第2の歪曲補正係数p2x(x,y)、p2y(x,y)を、下記式(83)および(84)のように、座標(x,y)の周辺の歪曲のない格子上の交点での歪曲補正係数(式(77)および(78)に示されたもの)を線形補間し作成する。また、歪曲補正係数作成部253は、(vx3(i,j),vy3(i,j))以外の座標での第3の歪曲補正係数p3x(x,y)、p3y(x,y)を、下記式(85)および(86)のように、座標(x,y)の周辺の歪曲のない格子上の交点での歪曲補正係数(式(79)および(80)に示されたもの)を線形補間し作成する。さらに、歪曲補正係数作成部253は、(vx4(i,j),vy4(i,j))以外の座標での第4の歪曲補正係数p4x(x,y)、p4y(x,y)を、下記式(87)および(88)のように、座標(x,y)の周辺の歪曲のない格子上の交点での歪曲補正係数(式(81)および(82)に示されたもの)を線形補間し作成する。そして、歪曲補正係数作成部253は、下記式(89)、(90)、(91)、(92)、(93)、および(94)のように、原点補正係数g2x、g2y、g3x、g3y、g4x、g4yと、視差Δx(式(53)参照)、Δy(式(54)参照)とを用いて、原点ずれと視差の影響を除去する。次に、ステップS2720を実行する。
ステップS2720において、歪曲補正係数作成部253は、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を歪曲補正係数用メモリ139に書き込む。この歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)は、ステップS1500の歪曲補正において使用される。次に、ステップS2810を実行する。
ステップS2810において、システム制御部231は、補正係数作成プログラムを消去する。補正係数作成プログラムは、強度補正係数、原点補正係数、および歪曲補正係数を作成するときのみ必要であり、通常の被写体を撮影するときは不要である。従って、ステップS2120で補正係数作成プログラムをダウンロードし、このステップで補正係数作成プログラムを消去することにより、通常使用時に利用できるメモリを増やすことができる。次に、ステップS2820を実行する。
ステップS2820において、撮像装置201から撮像装置用ケーブル204がはずされる。これは、産業用ロボットなどにより行われる。この撮像装置用ケーブル204は、次に、他の撮像装置に接続され、他の撮像装置の強度補正係数、原点補正係数、および歪曲補正係数の作成に使用される。次に、ステップS2900を実行する。
ステップS2900において、強度補正係数、原点補正係数、および歪曲補正係数の作成を終了する。
そして、撮像装置201は、通常使用時は、実施の形態1と同様に動作する。
以上のように構成し動作させることにより、実施の形態2の撮像装置は以下に示す効果を有する。
実施の形態2の撮像装置201は、製造工程において、ステップS2230において強度補正用チャート205を撮影し、ステップS2510において強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を作成し、ステップS2520において強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を強度補正係数保存用メモリ137に書き込む。そして、通常使用時に、ステップS1300において、この強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)に基づき強度補正する。このことにより、部品精度のばらつきや組み立てのばらつきが撮像装置201の各個体毎に変化しても、光量分布の偏りを補償し、偽色の発生を抑制し、きれいな画像を合成することができる。
なお、実施の形態2の撮像装置201は、第1の撮像素子123a、第2の撮像素子123b、第3の撮像素子123c、第4の撮像素子123dの感度の偏りがそれぞれ異なる場合にも、偽色発生を抑制する効果も併せて持つ。
また、実施の形態2の撮像装置201は、製造工程において、ステップS2330において原点補正用チャート206を撮影し、ステップS2610において原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを作成し、ステップS2620において原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを原点補正係数保存用メモリ138に書き込む。そして、通常使用時に、ステップS1400において、この原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yに基づき原点補正する。このことにより、部品精度のばらつきや組み立てのばらつきが撮像装置201の各個体毎に変化しても、原点のばらつきを補償し、正しい視差を求め、この正しい視差に基づき画像合成するため、きれいな画像を合成することができる。
また、実施の形態2の撮像装置201は、製造工程において、ステップS2430において歪曲補正用チャート207を撮影し、ステップS2710において歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)、ステップS2720において歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を歪曲補正係数保存用メモリ139に書き込む。そして、通常使用時に、ステップS1500において、この歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)に基づき歪曲補正する。このことにより、部品精度のばらつきや組み立てのばらつきが撮像装置201の各個体毎に変化しても、歪曲の影響を低減し、正しい視差を求め、この正しい視差に基づき画像合成するため、きれいな画像を合成することができる。
なお、実施の形態2の撮像装置201において、ディスプレイ203によって描画された強度補正用チャート205、原点補正用チャート206、および歪曲補正用チャート207を撮影したが、紙製のチャートに適宜照明を施し撮影してもよい。また、ガラスや透明樹脂のような透過型チャートを拡散白色照明の前に配置したものを撮影してもよい。
また、実施の形態2では、撮像装置201がステップS2510において強度補正係数a1、a2、a3、a4を作成し、ステップS2610において原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを作成し、ステップS2710において歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成した。しかし、この代わりに、撮像装置201が、補正係数作成用コントローラ202にディジタル化された強度補正係数作成用の撮像信号I1(0,x,y)、I2(0,x,y)、I3(0,x,y)、I4(0,x,y)、原点補正係数作成用の撮像信号I1(1,x,y)、I2(1,x,y)、I3(1,x,y)、I4(1,x,y)、および歪曲補正係数作成用の撮像信号I1(2,x,y)、I2(2,x,y)、I3(2,x,y)、I4(2,x,y)を転送し、補正係数作成用コントローラ202が、強度補正係数a1、a2、a3、a4、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4y、および歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を計算して撮像装置201に転送しても良い。この場合、撮像装置201が、補正係数作成用コントローラ202によって計算された強度補正係数a1、a2、a3、a4を強度補正係数用メモリ137に保存し、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを原点補正係数用メモリ138に保存し、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を歪曲補正係数用メモリ139に保存してもよい。
また、実施の形態2の撮像装置201において、補正係数作成プログラムはシステム制御部231のメモリに置いたが、この代わりに、SDカードなどのフラッシュメモリのような外部メモリに補正係数作成プログラムを記憶し、システム制御部231が、入出力部136を介して外部メモリへアクセスしてこの補正係数作成プログラムを実行するようにしてもよい。同様に、ステップS2510、ステップS2610、およびステップS2710で撮影した撮像信号を外部メモリに保存するようにしてもよい。
また、実施の形態2の撮像装置201は、ステップS2510において、強度補正用の撮像信号I1(0,x,y)、I2(0,x,y)、I3(0,x,y)、I4(0,x,y)の逆数を強度補正係数a1、a2、a3、a4としたが、空間的なLPFや時間的なLPFを作用してもよい。例えば、式(12)のような空間的なLPFを作用してもよい。
また、実施の形態2の撮像装置201は、ステップS2230、ステップS2330、およびステップS2430において1回の撮影により得られた撮像信号を用いて、ステップS2510、ステップS2610、およびステップS2710においてそれぞれ強度補正係数a1、a2、a3、a4、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4y、および歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を求めたが、複数回撮影して得られた撮像信号を平均したものを用いてもよい。複数回撮影した撮像信号の平均を用いることは、時間的なLPFを作用していることと等価である。このようなLPFを作用させることにより、ランダムノイズなどの影響を低減し、精度がよい強度補正係数a1、a2、a3、a4、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4y、および歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成できるため、よりきれいな画像を合成できる。
また、実施の形態2の撮像装置201は、各画素(x,y)ごとに強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を作成したが、近似式を用いてもよい。例えば、第1の強度補正係数として、下記式(95)のようにx方向とy方向にべき数展開したものを乗じた近似式や、下記式(96)のようなべき数展開した近似式を定め、ステップS2510において最小二乗法などで係数(a1x0、a1x1、a1x2、a1x3、a1xz、a1y0、a1y1、a1y2、a1y3、a1yz、あるいはa100、a110、a101、a120、a111、a102、a130、a121、a112、a103、a1xz、a1yz)を作成し、ステップS2520においてこれらの係数を強度補正係数用メモリ137に書き込み、ステップS1320において式(95)や(96)を用いて各画素(x,y)の第1の強度補正値b1(x,y)を作成してもよい。なお、式(95)および(96)において、記号「^」はべき乗を表す。また、第2の強度補正係数、第3の強度補正係数、第4の強度補正係数を第1の補正係数と同様に定め、ステップS1320において、式(95)(96)と同様に第2の強度補正値b2(x,y)、第3の強度補正値b3(x,y)、および第4の強度補正値b4(x,y)を求めてもよい。
また、実施の形態2の撮像装置201は、ステップS2230において照度が一定の白色均一光を撮影し、1組の強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を作成したが、照度が異なる白色均一光を複数撮影し、複数組の強度補正係数を作成しても良い。この場合、ステップS1300において、前記複数組みの強度補正係数から、強度に応じていずれかの強度補正係数を選択し、利用してもよい。また、前述の近似式に、強度により変化する項を付加してもよい。この場合、強度により非線形的に変化する現象も補償できる。
また、実施の形態2の撮像装置201は、ステップS2230において照度が一定の白色均一光を撮影し、撮像信号I1、I2、I3、I4が均一になるような、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を作成したが、画像の周辺部分での強度が減少するようにしてもよい。すなわち、下記式(97)のように、画像の中心位置での強度補正係数作成用の第1の撮像信号I1(0,L/2,H/2)と強度補正係数作成用の第1の撮像信号I1(0,x,y)との比に、画像の周辺になるほど小さくなる係数(1−ksh*[(x−L/2)^2+(y−H/2)^2])を乗じた結果を、第1の強度補正係数a1(x,y)とする。また、下記式(98)のように、画像の中心位置での強度補正係数作成用の第2の撮像信号I2(0,L/2,H/2)と強度補正係数作成用の第2の撮像信号I2(0p,x,y)との比に、画像の周辺になるほど小さくなる係数(1−ksh*[(x−L/2)^2+(y−H/2)^2])を乗じた結果を、第2の強度補正係数a2(x,y)とする。また、下記式(99)のように、画像の中心位置での強度補正係数作成用の第3の撮像信号I3(0,L/2,H/2)と強度補正係数作成用の第3の撮像信号I3(i,x,y)のと比に、画像の周辺になるほど小さくなる係数(1−ksh*[(x−L/2)^2+(y−H/2)^2])を乗じた結果を、第3の強度補正係数a3(x,y)とする。さらに、下記式(100)のように、画像の中心位置での強度補正係数作成用の第4の撮像信号I4(0,L/2,H/2)と強度補正係数作成用の第4の撮像信号I4(i,x,y)との比に、画像の周辺になるほど小さくなる係数(1−ksh*[(x−L/2)^2+(y−H/2)^2])を乗じた結果を、第4の強度補正係数a4(x,y)とする。なお、kshはある設定値を示し、(x−L/2)^2は(x−L/2)の二乗を示し、(y−H/2)^2は(y−H/2)の二乗を示す。このことにより、画像の周辺部分が減光したようなより自然な画像が作成できる。
また、実施の形態2の撮像装置201は、上述のように、ステップS2510において、式(49)のように画像の中心位置での強度補正係数作成用の第1の撮像信号I1(0,L/2,H/2)と強度補正係数作成用の第1の撮像信号I1(0,x,y)との比を第1の強度補正係数a1(x,y)とし、式(52)のように画像の中心位置での強度補正係数作成用の第4の撮像信号I4(0,L/2,H/2)と強度補正係数作成用の第4の撮像信号I4(i,x,y)との比を第4の強度補正係数a4(x,y)とする。そして、撮像装置201は、これらの強度補正係数を利用し、ステップS1320において、各画素(x,y)における補正値を演算する。そして、撮像装置201は、式(18)および(21)のように、第1の強度補正係数a1(x,y)および第4の強度補正係数a4(x,y)に、それぞれ設定値kab1およびkab4を乗じた結果を、第1の強度補正値b1(x,y)および第4の強度補正値b4(x,y)とする。さらに、撮像装置201は、ステップS1330において、式(22)および(25)のように、第1の強度補正値b1(x,y)および第4の強度補正値b4(x,y)を乗じることにより、第1の撮像信号I1(x,y)および第4の撮像信号I4(x,y)を補正する。
ここで、実施の形態2の変形例として、第1の撮像信号I1と第4の撮像信号I4との強度レベルが同等になるようにしてもよい。すわなち、式(52)の代わりに下記式(101)のように、画像の中心位置での強度補正係数作成用の第1の撮像信号I1(0,L/2,H/2)と強度補正係数作成用の第4の撮像信号I4(i,x,y)との比を第4の強度補正係数a4(x,y)とする。また、式(21)の代わりに下記式(102)のように、第4の強度補正係数a4(x,y)に設定値kab1を乗じた結果を第4の強度補正値b4(x,y)とする。また、式(25)のように、第4の撮像信号I4(x,y)に、第4の強度補正値b4(x,y)を乗じ補正してもよい。このことにより、撮像素子のばらつきや組み立てのばらつきにより第1の撮像信号I1と第4の撮像信号I4との強度レベルがばらついても、第1の撮像信号I1と第4の撮像信号I4の強度レベルを同等とし、より正しい視差を求め、この正しい視差に基づき画像合成するため、よりきれいな画像を合成することができる。
なお、第1の撮像素子と第4の撮像素子のレベルを合わせるのみでも強度レベルを同等にする効果がある。すなわち、強度の分布が同等であり、平均的な強度レベルのみが異なる場合、強度レベルのみを補正しても、視差の精度が向上する。具体的には、第1の強度補正係数a1と第4の強度補正係数a4とを定数とし(x、yによって変化しない定数)、設定値kab1と設定値kab4とを同一とし、下記式(103)のように、第1の強度補正係数a1と第4の強度補正係数a4との比を、第4の撮像信号I4の平均値(avg(I4))と第4の撮像信号I1の平均値(avg(I1))との比としてもよい。このことにより、強度補正係数を定数にし、強度補正係数用メモリ137の容量を削減できるため、低コスト化できる。
また、実施の形態2の撮像装置201は、各画素(x,y)ごとに歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成したが、近似式を用いてもよい。例えば、第1の歪曲補正係数として下記式(104)のようにx方向とy方向にべき数展開したものを乗じた近似式や下記式(105)のようなべき数展開した近似式を定め、ステップS2710において最小二乗法などで係数(p1x0、p1x1、p1x2、p1x3、p1xz、p1y0、p1y1、p1y2、p1y3、p1yz、あるいはp100、p110、p101、p120、p111、p102、p130、p121、p112、p103、p1xz、p1yz)を作成し、ステップS2720においてこれらの係数を歪曲補正係数用メモリ139に書き込んでも良い。また、ステップS1520において式(104)や(105)と各画素の座標(x,y)を用いて、第1の歪曲補正用座標(q1x(x,y),q1y(x,y))を作成してもよい。なお、式(104)および(105)において、記号「^」はべき乗を表す。また、第2の歪曲補正係数、第3の歪曲補正係数、第4の歪曲補正係数を第1の歪曲補正係数と同様に定め、ステップS1520において、式(104)や(105)と各画素の座標(x,y)を用いて、第1の歪曲補正用座標(q1x(x,y),q1y(x,y))と同様に第2の歪曲補正用座標(q2x(x,y),q2y(x,y))、第3の歪曲補正用座標(q3x(x,y),q3y(x,y))、および第4の歪曲補正用座標(q4x(x,y),q4y(x,y))を求めてもよい。
また、実施の形態2において、撮像装置201は、十字が描画された原点補正用チャート206を撮影したが、原点補正用チャートはこれに限定されない。例えば、中心部に点が描画されたチャートを撮影し、点の座標を求めることにより原点補正係数を求めてもよい。また、円が描画されたチャートを撮影し、円の中心を求めることにより原点補正係数を求めてもよい。
また、実施の形態2において、撮像装置201は、格子が描画された歪曲補正用チャート207を撮影したが、歪曲補正用チャートはこれに限定されない。図32(A)および(B)は、本発明の実施の形態2の変形に係る歪曲補正係数作成に使用する歪曲補正用チャートの外観図である。例えば、図32(A)のような、円が描画されたチャートを撮影し、円の歪みを求めることにより歪曲補正係数を求めてもよい。また、図32(B)のような千鳥状のチャートを撮影し、エッジを抽出し、エッジの交点を求めることにより歪曲補正係数を求めてもよい。
また、実施の形態2の撮像装置201において、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4y、およびを歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)のみを作成したが、他の被写体を描画し、他の補正係数を作成してもよい。例えば、実施の形態2と同様に強度補正用チャート205を撮影し、黒点(撮像信号が常に約0となる場所)や白点(撮像信号が常に非常に大きい場所)のための補正係数を作成してもよい。また、γ補正するための補正係数を作成してもよい。さらに、歪曲補正用チャート207を撮影し、各撮像信号(第1の撮像信号I1、第2の撮像信号I2、第3の撮像信号I3、第4の撮像信号)の間の倍率の違い、回転の角度の違いを補正するための補正係数を作成してもよい。また、それらの複数を同時に測定できる画像を描画し複数の補正係数を作成してもよい。また、これらの複数の異なる被写体の撮影し撮像信号を保存し、その後、補正係数を順次作成してもよい。
また、実施の形態2において、撮像素子123は、第1の撮像素子123a、第2の撮像素子123b、第3の撮像素子123c、および第4の撮像素子123dから構成され、撮像信号入力部133は、第1の撮像信号入力部133a、第2の撮像信号入力部133b、第3の撮像信号入力部133c、および第4の撮像信号入力部133dから構成された。しかし、撮像素子123を1つの撮像素子で構成し、この受光面上の異なる位置に第1〜第4のレンズ部113a〜113dによる4つの像を形成しても良い。また、撮像信号入力部133が1つの撮像素子123からの信号が入力される1つの撮像信号入力部から構成されてもよい。この場合、システム制御部231のメモリ上に置かれたデータにおいて、4つの領域を設定し、各領域に対応するデータを抽出することにより、第1の撮像信号I1、第2の撮像信号I2、第3の撮像信号I3、および第4の撮像信号I4とすればよい。また、製造工程で補正係数を作成するときは、上記の領域の設定を利用し、第1の撮像信号I1、第2の撮像信号I2、第3の撮像信号I3、および第4の撮像信号I4を作成し、撮像装置201の実動作時は、上記の領域の設定として、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yで補正した領域を利用し、第1の撮像信号I1、第2の撮像信号I2、第3の撮像信号I3、および第4の撮像信号I4を作成してもよい。
なお、上記の説明では、撮影によって得られた撮像信号に対して各種の補正を行い、視差を補正した後、撮像信号から画像を合成する装置の構成および動作を例示したが、本発明の撮像装置は、被写体までの距離を検出する測距装置としての応用も可能である。すなわち、本発明の撮像装置は、上述のように得られた視差に基づいて距離を演算し、得られた距離を出力する装置としての実施も可能であり、測量装置や車間距離検出装置等としての実用化が考えられる。すなわち、式(1)を距離Aについて解くと、式(46)のように示される。したがって、ブロックBiにおける被写体の距離は、式(47)のように演算され、そのブロックBiに含まれる画素(x,y)における被写体の距離は、式(48)のように示され、システム制御部231のメモリ上に保存される。なお、単位は演算時に適宜変更されている。そして、この距離情報A(x,y)を入出力部136を介し、外部に出力すれば、測距装置として機能する撮像装置を実現できる。
(実施の形態3)
前述の実施の形態2の撮像装置201は、3種類のチャートを撮影し3種類の補正係数を作成した。すなわち、強度補正用チャート205を撮影し強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を作成し、原点補正用チャート206を撮影し原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを作成し、歪曲補正用チャート207を撮影し歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成した。本発明の実施の形態3に係る撮像装置は、2種類のチャートを撮影し3種類の補正係数を作成する。すなわち、強度原点補正用チャートを撮影し強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)と原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yとを作成し、歪曲補正用チャート207を撮影し歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成する。そのため、実施の形態3の撮像装置は、製造工程における補正係数作成の時間を短縮できる。
前述の実施の形態2の撮像装置201は、3種類のチャートを撮影し3種類の補正係数を作成した。すなわち、強度補正用チャート205を撮影し強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を作成し、原点補正用チャート206を撮影し原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを作成し、歪曲補正用チャート207を撮影し歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成した。本発明の実施の形態3に係る撮像装置は、2種類のチャートを撮影し3種類の補正係数を作成する。すなわち、強度原点補正用チャートを撮影し強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)と原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yとを作成し、歪曲補正用チャート207を撮影し歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成する。そのため、実施の形態3の撮像装置は、製造工程における補正係数作成の時間を短縮できる。
本発明の実施の形態3に係る撮像装置について、図面を参照しながら説明する。図33は、本発明の実施の形態3に係る撮像装置の構成を示す断面図である。図33において、撮像装置301は、レンズモジュール部110、および回路部320を有する。
レンズモジュール部110は、鏡筒111、上部カバーガラス112、レンズ113、アクチュエータ固定部114、およびアクチュエータ可動部115を有する。回路部320は、基板121、パッケージ122、撮像素子123、パッケージカバーガラス124、およびシステムLSI(以下、SLSIと記す)325を有する。SLSI325以外の構成と動作は、実施の形態1と同様であり、同一の符号を付与し、説明を省略する。
図34は、本発明の実施の形態3に係る撮像装置のブロック図である。SLSI325は、システム制御部331、撮像素子駆動部132、撮像信号入力部133、アクチュエータ操作量出力部134、画像処理部135、入出力部136、強度補正係数用メモリ137、原点補正係数用メモリ138、歪曲補正係数用メモリ139、強度補正係数作成部351、原点補正係数作成部352、および歪曲補正係数作成部253を有する。また、回路部320は、前述の構成に加えて、アンプ126を有する。
撮像装置301を組み立て後、製造工程の中の完成品検査工程において、強度補正係数作成部351が、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を作成し、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を強度補正係数用メモリ137に書き込む。また、原点補正係数作成部352が、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを作成し、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを原点補正係数用メモリ138に書き込む。さらに、歪曲補正係数作成部253が、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成し、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を歪曲補正係数用メモリ139に書き込む。
図35は、本発明の実施の形態3に係る補正係数の作成時の撮像装置などの外観図である。301は本発明の実施の形態3の撮像装置であり、302は補正係数作成用コントローラ、203はディスプレイ、および204は撮像装置用ケーブルである。補正係数作成用コントローラ302は、産業用コンピュータから構成され、撮像装置301とディスプレイ204とを協調制御し、撮像装置301に強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4y、および歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成させる。ディスプレイ203は、CRTディスプレイなどから構成され、補正係数作成用コントローラ202に制御され、撮像装置301と協調動作し、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4y、および歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)の作成に使用する画像(チャート)を描画する。撮像装置用ケーブル204は、USBケーブルなどから構成され、撮像装置301と補正係数作成用コントローラ302とを接続し、撮像装置301に電力を供給し、撮像装置301と補正係数作成用コントローラ302の通信を媒介する。
次に、本発明の実施の形態3に係る撮像装置の動作を説明する。図36は、本発明の実施の形態3に係る強度補正係数作成と原点補正係数作成とに使用する強度原点補正用チャートの外観図である。図36のように、強度原点補正用チャート305は、白色均一の被写体に十字が描画されたものである。撮像装置301は、強度原点補正用チャート305に正対するように配置され、撮像装置301の複数のレンズの光軸の中心が、強度原点補正用チャートの十字の中心に一致するように配置される。原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yは、撮像信号の十字部の部分を利用し、実施の形態2と同様の方法で作成される。また、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)は、撮像信号の十字部以外の部分については実施の形態2と同様の方法で作成され、撮像信号の十字部分については十字部分以外の部分から補間し求める。
また、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)は、実施の形態2と同様に歪曲補正用チャート207を撮影し、実施の形態2と同様の方法で作成される。
図37は、本発明の実施の形態3に係る強度補正係数、原点補正係数、および歪曲補正係数の作成方法を示すフローチャートである。
ステップS3000において、撮像装置301の複数のレンズ部の光軸の中心がディスプレイ203の描画領域の中心に一致するように、配置し、強度補正係数、原点補正係数、および歪曲補正係数の作成を開始する。次に、ステップS2110を実行する。
ステップS2110において、撮像装置301と撮像装置用ケーブル204を接続する。このステップは、実施の形態2と同様であり、説明を省略する。次に、ステップS2120を実行する。
ステップS2120において、補正係数作成用プログラムを撮像装置301へダウンロードする。このステップは、実施の形態2と同様であり、説明を省略する。次に、ステップS3210を実行する。
ステップS3210において、補正係数作成用コントローラ302は、ディスプレイ203に、白色均一光を背景とし十字が配置された強度原点補正用チャート305(図36参照)を描画させる。ここで、ディスプレイ203の描画領域の中心、すなわち撮像装置301の複数のレンズ部の光軸の中心が十字の交点と一致するように、強度原点補正用チャート305を描画する。次に、ステップS3220を実行する。
ステップS3220において、補正係数作成用コントローラ302は、撮像装置301に、撮影開始の指令を、撮像装置用ケーブル204を介し送信する。次に、ステップS3230を実行する。
ステップS3230において、撮像装置301は、撮影を行う。ステップS3220の指令に反応し、撮像装置301は、このステップを実行する。この動作はステップS1200と同様であり説明を省略する。撮像信号は、強度原点補正係数作成用の第1の撮像信号I1(0,x,y)、第2の撮像信号I2(0,x,y)、第3の撮像信号I3(0,x,y)、および第4の撮像信号I4(0,x,y)として、システム制御部331のメモリに保存される。なお、このメモリとして、撮像装置301の通常使用時に動画を保存する領域などを利用する。次に、ステップS2410を実行する。
ステップS2410において、補正係数作成用コントローラ202は、歪曲補正用チャート207を描画する。このステップは、実施の形態2と同様であり、説明を省略する。次に、ステップS2420を実行する。
ステップS2420において、補正係数作成用コントローラ202は、撮像装置201に、撮影開始の指令を、撮像装置用ケーブル204を介し送信する。このステップは、実施の形態2と同様である。次に、ステップS2430を実行する。
ステップS2430において、撮像装置301は、撮影を行う。このステップは、実施の形態2と同様であり、説明を省略する。次に、ステップS3510を実行する。
ステップS3510において、強度補正係数作成部351は、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、およびa4(x,y)を作成する。強度補正係数作成部351は、強度原点補正用チャート305の十字が描画された以外の部分の画素について、下記式(106)のように、強度原点補正係数作成用の第1の撮像信号I1(0,x,y)の逆数を第1の補正係数a1(x,y)とする。同様に、強度補正係数作成部351は、下記式(107)のように強度原点補正係数作成用の第2の撮像信号I2(0p,x,y)の逆数の第2の補正係数a2(x,y)とし、下記式(108)のように強度原点補正係数作成用の第3の撮像信号I3(i,x,y)の逆数を第3の補正係数a3(x,y)とし、下記式(109)のように強度原点補正係数作成用の第4の撮像信号I4(i,x,y)の逆数を第4の補正係数a4(x,y)とする。次に、強度補正係数作成部351は、強度原点補正用チャート305の十字が描画された部分の画素について、十字が描画されていない最近隣の画素の強度補正係数を使用して補正係数を求める。すなわち、強度補正係数作成部351は、十字が描画された部分について、下記式(110)のように、画素(x,y)における第1の強度補正係数a1(x,y)を、十字が描画されない最近隣の画素(xn1(x,y),yn1(x,y))の第1の強度係数a1(xn1(x,y),yn1(x,y))とする。同様に、強度補正係数作成部351は、下記式(111)のように、画素(x,y)における第2の強度補正係数a2(x,y)を十字が描画されない最近隣の画素(xn2(x,y),yn2(x,y))の第2の強度係数a2(xn2(x,y),yn2(x,y))とする。また、強度補正係数作成部351は、下記式(112)のように、画素(x,y)における第3の強度補正係数a3(x,y)を、十字が描画されない最近隣の画素(xn3(x,y),yn3(x,y))の第3の強度係数a3(xn3(x,y),yn3(x,y))とする。また、強度補正係数作成部351は、下記式(113)のように、画素(x,y)における第4の強度補正係数a4(x,y)を、十字が描画されない最近隣の画素(xn4(x,y),yn4(x,y))の第4の強度係数a4(xn1(x,y),yn4(x,y))とする。なお、ステップS3230において複数回だけ撮影を行い、それらの画像を加算平均した画像を用いてもよい。この場合、平均化により、ランダムノイズなどの影響を低減できる。また、最近隣以外にも、上下の最近隣の2つの画素の係数を平均したものを利用したり、左右の最近隣の2つの画素の係数を平均したものを利用したり、上下左右の最近隣の4つの画素の係数を平均したものを利用したり、外挿により係数を予測したり、近似式を用いてもよい。次に、ステップS2520を実行する。
ステップS2520において、強度補正係数作成部351は、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、およびa4(x,y)を強度補正係数用メモリ137に書き込む。この強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、およびa4(x,y)は、S1300の強度補正において使用される。このステップは、実施の形態2と同様である。次に、ステップS3610を実行する。
ステップS3610において、原点補正係数作成部352は、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを作成する。このステップは、実施の形態2と同様の方法で行うため、説明を省略する。ただし、撮像信号として、強度原点補正係数作成用の第1の撮像信号I1(0,x,y)、強度原点補正係数作成用の第2の撮像信号I2(0,x,y)、強度原点補正係数作成用の第3の撮像信号I3(0,x,y)、強度原点補正係数作成用の第4の撮像信号I4(0,x,y)を利用する。次に、ステップS2620を実行する。
ステップS2620において、原点補正係数作成部352は、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを原点補正係数用メモリ138に書き込む。この原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yは、ステップS1400の原点補正において使用される。このステップは、実施の形態2と同様である。次に、ステップS2710を実行する。
ステップS2710において、歪曲補正係数作成部253は、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成する。このステップは、実施の形態2と同様であり、説明を省略する。次に、ステップS2720を実行する。
ステップS2720において、歪曲補正係数作成部253は、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を歪曲補正係数用メモリ139に書き込む。この歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)は、ステップS1500の歪曲補正において使用される。このステップは、実施の形態2と同様である。次に、ステップS2810を実行する。
ステップS2810において、システム制御部331は、補正係数作成プログラムを消去する。このステップは、実施の形態2と同様であり、説明を省略する。次に、ステップS2820を実行する。
ステップS2820において、撮像装置201から撮像装置用ケーブル204をはずす。このステップは、実施の形態2と同様であり、説明を省略する。次に、ステップS3900を実行する。
ステップS3900において、強度補正係数、原点補正係数、および歪曲補正係数の作成を終了する。
上記のように構成し動作させることにより、実施の形態2と同様の効果を有する。さらに、実施の形態3の撮像装置は、1種類の強度原点補正用チャート305の撮影により得られた同一の撮像信号を用いて、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)と原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yとを作成するため、製造工程における撮影回数を抑制し、製造工程のタクトを短縮することができる。
なお、上記の説明では、撮影によって得られた撮像信号に対して各種の補正を行い、視差を補正した後、撮像信号から画像を合成する装置の構成および動作を例示したが、本発明の撮像装置は、被写体までの距離を検出する測距装置としての応用も可能である。すなわち、本発明の撮像装置は、上述のように得られた視差に基づいて距離を演算し、得られた距離を出力する装置としての実施も可能であり、測量装置や車間距離検出装置等としての実用化が考えられる。すなわち、式(1)を距離Aについて解くと、式(46)のように示される。したがって、ブロックBiにおける被写体の距離は、式(47)のように演算され、そのブロックBiに含まれる画素(x,y)における被写体の距離は、式(48)のように示され、システム制御部331のメモリ上に保存される。なお、単位は演算時に適宜変更されている。そして、この距離情報A(x,y)を入出力部136を介し、外部に出力すれば、測距装置として機能する撮像装置を実現できる。
(実施の形態4)
上述した実施の形態2の撮像装置は、3種類のチャートを撮影し3種類の補正係数を作成する。すなわち、強度補正用チャート205を撮影し強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を作成し、原点補正用チャート206を撮影し原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを作成し、歪曲補正用チャート207を撮影し歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成する。これに対して、本発明の実施の形態4に係る撮像装置は、1種類のチャートを撮影し3種類の補正係数を作成する。すなわち、強度原点歪曲補正用チャートを撮影し、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)と原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yと歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)とを作成する。そのため、実施の形態4の撮像装置は、製造工程における補正係数作成の時間を短縮できる。
上述した実施の形態2の撮像装置は、3種類のチャートを撮影し3種類の補正係数を作成する。すなわち、強度補正用チャート205を撮影し強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を作成し、原点補正用チャート206を撮影し原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを作成し、歪曲補正用チャート207を撮影し歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成する。これに対して、本発明の実施の形態4に係る撮像装置は、1種類のチャートを撮影し3種類の補正係数を作成する。すなわち、強度原点歪曲補正用チャートを撮影し、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)と原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yと歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)とを作成する。そのため、実施の形態4の撮像装置は、製造工程における補正係数作成の時間を短縮できる。
本発明の実施の形態4に係る撮像装置について、図面を参照しながら説明する。図38は、本発明の実施の形態4に係る撮像装置の構成を示す断面図である。図38において、撮像装置401は、レンズモジュール部110、および回路部420を有する。
レンズモジュール部110は、鏡筒111、上部カバーガラス112、レンズ113、アクチュエータ固定部114、およびアクチュエータ可動部115を有する。回路部420は、基板121、パッケージ122、撮像素子123、パッケージカバーガラス124、およびシステムLSI(以下、SLSIと記す)425を有する。SLSI425以外の構成と動作は、実施の形態1と同様であり、同一の符号を付与し、説明を省略する。
図39は、本発明の実施の形態4に係る撮像装置のブロック図である。SLSI425は、システム制御部431、撮像素子駆動部132、撮像信号入力部133、アクチュエータ操作量出力部134、画像処理部135、入出力部136、強度補正係数用メモリ137、原点補正係数用メモリ138、歪曲補正係数用メモリ139、強度補正係数作成部451、原点補正係数作成部452、および歪曲補正係数作成部453を有する。また、回路部420は、前述の構成に加えて、アンプ126を有する。
撮像装置401を組み立て後、製造工程の中の完成品検査工程において、以下のように構成し動作を行い、強度補正係数作成部451は、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を作成し、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を強度補正係数用メモリ137に書き込む。また、原点補正係数作成部452は、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを作成し、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを原点補正係数用メモリ138に書き込む。さらに、歪曲補正係数作成部453が、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成し、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を歪曲補正係数用メモリ139に書き込む。
図40は、本発明の実施の形態4に係る補正係数の作成時の撮像装置などの外観図である。401は本発明の実施の形態4の撮像装置であり、402は補正係数作成用コントローラ、203はディスプレイ、および204は撮像装置用ケーブルである。補正係数作成用コントローラ302は、産業用コンピュータから構成され、撮像装置401とディスプレイ204とを協調制御し、撮像装置401に、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4y、および歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成させる。ディスプレイ203は、CRTディスプレイなどから構成され、補正係数作成用コントローラ402に制御され、撮像装置401と協調動作し、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4y、および歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)の作成に使用する画像(チャート)を描画する。撮像装置用ケーブル204は、USBケーブルなどから構成され、撮像装置401と補正係数作成用コントローラ402とを接続し、撮像装置401に電力を供給し、撮像装置401と補正係数作成用コントローラ402の通信を媒介する。
次に、本発明の実施の形態4に係る撮像装置の動作を説明する。図41は、本発明の実施の形態4に係る強度補正係数作成と原点補正係数作成と歪曲補正係数作成とに使用する強度原点歪曲補正用チャートの外観図である。図41のように、強度原点歪曲補正用チャート405は、白色均一の被写体に格子が描画されたものである。撮像装置401は、強度原点歪曲補正用チャート405に正対するように配置され、撮像装置401の複数のレンズの光軸の中心が、強度原点歪曲補正用チャートの格子の中心に一致するように配置される。歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)は、撮像信号の格子の部分を利用し、実施の形態2と同様の方法で作成される。また、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yは、撮像信号の格子の中心の十字部の部分(図41において、405xと405yとで構成される十字)を利用し、実施の形態2と同様の方法で作成される。また、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)は、撮像信号の格子以外の部分については実施の形態2と同様の方法で作成され、撮像信号の格子部分については格子以外の部分から補間し求める。
図42は、本発明の実施の形態4に係る強度補正係数、原点補正係数、および歪曲補正係数の作成方法を示すフローチャートである。
ステップS4000において、撮像装置401の複数のレンズ部の光軸の中心がディスプレイの描画領域の中心に一致するように、配置し、強度補正係数、原点補正係数、および歪曲補正係数の作成を開始する。次に、ステップS2110を実行する。
ステップS2110において、撮像装置401と撮像装置用ケーブル204を接続する。このステップは、実施の形態2と同様であり、説明を省略する。次に、ステップS2120を実行する。
ステップS2120において、補正係数作成用プログラムを撮像装置401へダウンロードする。このステップは、実施の形態2と同様であり、説明を省略する。次に、ステップS4210を実行する。
ステップS4210において、補正係数作成用コントローラ402は、ディスプレイ203に白色均一光を背景とし格子が配置された強度原点歪曲補正用チャート405を描画させる。ここで、ディスプレイ203の描画領域の中心、すなわち撮像装置401の複数のレンズ部の光軸の中心が格子の中心(図41における405xと405yとの交点)と一致するように、強度原点歪曲補正用チャート405を描画する。次に、ステップS4220を実行する。
ステップS4220において、補正係数作成用コントローラ402は、撮像装置401に、撮影開始の指令を、撮像装置用ケーブル204を介し送信する。次に、ステップS4230を実行する。
ステップS4230において、撮像装置401は、強度原点歪曲補正用チャート405の撮影を行う。ステップS4220の指令に反応し、撮像装置401は、このステップを実行する。この動作はステップS1200と同様であり説明を省略する。撮像信号は、強度原点歪曲補正用の第1の撮像信号I1(0,x,y)、第2の撮像信号I2(0,x,y)、第3の撮像信号I3(0,x,y)、および第4の撮像信号I4(0,x,y)として、システム制御部431のメモリに保存される。なお、このメモリとして、撮像装置401の通常使用時に動画を保存する領域などが利用される。次に、ステップS4510を実行する。
ステップS4510において、強度補正係数作成部451は、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、およびa4(x,y)を作成する。十字が描画された以外の部分の画素について、強度補正係数作成部451は、下記式(114)のように、強度原点補正用の第1の撮像信号I1(0,x,y)の逆数を第1の補正係数a1(x,y)とする。同様に、強度補正係数作成部451は、下記式(115)のように強度原点補正用の第2の撮像信号I2(0p,x,y)の逆数の第2の補正係数a2(x,y)とし、下記式(116)のように強度原点補正用の第3の撮像信号I3(i,x,y)の逆数を第3の補正係数a3(x,y)とし、下記式(117)のように強度原点補正用の第4の撮像信号I4(i,x,y)の逆数を第4の補正係数a4(x,y)とする。次に、強度補正係数作成部451は、格子が描画された部分の画素について、格子が描画されていない最近隣の画素の強度補正係数を使用する。すなわち、格子が描画された部分の画素について、強度補正係数作成部451は、下記式(118)のように画素(x,y)における第1の強度補正係数a1(x,y)を、格子が描画されない最近隣の画素(xn1(x,y),yn1(x,y))の第1の強度係数a1(xn1(x,y),yn1(x,y))とする。同様に、強度補正係数作成部451は、下記式(119)のように画素(x,y)における第2の強度補正係数a2(x,y)を、格子が描画されない最近隣の画素(xn2(x,y),yn2(x,y))の第2の強度係数a2(xn2(x,y),yn2(x,y))とする。また、強度補正係数作成部451は、下記式(120)のように、画素(x,y)における第3の強度補正係数a3(x,y)を、格子が描画されない最近隣の画素(xn3(x,y),yn3(x,y))の第3の強度係数a3(xn3(x,y),yn3(x,y))とし、下記式(121)のように画素(x,y)における第4の強度補正係数a4(x,y)を、格子が描画されない最近隣の画素(xn4(x,y),yn4(x,y))の第4の強度係数a4(xn1(x,y),yn4(x,y))とする。なお、ステップS4230において複数回の撮影を行い、それらの画像を加算平均した画像を用いてもよい。この場合、平均化により、ランダムノイズなどの影響を低減できる。また、最近隣以外にも、上下の最近隣の2つの画素の係数を平均したものを利用したり、左右の最近隣の2つの画素の係数を平均したものを利用したり、上下左右の最近隣の4つの画素の係数を平均したものを利用したり、外挿により係数を予測したり、近似式を用いてもよい。次に、ステップS2520を実行する。
ステップS2520において、強度補正係数作成部451は、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、およびa4(x,y)を強度補正係数用メモリ137に書き込む。この強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、およびa4(x,y)は、S1300の強度補正において使用される。このステップは、実施の形態2と同様である。次に、ステップS4610を実行する。
ステップS4610において、原点補正係数作成部452は、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを作成する。このステップは、実施の形態2と同様の方法で行うため、説明を省略する。ただし、原点補正係数作成部452は、撮像信号として、強度原点歪曲補正係数作成用の第1の撮像信号I1(0,x,y)、強度原点歪曲補正係数作成用の第2の撮像信号I2(0,x,y)、強度原点歪曲補正係数作成用の第3の撮像信号I3(0,x,y)、強度原点歪曲補正係数作成用の第4の撮像信号I4(0,x,y)を利用する。また、原点補正係数作成部452は、十字部として図41の405xと405yを利用する。次に、ステップS2620を実行する。
ステップS2620において、原点補正係数作成部452は、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを原点補正係数用メモリ138に書き込む。この原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yは、ステップS1400の原点補正において使用される。このステップは、実施の形態2と同様である。次に、ステップS4710を実行する。
ステップS4710において、歪曲補正係数作成部453は、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成する。このステップは、実施の形態2と同様であり、説明を省略する。ただし、歪曲補正係数作成部453は、撮像信号として、強度原点歪曲補正係数作成用の第1の撮像信号I1(0,x,y)、強度原点歪曲補正係数作成用の第2の撮像信号I2(0,x,y)、強度原点歪曲補正係数作成用の第3の撮像信号I3(0,x,y)、強度原点歪曲補正係数作成用の第4の撮像信号I4(0,x,y)を利用する。次に、ステップS2720を実行する。
ステップS2720において、歪曲補正係数作成部453は、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を歪曲補正係数用メモリ139に書き込む。この歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)は、ステップS1500の歪曲補正において使用される。このステップは、実施の形態2と同様である。次に、ステップS2810を実行する。
ステップS2810において、システム制御部431は、補正係数作成プログラムを消去する。このステップは、実施の形態2と同様であり、説明を省略する。次に、ステップS2820を実行する。
ステップS2820において、撮像装置401から撮像装置用ケーブル204をはずす。このステップは、実施の形態2と同様であり、説明を省略する。次に、ステップS4900を実行する。
ステップS4900において、強度補正係数、原点補正係数、および歪曲補正係数の作成を終了する。
上記のように構成し動作させることにより、実施の形態2と同様の効果を有する。
さらに、実施の形態4の撮像装置401は、1種類の強度原点歪曲補正用チャート405の撮影により得られた同一の撮像信号を用いて、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)と、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yと、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)とを作成するため、製造工程における撮影回数を抑制し、製造工程のタクトを短縮することができる。
なお、上記の説明では、撮影によって得られた撮像信号に対して各種の補正を行い、視差を補正した後、撮像信号から画像を合成する装置の構成および動作を例示したが、本発明の撮像装置は、被写体までの距離を検出する測距装置としての応用も可能である。すなわち、本発明の撮像装置は、上述のように得られた視差に基づいて距離を演算し、得られた距離を出力する装置としての実施も可能であり、測量装置や車間距離検出装置等としての実用化が考えられる。すなわち、式(1)を距離Aについて解くと、式(46)のように示される。したがって、ブロックBiにおける被写体の距離は、式(47)のように演算され、そのブロックBiに含まれる画素(x,y)における被写体の距離は、式(48)のように示され、システム制御部431のメモリ上に保存される。なお、単位は演算時に適宜変更されている。そして、この距離情報A(x,y)を入出力部136を介し、外部に出力すれば、測距装置として機能する撮像装置を実現できる。
(実施の形態5)
実施の形態1の撮像装置は、4つのレンズ部を有し、それぞれが単色の色を検知した。実施の形態5の撮像装置は、2つのレンズ部を有し、それぞれが全色を検知するものである。そして、実施の形態5の撮像装置は、画像情報のみならず、視差から演算された距離情報をも出力する。
実施の形態1の撮像装置は、4つのレンズ部を有し、それぞれが単色の色を検知した。実施の形態5の撮像装置は、2つのレンズ部を有し、それぞれが全色を検知するものである。そして、実施の形態5の撮像装置は、画像情報のみならず、視差から演算された距離情報をも出力する。
本発明の実施の形態5に係る撮像装置について、図面を参照しながら説明する。
図43は、本発明の実施の形態5に係る撮像装置501の構成を示す断面図である。図43において、撮像装置501は、レンズモジュール部510、および回路部520を有する。
レンズモジュール部510は、鏡筒511、上部カバーガラス512、レンズ513、アクチュエータ固定部514、およびアクチュエータ可動部515を有する。回路部520は、基板521、パッケージ522、撮像素子523、パッケージカバーガラス524、およびシステムLSI(以下、SLSIと記す)525を有する。
鏡筒511は、円筒状であり、その内壁面は光の乱反射を防止するためにつやが消された黒色であり、樹脂を射出成形し形成される。上部カバーガラス512は、円盤状であり、透明樹脂から形成され、鏡筒511の上面に接着剤などにより固着され、その表面は摩擦などによる損傷を防止する保護膜と、入射光の反射を防止する反射防止膜とが設けられている。
図44は、本発明の実施の形態5に係る撮像装置のレンズ513の上面図である。レンズ513は、略円盤状であり、ガラスや透明樹脂から形成され、第1のレンズ部513a、および第2のレンズ部513bが配置される。第1〜第2のレンズ部513a〜513bの配置方向に沿って、図44に示すようにX軸及びY軸を設定する。第1のレンズ部513a、および第2のレンズ部513bにおいて、それぞれの上部の湾曲部から入射した光は、それぞれの下部の湾曲部から射出し、撮像素子523上に2つの像を結像する。
アクチュエータ固定部514は、鏡筒511の内壁面に接着剤などにより固着される。アクチュエータ可動部515は、レンズ513の外周縁に接着剤などにより固着される。アクチュエータ固定部514とアクチュエータ可動部515との詳細な構成は、それぞれ実施の形態1のアクチュエータ固定部114とアクチュエータ可動部115と同様であり、説明を省略する。
基板521は、樹脂基板から構成され、上面に鏡筒511がその底面を接して接着剤などにより固着される。このようにして、レンズモジュール部510と回路部520とが固定され、撮像装置501を構成する。
パッケージ522は、金属端子を有する樹脂からなり、鏡筒511の内側において、基板521の上面にその金属端子部が半田づけ等されて固着される。撮像素子523は、第1の撮像素子523a、および第2の撮像素子523bから構成される。第1の撮像素子523a、および第2の撮像素子523bは、それぞれCCDセンサやCMOSセンサのような固体撮像素子であり、これらの受光面の中心が、それぞれ第1のレンズ部513a、および第2のレンズ部513bの光軸中心と略一致するように、また各撮像素子の受光面が対応するレンズ部の光軸と略垂直になるようにして配置される。第1の撮像素子523a、および第2の撮像素子523bの各端子は、パッケージ522の内側の底部の金属端子にワイヤーボンディングにより金線527で接続され、基板521を介して、SLSI525と電気的に接続される。第1の撮像素子523a、および第2の撮像素子523bの各受光面に、第1のレンズ部513a、および第2のレンズ部513bから射出された光がそれぞれ結像し、フォトダイオードにより光の情報から変換された電気の情報が、SLSI525に出力される。
図45は、本発明の実施の形態5に係る撮像装置の回路部520の上面図である。パッケージカバーガラス524は、平板状であり、透明樹脂により形成され、パッケージ522の上面に接着などにより固着される。パッケージカバーガラス524の上面には、遮光部524eが蒸着などにより配置される。
したがって、第1のレンズ部513aの上部から入射した物体光は、第1のレンズ部513aの下部から射出され、カバーガラスの524a部を透過し、第1の撮像素子523aの受光部に結像する。また、第2のレンズ部513bの上部から入射した物体光は、第2のレンズ部513bの下部から射出され、カバーガラスの524b部を透過し、第2の撮像素子523bの受光部に結像する。
SLSI525は、後述の方法で、アクチュエータ可動部515のコイルの通電を制御し、撮像素子523を駆動し、撮像素子523からの電気情報を入力し、各種画像処理を行い、上位CPUと通信を行い、外部に画像出力する。
次に、被写体距離と視差との関係を説明する。本発明の実施の形態5に係るカメラモジュールは2つのレンズ部(第1のレンズ部513a、および第2のレンズ部513b)を有するため、実施の形態1で説明したように、2つのレンズ部がそれぞれ形成する2つの物体像の相対的位置が被写体距離に応じて変化する(式(1)を参照のこと)。
次に、本発明の実施の形態5に係る撮像装置の動作を説明する。図46は、本発明の実施の形態5に係る撮像装置のブロック図である。SLSI525は、システム制御部531、撮像素子駆動部532、撮像信号入力部533、アクチュエータ操作量出力部534、画像処理部535、入出力部536、強度補正係数用メモリ537、原点補正係数用メモリ538、および歪曲補正用メモリ539を有する。また、回路部520は、前述の構成に加えてアンプ526を有する。アンプ526は、アクチュエータ操作量出力部534からの出力に応じた電圧をアクチュエータ可動部515のコイルに印加する。
システム制御部531は、CPU、メモリなどから構成され、SLSI525の全体を制御する。
撮像素子駆動部532は、ロジック回路などから構成され、撮像素子523を駆動する信号を発生し、この信号に応じた電圧を撮像素子523に印加する。
撮像信号入力部533は、第1の撮像信号入力部533a、および第2の撮像信号入力部533bから構成される。第1の撮像信号入力部533a、および第2の撮像信号入力部533bは、それぞれCDS回路、AGC、ADCが直列に接続されて構成されている。第1の撮像信号入力部533a、および第2の撮像信号入力部533bは、それぞれ第1の撮像素子523a、および第2の撮像素子523bに接続され、これらからの電気信号が入力され、CDS回路により固定ノイズを除去し、AGCによりゲインを調整し、ADCによりアナログ信号からディジタル値に変換し、システム制御部531のメモリに書き込む。
アクチュエータ操作量出力部534は、DACから構成され、アクチュエータ可動部515のコイルに印加すべき電圧に応じた電圧信号を出力する。
画像処理部535は、ロジック回路、またはDSP、あるいは両者を含んで構成され、システム制御部531のメモリ情報を利用し、各種画像処理を行う。画像処理部535は、自動焦点制御部541、強度補正部542、原点補正部543、歪曲補正部544、および距離演算部545を有する。
入出力部536は、上位CPU(図示せず)との通信や、上位CPU、外部メモリ(図示せず)、および液晶などの外部表示装置(図示せず)へ画像信号を出力する。
強度補正係数用メモリ537は、フラッシュメモリやFeRAMなどのような不揮発性メモリから構成され、強度補正部542で使用する強度補正係数を保存する。原点補正係数用メモリ538は、フラッシュメモリやFeRAMなどのような不揮発性メモリから構成され、原点補正部543で使用する原点補正係数を保存する。歪曲補正係数用メモリ539は、フラッシュメモリやFeRAMなどのような不揮発性メモリから構成され、歪曲補正部544で使用する歪曲補正係数を保存する。
図47は、本発明の実施の形態5に係る撮像装置の動作を示すフローチャートである。SLSI525のシステム制御部531により、撮像装置501は、このフローチャートとおりに動作される。
ステップS5000において、動作を開始する。例えば、上位CPU(図示せず)がシャッターボタン(図示せず)などが押されたことを検知し、入出力部536を介し、撮像装置501に動作の開始を命令することにより、撮像装置501は、動作を開始する。次に、ステップS5100を実行する。
ステップS5100において、自動焦点制御部541は、自動焦点制御を実行する。このステップは、実施の形態1と同様であり、説明を省略する。次に、ステップS5200を実行する。
ステップS5200において、画像を入力する。システム制御部531の命令により、撮像素子駆動部532が電子シャッターや転送を行うための信号を随時出力する。第1の撮像信号入力部533a、および第2の撮像信号入力533bは、撮像素子駆動部532が発生する信号に同期して、第1の撮像素子523a、および第2の撮像素子523bが出力する各画像のアナログ信号である撮像信号を入力し、CDSにより固定ノイズを除去し、AGCにより自動的に入力ゲインを調整し、ADCによりアナログ信号をディジタル値に変換し、第1の撮像信号I1(x,y)、および第2の撮像信号I2(x,y)として、システム制御部531の所定アドレスのメモリにディジタル値を書き込む。図13のように、I1(x,y)は、水平方向にx番目、垂直方向にy番目の画素の第1の撮像信号であることを示す。入力される画像の縦方向の画素数がH、横方向の画素数がLであり、総画素数はH×Lであり、xは0からL−1まで変化し、yは0からH−1まで変化する。第2の撮像信号I2(x,y)も同様に、ぞれぞれ水平方向にx番目、垂直方向にy番目の第2の撮像信号であることを示す。入力される画像の縦方向の画素数がH、横方向の画素数がLであり、それぞれの総画素数はH×Lであり、xは0からL−1まで変化し、yは0からH−1まで変化する。次に、ステップS5300を実行する。
ステップS5300において、強度補正部542は、強度補正係数用メモリ537に保存された強度補正係数を用いて、第1の撮像信号I1、第2の撮像信号I2を補正する。そして、その結果をシステム制御部531のメモリに書き込む。このステップは、第1の実施の形態のステップS1300と同様であり、説明を省略する。ただし、第1の実施の形態で使用した第3の撮像信号I3、第4の撮像信号I4、第3の強度補正係数a3(x,y)、第4の強度補正係数a4(x,y)を使用しないなど、若干の変更を要する。次に、ステップS5400を実行する。
ステップS5400において、原点補正部543は、原点補正係数用メモリ538に保存された原点補正係数を用いて第1の撮像信号I1、および第2の撮像信号I2を補正する。そして、その結果をシステム制御部531のメモリに書き込む。このステップは、第1の実施の形態のステップS1400と同様であり、説明を省略する。ただし、第1の実施の形態で使用した第3の撮像信号I3、第4の撮像信号I4、第3の原点補正係数g3x、g3y、第4の強度補正係数g4x、g4yを使用しないなど、若干の変更を要する。次に、ステップS5500を実行する。
ステップS5500において、歪曲補正部544は、歪曲補正係数用メモリ539に保存された歪曲補正係数を用いて第1の撮像信号I1、および第2の撮像信号I2を補正する。そして、その結果をシステム制御部531のメモリに書き込む。このステップは、実施の形態1のステップS1500と同様であり、説明を省略する。ただし、第1の実施の形態で使用した第3の撮像信号I3、第4の撮像信号I4、第3の歪曲補正係数p3x(x,y)、p3y(x,y)、第4の歪曲補正係数p4x(x,y)、p4y(x,y)を使用しないなど、若干の変更を要する。次に、ステップS5600を実行する。
ステップS5600において、距離演算部545が、距離演算を実行する。図48は、本発明の実施の形態5に係る距離演算の動作を示すフローチャートである。図48のフローチャートは、ステップS5600の動作の詳細を示す。
まず、ステップS5620において、距離演算部545は、ブロック分割を行う。このステップは、実施の形態1のステップS1620と同様であり、説明を省略する。次に、ステップS5630を実行する。
ステップS5630において、距離演算部545は、各ブロック毎の視差値を演算する。まず、各ブロック(B0、B1、…、Bi、…、BMN−1)毎に、視差評価値(R0(k)、R1(k)、…、Ri(k)、…、RMN−1(k)。k=0、1、…、kmax)を演算する。図49は、本発明の実施の形態5に係る撮像装置において、視差評価値の演算領域を説明する図である。Biで示される(I1としても示されている)領域は、第1の撮像信号I1からステップS5620で求められたi番目のブロックである。I2で示される領域は、Biをx方向にkだけ移動した領域である。そして、それぞれの領域の全画像信号I1(x,y)、I2(x+k,y)について、下記式(122)に示される絶対値差分総和を視差評価値Ri(k)として演算する。ここで、ΣΣは、ブロックBi内の全ての画素の総和を示す。
この視差評価値Ri(k)は、i番目のブロックBiの第1の画像信号I1と、x方向にkだけ離れた領域における第2の画像信号I2がどれだけ相関があるかを示し、値が小さいほど相関が大きい(よく似ている)ことを示す。図20のように、視差評価値Ri(k)はkの値によって変化し、k=Δiのとき極小値を持つ。これは、第1の画像信号I1のi番目のブロックBiをx、y方向にそれぞれ(Δi、0)だけ移動させて得られる画像信号は、第2の画像信号I2と最も相関がある(最も似ている)ことを示す。したがって、i番目のブロックBiについての第1の撮像信号I1と第2の撮像信号I2とのx、y方向の視差が(Δi、0)であることが分かる。以下、このΔiを、i番目のブロックBiの視差値Δiと呼ぶ。このように、i=0からi=M×N−1までBiの視差値Δiを求める。次に、ステップS5640を実行する。
ステップS5640において、距離演算部545は、距離演算を行う。式(1)を距離Aについて解くと、下記式(123)のように示される。したがって、ブロックBiにおける被写体の距離は、下記式(124)のように演算され、そのブロックBiに含まれる画素(x,y)における被写体の距離は、下記式(125)のように求められる。求められた距離は、システム制御部531のメモリ上に保存される。なお、単位は演算時に適宜変更されている。次に、ステップS5650を実行する。
ステップS5650において、距離演算を終了し、メインルーチンへ戻る。従って、次に、図47のステップS5700を実行する。
ステップS5700において、入出力部536が結果を出力する。入出力部536は、システム制御部531のメモリ上のデータであるI1(x,y),A(x,y)を、上位CPU(図示せず)や外部表示装置(図示せず)に出力する。次に、S5800を実行する。
ステップS5800において、動作を終了する。
以上のように撮像装置501を構成し、動作させることにより、以下の効果を有する。
実施の形態5の係る撮像装置501は、ステップS5300において強度補正係数a1、a2に基づき、撮像領域の位置(x,y)により補正の度合が変化する強度補正値b1(x,y)、b2(x,y)を作成し、撮像信号I1(x,y)、I2(x,y)を補正し、光量分布の偏りを補償する。また、撮像装置501は、ステップS5620において第1の撮像信号I1を複数のブロックに分割し、ステップS5630において補正された撮像信号I1(x,y)、I2(x,y)に基づきブロック毎に視差を求める。また、撮像装置501は、ステップS5640においてこの視差に基づきブロック毎に距離演算する。このように、撮像装置501は、光量分布の偏りを補償し、正しい視差を求め、この正しい視差に基づき距離演算するため、正しい距離を作成することができる。
また、実施の形態5に係る撮像装置501は、原点補正用係数用メモリ538に原点補正係数g1x、g2x、g1y、g2yを保存し、ステップS5400において原点補正係数g1x、g2x、g1y、g2yに基づき、撮像信号I1(x,y)、I2(x,y)の原点を補正する。また、撮像装置501は、ステップS5630において補正された撮像信号I1(x,y)、I2(x,y)に基づきブロック毎に視差を求める。さらに、撮像装置501は、ステップS5640においてこの視差に基づきブロック毎に距離を演算する。このように、撮像装置501は、正しい視差を求め、この正しい視差に基づき距離を演算するため、正しい距離を作成することができる。
また、実施の形態5に係る撮像装置501は、歪曲補正係数p1x(x,y)、p2x(x,y)、p1y(x,y)、p2y(x,y)を保存し、ステップS5520において歪曲補正係数p1x(x,y)、p2x(x,y)、p1y(x,y)、p2y(x,y)に基づき、歪曲補正用座標q1x(x,y)、q2x(x,y)、q1y(x,y)、q2y(x,y)を演算する。さらに、撮像装置501は、ステップS5530において歪曲補正用座標q1x(x,y)、q2x(x,y)、q1y(x,y)、q2y(x,y)において複数のレンズ部の歪曲の影響を低減するように撮像信号I1(x,y)、I2(x,y)を補正し、ステップS5630において補正された撮像信号I1(x,y)、I2(x,y)に基づきブロック毎に視差を求める。また、撮像装置501は、ステップS5640においてこの視差に基づき距離を演算する。このように、撮像装置501は、正しい視差を求め、この正しい視差に基づき距離を演算するため、正しい距離を作成することができる。
なお、実施の形態5の撮像装置は、白黒の撮像素子を利用したが、ベイヤー配列の撮像素子を利用してもよい。その場合、例えば、カラー画像から輝度を演算し、この輝度に対し、強度補正、原点補正、歪曲補正を施し、視差を演算し、距離を演算するなどの若干の変更を要する。
なお、実施の形態1から実施の形態5において、ブロックを矩形状に分割したが、これに限定されない。例えば、エッジを検出し、エッジに基づき非矩形状のブロックに分割してもよい。また、ブロック毎の領域の視差を求めずに、エッジを複数の線分に分割し、この線分の視差を求めてもよい。また、あるブロックにおいて求められた視差を評価し、ブロックを分割したり結合したりしてもよい。
また、実施の形態1から実施の形態5において、焦点制御を省略し、アクチュエータを構成に含まなくてもよい。非常に焦点深度が深いレンズを利用した場合は、レンズと撮像素子の距離の誤差が大きく許容されるため、アクチュエータを動作させる必要がない。
本発明の撮像装置は、小型化、薄型化が可能な撮像装置であるため、カメラ機能を備えた携帯電話、ディジタルスチルカメラ、監視用カメラ、および車載用カメラ、または測距装置などに有用である。
【書類名】 明細書
【発明の名称】 撮像装置およびその製造方法
【技術分野】
【0001】
本発明は、小型、薄型の撮像装置とその製造方法に関する。
【背景技術】
【0002】
従来の撮像装置として、例えば特開2001−78213号公報に開示された撮像装置がある。図50は、従来の撮像装置の構成を示す断面図である。
【0003】
図50において、撮像系9010は、物体からの光を絞り9110及び撮像レンズ9100を介して撮像素子9120の撮像面に結像する光学処理系である。絞り9110は、3つの円形開口9110a、9110b、9110cを有する。開口9110a、9110b、9110cの各々から撮像レンズ9100の光入射面9100eに入射した物体光は、撮像レンズ9100の3つのレンズ部9100a、9100b、9100cから射出して撮像素子9120の撮像面上に3つの物体像を形成する。撮像レンズ9100の平面部9100dには遮光性膜が形成されている。撮像レンズ9100の光入射面9100e上には互いに異なる波長帯域の光を透過させる3つの光学フィルタ9052a、9052b、9052cが形成されている。また、撮像素子9120上の3つの撮像領域9120a、9120b、9120c上にも、互いに異なる波長帯域の光を透過させる3つの光学フィルタ9053a、9053b、9053cが形成されている。光学フィルタ9052aと光学フィルタ9053aは、主に緑色(Gで示す)を透過する分光透過率特性を有し、光学フィルタ9052bと光学フィルタ9053bは、主に赤色(Rで示す)を透過する分光透過率特性を有し、さらに、光学フィルタ9052cと光学フィルタ9053cは、主に青色(Bで示す)を透過する分光透過率特性を有する。そのため、撮像領域9120aは緑色光(G)に対して、撮像領域9120bは赤色光(R)に対して、撮像領域9120cは青色光(B)に対して、それぞれ感度を持つ。
【0004】
このような複数の撮像レンズを備えた撮像装置では、カメラモジュールから物体までの距離が変化すると、撮像素子9120の撮像面上に複数の撮像レンズがそれぞれ形成する複数の物体像の相互間隔が変化する。
【0005】
上記の従来のカメラモジュールでは、仮想被写体距離D[m]を複数の結像系の撮影画角θ[°]の関数として、D=1.4/(tan(θ/2))と定義したとき、物体が仮想被写体距離D[m]にあるときの複数の物体像の相互間隔と無限遠にあるときの複数の物体像の相互間隔との変化が、基準画像信号の画素ピッチの2倍よりも小さくなるように、複数の結像系の光軸間隔が設定されている。すなわち、仮想被写体距離D[m]にある物体の撮影に最適化された画像処理と同一の画像処理を、無限遠にある物体の撮影に対して行っても、撮像面上での両物体像の相互間隔の差が基準信号の画素ピッチの2倍より小さくなるように光軸間隔が設定されているので、無限遠にある物体像の色ズレを許容可能なレベルに抑えることができる。
【特許文献1】特開2001−78213号公報
【発明の開示】
【発明が解決しようとする課題】
【0006】
従来の撮像装置において、撮像レンズ9100の3つのレンズ部9100a、9100b、9100cの光軸は、それぞれ絞り9110の3つの円形開口9110a、9110b、9110cの中心、および撮像領域9120a、9120b、9120cの中心を通るように配置される。しかしながら、部品精度のばらつき、組み立てのばらつきなどにより、撮像レンズ9100の3つのレンズ部9100a、9100b、9100cの光軸は、それぞれ絞り9110の3つの円形開口9110a、9110b、9110cの中心からずれることがある。レンズの固有の特性として、撮像素子9120の撮像面において、中心部と比較し周辺部は光量(周辺光量)が減少するが、撮像レンズ9100の3つのレンズ部9100a、9100b、9100cの光軸と絞り9110の3つの円形開口9110a、9110b、9110cの中心とがそれぞれ異なる方向にずれるとき、周辺光量の減少度合がそれぞれ異なる。
【0007】
図51は、絞りとレンズ部と周辺光量の関係を説明する図である。図51において、簡単のため、レンズ9100、絞り9110、および撮像素子9120のみが示されている。また、G,R,Bで示される曲線は、それぞれ緑色、赤色、青色の光量の大きさを示す。ここで、図51に示すとおり、紙面の上向きをy方向の正の向きとする。図51のように、円形開口9110bの中心がレンズ部9100bの光軸と一致するとき、撮像素子9120の撮像面において、周辺光量はy方向の正負の向きに対称に減少する(Rで示した曲線分布になる)。そのため、赤色の光量分布は、y方向に関して正負対称である。しかし、レンズ9100や絞り9110の加工精度のばらつきなどにより、円形開口9110aの中心がレンズ部9100aの光軸よりy方向で負の向きにずれるとき、撮像素子9120の撮像面において、周辺光量はy方向に負向きの減少度合が大きい(Gで示した曲線分布になる)。そのため、緑色の光量分布は、y方向に関して正向きが大きい。一方、レンズ9100や絞り9110の加工精度のばらつきなどにより、円形開口9110cの中心がレンズ部9100cの光軸よりy方向で正の向きにずれるとき、撮像素子9120の撮像面において、周辺光量はy方向に正向きの減少度合が大きい(Bで示した曲線分布になる)。そのため、青色の光量分布は、y方向に関して負向きが大きい。なお、図51のようなばらつきは、絞り9110とレンズ9100とが樹脂から構成され、熱成形により作成されるとき、組成違いによる熱膨張率の違いから、発生する可能性を有する。
【0008】
図52は、緑色成分と赤色成分と青色成分の光量分布を示す図である。横軸はy軸を示し、縦軸は光量の大きさを示す。上述のようなばらつきを持つとき、例えば灰色の被写体を撮影し画像合成した場合、図52のように、赤色の光量分布(Rで示した曲線)は、y方向に関して正負対称であり、緑色の光量分布(Gで示した曲線)は、y方向に関して正向きが大きく、青色の光量分布(Bで示した曲線)は、y方向に関して負向きが大きいため、y方向の中央部が赤色に、正の位置が緑色に、負の位置が青色になるというように、実際の被写体の色(この例では灰色)以外の色(偽色)が発生する。すなわち、複数のレンズ部を持ち、それぞれのレンズ部に対応する撮像領域において、被写体の赤色光、緑色光、青色光を独立に受光する従来の撮像装置は、光量分布に偏りがあるとき、赤色光、緑色光、青色光が異なる光量となるため、偽色が発生する。
【0009】
このように、部品精度のばらつき、組み立てのばらつきなどにより、撮像レンズ9100の3つのレンズ部9100a、9100b、9100cの光軸が、それぞれ絞り9110の3つの円形開口9110a、9110b、9110cの中心からずれると偽色が発生する。
【0010】
なお、1つのレンズ部と1つの撮像領域から構成され、撮像領域にベイヤー配列のカラーフィルタが配置された撮像素子(例えば、撮像素子がCCDであり、撮像素子の表面に赤色、緑色、青色の3つの異なるカラーフィルタが格子状に配置され、そのカラーフィルタがそれぞれ1つのフォトダイオードに対応するもの)を有する撮像装置では上記の問題は発生しない。すなわち、上述のような部品精度のばらつき、組み立てのばらつきなどにより、レンズ部が絞りの中心からずれ、光量が偏っても、赤色、緑色、青色のカラーフィルタは互いに格子状に近接して配置され、被写体の赤色光、緑色光、青色光をそれぞれ近接した撮像領域で受光するため、赤色光、緑色光、青色光が同様の光量分布となるため、偽色が発生しない。しかし、このような1つのレンズ部と1つの撮像素子から構成された撮像装置は、光学長が長いため、小型化、薄型化できない。
【0011】
本発明は、上記問題に鑑みなされたもので、部品精度のばらつきや組み立てのばらつきがあっても、各色光が同様の光量分布を有する撮像信号を得られる小型、薄型の撮像装置を提供することを目的とする。
【課題を解決するための手段】
【0012】
本発明の撮像装置は、それぞれが少なくとも1枚のレンズを含む複数のレンズ部と、前記複数のレンズ部に一対一に対応し、対応する前記レンズ部の光軸方向に対して略垂直な受光面をそれぞれ備える複数の撮像領域と、前記複数の撮像領域からそれぞれ出力される複数の撮像信号が入力される撮像信号入力部と、前記撮像領域の強度むらの情報である強度補正係数を保存する強度補正係数保存部と、前記強度補正係数を用いて、前記撮像領域の強度むらの影響を低減するように前記複数の撮像信号のそれぞれの強度を補正する強度補正部とを有する。
【発明の効果】
【0013】
本発明は、部品精度のばらつきや組み立てのばらつきがあっても、各色光が同様の光量分布を有する撮像信号を得られる小型、薄型の撮像装置を提供することができる。
【発明を実施するための最良の形態】
【0014】
本発明の撮像装置は、それぞれが少なくとも1枚のレンズを含む複数のレンズ部と、前記複数のレンズ部に一対一に対応し、対応する前記レンズ部の光軸方向に対して略垂直な受光面をそれぞれ備える複数の撮像領域と、前記複数の撮像領域からそれぞれ出力される複数の撮像信号が入力される撮像信号入力部と、前記撮像領域の強度むらの情報である強度補正係数を保存する強度補正係数保存部と、前記強度補正係数を用いて、前記撮像領域の強度むらの影響を低減するように前記複数の撮像信号のそれぞれの強度を補正する強度補正部とを有する。
【0015】
部品精度のばらつきや組み立てのばらつきがあると、各色によって光軸中心に対し光量分布が偏り、偽色が発生する。本発明の撮像装置によれば、強度補正係数を保存し、強度補正係数に基づき、撮像領域の強度むらの影響を低減するように撮像信号の強度を補正することにより、光量分布の偏りを補償できる、これにより、補正後の撮像信号から例えば画像を合成する場合に、偽色の発生を抑制し、きれいな画像を合成することができる。
【0016】
上記の撮像装置において、前記複数の撮像領域のうち少なくとも2つの前記撮像領域に対する入射光の光路上に、第1の波長を略中心とする透過特性を有する光学素子をさらに備え、その他の撮像領域に対する入射光の光路上に、前記第1の波長と異なる波長を略中心とする透過特性を有する光学素子をさらに備えたことが好ましい。さらに、前記強度補正部は、前記複数の撮像領域のうち、少なくとも前記第1の波長を略中心とする透過特性を有する光学素子を透過した光線を受光する撮像領域に対応した前記撮像信号の強度を補正することが好ましい。なお、前記第1の波長は、例えば、人間の視覚に略緑として認識される波長であることが好ましい。
【0017】
上記の撮像装置において、前記強度補正部により強度を補正された撮像信号に基づき、前記複数のレンズ部がそれぞれ形成する像間の視差を求める視差演算部と、前記視差に基づいて前記複数の撮像信号を補正し画像を合成する視差補正部とをさらに有することが好ましい。
【0018】
部品精度のばらつきや組み立てのばらつきがあると、各色によって光軸中心に対し光量分布が偏り、視差を正しく求められない。この好ましい構成によれば、撮像信号の強度を補正して光量分布の偏りを補償し、補正された撮像信号に基づき視差を求めるため、正しい視差を求めることができる。また、正しい視差に基づき視差の影響を低減するように画像合成するため、きれいな画像を合成することができる。
【0019】
あるいは、上記の撮像装置において、前記強度補正部により強度を補正された撮像信号に基づき、前記複数のレンズ部がそれぞれ形成する像間の視差を求める視差演算部と、前記視差に基づいて被写体に対する距離を求める距離演算部とをさらに有することが好ましい。
【0020】
部品精度のばらつきや組み立てのばらつきがあると、各色によって光軸中心に対し光量分布が偏り、視差を正しく求められない。この好ましい構成によれば、撮像信号の強度を補正して光量分布の偏りを補償し、補正された撮像信号に基づき視差を求めるため、正しい視差を求めることができる。また、正しい視差に基づいて、被写体に対する距離を正しく求めることができる。
【0021】
上記の撮像装置において、前記複数の撮像信号のうちの少なくとも1つの撮像信号を複数のブロックに分割するブロック分割部をさらに有し、前記視差演算部は、前記ブロックごとに前記複数のレンズ部がそれぞれ形成する像間の視差を演算することが好ましい。
【0022】
この構成によれば、複数の撮像信号のうちの少なくとも1つの撮像信号を複数のブロックに分割し、同一波長特性の透過特性素子を透過した光線を受光する少なくとも2つの撮像領域に対応した撮像信号の強度を補正し、光量分布の偏りを補償し、補正された撮像信号に基づきブロック毎に正しい視差を求めることができる。また、この正しい視差に基づきブロック毎に視差の影響を低減するように画像合成するため、きれいな画像を合成することができる。あるいは、この正しい視差に基づき被写体に対する距離を正しく求めることができる。
【0023】
上記の撮像装置において、前記複数のレンズ部の光軸の原点と撮像信号の原点との対応に関する情報である原点補正係数を保存する原点補正係数保存部と、
前記原点補正係数に基づき前記複数の撮像信号のそれぞれの原点を補正する原点補正部とをさらに有することが好ましい。
【0024】
上記の撮像装置において、前記レンズ部の歪曲の情報である歪曲補正係数を保存する歪曲補正係数保存部と、前記歪曲補正係数に基づき前記複数のレンズ部の歪曲の影響を低減するように前記複数の撮像信号のそれぞれを補正する歪曲補正部とをさらに有することが好ましい。
【0025】
上記の撮像装置において、前記強度補正部が、前記複数の撮像信号を、強度レベルが互いに等しくなるよう補正することが好ましい。
【0026】
また、本発明にかかる撮像装置の製造方法は、それぞれが少なくとも1枚のレンズを含む複数のレンズ部と、前記複数のレンズ部に一対一に対応し、対応する前記レンズ部の光軸方向に対して略垂直な受光面をそれぞれ備える複数の撮像領域と、前記複数の撮像領域からそれぞれ出力される複数の撮像信号が入力される撮像信号入力部と、前記撮像領域の強度むらの情報である強度補正係数を保存する強度補正係数保存部と、前記強度補正係数を用いて、前記撮像領域の強度むらの影響を低減するように前記撮像信号の強度を補正する強度補正部とを備えた撮像装置の製造方法であって、前記撮像装置により、略白色の物体を撮影する第1の撮影工程と、前記第1の撮影工程により得られた撮像信号に基づいて、前記強度補正係数を算出する強度補正係数演算工程と、前記強度補正係数演算工程により算出された強度補正係数を前記強度補正係数保存部へ保存する保存工程とを有することを特徴とする。
【0027】
製造工程において、例えば白色均一光を表示したディスプレイまたはテストチャート等の略白色の物体を撮像して得られる撮像信号に基づき強度補正係数を作成し強度補正係数保存部に書き込むことにより、部品精度のばらつきや組み立てのばらつきが各個体毎に変化しても、光量分布の偏りを補償し、偽色の発生を抑制し、きれいな画像を合成することができる。
【0028】
上記の製造方法において、前記撮像装置が、前記複数のレンズ部の光軸の原点と撮像信号の原点との対応に関する情報である原点補正係数を保存する原点補正係数保存部と、前記原点補正係数に基づき前記撮像信号の原点を補正する原点補正部とをさらに有し、前記撮像装置により、中央部に十字を含むパターンを有する物体を撮影する第2の撮影工程と、前記第2の撮影工程により得られた撮像信号に基づいて、前記原点補正係数を算出する原点補正係数演算工程と、前記原点補正係数演算工程により算出された原点補正係数を前記原点補正係数保存部へ保存する工程とをさらに有することが好ましい。
【0029】
これにより、レンズ部同士の製造時のずれや撮像素子の配置位置ずれなどによる製造ばらつきによる原点ずれを補償するための原点補正係数を算出し、原点補正係数保存部へ保存することができる。
【0030】
上記の製造方法において、前記撮像装置が、前記レンズ部の歪曲の情報である歪曲補正係数を保存する歪曲補正係数保存部と、前記歪曲補正係数に基づき前記複数のレンズ部の歪曲の影響を低減するように撮像信号を補正する歪曲補正部とをさらに有し、前記撮像装置により、格子状のパターンを有する物体を撮影する第3の撮影工程と、前記第3の撮影工程により得られた撮像信号に基づいて、前記歪曲補正係数を算出する歪曲補正係数演算工程と、前記歪曲補正係数演算工程により算出された歪曲補正係数を前記歪曲補正係数保存部へ保存する工程とをさらに有することが好ましい。
【0031】
この製造方法によれば、レンズの歪曲を補償する歪曲補正係数を算出し、歪曲補正係数保存部へ保存することができる。
【0032】
上記の製造方法において、前記撮像装置が、前記複数のレンズ部の光軸の原点と撮像信号の原点との対応に関する情報である原点補正係数を保存する原点補正係数保存部と、前記原点補正係数に基づき前記撮像信号の原点を補正する原点補正部とをさらに有し、前記第1の撮影工程において、前記物体として、背景が略白色で中央部に十字を含むパターンを有する物体を用い、前記第1の撮影工程により得られた撮像信号に基づいて、前記原点補正係数を算出する原点補正係数演算工程と、前記原点補正係数演算工程により算出された原点補正係数を前記原点補正係数保存部へ保存する工程とをさらに有することが好ましい。
【0033】
この製造方法によれば、1回の撮影により得られた同一の撮像信号を用いて強度補正係数と原点補正係数とを作成するため、製造工程における撮影回数を抑制し、製造工程のタクトを短縮することができる。
【0034】
上記の製造方法において、前記撮像装置が、前記レンズ部の歪曲の情報である歪曲補正係数を保存する歪曲補正係数保存部と、前記歪曲補正係数に基づき前記複数のレンズ部の歪曲の影響を低減するように撮像信号を補正する歪曲補正部とをさらに有し、前記第1の撮影工程において、前記物体として、背景が略白色で格子状のパターンを有する物体を用い、前記第1の撮影工程において得られた撮像信号に基づいて、前記歪曲補正係数を算出する歪曲補正係数演算工程と、前記歪曲補正係数演算工程により算出された歪曲補正係数を、前記歪曲補正係数保存部へ保存する工程とをさらに有することが好ましい。
【0035】
この製造方法によれば、1回の撮影により得られた同一の撮像信号を用いて強度補正係数と歪曲補正係数とを作成するため、製造工程における撮影回数を抑制し、製造工程のタクトを短縮することができる。
【0036】
上記の製造方法において、前記撮像装置が、前記複数のレンズ部の光軸の原点と撮像信号の原点との対応に関する情報である原点補正係数を保存する原点補正係数保存部と、前記原点補正係数に基づき前記撮像信号の原点を補正する原点補正部と、前記レンズ部の歪曲の情報である歪曲補正係数を保存する歪曲補正係数保存部と、前記歪曲補正係数に基づき前記複数のレンズ部の歪曲の影響を低減するように撮像信号を補正する歪曲補正部とをさらに有し、前記第1の撮影工程において、前記物体として、背景が略白色で格子状のパターンを有する物体を用い、前記第1の撮影工程により得られた撮像信号に基づいて、前記原点補正係数を算出する原点補正係数演算工程と、前記第1の撮影工程において得られた撮像信号に基づいて、前記歪曲補正係数を算出する歪曲補正係数演算工程と、前記原点補正係数演算工程および歪曲補正係数演算工程により算出された原点補正係数および歪曲補正係数を、前記原点補正係数保存部および歪曲補正係数保存部へそれぞれ保存する工程とをさらに有することが好ましい。
【0037】
この製造方法によれば、1回の撮影により得られた同一の撮像信号を用いて強度補正係数と原点補正係数と歪曲補正係数とを作成するため、製造工程における撮影回数を抑制し、製造工程のタクトを短縮することができる。
【0038】
以下、本発明のより具体的な実施の形態について、図面を用いて説明する。
【0039】
(実施の形態1)
本発明の実施の形態1に係る撮像装置は、強度補正係数を保存し、強度補正係数に基づき、撮像領域の位置により補正の度合が変化するように、撮像信号の強度を補正する。このことにより、光量分布の偏りを補償し、偽色の発生を抑制し、きれいな画像を合成する。
【0040】
また、本発明の実施の形態1に係る撮像装置は、複数の撮像信号のうちの少なくとも1つの撮像信号を複数のブロックに分割し、同一波長特性の透過特性素子を透過した光線を受光する少なくとも2つの撮像領域に対応した撮像信号の強度を補正し、光量分布の偏りを補償し、補正された撮像信号に基づきブロック毎に視差を求め、この視差に基づきブロック毎に視差の影響を低減するように画像合成する。このことにより、光量分布の偏りを補償し、正しい視差を求め、この正しい視差に基づき画像合成するため、きれいな画像を合成することができる。
【0041】
また、本発明の実施の形態1に係る撮像装置は、原点補正係数を保存し、原点補正係数に基づき、撮像信号の原点を補正し、補正された撮像信号に基づきブロック毎に視差を求め、この視差に基づきブロック毎に視差の影響を低減するように画像合成する。このことにより、原点のずれを補償し、正しい視差を求め、この正しい視差に基づき画像合成するため、きれいな画像を合成することができる。
【0042】
また、本発明の実施の形態1に係る撮像装置は、歪曲補正係数を保存し、歪曲補正係数に基づき、複数のレンズ部の歪曲の影響を低減するように撮像信号を補正し、補正された撮像信号に基づきブロック毎に視差を求め、この視差に基づきブロック毎に視差の影響を低減するように画像合成する。このことにより、歪曲の影響を低減し、正しい視差を求め、この正しい視差に基づき画像合成するため、きれいな画像を合成することができる。
【0043】
本発明の実施の形態1に係る撮像装置について、図面を参照しながら説明する。
【0044】
図1は、本発明の実施の形態1に係る撮像装置の構成を示す断面図である。図1において、撮像装置101は、レンズモジュール部110、および回路部120を有する。
【0045】
レンズモジュール部110は、鏡筒111、上部カバーガラス112、レンズ113、アクチュエータ固定部114、およびアクチュエータ可動部115を有する。回路部120は、基板121、パッケージ122、撮像素子123、パッケージカバーガラス124、およびシステムLSI(以下、SLSIと記す)125を有する。
【0046】
鏡筒111は、円筒状であり、その内壁面は光の乱反射を防止するためにつやが消された黒色であり、樹脂を射出成形し形成される。上部カバーガラス112は、円盤状であり、透明樹脂から形成され、鏡筒111の上面に接着剤などにより固着され、その表面は摩擦などによる損傷を防止する保護膜と、入射光の反射を防止する反射防止膜とが設けられている。
【0047】
図2は、本発明の実施の形態1に係る撮像装置のレンズ113の上面図である。レンズ113は、略円盤状であり、ガラスや透明樹脂から形成され、第1のレンズ部113a、第2のレンズ部113b、第3のレンズ部113c、および第4のレンズ部113dが碁盤目状に配置される。第1〜第4のレンズ部113a〜113dの配置方向に沿って、図2に示すようにX軸及びY軸を設定する。第1のレンズ部113a、第2のレンズ部113b、第3のレンズ部113c、および第4のレンズ部113dにおいて、被写体側から入射した光は、撮像素子123側へ射出し、撮像素子123上に4つの像を結像する。
【0048】
アクチュエータ固定部114は、鏡筒111の内壁面に接着剤などにより固着される。アクチュエータ可動部115は、レンズ113の外周縁に接着剤などにより固着される。アクチュエータ固定部114およびアクチュエータ可動部115は、ボイスコイルモータを構成する。アクチュエータ固定部114は永久磁石(図示せず)と強磁性体ヨーク(図示せず)とを有し、アクチュエータ可動部115はコイル(図示せず)を有する。アクチュエータ可動部115は、アクチュエータ固定部114に対し、弾性体(図示せず)により弾性支持される。アクチュエータ可動部115のコイルに通電することにより、アクチュエータ可動部115がアクチュエータ固定部114に対して相対的に移動し、レンズ113と撮像素子123との光軸に沿った相対距離が変化する。
【0049】
基板121は、樹脂基板から構成され、上面に鏡筒111がその底面を接して接着剤などにより固着される。このようにして、レンズモジュール部110と回路部120とが固定され、撮像装置101を構成する。
【0050】
パッケージ122は、金属端子を有する樹脂からなり、鏡筒111の内側において、基板121の上面にその金属端子部が半田づけ等されて固着される。撮像素子123は、第1の撮像素子123a、第2の撮像素子123b、第3の撮像素子123c、および第4の撮像素子124dから構成される。第1の撮像素子123a、第2の撮像素子123b、第3の撮像素子123c、および第4の撮像素子124dは、それぞれCCDセンサやCMOSセンサのような固体撮像素子であり、これらの受光面の中心が、それぞれ第1のレンズ部113a、第2のレンズ部113b、第3のレンズ部113c、および第4のレンズ部113dの光軸中心と略一致するように、また各撮像素子の受光面が対応するレンズ部の光軸と略垂直になるようにして配置される。第1の撮像素子123a、第2の撮像素子123b、第3の撮像素子123c、および第4の撮像素子123dの各端子は、パッケージ122の内側の底部の金属端子にワイヤーボンディングにより金線127で接続され、基板121を介して、SLSI125と電気的に接続される。第1の撮像素子123a、第2の撮像素子123b、第3の撮像素子123c、および第4の撮像素子123dの各受光面に、第1のレンズ部113a、第2のレンズ部113b、第3のレンズ部113c、および第4のレンズ部113dから射出された光がそれぞれ結像し、フォトダイオードにより光の情報から変換された電気の情報が、SLSI125に出力される。
【0051】
図3は、本発明の実施の形態1に係る撮像装置の回路部120の上面図である。パッケージカバーガラス124は、平板状であり、透明樹脂により形成され、パッケージ122の上面に接着などにより固着される。パッケージカバーガラス124の上面には、第1のカラーフィルタ124a、第2のカラーフィルタ124b、第3のカラーフィルタ124c、第4のカラーフィルタ124d、および遮光部124eが蒸着などにより配置される。また、パッケージカバーガラス124の下面には、赤外遮断フィルタ(図示せず。以下、IRフィルタと記す)が蒸着などにより配置される。
【0052】
図4は、本発明の実施の形態1に係る撮像装置のカラーフィルタの特性図であり、図5は、本発明の実施の形態1に係る撮像装置のIRフィルタの特性図である。第1のカラーフィルタ124aは、図4のGで示した主に緑色を透過する分光透過特性を有し、第2のカラーフィルタ124bは、図4のBで示した主に青色を透過する分光透過特性を有し、第3のカラーフィルタ124cは、図4のRで示した主に赤色を透過する分光透過特性を有し、第4のカラーフィルタは、図4のGで示した主に緑色を透過する分光透過特性を有する。また、IRフィルタは、図5のIRで示した赤外光を遮断する分光透過特性を有する。
【0053】
したがって、第1のレンズ部113aの上部から入射した物体光は、第1のレンズ部113aの下部から射出され、第1のカラーフィルタ124aおよびIRフィルタにより主に緑色が透過し、第1の撮像素子123aの受光部に結像するため、第1の撮像素子123aは物体光のうち緑色成分を受光する。また、第2のレンズ部113bの上部から入射した物体光は、第2のレンズ部113bの下部から射出され、第2のカラーフィルタ124bおよびIRフィルタにより主に青色が透過し、第2の撮像素子123bの受光部に結像するため、第2の撮像素子123bは物体光のうち青色成分を受光する。また、第3のレンズ部113cの上部から入射した物体光は、第3のレンズ部113cの下部から射出され、第3のカラーフィルタ124cおよびIRフィルタにより主に赤色が透過し、第3の撮像素子123cの受光部に結像するため、第3の撮像素子123cは物体光のうち赤色成分を受光する。更に、第4のレンズ部113dの上部から入射した物体光は、第4のレンズ部113dの下部から射出され、第4のカラーフィルタ124dおよびIRフィルタにより主に緑色が透過し、第4の撮像素子123dの受光部に結像するため、第4の撮像素子123dは物体光のうち緑色成分を受光する。
【0054】
SLSI125は、後述の方法で、アクチュエータ可動部115のコイルの通電を制御し、撮像素子123を駆動し、撮像素子123からの電気情報を入力し、各種画像処理を行い、上位CPUと通信を行い、外部に画像出力する。
【0055】
次に、被写体距離と視差との関係を説明する。本発明の実施の形態1に係るカメラモジュールは4つのレンズ部(第1のレンズ部113a、第2のレンズ部113b、第3のレンズ部113c、および第4のレンズ部113d)を有するため、4つのレンズ部がそれぞれ形成する4つの物体像の相対的位置が被写体距離に応じて変化する。
【0056】
図6は、本発明の実施の形態1に係る撮像装置において、無限遠にある物体像の位置を説明するための図である。図6において、簡単のため、第1のレンズ部113a、第1の撮像素子123a、第2のレンズ部113b、第2の撮像素子123bのみを記す。無限遠の物体10からの光の第1のレンズ部113aへの入射光L1と第2のレンズ部113bへの入射光L2とは平行であるため、第1のレンズ部113aと第2のレンズ部113bとの距離と、第1の撮像素子123a上の物体像11aと第2の撮像素子123b上の物体像11bとの距離は等しい。ここで、第1のレンズ部113aの光軸、第2のレンズ部113bの光軸、第3のレンズ部113cの光軸、および第4のレンズ部113dの光軸が、それぞれ第1の撮像素子123aの受光面の中心、第2の撮像素子123bの受光面の中心、第3の撮像素子123cの受光面の中心、および第4の撮像素子123dの受光面の中心と略一致するように配置されている。従って、第1の撮像素子123a、第2の撮像素子123b、第3の撮像素子123c、および第4の撮像素子123dの各受光面の中心と、各受光面にそれぞれ結像される無限遠の物体像との相対的位置関係は、全ての撮像素子について同一である。すなわち、視差はない。
【0057】
図7は、本発明の実施の形態1に係る撮像装置において、有限距離の位置にある物体像の位置を説明するための図である。図7において、簡単のため、第1のレンズ部113a、第1の撮像素子123a、第2のレンズ部113b、第2の撮像素子123bのみを記す。有限距離の物体12からの光の第1のレンズ部113aへの入射光L1と第2のレンズ部113bへの入射光L2とは平行ではないため、第1のレンズ部113aと第2のレンズ部113bとの距離に比べて、第1の撮像素子123a上の物体像13aと第2の撮像素子123b上の物体像13bとの距離は長い。そのため、第1の撮像素子123a、第2の撮像素子123b、第3の撮像素子123c、および第4の撮像素子123dの各受光面の中心と、各受光面にそれぞれ結像される有限距離の物体像との相対的位置関係は、撮像素子ごとに異なる。すなわち、視差がある。物体像12までの距離(被写体距離)をA、第1のレンズ部113aと第2のレンズ部113bとの距離をD、レンズ部113a,113bの焦点距離をfとすると、図7の直角を挟む2辺の長さがA、Dの直角三角形と、直角を挟む2辺の長さがf、Δの直角三角形とが相似であることより、視差Δは、下記式(1)のように表される。なお、下記式(1)および後述するその他の式において、*は乗算演算子である。その他のレンズ部間についても同様の関係が成立する。このように、被写体距離に応じて4つのレンズ部113a,113b,113c,113dがそれぞれ形成する4つの物体像の相対的位置が変化する。例えば、被写体距離Aが小さくなると、視差Δが大きくなる。
【0058】
Δ = f*D/A ・・・(1)
【0059】
次に、コントラストと焦点距離との関係を説明する。
【0060】
図8(A)は、本発明の実施の形態1に係る撮像装置において、合焦時(焦点調整が合っているとき)の画像とコントラスト評価値との関係を説明する図であり、図8(B)は、本発明の実施の形態1に係る撮像装置において、非合焦時(焦点調整が合っていないとき)の画像とコントラスト評価値との関係を説明する図である。図8(A)及び図8(B)の各左図は、左半分が白色、右半分が黒色の矩形を撮影したときの画像である。図8(A)の左図のように、合焦時は撮影画像の輪郭がはっきりし、コントラストが大きい。一方、図8(B)の左図のように、非合焦時は撮影画像の輪郭がぼやけ、コントラストが小さい。図8(A)及び図8(B)の各右図は、左図の情報信号にバンドパスフィルタ(BPF)を作用させたときの結果を示している。横軸はX軸方向位置であり、縦軸はBPF後の出力値である。図8(A)の右図のように、合焦時はBPF後の信号振幅が大きく、図8(B)の右図のように、非合焦時はBPF後の信号振幅が小さい。ここで、このBPF後の信号振幅をどれだけコントラストが大きいかを示すコントラスト評価値と定義する。すると、図8(A)の右図のように、合焦時はコントラスト評価値が大きく、図8(B)の右図のように、非合焦時はコントラスト評価値が小さい。
【0061】
図9は、本発明の実施の形態1に係る撮像装置のレンズ位置とコントラスト評価値との関係を説明する図である。ある物体を撮影するとき、レンズ113と撮像素子123との距離が小さいとき(z1のとき)、非合焦であるためコントラスト評価値が小さい。レンズ113と撮像素子123との距離を徐々に大きくすると、コントラスト評価値が徐々に大きくなり、合焦時(z2のとき)はコントラスト評価値が極大となる。さらに、レンズ113と撮像素子123との距離を徐々に大きくすると(z3のとき)、非合焦となり、コントラスト評価値が小さくなる。このように、合焦時において、コントラスト評価値は極大となる。
【0062】
次に、本発明の実施の形態1に係る撮像装置の動作を説明する。図10は、本発明の実施の形態1に係る撮像装置のブロック図である。SLSI125は、システム制御部131、撮像素子駆動部132、撮像信号入力部133、アクチュエータ操作量出力部134、画像処理部135、入出力部136、強度補正係数用メモリ137、原点補正係数用メモリ138、および歪曲補正用メモリ139を有する。また、回路部120は、前述の構成に加えて、アンプ126を有する。
【0063】
アンプ126は、アクチュエータ操作量出力部134からの出力に応じた電圧をアクチュエータ可動部115のコイルに印加する。
【0064】
システム制御部131は、CPU(中央演算処理装置、Central Processing Unit)、メモリなどから構成され、SLSI125の全体を制御する。
【0065】
撮像素子駆動部132は、ロジック回路などから構成され、撮像素子123を駆動する信号を発生し、この信号に応じた電圧を撮像素子123に印加する。
【0066】
撮像信号入力部133は、第1の撮像信号入力部133a、第2の撮像信号入力部133b、第3の撮像信号入力部133c、および第4の撮像信号入力部133dから構成される。第1の撮像信号入力部133a、第2の撮像信号入力部133b、第3の撮像信号入力部133c、および第4の撮像信号入力部133dは、それぞれCDS回路(相関二重サンプリング回路。Correlated Double Sampling Circuit)、AGC(自動利得制御器。Automatic Gain Controller)、ADC(アナログ/ディジタル変換器。Analog Digital converter)が直列に接続されて構成され、それぞれ第1の撮像素子123a、第2の撮像素子123b、第3の撮像素子123c、および第4の撮像素子123dに接続され、これらからの電気信号が入力され、CDS回路により固定ノイズを除去し、AGCによりゲインを調整し、ADCによりアナログ信号からディジタル値に変換し、システム制御部131のメモリに書き込む。
【0067】
アクチュエータ操作量出力部134は、DAC(ディジタル/アナログ変換器。Digital Analog converter)から構成され、アクチュエータ可動部115のコイルに印加すべき電圧に応じた電圧信号を出力する。
【0068】
画像処理部135は、ロジック回路、またはDSP(ディジタル信号プロセッサ。Digital Signal Processor)、あるいは両者を含んで構成され、システム制御部131のメモリ情報を利用し、所定のプログラム制御に従って各種画像処理を行う。画像処理部135は、自動焦点制御部141、強度補正部142、原点補正部143、歪曲補正部144、および視差補正部145を有する。
【0069】
入出力部136は、上位CPU(図示せず)との通信や、上位CPU、外部メモリ(図示せず)、および液晶などの外部表示装置(図示せず)へ画像信号を出力する。
【0070】
強度補正係数用メモリ137は、フラッシュメモリやFeRAM(Ferroelectric Random Access Memory)などのような不揮発性メモリから構成され、強度補正部142で使用する強度補正係数を保存する。原点補正係数用メモリ138は、フラッシュメモリやFeRAMなどのような不揮発性メモリから構成され、原点補正部143で使用する原点補正係数を保存する。歪曲補正係数用メモリ139は、フラッシュメモリやFeRAMなどのような不揮発性メモリから構成され、歪曲補正部144で使用する歪曲補正係数を保存する。
【0071】
図11は、本発明の実施の形態1に係る撮像装置の動作を示すフローチャートである。SLSI125のシステム制御部131により、撮像装置101は、このフローチャートとおりに動作される。
【0072】
ステップS1000において、動作を開始する。例えば、上位CPU(図示せず)がシャッターボタン(図示せず)などが押されたことを検知し、入出力部136を介し、撮像装置101に動作の開始を命令することにより、撮像装置101は、動作を開始する。次に、ステップS1100を実行する。
【0073】
ステップS1100において、自動焦点制御部141は、自動焦点制御を実行する。図12は、本発明の実施の形態1に係る自動焦点制御の動作を示すフローチャートである。図12のフローチャートは、ステップS1100の動作の詳細を示す。
【0074】
ステップS1110において、焦点制御の動作を開始する。次に、ステップS1121を実行する。
【0075】
ステップS1121において、カウンタiを0に初期化する。次に、ステップS1122を実行する。
【0076】
ステップS1122において、アクチュエータの位置指令を演算する。下記式(2)のように、カウンタiを用いてアクチュエータの位置指令Xactを演算する。なお、位置指令Xactは、無限遠像の合焦位置を基準とし、被写体に向かう向きが正である位置の指令を示す。ここで、kxは、設定された値である。次に、ステップS1123を実行する。
【0077】
Xact=kx*i ・・・(2)
【0078】
ステップS1123において、下記式(3)で示した操作量関数を用いてアクチュエータ操作量(アクチュエータ可動部115のコイルへの印加電圧)Vactを演算する。ここで、ka、およびkbは、それぞれ設定された値である。次に、ステップS1124を実行する。
【0079】
Vact=ka*Xact+kb・・・(3)
【0080】
ステップS1124において、アクチュエータを動作させる。アクチュエータ操作量出力部134は、アンプ126を介したのちアクチュエータ可動部115のコイル(図示せず)に印加される電圧がVactになるように、出力する電圧信号を変更する。次に、ステップS1125を実行する。
【0081】
ステップS1125において、第1のレンズ部113aに入射し第1の撮像素子123a上に結像した被写体像の撮影を実行する。システム制御部131の命令により、撮像素子駆動部132が電子シャッターや転送を行うための信号を随時出力する。第1の撮像信号入力部133aは、撮像素子駆動部132が発生する信号に同期して、第1の撮像素子123aが出力する画像のアナログ信号である撮像信号を入力し、CDSにより固定ノイズを除去し、AGCにより自動的に入力ゲインを調整し、ADCによりアナログ信号をディジタル値に変換し、第1の撮像信号I1(x,y)として、システム制御部131の所定アドレスのメモリにディジタル値を書き込む。図13は、本発明の実施の形態1に係る撮像装置の撮像信号の座標を説明する図である。I1(x,y)は、水平方向にx番目、垂直方向にy番目の画素の第1の撮像信号であることを示す。入力される画像の縦方向の画素数がH、横方向の画素数がLならば、総画素数はH×Lであり、xは0からL−1まで変化し、yは0からH−1まで変化する。次に、ステップS1126を実行する。
【0082】
ステップS1126において、自動焦点制御用ブロックを設定する。画像領域の中心付近の矩形状の領域を自動焦点制御用ブロックとする。なお、このブロックは必ずしも中央付近である必要はなく、カメラを操作するユーザの意思などを反映し(例えば、センサで視点方向を検出し)、ブロックを設定してもよい。なお、単一のブロックではなく複数のブロックを選択し、複数のブロックにおいて後述の自動焦点制御用コントラスト評価値の平均を用いてもよい。また、複数のブロックにおいて後述の自動焦点制御用コントラスト評価値を演算し、後に少なくとも1つのブロックを自動焦点制御用ブロックとして選択してもよい。次に、ステップS1127を実行する。
【0083】
ステップS1127において、システム制御部131のメモリ上のデータを用いて、自動焦点制御用コントラスト評価値を作成する。この演算は、第1の撮像信号I1の自動焦点制御用ブロックの画素について行う。下記式(11)のように、x方向とy方向の2階微分の和であるラプラシアンの絶対値を演算し、下記式(12)のように空間的にLPF(ローパスフィルタ。Low Pass Filter)を作用させ、これを下記式(13)のように自動焦点制御用ブロック内で平均して自動焦点用コントラスト評価値C3を得る。ここで、Nafは、自動焦点制御用ブロックの画素数である。次に、ステップS1128を実行する。
【0084】
C1(x,y)=|I1(x-1,y)+I1(x+1,y)+I1(x,y-1)+I1(x,y+1)-4I1(x,y)|
・・・(11)
C2(x,y)=C1(x-1,y-1)+C1(x,y-1)+C1(x+1,y-1)
+C1(x-1,y)+C1(x,y)+C1(x+1,y)
+C1(x-1,y+1)+C1(x,y+1)+C1(x+1,y+1)・・・(12)
C3=ΣC2(x,y)/Naf・・・(13)
【0085】
ステップS1128において、下記式(14)のように、コントラスト評価値C3をC3(i)として、システム制御部131のメモリに書き込む。次に、ステップS1129を実行する。
【0086】
C3(i)=C3 ・・・(14)
【0087】
ステップS1129において、下記式(15)のように、カウンタiに1を加える。次に、ステップS1130を実行する。
【0088】
i= i+1 ・・・(15)
【0089】
ステップS1130において、カウンタiをしきい値Safと比較し、その結果により分岐する。カウンタiがしきい値Safより小さいとき(ステップS1130の比較結果がY)、次に、ステップ1122を実行する。一方、カウンタiがしきい値Saf以上のとき(ステップS1130の比較結果がN)、次に、ステップS1140を実行する。このように、ステップS1121においてカウンタiを0に初期化し、ステップS1129においてカウンタiに1を加え、ステップS1130においてカウンタiで分岐を行うことにより、S1122からS1128までの処理をSaf回だけ繰り返す。
【0090】
ステップS1140において、コントラスト評価値C3の評価を行う。図9のように、合焦位置では、コントラスト評価値C3が最大となる。下記式(16)のように、この最大値を与えるカウンタ値iをコントラスト最大値を与えるカウンタ値iafとする。次に、ステップS1151を実行する。
【0091】
iaf = C3の最大値を与えるi ・・・(16)
【0092】
ステップS1151において、アクチュエータの位置指令を演算する。下記式(17)のように、コントラスト最大値を与えるカウンタ値iafを用いてアクチュエータの位置指令Xactを演算する。なお、位置指令Xactは、無限遠像の合焦位置を基準とし、被写体に向かう向きが正の位置の指令を示す。次に、ステップS1152を実行する。
【0093】
Xact=kx*iaf ・・・(17)
【0094】
ステップS1152において、操作量関数を用いてアクチュエータ操作量(アクチュエータ可動部115のコイルへの印加電圧)Vactを演算する。この動作は、ステップS1123と同様であり、説明を省略する。次に、ステップS1153を実行する。
【0095】
ステップS1153において、アクチュエータを動作させる。この動作は、ステップS1124と同様であり、説明を省略する。次に、ステップS1160を実行する。
【0096】
ステップS1160において、自動焦点制御を終了し、メインルーチンへ戻る。従って、次に、図11のステップS1200を実行する。
【0097】
ステップS1200において、画像を入力する。システム制御部131の命令により、撮像素子駆動部132が電子シャッターや転送を行うための信号を随時出力する。第1の撮像信号入力部133a、第2の撮像信号入力部133b、第3の撮像信号入力部133c、および第4の撮像信号入力部133dは、撮像素子駆動部132が発生する信号に同期して、第1の撮像素子123a、第2の撮像素子123b、第3の撮像素子123c、および第4の撮像素子123dが出力する各画像のアナログ信号である撮像信号を入力し、CDSにより固定ノイズを除去し、AGCにより自動的に入力ゲインを調整し、ADCによりアナログ信号をディジタル値に変換し、第1の撮像信号I1(x,y)、第2の撮像信号I2(x,y)、第3の撮像信号I3(x,y)、および第4の撮像信号I4(x,y)として、システム制御部131の所定アドレスのメモリにディジタル値を書き込む。図13は、本発明の実施の形態1に係るカメラモジュールの撮像信号の座標を説明する図である。I1(x,y)は、水平方向にx番目、垂直方向にy番目の第1の撮像信号であることを示す。入力される画像の縦方向の画素数がH、横方向の画素数がLであり、総画素数はH×Lであり、xは0からL−1まで変化し、yは0からH−1まで変化する。第2の撮像信号I2(x,y)、第3の撮像信号I3(x,y)、第4の撮像信号I4(x,y)も同様である。すなわち、I2(x,y)、I3(x,y)、およびI4(x,y)は、ぞれぞれ水平方向にx番目、垂直方向にy番目の第2の撮像信号、第3の撮像信号、および第4の撮像信号であることを示す。入力される画像の縦方向の画素数がH、横方向の画素数がLであり、それぞれの総画素数はH×Lであり、xは0からL−1まで変化し、yは0からH−1まで変化する。次に、ステップS1300を実行する。
【0098】
ステップS1300において、強度補正部142は、強度補正係数用メモリ137に保存された強度補正係数を用いて第1の撮像信号I1、第2の撮像信号I2、第3の撮像信号I3、第4の撮像信号I4を補正する。そして、その結果をシステム制御部131のメモリに書き込む。
【0099】
強度補正係数用メモリ137には、第1の撮像信号I1(x,y)の補正に使用する第1の強度補正係数a1(x,y)、第2の撮像信号I2(x,y)の補正に使用する第2の強度補正係数a2(x,y)、第3の撮像信号I3(x,y)の補正に使用する第3の強度補正係数a3(x,y)、および第4の撮像信号I4(x,y)の補正に使用する第4の強度補正係数a4(x,y)が保存されている。a1(x,y)、a2(x,y)、a3(x,y)、およびa4(x,y)は、ぞれぞれ水平方向にx番目、垂直方向にy番目の画素の第1の強度補正係数、第2の強度補正係数、第3の強度補正係数、および第4の強度補正係数であることを示す。入力される画像の縦方向の画素数がH、横方向の画素数がLならば、総画素数はH×Lであり、xは0からL−1まで変化し、yは0からH−1まで変化する。
【0100】
図14は、本発明の実施の形態1に係る強度補正の動作を示すフローチャートである。図14のフローチャートは、強度補正を行うステップS1300の詳細を示す。
【0101】
まず、ステップS1320において、各画素(x,y)における補正値を演算する。下記式(18)、(19)、(20)、および(21)のように、第1の強度補正係数a1(x,y)、第2の強度補正係数a2(x,y)、第3の強度補正係数a3(x,y)、および第4の強度補正係数a4(x,y)にそれぞれ設定値kab1、kab2、kab3、およびkab4を乗じた結果を第1の強度補正値b1(x,y)、第2の強度補正値b2(x,y)、第3の強度補正値b3(x,y)、および第4の強度補正値b4(x,y)とする。次に、ステップS1330を実行する。
【0102】
b1(x,y)=kab1*a1(x,y)・・・(18)
b2(x,y)=kab2*a2(x,y)・・・(19)
b3(x,y)=kab3*a3(x,y)・・・(20)
b4(x,y)=kab4*a4(x,y)・・・(21)
【0103】
ステップS1330において、強度補正を行う。下記式(22)、(23)、(24)、および(25)のように、第1の撮像信号I1(x,y)、第2の撮像信号I2(x,y)、第3の撮像信号I3(x,y)、および第4の撮像信号I4(x,y)に、第1の強度補正値b1(x,y)、第2の強度補正値b2(x,y)、第3の強度補正値b3(x,y)、および第4の強度補正値b4(x,y)を乗じ補正する。次に、ステップS1340を実行する。
【0104】
I1(x,y)=I1(x,y)*b1(x,y)・・・(22)
I2(x,y)=I2(x,y)*b2(x,y)・・・(23)
I3(x,y)=I3(x,y)*b3(x,y)・・・(24)
I4(x,y)=I4(x,y)*b4(x,y)・・・(25)
【0105】
ステップS1340において、強度補正を終了し、メインルーチンへ戻る。従って、次に、図11のステップS1400を実行する。
【0106】
ステップS1400において、原点補正部143は、原点補正係数用メモリ138に保存された原点補正係数を用いて第1の撮像信号I1、第2の撮像信号I2、第3の撮像信号I3、第4の撮像信号I4を補正する。そして、その結果をシステム制御部131のメモリに書き込む。
【0107】
原点補正係数用メモリ138には、第1の撮像信号I1(x,y)の補正に使用する第1の原点補正係数g1x、g1y、第2の撮像信号I2(x,y)の補正に使用する第2の原点補正係数g2x、g2y、第3の撮像信号I3(x,y)の補正に使用する第3の原点補正係数g3x、g3y、および第4の撮像信号I4(x,y)の補正に使用する第4の原点補正係数g4x、g4yが保存されている。g1x、g2x、g3x、g4xは原点補正係数のx成分を示し、g1y、g2y、g3y、g4yは原点補正係数のy成分を示す。
【0108】
そして、下記式(26)のように、第1の撮像信号I1を第1の原点補正係数(g1x,g1y)だけ移動させるように補正する。また、下記式(27)のように、第2の撮像信号I2を第2の原点補正係数(g2x,g2y)だけ移動させるように補正する。また、下記式(28)のように、第3の撮像信号I3を第3の原点補正係数(g3x,g3y)だけ移動させるように補正する。下記式(29)のように、第4の撮像信号I4を第4の原点補正係数(g4x,g4y)だけ移動させるように補正する。なお、式(26)、(27)、(28)、(29)の右辺の値が存在しない場合(例えば、x=0、y=0、g1xが正数、g1yが正数の場合)は、近隣の実在する値と同一値や、近隣から外挿などにより推定された値や、0などを代入すればよい。なお、g1x、g2x、g3x、g4x、g1y、g2y、g3y、およびg4yは整数に限定されず、小数でもよい。この場合、式(26)、(27)、(28)、(29)の右辺の値として、最近隣値や、周りの画素からの補間値を利用する。次に、図11のステップS1500を実行する。
【0109】
I1(x,y)=I1(x-g1x,y-g1y) ・・・(26)
I2(x,y)=I2(x-g1x,y-g1y) ・・・(27)
I3(x,y)=I3(x-g1x,y-g1y) ・・・(28)
I4(x,y)=I4(x-g1x,y-g1y) ・・・(29)
【0110】
ステップS1500において、歪曲補正部144は、歪曲補正係数用メモリ139に保存された歪曲補正係数を用いて第1の撮像信号I1、第2の撮像信号I2、第3の撮像信号I3、第4の撮像信号I4を補正する。そして、その結果をシステム制御部131のメモリに書き込む。
【0111】
歪曲補正係数用メモリ139には、第1の撮像信号I1(x,y)の補正に使用する第1の歪曲補正係数p1x(x,y)、p1y(x,y)、第2の撮像信号I2(x,y)の補正に使用する第2の歪曲補正係数p2x(x,y)、p2y(x,y)、第3の撮像信号I3(x,y)の補正に使用する第3の歪曲補正係数p3x(x,y)、p3y(x,y)、および第4の撮像信号I4(x,y)の補正に使用する第4の歪曲補正係数p4x(x,y)、p4y(x,y)が保存されている。p1x(x,y)、p2x(x,y)、p3x(x,y)、およびp4x(x,y)は、ぞれぞれ水平方向にx番目、垂直方向にy番目の第1の歪曲補正係数、第2の歪曲補正係数、第3の歪曲補正係数、および第4の歪曲補正係数のx成分であることを示す。また、p1y(x,y)、p2y(x,y)、p3y(x,y)、およびp4y(x,y)は、ぞれぞれ水平方向にx番目、垂直方向にy番目の画素の第1の歪曲補正係数、第2の歪曲補正係数、第3の歪曲補正係数、および第4の歪曲補正係数のy成分であることを示す。入力される画像の縦方向の画素数がH、横方向の画素数がLならば、総画素数はH×Lであり、xは0からL−1まで変化し、yは0からH−1まで変化する。
【0112】
図15は、本発明の実施の形態1に係る歪曲補正係数を説明する図である。点線の格子の交点は理想上の座標を示し、実線の格子の交点は歪曲がある座標を示す。図15のように、例えば、理想的には(0,0)に撮像されるべき画像は、実際には歪曲によって(0,0)から(p1x(0,0),p1y(0,0))だけずれた位置に撮像される。このずれ量(p1x(0,0),p1y(0,0))を歪曲補正係数とし、歪曲補正用メモリ139に記憶する。すなわち、理想的には(x,y)に撮像されるべき画像は、歪曲によって(x,y)から(p1x(x,y),p1y(x,y))だけずれた位置に撮像される。このずれ量(p1x(x,y),p1y(x,y))を歪曲補正係数とし、歪曲補正用メモリ139に記憶する。
【0113】
図16は、本発明の実施の形態1に係る歪曲補正の動作を示すフローチャートである。図16のフローチャートは、歪曲補正を行うステップS1500の詳細を示す。
【0114】
まず、ステップS1520において、各画素(x,y)における歪曲補正用座標を演算する。下記式(30)、(31)、(32)、および(33)のように、第1の歪曲補正係数のx成分p1x(x,y)、第2の歪曲補正係数のx成分p2x(x,y)、第3の歪曲補正係数のx成分p3x(x,y)、および第4の歪曲補正係数のx成分p4x(x,y)に、それぞれx座標の値xを加えた結果を、第1の歪曲補正用座標のx成分q1x(x,y)、第2の歪曲補正用座標のx成分q2x(x,y)、第3の歪曲補正用座標のx成分q3x(x,y)、および第4の歪曲補正用座標のx成分q4x(x,y)とする。また、下記式(34)、(35)、(36)、および(37)のように、第1の歪曲補正係数のy成分p1y(x,y)、第2の歪曲補正係数のy成分p2y(x,y)、第3の歪曲補正係数のy成分p3y(x,y)、および第4の歪曲補正係数のy成分p4y(x,y)にそれぞれy座標の値yを加えた結果を、第1の歪曲補正用座標のy成分q1y(x,y)、第2の歪曲補正用座標のy成分q2y(x,y)、第3の歪曲補正用座標のy成分q3y(x,y)、および第4の歪曲補正用座標のy成分q4y(x,y)とする。次に、ステップS1530を実行する。
【0115】
q1x(x,y)=x+p1x(x,y) ・・・(30)
q2x(x,y)=x+p2x(x,y) ・・・(31)
q3x(x,y)=x+p3x(x,y) ・・・(32)
q4x(x,y)=x+p4x(x,y) ・・・(33)
q1y(x,y)=y+p1y(x,y) ・・・(34)
q2y(x,y)=y+p2y(x,y) ・・・(35)
q3y(x,y)=y+p3y(x,y) ・・・(36)
q4y(x,y)=y+p4y(x,y) ・・・(37)
【0116】
ステップS1330において、歪曲補正を行う。下記式(38)、(39)、(40)、および(41)のように、座標(x,y)上の第1の撮像信号I1(x,y)、第2の撮像信号I2(x,y)、第3の撮像信号I3(x,y)、および第4の撮像信号I4(x,y)として、第1の歪曲補正用座標(q1x(x,y),q1y(x,y))上の第1の撮像信号I1(q1x(x,y),q1y(x,y))、第2の歪曲補正用座標(q2x(x,y),q2y(x,y))上の第2の撮像信号I2(q2x(x,y),q2y(x,y))、第3の歪曲補正用座標(q3x(x,y),q3y(x,y))上の第3の撮像信号I3(q3x(x,y),q3y(x,y))、および第4の歪曲補正用座標(q4x(x,y),q4y(x,y))上の第4の撮像信号I4(q4x(x,y),q4y(x,y))を用いる。なお、式(38)、(39)、(40)、(41)の右辺の値が存在しない場合は、近隣の実在する値と同一値や、近隣から外挿などにより推定された値や、0などを代入すればよい。なお、q1x(x,y)、q2x(x,y)、q3x(x,y)、q4x(x,y)、q1y(x,y)、q2y(x,y)、q3y(x,y)、およびq4y(x,y)は整数に限定されず、小数でもよい。この場合、式(38)、(39)、(40)、(41)の右辺の値として、最近隣値や、周りの画素からの補間値を利用する。次に、ステップS1540を実行する。
【0117】
I1(x,y)=I1(q1x(x,y),q1y(x,y)) ・・・(38)
I2(x,y)=I2(q2x(x,y),q2y(x,y)) ・・・(39)
I3(x,y)=I3(q3x(x,y),q3y(x,y)) ・・・(40)
I4(x,y)=I4(q4x(x,y),q4y(x,y)) ・・・(41)
【0118】
ステップS1540において、歪曲補正を終了し、メインルーチンへ戻る。従って、次に、図11のステップS1600を実行する。
【0119】
ステップS1600において、視差補正を実行する。図17は、本発明の実施の形態1に係る視差補正の動作を示すフローチャートである。図17のフローチャートは、ステップS1600の動作の詳細を示す。
【0120】
まず、ステップS1620において、ブロック分割を行う。図18は、本発明の実施の形態1に係る撮像装置において、ブロック分割を説明する図である。図18のように、第1の撮像信号I1を、横方向にM個のブロックに、縦方向にN個のブロックに、総数でM×N個に分割し、それぞれのブロックをBiで示す。ここで、iは0からM×N−1まで変化する。次に、ステップS1630を実行する。
【0121】
ステップS1630において、各ブロック毎の視差値を演算する。まず、各ブロック(B0、B1、…、Bi、…、BMN-1)毎に、視差評価値(R0(k)、R1(k)、…、Ri(k)、…、RMN-1(k)。k=0、1、…、kmax)を演算する。図19は、本発明の実施の形態1に係る撮像装置において、視差評価値の演算領域を説明する図である。Biで示される(I1としても示されている)領域は、第1の撮像信号I1からステップS1620で求められたi番目のブロックである。I4で示される領域は、Biをx方向にkだけ、y方向にkだけ移動した領域である。そして、それぞれの領域の全画像信号I1(x,y)、I4(x-k,y-k)について、下記式(42)に示される絶対値差分総和を視差評価値Ri(k)として演算する。ここで、ΣΣは、ブロックBi内の全ての画素の総和を示す。
【0122】
Ri(k)=ΣΣ|I1(x,y)-I4(x-k,y-k)|・・・(42)
【0123】
この視差評価値Ri(k)は、i番目のブロックBiの第1の画像信号I1と、x、y方向にそれぞれ(k、k)だけ離れた領域における第4の画像信号I4がどれだけ相関があるかを示し、値が小さいほど相関が大きい(よく似ている)ことを示す。図20は、本発明の実施の形態1に係る撮像装置の視差と視差評価値との関係を説明する図である。図20のように、視差評価値Ri(k)はkの値によって変化し、k=Δiのとき極小値を持つ。これは、第1の画像信号I1のi番目のブロックBiをx、y方向にそれぞれ(−Δi、−Δi)だけ移動させて得られるブロックの画像信号は、第4の画像信号I4と最も相関がある(最も似ている)ことを示す。したがって、i番目のブロックBiについての第1の撮像信号I1と第4の撮像信号I4とのx、y方向の視差が(Δi、Δi)であることが分かる。以下、このΔiを、i番目のブロックBiの視差値Δiと呼ぶ。このように、i=0からi=M×N−1までBiの視差値Δiを求める。次に、ステップS1640を実行する。
【0124】
ステップS1640において、視差補正を行い、画像合成する。その結果をシステム制御部131のメモリに書き込む。第1の撮像素子123aおよび第4の撮像素子123dは、主に物体光の緑色成分を受光するため、第1の撮像信号I1、および第4の撮像信号I4は、物体光の緑色成分の情報信号である。また、第2の撮像素子123bは、主に物体光の青色成分を受光するため、第2の撮像信号I2は、物体光の青色成分の情報信号である。さらに、第3の撮像素子123cは、主に物体光の赤色成分を受光するため、第3の撮像信号I3は、物体光の赤色成分の情報信号である。i番目のブロックBiにおいて、第1の撮像素子123aと第4の撮像素子123dとの視差が(Δi、Δi)であると予測されたため、下記式(43)のように、画素座標(x、y)における緑色の強度を示すG(x,y)を、第1の撮像信号I1(x,y)、および第4の撮像信号I4(x-Δi,y-Δi)の平均とする。このように平均をとることにより、ランダムノイズの影響を低減できる。また、第1の撮像素子123aと第2の撮像素子123bの視差が(Δi、0)であると予測されたため、下記式(44)のように、画素座標(x、y)における青色の強度を示すB(x,y)を、第2の撮像信号I2(x-Δi,y)とする。さらに、第1の撮像素子123aと第3の撮像素子123cの視差が(0、Δi)であると予測されたため、下記式(45)のように、(x、y)における赤色の強度を示すR(x,y)を、第3の撮像信号I3(x,y-Δi)とする。次に、ステップS1650を実行する。
【0125】
G(x,y)=[I1(x,y)+I4(x-Δi,y-Δi)]/2・・・(43)
B(x,y)=I2(x-Δi,y) ・・・(44)
R(x,y)=I3(x,y-Δi) ・・・(45)
【0126】
ステップS1650において、視差補正を終了し、メインルーチンへ戻る。従って、次に、図11のステップS1700を実行する。
【0127】
ステップS1700において、画像を出力する。入出力部136は、システム制御部131のメモリ上のデータであるG(x,y),B(x,y),R(x,y)を、上位CPU(図示せず)や外部表示装置(図示せず)に出力する。なお、G(x,y),B(x,y),R(x,y)の代わりに、例えば、輝度、色差信号などの出力を出力してもよい。また、ホワイトバランスやγ補正などの画像処理後の値を出力してもよい。さらに、可逆圧縮やJPEG等のような非可逆圧縮をしたデータを出力してもよい。また、それらの複数を出力してもよい。次に、S1800を実行する。
【0128】
ステップS1800において、動作を終了する。
【0129】
以上のように構成し、動作させることにより、以下の効果を有する。
【0130】
部品精度のばらつきや組み立てのばらつきがあると、各色によって光軸中心に対し光量分布が偏り、偽色が発生する。実施の形態1の撮像装置では、強度補正係数a1、a2、a3、a4を不揮発メモリである強度補正係数用メモリ137に保存し、ステップS1300において、強度補正係数a1、a2、a3、a4に基づき、撮像領域の位置(x,y)により補正の度合が変化する強度補正値b1(x,y)、b2(x,y)、b3(x,y)、b4(x,y)を作成し、撮像信号I1(x,y)、I2(x,y)、I3(x,y)、I4(x,y)を補正する。このことにより、光量分布の偏りを補償し、偽色の発生を抑制し、きれいな画像を合成することができる。
【0131】
また、実施の形態1の係る撮像装置は、ステップS1300において強度補正係数a1、a2、a3、a4に基づき、撮像領域の位置(x,y)により補正の度合が変化する強度補正値b1(x,y)、b2(x,y)、b3(x,y)、b4(x,y)を作成し、撮像信号I1(x,y)、I2(x,y)、I3(x,y)、I4(x,y)を補正し、光量分布の偏りを補償し、ステップS1620において第1の撮像信号I1を複数のブロックに分割し、ステップS1630において補正された撮像信号I1(x,y)、I4(x,y)に基づきブロック毎に視差を求め、ステップS1640においてこの視差に基づきブロック毎に視差の影響を低減するように画像合成する。このことにより、光量分布の偏りを補償し、正しい視差を求め、この正しい視差に基づき画像合成するため、きれいな画像を合成することができる。
【0132】
また、実施の形態1に係る撮像装置は、原点補正用係数用メモリ138に原点補正係数g1x、g2x、g3x、g4x、g1y、g2y、g3y、g4yを保存し、ステップS1400において原点補正係数g1x、g2x、g3x、g4x、g1y、g2y、g3y、g4yに基づき、撮像信号I1(x,y)、I2(x,y)、I3(x,y)、I4(x,y)の原点を補正し、ステップS1630において補正された撮像信号I1(x,y)、I4(x,y)に基づきブロック毎に視差を求め、ステップS1640においてこの視差に基づきブロック毎に視差の影響を低減するように画像合成する。このことにより、正しい視差を求め、この正しい視差に基づき画像合成するため、きれいな画像を合成することができる。
【0133】
また、実施の形態1に係る撮像装置は、歪曲補正係数p1x(x,y)、p2x(x,y)、p3x(x,y)、p4x(x,y)、p1y(x,y)、p2y(x,y)、p3y(x,y)、p4y(x,y)を保存し、ステップS1520において歪曲補正係数p1x(x,y)、p2x(x,y)、p3x(x,y)、p4x(x,y)、p1y(x,y)、p2y(x,y)、p3y(x,y)、p4y(x,y)に基づき、歪曲補正用座標q1x(x,y)、q2x(x,y)、q3x(x,y)、q4x(x,y)、q1y(x,y)、q2y(x,y)、q3y(x,y)、q4y(x,y)を演算し、ステップS1530において歪曲補正用座標q1x(x,y)、q2x(x,y)、q3x(x,y)、q4x(x,y)、q1y(x,y)、q2y(x,y)、q3y(x,y)、q4y(x,y)において複数のレンズ部の歪曲の影響を低減するように撮像信号I1(x,y)、I2(x,y)、I3(x,y)、I4(x,y)を補正し、ステップS1630において補正された撮像信号I1(x,y)、I4(x,y)に基づきブロック毎に視差を求め、ステップS1640においてこの視差に基づきブロック毎に視差の影響を低減するように画像合成する。このことにより、正しい視差を求め、この正しい視差に基づき画像合成するため、きれいな画像を合成することができる。
【0134】
なお、実施の形態1の撮像装置は、第1の撮像素子123a、第2の撮像素子123b、第3の撮像素子123c、第4の撮像素子123dの感度の偏りがそれぞれ異なる場合にも、偽色発生を抑制する効果も併せて持つ。
【0135】
なお、実施の形態1の撮像装置において、演算された視差をそのまま利用したが、適宜リミットしてもよい。レンズ特性によっては被写体距離Aがある値よりも小さいとき、画像が不鮮明となる。そのため、この値を被写体距離Aの最小値と定めれば、視差Δの最大値を定められる。この値よりも大きい視差は、誤差であるとして無視してもよい。また、このような場合、視差評価値が2番目に小さい値を視差として採用してもよい。
【0136】
また、実施の形態1の撮像装置では、視差を第1の撮像信号I1(主に緑色を示す)と第4の撮像信号I4(主に緑色を示す)とから演算したが、本発明はこれに限定されない。例えば、紫色の被写体は緑色成分が少なく、青色成分、赤色成分を多く含むため、第1の撮像信号I1(主に緑色を示す)と第4の撮像信号I4(主に緑色を示す)とから演算できないことがある。この場合、第2の撮像信号I2(主に青色を示す)と第3の撮像信号I3(主に赤色を示す)とから視差を演算してもよい。また、第1の視差信号I1(主に緑色を示す)と第4の視差信号I4(主に緑色を示す)とから視差が演算不能であり、かつ、第2の撮像信号I2(主に青色を示す)と第3の撮像信号I3(主に赤色を示す)とから視差が演算不能であれば、視差の影響がないものとみなし、視差なしとすればよい。
【0137】
また、第1の実施の形態において、全てのレンズ部を透過した光線にIRフィルタが作用するが、IRフィルタの一部を削除し、一部のレンズ部を透過した光線について作用しなくてもよい。また、IRフィルタを全て削除してもよい。
【0138】
また、第1の実施の形態において、第1のカラーフィルタ124a、第2のカラーフィルタ124b、第3のカラーフィルタ124c、および第4のカラーフィルタ124dが、それぞれが主に緑色、青色、赤色、および緑色を透過したが、波長が異なってもよい。例えば、補色を利用し、第1のカラーフィルタ124a、第2のカラーフィルタ124b、第3のカラーフィルタ124c、および第4のカラーフィルタ124dが、それぞれが主に黄色、シアン、マゼンタ、および黄色を透過してもよい。さらに、順番を入れ替えてもよい。例えば、第1のカラーフィルタ124a、第2のカラーフィルタ124b、第3のカラーフィルタ124c、および第4のカラーフィルタ124dが、それぞれが主に緑色、緑色、青色、および赤色を透過してもよい。また、第1のカラーフィルタ124a、第2のカラーフィルタ124b、第3のカラーフィルタ124c、および第4のカラーフィルタ124dが、それぞれが主に赤色、青色、緑色、および赤色を透過してもよい。
【0139】
また、第1の実施の形態の撮像装置をカメラに搭載するとき、撮影時に上側になる方に第2の撮像素子123aが、下側になる方に第3の撮像素子123cが配置されるように、第1〜第4の撮像素子123a〜123dを配置することにより、上側が青色に敏感となり、下側が赤色に敏感となるので、風景写真の色再現をより自然にできる。
【0140】
また、視差評価値に目立つ極値が2つあるときは、より大きい方の視差を採用してもよい。このようなブロックには、被写体と背景が含まれており、被写体距離と背景距離とが異なるため、極値が2つ現れる。背景距離と比較して被写体距離は小さいため、背景の視差と比較して被写体の視差は大きい。ここで、大きい方の視差を採用すれば、背景の視差の影響は低減できないが、画質に直接影響する被写体の視差の影響を低減できる。
【0141】
また、画像出力のタイミングは、上記に限定されず、適宜プレビュー出力をしてもよい。例えば、ステップS1100において自動焦点制御を行う途中で、視差補正なしの画像を出力してもよい。
【0142】
また、実施の形態1において、撮像素子123は、第1の撮像素子123a、第2の撮像素子123b、第3の撮像素子123c、および第4の撮像素子123dから構成され、撮像信号入力部133は、第1の撮像信号入力部133a、第2の撮像信号入力部133b、第3の撮像信号入力部133c、および第4の撮像信号入力部133dから構成された。しかし、撮像素子123を1つの撮像素子で構成し、この受光面上の異なる位置に第1〜第4のレンズ部113a〜113dによる4つの像を形成しても良い。また、撮像信号入力部133が1つの撮像素子123からの信号が入力される1つの撮像信号入力部から構成されてもよい。この場合、システム制御部131のメモリ上に置かれたデータから適宜領域を選択し、第1の撮像信号I1、第2の撮像信号I2、第3の撮像信号I3、および第4の撮像信号I4とすればよい。
【0143】
また、第1の実施の形態において、第1のレンズ部113a、第2のレンズ部113b、第3のレンズ113c、および第4のレンズ部113dの光軸の中心を互いに結んで得られる矩形が正方形になるように配置されたがこれに限定されない。この矩形のx方向の長さとy方向の長さが異なってもよい。この場合、ステップS1630において視差を求めるとき、ステップS1640において視差補正をするときなど適宜変更を要する。すなわち、x方向とy方向とで同一のkを用いるのではなく、前述の矩形のx方向の長さとy方向の長さとの比を保つようにkを変更する。
【0144】
なお、上記の説明では、撮影によって得られた撮像信号に対して各種の補正を行い、視差を補正した後、撮像信号から画像を合成する装置の構成および動作を例示したが、本発明の撮像装置は、被写体までの距離を検出する測距装置としての応用も可能である。すなわち、本発明の撮像装置は、上述のように得られた視差に基づいて距離を演算し、得られた距離を出力する装置としての実施も可能であり、測量装置や車間距離検出装置等としての実用化が考えられる。すなわち、式(1)を距離Aについて解くと、下記式(46)のように示される。したがって、ブロックBiにおける被写体の距離は、下記式(47)のように演算され、そのブロックBiに含まれる画素(x,y)における被写体の距離は、下記式(48)のように示され、システム制御部131のメモリ上に保存される。なお、単位は演算時に適宜変更されている。そして、この距離情報A(x,y)を入出力部136を介し、外部に出力すれば、測距装置として機能する撮像装置を実現できる。
【0145】
A = f*D/Δ ・・・(46)
Ai = f*D/Δi ・・・(47)
A(x,y)= Ai ((x,y)はBiに含まれる) ・・・(48)
【0146】
(実施の形態2)
本発明の実施の形態2に係る撮像装置は、製造工程において強度補正係数を作成し、強度補正係数用メモリに書き込む。このことにより、部品精度のばらつきや組み立てのばらつきが各個体毎に変化しても、光量分布の偏りを補償し、偽色の発生を抑制し、きれいな画像を合成する。
【0147】
また、本発明の実施の形態2に係る撮像装置は、複数の撮像信号のうちの少なくとも1つの撮像信号を複数のブロックに分割し、製造工程において強度補正係数を作成し、強度補正係数用メモリに書き込む。これにより、部品精度のばらつきや組み立てのばらつきが各個体毎に変化しても、光量分布の偏りを補償し、補正された撮像信号に基づきブロック毎に視差を求め、この視差に基づきブロック毎に視差の影響を低減するように画像合成できる。このことにより、光量分布の偏りを補償し、正しい視差を求め、この正しい視差に基づき画像合成するため、きれいな画像を合成することができる。
【0148】
また、本発明の実施の形態2に係る撮像装置は、製造工程において原点補正係数を作成し、原点補正係数用メモリに書き込む。これにより、部品精度のばらつきや組み立てのばらつきが各個体毎に変化しても、原点のばらつきを補償し、補正された撮像信号に基づきブロック毎に視差を求め、この視差に基づきブロック毎に視差の影響を低減するように画像合成できる。このことにより、原点のばらつきを補償し、正しい視差を求め、この正しい視差に基づき画像合成するため、きれいな画像を合成することができる。
【0149】
また、本発明の実施の形態2に係る撮像装置は、製造工程において歪曲補正係数を作成し、歪曲補正係数用メモリに書き込む。これにより、部品精度のばらつきや組み立てのばらつきが各個体毎に変化しても、複数のレンズ部の歪曲の影響を低減するように撮像信号を補正し、補正された撮像信号に基づきブロック毎に視差を求め、この視差に基づきブロック毎に視差の影響を低減するように画像合成できる。このことにより、歪曲の影響を低減し、正しい視差を求め、この正しい視差に基づき画像合成するため、きれいな画像を合成することができる。
【0150】
本発明の実施の形態2に係る撮像装置について、図面を参照しながら説明する。図21は、本発明の実施の形態2に係る撮像装置の構成を示す断面図である。図21において、撮像装置201は、レンズモジュール部110、および回路部220を有する。
【0151】
レンズモジュール部110は、鏡筒111、上部カバーガラス112、レンズ113、アクチュエータ固定部114、およびアクチュエータ可動部115を有する。回路部220は、基板121、パッケージ122、撮像素子123、パッケージカバーガラス124、およびシステムLSI(以下、SLSIと記す)225を有する。SLSI225以外の構成と動作は、実施の形態1と同様であり、同一の符号を付与し、説明を省略する。
【0152】
図22は、本発明の実施の形態2に係る撮像装置のブロック図である。SLSI225は、システム制御部231、撮像素子駆動部132、撮像信号入力部133、アクチュエータ操作量出力部134、画像処理部135、入出力部136、強度補正係数用メモリ137、原点補正係数用メモリ138、歪曲補正係数用メモリ139、強度補正係数作成部251、原点補正係数作成部252、および歪曲補正係数作成部253を有する。また、回路部220は、前述の構成に加えて、アンプ126を有する。
【0153】
撮像装置201を組み立て後、製造工程の中の完成品検査工程において、以下に説明するように、強度補正係数作成部251が、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を作成し、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を強度補正係数用メモリ137に書き込む。また、原点補正係数作成部252が、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを作成し、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを原点補正係数用メモリ138に書き込む。さらに、歪曲補正係数作成部253が、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成し、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を歪曲補正係数用メモリ139に書き込む。
【0154】
図23は、本発明の実施の形態2に係る補正係数の作成時の撮像装置などの外観図である。201は本発明の実施の形態2の撮像装置であり、202は補正係数作成用コントローラ、203はディスプレイ、および204は撮像装置用ケーブルである。補正係数作成用コントローラ202は、産業用コンピュータから構成され、撮像装置201とディスプレイ204とを協調制御し、撮像装置201に強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4y、および歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成させる。ディスプレイ203は、CRT(Cathode Ray Tube)ディスプレイなどから構成され、補正係数作成用コントローラ202に制御され、撮像装置201と協調動作し、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4、および歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)の作成に使用する画像(チャート)を描画する。撮像装置用ケーブル204は、USB(Universal Serial Bus)ケーブルなどから構成され、撮像装置201と補正係数作成用コントローラ202とを接続し、撮像装置201に電力を供給し、撮像装置201と補正係数作成用コントローラ202の通信を媒介する。
【0155】
次に、本発明の実施の形態2に係る撮像装置の動作を説明する。図24は、本発明の実施の形態2に係る強度補正係数作成に使用する強度補正用チャートの外観図である。実施の形態2の撮像装置は、製造工程において、図24のような白色均一の被写体である強度補正用チャート205を撮影する。図25(A)〜図25(C)は、本発明の実施の形態2に係る撮像装置の撮像信号と強度補正係数と補正後の撮像信号とを示す波形図である。図25(A)〜(C)において、簡単のため、第1の撮像信号I1と、第1の強度補正係数a1と、補正後の第1の撮像信号I1のみを示す。図25(A)のように、この撮像信号I1は、周辺光量の落ち込みの強度情報を含む光量分布の偏りの強度情報である。強度補正係数作成部251は、撮像信号I1の逆数を、図25(B)のような強度補正係数a1として求め、強度補正係数用メモリ137に保存する。つまり、強度補正係数作成部251は、I1(x,y)*a1(x,y)=1となるように、a1(x,y)の値を求める。これにより、ステップS1300のように強度補正をすると、補正後の撮像信号は、図25(C)のように平坦となり、均一の被写体像を再現する。同様に、強度補正係数作成部251は、第2の撮像信号I2に対する第2の強度補正係数a2、第3の撮像信号I3に対する第3の強度補正係数a3、および第4の撮像信号I4に対する第4の強度補正係数a4を作成し、強度補正係数用メモリ137に書き込む。ここで、部品精度のばらつきや組み立てのばらつきがあり、各色によって光軸中心に対し光量分布が偏り、周辺光量の落ち込みがそれぞれ異なるとき、第2の強度補正係数a2、第3の強度補正係数a3、および第4の強度補正係数a4はそれぞれ異なる。このように、白色均一の被写体を撮影し、そのときの撮像信号の逆数を強度補正係数とすることにより、強度補正を適切に行うことができる。実施の形態2の撮像装置は、この原理に基づき、強度補正係数作成部251によって強度補正係数を作成し、作成された強度補正係数を強度補正係数用メモリ137に書き込む。そして、画像処理部135の強度補正部142が、強度補正係数用メモリ137に保存された強度補正係数に基づき強度補正を行う。
【0156】
図26は、本発明の実施の形態2に係る原点補正係数作成に使用する原点補正用チャートの外観図である。実施の形態2の撮像装置は、製造工程において、図26のような白色均一の被写体に十字が描画された原点補正用チャート206を撮影する。撮像装置201は、原点補正用チャート206に正対するように配置され、撮像装置201の複数のレンズの光軸の中心が、原点補正用チャート206の十字の中心に一致するように配置される。図27(A)〜図27(D)は、本発明の実施の形態2に係る原点補正用チャート206を撮影時の撮像信号を示す図である。原点補正用チャート206の撮影によって、第1の撮像信号I1、第2の撮像信号I2、第3の撮像信号I3、第4の撮像信号I4は、それぞれ図27(A)〜図27(D)に示されるような信号となる。図27(A)〜図27(D)における十字状の実線は、原点補正用チャート206に描画された十字が撮像されたものである。なお、図27(A)〜図27(D)における十字状の破線は、撮像信号との比較の便宜のために、画像の中心を通る線を仮想的に示したものであって、実際の信号には含まれない。図27のように、第1の撮像信号I1、第2の撮像信号I2、第3の撮像信号I3、第4の撮像信号I4の十字の中心(実線の中心)は、画像の中心(破線の中心)と比較し、それぞれ(s1x,s1y)、(s2x,s2y)、(s3x,s3y)、(s4x,s4y)だけずれている。このずれは、撮像装置201から原点補正用チャート206が有限の距離に配置されることによる視差の要因、およびレンズ部同士の製造時のずれや撮像素子の配置位置ずれなどによる製造ばらつきによる要因が複合されて生じる。したがって、それぞれの十字の中心のずれ(s1x,s1y)、(s2x,s2y)、(s3x,s3y)、(s4x,s4y)から視差の要因を減じたものが製造ばらつきによるずれである。原点補正係数作成部252は、このずれの影響をなくすように原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを作成し、作成した原点補正係数を原点補正係数用メモリ138へ書き込む。画像処理部135の原点補正部143が、原点補正係数用メモリ138の原点補正係数を用いて、S1400において原点補正する。
【0157】
図28は、本発明の実施の形態2に係る歪曲補正係数作成に使用する歪曲補正用チャートの外観図である。実施の形態2の撮像装置は、製造工程において、図28のような白色均一の被写体に格子が描画された歪曲補正用チャート207を撮影する。この格子の間隔は、撮影された画像において、10ピクセルから15ピクセルであることが好ましい。撮像装置201は、歪曲補正用チャート207に正対するように配置され、撮像装置201の複数のレンズの光軸の中心が、歪曲補正用チャート207の格子の中心に一致するように配置される。図29は、本発明の実施の形態2に係る歪曲補正用チャート207を撮影時の撮像信号を示す図である。図29において、簡単のため、第1の撮像信号I1のみを示す。歪曲補正用チャート207を撮影することにより、第1の撮像信号I1として、図29に示されるような信号が得られる。図29において格子状で歪曲した実線は、歪曲補正用チャート207に描画された格子が撮像されたものである。なお、図29において格子状で歪曲がない破線は、撮像信号との比較の便宜のために、レンズに歪曲がないときに撮像されるものを仮想的に示したものであって、実際の撮像信号には含まれない。なお、図29においては、原点ずれ、視差によるずれを除去している。撮像信号I1上の歪曲した格子の交点(実線の交点)を(ux1(i,j),uy1(i,j))と示し、レンズに歪曲がないときに撮像される格子の交点(破線の交点)を(vx1(i,j),vy1(i,j))と示す。ここで、(i,j)はそれぞれx方向にi番目、y方向にj番目の交点であることを示し、図29のように、格子の交点は端も含めx方向にWX+1個、y方向にWY+1個あり、左上端の交点は(vx1(0,0),vy1(0,0))と示され、右下端の交点は(vx1(WX,WY),vy1(WX,WY))と示される。
【0158】
歪曲補正係数作成部253は、歪曲補正後の(vx1(i,j),vy1(i,j))の撮像信号I1として、(ux1(i,j),uy1(i,j))の座標の撮像信号I1を用いるように、歪曲補正係数p1x(x,y)、p1y(x,y)を作成する。また、歪曲補正係数作成部253は、交点以外のピクセルの座標については、近隣の交点から補間により求めた座標の撮像信号I1を用いるように、歪曲補正係数p1x(x,y)、p1y(x,y)を作成する。なお、歪曲補正係数作成部253は、他の撮像信号I2、I3、I4についても同様に、歪曲補正係数p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成する。作成された歪曲補正係数は、歪曲補正係数用メモリ139に格納される。なお、原点ずれ、視差によるずれは適宜補正する。
【0159】
図30は、本発明の実施の形態2に係る強度補正係数、原点補正係数、および歪曲補正係数の作成方法を示すフローチャートである。
【0160】
ステップS2000において、撮像装置201の複数のレンズ部の光軸の中心がディスプレイ203の描画領域の中心に一致するように、撮像装置201を配置し、強度補正係数、原点補正係数、および歪曲補正係数の作成を開始する。次に、ステップS2110を実行する。
【0161】
ステップS2110において、撮像装置201と撮像装置用ケーブル204を接続する。これは、産業用ロボットなどにより行われる。このことにより、補正係数作成用コントローラ202から撮像装置201に電力が供給され、補正係数作成用コントローラ202と撮像装置201との通信が可能になる。次に、ステップS2120を実行する。
【0162】
ステップS2120において、補正係数作成用プログラムを撮像装置201へダウンロードする。補正係数作成用コントローラ202は、撮像装置201に撮像装置用ケーブル204が接続されたことを検知後、撮像装置201に補正係数作成用プログラムを送信する。そして、撮像装置201は、補正係数作成用プログラムを受信し、システム制御部131のメモリに書き込み、以下、この補正係数作成プログラムに従い強度補正係数の作成を進める。すなわち、強度補正係数作成部251、原点補正係数作成部252、および歪曲補正係数作成部253は、図22においては、システム制御部231とは独立したブロックとして図示したが、システム制御部131が補正係数作成用プログラムを実行することによってその機能が実現される仮想的なブロックである。なお、補正係数作成後、この補正係数作成プログラムは不要であり削除するため、揮発性メモリに保存しても、不揮発性メモリに保存してもよい。従って、出荷後の撮像装置201に、強度補正係数作成部251、原点補正係数作成部252、および歪曲補正係数作成部253が必ず存在するわけではない。次に、ステップS2210を実行する。
【0163】
ステップS2210において、補正係数作成用コントローラ202は、ディスプレイ203に白色均一光である強度補正用チャート205を描画させる。次に、ステップS2220を実行する。
【0164】
ステップS2220において、補正係数作成用コントローラ202は、撮像装置201に、撮像装置用ケーブル204を介し、撮影開始の指令を送信する。次に、ステップS2230を実行する。
【0165】
ステップS2230において、撮像装置201は強度補正用チャート205の撮影を行う。ステップS2220の指令に反応し、撮像装置201は、このステップS2230を実行する。この動作はステップS1200と同様であり説明を省略する。そして、撮像装置201は、撮像信号を、強度補正係数作成用の第1の撮像信号I1(0,x,y)、第2の撮像信号I2(0,x,y)、第3の撮像信号I3(0,x,y)、および第4の撮像信号I4(0,x,y)としてシステム制御部231のメモリに保存する。なお、このメモリとして、通常使用時に動画を保存する領域などを利用する。次に、ステップS2310を実行する。
【0166】
ステップS2310において、補正係数作成用コントローラ202は、ディスプレイ203に白色均一光を背景とし十字が配置された原点補正用チャート206を描画させる。ここで、補正係数作成用コントローラ202は、ディスプレイ203の描画領域の中心、すなわち撮像装置201の複数のレンズ部の光軸の中心が十字の交点と一致するように、原点補正用チャート206を描画させる。次に、ステップS2320を実行する。
【0167】
ステップS2320において、補正係数作成用コントローラ202は、撮像装置201に、撮影開始の指令を、撮像装置用ケーブル204を介し送信する。次に、ステップS2330を実行する。
【0168】
ステップS2330において、撮像装置201は、原点補正用チャート206の撮影を行う。ステップS2320の指令に反応し、撮像装置201は、このステップS2330を実行する。この動作はステップS1200と同様であり説明を省略する。そして、撮像装置201は、撮像信号を、原点補正係数作成用の第1の撮像信号I1(1,x,y)、第2の撮像信号I2(1,x,y)、第3の撮像信号I3(1,x,y)、および第4の撮像信号I4(1,x,y)としてシステム制御部231のメモリに保存する。なお、このメモリとして、通常使用時に動画を保存する領域などを利用する。次に、ステップS2410を実行する。
【0169】
ステップS2410において、補正係数作成用コントローラ202は、ディスプレイ203に、白色均一光を背景とし格子が配置された歪曲補正用チャート207を描画する。ここで、補正係数作成用コントローラ202は、ディスプレイ203の描画領域の中心、すなわち撮像装置201の複数のレンズ部の光軸の中心が格子の中心と一致するように、歪曲補正用チャート207を描画させる。次に、ステップS2420を実行する。
【0170】
ステップS2420において、補正係数作成用コントローラ202は、撮像装置201に、撮影開始の指令を、撮像装置用ケーブル204を介し送信する。次に、ステップS2430を実行する。
【0171】
ステップS2430において、撮像装置201は、歪曲補正用チャート207の撮影を行う。ステップS2320の指令に反応し、撮像装置201は、このステップS2430を実行する。この動作はステップS1200と同様であり説明を省略する。そして、撮像装置201は、撮像信号を、歪曲補正係数作成用の第1の撮像信号I1(2,x,y)、第2の撮像信号I2(2,x,y)、第3の撮像信号I3(2,x,y)、および第4の撮像信号I4(2,x,y)としてシステム制御部231のメモリに保存する。なお、このメモリとして、通常使用時に動画を保存する領域などを利用する。次に、ステップS2510を実行する。
【0172】
ステップS2510において、強度補正係数作成部251は、ステップS2230で撮影してメモリに保存されている、強度補正係数作成用の第1の撮像信号I1(0,x,y)、第2の撮像信号I2(0,x,y)、第3の撮像信号I3(0,x,y)、および第4の撮像信号I4(0,x,y)を用いて、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、およびa4(x,y)を作成する。強度補正係数作成部251は、下記式(49)のように画像の中心位置での強度補正係数作成用の第1の撮像信号I1(0,L/2,H/2)と、強度補正係数作成用の第1の撮像信号I1(0,x,y)との比を、第1の強度補正係数a1(x,y)とする。ここで、I1(0,L/2,H/2)は、強度補正係数作成用の第1の撮像信号のうち、画像の中央部の画素(すなわち、x座標がL/2、y座標H/2の画素)の信号を表す。なお、Hは画像の縦方向の画素数、Lは横方向の画素数である。また、強度補正係数作成部251は、下記式(50)のように画像の中心位置での強度補正係数作成用の第2の撮像信号I2(0,L/2,H/2)と強度補正係数作成用の第2の撮像信号I2(0,x,y)との比を第2の強度補正係数a2(x,y)とし、下記式(51)のように画像の中心位置での強度補正係数作成用の第3の撮像信号I3(0,L/2,H/2)と強度補正係数作成用の第3の撮像信号I3(i,x,y)のと比を第3の強度補正係数a3(x,y)とし、下記式(52)のように画像の中心位置での強度補正係数作成用の第4の撮像信号I4(0,L/2,H/2)と強度補正係数作成用の第4の撮像信号I4(i,x,y)との比を第4の強度補正係数a4(x,y)とする。なお、ステップS2230において強度補正用チャート205の撮影を複数回行い、それらの画像を加算平均した画像を、強度補正係数作成用の撮像信号として用いてもよい。この場合、平均化により、ランダムノイズなどの影響を低減できる。次に、ステップS2520を実行する。
【0173】
a1(x,y)=I1(0,L/2,H/2)/I1(0,x,y) ・・・(49)
a2(x,y)=I2(0,L/2,H/2)/I2(0,x,y) ・・・(50)
a3(x,y)=I3(0,L/2,H/2)/I3(0,x,y) ・・・(51)
a4(x,y)=I4(0,L/2,H/2)/I4(0,x,y) ・・・(52)
【0174】
ステップS2520において、強度補正係数作成部251は、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、およびa4(x,y)を強度補正係数用メモリ137に書き込む。この強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、およびa4(x,y)は、S1300の強度補正において使用される。次に、ステップS2610を実行する。
【0175】
ステップS2610において、原点補正係数作成部252は、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを作成する。図27のように、原点補正係数作成用の第1の撮像信号I1(1,x,y)、原点補正係数作成用の第2の撮像信号I2(1,x,y)、原点補正係数作成用の第3の撮像信号I3(1,x,y)、原点補正係数作成用の第4の撮像信号I4(1,x,y)の十字の中心(図27(A)〜図27(D)に示す実線の中心)の、画像の中心(図27(A)〜図27(D)に示す破線の中心)に対するそれぞれのずれ(s1x,s1y)、(s2x,s2y)、(s3x,s3y)、(s4x,s4y)を検知する。ここで、それぞれの原点補正係数作成用の撮像信号I1(1,x,y)、I2(1,x,y)、I3(1,x,y)、I4(1,x,y)における十字の中心の座標を求める方法としては、撮像信号I1(1,x,y)、I2(1,x,y)、I3(1,x,y)、I4(1,x,y)と十字の小画像とのパターンマッチングを行う方法や、撮像信号I1(1,x,y)、I2(1,x,y)、I3(1,x,y)、I4(1,x,y)を二値化して十字のパターンを求める方法などが用いられる。このような方法により撮像信号I1(1,x,y)、I2(1,x,y)、I3(1,x,y)、I4(1,x,y)から得られた十字の中心の座標から、画像の中心の座標を減じることにより、前記のずれ(s1x,s1y)、(s2x,s2y)、(s3x,s3y)、(s4x,s4y)が得られる。
【0176】
次に、原点補正係数作成部252は、視差の影響を除去するために、まず、視差の大きさを演算する。下記式(53)、(54)のように、原点補正係数作成部252は、視差のx成分Δxと視差のy成分Δyとを求める。ここで、fはレンズの焦点距離であり、Dxはレンズ部の光軸間の距離のx成分である。Dxは、第1のレンズ113aの光軸と第2のレンズ113bの光軸との距離、あるいは、第3のレンズ113cの光軸と第4のレンズ113dの光軸との距離であり、これらの距離は略一致する。Dyはレンズ部の光軸間の距離のy成分である。Dyは、第1のレンズ113aの光軸と第3のレンズ113cの光軸との距離、あるいは、第2のレンズ113bの光軸と第4のレンズ113dの光軸との距離であり、これらの距離は略一致する。Aは、撮像装置のレンズの主点(第1のレンズ113aの主点、第2のレンズ113bの主点、第3のレンズ113cの主点、あるいは第4のレンズ114dの主点)からディスプレイ203(原点補正用チャート206)までの距離である。なお、各レンズの主点からディスプレイ203までの距離は略一致する。そして、原点補正係数作成部252は、下記式(55)、(56)、(57)、(58)、(59)、(60)、(61)、および(62)のように、第1の撮像信号I1、第2の撮像信号I2、第3の撮像信号I3、第4の撮像信号I4の十字の中心(図27(A)〜図27(D)に示す実線の中心)の、画像の中心(図27(A)〜図27(D)に示す波線の中心)に対するそれぞれのずれ(s1x,s1y)、(s2x,s2y)、(s3x,s3y)、(s4x,s4y)から視差(Δx、あるいはΔy)を除去し、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを作成する。なお、ステップS2330において、原点補正用チャート206の撮影を複数回行い、それらの画像を加算平均した画像を、原点補正係数作成用の撮像信号として用いてもよい。この場合、平均化により、ランダムノイズなどの影響を低減できる。また、視差(Δx、あるいはΔy)やずれ(s1x,s1y)、(s2x,s2y)、(s3x,s3y)、(s4x,s4y)を小数点の精度で求めることにより、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを小数点の精度で求めてもよい。次に、ステップS2620を実行する。
【0177】
Δx = f*Dx/A ・・・(53)
Δy = f*Dy/A ・・・(54)
g1x=s1x-Δx/2 ・・・(55)
g1y=s1y-Δy/2 ・・・(56)
g2x=s2x+Δx/2 ・・・(57)
g2y=s2y-Δy/2 ・・・(58)
g3x=s3x-Δx/2 ・・・(59)
g3y=s3y+Δy/2 ・・・(60)
g4x=s4x+Δx/2 ・・・(61)
g4y=s4y+Δy/2 ・・・(62)
【0178】
ステップS2620において、原点補正係数作成部252は、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを原点補正係数用メモリ138に書き込む。この原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yは、ステップS1400の原点補正において使用される。次に、ステップS2710を実行する。
【0179】
ステップS2710において、歪曲補正係数作成部253は、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成する。以下、第1の歪曲補正係数p1x(x,y)、p1y(x,y)の作成方法を説明する。歪曲補正用チャート207を撮影したときの歪曲補正係数作成用の第1の撮像信号I1(2,x,y)は、レンズ部に歪曲がなければ図29の歪曲のない格子(波線)として撮像されるべきものが、レンズ部の歪曲のために、歪曲した格子(実線)として撮像される。まず、歪曲補正係数作成用の第1の撮像信号I1(2,x,y)を2値化し、十字状のパターンを検知することにより、歪曲した格子(図29に示す実線)の交点の座標(ux1(i,j),uy1(i,j))を求める。この歪曲した格子(図29に示す実線)の交点(ux1(i,j),uy1(i,j))は、レンズ部の歪曲がなければ、歪曲のない格子(図29に示す波線)の交点(vx1(i,j),vy1(i,j))にあるべき点である。
【0180】
歪曲のない格子(図29に示す波線)において、左上端の交点(vx1(0,0),vy1(0,0))の座標を(vx10,vy10)とし、格子のx方向の間隔をpx、格子のy方向の間隔をpyとすると、この格子の各交点(vx1(i,j),vy1(i,j))の座標は、下記式(63)および(64)のように表される。vx10、vy10、px、pyはレンズの焦点距離、撮像装置201とディスプレイ203との距離、歪曲補正用チャート207の格子サイズなどから決定される。そして、歪曲した格子(図29に示す実線)の交点(ux1(i,j),uy1(i,j))は、歪曲がなければ、歪曲のない格子(図29に示す波線)の交点(vx1(i,j),vy1(i,j))にあるべき点であるため、交点(vx1(i,j),vy1(i,j))での第1の歪曲補正係数p1x(vx1(i,j),vy1(i,j))、p1y(vx1(i,j),vy1(i,j))は、下記式(65)および(66)のように示される。交点(vx1(i,j),vy1(i,j))以外の座標での第1の歪曲補正係数p1x(x,y)、p1y(x,y)は、下記式(67)および(68)のように、座標(x,y)の周辺の歪曲のない格子(図29に示す波線)上の交点での歪曲補正係数(式(65)および(66)に示されたもの)を線形補間し作成する。図31は、歪曲補正係数を線形補間より作成する際に参照する座標を示す図である。ここで、(vx(i,j),vy(i,j))は、求めようとする座標(x,y)の左上にある歪曲のない格子(図29に示す波線)の交点である。そして、歪曲補正係数作成部253は、下記式(69)および(70)のように、原点補正係数g1x、g1yと視差Δx(式(53)参照)、Δy(式(54参照))とを用いて、原点ずれと視差の影響を除去する。
【0181】
vx1(i,j)=vx10+px*i ・・・(63)
vy1(i,j)=vy10+py*i ・・・(64)
p1x(vx1(i,j),vy1(i,j))=ux1(i,j)-vx1(i,j) ・・・(65)
p1y(vx1(i,j),vy1(i,j))=uy1(i,j)-vy1(i,j) ・・・(66)
p1x(x,y)=
[(vx1(i+1,j+1)-x)*(vy1(i+1,j+1)-y)*p1x(vx1(i,j),vy1(i,j))
+(vx1(i+1,j)-x)*(y-vy1(i+1,j))*p1x(vx1(i,j+1),vy1(i,j+1))
+(x-vx1(i,j+1))*(vy1(i,j+1)-y)*p1x(vx1(i+1,j),vy1(i+1,j))
+(x-vx1(i,j))*(y-vy1(i,j))*p1x(vx1(i+1,j+1),vy1(i+1,j+1))]
/(px*py) ・・・(67)
p1y(x,y)=
[(vx1(i+1,j+1)-x)*(vy1(i+1,j+1)-y)*p1y(vx1(i,j),vy1(i,j))
+(vx1(i+1,j)-x)*(y-vy1(i+1,j))*p1y(vx1(i,j+1),vy1(i,j+1))
+(x-vx1(i,j+1))*(vy1(i,j+1)-y)*p1y(vx1(i+1,j),vy1(i+1,j))
+(x-vx1(i,j))*(y-vy1(i,j))*p1y(vx1(i+1,j+1),vy1(i+1,j+1))]
/(px*py) ・・・(68)
p1x(x,y)=p1x(x,y)-g1x-Δx/2 ・・・(69)
p1y(x,y)=p1y(x,y)-g1y-Δy/2 ・・・(70)
【0182】
歪曲補正係数作成部253は、第2の歪曲補正係数p2x(x,y)、p2y(x,y)、第3の歪曲補正係数p3x(x,y)、p3y(x,y)、および第4の歪曲補正係数p4x(x,y)、p4y(x,y)も同様に求める。すなわち、歪曲補正係数作成用の第2の撮像信号I2(2,x,y)、歪曲補正係数作成用の第3の撮像信号I3(2,x,y)、および歪曲補正係数作成用の第4の撮像信号I4(2,x,y)に基づき、歪曲した格子の交点の座標(ux2(i,j),uy2(i,j))、(ux3(i,j),uy3(i,j))、および(ux4(i,j),uy4(i,j))を求める。歪曲のない格子の交点(vx2(i,j),vy2(i,j))、(vx3(i,j),vy3(i,j))、(vx4(i,j),vy4(i,j))は、下記式(71)、(72)、(73)、(74)、(75)、および(76)のように示される。
【0183】
そして、(vx2(i,j),vy2(i,j))での第2の歪曲補正係数p2x(vx2(i,j),vy2(i,j))、p2y(vx2(i,j),vy2(i,j))は、下記式(77)および(78)のように示され、(vx3(i,j),vy3(i,j))での第3の歪曲補正係数p3x(vx3(i,j),vy3(i,j))、p3y(vx3(i,j),vy3(i,j))は、下記式(79)および(80)のように示され、(vx4(i,j),vy4(i,j))での第4の歪曲補正係数p4x(vx4(i,j),vy4(i,j))、p4y(vx4(i,j),vy4(i,j))は、下記式(81)および(82)のように示される。さらに、歪曲補正係数作成部253は、(vx2(i,j),vy2(i,j))以外の座標での第2の歪曲補正係数p2x(x,y)、p2y(x,y)を、下記式(83)および(84)のように、座標(x,y)の周辺の歪曲のない格子上の交点での歪曲補正係数(式(77)および(78)に示されたもの)を線形補間し作成する。また、歪曲補正係数作成部253は、(vx3(i,j),vy3(i,j))以外の座標での第3の歪曲補正係数p3x(x,y)、p3y(x,y)を、下記式(85)および(86)のように、座標(x,y)の周辺の歪曲のない格子上の交点での歪曲補正係数(式(79)および(80)に示されたもの)を線形補間し作成する。さらに、歪曲補正係数作成部253は、(vx4(i,j),vy4(i,j))以外の座標での第4の歪曲補正係数p4x(x,y)、p4y(x,y)を、下記式(87)および(88)のように、座標(x,y)の周辺の歪曲のない格子上の交点での歪曲補正係数(式(81)および(82)に示されたもの)を線形補間し作成する。そして、歪曲補正係数作成部253は、下記式(89)、(90)、(91)、(92)、(93)、および(94)のように、原点補正係数g2x、g2y、g3x、g3y、g4x、g4yと、視差Δx(式(53)参照)、Δy(式(54)参照)とを用いて、原点ずれと視差の影響を除去する。次に、ステップS2720を実行する。
【0184】
vx2(i,j)=vx20+px*i ・・・(71)
vy2(i,j)=vy20+py*i ・・・(72)
vx3(i,j)=vx30+px*i ・・・(73)
vy3(i,j)=vy30+py*i ・・・(74)
vx4(i,j)=vx40+px*i ・・・(75)
vy4(i,j)=vy40+py*i ・・・(76)
p2x(vx2(i,j),vy2(i,j))=ux2(i,j)-vx2(i,j) ・・・(77)
p2y(vx2(i,j),vy2(i,j))=uy2(i,j)-vy2(i,j) ・・・(78)
p3x(vx3(i,j),vy3(i,j))=ux3(i,j)-vx3(i,j) ・・・(79)
p3y(vx3(i,j),vy3(i,j))=uy3(i,j)-vy3(i,j) ・・・(80)
p4x(vx4(i,j),vy4(i,j))=ux4(i,j)-vx4(i,j) ・・・(81)
p4y(vx4(i,j),vy4(i,j))=uy4(i,j)-vy4(i,j) ・・・(82)
p2x(x,y)=
[(vx2(i+1,j+1)-x)*(vy2(i+1,j+1)-y)*p2x(vx2(i,j),vy2(i,j))
+(vx2(i+1,j)-x)*(y-vy2(i+1,j))*p2x(vx2(i,j+1),vy2(i,j+1))
+(x-vx2(i,j+1))*(vy2(i,j+1)-y)*p2x(vx2(i+1,j),vy2(i+1,j))
+(x-vx2(i,j))*(y-vy2(i,j))*p2x(vx2(i+1,j+1),vy2(i+1,j+1))]
/(px*py) ・・・(83)
p2y(x,y)=
[(vx2(i+1,j+1)-x)*(vy2(i+1,j+1)-y)*p2y(vx2(i,j),vy2(i,j))
+(vx2(i+1,j)-x)*(y-vy2(i+1,j))*p2y(vx2(i,j+1),vy2(i,j+1))
+(x-vx2(i,j+1))*(vy2(i,j+1)-y)*p2y(vx2(i+1,j),vy2(i+1,j))
+(x-vx2(i,j))*(y-vy2(i,j))*p2y(vx2(i+1,j+1),vy2(i+1,j+1))]
/(px*py) ・・・(84)
p3x(x,y)=
[(vx3(i+1,j+1)-x)*(vy3(i+1,j+1)-y)*p3x(vx3(i,j),vy3(i,j))
+(vx3(i+1,j)-x)*(y-vy3(i+1,j))*p3x(vx3(i,j+1),vy3(i,j+1))
+(x-vx3(i,j+1))*(vy3(i,j+1)-y)*p3x(vx3(i+1,j),vy3(i+1,j))
+(x-vx3(i,j))*(y-vy3(i,j))*p3x(vx3(i+1,j+1),vy3(i+1,j+1))]
/(px*py) ・・・(85)
p3y(x,y)=
[(vx3(i+1,j+1)-x)*(vy3(i+1,j+1)-y)*p3y(vx3(i,j),vy3(i,j))
+(vx3(i+1,j)-x)*(y-vy3(i+1,j))*p3y(vx3(i,j+1),vy3(i,j+1))
+(x-vx3(i,j+1))*(vy3(i,j+1)-y)*p3y(vx3(i+1,j),vy3(i+1,j))
+(x-vx3(i,j))*(y-vy3(i,j))*p3y(vx3(i+1,j+1),vy3(i+1,j+1))]
/(px*py) ・・・(86)
p4x(x,y)=
[(vx4(i+1,j+1)-x)*(vy4(i+1,j+1)-y)*p4x(vx4(i,j),4vy(i,j))
+(vx4(i+1,j)-x)*(y-vy4(i+1,j))*p4x(vx4(i,j+1),vy4(i,j+1))
+(x-vx4(i,j+1))*(vy4(i,j+1)-y)*p4x(vx4(i+1,j),vy4(i+1,j))
+(x-vx4(i,j))*(y-vy4(i,j))*p4x(vx4(i+1,j+1),vy4(i+1,j+1))]
/(px*py) ・・・(87)
p4y(x,y)=
[(vx4(i+1,j+1)-x)*(vy4(i+1,j+1)-y)*p4y(vx4(i,j),vy4(i,j))
+(vx4(i+1,j)-x)*(y-vy4(i+1,j))*p4y(vx4(i,j+1),vy4(i,j+1))
+(x-vx4(i,j+1))*(vy4(i,j+1)-y)*p4y(vx4(i+1,j),vy4(i+1,j))
+(x-vx4(i,j))*(y-vy4(i,j))*p4y(vx4(i+1,j+1),vy4(i+1,j+1))]
/(px*py) ・・・(88)
p2x(x,y)=p2x(x,y)-g2x-Δx/2 ・・・(89)
p2y(x,y)=p2y(x,y)-g2y-Δy/2 ・・・(90)
p3x(x,y)=p3x(x,y)-g3x-Δx/2 ・・・(91)
p3y(x,y)=p3y(x,y)-g3y-Δy/2 ・・・(92)
p4x(x,y)=p4x(x,y)-g4x-Δx/2 ・・・(93)
p4y(x,y)=p4y(x,y)-g4y-Δy/2 ・・・(94)
【0185】
ステップS2720において、歪曲補正係数作成部253は、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を歪曲補正係数用メモリ139に書き込む。この歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)は、ステップS1500の歪曲補正において使用される。次に、ステップS2810を実行する。
【0186】
ステップS2810において、システム制御部231は、補正係数作成プログラムを消去する。補正係数作成プログラムは、強度補正係数、原点補正係数、および歪曲補正係数を作成するときのみ必要であり、通常の被写体を撮影するときは不要である。従って、ステップS2120で補正係数作成プログラムをダウンロードし、このステップで補正係数作成プログラムを消去することにより、通常使用時に利用できるメモリを増やすことができる。次に、ステップS2820を実行する。
【0187】
ステップS2820において、撮像装置201から撮像装置用ケーブル204がはずされる。これは、産業用ロボットなどにより行われる。この撮像装置用ケーブル204は、次に、他の撮像装置に接続され、他の撮像装置の強度補正係数、原点補正係数、および歪曲補正係数の作成に使用される。次に、ステップS2900を実行する。
【0188】
ステップS2900において、強度補正係数、原点補正係数、および歪曲補正係数の作成を終了する。
【0189】
そして、撮像装置201は、通常使用時は、実施の形態1と同様に動作する。
【0190】
以上のように構成し動作させることにより、実施の形態2の撮像装置は以下に示す効果を有する。
【0191】
実施の形態2の撮像装置201は、製造工程において、ステップS2230において強度補正用チャート205を撮影し、ステップS2510において強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を作成し、ステップS2520において強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を強度補正係数保存用メモリ137に書き込む。そして、通常使用時に、ステップS1300において、この強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)に基づき強度補正する。このことにより、部品精度のばらつきや組み立てのばらつきが撮像装置201の各個体毎に変化しても、光量分布の偏りを補償し、偽色の発生を抑制し、きれいな画像を合成することができる。
【0192】
なお、実施の形態2の撮像装置201は、第1の撮像素子123a、第2の撮像素子123b、第3の撮像素子123c、第4の撮像素子123dの感度の偏りがそれぞれ異なる場合にも、偽色発生を抑制する効果も併せて持つ。
【0193】
また、実施の形態2の撮像装置201は、製造工程において、ステップS2330において原点補正用チャート206を撮影し、ステップS2610において原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを作成し、ステップS2620において原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを原点補正係数保存用メモリ138に書き込む。そして、通常使用時に、ステップS1400において、この原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yに基づき原点補正する。このことにより、部品精度のばらつきや組み立てのばらつきが撮像装置201の各個体毎に変化しても、原点のばらつきを補償し、正しい視差を求め、この正しい視差に基づき画像合成するため、きれいな画像を合成することができる。
【0194】
また、実施の形態2の撮像装置201は、製造工程において、ステップS2430において歪曲補正用チャート207を撮影し、ステップS2710において歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)、ステップS2720において歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を歪曲補正係数保存用メモリ139に書き込む。そして、通常使用時に、ステップS1500において、この歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)に基づき歪曲補正する。このことにより、部品精度のばらつきや組み立てのばらつきが撮像装置201の各個体毎に変化しても、歪曲の影響を低減し、正しい視差を求め、この正しい視差に基づき画像合成するため、きれいな画像を合成することができる。
【0195】
なお、実施の形態2の撮像装置201において、ディスプレイ203によって描画された強度補正用チャート205、原点補正用チャート206、および歪曲補正用チャート207を撮影したが、紙製のチャートに適宜照明を施し撮影してもよい。また、ガラスや透明樹脂のような透過型チャートを拡散白色照明の前に配置したものを撮影してもよい。
【0196】
また、実施の形態2では、撮像装置201がステップS2510において強度補正係数a1、a2、a3、a4を作成し、ステップS2610において原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを作成し、ステップS2710において歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成した。しかし、この代わりに、撮像装置201が、補正係数作成用コントローラ202にディジタル化された強度補正係数作成用の撮像信号I1(0,x,y)、I2(0,x,y)、I3(0,x,y)、I4(0,x,y)、原点補正係数作成用の撮像信号I1(1,x,y)、I2(1,x,y)、I3(1,x,y)、I4(1,x,y)、および歪曲補正係数作成用の撮像信号I1(2,x,y)、I2(2,x,y)、I3(2,x,y)、I4(2,x,y)を転送し、補正係数作成用コントローラ202が、強度補正係数a1、a2、a3、a4、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4y、および歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を計算して撮像装置201に転送しても良い。この場合、撮像装置201が、補正係数作成用コントローラ202によって計算された強度補正係数a1、a2、a3、a4を強度補正係数用メモリ137に保存し、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを原点補正係数用メモリ138に保存し、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を歪曲補正係数用メモリ139に保存してもよい。
【0197】
また、実施の形態2の撮像装置201において、補正係数作成プログラムはシステム制御部231のメモリに置いたが、この代わりに、SDカードなどのフラッシュメモリのような外部メモリに補正係数作成プログラムを記憶し、システム制御部231が、入出力部136を介して外部メモリへアクセスしてこの補正係数作成プログラムを実行するようにしてもよい。同様に、ステップS2510、ステップS2610、およびステップS2710で撮影した撮像信号を外部メモリに保存するようにしてもよい。
【0198】
また、実施の形態2の撮像装置201は、ステップS2510において、強度補正用の撮像信号I1(0,x,y)、I2(0,x,y)、I3(0,x,y)、I4(0,x,y)の逆数を強度補正係数a1、a2、a3、a4としたが、空間的なLPFや時間的なLPFを作用してもよい。例えば、式(12)のような空間的なLPFを作用してもよい。
【0199】
また、実施の形態2の撮像装置201は、ステップS2230、ステップS2330、およびステップS2430において1回の撮影により得られた撮像信号を用いて、ステップS2510、ステップS2610、およびステップS2710においてそれぞれ強度補正係数a1、a2、a3、a4、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4y、および歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を求めたが、複数回撮影して得られた撮像信号を平均したものを用いてもよい。複数回撮影した撮像信号の平均を用いることは、時間的なLPFを作用していることと等価である。このようなLPFを作用させることにより、ランダムノイズなどの影響を低減し、精度がよい強度補正係数a1、a2、a3、a4、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4y、および歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成できるため、よりきれいな画像を合成できる。
【0200】
また、実施の形態2の撮像装置201は、各画素(x,y)ごとに強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を作成したが、近似式を用いてもよい。例えば、第1の強度補正係数として、下記式(95)のようにx方向とy方向にべき数展開したものを乗じた近似式や、下記式(96)のようなべき数展開した近似式を定め、ステップS2510において最小二乗法などで係数(a1x0、a1x1、a1x2、a1x3、a1xz、a1y0、a1y1、a1y2、a1y3、a1yz、あるいはa100、a110、a101、a120、a111、a102、a130、a121、a112、a103、a1xz、a1yz)を作成し、ステップS2520においてこれらの係数を強度補正係数用メモリ137に書き込み、ステップS1320において式(95)や(96)を用いて各画素(x,y)の第1の強度補正値b1(x,y)を作成してもよい。なお、式(95)および(96)において、記号「^」はべき乗を表す。また、第2の強度補正係数、第3の強度補正係数、第4の強度補正係数を第1の補正係数と同様に定め、ステップS1320において、式(95)(96)と同様に第2の強度補正値b2(x,y)、第3の強度補正値b3(x,y)、および第4の強度補正値b4(x,y)を求めてもよい。
【0201】
[a1x0+a1x1*(x-a1xz)+a1x2*(x-a1xz)^2+a1x3*(x-a1xz)^3]
*[a1y0+a1y1*(y-a1yz)+a1y2*(y-a1yz)^2+a1y3*(y-a1yz)^3]
・・・(95)
a100+a110*(x-a1xz)+a101*(y-a1yz)
+a120*(x-a1xz)^2+a111*(x-a1xz)*(y-a1yz)+a102*(y-a1yz)^2
+a130*(x-a1xz)^3+a121*(x-a1xz)^2*(y-a1yz)
+a112*(x-a1xz)*(y-a1yz)^2+a103*(y-a1yz)^3 ・・・(96)
【0202】
また、実施の形態2の撮像装置201は、ステップS2230において照度が一定の白色均一光を撮影し、1組の強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を作成したが、照度が異なる白色均一光を複数撮影し、複数組の強度補正係数を作成しても良い。この場合、ステップS1300において、前記複数組みの強度補正係数から、強度に応じていずれかの強度補正係数を選択し、利用してもよい。また、前述の近似式に、強度により変化する項を付加してもよい。この場合、強度により非線形的に変化する現象も補償できる。
【0203】
また、実施の形態2の撮像装置201は、ステップS2230において照度が一定の白色均一光を撮影し、撮像信号I1、I2、I3、I4が均一になるような、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を作成したが、画像の周辺部分での強度が減少するようにしてもよい。すなわち、下記式(97)のように、画像の中心位置での強度補正係数作成用の第1の撮像信号I1(0,L/2,H/2)と強度補正係数作成用の第1の撮像信号I1(0,x,y)との比に、画像の周辺になるほど小さくなる係数(1-ksh*[(x-L/2)^2+(y-H/2)^2])を乗じた結果を、第1の強度補正係数a1(x,y)とする。また、下記式(98)のように、画像の中心位置での強度補正係数作成用の第2の撮像信号I2(0,L/2,H/2)と強度補正係数作成用の第2の撮像信号I2(0p,x,y)との比に、画像の周辺になるほど小さくなる係数(1-ksh*[(x-L/2)^2+(y-H/2)^2])を乗じた結果を、第2の強度補正係数a2(x,y)とする。また、下記式(99)のように、画像の中心位置での強度補正係数作成用の第3の撮像信号I3(0,L/2,H/2)と強度補正係数作成用の第3の撮像信号I3(i,x,y)のと比に、画像の周辺になるほど小さくなる係数(1-ksh*[(x-L/2)^2+(y-H/2)^2])を乗じた結果を、第3の強度補正係数a3(x,y)とする。さらに、下記式(100)のように、画像の中心位置での強度補正係数作成用の第4の撮像信号I4(0,L/2,H/2)と強度補正係数作成用の第4の撮像信号I4(i,x,y)との比に、画像の周辺になるほど小さくなる係数(1-ksh*[(x-L/2)^2+(y-H/2)^2])を乗じた結果を、第4の強度補正係数a4(x,y)とする。なお、kshはある設定値を示し、(x-L/2)^2は(x-L/2)の二乗を示し、(y-H/2)^2は(y-H/2)の二乗を示す。このことにより、画像の周辺部分が減光したようなより自然な画像が作成できる。
【0204】
a1(x,y)=I1(0,L/2,H/2)/I1(0,x,y)*(1-ksh*[(x-L/2)^2+(y-H/2)^2])
・・・(97)
a2(x,y)=I2(0,L/2,H/2)/I2(0,x,y)*(1-ksh*[(x-L/2)^2+(y-H/2)^2])
・・・(98)
a3(x,y)=I3(0,L/2,H/2)/I3(0,x,y)*(1-ksh*[(x-L/2)^2+(y-H/2)^2])
・・・(99)
a4(x,y)=I4(0,L/2,H/2)/I4(0,x,y)*(1-ksh*[(x-L/2)^2+(y-H/2)^2])
・・・(100)
【0205】
また、実施の形態2の撮像装置201は、上述のように、ステップS2510において、式(49)のように画像の中心位置での強度補正係数作成用の第1の撮像信号I1(0,L/2,H/2)と強度補正係数作成用の第1の撮像信号I1(0,x,y)との比を第1の強度補正係数a1(x,y)とし、式(52)のように画像の中心位置での強度補正係数作成用の第4の撮像信号I4(0,L/2,H/2)と強度補正係数作成用の第4の撮像信号I4(i,x,y)との比を第4の強度補正係数a4(x,y)とする。そして、撮像装置201は、これらの強度補正係数を利用し、ステップS1320において、各画素(x,y)における補正値を演算する。そして、撮像装置201は、式(18)および(21)のように、第1の強度補正係数a1(x,y)および第4の強度補正係数a4(x,y)に、それぞれ設定値kab1およびkab4を乗じた結果を、第1の強度補正値b1(x,y)および第4の強度補正値b4(x,y)とする。さらに、撮像装置201は、ステップS1330において、式(22)および(25)のように、第1の強度補正値b1(x,y)および第4の強度補正値b4(x,y)を乗じることにより、第1の撮像信号I1(x,y)および第4の撮像信号I4(x,y)を補正する。
【0206】
ここで、実施の形態2の変形例として、第1の撮像信号I1と第4の撮像信号I4との強度レベルが同等になるようにしてもよい。すわなち、式(52)の代わりに下記式(101)のように、画像の中心位置での強度補正係数作成用の第1の撮像信号I1(0,L/2,H/2)と強度補正係数作成用の第4の撮像信号I4(i,x,y)との比を第4の強度補正係数a4(x,y)とする。また、式(21)の代わりに下記式(102)のように、第4の強度補正係数a4(x,y)に設定値kab1を乗じた結果を第4の強度補正値b4(x,y)とする。また、式(25)のように、第4の撮像信号I4(x,y)に、第4の強度補正値b4(x,y)を乗じ補正してもよい。このことにより、撮像素子のばらつきや組み立てのばらつきにより第1の撮像信号I1と第4の撮像信号I4との強度レベルがばらついても、第1の撮像信号I1と第4の撮像信号I4の強度レベルを同等とし、より正しい視差を求め、この正しい視差に基づき画像合成するため、よりきれいな画像を合成することができる。
【0207】
a4(x,y)=I1(0,L/2,H/2)/I4(0,x,y) ・・・(101)
b4(x,y)=kab1*a4(x,y)・・・(102)
【0208】
なお、第1の撮像素子と第4の撮像素子のレベルを合わせるのみでも強度レベルを同等にする効果がある。すなわち、強度の分布が同等であり、平均的な強度レベルのみが異なる場合、強度レベルのみを補正しても、視差の精度が向上する。具体的には、第1の強度補正係数a1と第4の強度補正係数a4とを定数とし(x、yによって変化しない定数)、設定値kab1と設定値kab4とを同一とし、下記式(103)のように、第1の強度補正係数a1と第4の強度補正係数a4との比を、第4の撮像信号I4の平均値(avg(I4))と第4の撮像信号I1の平均値(avg(I1))との比としてもよい。このことにより、強度補正係数を定数にし、強度補正係数用メモリ137の容量を削減できるため、低コスト化できる。
【0209】
a1/a4=avg(I4)/avg(I1) ・・・(103)
【0210】
また、実施の形態2の撮像装置201は、各画素(x,y)ごとに歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成したが、近似式を用いてもよい。例えば、第1の歪曲補正係数として下記式(104)のようにx方向とy方向にべき数展開したものを乗じた近似式や下記式(105)のようなべき数展開した近似式を定め、ステップS2710において最小二乗法などで係数(p1x0、p1x1、p1x2、p1x3、p1xz、p1y0、p1y1、p1y2、p1y3、p1yz、あるいはp100、p110、p101、p120、p111、p102、p130、p121、p112、p103、p1xz、p1yz)を作成し、ステップS2720においてこれらの係数を歪曲補正係数用メモリ139に書き込んでも良い。また、ステップS1520において式(104)や(105)と各画素の座標(x,y)を用いて、第1の歪曲補正用座標(q1x(x,y),q1y(x,y))を作成してもよい。なお、式(104)および(105)において、記号「^」はべき乗を表す。また、第2の歪曲補正係数、第3の歪曲補正係数、第4の歪曲補正係数を第1の歪曲補正係数と同様に定め、ステップS1520において、式(104)や(105)と各画素の座標(x,y)を用いて、第1の歪曲補正用座標(q1x(x,y),q1y(x,y))と同様に第2の歪曲補正用座標(q2x(x,y),q2y(x,y))、第3の歪曲補正用座標(q3x(x,y),q3y(x,y))、および第4の歪曲補正用座標(q4x(x,y),q4y(x,y))を求めてもよい。
【0211】
[p1x0+p1x1*(x-p1xz)+p1x2*(x-p1xz)^2+p1x3*(x-p1xz)^3]
*[p1y0+p1y1*(y-p1yz)+p1y2*(y-p1yz)^2+p1y3*(y-p1yz)^3]
・・・(104)
p100+p110*(x-p1xz)+p101*(y-p1yz)
+p120*(x-p1xz)^2+p111*(x-p1xz)*(y-p1yz)+p102*(y-p1yz)^2
+p130*(x-p1xz)^3+p121*(x-p1xz)^2*(y-p1yz)
+p112*(x-p1xz)*(y-p1yz)^2+p103*(y-p1yz)^3 ・・・(105)
【0212】
また、実施の形態2において、撮像装置201は、十字が描画された原点補正用チャート206を撮影したが、原点補正用チャートはこれに限定されない。例えば、中心部に点が描画されたチャートを撮影し、点の座標を求めることにより原点補正係数を求めてもよい。また、円が描画されたチャートを撮影し、円の中心を求めることにより原点補正係数を求めてもよい。
【0213】
また、実施の形態2において、撮像装置201は、格子が描画された歪曲補正用チャート207を撮影したが、歪曲補正用チャートはこれに限定されない。図32(A)および(B)は、本発明の実施の形態2の変形に係る歪曲補正係数作成に使用する歪曲補正用チャートの外観図である。例えば、図32(A)のような、円が描画されたチャートを撮影し、円の歪みを求めることにより歪曲補正係数を求めてもよい。また、図32(B)のような千鳥状のチャートを撮影し、エッジを抽出し、エッジの交点を求めることにより歪曲補正係数を求めてもよい。
【0214】
また、実施の形態2の撮像装置201において、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4y、およびを歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)のみを作成したが、他の被写体を描画し、他の補正係数を作成してもよい。例えば、実施の形態2と同様に強度補正用チャート205を撮影し、黒点(撮像信号が常に約0となる場所)や白点(撮像信号が常に非常に大きい場所)のための補正係数を作成してもよい。また、γ補正するための補正係数を作成してもよい。さらに、歪曲補正用チャート207を撮影し、各撮像信号(第1の撮像信号I1、第2の撮像信号I2、第3の撮像信号I3、第4の撮像信号)の間の倍率の違い、回転の角度の違いを補正するための補正係数を作成してもよい。また、それらの複数を同時に測定できる画像を描画し複数の補正係数を作成してもよい。また、これらの複数の異なる被写体の撮影し撮像信号を保存し、その後、補正係数を順次作成してもよい。
【0215】
また、実施の形態2において、撮像素子123は、第1の撮像素子123a、第2の撮像素子123b、第3の撮像素子123c、および第4の撮像素子123dから構成され、撮像信号入力部133は、第1の撮像信号入力部133a、第2の撮像信号入力部133b、第3の撮像信号入力部133c、および第4の撮像信号入力部133dから構成された。しかし、撮像素子123を1つの撮像素子で構成し、この受光面上の異なる位置に第1〜第4のレンズ部113a〜113dによる4つの像を形成しても良い。また、撮像信号入力部133が1つの撮像素子123からの信号が入力される1つの撮像信号入力部から構成されてもよい。この場合、システム制御部231のメモリ上に置かれたデータにおいて、4つの領域を設定し、各領域に対応するデータを抽出することにより、第1の撮像信号I1、第2の撮像信号I2、第3の撮像信号I3、および第4の撮像信号I4とすればよい。また、製造工程で補正係数を作成するときは、上記の領域の設定を利用し、第1の撮像信号I1、第2の撮像信号I2、第3の撮像信号I3、および第4の撮像信号I4を作成し、撮像装置201の実動作時は、上記の領域の設定として、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yで補正した領域を利用し、第1の撮像信号I1、第2の撮像信号I2、第3の撮像信号I3、および第4の撮像信号I4を作成してもよい。
【0216】
なお、上記の説明では、撮影によって得られた撮像信号に対して各種の補正を行い、視差を補正した後、撮像信号から画像を合成する装置の構成および動作を例示したが、本発明の撮像装置は、被写体までの距離を検出する測距装置としての応用も可能である。すなわち、本発明の撮像装置は、上述のように得られた視差に基づいて距離を演算し、得られた距離を出力する装置としての実施も可能であり、測量装置や車間距離検出装置等としての実用化が考えられる。すなわち、式(1)を距離Aについて解くと、式(46)のように示される。したがって、ブロックBiにおける被写体の距離は、式(47)のように演算され、そのブロックBiに含まれる画素(x,y)における被写体の距離は、式(48)のように示され、システム制御部231のメモリ上に保存される。なお、単位は演算時に適宜変更されている。そして、この距離情報A(x,y)を入出力部136を介し、外部に出力すれば、測距装置として機能する撮像装置を実現できる。
【0217】
(実施の形態3)
前述の実施の形態2の撮像装置201は、3種類のチャートを撮影し3種類の補正係数を作成した。すなわち、強度補正用チャート205を撮影し強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を作成し、原点補正用チャート206を撮影し原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを作成し、歪曲補正用チャート207を撮影し歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成した。本発明の実施の形態3に係る撮像装置は、2種類のチャートを撮影し3種類の補正係数を作成する。すなわち、強度原点補正用チャートを撮影し強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)と原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yとを作成し、歪曲補正用チャート207を撮影し歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成する。そのため、実施の形態3の撮像装置は、製造工程における補正係数作成の時間を短縮できる。
【0218】
本発明の実施の形態3に係る撮像装置について、図面を参照しながら説明する。図33は、本発明の実施の形態3に係る撮像装置の構成を示す断面図である。図33において、撮像装置301は、レンズモジュール部110、および回路部320を有する。
【0219】
レンズモジュール部110は、鏡筒111、上部カバーガラス112、レンズ113、アクチュエータ固定部114、およびアクチュエータ可動部115を有する。回路部320は、基板121、パッケージ122、撮像素子123、パッケージカバーガラス124、およびシステムLSI(以下、SLSIと記す)325を有する。SLSI325以外の構成と動作は、実施の形態1と同様であり、同一の符号を付与し、説明を省略する。
【0220】
図34は、本発明の実施の形態3に係る撮像装置のブロック図である。SLSI325は、システム制御部331、撮像素子駆動部132、撮像信号入力部133、アクチュエータ操作量出力部134、画像処理部135、入出力部136、強度補正係数用メモリ137、原点補正係数用メモリ138、歪曲補正係数用メモリ139、強度補正係数作成部351、原点補正係数作成部352、および歪曲補正係数作成部253を有する。また、回路部320は、前述の構成に加えて、アンプ126を有する。
【0221】
撮像装置301を組み立て後、製造工程の中の完成品検査工程において、強度補正係数作成部351が、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を作成し、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を強度補正係数用メモリ137に書き込む。また、原点補正係数作成部352が、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを作成し、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを原点補正係数用メモリ138に書き込む。さらに、歪曲補正係数作成部253が、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成し、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を歪曲補正係数用メモリ139に書き込む。
【0222】
図35は、本発明の実施の形態3に係る補正係数の作成時の撮像装置などの外観図である。301は本発明の実施の形態3の撮像装置であり、302は補正係数作成用コントローラ、203はディスプレイ、および204は撮像装置用ケーブルである。補正係数作成用コントローラ302は、産業用コンピュータから構成され、撮像装置301とディスプレイ204とを協調制御し、撮像装置301に強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4y、および歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成させる。ディスプレイ203は、CRTディスプレイなどから構成され、補正係数作成用コントローラ202に制御され、撮像装置301と協調動作し、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4y、および歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)の作成に使用する画像(チャート)を描画する。撮像装置用ケーブル204は、USBケーブルなどから構成され、撮像装置301と補正係数作成用コントローラ302とを接続し、撮像装置301に電力を供給し、撮像装置301と補正係数作成用コントローラ302の通信を媒介する。
【0223】
次に、本発明の実施の形態3に係る撮像装置の動作を説明する。図36は、本発明の実施の形態3に係る強度補正係数作成と原点補正係数作成とに使用する強度原点補正用チャートの外観図である。図36のように、強度原点補正用チャート305は、白色均一の被写体に十字が描画されたものである。撮像装置301は、強度原点補正用チャート305に正対するように配置され、撮像装置301の複数のレンズの光軸の中心が、強度原点補正用チャートの十字の中心に一致するように配置される。原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yは、撮像信号の十字部の部分を利用し、実施の形態2と同様の方法で作成される。また、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)は、撮像信号の十字部以外の部分については実施の形態2と同様の方法で作成され、撮像信号の十字部分については十字部分以外の部分から補間し求める。
【0224】
また、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)は、実施の形態2と同様に歪曲補正用チャート207を撮影し、実施の形態2と同様の方法で作成される。
【0225】
図37は、本発明の実施の形態3に係る強度補正係数、原点補正係数、および歪曲補正係数の作成方法を示すフローチャートである。
【0226】
ステップS3000において、撮像装置301の複数のレンズ部の光軸の中心がディスプレイ203の描画領域の中心に一致するように、配置し、強度補正係数、原点補正係数、および歪曲補正係数の作成を開始する。次に、ステップS2110を実行する。
【0227】
ステップS2110において、撮像装置301と撮像装置用ケーブル204を接続する。このステップは、実施の形態2と同様であり、説明を省略する。次に、ステップS2120を実行する。
【0228】
ステップS2120において、補正係数作成用プログラムを撮像装置301へダウンロードする。このステップは、実施の形態2と同様であり、説明を省略する。次に、ステップS3210を実行する。
【0229】
ステップS3210において、補正係数作成用コントローラ302は、ディスプレイ203に、白色均一光を背景とし十字が配置された強度原点補正用チャート305(図36参照)を描画させる。ここで、ディスプレイ203の描画領域の中心、すなわち撮像装置301の複数のレンズ部の光軸の中心が十字の交点と一致するように、強度原点補正用チャート305を描画する。次に、ステップS3220を実行する。
【0230】
ステップS3220において、補正係数作成用コントローラ302は、撮像装置301に、撮影開始の指令を、撮像装置用ケーブル204を介し送信する。次に、ステップS3230を実行する。
【0231】
ステップS3230において、撮像装置301は、撮影を行う。ステップS3220の指令に反応し、撮像装置301は、このステップを実行する。この動作はステップS1200と同様であり説明を省略する。撮像信号は、強度原点補正係数作成用の第1の撮像信号I1(0,x,y)、第2の撮像信号I2(0,x,y)、第3の撮像信号I3(0,x,y)、および第4の撮像信号I4(0,x,y)として、システム制御部331のメモリに保存される。なお、このメモリとして、撮像装置301の通常使用時に動画を保存する領域などを利用する。次に、ステップS2410を実行する。
【0232】
ステップS2410において、補正係数作成用コントローラ202は、歪曲補正用チャート207を描画する。このステップは、実施の形態2と同様であり、説明を省略する。次に、ステップS2420を実行する。
【0233】
ステップS2420において、補正係数作成用コントローラ202は、撮像装置201に、撮影開始の指令を、撮像装置用ケーブル204を介し送信する。このステップは、実施の形態2と同様である。次に、ステップS2430を実行する。
【0234】
ステップS2430において、撮像装置301は、撮影を行う。このステップは、実施の形態2と同様であり、説明を省略する。次に、ステップS3510を実行する。
【0235】
ステップS3510において、強度補正係数作成部351は、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、およびa4(x,y)を作成する。強度補正係数作成部351は、強度原点補正用チャート305の十字が描画された以外の部分の画素について、下記式(106)のように、強度原点補正係数作成用の第1の撮像信号I1(0,x,y)の逆数を第1の補正係数a1(x,y)とする。同様に、強度補正係数作成部351は、下記式(107)のように強度原点補正係数作成用の第2の撮像信号I2(0p,x,y)の逆数の第2の補正係数a2(x,y)とし、下記式(108)のように強度原点補正係数作成用の第3の撮像信号I3(i,x,y)の逆数を第3の補正係数a3(x,y)とし、下記式(109)のように強度原点補正係数作成用の第4の撮像信号I4(i,x,y)の逆数を第4の補正係数a4(x,y)とする。次に、強度補正係数作成部351は、強度原点補正用チャート305の十字が描画された部分の画素について、十字が描画されていない最近隣の画素の強度補正係数を使用して補正係数を求める。すなわち、強度補正係数作成部351は、十字が描画された部分について、下記式(110)のように、画素(x,y)における第1の強度補正係数a1(x,y)を、十字が描画されない最近隣の画素(xn1(x,y),yn1(x,y))の第1の強度係数a1(xn1(x,y),yn1(x,y))とする。同様に、強度補正係数作成部351は、下記式(111)のように、画素(x,y)における第2の強度補正係数a2(x,y)を十字が描画されない最近隣の画素(xn2(x,y),yn2(x,y))の第2の強度係数a2(xn2(x,y),yn2(x,y))とする。また、強度補正係数作成部351は、下記式(112)のように、画素(x,y)における第3の強度補正係数a3(x,y)を、十字が描画されない最近隣の画素(xn3(x,y),yn3(x,y))の第3の強度係数a3(xn3(x,y),yn3(x,y))とする。また、強度補正係数作成部351は、下記式(113)のように、画素(x,y)における第4の強度補正係数a4(x,y)を、十字が描画されない最近隣の画素(xn4(x,y),yn4(x,y))の第4の強度係数a4(xn1(x,y),yn4(x,y))とする。なお、ステップS3230において複数回だけ撮影を行い、それらの画像を加算平均した画像を用いてもよい。この場合、平均化により、ランダムノイズなどの影響を低減できる。また、最近隣以外にも、上下の最近隣の2つの画素の係数を平均したものを利用したり、左右の最近隣の2つの画素の係数を平均したものを利用したり、上下左右の最近隣の4つの画素の係数を平均したものを利用したり、外挿により係数を予測したり、近似式を用いてもよい。次に、ステップS2520を実行する。
【0236】
a1(x,y)=1/I1(0,x,y) ・・・(106)
a2(x,y)=1/I2(0,x,y) ・・・(107)
a3(x,y)=1/I3(0,x,y) ・・・(108)
a4(x,y)=1/I4(0,x,y) ・・・(109)
a1(x,y)=a1(xn1(x,y),yn1(x,y)) ・・・(110)
a2(x,y)=a2(xn2(x,y),yn2(x,y)) ・・・(111)
a3(x,y)=a3(xn3(x,y),yn3(x,y)) ・・・(112)
a4(x,y)=a4(xn4(x,y),yn4(x,y)) ・・・(113)
【0237】
ステップS2520において、強度補正係数作成部351は、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、およびa4(x,y)を強度補正係数用メモリ137に書き込む。この強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、およびa4(x,y)は、S1300の強度補正において使用される。このステップは、実施の形態2と同様である。次に、ステップS3610を実行する。
【0238】
ステップS3610において、原点補正係数作成部352は、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを作成する。このステップは、実施の形態2と同様の方法で行うため、説明を省略する。ただし、撮像信号として、強度原点補正係数作成用の第1の撮像信号I1(0,x,y)、強度原点補正係数作成用の第2の撮像信号I2(0,x,y)、強度原点補正係数作成用の第3の撮像信号I3(0,x,y)、強度原点補正係数作成用の第4の撮像信号I4(0,x,y)を利用する。次に、ステップS2620を実行する。
【0239】
ステップS2620において、原点補正係数作成部352は、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを原点補正係数用メモリ138に書き込む。この原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yは、ステップS1400の原点補正において使用される。このステップは、実施の形態2と同様である。次に、ステップS2710を実行する。
【0240】
ステップS2710において、歪曲補正係数作成部253は、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成する。このステップは、実施の形態2と同様であり、説明を省略する。次に、ステップS2720を実行する。
【0241】
ステップS2720において、歪曲補正係数作成部253は、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を歪曲補正係数用メモリ139に書き込む。この歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)は、ステップS1500の歪曲補正において使用される。このステップは、実施の形態2と同様である。次に、ステップS2810を実行する。
【0242】
ステップS2810において、システム制御部331は、補正係数作成プログラムを消去する。このステップは、実施の形態2と同様であり、説明を省略する。次に、ステップS2820を実行する。
【0243】
ステップS2820において、撮像装置201から撮像装置用ケーブル204をはずす。このステップは、実施の形態2と同様であり、説明を省略する。次に、ステップS3900を実行する。
【0244】
ステップS3900において、強度補正係数、原点補正係数、および歪曲補正係数の作成を終了する。
【0245】
上記のように構成し動作させることにより、実施の形態2と同様の効果を有する。さらに、実施の形態3の撮像装置は、1種類の強度原点補正用チャート305の撮影により得られた同一の撮像信号を用いて、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)と原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yとを作成するため、製造工程における撮影回数を抑制し、製造工程のタクトを短縮することができる。
【0246】
なお、上記の説明では、撮影によって得られた撮像信号に対して各種の補正を行い、視差を補正した後、撮像信号から画像を合成する装置の構成および動作を例示したが、本発明の撮像装置は、被写体までの距離を検出する測距装置としての応用も可能である。すなわち、本発明の撮像装置は、上述のように得られた視差に基づいて距離を演算し、得られた距離を出力する装置としての実施も可能であり、測量装置や車間距離検出装置等としての実用化が考えられる。すなわち、式(1)を距離Aについて解くと、式(46)のように示される。したがって、ブロックBiにおける被写体の距離は、式(47)のように演算され、そのブロックBiに含まれる画素(x,y)における被写体の距離は、式(48)のように示され、システム制御部331のメモリ上に保存される。なお、単位は演算時に適宜変更されている。そして、この距離情報A(x,y)を入出力部136を介し、外部に出力すれば、測距装置として機能する撮像装置を実現できる。
【0247】
(実施の形態4)
上述した実施の形態2の撮像装置は、3種類のチャートを撮影し3種類の補正係数を作成する。すなわち、強度補正用チャート205を撮影し強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を作成し、原点補正用チャート206を撮影し原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを作成し、歪曲補正用チャート207を撮影し歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成する。これに対して、本発明の実施の形態4に係る撮像装置は、1種類のチャートを撮影し3種類の補正係数を作成する。すなわち、強度原点歪曲補正用チャートを撮影し、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)と原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yと歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)とを作成する。そのため、実施の形態4の撮像装置は、製造工程における補正係数作成の時間を短縮できる。
【0248】
本発明の実施の形態4に係る撮像装置について、図面を参照しながら説明する。図38は、本発明の実施の形態4に係る撮像装置の構成を示す断面図である。図38において、撮像装置401は、レンズモジュール部110、および回路部420を有する。
【0249】
レンズモジュール部110は、鏡筒111、上部カバーガラス112、レンズ113、アクチュエータ固定部114、およびアクチュエータ可動部115を有する。回路部420は、基板121、パッケージ122、撮像素子123、パッケージカバーガラス124、およびシステムLSI(以下、SLSIと記す)425を有する。SLSI425以外の構成と動作は、実施の形態1と同様であり、同一の符号を付与し、説明を省略する。
【0250】
図39は、本発明の実施の形態4に係る撮像装置のブロック図である。SLSI425は、システム制御部431、撮像素子駆動部132、撮像信号入力部133、アクチュエータ操作量出力部134、画像処理部135、入出力部136、強度補正係数用メモリ137、原点補正係数用メモリ138、歪曲補正係数用メモリ139、強度補正係数作成部451、原点補正係数作成部452、および歪曲補正係数作成部453を有する。また、回路部420は、前述の構成に加えて、アンプ126を有する。
【0251】
撮像装置401を組み立て後、製造工程の中の完成品検査工程において、以下のように構成し動作を行い、強度補正係数作成部451は、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を作成し、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を強度補正係数用メモリ137に書き込む。また、原点補正係数作成部452は、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを作成し、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを原点補正係数用メモリ138に書き込む。さらに、歪曲補正係数作成部453が、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成し、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を歪曲補正係数用メモリ139に書き込む。
【0252】
図40は、本発明の実施の形態4に係る補正係数の作成時の撮像装置などの外観図である。401は本発明の実施の形態4の撮像装置であり、402は補正係数作成用コントローラ、203はディスプレイ、および204は撮像装置用ケーブルである。補正係数作成用コントローラ302は、産業用コンピュータから構成され、撮像装置401とディスプレイ204とを協調制御し、撮像装置401に、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4y、および歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成させる。ディスプレイ203は、CRTディスプレイなどから構成され、補正係数作成用コントローラ402に制御され、撮像装置401と協調動作し、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4y、および歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)の作成に使用する画像(チャート)を描画する。撮像装置用ケーブル204は、USBケーブルなどから構成され、撮像装置401と補正係数作成用コントローラ402とを接続し、撮像装置401に電力を供給し、撮像装置401と補正係数作成用コントローラ402の通信を媒介する。
【0253】
次に、本発明の実施の形態4に係る撮像装置の動作を説明する。図41は、本発明の実施の形態4に係る強度補正係数作成と原点補正係数作成と歪曲補正係数作成とに使用する強度原点歪曲補正用チャートの外観図である。図41のように、強度原点歪曲補正用チャート405は、白色均一の被写体に格子が描画されたものである。撮像装置401は、強度原点歪曲補正用チャート405に正対するように配置され、撮像装置401の複数のレンズの光軸の中心が、強度原点歪曲補正用チャートの格子の中心に一致するように配置される。歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)は、撮像信号の格子の部分を利用し、実施の形態2と同様の方法で作成される。また、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yは、撮像信号の格子の中心の十字部の部分(図41において、405xと405yとで構成される十字)を利用し、実施の形態2と同様の方法で作成される。また、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)は、撮像信号の格子以外の部分については実施の形態2と同様の方法で作成され、撮像信号の格子部分については格子以外の部分から補間し求める。
【0254】
図42は、本発明の実施の形態4に係る強度補正係数、原点補正係数、および歪曲補正係数の作成方法を示すフローチャートである。
【0255】
ステップS4000において、撮像装置401の複数のレンズ部の光軸の中心がディスプレイの描画領域の中心に一致するように、配置し、強度補正係数、原点補正係数、および歪曲補正係数の作成を開始する。次に、ステップS2110を実行する。
【0256】
ステップS2110において、撮像装置401と撮像装置用ケーブル204を接続する。このステップは、実施の形態2と同様であり、説明を省略する。次に、ステップS2120を実行する。
【0257】
ステップS2120において、補正係数作成用プログラムを撮像装置401へダウンロードする。このステップは、実施の形態2と同様であり、説明を省略する。次に、ステップS4210を実行する。
【0258】
ステップS4210において、補正係数作成用コントローラ402は、ディスプレイ203に白色均一光を背景とし格子が配置された強度原点歪曲補正用チャート405を描画させる。ここで、ディスプレイ203の描画領域の中心、すなわち撮像装置401の複数のレンズ部の光軸の中心が格子の中心(図41における405xと405yとの交点)と一致するように、強度原点歪曲補正用チャート405を描画する。次に、ステップS4220を実行する。
【0259】
ステップS4220において、補正係数作成用コントローラ402は、撮像装置401に、撮影開始の指令を、撮像装置用ケーブル204を介し送信する。次に、ステップS4230を実行する。
【0260】
ステップS4230において、撮像装置401は、強度原点歪曲補正用チャート405の撮影を行う。ステップS4220の指令に反応し、撮像装置401は、このステップを実行する。この動作はステップS1200と同様であり説明を省略する。撮像信号は、強度原点歪曲補正用の第1の撮像信号I1(0,x,y)、第2の撮像信号I2(0,x,y)、第3の撮像信号I3(0,x,y)、および第4の撮像信号I4(0,x,y)として、システム制御部431のメモリに保存される。なお、このメモリとして、撮像装置401の通常使用時に動画を保存する領域などが利用される。次に、ステップS4510を実行する。
【0261】
ステップS4510において、強度補正係数作成部451は、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、およびa4(x,y)を作成する。十字が描画された以外の部分の画素について、強度補正係数作成部451は、下記式(114)のように、強度原点補正用の第1の撮像信号I1(0,x,y)の逆数を第1の補正係数a1(x,y)とする。同様に、強度補正係数作成部451は、下記式(115)のように強度原点補正用の第2の撮像信号I2(0p,x,y)の逆数の第2の補正係数a2(x,y)とし、下記式(116)のように強度原点補正用の第3の撮像信号I3(i,x,y)の逆数を第3の補正係数a3(x,y)とし、下記式(117)のように強度原点補正用の第4の撮像信号I4(i,x,y)の逆数を第4の補正係数a4(x,y)とする。次に、強度補正係数作成部451は、格子が描画された部分の画素について、格子が描画されていない最近隣の画素の強度補正係数を使用する。すなわち、格子が描画された部分の画素について、強度補正係数作成部451は、下記式(118)のように画素(x,y)における第1の強度補正係数a1(x,y)を、格子が描画されない最近隣の画素(xn1(x,y),yn1(x,y))の第1の強度係数a1(xn1(x,y),yn1(x,y))とする。同様に、強度補正係数作成部451は、下記式(119)のように画素(x,y)における第2の強度補正係数a2(x,y)を、格子が描画されない最近隣の画素(xn2(x,y),yn2(x,y))の第2の強度係数a2(xn2(x,y),yn2(x,y))とする。また、強度補正係数作成部451は、下記式(120)のように、画素(x,y)における第3の強度補正係数a3(x,y)を、格子が描画されない最近隣の画素(xn3(x,y),yn3(x,y))の第3の強度係数a3(xn3(x,y),yn3(x,y))とし、下記式(121)のように画素(x,y)における第4の強度補正係数a4(x,y)を、格子が描画されない最近隣の画素(xn4(x,y),yn4(x,y))の第4の強度係数a4(xn1(x,y),yn4(x,y))とする。なお、ステップS4230において複数回の撮影を行い、それらの画像を加算平均した画像を用いてもよい。この場合、平均化により、ランダムノイズなどの影響を低減できる。また、最近隣以外にも、上下の最近隣の2つの画素の係数を平均したものを利用したり、左右の最近隣の2つの画素の係数を平均したものを利用したり、上下左右の最近隣の4つの画素の係数を平均したものを利用したり、外挿により係数を予測したり、近似式を用いてもよい。次に、ステップS2520を実行する。
【0262】
a1(x,y)=1/I1(0,x,y) ・・・(114)
a2(x,y)=1/I2(0,x,y) ・・・(115)
a3(x,y)=1/I3(0,x,y) ・・・(116)
a4(x,y)=1/I4(0,x,y) ・・・(117)
a1(x,y)=a1(xn1(x,y),yn1(x,y)) ・・・(118)
a2(x,y)=a2(xn2(x,y),yn2(x,y)) ・・・(119)
a3(x,y)=a3(xn3(x,y),yn3(x,y)) ・・・(120)
a4(x,y)=a4(xn4(x,y),yn4(x,y)) ・・・(121)
【0263】
ステップS2520において、強度補正係数作成部451は、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、およびa4(x,y)を強度補正係数用メモリ137に書き込む。この強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、およびa4(x,y)は、S1300の強度補正において使用される。このステップは、実施の形態2と同様である。次に、ステップS4610を実行する。
【0264】
ステップS4610において、原点補正係数作成部452は、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを作成する。このステップは、実施の形態2と同様の方法で行うため、説明を省略する。ただし、原点補正係数作成部452は、撮像信号として、強度原点歪曲補正係数作成用の第1の撮像信号I1(0,x,y)、強度原点歪曲補正係数作成用の第2の撮像信号I2(0,x,y)、強度原点歪曲補正係数作成用の第3の撮像信号I3(0,x,y)、強度原点歪曲補正係数作成用の第4の撮像信号I4(0,x,y)を利用する。また、原点補正係数作成部452は、十字部として図41の405xと405yを利用する。次に、ステップS2620を実行する。
【0265】
ステップS2620において、原点補正係数作成部452は、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを原点補正係数用メモリ138に書き込む。この原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yは、ステップS1400の原点補正において使用される。このステップは、実施の形態2と同様である。次に、ステップS4710を実行する。
【0266】
ステップS4710において、歪曲補正係数作成部453は、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成する。このステップは、実施の形態2と同様であり、説明を省略する。ただし、歪曲補正係数作成部453は、撮像信号として、強度原点歪曲補正係数作成用の第1の撮像信号I1(0,x,y)、強度原点歪曲補正係数作成用の第2の撮像信号I2(0,x,y)、強度原点歪曲補正係数作成用の第3の撮像信号I3(0,x,y)、強度原点歪曲補正係数作成用の第4の撮像信号I4(0,x,y)を利用する。次に、ステップS2720を実行する。
【0267】
ステップS2720において、歪曲補正係数作成部453は、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を歪曲補正係数用メモリ139に書き込む。この歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)は、ステップS1500の歪曲補正において使用される。このステップは、実施の形態2と同様である。次に、ステップS2810を実行する。
【0268】
ステップS2810において、システム制御部431は、補正係数作成プログラムを消去する。このステップは、実施の形態2と同様であり、説明を省略する。次に、ステップS2820を実行する。
【0269】
ステップS2820において、撮像装置401から撮像装置用ケーブル204をはずす。このステップは、実施の形態2と同様であり、説明を省略する。次に、ステップS4900を実行する。
【0270】
ステップS4900において、強度補正係数、原点補正係数、および歪曲補正係数の作成を終了する。
【0271】
上記のように構成し動作させることにより、実施の形態2と同様の効果を有する。
【0272】
さらに、実施の形態4の撮像装置401は、1種類の強度原点歪曲補正用チャート405の撮影により得られた同一の撮像信号を用いて、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)と、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yと、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)とを作成するため、製造工程における撮影回数を抑制し、製造工程のタクトを短縮することができる。
【0273】
なお、上記の説明では、撮影によって得られた撮像信号に対して各種の補正を行い、視差を補正した後、撮像信号から画像を合成する装置の構成および動作を例示したが、本発明の撮像装置は、被写体までの距離を検出する測距装置としての応用も可能である。すなわち、本発明の撮像装置は、上述のように得られた視差に基づいて距離を演算し、得られた距離を出力する装置としての実施も可能であり、測量装置や車間距離検出装置等としての実用化が考えられる。すなわち、式(1)を距離Aについて解くと、式(46)のように示される。したがって、ブロックBiにおける被写体の距離は、式(47)のように演算され、そのブロックBiに含まれる画素(x,y)における被写体の距離は、式(48)のように示され、システム制御部431のメモリ上に保存される。なお、単位は演算時に適宜変更されている。そして、この距離情報A(x,y)を入出力部136を介し、外部に出力すれば、測距装置として機能する撮像装置を実現できる。
【0274】
(実施の形態5)
実施の形態1の撮像装置は、4つのレンズ部を有し、それぞれが単色の色を検知した。実施の形態5の撮像装置は、2つのレンズ部を有し、それぞれが全色を検知するものである。そして、実施の形態5の撮像装置は、画像情報のみならず、視差から演算された距離情報をも出力する。
【0275】
本発明の実施の形態5に係る撮像装置について、図面を参照しながら説明する。
【0276】
図43は、本発明の実施の形態5に係る撮像装置501の構成を示す断面図である。図43において、撮像装置501は、レンズモジュール部510、および回路部520を有する。
【0277】
レンズモジュール部510は、鏡筒511、上部カバーガラス512、レンズ513、アクチュエータ固定部514、およびアクチュエータ可動部515を有する。回路部520は、基板521、パッケージ522、撮像素子523、パッケージカバーガラス524、およびシステムLSI(以下、SLSIと記す)525を有する。
【0278】
鏡筒511は、円筒状であり、その内壁面は光の乱反射を防止するためにつやが消された黒色であり、樹脂を射出成形し形成される。上部カバーガラス512は、円盤状であり、透明樹脂から形成され、鏡筒511の上面に接着剤などにより固着され、その表面は摩擦などによる損傷を防止する保護膜と、入射光の反射を防止する反射防止膜とが設けられている。
【0279】
図44は、本発明の実施の形態5に係る撮像装置のレンズ513の上面図である。レンズ513は、略円盤状であり、ガラスや透明樹脂から形成され、第1のレンズ部513a、および第2のレンズ部513bが配置される。第1〜第2のレンズ部513a〜513bの配置方向に沿って、図44に示すようにX軸及びY軸を設定する。第1のレンズ部513a、および第2のレンズ部513bにおいて、それぞれの上部の湾曲部から入射した光は、それぞれの下部の湾曲部から射出し、撮像素子523上に2つの像を結像する。
【0280】
アクチュエータ固定部514は、鏡筒511の内壁面に接着剤などにより固着される。アクチュエータ可動部515は、レンズ513の外周縁に接着剤などにより固着される。アクチュエータ固定部514とアクチュエータ可動部515との詳細な構成は、それぞれ実施の形態1のアクチュエータ固定部114とアクチュエータ可動部115と同様であり、説明を省略する。
【0281】
基板521は、樹脂基板から構成され、上面に鏡筒511がその底面を接して接着剤などにより固着される。このようにして、レンズモジュール部510と回路部520とが固定され、撮像装置501を構成する。
【0282】
パッケージ522は、金属端子を有する樹脂からなり、鏡筒511の内側において、基板521の上面にその金属端子部が半田づけ等されて固着される。撮像素子523は、第1の撮像素子523a、および第2の撮像素子523bから構成される。第1の撮像素子523a、および第2の撮像素子523bは、それぞれCCDセンサやCMOSセンサのような固体撮像素子であり、これらの受光面の中心が、それぞれ第1のレンズ部513a、および第2のレンズ部513bの光軸中心と略一致するように、また各撮像素子の受光面が対応するレンズ部の光軸と略垂直になるようにして配置される。第1の撮像素子523a、および第2の撮像素子523bの各端子は、パッケージ522の内側の底部の金属端子にワイヤーボンディングにより金線527で接続され、基板521を介して、SLSI525と電気的に接続される。第1の撮像素子523a、および第2の撮像素子523bの各受光面に、第1のレンズ部513a、および第2のレンズ部513bから射出された光がそれぞれ結像し、フォトダイオードにより光の情報から変換された電気の情報が、SLSI525に出力される。
【0283】
図45は、本発明の実施の形態5に係る撮像装置の回路部520の上面図である。パッケージカバーガラス524は、平板状であり、透明樹脂により形成され、パッケージ522の上面に接着などにより固着される。パッケージカバーガラス524の上面には、遮光部524eが蒸着などにより配置される。
【0284】
したがって、第1のレンズ部513aの上部から入射した物体光は、第1のレンズ部513aの下部から射出され、カバーガラスの524a部を透過し、第1の撮像素子523aの受光部に結像する。また、第2のレンズ部513bの上部から入射した物体光は、第2のレンズ部513bの下部から射出され、カバーガラスの524b部を透過し、第2の撮像素子523bの受光部に結像する。
【0285】
SLSI525は、後述の方法で、アクチュエータ可動部515のコイルの通電を制御し、撮像素子523を駆動し、撮像素子523からの電気情報を入力し、各種画像処理を行い、上位CPUと通信を行い、外部に画像出力する。
【0286】
次に、被写体距離と視差との関係を説明する。本発明の実施の形態5に係るカメラモジュールは2つのレンズ部(第1のレンズ部513a、および第2のレンズ部513b)を有するため、実施の形態1で説明したように、2つのレンズ部がそれぞれ形成する2つの物体像の相対的位置が被写体距離に応じて変化する(式(1)を参照のこと)。
【0287】
次に、本発明の実施の形態5に係る撮像装置の動作を説明する。図46は、本発明の実施の形態5に係る撮像装置のブロック図である。SLSI525は、システム制御部531、撮像素子駆動部532、撮像信号入力部533、アクチュエータ操作量出力部534、画像処理部535、入出力部536、強度補正係数用メモリ537、原点補正係数用メモリ538、および歪曲補正用メモリ539を有する。また、回路部520は、前述の構成に加えてアンプ526を有する。アンプ526は、アクチュエータ操作量出力部534からの出力に応じた電圧をアクチュエータ可動部515のコイルに印加する。
【0288】
システム制御部531は、CPU、メモリなどから構成され、SLSI525の全体を制御する。
【0289】
撮像素子駆動部532は、ロジック回路などから構成され、撮像素子523を駆動する信号を発生し、この信号に応じた電圧を撮像素子523に印加する。
【0290】
撮像信号入力部533は、第1の撮像信号入力部533a、および第2の撮像信号入力部533bから構成される。第1の撮像信号入力部533a、および第2の撮像信号入力部533bは、それぞれCDS回路、AGC、ADCが直列に接続されて構成されている。第1の撮像信号入力部533a、および第2の撮像信号入力部533bは、それぞれ第1の撮像素子523a、および第2の撮像素子523bに接続され、これらからの電気信号が入力され、CDS回路により固定ノイズを除去し、AGCによりゲインを調整し、ADCによりアナログ信号からディジタル値に変換し、システム制御部531のメモリに書き込む。
【0291】
アクチュエータ操作量出力部534は、DACから構成され、アクチュエータ可動部515のコイルに印加すべき電圧に応じた電圧信号を出力する。
【0292】
画像処理部535は、ロジック回路、またはDSP、あるいは両者を含んで構成され、システム制御部531のメモリ情報を利用し、各種画像処理を行う。画像処理部535は、自動焦点制御部541、強度補正部542、原点補正部543、歪曲補正部544、および距離演算部545を有する。
【0293】
入出力部536は、上位CPU(図示せず)との通信や、上位CPU、外部メモリ(図示せず)、および液晶などの外部表示装置(図示せず)へ画像信号を出力する。
【0294】
強度補正係数用メモリ537は、フラッシュメモリやFeRAMなどのような不揮発性メモリから構成され、強度補正部542で使用する強度補正係数を保存する。原点補正係数用メモリ538は、フラッシュメモリやFeRAMなどのような不揮発性メモリから構成され、原点補正部543で使用する原点補正係数を保存する。歪曲補正係数用メモリ539は、フラッシュメモリやFeRAMなどのような不揮発性メモリから構成され、歪曲補正部544で使用する歪曲補正係数を保存する。
【0295】
図47は、本発明の実施の形態5に係る撮像装置の動作を示すフローチャートである。SLSI525のシステム制御部531により、撮像装置501は、このフローチャートとおりに動作される。
【0296】
ステップS5000において、動作を開始する。例えば、上位CPU(図示せず)がシャッターボタン(図示せず)などが押されたことを検知し、入出力部536を介し、撮像装置501に動作の開始を命令することにより、撮像装置501は、動作を開始する。次に、ステップS5100を実行する。
【0297】
ステップS5100において、自動焦点制御部541は、自動焦点制御を実行する。このステップは、実施の形態1と同様であり、説明を省略する。次に、ステップS5200を実行する。
【0298】
ステップS5200において、画像を入力する。システム制御部531の命令により、撮像素子駆動部532が電子シャッターや転送を行うための信号を随時出力する。第1の撮像信号入力部533a、および第2の撮像信号入力533bは、撮像素子駆動部532が発生する信号に同期して、第1の撮像素子523a、および第2の撮像素子523bが出力する各画像のアナログ信号である撮像信号を入力し、CDSにより固定ノイズを除去し、AGCにより自動的に入力ゲインを調整し、ADCによりアナログ信号をディジタル値に変換し、第1の撮像信号I1(x,y)、および第2の撮像信号I2(x,y)として、システム制御部531の所定アドレスのメモリにディジタル値を書き込む。図13のように、I1(x,y)は、水平方向にx番目、垂直方向にy番目の画素の第1の撮像信号であることを示す。入力される画像の縦方向の画素数がH、横方向の画素数がLであり、総画素数はH×Lであり、xは0からL−1まで変化し、yは0からH−1まで変化する。第2の撮像信号I2(x,y)も同様に、ぞれぞれ水平方向にx番目、垂直方向にy番目の第2の撮像信号であることを示す。入力される画像の縦方向の画素数がH、横方向の画素数がLであり、それぞれの総画素数はH×Lであり、xは0からL−1まで変化し、yは0からH−1まで変化する。次に、ステップS5300を実行する。
【0299】
ステップS5300において、強度補正部542は、強度補正係数用メモリ537に保存された強度補正係数を用いて、第1の撮像信号I1、第2の撮像信号I2を補正する。そして、その結果をシステム制御部531のメモリに書き込む。このステップは、第1の実施の形態のステップS1300と同様であり、説明を省略する。ただし、第1の実施の形態で使用した第3の撮像信号I3、第4の撮像信号I4、第3の強度補正係数a3(x,y)、第4の強度補正係数a4(x,y)を使用しないなど、若干の変更を要する。次に、ステップS5400を実行する。
【0300】
ステップS5400において、原点補正部543は、原点補正係数用メモリ538に保存された原点補正係数を用いて第1の撮像信号I1、および第2の撮像信号I2を補正する。そして、その結果をシステム制御部531のメモリに書き込む。このステップは、第1の実施の形態のステップS1400と同様であり、説明を省略する。ただし、第1の実施の形態で使用した第3の撮像信号I3、第4の撮像信号I4、第3の原点補正係数g3x、g3y、第4の強度補正係数g4x、g4yを使用しないなど、若干の変更を要する。次に、ステップS5500を実行する。
【0301】
ステップS5500において、歪曲補正部544は、歪曲補正係数用メモリ539に保存された歪曲補正係数を用いて第1の撮像信号I1、および第2の撮像信号I2を補正する。そして、その結果をシステム制御部531のメモリに書き込む。このステップは、実施の形態1のステップS1500と同様であり、説明を省略する。ただし、第1の実施の形態で使用した第3の撮像信号I3、第4の撮像信号I4、第3の歪曲補正係数p3x(x,y)、p3y(x,y)、第4の歪曲補正係数p4x(x,y)、p4y(x,y)を使用しないなど、若干の変更を要する。次に、ステップS5600を実行する。
【0302】
ステップS5600において、距離演算部545が、距離演算を実行する。図48は、本発明の実施の形態5に係る距離演算の動作を示すフローチャートである。図48のフローチャートは、ステップS5600の動作の詳細を示す。
【0303】
まず、ステップS5620において、距離演算部545は、ブロック分割を行う。このステップは、実施の形態1のステップS1620と同様であり、説明を省略する。次に、ステップS5630を実行する。
【0304】
ステップS5630において、距離演算部545は、各ブロック毎の視差値を演算する。まず、各ブロック(B0、B1、…、Bi、…、BMN-1)毎に、視差評価値(R0(k)、R1(k)、…、Ri(k)、…、RMN-1(k)。k=0、1、…、kmax)を演算する。図49は、本発明の実施の形態5に係る撮像装置において、視差評価値の演算領域を説明する図である。Biで示される(I1としても示されている)領域は、第1の撮像信号I1からステップS5620で求められたi番目のブロックである。I2で示される領域は、Biをx方向にkだけ移動した領域である。そして、それぞれの領域の全画像信号I1(x,y)、I2(x+k,y)について、下記式(122)に示される絶対値差分総和を視差評価値Ri(k)として演算する。ここで、ΣΣは、ブロックBi内の全ての画素の総和を示す。
【0305】
Ri(k)=ΣΣ|I1(x,y)-I2(x+k,y)| ・・・(122)
【0306】
この視差評価値Ri(k)は、i番目のブロックBiの第1の画像信号I1と、x方向にkだけ離れた領域における第2の画像信号I2がどれだけ相関があるかを示し、値が小さいほど相関が大きい(よく似ている)ことを示す。図20のように、視差評価値Ri(k)はkの値によって変化し、k=Δiのとき極小値を持つ。これは、第1の画像信号I1のi番目のブロックBiをx、y方向にそれぞれ(Δi、0)だけ移動させて得られる画像信号は、第2の画像信号I2と最も相関がある(最も似ている)ことを示す。したがって、i番目のブロックBiについての第1の撮像信号I1と第2の撮像信号I2とのx、y方向の視差が(Δi、0)であることが分かる。以下、このΔiを、i番目のブロックBiの視差値Δiと呼ぶ。このように、i=0からi=M×N−1までBiの視差値Δiを求める。次に、ステップS5640を実行する。
【0307】
ステップS5640において、距離演算部545は、距離演算を行う。式(1)を距離Aについて解くと、下記式(123)のように示される。したがって、ブロックBiにおける被写体の距離は、下記式(124)のように演算され、そのブロックBiに含まれる画素(x,y)における被写体の距離は、下記式(125)のように求められる。求められた距離は、システム制御部531のメモリ上に保存される。なお、単位は演算時に適宜変更されている。次に、ステップS5650を実行する。
【0308】
A = f*D/Δ ・・・(123)
Ai = f*D/Δi ・・・(124)
A(x,y)= Ai ((x,y)はBiに含まれる) ・・・(125)
【0309】
ステップS5650において、距離演算を終了し、メインルーチンへ戻る。従って、次に、図47のステップS5700を実行する。
【0310】
ステップS5700において、入出力部536が結果を出力する。入出力部536は、システム制御部531のメモリ上のデータであるI1(x,y),A(x,y)を、上位CPU(図示せず)や外部表示装置(図示せず)に出力する。次に、S5800を実行する。
【0311】
ステップS5800において、動作を終了する。
【0312】
以上のように撮像装置501を構成し、動作させることにより、以下の効果を有する。
【0313】
実施の形態5の係る撮像装置501は、ステップS5300において強度補正係数a1、a2に基づき、撮像領域の位置(x,y)により補正の度合が変化する強度補正値b1(x,y)、b2(x,y)を作成し、撮像信号I1(x,y)、I2(x,y)を補正し、光量分布の偏りを補償する。また、撮像装置501は、ステップS5620において第1の撮像信号I1を複数のブロックに分割し、ステップS5630において補正された撮像信号I1(x,y)、I2(x,y)に基づきブロック毎に視差を求める。また、撮像装置501は、ステップS5640においてこの視差に基づきブロック毎に距離演算する。このように、撮像装置501は、光量分布の偏りを補償し、正しい視差を求め、この正しい視差に基づき距離演算するため、正しい距離を作成することができる。
【0314】
また、実施の形態5に係る撮像装置501は、原点補正用係数用メモリ538に原点補正係数g1x、g2x、g1y、g2yを保存し、ステップS5400において原点補正係数g1x、g2x、g1y、g2yに基づき、撮像信号I1(x,y)、I2(x,y)の原点を補正する。また、撮像装置501は、ステップS5630において補正された撮像信号I1(x,y)、I2(x,y)に基づきブロック毎に視差を求める。さらに、撮像装置501は、ステップS5640においてこの視差に基づきブロック毎に距離を演算する。このように、撮像装置501は、正しい視差を求め、この正しい視差に基づき距離を演算するため、正しい距離を作成することができる。
【0315】
また、実施の形態5に係る撮像装置501は、歪曲補正係数p1x(x,y)、p2x(x,y)、p1y(x,y)、p2y(x,y)を保存し、ステップS5520において歪曲補正係数p1x(x,y)、p2x(x,y)、p1y(x,y)、p2y(x,y)に基づき、歪曲補正用座標q1x(x,y)、q2x(x,y)、q1y(x,y)、q2y(x,y)を演算する。さらに、撮像装置501は、ステップS5530において歪曲補正用座標q1x(x,y)、q2x(x,y)、q1y(x,y)、q2y(x,y)において複数のレンズ部の歪曲の影響を低減するように撮像信号I1(x,y)、I2(x,y)を補正し、ステップS5630において補正された撮像信号I1(x,y)、I2(x,y)に基づきブロック毎に視差を求める。また、撮像装置501は、ステップS5640においてこの視差に基づき距離を演算する。このように、撮像装置501は、正しい視差を求め、この正しい視差に基づき距離を演算するため、正しい距離を作成することができる。
【0316】
なお、実施の形態5の撮像装置は、白黒の撮像素子を利用したが、ベイヤー配列の撮像素子を利用してもよい。その場合、例えば、カラー画像から輝度を演算し、この輝度に対し、強度補正、原点補正、歪曲補正を施し、視差を演算し、距離を演算するなどの若干の変更を要する。
【0317】
なお、実施の形態1から実施の形態5において、ブロックを矩形状に分割したが、これに限定されない。例えば、エッジを検出し、エッジに基づき非矩形状のブロックに分割してもよい。また、ブロック毎の領域の視差を求めずに、エッジを複数の線分に分割し、この線分の視差を求めてもよい。また、あるブロックにおいて求められた視差を評価し、ブロックを分割したり結合したりしてもよい。
【0318】
また、実施の形態1から実施の形態5において、焦点制御を省略し、アクチュエータを構成に含まなくてもよい。非常に焦点深度が深いレンズを利用した場合は、レンズと撮像素子の距離の誤差が大きく許容されるため、アクチュエータを動作させる必要がない。
【産業上の利用可能性】
【0319】
本発明の撮像装置は、小型化、薄型化が可能な撮像装置であるため、カメラ機能を備えた携帯電話、ディジタルスチルカメラ、監視用カメラ、および車載用カメラ、または測距装置などに有用である。
【図面の簡単な説明】
【図1】図1は、本発明の実施の形態1に係る撮像装置の構成を示す断面図
【図2】図2は、本発明の実施の形態1に係る撮像装置のレンズの上面図
【図3】図3は、本発明の実施の形態1に係る撮像装置の回路部の上面図
【図4】図4は、本発明の実施の形態1に係る撮像装置のカラーフィルタの特性図
【図5】図5は、本発明の実施の形態1に係る撮像装置のIRフィルタの特性図
【図6】図6は、本発明の実施の形態1に係る撮像装置において、無限遠にある物体像の位置を説明するための図
【図7】図7は、本発明の実施の形態1に係る撮像装置において、有限距離の位置にある物体像の位置を説明するための図
【図8】(A)は本発明の実施の形態1に係る撮像装置において、合焦時の画像とコントラスト評価値の関係を説明する図、(B)は本発明の実施の形態1に係る撮像装置において、非合焦時の画像とコントラスト評価値の関係を説明する図
【図9】図9は、本発明の実施の形態1に係る撮像装置のレンズ位置とコントラスト評価値の関係を説明する図
【図10】図10は、本発明の実施の形態1に係る撮像装置のブロック図
【図11】図11は、本発明の実施の形態1に係る撮像装置の動作を示すフローチャート
【図12】図12は、本発明の実施の形態1に係る自動焦点制御の動作を示すフローチャート
【図13】図13は、本発明の実施の形態1に係る撮像装置の撮像信号の座標を説明する図
【図14】図14は、本発明の実施の形態1に係る強度補正の動作を示すフローチャート
【図15】図15は、本発明の実施の形態1に係る歪曲補正係数を説明する図
【図16】図16は、本発明の実施の形態1に係る歪曲補正の動作を示すフローチャート
【図17】図17は、本発明の実施の形態1に係る視差補正の動作を示すフローチャート
【図18】図18は、本発明の実施の形態1に係る撮像装置において、ブロック分割を説明する図
【図19】図19は、本発明の実施の形態1に係る撮像装置において、視差評価値の演算領域を説明する図
【図20】図20は、本発明の実施の形態1に係る撮像装置の視差と視差評価値との関係を説明する図
【図21】図21は、本発明の実施の形態2に係る撮像装置の構成を示す断面図
【図22】図22は、本発明の実施の形態2に係る撮像装置のブロック図
【図23】図23は、本発明の実施の形態2に係る補正係数の作成時の撮像装置などの外観図
【図24】図24は、本発明の実施の形態2に係る強度補正係数作成に使用する強度補正用チャートの外観図
【図25】図25は、本発明の実施の形態2に係る撮像装置の撮像信号と強度補正係数と補正後の撮像信号とを示す波形図
【図26】図26は、本発明の実施の形態2に係る原点補正係数作成に使用する原点補正用チャートの外観図
【図27】図27は、本発明の実施の形態2に係る原点補正用チャートを撮影時の撮像信号を示す図
【図28】図28は、本発明の実施の形態2に係る歪曲補正係数作成に使用する歪曲補正用チャートの外観図
【図29】図29は、本発明の実施の形態2に係る歪曲補正用チャートを撮影時の撮像信号を示す図
【図30】図30は、本発明の実施の形態2に係る強度補正係数、原点補正係数、および歪曲補正係数の作成方法を示すフローチャート
【図31】図31は、歪曲補正係数を線形補間より作成する際に参照する座標を示す図
【図32】図32は、本発明の実施の形態2の変形例において、歪曲補正係数作成に使用する歪曲補正用チャートの外観図
【図33】図33は、本発明の実施の形態3に係る撮像装置の構成を示す断面図
【図34】図34は、本発明の実施の形態3に係る撮像装置のブロック図
【図35】図35は、本発明の実施の形態3に係る補正係数の作成時の撮像装置などの外観図
【図36】図36は、本発明の実施の形態3に係る強度補正係数作成と原点補正係数作成とに使用する強度原点補正用チャートの外観図
【図37】図37は、本発明の実施の形態3に係る強度補正係数、原点補正係数、および歪曲補正係数の作成方法を示すフローチャート
【図38】図38は、本発明の実施の形態4に係る撮像装置の構成を示す断面図
【図39】図39は、本発明の実施の形態4に係る撮像装置のブロック図
【図40】図40は、本発明の実施の形態4に係る補正係数の作成時の撮像装置などの外観図
【図41】図41は、本発明の実施の形態4に係る強度補正係数作成と原点補正係数作成と歪曲補正係数作成とに使用する強度原点歪曲補正用チャートの外観図
【図42】図42は、本発明の実施の形態4に係る強度補正係数、原点補正係数、および歪曲補正係数の作成方法を示すフローチャート
【図43】図43は、本発明の実施の形態5に係る撮像装置の構成を示す断面図
【図44】図44は、本発明の実施の形態5に係る撮像装置のレンズの上面図
【図45】図45は、本発明の実施の形態5に係る撮像装置の回路部の上面図
【図46】図46は、本発明の実施の形態5に係る撮像装置のブロック図
【図47】図47は、本発明の実施の形態5に係る撮像装置の動作を示すフローチャート
【図48】図48は、本発明の実施の形態5に係る距離演算の動作を示すフローチャート
【図49】図49は、本発明の実施の形態5に係る撮像装置において、視差評価値の演算領域を説明する図
【図50】図50は、従来の撮像装置の構成を示す断面図
【図51】図51は、絞りとレンズ部と周辺光量の関係を説明する図
【図52】図52は、緑色成分と赤色成分と青色成分の光量分布を示す図
【発明の名称】 撮像装置およびその製造方法
【技術分野】
【0001】
本発明は、小型、薄型の撮像装置とその製造方法に関する。
【背景技術】
【0002】
従来の撮像装置として、例えば特開2001−78213号公報に開示された撮像装置がある。図50は、従来の撮像装置の構成を示す断面図である。
【0003】
図50において、撮像系9010は、物体からの光を絞り9110及び撮像レンズ9100を介して撮像素子9120の撮像面に結像する光学処理系である。絞り9110は、3つの円形開口9110a、9110b、9110cを有する。開口9110a、9110b、9110cの各々から撮像レンズ9100の光入射面9100eに入射した物体光は、撮像レンズ9100の3つのレンズ部9100a、9100b、9100cから射出して撮像素子9120の撮像面上に3つの物体像を形成する。撮像レンズ9100の平面部9100dには遮光性膜が形成されている。撮像レンズ9100の光入射面9100e上には互いに異なる波長帯域の光を透過させる3つの光学フィルタ9052a、9052b、9052cが形成されている。また、撮像素子9120上の3つの撮像領域9120a、9120b、9120c上にも、互いに異なる波長帯域の光を透過させる3つの光学フィルタ9053a、9053b、9053cが形成されている。光学フィルタ9052aと光学フィルタ9053aは、主に緑色(Gで示す)を透過する分光透過率特性を有し、光学フィルタ9052bと光学フィルタ9053bは、主に赤色(Rで示す)を透過する分光透過率特性を有し、さらに、光学フィルタ9052cと光学フィルタ9053cは、主に青色(Bで示す)を透過する分光透過率特性を有する。そのため、撮像領域9120aは緑色光(G)に対して、撮像領域9120bは赤色光(R)に対して、撮像領域9120cは青色光(B)に対して、それぞれ感度を持つ。
【0004】
このような複数の撮像レンズを備えた撮像装置では、カメラモジュールから物体までの距離が変化すると、撮像素子9120の撮像面上に複数の撮像レンズがそれぞれ形成する複数の物体像の相互間隔が変化する。
【0005】
上記の従来のカメラモジュールでは、仮想被写体距離D[m]を複数の結像系の撮影画角θ[°]の関数として、D=1.4/(tan(θ/2))と定義したとき、物体が仮想被写体距離D[m]にあるときの複数の物体像の相互間隔と無限遠にあるときの複数の物体像の相互間隔との変化が、基準画像信号の画素ピッチの2倍よりも小さくなるように、複数の結像系の光軸間隔が設定されている。すなわち、仮想被写体距離D[m]にある物体の撮影に最適化された画像処理と同一の画像処理を、無限遠にある物体の撮影に対して行っても、撮像面上での両物体像の相互間隔の差が基準信号の画素ピッチの2倍より小さくなるように光軸間隔が設定されているので、無限遠にある物体像の色ズレを許容可能なレベルに抑えることができる。
【特許文献1】特開2001−78213号公報
【発明の開示】
【発明が解決しようとする課題】
【0006】
従来の撮像装置において、撮像レンズ9100の3つのレンズ部9100a、9100b、9100cの光軸は、それぞれ絞り9110の3つの円形開口9110a、9110b、9110cの中心、および撮像領域9120a、9120b、9120cの中心を通るように配置される。しかしながら、部品精度のばらつき、組み立てのばらつきなどにより、撮像レンズ9100の3つのレンズ部9100a、9100b、9100cの光軸は、それぞれ絞り9110の3つの円形開口9110a、9110b、9110cの中心からずれることがある。レンズの固有の特性として、撮像素子9120の撮像面において、中心部と比較し周辺部は光量(周辺光量)が減少するが、撮像レンズ9100の3つのレンズ部9100a、9100b、9100cの光軸と絞り9110の3つの円形開口9110a、9110b、9110cの中心とがそれぞれ異なる方向にずれるとき、周辺光量の減少度合がそれぞれ異なる。
【0007】
図51は、絞りとレンズ部と周辺光量の関係を説明する図である。図51において、簡単のため、レンズ9100、絞り9110、および撮像素子9120のみが示されている。また、G,R,Bで示される曲線は、それぞれ緑色、赤色、青色の光量の大きさを示す。ここで、図51に示すとおり、紙面の上向きをy方向の正の向きとする。図51のように、円形開口9110bの中心がレンズ部9100bの光軸と一致するとき、撮像素子9120の撮像面において、周辺光量はy方向の正負の向きに対称に減少する(Rで示した曲線分布になる)。そのため、赤色の光量分布は、y方向に関して正負対称である。しかし、レンズ9100や絞り9110の加工精度のばらつきなどにより、円形開口9110aの中心がレンズ部9100aの光軸よりy方向で負の向きにずれるとき、撮像素子9120の撮像面において、周辺光量はy方向に負向きの減少度合が大きい(Gで示した曲線分布になる)。そのため、緑色の光量分布は、y方向に関して正向きが大きい。一方、レンズ9100や絞り9110の加工精度のばらつきなどにより、円形開口9110cの中心がレンズ部9100cの光軸よりy方向で正の向きにずれるとき、撮像素子9120の撮像面において、周辺光量はy方向に正向きの減少度合が大きい(Bで示した曲線分布になる)。そのため、青色の光量分布は、y方向に関して負向きが大きい。なお、図51のようなばらつきは、絞り9110とレンズ9100とが樹脂から構成され、熱成形により作成されるとき、組成違いによる熱膨張率の違いから、発生する可能性を有する。
【0008】
図52は、緑色成分と赤色成分と青色成分の光量分布を示す図である。横軸はy軸を示し、縦軸は光量の大きさを示す。上述のようなばらつきを持つとき、例えば灰色の被写体を撮影し画像合成した場合、図52のように、赤色の光量分布(Rで示した曲線)は、y方向に関して正負対称であり、緑色の光量分布(Gで示した曲線)は、y方向に関して正向きが大きく、青色の光量分布(Bで示した曲線)は、y方向に関して負向きが大きいため、y方向の中央部が赤色に、正の位置が緑色に、負の位置が青色になるというように、実際の被写体の色(この例では灰色)以外の色(偽色)が発生する。すなわち、複数のレンズ部を持ち、それぞれのレンズ部に対応する撮像領域において、被写体の赤色光、緑色光、青色光を独立に受光する従来の撮像装置は、光量分布に偏りがあるとき、赤色光、緑色光、青色光が異なる光量となるため、偽色が発生する。
【0009】
このように、部品精度のばらつき、組み立てのばらつきなどにより、撮像レンズ9100の3つのレンズ部9100a、9100b、9100cの光軸が、それぞれ絞り9110の3つの円形開口9110a、9110b、9110cの中心からずれると偽色が発生する。
【0010】
なお、1つのレンズ部と1つの撮像領域から構成され、撮像領域にベイヤー配列のカラーフィルタが配置された撮像素子(例えば、撮像素子がCCDであり、撮像素子の表面に赤色、緑色、青色の3つの異なるカラーフィルタが格子状に配置され、そのカラーフィルタがそれぞれ1つのフォトダイオードに対応するもの)を有する撮像装置では上記の問題は発生しない。すなわち、上述のような部品精度のばらつき、組み立てのばらつきなどにより、レンズ部が絞りの中心からずれ、光量が偏っても、赤色、緑色、青色のカラーフィルタは互いに格子状に近接して配置され、被写体の赤色光、緑色光、青色光をそれぞれ近接した撮像領域で受光するため、赤色光、緑色光、青色光が同様の光量分布となるため、偽色が発生しない。しかし、このような1つのレンズ部と1つの撮像素子から構成された撮像装置は、光学長が長いため、小型化、薄型化できない。
【0011】
本発明は、上記問題に鑑みなされたもので、部品精度のばらつきや組み立てのばらつきがあっても、各色光が同様の光量分布を有する撮像信号を得られる小型、薄型の撮像装置を提供することを目的とする。
【課題を解決するための手段】
【0012】
本発明の撮像装置は、それぞれが少なくとも1枚のレンズを含む複数のレンズ部と、前記複数のレンズ部に一対一に対応し、対応する前記レンズ部の光軸方向に対して略垂直な受光面をそれぞれ備える複数の撮像領域と、前記複数の撮像領域からそれぞれ出力される複数の撮像信号が入力される撮像信号入力部と、前記撮像領域の強度むらの情報である強度補正係数を保存する強度補正係数保存部と、前記強度補正係数を用いて、前記撮像領域の強度むらの影響を低減するように前記複数の撮像信号のそれぞれの強度を補正する強度補正部とを有する。
【発明の効果】
【0013】
本発明は、部品精度のばらつきや組み立てのばらつきがあっても、各色光が同様の光量分布を有する撮像信号を得られる小型、薄型の撮像装置を提供することができる。
【発明を実施するための最良の形態】
【0014】
本発明の撮像装置は、それぞれが少なくとも1枚のレンズを含む複数のレンズ部と、前記複数のレンズ部に一対一に対応し、対応する前記レンズ部の光軸方向に対して略垂直な受光面をそれぞれ備える複数の撮像領域と、前記複数の撮像領域からそれぞれ出力される複数の撮像信号が入力される撮像信号入力部と、前記撮像領域の強度むらの情報である強度補正係数を保存する強度補正係数保存部と、前記強度補正係数を用いて、前記撮像領域の強度むらの影響を低減するように前記複数の撮像信号のそれぞれの強度を補正する強度補正部とを有する。
【0015】
部品精度のばらつきや組み立てのばらつきがあると、各色によって光軸中心に対し光量分布が偏り、偽色が発生する。本発明の撮像装置によれば、強度補正係数を保存し、強度補正係数に基づき、撮像領域の強度むらの影響を低減するように撮像信号の強度を補正することにより、光量分布の偏りを補償できる、これにより、補正後の撮像信号から例えば画像を合成する場合に、偽色の発生を抑制し、きれいな画像を合成することができる。
【0016】
上記の撮像装置において、前記複数の撮像領域のうち少なくとも2つの前記撮像領域に対する入射光の光路上に、第1の波長を略中心とする透過特性を有する光学素子をさらに備え、その他の撮像領域に対する入射光の光路上に、前記第1の波長と異なる波長を略中心とする透過特性を有する光学素子をさらに備えたことが好ましい。さらに、前記強度補正部は、前記複数の撮像領域のうち、少なくとも前記第1の波長を略中心とする透過特性を有する光学素子を透過した光線を受光する撮像領域に対応した前記撮像信号の強度を補正することが好ましい。なお、前記第1の波長は、例えば、人間の視覚に略緑として認識される波長であることが好ましい。
【0017】
上記の撮像装置において、前記強度補正部により強度を補正された撮像信号に基づき、前記複数のレンズ部がそれぞれ形成する像間の視差を求める視差演算部と、前記視差に基づいて前記複数の撮像信号を補正し画像を合成する視差補正部とをさらに有することが好ましい。
【0018】
部品精度のばらつきや組み立てのばらつきがあると、各色によって光軸中心に対し光量分布が偏り、視差を正しく求められない。この好ましい構成によれば、撮像信号の強度を補正して光量分布の偏りを補償し、補正された撮像信号に基づき視差を求めるため、正しい視差を求めることができる。また、正しい視差に基づき視差の影響を低減するように画像合成するため、きれいな画像を合成することができる。
【0019】
あるいは、上記の撮像装置において、前記強度補正部により強度を補正された撮像信号に基づき、前記複数のレンズ部がそれぞれ形成する像間の視差を求める視差演算部と、前記視差に基づいて被写体に対する距離を求める距離演算部とをさらに有することが好ましい。
【0020】
部品精度のばらつきや組み立てのばらつきがあると、各色によって光軸中心に対し光量分布が偏り、視差を正しく求められない。この好ましい構成によれば、撮像信号の強度を補正して光量分布の偏りを補償し、補正された撮像信号に基づき視差を求めるため、正しい視差を求めることができる。また、正しい視差に基づいて、被写体に対する距離を正しく求めることができる。
【0021】
上記の撮像装置において、前記複数の撮像信号のうちの少なくとも1つの撮像信号を複数のブロックに分割するブロック分割部をさらに有し、前記視差演算部は、前記ブロックごとに前記複数のレンズ部がそれぞれ形成する像間の視差を演算することが好ましい。
【0022】
この構成によれば、複数の撮像信号のうちの少なくとも1つの撮像信号を複数のブロックに分割し、同一波長特性の透過特性素子を透過した光線を受光する少なくとも2つの撮像領域に対応した撮像信号の強度を補正し、光量分布の偏りを補償し、補正された撮像信号に基づきブロック毎に正しい視差を求めることができる。また、この正しい視差に基づきブロック毎に視差の影響を低減するように画像合成するため、きれいな画像を合成することができる。あるいは、この正しい視差に基づき被写体に対する距離を正しく求めることができる。
【0023】
上記の撮像装置において、前記複数のレンズ部の光軸の原点と撮像信号の原点との対応に関する情報である原点補正係数を保存する原点補正係数保存部と、
前記原点補正係数に基づき前記複数の撮像信号のそれぞれの原点を補正する原点補正部とをさらに有することが好ましい。
【0024】
上記の撮像装置において、前記レンズ部の歪曲の情報である歪曲補正係数を保存する歪曲補正係数保存部と、前記歪曲補正係数に基づき前記複数のレンズ部の歪曲の影響を低減するように前記複数の撮像信号のそれぞれを補正する歪曲補正部とをさらに有することが好ましい。
【0025】
上記の撮像装置において、前記強度補正部が、前記複数の撮像信号を、強度レベルが互いに等しくなるよう補正することが好ましい。
【0026】
また、本発明にかかる撮像装置の製造方法は、それぞれが少なくとも1枚のレンズを含む複数のレンズ部と、前記複数のレンズ部に一対一に対応し、対応する前記レンズ部の光軸方向に対して略垂直な受光面をそれぞれ備える複数の撮像領域と、前記複数の撮像領域からそれぞれ出力される複数の撮像信号が入力される撮像信号入力部と、前記撮像領域の強度むらの情報である強度補正係数を保存する強度補正係数保存部と、前記強度補正係数を用いて、前記撮像領域の強度むらの影響を低減するように前記撮像信号の強度を補正する強度補正部とを備えた撮像装置の製造方法であって、前記撮像装置により、略白色の物体を撮影する第1の撮影工程と、前記第1の撮影工程により得られた撮像信号に基づいて、前記強度補正係数を算出する強度補正係数演算工程と、前記強度補正係数演算工程により算出された強度補正係数を前記強度補正係数保存部へ保存する保存工程とを有することを特徴とする。
【0027】
製造工程において、例えば白色均一光を表示したディスプレイまたはテストチャート等の略白色の物体を撮像して得られる撮像信号に基づき強度補正係数を作成し強度補正係数保存部に書き込むことにより、部品精度のばらつきや組み立てのばらつきが各個体毎に変化しても、光量分布の偏りを補償し、偽色の発生を抑制し、きれいな画像を合成することができる。
【0028】
上記の製造方法において、前記撮像装置が、前記複数のレンズ部の光軸の原点と撮像信号の原点との対応に関する情報である原点補正係数を保存する原点補正係数保存部と、前記原点補正係数に基づき前記撮像信号の原点を補正する原点補正部とをさらに有し、前記撮像装置により、中央部に十字を含むパターンを有する物体を撮影する第2の撮影工程と、前記第2の撮影工程により得られた撮像信号に基づいて、前記原点補正係数を算出する原点補正係数演算工程と、前記原点補正係数演算工程により算出された原点補正係数を前記原点補正係数保存部へ保存する工程とをさらに有することが好ましい。
【0029】
これにより、レンズ部同士の製造時のずれや撮像素子の配置位置ずれなどによる製造ばらつきによる原点ずれを補償するための原点補正係数を算出し、原点補正係数保存部へ保存することができる。
【0030】
上記の製造方法において、前記撮像装置が、前記レンズ部の歪曲の情報である歪曲補正係数を保存する歪曲補正係数保存部と、前記歪曲補正係数に基づき前記複数のレンズ部の歪曲の影響を低減するように撮像信号を補正する歪曲補正部とをさらに有し、前記撮像装置により、格子状のパターンを有する物体を撮影する第3の撮影工程と、前記第3の撮影工程により得られた撮像信号に基づいて、前記歪曲補正係数を算出する歪曲補正係数演算工程と、前記歪曲補正係数演算工程により算出された歪曲補正係数を前記歪曲補正係数保存部へ保存する工程とをさらに有することが好ましい。
【0031】
この製造方法によれば、レンズの歪曲を補償する歪曲補正係数を算出し、歪曲補正係数保存部へ保存することができる。
【0032】
上記の製造方法において、前記撮像装置が、前記複数のレンズ部の光軸の原点と撮像信号の原点との対応に関する情報である原点補正係数を保存する原点補正係数保存部と、前記原点補正係数に基づき前記撮像信号の原点を補正する原点補正部とをさらに有し、前記第1の撮影工程において、前記物体として、背景が略白色で中央部に十字を含むパターンを有する物体を用い、前記第1の撮影工程により得られた撮像信号に基づいて、前記原点補正係数を算出する原点補正係数演算工程と、前記原点補正係数演算工程により算出された原点補正係数を前記原点補正係数保存部へ保存する工程とをさらに有することが好ましい。
【0033】
この製造方法によれば、1回の撮影により得られた同一の撮像信号を用いて強度補正係数と原点補正係数とを作成するため、製造工程における撮影回数を抑制し、製造工程のタクトを短縮することができる。
【0034】
上記の製造方法において、前記撮像装置が、前記レンズ部の歪曲の情報である歪曲補正係数を保存する歪曲補正係数保存部と、前記歪曲補正係数に基づき前記複数のレンズ部の歪曲の影響を低減するように撮像信号を補正する歪曲補正部とをさらに有し、前記第1の撮影工程において、前記物体として、背景が略白色で格子状のパターンを有する物体を用い、前記第1の撮影工程において得られた撮像信号に基づいて、前記歪曲補正係数を算出する歪曲補正係数演算工程と、前記歪曲補正係数演算工程により算出された歪曲補正係数を、前記歪曲補正係数保存部へ保存する工程とをさらに有することが好ましい。
【0035】
この製造方法によれば、1回の撮影により得られた同一の撮像信号を用いて強度補正係数と歪曲補正係数とを作成するため、製造工程における撮影回数を抑制し、製造工程のタクトを短縮することができる。
【0036】
上記の製造方法において、前記撮像装置が、前記複数のレンズ部の光軸の原点と撮像信号の原点との対応に関する情報である原点補正係数を保存する原点補正係数保存部と、前記原点補正係数に基づき前記撮像信号の原点を補正する原点補正部と、前記レンズ部の歪曲の情報である歪曲補正係数を保存する歪曲補正係数保存部と、前記歪曲補正係数に基づき前記複数のレンズ部の歪曲の影響を低減するように撮像信号を補正する歪曲補正部とをさらに有し、前記第1の撮影工程において、前記物体として、背景が略白色で格子状のパターンを有する物体を用い、前記第1の撮影工程により得られた撮像信号に基づいて、前記原点補正係数を算出する原点補正係数演算工程と、前記第1の撮影工程において得られた撮像信号に基づいて、前記歪曲補正係数を算出する歪曲補正係数演算工程と、前記原点補正係数演算工程および歪曲補正係数演算工程により算出された原点補正係数および歪曲補正係数を、前記原点補正係数保存部および歪曲補正係数保存部へそれぞれ保存する工程とをさらに有することが好ましい。
【0037】
この製造方法によれば、1回の撮影により得られた同一の撮像信号を用いて強度補正係数と原点補正係数と歪曲補正係数とを作成するため、製造工程における撮影回数を抑制し、製造工程のタクトを短縮することができる。
【0038】
以下、本発明のより具体的な実施の形態について、図面を用いて説明する。
【0039】
(実施の形態1)
本発明の実施の形態1に係る撮像装置は、強度補正係数を保存し、強度補正係数に基づき、撮像領域の位置により補正の度合が変化するように、撮像信号の強度を補正する。このことにより、光量分布の偏りを補償し、偽色の発生を抑制し、きれいな画像を合成する。
【0040】
また、本発明の実施の形態1に係る撮像装置は、複数の撮像信号のうちの少なくとも1つの撮像信号を複数のブロックに分割し、同一波長特性の透過特性素子を透過した光線を受光する少なくとも2つの撮像領域に対応した撮像信号の強度を補正し、光量分布の偏りを補償し、補正された撮像信号に基づきブロック毎に視差を求め、この視差に基づきブロック毎に視差の影響を低減するように画像合成する。このことにより、光量分布の偏りを補償し、正しい視差を求め、この正しい視差に基づき画像合成するため、きれいな画像を合成することができる。
【0041】
また、本発明の実施の形態1に係る撮像装置は、原点補正係数を保存し、原点補正係数に基づき、撮像信号の原点を補正し、補正された撮像信号に基づきブロック毎に視差を求め、この視差に基づきブロック毎に視差の影響を低減するように画像合成する。このことにより、原点のずれを補償し、正しい視差を求め、この正しい視差に基づき画像合成するため、きれいな画像を合成することができる。
【0042】
また、本発明の実施の形態1に係る撮像装置は、歪曲補正係数を保存し、歪曲補正係数に基づき、複数のレンズ部の歪曲の影響を低減するように撮像信号を補正し、補正された撮像信号に基づきブロック毎に視差を求め、この視差に基づきブロック毎に視差の影響を低減するように画像合成する。このことにより、歪曲の影響を低減し、正しい視差を求め、この正しい視差に基づき画像合成するため、きれいな画像を合成することができる。
【0043】
本発明の実施の形態1に係る撮像装置について、図面を参照しながら説明する。
【0044】
図1は、本発明の実施の形態1に係る撮像装置の構成を示す断面図である。図1において、撮像装置101は、レンズモジュール部110、および回路部120を有する。
【0045】
レンズモジュール部110は、鏡筒111、上部カバーガラス112、レンズ113、アクチュエータ固定部114、およびアクチュエータ可動部115を有する。回路部120は、基板121、パッケージ122、撮像素子123、パッケージカバーガラス124、およびシステムLSI(以下、SLSIと記す)125を有する。
【0046】
鏡筒111は、円筒状であり、その内壁面は光の乱反射を防止するためにつやが消された黒色であり、樹脂を射出成形し形成される。上部カバーガラス112は、円盤状であり、透明樹脂から形成され、鏡筒111の上面に接着剤などにより固着され、その表面は摩擦などによる損傷を防止する保護膜と、入射光の反射を防止する反射防止膜とが設けられている。
【0047】
図2は、本発明の実施の形態1に係る撮像装置のレンズ113の上面図である。レンズ113は、略円盤状であり、ガラスや透明樹脂から形成され、第1のレンズ部113a、第2のレンズ部113b、第3のレンズ部113c、および第4のレンズ部113dが碁盤目状に配置される。第1〜第4のレンズ部113a〜113dの配置方向に沿って、図2に示すようにX軸及びY軸を設定する。第1のレンズ部113a、第2のレンズ部113b、第3のレンズ部113c、および第4のレンズ部113dにおいて、被写体側から入射した光は、撮像素子123側へ射出し、撮像素子123上に4つの像を結像する。
【0048】
アクチュエータ固定部114は、鏡筒111の内壁面に接着剤などにより固着される。アクチュエータ可動部115は、レンズ113の外周縁に接着剤などにより固着される。アクチュエータ固定部114およびアクチュエータ可動部115は、ボイスコイルモータを構成する。アクチュエータ固定部114は永久磁石(図示せず)と強磁性体ヨーク(図示せず)とを有し、アクチュエータ可動部115はコイル(図示せず)を有する。アクチュエータ可動部115は、アクチュエータ固定部114に対し、弾性体(図示せず)により弾性支持される。アクチュエータ可動部115のコイルに通電することにより、アクチュエータ可動部115がアクチュエータ固定部114に対して相対的に移動し、レンズ113と撮像素子123との光軸に沿った相対距離が変化する。
【0049】
基板121は、樹脂基板から構成され、上面に鏡筒111がその底面を接して接着剤などにより固着される。このようにして、レンズモジュール部110と回路部120とが固定され、撮像装置101を構成する。
【0050】
パッケージ122は、金属端子を有する樹脂からなり、鏡筒111の内側において、基板121の上面にその金属端子部が半田づけ等されて固着される。撮像素子123は、第1の撮像素子123a、第2の撮像素子123b、第3の撮像素子123c、および第4の撮像素子124dから構成される。第1の撮像素子123a、第2の撮像素子123b、第3の撮像素子123c、および第4の撮像素子124dは、それぞれCCDセンサやCMOSセンサのような固体撮像素子であり、これらの受光面の中心が、それぞれ第1のレンズ部113a、第2のレンズ部113b、第3のレンズ部113c、および第4のレンズ部113dの光軸中心と略一致するように、また各撮像素子の受光面が対応するレンズ部の光軸と略垂直になるようにして配置される。第1の撮像素子123a、第2の撮像素子123b、第3の撮像素子123c、および第4の撮像素子123dの各端子は、パッケージ122の内側の底部の金属端子にワイヤーボンディングにより金線127で接続され、基板121を介して、SLSI125と電気的に接続される。第1の撮像素子123a、第2の撮像素子123b、第3の撮像素子123c、および第4の撮像素子123dの各受光面に、第1のレンズ部113a、第2のレンズ部113b、第3のレンズ部113c、および第4のレンズ部113dから射出された光がそれぞれ結像し、フォトダイオードにより光の情報から変換された電気の情報が、SLSI125に出力される。
【0051】
図3は、本発明の実施の形態1に係る撮像装置の回路部120の上面図である。パッケージカバーガラス124は、平板状であり、透明樹脂により形成され、パッケージ122の上面に接着などにより固着される。パッケージカバーガラス124の上面には、第1のカラーフィルタ124a、第2のカラーフィルタ124b、第3のカラーフィルタ124c、第4のカラーフィルタ124d、および遮光部124eが蒸着などにより配置される。また、パッケージカバーガラス124の下面には、赤外遮断フィルタ(図示せず。以下、IRフィルタと記す)が蒸着などにより配置される。
【0052】
図4は、本発明の実施の形態1に係る撮像装置のカラーフィルタの特性図であり、図5は、本発明の実施の形態1に係る撮像装置のIRフィルタの特性図である。第1のカラーフィルタ124aは、図4のGで示した主に緑色を透過する分光透過特性を有し、第2のカラーフィルタ124bは、図4のBで示した主に青色を透過する分光透過特性を有し、第3のカラーフィルタ124cは、図4のRで示した主に赤色を透過する分光透過特性を有し、第4のカラーフィルタは、図4のGで示した主に緑色を透過する分光透過特性を有する。また、IRフィルタは、図5のIRで示した赤外光を遮断する分光透過特性を有する。
【0053】
したがって、第1のレンズ部113aの上部から入射した物体光は、第1のレンズ部113aの下部から射出され、第1のカラーフィルタ124aおよびIRフィルタにより主に緑色が透過し、第1の撮像素子123aの受光部に結像するため、第1の撮像素子123aは物体光のうち緑色成分を受光する。また、第2のレンズ部113bの上部から入射した物体光は、第2のレンズ部113bの下部から射出され、第2のカラーフィルタ124bおよびIRフィルタにより主に青色が透過し、第2の撮像素子123bの受光部に結像するため、第2の撮像素子123bは物体光のうち青色成分を受光する。また、第3のレンズ部113cの上部から入射した物体光は、第3のレンズ部113cの下部から射出され、第3のカラーフィルタ124cおよびIRフィルタにより主に赤色が透過し、第3の撮像素子123cの受光部に結像するため、第3の撮像素子123cは物体光のうち赤色成分を受光する。更に、第4のレンズ部113dの上部から入射した物体光は、第4のレンズ部113dの下部から射出され、第4のカラーフィルタ124dおよびIRフィルタにより主に緑色が透過し、第4の撮像素子123dの受光部に結像するため、第4の撮像素子123dは物体光のうち緑色成分を受光する。
【0054】
SLSI125は、後述の方法で、アクチュエータ可動部115のコイルの通電を制御し、撮像素子123を駆動し、撮像素子123からの電気情報を入力し、各種画像処理を行い、上位CPUと通信を行い、外部に画像出力する。
【0055】
次に、被写体距離と視差との関係を説明する。本発明の実施の形態1に係るカメラモジュールは4つのレンズ部(第1のレンズ部113a、第2のレンズ部113b、第3のレンズ部113c、および第4のレンズ部113d)を有するため、4つのレンズ部がそれぞれ形成する4つの物体像の相対的位置が被写体距離に応じて変化する。
【0056】
図6は、本発明の実施の形態1に係る撮像装置において、無限遠にある物体像の位置を説明するための図である。図6において、簡単のため、第1のレンズ部113a、第1の撮像素子123a、第2のレンズ部113b、第2の撮像素子123bのみを記す。無限遠の物体10からの光の第1のレンズ部113aへの入射光L1と第2のレンズ部113bへの入射光L2とは平行であるため、第1のレンズ部113aと第2のレンズ部113bとの距離と、第1の撮像素子123a上の物体像11aと第2の撮像素子123b上の物体像11bとの距離は等しい。ここで、第1のレンズ部113aの光軸、第2のレンズ部113bの光軸、第3のレンズ部113cの光軸、および第4のレンズ部113dの光軸が、それぞれ第1の撮像素子123aの受光面の中心、第2の撮像素子123bの受光面の中心、第3の撮像素子123cの受光面の中心、および第4の撮像素子123dの受光面の中心と略一致するように配置されている。従って、第1の撮像素子123a、第2の撮像素子123b、第3の撮像素子123c、および第4の撮像素子123dの各受光面の中心と、各受光面にそれぞれ結像される無限遠の物体像との相対的位置関係は、全ての撮像素子について同一である。すなわち、視差はない。
【0057】
図7は、本発明の実施の形態1に係る撮像装置において、有限距離の位置にある物体像の位置を説明するための図である。図7において、簡単のため、第1のレンズ部113a、第1の撮像素子123a、第2のレンズ部113b、第2の撮像素子123bのみを記す。有限距離の物体12からの光の第1のレンズ部113aへの入射光L1と第2のレンズ部113bへの入射光L2とは平行ではないため、第1のレンズ部113aと第2のレンズ部113bとの距離に比べて、第1の撮像素子123a上の物体像13aと第2の撮像素子123b上の物体像13bとの距離は長い。そのため、第1の撮像素子123a、第2の撮像素子123b、第3の撮像素子123c、および第4の撮像素子123dの各受光面の中心と、各受光面にそれぞれ結像される有限距離の物体像との相対的位置関係は、撮像素子ごとに異なる。すなわち、視差がある。物体像12までの距離(被写体距離)をA、第1のレンズ部113aと第2のレンズ部113bとの距離をD、レンズ部113a,113bの焦点距離をfとすると、図7の直角を挟む2辺の長さがA、Dの直角三角形と、直角を挟む2辺の長さがf、Δの直角三角形とが相似であることより、視差Δは、下記式(1)のように表される。なお、下記式(1)および後述するその他の式において、*は乗算演算子である。その他のレンズ部間についても同様の関係が成立する。このように、被写体距離に応じて4つのレンズ部113a,113b,113c,113dがそれぞれ形成する4つの物体像の相対的位置が変化する。例えば、被写体距離Aが小さくなると、視差Δが大きくなる。
【0058】
Δ = f*D/A ・・・(1)
【0059】
次に、コントラストと焦点距離との関係を説明する。
【0060】
図8(A)は、本発明の実施の形態1に係る撮像装置において、合焦時(焦点調整が合っているとき)の画像とコントラスト評価値との関係を説明する図であり、図8(B)は、本発明の実施の形態1に係る撮像装置において、非合焦時(焦点調整が合っていないとき)の画像とコントラスト評価値との関係を説明する図である。図8(A)及び図8(B)の各左図は、左半分が白色、右半分が黒色の矩形を撮影したときの画像である。図8(A)の左図のように、合焦時は撮影画像の輪郭がはっきりし、コントラストが大きい。一方、図8(B)の左図のように、非合焦時は撮影画像の輪郭がぼやけ、コントラストが小さい。図8(A)及び図8(B)の各右図は、左図の情報信号にバンドパスフィルタ(BPF)を作用させたときの結果を示している。横軸はX軸方向位置であり、縦軸はBPF後の出力値である。図8(A)の右図のように、合焦時はBPF後の信号振幅が大きく、図8(B)の右図のように、非合焦時はBPF後の信号振幅が小さい。ここで、このBPF後の信号振幅をどれだけコントラストが大きいかを示すコントラスト評価値と定義する。すると、図8(A)の右図のように、合焦時はコントラスト評価値が大きく、図8(B)の右図のように、非合焦時はコントラスト評価値が小さい。
【0061】
図9は、本発明の実施の形態1に係る撮像装置のレンズ位置とコントラスト評価値との関係を説明する図である。ある物体を撮影するとき、レンズ113と撮像素子123との距離が小さいとき(z1のとき)、非合焦であるためコントラスト評価値が小さい。レンズ113と撮像素子123との距離を徐々に大きくすると、コントラスト評価値が徐々に大きくなり、合焦時(z2のとき)はコントラスト評価値が極大となる。さらに、レンズ113と撮像素子123との距離を徐々に大きくすると(z3のとき)、非合焦となり、コントラスト評価値が小さくなる。このように、合焦時において、コントラスト評価値は極大となる。
【0062】
次に、本発明の実施の形態1に係る撮像装置の動作を説明する。図10は、本発明の実施の形態1に係る撮像装置のブロック図である。SLSI125は、システム制御部131、撮像素子駆動部132、撮像信号入力部133、アクチュエータ操作量出力部134、画像処理部135、入出力部136、強度補正係数用メモリ137、原点補正係数用メモリ138、および歪曲補正用メモリ139を有する。また、回路部120は、前述の構成に加えて、アンプ126を有する。
【0063】
アンプ126は、アクチュエータ操作量出力部134からの出力に応じた電圧をアクチュエータ可動部115のコイルに印加する。
【0064】
システム制御部131は、CPU(中央演算処理装置、Central Processing Unit)、メモリなどから構成され、SLSI125の全体を制御する。
【0065】
撮像素子駆動部132は、ロジック回路などから構成され、撮像素子123を駆動する信号を発生し、この信号に応じた電圧を撮像素子123に印加する。
【0066】
撮像信号入力部133は、第1の撮像信号入力部133a、第2の撮像信号入力部133b、第3の撮像信号入力部133c、および第4の撮像信号入力部133dから構成される。第1の撮像信号入力部133a、第2の撮像信号入力部133b、第3の撮像信号入力部133c、および第4の撮像信号入力部133dは、それぞれCDS回路(相関二重サンプリング回路。Correlated Double Sampling Circuit)、AGC(自動利得制御器。Automatic Gain Controller)、ADC(アナログ/ディジタル変換器。Analog Digital converter)が直列に接続されて構成され、それぞれ第1の撮像素子123a、第2の撮像素子123b、第3の撮像素子123c、および第4の撮像素子123dに接続され、これらからの電気信号が入力され、CDS回路により固定ノイズを除去し、AGCによりゲインを調整し、ADCによりアナログ信号からディジタル値に変換し、システム制御部131のメモリに書き込む。
【0067】
アクチュエータ操作量出力部134は、DAC(ディジタル/アナログ変換器。Digital Analog converter)から構成され、アクチュエータ可動部115のコイルに印加すべき電圧に応じた電圧信号を出力する。
【0068】
画像処理部135は、ロジック回路、またはDSP(ディジタル信号プロセッサ。Digital Signal Processor)、あるいは両者を含んで構成され、システム制御部131のメモリ情報を利用し、所定のプログラム制御に従って各種画像処理を行う。画像処理部135は、自動焦点制御部141、強度補正部142、原点補正部143、歪曲補正部144、および視差補正部145を有する。
【0069】
入出力部136は、上位CPU(図示せず)との通信や、上位CPU、外部メモリ(図示せず)、および液晶などの外部表示装置(図示せず)へ画像信号を出力する。
【0070】
強度補正係数用メモリ137は、フラッシュメモリやFeRAM(Ferroelectric Random Access Memory)などのような不揮発性メモリから構成され、強度補正部142で使用する強度補正係数を保存する。原点補正係数用メモリ138は、フラッシュメモリやFeRAMなどのような不揮発性メモリから構成され、原点補正部143で使用する原点補正係数を保存する。歪曲補正係数用メモリ139は、フラッシュメモリやFeRAMなどのような不揮発性メモリから構成され、歪曲補正部144で使用する歪曲補正係数を保存する。
【0071】
図11は、本発明の実施の形態1に係る撮像装置の動作を示すフローチャートである。SLSI125のシステム制御部131により、撮像装置101は、このフローチャートとおりに動作される。
【0072】
ステップS1000において、動作を開始する。例えば、上位CPU(図示せず)がシャッターボタン(図示せず)などが押されたことを検知し、入出力部136を介し、撮像装置101に動作の開始を命令することにより、撮像装置101は、動作を開始する。次に、ステップS1100を実行する。
【0073】
ステップS1100において、自動焦点制御部141は、自動焦点制御を実行する。図12は、本発明の実施の形態1に係る自動焦点制御の動作を示すフローチャートである。図12のフローチャートは、ステップS1100の動作の詳細を示す。
【0074】
ステップS1110において、焦点制御の動作を開始する。次に、ステップS1121を実行する。
【0075】
ステップS1121において、カウンタiを0に初期化する。次に、ステップS1122を実行する。
【0076】
ステップS1122において、アクチュエータの位置指令を演算する。下記式(2)のように、カウンタiを用いてアクチュエータの位置指令Xactを演算する。なお、位置指令Xactは、無限遠像の合焦位置を基準とし、被写体に向かう向きが正である位置の指令を示す。ここで、kxは、設定された値である。次に、ステップS1123を実行する。
【0077】
Xact=kx*i ・・・(2)
【0078】
ステップS1123において、下記式(3)で示した操作量関数を用いてアクチュエータ操作量(アクチュエータ可動部115のコイルへの印加電圧)Vactを演算する。ここで、ka、およびkbは、それぞれ設定された値である。次に、ステップS1124を実行する。
【0079】
Vact=ka*Xact+kb・・・(3)
【0080】
ステップS1124において、アクチュエータを動作させる。アクチュエータ操作量出力部134は、アンプ126を介したのちアクチュエータ可動部115のコイル(図示せず)に印加される電圧がVactになるように、出力する電圧信号を変更する。次に、ステップS1125を実行する。
【0081】
ステップS1125において、第1のレンズ部113aに入射し第1の撮像素子123a上に結像した被写体像の撮影を実行する。システム制御部131の命令により、撮像素子駆動部132が電子シャッターや転送を行うための信号を随時出力する。第1の撮像信号入力部133aは、撮像素子駆動部132が発生する信号に同期して、第1の撮像素子123aが出力する画像のアナログ信号である撮像信号を入力し、CDSにより固定ノイズを除去し、AGCにより自動的に入力ゲインを調整し、ADCによりアナログ信号をディジタル値に変換し、第1の撮像信号I1(x,y)として、システム制御部131の所定アドレスのメモリにディジタル値を書き込む。図13は、本発明の実施の形態1に係る撮像装置の撮像信号の座標を説明する図である。I1(x,y)は、水平方向にx番目、垂直方向にy番目の画素の第1の撮像信号であることを示す。入力される画像の縦方向の画素数がH、横方向の画素数がLならば、総画素数はH×Lであり、xは0からL−1まで変化し、yは0からH−1まで変化する。次に、ステップS1126を実行する。
【0082】
ステップS1126において、自動焦点制御用ブロックを設定する。画像領域の中心付近の矩形状の領域を自動焦点制御用ブロックとする。なお、このブロックは必ずしも中央付近である必要はなく、カメラを操作するユーザの意思などを反映し(例えば、センサで視点方向を検出し)、ブロックを設定してもよい。なお、単一のブロックではなく複数のブロックを選択し、複数のブロックにおいて後述の自動焦点制御用コントラスト評価値の平均を用いてもよい。また、複数のブロックにおいて後述の自動焦点制御用コントラスト評価値を演算し、後に少なくとも1つのブロックを自動焦点制御用ブロックとして選択してもよい。次に、ステップS1127を実行する。
【0083】
ステップS1127において、システム制御部131のメモリ上のデータを用いて、自動焦点制御用コントラスト評価値を作成する。この演算は、第1の撮像信号I1の自動焦点制御用ブロックの画素について行う。下記式(11)のように、x方向とy方向の2階微分の和であるラプラシアンの絶対値を演算し、下記式(12)のように空間的にLPF(ローパスフィルタ。Low Pass Filter)を作用させ、これを下記式(13)のように自動焦点制御用ブロック内で平均して自動焦点用コントラスト評価値C3を得る。ここで、Nafは、自動焦点制御用ブロックの画素数である。次に、ステップS1128を実行する。
【0084】
C1(x,y)=|I1(x-1,y)+I1(x+1,y)+I1(x,y-1)+I1(x,y+1)-4I1(x,y)|
・・・(11)
C2(x,y)=C1(x-1,y-1)+C1(x,y-1)+C1(x+1,y-1)
+C1(x-1,y)+C1(x,y)+C1(x+1,y)
+C1(x-1,y+1)+C1(x,y+1)+C1(x+1,y+1)・・・(12)
C3=ΣC2(x,y)/Naf・・・(13)
【0085】
ステップS1128において、下記式(14)のように、コントラスト評価値C3をC3(i)として、システム制御部131のメモリに書き込む。次に、ステップS1129を実行する。
【0086】
C3(i)=C3 ・・・(14)
【0087】
ステップS1129において、下記式(15)のように、カウンタiに1を加える。次に、ステップS1130を実行する。
【0088】
i= i+1 ・・・(15)
【0089】
ステップS1130において、カウンタiをしきい値Safと比較し、その結果により分岐する。カウンタiがしきい値Safより小さいとき(ステップS1130の比較結果がY)、次に、ステップ1122を実行する。一方、カウンタiがしきい値Saf以上のとき(ステップS1130の比較結果がN)、次に、ステップS1140を実行する。このように、ステップS1121においてカウンタiを0に初期化し、ステップS1129においてカウンタiに1を加え、ステップS1130においてカウンタiで分岐を行うことにより、S1122からS1128までの処理をSaf回だけ繰り返す。
【0090】
ステップS1140において、コントラスト評価値C3の評価を行う。図9のように、合焦位置では、コントラスト評価値C3が最大となる。下記式(16)のように、この最大値を与えるカウンタ値iをコントラスト最大値を与えるカウンタ値iafとする。次に、ステップS1151を実行する。
【0091】
iaf = C3の最大値を与えるi ・・・(16)
【0092】
ステップS1151において、アクチュエータの位置指令を演算する。下記式(17)のように、コントラスト最大値を与えるカウンタ値iafを用いてアクチュエータの位置指令Xactを演算する。なお、位置指令Xactは、無限遠像の合焦位置を基準とし、被写体に向かう向きが正の位置の指令を示す。次に、ステップS1152を実行する。
【0093】
Xact=kx*iaf ・・・(17)
【0094】
ステップS1152において、操作量関数を用いてアクチュエータ操作量(アクチュエータ可動部115のコイルへの印加電圧)Vactを演算する。この動作は、ステップS1123と同様であり、説明を省略する。次に、ステップS1153を実行する。
【0095】
ステップS1153において、アクチュエータを動作させる。この動作は、ステップS1124と同様であり、説明を省略する。次に、ステップS1160を実行する。
【0096】
ステップS1160において、自動焦点制御を終了し、メインルーチンへ戻る。従って、次に、図11のステップS1200を実行する。
【0097】
ステップS1200において、画像を入力する。システム制御部131の命令により、撮像素子駆動部132が電子シャッターや転送を行うための信号を随時出力する。第1の撮像信号入力部133a、第2の撮像信号入力部133b、第3の撮像信号入力部133c、および第4の撮像信号入力部133dは、撮像素子駆動部132が発生する信号に同期して、第1の撮像素子123a、第2の撮像素子123b、第3の撮像素子123c、および第4の撮像素子123dが出力する各画像のアナログ信号である撮像信号を入力し、CDSにより固定ノイズを除去し、AGCにより自動的に入力ゲインを調整し、ADCによりアナログ信号をディジタル値に変換し、第1の撮像信号I1(x,y)、第2の撮像信号I2(x,y)、第3の撮像信号I3(x,y)、および第4の撮像信号I4(x,y)として、システム制御部131の所定アドレスのメモリにディジタル値を書き込む。図13は、本発明の実施の形態1に係るカメラモジュールの撮像信号の座標を説明する図である。I1(x,y)は、水平方向にx番目、垂直方向にy番目の第1の撮像信号であることを示す。入力される画像の縦方向の画素数がH、横方向の画素数がLであり、総画素数はH×Lであり、xは0からL−1まで変化し、yは0からH−1まで変化する。第2の撮像信号I2(x,y)、第3の撮像信号I3(x,y)、第4の撮像信号I4(x,y)も同様である。すなわち、I2(x,y)、I3(x,y)、およびI4(x,y)は、ぞれぞれ水平方向にx番目、垂直方向にy番目の第2の撮像信号、第3の撮像信号、および第4の撮像信号であることを示す。入力される画像の縦方向の画素数がH、横方向の画素数がLであり、それぞれの総画素数はH×Lであり、xは0からL−1まで変化し、yは0からH−1まで変化する。次に、ステップS1300を実行する。
【0098】
ステップS1300において、強度補正部142は、強度補正係数用メモリ137に保存された強度補正係数を用いて第1の撮像信号I1、第2の撮像信号I2、第3の撮像信号I3、第4の撮像信号I4を補正する。そして、その結果をシステム制御部131のメモリに書き込む。
【0099】
強度補正係数用メモリ137には、第1の撮像信号I1(x,y)の補正に使用する第1の強度補正係数a1(x,y)、第2の撮像信号I2(x,y)の補正に使用する第2の強度補正係数a2(x,y)、第3の撮像信号I3(x,y)の補正に使用する第3の強度補正係数a3(x,y)、および第4の撮像信号I4(x,y)の補正に使用する第4の強度補正係数a4(x,y)が保存されている。a1(x,y)、a2(x,y)、a3(x,y)、およびa4(x,y)は、ぞれぞれ水平方向にx番目、垂直方向にy番目の画素の第1の強度補正係数、第2の強度補正係数、第3の強度補正係数、および第4の強度補正係数であることを示す。入力される画像の縦方向の画素数がH、横方向の画素数がLならば、総画素数はH×Lであり、xは0からL−1まで変化し、yは0からH−1まで変化する。
【0100】
図14は、本発明の実施の形態1に係る強度補正の動作を示すフローチャートである。図14のフローチャートは、強度補正を行うステップS1300の詳細を示す。
【0101】
まず、ステップS1320において、各画素(x,y)における補正値を演算する。下記式(18)、(19)、(20)、および(21)のように、第1の強度補正係数a1(x,y)、第2の強度補正係数a2(x,y)、第3の強度補正係数a3(x,y)、および第4の強度補正係数a4(x,y)にそれぞれ設定値kab1、kab2、kab3、およびkab4を乗じた結果を第1の強度補正値b1(x,y)、第2の強度補正値b2(x,y)、第3の強度補正値b3(x,y)、および第4の強度補正値b4(x,y)とする。次に、ステップS1330を実行する。
【0102】
b1(x,y)=kab1*a1(x,y)・・・(18)
b2(x,y)=kab2*a2(x,y)・・・(19)
b3(x,y)=kab3*a3(x,y)・・・(20)
b4(x,y)=kab4*a4(x,y)・・・(21)
【0103】
ステップS1330において、強度補正を行う。下記式(22)、(23)、(24)、および(25)のように、第1の撮像信号I1(x,y)、第2の撮像信号I2(x,y)、第3の撮像信号I3(x,y)、および第4の撮像信号I4(x,y)に、第1の強度補正値b1(x,y)、第2の強度補正値b2(x,y)、第3の強度補正値b3(x,y)、および第4の強度補正値b4(x,y)を乗じ補正する。次に、ステップS1340を実行する。
【0104】
I1(x,y)=I1(x,y)*b1(x,y)・・・(22)
I2(x,y)=I2(x,y)*b2(x,y)・・・(23)
I3(x,y)=I3(x,y)*b3(x,y)・・・(24)
I4(x,y)=I4(x,y)*b4(x,y)・・・(25)
【0105】
ステップS1340において、強度補正を終了し、メインルーチンへ戻る。従って、次に、図11のステップS1400を実行する。
【0106】
ステップS1400において、原点補正部143は、原点補正係数用メモリ138に保存された原点補正係数を用いて第1の撮像信号I1、第2の撮像信号I2、第3の撮像信号I3、第4の撮像信号I4を補正する。そして、その結果をシステム制御部131のメモリに書き込む。
【0107】
原点補正係数用メモリ138には、第1の撮像信号I1(x,y)の補正に使用する第1の原点補正係数g1x、g1y、第2の撮像信号I2(x,y)の補正に使用する第2の原点補正係数g2x、g2y、第3の撮像信号I3(x,y)の補正に使用する第3の原点補正係数g3x、g3y、および第4の撮像信号I4(x,y)の補正に使用する第4の原点補正係数g4x、g4yが保存されている。g1x、g2x、g3x、g4xは原点補正係数のx成分を示し、g1y、g2y、g3y、g4yは原点補正係数のy成分を示す。
【0108】
そして、下記式(26)のように、第1の撮像信号I1を第1の原点補正係数(g1x,g1y)だけ移動させるように補正する。また、下記式(27)のように、第2の撮像信号I2を第2の原点補正係数(g2x,g2y)だけ移動させるように補正する。また、下記式(28)のように、第3の撮像信号I3を第3の原点補正係数(g3x,g3y)だけ移動させるように補正する。下記式(29)のように、第4の撮像信号I4を第4の原点補正係数(g4x,g4y)だけ移動させるように補正する。なお、式(26)、(27)、(28)、(29)の右辺の値が存在しない場合(例えば、x=0、y=0、g1xが正数、g1yが正数の場合)は、近隣の実在する値と同一値や、近隣から外挿などにより推定された値や、0などを代入すればよい。なお、g1x、g2x、g3x、g4x、g1y、g2y、g3y、およびg4yは整数に限定されず、小数でもよい。この場合、式(26)、(27)、(28)、(29)の右辺の値として、最近隣値や、周りの画素からの補間値を利用する。次に、図11のステップS1500を実行する。
【0109】
I1(x,y)=I1(x-g1x,y-g1y) ・・・(26)
I2(x,y)=I2(x-g1x,y-g1y) ・・・(27)
I3(x,y)=I3(x-g1x,y-g1y) ・・・(28)
I4(x,y)=I4(x-g1x,y-g1y) ・・・(29)
【0110】
ステップS1500において、歪曲補正部144は、歪曲補正係数用メモリ139に保存された歪曲補正係数を用いて第1の撮像信号I1、第2の撮像信号I2、第3の撮像信号I3、第4の撮像信号I4を補正する。そして、その結果をシステム制御部131のメモリに書き込む。
【0111】
歪曲補正係数用メモリ139には、第1の撮像信号I1(x,y)の補正に使用する第1の歪曲補正係数p1x(x,y)、p1y(x,y)、第2の撮像信号I2(x,y)の補正に使用する第2の歪曲補正係数p2x(x,y)、p2y(x,y)、第3の撮像信号I3(x,y)の補正に使用する第3の歪曲補正係数p3x(x,y)、p3y(x,y)、および第4の撮像信号I4(x,y)の補正に使用する第4の歪曲補正係数p4x(x,y)、p4y(x,y)が保存されている。p1x(x,y)、p2x(x,y)、p3x(x,y)、およびp4x(x,y)は、ぞれぞれ水平方向にx番目、垂直方向にy番目の第1の歪曲補正係数、第2の歪曲補正係数、第3の歪曲補正係数、および第4の歪曲補正係数のx成分であることを示す。また、p1y(x,y)、p2y(x,y)、p3y(x,y)、およびp4y(x,y)は、ぞれぞれ水平方向にx番目、垂直方向にy番目の画素の第1の歪曲補正係数、第2の歪曲補正係数、第3の歪曲補正係数、および第4の歪曲補正係数のy成分であることを示す。入力される画像の縦方向の画素数がH、横方向の画素数がLならば、総画素数はH×Lであり、xは0からL−1まで変化し、yは0からH−1まで変化する。
【0112】
図15は、本発明の実施の形態1に係る歪曲補正係数を説明する図である。点線の格子の交点は理想上の座標を示し、実線の格子の交点は歪曲がある座標を示す。図15のように、例えば、理想的には(0,0)に撮像されるべき画像は、実際には歪曲によって(0,0)から(p1x(0,0),p1y(0,0))だけずれた位置に撮像される。このずれ量(p1x(0,0),p1y(0,0))を歪曲補正係数とし、歪曲補正用メモリ139に記憶する。すなわち、理想的には(x,y)に撮像されるべき画像は、歪曲によって(x,y)から(p1x(x,y),p1y(x,y))だけずれた位置に撮像される。このずれ量(p1x(x,y),p1y(x,y))を歪曲補正係数とし、歪曲補正用メモリ139に記憶する。
【0113】
図16は、本発明の実施の形態1に係る歪曲補正の動作を示すフローチャートである。図16のフローチャートは、歪曲補正を行うステップS1500の詳細を示す。
【0114】
まず、ステップS1520において、各画素(x,y)における歪曲補正用座標を演算する。下記式(30)、(31)、(32)、および(33)のように、第1の歪曲補正係数のx成分p1x(x,y)、第2の歪曲補正係数のx成分p2x(x,y)、第3の歪曲補正係数のx成分p3x(x,y)、および第4の歪曲補正係数のx成分p4x(x,y)に、それぞれx座標の値xを加えた結果を、第1の歪曲補正用座標のx成分q1x(x,y)、第2の歪曲補正用座標のx成分q2x(x,y)、第3の歪曲補正用座標のx成分q3x(x,y)、および第4の歪曲補正用座標のx成分q4x(x,y)とする。また、下記式(34)、(35)、(36)、および(37)のように、第1の歪曲補正係数のy成分p1y(x,y)、第2の歪曲補正係数のy成分p2y(x,y)、第3の歪曲補正係数のy成分p3y(x,y)、および第4の歪曲補正係数のy成分p4y(x,y)にそれぞれy座標の値yを加えた結果を、第1の歪曲補正用座標のy成分q1y(x,y)、第2の歪曲補正用座標のy成分q2y(x,y)、第3の歪曲補正用座標のy成分q3y(x,y)、および第4の歪曲補正用座標のy成分q4y(x,y)とする。次に、ステップS1530を実行する。
【0115】
q1x(x,y)=x+p1x(x,y) ・・・(30)
q2x(x,y)=x+p2x(x,y) ・・・(31)
q3x(x,y)=x+p3x(x,y) ・・・(32)
q4x(x,y)=x+p4x(x,y) ・・・(33)
q1y(x,y)=y+p1y(x,y) ・・・(34)
q2y(x,y)=y+p2y(x,y) ・・・(35)
q3y(x,y)=y+p3y(x,y) ・・・(36)
q4y(x,y)=y+p4y(x,y) ・・・(37)
【0116】
ステップS1330において、歪曲補正を行う。下記式(38)、(39)、(40)、および(41)のように、座標(x,y)上の第1の撮像信号I1(x,y)、第2の撮像信号I2(x,y)、第3の撮像信号I3(x,y)、および第4の撮像信号I4(x,y)として、第1の歪曲補正用座標(q1x(x,y),q1y(x,y))上の第1の撮像信号I1(q1x(x,y),q1y(x,y))、第2の歪曲補正用座標(q2x(x,y),q2y(x,y))上の第2の撮像信号I2(q2x(x,y),q2y(x,y))、第3の歪曲補正用座標(q3x(x,y),q3y(x,y))上の第3の撮像信号I3(q3x(x,y),q3y(x,y))、および第4の歪曲補正用座標(q4x(x,y),q4y(x,y))上の第4の撮像信号I4(q4x(x,y),q4y(x,y))を用いる。なお、式(38)、(39)、(40)、(41)の右辺の値が存在しない場合は、近隣の実在する値と同一値や、近隣から外挿などにより推定された値や、0などを代入すればよい。なお、q1x(x,y)、q2x(x,y)、q3x(x,y)、q4x(x,y)、q1y(x,y)、q2y(x,y)、q3y(x,y)、およびq4y(x,y)は整数に限定されず、小数でもよい。この場合、式(38)、(39)、(40)、(41)の右辺の値として、最近隣値や、周りの画素からの補間値を利用する。次に、ステップS1540を実行する。
【0117】
I1(x,y)=I1(q1x(x,y),q1y(x,y)) ・・・(38)
I2(x,y)=I2(q2x(x,y),q2y(x,y)) ・・・(39)
I3(x,y)=I3(q3x(x,y),q3y(x,y)) ・・・(40)
I4(x,y)=I4(q4x(x,y),q4y(x,y)) ・・・(41)
【0118】
ステップS1540において、歪曲補正を終了し、メインルーチンへ戻る。従って、次に、図11のステップS1600を実行する。
【0119】
ステップS1600において、視差補正を実行する。図17は、本発明の実施の形態1に係る視差補正の動作を示すフローチャートである。図17のフローチャートは、ステップS1600の動作の詳細を示す。
【0120】
まず、ステップS1620において、ブロック分割を行う。図18は、本発明の実施の形態1に係る撮像装置において、ブロック分割を説明する図である。図18のように、第1の撮像信号I1を、横方向にM個のブロックに、縦方向にN個のブロックに、総数でM×N個に分割し、それぞれのブロックをBiで示す。ここで、iは0からM×N−1まで変化する。次に、ステップS1630を実行する。
【0121】
ステップS1630において、各ブロック毎の視差値を演算する。まず、各ブロック(B0、B1、…、Bi、…、BMN-1)毎に、視差評価値(R0(k)、R1(k)、…、Ri(k)、…、RMN-1(k)。k=0、1、…、kmax)を演算する。図19は、本発明の実施の形態1に係る撮像装置において、視差評価値の演算領域を説明する図である。Biで示される(I1としても示されている)領域は、第1の撮像信号I1からステップS1620で求められたi番目のブロックである。I4で示される領域は、Biをx方向にkだけ、y方向にkだけ移動した領域である。そして、それぞれの領域の全画像信号I1(x,y)、I4(x-k,y-k)について、下記式(42)に示される絶対値差分総和を視差評価値Ri(k)として演算する。ここで、ΣΣは、ブロックBi内の全ての画素の総和を示す。
【0122】
Ri(k)=ΣΣ|I1(x,y)-I4(x-k,y-k)|・・・(42)
【0123】
この視差評価値Ri(k)は、i番目のブロックBiの第1の画像信号I1と、x、y方向にそれぞれ(k、k)だけ離れた領域における第4の画像信号I4がどれだけ相関があるかを示し、値が小さいほど相関が大きい(よく似ている)ことを示す。図20は、本発明の実施の形態1に係る撮像装置の視差と視差評価値との関係を説明する図である。図20のように、視差評価値Ri(k)はkの値によって変化し、k=Δiのとき極小値を持つ。これは、第1の画像信号I1のi番目のブロックBiをx、y方向にそれぞれ(−Δi、−Δi)だけ移動させて得られるブロックの画像信号は、第4の画像信号I4と最も相関がある(最も似ている)ことを示す。したがって、i番目のブロックBiについての第1の撮像信号I1と第4の撮像信号I4とのx、y方向の視差が(Δi、Δi)であることが分かる。以下、このΔiを、i番目のブロックBiの視差値Δiと呼ぶ。このように、i=0からi=M×N−1までBiの視差値Δiを求める。次に、ステップS1640を実行する。
【0124】
ステップS1640において、視差補正を行い、画像合成する。その結果をシステム制御部131のメモリに書き込む。第1の撮像素子123aおよび第4の撮像素子123dは、主に物体光の緑色成分を受光するため、第1の撮像信号I1、および第4の撮像信号I4は、物体光の緑色成分の情報信号である。また、第2の撮像素子123bは、主に物体光の青色成分を受光するため、第2の撮像信号I2は、物体光の青色成分の情報信号である。さらに、第3の撮像素子123cは、主に物体光の赤色成分を受光するため、第3の撮像信号I3は、物体光の赤色成分の情報信号である。i番目のブロックBiにおいて、第1の撮像素子123aと第4の撮像素子123dとの視差が(Δi、Δi)であると予測されたため、下記式(43)のように、画素座標(x、y)における緑色の強度を示すG(x,y)を、第1の撮像信号I1(x,y)、および第4の撮像信号I4(x-Δi,y-Δi)の平均とする。このように平均をとることにより、ランダムノイズの影響を低減できる。また、第1の撮像素子123aと第2の撮像素子123bの視差が(Δi、0)であると予測されたため、下記式(44)のように、画素座標(x、y)における青色の強度を示すB(x,y)を、第2の撮像信号I2(x-Δi,y)とする。さらに、第1の撮像素子123aと第3の撮像素子123cの視差が(0、Δi)であると予測されたため、下記式(45)のように、(x、y)における赤色の強度を示すR(x,y)を、第3の撮像信号I3(x,y-Δi)とする。次に、ステップS1650を実行する。
【0125】
G(x,y)=[I1(x,y)+I4(x-Δi,y-Δi)]/2・・・(43)
B(x,y)=I2(x-Δi,y) ・・・(44)
R(x,y)=I3(x,y-Δi) ・・・(45)
【0126】
ステップS1650において、視差補正を終了し、メインルーチンへ戻る。従って、次に、図11のステップS1700を実行する。
【0127】
ステップS1700において、画像を出力する。入出力部136は、システム制御部131のメモリ上のデータであるG(x,y),B(x,y),R(x,y)を、上位CPU(図示せず)や外部表示装置(図示せず)に出力する。なお、G(x,y),B(x,y),R(x,y)の代わりに、例えば、輝度、色差信号などの出力を出力してもよい。また、ホワイトバランスやγ補正などの画像処理後の値を出力してもよい。さらに、可逆圧縮やJPEG等のような非可逆圧縮をしたデータを出力してもよい。また、それらの複数を出力してもよい。次に、S1800を実行する。
【0128】
ステップS1800において、動作を終了する。
【0129】
以上のように構成し、動作させることにより、以下の効果を有する。
【0130】
部品精度のばらつきや組み立てのばらつきがあると、各色によって光軸中心に対し光量分布が偏り、偽色が発生する。実施の形態1の撮像装置では、強度補正係数a1、a2、a3、a4を不揮発メモリである強度補正係数用メモリ137に保存し、ステップS1300において、強度補正係数a1、a2、a3、a4に基づき、撮像領域の位置(x,y)により補正の度合が変化する強度補正値b1(x,y)、b2(x,y)、b3(x,y)、b4(x,y)を作成し、撮像信号I1(x,y)、I2(x,y)、I3(x,y)、I4(x,y)を補正する。このことにより、光量分布の偏りを補償し、偽色の発生を抑制し、きれいな画像を合成することができる。
【0131】
また、実施の形態1の係る撮像装置は、ステップS1300において強度補正係数a1、a2、a3、a4に基づき、撮像領域の位置(x,y)により補正の度合が変化する強度補正値b1(x,y)、b2(x,y)、b3(x,y)、b4(x,y)を作成し、撮像信号I1(x,y)、I2(x,y)、I3(x,y)、I4(x,y)を補正し、光量分布の偏りを補償し、ステップS1620において第1の撮像信号I1を複数のブロックに分割し、ステップS1630において補正された撮像信号I1(x,y)、I4(x,y)に基づきブロック毎に視差を求め、ステップS1640においてこの視差に基づきブロック毎に視差の影響を低減するように画像合成する。このことにより、光量分布の偏りを補償し、正しい視差を求め、この正しい視差に基づき画像合成するため、きれいな画像を合成することができる。
【0132】
また、実施の形態1に係る撮像装置は、原点補正用係数用メモリ138に原点補正係数g1x、g2x、g3x、g4x、g1y、g2y、g3y、g4yを保存し、ステップS1400において原点補正係数g1x、g2x、g3x、g4x、g1y、g2y、g3y、g4yに基づき、撮像信号I1(x,y)、I2(x,y)、I3(x,y)、I4(x,y)の原点を補正し、ステップS1630において補正された撮像信号I1(x,y)、I4(x,y)に基づきブロック毎に視差を求め、ステップS1640においてこの視差に基づきブロック毎に視差の影響を低減するように画像合成する。このことにより、正しい視差を求め、この正しい視差に基づき画像合成するため、きれいな画像を合成することができる。
【0133】
また、実施の形態1に係る撮像装置は、歪曲補正係数p1x(x,y)、p2x(x,y)、p3x(x,y)、p4x(x,y)、p1y(x,y)、p2y(x,y)、p3y(x,y)、p4y(x,y)を保存し、ステップS1520において歪曲補正係数p1x(x,y)、p2x(x,y)、p3x(x,y)、p4x(x,y)、p1y(x,y)、p2y(x,y)、p3y(x,y)、p4y(x,y)に基づき、歪曲補正用座標q1x(x,y)、q2x(x,y)、q3x(x,y)、q4x(x,y)、q1y(x,y)、q2y(x,y)、q3y(x,y)、q4y(x,y)を演算し、ステップS1530において歪曲補正用座標q1x(x,y)、q2x(x,y)、q3x(x,y)、q4x(x,y)、q1y(x,y)、q2y(x,y)、q3y(x,y)、q4y(x,y)において複数のレンズ部の歪曲の影響を低減するように撮像信号I1(x,y)、I2(x,y)、I3(x,y)、I4(x,y)を補正し、ステップS1630において補正された撮像信号I1(x,y)、I4(x,y)に基づきブロック毎に視差を求め、ステップS1640においてこの視差に基づきブロック毎に視差の影響を低減するように画像合成する。このことにより、正しい視差を求め、この正しい視差に基づき画像合成するため、きれいな画像を合成することができる。
【0134】
なお、実施の形態1の撮像装置は、第1の撮像素子123a、第2の撮像素子123b、第3の撮像素子123c、第4の撮像素子123dの感度の偏りがそれぞれ異なる場合にも、偽色発生を抑制する効果も併せて持つ。
【0135】
なお、実施の形態1の撮像装置において、演算された視差をそのまま利用したが、適宜リミットしてもよい。レンズ特性によっては被写体距離Aがある値よりも小さいとき、画像が不鮮明となる。そのため、この値を被写体距離Aの最小値と定めれば、視差Δの最大値を定められる。この値よりも大きい視差は、誤差であるとして無視してもよい。また、このような場合、視差評価値が2番目に小さい値を視差として採用してもよい。
【0136】
また、実施の形態1の撮像装置では、視差を第1の撮像信号I1(主に緑色を示す)と第4の撮像信号I4(主に緑色を示す)とから演算したが、本発明はこれに限定されない。例えば、紫色の被写体は緑色成分が少なく、青色成分、赤色成分を多く含むため、第1の撮像信号I1(主に緑色を示す)と第4の撮像信号I4(主に緑色を示す)とから演算できないことがある。この場合、第2の撮像信号I2(主に青色を示す)と第3の撮像信号I3(主に赤色を示す)とから視差を演算してもよい。また、第1の視差信号I1(主に緑色を示す)と第4の視差信号I4(主に緑色を示す)とから視差が演算不能であり、かつ、第2の撮像信号I2(主に青色を示す)と第3の撮像信号I3(主に赤色を示す)とから視差が演算不能であれば、視差の影響がないものとみなし、視差なしとすればよい。
【0137】
また、第1の実施の形態において、全てのレンズ部を透過した光線にIRフィルタが作用するが、IRフィルタの一部を削除し、一部のレンズ部を透過した光線について作用しなくてもよい。また、IRフィルタを全て削除してもよい。
【0138】
また、第1の実施の形態において、第1のカラーフィルタ124a、第2のカラーフィルタ124b、第3のカラーフィルタ124c、および第4のカラーフィルタ124dが、それぞれが主に緑色、青色、赤色、および緑色を透過したが、波長が異なってもよい。例えば、補色を利用し、第1のカラーフィルタ124a、第2のカラーフィルタ124b、第3のカラーフィルタ124c、および第4のカラーフィルタ124dが、それぞれが主に黄色、シアン、マゼンタ、および黄色を透過してもよい。さらに、順番を入れ替えてもよい。例えば、第1のカラーフィルタ124a、第2のカラーフィルタ124b、第3のカラーフィルタ124c、および第4のカラーフィルタ124dが、それぞれが主に緑色、緑色、青色、および赤色を透過してもよい。また、第1のカラーフィルタ124a、第2のカラーフィルタ124b、第3のカラーフィルタ124c、および第4のカラーフィルタ124dが、それぞれが主に赤色、青色、緑色、および赤色を透過してもよい。
【0139】
また、第1の実施の形態の撮像装置をカメラに搭載するとき、撮影時に上側になる方に第2の撮像素子123aが、下側になる方に第3の撮像素子123cが配置されるように、第1〜第4の撮像素子123a〜123dを配置することにより、上側が青色に敏感となり、下側が赤色に敏感となるので、風景写真の色再現をより自然にできる。
【0140】
また、視差評価値に目立つ極値が2つあるときは、より大きい方の視差を採用してもよい。このようなブロックには、被写体と背景が含まれており、被写体距離と背景距離とが異なるため、極値が2つ現れる。背景距離と比較して被写体距離は小さいため、背景の視差と比較して被写体の視差は大きい。ここで、大きい方の視差を採用すれば、背景の視差の影響は低減できないが、画質に直接影響する被写体の視差の影響を低減できる。
【0141】
また、画像出力のタイミングは、上記に限定されず、適宜プレビュー出力をしてもよい。例えば、ステップS1100において自動焦点制御を行う途中で、視差補正なしの画像を出力してもよい。
【0142】
また、実施の形態1において、撮像素子123は、第1の撮像素子123a、第2の撮像素子123b、第3の撮像素子123c、および第4の撮像素子123dから構成され、撮像信号入力部133は、第1の撮像信号入力部133a、第2の撮像信号入力部133b、第3の撮像信号入力部133c、および第4の撮像信号入力部133dから構成された。しかし、撮像素子123を1つの撮像素子で構成し、この受光面上の異なる位置に第1〜第4のレンズ部113a〜113dによる4つの像を形成しても良い。また、撮像信号入力部133が1つの撮像素子123からの信号が入力される1つの撮像信号入力部から構成されてもよい。この場合、システム制御部131のメモリ上に置かれたデータから適宜領域を選択し、第1の撮像信号I1、第2の撮像信号I2、第3の撮像信号I3、および第4の撮像信号I4とすればよい。
【0143】
また、第1の実施の形態において、第1のレンズ部113a、第2のレンズ部113b、第3のレンズ113c、および第4のレンズ部113dの光軸の中心を互いに結んで得られる矩形が正方形になるように配置されたがこれに限定されない。この矩形のx方向の長さとy方向の長さが異なってもよい。この場合、ステップS1630において視差を求めるとき、ステップS1640において視差補正をするときなど適宜変更を要する。すなわち、x方向とy方向とで同一のkを用いるのではなく、前述の矩形のx方向の長さとy方向の長さとの比を保つようにkを変更する。
【0144】
なお、上記の説明では、撮影によって得られた撮像信号に対して各種の補正を行い、視差を補正した後、撮像信号から画像を合成する装置の構成および動作を例示したが、本発明の撮像装置は、被写体までの距離を検出する測距装置としての応用も可能である。すなわち、本発明の撮像装置は、上述のように得られた視差に基づいて距離を演算し、得られた距離を出力する装置としての実施も可能であり、測量装置や車間距離検出装置等としての実用化が考えられる。すなわち、式(1)を距離Aについて解くと、下記式(46)のように示される。したがって、ブロックBiにおける被写体の距離は、下記式(47)のように演算され、そのブロックBiに含まれる画素(x,y)における被写体の距離は、下記式(48)のように示され、システム制御部131のメモリ上に保存される。なお、単位は演算時に適宜変更されている。そして、この距離情報A(x,y)を入出力部136を介し、外部に出力すれば、測距装置として機能する撮像装置を実現できる。
【0145】
A = f*D/Δ ・・・(46)
Ai = f*D/Δi ・・・(47)
A(x,y)= Ai ((x,y)はBiに含まれる) ・・・(48)
【0146】
(実施の形態2)
本発明の実施の形態2に係る撮像装置は、製造工程において強度補正係数を作成し、強度補正係数用メモリに書き込む。このことにより、部品精度のばらつきや組み立てのばらつきが各個体毎に変化しても、光量分布の偏りを補償し、偽色の発生を抑制し、きれいな画像を合成する。
【0147】
また、本発明の実施の形態2に係る撮像装置は、複数の撮像信号のうちの少なくとも1つの撮像信号を複数のブロックに分割し、製造工程において強度補正係数を作成し、強度補正係数用メモリに書き込む。これにより、部品精度のばらつきや組み立てのばらつきが各個体毎に変化しても、光量分布の偏りを補償し、補正された撮像信号に基づきブロック毎に視差を求め、この視差に基づきブロック毎に視差の影響を低減するように画像合成できる。このことにより、光量分布の偏りを補償し、正しい視差を求め、この正しい視差に基づき画像合成するため、きれいな画像を合成することができる。
【0148】
また、本発明の実施の形態2に係る撮像装置は、製造工程において原点補正係数を作成し、原点補正係数用メモリに書き込む。これにより、部品精度のばらつきや組み立てのばらつきが各個体毎に変化しても、原点のばらつきを補償し、補正された撮像信号に基づきブロック毎に視差を求め、この視差に基づきブロック毎に視差の影響を低減するように画像合成できる。このことにより、原点のばらつきを補償し、正しい視差を求め、この正しい視差に基づき画像合成するため、きれいな画像を合成することができる。
【0149】
また、本発明の実施の形態2に係る撮像装置は、製造工程において歪曲補正係数を作成し、歪曲補正係数用メモリに書き込む。これにより、部品精度のばらつきや組み立てのばらつきが各個体毎に変化しても、複数のレンズ部の歪曲の影響を低減するように撮像信号を補正し、補正された撮像信号に基づきブロック毎に視差を求め、この視差に基づきブロック毎に視差の影響を低減するように画像合成できる。このことにより、歪曲の影響を低減し、正しい視差を求め、この正しい視差に基づき画像合成するため、きれいな画像を合成することができる。
【0150】
本発明の実施の形態2に係る撮像装置について、図面を参照しながら説明する。図21は、本発明の実施の形態2に係る撮像装置の構成を示す断面図である。図21において、撮像装置201は、レンズモジュール部110、および回路部220を有する。
【0151】
レンズモジュール部110は、鏡筒111、上部カバーガラス112、レンズ113、アクチュエータ固定部114、およびアクチュエータ可動部115を有する。回路部220は、基板121、パッケージ122、撮像素子123、パッケージカバーガラス124、およびシステムLSI(以下、SLSIと記す)225を有する。SLSI225以外の構成と動作は、実施の形態1と同様であり、同一の符号を付与し、説明を省略する。
【0152】
図22は、本発明の実施の形態2に係る撮像装置のブロック図である。SLSI225は、システム制御部231、撮像素子駆動部132、撮像信号入力部133、アクチュエータ操作量出力部134、画像処理部135、入出力部136、強度補正係数用メモリ137、原点補正係数用メモリ138、歪曲補正係数用メモリ139、強度補正係数作成部251、原点補正係数作成部252、および歪曲補正係数作成部253を有する。また、回路部220は、前述の構成に加えて、アンプ126を有する。
【0153】
撮像装置201を組み立て後、製造工程の中の完成品検査工程において、以下に説明するように、強度補正係数作成部251が、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を作成し、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を強度補正係数用メモリ137に書き込む。また、原点補正係数作成部252が、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを作成し、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを原点補正係数用メモリ138に書き込む。さらに、歪曲補正係数作成部253が、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成し、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を歪曲補正係数用メモリ139に書き込む。
【0154】
図23は、本発明の実施の形態2に係る補正係数の作成時の撮像装置などの外観図である。201は本発明の実施の形態2の撮像装置であり、202は補正係数作成用コントローラ、203はディスプレイ、および204は撮像装置用ケーブルである。補正係数作成用コントローラ202は、産業用コンピュータから構成され、撮像装置201とディスプレイ204とを協調制御し、撮像装置201に強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4y、および歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成させる。ディスプレイ203は、CRT(Cathode Ray Tube)ディスプレイなどから構成され、補正係数作成用コントローラ202に制御され、撮像装置201と協調動作し、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4、および歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)の作成に使用する画像(チャート)を描画する。撮像装置用ケーブル204は、USB(Universal Serial Bus)ケーブルなどから構成され、撮像装置201と補正係数作成用コントローラ202とを接続し、撮像装置201に電力を供給し、撮像装置201と補正係数作成用コントローラ202の通信を媒介する。
【0155】
次に、本発明の実施の形態2に係る撮像装置の動作を説明する。図24は、本発明の実施の形態2に係る強度補正係数作成に使用する強度補正用チャートの外観図である。実施の形態2の撮像装置は、製造工程において、図24のような白色均一の被写体である強度補正用チャート205を撮影する。図25(A)〜図25(C)は、本発明の実施の形態2に係る撮像装置の撮像信号と強度補正係数と補正後の撮像信号とを示す波形図である。図25(A)〜(C)において、簡単のため、第1の撮像信号I1と、第1の強度補正係数a1と、補正後の第1の撮像信号I1のみを示す。図25(A)のように、この撮像信号I1は、周辺光量の落ち込みの強度情報を含む光量分布の偏りの強度情報である。強度補正係数作成部251は、撮像信号I1の逆数を、図25(B)のような強度補正係数a1として求め、強度補正係数用メモリ137に保存する。つまり、強度補正係数作成部251は、I1(x,y)*a1(x,y)=1となるように、a1(x,y)の値を求める。これにより、ステップS1300のように強度補正をすると、補正後の撮像信号は、図25(C)のように平坦となり、均一の被写体像を再現する。同様に、強度補正係数作成部251は、第2の撮像信号I2に対する第2の強度補正係数a2、第3の撮像信号I3に対する第3の強度補正係数a3、および第4の撮像信号I4に対する第4の強度補正係数a4を作成し、強度補正係数用メモリ137に書き込む。ここで、部品精度のばらつきや組み立てのばらつきがあり、各色によって光軸中心に対し光量分布が偏り、周辺光量の落ち込みがそれぞれ異なるとき、第2の強度補正係数a2、第3の強度補正係数a3、および第4の強度補正係数a4はそれぞれ異なる。このように、白色均一の被写体を撮影し、そのときの撮像信号の逆数を強度補正係数とすることにより、強度補正を適切に行うことができる。実施の形態2の撮像装置は、この原理に基づき、強度補正係数作成部251によって強度補正係数を作成し、作成された強度補正係数を強度補正係数用メモリ137に書き込む。そして、画像処理部135の強度補正部142が、強度補正係数用メモリ137に保存された強度補正係数に基づき強度補正を行う。
【0156】
図26は、本発明の実施の形態2に係る原点補正係数作成に使用する原点補正用チャートの外観図である。実施の形態2の撮像装置は、製造工程において、図26のような白色均一の被写体に十字が描画された原点補正用チャート206を撮影する。撮像装置201は、原点補正用チャート206に正対するように配置され、撮像装置201の複数のレンズの光軸の中心が、原点補正用チャート206の十字の中心に一致するように配置される。図27(A)〜図27(D)は、本発明の実施の形態2に係る原点補正用チャート206を撮影時の撮像信号を示す図である。原点補正用チャート206の撮影によって、第1の撮像信号I1、第2の撮像信号I2、第3の撮像信号I3、第4の撮像信号I4は、それぞれ図27(A)〜図27(D)に示されるような信号となる。図27(A)〜図27(D)における十字状の実線は、原点補正用チャート206に描画された十字が撮像されたものである。なお、図27(A)〜図27(D)における十字状の破線は、撮像信号との比較の便宜のために、画像の中心を通る線を仮想的に示したものであって、実際の信号には含まれない。図27のように、第1の撮像信号I1、第2の撮像信号I2、第3の撮像信号I3、第4の撮像信号I4の十字の中心(実線の中心)は、画像の中心(破線の中心)と比較し、それぞれ(s1x,s1y)、(s2x,s2y)、(s3x,s3y)、(s4x,s4y)だけずれている。このずれは、撮像装置201から原点補正用チャート206が有限の距離に配置されることによる視差の要因、およびレンズ部同士の製造時のずれや撮像素子の配置位置ずれなどによる製造ばらつきによる要因が複合されて生じる。したがって、それぞれの十字の中心のずれ(s1x,s1y)、(s2x,s2y)、(s3x,s3y)、(s4x,s4y)から視差の要因を減じたものが製造ばらつきによるずれである。原点補正係数作成部252は、このずれの影響をなくすように原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを作成し、作成した原点補正係数を原点補正係数用メモリ138へ書き込む。画像処理部135の原点補正部143が、原点補正係数用メモリ138の原点補正係数を用いて、S1400において原点補正する。
【0157】
図28は、本発明の実施の形態2に係る歪曲補正係数作成に使用する歪曲補正用チャートの外観図である。実施の形態2の撮像装置は、製造工程において、図28のような白色均一の被写体に格子が描画された歪曲補正用チャート207を撮影する。この格子の間隔は、撮影された画像において、10ピクセルから15ピクセルであることが好ましい。撮像装置201は、歪曲補正用チャート207に正対するように配置され、撮像装置201の複数のレンズの光軸の中心が、歪曲補正用チャート207の格子の中心に一致するように配置される。図29は、本発明の実施の形態2に係る歪曲補正用チャート207を撮影時の撮像信号を示す図である。図29において、簡単のため、第1の撮像信号I1のみを示す。歪曲補正用チャート207を撮影することにより、第1の撮像信号I1として、図29に示されるような信号が得られる。図29において格子状で歪曲した実線は、歪曲補正用チャート207に描画された格子が撮像されたものである。なお、図29において格子状で歪曲がない破線は、撮像信号との比較の便宜のために、レンズに歪曲がないときに撮像されるものを仮想的に示したものであって、実際の撮像信号には含まれない。なお、図29においては、原点ずれ、視差によるずれを除去している。撮像信号I1上の歪曲した格子の交点(実線の交点)を(ux1(i,j),uy1(i,j))と示し、レンズに歪曲がないときに撮像される格子の交点(破線の交点)を(vx1(i,j),vy1(i,j))と示す。ここで、(i,j)はそれぞれx方向にi番目、y方向にj番目の交点であることを示し、図29のように、格子の交点は端も含めx方向にWX+1個、y方向にWY+1個あり、左上端の交点は(vx1(0,0),vy1(0,0))と示され、右下端の交点は(vx1(WX,WY),vy1(WX,WY))と示される。
【0158】
歪曲補正係数作成部253は、歪曲補正後の(vx1(i,j),vy1(i,j))の撮像信号I1として、(ux1(i,j),uy1(i,j))の座標の撮像信号I1を用いるように、歪曲補正係数p1x(x,y)、p1y(x,y)を作成する。また、歪曲補正係数作成部253は、交点以外のピクセルの座標については、近隣の交点から補間により求めた座標の撮像信号I1を用いるように、歪曲補正係数p1x(x,y)、p1y(x,y)を作成する。なお、歪曲補正係数作成部253は、他の撮像信号I2、I3、I4についても同様に、歪曲補正係数p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成する。作成された歪曲補正係数は、歪曲補正係数用メモリ139に格納される。なお、原点ずれ、視差によるずれは適宜補正する。
【0159】
図30は、本発明の実施の形態2に係る強度補正係数、原点補正係数、および歪曲補正係数の作成方法を示すフローチャートである。
【0160】
ステップS2000において、撮像装置201の複数のレンズ部の光軸の中心がディスプレイ203の描画領域の中心に一致するように、撮像装置201を配置し、強度補正係数、原点補正係数、および歪曲補正係数の作成を開始する。次に、ステップS2110を実行する。
【0161】
ステップS2110において、撮像装置201と撮像装置用ケーブル204を接続する。これは、産業用ロボットなどにより行われる。このことにより、補正係数作成用コントローラ202から撮像装置201に電力が供給され、補正係数作成用コントローラ202と撮像装置201との通信が可能になる。次に、ステップS2120を実行する。
【0162】
ステップS2120において、補正係数作成用プログラムを撮像装置201へダウンロードする。補正係数作成用コントローラ202は、撮像装置201に撮像装置用ケーブル204が接続されたことを検知後、撮像装置201に補正係数作成用プログラムを送信する。そして、撮像装置201は、補正係数作成用プログラムを受信し、システム制御部131のメモリに書き込み、以下、この補正係数作成プログラムに従い強度補正係数の作成を進める。すなわち、強度補正係数作成部251、原点補正係数作成部252、および歪曲補正係数作成部253は、図22においては、システム制御部231とは独立したブロックとして図示したが、システム制御部131が補正係数作成用プログラムを実行することによってその機能が実現される仮想的なブロックである。なお、補正係数作成後、この補正係数作成プログラムは不要であり削除するため、揮発性メモリに保存しても、不揮発性メモリに保存してもよい。従って、出荷後の撮像装置201に、強度補正係数作成部251、原点補正係数作成部252、および歪曲補正係数作成部253が必ず存在するわけではない。次に、ステップS2210を実行する。
【0163】
ステップS2210において、補正係数作成用コントローラ202は、ディスプレイ203に白色均一光である強度補正用チャート205を描画させる。次に、ステップS2220を実行する。
【0164】
ステップS2220において、補正係数作成用コントローラ202は、撮像装置201に、撮像装置用ケーブル204を介し、撮影開始の指令を送信する。次に、ステップS2230を実行する。
【0165】
ステップS2230において、撮像装置201は強度補正用チャート205の撮影を行う。ステップS2220の指令に反応し、撮像装置201は、このステップS2230を実行する。この動作はステップS1200と同様であり説明を省略する。そして、撮像装置201は、撮像信号を、強度補正係数作成用の第1の撮像信号I1(0,x,y)、第2の撮像信号I2(0,x,y)、第3の撮像信号I3(0,x,y)、および第4の撮像信号I4(0,x,y)としてシステム制御部231のメモリに保存する。なお、このメモリとして、通常使用時に動画を保存する領域などを利用する。次に、ステップS2310を実行する。
【0166】
ステップS2310において、補正係数作成用コントローラ202は、ディスプレイ203に白色均一光を背景とし十字が配置された原点補正用チャート206を描画させる。ここで、補正係数作成用コントローラ202は、ディスプレイ203の描画領域の中心、すなわち撮像装置201の複数のレンズ部の光軸の中心が十字の交点と一致するように、原点補正用チャート206を描画させる。次に、ステップS2320を実行する。
【0167】
ステップS2320において、補正係数作成用コントローラ202は、撮像装置201に、撮影開始の指令を、撮像装置用ケーブル204を介し送信する。次に、ステップS2330を実行する。
【0168】
ステップS2330において、撮像装置201は、原点補正用チャート206の撮影を行う。ステップS2320の指令に反応し、撮像装置201は、このステップS2330を実行する。この動作はステップS1200と同様であり説明を省略する。そして、撮像装置201は、撮像信号を、原点補正係数作成用の第1の撮像信号I1(1,x,y)、第2の撮像信号I2(1,x,y)、第3の撮像信号I3(1,x,y)、および第4の撮像信号I4(1,x,y)としてシステム制御部231のメモリに保存する。なお、このメモリとして、通常使用時に動画を保存する領域などを利用する。次に、ステップS2410を実行する。
【0169】
ステップS2410において、補正係数作成用コントローラ202は、ディスプレイ203に、白色均一光を背景とし格子が配置された歪曲補正用チャート207を描画する。ここで、補正係数作成用コントローラ202は、ディスプレイ203の描画領域の中心、すなわち撮像装置201の複数のレンズ部の光軸の中心が格子の中心と一致するように、歪曲補正用チャート207を描画させる。次に、ステップS2420を実行する。
【0170】
ステップS2420において、補正係数作成用コントローラ202は、撮像装置201に、撮影開始の指令を、撮像装置用ケーブル204を介し送信する。次に、ステップS2430を実行する。
【0171】
ステップS2430において、撮像装置201は、歪曲補正用チャート207の撮影を行う。ステップS2320の指令に反応し、撮像装置201は、このステップS2430を実行する。この動作はステップS1200と同様であり説明を省略する。そして、撮像装置201は、撮像信号を、歪曲補正係数作成用の第1の撮像信号I1(2,x,y)、第2の撮像信号I2(2,x,y)、第3の撮像信号I3(2,x,y)、および第4の撮像信号I4(2,x,y)としてシステム制御部231のメモリに保存する。なお、このメモリとして、通常使用時に動画を保存する領域などを利用する。次に、ステップS2510を実行する。
【0172】
ステップS2510において、強度補正係数作成部251は、ステップS2230で撮影してメモリに保存されている、強度補正係数作成用の第1の撮像信号I1(0,x,y)、第2の撮像信号I2(0,x,y)、第3の撮像信号I3(0,x,y)、および第4の撮像信号I4(0,x,y)を用いて、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、およびa4(x,y)を作成する。強度補正係数作成部251は、下記式(49)のように画像の中心位置での強度補正係数作成用の第1の撮像信号I1(0,L/2,H/2)と、強度補正係数作成用の第1の撮像信号I1(0,x,y)との比を、第1の強度補正係数a1(x,y)とする。ここで、I1(0,L/2,H/2)は、強度補正係数作成用の第1の撮像信号のうち、画像の中央部の画素(すなわち、x座標がL/2、y座標H/2の画素)の信号を表す。なお、Hは画像の縦方向の画素数、Lは横方向の画素数である。また、強度補正係数作成部251は、下記式(50)のように画像の中心位置での強度補正係数作成用の第2の撮像信号I2(0,L/2,H/2)と強度補正係数作成用の第2の撮像信号I2(0,x,y)との比を第2の強度補正係数a2(x,y)とし、下記式(51)のように画像の中心位置での強度補正係数作成用の第3の撮像信号I3(0,L/2,H/2)と強度補正係数作成用の第3の撮像信号I3(i,x,y)のと比を第3の強度補正係数a3(x,y)とし、下記式(52)のように画像の中心位置での強度補正係数作成用の第4の撮像信号I4(0,L/2,H/2)と強度補正係数作成用の第4の撮像信号I4(i,x,y)との比を第4の強度補正係数a4(x,y)とする。なお、ステップS2230において強度補正用チャート205の撮影を複数回行い、それらの画像を加算平均した画像を、強度補正係数作成用の撮像信号として用いてもよい。この場合、平均化により、ランダムノイズなどの影響を低減できる。次に、ステップS2520を実行する。
【0173】
a1(x,y)=I1(0,L/2,H/2)/I1(0,x,y) ・・・(49)
a2(x,y)=I2(0,L/2,H/2)/I2(0,x,y) ・・・(50)
a3(x,y)=I3(0,L/2,H/2)/I3(0,x,y) ・・・(51)
a4(x,y)=I4(0,L/2,H/2)/I4(0,x,y) ・・・(52)
【0174】
ステップS2520において、強度補正係数作成部251は、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、およびa4(x,y)を強度補正係数用メモリ137に書き込む。この強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、およびa4(x,y)は、S1300の強度補正において使用される。次に、ステップS2610を実行する。
【0175】
ステップS2610において、原点補正係数作成部252は、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを作成する。図27のように、原点補正係数作成用の第1の撮像信号I1(1,x,y)、原点補正係数作成用の第2の撮像信号I2(1,x,y)、原点補正係数作成用の第3の撮像信号I3(1,x,y)、原点補正係数作成用の第4の撮像信号I4(1,x,y)の十字の中心(図27(A)〜図27(D)に示す実線の中心)の、画像の中心(図27(A)〜図27(D)に示す破線の中心)に対するそれぞれのずれ(s1x,s1y)、(s2x,s2y)、(s3x,s3y)、(s4x,s4y)を検知する。ここで、それぞれの原点補正係数作成用の撮像信号I1(1,x,y)、I2(1,x,y)、I3(1,x,y)、I4(1,x,y)における十字の中心の座標を求める方法としては、撮像信号I1(1,x,y)、I2(1,x,y)、I3(1,x,y)、I4(1,x,y)と十字の小画像とのパターンマッチングを行う方法や、撮像信号I1(1,x,y)、I2(1,x,y)、I3(1,x,y)、I4(1,x,y)を二値化して十字のパターンを求める方法などが用いられる。このような方法により撮像信号I1(1,x,y)、I2(1,x,y)、I3(1,x,y)、I4(1,x,y)から得られた十字の中心の座標から、画像の中心の座標を減じることにより、前記のずれ(s1x,s1y)、(s2x,s2y)、(s3x,s3y)、(s4x,s4y)が得られる。
【0176】
次に、原点補正係数作成部252は、視差の影響を除去するために、まず、視差の大きさを演算する。下記式(53)、(54)のように、原点補正係数作成部252は、視差のx成分Δxと視差のy成分Δyとを求める。ここで、fはレンズの焦点距離であり、Dxはレンズ部の光軸間の距離のx成分である。Dxは、第1のレンズ113aの光軸と第2のレンズ113bの光軸との距離、あるいは、第3のレンズ113cの光軸と第4のレンズ113dの光軸との距離であり、これらの距離は略一致する。Dyはレンズ部の光軸間の距離のy成分である。Dyは、第1のレンズ113aの光軸と第3のレンズ113cの光軸との距離、あるいは、第2のレンズ113bの光軸と第4のレンズ113dの光軸との距離であり、これらの距離は略一致する。Aは、撮像装置のレンズの主点(第1のレンズ113aの主点、第2のレンズ113bの主点、第3のレンズ113cの主点、あるいは第4のレンズ114dの主点)からディスプレイ203(原点補正用チャート206)までの距離である。なお、各レンズの主点からディスプレイ203までの距離は略一致する。そして、原点補正係数作成部252は、下記式(55)、(56)、(57)、(58)、(59)、(60)、(61)、および(62)のように、第1の撮像信号I1、第2の撮像信号I2、第3の撮像信号I3、第4の撮像信号I4の十字の中心(図27(A)〜図27(D)に示す実線の中心)の、画像の中心(図27(A)〜図27(D)に示す波線の中心)に対するそれぞれのずれ(s1x,s1y)、(s2x,s2y)、(s3x,s3y)、(s4x,s4y)から視差(Δx、あるいはΔy)を除去し、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを作成する。なお、ステップS2330において、原点補正用チャート206の撮影を複数回行い、それらの画像を加算平均した画像を、原点補正係数作成用の撮像信号として用いてもよい。この場合、平均化により、ランダムノイズなどの影響を低減できる。また、視差(Δx、あるいはΔy)やずれ(s1x,s1y)、(s2x,s2y)、(s3x,s3y)、(s4x,s4y)を小数点の精度で求めることにより、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを小数点の精度で求めてもよい。次に、ステップS2620を実行する。
【0177】
Δx = f*Dx/A ・・・(53)
Δy = f*Dy/A ・・・(54)
g1x=s1x-Δx/2 ・・・(55)
g1y=s1y-Δy/2 ・・・(56)
g2x=s2x+Δx/2 ・・・(57)
g2y=s2y-Δy/2 ・・・(58)
g3x=s3x-Δx/2 ・・・(59)
g3y=s3y+Δy/2 ・・・(60)
g4x=s4x+Δx/2 ・・・(61)
g4y=s4y+Δy/2 ・・・(62)
【0178】
ステップS2620において、原点補正係数作成部252は、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを原点補正係数用メモリ138に書き込む。この原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yは、ステップS1400の原点補正において使用される。次に、ステップS2710を実行する。
【0179】
ステップS2710において、歪曲補正係数作成部253は、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成する。以下、第1の歪曲補正係数p1x(x,y)、p1y(x,y)の作成方法を説明する。歪曲補正用チャート207を撮影したときの歪曲補正係数作成用の第1の撮像信号I1(2,x,y)は、レンズ部に歪曲がなければ図29の歪曲のない格子(波線)として撮像されるべきものが、レンズ部の歪曲のために、歪曲した格子(実線)として撮像される。まず、歪曲補正係数作成用の第1の撮像信号I1(2,x,y)を2値化し、十字状のパターンを検知することにより、歪曲した格子(図29に示す実線)の交点の座標(ux1(i,j),uy1(i,j))を求める。この歪曲した格子(図29に示す実線)の交点(ux1(i,j),uy1(i,j))は、レンズ部の歪曲がなければ、歪曲のない格子(図29に示す波線)の交点(vx1(i,j),vy1(i,j))にあるべき点である。
【0180】
歪曲のない格子(図29に示す波線)において、左上端の交点(vx1(0,0),vy1(0,0))の座標を(vx10,vy10)とし、格子のx方向の間隔をpx、格子のy方向の間隔をpyとすると、この格子の各交点(vx1(i,j),vy1(i,j))の座標は、下記式(63)および(64)のように表される。vx10、vy10、px、pyはレンズの焦点距離、撮像装置201とディスプレイ203との距離、歪曲補正用チャート207の格子サイズなどから決定される。そして、歪曲した格子(図29に示す実線)の交点(ux1(i,j),uy1(i,j))は、歪曲がなければ、歪曲のない格子(図29に示す波線)の交点(vx1(i,j),vy1(i,j))にあるべき点であるため、交点(vx1(i,j),vy1(i,j))での第1の歪曲補正係数p1x(vx1(i,j),vy1(i,j))、p1y(vx1(i,j),vy1(i,j))は、下記式(65)および(66)のように示される。交点(vx1(i,j),vy1(i,j))以外の座標での第1の歪曲補正係数p1x(x,y)、p1y(x,y)は、下記式(67)および(68)のように、座標(x,y)の周辺の歪曲のない格子(図29に示す波線)上の交点での歪曲補正係数(式(65)および(66)に示されたもの)を線形補間し作成する。図31は、歪曲補正係数を線形補間より作成する際に参照する座標を示す図である。ここで、(vx(i,j),vy(i,j))は、求めようとする座標(x,y)の左上にある歪曲のない格子(図29に示す波線)の交点である。そして、歪曲補正係数作成部253は、下記式(69)および(70)のように、原点補正係数g1x、g1yと視差Δx(式(53)参照)、Δy(式(54参照))とを用いて、原点ずれと視差の影響を除去する。
【0181】
vx1(i,j)=vx10+px*i ・・・(63)
vy1(i,j)=vy10+py*i ・・・(64)
p1x(vx1(i,j),vy1(i,j))=ux1(i,j)-vx1(i,j) ・・・(65)
p1y(vx1(i,j),vy1(i,j))=uy1(i,j)-vy1(i,j) ・・・(66)
p1x(x,y)=
[(vx1(i+1,j+1)-x)*(vy1(i+1,j+1)-y)*p1x(vx1(i,j),vy1(i,j))
+(vx1(i+1,j)-x)*(y-vy1(i+1,j))*p1x(vx1(i,j+1),vy1(i,j+1))
+(x-vx1(i,j+1))*(vy1(i,j+1)-y)*p1x(vx1(i+1,j),vy1(i+1,j))
+(x-vx1(i,j))*(y-vy1(i,j))*p1x(vx1(i+1,j+1),vy1(i+1,j+1))]
/(px*py) ・・・(67)
p1y(x,y)=
[(vx1(i+1,j+1)-x)*(vy1(i+1,j+1)-y)*p1y(vx1(i,j),vy1(i,j))
+(vx1(i+1,j)-x)*(y-vy1(i+1,j))*p1y(vx1(i,j+1),vy1(i,j+1))
+(x-vx1(i,j+1))*(vy1(i,j+1)-y)*p1y(vx1(i+1,j),vy1(i+1,j))
+(x-vx1(i,j))*(y-vy1(i,j))*p1y(vx1(i+1,j+1),vy1(i+1,j+1))]
/(px*py) ・・・(68)
p1x(x,y)=p1x(x,y)-g1x-Δx/2 ・・・(69)
p1y(x,y)=p1y(x,y)-g1y-Δy/2 ・・・(70)
【0182】
歪曲補正係数作成部253は、第2の歪曲補正係数p2x(x,y)、p2y(x,y)、第3の歪曲補正係数p3x(x,y)、p3y(x,y)、および第4の歪曲補正係数p4x(x,y)、p4y(x,y)も同様に求める。すなわち、歪曲補正係数作成用の第2の撮像信号I2(2,x,y)、歪曲補正係数作成用の第3の撮像信号I3(2,x,y)、および歪曲補正係数作成用の第4の撮像信号I4(2,x,y)に基づき、歪曲した格子の交点の座標(ux2(i,j),uy2(i,j))、(ux3(i,j),uy3(i,j))、および(ux4(i,j),uy4(i,j))を求める。歪曲のない格子の交点(vx2(i,j),vy2(i,j))、(vx3(i,j),vy3(i,j))、(vx4(i,j),vy4(i,j))は、下記式(71)、(72)、(73)、(74)、(75)、および(76)のように示される。
【0183】
そして、(vx2(i,j),vy2(i,j))での第2の歪曲補正係数p2x(vx2(i,j),vy2(i,j))、p2y(vx2(i,j),vy2(i,j))は、下記式(77)および(78)のように示され、(vx3(i,j),vy3(i,j))での第3の歪曲補正係数p3x(vx3(i,j),vy3(i,j))、p3y(vx3(i,j),vy3(i,j))は、下記式(79)および(80)のように示され、(vx4(i,j),vy4(i,j))での第4の歪曲補正係数p4x(vx4(i,j),vy4(i,j))、p4y(vx4(i,j),vy4(i,j))は、下記式(81)および(82)のように示される。さらに、歪曲補正係数作成部253は、(vx2(i,j),vy2(i,j))以外の座標での第2の歪曲補正係数p2x(x,y)、p2y(x,y)を、下記式(83)および(84)のように、座標(x,y)の周辺の歪曲のない格子上の交点での歪曲補正係数(式(77)および(78)に示されたもの)を線形補間し作成する。また、歪曲補正係数作成部253は、(vx3(i,j),vy3(i,j))以外の座標での第3の歪曲補正係数p3x(x,y)、p3y(x,y)を、下記式(85)および(86)のように、座標(x,y)の周辺の歪曲のない格子上の交点での歪曲補正係数(式(79)および(80)に示されたもの)を線形補間し作成する。さらに、歪曲補正係数作成部253は、(vx4(i,j),vy4(i,j))以外の座標での第4の歪曲補正係数p4x(x,y)、p4y(x,y)を、下記式(87)および(88)のように、座標(x,y)の周辺の歪曲のない格子上の交点での歪曲補正係数(式(81)および(82)に示されたもの)を線形補間し作成する。そして、歪曲補正係数作成部253は、下記式(89)、(90)、(91)、(92)、(93)、および(94)のように、原点補正係数g2x、g2y、g3x、g3y、g4x、g4yと、視差Δx(式(53)参照)、Δy(式(54)参照)とを用いて、原点ずれと視差の影響を除去する。次に、ステップS2720を実行する。
【0184】
vx2(i,j)=vx20+px*i ・・・(71)
vy2(i,j)=vy20+py*i ・・・(72)
vx3(i,j)=vx30+px*i ・・・(73)
vy3(i,j)=vy30+py*i ・・・(74)
vx4(i,j)=vx40+px*i ・・・(75)
vy4(i,j)=vy40+py*i ・・・(76)
p2x(vx2(i,j),vy2(i,j))=ux2(i,j)-vx2(i,j) ・・・(77)
p2y(vx2(i,j),vy2(i,j))=uy2(i,j)-vy2(i,j) ・・・(78)
p3x(vx3(i,j),vy3(i,j))=ux3(i,j)-vx3(i,j) ・・・(79)
p3y(vx3(i,j),vy3(i,j))=uy3(i,j)-vy3(i,j) ・・・(80)
p4x(vx4(i,j),vy4(i,j))=ux4(i,j)-vx4(i,j) ・・・(81)
p4y(vx4(i,j),vy4(i,j))=uy4(i,j)-vy4(i,j) ・・・(82)
p2x(x,y)=
[(vx2(i+1,j+1)-x)*(vy2(i+1,j+1)-y)*p2x(vx2(i,j),vy2(i,j))
+(vx2(i+1,j)-x)*(y-vy2(i+1,j))*p2x(vx2(i,j+1),vy2(i,j+1))
+(x-vx2(i,j+1))*(vy2(i,j+1)-y)*p2x(vx2(i+1,j),vy2(i+1,j))
+(x-vx2(i,j))*(y-vy2(i,j))*p2x(vx2(i+1,j+1),vy2(i+1,j+1))]
/(px*py) ・・・(83)
p2y(x,y)=
[(vx2(i+1,j+1)-x)*(vy2(i+1,j+1)-y)*p2y(vx2(i,j),vy2(i,j))
+(vx2(i+1,j)-x)*(y-vy2(i+1,j))*p2y(vx2(i,j+1),vy2(i,j+1))
+(x-vx2(i,j+1))*(vy2(i,j+1)-y)*p2y(vx2(i+1,j),vy2(i+1,j))
+(x-vx2(i,j))*(y-vy2(i,j))*p2y(vx2(i+1,j+1),vy2(i+1,j+1))]
/(px*py) ・・・(84)
p3x(x,y)=
[(vx3(i+1,j+1)-x)*(vy3(i+1,j+1)-y)*p3x(vx3(i,j),vy3(i,j))
+(vx3(i+1,j)-x)*(y-vy3(i+1,j))*p3x(vx3(i,j+1),vy3(i,j+1))
+(x-vx3(i,j+1))*(vy3(i,j+1)-y)*p3x(vx3(i+1,j),vy3(i+1,j))
+(x-vx3(i,j))*(y-vy3(i,j))*p3x(vx3(i+1,j+1),vy3(i+1,j+1))]
/(px*py) ・・・(85)
p3y(x,y)=
[(vx3(i+1,j+1)-x)*(vy3(i+1,j+1)-y)*p3y(vx3(i,j),vy3(i,j))
+(vx3(i+1,j)-x)*(y-vy3(i+1,j))*p3y(vx3(i,j+1),vy3(i,j+1))
+(x-vx3(i,j+1))*(vy3(i,j+1)-y)*p3y(vx3(i+1,j),vy3(i+1,j))
+(x-vx3(i,j))*(y-vy3(i,j))*p3y(vx3(i+1,j+1),vy3(i+1,j+1))]
/(px*py) ・・・(86)
p4x(x,y)=
[(vx4(i+1,j+1)-x)*(vy4(i+1,j+1)-y)*p4x(vx4(i,j),4vy(i,j))
+(vx4(i+1,j)-x)*(y-vy4(i+1,j))*p4x(vx4(i,j+1),vy4(i,j+1))
+(x-vx4(i,j+1))*(vy4(i,j+1)-y)*p4x(vx4(i+1,j),vy4(i+1,j))
+(x-vx4(i,j))*(y-vy4(i,j))*p4x(vx4(i+1,j+1),vy4(i+1,j+1))]
/(px*py) ・・・(87)
p4y(x,y)=
[(vx4(i+1,j+1)-x)*(vy4(i+1,j+1)-y)*p4y(vx4(i,j),vy4(i,j))
+(vx4(i+1,j)-x)*(y-vy4(i+1,j))*p4y(vx4(i,j+1),vy4(i,j+1))
+(x-vx4(i,j+1))*(vy4(i,j+1)-y)*p4y(vx4(i+1,j),vy4(i+1,j))
+(x-vx4(i,j))*(y-vy4(i,j))*p4y(vx4(i+1,j+1),vy4(i+1,j+1))]
/(px*py) ・・・(88)
p2x(x,y)=p2x(x,y)-g2x-Δx/2 ・・・(89)
p2y(x,y)=p2y(x,y)-g2y-Δy/2 ・・・(90)
p3x(x,y)=p3x(x,y)-g3x-Δx/2 ・・・(91)
p3y(x,y)=p3y(x,y)-g3y-Δy/2 ・・・(92)
p4x(x,y)=p4x(x,y)-g4x-Δx/2 ・・・(93)
p4y(x,y)=p4y(x,y)-g4y-Δy/2 ・・・(94)
【0185】
ステップS2720において、歪曲補正係数作成部253は、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を歪曲補正係数用メモリ139に書き込む。この歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)は、ステップS1500の歪曲補正において使用される。次に、ステップS2810を実行する。
【0186】
ステップS2810において、システム制御部231は、補正係数作成プログラムを消去する。補正係数作成プログラムは、強度補正係数、原点補正係数、および歪曲補正係数を作成するときのみ必要であり、通常の被写体を撮影するときは不要である。従って、ステップS2120で補正係数作成プログラムをダウンロードし、このステップで補正係数作成プログラムを消去することにより、通常使用時に利用できるメモリを増やすことができる。次に、ステップS2820を実行する。
【0187】
ステップS2820において、撮像装置201から撮像装置用ケーブル204がはずされる。これは、産業用ロボットなどにより行われる。この撮像装置用ケーブル204は、次に、他の撮像装置に接続され、他の撮像装置の強度補正係数、原点補正係数、および歪曲補正係数の作成に使用される。次に、ステップS2900を実行する。
【0188】
ステップS2900において、強度補正係数、原点補正係数、および歪曲補正係数の作成を終了する。
【0189】
そして、撮像装置201は、通常使用時は、実施の形態1と同様に動作する。
【0190】
以上のように構成し動作させることにより、実施の形態2の撮像装置は以下に示す効果を有する。
【0191】
実施の形態2の撮像装置201は、製造工程において、ステップS2230において強度補正用チャート205を撮影し、ステップS2510において強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を作成し、ステップS2520において強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を強度補正係数保存用メモリ137に書き込む。そして、通常使用時に、ステップS1300において、この強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)に基づき強度補正する。このことにより、部品精度のばらつきや組み立てのばらつきが撮像装置201の各個体毎に変化しても、光量分布の偏りを補償し、偽色の発生を抑制し、きれいな画像を合成することができる。
【0192】
なお、実施の形態2の撮像装置201は、第1の撮像素子123a、第2の撮像素子123b、第3の撮像素子123c、第4の撮像素子123dの感度の偏りがそれぞれ異なる場合にも、偽色発生を抑制する効果も併せて持つ。
【0193】
また、実施の形態2の撮像装置201は、製造工程において、ステップS2330において原点補正用チャート206を撮影し、ステップS2610において原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを作成し、ステップS2620において原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを原点補正係数保存用メモリ138に書き込む。そして、通常使用時に、ステップS1400において、この原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yに基づき原点補正する。このことにより、部品精度のばらつきや組み立てのばらつきが撮像装置201の各個体毎に変化しても、原点のばらつきを補償し、正しい視差を求め、この正しい視差に基づき画像合成するため、きれいな画像を合成することができる。
【0194】
また、実施の形態2の撮像装置201は、製造工程において、ステップS2430において歪曲補正用チャート207を撮影し、ステップS2710において歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)、ステップS2720において歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を歪曲補正係数保存用メモリ139に書き込む。そして、通常使用時に、ステップS1500において、この歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)に基づき歪曲補正する。このことにより、部品精度のばらつきや組み立てのばらつきが撮像装置201の各個体毎に変化しても、歪曲の影響を低減し、正しい視差を求め、この正しい視差に基づき画像合成するため、きれいな画像を合成することができる。
【0195】
なお、実施の形態2の撮像装置201において、ディスプレイ203によって描画された強度補正用チャート205、原点補正用チャート206、および歪曲補正用チャート207を撮影したが、紙製のチャートに適宜照明を施し撮影してもよい。また、ガラスや透明樹脂のような透過型チャートを拡散白色照明の前に配置したものを撮影してもよい。
【0196】
また、実施の形態2では、撮像装置201がステップS2510において強度補正係数a1、a2、a3、a4を作成し、ステップS2610において原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを作成し、ステップS2710において歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成した。しかし、この代わりに、撮像装置201が、補正係数作成用コントローラ202にディジタル化された強度補正係数作成用の撮像信号I1(0,x,y)、I2(0,x,y)、I3(0,x,y)、I4(0,x,y)、原点補正係数作成用の撮像信号I1(1,x,y)、I2(1,x,y)、I3(1,x,y)、I4(1,x,y)、および歪曲補正係数作成用の撮像信号I1(2,x,y)、I2(2,x,y)、I3(2,x,y)、I4(2,x,y)を転送し、補正係数作成用コントローラ202が、強度補正係数a1、a2、a3、a4、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4y、および歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を計算して撮像装置201に転送しても良い。この場合、撮像装置201が、補正係数作成用コントローラ202によって計算された強度補正係数a1、a2、a3、a4を強度補正係数用メモリ137に保存し、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを原点補正係数用メモリ138に保存し、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を歪曲補正係数用メモリ139に保存してもよい。
【0197】
また、実施の形態2の撮像装置201において、補正係数作成プログラムはシステム制御部231のメモリに置いたが、この代わりに、SDカードなどのフラッシュメモリのような外部メモリに補正係数作成プログラムを記憶し、システム制御部231が、入出力部136を介して外部メモリへアクセスしてこの補正係数作成プログラムを実行するようにしてもよい。同様に、ステップS2510、ステップS2610、およびステップS2710で撮影した撮像信号を外部メモリに保存するようにしてもよい。
【0198】
また、実施の形態2の撮像装置201は、ステップS2510において、強度補正用の撮像信号I1(0,x,y)、I2(0,x,y)、I3(0,x,y)、I4(0,x,y)の逆数を強度補正係数a1、a2、a3、a4としたが、空間的なLPFや時間的なLPFを作用してもよい。例えば、式(12)のような空間的なLPFを作用してもよい。
【0199】
また、実施の形態2の撮像装置201は、ステップS2230、ステップS2330、およびステップS2430において1回の撮影により得られた撮像信号を用いて、ステップS2510、ステップS2610、およびステップS2710においてそれぞれ強度補正係数a1、a2、a3、a4、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4y、および歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を求めたが、複数回撮影して得られた撮像信号を平均したものを用いてもよい。複数回撮影した撮像信号の平均を用いることは、時間的なLPFを作用していることと等価である。このようなLPFを作用させることにより、ランダムノイズなどの影響を低減し、精度がよい強度補正係数a1、a2、a3、a4、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4y、および歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成できるため、よりきれいな画像を合成できる。
【0200】
また、実施の形態2の撮像装置201は、各画素(x,y)ごとに強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を作成したが、近似式を用いてもよい。例えば、第1の強度補正係数として、下記式(95)のようにx方向とy方向にべき数展開したものを乗じた近似式や、下記式(96)のようなべき数展開した近似式を定め、ステップS2510において最小二乗法などで係数(a1x0、a1x1、a1x2、a1x3、a1xz、a1y0、a1y1、a1y2、a1y3、a1yz、あるいはa100、a110、a101、a120、a111、a102、a130、a121、a112、a103、a1xz、a1yz)を作成し、ステップS2520においてこれらの係数を強度補正係数用メモリ137に書き込み、ステップS1320において式(95)や(96)を用いて各画素(x,y)の第1の強度補正値b1(x,y)を作成してもよい。なお、式(95)および(96)において、記号「^」はべき乗を表す。また、第2の強度補正係数、第3の強度補正係数、第4の強度補正係数を第1の補正係数と同様に定め、ステップS1320において、式(95)(96)と同様に第2の強度補正値b2(x,y)、第3の強度補正値b3(x,y)、および第4の強度補正値b4(x,y)を求めてもよい。
【0201】
[a1x0+a1x1*(x-a1xz)+a1x2*(x-a1xz)^2+a1x3*(x-a1xz)^3]
*[a1y0+a1y1*(y-a1yz)+a1y2*(y-a1yz)^2+a1y3*(y-a1yz)^3]
・・・(95)
a100+a110*(x-a1xz)+a101*(y-a1yz)
+a120*(x-a1xz)^2+a111*(x-a1xz)*(y-a1yz)+a102*(y-a1yz)^2
+a130*(x-a1xz)^3+a121*(x-a1xz)^2*(y-a1yz)
+a112*(x-a1xz)*(y-a1yz)^2+a103*(y-a1yz)^3 ・・・(96)
【0202】
また、実施の形態2の撮像装置201は、ステップS2230において照度が一定の白色均一光を撮影し、1組の強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を作成したが、照度が異なる白色均一光を複数撮影し、複数組の強度補正係数を作成しても良い。この場合、ステップS1300において、前記複数組みの強度補正係数から、強度に応じていずれかの強度補正係数を選択し、利用してもよい。また、前述の近似式に、強度により変化する項を付加してもよい。この場合、強度により非線形的に変化する現象も補償できる。
【0203】
また、実施の形態2の撮像装置201は、ステップS2230において照度が一定の白色均一光を撮影し、撮像信号I1、I2、I3、I4が均一になるような、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を作成したが、画像の周辺部分での強度が減少するようにしてもよい。すなわち、下記式(97)のように、画像の中心位置での強度補正係数作成用の第1の撮像信号I1(0,L/2,H/2)と強度補正係数作成用の第1の撮像信号I1(0,x,y)との比に、画像の周辺になるほど小さくなる係数(1-ksh*[(x-L/2)^2+(y-H/2)^2])を乗じた結果を、第1の強度補正係数a1(x,y)とする。また、下記式(98)のように、画像の中心位置での強度補正係数作成用の第2の撮像信号I2(0,L/2,H/2)と強度補正係数作成用の第2の撮像信号I2(0p,x,y)との比に、画像の周辺になるほど小さくなる係数(1-ksh*[(x-L/2)^2+(y-H/2)^2])を乗じた結果を、第2の強度補正係数a2(x,y)とする。また、下記式(99)のように、画像の中心位置での強度補正係数作成用の第3の撮像信号I3(0,L/2,H/2)と強度補正係数作成用の第3の撮像信号I3(i,x,y)のと比に、画像の周辺になるほど小さくなる係数(1-ksh*[(x-L/2)^2+(y-H/2)^2])を乗じた結果を、第3の強度補正係数a3(x,y)とする。さらに、下記式(100)のように、画像の中心位置での強度補正係数作成用の第4の撮像信号I4(0,L/2,H/2)と強度補正係数作成用の第4の撮像信号I4(i,x,y)との比に、画像の周辺になるほど小さくなる係数(1-ksh*[(x-L/2)^2+(y-H/2)^2])を乗じた結果を、第4の強度補正係数a4(x,y)とする。なお、kshはある設定値を示し、(x-L/2)^2は(x-L/2)の二乗を示し、(y-H/2)^2は(y-H/2)の二乗を示す。このことにより、画像の周辺部分が減光したようなより自然な画像が作成できる。
【0204】
a1(x,y)=I1(0,L/2,H/2)/I1(0,x,y)*(1-ksh*[(x-L/2)^2+(y-H/2)^2])
・・・(97)
a2(x,y)=I2(0,L/2,H/2)/I2(0,x,y)*(1-ksh*[(x-L/2)^2+(y-H/2)^2])
・・・(98)
a3(x,y)=I3(0,L/2,H/2)/I3(0,x,y)*(1-ksh*[(x-L/2)^2+(y-H/2)^2])
・・・(99)
a4(x,y)=I4(0,L/2,H/2)/I4(0,x,y)*(1-ksh*[(x-L/2)^2+(y-H/2)^2])
・・・(100)
【0205】
また、実施の形態2の撮像装置201は、上述のように、ステップS2510において、式(49)のように画像の中心位置での強度補正係数作成用の第1の撮像信号I1(0,L/2,H/2)と強度補正係数作成用の第1の撮像信号I1(0,x,y)との比を第1の強度補正係数a1(x,y)とし、式(52)のように画像の中心位置での強度補正係数作成用の第4の撮像信号I4(0,L/2,H/2)と強度補正係数作成用の第4の撮像信号I4(i,x,y)との比を第4の強度補正係数a4(x,y)とする。そして、撮像装置201は、これらの強度補正係数を利用し、ステップS1320において、各画素(x,y)における補正値を演算する。そして、撮像装置201は、式(18)および(21)のように、第1の強度補正係数a1(x,y)および第4の強度補正係数a4(x,y)に、それぞれ設定値kab1およびkab4を乗じた結果を、第1の強度補正値b1(x,y)および第4の強度補正値b4(x,y)とする。さらに、撮像装置201は、ステップS1330において、式(22)および(25)のように、第1の強度補正値b1(x,y)および第4の強度補正値b4(x,y)を乗じることにより、第1の撮像信号I1(x,y)および第4の撮像信号I4(x,y)を補正する。
【0206】
ここで、実施の形態2の変形例として、第1の撮像信号I1と第4の撮像信号I4との強度レベルが同等になるようにしてもよい。すわなち、式(52)の代わりに下記式(101)のように、画像の中心位置での強度補正係数作成用の第1の撮像信号I1(0,L/2,H/2)と強度補正係数作成用の第4の撮像信号I4(i,x,y)との比を第4の強度補正係数a4(x,y)とする。また、式(21)の代わりに下記式(102)のように、第4の強度補正係数a4(x,y)に設定値kab1を乗じた結果を第4の強度補正値b4(x,y)とする。また、式(25)のように、第4の撮像信号I4(x,y)に、第4の強度補正値b4(x,y)を乗じ補正してもよい。このことにより、撮像素子のばらつきや組み立てのばらつきにより第1の撮像信号I1と第4の撮像信号I4との強度レベルがばらついても、第1の撮像信号I1と第4の撮像信号I4の強度レベルを同等とし、より正しい視差を求め、この正しい視差に基づき画像合成するため、よりきれいな画像を合成することができる。
【0207】
a4(x,y)=I1(0,L/2,H/2)/I4(0,x,y) ・・・(101)
b4(x,y)=kab1*a4(x,y)・・・(102)
【0208】
なお、第1の撮像素子と第4の撮像素子のレベルを合わせるのみでも強度レベルを同等にする効果がある。すなわち、強度の分布が同等であり、平均的な強度レベルのみが異なる場合、強度レベルのみを補正しても、視差の精度が向上する。具体的には、第1の強度補正係数a1と第4の強度補正係数a4とを定数とし(x、yによって変化しない定数)、設定値kab1と設定値kab4とを同一とし、下記式(103)のように、第1の強度補正係数a1と第4の強度補正係数a4との比を、第4の撮像信号I4の平均値(avg(I4))と第4の撮像信号I1の平均値(avg(I1))との比としてもよい。このことにより、強度補正係数を定数にし、強度補正係数用メモリ137の容量を削減できるため、低コスト化できる。
【0209】
a1/a4=avg(I4)/avg(I1) ・・・(103)
【0210】
また、実施の形態2の撮像装置201は、各画素(x,y)ごとに歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成したが、近似式を用いてもよい。例えば、第1の歪曲補正係数として下記式(104)のようにx方向とy方向にべき数展開したものを乗じた近似式や下記式(105)のようなべき数展開した近似式を定め、ステップS2710において最小二乗法などで係数(p1x0、p1x1、p1x2、p1x3、p1xz、p1y0、p1y1、p1y2、p1y3、p1yz、あるいはp100、p110、p101、p120、p111、p102、p130、p121、p112、p103、p1xz、p1yz)を作成し、ステップS2720においてこれらの係数を歪曲補正係数用メモリ139に書き込んでも良い。また、ステップS1520において式(104)や(105)と各画素の座標(x,y)を用いて、第1の歪曲補正用座標(q1x(x,y),q1y(x,y))を作成してもよい。なお、式(104)および(105)において、記号「^」はべき乗を表す。また、第2の歪曲補正係数、第3の歪曲補正係数、第4の歪曲補正係数を第1の歪曲補正係数と同様に定め、ステップS1520において、式(104)や(105)と各画素の座標(x,y)を用いて、第1の歪曲補正用座標(q1x(x,y),q1y(x,y))と同様に第2の歪曲補正用座標(q2x(x,y),q2y(x,y))、第3の歪曲補正用座標(q3x(x,y),q3y(x,y))、および第4の歪曲補正用座標(q4x(x,y),q4y(x,y))を求めてもよい。
【0211】
[p1x0+p1x1*(x-p1xz)+p1x2*(x-p1xz)^2+p1x3*(x-p1xz)^3]
*[p1y0+p1y1*(y-p1yz)+p1y2*(y-p1yz)^2+p1y3*(y-p1yz)^3]
・・・(104)
p100+p110*(x-p1xz)+p101*(y-p1yz)
+p120*(x-p1xz)^2+p111*(x-p1xz)*(y-p1yz)+p102*(y-p1yz)^2
+p130*(x-p1xz)^3+p121*(x-p1xz)^2*(y-p1yz)
+p112*(x-p1xz)*(y-p1yz)^2+p103*(y-p1yz)^3 ・・・(105)
【0212】
また、実施の形態2において、撮像装置201は、十字が描画された原点補正用チャート206を撮影したが、原点補正用チャートはこれに限定されない。例えば、中心部に点が描画されたチャートを撮影し、点の座標を求めることにより原点補正係数を求めてもよい。また、円が描画されたチャートを撮影し、円の中心を求めることにより原点補正係数を求めてもよい。
【0213】
また、実施の形態2において、撮像装置201は、格子が描画された歪曲補正用チャート207を撮影したが、歪曲補正用チャートはこれに限定されない。図32(A)および(B)は、本発明の実施の形態2の変形に係る歪曲補正係数作成に使用する歪曲補正用チャートの外観図である。例えば、図32(A)のような、円が描画されたチャートを撮影し、円の歪みを求めることにより歪曲補正係数を求めてもよい。また、図32(B)のような千鳥状のチャートを撮影し、エッジを抽出し、エッジの交点を求めることにより歪曲補正係数を求めてもよい。
【0214】
また、実施の形態2の撮像装置201において、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4y、およびを歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)のみを作成したが、他の被写体を描画し、他の補正係数を作成してもよい。例えば、実施の形態2と同様に強度補正用チャート205を撮影し、黒点(撮像信号が常に約0となる場所)や白点(撮像信号が常に非常に大きい場所)のための補正係数を作成してもよい。また、γ補正するための補正係数を作成してもよい。さらに、歪曲補正用チャート207を撮影し、各撮像信号(第1の撮像信号I1、第2の撮像信号I2、第3の撮像信号I3、第4の撮像信号)の間の倍率の違い、回転の角度の違いを補正するための補正係数を作成してもよい。また、それらの複数を同時に測定できる画像を描画し複数の補正係数を作成してもよい。また、これらの複数の異なる被写体の撮影し撮像信号を保存し、その後、補正係数を順次作成してもよい。
【0215】
また、実施の形態2において、撮像素子123は、第1の撮像素子123a、第2の撮像素子123b、第3の撮像素子123c、および第4の撮像素子123dから構成され、撮像信号入力部133は、第1の撮像信号入力部133a、第2の撮像信号入力部133b、第3の撮像信号入力部133c、および第4の撮像信号入力部133dから構成された。しかし、撮像素子123を1つの撮像素子で構成し、この受光面上の異なる位置に第1〜第4のレンズ部113a〜113dによる4つの像を形成しても良い。また、撮像信号入力部133が1つの撮像素子123からの信号が入力される1つの撮像信号入力部から構成されてもよい。この場合、システム制御部231のメモリ上に置かれたデータにおいて、4つの領域を設定し、各領域に対応するデータを抽出することにより、第1の撮像信号I1、第2の撮像信号I2、第3の撮像信号I3、および第4の撮像信号I4とすればよい。また、製造工程で補正係数を作成するときは、上記の領域の設定を利用し、第1の撮像信号I1、第2の撮像信号I2、第3の撮像信号I3、および第4の撮像信号I4を作成し、撮像装置201の実動作時は、上記の領域の設定として、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yで補正した領域を利用し、第1の撮像信号I1、第2の撮像信号I2、第3の撮像信号I3、および第4の撮像信号I4を作成してもよい。
【0216】
なお、上記の説明では、撮影によって得られた撮像信号に対して各種の補正を行い、視差を補正した後、撮像信号から画像を合成する装置の構成および動作を例示したが、本発明の撮像装置は、被写体までの距離を検出する測距装置としての応用も可能である。すなわち、本発明の撮像装置は、上述のように得られた視差に基づいて距離を演算し、得られた距離を出力する装置としての実施も可能であり、測量装置や車間距離検出装置等としての実用化が考えられる。すなわち、式(1)を距離Aについて解くと、式(46)のように示される。したがって、ブロックBiにおける被写体の距離は、式(47)のように演算され、そのブロックBiに含まれる画素(x,y)における被写体の距離は、式(48)のように示され、システム制御部231のメモリ上に保存される。なお、単位は演算時に適宜変更されている。そして、この距離情報A(x,y)を入出力部136を介し、外部に出力すれば、測距装置として機能する撮像装置を実現できる。
【0217】
(実施の形態3)
前述の実施の形態2の撮像装置201は、3種類のチャートを撮影し3種類の補正係数を作成した。すなわち、強度補正用チャート205を撮影し強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を作成し、原点補正用チャート206を撮影し原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを作成し、歪曲補正用チャート207を撮影し歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成した。本発明の実施の形態3に係る撮像装置は、2種類のチャートを撮影し3種類の補正係数を作成する。すなわち、強度原点補正用チャートを撮影し強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)と原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yとを作成し、歪曲補正用チャート207を撮影し歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成する。そのため、実施の形態3の撮像装置は、製造工程における補正係数作成の時間を短縮できる。
【0218】
本発明の実施の形態3に係る撮像装置について、図面を参照しながら説明する。図33は、本発明の実施の形態3に係る撮像装置の構成を示す断面図である。図33において、撮像装置301は、レンズモジュール部110、および回路部320を有する。
【0219】
レンズモジュール部110は、鏡筒111、上部カバーガラス112、レンズ113、アクチュエータ固定部114、およびアクチュエータ可動部115を有する。回路部320は、基板121、パッケージ122、撮像素子123、パッケージカバーガラス124、およびシステムLSI(以下、SLSIと記す)325を有する。SLSI325以外の構成と動作は、実施の形態1と同様であり、同一の符号を付与し、説明を省略する。
【0220】
図34は、本発明の実施の形態3に係る撮像装置のブロック図である。SLSI325は、システム制御部331、撮像素子駆動部132、撮像信号入力部133、アクチュエータ操作量出力部134、画像処理部135、入出力部136、強度補正係数用メモリ137、原点補正係数用メモリ138、歪曲補正係数用メモリ139、強度補正係数作成部351、原点補正係数作成部352、および歪曲補正係数作成部253を有する。また、回路部320は、前述の構成に加えて、アンプ126を有する。
【0221】
撮像装置301を組み立て後、製造工程の中の完成品検査工程において、強度補正係数作成部351が、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を作成し、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を強度補正係数用メモリ137に書き込む。また、原点補正係数作成部352が、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを作成し、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを原点補正係数用メモリ138に書き込む。さらに、歪曲補正係数作成部253が、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成し、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を歪曲補正係数用メモリ139に書き込む。
【0222】
図35は、本発明の実施の形態3に係る補正係数の作成時の撮像装置などの外観図である。301は本発明の実施の形態3の撮像装置であり、302は補正係数作成用コントローラ、203はディスプレイ、および204は撮像装置用ケーブルである。補正係数作成用コントローラ302は、産業用コンピュータから構成され、撮像装置301とディスプレイ204とを協調制御し、撮像装置301に強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4y、および歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成させる。ディスプレイ203は、CRTディスプレイなどから構成され、補正係数作成用コントローラ202に制御され、撮像装置301と協調動作し、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4y、および歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)の作成に使用する画像(チャート)を描画する。撮像装置用ケーブル204は、USBケーブルなどから構成され、撮像装置301と補正係数作成用コントローラ302とを接続し、撮像装置301に電力を供給し、撮像装置301と補正係数作成用コントローラ302の通信を媒介する。
【0223】
次に、本発明の実施の形態3に係る撮像装置の動作を説明する。図36は、本発明の実施の形態3に係る強度補正係数作成と原点補正係数作成とに使用する強度原点補正用チャートの外観図である。図36のように、強度原点補正用チャート305は、白色均一の被写体に十字が描画されたものである。撮像装置301は、強度原点補正用チャート305に正対するように配置され、撮像装置301の複数のレンズの光軸の中心が、強度原点補正用チャートの十字の中心に一致するように配置される。原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yは、撮像信号の十字部の部分を利用し、実施の形態2と同様の方法で作成される。また、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)は、撮像信号の十字部以外の部分については実施の形態2と同様の方法で作成され、撮像信号の十字部分については十字部分以外の部分から補間し求める。
【0224】
また、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)は、実施の形態2と同様に歪曲補正用チャート207を撮影し、実施の形態2と同様の方法で作成される。
【0225】
図37は、本発明の実施の形態3に係る強度補正係数、原点補正係数、および歪曲補正係数の作成方法を示すフローチャートである。
【0226】
ステップS3000において、撮像装置301の複数のレンズ部の光軸の中心がディスプレイ203の描画領域の中心に一致するように、配置し、強度補正係数、原点補正係数、および歪曲補正係数の作成を開始する。次に、ステップS2110を実行する。
【0227】
ステップS2110において、撮像装置301と撮像装置用ケーブル204を接続する。このステップは、実施の形態2と同様であり、説明を省略する。次に、ステップS2120を実行する。
【0228】
ステップS2120において、補正係数作成用プログラムを撮像装置301へダウンロードする。このステップは、実施の形態2と同様であり、説明を省略する。次に、ステップS3210を実行する。
【0229】
ステップS3210において、補正係数作成用コントローラ302は、ディスプレイ203に、白色均一光を背景とし十字が配置された強度原点補正用チャート305(図36参照)を描画させる。ここで、ディスプレイ203の描画領域の中心、すなわち撮像装置301の複数のレンズ部の光軸の中心が十字の交点と一致するように、強度原点補正用チャート305を描画する。次に、ステップS3220を実行する。
【0230】
ステップS3220において、補正係数作成用コントローラ302は、撮像装置301に、撮影開始の指令を、撮像装置用ケーブル204を介し送信する。次に、ステップS3230を実行する。
【0231】
ステップS3230において、撮像装置301は、撮影を行う。ステップS3220の指令に反応し、撮像装置301は、このステップを実行する。この動作はステップS1200と同様であり説明を省略する。撮像信号は、強度原点補正係数作成用の第1の撮像信号I1(0,x,y)、第2の撮像信号I2(0,x,y)、第3の撮像信号I3(0,x,y)、および第4の撮像信号I4(0,x,y)として、システム制御部331のメモリに保存される。なお、このメモリとして、撮像装置301の通常使用時に動画を保存する領域などを利用する。次に、ステップS2410を実行する。
【0232】
ステップS2410において、補正係数作成用コントローラ202は、歪曲補正用チャート207を描画する。このステップは、実施の形態2と同様であり、説明を省略する。次に、ステップS2420を実行する。
【0233】
ステップS2420において、補正係数作成用コントローラ202は、撮像装置201に、撮影開始の指令を、撮像装置用ケーブル204を介し送信する。このステップは、実施の形態2と同様である。次に、ステップS2430を実行する。
【0234】
ステップS2430において、撮像装置301は、撮影を行う。このステップは、実施の形態2と同様であり、説明を省略する。次に、ステップS3510を実行する。
【0235】
ステップS3510において、強度補正係数作成部351は、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、およびa4(x,y)を作成する。強度補正係数作成部351は、強度原点補正用チャート305の十字が描画された以外の部分の画素について、下記式(106)のように、強度原点補正係数作成用の第1の撮像信号I1(0,x,y)の逆数を第1の補正係数a1(x,y)とする。同様に、強度補正係数作成部351は、下記式(107)のように強度原点補正係数作成用の第2の撮像信号I2(0p,x,y)の逆数の第2の補正係数a2(x,y)とし、下記式(108)のように強度原点補正係数作成用の第3の撮像信号I3(i,x,y)の逆数を第3の補正係数a3(x,y)とし、下記式(109)のように強度原点補正係数作成用の第4の撮像信号I4(i,x,y)の逆数を第4の補正係数a4(x,y)とする。次に、強度補正係数作成部351は、強度原点補正用チャート305の十字が描画された部分の画素について、十字が描画されていない最近隣の画素の強度補正係数を使用して補正係数を求める。すなわち、強度補正係数作成部351は、十字が描画された部分について、下記式(110)のように、画素(x,y)における第1の強度補正係数a1(x,y)を、十字が描画されない最近隣の画素(xn1(x,y),yn1(x,y))の第1の強度係数a1(xn1(x,y),yn1(x,y))とする。同様に、強度補正係数作成部351は、下記式(111)のように、画素(x,y)における第2の強度補正係数a2(x,y)を十字が描画されない最近隣の画素(xn2(x,y),yn2(x,y))の第2の強度係数a2(xn2(x,y),yn2(x,y))とする。また、強度補正係数作成部351は、下記式(112)のように、画素(x,y)における第3の強度補正係数a3(x,y)を、十字が描画されない最近隣の画素(xn3(x,y),yn3(x,y))の第3の強度係数a3(xn3(x,y),yn3(x,y))とする。また、強度補正係数作成部351は、下記式(113)のように、画素(x,y)における第4の強度補正係数a4(x,y)を、十字が描画されない最近隣の画素(xn4(x,y),yn4(x,y))の第4の強度係数a4(xn1(x,y),yn4(x,y))とする。なお、ステップS3230において複数回だけ撮影を行い、それらの画像を加算平均した画像を用いてもよい。この場合、平均化により、ランダムノイズなどの影響を低減できる。また、最近隣以外にも、上下の最近隣の2つの画素の係数を平均したものを利用したり、左右の最近隣の2つの画素の係数を平均したものを利用したり、上下左右の最近隣の4つの画素の係数を平均したものを利用したり、外挿により係数を予測したり、近似式を用いてもよい。次に、ステップS2520を実行する。
【0236】
a1(x,y)=1/I1(0,x,y) ・・・(106)
a2(x,y)=1/I2(0,x,y) ・・・(107)
a3(x,y)=1/I3(0,x,y) ・・・(108)
a4(x,y)=1/I4(0,x,y) ・・・(109)
a1(x,y)=a1(xn1(x,y),yn1(x,y)) ・・・(110)
a2(x,y)=a2(xn2(x,y),yn2(x,y)) ・・・(111)
a3(x,y)=a3(xn3(x,y),yn3(x,y)) ・・・(112)
a4(x,y)=a4(xn4(x,y),yn4(x,y)) ・・・(113)
【0237】
ステップS2520において、強度補正係数作成部351は、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、およびa4(x,y)を強度補正係数用メモリ137に書き込む。この強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、およびa4(x,y)は、S1300の強度補正において使用される。このステップは、実施の形態2と同様である。次に、ステップS3610を実行する。
【0238】
ステップS3610において、原点補正係数作成部352は、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを作成する。このステップは、実施の形態2と同様の方法で行うため、説明を省略する。ただし、撮像信号として、強度原点補正係数作成用の第1の撮像信号I1(0,x,y)、強度原点補正係数作成用の第2の撮像信号I2(0,x,y)、強度原点補正係数作成用の第3の撮像信号I3(0,x,y)、強度原点補正係数作成用の第4の撮像信号I4(0,x,y)を利用する。次に、ステップS2620を実行する。
【0239】
ステップS2620において、原点補正係数作成部352は、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを原点補正係数用メモリ138に書き込む。この原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yは、ステップS1400の原点補正において使用される。このステップは、実施の形態2と同様である。次に、ステップS2710を実行する。
【0240】
ステップS2710において、歪曲補正係数作成部253は、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成する。このステップは、実施の形態2と同様であり、説明を省略する。次に、ステップS2720を実行する。
【0241】
ステップS2720において、歪曲補正係数作成部253は、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を歪曲補正係数用メモリ139に書き込む。この歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)は、ステップS1500の歪曲補正において使用される。このステップは、実施の形態2と同様である。次に、ステップS2810を実行する。
【0242】
ステップS2810において、システム制御部331は、補正係数作成プログラムを消去する。このステップは、実施の形態2と同様であり、説明を省略する。次に、ステップS2820を実行する。
【0243】
ステップS2820において、撮像装置201から撮像装置用ケーブル204をはずす。このステップは、実施の形態2と同様であり、説明を省略する。次に、ステップS3900を実行する。
【0244】
ステップS3900において、強度補正係数、原点補正係数、および歪曲補正係数の作成を終了する。
【0245】
上記のように構成し動作させることにより、実施の形態2と同様の効果を有する。さらに、実施の形態3の撮像装置は、1種類の強度原点補正用チャート305の撮影により得られた同一の撮像信号を用いて、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)と原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yとを作成するため、製造工程における撮影回数を抑制し、製造工程のタクトを短縮することができる。
【0246】
なお、上記の説明では、撮影によって得られた撮像信号に対して各種の補正を行い、視差を補正した後、撮像信号から画像を合成する装置の構成および動作を例示したが、本発明の撮像装置は、被写体までの距離を検出する測距装置としての応用も可能である。すなわち、本発明の撮像装置は、上述のように得られた視差に基づいて距離を演算し、得られた距離を出力する装置としての実施も可能であり、測量装置や車間距離検出装置等としての実用化が考えられる。すなわち、式(1)を距離Aについて解くと、式(46)のように示される。したがって、ブロックBiにおける被写体の距離は、式(47)のように演算され、そのブロックBiに含まれる画素(x,y)における被写体の距離は、式(48)のように示され、システム制御部331のメモリ上に保存される。なお、単位は演算時に適宜変更されている。そして、この距離情報A(x,y)を入出力部136を介し、外部に出力すれば、測距装置として機能する撮像装置を実現できる。
【0247】
(実施の形態4)
上述した実施の形態2の撮像装置は、3種類のチャートを撮影し3種類の補正係数を作成する。すなわち、強度補正用チャート205を撮影し強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を作成し、原点補正用チャート206を撮影し原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを作成し、歪曲補正用チャート207を撮影し歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成する。これに対して、本発明の実施の形態4に係る撮像装置は、1種類のチャートを撮影し3種類の補正係数を作成する。すなわち、強度原点歪曲補正用チャートを撮影し、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)と原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yと歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)とを作成する。そのため、実施の形態4の撮像装置は、製造工程における補正係数作成の時間を短縮できる。
【0248】
本発明の実施の形態4に係る撮像装置について、図面を参照しながら説明する。図38は、本発明の実施の形態4に係る撮像装置の構成を示す断面図である。図38において、撮像装置401は、レンズモジュール部110、および回路部420を有する。
【0249】
レンズモジュール部110は、鏡筒111、上部カバーガラス112、レンズ113、アクチュエータ固定部114、およびアクチュエータ可動部115を有する。回路部420は、基板121、パッケージ122、撮像素子123、パッケージカバーガラス124、およびシステムLSI(以下、SLSIと記す)425を有する。SLSI425以外の構成と動作は、実施の形態1と同様であり、同一の符号を付与し、説明を省略する。
【0250】
図39は、本発明の実施の形態4に係る撮像装置のブロック図である。SLSI425は、システム制御部431、撮像素子駆動部132、撮像信号入力部133、アクチュエータ操作量出力部134、画像処理部135、入出力部136、強度補正係数用メモリ137、原点補正係数用メモリ138、歪曲補正係数用メモリ139、強度補正係数作成部451、原点補正係数作成部452、および歪曲補正係数作成部453を有する。また、回路部420は、前述の構成に加えて、アンプ126を有する。
【0251】
撮像装置401を組み立て後、製造工程の中の完成品検査工程において、以下のように構成し動作を行い、強度補正係数作成部451は、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を作成し、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)を強度補正係数用メモリ137に書き込む。また、原点補正係数作成部452は、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを作成し、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを原点補正係数用メモリ138に書き込む。さらに、歪曲補正係数作成部453が、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成し、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を歪曲補正係数用メモリ139に書き込む。
【0252】
図40は、本発明の実施の形態4に係る補正係数の作成時の撮像装置などの外観図である。401は本発明の実施の形態4の撮像装置であり、402は補正係数作成用コントローラ、203はディスプレイ、および204は撮像装置用ケーブルである。補正係数作成用コントローラ302は、産業用コンピュータから構成され、撮像装置401とディスプレイ204とを協調制御し、撮像装置401に、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4y、および歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成させる。ディスプレイ203は、CRTディスプレイなどから構成され、補正係数作成用コントローラ402に制御され、撮像装置401と協調動作し、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4y、および歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)の作成に使用する画像(チャート)を描画する。撮像装置用ケーブル204は、USBケーブルなどから構成され、撮像装置401と補正係数作成用コントローラ402とを接続し、撮像装置401に電力を供給し、撮像装置401と補正係数作成用コントローラ402の通信を媒介する。
【0253】
次に、本発明の実施の形態4に係る撮像装置の動作を説明する。図41は、本発明の実施の形態4に係る強度補正係数作成と原点補正係数作成と歪曲補正係数作成とに使用する強度原点歪曲補正用チャートの外観図である。図41のように、強度原点歪曲補正用チャート405は、白色均一の被写体に格子が描画されたものである。撮像装置401は、強度原点歪曲補正用チャート405に正対するように配置され、撮像装置401の複数のレンズの光軸の中心が、強度原点歪曲補正用チャートの格子の中心に一致するように配置される。歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)は、撮像信号の格子の部分を利用し、実施の形態2と同様の方法で作成される。また、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yは、撮像信号の格子の中心の十字部の部分(図41において、405xと405yとで構成される十字)を利用し、実施の形態2と同様の方法で作成される。また、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)は、撮像信号の格子以外の部分については実施の形態2と同様の方法で作成され、撮像信号の格子部分については格子以外の部分から補間し求める。
【0254】
図42は、本発明の実施の形態4に係る強度補正係数、原点補正係数、および歪曲補正係数の作成方法を示すフローチャートである。
【0255】
ステップS4000において、撮像装置401の複数のレンズ部の光軸の中心がディスプレイの描画領域の中心に一致するように、配置し、強度補正係数、原点補正係数、および歪曲補正係数の作成を開始する。次に、ステップS2110を実行する。
【0256】
ステップS2110において、撮像装置401と撮像装置用ケーブル204を接続する。このステップは、実施の形態2と同様であり、説明を省略する。次に、ステップS2120を実行する。
【0257】
ステップS2120において、補正係数作成用プログラムを撮像装置401へダウンロードする。このステップは、実施の形態2と同様であり、説明を省略する。次に、ステップS4210を実行する。
【0258】
ステップS4210において、補正係数作成用コントローラ402は、ディスプレイ203に白色均一光を背景とし格子が配置された強度原点歪曲補正用チャート405を描画させる。ここで、ディスプレイ203の描画領域の中心、すなわち撮像装置401の複数のレンズ部の光軸の中心が格子の中心(図41における405xと405yとの交点)と一致するように、強度原点歪曲補正用チャート405を描画する。次に、ステップS4220を実行する。
【0259】
ステップS4220において、補正係数作成用コントローラ402は、撮像装置401に、撮影開始の指令を、撮像装置用ケーブル204を介し送信する。次に、ステップS4230を実行する。
【0260】
ステップS4230において、撮像装置401は、強度原点歪曲補正用チャート405の撮影を行う。ステップS4220の指令に反応し、撮像装置401は、このステップを実行する。この動作はステップS1200と同様であり説明を省略する。撮像信号は、強度原点歪曲補正用の第1の撮像信号I1(0,x,y)、第2の撮像信号I2(0,x,y)、第3の撮像信号I3(0,x,y)、および第4の撮像信号I4(0,x,y)として、システム制御部431のメモリに保存される。なお、このメモリとして、撮像装置401の通常使用時に動画を保存する領域などが利用される。次に、ステップS4510を実行する。
【0261】
ステップS4510において、強度補正係数作成部451は、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、およびa4(x,y)を作成する。十字が描画された以外の部分の画素について、強度補正係数作成部451は、下記式(114)のように、強度原点補正用の第1の撮像信号I1(0,x,y)の逆数を第1の補正係数a1(x,y)とする。同様に、強度補正係数作成部451は、下記式(115)のように強度原点補正用の第2の撮像信号I2(0p,x,y)の逆数の第2の補正係数a2(x,y)とし、下記式(116)のように強度原点補正用の第3の撮像信号I3(i,x,y)の逆数を第3の補正係数a3(x,y)とし、下記式(117)のように強度原点補正用の第4の撮像信号I4(i,x,y)の逆数を第4の補正係数a4(x,y)とする。次に、強度補正係数作成部451は、格子が描画された部分の画素について、格子が描画されていない最近隣の画素の強度補正係数を使用する。すなわち、格子が描画された部分の画素について、強度補正係数作成部451は、下記式(118)のように画素(x,y)における第1の強度補正係数a1(x,y)を、格子が描画されない最近隣の画素(xn1(x,y),yn1(x,y))の第1の強度係数a1(xn1(x,y),yn1(x,y))とする。同様に、強度補正係数作成部451は、下記式(119)のように画素(x,y)における第2の強度補正係数a2(x,y)を、格子が描画されない最近隣の画素(xn2(x,y),yn2(x,y))の第2の強度係数a2(xn2(x,y),yn2(x,y))とする。また、強度補正係数作成部451は、下記式(120)のように、画素(x,y)における第3の強度補正係数a3(x,y)を、格子が描画されない最近隣の画素(xn3(x,y),yn3(x,y))の第3の強度係数a3(xn3(x,y),yn3(x,y))とし、下記式(121)のように画素(x,y)における第4の強度補正係数a4(x,y)を、格子が描画されない最近隣の画素(xn4(x,y),yn4(x,y))の第4の強度係数a4(xn1(x,y),yn4(x,y))とする。なお、ステップS4230において複数回の撮影を行い、それらの画像を加算平均した画像を用いてもよい。この場合、平均化により、ランダムノイズなどの影響を低減できる。また、最近隣以外にも、上下の最近隣の2つの画素の係数を平均したものを利用したり、左右の最近隣の2つの画素の係数を平均したものを利用したり、上下左右の最近隣の4つの画素の係数を平均したものを利用したり、外挿により係数を予測したり、近似式を用いてもよい。次に、ステップS2520を実行する。
【0262】
a1(x,y)=1/I1(0,x,y) ・・・(114)
a2(x,y)=1/I2(0,x,y) ・・・(115)
a3(x,y)=1/I3(0,x,y) ・・・(116)
a4(x,y)=1/I4(0,x,y) ・・・(117)
a1(x,y)=a1(xn1(x,y),yn1(x,y)) ・・・(118)
a2(x,y)=a2(xn2(x,y),yn2(x,y)) ・・・(119)
a3(x,y)=a3(xn3(x,y),yn3(x,y)) ・・・(120)
a4(x,y)=a4(xn4(x,y),yn4(x,y)) ・・・(121)
【0263】
ステップS2520において、強度補正係数作成部451は、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、およびa4(x,y)を強度補正係数用メモリ137に書き込む。この強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、およびa4(x,y)は、S1300の強度補正において使用される。このステップは、実施の形態2と同様である。次に、ステップS4610を実行する。
【0264】
ステップS4610において、原点補正係数作成部452は、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを作成する。このステップは、実施の形態2と同様の方法で行うため、説明を省略する。ただし、原点補正係数作成部452は、撮像信号として、強度原点歪曲補正係数作成用の第1の撮像信号I1(0,x,y)、強度原点歪曲補正係数作成用の第2の撮像信号I2(0,x,y)、強度原点歪曲補正係数作成用の第3の撮像信号I3(0,x,y)、強度原点歪曲補正係数作成用の第4の撮像信号I4(0,x,y)を利用する。また、原点補正係数作成部452は、十字部として図41の405xと405yを利用する。次に、ステップS2620を実行する。
【0265】
ステップS2620において、原点補正係数作成部452は、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yを原点補正係数用メモリ138に書き込む。この原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yは、ステップS1400の原点補正において使用される。このステップは、実施の形態2と同様である。次に、ステップS4710を実行する。
【0266】
ステップS4710において、歪曲補正係数作成部453は、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を作成する。このステップは、実施の形態2と同様であり、説明を省略する。ただし、歪曲補正係数作成部453は、撮像信号として、強度原点歪曲補正係数作成用の第1の撮像信号I1(0,x,y)、強度原点歪曲補正係数作成用の第2の撮像信号I2(0,x,y)、強度原点歪曲補正係数作成用の第3の撮像信号I3(0,x,y)、強度原点歪曲補正係数作成用の第4の撮像信号I4(0,x,y)を利用する。次に、ステップS2720を実行する。
【0267】
ステップS2720において、歪曲補正係数作成部453は、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)を歪曲補正係数用メモリ139に書き込む。この歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)は、ステップS1500の歪曲補正において使用される。このステップは、実施の形態2と同様である。次に、ステップS2810を実行する。
【0268】
ステップS2810において、システム制御部431は、補正係数作成プログラムを消去する。このステップは、実施の形態2と同様であり、説明を省略する。次に、ステップS2820を実行する。
【0269】
ステップS2820において、撮像装置401から撮像装置用ケーブル204をはずす。このステップは、実施の形態2と同様であり、説明を省略する。次に、ステップS4900を実行する。
【0270】
ステップS4900において、強度補正係数、原点補正係数、および歪曲補正係数の作成を終了する。
【0271】
上記のように構成し動作させることにより、実施の形態2と同様の効果を有する。
【0272】
さらに、実施の形態4の撮像装置401は、1種類の強度原点歪曲補正用チャート405の撮影により得られた同一の撮像信号を用いて、強度補正係数a1(x,y)、a2(x,y)、a3(x,y)、a4(x,y)と、原点補正係数g1x、g1y、g2x、g2y、g3x、g3y、g4x、g4yと、歪曲補正係数p1x(x,y)、p1y(x,y)、p2x(x,y)、p2y(x,y)、p3x(x,y)、p3y(x,y)、p4x(x,y)、p4y(x,y)とを作成するため、製造工程における撮影回数を抑制し、製造工程のタクトを短縮することができる。
【0273】
なお、上記の説明では、撮影によって得られた撮像信号に対して各種の補正を行い、視差を補正した後、撮像信号から画像を合成する装置の構成および動作を例示したが、本発明の撮像装置は、被写体までの距離を検出する測距装置としての応用も可能である。すなわち、本発明の撮像装置は、上述のように得られた視差に基づいて距離を演算し、得られた距離を出力する装置としての実施も可能であり、測量装置や車間距離検出装置等としての実用化が考えられる。すなわち、式(1)を距離Aについて解くと、式(46)のように示される。したがって、ブロックBiにおける被写体の距離は、式(47)のように演算され、そのブロックBiに含まれる画素(x,y)における被写体の距離は、式(48)のように示され、システム制御部431のメモリ上に保存される。なお、単位は演算時に適宜変更されている。そして、この距離情報A(x,y)を入出力部136を介し、外部に出力すれば、測距装置として機能する撮像装置を実現できる。
【0274】
(実施の形態5)
実施の形態1の撮像装置は、4つのレンズ部を有し、それぞれが単色の色を検知した。実施の形態5の撮像装置は、2つのレンズ部を有し、それぞれが全色を検知するものである。そして、実施の形態5の撮像装置は、画像情報のみならず、視差から演算された距離情報をも出力する。
【0275】
本発明の実施の形態5に係る撮像装置について、図面を参照しながら説明する。
【0276】
図43は、本発明の実施の形態5に係る撮像装置501の構成を示す断面図である。図43において、撮像装置501は、レンズモジュール部510、および回路部520を有する。
【0277】
レンズモジュール部510は、鏡筒511、上部カバーガラス512、レンズ513、アクチュエータ固定部514、およびアクチュエータ可動部515を有する。回路部520は、基板521、パッケージ522、撮像素子523、パッケージカバーガラス524、およびシステムLSI(以下、SLSIと記す)525を有する。
【0278】
鏡筒511は、円筒状であり、その内壁面は光の乱反射を防止するためにつやが消された黒色であり、樹脂を射出成形し形成される。上部カバーガラス512は、円盤状であり、透明樹脂から形成され、鏡筒511の上面に接着剤などにより固着され、その表面は摩擦などによる損傷を防止する保護膜と、入射光の反射を防止する反射防止膜とが設けられている。
【0279】
図44は、本発明の実施の形態5に係る撮像装置のレンズ513の上面図である。レンズ513は、略円盤状であり、ガラスや透明樹脂から形成され、第1のレンズ部513a、および第2のレンズ部513bが配置される。第1〜第2のレンズ部513a〜513bの配置方向に沿って、図44に示すようにX軸及びY軸を設定する。第1のレンズ部513a、および第2のレンズ部513bにおいて、それぞれの上部の湾曲部から入射した光は、それぞれの下部の湾曲部から射出し、撮像素子523上に2つの像を結像する。
【0280】
アクチュエータ固定部514は、鏡筒511の内壁面に接着剤などにより固着される。アクチュエータ可動部515は、レンズ513の外周縁に接着剤などにより固着される。アクチュエータ固定部514とアクチュエータ可動部515との詳細な構成は、それぞれ実施の形態1のアクチュエータ固定部114とアクチュエータ可動部115と同様であり、説明を省略する。
【0281】
基板521は、樹脂基板から構成され、上面に鏡筒511がその底面を接して接着剤などにより固着される。このようにして、レンズモジュール部510と回路部520とが固定され、撮像装置501を構成する。
【0282】
パッケージ522は、金属端子を有する樹脂からなり、鏡筒511の内側において、基板521の上面にその金属端子部が半田づけ等されて固着される。撮像素子523は、第1の撮像素子523a、および第2の撮像素子523bから構成される。第1の撮像素子523a、および第2の撮像素子523bは、それぞれCCDセンサやCMOSセンサのような固体撮像素子であり、これらの受光面の中心が、それぞれ第1のレンズ部513a、および第2のレンズ部513bの光軸中心と略一致するように、また各撮像素子の受光面が対応するレンズ部の光軸と略垂直になるようにして配置される。第1の撮像素子523a、および第2の撮像素子523bの各端子は、パッケージ522の内側の底部の金属端子にワイヤーボンディングにより金線527で接続され、基板521を介して、SLSI525と電気的に接続される。第1の撮像素子523a、および第2の撮像素子523bの各受光面に、第1のレンズ部513a、および第2のレンズ部513bから射出された光がそれぞれ結像し、フォトダイオードにより光の情報から変換された電気の情報が、SLSI525に出力される。
【0283】
図45は、本発明の実施の形態5に係る撮像装置の回路部520の上面図である。パッケージカバーガラス524は、平板状であり、透明樹脂により形成され、パッケージ522の上面に接着などにより固着される。パッケージカバーガラス524の上面には、遮光部524eが蒸着などにより配置される。
【0284】
したがって、第1のレンズ部513aの上部から入射した物体光は、第1のレンズ部513aの下部から射出され、カバーガラスの524a部を透過し、第1の撮像素子523aの受光部に結像する。また、第2のレンズ部513bの上部から入射した物体光は、第2のレンズ部513bの下部から射出され、カバーガラスの524b部を透過し、第2の撮像素子523bの受光部に結像する。
【0285】
SLSI525は、後述の方法で、アクチュエータ可動部515のコイルの通電を制御し、撮像素子523を駆動し、撮像素子523からの電気情報を入力し、各種画像処理を行い、上位CPUと通信を行い、外部に画像出力する。
【0286】
次に、被写体距離と視差との関係を説明する。本発明の実施の形態5に係るカメラモジュールは2つのレンズ部(第1のレンズ部513a、および第2のレンズ部513b)を有するため、実施の形態1で説明したように、2つのレンズ部がそれぞれ形成する2つの物体像の相対的位置が被写体距離に応じて変化する(式(1)を参照のこと)。
【0287】
次に、本発明の実施の形態5に係る撮像装置の動作を説明する。図46は、本発明の実施の形態5に係る撮像装置のブロック図である。SLSI525は、システム制御部531、撮像素子駆動部532、撮像信号入力部533、アクチュエータ操作量出力部534、画像処理部535、入出力部536、強度補正係数用メモリ537、原点補正係数用メモリ538、および歪曲補正用メモリ539を有する。また、回路部520は、前述の構成に加えてアンプ526を有する。アンプ526は、アクチュエータ操作量出力部534からの出力に応じた電圧をアクチュエータ可動部515のコイルに印加する。
【0288】
システム制御部531は、CPU、メモリなどから構成され、SLSI525の全体を制御する。
【0289】
撮像素子駆動部532は、ロジック回路などから構成され、撮像素子523を駆動する信号を発生し、この信号に応じた電圧を撮像素子523に印加する。
【0290】
撮像信号入力部533は、第1の撮像信号入力部533a、および第2の撮像信号入力部533bから構成される。第1の撮像信号入力部533a、および第2の撮像信号入力部533bは、それぞれCDS回路、AGC、ADCが直列に接続されて構成されている。第1の撮像信号入力部533a、および第2の撮像信号入力部533bは、それぞれ第1の撮像素子523a、および第2の撮像素子523bに接続され、これらからの電気信号が入力され、CDS回路により固定ノイズを除去し、AGCによりゲインを調整し、ADCによりアナログ信号からディジタル値に変換し、システム制御部531のメモリに書き込む。
【0291】
アクチュエータ操作量出力部534は、DACから構成され、アクチュエータ可動部515のコイルに印加すべき電圧に応じた電圧信号を出力する。
【0292】
画像処理部535は、ロジック回路、またはDSP、あるいは両者を含んで構成され、システム制御部531のメモリ情報を利用し、各種画像処理を行う。画像処理部535は、自動焦点制御部541、強度補正部542、原点補正部543、歪曲補正部544、および距離演算部545を有する。
【0293】
入出力部536は、上位CPU(図示せず)との通信や、上位CPU、外部メモリ(図示せず)、および液晶などの外部表示装置(図示せず)へ画像信号を出力する。
【0294】
強度補正係数用メモリ537は、フラッシュメモリやFeRAMなどのような不揮発性メモリから構成され、強度補正部542で使用する強度補正係数を保存する。原点補正係数用メモリ538は、フラッシュメモリやFeRAMなどのような不揮発性メモリから構成され、原点補正部543で使用する原点補正係数を保存する。歪曲補正係数用メモリ539は、フラッシュメモリやFeRAMなどのような不揮発性メモリから構成され、歪曲補正部544で使用する歪曲補正係数を保存する。
【0295】
図47は、本発明の実施の形態5に係る撮像装置の動作を示すフローチャートである。SLSI525のシステム制御部531により、撮像装置501は、このフローチャートとおりに動作される。
【0296】
ステップS5000において、動作を開始する。例えば、上位CPU(図示せず)がシャッターボタン(図示せず)などが押されたことを検知し、入出力部536を介し、撮像装置501に動作の開始を命令することにより、撮像装置501は、動作を開始する。次に、ステップS5100を実行する。
【0297】
ステップS5100において、自動焦点制御部541は、自動焦点制御を実行する。このステップは、実施の形態1と同様であり、説明を省略する。次に、ステップS5200を実行する。
【0298】
ステップS5200において、画像を入力する。システム制御部531の命令により、撮像素子駆動部532が電子シャッターや転送を行うための信号を随時出力する。第1の撮像信号入力部533a、および第2の撮像信号入力533bは、撮像素子駆動部532が発生する信号に同期して、第1の撮像素子523a、および第2の撮像素子523bが出力する各画像のアナログ信号である撮像信号を入力し、CDSにより固定ノイズを除去し、AGCにより自動的に入力ゲインを調整し、ADCによりアナログ信号をディジタル値に変換し、第1の撮像信号I1(x,y)、および第2の撮像信号I2(x,y)として、システム制御部531の所定アドレスのメモリにディジタル値を書き込む。図13のように、I1(x,y)は、水平方向にx番目、垂直方向にy番目の画素の第1の撮像信号であることを示す。入力される画像の縦方向の画素数がH、横方向の画素数がLであり、総画素数はH×Lであり、xは0からL−1まで変化し、yは0からH−1まで変化する。第2の撮像信号I2(x,y)も同様に、ぞれぞれ水平方向にx番目、垂直方向にy番目の第2の撮像信号であることを示す。入力される画像の縦方向の画素数がH、横方向の画素数がLであり、それぞれの総画素数はH×Lであり、xは0からL−1まで変化し、yは0からH−1まで変化する。次に、ステップS5300を実行する。
【0299】
ステップS5300において、強度補正部542は、強度補正係数用メモリ537に保存された強度補正係数を用いて、第1の撮像信号I1、第2の撮像信号I2を補正する。そして、その結果をシステム制御部531のメモリに書き込む。このステップは、第1の実施の形態のステップS1300と同様であり、説明を省略する。ただし、第1の実施の形態で使用した第3の撮像信号I3、第4の撮像信号I4、第3の強度補正係数a3(x,y)、第4の強度補正係数a4(x,y)を使用しないなど、若干の変更を要する。次に、ステップS5400を実行する。
【0300】
ステップS5400において、原点補正部543は、原点補正係数用メモリ538に保存された原点補正係数を用いて第1の撮像信号I1、および第2の撮像信号I2を補正する。そして、その結果をシステム制御部531のメモリに書き込む。このステップは、第1の実施の形態のステップS1400と同様であり、説明を省略する。ただし、第1の実施の形態で使用した第3の撮像信号I3、第4の撮像信号I4、第3の原点補正係数g3x、g3y、第4の強度補正係数g4x、g4yを使用しないなど、若干の変更を要する。次に、ステップS5500を実行する。
【0301】
ステップS5500において、歪曲補正部544は、歪曲補正係数用メモリ539に保存された歪曲補正係数を用いて第1の撮像信号I1、および第2の撮像信号I2を補正する。そして、その結果をシステム制御部531のメモリに書き込む。このステップは、実施の形態1のステップS1500と同様であり、説明を省略する。ただし、第1の実施の形態で使用した第3の撮像信号I3、第4の撮像信号I4、第3の歪曲補正係数p3x(x,y)、p3y(x,y)、第4の歪曲補正係数p4x(x,y)、p4y(x,y)を使用しないなど、若干の変更を要する。次に、ステップS5600を実行する。
【0302】
ステップS5600において、距離演算部545が、距離演算を実行する。図48は、本発明の実施の形態5に係る距離演算の動作を示すフローチャートである。図48のフローチャートは、ステップS5600の動作の詳細を示す。
【0303】
まず、ステップS5620において、距離演算部545は、ブロック分割を行う。このステップは、実施の形態1のステップS1620と同様であり、説明を省略する。次に、ステップS5630を実行する。
【0304】
ステップS5630において、距離演算部545は、各ブロック毎の視差値を演算する。まず、各ブロック(B0、B1、…、Bi、…、BMN-1)毎に、視差評価値(R0(k)、R1(k)、…、Ri(k)、…、RMN-1(k)。k=0、1、…、kmax)を演算する。図49は、本発明の実施の形態5に係る撮像装置において、視差評価値の演算領域を説明する図である。Biで示される(I1としても示されている)領域は、第1の撮像信号I1からステップS5620で求められたi番目のブロックである。I2で示される領域は、Biをx方向にkだけ移動した領域である。そして、それぞれの領域の全画像信号I1(x,y)、I2(x+k,y)について、下記式(122)に示される絶対値差分総和を視差評価値Ri(k)として演算する。ここで、ΣΣは、ブロックBi内の全ての画素の総和を示す。
【0305】
Ri(k)=ΣΣ|I1(x,y)-I2(x+k,y)| ・・・(122)
【0306】
この視差評価値Ri(k)は、i番目のブロックBiの第1の画像信号I1と、x方向にkだけ離れた領域における第2の画像信号I2がどれだけ相関があるかを示し、値が小さいほど相関が大きい(よく似ている)ことを示す。図20のように、視差評価値Ri(k)はkの値によって変化し、k=Δiのとき極小値を持つ。これは、第1の画像信号I1のi番目のブロックBiをx、y方向にそれぞれ(Δi、0)だけ移動させて得られる画像信号は、第2の画像信号I2と最も相関がある(最も似ている)ことを示す。したがって、i番目のブロックBiについての第1の撮像信号I1と第2の撮像信号I2とのx、y方向の視差が(Δi、0)であることが分かる。以下、このΔiを、i番目のブロックBiの視差値Δiと呼ぶ。このように、i=0からi=M×N−1までBiの視差値Δiを求める。次に、ステップS5640を実行する。
【0307】
ステップS5640において、距離演算部545は、距離演算を行う。式(1)を距離Aについて解くと、下記式(123)のように示される。したがって、ブロックBiにおける被写体の距離は、下記式(124)のように演算され、そのブロックBiに含まれる画素(x,y)における被写体の距離は、下記式(125)のように求められる。求められた距離は、システム制御部531のメモリ上に保存される。なお、単位は演算時に適宜変更されている。次に、ステップS5650を実行する。
【0308】
A = f*D/Δ ・・・(123)
Ai = f*D/Δi ・・・(124)
A(x,y)= Ai ((x,y)はBiに含まれる) ・・・(125)
【0309】
ステップS5650において、距離演算を終了し、メインルーチンへ戻る。従って、次に、図47のステップS5700を実行する。
【0310】
ステップS5700において、入出力部536が結果を出力する。入出力部536は、システム制御部531のメモリ上のデータであるI1(x,y),A(x,y)を、上位CPU(図示せず)や外部表示装置(図示せず)に出力する。次に、S5800を実行する。
【0311】
ステップS5800において、動作を終了する。
【0312】
以上のように撮像装置501を構成し、動作させることにより、以下の効果を有する。
【0313】
実施の形態5の係る撮像装置501は、ステップS5300において強度補正係数a1、a2に基づき、撮像領域の位置(x,y)により補正の度合が変化する強度補正値b1(x,y)、b2(x,y)を作成し、撮像信号I1(x,y)、I2(x,y)を補正し、光量分布の偏りを補償する。また、撮像装置501は、ステップS5620において第1の撮像信号I1を複数のブロックに分割し、ステップS5630において補正された撮像信号I1(x,y)、I2(x,y)に基づきブロック毎に視差を求める。また、撮像装置501は、ステップS5640においてこの視差に基づきブロック毎に距離演算する。このように、撮像装置501は、光量分布の偏りを補償し、正しい視差を求め、この正しい視差に基づき距離演算するため、正しい距離を作成することができる。
【0314】
また、実施の形態5に係る撮像装置501は、原点補正用係数用メモリ538に原点補正係数g1x、g2x、g1y、g2yを保存し、ステップS5400において原点補正係数g1x、g2x、g1y、g2yに基づき、撮像信号I1(x,y)、I2(x,y)の原点を補正する。また、撮像装置501は、ステップS5630において補正された撮像信号I1(x,y)、I2(x,y)に基づきブロック毎に視差を求める。さらに、撮像装置501は、ステップS5640においてこの視差に基づきブロック毎に距離を演算する。このように、撮像装置501は、正しい視差を求め、この正しい視差に基づき距離を演算するため、正しい距離を作成することができる。
【0315】
また、実施の形態5に係る撮像装置501は、歪曲補正係数p1x(x,y)、p2x(x,y)、p1y(x,y)、p2y(x,y)を保存し、ステップS5520において歪曲補正係数p1x(x,y)、p2x(x,y)、p1y(x,y)、p2y(x,y)に基づき、歪曲補正用座標q1x(x,y)、q2x(x,y)、q1y(x,y)、q2y(x,y)を演算する。さらに、撮像装置501は、ステップS5530において歪曲補正用座標q1x(x,y)、q2x(x,y)、q1y(x,y)、q2y(x,y)において複数のレンズ部の歪曲の影響を低減するように撮像信号I1(x,y)、I2(x,y)を補正し、ステップS5630において補正された撮像信号I1(x,y)、I2(x,y)に基づきブロック毎に視差を求める。また、撮像装置501は、ステップS5640においてこの視差に基づき距離を演算する。このように、撮像装置501は、正しい視差を求め、この正しい視差に基づき距離を演算するため、正しい距離を作成することができる。
【0316】
なお、実施の形態5の撮像装置は、白黒の撮像素子を利用したが、ベイヤー配列の撮像素子を利用してもよい。その場合、例えば、カラー画像から輝度を演算し、この輝度に対し、強度補正、原点補正、歪曲補正を施し、視差を演算し、距離を演算するなどの若干の変更を要する。
【0317】
なお、実施の形態1から実施の形態5において、ブロックを矩形状に分割したが、これに限定されない。例えば、エッジを検出し、エッジに基づき非矩形状のブロックに分割してもよい。また、ブロック毎の領域の視差を求めずに、エッジを複数の線分に分割し、この線分の視差を求めてもよい。また、あるブロックにおいて求められた視差を評価し、ブロックを分割したり結合したりしてもよい。
【0318】
また、実施の形態1から実施の形態5において、焦点制御を省略し、アクチュエータを構成に含まなくてもよい。非常に焦点深度が深いレンズを利用した場合は、レンズと撮像素子の距離の誤差が大きく許容されるため、アクチュエータを動作させる必要がない。
【産業上の利用可能性】
【0319】
本発明の撮像装置は、小型化、薄型化が可能な撮像装置であるため、カメラ機能を備えた携帯電話、ディジタルスチルカメラ、監視用カメラ、および車載用カメラ、または測距装置などに有用である。
【図面の簡単な説明】
【図1】図1は、本発明の実施の形態1に係る撮像装置の構成を示す断面図
【図2】図2は、本発明の実施の形態1に係る撮像装置のレンズの上面図
【図3】図3は、本発明の実施の形態1に係る撮像装置の回路部の上面図
【図4】図4は、本発明の実施の形態1に係る撮像装置のカラーフィルタの特性図
【図5】図5は、本発明の実施の形態1に係る撮像装置のIRフィルタの特性図
【図6】図6は、本発明の実施の形態1に係る撮像装置において、無限遠にある物体像の位置を説明するための図
【図7】図7は、本発明の実施の形態1に係る撮像装置において、有限距離の位置にある物体像の位置を説明するための図
【図8】(A)は本発明の実施の形態1に係る撮像装置において、合焦時の画像とコントラスト評価値の関係を説明する図、(B)は本発明の実施の形態1に係る撮像装置において、非合焦時の画像とコントラスト評価値の関係を説明する図
【図9】図9は、本発明の実施の形態1に係る撮像装置のレンズ位置とコントラスト評価値の関係を説明する図
【図10】図10は、本発明の実施の形態1に係る撮像装置のブロック図
【図11】図11は、本発明の実施の形態1に係る撮像装置の動作を示すフローチャート
【図12】図12は、本発明の実施の形態1に係る自動焦点制御の動作を示すフローチャート
【図13】図13は、本発明の実施の形態1に係る撮像装置の撮像信号の座標を説明する図
【図14】図14は、本発明の実施の形態1に係る強度補正の動作を示すフローチャート
【図15】図15は、本発明の実施の形態1に係る歪曲補正係数を説明する図
【図16】図16は、本発明の実施の形態1に係る歪曲補正の動作を示すフローチャート
【図17】図17は、本発明の実施の形態1に係る視差補正の動作を示すフローチャート
【図18】図18は、本発明の実施の形態1に係る撮像装置において、ブロック分割を説明する図
【図19】図19は、本発明の実施の形態1に係る撮像装置において、視差評価値の演算領域を説明する図
【図20】図20は、本発明の実施の形態1に係る撮像装置の視差と視差評価値との関係を説明する図
【図21】図21は、本発明の実施の形態2に係る撮像装置の構成を示す断面図
【図22】図22は、本発明の実施の形態2に係る撮像装置のブロック図
【図23】図23は、本発明の実施の形態2に係る補正係数の作成時の撮像装置などの外観図
【図24】図24は、本発明の実施の形態2に係る強度補正係数作成に使用する強度補正用チャートの外観図
【図25】図25は、本発明の実施の形態2に係る撮像装置の撮像信号と強度補正係数と補正後の撮像信号とを示す波形図
【図26】図26は、本発明の実施の形態2に係る原点補正係数作成に使用する原点補正用チャートの外観図
【図27】図27は、本発明の実施の形態2に係る原点補正用チャートを撮影時の撮像信号を示す図
【図28】図28は、本発明の実施の形態2に係る歪曲補正係数作成に使用する歪曲補正用チャートの外観図
【図29】図29は、本発明の実施の形態2に係る歪曲補正用チャートを撮影時の撮像信号を示す図
【図30】図30は、本発明の実施の形態2に係る強度補正係数、原点補正係数、および歪曲補正係数の作成方法を示すフローチャート
【図31】図31は、歪曲補正係数を線形補間より作成する際に参照する座標を示す図
【図32】図32は、本発明の実施の形態2の変形例において、歪曲補正係数作成に使用する歪曲補正用チャートの外観図
【図33】図33は、本発明の実施の形態3に係る撮像装置の構成を示す断面図
【図34】図34は、本発明の実施の形態3に係る撮像装置のブロック図
【図35】図35は、本発明の実施の形態3に係る補正係数の作成時の撮像装置などの外観図
【図36】図36は、本発明の実施の形態3に係る強度補正係数作成と原点補正係数作成とに使用する強度原点補正用チャートの外観図
【図37】図37は、本発明の実施の形態3に係る強度補正係数、原点補正係数、および歪曲補正係数の作成方法を示すフローチャート
【図38】図38は、本発明の実施の形態4に係る撮像装置の構成を示す断面図
【図39】図39は、本発明の実施の形態4に係る撮像装置のブロック図
【図40】図40は、本発明の実施の形態4に係る補正係数の作成時の撮像装置などの外観図
【図41】図41は、本発明の実施の形態4に係る強度補正係数作成と原点補正係数作成と歪曲補正係数作成とに使用する強度原点歪曲補正用チャートの外観図
【図42】図42は、本発明の実施の形態4に係る強度補正係数、原点補正係数、および歪曲補正係数の作成方法を示すフローチャート
【図43】図43は、本発明の実施の形態5に係る撮像装置の構成を示す断面図
【図44】図44は、本発明の実施の形態5に係る撮像装置のレンズの上面図
【図45】図45は、本発明の実施の形態5に係る撮像装置の回路部の上面図
【図46】図46は、本発明の実施の形態5に係る撮像装置のブロック図
【図47】図47は、本発明の実施の形態5に係る撮像装置の動作を示すフローチャート
【図48】図48は、本発明の実施の形態5に係る距離演算の動作を示すフローチャート
【図49】図49は、本発明の実施の形態5に係る撮像装置において、視差評価値の演算領域を説明する図
【図50】図50は、従来の撮像装置の構成を示す断面図
【図51】図51は、絞りとレンズ部と周辺光量の関係を説明する図
【図52】図52は、緑色成分と赤色成分と青色成分の光量分布を示す図
Claims (16)
- それぞれが少なくとも1枚のレンズを含む複数のレンズ部と、
前記複数のレンズ部に一対一に対応し、対応する前記レンズ部の光軸方向に対して略垂直な受光面をそれぞれ備える複数の撮像領域と、
前記複数の撮像領域からそれぞれ出力される複数の撮像信号が入力される撮像信号入力部と、
前記撮像領域の強度むらの情報である強度補正係数を保存する強度補正係数保存部と、
前記強度補正係数を用いて、前記撮像領域の強度むらの影響を低減するように前記複数の撮像信号のそれぞれの強度を補正する強度補正部とを有する撮像装置。 - 前記複数の撮像領域のうち少なくとも2つの前記撮像領域に対する入射光の光路上に、第1の波長を略中心とする透過特性を有する光学素子をさらに備え、その他の撮像領域に対する入射光の光路上に、前記第1の波長と異なる波長を略中心とする透過特性を有する光学素子をさらに備えた、請求項2に記載の撮像装置。
- 前記強度補正部は、前記複数の撮像領域のうち、少なくとも前記第1の波長を略中心とする透過特性を有する光学素子を透過した光線を受光する撮像領域に対応した前記撮像信号の強度を補正する、請求項2に記載の撮像装置。
- 前記第1の波長は、人間の視覚に略緑として認識される波長である、請求項2または3に記載の撮像装置。
- 前記強度補正部により強度を補正された撮像信号に基づき、前記複数のレンズ部がそれぞれ形成する像間の視差を求める視差演算部と、
前記視差に基づいて前記複数の撮像信号を補正し画像を合成する視差補正部とをさらに有する、請求項1〜4のいずれか一項に記載の撮像装置。 - 前記強度補正部により強度を補正された撮像信号に基づき、前記複数のレンズ部がそれぞれ形成する像間の視差を求める視差演算部と、
前記視差に基づいて被写体に対する距離を求める距離演算部とをさらに有する、請求項1〜4のいずれか一項に記載の撮像装置。 - 前記複数の撮像信号のうちの少なくとも1つの撮像信号を複数のブロックに分割するブロック分割部をさらに有し、
前記視差演算部は、前記ブロックごとに前記複数のレンズ部がそれぞれ形成する像間の視差を演算する、請求項5または6に記載の撮像装置。 - 前記複数のレンズ部の光軸の原点と撮像信号の原点との対応に関する情報である原点補正係数を保存する原点補正係数保存部と、
前記原点補正係数に基づき前記複数の撮像信号のそれぞれの原点を補正する原点補正部とをさらに有する、請求項1〜7のいずれか一項に記載の撮像装置。 - 前記レンズ部の歪曲の情報である歪曲補正係数を保存する歪曲補正係数保存部と、
前記歪曲補正係数に基づき前記複数のレンズ部の歪曲の影響を低減するように前記複数の撮像信号のそれぞれを補正する歪曲補正部とをさらに有する、請求項1〜8のいずれか一項に記載の撮像装置。 - 前記強度補正部が、前記複数の撮像信号を、強度レベルが互いに等しくなるよう補正する、請求項1〜9のいずれか一項に記載の撮像装置。
- それぞれが少なくとも1枚のレンズを含む複数のレンズ部と、
前記複数のレンズ部に一対一に対応し、対応する前記レンズ部の光軸方向に対して略垂直な受光面をそれぞれ備える複数の撮像領域と、
前記複数の撮像領域からそれぞれ出力される複数の撮像信号が入力される撮像信号入力部と、
前記撮像領域の強度むらの情報である強度補正係数を保存する強度補正係数保存部と、
前記強度補正係数を用いて、前記撮像領域の強度むらの影響を低減するように前記撮像信号の強度を補正する強度補正部とを備えた撮像装置の製造方法であって、
前記撮像装置により、略白色の物体を撮影する第1の撮影工程と、
前記第1の撮影工程により得られた撮像信号に基づいて、前記強度補正係数を算出する強度補正係数演算工程と、
前記強度補正係数演算工程により算出された強度補正係数を前記強度補正係数保存部へ保存する工程とを有する、撮像装置の製造方法。 - 前記撮像装置が、前記複数のレンズ部の光軸の原点と撮像信号の原点との対応に関する情報である原点補正係数を保存する原点補正係数保存部と、前記原点補正係数に基づき前記撮像信号の原点を補正する原点補正部とをさらに有し、
前記撮像装置により、中央部に十字を含むパターンを有する物体を撮影する第2の撮影工程と、
前記第2の撮影工程により得られた撮像信号に基づいて、前記原点補正係数を算出する原点補正係数演算工程と、
前記原点補正係数演算工程により算出された原点補正係数を前記原点補正係数保存部へ保存する工程とをさらに有する、請求項11に記載の撮像装置の製造方法。 - 前記撮像装置が、前記レンズ部の歪曲の情報である歪曲補正係数を保存する歪曲補正係数保存部と、前記歪曲補正係数に基づき前記複数のレンズ部の歪曲の影響を低減するように撮像信号を補正する歪曲補正部とをさらに有し、
前記撮像装置により、格子状のパターンを有する物体を撮影する第3の撮影工程と、
前記第3の撮影工程により得られた撮像信号に基づいて、前記歪曲補正係数を算出する歪曲補正係数演算工程と、
前記歪曲補正係数演算工程により算出された歪曲補正係数を前記歪曲補正係数保存部へ保存する工程とをさらに有する、請求項11または12に記載の撮像装置の製造方法。 - 前記撮像装置が、前記複数のレンズ部の光軸の原点と撮像信号の原点との対応に関する情報である原点補正係数を保存する原点補正係数保存部と、前記原点補正係数に基づき前記撮像信号の原点を補正する原点補正部とをさらに有し、
前記第1の撮影工程において、前記物体として、背景が略白色で中央部に十字を含むパターンを有する物体を用い、
前記第1の撮影工程により得られた撮像信号に基づいて、前記原点補正係数を算出する原点補正係数演算工程と、
前記原点補正係数演算工程により算出された原点補正係数を前記原点補正係数保存部へ保存する工程とをさらに有する、請求項11に記載の撮像装置の製造方法。 - 前記撮像装置が、前記レンズ部の歪曲の情報である歪曲補正係数を保存する歪曲補正係数保存部と、前記歪曲補正係数に基づき前記複数のレンズ部の歪曲の影響を低減するように撮像信号を補正する歪曲補正部とをさらに有し、
前記第1の撮影工程において、前記物体として、背景が略白色で格子状のパターンを有する物体を用い、
前記第1の撮影工程において得られた撮像信号に基づいて、前記歪曲補正係数を算出する歪曲補正係数演算工程と、
前記歪曲補正係数演算工程により算出された歪曲補正係数を前記歪曲補正係数保存部へ保存する工程とをさらに有する、請求項11に記載の撮像装置の製造方法。 - 前記撮像装置が、前記複数のレンズ部の光軸の原点と撮像信号の原点との対応に関する情報である原点補正係数を保存する原点補正係数保存部と、前記原点補正係数に基づき前記撮像信号の原点を補正する原点補正部と、前記レンズ部の歪曲の情報である歪曲補正係数を保存する歪曲補正係数保存部と、前記歪曲補正係数に基づき前記複数のレンズ部の歪曲の影響を低減するように撮像信号を補正する歪曲補正部とをさらに有し、
前記第1の撮影工程において、前記物体として、背景が略白色で格子状のパターンを有する物体を用い、
前記第1の撮影工程により得られた撮像信号に基づいて、前記原点補正係数を算出する原点補正係数演算工程と、
前記第1の撮影工程において得られた撮像信号に基づいて、前記歪曲補正係数を算出する歪曲補正係数演算工程と、
前記原点補正係数演算工程および歪曲補正係数演算工程により算出された原点補正係数および歪曲補正係数を、前記原点補正係数保存部および歪曲補正係数保存部へそれぞれ保存する工程とをさらに有する、請求項11に記載の撮像装置の製造方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004371850 | 2004-12-22 | ||
JP2004371850 | 2004-12-22 | ||
PCT/JP2005/023345 WO2006068129A1 (ja) | 2004-12-22 | 2005-12-20 | 撮像装置およびその製造方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JPWO2006068129A1 true JPWO2006068129A1 (ja) | 2008-06-12 |
Family
ID=36601729
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006548994A Withdrawn JPWO2006068129A1 (ja) | 2004-12-22 | 2005-12-20 | 撮像装置およびその製造方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US8023016B2 (ja) |
JP (1) | JPWO2006068129A1 (ja) |
CN (1) | CN101088285A (ja) |
WO (1) | WO2006068129A1 (ja) |
Families Citing this family (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7760231B2 (en) * | 2005-03-09 | 2010-07-20 | Pixar | Animated display calibration method and apparatus |
KR100762098B1 (ko) * | 2006-03-09 | 2007-10-01 | (주)실리콘화일 | 3차원 영상 획득용 씨모스 스테레오 카메라 |
WO2007111264A1 (ja) * | 2006-03-24 | 2007-10-04 | Nikon Corporation | 信号処理方法、信号処理システム、係数生成装置、およびデジタルカメラ |
DE102006050235B4 (de) * | 2006-10-17 | 2014-02-13 | Pilz Gmbh & Co. Kg | Kamerasystem zum Überwachen eines Raumbereichs |
CN101843106B (zh) * | 2007-11-01 | 2015-11-25 | 柯尼卡美能达控股株式会社 | 摄像装置 |
JP2011172172A (ja) | 2010-02-22 | 2011-09-01 | Sony Corp | 立体映像処理装置および方法、並びにプログラム |
JP5192096B2 (ja) * | 2010-03-24 | 2013-05-08 | 富士フイルム株式会社 | 立体撮像装置 |
US20140192238A1 (en) | 2010-10-24 | 2014-07-10 | Linx Computational Imaging Ltd. | System and Method for Imaging and Image Processing |
JP5816015B2 (ja) * | 2011-07-15 | 2015-11-17 | 株式会社東芝 | 固体撮像装置及びカメラモジュール |
EP2732618B1 (en) | 2011-08-12 | 2016-10-12 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Camera arrangement for image detection, x-ray system and method for balancing and operating |
US9599787B2 (en) * | 2011-12-27 | 2017-03-21 | Tera Xtal Technology Corporation | Using sapphire lens to protect the lens module |
CN105379245B (zh) * | 2013-07-05 | 2018-08-07 | 柯尼卡美能达株式会社 | 复眼摄像装置 |
US9386203B2 (en) * | 2013-10-28 | 2016-07-05 | Omnivision Technologies, Inc. | Compact spacer in multi-lens array module |
US9876992B2 (en) * | 2014-04-30 | 2018-01-23 | Panasonic Intellectual Property Management Co., Ltd. | Imaging apparatus and distance measuring apparatus using the same |
US9959610B2 (en) * | 2014-10-30 | 2018-05-01 | Applied Materials, Inc. | System and method to detect substrate and/or substrate support misalignment using imaging |
KR20170000686A (ko) * | 2015-06-24 | 2017-01-03 | 삼성전기주식회사 | 거리 검출 장치 및 이를 포함하는 카메라 모듈 |
CN107991994A (zh) * | 2017-11-24 | 2018-05-04 | 中国航发沈阳黎明航空发动机有限责任公司 | 一种不定心装夹的加工方法 |
WO2019111575A1 (ja) * | 2017-12-08 | 2019-06-13 | ソニーセミコンダクタソリューションズ株式会社 | 撮像装置および撮像装置の製造方法 |
Family Cites Families (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4166280A (en) * | 1977-11-04 | 1979-08-28 | Ampex Corporation | High performance television color camera employing a camera tube and solid state sensors |
US6205259B1 (en) | 1992-04-09 | 2001-03-20 | Olympus Optical Co., Ltd. | Image processing apparatus |
JP3791696B2 (ja) * | 1992-04-09 | 2006-06-28 | オリンパス株式会社 | 画像表示装置 |
JPH0787385A (ja) | 1993-09-10 | 1995-03-31 | Canon Inc | 撮像装置 |
JP3639620B2 (ja) * | 1994-09-06 | 2005-04-20 | キヤノン株式会社 | 画像合成装置及び画像処理方法 |
JP3864491B2 (ja) * | 1997-04-16 | 2006-12-27 | ソニー株式会社 | 視差算出装置、距離算出装置およびこれらの方法 |
JP3284190B2 (ja) | 1998-05-14 | 2002-05-20 | 富士重工業株式会社 | ステレオカメラの画像補正装置 |
US6611289B1 (en) * | 1999-01-15 | 2003-08-26 | Yanbin Yu | Digital cameras using multiple sensors with multiple lenses |
US6859229B1 (en) | 1999-06-30 | 2005-02-22 | Canon Kabushiki Kaisha | Image pickup apparatus |
JP3397755B2 (ja) | 1999-06-30 | 2003-04-21 | キヤノン株式会社 | 撮像装置 |
US6816625B2 (en) * | 2000-08-16 | 2004-11-09 | Lewis Jr Clarence A | Distortion free image capture system and method |
JP2002107145A (ja) | 2000-10-03 | 2002-04-10 | Olympus Optical Co Ltd | 測距装置及びそのための調整装置 |
JP3703424B2 (ja) * | 2000-10-25 | 2005-10-05 | キヤノン株式会社 | 撮像装置及びその制御方法及び制御プログラム及び記憶媒体 |
US7262799B2 (en) * | 2000-10-25 | 2007-08-28 | Canon Kabushiki Kaisha | Image sensing apparatus and its control method, control program, and storage medium |
JP3943848B2 (ja) | 2001-02-28 | 2007-07-11 | 株式会社リコー | 撮像装置 |
JP2002330332A (ja) * | 2001-04-27 | 2002-11-15 | Canon Inc | 画像処理装置、撮像装置、その制御方法、及び記録媒体 |
TW524011B (en) * | 2001-08-10 | 2003-03-11 | Veutron Corp | Circuit using RGB signals of scanner for color space conversion |
JP2003143459A (ja) * | 2001-11-02 | 2003-05-16 | Canon Inc | 複眼撮像系およびこれを備えた装置 |
US20030174235A1 (en) * | 2002-03-14 | 2003-09-18 | Creo Il. Ltd. | Method and apparatus for composing flat lighting and correcting for lighting non-uniformity |
-
2005
- 2005-12-20 US US11/722,447 patent/US8023016B2/en active Active
- 2005-12-20 JP JP2006548994A patent/JPWO2006068129A1/ja not_active Withdrawn
- 2005-12-20 CN CNA2005800444590A patent/CN101088285A/zh active Pending
- 2005-12-20 WO PCT/JP2005/023345 patent/WO2006068129A1/ja not_active Application Discontinuation
Also Published As
Publication number | Publication date |
---|---|
US8023016B2 (en) | 2011-09-20 |
WO2006068129A1 (ja) | 2006-06-29 |
US20080151079A1 (en) | 2008-06-26 |
CN101088285A (zh) | 2007-12-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JPWO2006068129A1 (ja) | 撮像装置およびその製造方法 | |
US11716535B2 (en) | Thin multi-aperture imaging system with auto-focus and methods for using same | |
KR100851477B1 (ko) | 투영장치, 투영방법 및 이를 실행시킬 수 있는 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체 | |
JP4322921B2 (ja) | カメラモジュールおよびそれを備えた電子機器 | |
KR102237315B1 (ko) | 고체 촬상 장치, 전자기기, 렌즈 제어 방법, 및 촬상 모듈 | |
KR101655742B1 (ko) | 다중 조리개 촬영용 플래시 시스템 | |
JP3680827B2 (ja) | デジタルカメラ | |
JP6791243B2 (ja) | 撮像素子、及び、撮像装置 | |
JP2008035282A (ja) | 撮像装置と該撮像装置を備えた携帯機器 | |
JP2011015222A (ja) | 撮像装置及び撮像制御方法 | |
JP2007214964A (ja) | 映像表示装置 | |
KR101119969B1 (ko) | 디지털 카메라에서 고정 패턴 노이즈 제거 장치 및 방법 | |
JP2008113236A (ja) | 撮像装置におけるシェーディング補正方法と装置 | |
JP5475393B2 (ja) | 撮像システムおよび補正方法 | |
JP2007235862A (ja) | 撮像装置 | |
TW202131671A (zh) | 電子機器 | |
JP5530785B2 (ja) | 撮像装置 | |
JP2016063391A (ja) | 撮像装置、表示装置、及び、電子機器 | |
JP4875399B2 (ja) | 撮像装置及びその制御方法並びに撮像システム | |
JP2006311126A (ja) | 撮像装置 | |
JP6700728B2 (ja) | 撮像素子および撮像装置 | |
JP2006352434A (ja) | 撮影装置 | |
JP2022012301A (ja) | 情報処理装置、撮像装置、制御方法およびプログラム | |
KR20090048878A (ko) | 촬상 장치 및 오토 포커싱 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20090303 |