JP3854754B2 - 撮像装置、画像処理装置及びその方法、並びにメモリ媒体 - Google Patents

撮像装置、画像処理装置及びその方法、並びにメモリ媒体 Download PDF

Info

Publication number
JP3854754B2
JP3854754B2 JP18687699A JP18687699A JP3854754B2 JP 3854754 B2 JP3854754 B2 JP 3854754B2 JP 18687699 A JP18687699 A JP 18687699A JP 18687699 A JP18687699 A JP 18687699A JP 3854754 B2 JP3854754 B2 JP 3854754B2
Authority
JP
Japan
Prior art keywords
correction data
dimensional correction
image
vertical
horizontal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP18687699A
Other languages
English (en)
Other versions
JP2001016509A (ja
Inventor
泰彦 塩見
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP18687699A priority Critical patent/JP3854754B2/ja
Priority to US09/603,629 priority patent/US6707955B1/en
Priority to EP00113825A priority patent/EP1067777B1/en
Priority to EP10157161.0A priority patent/EP2202958A3/en
Publication of JP2001016509A publication Critical patent/JP2001016509A/ja
Priority to US10/761,304 priority patent/US6963674B2/en
Priority to US11/188,836 priority patent/US7471808B2/en
Application granted granted Critical
Publication of JP3854754B2 publication Critical patent/JP3854754B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/44Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
    • H04N25/447Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array by preserving the colour pattern with or without loss of information
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/67Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response
    • H04N25/671Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response for non-uniformity detection or correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2209/00Details of colour television systems
    • H04N2209/04Picture signal generators
    • H04N2209/041Picture signal generators using solid-state devices
    • H04N2209/042Picture signal generators using solid-state devices having a single pick-up sensor
    • H04N2209/045Picture signal generators using solid-state devices having a single pick-up sensor using mosaic colour filter

Description

【0001】
【発明の属する技術分野】
本発明は、撮像装置、画像処理装置及びその方法、並びにメモリ媒体に関する。
【0002】
【従来の技術】
図16は、従来のデジタルスチルカメラの概略的な構成を示す図である。このデジタルカメラでは、操作スイッチ(メインスイッチやレリーズスイッチ等)91の状態変化を全体制御回路80が検出し、他の各ブロックへの電源供給を開始する。
【0003】
撮影画面範囲内の被写体像は、主撮影光学系81を通して撮像部82の撮像面上に結像する。撮像部82は、この像をアナログ電気信号に変換し、各画素毎に順にA/D変換部83に供給する。A/D変換部83は、このアナログ電気信号をデジタル信号に変換してプロセス処理回路84に供給する。
【0004】
プロセス処理回路84では、入力データを基にRGBの各色の画像信号を生成する。撮影前の状態では、この画像信号は、メモリ制御部85を通してビデオメモリ89にフレーム単位で定期的に転送され、これにより表示部90に画像が表示される。これがファインダ表示である。
【0005】
一方、撮影者が操作スイッチ91を操作し、撮影の実行が指示されると、全体制御回路80からの制御信号に従って、プロセス処理回路84から出力される1フレーム分の各画素データがフレームメモリ86に記憶される。そして、このフレームメモリ86内のデータは、メモリ制御部85及び作業用のワークメモリ87によって、所定の圧縮フォーマットに基づいて圧縮され、その結果が外部メモリ(例えば、フラッシュメモリ等の不揮発性メモリ)88に記憶される。
【0006】
また、撮影済みの画像を観察する場合には、外部メモリ88に圧縮して記憶されたデータが読み出され、メモリ制御部85によって伸張され、通常の撮影画素毎のデータに変換される。そして、その結果は、ビデオメモリ89に転送され、表示部90に画像が表示される。
【0007】
この様なデジタルカメラにおいて、撮像部32の撮像素子には、各画素毎の光感度を向上させる為に、図2に示すようなマイクロレンズ31が各感光画素部分毎に設けられている。ここで、30はフィールドレンズとしての撮影レンズ(主撮像光学系)であり、32は、撮像素子の感光部(受光部)である。
【0008】
このマイクロレンズ31を撮像素子の各感光画素毎に設けることで、撮像素子の有効感度領域が狭い場合においても、周辺の光を有効に感光画素部分に集光させることが可能となる。
【0009】
ここで、図2(a)に示す様に、撮影レンズ30を通した光線が光軸に対してほぼ平行に撮像素子に入射する場合は、ほぼ問題無く入射光線が感光部31に集光する。しかし、図2(b)に示す様に、撮影レンズ30に斜めに光線が入射する場合には、撮影レンズ30とマイクロレンズ31との光学的な関係により、撮影レンズ30の光軸から離れた領域(撮像素子の周辺部分)の感光部31には、本来の入射光線の一部しか光が入射しない。
【0010】
この様な光量の低下を一般的にはホワイトシェーディングと呼ぶが、この現象は、撮像素子上の画素位置が撮影レンズ30の光軸から離れるに従って激しくなり、また、撮影レンズ30の焦点距離が短焦点側になる(実際には撮像素子側から撮影レンズの瞳位置までの距離が短くなる)につれて激しくなる。
【0011】
図3は、撮影レンズ30の絞りを変化させた場合のホワイトシェーディングの変化を表したグラフで、(a)は絞り開放状態、(b)は絞りを絞り込んだ状態での撮像素子上の像高と相対感度の関係を表したものである。この様に、絞りが開放状態の場合は、撮像素子に結像する像高が高くなるにつれ相対感度は中心部分に比較して大きく低下するが、これは図2(b)で示した様な撮影光学系に斜めに入射する光成分が多く含まれる事によるものである。
【0012】
一方、絞りを絞り込むと、像高が高くなっていっても相対感度の変化は少なくなる。これは絞りの効果によって撮影レンズ30に斜めに入射する光成分が抑えられる事によるものである。
【0013】
撮影レンズ30と撮像素子上のマイクロレンズとの組み合わせで発生するホワイトシェーディングを補正する方法として、特開平9−130603に開示されている方法がある。この方法では、撮像素子上の各画素の位置を、水平方向X、垂直方向Yで示されるポインタで表わされるとした上で、水平方向1ライン分のシェーディング補正データH(x)、及び垂直方向1ライン分のシェーディング補正データV(y)を使用する。この水平1ライン及び垂直1ラインの各シェ−ディング補正データは、端(周辺)に行く程大きくなる値に設定されており、撮像素子上の所定の画素S(i,j)に対して、水平方向の補正データH(i)及び垂直方向の補正データV(j)を用いて、
S(i,j)×H(i)×V(j)→S’(i,j)
なる演算を行って、シェーディングによる撮像素子周辺部での感度低下を見かけ上防止している。
【0014】
【発明が解決しようとする課題】
従来の一眼レフタイプの銀塩カメラと同じ光学システム(例えば交換レンズシステム)を流用してデジタルカメラを構成する場合は、通常の撮像素子に比較してかなり大きな撮像領域を持つ撮像素子が必要となる。
【0015】
しかしながら、この大きな撮像領域を持つ撮像素子では、製造時に発生する色フィルター等の感度不均一性が問題となる場合がある。これは撮像素子全体で見た場合、部分的に一部の領域のみが感度の低下や上昇が生じ、単純に周辺に行く程ゲインをアップさせるだけでは補正を行う事は出来ない。
【0016】
図4の401は、撮像素子の感度分布の一例であって、中心部分の感度が周辺部分に比べて高い場合を概念的に表現している。この様な感度ムラに対しては、前述した従来例の方法を使ってもある程度補正を行う事が可能である。
【0017】
例えば、図4の402は、水平方向の感度補正データH(i)の関数を表したもので、補正係数の値が中心部分で小さく周辺で大きくなっている。一方、図4の403は、垂直方向の感度補正データーV(j)の関数を表したもので、補正係数の値がやはり中心部分で小さく周辺で大きくなっている。
【0018】
従って、この関数を各画素ポイントの値S(i,j)に対して、
S(i,j)×H(i)×V(j)→S’(i,j)
なる演算を行えば補正を行う事は出来る。
【0019】
しかし、部分的な感度不均一性が、図5の501に示した様な画面上の複数の領域に存在する場合は、前述の様な単に水平方向1ライン分のシェーディング補正データH(x)及び垂直方向1ライン分のシェーディング補正データV(y)を用いた補正方法では、この感度不均一性を完全に取り除く事は出来ない。
【0020】
また、図6の601に示した撮像素子のデバイス構造では、例えば2つの感度領域を挟んでアルミ配線等が走っている為に、図中左側の領域では2つの感度領域の一方(Gの感度領域)への入射光が低下し、逆に、図中右側の領域では2つの感度領域の一方(Rの感度領域)への入射光が低下する。従って、両感度領域(G及びR)の感度は、図6の602に示した様に、撮像素子の画面領域の左右で異なる。
【0021】
同様に、隣の行(GとBが交互に並んでいる)では、図6の603の様に、感度分布が変化する。即ち、この例の場合、色フィルターの配列としてベイヤー配列を想定しているので、G感度は602の場合と異なり、右側にいくにつれて低下する特性となる。
【0022】
この特性のままでR,G,Bを組み合わせて色を作ると、画面の左右及び上下で色あいが異なる結果となる。この現象を一般的には色シェーディングと呼ぶが、この現象もデバイスの構造の他、前述した撮影レンズとマイクロレンズとの組み合わせによって発生するものである。
【0023】
この様な現象に対しては、従来の一次元の補正データ列H(i)、V(j)を組み合わせただけでは、十分に色のアンバランスを補正する事は出来ない。
【0024】
本発明は、上記の背景に鑑みてなされたものであり、例えば、撮像素子の感度の不均一性を補正することを目的とする。
【0025】
具体的には、本発明は、例えば、撮像素子に設けられた色フィルタの製造上のばらつき等に起因する撮像素子の部分的な感度の不均一性を補正することを目的とする。
【0026】
また、本発明は、例えば、撮像素子のデバイス構造と撮像光学系との組み合わせに起因する撮像素子の感度の不均一性(例えば、色シェ−ディング、ホワイトシェ−ディング)を補正することを目的とする。
【0027】
また、本発明は、例えば、撮影光学系の状態の変化に拘らず、撮像素子のデバイス構造と撮像光学系との組み合わせに起因する撮像素子の感度の不均一性(例えば、ホワイトシェ−ディング)を補正することを目的とする。
【0028】
本発明の他の目的は、発明の実施の形態において記載されている。
【0029】
【課題を解決するための手段】
本発明の第1の側面に係る撮像装置は、2次元的に画素が配列された撮像素子と、前記撮像素子によって撮像される画像の行に対して、水平方向の1次元補正データを乗じる第1乗算手段と、前記画像の列に対して、垂直方向の1次元補正データを乗じる第2乗算手段と、前記水平方向の1次元補正データ及び前記垂直方向の1次元補正データの少なくとも一方を変更する変更手段とを備え、前記画像は、水平方向及び垂直方向に各々複数の画素が連続して2次元的に含まれる複数の部分領域に水平及び垂直両方向の少なくとも一つの方向で分割され、前記変更手段は、前記水平方向及び垂直方向の1次元補正データのうち少なくとも一方について2種類の1次元補正データを有し、前記2種類の1次元補正データを前記部分領域に応じて変更し、前記第1乗算手段及び第2乗算手段によって、前記画像の各画素の値を補正することを特徴とする。
【0030】
本発明の第1の側面に係る撮像装置において、例えば、前記変更手段は、前記水平方向及び垂直方向の1次元補正データの双方について2種類の1次元補正データを有し、前記水平方向の1次元補正データ及び前記垂直方向の1次元補正データの双方を前記部分領域に応じて変更することが好ましい。
【0031】
本発明の第2の側面に係る撮像装置は、2次元的に画素が配列された撮像素子と、前記撮像素子によって撮像される画像の行に対して、水平方向の1次元補正データを乗じる第1乗算手段と、前記画像の列に対して、垂直方向の1次元補正データを乗じる第2乗算手段と、行列で与えられる2次元補正データを乗じる第3乗算手段と、前記2次元補正データを変更する変更手段とを備え、前記画像は、水平方向及び垂直方向に各々複数の画素が連続して2次元的に含まれる複数の部分領域に水平及び垂直両方向の少なくとも一つの方向で分割され、前記変更手段は、前記部分領域に応じて前記2次元補正データを変更することを特徴とする。
【0032】
本発明の第の側面に係る撮像装置において、例えば、前記変更手段は、撮像光学系の状態に応じて、前記水平方向の1次元補正データ及び前記垂直方向の1次元補正データの少なくとも一方を変更する手段を含むことが好ましい。
【0033】
本発明の第の側面に係る撮像装置において、例えば、前記変更手段は、撮像光学系の焦点距離、画角、絞りのいずれか或いはこれらの組み合わせに応じて、前記水平方向の1次元補正データ及び前記垂直方向の1次元補正データの少なくとも一方を変更する手段を含むことが好ましい。
【0034】
本発明の第3の側面に係る画像処理装置は、2次元的に画素が配列された撮像素子から供給される画像を処理する画像処理装置であって、前記画像の行に対して、水平方向の1次元補正データを乗じる第1乗算手段と、前記画像の列に対して、垂直方向の1次元補正データを乗じる第2乗算手段と、前記水平方向の1次元補正データ及び前記垂直方向の1次元補正データの少なくとも一方を変更する変更手段とを備え、前記画像は、水平方向及び垂直方向に各々複数の画素が連続して2次元的に含まれる複数の部分領域に水平及び垂直両方向の少なくとも一つの方向で分割され、前記変更手段は、前記水平方向及び垂直方向の1次元補正データのうち少なくとも一方について前記部分領域に応じた2種類の1次元補正データを有し、前記2種類の1次元補正データを前記部分領域に応じて変更し、前記第1乗算手段及び第2乗算手段によって、前記画像の各画素の値を補正することを特徴とする。
【0035】
本発明の第4の側面に係る画像処理方法は、2次元的に画素が配列された撮像素子によって撮像される画像の行に対して、水平方向の1次元補正データを乗じる第1乗算工程と、前記画像の列に対して、垂直方向の1次元補正データを乗じる第2乗算工程と、前記水平方向の1次元補正データ及び前記垂直方向の1次元補正データの少なくとも一方を変更する変更工程とを含み、前記画像は、水平方向及び垂直方向に各々複数の画素が連続して2次元的に含まれる複数の部分領域に水平及び垂直両方向の少なくとも一つの方向で分割され、前記水平方向及び垂直方向の1次元補正データのうち少なくとも一方について前記部分領域に応じた2種類の1次元補正データが備えられ、前記変更工程によって、前記2種類の1次元補正データを前記部分領域に応じて変更し、前記第1乗算工程及び第2乗算工程によって、前記画像の各画素の値を補正することを特徴とする。
【0036】
本発明の第5の側面に係るメモリ媒体は、画像処理プログラムを格納したメモリ媒体であって、該プログラムは、2次元的に画素が配列された撮像素子によって撮像される画像の行に対して、水平方向の1次元補正データを乗じる第1乗算工程と、前記画像の列に対して、垂直方向の1次元補正データを乗じる第2乗算工程と、前記水平方向の1次元補正データ及び前記垂直方向の1次元補正データの少なくとも一方を変更する変更工程とを含み、前記画像は、水平方向及び垂直方向に各々複数の画素が連続して2次元的に含まれる複数の部分領域に水平及び垂直両方向の少なくとも一つの方向で分割され、前記水平方向及び垂直方向の1次元補正データのうち少なくとも一方について前記部分領域に応じた2種類の1次元補正データが備えられ、前記変更工程によって、前記2種類の1次元補正データを前記部分領域に応じて変更し、前記第1乗算工程及び第2乗算工程によって、前記画像の各画素の値を補正する。
【0041】
【発明の実施の形態】
[第1の実施の形態]
図1は、本発明の好適な実施の形態に係るカメラ(撮像装置)の構成を示すブロック図である。図中、1は、カメラ全体の制御を司る全体制御CPUである。2は、カメラの撮影光学系の焦点距離(若しくは撮影光学系の瞳位置)を検出する為の焦点距離検出部であり、焦点距離に対応したエンコード情報を出力し、CPU1に伝達する。3は、撮影光学系内の絞りの状態を検出する絞り検出部であり、絞りの状態に対応したエンコード情報を出力してCPU1に伝達する。
【0042】
4は、カメラの主撮影光学系(撮像レンズ)である。5は、主撮影光学系4によって結像される被写体像である光情報を電気信号に変換して出力する撮像素子であり、例えばCCD等の電荷転送素子で構成される。
【0043】
所定時間内に撮像素子5で蓄積された電荷は、各画素毎に順に読み出されて次段のCDS/AGC回路6に供給され、ここで撮像素子そのもので発生するリセットノイズ等の雑音成分が低減され、適当なレベルまで増幅されてから、A/D変換部7に供給される。A/D変換部7では、電荷量に相当する被写体輝度情報をデジタルデータに変換する。ここで、撮像素子5上には、RGB等の各色信号等を作り出す為の光学色フィルタが貼り付けている為、撮像素子5からの出力信号は交互に各色を示す信号となって現れる。
【0044】
8は、実際に撮像素子5を駆動する為のドライバ回路であり、タイミングジェネレータ回路9から供給されるタイミング信号に基づいて、一定周期で撮像素子5に駆動パルスを供給する。
【0045】
また、タイミングジェネレータ回路9は、水平同期信号HD及び垂直同期信号VDを生成し、これをアドレス発生回路10に供給する。アドレス発生回路10は、水平同期信号HD及び垂直同期信号VDに基づいて、次段に繋がるメモリ12〜15に供給する為のアドレス信号を発生する。
【0046】
12〜15は、撮像素子の感度補正を行う為のデータを記憶しているメモリである。より具体的には、12は水平方向の第1補正データを記憶しているHメモリH1、13は水平方向の第2補正データを記憶しているHメモリH2、14は垂直方向の第1補正データを記憶しているVメモリV1、15は垂直方向の第2補正データを記憶しているVメモリV2である。
【0047】
11は、アドレス判別回路であり、アドレス発生回路10から供給される信号に基づいてメモリ12又は13を選択するための選択信号HSEL及びメモリ14又は15を選択するための選択信号VSELを出力する。
【0048】
16、17は、夫々メモリ12又は13、メモリ14又は15の出力をアドレス判別回路11から供給される選択信号HSEL、VSELに基づいて選択する。
【0049】
18は、第1乗算回路(MUL1)であり、A/D変換部7の出力とセレクタ16を介して得られる水平方向の補正データとの乗算処理を実行する。19は、第2乗算回路(MUL2)であり、第1乗算回路(MUL1)18の出力とセレクタ17を介して得られる垂直方向の補正データとの乗算処理を実行する。
【0050】
第2乗算回路(MUL2)19からの出力値は、例えば、プロセス処理回路に入力され、ここでダークレベル補正、γ変換、色補間処理等が施されて、その後、メモリ等に記憶される。
【0051】
ここで、この色補間処理を図7を参照しながら説明する。図7に示す撮像素子の画素配列(色フィルタの配列)は、一般的なベイヤー配列であり、Gの市松、R/B線順次の配列となっている。単板の撮像素子の場合は、全ての画素にRGBの情報があるわけではないので、例えば、図7の中央に示した3×3のマトリックスを使用した補間演算によって、撮像素子上の各画素位置に対応するRGB色情報を生成するのが一般的である。
【0052】
図7では、Gの補間フィルタとR/Bの補間フィルタは異なっているが、例えば、aの位置のGデータは、領域a’中の画素、即ちaの位置の画素及びその周囲8画素の各輝度データに、Gの補間フィルタの係数をそれぞれ掛け合わせることにより生成される。図7の場合、Gの色フィルタに対応するaの位置の輝度データに対する係数は1で、その上下左右に対する係数は0.25であるが、該上下左右の位置のGデータは0なので、実質的に、aの位置の出力値のみでGデータが決定される。
【0053】
一方、bの位置のGデータは、領域b’中の画素、即ちbの位置の画素及びその周囲8画素の各輝度データに、Gの補間フィルタの係数をそれぞれ掛け合わせることにより生成される。この場合は、bの位置のGデータは0なので、その上下左右のGデータの平均値によってbの位置でのGデータが決定される。
【0054】
同様にR/Bについても、Gの補間フィルタとは異なるR/Bの補間フィルタを使用して、全画素位置に対するR/Bデーターを決定する。この様にして、最終的には、図7の右端に示した様に全画素位置に対するRGBのデータを生成する事が出来る。
【0055】
次に、図1に示すカメラにおける補正処理をを、図5、図8、図9を使って説明する。
【0056】
図8は、全体制御CPU1からHメモリ(H1)12、Hメモリ(H2)13、Vメモリ(V1)14、Vメモリ(V2)15並びにアドレス判別回路11のデータの初期設定を行う処理を示すフローチャートである。
【0057】
ステップ24では、最初に、Hメモリ(H1)12に対して、図5の502に示す様な1次元のデータ列H1(i)を設定(格納)する。次に、ステップ25では、Hメモリ(H2)13に対して、図5の503に示す様な1次元のデータ列H2(i)を設定(格納)する。これらの2つのデータ列H1(i)及びH2(i)は互いに異なるデータである。これらのデータは、製造工程中で測定した撮像素子5の特性に応じて決定されて、予め全体制御CPU1の内部の不揮発性メモリ等に格納されている。ここで、iは、水平アドレスを示す。図5の501では、左方向が水平アドレスの下位側のアドレスである。
【0058】
同様に、ステップ26では、Vメモリ(V1)14に対して、図5の504に示す様な1次元のデータ列V1(j)を設定(格納)し、ステップ27では、Vメモリ(V2)15に対して、図5の505に示す様な1次元のデータ列V2(j)を設定(格納)する。これらの2つのデータ列V1(j)及びV2(j)も、互いに異なるデータであり、製造工程上で測定した撮像素子5の特性に応じて決定されて、予め全体制御CPU1の内部の不揮発性メモリ等に格納されている。ここで、jは、垂直アドレスを示す。図5の501では、上方向が垂直アドレスの下位側のアドレスである。
【0059】
撮像素子5の画素は、水平アドレスi及び垂直アドレスjによって位置が特定される。この水平アドレスi及び垂直アドレスjは、アドレス発生回路10において、水平同期信号HD及び垂直同期信号VDに従って生成される。
【0060】
次に、ステップ28及び29では、図1のアドレス判別回路11において、アドレス発生回路10で生成される水平アドレス並びに垂直アドレスを判別する場合の判別条件の値を設定する。
【0061】
ステップ28では、全体制御CPU1は、水平アドレス判別データとして、例えば図5の501に示す様な水平アドレスHαをアドレス判別回路11に転送し、ステップ29では、全体制御CPU1は、垂直アドレス判別データとして、例えば図5の501に示す様なVβを水平アドレスアドレス判別回路11に転送する。これらの2つのデータHα、Vβも、製造工程で実測された撮像素子5の特性に応じて決定され、予め全体制御CPU1の内部の不揮発性メモリ等に格納されている。
【0062】
次に、第1乗算回路(MUL1)18及び第2乗算回路(MUL2)19において、A/D変換回路7から出力されるデータに対して補正を施す際の補正データの切換えについて図9を参照しながら説明する。図9は、アドレス判別回路11におけるアドレス判別処理を示すフローチャートである。
【0063】
この例では、図5の501に示す様に、色フィルタの製造時のばらつき等によって、撮像素子5の第1領域及び第3領域の中央部分の感度が高くなっている。この感度分布を補正するためには、感度が高い部分に対応する補正係数の値が小さく、フィルタ感度が低い部分に対応する補正係数の値が大きいデータ列が使用される。
【0064】
図9のステップ30、31、36では、A/D変換部7から現在出力されているデータ(画素)の位置が、第1乃至第4領域からなる撮像素子5の有効領域中のどの領域に属するのかを水平アドレスi及び垂直アドレスjに基づいて判別する。
【0065】
まず、垂直アドレスがVβよりも小さく、水平アドレスがHαよりも小さい場合は、当該データが図5の501の第1領域のデータであるものと判別して、ステップ32及び33において、アドレス判別回路11の出力信号である選択信号HSELをLレベルに設定する共に選択信号VSELをLレベルに設定する。これにより、セレクタ16を通して、Hメモリ(H1)12に格納されている補正データH1(i)が第1乗算回路(MUL1)18に供給されると共に、セレクタ17を通して、Vメモリ(V1)14に格納されている補正データV1(j)が第2乗算回路(MUL2)に供給されることになる。この場合の補正処理は、次の通りである。
【0066】
第1領域では、まず、A/D変換回路7から出力されるデータに対して、第1乗算回路(MUL1)18において、その水平アドレスiに対応する水平方向の補正データH1(i)が乗算される。これにより、まず、水平方向の感度分布の補正(第1段階の補正)が行われる。第1領域では、その中央部分の感度が高いため、水平方向の補正データH1(i)としては、図5の502に示す様に、撮像素子5の感度の高い部分の補正係数が他の部分の補正係数よりも小さいデータ列が使用される。
【0067】
次いで、第1乗算回路(MUL1)18の出力には、第1領域の垂直方向の感度分布を補正するために、第2乗算回路(MUL2)19によって、垂直アドレスjに対応する垂直方向の補正データV1(j)が乗算される(第2段階の補正)。この補正データV1(j)は、セレクタ17を通して、Vメモリ(V1)14から第2乗算回路(MUL2)19に供給される。補正データV1(j)は、図5の504に示す様に、撮像素子5の感度が高い部分の補正係数が他の部分の補正係数よりも小さいデータ列である。
【0068】
この様に、この実施の形態では、第1領域の各画素に対して水平方向の1次元補正データH1(i)及び垂直方向の1次元補正データV1(j)をそれぞれ乗算することにより、第1領域における部分的な感度補正を実現している。
【0069】
また、図9のステップ30、31、36による判別処理において、A/D変換部7から現在出力されているデータ(画素)に対応する垂直アドレスがVβよりも小さく、水平アドレスがHα以上である場合は、当該データが第2領域のデータであるのもと判別される。この場合は、ステップ34及び35において、アドレス判別回路11の出力信号である選択信号HSELがLレベルに設定されると共に選択信号VSELがHレベルに設定される。これにより、セレクタ16を通して、Hメモリ(H1)12に格納されている補正データH1(i)が第1乗算回路(MUL1)18に供給されると共に、セレクタ17を通して、Vメモリ(V2)15に格納されている補正データV2(j)が第2乗算回路(MUL2)に供給されることになる。この場合の補正処理は、次の通りである。
【0070】
この例では、図5の501に示す様に、第2領域の感度分布は平坦である。従って、第2領域のデータに関しては、図5のの502の補正データH1(i)の内、水平アドレスがHα以上の部分、即ち、特性が平坦な部分を使用して水平方向の補正をする。即ち、第2領域に関しては、まず、A/D変換部7から出力されるデータに対して、第1乗算回路(MUL1)18において、その水平アドレスiに対応する水平方向の補正データH1(i)を乗算することにより、水平方向の補正を行う(第1段階の補正)。
【0071】
また、前述のように、第2領域の感度分布は平坦であるので、図5の505の補正データH2(j)のうち、垂直アドレスがVβ未満の部分、即ち、特性が平坦な部分を使用して垂直方向の補正をする。即ち、第2領域に関しては、第1段階の補正に次いで、第2乗算回路(MUL2)19によって、垂直アドレスjに対応する垂直方向の補正データV2(j)が乗算される(第2段階の補正)。
【0072】
以上のように、第2領域では、垂直方向の1次元補正データとして、第1領域と異なる1次元補正データV2(j)を用いているため、第1領域に感度ムラがある場合においても、第2領域の感度分布に適合した補正を行うことができる。
【0073】
また、図9のステップ30、31、36による判別処理において、A/D変換部7から現在出力されているデータ(画素)に対応する垂直アドレスがVβ以上で、水平アドレスがHαより小さい場合は、当該データが第3領域のデータであるものと判別される。この場合は、ステップ37及び38において、アドレス判別回路11の出力信号である選択信号HSELがHレベルに設定されると共に選択信号VSELがLレベルに設定される。これにより、セレクタ16を通して、Hメモリ(H2)13に格納されている補正データH2(i)が第1乗算回路(MUL1)18に供給されると共に、セレクタ17を通して、Vメモリ(V1)14に格納されている補正データV1(j)が第2乗算回路(MUL2)に供給されることになる。この場合の補正処理は、次の通りである。
【0074】
この例では、図5の501に示す様に、第3領域の感度分布は平坦である。従って、第3領域のデータに関しては、図5のの503の補正データH2(i)の内、水平アドレスがHα未満の部分、即ち、特性が平坦な部分を使用して水平方向の補正をする。即ち、第3領域に関しては、まず、A/D変換部7から出力されるデータに対して、第1乗算回路(MUL1)18において、その水平アドレスiに対応する水平方向の補正データH2(i)を乗算することにより、水平方向の補正を行う(第1段階の補正)。
【0075】
また、前述のように、第3領域の感度分布は平坦であるので、図5の504の補正データH1(j)のうち、垂直アドレスがVβ以上の部分、即ち、特性が平坦な部分を使用して垂直方向の補正をする。即ち、第3領域に関しては、第1段階の補正に次いで、第2乗算回路(MUL2)19によって、垂直アドレスjに対応する垂直方向の補正データV1(j)が乗算される(第2段階の補正)。
【0076】
以上のように、第3領域では、水平方向の1次元補正データとして、第1領域と異なる1次元補正データH2(i)を用いているため、第1領域に感度ムラがある場合においても、第3領域の感度分布の適合した補正を行うことができる。
【0077】
また、図9のステップ30、31、36による判別処理において、A/D変換部7から現在出力されているデータ(画素)に対応する垂直アドレスがVβ以上で、水平アドレスがHα以上である場合は、当該データが第4領域のデータであるものと判別される。この場合は、ステップ39及び40において、アドレス判別回路11の出力信号である選択信号HSELがHレベルに設定されると共に選択信号VSELがHレベルに設定される。この場合の補正処理は、次の通りである。
【0078】
この例では、図5の501に示す様に、第4領域は、その中央部分の感度が高い。従って、第4領域に関しては、図5の503の補正データH2(i)の内、水平アドレスがHα以上の部分、即ち、該感度の高い部分の補正係数が他の部分よりも小さい特性を有する部分を使用する。即ち、第4領域に関しては、まず、A/D変換部7から出力されるデータに対して、第1乗算回路(MUL1)18において、その水平アドレスiに対応する水平方向の補正データH2(i)を乗算することにより、水平方向の補正を行う(第1段階の補正)。
【0079】
また、前述のように、第4領域は、その中央部分の感度が高いので、図5の505の補正データH2(j)のうち垂直アドレスがVβ未満の部分、即ち、即ち、該感度の高い部分の補正係数が他の部分よりも小さい特性を有する部分を使用する。即ち、第2領域に関しては、第1段階の補正に次いで、第2乗算回路(MUL2)19によって、垂直アドレスjに対応する垂直方向の補正データV2(j)が乗算される(第2段階の補正)。
【0080】
以上のように、第4領域では、水平方向に関しては、第1及び第2領域と異なる1次元補正データH2(i)を使用し、垂直方向に関しては、第1及び第3領域と異なる1次元補正データV2(j)を使用することにより、第4領域の感度分布に適合した補正を行うことができる。
【0081】
製造工程で生じる色フィルタ等のムラ等に起因する撮像素子の部分的な感度ムラは、撮像素子の有効領域中の複数の個所に生じる可能性がある。この様な問題は、撮像素子を大面積化するのに伴って増大する。撮像素子の歩留まりを向上させるためには、このような感度ムラを補正することが重要である。
【0082】
そこで、この実施の形態のように、水平方向の1次元の補正データを少なくとも2種類以上備え、垂直方向の1次元の補正データーを少なくとも2種類以上備え、これらの選択的に利用することにより、1画面分の補正データを備えることなく、撮像素子の複数の領域で発生し得る部分的な感度ムラを補正することができる。
【0083】
上記の実施の形態では、補正データの切り換えを行うアドレスとして、2つのHα及びVβを使用するが、この個数を増やしてもよい。
【0084】
例えば、第1領域と第2領域との境界となる水平方向のアドレスをHα1とし、第3領域と第4領域との境界となる水平方向のアドレスをHα2としてもよいし、同様に、第1領域と第3領域との境界となる垂直方向のアドレスをVβ1とし、第2領域と第4領域との境界となる垂直方向のアドレスをVβ2としてもよい。
【0085】
また、例えば、撮像素子5の有効領域を水平方向に3分割し、垂直方向に3分割することにより9分割するというように、撮像素子の有効領域をより細かい部分領域に分割し、各部分領域に適切な1次元補正データを割当ててもよい。
【0086】
以上説明したように、この実施の形態によれば、例えば、撮像素子の感度領域を複数領域に分割し、各領域毎に、少なくとも2つの水平方向の1次元の補正データのいずれかの補正データと、少なくとも2つの垂直方向の1次元の補正データのいずれかの補正データとを組み合わせて撮像素子の出力を補正する。これにより、例えば、色フィルタの感度ムラ等に起因する複数の部分的な感度ムラが撮像素子に存在する場合においても、全画素について個別に補正データを備えることなく、適正な感度補正を行うことができる。
【0087】
参考例
図6、図10、図11を参照しながら参考例について説明する。なお、ここで、言及しない事項に関しては第1の実施の形態に従うものとする。
【0088】
撮像素子5が図6の601に示す様なデバイス構造(断面)を有する場合、撮像素子5の周辺部分にいく程、撮像素子5への入射光束が斜めになる。従って、隣り合う画素間で入射光量に違いがあると言える。この現象は、光軸から離れれば離れる程顕著になり、水平方向及び垂直方向の双方で発生する。
【0089】
601の断面の方向と平行な方向で考えると、図6の602及び603に示す様に、端から数えて奇数番号に位置する画素群の感度(出力)と、偶数番号に位置する画素群の感度(出力)とは、全く反対の特性を有する。水平方向及び垂直方向が共に601の様な構造であれば、上記のように、水平方向及び垂直方向共に奇数番目と偶数番目とで特性が異なることになる。
【0090】
従って、参考例では、この特性を補正するために、撮像素子5の出力データに対して、その画素の位置(アドレス)が、水平方向の奇数番目であるのか偶数番目であるのか、垂直位置の奇数番目であるのか偶数番目であるのかに応じて、補正特性を変更する。
【0091】
図10は、図1に示すアドレス判別回路11における処理を示すフローチャートである。
【0092】
まず、ステップ45、46、51では、アドレス判別回路11は、A/D変換部7から出力されるデータ(画素)に対応してアドレス発生回路10から出力される水平及び垂直アドレスに基づいて判別処理を行う。そして、A/D変換部7から現在出力されているデータ(画素)の垂直アドレスjが奇数(即ち、2次元の撮像素子5の配列における奇数行目)であり、且つ水平アドレスiが奇数(即ち、2次元の撮像素子5の配列における奇数列目)の場合は、ステップ47に処理を進める。
【0093】
ステップ47では、アドレス判別回路11は、HSEL出力をLレベルに設定する。その結果、セレクタ16を介して、Hメモリ(H1)12のデータ配列H1(i)が第1乗算回路(MUL1)18に供給される。次に、ステップ48では、アドレス判別回路11は、VSEL出力をLレベルに設定する。その結果、セレクタ17を介して、Vメモリ(V1)14のデータ配列V1(j)が第2乗算回路(MUL2)19に供給される。
【0094】
この状態を図11を参照して説明する。なお、1101は、撮像素子5における受光素子の2次元的な配列を模式的に示している。この時の注目画素が図11の一番左上のGの画素1101aであるとした場合、即ち、水平及び垂直アドレスi及びjが共に奇数である場合、第1乗算回路(MUL1)18では、図11の1102の実線で示す水平方向の補正データH1(i)の特性に従って画素1101aのデータが補正される。また、第2乗算回路(MUL2)19では、図11の1104の実線で示す垂直方向の補正データV1(j)の特性に沿って画素1101aのデータが更に補正される。
【0095】
次に、注目画素が画素1101aの隣の画素(R)1101bである場合を考える。この場合は、水平アドレスiが偶数であり垂直アドレスjが奇数であるので、まず、ステップ49で、アドレス判別回路11は、HSEL出力をHレベルに設定する。その結果、セレクタ16を介してHメモリ(H2)13のデータ配列H2(i)が第1乗算回路(MUL1)18に供給される。次いで、ステップ50では、アドレス判別回路11は、VSEL出力をLレベルに設定する。その結果、セレクタ17を介してVメモリ(V1)のデータ配列V1(j)が乗算回路(MUL2)に供給される。
【0096】
この状態を図12を参照して説明する。まず、第1乗算回路(MUL1)18では、図11の1102の点線で示す水平方向の補正データH2(i)の特性に従って画素1101bが補正される。また、第2乗算回路(MUL2)19では、図11の1105の実線で示す垂直方向の補正データV1(j)の特性に従って画素1101bが更に補正される。
【0097】
この様に、図11の1101の一番上のラインのG(1101a)→R(1101b)→G→R→・・・については、上記のようにして補正データが選択され、補正がなされる。
【0098】
次に、図11の1101の上から2番目のラインでは、まず最初に1番左側の画素(B)1101cについては、垂直アドレスjが偶数であり、且つ水平アドレスiが奇数であるので、まず、ステップ52で、アドレス判別回路11は、HSELをLレベルに設定する。その結果、セレクタ16を介して、Hメモリ(H1)12のデータ配列H1(i)が第1乗算回路(MUL1)18に供給される。次に、ステップ53では、アドレス判別回路11は、VSELをHレベルに設定する。その結果、セレクタ17を介してVメモリ(V2)15のデータ配列V2(j)が第2乗算回路(MUL2)19に供給される。
【0099】
この状態を図11を参照してい説明する。まず、第1乗算回路(MUL1)18では、図11の1103の実線で示す水平方向の補正データH1(i)の特性に従って画素1101cが補正される。また、第2乗算回路(MUL2)19では、図11の1104の点線で示す垂直方向の補正データV2(j)の特性に従って画素1101cが更に補正される。
【0100】
次に、注目画素が画素1101cの隣の画素(G)1101dである場合を考える。この場合は、水平アドレスi及び垂直アドレスjが共に偶数になるので、まず、ステップ54で、アドレス判別回路11は、HSELをHレベルに設定する。その結果、セレクタ16を介して、Hメモリ(H2)13のデータ配列H2(i)が第1乗算回路(MUL1)に供給される。次いで、ステップ55では、アドレス判別回路11は、VSELをHレベルに設定する。その結果、セレクタ17を介して、Vメモリ(V2)15のデータ配列V2(j)が第2乗算回路(MUL2)19に供給される。
【0101】
この状態を図11を参照して説明する。まず、第1乗算回路(MUL1)18では、図11の1103の点線で示す補正データH2(i)の特性に従って画素1101dが補正される。また、第2乗算回路(MUL2)19では、図11の1105の点線で示す補正データV2(j)の特性に従って画素1101cが更に補正される。
【0102】
この様に、図11の1101の上から2番目のラインのB(1101c)→G(1101d)→B→G→B→については、上記のようにして補正データが選択され、補正がなされる。
【0103】
以上のように、参考例によれば、水平アドレスが偶数であるか奇数であるかによって水平方向の補正データを切り換え、また、垂直アドレスが偶数であるか奇数であるかによって垂直方向の補正データを切り換えることにより、図6の1101のようなデバイス構造の撮像素子における隣接画素間の入射光量の違いによる色シェ−ディングを防止することができる。
【0104】
参考例では、水平方向及び垂直方向について、それぞれ2種類の1次元の補正データを使用したが、本発明は、これに限定されない。例えば、R、G、B毎に夫々1又は複数の補正データを使用してもよい。また、例えば、色フィルタとして補色系の色フィルタを採用する場合には、例えば、水平及び垂直の各方向について4種類の補正データを使用してもよい。
【0105】
参考例によれば、例えば、撮像素子のデバイス構造及び撮像光学系の配置に応じて、水平ラインをグループ分け(例えば、偶数ライン、奇数ライン)すると共に、垂直ラインをグループ分け(例えば、偶数ライン、奇数ライン)し、各グループに対して、個別の1次元の補正データを適用して撮像素子の出力を補正することにより、撮像素子のデバイス構造と撮影光学系の組み合わせによって生ずる色シェーディング等を補正することができる。
【0106】
[第の実施の形態]
次に、図12、図13、図14を参照して本発明の第の実施の形態を説明する。
【0107】
この実施の形態は、主撮影光学系と撮像素子上のマイクロレンズとの組み合わせによって生じるホワイトシェーディングと、撮像素子上の色フィルタの製造上のばらつきによって生じる感度ムラの両方を正確に取り除く為の補正方法に関する。
【0108】
図12は、本発明の第の実施の形態に係るカメラ(撮像装置)の構成を示すブロック図である。このカメラは、図1に示すカメラの構成に対して、HVメモリ20及び第3乗算回路(MUL3)21を追加し、Hメモリ(H2)13、Vメモリ(V2)15、アドレス判別回路11、セレクタ回路16及び17を削除した構成を有する。
【0109】
HVメモリ20は、図13に示す様に、撮像素子5の2次元的な配列に対して、複数画素からなる所定領域毎のブロックを定め、各ブロック毎にG、R、Bの補正データを格納している。例えば、図13の左側のフィルタ配列は、いわゆるベイヤー配列を示したものであり、点線で囲まれた各ブロックには、G成分が8画素、R/B成分が4画素ずつ含まれており、この部分に対する感度補正データは、各色毎に同じ値を使用する。
【0110】
図13の右側に示す様に、G補正データ列としては、ブロック1の部分に相当する補正データ、ブロック2の部分に相当する補正データ・・・といった順に最後のブロックnの補正データまで連続的に各補正データがHVメモリ20に格納されている。R/Bの補正データ列としても、同様なデータ配列になっている。従って、撮像素子5の全画素に対する補正データを持つよりも少ない容量のHVメモリ20で、色フィルタ等に起因する部分的な感度ムラを補正することができる。
【0111】
一般に、色フィルタ等の製造時のばらつきによって生ずる感度ムラは、撮影光学系の光学条件等が変化しても特性は変化しないが、前述したホワイトシェーディングの成分は、撮影光学系の焦点距離(厳密には瞳位置)が変化した場合に、特性が変化するので値を再設定する必要がある。
【0112】
次に、この実施の形態における補正処理を図14のフローチャートを参照して説明する。
【0113】
まず、ステップ60では、Hメモリ(H1)12に設定すべき補正データを全体制御CPU1の内部の不揮発性メモリから読み出してHメモリ(H1)12に格納する。また、ステップ61では、Vメモリ(V1)14に設定すべき補正データを全体制御CPU1の内部の不揮発性メモリから読み出してVメモリ(V1)14に格納する。ここで、Hメモリ(H1)12及びVメモリ(V1)14に設定すべき補正データは、第1の実施の形態で説明した1次元の補正データと同様であり、製造工程で計測された撮像素子5の特性に応じて決定され、予め全体制御CPU1の内部の不揮発メモリに格納されている。
【0114】
ステップ62では、上述した様な撮像素子の各ブロック1〜n毎の補正データを全体制御CPU1の内部の不揮発性メモリから読み出してHVメモリ20に格納する。この補正データについても、製造工程で計測された撮像素子5の特性に応じて決定され、予め全体制御CPU1の内部の不揮発メモリに格納されている。
【0115】
以上の設定により、アドレス発生回路10によって水平アドレスiが指定される事により出力されるHメモリ(H1)12の値と、A/D変換部7の出力とが第1乗算回路(MUL1)18において乗算される。次に、第1乗算回路(MUL1)18に対して、アドレス発生回路10によって垂直アドレスjが指定される事により出力されるVメモリ(V1)14の値が第2乗算回路(MUL2)19において乗算される。以上の2つの動作により、撮影レンズ4と撮像素子5のマイクロレンズとの組み合わせによって発生するホワイトシェーディング等の影響が補正される。
【0116】
更に、第2乗算回路(MUL2)19の出力に対して、アドレス発生回路10によって水平・垂直アドレスが指定される事により出力されるHVメモリ20の値が第3乗算回路(MUL3)21によって乗算される。このHVメモリ20には、前述した様に撮像素子5の2次元的な配列における各ブロック毎に対応する補正データが記憶されている。この補正データにより、例えば、撮像素子5の色フィルタの部分的な感度ムラに対する補正を行うことができる。
【0117】
次に、ステップ63では、図12に示した画角設定部3(例えば、ズーム操作ボタン等)が操作者によって操作されたか否かを判断し、操作がない場合にはそのままであるが、操作が為された場合には、ステップ64に進む。
【0118】
ステップ64では、焦点距離情報検出部2から出力される焦点距離情報の値を読み取る。全体制御CPU1では、焦点距離情報から、例えば図15に示す様に、Hメモリ(H1)12に格納すべき補正データと、Vメモリ(V1)14に格納すべき補正データを所定の関数に従って再演算する。
【0119】
図15では、焦点距離が短焦点側になると画面周辺での入射光量が低下することに鑑み、周辺での補正係数(ゲイン)をより大きくし、一方、長焦点側になると画面周辺での入射光量の変化が少なくなることに鑑み、周辺での補正係数と中心部分の補正係数との差を小さくしている。
【0120】
従って、ステップ65及び66では、例えば、焦点距離に対して所定の関係で変化する係数(焦点距離を変数とする関数)等を補正データ列に乗算する方法、又は、焦点距離に対して個別に用意された補正データ列をテーブルとして全体制御CPU1内の不揮発性メモリ等に予め用意しておき、このテーブルから焦点距離に対応する補正データ列を選択する方法等により、新たな補正データを得て、Hメモリ(H1)及びVメモリ(V1)に再設定し、ステップ63に戻る。
【0121】
この様に、この実施の形態では、撮影光学系の状態によって決定される撮像素子の感度ムラに対しては、水平方向及び垂直方向用の各1次元データ列を用いて補正し、一方、撮像素子の製造時点で発生する色フィルタの感度ムラ等に対しては、複数の画素からなるブロックを単位して割当てられた補正データ列を用いて補正する。また、撮影光学系の状態によって決定される成分に対しては、撮影光学系の状態変化(例えば、焦点距離、瞳位置、絞りの状態等)が発生した時点で、補正データを各光学系の状態に応じて再設定することによって補正する。
【0122】
この実施の形態によれば、例えば、撮像素子の水平方向の1次元の補正データ及び垂直方向の1次元の補正データと、撮像素子の2次元方向の複数画素からなる各ブロック毎に個別に決定された補正データとを組み合わせて撮像素子の出力を補正することにより、主として光学系の影響によって生ずるホワイトシェーディングや、撮像素子の製造工程で生ずる色フィルタ等の部分的な感度ムラの両方を補正することができる。
【0123】
[その他]
なお、本発明は、複数の機器から構成されるシステムに適用しても、一つの機器からなる装置に適用してもよい。
【0124】
また、本発明の目的は、前述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記憶媒体(または記録媒体)を、システムあるいは装置に供給し、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記憶媒体に格納されたプログラムコードを読み出し実行することによっても、達成されることは言うまでもない。この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記憶した記憶媒体は本発明を構成することになる。また、コンピュータが読み出したプログラムコードを実行することにより、前述した実施形態の機能が実現されるだけでなく、そのプログラムコードの指示に基づき、コンピュータ上で稼働しているオペレーティングシステム(OS)などが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【0125】
さらに、記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張カードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込まれた後、そのプログラムコードの指示に基づき、その機能拡張カードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【0126】
【発明の効果】
本発明によれば、例えば、撮像素子の感度の不均一性が良好に補正される。
【図面の簡単な説明】
【図1】 本発明の第1実施の形態に係るカメラ(撮像装置)の構成を示す図である。
【図2】 撮像素子と撮影光学系との組み合わせを示す図である。
【図3】 ホワイトシェーディングを説明する図である。
【図4】 撮像素子の撮像素子の感度分布と感度補正の一例を示す図である。
【図5】 本発明の第1の実施の形態における撮像素子の感度補正方法を説明する図である。
【図6】 撮像素子のデバイス構成とこれに起因する現象を説明する図である。
【図7】 撮像素子の色フィルタ配列並びに色補間方法を説明する図である。
【図8】 本発明の第1実施の形態における初期設定動作を説明する図である。
【図9】 本発明の第1の実施の形態に係る補正動作を説明する図である。
【図10】 参考例に係る補正動作を説明する図である。
【図11】 参考例に係る感度補正の概念を説明する図である。
【図12】 本発明の第の実施の形態に係るカメラ(撮像装置)の構成を示す図である。
【図13】 本発明の第の実施の形態に係る感度補正の概念を説明する図である。
【図14】 本発明の第の実施の形態に係る補正動作を説明する図である。
【図15】 本発明の第の実施の形態に係る感度補正の方法を説明する図である。
【図16】 従来のカメラの構成を説明する図である。

Claims (8)

  1. 撮像装置であって、
    2次元的に画素が配列された撮像素子と、
    前記撮像素子によって撮像される画像の行に対して、水平方向の1次元補正データを乗じる第1乗算手段と、
    前記画像の列に対して、垂直方向の1次元補正データを乗じる第2乗算手段と、
    前記水平方向の1次元補正データ及び前記垂直方向の1次元補正データの少なくとも一方を変更する変更手段と、
    を備え、
    前記画像は、水平方向及び垂直方向に各々複数の画素が連続して2次元的に含まれる複数の部分領域に水平及び垂直両方向の少なくとも一つの方向で分割され、
    前記変更手段は、前記水平方向及び垂直方向の1次元補正データのうち少なくとも一方について2種類の1次元補正データを有し、前記2種類の1次元補正データを前記部分領域に応じて変更し、
    前記第1乗算手段及び第2乗算手段によって、前記画像の各画素の値を補正することを特徴とする撮像装置。
  2. 前記変更手段は、前記水平方向及び垂直方向の1次元補正データの双方について2種類の1次元補正データを有し、前記水平方向の1次元補正データ及び前記垂直方向の1次元補正データの双方を部分領域に応じて変更することを特徴とする請求項1に記載の撮像装置。
  3. 撮像装置であって、
    2次元的に画素が配列された撮像素子と、
    前記撮像素子によって撮像される画像の行に対して、水平方向の1次元補正データを乗じる第1乗算手段と、
    前記画像の列に対して、垂直方向の1次元補正データを乗じる第2乗算手段と、
    行列で与えられる2次元補正データを乗じる第3乗算手段と、
    前記2次元補正データを変更する変更手段と、
    を備え、
    前記画像は、水平方向及び垂直方向に各々複数の画素が連続して2次元的に含まれる複数の部分領域に水平及び垂直両方向の少なくとも一つの方向で分割され、前記変更手段は、前記部分領域に応じて前記2次元補正データを変更することを特徴とする撮像装置。
  4. 前記変更手段は、撮像光学系の状態に応じて、前記水平方向の1次元補正データ及び前記垂直方向の1次元補正データの少なくとも一方を変更する手段を含むことを特徴とする請求項に記載の撮像装置。
  5. 前記変更手段は、撮像光学系の焦点距離、画角、絞りのいずれか或いはこれらの組み合わせに応じて、前記水平方向の1次元補正データ及び前記垂直方向の1次元補正データの少なくとも一方を変更する手段を含むことを特徴とする請求項又は請求項4に記載の撮像装置。
  6. 2次元的に画素が配列された撮像素子から供給される画像を処理する画像処理装置であって、
    前記画像の行に対して、水平方向の1次元補正データを乗じる第1乗算手段と、
    前記画像の列に対して、垂直方向の1次元補正データを乗じる第2乗算手段と、
    前記水平方向の1次元補正データ及び前記垂直方向の1次元補正データの少なくとも一方を変更する変更手段と、
    を備え、
    前記画像は、水平方向及び垂直方向に各々複数の画素が連続して2次元的に含まれる複数の部分領域に水平及び垂直両方向の少なくとも一つの方向で分割され、
    前記変更手段は、前記水平方向及び垂直方向の1次元補正データのうち少なくとも一方について前記部分領域に応じた2種類の1次元補正データを有し、前記2種類の1次元補正データを前記部分領域に応じて変更し、
    前記第1乗算手段及び第2乗算手段によって、前記画像の各画素の値を補正することを特徴とする画像処理装置。
  7. 画像処理方法であって、
    2次元的に画素が配列された撮像素子によって撮像される画像の行に対して、水平方向の1次元補正データを乗じる第1乗算工程と、
    前記画像の列に対して、垂直方向の1次元補正データを乗じる第2乗算工程と、
    前記水平方向の1次元補正データ及び前記垂直方向の1次元補正データの少なくとも一方を変更する変更工程と、
    を含み、
    前記画像は、水平方向及び垂直方向に各々複数の画素が連続して2次元的に含まれる複数の部分領域に水平及び垂直両方向の少なくとも一つの方向で分割され、前記水平方向及び垂直方向の1次元補正データのうち少なくとも一方について前記部分領域に応じた2種類の1次元補正データが備えられ、
    前記変更工程によって、前記2種類の1次元補正データを前記部分領域に応じて変更し、
    前記第1乗算工程及び第2乗算工程によって、前記画像の各画素の値を補正することを特徴とする画像処理方法。
  8. 画像処理プログラムを格納したメモリ媒体であって、該プログラムは、
    2次元的に画素が配列された撮像素子によって撮像される画像の行に対して、水平方向の1次元補正データを乗じる第1乗算工程と、
    前記画像の列に対して、垂直方向の1次元補正データを乗じる第2乗算工程と、
    前記水平方向の1次元補正データ及び前記垂直方向の1次元補正データの少なくとも一方を変更する変更工程と、
    を含み、
    前記画像は、水平方向及び垂直方向に各々複数の画素が連続して2次元的に含まれる複数の部分領域に水平及び垂直両方向の少なくとも一つの方向で分割され、前記水平方向及び垂直方向の1次元補正データのうち少なくとも一方について前記部分領域に応じた2種類の1次元補正データが備えられ、
    前記変更工程によって、前記2種類の1次元補正データを前記部分領域に応じて変更し、
    前記第1乗算工程及び第2乗算工程によって、前記画像の各画素の値を補正することを特徴とするメモリ媒体。
JP18687699A 1999-06-30 1999-06-30 撮像装置、画像処理装置及びその方法、並びにメモリ媒体 Expired - Fee Related JP3854754B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP18687699A JP3854754B2 (ja) 1999-06-30 1999-06-30 撮像装置、画像処理装置及びその方法、並びにメモリ媒体
US09/603,629 US6707955B1 (en) 1999-06-30 2000-06-26 Image sensing device, image processing apparatus and method, and memory medium
EP00113825A EP1067777B1 (en) 1999-06-30 2000-06-29 Image sensing device, image processing apparatus and method, and memory medium
EP10157161.0A EP2202958A3 (en) 1999-06-30 2000-06-29 Image sensing device, image processing apparatus and method, and memory medium
US10/761,304 US6963674B2 (en) 1999-06-30 2004-01-22 Image sensing device, image processing apparatus and method, and memory medium
US11/188,836 US7471808B2 (en) 1999-06-30 2005-07-26 Image sensing device, image processing apparatus and method, and memory medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP18687699A JP3854754B2 (ja) 1999-06-30 1999-06-30 撮像装置、画像処理装置及びその方法、並びにメモリ媒体

Publications (2)

Publication Number Publication Date
JP2001016509A JP2001016509A (ja) 2001-01-19
JP3854754B2 true JP3854754B2 (ja) 2006-12-06

Family

ID=16196237

Family Applications (1)

Application Number Title Priority Date Filing Date
JP18687699A Expired - Fee Related JP3854754B2 (ja) 1999-06-30 1999-06-30 撮像装置、画像処理装置及びその方法、並びにメモリ媒体

Country Status (3)

Country Link
US (3) US6707955B1 (ja)
EP (2) EP1067777B1 (ja)
JP (1) JP3854754B2 (ja)

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3854754B2 (ja) * 1999-06-30 2006-12-06 キヤノン株式会社 撮像装置、画像処理装置及びその方法、並びにメモリ媒体
JP4574022B2 (ja) * 2001-01-17 2010-11-04 キヤノン株式会社 撮像装置及びシェーディング補正方法
JP3539394B2 (ja) * 2001-03-26 2004-07-07 ミノルタ株式会社 画像処理装置、プログラムおよび記録媒体
US7317481B2 (en) * 2002-02-20 2008-01-08 Canon Kabushiki Kaisha Image data correction processing based on sensitivity
WO2004043061A1 (ja) * 2002-11-07 2004-05-21 Rohm Co., Ltd. エリアイメージセンサ
US7782377B2 (en) * 2003-02-26 2010-08-24 Canon Kabushiki Kaisha Image sensing apparatus, control method therefor, storage medium, and program to create correction data
JP3824237B2 (ja) * 2003-09-05 2006-09-20 ソニー株式会社 画像処理装置および方法、記録媒体、並びにプログラム
WO2005043893A1 (ja) * 2003-11-04 2005-05-12 Matsushita Electric Industrial Co., Ltd. 撮像装置
US7605951B2 (en) * 2004-02-10 2009-10-20 Ricoh Company, Ltd. Image reader, image forming and reproducing apparatus, and image reading method
JP2005341033A (ja) * 2004-05-25 2005-12-08 Konica Minolta Photo Imaging Inc 撮像装置及びプログラム
US7602380B2 (en) * 2004-08-10 2009-10-13 Toshiba Matsushita Display Technology Co., Ltd. Display device with optical input function
KR100640964B1 (ko) * 2004-12-30 2006-11-02 동부일렉트로닉스 주식회사 시모스 이미지 센서의 단위화소 회로
CN100338934C (zh) * 2005-01-04 2007-09-19 光宝科技股份有限公司 双功能光感测元件
DE102006003596A1 (de) * 2006-01-25 2007-07-26 Sick Ag Verfahren und Vorrichtung zur Korrektur der Helligkeit eines durch eine Sensormatrix erzeugten Rohbilds
JP4958635B2 (ja) * 2007-05-21 2012-06-20 キヤノン株式会社 撮像装置及びその制御方法
US20120101669A1 (en) * 2010-10-22 2012-04-26 Grant Spanhake Sail Usage Sensing System and Method
JP5325246B2 (ja) * 2011-03-10 2013-10-23 株式会社メガチップス 画像処理装置
JP6286678B2 (ja) 2013-07-12 2018-03-07 パナソニックIpマネジメント株式会社 撮像装置
DE102019218182A1 (de) * 2019-11-25 2021-05-27 Robert Bosch Gmbh Verfahren zum Bearbeiten eines Bilds, neuronales Netzwerk und Vorrichtung zur automatischen Pflanzenklassifikation

Family Cites Families (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US2862251A (en) * 1955-04-12 1958-12-02 Chicopee Mfg Corp Method of and apparatus for producing nonwoven product
US3486462A (en) * 1966-05-02 1969-12-30 Tony R Sowder Tram carrier stabilizer
US3486168A (en) * 1966-12-01 1969-12-23 Du Pont Tanglelaced non-woven fabric and method of producing same
GB1334044A (en) 1969-11-12 1973-10-17 Meldreth Electronics Ltd Image analysing
US3971065A (en) * 1975-03-05 1976-07-20 Eastman Kodak Company Color imaging array
US4392157A (en) 1980-10-31 1983-07-05 Eastman Kodak Company Pattern noise reduction method and apparatus for solid state image sensors
US4586089A (en) * 1982-08-18 1986-04-29 Matsushita Electric Industrial Co., Ltd. Image processor
DE8232757U1 (de) 1982-11-23 1983-04-21 Accumulatorenfabrik Sonnenschein GmbH, 6470 Büdingen Zum einschub in ein batteriefach eines elektrogeraetes bestimmtes batteriegehaeuse oder akkumulator
FR2573264B1 (fr) * 1984-11-09 1988-05-13 Loire Electronique Camera video en couleurs
US4817175A (en) * 1986-08-26 1989-03-28 Schlumberger Systems And Services, Inc. Video stream processing system
JPH0521336Y2 (ja) 1987-07-29 1993-06-01
US4979042A (en) 1989-05-30 1990-12-18 Eastman Kodak Company Apparatus for correcting shading effects in video images
JP2754841B2 (ja) 1990-03-13 1998-05-20 ソニー株式会社 シェーディング補正回路
JP2790542B2 (ja) 1990-11-28 1998-08-27 松下電器産業株式会社 固体撮像装置
US5157497A (en) 1991-02-25 1992-10-20 Matsushita Electric Industrial Co., Ltd. Method and apparatus for detecting and compensating for white shading errors in a digitized video signal
JPH04284087A (ja) * 1991-03-13 1992-10-08 Canon Inc 電子スチルカメラ
JPH06197266A (ja) 1992-12-24 1994-07-15 Sony Corp レンズ及び撮像装置
US5408267A (en) * 1993-07-06 1995-04-18 The 3Do Company Method and apparatus for gamma correction by mapping, transforming and demapping
JP2748825B2 (ja) 1993-07-20 1998-05-13 日本電気株式会社 画像処理装置
CA2131063C (en) * 1993-08-30 2009-02-17 Susan L. Suehr Improved absorbent nonwoven fabric
EP0660596B1 (en) * 1993-12-20 1999-02-03 Matsushita Electric Industrial Co., Ltd. Automatic digital black shading correction circuit for cameras
US5404377A (en) 1994-04-08 1995-04-04 Moses; Donald W. Simultaneous transmission of data and audio signals by means of perceptual coding
GB9412311D0 (en) * 1994-06-20 1994-08-10 Courtaulds Fibres Holdings Ltd Filter materials
JP3500751B2 (ja) * 1995-01-20 2004-02-23 ソニー株式会社 画像信号処理装置及び撮像装置
KR100203239B1 (ko) 1995-02-16 1999-06-15 윤종용 화이트쉐이딩 보정방법 및 장치
JPH08279902A (ja) 1995-04-07 1996-10-22 Olympus Optical Co Ltd 撮像装置
JPH08287245A (ja) 1995-04-11 1996-11-01 Sumitomo Metal Ind Ltd 画像処理方法及び画像処理装置
JPH09130603A (ja) 1995-10-31 1997-05-16 Olympus Optical Co Ltd シェーディング補正装置
JP3519202B2 (ja) 1996-03-11 2004-04-12 松下電器産業株式会社 シェーディング補正方法およびシェーディング補正機能付き順次走査方式対応撮像装置
JP3854754B2 (ja) * 1999-06-30 2006-12-06 キヤノン株式会社 撮像装置、画像処理装置及びその方法、並びにメモリ媒体
US6253429B1 (en) * 1999-10-12 2001-07-03 Textile Enhancements International, Inc. Multi-vane method for hydroenhancing fabrics
US6877196B2 (en) * 2000-08-04 2005-04-12 E. I. Du Pont De Nemours And Company Process and apparatus for increasing the isotropy in nonwoven fabrics

Also Published As

Publication number Publication date
EP2202958A3 (en) 2013-11-13
EP2202958A2 (en) 2010-06-30
US20040156563A1 (en) 2004-08-12
JP2001016509A (ja) 2001-01-19
EP1067777A2 (en) 2001-01-10
EP1067777A3 (en) 2002-01-30
EP1067777B1 (en) 2011-10-19
US7471808B2 (en) 2008-12-30
US6963674B2 (en) 2005-11-08
US20060001745A1 (en) 2006-01-05
US6707955B1 (en) 2004-03-16

Similar Documents

Publication Publication Date Title
JP3854754B2 (ja) 撮像装置、画像処理装置及びその方法、並びにメモリ媒体
JP4448888B2 (ja) 撮像装置及び撮像装置の信号処理方法
JP6613554B2 (ja) 画像処理装置およびプログラム
JP5033711B2 (ja) 撮像装置及び撮像装置の駆動方法
JP4817529B2 (ja) 撮像装置及び画像処理方法
JP5446955B2 (ja) 撮像装置
US9282245B2 (en) Image capturing apparatus and method of controlling the same
JP2001203969A (ja) 撮像装置およびその動作制御方法
JP5299159B2 (ja) 撮像装置およびプログラム
JP3143245B2 (ja) 撮像装置およびその測光方法およびその合焦制御方法ならびに撮像方法
US20060016961A1 (en) Imaging apparatus and solid-state imaging device
JP4192284B2 (ja) デジタルスチルカメラ
JP3767188B2 (ja) 電子カメラ及び信号補正方法
JP2005167497A (ja) 撮像装置、良質画像獲得方法、及びプログラム
JP4309618B2 (ja) 固体撮像装置の駆動方法
JP2006060496A (ja) 画像表示装置
JP2021013117A (ja) 集積回路チップ及び撮像装置
JP2007228152A (ja) 固体撮像装置および撮像方法
JP7020463B2 (ja) 撮像装置
JP2018207502A (ja) 撮像素子、撮像装置
JP5038005B2 (ja) 撮像装置及び画像処理方法
JP6402807B2 (ja) 撮像装置
JP2002185861A (ja) 撮像装置
JP2003143491A (ja) 撮像装置
JP2011114786A (ja) 固体撮像装置およびカメラシステム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20031210

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20060525

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060602

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060727

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060825

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060911

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090915

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100915

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100915

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110915

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110915

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120915

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120915

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130915

Year of fee payment: 7

LAPS Cancellation because of no payment of annual fees