JP2007520179A - 外挿法によって画像フィールドデータを修正する手法 - Google Patents

外挿法によって画像フィールドデータを修正する手法 Download PDF

Info

Publication number
JP2007520179A
JP2007520179A JP2006552121A JP2006552121A JP2007520179A JP 2007520179 A JP2007520179 A JP 2007520179A JP 2006552121 A JP2006552121 A JP 2006552121A JP 2006552121 A JP2006552121 A JP 2006552121A JP 2007520179 A JP2007520179 A JP 2007520179A
Authority
JP
Japan
Prior art keywords
data
pixels
array
pixel
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006552121A
Other languages
English (en)
Other versions
JP4833085B2 (ja
Inventor
ピント,ビクター
ガリル,エレス
Original Assignee
ゾラン コーポレイション
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ゾラン コーポレイション filed Critical ゾラン コーポレイション
Publication of JP2007520179A publication Critical patent/JP2007520179A/ja
Application granted granted Critical
Publication of JP4833085B2 publication Critical patent/JP4833085B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/76Circuitry for compensating brightness variation in the scene by influencing the image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/67Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/67Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response
    • H04N25/671Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response for non-uniformity detection or correction
    • H04N25/672Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response for non-uniformity detection or correction between adjacent sensors or output registers for reading a single image

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Color Television Image Signal Generators (AREA)

Abstract

2次元光センサからのデータ中に現れる画像シェーディング変動を補正するためにデジタルカメラ、ビデオ画像取り込み装置および他の光学系で実施され得る画像のデータを修正する手法が提供される。これらの変動は、例えば、不完全なレンズ、光センサにおける不均一な感度、および光学系のハウジング内での内部反射に起因し得る。これらの変動について補正するために、シェーディング強度の基本値および勾配を含む少量の修正データ、好ましくは各原色について別々の補正データが、カメラまたは他の光学系内の小型メモリに格納される。画像データが捕捉される速度と同じ速度で、格納されている修正データから個々のピクセル補正の内挿法によって、個々のピクセルからの画像データが即座に補正されるので、画像センサからのピクチャーデータのデータ転送の速度を低下させることなく補正が行われる。

Description

本発明は、全体的にはビデオ信号データを処理する手法に関し、特に、例えばレンズに起因するシェーディング効果、センサ感度変動およびカメラにおけるハウジング内反射を補正するなどの、画像化された光学場における変動を補正するビデオバイナリーデータの処理に関する。
画像シェーディングは、画像フィールドにおける不均一な光レスポンスである。それは、光学系において、レンズの特性、光が向けられている光センサにおける感度変動、使用される光センサの画像平面に関してのレンズの不適切なアライメント、カメラ内反射、および場合によってはそのシステムに存在するその他の要因の結果であり得る。レンズだけの場合、光強度が一様なシーンを見るために使用される単純なレンズは、通常、そのシーンの、顕著に不均一な光強度を有する画像を生じさせる。光強度は普通その画像の中央で最強で、その縁では60%以上も低下する。このようなレンズは、この効果が補正されなければ、明らかに殆どの光学アプリケーションについて不適当である。シーンに強度変動を与えることなくシーンを画像化する複数のレンズの複雑なアセンブリーを用いることによって補正を提供することができる。
電子カメラは、電荷結合素子(CCD)、相補形メタルオンシリコン(complementary metal-on-silicon(CMOS))素子または他のタイプの光センサのような2次元センサ上にシーンを画像化する。これらのデバイスは小さな2次元表面上に配置された多数の光検出素子(通常、二百万、三百万、四百万或いはそれ以上)を含み、それら各々は、この素子に当たった光または他の光輻射(可視光波長に隣接する赤外および紫外のスペクトル領域を含む)の強度に比例する信号を生成する。画像のピクセルを形成するこれらの素子は、通常、ラスタパターンで走査されて、走査されている間1センサ素子から次の素子へと次々に当たる輻射の強度についてのデータのシリアル・ストリームを生成する。カラーデータは、最も一般的には、センサに交互に分散させられた(赤色、緑色および青色のような)別々の色成分の各々に対して敏感な光検出素子を用いることにより得られる。対象シーンを光センサ上に画像化するレンズのシェーディング効果、当たった光の種々の色に対する光センサの不均一な感度、および潜在的な他の要因が光センサ上での光の不均一な分布を生じさせ、従ってこのセンサからのビデオ信号は、それに重なった望ましくない強度変動のデータを含むことになる。
高価で慎重に選択された画像光センサと共に複雑で高価なレンズを使ってレンズ・シェーディング効果を除去するのではなくて、これらの効果を補償するように光センサからの信号を処理し得ることが示唆されている。各光検出素子からの信号に加えられる補償の量は、画像光センサの表面における素子の位置による。
本発明の電子信号処理手法は、測定され量子化され得る多素子2次元光センサにより検出される光パターンに共同で変動を重ね合わせるレンズ・シェーディングおよび/または他の同様の、センサ感度変動およびカメラ内反射のような現象の補償を可能にする。このような強度シェーディング補償手法は、特にデジタルカメラおよび他のタイプのビデオ装置に応用されるが、このような光写真システムの応用に限定されるものではない。この手法は、低コストで実施され得、最少量のメモリを必要とし、修正されるビデオデータが光センサから得られるのと同じ速度で動作し、これによりビデオシステムの性能に悪影響を及ぼさない。これは、光センサにおける望ましくない固定された強度変動を補償するために光センサの出力信号に補正係数を実時間で適用することによって達成される。
前に『関連出願との相互参照』において特定された2つの特許出願では、画像におけるシェーディング変動は、この変動を1つ以上の、円、楕円または双曲線のような幾何学的形状として特徴づけ、この幾何学的形状を特徴付けるのに必要な少量のデータを記憶させることによって補償される。好ましい形では、強度シェーディング変動のデータが、望ましくない強度パターンの光学的中心からの各ピクセルの半径方向位置の関数として維持される。このような『光学的中心』は、代りに、『重心』或いは『アンカーポイント』として引用される。各ピクセルの半径方向位置は、主として足し算を含むアルゴリズムによって順番に計算され、これは、その半径方向位置に基いて各ピクセルについて補正係数を計算する高速で簡単な方法である。
しかし、シェーディング強度パターンを1つまたは少数の単純な幾何学的形状によって所望の精度で表すのがあまりに困難であるか或いは実際的でない場合がある。代わりとして、本発明によれば、光センサのピクセルのマトリックスを、一辺に固定された数のピクセルを各々含む多数の隣り合う長方形ブロックの格子に論理的に分割することができる。較正時に、個々のブロック上のシェーディング・パターンについてのデータが計算されて記憶され、光センサからピクチャーデータが実時間で通常はラスタ走査パターンで走査されるときに記憶されたデータから個々のピクセルについての補正係数が計算される。ブロックのシェーディング強度データを記憶するのに必要なメモリの量は、光センサの各ピクセルについて補正係数を記憶するのに必要なメモリの量より顕著に少ない。従って、カメラまたは他の画像捕捉装置のために必要な集積回路のサイズおよびコストが低減される。捕捉されたピクチャーデータの補正のレベルと、得られる品質とは、依然として非常に良好なままである。
個々のピクセル強度調整は、記憶された較正データの縮小したセットから、そのデータに内挿法を行うことによって計算される。特定の実装例では、ピクセルの個々のブロックにおけるシェーディング強度の変化率(勾配)は、直交するX方向およびY方向の両方について記憶される。光センサの左上隅に存する走査の開始ピクセルにおける絶対強度も記憶される。走査が始まるとき、第1のピクセル後のピクセルの強度が、記憶されている勾配値から計算される。これは、好ましくは、(勾配により正または負の数である)強度増分を直前のピクセルの強度増分に加えることにより行われ、その増分は、現在のピクセルが存在する長方形について記憶されている勾配により決まる。掛け算或いは割り算の代わりに足し算および引算を用いれば、特に計算が専用論理回路で行われるとき、実施が容易になる。
各カメラまたは他の光学系は、一例では、均一強度のシーンを光センサ上に画像化し、その結果としての、この光センサにおける強度変化についての各ピクセルのデータを捕捉し、ピクセルアレイをブロックの格子に論理的に分割し、各ブロックにおける強度の平均変化率を計算することによって、較正される。これらの割合に少数の強度勾配値、ピクセル格子の特性および各々の走査されたフレームの第1のピクセルの絶対強度が、光センサにおけるシェーディング強度変化を、縮小した量のデータで特徴付ける。画像処理に利用される各原色について1セットずつ、合計3つのこのようなデータのセットを得るのが普通は望ましい。
本発明の追加の目的、利点および特徴は、添付図面と関連して考慮されるべきであるその代表的な実施形態についての以下の説明に含まれる。本願明細書で引用されている各々の特許、特許出願、論文或いは刊行物は、あらゆる目的のために本願明細書において参照により援用されている。
前に論じられた現象に起因する、画像または他の所望の光パターンへの変動の重なりは、その光パターンの各ピクセルにおけるエネルギーの変動をもたらす。このエネルギー変動は、捕捉された画像または他のピクチャーデータ自体とは無関係である。光センサにおけるこのエネルギー変動を補償するために、各ピクセル値を掛け算によるなどしてシェーディング補正密度係数と結合させることができる。この係数は、そのピクセルの画像センサマトリックスにおける地理的位置に応じて画像センサの各ピクセルに特有である。理想的な場合には、画像の各ピクセルについて所要の補償係数をメモリに記憶させる係数のテーブルを較正手続き中に作ることができる。これは、画像捕捉装置において処理ユニットで以下の方程式を実行することによって必要なシェーディング補償を行うことを可能にする。
ピクセルアウト=ピクセルイン*F(X,Y) (1)
ここで、
ピクセルアウト=画像シェーディング補償モジュールの出力、すなわち補正済みピクセルである。
ピクセルイン=画像シェーディング補償モジュールへの入力であり、補正前のピクセルである。
F(X,Y)=補正係数であり、XおよびY直交座標で表されたピクセルの位置による。
光センサの各ピクセルについての補正係数の記憶装置を有する集積回路で、この方程式により定義されるプロセスを実行することは、非常に高価である。各ピクセルについての補正係数を記憶させるには大きなメモリが必要であり、従ってこのメモリのために大面積のシリコンを利用する。記憶されている個々の補正係数をピクセル値に掛けることは、掛け算を実行する専用回路のための相当の量のシリコン面積をさらに必要とし、かつ/または補正済みデータが得られる速度を低下させる可能性がある。従って、本願明細書に記載されている手法は、必要なメモリおよび処理能力が非常に僅かであるが、望ましくない光パターンを画像から除去するこのプロセスの独特の近似を使用する。望ましくない強度シェーディング・パターンの、少量のデータ(或いはその逆、すなわちシェーディング補正係数)を1つ以上の疎な2次元ルックアップテーブルに格納することができる。各色について別々のルックアップテーブルを使用することができる。
本願明細書では、デジタルカメラ、ビデオ捕捉装置または他のタイプのデジタル画像化装置の光学写真システム(すなわち、レンズ、画像センサ、および/またはハウジング)のためのシェーディング補正係数は、較正手続き中に導出される。この較正は、較正される装置に使用される光センサ上にそのレンズシステムおよびハウジングも用いて均一強度のシーンを画像化することにより実行される。個々のピクセル強度値が捕捉され、光センサにおける格子の個々の長方形についての勾配値が計算されて、較正される装置の中のメモリに格納される。較正手続き中にデジタル画像化装置の完全な光学写真システムが使用されるので、この手法は、レンズ・シェーディングのみに起因する不均一性を補正する他に、画像センサおよび/またはこれと入射画像光との相互作用に起因する任意の強度変動を補正する。
光学装置の例
本発明の手法の実装例をカメラまたは他のビデオ捕捉装置に関して説明するが、カメラの光学系、光センサ、およびカメラ内面からの反射によって画像全体に重ねられた強度変動を補正するように画像または他の捕捉された光パターンのデジタルデータが即座に修正される。図1において、ケース11と、画像化光学系13と、制御信号17を生成するユーザ制御装置15と、内部電気結線21を有するビデオ入出力レセプタクル19と、不揮発性メモリカード27が取り外し可能に挿入される、内部電気結線25を有するカードスロット23とを含むように、このようなカメラを概略的に示す。カメラにより捕捉された画像のデータは、メモリカード27に、または内部不揮発性メモリ(図示せず)に格納され得る。画像データは、レセプタクル19を通して他のビデオ装置に出力されてもよい。メモリカード27は、市販されている半導体フラッシュ形の電気的に消去可能でプログラム可能な読み出し専用メモリ(EEPROM)、小型の取り外し可能な回転磁気ディスク、或いは他の、カメラによりビデオデータをプログラムすることのできる不揮発性メモリであり得る。或いは、特にカメラが毎秒30画像フレームほどのムービーを取っているときには、代わりに磁気テープまたは書き込み可能な光ディスクなどの、より大きな容量を持つ記憶媒体を使用することができる。
光学系13は、図に示されているように単レンズであり得るが、普通は1組のレンズである。シーン31の画像29が可視光輻射でシャッタ33を通して画像センサ35の2次元表面上に形成される。このセンサの電気的出力37は、画像29が投射されたセンサ35の表面の個々の光検出素子を走査することから得られたアナログ信号を担持する。センサ35は、画像29の個々のピクセルを検出するように行および列の2次元アレイに配置された多数の個々の光検出素子を通常含む。個々の光検出素子に当たった光の強度に比例する信号が、通常はそれらをラスタパターンで走査することにより、出力37において時系列で得られ、ここで光検出素子の行は、一番上の行から始まって一度に1行ずつ左から右へと走査されて1フレームのビデオデータを生成し、これから画像29を再生することができる。アナログ信号37は、画像29のデジタルデータを回路41に生成するアナログ・デジタル変換回路チップ39に加えられる。通常、回路41に存する信号は、センサ35の個々の光検出素子に当たった光の強度を表すデジタルデータの個々のブロックのシーケンスである。
回路41におけるビデオデータの処理とカメラ動作の制御とは、この実施形態では、単一の集積回路チップ43により提供される。回路17,21,25および41と接続されている他に、回路チップ43は制御および状態ライン45に接続されている。ライン45は、シャッタ33、センサ29、アナログ・デジタル変換器39およびカメラの他のコンポーネントに、これらの同期動作を提供するように、接続されている。一時的なデータ記憶のために別の揮発性ランダムアクセスメモリ回路チップ47もプロセッサチップ43に接続されている。また、プロセッサプログラム、較正データなどの記憶のために別の不揮発性再プログラム可能なメモリチップ49がプロセッサチップ43に接続されている。回路チップおよび他のコンポーネントにクロック信号を提供するために普通のクロック回路51がカメラ内に設けられている。或いは、システムのためのクロック回路は、別個のコンポーネントではなくて、プロセッサチップ43に代わりに含まれてもよい。
プロセッサチップ43の機能ブロック図が図2に示されている。デジタル信号プロセッサ(DSP)55は、基本的なコンポーネントであり、チップ43とカメラの他のコンポーネントとの両方の動作を制御する。しかし、DSP55は、以下で論じられるように、ビデオデータを広範に処理するものではないので、割合に単純で安価なプロセッサであってよい。メモリ管理ユニット57は、DSP55を外部メモリチップ47および49と出力インターフェイス回路59とにインターフェイスし、この出力インターフェイス回路は、入出力コネクタ19とカードスロット23(図1)とに各々の回路21および25を通して接続されている。
アナログ・デジタル変換器39(図1)からの、図2のブロック図を通るビデオデータの流れがここで一般的に説明される。ライン41の入力データは、ブロック61で前処理されてから1入力として掛け算器63に入力される。掛け算器63への他の入力65は、入ってきたビデオデータを修正するデータを担持し、修正されたビデオデータは掛け算器63の出力67に出現する。この例では、ライン65の修正データは、レンズ・シェーディングの効果と、カメラのエレメントによって画像全体に与えられた強度変動とを補正する。適切なさらなる画像処理69の後に、ビデオデータは、メモリ管理ユニット57を通して出力インターフェイス回路59に向けられ、その後、表示および/または記憶のためにライン21を通してカメラの入出力レセプタクル19に、またはライン25を通してメモリカードスロット23(図1)に、或いはその両方に、向けられる。
ライン65の補正データは、専用処理回路のブロック71によって生成される。ブロック71は、ビデオデータが現在捕捉されている各画像ピクセルの(X,Y)位置を提供する回路73を含む。このピクセル位置は、掛け算器63に加えられる修正係数を生成する計算回路75により使用される。メモリ77は、ルックアップテーブルを記憶する。メモリ77のサイズを減ずるために、少量の補正データのみがルックアップテーブルに格納され、回路75はこのデータから個々のピクセルの補正値を計算する。一組のレジスタ79は、これらの計算回路73および75の両方により使用されるパラメータと中間結果とを記憶する。
計算回路73および75は、DSP55から独立して動作する。DSPは或いはこれらの計算を行うために代わりに使用され得るが、それは極めて高速のプロセッサを必要とし、たとえ充分な速度が利用可能であっても高価であり、チップ43上で相当な余分のスペースを占める。回路73および75は、必要な反復計算をDSP55による関与なしに実行することに専用されるものであり、その構造は非常に簡単であり、チップ43上で僅かなスペースを占め、他の機能を実行するようにDSP55を解放する。
画像修正データおよびパラメータを記憶するメモリ77および79は、好ましくは、これら全てがコスト効率の良い単一のチップに含まれ得るようにアクセス速度および他のプロセッサ回路とのプロセス両立性を目的として揮発性ランダムアクセス型である。画像修正データおよびパラメータは、各カメラについてその製造の最終段階で一度生成されてから不揮発性メモリ49に永久的に格納される。そのとき、これらのデータは、制御および状態ライン83を通して動作するDSP55の制御下で、システムが初期化される毎にライン81を通してメモリ77および79にロードされる。
図3Aを参照して、図2のシステムの動作の1つの態様が説明され、ここでセンサ35(図1)は各画像ピクセルについて単一の光検出素子を含む。このセンサのデジタル化された出力41は、センサ35の1行の隣り合う光検出素子からのデータの連続するブロック87,89,91などを含む。データの各ブロックは、単一の光検出素子により感知された画像29の1つのピクセルの強度を量子化した10ビット、12ビット或いはそれより多数のビットを含み、制御するカウンタ85(図2)を通してシステムクロック51により制御される速度で回路41に出現する。例えば、データブロック87,89,91などのうちの1つが、クロック信号の各サイクルの間に出現することができる。
データブロック93,95,97などが、修正処理回路71(図2)によって、画像データ87,89,91などと同じ速度でかつ同期して生成される。すなわち、修正データ93は画像データ87と同時に掛け算器63に出現するように生成されるなどである。光検出素子の走査パターンは分かっているので、計算回路73は、センサ35の表面の光検出素子の位置の半径を、画像データがこれらの光検出素子から読み取られるのと同じ順序でかつ同じ速度で、生成する。特定の画像ピクセルについて生成された修正係数データが、そのピクセルの強度のデータと結合される。掛け算器63における同じピクセルについての画像データ87と生成された修正データ93との結合は、修正済みデータ98をもたらす。修正済みデータブロック99および100は、データ89および95、並びに91および97の結合によって同様にそれぞれ得られる。
普通のビデオシステムは、画像の複数の別個の色成分の各々についてのデータを処理する。代表的な商用センサは、赤、緑および青のフィルタで覆われた光検出素子を行に沿って交互に配置している。商業的に使用される感色性光検出素子の配置方法は幾つかある。このような1つの配置方法では、1つの行は交互に位置する赤感応光検出素子および緑感応光検出素子を含み、その次の行は交互に位置する青感応光検出素子および緑感応光検出素子を含み、光検出素子は列においても交互の感色性を提供するように行に沿って配置される。他の標準的な配置方法は、2つの交互の色の他の組み合わせを使用する。図3Bに示されているように、1つのこのようなセンサのライン41の出力は連続する赤色データ片、緑色データ片および青色データ片を含む。ブロック101,103,105などは交互に位置する赤感応光検出素子および緑感応光検出素子の別々のデータを表し、1つのブロックが、連続するクロックサイクルの各々の間に出力される。
検出される別々の色の全てについて補正データが1セットだけある場合、各画像ピクセルについて色に関わらずにそのデータのセットから画像修正係数が生成される。信号修正によって除去される画像全体にわたる変動が全ての色に同じ程度に或いは殆ど同じ程度に影響を及ぼす場合には、これで充分である。しかし、変動が顕著に色に支配される場合には、各色成分について別々の補正係数が使用される。色に支配される修正の使用が図3Bに示され、ここで連続する修正係数113,115,117などが画像データの各々の連続するブロック101,103,105などと結合される。その結果は、修正済みデータブロック120,122,124などである。修正係数113,117,121などは赤色補正データから得られ、修正係数115,119,123などは緑色補正データから得られる。
商業的に利用し得る1つの特定のタイプの光センサは、各光サイト或いはピクセルに複数の光検出素子を積み重ねる。一番上の検出素子は赤色と緑色とを通過させるが、それ自体が敏感な色、例えば青色、をフィルタリングして除去する。この一番上の検出素子の直ぐ下の検出素子は、緑色を通過させ、それ自体が敏感な色、この例では赤色、をフィルタリングして除去する。底のセンサは緑色に敏感である。図3Cは、このタイプのセンサでの図2のシステムの動作を示す。データのブロック125,127,129,131などが、1ピクセルの全ての色について3個出力され、次の隣接するピクセルについて別の3個が出力される、などである。全ての色について補正データの唯一のセットが維持される場合、色データブロック125,127および129を生成するサイトについての修正係数133など、各光サイトからの3つのデータブロックに同じ修正係数が結合される。各色について別々の補正データが維持される場合、修正係数は異なり得るが、画像センサにおける単一の半径方向位置について3個全てが計算される。掛け算器63で結合されたとき、結果として連続する修正済みデータブロック137,138,139などが得られる。
他のタイプのカラーシステムも、本願明細書に記載されている手法で補正され得る。例えば、2つの色成分だけを使用する商用カラーシステムがあった。また、4カラーシステムもあり、このシステムでは『黒白』情報を得るために広いスペクトル範囲を有する1つの独立の検出素子が使用される。
シェーディング補正処理
本発明の2次元表面外挿法アプローチでは、シェーディング補正係数の2次元サブセットが維持される。これらの補正係数は、2次元画像平面内の殆ど全てのピクセルについてシェーディング補正係数の値を内挿するために使用される。
図4および5は、以下の説明のための骨組みを提供する。1つの光センサが図4に概略的に示され、その多数のピクセルは、破線略図で示されている格子パターンの長方形に論理的に分割されている。1ラインあたりに4800個の水平ピクセル、3200本の垂直ラインの特定の例が説明され、ディスプレイ内に合計15,360,000個のピクセルがある。この格子パターンは水平方向に16ブロック、垂直方向に8ブロックを含む。図5は、図4の格子パターンの長方形のうちの1つを拡大して示す。この特定の例において各ブロックは水平方向に300個のピクセルを、また垂直方向にピクセルの400本のラインを含む。格子パターンで示されている長方形の形状および数と、図4および5に示されているピクセルの数とは、もちろん、特定の例の説明のために選択された数に限定されなくてもよい。
個々のピクセルについての補正係数を、アレイの全ピクセルについてこのような係数を記憶することを必要とせずに決定する1つの方法は、各ブロック内のピクセルのうちの代表的な少数のピクセルについてそれらを記憶させ、他の個々のピクセルについての補正を線形または他の内挿法によって計算するという方法である。すなわち、図4および5の格子パターンのブロックのサイズは、個々のブロックにおけるシェーディングパターンの強度変動をこのブロックに関して記憶されている少数の値から予測し得るように充分に小さくされる。各ピクセル位置について、補正係数は、以下の方程式に従ってこの記憶されているサブセットから外挿される。
ピクセルアウト
=ピクセルイン*F[(X,Y)位置、補正値の記憶されているサブセット](2)
ここで、
ピクセルアウト=画像シェーディング処理モジュール71の出力であり、換言すれば、補正済みピクセルである。
ピクセルイン=画像シェーディング処理モジュール71への入力であり、換言すれば、補正前のピクセルである。
F[..]=補正係数であり、ピクセル位置(X,Y)と、その補正されるピクセルが存在するブロックの小数のピクセルについてメモリ77に記憶されているシェーディング補正値のサブセットとの関数である。
この場合、補正係数外挿公式は、現在位置にある関心対象であるピクセルと補正係数の限定されたテーブルに格納されているシェーディング補正係数により表される隣接するピクセルとの間の幾何学的距離に応答する2次元外挿として実現される。図5の隅のピクセルA,B,CおよびDについての補正係数の値GainA ,GainB ,GainC およびGainD は、メモリに格納され得る。点A,B,CおよびDの間のブロックの中の関心対象であるピクセル、すなわちピクセルPにおける画像強度の補正済みの値は、
点Pにおける補正済みピクセルアウト
=(点Pにおける未補正ピクセルイン)*GainP (3)
として外挿され得る。ここで、点Pにおけるシェーディング補正係数ゲインGainP は以下のように表される。
GainP =1/2[GainA *(Distance(A,P)/Distance(A,C))+GainB *(Distance(B,P)/Distance(B,D))+GainC *(Distance(C,P)/Distance(A,C))+GainD *(Distance(D,P)/Distance(B,D))] (4)
ここで、Distance(A,P),(B,P),(C,P)および(D,P)は、ピクセルA,B,CおよびDと関心対象であるピクセルPとの間の幾何学的距離であり、Distance(A,C)および(B,D)は、それぞれ隅のピクセルAおよびCの間の幾何学的距離および隅のピクセルBおよびDの間の幾何学的距離である。これらの距離は、数個のピクセルを単位として測られるのが非常に好都合である。
しかし、このプロセスを集積回路の形で具体化するコストは高い。なぜならば、必要な掛け算の数が多く、また多数のシェーディング補正係数ゲインを集積回路に包含させる必要があるため、シェーディング補正係数ゲインの数は光センサ内のピクセルの数に正比例するからである。図4の長方形の隅ピクセルの各々について補正係数を記憶させなければならない。しかし、ゲイン自体の絶対値の代わりに、隣り合うブロック隅点のシェーディング補正係数ゲイン間の変化分をテーブルに格納することによって、また中間計算データを記憶する一組のレジスタと共に加算器を用いることによって、必要な掛け算の数が顕著に低減され、従って集積回路の実装例のコストが顕著に低減される。
シェーディング補正係数ゲイン自体の代わりに、補正係数ゲイン変化分或いは勾配を用いるのは、例えばデジタルカメラにおいて、レンズまたは光センサの不均一な光レスポンスに起因して画像強度が、水平方向および垂直方向の両方において、水平ラインまたは垂直の列の始端部ではこのラインまたは列の中央での強度より低くてこのラインまたは列の終端部で再び高くなるように、変化し得るという事実の故である。シーンが取り込まれるときに均一な明るさの画像を取り込み、記憶させ、表示するために、光センサにおける明るさの変化分が較正時に記憶され、それらの測定値は後にそれらの変化分を補償するために使用される。
特定の例の目的上、画像または他の補正されるべき光パターンを受ける光センサの領域は、図4に示されている数のブロックに論理的に分割される。これは、ブロック同士の間と画像の縁の周りとに合計16個の水平境界と8個の垂直境界とを提供する。より粗い或いは細かい画像分割を用いることができる。選択されるブロックの範囲は、光センサのインターフェイスカウンタによりサポートされる最大ピクセル解像度と一致すべきである。画像のどんな部分がビデオ信号処理ユニット43(図1)に処理のために持ち込まれるかに関わらず、ブロック境界は光センサの光学像サイズ全体にわたって延びる。
較正時に、全体にわたって均一な強度の明視野が、カメラの光学系または他の光学装置を通して光センサ上に向けられる。較正光分布における明るさ変化分が、全てのブロックにおいてシェーディング強度のdX勾配、dY勾配および2次部分勾配 (second partial slope) dXYを計算することによって光センサ出力において測定される。ブロックのdX勾配は、そのブロックのピクセルの一番上のラインを横切るときの光強度の変化分を表し、dXY勾配は、1つのブロックのピクセルの一番上のラインから底のラインまで、連続するライン間でのdX勾配の変化分を表す。例えば、このブロックのラインiの明るさ変化分は、そのブロックのdX勾配とi*dXY勾配との和によって表される。dY勾配は、画像の第1の列を構成する連続するブロック同士の間での垂直方向における明るさ変化分を表す。3つの勾配テーブルがこれらの測定値から形成されて、デジタル画像取り込み装置に含められて、画像シェーディング補正のために使用される。それらは、
1)HGST(水平ゲイン勾配テーブル)−X変化分(dX)勾配テーブルであり、この特定の例では図4のブロックの各々について1つずつ、合計128個(16×8)のエントリを有し、各エントリは22ビット(1符号、21フラクション)を有する。
2)VGST1(垂直ゲイン勾配テーブル1)−Y変化分(dY)勾配テーブルであり、図4のブロックの各行について1つずつ、合計8個のエントリを有し、各エントリは22ビット幅(1符合、21フラクション)である。
3)VGST2(垂直ゲイン勾配テーブル2)−X変化分の2次部分導関数(dXY)勾配テーブルであり、128個のエントリを有し、各エントリは17ビット幅(1符合ビット、16フラクションビット)である。
テーブルHGSTは、画像中の各ブロックについて、このブロック中の各ピクセルについてのゲインの勾配(HGS)を明示する。換言すれば、これは、図5に示されているようにブロック内で水平走査ラインに沿うピクセルxのゲインと次のピクセルx+1のゲインとの差を明示する。より具体的には、点AおよびBの間の水平線に沿ってのピクセルあたりのゲインの増分差(勾配)HGSABは、
HGSAB=(GainB −GainA )/DAB (5)
であり、量HGSCDは、図5に示されているように、ブロックの点CおよびDの間の水平ラインに沿っての勾配である。
HGSCD=(GainC −GainD )/DCD (6)
ここで、DABは1つの個数のピクセルを単位として測られた点AおよびBの間の距離であり、DCDは図5の点CおよびDの間の距離である。特定の例では、カメラの動作中にメモリ77(図2)に格納されているHGSTテーブルの一部であるこれらの量の各々は、22ビット幅の2進数(1符合ビットおよび21フラクションビット)として表される。
テーブルVGST1は、図4のブロックの各行について1つのエントリを含む。これは、ブロックの行の中の各第1のブロックについて、この第1のブロック内の全ピクセルについてのゲインの垂直勾配を明示する。換言すれば、これは、ブロックの左端に隣接する同じ列内のピクセル(0、Y)のゲインと、隣接するピクセル(0、Y+1)のゲインとの差を明示する。ピクセルあたりのゲインのこの増分差(勾配)VGSACは、
VGS1=(GainC −GainA )/DAC (7)
と表されて良く、ここでDACはピクセルの個数として測られた隅のピクセルAおよびCの間の距離である。この例では、テーブルの各エントリは22ビット幅の2進数(1符合ビットおよび21フラクションビット)である。
テーブルVGST2は、画像を構成する各ブロックについて1つのエントリを含む。これは、各ブロックについて、このブロック中の各ラインについてのHGSの垂直勾配(これは2次導関数である)を明示する。換言すれば、これは、ラインy内の第1のピクセルのHGSと次の順のラインy+1内の第1のピクセルのHGSとの差を明示する。ピクセルあたりのゲインのこの増分差(勾配)VGSACは以下のように表される。
VGS2=(HGSCD−HGSAB)/DAC (8)
この例では、このテーブルの各エントリは17ビット幅の2進数(1符合ビットおよび16フラクションビット)である。
較正手続きは、デジタル画像取り込み装置に含まれる『基本ゲイン』も供給する。基本ゲインは、画像の第1のブロックのゲインであり、図4に示されているように、画像の左上ピクセル(X0 ,Y0 )についてのゲイン係数として画像シェーディング補正プロセスで使用される。この例では、ゲインは26ビット幅の2進数(2整数ビットおよび24フラクションビット)として表される。
基準ピクセル(X0 ,Y0 )の基本ゲインとテーブルHGSTおよびVGST1に格納されているエントリとは、ディスプレイ内の各ピクセルについて補正係数のゲインを計算するために必要な全てのデータを提供し、それらのゲインは各ピクセルから読み出された出力値と結合される。付加的なテーブルVGST2は、この計算および結合をより速く実行し得るようにするデータを提供する。
以下のテーブルAに記載されているように、以下のステップについての詳細な説明において、前に定義された用語と共に以下の用語が使用される。
・順次画像フォーマット
順次画像フォーマットでは、画像は単一のフレームとして操作される。換言すれば、画像のラインは順次に操作される。画像のライン1が最初に処理または表示され、これに画像のライン2が続き、これに画像のライン3が続く、などである。
・インターレース画像フォーマット
インターレース画像フォーマットでは、画像は2つのフィールドに分割される。フィールド1は偶数ライン(0,2,・・・)を保持し、フィールド2は奇数ラインを保持する。処理するとき或いはインターレース画像を処理するとき、ライン1,3,5,7などが始めに処理または表示され、これに画像のライン2,4,6,8が続く。この説明の全体にわたって2フィールド・インターレース・フォーマットが例として使用されているが、本発明は3,4,5或いはそれ以上の別々のフィールドに分割された画像でも有効である。
・Reg[]
(VGS2)*(関心対象である現在のピクセルが中に位置しているブロックのライン数)を蓄積する16個のレジスタのアレイである。各レジスタは26ビット幅の2進数(1符合、1整数、24フラクション)である。
・現在のVGS、現在のHGS
現在のブロック、すなわちその中に関心対象であるピクセルが存在するブロックに適用されるVGSおよびHGSである。例えば、ピクセルが(i,j)ブロックの中に存在するならば、現在のVGS2=VGST2(i,j)であり、現在のHGS=HGST(i,j)である。
・現在のVSize
現在のブロックの垂直サイズ(ブロック境界LUTから得られる)。
・現在のライン
現在のブロックの始まりからの垂直オフセット。
・現在のゲイン
ピクセルシェーディング補正を実行するために現在のピクセルの強度値に掛けるゲイン。この例では、現在のゲインは26ビットの2進数(2整数、24フラクション)である。
・ラインスタートレジスタ
ラインの開始におけるゲインを記憶する。この例では、ラインスタートは26ビットの2進数(2整数、24フラクション)である。
・AddHレジスタ
補正される画像において関心対象であるピクセルが右へ1ピクセルだけシフトするごとにAddHレジスタに格納されている内容を現在のゲインに加える。この例では、AddHの内容は26ビットの2進数(1符合、1整数、24フラクション)である。
・Tmpレジスタ
現在のゲインの値を正規化してTmpレジスタに格納する。次に、シェーディング補正を実行して補正済みピクセルアウトを作るために現在のピクセルの強度値すなわち未補正ピクセルインにTmpレジスタ内の正規化された現在のゲインの値を掛ける。この例では、Tmpは10ビットの2進数(2整数、8フラクション)である。
各ピクセルについて実行される補正計算は、全体としての画像の中でのピクセルの具体的な位置に応答し、それはこの画像の特定のブロックの中の、この画像の確定されたラインにある。テーブルAは、各ブロック内の各ピクセルについてピクセル位置および画像フォーマットの関数として行われるシェーディング補正を記載している。これは、一実装例として、集積回路の形で実現されたデジタル信号処理エンジンの使用を仮定している。
Figure 2007520179
Figure 2007520179
Figure 2007520179
シェーディング補償較正
均一に照らされた全体にわたって均一な強度の完全に白い画像からの画像データが、較正されているカメラにより捕捉される一方で、このカメラのシェーディング補正段は迂回される。特定の例では、この較正画像は16水平ブロック×8垂直ブロックに分割される。カメラシステムのコントローラ或いはビデオ信号プロセッサで実行する較正プログラムを使用することによって、合計で16個の水平ブロック境界および8個の垂直ブロック境界がカメラ製造時に較正試験オペレータによってプログラムされる。ブロックの数は、従ってブロック数の範囲は、カメラの光センサ・インターフェイス・カウンタによりサポートされる最大ピクセル解像度と調和するように選択される。今日一般的に使用されている光センサについては、最大ブロックサイズは約300×400(水平×垂直)であり、最小ブロックサイズは30×30ピクセルである。従って、ブロックは、普通、各水平ラインに30〜300のピクセルを、また垂直(ライン)に30〜400のピクセルを各々有する。
各々の較正される画像ブロックの一番上の左隅ピクセルに割り当てられる平均の明るさが始めに計算される。図6の埋められたセルにより示されているピクセルは、この平均明るさ計算についての『関心対象であるピクセル』として用いられる。平均の明るさは、この関心対象であるピクセルに隣接するピクセルを用いることにより計算される。この較正手続きに用いられるものを含む殆どのデジタルカメラの光センサは、図3A〜3Cに関して前に説明したように、2タイプの光センサの行を使用する。その第1はRGRGRG(R=赤、G=緑、およびB=青)感色光センサ素子の行であり、第2はGBGBGB感色光センサ素子の行である。第1のタイプは図6においてフレームに接して描かれているが、第2のタイプは図6においてフレームなしで描かれている。従って、画像の所与のピクセルについての平均の明るさを計算するために、光センサの、同様の構成の行の中の隣接するピクセルからの強度データを読み、そして平均化することが必要である。これは、フレームと接している行の中のピクセルが、フレームと接している他の行の中の対応するピクセルと平均化され、フレームと接していない行の中のピクセルが、フレームと接していない他の行の中の対応するピクセルと平均化されるということを意味する。具体的に述べると、これは、関心対象であるピクセルを含んでいてフレームと接する図6の行の中のピクセルが、その上および下の、フレームと接している行と対応するピクセルベースで平均化されることを必要とする。好ましくは、どのラインのどのピクセルも平均化される。各行の緑色成分が平均明るさ計算において充分に表されることを保証することが必要であるので、これは重要なことである。また、平均の明るさを計算しなければならないピクセルが画像の縁のピクセルであるときには、より少数のピクセルが平均化されることになるということにも注意しなければならない。従って、そのピクセルが画像の左縁にあるならば、右側の隣のものだけが平均に含まれる。
以下の『勾配計算』についての説明と前の『平均の明るさ』についての説明とは各原色について別々の平均明るさおよび別々のブロック勾配計算の使用に特に言及していないけれども、この実施形態はこのように実施され得る。
例として、デジタルカメラでは、レンズ或いは光センサの不均一な光応答に起因して画像がその中心部においてその隅とは異なる光強度で記憶され表示される可能性がある。この強度は、水平ラインまたは垂直な列の始端部ではそのラインまたは列の中央でよりも低く、そのラインまたは列の終端部で再び高くなるように、水平方向および垂直方向の両方に変化することが良くある。シーンが取り込まれるときに画像を均一な明るさで取り込み、記憶させ表示するために、明るさのこれらの変化が較正時に測定され、後にこれらの変化を補償するために使用される。
使用される較正手続きにおいて、明るさの変化は、どのブロックについてもdX勾配と、dY勾配と2次部分勾配dXYとを計算することによって測定される。ブロックのdX勾配は、そのブロックのピクセルの一番上のラインを横切るときの光強度の変化分を表し、dXY勾配は、1つのブロックのピクセルの一番上のラインから底のラインまで、連続するライン間でのdX勾配の変化分を表す。例えば、ブロックのラインiの明るさ変化分は、dX勾配とブロックのi*dXY勾配との和によって表される。dY勾配は、画像の第1の列を構成する連続するブロック同士の間での垂直方向における明るさ変化分を表す。
始めに画像の最大平均明るさを有する画像ブロックを見つけ出し、この平均最大明るさ値を、関心対象である画像ブロックの平均明るさで割ることによって、この画像の各ブロックについて勾配dX、dYおよびdXYが計算される。その結果としての比率は『ゲイン』と称される。
dX、dYおよびdXY勾配を計算するアルゴリズムは、以下の3つの勾配テーブルを作る。
1)HGST(水平ゲイン勾配テーブル)−dX勾配テーブルであり、128個のエントリを有し、各エントリは22ビット(1符号、21フラクション)を有する。
2)VGST2(垂直ゲイン勾配テーブル)−dXY勾配テーブルであり、128個のエントリを有し、各エントリは17ビット幅(1符合ビット、16フラクションビット)である。
3)VGST1(垂直ゲイン勾配テーブル)−dY勾配テーブルであり、8個のエントリを有し、各エントリは22ビット幅(1符合、21フラクション)である。
アルゴリズムは『基本ゲイン』も与える。基本ゲインは、画像の第1のブロックのゲインであり、後に画像の左上ピクセル(X0 ,Y0 )についてのゲイン係数として画像補正プロセスで使用される。ゲインは26ビットエントリ(2整数、24フラクション)で与えられる。
較正アルゴリズムは、以下のように、より詳しく記述される。
1)始めに最大平均明るさが見つけ出される(全てのブロックの平均明るさが計算された後に)。
2)最大平均明るさを用いて基本ゲインが計算される。
3)画像の各ブロックについてdX、dYおよびdXY勾配が計算される。これらの勾配は以下のように計算される。
第1のラインの第1のブロック
a)dX勾配が(GainB −Basic_gain)/DABとして計算される。
b)dY勾配が(GainC −Basic_gain)/DACとして計算される。
両方の勾配について、Basic_gainはGainA の値を有する(図5を参照)。
ラインiの第1のブロック
a)dX勾配が(GainB −Basic_gain(i) )/DABとして計算される。
b)dY勾配が(GainC −Basic_gain(i) )/DACとして計算される。
両方の勾配についてBasic_gain(i) は(Basic_gain(i-1) +dY(i-1) *Height(i-1) )として計算される。
ラインiのブロックj
a)dX勾配が(GainB −Basic_gain(j) )/DABとして計算され、ここでBasic_gain(j) は(Basic_gain(j-1) +dX(j-1) *Width(j-1) )として計算される。
ラインi内の各ブロックjについて、そのdXY勾配を(dX(i+1) −dX(i) )/DACとして計算する。
4)作られた勾配テーブルと基本ゲインとは製造プロセス中にデジタルカメラの不揮発性メモリ(例えば、図1および2の49)に格納され、後に、前述したようにシェーディング不均一性を補償するために使用される。
結論
本発明は特定の実施形態に関して説明してきたが、本発明が添付されている特許請求の範囲の全範囲内においてその権利が保護されるべきであることが理解できよう。
本発明の手法を利用しうる電子ビデオ装置を概略的に示す。 図1の装置の電子処理システムの一部のブロック図である。 図2のシステムによるビデオデータの修正を示す。 図2のシステムによるビデオデータの修正を示す。 図2のシステムによるビデオデータの修正を示す。 強度シェーディング補正係数がブロックベースで記憶されるようになっている、図1および2のカメラを較正して使用するために使われる光センサのピクセルのブロックへの論理的編成を示す。 図4のピクセルのブロックの1つの例である。 カメラまたは他の関心対象である光学系の較正時に実行される計算の1つを示す。

Claims (19)

  1. 関心対象である光パターンに重なったシェーディング強度パターンについて感光ピクセルの2次元アレイから得られたデータを補償する方法において、
    前記アレイの少なくとも1つのピクセルのシェーディング強度パターンの少なくとも1つの基本値と、前記アレイにおける行および列の両方でのピクセル間のシェーディング強度パターンの変化分とをメモリに格納するステップと、
    前記少なくとも1つの基本値および前記変化分から個々のピクセルについて補償係数を計算するステップと、
    前記計算された補償係数を前記アレイの前記個々のピクセルから得られたデータと結合させ、これにより前記ピクセルから得られたデータを前記シェーディング強度パターンについて補正するステップと、
    を含む方法。
  2. 前記ピクセルのアレイは、その行および列の両方に複数のピクセルを有する複数の隣接するブロックに分割され、個々のブロックについて前記メモリに格納された変化分は、行方向における個々のピクセルに沿っての前記シェーディング強度パターンの第1の変化率と列方向における個々のピクセルに沿っての前記シェーディング強度パターンの第2の変化率とを含む請求項1記載の方法。
  3. 個々のブロックについて前記メモリに格納された変化分は、行方向における個々のピクセルに沿っての前記シェーディング強度パターンの変化率の二次導関数を付加的に含む請求項2記載の方法。
  4. 前記計算するステップおよび結合させるステップは、前記データが前記ピクセルのアレイから得られるのと少なくとも同じ速度で前記個々のピクセルについて実行される請求項1記載の方法。
  5. 前記シェーディング強度パターンは、光学場をセンサ上に画像化する光学系、前記感光ピクセルアレイ自体、或いは前記光学系およびアレイを収容するエンクロージャの内面からの光反射により導入された強度変動を含む請求項1記載の方法。
  6. 少なくとも1つの基本値と変化分とを格納するステップは、前記感光ピクセルのアレイについてのシェーディング強度パターン値の複数のセットを、複数の色成分の各々について1データセットずつ、維持することを含む請求項1記載の方法。
  7. 前記格納するステップ、計算するステップ、および結合させるステップの機能は、全て単一の集積回路チップ上で達成される請求項1記載の方法。
  8. 前記格納するステップ、計算するステップ、および結合させるステップの機能は、全てこれらの機能を実行するために専用される電子回路により実行される請求項1記載の方法。
  9. 光センサからのデジタルビデオ信号を、光学系により前記光センサに向けられた光学場における強度シェーディング変動について補正する方法であって、前記画像センサは前記光検出素子がラスタパターンで走査されるときに前記ビデオ信号を生成する個々の光検出素子の2次元アレイを有する方法において、
    前記光検出素子のアレイのブロックにおける個々のピクセル補正値の勾配を含む画像補正データを前記光学場の少なくとも2つの色成分の各々について維持するステップと、
    前記個々のピクセル強度補正値を前記補正データ勾配から計算するステップと、
    前記個々のピクセル強度補正値を、対応する光検出素子の画像センサビデオ信号と結合させ、これにより前記デジタルビデオ信号を補正するステップと、
    を含む方法。
  10. 集積回路チップにおいて、
    所定パターンに従って2次元光学像を線形に走査することから得られた個々の光検出素子のデータのストリームを受け取って処理することのできる回路を含む集積回路チップにおいて、
    前記2次元光学像の線形走査の全体にわたって、先行する光検出素子について決定された補正値に、記憶されている増分値を加えることによって、走査されている前記光学像と同期して、走査された光学像の補正値を決定する前記回路の第1の部分と、
    入ってくるデータと前記補正値とを受け取って、個々の光検出素子のデータの修正済みストリームを出力する前記回路の第2の部分と、
    を備える集積回路チップ。
  11. ビデオ撮像装置において、
    ラスタパターンで走査されてその上の光学輻射の強度を表すデータのシリアル・ストリームを出力する検出素子の2次元アレイを有する光センサと、
    前記センサに光学輻射場を向けるように前記センサに関して固定された光学系と、
    少なくとも前記光センサおよび光学系についての強度補正関数を記憶するメモリであって、前記補正関数が前記アレイの行および列の両方における前記検出素子のうちの連続する1つ1つの検出素子の値の間の変化として定義され、全体にわたって均一な強度を有する光学場を見る前記装置光学系によって前記光センサを通して前記補正関数が測定されるメモリと、
    前記メモリから前記検出素子のうちの連続する1つ1つの検出素子の値の間の変化の値を読み出し、それから個々のピクセルからのデータのシリアル・ストリームに対してなされるべき強度補正の量を計算する専用補正決定回路と、
    前記光センサから出力された前記データのシリアル・ストリームを前記強度補正の決定された量で修正し、これにより画像化された光学場の全体にわたる強度変動について前記データのシリアル・ストリームを補正する結合回路と、
    を備えるビデオ撮像装置。
  12. 前記センサは前記センサに当たった光学輻射の複数の個々の色成分の強度を表すデータのシリアル・ストリームを出力し、前記メモリは、その複数の色成分の各々についての補正データを格納する請求項11記載のビデオ撮像装置。
  13. 関心対象である光パターンに重なったシェーディング強度パターンについて感光ピクセルの2次元アレイから得られたデータを補償する方法において、
    前記アレイの少なくとも1つのピクセルのシェーディング強度パターンの少なくとも1つの基本値と、前記アレイにおける行および列の両方でのピクセル間のシェーディング強度パターンの変化分と、前記アレイにおける少なくとも垂直方向における個々のピクセルに沿っての前記シェーディング強度パターンの変化分の2次導関数とをメモリに格納するステップと、
    前記少なくとも1つの基本値、前記変化分および前記2次導関数から個々のピクセルについて補償係数を計算するステップと、
    前記計算された補償係数を前記アレイの前記個々のピクセルから得られたデータと結合させ、これにより前記ピクセルから得られたデータを前記シェーディング強度パターンについて補正するステップと、
    を含む方法。
  14. 前記ピクセルのアレイは、その行および列の両方に複数のピクセルを有する複数の隣接するブロックに分割され、個々のブロックについて前記メモリに格納された変化分は、行方向における個々のピクセルに沿っての前記シェーディング強度パターンの第1の変化率と列方向における個々のピクセルに沿っての前記シェーディング強度パターンの第2の変化率とを含む請求項13記載の方法。
  15. 前記計算するステップおよび結合させるステップは、前記データが前記ピクセルのアレイから得られるのと少なくとも同じ速度で前記個々のピクセルについて実行される請求項13記載の方法。
  16. 前記シェーディング強度パターンは、光学場をセンサ上に画像化する光学系、前記感光ピクセルアレイ自体、並びに前記光学系およびアレイを収容するエンクロージャの内面からの光反射のうちのいずれか1つ以上により導入された強度変動を含む請求項13記載の方法。
  17. 前記少なくとも1つの基本値と変化分と2次導関数とを格納するステップは、前記感光ピクセルのアレイについてのシェーディング強度パターン値の複数のセットを、複数の色成分の各々について1データセットずつ、維持することを含む請求項13記載の方法。
  18. 前記格納するステップ、計算するステップ、および結合させるステップの機能は、全て単一の集積回路チップ上で達成される請求項13記載の方法。
  19. 前記格納するステップ、計算するステップ、および結合させるステップの機能は、全てこれらの機能を実行するために専用される電子回路により実行される請求項18記載の方法。
JP2006552121A 2004-02-02 2005-01-11 外挿法によって画像フィールドデータを修正する手法 Active JP4833085B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US10/770,696 US7388610B2 (en) 2002-08-16 2004-02-02 Techniques of modifying image field data by extrapolation
US10/770,696 2004-02-02
PCT/US2005/000938 WO2005076111A1 (en) 2004-02-02 2005-01-11 Techniques of modifying image field data by extrapolation

Publications (2)

Publication Number Publication Date
JP2007520179A true JP2007520179A (ja) 2007-07-19
JP4833085B2 JP4833085B2 (ja) 2011-12-07

Family

ID=34837833

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006552121A Active JP4833085B2 (ja) 2004-02-02 2005-01-11 外挿法によって画像フィールドデータを修正する手法

Country Status (5)

Country Link
US (3) US7388610B2 (ja)
EP (1) EP1711880B1 (ja)
JP (1) JP4833085B2 (ja)
CN (1) CN100451913C (ja)
WO (1) WO2005076111A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009130395A (ja) * 2007-11-19 2009-06-11 Sharp Corp 撮像装置および電子情報機器
JP2010103642A (ja) * 2008-10-21 2010-05-06 Toshiba Corp シェーディング補正装置

Families Citing this family (42)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7391450B2 (en) 2002-08-16 2008-06-24 Zoran Corporation Techniques for modifying image field data
US7388610B2 (en) 2002-08-16 2008-06-17 Zoran Corporation Techniques of modifying image field data by extrapolation
US7408576B2 (en) * 2002-08-16 2008-08-05 Zoran Corporation Techniques for modifying image field data as a function of radius across the image field
KR100615277B1 (ko) * 2004-08-18 2006-08-25 엠텍비젼 주식회사 이미지 센서에서의 렌즈 셰이딩 현상 보정 방법 및 장치
US7477570B2 (en) * 2004-08-20 2009-01-13 Micron Technology, Inc. Sequential access memory with system and method
JP2006121612A (ja) * 2004-10-25 2006-05-11 Konica Minolta Photo Imaging Inc 撮像装置
EP1872237A4 (en) * 2005-03-31 2009-09-23 Veeco Instr Inc CONTROL OF GRATING TRANSPARENCY AND GRID STRUCTURE FOR ION BEAM EQUIVALENCE
JP4476955B2 (ja) 2006-03-17 2010-06-09 富士通マイクロエレクトロニクス株式会社 シェーディング補正回路とその制御方法
US8259179B2 (en) * 2006-05-15 2012-09-04 Csr Technology Inc. Compensating for non-uniform illumination of object fields captured by a camera
GB2442050A (en) * 2006-08-29 2008-03-26 Micron Technology Inc Image pixel value correction
US7782380B2 (en) * 2006-09-01 2010-08-24 Aptina Imaging Corporation Positional gain adjustment and surface generation for image processing
US7777708B2 (en) * 2006-09-21 2010-08-17 Research In Motion Limited Cross-talk correction for a liquid crystal display
US20080278613A1 (en) * 2007-05-11 2008-11-13 Micron Technology, Inc. Methods, apparatuses and systems providing pixel value adjustment for images produced with varying focal length lenses
US8078001B2 (en) 2007-05-11 2011-12-13 Micron Technology, Inc. Methods, apparatuses and systems for piecewise generation of pixel correction values for image processing
US8463068B2 (en) 2007-08-09 2013-06-11 Micron Technology, Inc. Methods, systems and apparatuses for pixel value correction using multiple vertical and/or horizontal correction curves
US8331722B2 (en) * 2008-01-08 2012-12-11 Aptina Imaging Corporation Methods, apparatuses and systems providing pixel value adjustment for images produced by a camera having multiple optical states
GB0801443D0 (en) * 2008-01-25 2008-03-05 Micron Technology Inc Methods, systems and apparatuses for pixel signal correction using elliptical hyperbolic cosines
US20090252405A1 (en) * 2008-04-03 2009-10-08 Sangkeun Lee Method and apparatus for dictionary-based image processing
TWI393428B (zh) * 2009-04-20 2013-04-11 Pixart Imaging Inc 影像校正方法及使用此方法的影像處理系統
CN101873436B (zh) * 2009-04-27 2011-12-07 倚强科技股份有限公司 使用多线内插的镜头亮度补偿方法
US8472712B2 (en) * 2009-10-20 2013-06-25 Apple Inc. System and method for applying lens shading correction during image processing
JP5901246B2 (ja) * 2010-12-13 2016-04-06 キヤノン株式会社 撮像装置
JP5592776B2 (ja) * 2010-12-21 2014-09-17 オリンパスイメージング株式会社 画像処理装置、画像処理方法、および、画像処理プログラム
EP2728885B1 (en) * 2011-06-30 2016-08-03 FUJIFILM Corporation Imaging device and imaging program
US9332239B2 (en) 2012-05-31 2016-05-03 Apple Inc. Systems and methods for RGB image processing
US8953882B2 (en) 2012-05-31 2015-02-10 Apple Inc. Systems and methods for determining noise statistics of image data
US9014504B2 (en) 2012-05-31 2015-04-21 Apple Inc. Systems and methods for highlight recovery in an image signal processor
US9142012B2 (en) 2012-05-31 2015-09-22 Apple Inc. Systems and methods for chroma noise reduction
US11089247B2 (en) 2012-05-31 2021-08-10 Apple Inc. Systems and method for reducing fixed pattern noise in image data
US9105078B2 (en) 2012-05-31 2015-08-11 Apple Inc. Systems and methods for local tone mapping
US9743057B2 (en) 2012-05-31 2017-08-22 Apple Inc. Systems and methods for lens shading correction
US9077943B2 (en) 2012-05-31 2015-07-07 Apple Inc. Local image statistics collection
US9025867B2 (en) 2012-05-31 2015-05-05 Apple Inc. Systems and methods for YCC image processing
US8817120B2 (en) 2012-05-31 2014-08-26 Apple Inc. Systems and methods for collecting fixed pattern noise statistics of image data
US9031319B2 (en) 2012-05-31 2015-05-12 Apple Inc. Systems and methods for luma sharpening
US8917336B2 (en) 2012-05-31 2014-12-23 Apple Inc. Image signal processing involving geometric distortion correction
US8872946B2 (en) 2012-05-31 2014-10-28 Apple Inc. Systems and methods for raw image processing
JP6105903B2 (ja) * 2012-11-09 2017-03-29 キヤノン株式会社 画像処理装置、画像処理方法、放射線撮影システム及びプログラム
US10424055B2 (en) * 2016-05-27 2019-09-24 Canon Kabushiki Kaisha Image processing apparatus and method for controlling the same
JP6819629B2 (ja) 2018-02-23 2021-01-27 オムロン株式会社 画像センサ
JP6819630B2 (ja) * 2018-02-23 2021-01-27 オムロン株式会社 画像センサ及び本体モジュール
DE102018115991B4 (de) 2018-07-02 2023-12-07 Basler Ag Digitale schaltung zur korrektur eines vignettierungseffekts in werten von pixeln eines bildes einer elektronischen kamera

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS62250774A (ja) * 1986-04-24 1987-10-31 Konika Corp 画像のシエ−デイング補正方法
JPH03262283A (ja) * 1990-03-13 1991-11-21 Sony Corp シェーディング補正回路
JPH06105143A (ja) * 1992-09-18 1994-04-15 Ricoh Co Ltd 画像読取装置
JPH0969971A (ja) * 1995-08-30 1997-03-11 Olympus Optical Co Ltd 電子カメラ
JP2000253410A (ja) * 1999-02-26 2000-09-14 Neucore Technol Inc 電子カメラ装置
JP2001275029A (ja) * 2000-03-28 2001-10-05 Minolta Co Ltd デジタルカメラ、その画像信号処理方法及び記録媒体
JP2002290829A (ja) * 2001-03-26 2002-10-04 Minolta Co Ltd 画像処理装置、プログラムおよび記録媒体
JP2004023784A (ja) * 2002-06-20 2004-01-22 Hewlett-Packard Development Co Lp デジタルカメラのための較正データを生成する方法および装置

Family Cites Families (34)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4482975A (en) * 1982-03-29 1984-11-13 Motorola, Inc. Function generator
JPS60182870A (ja) 1984-03-01 1985-09-18 Canon Inc 画像処理装置
US5267055A (en) 1988-05-11 1993-11-30 Canon Kabushiki Kaisha Image signal processing apparatus
FR2657208B1 (fr) 1990-01-16 1992-04-10 Thomson Consumer Electronics Procede et dispositif de correction automatique de geometrie, de superposition de couleurs et d'uniformite d'image pour camera de television.
US5181096A (en) * 1990-04-12 1993-01-19 Actel Corporation Electrically programmable antifuse incorporating dielectric and amorphous silicon interlayer
US5047861A (en) * 1990-07-31 1991-09-10 Eastman Kodak Company Method and apparatus for pixel non-uniformity correction
JP2893078B2 (ja) 1990-12-06 1999-05-17 オムロン株式会社 シェーディング補正方法およびその装置
JP3191354B2 (ja) * 1991-11-15 2001-07-23 ソニー株式会社 シェーディング補正回路
JPH0865546A (ja) * 1994-08-18 1996-03-08 Fuji Photo Film Co Ltd シェーディング補正係数生成回路およびシェーディング補正係数生成方法
EP0720125B1 (fr) * 1994-12-29 2002-05-08 Koninklijke Philips Electronics N.V. Dispositif de formation d'image et procédé pour effectuer des corrections de distorsions optiques géométriques dans une image
DE69707223T2 (de) * 1996-03-18 2002-06-13 Koninkl Philips Electronics Nv Streulichtkompensation
JPH09307789A (ja) 1996-05-17 1997-11-28 Olympus Optical Co Ltd 画像処理装置
JP3675066B2 (ja) 1996-11-06 2005-07-27 三菱電機株式会社 赤外線撮像装置および画像補正方法
JPH10160566A (ja) 1996-12-03 1998-06-19 Mitsubishi Electric Corp 赤外線撮像装置
JP3822723B2 (ja) 1997-08-29 2006-09-20 富士写真フイルム株式会社 画像処理装置
DE19855885A1 (de) 1997-12-04 1999-08-05 Fuji Photo Film Co Ltd Bildverarbeitungsverfahren und -vorrichtung
JP3800824B2 (ja) 1998-09-16 2006-07-26 日本ビクター株式会社 情報処理装置及び情報処理方法
US6727521B2 (en) 2000-09-25 2004-04-27 Foveon, Inc. Vertical color filter detector group and array
US6833862B1 (en) 1999-06-30 2004-12-21 Logitech, Inc. Image sensor based vignetting correction
JP2001274973A (ja) 2000-03-24 2001-10-05 Sanyo Electric Co Ltd 顕微鏡画像合成装置、顕微鏡画像合成方法、顕微鏡画像合成処理プログラムを記録したコンピュータ読み取り可能な記録媒体
JP2002125156A (ja) 2000-08-11 2002-04-26 Nikon Corp 固体撮像素子及び電子カメラ
JP4574022B2 (ja) 2001-01-17 2010-11-04 キヤノン株式会社 撮像装置及びシェーディング補正方法
JP2002216136A (ja) 2001-01-23 2002-08-02 Sony Corp 距離算出方法及び撮像装置
US6853402B2 (en) 2001-01-30 2005-02-08 Xerox Corporation Combined multiplexing and offset correction for an image sensor array
JP2002237998A (ja) 2001-02-07 2002-08-23 Sony Corp 画面補正方法及び撮像装置
US6983298B2 (en) 2001-03-28 2006-01-03 Texas Instruments Incorporated Method and apparatus for linear interpolation using gradient tables
US6940546B2 (en) * 2001-04-04 2005-09-06 Eastman Kodak Company Method for compensating a digital image for light falloff while minimizing light balance change
US6975775B2 (en) 2002-03-06 2005-12-13 Radiant Imaging, Inc. Stray light correction method for imaging light and color measurement system
JP2004038728A (ja) * 2002-07-05 2004-02-05 Noritsu Koki Co Ltd 画像処理方法、画像処理プログラム、および、画像処理プログラムを記録した記録媒体
US7408576B2 (en) 2002-08-16 2008-08-05 Zoran Corporation Techniques for modifying image field data as a function of radius across the image field
US7391450B2 (en) 2002-08-16 2008-06-24 Zoran Corporation Techniques for modifying image field data
US7388610B2 (en) 2002-08-16 2008-06-17 Zoran Corporation Techniques of modifying image field data by extrapolation
US20050041805A1 (en) * 2003-08-04 2005-02-24 Lowell Rosen Miniaturized holographic communications apparatus and methods
CN1820496B (zh) 2003-10-31 2011-08-03 三菱电机株式会社 图像修正方法和摄像装置

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS62250774A (ja) * 1986-04-24 1987-10-31 Konika Corp 画像のシエ−デイング補正方法
JPH03262283A (ja) * 1990-03-13 1991-11-21 Sony Corp シェーディング補正回路
JPH06105143A (ja) * 1992-09-18 1994-04-15 Ricoh Co Ltd 画像読取装置
JPH0969971A (ja) * 1995-08-30 1997-03-11 Olympus Optical Co Ltd 電子カメラ
JP2000253410A (ja) * 1999-02-26 2000-09-14 Neucore Technol Inc 電子カメラ装置
JP2001275029A (ja) * 2000-03-28 2001-10-05 Minolta Co Ltd デジタルカメラ、その画像信号処理方法及び記録媒体
JP2002290829A (ja) * 2001-03-26 2002-10-04 Minolta Co Ltd 画像処理装置、プログラムおよび記録媒体
JP2004023784A (ja) * 2002-06-20 2004-01-22 Hewlett-Packard Development Co Lp デジタルカメラのための較正データを生成する方法および装置

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009130395A (ja) * 2007-11-19 2009-06-11 Sharp Corp 撮像装置および電子情報機器
JP4682181B2 (ja) * 2007-11-19 2011-05-11 シャープ株式会社 撮像装置および電子情報機器
JP2010103642A (ja) * 2008-10-21 2010-05-06 Toshiba Corp シェーディング補正装置
US8330838B2 (en) 2008-10-21 2012-12-11 Kabushiki Kaisha Toshiba Shading correcting device and imaging apparatus

Also Published As

Publication number Publication date
US20110025889A1 (en) 2011-02-03
CN1914580A (zh) 2007-02-14
US20050041806A1 (en) 2005-02-24
CN100451913C (zh) 2009-01-14
US7388610B2 (en) 2008-06-17
JP4833085B2 (ja) 2011-12-07
WO2005076111A1 (en) 2005-08-18
EP1711880B1 (en) 2014-04-23
EP1711880A1 (en) 2006-10-18
US7817196B1 (en) 2010-10-19
US8218037B2 (en) 2012-07-10

Similar Documents

Publication Publication Date Title
JP4833085B2 (ja) 外挿法によって画像フィールドデータを修正する手法
JP4773369B2 (ja) 画像フィールドデータを修正するための技術
US7907195B2 (en) Techniques for modifying image field data as a function of radius across the image field
JP4161295B2 (ja) 画像センサのダイナミックレンジを拡大するカラー画像撮像システム
US8259179B2 (en) Compensating for non-uniform illumination of object fields captured by a camera
US7755672B2 (en) Techniques for modifying image field data obtained using illumination sources
US8737755B2 (en) Method for creating high dynamic range image
US20050024508A1 (en) Image capturing apparatus provided with image processor
US20100026835A1 (en) Image sensing apparatus and method for controlling the same
JP4993670B2 (ja) 撮像装置及びその制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20071221

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100722

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100727

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101022

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110906

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110921

R150 Certificate of patent or registration of utility model

Ref document number: 4833085

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140930

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250