JP4037266B2 - ディジタルイメージャの適応感度制御システム及び方法 - Google Patents

ディジタルイメージャの適応感度制御システム及び方法 Download PDF

Info

Publication number
JP4037266B2
JP4037266B2 JP2002557117A JP2002557117A JP4037266B2 JP 4037266 B2 JP4037266 B2 JP 4037266B2 JP 2002557117 A JP2002557117 A JP 2002557117A JP 2002557117 A JP2002557117 A JP 2002557117A JP 4037266 B2 JP4037266 B2 JP 4037266B2
Authority
JP
Japan
Prior art keywords
intensity level
function
pixel
transfer control
integration time
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2002557117A
Other languages
English (en)
Other versions
JP2004521535A (ja
JP2004521535A5 (ja
Inventor
イチロー マサキ
レーン ジャール ブルックス
ビベク シクリ
キース ジー フィーフェ
Original Assignee
スモール カメラ テクノロジーズ
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by スモール カメラ テクノロジーズ filed Critical スモール カメラ テクノロジーズ
Publication of JP2004521535A publication Critical patent/JP2004521535A/ja
Publication of JP2004521535A5 publication Critical patent/JP2004521535A5/ja
Application granted granted Critical
Publication of JP4037266B2 publication Critical patent/JP4037266B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/571Control of the dynamic range involving a non-linear response
    • H04N25/575Control of the dynamic range involving a non-linear response with a response composed of multiple slopes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/617Upgrading or updating of programs or applications for camera control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/65Control of camera operation in relation to power supply
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/571Control of the dynamic range involving a non-linear response
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N2201/3201Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N2201/3225Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to an image, a page or a document
    • H04N2201/3252Image capture parameters, e.g. resolution, illumination conditions, orientation of the image capture device

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Nonlinear Science (AREA)
  • Software Systems (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)

Description

(優先権情報)
本出願は、2001年1月11日に出願された米国仮特許出願第60/261,023号による優先権を主張する。該米国仮出願の全記載内容を本願明細書の一部としてここに援用する。
本発明は、ディジタルイメージャの感度の制御に関する。より詳細には、本発明は、ディジタルイメージャの感度を適応制御し、ディジタルイメージャのダイナミックレンジを拡大する方法に関する。
従来より、上記のようなディジタルイメージャは、電圧と光との線形応答、すなわち変換関数(transfer function)により特徴づけられる。つまり、ディジタルイメージャの出力電圧は、ディジタルイメージャに入射する光にほぼ線形に関係している。つまり、出力電圧の変換関数は、ディジタルイメージャに入射する光の強度に線形に比例する。このような線形の変換関数はダイナミックレンジによって特徴付けることができる。ダイナミックレンジは、あるシーンの検出可能な最高照射強度とそのシーンの検出可能な最低照射強度との差として定義される。変換関数のダイナミックレンジがディジタルイメージャのダイナミックレンジ全体を設定することは十分に理解される。シーンのダイナミックレンジがディジタルイメージャのダイナミックレンジを上回る場合、シーンの一部がディジタルイメージャを飽和させ、完全な黒色あるいは完全な白色のいずれかに見える。これは、ダイナミックレンジの大きいシーン、例えば屋外のシーンなどを撮像する場合に問題となる。
従来のディジタルイメージャは、一般に画素と呼ばれる複数の感光素子を含む。この素子は、光検出素子として機能する、複数のフォトトランジスタまたは複数のフォトダイオードのいずれかによって物理的に実現される。動作においては、まず、画素がリセット電圧によってリセットされ、これにより、そのダイオードに関連する容量に電荷が発生する。例えばあるフォトダイオードによって生成された電荷は、光にさらされると、ダイオード容量の電荷を、シーンの入射照明の強度に比例して拡散させる。露光周期の終了時に、ダイオード容量の電荷における変化が検出され、フォトダイオードはリセットされる。フォトダイオードによって検出された光の量が、リセット電圧と、最終的なダイオード容量の電荷に対応する電圧との差として算出される。
例えばディジタルスチルカメラまたはディジタルビデオカメラに設けられるようなディジタルイメージャの感度は、一般に、そのディジタルイメージャによって撮像可能なシーンの最大光強度と最小光強度とによって定めることができる。ディジタルイメージャの画素によってキャプチャされるシーンの光または照射強度(illumination intensity)は、その画素、すなわち感光素子において測定される出力電圧または電荷の量に関連する値である。
ディジタルイメージャの感度は、さまざまな状況で限定され得るが、その一例が画素の飽和である。画素の飽和は、感光素子、すなわち画素の電荷が使い尽くされ、入射光の量がそれ以上増えても出力電圧が変化しない場合に起こる。このように、画素の飽和は、分離して(discretely)撮像できるシーンの最大光強度を限定すべく作用する。すなわち、ある画素の飽和が照射強度レベル100で起こる場合、照射強度レベル100を超えるシーンの照射強度レベルはすべて、撮像されたシーンにおいて、100の照射強度レベルとして表される。このように、実際には照射強度レベルが100を超えるにもかかわらず、撮像されたシーンの照射強度レベルは100になるため、照射強度レベル100を超える、これらのシーンの照射強度レベルは、分離して撮像されない、あるいは識別ができない。
別の例として、画素のノイズがある。画素ノイズの原因は、例として、アナログ電圧からディジタルコードへの変換における量子化、統合された熱電荷生成(integrated thermal charge production)、真の相関二重サンプルによって画素がサンプリングされない場合の電圧リセット電圧がある。画素ノイズは検出可能な最小照射強度を設定する。人間の目は強度に対して対数的な応答を有するので、ディジタルイメージングにおいては、問題となるのは通常、より低い強度におけるノイズである。
画素の飽和と画素ノイズは、いずれもディジタルイメージャ固有の特性である。したがって、これらの特性により、ディジタルイメージャの物理的感度が限定され、広い範囲の光(照射)強度を有するシーンが適切に撮像されない。すなわち、シーンの高い光(照射)強度は画素の飽和のために、撮像されたシーンから排除され、シーンの低い光(照射)強度は画素ノイズのため、解像度が低くなる。
従来から、ディジタルイメージャのこれらの物理的限定を無効にする方法、例えば、ディジタルイメージャの転送制御関数(transfer control function)としても知られる、画素の電荷集積関数(charge integration function)の操作または調整方法が提案されている。電荷集積関数の操作または転送制御関数の操作は、従来から、ディジタルイメージャに対する集積時間Tintの変更によって実現されている。集積時間Tintを変化させることにより、転送制御関数または電荷集積周期の開始時間が変わる。すなわち、集積時間の変更は、電子的絞り(electronic-irising)または露光制御の1形式であり、アナログカメラのシャッタ速度の制御と同じである。従来の集積時間操作の例が図1及び図2に示されている。
図1には、集積時間Tintが最大集積時間に近い、線形転送制御関数が示されている。集積時間Tintは、制御信号10がリセットレベルに設定されていない時間である。フレーム周期Fにおいて、制御信号10がリセット値にない場合、ディジタルイメージャは電荷を画素から転送または収集させる。図1に示されるように、制御信号10は、まずリセットレベルにあるが(フレーム周期Fの開始時)、フレーム周期における、フレーム周期Fと集積時間Tintとの差(図1においては、この差は非常に小さい)に等しい時点において、別のレベル、この場合は収集レベルに変化する。そして、制御信号10は、フレーム周期Fの終了時に再びリセットレベルに戻る。
一方、図2は、集積時間Tintが減少した、線形転送制御関数が示されている。上述のように、集積時間Tintは、制御信号10がリセットレベルに設定されていない時間である。フレーム周期Fにおいて、制御信号10がリセット値にない時、ディジタルイメージャは電荷を画素から転送または収集させる。図2に示されるように、制御信号10は、まずリセットレベルにあるが(フレーム周期Fの開始時)、フレーム周期における、フレーム周期Fと集積時間集積時間Tintとの差に等しい時点において、別のレベル、この場合は収集レベルに変化する。(図2においては、この差はフレーム周期Fの半分にほぼ等しい。)そして、制御信号10は、フレーム周期Fの終了時に再びリセットレベルに戻る。
すなわち、図2に示される状況では、制御信号10が、図1に示されるより短い期間、画素から電荷を転送または収集させるレベルに設定されている。集積時間の減少により、撮像されているシーンの低い照射強度レベルが強調されない(de-emphasize)ようになる。これは、低い照射強度レベルが高い照射強度レベルと同じくらい速く電荷を生成するため、シーンの低い照射強度レベルに関連する電荷を集積するための十分な時間が与えられないからである。
撮像されたシーンの照射強度レベルに対するディジタルイメージャの集積時間Tintの関係を調べるための別の方法が図3に示されている。図3において、曲線Aは、第1の集積時間T1intを用いた場合の、画素の出力電圧に対する撮像されたシーンの照射強度レベルの第1のマッピングを表している。曲線Bは、第2の集積時間T2intを用いた場合の、画素の出力電圧に対する撮像されたシーンの照射強度レベルとの第2のマッピングを表している。図3において、第2の集積時間T2intは、第1の集積時間T1intより小さい。したがって、図3に示されるように、集積時間Tintが大きくなると、画素の出力電圧対撮像されたシーンの照射強度レベルのマッピングの傾斜が大きくなり、これにより撮像されたシーンの低い照射強度は強調される。
転送制御関数を操作する従来の別の方法は、階段状の(stepped)または区分的な(piecewise)離散時間の転送制御関数(discrete-time transfer control function)を使用する方法である。階段状のまたは区分的な離散的転送制御関数の使用により、画素の出力電圧対撮像されたシーンの照射強度レベルのマッピングが修正され、飽和前に、撮像されたシーンのより広範囲にわたる照射強度レベルが可能になると同時に、撮像されたシーンの低い照射強度レベルが強調される。
従来の階段状または区分的な離散時間の転送制御関数の一例が図4に示されている。図4において、集積時間Tintは、図1に示されるのと同じ値である。ただし、図1とは異なり、図4における制御信号10のレベルは、リセットレベルから収集値まで離散的に階段状に減少する。制御信号10は、電荷の生成または蓄積に対するバリアとして作用する。リセットレベルにおいては、完全なバリアが実現し、画素に入射する光の照射強度レベルに関わらず、電荷は生成も蓄積もされない。すなわち、画素は事実上オフする。制御信号10がリセットレベルから階段状に減少するにつれ有効なバリアが低くなり、電荷の生成または蓄積率が事実上、漸進的な増加を実現できる。
より詳細には、図4に示すように、露光周期の期間にわたり、制御信号10は画素またはフォトダイオードの容量に印加されて容量からの電荷の拡散を制御する。制御信号10は、通常、開始画素リセット電圧値から、例えば電気的接地または収集レベルに減少し、この場合、露光周期の所与の時間における各制御信号10の値がフォトダイオードの最大電荷拡散を設定する。この制御信号10の減少がフォトダイオードの電荷拡散能力を増加すべく作用し、これにより、画素は飽和前に、より高い照射強度に適応でき、よって画素のダイナミックレンジが増加する。このような電荷拡散制御により、撮像された照射強度レベルに対する画素の出力電圧の非線形マッピングが生成され、これに対応して画素及びイメージャのダイナミックレンジが拡大する。これが図5に示されている。
図4に示されるような階段状または区分的な離散時間の転送制御関数を使用することにより、図5に示されるような、より広い範囲を有する、画素出力電圧と撮像されたシーンの照射強度レベルのマッピングが生成される。図5において、曲線Aは、図1に示されるような線形の制御変換関数を使用した場合の、画素出力電圧対撮像されたシーンの照射強度レベルのマッピングを示し、曲線Bは、図4に示されるような階段状または区分的な離散時間転送制御関数を使用した場合の、画素出力電圧対撮像されたシーンの照射強度レベルのマッピングを示す。図5に示されるように、曲線Bは曲線Aに比べて、撮像されたシーンの照射強度レベルの範囲が広い。
ディジタルイメージャの物理的な限界は、集積時間の調整及び転送制御関数(結果として制御信号10を生成する)の操作によって補償されているが、これらの従来のアプローチはでも、最適な方法でディジタルイメージャの物理的限界を補償することはできない。
例えば、従来の処理では、飽和した画素が存在しない撮像シーン範囲の照射強度レベルを実現することはできない。より詳細には、図6に示されるように、撮像されるシーンの実際の照射強度レベルのヒストグラムは、画像の平均照射強度レベルが50の場合、20から200の照射強度レベルを含む。しかしながら、画素の飽和により、照射強度レベル100を超えるシーンの照射強度レベルは、図7に示すように、ディジタルイメージャによって表示されない。これは、シーンのこのような高い照射強度レベルは、画素の飽和のために、ディジタルイメージャによってすべて100の照射強度レベルにバケットされ、この結果、撮像されたシーンの高い照射強度レベルが排除されるためである。
上述した従来の処理を使用して、集積時間を減少することにより飽和した画素を補償すると、図8に示されるような、撮像シーンの照射強度レベルのヒストグラムが実現する。図8において、撮像されたシーンのヒストグラムは、画像照射強度の平均値が50から25に変わるように0・5倍縮小されている。この従来のアプローチにより、シーンのより高い照射強度レベルのより多くの部分が表示できる。しかしながら、画像は許容できない程度に暗く、画像全体の量子化ノイズは半減し、信号も二倍低減した可能性があるが、一方で他のノイズソース(リセットノイズなど)は多量に残っている。
本発明の1つの態様は、ディジタルイメージャの感度を適応的に制御する方法である。この方法によれば、第1の定められた照射強度レベルの範囲内にある照射強度レベルを有するイメージデータの画素数を決定し、決定した第1の定められた照射強度レベル範囲内の画素数にもとづき照射強度レベルマッピング関数を決定し、決定した照射強度レベルマッピング関数にもとづき転送制御関数を決定し、決定した転送制御関数をディジタルイメージャの画素に対して適用する。
本発明の他の1つの態様は、ディジタルイメージャの感度を適応的に制御する方法である。この方法によれば、画素の飽和値に対応する照射強度レベルを含む第1の定められた照射強度レベルの範囲内の照射強度レベルを有する、画像データの画素数を決定し、第1の定められた照射強度レベルの範囲内の決定された画素数にもとづき照射強度レベルマッピング関数を決定し、最小照射強度レベルに対応する照射強度レベルを含む第2の定められた照射強度レベルの範囲内の照射強度レベルを有する、画素数を決定し、第2の定められた照射強度レベルの範囲内の照射強度レベルを有する画素の決定した数にもとづき集積時間を決定し、決定した照射強度レベルマッピング関数と、決定した集積時間とにもとづき転送制御関数を決定し、決定した転送制御関数をディジタルイメージャの画素に対して適用する。
本発明の他の1つの態様は、ディジタルイメージャの感度を適応的に制御する方法である。この方法によれば、第1の照射強度レベルマッピング関数を選択し、選択した第1の圧縮にもとづき第1の転送制御関数を決定し、決定した第1の転送制御関数をディジタルイメージャの画素に対して適用し、決定した第1の転送制御関数が適用された、ディジタルイメージャによって生成されている画像データの画素の照射強度レベルのヒストグラムを決定し、前記ヒストグラムを形成するサンプル中の画素に対する最大照射強度レベルを表す、照射強度レベル最大値を決定し、決定した照射強度レベル最大値にもとづき第2の照射強度レベルマッピング関数を決定し、第2の照射強度レベルマッピング関数は飽和画素の生成を防ぎ、ヒストグラムの各レベルをディジタルイメージャによって実現可能にする、画像データのダイナミックレンジを提供し、決定した第2照射強度レベルマッピング関数にもとづき第2の転送制御関数を決定し、決定した第2の転送制御関数をディジタルイメージャの画素に対して適用する。
本発明の他の1つの態様は、合成転送制御関数を形成する複数の離散的転送制御関数(discrete transfer control functions)間の移行点を決定する方法である。この方法によれば、集積時間を決定し、照射強度レベルマッピング関数を決定し、決定した集積時間と決定した照射強度レベルマッピング関数とにもとづき合成転送制御関数を決定し、決定した集積時間と決定した照射強度レベルマッピング関数とから、複数の離散的転送制御関数間の各移行点のタイミングを決定する。
本発明の他の1つの態様は、ディジタルイメージャの感度を適応制御するシステムである。このシステムは、第1の定められた照射強度レベル範囲内の照射強度レベルを有する画像データの画素数を決定し、第1の定められた照射強度レベルの範囲内の決定した画素数にもとづき照射強度レベルマッピング関数を決定する照射強度レベルマッピングコントローラと、決定した照射強度レベルマッピング関数にもとづき転送制御関数を決定し、決定した転送制御関数をディジタルイメージャの画素に対して適用する転送制御関数生成回路とを含む。
本発明の他の1つの態様は、ディジタルイメージャの感度を適応制御するシステムである。このシステムは、画素飽和値に対応する照射強度レベルを含む第1の定められた照射強度レベルの範囲内の照射強度レベルを有する画像データの画素数を決定し、第1の定められた照射強度レベルの範囲内の、決定した画素数にもとづき照射強度レベルマッピング関数を決定する照射強度レベルマッピングコントローラと、最小照射強度レベルに対応する照射強度レベルを含む第2の定められた照射強度レベルの範囲内の照射強度レベルを有する画像データの画素数を決定し、第2の定められた照射強度レベルの範囲内の、照射強度レベルを有する決定した画素数にもとづき集積時間を決定する露光コントローラと、決定した照射強度レベルマッピング関数と、決定した集積時間とにもとづき転送制御関数を決定し、決定した転送制御関数をディジタルイメージャの画素に対して適用する、転送制御関数生成回路と、を含む。
本発明の他の1つの態様は、ディジタルイメージャの感度を適応制御するシステムである。このシステムは、第1の照射レベルマッピング関数を選択する照射強度レベルマッピングコントローラと、選択された第1の圧縮にもとづき第1の転送制御関数を決定し、決定した第1の転送制御関数をディジタルイメージャの画素に対して適用する転送制御関数生成回路とを含む。照射強度レベルマッピングコントローラは、決定した第1の転送制御関数が適用された、ディジタルイメージャによって生成されている画像データの画素の照射強度レベルのヒストグラムを決定し、ヒストグラムを形成するサンプル中の画素に対する最大照射強度レベルを表す、照射強度レベル最大値を決定する。照射強度レベルマッピングコントローラは、決定した強度レベル最大値にもとづき、第2の照射強度レベルマッピング関数を決定する。第2照射強度レベルマッピング関数は、飽和画素の生成を防ぎ、ヒストグラムの各レベルがディジタルイメージャによって実現可能になる画像データのダイナミックレンジを提供する。転送制御関数生成回路は、決定した第2の照射強度レベルマッピング関数にもとづき第2の転送制御関数を決定し、決定した第2の転送制御関数をディジタルイメージャの画素に対して適用する。
本発明の他の1つの態様は、合成転送制御関数を形成する複数の離散的転送制御関数間の移行点を決定するシステムである。このシステムは、集積時間を決定する露光コントローラと、照射強度レベルマッピング関数を決定する照射強度レベルマッピングコントローラと、決定した集積時間と決定した照射強度レベルマッピング関数とにもとづき合成転送制御関数を決定し、かつ決定した集積時間と決定した照射強度レベルマッピング関数とから、複数の離散的転送制御関数間の各移行点のタイミングを決定する、転送制御関数生成回路とを含む
シーンの低照射強度レベルが強調されるとともにシーンの高照射強度レベルも表示され、かつ所与の集積周期のあいだ飽和する画素がないようにディジタルイメージャのダイナミックレンジを高めることが望ましい。さらに、シーンを撮像する際には、そのシーンの実際の照射強度範囲に関わらず、ディジタルイメージャのダイナミックレンジ全体を利用することが望ましい。
本発明は、ディジタルイメージャの感度を、ディジタルイメージャを飽和させずにディジタルイメージャの出力強度レベルの範囲全体を完全に使用できるような方法で、ディジタルイメージャの照射強度レベルマッピング関数及び集積時間特性を決定することにより、(結果的に制御信号を生成する)転送制御関数を調節することによって調節する技術及システムを提供する。これらの技術は、広い範囲のディジタルスチルカメラ及びビデオカメラの構成に適用できる。
本発明を説明する際、種々の用語が用いられている。本願明細書においては、フレーム周期とは、ディジタルイメージャのすべての画素を読取り、撮像されたシーンの1フレームを生成するために必要な時間周期である。集積時間とは、ディジタルイメージャが撮像対象のシーンから入射光または照射を受光し、撮像対象の入射光または照射に応じて収集可能な電荷または電圧を生成する、フレーム周期全体における時間周期を言う。照射強度レベルマッピング関数とは、ディジタルイメージャの画素から受信したアナログ信号と、その画素によって受信される、照射強度を表すディジタル信号とのあいだのアナログディジタル変換の関係をいう。出力電圧対照射強度レベルマップとは、照射強度レベルマッピング関数の図による表示である。転送制御関数(transfer control function)とは、集積時間周期における、ディジタルイメージャの画素からの電荷の拡散に対する制御を意味する。転送制御関数の生成とは、ディジタルイメージャの画素からの電荷拡散を制御する制御信号の実際の生成を意味する。
より詳細には、本発明は集積時間を調節し、転送制御関数を操作して、図9に示されるような撮像シーンのヒストグラムを実現する。図9において、感度調節を使用することにより、ヒストグラム全体がセンサの範囲内におさまり、この結果、飽和が生じないとともに画像の平均レベルが50に維持され、画像が視覚的に見やすい程度に十分明るく、人間の目がノイズに対してより敏感な低い照射強度の画素において信号対ノイズ比が低減しないことを保証する。
本発明の技術によれば、シーンの低照射強度レベルが強調され、シーンの高照射レベルが識別可能で、所与のフレーム周期Fにおいて飽和する画素がない。
本発明は、ディジタルイメージャの感度を異ならせ、シーンが広いダイナミックレンジを持つ場合には、ディジタルイメージャは撮像されたシーンを表すディジタル照射強度レベルまたは値に対するディジタルイメージャの出力電圧の非線形マッピングを生成することができる。本発明の概念によれば、人の目が量子化ノイズに対してそれほど敏感でない、シーンのより高い照射強度レベルを表す出力電圧は、非線形的に照射強度レベルにマッピングされ、より高い照射強度レベルの解像度は圧縮される。さらに、シーンの低照射強度レベルを表す出力電圧は増幅され、画像が十分に明るいことを保証する。この結果、適当な輝度を有し、飽和のない撮像シーンが得られる。
本発明は、撮像シーンの照射強度レベルに対する出力電圧のマッピングを動的に調節することにより、シーンの高照射強度レベルの解像度を連続的に圧縮または復元(decompress)し、異なるレベルの光(照射)強度に対して量子化ノイズの量を変化させるまたは不均一に分配する。完全な線形マッピングでは、撮像されたシーンの可能なすべての照射強度が同じ解像度または量子化ノイズの量を有する。
本発明は、出力電圧と撮像されたシーンマップの照射強度レベルとのマッピングを非線形的に調節することでより高い照射強度レベルの解像度を選択的に減少または圧縮させ、飽和点を高める。この結果、ダイナミックレンジの広いシーンを与えられた場合に、低照射強度レベルの画素に関連する出力電圧を、所望の解像度を有するよう十分に増幅することができるとともに、高照射強度レベルの画素に関連する出力電圧をマッピングして、高照射強度レベルの解像度を、ディジタルイメージャに関連するアナログディジタル変換器の範囲内に適合するように圧縮し、かつ飽和を防ぐことができる。これを実現するために、本発明によれば、望ましい照射強度レベルマッピングが自動的に決定され、この決定した照射強度レベルマッピングがディジタルイメージャに対する転送制御関数に変換される。この転送制御関数は、感光素子における電荷の生成または蓄積を制御し、これにより画素の出力電圧を制御する。
本発明は、種々の部品及び部品の配列、及び種々のステップ及びステップの配列の形式を取ることができ、図面は好ましい実施形態を示すことだけを意図し、本発明を限定するものではない。
図10には、本発明の1実施形態が示されている。図10に示されるように、ディジタルイメージャの感度を適応制御するシステムは、ディジタルイメージャ1と、照射強度レベルマッピングコントローラ3と、露光コントローラ5と、転送制御関数生成回路7とを含む。
照射強度レベルマッピングコントローラ3は、第1の定められた照射強度レベルの範囲内にある照射強度レベルを有する、撮像されたシーンの画素数を決定する。照射強度レベルマッピングコントローラ3は、さらに、第1の定められた照射強度レベルの範囲内の決定した画素数にもとづき、照射強度レベルマッピング関数を決定する。
露光コントローラ5は、第2の定められた照射強度レベルの範囲内にある照射強度レベルを有する、撮像されたシーンの画素数を決定し、第2の定められた照射強度レベルの範囲内の照射強度レベルを有する決定した画素数にもとづき、集積時間Tintを決定する。
転送制御関数生成回路7は、決定した照射強度レベルマッピング関数と集積時間Tintとにもとづき、転送制御関数を決定する。転送制御関数生成回路7は、さらに、決定した転送制御関数をディジタルイメージャの画素に対して適用する。
転送制御関数生成回路の一例が、同時係属中の米国特許出願第09/916,822号(2001年7月27日出願、表題"PRECISE MOS IMAGER TRANSFER FUNCTION CONTROL FOR EXPANDED DYNAMIC RANGE IMAGING")に記載されている。この同時係属米国特許出願第09/916,822号の全内容を本願明細書の一部としてここに援用する。
好ましい実施形態においては、ディジタルイメージャ1は転送制御関数を受信し、受信した転送制御関数にしたがって制御信号10を生成する。
なお、転送制御関数生成回路7が制御信号10を直接生成し、これをディジタルイメージャ1に供給することもできる。この場合、制御信号10は、決定された集積時間Tintと決定された照射射強度レベルマッピング関数とにもとづき決定した転送制御関数にしたがって生成される。
第1の定められた照射強度レベルの範囲とは、画素の飽和を表す照射強度レベルを含む照射強度レベルの範囲であり、第2の定められた照射強度レベルの範囲とは、画素ノイズまたは画素オフセットに対して調節可能な最小照射強度レベルを表す照射強度レベルを含む照射強度レベルの範囲である。
照射強度レベルマッピングコントローラ3は、第1の定められた照射強度レベル範囲の照射強度レベルを有する画像データの画素数を、ディジタルイメージャによって生成された画像データの画素のフレームから、ディジタルイメージャによって生成された画像データの画素の部分フレームから、ディジタルイメージャによって生成された画像データの画素のフレーム内の定められた領域から、またはディジタルイメージャによって生成された画像データの画素のフレーム内のユーザによって定められた領域から決定する。
照射強度レベルマッピング関数は、複数の予め特定された照射強度レベルマッピング関数から、例えば8つの予め特定された照射強度レベルマッピング関数から、第1の定められた照射強度レベルの範囲内の決定した画素数にもとづき、計算または選択のいずれかにより求めることができる。さらに、転送制御関数は、決定した照射強度レベルマッピング関数と決定した集積時間Tintにもとづき、複数の予め特定された転送制御関数から計算または選択のいずれかが可能である。
さらに、転送制御関数の決定は、この決定に使用されている画像データのフレームの直後の、画像データの第2フレームの生成中に実現することできる。この状況においては、新しい転送制御関数は、画像データの第2フレームの直後である、画像データの第3フレームの生成中に、画素に対して適用される。
一方、転送制御関数の決定が部分フレームだけに関してなされている場合、転送制御関数の決定は、画像の前記部分フレームを有する画像データのフレームである、画像データの第1フレームの生成中に実現できる。この状況では、新しい転送制御関数は、画像データの前記第1フレームの直後である、画像データの第2フレームの生成中に、画素に与えられる。
さらに、フレーム周期Fまたは他のフレームパラメータをオンザフライで(進行中に)調節して本発明の実施を可能にすることができる。
図10に示されたシステムの別の実施方法では、照射強度レベルマッピングコントローラ3は、飽和画素の数を決定し、決定した飽和画素の数が第1の閾値を超える場合には、第1の照射強度レベルマッピング関数を選択する。照射強度レベルマッピングコントローラ3は、定められたレベルの範囲にある照射強度レベルを有する飽和画素の数を決定し、決定した画素数が第2の閾値より下の場合には、第2の照射強度レベルマッピング関数を選択する。転送制御関数生成回路7は、選択された照射強度レベルマッピング関数にもとづき転送制御関数を決定し、決定した転送制御関数をディジタルイメージャの画素に対して適用する。
転送制御関数は、複数の離散的転送制御関数、例えば8つの離散的転送制御関数を含んでもよい。本実施形態では、決定した照射強度レベルマッピング関数は、複数の離散的照射強度レベルマッピング関数、例えば8つの離散的照射強度レベルマッピング関数を含む。各離散的転送制御関数は、複数の離散的照射強度レベルマッピング関数の1つに基づき決定する。
さらなる実施方法では、照射強度レベルマッピングコントローラ3は、第1の照射強度レベルマッピング関数を選択し、転送制御関数生成回路7は、選択された第1の照射強度レベルマッピング関数にもとづき第1転送制御関数を決定し、決定した第1転送制御関数をディジタルイメージャの画素に対して適用する。そして、照射強度レベルマッピングコントローラ3は、ディジタルイメージャによって生成されている、決定した第1転送制御関数が与えられた、撮像シーンの画素の照射強度レベルのヒストグラムを決定し、このヒストグラムを形成するサンプル中の画素に対する最大照射強度レベルを表す照射強度レベル最大値を決定する。照射強度レベルマッピングコントローラ3は、決定した照射強度レベル最大値にもとづき第2照射強度レベルマッピング関数を決定する。第2照射強度レベルマッピング関数は、飽和画素の生成を防ぎ、ヒストグラムの各レベルがディジタルイメージャによって実現可能である、画像データのダイナミックレンジを提供する。転送制御関数生成回路7は、続いて、決定した第2照射強度レベルマッピング関数にもとづき第2転送制御関数を決定し、決定した第2転送制御関数をディジタルイメージャの画素に対して適用する。第1照射強度レベルマッピング関数は、高照射強度レベルの解像度の最大圧縮を表す。
上述のように、転送制御関数を操作する1つの方法は、階段状または区分的な離散的時間の転送制御関数を使用することである。階段状または区分的な離散的転送制御関数を使用することにより、画素の出力電圧対照射強度のマップを修正して、低照射強度レベルを強調しつつ、飽和前に広範囲の可能な照射強度を実現することができる。
しかしながら、階段状または区分的な離散的時間転送制御関数を使用するためには、離散的転送制御関数または離散的制御信号レベル間の移行点のタイミングと同様に、各階段状の転送制御関数または制御信号レベルを決定しなければならない。
本発明の好ましい実施形態においては、転送制御関数は階段状または区分的な離散的時間転送制御関数であるので、階段状または区分的な離散的時間制御信号である制御信号を生成する。
転送制御関数生成回路7がTintを受信すると、第1の離散的転送制御関数から第2の離散的転送制御関数への第1の移行点がただちに設定される。照射強度レベルマッピング関数gは、実際の離散的転送制御関数を決定し、実際の離散的転送制御関数は、実際の離散的制御信号レベルのそれぞれを決定する。
以下に説明する例においては、照射強度レベルマッピング関数gは、図14に示される、撮像シーンの出力電圧対照射強度レベルの望ましいマップから求められる。図14からわかるように、撮像されたシーンの出力電圧対照射強度レベルの望ましいマップは、区分的な離散的マッピングであり、各離散的マッピングは関連する照射強度レベル範囲の解像度の異なる圧縮に対応する。以下に示すように、関連する照射強度レベル範囲の解像度の各圧縮は、転送制御関数におけるレベルbiに対応する。関連する照射強度レベル範囲の解像度の圧縮が増大するにつれ、対応するレベルbiは減少する。
上述のように、本発明の1つの実施形態においては、転送制御関数は、7つの移行点によって形成される8つの区分または段を有する離散的区分的線形関数であり、ほぼ対数的な応答を生成する。
本発明の好ましい実施形態による、階段状または区分的な離散的時間転送制御関数の一例が図13に示されている。図13において、移行点のタイミングtが横軸に示され、転送制御関数に対応し、続いて生成された制御信号のリセットレベルからの降下量に対応するレベルbは縦軸に示されている。
図13に示されるような、本発明の1実施形態における階段状または区分的な離散的時間転送制御関数は、以下により実現する。
1.第1の移行点t1から第2の移行点t2までの領域の傾斜をmに設定する。
2.第2の移行点t2から第3の移行点t3までの領域の傾斜をgmに設定する。
3.第3の移行点t3から第4の移行点t4までの領域の傾斜をg2mに設定する。
4.第4の移行点t4から第5の移行点t5までの領域の傾斜をg3mに設定する。
5.第5の移行点t5から第6の移行点t6までの領域の傾斜をg4mに設定する。
6.第6の移行点t6から第7の移行点t7またはTmaxまでの領域の傾斜をg5mに設定する。
7つ以上の移行点が望まれる場合、それ以降の移行点間の領域の傾斜はg倍ずつ増加し続ける。
このような方法によれば、露光コントローラ5が望ましい集積時間Tintを特定し、照射強度レベルマッピングコントローラ3が望ましい照射強度レベルマッピング関数gを特定すると、階段状の転送制御関数が完全に制約される。しかしながら、フレーム周期全体Tmaxのあいだでいつ離散的転送制御関数間の移行点が発生するかを決める必要が依然としてある。
上述のように、図13に示されるような本発明のこの好ましい実施形態においては、7つの移行点がある。これら7つの移行点は、結果的な連立方程式の組を解くことにより決定できる。
0 = Tmax − Tint
m = (b1 − b0)/T0
mg = (b2 − b1)/T1
mg2 = (b3 − b2)/T2
mg3 = (b4 − b3)/T3
mg4 = (b5 − b4)/T4
mg5 = (b6 − b5)/T5
mg6 = (b7 − b6)/T6
max = t0 + T0 + T1 + T2 + T3 + T4 + T5 + T6
上記の方程式は、すべてが図13で参照される変数を用いている。好ましい実施形態においては、転送制御関数に対応し、続いて生成された制御信号のリセットレベルから降下している量に個々に対応するレベルb0からb7は、量Δbずつ(ただし(b7−b6=2Δb)を除く)均等な間隔を有すると仮定すると、上記の方程式によりT0,T1,T2,T3,T4及びT5を求めると、以下のようになる。
0 = (g6)/(g6+g5 +g4 +g3+g2 +g+2)*int

1 = (T0)/g
2 = (T1)/g
3 = (T2)/g
4 = (T3)/g
5 = (T4)/g
0,T1,T2,T3,T4及びT5を求める上記の解法によれば、7つの移行点、t0,t1,t2,t3,t4,t5及びt6は、以下のようになる。

0 = Tmax − Tint
1 = t0 + T0
2 = t1 + T1
3 = t2 + T2
4 = t3 + T3
5 = t4 + T4
6 = t5 + T5
なお、移行点を求めるためにレベルbiは均等な間隔で設定される必要はない。bの均等な間隔は、本発明の着想による転送制御関数の生成の一例に過ぎない。
本発明の好ましい実施形態においては、移行点のタイミングの決定は、計算の反復的な性質のために、専用のハードウェアによって実現する。T0が求められると、同一分母による除算を単にあと5回繰り返す。好ましい実施形態においては、T0は非効率性のために専用ハードウェアによって計算されない。よって、可能なgの数は制限され,T0を求めるためにルックアップテーブルが使用される。
この実施形態では、合成転送制御関数を形成する複数の離散的転送制御関数間の移行点は、集積時間Tint及び照射強度レベルマッピング関数の決定に続いて決定する。照射強度レベルマッピング関数は撮像シーンの高照射強度レベルの解像度の適切な圧縮及び撮像シーンの低照射強度レベルの適切な強調を提供する。
1つの実施形態においては,合成転送制御関数は、8つの離散的転送制御関数と7つの移行点とを有する。第1移行点は、最大可能集積時間Tmax、またはフレーム周期Fと、決定した集積時間Tintとの差に等しい。これに続く移行点は、レベルbiが量Δbずつ(ただし、(b7−b6=2Δb)を除く)均等な間隔で設定されていると仮定すると、前のすべての移行点と時間TS=((gn-1)/((gn-1+gn-2+・・・+g2+g+2)(g(p))))*intの和に等しい。ここで、gは決定した照射強度レベルマッピング関数に等しく、nは移行点の総数に等しく、pは計算対象の離散的転送制御関数の位取り数字(positional number)に等しく、Tintは決定した集積時間に等しい。レベルbiが量Δbずつ均等な間隔で設定されていない場合には、等式はレベルbiの空間的関係に応じてわずかに異なる。
図15には、本発明の好ましい実施形態の照射強度マッピングコントローラにより利用される処理が示されている。図15に示されるように、照射強度マッピングコントローラは、撮像されたシーンをセンサから取り込み、飽和画素の数をカウントする。飽和画素の数が多すぎる場合、照射強度マッピングコントローラは高照射強度レベルの解像度に関する圧縮の量を増加する。照射強度マッピングコントローラはさらに、撮像されたシーンの照射強度レベルのヒストグラムにおけるディジタルイメージャのダイナミックレンジの上限付近の領域である上部領域(ビン)における画素数をカウントし、撮像されたシーンがヒストグラムの範囲全体を満たしているかを判断する。上部領域(ビン)に十分な画素がなければ、照射強度マッピングコントローラは、高照射強度レベルの解像度に関する圧縮の量を減少する。照射強度マッピングコントローラは、飽和画素がなくなり、ヒストグラムが完全に使用されるまでこの処理を続ける。
このアプローチは、照射強度マッピング関数を、いかにそれを最適に設定するかを決定するために劇的に変化させることなく、照射強度マッピングコントローラが継続的に実行可能な点で、ビデオのアプリケーションに対して効果的に働く。安定性の制約のもとで照射強度マッピングステップの数が最小化される場合、8つの照射強度マッピングステップが十分である。これにより、照射強度マッピング関数を最大16フレーム以内に設定できる。
図16には、本発明の好ましい実施形態の転送制御関数生成回路によって利用される処理が示されている。図16に示されるように、転送制御関数生成回路は、転送制御関数の初期レベルbをb0に設定する。ステップ値iは、値1に設定される。移行点のタイミングtiも算出される。転送制御関数生成回路はスタンドバイ状態になり、計算された移行点tiが実現するまで、最後の確立レベルbをディジタルイメージャに送る。計算された移行点tiが実現すると、新しいレベルbがbi+1に設定される。ステップ値iは1だけ増加される。移行点tiの計算及びレベルbの設定を、ステップ値iが6になるまで繰り返す。
本発明は、予めプログラムされた照射強度レベルマッピング関数の使用と、所与のフレーム分析中におけるオンザフライ(進行中)での照射強度レベルマッピング関数の計算とのいずれをも想定していることがわかる。予めプログラムされた照射強度レベルマッピング関数の使用は、計算電力が最小化されるアプリケーションではより好ましい。一方、照射強度レベルマッピング関数のリアルタイム計算は、感度制御における柔軟性が望まれるアプリケーションではより好ましい。
本発明の適応感度制御は、ユーザによる制御または入力を必要とせずに、自動的に動作すべく実施され、画像品質を最大化するためのディジタルイメージャの自動的でリアルタイムの適応的調整が可能である。
図11には、本発明の別の実施形態が示されている。図11に示されるように、第1のステップにおいて、ディジタルイメージャの集積時間Tintが制御される。集積時間の制御は、低照射強度レベルに関連する画素数を制御することにより特に実施される。これには、ディジタルイメージャのダイナミックレンジをシーンの照射強度レベルに対してシフトするという効果がある。
1実施形態においては、強度レベル0から3を、特定された低強度レベル範囲として定めている。低強度レベル範囲がレベル0から3を含むとすると、これは、イメージャの4096の出力強度レベルの強度レベル総数の0.1%を占める。集積時間が本発明に応じて制御され、画素の総数の同一パーセンテージ0.1%、すなわち307,200画素のイメージャの0.1%、つまり370画素が0,1,2または3の強度レベルを有する。これにより、4096レベル全体がシーンの強度範囲にわたって効果的に分配される。
好ましくは、低強度レベル範囲に関連付けられるべく選択された画素の数は、ある範囲に定められる。例えば、上記の例では、307+/−30画素が、好ましくはこの範囲に指定される。ある範囲の画素数を使用することにより、ヒステリシスを導入することができ、これによりシステムが安定する。ヒステリシスを導入する別の方法は、強度レベル範囲を使用することである。例えば、強度レベル0または1において画素数が307未満であれば、これに応答して、露光時間を減少することができる。同様に、強度レベル0,1,2,3または4において画素数が307未満であれば、露光時間を増加させる。この例では、画素数に対する閾値は307であって、範囲を持たないが、強度レベル自体は「0または1」から「0,1,2,3、または4」の範囲を有する。このような強度レベルの範囲を導入することによってもヒステリシスが提供される。低照射強度レベルの範囲は小さいことが好ましく、通常小さいほどよい。ただし、例えば0のレベルだけを含むなど、小さすぎると、アルゴリズムがノイズレベルまたは欠陥画素の発生に対して強固でない可能性がある。
図11の第1ステップにおいては、定められた低強度範囲に関連付けられるとされたフレームの画素数をフレーム照射強度ヒストグラムからカウントする。低強度範囲の画素数が、強度レベルの総数の関数としての低強度範囲のパーセンテージに対応する数より大きければ、ディジタルイメージャの集積時間を増加する。逆に、画素数のほうが小さければ、ディジタルイメージャの集積時間を減少する。
図11のステップ2においては、照射強度レベルマッピング関数が調整される。これは、照射強度レベルマッピング関数を選択して、画素数と高照射強度範囲とを一致させることにより特に実現される。この一致は、図9に示すように、画素の分布がディジタルイメージャの飽和レベルにおいてゼロになるように特に行われる。高照射強度範囲は、4096の出力レベルの場合、例えば4095,4094,4093及び4092の強度レベルとして定めることができる。この例の場合、これらの出力レベルに関連付けられる画素の数は、画素の総数の0.1%である。そして、この画素数は、307,200画素のイメージャの場合、例えば277画素から337画素の範囲として定めることができる。
このステップが完了すると、ディジタルイメージャの出力レベルが図9に示されるよう調節されるように、ディジタルイメージャの転送制御関数が調節される。本発明によれば、イメージャの集積時間の調節ステップは、ディジタルイメージャの制御信号のレベルの調節ステップの後にあるいはこれと平行して実行できることがわかる。図11のフローチャートに示されるステップの順序は一例にすぎない。
以下に簡単な例を記載し、本発明の概念を説明する。
4x4の画素アレイサイズを有するディジタルイメージャの例を考えると、分析中のフレームにおける撮像対象の所与のシーンでは、各行の画素はすべて同じ強度レベルを有し、各画素の強度レベルは、0から15の出力レベルの範囲の4ビットでの出力である。
ディジタルイメージャの特定画素によって撮像されるシーンの強度レベルのヒストグラムのさらなる例をあげると以下のようになる。
第1の画素の行では3
第2の画素の行では6
第3の画素の行では300
第4の画素の行では600
すなわち、各画素行のシーン強度レベルの比は、以下のようになる。
第1及び第2の画素行の比は1:2
第2及び第3の画素行の比は1:50
第3及び第4の画素行の比は1:2
従来の感度制御技術では、第4行の強度レベルを600から、ディジタルイメージャの実現可能な最高強度レベルである15に低減するために、集積時間を減少することにより各画素の強度を40分の一に低減する必要があり、このような集積時間の調整後の新たな強度は次のとおりである。
第1の画素行は、0(=1/40)
第2の画素行は、0(=2/40)
第3の画素行は、8(=300/40)
第4の画素行は、15(=600/40)
この結果、第1画素行と第2画素行との当初の強度差が失われるため、出力画像は貧弱になる。
このような問題は本発明の技術により解決する。上述した本発明の技術によれば、画素の強度は次のように調整される。
(a)集積時間を低減することによって、各照射強度レベルを3で割り、撮像されているシーンの最低照射強度レベルを、ディジタルイメージャの指定された低照射強度レベルである1にする。この結果、画素の行1から4の新しい照射強度出力レベルは、それぞれ、1(=3/3)、2(=6/3)、100(=300/3)及び200(=600/3)となる。
(b)非線形照射強度レベルマッピング関数を各照射強度レベルに適用する。これにより、照射強度レベル1及び2はほぼ同じに維持されるが、強度レベル200を有する、最高照射強度レベルの画素領域の解像度は強力に圧縮されて、撮像されているシーンの照射強度レベルを、ディジタルイメージャの最大強度レベル15にマッピングする。最高照射高度レベルの画素領域のすぐ下の高照射強度レベルの画素領域の解像度は,それほど強力ではないが圧縮され、よって第3の画素行の照射強度レベルは9に設定される。
これらのステップにより、本発明の技術は、シーンからの元の画素行照射強度レベルの分布1,2,300及び600を、1,2,9,15のイメージャ出力レベルに変換する。この結果、4つの画素行が異なる照射強度レベルを有するという元の状態が維持されるとともに、画像照射範囲はディジタルイメージャの出力範囲の特性に十分にマップされる。
図12には、集積時間を設定するための、本発明のさらなる実施形態が示されている。照射強度レベル0及び1の全画素数をカウントし、ナンバーダーク(ND)として注目する。NDの決定後、処理は集積時間の調整を決定し、NDの数を低減する。NDを低減するための集積時間の増加方法は次のとおりである。
(1)165<ND<=180であれば、集積時間を10%増加する。
(2)180<ND<=195であれば、集積時間を20%増加する。
(3)195<ND<=210であれば、集積時間を30%増加する。
(4)210<ND<=225であれば、集積時間を40%増加する。
(5)225<ND<=240であれば、集積時間を50%増加する。
(6)240<ND<=270であれば、集積時間を70%増加する。
(7)270<ND<=300であれば、集積時間を90%増加する。
(8)300<ND<=450であれば、集積時間を150%増加する。
(9)450<ND<=600であれば、集積時間を250%増加する。
(10)600<ND<=900であれば、集積時間を400%増加する。
(11)900<ND<=1500であれば、集積時間を750%増加する。
(12)1500<NDであれば、集積時間を1000%増加する。
NDが135と165のあいだであれば、集積時間は変化しない。
NDが135未満であれば、代わりに下記の規則を適用して集積時間を減少する。
(1)120<ND<=135であれば、集積時間を11%減少する。
(2)105<ND<=120であれば、集積時間を25%減少する。
(3)90<ND<=105であれば、集積時間を42%減少する。
(4)75<ND<=90であれば、集積時間を66%減少する。
(5)60<ND<=75であれば、集積時間を100%減少する。
(6)30<ND<=60であれば、集積時間を233%減少する。
(7)25<ND<=30であれば、集積時間を400%減少する。
(8)20<ND<=25であれば、集積時間を500%減少する。
(9)15<ND<=20であれば、集積時間を650%減少する。
(10)15<NDであれば、集積時間を1000%減少する。
本発明は、ディジタルカメラの感度を適応的に制御するさらなる技術を想定する。例えば、上記の集積時間の制御技術は、任意の適当な機械的絞り(アイリス)制御及び/または強度信号ゲイン制御に置き換えたり組み合わせたりすることができる。機械的絞り制御及び強度信号ゲイン制御を用いて、集積時間の制御と同様の結果を生むことができるが、これらの制御による副作用もある。例えば、機械的絞りが増加すると、焦点の深さがこれに対応して減少する。別の例としては、信号のゲインが増加すると、ノイズレベル及び信号レベルがこれに対応して増加する。
上記の説明及び添付の図面は、本発明により想定される適応感度制御の広い範囲を示すために提供される。本発明の技術には特定の実施方法が要求されるものではなく、本発明は、ディジタルイメージャの圧縮率及び集積時間制御を可能にし、イメージャの感度制御を実現する任意の実施方法を想定する。
本発明のさまざまな例及び実施形態を示し、説明したが、当業者であれば、本発明の範囲がこれらの特定の説明及び図面に限られず、請求の範囲に記載されるような種々の修正及び変更にも及ぶことが理解できる。
集積時間が最大集積時間に近い、線形転送制御関数を示す図である。 集積時間が減少した、線形転送制御関数を示す図である。 異なる集積時間を利用した、撮像されたシーンの画素出力電圧対照射強度のマッピングを示す図である。 階段状または区分的離散的時間転送制御関数を示す図である。 線形転送制御関数及び階段状または区分的離散的時間転送制御関数を利用した、撮像されたシーンの画素出力電圧対照射強度のマッピングを示す図である。 撮像される実際のシーンの照射強度レベルのヒストグラムである。 図6の撮像シーンの照射強度レベルのヒストグラムであり、従来の補正を行っていない。 図6の撮像シーンの照射強度レベルのヒストグラムであり、従来の補正を使用している 本発明により実現する、図6の撮像シーンの照射強度レベルのヒストグラムである。 本発明の概念による、適応感度制御システムのブロック図である。 本発明の概念による、適応感度制御の1実施形態を示すブロック図である。 本発明の概念による、適応感度制御の別の実施形態を示すブロック図である。 本発明の概念による、転送制御関数に対する移行点のタイミングの計算を示す図である。 図13の転送制御関数を生成するための、撮像シーンに対する出力電圧対照射強度レベルの望ましいマップである。 本発明の別の実施形態による、照射強度マッピングコントローラの動作を示すフローチャートである。 本発明の別の実施形態による、転送制御関数生成回路の動作を示すフローチャートである。

Claims (8)

  1. 光を電荷に変換する画素であって、集積時間の間に当該画素に照射された光の照射強度レベルに応じた量の電荷を生成して蓄積し、蓄積した電荷の量に対応する出力信号レベルの信号を出力する画素を複数備え、前記画素の出力信号レベルと前記画素に照射される光の照射強度レベルとの対応づけを定義する圧縮関数を用いて、前記画素の出力信号レベルから前記画素に照射される光の照射強度レベルを求めるディジタルイメージャに含まれる画素の電荷蓄積期間中の最大可能蓄積電荷量を制御するための制御関数であって、前記電荷蓄積期間を複数の時間間隔に分割した区分を有し、この各区分に対して前記画素の最大可能蓄積電荷量を決定するための関数値を定義する転送制御関数について、ある区分から次の区分への移行点を決定する方法であって、
    (a)前記圧縮関数を決定するステップであって、前記ディジタルイメージャによって生成された画像データに含まれる画素のうち、前記圧縮関数を用いて当該画素の出力信号レベルから求めた照射強度レベルが予め設定された第1の照射強度レベルの範囲内である画素の数が第1閾値よりも多い場合に、前記圧縮関数の解像度を下げ、前記圧縮関数を用いて当該画素の出力信号レベルから求めた照射強度レベルが前記第1の照射強度レベルの範囲内である画素の数が、前記第1閾値よりも小さい第2閾値よりも少ない場合に、前記圧縮関数の解像度を上げる、ステップと、
    (b)前記ディジタルイメージャに含まれる画素の電荷蓄積時間である集積時間を決定するステップであって、前記ディジタルイメージャによって生成された画像データに含まれる画素のうち、前記圧縮関数を用いて当該画素の出力信号レベルから求めた照射強度レベルが予め設定された第2の照射強度レベルの範囲内である画素の数が第3閾値よりも多い場合に、前記集積時間を増加させ、前記圧縮関数を用いて当該画素の出力信号レベルから求められた照射強度レベルが前記第2の照射強度レベルの範囲内である画素の数が、前記第3閾値よりも小さい第4閾値よりも少ない場合に、前記集積時間を減少させる、ステップと、
    (c)前記転送制御関数の各区分の関数値を決定するステップであって、前記圧縮関数を決定するステップにおいて前記圧縮関数の解像度を下げた場合は、前記転送制御関数の各区分の関数値をより小さくし、前記圧縮関数を決定するステップにおいて前記圧縮関数の解像度を上げた場合は、前記転送制御関数の各区分の関数値をより大きくする、ステップと、
    (d)前記転送制御関数の区分間の移行点を決定するステップであって、前記転送制御関数の各区分の関数値を決定するステップにおいて前記圧縮関数に基づいて決定された前記各区分の関数値と、前記集積時間を決定するステップにおいて決定された集積時間と、に基づいて前記移行点を決定する、ステップと、
    を含む、方法。
  2. 請求項1に記載の方法において、前記転送制御関数は、8つの区分と7つの移行点とを有する、方法。
  3. 請求項1に記載の方法において、前記転送制御関数の第1の区分から第2の区分への移行点である第1の移行点は、前記画素の可能な電荷蓄積期間の最大値である最大可能集積時間と、前記決定した集積時間との差に等しい、方法。
  4. 請求項1に記載の方法において、前記転送制御関数の区分間のn個の移行点tiについて、第1の区分から第2の区分への移行点である第1の移行点t0は、前記画素の可能な電荷蓄積期間の最大値である最大可能集積時間と、前記決定した集積時間との差に等しく、第1の移行点t0に続く移行点ti(i=1,2,...,n−1)について、ti=ti-1+TSであり、
    ここで、TSは((gn-1)/((gn-1+gn-2+・・・+g2+g+2)(g(i-1))))*intに等しく、
    gは決定した圧縮関数に等しく、
    nは前記転送制御関数の区分の移行点の総数に等しく、
    intは決定した集積時間に等しい、方法。
  5. 光を電荷に変換する画素であって、集積時間の間に当該画素に照射された光の照射強度レベルに応じた量の電荷を生成して蓄積し、蓄積した電荷の量に対応する出力信号レベルの信号を出力する画素を複数備え、前記画素の出力信号レベルと前記画素に照射される光の照射強度レベルとの対応づけを定義する照射強度レベルマッピング関数を用いて、前記画素の出力信号レベルから前記画素に照射される光の照射強度レベルを求めるディジタルイメージャに含まれる画素の電荷蓄積期間中の最大可能蓄積電荷量を制御するための制御関数であって、前記電荷蓄積期間を複数の時間間隔に分割した区分を有し、この各区分に対して前記画素の最大可能蓄積電荷量を決定するための関数値を定義する転送制御関数について、ある区分から次の区分への移行点を決定するシステムであって、
    ディジタルイメージャに接続され、前記照射強度レベルマッピング関数を決定する照射強度レベルマッピングコントローラであって、ディジタルイメージャによって生成された画像データに含まれる画素のうち、前記照射強度レベルマッピング関数を用いて当該画素の出力信号レベルから求めた照射強度レベルが予め設定された第1の照射強度レベルの範囲内である画素の数が第1閾値よりも多い場合に、前記照射強度レベルマッピング関数の解像度を下げ、前記圧縮関数を用いて当該画素の出力信号レベルから求めた照射強度レベルが前記第1の照射強度レベルの範囲内である画素の数が、前記第1閾値よりも小さい第2閾値よりも少ない場合に、前記照射強度レベルマッピング関数の解像度を上げる照射強度レベルマッピングコントローラと、
    ディジタルイメージャに接続され、前記ディジタルイメージャに含まれる画素の電荷蓄積時間である集積時間を決定する露光コントローラであって、ディジタルイメージャによって生成された画像データに含まれる画素のうち、前記照射強度レベルマッピング関数を用いて当該画素の出力信号レベルから求めた照射強度レベルが予め設定された第2の照射強度レベルの範囲内である画素の数が第3閾値よりも多い場合に、前記集積時間を増加させ、前記照射強度レベルマッピング関数を用いて当該画素の出力信号レベルから求められた照射強度レベルが前記第2の照射強度レベルの範囲内である画素の数が、前記第3閾値よりも小さい第4閾値よりも少ない場合に、前記集積時間を減少させる露光コントローラと、
    前記ディジタルイメージャ、前記露光コントローラ、及び前記照射強度レベルマッピングコントローラに接続され、前記転送制御関数の各区分の関数値及び前記転送制御関数の区分間の移行点を決定する転送制御関数生成回路であって、前記照射強度レベルマッピングコントローラが前記照射強度レベルマッピング関数の解像度を下げた場合は、前記転送制御関数の各区分の関数値をより小さくし、前記照射強度レベルマッピングコントローラが前記照射強度レベルマッピング関数の解像度を上げた場合は、前記転送制御関数の各区分の関数値をより大きくし、前記照射強度レベルマッピング関数に基づいて決定された前記各区分の関数値と前記露光コントローラが決定した集積時間と、に基づいて前記移行点を決定する、転送制御関数生成回路と、
    を含むシステム。
  6. 請求項5に記載のシステムにおいて、前記転送制御関数は、8つの区分と7つの移行点とを有する、システム。
  7. 請求項5に記載のシステムにおいて、前記転送制御関数の第1の区分から第2の区分への移行点である第1の移行点は、前記画素の可能な電荷蓄積期間の最大値である最大可能集積時間と、前記決定した集積時間との差に等しい、システム。
  8. 請求項5に記載のシステムにおいて、前記転送制御関数の区分間のn個の移行点tiについて、第1の区分から第2の区分への移行点である第1の移行点t0は、前記画素の可能な電荷蓄積期間の最大値である最大可能集積時間と、前記決定した集積時間との差に等しく、第1の移行点t0に続く移行点ti(i=1,2,...,n−1)について、ti=ti-1+TSであり、
    ここで、TS は((gn-1)/((gn-1+gn-2+・・・+g2+g+2)(g(i-1))))*intに等しく、
    gは決定した照射強度レベルマッピング関数に等しく、
    nは前記転送制御関数の区分の移行点の総数に等しく、
    intは決定した集積時間に等しい、システム。
JP2002557117A 2001-01-11 2002-01-04 ディジタルイメージャの適応感度制御システム及び方法 Expired - Fee Related JP4037266B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US26102301P 2001-01-11 2001-01-11
PCT/US2002/000551 WO2002056584A1 (en) 2001-01-11 2002-01-04 Adaptive sensitivity control, on a pixel-by-pixel basis, for a digital imager

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2007130584A Division JP4474437B2 (ja) 2001-01-11 2007-05-16 ディジタルイメージャの画素ごとの適応感度制御システム及び方法

Publications (3)

Publication Number Publication Date
JP2004521535A JP2004521535A (ja) 2004-07-15
JP2004521535A5 JP2004521535A5 (ja) 2005-05-26
JP4037266B2 true JP4037266B2 (ja) 2008-01-23

Family

ID=22991650

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2002557117A Expired - Fee Related JP4037266B2 (ja) 2001-01-11 2002-01-04 ディジタルイメージャの適応感度制御システム及び方法
JP2007130584A Expired - Fee Related JP4474437B2 (ja) 2001-01-11 2007-05-16 ディジタルイメージャの画素ごとの適応感度制御システム及び方法

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2007130584A Expired - Fee Related JP4474437B2 (ja) 2001-01-11 2007-05-16 ディジタルイメージャの画素ごとの適応感度制御システム及び方法

Country Status (5)

Country Link
US (1) US8009206B2 (ja)
EP (1) EP1352518B1 (ja)
JP (2) JP4037266B2 (ja)
DE (1) DE60231373D1 (ja)
WO (1) WO2002056584A1 (ja)

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6859230B2 (en) * 2001-11-07 2005-02-22 Omnivision Technologies, Inc. Method of fast automatic exposure or gain control in a MOS image sensor
GB0130652D0 (en) * 2001-12-21 2002-02-06 Bae Systems Plc Improvements in or relating to low light level imaging devices
US7242429B1 (en) * 2002-01-03 2007-07-10 Smal Camera Technologies Method for cancellation of the effect of charge feedthrough on CMOS pixel output
JP3999693B2 (ja) * 2003-03-28 2007-10-31 富士フイルム株式会社 固体撮像装置
JP4893042B2 (ja) * 2006-03-20 2012-03-07 コニカミノルタホールディングス株式会社 撮像装置
US8055034B2 (en) * 2006-09-13 2011-11-08 Fluidigm Corporation Methods and systems for image processing of microfluidic devices
FR2915652B1 (fr) 2007-04-27 2009-06-12 St Microelectronics Sa Procede de commande d'un capteur d'images
WO2009029810A1 (en) * 2007-08-31 2009-03-05 Historx, Inc. Automatic exposure time selection for imaging tissue
GB0717520D0 (en) * 2007-09-08 2007-10-17 Mettler Toledo Safeline X Ray Inspection system
KR101035786B1 (ko) 2008-08-06 2011-05-20 삼성전자주식회사 외부광의 밝기 강도에 따라 화면을 디스플레이하기 위한장치 및 방법
CN102165489B (zh) 2008-09-16 2015-11-25 赫斯托克斯公司 生物标志物表达的可再现量化
US9124810B2 (en) * 2010-04-14 2015-09-01 Koh Young Technology Inc. Method of checking an inspection apparatus and method of establishing a measurement variable of the inspection apparatus
US9819933B2 (en) * 2013-10-18 2017-11-14 Alcatel Lucent Automated testing of media devices
US9380229B2 (en) * 2014-02-28 2016-06-28 Samsung Electronics Co., Ltd. Digital imaging systems including image sensors having logarithmic response ranges and methods of determining motion
US10539791B2 (en) * 2014-09-02 2020-01-21 Ostendo Technologies, Inc. Split exit pupil multiple virtual image heads-up display systems and methods
JP6750621B2 (ja) * 2015-06-26 2020-09-02 ソニー株式会社 検査装置、センシング装置、感度制御装置、検査方法、並びにプログラム
US10845591B2 (en) 2016-04-12 2020-11-24 Ostendo Technologies, Inc. Split exit pupil heads-up display systems and methods
WO2018023065A1 (en) * 2016-07-28 2018-02-01 Intevac, Inc. Adaptive xdr via reset and mean signal values
US11417111B2 (en) * 2017-12-22 2022-08-16 Terra Scientia, Llc Method, system and material for detecting objects of high interest with laser scanning systems
EP3709628B1 (en) * 2019-03-14 2020-12-23 Axis AB Control of an illuminator

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6101294A (en) * 1997-06-02 2000-08-08 Sarnoff Corporation Extended dynamic imaging system and method
GB9719694D0 (en) 1997-09-16 1997-11-19 Canon Kk Image processing apparatus
DE19740910C2 (de) 1997-09-17 1999-07-22 Siemens Ag Verfahren und Anordnung zur Abbildung einer hohen Eingangssignaldynamik auf eine reduzierte Ausgangssignaldynamik für Bildsensoren mit einer Einrichtung zum Ableiten von Überlaufladung
US6906745B1 (en) * 1998-04-23 2005-06-14 Micron Technology, Inc. Digital exposure circuit for an image sensor
US6040570A (en) 1998-05-29 2000-03-21 Sarnoff Corporation Extended dynamic range image sensor system
US6512544B1 (en) 1998-06-17 2003-01-28 Foveon, Inc. Storage pixel sensor and array with compression
US6816200B1 (en) * 1998-08-31 2004-11-09 Neostar, Inc. Method and apparatus for detecting camera sensor intensity saturation
US6417867B1 (en) 1999-05-27 2002-07-09 Sharp Laboratories Of America, Inc. Image downscaling using peripheral vision area localization
US6710804B1 (en) * 2000-01-18 2004-03-23 Eastman Kodak Company CMOS active pixel image sensor with extended dynamic range and sensitivity
US6348681B1 (en) * 2000-06-05 2002-02-19 National Semiconductor Corporation Method and circuit for setting breakpoints for active pixel sensor cell to achieve piecewise linear transfer function
WO2002011426A1 (en) 2000-07-28 2002-02-07 Smal Camera Technologies, Inc. Precise mos imager transfer function control for expanded dynamic range imaging
US6765611B1 (en) * 2000-11-21 2004-07-20 Eastman Kodak Company Method for compressing an image from a sparsely sampled extended dynamic range image sensing device

Also Published As

Publication number Publication date
WO2002056584A1 (en) 2002-07-18
EP1352518A1 (en) 2003-10-15
DE60231373D1 (de) 2009-04-16
US20020105581A1 (en) 2002-08-08
JP2007259486A (ja) 2007-10-04
JP2004521535A (ja) 2004-07-15
JP4474437B2 (ja) 2010-06-02
EP1352518B1 (en) 2009-03-04
US8009206B2 (en) 2011-08-30

Similar Documents

Publication Publication Date Title
JP4474437B2 (ja) ディジタルイメージャの画素ごとの適応感度制御システム及び方法
JP4657457B2 (ja) 別個の測光回路なしで固体カメラに対して自動的に最終露出設定を決定する方法
US7796171B2 (en) Sensor-based gamma correction of a digital camera
US8711255B2 (en) Visual processing apparatus and visual processing method
US8619156B2 (en) Image capturing system and method of controlling the same utilizing exposure control that captures multiple images of different spatial resolutions
Schanz et al. A high-dynamic-range CMOS image sensor for automotive applications
US8035728B2 (en) Method and apparatus providing rule-based auto exposure technique preserving scene dynamic range
US7920193B2 (en) Methods, systems and apparatuses using barrier self-calibration for high dynamic range imagers
US7020353B1 (en) Extended dynamic range imaging system and method
US8040411B2 (en) Image pickup device and image pickup method
JP5586236B2 (ja) 画像センサのダイナミックレンジ拡大方法及び画像センサ
US6867717B1 (en) Digital encoder and method of encoding high dynamic range video images
US8179464B2 (en) Circuit and method for reading out and resetting pixels of an image sensor
CN1689317A (zh) 宽动态范围线性和对数有源像素
JP2007028088A (ja) 撮像装置及び画像処理方法
CN110708468B (zh) 摄像方法和装置
US9979907B2 (en) Multi-layered high-dynamic range sensor
Fernández-Berni et al. Single-exposure HDR technique based on tunable balance between local and global adaptation
KR20050077116A (ko) 영상 처리 장치 및 그 방법
JP2009010694A (ja) 露光制御回路、およびそれを搭載した撮像装置
Kumar et al. Dynamic range enhancement of remote sensing electro-optical imaging systems

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060523

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060823

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20070116

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20070125

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20070125

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20070201

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20070125

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070516

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20070604

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20071023

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20071031

R150 Certificate of patent or registration of utility model

Ref document number: 4037266

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101109

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111109

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121109

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121109

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131109

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees