JP2008523695A - 輝度分散が大きい場面を撮像する方法および装置 - Google Patents
輝度分散が大きい場面を撮像する方法および装置 Download PDFInfo
- Publication number
- JP2008523695A JP2008523695A JP2007545107A JP2007545107A JP2008523695A JP 2008523695 A JP2008523695 A JP 2008523695A JP 2007545107 A JP2007545107 A JP 2007545107A JP 2007545107 A JP2007545107 A JP 2007545107A JP 2008523695 A JP2008523695 A JP 2008523695A
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- pixels
- reset
- value
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 100
- 238000003384 imaging method Methods 0.000 title claims abstract description 21
- 239000006185 dispersion Substances 0.000 title description 4
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 36
- 230000007246 mechanism Effects 0.000 claims abstract description 24
- 230000010354 integration Effects 0.000 claims abstract description 22
- 230000005855 radiation Effects 0.000 claims abstract description 8
- 238000012545 processing Methods 0.000 claims description 20
- 238000012937 correction Methods 0.000 claims description 11
- 230000035945 sensitivity Effects 0.000 claims description 8
- 230000008569 process Effects 0.000 claims description 7
- 238000007476 Maximum Likelihood Methods 0.000 claims description 6
- 230000008859 change Effects 0.000 claims description 5
- 239000003086 colorant Substances 0.000 claims description 5
- 238000013459 approach Methods 0.000 claims description 4
- 238000004364 calculation method Methods 0.000 claims description 4
- 238000009499 grossing Methods 0.000 claims description 3
- 238000003860 storage Methods 0.000 claims description 3
- 238000010924 continuous production Methods 0.000 claims description 2
- 238000010348 incorporation Methods 0.000 claims description 2
- 230000002123 temporal effect Effects 0.000 claims description 2
- 238000009825 accumulation Methods 0.000 description 4
- 238000003491 array Methods 0.000 description 4
- 238000013213 extrapolation Methods 0.000 description 4
- 238000012986 modification Methods 0.000 description 4
- 230000004048 modification Effects 0.000 description 4
- 238000011084 recovery Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 229920006395 saturated elastomer Polymers 0.000 description 3
- 238000007792 addition Methods 0.000 description 2
- 239000002131 composite material Substances 0.000 description 2
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 238000001816 cooling Methods 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000003203 everyday effect Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000006386 memory function Effects 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 238000013139 quantization Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000007619 statistical method Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/57—Control of the dynamic range
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/57—Control of the dynamic range
- H04N25/58—Control of the dynamic range involving two or more exposures
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/76—Addressed sensors, e.g. MOS or CMOS sensors
- H04N25/77—Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
- H04N25/772—Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising A/D, V/T, V/F, I/T or I/F converters
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Solid State Image Pick-Up Elements (AREA)
Abstract
本発明は電子撮像装置およびそのダイナミックレンジを拡張する方法である。本発明は、各ピクセルのサイトもしくはその近くに配置されるコンパレータおよびリセットトリガ回路を提供することによって撮像装置を変更するステップを備える。コンパレータは、荷電ピクセルの電圧が基準電圧に達する時にリセットメカニズムをトリガする。グローバル露光時間の間、各個別のピクセルは、それに入射する放射の輝度に応じて数回自己リセットすることができる。グローバル露光時間の終了時、各ピクセルは、最後の個別自己リセットからグローバル集積時間の終了まで残存する電圧の「残存値」のみを含む。グローバル露光時間の間に各ピクセルが経たリセットの回数を推定し決定するアルゴリズムが実施される。このリセットの回数から、アルゴリズムは真の画像を復元することができる。ピクセルリセットを用いる従来技術の方法に反して、本発明の装置は、各ピクセルがリセットされた回数をカウントし記憶する電子部品を含まない。
Description
発明の分野
本発明は、電子画像を生成、処理する分野に関する。具体的には、本発明は、このような画像の改良された輝度分散の捕捉および復元の方法および装置に関する。
本発明は、電子画像を生成、処理する分野に関する。具体的には、本発明は、このような画像の改良された輝度分散の捕捉および復元の方法および装置に関する。
発明の背景
多数の日常の場面は、電子撮像装置(たとえば、スチルカメラもしくはビデオカメラ)に記録できるよりも遥かに大きな輝度分散の範囲を有する。これは、電子撮像装置が、影のある範囲の充分な電子検出のために充分に長くなければならず、同時に高い輝度範囲において飽和を防ぐのに充分なだけ短くなければならない、制限ダイナミックレンジ(レスポンス)、すなわち露光時間を示すからである。これは、ほとんどの画像について不可能である。したがって制限ダイナミックレンジの結果は妥協となり、影のある領域と明るい部分の両方で、詳細は削減される。濃い影は、区別されない黒として記録され、光る明るい部分は区別されない白として「白っぽく」なる。
多数の日常の場面は、電子撮像装置(たとえば、スチルカメラもしくはビデオカメラ)に記録できるよりも遥かに大きな輝度分散の範囲を有する。これは、電子撮像装置が、影のある範囲の充分な電子検出のために充分に長くなければならず、同時に高い輝度範囲において飽和を防ぐのに充分なだけ短くなければならない、制限ダイナミックレンジ(レスポンス)、すなわち露光時間を示すからである。これは、ほとんどの画像について不可能である。したがって制限ダイナミックレンジの結果は妥協となり、影のある領域と明るい部分の両方で、詳細は削減される。濃い影は、区別されない黒として記録され、光る明るい部分は区別されない白として「白っぽく」なる。
強い明るい部分と重要な影の詳細との両方を有する高いダイナミックレンジを有する場面は、実質的な忠実さをもって描写されない。事実上、操作者は、どの程度の色調が犠牲となるかを選択しなければならない。たとえば、明るい窓の前の個人の画像を考える。人について露光すると、窓の部分が均一に白い背景形状に見えることになり、一方、窓から見える外の景色について露光すると、人物が黒い画像もしくはシルエットに見えることになる。
電子写真において、画像は、線状もしくは平面格子状に配置された順序づけられた一連の画像素子もしくは「ピクセル」として表される。ディスプレイ上で、各ピクセルは通常、ピクセルの色を特定する、輝度値もしくは明度値およびクロミナンス値を特定する。輝度分散は一般的に、システムが解像し表示することができる個々の明度レベルの数を参照する、画像の「奥行き」に関して特徴づけられる。
過去に、この問題を克服するべく、多数の方法が示唆されてきた。異なる露光を用いて、また多様な方法でもたらされる画像を組み合わせて、カメラを露光することを含む方法は、よりしばしば用いられる方法である。異なる露光は、ピクセルが入ってくる光にさらされる時間である集積時間を変更することで得ることができ、もしくはピクセルのいくつかもしくは全てにかかる入射光の量を調整することで得ることができる。各フレームについての集積時間はリセット信号で始まり、サンプル信号、すなわち読み取りで終わる。グローバル制御を有する従来のアクティブピクセルセンサ(APS)において、センサアレイにおける全てのピクセルはリセットされ、後に同時にサンプリングされる。
これらの方法における問題は、2つの分野にある。第1に、各露光について、画像内の任意の動き、場面内の現実の動きもしくはカメラの動きは、異なる露光時間で異なって変換され、結果として、異なる露光を組み合わせることにより得られる全体的な画像はひずむ。問題の起こる第2の分野は、場面の輝度の強力な変更へのシステムのレスポンスである。いくつかのシステムにおいて、露光の比率は一定に保たれ、現実の場面の輝度分散の範囲は最適ではない。他において、露光は独立して変化し、新しい場面に順応するのに長い時間がかかる。
CCDテクノロジおよびとりわけCMOS検出器に基づくものなど電子カメラの制限ダイナミックレンジの問題を解決しようとする従来の技術の方法の多くは、ピクセルリセットとして知られる技術を用いる。この技術において、フレームの各集積時間の間ピクセルを何度もリセットするべく、ピクセルアレイにさらなる電子回路が加えられ、画像処理アルゴリズムにステップがさらに加えられる。フレームについて全体的な集積時間の間に蓄積したフォトン(電荷)の全数はそこで、最後のリセットの後で蓄積を付加してピクセルのリセット毎に蓄積したフォトンの全数を加えることで決定される。この技術は多様な方法で実現される。場合によって、全体的なピクセルのアレイは、通常は時間に基づくプリセット基準にしたがって生じるリセットに制約される。
他の方法において、個別のピクセルのそれぞれは、ピクセルがあるレベルに達した時にそれをリセットする回路を備えられる。各ピクセルに関連づけられるさらなる回路は、ピクセルについてリセットの回数をカウントし、記憶する。多様な刊行物が、ピクセルを0にリセットする基準を決定する、および全体の統合電荷を決定する、異なる方法を教示する。最も基本的な意味において、各ピクセルについての全体的な統合電荷は、サンプル信号時に測定された残存電荷に加え、ピクセルがリセットされる前に蓄積が許可される電荷の量がリセットされるリセット回数の数である。ダイナミックレンジを拡張する本方法の変形は、たとえば米国特許出願第6,831,689号、第6,927,796号、第5,872,596号、および国際特許出願第WO93/14595号に教示される。個別のピクセルのリセットの従来の技術の方法全てに共通の、とりわけCMOSカメラについての不利点は、余分なカウントおよび記録回路のさらなるコスト、もしくは他の解決法における、各ピクセルのサイトに加えられる必要があるアナログタイプの蓄積器である。また、さらなる回路要素はスペースを必要とし、それによってアレイの光を集める能力を事実上削減し、もしくはそのサイズを増大させ、結果としてコストの増大と信号/ノイズ問題があるという事実がある。スペースの問題に対する1つの解決法は、カウントおよび記憶格納要素をピクセルのサイトから検出器の中央処理部に移すことである。この解決法はしかしまた、検出器の機能全体に影響する、扱いにくい信号サンプリングおよび移転手順を必要とする。これはまた、設計が中央処理ユニットの「注意」の必要性を強いる場合に、各ピクセルがリセットサイクルを行うことのできる実際の時間に制限を課す。したがってこの方法は解決法の正確さと感度を減少させる。
したがって、本発明の目的は、輝度分散の大きな場面を撮像する方法および装置を提供することである。
本発明の他の目的は、比較的小さな量の回路の機能を必要とする電子カメラのダイナミックレンジを拡張する方法および装置を提供すること、もしくは、既存のピクセルアレイに比較的小さなハードウェア変更を提供して画像処理技術を増大させることで、アレイの個別のピクセルにそれぞれ集められた光の輝度の真の値を推定し決定することである。
本発明のさらなる目的および利点は、説明が進むにつれて現れるであろう。
発明の概要
一態様において、本発明は電子撮像装置のダイナミックレンジを拡張する方法に関する。この方法は以下のステップを備える。
一態様において、本発明は電子撮像装置のダイナミックレンジを拡張する方法に関する。この方法は以下のステップを備える。
a.ピクセルの1次元もしくは2次元のアレイおよび中央に配置されたセンサチップロジック部を備えるセンサチップを提供するステップであって、フレームのグローバル露光時間間隔はリセット信号で始まり、サンプル信号で終了する、
b.各ピクセルのサイトもしくはその近くに配置されるコンパレータとリセットトリガ回路とを提供するステップである。コンパレータは、荷電ピクセルの電圧が基準電圧に達する時にリセットメカニズムをトリガし、グローバル露光時間の間に各個別のピクセルはそれに入射する放射の輝度に応じて数回自己リセットすることができる。グローバル露光時間の終了時に、各ピクセルは最後の個別の自己リセットからグローバル集積時間の終了まで残存する電圧の残存値のみを含む、
c.取得後のデータに実施されるアルゴリズムを提供するステップであって、アルゴリズムは、
i.時間および/もしくは空間連続性仮定および隣接ピクセル推定のルールを用いて、ピクセルのそれぞれについて個別のリセットの回数を決定するステップと、
ii.ピクセルのそれぞれについての個別のリセットの決定された回数と、ピクセルのそれぞれについての残存値と、基本式とを用いて、ピクセルのそれぞれについて真の画像値を決定するステップと、
を備える。
b.各ピクセルのサイトもしくはその近くに配置されるコンパレータとリセットトリガ回路とを提供するステップである。コンパレータは、荷電ピクセルの電圧が基準電圧に達する時にリセットメカニズムをトリガし、グローバル露光時間の間に各個別のピクセルはそれに入射する放射の輝度に応じて数回自己リセットすることができる。グローバル露光時間の終了時に、各ピクセルは最後の個別の自己リセットからグローバル集積時間の終了まで残存する電圧の残存値のみを含む、
c.取得後のデータに実施されるアルゴリズムを提供するステップであって、アルゴリズムは、
i.時間および/もしくは空間連続性仮定および隣接ピクセル推定のルールを用いて、ピクセルのそれぞれについて個別のリセットの回数を決定するステップと、
ii.ピクセルのそれぞれについての個別のリセットの決定された回数と、ピクセルのそれぞれについての残存値と、基本式とを用いて、ピクセルのそれぞれについて真の画像値を決定するステップと、
を備える。
真の画像は、ピクセルのそれぞれについての真の画像値のアレイを備える。アルゴリズムの使用とともに各ピクセルについてのリセットメカニズムの組み合わせは、ピクセルのそれぞれがリセットされた回数をカウントし記憶する電子部品の提供を必要とすることなく、真の画像の決定を可能にする。
本発明の好適な実施形態において、電子撮像装置はCMOSセンサチップを備える。
フレームのグローバル露光時間間隔についてのスタートリセット信号は、多様なサブアレイに適用することができる、同じもしくは異なるスタート信号であることができる。
フレームのグローバル露光時間間隔についてのスタートリセット信号は、多様なサブアレイに適用することができる、同じもしくは異なるスタート信号であることができる。
異なる実施形態において、ピクセル飽和リセット信号の閾値はグローバルであることができ、もしくは異なる閾値メカニズムを各ピクセルのサブアレイに用いることができる。閾値リセットメカニズムは中央リセットイネーブル信号によって操作することができ、リセットは、ピクセル値が閾値に達してリセットイネーブル信号がオンになった時に生じ得る。比較および閾値リセットエレクトロニクスは、ピクセル群によって時分割することができる。所定のシーケンスの間、各ピクセルがエレクトロニクスに接続され、ピクセルが閾値を越えたとき、リセットがピクセルに生じる。閾値リセットメカニズムが1つのピクセルもしくはいくつかのピクセルの平均をサンプリングすることができ、サンプリングされたピクセルを含む隣接するピクセル群にリセットを行う。リセット値を決定する基準電圧のソースは、センサチップロジック部の中央位置から提供することができる。
本発明の一実施形態において、連続性仮定が画像全体について有効であると考えられ、アルゴリズムが、
a.アルゴリズム的処理の連続処理について順序づけられたピクセルのトラジェクトリを選択するステップと、
b.隣接するネイバーへのビジットに続いて、トラジェクトリに沿って各ピクセルをビジットするステップと、
c.1以上の既にビジットされたピクセル値に関連して連続性仮定と隣接ピクセル推定ルールとを用いて各ピクセルについてn値を連続的に決定するステップと、
d.基本式を用いて真の画像を計算するステップと、
を備える。
a.アルゴリズム的処理の連続処理について順序づけられたピクセルのトラジェクトリを選択するステップと、
b.隣接するネイバーへのビジットに続いて、トラジェクトリに沿って各ピクセルをビジットするステップと、
c.1以上の既にビジットされたピクセル値に関連して連続性仮定と隣接ピクセル推定ルールとを用いて各ピクセルについてn値を連続的に決定するステップと、
d.基本式を用いて真の画像を計算するステップと、
を備える。
本実施形態において、隣接するn値のいくつかの推定について連続性仮定が違反されるという、有限かつ小さい可能性が存在し、ピクセルをビジットするのに用いられる特定のトラジェクトリに沿っていくつかの不適切なn推定をもたらすと考えられる。この場合、もたらされるエラーは、アルゴリズムに補正手順を導入することで補正される。このよう
な手順は、
a.ピクセルアレイの全体について、違反を自動的に識別し、次第に縮小した数(もしくは0)のnのエラーに集束するであろう、異なるピクセルの順序を有するトラジェクトリを用いる反復の連続を用いることで、ピクセルのn値を決定するステップと、
b.必要であればエラー補正の後に、ピクセルを相対的に順序づけられたnセットにグループ化するステップと、
c.順の最も低いセットに値n=0を割り当てるステップと、
d.他のnセットについて、一貫した方法で、最も高いn値まで、順のより高いn値を割り当てるステップと、
e.各推定されたn値に関連する決定された信頼水準を、次のn値の推定に組み込むステップと、
を備える。
な手順は、
a.ピクセルアレイの全体について、違反を自動的に識別し、次第に縮小した数(もしくは0)のnのエラーに集束するであろう、異なるピクセルの順序を有するトラジェクトリを用いる反復の連続を用いることで、ピクセルのn値を決定するステップと、
b.必要であればエラー補正の後に、ピクセルを相対的に順序づけられたnセットにグループ化するステップと、
c.順の最も低いセットに値n=0を割り当てるステップと、
d.他のnセットについて、一貫した方法で、最も高いn値まで、順のより高いn値を割り当てるステップと、
e.各推定されたn値に関連する決定された信頼水準を、次のn値の推定に組み込むステップと、
を備える。
本手順の第1のステップは、以下のステップを備える。
a.ピクセルビジットのトラジェクトリを決定するステップと、
b.既に推定された全ての隣接ピクセルもしくは基準ネイバーから各新しいピクセルにn推定を行うステップと、
c.新しいピクセルについての全てのn推定が同一でない場合、先の推定値に関連する先に決定された信頼水準の組み込みを含む関連する推定詳細に基づいて整数nステップの推定値を作成するステップと、
d.「非最終の」推定値を、ピクセルのn値に割り当てるステップと、
e.異なる方向から「非最終決定の」ピクセルに近づくよう、必要な時にオリジナルのトラジェクトリを中断し変更するステップと、
f.新しいトラジェクトリを組み込むn値を再び推定するステップと、
g.全ての追加基準ピクセルを含むことで、新しい最尤推定値を生じるステップと、
h.全ての先に生成された推定値と一致する場合、新しい推定値を採用するステップと、
i.新しい推定値が全ての先に生成された推定値と一致しない場合、ステップeからgを繰り返すステップと、
j.画像の全ての領域について、全てのピクセル推定が完了するまでステップaからiを繰り返すステップと、
k.一部の一致しない推定値が残される場合、一貫性が実現されるまで、変更された推定値の組み合わせトライアルを適用するステップ。
a.ピクセルビジットのトラジェクトリを決定するステップと、
b.既に推定された全ての隣接ピクセルもしくは基準ネイバーから各新しいピクセルにn推定を行うステップと、
c.新しいピクセルについての全てのn推定が同一でない場合、先の推定値に関連する先に決定された信頼水準の組み込みを含む関連する推定詳細に基づいて整数nステップの推定値を作成するステップと、
d.「非最終の」推定値を、ピクセルのn値に割り当てるステップと、
e.異なる方向から「非最終決定の」ピクセルに近づくよう、必要な時にオリジナルのトラジェクトリを中断し変更するステップと、
f.新しいトラジェクトリを組み込むn値を再び推定するステップと、
g.全ての追加基準ピクセルを含むことで、新しい最尤推定値を生じるステップと、
h.全ての先に生成された推定値と一致する場合、新しい推定値を採用するステップと、
i.新しい推定値が全ての先に生成された推定値と一致しない場合、ステップeからgを繰り返すステップと、
j.画像の全ての領域について、全てのピクセル推定が完了するまでステップaからiを繰り返すステップと、
k.一部の一致しない推定値が残される場合、一貫性が実現されるまで、変更された推定値の組み合わせトライアルを適用するステップ。
整数nステップの推定値は、最大尤度タイプの推定値を用いて作成することができる。
本発明の方法の他の実施形態において、ピクセルのアレイが、メイングループの個別のピクセルの電圧が基準電極に達する時はいつでもグローバル露光時間間隔の間に個別にリセットされるピクセルのメイングループと、集積時間もしくは感度がこのようなピクセル上の光輝度が所定の最大光輝度よりも高い場合にのみサブアレイの原則として全てのピクセルの電圧が基準電圧に達するように変化するピクセルのまばらなサブアレイとに分割される。サブアレイのピクセルがグローバル露光時間間隔よりも短い集積時間を有するように小さなハードウェア変更を行うことにより、サブアレイを作成することができる。サブアレイについての縮小された感度が、カバーされたピクセルにかかる放射の輝度を減少するであろう、減衰カバーを使用することによって実現される可能性がある。
本発明の方法の他の実施形態において、ピクセルのアレイが、メイングループの個別のピクセルの電圧が基準電極に達する時はいつでもグローバル露光時間間隔の間に個別にリセットされるピクセルのメイングループと、集積時間もしくは感度がこのようなピクセル上の光輝度が所定の最大光輝度よりも高い場合にのみサブアレイの原則として全てのピクセルの電圧が基準電圧に達するように変化するピクセルのまばらなサブアレイとに分割される。サブアレイのピクセルがグローバル露光時間間隔よりも短い集積時間を有するように小さなハードウェア変更を行うことにより、サブアレイを作成することができる。サブアレイについての縮小された感度が、カバーされたピクセルにかかる放射の輝度を減少するであろう、減衰カバーを使用することによって実現される可能性がある。
本実施形態について、アルゴリズムは、
a.直接の計算によって、サブアレイの各ピクセルについて、n値を推定するステップと、
b.各サブアレイについてメインアレイにおける最も近い隣接したピクセル群に関して推定を行うことで、サブアレイについてn推定値を適用し、n値を推定するための連続性
ルールをメインアレイについて適用するステップと、
c.メインアレイにおける各ピクセルについてnの推定値を用いて、メインアレイのピクセルの「真の値」を計算するステップと、
d.それらの集積時間間隔の短さの直接の補償によって、サブアレイの適合してスケーリングされた「真の値」を計算するステップと、
を備える。
a.直接の計算によって、サブアレイの各ピクセルについて、n値を推定するステップと、
b.各サブアレイについてメインアレイにおける最も近い隣接したピクセル群に関して推定を行うことで、サブアレイについてn推定値を適用し、n値を推定するための連続性
ルールをメインアレイについて適用するステップと、
c.メインアレイにおける各ピクセルについてnの推定値を用いて、メインアレイのピクセルの「真の値」を計算するステップと、
d.それらの集積時間間隔の短さの直接の補償によって、サブアレイの適合してスケーリングされた「真の値」を計算するステップと、
を備える。
メインアレイについての最終結果を用いるデータスムージングのステップがさらに行われて、潜在的にノイズのあるサブアレイピクセルの値をスムーズにすることができる。
本発明の方法の他の実施形態において、異なる露光時間を有する2度の近接した露光が用いられる。第1の露光時間はグローバル露光時間間隔であり、ピクセルは、それらの電圧が基準電圧に達する時はいつでも個別にリセットされる。原則として全てのピクセルの電圧が、これらのピクセルにかかる光が所定の最大光輝度よりも強い場合にのみ基準電圧に達するように、第2の露光時間が短くされる。本方法は、
i.短い露光画像のピクセルのn値を推定するステップと、
ii.n値を用いてグローバル露光時間画像のピクセルの真のn値を復元するステップと、
を備える。
i.短い露光画像のピクセルのn値を推定するステップと、
ii.n値を用いてグローバル露光時間画像のピクセルの真のn値を復元するステップと、
を備える。
本方法を用いて、モーションアーチファクトを以下のステップによって補正することができる。
a.フル露光時間画像の残存画像と短い露光時間の画像から導き出される残存値の復元された推定値との間の増分シフトを、最大相関値が実現されるまで、繰り返し試行することを備える登録方法を適用するステップと、
b.短い露光のピクセルについてn推定値を導き出し、n推定値を長い露光の画像の登録適合したピクセルに関連づけるステップと、
c.n推定値からグローバル露光時間の画像のピクセルについての真のn値を推定するステップ。
b.短い露光のピクセルについてn推定値を導き出し、n推定値を長い露光の画像の登録適合したピクセルに関連づけるステップと、
c.n推定値からグローバル露光時間の画像のピクセルについての真のn値を推定するステップ。
モーションアーチファクトを補正する他の方法は、異なる画像領域を適応的に引き続いて処理する登録方法を適用することに基づく。
本発明の方法は、1色を有する光、もしくはそれぞれが同じもしくは異なる色に感受性のあるピクセルのサブセットに感受性のあるピクセルを備える、電子撮像装置に適用することができる。コンパレータは各ピクセルのサイトに、以下の方法のうちの1つで接続することができる。コンパレータは各サイトに配置することができる、サイトのそれぞれはピクセル群によって共有されるコンパレータに接続することができる、サイトの群が単独のコンパレータおよびさらなる回路に接続することができ、もたらされるリセットは、コンパレータに接続される群の部分であることができ、もしくはできない、隣接するピクセル群に影響する。
他の態様において、本発明は、拡張ダイナミックレンジを有する電子撮像装置を提供する。この装置は、
a.ピクセルの2次元のアレイを備えるセンサチップと、
b.リセット信号で始まりサンプル信号で終わるフレームのグローバル露光時間間隔を制御する回路を備える中央に配置されたセンサチップロジック部と、
c.各ピクセルのサイトもしくはその近くに配置されるコンパレータおよびリセットトリガ回路であって、コンパレータは、荷電ピクセルの電圧が基準電圧を越える時にリセッ
トメカニズムをトリガし、それによってグローバル露光時間の間に、各個別のピクセルは、それに入射する放射の輝度に応じて数回自己リセットすることができ、グローバル露光時間の終了時に、各ピクセルは最後の個別の自己リセットからグローバル集積時間の終了まで残存する電圧の残存値のみを含むものと、
d.電圧の残存値を用いてピクセルのそれぞれについて真の画像値を決定する、アルゴリズムの少なくとも1部分を行う処理回路と、
を備える。
a.ピクセルの2次元のアレイを備えるセンサチップと、
b.リセット信号で始まりサンプル信号で終わるフレームのグローバル露光時間間隔を制御する回路を備える中央に配置されたセンサチップロジック部と、
c.各ピクセルのサイトもしくはその近くに配置されるコンパレータおよびリセットトリガ回路であって、コンパレータは、荷電ピクセルの電圧が基準電圧を越える時にリセッ
トメカニズムをトリガし、それによってグローバル露光時間の間に、各個別のピクセルは、それに入射する放射の輝度に応じて数回自己リセットすることができ、グローバル露光時間の終了時に、各ピクセルは最後の個別の自己リセットからグローバル集積時間の終了まで残存する電圧の残存値のみを含むものと、
d.電圧の残存値を用いてピクセルのそれぞれについて真の画像値を決定する、アルゴリズムの少なくとも1部分を行う処理回路と、
を備える。
装置によって得られる真の画像は、ピクセルのそれぞれについての真の画像値のアレイを備える。アルゴリズムの使用とともにピクセルのそれぞれについてのリセットメカニズムの組み合わせは、ピクセルのそれぞれがリセットされた回数をカウントし記憶する電子部品の提供を必要とすることなく真の画像の決定を可能にする。
本発明の電子撮像装置は、1色を有する光もしくはそれぞれ同じもしくは異なる色に感受性のあるピクセルのサブセットに感受性のあるピクセルを備えることができる。撮像装置のコンパレータは各ピクセルのサイトに、以下の方法のうちの1つで接続することができる。コンパレータはサイトのそれぞれに配置することができる。サイトのそれぞれはピクセル群によって共有されるコンパレータに接続することができる。サイトの群が単独のコンパレータおよびさらなる回路に接続され、もたらされるリセットは、コンパレータに接続される群の部分であることができ、もしくはできない、隣接するピクセル群に影響する。
本発明の全ての上述およびその他の特徴および利点は、好適な実施形態の、添付の図面を参照した、以下の説明的かつ非限定的な説明を通じてさらに理解されるであろう。
好適な実施形態の詳細な説明
本発明は、個別ピクセルリセットを用いて個別のピクセルの残存集積時間を変化させ、各ピクセルからの信号の処理を用いて各ピクセルのダイナミックレンジを独立して増加させる。発明者は、従来のチップの面積に必要とされる変更が、最大で約15%のチップ面積の、したがって製造コストの増大をもたらすであろうと推定する。センサチップの比較的シンプルで低コストの変更は、使用されているカメラの大部分に導入できるであろう。このことは、ビルトインの冷却方法などのより高くつく技術を用いて拡張ダイナミックレンジを派生するカメラと競い合うであろうダイナミックレンジを提供するであろう。本発明の方法は、異なる電子撮像装置およびシステムに適用でき、とりわけCMOSセンサチップに適する。CMOSセンサの基本的なダイナミックレンジは8ビット以下であり、CCDチップのそれよりも小さい。本発明の方法は、センサのダイナミックレンジの4倍以上の増大を可能にし、それにより10ビット以上の性能を実現する。したがって、本発明は、容易かつ低コストの手段を有する産業を提供し、CMOSチップの劣等性を克服するのみならず、現在のCCDチップよりもダイナミックレンジパフォーマンスの優れたCMOSチップを製作する。
本発明は、個別ピクセルリセットを用いて個別のピクセルの残存集積時間を変化させ、各ピクセルからの信号の処理を用いて各ピクセルのダイナミックレンジを独立して増加させる。発明者は、従来のチップの面積に必要とされる変更が、最大で約15%のチップ面積の、したがって製造コストの増大をもたらすであろうと推定する。センサチップの比較的シンプルで低コストの変更は、使用されているカメラの大部分に導入できるであろう。このことは、ビルトインの冷却方法などのより高くつく技術を用いて拡張ダイナミックレンジを派生するカメラと競い合うであろうダイナミックレンジを提供するであろう。本発明の方法は、異なる電子撮像装置およびシステムに適用でき、とりわけCMOSセンサチップに適する。CMOSセンサの基本的なダイナミックレンジは8ビット以下であり、CCDチップのそれよりも小さい。本発明の方法は、センサのダイナミックレンジの4倍以上の増大を可能にし、それにより10ビット以上の性能を実現する。したがって、本発明は、容易かつ低コストの手段を有する産業を提供し、CMOSチップの劣等性を克服するのみならず、現在のCCDチップよりもダイナミックレンジパフォーマンスの優れたCMOSチップを製作する。
本発明の個別ピクセルリセット(IPR)は、大変大きな輝度分散を実現するために用いることができる。基本的な集積時間/間隔は、画像の最も暗い範囲に求められる感度(および信号ノイズ比率)によって決定される。場面の輝度分散(もしくはダイナミックレンジ)は、最も明るい範囲(ピクセル)の任意について起こるであろう飽和リセットNの最大数に対応する。
本発明の実用性は、N=1から既に始まるであろう。その使用は、多くの共通の写真を相当に改良し、保存さえする。したがって、アーチファクトの取り扱いを考慮しない比較
的シンプルな復元方法でさえ、価値があるであろう。
的シンプルな復元方法でさえ、価値があるであろう。
集積時間は、リセット信号で開始し、サンプル信号で終了する。グローバルプロトコルを有する従来のアクティブピクセルセンサ(APS)において、ピクセルは全て、同じ時間間隔でリセットされ、サンプリングされる。本発明において、第1のリセットの後、各ピクセルのリセット時間は個別に決定される。このことは、各ピクセルが異なる集積時間を有することを可能にする。リセットは、グローバル間隔スタートリセット信号について中央に位置するエレクトロニクスによって、および飽和リセット信号についてピクセルのサイトおよびその近くに位置するサンプル信号および閾値信号によって、実現される。個別のピクセルレベルのそれぞれが所定の閾値を越えると、ピクセルはリセットされる。グローバル露光の間、各ピクセルは、その上に入射する放射の輝度に応じて、何度か自己リセットすることができる。グローバル露光の後、センサの読み取り時に、各ピクセルは、最後の個別の自己リセットから集積時間の終了までの残存値のみを含むであろう。
一実施形態において、ピクセル飽和リセット信号についての閾値はグローバルであることができる。他の実施形態において、ピクセルの各サブアレイについて異なる閾値を用いることができる。サブアレイの1つの配置は、n列ごとおよびm行ごとのピクセルであってよい。
比較および閾値リセットエレクトロニクスは、各ピクセルに配置されるのが好ましい。これは、共有エレクトロニクスを用いて、ピクセル群について、本発明のいくつかの実施形態において実施することができる。それにより、ピクセル毎の平均追加エレクトロニクスを最小化する一方、より効率的な閾値およびリセットメカニズムを可能にする。
一実施形態において、閾値リセットメカニズムは、所定のシーケンスで生じるパルスを備える中央「リセットイネーブル」信号によって操作される。リセットは、ピクセル値が閾値に達し、リセットイネーブル信号がオンになる時に生じるであろう。中央リセットイネーブル信号は、消費電力がより小さい閾値リセットエレクトロニクスを可能にする。以下に説明される復元アルゴリズムは、リセット信号の時間量子化を考慮に入れるであろう。
他の実施形態において、比較および閾値リセットエレクトロニクスは、ピクセル群、たとえば1列のピクセルもしくは列の一部によって時分割される。所定のシーケンスの間、各ピクセルは上述のエレクトロニクスに接続され、そのピクセルが閾値を越える場合にリセットがこれに生じる。リセットシーケンスは所定であるため、復元アルゴリズムはそのリセットシーケンスにおける時分割でシーケンスを処理することができる。
本発明の他の実施形態において、閾値リセットメカニズムは1つのピクセルもしくはいくつかのピクセルの平均をサンプリングし、サンプリングされたピクセルを含む周辺のピクセル群にリセットを行う。サンプリングされたピクセルは、以下に説明されるような標準復元アルゴリズムによって復元される。
チップになされるハードウェア変更は、その色に関わらず、同様の方法で任意のピクセルについて行うことができる。このような変更は、当業者によって行われ、またチップアレイおよび中央回路に組み込むことができる。通常のピクセル回路への追加は、荷電ピクセルの電圧が基準電圧を越える時にリセットをトリガするコンパレータである(通常は標準のリセットメカニズムについて)。この基準は通常、中央チップロジックにおいて生じる。各ピクセルの残存読み取り(サンプリング)はそこで、集積時間の最後に、標準の形式で画像メモリに格納される。
露光時間間隔T内で、変更されたチップの各ピクセルは、飽和値VSよりも低い衝突フォトンによる蓄積電荷が対応する基準電圧VMを有する値に達する時はいつでも(通常は集積時間の開始において)、何らかの値Vmによって表される論理0にリセットされる。注目すべきは、ゼロにリセットする概念は、論理1であり、電圧もしくは電荷の物理0に必ずしも対応する必要はないことである。典型的に、VMはVSよりも数パーセント低いように選択される。このようなリセットは、VMの値に達する場合に、任意のランダムな時間において生じ、もしくは本イノベーションの他の実施形態において、値がVMと等しいか高い場合に、中央エレクトロニクスもしくは局所のエレクトロニクスによって制御される時に生じるであろう(ここで留意すべきは、この文は飽和が高い値である場合のロジック値に言及することである)。各リセットに続いて、時間間隔Tと比較して短い回復時間があり、その後、光/電荷蓄積が再び開始する。露光間隔Tの終了時、ピクセルはn回リセットされ、0=<n<Nである。最終的な読み取りは、何らかの「残存値」VRであり、最後のランダムなリセットと露光時間間隔Tの終了との間の間隔内の蓄積である。「真のピクセル値」として知られるピクセルVTの全蓄積値についての対応する値はしたがって、ランダム時間の実施形態についてVT=(n×VM―Vm)+VR+εであり、式中、nは、露光間隔Tの終了に先立つピクセルのランダムリセットの回数であり、εは補正係数であり、nのリセット回復時間の間に失われたフォトンを補償する。nおよび対応する真のピクセル値の規模の決定は、ソフトウェアもしくは専用ハードウェアによって実施される信号処理アルゴリズムを用いた画像復元段階の間になされる。
いくつかの実施形態において、その間に残存値VRが集められるところの時間TRを計算することが必要とされる。これは、等式TR=T―Tnを用いて行うことができ、式中、nはリセットの回数であり、Tnはn番目のリセットの時間であり、Tはグローバル露光時間である。ピクセルVtの値はしたがって、Vt=VR *(T/TR)+(補正係数)である。この等式は、リセットが直接基づくところのピクセルについて全く真実である。周辺のピクセルについて、既知の遅延が計算可能であることを除けば、TRは同じである。
信号処理アルゴリズムの好適な実施形態の実施例を、以下に説明する。
一実施形態において、リセット値(イベント)を決定する基準電圧VMが、センサチップロジック部の中央位置から、ピクセルエリアにはコンパレータ回路のみを残して、提供される。他の実施形態において、コンパレータ回路は、ピクセル毎の面積のさらなる減少のために、ピクセル群によって共有される。したがって、アクティブ(フォトン蓄積)ピクセルエリアの充填比はそれ故に最小エリアによって変更されようとする。したがって、所与の露光間隔の間のピクセルアクティブエリアの基本的な感度は、ほぼ変更されないままである。一方、ピクセルの「有効飽和レベル」(「ダイナミックレンジ」に等しい)は著しく高くなる。
一実施形態において、リセット値(イベント)を決定する基準電圧VMが、センサチップロジック部の中央位置から、ピクセルエリアにはコンパレータ回路のみを残して、提供される。他の実施形態において、コンパレータ回路は、ピクセル毎の面積のさらなる減少のために、ピクセル群によって共有される。したがって、アクティブ(フォトン蓄積)ピクセルエリアの充填比はそれ故に最小エリアによって変更されようとする。したがって、所与の露光間隔の間のピクセルアクティブエリアの基本的な感度は、ほぼ変更されないままである。一方、ピクセルの「有効飽和レベル」(「ダイナミックレンジ」に等しい)は著しく高くなる。
本発明のチップを従来のチップと区別する全体的なハードウェア変更は、a)各ピクセルの、もしくはピクセル群によって共有されるコンパレータおよびリセットトリガ回路と、b)全てのピクセルに共通であるロジック部における電圧基準回路と、c)画像復元が行われ、保存される、チップの内側もしくは外側の処理部分における何らかの強化と、を備える。ここで留意すべきは、ピクセルアレイの各ピクセルについてランダムなリセットの回数を記録するのに、カウンタ回路もしくは特別なメモリは構築されないということである。これは、本イノベーションを、自己リセットメカニズムを有するピクセルを用いる従来技術の解決法から区別する。前述のように、ピクセルのアクティブエリアの充填比が、少ない回路の追加によって変化するため、したがって通常の感度はそれほど影響を受けないであろう。
本発明において必要とされる、計算方法の実施における追加の費用は、アクティブセン
サエリアと異なりコストが連続的に減少する処理回路にそれらが限定されるため、制限される。
サエリアと異なりコストが連続的に減少する処理回路にそれらが限定されるため、制限される。
本発明によって提供される増大するダイナミックレンジの利用は、処理手段もしくは表示手段の増加量を介して行うことができる。より大きな「コントラスト比」を有する新しい表示手段およびZ圧縮の方法などである。最近発展した表示技術および新しい圧縮方法は、これらの両方のタイプの代替をより一層低コストで利用可能にする。
図1は、本発明にしたがった個別のピクセルの自己リセットを提供する1つの配置を示す、概略的なブロック図である。図において、実線は、3つのトランジスタを備える従来技術のCMOSピクセルについての回路を示す。グローバル露光時間間隔の最初に、リセット信号が中央制御エリアからリセットライン(2)を介してピクセルに送信される。リセットにおいて、分岐Vがあらかじめ、最大電圧、すなわち論理ゼロまで荷電される。露光時間の間、場面からの入射光(6)は光ダイオード(12)に当たり、分岐Vを放電する。トランジスタT2は、ソースフォロワとして機能し、読み取りライン(4)を駆動する。グローバル時間間隔の最後に、中央制御エリアからピクセルのトランジスタT3に信号が送信される。この信号は、T3を開き、それによってTsを読み取りライン(4)に接続し、露光の最後に分岐Vにおける電圧を読むことを可能にする。
図1において、破線は、本発明にしたがって従来技術のピクセル回路になされた追加を示すために用いられる。コンパレータ(8)を備える閾値メカニズムが、Xにおける電圧レベルと、T2の出力とを、中央制御エリアから供給される閾値VM(10)とコンスタントに比較するため、回路に追加される。Xにおける電圧レベルが閾値よりも低くなるとき、スイッチ(14)が閉じられて、分岐Vにおける電圧を論理0にリセットするリセットパルスを作成する。
図1に示される実施形態において、グローバル露光の時間リセットが、リセットラインを低電圧に引くことにより、もしくは閾値を高い値に駆動することにより、作成することができる。図1に示される実施形態は、本発明を図解する実施例として提供され、当業者は、個別のピクセルメカニズムを実施し、それを他のタイプの比較的容易なピクセル回路に適合させる、他の方法を考案することができるであろう。
図2は、センサアレイの1列のピクセルの部分からの論理値および電圧値の概略的な読み取りを示す。曲線Aは、センサのピクセルが越えられなかった充分に大きな飽和値VSを有することを仮定した理論上の読み取りである。曲線Bは、制限ダイナミッックレンジを有する標準的な撮像装置を用いて得られるであろう読み取りである。点線は、センサの飽和レベルVSである。曲線Cは、本発明のセンサから得られるであろう理論上の読み取りである。曲線Cは、分岐V(図1を参照)における電圧が、各ピクセルについてのグローバル露光時間の間、時間につれていかに変動するかを示す。VSは、曲線Bにおけるセンサについてと同じであるが、個別のピクセルは、電荷がリセット値VMに達するといつでもリセットされる。曲線Cにおいて、参照番号20で識別されるピクセルは、1回リセットされ、参照番号22によって識別されるピクセルは2回リセットされた。曲線Dは、このような構成要素が、グローバル露光時間の間にピクセルのリセットを提供する従来の技術の方法におけるように図1に示される回路に追加されていた場合、各ピクセルについてリセットカウンタから得られるであろう出力を示す。
図3は、本発明の方法にしたがって復元された図2の曲線Cの読み取りを示す。垂直線は、個別のピクセルのリセットを示し、曲線の暗部は、以下に説明されるものの1つなどの復元アルゴリズムを用いて復元された部分である。
前述の説明から思い起こされるように、VTは、ピクセルについてのリセット回数であるnの関数として計算することができる(リセットを行うのに用いられる方法の詳細に応じるであろう変動がある)。復元された画像を計算するべく、解決すべき問題は、各ピクセルについてのnの値を推定し、決定することである。従来の技術において、各ピクセルについての個別のカウントおよびメモリ機能を提供する構成要素が回路に追加される、問題へのハードウェアアプローチが用いられる。本発明は代わりに、問題に計算解を提供する。
リセットの回数を決定することができる方法のいくつかの実施例を示す前に、ここで用いられる記号のリストが提供される。
T=その間にフォトンが各ピクセルにおいて独立して蓄積することを許可されたところの露光時間間隔。
VT=真の画像値、すなわち飽和がない時のピクセル電圧もしくは電荷の値。
VTij=i行j列のピクセルについての真の画像ピクセル値。
VTij=i行j列のピクセルについての真の画像ピクセル値。
VT=VTij値を備える複合画像。
n=露光間隔Tの間に生じたリセット(放電)の回数。
n=露光間隔Tの間に生じたリセット(放電)の回数。
nij=i行j列のピクセルについてのリセットの回数。
VR=ピクセルの残存値=生じたnのランダムなリセットの最後と露光時間間隔Tの最後との間の、測定される電圧もしくは電荷。
VR=ピクセルの残存値=生じたnのランダムなリセットの最後と露光時間間隔Tの最後との間の、測定される電圧もしくは電荷。
TR=その間にVRが集められるところの露光時間間隔。
VRij=i行j列のピクセルについての残存値
VR=全てのVRij値を備える残存画像。
VRij=i行j列のピクセルについての残存値
VR=全てのVRij値を備える残存画像。
Nは、それによってダイナミックレンジが画像において拡張されるところの乗数である整数である。
N―1=任意のピクセルについて、仮定されるリセットの最大数(いくつかのピクセルがNより多いリセットを有して例外である場合、それらはアーチファクトもしくは飽和点として見られる)。
VM=そこでピクセル電圧がリセットされるところの値。
Vm=それにピクセル電圧がリセットされるところの値。
Vm=それにピクセル電圧がリセットされるところの値。
ε=nのリセット回復時間の間に失われたフォトンを補償する補正係数。
VS=VMよりもわずかに大きなピクセル電圧の飽和値。
VS=VMよりもわずかに大きなピクセル電圧の飽和値。
nセット=同じリセット回数=nを有する1セットの連続するピクセル。連続性を間に有さないこのようなセットが画像中に複数あるであろう。
G=画像ピクセル内のグレーレベルの最大数、したがって、0<VRij<G。
2g=G/N=残存画像それ自体の中のグレーレベルの数。
2g=G/N=残存画像それ自体の中のグレーレベルの数。
Jump=隣接ピクセル間の値の差異。
JU=受け入れ可能な最大ジャンプ。
JU=受け入れ可能な最大ジャンプ。
連続性仮定:真の画像の全体について、隣接ピクセルの任意の対の間の可能な「ジャンプ」は、JUよりも小さいと仮定される。ここで我々は、JU=g―1と定義する。
隣接ピクセル推測ルール:このルールは、nのリセットを有すると知られるピクセルがある時に適用され、隣接ピクセルについてリセット回数を推定することが望まれる(もしくはnのリセットを有すると知られるnセットのピクセルがある時に適用され、隣接するnセットのピクセルについてリセット回数を推測することが望まれる)。既知のピクセルについての残存ピクセル値がVRと示され、隣接ピクセルがVR(adj)と示される場合、ルールは、
1.Abs[VR―VR(adj)]<JUである場合、ピクセルは同じ数nを有する。2.[(VR(adj)+G)―VR]<JUである場合、VR(adj)はより高い値=n+1を有する。
3.[(VR+G)―VR(adj)]<JUである場合、VR(adj)はより低い値=n―1を有する。
1.Abs[VR―VR(adj)]<JUである場合、ピクセルは同じ数nを有する。2.[(VR(adj)+G)―VR]<JUである場合、VR(adj)はより高い値=n+1を有する。
3.[(VR+G)―VR(adj)]<JUである場合、VR(adj)はより低い値=n―1を有する。
VTを計算する基本式は、
VTij=(n×(VMij―Vmij))+VRij+ε(ij)。
VTij=(n×(VMij―Vmij))+VRij+ε(ij)。
他のリセットメカニズムに関連する本イノベーションの他の実施形態において、基本式はたとえば上述に説明されたように、いくらか変更される。以下の復元方法の実施例の説明は、Vtについての上述の式を用いる。本イノベーションの他の実施形態において、Vtについての異なる基本式を用いる以下の方法の変更は、当業者によって容易に導き出されるであろう。
復元アルゴリズムについての以下のいくつかの実施例は、本発明を図解するためだけに提供され、いかなる意味においても本発明の範囲を限定するよう意図されない。復元アルゴリズムは、中央センサチップロジック部において全体的に、もしくは画像処理装置内部のまたは他のコンピュータ/装置上の異信号処理ユニットなどの(センサチップ)外部の装置上で部分的もしくは全体的に、実行することができる。
方法1
アルゴリズム処理の連続処理(「ビジット」)のために順序づけられたピクセルのトラジェクトリが選択される。トラジェクトリに沿って各ピクセルは、隣接するネイバーへのビジットに続いてビジットされる。各ピクセルについての値nは、連続性仮定および隣接ピクセル推測ルール(上述に定義される)を用いて連続的に決定される。連続性仮定が画像全体について持続する場合、n値のセットは、画像アレイ内の全てのピクセルがビジットされた後の第1の反復の最後で正確に得られる。真の画像VTはそこで、上述の基本式を用いて計算することができる。
アルゴリズム処理の連続処理(「ビジット」)のために順序づけられたピクセルのトラジェクトリが選択される。トラジェクトリに沿って各ピクセルは、隣接するネイバーへのビジットに続いてビジットされる。各ピクセルについての値nは、連続性仮定および隣接ピクセル推測ルール(上述に定義される)を用いて連続的に決定される。連続性仮定が画像全体について持続する場合、n値のセットは、画像アレイ内の全てのピクセルがビジットされた後の第1の反復の最後で正確に得られる。真の画像VTはそこで、上述の基本式を用いて計算することができる。
隣接ピクセルが(境界を越えて)他のnセットに属するかどうかという推定は、常に2つの仮定からスタートする。1)同じnセットに属する、2)周辺の(n+1)セットもしくは(n―1)セットに属する。選択された仮定は、通常、最も低いジャンプ(輝度の変化)により示されるものであろう。推定されたピクセルへのトラジェクトリがスロープで特徴づけられる場合、推定値は、ジャンプに加えて重み付き直線(曲線)スロープの補外に基づく予測として定義され、ジャンプは重み付きのもしくは重み付きでない補外値からの逸脱として定義されるであろう。処理中にエラーが生じ、ピクセルが(隣接するnセットとの境界を越えて)隣接するnセットに属すると推定される時、このような推定はよりよく検証され、それにより正確な推定の可能性を増加させる。このことは、境界トラジェクトリの1次推定に連続的に沿った他の隣接ピクセルの観察を通じた仮定のさらなる分析によって行うことができる。しかしここで留意すべきは、スロープの最後が「突然」で
あり、エラーが起こるかもしれない危険性が存在することである。この危険性は、許可される補外を、仮定される最大ジャンプよりも充分に小さな値に限定することで、最小化、もしくは補正することができる。
あり、エラーが起こるかもしれない危険性が存在することである。この危険性は、許可される補外を、仮定される最大ジャンプよりも充分に小さな値に限定することで、最小化、もしくは補正することができる。
アルゴリズムのより進んだバージョンにおいて、隣接するn値のいくつかの推定によって連続性仮定が違反される、有限かつ小さい可能性が仮定されるだろう。ここで、Nの値が高いほど、このような違反の起こる可能性は高い。したがって、gより大きないくつかのジャンプが生じるであろう。このようなジャンプは、ピクセルをビジットするのに用いられる特定のトラジェクトリに沿ったいくつかの不適切なn推定を生じるであろう。もたらされるエラーが補正されない場合、復元計算において対応するアーチファクトが生じるであろう。したがって、アルゴリズムの進んだバージョンは、反復の連続を用いて補正の手順を導入し、そのそれぞれにおいて全体のピクセルアレイが処理されるであろう。また、アルゴリズムは、各中間結果についての信頼水準を決定する手順を含み、それによって、統計的方法が用いられて最終結果を改良することを可能にするであろう。異なるピクセル順序づけのトラジェクトリを用いるこのような各反復は、違反を自動的に識別し、縮小された数(もしくは0)のnのエラーへと次第に集結するであろう。補正されたnの値は、より少ない(もしあれば)アーチファクトでの最終的な復元を容易にするであろう。
一旦、ピクセルのn値が決定されると、必要であればエラー補正の後、ピクセルはnのセットにグループ化され、まだ相対的に順序づけられているだけのnのセットはそこで、それら自身の間で順序づけられる。n=0の値はそこで、順の最も低いセットに割り当てられ、より高いnの値が順に割り当てられ、他のnのセットについては、最も高いnの値まで、一貫した方法である(n<N)。
上述のアルゴリズムの1つの進んだバージョンは、以下のように機能する。まず、ピクセルビジットのトラジェクトリが決定される。次いで新しいピクセルのそれぞれについて、既に推定された全ての隣接ピクセルから、もしくは基準のネイバーから、n推定が行われる。2つの最初のピクセルを除き、通常2以上のこのようなネイバーがあるだろう。通常、新しいピクセル毎の全てのn推定は同一であろう。何らかの場合にそうでなければ、整数のnステップの最尤推定値が、関連する推定の詳細に基づいて作成され、そこで「非最終」の推定値が割り当てられる。もともと意図されたトラジェクトリはそこで中断され、異なる方向から「非最終決定の」ピクセルに近づくように変更される。新しいトラジェクトリを用いて、n値が再び推定され、全てのさらなる基準ピクセルを含むことにより、新しい最尤推定値が生成される。この推定値が、先に生成された全ての推定値と一致する時、新しい推定値が適用される。この手順は、全てのピクセル推定が完了するまで、画像の全ての領域について繰り返される。一部の一致しない推定値が残される場合(クローズドトラジェクトリテストループ上の不一致の存在により識別できる)、整合性が実現されるまで、変更推定値の組み合わせトライアルが適用できる。
いくつかの隣接ピクセルを備える比較的小さく大変明るい少しのエリアを除いて、写真が「制限ダイナミックレンジ」で境界される場合、上述の方法は多くのアーチファクトを引き起こさないであろう。このことは、画像内の明るすぎるスポットがそれらの真の値よりも低い値で表される場合であっても、そうあるべきである。明るさが、数Nによる定義を越える場合、飽和しているとして表示されるであろう画像スポットがあるであろう。しかしそのような場合であっても、VMが飽和レベルを下回って設定されているため、気になるブルーミング現象は常に防止されるはずである。より一般的には、n=1以上に対応するVT値にエラーがある場合であっても、画像は、他の方法でその値を下回って飽和されたであろう画像よりも優れているはずである。
方法2
本方法にしたがって、ピクセルのアレイは2つのグループに分割される。第1は、それらの電荷がVMに達した時にはいつでも個別にリセットされるピクセルのメイングループである。第2のグループは、たとえばアレイ全体の4つおきのピクセル(水平方向および垂直方向)を備えるピクセルのまばらなサブアレイである。このサブアレイは、サブアレイのピクセルがTよりも短い集積時間、たとえばT/Nを有するであろうように小さなハードウェア変更を行うことにより作成される。このことは、基本露光間隔Tの終了の前にT/N時間単位を適用されたサブアレイのピクセルへの同時スタートリセットによって実現することができる。
本方法にしたがって、ピクセルのアレイは2つのグループに分割される。第1は、それらの電荷がVMに達した時にはいつでも個別にリセットされるピクセルのメイングループである。第2のグループは、たとえばアレイ全体の4つおきのピクセル(水平方向および垂直方向)を備えるピクセルのまばらなサブアレイである。このサブアレイは、サブアレイのピクセルがTよりも短い集積時間、たとえばT/Nを有するであろうように小さなハードウェア変更を行うことにより作成される。このことは、基本露光間隔Tの終了の前にT/N時間単位を適用されたサブアレイのピクセルへの同時スタートリセットによって実現することができる。
ダイナミックレンジ乗数がNである場合、サブアレイ内の全ての(もしくはほぼ全ての)ピクセルは(それらの充分に短くされた露光時間のため)、飽和リセットに直面しないであろう。したがって、これらのピクセルのそれぞれについてのn値(すなわち、各ピクセルが全体的な露光間隔Tの間に経るであろうリセットの回数)を推定することができる。この推定は、ピクセル読み取りVについて、n=modulu[V*N/((VM―Vm)+ε)]によって与えられ、式中、εは先に用いられた補正関数と同様である。
一旦、n推定値がサブアレイについて生成されると、通常の連続性ルールが適用されて、各ピクセルからメインアレイにおけるニアレストネイバーピクセルの周囲のグループへの局所的な推定を行うことによって、全てのアレイについてn値を推定することができる。このようなn推定についてのエラーの可能性は、Nの値が高くなりすぎない限り、比較的小さいであろうと述べることができる。
メインアレイのピクセルの「真の値」は、基本式を用いることによりここで復元される。サブアレイのピクセルの対応する値はまた、シンプルな式VT=V*Nによって復元することができる。これらの値は(サブアレイの)より短い露光から生じるため、これらは非常にノイズが多いであろう。これらのサブアレイピクセルについての値についてノイズを減少させるべく、これらの値はここで、メインアレイの先に復元された隣接ピクセルからの補外によって置換することができる。このような補外はまた、何らかのスムージング技術を用いて行うこともできる。そこで、完全な(複合)画像が利用可能である。この場合、サブアレイの(したがってメインアレイの近傍について)n推定値内のいくらかのエラーが生じる場合であっても、これらは方法1の技術を適用することにより、すなわち、任意の関連する近傍に、すなわちサブアレイの「誤った」ピクセルの近傍に、ほぼ確実に正しく復元された周囲の近傍から近づくことにより、補正可能である。一致するn推定値および対応する「真の値」への集束は、各近傍の限定されたサイズのために、ここではより短い。
ここで留意すべきは、上述の方法は、アレイは単一色に感受性のあるピクセルを備えるという暗黙の仮定について説明されたということである。本発明の方法を複数色のアレイに適用することは普通のことである。このことは、たとえば、メインの画像アレイを多数の1色のサブアレイ、たとえば独立して処理することができる赤、緑、青に対応する3つのこのようなアレイに分割する、いくつかの方法によって行うことができる。上述のアルゴリズムはそこで、このようなサブアレイのそれぞれに適用することができ、統一された画像を形成するべく統合される。本発明の方法を多色のアレイに適用する他の代替方法は、アルゴリズムを局所輝度値に適用することであり、色の間の比率は、局所的に固定され、全てのアレイにわたって比較的小さな変動で連続的にのみ変化する。一旦輝度が決定されると、そこで各サイトにおける特定の色がさらに決定される。
上述(方法2)で定義されたサブアレイについてのより短い露光時間はまた、減衰カバーをサブアレイピクセルにわたって用いることで実現することができる。このカバーは、覆われたピクセルの照度をたとえば1/N倍だけ減少するように設計されるであろう。こ
の方法を用いると、遅延開始トリガおよび関連するハードウェア変更の必要はない。しかし、カメラデザインの多用性が、値Nを変動させる必要性に影響する場合、不都合であろう。
の方法を用いると、遅延開始トリガおよび関連するハードウェア変更の必要はない。しかし、カメラデザインの多用性が、値Nを変動させる必要性に影響する場合、不都合であろう。
方法3
本方法は、2度の近接した露光を用いることに基づく。第1に、アレイ全体が時間T/Nの間露光される(方法2のサブアレイについて上述に説明されるように)。第2に、アレイ全体はフルタイムTの間、飽和リセットメカニズムを適用して露光される。できるだけすぐに第1の露光結果の読み取りが行われた後、方法2のアルゴリズムが適用される。ここで潜在的な問題は、露光間の相対的な動作からもたらされるモーションアーチファクトが2度の近接した露光の間に経過する時間に現れるであろうことである。
本方法は、2度の近接した露光を用いることに基づく。第1に、アレイ全体が時間T/Nの間露光される(方法2のサブアレイについて上述に説明されるように)。第2に、アレイ全体はフルタイムTの間、飽和リセットメカニズムを適用して露光される。できるだけすぐに第1の露光結果の読み取りが行われた後、方法2のアルゴリズムが適用される。ここで潜在的な問題は、露光間の相対的な動作からもたらされるモーションアーチファクトが2度の近接した露光の間に経過する時間に現れるであろうことである。
モーションアーチファクトは、残存値の2つの画像の相互登録の事前処理を介して補正されるであろう。第1の画像は、通常のリセット処理を用いて得られる完全に露光された画像のサンプリングされたアレイである。第2の画像は、短い露光時間、たとえばT/N露光時間の画像から派生する。短い露光に対応する各ピクセルについて、露光が完全な長さTのものである場合に、サンプリングされるであろう「残存値」VRの推定値は計算される。この推定値についての式は、Trij=Tij*N―n*((VM―Vm)+ε)であり、式中nは方法2にしたがって先に定義された推定値である。登録処理が適用され、何らかの相互シフトに続いて2つの画像の間の最善の相互関係を実現する。第2の画像の局所的な部分に制限して登録を行うこともまた可能である。一旦、登録処理が完了すると、復元の残りは容易である。短い露光時間(T/N)から導き出されるn推定が行われる。これらはそこで、登録から対応するn推定値を用いて、完全に露光された画像のピクセルを復元するべく用いられる。
本発明の実施形態が例示を目的として説明されたが、本発明は、その精神から逸脱することなく、請求の範囲から外れることなく、多くの変形、変更、適応をもって行われるであろう。
Claims (26)
- 電子撮像装置のダイナミックレンジを拡張する方法であって、
a.ピクセルの1次元もしくは2次元のアレイおよび中央に配置されたセンサチップロジック領域を備えるセンサチップを提供するステップを備え、フレームのグローバル露光時間間隔はリセット信号で始まり、サンプル信号で終了し、
b.前記各ピクセルのサイトもしくはその近くに配置されるコンパレータとリセットトリガ回路とを提供するステップをさらに備えて、前記コンパレータは、荷電ピクセルの電圧が基準電圧に達する時にリセットメカニズムをトリガし、それによって前記グローバル露光時間の間に各個別のピクセルはそれに入射する放射の輝度に応じて数回自己リセットすることができ、前記グローバル露光時間の終了時に、各ピクセルは最後の個別の自己リセットから前記グローバル集積時間の終了まで残存する電圧の残存値のみを含み、
c.取得後のデータに実施されるアルゴリズムを提供するステップをさらに備え、前記アルゴリズムは、
i.時間および/もしくは空間連続性仮定および隣接ピクセル推定のルールを用いて、前記ピクセルのそれぞれについて個別のリセットの回数を決定するステップと、
ii.前記ピクセルのそれぞれについての個別のリセットの前記決定された回数と、前記ピクセルのそれぞれについての前記残存値と、基本式とを用いて、前記ピクセルのそれぞれについて真の画像値を決定するステップと、を含み、
真の画像は、前記ピクセルのそれぞれについての前記真の画像値のアレイを備え、前記アルゴリズムの使用とともに各ピクセルについての前記リセットメカニズムの組み合わせは、前記ピクセルのそれぞれがリセットされた回数をカウントし記憶する電子部品の提供を必要とすることなく、前記真の画像の決定を可能にする、
方法。 - 電子撮像装置はCMOSセンサチップを備える、請求項1に記載の方法。
- ピクセル飽和リセット信号についての閾値がグローバルである、請求項1に記載の方法。
- ピクセルの各サブアレイについて異なる閾値メカニズムが用いられる、請求項1に記載の方法。
- フレームのグローバル露光時間間隔について異なるスタートリセット信号を多様なサブアレイに適用することができる、請求項1に記載の方法。
- 閾値リセットメカニズムが、中央リセットイネーブル信号によって操作され、ピクセル値が閾値に達して前記リセットイネーブル信号がオンになる時にリセットが生じ得る、請求項1に記載の方法。
- 比較および閾値リセットエレクトロニクスが、ピクセル群によって時分割され、所定のシーケンスの間、各ピクセルが前記エレクトロニクスに接続され、前記ピクセルが閾値を越えたとき、リセットが前記ピクセルに生じる、請求項1に記載の方法。
- 閾値リセットメカニズムが1つのピクセルもしくはいくつかのピクセルの平均をサンプリングし、サンプリングされた前記ピクセルを含む隣接するピクセル群にリセットを行う、請求項1に記載の方法。
- リセット値を決定する基準電圧のソースは、センサチップロジック領域の中央位置から提供される、請求項1に記載の方法。
- 連続性仮定が画像全体について有効であり、アルゴリズムが、
a.アルゴリズム的処理の連続処理について順序づけられたピクセルのトラジェクトリを選択するステップと、
b.隣接するネイバーへのビジットに続いて、トラジェクトリに沿って各ピクセルをビジットするステップと、
c.1以上の既にビジットされたピクセル値に関連して前記連続性仮定と隣接ピクセル推定ルールとを用いて各ピクセルについてn値を連続的に決定するステップと、
d.基本式を用いて真の画像を計算するステップと、
を備える、請求項1に記載の方法。 - 隣接するn値のいくつかの推定について連続性仮定が違反されるという、有限かつ小さい可能性が仮定され、ピクセルをビジットするのに用いられる特定のトラジェクトリに沿っていくつかの不適切なn推定をもたらし、もたらされるエラーは、アルゴリズムに補正手順を導入することで補正され、このような手順は、
a.ピクセルアレイの全体について、違反を自動的に識別し、次第に縮小した数(もしくは0)のnのエラーに集束するであろう、異なるピクセルの順序を有するトラジェクトリを用いる反復の連続を用いることで、ピクセルのn値を決定するステップと、
b.必要であればエラー補正の後に、ピクセルを相対的に順序づけられたnセットにグループ化するステップと、
c.順の最も低いセットに値n=0を割り当てるステップと、
d.他のnセットについて、一貫した方法で、最も高いn値まで、順のより高いn値を割り当てるステップと、
e.各推定されたn値に関連する決定された信頼水準を、次のn値の推定に組み込むステップと、
を備える、請求項10記載の方法。 - アルゴリズムのステップaは、
a.ピクセルビジットのトラジェクトリを決定するステップと、
b.既に推定された全ての隣接ピクセルもしくは基準ネイバーから各新しいピクセルにn推定を行うステップと、
c.前記新しいピクセルについての全てのn推定が同一でない場合、先の推定値に関連する先に決定された信頼水準の組み込みを含む関連する推定値詳細に基づいて整数nステップの推定値を作成するステップと、
d.「非最終の」推定値を、前記ピクセルのn値に割り当てるステップと、
e.異なる方向から前記「非最終決定の」ピクセルに近づくよう、必要な時に前記オリジナルのトラジェクトリを中断し変更するステップと、
f.前記新しいトラジェクトリを組み込むn値を再び推定するステップと、
g.全ての追加基準ピクセルを含むことで、新しい最尤推定値を生じるステップと、
h.全ての先に生成された推定値と一致する場合、前記新しい推定値を採用するステップと、
i.前記新しい推定値が全ての先に生成された推定値と一致しない場合、ステップeからgを繰り返すステップと、
j.画像の全ての領域について、全てのピクセル推定が完了するまでステップaからiを繰り返すステップと、
k.一部の一致しない推定値が残される場合、一貫性が実現されるまで、変更された推定値の組み合わせトライアルを適用するステップと、
を備える、請求項11に記載の方法。 - 整数nステップの推定値が、最大尤度タイプの推定値を用いて作成される、請求項12
に記載の方法。 - ピクセルのアレイが、メイングループの個別のピクセルの電圧が基準電極に達する時はいつでもグローバル露光時間間隔の間に個別にリセットされるピクセルのメイングループと、集積時間もしくは感度がこのようなピクセル上の光輝度が所定の最大光輝度よりも高い場合にのみ前記サブアレイの原則として全ての前記ピクセルの電圧が前記基準電圧に達するように変化するピクセルのまばらなサブアレイとに分割される、請求項1に記載の方法。
- 前記サブアレイのピクセルがグローバル露光時間間隔よりも短い集積時間を有するように小さなハードウェア変更を行うことにより、サブアレイが作成される、請求項14に記載の方法。
- サブアレイについての縮小された感度が、カバーされたピクセルにかかる放射の輝度を減少するであろう、これらのピクセルについての減衰カバーを使用することによってもまた実現され得る、請求項1に記載の方法。
- アルゴリズムが、
a.直接の計算によって、サブアレイの各ピクセルについて、n値を推定するステップと、
b.各サブアレイについて前記メインアレイにおける最も近い隣接したピクセル群に関して推定することで、前記サブアレイについてn推定値を適用し、n値を推定するための連続性ルールをメインアレイについて適用するステップと、
c.前記メインアレイにおける各ピクセルについてnの推定値を用いて、前記メインアレイのピクセルの「真の値」を計算するステップと、
d.それらの集積時間間隔の短さの直接の補償によって、前記サブアレイの適合してスケーリングされた「真の値」を計算するステップと、
を備える、請求項14に記載の方法。 - メインアレイについての最終結果を用いるデータスムージングのステップがさらに行われて、潜在的にノイズのあるサブアレイピクセルの値をスムーズにする、請求項17に記載の方法。
- 異なる露光時間を有する2度の近接した露光が用いられ、
a.第1の露光時間がグローバル露光時間間隔であり、ピクセルは、それらの電圧が基準電圧に達する時はいつでも個別にリセットされ、
b.原則として全ての前記ピクセルの電圧が、これらのピクセルにかかる光が所定の最大光輝度よりも強い場合にのみ前記基準電圧に達するように、第2の露光時間が短くされ
i.短い露光画像のピクセルのn値を推定するステップと、
ii.前記n値を用いてグローバル露光時間画像のピクセルの真のn値を復元するステップと、
を備える、請求項1に記載の方法。 - モーションアーチファクトが、
a.フル露光時間画像の残存画像と短い露光時間の画像から導き出される残存値の復元された推定値との間の増分シフトを、最大相関値が実現されるまで、繰り返し試行することを備える登録方法を適用するステップと、
b.短い露光のピクセルについてn推定値を導き出し、前記n推定値を長い露光の画像の登録適合したピクセルに関連づけるステップと、
c.前記n推定値からグローバル露光時間の画像のピクセルについての真のn値を推定
するステップと、
によって補正される、請求項19に記載の方法。 - 異なる画像領域を適応的に引き続いて処理する登録方法を適用することによりモーションアーチファクトが補正される、請求項19に記載の方法。
- 電子撮像装置が、1色を有する光、もしくはそれぞれが同じもしくは異なる色に感受性のあるピクセルのサブセットに感受性のあるピクセルを備える、請求項1に記載の方法。
- a.コンパレータはサイトのそれぞれに配置される方法と、
b.前記サイトのそれぞれは、ピクセル群によって共有されるコンパレータに接続される方法と、
c.サイトの群は単独のコンパレータおよびさらなる回路に接続され、もたらされるリセットは、前記コンパレータに接続される前記群の一部であることができるか、もしくはできない、隣接するピクセル群に影響する方法と、
のいずれかによって、コンパレータが各ピクセルのサイトに接続される、請求項1に記載の方法。 - a.ピクセルの2次元のアレイを備えるセンサチップと、
b.リセット信号で始まりサンプル信号で終わるフレームのグローバル露光時間間隔を制御する回路を備える中央に配置されたセンサチップロジック領域と、
c.前記各ピクセルのサイトもしくはその近くに配置されるコンパレータおよびリセットトリガ回路とを備え、前記コンパレータは、荷電ピクセルの電圧が基準電圧を越える時にリセットメカニズムをトリガし、それによって前記グローバル露光時間の間に、各個別のピクセルは、それに入射する放射の輝度に応じて数回自己リセットすることができ、前記グローバル露光時間の終了時に、各ピクセルは最後の個別の自己リセットから前記グローバル集積時間の終了まで残存する電圧の残存値のみを含み、
d.電圧の前記残存値を用いて前記ピクセルのそれぞれについて真の画像値を決定する、アルゴリズムの少なくとも1部分を行う処理回路をさらに備え、
真の画像は前記ピクセルのそれぞれについての前記真の画像値のアレイを備え、前記アルゴリズムの使用とともに前記ピクセルのそれぞれについての前記リセットメカニズムの組み合わせは、前記ピクセルのそれぞれがリセットされた回数をカウントし記憶する電子部品の提供を必要とすることなく前記真の画像の決定を可能にする、拡張ダイナミックレンジを有する電子撮像装置。 - 前記電子撮像装置は1色を有する光もしくはそれぞれ同じもしくは異なる色に感受性のあるピクセルのサブセットに感受性のあるピクセルを備える、請求項24に記載の電子撮像装置。
- コンパレータは各ピクセルのサイトに、
a.コンパレータは前記サイトのそれぞれに配置される方法と、
b.前記サイトのそれぞれはピクセル群によって共有されるコンパレータに接続される方法と、
c.サイトの群が単独のコンパレータおよびさらなる回路に接続され、もたらされるリセットは、前記コンパレータに接続される前記群の部分であることができ、もしくはできない、隣接するピクセル群に影響する方法と、
のうちの1つで接続される、請求項24に記載の電子撮像装置。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US63404804P | 2004-12-07 | 2004-12-07 | |
PCT/IL2005/001311 WO2006061828A2 (en) | 2004-12-07 | 2005-12-06 | Method and apparatus for imaging of scenes having large intensity variance |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2008523695A true JP2008523695A (ja) | 2008-07-03 |
Family
ID=36337528
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007545107A Pending JP2008523695A (ja) | 2004-12-07 | 2005-12-06 | 輝度分散が大きい場面を撮像する方法および装置 |
Country Status (5)
Country | Link |
---|---|
US (1) | US7701499B2 (ja) |
EP (1) | EP1829364A2 (ja) |
JP (1) | JP2008523695A (ja) |
KR (1) | KR20070085867A (ja) |
WO (1) | WO2006061828A2 (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011109386A (ja) * | 2009-11-17 | 2011-06-02 | Sony Corp | 固体撮像素子およびその駆動方法、カメラシステム、プログラム |
JP2013009105A (ja) * | 2011-06-23 | 2013-01-10 | Jvc Kenwood Corp | 画像処理装置及び画像処理方法 |
JP2013009104A (ja) * | 2011-06-23 | 2013-01-10 | Jvc Kenwood Corp | 画像処理装置及び画像処理方法 |
JP2016527787A (ja) * | 2013-11-15 | 2016-09-08 | ソフトキネティック センサー エヌブイ | 画素飽和を回避する方法 |
Families Citing this family (47)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100834763B1 (ko) | 2006-11-14 | 2008-06-05 | 삼성전자주식회사 | 동적 촬영 대역의 확장을 위한 이미지 센서 및 화소에수광된 광량을 측정하는 방법 |
US8305471B2 (en) * | 2007-02-09 | 2012-11-06 | Gentex Corporation | High dynamic range imaging device |
US8289430B2 (en) | 2007-02-09 | 2012-10-16 | Gentex Corporation | High dynamic range imaging device |
KR101338353B1 (ko) * | 2007-05-30 | 2013-12-06 | 삼성전자주식회사 | 영상 촬상 장치 및 방법 |
JP2009136459A (ja) * | 2007-12-05 | 2009-06-25 | Hoya Corp | ノイズ除去システム、内視鏡プロセッサ、および内視鏡システム |
US8629927B2 (en) * | 2008-04-09 | 2014-01-14 | Gentex Corporation | Imaging device |
US8587706B2 (en) | 2008-01-30 | 2013-11-19 | Gentex Corporation | Imaging device |
JP5107442B2 (ja) * | 2008-02-25 | 2012-12-26 | アール・ジェイ・エス・テクノロジー・インコーポレイテッド | 高ダイナミックレンジ画像センサ検知アレイのためのシステム及び方法 |
JP5247397B2 (ja) * | 2008-12-05 | 2013-07-24 | キヤノン株式会社 | 撮像装置及び撮像方法 |
US8378284B2 (en) * | 2009-01-28 | 2013-02-19 | Gentex Corporation | Imaging device |
US8144223B2 (en) * | 2009-01-28 | 2012-03-27 | Gentex Corporation | Imaging device |
US8279328B2 (en) * | 2009-07-15 | 2012-10-02 | Tower Semiconductor Ltd. | CMOS image sensor with wide (intra-scene) dynamic range |
CN102834309B (zh) | 2010-02-26 | 2016-12-21 | 金泰克斯公司 | 自动车辆设备监控、报警和控制系统 |
GB201016773D0 (en) * | 2010-10-06 | 2010-11-17 | Univ Leuven Kath | Dynamic range enhancement through prediction of pixel integration time |
JP5721405B2 (ja) * | 2010-11-22 | 2015-05-20 | キヤノン株式会社 | 撮像システム、その制御方法及びプログラム |
US9052497B2 (en) | 2011-03-10 | 2015-06-09 | King Abdulaziz City For Science And Technology | Computing imaging data using intensity correlation interferometry |
US9099214B2 (en) | 2011-04-19 | 2015-08-04 | King Abdulaziz City For Science And Technology | Controlling microparticles through a light field having controllable intensity and periodicity of maxima thereof |
US9769430B1 (en) | 2011-06-23 | 2017-09-19 | Gentex Corporation | Imager system with median filter and method thereof |
JP5935284B2 (ja) * | 2011-10-18 | 2016-06-15 | ソニー株式会社 | 撮像装置および撮像表示システム |
JP5935285B2 (ja) * | 2011-10-19 | 2016-06-15 | ソニー株式会社 | 撮像装置および撮像表示システム |
US9200954B2 (en) | 2011-11-07 | 2015-12-01 | The Johns Hopkins University | Flexible readout and signal processing in a computational sensor array |
US9041838B2 (en) | 2012-02-14 | 2015-05-26 | Gentex Corporation | High dynamic range imager system |
CN104486986B (zh) | 2012-07-26 | 2018-06-01 | 德普伊辛迪斯制品公司 | 光不足环境中的连续视频 |
IN2015MN00022A (ja) * | 2012-07-26 | 2015-10-16 | Olive Medical Corp | |
US8446481B1 (en) | 2012-09-11 | 2013-05-21 | Google Inc. | Interleaved capture for high dynamic range image acquisition and synthesis |
US9087391B2 (en) | 2012-12-13 | 2015-07-21 | Google Inc. | Determining an image capture payload burst structure |
US8866927B2 (en) | 2012-12-13 | 2014-10-21 | Google Inc. | Determining an image capture payload burst structure based on a metering image capture sweep |
US8866928B2 (en) | 2012-12-18 | 2014-10-21 | Google Inc. | Determining exposure times using split paxels |
US9247152B2 (en) * | 2012-12-20 | 2016-01-26 | Google Inc. | Determining image alignment failure |
US8995784B2 (en) | 2013-01-17 | 2015-03-31 | Google Inc. | Structure descriptors for image processing |
US9686537B2 (en) | 2013-02-05 | 2017-06-20 | Google Inc. | Noise models for image processing |
US9380228B2 (en) | 2013-03-13 | 2016-06-28 | Gentex Corporation | High dynamic range image sensor system and method thereof |
US9641815B2 (en) | 2013-03-15 | 2017-05-02 | DePuy Synthes Products, Inc. | Super resolution and color motion artifact correction in a pulsed color imaging system |
AU2014233464B2 (en) | 2013-03-15 | 2018-11-01 | DePuy Synthes Products, Inc. | Scope sensing in a light controlled environment |
EP3459431A1 (en) | 2013-03-15 | 2019-03-27 | DePuy Synthes Products, Inc. | Controlling the integral light energy of a laser pulse |
US9117134B1 (en) | 2013-03-19 | 2015-08-25 | Google Inc. | Image merging with blending |
US9066017B2 (en) | 2013-03-25 | 2015-06-23 | Google Inc. | Viewfinder display based on metering images |
US9131201B1 (en) | 2013-05-24 | 2015-09-08 | Google Inc. | Color correcting virtual long exposures with true long exposures |
US9077913B2 (en) | 2013-05-24 | 2015-07-07 | Google Inc. | Simulating high dynamic range imaging with virtual long-exposure images |
TWI513310B (zh) * | 2013-07-12 | 2015-12-11 | Univ Nat Yunlin Sci & Tech | 攝影機動態範圍擴展裝置及方法 |
US9615012B2 (en) | 2013-09-30 | 2017-04-04 | Google Inc. | Using a second camera to adjust settings of first camera |
US10084944B2 (en) | 2014-03-21 | 2018-09-25 | DePuy Synthes Products, Inc. | Card edge connector for an imaging sensor |
JP6909050B2 (ja) * | 2017-05-18 | 2021-07-28 | キヤノン株式会社 | 固体撮像素子及び撮像装置 |
EP3661190B1 (en) * | 2018-11-27 | 2024-05-22 | Canon Kabushiki Kaisha | Radiation imaging apparatus and radiation imaging system |
US11798370B2 (en) | 2020-10-26 | 2023-10-24 | Lnw Gaming, Inc. | Gaming machine and method with symbol array alteration |
CN114697537B (zh) * | 2020-12-31 | 2024-05-10 | 浙江清华柔性电子技术研究院 | 图像获取方法、图像传感器及计算机可读存储介质 |
CN112887572A (zh) * | 2021-01-27 | 2021-06-01 | 维沃移动通信有限公司 | 图像传感器、摄像模组和电子设备 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06197286A (ja) * | 1992-12-25 | 1994-07-15 | Canon Inc | 撮像装置 |
JPH0767042A (ja) * | 1993-06-15 | 1995-03-10 | Matsushita Electric Ind Co Ltd | 固体撮像素子 |
WO1998014002A1 (de) * | 1996-09-27 | 1998-04-02 | Boehm Markus | Lokalautoadaptiver optischer sensor |
JP2001054022A (ja) * | 1999-08-13 | 2001-02-23 | Nippon Hoso Kyokai <Nhk> | 固体撮像装置 |
JP2003008997A (ja) * | 2001-06-27 | 2003-01-10 | Konica Corp | 撮像素子及び撮像素子を用いたデジタルスチルカメラ |
JP2003125292A (ja) * | 2001-07-11 | 2003-04-25 | Texas Instruments Inc | ハイダイナミックレンジcmosイメージャ |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
IL100620A (en) | 1992-01-09 | 1994-11-11 | Orly Yadid Pecht | Method and apparatus for increasing the dynamic range of optical sensors |
US5872596A (en) * | 1992-09-28 | 1999-02-16 | Canon Kabushiki Kaisha | Device for widening the dynamic range of solid-state image pickup elements |
US6175383B1 (en) * | 1996-11-07 | 2001-01-16 | California Institute Of Technology | Method and apparatus of high dynamic range image sensor with individual pixel reset |
US6130713A (en) * | 1997-06-27 | 2000-10-10 | Foveonics, Inc. | CMOS active pixel cell with self reset for improved dynamic range |
EP1127453A1 (en) * | 1998-10-19 | 2001-08-29 | Ben-Gurion University Of The Negev | Optical imager using a method for adaptive real-time expanding of the dynamic range |
US7079178B2 (en) | 2001-02-20 | 2006-07-18 | Jaroslav Hynecek | High dynamic range active pixel CMOS image sensor and data processing system incorporating adaptive pixel reset |
WO2002095679A2 (en) * | 2001-05-23 | 2002-11-28 | Canesta, Inc. | Enhanced dynamic range conversion in 3-d imaging |
US6963370B2 (en) * | 2001-09-24 | 2005-11-08 | The Board Of Trustees Of The Leland Stanford Junior University | Method for improving SNR in low illumination conditions in a CMOS video sensor system using a self-resetting digital pixel |
US6927796B2 (en) * | 2001-09-24 | 2005-08-09 | The Board Of Trustees Of The Leland Stanford Junior University | CMOS image sensor system with self-reset digital pixel architecture for improving SNR and dynamic range |
US7362365B1 (en) * | 2002-06-26 | 2008-04-22 | Pixim, Inc. | Digital image capture having an ultra-high dynamic range |
US7409104B2 (en) * | 2002-07-18 | 2008-08-05 | .Sightic Vista Ltd | Enhanced wide dynamic range in imaging |
US6919549B2 (en) * | 2003-04-11 | 2005-07-19 | Canesta, Inc. | Method and system to differentially enhance sensor dynamic range |
US7176970B2 (en) * | 2003-06-30 | 2007-02-13 | Motorola, Inc. | Light sensing pixel sensor and method |
-
2005
- 2005-12-06 US US11/792,537 patent/US7701499B2/en not_active Expired - Fee Related
- 2005-12-06 WO PCT/IL2005/001311 patent/WO2006061828A2/en active Application Filing
- 2005-12-06 EP EP05814801A patent/EP1829364A2/en not_active Withdrawn
- 2005-12-06 JP JP2007545107A patent/JP2008523695A/ja active Pending
- 2005-12-06 KR KR1020077012853A patent/KR20070085867A/ko not_active Application Discontinuation
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06197286A (ja) * | 1992-12-25 | 1994-07-15 | Canon Inc | 撮像装置 |
JPH0767042A (ja) * | 1993-06-15 | 1995-03-10 | Matsushita Electric Ind Co Ltd | 固体撮像素子 |
WO1998014002A1 (de) * | 1996-09-27 | 1998-04-02 | Boehm Markus | Lokalautoadaptiver optischer sensor |
JP2001054022A (ja) * | 1999-08-13 | 2001-02-23 | Nippon Hoso Kyokai <Nhk> | 固体撮像装置 |
JP2003008997A (ja) * | 2001-06-27 | 2003-01-10 | Konica Corp | 撮像素子及び撮像素子を用いたデジタルスチルカメラ |
JP2003125292A (ja) * | 2001-07-11 | 2003-04-25 | Texas Instruments Inc | ハイダイナミックレンジcmosイメージャ |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011109386A (ja) * | 2009-11-17 | 2011-06-02 | Sony Corp | 固体撮像素子およびその駆動方法、カメラシステム、プログラム |
JP2013009105A (ja) * | 2011-06-23 | 2013-01-10 | Jvc Kenwood Corp | 画像処理装置及び画像処理方法 |
JP2013009104A (ja) * | 2011-06-23 | 2013-01-10 | Jvc Kenwood Corp | 画像処理装置及び画像処理方法 |
JP2016527787A (ja) * | 2013-11-15 | 2016-09-08 | ソフトキネティック センサー エヌブイ | 画素飽和を回避する方法 |
KR101760223B1 (ko) | 2013-11-15 | 2017-07-31 | 소프트키네틱 센서스 엔브이 | 픽셀 포화를 방지하기 위한 방법 |
Also Published As
Publication number | Publication date |
---|---|
US20080136953A1 (en) | 2008-06-12 |
WO2006061828A3 (en) | 2006-11-16 |
WO2006061828A2 (en) | 2006-06-15 |
EP1829364A2 (en) | 2007-09-05 |
KR20070085867A (ko) | 2007-08-27 |
US7701499B2 (en) | 2010-04-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2008523695A (ja) | 輝度分散が大きい場面を撮像する方法および装置 | |
JP4019417B2 (ja) | 画像処理装置および方法、記録媒体、並びにプログラム | |
US8384805B2 (en) | Image processing device, method, and computer-readable medium for executing pixel value correction in a synthesized image | |
CN110753192B (zh) | 一种集成电路图像传感器 | |
US9571742B2 (en) | Image capture apparatus and control method thereof | |
KR101473597B1 (ko) | 고 명암비 이미지 센서 | |
KR101348262B1 (ko) | 복수 개의 이미지 프레임들을 기초로 하여 결합 이미지를형성하기 위한 방법 | |
US7009636B2 (en) | Photocurrent estimation from multiple captures for simultaneous SNR and dynamic range improvement in CMOS image sensors | |
US20120273655A1 (en) | Image sensing apparatus and control method thereof | |
US20090290052A1 (en) | Color Pixel Pattern Scheme for High Dynamic Range Optical Sensor | |
JP2016219977A (ja) | 撮像装置、撮像システム、および画像処理方法 | |
EP1803293A2 (en) | Extending effective dynamic range | |
JP5128726B1 (ja) | 固体撮像素子および当該素子を備える撮像装置 | |
WO2012061018A2 (en) | Digital camera providing high dynamic range images | |
JP2002064754A (ja) | 撮像装置の有効ダイナミックレンジを拡張する方法及び装置 | |
US20080278613A1 (en) | Methods, apparatuses and systems providing pixel value adjustment for images produced with varying focal length lenses | |
US20130033622A1 (en) | Method and apparatus for motion artifact correction in hdr video | |
US20130063622A1 (en) | Image sensor and method of capturing an image | |
JP2015144385A (ja) | 撮像装置およびそれを有する撮影装置 | |
US7499081B2 (en) | Digital video imaging devices and methods of processing image data of different moments in time | |
RU2491754C1 (ru) | Твердотельное устройство для съемки изображения и система для съемки изображения | |
JP3965555B2 (ja) | 画像処理装置および方法、プログラム、並びに記録媒体 | |
JP2016111568A (ja) | 像ぶれ補正制御装置、撮像装置およびそれらの制御方法、プログラム | |
JP7132799B2 (ja) | 撮像素子、撮像装置及び撮像方法 | |
US9380229B2 (en) | Digital imaging systems including image sensors having logarithmic response ranges and methods of determining motion |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20081126 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20110303 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20110906 |