JP4570834B2 - 高ダイナミックレンジ画像を獲得する方法及び装置 - Google Patents
高ダイナミックレンジ画像を獲得する方法及び装置 Download PDFInfo
- Publication number
- JP4570834B2 JP4570834B2 JP2001562014A JP2001562014A JP4570834B2 JP 4570834 B2 JP4570834 B2 JP 4570834B2 JP 2001562014 A JP2001562014 A JP 2001562014A JP 2001562014 A JP2001562014 A JP 2001562014A JP 4570834 B2 JP4570834 B2 JP 4570834B2
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- grid
- luminance value
- array
- value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/57—Control of the dynamic range
- H04N25/58—Control of the dynamic range involving two or more exposures
- H04N25/581—Control of the dynamic range involving two or more exposures acquired simultaneously
- H04N25/585—Control of the dynamic range involving two or more exposures acquired simultaneously with pixels having different sensitivities within the sensor, e.g. fast or slow pixels or pixels having different sizes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N3/00—Scanning details of television systems; Combination thereof with generation of supply voltages
- H04N3/10—Scanning details of television systems; Combination thereof with generation of supply voltages by means not exclusively optical-mechanical
- H04N3/14—Scanning details of television systems; Combination thereof with generation of supply voltages by means not exclusively optical-mechanical by means of electrically scanned solid-state devices
- H04N3/15—Scanning details of television systems; Combination thereof with generation of supply voltages by means not exclusively optical-mechanical by means of electrically scanned solid-state devices for picture signal generation
- H04N3/155—Control of the image-sensor operation, e.g. image processing within the image-sensor
Description
(発明の属する技術分野)
発明の背景
本発明は、シーン(場面)の画像を取り込む方法及び装置に関し、より詳細には比較的低いダイナミックレンジの画像センサを用いて比較的高いダイナミックレンジの画像を取り込む方法及び装置に逆る。
【0002】
仮想及び現実のあらゆるシーン又は場面は非常に大きなレンジ(範囲)の輝度値を作り出す。それに反して、既知の画像検知装置は非常に限られたダイナミックレンジを有する。例えば、ビデオ画像センサにとって、8ビット或はそれ以下のグレイスケール或はカラー情報だけを提供することは典型的である。グレイスケール画像の場合、8ビットは256個の離散グレイスケール・レベルだけを可能としており、それは殆どの現実シーンの微細な詳細を取り込むには充分ではない。
【0003】
低ダイナミックレンジの画像センサで高ダイナミックレンジ画像を取り込む問題に対する既知の解決策は、そのシーンからの光に対する露出又は露光を変更しながら、該シーンの各局所領域から成る多数の画像を取り込むことである。この解決策には3つの一般的な変形例がある。(1)一連の画像を取り込む一方で露光の一時的な変更、(2)そのシーンからの光に対して異なる感度を有する多数の画像センサ(又は多重画像センサ)を用いる、そして、(3)露光の空間的変更である。
【0004】
典型的には、一時的な露光変更は異なる露出で、そのシーンの多数の画像を逐次取り込んで、それら多数の取込画像を単一の高ダイナミックレンジ画像に組合せること又は合体させることを含む。この一時的な露光変更の使用は例えば、「Driving Method for Solid−State Image Pickup Deviceと題されたHamazakiの日本国特許第08−331461号(1996年12月発行)、「Electronic Image Pickup Device」と題されたSaitoの日本国特許第07−254965号(1995年2月発行)、「Video Camera, Imaging Method Using Video Camera, Method of Operating Video Camera, Image Processing Apparatus and Method, and Solid−State Electronic Imaging Device」と題されたKonishi等の米国特許第5,420,635号(1995年5月発行)、「Image Method for a Wide Dynamic Range and an Imaging Device for a Wide Dynamic Range」と題されたMorimuraの米国特許第5,455,621号(1993年10月発行)、「Image Picking Up and Synthesizing Method and Image Pickup Device with High Dynamic Range(高ダイナミックレンジ撮像・合成方法及び高ダイナミックレンジ撮像装置)」と題されたMorimuraの特開平06−141229号(1994年5月公開)、「Image Data Processing Apparatus for Processing Combined Image Signals in Order to Extend Dynamic Range」と題されたIkedaの米国特許第5,801,773号(1998年9月発行)、「Image Device with Diverse Storage Times Used in Image Composition」と題されたTakahashi等の米国特許第5,638,118号(1997年6月発行)、「Method and Apparatus for Extending the Dynamic Range of an Electronic Imaging System」と題されたTsaiの米国特許第5,309,243号(1994年5月発行)、Mann 及び Picardの「Being ‘Undigital’ with Digital Camera : Extending Dynamic Range by Combining Differently Exposed Pictures」, Proceedings of IST’s 48th Annual Conference, pp. 422−428, May 1995、Debevec 及び Malik の「Recording High Dynamic Range Radiance Maps for Photographs」, Proceedings of the ACM SIGGRAPH, 1997, pp. 369−378, August 1997、並びに、Mitsunaga 及び Nayar の「Radiometric Self Calibration」, IEEE Conference on Computer Vision and Pattern Recognition (CVPR), pp. 374−380, June 1999等に開示されている。しかしながら既知の一時的露光変更技術の全ては根本的問題、即ち、そのシーンにおける変化が異なる露光での逐次的画像取り込み中に生じ得ると云う根本的問題を有する。結果としてこれら技術は、そのシーンからの放射輝度又はラジアンスが一定に維持されるような静的シーン、そして画像センサの位置及び配向、そしてその幾何形状特性が、異なる露光での連続的な画像取り込み中、変化しないまま維持されるような静的シーンに対してだけ有効である。
【0005】
高ダイナミックレンジ画像形成のために1シーンの多数の画像を取り込む別の既知の技術は、多数の光学的に整合又は整列された画像センサと、そのシーンの同一眺望からの入射光をそうした多数の画像センサ(多重画像センサ)へ提供するビームスプリッタとを使用する。それら画像センサは多数の画像が異なる露光で同時に取り込まれるように異なる感度を有する。次いで、そうした画像センサによって取り込まれた多数の画像は合体させられ、単一のダイナミックレンジ画像を形成する。そうした技術は、例えば、Doi等の「Image Sensor」と題された日本国特許第08−22341号(1986年8月発行)、Saitoの「Electronic Image Pickup Device」と題された日本国特許第07−25495号(1995年2月発行)、Saitoの「Electronic Image Pickup Device」と題された日本国特許第07−254966号(1995年10月発行)、Saitoの「Electronic Image Pickup Device」と題された日本国特許第08−340486号(1996年12月発行)、Kimuraの「Image Pickup Device」と題された日本国特許第10−069011号(1998年3月発行)、Ikedaの「Image Data Processing Apparatus for Processing Combined Image Signals in Order to Extend Dynamic Range」と題された米国特許第5,801,773号(1998年9月発行)等に記載されている。多重画像センサ技術は、高精度の光学系を必要とすると共に、多数の画像センサを必要として、小型且つ安価な画像形成システムをこれら技術を用いて構築することは難しいと云う短所を有する。
【0006】
高ダイナミックレンジ画像形成に対する既知の空間的露光変形技術は、典型的には、各ピクセルに対して異なる感度を有する2つ以上(典型的には3つ以上)の光検知素子を有する特殊な画像センサを用いる。各ピクセルに対するこれらの光検知素子は同時に露光されて、それらの対応する出力信号が組み合わされてそのピクセルに対する輝度値を誘導する。そうした技術は、例えば、Street等の「High Dynamic Range Segmented Pixel Sensor Array」と題された米国特許第5,789,737号(1998年8月発行)、Handyの「High Dynamic Range CCD Detector/Imager」と題された米国特許第4,623,928号(1986年11月発行)、Wenの「High Dynamic Range Charge Coupled Device」と題された米国特許第4,873,561号(1989年10月発行)、Hamazakiの「Driving Method for Solid−State Image Pickup Device」と題された日本国特許第08−331461号(1996年6月)、Murakoshiの「Charge Coupling Image Pickup Device」と題された日本国特許第59−217358号(1994年12月発行)、Konishi等の「Video Camera Imaging Method Using video Camera, Method of Operating Vide Camera, Image Processing Apparatus and Method, and Solid−State Electronic Imaging Device」と題された米国特許第5,420,635号(1995年5月発行)に記載されている。しかしながら高ダイナミックレンジ画像形成に対する既知の空間的露光変形技術は、より低い空間的解像度を提供すると云う短所を有する(同一数の光検知素子を有する通常の画像センサの解像度と比較して垂直方向において1/2より低い)。
【0007】
従って、先に議論されたような先行技術の問題を克服するような、比較的低いダイナミックレンジ画像センサを用いて比較的高いダイナミックレンジ画像を取り込む方法及び装置の要望が存在する。
【0008】
発明の概要
本発明の一局面に従えば、シーンからの入射光に露出される比較的低いダイナミックレンジ画像センサを用いてそのシーンの比較的高いダイナミックレンジ画像を取り込むための方法が提供される。この画像センサは線形アレイ状或は2次元アレイ状の多数の光検知素子を有し、各光感知素子は複数の光感知素子から成るアレイに対する所定感度パターンに従って入射光に対する複数の感度レベルの内の対応する1つを有する。シーンからの入射光に応ずるアレイ状の光検知素子の各々は、ピクセル位置アレイにおける多数のピクセル位置の内の対応する1つでの取込画像輝度値を作り出し、そのピクセル位置アレイは、規則正しく離間されて直交したピクセル行及びピクセル列のそれぞれの交差点で、ピクセル位置を有する行アレイ状或は矩形アレイ状における規則正しく離間された複数のピクセル位置を有する線形アレイであり得る。このようにして、各ピクセル位置は複数の感度レベルと1対1で対応している。本方法は、ピクセル位置アレイにおける多数のピクセル位置での取込画像輝度値から、多数のオフ−グリッド位置での各オフ−グリッド輝度値を推定する段階を含み、そのオフ−グリッド位置が前記ピクセル位置アレイの各隙間に配置されて規則正しいアレイ状になっている。この方法は、前記多数のオフ−グリッド位置での推定オフ−グリッド輝度値から、前記シーンの比較的高いダイナミックレンジ画像のピクセル輝度値を誘導する段階を更に含む。前記ピクセル位置アレイが線形アレイであり、該アレイにおいて、各ピクセル位置での前記輝度値が線形画像センサにおける対応する光検知素子によって取り込まれる場合、前記オフ−グリッド位置が規則正しい線形アレイ状であり、前記比較的高いダイナミックレンジ画像がピクセル輝度値の規則正しい線形アレイによって表される線形画像である。前記ピクセル位置アレイが規則正しく離間されて直交するピクセル行及びピクセル列の各交差点によって規定される場合、前記アレイにおける前記ピクセル位置の輝度値が、2次元画像センサにおける対応する光検知素子によって取り込まれ得るか、或は、線形画像センサによって連続的に取り込まれたスキャン済みシーンのライン画像を表す線形ピクセル位置アレイにおけるピクセル位置での輝度値の鎖状結合であり得る。
【0009】
本発明に係る方法の模範的な実施例に従えば、オフ−グリッド位置は規則正しい線形状であるか或は矩形アレイ状であり、比較的高いダイナミックレンジ画像のピクセル輝度値を誘導する前記段階がその比較的高いダイナミックレンジ画像のピクセル輝度値として、前記推定オフ−グリッド輝度値を用いることを含む。
【0010】
本発明に係る方法の別の模範的な実施例に従えば、前記比較的高いダイナミックレンジ画像のピクセル輝度値を誘導する前記段階が、前記多数のオフ−グリッド位置での前記推定オフ−グリッド輝度値の再標本化を含んで、前記ピクセル位置アレイにおける前記多数のピクセル位置での各再標本化された輝度値を誘導し、それによって前記比較的高いダイナミックレンジ画像の前記ピクセル輝度値を獲得する。
【0011】
本発明に係る方法の更に別の模範的な実施例に従えば、前記多数のピクセル位置での前記取込画像輝度値から、前記多数のオフ−グリッド位置での各オフ−グリッド輝度値を推定する前記段階が、前記感度レベルの個々別々の1つと対応するピクセル位置での前記取込画像輝度値だけを用いて、前記オフ−グリッド位置の各々における前記複数の感度レベルの内の個別レベルの1つに対する感度レベル・オフ−グリッド輝度値を推定する段階を含む。前記オフ−グリッド位置の各々における前記感度レベルの内の個別の1つに対する感度レベル・オフ−グリッド輝度値は、前記感度レベルの個別の1つに対する所定の重み付け係数によって乗算されて、前記オフ−グリッド位置の各々での感度レベルの内の相互に異なるものに対する各重み付け感度レベル・オフ−グリッド輝度値を誘導する。前記オフ−グリッド位置の各々での前記感度レベルの内の相互に異なるものに対する前記の各重み付け感度レベル・オフ−グリッド輝度値は一緒となって合算されて、前記オフ−グリッド位置各々での重み付け合計感度レベル輝度値を誘導する。前記オフ−グリッド位置の各々でのその重み付け合計感度レベル輝度値は、前記光検知素子の組合せ応答関数の逆関数によって補償されて、前記オフ−グリッド位置での各推定オフ−グリッド輝度値を誘導する。光検知素子の組合せ応答関数は、前記感度レベルの内の相互に異なるものを有する光検知素子の重み付け応答関数の合計であり、各重み付け応答関数は前記感度レベルの各々に対する所定重み付け係数によって乗算された感度レベルの各々を有する光検知素子の応答関数である。
【0012】
本発明の更なる別の模範的な実施例に従えば、前記多数のピクセル位置における前記取込画像輝度値から、前記多数のオフ−グリッド位置での各オフ−グリッド輝度値を推定する前記段階は、最も近い隣接ピクセル位置の内の個々別々の1つと対応する感度レベルを有する光検知素子の応答関数の逆関数によって、前記オフ−グリッド位置の内の個々別々の1つに最も近い隣接であるピクセル位置の所定群の内の個々別々の1つでの前記取込画像輝度値を先ず補償することによって、前記オフ−グリッド位置の内の個々別々の1つでのオフ−グリッド輝度値を推定することを含む。前記最も近い隣接ピクセル位置での前記補償された取込画像輝度値は、所定の低い閾値及び所定の高い閾値と比較され、前記所定の低い閾値よりも大きく且つ所定の高い閾値より小さい前記補償された最も近い隣接ピクセル位置輝度値の合計が取られる。その合計は、該合計に含まれる補償された最も近い隣接ピクセル位置輝度値の数によって分割されて、前記オフ−グリッド位置の内の個々別々の1つに対する推定されたオフ−グリッド輝度値を誘導する。
【0013】
本発明に係る方法の更なる模範的な実施例に従えば、前記ピクセル位置アレイにおける各ピクセル位置での補間されたオン−グリッド輝度値は、オン−グリッド補間フィルタを用いて、前記取込画像輝度値から直に誘導される。前記ピクセル位置の各々での前記補間オン−グリッド輝度値は、前記ピクセル位置の各々に最も近い隣接であるピクセル位置の所定群での前記取込画像輝度値と、オン−グリッド補間フィルタ・カーネルとの積を算定することによって誘導され、前記所定群のピクセル位置は前記フィルタ・カーネルと同一の寸法を有する。次いで前記補間オン−グリッド輝度値は、それぞれ、異なる感度レベルを有する光検知素子の組合せ応答関数の逆関数によって補償されて、前記比較的高いダイナミックレンジ出力画像の前記ピクセル輝度値を誘導する。
【0014】
本発明の別の局面に従えば、シーンからの入射光露出に適合された比較的低いダイナミックレンジ画像センサを用いて、そのシーンの比較的高いダイナミックレンジ画像を取り込むシステムが提供される。このシステムは、線形或は2次元アレイ状の多数の光検知素子を有する画像センサを備える。そのアレイにおける各光検知素子は、該光検知素子から成るアレイに対する所定感度パターンに従って入射光に対する複数の感度レベルの内の対応する1つを有する。各光検知素子はそのシーンからの入射光に応じて、ピクセル位置アレイにおける多数のピクセル位置の内の対応する1つで取込画像輝度値を作り出し、そのアレイは、規則正しく離間された直交するピクセル行及びピクセル列の各交差点に配置されたピクセル位置を有する行状或は矩形アレイ状の規則正しく離間されたピクセル位置を有する線形アレイであり得る。このようにして、各ピクセル位置は前記光検知素子の前記複数の感度レベルの内の各々と対応している。本システムは、前記光検知素子によって作り出される前記多数のピクセル位置での各取込画像輝度値を保存する取込画像メモリと、前記ピクセル位置アレイの各隙間に規則正しいアレイ状に配置された多数のオフ−グリッド位置での各推定オフ−グリッド輝度値を、前記取込画像メモリにおける前記取込画像輝度値から誘導するオフ−グリッド推定器とを更に含む。本システムは、前記推定オフ−グリッド輝度値から比較的高いダイナミックレンジ出力画像のピクセル輝度値を誘導する出力画像発生器と、前記出力画像の前記ピクセル輝度値を保存する出力画像メモリとを更に含む。前記ピクセル位置アレイが線形アレイであり且つ前記取込画像メモリが線形画像センサの対応する光検知素子によって取り込まれた輝度値を保存する場合、前記オフ−グリッド位置は規則正しい線形アレイであり、前記出力画像はピクセル輝度値の規則正しいアレイによって表される線形画像である。前記ピクセル位置アレイが規則正しく離間されて直交するピクセル行及びピクセル列の各交差点によって規定された矩形アレイである場合、前記取込画像メモリは2次元画像センサの対応する光検知素子によって取り込まれた輝度値か、或は、線形画像センサによって連続的に取り込まれたスキャン済みシーンの複数のライン画像の線形ピクセル位置アレイ輝度値の鎖状結合かを保存し得る。後者の場合、前記オフ−グリッド位置は規則正しい2次元アレイ状であり、前記出力画像はピクセル輝度値から成る規則正しい2次元アレイによって表される2次元画像である。
【0015】
本発明に係るシステムの模範的な実施例に従えば、前記出力画像発生器は前記オフ−グリッド推定器によって誘導された前記推定されたオフ−グリッド輝度値を、前記出力画像の前記ピクセル輝度値として前記出力画像メモリへ提供する。
【0016】
本発明に係るシステムの別の模範的な実施例に従えば、本システムは前記オフ−グリッド位置での前記オフ−グリッド推定器によって誘導された前記推定オフ−グリッド輝度値各々を保存するオフ−グリッド輝度値メモリと、前記オフ−グリッド輝度値メモリにおける前記推定オフ−グリッド輝度値から前記ピクセル位置アレイにおける前記ピクセル位置での各再標本化輝度値を誘導するオフ−グリッド・リサンプラーとを含む。次いで再標本化輝度値は、前記出力画像の前記ピクセル輝度値として保存のために前記出力画像メモリへ提供される。
【0017】
本発明に係るシステムの更なる模範的な実施例に従えば、前記オフ−グリッド推定器は、前記多数のオフ−グリッド位置を提供するオフ−グリッド位置発生器と、前記ピクセル位置と対応する前記感度レベルを保存する感度パターン・メモリとを含む。前記オフ−グリッド推定器は、複数の感度レベル・オフ−グリッド輝度値推定器をも含み、その各々は前記光検知素子の前記複数の感度レベルの各々と対応し、前記オフ−グリッド位置発生器からオフ−グリッド位置を受け取ると共に、前記感度パターン・メモリから感度レベル・データを受け取り、そして、前記取込画像メモリにおける前記取込画像輝度値から複数の感度レベル・オフ−グリッド輝度値を誘導しており、前記複数の感度レベル・オフ−グリッド輝度値の各々は、前記オフ−グリッド位置発生器から受け取られる前記オフ−グリッド位置の各々での前記複数の感度レベルの内の相互に異なるものと対応している。前記オフ−グリッド推定器は、前記オフ−グリッド位置の各々で前記複数の感度レベル・オフ−グリッド輝度値推定器によって誘導された前記感度レベル・オフ−グリッド輝度値を受け取る蓄積器をも含む。前記蓄積器は、各々が前記複数の感度レベルの各々と対応している、複数の所定重み付け係数のそれぞれを保存する重み付け係数メモリと、各々が前記複数の感度レベル各々と対応する前記感度レベル・オフ−グリッド輝度値と同一感度レベルと対応する前記重み付け係数との積を算定する複数の乗算器とを含んで、前記オフ−グリッド位置発生器から受け取られる前記オフ−グリッド位置の各々における前記感度レベル各々と対応する各重み付け感度レベル・オフ−グリッド輝度値を提供する。前記蓄積器は、前記複数の乗算器によって算定された前記受け取られたオフ−グリッド位置の各々での前記感度レベルのそれぞれと対応している前記重み付け感度レベル・オフ−グリッド輝度値を合算する合算器を更に含み、前記受け取られたオフ−グリッド位置の各々における各重み付け合計感度レベル・オフ−グリッド輝度値を誘導する。前記オフ−グリッド推定器は、光感度素子の組合せ応答関数の逆関数によって前記重み付け合計感度レベル・オフ−グリッド輝度値の各々を補償する応答関数の補償器を更に含み、前記オフ−グリッド位置での前記各推定オフ−グリッド輝度値を誘導する。前記光感度素子の組合せ応答関数は、前記感度レベルの内の相互に異なるものを有する光検知素子の重み付け応答関数の合計であり、前記重み付け応答関数の各々は、前記複数の感度レベルのそれぞれと対応する所定重み付け係数によって乗算された前記複数の感度レベルのそれぞれを有する光検知素子の応答関数である。
【0018】
本発明に係るシステムの更なる別の模範的な実施例に従えば、前記オフ−グリッド推定器は、前記多数のピクセル位置を提供するピクセル位置発生器と、前記多数のピクセル位置と対応する感度レベルを保存する感度パターン・メモリと、前記ピクセル位置発生器からの受け取られたピクセル位置と前記感度パターン・メモリからの対応する感度レベルとに結合された応答関数補償器とを含む。前記応答関数は、前記取込画像メモリから、前記ピクセル位置発生器から受け取られる前記ピクセル位置での取込画像輝度値を受け取り、該受け取られた取込画像輝度値を前記受け取られたピクセル位置と対応する感度レベルを有する光検知素子の応答関数の逆関数によって補償して、前記ピクセル位置発生器から受け取られる前記ピクセル位置それぞれでの補償済み取込画像輝度値を提供する。前記オフ−グリッド推定器は、各ピクセル位置での各補償された取込画像輝度値を保存する補償済みオン−グリッド輝度値メモリ、前記多数のオフ−グリッド位置を提供するオフ−グリッド位置発生器、並びに、類似逆推定器をも含む。前記類似逆推定器は、前記オフ−グリッド位置発生器からオフ−グリッド位置を受け取り、前記補償済みオン−グリッド輝度値メモリにおける前記補償済み取込画像輝度値から前記受け取られたオフ−グリッド位置での前記各推定オフ−グリッド輝度値を誘導する。
【0019】
本発明に係るシステムであって、前記オフ−グリッド推定器によって誘導された前記多数のオフ−グリッド位置でのそれぞれの推定オフ−グリッド輝度値を保存するオフ−グリッド輝度値メモリ、前記オフ−グリッド輝度値メモリにおける前記推定オフ−グリッド輝度値から前記ピクセル位置アレイにおける前記多数のピクセル位置でのそれぞれの再標本化された輝度値を誘導するオン−グリッド・リサンプラーを含むシステムの更なる模範的な実施例において、前記オン−グリッド・リサンプラーが、前記多数のピクセル位置を提供するピクセル位置発生器と、前記ピクセル位置発生器からピクセル位置を受け取る補間器であり、受け取られたピクセル位置に最も近い隣接である所定数のオフ−グリッド位置での前記推定オフ−グリッド輝度値と、前記所定数の最も近い隣接オフ−グリッド位置と同一の寸法を有する補間カーネルとの積を算定することで、受け取られたピクセル位置の各々に対するそれぞれの再標本化輝度値を誘導する補間器とを含む。
【0020】
本発明に係るシステムの更なる別の模範的な実施例において、シーンからの入射光露出に適合された比較的低いダイナミックレンジ画像センサを用いて、そのシーンの比較的高いダイナミックレンジ画像を取り込むシステムが提供されている。このシステムは、線形或は2次元アレイ状の多数の光検知素子を有する画像センサを含み、その光検知素子各々が前記光検知素子アレイに対する所定感度パターンに従った複数の感度レベルのそれぞれを有すると共に、そのシーンからの入射光に応じて多数のピクセル位置の対応する1つでの取込画像輝度値を作り出しており、前記ピクセル位置アレイは矩形であり、前記取込画像輝度値は、2次元画像センサにおける対応する光検知素子によって作り出され得るか、或は、前記画像センサによって連続的に取り込まれたスキャン済みシーンの複数ライン画像の線形輝度値アレイの鎖状結合であり得る。本システムは、ピクセル位置アレイにおける各ピクセル位置での光検知素子によって作り出される前記取込画像輝度値を保存する取込画像メモリを更に含み、それは規則正しく離間された直交するピクセル行及びピクセル列の各交差点に配置されたピクセル位置を有する行状或は矩形アレイ状の規則正しく離間されたピクセル位置を有する線形アレイであり得る。また本システムは、前記ピクセル位置アレイにおける前記ピクセル位置を提供するピクセル位置発生器と、前記ピクセル位置発生器からピクセル位置を受け取って、前記取込画像メモリにおける前記取込画像輝度値から前記ピクセル一発生器から受け取られた前記ピクセル位置での補間オン−グリッド輝度値を誘導するオン−グリッド補間フィルタとを含む。前記フィルタは、前記ピクセル位置発生器から受け取られる各ピクセル位置に最も近い所定数の隣接ピクセル位置での取込画像輝度値と、オン−グリッド補間フィルタ・カーネルとの積を算定して、前記ピクセル発生器から受け取られる各ピクセル位置での補間オン−グリッド輝度値を誘導し、前記オン−グリッド補間フィルタの寸法は前記所定数の最も近い隣接ピクセル位置の寸法と同一である。本システムに更に含まれるものとしては、前記光検知素子の組合せ応答関数の逆関数によって前記受け取られたピクセル位置各々での前記補間オン−グリッド輝度値を補償して、前記受け取られたピクセル位置での補償済み補間オン−グリッド輝度値を誘導する応答関数補償器と、高ダイナミックレンジ出力画像の前記ピクセル輝度値として前記ピクセル位置アレイのピクセル位置各々での前記補償された補間オン−グリッド輝度値を保存する出力画像メモリとがある。前記光検知素子の組合せ応答関数は、前記複数の感度レベルの異なるものを有する光検知素子の重み付け応答関数の合計であり、それら重み付け応答関数の各々は、前記複数の感度レベルのそれぞれに対する所定の重み付け係数によって乗算された前記複数の感度レベルのそれぞれを有する光検知素子の応答関数である。
【0021】
本発明の特性及び利益のより完全な理解のために、添付図面と組み合わせて以下の詳細な説明を参照すべきである。添付図面中、同一の参照番号及びキャラクタは、共通する特徴、構成要素、パーツ、プロセス、並びに、ステップを指定すべく使用されている。
【0022】
詳細な説明
図1で参照されるように、本発明に従った比較的低いダイナミックレンジ画像センサを用いて比較的高いダイナミックレンジの画像を取り込むシステムに対するデータのフロー線図100が示されている。このシステムは、アレイ状(不図示)の多数の光検知素子を有する比較的低いダイナミックレンジ画像センサ(図1では不図示)を含む画像検知部1を有する。この明細書及び請求項で使用されている用語「光」は、何れの場所においても遠赤外線からX−線までのスペクトルであり得る波長を有する電磁輻射線を意味する。画像センサの光検知素子から成るアレイは、制約無しに、矩形、線形、円形、並びに、六角形のグリッドを含む任意の配列を有し得て、アレイにおけるそれら光検知素子は均一に配置される必要性がない。複数の光検知素子から成るアレイは入射光に対して所定の空間的変動感度パターンを有し、画像センサにおける各光検知素子はシーン(場面)からの入射光に応じて、複数の規則正しく離間されたピクセル行と、それらピクセル行とは直交する複数の規則正しく離間されたピクセル列とのそれぞれの交差点によって規定されたピクセル位置アレイにおける多数のピクセル位置の内の対応する1つのピクセル位置での(図1では不図示)、取込画像輝度値を提供する。それら光検知素子によって提供されたそれぞれのピクセル位置での取込画像輝度値は、このシステムの画像処理部2における取込画像メモリ(図1では不図示)に保存される。この画像処理部2は、画像検知部1における画像センサの空間的変動感度パターンによって生ずる画像輝度に関しての変動を除去する役割を果たし、比較的高いダイナミックレンジ出力画像を表す、それぞれのピクセル位置における再標本化(再標本抽出された)輝度値を出力画像メモリ3へ提供する。
【0023】
図2へ移ると、図1のデータ・フロー線図の画像処理部2のデータ・フロー線図200が示されている。画像センサによって提供されたような、ピクセル位置アレイにおけるそれぞれのピクセル位置での取込画像輝度値は取込画像メモリ20に保存される。この取込画像メモリ20における取込画像輝度値は、オフ−グリッド(格子点外れの)のエスタマター(estimator)又は推定器22によって使用されて、ピクセル位置アレイにおけるそれぞれの交差点に配置されたオフ−グリッド位置での推定オフ−グリッド輝度値を誘導する。次いでそれぞれのオフ−グリッド位置でのこれら推定オフ−グリッド輝度値は、オン−グリッド・リサンプラー(on−grid resampler)23によって再標本化が為されて、それぞれのピクセル位置での再標本化輝度値を誘導する。これら再標本化輝度値は、比較的高いダイナミックレンジ画像を表すピクセル輝度値として、出力画像メモリ21に保存される。画像センサの光検知素子の内の各々によって作り出される輝度値は他の光検知素子によって作り出された輝度値と合体させられないので、画像センサによって取り込まれた画像の解像度に逆る低減は存在しない。また、それぞれのオフ−グリッド位置での輝度値はそれぞれのピクセル位置での取込画像輝度値から推定され、それぞれのピクセル位置での再標本化輝度値はオフ−グリッド位置での推定オフ−グリッド輝度値の再標本化によって誘導されるので、光検知素子の内の任意の1つによって作り出される取込画像輝度値は再標本化輝度値の内の任意の1つに寄与することができる。結果として、出力画像メモリ21における再標本化出力画像は取込画像メモリ20における取込画像と殆ど同一の解像度を有する。
【0024】
図3で参照されるように、本発明の模範的な実施例に従ったシステム300のハードウェア構成要素のブロック線図が示されている。このシステム300は、画像検知部1、画像処理部2、並びに、ビデオ出力部4を有する。1つのシーンが、所定の空間的変動感度パターンを有する画像センサを伴う画像検知部1によって取り込まれる。画像検知部1は取り込まれた画像(取込画像)を表す画像信号を画像処理部2へ提供する。画像処理部は、画像センサの空間的変動感度パターンによって生ずる画像の輝度に逆る変動を除去し、出力画像信号をビデオ出力部4へ提供する。ビデオ出力部4は本発明の一部ではないが、比較的高いダイナミックレンジ画像を表す出力ビデオ信号を提供する完全なビデオ画像形成システムを示す目的のためにここに含まれている。
【0025】
画像検知部1は、レンズ系6、アパチャー7、電荷結合素子(CCD)画像センサ9、並びに、前置増幅器(プリアンプ)10を含む。シーンからの入射光5はレンズ系6及びアパチャー7をCCD画像センサ9に到着する前に通過する。CCD画像センサ9は所定の空間的変動感度パターンを有し、それに従ってこの画像センサ9の光検知素子(不図示)各々の感度レベルが決定される。CCD画像センサ9に対する空間的変動感度パターンを提供する異なる模範的な方法は以下に記載される。前置増幅器10は、CCD画像センサ出力の振幅を調整する自動利得制御回路や、ノイズ低減のための相関二重標本回路等の、ビデオカメラに典型的に用いられる幾つかのアナログ回路を含む一群から構成される。
【0026】
画像検知部2は、アナログ−ディジタル(A/D)・コンバータ11、フレーム・メモリ12、ディジタル−アナログ(D/A)・コンバータ13、読み出し専用メモリ(ROM)14、ランダム・アクセス・メモリ(RAM)15、並びに、処理ユニット16を有する。A/Dコンバータ11は画像検知部1からの画像信号をディジタル化し、ディジタル化された画像データ(それぞれのピクセル位置での取込画像輝度値)はフレーム・メモリ12内に保存される。画像処理部2での計算又は算定は処理ユニット16によって遂行され、該処理ユニットは、フレーム・メモリ12、ROM14、並びに、RAM15の各データとアクセスする。処理ユニット16の算定を遂行するために該処理ユニットによって使用されるべき予め規定されたデータ及びプログラムは、ROM14内に保存されている。RAM15の一部は、処理ユニット16による算定中にデータの一時的保存のために使用される。フレーム・メモリ12に保存されているそれぞれのピクセル位置での算定された再標本化輝度値は、D/Aコンバータ13によってアナログ画像信号に変換されてビデオ出力部4へ提供される。
【0027】
ビデオ出力部4は、ビデオ・エンコーダ17及び出力ユニット18を備える。画像処理部2からのアナログ画像信号はビデオ・エンコーダ17によってビデオ信号にコード化され、出力ユニット18はビデオ出力信号19を出力する。
【0028】
画像検知部
CCD画像センサ9の空間的変動感度パターンは固定パターン・マスクを用いること或はワンチップ技法の何れかによって具現化され得る。ここで図4へ移ると、所定の空間的変動露光パターンを有する固定パターン・マスク101の一例が示されている。この例において、固定パターン・マスク101は異なる透明度(減衰度)の複数セルから成る2次元アレイを有するプレートである。マスク101の露光パターンは、それぞれが異なる透明度を有する4つの最も近くの隣接セルから成る同等セル群の反復パターンによって規定される。4つの最も近くの隣接セルから成るそうしたセル群の一例が図5に示されている。このセル群は、マスク101のセル群の全てに共通する所定の位置順序で配列された最も透明なセル102、透明なセル103、より劣る透明なセル104、並びに、最も劣る透明なセル105を有する。マスク101の各セルは画像センサのそれぞれの光検知素子の感度レベルを制御すべく使用される。CCD画像センサの場合、マスク101はCCD装置の光感受性領域上に透明層を形成し、既知のフォトリソグラフィ法及びエッチング技法を用いて、所望の露光パターンでマスクを形成すべく、その層にパターンニングを施して異なる透明度の複数セルを形成することで、CCD装置と同一基板上に製作され得る。代替的には、光検知素子の光検知面自体にマスク・エッチング操作を行わせて、予め選択された光検知素子の感光性を所望レベルに改変する。固定パターン・マスク101を用いることによって、4つの隣接セル102,103,104,105からそれぞれが成る各種セル群の内の1つセル群を通して露光された取込画像の各局所領域は4つの異なる露光量を有することになる。このようにして、取込画像のあらゆるそうした局所領域は、4つの異なる露光(即ち、異なる感度レベルを有する4つの光検知素子)の結果として、比較的高いダイナミックレンジを有することになる。
【0029】
図6を参照すると、固定パターン・マスク101を用いてシーンの画像を取り込むための構成が図示されている。同図に示されるように、固定パターン・マスク101は画像センサ108の前方に直に配置されている。マスク101は画像センサ108と整合又は整列されて、該マスク101の各セルは画像センサ108の対応する光検知素子(不図示)の前方に直に位置決めされる。そのシーンからの入射光はカメラ光学系109を通過してから、マスク101を介して画像センサ108の画像平面上に合焦させられる。画像センサ108の各光検知素子によって検出される入射光の輝度は、その光検知素子の前方におけるマスク・セルの透明度によって決定される。図6で取り込まれることになるシーンには、明るい物体106と暗い物体107とが存在する。
【0030】
図7へ移ると、固定パターン・マスク101を通じて画像センサ108によって取り込まれた、図6におけるシーンの画像の表示110が示されている。図7で留意されることは、もし、より明るい露出のピクセルが明るい物体106の一領域において飽和輝度値を有したとしても、同一領域に対するより暗い露出のピクセルが非飽和輝度値を有することである。同様に、もしより暗い露出のピクセルが、図6における暗い物体107の領域からの入射光を受け取る光検知素子のノイズ・レベルを下回る輝度値を有したとしても、同一領域からの入射光を受け取るより明るい露出のピクセルはそのノイズ・レベルを上回る輝度値を有することになる。
【0031】
図8を参照すると、光検知素子と、本発明に従ったシステムを具現化する画像センサの好適タイプである典型的なCCD画像センサの関連構造との断面の概略表示800が示されている。光検知素子は、p−ウェル領域190内に形成されたn型領域115から成るフォトダイオードを含む。このフォトダイオードは、入射光での露光に適合された光検知面191を有して、作動的にバイアスされて(n型領域115がp−ウェル領域190に対して逆バイアスされる)、p−ウェル領域内にポテンシャル・ウェルを形成して光発生電荷を内部に保存する。フォトダイオードに関連される転送ゲート電極114は、それに自体に対する適切な電圧信号の印加に及んで、フォトダイオード内に保存される光発生電荷に対するチャネルを形成して、以下により詳細に説明されるように垂直シフトレジスタ(図8では不図示)へ進ませる。不透明な光シールド層113は、入射光がCCD画像センサのフォトダイオードの光検知面以外の領域に到達することを防止すべく形成される。アパチャー192がその光シールド層113内に形成されて、CCD画像センサにおけるフォトダイオードの各々の光検知面191を露出する。オンチップ・マイクロレンズ111はフォトダイオードの光検知面191上方に形成され得る。特にカラーCCD画像センサの場合、そのオンチップ・マイクロレンズ111とフォトダイオードの光検知面191との間にはオンチップ光学的フィルタ112が形成される。
【0032】
図9へ移ると、2つの光検知素子が異なる感度レベルを有しているCCD画像センサにおける、2つの隣接光検知素子及び関連構成の断面の概略表示900が示されている。この図における左側の光検知素子はオンチップ・マイクロレンズ111を有して、入射光をフォトダイオードの光検知面191上に集中させる一方、右側の光検知素子はそのフォトダイオードの光検知面191上方にオンチップ・マイクロレンズを有さない。それ故に左側の光検知素子は、その光検知面191で、右側の光検知素子よりも大きな強度の入射光を受け取ることになる。このようにして、左側の光検知素子は右側の光検知素子よりも高い感度レベルを有するように製作される。画像センサの予め選択された光検知素子の上方にオンチップ・マイクロレンズ111を形成することで、2つの感度レベルを有する所定の空間的変動感度パターンがCCD画像センサ用に達成される。
【0033】
図10へ移ると、CCD画像センサの2つの隣接光検知素子及び関連構造の断面の概略表示1000が示されており、異なる感度レベルを伴う光検知素子を提供する代替的な技法が図示されている。オンチップ・フィルタ116及び117が、左右のフォトダイオードのオンチップ・マイクロレンズ111及び光検知面191の間にそれぞれ対応して形成されている。これらフィルタ116及び117は入射光に対して異なる透明度を有するように形成され、よって左右の光検知素子が異なる感度レベルを有するに為す。所定の透明度を獲得すべく、CCD画像センサの各フォトダイオードの光検知面191上方にフィルタを形成することで、所定の空間的変動感度パターンがCCD画像センサ用に達成される。
【0034】
図11を参照すると、CCD画像センサの2つの隣接光検知素子及び関連構造の断面の概略表示1100が示されている。光シールド層113は左右の光検知素子の各光検知面191上方にアパチャー118及び119を有する。光シールド層113におけるこれらアパチャー118及び119は異なるサイズを有するように形成されて、異なる量の入射光が左右のフォトダイオードの光検知面191に到達可能とする。所定のサイズを獲得すべく、画像センサの各光検知素子の光検知面191上方にアパチャーを形成することで、所定の空間的変動感度パターンが画像センサ用に達成される。
【0035】
図12を参照すると、4つのフォトダイオード121,122,123,124と、フォトダイオード121及び123とフォトダイオード124及び122との各列が対応する垂直シフトレジスタ125及び垂直シフトレジスタ126に隣接して配置されている行間挿入構造とを有する簡略化されたCCD画像センサを表す概略レイアウト線図1200が示されている。図8に関連して先に説明されたように、各フォトダイオードは関連転送ゲート電極114を有する。適切な電圧転送トリガー信号が1つのフォトダイオードに関連された転送ゲート電極114に印加されると、そのフォトダイオード内に保存される光発生電荷が対応する垂直シフトレジスタの各段階へ進むことが可能とされ、露出又は露光の持続期間中にその中に蓄積される。図12の線図は4つの転送トリガー入力129,130,131,132を示し、これらがフォトダイオード121,122,123,124と関連された転送ゲート電極へ転送トリガー信号を印加して、フォトダイオード121,122,123,124に保存された光発生電荷を対応するシフトレジスタ125及び126の各段階へ転送する。各露出期間の終了時、フォトダイオードから転送されて垂直シフトレジスタの各段階に蓄積された保存光発生電荷は、水平シフトレジスタ127へ向かって3相クロック(不図示)によって各垂直シフトレジスタ25及び126内でシフトされる。ひとたび水平シフトレジスタ127内になると、フォトダイオード121,122,123,124の各々からの蓄積された光発生電荷は、出力端子128へ向かって2相クロック(不図示)によって順次シフトアウトされ、該出力端子では、各電荷パケットがその出力端子128に到着する蓄積された光発生電化パケットの大きさに比例する電圧信号として検出される。
【0036】
図13へ移ると、n型領域115及びp−ウェル領域190によって形成されたフォトダイオード、n型領域135及びp−ウェル領域190によって形成された対応する垂直シフトレジタの1段階、前記フォトダイオード及び前記シフトレジスタ段階を分離するp型障害領域134、並びに、転送トリガー入力137と接続されたフォトダイオードと関連された転送ゲート電極114の断面の概略表示1300が示されている。シフトレジスタ段階はp−ウェル190に対して適切にバイアスされたn型領域135を含んで、該シフトレジスタ段階へ転送される光発生電荷を受け取って蓄積するポテンシャル・ウェル(不図示)を形成する。トリガー・パルス信号が端子137に印加されると、n型領域115及びp−ウェル190によって形成されたフォトダイオードのポテンシャル・ウェルに保存された光発生電荷が、矢印138で示されたように、障害領域134下方のチャネルを通過してシフトレジタ段階のポテンシャル・ウェルへ進むことを可能としている。
【0037】
トリガー入力137への転送トリガー・パルスの周期的な印加に加えて、各フォトダイオードに保存された光発生電荷は、リセット入力133へのリセット・パルス信号の周期的な印加によって周期的に放電される。各リセット・パルス電圧信号の印加は、p−ウェルと重くドープされたn型電荷シンク領域120との間の接合を適切にバイアスして、CCD画像センサの各フォトダイオードのポテンシャル・ウェルに保存された実質的に全ての光発生電荷を矢印139で示されたように電荷シンク領域120へ転送させる。
【0038】
次に図14へ移ると、露出パルス193、リセット・トリガー・パルス194、図12に示される模範的なCCD画像センサの4つのフォトダイオードと関連された転送トリガー・パルス195,198,261,264、並びに、模範的なCCD画像センサの4つのフォトダイオードPD4,PD3,PD2,PD1における保存光発生電荷196,199,262,265のタイミング線図が示されている。画像を取り込む露出期間である継続期間は、露出パルス193の幅によって決定される。リセット・パルス194がCCD画像センサのリセット・トリガー入力133に印加される度に、画像センサの各フォトダイオードに保存された光発生電荷は以下に説明される理由のためにゼロへなる。CCD画像センサにおける全てのフォトダイオードが入射光に露出されるので、波形196,199,262,265によって表される光発生電荷の大きさはリセット・パルス194間に増大する。先に説明されたように、転送トリガー・パルスがフォトダイオードに関連された転送ゲート電極に印加される度に、フォトダイオードに保存された光発生電荷は対応する垂直シフトレジスタの各段階へ転送される。フォトダイオードPD4の場合、転送トリガー・パルス195がその関連された転送ゲート電極にリセット・パルス194と同一周波数であるが各転送トリガー・パルス195は次のリセット・パルス194に密着して先行するように位相がシフトされた状態で印加される。各転送トリガー・パルス195は、対応する黒塗り領域197によって表される電荷量を対応する垂直シフトレジスタの各段階へ転送させ、その転送された電荷は露出パルス193の継続期間にわたってそこに蓄積される。
【0039】
転送トリガー・パルス195と同一幅を有する転送トリガー・パルス198は、フォトダイオードPD3に関連された転送ゲート電極に転送トリガー・パルス195の周波数の半分の周波数で印加される。転送トリガー・パルス198の位相は、各トリガー・パルス198が次のリセット・パルス194に密着して先行するようになっている。各転送トリガー・パルス198の印加は、対応する黒塗り領域260によって表されるフォトダイオードPD3に保存されたかなりの量の光発生電荷を対応する垂直シフトレジスタの各段階に転送させ、その転送された電荷は露出パルス193の継続期間にわたってそこに蓄積される。転送トリガー・パルス198は転送トリガー・パルス195の半分の周波数で生ずるので、露出継続期間にわたってフォトダイオードPD3から光発生電荷を受け取る垂直シフトレジスタ段階に蓄積された光発生電荷は、同一露出継続期間にわたってフォトダイオードPD4から光発生電荷を受ける垂直シフトレジスタ階段に蓄積される半分となる。このように動作することで、フォトダイオードPD3の実効的な感度レベルはフォトダイオードPD4の感度の半分となる。
【0040】
転送トリガー・パルス198及び195と同一幅を有する転送トリガー・パルス261は、フォトダイオードPD2と関連された転送ゲート電極に印加される。転送トリガー・パルス261の位相は、当該転送トリガー・パルス261が次のリセット・パルス194に密着して先行するようになっている。各転送トリガー・パルス261の印加は、対応する黒塗り領域263によって表される光ダイオードPD2に保存されるかなりの量の光発生電荷の対応する垂直シフトレジスタの各段階への転送を生じさせ、転送された電荷は露出パルス193の継続期間にわたってそこに蓄積される。転送トリガー・パルス261の周波数は転送トリガー・パルス198の半分であると共に転送トリガー・パルス195の1/4であるので、露出パルス193の継続期間にわたってフォトダイオードPD2から保存光発生電荷を受け取るシフトレジスタ段階に蓄積された光発生電荷の合計量は、フォトダイオードPD3から保存光発生電荷を受け取る垂直シフトレジスタ段階に蓄積される場合の半分となるとともに、同一の継続期間にわたってフォトダイオードPD4から保存光発生電荷を受け取るシフトレジスタ段階に蓄積される場合の1/4となる。結果として、フォトダイオードPD2の実効的な感度レベルはPD3の実効的感度レベルの半分であると共に、フォトダイオードPD4の実効的感度レベルの1/4である。
【0041】
転送トリガー・パルス261,198,195と同一幅を有する転送トリガー・パルス264は、転送トリガー・パルス261の半分の周波数でフォトダイオードPD1と関連された転送ゲート電極に印加される。転送トリガー・パルス264の位相は、各転送トリガー・パルス264が次のリセット・パルス194に密着して先行するようになっている。各転送トリガー・パルス264の印加は、対応する黒塗り領域266によって表されるフォトダイオードPD1に保存されたかなりの量の光発生電荷を対応する垂直シフトレジスタの各段階へ転送させ、転送された電荷は露出パルス193の継続期間にわたってねそこに蓄積される。転送トリガー・パルス264の周波数は転送トリガー・パルス261の半分であり、転送トリガー・パルス198の1/4であり、そして転送トリガー・パルス195の1/8であるので、露出パルス193の継続期間にわたってフォトダイオードPD1から保存光発生電荷を受け取る垂直シフトレジスタ段階に蓄積された合計光発生電荷は、同一露出継続期間にわたって、フォトダイオードPD2から保存光発生電荷を受け取るシフトレジスタ段階に蓄積された電荷の半分であり、フォトダイオードPD3から保存光発生電荷を受け取るシフトレジスタ段階に蓄積された電荷の1/4であり、そしてフォトダイオードPD4から保存光発生電荷を受け取るシフトレジスタ段階に蓄積された電荷の1/8である。結果としてフォトダイオードPD1の実効的感度レベルはフォトダイオードPD2の半分であり、フォトダイオードPD3の1/4であり、そしてフォトダイオードPD4の1/8である。従って異なる実効的感度レベルを、それぞれの転送トリガー・パルスをそれらの関連転送ゲート電極に対して、先に記載されたような異なる周波数で印加することによって獲得することができる。
【0042】
光発生電荷は各転送トリガー・パルスの印加に及んでそれぞれの垂直シフトレジスタ段階に小量蓄積され且つ転送トリガー・パルスが露出期間にわたって均一に分配されるので、そのシーン中における動作はそれぞれのフォトダイオードからの保存光発生電荷を蓄積する垂直シフトレジスタ段階に同一の方法で集積されることになる。よって、出力画像における動作不鮮明性の不整合はCCD画像センサに対する所定の空間的感度パターンを獲得するための先の技法を使用することで抑制される。
【0043】
画像処理部
図2のデータ・フロー線図に戻ると、本発明の模範的な実施例に従った画像処理部200は取込画像メモリ20、オフ−グリッド推定器22、オン−グリッド・リサンプラー23、並びに、出力画像メモリ21を備える。例えば図3のブロック線図におけるフレーム・メモリ12の一部として物理的には具現化される取込画像メモリ20は、図1の画像検知部1によって取り込まれた画像をディジタル形態で保存する。オフ−グリッド推定器22は取込画像メモリ20内の取込画像輝度値を読取り、各オフ−グリッド位置での輝度値を算定するが、それらオフ−グリッド位置は画像(ピクセル位置)アレイ上ではない位置である。オン−グリッド・リサンプラー23は各オフ−グリッド位置での輝度値を受け取り、オフ−グリッド位置でのオフ−グリッド輝度値を再標本化(リサンプル)することで各オフ−グリッド位置での再標本化された輝度値を算定する。算定された各ピクセル位置での再標本化輝度値は、そのシーンの比較的高いダイナミックレンジ画像のピクセル輝度値として出力画像メモリ21に保存される。
【0044】
図15を参照すると、複数の規則正しく離間されたピクセル行267と、該ピクセル行267と直交する複数の規則正しく離間されたピクセル列268との交差点によって画成された、ピクセル位置アレイ状に配置された矩形140で表されたピクセル位置の模範的構成1500が示されている。オフ−グリッド位置はピクセル位置アレイのそれぞれの合間に一般には配置されて、オフ−グリッド位置アレイを形成する。図15の構成において、黒ドット141で表されるオフ−グリッド位置は複数の規則正しく離間された中間行269と、その中間行269と直交する複数の規則正しく離間された中間列270との各交差点によって画成されたオフ−グリッド位置アレイを形成する。中間行269の各々はピクセル行267と平行すると共にピクセル行267の各隣接対の間の中央に延在する。中間列270の各々はピクセル列268と平行すると共にピクセル列267の各隣接対の間の中央に延在する。ピクセル位置及びオフーグリッド位置の便宜上の参照のために、取込画像の底部左隅は座標系の原点(0,0)として規定されて、該原点に最も近いピクセル位置は座標(0.5,0.5)を有し、該原点に最も近いオフ−グリッド位置は座標(1,1)を有する。取込画像の底部右隅は(xサイズ,0)を有すると規定されており、そのxサイズはピクセル行267の方向(x方向)における取込画像の寸法であり、画像の上方左隅は座標(0,yサイズ)を有すると規定されており、そのyサイズはピクセル列268の方向(y方向)における取込画像の寸法である。
【0045】
図16へ移ると、本発明の模範的実施例に従ったオフ−グリッド推定器(図2の線図における22)のデータ・フロー線図1600が示されている。この実施例の場合、画像センサの光検知素子は4つの異なる感度レベルを有する。オフ−グリッド推定器1600は、各々が4つの感度レベルのそれぞれ対応した4つのリサンプラー28,29,30,31と、図15の線図で画成されたオフ−グリッド位置アレイのオフ−グリッド位置を提供するオフ−グリッド位置発生器32と、ピクセル位置の各々と対応している感度レベルを示すデータを保存する感度パターン・データ・メモリ34とを有する。加えて、オフ−グリッド推定器1600は、光検知素子の感度レベルのそれぞれに一対一で対応する重み係数W1,W2,W3,W4を保存する重み係数メモリ24,25,26,27と、各々が対応するリサンプラー28,29,30,31及び該対応リサンプラーと同一の感度レベルと対応する重み係数W1,W2,W3,W4を受け取って、その受け取ったリサンプラー出力と重み係数の積を提供する乗算器271,272,273,274とを含む。オフ−グリッド推定器1600は乗算器271,272,273,274の出力を受け取って、それら乗算器出力の合計を提供する合算器275をも含む。更にオフ−グリッド推定器1600は、合算器275の出力を受け取るマッパー(mapper)33、該マッパー33と関連された検索テーブル(lookup table:LUT)・メモリ35を有する。複数の感度レベルの内の相互に異なるものをそれぞれ有する光感度素子の感度重み付け組合せ応答関数の逆関数を表すデータを保存する検索テーブル・メモリ35は、マッパー33によって使用されて、オフ−グリッド位置発生器32から受け取った各オフーグリッド位置に対する合算器275の出力を、組合せ応答関数の逆関数によって補償して、受け取られたオフ−グリッド位置での推定されたオフ−グリッド輝度値を誘導する。オフ−グリッド推定器1600は、マッパー33の出力を受け取るオフ−グリッド輝度値メモリ36をも有する。
【0046】
再度、図3を参照すると、図16における感度パターン・メモリ34が、例えば、ROM14内に物理的に実装され、ピクセル位置の各々に対する感度レベルの形態で、CCD画像センサ9の所定空間変動感度パターンを保存する。図16における検索テーブル・メモリ35も、例えばROM16内に物理的に実装されており、画像センサの光感度素子の感度重み付け組合せ応答関数の逆関数によって、各オフ−グリッド位置での合算器275の出力を補償するための検索テーブルを保存する。図16におけるオフ−グリッド輝度値メモリ36は、例えばフレーム・メモリ36内に物理的に実装され、図16におけるマッパー33によって提供されるように各オフ−グリッド位置での推定されたオフ−グリッド輝度値を保存する。
【0047】
図16へ戻ると、取込メモリ20は図15の線図に従って画成された各ピクセル位置での取込画像輝度値を保存する。各ピクセル位置での輝度値は、例えば、図3のブロック線図におけるCCD画像センサ9の対応する光検知素子によって作り出される。各光検知素子は4つの感度レベルの内の1つを有すると共と対応するピクセル位置での輝度値を作り出すので、各ピクセル位置は対応する感度レベルを有するものとして考慮され得る。リサンプラー28,29,30,31の各々はオフーグリッド位置発生器32からオフ−グリッド位置と感度パターン・メモリ34から感度パターン・データとを受け取って、その対応する感度レベルのピクセル位置での取込画像メモリ20における取込画像輝度値を再標本化することよって、受け取られたオフ−グリッド値でのその感度レベルに対する感度レベル・オフ−グリッド輝度値を有する。再標本化算定の詳細は以降に記載される。リサンプラー28,29,30,31の各々がオフ−グリッド位置発生器32から受け取ったオフ−グリッド位置でのその対応する感度レベルをに対する各感度レベル・オフ−グリッド輝度値を誘導した後、それら誘導感度レベル・オフ−グリッド輝度値の各々は乗算器271,272,273,274の内の1つにおける誘導リサンプラーとして同一感度レベルと対応する重み付け係数W1,W2,W3,W4の対応する1つと乗算される。次いで、各重み付け係数W1,W2,W3,W4によってスケーリングされた後、オフ−グリッド位置発生器32から受け取ったオフ−グリッド位置での4つのリサンプラー28,29,30,31によって誘導された感度レベル・オフ−グリッド輝度値は、合算器275によって蓄積されて、受け取られたオフ−グリッド位置での重み付け合計感度レベル・オフ−グリッド輝度値を誘導し、それがマッパー33へ提供される。マッパー33は合算器275からの重み付け合計感度レベル・オフ−グリッド輝度値を四捨五入して、検索テーブル・メモリ35に対する整数指標を獲得する。指標と対応する組合せ応答関数で補償された輝度値は検索テーブル・メモリ35からマッパー33によって検索されて、オフ−グリッド発生器32から受け取られたオフ−グリッド位置での推定されたオフ−グリッド値としてオフ−グリッド輝度値メモリ36へ提供される。オフ−グリッド位置発生器32は(1,1)から(xサイズ−1,yサイズ−1)までのオフ−グリッド位置を逐次発生するので、寸法xサイズ−1及びyサイズ−1を伴うオフ−グリッド輝度値パターンは発生されてオフ−グリッド輝度値メモリ36に保存される。
【0048】
図17を参照すると、図16のオフ−グリッド推定器1600によって実行され得る算定処理のフロー線図が示されている。第1として、ループ201は(1,1)から(xサイズ−1,yサイズ−1)まで図16のオフ−グリッド位置発生器によって提供される各オフ−グリッド位置(x,y)に対して繰り返され、そこでx及びyはオフ−グリッド位置の座標であり、xサイズ及びyサイズはx方向及びy方向の取込画像の寸法である。ループ201において、ステップ202と、ループ203と、ステップ206が実行される。ステップ202で値が0に初期化される。ループ203においてステップ204及び205が各i番目の感度レベルに対して繰り返される。本実施例において、感度レベルの数は4であり、それ故に、ループ203は4回繰り返される。ステップ204において、オフ−グリッド位置(x,y)での第i番目の感度レベルに対する感度レベル・オフ−グリッド位置輝度値piは再標本化関数:Resamplei(Ic,S,x,y)を用いて、図16の取込画像メモリ20に保存された各ピクセル位置での取込画像輝度値Icから算定され、この式でSは図16の線図における感度パターン・メモリ34からの感度パターン・データを表す。ステップ205で、第i番目感度レベルpiに対する算定された感度レベル・オフ−グリッド輝度値は、第i番目感度レベルと対応する所定の重み付け係数Wiによって乗算され、その積が値sに合算される。ループ203が各感度レベルに対して繰り返された後、ステップ206が実行される。ステップ206でオフ−グリッド位置(x,y)での推定されたオフ−グリッド輝度値Bが、図16のマッパー33及び検索テーブル(lookup table:LUT)・メモリ35を用いて関数:Map(LUT,s)によって算定される。ステップ206が完了した後、ループ201の現反復が完了される。ループ201が図16のオフ−グリッド位置発生器32から受け取られた各オフ−グリッド位置に対して繰り返された後、フローチャート1700によって表された算定処理は終了する。
【0049】
図18へ移ると、図17のフロー線図によって記載された算定処理に用いられる関数Resamplei(Ic,S,x,y)の算定を記載するフロー線図が示されている。フロー線図1800によって記載される算定は第i番目の感度レベルと対応する図16における第i番目のリサンプラーによって実行される。ステップ207で第i番目の感度レベルと対応する位置だけでの輝度値を有する画像Iiは、感度パターン・データSに従った取込画像Icをマスクすることによって発生させられる。ステップ208でオフ−グリッド位置(x,y)に最も近いマスクされた画像Iiのピクセル位置でのオフ−グリッド輝度値pが決定される。最後にステップ209で、輝度値pがオフ−グリッド位置(x,y)での第i番目感度レベルに対する感度レベル・オフ−グリッド輝度値として提供され、フロー線図1800によって表された計算処理が終了する。
【0050】
次に図19に移ると、図17のフロー線図1700によって記載された計算処理に用いられる関数Map(LUT,s)の計算に対するフロー線図1900が示されている。フロー線図1900の算定は図16の線図におけるマッパー33及び関連検索テーブル・メモリ35によって実行される。この算定は、ステップ210,211,212のシーケンスから成る。ステップ210で整数値指標tが、図17のフロー線図1700におけるループ203で算定されたようにsを切り捨てることによって算定される。ステップ211で値pがその指標tを用いて図16における検索テーブル・メモリ35から検索される。ステップ212で検索テーブル・メモリ35における指標tに対する値pが出力として提供され、フロー線図1900によって表される処理は終了する。指標tを値pにマッピングするために使用される検索テーブル・データは予め準備され図16の検索テーブル・メモリ35に保存される。先に指摘したように、検索テーブル・メモリ35は図3におけるROM14に実装される。
【0051】
図20を参照すると、4つの感度レベルの内の相互に異なるものをそれぞれが有する光検知素子の模範的な正規化されたラジオメトリック(radiometric)応答関数のグラフ2000が示されている。数量Eは、図20のグラフ2000を作り出すために、光検知素子によって検知可能な最大放射強度によって正規化された光検知素子に入射した放射強度を表す。数量pは光検知素子と対応するピクセル位置での輝度値を表す。本実施例は4つの感度レベルを有するので、4つの応答関数:p1(E)142,p2(E)143,p3(E)144,p4(E)145がある。これら4つの応答関数の全ては単色であるので、正の重み係数を伴うこれら関数線形組合せs(E)も単色である。4つの感度レベルを一対一で有する4つの光検知素子の感度重み付け組合せ応答関数は以下のように表現され得る。
【0052】
s(E)=W1P1(E)+W2P2(E)+W3P3(E)+W4P4(E) (1)
【0053】
等式(1)によって表される組合せは、4つの感度レベルでの応答関数が組み合わされたので放射強度Eの検知に対して高ダイナミックレンジをもたらす。例えば、P1(E)はEの明るいレンジ(範囲)に逆る感度を有し、P4(E)はEの暗いレンジに逆る感度有する一方で、P2(E)及びP3(E)はEの中間レンジをカバーしている。等式(1)の組合せは256レベルのグレイスケールの数における増大をももたらす。もしこれら応答関数P1(E),P2(E),P3(E),P4(E)の各々が256レベルのグレイスケールを有すれば、s(E)は1021レベルに同等なグレイスケールを有する。
【0054】
図21へ移れば、模範的な組合せ応答関数s(E)のグラフ2100が示されている。組合せ応答関数s(E)に対する検索テーブル・データを保存するため、図22のグラフ2200における曲線147として示されたs(E)の逆関数が、単色関数の逆関数も単色であるので使用され得る。もし、s(E)の逆関数が連続関数として発生されれば、任意の数のレベルを有する検索テーブルはディジタル化されて保存される。例えば、図22のグラフから誘導された検索テーブルは65,536個のレベルを有する。更に任意の種類の応答関数を表すデータも検索テーブルに保存可能である。例えば図23は、ガンマ特性が含まれた応答関数の逆関数のグラフ2300を示す。ガンマ特性の包含は標準化ビデオ信号出力を提供するために必要であり得る。
【0055】
当業者には明らかなように、図16のリサンプラー28,29,30,31によって実行される最も接近した隣接標本化関数は、補間法を伴う双一次元及び双三次標本化等の他の周知の標本化関数で代替され得る。重み付け係数W1,W2,W3,W4はそれぞれが正値であり得る。殆どの例において、重み係数の各々は1/Nにセットされ得、ここでNは感度レベルの数である。図16に示されたオフ−グリッド推定器において、もし重み付け係数W1,W2,W3,W4が全て同等であれば、重み付け係数メモリ24,25,26,27及び乗算器28,29,30,31がは削減され得て、その場合、リサンプラー28,29,30,31は合算器275へ直に提供される。留意されることは、図4の線図における検索テーブル・メモリ35に保存された検索テーブル・データを作り出す目的で、重み付け係数が、等式(1)によって規定される組合せ応答関数s(E)に対する所望の形状を獲得すべく選択されることである。検索テーブル・データは図22のグラフに示されたように関数s(E)の逆関数をディジタル化することで誘導される。ディジタル化誤差を最小化すべく、関数s(E)の逆関数はできる限り均一化されるようにディジタル化される。関数s(E)の逆関数は均一ディジタル化に充分適合していない場合、形状は重み付け係数を変えることで変更され得る。
【0056】
次に図24へ移れば、本発明の別の模範的実施例に従った、図2の線図のオフ−グリッド推定器22のデータ・フロー線図2400が示されている。図24のオフ−グリッド推定器は、(0.5,0.5)から(xサイズ,yサイズ)まで順次ピクセル位置を発生するピクセル位置発生器43、各ピクセル位置と対応する感度レベルを保存する感度パターン・メモリ40、マッパー42、異なる感度レベルを有する光検知素子の応答関数の逆関数を表す個別検索テーブル・データを保存する関連検索テーブル・メモリ39、ピクセル位置と対応する感度レベルを有する光検知素子の応答関数の逆関数によって各ピクセル位置輝度値が補償された後に、各ピクセル位置での輝度値を保存するマッピングされたピクセル位置輝度値メモリ41、(1,1)から(xサイズ−1,yサイズ−1)までオフ−グリッド位置を順次発生するオフ−グリッド位置発生器45、マッピングされたピクセル位置輝度値メモリ41に保存された補償済みピクセル位置輝度値からオフ−グリッド位置発生器45から受け取った各オフ−グリッド位置での推定されたオフ−グリッド輝度値を算定する類似逆推定器、並びに、類似逆推定器44によって算定された各オフ−グリッド位置での推定されたオフ−グリッド輝度値を保存するオフ−グリッド輝度値メモリ36を含む。
【0057】
図3のブロック線図で参照されるように、検索テーブル・メモリ39及び感度パターン・メモリ40は双方ともに、例えば、ROM14内に物理的に実装され、マッピングされたピクセル位置輝度値メモリ41は例えばRAM15内に物理的に実装される。
【0058】
図24へ戻れば、マッパー42は取込画像メモリ20からピクセル位置発生器43から受け取ったピクセル位置での取込画像輝度値を受け取り、そして該マッパー42はその取込画像輝度値に検索テーブル・メモリ39に保存された検索テーブル・データを適用して、感度パターン・メモリ40から獲得される受け取られたピクセル位置と対応する感度レベルを求め、受け取られたピクセル位置でのマッピングされた輝度値を誘導して、マッピングされたピクセル位置輝度値メモリ41内に保存する。マッピングされた輝度値は、受け取られたピクセル位置と対応するレベルの感度を有する光検知素子の応答関数の逆関数で補償された取込画像輝度値である。次いで、類似逆推定器44はオフ−グリッド位置発生器45によって提供されたオフ−グリッド位置での輝度値を、マッピングされたピクセル位置輝度値メモリ41におけるマッピングされた輝度値を用いて算定する。オフ−グリッド位置での算定されたオフ−グリッド輝度値は、次いで、オフ−グリッド輝度値記憶装置36に保存される。
【0059】
図25を参照すると、図24の線図のオフ−グリッド推定器2400によって実行され得る算定プロセス用のフロー線図2500が示されている。第1としてループ215は、図24のピクセル位置発生器43から受け取られるように、(0.5,0.5)から(xサイズ−0.5,yサイズ−0.5)までの取込画像の各ピクセル位置(x,y)に対して繰り返される。ループ215において、ステップ216及び217が実行される。ステップ216で、第i番目の感度レベルに対する検索テーブル・データLUTiが受け取られたピクセル位置(x,y)と対応する感度レベルiを参照することで選択される。受け取られたピクセル位置(x,y)と対応する感度レベルは、図24の感度パターン・メモリ40に保存された感度パターン・データS(x,y)から獲得される。ステップ217で、検索テーブル・データLUTiは、取込画像メモリ20からの受け取られたピクセル位置での取込画像輝度値Ic(x,y)に適用される。検索テーブル・データLUTiから誘導さえた感度レベルiを有する光感度素子の応答関数の逆関数によって補償された輝度値は、受け取られたピクセル位置(x,y)でのマッピングされた輝度値Im(x,y)として呼称される。ループ215が図24におけるピクセル位置発生器43から受け取られる各ピクセル位置毎に繰り返された後、ループ218が、図24におけるオフ−グリッド位置発生器45から受け取られる(1,1)から(xサイズ−1,yサイズ−1)までの各オフ−グリッド位置に対して繰り返される。ループ218におけるステップ219及び220、並びに、ステップ223が実行される。ステップ219で、値s及び値wがそれぞれ0に初期化される。ステップ219の後、ループ220は受け取られたオフ−グリッド位置(x’,y’)に4つの最も近い隣接ピクセル位置である4つのピクセル位置(u,v)に対して繰り返される。ループ220において、ステップ221及び222が実行される。ステップ221で、ピクセル位置(u,v)でのマッピングされた輝度値Im(u,v)は低閾値θLと高閾値θHと比較される。もしIm(u,v)がθLよりも大きく且つθHよりも小さければ、ステップ222が実行される。さもなければ、ステップ222はスキップされ、プロセスは次のループ219の反復へ移動する。閾値θL及びθHは所定定数値であり、一般にはピクセル位置(u,v)と対応する感度レベルを有する光検知素子のマッピングされたノイズ・レベルを表すと共に、同一感度レベルを有する光検知素子の飽和或は略飽和輝度値を表す。ステップ222で、θLよりも大きく且つθHよりも小さいマッピングされた輝度値Im(u,v)はsに合算され、1がwに合算される。ループ220が最も近い隣接ピクセル位置の各々に対して繰り返された後、ステップ223が実行される。ステップ223で、受け取られたオフ−グリッド位置(x’,y’)での輝度値B(x’,y’)は値sを値wで分割することによって算定される。ループ218が図24におけるオフ−グリッド位置発生器45から受け取られる各オフ−グリッド位置に対して繰り返された後、フロー線図2500によって表現される算定プロセスは終了する。
【0060】
図26を参照すると、図24の線図の類似逆推定器44によって実行され得る代替的な算定プロセスのフロー線図2600が示されている。図26のフロー線図2600は、4×4立方類似逆算定を具現化しており、ステップ219、ループ220、並びに、ステップ223を含む図25のフロー線図2500の一部に取って代わることができる。図26のフロー線図で参照されるように、ステップ224で値s及び値wはそれぞれ0に初期化される。次いでループ225が、図24におけるオフ−グリッド位置発生器45から受け取られるオフ−グリッド位置(x’,y’)に最も近い16個の隣接ピクセル位置である16個のピクセル位置(u,v)に対して繰り返される。ループ225におけるステップ226、ステップ227、並びに、ステップ228が実行される。ステップ226において、最も近い隣接ピクセル位置(u,v)でのマッピングされた輝度値Im(u,v)は低閾値θLと高閾値θHと比較される。もしIm(u,v)がθLよりも大きく且つθHよりも小さければ、ステップ227が実行される。さもなければ、ステップ227及び228はスキップされ、プロセスは次のループ225の反復へ移動する。閾値θL及びθHは所定定数値であり、一般にはピクセル位置(u,v)と対応する感度レベルを有する光検知素子のマッピングされたノイズ・レベルを表すと共に、同一感度レベルを有する光検知素子の飽和或は略飽和輝度値を表す。ステップ227で、指標値i及びjが受け取られたオフ−グリッド位置(x’,y’)と最も近い隣接ピクセル位置(u,v)とから算定されるが、これらi及びjは図27に示される立方補間法カーネル(核:kernel)の値を参照するために使用される。ステップ228で、s及びwはそれぞれステップ228を表すブロックに示される等式に従って更新される。ループ225が16個の最も近い隣接ピクセル位置の各々に対して繰り返された後、ステップ229は実行される。ステップ229において、受け取られたオフ−グリッド位置(x’,y’)での輝度値Bは値sを値wで割ることで算定される。フロー線図2600によって表現される算定プロセスは、x’+1からsサイズ−1と、y’+11からyサイズ−1まで、図24におけるオフ−グリッド位置発生器45から受け取られる全てのオフ−グリッド位置に対して繰り返される。
【0061】
図28へ移ると、本発明の模範的実施例に従った図2の線図におけるオフ−グリッド・リサンプラー23のフロー線図2800が示されている。このオフ−グリッド・リサンプラー2800は、(2.5,2.5)から(xサイズ−2.5,yサイズ−2.5)までのピクセル位置を順次提供するピクセル位置発生器38と、該ピクセル位置発生器38から受け取られるピクセル位置に最も近く隣接する4×4オフ−グリッド位置での推定されたオフ−グリッド輝度値から、ピクセル位置発生器38から受け取られるピクセル位置での補間されたオフ−グリッド輝度値を算定する立方補間演算を実行する補間器37とを含む。これは図29に図示されており、同図には、矩形として表されるピクセル位置と、黒丸として表されるオフ−グリッド位置とのローカル・エリアの線図2900を示している。受け取られたピクセル位置(x,y)での輝度値が算定されると、4×4の立方補間カーネルが、(x−2,y−2)から(x+2,y+2)までのローカル・エリア内において4×4オフ−グリッド輝度値と乗算されそれが図29の線図における陰影が付けられた矩形として示されている。4×4の立方補間カーネル2700の一例は図27に示されている。図28におけるピクセル位置発生器38は、(2.5,2.5)から(xサイズ−2.5,yサイズ−2.5)までのピクセル位置を順次発生して、該ピクセル位置を補間器37へ提供する。このようにして、(xサイズ−4,yサイズ−4)の寸法を有する画像に対する再標本化された輝度値は発生させられ、図28における出力画像メモリ21に保存される。
【0062】
図30を参照すると、図28における補間器37によって実行され得る算定プロセスを説明するフロー線図3000が示されている。この算定プロセスはステップ214を含むループ213を有する。ループ213は、図28におけるピクセル位置発生器38から受け取られる、(2.5,2.5)から(xサイズ−2.5,yサイズ−2.5)までの出力画像の各ピクセル位置(x,y)に対して繰り返され、x及びyはピクセル位置の座標であり、xサイズ及びyサイズはx方向及びy方向における取込画像の寸法である。ステップ214で、ピクセル位置(x−2,y−2)での出力画像Io(x−2,y−2)の輝度値は、受け取られたピクセル位置(x,y)に4×4の最も近くの隣接オフ−グリッド位置での輝度値と、フロー線図3000におけるステップ214を表すブロック内の等式によって示される4×4の立方補間カーネルφとの席を算定することで誘導される。算定された値は、出力画像Io(x−2,y−2)の対応するピクセル位置での輝度値として、図28における線図の出力画像メモリ21に保存される。ループ213が図28におけるピクセル位置発生器38から受け取られる各ピクセル位置に対して繰り返された後、フロー線図3000によって表される算定プロセスは終了する。
【0063】
図28における線図の補間器37は立方補間を実行するものとして記載されているが、理解して頂きたいことは、2次元均一グリッド・データから補間値を算定する任意補間プロセスが立方補間と代替され得ることである。例えば、他の立方カーネル、ガウス・化ネール、双一次元補間、或は、より大きな補間カーネルが使用可能である。更には、オフ−グリッド位置と合致するようにピクセル位置をシフトすることや、オフ−グリッド位置での輝度値を各合致したピクセル位置での輝度値として採用することは、ピクセル位置での再標本化された輝度値を誘導すべく使用可能である。双立方B−スプライン3100、双一次元3200、6×6の2次元ガウシアン3300、並びに、単純シフト・フィルタ・カーネル(核)3400が図31乃至図34にそれぞれ示されている。これらフィルタ・カーネルの各々は図30のフロー線図におけるφijとして代替され得る。留意して頂きたいことは、図30のフロー線図におけるi及びjに対する値の範囲がフィルタ・カーネルのサイズに従って変化することである。例えば、6×6ガウシアン・フィルタ3300が使用される際、i及びjの双方は0から5までの値を取る。
【0064】
以上に記載された本発明の実施例において、画像センサの光検知素子は4つの異なる感度レベルを有する。理解して頂けるであろうことは、以上に記載された実施例に対して軽微な改変のみを伴って、画像センサの光検知素子が異なる多数の感度レベルを有するような実施例に、本発明が容易に適用され得ることである。例えば、画像センサの光検知素子は2つのみ感度レベルを有し得て、そうした場合の実施例への変更はこれから記載される。
【0065】
空間的変動感度パターンがマスクによって規定されている画像検知部において、マスクはは2つの異なる透明性を具備するセルを有することになり、即ち、暗いセルと明るいセルとである。例えば、マスクはチェッカーボード・パターンを有し得て、行の隣接セルと列の隣接セルとはそれら2つの透明性の内の異なる一方を有することなる。そうしたマスク3500の一例は図35に示され、そこでは、明るいセルが参照番号148で指定されると共に、暗いセルが参照番号149で指定されている。
【0066】
画像処理部において、図16及び図24のそれぞれの線図におけるオフ−グリッド位置発生器32は、2つの感度レベルの場合に対して図15で規定されたような同一オフ−グリッド位置を発生し得る。しかしながら代替的なオフ−グリッド位置は2つだけの感度レベルが存在している時に規定され得る。
【0067】
図36を参照すると、2つの感度レベルの場合に対する代替的なオフ−グリッド位置パターンの線図3600が示されている。図36において、ピクセル位置は正方形151で表され、オフ−グリッド位置は黒丸151で表されている。ここでもオフ−グリッド位置151はピクセル位置アレイの各合間に配置されている。しかしながら図36の線図における隙間は、ピクセル行267及び中間列270の各交差点と、ピクセル列268及び中間行269の各交差点とに配置されている。図15の線図では、ピクセル行267及びピクセル列268は規則正しく離間されて相互に直交し、各中間行269がピクセル行267と平行してピクセル行267の各隣接対間の中央に延在している一方、各中間列270がピクセル列268と平行してピクセル列268の各対間の中央に延在している。図36の線図で留意されるように、隣接オフ−グリッド位置のラインは隣接ピクセル位置から成るラインに対して45度だけ回転されていることである。
【0068】
図37へ移れば、2つの感度レベルに対して変更された図16のオフ−グリッド推定器の実施例に逆るデータ・フロー線図3700が示されている。4つの感度レベル例の場合との相違点は、使用されているリサンプラーの数、重み付け係数メモリの数、並びに、乗算器の数である。位置発生器32は図36で規定されたオフ−グリッド位置を発生すべく変更されている。感度パターン・メモリ34は、各ピクセル位置と対応する2つの感度レベルの内の一方を指定する所定の空間的変動感度パターンを保存する。
【0069】
図38を参照すると、図37のデータ・フロー線図3700によって表されるオフ−グリッド推定器によって実行され得る算定プロセスのフロー線図3800が示されている。第1としてループ230は、(0.5,1)から(xサイズ−0.5,yサイズ−1)までの各オフ−グリッド位置(x,y)に対して繰り返され、ここでx及びyはオフ−グリッド位置の座標であり、xサイズ及びyサイズはx方向及びy方向の取込画像の寸法である。図36の線図3600を参照すると、ループ230が繰り返されるオフ−グリッド位置は中間行269及びピクセル列268の各交差点に配置されている。ループ230におけるステップ231、ループ232、並びに、ステップ235は実行される。ステップ231で値sは0に初期化される。ループ232でステップ233及び234が各第i番目感度レベルに対して繰り返される。本実施例における感度レベルの数は2つである。ステップ233で、図37におけるオフ−グリッド位置発生器32から受け取られるオフ−グリッド位置(x,y)での第i番目感度レベルに対する感度レベル・オフ−グリッド輝度値piは、第i番目のリサンプラーの標本化関数Resamplei(Ic,S,x,y)によって取込画像Icの各ピクセル位置での取込画像輝度値から算定され、ここでsは図37における感度パターン・メモリ34からの感度パターン・データを表している。この関数の算定は4つの感度レベル例に対するものと同一である。ステップ234で、第i番目の感度レベルに対する感度レベル・オフ−グリッド輝度値piは同一感度レベルに対する所定重み付け係数Wiによって乗算され、その積がsへ合算される。ループ232が2つの感度レベルに対して繰り返された後、ステップ235が実行される。ステップ235で、図37におけるオフ−グリッド位置発生器32から受けられるオフ−グリッド位置(x,y)での輝度値Bは、図37におけるマッパー33及び関連検索テーブル・メモリ35を用いて関数Map(LUT,s)を適用することで算定される。この関数の適用は4つの感度レベル例と同一である。ステップ235が完了された後、ループ230の現行での反復は完了される。ステップ230が中間行269及びピクセル列268の各交差点に配置される全てのオフ−グリッド位置に対して繰り返された後、この算定プロセスはループ236へ進む。ループ236の算定プロセスはループ230のものと同等であるが、ループ236が(1,0.5)から(xサイズ−1,yサイズ−0.5)まで図37におけるこのオフ−グリッド位置発生器32から受け取られる各オフ−グリッド位置に対して繰り返されることは除く。図36の線図3600を再び参照すると、ループ236が繰り返されるオフ−グリッド位置はピクセル行267及び中間列270の各交差点に配置されている。ループ236がそうしたオフ−グリッド位置の全てに対して繰り返された後、フロー線図3800で表された算定プロセスは終了する。
【0070】
図24におけるデータ・フロー線図によって表されるオフ−グリッド推定器の実施例も、2つの感度レベル用に容易に変更される。図39へ移ると、2つの感度レベル例に対する、図24のデータ・フロー線図2400によって表されるオフ−グリッド推定器で実行され得る算定プロセスを記載するフロー線図3900が示されている。第1ループ256が、(0.5,0.5)から(xサイズ−0.5,yサイズ−0.5)まで、図24におけるピクセル位置発生器43から受け取られる取込画像の各ピクセル位置(x,y)に対して繰り返される。ループ256で、ステップ257及び258が実行される。ステップ257で、第i番目感度レベルに対する検索テーブル・データLUTiが、ピクセル位置発生器43から受け取られるピクセル位置(x,y)と対応する感度レベルに対して感度パターン・メモリ40に保存され感度パターン・データS(x,y)を参照することで選択される。ステップ258で、検索テーブル・データLUTiは受け取られたピクセル位置(x,y)での取込画像輝度値Ic(x,y)に適用され、受け取られたピクセル位置(x,y)での結果として補償された輝度値がそのピクセル位置でのマッピングされた輝度値Im(x,y)として指定される。ループ256が、ピクセル位置発生器43から受け取られる(0.5,1)から(xサイズ−0.5,yサイズ−1)までの各オフ−グリッド位置(x’,y’)に対して繰り返される。図36における線図3600で参照されるように、ループ259が繰り返されるオフ−グリッド位置は中間行269及びピクセル列268の各交差点に配置されている。ループ259においてステップ260は実行される。ステップ260で、関数としての類似逆関数(Im,x’,y’)が受け取られたオフ−グリッド位置(x’,y’)での輝度値B(x’,y’)を獲得すべく概算される。関数としての類似逆関数(Im,x’,y’)を概算する詳細は以下に更に説明される。ループ259が、オフ−グリッド位置発生器45から受け取られる、中間行269及びピクセル列268の各交差点に配置された各オフ−グリッド位置に対して繰り返された後、この算定プロセスはループ261へ進み、そのループが(0,0.5)から(xサイズ−1,yサイズ−0.5)までの各オフ−グリッド位置に対して繰り返される。図36の線図3600で参照されるように、ループ261が繰り返されるオフ−グリッド位置は、ピクセル位置行267及び中間列270の各交差点に配置されている。さもなければ、ループ261の算定プロセスはループ259のそれと同等である。ループ259が、オフ−グリッド位置発生器45から受け取られる、ピクセル行267及び中間列270の各交差点に配置されたオフ−グリッド位置各々に対して繰り返された後、フロー線図3900によって表される算定プロセスは終了する。
【0071】
図40を参照すると、4×4の回転された立方類似逆関数演算を実行する、関数としての類似逆関数(Im,x’,y’)に対する算定プロセスを記載するフロー線図4000が示されている。第1として、ステップ263で値s及び値wがそれぞれ0に初期化される。ステップ263の後、ループ264が、該ループ264の各反復において、0から3までの値を有する指標i及びjを増大することによって、オフ−グリッド位置発生器45から受け取られるオフ−グリッド位置(x’,y’)に最も近い隣接である16個のピクセル位置(u,v)に対して繰り返される。ループ264で、ステップ265,266,267,268が実行される。ステップ265で、座標u及びvが、フロー線図4000におけるステップ265を表すブロックに示された関係を用いて、現行受け取られたオフ−グリッド位置(x’,y’)の座標及び指標i及びjから算定される。ステップ266で、座標u及びvはピクセル位置であるかについての判定が為される。もし座標u及びvがピクセル位置であれば、そのピクセル位置でのマッピングされた輝度値Im(u,v)が、ステップp267で、低閾値θL及び高閾値θHと比較される。さもなければ、ステップ267及び268がスキップされ、この算定プロセスはループ264の次の反復へ移動する。もしステップ267でマッピングされた輝度値Im(u,v)がθLよりも大きく且つθHよりも小さければ、ステップ268が実行される。さもなければ、ステップ268はスキップされ、プロセスは次のループ264の次の反復へ移動する。閾値θL及びθHは所定定数であり、一般にはピクセル位置(u,v)と対応する感度レベルを有する光検知素子のマッピングされたノイズ・レベルを表すと共に、同一感度レベルを有する画像センサにおける光検知素子の飽和或は略飽和輝度値を表す。ステップ268で、値s及びwはフロー線図4000におけるステップ268を表すブロック内に示された等式に従って更新される。これら等式φmnは指標m及びnでの45度回転された立方補間カーネルφを表す。45度回転された立方補間カーネルの一例は図42における線図4200に示されている。ループ264が指標i及びjの全ての値に対して繰り返された後、ステップ269は実行される。ステップ269で関数Resample(Im,x’,y’)の値は値sを値wで割ることで獲得され、フロー線図4000で表される算定プロセスは図24におけるオフ−グリッド位置発生器45から受け取られる次のオフ−グリッド位置(x’,y’)に対して繰り返される。
【0072】
2つの感度レベル例に対するオン−グリッド・リサンプラーのデータ・フロー線図は、図28に示される4つの感度レベル例に対するものと同一である。しかしながら図28の線図における補間器によって実行される算定において幾つかの相違がある。4つの感度レベル例におけるように補間器は、受け取られたピクセル位置に最も近い隣接である4×4オフ−グリッド位置での各推定オフ−グリッド輝度値を用いて、図28におけるピクセル位置発生器38から受け取られるピクセル位置での補間された輝度値を算定する立方補間演算を実行する。しかしながら、2つの感度レベルに対する補間フィルタ・カーネルの形状は異なる。図41は、黒丸で表現されるオフ−グリッド位置によって表されるピクセル位置のローカル・エリアでの線図を示している。各ピクセル位置(x,y)での輝度値が算定されると、図41における陰影が付けられたダイヤモンド形状領域として示される、(x−2,y−2)から(x+2,y+2)までのダイヤモンド形状エリア内における受け取られたピクセル位置(x,y)に最も近い隣接である4×4オフ−グリッド位置での輝度値との積を形成すべく、45度回転4×4立方補間カーネルが適用される。45度回転4×4立方補間カーネル4200の一例が図42に示されている。2つの感度レベルに対するフィルタ・カーネルが4つの感度レベルに対するカーネルよりも小型であるので、2つの感度レベルに対する実施例はより良好な空間的周波数特性となる。
【0073】
図43へ移ると、2つの感度レベルに対するオン−グリッド・リサンプラーの実施例によって実行され得る算定プロセスを記載するフロー線図4300が示されている。ループ242が、位置(2.5,2.5)から位置(xサイズ−2.5,yサイズ−2.5)まで、図28におけるピクセル位置発生器38から受け取られる出力画像の各ピクセル位置(x,y)に対して繰り返され、ここでx及びyはピクセル位置であり、xサイズ及びyサイズはx方向及びy方向における取込画像の寸法である。ステップ243で、出力画像Io(x,y)の受け取られたピクセル位置(x,y)での輝度値は、その受け取られたピクセル位置(x,y)に最も近い隣接である4×4オフ−グリッド位置での輝度値Bと、フロー線図4300におけるステップ243を表すブロック内に示された等式に従った45度回転4×4立方補間カーネルφとの積を算定することで誘導される。出力画像I(x−2,y−2)の対応するピクセル位置での算定された輝度値は図28における出力画像メモリ21に保存される。図28におけるピクセル位置発生器38から受け取られる各ピクセル位置に対するループ242の反復が完了した後、フロー線図4300で表される算定プロセスは終了する。
【0074】
図2のデータ・フロー線図200に戻って参照すると、オフ−グリッド推定器22が図15及び図36に示されるような規則正しいアレイに横たわるオフ−グリッド位置での各オフ−グリッド輝度値を誘導する場合、オフ−グリッド輝度値の規則正しいアレイは、オン−グリッド・リサンプラー23による更なる処理無しに、高ダイナミックレンジ出力画像のピクセル輝度値として、出力画像メモリ21に直に保存され得ることが留意される。これは図44のデータ・フロー線図によって表される本発明の模範的実施例に示されており、オフ−グリッド推定器22によって算定された各推定オフ−グリッド輝度値は、引き続く表示或は更なる処理のために出力画像メモリ21に直に提供される。推定オフ−グリッド輝度値に直接的に基づく出力画像は、一般に、オン−グリッド・リサンプラー22による再標本化を被ったもの程に高品質を有することがないが、品質は幾つかの用途に対して充分であり得る。
【0075】
図45へ移れば、本発明の別の模範的実施例に従ったデータ・フロー線図4500が示されており、そこでは、図16のオフ−グリッド推定器のマッパー33及び関連検索テーブル・メモリ35が、図16に示された箇所から図28のオン−グリッド・リサンプラーの補間器37後へ移動されている。図16のオフ−グリッド推定器と図28のオン−グリッド・リサンプラーとの組合せで獲得されるものと近似的に同一の結果が、図45の構成を用いて獲得される。
【0076】
図46へ移れば、図45の構成によって実行され得る算定プロセスのフロー線図4600が示されている。第1としてループ244は、(1,1)から(xサイズ−1,yサイズ−1)まで、図45におけるオフ−グリッド位置発生器32から受け取られる各オフ−グリッド位置(x’,y’)に対して繰り返され、ここでx’及びy’はオフ−グリッド位置の座標であり、xサイズ及びyサイズはx方向及びy方向における取込画像の寸法である。ループ244、ステップ245、ループ246、並びに、ステップ249が実行される。ステップ245で、値sは0に初期化される。ループ246で、ステップ247及び248は各i番目の感度レベルに対して繰り返される。本実施例において、感度レベルの数は4である。ステップ247で、各オフ−グリッド位置(x’,y’)での第i番目感度レベルに対する感度レベル・オフ−グリッド輝度値piは、第i番目リサンプラーの再標本化関数Resamplei(Ic,S,x’,y’)によって、取込画像メモリ20における取込画像輝度値Icから誘導され、ここでSは図45における感度パターン・メモリ34からの感度パターン・データを表す。ステップ248で、第i番目の感度レベルpiに対する算定された感度レベル・オフ−グリッド輝度値は、第i番目の感度レベルに対する所定の重み付け係数Wiによって乗算される。この乗算の積はsに合算される。ループ246が各感度レベルに対して繰り返された後、ステップ249が実行される。ステップ249で、値xは図45におけるオフ−グリッド位置発生器32から受け取られるオフ−グリッド位置(x’,y’)でのオフ−グリッド輝度値Bに割り当てられる。ステップ249が実行された後、ループ244の現行反復が完了される。ループ244がオフ−グリッド位置発生器32から受け取られる各オフ−グリッド位置に対して繰り返された後、算定はループ250へ進む。ループ250が、図45におけるピクセル位置発生器38から受け取られる、(2.5,2.5)から(xサイズ−2.5,yサイズ−2.5)までの各ピクセル位置(x,y)に対して繰り返される。ループ250において、ステップ251及び252が実行される。ステップ251で、ピクセル位置(x,y)での補間されたオン−グリッド輝度値Iが、フロー線図4600におけるステップ251を表すブロック内の等式を用いて、受け取られたピクセル位置(x,y)に最も近い隣接である4×4オフ−グリッド位置での輝度値と、4×4の立方補間カーネルφとの積を算定することによって誘導される。ステップ252で、関数MAP(LUT,I)は概算されてピクセル位置(x−2,y−2)での出力画像Io(x−2,y−2)のピクセル輝度値を獲得する。関数MAP(LUT,I)を概算するこの算定プロセスは図19におけるフロー線図によって記載されている。ループ250が図45におけるピクセル位置発生器38から受け取られる各ピクセル位置に対して繰り返された後、4600に対するフロー線図によって表される算定プロセスは終了する。
【0077】
次に図4を参照すると、本発明の別の模範的実施例のデータ・フロー線図4700が示されており、図1の画像処理部2を具現化すべくオン−グリッド補間フィルタ46を用いている。図47における線図を図45における線図と比較すると、リサンプラー28,29,30,31、重み付け係数メモリ24,25,26,27、感度パターン・メモリ34、オフ−グリッド輝度値メモリ36、補間器37、オフ−グリッド位置発生器32、並びに、ピクセル位置発生器38が、オン−グリッド補間フィルタ46及びピクセル位置発生器47によって置き換わっている。フィルタの誘導は次に説明される。
【0078】
本発明に従えば、オフ−グリッド輝度値B(x,y)はオフ−グリッド関数foff(*)を取込画像輝度値Ic(x,y)に適用することによって獲得され、即ち、
【0079】
【数25】
【0080】
図16乃至図19によって表されるオフ−グリッド推定器の実施例において、単色光検知素子応答関数s(E)に依存するオフ−グリッド輝度値は先ず誘導され、次いで応答関数独立オフ−グリッド輝度値が応答関数s(E)の逆関数に対する検索テーブルを適用することによって回復され、即ち、
【0081】
【数26】
【0082】
ここで
【外1】
は、等式(1)を用いて算定されたような異なる感度レベルを有する光検知素子の応答関数の重みが付けられた合計を用いることによって感度レベル依存オフ−グリッド輝度値を獲得するための関数である。
【0083】
出力画像を獲得するため、オン−グリッド再標本化関数fon(*)が用いられて、従来の再標本化関数r(*)によってピクセル位置での輝度値を算定する。それ故に、出力画像は次式の如くに表現される。
【0084】
【数27】
【0085】
もしオリジナルの連続関数が充分に平滑であれば、同一の連続関数が異なる再標本化データ列から構築され得ることが仮定され得る。この仮定に基づき、
【外2】
は、次式の下、Io(x,y)と同等である。
【0086】
【数28】
【0087】
【外3】
及びIoは
【外4】
が平滑ではないときに同等ではないが、それにもかかわらず〔外2〕はIo(x,y)の近似として使用され得る。
【0088】
関数〔外1〕及びr(*)は単一のフィルタ関数に結合させることができ、その理由はそれら両関数が線形であり、位相シフトに不変であるからである。それ故に図47の線図によって表される実施例は、〔外1〕及びr(*)を組み合わせるオン−グリッド補間フィルタを用いる。このフィルタは〔外1〕及びr(*)の畳み込みによって誘導される。〔外1〕及びr(*)を結合又は組み合わせるそうしたフィルタのカーネル4900の一例が図49に示されている。フィルタ・カーネル4800は、〔外1〕としての図16乃至図19のオフ−グリッド推定器の実施例に対して記載された4つの最も近い隣接ピクセル位置輝度値再標本化と、r(*)としての畳み込み立方補間フィルタリングとの単純な平均を用いて誘導される。
【0089】
図48を参照すると、図47におけるデータ・フロー線図4700によって表される画像処理部の実施例で実行される算定プロセスを記載するフロー線図4800が示されている。第1としてループ253が、(2.5,2.5)から(xサイズ−2.5,yサイズ−2.5)まで、図47におけるピクセル位置発生器47から受け取られる出力画像の各ピクセル位置(x,y)に対して繰り返され、ここでx及びyはピクセル位置の座標であり、xサイズ及びyサイズはx方向及びy方向における取込画像の寸法である。ループ253において、ステップ254及び255が実行される。ステップ254で、補間されたオン−グリッド輝度値Iが、受け取られたピクセル位置(x,y)に最も近い5×5の隣接ピクセル位置での取込画像Icの輝度値を、5×5のフィルタ・カーネルφで乗算することで算定される。ステップ255で、図47における検索テーブル・メモリ35に保存された検索テーブル・データが図47におけるマッパー33で算定されたオン−グリッド輝度値Iに適用されて、ピクセル位置(x−2,y−2)での出力画像Io(x−2,y−2)の輝度値を獲得する。ループ253が図47におけるピクセル位置発生器47から受け取られる各出力画像ピクセル位置に対して繰り返された後、フロー線図4800によって表された算定プロセスは終了する。フロー線図4800で表されたプロセスを用いて、xサイズ−4及びyサイズ−4の寸法を具備する出力画像が獲得される。
【0090】
本発明は、ライン画像を取り込む光検知素子から成る線形アレイを有する線形画像センサに適用され得る。CCD線形画像センサを含むそうした線形画像センサは、2次元画像センサよりも、所与の方向に沿ったより多数の光検知素子によって利用可能である。従って、線形画像センサは、1シーンの線形画像センサによるスキャニングが実現可能であり、そのシーンの連続的に規則正しく離間された複数の線形領域から成る順次取り込まれたライン画像が鎖状につなげられるような用途において、より大きな解像度の2次元画像を提供するように使用され得る。線形画像センサがシーンをスキャンして、2次元画像用に鎖状に連結され得るライン画像を順次取り込む様々な方法の例が図50に図示されている。図50を参照すると、線形画像センサ276及びレンズ系277を有する結像システムが示されており、対象278を有するシーンの線形領域310のライン画像を線形画像センサの光検知素子(不図示)上に投影する。この結像システムは、同図における結像システムの移動を示す矢印によって示されるように、そのシーンに対して一定速度で移動(平行移動及び/或は回転)させられる。シーンのライン画像は、露出信号の規則正しいシーケンス(不図示)を移動中の線形画像センサ276に付与することによって、規則正しい連続的な間隔で取り込まれる。順次取り込まれた線形画像が鎖状に結合され得て、そのシーンの単一の高解像度2次元画像を形成する。
【0091】
図51へ移ると、線形画像センサ276及びレンズ系277を含む結合システムが示されている。この結像システムは、一定速度で当該結像システムを通過移動する対象280及び281を運ぶコンベヤーベルト279を含んでいるシーンに対して静止状態に保持されている。そのシーンの連続的な規則正しい離間線形領域311のライン画像は、露出信号(不図示)の規則正しいシーケンスを線形画像センサ276に付与することによって、規則正しい間隔で順次取り込まれる。順次取り込まれたライン画像は再び鎖状に結合され得て、対象280及び281を運ぶコンベヤーベルト279の1区分の2次元画像を形成する。
【0092】
本発明に従えば、線形画像センサ276は空間的変動感度パターンを有する。図52を参照すると、2つの異なる透明性を有するセル282及び283を有する図式的な線形マスク5200が示されている。マスク5200の各セルは線形画像センサの光検知素子の内の対応する1つの前方に配置させて、センサのその光検知素子が、マスク5200によって規定された光検知素子から成る線形アレイの所定感度パターンに従った2つの感度レベルの対応する1つを有するように為している。
【0093】
シーンからの入射光に応じて、線形画像センサの各光検知素子は、線形ピクセル位置アレイの規則正しく離間された多数のピクセル位置の内の対応する1つにおける取込画像輝度値を作り出し、それによって線形画像を取り込んでいる。線形画像センサによって取り込まれた連続ライン画像(複数)が鎖状に結合されると、複数の規則正しく離間されたピクセル行と、該ピクセル行に対して直交する複数の規則正しく離間されたピクセル列との各交差点に配置されたピクセル位置の2次元アレイが獲得され、各ピクセル位置は、鎖状結合されたライン画像の内の対応する1つにおける同一ピクセル位置での光検知素子で作り出された輝度値を有し、該輝度値は、図53の鎖状結合された露出マスクによって図式的に規定された2次元感度パターンに従った光検知素子の2つの感度レベルの内の1つと対応している。理解して頂けるように、線形画像センサの光検知素子は3つ以上の感度レベルを有することができ、各光検知素子の感度レベルはマスク以外の手段によって設定され得る。
【0094】
図37に戻って参照すると、鎖状結合された2次元取込画像の各ピクセル位置での取込画像輝度値は取込画像メモリ20に保存され得て、図53によって図式的に表現された空間的変動感度パターンは感度パターン・メモリ34に保存され得る。オフ−グリッド輝度値は図37に示されたデータ・フロー線図に従って推定され得て、オフ−グリッド位置アレイは図54に図式的に示された線形オフ−グリッド位置アレイの鎖状結合であり得て、そこでは各オフ−グリッド位置286がピクセル位置285の各隣接対の間の中間に配置されている。
【0095】
また、図24のデータ・フロー線図と、異なるオフ−グリッド位置アレイを考慮すべく適切な変更を具備した、図25及び図30のフロー線図3900及び4000によって記載された算定プロセスとは、取込画像メモリ20における鎖状結合された2次元取込画像輝度値から、オフ−グリッド位置輝度値を推定すべく使用され得る。各オフ−グリッド位置での推定されたオフ−グリッド輝度値は図44に従って出力画像のピクセル輝度値として直接的に使用され得るか、或は、図28のデータ・フロー線図に従った推定オフ−グリッド輝度値のオン−グリッド再標本化と、異なるオフ−グリッド位置アレイを考慮すべく適切な変更を具備した図30のフロー線図3000によって記載された算定プロセスとは、出力画像の各ピクセル位置での再標本化されたオン−グリッド輝度値を誘導すべく使用され得、その再標本化オン−グリッド輝度値は出力画像メモリ21に保存された出力画像のピクセル輝度値である。
【0096】
図45及び図46を参照すると、取込画像メモリ20に保存された鎖状結合取込ライン画像の各ピクセル位置での取込画像輝度値は、図46のフロー線図4600によって記載された算定プロセスを用いて、図45のデータ・フロー線図4500に従って処理され得て、出力画像メモリ21に保存されるべく出力画像の各ピクセル位置での再標本化輝度値を誘導する。そうした処理を実行するため、データ・フロー線図4500及び算定フロー線図4600は変更されて、2つの感度レベルを有する光検知素子を具備する画像センサの使用と、異なるオフ−グリッド位置アレイの使用とを考慮する。
【0097】
図47及び図48を参照すると、取込画像メモリ20に保存された鎖状結合取込ライン画像の各ピクセル位置での取込画像輝度値は、図48のデータ・フロー線図4700で記載された算定プロセスを用いて、図47のデータ・フロー線図4700に従って処理され得て、出力画像メモリ21に保存されるべき出力画像の各ピクセル位置での補償され補間された輝度値を誘導する。そうした処理を実行するため、データ・フロー線図4700及びフロー線図4800は変更されて、2つの感度レベルを有する光検知素子を具備する画像センサの使用を考慮する。2つの感度レベルを有する光検知素子の組合せ応答関数の逆関数を表す検索テーブル35に保存されたデータに逆る変更を別として、これら変更もフロー線図4800によって記載された算定プロセスで使用されるべき異なるフィルタ・カーネルφを生ずる。
【0098】
鎖状結合された取込ライン画像を処理する代替として、各ライン画像は個別に処理され得て、オフ−グリッド位置での輝度値を推定することによって高ダイナミックレンジ・ライン画像を誘導し、それらオフ−グリッド位置は線形ピクセル位置アレイに対してピクセル位置の各隣接対の間に配置される。処理されたライン画像は次いで鎖状に結合されて、高ダイナミックレンジの2次元画像を獲得する。各ライン画像の個別処理は、2次元画像の処理と比べてより少ない算定強度であり、それ故にライン画像が取り込まれるとリアルタイムで処理可能である。図54へ移ると、正方形によって表されたピクセル位置285の例示的な行と、円形で表された「オフ−グリッド」位置286とが示されており、各オフ−グリッド位置286がピクセル位置285の各隣接対の間の中間に配置されている。1つの模範的実施例に従えば、各オフ−グリッド位置286での輝度値は、オフ−グリッド位置の予め規定された近所内におけるピクセル位置285での取込画像輝度値の重みが付けられた平均を算定することで誘導され得る。線形画像センサが2つの異なる感度レベルの光検知素子を有する場合、ピクセル位置の連続的な隣接対の全てにおける取込画像輝度値が平均されて、それらピクセル位置の連続的な隣接対の間でのオフ−グリッド位置での推定輝度値を獲得する。このようにして、オフ−グリッド位置x’での輝度値B(x’)は次式の如くに表現され得る。
【0099】
【数29】
【0100】
上式において、W1及びW2は2つの異なる感度レベルに割り当てられた重み付け係数である。結果としてのオフ−グリッド輝度値は高ダイナミックレンジの1次元画像を表す。算定されたオフ−グリッド輝度値が、それぞれ、光検知素子の組合せ応答関数の逆関数で補償される。この組合せ応答関数は次式の如くに表現される。
【0101】
【数30】
【0102】
ここで、P1(E)は2つの感度レベルの内の一方を有する線形画像センサにおける光検知素子のラジオメトリック応答関数であり、P2(E)は2つの感度レベルの内の他方を有する線形画像センサにおける光検知素子のラジオメトリック応答関数であり、W1及びW2は2つの異なる感度レベルに割り当てられた重み付け係数である。2次元例の場合のように、マッパー及び検索テーブル・メモリを用いて、光検知素子の組合せ応答関数の逆関数による推定オフ−グリッド輝度値の補償は、そうしたオフ−グリッド輝度値をシーン放射輝度に線形に関連されたものに再マッピングを為す。
【0103】
図55を参照すると、図54におけるオフ−グリッド位置286での推定輝度値を誘導するための算定プロセスを記載するフロー線図5500が示されている。このフロー線図5500で記載された算定プロセスは、図24のデータ・フロー線図2400で表されるオフ−グリッド推定器によって実行される。図24を参照すると、ピクセル位置発生器43は、図54に示された線形ピクセル位置アレイにおけるピクセル位置285の位置を提供する。感度パターン・メモリ40は、図52における例示的マスク5200によって規定されたように、各ピクセル位置と対応する感度レベルを保存する。検索テーブル・メモリ39は、2つの感度レベルを有する光検知素子の各逆応答関数データを表すデータを保存する。オフ−グリッド位置発生器46は、図54に示されたオフ−グリッド位置アレイにおけるオフ−グリッド位置286を提供する。
【0104】
図55に戻ると先ずループ287が、図24におけるピクセル位置発生器43から受け取られる、0.5からxサイズ−0.5までの線形ピクセル位置アレイにおける各ピクセル位置xに対して繰り返されるが、ここでxサイズ−0.5はライン画像の長さである。ループ287において、ステップ288及び289が実行される。ステップ288で、第i番目の感度レベルに対する検索テーブル・データLUTiが受け取られたピクセル位置xと対応する感度レベルiを参照することで選択される。受け取られたピクセル位置xと対応する感度レベルは図24における感度パターン・メモリ40に保存された感度パターン・データS(x)から獲得される。ステップ289で、図24における検索テーブル・メモリ39に保存された検索テーブル・データLUTiが図24におけるマッパー42によって、図24における取込画像メモリ20から受け取られたピクセル位置xでの取込画像輝度値Ic(x)に適用される。検索テーブル・データLUTiから誘導された感度レベルiを有する光検知素子の応答関数の逆関数によって補償された、受け取られたピクセル位置xでの輝度値は、Im(x)によって指定される。ループ287が図24におけるピクセル位置発生器43から受け取られる各ピクセル位置に対して繰り返された後、ループ290が図24におけるオフ−グリッド位置発生器45から受け取られる2からxサイズ−2までの各オフ−グリッド位置x’に対して繰り返される。ループ290において、ステップ291、ループ292、並びに、ステップ293が実行される。ステップ291で値p及び値qが、それぞれ、0に初期化される。ステップ291の後にループ292が、受け取られたオフ−グリッド位置x’に最も近い隣接である所定数のピクセル位置の内の1つである各ピクセル位置kに対して繰り返される。図55のフロー線図5500によって記載された算定プロセスにおいて、所定数の最も近い隣接ピクセル位置は4つであり、kは(x’−1.5)から(x’+1.5)までの値を有する。ループ292において、ステップ294及び295が実行される。ステップ294で、ピクセル位置kでの補償された取込画像輝度値Im(k)は低閾値θLと高閾値θHと比較される。もしIm(k)がθLよりも大きく且つθHよりも小さければ、ステップ295が実行される。さもなければ、ステップ292は次の反復へ進む。ステップ295で、Im(k)は位置(k−x’)での4×1ガウシアン補間カーネルG(k−x’)の値で乗算され、その積が量pに合算される。加えて、ガウシアン補間カーネルG(k−x’)の値が量qに合算される。ループ292がkの各値に対して繰り返された後、ステップ293が実行される。ステップ293で、受け取られたオフ−グリッド位置x’でのオフ−グリッド輝度値B(x’)が値pを値qで割ることによって算定され、ループ290が図24におけるオフ−グリッド位置発生器45から受け取られる次のオフ−グリッド位置へ進む。ループ290がオフ−グリッド位置アレイにおける各オフ−グリッド位置x’に対して繰り返された後、フロー線図5500で記載された算定プロセスは終了する。閾値θL及びθHは所定の定数値であり、一般的には、光検知素子の応答関数の逆関数によって補償されたピクセル位置kと対応している感度レベルを有する光検知素子のノイズ・レベルを表すと共に、同一感度レベルを有する光検知素子の飽和或は略飽和値を表す。フロー線図5500で記載された算定プロセスに使用され得る4×1ガウシアン・カーネル5600の一例は図55に示され、これには、ガウシアン・カーネル5600の中心が補間に含まれる4×1ピクセル位置アレイの中心であることが仮定されている。
【0105】
オフ−グリッド位置での推定オフ−グリッド輝度値各々は出力画像のピクセル輝度値として直に使用され得ると共に、図24における出力画像メモリ36に保存され得る。代替的には、オフ−グリッド輝度値は様々な補間技法の内の1つを用いて再標本化され得て、次いで出力画像のピクセル位置輝度値として出力画像メモリに保存されることになる、再標本化されたピクセル位置輝度値を獲得する。
【0106】
図28に戻って参照すると、ピクセル位置での各再標本化輝度値を誘導すべく推定されたオフ−グリッド輝度値の再標本化は、2800のデータ・フロー線図に従って為され得る。補間器37は、ピクセル位置発生器38から、図54に図示された線形ピクセル位置アレイにおけるピクセル位置を受け取る。受け取られた各ピクセル位置に対して、補間器37は、オフ−グリッド輝度値メモリ36に保存された推定オフ−グリッド輝度値から、受け取られたピクセル位置での補間された輝度値を誘導し、次いでそれは出力画像メモリ21へ提供される。図57へ移ると、図28における補間器37によって実行され得る算定プロセスを記載するフロー線図5700が示されている。この算定プロセスは、ステップ298を含むループ297を有する。ループ297は、図28におけるピクセル位置発生器38から受け取られる、3.5からxサイズ−3.5までの出力画像における各ピクセル位置xに対して繰り返されるが、ここでxサイズは取り込まれたライン画像の長さである。ステップ298で出力画像Io(x−3)の輝度値は、受け取られたピクセル位置xに最も近い4つの隣接オフ−グリッド位置での輝度値と、4×1立方補間カーネルΨとの積を算定することによって誘導される。ピクセル位置(x−3)での算定されたオン−グリッド輝度値Io(x−3)は、図28の出力画像メモリ21における出力画像の対応するピクセル位置での輝度値として保存される。ループ297が図28におけるピクセル位置発生器38から受け取られた3.5からxサイズ−3.5までの各ピクセル位置に対して繰り返された後、フロー線図5700によって記載された算定プロセスは終了する。フロー線図5700で記載された算定プロセスに使用され得る立方補間カーネルΨ(k)5800の一例は図58に示されている。
【0107】
ライン出力画像のオン−グリッド輝度値を誘導すべく、取込ライン画像を処理する本発明の別の実施例は図47のデータ・フロー線図4700で表されている。図47を参照すると、図54に図示された線形ピクセル位置アレイにおける各ピクセル位置での取込画像輝度値は、取込画像メモリ20に保存されている。オン−グリッド補間フィルタ46はピクセル位置発生器47から線形ピクセル位置アレイにおけるピクセル位置を受け取る。ピクセル位置発生器47から受け取られる各ピクセル位置に対して、フィルタ46はとり込み画像メモリ20内の取込画像輝度値を補間して、受け取られたピクセル位置における補間されたオン−グリッド輝度値を誘導する。補間オン−グリッド輝度値は、次いで、画像センサ(不図示)における光検知素子の組合せ応答関数の逆関数によって補償され、その補償された補間オン−グリッド輝度値は、ピクセル位置発生器47から受け取られたピクセル位置での出力ライン画像輝度値として、出力画像メモリ21に保存される。
【0108】
図59を参照すると、図1のデータ・フロー線図の画像処理部2の更なる実施例を表すデータ・フロー線図5900が示されている。取り込まれたライン画像を処理すべく使用される際、図59の画像処理部は、0.5からxサイズ−0.5までの、図54に図示された線形ピクセル位置アレイにおけるピクセル位置を順次発生する第1ピクセル位置発生器43を含み、ここでxサイズはライン画像の長さである。図59の画像処理部は、線形ピクセル位置アレイにおける各ピクセル位置と対応する感度レベルを保存する感度パターン・メモリ40、マッパー42、感度レベルの内の異なるものを有する光検知素子の応答関数の逆関数を表している個別検索テーブル・データを保存する関連検索テーブル・メモリ39、ピクセル位置と対応している感度レベルを有する光検知素子の応答関数の逆関数による補償後の各ピクセル位置での取込画像輝度値を保存するマッピングされたピクセル位置輝度値メモリ41、2.5からxサイズ−2.5までのピクセル位置アレイにおけるピクセル位置を発生する第2ピクセル位置発生器47、並びに、第2ピクセル位置発生器43からピクセル位置を受け取るオン−グリッド補間フィルタ46であり、マッピングされたピクセル位置輝度値メモリ41における各ピクセル位置での補償された取込画像輝度値を補間して、第2ピクセル位置発生器47から受け取られる各ピクセル位置に対するオン−グリッド補間輝度値を誘導するオン−グリッド補間フィルタ46をも含む。線形ピクセル位置アレイにおける各ピクセル位置でのオン−グリッド補間輝度値は、出力ライン画像のピクセル輝度値として、出力画像メモリ21に保存される。留意されることは、図59のデータ・フロー線図5900によって表される画像処理部の実施例が、2次元ピクセル位置アレイ、2威厳感度パターン、並びに、2次元オン−グリッド補間フィルタを考慮した適切な変更を伴って、2次元取込画像を処理すべく使用され得ることである。
【0109】
図60へ移れば、取込ライン画像を処理するため、図59のデータ・フロー線図5900によって表される画像処理部の実施例によって実行され得る算定プロセスを記載するフロー線図6000が示されている。第1としてループ299は、0.5からxサイズ−0.5まで、図59における第1ピクセル位置発生器43から受け取られる各ピクセル位置に対して繰り返され、ここでxサイズは取込ライン画像の長さである。ループ299において、ステップ301及び302が実行される。ステップ301で、図59における検索テーブル・メモリ39に保存された第i番目の感度レベルに対する検索テーブル・データLUTiは、図59における第1ピクセル位置発生器43から受け取られるピクセル位置xと対応している感度レベルに対して、図59における感度パターン・メモリ40に保存された感度パターン・データS(x)を参照することで選択される。ステップ302で、検索テーブル・データLUTiは図59におけるマッパー42によって受け取られたピクセル位置xでの取込画像輝度値Ic(x)に適用され、受け取られたピクセル位置xでの結果として補償された取込画像輝度値はそのピクセル位置でのマッピングされた輝度値Im(x)として指定される。ループ299が第1ピクセル位置発生器43から受け取られるピクセル位置アレイにおけるピクセル位置の全てに対して繰り返された後、算定プロセスはループ303へ進む。ループ303は2.5からxサイズ−2.5までの各ピクセル位置に対して繰り返される。ループ303において、ステップ304、ループ305、並びに、ステップ306が実行される。ステップ304で、量p及びqがそれぞれ0にセットされる。ステップ304後、k=x−2からk=x+2まで、ループ305の各反復でピクセル位置kを増分することで、第2ピクセル位置発生器47から受け取られるピクセル位置xに最も近い隣接である5個のピクセル位置kに対して、ループ305が繰り返される。ループ305において、ステップ307,308,309が実行される。ステップ305で、ピクセル位置kでのマッピングされた輝度値Im(k)は低閾値θLと高閾値θHと比較される。もしIm(k)がθLよりも大きく且つθHよりも小さければ、ステップ308が実行される。さもなければ、ループ305はkの次の値へ進む。ステップ308で、Im(k)は位置(k−x)での線形ガウシアン補間カーネルG(k−x)の値で乗算され、その積が量pに合算される。加えて、位置(k−x)でのガウシアン補間カーネルG(k−x)の値が量qに合算される。ループ305がk=x−2からk=x+2までのkの各値に対して繰り返された後、ステップ306が実行される。ステップ306で、第2ピクセル位置発生器47から受け取られたピクセル位置xでの出力画像輝度値Io(x)が値pを値qで割ることによって算定される。次いでループ303は第2ピクセル位置発生器47から受け取られる次のピクセル位置へ進む。ループ303が2=2.5からx=xサイズ−2.5までの各ピクセル位置に対して繰り返された後、フロー線図6000で記載された算定プロセスは終了する。閾値θL及びθHは所定の定数値であり、一般的には、光検知素子の応答関数の逆関数によって補償されたピクセル位置kと対応している感度レベルを有する光検知素子のノイズ・レベルを表すと共に、同一感度レベルを有する光検知素子の飽和或は略飽和値を表す。フロー線図6000で記載された算定プロセスに使用され得る5×1ガウシアン・カーネルG(k)の一例は図61に示されている。
【0110】
以上、本発明はその模範的実施例を参照して詳細に説明されたが、当業者であれば理解して頂けるように、様々な変更及び改変が本発明の精神及び範囲から逸脱すること無しに為され得る。例えば、画像センサは電荷結合素子である必要性はなく、CMOS画像センサ等の光検知素子から成るアレイを有する任意の画像センサであることが可能である。従って、本発明の開示された実施例は単なる例示として考えられ、本発明はその範囲に関して特許請求の範囲で指定されたもののみに限定される。
【図面の簡単な説明】
【図1】 図1は、本発明に係る高ダイナミックレンジ画像を獲得するシステムを表すデータ・フロー線図である。
【図2】 図2は、本発明の模範的な実施例に係る、図1のデータ・フロー線図における画像処理部を表すデータ・フロー線図である。
【図3】 図3は、本発明に係る模範的なシステムのハードウェア構成要素を示すブロック線図である。
【図4】 図4は、4つのセルから成る群の空間的繰り返しを有する例示的なマスクを示し、各群の各セルが共通した所定位置順序で異なる透明性を有している。
【図5】 図5は、図4のマスクにおける所定位置順序での異なる透明性を有する4つのセルから成る群である。
【図6】 図6は、本発明に係るマスクされた画像センサを用いて、明るい対象と暗い対象とを有するシーンの取込を図示する。
【図7】 図7は、本発明に係るマスクされた画像センサによるシーンの取込画像の例示的な表示である。
【図8】 図8は、光検知素子と典型的な電荷結合素子画像センサの関連構造との断面の概略的な表示である。
【図9】 図9は、2つの隣接光検知素子と電荷結合素子画像センサの関連構造との断面の概略的表示であり、光検知素子に異なる感度レベルを提供する技術を図示している。
【図10】 図10は、2つの隣接光検知素子と電荷結合素子画像センサの関連構造との断面の概略的表示であり、光検知素子に異なる感度レベルを提供する別の技術を図示している。
【図11】 図11は、2つの隣接光検知素子と電荷結合素子画像センサの関連構造との断面の概略的表示であり、光検知素子に異なる感度レベルを提供する更なる別の技術を図示している。
【図12】 図12は、光検知素子に異なる感度レベルを提供するために、それぞれの光検知素子に対してリセット・トリガー・パルス及び転送トリガー・パルスを付与する端子を示している行間挿入構造を有する簡略化された電荷結合素子画像センサの概略表示である。
【図13】 図13は、典型的な電荷結合素子画像センサの光検知素子、その関連構造、並びに、対応する垂直シフトレジスタの断面の概略表示であり、リセット・トリガー信号の付与による保存光発生電荷の降下と、転送トリガー信号の付与による保存光発生電荷の各シフトレジスタ段への転送とを図示している。
【図14】 図14は、4つのフォトダイオードに対する露出パルス、リセット・トリガー・パルス、転送トリガー・パルスの波形と、図13に示された簡素化された電荷結合素子画像センサに対する4つのフォトダイオード各々に保存された電荷の大きさとを示すタイミング線図を示す。
【図15】 図15は、複数の規則正しく離間されたピクセル行と、該ピクセル行と直交して複数の規則正しく離間されたピクセル列との各交差点に配置されたピクセル位置、並びに、複数の規則正しく離間された中間行と複数の規則正しく離間された中間列との各交差点に配置されたオフ−グリッド位置を図式的に示す線図である。
【図16】 図16は、本発明の別の模範的な実施例に従った、図2の線図におけるオフ−グリッド推定器のデータ・フロー線図である。
【図17】 図17は、図16のオフ−グリッド推定器の実施例によって実行され得る算定プロセスを記載するフロー線図である。
【図18】 図18は、図17のフロー線図によって記載される算定プロセスに使用されるResamplei(Ic,S,x,y)を概算する算定プロセスを記載するフロー線図である。
【図19】 図19は、図17のフロー線図によって記載される算定プロセスに使用されるMap(LUT,s)を概算する算定プロセスを記載するフロー線図である。
【図20】 図20は、4つの異なる感度レベルを有する4つの光検知素子のラジオメトリック応答関数の例を図式的に示す。
【図21】 図21は、図20に示された4つの異なる感度レベルを有する光検知素子の模範的なラジオメトリック応答関数の重み付けされた合計を算定することで誘導された、光検知素子の模範的な組合せラジオメトリック応答関数を図式的に示す。
【図22】 図22は、図21の組み合わされたラジオメトリック応答関数の逆関数から誘導された検索テーブル・データを図式的に示す。
【図23】 図23は、ガンマ特性が含まれた組合せラジオメトリック応答関数の逆関数に対する検索テーブル・データを図式的に示す。
【図24】 図24は、本発明の更なる別の模範的な実施例に従った、図2の線図におけるオフ−グリッド推定器のデータ・フロー線図である。
【図25】 図25は、図24のデータ・フロー線図によって表されるオフ−グリッド推定器の実施例によって実行され得る算定プロセスを記載するフロー線図である。
【図26】 図26は、図24のデータ・フロー線図によって表されるオフ−グリッド推定器の実施例によって実行され得る代替的な算定プロセスを記載するフロー線図である。
【図27】 図27は、4×4立方補間フィルタ・カーネルの一例を示す。
【図28】 図28は、本発明の更なる別の模範的な実施例に従った、図2のデータ・フロー線図のオン−グリッド・リサンプラーのデータ・フロー線図である。
【図29】 図29は、4×4立方補間フィルタを用いるオン−グリッド・リサンプラーを説明するピクセル位置及びオフ−グリッド位置の線図である。
【図30】 図30は、図28のデータ・フロー線図によって表されるオン−グリッド・リサンプラーの実施例によって実行され得る算定プロセスを記載するフロー線図である。
【図31】 図31は、双立方B−スプライン補間フィルタ・カーネルの一例を示す。
【図32】 図32は、双線形B−スプライン補間フィルタ・カーネルの一例を示す。
【図33】 図33は、6×6の2次元ガウシアン補間フィルタ・カーネルの一例を示す。
【図34】 図34は、単純なシフト・フィルタ・カーネルの一例を示す。
【図35】 図35は、画像センサに2つの感度レベルを具備する空間的変動感度パターンを提供する、2つの異なる透明性を伴うセルを有する例示的なマスクを示す。
【図36】 図36は、複数の規則正しく離間されたピクセル行と該ピクセル行と直交して複数の規則正しく離間されたピクセル列との各交差点に配置されたピクセル位置、ピクセル行と複数の規則正しく離間された中間列との各交差点に配置されたオフ−グリッド位置、並びに、ピクセル列と複数の規則正しく離間された中間行との各交差点に配置されたオフ−グリッド位置を図式的に示す線図である。
【図37】 図37は、本発明の更なる模範的な実施例に従った、2つの感度レベルを有する画像センサに対する、図2のデータ・フロー線図のオフ−グリッド推定器のデータ・フロー線図である。
【図38】 図38は、図37のフロー線図によって表される2つの感度レベルに対するオフ−グリッド推定器の実施例によって実行され得る算定プロセスを記載するフロー線図である。
【図39】 図39は、本発明に従って、2つの感度レベル・オフ−グリッド推定器の模範的な実施例に立方類似逆推定器を提供するために、図24のデータ・フロー線図によって表される模範的な実施例によって実施され得る算定プロセスを記載するフロー線図である。
【図40】 図40は、図39のフロー線図に記載された算定プロセスに使用される関数であるPseudoinverse(Im,x’,y’)を概算する算定プロセスを記載するフロー線図である。
【図41】 図41は、本発明に従った2つの感度レベルに対するオン−グリッド・リサンプラーの模範的な実施例に対する、45度回転立方補間フィルタ・カーネルを用いて、オン−グリッド再標本化を説明するピクセル位置及びオフ−グリッド位置の陰影付け領域を示す線図である。
【図42】 図42は、2つの感度レベルに対するオン−グリッド・リサンプラーの模範的な実施例に対する、図40のフロー線図によって記載される算定プロセスに使用され得る45度回転立方補間フィルタ・カーネルの一例を示す。
【図43】 図43は、本発明に従った2つの感度レベルに対するオン−グリッド・リサンプラーの模範的な実施例を獲得するために、図28のデータ・フロー線図によって表される算定プロセスを記載するフロー線図である。
【図44】 図44は、図1のデータ・フロー線図の画像処理部の更なる模範的な実施例のデータ・フロー線図である。
【図45】 図45は、4つの感度レベルに対する、図1のデータ・フロー線図の画像処理部の更なる模範的な実施例の詳細なデータ・フロー線図である。
【図46】 図46は、図45のデータ・フロー線図によって表される画像処理部の模範的な実施例によって実行され得る算定プロセスを記載するフロー線図である。
【図47】 図47は、図1のデータ・フロー線図の画像処理部の更に別の模範的な実施例のデータ・フロー線図である。
【図48】 図48は、図47のフロー線図によって表される画像処理部の模範的な実施例によって実行され得る算定プロセスを記載するフロー線図である。
【図49】 図49は、図48のフロー線図によって記載された算定プロセスに使用され得る5×5フィルタ・カーネルの一例を示す。
【図50】 図50は、線形画像センサを有する結像システムによるシーンの連続的なライン画像の取込を図示しており、該結像システムはそのシーンに対して一定速度で移動することによってそのシーンをスキャンし、前記画像センサは一定の時間間隔でそのシーンの逐次露出を採用している。
【図51】 図51は、静止状態の結像システムを一定速度で通過するように移動するコンベヤベルト上の対象の連続的なライン画像の取込を図示しており、該システムは一定の時間間隔でコンベヤベルト及び対象の逐次露出を採用する線形画像センサを有する。
【図52】 図52は、線形画像センサに2つの感度レベルを具備する空間的変動感度パターンを提供するために、2つの異なる透明性を具備するセルを有する例示的な露出マスクを示す。
【図53】 図53は、図52の露出マスクによって規定される1次元空間的変動感度パターンを有する線形画像センサで取り込まれた連続的なライン画像を鎖状に結合することで形成される2次元画像の2次元空間的変動感度パターンを表す、図52の露出マスクの鎖状結合を例示的に示す。
【図54】 図54は、ピクセル(オン−グリッド)位置及びオフ−グリッド位置の線形アレイを例示的に示す線図である。
【図55】 図55は、2つの感度レベルの光検知素子を有する線形画像センサによって取り込まれたライン画像のために、図24のフロー線図によって表されるオフ−グリッド推定器の実施例によって実行され得る算定プロセスを記載するフロー線図である。
【図56】 図56は、図55のフロー線図によって記載される算定プロセスに使用され得る4×1の1次元ガウシアン補間カーネルの一例を示す。
【図57】 図57は、1次元出力画像のオン−グリッド輝度値を誘導するために、図28のデータ・フロー線図によって表されるオン−グリッド・リサンプラーの実施例によって実行され得る算定プロセスを記載するフロー線図である。
【図58】 図58は、図57のフロー線図によって記載される算定プロセスに使用され得る4×1の1次元の立方補間カーネルの一例を示す。
【図59】 図59は、図1のデータ・フロー線図の画像処理部の更なる別の模範的な実施例を表すデータ・フロー線図である。
【図60】 図60は、線形出力画像のオン−グリッド輝度値を誘導すべく、図59のデータ・フロー線図によって表される画像処理部の実施例によって実行され得る算定プロセスを記載するフロー線図である。
【図61】 図61は、図60のフロー線図によって記載される算定プロセスに使用され得る5×1のオン−グリッド補間フィルタ・カーネルの一例を示す。
Claims (172)
- 1シーンの画像を取り込むために該シーンからの入射光で露出された比較的低いダイナミックレンジ画像センサを用いて、該シーンの比較的高いダイナミックレンジの画像を獲得するために、前記画像センサがアレイ状となった多数の光検知素子を有し、それら光検知素子の各々が、当該光検知素子アレイに対する所定感度パターンに従って入射光に対する複数の感度レベルの内の特定の1つを有すると共に、応答関数を有しており、前記光検知素子アレイの所定感度パターンが、多数の異なる所定感度レベルを有すると共に、前記所定感度パターンに対応する最も近い隣接ピクセル位置からなる群が繰り返されてピクセル位置アレイが構成され、各群における前記多数のピクセル位置の各々が共通した所定位置順序の前記多数の所定感度レベルの内の1つと対応しており、各光検知素子が前記シーンからの入射光に応答して、ピクセル位置アレイにおける前記多数のピクセル位置の内の対応する1つで取込画像輝度値を作り出すようにする方法であって、
(a)前記ピクセル位置アレイのピクセル位置での各取込画像輝度値から、前記多数のオフ−グリッド位置での各オフ−グリッド輝度値を推定する段階であり、前記オフ−グリッド位置が前記ピクセル位置アレイにおける各合間に配置されていると共に規則正しいオフ−グリッド位置アレイを形成していることから成る段階と、
(b)前記推定されたオフ−グリッド輝度値から前記出力画像のピクセル輝度値を導出するにあたり、前記推定されたオフ−グリッド値を再標本化して、前記ピクセル位置アレイにおける各ピクセル位置での再標本化オン−グリッド値を導出し、前記ピクセル位置アレイにおける各ピクセル位置での再標本化オン−グリッド値から前記出力画像の前記ピクセル輝度値を導出する段階と、
を含む方法。 - 前記画像センサの光検知素子から成る前記アレイが線画像を取り込む線形アレイであり、前記ピクセル位置アレイが、線形取込画像輝度値アレイを規定するように、ピクセル行状となってそれぞれが規則正しく離間されたピクセル位置で前記多数のピクセル位置を有する線形アレイである、請求項1に記載の方法。
- 前記画像センサの光検知素子から成るアレイと前記ピクセル位置アレイとが、複数の規則正しく離間されたピクセル行と複数の規則正しく離間されたピクセル列との各交差点でのピクセル位置を有する2次元アレイであり、前記ピクセル行が前記ピクセル列と直交しており、前記画像センサの光検知素子から成る前記線形アレイが多数の露出で前記シーンの連続する規則正しく離間された線形領域に対して順次露出され、その露出各々が各線形取込画像輝度値アレイを作り出し、前記多数の露出によって作り出された各線形取込画像輝度アレイが鎖状に結合されて、前記ピクセル位置アレイにおけるピクセル位置での各取込画像輝度値を有する2次元取込画像輝度値アレイを形成する、請求項1に記載の方法。
- 前記画像センサが複数の光検知素子から成る2次元アレイを有し、前記ピクセル位置アレイが、複数の規則正しく離間されたピクセル行と、複数の規則正しく離間されたピクセル列の各交差点での複数のピクセル位置を有する2次元アレイであり、前記ピクセル行が前記ピクセル列と直交している、請求項1に記載の方法。
- 前記オフ−グリッド・アレイの前記オフ−グリッド位置が、複数の規則正しく離間された中間行と、複数の規則正しく離間された中間列の各交差点に配置されており、前記中間行の各々が前記ピクセル行と平行すると共に該ピクセル行の各隣接対間に延在しており、前記中間列の各々が前記ピクセル列と平行すると共に該ピクセル列の各隣接対間に延在している、請求項4に記載の方法。
- 前記オフ−グリッド・アレイの前記オフ−グリッド位置が、複数の規則正しく離間された中間行と前記ピクセル列との各交差点と、複数の規則正しく離間された中間列と前記ピクセル行との各交差点とに配置されており、前記中間行の各々が前記ピクセル行と平行していると共に、前記ピクセル行の各隣接対間に延在しており、前記中間列の各々が前記ピクセル列と平行していると共に、前記ピクセル列の各隣接対間に延在している、請求項4に記載の方法。
- 前記オフ−グリッド位置アレイのオフ−グリッド位置が複数の規則正しく離間された中間列及びピクセル行の各交差点に配置されており、前記中間列の各々が前記ピクセル列と平行すると共に前記ピクセル列の各隣接対間に延在している、請求項3に記載の方法。
- 前記オフ−グリッド位置アレイの前記オフ−グリッド位置が前記線形ピクセル位置アレイのピクセル位置の各隣接対間に配置されている、請求項2に記載の方法。
- 前記推定オフ−グリッド輝度値から前記出力画像を導出する段階が、前記出力画像の前記ピクセル輝度値として前記オフ−グリッド輝度値を直接的に用いることを含む、請求項1に記載の方法。
- 前記推定オフ−グリッド輝度値から前記出力画像のピクセル輝度値を導出するにあたり、前記ピクセル位置アレイにおける前記ピクセル位置での各再標本化オン−グリッド値を導出すべく、前記推定オフ−グリッド値を再標本化し、前記ピクセル位置アレイにおける前記ピクセル位置での前記各再標本化オン−グリッド値を前記出力画像の前記ピクセル輝度値とする、請求項1に記載の方法。
- 前記光検知素子アレイの所定感度パターンが、4つの異なる所定感度レベルを有すると共に、4つの最も近い隣接ピクセル位置の反復群を有するピクセル位置アレイと対応しており、各群における前記4つのピクセル位置の各々が共通した所定位置順序の前記4つの所定感度レベルの内の相互に異なるものと対応している、請求項5に記載の方法。
- 前記光素子アレイの前記所定感度パターンが第1及び第2の所定感度レベルを有しており、前記ピクセル行各々における隣接ピクセル位置と前記ピクセル列各々における隣接ピクセル位置とが、前記第1及び第2所定感度レベルの内の相互に異なるものと対応している、請求項6に記載の方法。
- 前記光素子アレイの前記所定感度パターンが前記第1及び第2所定感度レベルを有し、前記ピクセル行各々における隣接ピクセル位置が前記所定第1及び第2感度レベルの内の相互に異なるものと対応し、前記ピクセル列各々における隣接ピクセル位置が前記所定第1及び第2感度レベルの内の同一レベルと対応している、請求項7に記載の方法。
- 前記ピクセル位置アレイのピクセル位置での各取込画像輝度値から前記オフ−グリッド位置アレイにおける前記オフ−グリッド位置での各オフ−グリッド値を推定する段階が、
(1)前記感度レベルの内の相互に異なるものと対応するピクセル位置での取込画像輝度値だけを用いて、前記オフ−グリッド位置各々での前記感度レベルの内の相互に異なるものに対する感度レベル・オフ−グリッド輝度値を推定する段階と、
(2)前記オフ−グリッド位置各々での前記感度レベルの内の相互に異なるそれぞれに対して推定された前記感度レベル・オフ−グリッド輝度値を組み合わせて、前記オフ−グリッド位置各々での各推定オフ−グリッド輝度値を導出する段階とを含む、請求項1に記載の方法。 - 前記オフ−グリッド位置各々での前記感度レベルの内の異なるものに対して輝度値の前記感度レベルを組み合わせる段階が、前記オフ−グリッド位置各々での前記感度レベルの内の異なるそれぞれに対して推定された前記感度レベル・オフ−グリッド値を合算して、前記オフ−グリッド位置各々での前記各推定オフ−グリッド輝度値を導出する段階を含む、請求項14に記載の方法。
- 前記推定オフ−グリッド輝度値から前記出力画像のピクセル輝度値を導出する段階が、前記推定オフ−グリッド輝度値を補間して前記ピクセル位置アレイの前記ピクセル位置での各補間オフ−グリッド値を導出する段階と、前記光検知素子の組合せ応答関数の逆関数によって前記補間オフ−グリッド輝度値の各々を補償して、前記出力画像の前記ピクセル輝度値を獲得する段階とを含み、前記組合せ応答関数が前記感度レベルの内の相互に異なるものを有する光検知素子の重み付け応答関数の合計であり、そうした重み付け応答関数の各々が前記感度レベルのそれぞれに対する所定重み係数によって乗算された前記感度レベルのそれぞれを有する光検知素子の応答関数である、請求項15に記載の方法。
- 前記光検知素子の前記組合せ応答関数の逆関数によって前記補間オン−グリッド輝度値の各々を補償する段階が、前記補間オン−グリッド輝度値各々から、前記光検知素子の前記組合せ応答関数の逆関数を表す検索テーブル・データを保存する検索テーブル・メモリに対する各指標を導出する段階と、前記検索テーブル・メモリから、各指標と対応する補償された補間オン−グリッド輝度値を検索する段階と、前記出力画像の前記ピクセル輝度値として前記補償された補間オン−グリッド輝度値を提供する段階を含む、請求項16に記載の方法。
- 前記オフ−グリッド位置各々での前記感度レベルの内の相互に異なるものに対する前記感度レベル・オン−グリッド輝度値を組合せる段階が、
(1)前記オフ−グリッド位置各々での前記感度レベルの内の相互に異なるものに対する前記感度レベル・オフ−グリッド輝度値を、前記感度レベルの内の相互に異なるものと対応する各所定重み付け係数と乗算して、前記オフ−グリッド位置各々での前記感度レベルの内の相互に異なるものに対する重み付け感度レベル・オフ−グリッド輝度値を導出する段階と、
(2)前記オフ−グリッド位置各々での前記感度レベルの内の相互に異なるものに対する前記重み付け感度レベル・オフ−グリッド輝度値を合算して、前記オフ−グリッド位置各々での前記各推定オフ−グリッド輝度値を導出する段階とを含む、請求項14に記載の方法。 - 前記推定オフ−グリッド輝度値から前記出力画像の前記ピクセル輝度値を導出する段階が、前記推定オフ−グリッド輝度値を補間して、前記ピクセルアレイの前記ピクセル位置での各補間オン−グリッド輝度値を導出する段階と、前記光検知素子の組合せ応答関数の逆関数によって前記補間オン−グリッド輝度値の各々を補償して、前記出力画像の前記ピクセル輝度値を導出する段階と、を含み、前記組合せ応答関数が前記感度レベルの内の相互に異なるものを有する前記光検知素子の重み付け応答関数の合計であり、前記重み付け応答関数の各々が前記感度レベルのそれぞれに対する所定重み付け係数によって乗算された前記感度レベルのそれぞれを有する光検知素子の応答関数である、請求項18に記載の方法。
- 前記光検知素子の組合せ応答関数の逆関数によって前記補間輝度値の各々を補償する段階が、前記補間オン−グリッド輝度値の各々を用いて、前記光検知素子の前記組合せ応答関数の逆関数を表すデータを保存する検索テーブル・メモリに対する各指標を導出する段階と、前記検索テーブル・メモリから各指標と対応する補償された補間オン−グリッド輝度値各々を検索する段階と、前記出力画像の前記ピクセル輝度値として前記補償された補間オン−グリッド輝度値を提供する段階とを含む、請求項19に記載の方法。
- 前記ピクセル位置アレイの前記ピクセル位置での各取込画像輝度値から前記オフ−グリッド位置アレイの前記オフ−グリッド位置での各オフ−グリッド輝度値を推定する段階が、
(1)前記感度レベルの内の相互に異なるものと対応するピクセル位置での前記取込画像輝度値だけを用いて、前記オフ−グリッド位置各々での前記感度レベルの内の相互に異なるものに対する感度レベル・オフ−グリッド輝度値を推定する段階と、
(2)前記オフ−グリッド位置各々での前記感度レベルの内の相互に異なるそれぞれに対して推定された前記感度レベル・オフ−グリッド輝度値を組合せて、前記オフ−グリッド位置各々での組合せ感度レベル・オフ−グリッド輝度値を導出する段階と、
(3)前記光検知素子の組合せ応答関数の逆関数によって前記オフ−グリッド位置各々での前記組合せ感度レベル・オフ−グリッド輝度値を補償して、前記オフ−グリッド位置各々での各推定オフ−グリッド輝度値を導出する段階とを含み、前記組合せ応答関数が前記感度レベルの内の相互に異なるものを有する光検知素子の重み付け応答関数の合計であり、前記重み付け応答関数各々が前記感度レベルのそれぞれに対する所定重み付け係数によって乗算された前記感度レベルのそれぞれを有する光検知素子の応答関数である、請求項1に記載の方法。 - 前記光検知素子の前記組合せ応答関数の逆関数によって前記オフ−グリッド位置各々での前記組合せ感度レベル・オフ−グリッド輝度値を補償する段階が、
前記オフ−グリッド位置各々での前記組合せ感度レベル・オフ−グリッド輝度値を用いて、前記光検知素子の前記組合せ応答関数の逆関数を表すデータを保存する検索テーブル・メモリに対する各指標を導出する段階と、
前記検索テーブルから、各指標と対応する補償された組合せ感度レベル・オフ−グリッド輝度値を検索する段階と、
前記オフ−グリッド位置での前記各推定オフ−グリッド輝度値として前記検索テーブルから検索された前記補償された組合せ感度レベル・オフ−グリッド輝度値を提供する段階と、
を含む請求項21に記載の方法。 - 前記オフ−グリッド位置各々での前記感度レベルの内の相互に異なるそれぞれに対して推定された前記感度レベル・オフ−グリッド輝度値を組み合わせる段階が、前記オフ−グリッド位置各々での前記感度レベルの内の相互に異なるそれぞれに対する前記感度レベル・オフ−グリッド輝度値を合算して、前記オフ−グリッド位置での前記各組合せ感度レベル・オフ−グリッド輝度値を導出する段階を含む、請求項21に記載の方法。
- 前記オフ−グリッド位置各々での前記感度レベルの内の相互に異なるそれぞれに対して推定された前記感度レベル・オフ−グリッド輝度値を組み合わせる段階が、
(1)前記オフ−グリッド位置各々での前記感度レベルの内の相互に異なるそれぞれに対して推定された前記感度レベル・オフ−グリッド輝度値を前記感度レベルの内の相互に異なるそれぞれと対応する各所定重み付け係数で乗算して、前記オフ−グリッド位置各々での前記感度レベルの内の相互に異なるそれぞれに対する重み付け感度レベル・オフ−グリッド輝度値を導出する段階と、
(2)前記オフ−グリッド位置各々での前記感度レベルの内の相互に異なるそれぞれに対する前記重み付け感度レベル・オフ−グリッド輝度値を合算して、前記オフ−グリッド位置各々での前記組合せ感度レベル・オフ−グリッド輝度値を導出する段階とを含む、請求項21に記載の方法。 - 前記オフ−グリッド位置各々での前記感度レベルの内の相互に異なるそれぞれに対する前記感度レベル・オフ−グリッド輝度値を推定する段階が、
(1)前記ピクセル位置をマスクするが、前記感度レベルの内の相互に異なるものと対応するピクセル位置をマスクしないままとする段階と、
(2)前記オフ−グリッド位置の内の1つでの前記感度レベルの内の相互に異なるものに対する前記感度レベル・オフ−グリッド輝度値を推定して、前記オフ−グリッド位置の内の前記1つに最も近い前記マスクされていないピクセル位置の内の1つでの前記取込画像輝度値と同等と為す段階とを含む、請求項14或は21に記載の方法。 - 前記画像センサの前記光検知素子アレイが線形アレイであり、前記ピクセル位置アレイがピクセル行状にそれぞれが規則正しく離間されたピクセル位置を有する線形アレイであり、前記オフ−グリッド位置アレイの前記オフ−グリッド位置が、それぞれ、前記線形ピクセル位置アレイの隣接ピクセル位置の各対間に配置されており、前記オフ−グリッド位置各々での前記感度レベルの内の相互に異なるそれぞれに対する感度レベル・オフ−グリッド輝度値を推定する段階が、前記オフ−グリッド位置各々での前記感度レベルの内の相互に異なるそれぞれに対する前記感度レベル・オフ−グリッド輝度値として、前記オフ−グリッド位置の内の1つに最も近い隣接である前記感度レベルの内の相互に異なるものと対応するピクセル位置での前記取込画像輝度値を提供する段階を含む、請求項24に記載の方法。
- 前記光検知素子の前記所定感度パターンが第1及び第2所定感度レベルを有し、前記線形ピクセル位置アレイの隣接ピクセル位置が前記第1及び第2所定感度レベルの内の相互に異なるものと対応しており、前記感度レベルの内の相互に異なるものと対応する各所定重み付け係数で前記オフ−グリッド位置各々での前記感度レベルの内の相互に異なるそれぞれに対する前記感度レベル・オフ−グリッド輝度値を乗算して、前記オフ−グリッド位置各々での前記感度レベルの内の相互に異なるそれぞれに対する重み付け感度レベル・オフ−グリッド輝度値を導出しており、前記オフ−グリッド位置各々での前記感度レベルの内の相互に異なるそれぞれに対する前記重み付け感度レベル・オフ−グリッド輝度値を合算して、前記オフ−グリッド位置各々での前記組合せ感度レベル・オフ−グリッド輝度値を導出する段階が、B(x’)がオフ−グリッド位置x’での前記組合せ感度レベル・オフ−グリッド輝度値であり、W1がピクセル位置(x’−0.5)と対応する前記感度レベルに対する前記所定重み付け係数であり、W2がピクセル位置(x’+0.5)と対応する前記感度レベルに対する前記所定重み付け係数であり、Ic(x’−0.5)がピクセル位置(x’+0.5)での前記取込画像輝度値である場合、
- 前記ピクセル位置アレイにおける前記ピクセル位置での各取込画像輝度値から前記オフ−グリッド位置アレイにおける前記オフ−グリッド位置での各オフ−グリッド輝度値を推定する段階が、前記ピクセル位置での前記取込画像輝度値の補間を伴う双線形標本化を含む、請求項1に記載の方法。
- 前記ピクセル位置アレイにおける前記ピクセル位置での各取込画像輝度値から前記オフ−グリッド位置アレイにおけるオフ−グリッド位置での各オフ−グリッド輝度値を推定する段階が、前記ピクセル位置での前記取込画像輝度値の補間を伴う双立方標本化を含む、請求項1に記載の方法。
- 前記ピクセル位置アレイにおける前記ピクセル位置での各取込画像輝度値から前記オフ−グリッド位置アレイにおけるオフ−グリッド位置での各オフ−グリッド輝度値を推定する段階が、
前記オフ−グリッド位置のそれぞれに最も近い隣接である所定数のピクセル位置各々での各取込画像輝度値を所定の低閾値及び所定高閾値と比較することによって、前記オフ−グリッド位置のそれぞれでの各オフ−グリッド輝度値を推定する段階と、
前記所定低閾値よりも大きく且つ前記所定高閾値よりも小さい前記最も近い隣接ピクセル位置の取込画像輝度値の合計を算定する段階と、前記合計を該合計に含まれる最も近い隣接ピクセル位置の前記数で割る段階とを含む、請求項1に記載の方法。 - 前記ピクセル位置アレイにおける前記ピクセル位置での各取込画像輝度値から前記オフ−グリッド位置アレイにおける前記オフ−グリッド位置でのオフ−グリッド輝度値を推定する段階が、
前記オフ−グリッド位置のそれぞれに最も近い隣接である所定数のピクセル位置各々での各補償された取込画像輝度値を所定低閾値及び所定高閾値と比較することで、前記オフ−グリッド位置のそれぞれでの各オフ−グリッド輝度値を推定する段階と、
前記所定低敷地より大きく且つ前記所定高閾値より小さい前記最も近い隣接ピクセル位置での前記補償された取込画像輝度値の合計を算定する段階と、最も近い隣接ピクセル位置での補償された取込画像輝度値の前記数で前記合計を割ることで前記オフ−グリッド位置のそれぞれでの各推定オフ−グリッド輝度値を導出する段階と、を含み、
前記最も近い隣接ピクセル位置各々での前記各補償された取込画像輝度値が該最も近い隣接ピクセル位置のものに対応する感度レベルを有する光検知素子の前記応答関数の逆関数によって補償された前記最も近い隣接ピクセル位置の内の1つでの前記取込画像輝度値である、請求項1に記載の方法。 - 前記最も近い隣接ピクセル位置各々での前記各補償された取込画像輝度値が、前記最も近い隣接ピクセル位置の内の1つでの前記取込画像輝度値を用いることで、前記複数の感度レベルの内の異なるそれぞれを有する光検知素子の逆応答関数を表すデータを保存する検索テーブル・メモリに対する指標を導出して、前記検索テーブル・メモリから前記最も近い隣接ピクセル位置の内の1つの前記感度レベルを有する光検知素子の前記応答関数の逆関数を表す検索テーブル・データから前記指標に対応する補償された取込画像輝度値を検索することで導出される、請求項31に記載の方法。
- 前記中央行の各々が前記ピクセル行の各隣接対の間の中央に延在し、前記中央列の各々が前記ピクセル列の各隣接対の中央に延在し、前記ピクセル位置アレイにおける前記ピクセル位置での各取込画像輝度値でから前記オフ−グリッド位置アレイにおける前記オフ−グリッド位置での各オフ−グリッド輝度値を推定する段階が、x’が1からxサイズ−1までの値を有し、y’が1からyサイズ−1までの値を有し、xサイズ及びyサイズが前記ピクセル行及び前記ピクセル列の方向における前記取込画像の寸法である場合、前記オフ−グリッド位置(x’,y’)各々での前記輝度値を推定する段階を含み、前記オフ−グリッド位置(x’,y’)各々での各オフ−グリッド輝度値を推定する段階が、 (i)前記オフ−グリッド位置(x’,y’)の内の1つに最も近い隣接である16個のピクセル位置(u,v)各々での各輝度値I(u,v)を、uがx’−5からx’+0.5までの値を有し、vがy’−0.5からy+0.5までの値を有する場合、所定低閾値及び所定高閾値と比較することであることと、 (ii)前記所定低閾値より大きく且つ前記所定高閾値より小さい前記16個の最も近い隣接ピクセル位置(u,v)での前記輝度値I(u,v)の各々に対して、関係i=x’−u−1.5及びj=y’−v−1.5を用いて4×4立方補間カーネルφの指標i及びjを算定し、φmnが指標m及びnでの4×4立方補間カーネルφの値である場合、量
- ステップ(i)での前記所定低閾値及び前記所定高閾値と比較された最も近い隣接ピクセル位置(u,v)での前記輝度値I(u,v)が、ピクセル位置(u,v)での前記取込画像輝度値である、請求項33に記載の方法。
- ステップ(i)での前記所定低閾値及び前記所定高閾値と比較された最も近い隣接ピクセル位置(u,v)での前記輝度値I(u,v)が、ピクセル位置(u,v)に対応する前記感度レベルを有する光検知素子の応答関数の逆関数によって補償されたピクセル位置(u,v)での前記取込画像輝度値である、請求項33に記載の方法。
- 前記最も近い隣接ピクセル位置(u,v)各々での前記取込画像輝度値が、前記複数の感度レベルの内の相互に異なるものを有する光検知素子の応答関数の逆関数を表すデータを保存する検索テーブル・メモリに対する指標を導出すべく、前記取込画像輝度値を用いることによって、そして、前記検索テーブル・メモリから、前記最も近い隣接ピクセル位置(u,v)の内の1つに対応する前記感度レベルを有する光検知素子の前記応答関数の逆関数を表す検索テーブル・データを用いて前記指標に対する補償された取込画像輝度値を検索することによって、前記最も近い隣接ピクセル位置(u,v)の内の1つに対応する前記感度レベルを有する光検知素子の前記応答関数の逆関数で補償され、前記検索された補償輝度値が前記最も近いピクセル位置(u,v)の内の1つでの前記輝度値I(u,v)である、請求項35に記載の方法。
- 前記ピクセル位置アレイにおける前記ピクセル位置での前記各取込画像輝度値から前記オフ−グリッド位置アレイにおける前記オフ−グリッド位置での各オフ−グリッド輝度値を推定する段階が、x’が2からxサイズ−2までの値を有し、xサイズが前記取込ライン画像の寸法である場合、前記オフ−グリッド位置x’各々での前記輝度値を推定することを含み、前記オフ−グリッド位置x’各々での前記オフ−グリッド輝度値を推定する段階が、
(i)kがx’−1.5からx’+1.5までの値を有する場合、前記オフ−グリッド位置x’の内の1つに最も近い隣接である4つのピクセル位置kの各々での各輝度値(k)を所定低閾値及び所定高閾値と比較することと、
(ii)G(k−x’)が位置(k−x’)での4×1ガウシアン補間カー値tるGの値である場合、前記所定低閾値より大きく且つ前記所定高閾値より小さい前記4つの最も近い隣接ピクセル位置での前記輝度値I(k)の各々が前記量I(k)G(k−x’)を算定することと、
(iii)ステップ(ii)で算定された前記量G(k−x’)を合算して第1合計pを導出することと、
(iv)ステップ(ii)の前記算定で用いられた前記量G(k−x’)を合算して第2合計qを導出することと、
(v)前記第1合計pを前記第2合計qで割ることによって前記オフ−グリッド位置x’の内の1つでの前記推定輝度値を算定することと、を含む、請求項2に記載の方法。 - ステップ(i)で、前記所定低閾値及び前記所定高閾値と比較された最も近い隣接ピクセル位置kでの前記各輝度値I(k)が、最も近い隣接ピクセル位置kでの前記取込輝度値である、請求項37に記載の方法。
- ステップ(i)で、前記所定低閾値及び前記所定高閾値と比較された最も近い隣接ピクセル位置kでの前記輝度値I(k)が、ピクセル位置kと対応する前記感度レベルを有する光検知素子の逆関数によって補償された最も近い隣接ピクセル位置kでの前記取込輝度値である、請求項37に記載の方法。
- 前記最も近い隣接ピクセル位置k各々での前記取込画像輝度値が、前記複数の感度レベルの内の相互に異なるものを有する光検知素子の応答関数の逆関数を表すデータを補村する検索テーブル・メモリに対する指標を導出すべく、前記最も近い隣接ピクセル位置の内の1つでの前記取込画像輝度値を用いることによって、そして、前記検索テーブル・メモリから、前記最も近い隣接ピクセル位置kの内の1つと対応する前記感度レベルを有する光検知素子の前記応答関数の逆関数を表す検索テーブル・データを用いて、前記指標と対応する補償された取込画像輝度値を検索することによって、前記最も近い隣接ピクセル位置kの内の1つと対応する前記感度レベルを有する光検知素子の前記応答関数の逆関数によって補償されており、前記検索された補償取込画像輝度値が前記最も近い隣接ピクセル位置kでの前記輝度値I(k)である、請求項39に記載の方法。
- 前記4×1ガウシアン・カーネルGが形態:
- 前記推定オフ−グリッド輝度値を再標本化して前記ピクセル位置アレイの前記ピクセル位置での各再標本化オン−グリッド輝度値を導出する段階が、前記ピクセル位置のそれぞれに最も近い隣接であるオフ−グリッド位置の所定数での各オフ−グリッド輝度値とオフ−グリッド位置の前記所定数と同一寸法を有する立方補間カーネルとの積を算定することによって、前記ピクセル位置の内の相互に異なるそれぞれでの前記再標本化輝度値を導出することを含む、請求項10に記載の方法。
- 前記推定オフ−グリッド輝度値から出力画像のピクセル輝度値を導出する段階が、前記推定オフ−グリッド輝度値を再標本化して前記ピクセル位置アレイにおける前記ピクセル位置での再標本化オン−グリッド輝度値を導出することを含み、前記中間行の各々がピクセル行の各隣接対間の中央に延在し、前記中間列の各々がピクセル列の各隣接対間の中央に延在しており、前記多数のピクセル位置各々での前記再標本化輝度値が、xが2.5からxサイズ−2.5までの値を有し、yが2.5からyサイズ−2.5までの値を有し、I(x−2,y−2)がピクセル位置(x−2,y−2)での前記再標本化オン−グリッド輝度値であり、B(x−1.5+i,y−1.5+j)がオフ−グリッド位置(x−1.5+i,y−1.5+j)での前記推定オフ−グリッド輝度値であり、i及びjが4×4立方補間カーネルφの指標であり、指標i及びjのそれぞれが0から3までの値を有し、φijが指標i及びjで前記補間カーネルφの値であり、xサイズがピクセル行の方向における前記取込画像の寸法であり、yサイズが前記ピクセル列の方向における前記取込画像の寸法である場合、
- 前記4×4立方補間カーネルφが形態:
- 前記推定オフ−グリッド輝度値から出力画像のピクセル輝度値を導出する段階が、前記推定オフ−グリッド輝度値を再標本化して前記ピクセル位置アレイにおけるピクセル位置での再標本化オン−グリッド輝度値を導出することを含み、各オフ−グリッド位置がピクセル位置の各隣接対間の中央に配置され、前記ピクセル位置xのそれぞれでの前記再標本化オン−グリッド輝度値Ioが、である場合、xが3.5からxサイズ−3.5までの値を有する前記ピクセル位置の座標であり、Io(x−3)がピクセル位置(x−3)での前記再標本化オン−グリッド輝度値であり、B(x+k)がオフ−グリッド位置(x+k)での前記推定オフ−グリッド輝度値であり、kが4×1立方補間カーネルΨの位置であり、Ψ(k)が位置kでの前記立方補間カーネルΨの値であり、前記位置kが−1.5から1.5までの値を有し、xサイズが前記取込ライン画像の寸法である場合、
- 前記4×1立方補間カーネルΨが形態:
- 前記中間行の各々が前記ピクセル行の各隣接対間の中央に延在し、前記中間列の各々が前記ピクセル列の各隣接対間の中央に延在しており、前記オフ−グリッド位置アレイにおける前記オフ−グリッド位置での各オフ−グリッド輝度値を前記ピクセル位置アレイにおける前記ピクセル位置での各取込画像輝度値から推定する段階が、前記オフ−グリッド位置(x’,y’)の各々での前記オフ−グリッド輝度値を推定することを含み、ここで、x’が0.5からxサイズ−0.5までの値を有し、y’が前記中間行及び前記ピクセル列の各交差点に配置されたオフ−グリッド位置に対する1からyサイズ−1までの値を有し、x’が1からxサイズ−1までの値を有し、y’が前記ピクセル行及び前記中間列の各交差点に配置されたオフ−グリッド位置に対する0.5からyサイズ−05までの値を有し、xサイズ及びyサイズが前記ピクセル行及び前記ピクセル列の方向における前記取込画像の寸法であり、前記オフ−グリッド位置(x’,y’)各々での前記輝度値を推定する段階が、
(i)前記オフ−グリッド位置(x’,y’)各々に対して、i及びjが4×4立方補間カーネルφの指標であり、指標i及びjの各々が0から3までの値を有する場合、関係:u=x’+0.5j−0.5j及びv=y’−1.5+0.5i+0.5jを用いて座標(u,v)を算定することと、
(ii)指標i及びjを用いてステップ(i)で算定された座標(u,v)の各対に対して、該座標(u,v)が1ピクセル位置のものか否かを決定することと、
(iii)ステップ(i)で算定された前記座標(u,v)が1ピクセル位置のものであれば、前記ピクセル位置(u,v)での輝度値I(u,v)を所定低閾値及び所定高閾値と比較することと、
(iv)指標i及びjを用いてステップ(i)で算定された前記座標(u,v)が1ピクセル位置のものであり且つ前記輝度値I(u,v)が前記所定低閾値より大きく且つ前記所定高閾値より小さければ、φmnが指標m及びnでの4×4立方補間カーネルφの値である場合、量:
(v)ステップ(iv)で算定された
(vi)ステップ(iv)で算定された量を合算して第2合計wを導出することと、 (vii)前記第1合計sを前記第2合計wで割ることで前記オフ−グリッド位置(x’,y’)の内の1つでの前記推定輝度値を算定することとを含む、請求項6に記載の方法。 - ステップ(iii)で、前記所定低閾値及び前記所定高閾値と比較された前記ピクセル位置(u,v)各々での前記輝度値I(u,v)が、前記ピクセル位置(u,v)の内の1つでの前記取込画像輝度値である、請求項47に記載の方法。
- ステップ(iii)で、前記所定低閾値及び前記所定高閾値と比較された前記ピクセル位置(u,v)各々での前記輝度値I(u,v)が、前記ピクセル位置(u,v)の内の1つと対応する感度レベルを有する光検知素子の前記応答関数の逆関数によって補償された前記ピクセル位置(u,v)の内の1つでの前記取込画像輝度値である、請求項47に記載の方法。
- 前記ピクセル位置(u,v)各々での前記取込輝度値が、前記ピクセル位置(u,v)の内の1つでの前記取込画像輝度値Ic(u,v)を用いて、前記複数の感度レベルの内の相互に異なるそれぞれを有する光検知素子の応答関数の逆関数を表すデータを保存する検索テーブル・メモリに対する指標を導出することによって、そして、前記ピクセル位置(u,v)の内の前記1つと対応する前記感度レベルを有する光検知素子の前記応答関数の逆関数を表す検索テーブル・データを用いて、前記指標と対応する補償された取込画像輝度値を前記検索テーブルから検索することによって、前記ピクセル位置(u,v)の内の前記1つと対応する前記感度レベルを有する光検知素子の前記応答関数の逆関数によって補償されており、前記検索された補償取込画像輝度値が前記ピクセル位置(u,v)の内の前記1つでの前記輝度値I(u,v)である、請求項49に記載の方法。
- 前記オフ−グリッド位置(x’,y’)各々での前記オフ−グリッド輝度値を推定する段階が、中間行及びピクセル列の各交差点に配置されたオフ−グリッド位置に対して先ず実行され、次いで、ピクセル行及び中間列の各交差点に配置されたピクセル位置に対して実行される、請求項47に記載の方法。
- 前記4×4立方補間カーネルφが形態:
- 前記推定オフ−グリッド輝度値から出力画像のピクセル輝度値を導出する段階が、前記推定オフ−グリッド輝度値を再標本化して、前記ピクセル位置アレイにおけるピクセル位置での各再標本化オン−グリッド輝度値を導出することを含み、前記中間行の各々が前記ピクセル行の各隣接対間の中央を延在し、前記中間列の各々が前記ピクセル列の各隣接対間の中央を延在しており、前記ピクセル位置(x,y)各々での前記再標本化オン−グリッド輝度値が、xが2.5からxサイズ−2.5までの値を有し、yが2.5からyサイズ−2.5までの値を有し、I(x−2,y−2)がピクセル位置(x−2,y−2)での前記再標本化オン−グリッド輝度値であり、B(x+0.5i−0.5j,y−1.5+0.5i+0.5j)がオフ−グリッド位置(x+0.5i−0.5j,y−1.5+0.5i+0.5j)での前記オフ−グリッド輝度値であり、i及びjが4×4立方補間カーネルφの指標であり、指標i及びjのそれぞれが0から3までの値を有し、φij が指標i及びjでの前記補間カーネルφの値であり、xサイズが前記ピクセル列の方向における前記取込画像の寸法である場合、関係:
- 前記推定オフ−グリッド輝度値から出力画像のピクセル輝度値を導出する段階が、ガウシアン・カーネルを用いて前記推定オフ−グリッド輝度値を補間して前記ピクセル位置アレイにおける前記ピクセル位置での各補間輝度値を導出する、請求項5に記載の方法。
- 前記ガウシアン・カーネルが形態:
- 前記推定オフ−グリッド輝度値から出力画像のピクセル輝度値を導出する段階が、前記オフ−グリッド輝度値の補間に対する双線形補間フィルタ・カーネルを用いて前記ピクセル位置アレイにおける前記ピクセル位置での各補間オン−グリッド輝度値を導出することを含む、請求項5に記載の方法。
- 前記双線形補間フィルタ・カーネルが形態:
- 前記推定オフ−グリッド輝度値から出力画像のピクセル輝度値を導出する段階が、前記推定オフ−グリッド輝度値をサンプリングして、前記ピクセル位置アレイにおける前記ピクセル位置での各再標本化オン−グリッド輝度値を導出することを含み、前記推定オフ−グリッド輝度値を再標本化する段階が、前記オフ−グリッド位置アレイを前記ピクセル位置アレイに合致する用にシフトすることを含み、それによって前記ピクセル位置アレイにおける前記ピクセル位置での前記再標本化オン−グリッド輝度値が前記シフトされたオフ−グリッド位置アレイにおける前記合致オフ−グリッド位置での前記各推定オフ−グリッド輝度値である、請求項5或は7に記載の方法。
- あるシーンの画像を取り込むためにそのシーンからの入射光に露出された比較的低いダイナミックレンジ画像センサを用いて該シーンの比較的高いダイナミックレンジ画像を獲得するために、前記画像センサがアレイ状の多数の光検知素子を有し、各光検知素子が前記光検知素子アレイに対する所定の感度パターンに従って入射光に対する複数の感度レベルの内の特定の1つを有し、前記光検知素子アレイの所定感度パターンが、多数の異なる所定感度レベルを有すると共に、前記所定感度パターンに対応する最も近い隣接ピクセル位置からなる群が繰り返されてピクセル位置アレイが構成され、各群における前記多数のピクセル位置の各々が共通した所定位置順序の前記多数の所定感度レベルの内の1つと対応しており、各光検知素子が前記シーンからの入射光に応答性してピクセル位置アレイにおける前記多数のピクセル位置の内の対応する1つで取込画像輝度値を作り出すようにする方法であって、前記ピクセル位置アレイのピクセル位置での各取込画像輝度値から、前記ピクセル位置アレイにおける各合間に配置されていると共に規則正しいオフ−グリッド位置アレイを形成しているオフ−グリッド位置での各オフ−グリッド輝度値を推定し、前記推定されたオフ−グリッド輝度値から前記出力画像のピクセル輝度値を導出するにあたり、前記推定されたオフ−グリッド値を再標本化して、前記ピクセル位置アレイにおける各ピクセル位置での再標本化オン−グリッド値を対応する複数の前記取込画像輝度値から導出し、該再標本化したオン−グリッド輝度値から前記出力画像のピクセル輝度値を導出することから成る方法。
- 前記画像センサの光検知素子から成る前記アレイがライン画像を取り込む線形センサであり、線形取込画像輝度値アレイを形成すべく、前記ピクセル位置アレイがピクセル行状のそれぞれ規則正しく離間されたピクセル位置における前記多数のピクセル位置を有する線形アレイである、請求項59に記載の方法。
- 前記画像センサの光検知素子アレイが線形アレイであり、前記ピクセル位置アレイが、複数の規則正しく離間されたピクセル行と複数の規則正しく離間されたピクセル列との各交差点におけるピクセル位置を有する2次元アレイであり、前記画像センサの光検知素子から成る前記線形アレイが多数の露出で前記シーンの連続的な規則正しく離間された線形領域で順次露出され、前記露出の各々が各線形取込画像輝度値アレイを作り出し、前記多数の露出で作り出された前記各線形取込画像輝度値アレイが鎖状結合されて前記ピクセル位置アレイにおける前記ピクセル位置での各取込画像輝度値を有する2次元取込画像輝度値アレイを形成する、請求項59に記載の方法。
- 前記画像センサが光検知素子から成る2次元アレイであり、前記ピクセル位置アレイが、複数の規則正しく離間されたピクセル行と複数の規則正しく離間されたピクセル列との各交差点における前記多数のピクセル位置を有する2次元アレイであり、前記ピクセル行が前記ピクセル列と直交している、請求項59に記載の方法。
- 前記オン−グリッド輝度値から出力画像のピクセル輝度値を導出する段階が、前記ピクセル位置アレイにおける前記ピクセル位置での各オン−グリッド輝度値を前記出力画像の前記ピクセル輝度値として用いることを含む、請求項59に記載の方法。
- 前記オン−グリッド輝度値から出力画像のピクセル輝度値を導出する段階が、前記光検知素子の組合せ応答関数の逆関数によって前記ピクセル位置アレイにおける前記ピクセル位置各々での前記各オン−グリッド輝度値を補償して、前記ピクセル位置アレイにおける前記ピクセル位置での前記出力画像の各ピクセル輝度値を獲得することを含み、前記重み付け応答関数の各々が前記感度レベルのそれぞれに対する所定重み付け係数によって乗算された前記感度レベルのそれぞれを有する光検知素子の前記応答関数である、請求項59に記載の方法。
- 前記ピクセル位置アレイにおける前記ピクセル位置各々での前記オン−グリッド輝度値を補償する段階が、前記ピクセル位置各々での前記オン−グリッド輝度値から前記光検知素子の前記組合せ応答関数の逆関数を表すデータを保存する検索テーブル・メモリに対する各指標を導出する段階を含み、前記補償されたオン−グリッド輝度値が前記ピクセル位置の内の前記1つでの前記出力画像の前記ピクセル輝度値である、請求項64に記載の方法。
- 前記ピクセル位置アレイにおけるピクセル位置での各オン−グリッド輝度値を算定する段階が、前記ピクセル位置の内の前記1つに最も近い隣接である所定数のピクセル位置での前記取込画像輝度値と前記所定数のピクセル位置と同一寸法を有するオン−グリッド補間フィルタ・カーネルとの積を計算することによって、前記ピクセル位置各々での前記各オン−グリッド輝度値を算定することを含む、請求項59に記載の方法。
- 前記画像センサが光検知素子から成る2次元アレイを有し、前記ピクセル位置アレイが複数の規則正しく離間されたピクセル行と複数の規則正しく離間されたピクセル列との各交差点での前記多数のピクセル位置を有する2次元アレイであり、前記ピクセル行が前記ピクセル列と直交しており、前記ピクセル位置アレイにおける前記ピクセル位置(x,y)各々の前記オン−グリッド輝度値が、xが2.5からxサイズ−2.5までの値を有し、yが2.5からyサイズ−2.5までの値を有し、I(x−2,y−2)がピクセル位置(x−2,y−2)での前記補間輝度値であり、Ic(x−2+i,y−2+j)がピクセル位置(x−2+i,y−2+j)での前記取込画像輝度値であり、i及びjが5×5オン−グリッド補間フィルタ・カーネルφの指標であり、指標i及びjのそれぞれが0から4までの値を有し、φijが指標i及びjで前記オン−グリッド補間フィルタ・カーネルφの値であり、xサイズがピクセル行の方向における前記取込画像の寸法であり、yサイズが前記ピクセル列の方向における前記取込画像の寸法である場合、関係:
- 前記5×5オン−グリッド補間フィルタ・カーネルφが形態:
- 前記ピクセル位置アレイにおける前記ピクセル位置での各オン−グリッド輝度値を算定する段階が前記ピクセル位置アレイにおける前記ピクセル位置各々での各オン−グリッド輝度値を算定する段階を含み、その算定段階が、
(i)前記ピクセル位置各々に最も近い隣接である所定数のピクセル位置各々での各補償された取込画像輝度値を所定邸閾値及び所定高閾値と比較する段階と、
(ii)前記所定低閾値より大きく且つ前記所定高閾値より小さい補償された取込画像輝度値を有する前記最も近い隣接ピクセル位置の各々に対して、前記最も近い隣接ピクセル位置の内の前記1つでの前記補償された取込画像輝度値と、前記最も近い隣接ピクセル位置の内の前記1つと対応するオン−グリッド補間フィルタ・カーネルの値との積を算定する段階であり、前記オン−グリッド補間フィルタ・カーネルが最も近い隣接ピクセル位置の前記所定数と同一寸法を有することから成る段階と、
(iii)ステップ(ii)で算定された積の全ての第1合計を算定する段階と、
(iv)ステップ(ii)における積を算定するために使用される前記オン−グリッド補間フィルタ・カーネルの全値の第2合計を算定する段階と、
(v)前記第1合計を前記第2合計で割ることで前記ピクセル位置のそれぞれでの前記オン−グリッド輝度値を算定する段階であり、前記最も近い隣接ピクセル位置各々での前記各補償された取込画像輝度値が前記最も近い隣接ピクセル位置と対応する前記感度レベルを有する光検知素子の前記応答関数の逆関数によって補償された前記最も近い隣接ピクセル位置の内の前記1つでの前記各取込画像輝度値であることから成る段階と、を含む、請求項59に記載の方法。 - 前記ピクセル位置アレイにおける前記ピクセル位置各々での前記取込画像輝度値を用いて、前記複数の感度レベルの内の相互に異なるものを有する光検知素子の応答関数の逆関数を表すデータを保存する検索テーブルに対する各指標を導出する段階と、前記ピクセル位置の内の前記1つと対応する前記感度レベルを有する前記光検知素子の前記応答関数の逆関数を表す検索テーブル・データからの前記各指標と対応する補償された取込画像輝度値を前記検索テーブルから検索する段階であり、前記検索された補償取込画像輝度値が前記ピクセル位置の内の前記1つでの前記補償された取込画像輝度値である、請求項69に記載の方法。
- 1シーンの画像を取り込むために該シーンからの入射光に露出される比較的低いダイナミックレンジ画像センサを用いて該シーンの比較的高いダイナミックレンジ画像を獲得するために、前記画像センサが線形アレイ状の多数の光検知素子を有し、各光検知素子が光検知素子から成るアレイに対する所定感度パターンに従って入射光に対する複数の感度レベルの内の特定の1つを有すると共に各応答関数を有し、前記光検知素子アレイの所定感度パターンが、多数の異なる所定感度レベルを有すると共に、前記所定感度パターンに対応する最も近い隣接ピクセル位置からなる群が繰り返されてピクセル位置アレイが構成され、各群における前記多数のピクセル位置の各々が共通した所定位置順序の前記多数の所定感度レベルの内の1つと対応しており、各光検知素子が前記シーンからの入射光に応じて線形ピクセル位置アレイにおけるそれぞれの規則正しく離間されたピクセル位置における多数のピクセル位置の内の対応する1つで線形取込画像輝度値アレイを形成することによって取込画像輝度値を作り出すようにする方法であって、前記ピクセル位置アレイのピクセル位置での各取込画像輝度値から、前記ピクセル位置アレイにおける各合間に配置されていると共に規則正しいオフ−グリッド位置アレイを形成しているオフ−グリッド位置での各オフ−グリッド輝度値を推定し、前記推定されたオフ−グリッド輝度値から前記出力画像のピクセル輝度値を導出するにあたり、前記推定されたオフ−グリッド値を再標本化して、前記ピクセル位置アレイにおける各ピクセル位置での再標本化オン−グリッド値を導出し、前記ピクセル位置アレイにおける各ピクセル位置での再標本化オン−グリッド値から前記出力画像の前記ピクセル輝度値を導出する際に、
(i)xが2.5からxサイズ−2.5までの値を有し、xサイズが前記取込画像の寸法である場合、前記ピクセル位置アレイにおける前記ピクセル位置xの各々に対して、kがx−2からx+2までの値を有する場合、ピクセル位置xと最も近い隣接である5つのピクセル位置kでの輝度値I(k)の各々を所定低閾値及び所定高閾値と比較する段階と、
(ii)前記所定低閾値よりも大きく且つ前記所定低閾値よりも小さい前記5つの最も近い隣接ピクセル位置kでの前記輝度値I(k)の各々に対して、G(k−x)が位置(k−x)でのガウシアン補間カーネルGの値である場合、量I(k)G(k−x)を算定する段階と、
(iii)ステップ(ii)で算定された前記量I(k)G(k−x)を合算して第1合計pを導出する段階と、
(iv)I(k)が前記所定低閾値よりも大きく且つ前記所定高閾値よりも小さい場合、kの全値に対する前記ガウシアン補間カーネル値G(k−x)を合算して第2合計qを導出する段階と、
(v)前記第1合計pを前記第2合計qで割ることでピクセル位置xでの出力画像Io(x)のピクセル輝度値を算定する段階と、を含むことから成る方法。 - ステップ(i)で、前記所定低閾値及び前記所定高閾値と比較されたピクセル位置kでの前記輝度値I(k)がピクセル位置kでの前記取込画像輝度値である、請求項71に記載の方法。
- ステップ(i)で、前記所定低閾値及び前記所定高閾値と比較されたピクセル位置kでの前記輝度値I(k)が、ピクセル位置kと対応する感度レベルを有する光検知素子の応答関数の逆関数によって補償されたピクセル位置kでの前記取込画像輝度値である、請求項71に記載の方法。
- ピクセル位置kでの前記取込画像輝度値が、ピクセル位置kでの前記取込画像輝度値を用いて前記複数の感度レベルの内の相互に異なるものを有する光検知素子の応答関数の逆関数を表すデータを保存する検索テーブル・メモリに対する各指標を導出することによって、そして、前記検索テーブル・メモリから、ピクセル位置kと対応する前記感度レベルを有する光検知素子の前記応答関数の逆関数を表す検索テーブル・データを用いて前記各指標と対応する補償された取込画像輝度値I(k)を検索することによって、ピクセル位置kと対応する感度レベルを有する光検知素子の前記応答関数の逆関数によって補償される、請求項73に記載の方法。
- 前記5×1ガウシアン・カーネルGが形態:
- 前記所定低閾値が、前記ピクセル位置と対応する前記感度レベルを有する光検知素子のノイズ・レベルであり、該ピクセル位置が前記所定低閾値と比較され前記対応する感度レベルを有する光検知素子の前記応答関数の逆関数によって補償されており、前記所定高閾値が前記同一感度レベルを有する光検知素子の飽和或は略飽和輝度値である、請求項31、35、39、49、69、或は、73に記載の方法。
- 1シーンの画像を取り込むために該シーンからの入射光による露出に適合した比較的低いダイナミックレンジ画像センサを用いて比較的高いダイナミックレンジ画像を取り込むためのシステムであって、
(a) アレイ状となった多数の光検知素子を有し、各々の光検知素子が該光検知素子からなるアレイに対する所定感度パターンに基づいて入射光に対する複数の感度レベルの特定の一つと共に各々の応答関数を有し、前記光検知素子アレイの所定感度パターンが、多数の異なる所定感度レベルを有すると共に、前記所定感度パターンに対応する最も近い隣接ピクセル位置からなる群が繰り返されてピクセル位置アレイが構成され、各群における前記多数のピクセル位置の各々が共通した所定位置順序の前記多数の所定感度レベルの内の1つと対応しており、各光検知素子が前記シーンからの入射光に応答してピクセル位置アレイにおける多数のピクセル位置の内の対応する1つで取込画像輝度値を生成する画像センサと、
(b) 前記ピクセル位置における前記多数のピクセル位置の内の対応する位置で前記光検知素子によって生成される前記取込画像輝度値を記憶する取込画像メモリと、
(c)規則正しいオフ−グリッド位置アレイを形成するように前記ピクセル位置アレイの各々の合間に位置した多数のオフ−グリッド位置で、各々推定オフ−グリッド輝度値を、前記取込画像メモリ内の前記取込画像輝度値から導き出すオフ−グリッド推定器と、
(d) 前記推定オフ−グリッド輝度値から出力画像のピクセル輝度値を導き出すにあたり、前記推定されたオフ−グリッド値を再標本化して、前記ピクセル位置アレイにおける各ピクセル位置での再標本化オン−グリッド値を導出し、前記ピクセル位置アレイにおける各ピクセル位置での再標本化オン−グリッド値から前記出力画像の前記ピクセル輝度値を導出する出力画像発生器と、
を備えるシステム。 - 前記画像センサの光検知素子からなるアレイは、ライン画像を取り込むための線形アレイであり、また前記ピクセル位置アレイは、線形取込画像輝度アレイが形成されるように、一つのピクセル行となって各々が規則正しく離間された位置にある多数のピクセル位置を有する線形アレイであり、前記取込画像メモリが前記光検知素子によって生成された前記取込画像輝度値を記憶する、請求項77に記載のシステム。
- 前記オフ−グリッド位置アレイの前記オフ−グリッド位置が線形ピクセル位置アレイにおけるピクセル位置の各隣接対間に位置している、請求項78に記載のシステム。
- 前記所定の感度パターンは所定の第1感度レベルと所定の第2感度レベルとを有し、また前記線形ピクセル位置アレイの隣接ピクセル位置はそれぞれが前記所定の第1感度レベル及び前記所定の第2感度レベルの内の異なるものに対応する、請求項79に記載のシステム。
- 前記画像センサの前記光検知素子からなるアレイは線形アレイであり、また前記ピクセル位置アレイは複数の規則正しく離間されたピクセル行と複数の規則正しく離間されたピクセル列との各々の交差点でのピクセル位置を有する2次元アレイであり、前記ピクセル行がピクセル列に対して直交し、さらに前記画像センサの前記光検知素子からなる線形アレイが多数の露出で前記シーンの連続する規則正しく離間された線形領域に対して順次露出されるように合わせられており、前記露出のそれぞれが各々の線形取込画像輝度値アレイを生成し、前記多数の露出によって生成された前記各々の線形取込画像輝度値アレイが鎖状に結合されて、前記ピクセル位置アレイの前記ピクセル位置で各々の取込画像輝度値を有する2次元取込画像輝度値アレイを形成する、請求項77に記載のシステム。
- 前記オフ−グリッド位置アレイにおける前記オフ−グリッド位置は複数の規則正しく離間された中間列とピクセル行との各々の交差点に位置しており、前記中間列の各々が前記ピクセル列と平行すると共に前記ピクセル列の各々の隣接対間に延在している、請求項81に記載のシステム。
- 前記所定感度パターンは所定の第1感度レベルと所定の第2感度レベルとを有し、前記ピクセル行の各々における隣接ピクセル位置はそれぞれが前記所定の第1感度レベル及び前記所定の第2感度レベルの異なるものに対応し、前記ピクセル列の各々における隣接ピクセル位置はそれぞれが前記第所定の第1感度レベル及び前記所定の第2感度レベルの同一のものに対応する、請求項82に記載のシステム。
- 前記画像センサは光検知素子からなる2次元アレイを有し、多数のピクセル位置が複数の規則正しく離間されたピクセル行と複数の規則正しく離間されたピクセル列との交差点に位置しており、前記ピクセル列に対して前記ピクセル行が直交し、前記取込画像メモリが前記ピクセル位置における前記多数のピクセル位置の内の対応する位置で前記光検知素子によって生成される前記取込画像輝度値を記憶する、請求項77に記載のシステム。
- 前記オフ−グリッド位置アレイにおける前記オフ−グリッド位置は、複数の規則正しく離間された中間行と複数の規則正しく離間された中間行との各々の交差点に位置しており、各中間行は前記ピクセル行に平行すると共にピクセル行の各々の隣接対の間に延在しており、また各中間列は前記ピクセル列に平行すると共にピクセル列の各々の隣接対の間に延在している、請求項84に記載のシステム。
- 前記光検知素子からなる前記アレイの前記所定感度パターンは4つの異なる所定感度レベルを有すると共に4つの最も近傍のピクセル位置からなる群の各々のパターンに対応し、各群における前記4つのピクセル位置の各々が共通の所定の位置的順序でそれぞれが前記4つの所定感度レベルの異なるものに対応する、請求項85に記載のシステム。
- 前記オフ−グリッド位置アレイにおける前記オフ−グリッド位置は、複数の規則正しく離間された中間行と前記複数のピクセル列との各々の交差点に位置しており、複数の規則正しく離間された中間列と前記ピクセル行との交差点で、前記中間行の各々が前記ピクセル行に平行すると共に前記ピクセル行の各々の隣接対の間に延在しおり、前記中間列の各々が前記ピクセル列に平行すると共にピクセル列の各々の隣接対の間に延在している、請求項84に記載のシステム。
- 前記光検知素子からなる前記アレイの前記所定感度パターンは所定の第1感度レベル及び所定の第2感度レベルを有し、前記ピクセル行の各々における隣接ピクセル位置と前記ピクセル列の各々における隣接ピクセル位置がそれぞれ前記所定の第1感度レベル及び前記所定の第2感度レベルの異なるものに対応する、請求項87に記載のシステム。
- 前記出力画像発生器は前記出力画像の前記ピクセル画像輝度値として前記オフ−グリッド推定器によって導出された前記各々の推定オフ−グリッド輝度値を記憶するための出力画像メモリを備える、請求項77に記載のシステム。
- 前記出力画像発生器は、
(a) 前記オフ−グリッド推定器によって導出された前記推定されたオフ−グリッド輝度亜たちを記憶するためのオフ−グリッド輝度値メモリと、
(b) 前記ピクセル位置アレイにおける前記ピクセル位置で、各々の再標本化されたオン−グリッド輝度値を前記オフ−グリッド輝度値における前記推定オフ−グリッド輝度値から導き出すためのオン−グリッド再標本化器と、
(c) 前記出力画像の前記ピクセル画像輝度値として、前記オン−グリッド再標本化器によって導出された前記各々の再標本化されたオン−グリッド輝度値を記憶するための出力画像メモリと、 を備える、請求項77に記載のシステム。 - 前記オフ−グリッド推定器は、
(a) 前記オフ−グリッド位置アレイにおける前記オフ−グリッド位置を与えるためのオフ−グリッド位置発生器と、
(b) 前記ピクセル位置アレイにおける前記ピクセル位置の各々に対応する前記感度レベルを示すデータを記憶するための感度パターン・メモリと、
(c) 各々が光検知素子の複数の感度レベルの各々に対応し、かつ前記オフ−グリッド位置発生器からのオフ−グリッド位置及び前記感度パターン・メモリからの感度パターン・データを受信する複数の感度レベル・オフ−グリッド輝度値推定器であり、前記受信されたオフ−グリッド位置で前記対応する感度レベルに対する各々の感度レベル・オフ−グリッド輝度値を前記取込画像メモリ内の前記取込画像輝度値から導き出すために、該感度レベル・オフ−グリッド輝度値推定器の各々が前記オフ−グリッド位置発生器から受信したオフ−グリッド位置及び前記感度パターン・メモリからの前記感度パターン・データに対して応答性を示す前記複数の感度レベル・オフ−グリッド輝度値推定器と、
(d) 前記オフ−グリッド位置発生器から受信した各オフ−グリッド位置でおのおのの推定オフ−グリッド輝度値を導き出すために、前記オフ−グリッド位置発生器から受信した各オフ−グリッド位置で対応する感度レベルに対する複数の感度レベル・オフ−グリッド輝度推定器によって導出された各々の感度レベル・オフ−グリッド輝度値を結合させるための累算器と、 を備える、請求項77に記載のシステム。 - 前記オン−グリッド再標本化器は、
(i) 前記ピクセル位置アレイの前記ピクセル位置を与えるためのピクセル位置発生器と、
(ii) 前記ピクセル位置発生器によって与えられたピクセル位置を受信し、さらに前記オフ−グリッド輝度値メモリにおける前記推定オフ−グリッド輝度値から、前記受信されたピクセル位置での各々の補間されたオン−グリッド輝度値を導き出すため、前記ピクセル位置発生器から受信されたピクセル位置に応答性を示す補間器と、
(iii) 前記ピクセル位置発生器から受信された各ピクセル位置で各々の再標本化オン−グリッド輝度値を導き出すために、前記ピクセル位置発生器から受信された各ピクセル位置で前記補間器によって前記ピクセル位置発生器から受信された各ピクセル位置で前記補間器によって導出される前記各々の補間されたオン−グリッド輝度値を補償するためのもので、前記光検知素子の結合応答関数が前記感度レベルの異なるものを有する光検知素子の重み付け応答関数の合計であり、前記重み付け応答関数の各々が前記感度レベルの各々に対する所定の重み付け係数によって乗算された前記感度レベルの各々を有する光検知素子の応答関数である応答関数補償器と、 を備える、請求項90に記載のシステム。 - 前記応答関数補償器は、前記光検知素子の結合応答関数の逆数を表すデータを記憶するルックアップ・テーブル・メモリと、
前記ルックアップ・テーブル・メモリの各々のインデックスを受信されたピクセル位置で前記補間器によって導出された前記各々の補間されたオン−グリッド輝度値から導出し、さらに前記各々のインデックスに対応する前記ルックアップ・テーブル・メモリ内の、前記受信されたピクセル位置での前記出力画像のピクセル輝度値であるデータ値を前記出力画像メモリに対して与えるマッパーと、
を備える、請求項92に記載のシステム。 - 前記累算器は、前記オフ−グリッド位置発生器から受信された各オフ−グリッド位置で前記各々の推定オフ−グリッド輝度値を導き出すために、各受信されたオフ−グリッド位置で対応する感度レベルに対する複数の感度レベル・オフ−グリッド輝度値推定器によって導出された前記感度レベル・オフ−グリッド輝度値を加算するための加算器を備える、請求項91に記載のシステム。
- 前記累算器は、
各々が前記光検知素子の複数の感度レベルの異なる一つに対応する複数の所定の重み係数を記憶するための重み係数メモリと、
受信されたオフ−グリッド位置で対応する感度レベルに対して各々の重み付け感度レベル・オフ−グリッド輝度値を与えるために、前記感度レベルの各々に対応する前記重み付け係数によって受信されたオフ−グリッド位置で前記感度レベルの各々に対応する前記感度レベル−オフグリッド輝度値を各々が乗算する複数の乗算器と、
前記オフ−グリッド位置発生器から受信された前記受信されたオフ−グリッド位置で各々の推定オフ−グリッド輝度値を導き出すために、前記複数の乗算器によって与えられた前記各々の重み付け感度レベル・オフ−グリッド輝度値を合計するための加算器と、
を備える、請求項91に記載のシステム。 - 前記オフ−グリッド推定器は、
(a) 前記オフ−グリッド位置アレイにおける前記オフ−グリッド位置を与えるためのオフグリッド位置発生器と、
(b) 前記ピクセル位置アレイにおける前記ピクセル位置の各々に対応する前記感度レベルを示すデータを記憶する感度パターン・メモリと、
(c) 前記オフ−グリッド位置発生器からオフ−グリッド位置を受信し、かつ前記感度パターン・メモリから感度パターン・データを受信するために、各々が感度レベルの各々に対応し、さらに前記取込画像メモリ内の前記取込画像輝度値から、前記受信されたオフ−グリッド位置での前記対応する感度レベルに対する各々の感度レベル・オフ−グリッド輝度値を導き出すために、前記オフ−グリッド位置発生器から受信されたオフ−グリッド位置及び前記感度パターン・メモリから受信された前記感度パターン・データに対して応答性を示す複数の感度レベル・オフ−グリッド輝度値推定器と、
(d) 前記オフ−グリッド位置発生器から受信された各オフ−グリッド位置で、各々の結合感度レベル・オフ−グリッド輝度値を導き出すために、前記オフ−グリッド位置発生器から受信された各オフ−グリッド位置で前記対応する感度レベルに対して、前記複数の感度レベル・オフ−グリッド輝度値推定器によって導出された前記各々の感度レベル・オフ−グリッド輝度値を結合するための累算器と、
(e) 前記オフ−グリッド位置発生器から受信された各オフ−グリッド位置で各々の推定オフ−グリッド輝度値を導き出すために、前記光検知素子の前記結合応答関数の逆数によって前記オフ−グリッド位置発生器から受信された各オフ−グリッド位置で前記各々の結合感度レベル・オフ−グリッド輝度値を補償し、前記光検知素子の重み付け応答関数の合計である前記結合応答関数が前記複数の感度レベルの異なるものを有し、また光検知素子の応答関数である前記重み付け応答関数の各々が前記感度レベルの各々について所定の重み付け係数によって乗算された前記感度レベルの各々を有する応答関数補償器と、
を備える、請求項77に記載のシステム。 - 前記応答関数補償器は、
前記光検知素子の前記結合応答関数の逆数を表すルックアップ・テーブル・データを記憶するルックアップ・テーブル・メモリと、
前記オフ−グリッド位置発生器から受信された各オフ−グリッド位置で前記各々の結合感度レベル・オフ−グリッド輝度値から前記ルックアップ・テーブル・メモリの各々のインデックスを導出し、さらに前記オフ−グリッド位置発生器から受信された前記オフ−グリッド位置で前記各々の推定オフ−グリッド輝度値として前記各々のインデクスに対応する前記ルックアップ・テーブル・メモリ内のデータ値を与えるマッパーと、
を備える、請求項96に記載のシステム。 - 前記出力画像発生器は、
(a) 前記オフ−グリッド位置発生器から受信された各オフ−グリッド位置で前記応答関数補償器によって導出された前記各々の推定オフ−グリッド輝度値を記憶するためのオフ−グリッド輝度値メモリと、
(b) 前記ピクセル位置アレイの前記ピクセル位置で各々の再標本化オン−グリッド輝度値を前記オフ−グリッド輝度値メモリ内の前記推定オフ−グリッド輝度値から導き出すためのオン−グリッド再標本化器と、
(c) 前記出力画像の前記ピクセル画像輝度値として前記オン−グリッド再標本化器によって導出された前記各々の再標本化オン−グリッド輝度値を記憶するための出力画像メモリと、
を有し、さらに前記オン−グリッド再標本化器は、
(i) 前記ピクセル位置アレイにおけるピクセル位置を与えるためのピクセル位置発生器と、
(ii) 前記ピクセル位置発生器によって与えられたピクセル位置を受信し、また前記受信されたピクセル位置で各々の再標本化オン−グリッド輝度値を前記オフ−グリッド輝度値メモリ内の前記推定オフ−グリッド輝度値から導き出すために前記ピクセル位置発生器から受信されたピクセル位置に対して応答性を示す補間器と、
を備える、請求項96に記載のシステム。 - 前記オフ−グリッド推定器の前記累算器は、 前記オフ−グリッド位置発生器から受信された各オフ−グリッド位置で前記結合感度レベル・オフ−グリッド輝度値を与えるために、前記オフ−グリッド位置発生器から受信された各オフ−グリッド位置で前記対応する感度レベルに対して前記複数の感度レベル/オフ−グリッド輝度値推定器によって導出された前記各々の感度レベル・オフ−グリッド輝度値を加算するための換算器を備える、請求項96に記載のシステム。
- 前記オフ−グリッド推定器は、
各々が前記光検知素子の複数の感度レベルの異なる一つに対応する複数の所定の重み係数を格納するための重み付け係数メモリと、
前記オフ−グリッド位置発生器から受信された前記オフ−グリッド位置で前記対応する感度レベルに対して重み付けした感度レベル・オフ−グリッド輝度値を与えるために、前記感度レベルの各々に対応する前記重み付け係数によって受信されたオフ−グリッド位置で前記感度レベルの各々に対応する前記感度レベル・オフ−グリッド輝度値を各々が乗算するための複数の乗算器と、
前記オフ−グリッド位置発生器から受信された前記オフ−グリッド位置で前記結合感度レベル・オフ−グリッド輝度値を導き出すために前記複数の乗算器によって与えられた前記受信されたオフ−グリッド位置で前記重み付け感度レベル・オフ−グリッド輝度値を合計するための加算器と、
を備える、請求項96に記載のシステム。 - 前記画像センサの前記光検知素子からなるアレイは線形アレイであり、前記ピクセル位置アレイはピクセル行の各々の規則正しく離間されたピクセル位置で多数のピクセル位置を有する線形アレイであり、さらに、前記オフ−グリッド位置アレイにおける前記オフ−グリッド位置は前記ピクセル位置アレイのピクセル位置の各々の隣接対の間に各々が位置しており、前記オフ−グリッド位置発生器から受信されたオフ−グリッド位置に対する前記複数の感度レベル・オフ−グリッド輝度推定器によって導出された前記感度レベル・オフ−グリッド輝度値は前記受信されたオフ−グリッド位置に対して最も近傍にある所定の数のピクセル位置にある各々の取込画像輝度値であり、前記所定の数の最も近傍のピクセル位置の各々が前記光検知素子の前記複数の感度レベルの異なる一つに対応する、請求項100に記載のシステム。
- 前記オフ−グリッド位置アレイにおける前記オフ−グリッド位置の各々は、前記線形ピクセル位置アレイにおけるピクセル位置の各々の隣接対の間の途中に位置しており、また前記光検知素子の前記所定感度パターンは所定の第1感度レベルと所定の第2感度レベルとを有し、さらに、前記オフ−グリッド位置発生器から受信されたオフ−グリッド位置X’での前記結合感度レベル・オフ−グリッド輝度値は、
B(X’) = W1IC(X’−0.5)+W2IC(X’+0.5)
として表され、前記B(X’)は前記受信されたオフ−グリッド位置X’での前記結合感度レベル・オフ−グリッド輝度値、W1はピクセル位置(X’−0.5)に対応する前記感度レベルに対する前記重み付け係数、W2はピクセル位置(X’+0.5)に対応する前記感度レベルに対する前記重み付け係数、IC(X’−0.5)はピクセル位置(X’−0.5)での前記取込画像輝度値及びIC(X’+0.5)はピクセル位置(X’+0.5)での前記取込画像輝度値、さらに前記光検知素子の前記結合応答関数は、
S(E)=W1P1(E)+W2P2(E)
で表され、P1(E)はピクセル位置(X’−0.5)に対応する前記感度レベルを有する光検知素子のラジオメトリック応答関数、またP2(E)はピクセル位置(X’+0.5)に対応する前記感度レベルを有する光検知素子のラジオメトリック応答関数である、請求項101に記載のシステム。 - 前記画像センサは光検知素子からなる2次元アレイを有し、前記多数のピクセル位置は2次元ピクセル位置アレイを規定する複数の規則正しく離間されたピクセル列と複数の規則正しく離間されたピクセル行との交差点に位置し、前記ピクセル行が前記ピクセル列に対して直交し、前記多数のオフ−グリッド位置が複数の規則正しく離間された中間行と複数の規則正しく離間された中間列との各々の交差点に位置し、前記中間行の各々は前記ピクセル行に対して平行であると共に前記ピクセル行の各々の隣接対の間に延在しており、また前記中間列の各々は前記ピクセル列に対して平行であると共に前記ピクセル列の各々の隣接対の間に延在している、請求項100に記載のシステム。
- 前記光検知素子からなるアレイの前記所定感度パターンは、各々の配置された4つの最も近傍のピクセル位置からなる群を有するピクセル位置アレイに対応し、各々の群の前記4つの最も近傍のピクセル位置は、共通の所定位置順序で4つの所定の感度レベルの各々に対応する、請求項103に記載のシステム。
- 前記画像センサは光検知素子からなる2次元アレイを有し、前記多数のピクセル位置は2次元ピクセル位置アレイを規定する複数の規則正しく離間されたピクセル列と複数の規則正しく離間されたピクセル行との交差点に位置し、前記ピクセル行がピクセル列に対して直交し、さらに前記多数のオフ−グリッド位置が複数の規則正しく離間された中間行と前記ピクセル列との各々の交差点に位置し、また複数の規則正しく離間された中間行と前記ピクセル列との各々の交差点で、前記中間行の各々は前記ピクセル行に対して平行であると共に前記ピクセル行の各々の隣接対の間に延在しており、また前記中間列の各々は前記ピクセル列に対して平行であると共に前記ピクセル列の各々の隣接対の間に延在している、請求項100に記載のシステム。
- 前記光検知素子からなるアレイの前記所定感度パターンは所定の第1感度レベル及び所定の第2感度レベルを有し、前記ピクセル行の各々にある隣接ピクセル位置と前記ピクセル列の各々にあるピクセル位置とがそれぞれ所定の第1感度レベル及び所定の第2感度レベルの異なるものに対応する、請求項100に記載のシステム。
- 前記画像センサの前記光検知素子からなるアレイは線形アレイであり、線形取込画像輝度値アレイを形成するように、前記多数のピクセル位置がピクセル行内の各々の規則正しく離間されたピクセル位置に置かれており、前記画像センサの前記光検知素子の線形アレイは多数の露出で前記シーンの連続する規則正しく離間された線形領域に対して順次露出されるように合わせられており、前記露出の各々が各々の線形取込画像輝度値アレイを生成し、多数の露出によって生成された前記各々の線形画像取込輝度値アレイは、複数の規則正しく離間されたピクセル行と複数の規則正しく離間されたピクセル列との交差点に位置したピクセル位置アレイのピクセル位置で各々の取込画像輝度値を有する2次元取込画像輝度値アレイを形成するために、鎖状に結合されており、前記ピクセル行がピクセル列に対して直交し、前記多数のオフ−グリッド位置が前記ピクセル行と複数の規則正しく離間された中間列との各々の交差点に置かれ、前記中間列の各々が前記ピクセル列と平行すると共に前記ピクセル列の各々の隣接対間に延在している、請求項100に記載のシステム。
- 前記光検知素子からなるアレイの前記所定感度パターンは所定の第1感度レベル及び所定の第2感度レベルを有し、各ピクセル行における隣接ピクセル位置は前記所定の第1感度レベル及び前記所定の第2感度レベルの異なるものに対応し、各ピクセル列における隣接ピクセル位置は前記所定の第1感度レベル及び前記所定の第2感度レベルの同一のものに対応する、請求項107に記載のシステム。
- 前記感度レベル・オフ−グリッド輝度値推定器と同様の感度レベルに対応し、かつ前記受信されたオフ−グリッド位置に最も近く位置したピクセル位置を決定するために、また前記感度レベル・オフ−グリッド輝度値推定器と同様の感度レベルに対応する前記最も近いピクセル位置で前記取込画像輝度値と等しくなる前記受信されたオフ−グリッド位置で感度レベル・オフ−グリッド輝度値を推定するために、前記感度レベル・オフ−グリッド輝度値推定器の各々は、前記オフ−グリッド位置発生器から受信されたオフ−グリッド位置及び前記感度パターン・メモリからの前記ピクセル位置の各々に対応する前記感度レベルを示す前記データに対して応答性を示す、請求項91又は請求項96に記載のシステム。
- 前記補間器は、前記受信されたピクセル位置に対して最も近傍の所定の数のオフ−グリッド位置で前記推定オフ−グリッド輝度値と前記所定の数のオフ−グリッド位置と同様の寸法を有する補間カーネルとを計算するために、前記ピックセル位置発生器から受信されたピクセル位置に対して応答性を示す、請求項92に記載のシステム。
- 前記ピクセル位置発生器によって与えられた前記ピクセル位置は、複数の規則正しく離間されたピクセル行と複数の規則正しく離間されたピクセル列との交差点に位置し、前記ピクセル列は前記ピクセル行に対して直交し、また前記オフ−グリッド位置発生器によって与えられた前記オフ−グリッド位置は複数の規則正しく離間された中間行と複数の規則正しく離間された中間列との各々の交差点に位置し、前記中間行の各々は前記ピクセル行に対して平行であると共に前記ピクセル行の各々の隣接対の間の中心を延在し、前記中間列の各々は前記ピクセル列に対して平行であると共に前記ピクセル列の各々の隣接対の間の中心を延在し、さらに前記補間器は、前記ピクセル位置発生器から受信された前記ピクセル位置(x,y)の各々で補間されたオン−グリッド輝度値を、関係
- 前記ピクセル位置発生器によって与えられた前記ピクセル位置は、複数の規則正しく離間されたピクセル行と複数の規則正しく離間されたピクセル列との交差点に置かれ、前記ピクセル行がピクセル列に対して直交し、前記オフ−グリッド位置発生器によって与えられた前記オフ−グリッド位置は、複数の規則正しく離間された中間行と複数の規則正しく離間された中間列との各々の交差点に位置しており、前記中間行の各々は前記ピクセル行に対して平行であると共に前記ピクセル行の各々の隣接対の間の中心を延在し、前記中間列の各々は前記ピクセル列に対して平行であると共に前記ピクセル列の各々の隣接対の間の中心を延在し、さらに前記補間器は、前記ピクセル位置発生器から受信された前記ピクセル位置(x,y)の各々における前記再標本化オン−グリッド輝度値を、関係
- 前記ピクセル位置発生器によって与えられた前記ピクセル位置は、複数の規則正しく離間されたピクセル列と複数の規則正しく離間されたピクセル行との交差点に置かれ、前記ピクセル行がピクセル列に対して直交し、前記オフ−グリッド発生器によって与えられた前記オフ−グリッド位置は、複数の規則正しく離間された中間行とピクセル列との各々の交差点に位置しており、前記中間行の各々は前記ピクセル行に対して平行であると共に前記ピクセル行の各々の隣接対の間の中心を延在し、前記中間列の各々は前記ピクセル列に対して平行であると共に前記ピクセル列の各々の隣接対の間の中心を延在し、さらに前記補間器は、前記ピクセル位置発生器から受信された前記ピクセル位置(x,y)の各々における前記補間されたオン−グリッド輝度値を関係
- 前記ピクセル位置発生器によって与えられた前記ピクセル位置は、複数の規則正しく離間されたピクセル行と複数の規則正しく離間されたピクセル列との交差点に置かれ、前記ピクセル行がピクセル列に対して直交し、前記オフ−グリッド位置発生器によって与えられた前記オフ−グリッド位置は、複数の規則正しく離間された中間行とピクセル列との各々の交差点に位置しており、前記中間行の各々は前記ピクセル行に対して平行であると共に前記ピクセル行の各々の隣接対の間の中心を延在し、前記中間列の各々は前記ピクセル列に対して平行であると共に前記ピクセル列の各々の隣接対の間の中心を延在し、さらに前記補間器は、前記ピクセル位置発生器から受信された前記ピクセル位置(x,y)の各々における前記再標本化オン−グリッド輝度値を関係
- 前記4x4立方補間カーネルΦは、
- 前記ピクセル位置発生器によって与えられた前記ピクセル位置は、線形ピクセル位置アレイを規定するピクセル行において各々の規則正しく離間されたピクセル位置であり、前記オフ−グリッド位置によって与えられた前記オフ−グリッド位置はそれぞれ前記ピクセル位置行におけるピクセル位置の各々の隣接対の中間点に位置し、さらに前記補間器は、前記ピクセル位置発生器から受信された前記ピクセル位置xの各々で前記標本化オン−グリッド輝度値を、関係
- 前記4x1立方補間カーネルΨは、
- 前記画像センサは、離間した直交の行及び列状にフォトダイオードからなるアレイを有する主席回路電荷結合素子であり、前記フォトダイオードの各々は、入射光に対する露出に適合した光検出面を有すると共に光発生電荷を保存するためにおベレーティブにバイアスされており、前記電荷結合素子は前記フォトダイオードの所定のものの感光面を覆うように形成された各々の集積レンズを有し、各集積レンズは入射光を前記各々の光検出面上に前記入射光を集束させ、それによって前記集積レンズが前記光検出面を覆うように形成されているかどうかによって前記フォトダイオードの各々の前記感度レベルが決定される、請求項77に記載のシステム。
- 前記画像センサは、離間した直交の行及び列状にフォトダイオードからなるアレイを有する主席回路電荷結合素子であり、前記フォトダイオードの各々は、入射光に対する露出に適合した光検出面を有すると共に光発生電荷を保存するためにオペレーティブにバイアスされており、前記フォトダイオードの各々は前記光検出面を覆うように形成された集積光フィルターを有し、各集積光フィルターの透過性は前記電荷結合素子の製造中固定されており、それによって前記フォトダイオードの各々の前記感度レベルは前記光検出面を覆う前記集積光フィルターの透過性によって決定される、請求項77に記載のシステム。
- 前記画像センサは、離間した直交の行及び列状にフォトダイオードからなるアレイを有する主席回路電荷結合素子であり、前記フォトダイオードの各々は、入射光に対する露出に適合した光検出面を有すると共に光発生電荷を保存するためにオペレーティブにバイアスされており、不透明層が形成された前記電荷結合素子は、前記フォトダイオードの各々の光検出面上の前記不透明層に形成された各々のアパーチャを有するフォトダイオードからなるアレイを覆い、前記フォトダイオードの各々の光検出面上の前記アパーチャの各々の寸法は前記電荷結合素子の製造中固定されており、それによって前記アレイにおける前記フォトダイオードの各々の感度レベルが前記光検出面上の前記アパーチャの寸法によって決定される、請求項77に記載のシステム。
- 前記画像センサは、離間した直交の行及び列状に多数のフォトダイオードを有する主席回路電荷結合素子であり、前記フォトダイオードの各々は、入射光に対する露出に適合した光検出面を有すると共に光発生電荷を保存するためにオペレーティブにバイアスされており、前記電荷結合素子は、前記フォトダイオードからなる列が対応の垂直シフト・レジスタに隣接されて各々配置されており、各フォト・ダイオードは、前記フォトダイオードから前記対応の垂直シフト・レジスタへの保存光発生電荷の移動を制御するための関連転送ゲート電極を有し、前記フォトダイオードの各々の前記保存光発生電荷はオペレーティブに周期的に前記素子への周期的リセット・パルスの印加によって周期的に取り除かれ、前記フォトダイオードの各々に保存された前記光発生電荷は、前記関連転送ゲート電極に対するトランスファトリガー・パルスの印加によって前記対応の垂直シフト・レジスタの各々のステージへオペレーティブに転送されると共に1つの露出間隔に対して集積され、前記各々の転送トリガー・パルスは、所定の周期で前記フォトダイオードに関連した前記転送ゲート電極に対してオペレーティブに印加され、それによって前記アレイにおける前記フォトダイオードの各々の前記感度は前記転送ゲート電極に印加せれた前記転送トリガー・パルスの周期によって決定される、請求項77に記載のシステム。
- 前記オフ−グリッド推定器は、
(a) 前記ピクセル位置アレイにおける前記ピクセル位置を与えるためのピクセル位置発生器と、
(b) 前記ピクセル位置の各々に対応する前記感度レベルを記憶するための感度パターン・メモリと、
(c) 前記ピクセル位置発生器からの前記ピクセル位置アレイのピクセル位置と、前記感度パターン・メモリからの前記受信されたピクセル位置に対応する前記感度レベル及び前記取込画像メモリからの前記受信されたピクセル位置に対応する取込画像輝度値に対応する感度レベルを示し、前記ピクセル位置発生器から受信されたピクセル位置に対して応答性を示すデータと、前記受信されたピクセル位置で前記取込画像輝度値を前記取込画像メモリから検索するために、また前記ピクセル位置発生器から受信された前記ピクセル位置で各々の補償された輝度値を与えるために、前記受信されたピクセル位置に対応する前記感度レベルを有する光検出素子の応答関数の逆数によって前記受信されたピクセル位置で前記検索された取込画像輝度値を補償するために、前記受信されたピクセル位置に対応する前記感度レベルを示すデータとを受信する応答関数補償器と、
(d) 前記応答関数補償器によって導出された各々の補償された取込画像輝度値を記憶するための補償オン−グリッド輝度値と、 (e) 前記オフ−グリッド位置アレイにおける前記オフ−グリッド位置を与えるためのオフグリッド位置発生器と、;
(f) 前記補償されたオン−グリッド輝度値メモリにある前記補償された取込画像輝度値から前記オフ−グリッド位置発生器から受信された前記オフ−グリッド位置での各々の推定オフ−グリッド輝度を導き出すために、前記オフ−グリッド位置発生器からオフ−グリッド位置を受信すると共に前記オフ−グリッド位置発生器から受信されたオフ−グリッド位置に対して応答性がある疑似逆数推定器と、 を有する請求項77に記載のシステム。 - 前記出力画像発生器は、
(i) 前記疑似逆数推定器によって導出された前記各々の推定オフ−グリッド輝度値を記憶するためのオフ−グリッド輝度値メモリと、
(ii) 前記オフ−グリッド輝度値メモリにある前記推定オフ−グリッド輝度値から前記ピクセル位置アレイの前記ピクセル位置における各々のオン−グリッド再標本化輝度値を導き出すためのオン−グリッド再標本化器と、
(iii) 前記出力画像のピクセル画像輝度値として前記オン−グリッド再標本化器によって導出された前記各々の再標本化オン−グリッド輝度値を記憶するための出力画像メモリと、
を有し、前記オン−グリッド再標本化器は、
(1) 前記ピクセル位置アレイにおける前記ピクセル位置を与えるための第2のピクセル位置発生器と、
(2) 前記オフ−グリッド輝度値メモリにある前記推定オフ−グリッド輝度値から、前記第2のピクセル位置発生器から受信された前記ピクセル位置における前記再標本化オン−グリッド輝度値を導き出すために、前記ピクセル位置発生器からピクセル位置を受信すると共に前記ピクセル位置発生器からのピクセル位置に対して応答性を示す補間器と、を備える、請求項122に記載のシステム。 - 前記応答関数補償器は、 前記複数の感度レベルの異なる一つを有する光検知素子における各々の応答関数の逆数を表す別々のルックアップ・テーブル・データを記憶するルックアップ・テーブル・メモリと、 前記受信されたピクセル位置に対応する前記感度レベルを有する光検知素子の前記応答関数の逆数を表す前記ルックアップ・テーブル・データに対する各々の指数を導出し、前記補償されたオン−グリッド輝度値メモリに対する指数に対応する補償されたオン−グリッド輝度値を与えるために、前記第1のピクセル位置から受信した前記ピクセル位置における前記取込画像輝度値を前記取込画像メモリから受信するマッパーと、 を備える、請求項122に記載のシステム。
- 前記疑似逆数推定器は、 前記オフ−グリッド位置から受信されたオフ−グリッド位置に対して最も近傍にある所定数のピクセル位置における各々の補償されたオン−グリッド輝度値を前記補償されたオン−グリッド再標本化輝度値メモリから検索するために、前記受信されたオフ−グリッド位置に対して応答性を示す手段と、
前記最も近傍のピクセル位置での前記各々の補償されたオン−グリッド輝度値それぞれを所定の低閾値及び所定の高閾値と比較する比較器と、
前記所定の低閾値よりも大きく、かつ前記所定の高閾値よりも低い前記最も近傍のピクセル位置にある補償されたオン−グリッド輝度値の合計を計算する加算器手段と、
前記合計に含まれる前記補償されたオン−グリッド輝度値の数によって前記加算器により計算された前記合計を除算する除算器と、
を備える、請求項122に記載のシステム。 - 前記ピクセル位置発生器によって与えられた前記ピクセル位置は、複数の規則正しく離間されたピクセル行と複数の規則正しく離間されたピクセル列との交差点であり、前記ピクセル行がピクセル列に対して直交し、前記オフ−グリッド位置発生器によって与えられた前記オフ−グリッド位置は、複数の規則正しく離間せれた中間行と複数の規則正しく離間された中間列との各々の交差点に位置し、前記中間行の各々は前記ピックセル行に対して平行であると共に前記ピクセル行の各々の隣接対の間の中央に延在し、各中間列は前記ピクセル列に対して平行であると共に前記ピクセル列の各々の隣接対の間の中央に延在し、さらに前記オフ−グリッド位置発生器によって与えられた前記オフ−グリッド位置は座標(x’,y’)を有するもので、x’は1からxサイズ−1までの値を有し、またy’は1からyサイズ−1までの値を有し、xサイズはピクセル行の方向に沿った前記取込画像の寸法であり、yサイズはピクセル列の方向に沿った前記取込画像の寸法である、請求項122に記載のシステム。
- 前記光検知素子からなる前記アレイの前記所定感度パターンは、繰り返して配置された4つの最も近傍のピクセル位置からなる群に対応し、各群における前記4つの最も近傍のピクセル位置は、一つの共通の所定位置順序にある4つの所定感度レベルの各々に対応する、請求項126に記載のシステム。
- 前記オフ−グリッド位置発生器から受信されたオフ−グリッド位置(x’,y’)で前記各々の輝度値を推定するための前記疑似逆数推定器は、
(i) 4x4立方補間器カーネルΦを記憶するためのメモリと、
(ii) 前記受信されたオフ−グリッド位置(x’,y’)に最も近傍にある16個のピクセル位置(u,v)の各々における前記補償されたオン−グリッド輝度値を所定の低閾値及び所定の高閾値と比較するための比較器と、
(iii) 前記所定の低閾値よりも高く、かつ前記所定の高閾値よりも低い補償されたオン−グリッド輝度値を有する前記16個の最も近傍のピクセル位置(u,v)の各々に対して、関係i=x’−u−1.5及びj=y’−v−1.5(式中、uはx’−1.5からx’+1.5までの値を有し、cはy’−1.5からy’+1.5までの値を有する)を用いて前記4x4立方補間器カーネルΦの指数i及びjを計算するための第1の計算手段と、
(iv) 前記第1の計算手段によって計算された指数i及びjを用いて、前記所定の低閾値よりも高く、かつ前記所定の高閾値よりも低い補償されたオン−グリッド輝度値を有する前記16個の最も近傍のピクセル位置(u,v)における各補償されたオン−グリッド輝度値I(u,v)についての量
を計算するための第2の計算手段と、
(v) 前記第1の計算手段によって計算されたi及びjの値に対して、量Φ2 ijを計算するための第3の計算手段と、
(vi) 第1の合計sを導き出すために前記第2の計算手段によって計算された前記量
(vii) 第2の合計wを導くために前記第3の計算手段によって計算された量Φ2 ijを加算するための第2の加算器と、
(viii) 前記第2の合計wによって前記第1の合計sを除算することで前記受信されたオフ−グリッド位置(x’,y’)における前記推定されたオフ−グリッド輝度値を導く除算器と、 を備える、請求項126に記載のシステム。 - 前記ピクセル位置発生器によって与えられた前記ピクセル位置は、複数の規則正しく離間されたピクセル行と複数の規則正しく離間されたピクセル列との交差点であり、前記オフ−グリッド位置発生器によって与えられた前記オフ−グリッド位置は、複数の規則正しく離間せれた中間行と複数の規則正しく離間された中間列との各々の交差点に位置し、前記中間行の各々は前記ピックセル行に対して平行であると共に前記ピクセル行の各々の隣接対の間の中央に延在し、各中間列は前記ピクセル列に対して平行であると共に前記ピクセル列の各々の隣接対の間の中央に延在し、前記オフ−グリッド位置発生器によって与えられた前記オフ−グリッド位置は座標(x’,y’)を有するもので、前記ピクセル行及び前記中間列の各々の交差点に位置したオフ−グリッド位置についてx’は1からxサイズ−1までの値を有し、またy’は0.5からyサイズ−0.5までの値を有し、さらに前記ピクセル列と前記中間行との各々の交差点に位置したオフ−グリッド位置についてはx’は0.5からyサイズ−0.5までの値を有し、またy’は0.1からyサイズ−1までの値を有し、xサイズはピクセル行の方向に沿った前記取込画像の寸法であり、yサイズはピクセル列の方向に沿った前記取込画像の寸法である、請求項122に記載のシステム。
- 前記光検知素子からなる前記アレイの前記所定感度パターンは、所定の第1感度レベル及び所定の第2感度レベルを有し、各ピクセル行における隣接ピクセル位置及び各ピクセル行における隣接ピクセル位置は、前記所定の第1感度レベル及び前記所定の第2感度レベルに対応する請求項129のシステム。
- 前記オフ−グリッド位置発生器から受信されたオフ−グリッド位置(x’,y’)での前記各々のオフ−グリッド輝度値を推定するための前記疑似逆数推定器は、
(i) 4x4立方補間カーネルΦを記憶するためのメモリと、
(ii) 関係u=x’+0.5i−0.5j及びv=y’−1.5+0.5i+0.5j(式中、i及びjが前記4x4立方補間カーネルΦの指数であり、前記指数i及びjの各々が0から3までの値を有する)を用いて座標(u,v)を計算するために前記オフ−グリッド位置発生器から受信されたオフ−グリッド位置(x’,y’)い対する応答性を示す第1の計算手段と、
(iii) 前記座標(u,v)がピクセル位置のものであるかどうかを判断するために、前記第1の計算手段によって計算された座標(u,v)からなる各々の対に対する応答性を示す手段と、
(iv) 前記ピクセル位置(u,v)での前記補償されたオン−グリッド輝度値I(u,v)を前記所定の低閾値及び前記所定の高閾値と比較するために、ピクセル位置の座標である前記座標(u,v)に対して応答性を示す比較器と、
(v) 前記量
を計算するために、前記ピクセル位置の座標である前記座標(u,v)と、所定の低閾値よりも大きく、かつ所定の高閾値よりも低い前記ピクセル位置(u,v)における前記補償されたオン−グリッド輝度値I(u,v)とに対して応答性を示す第2の計算手段と、
(vi) 前記補償されたオン−グリッド輝度値I(u,v)が前記所定の低閾値よりも高く、かつ前記所定の高閾値よりも低いピクセル位置座標(u,v)を計算するために、前記第1の計算手段によって使用されたi及びjの値について前記量Φ2 ijを計算するための第3の計算手段と、
(vii) 第1の合計sを導き出すために前記第2の計算手段によって計算された前記量
(viii) 第2の合計wを導くために前記第3の計算手段によって計算された量Φ2 ijを加算するための第2の加算器と、
(viii) 前記第2の合計wによって前記第1の合計sを除算することで前記オフ−グリッド位置発生器から受信された前記オフ−グリッド位置(x’,y’)における前記推定されたオフ−グリッド輝度値を導く除算器と、 を備える、請求項129に記載のシステム。 - 前記4x4立方補間カーネルΦは、
- 前記ピクセル位置発生器によって与えられた前記ピクセル位置は、線形ピクセル位置アレイにある各々の規則正しく離間されたピクセル位置に位置しており、前記オフ−グリッド位置発生器によって与えられた前記オフ−グリッド位置は前記線形ピク得る位置アレイにおけるピクセル位置の各々の隣接対の間の中間点にそれぞれが位置しており、前記光検知素子の前記所定感度パターンは所定の第1感度レベルと所定の第2感度レベルとを有し、前記線形ピクセル位置アレイの隣接ピクセル位置はそれぞれが前記所定の第1感度レベル及び前記所定の第2感度レベルの異なるものと対応する、請求項122に記載のシステム。
- 前記ピクセル位置発生器によって与えられた前記ピクセル位置は、0.5からxサイズ−0.5までの値を有し、xサイズは前記取込ライン画像の寸法であり、前記オフ−グリッド位置発生器によって与えられた前記オフ−グリッド位置は2からxサイズ−2までの値を備える、請求項133に記載のシステム。
- 前記オフ−グリッド位置発生器によって受信されたオフ−グリッド位置x’における前記各々の輝度値を推定するための疑似逆数推定器は、
(i) 4x4ガウシアン補間カーネルGを記憶するためのメモリと、
(ii) 前記受信されたオフ−グリッド位置x’に最も近傍にある4つのピクセル位置k(kはx’−1.5からx’+1.5までの値)の各々で前記補償されたオン−グリッド輝度値I(k)を所定の低閾値及び所定の高閾値と比較するための比較器と、
(iii) 前記所定の低閾値よりも高く、かつ前記所定の高閾値よりも低い前記4つの最も近傍のピクセル位置kにおける前記補償されたオン−グリッド輝度値I(k)の各々に対して量I(k)G(k−x’)(式中、G(k−x’)は位置(k−x’)におけるガウシアン補間カーネルGの値)を計算するための第1の計算手段と、
(iv) 第1の合計pを導き出すために、前記所定の低閾値よりも高く、かつ前記所定の高閾値よりも低いI(k)の全ての値について前記量I(k)G(k−x’)を加算するための第1の加算器と、
(v) 第2の合計qを導き出すために、I(k)が前記所定の低閾値よりも高く、かつ前記所定の高閾値よりも低いkの全ての値について前記ガウシアン補間カーネル値G(k−x’)を加算するための第2の加算器と、
(vi) 前記オフ−グリッド位置発生器から受信された前記オフ−グリッド位置x’で前記推定されたオフ−グリッド輝度値B(x’)を導き出すための除算器と、
を備える、請求項134に記載のシステム。 - 前記所定の低閾値は、前記光検知素子の前記応答関数の逆数によって補償された比較されている前記補償されたオン−グリッド輝度値の前記ピクセル位置に対応する感度レベルを有する前記光検出素子のノイズ・レベルであり、前記所定の高閾値は比較されている前記補償されたオン−グリッド輝度値に対応する前記感度レベルを有する光検知素子の飽和又は近飽和輝度値である、請求項125、128、131、又は135に記載のシステム。
- 前記第2のピクセル位置発生器によって与えられた前記ピクセル位置アレイの前記ピクセル位置は、線形ピクセル位置アレイの各々の規則正しく離間されたピクセル位置に置かれ、前記オフ−グリッド位置発生器によって与えられた前記オフ−グリッド位置における前記オフ−グリッド位置アレイはそれぞれ前記線形ピクセル位置アレイのピクセル位置の各々の隣接対の間に置かれる、請求項123に記載のシステム。
- 前記第2のピクセル位置発生器によって与えられた前記ピクセル位置アレイの前記ピクセル位置は、複数の規則正しく離間されたピクセル行と複数の規則正しく離間されたピクセル列との交差点に位置し、前記ピクセル行が前記ピクセル列に対して直交し、前記オフ−グリッド位置発生器によって与えられた前記オフ−グリッド位置アレイにおける前記オフ−グリッド位置は、複数の規則正しく離間された中間行と複数の規則正しく離間された中間列との各々の交差点に位置し、各中間行は前記ピクセル行に対して平行であると共に前記ピクセル行の各々の隣接対の間に延在しており、また各中間列は前記ピクセル列に対して平行であると共に前記ピクセル列の各々の隣接対の間に延在している、請求項123に記載のシステム。
- 前記第2のピクセル位置発生器によって与えられた前記ピクセル位置アレイの前記ピクセル位置は、複数の規則正しく離間されたピクセル行と複数の規則正しく離間されたピクセル列との交差点に位置し、前記ピクセル行が前記ピクセル列に対して直交し、前記オフ−グリッド位置発生器によって与えられた前記オフ−グリッド位置アレイにおける前記オフ−グリッド位置は、複数の規則正しく離間された中間列と前記ピクセル行との各々の交差点に位置し、前記中間ピクセル列の各々は前記ピクセル列に対して平行であると共にピクセル列の各々の隣接対の間に延在している、請求項123に記載のシステム。
- 前記補間器は、 前記ピクセル位置アレイに一致するように前記オフ−グリッド位置アレイをシフトさせるための手段を有し、それによって前記ピクセル位置アレイの各ピクセル位置における前記再標本化オン−グリッド輝度値は前記シフトされたオフ−グリッド位置アレイの一致オフ−グリッド位置での前記推定されたオフ−グリッド輝度値に等しい、請求項137、138、又は139に記載のシステム。
- 前記補間器は、前記第2のピクセル位置発生器から受信されたピクセル位置において、前記受信されたピクセル位置に最も近い所定数のオフ−グリッド位置における各々の推定オフ−グリッド輝度値と前記所定数のオフ−グリッド位置と同一の寸法を有する補間カーネルとの積を計算することによって、各々の再標本化オン−グリッド輝度値を導き出す、請求項138に記載のシステム。
- 前記複数の中間行は、各々がピクセル行の各々の隣接対の間の中央に延在し、前記複数の規則正しく離間された中間列は、各々がピクセル列の各々の隣接対の間の中央に延在し、前記第2のピクセル位置発生器によって与えられた前記ピクセル位置は、座標(x,y)を有し、xは2.5からxサイズ−2.5までの値であり、yは2.5からyサイズ−2.5までの値であり、またxサイズはピクセル行の方向に沿った取込画像の寸法であり、またyサイズはピクセル列の方向に沿った取込画像の寸法である、請求項141に記載のシステム。
- 前記補間器は、関係
にもとづいて各々の再標本化オン−グリッド輝度値を導き出すために、前記第2のピクセル発生器から受信されたピクセル位置に対して応答性を示す、請求項142に記載のシステム。 - 前記第2のピクセル位置発生器によって与えられた前記ピクセル位置は、複数の規則正しく離間されたピクセル行と複数の規則正しく離間されたピクセル列との交差点に位置しており、前記ピクセル行がピクセル列に対して直交し、複数の規則正しく離間された中間行と前記ピクセル列との各々の交差点、及び複数の規則正しく離間された中間列及び前記ピクセル行の各々の交差点に位置しており、前記中間行の各々は前記ピックセル行に対して平行であると共に前記ピクセル行の各々の隣接対の間の中央に延在し、各中間列は前記ピクセル列に対して平行であると共に前記ピクセル列の各々の隣接対の間の中央に延在し、前記第2のピクセル位置発生器によって生成される前記ピクセル位置は、xが2.5からxサイズ−2.5までの値であり、かつyが2.5からyサイズ−2.5までの値であり、xサイズがピクセル行の方向に沿った取込画像の寸法であり、またyサイズはピクセル列の方向に沿った取込画像の寸法である.座標(x,y)を有する、請求項123に記載のシステム。
- 前記補間器は、関係
にもとづいて各々の再標本化オン−グリッド輝度値を導き出すために、前記第2のピクセル発生器から受信されたピクセル位置に対して応答性を示す、請求項144に記載のシステム。 - 前記4x4立方補間カーネルΦは、
- 前記補間カーネルは2次元ガウシアン・カーネルである、請求項141に記載のシステム。
- 前記2次元ガウシアン・カーネルは、
- 前記補間カーネルは2立方Bスプライン補間フィルタ・カーネルである、請求項141に記載のシステム。
- 前記2立方Bスプライン補間フィルタ・カーネルは、
- 前記補間カーネルは2線形補間フィルタ・カーネルである、請求項141に記載のシステム。
- 前記2線形補間フィルタ・カーネルは、
- 前記オフ−グリッド位置発生器によって与えられた前記オフ−グリッド位置は、各々が前記線形ピクセル位置アレイにおけるピクセル位置の各々の隣接対の間の中間点に位置しており、前記第2のピクセル位置発生器によって与えられた前記ピクセル位置は、xが3.5からxサイズ−3.5まで、またxサイズが前記取込ライン画像の寸法である座標xを有する、請求項137に記載のシステム。
- 前記補間器は、関係
にもとづいて各々の再標本化オン−グリッド輝度値を導き出すために、前記第2のピクセル発生器から受信されたピクセル位置に対して応答性を示す、請求項153に記載のシステム。 - 前記4x1立方補間カーネルΨは、
- 1つのシーンから画像を取り込むために、前記シーンからの入射光に対する露出に適した相対的に低いダイナミックレンジの画像センサを用いて前記シーンの相対的に高ダイナミックレンジ画像を得るためのシステムであって、
(a) アレイ状となった多数の光検知素子を有し、該光センサの各々が前記光検知素子からなるアレイに対する所定感度パターンに基づいて入射光に対する複数の感度レベルのうちの特定の一つを有すると共に応答関数を有し、前記光検知素子の各々は前記シーンからの入射光に応じてピクセル位置アレイにおける多数のピクセル位置のうちの対応する一つで取込画像輝度値を生成し、それによって多数のピクセル位置の各々が前記光検知素子の前記複数の感度レベルのうちの特定の一つに対応する、画像センサと、
(b) 前記ピクセル位置アレイのピクセル位置で前記光検知素子によって生成された各々の取込画像輝度値を記憶するための取込画像メモリと、
(c) 前記ピクセル位置アレイの前記ピクセル位置を与えるためのピクセル位置発生器と、
(d) 前記ピクセル位置発生器からの前記ピクセル位置が受信され、前記ピクセル位置発生器から受信されたピクセル位置に対する応答性を示し、前記取込画像メモリにある前記取込画像輝度値から、前記受信されたピクセル位置における各々の出力画像輝度値を導き出し、前記出力画像輝度値が対応する複数の取込画像輝度値から導き出されるオン−グリッド輝度値発生器と、
(e) 前記オン−グリッド輝度値発生器によって導き出された前記ピクセル位置発生器から受信された各ピクセル位置における前記各々の出力画像輝度値を記憶するための出力画像メモリと、
を備える、システム。 - 前記画像センサの光検知素子からなる前記アレイは2次元アレイであり、また前記ピクセル位置アレイは線形ピクセル位置行において規則正しく離間されたピクセル位置を有する線形アレイである、請求項156に記載のシステム。
- 前記画像センサの光検知素子からなる前記アレイは2次元アレイであり、また前記ピクセル位置アレイは複数の規則正しく離間されたピクセル行と複数の規則正しく離間されたピクセル列との交差点に位置したピクセル位置を有する2次元アレイであり、前記ピクセル行がピクセル列に対して直交し、前記ピクセル位置発生器によって得られた前記ピクセル位置は、xが2.5からxサイズ−2.5までの値を有し、yが2.5からyサイズ−2.5までの値を有し、xサイズ及びyサイズはそれぞれピクセル行及びピクセル列の方向に沿った取込画像の寸法である座標(x,y)を有する、請求項156に記載のシステム。
- 前記オン−グリッド輝度値発生器は、関係
にもとづいて、前記取込画像メモリにある前記取込画像輝度値から、前記受信されたピクセル位置における各々の出力画像輝度値を導き出すために、前記ピクセル位置発生器から受信されたピクセル位置(x,y)に対して応答性を示す、請求項158に記載のシステム。 - 1つのシーンから画像を取り込むために、前記シーンからの入射光に対する露出に適した相対的に低いダイナミックレンジの画像センサを用いて前記シーンの相対的に高ダイナミックレンジ画像を得るためのシステムであって、
(a) アレイ状となった多数の光検知素子を有し、該光センサの各々が前記光検知素子からなるアレイに対する所定感度パターンに基づいて入射光に対する複数の感度レベルのうちの特定の一つを有すると共に応答関数を有し、前記光検知素子の各々は前記シーンからの入射光に応じてピクセル位置アレイにおける多数のピクセル位置のうちの対応する一つで取込画像輝度値を生成し、それによって多数のピクセル位置の各々が前記光検知素子の前記複数の感度レベルのうちの特定の一つに対応する、画像センサと、
(b) 前記ピクセル位置アレイのピクセル位置で前記光検知素子によって生成された取込画像輝度値を記憶するための取込画像メモリと、
(c) 前記ピクセル位置アレイの前記ピクセル位置を与えるためのピクセル位置発生器と、
(d) 前記ピクセル位置発生器からの前記ピクセル位置が受信され、前記ピクセル位置発生器から受信されたピクセル位置に対する応答性を示し、前記取込画像メモリにある前記取込画像輝度値から、前記受信されたピクセル位置における各々のオン−グリッド輝度値を導き出し、前記オン−グリッド輝度値が対応する複数の取込画像輝度値から導き出されるオン−グリッド輝度値発生器と、
(e) 前記ピクセル位置発生器から受信された各ピクセル位置における各々の出力画像輝度値を与えるために、前記光検知素子の結合応答関数の逆数によって前記オン−グリッド輝度値発生器によって導き出された各ピクセル位置における前記各々のオン−グリッド輝度値を補償するためのもので、前記結合応答関数はそれぞれが前記複数の感度レベルの異なるものを有する光検知素子の重み付け応答関数の合計であり、前記重み付け応答関数の各々は前記複数の感度レベルの各々に対する所定の重み付け係数によって乗算された前記複数の感度レベルの各々を有する光検知素子の応答関数である、応答関数補償器と、
(f) 前記応答関数補償器によって与えられた各受信されたピクセル位置で前記各々の出力画像輝度値を記憶するための出力画像メモリと、
を備える、システム。 - 前記応答関数補償器は、 前記光検知素子の前記結合応答関数の前記逆数を表すデータを記憶するルックアップ・テーブル・メモリと、 前記ピクセル位置発生器から受信された前記ピクセル位置にある前記出力画像輝度値であるデータ値を前記各々の指数に対応する前記ルックアップ・テーブル・メモリに与えるために、前記オン−グリッド輝度値発生器からオン−グリッド輝度値を受信し、前記ルックアップ・テーブルに対する各々の指数を導き出し、前記ピクセル位置発生器から受信されたピクセル位置にあるオン−グリッド輝度値に対して応答性を示すマッパーと、
を備える、請求項160に記載のシステム。 - 前記画像センサの光検知素子からなる前記アレイは、2次元画像を取り込むための2次元アレイであり、また前記ピクセル位置アレイは複数の規則正しく離間されたピクセル行と複数の規則正しく離間されたピクセル列との交差点にあるピクセル位置を有し、前記ピクセル行がピクセル列に対して直交し、前記ピクセル位置発生器によって与えられた前記ピクセル位置は、xが2.5からxサイズ−2.5までの値を有し、yが2.5からyサイズ−2.5までの値を有し、xサイズ及びyサイズはそれぞれピクセル行及びピクセル列の方向に沿った取込画像の寸法である座標(x,y)を有する、請求項160に記載のシステム。
- 前記オン−グリッド輝度値発生器は、関係
にもとづいて、前記取込画像メモリにある前記取込画像輝度値から、前記受信されたピクセル位置における各々の出力画像輝度値を導き出すために、前記ピクセル位置発生器から受信されたピクセル位置に対して応答性を示す、請求項162に記載のシステム。 - 前記オン−グリッド補間フィルタ・カーネルΦは、
- 前記画像センサの光検知素子からなる前記アレイは、ライン画像を取り込むための線形アレイであり、また前記ピクセル位置アレイは1つの線形ピクセル行で規則正しく離間したピクセル位置を有する線形アレイである、請求項158に記載のシステム。
- 1つのシーンから画像を取り込むために、前記シーンからの入射光に対する露出に適した相対的に低いダイナミックレンジの画像センサを用いて前記シーンの相対的に高ダイナミックレンジ画像を得るためのシステムであって、
(a) アレイ状となった多数の光検知素子を有し、該光センサの各々が前記光検知素子からなるアレイに対する所定感度パターンに基づいて入射光に対する複数の感度レベルのうちの特定の一つを有すると共に各々の応答関数を有し、前記光検知素子の各々は前記シーンからの入射光に応じてピクセル位置アレイにおける多数のピクセル位置のうちの対応する一つで取込画像輝度値を生成し、それによって多数のピクセル位置の各々が前記光検知素子の前記複数の感度レベルのうちの特定の一つに対応する、画像センサと、
(b) 前記ピクセル位置アレイのピクセル位置で前記光検知素子によって生成された取込画像輝度値を記憶するための取込画像メモリと、
(c) 前記ピクセル位置アレイの前記ピクセル位置を与えるための第1のピクセル位置発生器と、
(d) 前記ピクセル位置アレイの前記第1のピクセル位置の各々に対応する前記感度レベルを示すデータを記憶するための感度パターン・メモリと、
(e) 前記第1のピクセル位置発生器からピクセル位置を受信し、データは前記感度パターン・メモリからの前記受信されたピクセル位置に対応する前記感度レベルと前記取込画像メモリからの前記受信されたピクセル位置における取込画像輝度値とを示し、前記取込画像メモリから前記受信されたピクセル位置での前記取込画像輝度値を検索するために、また前記受信されたピクセル位置に対応する前記感度レベルを有する光検知素子の前記応答関数の逆数によって、前記受信されたピクセル位置における前記検索された取込画像輝度値を補償するために、前記第1のピクセル位置発生器から受信されたピクセル位置と、前記受信されたピクセル位置に対応する前記感度レベルを示すデータとに対して応答性を示すことで、前記第1のピクセル位置発生器から受信された前記ピクセル位置での各々の補償輝度値を与える応答関数補償器と、
(f) 前記第1のピクセル位置発生器から受信された前記ピクセル位置での各々の補償された取込画像値を記憶するための補償オン−グリッド輝度値メモリと、
(g) 前記ピクセル位置アレイにおける前記ピクセル位置を与えるための第2のピクセル位置発生器と、
(h) 前記第2のピクセル位置発生器からピクセル位置を受信し、前記取込画像メモリにある前記取込画像輝度値から各受信されたピクセル位置における各々の出力画像輝度値を導き出すために、前記第2のピクセル位置発生器から受信された各ピクセル位置に応答性を示すオン−グリッド輝度値発生器と、
(i) 前記第2のピクセル位置発生器から受信された各ピクセル位置での前記各々の出力画像輝度値を記憶するための出力画像メモリと、
を備える、システム。 - 前記応答補償器は、前記複数の感度レベルの異なるものを有する光検知素子の各々の応答関数の逆数を表す別個のルックアップ・テーブル・データを記憶するルックアップ・テーブル・メモリと、
前記ルックアップ・テーブル・メモリに対する各々の指数を導き出し、そこから前記受信されたピクセル位置に対応する前記感度レベルを有する光検知素子の前記応答関数の前記逆数を表すルックアップ・テーブルからの前記各々の指数に対応する補償オン−グリッド輝度値を検索し、前記検索された補償オン−グリッド輝度値を前記補償オン−グリッド輝度値メモリに与えるために、前記取込画像メモリから取込画像輝度値を受信すると共に前記第1のピクセル位置発生器から受信されたピクセル位置にある取込画像輝度値に対して応答性を示すマッパーと、
を備える、請求項166に記載のシステム。 - 前記画像センサの光検知素子の前記アレイは2次元アレイであり、また前記ピクセル位置アレイは複数の規則正しく離間されたピクセル行と複数の規則正しく離間されたピクセル列との交差点にあるピクセル位置を有し、前記ピクセル行がピクセル列に対して直交する、請求項166に記載のシステム。
- 前記画像センサの光検知素子からなる前記アレイは、ライン画像を取り込むための線形アレイであり、前記ピクセル位置アレイは線形ピクセル行の各々規則正しく離間されたピクセル位置を有する線形アレイであり、前記ピクセル位置発生器によって与えられた前記ピクセル位置は、xが2.5からxサイズ−2.5までの値を有し、かつxサイズが前記取込ライン画像の寸法である座標xを有する、請求項166に記載のシステム。
- 前記取込画像メモリにある前記取込画像輝度値から前記受信されたピクセル位置での各々の出力画像輝度値を導き出すために、前記オン−グリッド輝度値発生器は前記第2のピクセル位置発生器から受信されたピクセル位置に対して応答性を示すもので、前記オン−グリッド輝度値発生器は、
(i)5x1ガウシアン補間フィルタ・カーネルGを記憶するためのメモリと、
(ii) x−2からx+2までの値を有するピクセル位置kにある5つの補償オン−グリッド輝度値I(k)の各々と所定の低閾値及び所定の高閾値とを比較するための比較器と、
(iii) I(k)が前記所定の低閾値よりも高く、かつ前記所定の高閾値よりも低いkの各々の値に対して、G(k−x)が位置(k−x)における前記ガウシアン補間カーネルGの値である量I(k)G(k−x)を計算するための乗算器と、
(iv) 第1の合計pを導き出すために、I(k)が前記所定の低閾値よりも高く、かつ前記所定の高閾値よりも低いkの各々の値に対して、乗算器によって計算された前記量I(k)G(k−x)を加算するための第1の加算器と、
(v) 第2の合計qを導き出すために、I(k)が前記所定の低閾値よりも高く、かつ前記所定の高閾値よりも低いkの各々の値に対して、前記メモリにある前記ガウシアン補間カーネルの値G(k−x)を加算するための第2の加算器と、
(vi) 前記合計pを前記合計qで除算することで前記第2のピクセル位置発生器から受信された前記位置xにおける各々の出力画像輝度値I0(x)を導き出すための除算器と、
を備える、請求項169に記載のシステム。 - 前記所定の低閾値は、前記光検知素子の前記応答関数の逆数によって補償された比較されている前記補償されたオン−グリッド輝度値の前記ピクセル位置に対応する感度レベルを有する前記光検出素子のノイズ・レベルであり、前記所定の高閾値は比較されている前記補償されたオン−グリッド輝度値に対応する前記感度レベルを有する光検知素子の飽和又は近飽和輝度値である、請求項170に記載のシステム。
- 前記5x1ガウシアン補間器フィルタ・カーネルは、
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US09/511,469 | 2000-02-23 | ||
US09/511,469 US7084905B1 (en) | 2000-02-23 | 2000-02-23 | Method and apparatus for obtaining high dynamic range images |
PCT/US2000/014516 WO2001063914A1 (en) | 2000-02-23 | 2000-05-26 | Method and apparatus for obtaining high dynamic range images |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2003524347A JP2003524347A (ja) | 2003-08-12 |
JP4570834B2 true JP4570834B2 (ja) | 2010-10-27 |
Family
ID=24035039
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2001562014A Expired - Fee Related JP4570834B2 (ja) | 2000-02-23 | 2000-05-26 | 高ダイナミックレンジ画像を獲得する方法及び装置 |
Country Status (5)
Country | Link |
---|---|
US (3) | US7084905B1 (ja) |
EP (2) | EP1173972B1 (ja) |
JP (1) | JP4570834B2 (ja) |
AT (1) | ATE522084T1 (ja) |
WO (1) | WO2001063914A1 (ja) |
Families Citing this family (116)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6864916B1 (en) | 1999-06-04 | 2005-03-08 | The Trustees Of Columbia University In The City Of New York | Apparatus and method for high dynamic range imaging using spatially varying exposures |
US7084905B1 (en) | 2000-02-23 | 2006-08-01 | The Trustees Of Columbia University In The City Of New York | Method and apparatus for obtaining high dynamic range images |
JP4154157B2 (ja) * | 2002-02-25 | 2008-09-24 | 株式会社東芝 | 撮像装置 |
US6998660B2 (en) | 2002-03-20 | 2006-02-14 | Foveon, Inc. | Vertical color filter sensor group array that emulates a pattern of single-layer sensors with efficient use of each sensor group's sensors |
US20040178463A1 (en) | 2002-03-20 | 2004-09-16 | Foveon, Inc. | Vertical color filter sensor group with carrier-collection elements of different size and method for fabricating such a sensor group |
US6707054B2 (en) | 2002-03-21 | 2004-03-16 | Eastman Kodak Company | Scannerless range imaging system having high dynamic range |
JP2004208212A (ja) * | 2002-12-26 | 2004-07-22 | Canon Inc | 撮像装置 |
US20040141079A1 (en) * | 2003-01-10 | 2004-07-22 | Matsushita Electric Industrial Co., Ltd. | Solid-state imaging device and camera using the same |
US7339216B1 (en) | 2003-01-31 | 2008-03-04 | Foveon, Inc. | Vertical color filter sensor group array with full-resolution top layer and lower-resolution lower layer |
US7142723B2 (en) | 2003-07-18 | 2006-11-28 | Microsoft Corporation | System and process for generating high dynamic range images from multiple exposures of a moving scene |
JP4322166B2 (ja) * | 2003-09-19 | 2009-08-26 | 富士フイルム株式会社 | 固体撮像素子 |
TWI220363B (en) * | 2003-10-06 | 2004-08-11 | Sunplus Technology Co Ltd | Directional interpolation method and device for increasing resolution of an image |
US6870168B1 (en) * | 2003-11-12 | 2005-03-22 | Eastman Kodak Company | Varying feature size in resist across the chip without the artifact of “grid-snapping” from the mask writing tool |
US20050140804A1 (en) * | 2003-12-29 | 2005-06-30 | Eastman Kodak Company | Extended dynamic range image sensor capture using an array of fast and slow pixels |
JP4717371B2 (ja) * | 2004-05-13 | 2011-07-06 | オリンパス株式会社 | 画像処理装置および画像処理プログラム |
US7283213B2 (en) * | 2005-02-08 | 2007-10-16 | Canesta, Inc. | Method and system to correct motion blur and reduce signal transients in time-of-flight sensor systems |
US7612804B1 (en) * | 2005-02-15 | 2009-11-03 | Apple Inc. | Methods and apparatuses for image processing |
US20060268360A1 (en) * | 2005-05-12 | 2006-11-30 | Jones Peter W J | Methods of creating a virtual window |
US7646433B2 (en) * | 2005-05-31 | 2010-01-12 | D-Link Systems, Inc. | User selectable image scaling |
US20070127909A1 (en) * | 2005-08-25 | 2007-06-07 | Craig Mowry | System and apparatus for increasing quality and efficiency of film capture and methods of use thereof |
US7450220B2 (en) * | 2006-02-08 | 2008-11-11 | Canesta, Inc | Method and system to correct motion blur and reduce signal transients in time-of-flight sensor systems |
US7834925B2 (en) * | 2006-06-05 | 2010-11-16 | Core Logic Inc. | Lens shading correction device and method in image sensor |
US8446509B2 (en) * | 2006-08-09 | 2013-05-21 | Tenebraex Corporation | Methods of creating a virtual window |
TW200820123A (en) * | 2006-10-20 | 2008-05-01 | Primax Electronics Ltd | Method and system of generating high dynamic range image corresponding to specific scene |
US8242426B2 (en) | 2006-12-12 | 2012-08-14 | Dolby Laboratories Licensing Corporation | Electronic camera having multiple sensors for capturing high dynamic range images and related methods |
US7825969B2 (en) | 2006-12-15 | 2010-11-02 | Nokia Corporation | Image stabilization using multi-exposure pattern |
US9633426B2 (en) * | 2014-05-30 | 2017-04-25 | General Electric Company | Remote visual inspection image capture system and method |
US8832290B2 (en) | 2007-02-23 | 2014-09-09 | Microsoft Corporation | Smart pre-fetching for peer assisted on-demand media |
JP4984981B2 (ja) * | 2007-03-08 | 2012-07-25 | ソニー株式会社 | 撮像方法および撮像装置並びに駆動装置 |
US7889949B2 (en) * | 2007-04-30 | 2011-02-15 | Microsoft Corporation | Joint bilateral upsampling |
US7961983B2 (en) * | 2007-07-18 | 2011-06-14 | Microsoft Corporation | Generating gigapixel images |
DE102007033897B4 (de) * | 2007-07-20 | 2010-02-11 | Siemens Ag | Verfahren zur Korrektur von Verzeichnungen in mittels eines Magnetresonanzgeräts aufgenommenen Bilddatensätzen sowie Computerprogramm zur Durchführung dieses Verfahrens |
DE102007033880B4 (de) * | 2007-07-20 | 2010-06-24 | Siemens Ag | Verfahren zur Korrektur von Verzeichnungen in mittels eines Magnetresonanzgeräts aufgenommenen Bilddatensätzen sowie Computerprogramm, Bildverarbeitungseinheit und Magnetresonanzgerät zur Durchführung des Verfahrens |
US20090033755A1 (en) * | 2007-08-03 | 2009-02-05 | Tandent Vision Science, Inc. | Image acquisition and processing engine for computer vision |
US8559756B2 (en) * | 2007-08-06 | 2013-10-15 | Adobe Systems Incorporated | Radiance processing by demultiplexing in the frequency domain |
US8102435B2 (en) | 2007-09-18 | 2012-01-24 | Stmicroelectronics S.R.L. | Method for acquiring a digital image with a large dynamic range with a sensor of lesser dynamic range |
US20090102939A1 (en) * | 2007-10-18 | 2009-04-23 | Narendra Ahuja | Apparatus and method for simultaneously acquiring multiple images with a given camera |
US8791984B2 (en) * | 2007-11-16 | 2014-07-29 | Scallop Imaging, Llc | Digital security camera |
WO2009064504A1 (en) * | 2007-11-16 | 2009-05-22 | Tenebraex Corporation | Systems and methods of creating a virtual window |
US20090290033A1 (en) * | 2007-11-16 | 2009-11-26 | Tenebraex Corporation | Systems and methods of creating a virtual window |
US7961398B2 (en) * | 2008-03-05 | 2011-06-14 | Contrast Optical Design & Engineering, Inc. | Multiple image camera and lens system |
JP5631299B2 (ja) * | 2008-03-28 | 2014-11-26 | コントラスト オプティカル デザイン アンド エンジニアリング,インク. | 全ビーム画像スプリッタシステム |
US8149300B2 (en) | 2008-04-28 | 2012-04-03 | Microsoft Corporation | Radiometric calibration from noise distributions |
US8244058B1 (en) | 2008-05-30 | 2012-08-14 | Adobe Systems Incorporated | Method and apparatus for managing artifacts in frequency domain processing of light-field images |
US8111290B2 (en) * | 2008-06-06 | 2012-02-07 | Microsoft Corporation | Radiometric calibration using temporal irradiance mixtures |
US8123058B2 (en) * | 2008-09-11 | 2012-02-28 | Rexam Healthcare Packaging Inc. | Closure with stopping mechanism |
AT507543B1 (de) * | 2008-10-28 | 2010-11-15 | Arc Austrian Res Centers Gmbh | Verfahren und vorrichtung zur aufnahme von bildern |
US8417046B1 (en) | 2008-11-10 | 2013-04-09 | Marvell International Ltd. | Shadow and highlight image enhancement |
US8634673B1 (en) * | 2008-11-10 | 2014-01-21 | Marvell International Ltd. | Method and apparatus for automatically tuning a parameter of an image enhancement algorithm based on an attribute of an original image |
US8406569B2 (en) * | 2009-01-19 | 2013-03-26 | Sharp Laboratories Of America, Inc. | Methods and systems for enhanced dynamic range images and video from multiple exposures |
US8189089B1 (en) | 2009-01-20 | 2012-05-29 | Adobe Systems Incorporated | Methods and apparatus for reducing plenoptic camera artifacts |
EP2404209A4 (en) * | 2009-03-04 | 2012-10-17 | Paul A Wagner | TEMPORAL ALIGNMENT EXPOSURE SHIFTING FOR HIGH DYNAMIC RANGE IMAGING |
US8339506B2 (en) * | 2009-04-24 | 2012-12-25 | Qualcomm Incorporated | Image capture parameter adjustment using face brightness information |
US8228417B1 (en) | 2009-07-15 | 2012-07-24 | Adobe Systems Incorporated | Focused plenoptic camera employing different apertures or filtering at different microlenses |
JP2013504940A (ja) * | 2009-09-10 | 2013-02-07 | コントラスト オプティカル デザイン アンド エンジニアリング,インク. | 全ビーム画像スプリッタシステム |
US20110069148A1 (en) * | 2009-09-22 | 2011-03-24 | Tenebraex Corporation | Systems and methods for correcting images in a multi-sensor system |
US9100514B2 (en) | 2009-10-28 | 2015-08-04 | The Trustees Of Columbia University In The City Of New York | Methods and systems for coded rolling shutter |
US8606009B2 (en) | 2010-02-04 | 2013-12-10 | Microsoft Corporation | High dynamic range image generation and rendering |
US8896715B2 (en) | 2010-02-11 | 2014-11-25 | Microsoft Corporation | Generic platform video image stabilization |
US8860833B2 (en) | 2010-03-03 | 2014-10-14 | Adobe Systems Incorporated | Blended rendering of focused plenoptic camera data |
JP5025746B2 (ja) * | 2010-03-19 | 2012-09-12 | 株式会社東芝 | 固体撮像装置 |
US8509527B1 (en) | 2010-06-23 | 2013-08-13 | Marvell International Ltd. | Intensity based pixel quantization |
US9049426B2 (en) * | 2010-07-07 | 2015-06-02 | At&T Intellectual Property I, Lp | Apparatus and method for distributing three dimensional media content |
US8958636B1 (en) | 2010-07-28 | 2015-02-17 | Marvell International Ltd. | Configurable color trapping |
US8665341B2 (en) | 2010-08-27 | 2014-03-04 | Adobe Systems Incorporated | Methods and apparatus for rendering output images with simulated artistic effects from focused plenoptic camera data |
US8749694B2 (en) * | 2010-08-27 | 2014-06-10 | Adobe Systems Incorporated | Methods and apparatus for rendering focused plenoptic camera data using super-resolved demosaicing |
US8724000B2 (en) | 2010-08-27 | 2014-05-13 | Adobe Systems Incorporated | Methods and apparatus for super-resolution in integral photography |
US8803918B2 (en) | 2010-08-27 | 2014-08-12 | Adobe Systems Incorporated | Methods and apparatus for calibrating focused plenoptic camera data |
US8605862B2 (en) | 2010-09-27 | 2013-12-10 | General Electric Company | Digital X-ray detector with increased dynamic range |
US8711248B2 (en) | 2011-02-25 | 2014-04-29 | Microsoft Corporation | Global alignment for high-dynamic range image generation |
US9030550B2 (en) | 2011-03-25 | 2015-05-12 | Adobe Systems Incorporated | Thin plenoptic cameras using solid immersion lenses |
US9077910B2 (en) | 2011-04-06 | 2015-07-07 | Dolby Laboratories Licensing Corporation | Multi-field CCD capture for HDR imaging |
US9191556B2 (en) | 2011-05-19 | 2015-11-17 | Foveon, Inc. | Imaging array having photodiodes with different light sensitivities and associated image restoration methods |
US9824426B2 (en) | 2011-08-01 | 2017-11-21 | Microsoft Technology Licensing, Llc | Reduced latency video stabilization |
US8913153B2 (en) | 2011-10-06 | 2014-12-16 | Aptina Imaging Corporation | Imaging systems and methods for generating motion-compensated high-dynamic-range images |
US9172889B2 (en) | 2012-02-09 | 2015-10-27 | Semiconductor Components Industries, Llc | Imaging systems and methods for generating auto-exposed high-dynamic-range images |
US9007488B2 (en) | 2012-03-08 | 2015-04-14 | Semiconductor Components Industries, Llc | Systems and methods for generating interpolated high-dynamic-range images |
US9489706B2 (en) | 2012-07-02 | 2016-11-08 | Qualcomm Technologies, Inc. | Device and algorithm for capturing high dynamic range (HDR) video |
US9531961B2 (en) | 2015-05-01 | 2016-12-27 | Duelight Llc | Systems and methods for generating a digital image using separate color and intensity data |
US9918017B2 (en) | 2012-09-04 | 2018-03-13 | Duelight Llc | Image sensor apparatus and method for obtaining multiple exposures with zero interframe time |
US9338372B2 (en) | 2012-09-19 | 2016-05-10 | Semiconductor Components Industries, Llc | Column-based high dynamic range imaging systems |
DE102013017365B4 (de) | 2012-10-19 | 2023-01-26 | Cognex Corporation | System und verfahren zum bestimmen und einstellen von kameraparametern mittels multi-gainbildern |
US9807322B2 (en) | 2013-03-15 | 2017-10-31 | Duelight Llc | Systems and methods for a digital image sensor |
US9819849B1 (en) | 2016-07-01 | 2017-11-14 | Duelight Llc | Systems and methods for capturing digital images |
US10558848B2 (en) | 2017-10-05 | 2020-02-11 | Duelight Llc | System, method, and computer program for capturing an image with correct skin tone exposure |
KR102179262B1 (ko) * | 2014-06-11 | 2020-11-16 | 삼성전자주식회사 | 렌즈 왜곡 보정 장치 및 이를 포함하는 애플리케이션 프로세서 |
US9930324B2 (en) | 2014-08-05 | 2018-03-27 | Seek Thermal, Inc. | Time based offset correction for imaging systems |
WO2016022374A1 (en) | 2014-08-05 | 2016-02-11 | Seek Thermal, Inc. | Local contrast adjustment for digital images |
WO2016073054A2 (en) | 2014-08-20 | 2016-05-12 | Seek Thermal, Inc. | Gain calibration for an imaging system |
US10924688B2 (en) | 2014-11-06 | 2021-02-16 | Duelight Llc | Image sensor apparatus and method for obtaining low-noise, high-speed captures of a photographic scene |
US11463630B2 (en) | 2014-11-07 | 2022-10-04 | Duelight Llc | Systems and methods for generating a high-dynamic range (HDR) pixel stream |
US10600164B2 (en) | 2014-12-02 | 2020-03-24 | Seek Thermal, Inc. | Image adjustment based on locally flat scenes |
US10467736B2 (en) | 2014-12-02 | 2019-11-05 | Seek Thermal, Inc. | Image adjustment based on locally flat scenes |
WO2016089823A1 (en) * | 2014-12-02 | 2016-06-09 | Seek Thermal, Inc. | Image adjustment based on locally flat scenes |
EP3029931A1 (en) | 2014-12-04 | 2016-06-08 | Thomson Licensing | Image sensor unit and imaging apparatus |
US10275863B2 (en) * | 2015-04-03 | 2019-04-30 | Cognex Corporation | Homography rectification |
US9979907B2 (en) | 2015-09-18 | 2018-05-22 | Sony Corporation | Multi-layered high-dynamic range sensor |
KR102120269B1 (ko) | 2015-11-11 | 2020-06-08 | 후아웨이 테크놀러지 컴퍼니 리미티드 | 하이 다이내믹 레인지 비디오/이미징을 위한 노출 시간들의 세트를 축소시키기 위한 디바이스 및 방법 |
KR101978913B1 (ko) * | 2015-11-16 | 2019-05-16 | 한국전자통신연구원 | 다채널 광 수신기 및 그의 제조 방법 |
US10257394B2 (en) | 2016-02-12 | 2019-04-09 | Contrast, Inc. | Combined HDR/LDR video streaming |
JP6997461B2 (ja) * | 2016-02-12 | 2022-01-17 | コントラスト, インコーポレイテッド | 高ダイナミックレンジビデオのためのデバイスおよび方法 |
US10264196B2 (en) | 2016-02-12 | 2019-04-16 | Contrast, Inc. | Systems and methods for HDR video capture with a mobile device |
US10867371B2 (en) | 2016-06-28 | 2020-12-15 | Seek Thermal, Inc. | Fixed pattern noise mitigation for a thermal imaging system |
US10554901B2 (en) | 2016-08-09 | 2020-02-04 | Contrast Inc. | Real-time HDR video for vehicle control |
CN109792478B (zh) | 2016-09-01 | 2021-11-12 | 迪尤莱特公司 | 基于焦点目标信息调整焦点的装置和方法 |
US10277842B1 (en) | 2016-11-29 | 2019-04-30 | X Development Llc | Dynamic range for depth sensing |
CN109792495B (zh) | 2017-02-28 | 2022-04-01 | 松下知识产权经营株式会社 | 摄像系统及摄像方法 |
US11265530B2 (en) | 2017-07-10 | 2022-03-01 | Contrast, Inc. | Stereoscopic camera |
JP7349806B2 (ja) * | 2018-03-28 | 2023-09-25 | ブラックマジック デザイン ピーティーワイ リミテッド | 画像処理方法及びフィルタアレイ |
US20190306447A1 (en) * | 2018-03-29 | 2019-10-03 | Analog Devices Global Unlimited Company | Lookup table |
US10951888B2 (en) | 2018-06-04 | 2021-03-16 | Contrast, Inc. | Compressed high dynamic range video |
CN111064897B (zh) * | 2018-10-17 | 2021-02-19 | 北京图森智途科技有限公司 | 一种曝光评估值的统计方法及成像设备 |
KR102648747B1 (ko) | 2019-01-18 | 2024-03-20 | 삼성전자주식회사 | Hdr 이미지를 생성하기 위한 이미징 시스템 및 그것의 동작 방법 |
US11276152B2 (en) | 2019-05-28 | 2022-03-15 | Seek Thermal, Inc. | Adaptive gain adjustment for histogram equalization in an imaging system |
KR20210002966A (ko) * | 2019-07-01 | 2021-01-11 | 삼성전자주식회사 | 이미지 센서 및 그것의 구동 방법 |
WO2021051354A1 (zh) * | 2019-09-19 | 2021-03-25 | 深圳市大疆创新科技有限公司 | Hdr图像生成方法、滤光片阵列、图像传感器、图像处理芯片以及摄像装置 |
Family Cites Families (84)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4479062A (en) * | 1981-02-06 | 1984-10-23 | Asahi Kogaku Kogyo Kabushiki Kaisha | Photo-electric conversion device with accumulation time control |
JPS59217358A (ja) | 1983-05-25 | 1984-12-07 | Fuji Photo Film Co Ltd | 電荷結合撮像デバイス |
US4590367A (en) | 1983-10-06 | 1986-05-20 | Robotic Vision Systems, Inc. | Arrangement for the expansion of the dynamic range of optical devices |
JPS6081979A (ja) | 1983-10-12 | 1985-05-10 | Omron Tateisi Electronics Co | 撮像装置 |
US4623928A (en) | 1984-11-23 | 1986-11-18 | Xerox Corporation | High dynamic range CCD detector/imager |
FR2615966B1 (fr) | 1987-06-01 | 1992-02-14 | Framatome Sa | Dispositif de surveillance televisuelle d'une operation de soudage a l'arc |
US5638118A (en) | 1987-06-09 | 1997-06-10 | Canon Kabushiki Kaisha | Image sensing device with diverse storage times used in picture composition |
EP0356432A4 (en) * | 1988-02-22 | 1990-12-12 | Brandeau, Edward P. | Digital image noise suppression method using svd block transform |
US4873561A (en) | 1988-04-19 | 1989-10-10 | Wen David D | High dynamic range charge-coupled device |
US4918534A (en) | 1988-04-22 | 1990-04-17 | The University Of Chicago | Optical image processing method and system to perform unsharp masking on images detected by an I.I./TV system |
JP2735223B2 (ja) * | 1988-06-08 | 1998-04-02 | 日本放送協会 | 固体撮像装置 |
EP0431010A4 (en) | 1988-08-02 | 1992-12-09 | Sorex Corporation | Wide dynamic range image sensor |
US5028998A (en) * | 1989-02-06 | 1991-07-02 | Honeywell Regelsysteme Gmbh | Electronic zoom for wide-angle line scanners |
US5193016A (en) | 1989-03-28 | 1993-03-09 | Scanera S.G. | Non-linear device for amplifying the intensities of light rays that produce an image |
EP0404396B1 (en) | 1989-06-19 | 1994-10-05 | International Business Machines Corporation | Image capture system and method |
JPH0350967A (ja) * | 1989-07-19 | 1991-03-05 | Matsushita Electric Ind Co Ltd | 撮像装置 |
JPH0374967A (ja) | 1989-08-17 | 1991-03-29 | Toshiba Corp | 画像補正回路 |
US5138458A (en) | 1989-12-22 | 1992-08-11 | Olympus Optical Co., Ltd. | Electronic camera apparatus capable of providing wide dynamic range image signal |
EP0515565A1 (fr) * | 1990-02-16 | 1992-12-02 | Scanera S.C. | Dispositif d'augmentation de dynamique d'une camera |
US5030985A (en) | 1990-08-17 | 1991-07-09 | Eastman Kodak Company | Exposure balance arrangement for an image fixing device |
JP2864408B2 (ja) * | 1990-10-29 | 1999-03-03 | 株式会社ニコン | 画素信号補正装置 |
JPH04256364A (ja) * | 1991-02-08 | 1992-09-11 | Sharp Corp | 固体撮像装置の信号読み出し方法 |
GB2255465B (en) | 1991-04-30 | 1995-02-01 | Sony Broadcast & Communication | Image capture apparatus |
DE69228629T2 (de) * | 1991-06-20 | 1999-09-09 | Canon Kk | Anordnung von mehreren Bildsensoren in einer Videokamera |
US5185671A (en) | 1991-06-21 | 1993-02-09 | Westinghouse Electric Corp. | Adaptive control of an electronic imaging camera |
US5289286A (en) * | 1991-07-18 | 1994-02-22 | Minolta Camera Kabushiki Kaisha | Solid state sensor having logarithmic photovoltaic response, with pixel uniformity correction and white balance circuitry therefor |
US5420635A (en) | 1991-08-30 | 1995-05-30 | Fuji Photo Film Co., Ltd. | Video camera, imaging method using video camera, method of operating video camera, image processing apparatus and method, and solid-state electronic imaging device |
IL100620A (en) | 1992-01-09 | 1994-11-11 | Orly Yadid Pecht | Method and apparatus for increasing the dynamic range of optical sensors |
US5309243A (en) | 1992-06-10 | 1994-05-03 | Eastman Kodak Company | Method and apparatus for extending the dynamic range of an electronic imaging system |
JPH0670225A (ja) | 1992-08-21 | 1994-03-11 | Sony Corp | 電子スチルカメラ装置 |
JP3074967B2 (ja) | 1992-10-27 | 2000-08-07 | 松下電器産業株式会社 | 高ダイナミックレンジ撮像・合成方法及び高ダイナミックレンジ撮像装置 |
JPH06153089A (ja) * | 1992-10-30 | 1994-05-31 | Olympus Optical Co Ltd | 固体撮像装置 |
FR2687265A1 (fr) * | 1993-01-08 | 1993-08-13 | Scanera Sc | Dispositif de prise de vue electronique a haute dynamique et procede de prise de vue de scenes tres contrastees. |
WO1994018801A1 (en) * | 1993-02-08 | 1994-08-18 | I Sight, Inc. | Color wide dynamic range camera using a charge coupled device with mosaic filter |
DE4305807A1 (de) | 1993-02-25 | 1994-10-13 | Thomson Brandt Gmbh | Kamera mit einer steuerbaren Blende |
JPH06315068A (ja) * | 1993-04-28 | 1994-11-08 | Xerox Corp | 短期および長期の積分周期を有するラスタ入力スキャナ |
US5373322A (en) * | 1993-06-30 | 1994-12-13 | Eastman Kodak Company | Apparatus and method for adaptively interpolating a full color image utilizing chrominance gradients |
JPH0777700A (ja) | 1993-06-30 | 1995-03-20 | Dainippon Printing Co Ltd | ダイナミックレンジ拡大機能を有する情報記録再生方法及び装置 |
JPH0725495A (ja) | 1993-07-13 | 1995-01-27 | Canon Inc | 給紙装置 |
US5801773A (en) | 1993-10-29 | 1998-09-01 | Canon Kabushiki Kaisha | Image data processing apparatus for processing combined image signals in order to extend dynamic range |
JPH07115643A (ja) | 1993-10-19 | 1995-05-02 | Toyota Motor Corp | 車載用撮像装置 |
JP3271108B2 (ja) * | 1993-12-03 | 2002-04-02 | ソニー株式会社 | ディジタル画像信号の処理装置および方法 |
GB2289983B (en) * | 1994-06-01 | 1996-10-16 | Simage Oy | Imaging devices,systems and methods |
DE4420637A1 (de) | 1994-06-14 | 1995-12-21 | Bertram Dr Rapp | Optische Abbildungsvorrichtung |
JP3370438B2 (ja) * | 1994-06-20 | 2003-01-27 | ペンタックス株式会社 | スチルビデオカメラの露出制御装置 |
JPH0822341A (ja) | 1994-07-11 | 1996-01-23 | Yokogawa Electric Corp | 任意周波数発生器 |
US5767987A (en) | 1994-09-26 | 1998-06-16 | Ricoh Corporation | Method and apparatus for combining multiple image scans for enhanced resolution |
JP2970440B2 (ja) | 1994-11-29 | 1999-11-02 | 松下電器産業株式会社 | 画像合成方法と画像合成装置 |
JPH08223491A (ja) | 1995-02-10 | 1996-08-30 | Hitachi Ltd | イメージセンサ |
JPH07254965A (ja) | 1995-02-15 | 1995-10-03 | Olympus Optical Co Ltd | 電子的撮像装置 |
JPH07264488A (ja) | 1995-02-15 | 1995-10-13 | Olympus Optical Co Ltd | 電子的撮像装置 |
JPH07254966A (ja) | 1995-02-15 | 1995-10-03 | Olympus Optical Co Ltd | 電子的撮像装置 |
JPH08331461A (ja) | 1995-06-02 | 1996-12-13 | Sony Corp | 固体撮像装置の駆動方法 |
JP3979682B2 (ja) | 1995-06-13 | 2007-09-19 | オリンパス株式会社 | 電子的撮像装置 |
GB2303988A (en) | 1995-07-31 | 1997-03-05 | Secr Defence | Thermal imaging system with detector array calibration mode |
US5703677A (en) | 1995-11-14 | 1997-12-30 | The Trustees Of The University Of Pennsylvania | Single lens range imaging method and apparatus |
JPH09162381A (ja) * | 1995-12-05 | 1997-06-20 | Sony Corp | リニアセンサ |
US6124974A (en) | 1996-01-26 | 2000-09-26 | Proxemics | Lenslet array systems and methods |
JPH09219824A (ja) * | 1996-02-09 | 1997-08-19 | Sony Corp | 固体撮像装置 |
US5668596A (en) * | 1996-02-29 | 1997-09-16 | Eastman Kodak Company | Digital imaging device optimized for color performance |
US6122408A (en) | 1996-04-30 | 2000-09-19 | Siemens Corporate Research, Inc. | Light normalization method for machine vision |
US5828793A (en) | 1996-05-06 | 1998-10-27 | Massachusetts Institute Of Technology | Method and apparatus for producing digital images having extended dynamic ranges |
DE19618476C2 (de) | 1996-05-08 | 1999-11-18 | Agfa Gevaert Ag | Verfahren zum Kopieren von transparenten Bildvorlagen und fotografisches Kopiergerät |
US6219097B1 (en) * | 1996-05-08 | 2001-04-17 | Olympus Optical Co., Ltd. | Image pickup with expanded dynamic range where the first exposure is adjustable and second exposure is predetermined |
US5670280A (en) | 1996-05-30 | 1997-09-23 | Brown University Research Foundation | Optically controlled imaging phase mask element |
JP3904635B2 (ja) | 1996-08-29 | 2007-04-11 | 富士フイルム株式会社 | 撮像装置 |
US6137535A (en) * | 1996-11-04 | 2000-10-24 | Eastman Kodak Company | Compact digital camera with segmented fields of view |
JP4536170B2 (ja) * | 1996-12-27 | 2010-09-01 | シャープ株式会社 | 撮像装置 |
US5789737A (en) * | 1997-01-22 | 1998-08-04 | Xerox Corporation | High dynamic range segmented pixel sensor array |
JPH10304235A (ja) * | 1997-04-30 | 1998-11-13 | Ricoh Co Ltd | 撮像装置 |
EP0912047B1 (en) * | 1997-10-23 | 2004-04-07 | Olympus Optical Co., Ltd. | Imaging apparatus comprising means for expanding the dynamic range |
US6501504B1 (en) | 1997-11-12 | 2002-12-31 | Lockheed Martin Corporation | Dynamic range enhancement for imaging sensors |
US20020050518A1 (en) | 1997-12-08 | 2002-05-02 | Roustaei Alexander R. | Sensor array |
US5990950A (en) * | 1998-02-11 | 1999-11-23 | Iterated Systems, Inc. | Method and system for color filter array multifactor interpolation |
JPH11234575A (ja) * | 1998-02-18 | 1999-08-27 | Nec Corp | 固体撮像装置 |
US6366318B1 (en) * | 1998-03-27 | 2002-04-02 | Eastman Kodak Company | CFA correction for CFA images captured at partial resolution |
JP3592147B2 (ja) * | 1998-08-20 | 2004-11-24 | キヤノン株式会社 | 固体撮像装置 |
JP4018820B2 (ja) * | 1998-10-12 | 2007-12-05 | 富士フイルム株式会社 | 固体撮像装置および信号読出し方法 |
US6753909B1 (en) | 1999-04-20 | 2004-06-22 | Sharp Laboratories Of America, Inc. | Camera with spatially adjustable variable density optical filter and method for controlling the same |
US6864916B1 (en) * | 1999-06-04 | 2005-03-08 | The Trustees Of Columbia University In The City Of New York | Apparatus and method for high dynamic range imaging using spatially varying exposures |
JP2001054017A (ja) * | 1999-08-09 | 2001-02-23 | Minolta Co Ltd | 固体撮像装置及び固体撮像装置の信号処理方法 |
US7084905B1 (en) | 2000-02-23 | 2006-08-01 | The Trustees Of Columbia University In The City Of New York | Method and apparatus for obtaining high dynamic range images |
US6995791B2 (en) * | 2002-04-02 | 2006-02-07 | Freescale Semiconductor, Inc. | Automatic white balance for digital imaging |
US6933971B2 (en) * | 2002-05-14 | 2005-08-23 | Kwe International, Inc. | Reconstruction of color components in digital image processing |
-
2000
- 2000-02-23 US US09/511,469 patent/US7084905B1/en not_active Expired - Fee Related
- 2000-05-26 EP EP00937805A patent/EP1173972B1/en not_active Expired - Lifetime
- 2000-05-26 EP EP10011402A patent/EP2290950A3/en not_active Ceased
- 2000-05-26 AT AT00937805T patent/ATE522084T1/de not_active IP Right Cessation
- 2000-05-26 WO PCT/US2000/014516 patent/WO2001063914A1/en active Application Filing
- 2000-05-26 JP JP2001562014A patent/JP4570834B2/ja not_active Expired - Fee Related
-
2004
- 2004-10-05 US US10/959,679 patent/US7999858B2/en not_active Expired - Fee Related
-
2011
- 2011-05-10 US US13/104,606 patent/US8610789B1/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
US8610789B1 (en) | 2013-12-17 |
EP2290950A3 (en) | 2011-03-16 |
EP2290950A2 (en) | 2011-03-02 |
JP2003524347A (ja) | 2003-08-12 |
ATE522084T1 (de) | 2011-09-15 |
WO2001063914A1 (en) | 2001-08-30 |
US7084905B1 (en) | 2006-08-01 |
US7999858B2 (en) | 2011-08-16 |
EP1173972A1 (en) | 2002-01-23 |
US20050099504A1 (en) | 2005-05-12 |
EP1173972B1 (en) | 2011-08-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4570834B2 (ja) | 高ダイナミックレンジ画像を獲得する方法及び装置 | |
Healey et al. | Radiometric CCD camera calibration and noise estimation | |
US10178334B2 (en) | System for and method of configurable diagonal and multi-mission line scan array imaging | |
US10638070B1 (en) | System for and method of configurable line scan array imaging | |
US6646246B1 (en) | Method and system of noise removal for a sparsely sampled extended dynamic range image sensing device | |
US7362894B2 (en) | Image processing apparatus and method, recording medium, and program | |
US8687174B2 (en) | Unit pixel, photo-detection device and method of measuring a distance using the same | |
US7602418B2 (en) | Digital image with reduced object motion blur | |
US6873442B1 (en) | Method and system for generating a low resolution image from a sparsely sampled extended dynamic range image sensing device | |
US7697045B2 (en) | Method and apparatus to extend the effective dynamic range of an image sensing device | |
US6909461B1 (en) | Method and apparatus to extend the effective dynamic range of an image sensing device | |
JPH0364908B2 (ja) | ||
JPH10285472A (ja) | 固体撮像素子 | |
JP3903361B2 (ja) | 固体撮像装置 | |
EP1209900A2 (en) | Method and apparatus for performing tone scale modifications | |
Chapinal et al. | A 128/spl times/128 CMOS image sensor with analog memory for synchronous image capture | |
Eliot | Geometric design of linear array detectors | |
Burns et al. | Pixel-parallel CMOS active pixel sensor for fast object location | |
US11388337B1 (en) | Readout integrated circuit containing image stabilization capabilities | |
Kamberova | Understanding the systematic and random errors in video sensor data | |
Seitz et al. | CCD and APS/CMOS technology for smart pixels and image sensors | |
Shaibani | A Flexible Intelligent Line Scan Camera | |
US20060033826A1 (en) | Imaging array having variable pixel size | |
Ferretti | On-Chip Vision | |
JPS62264759A (ja) | 画像読取装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20070411 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20070411 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070619 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20081211 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090929 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20091225 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100720 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20100811 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130820 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313114 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |