JP2004505512A - イメージ・モザイク化のための方法および装置 - Google Patents
イメージ・モザイク化のための方法および装置 Download PDFInfo
- Publication number
- JP2004505512A JP2004505512A JP2002515013A JP2002515013A JP2004505512A JP 2004505512 A JP2004505512 A JP 2004505512A JP 2002515013 A JP2002515013 A JP 2002515013A JP 2002515013 A JP2002515013 A JP 2002515013A JP 2004505512 A JP2004505512 A JP 2004505512A
- Authority
- JP
- Japan
- Prior art keywords
- imager
- radiation
- bundle
- measurements
- chief ray
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/50—Constructional details
- H04N23/55—Optical parts specially adapted for electronic image sensors; Mounting thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/698—Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/741—Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
Abstract
Description
関連出願の相互参照
本出願は、2000年7月21日に出願され参照により本明細書に組み込む、「Multidimensional Image Mosaics」という名称の米国仮特許出願第60/220,025号に対する優先権を主張する。
【0002】
連邦出資研究開発に関する記述
本発明は、部分的に、National Science Foundation Research Award No.IIS−00−85864からの米国政府の支援を得て行われた。したがって、米国政府が、本発明にある権利を有する可能性がある。
【0003】
発明の背景
発明の分野
本発明は、一般に、イメージ・モザイク化に関し、より詳細には、イメージ・モザイク化を使用して、イメージのダイナミック・レンジを広げ、かつ/またはシーンから受け取られる放射信号のさらなる特性を判定するための方法およびシステムに関する。
【0004】
関連技術の説明
撮像システム(例えば、カメラ)の主な限界には、視野が限られていること、ダイナミック・レンジが限られていること、スペクトル(例えば、カラー)分解能(resolution)が限られていること、および被写界深度が限られていること(すなわち、イメージ平面の中でシーン・ポイントに適切に焦点が合ったままである距離の範囲が限られていること)が含まれる。さらに、従来の撮像システムは、通常、光が受け取られた方向との関係で入ってくる光の強度(intensity)だけを測定し、材質、形状、および照明条件の遠隔認識に役立ち、反射の分析に役立つ深度(例えば、カメラからの被写体の距離)および光の偏光状態などの他の特性を測定することができない。さらに、従来のカメラによって行われる測定の品質は、比較的低い傾向にある。例えば、通常のCCDカメラでは、強度解像力が8ビットだけであり、またスペクトル解像力が非常に劣り、3つの広い帯域チャネル、すなわち、通常、レッド・チャネル、グリーン・チャネル、およびブルー・チャネルだけから成っている。
【0005】
前述した限界を克服しようとする試みが行われた場合でさえ、結果としてもたらされたシステムは、複雑であり、他の限界を無視して狭い問題だけを扱ってきた。例えば、撮像スペクトロメータは、スペクトルの次元で高い分解能を提供するが、センサの強度ダイナミック・レンジは拡張しない。
【0006】
空間分解能を損なうことなく広い視野を有するイメージを得る一般的な方策は、「イメージ・モザイク」を使用することによる。そのような技法は、シーンの異なるビューをそれぞれがカバーするより小さいイメージを結合して、より幅広い視野を有するより大きいイメージを得ることに関わる。この方法は、電波天文学、合成開口レーダ(SAR)、光学観測天文学、ならびに地球および太陽系のその他の物体の遠隔光学探査などの様々な科学分野で使用されている。最近、任意のカメラの動きに対処するアルゴリズムが開発されており、そのようなアルゴリズムにより、ビデオ・カメラでイメージ・モザイクを使用できるようになっている。より小さいコンポーネント・イメージが重なり合う領域において、生のデータを処理して空間分解能を高めることができる。ただし、従来のイメージ・モザイク技法は、各ピクセルのスペクトル、偏光、および明るさ(brigtness)に関して分解能(例えば、ダイナミック・レンジ)を高めることができない。深度は、イメージのシーケンスに視差を導入した場合、イメージ・モザイクから回復可能である。ただし、視差法は、通常、フォーカス/デフォーカス・キューを使用して深度を推定する方法と比べて堅牢さが劣り、より複雑である。
【0007】
イメージのダイナミック・レンジを拡張するのに非線形検出器が使用されてきた。例えば、(1)光強度に関して対数の電子出力信号をもたらす、または(2)異なる積分時間を有する2つのイメージを結合するCMOS検出器が、製造されている。そのようなセンサの強度ダイナミック・レンジは、1:106程度である傾向にあり、このダイナミック・レンジは、大きい(すなわち、高い放射照度の)信号の飽和していない検出を可能にする。ただし、そのようなデバイスにおける強度情報は、圧縮される。というのは、高い強度範囲を(まばらに)サンプリングするため、検出器は、そうでなければより低い強度に専用となる量子化レベルを使用するからである。したがって、出力は、やはり、8〜12ビットの強度分解能だけしか有さない。
【0008】
より高い光強度に関してより低い透過率を有する非線形透過率のハードウェアが、任意の所与の検出器のダイナミック・レンジを拡張することができる。ただし、強度ダイナミック・レンジは、それでも、検出器の限られた解像力に従って量子化される。すなわち、通常のCCDにおける8ビットの解像力が、単により高い放射照度範囲をカバーするように非線形式に引き伸ばされる。したがって、非線形の圧縮は、より低い強度範囲における分解能を犠牲にする。
【0009】
自動利得制御(AGC)が、ビデオ・カメラおよびデジタル・カメラにおいて一般的であり、これは、静止画カメラにおける自動露出に類似している。ただし、AGCの大きな欠点は、その効果が全体的であり、この結果、利得設定が、イメージのいくらかの部分に関して高すぎるが、別の部分に関しては低すぎる可能性が高いことである。例えば、明るいポイントは、比較的暗いイメージの中にある場合、飽和している可能性が高く、また薄暗いポイントは、比較的明るいイメージの中にある場合、適切な検出のためには暗すぎる可能性が高い。シーンが走査される際、AGCがセンサ利得を適合するように変化させるイメージ・モザイクをシーケンスから構成することができる。ただし、この技法によってダイナミック・レンジのいくらかの拡張が達せられるものの、そのような方法は、やはり、大体において暗いイメージの中の明るいポイント、および大体において明るいイメージの中の暗いポイントを適切に測定することができないという問題を抱えている。
【0010】
カメラ上に空間的に変化する光学フィルタを取り付けることが、アマチュアの写真撮影およびプロの写真撮影において一般的な慣行である。ただし、そのようなフィルタは、生のイメージを変化させて特殊視覚効果をもたらすために主に使用されてきた。そのようなフィルタは、分解能向上アルゴリズムに関連しては使用されていない。
【0011】
イメージの各ピクセルのダイナミック・レンジを1組の複数の異なる露出のイメージを使用することによって拡張することが提案されている。1つのそのような方法は、各ピクセルに関して、そのピクセルの複数のサンプルからのデータと最もよく合致する値を推定することに関わる。別の手法は、各ピクセルに関して、局所的コントラストを最大化する値を選択することである。ただし、そのような手法は、静止カメラを使用してイメージのシーケンスをキャプチャし、したがって、視野を広げることは提供しない。
【0012】
さらなる手法は、イメージャの検出器アレイを覆う小さいフィルタのモザイク・アレイを使用する。各フィルタは特定の検出器のピクセルを覆う。もたらされるのは、検出器に入射する光を変化させる空間的に均質でないマスクである。強度ダイナミック・レンジを拡張するため、センサ・アレイを中性(すなわち、カラー独立の)密度のフィルタの空間的モザイク・アレイで覆うことができる。ただし、そのような構成は、ダイナミック・レンジを拡張するために空間分解能を犠牲にする。検出器をカラー・フィルタのモザイク・アレイで覆うことにより、スペクトル情報を得ることができる。ただし、そのような構成は、何らかのスペクトル分解能(すなわち、カラー情報)を得るために空間分解能を犠牲にする。さらに、様々な異なる方向を向いた線形偏光子のモザイクで検出器を覆うことができる。ただし、そのような構成は、偏光情報のために空間分解能を犠牲にする。
【0013】
空間的に変化するスペクトル・フィルタで、すなわち、検出器の垂直方向の視角および/または水平方向の視角にわたって変化するスペクトル通過帯域を有するフィルタで検出器アレイを覆うことにより、高い分解能のスペクトル・フィルタリングが得られる。そのようなシステムでは、視野の中の異なるポイントが、異なった仕方でフィルタリングされる。各ポイントにおけるスペクトルは、シーン全体にわたってカメラの視野を走査することによって得られる。ただし、検出器アレイ上に直接にフィルタを配置することにより、スペクトル・フィルタリングの有効特性を変更する、またはシーンから受け取られる光の他のプロパティを測定するのが困難になることで、システムの柔軟性が低くなる。
【0014】
シーンが、線形スキャナを使用してラインごとに走査される場合、スペクトル情報を得るために空間分解能が犠牲にされることはない。例えば、トライリニア・スキャナにおいて、イメージの各線形部分が、レッド・フィルタ、グリーン・フィルタ、およびブルー・フィルタで連続的に感知される。遠隔探査作業でしばしば、使用されるプッシュブルーム・カメラが、同様に動作する。すなわち、各シーン・ラインが、拡散要素によって2Dの検出器アレイ上に回折され、この結果、各ラインが、複数のスペクトル・チャネルで同時に測定される。ただし、そのようなスキャナおよびプッシュブルームは、一定の速度での1次元走査に限定される。さらに、そのようなシステムによって形成されたイメージは、陥凹(foveate)していない。すなわち、イメージ全体が、同じ検出器特性を使用して走査される。したがって、相当な視野をキャプチャするには、多数回の獲得を行う必要がある。というのは、各回の獲得が、1ピクセル幅のコラムだけしかキャプチャしないからである。
【0015】
イメージは、様々な焦点設定でキャプチャされ、次に結合して大きい被写界深度を有するイメージが生成される。傾けられたセンサを使用する手法が、視野を拡張しながら、焦点が合っているすべてのシーン・ポイントをキャプチャするのに成功している。ただし、この手法は、イメージのダイナミック・レンジは拡張しない。
【0016】
光学では、撮像システムの前の、または空間的に変化する内部のチョッパおよびレチクルを回転させることが一般的な慣行である。ただし、そのようなシステムは、イメージャが、イメージ獲得中に動く追加の内部部品または外部部品を有することを必要とする。
【0017】
発明の概要
したがって、本発明の目的は、より大きい視野とより高い明るさのダイナミック・レンジをともに提供する撮像技法を提供することである。
【0018】
本発明のさらなる目的は、より大きい視野とシーンに関するよりスペクトル情報、偏光情報、および/または深度情報をともに提供する撮像技法を提供することである。
【0019】
以上の目的およびその他の目的が、本発明の以下の態様によって達せられる。
【0020】
本発明の一態様によれば、より高い分解能のデータを生成するための方法が、以下を含む。イメージャを使用して第1のイメージ値を生成するための第1のセットの測定を行う第1のステップであって、第1のセットの測定が、第1のシーン領域からの第1の放射線の束の強度の少なくとも1回の測定を含み、第1の放射線の束が、イメージャの基準フレームの中で第1の主光線を有し、イメージャが、第1の主光線を有する放射線の束に関して第1の強度感度特性を有し、またイメージャが、第1の主光線を有する放射線の束の強度に関して第1のダイナミック・レンジを有するステップと、イメージャを使用して第2のイメージ値を生成するための第2のセットの測定を行う第2のステップであって、第2のセットの測定が、第1のシーン領域から放出される第2の放射線の束の強度の少なくとも1回の測定を含み、第2の放射線の束が、イメージャの基準フレームの中で第2の主光線を有し、第2の主光線が、第1の主光線とは異なり、イメージャが、第2の主光線を有する放射線の束に関して第2の強度感度特性を有し、第2の強度感度特性が、第1の強度感度特性とは異なり、またイメージャが、第2の主光線を有する放射線の束の強度に関して第2のダイナミック・レンジを有するステップとを含み、さらに第1の放射線の束の強度と第2の放射線の束の強度の少なくとも一方に関してイメージャの第3のダイナミック・レンジが関連している第3のイメージ値を生成するため、第1のイメージ値および第2のイメージ値にモザイク化演算を適用し、第3のダイナミック・レンジが、イメージャの第1のダイナミック・レンジと第2のダイナミック・レンジの少なくとも一方より大きいことを含む撮像を行うための方法。
【0021】
本発明のさらなる態様によれば、撮像を行うための方法であって、イメージャを使用して第1のイメージ値を生成するための第1のセットの測定を行う第1のステップであって、第1のセットの測定が、第1のシーン領域から放出される第1の放射線の束の少なくとも1つの選択された偏光成分の強度の少なくとも1回の測定を含み、第1の放射線の束が、イメージャの基準フレームの中で第1の主光線を有し、イメージャが、第1の主光線を有する放射線の束に関して第1の偏光感度特性を有し、第1の偏光感度特性が、第1の角範囲外の偏光角を有する信号成分に対する感度がより低いことを含み、第1の放射線の束の前記少なくとも1つの選択された偏光成分が、第1の角範囲内の偏光角を有するステップと、イメージャを使用して第2のイメージ値を生成するための第2のセットの測定を行うステップであって、第2のセットの測定が、第1のシーン領域から放出される第2の放射線の束の少なくとも1つの選択された偏光成分の強度の少なくとも1回の測定を含み、第2の放射線の束が、イメージャの基準フレームの中で第2の主光線を有し、第2の主光線が、第1の主光線とは異なり、イメージャが、第2の主光線を有する放射線の束に関して第2の偏光感度特性を有し、第2の偏光感度特性が、第2の角範囲外の偏光角を有する信号成分に対する感度がより低いことを含み、第2の放射線の束の前記少なくとも1つの選択された偏光成分が、第2の角範囲内の偏光角を有し、また第2の角範囲が、第1の角範囲とは異なるステップと、イメージャを動かす第3のステップであって、第1のステップと第2のステップの間で第1のシーン領域に関してイメージャを回転させること、第1のステップと第2のステップの間で第1のシーン領域に関してイメージャを並進させること、および第1のイメージ値および第2のイメージ値を使用して第1の放射線の束と第2の放射線の束の一方の偏光状態を判定することのどれかを含むステップとを含む方法。
【0022】
本発明のさらなる目的、特徴、および利点は、本発明の例示としての実施形態を示す添付の図と併せて理解される以下の詳細な説明から明白となる。
【0023】
図のすべてにわたり、特に明記しない限り、同じ参照番号および参照符号を使用して例示する実施形態の同様の特徴、要素、構成要素、または部分を表す。さらに、本発明を図を参照して、例示する実施形態に関連して以下で詳細に説明するが、頭記の特許請求の範囲によって定義される本発明の範囲および趣旨を逸脱することなく、説明する実施形態に変更または改変を行うことができる。
【0024】
発明の詳細な説明
本発明によれば、電子静止カメラ、またはビデオ・カメラなどの動画カメラを含むことが可能なイメージャを、イメージャの1つまたは複数の検出特性が垂直方向の視角および/または水平方向の視角にわたって変化するように構成することができる。例えば、イメージャの視野の左側が、視野の右側とは異なる特性を有するように構成すること、または視野の上部が、視野の下部とは異なる特性を有するように構成することが可能である。イメージャの一様でない(すなわち、空間によって異なる)感度特性には、例えば、シーンの明るさに対する感度、特定のカラーを有する光に対する感度、特定の偏光角を有する光に対する感度、および/または焦点距離(すなわち、被写体に焦点が合う距離)が含まれることが可能である。連続するスナップショット間または連続するフレーム間でイメージャを回転させ、かつ/または並進させることにより、連続するスナップショットまたは連続するフレームを結合して、より広い視野を有するより大きいイメージを形成することができる。シーンの異なるビューのそのような結合は、「イメージ・モザイク化」と呼ぶことができる。さらに、スナップショット間またはフレーム間のカメラの動きが十分に小さい場合、シーンのいくつかの領域が複数回、キャプチャされ、各回でカメラの視野の異なる部分がキャプチャされる。イメージャの視野の各部分は、異なる感度特性を有するため、様々な撮像感度特性を使用して結果の「マルチサンプリングされる」シーン部分(すなわち、複数回、サンプリングされる部分)がキャプチャされる。したがって、シーンの各部分に関して追加の情報を得ることができる。例えば、広範囲な強度感度特性を使用してシーン部分を複数回、サンプリングすることができる。例えば、レンズ上に空間的に一様でない減衰器が取り付けられたカメラを使用してシーン全体を垂直方向または水平方向で(または任意の角で)パンしながら複数のフレームをキャプチャすることにより、これを行うことができる。これにより、シーンの各部分は、より広いダイナミック・レンジで効果的にキャプチャされる。さらに、空間的に一様でないカラー感度特性を有するイメージャを使用して複数のスナップショットを撮りながらシーン全体にわたってパンすることにより、各シーン部分に関するスペクトル情報を得ることができる。同様に、一様でない偏光特性を有するイメージャ(例えば、一様でない偏光フィルタを有するカメラ)を使用することによって偏光情報を得ることができ、また一様でない焦点距離を有するイメージを使用して深度(すなわち、距離)情報を得ることができる。
【0025】
本発明によるシステムは、一般に、図5のブロック図で示すとおり、2つの部分を有するものと見ることができる。システムは、イメージ504をキャプチャするのに使用するイメージャ(例えば、カメラ)502を含むハードウェア部分を含む。イメージ504は、1つまたは複数のイメージ処理アルゴリズム506を含むソフトウェアを実行するイメージ処理部によって処理され、アルゴリズム506は、向上した出力イメージ508および/または撮像されるシーンのプロパティに関する情報510を提供する。図6は、そのようなシステムをより詳細に示している。イメージャ502は、イメージャ502に入る光信号(例えば、光の束)632をフィルタにかける1つまたは複数のフィルタ604を含む。イメージャ502は、撮像光学部品606、およびCCDイメージ感知アレイまたはCMOSイメージ感知アレイなどの検出器アレイ608を含む。検出器アレイ608は、回路610が処理することのできる信号を生成する。イメージャ502を回転させ、かつ/または並進させるため、イメージャ502をモータ駆動の回転および/または並進サポート630の上に取り付けることができ、かつ/または航空機などの動くプラットフォームによって運ぶことができる。
【0026】
カメラ回路610によって生成されたアナログ信号が、アナログ/デジタル変換器612によって処理され、変換器612は、アナログ信号をフレーム・メモリ614の中に記憶することができるデジタル信号に変換する。イメージは、コンピュータのプロセッサであることが可能なプロセッサ618を使用して分析され、処理される。プロセッサ618は、本発明による様々なアルゴリズムを実行する。また、プロセッサ618を使用してシーンの新しいイメージを「レンダリング」(すなわち、生成)することもできる。変換器616を使用してイメージを外部デバイス602が処理できる形式に変換して、出力イメージ508を生成することができる。外部デバイス602は、例えば、イメージをビデオ信号、プリンタ信号、またはその他の出力形式に変換するための変換器620を含むことが可能である。また、プロセッサ618は、撮像されるシーンのプロパティに関する情報622を抽出することもできる。前述した技法の例を以下でさらに詳細に説明する。
【0027】
図8は、本発明によるイメージ・モザイク化を行うためのイメージャの例を示している。イメージャ712は、アパーチャ710、対物レンズ802、および例えば、CCD検出器アレイであることが可能なイメージ検出器708を有するカメラ702を含む。また、空間的に変化する中性(すなわち、波長独立の)密度フィルタ704も含まれ、フィルタ704は、図示した例では、最上部816近くでより低い減衰率を有し、また最下部820近くでより高い減衰率を有する。イメージャ712は、シーン・ポイントA、B、およびCからそれぞれ、放射線の束810、812、および814(この例では、光の束)を受け取る。イメージャ712の基準フレームの中で、いくつかの主光線が、例えば、光線804、806、および808が存在し、光線804、806、および808は、イメージャ712が放射線の束810、812、および814、または他のセットの放射信号を受け取るそれぞれの方向を定義する。光学で周知のとおり、光の束も、通常、その束が伝播する経路を定義するのに使用することができる主光線を有するものと考えられる。図示した例では、束810、812、および814の主光線はそれぞれ、イメージャ712の主光線804、806、および808である。さらに、3つの主光線804、806、および808だけを図8で示しているが、イメージャは、理論上、基準フレームの中に無限数の主光線を有する。さらに、図8で示した例としてのイメージャ712は、主に光を撮像するのに使用されるが、本発明の技法は、赤外線(IR)放射、X線放射、合成開口レーダ(SAR)信号、粒子ビーム(例えば、電子顕微鏡のための電子ビーム)、および音響(例えば、超音波)放射を含むが、以上には限定されない任意の電磁放射または任意の他の放射の撮像に適用可能である。
【0028】
シーンのポイントA、B、およびCから放出される信号をそれぞれ含む信号セット810、812、および814を、対物レンズ802が、検出器708上のポイントA’、B’、およびC’のそれぞれに集束させる。イメージャ712を回転ベクトルy^のまわりで回転させ、これにより、イメージャ712が、主光線804、806、および808の任意のどれかに沿って、またはイメージャ712の視野の中の任意の他の主光線に沿って放射線の束810、812、および814の任意のどれかを受け取ることができるようにするのが可能である。例えば、図8で示した向きのイメージャ712を使用して第1のスナップショットを撮ることができ、その場合、信号セット810が、図示するとおり主光線804に沿って受け取られる。次に、反時計回り方向にイメージャ712を回転させて、光線の束810が主光線806に沿って受け取られるようにすることができる。次に、さらなるスナップショットを撮ることができる。次に、イメージャ712をさらに回転させて、信号セット810が主光線808に沿って受け取られるようにすることができ、第3のスナップショットを撮ることができる。したがって、それぞれの3つのスナップショットで、光線の束810が、フィルタ704の3つの部分816、818、および820を介して受け取られており、したがって、検出器708の3つのポイントA’、B’、およびC’で受け取られている。さらに、図8は、シーン全体をパンするために回転させられるイメージャ712を示しているが、イメージャ712は、さらに、または代わりに、図7で示すとおり、並進させることもできることに留意されたい。実際、あらゆる任意の動きを使用してシーン706全体をイメージャ712でパンすることができ、これにより、イメージャ712が、シーン・ポイントAからの放射信号をイメージャ712の視野の任意の主光線に沿って受け取ることができるようになる。シーン706の複数のスナップショットが撮られた後、本発明によるイメージ・モザイク化手続きのためにそのスナップショットを使用することができる。例えば、図1を参照して以下で詳細に説明するとおり、イメージ・モザイク化手続きを使用して、シーン706の様々な領域から受け取られる光信号セットの強度を表すイメージのダイナミック・レンジを広げることができる。
【0029】
図1は、本発明によるイメージ・モザイク化のための例としての手続きを示している。この手続きは、好ましくは、較正ステップ100を含み、その例を以下でより詳細に説明する。イメージャ(例えば、空間的に変化する減衰フィルタを有するカメラ)、すなわち、図7〜19、23、および31のアイテム712を使用して、撮像されるシーンの第1のセットの測定を行う(ステップ102)。イメージャ712の基準フレームの中で、第1の主光線(例えば、図8〜18で示した主光線804)が存在し、また第1の主光線に沿って受け取られた信号、例えば、第1の主光線を有する光の束に関して、イメージャ712は、第1の強度感度特性および第1のダイナミック・レンジを有する。撮像システムは、第1の強度感度特性および第1のダイナミック・レンジを有する。例えば、第1の主光線は、イメージャ712の視野内の特定のビュー方向に相当することが可能であり、また視野のその部分が、第1の減衰量を有する減衰フィルタで覆われていることが可能である。減衰フィルタの特定の部分を通過する光の束に関するイメージャの感度は、フィルタのその特定部分の減衰量に依存する。光の束に関するイメージャのダイナミック・レンジは、通常、その束が集束させられる検出器(例えば、CCDセル)の部分のダイナミック・レンジで決まる。
【0030】
第1の測定セットの出力は、例えば、シーン内の第1の領域または第1のポイントから放出される第1の光線の束またはその他の放射の強度(すなわち、明るさ)を表すことが可能な第1の測定値である。第1の光線の束は、イメージャの第1の主光線に相当するか、またはその主光線そのものである主光線を有する。
【0031】
イメージャ712を動かして(例えば、回転および/または並進により)、シーンの異なる部分がキャプチャされるようにする(ステップ104)。シーンの第2の部分は、第1のシーン・ポイントまたは第1のシーン領域が、まだイメージャ712の視野内にあるが、第1のシーン領域からの光線の束がその時点では、イメージャ712の基準フレームの中の第2の主光線(例えば、図8〜18で示した主光線806)に沿って受け取られるように第1の部分と重なり合う。第2の測定セットが、イメージャによって行われ(ステップ106)、これにより、第2の測定値が生成される。第2の測定値は、第1のシーン領域からの第2の光線の束の強度を表す。イメージャ712は、第2の主光線に沿って受け取られる放射信号セットに関して第2の強度感度特性を有する。例えば、第2の主光線が、第1の減衰量とは異なる第2の減衰量を有する減衰器を通過する場合、第2の光線の束に関するイメージャ712の感度は、第1の光線の束に関するイメージャ712の感度とは異なる。
【0032】
第1の測定値および第2の測定値に数学的演算を適用することによって第3の測定値を生成する(ステップ108)。例えば、イメージャ712が、イメージをキャプチャするのに使用されるCCD検出器アレイ708を含む場合、CCDアレイ708の第1のセル、または第1のグループのセルを使用して第1の光線の束を測定し、これにより、第1の測定値を生成し、またCCDアレイ708の第2のセル、または第2のグループのセルを使用して第2の光線の束を測定し、これにより、第2の測定値を生成する。第1の主光線および第2の主光線に沿って受け取られる信号に関するイメージャ712の特性に依存して、第1のセルまたは第2のセルによって受け取られる信号は、明るすぎる、または暗すぎることが可能であり、これにより、信号が、セルの正確な範囲外であることが生じる。第1の測定値は、第1の光線の束が正確に測定されたことを示すが、第2の測定値は、第2の光線の束がそれほど正確でなく測定されたことを示す場合、第2の測定値を捨て、第1の測定を第3の測定値として使用することができ、第3の測定値は、第1のシーン領域を表すピクセルに関する出力値の役割をする。第1の主光線が入射するイメージャ712の領域の特性が、第2の主光線が入射する領域の特性とは異なる場合、例えば、第1の主光線に沿って受け取られる光が、第2の主光線に沿って受け取られる光より大きく減衰する場合には、イメージャ712のダイナミック・レンジを効果的に広げることができる。というのは、第1の主光線に沿って受け取られたとき、高い強度の光が正確に測定され、また第2の主光線に沿って受け取られたとき、低い強度の光が正確に測定されるからである。第1のシーン領域から放出される光は、両方の主光線に沿ってキャプチャされるため、この光は、検出器のこの2つの領域の少なくとも一方によって正確に測定される可能性がより高い。したがって、第3の測定値は、第1の測定値および第2の測定値のそれぞれ有効ダイナミック・レンジの一方、または両方より大きい第3の有効ダイナミック・レンジを有するものと見なすことができる。
【0033】
強度測定のダイナミック・レンジを効果的に広げるための前述したステップに加えて、図1で示した例としてのイメージ・モザイク化手続きはまた、第1のシーン領域から受け取られた光線の束のさらなる特性を測定するためのステップを含むことも可能である。そのようなさらなる特性には、例えば、スペクトル特性、偏光特性、および/または焦点特性が含まれることが可能であり、これらの特性を使用して、カメラから様々なシーン・フィーチャまでの距離を推定することができる。例えば、第3の測定セットを行って、第1のシーン領域からの第3の光線の束の少なくとも1つのスペクトル成分の強度を測定することができる(ステップ110)。第3の測定セットは、第4の測定値を生成する。第3の主光線を有する光線の束に関して第1のスペクトル感度特性を有するように構成されたイメージャ712の第3の主光線に沿って、第3の光線の束を受け取ることが可能である。第1のスペクトル感度特性は、好ましくは、第3の光線の束のスペクトル成分を選択するために第1の波長感度帯域を有する帯域通過特性を含む。言い換えれば、選択されたスペクトル成分は、第1の波長感度帯域内にある1つまたは複数の波長を有する。選択されたスペクトル成分は、検出器雑音を超える信号を生成するのに十分なエネルギーを有することも、有していないことも可能である。
【0034】
次に、カメラを回転させ、または並進させ(ステップ112)、第4の測定セットを行う(ステップ114)。第5の測定値を生成する第4の測定セットは、第1のシーン領域からの第4の光線の束のスペクトル成分の強度の少なくとも一回の測定を含む。第4の光線の束は、イメージャ712の第4の主光線に沿って受け取られる。イメージャ712は、第4の主光線を有する放射信号に関して第2のスペクトル感度特性を有する。第2のスペクトル感度特性は、好ましくは、第2の波長感度帯域内の波長を有する成分を選択するため、第2の波長感度帯域を含む帯域通過特性を含む。
【0035】
さらに、本発明によるイメージ・モザイク化手続きを使用して、第1のシーン領域から放出される光の偏光を測定することができる。そのようなシステムでは、第3の測定セット(ステップ110)は、第3の光線の束の選択された偏光成分の強度の少なくとも1回の測定を含む。前述した第3の主光線を有する第3の光線の束は、第1のシーン領域からの第3の放射信号を含む。イメージャ712は、第3の主光線に沿って受け取られる放射線の束に関して第1の偏光感度特性を有する。第1の偏光感度特性は、第1の角範囲外の偏光角を有する光線に対する感度がより低いことを含む。第3の光線の束の選択された偏光成分は、第1の角範囲内の偏光角を有するために検出される。次に、イメージャ712を回転させ、または並進させ(ステップ112)、第4の測定セットを行うのに使用し、これにより、第5の測定値を生成する(ステップ114)。第4の測定セットは、第1のシーン領域からの第4の光線の束の選択された偏光成分の強度の少なくとも1回の測定を含む。第4の光線の束は、イメージャ712の第4の主光線に沿って受け取られる。イメージャ712は、第4の主光線に沿って受け取られる放射線の束に関して第2の偏光感度特性を有する。第2の偏光感度特性は、第2の角範囲外の偏光角を有する信号成分に対する感度がより低いことを含む。第4の光線の束の選択された偏光成分は、第2の角範囲内の偏光角を有するためにイメージャ712によって検出される。
【0036】
さらに、一様でない焦点特性を有するイメージャを使用することにより、第1のシーン領域がイメージャ712からどれだけ離れているかを判定することが可能である。詳細には、イメージャ712は、第3の主光線に沿って受け取られる光に関して第1の焦点特性を有し、また第4の主光線に沿って受け取られる光に関して第2の焦点特性を有するように構成することができる。第1のシーン領域からの第3の光線の束の強度の少なくとも1回の測定を含む第3の測定セットを行って第4の測定値を生成することができる(ステップ110)。第3の放射線の束は、第3の主光線に沿って受け取られる。カメラの第1の焦点特性は、被写体に焦点が合う第1の焦点距離を含む。イメージャ712を回転させるか、または並進させ(ステップ112)、第4の測定セットを行って第5の測定値を生成する(ステップ114)。第4の測定セットは、第1のシーン領域からの第4の光線の束の強度の少なくとも1回の測定を含む。第4の信号セットは、第4の主光線に沿って受け取られる。カメラの第2の焦点特性は、第4の主光線に沿って撮像された場合、被写体に焦点が合う第2の焦点距離を含む。第2の焦点距離は、第1の焦点距離とは異なる。
【0037】
一様でない強度感度特性を有するイメージャを使用するイメージ・モザイク化の場合、視野全体にわたるカメラの強度感度特性がどのようであるかの推定を得ることによってイメージャを較正することが有益である。そのような較正を行うための一技法は、イメージャを使用して様々な異なるシーンおよびシーン部分をキャプチャし、次に、検出器の各部分によって、例えば、各検出器セルによって生成された測定値を加算し、または平均することである。この結果は、様々な主光線に沿ったイメージャ特性を表す1組の相対値および/またはスケーリングされた値である。図2は、図1で示した手続きで使用することができるそのような較正手続き100の例を示している。図1で示した手続きの他のステップと同様に、図2で示したステップのシーケンス100は、イメージャ712の基準フレームの中で第1の主光線および第2の主光線を受け取るイメージャを使用して行う。イメージャ712を使用して第1の主光線を有する第1の複数の放射線の束(例えば、光線の束)の強度の測定を行い、これにより、第1のセットの較正測定値を生成する(ステップ202)。第1のセットの較正測定値を使用して、第1の主光線に沿って受け取られる信号に関するイメージャ712の第1の強度感度特性の第1の推定値を判定する(ステップ204)。第1の推定値は、第1のセットの較正測定値の合計および/または平均を計算することによって判定する。また、イメージャ712を使用して第2の主光線を有する第2の複数の放射線の束の強度の測定を行い、これにより、第2のセットの較正測定値を生成する(ステップ206)。第2のセットの較正測定値を使用して、第2の主光線に沿って受け取られる信号に関するイメージャ712の第2の強度感度特性の第2の推定値を判定する(ステップ208)。第2の推定値は、第2のセットの較正測定値の合計および/または平均を計算することによって判定する。
【0038】
さらに、イメージャの強度感度特性は、シーン領域がイメージャの視野全体を移動するのにつれてそのシーン領域を追跡することによって較正することができる。例えば、図3が、イメージャによって複数の主光線に沿って受け取られるシーンの選択された部分から受け取られる放射線の束(例えば、光線の束)の測定を使用する較正手続き300を示している。図3で示した較正手続き100は、図3で示したイメージ・モザイク化手続きで使用することができる。図示した較正手続き300では、イメージャ712を使用して第3の測定セットを行い、これにより、第4の測定値を生成する(ステップ302)。第3の測定セットは、第2のシーン領域からの第3の光線の束の強度の少なくとも1回の測定を含む。第3の光線の束は、イメージャによって受け取られる第1の主光線に沿って受け取られる。次に、イメージャを回転させ、または並進させて、イメージャが、イメージャの第2の主光線に沿って第2のシーン領域からの光線を受け取ることができるようにする(ステップ304)。第4の測定セットが、イメージャによって行われ、これにより、第5の測定値が生成される(ステップ306)。第4の測定セットは、第2のシーン領域からの第4の光線の束の強度の少なくとも1回の測定を含む。第4の光線の束は、イメージャによって受け取られる第2の主光線に沿って受け取られる。第4の測定値および第5の測定値を使用してイメージャ712の第1の強度感度特性(すなわち、第1の主光線を有する光線の束に関するイメージャの感度)とイメージャの第2の強度感度特性(すなわち、第2の主光線に沿って受け取られる光線に関するイメージャの感度)の間の数学的関係を推定する(ステップ308)。この数学的関係は、第4の測定値と第5の測定値の差、または第4の測定値と第5の測定値の比のいずれかを計算することによって推定する。
【0039】
前述した較正手続きは、以下のとおり、さらに詳細に理解することができる。x軸に沿ってだけ透過率を変化させる中性密度のマスクM(x)を考慮されたい。シーン・ポイントが、イメージkの中でイメージ・ポイントxkとして表され、イメージ・ポイントxkの線形化された強度は、g^kである。同じシーン・ポイントが、イメージpの中でイメージ・ポイントxpとして表され、イメージ・ポイントxpの強度は、g^pである。2つのポイントはともに、以下の関係式に従う。
【0040】
【数1】
いくつかのイメージの中でシーン・ポイントのいくつかを追跡することにより、マスクが各イメージ・ピクセルxで従うべき多数の数式が提供されることが可能である。数式は、FM=0としてマトリックス形式で表現することができる。マトリックスFの例は、以下のとおりである。
【0041】
【数2】
フレーム数が、pで指示される。いくつかのポイントは、信頼できるデータを有さない可能性があり、したがって、解を整えるため、平滑度のさらなる数式を課すことが有益である。例えば、|∇2M|2にペナルティを課すための数式は、LM=0を求めるものとして形式化することができ、ただし
【数3】
である。
【0042】
一般に、以上の数式は、互いに矛盾し、したがって、アルゴリズムは、最小2乗法、堅牢な統計法、または最適化のための別の方法を使用して最適解を求める。最小2乗方法の場合、最適解は、以下のとおりである。
【0043】
【数4】
ただし、
【数5】
であり、βは、データとの不一致に対するペナルティに関する平滑でない解に対するペナルティに重みを付けるパラメータである。
【0044】
自明でない解は、特異値分解(SVD)を使用して求められ、その場合、max M^(すなわち、M^の最大値)は、1に等しく設定する。Mの共分散マトリックスは、以上の数式から推定する。
【0045】
【数6】
ただし、lは、Mの要素の数であり、またnrは、Aにおける行の数である。これは、重み付けの最小2乗問題と見なすことができる。すなわち、Lに属する行にβで重みが付けられ、一方、Fに属する行は、一般に、より強度の高いピクセル(すなわち、より大きいg)に関してより正確である。これは、正規化された行を使用することと等価であり、したがって、各行rに√[ΣcA2(r,c)]で重みを付けることと等価である。したがって、アルゴリズムは、nr=Σr,cA2(r,c)を使用し、これにより、各行の自乗した重みを加算する。
【0046】
Cov(M)の対角成分によって与えられるMの分散が、M^の信頼区間をもたらす。この定式化は、log Mの定義域の中にはない。したがって、この定式化は、非常に低いMにおけるデータ間の相対的不一致、または低いMで比較的大きい可能性がある変動に強くペナルティを課すことはない。最終の処理後ステップとして、log M^の平滑化も行うことができ、この平滑化は、主に、高い光減衰率を有するエリアの推定に影響を及ぼす。
【0047】
マスクの自己較正は、実際、シーンを表すイメージを得るために最終的に処理される同じイメージ・シーケンスに依拠することが可能であり、その場合、ポイントxにおけるマスクの推定は、特定のフレームの中でポイントxにおいて測定される信号とは統計的に独立ではないことに留意されたい。ただし、各ポイントにおけるMの推定は、いくつかのフレームの中で多数のポイントを追跡することに基づき、数百の数式、または数万にものぼる数式(Aの行)によって影響を受けることに留意されたい。したがって、イメージを位置合わせしてマージする際、それぞれの特定のサンプルにおける信号が、実際上は、推定されるマスクとは独立であると想定することが有効である。
【0048】
本発明による自己較正手続きが、実験的に試験されている。試験は、線形CCDカメラの25mmレンズのおよそ30cm前にしっかりと取り付けた3cmの長さの市販の線形可変密度フィルタを使用した。このフィルタは、2(100分の1の減衰に相当する)の最大密度を有していたが、有効マスク特性は、システムにおけるさらなるけられ(vignet)効果に起因してより広い範囲を有していた。減衰率が最も低かった視野の部分において、Mは、ほぼ一定であった。カメラは、各ポイントが視野全体で14回、撮像されるようにフレーム間で回転させた。Mの粗い推定を使用して、以下で述べる位置合わせ手続きとしてイメージを位置合わせした。次に、ランダムな対応する飽和していない暗くないポイントに基づき、50000を超える数の数式を生成した。この数式を使用して、614ピクセルの分解能を有するマスクの特性を判定した。前述した自己較正手続きによって生成された推定のマスク関数を図36Aで示している。この関数の対数を図36Bで示している。
【0049】
また、Mも、多項式曲線、S字形曲線、またはスプライン曲線などのパラメータ曲線の、データに対する最も適合する解として決定することができる。さらに、MSE基準を使用する代わりに、またはMSE基準を使用することに加えて、堅牢な統計法および反復投影法など、最適化の他の方法も使用することができる。Mは、乗法的であるため、各シーン・ポイントにおけるIの推定と併せて線形最適化形式を使用して最適化することができる加法パラメータとして、log Mを使用することができる。
【0050】
さらに、シーンIが、x軸に沿ってだけ変化し(1D信号)、各「フレーム」pが、量tpだけ全体的座標系に対して並進される場合には、自乗誤りの合計値は、飽和していないg^p(x)に関して、
【数7】
である。
【0051】
このアルゴリズムは、並進パラメータtp、マスクM、および変数Iに関して前述の誤り関数を最適化する。最適化プロセスの一環として調整することができる追加のパラメータには、フレーム間の動きの特定の量(すなわち、どれだけtpとtp+1の差があるか)に関して、(1)Mの平滑度(またはMをパラメータ設定するのに必要な係数の数)、および(2)Iの平滑度が含まれることが可能である。IおよびMは、好ましくは、正であるように制約する。数式(7)の自乗誤りの合計には、例えば、Mの関数として(問題を非線形にして)重みを付けることができ、あるいは、log定義域の中でその誤りを計算して、前述した数式を未知のIおよびMに関する線形最適化問題にすることができる。
【0052】
さらに、マスクは、反復して較正することができる。例えば、較正手続きが、マスクの各ポイントに関する初期推定値で開始することが可能であり、初期に推定されたマスク関数を使用して各イメージ・ピクセルの強度のマージされた値を推定することができる。マージされたイメージ値は、前述した較正手続きを使用してマスクのよりよい推定値を計算するのに使用する。次に、よりよいマスク推定値を使用して、マージされたイメージに関するよりよい推定値を導出し、以下同様である。
【0053】
本発明によれば、空間的に変化する偏光感度特性を有するイメージャを使用して、そのイメージャが、空間的に変化する強度感度特性も有するかどうかにかかわらず、シーンから放出される放射線の偏光(例えば、光、またはその他の電磁放射)に関する情報を得ることができる。そのような手続きの例を図4で示している。図示した手続き400は、イメージャ712の第1の主光線に沿って受け取られる放射信号セットに関して第1の偏光感度特性を有し、またイメージャ712の第2の主光線に沿って受け取られる放射線に関して第2の偏光感度特性を有するイメージャ712を使用する。例えば、イメージャ712は、視野の第1の部分において第1の偏光角を有する光を透過させ、また視野の第2の部分において第2の偏光角を有する光を透過させる一様でない偏光フィルタを有するカメラ702を含むことが可能である。そのようなフィルタの例を図30Aで示している。図示した例としてのフィルタ3010は、それぞれ偏光角3020、3022、および3024を有する光を透過させる3つの偏光部分3002、3004、および3006を含む。また、フィルタ3010は、あらゆる偏光の光を通過させる部分3008も含む。図30Aで示したフィルタ3010をカメラ702の外部または内部に取り付けて、視野の左側と右側の間で変化する偏光感度特性を有するイメージャ712を形成することができる。シーン全体をイメージャでパンして、シーンの複数のスナップショットまたは複数のフレームをキャプチャする際、各シーン・ポイントが、空間的に変化するフィルタ3010の部分3002、3004、3006、および3008の複数を介してキャプチャされる。
【0054】
空間的に変化する偏光フィルタは、いくつかの異なる仕方で製造することができる。例えば、図30Bでは、そのような偏光フィルタ3012が、透過される光の偏光角がディスク3018に対して方位角の方向にある材料のディスク3018から切り出される。図30Cでは、空間的に変化する偏光フィルタ3016が、ディスクに対してラジアル方向にある偏光角を有する光を透過させる材料のディスク3014から切り出される。
【0055】
前述したフィルタのどれかを含むイメージャ712は、通常、空間的に変化する偏光感度特性を有する。いずれにしても、どのようにそのようなイメージャが形成されるかに関わらず、図4で示した手続き400では、イメージャ712を使用して第1の測定セットを行い、これにより、第1の測定値を生成する(ステップ402)。第1の測定セットは、シーンの第1の領域からの第1の光線の束の少なくとも1つの選択された偏光成分の強度の少なくとも1回の測定を含む。第1の光線の束は、イメージャによって受け取られる第1の主光線に相当する主光線を有する。イメージャの第1の偏光感度特性は、第1の主光線を有する光線の束に関して、第1の角範囲外の偏光角を有する光成分に対する感度がより低いことを含む。第1の信号の選択された偏光成分は、イメージャによって検出される。というのは、この成分が、第1の角範囲内の偏光角を有するからである。シーンの異なる部分をキャプチャするため、イメージャを回転させるか、または並進させる(ステップ404)。イメージャを使用して第2の測定セットを行い、これにより、第2の測定値を生成する(ステップ406)。第2の測定セットは、第1のシーン領域からの第2の光線の束の少なくとも1つの選択された偏光成分の強度の少なくとも1回の測定を含む。第2の領域は、イメージャによって受け取られる第2の主光線に相当する主光線を有する。イメージャの第2の偏光感度特性は、第2の主光線を有する光線の束に関して、第2の角範囲外の偏光角を有する信号成分に対する感度がより低いことを含む。第2の光線の束の選択された偏光成分は、第2の角範囲内の偏光角を有するため、検出される。
【0056】
1組のスナップショットおよび/またはビデオ・フレームをキャプチャした後、結果のイメージ・データをいくつかの異なる仕方で分析することができる。できる限り正確に高い精度でシーンのプロパティを測定することが望ましいが、できる限り効率の高いやり方で必要な測定および計算を行うことも望ましい。獲得されるデータの量と、そのデータをキャプチャし、分析するのに必要とされる時間および計算能力の間でトレードオフが存在する。視角の単位変化当りでより多数のスナップショットまたはフレームを撮ることにより、より高い正確さを達することができる。ただし、結果としてより多くの量のデータをキャプチャし、分析することで、より多くの時間が消費され、より高い費用がかかる。通常、より多数のイメージをキャプチャすることの収益の漸減が存在する。というのは、実際には、測定されるシーン・プロパティが、一般に、限られた自由度を有し、したがって、シーンを過度にサンプリングすることにより、冗長なデータがもたらされる可能性があるからである。さらに、外部に取り付けられたフィルタの効果は、フィルタが焦点ぼけしているため、通常、幾分ぼやけており、したがって、スナップショット間で極めて小さい角変化を使用することは、そのデータをキャプチャして処理するのに必要とされる追加の時間および費用を正当化するのに十分な追加の情報をもたらさない可能性がある。したがって、本発明によるイメージ・モザイク化手続きは、好ましくは、追加の情報と、追加の時間および費用の間のバランスをとらなければならない。視角の単位変化当りの効果的で実際的なフレーム・レートを決定するための方法を、強度、波長、偏光、および深度に関して空間的に変化する感度特性を有するイメージャを利用するイメージ・モザイク化手続きに関して以下で述べる。
【0057】
例えば、カメラ上に取り付けられたマスクからもたらされる空間的に変化する強度感度特性を有する例としてのイメージャを考慮されたい。マスクの透過率をMとし、またマスクなしでの検出器における光の強度をIとする。この場合、フィルタリングの後に検出器に当たる光は、以下のとおりである。
【0058】
【数8】
高いコントラストを有するシーンを見る際、通常、強度は、等級またはオクターブの階数の点で定義することが役立つ。この理由で、カメラ・アパーチャ「f値」は、通常、各「絞り値」の増加が、測定される強度が2倍になることに対応するようにオクターブで構成されている。デジタル・カメラ・センサでは、これは、測定の2進表現において1ビットをシフトさせることに相当する。例えば、8ビットのカメラが、イメージの中のあるピクセル位置における光の強度を00011010として測定した場合には、1つの絞り値の増加により、第2のイメージにおいて0011010(0)の対応する読取りがもたらされ、ここで、新しい最下位ビットは、新しいイメージによって追加された情報である。
【0059】
例えば、等級の次数の均等な分割を実現するのに最適なマスクは、減衰率オクターブが、視野全体で線形的に変化する、すなわち、減衰率が指数的に変化するマスクである。この場合、log2M(x)は、xに正比例する。この構成では、一定の走査の増分(例えば、イメージャのビュー方向の等しい変化のシーケンス)が、測定される強度の等級の次数における一定の変化をもたらし、またすべての強度範囲が、等しくサンプリングされる。そのような挙動は、レンズの前で何らかの距離でカメラに線形可変密度のフィルタを取り付けることによってほぼ実現することができる。ただし、けられ、パースペクティブ、およびレンズのひずみに起因して、フィルタ密度の線形性は、正確にはlog M(x)に保存されないことに留意されたい。
【0060】
フィルタの透過率が最大(すなわち、M=1)であるとき、Iを検出器に当たる光の強度(すなわち、放射照度)とする。特定の検出器と併せて使用される特定の線形可変フィルタにより、飽和なしにシステムが感知することのできるシーン放射輝度の最小限度および最大限度が決まる。暗闇における検出器の雑音を超えて検出器が感知することができる(所与のカメラ規格に関して)最小の放射照度をIdetector minとする。Idetector minにより、システム全体が感知することのできる最小の放射照度が決まる。飽和なしに検出器が測定することのできる最大の放射照度をIdetector maxとする。検出器のオクターブでの最適なダイナミック・レンジは、以下のとおりである。
【0061】
【数9】
通常、DRdetector=8ビットである。システム全体が、飽和することなく感知することができる最大の放射照度は、検出器が、最も高い減衰率の下で、すなわち、マスクMの最小値:Isystem max=Idetector max/min Mで最大出力をもたらすときのものである。したがって、システムの全体の光学ダイナミック・レンジは、以下のとおりである。
【0062】
【数10】
問題とされているのは、キャプチャされたイメージが、Idetector minとIsystem maxの間の放射照度範囲を有するものと想定して、シーン情報の最も効率的なサンプリングをどのように行うかである。ビュー方向を変化させることは、実質的に、あるポイントが見られるアパーチャ絞り値を変更することと等価であり(検出器に入れられる光パワーの点で)、また完全な絞り値の各変更(すなわち、減衰率を2分の1に変更すること)が、検出器のダイナミック・レンジDRdetector内の測定の2進表現における1ビットのシフトと等価である。一部の適用例の場合、走査において最小の情報しか失われないのを必須とすることが好ましい可能性がある。そのようなケースでは、走査が完了したとき、各フレーム増分で獲得されたビット間で全くビットが「欠落している」ことがあってはならない。ただし、冗長性がより少ないことを必要とする適用例の場合、走査が完了したとき、飽和しているポイントが全くないこと、およびすべてのポイントが、検出器のしきい値を超えていることだけが(I≧Idetector minである限り)必須とされる「損失の多い」走査 を使用することで、多分、十分である。そのような手続きにより、測定の光学ダイナミック・レンジが、各増分において最大に広げられる最も効率的な走査がもたらされる。
【0063】
例えば、log2[max(1/M)]<DRdetectorであり、またDRdetector=8ビットかつmin M=1/8であり、したがって、DRsystem=11ビットである撮像システムを考慮されたい。シーン・ポイントが、M=1であるとき、2進値11111111をもたらし、またM=1/2であるとき、10111001をもたらすものとする。この場合、11111111の測定は飽和しているが、10111001の測定は、飽和していない。したがって、M=1/8(右にさらに2ビットのシフト)である場合、測定は、00101110をもたらす。したがって、放射照度の11ビット表現は、0010111001(0)である。シーン・イメージが、システムの光学ダイナミック・レンジ全体にわたって放射照度値を含むことが可能であると想定すると、最小の情報損失(ビット)を確実にする最も冗長性の小さい走査は、各ポイントが、1オクターブ増分で4回サンプリングされる走査である。線形可変フィルタを使用する場合には、(1)連続するフレーム間の変位と(2)特定のシーン領域が撮像される際の減衰の間に線形関係が存在する。
【0064】
それほど広くないダイナミック・レンジが必要とされる適用例の場合、例えば、各ポイントに関して、飽和していないが、それでもI≧Idetector minである場合、検出器のしきい値を超える単一回の測定を行うだけで十分である可能性がある。そのようなケースでは、M=1およびM=1/8を使用するだけで十分である可能性がある。これにより、前述した例としてのピクセルに関して値00101110(000)がもたらされ、一方、シーンの中のやや暗いポイントに関して、例えば、00000000011のような値がもたらされる。そのようなシステムでは、中間のマスク値をスキップしながら、マスクの一方の極限値を使用し、次にもう一方の極限値を使用することで、任意のポイントを測定することができる。言い換えれば、各ポイントを2回、サンプリングするだけで十分である。フレーム間の増分は、フレームの長さの半分より短く、またM=1とM=1/8の間の遷移領域が、フレーム間の増分より短いという条件付きで、大きいことが可能である。
【0065】
次に、log2[max(1/M)]≧DRdetectorであるシステムを考慮されたい。マスクを含めて、システムの光学ダイナミック・レンジは、検出器自体のダイナミック・レンジの少なくとも2倍である。1オクターブ増分における各ポイントをサンプリングすることにより、ビットの最小の損失が確実になる。損失が多いが、最も効率的である走査の場合、連続する走査の増分間で重なり合う強度情報なしに各ポイントを測定することが好ましい。例えば、DRdetector=8ビットであり、かつDRsystem=16ビットである場合には、値の範囲全体を獲得するのに各ポイントを2回サンプリングするだけで十分である。第1回のサンプリングは、より高い解像力で、システムの量子化器が、Idetector minでスケーリングされたものとして、256より小さいイメージ値を生成する各ポイントを感知し、また第2回のサンプリングが、イメージ値が255より大きいが、65536より小さい各ポイントを、飽和することなしにキャプチャする。
【0066】
一般に、「損失のない」効率的な走査の場合、各ポイントは、1+log2[max(1/M)]回、サンプリングしなければならない。最も効率的な走査の場合、各ポイントは、ξ=[DRsystem/DRdetector]回、サンプリングしなければならず、ここで、ξは、常に最も近い整数に切り上げられる。実際には、以上の数字を単に目安として使用し、幾分より密度の高いサンプリング・レートを使用することが望ましい可能性がある。というのは、より高い密度のサンプリングに関連する冗長性により、雑音のより少ない放射照度の推定が可能になり、さらに、イメージ・シーケンス内のイメージを安定して位置合わせするのに役立つからである。さらに、前述したシーン・サンプリング手続きだけが、シーンをサンプリングするやり方ではなく、その他の周期的サンプリング間隔および/または非周期的サンプリング間隔も使用できることに留意されたい。
【0067】
また、本発明によるイメージ・モザイク化手続きを使用して、強度ドメインで「超分解能」を実現することができる。というのは、平滑に変化するマスクが、アナログ計算デバイスとして作用し、したがって、多くのケースで、単一回の量子化されたイメージ測定よりもより高い量子化精度を提供することができるからである。例えば、イメージ値96.8と97.2の区別をすることができない、すなわち、両方のイメージ値が、97の出力値をもたらす整数量子化器を有するイメージャを考慮されたい。2分の1に信号を減衰させることにより、すなわち、M=1/2を使用することにより、イメージャは、値48および49をそれぞれ出力し、これにより、より高い識別力が提供される。別の例では、M=2−6で、つまり7つのイメージを使用して感知を行った結果を使用して、95.8と96.2を区別することができる。一般に、より多くのイメージを使用した場合、マージされた推定の強度分解能は、より良好になる。[具体的には、この場合、正確な結果を与えるためにどのように複数のサンプリングを結合するか。]これが、前述したレートよりも高い密度でシーンをサンプリングすることの別の利点である。[どのレートか。]
シーンのスペクトル特性を測定するのに使用されるイメージ・モザイク化の場合、選択される視角の最適な間隔は、波長に対してどれだけ迅速に検出器の各ピクセル位置の強度対波長関数が変化するかに依存する。この考慮は、多くのタイプの信号のコンテキストにおけるサンプリング問題と同様である。すなわち、サンプルが、信号の変更を感知するにはあまりにもまばらである場合、エイリアシングが生じる。したがって、各シーン・ポイントまたは各シーン領域のスペクトルが、黒体放射においてそうであるように、平滑である場合、そのスペクトルは、まばらにサンプリングすることができる。他方、スペクトルが、原子蒸気の輝線および吸収線などの微細な線を含む場合、そのスペクトルは、高い密度でサンプリングしなければならず、したがって、フレーム間のイメージャの回転または並進の量は、小さくなければならない。
【0068】
ただし、シーンから来る光のスペクトルが狭いスペクトル帯域を有している場合でさえ、その帯域を測定したとき、測定されるプロファイルは、外部に取り付けられたフィルタの焦点ぼけのぼやけによって平滑化されている可能性が高い。例えば、線形に変化するスペクトル・フィルタを考慮されたい。測定のぼやけは、幅Δλblurの窓関数n(λ)でのスペクトルs(λ)の畳込みとしてモデル化することができる。S(νλ)およびH(νλ)をそれぞれ、s(λ)およびh(λ)のフーリエ変換とする。Hは、≒1/Δλblurの遮断周波数を有する低域フィルタである。このフィルタの透過率特性Hの周波数が無限に広がる場合、遮断周波数は、次のとおり定義することができる。すなわち(1)信号エネルギーが非常に低い周波数、(2)Hの最初のゼロ、または(3)関数Hの標準偏差に正比例する量。いずれの場合も、この「遮断」周波数は、≒1/Δλblurである。必要とされるサンプリング間隔は、以下のとおりである。
【0069】
【数11】
上記のサンプリング基準は、システムの物理的寸法として表現することができる。長さLの線形可変フィルタの場合、
【数12】
である。
【0070】
ただし、λmaxおよびλminはそれぞれ、フィルタ通過全体の最大波長および最小波長であり、またB≡λmax−λminは、フィルタの総帯域幅である。フィルタの焦点ぼけのぼやけに関するモデルが、幅Δxblurの窓の核による畳込みである場合には、Δxblur=BΔxblur/Lである。したがって、
【数13】
である。
【0071】
例えば、図8で示したイメージャを考慮されたい。イメージャ712の焦点が、無限に合わされている場合には、外部フィルタ704は、アパーチャ710を通過する被写体の光ビーム(例えば、ビーム810、812、または814)の幅に等しい幅を有する核だけぼやける。したがって、レンズ802および外部フィルタ704の図示した構成の場合、Δxblur=Dであり、ただし、Dは、アパーチャ710の直径である。したがって、
【数14】
である。
【0072】
上記の結果は、次のとおり定性的に説明することができる。帯域Bを長いフィルタ上で引き伸ばして、ぼやけの核のサイズが小さくなるようにした場合、すなわち、D<<Lである場合、元のスペクトル(鮮明な線を有する可能性がある)の微細な詳細は、そのままであり、したがって、サンプリングは、好ましくは、高密度でなければならない。定量的に、数式(14)から、D<<Lのとき、サンプリング周期Δλsampleが小さくなるのを見て取ることができる。
【0073】
イメージャ712が、イメージ獲得間にΔΦsampleの角増分で回転するものと想定する。フィルタ704が、回転軸から距離Aに位置しているものとし、この回転軸は、例えば、図8で示したシステムにおける投影の中心Oであることが可能である。さらに、フィルタ704が、光軸に対して垂直であるものとする。次に、シーンから投影の中心に伝播する光の各光線が、視野の全体の角θが小さいものと想定して、すなわち、sinθ≒θであると想定して、サンプル間でΔxsample≒AΔΦsampleだけ移動される。数式(11)を参照すると、
【数15】
である。数式(14)と(15)を比較し、またf値f#≡F/Dであり、ただし、Fは、焦点距離であることに留意すると、フィルタの寸法または総帯域幅に関わらず、以下のとおりであるのを見て取ることができる。
【0074】
【数16】
数式16に対応する定性的説明は、より大きいアパーチャDにより、より大きい焦点ぼけのぼやけが導入され、したがって、より少ないサンプルが必要とされ、したがって、ΔΦsampleを大きくすることができることである。さらに、フィルタと投影の中心の間の距離Aをより小さくすることにより、所与の回転増分に関して投影の中心Oを通過する光線の波長λの変化がより小さくなることがもたらされ、これにより、結果の有効波長サンプリング周期が短くなる。したがって、所望のΔλsampleに関して、ΔΦsampleは、好ましくは、Aが小さくなるにつれて大きくしなければならない。
【0075】
数式(16)は、検出器アレイ上に直接にフィルタを配置するよりも、外部に取り付けられるフィルタを使用する方が有利であるのを示している。すなわち、外部に取り付けられるフィルタを使用すると、ユーザは、単にレンズのアパーチャのサイズか、またはレンズからの外部フィルタの距離を変更することにより、自らが所望するフレーム・サンプリング・レートを選択することができる。用途が、スペクトル内容に関して高い分解能を必要とする場合には、フィルタは、好ましくは、投影の中心からさらに離して配置し、アパーチャのサイズは、好ましくは、小さくする。他方、ユーザが、シーンを迅速に走査したいと望む場合、これは、一般に、所与の視野に関してフレーム数がより少なくなることを必然的に伴い、ΔΦsampleを大きくしなければならない。したがって、アパーチャを大きくしなければならず、かつ/またはフィルタをレンズの比較的近くに配置しなければならない。
【0076】
さらなる例として、シーンの360°のパノラマ・ビューを必要とする適用例を考慮し、使用されるイメージャが、そのイメージャの視野全体を覆う長さLのフィルタを含むものと想定されたい。イメージャの長さは、Ldで表される。したがって、F/A=Ld/Lである。したがって、
【数17】
である。
【0077】
360°のパノラマをキャプチャするため、必要とされるイメージ数は、以下のとおりである。
【0078】
【数18】
以上の分析は、単純なレンズ・カメラ・システム、小さい角、波長との関係で線形である外部帯域フィルタ・マスクを想定することに基づいているが、上記で適用した一般的原理は、他のシステムに関して同様の関係式を導出するのにも使用できることに留意されたい。さらに、単純なレンズを有するイメージャに関して、または任意の他のシステムに関して、サンプリング間隔を別のものにすることができ、また実際、非周期的にすることができる。
【0079】
さらに、空間的に変化する偏光感度特性を有するイメージャによってキャプチャされた1組のイメージを分析して、シーンから放出される放射線(例えば、光)の偏光特性を判定することができる。シーン・ポイントから来る光の偏光状態は、4つの自由度、すなわち、当技術分野で周知の4つのストークス・パラメータを有する。したがって、検出器が、シーン・ポイントから放出される光の4回またはそれより多くの回数の測定を行い、各回の測定が、異なる偏光フィルタリングを有する場合、その光の偏光状態を推定することが可能である。多くのケースで、長円形の偏光状態および円形の偏光状態は無視することができ、3つの自由度、すなわち、強度、部分偏光、および偏光平面(すなわち、偏光角)だけが残る。線形偏光子が、光軸の周りの角αの偏光成分を通過させるように調整されるものとする。入射光の偏光平面が、角θにあるものとする。入射光の強度が、Iであり、また入射光の部分偏光が、Pであるものとする。この場合、フィルタを通過する光の強度は、以下のとおりである。
【0080】
【数19】
ただし、C=I/2であり、またA=PCである。このケースでは、光の偏光状態を推定するのに一般に、3回の測定で十分である。例えば、各回の測定(フレームpに対応する)において、偏光子の角αpだけが変化する場合には、以下のとおりである。
【0081】
【数20】
ただし、
Ac=Acos(2θ)であり、またAs=Asin(2θ)である。したがって、
【数21】
であり、
ただし、
【数22】
であり、またmは、シーン・ポイントが測定されるフレームの数であり、また
【数23】
である。
【0082】
長円形の偏光成分を無視すると、数式(21)は、m=3の数式を使用して逆関数にすることができる。
【0083】
【数24】
数式(24)を使用して、光の強度Iの値、部分偏光Pの値、および偏光平面の角θの値を計算することができる。例えば、イメージャが、視野ΦFOVを覆うフィルタを使用し、偏光フィルタリングが、視野ΦFOV全体にわたって変化する場合には、各フレーム間でイメージャのビュー方向を、好ましくは、ΔΦsample≒ΦFOV/3だけ変化させなければならない。
【0084】
一部のケースでは、各シーン・ポイントからの偏光された光を2回、測定するだけで、そのシーンに関する偏光情報を得るのに十分であることに留意されたい。これは、特に、偏光に関して何らかの先験的な情報が利用できる場合にそうである。そのような先験的な情報は、シーンの中に存在するものと予期することができる通常のシーン被写体の偏光プロパティに関する情報を含むことが可能である。
【0085】
検出される放射線の偏光は、フレーム間で変化する感度特性だけである必要はない。例えば、放射線の減衰の合計(Iに影響を与える)も変化することが可能である。さらに、イメージャにおいて使用する偏光子は、完全に偏光させるものである必要はなく、ある偏光成分を別の偏光成分より強めるバイアスを有するだけであることが可能である。そのような場合、分析は同様であるが、マトリックスMの各行を正規化してその行に関連する減衰を補償しなければならない。一部の従来のシステムでは、偏光ビーム・スプリッタを使用して光ビームを分割し、結果の別々の成分を別々のセンサに送ることによって偏光を測定する。その他のシステムは、回転する線形偏光子、または液晶要素などの電気的に制御された偏光装置を使用する。ただし、本発明によれば、空間的に変化する偏光感度特性を有するイメージャ、例えば、空間的に変化する偏光フィルタを使用して偏光測定を行うことができる。そのようなイメージャにより、追加のセンサを追加することなしに、イメージャ獲得中にイメージャの内部部品のどれも動かすことなしに、また電子フィルタを使用することなしに偏光測定を行うことができるようになる。動く内部部品を追加するのを回避することにより、エネルギー消費が低減され、信頼性が高まる。
【0086】
本発明によるイメージ・モザイク化手続きを行う際、図7および8で示したとおり、カメラ702上の外部に取り付けられた空間的に一様でないフィルタ704を含むイメージャ712を使用するのが、特に有利である。というのは、そのような構成は、外部に取り付けられるフィルタ704を単に変更する、または取り替えることによってイメージャ712を容易に変更できるようにするからである。外部に取り付けられたフィルタを有するイメージャのさらなる例を図9および10で示している。図9で示したイメージャ712は、フィルタ902のすべての部分が、アパーチャ710の投影の中心Oからほぼ同じ距離を有するように曲がっている外部に取り付けられた空間的に変化するフィルタ902を含む。図9で示したシステムでは、アパーチャ710への、フィルタ902の任意の2つの等しいサイズの部分、例えば、部分904および906の投影は、ほぼ同じサイズを有する。したがって、イメージャ712の感度特性は、フィルタ902が形成されている材料の特性および/または厚さに主に依存する。
【0087】
図10のシステムは、フィルタ1002とアパーチャ710の投影の中心Oの間の距離が、視角とともに変化するような方向になっているフィルタ1002を含む。詳細には、フィルタ1002の第1の部分1004が、フィルタ1002の第2の部分1006よりも投影の中心Oに近い。図10で示すとおり、部分1006は、部分1006と投影の中心Oの両方を通過する主光線808に対して角1010の方向になっている。部分1004は、部分1004と投影の中心Oの両方を通過する主光線804に対して異なる角1008の方向になっている。角1010は、角1008より小さく、この結果、部分1006は、部分1004より面積が広いが、2つの部分1004と1006は、アパーチャ710の投影の中心Oに対して同じ投影の面積を有する。
【0088】
減衰フィルタの場合、そのフィルタの特定部分の有効減衰は、光がフィルタを通過する角が鋭くなるとともに増加する。干渉フィルタなどの波長選択フィルタの場合、フィルタによって透過させられる波長は、入射角に依存することが可能である。したがって、フィルタが可撓性を有するか、または動かすことができるように取り付けられる場合、フィルタの角の向きを容易に変更することができ、これにより、イメージャの特性を容易に変更できるようになるため、外部に取り付けられるフィルタは、特に有利である。
【0089】
以上の考察は、外部フィルタを有するカメラの使用を強調してきたが、空間的に変化するフィルタは、カメラ外部のものである必要はない。例えば、図11は、検出器708上に直接に配置されたフィルタ1102を有するイメージャ712を示している。フィルタ1102を検出器708上に直接に配置することの利点は、検出器708がレンズ802の焦点面にあるため、またフィルタ1102が、検出器708に極めて近接しているため、フィルタ1102の特性のぼやけが、非常にわずかしか存在しないことである。この結果、イメージャ712の特性が、フィルタ1102によってより正確に定義され、これにより、より微細に変化するフィルタリング特性を有するフィルタを使用することが実際的になる。ただし、この利益とのトレードオフは、外部フィルタではなく、内部フィルタを有するカメラに通常、関連して、フィルタを変更する、または変える際の柔軟性が失われることである。
【0090】
図12は、フィルタがカメラ内部に位置しているが、センサ708とは直接に接触していないカメラを示している。図12の構成により、曲がったフィルタ、または傾斜したフィルタの使用が可能になる。
【0091】
図13で示すとおり、複合レンズを有するカメラ・システムの場合、その複合レンズの要素1306と1304の間に空間的に変化するフィルタ1302を配置することができる。図13で示した例では、対物レンズ1306が、被写体のイメージを形成し、また追加のレンズ1304が、イメージを検出器708上に投影する。フィルタ1302は、好ましくは、追加のレンズ1304の近くに配置する。実質的に、すべてのカメラ・レンズは、収差等を訂正するために複合型であり、通常、2つより多くの要素を有する。
【0092】
図14で示すとおり、複合レンズを有するイメージャは、対物レンズ1404の焦点面に配置されたディフューザ1406も含むことが可能である。空間的に変化する特性を有するフィルタ1402が、ディフューザ1406のできる限り近くに配置される。対物レンズ1404は、ディフューザ1406上に、空間的に変化するフィルタ1402によって変更された焦点の合ったイメージを形成する。追加のレンズ1408が、ディフューザ1406からの焦点の合ったイメージを検出器708に投影する。
【0093】
本発明によるイメージャは、空間的に変化する反射率を有する反射板を使用してシーンから放射(例えば、光)線を受け取るように構成することができる。図15で例を示した、そのようなシステムでは、空間的に変化する反射率を有する反射板1502を使用して、シーンからの(すなわち、ポイントA、B、およびCからの)光信号810、812、および814を反射させて、カメラのアパーチャ710の中に入れる。空間的に変化する反射率を有する反射板1502が、ある程度、透過性である(すなわち、いくらかの光を透過させる)場合、反射板1502は、カメラのアパーチャ710と、システムを較正する、またはカメラ702からのスプリアス反射を吸収するのに使用することができる基準の被写体1506の間に配置することができる。例えば、周知の較正技法は、既知の光源を使用してカメラの中の検出器の特性を較正する。図15の構成は、実際のカメラ702とは異なる角で方向付けられ、また光線の束810、812、および814を直接に、すなわち、反射によってではなく有効に受け取る仮想カメラ1504と機能的に等価であると見なすことができる。
【0094】
イメージャ712において外部に取り付けられる反射板1502を使用することのさらなる利点は、イメージャ712の視野および/または倍率を制御するため、反射板1502をオプションとして湾曲させることができることである。
【0095】
図16は、カメラ702の外部にフィルタ1602を有し、またカメラ702の内部に追加のフィルタ1604を有するイメージャ712を示している。
【0096】
図17は、カメラ702の外部にフィルタ1702および基準の被写体1708を有し、カメラ702の光学構成要素1710の内部に追加のフィルタ1704を有し、またカメラ702の内部に、検出器708の近くに配置されたさらに別のフィルタ1706を有するイメージャ712を示している。
【0097】
図18で示すとおり、シーン706を走査するため、例えば、図17で示したイメージャ712などの本発明によるイメージャを並進させることができる。イメージャ712が、図示した方向で並進するにつれ、シーン706の中の任意のポイントを、例えば、図18のポイントAを、イメージャ712の基準フレームの中の複数の主光線804、806、および808に沿って撮像することができる。さらに、図19で示すとおり、イメージャ712は、直線で動く必要はなく、任意のパス1902に沿って移動することができ、さらに、並進と回転を同時に行うようにさせることができる。さらに、図7〜18で示したフィルタは、上から下に変化するように主に描いているが、本発明によるフィルタ704は、任意のすべての方向で変化することが可能である。例えば、フィルタ704のプロパティは、方位角の方向で変化することが可能であり、その場合、モザイク手続きは、処理するためのイメージをキャプチャするために光軸の周りでイメージャ712を回転させることを含むのが可能である。さらに、フィルタ704をカメラに屈曲しないように、かつ/または動かないように取り付けることができるが、カメラ702に対して屈曲する、または動くフィルタを使用することもできる。そのようなシステムでは、イメージのシーケンスの各フレーム間でフィルタを屈曲させる、または動かすことができる。
【0098】
図20Aおよび20Bで示すとおり、本発明によるイメージ・モザイク化技法を使用して、イメージ測定の空間範囲(すなわち、視野の幅または高さ)および合計の強度範囲(また、したがって、ダイナミック・レンジ)を拡張することができる。図20Aは、単一のフレーム2002の空間範囲とイメージ・モザイク2004の空間範囲の差を示している。イメージ・モザイク2004は、複数のフレームから構成されている。図20Bは、イメージ・モザイク2004の拡張された空間範囲および拡張された強度範囲を示している。実際には、モザイク2004のエッジ近くのピクセルがサンプリングされる回数がより少ないため、エッジのピクセルの合計の強度範囲は、イメージ・モザイク2004の中心部のピクセルの強度範囲より小さい可能性が高い。この効果は、図21のグラフで見て取ることができ、このグラフは、イメージ・モザイク2004の空間範囲のエッジ近くの領域2102において、合計の強度範囲が低下するのを示している。ただし、エッジから遠ざかった部分2104において、強度範囲は、一様に高い。この効果は、視野の中心近くでより高い分解能を有する人間の肉眼の陥凹のある視覚と同様であり、シーンの中心部分がエッジ部分より高い関心を引き、したがって、好ましくは、エッジ部分より高い分解能で撮像される用途に関して有利であることが可能である。
【0099】
前述したとおり、外部に取り付けられたフィルタは、カメラの検出器に対して焦点が合っていない傾向にあるため、カメラ特性に対するそのようなフィルタの効果は、ぼやける傾向にある。例えば、図22Aは、密度Dが、第1の位置2214と第2の位置2216の間で、フィルタの表面の1つの寸法全体にわたって線形に変化するが、この範囲外では一定であるフィルタ密度関数2202を示している。透過率Tは、10−Dに等しく、したがって、結果のイメージャの対応する強度感度特性の関数は、フィルタ全体にわたって指数的に変化する。フィルタの有効密度関数2204は、フィルタ密度関数2202のぼやけに起因して丸みを帯びたコーナを有する。同様に、図22Bで示すとおり、ステップを伴う密度関数2206を有するフィルタは、丸みを帯びたコーナを有する有効密度関数2208を有する。図22Cで示すとおり、カメラ外部に取り付けられたフィルタは、あらゆる任意の密度関数2210を有することが可能であるが、関数2210が鮮明なコーナを有する場合、有効関数2212は、丸みを帯びたコーナを有する。
【0100】
一般に、空間的に変化する減衰マスク関数fに関して、有効マスク関数Mを以下のとおりモデル化することができる。
【0101】
【数25】
ただし、h(x,y)は、システムの焦点が遠隔のシーンに合っているとき、フィルタと同じぐらい近くの被写体に関するカメラの焦点ぼけのぼやけポイントの拡散関数(PSF)である。回転対称PSFの場合、マスクは、実質的にxの1次元関数であり、またfは、hのAbbel変換であるh〜で畳み込まれる。例えば、核がガウス関数としてモデル化される場合には、hは、rの標準偏差を有するガウス関数であり、またM(x)=erf(−x/r)である。M(x)は、0と1の間の任意の値をとるので、原則として、どのシーン・ポイントも、適切な場所にあるフィルタを介して見られる場合、そのポイントがどれだけ明るいかに関わらず、飽和なしに撮像することができる。したがって、この単純なシステムは、理論上、無限のダイナミック・レンジを有することが可能である。
【0102】
外部に取り付けられる付加物のぼかしの効果は、図23で描いた単純なオクルーダ2302を例として使用して、さらに示すことができる。オクルーダ2302自体は、明らかに空間的に急に変化する特性を有するが、カメラ702の特性に対する効果は、図24Aおよび24Bで示すとおり、カメラ702の視野全体にわたってより漸進的に変化する。図24Aは、単純なオクルーダ2302のより丸みを帯びた有効密度関数2402を示している。図24Bは、単純なオクルーダ2302の有効密度関数2406の対数を示している。さらに、線形に変化する密度フィルタの有効密度関数2404に対するぼかし効果も、図24Aで示している。線形に変化する密度フィルタの有効密度関数2404の2408の対数を図24Bで示している。対数関数2408は、直線である。
【0103】
外部に取り付けられた光学要素を有するイメージャにおいて生じる傾向がある前述したぼかし効果は、イメージャを調整可能にすることに関して有利である。というのは、単にイメージャの光軸に沿って光学要素の位置を変化させることにより、イメージャの光学特性を変更することができるからである。例えば、オクルーダ2302をカメラ702の焦点距離のより近くに動かすことにより、単純なオクルーダ2302の有効密度関数2402の中央近くの勾配(図24Aおよび23参照)を増加させ、またオクルーダ2302をカメラ702の焦点距離から遠くに離すことによってその勾配を減少させることができる。
【0104】
以上の考察は、空間的に変化する波長中性の強度感度特性を有するイメージャをもたらす空間的に変化する波長中性密度フィルタを強調してきたが、空間的に変化するカラー・フィルタまたはその他の波長ベースのフィルタを使用することも可能である。そのような空間的に変化するフィルタは、例えば、空間的に変化する中央波長λ0を有する空間的に変化する帯域フィルタ(例えば、干渉フィルタ)であることが可能である。図25Aは、視野全体にわたって線形的に変化する中央波長λ0を有するフィルタ全体にわたる位置xに対する中央波長λ0の関数2502を示している。このフィルタ関数2502は、やはり視野全体にわたってほぼ直線的に変化するが、丸みを帯びたコーナを有する波長感度特性の関数2504を有するイメージャをもたらす。図25Bは、視野全体にわたってステップで変化する中央波長特性の関数2506を有するフィルタの例を示している。そのようなフィルタは、フィルタのステップ的関数2506にだいたい対応するが、フィルタの焦点が、カメラに対して幾分、合っていないため、ぼやけに起因する丸みを帯びたコーナを有する波長感度特性の関数2508を有するイメージをもたらす。図25Cで示すとおり、あらゆる任意の中央波長関数2510を有する帯域フィルタを使用することができるが、フィルタの関数2510が鮮明なコーナを有する場合、もたらされるイメージャは、より丸みを帯びたコーナを有する波長感度特性の関数2512を有する。
【0105】
また、本発明による撮像システムは、空間的に変化する低域フィルタまたは高域フィルタを使用することも可能である。例えば、図26A〜26Cは、例としての低域フィルタまたは高域フィルタの全体にわたる位置xに対する遮断波長λcutの例としての関数2602、2606、および2610を示している。図22A〜22C、および25A〜25Cで示したフィルタと同様に、ぼかしにより、それぞれのフィルタを使用して形成されたイメージャのそれぞれの波長感度特性の関数2604、2608、および2612が丸みを帯びることが生じる。
【0106】
このぼかし効果を図27でさらに示しており、図27は、高域フィルタ・アレイの2つのセグメントの境界近くに主光線を有する光線の束に関する波長λに対する検出器の感度のグラフである。ビームの光の半分は、λcut 1の遮断波長を有するセグメントを通過し、またビームの残りの半分は、λcut 2の遮断波長を有するセグメントを通過する。検出器の有効遮断波長は、λcut 1とλcut 2の間にあるλcut effectiveである。2つの個別セグメントのそれぞれの遷移帯域と比べて、境界上で主光線を有するこのビームに関する遷移帯域は、より広い。
【0107】
前述した空間的に変化する減衰フィルタと同様に、波長フィルタの有効特性も、イメージャの光軸に沿ってそのフィルタの位置を変更することによって調整することができる。詳細には、フィルタのフィーチャは、フィルタがカメラの焦点距離により近い場合、より鮮明で、より丸みが小さく、より勾配が急になり、また、フィルタがカメラの焦点距離から離れるにつれ、より丸みを帯び、それほど勾配が急でなくなる。実際、十分に焦点がはずれている場合、図25Bおよび26Bでそれぞれ、例としての特性2506および2606を示した波長フィルタのステップ的アレイを使用して、図25Aおよび26Aでそれぞれ、例としての特性2502および2602を示した線形に変化するフィルタを近似することができる。
【0108】
また、本発明による空間的に変化する帯域フィルタを使用して、シーンから受け取られた信号の波長間の区別に関するカラー・イメージャの精度(すなわち、ダイナミック・レンジ)を高めることもできる。図28で示したとおり、通常のカラー・イメージャ(例えば、カラー・カメラ)は、それぞれブルー、グリーン、レッドの光を受け取る3つの比較的広いカラー・チャネル2802、2804、および2806を有する。イメージャに比較的狭い通過帯域2808を有するフィルタを取り付けることにより、波長間で区別を行うイメージャの能力が高められる。例えば、狭帯域フィルタの通過帯域2808が、カメラのより広いブルー帯域2802の範囲内にある場合、そのカメラによって最終的に検出されるブルーの光2810は、グリーンの光2812およびレッドの光2814よりもはるかに強い。したがって、その狭帯域フィルタの特性2808は、元のカメラの特性2802、2804、および2806ほど広くないので、ある信号を単に「ブルー」として指示することより微細な詳細でカラーが判定される。狭帯域フィルタの通過帯域2808の中央波長λ0は、視野全体で変化し、したがって、シーン全体をイメージャでパンして、複数のイメージをキャプチャすることにより、異なる中央波長λ0をそれぞれが有する複数のカラー帯域内でそのシーンの各ポイントを撮像することができる。この結果、シーンの各ポイントから放出される光のスペクトル特性が、より高いカラー分解能で判定される。
【0109】
図29は、3つの大きい部分、ブルー帯域通過特性2904を有するブルー・フィルタ部分、グリーン帯域通過特性2906を有するグリーン・フィルタ部分、およびレッド帯域通過特性2908を有するレッド・フィルタ部分に分割される外部カラー・フィルタの使用を示している。この3つのカラーのフィルタ・アレイは、カメラの検出器にまで通過させられるそれぞれブルーの光、グリーンの光、およびレッドの光の帯域通過特性2902、2912、および2910によって定義される独自のセットの3つのカラーのチャネルを有するカラー・カメラの外部に取り付けられる。イメージャが、シーン全体をパンするにつれ、シーンの各部分が、外部ブルー・フィルタ部分、外部グリーン・フィルタ部分、および外部レッド・フィルタ部分を介して見られ、撮像される。この結果、それぞれのフィルタ部分のブルー特性2904、グリーン特性2906、およびレッド特性2908のそれぞれが、カメラ自体のブルー特性2902、グリーン特性2912、およびレッド特性2910のそれぞれと組み合わせで使用される。したがって、イメージャは、センサ・チャネルと外部フィルタ要素の特性の可能な組み合わせのすべてを表す9つのカラー帯域を実質的に有する。したがって、カメラのカラー分解能が高まる。一般に、カメラ自体が、Nsの帯域を有し、追加のマスクが、Nmの帯域を有する場合には、イメージャ全体として、NsNmの帯域を測定することができる。
【0110】
本発明のさらなる態様によれば、空間的に変化する焦点特性を有するイメージャでシーン全体をパンすることができ、またイメージャ712のパン中にキャプチャされた1組のイメージの各イメージにおいて各シーン・ポイントにどれだけ焦点が合っているかに基づき、イメージャ712からのシーン・ポイントの距離を判定することができる。図31は、シーンの焦点の合った部分3104およびシーンの焦点の外れた部分3106それぞれから放出される光線の束3108および3110に対するイメージャ712の応答を示している。対物レンズ3102が、カメラ702の焦点面3118から距離v〜で配置されている。焦点の合ったシーン・ポイント3104は、単一のポイント3114として焦点面3118上に投影される。しかし、焦点の外れたシーン・ポイント3106は、直径dを有する円板3116として焦点面3118上に投影される。
【0111】
一般に、カメラ702のアパーチャ710から距離u〜にある被写体には、焦点が合っており、したがって、焦点が合っているように見えるあらゆる被写体は、距離u〜にある。これに対して、焦点が合っていないように見えるあらゆる被写体は、アパーチャ710から異なる距離(例えば、u)にあることが分かる。
【0112】
被写体に焦点が合う距離u〜が、イメージャの視野全体にわたって変化するようにイメージャを構成することができる。この焦点特性の変化が十分に大きく、十分な数のスナップショットが撮られた場合には、そのスナップショットの少なくともどれかにおいてシーンの中のすべてのポイントまたはほとんどのポイントに焦点が合っているか、またはほぼ焦点が合っている。被写体に焦点が合っているイメージャによって受け取られた特定の主光線を判定することにより、またイメージャの空間的に変化する焦点特性を知ることにより、以下の手続きによってすべてのシーン・ポイントの距離を判定することができる。
【0113】
あらゆる光学システムは、被写体に焦点が合う、またはほぼ焦点が合う距離の範囲を有し、一方、被写体は、その範囲から離れるにつれてぼける。この範囲のサイズは、一般に、システムの「被写界深度(depth of field)」と呼ばれる。本発明による撮像システムは、距離/深度のこの範囲を、イメージャの光軸に沿ってイメージャ内の場所の範囲に変換する。場所のこの範囲のサイズは、「焦点深度(depth of focus)」と呼ぶことができる。多くの適用例では、シーンの被写体が存在する深度の範囲は、被写界深度より幅広く、したがって、一部の被写体からは、焦点が外れる。図31で描いた撮像システムを参照すると、距離uにある被写体ポイントのぼやけの直径dは、以下のとおりである。
【0114】
【数26】
ただし、Fは、焦点距離であり、またDは、レンズのアパーチャである。異なる焦点設定で(例えば、獲得中にレンズまたは検出器などのシステムの内部部品を動かすことにより)被写体の複数のイメージをキャプチャすることが可能である。被写体ポイントの焦点の合った状態は、通常、被写体ポイントに対応するイメージ・ポイントにおいてイメージの鮮明度を最大にするイメージを選択することによって検出される。さらに、「マージ」手続きを使用してシーン全体の完全に鮮明なイメージを構成することができる。そのような手続きは、各シーン領域または各シーン・ポイントに関して、そのシーン領域またはシーン・ポイントの鮮明度が最も高いイメージの中で対応するポイントを選択する。次に、選択されたポイントのセット全体を結合してシーン・ポイントのすべての、またはほとんどの鮮明なイメージを形成する。
【0115】
また、その他の技法を使用してシーン・ポイントの距離/深度を測定することもできる。例えば、v〜を変更することによって焦点設定を変更し、イメージのラプラシアンで鮮明度を測定した場合には、最良の焦点の場所vは、以下のとおり推定することができる。
【0116】
【数27】
ただし、∇2 x,yは、イメージ平面におけるラプラシアンを表し、また各イメージI(x,y)は、v〜によってパラメータ設定される、すなわち、v〜の関数として定義される。最良の焦点の平面が決まると、その平面を使用して被写体ポイントの深度uを推定できることに留意されたい。さらに、この深度は、最良の焦点の平面を求めることによってだけでなく、2つまたはそれより多くのフレームに基づき、「焦点ぼけからの深度(depth from defocus)」と呼ばれる方法を使用してぼやけの直径dを推定することによっても推定することができる。「焦点ぼけからの深度」の技法は、2001年5月8日にNayar他に発行され、参照により全体が本明細書に組み込まれる「Apparatus and Methods for Determining the Three−Dimensional Shape of an Object Using Active Illumination and Relative Blurring in Two−Images Due to Defocus」という名称の米国特許第6229913号で詳細に述べている。
【0117】
シーン・ポイントは、イメージの中で、収差、回折によるぼけ、または検出器アレイの隣接する要素間の有限の距離Δxgridに起因することが可能な位置の不確定性U(すなわち、ぼやけの量)に対応するサイズを有する領域によって表される。ぼやけの直径dの大きさが、Uを超えない場合、そのシーン・ポイントは、システムの被写界深度の範囲内にあると見なされ、したがって、焦点が合っていると見なされる。ぼやけの直径は、最良の焦点の状態からの距離に依存するため、dのUの変化は、特定の深度(すなわち、距離)の変化に対応する。例えば、特定の間隔の被写界深度にわたって1組のイメージをキャプチャするため、ある量Δvだけ撮像システムのある構成要素を動かすケースを考慮されたい。Δvを物理的に変更する代わりに、屈折率nを有する透明の誘電体を使用して光学パスの長さを変化させることができる。調整を行うため、誘電体の厚さtまたは屈折率nを変更しなければならない。実際、両方の手法を一緒に適用することができる。視界全体にわたって厚さまたは屈折率が変化する速度に従って、システムは、選択された間隔の被写界深度にわたる所望の有効な軸変化をもたらすフレーム間トラバースの増分を計算する。
【0118】
シーンの被写体のより近くに、またはシーンの被写体から遠ざけるように光学システム全体を動かすことにより、部品を動かすのを回避することが可能である。ただし、そのような手法は、顕微鏡の適用例など、深度の範囲が非常に小さい場合にだけ実際的である。他方、ガラスまたはポリカーボネートなどの透明な誘電体を検出器上に配置した場合、検出器とレンズの間の光学パスの長さは、より長くなる。屈折率nを有する材料の場合、光線に沿った材料の各ミリメートルが、nミリメートルの自由空間の伝播と等価である。これは、実質的にv〜の一部分をn倍に伸ばす(屈折要素が、カメラ内部にある場合)か、またはu〜の一部分を伸ばす(屈折要素が、カメラ外部にある場合)。したがって、焦点が合わされていた被写体ポイントから、焦点が外れる。他方、そうでなければ検出器平面の背後の平面上で焦点が合う一部の被写体ポイントに、検出器上で焦点が合うようになる。
【0119】
本発明による空間的に変化する屈折要素の例は、視野全体にわたって変化する厚さを有する透明な材料である。空間的に変化する厚さの代わりに、またはそれに加えて、フィルタは、空間的に変化する屈折率を有することが可能である。そのようなフィルタの特性の例を図32A〜32Cで示している。図32Aは、線形に変化する率を有するプリズムまたは屈折要素の屈折プロパティを示している。そのような要素は、図8で示したイメージャ712の外部など、光学システム外部に配置された場合、主に視野だけを屈折させ、これにより、システムの投影の中心を変化させ、イメージャの被写界深度を拡張するのにほとんど役立たない。したがって、この要素を、図11で示したイメージャ712の中など、検出器上または検出器の近くに配置することが好ましい。図14で示したイメージャ712の中など、ディフューザ1406上に中間イメージが形成される場合には、要素1402は、好ましくは、ディフューザの直前に配置する。
【0120】
屈折要素の屈折プロパティおよび/または厚さが、視野内の位置との関係で変化する場合には、もたらされるイメージャは、空間的に変化する焦点特性を有する。図32Bの例では、屈折要素の厚さまたは屈折率は、ステップ的な仕方で変化する。実際、屈折要素は、図32Cで示すとおり、あらゆる任意の関数に従って変化する厚さまたは屈折率を有することが可能である。
【0121】
以上の考察は、視野全体にわたって変化する感度特性または焦点特性を有するイメージャの使用を説明してきた。前述したとおり、そのような空間的に変化する感度特性または焦点特性には、空間的に変化する強度感度特性(例えば、空間的に変化する減衰器からもたらされる)、空間的に変化する波長感度特性(例えば、空間的に変化するカラー・フィルタからもたらされる)、空間的に変化する偏光感度特性(例えば、空間的に変化する偏光フィルタからもたらされる)、および/または空間的に変化する焦点特性(例えば、空間的に変化する屈折要素からもたらされる)が含まれることが可能である。本発明のさらなる態様によれば、前述したプロパティの2つまたはそれより多くを単一のイメージャにおいて組み合わせることができる。例えば、図33で示すとおり、空間的に変化する減衰器3302、空間的に変化するスペクトル・フィルタ3304、空間的に変化する偏光フィルタ3306、および空間的に変化する屈折要素3308のいくつか、またはすべてをカメラの内部または外部に同時に付加し、これにより、イメージャの視野全体にわたって変化する複数の特性を有するイメージャをもたらすことができる。
【0122】
一部のケースでは、光の各特性は、その他の特性とは独立である。例えば、容積測定の被写体において、各イメージ・ポイントが、異なる深度を有する複数の(または連続体の)ポイントから光を受け取る。このポイントのどれから放出される光も、シーンの異なるポイントまたは異なる領域から来る光(例えば、シーンの異なるポイントまたは異なる領域からの散乱または放出)を含むことが可能である。この結果、各スペクトル成分は、異なる偏光、異なる明るさ、および子となる焦点状態を有することが可能である。
【0123】
ただし、ほとんどの場合、特性のいくつかは、縮退している、またはかなり結合していることが可能である。例えば、特定の深度から来る放射線の一部は、特定の偏光成分およびスペクトル帯域の中で、あまりにも強くて飽和なしで検出することができない可能性があり、したがって、強度の等級は、好ましくは、範囲の広い明るさダイナミック・レンジ・フィルタを使用して感知しなければならない。さらに、被写体が3次元ではない場合には、深度測定は、スペクトル測定および偏光測定とは別に行わなければならない。詳細には、検出器の飽和によって生じさせられる深度の推定の誤りを回避するため、可変の厚さまたは可変の屈折率を有するフィルタ内部で可変密度フィルタリングを使用することにより、明るさダイナミック・レンジを拡張することが有益である可能性がある。そのようなケースでは、好ましくは、帯域幅感度、偏光角感度、および強度感度の可能な組み合わせのすべてを使用して、各ピクセル位置において複数の独立した測定を行わなければならない。そのような測定は、各領域が特定の感度特性の空間的変化に専用である様々な領域を有する複合フィルタを使用するように構成されたイメージャによって行うことができる。例えば、図34で示すとおり、イメージャの第1の感度特性を空間的に変化させるための第1のセグメント3402、第2の感度特性を変化させるための第2のセグメント3404、第3の感度特性を変化させるための第3のセグメント3406、および第4の感度特性を変化させるための第4のセグメント3408を有するフィルタ3410を使用することができる。さらに、様々なセグメント3402、3404、3406、および3408は、何らかの特定の形状または特定の場所を有するように、または何らかの特定の方向で空間的に変化するそれぞれフィルタ特性を有するように定義されている必要はなく、任意の形状および/または場所の領域であることが可能であり、またフィルタ特性は、フィルタ3410上の任意の方向で空間的に変化する。
【0124】
各フィルタ特性の変化は、フィルタ上で異なる空間周波数を有するように構成するのが可能であることに留意されたい。例えば、深度は、cos xとして変化することが可能であり、中性密度は、cos 2xとして変化することが可能であり、また中央波長は、cos 4xとして変化することが可能である。さらに、各フィルタ特性の空間的変化は、正弦曲線の形である必要はない。方形波パターン、のこぎり波パターン、およびその他のパターンも使用することができる。
【0125】
他方、あるフィルタ特性は、専用の別個のフィルタ領域を必要としない可能性がある。例えば、シーン・ポイントまたはシーン領域から来る光の偏光は、通常、その光の波長には強く依存しない。したがって、空間的に変化する偏光フィルタは、情報をほとんど、または全く損失することなく、空間的に変化する波長フィルタと重なり合うことができる。さらに、シーンのすべての部分からの光を特性に関して測定する、または同じ分解能で測定する必要はない。さらに、測定の速度の方が、測定の完全性よりも重要である適用例の場合、図34で示した複合フィルタ3410ではなく、図33で示したフィルタ3302、3304、3306、および3308などの1組の重なり合うフィルタを使用して、より高速の走査を得ることができる。複合フィルタ3410は、通常、所与の分解能を得るのにより低速の走査を必要とする。
【0126】
本発明による走査手続きによってイメージが獲得された後、対応するピクセル位置、すなわち、同じシーン・ポイントを表すピクセル位置において獲得されたデータが、処理されるイメージの各ピクセルにおける高いダイナミック・レンジ強度の値、偏光状態の値、深度の値、およびカラーの値を抽出するために処理される。各シーン・ポイントに関して収集されたすべての生のデータのマージを可能にするため、イメージのシーケンスが位置合わせされる。
【0127】
図35Aは、シーン・ポイントからの光が、それぞれのスナップショット3502、3504、3506、3508、および3510の中のピクセル位置3522、3524、3526、3528、および3530において検出されるスナップショット3502、3504、3506、3508、および3510のシーケンスを示している。各スナップショットの中でシーン・ポイントを表すピクセルがどれであれ、その位置を決定することにより、図35Bで示すとおり、スナップショット3502、3504、3506、3508、および3510を数学的に揃えることができ、それぞれのピクセル位置3522、3524、3526、3528、および3530に対応するデータを処理して、本発明による様々なイメージ・モザイク化技法に関連して前述したとおり、より優れたダイナミック・レンジ、スペクトル情報、偏光情報、および/または深度情報を有する向上した品質のピクセルを生成することができる。位置合わせ手続きは、以下の手法の1つまたは複数を含むことが可能である。
【0128】
1.フレーム間の動きは、既知であることが可能である。これは、撮像システムが、モータ上に取り付けられ、その速度が、連続するイメージ間のビュー方向のシフトの点で較正される場合、そうである。また、位置が監視されるサテライト、航空機、またはその他の輸送手段から撮られたイメージに関してもそうである。
【0129】
2.イメージは、例えば、イメージの中の制御パッチをマッチングすることにより、手作業で位置合わせすることができる。このパッチは、通常、イメージ・フィーチャからの光の特性の変更に対して堅牢である形態を有する顕著なイメージ・フィーチャを含む。言い換えれば、制御パッチの形状は、異なる波長帯域、異なる偏光状態、および広い範囲の光の強度分布において同様である。
【0130】
3.イメージは、項目2で説明した制御パッチを追跡することによって自動的に位置合わせすることができる。そのような位置合わせ手続きは、周知である。一部の方法は、フィーチャのより高レベルの記述を使用する。ただし、ほとんどの手法は、パッチ間で相関を最大化するか、または違いを最小化する。そのような方法は、通常、フレーム間でイメージが経る変化が小さい場合、より高いパフォーマンスを示す。そうでなければ、類似性の測定は、失敗する可能性がある。例えば、λ=630ナノメートルにおけるシーンの内容が、λ=400ナノメートルにおける内容と全く関連がない可能性がある。ただし、大きな量で違わない波長を使用してイメージがキャプチャされ、イメージをキャプチャするのに使用された光の波長帯域が十分に広い場合には、連続するイメージは、通常、マッチさせるのを可能にするのに十分なだけの類似性を有する。
【0131】
4.イメージは、最良の大域的マッチを提供するワーピング・パラメータをイメージの間で探し出すことによって自動的に位置合わせすることができる。そのような手法は、周知である。マッチングを行うための一般に使用される基準には、MSE基準を質的に変形させたもの、堅牢な統計誤り基準、および相関が含まれる。そのような方法は、フレーム間でイメージが経る変化が小さい場合、通常、より高いパフォーマンスを示すことで、項目3の方法と同様である。そのような手法は、イメージの効率的な粗−細間(coarse−to−fine)比較および位置合わせを提供する。
【0132】
5.フレーム間でイメージが経る変化が大きい場合、マッチング問題は、異なるセンサを使用して撮られたイメージを位置合わせする際に遭遇する問題と同様なものと見なすことができる。フレーム間で、シーンは、イメージャの視野全体を移動するように見えるが、マスクが特徴として、イメージを支配する傾向にあり、これにより、そのようなアルゴリズムが、正しいものより小さいイメージの並進を位置合わせすること、または全く並進を位置合わせしないことさえ生じる傾向がある。以上の問題に対する可能な解決策は、項目3の方法と項目4の方法を組み合わせることであるのが、周知である。そのような組み合わせられた方法では、各イメージを高域フィルタにかけて、イメージの中で不変である可能性がより高い顕著なフィーチャに対する依拠を強める。位置合わせは、イメージ間の大域的ワーピング・パラメータを最適化しながら、粗−細間手続きを使用して行う。
【0133】
6.マルチセンサ・システムにおいてなど、変化が大きくてもイメージを位置合わせする別の一般的な仕方は、マッチングのための基準として、相互情報、すなわち、イメージ間のフィーチャの類似性を使用することである。この方法は、一般に、イメージが、統計的に完全には独立でないことを必要とし、これは、通常、有効な想定である。
【0134】
一部のケースでは、マッチングを容易にするため、フィルタの効果をある程度、補償することが可能である。例えば、イメージャが、変化する密度のフィルタを使用するものと想定する。そのようなフィルタは、視界全体にわたって変化するMで、視界の各部分を1/Mに減衰させるマスクとして作用する。マスクは、この場合、乗法的であるので、マスク関数Mを加法的な成分にするため、各イメージの対数を計算するのが有益である可能性がある。次に、結果の対数のイメージを高域フィルタにかけることにより、マスクの効果を小さくすることができる。というのは、マスクは、通常、ゆっくりと変化するからである。Mの推定値が、位置合わせ手続きが開始する前に利用可能である場合には、この手続きを開始する前に、1/Mの対応する値で各イメージの各ピクセル値を増幅することができる。このステップにより、時間的に一定であるマスクによって生じることが可能な、動きの推定に対するバイアス効果が軽減される。強い減衰に起因してより暗くなった測定は、センサによって量子化された後、比較的雑音が多い傾向にある。イメージを比較し、位置合わせする際、この減衰に依存する不確定性を考慮に入れることが好ましい。
【0135】
また、個々のイメージのピクセル格子より高い密度で重なり合うエリアがサンプリングされる場合、位置合わせは、ピクセルより微細な精度で行うのが可能であることに留意されたい。したがって、空間的なスーパー分解能を、シーン・ポイントの多次元プロパティを導出するのと同時に、またはその導出に加えて得ることができる。
【0136】
例としてのアルゴリズムは、不確定性ΔMを伴うマスクMの粗い推定値に基づく。1/Mの推定値を使用してイメージをフラット・フィールド化する。前述したとおり、非常に暗くなるように減衰させられた(特にゼロに量子化された)ピクセルは、マップ反転に起因して雑音が多くなる。したがって、すべての以降のアルゴリズムでは、測定値を比較し、区別し、マージする際、その測定値の不確定性を考慮に入れることが好ましい。この方法は、以下の原理に基づく。
【0137】
1.1/Mによる粗いフラット・フィールド化。M=1であるとき、検出器に当たる光の強度をIとする。Iは、Idetector minの単位で測定されて、無次元になる。光学フィルタリングの後に検出器に当たる光は、g(x,y)=M(x,y)I(x,y)である。各測定g±Δgに関して、シーン放射照度I±ΔIが推定される。1次近似を使用して不確定性が伝播される。
【0138】
2.高いダイナミック・レンジのイメージが使用されるので、暗いシーン・ポイントにおける誤りは、明るいものと同程度に有意であると見なされる。例えば、明るいポイントにおける5%の誤りに、暗いポイントにおける等価の誤りと同じ量のペナルティが課せられなければならない。各ピクセルの明るさに合わせて調整するため、それぞれの測定されたシーン放射輝度のlog、すなわち、s=logIを計算して、s±Δsをもたらす。
【0139】
3.粗−細間パラダイム。周知のとおり、位置合わせの信頼できる効率的な手法は、イメージのピラミッド(マルチ分解能)表現を使用することである。粗い空間分解能レベルでイメージを位置合わせし、ワープさせた後、粗い動きの推定値が、初期条件として作用して、より細かいスケールにおける変形推定等が向上する。ただし、データの不確定性を無視した従来の方法とは対照的に、本発明の手続きは、sのイメージの最大尤度ピラミッドを作成する。すなわち、このピラミッドの各レベルで、寄与するピクセルの不確定性を考慮して、ある近傍を表す値が、最も尤度の高い値である。
【0140】
4.位置合わせの尤度を最大化すること。測定値sは、ガウス分布を有するものと推定される(ただし、この方法は、ガウス分布には限定されない)。最良の位置合わせは、イメージ間のマハラノビス距離を最小化するものである。
【0141】
5.モザイクに対する位置合わせ。ペアのイメージだけを位置合わせすることは、全体的な座標系における推定されたイメージ位置の誤りが累積することにつながる。したがって、シーケンスの中のそれぞれの新しいイメージは、好ましくは、最新で更新されたモザイクに位置合わせし、次に、その更新されたモザイクにマージする。
【0142】
このアルゴリズムは、以下のとおりさらに詳細に説明される。検出器は、ダイナミック・レンジ内の応答R(非線形であることが可能な)を有し、したがって、ピクセルにおけるイメージ値g〜は、以下のとおりである。
【0143】
【数28】
応答を線形化すると、検出器における推定の強度g^は、
【数29】
であり、したがって、
【数30】
である。
【0144】
推定のマスクが、測定された信号とは独立であるものと想定すると、
【数31】
であり、ただし、Δg〜=0.5であるものと想定する。というのは、カメラの出力が、整数の形である(8ビットの検出器の場合、0〜255)からである。暗いポイント(I=0である)におけるlog演算が不安定になる可能性を回避するため、後続の計算から暗いポイントを除去することができる。したがって、計算のため、Iではなく、s=log(1+I)を使用することが好ましい。いずれにしても、
【数32】
である。
【0145】
検出器の応答Rが対数である場合、数式(29)〜(32)を使用する必要がないので、sは、g^に等しく設定することができる。飽和していると見なされるあらゆるピクセル(例えば、8ビットの検出器の場合、255に近いg^)は、非常に不確定なものとして扱われる。したがって、対応するΔsは、非常に大きい数(すなわち、システムのダイナミック・レンジ外)になるように設定される。
【0146】
sの測定値は、ガウス形であるものと想定する。したがって、2つの独立した測定値s1±Δs1およびs2±Δs2に関して、値seに関するlog尤度(log−likelihood)は、以下のような挙動をする。
【0147】
【数33】
seに関する最大尤度の解は、マハラノビス距離Eを以下のとおり、最小化するものである。
【0148】
【数34】
ただし、
【数35】
である。
【0149】
次に、このシーン・ポイントに対応するイメージ測定に関する距離の値は、以下のとおりである。
【0150】
【数36】
イメージの中のすべてのピクセルが独立であると想定すると、全部のフレーム、またはピクセルの任意の他のサブグループに関する距離の測定値E^totalは、以下のとおりである。
【0151】
【数37】
上記の目的関数による2つのフレーム間(または新しいフレームと既存のモザイクの間)の最良の位置合わせは、E^totalを最小にするものである。この場合、測定値s1およびs2の各ペアは、対応するピクセルにおけるイメージの値に対応する。
【0152】
E^totalは、一般に、ピクセルの数とともに増大することに留意されたい。これにより、数式(37)の合計におけるピクセルの数を最小化する方向でバイアスがかかり、イメージ間の重なり合いが小さくなる可能性がある。この効果に対抗するため、重なり合うエリアにおけるピクセルの数で、またはΔstotal −1またはΔstotal −2で数式(37)を正規化することができ、ただし、
【数38】
である。
【0153】
異なる測定値間または異なるピクセル間の統計的な依存関係を無視することができる場合には、E^2およびE^total 2に関する数式を一般化して、測定値の分散だけでなく、測定値の共分散マトリックスを使用することができる。
【0154】
位置合わせをより堅牢で効率的にするため、粗い分解能から細かい分解能まで階層式に位置合わせを行う。レベルに依存する幅を有する核(レベルが、より高い/より粗いほど、元のイメージに対して作用する核の幅が広くなる)を使用してイメージを低域フィルタにかけた後、そのイメージを2次サンプリングすることにより、特定のピラミッド・レベルにおけるイメージの粗い表現を得ることができる。いずれにしても、この表現におけるピクセルの値は、以下のとおり、測定されたピクセルの重み付けされ、正規化された合計である。
【0155】
【数39】
ただし、ωkは、ピクセル値Skに関する重みである。
【0156】
本明細書の考察は、ピクセルが独立であると見なすことができる、元の十分な分解能のイメージからのピラミッド・レベルの構成について述べていることに留意されたい。これは、導出を簡単にしておくために行っている。ただし、通常、ピラミッドは、反復式に構成され、その場合、中間レベルにおけるピクセルは、統計的に独立ではない。反復プロセスにおいてさらなる精度が求められる場合、重み付けは、中間レベルにおけるピクセルの分散だけでなく、その近傍の十分な共分散マトリックスにも依拠しなければならない。したがって、このマトリックスは、ピラミッドを上るようにも伝播されなければならない。
【0157】
従来のピラミッドでは、重みωkは、ガウス核αkの値に等しい。ただし、本発明の方法では、数式(39)は、数式(34)の一般化と見なすことができる。ピクセルに割り当てられるべき重みωkは、ガウス重みαkが減少するのと、不確定性Δskが増大するのとの両方につれて、線形に減少する。したがって、ωk=αk/Δsk 2であり、かつ
【数40】
である。
【0158】
前述した最大尤度ピラミッドでは、各分解能レベルにおける表現が、各ピクセルにおける重み付きの平均値だけでなく、各ピクセルの値の不確定性も含む。より小さい不確定性を有するポイントが、このピラミッドではより大きな重みを受けるので、不確定なエリア(飽和した領域または非常に暗いポイントなどの)は、より粗いレベルでは低い重要度を有し、またその表現が、隣接の安定したポイントによってより大きな影響を受ける。したがって、1つの値による領域の表現が、より信頼できるものになる。したがって、各スケールにおいてs±Δsの表現を使用することにより、マッチの尤度を最大化することによってイメージの効率的な位置合わせが可能になる。
【0159】
前述した手続きは、イメージ・シーケンスを位置合わせし、マージする唯一のやり方ではないことに留意されたい。例えば、各ポイントにおける値を判定するためにその他の重みを使用することができ、あるいは各ポイントの単一の良好な測定値を使用してそのポイントを表現することができる。動きのフィールドがパラメータ設定され、中性密度マスクが、時間の経過とともに変化せず、またシーンが、静的である場合、マスク、動き、および未知のシーンのすべてのパラメータを単一の最適化問題として提示することができる。
【0160】
1組のイメージがキャプチャされ、位置合わせされて、またイメージャ特性が分かっている(例えば、較正により)と、本発明によるアルゴリズムが、シーンの各ポイントまたは各小さい領域を表す少なくとも1つのデータ(例えば、ピクセル)を生成する。そのようなマージ手続きは、元のイメージのそれぞれからの、表現されるシーン・ポイントに対応する特定のピクセルを使用して、代表的ピクセルを生成する。マージ手続きの選択は、通常、どのシーン特性が、例えば、明るさ、カラー、偏光、または深度が、撮像されているかに依存する。
【0161】
例えば、空間的に変化する減衰を使用して撮られた強度(すなわち、明るさ)イメージをヒューズするため、好ましくは、以下のガイドラインを使用する。
【0162】
1.ポイントに関して選択される値は、最も尤度の高いもの、したがって、データ・ポイントまでのマハラノビス距離を最小化するものである。したがって、数式(34)および(35)は、sk=Ikとともに使用し、ただし、Ik=g^k/Mである。
【0163】
2.前述したとおり、生のイメージの中の飽和したポイント(8ビットのカメラでは、g^が、255に近い)に、非常に大きい不確定性を割り当てる。
【0164】
3.シーム最小化手続きを使用して、イメージ境界上に現れる可能性がある見た目のよくないシームを回避する。モザイクを形成するイメージの境界上で、異なるデータ源を使用して推定されたポイント間の遷移が存在する。モザイクからシームを除去する多数のやり方が存在する。1つの手法は、「最適な」シーム・ライン、すなわち、観察者にとって最も目立たないシーム・ラインを探すことである。最適なシーム・ラインを選択する手続きは、当技術分野で広く使用されている。別の手法は、イメージの中心または境界に対するピクセル位置に従ってイメージに重みが付けられるフェザリング手続きを使用することである。この重み付けは、項目1で説明した重み付きの平均化に容易に組み込むことができ、ピラミッドの構成における重みの前述した使用と同様である。例えば、イメージの境界近くで∞にまで平滑に増大する係数を不確定性に掛けることができる。
【0165】
4.また、シームは、不確定性の急な変化が存在し、一方、g〜の変化は、普通、小さい場合、飽和したエリアの境界でも通常、現れる。そのようなシームは、上記の項目3で述べたような手法を使用して除去することができる。以下の手続きを使用して飽和したエリアの解像度を平滑化することが好ましい。「低い飽和の値」aを定義する(例えば、8ビットのカメラの場合、230)。次に、「高い飽和の値」b(例えば、250)を定義する。g〜>bである場合、ピクセルは、飽和しているものと見なされる。b≧g〜>aであり、かつそのポイントが、飽和したポイントに隣接している場合、ポイントは、「飽和関連」であると見なされる。b≧g〜>aであり、かつそのポイントが、「飽和関連」ポイントに隣接している場合、やはり、ポイントは、「飽和関連」であると見なされる。したがって、「飽和関連」であるポイントは、常に、飽和したポイントに結び付いたグループに含まれる。したがって、この手続きは、飽和したポイントに関連していない強度のg〜(g〜>a)には影響を与えない。「飽和関連」であると宣言されたすべてのポイントが見つかった後、そのポイントの不確定性に≒(b−a)/(b−g〜)を掛けるか、または飽和した値に達するにつれ、通常の不確定性(1の係数が掛けられた)から非常に大きい不確定性までの遷移を漸進的に行う何らかのその他の関数を掛ける。
【0166】
本発明によるデータのマージは、前述した例としての手続きに限定されないことに留意されたい。データは、堅牢な統計の方法を使用して異常値の効果を低下させて、または反復投影法を使用してマージすることもできる。また、シームの除去は、当技術分野で周知のとおり、マルチ分解能手法で、すなわち、いくつかの異なる分解能でイメージを分析することにより、行うこともできる。
【0167】
また、前述したガイドライン3および4は、高いダイナミック・レンジのモザイクを生成するのに不可欠ではなく、単に結果のイメージをより見栄えよくするために使用していることにも留意されたい。さらなる方法には、(1)各ポイントの単一の「良好な」測定値だけをそのポイントに関する代表値として選択すること、および(2)最大コントラストを生じさせる値を選択すること(例えば、複数のスケールで[説明せよ])が含まれる。
【0168】
偏光データの場合、イメージ・ポイントは、次のとおり分析される。長円形の偏光成分を無視することができるものと想定し、各ポイントに関して3つの測定値を使用すると、数式(24)を使用して各ピクセルに関する偏光状態の成分が導出される。必要最小限の数より多くのイメージが使用される場合には、重複決定されたセットの数式を使用することができる。このセットの数式は、2乗誤差を最小化することによって解かれ、以下の数式がもたらされる。
【0169】
【数41】
次に、この手続きは、I=2C、A=√[AC 2+AS 2]、P=A/C、かつθ=sin−1(AS/A)=cos−1(AC/A)であるように設定する。
【0170】
前述した手続きは、データを使用して偏光情報を抽出することができる唯一のやり方ではないことに留意されたい。例えば、堅牢な統計を使用して偏光を推定することができる。P、θ、およびIは、直接に、すなわち、中間変数AC、AS、およびCをバイパスすることによって推定することができる。投影反復法(例えば、IおよびPが正になるように強制する)を使用することができ、あるいは、偏光情報を抽出するのではなく、当技術分野で周知のとおり、イメージのラプラシアン・ピラミッド表現を比較し、最大値を有する表現を選択することにより、最大コントラストをもたらす仕方でイメージをマージするだけで十分である可能性がある。
【0171】
深度情報を導出するため、従来の焦点深度技法で行われるとおり、最良の焦点を与えるイメージを選択することで、対応するポイントに対して焦点深度手続きを行う。次に、選択されたイメージをマージして、「鮮明な」ピクセルだけがモザイクに寄与するようにすることができる。例えば、ラプラシアンでイメージの鮮明度を測定する場合には、以下のとおりである。
【0172】
【数42】
ただし、(x,y)は、静止(外部世界)座標系における座標であり、またp〜は、フレームの指標である。ただし、マージは、ピクセル・レベルだけで行う必要はなく、複数の分解能スケールで行うことができる。さらに、この技法は、焦点に関するラプラシアン基準だけに限定されず、その他の焦点基準も適用することができる。
【0173】
スペクトルを導出するため、異なる帯域における同じシーン・ポイントの対応する測定値を連結する。フィルタが帯域フィルタではなく、高域フィルタまたは低域フィルタである場合には、隣接する測定値の区別により、狭帯域の中のスペクトル情報を導出することができる。スペクトルは、様々な幅の帯域を使用して測定することができ、また複数の帯域から構成されることさえ可能である。高分解能スペクトルは、帯域の構造、スペクトルが正であること、およびその他の制約を考慮して、生のデータによって提供されるセットの数式を解くことによって抽出する。さらに、既知の光源および既知の材料のスペクトルに関する先験的な情報を使用して、どのタイプの既知の光源および照明成分が、測定値の相対的な強度、温度、および/または空間的場所を含め、測定値と整合性を有するかを判定することが可能である。
【0174】
本明細書で説明する本発明の方法を使用して、任意のビデオ・カメラ(または静止カメラ)のダイナミック・レンジを拡張することができ、そのカメラのスペクトル分解能を大幅に高めることができ、かつ/またはカメラのレンズの前に単にフィルタを取り付けることにより、またはカメラの既存のけられ特性を利用することによっても、入ってくる信号の偏光状態および焦点プロパティを分解することができる。
【0175】
シーンのスペクトル内容の知識を使用して、写真が撮られた時点にシーンを照らしていた光源に関する情報を推定することができ、また同知識を使用して、被写体の反射率を推定することもできる。この結果、様々なシミュレートされた照明源および照明特性を使用してシーンのイメージをレンダリングすることができる。例えば、白熱灯の下で写真撮影された被写体をシミュレートされた形で、あたかも蛍光灯の下で、または日照の空の下で写真撮影されたかのようにレンダリングすることができる。
【0176】
さらに、ほとんどの検出器のスペクトル応答は、検出器においてRGBフィルタが使用されるときでさえ、人間の肉眼のものとは非常に異なることに留意されたい。フィルムおよびカラープリントも、同様の限界を抱えている。したがって、シーンの実際のスペクトル内容を知ることにより、シーンを直接に見ている場合、人間の肉眼が感知することになるものにより近い形でイメージをレンダリングすることができるようになる。また、通常の肉眼の反応とではなく、フィルム、スクリーン、またはプリンタの応答と整合するようにイメージをレンダリングすることもできる。
【0177】
本発明の技法は、モザイクを作成しながら、イメージャの光学ダイナミック・レンジを拡張する。ダイナミック・レンジは、周囲のポイントの明るさに関わらず、シーンの中の各ポイントに関して拡張される。イメージャは、内部で動く部品を有している必要は全くなく、イメージャの動きは、通常のイメージャ・モザイクを作成するのに必要とされるものと同じである。また、本発明の技法をアクティブCMOS検出器またはAGCなどのダイナミック・レンジを拡張するための他の方法と組み合わせて、さらなる拡張を提供することもできる。光学ダイナミック・レンジは、密度フィルタが、より広い範囲の密度を有する場合、より広くなることに留意されたい。例えば、M∈[10−4,1]である場合、検出器のダイナミック・レンジは、その本来の範囲をおよそ13ビット超えて拡張される(80dBの向上と等価である)。いくつかのそのようなフィルタを連続して付けることにより、空間的に変化する減衰効果が高まる。というのは、フィルタ密度は、加算的プロパティであるからである。
【0178】
焦点深度を拡張することにより、広い距離範囲にわたって鮮明なイメージを作成することができるようになる。偏光データの獲得により、反射視覚効果および半反射視覚効果を除去すること、または高めることができるようになる。
【0179】
当分野の技術者には、図1〜6、35A、および35Bで示した方法を、付録のプログラムによって例示される適切なソフトウェアの制御の下で動作する様々な標準のコンピュータ・プラットフォーム上で実施できることが理解されよう。一部のケースでは、標準のパーソナル・コンピュータまたはワークステーションのバス上に存在する周辺カードなどの専用コンピュータ・ハードウェアにより、前述した方法の動作上の効率を高めることができる。
【0180】
図37および38は、本発明を実施するのに適した例としてのコンピュータ・ハードウェアを示している。図37を参照すると、コンピュータ・システムが、プロセッサ・セクション3710と、ディスプレイ3720と、キーボード3730と、マウスとを含む。また、このシステムは、イメージ媒体3700を走査するための光学スキャナ3750、およびカメラ3780などの他の入力デバイスを含むことも可能である。さらに、システムは、プリンタ3760を含む。このコンピュータ・システムは、通常、データおよびアプリケーション・ソフトウェアを記憶するための、磁気媒体(例えば、ディスケット)または光媒体(すなわち、CD−ROM)などのコンピュータ可読媒体に対して読取りおよび書込みを行うことができる1つまたは複数のディスク・ドライブ3770を含む。
【0181】
図38は、プロセッサ・セクション3710をさらに示す機能ブロック図である。プロセッサ・セクション3710は、一般に、処理ユニット3810と、制御論理3820と、メモリ・ユニット3830と、ハード・ディスク・ドライブと、インターフェースとを含む。プロセッサ・セクション3710は、タイマ3850(すなわち、クロック回路)と、入力/出力ポート3840とをさらに含む。また、プロセッサ・セクション3710は、処理ユニットにおいて使用されるマイクロプロセッサに依存して、コプロセッサ3860も含むことが可能である。制御論理3820は、処理ユニット3810と連携して、メモリ・ユニット3830と入力/出力ポート3840の間の通信を扱うのに必要な制御を提供する。タイマ3850は、処理ユニット3810および制御論理3820のためのタイミング基準信号も提供する。コプロセッサ3860は、リアルタイムで複雑な計算を行う拡張された能力を提供する。今日のコンピュータは、コプロセッサよりも複数の処理ユニットを有する可能性の方が高い。
【0182】
メモリ・ユニット3830は、揮発性メモリや不揮発性メモリ、ならびに読取り専用メモリやプログラマブル・メモリなどの様々なタイプのメモリを含むことが可能である。例えば、図38で示したとおり、メモリ・ユニット3830は、読取り専用メモリ(ROM)3831、電気的に消去可能なプログラマブル読取り専用メモリ(EEPROM)3832、およびランダムアクセス・メモリ(RAM)3833を含むことが可能である。様々なコンピュータ・プロセッサ、メモリ構成、データ構造等を使用して本発明を実施することができ、また本発明は、特定のプラットフォームには限定されない。例えば、図37では、コンピュータ・システムの一部としてプロセッサ・セクション3710を示しているが、プロセッサ・セクション3710および/またはその図示した構成要素は、静止画カメラまたは動画カメラ(例えば、ビデオ・カメラ)などのイメージャの中に含まれることも可能である。
【0183】
付録のソース・コード・リストで例示されるソフトウェアは、当分野の技術者には理解されるとおり、多種多様なプログラミング言語で書くことができる。本発明による例としてのソフトウェア・アルゴリズムは、Matlab(商標)言語で書かれている。この例としてのアルゴリズムのいくつかのためのコンピュータ・ソース・コードを本明細書に添付した付録で提供している。
【0184】
本発明は、特定の例としての実施形態に関連して説明してきたが、頭記の特許請求の範囲に記載した本発明の趣旨および範囲を逸脱することなく、開示した実施形態に様々な変更、置換、および改変を行うのが可能であることを理解されたい。
【図面の簡単な説明】
【図1】
本発明によるイメージ・モザイク化のための例としての手続きを示す流れ図である。
【図2】
本発明による例としての較正手続きを示す流れ図である。
【図3】
本発明によるさらなる例としての較正手続きを示す流れ図である。
【図4】
本発明によるイメージ・モザイク化のための例としての手続きを示す流れ図である。
【図5】
本発明による例としてのイメージ・モザイク化技法を示すブロック図である。
【図6】
本発明による例としてのイメージ・モザイク化システムを示すブロック図である。
【図7】
本発明によるイメージ・モザイク化のためのさらなる例としてのシステムを示す図である。
【図8】
本発明によるイメージ・モザイク化のためのさらに別のシステムを示す図である。
【図9】
本発明によるイメージ・モザイク化のためのさらなる例としてのシステムを示す図である。
【図10】
本発明によるイメージ・モザイク化のためのさらに別の例としてのシステムを示す図である。
【図11】
本発明によるイメージ・モザイク化のためのさらなるシステムを示す図である。
【図12】
本発明によるイメージ・モザイク化のための別の例としてのシステムを示す図である。
【図13】
本発明によるイメージ・モザイク化のためのさらに別の例としてのシステムを示す図である。
【図14】
本発明によるイメージ・モザイク化のためのさらなる例としてのシステムを示す図である。
【図15】
本発明によるイメージ・モザイク化のためのさらに別の例としてのシステムを示す図である。
【図16】
本発明によるイメージ・モザイク化のためのさらなる例としてのシステムを示す図である。
【図17】
本発明によるイメージ・モザイク化のためのさらなるシステムを示す図である。
【図18】
本発明によるイメージ・モザイク化のための別の例としてのシステムを示す図である。
【図19】
本発明によるイメージ・モザイク化のためのさらなる例としてのシステムを示す図である。
【図20】
図20Aは、本発明によるイメージ・モザイク化のための例としての手続きの空間範囲および強度範囲を示すグラフである。
図20Bは、本発明によるイメージ・モザイク化のためのさらなる例としての手続きの空間範囲および強度範囲を示すグラフである。
【図21】
本発明によるイメージ・モザイク化のためのさらに別の例としての手続きの空間範囲および強度範囲を示すグラフである。
【図22】
図22Aは、本発明による例としてのフィルタの密度プロファイルおよびそれに対応する有効マスク特性を示すグラフである。
図22Bは、本発明によるさらなる例としてのフィルタの密度プロファイルおよびそれに対応する有効マスク特性を示すグラフである。
図22Cは、本発明によるさらに別の例としてのフィルタの密度プロファイルおよびそれに対応する有効マスク特性を示すグラフである。
【図23】
本発明によるイメージ・モザイク化のための例としてのシステムを示す図である。
【図24】
図24Aは、本発明による例としてのイメージャ付加物の有効密度プロファイルを示すグラフである。
図24Bは、図24Aで示したプロファイルの対数関数を示すグラフである。
【図25】
図25Aは、本発明による例としてのフィルタの中央波長プロファイルおよびそれに対応する有効マスク特性を示すグラフである。
図25Bは、本発明によるさらなる例としてのフィルタの中央波長プロファイルおよびそれに対応する有効マスク特性を示すグラフである。
図25Cは、本発明によるさらに別の例としてのフィルタの中央波長プロファイルおよびそれに対応する有効マスク特性を示すグラフである。
【図26】
図26Aは、本発明による例としてのフィルタの遮断波長プロファイルおよびそれに対応する有効マスク特性を示すグラフである。
図26Bは、本発明によるさらなる例としてのフィルタの遮断波長プロファイルおよびそれに対応する有効マスク特性を示すグラフである。
図26Cは、本発明によるさらに別の例としてのフィルタの遮断波長プロファイルおよびそれに対応する有効マスク特性を示すグラフである。
【図27】
本発明による高域フィルタ・アレイを有する例としてのイメージャの感度特性の一部分を示すグラフである。
【図28】
本発明による狭帯域フィルタを有する例としてのイメージャの感度特性を示すグラフである。
【図29】
本発明による1組の広帯域フィルタを有する例としてのイメージャの感度特性を示すグラフである。
【図30】
図30Aは、本発明による例としての偏光フィルタ・アレイを示す図である。
図30Bは、本発明による例としての偏光フィルタの製造を示す図である。
図30Cは、本発明によるさらなる例としての偏光フィルタの製造を示す図である。
【図31】
例としてのカメラの焦点特性を示す図である。
【図32】
図32Aは、本発明による例としての屈折要素の屈折プロファイルを示すグラフである。
図32Bは、本発明によるさらなる例としての屈折要素の屈折プロファイルを示すグラフである。
図32Cは、本発明によるさらに別の例としての屈折要素の屈折プロファイルを示すグラフである。
【図33】
本発明による1組の光学要素の例としての構成を示す図である。
【図34】
本発明による例としての光学要素を示す図である。
【図35】
図35Aは、本発明によるイメージ部分位置合わせのための例としての手続きを示す図である。
図35Bは、本発明によるイメージ部分位置合わせのためのさらなる例としての手続きを示す図である。
【図36】
図36Aは、本発明による例としてのマスクの減衰プロファイルを示すグラフである。
図36Bは、図36Aで示した減衰プロファイルの対数特性を示すグラフである。
【図37】
本発明によるイメージ・モザイク化アルゴリズムを実施するためのコンピュータ・システムを示す図である。
【図38】
図37のコンピュータ・システムで使用するためのプロセッサ・セクションを示すブロック図である。
【添付】
モザイク化、フラット・フィールド化、イメージのマージ、高ダイナミック・レンジ、マルチ分解能の位置合わせ、最大尤度ピラミック、減衰マスクの自己較正、シームおよび飽和した領域のフェザリング等のためのMATLABソース・コード
Claims (20)
- 撮像を行うための方法であって、
イメージャを使用して第1のイメージ値を生成するための第1のセットの測定を行う第1のステップであって、前記第1のセットの測定が、第1のシーン領域からの第1の放射線の束の強度の少なくとも1回の測定を含み、前記第1の放射線の束が、前記イメージャの基準フレームの中で第1の主光線を有し、前記イメージャが、前記第1の主光線を有する放射線の束に関して第1の強度感度特性を有し、また前記イメージャが、前記第1の主光線を有する放射線の束の強度に関して第1のダイナミック・レンジを有するステップと、
前記イメージャを使用して第2のイメージ値を生成するための第2のセットの測定を行う第2のステップであって、前記第2のセットの測定が、前記第1のシーン領域から放出される第2の放射線の束の強度の少なくとも1回の測定を含み、前記第2の放射線の束が、前記イメージャの基準フレームの中で第2の主光線を有し、前記第2の主光線が、前記第1の主光線とは異なり、前記イメージャが、前記第2の主光線を有する放射線の束に関して第2の強度感度特性を有し、前記第2の強度感度特性が、前記第1の強度感度特性とは異なり、また前記イメージャが、前記第2の主光線を有する放射線の束の強度に関して第2のダイナミック・レンジを有するステップとを含み、さらに
前記第1の放射線の束の強度と前記第2の放射線の束の強度の少なくとも一方に関して前記イメージャの第3のダイナミック・レンジが関連している第3のイメージ値を生成するため、前記第1のイメージ値および前記第2のイメージ値にモザイク化演算を適用し、前記第3のダイナミック・レンジが、前記イメージャの前記第1のダイナミック・レンジと前記第2のダイナミック・レンジの少なくとも一方より大きいことを含む方法。 - 前記第1の放射線の束が、第1の電磁放射線の束を含み、また前記第2の放射線の束が、第2の電磁放射線の束を含む請求項1に記載の方法。
- 前記第1のステップと前記第2のステップの間で前記第1のシーン領域に対して前記イメージャを回転させること、および
前記第1のステップと前記第2のステップの間で前記第1のシーン領域に対して前記イメージャを並進させることの一方をさらに含む請求項1に記載の方法。 - 前記イメージャを較正することをさらに含む方法であって、
前記較正するステップが、
前記イメージャを使用して前記第1の主光線を有する第1の複数の放射線の束の強度の測定を行い、第1のセットの較正測定値を生成すること、および
a)前記第1のセットの較正測定値の合計と、b)前記第1のセットの較正測定値の平均の一方を決定することによって前記第1の強度感度特性の第1の推定値を判定すること、ならびに
前記イメージャを使用して前記第2の主光線を有する第2の複数の放射線の束の強度の測定を行い、第2のセットの較正測定値を生成すること、および
a)前記第2のセットの較正測定値の合計と、b)前記第2のセットの較正測定値の平均の一方を決定することによって前記第2の強度感度特性の第2の推定値を判定することを含む請求項1に記載の方法。 - 前記イメージャを較正することをさらに含む方法であって、
前記較正するステップが、
前記イメージャを使用して第4のイメージ値を生成するための第3のセットの測定を行い、前記第3のセットの測定が、第3の放射線の束の強度の少なくとも1回の測定を含み、前記第3の放射線の束が、第2のシーン領域から放出され、前記第1の主光線を有すること、および
前記イメージャを使用して第5のイメージ値を生成するための第4のセットの測定を行い、前記第4のセットの測定が、第4の放射線の束の強度の少なくとも1回の測定を含み、前記第4の放射線の束が、第2のシーン領域から放出され、前記第2の主光線を有することを含み、さらに
前記第1の強度感度特性と前記第2の強度感度特性の間の関係を推定するステップであって、a)前記第4のイメージ値と前記第5のイメージ値の差と、b)前記第4のイメージ値と前記第5のイメージ値の比の一方を決定することを含むステップを含む請求項1に記載の方法。 - 前記イメージャを使用して第4のイメージ値を生成するための第3のセットの測定を行い、前記第3のセットの測定が、第3の放射線の束の少なくとも1つの選択されたスペクトル成分の強度の少なくとも1回の測定を含み、前記第3の放射線の束が、前記第1のシーン領域から放出され、前記イメージャの前記基準フレームの中で第3の主光線を有し、前記イメージャが、前記第3の主光線を有する放射線の束に関して第1のスペクトル感度特性を有し、前記第1のスペクトル感度特性が、第1の波長感度帯域を有する帯域通過特性を含み、また、前記第3の放射線の束の前記少なくとも1つの選択されたスペクトル成分が、前記第1の波長感度帯域内の波長を有すること、および
前記イメージャを使用して第5のイメージ値を生成するための第4のセットの測定を行い、前記第4のセットの測定が、第4の放射線の束の少なくとも1つの選択されたスペクトル成分の強度の少なくとも1回の測定を含み、前記第4の放射線の束が、前記第1のシーン領域から放出され、前記イメージャの前記基準フレームの中で第4の主光線を有し、前記第4の主光線が、前記第3の主光線とは異なり、前記イメージャが、前記第4の主光線を有する放射線の束に関して第2のスペクトル感度特性を有し、前記第2のスペクトル感度特性が、第2の波長感度帯域を有する帯域通過特性を含み、前記第4の放射線の束の前記少なくとも1つの選択されたスペクトル成分が、前記第2の波長感度帯域内の波長を有し、また前記第2の波長感度帯域が、前記第1の波長感度帯域とは異なることをさらに含む請求項1に記載の方法。 - 前記イメージャを使用して第4のイメージ値を生成するための第3のセットの測定を行い、前記第3のセットの測定が、前記第1のシーン領域から放出される第3の放射線の束の少なくとも1つの選択された偏光成分の強度の少なくとも1回の測定を含み、前記第3の放射線の束が、前記イメージャの前記基準フレームの中で第3の主光線を有し、前記イメージャが、前記第3の主光線を有する放射線の束に関して第1の偏光感度特性を有し、前記第1の偏光感度特性が、第1の角範囲外の偏光角を有する放射線成分に対する感度がより低いことを含み、また前記第3の放射線の束の前記少なくとも1つの選択された偏光成分が、前記第1の角範囲内の偏光角を有すること、および
前記イメージャを使用して第5のイメージ値を生成するための第4のセットの測定を行い、前記第4のセットの測定が、第4の放射線の束の少なくとも1つの選択された偏光成分の強度の少なくとも1回の測定を含み、前記第4の放射線の束が、前記第1のシーン領域から放出され、前記イメージャの前記基準フレームの中で第4の主光線を有し、前記第4の主光線が、前記第3の主光線とは異なり、前記イメージャが、前記第4の主光線を有する放射線の束に関して第2の偏光感度特性を有し、前記第2の偏光感度特性が、第2の角範囲外の偏光角を有する信号成分に対する感度がより低いことを含み、前記第4の放射線の束の前記少なくとも1つの選択された偏光成分が、前記第2の角範囲内の偏光角を有し、また前記第2の角範囲が、前記第1の角範囲とは異なることをさらに含む請求項1に記載の方法。 - 前記イメージャを使用して第4のイメージ値を生成するための第3のセットの測定を行い、前記第3のセットの測定が、前記第1のシーン領域から放出される第3の放射線の束の強度の少なくとも1回の測定を含み、前記第3の放射線の束が、前記イメージャの前記基準フレームの中で第3の主光線を有し、また前記イメージャが、前記第3主光線を有する放射線の束に関して第1の焦点特性を有し、前記第1の焦点特性が、第1の焦点距離を含むこと、および
前記イメージャを使用して第5のイメージ値を生成するための第4のセットの測定を行い、前記第4のセットの測定が、前記第1のシーン領域から放出される第4の放射線の束の強度の少なくとも1回の測定を含み、前記第4の放射線の束が、前記イメージャの前記基準フレームの中で第4の主光線を有し、前記第4の主光線が、前記第3の主光線とは異なり、前記イメージャが、前記第4主光線を有する放射線の束に関して第2の焦点特性を有し、前記第2の焦点特性が、第2の焦点距離を含み、また前記第2の焦点距離が、前記第1の焦点距離とは異なることをさらに含む請求項1に記載の方法。 - 撮像を行うための方法であって、
イメージャを使用して第1のイメージ値を生成するための第1のセットの測定を行う第1のステップであって、前記第1のセットの測定が、第1のシーン領域から放出される第1の放射線の束の少なくとも1つの選択された偏光成分の少なくとも1回の測定を含み、前記第1の放射線の束が、前記イメージャの基準フレームの中で第1の主光線を有し、前記イメージャが、前記第1の主光線を有する放射線の束に関して第1の偏光感度特性を有し、また前記第1の偏光感度特性が、第1の角範囲外の偏光角を有する信号成分に対する感度がより低いことを含み、前記第1の放射線の束の前記少なくとも1つの選択された偏光成分が、前記第1の角範囲内の偏光角を有するステップと、
前記イメージャを使用して第2のイメージ値を生成するための第2のセットの測定を行う第2のステップであって、前記第2のセットの測定が、第1のシーン領域から放出される第2の放射線の束の少なくとも1つの選択された偏光成分の少なくとも1回の測定を含み、前記第2の放射線の束が、前記イメージャの前記基準フレームの中で第2の主光線を有し、前記第2の主光線が、前記第1の主光線とは異なり、前記イメージャが、前記第2の主光線を有する放射線の束に関して第2の偏光感度特性を有し、前記第2の偏光感度特性が、第2の角範囲外の偏光角を有する信号成分に対する感度がより低いことを含み、前記第2の放射線の束の前記少なくとも1つの選択された偏光成分が、前記第2の角範囲内の偏光角を有し、また前記第2の角範囲が、前記第1の角範囲とは異なるステップと、
前記イメージャを動かす第3のステップであって、
前記第1のステップと前記第2のステップの間で前記第1のシーン領域に対して前記イメージャを回転させること、
前記第1のステップと前記第2のステップの間で前記第1のシーン領域に対して前記イメージャを並進させること、および
前記第1のイメージ値および前記第2のイメージ値を使用して前記第1の放射線の束および前記第2の放射線の束の一方の偏光状態を判定することのどれかを含むステップとを含む方法。 - 前記第1の放射線の束が、第1の電磁放射線の束を含み、また前記第2の放射線の束が、第2の電磁放射線の束を含む請求項9に記載の方法。
- 撮像を行うための装置であって、
第1のイメージ値を生成するための第1のセットの測定を行うための第1のイメージャであって、前記第1のセットの測定が、第1のシーン領域から放出される第1の放射線の束の強度の少なくとも1回の測定を含み、前記第1の放射線の束が、前記イメージャの基準フレームの中で第1の主光線を有し、前記イメージャが、前記第1の主光線を有する放射線の束に関して第1の強度感度特性を有し、前記イメージャが、前記第1の主光線を有する前記放射線の束の強度に関して第1のダイナミック・レンジを有する、第1のイメージャと、
第2のイメージ値を生成するための第2のセットの測定を行うための第2のイメージャであって、前記第2のセットの測定が、前記第1のシーン領域から放出される第2の放射線の束の強度の少なくとも1回の測定を含み、前記第2の放射線の束が、前記イメージャの前記基準フレームの中で第2の主光線を有し、前記第2の主光線が、前記第1の主光線とは異なり、前記イメージャが、前記第2の主光線を有する放射線の束に関して第2の強度感度特性を有し、前記第2の強度感度特性が、前記第1の強度感度特性とは異なり、前記イメージャが、前記第2の主光線を有する前記放射信号セットの強度に関して第2のダイナミック・レンジを有する、第2のイメージャと、
前記第1の放射線の束の強度と前記第2の放射線の束の強度の少なくとも一方に関して第3のダイナミック・レンジが関連している第3のイメージ値を生成するため、前記第1の測定値および前記第2の測定値にモザイク化演算を適用するためのプロセッサであって、前記第3のダイナミック・レンジが、前記第1のダイナミック・レンジと前記第2のダイナミック・レンジの少なくとも一方より大きいプロセッサとを含む装置。 - 前記第1の放射線の束が、第1の電磁放射線の束を含み、また前記第2の放射線の束が、第2の電磁放射線の束を含む請求項11に記載の装置。
- 前記第2のイメージャが、前記第1のイメージャであり、前記第1のセットの測定が、第1の時刻より前に行われ、前記第2のセットの測定が、第2の時刻の後に行われ、前記第2の時刻が、前記第1の時刻より遅い装置であって、
前記第1の時刻と前記第2の時刻の間で前記第1のシーン領域および前記第2のシーン領域に対して前記第1のイメージャを回転させるための構成と、
前記第1の時刻と前記第2の時刻の間で前記第1のシーン領域および前記第2のシーン領域に対して前記第1のイメージャを並進させるための構成の一方をさらに含む請求項11に記載の装置。 - 第1のセットの較正測定値を生成するため、前記イメージャを使用して前記第1の主光線を有する第1の複数の放射線の束の強度を測定するためのプロセッサと、
a)前記第1のセットの較正測定値の合計を決定するためのプロセッサと、b)前記第1のセットの較正測定値の平均を決定するためのプロセッサの一方を含む、前記第1の強度感度特性の第1の推定値を決定するためのプロセッサと、
第2のセットの較正測定値を生成するため、前記イメージャを使用して前記2の主光線を有する第2の複数の放射線の束の強度を測定するためのプロセッサと、
a)前記第2のセットの較正測定値の合計を決定するためのプロセッサと、b)前記第2のセットの較正測定値の平均を決定するためのプロセッサの一方を含む、前記第2の強度感度特性の第2の推定値を決定するためのプロセッサとをさらに含む請求項11に記載の装置。 - 第4のイメージ値を生成するために第3のセットの測定を行うための第3のイメージャであって、前記第3のセットの測定が、第2のシーン領域から放出される第3の放射線の束の強度の少なくとも1回の測定を含み、前記第3の放射線の束が、前記第1の主光線を有する、第3のイメージャと、
第5のイメージ値を生成するために第4のセットの測定を行うための第4のイメージャであって、前記第4のセットの測定が、第2のシーン領域から放出される第4の放射線の束の強度の少なくとも1回の測定を含み、前記第4の放射線の束が、前記第2の主光線を有する、第4のイメージャと、
a)前記第4のイメージ値と前記第5のイメージ値の差を決定するためのプロセッサと、b)前記第4のイメージ値と前記第5のイメージ値の比を決定するためのプロセッサの一方を含む、前記第1の強度感度特性と前記第2の強度感度特性の間の関係を推定するためのプロセッサとをさらに含む請求項11に記載の装置。 - 第4のイメージ値を生成するために第3のセットの測定を行うための第3のイメージャであって、前記第3の測定セットが、前記第1のシーン領域から放出される第3の放射線の束の少なくとも1つの選択されたスペクトル成分の強度の少なくとも1回の測定を含み、前記第3の放射線の束が、前記イメージャの前記基準フレームの中で第3の主光線を有し、前記イメージャが、前記第3の主光線を有する放射線の束に関して第1のスペクトル感度特性を有し、前記第1のスペクトル感度特性が、第1の波長感度帯域を有する帯域通過特性を含み、前記第3の放射線の束の前記少なくとも1つの選択されたスペクトル成分が、前記第1の波長感度帯域内の波長を有する、第3のイメージャと、
第5のイメージ値を生成するために第4のセットの測定を行うための第4のイメージャであって、前記第4の測定セットが、前記第1のシーン領域から放出される第4の放射線の束の少なくとも1つの選択されたスペクトル成分の強度の少なくとも1回の測定を含み、前記第4の放射線の束が、前記イメージャの前記基準フレームの中で第4の主光線を有し、前記第4の主光線が、前記第3の主光線とは異なり、前記イメージャが、前記第4の主光線を有する放射線の束に関して第2のスペクトル感度特性を有し、前記第2のスペクトル感度特性が、第2の波長感度帯域を有する帯域通過特性を含み、前記第4の放射線の束の前記少なくとも1つの選択されたスペクトル成分が、前記第2の波長感度帯域内の波長を有し、前記第2の波長感度帯域が、前記第1の波長感度帯域とは異なる、第4のイメージャとをさらに含む請求項11に記載の装置。 - 第4のイメージ値を生成するために第3のセットの測定を行うための第3のイメージャであって、前記第3のセットの測定が、前記第1のシーン領域から放出される第3の放射線の束の少なくとも1つの選択された偏光成分の強度の少なくとも1回の測定を含み、前記第3の放射線の束が、前記イメージャの前記基準フレームの中で第3の主光線を有し、前記イメージャが、前記第3の主光線を有する放射線の束に関して第1の偏光感度特性を有し、前記第1の偏光感度特性が、第1の角範囲外の偏光角を有する信号成分に対する感度がより低いことを含み、前記第3の放射線の束の前記少なくとも1つの選択された偏光成分が、前記第1の角範囲内の偏光角を有する、第3のイメージャと、
第5のイメージ値を生成するために第4のセットの測定を行うための第4のイメージャであって、前記第4のセットの測定が、前記第1のシーン領域から放出される第4の放射線の束の少なくとも1つの選択された偏光成分の強度の少なくとも1回の測定を含み、前記第4の放射線の束が、前記イメージャの前記基準フレームの中で第4の主光線を有し、前記第4の主光線が、前記第3の主光線とは異なり、前記イメージャが、前記第4の主光線を有する放射線の束に関して第2の偏光感度特性を有し、前記第2の偏光感度特性が、第2の角範囲外の偏光角を有する信号成分に対する感度がより低いことを含み、前記第4の放射線の束の前記少なくとも1つの選択された偏光成分が、前記第2の角範囲内の偏光角を有し、前記第2の角範囲が、前記第1の角範囲とは異なる、第4のイメージャとをさらに含む請求項11に記載の装置。 - 第4のイメージ値を生成するために第3のセットの測定を行うための第3のイメージャであって、前記第3のセットの測定が、前記第1のシーン領域から放出される第3の放射線の束の強度の少なくとも1回の測定を含み、前記第3の放射線の束が、前記イメージャの前記基準フレームの中で第3の主光線を有し、前記イメージャが、前記第3の主光線を有する放射線の束に関して第1の焦点特性を有し、前記第1の焦点特性が、第1の焦点距離を含む、第3のイメージャと、
第5のイメージ値を生成するために第4のセットの測定を行うための第4のイメージャであって、前記第4のセットの測定が、前記第1のシーン領域から放出される第4の放射線の束の強度の少なくとも1回の測定を含み、前記第4の放射線の束が、前記イメージャの前記基準フレームの中で第4の主光線を有し、前記第4の主光線が前記第3の主光線とは異なり、前記イメージャが、前記第4の主光線を有する放射線の束に関して第2の焦点特性を有し、前記第2の焦点特性が、第2の焦点距離を含み、前記第2の焦点距離が、前記第1の焦点距離とは異なる、第4のイメージャをさらに含む請求項11に記載の装置。 - 撮像を行うための装置であって、
第1のイメージ値を生成するために第1のセットの測定を行うための第1のイメージャであって、前記第1のセットの測定が、第1のシーン領域から放出される第1の放射線の束の少なくとも1つの選択された偏光成分の強度の少なくとも1回の測定を含み、前記第1の放射線の束が、前記イメージャの基準フレームの中で第1の主光線を有し、前記イメージャが、前記第1の主光線を有する放射線の束に関して第1の偏光感度特性を有し、前記第1の偏光感度特性が、第1の角範囲外の偏光角を有する信号成分に対する感度がより低いことを含み、前記第1の放射線の束の前記少なくとも1つの選択された偏光成分が、前記第1の角範囲内の偏光角を有する、第1のイメージャと、
第2のイメージ値を生成するために第2のセットの測定を行うための第2のイメージャであって、前記第2のセットの測定が、第1のシーン領域から放出される第2の放射線の束の少なくとも1つの選択された偏光成分の強度の少なくとも1回の測定を含み、前記第2の放射線の束が、前記イメージャの前記基準フレームの中で第2の主光線を有し、前記第2の主光線が、前記第1の主光線とは異なり、前記イメージャが、前記第2の主光線を有する放射線の束に関して第2の偏光感度特性を有し、前記第2の偏光感度特性が、第2の角範囲外の偏光角を有する信号成分に対する感度がより低いことを含み、前記第2の放射線の束の前記少なくとも1つの選択された偏光成分が、前記第2の角範囲内の偏光角を有し、前記第2の角範囲が、前記第1の角範囲とは異なり、前記第1のセットの測定が、第1の時刻より前に行われ、前記第2のセットの測定が、第2の時刻より後に行われ、前記第2の時刻が、前記第1の時刻より遅い第2のイメージャと、
前記第1の時刻と前記第2の時刻の間で前記第1のシーン領域および前記第2のシーン領域に対して前記第1のイメージャを回転させるための構成、ならびに、
前記第1の時刻と前記第2の時刻の間で前記第1のシーン領域および前記第2のシーン領域に対して前記第1のイメージャを並進させるための構成の一方を含む駆動デバイスと、
前記第1のイメージ値および前記第2のイメージ値を使用して前記第1の放射線の束と前記第2の放射線の束の一方の偏光状態を判定するためのプロセッサとをさらに含む装置。 - 前記第1の放射線の束が、第1の電磁放射線の束を含み、また前記第2の放射線の束が、第2の電磁放射線の束を含む請求項19に記載の装置。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US22002500P | 2000-07-21 | 2000-07-21 | |
PCT/US2001/023159 WO2002009424A2 (en) | 2000-07-21 | 2001-07-23 | Method and apparatus for image mosaicing |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004505512A true JP2004505512A (ja) | 2004-02-19 |
JP4015944B2 JP4015944B2 (ja) | 2007-11-28 |
Family
ID=22821741
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002515013A Expired - Fee Related JP4015944B2 (ja) | 2000-07-21 | 2001-07-23 | イメージ・モザイク化のための方法および装置 |
Country Status (6)
Country | Link |
---|---|
US (1) | US7440637B2 (ja) |
JP (1) | JP4015944B2 (ja) |
KR (1) | KR20030028553A (ja) |
CN (1) | CN1451230A (ja) |
AU (1) | AU2001277964A1 (ja) |
WO (1) | WO2002009424A2 (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007318490A (ja) * | 2006-05-26 | 2007-12-06 | Olympus Imaging Corp | 画像処理装置、カメラ、及び画像処理プログラム |
WO2016042922A1 (ja) * | 2014-09-19 | 2016-03-24 | ソニー株式会社 | 医療用観察装置及び医療用観察装置のレンズ鏡筒 |
US10753793B2 (en) | 2015-08-05 | 2020-08-25 | Viavi Solutions Inc. | Optical filter and spectrometer |
Families Citing this family (138)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7738015B2 (en) | 1997-10-09 | 2010-06-15 | Fotonation Vision Limited | Red-eye filter method and apparatus |
US7062092B2 (en) * | 2000-08-22 | 2006-06-13 | Affymetrix, Inc. | System, method, and computer software product for gain adjustment in biological microarray scanner |
DE10109130B4 (de) * | 2001-02-24 | 2015-02-19 | Carl Zeiss Microscopy Gmbh | Verfahren zur Aufzeichnung und Darstellung von Fluoreszenzbildern mit hoher räumlicher Auflösung |
US7273562B2 (en) * | 2002-04-17 | 2007-09-25 | Nutech 03, Inc. | Ozone injection method and system |
CA2554135C (en) | 2003-12-24 | 2013-09-24 | Walker Digital, Llc | Method and apparatus for automatically capturing and managing images |
US7840038B2 (en) * | 2006-12-08 | 2010-11-23 | The Invention Science Fund I, Llc | Defect correction based on “virtual” lenslets |
US7220001B2 (en) * | 2004-02-24 | 2007-05-22 | Searete, Llc | Defect correction based on “virtual” lenslets |
US8169534B2 (en) * | 2004-02-24 | 2012-05-01 | The Invention Science Fund I, Llc | Volumetric imaging using “virtual” lenslets |
US7232221B2 (en) | 2004-02-24 | 2007-06-19 | Searete, Llc | Volumetric imaging using “virtual” lenslets |
US7542592B2 (en) * | 2004-03-29 | 2009-06-02 | Siemesn Corporate Research, Inc. | Systems and methods for face detection and recognition using infrared imaging |
US7173698B2 (en) * | 2004-04-13 | 2007-02-06 | The United States Of America As Represented By The Secretary Of The Army | Simultaneous 4-stokes parameter determination using a single digital image |
US7420542B2 (en) * | 2004-05-25 | 2008-09-02 | Avago Technologies Ecbu Ip Pte Ltd | Apparatus for capturing and analyzing light and method embodied therein |
KR101042638B1 (ko) * | 2004-07-27 | 2011-06-20 | 삼성전자주식회사 | 파노라마 영상 생성을 위한 디지털 촬상장치 및 그 생성방법 |
JP4023494B2 (ja) * | 2005-01-18 | 2007-12-19 | ソニー株式会社 | 撮像装置および撮像方法、並びに撮像装置の設計方法 |
US7274449B1 (en) | 2005-06-20 | 2007-09-25 | United States Of America As Represented By The Secretary Of The Army | System for determining stokes parameters |
US20070031063A1 (en) * | 2005-08-05 | 2007-02-08 | Hui Zhou | Method and apparatus for generating a composite image from a set of images |
EP1761041A1 (de) * | 2005-08-29 | 2007-03-07 | Stueckler Gerd | Digitale Filmkamera |
US8120658B2 (en) * | 2006-01-19 | 2012-02-21 | Qualcomm Incorporated | Hand jitter reduction system for cameras |
US7970239B2 (en) | 2006-01-19 | 2011-06-28 | Qualcomm Incorporated | Hand jitter reduction compensating for rotational motion |
US8019179B2 (en) | 2006-01-19 | 2011-09-13 | Qualcomm Incorporated | Hand jitter reduction for compensating for linear displacement |
WO2007087405A2 (en) * | 2006-01-24 | 2007-08-02 | The Trustees Of Columbia University In The City Of New York | Capturing scene images and depth geometry and generating a compensation image |
KR100813978B1 (ko) * | 2006-02-22 | 2008-03-17 | 삼성전자주식회사 | 멀티미디어 데이터를 기록 및 재생하는 방법 및 장치 |
US7295312B1 (en) * | 2006-05-10 | 2007-11-13 | United States Of America As Represented By The Secretary Of The Army | Rapid 4-Stokes parameter determination via Stokes filter wheel |
IES20070229A2 (en) * | 2006-06-05 | 2007-10-03 | Fotonation Vision Ltd | Image acquisition method and apparatus |
WO2008085553A1 (en) * | 2006-08-25 | 2008-07-17 | Eliezer Jacob | Improved digital camera with non-uniform image resolution |
US9730573B2 (en) * | 2007-03-20 | 2017-08-15 | Given Imaging Ltd. | Narrow band in-vivo imaging device |
WO2008143849A2 (en) * | 2007-05-14 | 2008-11-27 | Historx, Inc. | Compartment segregation by pixel characterization using image data clustering |
US8218822B2 (en) * | 2007-05-14 | 2012-07-10 | Pips Technology, Inc. | Apparatus and method for recognizing the state of origin of a vehicle license plate |
ES2599902T3 (es) * | 2007-06-15 | 2017-02-06 | Novartis Ag | Sistema y método de microscopio para obtener datos de muestra normalizados |
CA2604317C (en) | 2007-08-06 | 2017-02-28 | Historx, Inc. | Methods and system for validating sample images for quantitative immunoassays |
CA2596204C (en) * | 2007-08-07 | 2019-02-26 | Historx, Inc. | Method and system for determining an optimal dilution of a reagent |
US7978258B2 (en) * | 2007-08-31 | 2011-07-12 | Historx, Inc. | Automatic exposure time selection for imaging tissue |
TWI448808B (zh) * | 2008-01-25 | 2014-08-11 | Chi Mei Comm Systems Inc | 投影機自動對焦系統及方法 |
JP5261796B2 (ja) * | 2008-02-05 | 2013-08-14 | 富士フイルム株式会社 | 撮像装置、撮像方法、画像処理装置、画像処理方法、およびプログラム |
US8866920B2 (en) | 2008-05-20 | 2014-10-21 | Pelican Imaging Corporation | Capturing and processing of images using monolithic camera array with heterogeneous imagers |
US11792538B2 (en) | 2008-05-20 | 2023-10-17 | Adeia Imaging Llc | Capturing and processing of images including occlusions focused on an image sensor by a lens stack array |
JP2011523538A (ja) | 2008-05-20 | 2011-08-11 | ペリカン イメージング コーポレイション | 異なる種類の撮像装置を有するモノリシックカメラアレイを用いた画像の撮像および処理 |
JP4507265B2 (ja) * | 2008-06-30 | 2010-07-21 | ルネサスエレクトロニクス株式会社 | 画像処理回路、及びそれを搭載する表示パネルドライバ並びに表示装置 |
CN102165489B (zh) | 2008-09-16 | 2015-11-25 | 赫斯托克斯公司 | 生物标志物表达的可再现量化 |
US8391634B1 (en) | 2009-04-28 | 2013-03-05 | Google Inc. | Illumination estimation for images |
CN102113013A (zh) * | 2009-07-22 | 2011-06-29 | 松下电器产业株式会社 | 视差检测装置、测距装置及视差检测方法 |
US8723118B2 (en) | 2009-10-01 | 2014-05-13 | Microsoft Corporation | Imager for constructing color and depth images |
EP2502115A4 (en) | 2009-11-20 | 2013-11-06 | Pelican Imaging Corp | RECORDING AND PROCESSING IMAGES THROUGH A MONOLITHIC CAMERA ARRAY WITH HETEROGENIC IMAGE CONVERTER |
JP5486298B2 (ja) * | 2009-12-28 | 2014-05-07 | キヤノン株式会社 | 画像処理装置および画像処理方法 |
WO2011127247A2 (en) * | 2010-04-07 | 2011-10-13 | Sanjay Krishna | Apparatus and techniques of non-invasive analysis |
US8774494B2 (en) * | 2010-04-30 | 2014-07-08 | Complete Genomics, Inc. | Method and system for accurate alignment and registration of array for DNA sequencing |
US8928793B2 (en) | 2010-05-12 | 2015-01-06 | Pelican Imaging Corporation | Imager array interfaces |
WO2012004709A1 (en) * | 2010-07-06 | 2012-01-12 | Koninklijke Philips Electronics N.V. | Generation of high dynamic range images from low dynamic range images |
US20130188878A1 (en) * | 2010-07-20 | 2013-07-25 | Lockheed Martin Corporation | Image analysis systems having image sharpening capabilities and methods using same |
US9294755B2 (en) * | 2010-10-20 | 2016-03-22 | Raytheon Company | Correcting frame-to-frame image changes due to motion for three dimensional (3-D) persistent observations |
US8798393B2 (en) * | 2010-12-01 | 2014-08-05 | Google Inc. | Removing illumination variation from images |
US8878950B2 (en) | 2010-12-14 | 2014-11-04 | Pelican Imaging Corporation | Systems and methods for synthesizing high resolution images using super-resolution processes |
US8305456B1 (en) | 2011-05-11 | 2012-11-06 | Pelican Imaging Corporation | Systems and methods for transmitting and receiving array camera image data |
US8923401B2 (en) | 2011-05-31 | 2014-12-30 | Raytheon Company | Hybrid motion image compression |
KR20140045458A (ko) | 2011-06-28 | 2014-04-16 | 펠리칸 이매징 코포레이션 | 어레이 카메라와 함께 사용하는 광학 장치 |
US20130265459A1 (en) | 2011-06-28 | 2013-10-10 | Pelican Imaging Corporation | Optical arrangements for use with an array camera |
US9160914B2 (en) * | 2011-06-28 | 2015-10-13 | Inview Technology Corporation | User control of the visual performance of a compressive imaging system |
JP2013046209A (ja) * | 2011-08-24 | 2013-03-04 | Sony Corp | 画像処理装置、および、画像処理装置の制御方法ならびに当該方法をコンピュータに実行させるためのプログラム |
WO2013043761A1 (en) | 2011-09-19 | 2013-03-28 | Pelican Imaging Corporation | Determining depth from multiple views of a scene that include aliasing using hypothesized fusion |
US8542933B2 (en) | 2011-09-28 | 2013-09-24 | Pelican Imaging Corporation | Systems and methods for decoding light field image files |
CN102538757A (zh) * | 2011-11-08 | 2012-07-04 | 昆明理工大学 | 亮源及其周边暗源目标的观测方法 |
JP5802520B2 (ja) * | 2011-11-11 | 2015-10-28 | 株式会社 日立産業制御ソリューションズ | 撮像装置 |
EP2815251B1 (en) * | 2012-02-15 | 2017-03-22 | Heptagon Micro Optics Pte. Ltd. | Time of flight camera with stripe illumination |
EP2817955B1 (en) | 2012-02-21 | 2018-04-11 | FotoNation Cayman Limited | Systems and methods for the manipulation of captured light field image data |
US9230333B2 (en) | 2012-02-22 | 2016-01-05 | Raytheon Company | Method and apparatus for image processing |
US9210392B2 (en) | 2012-05-01 | 2015-12-08 | Pelican Imaging Coporation | Camera modules patterned with pi filter groups |
JP2015534734A (ja) | 2012-06-28 | 2015-12-03 | ペリカン イメージング コーポレイション | 欠陥のあるカメラアレイ、光学アレイ、およびセンサを検出するためのシステムおよび方法 |
US20140002674A1 (en) | 2012-06-30 | 2014-01-02 | Pelican Imaging Corporation | Systems and Methods for Manufacturing Camera Modules Using Active Alignment of Lens Stack Arrays and Sensors |
KR102111181B1 (ko) | 2012-08-21 | 2020-05-15 | 포토내이션 리미티드 | 어레이 카메라를 사용하여 포착된 영상에서의 시차 검출 및 보정을 위한 시스템 및 방법 |
EP2888698A4 (en) | 2012-08-23 | 2016-06-29 | Pelican Imaging Corp | PROPERTY-BASED HIGH-RESOLUTION MOTION ESTIMATION FROM LOW-RESOLUTION IMAGES RECORDED WITH AN ARRAY SOURCE |
US9214013B2 (en) | 2012-09-14 | 2015-12-15 | Pelican Imaging Corporation | Systems and methods for correcting user identified artifacts in light field images |
CN104685860A (zh) | 2012-09-28 | 2015-06-03 | 派力肯影像公司 | 利用虚拟视点从光场生成图像 |
WO2014078443A1 (en) | 2012-11-13 | 2014-05-22 | Pelican Imaging Corporation | Systems and methods for array camera focal plane control |
US9462164B2 (en) | 2013-02-21 | 2016-10-04 | Pelican Imaging Corporation | Systems and methods for generating compressed light field representation data using captured light fields, array geometry, and parallax information |
US9374512B2 (en) | 2013-02-24 | 2016-06-21 | Pelican Imaging Corporation | Thin form factor computational array cameras and modular array cameras |
US9638883B1 (en) | 2013-03-04 | 2017-05-02 | Fotonation Cayman Limited | Passive alignment of array camera modules constructed from lens stack arrays and sensors based upon alignment information obtained during manufacture of array camera modules using an active alignment process |
US9917998B2 (en) | 2013-03-08 | 2018-03-13 | Fotonation Cayman Limited | Systems and methods for measuring scene information while capturing images using array cameras |
US8866912B2 (en) | 2013-03-10 | 2014-10-21 | Pelican Imaging Corporation | System and methods for calibration of an array camera using a single captured image |
US9521416B1 (en) | 2013-03-11 | 2016-12-13 | Kip Peli P1 Lp | Systems and methods for image data compression |
WO2014164550A2 (en) | 2013-03-13 | 2014-10-09 | Pelican Imaging Corporation | System and methods for calibration of an array camera |
WO2014165244A1 (en) | 2013-03-13 | 2014-10-09 | Pelican Imaging Corporation | Systems and methods for synthesizing images from image data captured by an array camera using restricted depth of field depth maps in which depth estimation precision varies |
WO2014164909A1 (en) | 2013-03-13 | 2014-10-09 | Pelican Imaging Corporation | Array camera architecture implementing quantum film sensors |
US9106784B2 (en) | 2013-03-13 | 2015-08-11 | Pelican Imaging Corporation | Systems and methods for controlling aliasing in images captured by an array camera for use in super-resolution processing |
WO2014159779A1 (en) | 2013-03-14 | 2014-10-02 | Pelican Imaging Corporation | Systems and methods for reducing motion blur in images or video in ultra low light with array cameras |
US9100586B2 (en) | 2013-03-14 | 2015-08-04 | Pelican Imaging Corporation | Systems and methods for photometric normalization in array cameras |
US10122993B2 (en) | 2013-03-15 | 2018-11-06 | Fotonation Limited | Autofocus system for a conventional camera that uses depth information from an array camera |
WO2014150856A1 (en) | 2013-03-15 | 2014-09-25 | Pelican Imaging Corporation | Array camera implementing quantum dot color filters |
US9633442B2 (en) | 2013-03-15 | 2017-04-25 | Fotonation Cayman Limited | Array cameras including an array camera module augmented with a separate camera |
EP2973476A4 (en) | 2013-03-15 | 2017-01-18 | Pelican Imaging Corporation | Systems and methods for stereo imaging with camera arrays |
US9445003B1 (en) | 2013-03-15 | 2016-09-13 | Pelican Imaging Corporation | Systems and methods for synthesizing high resolution images using image deconvolution based on motion and depth information |
US9497429B2 (en) | 2013-03-15 | 2016-11-15 | Pelican Imaging Corporation | Extended color processing on pelican array cameras |
KR102070776B1 (ko) * | 2013-03-21 | 2020-01-29 | 엘지전자 주식회사 | 디스플레이 장치 및 그 제어 방법 |
FR3005226B1 (fr) * | 2013-04-25 | 2015-04-10 | Astrium Sas | Saisie d'image avec addition de signaux d'accumulation pour des photodetecteurs adjacents |
WO2014175219A1 (ja) * | 2013-04-26 | 2014-10-30 | 浜松ホトニクス株式会社 | 画像取得装置、試料の合焦点情報を取得する方法及びシステム |
US9383259B2 (en) | 2013-08-29 | 2016-07-05 | Nokia Technologies Oy | Method, apparatus and computer program product for sensing of visible spectrum and near infrared spectrum |
WO2015048694A2 (en) | 2013-09-27 | 2015-04-02 | Pelican Imaging Corporation | Systems and methods for depth-assisted perspective distortion correction |
US9185276B2 (en) | 2013-11-07 | 2015-11-10 | Pelican Imaging Corporation | Methods of manufacturing array camera modules incorporating independently aligned lens stacks |
DE102013112553A1 (de) * | 2013-11-14 | 2015-06-03 | Odos Imaging Ltd. | Beleuchtungsvorrichtung und Verfahren zum Beleuchten eines Objekts |
WO2015074078A1 (en) | 2013-11-18 | 2015-05-21 | Pelican Imaging Corporation | Estimating depth from projected texture using camera arrays |
US9456134B2 (en) | 2013-11-26 | 2016-09-27 | Pelican Imaging Corporation | Array camera configurations incorporating constituent array cameras and constituent cameras |
DE102014201181A1 (de) * | 2014-01-23 | 2015-07-23 | Robert Bosch Gmbh | Kamerasystem, insbesondere für ein Fahrzeug, und Verfahren zur Ermittlung von Bildinformationen einer zeitlich gepulsten Signalquelle |
US9464938B2 (en) * | 2014-02-06 | 2016-10-11 | The Boeing Company | Systems and methods for measuring polarization of light in images |
WO2015134996A1 (en) | 2014-03-07 | 2015-09-11 | Pelican Imaging Corporation | System and methods for depth regularization and semiautomatic interactive matting using rgb-d images |
US9247117B2 (en) | 2014-04-07 | 2016-01-26 | Pelican Imaging Corporation | Systems and methods for correcting for warpage of a sensor array in an array camera module by introducing warpage into a focal plane of a lens stack array |
EP3855232A1 (en) | 2014-05-06 | 2021-07-28 | Niazi, Zakariya | Imaging system, method, and applications |
US9521319B2 (en) | 2014-06-18 | 2016-12-13 | Pelican Imaging Corporation | Array cameras and array camera modules including spectral filters disposed outside of a constituent image sensor |
WO2016054089A1 (en) | 2014-09-29 | 2016-04-07 | Pelican Imaging Corporation | Systems and methods for dynamic calibration of array cameras |
CN104267265B (zh) * | 2014-09-30 | 2017-02-08 | 中国科学院新疆天文台 | 一种基于射电天文仪器设备电磁辐射的评估系统及方法 |
US9628695B2 (en) * | 2014-12-29 | 2017-04-18 | Intel Corporation | Method and system of lens shift correction for a camera array |
US9432193B1 (en) * | 2015-02-05 | 2016-08-30 | Sensory, Incorporated | Face-based authentication with situational adaptivity |
US9723197B2 (en) | 2015-03-31 | 2017-08-01 | Sony Corporation | Depth estimation from image defocus using multiple resolution Gaussian difference |
US9942474B2 (en) | 2015-04-17 | 2018-04-10 | Fotonation Cayman Limited | Systems and methods for performing high speed video capture and depth estimation using array cameras |
US9906733B2 (en) * | 2015-06-22 | 2018-02-27 | The Johns Hopkins University | Hardware and system for single-camera stereo range determination |
TW201716933A (zh) * | 2015-11-06 | 2017-05-16 | 原相科技股份有限公司 | 具有補償失焦影像的光學導航裝置及其補償電路 |
US10523873B2 (en) * | 2015-11-19 | 2019-12-31 | Sony Corporation | Image processing device and image processing method |
US10412280B2 (en) | 2016-02-10 | 2019-09-10 | Microsoft Technology Licensing, Llc | Camera with light valve over sensor array |
US10341565B2 (en) | 2016-05-10 | 2019-07-02 | Raytheon Company | Self correcting adaptive low light optical payload |
US10306155B2 (en) * | 2016-06-28 | 2019-05-28 | The United States Of America As Represented By The Administrator Of The National Aeronautics And Space Administration | Compact, high resolution thermal infrared imager |
JP6864819B2 (ja) * | 2016-06-30 | 2021-04-28 | 富士フイルムビジネスイノベーション株式会社 | 情報処理装置及びプログラム |
CN106161979B (zh) * | 2016-07-29 | 2017-08-25 | 广东欧珀移动通信有限公司 | 高动态范围图像拍摄方法、装置和终端设备 |
JP6662745B2 (ja) | 2016-10-04 | 2020-03-11 | 株式会社ソニー・インタラクティブエンタテインメント | 撮影装置、情報処理システム、および偏光画像処理方法 |
WO2018176493A1 (en) | 2017-04-01 | 2018-10-04 | SZ DJI Technology Co., Ltd. | Low-profile multi-band hyperspectral imaging for machine vision |
US10742894B2 (en) * | 2017-08-11 | 2020-08-11 | Ut-Battelle, Llc | Optical array for high-quality imaging in harsh environments |
US10482618B2 (en) | 2017-08-21 | 2019-11-19 | Fotonation Limited | Systems and methods for hybrid depth regularization |
EP3606032B1 (en) * | 2018-07-30 | 2020-10-21 | Axis AB | Method and camera system combining views from plurality of cameras |
US11393115B2 (en) * | 2018-11-27 | 2022-07-19 | Infineon Technologies Ag | Filtering continuous-wave time-of-flight measurements, based on coded modulation images |
US11073610B2 (en) * | 2019-01-31 | 2021-07-27 | International Business Machines Corporation | Portable imager |
BR112022004811A2 (pt) | 2019-09-17 | 2022-06-21 | Boston Polarimetrics Inc | Sistemas e métodos para modelagem de superfície usando indicações de polarização |
EP4042366A4 (en) | 2019-10-07 | 2023-11-15 | Boston Polarimetrics, Inc. | SYSTEMS AND METHODS FOR AUGMENTING SENSOR SYSTEMS AND IMAGING SYSTEMS WITH POLARIZATION |
DE112020005932T5 (de) | 2019-11-30 | 2023-01-05 | Boston Polarimetrics, Inc. | Systeme und verfahren zur segmentierung von transparenten objekten mittels polarisationsmerkmalen |
WO2021154386A1 (en) | 2020-01-29 | 2021-08-05 | Boston Polarimetrics, Inc. | Systems and methods for characterizing object pose detection and measurement systems |
CN115428028A (zh) | 2020-01-30 | 2022-12-02 | 因思创新有限责任公司 | 用于合成用于在包括偏振图像的不同成像模态下训练统计模型的数据的系统和方法 |
WO2021158804A1 (en) * | 2020-02-06 | 2021-08-12 | Valve Corporation | Position tracking system for head-mounted display systems |
US11953700B2 (en) | 2020-05-27 | 2024-04-09 | Intrinsic Innovation Llc | Multi-aperture polarization optical systems using beam splitters |
US11954886B2 (en) | 2021-04-15 | 2024-04-09 | Intrinsic Innovation Llc | Systems and methods for six-degree of freedom pose estimation of deformable objects |
US11290658B1 (en) | 2021-04-15 | 2022-03-29 | Boston Polarimetrics, Inc. | Systems and methods for camera exposure control |
US11689813B2 (en) | 2021-07-01 | 2023-06-27 | Intrinsic Innovation Llc | Systems and methods for high dynamic range imaging using crossed polarizers |
CN114166348B (zh) * | 2021-12-16 | 2023-09-19 | 中国科学院光电技术研究所 | 一种基于全斯托克斯矢量的快速偏振成像方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS6133638A (ja) * | 1984-07-26 | 1986-02-17 | オリンパス光学工業株式会社 | 内視鏡撮像装置 |
JPH02192276A (ja) * | 1988-10-03 | 1990-07-30 | Olympus Optical Co Ltd | 画像入出力装置 |
JPH11155808A (ja) * | 1997-11-27 | 1999-06-15 | Olympus Optical Co Ltd | 内視鏡撮像装置 |
JPH11331686A (ja) * | 1998-05-14 | 1999-11-30 | Matsushita Electric Ind Co Ltd | 画像入力装置 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH01115808A (ja) | 1987-10-29 | 1989-05-09 | Toshiba Corp | 希ガス回収装置 |
US6078701A (en) * | 1997-08-01 | 2000-06-20 | Sarnoff Corporation | Method and apparatus for performing local to global multiframe alignment to construct mosaic images |
GB2341029B (en) | 1998-08-29 | 2002-12-31 | Marconi Gec Ltd | Cameras |
AU2119201A (en) * | 1999-10-20 | 2001-04-30 | Trustees Of The University Of Pennsylvania, The | Mosaicing and enhancement of images for ophthalmic diagnosis and documentation |
US6909459B2 (en) * | 2002-08-21 | 2005-06-21 | Alpha Innotech Corporation | Method of and apparatus for extending signal ranges of digital images |
-
2001
- 2001-07-23 JP JP2002515013A patent/JP4015944B2/ja not_active Expired - Fee Related
- 2001-07-23 AU AU2001277964A patent/AU2001277964A1/en not_active Abandoned
- 2001-07-23 US US10/312,891 patent/US7440637B2/en active Active
- 2001-07-23 WO PCT/US2001/023159 patent/WO2002009424A2/en active Application Filing
- 2001-07-23 KR KR10-2003-7000939A patent/KR20030028553A/ko not_active Application Discontinuation
- 2001-07-23 CN CN01813115A patent/CN1451230A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS6133638A (ja) * | 1984-07-26 | 1986-02-17 | オリンパス光学工業株式会社 | 内視鏡撮像装置 |
JPH02192276A (ja) * | 1988-10-03 | 1990-07-30 | Olympus Optical Co Ltd | 画像入出力装置 |
JPH11155808A (ja) * | 1997-11-27 | 1999-06-15 | Olympus Optical Co Ltd | 内視鏡撮像装置 |
JPH11331686A (ja) * | 1998-05-14 | 1999-11-30 | Matsushita Electric Ind Co Ltd | 画像入力装置 |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007318490A (ja) * | 2006-05-26 | 2007-12-06 | Olympus Imaging Corp | 画像処理装置、カメラ、及び画像処理プログラム |
WO2016042922A1 (ja) * | 2014-09-19 | 2016-03-24 | ソニー株式会社 | 医療用観察装置及び医療用観察装置のレンズ鏡筒 |
US10901197B2 (en) | 2014-09-19 | 2021-01-26 | Sony Corporation | Medical observation device and lens barrel of medical observation device |
US10753793B2 (en) | 2015-08-05 | 2020-08-25 | Viavi Solutions Inc. | Optical filter and spectrometer |
US11237049B2 (en) | 2015-08-05 | 2022-02-01 | Viavi Solutions Inc. | Optical filter and spectrometer |
Also Published As
Publication number | Publication date |
---|---|
US7440637B2 (en) | 2008-10-21 |
JP4015944B2 (ja) | 2007-11-28 |
WO2002009424A2 (en) | 2002-01-31 |
CN1451230A (zh) | 2003-10-22 |
KR20030028553A (ko) | 2003-04-08 |
WO2002009424A3 (en) | 2002-06-06 |
US20040056966A1 (en) | 2004-03-25 |
AU2001277964A1 (en) | 2002-02-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4015944B2 (ja) | イメージ・モザイク化のための方法および装置 | |
US10547786B2 (en) | Image processing for turbulence compensation | |
US7780364B2 (en) | Apparatus and method for reducing glare in images | |
Schechner et al. | Generalized mosaicing: Wide field of view multispectral imaging | |
US9117277B2 (en) | Determining a depth map from images of a scene | |
US20120013760A1 (en) | Characterization of image sensors | |
US8619153B2 (en) | Radiometric calibration using temporal irradiance mixtures | |
US20050053309A1 (en) | Image processors and methods of image processing | |
CN108007574B (zh) | 分辨率可调型快照式图像光谱线偏振探测装置及方法 | |
CN110520768B (zh) | 高光谱光场成像方法和系统 | |
US20200120270A1 (en) | Method and system for snapshot multi-spectral light field imaging | |
Jemec et al. | 2D sub-pixel point spread function measurement using a virtual point-like source | |
Sattar et al. | Snapshot spectropolarimetric imaging using a pair of filter array cameras | |
CN105444888A (zh) | 一种高光谱成像系统的色差补偿方法 | |
Meißner et al. | Benchmarking the optical resolving power of UAV based camera systems | |
Estribeau et al. | Fast MTF measurement of CMOS imagers at the chip level using ISO 12233 slanted-edge methodology | |
Hickman et al. | Polarimetric imaging: system architectures and trade-offs | |
Horstmeyer et al. | Pupil plane multiplexing for multi-domain imaging sensors | |
CN116849624B (zh) | 基于4cmos的图像传感器荧光成像方法及系统 | |
van Zwanenberg et al. | Camera system performance derived from natural scenes | |
Naranjo et al. | Experimental demonstration of multi-spectral imaging of vegetation with a diffractive plenoptic camera | |
Zhang et al. | Image Acquisition Devices | |
Brookshire et al. | MetaHDR: single shot high-dynamic range imaging and sensing using a multifunctional metasurface | |
Salvaggio | Image Quality Modeling and Optimization for Non-Conventional Aperture Imaging Systems | |
Ekpenyong | Hyperspectral imaging: Calibration and applications with natural scenes |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20040816 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070827 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070904 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070914 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100921 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110921 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110921 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120921 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130921 Year of fee payment: 6 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |