JP3305314B2 - 対象の距離を決定し、自動焦点合せをし、合焦像を得るための方法及び電子カメラ装置 - Google Patents

対象の距離を決定し、自動焦点合せをし、合焦像を得るための方法及び電子カメラ装置

Info

Publication number
JP3305314B2
JP3305314B2 JP17433290A JP17433290A JP3305314B2 JP 3305314 B2 JP3305314 B2 JP 3305314B2 JP 17433290 A JP17433290 A JP 17433290A JP 17433290 A JP17433290 A JP 17433290A JP 3305314 B2 JP3305314 B2 JP 3305314B2
Authority
JP
Japan
Prior art keywords
image
camera
distance
surface patch
detector
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP17433290A
Other languages
English (en)
Other versions
JPH03136580A (ja
Inventor
ムラリドハラ・サバラオ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Research Foundation of State University of New York
Original Assignee
Research Foundation of State University of New York
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from US07/537,117 external-priority patent/US5193124A/en
Application filed by Research Foundation of State University of New York filed Critical Research Foundation of State University of New York
Publication of JPH03136580A publication Critical patent/JPH03136580A/ja
Application granted granted Critical
Publication of JP3305314B2 publication Critical patent/JP3305314B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • G01C11/02Picture taking arrangements specially adapted for photogrammetry or photographic surveying, e.g. controlling overlapping of pictures
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/02Details
    • G01C3/06Use of electric means to obtain final indication
    • G01C3/08Use of electric radiation detectors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/207Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H04N13/236Image signal generators using stereoscopic image cameras using a single 2D image sensor using varifocal lenses or mirrors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/271Image signal generators wherein the generated image signals comprise depth maps or disparity maps

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Signal Processing (AREA)
  • Electromagnetism (AREA)
  • Automatic Focus Adjustment (AREA)
  • Measurement Of Optical Distance (AREA)
  • Focusing (AREA)
  • Studio Devices (AREA)

Description

【発明の詳細な説明】 発明の背景 本発明は、信号処理技法に基づいて、i)カメラ・シ
ステムからの被写体の距離を決定し、ii)カメラ・シス
テムを急速な自動焦点合せを行い、iii)ぼけた像から
改良された焦点の像を得る、電子カメラ装置及び方法に
関する。一般に、本発明は、線形シフト・インバリアン
ト・システム(linear shiftinvariant system)、即
ち、入力信号にコンボリューション演算を実行するシス
テムにおける、システムパラメータの概算及び信号回復
に関する。
被写体の範囲(即ち距離)を判定する種々の装置及び
方法が知られている。これらの装置及び方法の概説は、
1983年3月発行のIEEE Transactions on Pattern Analy
sis and Machine Intelligence,PAM1−5,No.2,122−139
頁所載の“A perspective on range finding technique
s for computer vision"と題されたR.A.Jarvisの論文に
見出される。
カメラから被写体までの距離を判定する共通の技法
は、像検出器に被写体の像を焦点付けることを必要とす
る。次に、距離はカメラの設定から決定される。この技
法は“深度焦点法(depth−from−focusing"と呼ばれ
る。別の深度焦点法の比較研究は、1987年10月発行のIn
ternational Journal of Computer VisionのVolume 1,N
o.3,223−238頁に、“Focusing"と題された論文で、E.K
rotkovによって報告されている。
深度焦点法は、i)種々のカメラ設定に対して多数
(約20以上)の像を得て、ii)これらの像のそれぞれに
対して焦点測定を計算し、iii)焦点測定が最大である
像を決定して、その対応のカメラ設定から距離を決定す
ることを必要とする。この技法の大きな欠点は、i)種
々のカメラ設定に対して多数の像を得る必要があるので
非常にスローであること、また、ii)メモリ・スペース
及び処理能力の見地から多くの計算手段を必要とするこ
と、である。
被写体の距離を判定する2つの新しい方法が、1985年
8月のArtificial Intelligenceの国際ジョイント会議
の予稿集で発表された、“A New Sense for Depth of F
ield"と題された論文において、P.Pentlandによって論
述されている。同様の論文は、1987年7月に、IEEE Tra
nsactions on Pattern Analysis and Machine Intellig
ence,Vol.PAM1−9,No.4,523−531頁において、わずかに
変更されて発表された。
Pertlandの第一の方法は、被写体の単一像を使用す
る。被写体は、間に共通の真っすぐな境界を有する、暗
表面パッチに隣接する明表面パッチを含む必要がある。
そのような被写体は、焦点合わせされた像内にステップ
状の不連続部である真っすぐなエッジを生成する。関連
の深い方法は、1987年1月に、Pattern Recognition Le
tters,Vol.5,63−69頁に発表された、“Depth from Foc
us"と題された論文において、P.Grossmanによって開示
されている。これらの同様の方法のはるかに改良され且
つ更に一般的なバージョンは、1988年6月に、Computer
Vision and Pattern RecognitionのIEEE Computer Soc
iety会議の予稿集に発表された、“Depth Recovery fro
m Blurred Edges"と題された論文において、本発明者に
よって開示されている。しかし、間に共通の真っすぐな
境界を有する、明及び暗表面パッチを有する被写体はこ
の世の中では稀である。従って、多くの場合に適用でき
ない。
Pentlandの第二の方法は、2つの像を比較することに
基づき、一方の像は非常に小さな(ピン・ホール)開口
で形成され、他方の像は通常の開口で形成される。この
方法の適用は、ある深刻な実施上の困難を提示してい
る。非常に小さな開口は、像を歪ませる回折の効果を増
加させる。更に、比較的小さな開口は、光を集めにく
く、従って露光期間を増加させる。これらの問題がこの
方法を不正確でスローなものとし、実際の応用において
使用に制限を与える。
被写体の距離を決定するに加えて、本発明は、電子カ
メラの高速自動焦点合せのための技術を進歩させる。幾
つかの方法でカメラの自動焦点合せを行うことが知られ
ている。自動焦点法の1つが1987年の日本特許第228431
4号に開示されている。この方法は、以下の理由のため
に、理論的に誤っており、不正確であり、従って実施制
限されるものと考えられる。この日本特許に開示された
方法は、固定された被写体に関してレンズを移動するこ
とを必要としている。点被写体の2つの像、例えば、レ
ンズの移動前に得られる第一の像とレンズの移動後に得
られる像と、の間の対応をとることができない。対応問
題として参照されるこの問題は、ステレオ・ビジョンで
は良く知られている。更に、日本特許第2284314号で開
示された方法は拡大補正ステップを提供しておらず、そ
のプロセスにエラーを生じさせる。更に、前述の方法
は、カメラの1パラメータ、即ちレンズの位置のみの変
更を必要としているので、非常に制約のあるものであ
る。
更に、日本特許第2284314号に記載された方法に関す
る欠点は、少なくとも3つのピクチャの使用を含み、高
い空間周波数のみ、更に、自動焦点用の固定された空間
周波数のみをあてにしていることでる。
“Focal Point Dotector"と題された別の自動焦点法
は、1988年5月31日に公開された特開昭63−127217号公
報に、Takashi Baba他によって開示されている。この公
報の開示は、前出の日本特許に関連して記述したのと同
じ欠点を認容しており、変調伝達関数(MFT)がガウス
関数である場合にのみ適用可能である。ガウス関数はカ
メラ・システムの実際のMTFに対して非常に粗雑な近似
値である。従って、特開昭63−127217号に開示された方
法もまたエラーを受けやすい。
被写体の距離を判定し且つ自動焦点合せを行う前述の
方法及び装置は、1987年11月27日に出願の本件発明者所
有の係属中の米国特許出願第126,407号に開示されてい
る。前述の方法は、被写体の2つの像の処理を必要と
し、これらの像は異なるカメラ設定と共に得られる。カ
メラ設定は、次の3つのカメラ・パラメータのいずれに
おいて異なる。(i)像検出器の位置、(ii)カメラ・
システムの焦点距離、(iii)カメラ開口(絞り)の直
径。数学的表現である2つの制約(即ち、束縛関係)が
公式化された。第一の制約は2つの観察された像によっ
てのみ表現され、第二の制約は、既知のカメラ・パラメ
ータ値及びカメラ特性によってのみ表現された。これら
の制約、即ち等式は2つの未知数、即ち2つの像のそれ
ぞれに対して未知のものを必要とする。等式は同時に解
が求められ、距離は未知数の解から決定された。しか
し、像に対応する未知数は実際に、カメラ・システムの
ポイント・スプレッド関数を特徴付ける中間パラメー
タ,σ,であった。この中間パラメータは、焦点合せさ
れた像の広がり、即ち“ブレ”に関連し、また、ポイン
ト・スプレッド関数がガウス式で表わし得る一定又は所
定の形状又は形式を有するという仮定に基づいていた。
この前述の方法は、ポイント・スプレッド関数(PS
F)の標準偏差である単一の中間パラメータ,σ,によ
ってPSFを特徴付けた。これは、回折及びレンズ収差の
存在下では不適当な特徴である。係属中の本件発明者に
よる前述のシステムは、カメラ・システムにカメラ・パ
ラメータを測定する手段を設けることを必要としてい
る。この従来システムは、パラメータとして光のスペク
トルの内容を考慮していない。更に、従来システムは、
処理中に不確実な分析又はエラー伝達分析を実行するこ
ともなく、多数のシステム・パラメータを概算するあら
ゆる線形シフト・インバリアント・システムに応用する
こともできなかった。
従って、本発明の目的は、2つの像のみの取得と処理
を必要とする深度焦点法のアプローチを提供することで
ある。
本発明の目的はまた、ステレオ・ビジョン技法に関連
する対応問題を排除することである。
本発明の更に別の目的は、全ての線形シフト・インバ
リアント・システムに応用できるアプローチを提供する
ことである。
本発明の更に別の目的は、被写体距離とカメラ・パラ
メータの双方を決定するために2つの像を処理する比較
的簡単で且つ低廉の装置を提供することである。
本発明の他の目的は、カメラ・システムのポイント・
スプレッド関数(PSF)を特徴付けるために、中間パラ
メータの必要性を除外することである。本発明の他の目
的は、カメラ装置のパラメータを定量分析的に測定する
必要性を除外することである。
本発明の他の目的は、被写体距離、光学伝達関数、及
び/又はカメラ・パラメータ値、を決定するために、単
一の演算又はプロセス・ステップのための手段を提供す
ることである。
更に本発明の目的は、カメラ・パラメータに関連する
ものとして、光のスペクトルの内容を考慮する手段を提
供することである。
本発明の他の目的は、電子カメラの高速の自動焦点合
せ、及びぼやけた像から改良された焦点像を得ることで
ある。
本発明の他の目的は、線形シフト・インバリアント・
システム、即ち、コンボリューション演算を実行するシ
ステム、としてモデル化できる任意の装置において、シ
ステム・パラメータを概算して且つ入力信号を回復させ
る方法を提供することである。
発明の概要 本発明は、カメラ・システムから被写体の表面パッチ
までの距離を決定し、距離の決定の結果としてカメラ・
システムの焦点合せを行い、カメラ・システムのパラメ
ータを決定し、そのそれぞれのぼやけた像から表面パッ
チの改良された焦点像を得るための方法及び装置であ
る。本発明は、像を記録するCCDアレー、写真フィルム
等の如き像検出器を有するカメラ・システムを含む。カ
メラは、光が情景からシステムに入るための開口、光の
既知のスペクトル(又はカラー)を通過させ且つ像検出
器に像を形成させる光フィルタ、レンズ又はミラー或い
はその双方を有する像形成光学システム、を有する。像
形成光学システムと、第一及び第二の主平面及び焦点長
さを含み、第二の主平面は第一の主平面より像検出器に
近い。
カメラ・システムの像形成プロセスは、以下のカメラ
・パラメータの少なくとも1つ、及びそれ以上に依存す
る。(i)第二の主平面と像検出器との間の距離
(δ)、(ii)カメラ開口の直径(D)、(iii)像形
成光学システムの焦点距離(f)、(iv)カメラ・シス
テムに入る光のスペクトル特性(λ)。
カメラ・システムは、カメラ・パラメータの少くとも
1つ、それ以上、全て、の値を変化せる手段を提供す
る。この特徴は、カメラ・パラメータの少なくとも1
つ、それ以上、全て、の値を変化させることによって、
カメラ設定を変更するために使用される。本発明の方法
は、異なるカメラ設定で得られる被写体の表面パッチの
少なくとも2つ、それ以上、の像を処理して、カメラ・
システムから表面パッチまでの距離を判定する。
好適な実施例において、像処理コンピュータは更に、
カメラ・システムを特徴付ける値の表が予め記憶させる
メモリ・スペースを含む。この表は表面パッチの距離を
判定するために使用される。コンピュータは更に、予め
記憶された表内の1組の所与の値をサーチする特別な目
的のVLSIコンピュータ処理ハードウエアを含む。表サー
チ用のこのハードウエアの代替として、コンピュータ
は、1組の所与の値と予め記憶された値の表との間の相
関測定を演算し、最大の相関を生じる表内の位置を決定
する特別な目的のVLSIコンピュータ処理ハードウエアを
含み得る。サーチが目的を達する、即ち相関が最大であ
る表内の位置は、表面パッチの距離を与える。
また、カメラ・システムの好適な実施例において、有
効なカメラ開口は、像形成光学システムの前部で且つそ
れに接近して設けた開口絞りによって与えられ、それに
よってカメラ・システムの入射瞳はカメラ・システムの
視界内の全ての被写体に対して同一のままである。カメ
ラ・システムのカメラ・パラメータを変更する手段は、
カメラ・システムの入射瞳の位置が、1又はそれ以上の
カメラ・パラメータが変更されるときに、不変のままで
あるような方法で与えられる。これは、ステレオ・ビジ
ョンで遭遇する対応問題を回避するのに役立つ。
カメラ・システムの別の実施例は、前述の好適な実施
例のわずかな変更によって得られる。この変更実施例に
おいて、前記のカメラ・パラメータの少なくとも1つ、
ことによるとそれ以上、を変更する手段を提供する単一
のカメラ・システムの使用に代えて、多重カメラが使用
される。これらの多重カメラは、個々のカメラのカメラ
・パラメータ値が、カメラ・パラメータの少なくとも1
つ、それ以上、全て、で相違するようなものである。即
ち、多重カメラのうちで、全てのカメラ・パラメータに
対して同一のカメラ・パラメータ値を有するカメラは2
つとない。この装置において、個々のカメラのいずれか
のカメラ・パラメータを変更する必要はない。各カメラ
の全てのカメラ・パラメータは、固定可能であり、従っ
て、カメラ・システム内に可動部を設ける必要を回避す
る。それ故、装置を簡単にし得る。各カメラは、カメラ
・パラメータの1組の値に対応する1つの像を得るのに
使用される。個々のカメラはそれぞれ、ビーム・スプリ
ット配置のために共通の開口を通して情景を観る。前述
の相違を除いて、代替実施例は好適実施例と同様であ
る。
本発明の方法は、以下のうちの少なくとも1つを含む
第一の組のカメラ・パラメータにカメラを設定すること
を含む。(i)第二の主平面と像検出器との間の距離
(δ)、(ii)カメラ開口の直径(D)、(iii)カメ
ラ・システムの焦点距離(f)、(iv)光フィルタによ
って伝送される光のスペクトル特性(λ)。カメラ・パ
ラメータの組は単一ベクトルCaとして表すことができ、
第一の組のカメラ・パラメータ及び単一ベクトルは、添
字1を用いて次のように表わされる。
Ca1={δ1,f1,D1} 次に、表面パッチの第一の像が像検出器上に形成され
る。これは、例えば、カメラ・システムの視界内に情景
を監視し、(θ0)に中心を有し且つ(θi,
φ)、ただしi=1,2,3,4,に角を有する正方形領域に
よって特定された表面パッチを選択することによって達
成できる。第一の像は、それを像処理システムで処理す
るために第1組の値に変換することによって、像検出器
から抽出できる。この処理は、他の像値の処理と同時的
に実時間で達成でき、或いは、後処理のために記憶させ
ることができる。
次に、カメラは、添字2を用いて以下に示される単一
ベクトルCa2により表現される。第二の組のカメラ・パ
ラメータにセットされる。
Ca2={δ2,f2,D2} 但し、Ca1はCa2に等しくはない。これは、例えば、距離
δのような、カメラ・パラメータの少なくとも1つを単
に変化させることによって実行できる。
次に、同一の表面パッチの第二の像検出器上に形成さ
れる。次いで、これは、像処理システムで処理するため
に1組の値に変換される。
同時処理或いは直列処理に拘らず、これらの値の各組
は、処理されて、コンボリューション演算によってカメ
ラ・システムのポイント・スプレッド関数に関連する正
規化像値に変換される。
本発明の理論的根拠は、記録された像に処理演算を実
行することによって示される。これらの処理演算は、
(i)情景内の表面パッチの合焦像、(ii)表面パッチ
の全体輝度、(iii)表面パッチの距離、に関する効果
と、1組のカメラ・パラメータによって特定されたカメ
ラと、を分離する。表面パッチの像に関するこれら3つ
のファクタの効果を分離したことにより、(i)合焦
像、及び(ii)全体輝度、の効果は、異なるカメラ設定
で得られる同一の表面パッチの2つの像を比較すること
によって相殺される。この演算は、表面パッチの距離に
関する単一の制約を引き起こす。この制約は、解析的
に、或いは表面パッチの距離を得るために像処理装置内
に設けられたコンピュータ・メモリ内の予め記憶された
表を用いることで、解決できる。
前述の如き効果を分離するために、表面パッチの“合
焦像”は、視野の異なる方向に沿っているが表面パッチ
の実際の距離とは無関係な、表面パッチ上の点からカメ
ラ・システムの入射瞳に入射する光エネルギによって定
義された。例えば、所与の方向に沿った表面パッチの合
焦像の輝度は、所与の方向に沿った表面パッチ上の被写
体器からカメラ・システムの入射瞳に入射する、単位時
間当りの全光エネルギに比例するものとして定義でき
る。合焦像のこの定義は、文献に見出される定義とは相
違している。ここでは、表面パッチ上の被写体点の輝
度、即ち放射輝度よりむしろ入射瞳に入射するエネルギ
によって特別に定義された。この特別な定義は、表面パ
ッチの実際の距離とその合焦像との効果を分離するのに
必要である。従って、この定義は、信号を処理するため
に正確な理論的根拠を与えるのに有効である。更に、信
号処理を更に展開することは、音響の理論的根拠から実
行できる。
再度、本発明の理論によれば、カメラ・システムにお
ける像形成プロセスは、任意のカメラ・パラメータの実
際の値とは無関係に、先に定義されたように、合焦像に
よってのみ表面パッチの用語“正規化焦点像”を定義す
ることによって特徴付けられる。このように、正規化焦
点像は、単位平均輝度及び単位倍率をもった合焦像とし
て定義される。この定義は、(i)表面パッチの全体輝
度(平均輝度が1単位であるように固定されるという理
由による)、(ii)カメラ・パラメータ値、(iii)表
面パッチの合焦像、の効果を分離する。
この理論的根拠に基づき、前処理演算は、前処理像
と、カメラ・パラメータ値によって先に定義された正規
化合焦像と、の間の簡単な関係を得るために実行され
る。例えば、本発明の好適な実施例において、以下の演
算の1又はそれ以上が含まれる。
(i)前記の像検出器の検出器応答特性の補正、 (ii)像形成システムの不均一な光伝送の補正、 (iii)第一及び第二の記録された像の内挿及び再標本
化を含む倍率の正規化、 (iv)第一及び第二の記録された像の輝度の正規化。
本発明は、サーフェス・パッチの正規化された合焦点
イメージに特性ポイント・スプレッド関数を作用させる
ことによって、同じサーフェス・パッチの適切に前処理
されたイメージ(前述のように)間のカメラ・パラメー
タについての関係を導き出すものである。これは「コン
ボルーション関数」と呼ばれる。また、ポイント・スプ
レッド関係は、実際のカメラ・パラメータ値及びサーフ
ェス・パッチの距離によって決定されるが、サーフェス
・パッチの焦点の合ったイメージとは無関係である。こ
のように、イメージ形成プロセスは一組のカメラ・パラ
メータについて特徴づけられる。コンボルーション関係
において正規化された合焦点イメージはサーフェス・パ
ッチに関する測定情報のみを含み、ポイント・スプレッ
ド関数はサーフェス・パッチの幾何学的情報(即ち、距
離に関する情報)及びカメラ情報(即ち、カメラ・パラ
メータに関する情報)を含んでいる。
フーリエ・ドメーンにおいて、コンボルーション関係
はカメラ・システムの光学的伝達関数H(ω,ν;Ca,γ
)とサーフェス・パッチの正規化された合焦点イメー
ジのフーリエ変換Fn(ω,ν)との積に等しい前処理さ
れたイメージのフーリエ変換として表現される。光学的
伝達関数Hはカメラのポイント・スプレッド関数h(x,
y;Ca,γ)のフーリエ変換である。従って、光学的伝
達関数は確定したものであって、サーフェス・パッチの
カメラ・パラメータ及び距離に依存する。光学的伝達関
数についての解析的表現はカメラ・システムにおけるイ
メージ形成理論の理論的モデルから導き出すことができ
る。例えば、近軸幾何光学や回折光学に基づくイメージ
形成理論を使用することが可能である。
前述の如く求められた、適切に前処理されたイメージ
と正規化された合焦点イメージとの関係を使用して、2
つのイメージの関係が明らかになる。1つのイメージ
は、最初のカメラ・システムを第1カメラ・セッティン
グに設定することによって特定の視野でイメージを記録
し、次に第1カメラ・セッティングに対して特定の前処
理操作に従って記録されたイメージを処理した結果であ
る。他方のイメージはカメラ・システムを第2カメラ・
セッティングに設定することによって同じ視野でイメー
ジを記録し、次に第2カメラ・セッティングに対して特
定の前処理操作に従って記録されたイメージを処理した
結果である。この2つのイメージの関係は、第1カメラ
・セッティング及び第2カメラ・セッティングにおける
サーフェス・パッチの生じ得るすべての距離に対してあ
てはまる。この関係には、中間的パラメータは使用され
ない。更に、この関係は、サーフェス・パッチの外観や
合焦点イメージとは無関係に表わされている。実際上、
正規化された合焦点イメージはすべての距離について同
じになるはずであるので、適切に前処理されたイメージ
と正規化合焦点イメージとの前に導き出された関係にあ
る正規化合焦点イメージに対応する項は消去される。こ
の関係は、1つの拘束(comstraint)を解くことによっ
て有効な計算法でサーフェス・パッチの距離の決定を容
易にし、それは任意のポイント・スプレッド関数を有す
るカメラ・システムを使用したかなりの光学収差が存在
する場合でも、カメラ・パラメータを実際に測定するこ
となく、また不必要な拘束、近似、及び中間パラメータ
を導入することなく容易にするものである。
前述した関係の一例は次の様にして求めることができ
る。像検出器の第1位置に対するサーフェス・パッチの
第1イメージを記録し、その像検出器以外(即ち、他の
すべてのカメラ・パラメータ)はそのままにして、像検
出器を新しい位置に移動させ、サーフェス・パッチの第
2イメージを記録する。その第1及び第2の記録された
イメージを前処理して、それらのフーリエ変換の比をと
る。この比は以下の式で表わされる。
これは、2つの前処理されたイメージのフーリエ変換
の比をその対応する光学的伝達関数の比に等しくする関
係を与える。
前述の如く導き出された比関係において、正規化合焦
点イメージのフーリエ変換は相殺される。従って、任意
のフーリエ空間周波数において、比の値はサーフェス・
パッチの距離に関係するが、正規化合焦点イメージには
無関係となる。この比はサーフェス・パッチの距離の関
数として例えば下記の解析式の形で表わすことができ
る。
あるいは、前記比は、被写体のすべての取りうる距離
についてテーブル化され、コンピュータ・メモリに記憶
させることができる。解析式はカメラ・システムの理論
モデルから導き出すことができる。例えば、幾何光学や
回折光学の原理に基いて、解析表現を導き出すことがで
きる。この解析表現はサーフェス・パッチの距離を決定
するのに使用することができる。
前述の如く得られた比関係は、コンピュータ・メモリ
に予め記憶された数値表として表わすことも可能であ
る。この表はサーフェス・パッチの距離を決定するのに
使用することができる。この表自体はカメラ・システム
の理論モデルから計算することができるものである。ま
た、この表は較正手順によって実験的に決定することも
可能である。
これまでのステップは、サーフェス・パッチの距離を
決定する方法の第1の主要ステップに属するものであ
る。第2の主要ステップは以下のステップを含んでい
る。
即ち、カメラ・システムを第1カメラ・セッティング
に設定することによってサーフェス・パッチの第1イメ
ージを記録する。この記録されたイメージを第1カメラ
・セッティングについて特定された対応する操作に従っ
て前処理を行なう。
次に、カメラ・システムを第2カメラ・セッティング
に設定することによってサーフェス・パッチの第2イメ
ージを記録する。その記録されたイメージを第2カメラ
・セッティングについて特定された対応する操作に従っ
て前処理する。
ここで、第1イメージ、第2イメージ、及び2つのイ
メージ、例えば第1及び第2イメージ間の前述の関係を
使用して、サーフェス・パッチの距離を決定する。この
ステップに使用される関係は、2つのイメージ間の前に
明示した関係である。1つのイメージは最初カメラ・シ
ステムを第1カメラ・セッティングに設定することによ
って特定の視野でイメージを記録し、次に記録されたイ
メージを第1カメラ・セッティングに対して特定の前処
理操作に従って処理した結果である。他方のイメージ
は、カメラ・システムを第2カメラ・セッティングに設
定することによって同じ視野で別のイメージを記録し、
次に記録されたイメージを第2カメラ・セッティングに
ついて特定の前処理操作に従って処理した結果である。
サーフェス・パッチの距離を求める方法に加えて、本
発明は前述した方法によって決定されたサーフェス・パ
ッチの距離の不確定性を決定する式も与える。この式は
カメラ・システムの光学的伝達関数、カメラ・パラメー
タ値の測定の不確定性、及びSN比として表われるイメー
ジ信号の測定値の不確定性と関連している。
距離を決定する前述の方法の精度は、サーフェス・パ
ッチのイメージの縁のぼけたにじみ(イメージの重なり
の問題)の影響を軽減させることによって増強すること
が可能である。サーフェス・パッチの縁の周辺領域は、
その領域を照らさないことによって暗く保たれる。これ
によって、サーフェス・パッチによって生じるかすみ
が、サーフェス・パッチに近接するサーフェス・パッチ
によって生じるぼけと重なることが回避される。従っ
て、計算された距離の精度が改善される。
距離が望ましいサーフェス・パッチのイメージが反射
率の変動を示さない場合、シーン(sceme)内のサーフ
ェス・パッチに光パターンを投射することによって明る
さの変化を生じさせることが可能である。これによって
サーフェス・パッチの距離の決定が容易になる。
基本的には、1つのサーフェス・パッチのただ2つの
イメージを取得し処理すれば、このサーフェス・パッチ
の距離を決定するのには充分である。しかし、サーフェ
ス・パッチの幾つかの明瞭なイメージ対を処理すること
によって一層正確な距離の推定値を得ることができる。
イメージの各明瞭な対は1つの独立した距離の推定量を
得るため処理される。その独立した距離のすべての推定
量の重み付けされた平均が正確な距離推定量を与える。
一般に、前述の方法によって推定されたサーフェス・パ
ッチの距離は、重み付け平均をとることによって他の独
立した距離推定量(同じ方法又は別の方法によって得ら
れた)と結合して、より正確な距離推定量を得ることが
できる。
本発明の別の特徴は、カメラ・システムとサーフェス
・パッチとの間の決定された距離を使用して、カメラ・
システムの像検出器上にサーフェス・パッチを迅速に且
つ自動的に焦点を合せる方法である。この方法は、距離
を決定するステップに加えて、更に2つのステップを含
んでいる。1つは、サーフェス・パッチの距離に基い
て、カメラ・パラメータの少なくとも1つ、できれば両
方の値を決定する。その2つのパラメータとは、(1)
カメラ・システムのイメージを形成する光学系の焦点距
離と、(2)サーフェス・パッチを焦点に導く第2主平
面からの像検出器の距離である。それら2つのパラメー
タの決定は、イメージ合焦点公式を使用して行なわれ
る。そのイメージ合焦点公式の一例は周知のレンズ公式
1/f=1/u+1/vで、近軸幾何光学の原理に基いている。
自動焦点合せの次のステップは、焦点距離の値及び第
2主平面からの像検出器の距離を前のステップで決定さ
れた値に設定することである。
本発明の他の実施例は、シーン内の被写体のすべての
サーフェス・パッチの単に2つのイメージからの距離
を、あらゆるサーフェス・パッチが焦点内にあるかどう
かにかかわらず、またカメラ・システムからの距離に関
係なく、並列に(即ち、同時に)決定することを容易に
する。シーン内の各サーフェス・パッチに対応するイメ
ージ対は並列に同時に処理され、それらのカメラ・シス
テムからの距離を決定する。これは、カメラ・システム
の完全な視野を多くの小さな小(サブ)視野に分割し、
各小視野についてサーフェス・パッチの距離を決定する
方法のステップを繰り返し、それによって各小視野にお
けるサーフェス・パッチのカメラ・システムからの距離
を決定することによって達成される。
本発明は、異なるカメラ・セッティングで記録された
一対のぼけているであろうイメージから、改善されたサ
ーフェス・パッチ合焦イメージを決定するのにも使用さ
れる。最初に、前述の方法を使用して、サーフェス・パ
ッチの距離が決定される。この距離に基いて、記録さ
れ、前処理されたサーフェス・パッチのイメージの1
つ、例えば第1イメージの光学的伝達関数が決定され
る。次に、その第1イメージのフーリエ変換が決定され
る。このフーリエ変換は前に決定された光学伝達関数に
よって除算(デコンボルーション)される。この除算の
結果の逆フーリエ変換を計算することによって、改善さ
れたサーフェス・パッチ合焦イメージが得られる。
従って、可視シーン全体の改善された合焦イメージは
一対のイメージから、シーン内の可視サーフェス・パッ
チのカメラ・システムからの距離に関係なく、得ること
ができる。この方法は、カメラ・システムの完全な視野
を多くの小視野に分割するステップを含み、改善された
サーフェス・パッチ合焦イメージを各小視野について決
定する方法のステップを繰り返し、それによって各小視
野の改善されたサーフェス・パッチ合焦イメージを決定
する。このようにして決定された合焦イメージは、次に
合成(又は結合)され、カメラ・システムの完全な視野
の全シーンの改善された合焦シーンが得られる。
本発明は、また被写体のサーフェス・パッチとカメラ
・システムの距離を設定する装置を含み、カメラ・シス
テムは像検出器、カメラ開口、第1及び第2主平面と焦
点距離を有するイメージ形成光学系、及び光フィルタを
含み、第2主平面は第1主平面よりも像検出器により近
く配置されている。カメラ・システムはまたカメラ・コ
ントローラを含み、該コントローラは以下のカメラ・パ
ラメータの1つ又はそれ以上を変化させるよう動作する
ためにカメラ・システムの部品に作用的に接続される。
このカメラ・パラメータは、(i)第2主平面と像検出
器との距離、(ii)カメラ開口の直径、(iii)イメー
ジ形成光学系の焦点距離である。そして、カメラ・シス
テムは、また、イメージ・プロセッサを含み、該プロセ
ッサは像検出器及びカメラ・コントローラに作用的に接
続され、像検出器から信号を受け、カメラ・コントロー
ラによってカメラ・パラメータを変化させる。
好適実施例において、イメージ・プロセッサは像検出
器からの信号をディジタル・データに変換し、その結果
のディジタル・イメージを更なるイメージ処理のために
正規化する手段を含んでいる。更に別の好適実施例にお
いては、プリプロセッサは、イメージのセンサ応答特性
を補正する手段、イメージ形成光学系の不均一光透過を
補正する手段、イメージの明るさを正規化する手段、及
び像検出器に記録されたイメージの倍率を正規化する手
段の少なくとも1つを含んでいる。
イメージ・プロセッサは、また、信号のフーリエ変換
器と、フーリエ係数を除算して第1及び第2イメージか
らの信号に対応する一組の比の値を与える除算器とを含
む。この実施例は、また、第1及び第2イメージから収
集された比の値をカメラ・システムからのサーフェス・
パッチの距離を与える数学的関係に代入する手段を含む
ことができる。更に別の実施例は、ルックアップ・テー
ブル及び相関手段を含み、入力とルックアップ・テーブ
ルに記録された値との比較から得られる値から1つ又は
複数の被写体の距離を決定する。
本発明は、線形シフト・インバリアント・システムの
少なくとも1つあるいは多くのシステム・パラメータを
決定し、原入力信号を線形シフトインバリアント・シス
テムに取り戻す方法を提供する。線形シフト・インバリ
アント・システムは、システムの物理的配置を特定する
一組の既知のシステム・パラメータで表わされるシステ
ム伝達関数によって特徴づけられる。線形シフト・イン
バリアント・システムは、既知のシステム・パラメータ
値の異なるセッティングに対して出力信号を与えること
ができるものである。未知のシステム・パラメータ及び
原入力信号を決定する方法は、次のステップを含んでい
る。
(a) 既知のシステム・パラメータ値の多数の異なる
セッティングについて線形シフト・インバリアント・シ
ステムの出力信号を記録し、 (b) 記録された出力信号のフーリエ変換を線形シフ
ト・インバリアント・システムのシステム伝達関数に関
係づける一組の式を公式化し、 (c) ステップ(b)で導き出された一組の式を解い
て未知のシステム・パラメータを求め、 (d) 少なくとも1つの記録された出力信号及び既知
のシステム・パラメータ及びステップ(c)で決定され
たシステム・パラメータから原入力信号を計算する。
前述の方法の変形例も可能であり、その方法は1つの
線形シフト・インバリアント・システムの代りに複数の
線形シフト・インバリアント・システムを含んでいる。
各線形シフト・インバリアント・システムは共通の入力
信号を受け、そのシステム・パラメータによって決まる
1つの明確な出力信号を与える。各システムのシステム
・パラメータは明らかである。問題は、未知のシステム
・パラメータを決定し、すべてのシステムの出力を与え
る共通の入力信号を与えることである。線形シフト・イ
ンバリアント・システムのシステム伝達関数はそのシス
テム・パラメータによって特徴づけられる。この方法は
次のステップを含んでいる。
(a) 線形シフト・インバリアント・システム群の出
力信号を記録し、 (b) 記録された出力信号のフーリエ変換を線形シフ
ト・インバリアント・システム群のシステム伝達関数に
関係づける一組の式を公式化し、 (c) ステップ(b)で導かれた一組の式を解いて未
知のシステム・パラメータを求め、 (d) 少なくとも1つの記録された出力信号、既知の
システム・パラメータ、及びステップ(c)で決定され
たシステム・パラメータから原入力信号を計算する。
本発明によれば、従来技術の幾つかの欠点が解消され
た。例えば、焦点−深度(depth−from−foc−using)
手法に関しては、本発明はたった2つのイメージを処理
すればよい。従って、高速で、計算機リソースが非常に
少なくなる。
更、本発明によれば、1つのみならず、4つまでもの
カメラ・パラメータが一度に変化することができる。従
って、本発明は実用的カメラ・システムに広く適用する
ことができる。更に、本発明はガウス変調伝達関数に限
定されるものではない。任意の変調伝達関数に適用する
ことができるものである。
更に、本発明は線形シフト・インバリアント・システ
ムとしてモデル化することができるすべてのカメラ・シ
ステムに適用することができる。カメラ・システムのポ
イント・スプレッド関数(PSF)の形式によっては制限
されない。従って大きな光学収差や回折によって生じる
イメージ歪みが存在していても本発明は適用可能であ
る。本発明のシステムのPSFは関連のカメラ・パラメー
タで完全に且つ直接的に特性づけられ、それによって回
折効果やレンズ収差を補償する。本願発明者の別出願で
以前使用したような、PSFを特性づけるための中間的パ
ラメータは使用していない。
更に、最初に実験によってテーブル(表)が予め計算
されていれば、本発明の方法を適用するために、カメラ
・パラメータの実際の値を知る必要はない。本発明のシ
ステムはカメラ・パラメータを定量的に測定する必要性
を回避することができ、カメラ装置を簡単に、そして安
価にすることができる。
更に本発明の成果として、被写体の距離、光学的伝達
関数及びカメラ・パラメータ値を含む1つの式が公式化
され、解析的に(又はルックアップ・テーブル法によ
り)解かれる。これによって、以前は必要であった2つ
の別個の式を同時に公式化し、解く必要性を除去する。
本発明は、また、カメラ・システムに入る光のスペク
トル成分の影響を、別個のカメラ・パラメータとして考
えることによって考慮している。
本発明は、更に、被写体の距離の測定値の不確定性を
イメージ信号特性として推定し、カメラ・パラメータ値
の測定値の不確定性を推定する手段を与える。更に、本
発明は、距離を測定する方法を一般化し、任意の数のシ
ステム・パラメータを推定し、その入力信号を推定する
ため任意の線形シフト・インバリアント・システムに適
用することができる。
本発明は、センサ応答補正、不均一な透過性の補正、
倍率補正、及び理論的正確性に必要なグレー・レベルの
正規化を含む4つの前処理ステップを含むので、システ
ムはカメラ・パラメータの広い範囲の変動に対してより
正確になる。
発明の背景の項で前述した問題は、カメラ開口を動か
さないで像検出器を前後に移動させることによって、解
消される。これは、像検出器が移動されずレンズ系が移
動してそれに関連して問題を生じさせる殆んどの従来技
術と対照的である。
更に、本発明は、ポイント・スプレッド関数又は光学
的伝達関数が従来技術のように特定の形式、例えばガウ
ス又は円柱関数であることを前提にしていないので、そ
れらの関数は実用上生じ得るあらゆる形式にでき、従っ
て本発明のシステムはより広範な応用が可能である。
また、殆んどの従来技術は、特定の周波数成分の処理
に制限されるので、とらえるイメージにおける周波数成
分が無意味のとき、適用できない。これに対し、本発明
は高いか低いかにかかわらずすべて有意義な周波数成分
を使用するので、殆んどの従来技術のように1つのみの
周波数成分を使用するものに制限されることはない。
他の特徴として、従来技術のような被写体の外観やカ
メラ・パラメータの値についての制約がないことが含ま
れる。即ち、被写体は両者間に直線の境界を有する明る
いパッチと暗いパッチを含む必要がない。また、1つの
イメージが小さな(ピンホール)開口サイズでとらえる
必要もない。
本発明のシステムは、ポイント・スプレッド関数が1
つのパラメータによって特性づけられるカメラ・システ
ムに限定されるものではなく、関連のすべてのカメラ・
パラメータで直接的に特性づけられる。従って、本発明
の方法は相当の回折や収差が存在する場合でも適用する
ことができる。すべての従来技術はこの一般性が欠けて
いる。
本発明は、また、従来技術では2つ以上の拘束が必要
であったのに対し、1つの拘束を与えるのみで、従って
その拘束を解く計算コストを減少させる。この拘束は観
察されるイメージ及びカメラ・パラメータで直接的に表
わすことができる。また、中間パラメータ(例えば、PS
F分布の標準偏差)は含まれない。
本発明の他の特徴は、以後の説明から当業者には明ら
かになるであろうし、また、前述した特徴によって本発
明の範囲が限定されるものではない。
(実施例) カメラ装置及びカメラ・パラメータ 第1図には、本発明のカメラ・システムの透視概略図
が3次元空間的に示されている。第2図には好適な実施
例のカメラ・システムの詳細が示され、該カメラ・シス
テムは、カメラ光学軸O.A.に沿って配置された第1及び
第2のレンズL1,L2を有する光学系を含み、レンズ系の
焦点距離fを容易に変更できるように構成されている。
この焦点距離fはカメラ・パラメータである。
レンズ系は第1及び第2の主平面(principal plan
e)P1,P2を有する事を特徴としている。
開口ストップAsは第1のレンズL1の直前に配置され、
この開口ストップの開口の直径Dはカメラ・パラメータ
である。この直径は可変であるが、それは十分に小さ
く、カメラ・システムの入口孔及び有効開口がその直径
によって常に定められ、カメラ内の他のストップによっ
ては決定されないようにされている。ストップAsをレン
ズL1の直前に配置する事は、情景内の総べての対象物が
カメラからの距離に関係なく同一の入口孔に出現する事
を確実にするものである。
光学的収差が無い場合は、可能なかぎり開口直径Dと
同じにする事が望ましい。その理由は、(i)フィール
ドのより小さな深度において、カメラ・システムに対す
るより大きな範囲(深度)の認別能力を生じる事がで
き、(ii)より大きなイメージ投影を行う事ができ、
(iii)回折を減少させる事ができるからである。
レンズ系の焦点距離fの値は、光学軸に沿ってレンズ
L2を後退又は前進させる事によって変更される。他のレ
ンズL1は好ましくは移動させる事なく開口レンズ・スト
ップに常に近接させる事が望ましい。特に開口ストップ
によって決定される入口孔は、それが移動するとステレ
オビジョンにおいてそれに応じて生じる問題を引き起こ
すので、移動させるべきではない。
レンズL1,L2の両方が凸レンズであるか又はその一方
が凸レンズであり、いずれの場合においても有効焦点距
離は以下の公知の公式によって定められる。
なお、fL1,fL2はレンズL1,L2の焦点距離であり、rは
該2つのレンズ間の距離である。3以上のレンズを用い
た場合にも、同様な公式を用いる事ができる(例えば、
Hecht及びZajac著「Optics」1974年Addison−Wesley Pu
blishers発行 第5及び6章を参照の事)。主平面P1
P2の位置及びレンズ系の主要点Q1とQ2は、例えばK.N.Og
le著、Charles C.Thomas,Springfield(I1inois)によ
って1968年に発行された「text Optics」の第2部第7
章に開示されているような、幾何光学的な周知の方法を
用いて決定される。移動可能レンズL2によって有効焦点
距離fを変更するための他の方法においては、焦点距離
fL1,fL2の一方又は両方を変更する事ができる。これ
は、一方のレンズを有効焦点距離を有するレンズに変更
する事によって達成される。
カメラ・システムはまた像検出器IDを含んでおり、像
検出器IDにおいて実像が形成され、記録される。レンズ
系の第2の主平面P2と像検出器IDとの距離はSで表わさ
れ、これはカメラ・パラメータとなる。カメラ・パラメ
ータSの値は、光学軸に沿って像検出器IDを前進、後退
させる事により変更できる。Sの値はまた主平面P2を有
効に動かす事によっても変更できる。
第3図には、イメージ取得装置及びイメージ処理コン
ピュータを有するカメラ・システムが示されている。イ
メージ取得装置は、像検出器からイメージ信号を受けと
り、デジタル型態に変換する。このデジタル化されたイ
メージは、イメージ処理コンピュータに入力される。該
コンピュータは、入力デジタル・イメージを処理して表
面パッチの距離を再生する。総べてのカメラ・パラメー
タを検出する事ができる必要はないが、この距離の情報
は有用なものである。好適な実施例においては、カメラ
・パラメータの値を定量的に測定するための手段を有し
ており、該パラメータの値を変更する手段によって生じ
たカメラ・パラメータ値の変更をも測定できるものであ
る。
第15図はイメージ処理コンピュータの概略ブロック図
である。該コンピュータは、デジタル信号処理装置に通
常含まれている複数のモジュールから構成されている。
入力装置コントローラと出力装置コントローラとは、入
力装置と入力装置との間のデータ伝送に協調している。
中央処理ユニット(CPU)は動作処理を介助する。高速
フーリエ変換(FFT)チップ及び浮動小数点演算チップ
は、処理スピードを高上させるために用いられている。
メインメモリは入力イメージ・データを記憶し、かつ種
々の状態における処理動作の中間結果をも記憶する。
上記したモジュールに加えて、イメージ処理コンピュ
ータは、更に2つのモジュールを含み、表面パッチの距
離を決定する。該モジュールの一方は、高速ランダムア
クセスメモリ(RAM)モジュール又は予め計算された値
のテーブルを記憶するリードオンリーメモリ(ROM)モ
ジュールを有している。この予め記憶されたテーブル
は、本カメラ・システムを特徴づけるものである。他方
のモジュールは、“ルックアップ"/相関関係モジュール
であり、所与の組の計算された値に対する高速テーブル
サーチのための特殊目的VLSIハードウエアを有してい
る。このモジュールはテーブル・ルックアップ(検索)
動作(これは部分的に連想サーチを必要とする)、又は
相関関係測定値の計算及びその最大値サーチのいずれか
を実行する。
第4図には他の実施例が示されており、該実施例は、
ある情景の2つのイメージを同時に得る事ができるもの
である。該実施例は先に説明した実施例を少々変更する
事によって形成されている。この変形実施例において
は、カメラ・パラメータの少くとも1つ(可能なかぎり
それ以上)を変更するための手段を提供する単一のカメ
ラシステムを使用するかわりに、複数のカメラが用いら
れ、それぞれのカメラのカメラ・パラメータの値が、少
くも1つ(可能ならばそれ以上、全部でもよい)のカメ
ラ・パラメータにおいて同一ではないように構成されて
いる。この装置においては、それぞれのカメラのカメラ
・パラメータのいずれをも変更するための手段を具える
必要がないものである。それぞれのカメラは、一組のカ
メラ・パラメータの値に対応する1つのイメージを取得
するように用いられる。各々のカメラは、ビーム・スプ
リッタ装置により共通の開口(口径)を介して情景を写
す。この点を除いては、この実施例の他の部分、例えば
イメージ取得装置及びイメージ処理コンピュータは先に
説明した実施例と同様である。
理論的基礎 本発明に関連する理論的基礎を以下に説明する。
座標系とイメージ表現 第5図には、2つの球状座標システム(γ,θ,
φ),(γ′,θ′,φ′)が示されている。第1の座
標系(γ,θ,φ)は第1の主要点Q1に配置され、第2
の座標系(γ′,θ′,φ′)は第2の主要点Q2に配置
されている。両方の座標系のX軸及びY軸はそれぞれの
主平面上にあり、Z軸は光学軸に一致している。この座
標系において、第1の主平面P1に(θ,φ)の方向から
入射する光線は、第2の主平面P2から(θ′,φ′)の
方向に出射される。本発明の実施例において、光学系を
囲んでいる媒体は均一であり(空気)、該系は光学軸に
関して回転対称である。このような系に対して、入射光
線及び出射光線は、θ′=θ、φ′=φである。したが
って、記号を単純化するために、以下の説明においては
入射光線及び出射光線の両方向を特定するためにθとφ
のみを用いる。本発明は、しかしながら、一般的なケー
スに容易に拡張できるものであり、光学系を囲む媒体が
異なる箇処で異なっていてもよく、また光学系が回転対
称である必要もない。
イメージ座標系:像検出器は実際には2次元表面上に
配列されたCCDセンサのような光感知センサ素子のアレ
イを含んでいる。もし(γd,θ,φ)が像検出器の表面
上にある点の集りならば、該表面は以下の関数によって
定義される。
γ(θ,φ) (2) 光学系によって形成される情景のイメージは、像検出器
の表面上にイメージ放射分布を提供する。この放射分布
は以下の関数型態で表わす事ができる。
g(θ,φ) (3) この関数は、像検出器上に形成されたイメージを表現す
るものである。g(θ,φ)が、像検出器の表面の任意
形状のイメージを表わす事ができる事に留意すべきであ
る。特に、像検出器は、ほとんどのCCDカメラにおける
のと同様に平坦であり、又は例えば人間の目の網膜のよ
うに曲っていてもよい。
本発明の実施例において、像検出器の表面は平坦であ
り、光学軸に対して垂直に第2の主平面が距離δ離れた
位置に配置される。したがって、像検出器の表面の式
は、 γ(θ,φ)=δ/cosθ (4) と表わされる。しかしながら、像検出器の表面の幾何学
的形状が例えば平坦形状等の特定なものに限定されない
事に留意すべきである。本発明は像検出器の表面の形状
を任意のものに拡張できるものである。
本発明の方法は、光学軸に沿って像検出器が前方又は
後方に移動するようにする事もできる。像検出器のこの
ような移動により、記録されたイメージの大きさを変更
できる。イメージの大きさの変更を考慮するために、正
規化されたデカルト座標系(x,y)を定義し、像検出器
面上の点を識別する。これは、第2の主平面が基準距離
はなれた位置に配置された仮想デカルト座標系である。
第6図を参照されたい。像検出器上の任意の点(S/cos
θ,θ,φ)に対して、この点の正規化デカルト座標
(x,y)は、 x=tanθ,y=tanθsinφ (5) と表わされる。(θ,φ)によって特定される方向とデ
カルト座標(x,y)との間の上記のように定義されたマ
ッピングは1対1であり、したがって方向(θ、φ)を
正規化デカルト座標(x,y)にかつその逆も特定するよ
う定義するものである。この逆の関係は以下式によって
表わされる。
したがって、像検出器上の任意のイメージg(θ,
φ)はg(x,y)によって等価的に表わす事もできる。
ここにおいて、同一のイメージを表わすためにg(θ,
φ)とg(x,y)とを交互的に用いる。
座標系及び記号について説明したが、本発明の基本と
なる重要な用語をここで定義する。
合焦イメージf(θ,φ)は、情景における方向
(θ,φ)に位置する対象物からカメラ・システム入口
開口に入射する単位時間当りの総光エネルギーである。
合焦イメージのこの定義は、文献に記載されているも
のとは相違している。ここにおいては、合焦イメージ
は、情景における対象物の点の輝度又は発光量よりもむ
しろ入口開口に入射するエネルギーを用いて定義されて
いる。情景における被写体の点の発光量に基づく定義
は、情景における被写体の距離に合焦イメージを依存さ
せることになる。入口開口に入射する光エネルギーは被
写体の発光量に比例するので、カメラ・システムからの
被写体の距離の2乗に反比例して減少する。新しい定義
は、被写体の発光量及びカメラ・システムからの距離の
影響を取り除くものであり、本発明の正しい定理を表わ
すために必要なものである。
上記合焦イメージの定義は被写体の距離に依存してい
ないが、あるカメラ・パラメータに依存するものであ
る。例えば、カメラ開口の直径(口径)に依存してお
り、これは情景における被写体の点から入口開口に入射
する光エネルギーが被写体の点での開口に対する立体角
に比例するからである。次に輝度正規化合焦イメージの
定義をするが、これもまたカメラ・パラメータの実際の
値に依存しないものである。
輝度正規化合焦イメージfn(θ,φ)は以下のように
定義される。
fn(θ,φ)=f(θ,φ)/E (8) ここでEは、f(x,y)に対応する入口開口に入射する
光エネルギー総量であり、以下のように計算される。
E=∬f(x,y)dxdy (9) 以下、「輝度正規化合焦イメージ」を単に「正規化合焦
イメージ」と称す。
イメージ正規化の前処理ステップ 次に記録されたイメージを前処理するシーケンスを説
明し、前処理されたイメージと正規化合焦イメージとの
間に、単純な関係がカメラ・パラメータの値を用いて得
られるようにする。
理想的カメラ・システムにとって、点光源から方向
(θ,φ)に沿って入口開口に入射する光エネルギーの
総量は、該方向(θ,φ)に沿ってレンズ系の後方のあ
る点に集光され、がつ集光された光エネルギーの値は正
しく記録される。すなわち、カメラ・システムにおいて
は、吸収及びぼかしのような他の影響に基づくエネルギ
ー損失がない。さらに集光された光エネルギーの正確な
記録により、位置(θ,φ)にあるイメージ・センサの
応答(すなわち出力信号)が集光された光エネルギーf
(θ,φ)に比例する。しかしながら、実際のカメラは
この理想的な特性を有しているものではなく、従って実
際の記録されたイメージはカメラ・システムのこの理想
的でないふるまいに対して補正をするよう前処理され
る。
センサ応答補正:像検出器は、例えばCCDセンサのよ
うな光感知センサ素子からなるアレイを含んでいる。こ
れらセンサ素子の応答出力は、一般にイメージ発光量に
比例する。もしこれらの応答出力が比例せずに、入射光
エネルギーaに対して式b=C(a)で表わされるなら
ば、入射光エネルギーaは得られた応答出力bに基づき
逆変換操作a=c-1(b)を行う事によって定義され
る。この逆変換操作式c-1(b)は校正手続により初め
に定義される。さらに、カメラ製造者は像検出器の応答
出力を実際のイメージ発光量に関連付ける設計を行う事
ができる。観測されたイメージg(θ,φ)に対して、
センサ素子の非直線性応答を補正する操作は、以下の式
で与えられる。
g(θ,φ)←c-1(g(θ,φ)) (10) ここで符号「←」はそのようになる事を表わしている。
非均一光透過の補正:入口開口に入射する光は通常、
吸収又はぼかしの影響により、光学系によって少量減衰
される。減衰量lは通常方向(θ,φ)と共に変化し、
したがって、透過関数t(θ,φ)の型式で特徴付けら
れる。g(θ,φ)が像検出器に合焦されたイメージで
ある場合、非均一光透過の影響は、以下の操作によっ
て、補正される。
g(θ,φ)←g(θ,φ)/t(θ,φ) (11) センサ応答補正及び非均一透過補正がすでに実行され
たイメージg(θ,φ)(すなわち、g(x,y))は、
情景の観測されたイメージと称する。
輝度正規化:入口開口に情景から入射する光エネルギ
ーの総量は、カメラ・パラメータの変化に応じて変化す
る。例えば、カメラ口径が増大すると、総入射光量が増
大する。この変化を考慮して、イメージg(θ,φ)
は、入口開口に入射する総光エネルギーによって正規化
される。この総入射光量Eは以下のように計算される。
E=∬g(x,y)dxdy (12) 輝度正規化観測イメージgn(θ,φ)は以下のように定
義される。
ポイント・スプレッド関数 カメラ・システムのh(θ,φ)として表わされるポ
イント・スプレッド関数(PSF)は点光源により生じる
観測される像(上記限定された意味において)として定
義され、該点光源の輝度は点光源から入射瞳の単位時間
入射当りの総光エネルギーが一単位となる。
位置(γ00)における点光源Pに対応するポ
イント・スプレッド関数h(θ,φ)は次のパラメータ
に依存する。(i)像検出器の位置δ、(ii)光学系の
焦点長さf、(iii)開口径D、(iv)光学系を入射す
る光の波長λ(又はスペクトル量)、(v)光源Pの位
置(γ00)である。それはまた、他のパラメー
タ、例えば入射瞳の入射光の凝集の程度に依存するが、
他のパラメータは記録される異なるイメージにとって同
じに留まると考えられる。しかしながら、本発明は1以
上の他のパラメータがひとつの記録イメージから他の記
録イメージに変える場合に容易に拡張できる。
回転対象光学系にとって、しかしながら、ポイント・
スプレッド関数h(θ,φ)は角度φに依存しない。
本発明の好適な実施例において、光学系は光軸の回りに
円形に対称である。そこで、φはさらに考慮されな
い。しかし、本発明の方法はポイント・スプレッド関数
がφに依存する場合に拡張できるが、回転対称光学系
に限られるものではない。
ポイント・スプレッド関数はレンズ収差の変化のため
に光軸に関して角度θに依存する。しかし、角度θ
の小さい間隔内では、収差はほぼ同じであるように取ら
れる。そこで、カメラ・システムの観察の全分野は、収
差が一定に近い範囲の多くの小さいθの間隔に分割さ
れる。これらの間隔はわずかな度数のオーダである。各
間隔の実際の収差は計算又は測定を通して決定される。
観察されたイメージは小さいサブイメージに対応して分
割されそして各間隔に分離して分析される。この話は後
に論述されるが、今は処理されるべきサブイメージが、
レンズ収差が一定である内側のθの間隔のひとつにあ
ることが考慮される。
好適な実施例において点広がり関数が依存するパラメ
ータの組は(i)像検出器の位置s、(ii)焦点距離
f、(iii)開口径D、(iv)光の波長λ、(v)被写
体の距離γである。最初の4つのパラメータ(s,f,D,
λ)をカメラ・パラメータと称することにする。ベクト
ルCaはカメラ・パラメータを集合的に参照するために用
いられ、 Ca=(δ,f,d,λ) (14) である。ベクトルCaと点光源の距離γの値におけるポ
イント・スプレッド関数の従属を明確にするために、ポ
イント・スプレッド関数を h(θ,φ;Ca,γ) (15) として示す。この関数において、ポイント・スプレッド
関数が依存するすべての独立パラメータはCaとγによ
り特定される。これらの独立パラメータはポイント・ス
プレッド関数hの個別の独立した変数であると考えられ
る。特に、独立パラメータは、中間ぶれ(blur)パラメ
ータ(例えば、θ)を生じるために結合されず、ぶれパ
ラメータを関数hの独立変数として取る。
ポイント・スプレッド関数の定義から、次のようにな
る。
▲∫ -∞▼▲∫ -∞▼h(x,y;Ca,γ)dxdy=1 (16) 特に、上記関係はベクトルCaと距離γのすべての可
能な値に対して当てはまる。
(γ00)に置かれた点光源Pの観測イメージ
h(x,y;Ca,γ)が与えられるならば、Pの方向
(θ0)の予測はイメージ明るさ分布の中央の量か
ら得られる。正規化されたデカルト座標系において中央
の量の位置(,)は =▲∫ -∞▼▲∫ -∞▼xh(x,y;Ca,γ)dxdy (17a) =▲∫ -∞▼▲∫ -∞▼yh(x,y;Ca,γ)dxdy (17b) により与えられる。
点Pの方向(θ0)は関係(6)と(7)を使用
して(,)から得られる。
ポイント・スプレッド関数の広がりσはポイント・ス
プレッド関数の分布の標準偏差として定義され得る。即
ち、 σ=▲∫ -∞▼▲∫ -∞▼[(x−)+(y−)]h(x,y;Ca,γ)dxdy (18) ポイント・スプレッド関数(PSF)h(x,y;Ca,γ
は重心の囲りの非常に小さい領域においてのみ重要な意
味をもつ。この領域は広がりθの約2又は3倍のラジア
ンまで広がる。この領域の外側で、PSFは零に非常に近
い値をもち、ここでは重要でない。
表面パッチのイメージ 位置(γ00)に置かれたシーン(scene)の
被写体は像検出器の上にイメージを生じる。第7図を参
照。ここで位置(γ00)は実際に、被写体上の
表面パッチ(patch)の中心点(例えば重心)の位置を
表わす。表面パッチのすべての点の方向(θ,φ)は、
シーンの点の方向が像検出器上のイメージの方向と同じ
だから確実に細かく決定される。しかし、カメラ・シス
テムから表面パッチの距離γは決定されるべく留ま
る。表面パッチの大きさは、ポイント・スプレッド関数
が表面パッチ上のすべての点でほぼ同じであるように取
られる。これは、次のことを暗示する。(i)表面パッ
チのすべての点がカメラ・システムからほぼ同じ距離γ
にあること、(ii)光学系の収差は表面パッチ上のす
べての点でほぼ一定していること、である。イメージ領
域において、表面パッチのイメージの大きさは対応する
ポイント・スプレッド関数の広がりθよりも非常に大き
くあるべきである。最初、表面パッチを囲む他の表面パ
ッチは存在しないか、暗いか、又は照明されてないとし
て扱われる。この場合のそれらの影響は後に考慮され
る。
本発明の好適な実施例において、一般性を失うことな
く、当該シーンにおける表面パッチは像検出器平面に平
行な方形断面を有する第1の主要点において立体角に対
するように取られている。この立体角は、表面パッチに
対応する視野と呼ばれる。この視野の中央は(θ0,
φ)により与えられ、そして反時計方向において、方
向(θ1)、(θ2)、(θ3)及び(θ
4)により視野の角(がど)を指示する。表面パッ
チに対応する視野の中央と4つの角(かど)は夫々点
(x0,y0)、(x1,y1)、(x2,y2)、(x3,y3)及び
(x4,y4)により正規化されたデカルト座標において表
示され得る。i=1,2,3,4に対する4つの角の点(xi,
yi)は正規化されたデカルト座標空間を特定する。表面
パッチの方向として中央点(x0,y0)を、表面パッチの
大きさとして表面領域の幅(|xi−xi+1|として与えられ
る)を参照する。表面パッチの方向と大きさは本発明の
方法に対する入力として与えられる。
カメラ・システムにより記録される表面パッチのイメ
ージはセンサ応答補正(式(10)に従う)のために、次
いで不均一光透過(式(11)に従う)のために前処理さ
れる。その結果の像g(θ,φ)は「面パッチの観測
像」とよばれる。
上述の情況下で、考慮下にある表面パッチのイメージ
が関係している限り、カメラ・システムは実質的に線形
シフト・インバリアント・システムである。事実、最後
の数ページの議論の主な目的は、カメラ・システムが線
形シフト・インバリアント・システムとしてモデル化さ
れる理論的なフレームワークにあることであった。この
目的に対し、センサの応答補正と不均一透過補正のステ
ップが導入された。いくつかのカメラ・システムに対し
ては、そのデザインと特徴に従って、いくつかの前処理
ステップは不必要であり、そして他のカメラ・システム
にとっては、たとえば、応答特性が像検出器の異なるセ
ンサ要素にとって異なるとき、付加的な前処理ステップ
と制限が必要である。次の議論では、すべて、かつ唯一
の必要な前処理ステップが実行されるべく取られ、そし
てすべてかつ唯一の必要な制限が満足されるべく取られ
ている。要するに、カメラ・システムはシーンにおける
被写体の小さい表面パッチのための線形シフト・インバ
リアント・システムにより適切にモデル化される。
線形シフト・インバリアント・システムとしてモデル
にされているカメラ・システムに関し、表面パッチの観
察されたイメージg(θ,φ)は、実際、カメラ・シス
テムのポイント・スプレッド関数h(θ,φ,Ca,γ
で対応する焦点レンズf(θ,φ)をコンボルーション
演算する結果である。この関係は g(θ,φ)=h(θ,φ;Ca,γf(θ,φ)
(19) によって表わされる。ここで*はコンボルーション演算
をを示す。同じ関係が輝度正規化イメージgn(θ,φ)
とfn(θ,φ)に当てはまる。即ち、 gn(θ,φ)=h(θ,φ;Ca,γfn(θ,φ)
(20) である。上記関係は事実から導かれる。
E=∬g(x,y)dxdy=∬f(x,y)dxdy (21) 上式は光エネルギの保存の結果(式16を参照)であ
る。
関係(20)は正規化デカルト座標空間において次式の
ように等価に表現される。
gn(x,y)=h(x,y;Ca,γfn(x,y) (22) 式(22)はカメラ・パラメータと表面パッチの距離によ
って、同じ表面パッチの正規化合焦イメージfn(x,y)
に表面パッチの適切な前処理記録イメージgn(x,y)を
関係ずける。カメラ・パラメータと表面パッチの距離は
共にポイント・スプレッド関数h(x,y:Ca,γ)を決
定する。
式(22)のフーリエ変換を取ると次の関係が与えられ
る。
Gn(ω,ν)=H(ω,ν;Ca,γ)Fn(ω,ν) (23) ここに、ω、νは空間周波数であり、Gn(ω,ν)は明
るさの正規化観察イメージgn(x,y)のフーリエ変換、
H(ω,ν;Ca,γ)はポイント・スプレッド関数h
(x,y;Ca,γ)のフーリエ変換、そしてFn(ω,ν)
は輝度正規化合焦イメージfn(x,y)のフーリエ変換で
ある。H(ω,ν;Ca,γ)はカメラ・システムの光学
伝達関数又はOTFと呼ばれる。
距離決定 表面パッチの最初の観察イメージg1(x,y)はCa1によ
り示される最初の設定値に設定されるカメラ・パラメー
タで得られる。
Ca1=(δ1,f1,D1) (24) 表面パッチの第2の観察イメージg2(x,y)はCa2によっ
て示される第2の設定値に設定されたカメラ・パラメー
タで得られる。
Ca2=(δ2,f2,D2) (25) 2つのカメラ設定Ca1,Ca2において、カメラ・パラメ
ータδ,f,D,λの少なくともひとつは違わなければなら
ない。即ちCa1≠Ca2(さもなければ2つの観察イメージ
g1(x,y)とg2(x,y)は同じであろう)。4つのカメラ
・パラメータδ,f,D,λのうち、そのいずれかひとつ、
いずれかの2つ、いずれかの3つ又はその4つのすべて
が異なることができる。例えば、カメラ設定動作はD1
D2、λ=λしかしf1≠f2そしてδ≠δのように
できる。
gn1(x,y)とgn2(x,y)を、夫々、観察イメージg
1(x,y)とg2(x,y)とに対応する輝度正規化イメージ
とする。gn1(x,y)とgn2(x,y)の値は像検出器の感光
要素の位置に対応した点の個別アレーで知られている。
もし像検出器が例えばδからδへ(ここでδ>δ
)移動されるならば、そのときイメージの後者の倍率
は像検出器に形成される。そこで、gn1(x,y)に対応す
る個別のアレーはgn2(x,y)に対応する個別のアレーよ
りも大きい。換言すれば、gn1(x,y)が既知である(x,
y)の個別の値はgn2(x,y)が既知である(x,y)の個別
の値よりも密である(又は接近した広がり)であろう。
この場合、gn1(x,y)はgn2(x,y)が既知である同じ個
別の点で値へ挿入される。この動作はイメージの強度に
おける変化を処理し、そして倍率正規化と呼ばれる。
もしGn1(ω,ν),Gn2(ω,ν)が夫々イメージgn1
(x,y),gn2(x,y)に対応するフーリエ変換であるなら
ば(倍率正規化の後)、そのとき式(23)から次の関係
を導くことができる。
式(26)において、左辺は異なるカメラ設定動作で記
録された2つの前処理イメージのフーリエ変換の比であ
る。右辺は対応する光学伝達関数の比である。この式は
正規化焦点イメージと独立である(実際、正規化合焦イ
メージに対応する項はこの式を導く間に消去する)。
左辺は記録されたイメージから計算できる。すべての
要求されたカメラ・パラメータが与えられるなら、解析
式が右辺に対して導出できる。この結果、距離γが唯
一未知である式が得られる。この式を解くと表面パッチ
の距離γを与える。
式(26)の右辺に対して解析式を導出することにより
距離を決定する代わりのアプローチはカメラを実験的に
校正することである。この方法において、左辺の比は表
面パッチのすべての可能な距離について計算され、そし
てこの距離(例えば定規を使用し、物理的に実際に測定
することにより決定される)は計算された比の関数とし
て表に作られる。この結果得られた表はコンピュータ・
メモリに記録され得る。カメラ・システムを校正する
と、いずれの表面パッチの距離もこの表を参照すること
により決定できる。
式(26)を解くための方法の詳細な議論が次に述べら
れる。
式(26)のノイズの影響を減少するために、G
n1(ω,ν)とGn2(ω,ν)が有意である、すなわ
ち、それらの大きさが前もって特定した閾値κ(ω,
ν)よりも大きいフーリエ周波数(ω,ν)を選択す
る。この条件はκ(ω,ν)>0として下記のように表
わされる。
|Gn1(ω,ν)|κ(ω,ν), |Gn2(ω,ν)|κ(ω,ν) (27) これは観察されたイメージから計算された左辺の値がノ
イズの存在下で確固としていることを保証する。κ
(ω,ν)の実際の値はカメラ・システムのノイズに対
する信号比特性により決定される。それはノイズ振幅の
平方二乗平均(RMS)の約5倍であり得る。即ち、ノイ
ズに対する信号比は約25であることが要求される。
距離の解:理論 距離γを得るために式(26)を解く2つの方法があ
る。第1の方法は解析的アプローチである。このアプロ
ーチでは、解析式はCa1,Ca2と距離γによって特定さ
れるカメラ・パラメータにより式(26)の右辺に対して
導出される。その結果の式はCa1,Ca2と観察イメージか
ら計算される式の左辺の比とによって距離γのための
明快な解析式を得るために解かれる。
ポイント・スプレッド関数のガウスモデルに基づくひ
とつのこのような方法は1987年に提出されたU.S.特許出
願番号126,407に本発明者により述べられている。ガウ
ス(Gaussian)モデルのために、ほぼ2つの距離の解法
があることが示された。明快な分析式がその2つの解法
のために導かれた。また、2重のあいまいさを避けるこ
とができ、そしてD1=D2であるときに、もし開口径Dが
2つのカメラ設定のために変更されないならば唯一の解
が得られることを示した。直径が変更されている時さえ
も、2重表現なカメラ・パラメータと被写体距離が特別
の条件を満足しているときのみ生じる。
ガウスPSFの特定の場合の結果は(i)2つの解以上
が可能であるか、通常は唯一であること、(ii)2倍の
あいまいさはカメラ・パラメータの適切な選択により通
常避けられることを提案している。この場合は一般のPS
Fでさえも、あいまいさはおそらく2つ重複のみであ
り、このあいまいさはカメラ設定動作の適当な選択によ
り避けられることを暗示している。
しかし、PSFのためのガウスモデルはPSFの実際の形へ
の近似値である。この発明は形に制限のないカメラ・シ
ステムの任意のPSFを扱っている。
PSFのための完全式が電磁理論を使用して導かれる。
例えば、アグロウ・ヒル出版社、1968年、J.W.グッドマ
ンによる本“フーリエ光学への紹介”における式(6.2
4)と(6.27)(ページ114と115)がカメラ・システム
のOTF(従ってPSF)の式を導くために使用できる。OTF
を記述する完全解析関数は通常非常に複雑である。そこ
で、実際に、式(26)を解くことは非常に困難であり、
又は不可能でさえある。この方法の別の不利益はCa1とC
a2により特定されるカメラパラメータの値の正確な知識
を要求することである。これはカメラパラメータへの付
加的複雑性を導く。デザインがカメラ・パラメータの正
確な測定を容易にすることを要求されるからである。
解析形式で表わされた式(26)を解くことが不可能で
あるなら、数の反復法が使用できる。しかし、良い収束
値をもった有効な反復アルゴリズムが必要である。もし
このようなアルゴリズムが利用できないなら、計算上は
高価であるけれども、γ空間の徹底的サーチが、被写
体の距離のあらゆる可能な解を与えるために許容され
る。
式(26)を解く第2の方法はテーブル・ルックアップ
法である。この方法は実際上から非常に便利である。こ
の方法では、式(26)の右辺の関数はγの小区分の間
隔について次のように表にされる。
第8図を参照。表項目は通常、複素値であり、そこで
次のように極形式で表示される。
δ(ω,ν;γ)=tδ(ω,ν;γ)Ciψ0(ω,ν,γ0)(29) ここでtδ(ω,ν;γ)=|Tδ(ω,ν;γ)| (30a) そして ψδ(ω,ν;γ)=位相〔Tδ(ω,ν;γ)〕 (30b) である。例えばPSFがガウス関数又は円筒関数である場
合についてもtδ(ω,ν;γ)のみを表にするか、
又は例えばPSFが円筒関数である場合についてΨ
δ(ω,ν;γ)のみを表にすることで時々十分であ
る。特に、全回転対称PSFについて、OTFは常にどこでも
実数の値である(これはフーリエ変換の性質に従う)。
この場合、位相Ψδは常に0又はnであるが、tδはい
ずれかの正の実数値であり得る。そこで、tδはこの場
合に要求されるほとんどすべての情報を含む。tδが単
独に距離γを決定するのに十分な情報を含むときは常
に、電力スペクトルの平方根として計算され得る。これ
はイメージの電力スペクトルが光学手段により非常に速
く計算され得ることを気がつくことは重要な点である。
しかし、距離γの正しい解は表tδ(ω,ν,
γ)とΨδ(ω,ν,γ)に関係し、このうちの1
つだけがしばしば満足する。普遍性のために両方の表が
考慮される。これらは共に表Tδ(ω,ν,γ)を構
成する。
距離に対する解法:実際的な考慮 原理的に、ある固定のフーリエ周波数(ω,ν)に対
して関数Tδ(ω,ν,γ)を作表することはしばし
ば十分である。しかしながら、実際には、このことは不
適切である。それは、観測された像において、対応する
フーリエ成分Gn1(ω、ν)及びGn2(ω、ν)は有意で
なく、あるいは存在しないことすらありうるからであ
る。さらに、2つのみのフーリエ周波数においてG
n1(ω、ν)とGn2(ω,ν)とを測定することにより
距離γを解くことは複数の解をもたらすことがありう
る。したがって、テーブルTδ(ω,ν,γ)は数個
のフーリエ周波数(ω,ν)に対して記憶される。実
際、コンピュータ・メモリは安価なので、テーブルは全
てのありうるフーリエ周波数に対して記憶しうる。観測
された像から計算した値は、下付き文字cで示され、次
式で与えられる。
ここでtc(ω,ν)=|Tc(ω,ν)| (30.3a) Ψ=位相〔Tc(ω,ν)〕 (30.3b) である。
tcとΨは、観測された像Gn1(ω、ν)とGn2(ω、
ν)とから数個のフーリエ周波数(ω,ν)において計
算される。tcc,ω及びνの値は一緒で距離γに対
する一組の解を決定する。これをR0(ω,ν,tc
により表わすとする。全ての組に共通であり、全ての解
の組の共通部である解は、対象物の距離に対して実際の
解γを与える。これは次のように表わすことができ
る。
テーブルTδ(ω,ν;γ)は、サイズがM×N×
U×2の4次元アレイ(第8図参照)に記憶される。こ
のアレイでは、第1次元はωのM個の個別値に対応し、
第2次元はνのN個の個別値に対応し、第3次元はγ
のU個の個別値に対応する。第4次元に沿って、tδ
第1の項目として記憶され位相Ψδは第2の項目として
記憶される。
さて、(ω,ν,tc)を与えたとすると、(ω,
ν,γ)によりインデックスされた第4次元項目(t
δ,Ψδ)が(tc)の計算値に等しいように、全
ての距離γを見つけることが望ましい。これは、γ
の各値に対して第3次元に沿ってアレイをサーチし、tc
とΨの計算値とtδとΨδの記憶値とを比較すること
により得ることができる。したがって、この方法は2Uの
比較動作を含む。R0(ω,ν,tc)は、このように
して得られたγの全ての値の組を表わすとする。そこ
で、これらγの値の各々に対して、(ω,ν)の他の
値での計算値tc及びΨが記憶値tδ,Ψδに等しい
(あるいは近い)か否かを決定するために、比較がなさ
れる。γのただ1つの値が残されているか、全てのあ
りうる周波数(ω,ν)がサーチされてしまったかのい
ずれかまで、条件付きのサーチはなされる。このサーチ
に生き残ったγの値は距離に対する解である。
式(31)は二つの理由のためγを解くのに厳密には
実行されない。第一に、テーブルTδ(ω,ν,γ
はγの個々の値で記憶されているので、テーブルの各
エントリーは、このテーブルのエントリーが記憶された
実際のγの周りの小さい間隔に対応する。第2の理由
はノイズである。したがって、各解の組R0(ω,ν,tc,
Ψ)から他の解と最も矛盾の少なくとも1つのγ
選ばれる。解が別の(ω,ν)例えばγ(ω,ν)に
対して異なる場合には、これら異なる解の加重平均が実
際の距離の推定値として取られる。候補の解γ(ω,
ν)に対する重みは、(ω,ν)での信号対雑音比に基
づいて決定することができる。例えば、重みは(ω、
ν)における信号対雑音比に比例して取ることができ
る。式(31)を用いて式(26)を解くこの方法は組交差
法(set intersection method)と言われる。
テーブルが、4次元で1つの項目だけ拡張され、γ
を記憶し、γの代りに3次元に沿ってtsとΨとによ
って項目をソートする場合には、サーチ中の初期の2Uの
比較動作は低減することができる。そこで、ソートされ
たリストは、周知のサーチ・アルゴリズム(例えばバイ
ナリー・サーチ)の1つを用いてO(logU)の動作にお
いてソートすることができる。
上記の組交差法の代りとして、実質的に最も一致した
解のためγに対してテーブルTδ(ω,δ,γ)の
網羅的なサーチである相関法を用いることができる。サ
ーチは、観測された像からの計算値Tc(ω,ν)と、γ
の各ありうる値に対してテーブルに予め記憶された値
δ(ω,ν;γ)との相関測定値を計算することに
より実行される。最も高い相関をもたらすγの値が対
象物の距離として取ることができる。相関測定値の例は
次のように規定される相関係数である。
ここで添記号(*)は複素共役を示し、Eは平均値演
算の期待値を示す。期待値即ち平均は(ω,ν)の種々
の値にわたって計算される。相関係数cは距離γの全
てのありうる値に対して計算され、|C|が最大であるγ
が被写体の距離として取られる。大きさtδと位相Ψ
δに対して別々に相関を規定し計算することも同様にで
きる。この方法は、特別の目的のハードウェアが相関の
高速計算のため入手可能であれば便利である。さらに、
この方法はノイズに対してしっかりしている。組交差法
と同じようにこの方法もまた、重み付け手法を相関測定
値の計算において信号対雑音比に基づいて用いることが
できる。これは、距離γのより良い推定を生む。
カメラ・システムの好適実施例を用いて、表面パッチ
(surface patch)の距離を見つけるため実施される動
作の段階的説明を以下にする。
表面パッチの距離を見つけるため、カメラは、シーン
の最初の像が記録される最初のカメラ・セッティングに
設定される。即ち、 Ca1={δ1,f1,D1} カメラは、第2のカメラ・セッティングに設定される。
即ち Ca2={δ2,f2,D2} ここで、Ca1≠Ca2であり、シーンの第2の像は記録され
る。
シーンの表面パッチは、(θ0)に中心付けられ
た、方形の視野を決定しかつコーナ点(φi)(i
=1,2,3及び4)を有することにより選択される。表面
パッチの像を処理用の最初に記録された像から抽出す
る。この抽出された像は、選択された方形の視野内で最
初に記録された像と同じ明るさを有し、g1(θ,φ)に
より表わされる。選択された方形の視野の外側の値はゼ
ロである。
式(10)にとおいて必要ならばセンサ応答の修正を適
用でき、式(11)において前述したように必要ならば不
均一伝送の修正を適用できる。倍率の修正の修正もまた
適用できる。δ>δであれば、信号は補間され、g1
(θ,φ)はg2(θ,φ)が既知である個別点の同じ組
で再びサンプリングされる。
必要ならば、カメラを線形シフト・インバリアント・
システムとしてモデル化するために追加の前処理ステッ
プを実行させることができる。像は、式(6)により正
規化デカルト座標系におけるg1(x,y)として表わされ
る。像g1(x,y)の境界での像の重なり効果は、g1(x,
y)に適当な中心重み付けされたマスクω(x,y)(例え
ば2次元のガウス分布)を乗ずることにより低減でき
る。即ち、 g1(x,y)←ω(x,y)g1(x,y) g1(x,y)とg2(x,y)の全体の(あるいは平均の)輝
度は、例えば式(13)と同様にして、同じであるように
される。gn1(x,y)のフーリエ係数Gn1(ω1
は、個別の空間周波数(ω1)(i=1,2,……,m及
びj=1,2,……n)の組で計算される。
表面パッチの像は、処理用の記録された第2の像から
抽出される。抽出された像は、選択された方形の視野内
で、記録された第2の像と同じ輝度を有し、この方形の
視野の外側の全ての所の輝度の値はゼロである。この第
2の像はg2(θ,φ)として表わされる。
記録された第2の像は、センサ応答の補正、不均一透
過の補正、倍率の補正、輝度の正規化、他の前処理ステ
ップ及び像の重なりの低減のために、第1の像として処
理される。その結果、得られた像をgn2(x,y)により示
す。この像のため、フーリエ係数Gn2(ωi)が、
個別の空間周波数(ω1)(i=1,2,……,m及びj
=1,2,……,n)の組で計算される。
閾値パラメータ関数κ(ωi)をカメラ・システ
ムの像ノイズ特性に基づいて特定することができる。し
たがって、|Gn1(ωi)|≧κ(ω1)であり
かつ|Gn2(ωi)|κ(ω1)である場合に
は、対応する係数の比は次のように計算される。
また、式(30a,b)で大きさtcと位相Ψを計算す
る。
解析的に距離を計算するため、次の計式を有する式を
導くことができる。
上記の式において、光学的伝達関数(OTF)Hは像形
成の理論(例えば近軸幾何光学理論(paraxial geometr
ic optics theory)あるいは波動光学理論)から導き出
される。ωij,Ca1及びCa2の値が上記式に代入され、
距離γに対する全てのありうる解を得るために、この
式を解くことができる。明示的解析式をγに対して導
き出すことができれば、この式がγを計算するために
用いられる。さもなければ、数値反復手法が用いられ
る。いずれの場合も、複数の解が存在する場合には、擬
似解は、全ての解が全てのありうる空間周波数(ωi
)に対して矛盾しないことを要求することにより排除
される。
代りに、各計算比tc(ωi)をtcijにより示し、
位相Ψ(ωi)をΨcijにより示す。コンピュー
タ・メモリの予め記憶されたテーブルをインデックスす
るため(ωij,tcijcij)を用い、距離γに対す
る解γ(ωij,tcijcij)の一組を見つける。γ
の擬似解を排除するため、式(31)において空間周波
数にわたってこのような組の交差点を取る。即ち、 第3の方法においては、計算値tc(ωi)と、全
てのありうる距離γに対してコンピュータ・メモリに
予め記憶された関数tδ(ωij)との間の相関
係数Ct(γ)を計算する。相関Ctが最大である距離γ
の値を見つける。このγの値は表面パッチの距離の
推定値を与える。同じ最大相関係数をもたらす複数のγ
の値が存在する場合には、これらのγの値に対し
て、計算された位相Ψ(ωi)と、コンピュータ
・メモリに予め記憶された関数Ψδ(ωij)と
の間の相関CΨ(γ)を計算する。そこで、CΨが最
大であるγの値を見つける。このγの値は、表面パ
ッチの距離の推定値を与える。
距離γの不確定性|δγ0|は式(87)を用いて計算
できる。
テーブルの予めの計算 テーブルTδ(ω,ν,γ)を得る2つの方法があ
る。第1の方法は、光学的伝達関数H(ω,ν,Ca,
γ)に対する解析式を用い、式(28)の右辺を計算す
ることによるものである。これは、(ω,ν,Ca,γ
に対する光学的伝達関数の解析式を必要とする。さら
に、これはカメラ・システムの測定を通してCa1及びCa2
の実際の知識を必要とする。この方法を以下に説明す
る。
像形成理論、例えば近軸幾何光学あるいは古典的な波
動光学が選択された後に、カメラ・システムの光学的伝
達関数Hの式を導くことができる。この光学的伝達関数
は、カメラ・パラメータCa、表面パッチの距離γ及び
フーリエ空間周波数(ω,ν)に関して表わすことがで
きる。
カメラ・セッティングCa1及びCa2の適当な組が選ば
れ、光学的伝達関数を計算するのに必要である個別の値
(ω,ν,γ)が決定される。
所与のカメラ・セッティングCaに対して、光学的伝達
関数H(ω、ν;γ)の値は、先に導き出された式を
用いて(ω、ν;γ)の個別の値において計算でき
る。計算された値はコンピュータ・メモリに記憶され、
表面パッチの改善された合焦像を決定するのに用いられ
る。
テーブルを予め計算し、別々のカメラ・セッティング
Ca1及びCa2を取る2つの像が与えられる表面パッチの距
離を決定するため、最初にカメラ・セッティングCa1
びCa2に対するカメラの光学的伝達関数を(ω、ν;γ
)の所望の個別の値において計算する。
これらの光学的伝達関数の比は、次の型式で計算でき
る必要なテーブル値を与える。
そして、この比はコンピュータ・メモリに記憶され
る。計算されたテーブルは複素値で与えられる。各項目
もまた、式(30a,30b)によって大きさと位相の型式で
記憶される。
OTFの正確な解析関数は、例えば、J.W.Goodman著,196
8年McGraw−Hill刊、「Introduction to Fourier Optic
s」の式(6.21)及び式(6.27)(114及び115頁)によ
り与えられる。この関数は、実際のカメラ・システムに
とって非常に複雑なものとなる。しかし、実際の幾何光
学は多くの実際のカメラ・システムに対して良い1次近
似を与える。したがって、テーブルを予め計算する解析
法はこの場合には有用である。さらに、近軸幾何光学モ
デルをカメラ装置にとって他の有用な設計基準を導き出
すのに用いることができる。
テーブルの予めの計算:近軸幾何光学 好適実施例において、光学系は回転対称である。(こ
れは多くの実際のカメラ・システムにとって大部分正し
い。)近軸幾何光学の条件の下で(第9図参照)、ポイ
ント・スプレッド関数は円筒形であるいは「丸薬箱(pi
ll−box)」状であり次式により与えられる。
ここでRはブレ円(blur circle)の半径である。以
下に示すベクトルCaによるカメラ・パラメータδ,f,Dに
より特定されるカメラ・セッティングを示す。
Ca=(δ,f,D) (33) (幾何光学において、回折効果は考慮されてなく、した
がってカメラ・パラメータのリストからλを落としてい
ることに注意されたい。)第9図とレンズの公式から である。(単位倍率に対する正規化の後に) を得る。上記式において、fは実効焦点距離、δは像検
出器に対する第2主平面からの距離、Dは開口径、vは
第2主平面から合焦像までの距離、及びuは第1主平面
から被写体までの距離(第5図の球面座標系におけるu
=γ0cosθに注意)。像検出器上のブレ円の実際の半
径はδにより除され単位像倍率に対応する正規化半径R
を得る。実効焦点距離fは式(1)から導き出される。
式(32)のポイント・スプレッド関数は回転対称であ
るので、光学的伝達関数もまた回転対称である。したが
って、光学的伝達関数における単一空間周波数パラメー
タρは を用いることができる。式(32)のフーリエ変換は次式
により与えられる光学的伝達関数である。
ここでJ1は1次のベッセル関数である。この式は、明
快に光学的伝達関数がカメラ・パラメータと被写体の距
離とに依存していることを示している。
式(28,36,37)から、 ここで Ca1=(δ1,D1,f1)及びCa2=(δ2,D2,f2) (39) である。カメラ・パラメータCa1,Ca2が与えられると、
式(37)と、式(38)におけるテーブルTδ(ρ,u)と
に対応するOTFテーブルは、式(35)及び(36)を用い
てコンピュータにより容易に計算できる。
テーブルの予めの計算;実験的アプローチ テーブルTδ(ω,ν,γ)を得る第2の方法は、
実験を通してである。H(ω,ν;Ca)に対する解
析式が得られない場合、または計算が困難な場合、ある
いはカメラ・システムのCa1及びCa2を正確に測定するこ
とが困難な場合には、実験的な方法が便利である。この
場合には、カメラ・セッティングCa1に対するカメラ・
システムの観測された像g1(x,y)と、カメラ・セッテ
ィングCa2に対するカメラ・システムの観測された像g2
(x,y)は、γの各ありうる値に対して小さな個別の
間隔で記録される。したがって、テーブル項目は次のよ
うに計算される。
実験的にテーブルを決定するために合焦像f(x,y)
を知ることは必ずしも必要でないことを注意されたい。
式(27)が満足されることによりテーブル項目のための
しっかりした推定値を生ずるため、先の|F(ω,ν)|
κ(ω,ν)を必要とするのみである。この要件は、
例えば、合焦像を、空間周波数(ω,ν)を持った高コ
ントラスト正弦波パラメータにすることにより、いずれ
の(ω,ν)に対して容易に適合させることができる。
テーブル項目を決定するに際して、カメラ・システム
からの被写体の距離γを初期較正ステップ中に正確に
測定できることが必要である。Ca1及びCa2のいずれの成
分を知ることは必ずしも必要ではないが、観測された像
の倍率を正規化するために比δ1を知ることは必要
である。
ルックアップ・テーブルを実験的アプローチにより予
め計算するため、次のステップを行う。カメラの視界を
多くの小さな副視野に分割する。第10図及び第11図を参
照されたい。これらの副視野のサイズは、各副視野内で
光学収差が殆んど一定に保たれるように選択される。装
置を実現するのに便利なため、副視野は像検出器に対し
て平行な方形の断面を有するようにする。したがって、
各福視野は、(θoijoij)(i=1,2,……,I及びj
=1,2,……,J)で中心向けされ、そして対応するコーナ
の点はそれぞれ(θkijkij)(k=1,2,3,4)であ
る。
各副視野に関して、(θ0)を中心とする1つの
副視野を選択し、そしてi=1,2,3,4として(θi,
φ)のコーナーをもつことにより、テーブルT
δ(ω,ν;γ)を計算し記憶する。どこも均一に暗
いフラット・ボードを置き、これをその中心に方向(θ
0)に直交して配置する。このボードの距離は、カ
メラ・システムからγとすべきである。高い空間周波
数内容(例えば、暗い背景上にランダムに分布した大き
な明るい領域のパターン)を有したフラットな高コント
ラストの写真を置き、これをそのボードの中心に配置す
る。その写真のサイズと場所とは、上記の選択した副視
野に広がる程度のものとすべきである。
カメラを第1のカメラ・セッティングCa1にセット
し、そして前に説明したシーンの第1のイメージを記録
する。同様に、そのカメラを第2のカメラ・セッティン
グCa2にセットして第2のイメージを記録する。
その第1の記録イメージから、ボードのイメージに対
応する広いダーク・バンドで囲まれたその写真パターン
のイメージを含んだサブイメージg1(θ,φ)を抜き出
す。このサブイメージには、それ以外の被写体のイメー
ジは含まれるべきではない。これにより、その取り付け
た写真が発生する光分布のほとんど全てが、その引き出
したサブイメージ内に確実に記録されていることにな
る。更に、強度がそのボーダーにおいて一定であるた
め、ボーダー効果を回避することができる。このステッ
プを第2の記録イメージに対しても繰り返して、サブイ
メージg2(θ,φ)を引き出す。
それらサブイメージg1(θ,φ)及びg2(θ,φ)の
前処理を行い、そして前に説明した通り、それらの正規
化フーリエ変換Gn1(ωi)及びGn2(ωi)を
それぞれ計算する。記憶すべきそのテーブルTδ(ωi,
νj)は以下の通りである。
あるいはその代わりに、その大きさテーブルと位相テ
ーブルとは、以下の通りに記憶することができる。
δ(ωij)=|Tδ(ωij)| Ψδ(ωij)=位相(Tδ(ωij)) ボードに固定したその写真の合焦したイメージf(x,
y)を、何らかの手段(例えば、実際にカメラをその写
真上に合焦させてそれを記録するか、あるいは別個にそ
の写真パターンをデジタル化すること)により見付け出
す。その合焦イメージf(x,y)を明るさ、倍率等に関
して正規化して、fn(x,y)を得る。このfn(x,y)のフ
ーリエ変換Fn(ωi)を計算する。|Gn1(ωi,
ν)|κ(ωi)の場合、次に以下の通りに光
学伝達関数を与えるテーブルを計算する。
上記の諸ステップは、所要の全ての距離γに関して
繰り返すステップである。
もしそのテーブルが式(10)を使って実験的に得られ
る場合には、上記の実カメラ・パラメータCa1及びCa2
式(28)を用いて得ることができる。もち論、これは、
式(28)の右辺の解析式の知識が必要である。(ω,
ν,γ)のある特定の値に対応する各テーブル項目に
関して、式(28)が与えるカメラ・パラメータCa1,Ca2
に対し1つの制限が得られる。この制限をテーブル項目
全てに対して書き出すと、大きな優決定系の式が得られ
る。ここで、問題は、これらの式を解いて、そのカメラ
・パラメータCa1,Ca2を得ることである。これは、古典
的パラメータ推定問題であり、これは、応用数学におい
てよく知られた技法の1つ(例えば、最小二乗誤差最小
法)により解くことのできるものである。原理上は、こ
の技法は、カメラ・システムのn個の未知パラメータ
を、表面パッチの少なくともn+1個のイメージ(各イ
メージは異なったカメラ・セッティングで得たもの)を
用いて決定する方法を与えるものである。
距離の分解能及び限界値 このテーブル項目を決定するためには、まず初めに距
離uの限界値及びインターバル、並びにそれらの値を決
定し記憶するようにしなければならないフーリエ周波数
(ω,ν)を決める。これらの限界値及びインターバル
を、近軸幾何光学の原理に基づいて決定する方法を以下
に説明する。
uの限界値:本光学系がその実イメージを発生できる
ある被写体の最小距離uminは、fである。その最大距離
umaxについてはそのような制限はなく、従ってそれは無
限とすることができる。従って、次の通りとする。
umin=κminf,umax=κmaxf (ただし、1κminκmax<∞) (41) κmin及びκmaxの実値は、その応用領域により決定す
る。例えば、マシン・ビジョン応用においては、それら
の代表的な値は、κmin=2及びκmax=∞である。
uの分解能:像検出器上の2つのセンサ素子間の近似
距離をpとする。この距離をピクセル・サイズと呼ぶこ
とにする。2つの点間の識別は、それらが発生するぼけ
サークルの径が1ピクセルのサイズpに匹敵するある値
だけ異なっているとき、カメラからの互いに異なった距
離にあるものとして行える。この距離は、1ピクセルの
サイズpであるとする(これは、それらセンサの光感
度、即ちデジタル・イメージのグレースケール分解能に
依存して1ピクセル・サイズのある固定の分数値とする
こともできる)。ある所与の像検出器位置δに対して
は、単位倍率に対応する1ピクセルの正規化したサイズ
は、p/δであるか、あるいは、近似的には、p/fであ
る。従って、2つの点の半径におけるその最小差δR
は、次のようになる。
|δR|=p/2f (42) 式(35)から、下記の式を得た。
上記の2つの式(42,43)から、次の式をを得た。
上記の式は、テーブルTs(ω,ν,u)をuの等インタ
ーバルではなくl/uの等インターバルで計算すべきこと
を示唆している。
以上において、カメラ・パラメータを項とするl/uの
インターバルのサイズを表した。そのu次元に沿ったテ
ーブルのサイズUは、下式の通りである。
従って、そのテーブル・サイズは、D/pである。ピク
セル・サイズp自体は、上記のセンサ技術並びに本光学
系の回折制限された分解能により決定する。広く用いら
れているレイレー(Rayleigh)判定基準に従って、レン
ズ系により辛うじて分解できる2点間の角分離度は、次
のとおりである。
1.22λ/D ラジアン (46) これよりもピクセルの角度サイズP/fを小さくすること
によっては、多くは得られない。従って、 p1.22λf/D (47) 空間周波数の分解能及び限界値 pは2つのセンサ素子間の距離であるため、それは、
イメージ信号の空間サンプリング周期を表していること
になる。倍率を正規化したイメージにおいては、そのサ
ンプリング周期は、p/δであり、ここで、δは、その像
検出器の第2主平面からの距離である。もしそのサンプ
ルしたイメージが、サイズがM×Nの要素の離散的アレ
イである場合には、その倍率正規化イメージのその離散
フーリエ変換(DFT)は、M×Nの異なった空間周波数
(ω,ν)を含んでおり、その周波数は以下に与える。
従って、その最大テーブル・サイズは、 U×M×N (51) 一般に、その特定の応用に依存して、そのテーブル・サ
イズは、より小さいものとすることができる。例えば、
もしそのPSFが回転対称の場合、そのOTFもまた回転対称
となり、従って、そのOTFは、単一の周波数ρの関数と
して記憶することができる。ここで、 もしそのイメージが方形のN×Nのマトリックスの場合
には、そのテーブルは、ρ=1,2,……,N/2に対し記憶す
ることができる。従って、この場合のそのテーブル・サ
イズは、U×N/2である。従って、そのテーブル・サイ
ズは、そのPSFが回転対称でないときよりも非常に小さ
くすることができる。
急速合焦 ある被写体の表面パッチのカメラ・システムからの距
離を見い出すための方法は、以上に詳しく説明した。こ
れと同様の方法を、カメラ・システムの急速合焦のため
に使用する。この方法においては、まず初めに、合焦す
べき表面パッチの距離を、上記の方法を用いて判定す
る。この距離に基づき、2つのカメラ・パラメータ、即
ち(i)本イメージ形成系の焦点距離、及び(ii)像検
出器の第2主平面からの距離(これはその表面パッチを
合焦させる距離)、の内の少なくとも一方の値を決定す
る。この決定は、イメージ合焦式を使って行う。このよ
うにして決定した値にそのカメラ・パラメータをセット
することにより、自動合焦を行う。例えば、近軸幾何光
学理論から得た式(34)を使用して、焦点距離fの値と
像検出器位置S=V(これに対し被写体を合焦する)の
値を見い出すのに使用することができる。
基本的には、カメラからのその表面パッチの距離γ
を見い出した後、レンズ式(34)の如き合焦式を使っ
て、その表面パッチを合焦させるカメラ・パラメータ
{δ,f}を決定するようにすることができる。あるいは
この代わりに、その距離(そして、おそらくはその表面
パッチのあるビュー・フィールド)を用いて、その表面
パッチを合焦させるための所望のカメラ・パラメータ値
{δ,f}を提供するコンピュータ・メモリ内の予め記憶
したテーブル内へインデックスする。そのカメラ・パラ
メータは、続いて、そのカメラ要素をその得た焦点パラ
メータ{δ,f}へ動かすことにより実現する。
合焦改善イメージの獲得 ここで、あるシーンについてそのぼけイメージから合
焦を改善したイメージを得る方法について説明する。式
(10)から以下の関係が得られる。
この式は、その観察イメージのフーリエ変換G(ω,
ν)を本カメラ・システムの光学的伝達関数(OTF)H
(ω,ν;Ca)で逆フィルタリングしたものに対応
している。この演算の結果、その合焦したイメージのフ
ーリエ変換F(ω,ν)を得る。F(ω,ν)の逆フー
リエ変換は、その所要の合焦イメージf(x,y)を与え
る。
ある表面パッチのその合焦イメージを得るためには、
まず初めに、カメラ・システムからのその距離を、先に
説明した方法を使って決定する。次に、その対応するOT
Fをその距離及びカメラ・パラメータ値から決定する。
次に、式(53)を使って、その表面パッチの合焦イメー
ジを得る。これらのステップを上記のシーン内の各表面
パッチに対し繰り返すことにより、全表面パッチのその
諸合焦イメージを得ることができる。こうして得たその
諸合焦イメージを全て一緒にすることにより、我々は、
そのシーン全体の合焦イメージを得るようにする。
表面パッチの距離を決定する上記の方法と同じよう
に、2つの異なったカメラ・セッティングでのそのシー
ンの2つのイメージを記録する。本カメラのビュー・フ
ィールドを、第10図及び第11図におけるように多くの小
さなサブフィールドに区分する。これらサブフィールド
のサイズは、その各サブフィールド内で光収差がほぼ一
定となるように選定する。実施の都合上、そのビュー・
サブフィールドが、像検出器と平行な方形の横断面を有
するようにしてある。このビュー・サブフィールドを、
i=1,2,……,I及びj=1,2,……,Jとして、(θoij
oij)を中心とするようにし、そして、その対応するコ
ーナー点を、κ=1,2,3,4として、(θkijkij)によ
り与えるようにする。
各ビュー・サブフィールドにおいて、シーン内の対応
する表面パッチの合焦改善イメージを上記の通りに見い
出す。表面パッチ全ての諸合焦改善イメージを互いに適
切な位置に置くことによりそれらを組み合わせ、そのシ
ーン全体の合焦改善イメージを合成する。
式(53)に従ってその合焦改善イメージを得るために
は、我々は、本カメラ・システムのOTF H(ω,ν;Ca,
γ)を知る必要がある。このOTFの決定は、先に説明
した距離決定法におけるテーブルTδ(ω,ν,γ
の決定と類似のものである。このOTFの決定には2つの
方法があり、1つは本カメラ・システムの理論的モデル
から決定する方法であり、他方は、実験による方法であ
る。その最初の方法において、本カメラ・システムの理
論的モデルを使って、そのカメラ・パラメータ及び被写
体の距離を項とするそのOTFを解析式を誘導する。例え
ば、近軸幾何光学理論から式(37)を得る。光の回折理
論からそのOTFを得る別の例については、Proceedings o
f the Royal Society of London,A,231,pages 91−103,
1955内のホプキンス(H.H.Hopkins)による“焦点ずれ
光学系の周波数応答(The frequency response of a de
formed optical system)”と題する論文に記載されて
いる。このOTFを回折理論に基づいて決定するある効率
の良い計算法は、Vo17,No.5,APPLIED OPTICS,pages 967
−974,May 1968の“焦点ずれ完全レンズの変調伝達関数
のテーブル(Tables of the Modulation Transfer Func
tion of a Deformed Perfect Lens)”と題する論文に
呈示されている。
このOTFを予め計算するには、イメージ形成理論、例
えば近軸幾何光学もしくは古典的波動光学を選ぶ。次
に、カメラ・パラメータCa、表面パッチの距離γ、及
びフーリエ空間周波数(ω,ν)を項とする本カメラ・
システムのそのOTFに対する式を導く。カメラ・セッテ
ィングCa1,Ca2の適当な組を選ばなければならない。次
に、そのOTFを計算する必要のある(ω,ν;γ)の
離散値を決定する。(ω,ν;γ)の離散値における
そのOTF H(ω,ν;γ)の値を、ある所定のカメラ
・セッティング例えばeaに対して決定する。これら値
は、ある表面パッチの合焦改善イメージを決定する際に
使うため、コンピュータ・メモリに記憶する。
OTFのその理論的決定方法では、カメラ・パラメータC
aを正確に知る必要がある。ある機械的なカメラ・シス
テムにおいては、そのパラメータを正確に測定すること
が難しいことがある。この理論的アプローチに代わるも
のとして、カメラ・システムの実験的校正法がある。こ
の方法においては、既知の合焦したイメージf(x,y)
を有する被写体を、カメラ・システムからのその被写体
の可能なあらゆる距離γでイメージ化する。この被写
体を種々の異なった位置でイメージ化する際には、その
カメラ・パラメータ・セッティングCaは変えずにおく。
しかし、このカメラ・パラメータの実値を知る必要はな
い。被写体の各位置γに関して、その観察したイメー
ジg(x,y;γ)を記録する。次に、そのOTFは、以下
から計算する。
このOTFは、コンピュータ・メモリ内に(ω,ν,γ
)をインデックスとする3次元アレイで予め記憶して
ある。このテーブルは、上記の被写体距離発見法に用い
たテーブルTs(ω,ν,γ)と類似のものである。
このビュー・フィールド内の諸イメージを記録し、そ
してこれを細分して、各サブフィールドが像検出器に平
行な方形横断面を有するようにした後(諸ビュー・サブ
フィールドの中心をi=1,2,……I及びj=1,2,……,J
として(θoijoij)に置き、かつその対応するコー
ナー点をk=1,2,3,4として(θkijkij)により与え
られるとする)、以下に定めるテーブルTδ(ω,ν;
γ)及びOTF Hδ(ω,ν;γ)を計算し記憶す
る。
(θ0)を中心としそしてi=1,2,3,4とする
(θi φ)にコーナーを有する1つのビュー・サブフ
ィールドを選ぶ。全面が均一に暗い大きなフラット・ボ
ードを、その中心に方向(θ0)に直交して置く。
このボードのカメラ・システムから(正確には、このカ
メラの光学系の第1の主点から)の距離をγとすべき
である。次に、そのフラット・ボードの中心に、高い空
間周波数内容(暗い背景上にランダムに分布させた大き
な明るいしみのパターン)をもつフラットな高いコント
ラストの写真を固定する。この写真のサイズ及び場所
は、これがその選んだビュー・サブフィールドにきっち
り広がるようにすべきである。(フラット・ボードは、
その写真よりもかなり大きくすべきであり、例えば9倍
の面積とする)。
その表面パッチ(ボード上に固定したその写真)の第
1と第2のイメージを記録する。その第1の記録イメー
ジから、その背後のフラット・ボードのイメージに対応
した広いダーク・バンドで囲まれたその写真パターンの
イメージを含んでいる1つのサブイメージg1(θ,φ)
を引き出す。これは、その張り付けた写真が発生する光
分布のほとんど全てがその引き出したサブイメージ内に
確実に記録されているようにする。更に、これは、その
強度がそのボーダーで一定のままとなっているため、ボ
ーダー効果を回避することができる。上記のことを第2
の記録イメージに関して繰り返して、そのサブイメージ
g2(θ,φ)を引き出す。
次に、それらイメージg1(θ,φ)及びg2(θ,φ)
を正規化して、そのノイズを、上記の予め記憶したテー
ブルに入力した値に適用するため、前述の通りに最小化
する。記憶すべきそのテーブルTδ(ωij
は、以下で与えられる。
δ(ωij)=Tc(ωi) あるいはその代わりに、以下に与える大きさテーブル及
び位相テーブルを記憶するようにすることができる。
δ(ωij)=tc(ωi) Ψδ(ωij)=Ψ(ωi) 上記フラット・ボード上に張り付けた写真のその合焦
イメージf(x,y)は、何らかの手段(例えばカメラを
その写真上に実際に合焦してそれを記録するか、あるい
は別個にその写真パターンをデジタル化すること)によ
り発見する。この合焦イメージf(x,y)は、明るさ、
倍率等に関して正規化してfn(x,y)を得る。次に、fn
(x,y)のフーリエ変換Fn(ωi)を計算する。|C
n1(ωi)|κ(ωi)である場合、次に光
学伝達関数を与えるテーブルを計算し、これは以下の通
り計算する。
上記のステップは、全ての必要な距離γに対して繰
り返す。
先に説明した被写体距離発見方法においては、テーブ
ルT(ω,ν,γ)(このテーブル項目は実験的に得
たものである)からカメラ・パラメータを評価する方法
を示した。これと同様の方法を使って、実験で得るテー
ブルH(ω,ν,γ)で与えられるカメラ・パラメー
タCaを評価することができる。この場合、そのOTF H
(ω,ν;Ca,γ)の解析式を知ることが必要である。
各テーブル項目は、そのカメラ・パラメータCaに対する
1つの制限を与えている。各テーブル項目の結果として
生ずる式の系を解くことにより、そのカメラ・パラメー
タCaのある評価値が与えられる。
単一のぼけイメージから合焦を改善したイメージを得
る別の方法は、人の介在を含んでいる。もしCaにセット
したカメラ・パラメータにて取ったあるぼけイメージが
与えられ、そしてそのOTH H(ω,ν;Ca,γ)の解析
式の型式であるいは予め記憶したテーブルの型式で既知
となっている場合、そのぼけイメージを、距離γの可
能な各値に対するこのOTFに関して逆フィルタする。こ
の結果、一連のイメージを得、これらは、その合焦イメ
ージの候補となる。次に、これらイメージを、その一連
イメージからその“合焦イメージ”を選択できる人被験
者に呈示する。この方法は、人になじみのある被写体、
例えば人の顔、車、家等を含むぼけイメージに対しては
有効である。ここで、その人被験者は、そのイメージ内
の一般的な被写体にのみなじみがあるだけでよく、必ず
しもその被写体の特定の例をよく知っている必要はない
ことである。例として、ある所与のイメージが人の顔で
あることが分かるだけでよく、実際にその人を前に分か
っている必要はない。
方法の一般化 前記距離γを決めるための方法は前述したとおりで
ある。この方法においては、まさに前記ポイント・スプ
レッド関数を(他のカメラ・パラメータδ,f,D、λと共
に)決めるところのパラメータの1つであることは注目
される。シーンを数学的観点から見れば、γを含むこ
れらのパラメータは式(26)内の主なルールによって操
作される。それゆえ、上記の方法に対応する方法は、前
記ポイント・スプレッド関数を決める他のパラメータ
δ、f、D、λを見つけるためにも使用され得る。例え
ば、カメラ・システムの焦点距離fを決める為に、前記
距離γが得られ、前述のようにfによって式(26)が
解かれる。
上記の1つの未知のパラメータを決める方法は、1つ
以上の未知のパラメータを決める方法を得ることに拡張
できる。この場合、2つ以上の像が必要とされる。一般
には、もしnの未知数が含まれているときは、n+1の
像が必要とされる。例えば、γやfなどの2つのパラ
メータを決める為に、3つの写真g1(x,y)、g2(x,y)
およびg3(x,y)がそれぞれ下記の示すCa1、Ca2およびC
a2をカメラをセッティングするときに使用される。
Ca1=(δ1,D1) (54) Ca2=(δ2,D2) (55) Ca3=(δ3,D3) (56) 前記フーリエ変換および前記3つの写真のOTFsに対し
て、次のような関係が導かれる。
式(57)(58)は、2つの未知数f、γを得るため
に同時に解かれる。先のケースに似た方法は前記式を解
くために使用される。この場合、テーブルは、先のケー
スにおいてただ1つの未知数による場合と比較して2つ
の未知数があるために大きくなってしまう。上記の2つ
の式は、前記未知数γおよびfが全ての前記3つの写
真と同じに保たれねばならないことを意味している。し
かしながら、このことは、値の変化が知られている限り
必要ではない。例えば、値δ1およびδの変化が
全て知られている3つの写真に対して、焦点長としてf
+δ、f+δおよびf+δが与えられる。そのと
き、フーリエ変換および3つの写真のOTFにより、以下
の式が導かれる。
前記2つの式は、ただ2つの未知数(fおよびγ
を含み、それゆえ前述のように解かれる。
距離の不確実性を推定する方法 イメージ信号とカメラ・パラメータの測定における不
確実性の点から距離γの決定における不確実性を推定
するための方法をここで述べる。
式(26)、(28)および(30a)から、次の式が導か
れる。
これを微分すると、 加えられるランダム・ノイズに対しては、 Gn1(ω,ν)=Gδ1(ω,ν)+n1(ω,ν) (73) 但し、Gδ1(ω,ν)は、ノイズ・フリー・イメージ
信号に対応し、またn1(ω,ν)はノイズに対応してい
る。Qδ1(ω,ν)は信号のパワースペクトラムを意
味し、Qn1(ω,ν)はノイズのパワースペクトラムを
意味している。すなわち、 Gδ1(ω,ν)=Gδ1(ω,ν)▲G* δ1▼(ω,
ν) (74) =|Gδ1(ω,ν)|2 Qn1(ω,ν)=n1(ω,ν)n1 (ω,ν) (75) =|n1(ω,ν)|2 複素数の代数学を使用すれば、以下のように表される。
但し、 は信号の位相であり、Ψn1はノイズの位相である。コサ
イン関数は|−1,+1|の範囲で値をとるので、上記式は
次のように簡素化できる。
上記式の右辺はノイズ対信号比の平方根である。ノイ
ズ対信号比は、イメージ処理における信号の質を測る標
準的な基準であり、またそれゆえ、このノイズ対信号比
の項から信号の不確実性を述べることは適切といえる。
式(72)からは次の式が得られる 式(77)および(78)からは次の式が導かれる。
前記ノイズ対信号比を2つのイメージ および についてほぼ同じと見て、 からこの共通するものとして見たノイズ対信号比を導く
と、次のようになる。
それゆえ、γの測定におけるエラーの割合は前記ノイ
ズ対信号比に比例することになる。この結果から、前記
ノイズ対信号比の項から距離γの測定における不確実
性を測定することが可能となる。
式(28)および(30a)から次の式が得られる。
表記法について述べると、上記の式は次のような様式
で表される。
但し、 H1=H(ω,ν;Ca1) (83) H2=H(ω,ν;Ca2) (84) 上記式から次の式が得られる。
上記式から次の式が導かれる。
上記式において、δγは距離のエラーであり、δC
a1、δCa2はカメラ・パラメータの測定のエラーであ
る。式(80)、(84.5)、(85)から、および実数a,b
について次のような特性から、 |a−b|||a|−|b|| (86) 次のような表現を導くことができる。
上記の関係から、ノイズ対信号比の項からの距離γ
の測定における不確実性(または最大のエラーの限
界)、およびカメラ・パラメータの測定における不確実
性が得られる。この関係は、ノイズ対信号比が小さな値
であるときでもまたカメラ・パラメータのエラーが小さ
いときでも、有効である。前記距離の不確実性はノイズ
対信号比の平方根と直線的な関係にあることが知られ
る。実際に、もしカメラ・パラメータにおける不確実性
が大変小さいときは、距離における不確実性はノイズ対
信号比の平方根に比例する。この結果は感覚的にも受け
入れられ得る。
付加的な特徴 イメージ・オーバーラップ問題:ここに示した距離を
測定する方法は、元の観察されたイメージをより小さい
サブイメージに分割し、サブイメージの対を別々に処理
することを含んでいる。大きなイメージを多くの小さな
サブイメージに分割すると、境界部分の影響のため幾つ
かのエラーが生じてしまう。イメージ領域は単独で分析
することはできない。なぜなら、ポイント・スプレッド
関数の有限の広がりによってぼやけてしまうことによ
り、像検出器の1つの表面パッチから得られるイメージ
の放射分布が隣接したパッチから得られるイメージ放射
分布(image irradiance distribution)とオーバーラ
ップしてしまうからである。このオーバーラップはイメ
ージ領域の境界では重大な意味をもち得る。これを“イ
メージ・オーバーラップ問題”と呼んでいる。
産業映像システム環境のような室内のシーンにおいて
は、前記イメージ・オーバーラップ問題は、光景を選択
的に照らすことにより完全に避けることができる。例え
ば、光景は、照明のない広い暗い帯により分離された四
角の輝くパッチにより照らすことができる。この場合、
別々に分析されたサブイメージの境界線は、前記暗い帯
の中央において選択され得る。そのとき境界部分の影響
は、イメージの強さがゼロか境界部分に近いものである
ため、避けられる。また照明が制御できない場合(例え
ば戸外)には、前記イメージ・オーバーラップ問題は以
下のように変わる。イメージの強さは、まず、当該領域
に集中された適当な中心に重要性(重み)をもつ(例え
ば、Caussian)マスクによって増やされる。この結果と
して重み(重要性)を与えられたイメージは、それから
次の処理に使用される。周辺よりも中心の方が重要性が
より高いため、このシーンから像の領域の中心にほぼ対
応する未知の数を推測できる。
平らな被写体:器械の部品、壁、ドア、道などのよう
な対象は、しばしば“plain(平らな)”あるいは“tex
tureless"なもの、すなわちそれらの表面は滑らかで何
らの起伏(rellectance)の変化をもっていないもので
ある。それゆえ、それらは、均一な照明のもとに一定の
明るさをもった対象として現れる。それらには、空間の
周期的な内容・広がりがない。この場合、もし景色の照
明を制御下におく(室内の景色のように)ならば、その
とき室内の周期的な内容は、前記被写体の表面に任意の
ライトパターン(例えば、ランダムな点あるいは“text
ure(織物の織地)”パターン)を投影することによ
り、人工的に得ることができる。第12図参照。本発明の
方法は対象の距離を測定するために適用可能である。
多重像:ここに述べた方法は単に少ないイメージを必
要とするだけであるが、もし最低限必要とされるイメー
ジよりも多いイメージを使用するなら、未知の数の推定
をより強固のものにすることができる。例えば、距離γ
のみが未知である場合には、原則としてただ2つのイ
メージのみが必要とされる。しかしながら、もしn個の
イメージを異なったカメラ・パラメータのセッティング
のために利用できるならば、そのとき距離についてのn
−1の独立の推測が可能であり、これらの推測によって
実際の距離についてのより確実な推測が得られるという
ことは重要である。他のとり得る校正にもまた多重像を
使用することができる。
デコンボリューション(Deconvolution):“観察さ
れたイメージのフーリエ変換を対応する光学的伝達関数
で除すること”により、表面パッチの焦点合わされたイ
メージを得ることができる。この操作は、デコンボリュ
ーションと呼ばれ、ノイズおよび異常なものの存在のた
めに実際のやり方とは異なっている。ある種の必要とさ
れるデコンボリューションは、ノイズ特性とイメージに
ついての従来の知識を基礎として適用されねばならな
い。信号処理分野においてはこの問題についての文献は
たくさんある。それゆえ、この問題をここで詳細に述べ
ることは控えるが、デコンボリューションというときに
はある種の必要とされるデコンボリューションを意味し
ていることは理解される。
解析の領域:ここに述べた方法は、フーリエ領域での
解析を基礎としている。空間のあるいは他の適切な領域
において対応する解析を行うことは可能である。前記フ
ーリエ領域はその簡便さから選択されたものである。前
記フーリエ領域での解析と類似の他の領域での解析は、
本発明の範囲に含まれると考えられる。
近軸幾何光学の設計例 以下の略式のアルゴリズムは、近軸幾何光学を適用し
た場合のためにあらかじめ計算しテーベルT(ρ,u)を
記憶するものである。
D=maximum(D1,D2)mm. f=maximum(f1,f2)mm. δ=minimum(1,2)mm. (1/umax)=0mm-1(umax=∞mm) (1/umin)=1/f mm-1(umin=f mm) δ(1/u)=p/(∫D)mm-1 ρmin=(2π δ)/(Np) ラジアン/mm ρmax=πδ/p ラジアン/mm δρ=(2πδ)/(Np) ラジアン/mm For univ←(1/umax)to(1/umin) 開始 by increments δ(1/u)do For ρ←ρmin toρmax by increments δρ do 開始 計算例 パナソニックWV−CD 50は、焦点距離が16mm、レンズ
口径の直径が19mm、ピクセル・サイズが0.013×0.017mm
2のCCDカメラである。テーブルT(ρ,u)はコンピュー
タを使用して容易に計算できる。以下のようなデータは
このような計算の典型的な例である。
f1=f2=16mm D1=D2=10mm δ1=16.42mm,δ2=16.67mm p=0.017mm N=128 計算されたテーブルの値は、例えば±1.5をしきい値
とされ、0から255の範囲で表されるようにシフトさ
れ、評価される。結果として生じるテーブルは、グレイ
・レベルのイメージとして表示される。この計算例につ
いてこのように計算されたグレイ・レベルのイメージ
は、第16図に示されている。2つの光学的伝達関数はρ
およびu-1の異なった値で交差するので、ほぼ周期的な
不連続(負の無限大から正の無限大へのジャンプ)が見
られる。これらの不連続は、0からπへの位相の急激な
変化のようにΨ(ρ,u)空間における領域の境界を表
す。各領域の中では、位相は同一(例えば、0からπの
いずれか)に維持されるが、領域の境界では0からπへ
あるいはπから0へ変化する。実際、γの解はこれら
の領域の境界の位置のみから推定され得る。ここでは、
シーンΨ(ρ,u)は距離についての情報を含んでいる。
この場合、T(ρ,u)の性質により、距離uのためのユ
ニークな解が得られる。
線形シフト・インバリアント・システムの一般的理論 また、本発明は全ての線形シフト・インバリアント・
システム即ちコンボルーション演算を実行するシステム
に対して応用しうる一般的な理論を考慮する。この理論
は、前記した表面パッチの距離を見出すための方法の一
般化であり、線形シフト・インバリアント・システムと
してモデル化しうる各種の機器に対して有効であると考
えられる。カメラ装置は、この理論の応用が完全且つ詳
細に与えられた機器の一例にすぎない。
ここで与えられる理論は、(i)当該システムを特徴
付ける未知の物理的システム・パラメータの1個以上を
予測し、(ii)該システムの出力から該システムの元の
入力信号を得る一般的な方法を取り扱う。
f(x)がn次元空間において定義される入力信号で
あり、 x=(x1,x2,……,xn) (101) であるとし、c1,c2,……,cmがシステム(第13図参照)
の「ポイント・スプレッド関数」(PSF)を独特に定義
する線形シフト・インバリアント・システムのm個のパ
ラメータであるとする。即ち、i=1,2,……,mに対して
パラメータCiが与えられると、信号δ(x)(ディラッ
クのデルタ函数)に対するシステムの応答は、これらの
パラメータを用いて独特に表わすことができる。物理的
なシステムにおいては、これらのパラメータは当該シス
テムの物理的構成を特徴付ける量を特定する。パラメー
タCiはシステムパラメータとよばれる。cが C=(C1,C2,……,Cm) (102) として定義されるとする。PSFのシステム構成Cに対す
る依存性を明らかにするために、PSFを h(x;c) (103) として表わすことにする。g(x)によって当該システ
ムの出力を表わすことにする。線形シフト・インバリア
ント・システムはコンボルーションを実行するので、 g(x)=h(x;c) f(x) (104) が成り立つ。ただし、*はコンボルーション演算を表わ
す。フーリエ領域では、式(104)は G(ω)=H(ω;c)F(ω) (105) として表わしうる。ここで、 ω=(ω12,……,ω) (106) はxに対応するフーリエ周波数を表わし、G(ω),H
(ω;c),F(ω)は夫々g(x),h(x;c),f(x)の
フーリエ変換である。
全てのシステム・パラメータCiが既知であるとする
と、システム伝達関数(STF)H(ω;c)は定義により
決定される。そうすると、元の入力信号f(x)は、デ
コンボルーション(即ち逆フィルタリング)によって、
観測された信号g(x)から F(ω)=G(ω)/H(ω;c) (107) として独特に再生される。観測された信号から入力信号
を再生するというこの操作は信号再生と呼ぶことができ
る。
多くの応用において、入力信号f(x)に加え、シス
テム・パラメータCiのうちの1個以上が未知であること
が多い。したがって、STFを決定することができず、し
たがって、式(107)での逆フィルタリング操作を実行
して入力信号を再生することはできない。これら未知の
システム・パラメータを決定するための方法をここで述
べる。未知のシステムパラメータを決定し、逆フィルタ
リングにより(式(107)を用いて)入力信号を再生す
ることができる。
信号再生はさておき、カメラ装置からの被写体の距離
を見出す場合と同様、未知のシステム・パラメータその
ものの予測は多くの応用において主要な関心事である。
Ci1,Ci2,……,Cipを既知のシステム・パラメータの組
とし、Cip+1,Cip+2,……,Cimを未知のシステム・パラメ
ータの組とする。Ca及びCbを Ca=(Ci1,Ci2,……,Cip) (108) Cb=(Cip+1,Cip+2,……,Cip+q) (109) 1≦p,q<m,p+q=m と定義する。Ca及びCbはCにおける全てのシステム・パ
ラメータを特定している。従って、式(105)は Q(ω)=H(ω;Ca,Cb)F(ω) (110) と表わすことができる。Caの1個以上の要素が既知の量
だけ変わりうるようなシステムを想定する。異なる値の
CaをCa1,Ca2,Ca3等と表わすことにする。そうすると、
システムの出力は、 (Ca1,Cb),(Ca2,Cb),……,(Caq+1,Cb) (112) によって与えられるシステムの(q+1)個の異なる構
成に対して記録される。Cbは未知であり、全ての構成に
おいて同一である。
g1(x),g2(x),……,gq+1(x)により、入力信
号f(x)が不変に維持されるときの式(112)におけ
る構成に対する夫々の観測された信号を表わすことにす
る。そうすると、式(110)から、次の関係の組が求ま
る。
上記の式は入力信号f(x)を含んではいない。した
がって、上式は全ての入力に対して有効であり、等価的
には、全ての記録された出力g(x)に対して有効であ
る。q個の未知数においてq個の式が存在し、これら未
知数はCbにおけるシステム・パラメータである。したが
って、原理的には、これらq個の式はCbを求めるために
同時に解くことができる。しかしながら、解は一つでは
ないかもしれない。したがって、Gi(ω)及びG
i+1(ω)において有意義な全ての可能な周波数ωに対
して式(113)が満足されるという条件を追加する。こ
れにより、一般的には、Cbに対して唯一の解が与えられ
る。また、この追加の条件を用いると、実質的応用にお
ける数的安定を達成することが可能となる。したがっ
て、循環式(113)はこの追加の条件で置換される。
ここで、i=1,2,3,……,qであり、全てのωに対して
|Gi(ω)|κ(ω)且つ|Gi+1(ω)|κ(ω)で
あって、κ(ω)はシステムの信号対雑音比に基づいて
規定される。
要するに、既知のP個のシステム・パラメータの組を
式(108)におけるようにCaによって表わし、未知のq
個のシステム・パラメータの組を式(109)におけるよ
うにCbによって表わす。即ち Ca=(Ci1,Ci2,……,Cip) Cb=(Cip+1,Cip+2,……,Cip+q) Caによって特定された既知のシステム・パラメータをC
aiと置き、Cbによって特定された未知のシステム・パラ
メータは一定に保つ。起り得る未知の信号f(x)をシ
ステムに入力し、その出力gi(x)を記録する。この手
順をi=1,2,3,……,q+1に対して反復する。但しi,j
=1,2,3,……,q+1としてi≠jに対してCai≠Cajであ
るとする。システムの特徴に依存して、全ての記録され
た出力gi(x)を処理して正規化する。
i=1,2,3,……,q+1に対してgi(x)のフーリエ変
換Gi(ω)を計算する。システムの信号対雑音比に基づ
いて、スレッショルド・パラメータ関数κ(ω)を特定
する。
|Gi(ω)|κ(ω)且つ|Gi+1(ω)|κ(ω) であるような全てのωに対して、i=1,2,3,……,qにつ
いて比 T(ω)=Gi(ω)/Gi+1(ω) を計算する。i=1,2,3,……,qに対して式の組 T(ω)=H(ω;Cai,Cb)/H(ω;Cai+1,Cb) が定式化される。
分析法、数値反復法、テーブル・ルックアップ法等の
方法によって上記の手順において式の組を解き、Cbによ
って特定される未知のq個のシステム・パラメータを求
める。解は全てのωに対して一貫していなければならな
い。k∈{1,2,3……,q+1}であるkについて信号の
フーリエ変換を F(ω)=Gi(ω)/H(ω;Cai,Cb) として計算する。
f(ω)の逆フーリエ変換を行い、元の入力信号f
(x)を再生する。
上記のように、式(112)で与えられる(q+1)個
の異なる構成(第11a図)に対して、システムの出力が
記録されなければならない。その代りに、それぞれが式
(112)における一つの構成を持つ(q+1)個の個別
の線形システムを用いることができる(第11図参照)。
同一の入力信号f(x)が全ての(q+1)個のシステ
ムに供給され、その出力が記録、処理されてCbが求ま
る。
Cbによって特定されたシステム構成は全ての(q+
1)個の記録された出力に対して同一でなければならな
い。しかしながら、変化量が既知であれば、Cbは変化し
うる。例えば、Cbに対応する(q+1)個の構成は、C
b1,Cb2,……,Cbq+lが全て既知であるとき Cb+Cb1,Cb+Cb2,……,Cb+Cbq+1 (115) でありうる。再びこの場合、式(114)に対応するq個
の式をq個の未知数において書くことができる。こうし
た式を解いてCbを求めることができる。
式(114)のシステムが充分拘束されている(即ち、
解の数が有限である)とすると、式を解くのに2つの手
法を取ることができる。まず、可能であれば、解の分析
的表現を導出して式を解くのに用いることができる。こ
の場合、H(ω;Ca,Cb)及びシステム構成Caに対する明
瞭な分析的表現を知ることが必要である。実際、式を分
析的に解くことは非常に困難であり、不可能でさえあ
る。この場合には、テーブル・ルックアップ法が使用で
きる。ここで、全ての可能な値ω及びCbに対して(即
ち、実際の小さな離散的な距離において)i=1,2,3,…
…,qについて Ti(ω,Cb)=H(ω;Cai,Cb)/H(ω;Cai+1,Cb) (116) によって与えられる関数Ti(ω,Cb)の表を作成する。
この表はω及びTiに関して蓄積し、また、新たな表C
b(ω,Ti)において蓄積される。この新たな表は多値で
ありうる。Tiが記録された信号から Ti=Gi(ω)/Gi+1(ω) (117) として計算される場合、ω及びTiが与えられると、Cb
対する可能な解の組は表Cb(ω,Ti)を索引することに
よって求められる。こうした組を全てのω及びiにわた
ってインターセクトすることにより、Cbに対する解即ち が与えられる。特異解を見出すために、組交差(set in
tersection)のための有効な計算法を用いることができ
る。
所要の表Cb(ω,Ti)を導出する表Ti(ω,Cb)を求め
るための2つの方法がある。一つの方法は、STFつまり
H(ω;Cai,Cb)に対する分析的表現を用いて式(116)
の右辺を計算することである。これには、線形システム
の測定によりCaiを正確に知ることが必要である。他の
方法は実験によるものである。この実験的方法は、H
(ω;Cai,Cb)に対する分析的表現が利用できないか計
算が困難である場合、又はシステムのCaiを正確に測定
するのが困難な場合に便利である。この場合、システム
の出力gi(x)は各構成Cb毎に記録され、表記載事項が
i=1,2,3,……,qに対して Ti(ω)=Gi(ω;Cai,Cb)/Gi+l(ω;Cai+1,Cb) (119) として計算される。表を実験的に決定するために実際の
信号f(x)を知ることは不要である。しかしながら、
この計算手順の期間にCbを正確に測定することができな
ければならない。
表を蓄積するための表の大きさは実際の物理的システ
ムの容量、表を較正する精度、信号g(x)とシステム
パラメータCaiとの測定精度及びSTF H(ω;C)の分析的
表現の精度を依存する。
式(114)のシステムは、正確にq個の未知数におけ
るq個の式を構成する。したがって、このシステムはま
さに拘束されていて、(q+1)個の記録された出力を
必要とする。しかしながら、結果の精度は、所要の最小
数よりも多くの出力記録を用いることにより向上させる
ことができる。例えば、(q+2)個の記録が用いられ
るならば、未知数Cbの2つの予測を行うことができる。
即ち、第1の予測は最初の(q+1)個の出力記録を
用、第2の予測は最後の(q+1)個の出力記録からの
ものである。未知数Cbの個別の予測値の加重平均によ
り、個々の予測値よりもしっかりした予測値が与えられ
る。
カメラ装置の特殊な理論に対して先きに導出した結果
と直接的な類似性を有するこの一般的理論について、他
の結果を導き出すことができる。例えば、信号測定の不
確定性と既知のシステム・パラメータとを用いて未知の
システム・パラメータの解における不確定性を決定する
ための式を導出することができる。こうした全ての結果
は特許請求の範囲によって定義される発明の範囲内にあ
る。
結論、変更・修正及び発明の範囲 本発明において、被写体の距離を決定するための、及
び、ぼけた画像から改良された合焦イメージを得るため
の有効な計算方法及び電子カメラ装置が開示された。こ
の方法はカメラ装置の1個以上のカメラ・パラメータの
値を決定するために一般化された。この方法は、任意の
線形シフト・インバリアント・システムにおける入力信
号蓄積及びシステム・パラメータ予測に更に一般化され
た。この一般的な理論は、線形シフト・インバリアント
・システムとしてモデル化しうる各種の測定機器に応用
することができる。電子カメラ装置は、この一般的な理
論の応用が詳細に述べられた、機器の大きな集合のうち
の一例にすぎない。
本発明は、ロボット視力、自立移動体ナビゲーショ
ン、視覚システムの一部として被写体の近似距離を見出
すための手段等の器械視力応用の関係で主に着想され
た。本発明に小さな修正を加えてから利用する他の応用
分野もある。例えば、三次元的な試料の改良された合焦
イメージを得る際のテレビジョン・マイクロスコピーに
おいて、及び、前景と後景との被写体に焦点が合ってい
る画像の商用テレビ放送において有用である。また、情
景の所望の対象に迅速に自動焦点合せを行うための商用
ビデオレコーダに有用である。他の応用は、絵を写して
画像信号を2以上のカメラ設定のために磁気ディスク上
に直接記録し、カメラ特性と共にコンピュータでこの画
像信号を処理して所望の被写界深度で像を得るという完
全電子化カメラである。
方法、装置及び応用のこのレポートの記述は多くの応
用を含むが、これは発明の範囲の限定ではなく、好まし
い実施例の例示と考えられるべきである。ここに開示さ
れた本発明の修正及び拡張は、本発明の関係する技術分
野の当業者に想起されるものであり、こうした全ての修
正は特許請求の範囲により定義される本発明の精神と範
囲及びその均等物内にあるものとみなされる。
【図面の簡単な説明】
第1図は、2つの表面パッチ及び光学軸に沿って配置さ
れたレンズ系と像検出器とを含んでいる情景を表わす透
視概略図であって、カメラ・システムの幾何及びカメラ
・パラメータを示す概略図。 第2図は、カメラ・システムの概略を表わし、レンズ系
の焦点距離を変化させるためのレンズ位置コントロー
ラ、像検出器面とレンズ系の第2の主面との間の距離を
変化させるための像検出器位置コントロール、カメラに
入射する光のスペクトルを制御するフィルタ、及びカメ
ラの口径を変化させるためのカメラ口径コントローラを
示す概略図。 第3図は、第2図の装置のブロックであってデジタル・
イメージ取得装置及びイメージ処理コンピュータを具備
したブロック図。 第4図は、第3図の装置の変形例を示すブロック図であ
り、同一の可視点から一対の2次元イメージ情景を同時
に形成するための2つのカメラ構造を有し、それぞれの
カメラ構造が異なるカメラ・セットを有している事を示
すブロック図。 第5図は、本発明の方法を説明するために用いられる球
状協調システムの概略図。 第6図は、第2の主面から単位距離にある仮想面である
正規化デカルト空間を概略的に示す概略図。 第7図は、情景における表面パッチ及び像検出器におけ
る該パックに対応するサブイメージを示す概略図。 第8図は、コンピュータ・メモリに記憶され、距離決定
のテーブル検索方法に用いられ4次元テーブルT(ω,
ν,γ)の概略図。 第9図は、平行軸幾何光学法の下に、カメラ・システム
の好適な実施例において実行されるイメージ形成処理を
示す説明図。 第10図は、多数の小さなサブイメージに分割されたイメ
ージであって、各々のサブイメージが、情景における可
視的小フィールドをスパンする一つの表面パッチに対応
するイメージを示す概略図。 第11図は、イメージのサブイメージ及び該サブイメージ
を特定するアングルを示す説明図。 第12図は、“平坦”なすなわち反射バリエーションを有
しない対象物平面上に、所望の光パターンを投影する事
によって輝度変化又は“構造(texture)”を導びくた
めの装置を示す概略図。 第13図は、通常の線形シフト・インバリアント・システ
ムを示す概略図であって、入力信号、出力信号、及びそ
れぞれ異なる値に設定可能なシステム・ポイント・スプ
レッド関数をシステム・パラメータを示す概略図。 第14図は、それぞれ異なるシステム・パラメータを有し
て同一の入力信号に接続される(q+1)個の線形シフ
ト・インバリアント・システムからなるシステムの概略
図。 第15図は、予め値が記憶されたテーブルを内蔵している
メモリ・モジュールを含む種々のモジュールとテーブル
高速検索動作を行うための特種機能VLSIを有するイメー
ジ処理コンピュータを示す概略ブロック図。 第16図は、平行軸幾何光学定理に基づく回転対称光学シ
ステムのための予め計算されたテーブルの一例を示し、
グレイレベル・イメージとして表示されたテーブルの例
示図である。
フロントページの続き (73)特許権者 591141898 ザ・リサーチ・ファンデーション・オ ブ・ステート・ユニバーシティ・オブ・ ニューヨーク THE RESEARCH FOUND ATION OF STATE UNI VERSITY OF NEW YOR K アメリカ合衆国ニューヨーク州12201− 0009,アルバニー,ピー・オー・ボック ス 9 (72)発明者 ムラリドハラ・サバラオ アメリカ合衆国ニューヨーク州11730, セタウケット,スタイヴェサント・サー クル・ウエスト 20 (56)参考文献 米国特許5193124(US,A) 欧州公開318188(EP,A1) 欧州特許408224(EP,B1)

Claims (22)

    (57)【特許請求の範囲】
  1. 【請求項1】光が通過する開口と、像検出器と、第1及
    び第2の主要面及び焦点距離を有する像形成光学系と、
    光フィルタと、カメラ制御器と、前記像検出器と前記カ
    メラ制御器に接続された像処理器とを有するカメラ装置
    からの、対象の表表面パッチの距離を決定する方法であ
    って、前記第2の主要面の方が前記第1の主要面よりも
    前記像検出器に対して近くに配置されている方法におい
    て、 a)前記カメラを、前記第2の主要面と前記像検出器
    との距離(δ)、前記開口の直径(D)、前記カメ
    ラ装置の焦点距離(f)、前記光フィルタによって伝
    達される光のスペクトル特性(λ)のうちの少なくとも
    1つを含むカメラ・パラメータの第1の組に設定する段
    階と、 b)前記像検出器に前記表表面パッチの第1の像を形成
    する段階と、 c)前記第1の像を第1のデジタルの像として前記像処
    理器に記録する段階と、 d)前記第1のデジタルの像を前処理して、コンボルー
    ション演算によって前記カメラ装置のポイント・スプレ
    ッド関数に関係付けられる第1の正規化像を与える段階
    と、 e)離散的な空間周波数の組において前記第1の正規化
    像の第1の組のフーリエ係数を計算する段階と、 f)前記カメラ・パラメータのうちの少なくとも1つを
    変化させる段階と、 g)前記像検出器に前記表表面パッチの第2の像を形成
    する段階と、 h)前記第2の像を第2のデジタルの像として前記像処
    理器に記録する段階と、 i)前記第2のデジタルの像を前処理して、コンボルー
    ション演算によって前記カメラのポイント・スプレッド
    関数と関係付けられる第2の正規化像を与える段階と、 j)離散的な空間周波数の前記組において前記第2の正
    規化像の第2の組のフーリエ係数を計算する段階と、 k)前記第1の組のフーリエ係数を前記第2の組のフー
    リエ係数で除して比の値の組を与える段階と、 l)前記比の値の組の各要素に対応する単一の数学的関
    係を与える段階であって、該数学的関係は、前記第1の
    正規化像の光学的伝達関数の前記第2の正規化像の光学
    的伝達関数に対する比を表しており、前記数学的関係の
    各々が前記カメラ・パラメータのみに依存していると共
    に、前記表表表面パッチの前記カメラ装置からの前記距
    離に等しい未知数を有している段階と、 m)前記段階(k)から求められた各比の値を、前記段
    階(l)で与えられた単一の対応する数学的関係に代入
    して前記表面パッチの前記カメラ装置からの前記距離を
    決定する段階と、 を具備する方法。
  2. 【請求項2】選択座標θ、φに中心を置き、端点を
    θ、φ(ただし、i=1、2、3、4)に持つ矩形
    の視野において前記対象の前記表面パッチを選択する段
    階を更に含み、前記選択が、前記段階(b)及び(g)
    における前記第1及び第2の像の形成と前記段階(c)
    及び(h)における前記像の記録との後に実行される、
    請求項1記載の方法。
  3. 【請求項3】前記段階(d)及び(i)における前記の
    前処理が、前記像検出器のセンサ応答特性を補正する
    操作、前記像形成光学系の不均一な光伝達を補正する
    操作、前記第1及び第2の像の輝度を正規化する操
    作、倍率を正規化する操作のうちの少なくとも1つを
    含む、請求項1記載の方法。
  4. 【請求項4】前記段階(d)から生じる前記第1の正規
    化像が、前記段階(k)の比の値を見出すために前記像
    処理器に記録され、前記段階(i)から生じる前記第2
    の正規化像が計算された後に利用される、請求項1記載
    の方法。
  5. 【請求項5】前記表面パッチの境界を囲む領域が暗く保
    たれ、それによって像の重なりを回避し、前記表面パッ
    チの前記距離の決定精度が増大される、請求項1記載の
    方法。
  6. 【請求項6】前記表面パッチが光パターンを投射される
    ことによって照明され、輝度変化が前記表面パッチの前
    記距離の決定のために与えられる、請求項1記載の方
    法。
  7. 【請求項7】前記カメラ装置の完全な視野を、それぞれ
    が表面パッチを含む多数の副視野に分割し、各表面パッ
    チについて前記段階(a)〜(m)を実行して前記表面
    パッチの前記距離を決定する段階を更に含む、請求項1
    記載の方法。
  8. 【請求項8】光が通過する開口と、像検出器と、第1及
    び第2の主要面及び焦点距離を有する像形成光学系と、
    光フィルタと、カメラ制御器と、前記像検出器及び前記
    カメラ制御器に接続された像処理器とを有するカメラ装
    置からの、対象の表面パッチの距離を決定する方法であ
    って、前記第2の主要面の方が前記第1の主要面よりも
    前記像検出器に対して近くに配置されている方法におい
    て、 a)前記カメラを、前記第2の主要面と前記像検出器
    との距離(δ)、前記開口の直径(D)、前記カメ
    ラ装置の焦点距離(f)、前記光フィルタによって伝
    達される光のスペクトル特性(λ)のうちの少なくとも
    1つを含むカメラ・パラメータの第1の組に設定する段
    階と、 b)前記像検出器に前記表面パッチの第1の像を形成す
    る段階と、 c)前記第1の像を第1のデジタルの像として前記像処
    理器に記録する段階と、 d)前記第1のデジタルの像を前処理して、コンボルー
    ション演算によって前記カメラ装置のポイント・スプレ
    ッド関数に関係付けられる第1の正規化像を与える段階
    と、 e)離散的な空間周波数の組において前記第1の正規化
    像の第1の組のフーリエ係数を計算する段階と、 f)前記カメラ・パラメータのうちの少なくとも1つを
    変化させる段階と、 g)前記像検出器に前記表面パッチの第2の像を形成す
    る段階と、 h)前記第2の像を第2のデジタルの像として前記像処
    理器に記録する段階と、 i)前記第2のデジタルの像を前処理して、コンボルー
    ション演算によって前記カメラのポイント・スプレッド
    関数と関係付けられる第2の正規化像を与える段階と、 j)離散的な空間周波数の前記組において前記第2の正
    規化像の第2の組のフーリエ係数を計算する段階と、 k)前記第1の組のフーリエ係数を前記第2の組のフー
    リエ係数で除して比の値の組を与える段階と、 l)前記段階(k)から生じる比の値の組を前記像処理
    器におけるルックアップテーブルと比較する段階であっ
    て、該ルックアップテーブルが前記カメラ装置からの距
    離に対応する蓄積された比の値を有している段階と、 m)前記段階(k)からの比の値に最も近いものに対応
    する距離の選択によって、前記カメラ装置からの前記表
    面パッチの前記距離を決定する段階と、 を具備する方法。
  9. 【請求項9】前記ルックアップテーブルが、前記段階
    (k)から生じる比の値に対応する離散的な距離を計算
    し、それらを前記像処理器に蓄積することによって与え
    られる、請求項8記載の方法。
  10. 【請求項10】前記ルックアップテーブルが、前記段階
    (k)から生じる比の値に対して前記カメラ装置からの
    距離を測定することによって実験的に与えられる、請求
    項8記載の方法。
  11. 【請求項11】光が通過する開口と、第1及び第2の主
    要面及び焦点距離を有する像形成光学系と、光フィルタ
    と、カメラ制御器と、像検出器及び前記カメラ制御器に
    接続された像処理器とを有するカメラ装置の前記像検出
    器に、対象の表面パッチの合焦像を作る方法であって、
    前記第2の主要面の方が前記第1の主要面よりも前記像
    検出器に対して近くに配置されている方法において、 a)前記カメラを、前記第2の主要面と前記像検出器
    との距離(δ)、前記開口の直径(D)、前記カメ
    ラ装置の焦点距離(f)、前記光フィルタによって伝
    達される光のスペクトル特性(λ)のうちの少なくとも
    1つを含むカメラ・パラメータの組に設定する段階と、 b)前記像検出器に前記表面パッチの第1の像を形成す
    る段階と、 c)前記第1の像を第1のデジタルの像として前記像処
    理器に記録する段階と、 d)前記第1のデジタルの像を前処理して、コンボルー
    ション演算によって前記カメラ装置のポイント・スプレ
    ッド関数に関係付けられる第1の正規化像を与える段階
    と、 e)離散的な空間周波数の組において前記第1の正規化
    像の第1の組のフーリエ係数を計算する段階と、 f)前記カメラ・パラメータのうちの少なくとも1つを
    変化させる段階と、 g)前記像検出器に前記表面パッチの第2の像を形成す
    る段階と、 h)前記第2の像を第2のデジタルの像として前記像処
    理器に記録する段階と、 i)前記第2のデジタルの像を前処理して、コンボルー
    ション演算によって前記カメラのポイント・スプレッド
    関数と関係付けられる第2の正規化像を与える段階と、 j)離散的な空間周波数の前記組において前記第2の正
    規化像の第2の組のフーリエ係数を計算する段階と、 k)前記第1の組のフーリエ係数を前記第2の組のフー
    リエ係数で除して比の値の組を与える段階と、 l)前記比の値の組の夫々の要素に対応する単一の数学
    的関係を与える段階であって、該数学的関係は、前記第
    1の正規化像の光学的伝達関数の前記第2の正規化像の
    光学的伝達関数に対する比を表しており、前記数学的関
    係の各々が前記カメラ・パラメータのみに依存し、前記
    カメラ装置からの前記表面パッチの前記距離に等しい未
    知数を有している段階と、 m)前記段階(k)から生じた比の値の各々を前記段階
    (l)から与えられる単一の対応する数学的関係に代入
    して、前記カメラ装置からの前記表面パッチの前記距離
    を決定する段階と、 n)前記段階(m)において決定された距離に基づい
    て、前記表面パッチの合焦像に対応するカメラ・パラメ
    ータを決定する段階と、 o)前記カメラ・パラメータを前記段階(n)で決定さ
    れた値に調節する段階と、 を具備する方法。
  12. 【請求項12】前記カメラ・パラメータが、合焦公式を
    用いた計算によって前記段階(n)において決定され
    る、請求項11記載の方法。
  13. 【請求項13】前記カメラ・パラメータが、前記表面パ
    ッチに焦点を合わせるカメラ・パラメータを与える前記
    像処理器に予蓄積されたルックアップテーブルで前記の
    計算された距離を索引することによって、前記段階
    (n)において決定される、請求項11記載の方法。
  14. 【請求項14】光が通過する開口と、第1及び第2の主
    要面及び焦点距離を有する像形成光学系と、光フィルタ
    と、カメラ制御器と、像検出器及び前記カメラ制御器に
    接続された像処理器とを有するカメラ装置の前記像検出
    器に、対象の表面パッチの合焦像を作る方法であって、
    前記第2の主要面の方が前記第1の主要面よりも前記像
    検出器に対して近くに配置されている方法において、 a)前記カメラを、前記第2の主要面と前記像検出器
    との距離(δ)、前記開口の直径(D)、前記カメ
    ラ装置の焦点距離(f)、前記光フィルタによって伝
    達される光のスペクトル特性(λ)のうちの少なくとも
    1つを含むカメラ・パラメータの第1の組に設定する段
    階と、 b)前記像検出器に前記表面パッチの第1の像を形成す
    る段階と、 c)前記第1の像を第1のデジタルの像として前記像処
    理器に記録する段階と、 d)前記第1のデジタルの像を前処理して、コンボルー
    ション演算によって前記カメラ装置のポイント・スプレ
    ッド関数に関係付けられる第1の正規化像を与える段階
    と、 e)離散的な空間周波数の組において前記第1の正規化
    像の第1の組のフーリエ係数を計算する段階と、 f)前記カメラ・パラメータのうちの少なくとも1つを
    変化させる段階と、 g)前記像検出器に前記表面パッチの第2の像を形成す
    る段階と、 h)前記第2の像を第2のデジタルの像として前記像処
    理器に記録する段階と、 i)前記第2のデジタルの像を前処理して、コンボルー
    ション演算によって前記カメラのポイント・スプレッド
    関数と関係付けられる第2の正規化像を与える段階と、 j)離散的な空間周波数の前記組において前記第2の正
    規化像の第2の組のフーリエ係数を計算する段階と、 k)前記第1の組のフーリエ係数を前記第2の組のフー
    リエ係数で除して比の値の組を与える段階と、 l)前記段階(k)から生じる比の値の組を前記像処理
    器におけるルックアップテーブルと比較する段階であっ
    て、該ルックアップテーブルが前記カメラ装置からの距
    離に対応する蓄積された比の値を有している段階と、 m)前記段階(k)からの比の値に最も良く対応する距
    離の選択により、前記カメラ装置からの前記表面パッチ
    の前記距離を決定する段階と、 n)前記段階(m)で決定された前記距離に基づいて、
    前記表面パッチの合焦像に対応するカメラ・パラメータ
    を決定する段階と、 o)前記段階(n)で決定された値に前記カメラ・パラ
    メータを調節する段階と、 を具備する方法。
  15. 【請求項15】前記カメラ・パラメータが合焦公式を用
    いた計算によって前記段階(n)において決定される、
    請求項14記載の方法。
  16. 【請求項16】前記カメラ・パラメータが、前記表面パ
    ッチに焦点を合わせるカメラ・パラメータを与える前記
    像処理器に予蓄積されたルックアップテーブルで前記の
    計算された距離を索引することにより、前記段階(n)
    において決定される、請求項14記載の方法。
  17. 【請求項17】光が通過する開口と、像検出器と、第1
    及び第2の主要面及び焦点距離を有する像形成光学系
    と、光フィルタと、カメラ制御器と、前記像検出器及び
    前記カメラ制御器に接続された像処理器とを有し、前記
    第2の主要面の方が前記第1の主要面よりも前記像検出
    器に対して近くに配置されているカメラ装置のぼけた像
    から対象の表面パッチの改良された合焦像を得る方法に
    おいて、 a)前記カメラを、前記第2の主要面と前記像検出器
    との距離(δ)、前記開口の直径(D)、前記カメ
    ラ装置の焦点距離(f)、前記光フィルタによって伝
    達される光のスペクトル特性(λ)のうちの少なくとも
    1つを含むカメラ・パラメータの組に設定する段階と、 b)前記像検出器に前記表面パッチの第1の像を形成す
    る段階と、 c)前記第1の像を第1のデジタルの像として前記像処
    理器に記録する段階と、 d)前記第1のデジタルの像を前処理して、コンボルー
    ション演算によって前記カメラ装置のポイント・スプレ
    ッド関数に関係付けられる第1の正規化像を与える段階
    と、 e)離散的な空間周波数の組において前記第1の正規化
    像の第1の組のフーリエ係数を計算する段階と、 f)前記カメラパラメータのうちの少なくとも1つを変
    化させる段階と、 g)前記像検出器に前記表面パッチの第2の像を形成す
    る段階と、 h)前記第2の像を第2のデジタルの像として前記像処
    理器に記録する段階と、 i)前記第2のデジタルの像を前処理して、コンボルー
    ション演算によって前記カメラのポイント・スプレッド
    関数と関係付けられる第2の正規化像を与える段階と、 j)離散的な空間周波数の前記組において前記第2の正
    規化像の第2の組のフーリエ係数を計算する段階と、 k)前記第1の組のフーリエ係数を前記第2の組のフー
    リエ係数で除して比の値の組を与える段階と、 l)前記比の値の組の各要素に対応する単一の数学的関
    係を与える段階であって、該数学的関係は、前記第1の
    正規化像の光学的伝達関数の前記第2の正規化像の光学
    的伝達関数に対する比を表しており、前記数学的関係の
    各々は前記カメラ・パラメータのみに依存すると共に、
    前記カメラ装置からの前記表面パッチの前記距離に等し
    い未知数を有している段階と、 m)前記段階(k)から生じた比の値の各々を前記段階
    (l)から与えられる単一の対応する数学的関係に代入
    して、前記カメラ装置からの前記表面パッチの前記距離
    を決定する段階と、 n)前記段階(m)で計算された前記表面パッチの前記
    距離に基づいて、前記段階(b)で形成された前記第1
    の像の光学的伝達関数を決定する段階と、 o)前記第1の像のフーリエ変換を決定する段階と、 p)前記段階(o)から生じた前記フーリエ変換を、前
    記段階(n)から生じた前記光学的伝達関数で除す段階
    と、 q)前記段階(p)からの結果である逆フーリエ変換を
    計算する段階と、 を具備し、ぼやけた像から良された合焦像を決定する方
    法。
  18. 【請求項18】前記カメラ装置の視野を、各々が表面パ
    ッチを含む多数の副視野に分割し、各表面パッチ毎に前
    記段階(a)〜(q)を反復して、全ての表面パッチの
    改良された合焦像を決定すると共に、これら改良された
    合焦像から、前記カメラ装置の視野における全情景の合
    焦像を合成する段階を更に含む、請求項17記載の方法。
  19. 【請求項19】対象の表面パッチとカメラ装置のとの間
    の距離を決定するための装置であって、 a)像検出器と、カメラ開口と、第1及び第2の主要面
    を含む像形成光学系と、光フィルタと、焦点距離とを有
    するカメラ装置であって、前記第2の主要面の方が前記
    第1の主要面よりも前記像検出器に対して近くに配置さ
    れているカメラ装置と、 b)移動のために前記カメラ装置に光学的に接続され、
    以下のカメラ・パラメータ、即ち、前記第2の主要面
    と前記像検出器との距離、前記カメラ開口の直径、
    前記像形成光学系の焦点距離のうちの少なくとも1つを
    変化させるためのカメラ制御器と、 c)前記像検出器及び前記カメラ制御器に接続され、前
    記像検出器から信号を受け取ると共に前記カメラ制御器
    によって前記カメラ・パラメータを変更するための像処
    理器であって、前記像検出器からの信号をデジタル・
    データへ変換すると共に、その結果のデジタルの像を以
    後の画像処理のために正規化するための手段と、信号
    をフーリエ変換するための手段と、フーリエ係数を除
    して、第1の像と第2の像とからの信号に対応するフー
    リエ係数の比の値の組を提供する手段とを備える像処理
    器と、 d)前記第1の像及び前記第2の像から生じたフーリエ
    係数の比の値を、前記カメラ・パラメータ、前記表面パ
    ッチの距離及び前記カメラ装置の光学的伝達関数を含む
    数学的関係に代入する手段であって、その結果の関係を
    解いて前記カメラ装置からの前記表面パッチの距離を提
    供する手段と、 を具備する装置。
  20. 【請求項20】前記像処理器が更に、前記像検出器の
    センサ応答特性を補正するための手段と、前記像形成
    光学系の不均一な光伝達を補正するための手段と、像
    の輝度を正規化するための手段と、前記像検出器に記
    録された像の倍率を正規化するための手段とのうちの少
    なくとも1つを備える、請求項19記載の装置。
  21. 【請求項21】対象の表面パッチとカメラ装置のとの間
    の距離を決定するための装置であって、 a)像検出器と、カメラ開口と、第1及び第2の主要面
    を含む像形成光学系と、光フィルタと、焦点距離とを有
    するカメラ装置であって、前記第2の主要面の方が前記
    第1の主要面よりも前記像検出器に対して近くに配置さ
    れているカメラ装置と、 b)移動のために前記カメラ装置に光学的に接続され、
    以下のカメラ・パラメータ、即ち、前記第2の主要面
    と前記像検出器との距離、前記カメラ開口の直径、
    前記像形成光学系の焦点距離のうちの少なくとも1つを
    変化させるためのカメラ制御器と、 c)前記像検出器及び前記カメラ制御器に接続され、前
    記像検出器から信号を受け取ると共に前記カメラ制御器
    によって前記カメラ・パラメータを変更するための像処
    理器であって、前記像検出器からの信号をデジタル・
    データへ変換すると共に、その結果のデジタルの像を以
    後の画像処理のために正規化するための手段と、信号
    をフーリエ変換するための手段と、フーリエ係数を除
    して、第1の像と第2の像とからの信号に対応するフー
    リエ係数の比の値の組を提供する手段とを備える像処理
    器と、 d)前記カメラ装置の光学的伝達関数から計算されたル
    ックアップテーブルと、 e)前記フーリエ係数の比の値の組を前記ルックアップ
    テーブルに蓄積された値と比較することによって距離を
    決定するための相関手段と、 を具備する装置。
  22. 【請求項22】前記像処理器が更に、前記像検出器の
    センサ応答特性を補正するための手段と、前記像形成
    光学系の不均一な光伝達を補正するための手段と、像
    の輝度を正規化するための手段と、前記像検出器に記
    録された像の倍率を正規化するための手段とのうちの少
    なくとも1つを備える、請求項19記載の装置。
JP17433290A 1989-06-29 1990-06-29 対象の距離を決定し、自動焦点合せをし、合焦像を得るための方法及び電子カメラ装置 Expired - Lifetime JP3305314B2 (ja)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
US37399689A 1989-06-29 1989-06-29
US537117 1990-06-15
US373996 1990-06-15
US07/537,117 US5193124A (en) 1989-06-29 1990-06-15 Computational methods and electronic camera apparatus for determining distance of objects, rapid autofocusing, and obtaining improved focus images

Publications (2)

Publication Number Publication Date
JPH03136580A JPH03136580A (ja) 1991-06-11
JP3305314B2 true JP3305314B2 (ja) 2002-07-22

Family

ID=27006393

Family Applications (1)

Application Number Title Priority Date Filing Date
JP17433290A Expired - Lifetime JP3305314B2 (ja) 1989-06-29 1990-06-29 対象の距離を決定し、自動焦点合せをし、合焦像を得るための方法及び電子カメラ装置

Country Status (4)

Country Link
EP (1) EP0408224B1 (ja)
JP (1) JP3305314B2 (ja)
AT (1) ATE127582T1 (ja)
DE (1) DE69022143T2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101345012B1 (ko) * 2009-01-30 2013-12-24 소니 일렉트로닉스 인코포레이티드 이미지를 전자적으로 캡처하는 장치, 카메라로부터 물체까지의 초점 거리를 추정하는 장치, 카메라―물체 초점 심도의 자동 추정 방법 및 컴퓨터―판독가능 매체
US8988592B2 (en) 2012-05-17 2015-03-24 Canon Kabushiki Kaisha Image processing apparatus, image processing method, image processing program, and image pickup apparatus acquiring a focusing distance from a plurality of images

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR2702056A1 (fr) * 1993-02-23 1994-09-02 Centre Nat Rech Scient Appareil et objectif de prise de vues en stéréovision axiale.
US6341180B1 (en) 1997-12-18 2002-01-22 Cellavision Ab Image content autofocus for microscopy using a noise-insensitive focus filter
US6191761B1 (en) * 1998-11-09 2001-02-20 University Of Washington Method and apparatus for determining optical distance
GB2367440B (en) * 2000-08-04 2005-02-23 Mark David Cahill Linear image reconstruction
JP2006003803A (ja) 2004-06-21 2006-01-05 Olympus Corp 合焦情報取得装置及び合焦情報取得方法
JP2006324985A (ja) * 2005-05-19 2006-11-30 Olympus Corp 撮像装置
JP2007060520A (ja) * 2005-08-26 2007-03-08 Olympus Corp 撮像装置
JP2007139893A (ja) * 2005-11-15 2007-06-07 Olympus Corp 合焦検出装置
US8027582B2 (en) * 2009-12-21 2011-09-27 Sony Corporation Autofocus with confidence measure
CN101872059B (zh) * 2010-06-18 2011-12-07 南京理工大学 Otf测试仪的自动调焦系统及其自动调焦方法
US8676498B2 (en) * 2010-09-24 2014-03-18 Honeywell International Inc. Camera and inertial measurement unit integration with navigation data feedback for feature tracking
AU2011224051B2 (en) * 2011-09-14 2014-05-01 Canon Kabushiki Kaisha Determining a depth map from images of a scene
CN102679963B (zh) * 2012-05-15 2014-05-21 中国科学院西安光学精密机械研究所 航天相机真空中焦面预置方法及装置
WO2015075769A1 (ja) * 2013-11-19 2015-05-28 日立マクセル株式会社 撮像装置及び距離測定装置
CN109648210B (zh) * 2019-02-14 2024-03-15 北京志恒达科技有限公司 激光灼刻装置及系统
CN111174765B (zh) * 2020-02-24 2021-08-13 北京航天飞行控制中心 基于视觉引导的行星车目标探测控制方法及装置
CN112596324A (zh) * 2020-12-21 2021-04-02 北京航空航天大学 一种基于液体变焦相机的智能机器人视觉识别系统
CN113624358B (zh) * 2021-07-14 2023-09-26 中国电子科技集团公司第十三研究所 用于光热反射显微热成像的三维位移补偿方法及控制装置
CN116709614B (zh) * 2023-08-02 2023-10-20 深圳爱图仕创新科技股份有限公司 灯光控制方法、装置、计算机设备及计算机可读存储介质

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0672973B2 (ja) * 1983-06-30 1994-09-14 株式会社リコー オ−トフオ−カス方法
US4965840A (en) * 1987-11-27 1990-10-23 State University Of New York Method and apparatus for determining the distances between surface-patches of a three-dimensional spatial scene and a camera system
DD269235A1 (de) * 1988-01-29 1989-06-21 Univ Schiller Jena Verfahren und anordnung zur automatischen fokussierung eines optischen systems
DD268533A1 (de) * 1988-01-29 1989-05-31 Univ Schiller Jena Verfahren und anordnung zur automatischen fokussierung eines optischen systems
JP2772079B2 (ja) * 1989-01-09 1998-07-02 オリンパス光学工業株式会社 自動合焦装置

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101345012B1 (ko) * 2009-01-30 2013-12-24 소니 일렉트로닉스 인코포레이티드 이미지를 전자적으로 캡처하는 장치, 카메라로부터 물체까지의 초점 거리를 추정하는 장치, 카메라―물체 초점 심도의 자동 추정 방법 및 컴퓨터―판독가능 매체
US8988592B2 (en) 2012-05-17 2015-03-24 Canon Kabushiki Kaisha Image processing apparatus, image processing method, image processing program, and image pickup apparatus acquiring a focusing distance from a plurality of images
US9621786B2 (en) 2012-05-17 2017-04-11 Canon Kabushiki Kaisha Image processing apparatus, image processing method, image processing program, and image pickup apparatus acquiring a focusing distance from a plurality of images
US10021290B2 (en) 2012-05-17 2018-07-10 Canon Kabushiki Kaisha Image processing apparatus, image processing method, image processing program, and image pickup apparatus acquiring a focusing distance from a plurality of images

Also Published As

Publication number Publication date
JPH03136580A (ja) 1991-06-11
ATE127582T1 (de) 1995-09-15
EP0408224A2 (en) 1991-01-16
EP0408224A3 (en) 1991-09-18
DE69022143T2 (de) 1996-03-07
DE69022143D1 (de) 1995-10-12
EP0408224B1 (en) 1995-09-06

Similar Documents

Publication Publication Date Title
JP3305314B2 (ja) 対象の距離を決定し、自動焦点合せをし、合焦像を得るための方法及び電子カメラ装置
US5193124A (en) Computational methods and electronic camera apparatus for determining distance of objects, rapid autofocusing, and obtaining improved focus images
US4965840A (en) Method and apparatus for determining the distances between surface-patches of a three-dimensional spatial scene and a camera system
US8432479B2 (en) Range measurement using a zoom camera
US7711201B2 (en) Method of and apparatus for generating a depth map utilized in autofocusing
US8773550B2 (en) Range measurement using multiple coded apertures
US6229913B1 (en) Apparatus and methods for determining the three-dimensional shape of an object using active illumination and relative blurring in two-images due to defocus
US20110267508A1 (en) Digital camera with coded aperture rangefinder
US20070189750A1 (en) Method of and apparatus for simultaneously capturing and generating multiple blurred images
CN104052919B (zh) 摄像装置、摄像系统及信号处理装置
US20080031513A1 (en) Method and system for high resolution, ultra fast 3-D imaging
CN111083365B (zh) 一种最佳焦平面位置快速检测方法及装置
US8330852B2 (en) Range measurement using symmetric coded apertures
JPH05119252A (ja) カメラの距離測定および迅速自動焦点合せ方法および装置
US20110267485A1 (en) Range measurement using a coded aperture
Subbarao Efficient depth recovery through inverse optics
EP1958158B1 (en) Method for detecting streaks in digital images
US11347133B2 (en) Image capturing apparatus, image processing apparatus, control method, and storage medium
CN117061868A (zh) 一种基于图像识别的自动拍照装置
CN116958419A (zh) 一种基于波前编码的双目立体视觉三维重建系统和方法
EP2909671A1 (fr) Procédé de conception d'un imageur monovoie passif capable d'estimer la profondeur de champ
JPH0328691B2 (ja)
Wei Three dimensional machine vision using image defocus
US11578968B1 (en) Compact metalens depth sensors
Xian et al. Performance evaluation of different depth from defocus (DFD) techniques

Legal Events

Date Code Title Description
R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080510

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090510

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100510

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110510

Year of fee payment: 9

EXPY Cancellation because of completion of term
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110510

Year of fee payment: 9