JP2009080113A - 距離推定方法、距離推定装置、撮像装置およびコンピュータ読み取り可能な媒体 - Google Patents

距離推定方法、距離推定装置、撮像装置およびコンピュータ読み取り可能な媒体 Download PDF

Info

Publication number
JP2009080113A
JP2009080113A JP2008234378A JP2008234378A JP2009080113A JP 2009080113 A JP2009080113 A JP 2009080113A JP 2008234378 A JP2008234378 A JP 2008234378A JP 2008234378 A JP2008234378 A JP 2008234378A JP 2009080113 A JP2009080113 A JP 2009080113A
Authority
JP
Japan
Prior art keywords
image
edge
distance
correlation
distance estimation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2008234378A
Other languages
English (en)
Inventor
Mikhail Brusnitsyn
ブラスニッツェン ミカイル
Angus Harry Mansell Mcquarrie
ハリー マンセル マククアリー アンガス
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Publication of JP2009080113A publication Critical patent/JP2009080113A/ja
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/32Means for focusing
    • G03B13/34Power focusing
    • G03B13/36Autofocus systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/36Systems for automatic generation of focusing signals using image sharpness techniques, e.g. image processing techniques for generating autofocus signals
    • G02B7/365Systems for automatic generation of focusing signals using image sharpness techniques, e.g. image processing techniques for generating autofocus signals by analysis of the spatial frequency components of the image

Abstract

【課題】撮像装置の自動焦点画像センサにより生成される画像信号を用いて被写体への距
離を推定する新規な方法を提供すること。
【解決手段】各画像センサの画像データを処理してその中のエッジを検出し、各エッジセ
ンサについて対応するエッジ画像を生成し、エッジ画像を相関し、エッジ画像間で最良の
一致をもたらす一方のエッジ画像に対する他方のエッジ画像のシフトを判定し、少なくと
も判定されたシフトに基づき距離推定を計算することを有する。
【選択図】図2

Description

本発明は一般的に距離推定に関し、具体的には自動焦点センサを用いた距離推定方法お
よびこれを用いる撮像装置に関する。
カメラ、ビデオ・レコーダ、カムコーダ、等々など最近の撮像装置のほとんどは操作す
る者ができるだけ簡単に画像を取り込めるよう連携して作動する一式の自動機能を含む。
自動焦点(AF)機能はこの一式の中で非常に多く見られる機能である。カメラのAF機
能はカメラ内のプロセッサを利用して、最も鮮明な画像が得られるまでレンズを中または
外に動かすことによりカメラ・レンズの焦点を自動的に合わせる小型モータを稼動する。
AF機能付きのカメラは2種類の自動焦点システム、すなわち受動的自動焦点システム
および能動的自動焦点システム、の双方の組み合わせを使用するものもあるが、通常は受
動的自動焦点システムおよび能動的自動焦点システムの内1つを用いる。より安価な自動
露出カメラは通常能動的AFシステムを用い、より高価な一眼レフ(SLR)カメラは受
動的AFシステムを用いる。
典型的な能動的AFシステムは赤外線信号を発する赤外線エミッタおよび反射した赤外
線信号がカメラに戻るのを検出する赤外線受信機を有してなる。カメラ・プロセッサはエ
ミッタにより赤外線信号が伝送されてから反射された赤外線信号を受信機が検出するまで
の経過時間を演算する。演算された経過時間は次にカメラ・プロセッサにより用いられ、
モータを稼動させレンズの位置を調節して焦点を自動的に補正する。
2種類の受動的AFシステム、すなわちコントラスト測定AFシステムおよび位相検出
AFシステム、が普及している。コントラスト測定AFシステムにおいて、カメラ・レン
ズを通してのぞく電荷結合素子(CCD)が条片の画像を取り込む。取り込まれた条片の
画像はカメラ・プロセッサに送られ、後者は続いて条片の画像における隣接ピクセルの輝
度を調べる。条片画像の隣接ピクセルが類似した輝度を有する場合、条片画像は焦点が外
れているとみなされる。プロセッサは次にモータを稼動させてカメラ・レンズの位置を調
節し、上述のプロセスはカメラ・レンズが隣接ピクセル間の輝度差が最高になる位置にな
るまで繰り返される。
位相検出AFシステムにおいて、カメラ・レンズに入る光は図6に示されるように分割
され右の画像センサ10および左の画像センサ12に各々に結び付けられたレンズ14お
よびレンズ16経由で向けられる。図示されていないが、右の画像センサ10および左の
画像センサ12はセンサ・アッセンブリの光軸OAを見下ろすように内側の角度に向けら
れる。画像センサ10および画像センサ12の出力は画像信号をもたらし、これらはカメ
ラ・プロセッサにより比較され、類似した光強度パターンについて分析される。次に画像
信号間の位相差が計算され被写体が前方焦点位置にあるか後方焦点位置にあるか判定され
る。位相差はこのようにレンズがその位置に移動するようカメラ・プロセッサにモータを
稼動させ、カメラ・レンズが焦点合わせできる位置を提供する。
画像センサ10および画像センサ12により出力される画像信号間の差は被写体のカメ
ラからの距離に依存するため、図6に示す位相検出AFシステムは被写体のカメラからの
距離を推定するのに用いることができる。距離を推定するには画像センサ10および画像
センサ12により出力される画像信号を相関させ、互いの最良の適合を見出す必要がある
。理想的な環境では、直接的な方法が満足できる結果をもたらし、ここでは画像センサ1
0および画像センサ12により出力される画像信号を互いに比較し、2つの画像信号間の
シフトにおいて差がどこで互いに最小であるかを判定する。あいにく、カメラ内の不完全
な光絶縁および/または周囲光のため、画像センサ10および画像センサ12により出力
される画像信号は互いに対し図7に示すようにしばしばシフトされる。加えて、位相検出
AFシステムではしばしば周期的雑音が生じ、図8に示すように各画像センサの偶数要素
からの画像信号が画像センサの奇数要素からの画像信号より高く、または低くなる。図示
されるように、通常パリティ・ノイズと呼ばれるこの周期的雑音は画像センサの連続要素
に対し高から低に交互する。
カメラ・ユーザにとって焦点の合った画像を取り込むことが肝要であるので、AFシス
テムの分野においてかなりの努力がなされ、AFシステムの多くの変形が検討されている
ことは驚くにあたらない。例えば、Lipton他の米国特許第5142357号明細書
は静止画像または動画像の取り込みおよび再生用の電子ステレオ・ビデオ・カメラを開示
している。ビデオ・カメラは信号処理手段を用いて左および右の画像センサのビデオ出力
を処理し、各々ビデオ・カメラの左および右の画像領域における左および右画像の位置を
突き止める。突き止められた左および右画像の比較により固定して取り付けたカメラ・レ
ンズのセットに対し一方または双方の画像センサの有効位置を調節するために制御信号が
生成される。Akashiの米国特許第5293194号明細書はカメラ用の焦点検出装
置を開示しており、複数の焦点センサが場面内において複数の異なった区域の焦点状態を
検出する。焦点センサの出力を基に、場面の特定区域について焦点が得られるか否かをプ
ロセッサが判定する。場面の特定区域が例えば場面の中心区域である場合、焦点合わせを
支援するために補助的な光が発せられる。
Kitamuraの米国特許第5369430号明細書は焦点検出方法および装置を開
示している。方法において、複数の物体パターンを含む物体の実画像が光学システムを通
して画像撮像装置に投影され、画像撮像装置から得られた画像データが産出される。光学
システムの光軸方向に画像撮像装置、光学システムおよび複数の物体パターン各々の画像
データおよび物体の相対的位置関係を変化させながら前以て記憶された基準パターンの画
像データの相関値が計算される。最大の相関値をもたらす相対位置関係が焦点の合った状
態とみなされる。
Sobel他の米国特許第6707937号明細書はデジタル画像に色画像情報を補間
する方法および装置を開示している。目標ピクセル付近のデジタル画像の部分に対する画
像データ値が受信され、ローカル・アレイに記憶される。ローカル・アレイのデータ値に
基づき目標ピクセルの付近にエッジがあるかプロセッサが判定する。目標ピクセルの付近
にエッジがない場合、画像に欠ける色情報を生成するためにローカル・アレイの画像デー
タに対し長尺補間が実施される。目標ピクセル付近にエッジがある場合は、目標ピクセル
の近傍にあるローカル・アレイのサブセットにある画像データ亜ギアを用いて短尺補間が
実施他される。
Ide他の米国特許第6785496号明細書および米国特許出願公開第2005/0
013601号明細書は互いに視差を有する2つの画像を受信する、半導体基板に形成さ
れた画像撮像要素および画像撮像要素により受信された光に対応する信号を処理するため
に半導体基板に形成された光受信信号処理回路を含むAFエリア・センサを有する距離測
定装置を開示している。輪郭検出モードにおいてAFエリア・センサで実行される集約に
より得られたセンサ・データに基づき、距離測定装置が写真画面における主被写体を検出
の上、主被写体を含む距離想定区域を設定し、主被写体までの距離を測定する。
Fujii他の米国特許出願公開第2002/0114015号明細書はAF区域にお
けるエッジ幅のヒストグラムを生成するヒストグラム生成回路およびヒストグラムから雑
音成分を排除する雑音排除部分を有するデジタル・カメラのAF制御部を開示している。
ヒストグラム評価部分がヒストグラムから焦点を合わせられる程度を示す評価値を計算し
、コントラスト計算回路がAF区域におけるコントラストを計算する。駆動方向判定部分
がコントラストを用いて焦点合わせレンズの実現すべき駆動方向を判定する。ヒストグラ
ムの評価値とコントラストを用い駆動量判定部分が焦点合わせレンズを焦点の合った位置
に位置づける。Yaroslavskyの米国特許出願公開第2003/0118245
号明細書はエッジ検出方法および画像比較方法の一方または双方を用いて撮像システムの
焦点を自動的に合わす装置および方法を開示している。エッジ検出方法は物体の1セット
の画像における各画像についてエッジ密度を演算し、セット内の画像で最大の演算エッジ
密度を有するものに対応する焦点位置を最適焦点位置として選択することを有してなる。
画像比較方法は基準画像に対する焦点位置と代表的物体の綿密にマッチされた画像との差
に基づき焦点位置を調節することを有してなる。
Stewartの米国特許出願公開第2006/0029284号明細書は画像から焦
点測度を判定する方法を開示している。方法の際、画像を、エッジ位相化効果を拒絶する
よう適応された1つ以上の一次エッジ検出カーネルで画像を処理することにより、画像に
おける1つ以上のエッジが検出される。エッジ各々の第1強度測度およびエッジ各々のコ
ントラストが判定される。エッジ各々の第1強度測度はエッジ各々のコントラストにより
正規化され、エッジ各々の第2強度測度が得られる。第2強度測度に従い画像からエッジ
の1つ以上が選ばれ、選ばれたエッジの第2強度測度を用いて焦点測度が計算される。
Aas他の米国特許出願公開第2006/0062484号明細書は取り込まれた焦点
画像の少なくとも1つの領域において領域の隣接ピクセルを用いて第1エッジ検出結果を
得、第1エッジ検出結果をフィルタすることによりエッジを検出することを有してなる方
法を開示している。フィルタリングは第1エッジ検出結果におけるピクセル・コントラス
トの差を第1閾値と比較し、第1エッジ検出結果から第1閾値未満のピクセル・コントラ
ストの差を除去することを有してなる。少なくとも領域内のエッジが、領域の非隣接ピク
セルを用い検出され第2エッジ検出結果が得られ、第2エッジ検出結果はフィルタされる
。第2フィルタリングは第2エッジ検出結果におけるピクセル・コントラストと第2閾値
との差を比較し第2エッジ検出結果から第2閾値未満のピクセル・コントラストの差を除
去することを有してなる。
上述の参考文献は異なった自動焦点手法を考察しているが、改良が望まれる。
米国特許出願公開第2006/0062484号明細書 米国特許出願公開第2006/0029284号明細書
本発明の1つの目的は新規な距離推定方法、およびこれを用いた新規な撮像装置を提供
することである。
本発明の距離推定方法は、撮像装置の自動焦点画像センサにより生成される画像信号を
用いて被写体への距離を推定する距離推定方法であって、各画像センサの画像データを処
理してその中のエッジを検出し、各エッジセンサについて対応するエッジ画像を生成する
工程と、前記エッジ画像を相関し、前記エッジ画像間で最良の一致をもたらす一方のエッ
ジ画像に対する他方のエッジ画像のシフトを判定する工程と、少なくとも前記判定された
シフトに基づき距離推定を計算する工程とを有することを特徴とする。
また本発明の距離推定方法は、前記計算する工程の前に、前記判定されたシフトを調節
する工程をさらに有することを特徴とする。
また本発明の距離推定方法は、前記距離推定がサブピクセルの精度で計算できるよう、
前記判定されたシフトを前記相関の際に生成された相関データに基づき調節する工程を有
することを特徴とする。
また本発明の距離推定方法は、前記相関データに基づき調節する工程は、前記判定され
たシフトに差値を加えることを有する。
また本発明の距離推定方法は、前記差値は、前記相関の際、生成される相関データの補
間により計算されることを特徴とする。
また本発明の距離推定方法において、前記相関は、前記一方のエッジ画像を前記他方の
エッジ画像と比較して相互相関値を生成する工程と、前記一方のエッジ画像を前記他方の
エッジ画像に対しシフトし、別の相互相関値を生成する工程と、前記シフトおよび相互相
関値の生成を繰り返す工程と、最小相互相関値を判定する工程と、最小相互相関値に結び
付いたシフト位置を判定されたシフトとして選択する工程とを有することを特徴とする。
また本発明の距離推定方法は、前記シフトおよび相互相関値の生成は、被写体を中心と
した範囲にわたり実施されることを特徴とする。
また本発明の距離推定方法は、前記比較の際、前記一方のエッジ画像におけるピクセル
のサブセットが前記他方のエッジ画像における対応ピクセルと比較されることを特徴とす
る。
また本発明の距離推定方法は、前記サブセットは少なくとも前記被写体の全体を包含す
るよう選択されるサイズを有することを特徴とする。
また本発明の距離推定方法は、前記相関の前に前記エッジ画像のサイズを倍加する工程
をさらに有することを特徴とする。
また本発明の距離推定方法において、前記相関は、前記一方のエッジ画像を前記他方の
エッジ画像と比較し相互相関値を生成する工程と、前記一方のエッジ画像を前記他方のエ
ッジ画像に対しシフトし別の相互相関値を生成する工程と、前記シフトおよび相互相関値
の生成を繰り返す工程と、最小相互相関値を判定する工程と、最小相互相関値に結び付い
たシフト位置を判定されたシフトとして選択する工程とを有することを特徴とする。
また本発明の距離推定方法において、前記シフトおよび相互相関値の生成は、被写体を
中心とした範囲にわたり実施されることを特徴とする。
また本発明の距離推定方法は、前記比較の際、前記一方のエッジ画像におけるピクセル
のサブセットが前記他方のエッジ画像における対応ピクセルと比較されることを特徴とす
る。
また本発明の距離推定方法は、距離推定がサブピクセルの精度で計算できるよう、前記
判定されたシフトを前記相関の際、生成された相関データに基づき調節する工程を有する
ことを特徴とする。
また本発明の距離推定方法は、前記相関データに基づき調節する工程は、前記判定され
たシフトに前記相互相関値の補間により計算された差値を加えることを有する。
また本発明の距離推定方法は、前記距離推定の計算は、前記判定されたシフトおよび前
記撮像装置の少なくとも1つのパラメータに基づくことを特徴とする。
ここで本発明の距離推定装置は、撮像装置の自動焦点画像センサにより生成される画像
信号を用いて被写体への距離を推定する距離推定装置であって、前記画像センサと通信す
る処理構造を有し、前記処理構造は、各画像センサの画像データを処理してその中のエッ
ジを検出し、各エッジセンサについて対応するエッジ画像を生成し、エッジ画像を相関し
、エッジ画像間で最良の一致をもたらす一方のエッジ画像に対する他方のエッジ画像のシ
フトを判定し、判定されたシフトおよび前記撮像装置の少なくとも1つのパラメータに基
づき距離推定を計算することを特徴とする。
また本発明の撮像装置は、前記距離推定装置を備えることを特徴とする。
ここで、前記撮像装置はデジタル・カメラ、ビデオ・レコーダ、およびスキャナの内の
1つであることを特徴とする。
一方本発明のコンピュータ読み取り可能な媒体は、撮像装置の自動焦点画像センサによ
り生成される画像信号を用いて被写体への距離を推定するコンピュータ・プログラムを具
現するコンピュータ読み取り可能な媒体であって、各画像センサの画像データを処理して
その中のエッジを検出し、各エッジセンサについて対応するエッジ画像を生成するコンピ
ュータ・プログラム・コードと、前記エッジ画像を相関し、エッジ画像間で最良の一致を
もたらす一方のエッジ画像に対する他方のエッジ画像のシフトを判定するコンピュータ・
プログラム・コードと、少なくとも前記判定されたシフトに基づき距離推定を計算するコ
ンピュータ・プログラム・コードとを有することを特徴とする。
以下の説明において、自動焦点画像センサを用いた距離推定方法の実施形態およびこれ
を実施する距離推定装置さらにはこれを用いた撮像装置が提供される。撮像装置としては
、デジタル・カメラ、ビデオ・レコーダ、およびスキャナなどさまざまな装置に本発明を
適用することができるが、以下の説明ではデジタル・カメラを例に挙げて説明する。距離
推定方法の際には、各自動焦点センサの画像データが処理されてその中のエッジが検出さ
れ、各画像センサに対し対応するエッジ画像が生成される。エッジ画像の相関に基づいて
、一方のエッジ画像が他方のエッジ画像に対し相互に最良の一致をもたらすシフト値、す
なわちエッジ画像間に最小差、が判定される。次に少なくとも判定されたシフト値に基づ
き距離推定が計算される。望ましい場合は、サブピクセルの精度で距離を推定できるよう
、判定されたシフト値を計算前に調節することができる。また相関の前にエッジ画像のサ
イズを倍化することができる。
上述の工程は撮像装置のプロセッサにより実行されるコンピュータ実行可能な命令を含
むソフトウェア・アプリケーションにより実施することができる。ソフトウェア・アプリ
ケーションはルーチン、プログラム、オブジェクト・コンポーネント、データ構造、等々
を有してなることができ、コンピュータ読み取り可能な媒体に格納されるコンピュータ読
み取り可能なプログラム・コードとして具現されることができる。コンピュータ読み取り
可能な媒体は後に撮像装置のプロセッサが読み取ることのできるデータを格納し得る任意
のデータ記憶装置である。コンピュータ読み取り可能な媒体の例は例えば読み取り専用メ
モリ、ランダムアクセス・メモリ、CD−ROM、磁気テープ、および光データ記憶装置
を含む。
次に図1に移ると、デジタルSLRカメラの形をとる撮像装置の簡略図が示され、全般
的に参考番号50で特定される。撮像装置としてのデジタル・カメラ50は画像を取り込
む時に入射光をCCDまたはCMOSセンサ・アレイ54に集中させるレンズ・アッセン
ブリ52を有してなる。CMOSセンサ・アレイ54は次に生の画像データをプロセッサ
56に提供する。プロセッサ56はさらにユーザがデジタル・カメラ50を操作できるよ
うにする制御ボタン、スイッチ、ロッカ、等々を有してなるユーザ・インタフェース58
、ドライバおよび結び付いたディスプレイ60、およびメモリ62と通信する。
本実施形態のデジタル・カメラ50はさらに自動焦点センサ・アッセンブリ(以降、A
Fセンサ・アッセンブリという)70を有してなる位相検出自動焦点(AF)システムを
含む。画像が取り込まれない場合、デジタル・カメラ50に入射する光をミラー72がA
Fセンサ・アッセンブリ70方向に反射する。AFセンサ・アッセンブリ70は図6に示
されるものに類似しており、右の画像センサ10および左の画像センサ12ならびに結び
付いたレンズ14およびレンズ16を有してなる。画像センサ10および画像センサ12
はAFセンサ・アッセンブリ70の光軸OAを見下ろすように内側の角度に向けられる。
ミラー72によりAFセンサ・アッセンブリ70に向かう光は2つのパスに分割され、結
び付けられたレンズ14およびレンズ16経由で右の画像センサ10および左の画像セン
サ12に向けられる。プロセッサ56は周知の方法でAFセンサ・アッセンブリ70、お
よびモータ・ドライバ74とAFシャッタ76と通信し、デジタル・カメラ50に自動焦
点機能を提供する。
本実施形態で、デジタル・カメラ50はさらにAFセンサ・アッセンブリ70の出力を
用いてデジタル・カメラの視野にある被写体への距離を推定する。そのために、プロセッ
サ56は距離推定アプリケーションを実行し、被写体への距離を推定できるようにする。
そして、自動焦点機能が推定した被写体への距離に基づいてピントを調整し、ユーザの指
示に基づいてデジタル・カメラ50は撮像を行う。距離推定アプリケーションの実行の際
、プロセッサにより実施される工程を次に図2を参照して説明する。図3に見られるよう
に、距離推定の際、右の画像センサ10および左の画像センサ12により取得された生画
像としての右センサ・データ100および生画像としての左センサ・データ102は最初
対応する右のエッジ画像および左のエッジ画像を形成するためにエッジ検出を受ける(工
程S104および工程S106)。エッジ検出の際、生画像の各々について、生画像のピ
クセル対Ni+1とピクセル対Ni-1との間の差が判定され、対応するエッジ画像のピクセル
iのエッジ規模を表すのに使用される。図3は生画像データおよび対応するエッジ・デ
ータを図示する。
本実施形態で、一旦、右のエッジ画像および左のエッジ画像が生成されると、エッジ画
像は解像度を向上させるために倍化される(工程S108および工程S110)。エッジ
画像を倍化することは補間エラーを減らすのに役立つ。各エッジ画像を倍化する際、エッ
ジ画像各々についてエッジ画像より2倍大きいアレイが作成される。エッジ画像のピクセ
ルEiは次にアレイの偶数の位置にコピーされる。奇数の位置にあるピクセルEiはキュー
ビック補間を用い次の方程式(1)に従い計算される。
Figure 2009080113
補間された値はアレイの中で必要な連続隣接位置がない位置について上述の方法で計算
できないので、ボイドを生めるためにアレイのこれらの位置にピクセルEiがコピーされ
る。例えば倍化された400ピクセルのエッジ画像の場合、ピクセルEiは次のようにア
レイにコピーされる。
Figure 2009080113
工程S108および工程S110において右および左のエッジ画像を倍化することに続
き、倍化された右および左のエッジ画像は相関され倍化された右のエッジ画像が倍化され
た左のエッジ画像と最良の一致を達成するためにシフトされる必要のある程度が判定され
る(工程S112)。右および左のエッジ画像ピクセル間で絶対差の合計が最小になるよ
うな、倍化された右のエッジ画像のシフトが最適とみなされる。一旦、最適なシフトが判
定されると、相互相関関数は整数のシフト値にしか計算できないので、最適なシフトに追
加されるサブピクセル差の値を生成するために補間が実行される(工程S114)。工程
S114における補間に続き、被写体への距離推定がメートルで計算される(工程S11
6)。
工程S112の相関の際、相関窓CWがプロセッサ56により選択される。良好な光お
よびコントラスト条件の場合、相関窓のサイズSCWは相関窓CWで囲まれる被写体の角サ
イズが約1.5から約4度の範囲にあるように選ばれる。暗い光および低コントラスト条
件の場合、相関窓のサイズは被写体の角サイズの範囲がより高くなるよう選ぶことができ
る。相関窓CWのサイズSCWをピクセルで表したものは次の方程式(2)に従い計算され
る。
Figure 2009080113
ここで、
CWは度数で表した相関窓CWのサイズ;
SAPはピクセルで表したAFセンサ・アッセンブリ70のサイズ;
SAφはAFセンサ・アッセンブリ70の写角;
である。
例えば、写角が10度に等しい400ピクセルのAFセンサ・アッセンブリで良好な光
とコントラスタ条件を仮定した場合、相関窓CWは被写体を中心とした関心領域における
エッジの数および強度により、60ピクセルを超え約160ピクセルまでの範囲のサイズ
を有するよう選択される。
相関窓のサイズSCWが決定されると相関窓CWは被写体を中心とした倍化された左エッ
ジ画像に置かれる。同じサイズのスライド式相関窓SCWが倍化された右エッジ画像に置
かれる。スライド式相関窓SCWは相関窓CWの中心周囲の−SCW/2からSCW/2に等
しいスライド範囲を有する。これに続きスライド式相関窓SCWはその範囲の最も左の限
度に置かれ、スライド式相関窓SCW内の倍化された右エッジ画像のピクセルと倍化され
た左エッジ画像の対応するピクセルとの間の相互相関XC(Δ)が次の方程式(3)に従
い計算される。
Figure 2009080113
ここで、
cとwは相関窓CWの中心cおよび幅w;
Rは倍化された右エッジ画像;
Lは倍化された左エッジ画像;
Δは倍化された右エッジ画像および左エッジ画像間のシフト;
である。
相互相関XC(Δ)が計算されると、スライド式相関窓SCWは1ピクセル分右にシフ
トされ、相互相関XC(Δ)が再計算される。このプロセスはスライド式相関窓SCWが
範囲の最も右の限度に到達するまで、スライド式相関窓のピクセル・シフト各々について
行われる。この段階で倍化された右エッジ画像および倍化された左エッジ画像間の最良の
一致を意味する最小相互相関XC(Δ)MINを判定するために計算された相互相関XC(
Δ)が調べられる。右と左エッジ画像を相関することは、左および右の生の画像データが
決して直接には比較されないので、データの位置ずれに依存しないことから有利である。
また、相関結果は偶数のセンサ要素が奇数のセンサ要素と比較されないので、パリティ・
ノイズに影響されない。
図4は倍化された左エッジ画像上の相関窓CWならびにスライド式相関窓SCWが範囲
の最も左および最も右の限度にある例を示す。本例において、相関窓CWは40ピクセル
に等しいサイズSCWを有し、倍化された左エッジ画像の200ピクセルを中心としている
工程S114で補間の際、判定された最小相互相関XC(Δ)MINならびに隣接するス
ライド式相関窓のシフトについて計算された相互相関XC(Δ)MIN-1および相互相関X
C(Δ)MIN+1に関わる3点補間(図5参照)を用いて次の方程式(4)に従いサブピク
セルの差dを計算する。
Figure 2009080113
サブピクセルの差dの計算に続き、サブピクセルの差dは最小相互相関XC(Δ)MIN
に対応するシフトΔに加えられる。調節されたシフト(Δ+d)は次に被写体への距離を
計算するのに用いられる。工程S116において、被写体への距離Dが次の方程式(5)
に従いメートルで計算される。
Figure 2009080113
ここで、
は無限大における被写体のシフト;
BはAFセンサ・アッセンブリ70のパラメータ(レンズ・アッセンブリ52の焦点距
離、ならびに右の画像センサ10および左の画像センサ12のピッチに基づく);
である。
図2に示すように、エッジ画像は随意に倍化できる。エッジ画像を倍化することは精度
を向上させるが、処理を必要とするピクセルの数が増えるにつれ演算上の負担が増える。
エッジ画像が倍化されない場合、方程式(2)における倍化因数は取り除かれる。
特定の実施形態が説明されたが、当業者であれば添付クレームで定義されるその精神お
よび範囲から逸脱することなく変形および修正が可能であることを理解しよう。
位相検出AFシステムを用いたデジタル・カメラの簡略化された概略図。 位相検出AFシステムを用いて図1のデジタル・カメラにより実施される工程を示すフローチャート。 生の画像データおよび対応するエッジ・データを示す説明図。 左のエッジ画像を中心として相関窓およびシフト範囲の両極端にあるスライド式相関窓を示す説明図。 3点直線補間の例を示す説明図。 従来の位相検出自動焦点(AF)システムの右の画像センサおよび左の画像センサを示す説明図。 図6の右の画像センサおよび左の画像センサにより出力された画像データの位置ずれを示す説明図。 図7の画像データにおけるパリティ・ノイズを示す説明図。
符号の説明
10,12…画像センサ、14,16…レンズ、50…撮像装置としてのデジタル・カ
メラ、52…レンズ・アッセンブリ、54…CMOSセンサ・アレイ、56…プロセッサ
、58…ユーザ・インタフェース、60…ディスプレイ、62…メモリ、70…AFセン
サ・アッセンブリ、72…ミラー、74…モータ・ドライバ、76…AFシャッタ、10
0…生画像としての右センサ・データ、102…生画像としての左センサ・データ、c…
中心、CW…相関窓、d…差、D…距離、Ei…ピクセル、Ni+1,Ni-1…ピクセル対、
OA…光軸、SCW…サイズ、SCW…スライド式相関窓、w…幅、XC(Δ),XC(Δ
MIN+1,XC(Δ)MIN-1…相互相関、XC(Δ)MIN…最小相互相関、Δ,(Δ+d)
…シフト。

Claims (13)

  1. 少なくとも2つの画像センサにより生成される画像信号を用いて被写体への距離を推定
    する距離推定方法であって、
    各画像センサの画像データを処理してその中のエッジを検出し、各画像センサに対応す
    るエッジ画像を生成する工程と、
    前記エッジ画像の各々に基づいてシフト値を判定する工程と、
    前記シフト値に基づき推定距離を計算する工程とを有することを特徴とする距離推定方
    法。
  2. 前記推定距離がサブピクセルの精度で計算できるよう、推定距離を計算する工程の前に
    前記判定されたシフト値を前記エッジ画像の所定の領域における相関の程度を示す相関デ
    ータに基づき調節する工程を有することを特徴とする請求項1に記載の距離推定方法。
  3. 前記相関データに基づき調節する工程は、前記判定されたシフト値に差値を加えること
    を有する請求項2に記載の距離推定方法。
  4. 前記差値は、前記相関データの補間により計算されることを特徴とする請求項3に記載
    の距離推定方法。
  5. 前記シフト値を判定する工程は、一方のエッジ画像を他方のエッジ画像と比較して相互
    相関値を生成する工程と、
    前記一方のエッジ画像を前記他方のエッジ画像に対しシフトし、別の相互相関値を生成
    する工程と、
    前記シフトおよび相互相関値の生成を繰り返す工程と、
    最小相互相関値を判定する工程と、最小相互相関値に結び付いたシフト位置を判定され
    たシフト値として選択する工程とを有することを特徴とする請求項1乃至請求項4のいず
    れか一項に記載の距離推定方法。
  6. 前記シフトおよび相互相関値の生成は、被写体を中心とした範囲にわたり実施されるこ
    とを特徴とする請求項5に記載の距離推定方法。
  7. 前記比較の際、前記一方のエッジ画像におけるピクセルのサブセットが前記他方のエッ
    ジ画像における対応ピクセルと比較されることを特徴とする請求項6に記載の距離推定方
    法。
  8. 前記サブセットは少なくとも前記被写体の全体を包含するよう選択されるサイズを有す
    ることを特徴とする請求項7に記載の距離推定方法。
  9. 前記シフト値を判定する工程の前に前記エッジ画像のサイズを倍加する工程をさらに有
    することを特徴とする請求項1乃至請求項8のいずれか一項に記載の距離推定方法。
  10. 被写体への距離を推定する距離推定装置であって、
    少なくとも2つの画像センサと、
    前記画像センサにより生成される画像データを取得する画像取得部と、
    前記各画像データを処理してその中のエッジを検出し、各画像センサに対応するエッジ
    画像を生成し、エッジ画像の各々に基づいてシフト値を判定し、判定されたシフト値に基
    づき推定距離を計算する計算部と、
    を備えることを特徴とする距離推定装置。
  11. 請求項10に記載の前記距離推定装置を備え、計算した推定距離に基づいて撮像を行う
    ことを特徴とする撮像装置。
  12. 前記撮像装置はデジタル・カメラ、ビデオ・レコーダ、およびスキャナの内の1つであ
    ることを特徴とする請求項11に記載の撮像装置。
  13. 少なくとも2つの画像センサにより生成される画像信号を用いて被写体への距離をコン
    ピュータに推定させるコンピュータ・プログラムであって、
    各画像センサの画像データを処理してその中のエッジを検出し、各画像センサに対応す
    るエッジ画像を生成するようにコンピュータを制御するプログラム・コードと、
    前記エッジ画像の各々に基づいてシフト値を判定するようにコンピュータを制御するプ
    ログラム・コードと、
    前記シフト値に基づき推定距離を計算するようにコンピュータを制御するプログラム・
    コードとを有するコンピュータ・プログラム。
JP2008234378A 2007-09-25 2008-09-12 距離推定方法、距離推定装置、撮像装置およびコンピュータ読み取り可能な媒体 Withdrawn JP2009080113A (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
US11/861,026 US20090080876A1 (en) 2007-09-25 2007-09-25 Method For Distance Estimation Using AutoFocus Image Sensors And An Image Capture Device Employing The Same

Publications (1)

Publication Number Publication Date
JP2009080113A true JP2009080113A (ja) 2009-04-16

Family

ID=40471744

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008234378A Withdrawn JP2009080113A (ja) 2007-09-25 2008-09-12 距離推定方法、距離推定装置、撮像装置およびコンピュータ読み取り可能な媒体

Country Status (2)

Country Link
US (1) US20090080876A1 (ja)
JP (1) JP2009080113A (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015022058A (ja) * 2013-07-17 2015-02-02 キヤノン株式会社 焦点検出装置および撮像装置
JP2017022565A (ja) * 2015-07-10 2017-01-26 キヤノン株式会社 画像処理装置及びその制御方法、並びにプログラム

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110018993A1 (en) * 2009-07-24 2011-01-27 Sen Wang Ranging apparatus using split complementary color filters
US9521395B2 (en) * 2011-10-04 2016-12-13 Canon Kabushiki Kaisha Imaging apparatus and method for controlling same
US9131295B2 (en) 2012-08-07 2015-09-08 Microsoft Technology Licensing, Llc Multi-microphone audio source separation based on combined statistical angle distributions
US9269146B2 (en) * 2012-08-23 2016-02-23 Microsoft Technology Licensing, Llc Target object angle determination using multiple cameras
KR101716725B1 (ko) * 2012-10-22 2017-03-15 야마하하쓰도키 가부시키가이샤 거리 측정 장치 및 그것을 사용한 차량
JP2014106476A (ja) 2012-11-29 2014-06-09 Canon Inc 焦点検出装置、撮像装置、撮像システム、焦点検出方法、プログラム、および、記憶媒体
KR102272254B1 (ko) 2015-02-13 2021-07-06 삼성전자주식회사 위상 검출 픽셀을 이용하여 깊이 맵을 생성하기 위한 영상 생성 장치
US11721414B2 (en) * 2015-03-12 2023-08-08 Walmart Apollo, Llc Importing structured prescription records from a prescription label on a medication package
KR102316448B1 (ko) * 2015-10-15 2021-10-25 삼성전자주식회사 이미지 장치 및 그것의 뎁쓰 계산 방법
JP6446599B2 (ja) 2016-04-07 2018-12-26 富士フイルム株式会社 合焦制御装置、レンズ装置、撮像装置、合焦制御方法、合焦制御プログラム

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07167649A (ja) * 1993-12-14 1995-07-04 Mitsubishi Electric Corp 距離測定装置
JPH09145362A (ja) * 1995-11-29 1997-06-06 Ikegami Tsushinki Co Ltd ステレオ画像による物体の高さ測定方法
JP2000283753A (ja) * 1999-03-31 2000-10-13 Fuji Heavy Ind Ltd ステレオ画像による測距装置
JP2001016612A (ja) * 1999-06-29 2001-01-19 Fuji Photo Film Co Ltd 視差画像撮像装置及び視差画像撮像方法
JP2001061132A (ja) * 1999-08-24 2001-03-06 Olympus Optical Co Ltd 電子カメラ
JP2003083742A (ja) * 2001-09-13 2003-03-19 Fuji Heavy Ind Ltd 監視システムの距離補正装置および距離補正方法
JP2004117296A (ja) * 2002-09-27 2004-04-15 Fuji Photo Optical Co Ltd 測距装置及びこれを備えたカメラ

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02217812A (ja) * 1989-02-17 1990-08-30 Minolta Camera Co Ltd 焦点検出装置
US5293194A (en) * 1990-01-25 1994-03-08 Canon Kabushiki Kaisha Focus detection apparatus having an auxiliary light
US5142357A (en) * 1990-10-11 1992-08-25 Stereographics Corp. Stereoscopic video camera with image sensors having variable effective position
JPH05137047A (ja) * 1991-11-14 1993-06-01 Nikon Corp 焦点検出方法及び焦点検出装置
US6785469B1 (en) * 1999-11-16 2004-08-31 Olympus Corporation Distance measuring device installed in camera
JP2001221633A (ja) * 2000-02-09 2001-08-17 Olympus Optical Co Ltd 測距装置
US6707937B1 (en) * 2000-07-14 2004-03-16 Agilent Technologies, Inc. Interpolation of edge portions of a digital image
JP2002189164A (ja) * 2000-12-21 2002-07-05 Minolta Co Ltd 光学系制御装置、光学系制御方法および記録媒体
JP3570714B2 (ja) * 2001-05-24 2004-09-29 株式会社リコー 現像剤収納容器及び画像形成装置
US20030118245A1 (en) * 2001-12-21 2003-06-26 Leonid Yaroslavsky Automatic focusing of an imaging system
JP2003247823A (ja) * 2002-02-26 2003-09-05 Seiko Precision Inc 位相差検出方法、位相差検出装置、測距装置および撮像装置
JP4127808B2 (ja) * 2003-07-23 2008-07-30 フジノン株式会社 測距装置
EP1624672A1 (en) * 2004-08-07 2006-02-08 STMicroelectronics Limited A method of determining a measure of edge strength and focus
US7343047B2 (en) * 2004-09-22 2008-03-11 Hewlett-Packard Development Company, L.P. Systems and methods for arriving at an auto focus Figure of Merit

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07167649A (ja) * 1993-12-14 1995-07-04 Mitsubishi Electric Corp 距離測定装置
JPH09145362A (ja) * 1995-11-29 1997-06-06 Ikegami Tsushinki Co Ltd ステレオ画像による物体の高さ測定方法
JP2000283753A (ja) * 1999-03-31 2000-10-13 Fuji Heavy Ind Ltd ステレオ画像による測距装置
JP2001016612A (ja) * 1999-06-29 2001-01-19 Fuji Photo Film Co Ltd 視差画像撮像装置及び視差画像撮像方法
JP2001061132A (ja) * 1999-08-24 2001-03-06 Olympus Optical Co Ltd 電子カメラ
JP2003083742A (ja) * 2001-09-13 2003-03-19 Fuji Heavy Ind Ltd 監視システムの距離補正装置および距離補正方法
JP2004117296A (ja) * 2002-09-27 2004-04-15 Fuji Photo Optical Co Ltd 測距装置及びこれを備えたカメラ

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015022058A (ja) * 2013-07-17 2015-02-02 キヤノン株式会社 焦点検出装置および撮像装置
JP2017022565A (ja) * 2015-07-10 2017-01-26 キヤノン株式会社 画像処理装置及びその制御方法、並びにプログラム

Also Published As

Publication number Publication date
US20090080876A1 (en) 2009-03-26

Similar Documents

Publication Publication Date Title
JP2009080113A (ja) 距離推定方法、距離推定装置、撮像装置およびコンピュータ読み取り可能な媒体
US10021290B2 (en) Image processing apparatus, image processing method, image processing program, and image pickup apparatus acquiring a focusing distance from a plurality of images
JP4852591B2 (ja) 立体画像処理装置、方法及び記録媒体並びに立体撮像装置
JP6336148B2 (ja) 画像処理装置、画像処理方法、画像処理プログラム、および撮像装置
US10477100B2 (en) Distance calculation apparatus, imaging apparatus, and distance calculation method that include confidence calculation of distance information
WO2011101035A1 (en) Processing multi-aperture image data
JP2008052123A (ja) 撮像装置
US20120307009A1 (en) Method and apparatus for generating image with shallow depth of field
JP2007199633A (ja) 合焦検出装置
JP2008026802A (ja) 撮像装置
JP5963552B2 (ja) 撮像装置
US20190033555A1 (en) Phase detection autofocus with diagonal line detection
US10999491B2 (en) Control apparatus, image capturing apparatus, control method, and storage medium
US11593958B2 (en) Imaging device, distance measurement method, distance measurement program, and recording medium
JP2008176113A (ja) 焦点検出装置およびカメラ
JP2008042227A (ja) 撮像装置
JP2009260622A (ja) 撮像装置
JP6486453B2 (ja) 画像処理装置、画像処理方法、プログラム
JP6381206B2 (ja) 画像処理装置、その制御方法およびプログラム
JP5446720B2 (ja) 焦点検出装置、撮像装置
KR101599434B1 (ko) 자동 초점 조절을 이용한 영상촬상장치의 공간감지장치 및 공간감지방법
JP2009047735A (ja) 撮像装置及び画像処理プログラム
JPH07209576A (ja) 光学的検出装置およびフォーカス制御装置
US20220392155A1 (en) Image processing device, imaging apparatus, image processing method, and recording medium
JP6900228B2 (ja) 撮像装置、撮像システム、撮像装置の制御方法、および、プログラム

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110310

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110315

A761 Written withdrawal of application

Free format text: JAPANESE INTERMEDIATE CODE: A761

Effective date: 20110427