JP2014504375A5 - - Google Patents
Download PDFInfo
- Publication number
- JP2014504375A5 JP2014504375A5 JP2013542632A JP2013542632A JP2014504375A5 JP 2014504375 A5 JP2014504375 A5 JP 2014504375A5 JP 2013542632 A JP2013542632 A JP 2013542632A JP 2013542632 A JP2013542632 A JP 2013542632A JP 2014504375 A5 JP2014504375 A5 JP 2014504375A5
- Authority
- JP
- Japan
- Prior art keywords
- edge
- image
- width
- focus signal
- edges
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Ceased
Links
- 238000000034 method Methods 0.000 claims description 63
- 230000008859 change Effects 0.000 claims description 18
- 230000007423 decrease Effects 0.000 claims description 6
- 238000005286 illumination Methods 0.000 claims description 6
- 238000012937 correction Methods 0.000 description 27
- 238000004364 calculation method Methods 0.000 description 22
- 230000006870 function Effects 0.000 description 19
- 238000003708 edge detection Methods 0.000 description 16
- 238000010586 diagram Methods 0.000 description 10
- 230000005484 gravity Effects 0.000 description 8
- 238000005259 measurement Methods 0.000 description 8
- 230000003287 optical effect Effects 0.000 description 8
- 230000008569 process Effects 0.000 description 8
- 238000003491 array Methods 0.000 description 5
- 238000001514 detection method Methods 0.000 description 5
- 238000003384 imaging method Methods 0.000 description 5
- 238000012545 processing Methods 0.000 description 4
- 239000000758 substrate Substances 0.000 description 4
- 238000004422 calculation algorithm Methods 0.000 description 3
- 230000006835 compression Effects 0.000 description 3
- 238000007906 compression Methods 0.000 description 3
- 230000006837 decompression Effects 0.000 description 3
- 238000009826 distribution Methods 0.000 description 3
- 238000001914 filtration Methods 0.000 description 3
- 239000011159 matrix material Substances 0.000 description 3
- 238000010606 normalization Methods 0.000 description 3
- 230000009467 reduction Effects 0.000 description 3
- 239000004065 semiconductor Substances 0.000 description 3
- 239000003086 colorant Substances 0.000 description 2
- 239000003550 marker Substances 0.000 description 2
- 238000002310 reflectometry Methods 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 230000007704 transition Effects 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- XUIMIQQOPSSXEZ-UHFFFAOYSA-N Silicon Chemical compound [Si] XUIMIQQOPSSXEZ-UHFFFAOYSA-N 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 230000000593 degrading effect Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012797 qualification Methods 0.000 description 1
- 238000007670 refining Methods 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 229910052710 silicon Inorganic materials 0.000 description 1
- 239000010703 silicon Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000001629 suppression Effects 0.000 description 1
- 230000016776 visual perception Effects 0.000 description 1
Description
(関連出願との関係)
本出願は、2010年12月7日に出願されたPCT出願第PCT/IB2010/055649号に基づく優先権を主張する。
本出願は、2010年12月7日に出願されたPCT出願第PCT/IB2010/055649号に基づく優先権を主張する。
開示される主題は概して、電子的にオートフォーカスして取り込まれた画像に関するものである。
デジタルカメラおよびデジタルビデオカメラなどのような写真機材は、静止又はビデオ画像への処理のために光を取り込む電子画像センサーをそれぞれ備えることができる。電子画像センサーは一般的に、フォトダイオードのような光取込素子を数百万個含んでいる。
カメラなどのような多くの画像取込装置は、オートフォーカスシステムを備えている。オートフォーカスのプロセスは、画像を取り込む工程と、フォーカスされているか否かを決定するように前記画像を処理する工程と、前記画像がフォーカスされていない場合に、フォーカスレンズの位置(フォーカス位置)を変更するために用いられるフィードバック信号を発生する工程とを含む。オートフォーカス技術としては、主に、コントラスト測定に関わる技術と、対になる画像の間の位相差に着目する技術との2つがある。前記コントラスト方法においては、隣接画素間の強度差を解析し、最大コントラストが検出されるまで前記フォーカスを調節する。前記コントラスト技術は、静止ピクチャに対応することができるが、モーションビデオには適していない。
前記位相差方法は、入力画像を、別々の画像センサーにより取り込まれる2つの画像に分割することを含む。また、前記2つの画像を比較して位相差を決定する。そして、前記2つの画像がマッチするまで前記フォーカス位置を調節する。前記位相差方法は、ビームスプリッター及び付加的な画像センサーのような付加的な部品が必要である。さらに、前記位相差の方法は、相対的に小さい帯域における固定検出点を解析する。小さなグループの検出点を有すると、ノイズが1つ以上の点に重ねられる可能性があるため、エラーが発生しやすくなる。この技術は、前記検出点が画像のエッジと一致しない場合にも無効である。結果として、前記位相差方法は、前記光を分割するため、光センサーに衝突する光の量が半分又はそれ以下に低減されてしまう。これは、前記画像の光強度が低下した薄暗い設置環境において問題になり得る。
フォーカス信号発生器に結合された画素アレイを含むオートフォーカス画像システム。前記画素アレイは、複数のエッジがある画像を撮像する。前記発生器は、前記複数のエッジのそれぞれから測定された複数のエッジ鮮明さ度合いの関数であるフォーカス信号を生成する。前記発生器は、複数のサンプル対の差から測定された1対の、エッジの形状指標に基づいて、フォーカス信号に寄与する相対的な程度を低減することを決定でき、ただし、各サンプル対の差は、エッジの所定の近傍内の画像データの1対のサンプルの間の差分である。 形状指標の1つは、エッジのエッジ鮮明さ度合いとすることができる。
開示されるのは、フォーカス信号発生器に結合されている画素アレイを含むオートフォーカス画像システムである。前記画素アレイは、幅を有するエッジを少なくとも1つ備える画像を取り込む。前記フォーカス信号発生器は、エッジ幅及び/又は複数のエッジ幅の統計データの関数であるフォーカス信号を発生し得る。オートフォーカス画像システムは、フォーカス信号発生器に接続された画素アレイを有する。前記画素アレイは、幅を有する少なくともエッジを備える画像を取り込む。前記発生器は、前記エッジ幅とエッジ幅の様々な統計データとの関数であるフォーカス信号を発生する。前記発生器は、画像信号の勾配が非対称であるエッジを除去してもよい。前記発生器はまた、前記勾配において対応するピーキングのためのテンプレートを持たないエッジを除去してもよい。プロセッサーが、前記フォーカス信号及び/又は前記複数のエッジ幅の統計データを受信し、フォーカスレンズのフォーカス位置を調節する。前記エッジ幅は、勾配の利用を含む様々な技術により決定することができる。複数のエッジ幅を示すヒストグラムは、特定の画像がフォーカスされているか否かを決定するために使用することができる。多くの幅狭いエッジを有するヒストグラムが、フォーカスされている画像を示す。
構成
参照番号に基づいて図面をさらに詳しく参照すると、図1は、オートフォーカス画像取込システム102の一実施形態を示す。前記システム102は、デジタルスチルカメラの一部であってもよいが、このシステムは画像の制御されたフォーカスが必要ないずれの装置で具現化されてもよいことを理解すべきである。前記システム102は、フォーカスレンズ104と、画素アレイ及び回路108と、A/D変換器110と、プロセッサー112と、表示装置114と、メモリカード116と、ドライブモータ/回路118とを含んでもよい。シーンからの光が前記レンズ104を介して入射する。前記画素アレイ及び回路108は、前記A/D変換器110によりデジタル信号に変換されるアナログ信号を発生する。前記画素アレイ108は、例えば、ベイヤパターンのようなモザイクカラーパターンを組み入れてもよい。前記デジタル信号は、例えば色補間、フォーカス位置制御、色補正、画像圧縮/解凍、ユーザインターフェース制御及び表示装置制御のような様々な処理を実行する前記プロセッサー112に送信されてもよく、前記フォーカス信号発生器120に送信されてもよい。前記フォーカス信号発生器120及び前記プロセッサー112が異なるパッケージに備わっている場合には、前記デジタル信号130に対して色補間を行って前記フォーカス信号発生器120のためにそれぞれの画素における欠落色信号を見積もるために、色補間ユニット148を利用してもよい。または、前記フォーカス信号発生器120及び前記プロセッサー112が同一パッケージ144にある場合には、前記フォーカス信号発生器120は、図2に示すようにバス146を通して前記プロセッサー112から補間されたカラー画像又は前記A/D変換器110から発生された元の画像信号から導き出された単一画像信号(例えば、階調信号)を入力してもよい。
参照番号に基づいて図面をさらに詳しく参照すると、図1は、オートフォーカス画像取込システム102の一実施形態を示す。前記システム102は、デジタルスチルカメラの一部であってもよいが、このシステムは画像の制御されたフォーカスが必要ないずれの装置で具現化されてもよいことを理解すべきである。前記システム102は、フォーカスレンズ104と、画素アレイ及び回路108と、A/D変換器110と、プロセッサー112と、表示装置114と、メモリカード116と、ドライブモータ/回路118とを含んでもよい。シーンからの光が前記レンズ104を介して入射する。前記画素アレイ及び回路108は、前記A/D変換器110によりデジタル信号に変換されるアナログ信号を発生する。前記画素アレイ108は、例えば、ベイヤパターンのようなモザイクカラーパターンを組み入れてもよい。前記デジタル信号は、例えば色補間、フォーカス位置制御、色補正、画像圧縮/解凍、ユーザインターフェース制御及び表示装置制御のような様々な処理を実行する前記プロセッサー112に送信されてもよく、前記フォーカス信号発生器120に送信されてもよい。前記フォーカス信号発生器120及び前記プロセッサー112が異なるパッケージに備わっている場合には、前記デジタル信号130に対して色補間を行って前記フォーカス信号発生器120のためにそれぞれの画素における欠落色信号を見積もるために、色補間ユニット148を利用してもよい。または、前記フォーカス信号発生器120及び前記プロセッサー112が同一パッケージ144にある場合には、前記フォーカス信号発生器120は、図2に示すようにバス146を通して前記プロセッサー112から補間されたカラー画像又は前記A/D変換器110から発生された元の画像信号から導き出された単一画像信号(例えば、階調信号)を入力してもよい。
前記フォーカス信号発生器120は、さらにプロセッサー112からグループの制御信号132を受信し、そして、複数の信号134を前記プロセッサー112に出力してもよい。出力信号134は、フォーカス信号134と、幅狭いエッジのカウントと、前記画像におけるエッジ幅の統計データを示す1組の数字とのうちの1つ以上を含んでもよい。前記プロセッサー112は、前記ドライブモータ/回路118に送信されて前記フォーカスレンズ104を制御するフォーカス制御信号136を発生することができる。フォーカスされている画像は、最終的に前記表示装置114に供給され、及び/又は前記メモリカード116に記憶される。フォーカス位置を調節するためのアルゴリズムは、前記プロセッサー112により実行されてもよい。
前記画素アレイ及び回路108、A/D変換器110、フォーカス信号発生器120、及びプロセッサー112は、全てパッケージに備わっていてもよい。または、前記画素アレイ及び回路108、A/D変換器110、及びフォーカス信号発生器120は、前記プロセッサー112とは別に、図1に示すような画像センサー150としてのパッケージ142に備わっていてもよい。または、フォーカス信号発生器120及びプロセッサー112は、前記画素アレイ108及びA/D変換器110とは別に、図2に示すようなカメラコントローラ160としてのパッケージ144に備わっていてもよい。フォーカス信号発生器120(又は、例えば図30に示すような任意の代替の実施例)及びプロセッサ112は、共に例えばシリコン基板のような半導体基板上において常駐することができる。
フォーカス信号発生器
図3は、画像供給ユニット202から画像を受信するフォーカス信号発生器120の一実施形態を示す。前記画像供給ユニット202は、図1における色補間器148または図2におけるプロセッサー212であってもよい。前記フォーカス信号発生器120は、エッジ検出・幅測定(EDWM)ユニット206と、フォーカス信号算出器210と、長さフィルター212と、幅フィルター209とを含んでもよい。それは、「精細」222を入力することにより制御される精細スイッチ220をさらに含んでもよい。前記フォーカス信号発生器120は、幅フィルター209からの幅狭いエッジのカウント、及びフォーカス信号算出器210からのフォーカス信号を供給してもよい。前記フォーカス信号は、「精細」222の入力によって選択可能である精細なフォーカス信号と概略フォーカス信号とのいずれか一方に設定可能である。または、精細なフォーカス信号も概略フォーカス信号も、算出されて出力信号134の一部として出力されてもよい。前記エッジ検出・幅測定ユニット206は、画像供給ユニット202により供給される画像を受信する。図1及び図2においては、制御信号「精細」222のような制御信号は、プロセッサー112により信号132に提供していてもよい。そして、図1及び図2において、前記出力信号134をプロセッサー112に供給してもよい。前記プロセッサー112は、前記フォーカスレンズ104のフォーカス位置を制御するフォーカスシステムコントローラとして機能し、出力信号134を解析して前記画像における鮮明なオブジェクトを検出することによって、複数のオブジェクトの画像を前記画素アレイ108において鮮明にフォーカスする。以下、前記フォーカス信号発生器120の各種の構成要素について説明する。
図3は、画像供給ユニット202から画像を受信するフォーカス信号発生器120の一実施形態を示す。前記画像供給ユニット202は、図1における色補間器148または図2におけるプロセッサー212であってもよい。前記フォーカス信号発生器120は、エッジ検出・幅測定(EDWM)ユニット206と、フォーカス信号算出器210と、長さフィルター212と、幅フィルター209とを含んでもよい。それは、「精細」222を入力することにより制御される精細スイッチ220をさらに含んでもよい。前記フォーカス信号発生器120は、幅フィルター209からの幅狭いエッジのカウント、及びフォーカス信号算出器210からのフォーカス信号を供給してもよい。前記フォーカス信号は、「精細」222の入力によって選択可能である精細なフォーカス信号と概略フォーカス信号とのいずれか一方に設定可能である。または、精細なフォーカス信号も概略フォーカス信号も、算出されて出力信号134の一部として出力されてもよい。前記エッジ検出・幅測定ユニット206は、画像供給ユニット202により供給される画像を受信する。図1及び図2においては、制御信号「精細」222のような制御信号は、プロセッサー112により信号132に提供していてもよい。そして、図1及び図2において、前記出力信号134をプロセッサー112に供給してもよい。前記プロセッサー112は、前記フォーカスレンズ104のフォーカス位置を制御するフォーカスシステムコントローラとして機能し、出力信号134を解析して前記画像における鮮明なオブジェクトを検出することによって、複数のオブジェクトの画像を前記画素アレイ108において鮮明にフォーカスする。以下、前記フォーカス信号発生器120の各種の構成要素について説明する。
EDWMユニット206は、前記入力画像を、前記画像の3つの信号、赤(R)、緑(G)及び青(B)が単一画像信号に変換されるように変換してもよい。画像を単一画像に変換するには、幾つかの技術が利用される。複数のRGB値を用いて輝度又は色度値を算出することができ、あるいは、特定比率のRGB値を用いて前記単一画像信号を形成することができる。例えば、前記輝度値は、Y=0.2126*R+0.7152*G+0.0722*B、ただし、Y=輝度値、という式により算出されることができる。前記単一画像信号はその後、ガウスフィルター又は任意のローパスフィルターによって処理され、隣接画素の間に画素データサンプル値を円滑化してノイズを除去する。
前記フォーカス信号発生器120、120’、120’’は、階調信号に限られない。それは、前記画像信号における1つ以上のエッジを検出するために、何れか画像信号に対して操作を行ってもよい。または、それは、例えば、Y、R−G又はB−Gのような複数の画像信号の何れかの組み合せに対して操作を行ってもよい。それは、複数のエッジを検出するために、個別に前記R、G、B画像信号の一つ一つ、又はその何れか1つ以上の組合わせに対して操作を行ってもよい。それは、前記R、G、B画像信号の一つ一つ又はその何れかの組合わせに対して複数のエッジ幅の統計データを形成してもよい。それは、1つ以上の画像信号からの複数のエッジ幅の統計データによってフォーカス信号を形成してもよい。
フォーカス信号発生器は、画像信号内のエッジを識別するためのエッジ検出器を含む。エッジ検出器は、例えばソーベル(Sobel)演算子とプレウィット(Prewitt)演算子とロバーツクロスオペレータ(RobertsCross)演算子とロバーツ(Roberts)演算子とのような一次エッジ検出演算子を使用する可能性がある。エッジ検出器は、エッジを識別するために、高次のエッジ検出演算子、例えばラプラシアン(Laplacian)演算子のような二次演算子を使用してもよい。エッジ検出器は、既知のエッジ検出演算子のどれか1つまたは公知の演算子のどれかと一般のエッジ検出原理を共有している改良された演算子を使用できる。
エッジ検出器が一次エッジ検出演算子を使用する場合、画像信号の勾配(つまり、一次導関数)は計算する。勾配を計算するための利用できる様々な方法があって、それらの様々な方法は、様々な一次エッジ検出演算子、例えばソーベル(Sobel)演算子とプレウィット(Prewitt)演算子とロバーツクロス(RobertsCross)演算子とロバーツ(Roberts)演算子とのどれか一つを用いるものを含む。ロバーツ演算子は、単一のカラムまたは単一の行がある行列である2つの核、すなわち[−1 +1]及びその転置がある。ロバーツクロス演算子は、2×2行列である2つの核、すなわちMatlab形式に従って[<第一行ベクトル;第二行ベクトル;第三行ベクトル]ように表示した[+1,0;0,−1]および[0,+1;−1,0]がある。プレウィット演算子およびソーベル演算子は、基本的に同じ核の、勾配を行方向にとる[−1、0、+1]、および勾配をカラムの方向にとるその転置があり、その後、それぞれの勾配方向に垂直にローパスフィルタリングする違ったローパスフィルの核を乗じる。垂直及び水平エッジをそれぞれ検出するために、例えば、Sobel−X演算子とSobel−Y演算子をそれぞれ利用し、複数の列及び複数の行に亘った勾配を算出してもよい。画素位置[k,q]におけるSobel−X演算子(ただし、kは行数でqは列数である)は、Sx[k,q]=U[k,q+1]−U[k,q−1]という式から得られる。同一位置におけるSobel−Y演算子は、Sy[k,q]=U[k+1,q]−U[k−1,q]、ただし、U=処理された画像の画像信号、という式から得られる。
エッジ検出器が一次エッジ検出演算子を使用する場合、画像信号の勾配(つまり、一次導関数)は計算する。勾配を計算するための利用できる様々な方法があって、それらの様々な方法は、様々な一次エッジ検出演算子、例えばソーベル(Sobel)演算子とプレウィット(Prewitt)演算子とロバーツクロス(RobertsCross)演算子とロバーツ(Roberts)演算子とのどれか一つを用いるものを含む。ロバーツ演算子は、単一のカラムまたは単一の行がある行列である2つの核、すなわち[−1 +1]及びその転置がある。ロバーツクロス演算子は、2×2行列である2つの核、すなわちMatlab形式に従って[<第一行ベクトル;第二行ベクトル;第三行ベクトル]ように表示した[+1,0;0,−1]および[0,+1;−1,0]がある。プレウィット演算子およびソーベル演算子は、基本的に同じ核の、勾配を行方向にとる[−1、0、+1]、および勾配をカラムの方向にとるその転置があり、その後、それぞれの勾配方向に垂直にローパスフィルタリングする違ったローパスフィルの核を乗じる。垂直及び水平エッジをそれぞれ検出するために、例えば、Sobel−X演算子とSobel−Y演算子をそれぞれ利用し、複数の列及び複数の行に亘った勾配を算出してもよい。画素位置[k,q]におけるSobel−X演算子(ただし、kは行数でqは列数である)は、Sx[k,q]=U[k,q+1]−U[k,q−1]という式から得られる。同一位置におけるSobel−Y演算子は、Sy[k,q]=U[k+1,q]−U[k−1,q]、ただし、U=処理された画像の画像信号、という式から得られる。
エッジ検出器が二次演算子を使用する場合、画像信号の(例えばラプラシアン二次演算子)二次導関数を計算する。
配向タグ付け
それぞれの画素は、その垂直又は水平勾配の大きさが所定の下限(「消去閾値」)(例えば、8ビットの画像の場合には5)を超えている場合に、水平エッジ(「H」)又は垂直エッジ(「V」)とタグ付けられ、或いは、その垂直又は水平勾配の大きさがいずれも当該所定の下限以下の場合に、エッジ無しとタグ付けされてもよい。前記下限によって、緩やかな陰影やノイズによる偽のエッジが消去される。画素は、その水平勾配の大きさがその垂直勾配の大きさを所定のヒステリシス量以上(例えば、8ビットの画像の場合には2)超えている場合に、垂直エッジとタグ付けされ、逆の場合も同様であってもよい。これら両方の勾配が前記ヒステリシス量よりも小さい場合に、前記画素は、その最も近くに隣接した、定められた方向タグを有する画素と同じ方向タグを獲得する。例えば、前記画像を行ごとに左から右へかつ1行ずつに下へ走査すると、隣接画素の検査順番として、まずは上の画素、次は左上の画素、次は左の画素、最後は右上の画素であってもよい。このヒステリシスの適用は、隣接画素がそれぞれほぼ同じ水平及び垂直勾配の大きさを有する場合に同様のタグを得ることを確実にするのに役立つ。図4は水平及び垂直勾配を有する6×6アレイにおけるタグ付けの結果を示す。それぞれのセルにおいては、水平勾配が左上方、垂直勾配が右方にあり、また、方向タグが底部にある。このステップで、エッジ画素がボールド体で印刷されて方向タグを得る資格が与えられるものは、5を超えている水平又は垂直勾配の大きさを有する画素のみである。
配向タグ付け
それぞれの画素は、その垂直又は水平勾配の大きさが所定の下限(「消去閾値」)(例えば、8ビットの画像の場合には5)を超えている場合に、水平エッジ(「H」)又は垂直エッジ(「V」)とタグ付けられ、或いは、その垂直又は水平勾配の大きさがいずれも当該所定の下限以下の場合に、エッジ無しとタグ付けされてもよい。前記下限によって、緩やかな陰影やノイズによる偽のエッジが消去される。画素は、その水平勾配の大きさがその垂直勾配の大きさを所定のヒステリシス量以上(例えば、8ビットの画像の場合には2)超えている場合に、垂直エッジとタグ付けされ、逆の場合も同様であってもよい。これら両方の勾配が前記ヒステリシス量よりも小さい場合に、前記画素は、その最も近くに隣接した、定められた方向タグを有する画素と同じ方向タグを獲得する。例えば、前記画像を行ごとに左から右へかつ1行ずつに下へ走査すると、隣接画素の検査順番として、まずは上の画素、次は左上の画素、次は左の画素、最後は右上の画素であってもよい。このヒステリシスの適用は、隣接画素がそれぞれほぼ同じ水平及び垂直勾配の大きさを有する場合に同様のタグを得ることを確実にするのに役立つ。図4は水平及び垂直勾配を有する6×6アレイにおけるタグ付けの結果を示す。それぞれのセルにおいては、水平勾配が左上方、垂直勾配が右方にあり、また、方向タグが底部にある。このステップで、エッジ画素がボールド体で印刷されて方向タグを得る資格が与えられるものは、5を超えている水平又は垂直勾配の大きさを有する画素のみである。
前記画像、前記勾配、及び前記タグは、垂直エッジには水平に、水平エッジには垂直に走査されてもよい。同一行において同一の水平勾配極性を有し、かつ全てが垂直エッジとしてタグ付けされた隣接する複数の画素の各グループは、このグループの左側又は右側に同じようなことを満たす隣接画素がない場合に、垂直エッジとして示されてもよい。同様に、同一列において同一の垂直勾配極性を有しかつ全てが水平エッジに対してタグ付けした各グループの連続画素は、このグループの上側又は下側に同じようなことを満たす隣接画素がない場合に、水平エッジとして示されてもよい。これによって、水平及び垂直エッジを識別することができる。
エッジ幅
それぞれのエッジは、勾配の大きさが前記エッジにおけるピーク勾配の大きさの所定の割合よりも小さい画素を除去することによって精細化されてもよい。図5は、エッジのピーク勾配の大きさの3分の1に等しい精細化閾値を利用し、前記エッジ幅を元の9から減らした3に精細化する前記ステップを示す。このエッジの精細化は、勾配が多くの画素において緩やかな減衰を起こし得る多数の重なった陰影が画像にあっても、エッジの鮮明さの視覚認知を支配する見掛けのエッジ幅を設定する主な勾配成分を識別することができるものである。
それぞれのエッジは、勾配の大きさが前記エッジにおけるピーク勾配の大きさの所定の割合よりも小さい画素を除去することによって精細化されてもよい。図5は、エッジのピーク勾配の大きさの3分の1に等しい精細化閾値を利用し、前記エッジ幅を元の9から減らした3に精細化する前記ステップを示す。このエッジの精細化は、勾配が多くの画素において緩やかな減衰を起こし得る多数の重なった陰影が画像にあっても、エッジの鮮明さの視覚認知を支配する見掛けのエッジ幅を設定する主な勾配成分を識別することができるものである。
エッジ幅は、既知方法の何れか1つにより算出されてもよい。エッジ幅の算出方法の1つは、ただ、エッジにおける画素数を数えることである。図5にはエッジ幅を算出する代替方法を示す。図5において、前記精細化閾値304からの補間により、精細化されたエッジの第1の外部画素(画素3)とその隣接した外部画素(画素2)との間に第1の小数画素位置(2.4)が求められる。同様に、第2の外部画素(画素5)とその隣接した外部画素(画素6)との間に第2小数画素位置(5.5)が求められる。前記エッジ幅は、この2つの小数画素位置間の差、5.5−2.4=3.1として求められる。
エッジ幅を算出する方法の別の代替は、(エッジリファインメントの有無にかかわらず)画像信号について、エッジをまたがる差を計算しその差をエッジのピーク勾配で割ることである。
或いは、エッジ幅は、エッジをまたがった画像信号の複数の二次導関数の一対の正及び負のピーク(又は補間されたピーク)の間の距離であってもよい。他の代案が可能であることは、以下この明細書において表題「エッジ鮮明さ度合い」の下で説明される。
シーンの照度と本質的に関係しないエッジ鮮明さ度合いとしては、幅が単に一例である。幅以外の他の代案があることは、この明細書において表題「エッジ鮮明さ度合い」下で見られる。
斜め補正
各エッジは、所定の方向(例えば、垂直方向又は水平方向)又は他の垂直な所定の方向(例えば、水平方向又は垂直方向)に指定されていてもよく、この指定されたエッジ方向に対して垂直な方向に測定したエッジ幅を有していてもよいが、それらのエッジが現れる画像において異なる画像信号値の複数の領域間の境界は、前記所定方向のいずれかに正確にアライメントされていなくてもよく、また一般にされていない。図6Aにおいて、境界(陰影付きの帯)は、垂直鎖線に対して斜め角φ傾斜しており、幅aは、垂直方向(例えば、水平方向)で測定していることを示している。しかしながら、幅b(図に示す)は、境界方向(これもまた境界の一部をなすエッジの方向)に垂直な方向において測定しており、幅aよりも境界の幅(また、エッジの幅)として、より適切である。それぞれのエッジ方向から垂直には測定していないこのような幅aは、長くなりすぎる傾向にあり、それぞれの境界の実際の厚さを表していない。
各エッジは、所定の方向(例えば、垂直方向又は水平方向)又は他の垂直な所定の方向(例えば、水平方向又は垂直方向)に指定されていてもよく、この指定されたエッジ方向に対して垂直な方向に測定したエッジ幅を有していてもよいが、それらのエッジが現れる画像において異なる画像信号値の複数の領域間の境界は、前記所定方向のいずれかに正確にアライメントされていなくてもよく、また一般にされていない。図6Aにおいて、境界(陰影付きの帯)は、垂直鎖線に対して斜め角φ傾斜しており、幅aは、垂直方向(例えば、水平方向)で測定していることを示している。しかしながら、幅b(図に示す)は、境界方向(これもまた境界の一部をなすエッジの方向)に垂直な方向において測定しており、幅aよりも境界の幅(また、エッジの幅)として、より適切である。それぞれのエッジ方向から垂直には測定していないこのような幅aは、長くなりすぎる傾向にあり、それぞれの境界の実際の厚さを表していない。
複数のエッジ幅からフォーカス信号を算出するために、これらの所定方向のうちの一方又は他方において測定された前記複数のエッジ幅が、それらをそれぞれのエッジの方向に垂直する方向での幅に低減させることにより補正される。前記エッジ検出・幅測定ユニット206は複数のエッジ幅に対してこのような補正を行う。図6Aに示すように、前記測定された幅aは、直角三角形の斜辺の長さである。前記直角三角形は、その底辺(幅bでマークする)が陰影付きの境界を垂直(これによって前記エッジ方向に垂直)に越えており、角度φを有している。そして、前記補正された幅bは、前記エッジ方向に垂直な方向への前記測定された幅aの投影から得られ得る。基本三角法から、この投影は、b = a cos(φ)から求められるが、20%以下の正確性が得られば、近似値を使ってもよい。前記角度φ又はcos(φ)そのものは、この技術において知られている、画像におけるエッジの方向を求めるための何れかの既知方法、又は図7に示すフローチャートに記載されるより正確な方法によって、求められ得る。
それぞれの水平又は垂直エッジのエッジ幅は、前記水平又は垂直配向(所定の方向)からの斜めに対して補正されてもよい。図6A、6Bは、垂直線から傾斜した境界(及びこれによって前記境界を形成する複数のエッジ)について水平方向に測定されたエッジ幅に対する補正計算を示す。図6C、6Dは、水平線から傾斜した境界(及びこれによって前記境界を形成する複数のエッジ)について垂直方向に測定されたエッジ幅に対する補正計算を示す。前記補正は、所定の方向(例えば垂直方向又は水平方向)に測定された前記エッジ幅に因子cosφ(ただし、φは前記所定の方向からの斜め角)を乗じることにより行われてもよい。
例えば、図7は、垂直線から傾斜した複数のエッジについてのエッジ幅を斜め補正するためのプロセスのフローチャートを示す。(水平エッジについては、フローチャートにおいて「行」を「列」に置換し、「水平」で「垂直」を置き換える。)
ステップ502からステップ506において、斜め角φが求められる。それぞれの垂直エッジに対して、ステップ502において、水平勾配の大きさがピークに達する列の位置を位置づけ、水平勾配xを求める。ステップ504において、前記列の位置に沿って、2つの画素以内で垂直勾配の大きさがピークに達する位置を求め、そしてこの垂直勾配yを求める。
ステップ502からステップ506において、斜め角φが求められる。それぞれの垂直エッジに対して、ステップ502において、水平勾配の大きさがピークに達する列の位置を位置づけ、水平勾配xを求める。ステップ504において、前記列の位置に沿って、2つの画素以内で垂直勾配の大きさがピークに達する位置を求め、そしてこの垂直勾配yを求める。
ステップ506において、斜め角φ = tan−1(y/x)を求める。ステップ506において、斜め角がルックアップ表を調べることによって求められ得る。ステップ502〜506は、斜め角を求める特定手順及び方法を示しているが、その代わりに当該分野に公知の他の手順及び方法を使用してもよい。
最後に、ステップ508において、当業者が実際によく行うように、cos(φ)で又はその近似値で乗算することにより前記エッジ幅を縮小する。
図7に示すプロセスの第1の変形としては、入力値x及びyの種々の組み合わせに対するエントリーを有するルックアップ表を提供することに、ステップ506及び一部のステップ508を置き換える。入力値x及びyの組合わせのそれぞれに対して、前記ルックアップ表はエッジ幅補正因子を返す。前記ルックアップ表により出力されるエッジ幅補正因子は、cos(tan−1(y/x))の20%以下(好ましくは5%以下)の近似値であってもよい。そして、前記エッジ幅は、この補正因子で乗算されて斜め補正されたエッジ幅を形成する。
第2の変形としては、垂直勾配yと水平勾配xとの商y/xを算出して商qを発生し、そしてqを使用してqの各種の値のエントリーを有するルックアップ表に入力する。qのそれぞれの値に対して、前記ルックアップ表はエッジ幅補正因子を返す。前記エッジ幅補正因子は、cos(tan−1(q))の20%以下(好ましくは5%以下)の近似値であってもよい。
斜め角φ(又はその近似値。それによって、前記補正因子の正確性が20%以下になる。)を求めてから、それによって補正因子cos(φ)(又はその近似値)を求め、又は(第1及び第2の変形に記載したように)前記斜め角φを求めずに補正因子を直接に求めるためには、ステップ502〜506でx及びyの値を得てもよいが、その代わりに他の方法によってこの2つの値を求めてもよい。
第3の変形としては、前記エッジにおける複数の画素のそれぞれに対して次のことを実行する。(a)画素について水平勾配x及び垂直勾配yの両方を求める。(b)前記画素についてq = y/xを求める。そして、(c)qに対応する補正因子(例えば、cos(tan−1(q))又はその20%以内の近似値)を求める。最後に、前記複数の画素のそれぞれからの補正因子において平均化することによって前記エッジ幅の補正因子を求める。前記平均値は、重み付け平均値、例えば、比較的大きい水平勾配を有する画素に比較的小さい水平勾配を有する別の画素より大きい重みを与えるものであってもよい。
これらの方向や他の方向に沿って別の変形が可能である。
選別閾値
それらのピーク勾配の大きさが隣接する比較的広いエッジのピーク勾配の大きさの所定の割合未満であれば、隣接した複数のエッジがフォーカス信号に寄与することをすっかり排除する又は衰減させることができる。図9A、9B及び9Cは検討されている問題を示す。
それらのピーク勾配の大きさが隣接する比較的広いエッジのピーク勾配の大きさの所定の割合未満であれば、隣接した複数のエッジがフォーカス信号に寄与することをすっかり排除する又は衰減させることができる。図9A、9B及び9Cは検討されている問題を示す。
図9Aは、それぞれが2画素分の幅の2つの狭い黒色空間によって隔てられた3つの垂直白色バーを示す。前記真ん中の白色バーは2画素分の幅の狭いバーである。図9Bは、鮮明な画像及びぼやけた画像のそれぞれについて図9A中の画像において水平に描いた画像信号を示す。図9Cは、前記鮮明な画像及びぼやけた画像について図9BのSobelx勾配を描いている。図9Cにおいて、前記ぼやけた画像の第1のエッジ(画素2〜5)は前記鮮明な画像の第1のエッジより広く、そして、予想されるように、最後のエッジ(画素13〜15)も同じである。しかし、2つの最も幅狭いエッジ(画素9と10、及び画素11と12)は両方の画像において2という幅がある。図9Bにおいて、画素9と10及び画素11と12における対応する傾斜は、それぞれ2つの画素で遷移を完成する。しかし、前記ぼやけた画像は、比較的広いエッジから比較的幅狭いエッジへのピーク勾配の大きさが50%も著しく減少されている。一方、前記鮮明な画像は、比較的広いと比較的幅狭いエッジとの間で変化が10%未満である。
反対符号の勾配を有する比較的広いエッジに隣接する比較的幅狭いエッジのピーク勾配の大きさの(例えば20%以上の)著しい減少は、前記ぼやけた画像がよくフォーカスされていないことを示唆する。従って、前記比較的幅狭いエッジは、前記ぼやけた画像が鮮明であることを示唆するものであるとして、信頼すべきではない。
同様に、互いに緊密に近接していれば、例えば、1画素(「最小エッジ隙間」)しか離れていなければ、それらのエッジの幅が小さくても、交互勾配極性を有する互いに隣接する複数のエッジは、前記ぼやけた画像が鮮明であることを示唆するものであるとして、信用すべきではない。前記最小エッジ隙間は、(例えば1又は2又はその間)画素数で表す。
さらに、消去閾値よりも小さいピーク勾配を有するのでエッジが消去され得ると仮定すると、2つの互いに隣接するエッジの一方又は両方からの寄与を消去又は降格させる条件として、次の条件を用いてもよい。すなわち、2つの連続エッジは、同じ勾配極性を有し、かつ、最小エッジ隙間の2倍に鮮明エッジ幅(鮮明エッジ幅とは、鮮明なエッジのエッジ幅を示すように割り当てられる数である。)を足した距離以下離れるという条件である。
前記エッジ検出・幅測定ユニット206は、比較的広いエッジによって設定された選別閾値、及びオン/オフできる変調選別フラグに基づき、ぎっしり詰まっている比較的幅狭いエッジを消去するための下記のアルゴリズムを実行することができる。
それぞれのエッジに対して、反対極性の直後のエッジに用いられる選別閾値及び選別フラグは、図10に示すフローチャートのプロセスによって決定される。
前記選別閾値及び選別フラグが与えられると、下記条件の1つが成立しなければ、エッジが消去される。(a)このエッジに対して選別フラグがオフになる。(b)前記エッジのピーク勾配の大きさがこのエッジに対する選別閾値以上である。条件(a)及び(b)には、条件(c)エッジ幅が鮮明エッジ幅+1以上であることが加えられてもよい。ここで、数が、鮮明なエッジのエッジ幅を指定するように鮮明エッジ幅に割り当てられるが、前記「+1」は、エッジが(a)及び(b)を満たさないと当該エッジが消去される鮮明エッジ幅を超えたエッジ幅の範囲を設定するように変更されてもよい。図9A〜9Cに示す実例には、鮮明エッジ幅が2であってもよい。図10はそれぞれのエッジについて選別閾値及び選別フラグを決定するフローチャートである。垂直エッジに対しては、行に沿って左から右へ走査すると仮定しているが、これに限定されない。(水平エッジに対しては、列に沿って上部から底部へ走査すると仮定しているが、これは必須ではない。)鮮明エッジ幅に数が割り当てられ、図9A〜9Cに示す実例では2であってもよい。ステップ702において第1のエッジで開始し、ステップ720において、それぞれのエッジに対して、そのエッジ幅が1に鮮明エッジ幅を加えたもの以上になるか否かのクエリーを行い、前記値1はここで説明に用いられる最小エッジ隙間値であるが、異なる値(例えば0.5〜2.0の値)を使用してもよい。「はい」の場合、前記エッジが比較的広いエッジであり、ステップ706でその後、反対極性を有する直後のエッジに対する選別閾値を前記エッジのピーク勾配の大きさのβ倍に設定し、βが0.3〜0.7で、好ましくは0.55であり、そしてステップ708でその後、次のエッジに対して選別フラグをオンにし、引き続き次のエッジを処理する。「いいえ」の場合、前記エッジが比較的広いエッジではなく、ステップ730でその後、このエッジと同じ勾配極性を有する前のエッジとのある間隔が前記最小エッジ隙間の2倍(又は、他の異なる所定の数)に鮮明エッジ幅を加えたものより大きいか、かつ、反対極性を有する直前のエッジ(もし存在する場合)との間隔が前記最小エッジ隙間より大きいかを調べる。「はい」とすると、ステップ710でその後、次のエッジに対して前記選別フラグをオフにする。「いいえ」とすると、次のエッジに対して前記選別フラグ及び前記選別閾値を維持し、次のエッジへ進む。βは所定の小数であってもよく、又は所定の式によって算出される小数、例えばエッジ幅の関数であってもよい。後者の場合には、βは前記画像の部分によって異なってもよい。
代替の実施例
ピクセルグリッドの方向性:
フォーカス信号発生器120によって入力された画像の画素は、画像の長方形のグリッドに対して45°回転させた矩形の格子(”ピクセルグリッド”)において配置されることができる。この場合、エッジを検出する操作と幅を測定する操作とのX方向及びY方向は、同様に回転させることができる。
エッジ鮮明さ度合い:
以上の説明で、エッジの画像鮮明さは、そのエッジをまたがった一連の勾配から測定されたエッジ幅で表され、その勾配はエッジを亘って指向する。同様の原理に従って動作する代案がある。本質的に、このようにして生成したフォーカス信号が可能にならせるものは、個々のエッジが、画像データの(例えば20%)拡大縮小と無関係または(例えば画像データの20%縮小に対して5%より多く変化しないように)本質的に無関係である量(以下”エッジ鮮明さ度合い”)を貢献することであり。その結果、フォーカス信号は、従来の対比検出方法と比較されると、画像のシーンの照度またはシーン内の物体の反射率から無関係であるまたはそれにの依存がはるかに少ないことがである。
ピクセルグリッドの方向性:
フォーカス信号発生器120によって入力された画像の画素は、画像の長方形のグリッドに対して45°回転させた矩形の格子(”ピクセルグリッド”)において配置されることができる。この場合、エッジを検出する操作と幅を測定する操作とのX方向及びY方向は、同様に回転させることができる。
エッジ鮮明さ度合い:
以上の説明で、エッジの画像鮮明さは、そのエッジをまたがった一連の勾配から測定されたエッジ幅で表され、その勾配はエッジを亘って指向する。同様の原理に従って動作する代案がある。本質的に、このようにして生成したフォーカス信号が可能にならせるものは、個々のエッジが、画像データの(例えば20%)拡大縮小と無関係または(例えば画像データの20%縮小に対して5%より多く変化しないように)本質的に無関係である量(以下”エッジ鮮明さ度合い”)を貢献することであり。その結果、フォーカス信号は、従来の対比検出方法と比較されると、画像のシーンの照度またはシーン内の物体の反射率から無関係であるまたはそれにの依存がはるかに少ないことがである。
さらに、本フォーカス信号発生器120において、画像データを20%縮小することと無関係又は本質的に無関係であるという上記特性を有する任意のエッジ鮮明さ度合いは、ある勾配または補間された勾配から同じ勾配値がある別の勾配または補間された勾配まで測定された幅の良い代替である。
代替のエッジ鮮明さ度合いの単位は、好ましくはエネルギーの単位を含まない。エッジ鮮明さ度合いの単位は、次の二点に基づいて決定されている。(a)一次エッジ検出演算子が動作する画像データの各サンプルは、エネルギーの単位があり、(b)サンプル間の距離は長さの単位がある。点(a)および(b)に基づいて、勾配値の単位は、エネルギーの単位割る長さの単位である。同様に、エッジまたはエッジのどれかの未分割部分を亘る対比は、エネルギーの単位がある。したがって、対比は、その単位が、対比がシーンの照度および物体の反射率によって影響されることを明らかにならせるので、良好なエッジ鮮明さ度合いではない。エッジのピーク勾配の単位は、エネルギーの単位を含んでピーク勾配がシーンの照度の変化に対して敏感であることを示すので、良好なエッジ鮮明さ度合いでもない。一方、エッジのピーク勾配割るエッジの対比は、その単位が長さの単位の逆数であるので、良好なエッジ鮮明さ度合いである。別の例として、勾配値がピーク勾配の所定の割合を超える勾配のカウントは、単に、隣接する勾配間の間隔の大きさで量子化された距離の指標であって長さの単位があるので、良好なエッジ鮮明さ度合いである。
ここで、エッジの鮮明さ度合いを生成することにおいては、ある勾配が、前記エッジを検出するために使用された一次エッジ検出演算子または別の一次微分演算子(すなわち勾配演算子)から生成されてもよいことを留意する。例えば、ソーベル演算子(または、例えばラプラス演算子のような二次エッジ検出演算子)が使用されてエッジを検出できるが、ロバーツ演算子は、その核は単に[−1、+1]及びその転置であって画像データのサンプルを単に勾配演算子の向き内の次のサンプルから減算し、そのように結果された勾配は、その2つのサンプル間の中間に位置される。エッジは、エッジ鮮明さ度合い、または次のセクションにおいて説明する形状指標のどれかを生成する際に使用される1つ以上の微分演算子と独立して、一次より高い次エッジ検出演算子を検出できる。
代替のエッジ鮮明さ度合いの単位は、好ましくはエネルギーの単位を含まない。エッジ鮮明さ度合いの単位は、次の二点に基づいて決定されている。(a)一次エッジ検出演算子が動作する画像データの各サンプルは、エネルギーの単位があり、(b)サンプル間の距離は長さの単位がある。点(a)および(b)に基づいて、勾配値の単位は、エネルギーの単位割る長さの単位である。同様に、エッジまたはエッジのどれかの未分割部分を亘る対比は、エネルギーの単位がある。したがって、対比は、その単位が、対比がシーンの照度および物体の反射率によって影響されることを明らかにならせるので、良好なエッジ鮮明さ度合いではない。エッジのピーク勾配の単位は、エネルギーの単位を含んでピーク勾配がシーンの照度の変化に対して敏感であることを示すので、良好なエッジ鮮明さ度合いでもない。一方、エッジのピーク勾配割るエッジの対比は、その単位が長さの単位の逆数であるので、良好なエッジ鮮明さ度合いである。別の例として、勾配値がピーク勾配の所定の割合を超える勾配のカウントは、単に、隣接する勾配間の間隔の大きさで量子化された距離の指標であって長さの単位があるので、良好なエッジ鮮明さ度合いである。
ここで、エッジの鮮明さ度合いを生成することにおいては、ある勾配が、前記エッジを検出するために使用された一次エッジ検出演算子または別の一次微分演算子(すなわち勾配演算子)から生成されてもよいことを留意する。例えば、ソーベル演算子(または、例えばラプラス演算子のような二次エッジ検出演算子)が使用されてエッジを検出できるが、ロバーツ演算子は、その核は単に[−1、+1]及びその転置であって画像データのサンプルを単に勾配演算子の向き内の次のサンプルから減算し、そのように結果された勾配は、その2つのサンプル間の中間に位置される。エッジは、エッジ鮮明さ度合い、または次のセクションにおいて説明する形状指標のどれかを生成する際に使用される1つ以上の微分演算子と独立して、一次より高い次エッジ検出演算子を検出できる。
それを違うように考えると、エッジ鮮明さ度合いの単位は、長さの単位の一冪、例えば、長さの単位の二乗、長さの単位の逆数、長さの単位の自体、又は長さの単位の平方根であるべきである。
そのような代替の鮮明さ度合いのどれでも、フォーカス信号発生器120においてエッジ幅を置き換えることができる。
そのような代替の鮮明さ度合いのどれでも、フォーカス信号発生器120においてエッジ幅を置き換えることができる。
エッジの傾きに対して補正するために、図6A−6D及び図7を参照して説明したような前記補正係数(以下、「幅補正係数」)は、同じ冪を採用さして変換するべきである。例えば、エッジ鮮明さ度合いがピーク勾配割る対比であって長さの単位の逆数を得る場合、エッジ鮮明さ度合いのための補正係数は、図6A〜6Dおよび図7を参照して上文に説明した補正係数の逆数である。別の例として、その単位が長さの単位の二乗である場合、エッジ鮮明さ度合いは、そのための傾き補正係数が幅補正係数の二乗であるべきである。代替のエッジ鮮明さ度合いのいくつかの例は、図24Bと図24Dと図25と図26とにおいて図面を参照して下文に説明される。
図24Bは、連続した勾配間の間隔の倍数である距離に対してプロットされた、エッジをまたがる一連の勾配、及びプロットされた一連の勾配の下ある網掛け領域の面積A3を示す。この例では、その領域が2つの勾配レベルL1とL2との間で形成され、これらは、一連の勾配の補間されたピーク勾配値(あるいは、ピーク勾配値)に関して、例えば補間されたピーク勾配値の所定の一部分として、定義できる。その網掛け領域は、その四隅で補間された勾配がある。面積割る補間されたピーク勾配値(あるいは、ピーク勾配値)は、長さの単位があるので、良好なエッジ鮮明さ度合いである。その領域の代替的な定義が可能であることを留意する。例えば、その領域が勾配レベルL1によって上方から有界しなく、一連の勾配によって上方から有界できる。
図24Dは、連続した勾配間の間隔の倍数である距離に対してプロットされた、あるエッジをまたがった画像データのサンプルの一連の勾配と、重心3401(すなわち、モーメントの中心)と、その重心から(勾配値g2とg3とg4とg5とg6とがある)それらの勾配までの距離u2とu3とu4とu5とu6と、を示す。その重心についてそれらの勾配のk次中心積率(kは偶数)、すなわちその重心からそれらの勾配までの距離の、それぞれの重みがそれぞれの勾配の大きさである加重平均は、良い鮮明さ度合いである。例えば、kは、2であることができ、それは、一連の勾配が確率分布であるかのように、エッジ鮮明さ度合いをある分散にならせる。この例では、エッジ鮮明さ度合いの単位は、長さの単位の二乗である。より一般的には、エッジ鮮明さ度合いは、前記複数の勾配の、一連の勾配の複数の勾配に対して相対に事前定義された位置からの距離の関数であってもよい。重心のほかに、その所定の位置は、一連の勾配の補間ちれたピーク位置であてもよい。エッジの勾配の真部分集合は、この計算に参加するためにあらかじめ定義された基準に従って選択されることができる。例えば、勾配は、それらの勾配値がピーク勾配と一連の勾配の補間されたピークの勾配値とのどれかの所定の部分以上であることが要求されてもよい。
図25は、連続した二次導関数間の間隔の倍数である距離に対してプロットされた、あるエッジをまたがった画像データの一連のサンプルの一連の二次導関数を示し、(a)一対の正及び負のピークの間の幅WSと、(b)所定の大きさh1がある一対の最も外側の補間された二次導関数の間の幅W1と、(c)前記所定の大きさh1がある一対の内側の補間された二次導関数の間の幅W2と、(d)(一対の正及び負のピーク間の)ゼロ交差から前記所定の大きさh1がある最も外側補間された二次導関数までの距離D1と、を示す。前記3つの幅WSと W1とW2とのどれかも、エッジ鮮明さ度合いとして用いることができる。
また、図25の例において、エッジ鮮明さ度合いは、(一対の正及び負のピークの間にあり、また補間されていてもよい)ゼロ交差から複数の二次導関数までの距離の加重和であってもよく、それらの重みは、前記複数の二次導関数のそれぞれの大きさである。より一般的には、エッジ鮮明さ度合いは、エッジをまたがった複数の二次導関数に対する所定の位置からそれらの二次導関数までの複数の距離の関数であってもよい。そのゼロ交差位置のほかに、重心は、その複数の重みがそれらの二次導関数の大きさであると、前記所定の位置の良い候補である。前記所定の位置の別の良い候補は、その一対の正及び負の勾配間の中間点がであってもよい。
図26は、連続したピクセルの間の間隔の倍数である距離に対してプロットされた、エッジの複数のピクセルからの一連の画像データのサンプルを示す。それは、(a)そのエッジの両端の2つのサンプルの間の幅Wedgeおよび対比Cedgeと、(b)サンプル値の最も急な変化がある一対のサンプルの間の(ロバーツ演算子によって生成された)ピーク勾配値gpeakと、(c)そのエッジに属し対比C1と幅Wpart1とがある最も狭い未分割部分と、(d)そのエッジに属し対比C2と幅Wpart2とがある最も狭い未分割部分と、を示す。前に述べたように、ピーク勾配値gpeak割る対比Cedgeは良いエッジ鮮明さ度合いである。幅Wedgeは別の良いエッジ鮮明さ度合いである。幅Wpart1及び幅Wpart2はまた良い代替手段である。対比C1および/または対比C2は、エッジ対比Cedgeの所定部分として定義できる。あるいは、それらのどれかは、例えばピーク勾配gpeakのようなエッジのピーク勾配の所定の倍数として定義できる。また、「最も狭い未分割部分」は、例えば図26において示された四角のような画像データの補間されたサンプル、又は最寄りの画素カウントになさせる切り捨てまたは切り上げによって、区切つてもよいことを留意する。
図24Bは、連続した勾配間の間隔の倍数である距離に対してプロットされた、エッジをまたがる一連の勾配、及びプロットされた一連の勾配の下ある網掛け領域の面積A3を示す。この例では、その領域が2つの勾配レベルL1とL2との間で形成され、これらは、一連の勾配の補間されたピーク勾配値(あるいは、ピーク勾配値)に関して、例えば補間されたピーク勾配値の所定の一部分として、定義できる。その網掛け領域は、その四隅で補間された勾配がある。面積割る補間されたピーク勾配値(あるいは、ピーク勾配値)は、長さの単位があるので、良好なエッジ鮮明さ度合いである。その領域の代替的な定義が可能であることを留意する。例えば、その領域が勾配レベルL1によって上方から有界しなく、一連の勾配によって上方から有界できる。
図24Dは、連続した勾配間の間隔の倍数である距離に対してプロットされた、あるエッジをまたがった画像データのサンプルの一連の勾配と、重心3401(すなわち、モーメントの中心)と、その重心から(勾配値g2とg3とg4とg5とg6とがある)それらの勾配までの距離u2とu3とu4とu5とu6と、を示す。その重心についてそれらの勾配のk次中心積率(kは偶数)、すなわちその重心からそれらの勾配までの距離の、それぞれの重みがそれぞれの勾配の大きさである加重平均は、良い鮮明さ度合いである。例えば、kは、2であることができ、それは、一連の勾配が確率分布であるかのように、エッジ鮮明さ度合いをある分散にならせる。この例では、エッジ鮮明さ度合いの単位は、長さの単位の二乗である。より一般的には、エッジ鮮明さ度合いは、前記複数の勾配の、一連の勾配の複数の勾配に対して相対に事前定義された位置からの距離の関数であってもよい。重心のほかに、その所定の位置は、一連の勾配の補間ちれたピーク位置であてもよい。エッジの勾配の真部分集合は、この計算に参加するためにあらかじめ定義された基準に従って選択されることができる。例えば、勾配は、それらの勾配値がピーク勾配と一連の勾配の補間されたピークの勾配値とのどれかの所定の部分以上であることが要求されてもよい。
図25は、連続した二次導関数間の間隔の倍数である距離に対してプロットされた、あるエッジをまたがった画像データの一連のサンプルの一連の二次導関数を示し、(a)一対の正及び負のピークの間の幅WSと、(b)所定の大きさh1がある一対の最も外側の補間された二次導関数の間の幅W1と、(c)前記所定の大きさh1がある一対の内側の補間された二次導関数の間の幅W2と、(d)(一対の正及び負のピーク間の)ゼロ交差から前記所定の大きさh1がある最も外側補間された二次導関数までの距離D1と、を示す。前記3つの幅WSと W1とW2とのどれかも、エッジ鮮明さ度合いとして用いることができる。
また、図25の例において、エッジ鮮明さ度合いは、(一対の正及び負のピークの間にあり、また補間されていてもよい)ゼロ交差から複数の二次導関数までの距離の加重和であってもよく、それらの重みは、前記複数の二次導関数のそれぞれの大きさである。より一般的には、エッジ鮮明さ度合いは、エッジをまたがった複数の二次導関数に対する所定の位置からそれらの二次導関数までの複数の距離の関数であってもよい。そのゼロ交差位置のほかに、重心は、その複数の重みがそれらの二次導関数の大きさであると、前記所定の位置の良い候補である。前記所定の位置の別の良い候補は、その一対の正及び負の勾配間の中間点がであってもよい。
図26は、連続したピクセルの間の間隔の倍数である距離に対してプロットされた、エッジの複数のピクセルからの一連の画像データのサンプルを示す。それは、(a)そのエッジの両端の2つのサンプルの間の幅Wedgeおよび対比Cedgeと、(b)サンプル値の最も急な変化がある一対のサンプルの間の(ロバーツ演算子によって生成された)ピーク勾配値gpeakと、(c)そのエッジに属し対比C1と幅Wpart1とがある最も狭い未分割部分と、(d)そのエッジに属し対比C2と幅Wpart2とがある最も狭い未分割部分と、を示す。前に述べたように、ピーク勾配値gpeak割る対比Cedgeは良いエッジ鮮明さ度合いである。幅Wedgeは別の良いエッジ鮮明さ度合いである。幅Wpart1及び幅Wpart2はまた良い代替手段である。対比C1および/または対比C2は、エッジ対比Cedgeの所定部分として定義できる。あるいは、それらのどれかは、例えばピーク勾配gpeakのようなエッジのピーク勾配の所定の倍数として定義できる。また、「最も狭い未分割部分」は、例えば図26において示された四角のような画像データの補間されたサンプル、又は最寄りの画素カウントになさせる切り捨てまたは切り上げによって、区切つてもよいことを留意する。
エッジの資格を審査
図23A及び23Bは、連続的な勾配の間の間隔の倍数である距離に対してプロットされた画像信号の勾配の、2つの異なるエッジをまたがる1対の対称なシーケンスを示す。各図において、2つの幅(すなわち、上部幅と下部幅)は、2対の補間された勾配に対して測定されている、各マ対は、異なる勾配レベルである。
図23A及び23Bは、連続的な勾配の間の間隔の倍数である距離に対してプロットされた画像信号の勾配の、2つの異なるエッジをまたがる1対の対称なシーケンスを示す。各図において、2つの幅(すなわち、上部幅と下部幅)は、2対の補間された勾配に対して測定されている、各マ対は、異なる勾配レベルである。
なお、図23Bの勾配の2つのシーケンスの下部幅が10%だけ異なるが、その上部幅は、ほぼ図23Aの上部幅の2倍である。それらの両方を、確かなフォーカス信号を導出するために有効なエッジとして受け入ることができない。
偽の形状は、エッジの自体に亘る複数の勾配における完全な線対称を有することができるが、エッジおよびその付近における画像データのサンプルから作られた単一の測定だけは、偽のエッジを区別するために十分ではないことが本発明者に認識される。本発明者は、あるエッジをフォーカス信号への寄与に対しては抑えるまたは完全に省略するべきであると判断するために、エッジの所定の近傍内の画像データサンプルから作られた少なくとも2つの量が必要であることを認識する。
EDWMユニットは、フォーカス信号を生成に参加するためにエッジを審査するような方法を実装する。この方法は、エッジの所定の近傍内の画像データサンプルから作られた少なくとも2つの量(以下”形状指標”)を計算することに基づいている。前記所定の近傍は、エッジを検出するための全てのエッジ内の勾配および/または二次導関数を計算するための全ての画像データサンプルであってもよい。あるいは、所定の近傍は、エッジの所定距離、例えば8画素、内の全ての画素、又はエッジの検出及び/又はエッジ鮮明さ度合いの計算をするために使用する全ての画像データサンプルを含むのに十分な最小距離内の全ての画素であってもよい。
エッジの各形状指標は、少なくとも2のサンプルペアの差から計算される。各サンプルペアの差は、前記エッジをまたがる一連の画像データサンプルからの1対の画像データサンプルの間の差である。
次に、この方法は、エッジの少なくとも2つの形状指標の値によって、(フォーカス信号に寄与するその他のエッジに対して相対的に)そのエッジがフォーカス信号に寄与する程度を低減することができる。例えば、フォーカス信号をそれへの寄与を許可されている全てのエッジの加重平均として計算し、その複数の重みは既に(例えば、次のセクションで説明される長さフィルタのような)他の方法を介して決定した場合でも、前記エッジの重みは、前記決定から前記相対的な程度として計算された因子(以下「形状適正因子」)を乗じて、その他のエッジよりもさらに減少されてもよい。
この方法は、前記相対的な程度を決めて前記エッジから前記フォーカス信号への寄与を減らすために、前記少なくとも2つの形状指標が一緒にある判定基準を満たすかどうかを判断できる。例えば、前記判定基準は、第2の指標に対する第1の指標の二次元散布図において、前記相対的な程度の減少がない又は小さい領域を全ての他の領域から分離する境界として表現できる。複数の輪郭は、同じ相対的な程度が割り当てされた複数の第1の指標値および第2の指標値の対が同じ輪郭上にあるように定義して、その相対的な程度は、エッジのその対が属する輪郭を調べてメモリから読み出すことができる。例えば、前記方法は、前記少なくとも2つの形状指標の1つが、1つ以上の他の形状指標による判定基準を満たすかどうかを評価できる。例えば、その評価から続いて、前記判定基準を満たさない場合、前記フォーカス信号を生成する際、前記エッジを除いてまたはその強調を抑えてもよい。例えば、エッジがその強調を抑える場合、前記相対的な程度は、前記判定基準を満たす値(例えば、1)および前記判定基準を満たしない他の値(例えば、0)の間で変化しまた第1の指標の値と前記期待値との間の差の変化に対する滑らかな遷移を有する関数であってもよく、前記フォーカス信号がそれために寄与する複数のエッジからの加重平均である場合、前記相対的な程度は、前記フォーカス信号を計算する前に、その重みをこの相対的な程度で乗じて前記フォーカス信号中の前記エッジの重みを減少させるように使用できる。
この方法は、前記相対的な程度を決めて前記エッジから前記フォーカス信号への寄与を減らすために、前記少なくとも2つの形状指標が一緒にある判定基準を満たすかどうかを判断できる。例えば、前記判定基準は、第2の指標に対する第1の指標の二次元散布図において、前記相対的な程度の減少がない又は小さい領域を全ての他の領域から分離する境界として表現できる。複数の輪郭は、同じ相対的な程度が割り当てされた複数の第1の指標値および第2の指標値の対が同じ輪郭上にあるように定義して、その相対的な程度は、エッジのその対が属する輪郭を調べてメモリから読み出すことができる。例えば、前記方法は、前記少なくとも2つの形状指標の1つが、1つ以上の他の形状指標による判定基準を満たすかどうかを評価できる。例えば、その評価から続いて、前記判定基準を満たさない場合、前記フォーカス信号を生成する際、前記エッジを除いてまたはその強調を抑えてもよい。例えば、エッジがその強調を抑える場合、前記相対的な程度は、前記判定基準を満たす値(例えば、1)および前記判定基準を満たしない他の値(例えば、0)の間で変化しまた第1の指標の値と前記期待値との間の差の変化に対する滑らかな遷移を有する関数であってもよく、前記フォーカス信号がそれために寄与する複数のエッジからの加重平均である場合、前記相対的な程度は、前記フォーカス信号を計算する前に、その重みをこの相対的な程度で乗じて前記フォーカス信号中の前記エッジの重みを減少させるように使用できる。
このような関数は、好ましくは前記差に関するシグモイド関数の形状がある。
あるいは、この方法は、前記相対的な程度を前記少なくとも2つの形状指標の関数として計算できる。例えば、前記相対的な程度は、X/Eとして計算でき、ただし、Eは(エッジの第2の指標値の測定値を関数に挿入して求めた)期待値であり、Xは、第1の形状指標の測定値である。
あるいは、この方法は、前記相対的な程度を前記少なくとも2つの形状指標の関数として計算できる。例えば、前記相対的な程度は、X/Eとして計算でき、ただし、Eは(エッジの第2の指標値の測定値を関数に挿入して求めた)期待値であり、Xは、第1の形状指標の測定値である。
第2の形状指標に関する第1の形状指標期待値は、例えば不揮発性メモリ(例えばフラッシュメモリ)ようなコンピュータ可読媒体において記録され取り戻されてEDWMユニットに実行される数式で表すことができる。代替的に、コンピュータ可読媒体において格納されたルックアップテーブルを使用できる。図28は、4対の第1及び第2の形状指標値(w1b、w1a)、(w2b、w2a)、(w3b、w3a)、(w4b、w4a)の散布図を示して、第2の形状指標の値wa’から補間することによって第1の形状指標の値wb’を見出すことを説明する。前記 ルックアップテーブルは、第1及び第2の形状指標の値のペアを格納し、EDWNは、形状指標の測定値を与えて別の形状指標の期待値を補間で見つけるために複数のペアを取得することができる。
ここで、前記方法は、エッジをまたがる勾配のシーケンスが完全な線対称から逸脱する程度に基づいて相対的な程度を決定しないことを注意する。具体的には、それぞれのエッジの完全に対称な勾配のシーケンスをプロットした図23Aと23Bを参照して本見出しのすぐ下に説明したように、エッジは、エッジをまたがる勾配のシーケンスにおいて完全な線対称があるが、前記方法によって差別されている。後述の実施例で説明するように、エッジをまたがる勾配のシーケンスにおける完全な線対称は、そのエッジを差別する(すなわち、相対的な寄与に付ける重みを減ずる)ことを防がない。
さらに具体的には、完全な線対称がある勾配のシーケンスがあって、そのエッジをまたがる勾配のシーケンスが特定のシーケンスである場合、この方法はそのエッジの相対的な重みを減らす。一例として、そのようなシーケンスは、{0.1、0.15、0.2、0.9、0.9、1、0.9、0.9、0.2、0.15、0.1}であってもよい。他の例として、そのようなシーケンスは、図27Aに示した帽子の形状を取るシーケンス8002として示した{0、0.2、0.2、0.7、0.7、1、0.7、0.7、0.2、0.2、0}であってもよい。第3の例として、このようなシーケンスは、図27Bにおいて二等辺三角形の形状のシーケンス8000として示した{0、0.25、0.5、0.75、1、0.75、0.5、0.25、0}であってもよい。
形状指標の中の1つがエッジ鮮明さ度合いであるが、これは必須ではない。エッジ鮮明さ度合いが形状指標のいずれでもなくまたあるエッジのフォーカス信号への寄与が失格と(つまり省略)される場合、そのエッジのためのエッジ鮮明さ度合いの計算を省略できる。
それらの形状指標は、任意の形状指標の計算があるエッジの所定の近傍からの少なくとも画像データサンプルをさらに伴わなくて前記任意の形状指標をその他の形状指標から計算できないという意味で、互いに独立している。
好ましくは、ある形状指標は、その計算がある全てのエッジために正の勾配および負の勾配から計算されない。たいていのエッジに対しては、それらのエッジにおける補間された勾配を見つけるために正および負の勾配の間に補間する必要がない。
好ましくは、エッジの形状指標を評価することは、他のエッジが検出されるかどうかに依存しない。頻繁に、エッジは他のエッジとは独立に正規化された勾配の分布があり、そして、エッジのそのような特性に基づいて定式化された形状指標は、特にこのエッジが他のエッジの所定の近傍と重ならない場合、他のエッジが検出されるかどうかによって影響されない。
好ましくは、シーンの照度の20%の減少がエッジを省略するかフォーカス信号への寄与を許可するかの差を生む場合、そのエッジを測定するための形状指標としては、選択しない。あるいは、好ましくは、前記所定の近傍内の画像信号値の20%だけの減少がエッジを除くかフォーカス信号への寄与を許可するかを決める場合、そのエッジを測定するための形状指標としては、選択しない。
一般に、見出し「エッジ鮮明さ度合い」下に記載された、エッジ鮮明さ度合いの計算の方法のいずれかは、前記エッジ鮮明さ度合いおよび全ての形状指標を異なるように計算する限り、それによって1つ以上の形状指標を作成できる。例えば、第1の形状指標は、図23Bを参照すると、上の正規化された勾配レベル3310での2つの補間された勾配間の幅W2であり、第2の形状指標は、下の正規化された勾配レベル3312での1対の補間された勾配の間で測定された幅W1であってもよい。第2の形状指標は、この実施例のエッジのエッジ鮮明さ度合いとして用いることができる。代わりに、エッジ鮮明さ度合いは、上3310および下3312の正規化された勾配レベルと異なる第3正規化された勾配レベル上で測定されてもよい。他の代わりとは、第2の指標およびエッジ鮮明さ度合いのいずれかは、例えばそれを所定の位置(例えば重心)からエッジ上の複数の勾配までの距離の二次モーメントのなどのそれらの距離の関数にする、又はエッジをまたがって配列された二次導関数のシーケンスから補間された一対の外側の補間された二次導関数の間の距離の関数にするような他の形状指標方法を用いて測定できる。
図23Bに関して上述した例は2つの異なる勾配レベルで測定した2つの幅(あるいは画素数、それは隣接する画素間の間隔に量子化された距離である)を使用したが、他の組み合わせは、以下の更なる例で説明するように可能である。
また、ピーク勾配値または正規化されたピーク勾配値の冪に関する正規化を使用してエッジ鮮明さ度合いを作る方法のいずれかは、その正規化を回避して形状指標を生成できる。ただし、その形状指標の単位内は、エネルギーの単位がある。例えば、エッジ鮮明さ度合いが勾配のシーケンス下の領域の面積を測定して(図24Bおよび見出し「エッジ鮮明さ度合い」の下のその関連議論を参照)ピーク勾配または補間されたピーク勾配値で正規化によって作る場合、その正規化を回避して、エッジ鮮明さ度合いを、勾配の単位×長さの単位、すなわちエネルギーの単位がある形状指標とする面積にすることができる。
エッジ鮮明さ度合い方法のいずれかに加えて、形状指標は他の方法に頼ることができる。さらなる例は以下に記載される。
図24Aは、連続した勾配の間の間隔の倍数である距離に対してプロットされた、エッジをまたがる対称な勾配のシーケンス、およびピーク勾配からの所定の距離D3である補間された勾配の正規化された勾配値を示す。この勾配のシーケンスは、ピーク勾配3212がある。正規化された勾配レベルL0で測定された幅W0は、第2の形状指標として用いることができる。距離D3は、例えば幅W0の所定の分数とするように幅W0に関して定義する、または例えば勾配の重心から勾配までの距離の分散の平方根の所定の倍数とするように、エッジ鮮明さ度合いのいずれかから測定されたエッジの他の幅に関して定義できる。距離D3では、正規化された補間された勾配値L3を計算する。この補間された勾配値は、勾配レベルL0で同じ幅W0があるのに、図24Aで示された現在の勾配のシーケンスよりも勾配値がピーク勾配3212からの距離に対して速く低下する異なる勾配のシーケンスの間に異なる。したがって、ペア(D3、W0)は、その勾配のシーケンスからエッジの相対的な程度を見つけるために、判断基準に対して審査できる。
図24Cは、連続勾配の間の間隔の倍数である距離に対してプロットされた、エッジをまたがる画像信号の勾配のシーケンス、および正規化された勾配のプロットされたシーケンスの傾きSL(すなわち、画像信号の正規化された二次導関数)を示し、傾きSLは、補間されたピーク3270に関して定義された正規化された勾配レベル3274で取る。このレベルまたは他の正規化勾配されたレベルで測定された傾きは、正規化された勾配レベルL0での幅が同じであるのに、現在の勾配のシーケンスの形状および図24Aに示した勾配のシーケンスの形状の間で異なることが明らかである。これらのシーケンスの両方は、フォーカス信号を生成するために、良いであることができない。したがって、前記傾きも、形状指標のための候補方法である。
形状指標のための他の方法としては、エッジをまたがる勾配シーケンスからの複数の正規化された勾配値の冪の和を用いることができる。また、この和をピーク勾配値又は補間されたピークの勾配値の同じ冪でさらに正規化する場合、それをエッジ鮮明さ度合いとして用いることができ、その単位は長さの単位の逆数である。
前記エッジの前記相対的な程度を決めるために使用する第1および第2の形状指標の間では、エッジの所定の近傍からの画像データサンプルを拡大縮小することによって影響を受けないように、両方を選択できる。例えば、図23Bを参照する前記の説明のように、幅W1と幅W2の両方は、表示された勾配のシーケンスにおける勾配ための計算に入力された画像データを拡大縮小することから影響を受けない。あるいは、その両方がそれによって影響されるように、その両方を選択する。例えば、第1の指標は、図24Aに示し上述したように、補間されたピーク又は勾配のシーケンスのピーク勾配からの所定の距離D3での補間された勾配値L3であってもよく、第2の指標は、図24Bに示し上述したように距離に対してプロットした勾配のシーケンス下の領域の面積であってもよくしかしそれらは正規化されていない。
本開示において、エッジからの例えば勾配レベルのような量は、特な指定がない限りデフォルトではそれをエッジのピーク勾配値または補間されたピークの勾配値によって割ると、正規化されていると言われていることに留意したい。例えば、図23Bにおいてピーク勾配3212が正確に1の正規化値があるが、図24Cには、補間されたピーク3270がピーク勾配3212と異なっており、また、図24Cに示した勾配をピーク勾配3212の代わりの補間されたピーク3270に関して正規化することがある。
長さフィルター
以下、長さフィルター212の機能について説明する。広義では、長さフィルター212は、それぞれが同様の配向の1つ以上のエッジに接続するエッジへの嗜好を作成する。同様の方向を有してその他のエッジのいずれにも接しない独立したエッジに比べて、同様の方向を有してグループにおいて互いに接続されたグループのエッジ(「連結エッジ」)は、ノイズに起因する可能性が高くない。従って、同様の方向を有して一緒に連結されたエッジが多ければ、ノイズに起因する可能性が低くなる。ノイズに起因する前記グループの確率は、グループにおけるエッジ数が増えるにつれ、指数関数的に低下され、また直線的な低下よりずっと早い。この特性は、ノイズの抑制に用いられ、特に、画像において又は対象領域において信号対雑音比が例えば10未満と弱いといった薄暗い又は短い露光の場合に用いることができる。前記嗜好は、何れの適当な方法で実施されて表現されてもよい。後述される複数の方法は単に例示に過ぎない。
以下、長さフィルター212の機能について説明する。広義では、長さフィルター212は、それぞれが同様の配向の1つ以上のエッジに接続するエッジへの嗜好を作成する。同様の方向を有してその他のエッジのいずれにも接しない独立したエッジに比べて、同様の方向を有してグループにおいて互いに接続されたグループのエッジ(「連結エッジ」)は、ノイズに起因する可能性が高くない。従って、同様の方向を有して一緒に連結されたエッジが多ければ、ノイズに起因する可能性が低くなる。ノイズに起因する前記グループの確率は、グループにおけるエッジ数が増えるにつれ、指数関数的に低下され、また直線的な低下よりずっと早い。この特性は、ノイズの抑制に用いられ、特に、画像において又は対象領域において信号対雑音比が例えば10未満と弱いといった薄暗い又は短い露光の場合に用いることができる。前記嗜好は、何れの適当な方法で実施されて表現されてもよい。後述される複数の方法は単に例示に過ぎない。
第1の方法としては、連結長さ閾値より小さい長さを有する垂直/水平連結エッジに属するエッジを消去する。前記連結長さ閾値は、前記対象領域が比較的薄暗い場合に比較的に大きくしてもよい。例えば、前記連結長さ閾値は、2のような小さな値から始まってもよいが、対象領域における信号対雑音比が5に低下される場合に8に増える。前記連結長さ閾値は、前記プロセッサー112、112’、112’’によって、例えば、信号132の一部となる図3に示すような「長さコマンド」信号で提供されてもよい。または、前記閾値は、式に基づいて前記フォーカス信号発生器で算出されてもよい。
第2の方法としては、それぞれのエッジに対して前記長さフィルター212で長さ重みを提供し、そしてこの長さ重みを前記フォーカス信号算出器210でのフォーカス信号の算出に適用する。比較的長い連結エッジの一部であるエッジは、比較的短い連結エッジの一部であるエッジより大きい重みを受け取る。例えば、前記長さ重みは、前記連結エッジの長さの平方であってもよい。従って、全ての寄与値を合計する前に、それぞれのエッジのフォーカス信号に対する寄与値に因子A/Bを乗じることによって、フォーカス信号を形成してもよく、ここで、Bはフォーカス信号の算出に入る全てのエッジの長さ重みの合計であり、Aは前記エッジの長さ重みである。同様に、エッジ幅のヒストグラム(信号134の一部として出力されてもよい)は、好ましくは、いずれのエッジも同様の寄与値(例えば+1)を提供するのではなく、比較的長い連結エッジに属する複数のエッジが、それらのそれぞれのエッジ幅に対応するビンにより大きな寄与値を提供するようにすることができる。従って、例えば、それぞれのエッジはA/Cに寄与することができ、ただし、Cは前記エッジに亘るAの平均値である。同様に、幅狭いエッジのカウントは、比較的長い連結エッジのメンバーとしてのエッジがより多く寄与するようにすることができる。従って、例えば、それぞれのエッジによる寄与は、A/Dを乗じてもよく、ただし、Dは幅狭いエッジのカウントで数えられるエッジの間のAの平均値である。
最上部(最左側)及び底部(最右側)のエッジを除き、それぞれのエッジが2つの他の垂直(水平)エッジ(一方のエッジはその上方(左側)、他方のエッジはその下方(右側)にある。)に接触する1群のN個の垂直(水平)エッジは、長さNを有する垂直(水平)連結エッジである。前記上部(最左側)エッジは、その下方(右側)のエッジのみに接触することが必要である。前記底部(最右側)エッジは、その上方(左側)のエッジのみに接触することが必要である。
図8は垂直連結エッジ及びその長さを示す。図8において、セルR2C3及びR2C4は第1の垂直エッジを形成し、ユニットR3C3、R3C4及びR3C5は一緒に第2の垂直エッジを形成し、また、ユニットR4C4及びR4C5は一緒に第3の垂直エッジを形成している。前記第1及び第3の垂直エッジはそれぞれ他の垂直エッジのみに接触するのに対し、前記第2の垂直エッジは2つの他の垂直エッジに接触する。前記第1、第2及び第3の垂直エッジは一緒に長さ3を有する垂直連結エッジを形成する。
垂直(水平)連結エッジに2つ以上の分岐がある、即ち、1行(列)に2つのエッジがある場合(図示せず)には、前記長さが連結エッジにおける総エッジ数として定義されてもよい。又は、前記長さは、その中の最上部(最左側)エッジから最底部(最右側)エッジまでの垂直(水平)距離に1を加えたものとして定義されてもよい。
上述した提案の他に、連結長さを定義する他の可能な方法がある。例えば、連結エッジの長さの定義は、前記長さが前記連結エッジにおける少なくとも3までのメンバーエッジ数に比例する特性を有することである。これは、前述した推理に合致しており、すなわち、互いに接触して互いに接続される複数のエッジが多ければ、連結エッジがノイズに起因される確率が指数関数的に低くなり、これによって、前記長さが、連結エッジにおける適当な数以下のメンバーエッジ数に比例することになるべきであり、前記適当な数とは、当該連結エッジの信頼性を単一のメンバーエッジの信頼性よりも十分に向上させる数である。前記長さフィルター212は、連結長さ1を有するエッジの強調を抑え、又はそれを消去して、広義では区別することができる。前記長さフィルター212は、連結長さ2を有するエッジを区別することができる。前記長さフィルター212は、連結長さ3を有するエッジを区別してノイズによる影響をさらに低下することができる。前記長さフィルター212は、前記プロセッサーからのコマンドに基づいてこれらの動作の何れか1つを行うことができる。
図3には前記エッジ検出・幅測定ユニット206の直後に設けることを示しているが、その他の配置も可能である。例えば、前記フォーカス信号算出器210の前に前記長さフィルター212が挿入されてもよい。前記長さフィルター212によって処理された複数のエッジは、「精細」信号に応じて前記幅フィルター209を通過するエッジである。
フォーカス信号発生器の代替実施形態においては、前記精細スイッチ220を除去することにより、前記フォーカス信号算出ユニット210に、前記幅フィルター209にろ過されていない第1のデータ群及びろ過された第2のデータ群を受信させ、そして、前者のデータ群の計算により概略フォーカス信号を取得し、後者のデータ群の計算により精細フォーカス信号を取得するように、前記両データ群に対して計算を行って異なるフォーカス信号を取得し、さらに、この2つの信号を前記プロセッサー112、112’に出力してもよい。
幅フィルター
次に、図3を参照して前記幅フィルター209の動作を理解する。図11は複数のエッジ幅のヒストグラム、即ち、複数のエッジ幅に対する複数のエッジのカウントのグラフを描いている。エッジ幅2(即ち、前記上述鮮明エッジ幅)には、前記画像に複数の鮮明なエッジが存在することを示唆するピークがある。しかし、エッジ幅4及び5には複数のピークがあり、これは、エッジがぼやけたことを示唆している。その原因としては、たぶん、対応する結像オブジェクトがフォーカスされておらず、これらの結像オブジェクトのフォーカスレンズからの距離が前記鮮明なエッジを生じさせたオブジェクトのフォーカスレンズからの距離と異なっているからである。フォーカス信号を算出するには、幅が所定の範囲(「幅狭いエッジ範囲」)外になる複数のエッジは、前記幅フィルター209によって、その強調を抑えてもよい。前記幅フィルター209は、前記フォーカス信号の算出に用いるために、前記幅狭いエッジ範囲外にある複数のエッジ幅に対して比較的小さい重みを作成してもよい。例えば、複数のエッジ幅に対して重み1.0が割り当てられるが、上限840の右側へ+1よりも大きく離れた複数のエッジ幅に対して重み0が割り当てられ、その間の複数のエッジ幅に対して0〜1.0の重みが割り当てられ、エッジ幅と共に単調に低減される。または、前記幅フィルター209は、それらのエッジをフォーカス信号の計算から完全に排除してもよい。適切な上限及び下限830、840は、画素アレイ108でのクロストーク、フォーカス信号発生器120に受信された画像に対して欠落色を発生する補間方法及び前記エッジ検出・幅測定ユニット206に採用されるローパスフィルターに用いられるフィルター係数を含む幾つかの要素に依存する。適切な上限及び下限830、840及び前記パラメータの鮮明エッジ幅は、前記画像ピックアップ装置102、102’に対して、種々の鮮明度を有する画像を取り込んでエッジ幅のヒストグラムを調べることによって決定されてもよい。例えば、鮮明な画像のピークがエッジ幅2にある場合、適切な上限及び下限はそれぞれ、1.5及び3であり、前記鮮明エッジ幅は2.0に設定されてもよい。前記下限と上限及び鮮明エッジ幅は、上述したように決定され、そして前記プロセッサー112、112’’によって前記フォーカス信号発生器120、120’、120’’に供給されてもよい。「精細コマンド」がオンになると、このように算出された精細なフォーカス信号が、幅狭いエッジ範囲外のエッジ幅の強調を抑える。
次に、図3を参照して前記幅フィルター209の動作を理解する。図11は複数のエッジ幅のヒストグラム、即ち、複数のエッジ幅に対する複数のエッジのカウントのグラフを描いている。エッジ幅2(即ち、前記上述鮮明エッジ幅)には、前記画像に複数の鮮明なエッジが存在することを示唆するピークがある。しかし、エッジ幅4及び5には複数のピークがあり、これは、エッジがぼやけたことを示唆している。その原因としては、たぶん、対応する結像オブジェクトがフォーカスされておらず、これらの結像オブジェクトのフォーカスレンズからの距離が前記鮮明なエッジを生じさせたオブジェクトのフォーカスレンズからの距離と異なっているからである。フォーカス信号を算出するには、幅が所定の範囲(「幅狭いエッジ範囲」)外になる複数のエッジは、前記幅フィルター209によって、その強調を抑えてもよい。前記幅フィルター209は、前記フォーカス信号の算出に用いるために、前記幅狭いエッジ範囲外にある複数のエッジ幅に対して比較的小さい重みを作成してもよい。例えば、複数のエッジ幅に対して重み1.0が割り当てられるが、上限840の右側へ+1よりも大きく離れた複数のエッジ幅に対して重み0が割り当てられ、その間の複数のエッジ幅に対して0〜1.0の重みが割り当てられ、エッジ幅と共に単調に低減される。または、前記幅フィルター209は、それらのエッジをフォーカス信号の計算から完全に排除してもよい。適切な上限及び下限830、840は、画素アレイ108でのクロストーク、フォーカス信号発生器120に受信された画像に対して欠落色を発生する補間方法及び前記エッジ検出・幅測定ユニット206に採用されるローパスフィルターに用いられるフィルター係数を含む幾つかの要素に依存する。適切な上限及び下限830、840及び前記パラメータの鮮明エッジ幅は、前記画像ピックアップ装置102、102’に対して、種々の鮮明度を有する画像を取り込んでエッジ幅のヒストグラムを調べることによって決定されてもよい。例えば、鮮明な画像のピークがエッジ幅2にある場合、適切な上限及び下限はそれぞれ、1.5及び3であり、前記鮮明エッジ幅は2.0に設定されてもよい。前記下限と上限及び鮮明エッジ幅は、上述したように決定され、そして前記プロセッサー112、112’’によって前記フォーカス信号発生器120、120’、120’’に供給されてもよい。「精細コマンド」がオンになると、このように算出された精細なフォーカス信号が、幅狭いエッジ範囲外のエッジ幅の強調を抑える。
また、前記幅フィルター209は、エッジ幅が幅狭いエッジ範囲内にある複数のエッジの総数を算出し、出力信号134の一部として出力してもよい。幅狭いエッジのカウントは、前記フォーカスシステムコントローラ(プロセッサー112)に入力されて、鮮明な画像の存在の検出及び/又は追跡の開始のために用いられてもよい。
フォーカス信号
次に、図3の前記フォーカス信号算出器210を参照すると、前記フォーカス信号算出器210は、複数のエッジ幅を受信してフォーカス信号を出力する。前記フォーカス信号は、全てのエッジ幅の重み付け平均値として算出されてもよく、前記重みはそれぞれのエッジ幅に対するエッジのカウントであり、即ち、フォーカス信号=Σwiei/Σwi、ただし、eiはエッジ幅、wiは重み、ここで、wi=ci、ciはエッジ幅eiにおけるエッジのカウントであり、iは複数のエッジ幅の一ヒストグラムのビン数である。または、それぞれのエッジ幅における重みは、エッジ幅のエッジのカウントに前記エッジ幅そのものを乗じたもの、即ち、wi=cieiであってもよい。また、重みで表される前記幅フィルター209からの嗜好は、それぞれのエッジ幅をさらに乗じてもよい。例えば、前記幅フィルター209により発生される重みΩiに対しては、ΣΩi=1、フォーカス信号はΣΩiwiei/ΣΩiwiとして算出されてもよい。制御信号「精細」がオン、且つ「排除」がオフになると、図11に示す実例では、前記フォーカス信号は、2.0という鮮明なエッジ幅の値に非常に近い値となり、これは、2.0〜3.0のエッジ幅を発生する焦点距離範囲において、ほとんどのオブジェクトの細部が実際に鮮明にフォーカスされていることを示唆している。制御信号「精細」がオフ、且つ「排除」がオフになると、前記フォーカス信号は5.0に近い値となり、画像において焦点外れの細部がかなり多く存在していることを示唆している。前記精細スイッチ220をオンにすると、前記フォーカス信号が少しぼやけたオブジェクトにより多く応答し、完全にぼやけたオブジェクトにより少なく応答することが可能になる。前記精細スイッチ220がオンになると、前記フォーカス信号を精細なフォーカス信号と呼び、前記精細スイッチ220がオフになると、概略フォーカス信号と呼ぶことにする。上述したように、前記長さフィルター212により表現される前記強調は、複数の方法のうちの1つにより、前記フォーカス信号に組み込まれてもよい。例えば、前記フォーカス信号計算への入力の強調が抑えられるエッジを消去して、または、前記エッジに対応するエッジ幅ビンのカウントeiへの寄与の重みを低減してもよい。
次に、図3の前記フォーカス信号算出器210を参照すると、前記フォーカス信号算出器210は、複数のエッジ幅を受信してフォーカス信号を出力する。前記フォーカス信号は、全てのエッジ幅の重み付け平均値として算出されてもよく、前記重みはそれぞれのエッジ幅に対するエッジのカウントであり、即ち、フォーカス信号=Σwiei/Σwi、ただし、eiはエッジ幅、wiは重み、ここで、wi=ci、ciはエッジ幅eiにおけるエッジのカウントであり、iは複数のエッジ幅の一ヒストグラムのビン数である。または、それぞれのエッジ幅における重みは、エッジ幅のエッジのカウントに前記エッジ幅そのものを乗じたもの、即ち、wi=cieiであってもよい。また、重みで表される前記幅フィルター209からの嗜好は、それぞれのエッジ幅をさらに乗じてもよい。例えば、前記幅フィルター209により発生される重みΩiに対しては、ΣΩi=1、フォーカス信号はΣΩiwiei/ΣΩiwiとして算出されてもよい。制御信号「精細」がオン、且つ「排除」がオフになると、図11に示す実例では、前記フォーカス信号は、2.0という鮮明なエッジ幅の値に非常に近い値となり、これは、2.0〜3.0のエッジ幅を発生する焦点距離範囲において、ほとんどのオブジェクトの細部が実際に鮮明にフォーカスされていることを示唆している。制御信号「精細」がオフ、且つ「排除」がオフになると、前記フォーカス信号は5.0に近い値となり、画像において焦点外れの細部がかなり多く存在していることを示唆している。前記精細スイッチ220をオンにすると、前記フォーカス信号が少しぼやけたオブジェクトにより多く応答し、完全にぼやけたオブジェクトにより少なく応答することが可能になる。前記精細スイッチ220がオンになると、前記フォーカス信号を精細なフォーカス信号と呼び、前記精細スイッチ220がオフになると、概略フォーカス信号と呼ぶことにする。上述したように、前記長さフィルター212により表現される前記強調は、複数の方法のうちの1つにより、前記フォーカス信号に組み込まれてもよい。例えば、前記フォーカス信号計算への入力の強調が抑えられるエッジを消去して、または、前記エッジに対応するエッジ幅ビンのカウントeiへの寄与の重みを低減してもよい。
図15は、オブジェクトが鮮明にフォーカスされている所の近傍のフォーカス位置の調節に対する前記精細フォーカス信号の応答をスケッチする。前記精細なフォーカス信号は、大体、前記フォーカス位置により画像が鮮明にフォーカスにされるような鮮明エッジ幅において、極小値に達するが、そうでなければ増える。前記精細フォーカス信号は、既に焦点が合った又はその状態に非常に近いオブジェクトの追跡に用いられてもよい。移動するオブジェクトに対しては、前記精細なフォーカス信号は、焦点距離が変わり続ける場合でも、前記フォーカス制御システムにより、これらのオブジェクトが鮮明にフォーカスされることを保つようにする。前記精細なフォーカス信号はまた、前記オブジェクトが、幅が幅狭いエッジ範囲に収まるエッジを生じさせるように、鮮明にフォーカスされないがこの状態に十分に近いオブジェクトの鮮明フォーカスを取得する(「取得」)ことに用いられてもよい。前記エッジ幅のヒストグラムに示すピークは、前記鮮明エッジ幅から離れた、前記オブジェクトに対応するエッジ幅のところにあるために、前記精細なフォーカス信号が鮮明エッジ幅よりも大きくなるので、前記フォーカス制御システムは、前記精細なフォーカス信号値が前記鮮明エッジ幅にさらに近くなるようにフォーカス位置を調節することでそれに対応することができ、これにより、前記オブジェクトに起因するエッジ幅のピークが鮮明エッジ幅に等しいエッジ幅の値の中心に位置決めされる。
基本の使用方法
図12〜16は、幅狭いエッジのカウント、概略フォーカス信号及び精細なフォーカス信号が鮮明な画像を実現するためにフォーカス制御の実施に如何に用いられるかを示す。
図12〜16は、幅狭いエッジのカウント、概略フォーカス信号及び精細なフォーカス信号が鮮明な画像を実現するためにフォーカス制御の実施に如何に用いられるかを示す。
図12は、前景における「人」、背景における「山、太陽及び地平線」、及びその間における「自動車」のように、異なる焦点距離において3つのグループのオブジェクトを有する戸外シーンを示す。
図13は、前記フォーカスレンズ104のフォーカス位置が図12に示すシーンを遠くから近くへ走査する場合における時間に対して描かれた幅狭いエッジのカウントの図である。前記幅狭いエッジのカウントは、フォーカス位置においてオブジェクトが画素アレイ108で鮮明な画像となる場合にピークに達する。従って、前記幅狭いエッジのカウントは走査中に、「山、太陽及び地平線」、「自動車」及び「人」に対してこの順で1つずつ、合計3つのピークを示す。
図14は時間に対して描かれた概略フォーカス信号を示す。前記概略フォーカス信号は、前記フォーカス位置が幅狭いエッジのカウントがピークに達する3つのフォーカス位置のそれぞれに近い場合に極小値を示す。しかし、それぞれの極小値において、前記概略フォーカス信号は、焦点外れの他のオブジェクトにより寄与された比較的大きいエッジ幅に起因して、前記鮮明エッジ幅レベル、この実例では2.0にない。
図15は、図12のシーンにおける「自動車」に対する鮮明なフォーカス位置の近傍にあるフォーカス位置に対して描かれた精細なフォーカス信号を示す。前記精細なフォーカス信号は、複数のぼやけたオブジェクト(「人」及び「山、太陽及び地平線」)が存在するにもかかわらず、鮮明エッジ幅、この実例では2を基本的に達成する。図11を再び参照すると、幅4及び5における2つのピークは、それらの2つのグループのぼやけたオブジェクトにより寄与されるが、これは、前記幅フィルター324が重みを低減させ、又は上限840の右側へのエッジ幅による寄与を完全に消去したと理解することができる。
フォーカス制御システムは、概略フォーカス信号を利用して、検索モードで最寄りの鮮明なフォーカス位置を検索することができる。それは、フォーカス位置を現在のフォーカス位置から離れるように移動させて前記概略フォーカス信号が増加するか低減するかを決定することができる。例えば、前記フォーカス位置が内向き(外向き)に移動する場合に前記概略フォーカス信号が増加(低減)すると、現在のフォーカス位置から比較的遠い鮮明なフォーカス位置が存在する。前記プロセッサー112、112’、112’’はその後、フォーカス駆動信号を供給し、隣接する鮮明なフォーカス位置へフォーカスレンズ104を移動させることができる。
フォーカス制御システムは、前記シーンにおける変化、前記オブジェクトの移動又は前記画像ピックアップ装置の移動にもかかわらず、前記精細なフォーカス信号を利用して、既に鮮明にフォーカスされたオブジェクトを追跡して対応する画像の鮮明さ(従って、「追跡モード」)を保ってもよい。オブジェクトが鮮明にフォーカスされる場合に、上記の変化があるにもかかわらず、前記精細なフォーカス信号レベルは安定している。これによって、前記精細なフォーカス信号の変更は、前記オブジェクトの画像ピックアップ装置からの焦点距離の変更を示唆する。前記フォーカス制御システムを、極小値に近い所定の精細なフォーカス信号レベル、例えば、この実例では2.0〜2.5、特に2.1に「ロックする」ことにより、前記精細なフォーカス信号レベルが変動すると、直ちに前記プロセッサー112、112’、112’’に前記オブジェクトの焦点距離の変更が通知される。前記プロセッサー112、112’、112’’はその後、方向を決めて、フォーカスレンズ104を移動させて前記精細なフォーカス信号レベルを「ロックされた」レベルに回復させることができる。従って、前記画像ピックアップ装置102、103、103’、103’’は、移動オブジェクトを追跡することができる。
例えば、プロセッサー112、112’、112’’におけるアルゴリズムにおいて実施されるようなフォーカス制御システムは、幅狭いエッジのカウントを利用して検索モードから追跡モードへの変更をトリガしてもよい。前記追跡モードにおいて、前記フォーカス制御システムは、前記精細なフォーカス信号により前記オブジェクトを「ロックする」。フォーカス位置が前記オブジェクトの鮮明なフォーカス位置に十分に近づく前に、前記フォーカス制御システムは、前記概略フォーカス信号により移動方向を確認し、レンズの移動速度を調節してもよい。オブジェクトが鮮明にフォーカスされる場合に、幅狭いエッジのカウントはシャープにピークに達する。幅狭いエッジのカウントにおける鮮明な上昇、ピークの到達又はその両方を検出した場合、前記プロセッサー112、112’、112’’は、追跡モードに切り替えて、精細なフォーカス信号を、フォーカス位置の制御に用いてもよい。鮮明なフォーカス位置によって閾値が異なる可能性があり、前記閾値は、終端間フォーカス位置「走査」によって見つけられたそれぞれのグループのオブジェクトに割り当てられ、そしてその後、幅狭いエッジのカウントがこの閾値を超えると、対応するグループのオブジェクトが検出される。静止シーンに対して、例えば、静止画像の撮影に対しては、終端間フォーカス位置走査は、幅狭いエッジのカウントがピークに達する毎に最大のカウントがある最大カウントリストを返すことができる。例えば、最大のカウントの50%を取ることにより、前記最大のカウントのリストから、閾値のリストを生成することができる。
図16は、表示装置114と、複数のボタンを含む入力装置107と、前記表示装置114においてハイライトされた選択マーカー1920とを有する画像ピックアップ装置102を示す。ユーザは前記入力装置107を利用して、前記選択マーカー1920を作成、成形及び操作することができる。この実例において複数のボタンを含むことを示しているが、前記入力装置107は、表示装置114でのタッチ又はストロークの位置を検出するために、前記表示装置114に載せたタッチスクリーンを含んでもよい。前記入力装置107、及び前記プロセッサー112、112’、112’’又は入力装置107のための別個専用コントローラ(図示せず)は、選択領域を決定することができる。前記選択領域を記述するための複数のパラメータは、バス132を介して(又はフォーカス信号発生器120が前記プロセッサー112の一部である場合に、前記プロセッサー112において内部で)、前記フォーカス信号発生器120、120’、120’’に転送されることができる。それに応じて、前記フォーカス信号発生器120は、フォーカス信号の算出、幅狭いエッジのカウント又はその両方を前記パラメータに記述される選択領域におけるエッジに限定し又は前記選択領域外のエッジの強調を抑えるようにすることができる。こうすると、前記フォーカス信号より意図せぬオブジェクトの強調を弱めることができ、そして前記概略フォーカス信号でも単一の極小値及び鮮明なエッジ幅における1.0以下の最小レベルを示す。
代替実施形態
図17は、フォーカス信号発生器120’の代替実施形態を示す。フォーカス信号発生器120’は、複数のエッジ及び複数のエッジ幅の統計データを出力する。コントローラ120’が出力するエッジ幅の統計データは、異なるエッジ幅におけるエッジのカウントを含むエッジ幅のヒストグラム、エッジ幅のカウントが最大値に達する所でのエッジ幅、異なるエッジ幅におけるエッジのカウントに近いスプライン関数を示す1組の係数、及びエッジ幅の関数を示すことができる任意のデータのうちの1つ以上であってもよい。全数調査ユニット240は、前記フォーカス信号発生器120’と他のユニットのうちの1つ以上で算出されるデータを受信してエッジ幅の統計データを算出することができる。一般に、前記フォーカス信号発生器120’は、エッジ幅分布の表示の信号を出力することができる。
図17は、フォーカス信号発生器120’の代替実施形態を示す。フォーカス信号発生器120’は、複数のエッジ及び複数のエッジ幅の統計データを出力する。コントローラ120’が出力するエッジ幅の統計データは、異なるエッジ幅におけるエッジのカウントを含むエッジ幅のヒストグラム、エッジ幅のカウントが最大値に達する所でのエッジ幅、異なるエッジ幅におけるエッジのカウントに近いスプライン関数を示す1組の係数、及びエッジ幅の関数を示すことができる任意のデータのうちの1つ以上であってもよい。全数調査ユニット240は、前記フォーカス信号発生器120’と他のユニットのうちの1つ以上で算出されるデータを受信してエッジ幅の統計データを算出することができる。一般に、前記フォーカス信号発生器120’は、エッジ幅分布の表示の信号を出力することができる。
図18に示すように、このように信号134で代替オートフォーカス画像ピックアップ装置102’における代替実施形態のプロセッサー112’に供給されるエッジ幅の統計データは、上述した方法又はその同等のものにより、概略及び/又は精細なフォーカス信号及び幅狭いエッジのカウントを算出するように、前記プロセッサー112’により使用されてもよい。さらに、前記フォーカス信号発生器120’に算出された何れのデータも、出力信号134の一部としてプロセッサー112’に出力されてもよい。
前記プロセッサー112’は、図1のプロセッサー112に含まれる機能の外に、フォーカス信号及び/又は幅狭いエッジのカウントを内部で発生させてもよい。
前記画素アレイ108、A/D変換器110、色補間器148及び発生器120’は、前記プロセッサー112’とは別の、画像センサー150’を一緒に含むパッケージ142に備わってもよい。
補助画素アレイ
図19は、オートフォーカス画像ピックアップシステム103の代替実施形態を示す。システム102に含まれる素子の外に、前記システム103は、ハーフミラー2850と、フルミラー2852と、光学ローパスフィルター2840と、主画素アレイ2808と、主A/D変換器2810とを含んでもよい。前記ハーフミラー2850は、入射する光ビームを、第1のスプリットビーム及び第2のスプリットビームに分割し、その一方を透過させ、他方を反射させることができる。前記第1のスプリットビームは、最後に、前記第1のスプリットビームを検出してアナログ信号に変換する前記主画素アレイ2808に到達する前に、さらに前記光学ローパスフィルター2840を透過してもよい。前記第2のスプリットビームは、最後に、図1に示すシステム102における画素アレイ108に対応する前記補助画素アレイ108’’に到達する前に、前記フルミラー2852により反射されてもよい。第2の光ビームに対する第1の光ビームの光強度の比は、1対1又は1対1よりも大きくなり得る。例えば、この比は4対1になり得る。
図19は、オートフォーカス画像ピックアップシステム103の代替実施形態を示す。システム102に含まれる素子の外に、前記システム103は、ハーフミラー2850と、フルミラー2852と、光学ローパスフィルター2840と、主画素アレイ2808と、主A/D変換器2810とを含んでもよい。前記ハーフミラー2850は、入射する光ビームを、第1のスプリットビーム及び第2のスプリットビームに分割し、その一方を透過させ、他方を反射させることができる。前記第1のスプリットビームは、最後に、前記第1のスプリットビームを検出してアナログ信号に変換する前記主画素アレイ2808に到達する前に、さらに前記光学ローパスフィルター2840を透過してもよい。前記第2のスプリットビームは、最後に、図1に示すシステム102における画素アレイ108に対応する前記補助画素アレイ108’’に到達する前に、前記フルミラー2852により反射されてもよい。第2の光ビームに対する第1の光ビームの光強度の比は、1対1又は1対1よりも大きくなり得る。例えば、この比は4対1になり得る。
前記主画素アレイ2808は、例えばバイエルパターンのようなカラーモザイクパターンのカラーフィルターアレイに被覆されてもよい。前記光学ローパスフィルター2808は、前記画素アレイ2808にフォーカスされた最小光点がエイリアシングを引き起こすほど小さすぎないようにする。モザイクパターンのカラーフィルターが前記画素アレイ2808を被覆する場合に、エイリアシングは、色補間の後にカラーモアレ偽像を引き起こし得る。例えば、前記光学ローパスフィルターを利用することにより、前記主画素アレイ2808における光点の可視光パワーの84%を取り囲む円の最小直径(「最小主直径」)は、1.5画素の幅より大きいが、2画素の幅より小さいように維持される。例えば、前記主画素アレイ2808は4.5umの画素の幅を有するのに対し、光学ローパスフィルタリング無しで最小直径が2.0umであると、前記光学ローパスフィルター2840は、光点の直径が6.7um以上になるようにするために選択されてもよい。
前記補助画素アレイ108’’は、1つ以上の光検出器アレイを含んでもよい。これらのアレイのそれぞれは、カラーモザイクパターンのカラーフィルターアレイに被覆されても、被覆されなくてもよい。前記補助画素アレイ108’’におけるこの(これらの)アレイは、A/D変換器110によりデジタル信号130に変換されるアナログ信号で画像を出力する。これらの画像は前記フォーカス信号発生器120に送信される。色補間器148は、複数のカラーフィルターに被覆される画素から発生される画像に対して、欠落色を発生することができる。補助画素アレイ108’’が複数の光検出器アレイを含む場合、それぞれのアレイは、前記主画素アレイ2808により取り込まれた画像の一部に対応するサブ画像を取り込むことが可能である。前記複数のアレイが、物理的に1百個の画素の幅以上に離れてもよく、また、半導体基板を共有しても、共有しなくてもよい。補助画素アレイ108’’における前記画素アレイは、半導体基板を共有しない場合、一緒にパッケージ(図示せず)に収容されてもよい。
主A/D変換器2810は、前記主画素アレイ2808からのアナログ信号をデジタル主画像データ信号2830に変換する。前記デジタル主画像データ信号2830は、前記プロセッサー112に送信され、最後にメモリカード116に記憶されるものである。前記プロセッサー112では、前記主画素アレイ2808において取り込まれた画像に対して色補間、色補正及び画像圧縮/解凍のような画像処理を行い得る。
前記補助画素アレイ108’’における光検出器アレイは、前記主画素アレイ2808の画素の幅(「主画素の幅」)よりも小さい画素の幅(「補助画素の幅」)を有してもよい。前記補助画素の幅は、前記主画素の幅の半分ほどであってもよい。補助画素がカラーフィルターにカバーされ、且つ前記補助画素の幅が光学ローパスフィルタリングが行われていない場合の可視光の最小点の1.3倍よりも小さい場合、前記補助画素アレイ108’’における最小直径(「最小補助直径」)が1.3〜2(好ましくは1.5)倍であって、最小主直径よりも小い大きさに増加されるように、前記補助アレイ108’’の前に第2の光学ローパスフィルターが挿入されてもよい。ユーザには前記補助画像が最終的な取込画像として提示しないので、前記補助画像における微細なモアレは問題ではない。
図22は、前記主画素アレイ2808からの主画像(実線曲線)及び前記補助画素アレイ108’’からの補助画像(鎖線曲線)について、エッジ幅が鮮明なフォーカス位置周辺で如何に変化するかを示す。前記補助画像は、たとえ前記主画像が目的とする鮮明なエッジ幅である2に達する場合であっても、より鮮明な傾斜を与える。前記補助画像は、ユーザには最終画像として提示しないため、エイリアシングによるモアレが前記補助画像において重要ではないので、目的とする鮮明なエッジ幅以下に達することが許容される。これにより、前記鮮明なエッジ幅よりも下位及び上位の傾斜がきつくなる。このよりきつい傾斜は、また、前記補助画素の幅が前記主画素の幅より小さいことによって達成される。
図22における陰影領域は、主画像が鮮明なフォーカスに維持されるようにフォーカス位置を制御するための良好な領域を示す。フォーカス位置における外向きの変化により、補助画像でエッジ幅が増加するのに対し、内向きの変化により、それが低減することになる。主画像のエッジ幅が鮮明なエッジ幅に近いことを維持するために、真ん中の補助エッジ幅値を前記陰影領域内にターゲットし、補助画像から発生されたエッジ幅をフィードバック信号として用いるように線形フィードバック制御システムが用いられてもよい。
前記補助画素アレイ108’’、A/D変換器110、フォーカス信号発生器120は、一緒にパッケージ142に収容されて補助センサー150を構成してもよい。前記補助センサー150は、色補間器148をさらに含んでもよい。
図20は、フォーカス信号発生器120をフォーカス信号発生器120’に置き換えたことを除き、装置103と同様のオートフォーカス画像ピックアップ装置103’の代替実施形態を示す。前記補助画素アレイ108’’、A/D変換器110、フォーカス信号発生器120’は、一緒にパッケージ142に収容されて補助センサー150’を構成してもよい。前記補助センサー150は、色補間器148をさらに含んでもよい。
図21は、オートフォーカス画像ピックアップ装置103’’の代替実施形態を示す。前記フォーカス信号発生器120及び前記プロセッサー112’’は、前記補助画素アレイ108’’とは別に、カメラコントローラとしてパッケージ144に収容されてもよい。前記プロセッサー112’’は、プロセッサー112’’が前記主画素アレイ2808及び前記補助画素アレイ108’’から画像を受け取ることを除き、プロセッサー112と同様である。前記プロセッサー112’’は、前記プロセッサー112が図2で信号130に対して実行可能な処理と同様に、信号2830で受け取られた画像に対して色補間、色補正、圧縮/解凍、及びメモリカード116への記憶を行うことができる。図2とは違って、ここでは、信号130で受け取られた画像は、圧縮/解凍されたり、メモリカード116に記憶されたりする必要がない。前記プロセッサー112’’は、補助画素アレイ108’’でのカラーフィルターに被覆された画素に対して、信号130で受け取られた画像に色補間を行い、そして色補間された画像をフォーカス信号発生器120に信号146で送信することができる。
前記オートフォーカス画像ピックアップシステム102、102’、103、103’、103’’は、それぞれ前記プロセッサー112、112’、112’’及び/又は前記フォーカス信号発生器120、120’が本願に記述された機能のうちの1つ以上を実行するようにする指令を含むコンピュータプログラム記憶媒体(図示せず)を備えてもよい。一例として、前記指令は、前記プロセッサー112又は前記発生器120’が図7のフローチャートに基づいてエッジ幅に対して斜め補正を行うようにしてもよい。別の実例として、前記指令は、前記プロセッサー112’又は前記発生器120が幅フィルター209に関する上記記述に基づいてエッジ幅のろ過を実行するようにしてもよい。または、前記プロセッサー112、112’又は前記発生器120、120’は、ファームウェア及びハードウェアの組合わせ又は本願に含まれる機能のうちの1つ以上に対する単純なハードウェアの実装を有するように配置されてもよい。例えば、発生器120において、単純なハードウェアにおいて斜め補正を実施し、ファームウェアにおいて指令による長さフィルター212を実施してもよい。
図30は、フォーカス信号発生器120’のまだ別の実施例を示す。本実施例は、いずれの上記画像キャプチャシステムにも用いることができる。
メモリカード116はシステム102の一部として示されているが、その代わりに、その中に記憶された画像がユーザによりアクセス可能であり、且つ前記システム102の外部にある異なる位置に転写可能であるハードディスクドライブのような、不揮発性記憶媒体も使用してもよい。
前記システムに使用される1つ以上のパラメータ、例えば、鮮明エッジ幅は、前記システムにおける装置の不揮発性メモリに記憶されてもよい。前記装置はフラッシュメモリ装置、プロセッサー又は画像センサー、又はこれらとは別の装置としてのフォーカス信号発生器であってもよい。前記システムに使用される1つ以上の式、例えば、連結長さ閾値を算出するための又はβを算出するための式は同様に、パラメータとして又はコンピュータが実施可能な指令として、前記装置のうちの1つ以上での不揮発性メモリに記憶されてもよい。
上記図面において幾つかの例示的な実施形態を描いて示したが、これらの実施形態は、広い本発明を制限するものではなく、単に本発明を説明するものである。また、本発明は、当業者により様々な別の変形を達成することができるため、上記に描かれて示された特定の構造と構成に限定されないことが理解されるべきである。
Claims (7)
- 画像鮮明さの度合いを示すフォーカス信号を画像の中の複数のエッジからコンピューティングデバイスによって生成する方法において、
前記画像の中のあるエッジに対して第1および第2の形状指標値を得る第1のステップと、
前記第1および第2の形状指標値によって、前記エッジが前記画像の鮮明さの度合いの判断にどう有効であるかの程度を判断し、前記エッジが十分に有効ではない場合には、前記エッジの前記フォーカス信号への寄与に付ける重みを下げる第2のステップと、を含み、
前記第1及び第2の形状指標値のそれぞれは、前記エッジにまたがっている一連の画像データサンプルの中の1対の画像データサンプルの間の差分であることを特徴とする方法。 - 前記エッジに対する第1の形状指標値は、前記エッジの所定の近傍の外において、他のエッジが検出されるかどうかによって影響されないことを特徴とする請求項1に記載の方法。
- 前記画像が撮影されるシーン上の照度が20%減少することによって、前記エッジから前記フォーカス信号への寄与を除くか否かが変化しないことを特徴とする以上の請求項1または2に記載の方法。
- 前記第2のステップは、前記第1の形状指標値が、前記第2の形状指標値によって決定される判断基準を満たしているか否かによって判断することを特徴とする以上の請求項1〜3のいずれか1項に記載の方法。
- 前記第1の形状指標値が前記判断基準を満たしていない場合、前記第2のステップでは前記エッジから前記フォーカス信号への寄与を除くまたはその重みを減ずることを特徴とする請求項4に記載の方法。
- 前記第2の形状指標値は、前記エッジから前記フォーカス信号への寄与そのものであることを特徴とする以上の請求項1〜5のいずれか1項に記載の方法。
- 前記第1及び第2の形状指標値は、前記エッジから前記フォーカス信号への寄与そのものではないことを特徴とする以上の請求項1〜5のいずれか1項に記載の方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/IB2010/055649 WO2011070514A1 (en) | 2009-12-07 | 2010-12-07 | Auto-focus image system |
IBPCT/IB2010/055649 | 2010-12-07 | ||
PCT/IB2011/052515 WO2012076992A1 (en) | 2010-12-07 | 2011-06-09 | Auto-focus image system |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016078083A Division JP6179827B2 (ja) | 2009-12-07 | 2016-04-08 | フォーカス信号を生成する方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2014504375A JP2014504375A (ja) | 2014-02-20 |
JP2014504375A5 true JP2014504375A5 (ja) | 2015-11-19 |
Family
ID=44628863
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013542632A Ceased JP2014504375A (ja) | 2010-12-07 | 2011-06-09 | オートフォーカス画像システム |
Country Status (9)
Country | Link |
---|---|
EP (1) | EP2649787A1 (ja) |
JP (1) | JP2014504375A (ja) |
AU (1) | AU2011340207A1 (ja) |
CA (1) | CA2820856A1 (ja) |
DE (1) | DE112011104256T5 (ja) |
GB (1) | GB2501414A (ja) |
MX (1) | MX2013006517A (ja) |
SG (1) | SG190451A1 (ja) |
WO (1) | WO2012076992A1 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102017125799A1 (de) * | 2017-11-06 | 2019-05-09 | Carl Zeiss Industrielle Messtechnik Gmbh | Reduktion von Bildstörungen in Bildern |
CN112969027B (zh) * | 2021-04-02 | 2022-08-16 | 浙江大华技术股份有限公司 | 电动镜头的聚焦方法和装置、存储介质及电子设备 |
CN114815121A (zh) * | 2022-02-22 | 2022-07-29 | 湖北三赢兴光电科技股份有限公司 | 一种摄像模组的快速调焦方法及系统 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3482013B2 (ja) * | 1993-09-22 | 2003-12-22 | ペンタックス株式会社 | 光学系のピント評価方法、調整方法、調整装置、およびチャート装置 |
JP2002189164A (ja) * | 2000-12-21 | 2002-07-05 | Minolta Co Ltd | 光学系制御装置、光学系制御方法および記録媒体 |
JP3555607B2 (ja) * | 2001-11-29 | 2004-08-18 | ミノルタ株式会社 | オートフォーカス装置 |
EP1624672A1 (en) * | 2004-08-07 | 2006-02-08 | STMicroelectronics Limited | A method of determining a measure of edge strength and focus |
US7343047B2 (en) * | 2004-09-22 | 2008-03-11 | Hewlett-Packard Development Company, L.P. | Systems and methods for arriving at an auto focus Figure of Merit |
US8264591B2 (en) * | 2007-10-22 | 2012-09-11 | Candela Microsystems (S) Pte. Ltd. | Method and system for generating focus signal |
WO2010061352A2 (en) * | 2008-11-26 | 2010-06-03 | Hiok Nam Tay | Auto-focus image system |
BR112012013721A2 (pt) * | 2009-12-07 | 2016-03-15 | Hiok Nam Tay | sistema de imagem de auto-focagem |
-
2011
- 2011-06-09 WO PCT/IB2011/052515 patent/WO2012076992A1/en active Application Filing
- 2011-06-09 DE DE112011104256.6T patent/DE112011104256T5/de not_active Withdrawn
- 2011-06-09 EP EP11735545.3A patent/EP2649787A1/en not_active Withdrawn
- 2011-06-09 SG SG2013044201A patent/SG190451A1/en unknown
- 2011-06-09 AU AU2011340207A patent/AU2011340207A1/en not_active Abandoned
- 2011-06-09 MX MX2013006517A patent/MX2013006517A/es active IP Right Grant
- 2011-06-09 CA CA2820856A patent/CA2820856A1/en not_active Abandoned
- 2011-06-09 GB GB1311741.1A patent/GB2501414A/en not_active Withdrawn
- 2011-06-09 JP JP2013542632A patent/JP2014504375A/ja not_active Ceased
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6179827B2 (ja) | フォーカス信号を生成する方法 | |
US8630504B2 (en) | Auto-focus image system | |
JP2016177293A (ja) | オートフォーカス画像システム | |
JP2014504375A5 (ja) | ||
JP5920608B2 (ja) | 画像の鮮明度を評価する撮像システムおよび方法 | |
JP2014504375A (ja) | オートフォーカス画像システム | |
JP6057086B2 (ja) | 画像の鮮明さ度合いを決定する方法および画像ピックアップ装置 |