開示されるのは、フォーカス信号発生器に結合されている画素アレイを含むオートフォーカス画像システムである。前記画素アレイは、幅を有するエッジを少なくとも1つ備える画像を取り込む。前記フォーカス信号発生器は、エッジ幅及び/又は複数のエッジ幅の統計データの関数であるフォーカス信号を発生し得る。オートフォーカス画像システムは、フォーカス信号発生器に接続された画素アレイを有する。前記画素アレイは、幅を有する少なくともエッジを備える画像を取り込む。前記発生器は、前記エッジ幅とエッジ幅の様々な統計データとの関数であるフォーカス信号を発生する。前記発生器は、画像信号の勾配が非対称であるエッジを除去してもよい。前記発生器はまた、前記勾配において対応するピーキングのためのテンプレートを持たないエッジを除去してもよい。プロセッサーが、前記フォーカス信号及び/又は前記複数のエッジ幅の統計データを受信し、フォーカスレンズのフォーカス位置を調節する。前記エッジ幅は、勾配の利用を含む様々な技術により決定することができる。複数のエッジ幅を示すヒストグラムは、特定の画像がフォーカスされているか否かを決定するために使用することができる。多くの幅狭いエッジを有するヒストグラムが、フォーカスされている画像を示す。
構成
参照番号に基づいて図面をさらに詳しく参照すると、図1は、オートフォーカス画像取込システム102の実施形態を示す。前記システム102は、デジタルスチルカメラの一部であってもよいが、このシステムは画像の制御されたフォーカスが必要ないずれの装置で具現化されてもよいことを理解すべきである。前記システム102は、フォーカスレンズ104と、画素アレイ及び回路108と、A/D変換器110と、プロセッサー112と、表示装置114と、メモリカード116と、ドライブモータ/回路118とを含んでもよい。シーンからの光が前記レンズ104を介して入射する。前記画素アレイ及び回路108は、前記A/D変換器110によりデジタル信号に変換されるアナログ信号を発生する。前記画素アレイ108は、例えば、ベイヤパターンのようなモザイクカラーパターンを組み入れてもよい。前記デジタル信号は、例えば色補間、フォーカス位置制御、色補正、画像圧縮/解凍、ユーザインターフェース制御及び表示装置制御のような様々な処理を実行する前記プロセッサー112に送信されてもよく、前記フォーカス信号発生器120に送信されてもよい。前記フォーカス信号発生器120及び前記プロセッサー112が異なるパッケージに備わっている場合には、前記デジタル信号130に対して色補間を行って前記フォーカス信号発生器120のためにそれぞれの画素における欠落色信号を見積もるために、色補間ユニット148を利用してもよい。または、前記フォーカス信号発生器120及び前記プロセッサー112が同一パッケージ144にある場合には、前記フォーカス信号発生器120は、図2に示すようにバス146を通して前記プロセッサー112から補間されたカラー画像又は前記A/D変換器110から発生された元の画像信号から導き出された単一画像信号(例えば、階調信号)を入力してもよい。
前記フォーカス信号発生器120は、さらにプロセッサー112からグループの制御信号132を受信し、そして、複数の信号134を前記プロセッサー112に出力してもよい。出力信号134は、フォーカス信号134と、幅狭いエッジカウントと、前記画像におけるエッジ幅の統計データを示す1組の数字とのうちの1つ以上を含んでもよい。前記プロセッサー112は、前記ドライブモータ/回路118に送信されて前記フォーカスレンズ104を制御するフォーカス制御信号136を発生することができる。フォーカスされている画像は、最終的に前記表示装置114に供給され、及び/又は前記メモリカード116に記憶される。フォーカス位置を調節するためのアルゴリズムは、前記プロセッサー112により実行されてもよい。
前記画素アレイ及び回路108、A/D変換器110、フォーカス信号発生器120、及びプロセッサー112は、全てパッケージに備わっていてもよい。または、前記画素アレイ及び回路108、A/D変換器110、及びフォーカス信号発生器120は、前記プロセッサー112とは別に、図1に示すような画像センサー150としてのパッケージ142に備わっていてもよい。または、フォーカス信号発生器120及びプロセッサー112は、前記画素アレイ108及びA/D変換器110とは別に、図2に示すようなカメラコントローラ160としてのパッケージ144に備わっていてもよい。フォーカス信号発生器120(又は、例えば図30に示すような任意の代替の実施例)及びプロセッサ112は、共に例えばシリコン基板のような半導体基板上において常駐することができる。
フォーカス信号発生器
図3は、画像供給ユニット202から画像を受信するフォーカス信号発生器120の実施形態を示す。前記画像供給ユニット202は、図1における色補間器148または図2におけるプロセッサー212であってもよい。前記フォーカス信号発生器120は、エッジ検出・幅測定(EDWM)ユニット206と、フォーカス信号算出器210と、長さフィルター212と、幅フィルター209とを含んでもよい。それは、「精細」222を入力することにより制御される精細スイッチ220をさらに含んでもよい。前記フォーカス信号発生器120は、幅フィルター209からの幅狭いエッジカウント、及びフォーカス信号算出器210からのフォーカス信号を供給してもよい。前記フォーカス信号は、「精細」222の入力によって選択可能である精細なフォーカス信号と概略フォーカス信号とのいずれか一方に設定可能である。または、精細なフォーカス信号も概略フォーカス信号も、算出されて出力信号134の一部として出力されてもよい。前記エッジ検出・幅測定ユニット206は、画像供給ユニット202により供給される画像を受信する。図1及び図2においては、制御信号「精細」222のような制御信号は、プロセッサー112により信号132に提供していてもよい。そして、図1及び図2において、前記出力信号134をプロセッサー112に供給してもよい。前記プロセッサー112は、前記フォーカスレンズ104のフォーカス位置を制御するフォーカスシステムコントローラとして機能し、出力信号134を解析して前記画像における鮮明なオブジェクトを検出することによって、複数のオブジェクトの画像を前記画素アレイ108において鮮明にフォーカスする。以下、前記フォーカス信号発生器120の各種の構成要素について説明する。
EDWMユニット206は、前記入力画像を、前記画像の3つの信号、赤(R)、緑(G)及び青(B)が単一画像信号に変換されるように変換してもよい。画像を単一画像に変換するには、幾つかの技術が利用される。複数のRGB値を用いて輝度又は色度値を算出することができ、あるいは、特定比率のRGB値を用いて前記単一画像信号を形成することができる。例えば、前記輝度値は、Y=0.2126*R+0.7152*G+0.0722*B、ただし、Y=輝度値、という式により算出されることができる。前記単一画像信号はその後、ガウスフィルター又は任意のローパスフィルターによって処理され、隣接画素の間に画素データサンプル値を円滑化してノイズを除去する。
前記フォーカス信号発生器120、120’、120’’は、階調信号に限られない。それは、前記画像信号における1つ以上のエッジを検出するために、何れか画像信号に対して操作を行ってもよい。または、それは、例えば、Y、R−G又はB−Gのような複数の画像信号の何れかの組み合せに対して操作を行ってもよい。それは、複数のエッジを検出するために、個別に前記R、G、B画像信号の一つ一つ、又はその何れか1つ以上の組合わせに対して操作を行ってもよい。それは、前記R、G、B画像信号の一つ一つ又はその何れかの組合わせに対して複数のエッジ幅の統計データを形成してもよい。それは、1つ以上の画像信号からの複数のエッジ幅の統計データによってフォーカス信号を形成してもよい。
フォーカス信号発生器は、画像信号内のエッジを識別するためのエッジ検出器を含む。エッジ検出器は、例えばソーベル(Sobel)演算子とプレウィット(Prewitt)演算子とロバーツクロスオペレータ(RobertsCross)演算子とロバーツ(Roberts)演算子とのような一次エッジ検出演算子を使用する可能性がある。エッジ検出器は、エッジを識別するために、高次のエッジ検出演算子、例えばラプラシアン(Laplacian)演算子のような二次演算子を使用してもよい。エッジ検出器は、既知のエッジ検出演算子のどれか1つまたは公知の演算子のどれかと一般のエッジ検出原理を共有している改良された演算子を使用できる。
エッジ検出器が一次エッジ検出演算子を使用する場合、画像信号の勾配(つまり、一次導関数)は計算する。勾配を計算するための利用できる様々な方法があって、それらの様々な方法は、様々な一次エッジ検出演算子、例えばソーベル(Sobel)演算子とプレウィット(Prewitt)演算子とロバーツクロス(RobertsCross)演算子とロバーツ(Roberts)演算子とのどれか一つを用いるものを含む。ロバーツ演算子は、単一のカラムまたは単一の行がある行列である2つの核、すなわち[−1+1]及びその転置がある。ロバーツクロス演算子は、2×2行列である2つの核、すなわちMatlab形式従って[<第一行ベクトル;第二行ベクトル;第三行ベクトル]ように表示した[+1,0;0,−1]および[0,+1;−1,0]がある。プレウィット演算子およびソーベル演算子は、基本的に同じ核の、勾配を行方向にとる[−1、0、+1]、および勾配をカラムの方向にとるその転置があり、その後、それぞれの勾配方向に垂直にローパスフィルタリングする違ったローパスフィルの核を乗じる。垂直及び水平エッジをそれぞれ検出するために、例えば、Sobel−X演算子とSobel−Y演算子をそれぞれ利用し、複数の列及び複数の行に亘った勾配を算出してもよい。画素位置[k,q]におけるSobel−X演算子(ただし、kは行数でqは列数である)は、Sx[k,q]=U[k,q+1]−U[k,q−1]という式から得られる。同一位置におけるSobel−Y演算子は、Sy[k,q]=U[k+1,q]−U[k−1,q]、ただし、U=処理された画像の画像信号、という式から得られる。
エッジ検出器が二次演算子を使用する場合、画像信号の(例えばラプラシアン二次演算子)二次導関数を計算する。
配向タグ付け
それぞれの画素は、その垂直又は水平勾配の大きさが所定の下限(「消去閾値」)(例えば、8ビットの画像の場合には5)を超えている場合に、水平エッジ(「H」)又は垂直エッジ(「V」)とタグ付けられ、或いは、その垂直又は水平勾配の大きさがいずれも当該所定の下限以下の場合に、エッジ無しとタグ付けされてもよい。前記下限によって、緩やかな陰影やノイズによる偽のエッジが消去される。画素は、その水平勾配の大きさがその垂直勾配の大きさを所定のヒステリシス量以上(例えば、8ビットの画像の場合には2)超えている場合に、垂直エッジとタグ付けされ、逆の場合も同様であってもよい。これら両方の勾配が前記ヒステリシス量よりも小さい場合に、前記画素は、その最も近くに隣接した、定められた方向タグを有する画素と同じ方向タグを獲得する。例えば、前記画像を行ごとに左から右へかつ1行ずつに下へ走査すると、隣接画素の検査順番として、まずは上の画素、次は左上の画素、次は左の画素、最後は右上の画素であってもよい。このヒステリシスの適用は、隣接画素がそれぞれほぼ同じ水平及び垂直勾配の大きさを有する場合に同様のタグを得ることを確実にするのに役立つ。図4は水平及び垂直勾配を有する6×6アレイにおけるタグ付けの結果を示す。それぞれのセルにおいては、水平勾配が左上方、垂直勾配が右方にあり、また、方向タグが底部にある。このステップで、エッジ画素がボールド体で印刷されて方向タグを得る資格が与えられるものは、5を超えている水平又は垂直勾配の大きさを有する画素のみである。
前記画像、前記勾配、及び前記タグは、垂直エッジには水平に、水平エッジには垂直に走査されてもよい。同一行において同一の水平勾配極性を有し、かつ全てが垂直エッジとしてタグ付けされた隣接する複数の画素の各グループは、このグループの左側又は右側に同じようなことを満たす隣接画素がない場合に、垂直エッジとして示されてもよい。同様に、同一列において同一の垂直勾配極性を有しかつ全てが水平エッジに対してタグ付けした各グループの連続画素は、このグループの上側又は下側に同じようなことを満たす隣接画素がない場合に、水平エッジとして示されてもよい。これによって、水平及び垂直エッジを識別することができる。
エッジ幅
それぞれのエッジは、勾配の大きさが前記エッジにおけるピーク勾配の大きさの所定の割合よりも小さい画素を除去することによって精細化されてもよい。図5は、エッジのピーク勾配の大きさの3分の1に等しい精細化閾値を利用し、前記エッジ幅を元の9から減らした3に精細化する前記ステップを示す。このエッジの精細化は、勾配が多くの画素において緩やかな減衰を起こし得る多数の重なった陰影が画像にあっても、エッジの鮮明さの視覚認知を支配する見掛けのエッジ幅を設定する主な勾配成分を識別することができるものである。
エッジ幅は、既知方法の何れか1つにより算出されてもよい。エッジ幅の算出方法の1つは、ただ、エッジにおける画素数を数えることである。図5にはエッジ幅を算出する代替方法を示す。図5において、前記精細化閾値304からの補間により、精細化されたエッジの第1の外部画素(画素3)とその隣接した外部画素(画素2)との間に第1の小数画素位置(2.4)が求められる。同様に、第2の外部画素(画素5)とその隣接した外部画素(画素6)との間に第2小数画素位置(5.5)が求められる。前記エッジ幅は、この2つの小数画素位置間の差、5.5−2.4=3.1として求められる。
エッジ幅を算出する方法の別の代替は、(エッジリファインメントの有無にかかわらず)画像信号について、エッジに亘る差を計算しその差をエッジのピーク勾配で割ることである。
或いは、エッジ幅は、エッジにまたがった画像信号の複数の二次導関数の一対の正及び負のピーク(又は補間されたピーク)の間の距離であってもよい。他の代案が可能であることは、この明細書において表題「エッジ鮮明さ度合い」の下で説明される。
シーンの照度と本質的に関係しないエッジ鮮明さ度合いとしては、幅が単に一例である。幅以外の他の代案があることは、この明細書において表題「エッジ鮮明さ度合い」下で見られる。
斜め補正
各エッジは、所定の方向(例えば、垂直方向又は水平方向)又は他の垂直な所定の方向(例えば、水平方向又は垂直方向)に指定されていてもよく、この指定されたエッジ方向に対して垂直な方向に測定したエッジ幅を有していてもよいが、それらのエッジが現れる画像において異なる画像信号値の複数の領域間の境界は、前記所定方向のいずれかに正確にアライメントされていなくてもよく、また一般にされていない。図6Aにおいて、境界(陰影付きの帯)は、垂直鎖線に対して斜め角φ傾斜しており、幅aは、垂直方向(例えば、水平方向)で測定していることを示している。しかしながら、幅b(図に示す)は、境界方向(これもまた境界の一部をなすエッジの方向)に垂直な方向において測定しており、幅aよりも境界の幅(また、エッジの幅)として、より適切である。それぞれのエッジ方向から垂直には測定していないこのような幅aは、長くなりすぎる傾向にあり、それぞれの境界の実際の厚さを表していない。
複数のエッジ幅からフォーカス信号を算出するために、これらの所定方向のうちの一方又は他方において測定された前記複数のエッジ幅が、それらをそれぞれのエッジの方向に垂直する方向での幅に低減させることにより補正される。前記エッジ検出・幅測定ユニット206は複数のエッジ幅に対してこのような補正を行う。図6Aに示すように、前記測定された幅aは、直角三角形の斜辺の長さである。前記直角三角形は、その底辺(幅bでマークする)が陰影付きの境界を垂直(これによって前記エッジ方向に垂直)に越えており、角度φを有している。そして、前記補正された幅bは、前記エッジ方向に垂直な方向への前記測定された幅aの投影から得られ得る。基本三角法から、この投影は、b=acos(φ)から求められるが、20%以下の正確性が得られば、近似値を使ってもよい。前記角度φ又はcos(φ)そのものは、この技術において知られている、画像におけるエッジの方向を求めるための何れかの既知方法、又は図7に示すフローチャートに記載されるより正確な方法によって、求められ得る。
それぞれの水平又は垂直エッジのエッジ幅は、前記水平又は垂直配向(所定の方向)からの斜めに対して補正されてもよい。図6A、6Bは、垂直線から傾斜した境界(及びこれによって前記境界を形成する複数のエッジ)について水平方向に測定されたエッジ幅に対する補正計算を示す。図6C、6Dは、水平線から傾斜した境界(及びこれによって前記境界を形成する複数のエッジ)について垂直方向に測定されたエッジ幅に対する補正計算を示す。前記補正は、所定の方向(例えば垂直方向又は水平方向)に測定された前記エッジ幅に因子cosφ(ただし、φは前記所定の方向からの斜め角)を乗じることにより行われてもよい。
例えば、図7は、垂直線から傾斜した複数のエッジについてのエッジ幅を斜め補正するためのプロセスのフローチャートを示す。(水平エッジについては、フローチャートにおいて「行」を「列」に置換し、「水平」で「垂直」を置き換える。)
ステップ502からステップ506において、斜め角φが求められる。それぞれの垂直エッジに対して、ステップ502において、水平勾配の大きさがピークに達する列の位置を位置づけ、水平勾配xを求める。ステップ504において、前記列の位置に沿って、2つの画素以内で垂直勾配の大きさがピークに達する位置を求め、そしてこの垂直勾配yを求める。
ステップ506において、斜め角φ=tan−1(y/x)を求める。ステップ506において、斜め角がルックアップ表を調べることによって求められ得る。ステップ502〜506は、斜め角を求める特定手順及び方法を示しているが、その代わりに当該分野に公知の他の手順及び方法を使用してもよい。
最後に、ステップ508において、当業者が実際によく行うように、cos(φ)で又はその近似値で乗算することにより前記エッジ幅を縮小する。
図7に示すプロセスの第1の変形としては、入力値x及びyの種々の組み合わせに対するエントリーを有するルックアップ表を提供することに、ステップ506及び一部のステップ508を置き換える。入力値x及びyの組合わせのそれぞれに対して、前記ルックアップ表はエッジ幅補正因子を返す。前記ルックアップ表により出力されるエッジ幅補正因子は、cos(tan−1(y/x))の20%以下(好ましくは5%以下)の近似値であってもよい。そして、前記エッジ幅は、この補正因子で乗算されて斜め補正されたエッジ幅を形成する。
第2の変形としては、垂直勾配yと水平勾配xとの商y/xを算出して商qを発生し、そしてqを使用してqの各種の値のエントリーを有するルックアップ表に入力する。qのそれぞれの値に対して、前記ルックアップ表はエッジ幅補正因子を返す。前記エッジ幅補正因子は、cos(tan−1(q))の20%以下(好ましくは5%以下)の近似値であってもよい。
斜め角φ(又はその近似値。それによって、前記補正因子の正確性が20%以下になる。)を求めてから、それによって補正因子cos(φ)(又はその近似値)を求め、又は(第1及び第2の変形に記載したように)前記斜め角φを求めずに補正因子を直接に求めるためには、ステップ502〜506でx及びyの値を得てもよいが、その代わりに他の方法によってこの2つの値を求めてもよい。
第3の変形としては、前記エッジにおける複数の画素のそれぞれに対して次のことを実行する。(a)画素について水平勾配x及び垂直勾配yの両方を求める。(b)前記画素についてq=y/xを求める。そして、(c)qに対応する補正因子(例えば、cos(tan−1(q))又はその20%以内の近似値)を求める。最後に、前記複数の画素のそれぞれからの補正因子において平均化することによって前記エッジ幅の補正因子を求める。前記平均値は、重み付け平均値、例えば、比較的大きい水平勾配を有する画素に比較的小さい水平勾配を有する別の画素より大きい重みを与えるものであってもよい。
これらの方向や他の方向に沿って別の変形が可能である。
選別閾値
それらのピーク勾配の大きさが隣接する比較的広いエッジのピーク勾配の大きさの所定の一部未満であれば、隣接した複数のエッジがフォーカス信号に寄与することをすっかり排除する又は衰減させることができる。図9A、9B及び9Cは検討されている問題を示す。
図9Aは、それぞれが2画素分の幅の2つの狭い黒色空間によって隔てられた3つの垂直白色バーを示す。前記真ん中の白色バーは2画素分の幅の狭いバーである。図9Bは、鮮明な画像及びぼやけた画像のそれぞれについて図9A中の画像において水平に描いた画像信号を示す。図9Cは、前記鮮明な画像及びぼやけた画像について図9BのSobelx勾配を描いている。図9Cにおいて、前記ぼやけた画像の第1のエッジ(画素2〜5)は前記鮮明な画像の第1のエッジより広く、そして、予想されるように、最後のエッジ(画素13〜15)も同じである。しかし、2つの最も幅狭いエッジ(画素9と10、及び画素11と12)は両方の画像において2という幅がある。図9Bにおいて、画素9と10及び画素11と12における対応する傾斜は、それぞれ2つの画素で遷移を完成する。しかし、前記ぼやけた画像は、比較的広いエッジから比較的幅狭いエッジへのピーク勾配の大きさが50%も著しく減少されている。一方、前記鮮明な画像は、比較的広いと比較的幅狭いエッジとの間で変化が10%未満である。
反対符号の勾配を有する比較的広いエッジに隣接する比較的幅狭いエッジのピーク勾配の大きさの(例えば20%以上の)著しい減少は、前記ぼやけた画像がよくフォーカスされていないことを示唆する。従って、前記比較的幅狭いエッジは、前記ぼやけた画像が鮮明であることを示唆するものであるとして、信頼すべきではない。
同様に、互いに緊密に近接していれば、例えば、1画素(「最小エッジ隙間」)しか離れていなければ、それらのエッジの幅が小さくても、交互勾配極性を有する互いに隣接する複数のエッジは、前記ぼやけた画像が鮮明であることを示唆するものであるとして、信用すべきではない。前記最小エッジ隙間は、(例えば1又は2又はその間)画素数で表す。
さらに、消去閾値よりも小さいピーク勾配を有するのでエッジが消去され得ると仮定すると、2つの互いに隣接するエッジの一方又は両方からの寄与を消去又は降格させる条件として、次の条件を用いてもよい。すなわち、2つの連続エッジは、同じ勾配極性を有し、かつ、最小エッジ隙間の2倍に鮮明エッジ幅(「鮮明エッジ幅」とは、鮮明なエッジのエッジ幅を示すように割り当てられる数である。)を足した距離以下離れるという条件である。
前記エッジ検出・幅測定ユニット206は、比較的広いエッジによって設定された選別閾値、及びオン/オフできる変調選別フラグに基づき、ぎっしり詰まっている比較的幅狭いエッジを消去するための下記のアルゴリズムを実行することができる。
それぞれのエッジに対して、反対極性の直後のエッジに用いられる選別閾値及び選別フラグは、図10に示すフローチャートのプロセスによって決定される。
前記選別閾値及び選別フラグが与えられると、下記条件の1つが成立しなければ、エッジが消去される。(a)このエッジに対して選別フラグがオフになる。(b)前記エッジのピーク勾配の大きさがこのエッジに対する選別閾値以上である。条件(a)及び(b)には、条件(c)エッジ幅が鮮明エッジ幅+1以上であることが加えられてもよい。ここで、数が、鮮明なエッジのエッジ幅を指定するように鮮明エッジ幅に割り当てられるが、前記「+1」は、エッジが(a)及び(b)を満たさないと当該エッジが消去される鮮明エッジ幅を超えたエッジ幅の範囲を設定するように変更されてもよい。図9A〜9Cに示す実例には、鮮明エッジ幅が2であってもよい。図10はそれぞれのエッジについて選別閾値及び選別フラグを決定するフローチャートである。垂直エッジに対しては、行に沿って左から右へ走査すると仮定しているが、これに限定されない。(水平エッジに対しては、列に沿って上部から底部へ走査すると仮定しているが、これは必須ではない。)鮮明エッジ幅に数が割り当てられ、図9A〜9Cに示す実例では2であってもよい。ステップ702において第1のエッジで開始し、ステップ720において、それぞれのエッジに対して、そのエッジ幅が1に鮮明エッジ幅を加えたもの以上になるか否かのクエリーを行い、前記値1はここで説明に用いられる最小エッジ隙間値であるが、異なる値(例えば0.5〜2.0の値)を使用してもよい。「はい」の場合、前記エッジが比較的広いエッジであり、ステップ706でその後、反対極性を有する直後のエッジに対する選別閾値を前記エッジのピーク勾配の大きさのβ倍に設定し、βが0.3〜0.7で、好ましくは0.55であり、そしてステップ708でその後、次のエッジに対して選別フラグをオンにし、引き続き次のエッジを処理する。「いいえ」の場合、前記エッジが比較的広いエッジではなく、ステップ730でその後、このエッジと同じ勾配極性を有する前のエッジとのある間隔が前記最小エッジ隙間の2倍(又は、他の異なる所定の数)に鮮明エッジ幅を加えたものより大きいか、かつ、反対極性を有する直前のエッジ(もし存在する場合)との間隔が前記最小エッジ隙間より大きいかを調べる。「はい」とすると、ステップ710でその後、次のエッジに対して前記選別フラグをオフにする。「いいえ」とすると、次のエッジに対して前記選別フラグ及び前記選別閾値を維持し、次のエッジへ進む。βは所定の小数であってもよく、又は所定の式によって算出される小数、例えばエッジ幅の関数であってもよい。後者の場合には、βは前記画像の部分によって異なってもよい。
代替の実施例
ピクセルグリッドの方向性:
フォーカス信号発生器120によって入力された画像の画素は、画像の長方形のグリッドに対して45°回転させた矩形の格子(”ピクセルグリッド”)において配置されることができる。この場合、エッジを検出する操作と幅を測定する操作とのX方向及びY方向は、同様に回転させることができる。
エッジ鮮明さ度合い:
以上の説明で、エッジの画像鮮明さは、そのエッジにまたがった一連の勾配から測定されたエッジ幅で表され、その勾配はエッジに亘って指向する。同様の原理に従って動作する代案がある。本質的に、このようにして生成したフォーカス信号が可能にならせるものは、個々のエッジが、画像データの(例えば20%)拡大縮小と無関係または(例えば画像データの20%縮小に対して5%より多く変化しないように)本質的に無関係である量(以下”エッジ鮮明さ度合い”)を貢献することであり。その結果、フォーカス信号は、従来の対比検出方法と比較されると、画像のシーンの照度またはシーン内の物体の反射率から無関係であるまたはそれへの依存がはるかに少ないことである。
さらに、本フォーカス信号発生器120において、画像データを20%縮小することと無関係又は本質的に無関係であるという上記特性を有する任意のエッジ鮮明さ度合いは、ある勾配または補間された勾配から同じ勾配値がある別の勾配または補間された勾配まで測定された幅の良い代替である。
代替のエッジ鮮明さ度合いの単位は、好ましくはエネルギーの単位を含まない。エッジ鮮明さ度合いの単位は、次の二点に基づいて決定されている。(a)一次エッジ検出演算子が動作する画像データの各サンプルは、エネルギーの単位があり、(b)サンプル間の距離は長さの単位がある。点(a)および(b)に基づいて、勾配値の単位は、エネルギーの単位割る長さの単位である。同様に、エッジまたはエッジのどれかの未分割部分に亘る対比は、エネルギーの単位がある。したがって、対比は、その単位が、対比がシーンの照度および物体の反射率によって影響されることを明らかにならせるので、良好なエッジ鮮明さ度合いではない。エッジのピーク勾配の単位は、エネルギーの単位を含んでピーク勾配がシーンの照度の変化に対して敏感であることを示すので、良好なエッジ鮮明さ度合いでもない。一方、エッジのピーク勾配割るエッジの対比は、その単位が長さの単位の逆数であるので、良好なエッジ鮮明さ度合いである。別の例として、勾配値がピーク勾配の所定の割合を超える勾配のカウントは、単に、隣接する勾配間の間隔の大きさで量子化された距離の度量であって長さの単位があるので、良好なエッジ鮮明さ度合いである。
ここで、エッジの鮮明合い度合いを生成することにおいては、ある勾配が、前記エッジを検出するために使用された一次エッジ検出演算子または別の一次微分演算子(すなわち勾配演算子)から生成されてもよいことを留意する。例えば、ソーベル演算子(または、例えばラプラス演算子のような二次エッジ検出演算子)が使用されてエッジを検出できるが、ロバーツ演算子は、その核は単に[−1、+1]及びその転置であって画像データのサンプルを単に勾配演算子の向き内の次のサンプルから減算し、そのように結果された勾配は、その2つのサンプル間の中間に位置される。エッジは、エッジ鮮明さ度合い、または次のセクションにおいて説明する形状の度量のどれかを生成する際に使用される1つ以上の微分演算子と独立して、一次より高い次エッジ検出演算子を検出できる。
それを違うように考えると、エッジ鮮明さ度合いの単位は、長さの単位の冪、例えば、長さの単位の二乗、長さの単位の逆数、長さの単位の自体、又は長さの単位の平方根であるべきである。
そのような代替の鮮明さ度合いのどれでも、フォーカス信号発生器120においてエッジ幅を置き換えることができる。
エッジの傾きに対して補正するために、図6A−6D及び図7を参照して説明したような前記補正係数(以下、「幅補正係数」)は、同じ冪を採用さして変換するべきである。例えば、エッジ鮮明合い度合いがピーク勾配割る対比であって長さの単位の逆数を得る場合、エッジ鮮明さ度合いのための補正係数は、図6A〜6Dおよび図7を参照して上文に説明した補正係数の逆数である。別の例として、その単位が長さの単位の二乗である場合、エッジ鮮明さ度合いは、そのための傾き補正係数が幅補正係数の二乗であるべきである。
代替のエッジ鮮明さ度合いのいくつかの例は、図27と図28と図25と図26とにおいて図面を参照して下文に説明される。
図27は、連続した勾配間の間隔の倍数である距離に対してプロットされた、エッジに亘る一連の勾配、及びプロットされた一連の勾配の下ある網掛け領域の面積A3を示す。この例では、その領域が2つの勾配レベルL1と L2との間で形成され、これらは、一連の勾配の補間されたピーク勾配値(あるいは、ピーク勾配値)に関して、例えば補間されたピーク勾配値の所定の一部分として、定義できる。その網掛け領域は、その四隅で補間された勾配がある。面積割る補間されたピーク勾配値(あるいは、ピーク勾配値)は、長さの単位があるので、良好なエッジ鮮明さ度合いである。その領域の代替的な定義が可能であることを留意する。例えば、その領域が勾配レベルL1によって上方から有界しなく、一連の勾配によって上方から有界できる。
図28は、連続した勾配間の間隔の倍数である距離に対してプロットされた、あるエッジにまたがった画像データのサンプルの一連の勾配と、重心3401(すなわち、モーメントの中心)と、その重心から(勾配値g2とg3とg4とg5とg6とがある)それらの勾配までの距離u2とu3とu4とu5とu6と、を示す。その重心についてそれらの勾配のk次中心積率(kは偶数)、すなわちその重心からそれらの勾配までの距離の、それぞれの重みがそれぞれの勾配の大きさである加重平均は、良い鮮明さ度合いである。例えば、kは、2であることができ、それは、一連の勾配が確率分布であるかのように、エッジ鮮明さ度合いをある分散にならせる。この例では、エッジ鮮明さ度合いの単位は、長さの単位の二乗である。より一般的には、エッジ鮮明さ度合いは、前記複数の勾配の、一連の勾配の複数の勾配に対して相対に事前定義された位置からの距離の関数であってもよい。重心のほかに、その所定の位置は、一連の勾配の補間ちれたピーク位置であてもよい。エッジの勾配の真部分集合は、この計算に参加するためにあらかじめ定義された基準に従って選択されることができる。例えば、勾配は、それらの勾配値がピーク勾配と一連の勾配の補間されたピークの勾配値とのどれかの所定の部分以上であることが要求されてもよい。
図25は、連続した二次導関数間の間隔の倍数である距離に対してプロットされた、あるエッジにまたがった画像データの一連のサンプルの一連の二次導関数を示し、(a)一対の正及び負のピークの間の幅WSと、(b)所定の大きさh1がある一対の最も外側の補間された二次導関数の間の幅W1と、(c)前記所定の大きさh1がある一対の内側の補間された二次導関数の間の幅W2と、(d)(一対の正及び負のピーク間の)ゼロ交差から前記所定の大きさh1がある最も外側補間された二次導関数までの距離D1と、を示す。前記3つの幅WS と W1 と W2とのどれかも、エッジ鮮明さ度合いとして用いることができる。
また、図25の例において、エッジ鮮明さ度合いは、(一対の正及び負のピークの間にあり、また補間されていてもよい)ゼロ交差から複数の二次導関数までの距離の加重和であってもよく、それらの重みは、前記複数の二次導関数のそれぞれの大きさである。より一般的には、エッジ鮮明さ度合いは、エッジにまたがった複数の二次導関数に対する所定の位置からそれらの二次導関数までの複数の距離の関数であってもよい。そのゼロ交差位置のほかに、重心は、その複数の重みがそれらの二次導関数の大きさであると、前記所定の位置の良い候補である。前記所定の位置の別の良い候補は、その一対の正及び負の勾配間の中間点がであってもよい。
図26は、連続したピクセルの間の間隔の倍数である距離に対してプロットされた、エッジの複数のピクセルからの一連の画像データのサンプルを示す。それは、(a)そのエッジの両端の2つのサンプルの間の幅Wedge および対比Cedgeと、(b)サンプル値の最も急な変化がある一対のサンプルの間の(ロバーツ演算子によって生成された)ピーク勾配値gpeakと、(c)そのエッジに属し対比C1 と幅Wpart1とがある最も狭い未分割部分と、(d)そのエッジに属し対比C2と幅Wpart2とがある最も狭い未分割部分と、を示す。前に述べたように、ピーク勾配値gpeak割る対比Cedgeは良いエッジ鮮明さ度合いである。幅Wedge は別の良いエッジ鮮明さ度合いである。幅Wpart1及び幅Wpart2はまた良い代替手段である。対比C1 および/または対比C2 は、エッジ対比Cedgeの所定部分として定義できる。あるいは、それらのどれかは、例えばピーク勾配gpeakのようなエッジのピーク勾配の所定の倍数として定義できる。また、「最も狭い未分割部分」は、例えば図26において示された四角のような画像データの補間されたサンプル、又は最寄りの画素カウントになさせる切り捨てまたは切り上げによって、区切ってもよいことを留意する。
勾配非対称性
図23A及び図23Bは、フォーカス信号発生器によって勾配信号(以下において勾配プロファイルという)のピークを中心とする対称性の欠如を検出し、関連するエッジを完全にオートフォーカス制御システムへの影響から(関連するエッジ幅又はエッジカウント(これに限定されない)の関数(例えば、加重平均)として発生されたフォーカス信号を通じて)減ずる又は除去する方法を示す。前記ピークは、一連の連続する勾配におけるピーク勾配であってもよい。あるいは、前記ピークは、前記一連の連続する勾配のうち2以上の勾配から補間した補間ピーク勾配であってもよい。図23Aは、両極(すなわち符号)の2つの隣接するエッジにわたる画像信号の勾配プロファイルを示す。但し、前記複数のエッジは離れており、相互作用しない。一方、図23Bは、前記複数のエッジが十分近接しており、互いに相互作用している場合の、両極の2つの隣接するエッジにまたがる画像信号の勾配プロファイルを示す。図23A及び23Bを比べると、両符号の隣接するエッジ(すなわち、一方のエッジが正勾配を有し、他方のエッジが負勾配を有する)が近接している場合、それぞれの勾配プロファイルに対称性がないことがわかる。
図23Aにおいて、左から右へ、前記勾配プロファイルは、左側の位置6で正ピーク勾配3210になるまで上昇しており、右側の位置18で負ピーク勾配3260に落ちている。前記複数の勾配値は、正規化され、1.0のピーク勾配の大きさを与えている。各ピーク勾配3210、3260に隣接して、それぞれの勾配プロファイルは、ピークを中心に左右対称である。それぞれのピーク勾配の大きさの0.3倍を閾値として使用すると、正勾配プロファイル3211及び負勾配プロファイル3261は、それぞれのエッジに対して5のエッジ幅に対応する。
一方、図23Bにおいて、左側の位置6における正ピーク勾配3212及び右側の位置9における負ピーク3262は、図23Aにおいてよりも互いに近接している。図23Bにおいて、前記勾配値は、図23Aのように、正規化されて、1.0のピーク勾配の大きさを与えている。図23Bにおいて、正勾配プロファイル3213及び負勾配プロファイル3263に対応するそれぞれのエッジは、明らかに相互作用し、部分的に打ち消し合っており、それにより位置6及び9で近接して隣り合う正ピーク3212と負ピーク3262との間にある複数の勾配の大きさが減少している。
その結果、前記勾配プロファイル3213、3263は、それぞれのエッジにおいて左右反射対称性を欠く。対称性が欠如しているということは、特に、図では補間勾配プロファイル(実線曲線で示す)において顕著である。対称性の欠如は、ピーク勾配からある程度の距離の範囲(特に、エッジのエッジ幅の0.2〜0.7倍の間の距離)又はそのピーク勾配レベルとその非ゼロ小数(特に、ピーク勾配レベルの10%〜90%以内;さらには、20%〜80%以内)との間の勾配レベルの一定範囲の間で見られる。例えば、非対称性は、エッジ幅の半分の距離内の補間勾配プロファイルの右側と左側を比べることによって求めてもよく、あるいは、そのピーク勾配レベルの20%〜80%の間の勾配レベル範囲内を比べることによって求めてもよい。
他の結果として、ピーク勾配の大きさの0.3倍という同じ閾値を使用して測定すると、各ピーク3212、3262周辺のエッジ幅は、4に減少している。このようにして測定した両方のエッジのエッジ幅は、もはやフォーカスの程度を表していない。前記フォーカス信号発生器は、非対称性を検出し、対応するエッジ幅のフォーカス信号及び/又はエッジカウントへの寄与を弱めたり、すっかり除去したりしてもよい。より一般的には、画像のエッジの鮮明さを調べることでよりシャープな画像を得るための前記フォーカス制御システムは、勾配プロファイルが対称性を欠くエッジの影響を弱めたり、すっかり除去したりしてもよい。
画像において背景中の鮮明な境界線から生じる、単離した複数のエッジは、それぞれ単離したエッジにわたり左右反射対称性を示す勾配プロファイルを有する。図23Aにおいて、垂直対称軸(垂直鎖線)に沿って左右反射対称性があり、これは、位置6でピーク勾配3210の下で現れ、垂直対称軸に沿った反射に基づき、位置4での勾配が位置7での勾配とマッピングされ(逆もまた同じ)、位置3での勾配が位置8での勾配とマッピングされている(逆もまた同じ)。これは、勾配プロファイル3211に対応するエッジに対応する境界がその真ん中でサンプリングされたからである。多くの場合、境界は、真ん中ではサンプリングされず、その結果、垂直対称軸は画素の位置と一致せず、2つの画素の間にある。しかしながら、左右反射対称性は、以下のように補間することで識別することができる。
図24Jは、単離したエッジの別の一般的勾配プロファイルを示す。位置6でのピーク勾配3212’、その右側の位置2〜5での4つの他の勾配及びその左側の位置7〜10での4つの他の勾配は、共に前記単離エッジの勾配プロファイルをなしている。補間ピーク3270’は、おおよそ位置5.85にあり、垂直対称軸3271’は、補間ピーク3270’の下に点線で示す。勾配プロファイルにおける各勾配は、対称軸3271’に沿った反射の下では、同じ勾配プロファイルにおいて他の勾配とマッッピングしていないが、補間勾配とはマッピングしている。例えば、位置3の勾配は、“X”(おおよそ位置8.6)で示した補間勾配とマッピングしており、明らかに位置8と9と(逆も同じ)の勾配の間の良好な補間を示している。同様に、位置7の勾配は、“+”(おおよそ位置4.6)で示した補間勾配とマッピングしており、明らかに位置4と5と(逆も同じ)の勾配の間の良好な補間を示している。さらに、勾配レベル0.5(及びそれぞれ位置4及び7.6)において、それぞれ三角や逆三角で示した補間勾配対のように、補間勾配が他の補間勾配とマッピングしている(逆も同じ)ことがわかる。左右反射対称性は、勾配プロファイルが補間勾配プロファイル(図24Jの実線曲線)に補間された場合、特に顕著である。いずれの2つの勾配レベルにおいても、勾配プロファイルの両側方の間の中間点(例えば、中間点3281’及び3280’)が同じ中間点位置3287で一致していることに留意すべきである。これは、対称軸の位置であると同様、補間ピークの位置である。
左右反射対称性があるため、各垂直対称軸に沿って反射されたジオメトリは、対応するジオメトリにマッピングされている、すなわち後者に一致していることが一般にわかる。このようなジオメトリとは、点(すなわち、勾配又は補間勾配)、線、曲線、有界領域、角、等である。このようなジオメトリは、距離、長さ、区域、傾斜(すなわち、第1導関数)、曲線(すなわち、第2導関数及びさらに高次の導関数)等に対応するパラメータである。例えば、補間勾配プロファイルに沿ったセグメント(又は隣接する勾配同士を接続する直線セグメント)は、同じ勾配レベルの他のセグメントとマッピングし、従って同じ長さを有する。左右反射対称性の他の特徴としては、対称軸上の複数の点はそれ自体とマッピングされている、すなわち動かないことである。従って、それらは、左右それぞれまでの距離が同一である。また、対称性の下で互いにマッピングされた2つのジオメトリ間では、垂直対称軸は、正確にそれらの真ん中にあることが一般に知られている。これらの特徴及び反射対称性に関する他の一般に知られている事象から、勾配プロファイルが左右反射対称性を有しているかを調べるための様々な方法が工夫され得る。
補間が一種の近似であるという性質から、ジオメトリが一致しているかを調べるためのパラメータについての所定の許容域が、対称性を立証するために使用される。例えば、X及びYが測定された2つのパラメータであり、完全な対称性が厳密にX=Yとなる場合、許容域は、−A<X−Y<B(但し、A及びBは正数)となるように特定され得、X−Yの値が−Aより大きく、Bより小さい場合に非対称の決定とはならない。但しX−Yの値はBよりも大きい正数又は−Aよりも小さい負数である場合、極端に対称性を欠くと判断する。以下、−Aよりも大きい負の値であり、且つBよりも小さい正の値である場合のX−Yの値の範囲を許容域という。許容域の上限は、非対称性閾値である。従って、本例においては、−A及びBは共に、X及びYを測定する非対称性に対する許容域を限定する非対称性閾値である。以下、X−Yの値が許容域外である場合を、(関連する)非対称性閾値を超えるという。例えば、(X−Y)がBよりも大きい正の値である場合、(X−Y)は、非対称性閾値Bを超えるという。(X−Y)が−Aよりも小さい負の値である場合、(X−Y)は、非対称性閾値−Aを超えると言う。本文における“超える”とは、パラメータ(X−Y)が許容域の関連する境界をわたることによって許容域から外れることを意味する。
あるいは、Zの関数は、ただし、Z=(1−X/Y)、フォーカス信号に寄与する他のエッジと比較してエッジの寄与を減らす相対程度を定義するように使用できる。このZの関数は、例えばZの絶対値のシグモイド関数であり、その結果、その関数は、Zがゼロである(すなわち、例えば完璧な対称下のように、X=Y)と1をその値として取り、その後、|Z|がカットオフ値に向けるとゆっくり上昇し、その後、|Z|がカットオフ値の近くになってそのカットオフ値を超えると急激に上昇し、最後に、ゼロに収束する。
エッジをわたる勾配プロファイルの左右反射対称性の欠如を検出する様々な方法を以下に述べるが、全てを挙げているわけではない。この本発明の一形態、すなわち、フォーカス信号又はフォーカス制御へのエッジの寄与を除去する又は弱めることは、下記に述べるエッジをわたる勾配プロファイルの反射対称性の欠如を検出するための特定の方法に限定されず、均等方法、類似方法、及びそれらの自明な又は公知の様々な変形例を含み、上述の反射対称性の特徴の1つ以上を利用する算出方法も同様に含む。
対称性の欠如を検出する方法は、画素に対応する勾配の大きさがピーク勾配の大きさの所定の割合を超える、ピーク勾配の片側の前記画素のカウントと他側の画素のカウントとの差分を求めることである。カウントの非対称性閾値は、いずれか片側のカウントが他側のカウントよりもカウント非対称性閾値を超えて大きい場合に、対称性の欠如が検出されるように、例えば、0.5に設定してもよい。これを図23A及び図23Bにおいて、小数を0.3及びカウント非対称性閾値を0.5として例示する。図23Aにおいて、位置6における左側の正のピークに対して、+0.3の勾配レベル上で、2つの画素がそれぞれ位置4及び5で左側にあり、2つの画素がそれぞれ位置7及び8で右側にある。画素カウントは、左側と右側で等しい。従って非対称性は検出されない。一方、図23Aにおいて、位置6における左側の正のピークに対して、+0.3の勾配レベルの上に、2つの画素がそれぞれ位置4及び5で左側にあるが、右側には画素が1つだけ位置7にある。図52Bにおける左側の正の勾配プロファイル3213において、右側よりも左側で1画素多く存在し、0.5のカウント非対称性閾値を超えている。従って、対称性の欠如が検出される。
ある変更例は、複数の勾配から補間し、補間勾配プロファイルが最大の大きさ(“補間ピーク勾配”)となる小数画素位置3272(“補間ピーク位置”)を求めるものである。この補間ピーク位置は、以下に述べるように、左側まで及び右側までの距離を算出すために使用してもよい。補間ピーク勾配はまた、これらの距離を測定する又はその上又は下で画素を数える勾配レベルを算出するために使用してもよい。例えば、図24Aにおいて、垂直一点鎖線は補間ピーク3270の下に描き、水平点線3275は、勾配レベル0.95(勾配上限閾値)で補間勾配プロファイル(実線曲線)を横切るように描き、水平鎖線3273は、勾配レベル0.25(勾配下限閾値)で補間勾配プロファイルを横切るように描いている。2つの画素を、それぞれピーク勾配3212(位置6)左側の位置4及び5でカウントし、画素のみ、右側の位置7でカウントする。ピーク勾配3212(本例では、位置6)とするか、補間ピーク3270(おおよそ位置5.8)とするかは、非対称性の決定に関与しない。前者では、ピーク勾配3212は、左右どちらの側でもカウントされておらず、後者では、上限閾値3275(本例では0.95、一般には、0.85〜0.97の間)がピーク勾配3212を右側のカウントにおいてカウントから排除しているためである。
また上記の方法に対する別の変更例は、ピーク勾配から勾配プロファイルが補間されて、ピーク勾配3212(又は補間ピーク3270)の勾配値の小数(好ましくは10%〜90%、より好ましくは20%〜80%)である、ある勾配レベルをわたる(交差する)左側まで及び右側までのそれぞれ距離を求め、小さい方の距離よりも大きい方の距離がある幅非対称性閾値以上超えている場合、対称性の欠如を検出するものである。言い換えれば、一方の距離を他方の距離から除したものがマイナス(幅非対称性閾値)よりも小さい負の数又は幅非対称性閾値よりも大きい正の数の場合、対称性の欠如と判定する。従って、許容域はゼロに対して対称な数値幅を有する。前記幅非対称性閾値は、いくつかの方法により求められてもよい。それは、画像に対して固定数、すなわちピークに対応するエッジのエッジ幅に応じた数として与えられてもよく、例えば、エッジ幅が3以下の場合は、エッジ幅の10%、エッジ幅が3を超え、且つ5未満である場合は、エッジ幅の7%である。どのような画像信号(勾配プロファイルの勾配がそれから発生される)か及び/又はどのように勾配プロファイルの勾配が発生されるかに基づく、他の合理的な依存関係は、幅非対称閾値を決定するのに許容でき、特にピークの補間及び/又は交差の補間における不正確性を許容する。図24Aはまた、この非対称検出方法を示している。ピーク勾配3212(位置6)からの距離、あるいは補間ピーク3270(おおよそ位置5.8)からの距離を測定してもよい。本例では、距離WL及びWRは、補間ピーク3270から測定され、それぞれ約2.5及び1.3となっており、差分は1.2である。エッジ幅は、+0.3の正規化された勾配レベルで測定され、約3.7となっている。幅非対称性閾値は、エッジ幅のある割合(例えば15%)として与えられ得、0.56となっている。前記差分(1.2)は、幅非対称性閾値(0.56)を超えているため、対称性の欠如が検出される。なお、ピーク勾配3212(本例では、位置6)であるか、補間ピーク3270(おおよそ位置5.8)であるかは、フォーカス信号又はフォーカス制御システムに対して無視できる程度の関係である。それらの位置の違いは概して0.5未満、一般には0.3未満であり、|WL−WR|が0.6未満となるためである。エッジの勾配プロファイルが非対称である殆どの場合、WLとWRとの不一致は、0.6をはるかに超える。WLとWRを測定するために一方又は他方のどちらを選択するかは、従って、無視できる程度の小さなエッジの対称性の欠如を求める場合にしか影響しない。
他の方法は、ピーク勾配3212(又は補間ピーク3270)のうち一方に対して左側、他方に対して右側の2つの区域を評価し、区域非対称性閾値に対する所定の基準に応じてそれらを比較することである。2つの区域各々は、ピーク勾配(又は補間ピーク)下の垂直線によって一方の側に区切られ、他方の側に補間勾配(実線曲線)(又は、連続する勾配を接続する直線)によって区切られていてもよく、ピーク勾配レベル(又は補間ピーク勾配レベル、すなわち補間ピークの勾配レベル)の異なる所定の割合である上勾配レベル及び下勾配レベルによって上下に区切られていてもよい(あるいは、上勾配レベルは、区域を制限していないが、勾配又は勾配プロファイルそのものである)。例えば、図24Bにおいて、補間ピークが1.0の勾配レベルとなるように勾配プロファイルが正規化された場合、上勾配レベル3276は、0.75となり、下勾配レベル3274は0.2となる。領域3277(区域ALを有する)(正の補間ピーク3270の左側)は、上からは上勾配レベル3276によって区切られ、下からは下勾配レベル3274によって区切られ、右からは補間ピーク下の垂直一点鎖線によって区切られ、左からは補間勾配プロファイル(実線曲線)によって区切られている。領域3278(区域ARを有する)(同ピーク3270の右側)は、上下からは同様に区切られ、右からは補間勾配プロファイルによって区切られ、左からは垂直一点鎖線によって区切られている。区域ALとARが所定の基準に応じた所定の範囲を超えて異なると、対称性の欠如が検出される。例えば、大きい方の区域が、区域非対称性閾値以上に小さい方の区域を超えた場合に、非対称性が検出されてもよい。前記区域非対称性閾値は、さまざまな異なる方法のうちの1つで表現されてもよい。前記区域非対称性閾値は、(小さい方の区域の)百分率で表現されてもよく、それは画像に対する固定数又は関連するエッジのエッジ幅の関数であってもよい。あるいは、前記区域非対称性閾値は、正規化された勾配プロファイルに対する区域差分で表現されてもよい。どのような画像信号(それから勾配プロファイルの勾配が発生される)か及び又はどのように勾配プロファイルの勾配が発生されるかに基づく、その他の合理的な依存関係は、区域非対称性閾値を決定するために許容される。
他の方法においては、図24Iに示すように、補間ピーク3270(又はピーク勾配3212)から勾配プロファイルの左側及び右側までの共通距離Woを測定する。言い換えれば、補間ピーク3270(又はピーク勾配3212)下の垂直一点鎖線からのそれらの距離が共にWoとなるように、補間勾配を算出する(又は勾配を求める)。完全に対称な勾配プロファイルでは、両方の補間勾配が共通の勾配レベルにある。しかしながら、非対称な勾配プロファイルでは、補間勾配は、異なる勾配レベルGl3252、Gh3253にある。勾配レベルGl及びGhが、所定の基準に応じた所定の範囲を超えて異なる場合、対称性の欠如が検出される。例えば、小さい方の勾配レベルGl3252を超える大きい方の勾配レベルGh3253の超過Ghlが、小さい方の勾配レベルGlよりも勾配非対称性閾値以上大きい場合に、非対称性が検出されてもよい。前記勾配非対称性閾値は、様々な異なる方法のうちの1つによって表現されてもよい。前記勾配非対称性閾値は、(例えば、小さい方の勾配Glの)百分率で表現されてもよく、画像に対する固定数であってもよく、関連するエッジのエッジ幅の関数であってもよい。あるいは、前記勾配非対称性閾値は、正規化された勾配プロファイルに対する勾配レベルの差分によって表現されてもよい。どのような画像信号(そこから勾配プロファイルの勾配が発生される)か及び/又は勾配プロファイルの勾配が発生されるかに基づく、その他の合理的な依存関係は、勾配非対称閾値を決定するために許容される。共通のWoは、0.1〜0.5、好ましくは0.2〜0.4の小数のような、エッジ幅の所定の割合となるよう選択されてもよい。あるいは、Woは、補間ピーク3270(又はピーク勾配3212)から補間勾配対又はピーク勾配レベルの所定の割合である所定の勾配レベルの勾配までの2つの距離の小さい方として選択されてもよい。この場合、Ghのみが非対称性の程度を示すパラメータであり得る。次に、勾配非対称性閾値は、Ghが前記閾値を超えた場合に非対称性の欠如が検出されるように設定してもよい。その他の様々なWoの定義方法及び基準の定義方法は、当業者にとって考え得ることである。
最後に示した方法の変形例は、勾配レベルWlとWhでの2つの補間勾配の第1又は第2導関数をそれぞれ比較することである。完全に対称な勾配プロファイルでは、両方の補間勾配が符号は逆であるが同一の大きさである第1導関数と、符号及び大きさにおいて同一である第2導関数を有している。しかしながら、非対称な勾配プロファイルでは、補間勾配は一般に、第1及び第2導関数は異なる。第1導関数の大きさが2つの補間勾配(又はおそらく勾配)の間で所定の基準に応じた所定の限界を超えて異なる場合、対称性の欠如が検出される。例えば、大きい方の第1導関数が小さい方の第1導関数よりも大きさにおいて非対称性閾値以上に大きい場合、非対称性が検出されてもよい。他の例では、第2導関数のうち一方を他方から減算した差分が非対称性閾値を超える場合、非対称性が検出されてもよい。前記非対称性閾値は、様々な方法のうちの1つによって表現されてもよい。非対称性閾値は、百分率(例えば、小さい方の第1/第2導関数の)で表現してもよく、画像に対する固定数であってもよく、関連するエッジのエッジ幅の関数であってもよい。どのような画像信号(それから勾配プロファイルの勾配が発生される)か及び/又はどのような勾配プロファイルの勾配が発生されるかに基づく、他の合理的な依存関係は、前記勾配非対称性閾値を決定するために許容される。
上述の画素カウント又は距離(図24A)又は区域(図24B)を使用して非対称性を検出する方法において、補間ピーク又はピーク勾配に基づいてカウント又は距離又は区域を分割するのではなく、先に述べたような中間点が使用できる。例えば、補間ピーク3270下の垂直点鎖線を使用して、上勾配レベル3276と下勾配レベル3274との間の区域をそれぞれ区域ALとARの2つの領域に分割するにあたり(図24B参照)、上勾配レベル(正規化された勾配レベル0.75の水平点線)と補間勾配プロファイル(実線曲線)との間の1対の交差点の中間点から垂直線を引くことができる。あるいは、垂直線は、下勾配レベル(正規化された勾配レベル0.2の水平鎖線)との間の1対の交差点から引くことができる。あるいは、垂直線は、補間勾配プロファイルとピーク勾配の勾配レベルの所定の百分率の範囲(例えば、10%〜90%の間)のいずれかの勾配レベルとの間の1対の交差点の中間点から引くことができる。
上記の区域方法の他の変形例は、上勾配レベル3274と下勾配レベル3276との間の補間勾配曲線(あるいは、連続する勾配を結ぶ直線セグメント)の長さを評価することである。例えば、図24Cにおいて、補間勾配曲線は、左側に正規化された勾配レベル0.25と0.75との間にセグメント(長さLLを有する)を有し、右側のセグメントよりも長く、明らかに長さLRの方が短く、対称性の欠如を示している。長さLLとLRが所定基準に応じた所定の制限を超えて異なると、対称性の欠如が検出される。例えば、長い方の長さが長さ非対称閾値以上に短い方の長さより長い場合、非対称性が検出されてもよい。上記区域非対称閾値のように、長さ非対称閾値は、様々な異なる方法のうちの1つによって表現されてもよい。長さ非対称閾値は、百分率(例えば、短い方の長さの)で表現されてもよく、好ましくは10%〜30%であり、画像に対する固定数であってもよく、関連するエッジのエッジ幅の関数であってもよい。あるいは、長さ非対称閾値は、正規化された勾配プロファイルに対する長さの差分で表現されてもよい。どのような画像信号(それから勾配が発生される)か及び/又は勾配がどのようにして発生されるかに基づく他の合理的な依存関係は、前記長さ非対称閾値を決定するために許容される。なお、上述のように、下勾配レベル又は上勾配レベルを描く際にピーク勾配3212と補間ピーク3270のどちらを参照するかは、フォーカス制御システム又は特にフォーカス信号にとっては重要ではないことに留意すべきである。逆の符号の2つのエッジが互いのエッジ幅に影響するほど非常に接近している場合は、ほとんどの場合、LLとLRとの不一致がかなり大きいため、どちらを選択しても、長さの差分における差はほとんどない。LLとLRを測定するために一方又は他方のいずれを選択するかは、従って、無視できる程度の小さなエッジに対する対称性の欠如にしか影響しない。
最後に説明し、図24Cで示した方法は、改変してもよい。長さLLとLRとを比較する代わりに、左側及び右側の斜線領域の区域A’L及びA’Rのそれぞれを同様の方法で比較できる。区域非対称性閾値は、同様に規定してもよく、A’LとA’Rとの差の大きさを比較するために使用してもよい。
最後に説明し、図24Cに示した長さ方法は、更に別の方法に改変してもよい。左側の、補間勾配曲線が上勾配及び下勾配と交差する間の距離(WBL)と、同右側の距離(WBR)とを比較する。WBLとWBRとが所定の基準に比べて非常に異なっている場合、対称性の欠如が検出される。例えば、WBLとWBRのうち大きい方が、小さい方よりも幅非対称性閾値以上に大きい場合、対称性の欠如が検出される。また、前記幅非対称性閾値は、上記の様々な非対称性閾値方法のうちのいずれか1つと同様に規定され得る。
図24Hは、最後に説明した幅方法と均等な別の方法を示す。この方法では、上勾配レベル3276での2つの補間勾配3284、3285の間の第1中間点3281(上中間点)と、下勾配レベル3274での2つの補間勾配3282、3284の間の第2中間点3280(下中間点)を算出し、第1中間点3281と第2中間点3280との間の距離Xabを算出する。完全に対称な勾配プロファイルでは、第1中間点3281と第2中間点3280との間の距離(“相互中間距離”)は、無視できる程度の距離である。すなわち、図24Jのように、中間点同士一致している。前記相互中間点距離が所定の相互中間点距離非対称閾値を超える場合、対称性の欠如が検出される。前記相互中間点距離は、|WBL−WBR|の2倍である。この方法のバリエーションにおいては、図24Hに示すように、勾配レベル3274のみを使用して対応する中間点3280のみを算出し、ピーク勾配3212(又は補間ピーク3270)から中間点3280までの距離XbPkを測定する。
さらに別の方法は、ピーク勾配3212(又は補間ピーク3270)の両側の勾配プロファイルの傾斜の第1導関数を求め、所定の基準に基づいて前記第1導関数同士を比較し、対称性の欠如があるかどうかを判定することである。例えば、傾斜がきつい方の第1導関数の大きさが、傾斜の小さい方よりも第1導関数非対称性閾値以上に大きい場合は、対称性の欠如が判定される。一方、完全に対称な勾配プロファイルは、両側で符号のみが異なり、大きさが同一である第1導関数を有する。前記複数の第1導関数は、補間によって近似的に算出されてもよい。前記複数の第1導関数は、例えば、0.5といったピーク勾配値のある割合(好ましくは10%〜90%の間、より好ましくは20%〜80%の間)である勾配レベルで近似的に算出されてもよい。図23Bにおいて、勾配レベルがピーク勾配3212の0.5倍である場合、正のピーク勾配3212の両側で、連続する1対の立ち上がり傾斜及び立ち下り傾斜がある。右側の傾斜は、左側の傾斜よりも著しく急勾配である。図24Dは、前記第1導関数が勾配レベル0.25において正規化された勾配プロファイルについてどのように評価され、それぞれ補間勾配プロファイルの左右の辺に接する、底辺幅1の直角三角形(斜線)の斜辺と近似させているかを示している。前記第1導関数は、それぞれ三角形の高さSL、SRによって近似される。図24Eは、同一の底辺幅(本例では1)を有する2つの三角形を使用した第1導関数の近似方法を示す。各三角形の底辺の中心は、勾配プロファイルを補間して、勾配レベル0.25となる点である。対応する斜辺の端部は、それぞれ1画素の半分ずつ離れており、勾配プロファイルから補間した勾配値を勾配値としている。前記第1導関数は、ここでは1とする底辺で割った高さS’L、S’Rとして近似される。一般に知られているように、様々な連続した複数のデータ要素から第1導関数を近似する方法がある。従って、本発明のこの様態は、上述した特定の例に限定されることはなく、全ての均等な方法及び第1導関数を提供するすべての近似法を含む。
さらに他の方法は、ピーク勾配3212(又は補間ピーク3270)の両側の勾配プロファイルの第2導関数を求め、所定の基準に基づき前記第2導関数同士を比較し、非対称性の有無を判定するものである。例えば、一方が他方よりも第2導関数非対称性閾値以上に大きい場合、対称性の欠如とする。一方、完全に対称な勾配プロファイルは、符号及び大きさが一致する第2導関数を両側で有する。前記第2導関数は、補間により近似的に算出されてもよい。前記複数の第2導関数は、例えば0.25であるピーク勾配値の所定の割合(好ましくは10%〜90%の間、より好ましくは20%〜80%の間)である勾配レベルで算出してもよい。図24Fに第2誘導体の近似方法を示す。まず、左側の、等間隔で連続する三つの組の勾配又は補間勾配3295、3296、3297と、右側の他の三つの組3291、3292、3293を求め、それぞれの中間点3296、3292を0.25の正規化された勾配レベルとする。前記複数の三つの組の一定の間隔に対して、0.25の正規化された勾配レベル上のそれぞれ外側点の対(左側の3295、3297及び右側の3291、3293)の正規化された勾配値の算術平均のそれぞれの高さ(DL、DR)をそれぞれの第2導関数に対する近似値として求める。図24Fに示すように、DLは正であり、DRは負である。
図24Gに他の第2導関数の近似法(正規化勾配レベル0.18)を示す。各側において、補間勾配プロファイルと0.18の勾配レベル(すなわち、この勾配レベルでの勾配又は補間勾配)との間で交差する点の上下で、それぞれ三角形を勾配プロファイルに当てはめている。各三角形の斜辺は、その斜辺が補間勾配プロファイルと合う傾斜で傾斜している。左側の三角形の高さSUL、SLL(右側では、三角形のSUR、SLR)を減算し、第2導関数DL(DR)を求める。前記複数の第2誘導体の逆符号を矢印で示す(上向きはD’L、下向きはD’R)。この勾配プロファイルは、明らかに両側で第2導関数が著しく一致しておらず、従って、非対称である。
一般に知られているように、様々な連続した複数のデータ要素から第2導関数を近似する方法がある。従って、本発明のこの様態は、上述した特定の例に限定されることはなく、全ての均等な方法及び第2導関数のためのすべての可能な近似法を含む。
上記の例で異なる測定パラメータを使用して反射対称性の欠如を検出する方法を述べてきたが、上記の方法のうち2以上を同時に使用してそれぞれの測定パラメータを算出できる。また、これらの測定パラメータを結合させて比較パラメータを形成し、非対称性閾値、より一般的には所定の許容域と比較し、比較パラメータの値が許容域からはずれている場合は、反射対称性の欠如が検出される。例えば、中間点Xab(図24H)同士の距離と、第1導関数SR−SL(図24D)同士の差分を重み平均Zにおいて結合し、許容域を間隔−α<Z<αとして規定する非対称性閾値αと比較してもよい。
エッジの自体にまたがった一連の勾配における非対称性を検出するために、直接にその一連の勾配からの計算の必要がない。
非対称性は、エッジにまたがった複数の画像サンプル値から検出できる。図26を参照すると、それぞれ対比C1およびC2を有する2つのエッジの最も狭い未分割部分は、それらの勾配における完璧な対称性がある場合、両方の中心が一致する。両方の中心の間のずれが非対称性を示す。エッジにまたがった勾配プロファイルの非対称性を示す量を提供するために、そのずれを測定してエッジ幅で割ることができる。
あるいは、それらの未分割部分の、対比C1に対応する一方の中心から、その一連の勾配の最も急な立ち上がりまたは最も急な立ち下がりの(ロバーツ検出器による)ピーク勾配gpeakがあるところまでの距離は、エッジ幅で割られて非対称性の程度を示す。
あるいは、非対称を複数の画像サンプルの複数の二次導関数から測定できる。 図25を参照すると、その負及び正のピークの間にある補間されたゼロ交差から両方までの距離の差は、両方の間の距離で割られて非対称性の程度を示す。
上述の非対称エッジの検出方及び解決法は、エッジ検出及び幅測定ユニット206において行われ得る。
この開示においては、例えば勾配レベルのようなエッジからの量は、別に指定されなければ既定ではエッジのピーク勾配値または補間されたピークの勾配値で割られたと、正規化されていると言われていることを注意する。例えば、図23Bにおいては、ピーク勾配3212は正規化された値が正確に1あるが、図24Cにおいては、補間されたピーク3270はピーク勾配3212と異なって、図24Cに示された勾配を正規化するためにピーク勾配3212に取って代わる。
長さフィルター
以下、長さフィルター212の機能について説明する。広義では、長さフィルター212は、それぞれが同様の配向の1つ以上のエッジに接続するエッジへの嗜好を作成する。同様の方向を有してその他のエッジのいずれにも接しない独立したエッジに比べて、同様の方向を有してグループにおいて互いに接続されたグループのエッジ(「連結エッジ」)は、ノイズに起因する可能性が高くない。従って、同様の方向を有して一緒に連結されたエッジが多ければ、ノイズに起因する可能性が低くなる。ノイズに起因する前記グループの確率は、グループにおけるエッジ数が増えるにつれ、指数関数的に低下され、また直線的な低下よりずっと早い。この特性は、ノイズの抑制に用いられ、特に、画像において又は対象領域において信号対雑音比が例えば10未満と弱いといった薄暗い又は短い露光の場合に用いることができる。前記嗜好は、何れの適当な方法で実施されて表現されてもよい。後述される複数の方法は単に例示に過ぎない。
第1の方法としては、連結長さ閾値より小さい長さを有する垂直/水平連結エッジに属するエッジを消去する。前記連結長さ閾値は、前記対象領域が比較的薄暗い場合に比較的に大きくしてもよい。例えば、前記連結長さ閾値は、2のような小さな値から始まってもよいが、対象領域における信号対雑音比が5に低下される場合に8に増える。前記連結長さ閾値は、前記プロセッサー112、112’、112’’によって、例えば、信号132の一部となる図3に示すような「長さコマンド」信号で提供されてもよい。または、前記閾値は、式に基づいて前記フォーカス信号発生器で算出されてもよい。
第2の方法としては、それぞれのエッジに対して前記長さフィルター212で長さ重みを提供し、そしてこの長さ重みを前記フォーカス信号算出器210でのフォーカス信号の算出に適用する。比較的長い連結エッジの一部であるエッジは、比較的短い連結エッジの一部であるエッジより大きい重みを受け取る。例えば、前記長さ重みは、前記連結エッジの長さの平方であってもよい。従って、全ての寄与値を合計する前に、それぞれのエッジのフォーカス信号に対する寄与値に因子A/Bを乗じることによって、フォーカス信号を形成してもよく、ここで、Bはフォーカス信号の算出に入る全てのエッジの長さ重みの合計であり、Aは前記エッジの長さ重みである。同様に、エッジ幅のヒストグラム(信号134の一部として出力されてもよい)は、好ましくは、いずれのエッジも同様の寄与値(例えば+1)を提供するのではなく、比較的長い連結エッジに属する複数のエッジが、それらのそれぞれのエッジ幅に対応するビンにより大きな寄与値を提供するようにすることができる。従って、例えば、それぞれのエッジはA/Cに寄与することができ、ただし、Cは前記エッジに亘るAの平均値である。同様に、幅狭いエッジカウントは、比較的長い連結エッジのメンバーとしてのエッジがより多く寄与するようにすることができる。従って、例えば、それぞれのエッジによる寄与は、A/Dを乗じてもよく、ただし、Dは幅狭いエッジカウントで数えられるエッジの間のAの平均値である。
最上部(最左側)及び底部(最右側)のエッジを除き、それぞれのエッジが2つの他の垂直(水平)エッジ(一方のエッジはその上方(左側)、他方のエッジはその下方(右側)にある。)に接触する1群のN個の垂直(水平)エッジは、長さNを有する垂直(水平)連結エッジである。前記上部(最左側)エッジは、その下方(右側)のエッジのみに接触することが必要である。前記底部(最右側)エッジは、その上方(左側)のエッジのみに接触することが必要である。
図8は垂直連結エッジ及びその長さを示す。図8において、セルR2C3及びR2C4は第1の垂直エッジを形成し、ユニットR3C3、R3C4及びR3C5は一緒に第2の垂直エッジを形成し、また、ユニットR4C4及びR4C5は一緒に第3の垂直エッジを形成している。前記第1及び第3の垂直エッジはそれぞれ他の垂直エッジのみに接触するのに対し、前記第2の垂直エッジは2つの他の垂直エッジに接触する。前記第1、第2及び第3の垂直エッジは一緒に長さ3を有する垂直連結エッジを形成する。
垂直(水平)連結エッジに2つ以上の分岐がある、即ち、1行(列)に2つのエッジがある場合(図示せず)には、前記長さが連結エッジにおける総エッジ数として定義されてもよい。又は、前記長さは、その中の最上部(最左側)エッジから最底部(最右側)エッジまでの垂直(水平)距離に1を加えたものとして定義されてもよい。
上述した提案の他に、連結長さを定義する他の可能な方法がある。例えば、連結エッジの長さの定義は、前記長さが前記連結エッジにおける少なくとも3までのメンバーエッジ数に比例する特性を有することである。これは、前述した推理に合致しており、すなわち、互いに接触して互いに接続される複数のエッジが多ければ、連結エッジがノイズに起因される確率が指数関数的に低くなり、これによって、前記長さが、連結エッジにおける適当な数以下のメンバーエッジ数に比例することになるべきであり、前記適当な数とは、当該連結エッジの信頼性を単一のメンバーエッジの信頼性よりも十分に向上させる数である。前記長さフィルター212は、連結長さ1を有するエッジを弱め、又は消去して、広義では区別することができる。前記長さフィルター212は、連結長さ2を有するエッジを区別することができる。前記長さフィルター212は、連結長さ3を有するエッジを区別してノイズによる影響をさらに低下することができる。前記長さフィルター212は、前記プロセッサーからのコマンドに基づいてこれらの動作の何れか1つを行うことができる。
図3には前記エッジ検出・幅測定ユニット206の直後に設けることを示しているが、その他の配置も可能である。例えば、前記フォーカス信号算出器210の前に前記長さフィルター212が挿入されてもよい。前記長さフィルター212によって処理された複数のエッジは、「精細」信号に応じて前記幅フィルター209を通過するエッジである。
フォーカス信号発生器の代替実施形態においては、前記精細スイッチ220を除去することにより、前記フォーカス信号算出ユニット210に、前記幅フィルター209にろ過されていない第1のデータ群及びろ過された第2のデータ群を受信させ、そして、前者のデータ群の計算により概略フォーカス信号を取得し、後者のデータ群の計算により精細フォーカス信号を取得するように、前記両データ群に対して計算を行って異なるフォーカス信号を取得し、さらに、この2つの信号を前記プロセッサー112、112’に出力してもよい。
幅フィルター
次に、図3を参照して前記幅フィルター209の動作を理解する。図11は複数のエッジ幅のヒストグラム、即ち、複数のエッジ幅に対する複数のエッジのカウントのグラフを描いている。エッジ幅2(即ち、前記上述鮮明エッジ幅)には、前記画像に複数の鮮明なエッジが存在することを示唆するピークがある。しかし、エッジ幅4及び5には複数のピークがあり、これは、エッジがぼやけたことを示唆している。その原因としては、たぶん、対応する結像オブジェクトがフォーカスされておらず、これらの結像オブジェクトのフォーカスレンズからの距離が前記鮮明なエッジを生じさせたオブジェクトのフォーカスレンズからの距離と異なっているからである。フォーカス信号を算出するには、幅が所定の範囲(「幅狭いエッジ範囲」)外にある複数のエッジは、前記幅フィルター209によって、重点を減らすようにしてもよい。前記幅フィルター209は、前記フォーカス信号の算出に用いるために、前記幅狭いエッジ範囲外にある複数のエッジ幅に対して比較的小さい重みを作成してもよい。例えば、複数のエッジ幅に対して重み1.0が割り当てられるが、上限840の右側へ+1よりも大きく離れた複数のエッジ幅に対して重み0が割り当てられ、その間の複数のエッジ幅に対して0〜1.0の重みが割り当てられ、エッジ幅と共に単調に低減される。または、前記幅フィルター209は、それらのエッジをフォーカス信号の計算から完全に排除してもよい。適切な上限及び下限830、840は、画素アレイ108でのクロストーク、フォーカス信号発生器120に受信された画像に対して欠落色を発生する補間方法及び前記エッジ検出・幅測定ユニット206に採用されるローパスフィルターに用いられるフィルター係数を含む幾つかの要素に依存する。適切な上限及び下限830、840及び前記パラメータの鮮明エッジ幅は、前記画像ピックアップ装置102、102’に対して、種々の鮮明度を有する画像を取り込んでエッジ幅のヒストグラムを調べることによって決定されてもよい。例えば、鮮明な画像のピークがエッジ幅2にある場合、適切な上限及び下限はそれぞれ、1.5及び3であり、前記鮮明エッジ幅は2.0に設定されてもよい。前記下限と上限及び鮮明エッジ幅は、上述したように決定され、そして前記プロセッサー112、112’’によって前記フォーカス信号発生器120、120’、120’’に供給されてもよい。「精細コマンド」がオンになると、このように算出された精細なフォーカス信号が、幅狭いエッジ範囲外にあるエッジ幅に重点を減らすようにする。
また、前記幅フィルター209は、エッジ幅が幅狭いエッジ範囲内にある複数のエッジの総数を算出し、出力信号134の一部として出力してもよい。幅狭いエッジのカウントは、前記フォーカスシステムコントローラ(プロセッサー112)に入力されて、鮮明な画像の存在の検出及び/又は追跡の開始のために用いられてもよい。
フォーカス信号
次に、図3の前記フォーカス信号算出器210を参照すると、前記フォーカス信号算出器210は、複数のエッジ幅を受信してフォーカス信号を出力する。前記フォーカス信号は、全てのエッジ幅の重み付け平均値として算出されてもよく、前記重みはそれぞれのエッジ幅に対するエッジのカウントであり、即ち、フォーカス信号=Σwiei/Σwi、ただし、eiはエッジ幅、wiは重み、ここで、wi=ci、ciはエッジ幅eiにおけるエッジのカウントであり、iは複数のエッジ幅の一ヒストグラムのビン数である。または、それぞれのエッジ幅における重みは、エッジ幅のエッジのカウントに前記エッジ幅そのものを乗じたもの、即ち、wi=cieiであってもよい。また、重みで表される前記幅フィルター209からの嗜好は、それぞれのエッジ幅をさらに乗じてもよい。例えば、前記幅フィルター209により発生される重みΩiに対しては、ΣΩi=1、フォーカス信号はΣΩiwiei/ΣΩiwiとして算出されてもよい。制御信号「精細」がオン、且つ「排除」がオフになると、図11に示す実例では、前記フォーカス信号は、2.0という鮮明なエッジ幅の値に非常に近い値となり、これは、2.0〜3.0のエッジ幅を発生する焦点距離範囲において、ほとんどのオブジェクトの細部が実際に鮮明にフォーカスされていることを示唆している。制御信号「精細」がオフ、且つ「排除」がオフになると、前記フォーカス信号は5.0に近い値となり、画像において焦点外れの細部がかなり多く存在していることを示唆している。前記精細スイッチ220をオンにすると、前記フォーカス信号が少しぼやけたオブジェクトにより多く応答し、完全にぼやけたオブジェクトにより少なく応答することが可能になる。前記精細スイッチ220がオンになると、前記フォーカス信号を精細なフォーカス信号と呼び、前記精細スイッチ220がオフになると、概略フォーカス信号と呼ぶことにする。上述したように、前記長さフィルター212により表現される前記強調は、複数の方法のうちの1つにより、前記フォーカス信号に組み込まれてもよい。例えば、フォーカス信号の計算への組み込みを弱めるようにエッジを消去してもよく、または、エッジの、対応するエッジ幅のビンのカウントeiへの寄与において、その対応する重みを低減してもよい。
図15は、オブジェクトが鮮明にフォーカスされている所の近傍のフォーカス位置の調節に対する前記精細フォーカス信号の応答をスケッチする。前記精細なフォーカス信号は、大体、前記フォーカス位置により画像が鮮明にフォーカスにされるような鮮明エッジ幅において、極小値に達するが、そうでなければ増える。前記精細フォーカス信号は、既に焦点が合った又はその状態に非常に近いオブジェクトの追跡に用いられてもよい。移動するオブジェクトに対しては、前記精細なフォーカス信号は、焦点距離が変わり続ける場合でも、前記フォーカス制御システムにより、これらのオブジェクトが鮮明にフォーカスされることを保つようにする。前記精細なフォーカス信号はまた、前記オブジェクトが、幅が幅狭いエッジ範囲に収まるエッジを生じさせるように、鮮明にフォーカスされないがこの状態に十分に近いオブジェクトの鮮明フォーカスを取得する(「取得」)ことに用いられてもよい。前記エッジ幅のヒストグラムに示すピークは、前記鮮明エッジ幅から離れた、前記オブジェクトに対応するエッジ幅のところにあるために、前記精細なフォーカス信号が鮮明エッジ幅よりも大きくなるので、前記フォーカス制御システムは、前記精細なフォーカス信号値が前記鮮明エッジ幅にさらに近くなるようにフォーカス位置を調節することでそれに対応することができ、これにより、前記オブジェクトに起因するエッジ幅のピークが鮮明エッジ幅に等しいエッジ幅の値の中心に位置決めされる。
基本の使用方法
図12〜16は、幅狭いエッジカウント、概略フォーカス信号及び精細なフォーカス信号が鮮明な画像を実現するためにフォーカス制御の実施に如何に用いられるかを示す。
図12は、前景における「人」、背景における「山、太陽及び地平線」、及びその間における「自動車」のように、異なる焦点距離において3つのグループのオブジェクトを有する戸外シーンを示す。
図13は、前記フォーカスレンズ104のフォーカス位置が図12に示すシーンを遠くから近くへ走査する場合における時間に対して描かれた幅狭いエッジカウントの図である。前記幅狭いエッジカウントは、フォーカス位置においてオブジェクトが画素アレイ108で鮮明な画像となる場合にピークに達する。従って、前記幅狭いエッジカウントは走査中に、「山、太陽及び地平線」、「自動車」及び「人」に対してこの順で1つずつ、合計3つのピークを示す。
図14は時間に対して描かれた概略フォーカス信号を示す。前記概略フォーカス信号は、前記フォーカス位置が幅狭いエッジカウントがピークに達する3つのフォーカス位置のそれぞれに近い場合に極小値を示す。しかし、それぞれの極小値において、前記概略フォーカス信号は、焦点外れの他のオブジェクトにより寄与された比較的大きいエッジ幅に起因して、前記鮮明エッジ幅レベル、この実例では2.0にない。
図15は、図12のシーンにおける「自動車」に対する鮮明なフォーカス位置の近傍にあるフォーカス位置に対して描かれた精細なフォーカス信号を示す。前記精細なフォーカス信号は、複数のぼやけたオブジェクト(「人」及び「山、太陽及び地平線」)が存在するにもかかわらず、鮮明エッジ幅、この実例では2を基本的に達成する。図11を再び参照すると、幅4及び5における2つのピークは、それらの2つのグループのぼやけたオブジェクトにより寄与されるが、これは、前記幅フィルター324が重みを低減させ、又は上限840の右側へのエッジ幅による寄与を完全に消去したと理解することができる。
フォーカス制御システムは、概略フォーカス信号を利用して、検索モードで最寄りの鮮明なフォーカス位置を検索することができる。それは、フォーカス位置を現在のフォーカス位置から離れるように移動させて前記概略フォーカス信号が増加するか低減するかを決定することができる。例えば、前記フォーカス位置が内向き(外向き)に移動する場合に前記概略フォーカス信号が増加(低減)すると、現在のフォーカス位置から比較的遠い鮮明なフォーカス位置が存在する。前記プロセッサー112、112’、112’’はその後、フォーカス駆動信号を供給し、隣接する鮮明なフォーカス位置へフォーカスレンズ104を移動させることができる。
フォーカス制御システムは、前記シーンにおける変化、前記オブジェクトの移動又は前記画像ピックアップ装置の移動にもかかわらず、前記精細なフォーカス信号を利用して、既に鮮明にフォーカスされたオブジェクトを追跡して対応する画像の鮮明さ(従って、「追跡モード」)を保ってもよい。オブジェクトが鮮明にフォーカスされる場合に、上記の変化があるにもかかわらず、前記精細なフォーカス信号レベルは安定している。これによって、前記精細なフォーカス信号の変更は、前記オブジェクトの画像ピックアップ装置からの焦点距離の変更を示唆する。前記フォーカス制御システムを、極小値の近くの所定の精細なフォーカス信号レベル、例えば、この実例では2.0〜2.5、特に2.1に「ロックする」ことにより、前記精細なフォーカス信号レベルが変動すると、直ちに前記プロセッサー112、112’、112’’に前記オブジェクトの焦点距離の変更が通知される。前記プロセッサー112、112’、112’’はその後、方向を決めて、フォーカスレンズ104を移動させて前記精細なフォーカス信号レベルを「ロックされた」レベルに回復させることができる。従って、前記画像ピックアップ装置102、103、103’、103’’は、移動オブジェクトを追跡することができる。
例えば、プロセッサー112、112’、112’’におけるアルゴリズムにおいて実施されるようなフォーカス制御システムは、幅狭いエッジカウントを利用して検索モードから追跡モードへの変更をトリガしてもよい。前記追跡モードにおいて、前記フォーカス制御システムは、前記精細なフォーカス信号により前記オブジェクトを「ロックする」。フォーカス位置が前記オブジェクトの鮮明なフォーカス位置に十分に近づく前に、前記フォーカス制御システムは、前記概略フォーカス信号により移動方向を確認し、レンズの移動速度を調節してもよい。オブジェクトが鮮明にフォーカスされる場合に、幅狭いエッジカウントはシャープにピークに達する。幅狭いエッジカウントにおける鮮明な上昇、ピークの到達又はその両方を検出した場合、前記プロセッサー112、112’、112’’は、追跡モードに切り替えて、精細なフォーカス信号を、フォーカス位置の制御に用いてもよい。鮮明なフォーカス位置によって閾値が異なる可能性があり、前記閾値は、終端間フォーカス位置「走査」によって見つけられたそれぞれのグループのオブジェクトに割り当てられ、そしてその後、幅狭いエッジカウントがこの閾値を超えると、対応するグループのオブジェクトが検出される。静止シーンに対して、例えば、静止画像の撮影に対しては、終端間フォーカス位置走査は、幅狭いエッジカウントがピークに達する毎に最大のカウントがある最大カウントリストを返すことができる。例えば、最大のカウントの50%を取ることにより、前記最大のカウントのリストから、閾値のリストを生成することができる。
図16は、表示装置114と、複数のボタンを含む入力装置107と、前記表示装置114においてハイライトされた選択マーカー1920とを有する画像ピックアップ装置102を示す。ユーザは前記入力装置107を利用して、前記選択マーカー1920を作成、成形及び操作することができる。この実例において複数のボタンを含むことを示しているが、前記入力装置107は、表示装置114でのタッチ又はストロークの位置を検出するために、前記表示装置114に載せたタッチスクリーンを含んでもよい。前記入力装置107、及び前記プロセッサー112、112’、112’’又は入力装置107のための別個専用コントローラ(図示せず)は、選択領域を決定することができる。前記選択領域を記述するための複数のパラメータは、バス132を介して(又はフォーカス信号発生器120が前記プロセッサー112の一部である場合に、前記プロセッサー112において内部で)、前記フォーカス信号発生器120、120’、120’’に転送されることができる。それに応じて、前記フォーカス信号発生器120は、フォーカス信号の算出、幅狭いエッジカウント又はその両方を前記パラメータに記述される選択領域におけるエッジに限定し又は前記選択領域外にあるエッジを軽く扱うようにすることができる。こうすると、前記フォーカス信号より意図せぬオブジェクトの強調を軽く扱うことができ、そして前記概略フォーカス信号でも単一の極小値及び鮮明なエッジ幅における1.0以下の最小レベルを示す。
代替実施形態
図17は、フォーカス信号発生器120’の代替実施形態を示す。フォーカス信号発生器120’は、複数のエッジ及び複数のエッジ幅の統計データを出力する。コントローラ120’が出力するエッジ幅の統計データは、異なるエッジ幅におけるエッジのカウントを含むエッジ幅のヒストグラム、エッジ幅のカウントが最大値に達する所でのエッジ幅、異なるエッジ幅におけるエッジのカウントに近いスプライン関数を示す1組の係数、及びエッジ幅の関数を示すことができる任意のデータのうちの1つ以上であってもよい。全数調査ユニット240は、前記フォーカス信号発生器120’と他のユニットのうちの1つ以上で算出されるデータを受信してエッジ幅の統計データを算出することができる。一般に、前記フォーカス信号発生器120’は、エッジ幅分布の表示の信号を出力することができる。
図18に示すように、このように信号134で代替オートフォーカス画像ピックアップ装置102’における代替実施形態のプロセッサー112’に供給されるエッジ幅の統計データは、上述した方法又はその同等のものにより、概略及び/又は精細なフォーカス信号及び幅狭いエッジカウントを算出するように、前記プロセッサー112’により使用されてもよい。さらに、前記フォーカス信号発生器120’に算出された何れのデータも、出力信号134の一部としてプロセッサー112’に出力されてもよい。
前記プロセッサー112’は、図1のプロセッサー112に含まれる機能の外に、フォーカス信号及び/又は幅狭いエッジカウントを内部で発生させてもよい。
前記画素アレイ108、A/D変換器110、色補間器148及び発生器120’は、前記プロセッサー112’とは別の、画像センサー150’を一緒に含むパッケージ142に備わってもよい。
補助画素アレイ
図19は、オートフォーカス画像ピックアップシステム103の代替実施形態を示す。システム102に含まれる素子の外に、前記システム103は、ハーフミラー2850と、フルミラー2852と、光学ローパスフィルター2840と、主画素アレイ2808と、主A/D変換器2810とを含んでもよい。前記ハーフミラー2850は、入射する光ビームを、第1のスプリットビーム及び第2のスプリットビームに分割し、その一方を透過させ、他方を反射させることができる。前記第1のスプリットビームは、最後に、前記第1のスプリットビームを検出してアナログ信号に変換する前記主画素アレイ2808に到達する前に、さらに前記光学ローパスフィルター2840を透過してもよい。前記第2のスプリットビームは、最後に、図1に示すシステム102における画素アレイ108に対応する前記補助画素アレイ108’’に到達する前に、前記フルミラー2852により反射されてもよい。第2の光ビームに対する第1の光ビームの光強度の比は、1対1又は1対1よりも大きくなり得る。例えば、この比は4対1になり得る。
前記主画素アレイ2808は、例えばバイエルパターンのようなカラーモザイクパターンのカラーフィルターアレイに被覆されてもよい。前記光学ローパスフィルター2808は、前記画素アレイ2808にフォーカスされた最小光点がエイリアシングを引き起こすほど小さすぎないようにする。モザイクパターンのカラーフィルターが前記画素アレイ2808を被覆する場合に、エイリアシングは、色補間の後にカラーモアレ偽像を引き起こし得る。例えば、前記光学ローパスフィルターを利用することにより、前記主画素アレイ2808における光点の可視光パワーの84%を取り囲む円の最小直径(「最小主直径」)は、画素の幅の1.5倍より大きいが、画素の幅の2倍より小さいように維持される。例えば、前記主画素アレイ2808は4.5umの画素の幅を有するのに対し、光学ローパスフィルタリング無しで最小直径が2.0umであると、前記光学ローパスフィルター2840は、光点の直径が6.7um以上になるようにするために選択されてもよい。
前記補助画素アレイ108’’は、1つ以上の光検出器アレイを含んでもよい。これらのアレイのそれぞれは、カラーモザイクパターンのカラーフィルターアレイに被覆されても、被覆されなくてもよい。前記補助画素アレイ108’’におけるこの(これらの)アレイは、A/D変換器110によりデジタル信号130に変換されるアナログ信号で画像を出力する。これらの画像は前記フォーカス信号発生器120に送信される。色補間器148は、複数のカラーフィルターに被覆される画素から発生される画像に対して、欠落色を発生することができる。補助画素アレイ108’’が複数の光検出器アレイを含む場合、それぞれのアレイは、前記主画素アレイ2808により取り込まれた画像の一部に対応するサブ画像を取り込むことが可能である。前記複数のアレイが、物理的に1百個の画素の幅以上に離れてもよく、また、半導体基板を共有しても、共有しなくてもよい。補助画素アレイ108’’における前記画素アレイは、半導体基板を共有しない場合、一緒にパッケージ(図示せず)に収容されてもよい。
主A/D変換器2810は、前記主画素アレイ2808からのアナログ信号をデジタル主画像データ信号2830に変換する。前記デジタル主画像データ信号2830は、前記プロセッサー112に送信され、最後にメモリカード116に記憶されるものである。前記プロセッサー112では、前記主画素アレイ2808において取り込まれた画像に対して色補間、色補正及び画像圧縮/解凍のような画像処理を行い得る。
前記補助画素アレイ108’’における光検出器アレイは、前記主画素アレイ2808の画素の幅(「主画素の幅」)よりも小さい画素の幅(「補助画素の幅」)を有してもよい。前記補助画素の幅は、前記主画素の幅の半分ほどであってもよい。補助画素がカラーフィルターにカバーされ、且つ前記補助画素の幅が光学ローパスフィルタリングが行われていない場合の可視光の最小点の1.3倍よりも小さい場合、前記補助画素アレイ108’’における最小直径(「最小補助直径」)が1.3〜2(好ましくは1.5)倍であって、最小主直径よりも小い大きさに増加されるように、前記補助アレイ108’’の前に第2の光学ローパスフィルターが挿入されてもよい。ユーザには前記補助画像が最終的な取込画像として提示しないので、前記補助画像における微細なモアレは問題ではない。
図22は、前記主画素アレイ2808からの主画像(実線曲線)及び前記補助画素アレイ108’’からの補助画像(鎖線曲線)について、エッジ幅が鮮明なフォーカス位置周辺で如何に変化するかを示す。前記補助画像は、たとえ前記主画像が目的とする鮮明なエッジ幅である2に達する場合であっても、より鮮明な傾斜を与える。前記補助画像は、ユーザには最終画像として示さないため、エイリアシングによるモアレが前記補助画像において重要ではないので、目的とする鮮明なエッジ幅以下に達することが許容される。これにより、前記鮮明なエッジ幅よりも下位及び上位の傾斜がきつくなる。このよりきつい傾斜は、また、前記補助画素の幅が前記主画素の幅より小さいことによって達成される。
図22における陰影領域は、主画像が鮮明なフォーカスに維持されるようにフォーカス位置を制御するための良好な領域を示す。フォーカス位置における外向きの変化により、補助画像でエッジ幅が増加するのに対し、内向きの変化により、それが低減することになる。主画像のエッジ幅が鮮明なエッジ幅に近いことを維持するために、真ん中の補助エッジ幅値を前記陰影領域内にターゲットし、補助画像から発生されたエッジ幅をフィードバック信号として用いるように線形フィードバック制御システムが用いられてもよい。
前記補助画素アレイ108’’、A/D変換器110、フォーカス信号発生器120は、一緒にパッケージ142に収容されて補助センサー150を構成してもよい。前記補助センサー150は、色補間器148をさらに含んでもよい。
図20は、フォーカス信号発生器120をフォーカス信号発生器120’に置き換えたことを除き、装置103と同様のオートフォーカス画像ピックアップ装置103’の代替実施形態を示す。前記補助画素アレイ108’’、A/D変換器110、フォーカス信号発生器120’は、一緒にパッケージ142に収容されて補助センサー150’を構成してもよい。前記補助センサー150は、色補間器148をさらに含んでもよい。
図21は、オートフォーカス画像ピックアップ装置103’’の代替実施形態を示す。前記フォーカス信号発生器120及び前記プロセッサー112’’は、前記補助画素アレイ108’’とは別に、カメラコントローラとしてパッケージ144に収容されてもよい。前記プロセッサー112’’は、プロセッサー112’’が前記主画素アレイ2808及び前記補助画素アレイ108’’から画像を受け取ることを除き、プロセッサー112と同様である。前記プロセッサー112’’は、前記プロセッサー112が図2で信号130に対して実行可能な処理と同様に、信号2830で受け取られた画像に対して色補間、色補正、圧縮/解凍、及びメモリカード116への記憶を行うことができる。図2とは違って、ここでは、信号130で受け取られた画像は、圧縮/解凍されたり、メモリカード116に記憶されたりする必要がない。前記プロセッサー112’’は、補助画素アレイ108’’でのカラーフィルターに被覆された画素に対して、信号130で受け取られた画像に色補間を行い、そして色補間された画像をフォーカス信号発生器120に信号146で送信することができる。
前記オートフォーカス画像ピックアップシステム102、102’、103、103’、103’’は、それぞれ前記プロセッサー112、112’、112’’及び/又は前記フォーカス信号発生器120、120’が本願に記述された機能のうちの1つ以上を実行するようにする指令を含むコンピュータプログラム記憶媒体(図示せず)を備えてもよい。一例として、前記指令は、前記プロセッサー112又は前記発生器120’が図7のフローチャートに基づいてエッジ幅に対して斜め補正を行うようにしてもよい。別の実例として、前記指令は、前記プロセッサー112’又は前記発生器120が幅フィルター209に関する上記記述に基づいてエッジ幅のろ過を実行するようにしてもよい。または、前記プロセッサー112、112’又は前記発生器120、120’は、ファームウェア及びハードウェアの組合わせ又は本願に含まれる機能のうちの1つ以上に対する単純なハードウェアの実装を有するように配置されてもよい。例えば、発生器120において、単純なハードウェアにおいて斜め補正を実施し、ファームウェアにおいて指令による長さフィルター212を実施してもよい。
図30は、フォーカス信号発生器120’のまだ別の実施例を示す。本実施例は、いずれの上記画像キャプチャシステムにも用いることができる。
メモリカード116はシステム102の一部として示されているが、その代わりに、その中に記憶された画像がユーザによりアクセス可能であり、且つ前記システム102の外部にある異なる位置に転写可能であるハードディスクドライブのような、不揮発性記憶媒体も使用してもよい。
前記システムに使用される1つ以上のパラメータ、例えば、鮮明エッジ幅は、前記システムにおける装置の不揮発性メモリに記憶されてもよい。前記装置はフラッシュメモリ装置、プロセッサー又は画像センサー、又はこれらとは別の装置としてのフォーカス信号発生器であってもよい。前記システムに使用される1つ以上の式、例えば、連結長さ閾値を算出するための又はβを算出するための式は同様に、パラメータとして又はコンピュータが実施可能な指令として、前記装置のうちの1つ以上での不揮発性メモリに記憶されてもよい。
上記図面において幾つかの例示的な実施形態を描いて示したが、これらの実施形態は、広い本発明を制限するものではなく、単に本発明を説明するものである。また、本発明は、当業者により様々な別の変形を達成することができるため、上記に描かれて示された特定の構造と構成に限定されないことが理解されるべきである。