JP2014521990A - オートフォーカス画像システム - Google Patents
オートフォーカス画像システム Download PDFInfo
- Publication number
- JP2014521990A JP2014521990A JP2014514159A JP2014514159A JP2014521990A JP 2014521990 A JP2014521990 A JP 2014521990A JP 2014514159 A JP2014514159 A JP 2014514159A JP 2014514159 A JP2014514159 A JP 2014514159A JP 2014521990 A JP2014521990 A JP 2014521990A
- Authority
- JP
- Japan
- Prior art keywords
- edge
- gradient
- width
- image
- edges
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B7/00—Mountings, adjusting means, or light-tight connections, for optical elements
- G02B7/28—Systems for automatic generation of focusing signals
- G02B7/36—Systems for automatic generation of focusing signals using image sharpness techniques, e.g. image processing techniques for generating autofocus signals
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B13/00—Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
- G03B13/32—Means for focusing
- G03B13/34—Power focusing
- G03B13/36—Autofocus systems
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Optics & Photonics (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
- Automatic Focus Adjustment (AREA)
- Focusing (AREA)
Abstract
【選択図】図36
Description
カメラなどのような多くの画像取込装置は、オートフォーカスシステムを備えている。オートフォーカスのプロセスは、画像を取り込む工程と、フォーカスされているか否かを決定するように前記画像を処理する工程と、前記画像がフォーカスされていない場合に、フォーカスレンズの位置(フォーカス位置)を変更するために用いられるフィードバック信号を発生する工程とを含む。オートフォーカス技術としては、主に、コントラスト測定に関わる技術と、対になる画像の間の位相差に着目する技術との2つがある。前記コントラスト方法においては、隣接画素間の強度差を解析し、最大コントラストが検出されるまで前記フォーカスを調節する。前記コントラスト技術は、静止ピクチャに対応することができるが、モーションビデオには適していない。
前記位相差方法は、入力画像を、別々の画像センサーにより取り込まれる2つの画像に分割することを含む。また、前記2つの画像を比較して位相差を決定する。そして、前記2つの画像がマッチするまで前記フォーカス位置を調節する。前記位相差方法は、ビームスプリッター及び付加的な画像センサーのような付加的な部品が必要である。さらに、前記位相差の方法は、相対的に小さい帯域における固定検出点を解析する。小さなグループの検出点を有すると、ノイズが1つ以上の点に重ねられる可能性があるため、エラーが発生しやすくなる。この技術は、前記検出点が画像のエッジと一致しない場合にも無効である。結果として、前記位相差方法は、前記光を分割するため、光センサーに衝突する光の量が半分又はそれ以下に低減されてしまう。これは、前記画像の光強度が低下した薄暗い設置環境において問題になり得る。
構成
参照番号に基づいて図面をさらに詳しく参照すると、図1は、オートフォーカス画像取込システム102の一実施形態を示す。前記システム102は、デジタルスチルカメラの一部であってもよいが、このシステムは画像の制御されたフォーカスが必要ないずれの装置で具現化されてもよいことを理解すべきである。前記システム102は、フォーカスレンズ104と、画素アレイ及び回路108と、A/D変換器110と、プロセッサー112と、表示装置114と、メモリカード116と、ドライブモータ/回路118とを含んでもよい。シーンからの光が前記レンズ104を介して入射する。前記画素アレイ及び回路108は、前記A/D変換器110によりデジタル信号に変換されるアナログ信号を発生する。前記画素アレイ108は、例えば、ベイヤパターンのようなモザイクカラーパターンを組み入れてもよい。前記デジタル信号は、例えば色補間、フォーカス位置制御、色補正、画像圧縮/解凍、ユーザインターフェース制御及び表示装置制御のような様々な処理を実行する前記プロセッサー112に送信されてもよく、前記フォーカス信号発生器120に送信されてもよい。前記フォーカス信号発生器120及び前記プロセッサー112が異なるパッケージに備わっている場合には、前記デジタル信号130に対して色補間を行って前記フォーカス信号発生器120のためにそれぞれの画素における欠落色信号を見積もるために、色補間ユニット148を利用してもよい。または、前記フォーカス信号発生器120及び前記プロセッサー112が同一パッケージ144にある場合には、前記フォーカス信号発生器120は、図2に示すようにバス146を通して前記プロセッサー112から補間されたカラー画像又は前記A/D変換器110から発生された元の画像信号から導き出された単一画像信号(例えば、階調信号)を入力してもよい。
前記フォーカス信号発生器120は、さらにプロセッサー112から1つのグループの制御信号132を受信し、そして、複数の信号134を前記プロセッサー112に出力してもよい。出力信号134は、フォーカス信号134と、狭いエッジのカウントと、前記画像におけるエッジ幅の統計データを示す1組の数字とのうちの1つ以上を含んでもよい。前記プロセッサー112は、前記ドライブモータ/回路118に送信されて前記フォーカスレンズ104を制御するフォーカス制御信号136を発生することができる。フォーカスされている画像は、最終的に前記表示装置114に供給され、及び/又は前記メモリカード116に記憶される。フォーカス位置を調節するためのアルゴリズムは、前記プロセッサー112により実行されてもよい。
前記画素アレイ及び回路108、A/D変換器110、フォーカス信号発生器120、及びプロセッサー112は、全て1つのパッケージに備わっていてもよい。または、前記画素アレイ及び回路108、A/D変換器110、及びフォーカス信号発生器120は、前記プロセッサー112とは別に、図1に示すような画像センサー150としての1つのパッケージ142に備わっていてもよい。または、フォーカス信号発生器120及びプロセッサー112は、前記画素アレイ108及びA/D変換器110とは別に、図2に示すようなカメラコントローラ160としての1つのパッケージ144に備わっていてもよい。フォーカス信号発生器120(又は、例えば図30に示すような任意の代替の実施例)及びプロセッサ112は、共に例えばシリコン基板のような半導体基板上において常駐することができる。
フォーカス信号発生器
図3は、画像供給ユニット202から画像を受信するフォーカス信号発生器120の一実施形態を示す。前記画像供給ユニット202は、図1における色補間器148または図2におけるプロセッサー212であってもよい。前記フォーカス信号発生器120は、エッジ検出・幅測定(EDWM)ユニット206と、フォーカス信号算出器210と、長さフィルター212と、幅フィルター209とを含んでもよい。それは、「精細」222を入力することにより制御される精細スイッチ220をさらに含んでもよい。前記フォーカス信号発生器120は、幅フィルター209からの狭いエッジのカウント、及びフォーカス信号算出器210からのフォーカス信号を供給してもよい。前記フォーカス信号は、「精細」222の入力によって選択可能である精細なフォーカス信号と概略フォーカス信号とのいずれか一方に設定可能である。または、精細なフォーカス信号も概略フォーカス信号も、算出されて出力信号134の一部として出力されてもよい。前記エッジ検出・幅測定ユニット206は、画像供給ユニット202により供給される画像を受信する。図1及び図2においては、制御信号「精細」222のような制御信号は、プロセッサー112により信号132に提供していてもよい。そして、図1及び図2において、前記出力信号134をプロセッサー112に供給してもよい。前記プロセッサー112は、前記フォーカスレンズ104のフォーカス位置を制御するフォーカスシステムコントローラとして機能し、出力信号134を解析して前記画像における鮮明なオブジェクトを検出することによって、複数のオブジェクトの画像を前記画素アレイ108において鮮明にフォーカスする。以下、前記フォーカス信号発生器120の各種の構成要素について説明する。
EDWMユニット206は、前記入力画像を、前記画像の3つの信号、赤(R)、緑(G)及び青(B)が単一画像信号に変換されるように変換してもよい。画像を単一画像に変換するには、幾つかの技術が利用される。複数のRGB値を用いて輝度又は色度値を算出することができ、あるいは、特定比率のRGB値を用いて前記単一画像信号を形成することができる。例えば、前記輝度値は、Y=0.2126*R+0.7152*G+0.0722*B、ただし、Y=輝度値、という式により算出されることができる。前記単一画像信号はその後、ガウスフィルター又は任意のローパスフィルターによって処理され、隣接画素の間に画素データサンプル値を円滑化してノイズを除去する。
前記フォーカス信号発生器120、120’、120’’は、階調信号に限られない。それは、前記画像信号における1つ以上のエッジを検出するために、何れか1つの画像信号に対して操作を行ってもよい。または、それは、例えば、Y、R−G又はB−Gのような複数の画像信号の何れかの組み合せに対して操作を行ってもよい。それは、複数のエッジを検出するために、個別に前記R、G、B画像信号の一つ一つ、又はその何れか1つ以上の組合わせに対して操作を行ってもよい。それは、前記R、G、B画像信号の一つ一つ又はその何れかの組合わせに対して複数のエッジ幅の統計データを形成してもよい。それは、1つ以上の画像信号からの複数のエッジ幅の統計データによってフォーカス信号を形成してもよい。
フォーカス信号発生器は、画像信号内のエッジを識別するためのエッジ検出器を含む。エッジ検出器は、例えばソーベル(Sobel)演算子とプレウィット(Prewitt)演算子とロバーツクロスオペレータ(Roberts Cross)演算子とロバーツ(Roberts)演算子とのような一次エッジ検出演算子を使用する可能性がある。エッジ検出器は、エッジを識別するために、高次のエッジ検出演算子、例えばラプラシアン(Laplacian)演算子のような二次演算子を使用してもよい。エッジ検出器は、既知のエッジ検出演算子のどれか1つまたは公知の演算子のどれかと一般のエッジ検出原理を共有している改良された演算子を使用できる。
エッジ検出器が一次エッジ検出演算子を使用する場合、画像信号の勾配(つまり、一次導関数)は計算する 。勾配を計算するための利用できる様々な方法があって、それらの様々な方法は、様々な一次エッジ検出演算子、例えば ソーベル(Sobel)演算子とプレウィット(Prewitt)演算子とロバーツクロス(Roberts Cross)演算子とロバーツ(Roberts) 演算子とのどれか一つを用いるものを含む。ロバーツ演算子は、単一のカラムまたは単一の行がある行列である2つの核、すなわち[−1 +1] 及びその転置がある 。ロバーツクロス演算子は、2X2行列である2つの核、すなわちMatlab形式従って[<第一行ベクトル;第二行ベクトル;第三行ベクトル] ように表示した[+1,0;0,−1]および[0,+1;−1,0]がある。プレウィット演算子およびソーベル演算子は、基本的に同じ核の、勾配を行方向にとる[−1、0、+1] 、および勾配をカラムの方向にとるその転置があり、その後、それぞれの勾配方向に垂直にローパスフィルタリングする違ったローパスフィルの核を乗じる。垂直及び水平エッジをそれぞれ検出するために、例えば、Sobel−X演算子とSobel−Y演算子をそれぞれ利用し、複数の列及び複数の行に亘った勾配を算出してもよい。画素位置[k,q]におけるSobel−X演算子(ただし、kは行数でqは列数である)は、Sx[k,q]=U[k,q+1]−U[k,q−1]という式から得られる。同一位置におけるSobel−Y演算子は、Sy[k,q]=U[k+1,q]−U[k−1,q]、ただし、U=処理された画像の画像信号、という式から得られる。
エッジ検出器が二次演算子を使用する場合、画像信号の(例えばラプラシアン二次演算子)二次導関数を計算する。
配向タグ付け
それぞれの画素は、その垂直又は水平勾配の大きさが所定の下限(「消去閾値」)(例えば、8ビットの画像の場合には5)を超えている場合に、水平エッジ(「H」)又は垂直エッジ(「V」)とタグ付けられ、或いは、その垂直又は水平勾配の大きさがいずれも当該所定の下限以下の場合に、エッジ無しとタグ付けされてもよい。前記下限によって、緩やかな陰影やノイズによる偽のエッジが消去される。画素は、その水平勾配の大きさがその垂直勾配の大きさを所定のヒステリシス量以上(例えば、8ビットの画像の場合には2)超えている場合に、垂直エッジとタグ付けされ、逆の場合も同様であってもよい。これら両方の勾配が前記ヒステリシス量よりも小さい場合に、前記画素は、その最も近くに隣接した、定められた方向タグを有する画素と同じ方向タグを獲得する。例えば、前記画像を行ごとに左から右へかつ1行ずつに下へ走査すると、隣接画素の検査順番として、まずは上の画素、次は左上の画素、次は左の画素、最後は右上の画素であってもよい。このヒステリシスの適用は、隣接画素がそれぞれほぼ同じ水平及び垂直勾配の大きさを有する場合に同様のタグを得ることを確実にするのに役立つ。図4は水平及び垂直勾配を有する6×6アレイにおけるタグ付けの結果を示す。それぞれのセルにおいては、水平勾配が左上方、垂直勾配が右方にあり、また、方向タグが底部にある。このステップで、エッジ画素がボールド体で印刷されて方向タグを得る資格が与えられるものは、5を超えている水平又は垂直勾配の大きさを有する画素のみである。
前記画像、前記勾配、及び前記タグは、垂直エッジには水平に、水平エッジには垂直に走査されてもよい。同一行において同一の水平勾配極性を有し、かつ全てが垂直エッジとしてタグ付けされた隣接する複数の画素の各グループは、このグループの左側又は右側に同じようなことを満たす隣接画素がない場合に、垂直エッジとして示されてもよい。同様に、同一列において同一の垂直勾配極性を有しかつ全てが水平エッジに対してタグ付けした各グループの連続画素は、このグループの上側又は下側に同じようなことを満たす隣接画素がない場合に、水平エッジとして示されてもよい。これによって、水平及び垂直エッジを識別することができる。
エッジ幅
それぞれのエッジは、勾配の大きさが前記エッジにおけるピーク勾配の大きさの所定の割合よりも小さい画素を除去することによって精細化されてもよい。図5は、エッジのピーク勾配の大きさの3分の1に等しい精細化閾値を利用し、前記エッジ幅を元の9から減らした3に精細化する前記ステップを示す。このエッジの精細化は、勾配が多くの画素において緩やかな減衰を起こし得る多数の重なった陰影が画像にあっても、エッジの鮮明さの視覚認知を支配する見掛けのエッジ幅を設定する主な勾配成分を識別することができるものである。
エッジ幅は、既知方法の何れか1つにより算出されてもよい。エッジ幅の算出方法の1つは、ただ、1つのエッジにおける画素数を数えることである。図5にはエッジ幅を算出する代替方法を示す。図5において、前記精細化閾値304からの補間により、精細化されたエッジの第1の外部画素(画素3)とその隣接した外部画素(画素2)との間に第1の小数画素位置(2.4)が求められる。同様に、第2の外部画素(画素5)とその隣接した外部画素(画素6)との間に第2小数画素位置(5.5)が求められる。前記エッジ幅は、この2つの小数画素位置間の差、5.5−2.4=3.1として求められる。
エッジ幅を算出する方法の別の代替は、(エッジリファインメントの有無にかかわらず)画像信号について、エッジを亘る差を計算しその差をエッジのピーク勾配で割ることである。
或いは、エッジ幅は、エッジを亘った画像信号の複数の二次導関数の一対の正及び負のピーク(又は補間されたピーク)の間の距離であってもよい。他の代案が可能であることは、以下この明細書において表題「エッジ鮮明度の度量」の下で説明される。
シーンの照明と本質的に関係しないエッジ鮮明度の度量としては、幅が単に一例である。幅以外の他の代案があることは、この明細書において表題「エッジ鮮明度の度量」下で見られる。
斜め補正
各エッジは、所定の方向(例えば、垂直方向又は水平方向)又は他の垂直な所定の方向(例えば、水平方向又は垂直方向)に指定されていてもよく、この指定されたエッジ方向に対して垂直な方向に測定したエッジ幅を有していてもよいが、それらのエッジが現れる画像において異なる画像信号値の複数の領域間の境界は、前記所定方向のいずれかに正確にアライメントされていなくてもよく、また一般にされていない。図6Aにおいて、境界(陰影付きの帯)は、垂直鎖線に対して斜め角Φ傾斜しており、幅aは、垂直方向(例えば、水平方向)で測定していることを示している。しかしながら、幅b(図に示す)は、境界方向(これもまた境界の一部をなすエッジの方向)に垂直な方向において測定しており、幅aよりも境界の幅(また、エッジの幅)として、より適切である。それぞれのエッジ方向から垂直には測定していないこのような幅 aは、長くなりすぎる傾向にあり、それぞれの境界の実際の厚さを表していない。
複数のエッジ幅からフォーカス信号を算出するために、これらの所定方向のうちの一方又は他方において測定された前記複数のエッジ幅が、それらをそれぞれのエッジの方向に垂直する方向での幅に低減させることにより補正される。前記エッジ検出・幅測定ユニット206は複数のエッジ幅に対してこのような補正を行う。図6Aに示すように、前記測定された幅aは、直角三角形の斜辺の長さである。前記直角三角形は、その底辺(幅bでマークする)が陰影付きの境界を垂直(これによって前記エッジ方向に垂直)に越えており、角度Φを有している。そして、前記補正された幅bは、前記エッジ方向に垂直な方向への前記測定された幅aの投影から得られ得る。基本三角法から、この投影は、b = a cos(Φ)から求められるが、20%以下の正確性が得られば、近似値を使ってもよい。前記角度Φ又はcos(Φ)そのものは、この技術において知られている、画像におけるエッジの方向を求めるための何れかの既知方法、又は図7に示すフローチャートに記載されるより正確な方法によって、求められ得る。
それぞれの水平又は垂直エッジのエッジ幅は、前記水平又は垂直配向(所定の方向)からの斜めに対して補正されてもよい。図6A、6Bは、垂直線から傾斜した境界(及びこれによって前記境界を形成する複数のエッジ)について水平方向に測定されたエッジ幅に対する補正計算を示す。図6C、6Dは、水平線から傾斜した境界(及びこれによって前記境界を形成する複数のエッジ)について垂直方向に測定されたエッジ幅に対する補正計算を示す。前記補正は、所定の方向(例えば垂直方向又は水平方向)に測定された前記エッジ幅に因子cosΦ(ただし、Φは前記所定の方向からの斜め角)を乗じることにより行われてもよい。
例えば、図7は、1つの垂直線から傾斜した複数のエッジについてのエッジ幅を斜め補正するためのプロセスのフローチャートを示す。(水平エッジについては、フローチャートにおいて「行」を「列」に置換し、「水平」で「垂直」を置き換える。)
ステップ502からステップ506において、斜め角Φが求められる。それぞれの垂直エッジに対して、ステップ502において、水平勾配の大きさがピークに達する列の位置を位置づけ、水平勾配xを求める。ステップ504において、前記列の位置に沿って、2つの画素以内で垂直勾配の大きさがピークに達する位置を求め、そしてこの垂直勾配yを求める。
ステップ506において、斜め角Φ = tan−1(y/x)を求める。ステップ506において、斜め角がルックアップ表を調べることによって求められ得る。ステップ502〜506は、斜め角を求める1つの特定手順及び方法を示しているが、その代わりに当該分野に公知の他の手順及び方法を使用してもよい。
最後に、ステップ508において、当業者が実際によく行うように、cos(Φ)で又はその近似値で乗算することにより前記エッジ幅を縮小する。
図7に示すプロセスの第1の変形としては、入力値x及びyの種々の組み合わせに対するエントリーを有するルックアップ表を提供することに、ステップ506及び一部のステップ508を置き換える。入力値x及びyの組合わせのそれぞれに対して、前記ルックアップ表はエッジ幅補正因子を返す。前記ルックアップ表により出力されるエッジ幅補正因子は、cos(tan−1(y/x))の20%以下(好ましくは5%以下)の近似値であってもよい。そして、前記エッジ幅は、この補正因子で乗算されて斜め補正されたエッジ幅を形成する。
第2の変形としては、垂直勾配yと水平勾配xとの商y/xを算出して商qを発生し、そしてqを使用してqの各種の値のエントリーを有するルックアップ表に入力する。qのそれぞれの値に対して、前記ルックアップ表はエッジ幅補正因子を返す。前記エッジ幅補正因子は、cos(tan−1(q))の20%以下(好ましくは5%以下)の近似値であってもよい。
斜め角Φ(又はその近似値。それによって、前記補正因子の正確性が20%以下になる。)を求めてから、それによって補正因子cos(Φ)(又はその近似値)を求め、又は(第1及び第2の変形に記載したように)前記斜め角Φを求めずに補正因子を直接に求めるためには、ステップ502〜506でx及びyの値を得てもよいが、その代わりに他の方法によってこの2つの値を求めてもよい。
第3の変形としては、前記エッジにおける複数の画素のそれぞれに対して次のことを実行する。(a)画素について水平勾配x及び垂直勾配yの両方を求める。(b)前記画素についてq = y/xを求める。そして、(c)qに対応する補正因子(例えば、cos(tan−1(q))又はその20%以内の近似値)を求める。最後に、前記複数の画素のそれぞれからの補正因子において平均化することによって前記エッジ幅の補正因子を求める。前記平均値は、重み付け平均値、例えば、比較的大きい水平勾配を有する画素に比較的小さい水平勾配を有する別の画素より大きい重みを与えるものであってもよい。
これらの方向や他の方向に沿って別の変形が可能である。
選別閾値
それらのピーク勾配の大きさが隣接する比較的広いエッジのピーク勾配の大きさの所定の割合未満であれば、隣接した複数のエッジがフォーカス信号に寄与することをすっかり排除する又は衰減させることができる。図9A、9B及び9Cは検討されている問題を示す。
図9Aは、それぞれが2画素分の幅の2つの狭い黒色空間によって隔てられた3つの垂直白色バーを示す。前記真ん中の白色バーは2画素分の幅の狭いバーである。図9Bは、鮮明な画像及びぼやけた画像のそれぞれについて図9A中の画像において水平に描いた画像信号を示す。図9Cは、前記鮮明な画像及びぼやけた画像について図9BのSobelx勾配を描いている。図9Cにおいて、前記ぼやけた画像の第1のエッジ(画素2〜5)は前記鮮明な画像の第1のエッジより広く、そして、予想されるように、最後のエッジ(画素13〜15)も同じである。しかし、2つの最も狭いエッジ(画素9と10、及び画素11と12)は両方の画像において2という幅がある。図9Bにおいて、画素9と10及び画素11と12における対応する傾斜は、それぞれ2つの画素で遷移を完成する。しかし、前記ぼやけた画像は、比較的広いエッジから比較的狭いエッジへのピーク勾配の大きさが50%も著しく減少されている。一方、前記鮮明な画像は、比較的広いと比較的狭いエッジとの間で変化が10%未満である。
反対符号の勾配を有する比較的広いエッジに隣接する比較的狭いエッジのピーク勾配の大きさの(例えば20%以上の)著しい減少は、前記ぼやけた画像がよくフォーカスされていないことを示唆する。従って、前記比較的狭いエッジは、前記ぼやけた画像が鮮明であることを示唆するものであるとして、信頼すべきではない。
同様に、互いに緊密に近接していれば、例えば、1画素(「最小エッジ隙間」)しか離れていなければ、それらのエッジの幅が小さくても、交互勾配極性を有する互いに隣接する複数のエッジは、前記ぼやけた画像が鮮明であることを示唆するものであるとして、信用すべきではない。前記最小エッジ隙間は、(例えば1又は2又はその間)画素数で表す。
さらに、消去閾値よりも小さいピーク勾配を有するので1つのエッジが消去され得ると仮定すると、2つの互いに隣接するエッジの一方又は両方からの寄与を消去又は降格させる条件として、次の条件を用いてもよい。すなわち、2つの連続エッジは、同じ勾配極性を有し、かつ、最小エッジ隙間の2倍に鮮明_エッジ_幅(鮮明_エッジ_幅とは、鮮明なエッジのエッジ幅を示すように割り当てられる数である。)を足した距離以下離れるという条件である。
前記エッジ検出・幅測定ユニット206は、比較的広いエッジによって設定された選別閾値、及びオン/オフできる変調選別フラグに基づき、ぎっしり詰まっている比較的狭いエッジを消去するための下記のアルゴリズムを実行することができる。
それぞれのエッジに対して、反対極性の直後のエッジに用いられる選別閾値及び選別フラグは、図10に示すフローチャートのプロセスによって決定される。
前記選別閾値及び選別フラグが与えられると、下記条件の1つが成立しなければ、1つのエッジが消去される。(a)このエッジに対して選別フラグがオフになる。(b)前記エッジのピーク勾配の大きさがこのエッジに対する選別閾値以上である。条件(a)及び(b)には、条件(c)エッジ幅が鮮明_エッジ_幅+1以上であることが加えられてもよい。ここで、1つの数が、1つの鮮明なエッジのエッジ幅を指定するように鮮明_エッジ_幅に割り当てられるが、前記「+1」は、エッジが(a)及び(b)を満たさないと当該エッジが消去される鮮明_エッジ_幅を超えたエッジ幅の範囲を設定するように変更されてもよい。図9A〜9Cに示す実例には、鮮明_エッジ_幅が2であってもよい。図10はそれぞれのエッジについて選別閾値及び選別フラグを決定するフローチャートである。垂直エッジに対しては、行に沿って左から右へ走査すると仮定しているが、これに限定されない。(水平エッジに対しては、列に沿って上部から底部へ走査すると仮定しているが、これは必須ではない。)鮮明_エッジ_幅に1つの数が割り当てられ、図9A〜9Cに示す実例では2であってもよい。ステップ702において第1のエッジで開始し、ステップ720において、それぞれのエッジに対して、そのエッジ幅が1に鮮明_エッジ_幅を加えたもの以上になるか否かのクエリーを行い、前記値1はここで説明に用いられる最小エッジ隙間値であるが、異なる値(例えば0.5〜2.0の値)を使用してもよい。「はい」の場合、前記エッジが比較的広いエッジであり、ステップ706でその後、反対極性を有する直後のエッジに対する選別閾値を前記エッジのピーク勾配の大きさのβ倍に設定し、βが0.3〜0.7で、好ましくは0.55であり、そしてステップ708でその後、次のエッジに対して選別フラグをオンにし、引き続き次のエッジを処理する。「いいえ」の場合、前記エッジが比較的広いエッジではなく、ステップ730でその後、このエッジと同じ勾配極性を有する前のエッジとのある間隔が前記最小エッジ隙間の2倍(又は、他の異なる所定の数)に鮮明_エッジ_幅を加えたものより大きいか、かつ、反対極性を有する直前のエッジ(もし存在する場合)との間隔が前記最小エッジ隙間より大きいかを調べる。「はい」とすると、ステップ710でその後、次のエッジに対して前記選別フラグをオフにする。「いいえ」とすると、次のエッジに対して前記選別フラグ及び前記選別閾値を維持し、次のエッジへ進む。βは1つの所定の小数であってもよく、又は所定の式によって算出される小数、例えば1つのエッジ幅の関数であってもよい。後者の場合には、βは前記画像の部分によって異なってもよい。
代替の実施例
ピクセルグリッドの方向性:
フォーカス信号発生器120によって入力された画像の画素は、画像の長方形のグリッドに対して 45°回転させた矩形の格子(“ピクセルグリッド”)において配置されることができる。この場合、エッジを検出する操作と幅を測定する操作とのX方向及びY方向は、同様に回転させることができる。
エッジ鮮明度の度量:
以上の説明で、エッジの画像鮮明度は、そのエッジを亘った一連の勾配から測定されたエッジ幅で表され、その勾配はエッジを亘って指向する。同様の原理に従って動作する代案がある。 本質的に、このようにして生成したフォーカス信号が可能にならせるものは、個々のエッジが、画像データの(例えば20%)拡大縮小と無関係または(例えば画像データの20%縮小に対して5%より多く変化しないように)本質的に無関係である量(以下“エッジ鮮明度の度量”)を貢献することであり。その結果、フォーカス信号は、従来の対比検出方法と比較されると、画像のシーンの照明またはシーン内の物体の反射率から無関係であるまたはそれにの依存がはるかに少ないことがである。
さらに、本フォーカス信号発生器120において 、画像データを20%縮小することと無関係又は本質的に無関係であるという上記特性を有する任意のエッジ鮮明度の度量は、あ る勾配または補間された勾配から同じ勾配値がある別の勾配または補間された勾配まで測定された幅の良い代替であ る。
代替のエッジ鮮明度の度量の単位は、好ましくはエネルギーの単位を含まない 。エッジ鮮明度の度量の単位は、次の二点に基づいて決定されている。(a)一次エッジ 検出演算子が動作する画像データの各サンプルは、エネルギーの単位があり、(b)サンプル間の距離は長さの単位がある。点(a)および(b)に基づいて、勾配値の単位は、エネルギーの単位割る長さの単位である。同様に、エッジまたはエッジのどれかの未分割部分を亘る対比は、エネルギーの単位がある。したがって、対比は、その単位が、対比がシーンの照射および物体の反射率によって影響されることを明らかにならせるので、良好なエッジ鮮明度の度量ではない。エッジのピーク勾配の単位は、エネルギーの単位を含んでピーク勾配がシーンの照明の変化に対して敏感であることを示すので、良好なエッジ鮮明度の度量でもない。 一方、エッジのピーク勾配割るエッジの対比は、その単位が長さの単位の逆数であ るので、良好なエッジ鮮明度の度量である。別の例として、勾配値がピーク勾配の所定の割合を超える勾配のカウントは、単に、隣接する勾配間の間隔の大きさで量子化された距離の度量であって長さの単位があるので、良好なエッジ鮮明度の度量である。
ここで、エッジの鮮明度の度量を生成することにおいては、ある勾配が、前記エッジを検出するために使用された一次エッジ検出演算子または別の一次微分演算子(すなわち勾配演算子)から生成されてもよいことを留意する。例えば、ソーベル演算子(または、例えばラプラス演算子のような二次エッジ検出演算子) が使用されてエッジを検出できるが、ロバーツ演算子は、その核は単に[−1、+1] 及びその転置であって画像データのサンプルを単に勾配演算子の向き内の次のサンプルから減算し、そのように結果された勾配は、その2つのサンプル間の中間に位置され る 。エッジは、エッジ鮮明度の度量、または次のセクションにおいて説明する形状の度量のどれかを生成する際に使用される1つ以上の微分演算子と独立して、一次より高い次エッジ検出演算子を検出できる。
それを違うように考えると、エッジ鮮明度の度量の単位は、長さの単位の一冪、例えば、長さの単位の二乗、長さの単位の逆数、長さの単位の自体、又は長さの単位の平方根であるべきである。
そのような代替の鮮明度の度量のどれでも、フォーカス信号発生器120においてエッジ幅を置き換えることができ る。
エッジの傾きに対して補正するために、図6A−6D及び図7を参照して説明したような前記補正係数(以下、「幅補正係数」)は、同じ冪を採用さして変換するべきである。例えば、エッジ鮮明度の度量がピーク勾配割る対比であって長さの単位の逆数を得る場合、エッジ鮮明度の度量のための補正係数は、図6A〜6Dおよび図7を参照して上文に説明した補正係数の逆数である。別の例として、その単位が長さの単位の二乗である場合、エッジ鮮明度の度量は、そのための傾き補正係数が幅補正係数の二乗であるべきである。
代替のエッジ鮮明度の度量のいくつかの例は、図24A−Dにおいて図面を参照して下文に説明される。
図24Cは、連続した勾配間の間隔の倍数である距離に対してプロットされた、エッジを亘る一連の勾配、及びプロットされた一連の勾配の下ある網掛け領域の面積A 3を示す。この例では、その領域が2つの勾配レベルL1 と L2との間で形成され、これらは、一連の勾配の補間されたピーク勾配値(あるいは、ピーク勾配値)に関して、例えば補間されたピーク勾配値の所定の一部分として、定義できる。その網掛け領域は、その四隅で補間された勾配がある。面積割る補間されたピーク勾配値(あるいは、ピーク勾配値)は、長さの単位があるので、良好なエッジ鮮明度の度量である。その領域の代替的な定義が可能であることを留意する。例えば、その領域が勾配レベルL1によって上方から有界しなく、一連の勾配によって上方から有界できる。
図24D は、連続した勾配間の間隔の倍数である距離に対してプロットされた、あるエッジを亘った画像データのサンプルの一連の勾配と、重心 3401 (すなわち、モーメントの中心)と、その重心から(勾配値g 2 と g 3 と g 4 と g 5 と g 6 とがある)それらの勾配までの距離 u 2 とu 3 とu 4 とu 5 と u 6と、を示す。その重心についてそれらの勾配のk次中心積率( k は偶数)、すなわちその重心からそれらの勾配までの距離の、それぞれの重みがそれぞれの勾配の大きさである加重平均は、良い鮮明度の度量である。例えば、 k は、2であることができ、それは、一連の勾配が確率分布であるかのように、エッジ鮮明度の度量をある分散にならせる。この例では、エッジ鮮明度の度量の単位は、長さの単位の二乗である。より一般的には、エッジ鮮明度の度量は、前記複数の勾配の、一連の勾配の複数の勾配に対して相対に事前定義された位置からの距離の関数であってもよい。重心のほかに、その所定の位置は、一連の勾配の補間ちれたピーク位置であてもよい。 エッジの勾配の真部分集合は、この計算に参加するためにあらかじめ定義された基準に従って選択されることができる。例えば、勾配は、それらの勾配値がピーク勾配と一連の勾配の補間されたピークの勾配値とのどれかの所定の部分以上であることが要求されてもよい。
図24Aは、連続した二次導関数間の間隔の倍数である距離に対してプロットされた、あるエッジを亘った画像データの一連のサンプルの一連の二次導関数を示し、(a)一対の正及び負のピークの間の幅WSと、(b)所定の大きさh 1がある一対の最も外側の補間された二次導関数の間の幅 W1と、(c)前記所定の大きさh 1がある一対の内側の補間された二次導関数の間の幅 W2と、(d)(一対の正及び負のピーク間の)ゼロ交差から前記所定の大きさh 1がある最も外側補間された二次導関数までの距離 D1と、を示す。前記 3つの幅W S と W 1 と W 2とのどれかも、エッジ鮮明度の度量として用いることができる。
また、図24Aの例において、エッジ鮮明度の度量は、(一対の正及び負のピークの間にあり、また補間されていてもよい)ゼロ交差から複数の二次導関数までの距離の加重和であってもよく、それらの重みは、前記複数の二次導関数のそれぞれの大きさである。より一般的には、エッジ鮮明度の度量は、エッジを亘った複数の二次導関数に対す る所定の位置からそれらの二次導関数までの複数の距離の関数であってもよい。そのゼロ交差位置のほかに、重心は、その複数の重みがそれらの二次導関数の大きさであると、前記所定の位置の良い候補である。前記所定の位置の別の良い候補は、その一対の正及び負の勾配間の中間点がであつてもよい。
図24Bは、連続したピクセルの間の間隔の倍数である距離に対してプロットされた、エッジの複数のピクセルからの一連の画像データのサンプルを示す。 それは、(a)そのエッジの両端の2つのサンプルの間の幅Wedge および対比Cedgeと、(b)サンプル値の最も急な変化がある一対のサンプルの間の(ロバーツ演算子によって生成された)ピーク勾配値gpeakと、(c)そのエッジに属し対比C1 と幅 Wpart1とがある最も狭い未分割部分と、(d)そのエッジに属し対比C2 と幅 Wpart2とがある最も狭い未分割部分と、を示す。前に述べたように、ピーク勾配値 gpeak割る対比Cedgeは良いエッジ鮮明度の度量である。 幅 Wedge は別の良いエッジ鮮明度の度量である。幅 W part1 及び幅W part2 はまた良い代替手段である。対比C1 および/または対比C2 は、エッジ対比Cedgeの所定部分として定義できる。あるいは、それらのどれかは、例えばピーク勾配gpeakのようなエッジのピーク勾配の所定の倍数として定義できる。また、「最も狭い未分割部分」は、例えば図24Bにおいて示された四角のような画像データの補間されたサンプル、又は最寄りの画素カウントになさせる切り捨てまたは切り上げによって、区切つてもよいことを留意する。
エッジの予選
エッジの予選のための以下の方法は、エッジ検出および幅測定ユニット206で実行してもよく、図27−35を参照して説明する。
この方法では、前記勾配プロファイルは、参照勾配のシーケンスと比較される。それらの参照勾配の各々は、シーケンス内の次の参照勾配との間隔および勾配値を有している。それらの参照勾配は、それらの間の所定の関係に従って生成される。 例えば、このシーケンスは、ルックアップテーブルから生成するおよび/またはそこにあるシーケンスとして記憶されることができる。 別の例として、前記シーケンスは、数式を介して定義することができる。
図27は、それぞれ位置2,3,4及び5にある勾配3502、3504、3506、3508(マーカ「×」)からなる勾配プロファイルと共にプロットされた参照勾配3402、3404、3406、3406のシーケンスを示す。 参照勾配3402は、次の参照勾配3404までの間隔D1を有する。 参照勾配3404は、次の参照勾配3406までの間隔D2を有する。 参照勾配3406は、次の参照勾配3408までの間隔D3を有する。参照勾配3402、3404、3406および3406は、位置3および4の間の参照ピーク位置3401を有するベル形の参照勾配曲線3400(点線の曲線)上にある。前記参照勾配曲線3400は、参照勾配が参照ピーク位置3401からの距離を考えて有するべきである値を表す。
参照勾配曲線3402は、数式を介して定義することができる。数式は、参照勾配曲線3402の異なるセクションごとに異なる数式を使用することができる。 例えば、双曲線式において参照勾配曲線3402の参照ピークから参照ピークの50%までの範囲を定義し、また、3次多項式において曲線の各側で参照ピークの50%下の範囲を定義することができる。好ましくは、この数式は、一つ以上のパラメータ、例えば、参照幅、エッジ傾斜角(すなわち、エッジの傾斜角度を一致させるために使用することができる)、ピーク勾配レベル、(カメラのズームレンズの)ズーム倍率、(カメラのレンズの)開口サイズ等のうちの任意の1つ以上によって、パラメータ化される(または関連する)。その式を定義する係数は、ルックアップテーブルにおいて(例えば、不揮発性メモリにおいて、又は不揮発性メモリからSRAMやDRAMのなどの読み取りと書き込み可能なメモリにロードされて)格納され、さらに、それらのパラメータ値のさまざまな組み合わせによって(つまりキー)インデックス付きであることができる。
あるいは、それらの参照勾配がルックアップテーブルを介しておよび/またはにおいて定義されてもよい。そのルックアップテーブルは、複数のシーケンスを指定することができる。各シーケンスは、各参照勾配の勾配値とシーケンス内の次の参照勾配値までの間隔によって、ルックアップテーブル内において指定されている。その間隔は、そのシーケンスを通じて一定であれば、シーケンス全体に対して一度ずつ指定することもできる。その間隔は、すべてのルックアップテーブルのシーケンス全体を通じて一定であれば、ルックアップテーブルに対して一度ずつ指定することもできる。 あるいは、その間隔は、デフォルト値、例えば1.0をとることができる。参照ピークは、シーケンス内のある参照勾配に対する相対的な位置(すなわち間隔およびれは前か後か)とピーク勾配レベルとを有するように、シーケンスに対して指定することができる。
前記参照勾配が 予め定められた参照勾配発生器とするソース(例えば、前記ルックアップテーブル又は前記数式)から直接的に生成された参照勾配から補間されることができる。参照勾配を勾配プロファイルの急勾配の所に補間が有用である可能がある。例えば、図27では、補間された参照勾配3412(マーカ「+」)が勾配3504の位置3に参照勾配3402、3404、3406から補間される。補間された参照勾配は、同様に、図28〜35に「+」マークが付いている。
一方、勾配は、参照勾配が勾配プロファイルに対して位置される所に勾配プロファイルから補間されることができる。参照勾配がある所に勾配を補間することが有用である可能がある。例えば、補間された勾配3514(マーカー「□」)は、参照勾配3402に近いように勾配3502、3504、3506から補間される。補間された勾配は、同様に、図28〜35に「□」マークされている。
前記ルックアップテーブルは、異なるパラメータ値の組み合わせに複数のシーケンスのそれぞれを格納することができる。各シーケンスは、例えば、参照幅、エッジ傾斜角、ピーク勾配レベル、(カメラのズームレンズの)ズーム倍率、(カメラのレンズの)開口サイズ等の任意の1つ以上のパラメータによってパラメータ化される(または関連される)ことができる。例えば、ルックアップテーブルに格納されたあるシーケンスは、2倍のズーム倍率とF3.5の絞りとピークの50%での 4.5の幅と30度のエッジ傾斜角とに対応する可能があるが、別のシーケンスは、0.5倍のズーム倍率とF2.8の絞りとピークの50%での3.7の幅と0度のエッジ傾斜角度とに対応する可能がある。
前記ルックアップテーブルは、RAM(SRAMまたはDRAM)または不揮発性メモリ、例えば、フラッシュメモリ、または単にレジスタのバンクであり得るメモリにおいて記憶されてもよい。前記ルックアップテーブルは、撮像システム102内、焦点信号発生器外の不揮発性メモリにおいて記憶されてもよい。
前記ルックアップテーブルに格納されたシーケンスの参照勾配の真部分集合で構成されている短いシーケンスは、前記ルックアップテーブルにおいて格納されたシーケンスから抽出されることができる。抽出された参照勾配の間の間隔と、参照ピークに対する抽出された参照勾配の相対的な位置などの他のデータと、を共に抽出することができる。例えば、前記ルックアップテーブルにおいて格納され30つの参照勾配有するシーケンスは、連続する参照勾配の間の0.2の均一な間隔を有することができ、かつこのシーケンス中の第16の参照勾配と一致する参照ピークを有していてもよいのに対し、抽出は第7と第13と第22の参照勾配を抽出してこれら3つの参照勾配からなる短い配列を形成する。本実施例の抽出されたシーケンスでは、第1の参照勾配から第2の参照勾配までの間隔が1.2であり、第2の参照勾配から第3の参照勾配までの間隔が1.8であり、また、参照ピークは、第2および第3の参照勾配の間にあることが注意し、並にそれから第2の参照勾配までの間隔が0.6である。
参照勾配のシーケンスは、勾配プロファイル又はその一部に曲線に当てはめることができる。例えば、前記シーケンスは、 図30 が示すように、ピーク勾配からとその50%までの勾配プロファイルに当てはめられることができる。 別の例として、前記シーケンスは、図31 が示すように、例えばピーク勾配からその30%までのように勾配プロファイルの片側のみに当てはめられてもよい。好ましくは、少なくとも一つの参照勾配がピーク勾配(あるいは、補間されたピークの勾配)の勾配レベルの70%以上の勾配値を有する。より好ましくは、85%以上である。 また、好ましくは、少なくとも一つの参照の勾配が70%以下の勾配値を有し、より好ましくは、ピーク勾配(あるいは、補間されたピークの勾配)の50%未満である。 全ての参照勾配値は、曲線適合を改善するためにスケーリング係数を乗じてもよい。曲線適合されたすべての勾配値は、曲線適合を改善するためにスケーリング係数を乗じてもよい。
全ての参照勾配は、より良好曲線適合を達成するために、勾配プロファイルに対して一緒に位置にシフトされてもよい。例えば、勾配プロファイルは、第1、第2、第3及び第4の勾配を有していてもよいし、ある勾配から次の勾配まで1.0の均一な間隔を有することができるが、第1、第2、第3及び第4の参照勾配からなり、ある参照勾配から次の参照勾配までの1.0の均一な間隔を有する参照勾配のシーケンスは、図32に示されているように、第1の参照勾配が第1および第2の勾配の間であり、かつ第1の勾配から0.2の間隔を有し、第2の参照勾配が、第2及び第3の勾配の間であり、かつ第2の勾配から0.2の間隔を有するように、勾配プロファイルに対して位置するなどができる。あるいは、シーケンスは、図33に示すように、第1の参照勾配から第1の勾配までの間隔が0.5であり、第2の参照勾配から第2の勾配までの間隔が0.5であるなどのように配置されることができる。後者は、最も近い対の勾配/参照勾配を結合する線分(太い実線)の全長を減少させることを指定する判断基準の下、良好曲線適合をもたらす。より良い曲線適合を見つけるための代替判断基準がある。例えば、代替には、参照勾配が補間されて勾配と(またはその逆)つがいになり、そして、勾配(勾配参照)と対になった参照勾配(対内の勾配)との間の差の2乗和をとることである。各対内の勾配及び参照勾配は、必ずしも正確に同じ位置を共有する必要はないが、好ましくは0.25以下で離間され、より好ましくは0.1以下にしている。さらな他の選択肢がある。
参照ピーク位置が参照勾配のシーケンスと共に提供される場合、そのシーケンスは、所定の方法で勾配プロファイルから決定された位置に参照ピークを合わせて勾配プロファイルに位置合わせすることができる。 この位置を決定するための種々の方法がある。一種方法では、この位置は、勾配プロファイルの両側のそれぞれに1つずつ、所定の勾配レベル上であり2つの勾配/補間の勾配の間の中間点とすることができる。その所定の勾配レベルは、図34に示すように、ピーク勾配又は補間されたピークの勾配から下への所定の割合として指定され得る。 図34において、参照ピーク位置3401は、勾配3802と補間勾配3824との間の中間点に一致させる。別の方法では、参照ピークは、 図35において示すように、補間されたピーク位置に位置合わせすることができる。より一般的にはまたは代替的には、そのシーケンスは、参照ピークが図34の中間点(代替的には、補間されたピーク)の両側の勾配3804、3806のような1対の勾配の間に位置するように、勾配プロファイルに位置合わせすることができる。
勾配プロファイルは、シーケンスと比較されて所定の方法の下で、比較結果を生成する。この所定の方法は、曲線適合の基準のための方法に似るまたは似ない可能である。特に、そうすることが比較のための精度および/または精度を向上させる場合、その比較に補間された勾配/参照勾配を含まれてもよい。比較ための1つのやり方としては、勾配プロファイルの幅と参照シーケンスの参照幅との関係を評価することである。 両方の幅は、ピーク勾配又は補間されたピークから下への所定の割合として予め決定されることができる勾配レベルで測定されることができる。例えば、図27において、参照幅Wrefや(補間された勾配3512と勾配3508の間で測定された)勾配プロファイル幅W1の両方は、同じ勾配レベル(水平点線)を参照している。あるいは、それらは異なる勾配レベルで測定されることができる。例えば、参照幅は、理想的には、勾配プロファイルの幅の70%であることが期待されてもよく、ただし、その参照幅は、参照勾配曲線の参照ピークから下へ30%での参照勾配曲線の幅に対応し、また、勾配プロファイルの幅は、ピーク勾配または勾配プロファイルの補間されたピークから下へ50%で測定される。その参照幅は、前記シーケンスと共にシーケンス発生器によって提供さる。あるいは、提供されたシーケンスから測定されてもよい。このやり方では、その比較は、所定の基準の下ではこれら2つの幅の類似または非類似の程度に基づいて、いいえ/ないの結果を報告してもよい。例えば、2つの幅の一方の所定の割合とその2つの幅の差を比較する方法。 あるいは、その比較は、高い類似度を表すレベルから高い非類似性を示すレベルまで及ぶんでいる等級を報告パラメータをもたらし得てもよく、他のレベルは、それらの間の非類似性/類似性の中間レベルを表す。
勾配プロファイルと参照シーケンスを比較するための別のこのやり方は、ペア内の個々の勾配及び参照勾配の間で比較することである。図27において示すように、勾配/補間された勾配3514、3504、3506、3508をそれぞれ参照勾配/補間された参照勾配3402、3412、3406、3408と対にしている。前者と後者との間の算術差分を評価され、そして、このような比較の一つ以上(例えば、算術差分)に基づいて、比較の最終結果は、バイナリ、いいえまたはないの様式に報告される、または類似性又は非類似性の異なる段階を報告されるように多段階の段階的な様式には報告される。例えば、図28および図29においては、(5対のうちの)各対の勾配及び参照勾配(いずれか又は両方が補間されておいてもよい)の隣では、マーカー「I」が配置されてそれらの勾配レベルが離れているどの程度を示す。各ペア内の勾配及び参照勾配は、必ずしも正確に同じ位置を共有する必要がなく、好ましくは互いの0.25以内であり、より好ましくは互いの0.1以内であ。その比較は、5つの勾配レベル差分の中の最大に基づいて、バイナリ結果または段階的な結果を報告されることができる。代わりには、その比較は、5つの差分の自乗にわたる和の平方根に基づいて、そうするができる。参照勾配からの5つ勾配の偏差を定量的に表すための他の可能な方法があって、当業者が想起できる。バイナリ結果を報告するためには、そのような差分の1つ以上から生じる上述したような段階的な結果を所定の閾値と比較することができる。
一つ以上のシーケンスを選択されて勾配プロファイルを曲線適合されることができる。 複数のシーケンスを選択した場合、勾配プロファイルに最適合のシーケンスを選択してその比較結果を報告することができる。(単数または複数の)シーケンスを勾配プロファイルに 関連する1つ以上のパラメータに基づいて選択することができる。それらのパラメータは、例えば、ピーク勾配又は補間されたピークからへ下の所定の割合で測定された勾配プロファイルの幅、又は補間されたピーク位置からピーク勾配又は補間されたピークからへ下の所定の割合での勾配又は補間された勾配まで測定された勾配プロファイルの片側幅、又は勾配プロファイルを生じさせる又は勾配プロファイルに関連されたエッジの傾斜角度、又は勾配プロフィールの下(ピーク/補間されたピークからへ下の一定の割合まで)の面積、又はピーク勾配から補間されたピーク位置までの間隔、またはズームレンズのズーム率、またはレンズの絞りの大きさ、またはその他。
相違度が閾値を超えることを比較の結果で示す場合、フォーカス信号発生器は、フォーカス信号またはエッジカウントまたはフォーカス制御のための演算に入るのから、勾配プロファイルに関連されたエッジおよびその幅を脱強調するまたは完全に拒絶してもよい。
図36の実施形態において示すように、パラメータ抽出器は、画像の勾配を受信して、それらの勾配のうちの勾配プロファイルから抽出された1つ以上のパラメータをシーケンス選択器へ出力する。このシーケンス選択器は、それらの一つ以上のパラメータを一つ以上のアドレスに変換する。シーケンス生成器は、こ(れら)のアドレスを受信して、それに応じて、1つ以上の参照勾配のシーケンス、又は対応する参照勾配曲線を定義する一つ以上のパラメータを評価ユニットに出力する。 その評価ユニットは、曲線適合及び比較を行って比較結果を生成する。エッジの傾斜角度及びエッジ幅のような抽出されたパラメータは、評価ユニットに入力される。その評価ユニットは、曲線適合および/または比較を実行するための演算回路を備えている。その評価ユニットは、さらに、演算回路に接続されたメモリを含んでもよい。これらのブロックは、エッジ検出&幅測定ユニット206の一部である。 シーケンス/曲線生成と曲線適合と比較とのうちの一つ以上は、画像キャプチャシステム102内の不揮発性メモリにおいて記憶されたコンピュータ命令の制御の下に実行されてもよい。上記の方法は、エッジ検出および幅測定ユニット206で行ってもよい。
本開示において、エッジからの例えば勾配レベルのような量は、特な指定がない限りデフォルトではそれをエッジのピーク勾配値または補間されたピークの勾配値によつて割ると、正規化されていると言われていることに留意したい。例えば、図 23Bにおいてピーク勾配3212が正確に1の正規化値があるが、図24Cには、補間されたピーク3270がピーク勾配3212と異なっており、また、図24Cに示した勾配をピーク勾配3212の代わりの補間されたピーク3270に関して正規化することがある。
長さフィルター
以下、長さフィルター212の機能について説明する。広義では、長さフィルター212は、それぞれが同様の配向の1つ以上のエッジに接続するエッジへの嗜好を作成する。同様の方向を有してその他のエッジのいずれにも接しない独立したエッジに比べて、同様の方向を有してグループにおいて互いに接続されたグループのエッジ(「連結エッジ」)は、ノイズに起因する可能性が高くない。従って、同様の方向を有して一緒に連結されたエッジが多ければ、ノイズに起因する可能性が低くなる。ノイズに起因する前記グループの確率は、グループにおけるエッジ数が増えるにつれ、指数関数的に低下され、また直線的な低下よりずっと早い。この特性は、ノイズの抑制に用いられ、特に、画像において又は対象領域において信号対雑音比が例えば10未満と弱いといった薄暗い又は短い露光の場合に用いることができる。前記嗜好は、何れの適当な方法で実施されて表現されてもよい。後述される複数の方法は単に例示に過ぎない。
第1の方法としては、連結長さ閾値より小さい長さを有する垂直/水平連結エッジに属するエッジを消去する。前記連結長さ閾値は、前記対象領域が比較的薄暗い場合に比較的に大きくしてもよい。例えば、前記連結長さ閾値は、2のような小さな値から始まってもよいが、対象領域における信号対雑音比が5に低下される場合に8に増える。前記連結長さ閾値は、前記プロセッサー112、112’、112’’によって、例えば、信号132の一部となる図3に示すような「長さコマンド」信号で提供されてもよい。または、前記閾値は、式に基づいて前記フォーカス信号発生器で算出されてもよい。
第2の方法としては、それぞれのエッジに対して前記長さフィルター212で長さ重みを提供し、そしてこの長さ重みを前記フォーカス信号算出器210でのフォーカス信号の算出に適用する。比較的長い連結エッジの一部であるエッジは、比較的短い連結エッジの一部であるエッジより大きい重みを受け取る。例えば、前記長さ重みは、前記連結エッジの長さの平方であってもよい。従って、全ての寄与値を合計する前に、それぞれのエッジのフォーカス信号に対する寄与値に因子A/Bを乗じることによって、フォーカス信号を形成してもよく、ここで、Bはフォーカス信号の算出に入る全てのエッジの長さ重みの合計であり、Aは前記エッジの長さ重みである。同様に、エッジ幅のヒストグラム(信号134の一部として出力されてもよい)は、好ましくは、いずれのエッジも同様の寄与値(例えば+1)を提供するのではなく、比較的長い連結エッジに属する複数のエッジが、それらのそれぞれのエッジ幅に対応する区間により大きな寄与値を提供するようにすることができる。従って、例えば、それぞれのエッジはA/Cに寄与することができ、ただし、Cは前記エッジに亘るAの平均値である。同様に、狭いエッジのカウントは、比較的長い連結エッジのメンバーとしてのエッジがより多く寄与するようにすることができる。従って、例えば、それぞれのエッジによる寄与は、A/Dを乗じてもよく、ただし、Dは狭いエッジのカウントで数えられるエッジの間のAの平均値である。
最上部(最左側)及び底部(最右側)のエッジを除き、それぞれのエッジが2つの他の垂直(水平)エッジ(一方のエッジはその上方(左側)、他方のエッジはその下方(右側)にある。)に接触する1群のN個の垂直(水平)エッジは、長さNを有する垂直(水平)連結エッジである。前記上部(最左側)エッジは、その下方(右側)の1つのエッジのみに接触することが必要である。前記底部(最右側)エッジは、その上方(左側)の1つのエッジのみに接触することが必要である。
図8は垂直連結エッジ及びその長さを示す。図8において、セルR2C3及びR2C4は第1の垂直エッジを形成し、ユニットR3C3、R3C4及びR3C5は一緒に第2の垂直エッジを形成し、また、ユニットR4C4及びR4C5は一緒に第3の垂直エッジを形成している。前記第1及び第3の垂直エッジはそれぞれ1つの他の垂直エッジのみに接触するのに対し、前記第2の垂直エッジは2つの他の垂直エッジに接触する。前記第1、第2及び第3の垂直エッジは一緒に長さ3を有する垂直連結エッジを形成する。
垂直(水平)連結エッジに2つ以上の分岐がある、即ち、1行(列)に2つのエッジがある場合(図示せず)には、前記長さが連結エッジにおける総エッジ数として定義されてもよい。又は、前記長さは、その中の最上部(最左側)エッジから最底部(最右側)エッジまでの垂直(水平)距離に1を加えたものとして定義されてもよい。
上述した提案の他に、連結長さを定義する他の可能な方法がある。例えば、連結エッジの長さの定義は、前記長さが前記連結エッジにおける少なくとも3までのメンバーエッジ数に比例する特性を有することである。これは、前述した推理に合致しており、すなわち、互いに接触して互いに接続される複数のエッジが多ければ、連結エッジがノイズに起因される確率が指数関数的に低くなり、これによって、前記長さが、連結エッジにおける適当な数以下のメンバーエッジ数に比例することになるべきであり、前記適当な数とは、当該連結エッジの信頼性を単一のメンバーエッジの信頼性よりも十分に向上させる数である。前記長さフィルター212は、連結長さ1を有するエッジを弱め、又は消去して、広義では区別することができる。前記長さフィルター212は、連結長さ2を有するエッジを区別することができる。前記長さフィルター212は、連結長さ3を有するエッジを区別してノイズによる影響をさらに低下することができる。前記長さフィルター212は、前記プロセッサーからのコマンドに基づいてこれらの動作の何れか1つを行うことができる。
図3には前記エッジ検出・幅測定ユニット206の直後に設けることを示しているが、その他の配置も可能である。例えば、前記フォーカス信号算出器210の前に前記長さフィルター212が挿入されてもよい。前記長さフィルター212によって処理された複数のエッジは、「精細」信号に応じて前記幅フィルター209を通過するエッジである。
フォーカス信号発生器の代替実施形態においては、前記精細スイッチ220を除去することにより、前記フォーカス信号算出ユニット210に、前記幅フィルター209にろ過されていない第1のデータ群及びろ過された第2のデータ群を受信させ、そして、前者のデータ群の計算により概略フォーカス信号を取得し、後者のデータ群の計算により精細フォーカス信号を取得するように、前記両データ群に対して計算を行って異なるフォーカス信号を取得し、さらに、この2つの信号を前記プロセッサー112、112’に出力してもよい。
幅フィルター
次に、図3を参照して前記幅フィルター209の動作を理解する。図11は複数のエッジ幅のヒストグラム、即ち、複数のエッジ幅に対する複数のエッジのカウントのグラフを描いている。エッジ幅2(即ち、前記上述鮮明_エッジ_幅)には、前記画像に複数の鮮明なエッジが存在することを示唆する1つのピークがある。しかし、エッジ幅4及び5には複数のピークがあり、これは、エッジがぼやけたことを示唆している。その原因としては、たぶん、対応する結像オブジェクトがフォーカスされておらず、これらの結像オブジェクトのフォーカスレンズからの距離が前記鮮明なエッジを生じさせたオブジェクトのフォーカスレンズからの距離と異なっているからである。フォーカス信号を算出するには、幅が所定の範囲(「狭いエッジの範囲」)外にある複数のエッジは、前記幅フィルター209によって、弱めるようにしてもよい。前記幅フィルター209は、前記フォーカス信号の算出に用いるために、前記狭いエッジの範囲外にある複数のエッジ幅に対して比較的小さい重みを作成してもよい。例えば、複数のエッジ幅に対して重み1.0が割り当てられるが、上限840の右側へ+1よりも大きく離れた複数のエッジ幅に対して重み0が割り当てられ、その間の複数のエッジ幅に対して0〜1.0の重みが割り当てられ、エッジ幅と共に単調に低減される。または、前記幅フィルター209は、それらのエッジをフォーカス信号の計算から完全に排除してもよい。適切な上限及び下限830、840は、画素アレイ108でのクロストーク、フォーカス信号発生器120に受信された画像に対して欠落色を発生する補間方法及び前記エッジ検出・幅測定ユニット206に採用されるローパスフィルターに用いられるフィルター係数を含む幾つかの要素に依存する。適切な上限及び下限830、840及び前記パラメータの鮮明_エッジ_幅は、前記画像ピックアップ装置102、102’に対して、種々の鮮明度を有する画像を取り込んでエッジ幅のヒストグラムを調べることによって決定されてもよい。例えば、鮮明な画像のピークがエッジ幅2にある場合、適切な上限及び下限はそれぞれ、1.5及び3であり、前記鮮明_エッジ_幅は2.0に設定されてもよい。前記下限と上限及び鮮明_エッジ_幅は、上述したように決定され、そして前記プロセッサー112、112’’によって前記フォーカス信号発生器120、120’、120’’に供給されてもよい。「精細コマンド」がオンになると、このように算出された精細なフォーカス信号が、狭いエッジの範囲外にあるエッジ幅を弱める。
また、前記幅フィルター209は、エッジ幅が狭いエッジの範囲内にある複数のエッジの総数を算出し、出力信号134の一部として出力してもよい。狭いエッジのカウントは、前記フォーカスシステムコントローラ(プロセッサー112)に入力されて、鮮明な画像の存在の検出及び/又は追跡の開始のために用いられてもよい。
フォーカス信号
次に、図3の前記フォーカス信号算出器210を参照すると、前記フォーカス信号算出器210は、複数のエッジ幅を受信してフォーカス信号を出力する。前記フォーカス信号は、全てのエッジ幅の重み付け平均値として算出されてもよく、前記重みはそれぞれのエッジ幅に対するエッジのカウントであり、即ち、フォーカス信号=Σwiei/Σwi、ただし、eiはエッジ幅、wiは重み、ここで、wi=ci、ciはエッジ幅eiにおけるエッジのカウントであり、iは複数のエッジ幅の一ヒストグラムの区間数である。または、それぞれのエッジ幅における重みは、エッジ幅のエッジのカウントに前記エッジ幅そのものを乗じたもの、即ち、wi=cieiであってもよい。また、重みで表される前記幅フィルター209からの嗜好は、それぞれのエッジ幅をさらに乗じてもよい。例えば、前記幅フィルター209により発生される重みΩiに対しては、ΣΩi=1、フォーカス信号はΣΩiwiei/ΣΩiwiとして算出されてもよい。制御信号「精細」がオン、且つ「排除」がオフになると、図11に示す実例では、前記フォーカス信号は、2.0という鮮明なエッジ幅の値に非常に近い値となり、これは、2.0〜3.0のエッジ幅を発生する焦点距離範囲において、ほとんどのオブジェクトの細部が実際に鮮明にフォーカスされていることを示唆している。制御信号「精細」がオフ、且つ「排除」がオフになると、前記フォーカス信号は5.0に近い値となり、画像において焦点外れの細部がかなり多く存在していることを示唆している。前記精細スイッチ220をオンにすると、前記フォーカス信号が少しぼやけたオブジェクトにより多く応答し、完全にぼやけたオブジェクトにより少なく応答することが可能になる。前記精細スイッチ220がオンになると、前記フォーカス信号を精細なフォーカス信号と呼び、前記精細スイッチ220がオフになると、概略フォーカス信号と呼ぶことにする。上述したように、前記長さフィルター212により表現される前記強調は、複数の方法のうちの1つにより、前記フォーカス信号に組み込まれてもよい。例えば、フォーカス信号の計算への組み込みを弱めるようにエッジを消去してもよく、または、エッジの、対応するエッジ幅の区間のカウントeiへの寄与において、その対応する重みを低減してもよい。
図15は、オブジェクトが鮮明にフォーカスされている所の近傍のフォーカス位置の調節に対する前記精細フォーカス信号の応答をスケッチする。前記精細なフォーカス信号は、大体、前記フォーカス位置により画像が鮮明にフォーカスにされるような鮮明_エッジ_幅において、最小値に達するが、そうでなければ増える。前記精細フォーカス信号は、既に焦点が合った又はその状態に非常に近いオブジェクトの追跡に用いられてもよい。移動するオブジェクトに対しては、前記精細なフォーカス信号は、焦点距離が変わり続ける場合でも、前記フォーカス制御システムにより、これらのオブジェクトが鮮明にフォーカスされることを保つようにする。前記精細なフォーカス信号はまた、前記オブジェクトが、幅が狭いエッジの範囲に収まるエッジを生じさせるように、鮮明にフォーカスされないがこの状態に十分に近いオブジェクトの鮮明フォーカスを取得する(「取得」)ことに用いられてもよい。前記エッジ幅のヒストグラムに示すピークは、前記鮮明_エッジ_幅から離れた、前記オブジェクトに対応するエッジ幅のところにあるために、前記精細なフォーカス信号が鮮明_エッジ_幅よりも大きくなるので、前記フォーカス制御システムは、前記精細なフォーカス信号値が前記鮮明_エッジ_幅にさらに近くなるようにフォーカス位置を調節することでそれに対応することができ、これにより、前記オブジェクトに起因するエッジ幅のピークが鮮明_エッジ_幅に等しいエッジ幅の値の中心に位置決めされる。
基本の使用方法
図12〜16は、狭いエッジのカウント、概略フォーカス信号及び精細なフォーカス信号が鮮明な画像を実現するためにフォーカス制御の実施に如何に用いられるかを示す。
図12は、前景における「人」、背景における「山、太陽及び地平線」、及びその間における「自動車」のように、異なる焦点距離において3つのグループのオブジェクトを有する戸外シーンを示す。
図13は、前記フォーカスレンズ104のフォーカス位置が図12に示すシーンを遠くから近くへ走査する場合における時間に対して描かれた狭いエッジのカウントの図である。前記狭いエッジのカウントは、フォーカス位置においてオブジェクトが画素アレイ108で鮮明な画像となる場合にピークに達する。従って、前記狭いエッジのカウントは走査中に、「山、太陽及び地平線」、「自動車」及び「人」に対してこの順で1つずつ、合計3つのピークを示す。
図14は時間に対して描かれた概略フォーカス信号を示す。前記概略フォーカス信号は、前記フォーカス位置が狭いエッジのカウントがピークに達する3つのフォーカス位置のそれぞれに近い場合に最小値を示す。しかし、それぞれの最小値において、前記概略フォーカス信号は、焦点外れの他のオブジェクトにより寄与された比較的大きいエッジ幅に起因して、前記鮮明_エッジ_幅レベル、この実例では2.0にない。
図15は、図12のシーンにおける「自動車」に対する鮮明なフォーカス位置の近傍にあるフォーカス位置に対して描かれた精細なフォーカス信号を示す。前記精細なフォーカス信号は、複数のぼやけたオブジェクト(「人」及び「山、太陽及び地平線」)が存在するにもかかわらず、鮮明_エッジ_幅、この実例では2を基本的に達成する。図11を再び参照すると、幅4及び5における2つのピークは、それらの2つのグループのぼやけたオブジェクトにより寄与されるが、これは、前記幅フィルター324が重みを低減させ、又は上限840の右側へのエッジ幅による寄与を完全に消去したと理解することができる。
フォーカス制御システムは、概略フォーカス信号を利用して、検索モードで最寄りの鮮明なフォーカス位置を検索することができる。それは、フォーカス位置を現在のフォーカス位置から離れるように移動させて前記概略フォーカス信号が増加するか低減するかを決定することができる。例えば、前記フォーカス位置が内向き(外向き)に移動する場合に前記概略フォーカス信号が増加(低減)すると、現在のフォーカス位置から比較的遠い鮮明なフォーカス位置が存在する。前記プロセッサー112、112’、112’’はその後、フォーカス駆動信号を供給し、隣接する鮮明なフォーカス位置へフォーカスレンズ104を移動させることができる。
フォーカス制御システムは、前記シーンにおける変化、前記オブジェクトの移動又は前記画像ピックアップ装置の移動にもかかわらず、前記精細なフォーカス信号を利用して、既に鮮明にフォーカスされたオブジェクトを追跡して対応する画像の鮮明さ(従って、「追跡モード」)を保ってもよい。オブジェクトが鮮明にフォーカスされる場合に、上記の変化があるにもかかわらず、前記精細なフォーカス信号レベルは安定している。これによって、前記精細なフォーカス信号の変更は、前記オブジェクトの画像ピックアップ装置からの焦点距離の変更を示唆する。前記フォーカス制御システムを、最小値に近い所定の精細なフォーカス信号レベル、例えば、この実例では2.0〜2.5、特に2.1に「ロックする」ことにより、前記精細なフォーカス信号レベルが変動すると、直ちに前記プロセッサー112、112’、112’’に前記オブジェクトの焦点距離の変更が通知される。前記プロセッサー112、112’、112’’はその後、方向を決めて、フォーカスレンズ104を移動させて前記精細なフォーカス信号レベルを「ロックされた」レベルに回復させることができる。従って、前記画像ピックアップ装置102、103、103’、103’’は、移動オブジェクトを追跡することができる。
例えば、プロセッサー112、112’、112’’におけるアルゴリズムにおいて実施されるようなフォーカス制御システムは、狭いエッジのカウントを利用して検索モードから追跡モードへの変更をトリガしてもよい。前記追跡モードにおいて、前記フォーカス制御システムは、前記精細なフォーカス信号により前記オブジェクトを「ロックする」。フォーカス位置が前記オブジェクトの鮮明なフォーカス位置に十分に近づく前に、前記フォーカス制御システムは、前記概略フォーカス信号により移動方向を確認し、レンズの移動速度を調節してもよい。オブジェクトが鮮明にフォーカスされる場合に、狭いエッジのカウントはシャープにピークに達する。狭いエッジのカウントにおける鮮明な上昇、ピークの到達又はその両方を検出した場合、前記プロセッサー112、112’、112’’は、追跡モードに切り替えて、精細なフォーカス信号を、フォーカス位置の制御に用いてもよい。鮮明なフォーカス位置によって閾値が異なる可能性があり、前記閾値は、終端間フォーカス位置「走査」によって見つけられたそれぞれのグループのオブジェクトに割り当てられ、そしてその後、狭いエッジのカウントがこの閾値を超えると、対応するグループのオブジェクトが検出される。静止シーンに対して、例えば、静止画像の撮影に対しては、終端間フォーカス位置走査は、狭いエッジのカウントがピークに達する毎に最大のカウントがある最大カウントリストを返すことができる。例えば、最大のカウントの50%を取ることにより、前記最大のカウントのリストから、閾値のリストを生成することができる。
図16は、表示装置114と、複数のボタンを含む入力装置107と、前記表示装置114においてハイライトされた選択マーカー1920とを有する画像ピックアップ装置102を示す。ユーザは前記入力装置107を利用して、前記選択マーカー1920を作成、成形及び操作することができる。この実例において複数のボタンを含むことを示しているが、前記入力装置107は、表示装置114でのタッチ又はストロークの位置を検出するために、前記表示装置114に載せたタッチスクリーンを含んでもよい。前記入力装置107、及び前記プロセッサー112、112’、112’’又は入力装置107のための別個専用コントローラ(図示せず)は、選択領域を決定することができる。前記選択領域を記述するための複数のパラメータは、バス132を介して(又はフォーカス信号発生器120が前記プロセッサー112の一部である場合に、前記プロセッサー112において内部で)、前記フォーカス信号発生器120、120’、120’’に転送されることができる。それに応じて、前記フォーカス信号発生器120は、フォーカス信号の算出、狭いエッジのカウント又はその両方を前記パラメータに記述される選択領域におけるエッジに限定し又は前記選択領域外にあるエッジを弱めるようにすることができる。こうすると、前記フォーカス信号より意図せぬオブジェクトの強調を弱めることができ、そして前記概略フォーカス信号でも単一の最小値及び鮮明なエッジ幅における1.0以下の最小レベルを示す。
代替実施形態
図17は、フォーカス信号発生器120’の代替実施形態を示す。フォーカス信号発生器120’は、複数のエッジ及び複数のエッジ幅の統計データを出力する。コントローラ120’が出力するエッジ幅の統計データは、異なるエッジ幅におけるエッジのカウントを含むエッジ幅のヒストグラム、エッジ幅のカウントが最大値に達する所でのエッジ幅、異なるエッジ幅におけるエッジのカウントに近いスプライン関数を示す1組の係数、及びエッジ幅の関数を示すことができる任意のデータのうちの1つ以上であってもよい。全数調査ユニット240は、前記フォーカス信号発生器120’と他のユニットのうちの1つ以上で算出されるデータを受信してエッジ幅の統計データを算出することができる。一般に、前記フォーカス信号発生器120’は、エッジ幅分布の表示の信号を出力することができる。
図18に示すように、このように信号134で代替オートフォーカス画像ピックアップ装置102’における代替実施形態のプロセッサー112’に供給されるエッジ幅の統計データは、上述した方法又はその同等のものにより、概略及び/又は精細なフォーカス信号及び狭いエッジのカウントを算出するように、前記プロセッサー112’により使用されてもよい。さらに、前記フォーカス信号発生器120’に算出された何れのデータも、出力信号134の一部としてプロセッサー112’に出力されてもよい。
前記プロセッサー112’は、図1のプロセッサー112に含まれる機能の外に、フォーカス信号及び/又は狭いエッジのカウントを内部で発生させてもよい。
前記画素アレイ108、A/D変換器110、色補間器148及び発生器120’は、前記プロセッサー112’とは別の、画像センサー150’を一緒に含む1つのパッケージ142に備わってもよい。
補助画素アレイ
図19は、オートフォーカス画像ピックアップシステム103の代替実施形態を示す。システム102に含まれる素子の外に、前記システム103は、ハーフミラー2850と、フルミラー2852と、光学ローパスフィルター2840と、主画素アレイ2808と、主A/D変換器2810とを含んでもよい。前記ハーフミラー2850は、入射する光ビームを、第1のスプリットビーム及び第2のスプリットビームに分割し、その一方を透過させ、他方を反射させることができる。前記第1のスプリットビームは、最後に、前記第1のスプリットビームを検出してアナログ信号に変換する前記主画素アレイ2808に到達する前に、さらに前記光学ローパスフィルター2840を透過してもよい。前記第2のスプリットビームは、最後に、図1に示すシステム102における画素アレイ108に対応する前記補助画素アレイ108’’に到達する前に、前記フルミラー2852により反射されてもよい。第2の光ビームに対する第1の光ビームの光強度の比は、1対1又は1対1よりも大きくなり得る。例えば、この比は4対1になり得る。
前記主画素アレイ2808は、例えばバイエルパターンのようなカラーモザイクパターンのカラーフィルターアレイに被覆されてもよい。前記光学ローパスフィルター2808は、前記画素アレイ2808にフォーカスされた最小光点がエイリアシングを引き起こすほど小さすぎないようにする。モザイクパターンのカラーフィルターが前記画素アレイ2808を被覆する場合に、エイリアシングは、色補間の後にカラーモアレ偽像を引き起こし得る。例えば、前記光学ローパスフィルターを利用することにより、前記主画素アレイ2808における光点の可視光パワーの84%を取り囲む円の最小直径(「最小主直径」)は、1.5画素の幅より大きいが、2画素の幅より小さいように維持される。例えば、前記主画素アレイ2808は4.5 umの画素の幅を有するのに対し、光学ローパスフィルタリング無しで最小直径が2.0 umであると、前記光学ローパスフィルター2840は、光点の直径が6.7 um以上になるようにするために選択されてもよい。
前記補助画素アレイ108’’は、1つ以上の光検出器アレイを含んでもよい。これらのアレイのそれぞれは、カラーモザイクパターンのカラーフィルターアレイに被覆されても、被覆されなくてもよい。前記補助画素アレイ108’’におけるこの(これらの)アレイは、A/D変換器110によりデジタル信号130に変換されるアナログ信号で画像を出力する。これらの画像は前記フォーカス信号発生器120に送信される。色補間器148は、複数のカラーフィルターに被覆される画素から発生される画像に対して、欠落色を発生することができる。補助画素アレイ108’’が複数の光検出器アレイを含む場合、それぞれのアレイは、前記主画素アレイ2808により取り込まれた画像の一部に対応するサブ画像を取り込むことが可能である。前記複数のアレイが、物理的に1百個の画素の幅以上に離れてもよく、また、1つの半導体基板を共有しても、共有しなくてもよい。補助画素アレイ108’’における前記画素アレイは、1つの半導体基板を共有しない場合、一緒に1つのパッケージ(図示せず)に収容されてもよい。
主A/D変換器2810は、前記主画素アレイ2808からのアナログ信号をデジタル主画像データ信号2830に変換する。前記デジタル主画像データ信号2830は、前記プロセッサー112に送信され、最後にメモリカード116に記憶されるものである。前記プロセッサー112では、前記主画素アレイ2808において取り込まれた画像に対して色補間、色補正及び画像圧縮/解凍のような画像処理を行い得る。
前記補助画素アレイ108’’における光検出器アレイは、前記主画素アレイ2808の画素の幅(「主画素の幅」)よりも小さい画素の幅(「補助画素の幅」)を有してもよい。前記補助画素の幅は、前記主画素の幅の半分ほどであってもよい。補助画素がカラーフィルターにカバーされ、且つ前記補助画素の幅が光学ローパスフィルタリングが行われていない場合の可視光の最小点の1.3倍よりも小さい場合、前記補助画素アレイ108’’における最小直径(「最小補助直径」)が1.3〜2(好ましくは1.5)倍であって、最小主直径よりも小い大きさに増加されるように、前記補助アレイ108’’の前に第2の光学ローパスフィルターが挿入されてもよい。ユーザには前記補助画像が最終的な取込画像として提示しないので、前記補助画像における微細なモアレは問題ではない。
図22は、前記主画素アレイ2808からの主画像(実線曲線)及び前記補助画素アレイ108’’からの補助画像(鎖線曲線)について、エッジ幅が鮮明なフォーカス位置周辺で如何に変化するかを示す。前記補助画像は、たとえ前記主画像が目的とする鮮明なエッジ幅である2に達する場合であっても、より鮮明な傾斜を与える。前記補助画像は、ユーザには最終画像として提示しないため、エイリアシングによるモアレが前記補助画像において重要ではないので、目的とする鮮明なエッジ幅以下に達することが許容される。これにより、前記鮮明なエッジ幅よりも下位及び上位の傾斜がきつくなる。このよりきつい傾斜は、また、前記補助画素の幅が前記主画素の幅より小さいことによって達成される。
図22における陰影領域は、主画像が鮮明なフォーカスに維持されるようにフォーカス位置を制御するための良好な領域を示す。フォーカス位置における外向きの変化により、補助画像でエッジ幅が増加するのに対し、内向きの変化により、それが低減することになる。主画像のエッジ幅が鮮明なエッジ幅に近いことを維持するために、真ん中の補助エッジ幅値を前記陰影領域内にターゲットし、補助画像から発生されたエッジ幅をフィードバック信号として用いるように線形フィードバック制御システムが用いられてもよい。
前記補助画素アレイ108’’、A/D変換器110、フォーカス信号発生器120は、一緒に1つのパッケージ142に収容されて1つの補助センサー150を構成してもよい。前記補助センサー150は、色補間器148をさらに含んでもよい。
図20は、フォーカス信号発生器120をフォーカス信号発生器120’に置き換えたことを除き、装置103と同様のオートフォーカス画像ピックアップ装置103’の代替実施形態を示す。前記補助画素アレイ108’’、A/D変換器110、フォーカス信号発生器120’は、一緒に1つのパッケージ142に収容されて1つの補助センサー150’を構成してもよい。前記補助センサー150は、色補間器148をさらに含んでもよい。
図21は、オートフォーカス画像ピックアップ装置103’’の代替実施形態を示す。前記フォーカス信号発生器120及び前記プロセッサー112’’は、前記補助画素アレイ108’’とは別に、カメラコントローラとしてパッケージ144に収容されてもよい。前記プロセッサー112’’は、プロセッサー112’’が前記主画素アレイ2808及び前記補助画素アレイ108’’から画像を受け取ることを除き、プロセッサー112と同様である。前記プロセッサー112’’は、前記プロセッサー112が図2で信号130に対して実行可能な処理と同様に、信号2830で受け取られた画像に対して色補間、色補正、圧縮/解凍、及びメモリカード116への記憶を行うことができる。図2とは違って、ここでは、信号130で受け取られた画像は、圧縮/解凍されたり、メモリカード116に記憶されたりする必要がない。前記プロセッサー112’’は、補助画素アレイ108’’でのカラーフィルターに被覆された画素に対して、信号130で受け取られた画像に色補間を行い、そして色補間された画像をフォーカス信号発生器120に信号146で送信することができる。
前記オートフォーカス画像ピックアップシステム102、102’、103、103’、103’’は、それぞれ前記プロセッサー112、112’、112’’及び/又は前記フォーカス信号発生器120、120’が本願に記述された機能のうちの1つ以上を実行するようにする指令を含むコンピュータプログラム記憶媒体(図示せず)を備えてもよい。一例として、前記指令は、前記プロセッサー112又は前記発生器120’が図7のフローチャートに基づいてエッジ幅に対して斜め補正を行うようにしてもよい。別の実例として、前記指令は、前記プロセッサー112’又は前記発生器120が幅フィルター209に関する上記記述に基づいてエッジ幅のろ過を実行するようにしてもよい。または、前記プロセッサー112、112’又は前記発生器120、120’は、ファームウェア及びハードウェアの組合わせ又は本願に含まれる機能のうちの1つ以上に対する単純なハードウェアの実装を有するように配置されてもよい。例えば、発生器120において、単純なハードウェアにおいて斜め補正を実施し、ファームウェアにおいて指令による長さフィルター212を実施してもよい。
図26は、フォーカス信号発生器120’のまだ別の実施例を示す。 本実施例は、いずれの上記画像キャプチャシステムにも用いることができる。
メモリカード116はシステム102の一部として示されているが、その代わりに、その中に記憶された画像がユーザによりアクセス可能であり、且つ前記システム102の外部にある異なる位置に転写可能であるハードディスクドライブような、不揮発性記憶媒体も使用してもよい。
前記システムに使用される1つ以上のパラメータ、例えば、鮮明_エッジ_幅は、前記システムにおける1つの装置の不揮発性メモリに記憶されてもよい。前記装置はフラッシュメモリ装置、プロセッサー又は画像センサー、又はこれらとは別の装置としてのフォーカス信号発生器であってもよい。前記システムに使用される1つ以上の式、例えば、連結長さ閾値を算出するための又はβを算出するための式は同様に、パラメータとして又はコンピュータが実施可能な指令として、前記装置のうちの1つ以上での不揮発性メモリに記憶されてもよい。
上記図面において幾つかの例示的な実施形態を描いて示したが、これらの実施形態は、広い本発明を制限するものではなく、単に本発明を説明するものである。また、本発明は、当業者により様々な別の変形を達成することができるため、上記に描かれて示された特定の構造と構成に限定されないことが理解されるべきである。
Claims (12)
- 画像内の複数のエッジに基づいて前記画像の鮮明度を評価する撮像システムであって 、
1つ以上の参照勾配曲線および/または参照勾配のシーケンスを定義するデータを(記憶するためのメモリ手段)格納するメモリまたはレジスタのバンク
を備えることを特徴とする撮像システム。 - 前記データは、前記の1つ以上のシーケンスの中の少なくとも1つにおいて、ある参照勾配から参照ピークまでの間隔を規定することを特徴とする請求項1において記載した撮像システム。
- 評価ユニットをさらに備え、
前記評価ユニットは、前記複数のエッジのうちの一つを亘る勾配プロファイルと、前記メモリにおいて定義された参照勾配のシーケンスまたは参照勾配曲線を比較するように構成されており、
前記参照勾配のシーケンスまたは参照勾配曲線は、前記前記一つ以上の参照勾配曲線またはシーケンスのうちの一つである
ことを特徴とする請求項1において記載した撮像システム。 - 前記評価ユニットは、前記参照勾配のシーケンスまたは参照勾配曲線のパラメータと前記勾配プロファイルから測定されたパラメータを比較する
ことを特徴とする請求項3において記載した撮像システム。 - 前記評価ユニットは演算回路を備えることを特徴とする請求項4において記載した撮像システム。
- 前記評価ユニットはメモリを備えることを特徴とする請求項5において記載した撮像システム。
- パラメータ抽出部をさらに備え、
前記パラメータ抽出部は、前記勾配プロファイルを記述する1つ以上のパラメータを前記勾配プロファイルから抽出するように構成されている
ことを特徴とする請求項1において記載した撮像システム。 - シーケンス選択部をさらに備え、
前記シーケンス選択部は、1つ以上のパラメータに基づいて、前記複数のシーケンスのうちの1つ以上を選択するように構成されている
ことを特徴とする請求項1において記載した撮像システム。 - 画像内の複数のエッジに基づいて前記画像の鮮明度を評価する方法であって 、
少なくとも2つの参照勾配が異なる勾配値を有する2つ以上の参照勾配を含むシーケンスによつて前記複数のエッジのうちのエッジの勾配プロファイルを曲線に当てはめるするステップと、
所定の判定基準の下で、前記勾配プロファイルと前記シーケンスの比較を行うするステップと、
前記比較の結果に少なくとも部分的に基づいて、前記の鮮明度を評価することについて前記勾配プロファイル及び/又は前記シーケンスからの一つ以上の数量を使用する方法を判定を行うするステップとを含む方法。 - 前記判定に基づいて前記エッジからの寄与を改変することを介して前記複数のエッジからフォーカス信号を生成するステップ
をさらに含むことを特徴とする請求項9において記載した方法。 - 勾配プロファイルが所定の判定基準の下には前記シーケンスに十分に類似していないことを前記比較に発見する場合、
前記エッジが前記フォーカス信号の生成に影響を及ぼすことを防止する
ことを特徴とする請求項10において記載した方法。 - 前記比較は、段階的な結果を生成し、
前記フォーカス信号は、他のエッジと比較して相対的な程度に前記エッジのエッジ幅を寄与として受け、
前記相対的な程度は、前記段階的な結果に依る
ことを特徴とする請求項10において記載した方法。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/IB2011/052524 WO2012168766A1 (en) | 2011-06-09 | 2011-06-09 | Auto-focus image system |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2014521990A true JP2014521990A (ja) | 2014-08-28 |
JP2014521990A5 JP2014521990A5 (ja) | 2014-12-25 |
JP5920608B2 JP5920608B2 (ja) | 2016-05-25 |
Family
ID=44509487
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014514159A Expired - Fee Related JP5920608B2 (ja) | 2011-06-09 | 2011-06-09 | 画像の鮮明度を評価する撮像システムおよび方法 |
Country Status (10)
Country | Link |
---|---|
EP (1) | EP2719162B1 (ja) |
JP (1) | JP5920608B2 (ja) |
CN (1) | CN103650473B (ja) |
BR (1) | BR112013031316A2 (ja) |
CA (1) | CA2838821A1 (ja) |
DE (1) | DE112011105320T5 (ja) |
GB (1) | GB2505598A (ja) |
MX (1) | MX340988B (ja) |
SG (1) | SG195323A1 (ja) |
WO (1) | WO2012168766A1 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101733028B1 (ko) | 2016-05-30 | 2017-05-08 | 경북대학교 산학협력단 | 영상대조에 따른 에지 변위량 예측 방법 |
WO2018070844A1 (ko) * | 2016-10-13 | 2018-04-19 | 경북대학교 산학협력단 | 에지 모델링을 위한 에지 블러 설정 방법 |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3503528B1 (en) | 2017-12-21 | 2020-10-07 | Axis AB | Determination of a contrast value for a digital image |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07311025A (ja) * | 1994-05-17 | 1995-11-28 | Komatsu Ltd | 3次元形状検査装置 |
JP2003167182A (ja) * | 2001-11-29 | 2003-06-13 | Minolta Co Ltd | オートフォーカス装置 |
EP1407940A2 (en) * | 2002-10-11 | 2004-04-14 | Eaton Corporation | Motion-based segmentor for occupant tracking |
JP2005331738A (ja) * | 2004-05-20 | 2005-12-02 | Seiko Epson Corp | ミスフォーカス判定方法およびこれに関するプログラム |
JP2006115446A (ja) * | 2004-09-14 | 2006-04-27 | Seiko Epson Corp | 撮影装置、及び画像評価方法 |
JP2007322259A (ja) * | 2006-06-01 | 2007-12-13 | Konica Minolta Sensing Inc | エッジ検出方法、装置、及びプログラム |
WO2010036249A1 (en) * | 2008-09-24 | 2010-04-01 | Nikon Corporation | Autofocus technique utilizing gradient histogram distribution characteristics |
JP2011003124A (ja) * | 2009-06-22 | 2011-01-06 | Sony Corp | 画像処理装置および画像処理プログラム |
GB2475983A (en) * | 2009-12-07 | 2011-06-08 | Hiok Nam Tay | Reflection symmetry of gradient profile associated with an edge |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1892401A (zh) * | 2006-05-25 | 2007-01-10 | 南京大学 | 针对虹膜图像捕捉的时频域多阶段自动对焦方法 |
JP5353141B2 (ja) * | 2008-09-18 | 2013-11-27 | 株式会社ニコン | プログラム、カメラ、画像処理装置、及び画像の合焦度算出方法 |
CN101860680B (zh) * | 2009-04-08 | 2011-12-21 | 鸿富锦精密工业(深圳)有限公司 | 影像处理装置及其影像处理方法 |
-
2011
- 2011-06-09 JP JP2014514159A patent/JP5920608B2/ja not_active Expired - Fee Related
- 2011-06-09 CA CA2838821A patent/CA2838821A1/en not_active Abandoned
- 2011-06-09 DE DE112011105320.7T patent/DE112011105320T5/de not_active Withdrawn
- 2011-06-09 BR BR112013031316A patent/BR112013031316A2/pt not_active IP Right Cessation
- 2011-06-09 CN CN201180071472.0A patent/CN103650473B/zh not_active Expired - Fee Related
- 2011-06-09 SG SG2013090196A patent/SG195323A1/en unknown
- 2011-06-09 WO PCT/IB2011/052524 patent/WO2012168766A1/en active Application Filing
- 2011-06-09 MX MX2013014257A patent/MX340988B/es active IP Right Grant
- 2011-06-09 EP EP11735546.1A patent/EP2719162B1/en not_active Not-in-force
- 2011-06-09 GB GB1321654.4A patent/GB2505598A/en not_active Withdrawn
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07311025A (ja) * | 1994-05-17 | 1995-11-28 | Komatsu Ltd | 3次元形状検査装置 |
JP2003167182A (ja) * | 2001-11-29 | 2003-06-13 | Minolta Co Ltd | オートフォーカス装置 |
EP1407940A2 (en) * | 2002-10-11 | 2004-04-14 | Eaton Corporation | Motion-based segmentor for occupant tracking |
JP2004133944A (ja) * | 2002-10-11 | 2004-04-30 | Eaton Corp | 区分化イメージを分離する方法及びそのための区分化システム |
JP2005331738A (ja) * | 2004-05-20 | 2005-12-02 | Seiko Epson Corp | ミスフォーカス判定方法およびこれに関するプログラム |
JP2006115446A (ja) * | 2004-09-14 | 2006-04-27 | Seiko Epson Corp | 撮影装置、及び画像評価方法 |
JP2007322259A (ja) * | 2006-06-01 | 2007-12-13 | Konica Minolta Sensing Inc | エッジ検出方法、装置、及びプログラム |
WO2010036249A1 (en) * | 2008-09-24 | 2010-04-01 | Nikon Corporation | Autofocus technique utilizing gradient histogram distribution characteristics |
JP2011003124A (ja) * | 2009-06-22 | 2011-01-06 | Sony Corp | 画像処理装置および画像処理プログラム |
GB2475983A (en) * | 2009-12-07 | 2011-06-08 | Hiok Nam Tay | Reflection symmetry of gradient profile associated with an edge |
JP2013527483A (ja) * | 2009-12-07 | 2013-06-27 | ナム タイ,ヒョク | オートフォーカス画像システム |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101733028B1 (ko) | 2016-05-30 | 2017-05-08 | 경북대학교 산학협력단 | 영상대조에 따른 에지 변위량 예측 방법 |
WO2018070844A1 (ko) * | 2016-10-13 | 2018-04-19 | 경북대학교 산학협력단 | 에지 모델링을 위한 에지 블러 설정 방법 |
KR20180040846A (ko) * | 2016-10-13 | 2018-04-23 | 경북대학교 산학협력단 | 영상 대조에 따른 두개의 에지 블러 파라미터 예측 방법 |
KR101868483B1 (ko) | 2016-10-13 | 2018-07-23 | 경북대학교 산학협력단 | 영상 대조에 따른 두개의 에지 블러 파라미터 예측 방법 |
US11227394B2 (en) | 2016-10-13 | 2022-01-18 | Kyungpook National University Industry-Academic Cooperation Foundation | Method for setting edge blur for edge modeling |
Also Published As
Publication number | Publication date |
---|---|
DE112011105320T5 (de) | 2014-04-03 |
EP2719162A1 (en) | 2014-04-16 |
WO2012168766A8 (en) | 2014-01-30 |
CN103650473B (zh) | 2018-09-04 |
MX2013014257A (es) | 2014-02-27 |
GB2505598A (en) | 2014-03-05 |
WO2012168766A1 (en) | 2012-12-13 |
MX340988B (es) | 2016-08-03 |
CN103650473A (zh) | 2014-03-19 |
SG195323A1 (en) | 2013-12-30 |
GB201321654D0 (en) | 2014-01-22 |
EP2719162B1 (en) | 2016-08-31 |
JP5920608B2 (ja) | 2016-05-25 |
CA2838821A1 (en) | 2012-12-13 |
BR112013031316A2 (pt) | 2016-11-29 |
WO2012168766A9 (en) | 2014-07-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6179827B2 (ja) | フォーカス信号を生成する方法 | |
US8630504B2 (en) | Auto-focus image system | |
US9065999B2 (en) | Method and apparatus for evaluating sharpness of image | |
US20140022443A1 (en) | Auto-focus image system | |
JP5920608B2 (ja) | 画像の鮮明度を評価する撮像システムおよび方法 | |
JP2014504375A (ja) | オートフォーカス画像システム | |
JP2014504375A5 (ja) | ||
JP6057086B2 (ja) | 画像の鮮明さ度合いを決定する方法および画像ピックアップ装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20140609 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20140609 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20150317 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20150331 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20150630 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20150729 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20150828 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20150928 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20160301 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20160329 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5920608 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |