JP6325615B2 - カメラのフォーカスを設定する方法及び装置。 - Google Patents

カメラのフォーカスを設定する方法及び装置。 Download PDF

Info

Publication number
JP6325615B2
JP6325615B2 JP2016170550A JP2016170550A JP6325615B2 JP 6325615 B2 JP6325615 B2 JP 6325615B2 JP 2016170550 A JP2016170550 A JP 2016170550A JP 2016170550 A JP2016170550 A JP 2016170550A JP 6325615 B2 JP6325615 B2 JP 6325615B2
Authority
JP
Japan
Prior art keywords
focus
camera
motion
motion level
window
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016170550A
Other languages
English (en)
Other versions
JP2017079466A (ja
Inventor
デニス ニルソン,
デニス ニルソン,
ヨーアン ニーストレーム,
ヨーアン ニーストレーム,
ビョルン ベンデルジュス,
ビョルン ベンデルジュス,
Original Assignee
アクシス アーベー
アクシス アーベー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by アクシス アーベー, アクシス アーベー filed Critical アクシス アーベー
Publication of JP2017079466A publication Critical patent/JP2017079466A/ja
Application granted granted Critical
Publication of JP6325615B2 publication Critical patent/JP6325615B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6811Motion detection based on the image signal
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/32Means for focusing
    • G03B13/34Power focusing
    • G03B13/36Autofocus systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/672Focus control based on electronic image sensor signals based on the phase difference signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/673Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/689Motion occurring during a rolling shutter mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/695Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6812Motion detection based on additional sensors, e.g. acceleration sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/69Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Automatic Focus Adjustment (AREA)
  • Adjustment Of Camera Lenses (AREA)
  • Focusing (AREA)
  • Details Of Cameras Including Film Mechanisms (AREA)

Description

本発明は概して、カメラのフォーカスを設定するためのオートフォーカスアルゴリズムに関する。
例えばデジタルカメラ及び他の同様の機構等の画像キャプチャ装置は、より一般的なものになってきている。高所得者向けのプロのカメラとしてのみ入手可能であったが、今日、上記装置は携帯電話、パーソナルデジタルアシスタント、及び他のポータブルな電子機器に備わっている。多くのポータブル電子機器で利用可能な画像キャプチャ装置には、オートフォーカス機能が含まれる。オートフォーカスシステムは、適切なフォーカスを自動的に決定する画像処理回路を使用し、これによりユーザがそれを行う必要がなくなっている。
上記オートフォーカス機構の1つの不利点は、比較的遅いことでありうる。例えば、電子機器(例えば、携帯電話等のポータブル電子機器、又は例えばネットワークに接続された監視カメラ等の固定電子機器)に組み込まれたある画像キャプチャシステムでは、オートフォーカスシステムは、インテリジェントなトライアル・アンド・エラーを通して、レンズを、ピントが合った画像に対応する特定位置へ移動させなければならない。オートフォーカスシステムはこれを、画像を観察して、レンズを移動させ、別の画像をキャプチャして、それを再び観察して、フォーカスが適切であるかどうかを決定することによって行う。このプロセスは、最適なレンズ位置が見つかるまで繰り返される。オートフォーカス動作が行われている時に画像キャプチャ装置が動いていると、時間が大幅に延びうる。例えば、ユーザの手の震え、あるいは移動プラットフォームは、画像キャプチャ装置が大幅に動く原因となりうる。上記動きにより結果的に、オートフォーカス機能にフォーカスを達成する一貫した被写体がないため、画像がぼやけうる。更に、フォーカスが最終的に達成されても、上記の動きにより、オートフォーカス動作が完了するのに更に時間がかかることになる。
文献US8274596(モトローラ・モビリティ社)は、オートフォーカス(AF)プロセスを実行する前に、画像センサに入る画像が十分に安定しているか否かを決定するための方法及び画像キャプチャ装置に関するものである。画像が安定しているか否かは、例えばジャイロ又は加速度計等のハードウェアによって決定されうる。AFプロセスは、画像が安定しない限り実施されず、AFプロセスの速度が速まらないため、本明細書の開示内容により、ぼやけた画像の問題が解決しうる。逆に、カメラが動いている時は、AFプロセスが遅延する。
上述に鑑み、本発明の目的は、上記の欠点のうちの1つ又は幾つかを解決するもしくは少なくとも低減させることである。概して、上記の目的は添付の独立特許クレームによって達成される。
第1の態様によれば、本発明は、ローリングシャッター画像センサとフォーカスレンズ構成とを備えるカメラのフォーカスを設定するオートフォーカスの方法によって実現され、オートフォーカスの方法は以下のステップ:
− ローリングシャッター画像センサによって一又は複数の画像フレームをキャプチャすることであって、ローリングシャッター画像センサは複数のピクセル領域を含み且つ画像フレームをキャプチャしている間に一度に1つのピクセル領域からピクセルデータを読み出す、キャプチャするステップと、
− ピクセルデータに関連付けられ且つ複数のピクセル領域からピクセルデータを読み出している間に測定された複数のカメラ動きレベルを示す動きデータを作成するために、ピクセルデータを読み出している間にカメラのカメラ動きレベルを連続的に測定するステップと、
− 一又は複数の画像フレームの各画像フレームを複数のフォーカスウィンドウに分割するオートフォーカスアルゴリズムを使用してカメラのフォーカスを設定するステップであって、各フォーカスウィンドウが複数のピクセル領域の一又は複数のピクセル領域のピクセルデータを含む、設定するステップと
を含む。
更に、オートフォーカスアルゴリズムは、複数のフォーカスウィンドウの各フォーカスウィンドウに対し、
− フォーカスウィンドウに含まれるピクセルデータに基づいてフォーカスウィンドウのフォーカス測度を計算することと、
− フォーカスウィンドウに含まれるピクセルデータに関連付けられる動きデータに基づいてフォーカスウィンドウの動きレベルを計算することと、
− 少なくともフォーカスウィンドウの動きレベルによってフォーカスウィンドウのフォーカス測度を重みづけすることによって、フォーカスウィンドウの重みづけされたフォーカス測度を計算することと
を含む。
ローリングシャッター画像センサは、単一の時点で現場の画像をキャプチャしないが、その代わりに、普通は垂直方向又は水平方向のいずれかにおいて現場全体をスキャンし、これにより異なる時点でピクセルデータを読み出すセンサである。つまり、現場の画像の全ての部分が、ぴったり同じ時に記録されるわけではない。従って、本明細書における「ピクセル領域」という語は、例えばローリングシャッター画像センサのピクセルの行又はピクセルの列として理解すべきである。ピクセル領域はまた、ローリングシャッター画像センサの複数の行又は列も含みうる。カメラのカメラ動きレベルは、上記のようにピクセルデータを読み出している間に連続的に測定される。カメラ動きレベルは例えば、ローリングシャッター画像センサの各ピクセル領域に対して測定されうる、あるいは他の全てのピクセル領域に対して測定されうる。しかしながら、カメラ動きレベルは、1つのピクセル領域が、他のピクセル領域に関連付けられる動きデータとは異なる(測定されたカメラ動きレベルを示す)動きデータに関連付けられうるように、複数のピクセル領域からピクセルデータを読み出している間に少なくとも2つの時点で測定される。
本発明者らは、オートフォーカス(AF)アルゴリズムを使用してカメラのフォーカスを設定する際に、個別のピクセル領域に関連付けられる上記異なる動きデータが有益に使用されうることに気が付いた。オートフォーカスアルゴリズムは、各フォーカスウィンドウが、複数のピクセル領域の一又は複数のピクセル領域のピクセルデータを含むように、一又は複数の画像フレームの各画像フレームを、複数のフォーカスウィンドウに分割する。これは、画像フレームの第1のフォーカスウィンドウが、カメラ(及び従ってローリングシャッター画像センサ)が動いている間に読み出されたピクセルデータを含み、同じ画像フレームの別のフォーカスウィンドウが、カメラが完全に静止していた(あるいはより少なく又は多く移動していた)間に読み出されたピクセルデータを含みうることを意味する。フォーカスウィンドウのフォーカス測度を計算している時にカメラの動き(複数可)を考慮することによって、カメラが動いている間に読み出されたピクセルデータを含むフォーカスウィンドウのフォーカス測度の重要性はカメラの動きが少ない、あるいは0の間に読み出されたピクセルデータを含むフォーカスウィンドウのフォーカス測度の重要性と比べて低下しうる。
フォーカス測度の重みづけは、各フォーカスウィンドウの動きレベルを計算することによって実施される。例えば動きレベルは、フォーカスウィンドウにおけるピクセルデータに関連付けられる(動きデータによって示される)カメラの最大限の動きであってよい、又は動きレベルは、フォーカスウィンドウにおけるピクセルデータに関連付けられる(動きデータによって示される)カメラの平均の動きであってよい。フォーカスウィンドウの動きレベルを計算する他の方法も採用されうる。
フォーカスウィンドウのフォーカス測度の重要性を計算する際に、特定のフォーカスウィンドウの動きレベルが次に使用される。つまり、少なくともフォーカスウィンドウの動きレベルによってフォーカスウィンドウのフォーカス測度を重みづけすることによって、フォーカスウィンドウの重みづけされたフォーカス測度が計算されるということである。
本発明は従って、カメラが動いている間に読み出されたピクセルデータから生じたフォーカス測度は、カメラの動きが少ない時に読み出されたピクセルデータから生じたフォーカス測度とは重みづけが異なりうるため、改善されたオートフォーカスアルゴリズムを提供する。これは次に、ピクセルデータの他の部分が例えばカメラが大きく動いていない時に読み出された場合、カメラが大きく動いている間にピクセルデータの一部が読み出される画像フレームをやはり使用することが可能になる。結果的に、ピクセルデータが読み出されている間にカメラが動いた時にでもAFが実施されうるため、AFアルゴリズムの速度が上がりうる。更に、本発明のオートフォーカスアルゴリズムは、カメラが動いている間に読み出されたピクセルデータから生じたフォーカス測度が上述したように低く重みづけされうるため、より正確な結果が得られうる。
幾つかの実施形態によれば、一又は複数の画像フレームをキャプチャするステップは、1つの画像フレームのみをキャプチャすることを含み、フォーカス測度を計算するステップは、フォーカスウィンドウに含まれるピクセルデータから位相ベースのフォーカス測度を計算することを含む。この実施形態によれば、重みづけされたフォーカス測度を計算するステップは、高い動きレベルを有するフォーカスウィンドウのフォーカス測度が、低い動きレベルを有するフォーカスウィンドウのフォーカス測度がよりも低い重みで重みづけされるように、フォーカス測度を重みづけすることを含む。
位相の検出は、入射光を対の画像に分割し、それらを比較することによって達成される。位相検出オートフォーカスセンサは、被写体の(1つの画像フレームのみから生成された)2つのオフセット画像を比較して、それらの間の位相差、あるいは分離誤差を計算する。画像がぴったりと合わない(すなわち分離誤差が0ではない)場合、被写体はピントが合っていない。画像間の分離誤差は、フォーカスをどれぐらい変えるべきかを決定するために使用され、2つの画像の相対位置は、現在のフォーカス設定と比べて新しいフォーカスが更に近づくあるいは遠のく必要があるか否かを決定するために使用される。ローリングシャッター画像センサを有するカメラについては、フォーカスウィンドウに含まれるピクセルデータを読み出している間、カメラが異なった動きをしうるため、各フォーカスウィンドウに異なる分離誤差が生じ得る。高い動きレベルを有するフォーカスウィンドウのフォーカス測度が、低い動きレベルを有するフォーカスウィンドウのフォーカス測度よりも低い重みで重みづけされるようにフォーカス測度を重みづけすることによって、カメラが動いている間に読み出されたピクセルデータの(分離誤差から生じた)フォーカス測度は、カメラの動きが小さい間に読み出されたピクセルデータのフォーカス測度よりも正確ではないため、改善されたオートフォーカスアルゴリズムが達成されうる。
幾つかの実施形態によれば、カメラのフォーカスを設定するステップは、1つの画像フレームのみの複数のフォーカスウィンドウ各々の重みづけされたフォーカス測度の平均値を計算することを含む。この実施形態により、カメラのフォーカスを設定するための計算の複雑性が低減しうる。
幾つかの実施形態によれば、一又は複数の画像フレームをキャプチャするステップは、複数の画像フレームをキャプチャすることを含む、各画像フレームは、フォーカスレンズ構成の異なるフォーカス設定を使用してカメラによってキャプチャされる。この実施形態によれば、オートフォーカスアルゴリズムによって、複数の画像フレームが各々、複数のフォーカスウィンドウに分割される。複数の画像フレームの各画像フレームは従って、複数のフォーカスウィンドウに分割され、結果的に、例えば第1の画像フレームのフォーカスウィンドウは、他の画像フレーム各々のフォーカスウィンドウに対応する。コントラストベースのフォーカス測度は次に、各フォーカスウィンドウのフォーカス測度を計算するために使用されうる。重みづけされたフォーカス測度を計算するステップは、フォーカスウィンドウの動きレベルと、複数の画像フレームの他の画像フレーム各々の対応するフォーカスウィンドウの動きレベルとを使用して統合された動きレベルを計算することと、高い統合された動きレベルを有するフォーカスウィンドウのフォーカス測度が、低い統合された動きレベルを有するフォーカスウィンドウのフォーカス測度よりも低い重みで重みづけされるように、統合された動きレベルによってフォーカス測度を重みづけすることとを含みうる。
本明細書における「統合された動きレベル」という語は、統合された動きレベルを計算するために、複数の動きレベル(複数の画像フレームの中の各対応するフォーカスウィンドウに対して1つ)が組み合わされたものと理解すべきである。幾つかの実施形態によれば、前記複数の動きレベルが、統合された動きレベルを形成するために合計される。他の実施形態によれば、前記複数の動きレベル間の最大、平均又は中間値が、統合された動きレベルとして使用される。つまり、特定のフォーカスウィンドウの統合された動きレベルを形成するために、各フォーカスウィンドウに対し、異なる時点で測定された複数の(潜在的に異なる)動きレベルが組み合わされる。
コントラストベースのフォーカスアルゴリズムは、レンズを通してセンサ領域又はフォーカスウィンドウ内のコントラストを測定することによって達成されうる。例えばフォーカスウィンドウに含まれるピクセルデータの隣接するピクセル又は近くのピクセル間の強度差、又はフォーカス測度は、正確な画像のフォーカスと共に増加する。異なるフォーカスを使用して複数の画像フレームをキャプチャし、複数の画像フレームの対応するフォーカスウィンドウ間のフォーカス測度を比較することによって、カメラの正確なフォーカスが設定されうる。本実施形態では、対応するフォーカスウィンドウのセットのフォーカス測度の重要性が有益に低く重みづけされ得、ここでフォーカスウィンドウの少なくとも1つは、カメラが動いている間にキャプチャされたピクセルデータを含む。
例えば、ヒルクライムアルゴリズムが使われた場合、2つのフォーカスウィンドウのいずれかに含まれるピクセルデータをキャプチャしている間にカメラが動いてしまうと、2つのフォーカス測度間の比較の結果に誤差が出うるため、第1の画像フレームのフォーカスウィンドウと、第2の画像フレームの対応するフォーカスウィンドウとの間の比較が低く重みづけされうる。
幾つかの実施形態によれば、統合された動きレベルを計算することは、フォーカスウィンドウの動きレベルと、複数の画像フレームの他の画像フレーム各々の対応するフォーカスウィンドウの動きレベルの合計を計算することを含む。これは、対応するフォーカスウィンドウのセットの1を越えるフォーカスウィンドウの計算されたフォーカス測度にカメラの動きが影響し、セットのうちの1つのフォーカスウィンドウのみがカメラが動いている間に読み出されたピクセルデータを含む場合よりも、セットのフォーカス測度間の比較の正確さに影響を与えうる場合に有益でありうる。
幾つかの実施形態によれば、統合された動きレベルを計算することが、フォーカスウィンドウの動きレベルの最大の動きレベルと、複数の画像フレームの他の画像フレーム各々の対応するフォーカスウィンドウの動きレベルとを計算することを含む。この実施形態により、統合された動きレベルを計算することにおける計算の複雑性が低減しうる。
幾つかの実施形態によれば、ピクセルデータに関連する動きデータが、各ピクセル領域の各読み出しに対する個別のカメラ動きレベルを含むように、画像センサの各ピクセル領域の各読み出しに対してカメラの動きレベルが測定される。これにより、オートフォーカスアルゴリズムの正確性が改善されうる。
幾つかの実施形態によれば、カメラ動きレベルが所定のカメラ動きレベルを下回る時に、動きデータが第1の値に設定され、カメラ動きレベルが所定のカメラの動きレベル以上である時に、動きデータが第2の値に設定される。例えば、所定のカメラ動きレベルを下回る全てのカメラ動きレベル(すなわち、カメラの動き)が計算されたフォーカス測度に影響しないと解釈され得、その結果、カメラの動きを無視することができる。これにより、オートフォーカスアルゴリズムの計算の複雑性が低減し、アルゴリズムの速度も上がりうる。
幾つかの実施形態によれば、動きデータの第2の値により、結果的に、動きデータに関連しているピクセルデータを含むフォーカスウィンドウのフォーカス測度が0の重みで重みづけされる。これにより、カメラのフォーカスが設定されている時に、カメラが所定のカメラ動きレベルより更に動いている間にフォーカスウィンドウに含まれる全てのピクセルデータが読み出されるとすぐに、このフォーカスウィンドウのフォーカス測度は完全に無視されることを意味する。コントラストベースのフォーカス測度が採用される場合、これは、カメラのフォーカスが設定される時に、対応するフォーカスウィンドウのセットのフォーカスウィンドウ全てのフォーカス測度(上述した複数の画像フレームの各画像フレームに対して1つ)の重みが0になり、従って完全に無視されることを意味する。
幾つかの実施形態によれば、カメラ動きレベルが、第1の所定のカメラ動きレベルを下回る時に、動きデータが第1の値に設定され、カメラ動きレベルが第2の所定のカメラ動きレベルを上回る時に、動きデータを第2の値に設定するステップと、カメラ動きレベルが、第1及び第2の所定のカメラ動きレベルの間である時に、動きデータが、第1と第2の値の間の別の値に設定され、別の値はカメラ動きレベルに関連するものである。例えば、動きデータが0から1までの数によって表され得、0はカメラの動きがないことを表し、1はカメラの最大限の動きを表す場合、本実施形態は下記のように実行されうる。カメラ動きレベルが第1の所定のカメラ動きレベルを下回る時に、動きデータが0(すなわち動きがない)に設定され得、カメラ動きレベルが第2の所定のカメラ動きレベルを上回る時に、動きデータが1(すなわち最大の動き)に設定され得、第1と第2の所定のカメラ動きレベルの間である時に、動きデータが、カメラ動きレベルに依存して0から1までの数に設定されうる。カメラ動きレベルと動きデータの間の平行移動は従って、シグモイド関数と同様であってよい。
カメラ動きレベルが、所定のカメラ動きレベルの特定レベルを上回る及び下回る一定の動きデータ値に閾値化されるため、これにより、オートフォーカスアルゴリズムの計算の複雑性が低減し、アルゴリズムの速度も上がりうる。
同様に、コントラストベースのフォーカス測度が採用された時に、幾つかの実施形態によれば、統合された動きレベルが第1の所定の動きレベルを下回る時に、統合された動きレベルによってフォーカス測度を重みづけするステップが、第1の重みでフォーカス測度を重みづけすることを含む。この実施形態によれば、統合された動きレベルが第2の所定の動きレベルを上回る時に、統合された動きレベルによってフォーカス測度を重みづけするステップが、第2の重みでフォーカス測度を重みづけすることを含む。更に、この実施形態によれば、統合された動きレベルが第1と第2の所定の動きレベルの間である時に、統合された動きレベルによってフォーカス測度を重みづけするステップが、第1と第2の重みの間の別の重みでフォーカス測度を重みづけすることを含み、別の重みは統合された動きレベルに関連するものである。この実施形態は概して、動きデータの閾値化に関連する上述した実施形態と同じ特徴及び利点を有しうる。
幾つかの実施形態によれば、カメラ動きレベルを連続的に測定することは、カメラの動きセンサから入力を受信するステップを含み、入力は、動きセンサによって感知されたカメラの動きに関連するものである。動きセンサは例えば、振動センサ、ジャイロスコープ、加速度計、赤外線センサ等の任意の適切な種類の動きセンサであってよい。上記センサはすでにカメラに存在していてよく、従ってこの理由のためにも採用されうる。あるいは、又は加えて、幾つかの実施形態によれば、カメラ動きレベルを連続的に測定することが、カメラのパン/チルト、PT、モータから入力を受信するステップを含み、入力は、PTモータによって誘発されたカメラの動きに関連するものである。これは、上記入力がカメラが実際に動く前に受信され得るために有益であり得、従って、アルゴリズムは、カメラが動くであろうことを知っていることを有益に利用しうる。
第3の態様では、本発明は、処理能力を有する装置によって実行されると、第1の態様の方法の少なくとも一部を実施するように適合された命令を有するコンピュータ可読記憶媒体を含む、コンピュータプログラム製品を提供する。幾つかの実施形態によれば、コンピュータプログラム製品は、第1の態様の方法全体を実施するように適合された命令を有するコンピュータ可読記憶媒体を含む。他の実施形態によれば、コンピュータプログラム製品は、オートフォーカスアルゴリズムに関連する第1の態様の方法のステップを実施するように適合された命令を有するコンピュータ可読記憶媒体を含む。
第3の態様では、本発明は、ローリングシャッター画像センサとフォーカスレンズ構成とを備えるカメラのフォーカスを設定するための装置を提供し、本装置は、
− ローリングシャッター画像センサによってキャプチャされた一又は複数の画像フレームに関連するピクセルデータを受信することであって、ローリングシャッター画像センサが複数のピクセル領域を備え且つ画像フレームをキャプチャしている間に一度に1つのピクセル領域からピクセルデータを読み出す、受信することと、
− ピクセルデータに関連付けられ、複数のピクセル領域からピクセルデータを読み出している間に測定された複数のカメラ動きレベルを示す動きデータを受信することであって、カメラのカメラ動きレベルが、ピクセルデータを読み出している間に連続的に測定される、受信することと、
一又は複数の画像フレームの各画像フレームを複数のフォーカスウィンドウに分割するオートフォーカスアルゴリズムを使用して、カメラのフォーカスを設定することであって、各フォーカスウィンドウが複数のピクセル領域の一又は複数のピクセル領域のピクセルデータを含む、設定することとを実施するように適合され、
オートフォーカスアルゴリズムが、複数のフォーカスウィンドウの各フォーカスウィンドウに対して、
フォーカスウィンドウに含まれるピクセルデータに基づいてフォーカスウィンドウのフォーカス測度を計算することと、
フォーカスウィンドウに含まれるピクセルデータに関連付けられる動きデータに基づいて、フォーカスウィンドウの動きレベルを計算することと、
少なくともフォーカスウィンドウの動きレベルによってフォーカスウィンドウのフォーカス測度を重みづけすることによって、フォーカスウィンドウの重みづけされたフォーカス測度を計算することと
を含む、装置。
上記装置は、カメラにおいて実装されうる、又はカメラとは別の、カメラに有線で又は無線で連結された装置であってよい。
第2及び第3の態様は、一般的に、第1態様と同じ特徴及び利点を有しうる。
本発明の上記及び追加の目的、特徴、利点は、付随する図面を参照しつつ、本発明の実施形態の以下の例示的かつ非限定的な詳細説明を通して、より明確に理解されるであろう。図面では類似要素に対して同じ参照番号が使用されている。
ローリングシャッター画像センサによるピクセルデータの読み出しが動きデータに関連付けられる、ローリングシャッター画像センサによってキャプチャされた画像フレームを示す図である。 a〜bは、測定されたカメラ動きレベルと、結果的な動きデータとの間のマッピング機能の例を示す図である。 図1の画像フレームの位相ベースのフォーカス測度のグラフ表示の図である。 本発明の実施形態に係るコントラストベースのフォーカス測度を使用してどのようにカメラのフォーカスが設定されるかを示す図である。 本発明の実施形態に係るコントラストベースのフォーカス測度のためのヒルクライムアルゴリズムを使用してどのようにカメラのフォーカスが設定されるかを示す図である。 本発明の実施形態に係るカメラ測度のフォーカスを設定するためのオートフォーカスの方法を示す図である。 本発明の実施形態に係るカメラのフォーカスを設定するための装置を示す図である。 本発明の他の実施形態に係るカメラのフォーカスを設定するための装置を示す図である。
ローリングシャッター画像センサを有するカメラでは、ピクセルのライン(行または列)がわずかに異なる時点で読み出されるため、ある読み出しは(例えばジャイロ又は加速度計によって、又はPT信号を用いて感じられる)振動に影響され、あるものは影響されない場合がある。これを図1に示す。図1の実施例では、ローリングシャッター画像センサは4つのピクセル領域を含む。カメラの前の現場をキャプチャしている間に、ローリングシャッター画像センサは4セットのピクセルデータ106a−dを読み出す。つまり、画像フレーム100のピクセルデータは、ピクセル104の4つの行106a−dを含む。カメラの振動及び/又は他の動きが連続的に測定されるため、各ピクセル104はカメラ動きレベル102(図1の矢印で表される、矢印の長さは動く量を表し、矢印の方向は概略的に動く方向を表す)と関連付けられ得る。カメラの動きレベル102は、各ピクセル領域に対して、又は他の全てのピクセル領域に対して、又は画像フレーム100に含まれるピクセルデータを読み出している間に任意の他の回数だけ測定されうることに注意すべきである。測定された動きレベルは、ピクセルデータに関連付けられる動きデータを作成するために使用される。
幾つかの実施形態によれば、動きデータは、測定された動きレベルの単純なデジタル表示であってよい。
他の実施形態によれば、動きデータは、測定された動きレベルのマッピングされたデジタル表示を表すものであってよい。上記マッピングを、図2a−bに示す。
例えば、図2aにおいて、カメラ動きレベル102が所定のカメラ動きレベル114を下回る時に、動きデータ112は第1の値に設定され得、カメラ動きレベル102が所定のカメラ動きレベル114以上である時に、動きデータ112は第2の値に設定されうる。この実施形態は例えば、(カメラ動きレベル102が所定のカメラ動きレベル114以上である場合に)後のオートフォーカスアルゴリズムでの使用から画像フレーム100のピクセルデータ104の一部を省略し、所定のカメラ動きレベル114を下回るカメラ動きレベル102に関連づけられるピクセルデータ104の部分を後にオートフォーカスアルゴリズムで使用する時に影響されないままであるように使用されうる。
図2bに、カメラ動きレベル102が第1の所定のカメラ動きレベル116を下回る時に、動きデータ112が第1の値に設定される別のマッピング機能を示す。カメラ動きレベル102が第2の所定のカメラ動きレベル118を上回る時に、動きデータ112は第2の値に設定され、カメラ動きレベルが第1の所定のカメラ動きレベル116と第2の所定のカメラ動きレベル118との間である時に、動きデータ112は第1と第2の値の間の別の値に設定され、別の値はカメラ動きレベル102に関するものである。図2aに示す実施形態と同様に、この実施形態により、後にオートフォーカスアルゴリズムで使用される時に、(第2の所定のカメラ動きレベル118以上のカメラ動きレベル102に関連づけられる)ピクセルデータの一部を省略し、(第1の所定のカメラ動きレベル116を下回るカメラ動きレベル102に関連づけられる)ピクセルデータの別の部分をそのまま残すことが達成され得る。しかしながら、図2aの実施形態とは逆に、第1の所定のカメラ動きレベル116と第2の所定のカメラ動きレベル118との間のカメラ動きレベル102に関連づけられるピクセルデータの重要性は、後にオートフォーカスアルゴリズムにおいて使用される時に、前記ピクセルデータを読み出している間にカメラの動き量に従って変化しうる。
オートフォーカスのために、画像フレームが複数のフォーカスウィンドウ108a−bに分割される。図1において、各フォーカスウィンドウ108a−bは2行のピクセルを含む、例えば上方のフォーカスウィンドウ108aは上方2行106a−bのピクセルを含む。他の実施形態によれば、各フォーカスウィンドウは、1行、3行、5行、又は任意の他の適切な数の行のピクセルを含みうる。更に、フォーカスウィンドウは幾つかの実施形態によれば、全部の行を含まない場合があるが、代わりに、各画像フレーム100が水平及び垂直の両方の方向においてフォーカスウィンドウに分割されうる。
動きデータは、各フォーカスウィンドウ108a−bの動きレベルを計算するために使用される。動きレベルは、フォーカスウィンドウに含まれるピクセルデータに関連づけられる全ての動きデータの加算を使用して計算されうる。動きレベルはまた、フォーカスウィンドウに含まれるピクセルデータに関連づけられる任意の動きデータの最大値、又はフォーカスウィンドウに含まれるピクセルデータに関連づけられる全ての動きデータの平均値にも基づいて計算されうる。フォーカスウィンドウの動きレベルを計算する任意の他の適切な方法が使用されうる。
フォーカスウィンドウの動きレベルは次に、少なくともフォーカスウィンドウの動きレベルによってフォーカスウィンドウのフォーカス測度を重みづけすることによって、フォーカスウィンドウの重みづけされたフォーカス測度を計算するために使用されうる。フォーカスウィンドウのフォーカス測度は、フォーカスウィンドウに含まれるピクセルデータに基づいて計算される。ピクセルデータからのフォーカス測度の計算は周知の手法であり、従って、本明細書では簡単に説明するのみである。
図3に、図1の画像フレームの位相ベースのフォーカス測度のグラフ化したものを示す。この場合、オートフォーカスアルゴリズムには、1つの画像フレームのみが必要とされる。上方のグラフ表示は、上方のフォーカスウィンドウ108aに関し、下方のグラフ表示は、下方のフォーカスウィンドウ108bに関する。手短に言うと、点線の曲線202は、フォーカスウィンドウ108aのピクセルデータから引き出された第1のオフセット画像のフォーカスのグラフ表示であり、実線の曲線204は、フォーカスウィンドウ108aのピクセルデータから引き出された第2のオフセット画像のフォーカスのグラフ表示である。2つの曲線202、204の最大値間の距離206は、位相差(又は分離誤差)に対応する。フォーカスウィンドウ108aのフォーカス測度は、距離206を使用して引き出される。下方のグラフ表示は、同様の方法でフォーカスウィンドウ108bのフォーカス測度を示すものであり、2つの曲線208、210の最大値間の距離212は、位相差、又は分離誤差に対応する。フォーカスウィンドウ108bのフォーカス測度は、距離212から引き出される。
距離206は20ピクセルの分離誤差を表し、距離212は25ピクセルの分離誤差を表す。ここで注記すべきは、20及び25という数は、一般的原理の説明を簡単にするために単に使われる例としてのみ解釈されるべき点である。異なる数値が使用され得、分離誤差も例えば、位相差の度合い等の他の用語で表現されうる。2つの分離誤差の重みづけが全く適用されない場合、オートフォーカスアルゴリズムの結果が、カメラのフォーカスは22.5ピクセル(20+25の平均値)の分離誤差に基づいて設定されることになりうる。分離誤差は、対象物が前のフォーカス位置、あるいは後ろのフォーカス位置にあるのかを知るために計算される。分離誤差は、(例えばフォーカスリングの動き等によって)要求されるカメラのフォーカスの変化量の予測として使われるフォーカス測度(フォーカス距離、フォーカス誤差等)に変換される。しかしながら、図1で明らかなように、上方のフォーカスウィンドウ108aに含まれるピクセルデータ106a−bは、カメラが動いている間に読み出されたものであるが、下方のフォーカスウィンドウ108bに含まれるピクセルデータ106c−dは、カメラが動いていない間に読み出されたものである。本発明は、少なくともフォーカスウィンドウの動きレベルに基づいてフォーカス測度を重みづけすることに関するものであるため、上方のフォーカスウィンドウ108aのフォーカス測度は、カメラのフォーカスが設定される時に下方のフォーカスウィンドウ108bのフォーカス測度よりも重要性が低いと見なされうる。
例えば、上方のフォーカスウィンドウに含まれるピクセルデータを読み出している間に測定されたカメラ動きレベルは、図2aと併せて記載されるように、所定のカメラ動きレベルを上回りうる。この場合、図2aと併せて記載されるマッピング機能が採用された場合、動きデータ112の第2の値により結果的に、フォーカスウィンドウ108aのフォーカス測度が0の重みによって重みづけされ、カメラのフォーカスを設定している時に上方のフォーカスウィンドウ108aからのフォーカス測度は完全に無視されうる。これは同様に、下方のフォーカスウィンドウ108bからのフォーカス測度のみが採用されるため、結果的にカメラのフォーカスは、25ピクセルの分離誤差に基づいて設定されうるということを意味する。
別の実施例によれば、上方のフォーカスウィンドウ108aからのフォーカス測度は0.2の重みで重みづけされ、下方のフォーカスウィンドウ108bからのフォーカス測度は0.8の重みで重みづけされる。この場合、カメラのフォーカスは、24ピクセルの分離誤差(20*0.2+25*0.8)に基づいて設定されうる。言い換えれば、カメラのフォーカスは、1つの画像フレーム100のみの複数のフォーカスウィンドウ108a−b各々の重みづけされたフォーカス測度の平均値に基づいて設定される。
ここで注記すべきは、本明細書に記載される重みは膨大な数の異なる方法で計算されうるという点である。例えば、図2a−bに記載されたマッピング機能と同様の動きデータの所定の閾値化が採用されうる。更に、重みは、例えば1/(1+合計(動きデータ))等の動きデータの逆数として計算されうる。
重みは、フォーカス測度で乗算する前に正規化されうる。
図4は、コントラストベースのフォーカス測度が採用されるAFアルゴリズムの実装態様を表した図である。この実装態様では、複数の画像フレーム100a−fがキャプチャされ、各画像フレームは、異なるフォーカス設定のフォーカスレンズ構成を使用してキャプチャされる。
AFアルゴリズムは、複数の画像フレーム100a−fを各々、複数のフォーカスウィンドウ108a−cに分割する。フォーカスウィンドウのフォーカス測度は、例えばフォーカスウィンドウのピクセルデータにソーベル演算子を使用する等によりフォーカスウィンドウのコントラスト量を決定することによって計算される。図4に、フォーカスレンズ構成の異なるフォーカス設定に対して、各フォーカスウィンドウ108a−cのフォーカス測度がどのように変化するかを示す。図4において、フォーカスウィンドウ108aのフォーカス測度が実線404によって表され、フォーカスウィンドウ108bのフォーカス測度は破線408によって表され、フォーカスウィンドウ108cのフォーカス測度は点線406によって表される。
図4において分かるように、フォーカスウィンドウ108b−cのフォーカス測度は全て、画像フレーム100dに対して使用されるフォーカス設定に到達するまで増加し、その後減少する。しかしながら、フォーカスウィンドウ108aについては、画像フレーム100cと画像フレーム100dとの間でフォーカス測度が下落する。
(黒点402で表される)異なるフォーカスウィンドウからのフォーカス測度の単純平均が使用される場合、オートフォーカスアルゴリズムは、画像100cのフォーカス設定が最適であると決定する。しかしながら、画像フレーム100dのフォーカスウィンドウ108aに含まれるピクセルデータはこのフォーカスウィンドウのフォーカス測度に大きく影響するカメラ動きレベルの間に読み出されたため、画像100a−f全てのフォーカスウィンドウ108aに関するフォーカス測度の読み出しの重要性は低減されるべきである。
フォーカスウィンドウ108aに対して計算された全てのフォーカス測度に対し、各画像フレーム100a−fのフォーカスウィンドウ108aの動きレベルを使用して統合された動きレベルが計算されるため、この結論に到達する。言い換えると、この統合された動きレベルがフレーム100dの高い動きレベルに影響されるため、複数の画像フレーム100a−f全てのフォーカスウィンドウ108aのフォーカス測度の重要性は低減されるべきである。画像フレーム100a−fのフォーカスウィンドウ108aのフォーカス測度は従って、フォーカスウィンドウ108b−cのフォーカス測度よりも低い重みで重みづけされる。
例えば、フォーカスウィンドウ108aのフォーカス測度の重みが0であるということは、このフォーカスウィンドウのフォーカス測度の読み出しが省略されうることを意味する。図4を再び参照すると、フォーカスウィンドウ108aのフォーカス測度に対応する実線404が無視される時、画像100dに使用されるフォーカス設定により最高の平均値が得られ、従って、オートフォーカスアルゴリズムは次に、画像100dのフォーカス設定がその代わりに最適であると結論付ける。
記載の統合された動きレベルもまた、図2a−b及び図3と併せて上述したのと同様の方法で、重みにマッピングされうると言うことができる。
常に、カメラのフォーカスレンズ構成の全ての可能なフォーカス設定に対して画像フレームをキャプチャする代わりに、ヒルクライムアルゴリズムが採用されうる。これは、フォーカスウィンドウに対するフォーカス測度(又は例えば平均フォーカス測度)が増加する限りは別のフォーカス設定がテストされるが、フォーカス測度が減少し始めた時は別のフォーカス設定のテストは行われず、カメラのフォーカスを設定するためにこれまでに最適な結果が得られたフォーカス設定が使用されることを意味する。
このアルゴリズムについては、現在のフォーカス設定のフォーカス測度は、前のフォーカス設定のフォーカス測度とのみ比較される。この結果、本発明の背景では、オートフォーカスの方法は一度に2つの画像フレームのみを使用する。ヒルクライムアルゴリズムの使用における以外は、図5にグラフ表示された分のフォーカス測度の読み出し及び状況は、図4のものと等しい。図5(破線エリア502内部)に示すように、(フォーカス測度402の平均値を使用する)通常のオートフォーカスアルゴリズムの使用により、結果的に、カメラのフォーカスを設定する時に、画像フレーム100cに対して使用されたフォーカスレンズ構成のフォーカス設定が選択される。
しかしながら、画像100dのフォーカスウィンドウ108aのピクセルデータがキャプチャされる瞬間にカメラが動いていると想定されるため、画像100c−d両方のフォーカスウィンドウ108aのフォーカス測度は、画像フレーム100dにおいて、画像フレーム100cの動きレベルから計算される高い統合された動きレベルに基づいて重みづけされるべきである。その方法で、画像フレーム100cと画像フレーム100dとの間におけるフォーカスウィンドウ108aのフォーカス測度(実線404)の下落の重要性が低下し、ヒルクライムアルゴリズムは少なくともあと1つのフォーカス設定(画像フレーム100e)について継続し、その後画像フレーム100dにおいて使用されたフォーカス設定が最適であると決定する。
ローリングシャッター画像センサと、フォーカスレンズ構成を備えるカメラのフォーカスを設定するための装置をここで、図6〜8と併せて説明する。装置710は図7ではカメラ700内部に実装されており、図8では装置710は、カメラ700とは別々に実装されるが、カメラ700と連通している。カメラ700は、複数のピクセル領域(例えばピクセルの行又は列)を備えるローリングシャッター画像センサ702を備える。ローリングシャッター画像センサ702は、カメラを使用して画像フレームをキャプチャしている間に、一度に1つのピクセル領域からピクセルデータを読み出すように構成されている。
カメラはまた、ローリングシャッター画像センサ702によってピクセルデータを読み出している間に、カメラ動きレベルを連続的に測定するS604ための動きレベル測定装置703も備える。動きレベル測定装置703は例えば、動きセンサ706(振動センサ、ジャイロスコープ、加速度計、赤外線センサ等)であってよい。あるいは、又は加えて、動きレベル測定装置703は、カメラのパン/チルト、PT、モータ704から、PTモータ704によって誘発されたカメラの動きに関連する入力を受信し得る。
カメラ700は更に、フォーカスレンズ構成708を備える。
カメラ700のフォーカスを設定するための装置710は、ローリングシャッター画像センサ702によってキャプチャS602された一又は複数の画像フレームに関するピクセルデータを受信するように適合され、更に、ピクセルデータに関連付けられ且つローリングシャッター画像センサ702の複数のピクセル領域からピクセルデータを(ローリングシャッター画像センサ702によって)読み出している間に動きレベル測定装置703によって測定されたS604複数のカメラ動きレベルを示す動きデータを受信するように適合されている。図8の実施形態では、上記データは、有線を介して、又は例えばブルートゥース、WiFi等のいずれかの無線通信プロトコル等を使用して、任意の好適な通信手段によってカメラ700のフォーカスを設定するために、装置710によって受信されうる。
カメラ700のフォーカスを設定するための装置710は、装置710によって実行されるオートフォーカスアルゴリズムを使用して(フォーカスレンズ構成708を介して)カメラのフォーカスを設定するように適合されている。装置710は例えば、オートフォーカスアルゴリズムを実行するように適合された命令を有するコンピュータ可読記憶媒体を備えるコンピュータプログラム製品を実行可能なプロセッサ(例えば、既存のコンピュータプロセッサ、又は適切なシステム用の特殊用途コンピュータプロセッサ)を備えうる。
オートフォーカスアルゴリズム機能は、図1〜5と併せて更に詳しく上述したように、複数のフォーカスウィンドウの各フォーカスウィンドウに対して、フォーカスウィンドウに含まれるピクセルデータに基づいてフォーカスウィンドウのフォーカス測度を計算するS606ことと、フォーカスウィンドウに含まれるピクセルデータに関連付けられる動きデータに基づいてフォーカスウィンドウの動きレベルを計算するS608ことと、少なくともフォーカスウィンドウの動きレベルによりフォーカスウィンドウのフォーカス測度を重みづけすることによって、フォーカスウィンドウの重みづけされたフォーカス測度を計算するS612こととを含む。
任意選択的に、コントラストベースのオートフォーカスアルゴリズムが採用される場合、オートフォーカスアルゴリズムは更に、フォーカスウィンドウの動きレベルと、複数の画像フレームの他の画像フレーム各々の対応するフォーカスウィンドウの動きレベルとを使用して、統合された動きレベルを計算するS610ことを含む。この場合、ステップS606で計算されたフォーカス測度は、統合された動きの動きレベルによって重みづけされる。
最後に、例えばオートフォーカスアルゴリズムの出力を使用して、カメラのフォーカスが設定S614される。
図面では、方法ステップの特定の順番が示されうるが、ステップの順番は図示したものと異なっていてよい。また、2つ以上のステップを同時に、又は部分的に同時に実施することができる。例えば、ローリングシャッター画像センサ702を使用して一又は複数の画像フレームをキャプチャするS602ステップと、動きデータを作成するためにカメラのカメラ動きレベルを測定するS604ステップとを、例えばカメラ700の個別のプロセッサ、又はカメラ700の単一のプロセッサの個別のスレッドを使用して同時に実施されることが好ましい。上記の変更は、選択されたソフトウェアおよびハードウェアシステムに依存し、また設計者の選択に依存する。上記の変更は全て、本開示の範囲内である。

Claims (15)

  1. ローリングシャッター画像センサ(702)とフォーカスレンズ構成(708)とを備えるカメラ(700)のフォーカスを設定するためのオートフォーカスの方法(600)であって、前記オートフォーカスの方法は以下のステップ:
    前記ローリングシャッター画像センサによって一又は複数の画像フレーム(100;100a−f)をキャプチャするステップ(S602)であって、前記ローリングシャッター画像センサは複数のピクセル領域(106a−d)を含み、画像フレームをキャプチャしている間に前記ローリングシャッター画像センサが一度に1つのピクセル領域からピクセルデータ(104)を読み出す、キャプチャするステップ(S602)と、
    前記ピクセルデータに関連付けられ、且つ前記複数のピクセル領域からピクセルデータを読み出している間に測定された複数のカメラ動きレベルを示す、動きデータ(112)を作成するために、ピクセルデータを読み出している間に前記カメラのカメラ動きレベル(102)を連続的に測定するステップ(S604)であって、前記複数のピクセル領域の中の少なくとも1つのピクセル領域は、カメラ動きレベルに関連付けられる、測定するステップ(S604)と、
    前記一又は複数の画像フレームの各画像フレームを複数のフォーカスウィンドウ(108a−c)に分割するオートフォーカスアルゴリズムを使用して前記カメラの前記フォーカスを設定するステップ(S614)であって、各フォーカスウィンドウが前記複数のピクセル領域の一又は複数のピクセル領域のピクセルデータを含む、設定するステップ(S614)とを含み、
    前記複数のフォーカスウィンドウの各フォーカスウィンドウに対して前記オートフォーカスアルゴリズムが、
    前記フォーカスウィンドウに含まれる前記ピクセルデータに基づいて前記フォーカスウィンドウのフォーカス測度を計算するステップ(S606)と、
    前記フォーカスウィンドウに含まれる前記ピクセルデータに関連付けられる前記動きデータに基づいて、前記フォーカスウィンドウの動きレベルを計算するステップ(S608)と、
    高い動きレベルを有するフォーカスウィンドウのフォーカス測度が、低い動きレベルを有するフォーカスウィンドウのフォーカス測度よりも低い重みで重みづけされるように、少なくとも前記フォーカスウィンドウの前記動きレベルによって前記フォーカスウィンドウの前記フォーカス測度を重みづけすることにより、前記フォーカスウィンドウの重みづけされたフォーカス測度を計算するステップ(S612)と
    を含む、方法。
  2. 一又は複数の画像フレームをキャプチャする前記ステップが、1つの画像フレーム(100)のみをキャプチャするステップを含み、
    フォーカス測度を計算する前記ステップが、前記フォーカスウィンドウに含まれる前記ピクセルデータから位相ベースのフォーカス測度(206、212)を計算するステップを含む、請求項1に記載の方法。
  3. 前記カメラの前記フォーカスを設定する前記ステップが、前記1つの画像フレームのみの前記複数のフォーカスウィンドウの各フォーカスウィンドウの前記重みづけされたフォーカス測度の平均値を計算するステップを含む、請求項2に記載の方法。
  4. 一又は複数の画像フレームをキャプチャする前記ステップが、複数の画像フレーム(100a−f)をキャプチャするステップであって、各画像フレームが、前記フォーカスレンズ構成の異なるフォーカス設定を使用して前記カメラによってキャプチャされる、キャプチャするステップを含み、
    前記オートフォーカスアルゴリズムにより、前記複数の画像フレームの各画像フレームが複数のフォーカスウィンドウに分割され、
    フォーカス測度を計算する前記ステップが、コントラストベースのフォーカス測度を計算するステップを含み、
    重みづけされたフォーカス測度を計算する前記ステップが、前記フォーカスウィンドウの前記動きレベルと、前記複数の画像フレームの他の画像フレーム各々の対応するフォーカスウィンドウの前記動きレベルとを使用して、統合された動きレベルを計算するステップ(S610)と、高い統合された動きレベルを有するフォーカスウィンドウのフォーカス測度が、低い統合された動きレベルを有するフォーカスウィンドウのフォーカス測度よりも低い重みで重みづけされるように、前記統合された動きレベルによって前記フォーカス測度を重みづけするステップとを含む、
    請求項1に記載の方法。
  5. 統合された動きレベルを計算する前記ステップが、前記フォーカスウィンドウの前記動きレベルと、前記複数の画像フレームの他の画像フレーム各々の前記対応するフォーカスウィンドウの前記動きレベルとの合計を計算するステップを含む、請求項4に記載の方法。
  6. 統合された動きレベルを計算する前記ステップが、前記フォーカスウィンドウの前記動きレベルと、前記複数の画像フレームの前記他の画像フレーム各々の前記対応するフォーカスウィンドウの前記動きレベルの最大の動きレベルを計算するステップを含む、請求項4に記載の方法。
  7. 前記カメラ動きレベルが、前記ピクセルデータに関連付けられる前記動きデータが、各ピクセル領域の各読み出しに対して個別のカメラ動きレベルを含むように、前記画像センサの各ピクセル領域の各読み出しについて測定される、請求項1から6のいずれか一項に記載の方法。
  8. 前記カメラ動きレベルが所定のカメラ動きレベル(114)を下回る時に、前記動きデータを第1の値に設定するステップと、
    前記カメラ動きレベルが前記所定のカメラ動きレベル以上である時に、前記動きデータを第2の値に設定するステップと
    を更に含む、請求項1から7のいずれか一項に記載の方法。
  9. 前記動きデータの前記第2の値の結果として、前記動きデータに関連付けられるピクセルデータを含むフォーカスウィンドウの前記フォーカス測度が、0の重みによって重みづけされる、請求項8に記載の方法。
  10. 前記カメラ動きレベルが、第1の所定のカメラ動きレベル(116)を下回る時に、前記動きデータを第1の値に設定するステップと、
    前記カメラ動きレベルが第2の所定のカメラ動きレベル(118)を上回る時に、前記動きデータを第2の値に設定するステップと、
    前記カメラ動きレベルが、前記第1と前記第2の所定のカメラ動きレベルの間である時に、前記動きデータを、前記第1と前記第2の値の間の別の値に設定するステップであって、前記別の値は前記カメラ動きレベルに関するものである、設定するステップと
    を更に含む、請求項1から8のいずれか一項に記載の方法。
  11. 前記統合された動きレベルが第1の所定の動きレベルを下回る時に、前記統合された動きレベルによって前記フォーカス測度を重みづけする前記ステップが、前記フォーカス測度を第1の重みで重みづけするステップを含み、
    前記統合された動きレベルが第2の所定の動きレベルを上回る時に、前記統合された動きレベルによって前記フォーカス測度を重みづけするステップが、前記フォーカス測度を第2の重みで重みづけするステップを含み、
    前記統合された動きレベルが前記第1と第2の所定の動きレベルの間である時に、前記統合された動きレベルによって前記フォーカス測度を重みづけするステップが、前記フォーカス測度を前記第1と前記第2の重みの間の別の重みで重みづけするステップであって、前記別の重みが前記統合された動きレベルに関するものである、重みづけするステップとを含む、請求項4又は請求項4に従属する場合に請求項から9のいずれか一項に記載の方法。
  12. 前記カメラ動きレベルを連続的に測定するステップが、
    前記カメラの動きセンサ(706)から、前記動きセンサによって感知されたカメラの動きに関連する入力を受信するステップを含む、請求項1から11のいずれか一項に記載の方法。
  13. 前記カメラ動きレベルを連続的に測定するステップが、
    前記カメラのパン/チルト、PTモータ(704)から、前記PTモータによって誘発されたカメラの動きに関連する入力を受信するステップ
    を含む、請求項1から12のいずれか一項に記載の方法。
  14. 処理能力を有する装置によって実行されると、請求項1から13のいずれか一項に記載の方法の少なくとも一部を実施するように適合された命令を実行可能なコンピュータプログラム
  15. ローリングシャッター画像センサ(702)とフォーカスレンズ構成(708)とを備えるカメラ(700)のフォーカスを設定するための装置(710)であって、
    前記ローリングシャッター画像センサによってキャプチャされた(S602)一又は複数の画像フレーム(100;100a−f)に関するピクセルデータ(104)を受信することであって、前記ローリングシャッター画像センサは複数のピクセル領域(106a−d)を含み、画像フレームをキャプチャしている間に前記ローリングシャッター画像センサが一度に1つのピクセル領域からピクセルデータを読み出す、受信することと、
    前記ピクセルデータに関連付けられ且つ前記複数のピクセル領域からピクセルデータを読み出している間に測定された複数のカメラ動きレベル(102)を示す動きデータ(112)を受信することであって、ピクセルデータを読み出している間に前記カメラの前記カメラ動きレベルが連続的に測定され(S604)、前記複数のピクセル領域の各ピクセル領域が、0又は1のカメラ動きレベルと関連付けられる、受信することと、
    前記一又は複数の画像フレームの各画像フレームを複数のフォーカスウィンドウ(108a−c)に分割するオートフォーカスアルゴリズムを使用して、前記カメラの前記フォーカスを設定する(S614)ことであって、各フォーカスウィンドウが、前記複数のピクセル領域の一又は複数のピクセル領域のピクセルデータを含む、設定することとを実施するように適合され、
    前記オートフォーカスアルゴリズムが、前記複数のフォーカスウィンドウの各フォーカスウィンドウに対して、
    前記フォーカスウィンドウに含まれる前記ピクセルデータに基づいて前記フォーカスウィンドウのフォーカス測度を計算する(S606)ことと、
    前記フォーカスウィンドウに含まれる前記ピクセルデータに関連付けられる前記動きデータに基づいて、前記フォーカスウィンドウの動きレベルを計算する(S608)ことと、
    高い動きレベルを有するフォーカスウィンドウのフォーカス測度が、低い動きレベルを有するフォーカスウィンドウのフォーカス測度よりも低い重みで重みづけされるように、少なくとも前記フォーカスウィンドウの前記動きレベルによって、前記フォーカスウィンドウの前記フォーカス測度を重みづけすることによって前記フォーカスウィンドウの重みづけされたフォーカス測度を計算する(S612)ことと
    を含む、装置。
JP2016170550A 2015-09-07 2016-09-01 カメラのフォーカスを設定する方法及び装置。 Active JP6325615B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
EP15184086.5 2015-09-07
EP15184086.5A EP3139588B1 (en) 2015-09-07 2015-09-07 Method and device for setting a focus of a camera

Publications (2)

Publication Number Publication Date
JP2017079466A JP2017079466A (ja) 2017-04-27
JP6325615B2 true JP6325615B2 (ja) 2018-05-16

Family

ID=54105633

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016170550A Active JP6325615B2 (ja) 2015-09-07 2016-09-01 カメラのフォーカスを設定する方法及び装置。

Country Status (6)

Country Link
US (1) US9906724B2 (ja)
EP (1) EP3139588B1 (ja)
JP (1) JP6325615B2 (ja)
KR (1) KR101801309B1 (ja)
CN (1) CN106506934B (ja)
TW (1) TWI643018B (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10867374B2 (en) * 2017-02-13 2020-12-15 Sensors Unlimited, Inc. Auto-focusing system and method by determining contrast difference between adjacent pixels using sobel filter
US10757332B2 (en) * 2018-01-12 2020-08-25 Qualcomm Incorporated Movement compensation for camera focus
CN114815121A (zh) * 2022-02-22 2022-07-29 湖北三赢兴光电科技股份有限公司 一种摄像模组的快速调焦方法及系统

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2912777B2 (ja) 1992-11-13 1999-06-28 シャープ株式会社 ビデオカメラのオートフォーカス装置
US7619670B2 (en) * 2005-04-26 2009-11-17 Micron Technology Inc. Rolling shutter for prevention of blooming
US7656428B2 (en) * 2005-05-05 2010-02-02 Avago Technologies General Ip (Singapore) Pte. Ltd. Imaging device employing optical motion sensor as gyroscope
US7693405B2 (en) 2005-11-25 2010-04-06 Seiko Epson Corporation Image pickup device, method of controlling image pickup device, and recording medium
US8054335B2 (en) * 2007-12-20 2011-11-08 Aptina Imaging Corporation Methods and system for digitally stabilizing video captured from rolling shutter cameras
US8274596B2 (en) 2008-04-30 2012-09-25 Motorola Mobility Llc Method and apparatus for motion detection in auto-focus applications
CN101494737B (zh) * 2009-03-09 2011-04-20 杭州海康威视数字技术股份有限公司 一种一体化摄像机装置及自适应自动聚焦方法
JP5414358B2 (ja) 2009-05-20 2014-02-12 キヤノン株式会社 撮像装置
US8786761B2 (en) 2009-06-05 2014-07-22 Apple Inc. Continuous autofocus mechanisms for image capturing devices
US8027582B2 (en) * 2009-12-21 2011-09-27 Sony Corporation Autofocus with confidence measure
JP5775679B2 (ja) * 2010-09-08 2015-09-09 オリンパス株式会社 デジタルカメラ
JP2012060371A (ja) 2010-09-08 2012-03-22 Pentax Ricoh Imaging Co Ltd 撮像システムおよび画素信号読出し方法
US8379934B2 (en) * 2011-02-04 2013-02-19 Eastman Kodak Company Estimating subject motion between image frames
JP5491677B2 (ja) 2011-03-31 2014-05-14 富士フイルム株式会社 撮像装置及びその合焦制御方法
JP5888890B2 (ja) 2011-07-21 2016-03-22 オリンパス株式会社 フォーカス制御装置
JP5868061B2 (ja) 2011-08-04 2016-02-24 キヤノン株式会社 撮像装置
US8786716B2 (en) 2011-08-15 2014-07-22 Apple Inc. Rolling shutter reduction based on motion sensors
JP2014077976A (ja) 2012-04-13 2014-05-01 Canon Inc 焦点調節装置及びそれを用いた撮像装置
KR20140084816A (ko) 2012-12-27 2014-07-07 삼성전자주식회사 공간적 움직임을 반영하여 피사체의 초점을 맞추는 전자 장치 및 방법
JP5804104B2 (ja) 2014-02-17 2015-11-04 株式会社ニコン 焦点調節装置

Also Published As

Publication number Publication date
US20170070677A1 (en) 2017-03-09
US9906724B2 (en) 2018-02-27
TW201714010A (zh) 2017-04-16
JP2017079466A (ja) 2017-04-27
KR101801309B1 (ko) 2017-11-24
CN106506934B (zh) 2018-04-20
EP3139588A1 (en) 2017-03-08
TWI643018B (zh) 2018-12-01
EP3139588B1 (en) 2017-06-21
CN106506934A (zh) 2017-03-15
KR20170029386A (ko) 2017-03-15

Similar Documents

Publication Publication Date Title
JP5483953B2 (ja) 焦点調節装置、焦点調節方法及びプログラム
CN106488115B (zh) 用于追踪并传感追踪目标的图像传感设备的控制装置及方法
US11089228B2 (en) Information processing apparatus, control method of information processing apparatus, storage medium, and imaging system
JP7197981B2 (ja) カメラ、端末装置、カメラの制御方法、端末装置の制御方法、およびプログラム
US20160173749A1 (en) Still image capture with exposure control
JP6994901B2 (ja) 制御装置、制御方法、及びプログラム
JP6325615B2 (ja) カメラのフォーカスを設定する方法及び装置。
US20150350522A1 (en) Focus Score Improvement By Noise Correction
KR20130009660A (ko) 화상 처리 장치, 화상 처리 방법 및 기록 매체
JP7468637B2 (ja) 撮像システム、撮像方法、及びコンピュータプログラム
JP7302596B2 (ja) 画像処理装置、および画像処理方法、並びにプログラム
EP3759444A1 (en) A computer-implemented method and system for preventing sight deterioration caused by prolonged use of electronic visual displays in low-light conditions
CN106454066B (zh) 图像处理设备及其控制方法
JP5484129B2 (ja) 撮像装置
US20210289119A1 (en) Information processing apparatus, imaging apparatus, method, and storage medium
US11375132B2 (en) Imaging apparatus, method of controlling the imaging apparatus, and program
JP2022120683A5 (ja)
US20220272274A1 (en) Imaging device, storage medium, and method of controlling imaging device
US11843848B2 (en) Control apparatus for controlling exposure and method for controlling the same
JP7200002B2 (ja) 画像処理装置、撮像装置、画像処理方法、プログラム、および記憶媒体
US11880991B2 (en) Imaging apparatus including depth information at first or second spatial resolution at different regions in the image
JP7353864B2 (ja) 情報処理装置、情報処理装置の制御方法およびプログラム、撮像システム
US20230076396A1 (en) Shutter speed determination device and imaging device
JP2022043633A (ja) 情報処理装置、方法、プログラム及び記憶媒体
JP5826309B2 (ja) 画像処理装置及び画像処理装置の制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170926

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20170926

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20171025

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171031

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180117

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180320

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180412

R150 Certificate of patent or registration of utility model

Ref document number: 6325615

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250