JP4985155B2 - 焦点調節装置および撮像装置 - Google Patents

焦点調節装置および撮像装置 Download PDF

Info

Publication number
JP4985155B2
JP4985155B2 JP2007175021A JP2007175021A JP4985155B2 JP 4985155 B2 JP4985155 B2 JP 4985155B2 JP 2007175021 A JP2007175021 A JP 2007175021A JP 2007175021 A JP2007175021 A JP 2007175021A JP 4985155 B2 JP4985155 B2 JP 4985155B2
Authority
JP
Japan
Prior art keywords
image
focus adjustment
focus detection
focus
difference
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2007175021A
Other languages
English (en)
Other versions
JP2009017093A (ja
Inventor
慶子 村松
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2007175021A priority Critical patent/JP4985155B2/ja
Priority to US12/141,480 priority patent/US8325977B2/en
Publication of JP2009017093A publication Critical patent/JP2009017093A/ja
Application granted granted Critical
Publication of JP4985155B2 publication Critical patent/JP4985155B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/34Systems for automatic generation of focusing signals using different areas in a pupil plane
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G06T7/248Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving reference images or patches

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Automatic Focus Adjustment (AREA)
  • Focusing (AREA)

Description

本発明は、画像認識装置、焦点調節装置および撮像装置に関する。
ピントを合わせる対象の画像を基準画像(テンプレート画像)として記憶しておき、繰り返し撮影される画像の中から基準画像に合致する画像をテンプレートマッチング処理により検出し、対象を追尾する画像追尾装置が知られている(例えば、特許文献1参照)。
この出願の発明に関連する先行技術文献としては次のものがある。
特開2006−058431号公報
しかしながら、ピントを合わせる対象の背景が対象の色情報と類似している場合には、対象と異なる背景などの他の部分を誤って誤認してしまう可能性がある。
請求項1の発明による焦点調節装置は、結像光学系による像を撮像し、画像情報を出力する撮像手段と、基準とする像に関する基準情報を記憶する記憶手段と、前記画像情報に基づく第1画像において前記基準情報に基づく第2画像の大きさに対応する部分領域を選択するとともに前記第1画像内の前記部分領域の位置を変更しながら、該位置ごとに前記部分領域の画像情報と前記基準情報との差を検出する検出手段と、前記差に対して前記位置に応じた係数を乗じる重み付け手段と、前記重み付け手段によって重み付けされた前記差が最小となる前記位置に基づいて、前記第1画像における前記第2画像の位置を認識する認識手段と、前記結像光学系による画面内に設定された複数の焦点検出位置に対して前記結像光学系の焦点調節状態を検出する焦点検出手段と、前記認識手段によって認識された前記第2画像の位置と前記焦点検出手段によって検出された前記焦点調節状態とに基づいて、前記複数の焦点検出位置の中から少なくとも一つの焦点検出位置を選択する選択手段と、前記選択手段により選択された焦点検出位置に対して前記焦点検出手段により検出された焦点調節状態に基づいて、前記結像光学系の焦点調節を行う焦点調節手段と、を備えることを特徴とする。
本発明によれば、対象以外の背景などを誤って認識しにくくすることができる。
撮影画面内に設定された複数の焦点検出エリアにおいて撮影レンズの焦点調節状態(この一実施の形態ではデフォーカス量)を検出し、いずれかのエリアのデフォーカス量に基づいて撮影レンズを合焦駆動する自動焦点調節(AF)機能と、撮影画像の中の追尾対象の被写体の画像をテンプレート画像(基準画像)として記憶し、繰り返し撮像される画像の中でテンプレート画像と同一または類似した画像の位置を検索しながら(テンプレートマッチング)追尾対象の被写体を追尾する画像追尾機能とを備え、AF機能と画像追尾機能により撮影レンズを駆動しながら対象を追尾する画像認識装置を備えた撮像装置(一眼レフデジタルスチルカメラ)の一実施の形態を説明する。
図1は、一実施の形態の画像認識装置を備えた撮像装置(一眼レフデジタルスチルカメラ)1の構成を示す。なお、図1では本願発明と直接関係のないカメラの機器および回路についての図示と説明を省略する。一実施の形態のカメラ1は、カメラ本体2に交換レンズ3が交換可能に装着される。カメラ本体2には被写体像を撮像して画像を記録するための第1撮像素子4が設けられる。この第1撮像素子4はCCDやCMOSなどにより構成することができる。撮影時にはクイックリターンミラー5およびサブミラー6が実線で示す撮影光路外の位置に退避してシャッター7が開放され、撮影レンズ8により第1撮像素子4の受光面に被写体像が結像される。
カメラ本体2の底部には、撮影レンズ8の焦点調節状態を検出するための焦点検出光学系9と測距素子10が設けられている。この一実施の形態では、瞳分割型位相差検出方式による焦点検出方法を採用した例を示す。焦点検出光学系9は、撮影レンズ8を通過した対の焦点検出用光束を測距素子10の受光面へ導き、対の光像を結像させる。測距素子10は例えば対のCCDラインセンサーを備え、対の光像に応じた焦点検出信号を出力する。撮影前にはクイックリターンミラー5およびサブミラー6が破線で示すような撮影光路内の位置に設定されており、撮影レンズ8からの対の焦点検出用光束はクイックリターンミラー5のハーフミラー部を透過し、サブミラー6により反射されて焦点検出光学系9および測距素子10へ導かれる。
カメラ本体2の上部にはファインダー光学系が設けられている。撮影前にはクイックリターンミラー5およびサブミラー6が破線で示す位置にあり、撮影レンズ8からの被写体光はクイックリターンミラー5に反射されて焦点板11へ導かれ、焦点板11上に被写体像が結像する。液晶表示素子12は、焦点板11上に結像された被写体像に焦点検出エリアマークなどの情報を重畳表示するとともに、被写体像外の位置に露出値などの種々の撮影情報を表示する。焦点板11上の被写体像はペンタダハプリズム13および接眼レンズ14を介して接眼窓15へ導かれ、撮影者が被写体像を視認することができる。
また、カメラ本体2上部のファインダー光学系には、被写体追尾や測光のために被写体像を撮像する第2撮像素子16が設けられる。焦点板11に結像した被写体像は、ペンタダハプリズム13、プリズム17および結像レンズ18を介して第2撮像素子16の受光面に再結像される。第2撮像素子16は被写体像に応じた画像信号を出力する。撮影前に焦点板11上に結像された被写体像は、ペンタダハプリズム13、プリズム17および結像レンズ18を介して第2撮像素子16へ導かれ、第2撮像素子16の受光面に被写体像が再結像される。詳細を後述するが、この第2撮像素子16により撮像された被写体像に基づいて追尾制御と露出演算が行われる。
カメラ本体2にはまた、ボディ駆動制御装置19、操作部材20などが設けられる。ボディ駆動制御装置19は、詳細を後述するマイクロコンピューターとメモリ、A/D変換器などの周辺部品から構成され、カメラ1の種々の制御と演算を行う。操作部材20には、シャッターボタン、焦点検出エリア選択スイッチ、撮影モード選択スイッチなどのカメラ1を操作するためのスイッチやセレクターが含まれる。
交換レンズ3には、ズーミングレンズ8a、フォーカシングレンズ8b、絞り21、レンズ駆動制御装置22などが設けられる。なお、この一実施の形態では撮影レンズ8をズーミングレンズ8a、フォーカシングレンズ8bおよび絞り21で体表的に表すが、撮影レンズ8の構成は図1に示す構成に限定されない。レンズ駆動制御装置22は図示しないマイクロコンピューターとメモリ、駆動回路、アクチュエーターなどの周辺部品から構成され、レンズ8a、8bおよび絞り21の駆動制御とそれらの設定位置検出を行う。レンズ駆動制御装置22に内蔵されるメモリには、交換レンズ3の焦点距離や開放絞り値などの情報が記憶されている。
ボディ駆動制御装置19とレンズ駆動制御装置22はレンズマウント部の接点23を介して通信を行い、ボディ駆動制御装置19からレンズ駆動制御装置22へレンズ駆動量や絞り値などの情報を送信し、レンズ駆動制御装置22からボディ駆動制御装置19へレンズ情報や絞り情報を送信する。
図2はボディ駆動制御装置19の詳細な構成を示す。なお、本願発明と直接関係のない制御機能については図示と説明を省略する。ボディ駆動制御装置19は素子制御回路19a、A/D変換器19b、マイクロコンピューター19c、メモリ19dなどを備えている。素子制御回路19aは第2撮像素子16の電荷の蓄積と読み出しを制御する。A/D変換器19bは、第2撮像素子16から出力されるアナログ画像信号をデジタル画像信号に変換する。マイクロコンピューター19cは、ソフトウエア形態により追尾制御部19e、露出制御部19f、焦点検出演算部19gおよびレンズ駆動量演算部19hを構成する。メモリ19dは、画像追尾用のテンプレート画像やデフォーカス量などの情報、あるいは撮影レンズ8の焦点距離、開放F値、絞り値、像ズレ量からデフォーカス量への変換係数などのレンズ情報を記憶する。
追尾制御部19eは、第2撮像素子16により撮像した被写体像の内、撮影者が手動で指定した追尾対象位置、あるいはカメラ1が自動で設定した追尾対象位置に対応する画像をテンプレート画像(基準画像)としてメモリ19dに記憶させ、その後に繰り返し撮影される画像の中からテンプレート画像と一致または類似する画像領域を検索することによって対象の位置を認識する。露出演算部19fは、第2撮像素子16により撮像した画像信号に基づいて露出値を演算する。
焦点検出演算部19gは、測距素子10から出力される対の光像に応じた焦点検出信号に基づいて撮影レンズ8の焦点調節状態、ここではデフォーカス量を検出する。なお、詳細を後述するが、撮影レンズ8の撮影画面内には複数の焦点検出エリアが設定されており、測距素子10は焦点検出エリアごとに対の光像に応じた焦点検出信号を出力し、焦点検出演算部19gは焦点検出エリアごとに対の光像に応じた焦点検出信号に基づいてデフォーカス量を検出する。レンズ駆動量演算部19hは検出されたデフォーカス量をレンズ駆動量に変換する。
図3は第2撮像素子16の詳細な構成を示す正面図である。第2撮像素子16は、マトリクス状に配列された複数の画素(光電変換素子)26(ここでは横16個×縦12個=192個)を備えている。各画素26は図4に示すように3個の部分26a、26b、26cに分割され、これらの部分26a、26b、26cにはそれぞれ赤R、緑G、青Bの原色フィルターが設けられている。これにより、各画素26ごとに被写体像のRGB信号を出力することができる。
次に、一実施の形態の被写体追尾動作を説明する。図5〜図7は一実施の形態の被写体追尾方法を説明するための図、図8〜図10は一実施の形態の被写体追尾処理を示すフローチャートである。シャッターボタンを全押しして撮影を行うとき以外は、クイックリターンミラー5が図1に破線で示す撮影光路内に設定されており、撮影レンズ8から入射した被写体光は焦点板11上に結像される。そして、焦点板11上の被写体像はペンタダハプリズム13、プリズム17および結像レンズ18を介して第2撮像素子16へ導かれ、第2撮像素子16から被写体像信号が繰り返し出力される。
撮影レンズ8の撮影画面には複数の焦点検出エリアが設定されており、液晶表示素子12により焦点板11上の被写体像にエリアマークを重畳し、各焦点検出エリアの位置を表示する。この一実施の形態では、図5に示すように、撮影画面内の7カ所に焦点検出エリア45a〜45gが設定された例を示す。また、操作部材20の焦点検出エリア選択スイッチにより任意のエリアを選択すると、そのエリアのマークが点灯表示される。
図5に示すように操作部材20の焦点検出エリア選択スイッチにより焦点検出エリア45bが選択され、この状態で操作部材20のシャッターボタンが半押しされると、焦点検出エリア45bが初回AFエリアとしてメモリ19dに記憶される。これにより、追尾対称の被写体が指定される。なお、ここでは撮影者が初回AFエリアを選択して追尾対象の被写体を手動で指定する例を示したが、例えば自動的に被写体を認識する機能を備えたカメラでは被写体認識結果に基づいて初回AFエリアおよび追尾対象被写体を設定してもよい。
ステップ1において、第2撮像素子16により追尾初期画像(画像追尾処理を開始して最初に取得する画像)を取得する。この追尾初期画像は画素ごとにRGB値で表す。
R[x,y]、G[x,y]、B[x,y] ・・・(1)
この画素ごとのRGB値に基づいて各画素の色情報RG、BG、画像を取得したときの露光時間T、ゲインGain、色合成係数Kr、Kg、Kbから輝度情報Lを算出する。
RG[x,y]=Log(R[x,y])−Log(G[x,y]),
BG[x,y]=Log(B[x,y])−Log(G[x,y]),
L[x,y]=Log(Kr×R[x,y]+Kg×G[x,y]+Kb×B[x,y])−Log(T)−Log(Gain) ・・・(2)
続くステップ2では、図9に示す追尾制御初期処理を実行する。図9のステップ101において、第2撮像素子16で取得した追尾初期画像の中の焦点検出エリア45bの位置に対応する位置の画像を、被写体色情報として記憶する。ステップ102では、図6(a)に示すように、追尾初期画像の中の焦点検出エリア45b(図5参照)の位置周辺部において被写体色情報と同様な色情報を示す同色情報領域を検出し、続くステップ103で同色情報領域を初期の追尾被写体領域47とする。
なお、ここでは被写体色情報に基づいて追尾被写体領域47を決定する例を示すが、処理の簡素化を図るために一律に3×3画素のように追尾被写体領域のサイズを統一したり、さらに撮影レンズ8の距離情報に応じて被写体領域のサイズを決定してもよい。
ステップ104において、追尾初期画像の中の追尾被写体領域47の画像を画像追尾処理に用いるテンプレート画像48(図6(b)参照)としてメモリ19dに記憶する。例えば、追尾被写体領域47の始点位置が図6(a)に示すように(x,y)=(4,5)の場合には、テンプレート画像48の色情報は次のように表される。
RGref[rx,ry]=RG[x,y]、
BGref[rx,ry]=BG[x,y]、
Lref[rx,ry]=L[x,y] (rx,ry=1〜3、x=4〜6、y=5〜7) ・・・(3)
次に、ステップ105で追尾被写体領域47を中心に前後左右に所定画素(ここでは2画素とする)づつ拡大した領域を探索領域49に設定する。図6(a)に示す例では、探索領域49は、x=2〜8、y=3〜9の領域になる。
追尾制御の初期処理が終了したら図8のステップ3へ進み、操作部材20のシャッターボタンが全押しされたか否か、つまりシャッターレリーズ操作が行われたか否かを確認する。シャッターレリーズ操作がない場合はステップ4へ進み、第2撮像素子16から追尾次画像を取得し、ステップ1の処理と同様に色情報RG[x,y]、BG[x,y]および輝度情報L[x,y]を算出し、メモリ19dに記憶する。同時に、測距素子10により、各焦点検出エリア45a〜45gごとに焦点検出用の対の光像に応じた焦点検出信号を取得する。
ステップ5では、図10に示す追尾演算処理を実行する。図10のステップ201において、追尾次画像の中の探索領域49からテンプレート画像48と同じサイズの領域を順次切り出し、切り出した画像とテンプレート画像48の対応する画素ごとに色情報の差分Diffを算出する。図7(a)に太い破線で示すように、探索領域49の中で1画素ずつ領域をずらしながらテンプレート画像48との色情報の差分Diffを算出する。
今、図7(a)に示すように探索領域49の始点位置が(scx,scy)=(2,3)であるとすると、差分Diffの演算は次のようにして行う。
Diff[dx,dy]=ΣΣ{ABS(RG[scx+dx−1+rx,scy+dy−1+ry]−RGref[rx,ry])+ABS(BG[scx+dx−1+rx,scy+dy−1+ry]−BGref[rx,ry])+ABS(L[scx+dx−1+rx,scy+dy−1+ry]−Lref[rx,ry])} ・・・(4)
(4)式において、dx,dy=1〜5、rx,ry=1〜3、scx=2、scy=3、ΣΣはrx=1〜3およびry=1〜3の総和演算である。
次に、ステップ202で算出した差分Diffに対して重み付けを行う。この実施の形態では、差分Diff[dx,dy](dx、dy=1〜5)の個数(この例では25個)分の重みテーブルWt[dx,dy]を予め設定し、この重みテーブルWtに重み係数Kwを乗じた値を重みとする。
Wt[dx,dy]={(2,2,2,2,2)
(2,1,1,1,2)
(2,1,0,1,2)
(2,1,1,1,2)
(2,2,2,2,2)}、
Diff’[dx,dy]=(Kw×Wt[dx,dy])+Diff[dx,dy] (dx、dy=1〜5) ・・・(5)
(5)式に示す重みテーブルWtは、探索領域49の中央から切り出した領域の差分Diffに対する重みを最小にし、探索領域49の周辺になるにしたがって切り出し領域の差分Diffに対する重みを大きくする重みパターンであり、この重みテーブルWtを用いることによって前回の焦点調節時に撮影レンズ8の焦点調節を行うために採用した焦点検出エリアの位置を優先することになる。通常、繰り返し行われる自動焦点調節において、前回の焦点調節時に撮影レンズ8の焦点調節を行うエリアとして採用した焦点検出エリア、もしくはその近傍において追尾対象を捕捉する確率が高いと考えられるので、前回の焦点調節時の採用エリア位置から切り出される領域に対する差分Diffに対して最小の重みを付与する。
なお、撮影者が操作部材20の焦点検出エリア選択スイッチにより選択した焦点検出エリアで焦点検出を行い、その焦点検出結果に基づいて撮影レンズ8の焦点調節を行うシングルAFモード、撮影者が操作部材20の焦点検出エリア選択スイッチにより選択した焦点検出エリアで焦点検出と焦点調節を行いながら、被写体が選択した焦点検出エリアから外れてしまったときでも他の焦点検出エリアの焦点検出結果によりバックアップして焦点検出を行い、動いている被写体を追い続けるダイナミックAFモードなど、選択した焦点検出エリアに被写体を捕捉しながら撮影を行うAFモードが設定された場合には、選択された焦点検出エリアの位置から切り出される領域に対する差分Diffに対して最小の重みを付与する。これにより、追尾対象を確実に捕捉することができる。
(5)式に示すような重みテーブルWtを設定することによって、追尾対象が背景などの他の部分に対してはっきりとした差のある色情報を持たない場合でも、対象と異なる背景などの他の部分を対象と誤認して追尾したり、カメラと追尾対象との位置関係が変化していないのに画像追尾結果の位置が背景や他の異なる部分など様々な位置に移り変わるのを防止し、追尾動作を安定化させることができる。
一方、(5)式における重み係数Kwは、重みテーブルWtによる作用効果を調整するための係数である。追尾対象の色情報と背景などの他の部分の色情報との差が小さいほど、重み係数Kwの値を大きくして重みテーブルWtによる作用効果を増大させ、追尾対象を正しく捕捉して追尾動作を安定にする。逆に、追尾対象の色情報と背景などの他の部分の色情報との差が比較的大きい場合には、重み係数Kwの値を小さくして重みテーブルWtによる無用な作用を抑制する。
ステップ203において、重み付けを加えた差分Diff’[dx,dy]の中の最小の差分を検索し、探索領域49内で最小の差分を算出したときの上記切り出し領域を新しい追尾被写体領域47に決定する。ここでは、図7(b)に示すように、始点位置が(x,y)=(5,6)の切り出し領域を新しい追尾被写体領域47とする。
ここで、新しく被写体領域47に決定された画像情報を用いてテンプレート画像48の画像情報を更新する処理を加えてもよい。その場合、例えば元のテンプレート画像48の画像情報80%に対して新被写体領域47の画像情報20%を加えることによって、テンプレート画像の情報に対して最新の画像情報が少しずつ更新され、追尾被写体の変化に追従しやすくなる。この場合、追尾演算のたびに毎回更新を行うのではなく、追尾被写体領域47として決定した位置の差分Diff’の大きさに基づいて、あるしきい値より小さいときのみ更新するようにしてもよい。
ステップ204で、新しい追尾被写体領域47を中心に前後左右に所定画素(ここでは2画素とする)づつ拡大した領域を新しい探索領域49に設定する。ここでは、図7(b)に示すように、x=3〜9、y=4〜10の領域を新しい探索領域49とする。その後、図8のステップ6へリターンする。
リターン後の図8のステップ6において、ステップ4にて取得した焦点検出信号に基づいて各選択焦点検出エリア45a〜45gの撮影レンズ8の焦点調節状態、すなわちデフォーカス量を検出する。続くステップ7では、すべての焦点検出エリアのデフォーカス量の中から、前回の焦点調節時に採用した焦点検出エリアのデフォーカス量に類似するデフォーカス量を示す焦点検出エリアを検索する。
ステップ8において、ステップ5における画像追尾結果の新追尾被写体領域と、ステップ6〜7におけるエリア検索結果の焦点検出エリアとに基づいて、焦点調節を行うエリアを決定する。この一実施の形態では、画像追尾結果の新追尾被写体領域47に対応する焦点検出エリアと、エリア検索結果の焦点検出エリアとを比較し、画像追尾結果とエリア探索結果とに共通の焦点検出エリアを焦点調節を行うエリア(以下、焦点調節エリアという)に決定する。ステップ9で、焦点調節エリアで検出されたデフォーカス量をレンズ駆動量に変換し、レンズ駆動制御装置22によりフォーカシングレンズ8bを駆動して焦点調節を行う。
焦点調節後のステップ3でレリーズボタンの全押しを確認する。シャッターボタンが半押しされている間、ステップ4〜9の処理を繰り返し実行し、シャッターボタンが全押しされるとステップ10へ進み、撮影処理を実行する。
このように、一実施の形態によれば、撮影レンズ8により結像された画像を撮像して色情報を出力する第2撮像素子16と、追尾対象の像に関する基準色情報(テンプレート画像の色情報)を記憶するメモリ19dとを備え、画像と対象の像との比較位置をずらしながら画像の色情報と基準色情報との差分Diffを演算するとともに、各差分Diffに重み付けを行い、重み付け後の差分Diff’が最小となる位置を新しい追尾対象の位置に決定するようにした。これにより、追尾対象が背景などの他の部分に対してはっきりとした差のある色情報を持たない場合でも、対象と異なる背景などの他の部分を対象と誤認して追尾したり、カメラと追尾対象との位置関係が変化していないのに画像追尾結果の位置が背景や他の異なる部分など様々な位置に移り変わるのを防止でき、追尾対象を正しく捕捉することができ、追尾動作を安定化させることができる。
また、一実施の形態によれば、前回の画像追尾で追尾対象の位置に決定された位置に対応する差分Diffの重みを最小とし、前回の画像追尾で追尾対象の位置に決定された位置から遠ざかるほど差分Diffに対する重みを大きくするようにしたので、追尾対象を捕捉する確率が高くなる。
なお、上述した一実施の形態では、前回の焦点調節時に焦点調節を行うために採用した焦点検出エリアの位置を優先する重みパターンの例を示したが、重みテーブルWtの重みパターンは上述した一実施の形態のパターンに限定されない。
また、上述した一実施の形態では、探索領域内で算出された色情報の差分Diffに対して重み付けを行う例を示したが、撮影画面の全範囲の画像に対して色情報の差分Diffを求め、撮影画面の全範囲で算出された差分Diffに対して重み付けを行い、新しい追尾被写体領域を設定するようにしてもよい。撮影画面の全範囲から追尾被写体領域を探索する場合には、撮影レンズ8の撮影画面中央に対応する差分Diffの重みを最小とし、撮影レンズ8の撮影画面中央から遠ざかるほど差分Diffに対する重みを大きくする。通常、撮影画面中央に主要被写体を捕捉する確率が高いので、繰り返し行われる画像追尾において追尾対象を捕捉する確率が高くなる。
さらに、色情報の差分Diffの内の最大値と最小値を抽出し、最大値と最小値の差に応じて重み係数Wkを設定し、重みテーブルWtの作用効果が最適になるようにしてもよい。最大値と最小値の差が小さく、探索領域内または撮影画面内の画像が均一に近い色で際だつ色がない場合には、重み係数Kwの値を大きくして重みテーブルWtによる作用効果を増大させ、背景などへの誤認を防止して追尾動作を安定にする。逆に、最大値と最小値の差が比較的大きく、追尾対象の色情報と背景などの他の部分の色情報との差が比較的大きい場合には、重み係数Kwの値を小さくして重みテーブルWtによる無用な作用を抑制する。
さらにまた、撮影モードに応じて重み係数Wkを設定し、重みテーブルWtの作用効果が最適になるようにしてもよい。例えば、スポーツモードやペットモードなど、動きの速い被写体を追尾する撮影モードでは、重み係数Wkの値を小さくして重みテーブルWtによる無用な作用を抑制し、被写体の動きに追従し易くする。逆に、ポートレートモードなど、動きが小さい被写体を撮影する場合には、被写体が突然に遠くに移動する可能性は低いので、重み係数Kwを大きくして重みテーブルWtの作用効果を増大させ、追尾対象が背景などの他の部分に切り換わりにくくする。
一実施の形態の画像認識装置を備えた撮像装置の構成を示す図 ボディ駆動制御装置の詳細な構成を示す図 第2撮像素子の詳細な構成を示す正面図 第2撮像素子の画素の詳細図 撮影画面内の焦点検出エリアの配置を示す図 一実施の形態の被写体の追尾方法を説明する図 一実施の形態の被写体の追尾方法を説明する図 一実施の形態の被写体追尾動作を示すフローチャート 一実施の形態の追尾制御の初期処理を示すフローチャート 一実施の形態の追尾演算処理を示すフローチャート
符号の説明
8 撮影レンズ
10 測距素子
16 第2撮像素子
19 ボディ駆動制御装置
19d メモリ
22 レンズ駆動制御装置

Claims (8)

  1. 結像光学系による像を撮像し、画像情報を出力する撮像手段と、
    基準とする像に関する基準情報を記憶する記憶手段と、
    前記画像情報に基づく第1画像において前記基準情報に基づく第2画像の大きさに対応する部分領域を選択するとともに前記第1画像内の前記部分領域の位置を変更しながら、該位置ごとに前記部分領域の画像情報と前記基準情報との差を検出する検出手段と、
    前記差に対して前記位置に応じた係数を乗じる重み付け手段と、
    前記重み付け手段によって重み付けされた前記差が最小となる前記位置に基づいて、前記第1画像における前記第2画像の位置を認識する認識手段と、
    前記結像光学系による画面内に設定された複数の焦点検出位置に対して前記結像光学系の焦点調節状態を検出する焦点検出手段と、
    前記認識手段によって認識された前記第2画像の位置と前記焦点検出手段によって検出された前記焦点調節状態とに基づいて、前記複数の焦点検出位置の中から少なくとも一つの焦点検出位置を選択する選択手段と、
    前記選択手段により選択された焦点検出位置に対して前記焦点検出手段により検出された焦点調節状態に基づいて、前記結像光学系の焦点調節を行う焦点調節手段と、を備えることを特徴とする焦点調節装置
  2. 請求項1に記載の焦点調節装置において、
    前記検出手段は、繰り返し出力される前記画像情報のそれぞれに対して前記差を出力し、
    前記重み付け手段は、前記第1画像の中央部に対応する前記部分領域の画像情報と前記基準情報との前記差に乗ずる前記係数を最小とすることを特徴とする焦点調節装置
  3. 請求項2に記載の焦点調節装置において、
    前記重み付け手段は、前記第1画像において前記認識手段によって認識された前記第2画像の位置から離れるほど、前記係数を大きくすることを特徴とする焦点調節装置
  4. 請求項1に記載の焦点調節装置において、
    前記重み付け手段は、前記結像光学系による画面中央に対応する前記係数を最小とすることを特徴とする焦点調節装置
  5. 請求項4に記載の焦点調節装置において、
    前記重み付け手段は、前記結像光学系による画面中央から遠ざかるほど、前記係数を大きくすることを特徴とする焦点調節装置
  6. 請求項1〜3のいずれか1項に記載の焦点調節装置において、
    前記検出手段は、前記結像光学系による像の内、前記認識手段によって認識された前記第2画像の位置を中心とする所定範囲の画像を前記第1画像として、前記差を検出することを特徴とする焦点調節装置
  7. 請求項1〜6のいずれか1項に記載の焦点調節装置において、
    前記複数の焦点検出位置からいずれかを指定するための指定手段を備え、
    前記第1画像はその中央部に、前記指定手段によって指定された焦点検出位置に対応する画像を含み、
    前記重み付け手段は、前記第1画像の中央部に対応する前記部分領域の画像情報と前記基準情報との前記差に乗ずる前記係数を、その他の前記差に乗ずる前記係数に対して、最小とすることを特徴とする焦点調節装置。
  8. 請求項1〜7のいずれか1項に記載の焦点調節装置を備えることを特徴とする撮像装置
JP2007175021A 2007-07-03 2007-07-03 焦点調節装置および撮像装置 Active JP4985155B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2007175021A JP4985155B2 (ja) 2007-07-03 2007-07-03 焦点調節装置および撮像装置
US12/141,480 US8325977B2 (en) 2007-07-03 2008-06-18 Image recognition and focus adjustment using weighted image difference information

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007175021A JP4985155B2 (ja) 2007-07-03 2007-07-03 焦点調節装置および撮像装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2012102616A Division JP5447579B2 (ja) 2012-04-27 2012-04-27 追尾装置、焦点調節装置および撮影装置

Publications (2)

Publication Number Publication Date
JP2009017093A JP2009017093A (ja) 2009-01-22
JP4985155B2 true JP4985155B2 (ja) 2012-07-25

Family

ID=40221478

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007175021A Active JP4985155B2 (ja) 2007-07-03 2007-07-03 焦点調節装置および撮像装置

Country Status (2)

Country Link
US (1) US8325977B2 (ja)
JP (1) JP4985155B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8218877B2 (en) * 2008-12-23 2012-07-10 National Chiao Tung University Tracking vehicle method by using image processing
US9104909B2 (en) * 2010-12-15 2015-08-11 Canon Kabushiki Kaisha Image processing apparatus and method of processing image
JP6579925B2 (ja) * 2015-11-17 2019-09-25 キヤノン株式会社 画像再生装置およびその制御方法ならびにプログラムならびに記録媒体

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5392088A (en) * 1992-09-04 1995-02-21 Nikon Corporation Target follow-up device and camera comprising the same
US5481622A (en) * 1994-03-01 1996-01-02 Rensselaer Polytechnic Institute Eye tracking apparatus and method employing grayscale threshold values
US5808695A (en) * 1995-06-16 1998-09-15 Princeton Video Image, Inc. Method of tracking scene motion for live video insertion systems
JP3481430B2 (ja) * 1997-09-11 2003-12-22 富士通株式会社 移動体追跡装置
US6944331B2 (en) * 2001-10-26 2005-09-13 National Instruments Corporation Locating regions in a target image using color matching, luminance pattern matching and hue plane pattern matching
US7423686B2 (en) * 2002-03-14 2008-09-09 Canon Kabushiki Kaisha Image pickup apparatus having auto-focus control and image pickup method
EP1601189A2 (en) 2004-05-26 2005-11-30 Fujinon Corporation Autofocus system
JP2006058431A (ja) 2004-08-18 2006-03-02 Fujinon Corp オートフォーカスシステム
US7650016B2 (en) * 2004-07-30 2010-01-19 Lockheed Martin Corporation System and method for tracking motion of an object image
JP2006201682A (ja) 2005-01-24 2006-08-03 Canon Inc プロセスカートリッジ
JP2006258944A (ja) * 2005-03-15 2006-09-28 Fujinon Corp オートフォーカスシステム
JP4807623B2 (ja) * 2006-07-25 2011-11-02 カシオ計算機株式会社 撮像装置、撮像方法及び撮像プログラム

Also Published As

Publication number Publication date
US20090010492A1 (en) 2009-01-08
US8325977B2 (en) 2012-12-04
JP2009017093A (ja) 2009-01-22

Similar Documents

Publication Publication Date Title
JP5176483B2 (ja) 画像認識装置、画像追尾装置および撮像装置
JP4872834B2 (ja) 画像認識装置、焦点調節装置および撮像装置
JP5247076B2 (ja) 画像追尾装置、焦点調節装置および撮像装置
JP5082631B2 (ja) 撮影装置
JP5157256B2 (ja) 画像追尾装置および撮像装置
JP2009109839A (ja) 画像追尾装置、撮像装置
JP4893334B2 (ja) 画像追尾装置および撮像装置
JP5056136B2 (ja) 画像追尾装置
JP5403111B2 (ja) 画像追尾装置
JP4888249B2 (ja) 焦点検出装置および撮像装置
JP2008046354A (ja) 被写体追尾装置およびカメラ
JP4985155B2 (ja) 焦点調節装置および撮像装置
JP5070856B2 (ja) 撮像装置
JP5447579B2 (ja) 追尾装置、焦点調節装置および撮影装置
JP2010200138A (ja) 被写体追尾装置
JP5541396B2 (ja) 画像追尾装置
JP5347834B2 (ja) 画像追尾装置
JP5233646B2 (ja) 画像追尾装置、撮像装置、画像追尾方法
JP5176845B2 (ja) 画像追尾装置および撮像装置
JP2010054586A (ja) 焦点調節装置、撮像装置
JP5966249B2 (ja) 画像追尾装置
JP2012093775A (ja) 焦点検出装置および撮像装置
JP5772933B2 (ja) 撮像装置
JP4973369B2 (ja) 画像処理装置および撮像装置
JP2018063439A (ja) 焦点調節装置、撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100705

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110929

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111011

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111212

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20111212

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120403

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120416

R150 Certificate of patent or registration of utility model

Ref document number: 4985155

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150511

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150511

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250