JP5981898B2 - 撮像装置およびその制御方法 - Google Patents

撮像装置およびその制御方法 Download PDF

Info

Publication number
JP5981898B2
JP5981898B2 JP2013177238A JP2013177238A JP5981898B2 JP 5981898 B2 JP5981898 B2 JP 5981898B2 JP 2013177238 A JP2013177238 A JP 2013177238A JP 2013177238 A JP2013177238 A JP 2013177238A JP 5981898 B2 JP5981898 B2 JP 5981898B2
Authority
JP
Japan
Prior art keywords
image
information
color
control unit
pixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013177238A
Other languages
English (en)
Other versions
JP2015045758A (ja
JP2015045758A5 (ja
Inventor
長谷川 玲治
玲治 長谷川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2013177238A priority Critical patent/JP5981898B2/ja
Priority to US14/466,265 priority patent/US9866755B2/en
Priority to CN201410424075.2A priority patent/CN104427248B/zh
Publication of JP2015045758A publication Critical patent/JP2015045758A/ja
Publication of JP2015045758A5 publication Critical patent/JP2015045758A5/ja
Application granted granted Critical
Publication of JP5981898B2 publication Critical patent/JP5981898B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • H04N23/635Region indicators; Field of view indicators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/672Focus control based on electronic image sensor signals based on the phase difference signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Automatic Focus Adjustment (AREA)
  • Viewfinders (AREA)
  • Indication In Cameras, And Counting Of Exposures (AREA)
  • Color Television Image Signal Generators (AREA)
  • Focusing (AREA)

Description

本発明は撮像装置およびその制御方法に関する。
例えば光学ファインダーを有するカメラでは、撮影の利便性のため、オートフォーカス(以下AF)による合焦位置など様々な情報を光学ファインダー像に重畳表示するものがある。
一方、自動露出制御(以下AE)を行うための情報を光学ファインダー像から取得するカメラがある。特許文献1には、光学ファインダー像を受光するAEセンサ(測光センサ)を用いて取得した、光学ファインダー像の領域ごとの光電変換出力に基づいて露出値を決定するカメラが記載されている。
特開平8−240835号公報
特許文献1にも記載されているように、光学ファインダー像に他の情報を重畳表示する構成では、光学ファインダー像を受光するAEセンサの測光結果が重畳表示の影響を受ける。そのため、特許文献1では、重畳表示された測距枠の位置に応じて、AEセンサで得られる領域ごとの測光結果を補正することで、測光結果における測距枠表示の影響を補正している。
複数の画素が二次元配置された撮像素子をAEセンサとして用いることで、測光する領域の位置、大きさ、形状の自由度が高まるほか、撮像画像を被写体の検出や追尾など、測光以外の用途に利用することが可能である。例えば主被写体の領域を検出することで、主被写体の領域を考慮した露出量の決定を容易にすることができる。しかし、AEセンサで得られる撮像画像が、光学ファインダー像に重畳表示された情報を含んでいる場合、重畳表示された情報で隠された部分の情報が不足したり、重畳表示された情報の影響を受けたりして、撮像画像から得られる情報の精度が低下する。
特許文献1では測距枠表示が領域ごとの明るさに与える影響を補正することはできるが、測距枠表示が被写体検出や被写体追尾といった画素単位の情報を利用する処理に与える影響を補正することはできない。
本発明はこのような従来技術の課題に鑑みなされたものであり、表示装置が表示した情報が光学ファインダー像に重畳した画像を用いた処理が可能な撮像装置およびその制御方法において、画像に含まれる重畳情報の影響を低減することを目的とする。
上述の目的は、表示装置が表示した情報が重畳された画像を取得する取得手段と、取得手段によって取得された第1画像の所定領域に含まれる画素のうち、情報の表示色を有する画素を除外した画素の情報を用いて、テンプレート画像を生成する生成手段と、第1画像の後に取得された第2画像に対し、テンプレート画像を用いてテンプレートマッチングを行うことにより被写体検出を行う処理手段と、を備えることを特徴とする撮像装置によって達成される。
本発明によれば、表示装置が表示した情報が光学ファインダー像に重畳した画像を用いた処理が可能な撮像装置およびその制御方法において、画像に含まれる重畳情報の影響を低減することができる。
実施形態に係る撮像装置の一例としてのデジタル一眼レフカメラの側断面図 実施形態に係るデジタル一眼レフカメラの機能構成例を示すブロック図 実施形態に係るデジタル一眼レフカメラの測距点配置および撮像範囲の例を示す図 図2のAF制御部、システム制御部、およびAE制御部の処理手順と相互関係を説明するための図 実施形態に係るデジタル一眼レフカメラにおけるテンプレート画像生成処理および被写体追尾処理の手順を示すフローチャート (a)は実施形態における追尾対象の特徴色抽出に用いられるRGB色空間を模式的に示す図、(b)は実施形態におけるルックアップテーブルに登録された特徴色のブロックと、除外ブロックの例を示す図
以下、添付図面を参照して、本発明をその例示的な実施形態に基づいて詳細に説明する。
図1は、本発明の実施形態に係る撮像装置の一例としてのデジタル一眼レフカメラ(DSLR)の主要な構成部品の配置例を示す側断面図である。DSLRは、本体201と本体201の前面に装着される撮影レンズ202を有する。撮影レンズ202は交換可能であり、また本体201と撮影レンズ202は、不図示のレンズマウントにより機械的および電気的に接続される。撮影レンズ202の中には、フォーカシングレンズ213と絞り214がある。フォーカシングレンズ213と絞り214はレンズマウント接点群215を介した、本体201による電気的な制御に従って動作し、撮影レンズ202の焦点や撮影レンズ202から入射する光量を調整する。
メインミラー203はハーフミラーであり、背面にはサブミラー204が設けられている。図示した、ミラーアップされていない状態では、撮影レンズ202からの光束の一部を反射して上方のファインダー光学系へ入射させ、透過光をサブミラー204で反射して下方のAFユニット205へ入射させる。露光時などミラーアップされた状態では、光路から退避する。
AFユニット205は位相差検出方式のAFセンサである。撮影レンズ202の二次結像面を、AFユニット205が有する焦点検出ラインセンサ上に形成することによって、撮影レンズ202のデフォーカス量と焦点方向を検出し、検出結果をもとにフォーカシングレンズ213を駆動して自動焦点調節を行う。位相差検出方式による合焦制御については公知であり、AFユニット205には公知の構成を適用可能であるため、AFユニット205の詳細な構成や合焦制御についての説明は省略する。本実施形態のAFユニット205では61個の測距点(焦点検出領域またはAF枠とも呼ばれる)が図3に示すようにレイアウトされているものとする。
ピント板206はファインダー光学系としての撮影レンズ202の予定結像面に配置された半透明の板状部材である。また、撮影レンズ202の予定結像面もしくはその近傍にはさらにファインダー表示素子220が配置されている。ファインダー表示素子220はたとえば透過型の液晶ディスプレイであり、図3に示される測距点の枠などの情報を表示する。ユーザは、アイピース209からファインダー光路変更用のペンタプリズム207を通じてピント板206を観察することにより、撮影される視野の光学像に、ファインダー表示素子220が表示する撮影用の情報が重畳された像を見ることができる。なお、ファインダー表示素子220には発光ダイオード(LED)、有機発光ダイオード(OLED)、有機ELディスプレイなど、他の方式の表示装置を用いてもよいし、複数の表示装置を用いてもよい。また、表示内容に応じて異なる方式の表示装置を用いてもよい。
AEユニット208は、被写体の明るさを観測するため、複数画素を持つAEセンサで光学ファインダー像を測光画像データに変換する。ここでは、AEセンサが光学ファインダー像のうち、図3に撮像範囲として示した範囲を撮影するものとする。この光学ファインダー像には、ファインダー表示素子220で表示された測距点の枠などの情報が重畳されている。AEセンサは画素数を除いて撮像素子211と同様の構成であってよいが、主に被写体輝度の検出に用いられるためAEセンサと呼ぶ。測光画像データは、R、G、およびB成分を有する。本実施形態においてAEユニット208は、生成された測光画像データを用いて、被写体の明るさ検出、露出演算、被写体検出および被写体追尾などを行う。なお、必要に応じて複数の測光画像データを加算することで、測光画像データのダイナミックレンジを拡張してもよい。
撮像素子211はCMOSイメージセンサやCCDイメージセンサなどであり、光電変換素子を有する画素が複数配列されている。メインミラー203およびサブミラー204を撮影光路から退避させ、フォーカルプレーンシャッタ210を開くことにより、撮像素子211が露光され、被写体光学像が撮影される。
ディスプレイ212は例えば液晶ディスプレイ(LCD)であり、ライブビュー画像を表示して電子ビューファインダーとして用いたり、各種の設定値、撮影情報、装置情報、GUI画面、撮影済み画像などの表示に用いたりする。
図2は、本実施形態のDSLRの機能的な構成例を示すブロック図である。なお、図1と同じ構成要素については、同一符号を付してある。
操作部301は、ユーザが本体201や撮影レンズ202に取り付けられたボタン、スイッチ、ダイヤル、接続機器等を介して行った操作を検知し、操作内容に応じた信号をシステム制御部306に出力する。また操作部301は、レリーズボタンの押下量によってSW1信号とSW2信号を送信する。具体的には、レリーズボタンが半分程度押下されるとSW1信号を、レリーズボタンがさらに所定量押されるとSW2信号を、それぞれシステム制御部306に出力する。なお、SW1信号が出力されるレリーズボタンの押下状態を「半押し」、SW2信号が出力されるレリーズボタンの押下状態を「全押し」と呼ぶ。また、レリーズボタンの半押し状態が維持されている状態を「SW1保持状態」と呼び、全押し状態が維持されている状態を「SW2保持状態」と呼ぶ。また、操作部301は、レリーズボタンの押下量がSW1信号を送信するに満たない状態になるとSW1解除信号を、SW2信号を送信するに満たない状態になるとSW2解除信号を、それぞれシステム制御部306に出力する。
上述の通り、AFユニット205は位相差検出方式による自動焦点検出および、焦点検出結果に基づく、フォーカシングレンズ213の合焦位置への駆動(自動焦点調節)を行う。AFユニット205は、AF制御部304および測距センサ305で構成される。測距センサ305は例えば図3に示した61箇所の測距点に対応する複数のラインセンサで構成され、サブミラー204を介して入射される光を電気信号に変換し、各測距点に対して一対の像信号をAF制御部304に出力する。AF制御部304は、測距センサ305から出力された一対の像信号の位相差に基づいて、図3に示す各測距点のデフォーカス量を計算し、合焦させる測距点を1つ選択する。そして、各測距点のデフォーカス量をデータとして持つデフォーカスマップと、選択した測距点の位置情報をシステム制御部306に出力する。システム制御部306は、選択測距点位置およびデフォーカスマップに基づいて焦点調節演算を行い、選択された測距点に合焦するようにフォーカシングレンズ213の位置を制御する。
AEユニット208は自動露出演算および被写体追尾を行う。AEユニット208はAE制御部302および測光センサ303で構成される。AE制御部302は測光センサ303から読み出した測光画像データに基づいて自動露出演算を行い、結果をシステム制御部306に出力する。システム制御部306はAE制御部302から出力された自動露出演算の結果に基づいて、絞り214の値(開口の大きさ)を制御し、本体201に入射する光量を調節する。
また、SW1保持状態および連写中において、AE制御部302は測光センサ303による連続した撮像で順次得られる測光画像データを用いて被写体を順次検出することにより、被写体を追尾し、検出した被写体の位置情報をシステム制御部306に出力する。被写体検出処理および被写体追尾処理の詳細については後述する。システム制御部306はAE制御部302から出力された被写体の位置情報をAF制御部304に出力する。
AF制御部304は、システム制御部306から出力された被写体の位置もしくはその近傍にある測距点のデフォーカス量を計算し、計算結果をあらかじめ設定された閾値と比較する。比較の結果デフォーカス量が閾値以下であれば、システム制御部306に出力する選択測距点位置データを、AF制御部304が各測距点におけるデフォーカス量に基づいて選択した測距点から、被写体またはその近傍にある測距点に更新する。
システム制御部306は、操作部301からSW2信号が出力されると、メインミラー203(およびサブミラー204)をアップし、光路から退避させる。そして、フォーカルプレーンシャッタ210を駆動し、撮像素子211を自動露出演算の結果に基づく時間、露光する。露光時間が終了すると、システム制御部306は、メインミラー203(およびサブミラー204)をダウンさせる。
撮像素子211は露光時間中に撮影レンズ202を通して入射する光を各画素で電気信号に変換して画像データを生成し、システム制御部306へ出力する。システム制御部306は撮像素子211から出力された画像データに対して所定の画像処理などを適用し、ディスプレイ212で表示させたり、画像記憶装置307へ書き込んだりする。
続いて、本実施形態におけるDSLRの動作について説明する。
図4は、AF制御部304、システム制御部306、AE制御部302の動作シーケンスを示す図であり、前半がSW1保持状態における動作シーケンスを、後半がSW2保持状態の動作シーケンスを示している。なお、図4は各制御部における処理の手順や動作のタイミングを示すことを目的としたものであり、異なる制御部が行う処理はもちろん、同一の制御部が行う処理であっても、処理ブロックの大きさ(高さ)と処理時間の長さとはなんら関連性を有さない。
S401は、レリーズボタンが半押しされ、操作部301からシステム制御部306へSW1信号が出力されたタイミングを示している。SW1信号の入力を受けたシステム制御部306はAF制御部304へAF開始信号D01を出力し、AF制御部304は動作を開始する。
S403でAF制御部304は、測距センサ305に蓄積を行わせる。
S404でAF制御部304は、測距センサ305から像信号を読み出す。
S405でAF制御部304は、ユーザが任意に選択した測距点について、読み出した像信号に基づく焦点検出演算を行う。あるいは、AF制御部304は、読み出した像信号に基づいて複数の測距点に対して被写体の距離情報を求め、最至近の距離情報が得られた測距点を選択して焦点検出演算を行う。AF制御部304は、デフォーカスマップと選択測距点位置情報を含んだ焦点演算結果信号D02をシステム制御部306に出力する。
システム制御部306は、選択された測距点に合焦するように、焦点演算結果信号D02に基づいてフォーカシングレンズ213を駆動し、焦点調節を行う。焦点調節が完了すると、システム制御部306は、AF開始信号D03をAF制御部304に、AE開始信号D04をAE制御部302に、それぞれ出力する。
S406でAE制御部302は、AE開始信号D04を受信すると測光センサ303による蓄積動作(すなわち、撮影)を開始する。AF開始信号D03を受信したAF制御部304も測距センサ305による蓄積動作を開始するため、測距センサ305および測光センサ303での蓄積動作は同じタイミングで開始される。これにより、測距センサ305と測光センサ303とから、同じシーンを同じタイミングで撮影された像信号(画像)が得られる。
S407でAE制御部302は、測光センサ303から測光画像データを読み出す。
S408でAE制御部302は被写体追尾処理を行う。AE制御部302は、過去に実行した追尾テンプレート生成処理(S413)で生成されたテンプレート画像を追尾対象画像とし、S407で生成した画像データとテンプレートマッチングを行う。そして、生成した画像中における追尾対象の位置(被写体座標)を被写体追尾結果として検出する。
AE制御部302における被写体追尾結果D5は、システム制御部306で中継され、被写体追尾結果D06としてAF制御部304に通知される。なお、テンプレート画像が生成されていない場合、S408の被写体追尾処理は省略される。
S409でAE制御部302は、S407で読み出した測光画像データに基づいて露出演算を行い、露出演算結果D08をシステム制御部306に出力する。
一方、システム制御部306がAE開始信号D4と同時に出力したAF開始信号D03を受け取ったAF制御部304は、上述したようにS403〜S404の処理を実行し、S410でS405と同様の処理により焦点検出を行う。
S411でAF制御部304は、システム制御部306を通じて被写体追尾結果D06を受け取り、最も近い測距点かS410で選択した測距点を用いることを決定する。そして、AF制御部304は、デフォーカスマップと選択測距点位置情報を含んだ焦点演算結果信号D07をシステム制御部306に出力する。なお、選択測距点位置は具体的な測距点の位置を表す情報であってもいいが、測距点ごとの位置に関する情報が別途利用できる場合には、測距点番号など、測距点を特定できる情報であってもよい。
システム制御部306は焦点演算結果信号D07に含まれる選択測距点位置情報とデフォーカスマップとに基づいて焦点調節を行う。また、システム制御部306は、焦点演算結果信号D07に含まれる選択測距点位置情報と、以前の選択測距点位置情報とから、選択測距点が変更されたかどうかを判別する。そして、システム制御部306は、選択測距点が変更(再選択)されていれば、測距点再選択フラグをTRUEに、選択測距点が変更(再選択)されていなければ、測距点再選択フラグをFALSEにする。システム制御部306は、焦点演算結果信号D07に含まれる選択測距点位置情報と、測距点再選択フラグをデータD10としてAE制御部302に通知する。
S413でAE制御部302は、データD10に基づいて追尾テンプレートを生成する。この処理の詳細については後述する。ここで生成された追尾テンプレートは、次のコマ(フレーム)以降の被写体追尾処理に用いられる。
S501においてSW2信号の出力が開始されると、システム制御部306は、AE制御部302が繰り返し処理におけるS409の露出演算(および必要な場合はS413の追尾テンプレートの作成)を終えてから、本撮影処理を開始する。なお、露出演算が終了した時点で本撮影処理を開始し、追尾テンプレートの作成はバックグランド処理で行ってもよい。
本撮影処理においてシステム制御部306は、S502でシステム制御部306はメインミラー203(およびサブミラー204)をアップさせて光路から退避させる。また、直前に得られた、露出演算結果ならびに選択測距点に対するデフォーカス量に応じて、フォーカシングレンズ213の駆動および絞り214、フォーカルプレーンシャッタ210の制御を行い、S503で本撮影を実行する。その後、S504でシステム制御部306は、メインミラー203(およびサブミラー204)をダウンさせる。
また、システム制御部306は、SW2信号の出力が開始されると、AF制御部304にレリーズ開始信号D11、AE制御部302にレリーズ開始信号D12を出力する。レリーズ開始信号D11およびD12を受信したAF制御部304およびAE制御部302は、その時点で行っていた処理を中断する。そして、システム制御部306はミラーダウン動作S504を完了した際にSW2信号が出力されていれば、AF制御部304へAF開始信号D03を、AE制御部302へAE開始信号D04をそれぞれ出力する。そして、連写の2コマ目の本撮影処理が開始される。2コマ目からはS403ならびにS406の処理から開始される。2コマ目の処理におけるS411で測距点が変更された場合には、S503で本撮影が行われた後、AE制御部302で次のコマに用いるための新たな追尾テンプレートの作成が行われる(S413)。
続いて、S408における被写体追尾処理および、S413におけるテンプレート画像生成処理について、図5のフローチャートを用いて説明する。
まず、図5(a)に示すフローチャートを用いて、S413におけるテンプレート画像生成処理について説明する。
S101でAE制御部302は、データD10に基づいて、S407で生成した測光画像データからテンプレートとして抽出する領域を決定する。測距点再選択フラグがTRUEの場合、直前に実行したS408の被写体追尾処理で検出した結果に基づく測距点が選択されている。そのため、AE制御部302は、被写体追尾処理で得られた位置を中心とする所定の大きさ並びに形状の領域をテンプレート領域(所定領域)に設定する。一方、測距点再選択フラグがFALSEの場合、データD10に含まれる選択測距点位置を中心とする所定の大きさ並びに形状の領域をテンプレート領域(所定領域)に設定する。
被写体追尾処理の結果が測距点の選択に採用されていない場合、追尾用のテンプレート画像としては不適切であるため、このような分岐処理を行う。
S102でAE制御部302は、テンプレート領域内(所定領域内)の画素の色分布を計算し、追尾対象の特徴色を検出する。特徴色の検出は例えば以下のように行うことができる。まず、RGB色空間を、R信号、G信号、B信号のそれぞれの強さを0〜7の8段階に分割する。これにより、RGB色空間は8×8×8の512のブロック(座標)に分割される。そして、テンプレート領域内の各画素の色信号をRGB色データに変換し、R信号、G信号、B信号のそれぞれの強さに基づいてRGB色空間の対応するブロック(座標)に分類する。これをテンプレート領域内の全ての画素について行い、512のブロックのうち、分類された画素が最も多いブロックに対応する色(RGB)を、追尾対象の特徴色とする。
なお、分類された画素が最も多いブロックが複数あれば、複数のブロックに対応する色を追尾対象の特徴色とする。また、分類された画素が最も多いブロックの代わりに、分類された画素数が一定値以上である1つ以上のブロックとしたり、分類された画素数が上位の所定数のブロックとしたりすることもできる。また、分類された画素が最も多いブロックに分類された画素数が所定の閾値以上である場合や、2番目に分類された画素数が多いブロックに分類された画素数との差が所定の閾値以上である場合に、分類された画素が最も多いブロックだけを特徴色としてもよい。
S107でAE制御部302は測光画像からテンプレート領域を切り出し、テンプレート領域画像を作成する。
S108でAE制御部302は、特定の色を高輝度に、他の色を低輝度に変換する3次元ルックアップテーブルを作成する。具体的には、追尾対象の特徴色については高輝度に変換し、他の色は低輝度に変換するとともに、光学ファインダー像に情報を重畳表示するために用いられている色は追尾対象の特徴色に含まれていても低輝度に変換するようなルックアップテーブルである。もっとも単純な場合、低輝度を0(黒)、高輝度を1(白)とした二値画像に変換するルックアップテーブルであってよい。
図6(b)は、ルックアップテーブルに登録された特徴色のブロックと、除外ブロックの例を、図6(a)に示したRGB色空間で模式的に示した図である。このように、RGBブロック単位で、高輝度に変換する色が登録される。図6(b)では、S102で決定した追尾対象の特徴色が、(R,G,B)=(2,6,0)〜(4,7,2)の複数のブロックに対応(分布)している例を示している。
またファインダー表示素子220が赤色LEDの場合の例として除外ブロック501が示されており、除外ブロック501の座標は(R,G,B)=(6,0,0)〜(7,1,1)である。除外ブロック501に該当する特徴色ブロックは登録されず、従ってルックアップテーブルが適用された後は低輝度となる。
ファインダー表示素子220が情報の重畳表示に用いる色が予め決まっている場合、その色に対応するヒストグラム空間のブロック(除外ブロック)を特定する情報(例えばブロックのRGB座標)を用意しておくことができる。そして、AE制御部302は、S108で追跡対象の特徴色に応じて動的にルックアップテーブルを生成する際、この除外ブロックの情報を参照し、除外ブロックと重複する特徴色のブロックがルックアップテーブルに登録されないようにすることができる。
また、AE制御部302は、S108でルックアップテーブルを作成する前に、ファインダー表示素子220で表示に用いられている色を検出する処理(S110)を必要に応じて実施してもよい。図5ではS107とS108の間に記載しているが、S101の前など、別のタイミングで実施してもよい。そして、AE制御部302は、除外ブロックの情報から、その時点で表示に用いられていない色に対応するブロックの情報を削除してからルックアップテーブルを作成する。これにより、実際には表示されていない情報の表示色と重複する特徴色をルックアップテーブルに登録することができ、被写体追尾精度を向上させることができる。
なお、S110の処理は、表示色を検出する代わりに、表示されている情報の種類の検出であってもよい。この場合、予め定められている情報と表示色との対応関係に基づいて、表示色を検出することができる。また、表示色を検出しなくても、除外ブロックの情報を、情報の種類と除外ブロックを特定する情報とを関連付けした形式とすれば、表示されている情報の種類の検出結果から、対応する除外ブロックの情報を削除することができる。なお、同一種類の情報が例えば値によって異なる色で表示される場合には、1つの表示情報に複数の除外ブロックを対応付けておけば良い。
また、AE制御部302は、予め定められている情報の表示位置と、S101で設定されたテンプレート領域との位置との差(例えば中心間距離や最短の間隔)を検出し(S111)、それを考慮してルックアップテーブルを作成することもできる。例えば、テンプレート領域と情報の表示位置との差が所定値以上であり、両者の区別が可能な程度離れていると判定される場合には、その情報の表示色を除外ブロックから削除しなくてもよい。特に追尾対象の特徴色の範囲が狭く、かつ特徴色ブロックが除外ブロックに該当する場合に、高輝度に変換される追尾対象の特徴色が少なくなり、追尾精度が低下する可能性がある。しかし、テンプレート領域と表示位置が離れていれば、色が似ていても情報表示が追尾対象と誤認識される可能性は低いため、表示色を除外ブロックから削除することで追尾精度を向上させることができる。
一方、テンプレート領域と情報の表示位置との差が所定値未満であり、両者が接近もしくは重複していると判定される場合、AE制御部302がシステム制御部306に通知し、システム制御部306が表示を一時的に停止させてもよい。なお、表示位置が複数ある場合には、個々の表示位置についてこれらの制御を行うことができる。
また、情報の表示色は単色であり、本来はRGB色空間の一座標に対応するものであるため、原理的には表示色のみを除外すれば良い。しかし、測光センサ303で撮影した測光画像データから検出される情報表示の色が、設定上の表示色と合致するとは限らない。そのため、本実施形態では、表示色そのものだけでなく、類似した色も除外するために、除外ブロックを用いている。しかし、表示色が除外できれば、除外ブロックの大きさは特徴色のブロックの大きさよりも小さくてもよい。換言すれば、表示色の類似色とする色の範囲を特徴色の範囲の単位より狭くしてもよい。
なお、S110とS111とを両方実行してもよく、この場合AE制御部302は、実際に表示されている情報のうち、表示位置がテンプレート領域に近いものに対応する除外ブロックだけを考慮してルックアップテーブルを作成することができる。
S109でAE制御部302は、テンプレート領域画像内の各画素に対してS108で作成したルックアップテーブルを適用し、特徴色を有する画素を高輝度に、他の色の画素は低輝度に変換した輝度画像を生成し、最終的なテンプレート画像とする。
S408の被写体追尾処理ではこのテンプレート画像を用いてテンプレートマッチングを行う。これにより、追尾対象の特徴色を強調した状態で輝度画像によるテンプレートマッチングを行うことができるため、単純にカラー画像によるテンプレートマッチングを行うよりも演算負荷を小さくできる。
続いて、S408の被写体追尾処理(被写体検出処理)について図5(b)に示したフローチャートを用いて説明する。
S121でAE制御部302は、S407で測光センサ303から取得した測光画像の各画素に対し、S108で作成したルックアップテーブルを適用する。つまり、測光センサ303で撮影している動画像の1つ前のフレーム(コマ)に対するテンプレート生成処理(S413)で抽出された特徴色の画素を高輝度に、他の色の画素を低輝度に変換した色変換画像(輝度画像)を生成する。上述したルックアップテーブルの特性により、ファインダー表示素子220の表示色に該当する色(もしくは表示色および類似色)を有する画素は、原則として低輝度画素に変換される。
S122でAE制御部302は、前のフレーム(コマ)に対するテンプレート生成処理(S413)で作成したテンプレート画像を用いたテンプレートマッチングにより、色変換画像の中でテンプレート画像と最も相関の高い領域を検出対象として検出する。
このような色変換を行った画像を用いてテンプレートマッチングを行うことにより、追尾対象の特徴色の情報は失わずに輝度画像を用いて処理できるため、単純にカラー画像によるテンプレートマッチングを行うよりも演算負荷を小さくできる。
AE制御部302は、検出した追尾対象の位置を被写体追尾結果D5に含めてシステム制御部306に出力する。システム制御部306は追尾対象の位置を被写体追尾結果D06としてAF制御部304に出力する。
AF制御部304は、測距点再選択処理S411において、被写体追尾結果D06で通知された追尾対象位置を含む測距点あるいは近傍(所定範囲内)の測距点を探索する。そして、該当する測距点があれば、その測距点を新たな選択測距点とする再選択処理を行う。
以上説明したように本実施形態によれば、例えば測光に用いる画像のように、表示装置が表示した情報が光学ファインダー像に重畳した画像を用いた処理を行う場合に、画像中に含まれる、重畳表示と同じもしくは類似した色の画素の情報を用いないようにする。これにより、重畳表示された情報が画像処理に与える影響を低減することができ、例えば測光用の画像を用いた被写体検出処理や被写体追尾処理の精度を向上させることができる。
(その他の実施形態)
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
例えば、被写体の位置を認識する手法に関しては、テンプレートマッチングによる被写体追跡だけでなく、色情報を用いた追跡を用いても良い。他にも、オプティカルフローを利用した動体解析や、エッジ検出によるシーン認識技術を用いても良い。
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。

Claims (11)

  1. 表示装置が表示した情報が重畳された画像を取得する取得手段と、
    前記取得手段によって取得された第1画像の所定領域に含まれる画素のうち、前記情報の表示色を有する画素を除外した画素の情報を用いて、テンプレート画像を生成する生成手段と、
    前記第1画像の後に取得された第2画像に対し、前記テンプレート画像を用いてテンプレートマッチングを行うことにより被写体検出を行う処理手段と、
    備えることを特徴とする撮像装置。
  2. 前記生成手段は、前記第1画像における前記所定領域の位置と前記情報が重畳された位置との差が所定値以上の場合、前記所定領域に含まれる画素のうち、前記情報の表示色を有する画素を除外しない画素の情報を用いて前記テンプレート画像を生成することを特徴とする請求項1記載の撮像装置。
  3. 前記生成手段は、前記所定領域に含まれる画素の特徴色のうち前記表示色とは異なる色を有する画素と、それ以外の色を有する画素とを異なる値で表す二値画像に変換して、前記テンプレート画像を生成することを特徴とする請求項1または2記載の撮像装置。
  4. 前記特徴色、色空間を複数のブロックに分割した際、前記所定領域に含まれる画素の色が最も多く含まれるブロックに対応する色であることを特徴とする請求項3に記載の撮像装置。
  5. 前記取得手段が、測光センサを用いて前記第1画像および前記第2画像を取得することを特徴とする請求項1からのいずれか1項に記載の撮像装置。
  6. アイピースと、光束を反射するためのミラーと、該ミラーで反射された光束を前記測光センサとアイピースに導くためのペンタプリズムと、を有し、
    前記表示装置は、前記ミラーと前記ペンタプリズムの間に配置されることを特徴する請求項に記載の撮像装置。
  7. 前記生成手段は、前記情報が前記表示装置に表示された際の表示色を有する画素の情報を除外して前記テンプレート画像を生成することを特徴とする請求項1からのいずれか1項に記載の撮像装置。
  8. 前記生成手段は、前記所定領域に含まれる画素のうち、前記情報の表示色と類似する色を有する画素を除外した画素の情報を用いて前記テンプレート画像を生成することを特徴とする請求項1から7のいずれか1項に記載の撮像装置。
  9. 前記情報は、測距点もしくは焦点検出領域の枠を示す情報であることを特徴とする請求項1からのいずれか1項に記載の撮像装置。
  10. 取得手段が、表示装置が表示した情報が重畳された画像を取得する取得工程と、
    生成手段が、前記取得工程で取得された第1画像の所定領域に含まれる画素のうち、前記情報の表示色を有する画素を除外した画素の情報を用いて、テンプレート画像を生成する生成工程と、
    処理手段が、前記第1画像の後に前記取得工程で取得された第2画像に対し、前記テンプレート画像を用いてテンプレートマッチングを行うことにより被写体検出を行う処理工程と、
    を有することを特徴とする撮像装置の制御方法。
  11. 撮像装置のコンピュータを、請求項1からのいずれか1項に記載の撮像装置の取得手段、生成手段、処理手段として機能させるためのプログラム。
JP2013177238A 2013-08-28 2013-08-28 撮像装置およびその制御方法 Expired - Fee Related JP5981898B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2013177238A JP5981898B2 (ja) 2013-08-28 2013-08-28 撮像装置およびその制御方法
US14/466,265 US9866755B2 (en) 2013-08-28 2014-08-22 Image capture apparatus and method for controlling the same
CN201410424075.2A CN104427248B (zh) 2013-08-28 2014-08-25 摄像装置及其控制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013177238A JP5981898B2 (ja) 2013-08-28 2013-08-28 撮像装置およびその制御方法

Publications (3)

Publication Number Publication Date
JP2015045758A JP2015045758A (ja) 2015-03-12
JP2015045758A5 JP2015045758A5 (ja) 2015-10-08
JP5981898B2 true JP5981898B2 (ja) 2016-08-31

Family

ID=52582685

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013177238A Expired - Fee Related JP5981898B2 (ja) 2013-08-28 2013-08-28 撮像装置およびその制御方法

Country Status (3)

Country Link
US (1) US9866755B2 (ja)
JP (1) JP5981898B2 (ja)
CN (1) CN104427248B (ja)

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08240835A (ja) 1995-03-06 1996-09-17 Canon Inc カメラ
JPH09181953A (ja) * 1995-12-27 1997-07-11 Matsushita Electric Works Ltd 自動追尾装置
JP3918788B2 (ja) * 2003-08-06 2007-05-23 コニカミノルタフォトイメージング株式会社 撮像装置、およびプログラム
US8035721B2 (en) * 2004-08-05 2011-10-11 Panasonic Corporation Imaging apparatus
JP5049490B2 (ja) * 2005-12-19 2012-10-17 イーストマン コダック カンパニー デジタルカメラ、ゲイン算出装置
JP4872834B2 (ja) * 2007-07-04 2012-02-08 株式会社ニコン 画像認識装置、焦点調節装置および撮像装置
WO2011084136A2 (en) 2009-12-17 2011-07-14 Tom Van Esch Method and device for measuring the speed of a movable member relative a fixed member
JP5441669B2 (ja) * 2009-12-22 2014-03-12 キヤノン株式会社 画像処理装置及びその制御方法
JP5744437B2 (ja) 2010-08-18 2015-07-08 キヤノン株式会社 追尾装置、追尾方法及びプログラム
JP5979967B2 (ja) * 2011-06-30 2016-08-31 キヤノン株式会社 被写体検出機能を備えた撮像装置、撮像装置の制御方法、及び、プログラム

Also Published As

Publication number Publication date
CN104427248B (zh) 2018-02-23
CN104427248A (zh) 2015-03-18
JP2015045758A (ja) 2015-03-12
US9866755B2 (en) 2018-01-09
US20150062348A1 (en) 2015-03-05

Similar Documents

Publication Publication Date Title
JP6512810B2 (ja) 撮像装置および制御方法とプログラム
JP5950664B2 (ja) 撮像装置およびその制御方法
US9380200B2 (en) Image pickup apparatus and control method in which object searching based on an image depends on pixel combining on the image
TWI393981B (zh) Use the flash to assist in detecting focal lengths
JP2010091669A (ja) 撮像装置
JP2013160832A (ja) 光学機器
US11808561B2 (en) Electronic apparatus for controlling a projector to project an image onto a screen at an actual size length, control method thereof and computer readable storage medium
TWI398716B (zh) Use the flash to assist in detecting focal lengths
JP6700818B2 (ja) 画像処理装置、撮像装置、および画像処理方法
JP2013254166A (ja) 撮像装置及びその制御方法
JP2016018116A (ja) 焦点調節装置、焦点調節方法およびプログラム、並びに撮像装置
JP2012208507A (ja) 画像追尾装置
JP6346484B2 (ja) 画像処理装置およびその制御方法
JP2009010672A (ja) 焦点検出装置および撮像装置
JP5800600B2 (ja) 撮像装置、撮像方法およびプログラム
JP5930792B2 (ja) 撮像装置およびその制御方法
JP5981898B2 (ja) 撮像装置およびその制御方法
JP2005136480A (ja) 撮影装置
JP2015045759A (ja) 撮像装置およびその制御方法
JP2016099432A (ja) 焦点検出装置及び方法、プログラム、記憶媒体
JP2011253099A (ja) 焦点検出装置
JP7051613B2 (ja) 撮像装置およびその制御方法
JP2012010006A (ja) 撮像装置
JP2015204579A (ja) 撮像装置
JP2014021373A (ja) 撮像装置、記憶装置、及び撮像プログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150818

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150818

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20151217

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160105

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160302

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160701

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160729

R151 Written notification of patent or utility model registration

Ref document number: 5981898

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees