JP4401497B2 - 撮像装置及びその制御方法 - Google Patents
撮像装置及びその制御方法 Download PDFInfo
- Publication number
- JP4401497B2 JP4401497B2 JP29865599A JP29865599A JP4401497B2 JP 4401497 B2 JP4401497 B2 JP 4401497B2 JP 29865599 A JP29865599 A JP 29865599A JP 29865599 A JP29865599 A JP 29865599A JP 4401497 B2 JP4401497 B2 JP 4401497B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- correlation value
- partial image
- value
- maximum value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Studio Devices (AREA)
Description
【発明の属する技術分野】
本発明は、ビデオカメラ装置に関するものである。
【0002】
【従来の技術】
近年の民生用ビデオカメラは、様々なオート機能、付加機能を搭載している。例えば自動焦点調節(AF)、自動露光調節(AE)、自動ホワイトバランス調節(AWB)機構や、電子ズーム機能等がその代表的なものである。従来AF、AE、AWBは、赤外線センサーや光量センサーなどの外部検出機構を用いずに撮像画像信号から制御用評価値を得る方式の場合、撮像画像の中央部の情報を重点的に利用し、それに付加して周辺の情報を合わせて各種評価値を生成していることが多い。また、電子ズームの場合、画面中央部を拡大することがほとんどである。これは、撮影したい被写体が、画面の中央に位置することが多いということを前提とするためである。
【0003】
また、上記民生用ビデオカメラの技術とは別に、近年画像処理装置の分野において、画像内の特定の形状の対象物の位置を、特定の形状を代表するテンプレートデータとの相関マッチングにより推定するテンプレートマッチング法による画像認識技術が提案されている。
【0004】
【発明が解決しようとする課題】
しかし、上記従来の技術においては、撮影したい被写体の位置が画面中央付近にあることを前提とするため、逆に上記各オート機能を効果的に動作させるためには撮影時の画面構成の自由度を犠牲にせざるを得ない。また、電子ズームにおいても撮影画像の中央部分しか拡大できないという問題がある。
【0005】
また、テンプレートマッチング法による画像認識を自然画像に用いる場合においては、テンプレートデータと入力画像との相関が高くても、必ずしも所望の被写体が映っているとは限らないという問題がある。この問題に対して、例えば特開平05−028273では、予め記憶されたテンプレート画像と入力画像との相関値の極大値、または前記テンプレート画像と入力画像の微分画像の相関値の極大値等、複数の種類の画像の相関値を求めることにより、所望の被写体の検出率の向上を図っている。しかしながらこれらは本質的にこの問題を解決するものではない。
【0006】
さらに、テンプレートマッチング法では、テンプレートデータと入力画像との相関の計算量が非常に多く、ビデオフレームレートに近い速度での処理が難しいという問題がある。この問題に対しては、例えば特開平07−220076において、所定の探索幅で相関値を計算し、得られた相関値を大きい順にソートし、その相関値が得られた位置の周囲を前記所定の探索幅より小さい幅で再度探索することで計算量の削減を行なっている。しかしながら、これは画像情報を用いた検査を目的としており、民生用のビデオカメラのように自然画像中の特定被写体の位置を検出するには計算量の削減が不十分であった。
【0007】
【課題を解決するための手段】
本発明は上記問題点を鑑みてなされたものであり、本発明における結像光学系を介して得られた光学像を光電変換素子で電気画像信号に変換し、記憶する撮像装置は、特定画像パターンを記憶する記憶手段と、前記電気画像信号の部分画像と、前記特定画像パターンとの相関値を算出する相関値算出手段と、前記算出された相関値に基づいて、前記部分画像の位置をシフトするシフト手段と、前記相関値算出手段により算出された相関値の極大値を検出する極大値検出手段と、前記極大値が検出された部分画像が人の顔の画像であるかどうかを判別する判別手段と、自動焦点制御、自動露出制御、自動ホワイトバランス、拡大処理、および縮小処理の少なくとも1つを含む制御を行う制御手段とを有し、前記シフト手段は、前記相関値算出手段により算出された相関値が予め設定された閾値以上になるまで、予め設定された方向に前記部分画像の位置を順次シフトし、前記閾値以上になると、前記部分画像のシフト前後の位置で得られる相関値から、相関値が高くなるシフト方向を推定し、前記極大値検出手段は、前記シフト手段が該推定したシフト方向に前記部分画像の位置をシフトする処理を繰り返すことで得られる相関値から、前記極大値を検出するものであって、前記判別手段が前記極大値として検出された部分画像が人の顔の画像であると判別すると、前記制御手段が前記部分画像に基づいて前記自動焦点制御、前記自動露出制御、前記自動ホワイトバランス、前記拡大処理、および前記縮小処理の少なくとも1つを含む制御を行い、前記判別手段が前記極大値として検出された部分画像が人の顔の画像でないと判別すると、前記シフト手段は再び前記相関値算出手段により算出された相関値が前記閾値以上になるまで、前記予め設定された方向に前記部分画像の位置を順次シフトする。
【0008】
また、本発明における結像光学系を介して得られた光学像を光電変換素子で電気画像信号に変換し、記憶する撮像装置の制御方法は、前記電気画像信号の部分画像と、予め記憶された特定画像パターンとの相関値を算出する相関値算出工程と、前記相関値算出工程において算出された相関値の極大値を検出する極大値検出工程と、前記極大値が検出された部分画像が人の顔の画像であるかどうかを判別する判別工程と、自動焦点制御、自動露出制御、自動ホワイトバランス、拡大処理、および縮小処理の少なくとも1つを含む制御を行う制御工程とを有し、前記極大値検出工程では、前記相関値算出工程において算出された相関値が予め設定された閾値以上になるまで、予め設定された方向に前記部分画像の位置を順次シフトし、前記閾値以上になると、前記部分画像のシフト前後の位置で得られる相関値から、相関値が高くなるシフト方向を推定し、該推定したシフト方向に前記部分画像の位置をシフトする処理を繰り返すことで得られる相関値から、前記極大値を検出するものであって、前記判別工程で前記極大値として検出された部分画像が人の顔の画像であると判別すると、前記制御工程で前記部分画像に基づいて前記自動焦点制御、前記自動露出制御、前記自動ホワイトバランス、前記拡大処理、および前記縮小処理の少なくとも1つを含む制御を行い、前記判別工程で前記極大値として検出された部分画像が人の顔の画像でないと判別すると、前記極大値検出工程で再び前記相関値算出工程で算出された相関値が前記閾値以上になるまで、前記予め設定された方向に前記部分画像の位置を順次シフトする。
【0021】
好ましくは、前記撮像装置はビデオカメラである。
【0022】
【発明の実施の形態】
以下、添付図面を参照して本発明の好適な実施の形態を詳細に説明する。
【0023】
(第1の実施形態)
図1に本発明の第1の実施形態における撮像装置の構成を示す。図1において101は結像光学系、102はCCD等の撮像素子、103はA/Dコンバータ、104はカメラ信号処理部、105はビデオ信号出力端子、106はランダムアクセスメモリ (RAM)、107はメモリインタフェース回路、108はテンプレート画像を記憶する読出し専用メモリ(ROM)、109は相関値計算部、110は判別分析回路、111はデータ読出し制御部、112はAF、AE、AWB評価値検出回路、113はAF、AE、AWB制御回路、114はテンプレートサイズ制御回路である。
【0024】
図2は図1に示すデータ読出し制御回路111の詳細構成を示すブロック図である。図2において、201は、テンプレートサイズ制御回路114からの信号を入力するテンプレートサイズ制御入力端子、202は水平方向探索幅データ保持部、203は垂直方向採索幅データ、204は第1のスイッチ、205は第2のスイッチ、206は第3のスイッチ、207は第4のスイッチ、208は第1の加算器、209は第2の加算器、210は水平カウンタレジスタ、211は垂直カウンタレジスタ、212はアドレスデータ発生回路、213は枠信号発生回路、214は枠信号出力端子、215は相関値入力端子、216は相関値閾値レジスタ、217はコンパレータ、234はAND素子、218は相関値バッファ、219は減算器、220は係数発生回路、221は水平相関微分値バッファ、222は垂直相関微分値バッファ、223は勾配方向計算回路、224は余弦関数回路、225は正弦関数回路、226は第1の乗算器、227は第2の乗算器、228は水平方向カウンタインクリメント部、229は垂直方向カウンタインクリメント部、230は第5のスイッチ、231は第6のスイッチ、232は判別結果ステート入力端子、233はアドレスデータ出力端子である。
【0025】
以下、本発明の第1の実施形態における撮像装置の動作を説明する。
【0026】
図1の結像光学系101はフォーカス調節機構およびアイリス調節機構を含み、入射光を撮像素子102の受光面上に投射し、撮像素子102は入射光に応じた画像信号に変換する。撮像素子102はこの画像信号をA/Dコンバータ103に出力し、ディジタル画像信号に変換される。A/Dコンバータ103から出力されたディジタル画像信号は、カメラ信号処理部104で所定の処理を受け、ビデオ信号出力端子105より出力される。なお、このカメラ信号処理部104にはホワイトバランス調節機構が含まれる。一方、カメラ信号処理部104は、入力した画像信号の輝度信号をRAM106に出力し、記憶させる。本第1の実施形態においては、このようにして記憶された画像信号の輝度信号を元にして、目的対象物(第1の実施形態においては、人の顔)の検出を行い、得られた結果に基づいてAF,AE,AWBの制御値を算出する。
【0027】
本発明の第1の実施形態における検出及び算出手順を、図3及び図4のフローチャートを参照して説明する。
【0028】
ROM108には、人の顔の多値テンプレート画像データなど、所望の対象物を示すテンプレート画像データが複数記憶されており、ステップS101では、テンプレートサイズ制御回路114により指定されたサイズのテンプレートデータが外部に読み出される。次にステップS102において、RAM106に記憶された輝度画像データから、ROM108から読み出されたテンプレートデータと同じサイズの部分画像がメモリインタフェース回路107により読み出される。なお、ここで読み出される部分画像はデータ読出し制御回路111が指定するRAM106のアドレス(ここでは、画像の座標(x,y)を基準として決定される)の部分画像である。
【0029】
その後ステップS103では、相関値計算部109において、ステップS101で読み出されたテンプレートデータと、ステップS102で読み出された輝度画像データとの相関値が計算される。以降、データ読出し制御回路111は前記相関値に基づき、RAM106からの読出しアドレスを更新しながら、相関値が極大値を示す部分画像を探索する(ステップS104〜S109)。この相関値の極大値を探索する手順については、後で詳細に説明する。
【0030】
探索された極大値に対応する部分画像は判別分析回路110に入力され、ステップS110で探索された前記部分画像が人の顔画像であると判別された場合、判別信号をデータ読出し制御回路111に出力する。次のステップS111では、データ読出し制御回路111はこの判別信号を受けて、その内部で保持する極大値に対応する部分画像のアドレスと、テンプレートサイズ制御回路114で指定されたテンプレートサイズとに基づいて枠信号を発生し、AF,AE,AWB評価値検出回路112に出力する。従ってステップS112では、AF,AE,AWB評価値検出回路112では、枠信号によって規定される人の顔周辺を示す部分画像を基準として、フォーカス、絞り、ホワイトバランス制御のための評価値を検出する。AF,AE,AWB制御回路113は前記評価値に基づいて、結像光学系101に含まれるフォーカス機構及びアイリス機構の制御、およびカメラ信号処理部104に含まれるホワイトバランス調節機構の制御を行なう。
【0031】
次に図2及び図4を参照して、データ読出し制御回路111の動作及び相関値の極大値の探索手順を詳細に説明する。
【0032】
まず、図3のステップS103において相関関数計算部109により計算された相関値は、相関値入力端子215からデータ読み出し制御回路111に入力され、ステップS104でコンパレータ217において相関値閾値レジスタ216に設定された閾値(ここでは、 実験的に求められた所定値0.2)との比較を行なう。
【0033】
相関値が0.2より小さい場合(ステップS104でNO)は、相関が低いことから顔画像の候補がまだ検出されない状態であると判断され、ステップS105へ進む。ステップS105では、コンパレータ217の出力により第3、第4のスイッチ206、207は0側に設定される。前記第3、第4のスイッチ206、207の0側の入力は、第1、第2のスイッチ204、205で選択された水平方向探索幅データ保持部202(探索幅Δx)と垂直方向探索幅データ保持部203(探索幅Δy)である。各探索幅データ202及び203は、テンプレートサイズ制御入力端子201から入力する、テンプレートサイズ制御回路114の指定に応じて選択され、想定する顔画像のサイズに応じた探索幅が選択される。こうして、探索幅Δx及びΔyは前記第3、第4のスイッチ206、207を通じて、第1、第2の加算器208、209にて現在のカウンタ値(x,y)に加算され(ステップS106)、水平カウンタレジスタ210及び垂直カウンタレジスタ211にそれぞれ保持される。
【0034】
従って、各カウンタレジスタ210、211は、相関値が0.2より小さい間は所定の探索幅で順次カウンタ値を変化させることとなる。各カウンタレジスタ210、211のカウンタ値は、アドレスデータ発生回路212に送られ、ステップS107において、前記カウンタ値で示されるアドレスを中心とし、テンプレートサイズ制御入力端子201から入力する指定により規定される範囲で前記RAM106に送るアドレスデータを作成し、アドレスデータ出力端子233から前記メモリインタフェース回路107に出力する(ステップS107)。こうして出力されたアドレスデータによりRAM106から次の部分画像が読み出され、次の相関値が算出される。
【0035】
一方、相関値が0.2以上の場合(ステップS104でYES)は、相関が高いことから顔画像の候補が検出された状態であると判断され、ステップS108へ進む。ステップS108では、コンパレータ217の出力により前記第3、第4のスイッチ206,207が1側に設定される。この状態では前記RAM106へのアドレスをパラメータとして相関値の極大値を求める極大値探索を行なう(ステップS109)。
【0036】
一般に、あるパラメータをXi(i=0,1,2,…,n)、その評価値をYとしたとき、評価値の極大値Ypを求めるには、評価値YのXiに対する偏微分をみることにより求めることができる。この方法では、評価値Yを最も大きく変化させるパラメータXiの組み合わせ(方向)を求め、その方向に対して所定の幅だけパラメータXiを更新し、この動作を繰り返すことにより極大値Ypを求める。例えば二次元の画像から人の顔の位置を検出する場合、パラメータは位置を表す水平、垂直の座標、評価値は前記相関値である。従って、この問題における極大値探索は以下のように定式化できる。
【0037】
すなわち、評価値に対するパラメータの偏微分をdx,dyとすると、
dx=γ(x+1,y)−γ(x,y) (1)
dy=γ(x,y+1)−γ(x,y) (2)
【0038】
ここで、γ(x,y)は、画素の座標(x,y)における相関値である。
【0039】
また、評価値を最も大きく変化させる方向θは、
θ=arctan(dy/dx) (3)
【0040】
で表すことができる。
さらに、パラメータの更新値xnew及びynewは、
xnew=x+A*cosθ (4)
ynew=y+A*sinθ (5)
【0041】
で表すことができる。なお、xnew,ynewは更新される画素の座標であり、Aは相関値が大きくなるほど小さくなる係数である。この係数Aは係数発生回路220が計算するが、相関値が低い場合は極大値をとる位置に対するずれが大きいために座標の更新を大きな幅で行ない、相関値が高くなるほど極大値に近づくため座標の更新を細かく行なうようにするために、相関値に反比例するような関数の係数を生成している。
図2の構成においては、式(1)は以下のように計算される。まず、相関値バッファ218に現在の相関値(γ0(x0,y0))を保持する(図4のステップS201)。これは各カウンタレジスタ210、211に保持される現在の座標に対する相関値である。
【0042】
次に、第5のスイッチ230が切り替わって、水平カウンタインクリメント部228から所定値(ここでは+1)が第3のスイッチ206を通じて第1の加算器208に加えられ、水平カウンタレジスタ210の値は1つ増やされる。これにより現在の座標に対して水平方向に1ずれた位置での相関値が計算され(ステップS202)、相関値入力端子215から入力される。従って減算器219には式(1)のγ0(x0+1,y0)とγ0(x0,y0)が入力されることとなり、式(1)のdxが計算され、水平相関微分値バッファ221に保持される(ステップS203)。
【0043】
同様に、第6のスイッチ231が切り替わって、垂直カウンタインクリメント部229から所定値(ここでは+1)が、第4のスイッチ207を通じて第2の加算器209に加えられ、垂直カウンタレジスタ211の値は1つ増やされる。これにより現在の座標に対して垂直方向に1ずれた位置での相関値が計算され(ステップS204)、相関値入力端子215から入力される。これにより、減算器219において式(2)のdyが計算され、垂直相関微分値バッファ222に保持される(ステップS205)。
【0044】
こうして得られたdx、dyを用いて、式(3)の計算を勾配方向計算回路223で行なって方向θを求め(ステップS206)、続いて式(4)の計算を係数発生回路220、余弦関数回路224、第1の乗算器226及び第3の加算器208により行う。また、式(5)の計算を係数発生回路220、正弦関数回路225、第2の乗算器227、第4の加算器209により行なう(ステップS207)。
【0045】
これにより、各カウンタレジスタ210、211は式(4)及び(5)のxnew、ynewを示すことになり、座標xnew,ynew(すなわち、更新後のx1、y1)における相関値を計算する(ステップS208)。
【0046】
ステップS209において、ステップS201で求めた相関値と、ステップS208で求めた相関値を比較し、更新後の位置における相関値γ0が更新前の位置における相関値γ1よりも低くなると、更新前の位置における最大相関値であると判断し、その位置を記憶する(ステップS210)。
【0047】
このように、上記式(1)〜(5)の計算を繰り返し行なうことにより、相関値の極大値をとる位置が検出される。
【0048】
なお、判別結果ステート入力端子232から入力される信号は、前記判別分析回路110における判別結果を表す信号であり、検出された極大値に対応する部分画像が人の顔の画像であると判断されると(図3のステップS110でYES)、前記判別結果ステート信号と、前記テンプレートサイズ制御入力201と、各カウンタレジスタ210、211の値は枠信号発生回路213に送られ、ここで枠信号が生成されて出力される(ステップS112)。
【0049】
(第2の実施形態)
次に、第2の実施形態について説明する。
【0050】
図5(a)は本発明の第2の実施形態にかかる撮像装置の構成を示すブロック図である。図5(a)において301はCCD撮像素子、302はA/Dコンバータ、303はカメラ信号処理部、304はランダムアクセスメモリ(RAM)、305はメモリインタフェース回路、306は電子ズーム処理部、307はビデオ出力処理部、308は読出し専用メモリ(ROM)、309は相関値計算部、310は判別分析回路、311は読出しアドレス制御部、312はビデオ信号出力端子である。
【0051】
また、図5(b)は図5(a)に示す相関値計算部309の構成の一例を示す図である。図5(b)において、320はローパスフィルタ(LPF)、322は相関値計算回路、321はメモリインターフェース回路305を介して入力されるRAM304の画像データを、相関値計算回路322に直接入力するか、LPF320を介して入力するかを切り替えるスイッチである。スイッチ321は図6を参照して後述するズーム倍率制御回路413からの出力に基づいて切り替えられる。この切り替えの動作については、後で説明する。
【0052】
図6は図5(a)に示す読出しアドレス制御部311の詳細構成を示すブロック図である。図6において401はテンプレートサイズ制御部、402は水平方向探索幅データ保持部、403は垂直方向探索幅データ保持部、404は第1のスイッチ、405は第2のスイッチ、406は第3のスイッチ、407は第4のスイッチ、408は第1の加算器、409は第2の加算器、410は水平カウンタレジスタ、411は垂直カウンタレジスタ、412はアドレスデータ発生回路、413はズーム倍率制御回路、414はズーム制御信号出力端子、415は相関値入力端子、416は相関値閾値レジスタ、417はコンパレータ、418は相関値バッファ、419は減算器、420は係数発生回路、421は水平相関微分値バッファ、422は垂直相関微分値バッファ222、423は勾配方向計算回路、424は余弦関数回路、425は正弦関数回路、426は第1の乗算器、427は第2の乗算器、428は水平カウンタインクリメント値、429は垂直カウンタインクリメント値、430は第5のスイッチ、431は第6のスイッチ、432は判別結果ステート入力、433はアドレスデータ出力、434は第1のAND素子、435は最大相関値検出回路、436は極大値判定回路、437は第2のAND素子、438は第3のAND素子である。
【0053】
以下、本発明の第2の実施形態における撮像装置の動作を説明する。
【0054】
CCD撮像素子301により得られた画像信号は、A/Dコンバータ302によりディジタル化され、カメラ信号処理部303で処理されてビデオ信号に変換され、メモリインタフェース回路305を通じてRAM304に一旦格納される。RAM304は複数フレームの画像データを格納できる容量を持つものである。カメラ信号処理部303からの画像はあらかじめ固定された第1のアドレスに格納される。電子ズーム処理部306は、RAM304の第1のアドレスに格納されたカメラ信号処理部の出力画像を読出し、画像の拡大または縮小を行なう。このときの読出しのアドレスと倍率は、初期値であり読出しアドレス制御部311により与えられる。拡大または縮小された画像データは、RAM304のあらかじめ固定された第2のアドレスに格納される。ビデオ出力処理部307は、メモリインタフェース回路305を通じてRAM304に格納されている画像データを読出し、ビデオ信号フォーマットに合わせた形態で、ビデオ信号出力端子312からビデオ信号を出力する。このとき、RAM304の第1のアドレスに合わせればカメラ信号処理部の出力画像がそのまま出力され、第2のアドレスに合わせれば電子ズーム処理された画像が出力される。
【0055】
本第2の実施形態においては、上記のようにして記憶された拡大または縮小の電子ズーム処理された画像データを元にして、目的対象物(第2の実施形態においても人の顔)の検出を行い、得られた結果に基づいて拡大/縮小処理を行う。
【0056】
本発明の第2の実施形態における検出及び処理手順を、図7のフローチャートを参照して説明する。
【0057】
まずステップS301において、RAM304の第2のアドレスに格納された電子ズーム処理された画像の一部分が読み出され、相関値計算部309に入力される。なお、ここで読み出される部分画像は、読出しアドレス制御部311により画像の座標(x,y)を基準として決定される。次のステップS302において、相関値計算部309はROM308に予め記憶されている顔のテンプレート画像との相関値を計算する。以降、読出しアドレス制御部311は前記相関値に基づき、RAM304の読出しアドレスを所定の手順で更新しながら前記電子ズーム処理された画像を読出し、相関値が極大値を示す部分画像を探索する(ステップS303〜S311)。
【0058】
相関値の極大値が検出されたときの画像の一部分には、顔部分を表す画像である可能性が高くなっている。従って、電子ズーム処理された画像の内、相関値の極大値に対応する部分画像は判別分析回路310に送られて、ROM308に記憶されたリファレンスデータに基づき顔であるか否かについての判別分析が行われる(ステップS312)。ここで顔であると判定された場合、読出しアドレス制御部311は読出しのアドレスを固定し、所定の倍率データを電子ズーム処理部306に送り、再度RAM304の第1のアドレスに格納された前記カメラ信号処理部303の出力画像を電子ズーム処理する(ステップS313)。このときの電子ズーム処理画像は、検出された人の顔部分を中心とした電子ズーム処理された画像となる。
【0059】
次に、図6に示す読出しアドレス制御部311の詳細な動作説明を行なう。
【0060】
相関値閾値レジスタ416には閾値として0.2が設定されているものとし、ステップS303において、相関値入力端子415からの相関値が0.2より小さい場合は、相関が低いことから顔画像の候補がまだ検出されない状態であると判断され、コンパレータ417はLowを出力し、AND素子434の一方の入力端子に入力される。また、判別結果ステート入力432からは初期状態を表す信号01Hが入力され、第1のAND素子434のもう一方の入力端子には判別結果ステートの下位ビットが入力されており、第1のAND素子434はLowを出力する。このLow信号により、第3、第4のスイッチ406、407は0側に接続される(ステップS304)。前記第3、第4のスイッチ406、407の0側入力には、第1、第2のスイッチ404、405を通じて水平方向探索幅データ保持部402(探索幅Δx)、垂直方向探索幅データ保持部403(探索幅Δy)が入力され、第2、第3のAND素子437、438を通じて、第1、第2の加算器408、409において水平カウンタレジスタ410の値および垂直カウンタレジスタ411の値にそれぞれ加算され、各カウンタレジスタ410、411に再びセットされるようになる(ステップS305)。
【0061】
すなわち、相関値入力415値が0.2より小さい状態では、各カウンタレジスタ410、411の値は、各探索幅Δx、Δyずつ増加することになる。なお、水平方向探索幅データ保持部402及び垂直方向探索幅データ保持部403が保持する各探索幅は各々4種類の値が予め設定されている。これは顔のテンプレートのサイズが縦、横それぞれ4種類ずつあることに相当し、テンプレートサイズ制御部401により指定されることによりそのいずれかのサイズに相当する探索幅が第1、第2のスイッチ404、405により選択される。
【0062】
ステップS306においては、アドレスデータ発生回路412は、上記のようにして更新された各カウンタレジスタ410、411が保持する値で表される画像位置と、テンプレートサイズ制御部401のサイズ選択状態にて表される画像の範囲に応じて、RAM304から読み出す電子ズーム処理された画像データの一部分を指定するアドレス信号を発生する。従って、RAM304からは、各探索幅Δx、Δyでアドレスを更新しながらテンプレートサイズ制御部401の指定のサイズの画像データが読み出され、順次テンプレートデータとの相関値が計算され、相関値入力端子415から入力される。
【0063】
一方、相関値が0.2以上の場合(ステップS303でYES)、相関が高いことから顔画像の候補が検出された状態であると判断され、コンパレータ417出力はHighレベルとなる。そのため、第1のAND素子434出力もHighレベルとなり、第3、第4のスイッチ406、407は1側接続となる(ステップS308)。従ってこの時点で水平方向探索幅データ保持部402、垂直方向探索幅データ保持部403に保持された各探索幅Δx、Δyずつシフトさせながら行う相関値の計算は停止され、次のステップS308において相関値の極大値探索の動作を開始する。極大値探索の動作は、図4を参照して上記第1の実施形態にて説明した式(1)乃至(5)を使用する方法であるので、ここではその詳しい説明は省略する。
【0064】
各式(1)乃至(5)を、相関値バッファ418、減算器419、係数発生回路420、水平相関微分値バッファ421、垂直相関微分値バッファ422、勾配方向計算回路423、弦関数回路424、正弦関数回路425、第1の乗算器426、第2の乗算器427、水平カウンタインクリメント部428、垂直カウンタインクリメント部429、第5のスイッチ430、第6のスイッチ431を用いて実行し、計算していく。この時に得られる相関値と、水平相関微分値バッファ421及び垂直相関微分値バッファ422に保持された各相関値微分値は、極大値判定回路436に入力される。
【0065】
相関値が極大値ではない場合には、極大値判定回路436の出力はHigh状態となるものとする。従って第2、第3のAND素子出力437、438は第3、第4のスイッチ406、407の出力を通過させる。相関値が所定の値(例えば0.4以上)であって、各相関値の微分値が所定の値より小さい場合には極大値にあると判断できるので、極大値判定回路436はLowとする。これにより、第2、第3のAND素子437、438は0を出力することになり、その結果、各カウンタレジスタ410、411の値は固定される。
【0066】
また、極大値判定回路436が出力するLow信号は、ズーム倍率制御回路413にも入力し、ズーム倍率制御回路413はズーム倍率微調整動作に移る(ステップS309)。これは、テンプレートデータと前記RAM304から取り出された画像の顔の大きさが違っている場合が考えられるため、取り出した画像を少しずつ拡大、縮小してテンプレートのサイズと顔の画像の大きさを一致させるために行なうものである。なお、ズーム倍率が変更されない場合、図5(b)に示す相関値計算部309のスイッチ321は1側に接続され、LPF320によりぼかされた画像を用いて相関値の計算を行うが、ズーム倍率が変更された場合(すなわち1倍以外の倍率に設定された場合)、スイッチ321が0側に切り替えられ、LPF320によりぼかされていない画像を用いて相関値の計算を行う。これは、探索速度及び制度を向上させるために行われる。
【0067】
テンプレートのサイズと顔の画像の大きさが一致する方が相関値は高くなるため、ステップS310では最大相関値検出回路435は、相関値の最大値がどの倍率の場合かを検出し、その時の倍率を再びズーム倍率制御回路413にフィードバックする。このようにして得られた倍率で拡大または縮小した画像が再びRAM304に格納され(ステップS311)、ステップS312において再び判別分析回路310にて、検出された極大値に対応する部分画像が顔か否かの判別分析を行なう。テンプレートサイズと顔画像の大きさを正確に合わせるほど、判別分析の精度が向上するため、上記サイズの調整を行なっている。
【0068】
判別分析の結果、顔であると判断された場合(ステップS312でYES)、判別結果ステート入力432の値は11Hとなる。従って、この時点では各カウンタレジスタ410、411の値は、相関値が極大値となった時のカウンタ値に固定されたままとなる。また、ズーム倍率制御回路413には判別結果ステート信号の上位ビットが入力され、ここで初めてHighが入力される。そこでズーム倍率制御回路413は本来の電子ズームの倍率データを出力し、顔部分を中心とした電子ズーム動作が行なえる状態となる(ステップS313)。一方、判別分析の結果、顔ではないと判断された場合(ステップS312でNO)、判別結果ステート信号の値は00Hとなる。従って第1のAND素子434への入力が0となり、第3、第4のスイッチ406、407は強制的に0側接続とされる(ステップS304)。この時点で水平方向探索幅データ保持部402及び垂直方向探索幅データ保持部403に保持された各探索幅Δx、Δyが各カウンタレジスタ410、411の値にそれぞれ加算され、前記各探索幅での探索が再開される。
【0069】
なお、上記第1及び第2の実施形態においては、機械的な構成により説明したが、前述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記憶媒体(または記録媒体)を、装置に供給し、その装置のコンピュータ(またはCPUやMPU)が記憶媒体に格納されたプログラムコードを読み出し実行することによっても、達成されることは言うまでもない。この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記憶した記憶媒体は本発明を構成することになる。また、コンピュータが読み出したプログラムコードを実行することにより、前述した実施形態の機能が実現されるだけでなく、そのプログラムコードの指示に基づき、コンピュータ上で稼働しているオペレーティングシステム(OS)などが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【0070】
さらに、記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張カードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込まれた後、そのプログラムコードの指示に基づき、その機能拡張カードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【0071】
本発明を上記記憶媒体に適用する場合、その記憶媒体には、先に説明した図3及び4または図7に示すフローチャートに対応するプログラムコードが格納されることになる。
【0072】
【発明の効果】
以上説明したとおり、本発明によれば、撮影画像における、例えば人の顔というような目的対象物の特定画像パターンを、テンプレートマッチング法により検出し、検出した前記特定画像に対応する撮影画像の部分に基づいて、例えば、自動焦点制御、自動露出制御、自動ホワイトバランス制御、拡大処理制御、および縮小処理制御等の予め決められた制御を行なうことができるため、被写体が画面の中心に位置しなくても効果的に上記各制御を行なった撮影が可能となる。
【図面の簡単な説明】
【図1】本発明の第1の実施形態にかかる撮像装置の構成を示すブロック図である。
【図2】図1に示すデータ読出し制御回路の詳細構成を示すブロック図である。
【図3】本発明の第1の実施形態にかかる撮像装置の動作を示すフローチャートである。
【図4】本発明の第1の実施形態にかかる極大値検出処理の手順を示すフローチャートである。
【図5】本発明の第2の実施形態にかかる撮像装置の構成を示すブロック図である。
【図6】図5に示す読出しアドレス制御部の詳細構成を示すブロック図である。
【図7】本発明の第2の実施形態にかかる撮像装置の動作を示すフローチャートである。
【符号の説明】
101 結像光学系
102 CCD撮像素子
103 A/Dコンバータ
104 カメラ信号処理部
105 ビデオ信号出力端子
106 ランダムアクセスメモリ
107 メモリインタフェース回路
108 テンプレート画像を記憶する読出し専用メモリ
109 相関値計算部
110 判別分析回路
111 データ読出し制御手段
112 AF,AE,AWB評価値検出回路
113 AF,AE,AWB制御回路
114 テンプレートサイズ制御回路
301 CCD撮像素子
302 A/Dコンバータ
303 カメラ信号処理部
304 ランダムアクセスメモリ
305 メモリインタフェース回路
306 電子ズーム処理部
307 ビデオ出力処理部
308 読出し専用メモリ
309 相関値計算部
310 判別分析回路
311 読出しアドレス制御部
312 ビデオ信号出力端子
Claims (8)
- 結像光学系を介して得られた光学像を光電変換素子で電気画像信号に変換し、記憶する撮像装置であって、
特定画像パターンを記憶する記憶手段と、
前記電気画像信号の部分画像と、前記特定画像パターンとの相関値を算出する相関値算出手段と、
前記算出された相関値に基づいて、前記部分画像の位置をシフトするシフト手段と、
前記相関値算出手段により算出された相関値の極大値を検出する極大値検出手段と、
前記極大値が検出された部分画像が人の顔の画像であるかどうかを判別する判別手段と、
自動焦点制御、自動露出制御、自動ホワイトバランス、拡大処理、および縮小処理の少なくとも1つを含む制御を行う制御手段とを有し、
前記シフト手段は、前記相関値算出手段により算出された相関値が予め設定された閾値以上になるまで、予め設定された方向に前記部分画像の位置を順次シフトし、前記閾値以上になると、前記部分画像のシフト前後の位置で得られる相関値から、相関値が高くなるシフト方向を推定し、前記極大値検出手段は、前記シフト手段が該推定したシフト方向に前記部分画像の位置をシフトする処理を繰り返すことで得られる相関値から、前記極大値を検出するものであって、
前記判別手段が前記極大値として検出された部分画像が人の顔の画像であると判別すると、前記制御手段が前記部分画像に基づいて前記自動焦点制御、前記自動露出制御、前記自動ホワイトバランス、前記拡大処理、および前記縮小処理の少なくとも1つを含む制御を行い、
前記判別手段が前記極大値として検出された部分画像が人の顔の画像でないと判別すると、前記シフト手段は再び前記相関値算出手段により算出された相関値が前記閾値以上になるまで、前記予め設定された方向に前記部分画像の位置を順次シフトすることを特徴とする撮像装置。 - 前記極大値検出手段により相関値の極大値が検出された場合に、該極大値に対応する部分画像と前記特定画像パターンとの相関値が最大になるように、前記部分画像の拡大倍率または縮小倍率を設定する手段を更に有することを特徴とする請求項1に記載の撮像装置。
- 前記シフト手段は、前記相関値が大きいほど、前記部分画像の位置をシフトするシフト量を小さくすることを特徴とする請求項1に記載の撮像装置。
- 前記記憶手段は、前記特定画像パターンとして大きさの異なる複数の相似の画像パターンを記憶し、前記記憶手段に記憶された複数の画像パターンの1つを選択する選択手段を更に有し、
前記相関値算出手段は、前記選択手段により選択された画像パターンと、前記電気画像信号の部分画像との相関値を算出することを特徴とする請求項1乃至3のいずれか一項に記載の撮像装置。 - 前記判別手段は、前記部分画像に拡大処理または縮小処理が行われていないならば、ローパスフィルタを通過させた部分画像を用いて判別を行い、
前記判別手段は、前記部分画像に拡大処理または縮小処理が行われているならば、前記ローパスフィルタを通過させない部分画像を用いて判別を行うことを特徴とする請求項2に記載の撮像装置。 - 前記撮像装置はビデオカメラであることを特徴とする請求項1乃至5のいずれか一項に記載の撮像装置。
- 結像光学系を介して得られた光学像を光電変換素子で電気画像信号に変換し、記憶する撮像装置の制御方法であって、
前記電気画像信号の部分画像と、予め記憶された特定画像パターンとの相関値を算出する相関値算出工程と、
前記相関値算出工程において算出された相関値の極大値を検出する極大値検出工程と、
前記極大値が検出された部分画像が人の顔の画像であるかどうかを判別する判別工程と、
自動焦点制御、自動露出制御、自動ホワイトバランス、拡大処理、および縮小処理の少なくとも1つを含む制御を行う制御工程とを有し、
前記極大値検出工程では、前記相関値算出工程において算出された相関値が予め設定された閾値以上になるまで、予め設定された方向に前記部分画像の位置を順次シフトし、前記閾値以上になると、前記部分画像のシフト前後の位置で得られる相関値から、相関値が高くなるシフト方向を推定し、該推定したシフト方向に前記部分画像の位置をシフトする処理を繰り返すことで得られる相関値から、前記極大値を検出するものであって、
前記判別工程で前記極大値として検出された部分画像が人の顔の画像であると判別すると、前記制御工程で前記部分画像に基づいて前記自動焦点制御、前記自動露出制御、前記自動ホワイトバランス、前記拡大処理、および前記縮小処理の少なくとも1つを含む制御を行い、
前記判別工程で前記極大値として検出された部分画像が人の顔の画像でないと判別すると、前記極大値検出工程で再び前記相関値算出工程で算出された相関値が前記閾値以上になるまで、前記予め設定された方向に前記部分画像の位置を順次シフトすることを特徴とする撮像装置の制御方法。 - コンピュータに、請求項7に記載の撮像装置の制御方法の各工程を実行させるためのプログラムを記録したコンピュータ読み取り可能な記憶媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP29865599A JP4401497B2 (ja) | 1999-10-20 | 1999-10-20 | 撮像装置及びその制御方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP29865599A JP4401497B2 (ja) | 1999-10-20 | 1999-10-20 | 撮像装置及びその制御方法 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2001119622A JP2001119622A (ja) | 2001-04-27 |
JP2001119622A5 JP2001119622A5 (ja) | 2006-12-07 |
JP4401497B2 true JP4401497B2 (ja) | 2010-01-20 |
Family
ID=17862554
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP29865599A Expired - Fee Related JP4401497B2 (ja) | 1999-10-20 | 1999-10-20 | 撮像装置及びその制御方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4401497B2 (ja) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4154400B2 (ja) * | 2004-04-01 | 2008-09-24 | キヤノン株式会社 | 撮像装置及びその制御方法及びプログラム |
JP4006415B2 (ja) * | 2004-06-03 | 2007-11-14 | キヤノン株式会社 | 撮影装置及びその制御方法並びに制御用プログラム |
JP2006229663A (ja) * | 2005-02-18 | 2006-08-31 | Casio Hitachi Mobile Communications Co Ltd | 撮像装置、撮像データ表示方法および撮像データ表示プログラム |
JP2006258944A (ja) * | 2005-03-15 | 2006-09-28 | Fujinon Corp | オートフォーカスシステム |
JP4789526B2 (ja) * | 2005-07-13 | 2011-10-12 | キヤノン株式会社 | 画像処理装置、画像処理方法 |
JP4730044B2 (ja) * | 2005-10-04 | 2011-07-20 | ソニー株式会社 | 撮像装置、および撮像装置制御方法、並びにコンピュータ・プログラム |
JP2007251532A (ja) | 2006-03-15 | 2007-09-27 | Fujifilm Corp | 撮像装置及び顔領域抽出方法 |
JP5250855B2 (ja) * | 2012-02-16 | 2013-07-31 | コニカミノルタ株式会社 | 撮像装置および撮像方法 |
-
1999
- 1999-10-20 JP JP29865599A patent/JP4401497B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2001119622A (ja) | 2001-04-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6106921B2 (ja) | 撮像装置、撮像方法および撮像プログラム | |
JP4735742B2 (ja) | 撮像装置、ストロボ画像生成方法、および、プログラム | |
EP1984892B1 (en) | Foreground/background segmentation in digital images | |
JP5398156B2 (ja) | ホワイトバランス制御装置およびその制御方法並びに撮像装置 | |
US8254630B2 (en) | Subject extracting method and device by eliminating a background region using binary masks | |
US7725019B2 (en) | Apparatus and method for deciding in-focus position of imaging lens | |
JP4413235B2 (ja) | 電子カメラ | |
US7614559B2 (en) | Apparatus and method for deciding in-focus position of imaging lens | |
JP2007067559A (ja) | 画像処理方法、画像処理装置、及び撮像装置の制御方法 | |
JP2009111716A (ja) | 撮像装置、プログラムおよびテンプレート生成方法 | |
JP4401497B2 (ja) | 撮像装置及びその制御方法 | |
US8334919B2 (en) | Apparatus and method for digital photographing to correct subject area distortion caused by a lens | |
JP5247338B2 (ja) | 画像処理装置及び画像処理方法 | |
JP4807582B2 (ja) | 画像処理装置、撮像装置及びそのプログラム | |
JP5509621B2 (ja) | 画像処理装置、カメラおよびプログラム | |
JP5451364B2 (ja) | 被写体追跡装置及びその制御方法 | |
US8340431B2 (en) | Automatic photographing method with face recognition | |
JP2008211506A (ja) | 画像処理装置、撮像装置及びそのプログラム | |
JP5463688B2 (ja) | 合焦評価装置、カメラおよびプログラム | |
US7924322B2 (en) | White balance processing for image pickup corresponding to zooming | |
KR100261563B1 (ko) | 씨씨디카메라의움직임검출방법 | |
JP5631181B2 (ja) | 画像処理装置及びその制御方法、及びプログラム | |
JP2010028370A (ja) | 撮像装置 | |
JP4315025B2 (ja) | 撮影装置、画像取得方法及びプログラム | |
JP2009130840A (ja) | 撮像装置及びその制御方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20061019 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20061019 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20061019 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20080805 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20080807 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090406 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090603 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090626 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090820 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20091016 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20091028 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121106 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131106 Year of fee payment: 4 |
|
LAPS | Cancellation because of no payment of annual fees |