JP7085651B2

JP7085651B2 - 撮像装置の制御装置、撮像装置、撮像装置の制御方法、撮像装置の制御プログラム

Info

Publication number: JP7085651B2
Application number: JP2020569426A
Authority: JP
Inventors: 和也沖山
Original assignee: Fujifilm Corp
Current assignee: Fujifilm Corp
Priority date: 2019-01-29
Filing date: 2019-12-11
Publication date: 2022-06-16
Anticipated expiration: 2039-12-11
Also published as: WO2020158200A1; JPWO2020158200A1

Description

本発明は、撮像装置の制御装置、撮像装置、撮像装置の制御方法、撮像装置の制御プログラムに関する。

撮像画像から被写体の一部である顔を検出する機能を備えた撮像装置が知られている。この機能によって顔が検出されると、検出された顔を囲う顔枠を撮像画像に重畳して表示し、この顔枠内の対象画像にピントを合わせたり、露出制御を行ったりすることで、その顔にとって好適な条件で撮像することができる。また、撮像画像からの顔の検出に失敗した場合には、直前に検出された顔をテンプレート画像として記憶し、このテンプレート画像に類似する領域を撮像画像から探索し、探索された領域を顔として検出する追尾機能も知られている（特許文献１－３参照）。

特開２０１０－１３０４９３号公報特開２０１１－０２９８２２号公報特開２０１８－００４９１６号公報

本発明は、高画質の動画撮像を可能とする撮像装置の制御装置、撮像装置、撮像装置の制御方法、及び撮像装置の制御プログラムを提供することを目的とする。

本発明の一実施形態である撮像装置の制御装置は、撮像素子から出力される第一の撮像画像から顔の領域である第一顔領域を検出する顔検出処理部と、前記顔検出処理部によって前記第一顔領域が非検出となった場合に、前記第一の撮像画像よりも前に前記撮像素子から出力され且つ前記顔検出処理部によって前記第一顔領域が検出済みの第二の撮像画像に含まれる当該第一顔領域を基準として前記第一の撮像画像における当該第一顔領域に類似する第二顔領域を探索する顔追尾処理を行う顔追尾処理部と、前記撮像素子の撮像露出、前記撮像素子から出力される撮像画像を表示する際の表示露出、又は前記撮像素子の撮像時のホワイトバランスいずれかであるパラメータを制御する第一制御部と、を備え、前記第一制御部は、前記第一の撮像画像から前記第一顔領域が検出された場合には、当該第一顔領域の画像特性に基づいて前記パラメータを決定し、前記第一の撮像画像から前記第二顔領域が検出された場合には、前記顔検出処理部によって過去に検出済みの前記第一顔領域の画像特性に基づいて前記パラメータを決定し、前記撮像素子に被写体像を結像させる撮像光学系の合焦制御を行うための撮像における合焦用露出を制御する第二制御部を備え、前記第二制御部は、前記第一の撮像画像から前記第一顔領域が検出された場合には、当該第一顔領域の輝度特性に基づいて前記合焦用露出を決定し、前記第一の撮像画像から前記第二顔領域が検出された場合には、当該第二顔領域の輝度特性に基づいて前記合焦用露出を決定するものである。

本発明の一実施形態である撮像装置は、上記撮像装置の制御装置と、上記撮像素子と、を備えるものである。

本発明の一実施形態である撮像装置の制御方法は、撮像素子から出力される第一の撮像画像から顔の領域である第一顔領域を検出する顔検出処理ステップと、前記顔検出処理ステップによって前記第一顔領域が非検出となった場合に、前記第一の撮像画像よりも前に前記撮像素子から出力され且つ前記顔検出処理ステップによって前記第一顔領域が検出済みの第二の撮像画像に含まれる当該第一顔領域を基準として前記第一の撮像画像における当該第一顔領域に類似する第二顔領域を探索する顔追尾処理を行う顔追尾処理ステップと、前記撮像素子の撮像露出、前記撮像素子から出力される撮像画像を表示する際の表示露出、又は前記撮像素子の撮像時のホワイトバランスいずれかであるパラメータを制御する第一制御ステップと、を備え、前記第一制御ステップは、前記第一の撮像画像から前記第一顔領域が検出された場合には、当該第一顔領域の画像特性に基づいて前記パラメータを決定し、前記第一の撮像画像から前記第二顔領域が検出された場合には、前記顔検出処理ステップによって過去に検出済みの前記第一顔領域の画像特性に基づいて前記パラメータを決定し、前記撮像素子に被写体像を結像させる撮像光学系の合焦制御を行うための撮像における合焦用露出を制御する第二制御ステップを備え、前記第二制御ステップは、前記第一の撮像画像から前記第一顔領域が検出された場合には、当該第一顔領域の輝度特性に基づいて前記合焦用露出を決定し、前記第一の撮像画像から前記第二顔領域が検出された場合には、当該第二顔領域の輝度特性に基づいて前記合焦用露出を決定するものである。

本発明の一実施形態である撮像装置の制御プログラムは、撮像素子から出力される第一の撮像画像から顔の領域である第一顔領域を検出する顔検出処理ステップと、前記顔検出処理ステップによって前記第一顔領域が非検出となった場合に、前記第一の撮像画像よりも前に前記撮像素子から出力され且つ前記顔検出処理ステップによって前記第一顔領域が検出済みの第二の撮像画像に含まれる当該第一顔領域を基準として前記第一の撮像画像における当該第一顔領域に類似する第二顔領域を探索する顔追尾処理を行う顔追尾処理ステップと、前記撮像素子の撮像露出、前記撮像素子から出力される撮像画像を表示する際の表示露出、又は前記撮像素子の撮像時のホワイトバランスのいずれかであるパラメータを制御する第一制御ステップと、前記撮像素子に被写体像を結像させる撮像光学系の合焦制御を行うための撮像における合焦用露出を制御する第二制御ステップと、をコンピュータに実行させるためのプログラムであり、前記第一制御ステップは、前記第一の撮像画像から前記第一顔領域が検出された場合には、当該第一顔領域の画像特性に基づいて前記パラメータを決定し、前記第一の撮像画像から前記第二顔領域が検出された場合には、前記顔検出処理ステップによって過去に検出済みの前記第一顔領域の画像特性に基づいて前記パラメータを決定し、前記第二制御ステップは、前記第一の撮像画像から前記第一顔領域が検出された場合には、当該第一顔領域の輝度特性に基づいて前記合焦用露出を決定し、前記第一の撮像画像から前記第二顔領域が検出された場合には、当該第二顔領域の輝度特性に基づいて前記合焦用露出を決定するものである。

本発明によれば、高画質の動画撮像を可能とする撮像装置の制御装置、撮像装置の制御方法、及び撮像装置の制御プログラムを提供することができる。

本発明の撮像装置の一実施形態であるデジタルカメラ１００の概略構成を示す図である。図１に示すデジタルカメラ１００のシステム制御部１１の機能ブロック図である。システム制御部１１の動作を説明するためのフローチャートである。第三変形例のデジタルカメラ１００のシステム制御部１１の動作を説明するためのフローチャートである。第四変形例のデジタルカメラ１００のシステム制御部１１の動作を説明するためのフローチャートである。第五変形例のデジタルカメラ１００のシステム制御部１１の機能ブロックを示す図である。第五変形例のデジタルカメラ１００のシステム制御部１１の動作を説明するためのフローチャートである。第五変形例のデジタルカメラ１００のシステム制御部１１の動作を説明するためのフローチャートである。本発明の撮像装置の一実施形態であるスマートフォン２００の外観を示すものである。図９に示すスマートフォン２００の構成を示すブロック図である。

以下、本発明の実施形態について図面を参照して説明する。

図１は、本発明の撮像装置の一実施形態であるデジタルカメラ１００の概略構成を示す図である。

図１に示すデジタルカメラは、撮像レンズ１と、絞り２と、レンズ制御部４と、レンズ駆動部８と、絞り駆動部９と、を有するレンズ装置４０を備える。

レンズ装置４０は、デジタルカメラ１００に着脱可能なものであってもよいし、デジタルカメラ１００と一体化されたものであってもよい。

撮像レンズ１と絞り２は撮像光学系を構成し、撮像光学系は光軸方向に移動可能なフォーカスレンズを少なくとも含む。

このフォーカスレンズは、撮像光学系の焦点を調節するためのレンズであり、単一のレンズ又は複数のレンズで構成される。フォーカスレンズが光軸方向に移動することで、フォーカスレンズの主点の位置が光軸方向に沿って変化し、被写体側の焦点位置の変更が行われる。なお、フォーカスレンズとしては、電気的な制御により、光軸方向の主点の位置を変更可能な液体レンズが用いられてもよい。

レンズ装置４０のレンズ制御部４は、デジタルカメラ１００のシステム制御部１１と有線又は無線によって通信可能に構成される。

レンズ制御部４は、システム制御部１１からの指令にしたがい、レンズ駆動部８を介して撮像レンズ１に含まれるフォーカスレンズを駆動してフォーカスレンズの主点の位置を変更したり、絞り駆動部９を介して絞り２の開口量を制御したりする。

デジタルカメラ１００は、更に、撮像光学系を通して被写体を撮像するＣＣＤ（ＣｈａｒｇｅＣｏｕｐｌｅｄＤｅｖｉｃｅ）型イメージセンサ又はＣＭＯＳ（ＣｏｍｐｌｅｍｅｎｔａｒｙＭｅｔａｌＯｘｉｄｅＳｅｍｉｃｏｎｄｕｃｔｏｒ）型イメージセンサ等の撮像素子５と、撮像素子５の出力に接続された相関二重サンプリング処理等のアナログ信号処理を行うアナログ信号処理部６と、アナログ信号処理部６から出力されるアナログ信号をデジタル信号に変換するアナログデジタル変換回路７と、を備える。

アナログ信号処理部６及びアナログデジタル変換回路７は、システム制御部１１によって制御される。アナログ信号処理部６及びアナログデジタル変換回路７は、撮像素子５と一体化されていてもよい。

撮像素子５は、複数の画素が二次元状に配置された撮像面を有し、撮像光学系によってこの撮像面に結像される被写体像をこの複数の画素によって電気信号（画素信号）に変換して出力する。撮像素子５の各画素から出力される画素信号の集合を以下では撮像画像という。

デジタルカメラ１００の電気制御系全体を統括制御するシステム制御部１１は、撮像素子駆動部１０を介して撮像素子５を駆動し、レンズ装置４０の撮像光学系を通して撮像した被写体像を撮像画像として出力させる。

システム制御部１１には、操作部１４を通してユーザからの指示信号が入力される。

システム制御部１１は、デジタルカメラ１００全体を統括制御するものであり、ハードウェア的な構造は、プログラムを実行して処理を行う各種のプロセッサである。

各種のプロセッサとしては、プログラムを実行して各種処理を行う汎用的なプロセッサであるＣＰＵ（ＣｅｎｔｒａｌＰｒｏｓｅｓｓｉｎｇＵｎｉｔ）、ＦＰＧＡ（ＦｉｅｌｄＰｒｏｇｒａｍｍａｂｌｅＧａｔｅＡｒｒａｙ）等の製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス（ＰｒｏｇｒａｍｍａｂｌｅＬｏｇｉｃＤｅｖｉｃｅ：ＰＬＤ）、又はＡＳＩＣ（ＡｐｐｌｉｃａｔｉｏｎＳｐｅｃｉｆｉｃＩｎｔｅｇｒａｔｅｄＣｉｒｃｕｉｔ）等の特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路等が含まれる。

これら各種のプロセッサの構造は、より具体的には、半導体素子等の回路素子を組み合わせた電気回路である。

システム制御部１１は、各種のプロセッサのうちの１つで構成されてもよいし、同種又は異種の２つ以上のプロセッサの組み合わせ（例えば、複数のＦＰＧＡの組み合わせ又はＣＰＵとＦＰＧＡの組み合わせ）で構成されてもよい。

更に、このデジタルカメラ１００の電気制御系は、ＲＡＭ（ＲａｎｄｏｍＡｃｃｓｅｓｓＭｅｍｏｒｙ）から構成されるメインメモリ１６と、メインメモリ１６へのデータ記憶及びメインメモリ１６からのデータ読み出しの制御を行うメモリ制御部１５と、アナログデジタル変換回路７から出力される撮像画像に対しデジタル信号処理を行ってＪＰＥＧ（ＪｏｉｎｔＰｈｏｔｏｇｒａｐｈｉｃＥｘｐｅｒｔｓＧｒｏｕｐ）形式等の各種フォーマットにしたがった撮像画像データを生成するデジタル信号処理部１７と、記憶媒体２１へのデータ記憶及び記憶媒体２１からのデータ読み出しの制御を行う外部メモリ制御部２０と、有機ＥＬ（ｅｌｅｃｔｒｏｌｕｍｉｎｅｓｃｅｎｃｅ）ディスプレイ又は液晶ディスプレイ等で構成される表示部２３と、表示部２３の表示を制御する表示制御部２２と、を備える。

記憶媒体２１は、デジタルカメラ１００に内蔵されるフラッシュメモリ等の半導体メモリ又はデジタルカメラ１００に着脱可能な可搬型の半導体メモリ等である。

メモリ制御部１５、デジタル信号処理部１７、外部メモリ制御部２０、及び表示制御部２２は、制御バス２４及びデータバス２５によって相互に接続され、システム制御部１１からの指令によって制御される。

図２は、図１に示すデジタルカメラ１００のシステム制御部１１の機能ブロック図である。

システム制御部１１は、制御プログラムを含むプログラムを実行することで、顔検出処理部１１Ａ、顔追尾処理部１１Ｂ、顔評価値算出部１１Ｃ、及び第一制御部１１Ｄとして機能する。本明細書におけるシステム制御部１１は、撮像装置の制御装置を構成する。

顔検出処理部１１Ａは、ライブビュー画像表示等のための動画撮像時において撮像素子５から出力される撮像画像から、人物又は動物の顔を示す第一顔領域を検出する顔検出処理を行う。

顔追尾処理部１１Ｂは、顔の検出対象となる撮像画像に対する上記の顔検出処理によって第一顔領域の検出が失敗（第一顔領域が検出できない非検出の状態）となった場合に、以下の顔追尾処理を行う。

顔追尾処理は、検出対象となる撮像画像（第二の撮像画像とする）よりも前に撮像素子５から出力された第一の撮像画像から検出されていた第一顔領域を基準画像として設定し、第二の撮像画像から、この基準画像に類似する類似領域を探索し、第二の撮像画像におけるこの類似領域を、顔を示す第二顔領域として検出する処理である。なお、第二の撮像画像よりも前に第一顔領域が検出されていない場合、基準画像に類似する類似領域が第二の撮像画像から探索できなかった場合等には、顔追尾処理は失敗となって、第二の撮像画像には顔領域がないと判断される。

顔評価値算出部１１Ｃは、撮像画像から第一顔領域が検出された場合には、この第一顔領域の第一評価値を算出し、撮像画像から第二顔領域が検出された場合には、この第二顔領域の第二評価値を算出する。顔領域の評価値とは、その顔領域における顔の信頼性又はその顔領域に含まれる顔の重要性を示す指標である。

顔領域における顔の信頼性とは、その顔領域がどれだけ精度よく顔を含む領域として検出されているかどうかを表す。例えば、顔領域に占める顔の割合が高いほど、顔領域の信頼性は高い。顔領域に含まれる顔の重要性は、例えば、その顔領域が検出された撮像画像におけるその顔領域の占める割合によって表される。撮像画像に占める顔領域の割合が高いほど、顔領域の重要性は高くなる。

第一制御部１１Ｄは、撮像画像の輝度特性を示す測光値に基づいて、ライブビュー画像表示等のための動画撮像時における撮像素子５の撮像露出を制御する。

図３は、システム制御部１１の動作を説明するためのフローチャートである。動画撮像が開始された後、撮像素子５から顔領域の検出対象となる撮像画像（以下、撮像画像Ｇ１という）の出力がなされると、顔検出処理部１１Ａが、撮像画像Ｇ１から第一顔領域を検出する顔検出処理を行う（ステップＳ１）。顔検出処理の結果、撮像画像Ｇ１から第一顔領域が検出された場合（ステップＳ２：ＹＥＳ）には、第一顔領域ありの結果がメモリに保存される（ステップＳ３）。一方、顔検出処理の結果、撮像画像Ｇ１から第一顔領域が検出されなかった場合（ステップＳ２：ＮＯ）には、撮像画像Ｇ１に対して顔追尾処理が行われる（ステップＳ４）。

顔追尾処理の結果、顔追尾処理によって第二領域が検出された場合、換言すると顔追尾処理に成功した場合（ステップＳ５：ＹＥＳ）には、第二顔領域ありの結果がメモリに保存される（ステップＳ６）。一方、顔追尾処理の結果、撮像画像Ｇ１から第二顔領域が検出されなかった場合（ステップＳ５：ＮＯ）には、顔領域無しの結果がメモリに保存される（ステップＳ７）。

ステップＳ３、ステップＳ６、ステップＳ７の何れかの処理が行われた後、第一制御部１１Ｄは、メモリに保存された顔領域の有無の情報を参照して、撮像画像Ｇ１から顔領域が検出されたか否かを判定する（ステップＳ８）。第一制御部１１Ｄは、撮像画像Ｇ１から顔領域が検出されていなかった場合（ステップＳ８：ＮＯ）には、撮像画像Ｇ１全体の測光値Ｂｖａｌｌを算出し、この測光値Ｂｖａｌｌに基づいて、動画撮像時の適正露出を決定する（ステップＳ９）。

第一制御部１１Ｄは、撮像画像Ｇ１から顔領域が検出されていた場合（ステップＳ８：ＹＥＳ）には、撮像画像Ｇ１から検出された顔領域が第一顔領域であるか否かを判定する（ステップＳ１０）。顔領域が第一顔領域ではない、すなわち第二顔領域であった場合（ステップＳ１０：ＮＯ）には、ステップＳ１３に処理が移行される。

顔領域が第一顔領域であった場合（ステップＳ１０：ＹＥＳ）には、第一制御部１１Ｄは、撮像画像Ｇ１から検出された第一顔領域の測光値Ｂｖｎｅｗを算出する（ステップＳ１１）。そして、第一制御部１１Ｄは、動画撮像時の露出の演算に用いる顔領域の測光値である顔測光値Ｂｖｆに、この測光値Ｂｖｎｅｗを設定する（ステップＳ１２）。ステップＳ１２の後はステップＳ１３に処理が移行される。

ステップＳ１３においては、顔評価値算出部１１Ｃが、撮像画像Ｇ１から検出された顔領域（第一顔領域又は第二顔領域）の評価値を算出する。

第一制御部１１Ｄは、ステップＳ１３にて算出された評価値が予め決められた閾値ＴＨを超えるか否かを判定する（ステップＳ１４）。評価値が閾値ＴＨを超えていた場合（ステップＳ１４：ＹＥＳ）には、第一制御部１１Ｄは、動画撮像時の露出演算に用いる顔測光値Ｂｖｆの重み付け係数ｗをαに設定する（ステップＳ１５）。評価値が閾値ＴＨ以下であった場合（ステップＳ１４：ＮＯ）には、第一制御部１１Ｄは、重み付け係数ｗをαよりも小さいβに設定する（ステップＳ１６）。αは、例えば０．５より大きい値が設定される。βは、例えば０．５より小さい値が設定される。

ステップＳ１５又はステップＳ１６の後、第一制御部１１Ｄは、撮像画像Ｇ１全体の測光値Ｂｖａｌｌを算出し、以下の式（Ａ）の演算によって測光値Ｂｖを算出し、算出した測光値Ｂｖに基づいて、動画撮像時の適正露出を決定する（ステップＳ１７）。

Ｂｖ＝Ｂｖａｌｌ×（１－ｗ）＋Ｂｖｆ×ｗ式（Ａ）

ステップＳ９又はステップＳ１７にて動画撮像時の適正露出が決定されると、システム制御部１１は、この決定した適正露出となるよう撮像光学系及び撮像素子５を制御する。以上の処理が、動画撮像時に繰り返し行われる。

以上のようにデジタルカメラ１００によれば、撮像画像から第一顔領域を検出することができた場合には、この第一顔領域の輝度特性を表す測光値によって、露出演算で用いる顔測光値Ｂｖｆが更新される。このため、この第一顔領域が適正な明るさとなるように動画撮像を行うことができる。また、撮像画像から第一顔領域を検出することができず、顔追尾処理によって第二顔領域が検出できた場合には、顔測光値Ｂｖｆは更新されず、過去に第一顔領域が検出されたときに設定された顔測光値Ｂｖｆを用いて撮像露出が決定される。つまり、顔追尾処理が行われている間は、撮像露出が、直前に顔検出処理が成功したときの条件に固定される。このため、動画撮像を行って撮像画像を表示部２３に表示させるライブビュー表示を行う場合には、ライブビュー画像の明るさのちらつきを抑制することができる。また、記憶媒体２１に記録される動画の明るさのちらつきを抑制することができる。

以下、デジタルカメラ１００の変形例について説明する。

（第一変形例）

第一制御部１１Ｄは、図３のステップＳ１１において測光値Ｂｖｎｅｗを算出する際に、撮像画像Ｇ１から検出された第一顔領域と、撮像画像Ｇ１よりも前に出力された少なくとも１つの撮像画像から検出された第一顔領域とからなる複数の第一顔領域の測光値の平均（平均画像特性に相当）を求め、その平均値を、ステップＳ１２にて顔測光値Ｂｖｆに設定してもよい。このようにすることで、ステップＳ１７にて決定される撮像露出をより適正なものとすることができる。

（第二変形例）

第一制御部１１Ｄは、図３のステップＳ１１において測光値Ｂｖｎｅｗを算出する際に、撮像画像Ｇ１から検出された第一顔領域と、撮像画像Ｇ１よりも前に出力された少なくとも１つの撮像画像から検出された第一顔領域とからなる複数の第一顔領域の各々の測光値について、白トビ又は黒潰れの有無といった信頼性判定を行い、信頼性が所定値以上となった測光値のうちの最新のものを、ステップＳ１２にて顔測光値Ｂｖｆに設定してもよい。このようにすることで、ステップＳ１７にて決定される撮像露出をより適正なものとすることができる。

（第三変形例）

第一制御部１１Ｄは、ライブビュー画像表示等のための動画撮像時における表示部２３の表示露出を、撮像画像の輝度特性を示す測光値に基づいて制御してもよい。

図４は、第三変形例のデジタルカメラ１００のシステム制御部１１の動作を説明するためのフローチャートである。図４に示すフローチャートは、ステップＳ１２がステップＳ１２ａに変更され、ステップＳ９がステップＳ９ａに変更され、ステップＳ１７がステップＳ１７ａに変更された点を除いては、図３と同じである。図４において図３と同じ処理には同一符号を付して説明を省略する。

図４のステップＳ８の判定がＮＯとなった場合、第一制御部１１Ｄは、撮像画像Ｇ１全体の測光値Ｂｖａｌｌを算出し、この測光値Ｂｖａｌｌに基づいて、動画撮像時に表示させるライブビュー画像の表示露出を決定する（ステップＳ９ａ）。

また、図４のステップＳ１１の後、第一制御部１１Ｄは、動画撮像時に表示させるライブビュー画像の表示露出の演算に用いる顔領域の測光値である顔測光値Ｂｖｆに、ステップＳ１１にて算出した測光値Ｂｖｎｅｗを設定する（ステップＳ１２ａ）。ステップＳ１２ａの後はステップＳ１３に処理が移行される。

図４のステップＳ１５とステップＳ１６の後、第一制御部１１Ｄは、撮像画像Ｇ１全体の測光値Ｂｖａｌｌを算出し、上記の式（Ａ）の演算によって測光値Ｂｖを算出し、算出した測光値Ｂｖに基づいて、動画撮像時におけるライブビュー画像の表示露出を決定する（ステップＳ１７ａ）。ステップＳ９ａ又はステップＳ１７ａにて動画撮像時の表示露出が決定されると、システム制御部１１は、この決定した表示露出となるよう撮像画像の輝度又は表示部２３の輝度を制御する。以上の処理が、動画撮像時に繰り返し行われる。

以上の第三変形例のデジタルカメラ１００によれば、顔追尾処理が行われている間は、ライブビュー画像の表示露出が、直前に顔検出処理が成功したときの状態に固定される。このため、ライブビュー画像の明るさのちらつきを抑制することができる。なお、第三変形例は、第一変形例又は第二変形例と組み合わせることも可能である。

（第四変形例）

第一制御部１１Ｄは、ライブビュー画像表示等のための動画撮像時のホワイトバランスを、撮像画像の色特性に基づいて制御してもよい。

図５は、第四変形例のデジタルカメラ１００のシステム制御部１１の動作を説明するためのフローチャートである。図５に示すフローチャートは、ステップＳ９がステップＳ９ｂに変更され、ステップＳ１１がステップＳ１１ｂに変更され、ステップＳ１２がステップＳ１２ｂに変更され、ステップＳ１５がステップＳ１５ｂに変更され、ステップＳ１６がステップＳ１６ｂに変更され、ステップＳ１７がステップＳ１７ｂに変更された点を除いては、図３と同じである。図５において図３と同じ処理には同一符号を付して説明を省略する。

図５のステップＳ８の判定がＮＯとなった場合、第一制御部１１Ｄは、撮像画像Ｇ１の色特性に基づいて被写体光源の色温度Ｔａｌｌを推定し、この色温度Ｔａｌｌに基づいて、動画撮像時のホワイトバランスを決定する（ステップＳ９ｂ）。

また、図５のステップＳ１０の判定がＹＥＳの場合に、第一制御部１１Ｄは、撮像画像Ｇ１から検出された第一顔領域の色特性に基づいて被写体光源の色温度Ｔｎｅｗを推定する（ステップＳ１１ｂ）。そして、第一制御部１１Ｄは、動画撮像時のホワイトバランスの演算に用いる顔領域の色温度である顔色温度Ｔｆに、ステップＳ１１ｂにて算出した色温度Ｔｎｅｗを設定する（ステップＳ１２ｂ）。ステップＳ１２ｂの後はステップＳ１３に処理が移行される。

図５のステップＳ１４の判定がＹＥＳとなった場合には、第一制御部１１Ｄは、顔色温度Ｔｆの重み付け係数ｗをα１に設定する（ステップＳ１５ｂ）。評価値が閾値ＴＨ以下であった場合（ステップＳ１４：ＮＯ）には、第一制御部１１Ｄは、重み付け係数ｗをα１よりも小さいβ１に設定する（ステップＳ１６ｂ）。α１は、例えば０．５より大きい値が設定される。β１は、例えば０．５より小さい値が設定される。

図５のステップＳ１５ｂとステップＳ１６ｂの後、第一制御部１１Ｄは、撮像画像Ｇ１の色特性に基づいて被写体光源の色温度Ｔａｌｌを推定し、下記の式（Ｂ）の演算によって色温度Ｔを算出し、算出した色温度Ｔに基づいて動画撮像時のホワイトバランスを決定する（ステップＳ１７ｂ）。

Ｔ＝Ｔａｌｌ×（１－ｗ）＋Ｔｆ×ｗ式（Ｂ）

ステップＳ９ｂ又はステップＳ１７ｂにて動画撮像時のホワイトバランスが決定されると、システム制御部１１は、この決定したホワイトバランスとなるよう撮像画像の画像処理パラメータを制御する。以上の処理が、動画撮像時に繰り返し行われる。

以上の第四変形例のデジタルカメラ１００によれば、顔追尾処理が行われている間は、ホワイトバランスが、直前に顔検出処理が成功したときの状態に固定される。このため、記憶媒体２１に記録される動画又はライブビュー画像の明るさのちらつきを抑制することができる。なお、第四変形例は、第一変形例又は第二変形例と組み合わせることも可能である。

（第五変形例）

図６は、第五変形例のデジタルカメラ１００のシステム制御部１１の機能ブロックを示す図である。図６に示すシステム制御部１１は、制御プログラムを含むプログラムを実行することで、顔検出処理部１１Ａ、顔追尾処理部１１Ｂ、顔評価値算出部１１Ｃ、第一制御部１１Ｄ、及び第二制御部１１Ｅとして機能する。顔検出処理部１１Ａ、顔追尾処理部１１Ｂ、顔評価値算出部１１Ｃ、及び第一制御部１１Ｄの機能は上述したとおりであるため説明を省略する。

第二制御部１１Ｅは、撮像光学系の合焦制御を行うための撮像（合焦用撮像という）における合焦用露出を制御する。具体的には、第二制御部１１Ｅは、撮像画像から第一顔領域が検出された場合には、この第一顔領域の輝度特性に基づいて上記の合焦用露出を決定し、この撮像画像から第二顔領域が検出された場合には、この第二顔領域の輝度特性に基づいて上記の合焦用露出を決定する。

図７及び図８は、第五変形例のデジタルカメラ１００のシステム制御部１１の動作を説明するためのフローチャートである。図７及び図８に示すフローチャートは、ステップＳ０が追加され、ステップＳ９がステップＳ９ｃに変更され、ステップＳ１７がステップＳ１７ｃに変更され、ステップＳ１０の判定がＮＯとなった場合の処理が追加された点を除いては、図３と同じである。図７及び図８において図３と同じ処理には同一符号を付して説明を省略する。

ステップＳ０において自動合焦制御（ＡｕｔｏＦｏｃｕｓ（ＡＦ））の指示がなされると、ステップＳ１以降の処理が開始される。そして、図７のステップＳ８の判定がＮＯとなった場合、第一制御部１１Ｄは、撮像画像Ｇ１全体の測光値Ｂｖａｌｌを算出し、この測光値Ｂｖａｌｌに基づいて、動画撮像時の撮像露出を決定する。また、第二制御部１１Ｅは、この測光値Ｂｖａｌｌに基づいて、ステップＳ０の指示に応じて行うＡＦのための評価値算出に必要な合焦用撮像時の合焦用露出を決定する（ステップＳ９ｃ）。

また、図７のステップＳ１５とステップＳ１６の後、第一制御部１１Ｄは、撮像画像Ｇ１全体の測光値Ｂｖａｌｌを算出し、上記の式（Ａ）の演算によって測光値Ｂｖを算出し、算出した測光値Ｂｖに基づいて、動画撮像時の撮像露出を決定する。また、第二制御部１１Ｅは、この算出された測光値Ｂｖに基づいて、ステップＳ０の指示に応じて行うＡＦのための評価値算出に必要な合焦用撮像時の合焦用露出を決定する（ステップＳ１７ｃ）。

図７のステップＳ１０の判定がＮＯとなった場合には、第二制御部１１Ｅは、撮像画像Ｇ１から検出された第二顔領域の測光値Ｂｖｎｅｗ２を算出する（ステップＳ２１）。そして、第二制御部１１Ｅは、合焦用露出の演算に用いる顔領域の測光値である顔測光値Ｂｖｆａに、この測光値Ｂｖｎｅｗ２を設定する（ステップＳ２２）。

ステップＳ２２の後、顔評価値算出部１１Ｃが、撮像画像Ｇ１から検出された第二顔領域の評価値を算出する（ステップＳ２３）。

第二制御部１１Ｅは、ステップＳ２３にて算出された評価値が閾値ＴＨを超えるか否かを判定する（ステップＳ２４）。評価値が閾値ＴＨを超えていた場合（ステップＳ２４：ＹＥＳ）には、第二制御部１１Ｅは、顔測光値Ｂｖｆａの重み付け係数ｗをαに設定する（ステップＳ２５）。評価値が閾値ＴＨ以下であった場合（ステップＳ２４：ＮＯ）には、第二制御部１１Ｅは、重み付け係数ｗをβに設定する（ステップＳ２６）。

ステップＳ２５又はステップＳ２６の後、第二制御部１１Ｅは、撮像画像Ｇ１全体の測光値Ｂｖａｌｌを算出し、以下の式（Ｃ）の演算によって測光値Ｂｖ１を算出し、算出した測光値Ｂｖ１に基づいて、合焦用露出を決定する（ステップＳ２７）。

Ｂｖ１＝Ｂｖａｌｌ×（１－ｗ）＋Ｂｖｆａ×ｗ式（Ｃ）

また、ステップＳ２５又はステップＳ２６の後、第一制御部１１Ｄは、以下の式（Ｄ）の演算によって測光値Ｂｖ２を算出し、算出した測光値Ｂｖ２に基づいて、動画撮像時の適正露出を決定する（ステップＳ２８）。式（Ｄ）におけるＢｖｆは、ステップＳ１２にて設定された値が用いられる。

Ｂｖ２＝Ｂｖａｌｌ×（１－ｗ）＋Ｂｖｆ×ｗ式（Ｄ）

図７のステップＳ９ｃ、図７のステップＳ１７ｃ、又は図８のステップＳ２７及びステップＳ２８にて、動画撮像時の撮像露出と合焦用露出が決定されると、システム制御部１１は、この決定した合焦用露出となるよう撮像光学系及び撮像素子５を制御して撮像素子５により撮像を行わせ、この撮像によって撮像素子５から出力された撮像画像に基づいて、撮像光学系の合焦制御を行う。なお、この合焦制御の方式は、位相差ＡＦ方式とコントラストＡＦ方式の少なくとも一方を採用することができる。また、この合焦用の撮像が終了すると、システム制御部１１は、上記の決定した撮像露出となるよう、撮像光学系及び撮像素子５を制御する。

以上の第五変形例のデジタルカメラ１００によれば、顔追尾処理が行われている間は、撮像露出に関しては直前に顔検出処理が成功したときの状態に固定されるものの、合焦用露出に関しては、顔追尾処理によって検出された第二顔領域の輝度特性に基づいて合焦用露出が決定される。つまり、実際に検出されている最新の顔領域の輝度特性に基づいて合焦用露出が決められ、その露出にて撮像して得られた撮像画像に基づいて合焦制御が行われる。このため、記憶媒体２１に記録される動画又はライブビュー画像の明るさのちらつきを抑制しながら、ＡＦ時には高い精度にて顔にピントを合わせることが可能となり、撮像画像の品質を向上させることができる。なお、第五変形例は、第一変形例から第四変形例と組み合わせることも可能である。

次に、本発明の撮像装置の実施形態としてスマートフォンの構成について説明する。

図９は、本発明の撮像装置の一実施形態であるスマートフォン２００の外観を示すものである。

図９に示すスマートフォン２００は、平板状の筐体２０１を有し、筐体２０１の一方の面に表示部としての表示パネル２０２と、入力部としての操作パネル２０３とが一体となった表示入力部２０４を備えている。

また、この様な筐体２０１は、スピーカ２０５と、マイクロホン２０６と、操作部２０７と、カメラ部２０８とを備えている。なお、筐体２０１の構成はこれに限定されず、例えば、表示部と入力部とが独立した構成を採用したり、折り畳み構造又はスライド機構を有する構成を採用したりすることもできる。

図１０は、図９に示すスマートフォン２００の構成を示すブロック図である。

図１０に示すように、スマートフォンの主たる構成要素として、無線通信部２１０と、表示入力部２０４と、通話部２１１と、操作部２０７と、カメラ部２０８と、記憶部２１２と、外部入出力部２１３と、ＧＰＳ（ＧｌｏｂａｌＰｏｓｉｔｉｏｎｉｎｇＳｙｓｔｅｍ）受信部２１４と、モーションセンサ部２１５と、電源部２１６と、主制御部２２０とを備える。

また、スマートフォン２００の主たる機能として、図示省略の基地局装置ＢＳと図示省略の移動通信網ＮＷとを介した移動無線通信を行う無線通信機能を備える。

無線通信部２１０は、主制御部２２０の指示にしたがって、移動通信網ＮＷに収容された基地局装置ＢＳに対し無線通信を行うものである。この無線通信を使用して、音声データ、画像データ等の各種ファイルデータ、電子メールデータ等の送受信、ウェブデータ又はストリーミングデータ等の受信を行う。

表示入力部２０４は、主制御部２２０の制御により、画像（静止画像及び動画）又は文字情報等を表示して視覚的にユーザに情報を伝達するとともに、表示した情報に対するユーザ操作を検出する、いわゆるタッチパネルであって、表示パネル２０２と、操作パネル２０３とを備える。

表示パネル２０２は、ＬＣＤ（ＬｉｑｕｉｄＣｒｙｓｔａｌＤｉｓｐｌａｙ）、ＯＥＬＤ（ＯｒｇａｎｉｃＥｌｅｃｔｒｏ－ＬｕｍｉｎｅｓｃｅｎｃｅＤｉｓｐｌａｙ）等を表示デバイスとして用いたものである。

操作パネル２０３は、表示パネル２０２の表示面上に表示される画像を視認可能に載置され、ユーザの指又は尖筆によって操作される一又は複数の座標を検出するデバイスである。このデバイスをユーザの指又は尖筆によって操作すると、操作に起因して発生する検出信号を主制御部２２０に出力する。次いで、主制御部２２０は、受信した検出信号に基づいて、表示パネル２０２上の操作位置（座標）を検出する。

図１０に示すように、本発明の撮像装置の一実施形態として例示しているスマートフォン２００の表示パネル２０２と操作パネル２０３とは一体となって表示入力部２０４を構成しているが、操作パネル２０３が表示パネル２０２を完全に覆うような配置となっている。

係る配置を採用した場合、操作パネル２０３は、表示パネル２０２外の領域についても、ユーザ操作を検出する機能を備えてもよい。換言すると、操作パネル２０３は、表示パネル２０２に重なる重畳部分についての検出領域（以下、表示領域と称する）と、それ以外の表示パネル２０２に重ならない外縁部分についての検出領域（以下、非表示領域と称する）とを備えていてもよい。

なお、表示領域の大きさと表示パネル２０２の大きさとを完全に一致させても良いが、両者を必ずしも一致させる必要は無い。また、操作パネル２０３が、外縁部分と、それ以外の内側部分の２つの感応領域を備えていてもよい。さらに、外縁部分の幅は、筐体２０１の大きさ等に応じて適宜設計されるものである。

さらにまた、操作パネル２０３で採用される位置検出方式としては、マトリクススイッチ方式、抵抗膜方式、表面弾性波方式、赤外線方式、電磁誘導方式、静電容量方式等が挙げられ、いずれの方式を採用することもできる。

通話部２１１は、スピーカ２０５又はマイクロホン２０６を備え、マイクロホン２０６を通じて入力されたユーザの音声を主制御部２２０にて処理可能な音声データに変換して主制御部２２０に出力したり、無線通信部２１０あるいは外部入出力部２１３により受信された音声データを復号してスピーカ２０５から出力させたりするものである。

また、図９に示すように、例えば、スピーカ２０５を表示入力部２０４が設けられた面と同じ面に搭載し、マイクロホン２０６を筐体２０１の側面に搭載することができる。

操作部２０７は、キースイッチ等を用いたハードウェアキーであって、ユーザからの指示を受け付けるものである。例えば、図１１に示すように、操作部２０７は、スマートフォン２００の筐体２０１の側面に搭載され、指等で押下されるとオンとなり、指を離すとバネ等の復元力によってオフ状態となる押しボタン式のスイッチである。

記憶部２１２は、主制御部２２０の制御プログラム及び制御データ、アプリケーションソフトウェア、通信相手の名称又は電話番号等を対応づけたアドレスデータ、送受信した電子メールのデータ、ＷｅｂブラウジングによりダウンロードしたＷｅｂデータ、ダウンロードしたコンテンツデータを記憶し、またストリーミングデータ等を一時的に記憶するものである。また、記憶部２１２は、スマートフォン内蔵の内部記憶部２１７と着脱自在な外部メモリスロットを有する外部記憶部２１８により構成される。

なお、記憶部２１２を構成するそれぞれの内部記憶部２１７と外部記憶部２１８は、フラッシュメモリタイプ（ｆｌａｓｈｍｅｍｏｒｙｔｙｐｅ）、ハードディスクタイプ（ｈａｒｄｄｉｓｋｔｙｐｅ）、マルチメディアカードマイクロタイプ（ｍｕｌｔｉｍｅｄｉａｃａｒｄｍｉｃｒｏｔｙｐｅ）、カードタイプのメモリ（例えば、ＭｉｃｒｏＳＤ（登録商標）メモリ等）、ＲＡＭ（ＲａｎｄｏｍＡｃｃｅｓｓＭｅｍｏｒｙ）、ＲＯＭ（ＲｅａｄＯｎｌｙＭｅｍｏｒｙ）等の格納媒体を用いて実現される。

外部入出力部２１３は、スマートフォン２００に連結される全ての外部機器とのインターフェースの役割を果たすものであり、他の外部機器に通信等（例えば、ユニバーサルシリアルバス（ＵＳＢ）、ＩＥＥＥ１３９４等）又はネットワーク（例えば、インターネット、無線ＬＡＮ、ブルートゥース（Ｂｌｕｅｔｏｏｔｈ）（登録商標）、ＲＦＩＤ（ＲａｄｉｏＦｒｅｑｕｅｎｃｙＩｄｅｎｔｉｆｉｃａｔｉｏｎ）、赤外線通信（ＩｎｆｒａｒｅｄＤａｔａＡｓｓｏｃｉａｔｉｏｎ：ＩｒＤＡ）（登録商標）、ＵＷＢ（ＵｌｔｒａＷｉｄｅｂａｎｄ）（登録商標）、ジグビー（ＺｉｇＢｅｅ）（登録商標）等）により直接的又は間接的に接続するためのものである。

スマートフォン２００に連結される外部機器としては、例えば、有／無線ヘッドセット、有／無線外部充電器、有／無線データポート、カードソケットを介して接続されるメモリカード（Ｍｅｍｏｒｙｃａｒｄ）、ＳＩＭ（ＳｕｂｓｃｒｉｂｅｒＩｄｅｎｔｉｔｙＭｏｄｕｌｅＣａｒｄ）／ＵＩＭ（ＵｓｅｒＩｄｅｎｔｉｔｙＭｏｄｕｌｅＣａｒｄ）カード、オーディオ・ビデオＩ／Ｏ（Ｉｎｐｕｔ／Ｏｕｔｐｕｔ）端子を介して接続される外部オーディオ・ビデオ機器、無線接続される外部オーディオ・ビデオ機器、有／無線接続されるスマートフォン、有／無線接続されるパーソナルコンピュータ、有／無線接続されるパーソナルコンピュータ、イヤホン等がある。

外部入出力部２１３は、このような外部機器から伝送を受けたデータをスマートフォン２００の内部の各構成要素に伝達したり、スマートフォン２００の内部のデータが外部機器に伝送されるようにしたりすることができる。

ＧＰＳ受信部２１４は、主制御部２２０の指示にしたがって、ＧＰＳ衛星ＳＴ１～ＳＴｎから送信されるＧＰＳ信号を受信し、受信した複数のＧＰＳ信号に基づく測位演算処理を実行し、スマートフォン２００の緯度、経度、高度からなる位置を検出する。ＧＰＳ受信部２１４は、無線通信部２１０又は外部入出力部２１３（例えば、無線ＬＡＮ）から位置情報を取得できる時には、その位置情報を用いて位置を検出することもできる。

モーションセンサ部２１５は、例えば、３軸の加速度センサ等を備え、主制御部２２０の指示にしたがって、スマートフォン２００の物理的な動きを検出する。スマートフォン２００の物理的な動きを検出することにより、スマートフォン２００の動く方向又は加速度が検出される。係る検出結果は、主制御部２２０に出力されるものである。

電源部２１６は、主制御部２２０の指示にしたがって、スマートフォン２００の各部に、バッテリ（図示しない）に蓄えられる電力を供給するものである。

主制御部２２０は、マイクロプロセッサを備え、記憶部２１２が記憶する制御プログラム及び制御データにしたがって動作し、スマートフォン２００の各部を統括して制御するものである。また、主制御部２２０は、無線通信部２１０を通じて、音声通信又はデータ通信を行うために、通信系の各部を制御する移動通信制御機能と、アプリケーション処理機能を備える。

アプリケーション処理機能は、記憶部２１２が記憶するアプリケーションソフトウェアにしたがって主制御部２２０が動作することにより実現するものである。アプリケーション処理機能としては、例えば、外部入出力部２１３を制御して対向機器とデータ通信を行う赤外線通信機能、電子メールの送受信を行う電子メール機能、又はウェブページを閲覧するウェブブラウジング機能等がある。

また、主制御部２２０は、受信データ又はダウンロードしたストリーミングデータ等の画像データ（静止画像又は動画像のデータ）に基づいて、映像を表示入力部２０４に表示する等の画像処理機能を備える。

画像処理機能とは、主制御部２２０が、上記画像データを復号し、この復号結果に画像処理を施して、画像を表示入力部２０４に表示する機能のことをいう。

さらに、主制御部２２０は、表示パネル２０２に対する表示制御と、操作部２０７、操作パネル２０３を通じたユーザ操作を検出する操作検出制御を実行する。

表示制御の実行により、主制御部２２０は、アプリケーションソフトウェアを起動するためのアイコン又はスクロールバー等のソフトウェアキーを表示したり、あるいは電子メールを作成したりするためのウィンドウを表示する。

なお、スクロールバーとは、表示パネル２０２の表示領域に収まりきれない大きな画像等について、画像の表示部分を移動する指示を受け付けるためのソフトウェアキーのことをいう。

また、操作検出制御の実行により、主制御部２２０は、操作部２０７を通じたユーザ操作を検出したり、操作パネル２０３を通じて、上記アイコンに対する操作と上記ウィンドウの入力欄に対する文字列の入力を受け付けたり、あるいは、スクロールバーを通じた表示画像のスクロール要求を受け付けたりする。

さらに、操作検出制御の実行により主制御部２２０は、操作パネル２０３に対する操作位置が、表示パネル２０２に重なる重畳部分（表示領域）か、それ以外の表示パネル２０２に重ならない外縁部分（非表示領域）かを判定し、操作パネル２０３の感応領域又はソフトウェアキーの表示位置を制御するタッチパネル制御機能を備える。

また、主制御部２２０は、操作パネル２０３に対するジェスチャ操作を検出し、検出したジェスチャ操作に応じて、予め設定された機能を実行することもできる。

ジェスチャ操作とは、従来の単純なタッチ操作ではなく、指等によって軌跡を描いたり、複数の位置を同時に指定したり、あるいはこれらを組み合わせて、複数の位置から少なくとも１つについて軌跡を描く操作を意味する。

カメラ部２０８は、図１に示したデジタルカメラにおける外部メモリ制御部２０、記憶媒体２１、表示制御部２２、表示部２３、及び操作部１４以外の構成を含む。

カメラ部２０８によって生成された撮像画像データは、記憶部２１２に記憶したり、外部入出力部２１３又は無線通信部２１０を通じて出力したりすることができる。

図９に示すスマートフォン２００において、カメラ部２０８は表示入力部２０４と同じ面に搭載されているが、カメラ部２０８の搭載位置はこれに限らず、表示入力部２０４の背面に搭載されてもよい。

また、カメラ部２０８はスマートフォン２００の各種機能に利用することができる。例えば、表示パネル２０２にカメラ部２０８で取得した画像を表示したり、操作パネル２０３の操作入力のひとつとして、カメラ部２０８の画像を利用したりすることができる。

また、ＧＰＳ受信部２１４が位置を検出する際に、カメラ部２０８からの画像を参照して位置を検出することもできる。さらには、カメラ部２０８からの画像を参照して、３軸の加速度センサを用いずに、或いは、３軸の加速度センサと併用して、スマートフォン２００のカメラ部２０８の光軸方向を判断したり、現在の使用環境を判断したりすることもできる。勿論、カメラ部２０８からの画像をアプリケーションソフトウェア内で利用することもできる。

その他、静止画又は動画の画像データにＧＰＳ受信部２１４により取得した位置情報、マイクロホン２０６により取得した音声情報（主制御部等により、音声テキスト変換を行ってテキスト情報となっていてもよい）、モーションセンサ部２１５により取得した姿勢情報等を付加して記憶部２１２に記憶したり、外部入出力部２１３又は無線通信部２１０を通じて出力したりすることもできる。

以上のような構成のスマートフォン２００においても、ライブビュー画像における色や輝度のちらつきを抑制することができる。

以上説明してきたように、本明細書には以下の事項が開示されている。

（１）

撮像素子から出力される第一の撮像画像から顔の領域である第一顔領域を検出する顔検出処理部と、

上記顔検出処理部によって上記第一顔領域が非検出となった場合に、上記第一の撮像画像よりも前に上記撮像素子から出力され且つ上記顔検出処理部によって上記第一顔領域が検出済みの第二の撮像画像に含まれるその第一顔領域を基準として上記第一の撮像画像におけるその第一顔領域に類似する第二顔領域を探索する顔追尾処理を行う顔追尾処理部と、

上記撮像素子の撮像露出、上記撮像素子から出力される撮像画像を表示する際の表示露出、又は上記撮像素子の撮像時のホワイトバランスいずれかであるパラメータを制御する第一制御部と、を備え、

上記第一制御部は、上記第一の撮像画像から上記第一顔領域が検出された場合には、その第一顔領域の画像特性（例えば、上述した輝度特性又は色特性）に基づいて上記パラメータを決定し、上記第一の撮像画像から上記第二顔領域が検出された場合には、上記顔検出処理部によって過去に検出済みの上記第一顔領域の画像特性に基づいて上記パラメータを決定する撮像装置の制御装置。

（２）

（１）記載の撮像装置の制御装置であって、

上記撮像素子に被写体像を結像させる撮像光学系の合焦制御を行うための撮像における合焦用露出を制御する第二制御部を備え、

上記第二制御部は、上記第一の撮像画像から上記第一顔領域が検出された場合には、その第一顔領域の輝度特性に基づいて上記合焦用露出を決定し、上記第一の撮像画像から上記第二顔領域が検出された場合には、その第二顔領域の輝度特性に基づいて上記合焦用露出を決定する撮像装置の制御装置。

（３）

（１）又は（２）記載の撮像装置の制御装置であって、

上記画像特性は、輝度特性であり、

上記パラメータは、上記撮像露出又は上記表示露出である撮像装置の制御装置。

（４）

（１）又は（２）記載の撮像装置の制御装置であって、

上記画像特性は、色特性であり、

上記パラメータは、上記ホワイトバランスである撮像装置の制御装置。

（５）

（１）から（４）のいずれか１つに記載の撮像装置の制御装置であって、

上記第一顔領域又は上記第二顔領域の評価値を算出する顔評価値算出部を備え、

上記第一制御部は、上記第一の撮像画像から上記第一顔領域が検出された場合には、その第一顔領域の画像特性とその第一顔領域の上記評価値に基づいて上記パラメータを決定し、上記第一の撮像画像から上記第二顔領域が検出された場合には、上記顔検出処理部によって過去に検出済みの上記第一顔領域の画像特性とその第二顔領域の上記評価値に基づいて上記パラメータを決定する撮像装置の制御装置。

（６）

（５）記載の撮像装置の制御装置であって、

上記評価値は、顔の信頼性又は顔の重要性を示す指標である撮像装置の制御装置。

（７）

（１）から（６）のいずれか１つに記載の撮像装置の制御装置であって、

上記第一制御部は、上記パラメータの決定に用いる上記第一顔領域の画像特性として、上記第一顔領域が検出済みの複数の上記撮像画像の各々における上記第一顔領域の画像特性を平均化した平均画像特性を用いる撮像装置の制御装置。

（８）

（１）から（７）のいずれか１つに記載の撮像装置の制御装置と、

上記撮像素子と、を備える撮像装置。

（９）

撮像素子から出力される第一の撮像画像から顔の領域である第一顔領域を検出する顔検出処理ステップと、

上記顔検出処理ステップによって上記第一顔領域が非検出となった場合に、上記第一の撮像画像よりも前に上記撮像素子から出力され且つ上記顔検出処理ステップによって上記第一顔領域が検出済みの第二の撮像画像に含まれるその第一顔領域を基準として上記第一の撮像画像におけるその第一顔領域に類似する第二顔領域を探索する顔追尾処理を行う顔追尾処理ステップと、

上記撮像素子の撮像露出、上記撮像素子から出力される撮像画像を表示する際の表示露出、又は上記撮像素子の撮像時のホワイトバランスいずれかであるパラメータを制御する第一制御ステップと、を備え、

上記第一制御ステップは、上記第一の撮像画像から上記第一顔領域が検出された場合には、その第一顔領域の画像特性に基づいて上記パラメータを決定し、上記第一の撮像画像から上記第二顔領域が検出された場合には、上記顔検出処理ステップによって過去に検出済みの上記第一顔領域の画像特性に基づいて上記パラメータを決定する撮像装置の制御方法。

（１０）

（９）記載の撮像装置の制御方法であって、

上記撮像素子に被写体像を結像させる撮像光学系の合焦制御を行うための撮像における合焦用露出を制御する第二制御ステップを備え、

上記第二制御ステップは、上記第一の撮像画像から上記第一顔領域が検出された場合には、その第一顔領域の輝度特性に基づいて上記合焦用露出を決定し、上記第一の撮像画像から上記第二顔領域が検出された場合には、その第二顔領域の輝度特性に基づいて上記合焦用露出を決定する撮像装置の制御方法。

（１１）

（９）又は（１０）記載の撮像装置の制御方法であって、

上記画像特性は、輝度特性であり、

上記パラメータは、上記撮像露出又は上記表示露出である撮像装置の制御方法。

（１２）

（９）又は（１０）記載の撮像装置の制御方法であって、

上記画像特性は、色特性であり、

上記パラメータは、上記ホワイトバランスである撮像装置の制御方法。

（１３）

（９）から（１２）のいずれか１つに記載の撮像装置の制御方法であって、

上記第一顔領域又は上記第二顔領域の評価値を算出する評価値算出ステップを備え、

上記第一制御ステップは、上記第一の撮像画像から上記第一顔領域が検出された場合には、その第一顔領域の画像特性とその第一顔領域の上記評価値に基づいて上記パラメータを決定し、上記第一の撮像画像から上記第二顔領域が検出された場合には、上記過去に検出済みの上記第一顔領域の画像特性とその第二顔領域の上記評価値に基づいて上記パラメータを決定する撮像装置の制御方法。

（１４）

（１３）記載の撮像装置の制御方法であって、

上記評価値は、顔の信頼性又は顔の重要性を示す指標である撮像装置の制御方法。

（１５）

（９）から（１４）のいずれか１つに記載の撮像装置の制御方法であって、

上記第一制御ステップは、上記パラメータの決定に用いる上記第一顔領域の画像特性として、上記第一顔領域が検出済みの複数の上記撮像画像の各々における上記第一顔領域の画像特性を平均化した平均画像特性を用いる撮像装置の制御方法。

（１６）

撮像素子から出力される第一の撮像画像から顔の領域である第一顔領域を検出する顔検出処理ステップと、

上記顔検出処理ステップによって上記第一顔領域が非検出となった場合に、上記第一の撮像画像よりも前に上記撮像素子から出力され且つ上記顔検出処理ステップによって上記第一顔領域が検出済みの第二の撮像画像に含まれるその第一顔領域を基準として上記第一の撮像画像におけるその第一顔領域に類似する第二顔領域を探索する顔追尾処理を行う顔追尾処理ステップと、

上記撮像素子の撮像露出、上記撮像素子から出力される撮像画像を表示する際の表示露出、又は上記撮像素子の撮像時のホワイトバランスのいずれかであるパラメータを制御する第一制御ステップと、をコンピュータに実行させるためのプログラムであり、

上記第一制御ステップは、上記第一の撮像画像から上記第一顔領域が検出された場合には、その第一顔領域の画像特性に基づいて上記パラメータを決定し、上記第一の撮像画像から上記第二顔領域が検出された場合には、上記顔検出処理ステップによって過去に検出済みの上記第一顔領域の画像特性に基づいて上記パラメータを決定する撮像装置の制御プログラム。

本発明は、デジタルカメラ又はスマートフォン等に適用して利便性が高く、有効である。

１撮像レンズ

２絞り

４レンズ制御部

５撮像素子

６アナログ信号処理部

７アナログデジタル変換回路

８レンズ駆動部

９絞り駆動部

１０撮像素子駆動部

１１システム制御部

１１Ａ顔検出処理部

１１Ｂ顔追尾処理部

１１Ｃ顔評価値算出部

１１Ｄ第一制御部

１１Ｅ第二制御部

１４操作部

１５メモリ制御部

１６メインメモリ

１７デジタル信号処理部

２０外部メモリ制御部

２１記憶媒体

２２表示制御部

２３表示部

２４制御バス

２５データバス

４０レンズ装置

２００スマートフォン

２０１筐体

２０２表示パネル

２０３操作パネル

２０４表示入力部

２０５スピーカ

２０６マイクロホン

２０７操作部

２０８カメラ部

２１０無線通信部

２１１通話部

２１２記憶部

２１３外部入出力部

２１４ＧＰＳ受信部

２１５モーションセンサ部

２１６電源部

２１７内部記憶部

２１８外部記憶部

２２０主制御部

ＳＴ１～ＳＴｎＧＰＳ衛星

Claims

撮像素子から出力される第一の撮像画像から顔の領域である第一顔領域を検出する顔検出処理部と、
前記顔検出処理部によって前記第一顔領域が非検出となった場合に、前記第一の撮像画像よりも前に前記撮像素子から出力され且つ前記顔検出処理部によって前記第一顔領域が検出済みの第二の撮像画像に含まれる当該第一顔領域を基準として前記第一の撮像画像における当該第一顔領域に類似する第二顔領域を探索する顔追尾処理を行う顔追尾処理部と、
前記撮像素子の撮像露出、前記撮像素子から出力される撮像画像を表示する際の表示露出、又は前記撮像素子の撮像時のホワイトバランスいずれかであるパラメータを制御する第一制御部と、を備え、
前記第一制御部は、前記第一の撮像画像から前記第一顔領域が検出された場合には、当該第一顔領域の画像特性に基づいて前記パラメータを決定し、前記第一の撮像画像から前記第二顔領域が検出された場合には、前記顔検出処理部によって過去に検出済みの前記第一顔領域の画像特性に基づいて前記パラメータを決定し、
前記撮像素子に被写体像を結像させる撮像光学系の合焦制御を行うための撮像における合焦用露出を制御する第二制御部を備え、
前記第二制御部は、前記第一の撮像画像から前記第一顔領域が検出された場合には、当該第一顔領域の輝度特性に基づいて前記合焦用露出を決定し、前記第一の撮像画像から前記第二顔領域が検出された場合には、当該第二顔領域の輝度特性に基づいて前記合焦用露出を決定する撮像装置の制御装置。
請求項１記載の撮像装置の制御装置であって、
前記画像特性は、輝度特性であり、
前記パラメータは、前記撮像露出又は前記表示露出である撮像装置の制御装置。
請求項１記載の撮像装置の制御装置であって、
前記画像特性は、色特性であり、
前記パラメータは、前記ホワイトバランスである撮像装置の制御装置。
請求項１から３のいずれか１項記載の撮像装置の制御装置であって、
前記第一顔領域又は前記第二顔領域の評価値を算出する顔評価値算出部を備え、
前記第一制御部は、前記第一の撮像画像から前記第一顔領域が検出された場合には、当該第一顔領域の画像特性と当該第一顔領域の前記評価値に基づいて前記パラメータを決定し、前記第一の撮像画像から前記第二顔領域が検出された場合には、前記顔検出処理部によって過去に検出済みの前記第一顔領域の画像特性と当該第二顔領域の前記評価値に基づいて前記パラメータを決定する撮像装置の制御装置。
請求項４記載の撮像装置の制御装置であって、
前記評価値は、顔の信頼性又は顔の重要性を示す指標である撮像装置の制御装置。
請求項１から５のいずれか１項記載の撮像装置の制御装置であって、
前記第一制御部は、前記パラメータの決定に用いる前記第一顔領域の画像特性として、前記第一顔領域が検出済みの複数の前記撮像画像の各々における前記第一顔領域の画像特性を平均化した平均画像特性を用いる撮像装置の制御装置。
請求項１から６のいずれか１項記載の撮像装置の制御装置と、
前記撮像素子と、を備える撮像装置。
撮像素子から出力される第一の撮像画像から顔の領域である第一顔領域を検出する顔検出処理ステップと、
前記顔検出処理ステップによって前記第一顔領域が非検出となった場合に、前記第一の撮像画像よりも前に前記撮像素子から出力され且つ前記顔検出処理ステップによって前記第一顔領域が検出済みの第二の撮像画像に含まれる当該第一顔領域を基準として前記第一の撮像画像における当該第一顔領域に類似する第二顔領域を探索する顔追尾処理を行う顔追尾処理ステップと、
前記撮像素子の撮像露出、前記撮像素子から出力される撮像画像を表示する際の表示露出、又は前記撮像素子の撮像時のホワイトバランスいずれかであるパラメータを制御する第一制御ステップと、を備え、
前記第一制御ステップは、前記第一の撮像画像から前記第一顔領域が検出された場合には、当該第一顔領域の画像特性に基づいて前記パラメータを決定し、前記第一の撮像画像から前記第二顔領域が検出された場合には、前記顔検出処理ステップによって過去に検出済みの前記第一顔領域の画像特性に基づいて前記パラメータを決定し、
前記撮像素子に被写体像を結像させる撮像光学系の合焦制御を行うための撮像における合焦用露出を制御する第二制御ステップを備え、
前記第二制御ステップは、前記第一の撮像画像から前記第一顔領域が検出された場合には、当該第一顔領域の輝度特性に基づいて前記合焦用露出を決定し、前記第一の撮像画像から前記第二顔領域が検出された場合には、当該第二顔領域の輝度特性に基づいて前記合焦用露出を決定する撮像装置の制御方法。
請求項８記載の撮像装置の制御方法であって、
前記画像特性は、輝度特性であり、
前記パラメータは、前記撮像露出又は前記表示露出である撮像装置の制御方法。
請求項８記載の撮像装置の制御方法であって、
前記画像特性は、色特性であり、
前記パラメータは、前記ホワイトバランスである撮像装置の制御方法。
請求項８から１０のいずれか１項記載の撮像装置の制御方法であって、
前記第一顔領域又は前記第二顔領域の評価値を算出する評価値算出ステップを備え、
前記第一制御ステップは、前記第一の撮像画像から前記第一顔領域が検出された場合には、当該第一顔領域の画像特性と当該第一顔領域の前記評価値に基づいて前記パラメータを決定し、前記第一の撮像画像から前記第二顔領域が検出された場合には、前記過去に検出済みの前記第一顔領域の画像特性と当該第二顔領域の前記評価値に基づいて前記パラメータを決定する撮像装置の制御方法。
請求項１１記載の撮像装置の制御方法であって、
前記評価値は、顔の信頼性又は顔の重要性を示す指標である撮像装置の制御方法。
請求項８から１２のいずれか１項記載の撮像装置の制御方法であって、
前記第一制御ステップは、前記パラメータの決定に用いる前記第一顔領域の画像特性として、前記第一顔領域が検出済みの複数の前記撮像画像の各々における前記第一顔領域の画像特性を平均化した平均画像特性を用いる撮像装置の制御方法。
撮像素子から出力される第一の撮像画像から顔の領域である第一顔領域を検出する顔検出処理ステップと、
前記顔検出処理ステップによって前記第一顔領域が非検出となった場合に、前記第一の撮像画像よりも前に前記撮像素子から出力され且つ前記顔検出処理ステップによって前記第一顔領域が検出済みの第二の撮像画像に含まれる当該第一顔領域を基準として前記第一の撮像画像における当該第一顔領域に類似する第二顔領域を探索する顔追尾処理を行う顔追尾処理ステップと、
前記撮像素子の撮像露出、前記撮像素子から出力される撮像画像を表示する際の表示露出、又は前記撮像素子の撮像時のホワイトバランスのいずれかであるパラメータを制御する第一制御ステップと、
前記撮像素子に被写体像を結像させる撮像光学系の合焦制御を行うための撮像における合焦用露出を制御する第二制御ステップと、をコンピュータに実行させるためのプログラムであり、
前記第一制御ステップは、前記第一の撮像画像から前記第一顔領域が検出された場合には、当該第一顔領域の画像特性に基づいて前記パラメータを決定し、前記第一の撮像画像から前記第二顔領域が検出された場合には、前記顔検出処理ステップによって過去に検出済みの前記第一顔領域の画像特性に基づいて前記パラメータを決定し、
前記第二制御ステップは、前記第一の撮像画像から前記第一顔領域が検出された場合には、当該第一顔領域の輝度特性に基づいて前記合焦用露出を決定し、前記第一の撮像画像から前記第二顔領域が検出された場合には、当該第二顔領域の輝度特性に基づいて前記合焦用露出を決定する撮像装置の制御プログラム。