上述のように、近年、一眼レフカメラなどで行われているぼかしの効果を生かした撮影に対するユーザの関心が高まっており、例えば、或る画角において焦点を合わせる被写体を変えて複数枚の画像を撮影するといったことがしばしば行われている。そこで、例えば、撮影の際の或る画角内に複数の被写体が収まっている場合には、ユーザが1回の撮影操作を行った際に、複数の被写体のそれぞれに焦点を合わせて複数枚の画像を撮影してしまうことが考えられる。この様にすることで、例えば、ユーザが、或る画角で焦点を変更しながら複数回にわたって画像を撮り直したり、或いは撮影後に焦点の位置を指定したりする手間を省くことができる。しかしながら、例えば、この様に、或る画角において複数の被写体のそれぞれに焦点を合わせて複数の画像を取得する場合に、それらの複数の画像を撮影の際の撮影者の視線の動きを反映して適切に表示するための技術は知られていない。そして、得られた複数の画像のうちからユーザが見たいと望む可能性の高い被写体に焦点の合った画像を優先して表示することは難しい。
例えば、ユーザが或る画角において画像を撮影する場合に、画角内に画像表示制御装置3からの距離が異なる複数の被写体が収まっていることがある。図1は、画像表示制御装置3の或る画角において異なる距離にある複数の被写体を例示する図である。図1(a)に示す例では、画角内に被写体a:鳥と、被写体b:家と、被写体c:背景とが収まっている。そして、図1(b)に示すように、画像表示制御装置3からの被写体a:鳥までの距離は約0.3mであり、画像表示制御装置3からの被写体b:家までの距離は約10mであり、画像表示制御装置3からの被写体c:背景までの距離は100m以上である。
この場合に、画像表示制御装置3からの距離が異なる複数の被写体のそれぞれに焦点を合わせて複数の画像を撮影することが考えられる。図2は、画角内に収まっている複数の被写体の撮影について例示する図である。図2(a)は、被写体a:鳥に焦点が合わせられており、異なる距離にあるその他の被写体b:家、及び被写体c:背景はぼけている。また、図2(b)に示す画像では、被写体b:家に焦点が合わせられており、その他の被写体a:鳥、及び被写体c:背景はぼけている。同様に、図2(c)に示す画像は、被写体c:背景に焦点が合わせられており、その他の被写体はぼけている。例えば、この様に、或る画角内において複数の被写体のそれぞれに焦点を合わせて複数の画像を取得する。この場合に、撮影された複数の画像のうちからユーザが見たいと望む可能性の高い画像を優先して表示させることは難しい。そのため、例えばユーザが撮影した画像を確認する際などに、撮影したい対象に焦点の合った画像が表示されるまで得られた画像を順に見て行くなどの手間がかかっている。
そこで、いくつかの実施形態においては、撮影の際に撮影者が被写体を注視した度合いを表す注視度合いのスコアを演算し、得られた注視度合いのスコアに基づいて注視度合いの高い被写体に合焦させた画像を優先して表示する。例えば、撮影者が画像を撮影する際に、画像表示制御装置3のファインダ内で撮影者が注視している時間(注視時間)の長い被写体は、撮影者が撮影したいと望んでいる対象である可能性が高いことが推測される。同様に、撮影の際の所定の時間間隔において注視されている割合(注視率)の高い被写体は、撮影者が撮影したいと望んでいる対象である可能性が高いことが推測される。また、撮影の際に撮影者により注視された順番(注視順)の早い被写体は、撮影者が撮影したいと望んでいる対象である可能性が高いことが推測される。そのため、いくつかの実施形態においては、例えば、このような注視時間、注視率、及び注視順などの撮影者の視線に基づく値から注視度合いのスコアを演算し、注視度合いのスコアに基づいて注視度合いの高い被写体に合焦させた画像を優先して表示する。それにより、例えば、ユーザが見たいと望む可能性の高い画像を優先して表示することができる。以下、図面を参照していくつかの実施形態が説明される。
<第1の実施形態>
図3は、実施形態に係る画像表示制御装置3を例示する図である。図3(a)は画像表示制御装置3の背面図であり、また、図3(b)は画像表示制御装置3の正面図を例示している。画像表示制御装置3は、例えば、デジタルカメラ、携帯電話機、スマートフォン、タブレット端末、バングル型端末、ノートPCなどの装置であってよい。画像表示制御装置3は撮影機能を備えていてよい。例えば、画像表示制御装置3は、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)などを用いたカメラなどの撮像素子31を備えていてよい。また、画像表示制御装置3は、図3(b)に示すように、例えば、撮影者の視線を検出するための視線センサ32を備えていてよい。視線センサ32は、例えば、カメラなどの撮像素子であってよく、或いは、赤外線光源及び受光素子を備える視線検出装置であってもよい。また、画像表示制御装置3は、例えば、ディスプレイなどの表示装置33を備えていてよく、撮影の際には表示装置33はファインダとして機能してよい。
図4は、実施形態に係る画像表示制御装置3の機能ブロック構成を例示する図である。画像表示制御装置3は、例えば、制御部400及び記憶部420を含んでいる。制御部400は、例えば取得部411、演算部412、及び出力部413などの機能部を含んでいる。記憶部420は、例えば、プログラム430などの情報を記憶している。画像表示制御装置3の制御部400は、プログラム430を読み出して実行することで例えば取得部411、演算部412、及び出力部413などの機能部として機能してよい。これらの各機能部の詳細及び記憶部420に格納されている情報の詳細については後述する。
図5は、第1の実施形態に係る撮影処理の動作フローを例示する図である。一実施形態においては、画像表示制御装置3において撮影機能を起動する実行指示が制御部400に入力されると、撮影処理は開始する。
ステップ501(以降、ステップを“S”と記載し、例えば、S501と表記する)において、画像表示制御装置3の制御部400は、視線センサ32を起動して視線検出を開始し、S502において制御部400は、撮影者の視線を検出する。なお、視線検出では、制御部400は、撮影者の視線の向きを検出することで、撮影者がファインダに表示されている画像のうちでどこを注視しているかを特定する。視線検出は、さまざまな手法で実行されてよく、例えば、特許文献4に記載される手法を用いて実行されてよい。
S502において制御部400は撮影者の視線を検出すると、例えば、所定期間にわたって撮影者の視線の動きを検出し続ける。そして、S503において、制御部400は、例えば、所定期間にわたって検出された撮影者の視線の動きにおいてファインダ上で長い時間注視されている箇所がある場合に、その箇所にある被写体を撮影者に注視された被写体として抽出する。即ち、制御部400は、例えば、所定期間にわたって検出された撮影者の視線の動きにおいて所定時間以上にわたって注視されている被写体を抽出してよい。
S504において制御部400は、S503で抽出された被写体が複数あるか否かを判定する。抽出された被写体が1つである場合には(S504がNO)、フローはS505へと進む。S505において制御部400は、抽出された1つの被写体を選択し、S506において、選択した被写体に焦点を合わせる。なお、制御部400は、例えば、画像表示制御装置3のファインダに、選択した被写体に焦点を合わせた画像を表示させてよい。S507において制御部400は、選択した被写体に焦点を合わせた状態で焦点をロックする。S508において、例えば、撮影者がシャッターボタンを押し下げるなどして、撮影者からの撮影を指示する入力を制御部400が受け付けると、フローはS509へと進む。S509において、画像表示制御装置3の制御部400は、抽出された1つの被写体に焦点を合わせて撮影を行って画像を1枚取得する。そして、S510において画像表示制御装置3の制御部400は、得られた画像データを、例えば、記憶部420に保存し、フローはS501へと戻る。
一方、S504において抽出された被写体が複数ある場合には(S504がYES)、フローはS511へと進む。S511において制御部400は、例えば、S503で抽出された複数の被写体のそれぞれについて注視率を算出する。注視率は、例えば、S502で撮影者の視線が検出されてから所定時間が経過するまでの間において、S503で抽出された複数の被写体のそれぞれが注視された時間の割合として算出されてよい。即ち、制御部400は、例えば、S502で撮影者の視線が検出されてからS503で被写体を抽出するまでの期間を分母とし、この期間のうちで抽出された個々の被写体が注視されていた時間を分子として得られた割合を、注視率として算出してもよい。
続いて、S512において制御部400は、S511で算出した各被写体への注視率を比較し、S503で抽出された複数の被写体のそれぞれへの注視率がおおよそ同じであるか否かを判定する。制御部400は、例えば、算出された各被写体への注視率の差異がいずれも所定の値以下であれば、注視率が同じであると判定してよい。
S512において注視率が異なる場合(S512がNO)、フローはS513へと進む。S513において画像表示制御装置3の制御部400は、S503で抽出された複数の被写体のそれぞれに対する注視の度合いを表す注視度合いのスコアを演算する。例えば、制御部400は、注視率に基づいて、注視度合いのスコアを算出してもよい。この場合には、制御部400は、注視率の最も低い被写体のスコアを1点とし、注視率の低い方から高い方へ順に1点ずつ増加させた得点を被写体に対して付けることで、各被写体に対する注視度合いのスコアを演算してよい。
或いは、制御部400は、例えば、各被写体のそれぞれに対する注視時間に基づいて、注視度合いのスコアを算出してもよい。例えば、この場合には、制御部400はS502で撮影者の視線が検出されてからS503で被写体を抽出するまでの期間において、注視されている時間の最も短い被写体のスコアを1点とする。そして、制御部400は注視されている時間の最も短い被写体から注視時間の長い方へと順に1点ずつ増加させた得点を被写体に対して付けることで、各被写体に対する注視度合いのスコアを演算してよい。
更に別の例では、制御部400は、例えば、各被写体のそれぞれに対する注視順に基づいて、注視度合いのスコアを算出してもよい。例えば、この場合には、制御部400は、S502で撮影者の視線が検出されてからS503で被写体を抽出するまでの期間において、被写体が注視された順番の最も遅い被写体のスコアを1点とする。そして、制御部400は、注視されている順番の遅い方から早い方へと順に1点ずつ増加させた得点を被写体に対して付けることで、各被写体に対する注視度合いのスコアを演算してよい。
また更に別の実施形態では、これらの注視率、注視時間、及び注視順に基づいて得られたスコアを組み合わせて被写体の注視度合いのスコアが演算されてもよい。即ち、例えば、注視率、注視時間、及び注視順のそれぞれに基づいて得られたスコアを足し合わせるなどして、注視度合いのスコアが演算されてもよい。換言すると、制御部400は、例えば、注視率、注視時間、及び注視順のうちの少なくとも1つを用いて注視度合いのスコアを演算してよい。なお、以下の説明では、撮影の際に撮影者により注視されていた度合いがより高い被写体に、より高いスコアが付けられる場合を例として説明を行う。しかしながら、実施形態はこれに限定されるものではなく、別の実施形態では、撮影の際に撮影者により注視されていた度合いがより高い被写体に、より低いスコアが付けられてもよい。
続いて、S514において制御部400は、算出された注視度合いのスコアに基づいてS503で抽出された複数の被写体を代表する代表被写体を選択する。代表被写体は、例えば、撮影者により注視されていた度合いが最も高い被写体であってよい。例えば、上述したように、注視されていた度合いが高い被写体に、高いスコアが付くようにスコアを演算した場合には、代表被写体は、最も高いスコアを有する被写体であってよい。続いて、S515において制御部400は、選択した代表被写体に焦点を合わせる。また、制御部400は、画像表示制御装置3のファインダに、選択した代表被写体に焦点を合わせた画像を表示させてよい。
S516において制御部400は、合わせた焦点をロックする。S517において、例えば、撮影者がシャッターボタンを押し下げるなどして、撮影者からの撮影を指示する入力を制御部400が受け付けると、フローはS518へと進む。S518において、画像表示制御装置3の制御部400は、S503で抽出された複数の被写体のそれぞれに焦点を合わせて複数の画像を取得する。なお、一実施形態においては、例えば、画像表示制御装置3が、単眼カメラである場合には、制御部400は、連写して撮影することで複数の画像を取得してよい。また、画像表示制御装置3が、ライトフィールドカメラなどの複眼カメラである場合には、制御部400は、例えば特許文献8に記載される手法を用いて撮影後にピント合わせを行うことで複数の画像を取得してもよい。
S519において制御部400は、得られた複数の画像のデータを、例えば、記憶部420に保存し、フローはS501へと戻る。なお、一実施形態においては、S519で保存される画像データのヘッダ領域には、その画像において焦点が合わせられている被写体に対してS513で演算されたスコアが格納されていてよい。また、別の実施形態では、撮影された複数の画像と、複数の画像のそれぞれにおいて焦点が合わせられている被写体に対して演算されたスコアとを対応付ける情報が記憶部420に記憶されてもよい。
S512において複数の被写体の注視率がおおよそ同じである場合(S512がYES)、フローはS520へと進む。S520において制御部400は、S503で抽出された複数の被写体のそれぞれまでの画像表示制御装置3からの距離を算出する。そして、S521において制御部400は、算出した距離に基づいて、各被写体のスコアを計算する。例えば、画像表示制御装置3からの距離が近い被写体の方が、撮影者が撮影したいと望んでいる対象である可能性が高いことが推測される。そのため、制御部400は、距離の遠い方から近い方へと順にスコアが高くなるようにスコアを計算してよい。例えば、制御部400は、距離が最も遠い被写体のスコアを1点とし、その被写体から距離の近い方へ順に1点ずつ増加した得点を被写体に対して付けることで、被写体に対するスコアを演算してよい。S521においてスコアが演算されると、フローはS522へと進む。
S522において制御部400は、S503で抽出された複数の被写体を代表する代表被写体を選択する。代表被写体は、例えば、被写体までの距離が最も短い被写体であってよく、以上で例示したように、距離が近い被写体に高いスコアが付くようにスコアを演算した場合には、代表被写体は、S521で演算されたスコアの最も高い被写体であってよい。続いて、S523において制御部400は、選択した代表被写体に焦点を合わせる。また、制御部400は、画像表示制御装置3のファインダに、選択した代表被写体に焦点を合わせた画像を表示させてよい。S524において制御部400は、合わせた焦点をロックする。S525において、例えば、撮影者がシャッターボタンを押し下げるなどして、撮影者からの撮影を指示する入力を受け付けると、フローはS526へと進む。S526において、画像表示制御装置3の制御部400は抽出された複数の被写体のそれぞれに焦点を合わせた複数の画像を取得する。
S527において制御部400は、得られた複数の画像データを、例えば、記憶部420に保存し、フローはS501へと戻る。なお、一実施形態においては、S527で保存される画像データのヘッダ領域には、画像において焦点が合わせられている被写体に対してS521で演算されたスコアが格納されていてよい。また、別の実施形態では、撮影された複数の画像と、複数の画像のそれぞれにおいて焦点が合わせられている被写体に対して演算されたスコアとを対応付ける情報が記憶部420に記憶されてもよい。
なお、図5の動作フローにおいて、S501〜S510、S514〜S519、及びS522〜S527の処理では、画像表示制御装置3の制御部400は、例えば、取得部411として機能する。また、S511〜S513及びS520〜S521の処理では、画像表示制御装置3の制御部400は、例えば、演算部412として機能する。
以上の図5の第1の実施形態に係る撮影処理により、制御部400は、撮影者の視線に基づいて画角内から被写体を検出し、検出された被写体に焦点を合わせて画像を撮影する。また、画角内から検出された被写体が複数ある場合には、制御部400は、例えば、検出された複数の被写体の注視率がおおよそ同じであるか否かを判定する。そして、検出された複数の被写体の注視率がおおよそ同じでない場合には、制御部400は、検出された複数の被写体のそれぞれについて、例えば、注視率、注視時間、及び注視順などに基づいて注視度合いのスコアを演算する。一方、検出された複数の被写体の注視率がほぼ同じである場合には、制御部400は、検出された複数の被写体のそれぞれの画像表示制御装置3からの距離に基づいてスコアを演算する。また、制御部400は、例えば、検出された複数の被写体のそれぞれに焦点を合わせて複数の画像を取得する。そして、演算されたスコアは、例えば、検出された複数の被写体のそれぞれに焦点を合わせて取得された複数の画像のデータのヘッダ領域などに保存される。演算されたスコアは、後述するように、例えば、撮影された画像を表示する際に、ユーザが見たいと望む可能性の高い被写体に焦点の合った画像を優先して表示するために用いることができる。また、S515及びS523の説明において述べたように、演算されたスコアは、例えば、撮影の際にファインダに表示する画像において焦点を合わせる被写体を決定するために用いられてもよい。スコアに基づいて撮影の際にファインダに表示する画像において焦点を合わせる被写体を決定することで、例えば、撮影者がファインダ上で焦点を合わせる被写体を選択する手間を省くことができる。
また更に、画像を撮影した際に、撮影した画像をファインダ上に縮小して表示するように画像表示制御装置3が設計されている場合がある。この場合には、S518において、制御部400は、例えば、撮影された複数の画像のうちから、S514で選択された代表被写体に焦点を合わせて撮影された画像をファインダ上に表示してもよい。また、同様に、S526において、制御部400は、例えば、撮影された複数の画像のうちから、S522で選択された代表被写体に焦点を合わせて撮影された画像をファインダ上に表示してもよい。
続いて、第1の実施形態に係る撮影処理で演算されたスコアに基づく画像の表示について説明する。図6は、第1の実施形態に係るスコアに基づく画像の表示情報出力処理の動作フローを例示する図である。一実施形態においては、画像表示制御装置3の制御部400に画像の閲覧指示が入力されると、図6の表示情報出力処理は開始する。
S601において画像表示制御装置3の制御部400は、例えば記憶部420に記憶されている画像ファイルを撮影順にソートする。続いて、S602において制御部400は、スコアが付けられた画像があるか否かを判定する。例えば、上述の図5の動作フローのS519及びS527において、制御部400はスコアを画像ファイルのヘッダに書き込んでよい。この場合には、制御部400は、S602において画像ファイルのヘッダにスコアが書き込まれているか否かにより、スコアが付けられた画像ファイルがあるか否かを判定してよい。S602においてスコアが付けられた画像ファイルが無い場合(S602がNO)、フローはS603へと進み、制御部400は撮影順にソートされた画像ファイルを表示するための表示情報を、例えば画像表示制御装置3に備えられた表示装置33に出力する。そして、画像表示制御装置3に備えられた表示装置33は、表示情報が入力されると、例えば、撮影順にソートされた画像ファイルを表示画面に表示してよい。図7は、第1の実施形態に係る表示情報による画像の表示を例示する図である。図7(a)は、スコアが付けられた画像ファイルが無い場合に表示される撮影順にソートされた画像ファイルの表示画面を例示しており、すべての画像が撮影順にソートされて表示されている。
一方、S602においてスコアが付けられた画像ファイルがある場合(S602がYES)、フローはS604へと進む。S604において制御部400は、1回の撮影操作の入力に対してスコアが演算されて撮影された複数の画像の組ごとに、画像ファイルをスコア順にソートする。そして、S603で制御部400は、S604で並べ替えられた画像ファイルを表示するための表示情報を、例えば画像表示制御装置3に備えられた表示装置33に出力する。そして、画像表示制御装置3に備えられた表示装置33は、表示情報が入力されると、例えば、S604で並べ替えられた画像ファイルを表示画面に表示してよい。
図7(b)は、スコアが付けられた画像ファイルがある場合に表示される表示画面を例示している。なお、図7(b)において画像の組70に含まれる画像A、画像B、及び画像Cは、1回の撮影操作の入力に対して例えばS519又はS527で保存された複数の画像である。そのため、これらの複数の画像に対しては、例えばS513又はS521においてスコアが演算されている。また、図7(c)は、図7(b)の組70に含まれる画像A、画像B、及び画像Cのスコアによる順位と、撮影の順番との関係を例示している。なお、図7(c)の例では、画像Aで焦点が合わせられている被写体は鳥である。また、画像Bで焦点が合わせられている被写体は家である。画像Cで焦点が合わせられている被写体は背景である。そして、図7(c)に示す例では、撮影の順序は画像A、画像B、画像Cの順に行われているが、スコアによる順位は画像B、画像A、画像Cの順である。なお、図7(c)のスコアによる順位は、例えば、撮影者が撮影の際に、画像Bで焦点が合わせられている家を、画像Aで焦点が合わせられている鳥よりも長く、或いは早い順番で注視していたことを示していてよい。また、図7(c)のスコアによる順位は、例えば、撮影者が撮影の際に、画像Aで焦点が合わせられている鳥を、画像Cで焦点が合わせられている背景よりも長く、或いは早い順番で注視していたことを示していてよい。そのため、組70に含まれる画像A〜画像Cは、図7(c)に示すスコアの順位に従って、図7(b)に示すように組70内で並べ替えられて表示されている。一方、画像表示制御装置3に記憶されているスコアの付いていないその他の画像ファイルは、撮影の順序に従って表示されている。
図7(d)は、スコアが付けられた画像ファイルがある場合に表示される画像ファイルのサムネイル表示の表示画面の別な例である。図7(d)に示す表示画面の例では、1回の撮影操作の入力に対して例えばS519又はS527で保存された複数の画像の組70はまとめられており、組70に含まれる画像A〜画像Cを代表してスコアの順位において最も順位の高かった画像Bが表示されている。また、図7(e)は、図7(d)において、例えばユーザが表示画面上で画像Bをタップした場合に表示される表示画面を例示しており、組70に含まれる複数の画像がスコアの順位に従って並べられて表示されている。
以上で述べたように、スコアが付けられた画像ファイルがある場合には、組70に含まれる複数の画像がスコアの順位に従って並べ替えられた表示情報が出力されてよい。また、この場合に、表示情報が入力された表示装置33は、スコアの順位に従って並べ替えられた表示情報に従って例えば、図7(b)、図7(d)、及び図7(e)で例示する表示画面を表示してよい。即ち、制御部400は、スコアによる順位の高かった画像を優先して表示してよい。
S603において制御部400が画像ファイルを表示するための表示情報を、例えば画像表示制御装置3に備えられた表示装置33に出力すると、本動作フローは終了する。
図6の動作フローにおいて、S601〜S604の処理では、画像表示制御装置3の制御部400は、例えば、出力部413として機能する。
以上で述べたように、第1の実施形態によれば、撮影者の視線に基づいて検出された複数の被写体のそれぞれに合焦させて複数の画像が1回の撮影操作の入力で取得される。また、画像の取得の際の各被写体への例えば注視時間、注視率、及び注視順などの注視度合いに基づいて、或いは画像表示制御装置3からの距離に基づいて被写体のスコアが演算される。そして、制御部400は、演算されたスコアに基づいて画像を表示画面に表示するための表示情報を出力する。従って、例えば、制御部400は、撮影者が撮影時に撮影したいと望んでいた可能性の高い被写体が写る画像を閲覧の際に優先して表示装置33の表示画面に表示させることができる。そのため、ユーザは撮影した画像を閲覧する際に、撮影者が撮影したいと望んでいた被写体に焦点の合った画像が表示されるまで、保存された画像を順に見て行くなどの手間を軽減することができ、画像表示制御装置3のユーザビリティが向上する。
また、第1の実施形態では、視線検出により、例えば、撮影者によって所定時間以上注視された箇所にある被写体を撮影対象として抽出し、撮影を行っている。そのため、例えば、撮影者が撮影対象を個別に選択し、焦点を合わせて複数回にわたり撮影操作を行う等の手間を軽減することができる。
<第2の実施形態>
続いて、第2の実施形態が説明される。ユーザがある画角において画像を撮影する場合に、画角内に複数の被写体が収まっていることがある。図8は、画像表示制御装置3の或る画角における複数の被写体を例示する図である。図8(a)に示す例では、画角内に被写体a:鳥と、被写体b:花と、被写体c:背景とが収まっている。そして、図8(b)に示すように、画像表示制御装置3からの被写体a:鳥、及び被写体b:花までの距離はほぼ同じ約1.0mであり、一方、画像表示制御装置3からの被写体c:背景までの距離は100m以上である。
この場合に、複数の被写体のそれぞれに焦点を合わせて複数の画像を撮影することが考えられるが、被写体a:鳥、及び被写体b:花までの距離はほぼ同じ約1.0mである。そのため、これらのほぼ同じ距離にある複数の被写体については、個別にレンズの焦点距離を合わせなくてもよく、例えば、1枚の撮影画像でほぼ同じ距離にある複数の被写体に焦点のあった画像を得ることが可能である。
図9は、画角内に収まっている複数の被写体を撮影する際に、画像表示制御装置3からの距離がほぼ同じ被写体を1枚の画像に集約して撮影する例を示している。図9(a)では、被写体a:鳥と、被写体b:花との両方に焦点が合わせられており、被写体c:背景はぼけている。また、図9(b)では、被写体c:背景に焦点が合わせられており、その他の被写体はぼけている。例えば、このように、被写体a:鳥と、被写体b:花とはおおよそ同じ距離にあるため集約して撮影することができ、1枚の画像で被写体a:鳥と、被写体b:花との両方に焦点のあった画像を撮影することができる。そして、おおよそ等しい距離にある被写体を集約して撮影することで、撮影時間の短縮や、撮影枚数の効率化を図ることができる。また、撮影時間が短縮されるので手振れの影響も抑制できる。
或いは、例えば、ほぼ同じ距離にある複数の被写体の明るさが大きく異なっている場合には、焦点距離が同じであっても明るさをそれぞれの被写体に対して調節して撮影することが好ましい場合がある。この場合には、画像表示制御装置3の制御部400は、ほぼ同じ距離にある複数の被写体のそれぞれに対して明るさを調節し、それぞれの画像を撮影してよい。この場合にも、制御部400は、ほぼ同じ距離にある複数の被写体のそれぞれに対して別々に焦点距離を合わせる処理を実行しなくてもよく、例えばそれらのほぼ同じ距離にある複数の被写体に対しては焦点距離を1度調節すればよい。そのため、撮影時間を短縮することができる。また、撮影時間が短縮されるので手振れの影響も抑制できる。
そこで、第2の実施形態では、撮影者が或る画角を撮影する際に、撮影者の視線検出により注視されている複数の被写体が抽出された場合に、制御部400は、画像表示制御装置3からの距離がほぼ同じ被写体が複数の被写体に含まれているかを判定する。そして、画像表示制御装置3からの距離がほぼ同じ被写体が含まれている場合には、制御部400は、それらの被写体については例えば、撮影枚数又は焦点距離の調節回数などを集約することで撮影時間の短縮や、撮影枚数の効率化を図る。
図10は、第2の実施形態に係る撮影処理の動作フローを例示する図である。一実施形態においては、画像表示制御装置3において撮影機能を起動する実行指示が制御部400に入力されると、撮影処理は開始する。
なお、図10のS1001からS1010の処理は、例えば、図5のS501からS510の処理とそれぞれ対応していてよい。即ち、例えば、S1001からS1010の処理において、制御部400は、図5のS501からS510の処理と同様の処理を実行してよい。例えば、S1001において制御部400は、視線検出を開始してよい。
また、S1004において、S1003で抽出された被写体が複数ある場合には(S1004がYES)、フローはS1011へと進む。S1011において制御部400は、例えば、撮影効率化処理を実行する。
図11は、第2の実施形態に係る撮影効率化処理の動作フローを例示する図である。一実施形態においては、図10のS1011へと進むと、図11の撮影効率化処理は開始する。S1101において画像表示制御装置3の制御部400は、S1003で抽出された複数の被写体のそれぞれの明るさを取得する。また、S1102において制御部400は、画像表示制御装置3からS1003で抽出された複数の被写体のそれぞれまでの距離を取得する。S1103において制御部400は、S1102で取得した複数の被写体それぞれまでの距離を比較し、S1104においてほぼ同じ距離にある被写体があるか否かを判定する。なお、制御部400は、例えば、S1102で取得した複数の被写体に、距離の差が所定の距離以内である被写体が含まれていない場合に、ほぼ同じ距離にある被写体が無いと判定してよい。ほぼ同じ距離にある被写体が無い場合(S1104がNO)、フローはS1105へと進む。
S1105において制御部400は、オートエクスポージャ(AE:自動段階露光)、及びオートフォーカス(AF:自動焦点)、及び撮影をS1003で抽出された複数の被写体毎に行うように撮影条件を設定する。なお、この場合、撮影される画像の撮影枚数は、S1003で抽出された複数の被写体の数と同じになる。
一方、S1104においてほぼ同じ距離にある被写体がある場合(S1104がYES)、フローはS1106へと進む。制御部400は、例えば、S1102で取得した複数の被写体に、距離の差が所定の距離以内である複数の被写体が含まれている場合に、ほぼ同じ距離にある被写体があると判定してよい。S1106において制御部400は、S1104でほぼ同じ距離にあると判定された複数の被写体の明るさを比較する。そして、S1107において制御部400が、ほぼ同じ距離にあると判定された複数の被写体の明るさが異なると判定した場合(S1107がNO)、フローはS1108へと進む。なお、制御部400は、例えば、ほぼ同じ距離にあると判定された複数の被写体の明るさの差が、所定の範囲以内でない場合に、明るさが異なると判定してよい。S1108において制御部400は、例えば、ほぼ同じ距離にある複数の被写体についてはAFの設定を1回に集約し、一方、AE及び撮影は被写体毎に行うように撮影条件を設定する。
一方、S1107において制御部400が、ほぼ同じ距離にあると判定された被写体の明るさがほぼ同じであると判定した場合(S1107がYES)、フローはS1109へと進む。なお、制御部400は、例えば、ほぼ同じ距離にあると判定された複数の被写体の明るさの差が、所定の範囲以内である場合に、明るさがほぼ同じであると判定してよい。S1109において制御部400は、例えば、ほぼ同じ距離にあり、且つ、明るさもほぼ同じである被写体についてはAF、AEの設定を1回に集約し、また、撮影を1枚の画像に集約して行うように撮影条件を設定する。この場合、撮影される画像の撮影枚数は、集約して撮影される被写体の数に応じて削減される。例えば、以上のようにして、S1105、S1108、又はS1109において制御部400が撮影条件を設定すると、本動作フローは終了し、フローはS1012へと進む。
S1012において制御部400は、例えば、S1003で抽出された複数の被写体のそれぞれについて注視率を算出する。注視率は、例えば、S1002で撮影者の視線が検出されてから所定の時間が経過するまでの間において、S1003で抽出された複数の被写体のそれぞれが注視された時間の割合として算出されてよい。続いて、S1013において制御部400は、S1012で算出した各被写体への注視率を比較し、S1003で抽出された複数の被写体のそれぞれへの注視率がおおよそ同じであるか否かを判定する。制御部400は、S1013において例えば、算出された各被写体への注視率の差異がいずれも所定の値以下であれば、注視率が同じであると判定してよい。
S1013において注視率が異なる場合(S1013がNO)、フローはS1014へと進む。S1014において画像表示制御装置3の制御部400は、S1003で抽出された複数の被写体のそれぞれに対する注視度合いを表すスコアを演算する。注視度合いを表すスコアの演算は、例えば、図5のS513で述べた例と同様に実行されてよい。なお、例えば、上述の図11のS1109において制御部400が、明るさと距離がほぼ同じである複数の被写体に対して、AF、AE、及び撮影を集約するように撮影条件を設定している場合がある。この場合に、制御部400は、集約して撮影される複数の被写体のうちで注視度合いのスコアが最も高い被写体のスコアを、集約して撮影される画像に対するスコアとして用いてよい。
続いて、S1015において制御部400は、算出された注視度合いのスコアに基づいてS1003で抽出された複数の被写体を代表する代表被写体を選択する。代表被写体は、例えば、注視度合いのスコアが最も高い被写体であってよい。続いて、S1016において制御部400は、選択した代表被写体に焦点を合わせる。また、制御部400は、画像表示制御装置3のファインダに、選択した代表被写体に焦点を合わせた画像を表示させてよい。
S1017において制御部400は、合わせた焦点をロックする。S1018において、例えば、撮影者がシャッターボタンを押し下げるなどして、撮影者からの撮影を指示する入力を制御部400が受け付けると、フローはS1019へと進む。
S1019において、画像表示制御装置3の制御部400は、例えば、S1003で抽出された複数の被写体のそれぞれに焦点の合った複数の画像を撮影する。なお、例えば、上述の図11のS1109において制御部400が、明るさと距離がほぼ同じである複数の被写体に対して、AF、AE、及び撮影を集約するように撮影条件を設定している場合がある。この場合には、制御部400は、S1109において集約するように撮影条件が設定されている複数の被写体に対して、1回のAF及びAEを行って値を設定し、1枚の画像を撮影してよい。また、例えば、S1108において制御部400が、距離がほぼ同じである複数の被写体に対して、AFを集約するように撮影条件を設定している場合がある。この場合には、制御部400は、S1108においてAFを集約するように撮影条件が設定されている複数の被写体に対して1回のAFを行って値を設定する。一方、AEと画像の撮影は、AFを集約するように撮影条件が設定されている複数の被写体のそれぞれに対して実行されてよい。また更に、例えば、S1105において制御部400が、AE、AF、及び撮影をS1003で抽出された複数の被写体毎に行うように撮影条件を設定している場合がある。この場合には、制御部400は、S1003で抽出された複数の被写体のそれぞれに対して、AF及びAEを行って画像を撮影してよい。
S1020において制御部400は、得られた画像のデータを、例えば、記憶部420に保存し、フローはS1001へと戻る。なお、一実施形態においては、S1020で保存される画像データのヘッダ領域には、その画像において焦点が合わせられている被写体に対してS1014で演算されたスコアが格納されていてよい。また、別の実施形態では、撮影された複数の画像と、複数の画像のそれぞれにおいて焦点が合わせられている被写体に対して演算されたスコアとを対応付ける情報が記憶部420に記憶されてもよい。
S1013において複数の被写体の注視率がおおよそ同じである場合(S1013がYES)、フローはS1021へと進む。S1021において制御部400は、画像表示制御装置3からS1003で抽出された複数の被写体のそれぞれまでの距離を算出する。そして、S1022において制御部400は、算出した距離に基づいて、各被写体のスコアを計算する。例えば、画像表示制御装置3からの距離が近い被写体の方が、撮影者が撮影したいと望んでいる対象である可能性が高いことが推測される。そのため、制御部400は、距離の近い方から遠い方へと順にスコアが高くなるようにスコアを計算してよい。例えば、制御部400は、距離が最も遠い被写体のスコアを1点とし、その被写体から距離の近い方へ順に1点ずつ増加した得点を被写体に対して付けることで、被写体に対するスコアを演算してよい。S1022においてスコアが演算されると、フローはS1023へと進む。
なお、例えば、図11のS1109において制御部400が、明るさと距離がほぼ同じである複数の被写体に対して、AF、AE、及び撮影を集約するように撮影条件を設定している場合がある。この場合、集約して撮影される画像に対して、明るさと距離がほぼ同じである複数の被写体の距離に応じた1つのスコアを制御部400は演算してよい。
S1023において制御部400は、S1003で抽出された複数の被写体を代表する代表被写体を選択する。代表被写体は、例えば、被写体までの距離が最も短い被写体であってよく、以上で例示したように、距離が近い被写体に高いスコアが付くようにスコアを演算した場合には、代表被写体は、S1022で演算されたスコアの最も高い被写体であってよい。続いて、S1024において制御部400は、選択した代表被写体に焦点を合わせる。また、制御部400は、画像表示制御装置3のファインダ上に選択した代表被写体に焦点を合わせた画像を表示させてもよい。
S1025において制御部400は、合わせた焦点をロックする。S1026において、例えば、撮影者がシャッターボタンを押し下げるなどして、撮影者からの撮影を指示する入力を受け付けると、フローはS1027へと進む。
S1027において、画像表示制御装置3の制御部400は、例えば、S1003で抽出された複数の被写体のそれぞれに焦点の合った複数の画像を撮影する。なお、例えば、図11のS1109において制御部400が、明るさと距離がほぼ同じである複数の被写体に対して、AF、AE、及び撮影を集約するように撮影条件を設定している場合がある。この場合には、制御部400は、S1109において集約するように撮影条件が設定されている複数の被写体に対して、1回のAF及びAEを行って値を設定し、1枚の画像を撮影してよい。また、例えば、S1108において制御部400が、距離がほぼ同じである複数の被写体に対して、AFを集約するように撮影条件を設定している場合がある。この場合には、制御部400は、S1108においてAFを集約するように撮影条件が設定されている複数の被写体に対して1回のAFを行って値を設定する。一方、AEと画像の撮影は、AFを集約するように撮影条件が設定されている複数の被写体のそれぞれに対して実行されてよい。また更に、例えば、S1105において制御部400が、AE、AF、及び撮影をS1003で抽出された複数の被写体毎に行うように撮影条件を設定している場合がある。この場合には、制御部400は、S1003で抽出された複数の被写体のそれぞれに対して、AF及びAEを行って画像を撮影してよい。
S1028において制御部400は、得られた画像のデータを、例えば、記憶部420に保存し、フローはS1001へと戻る。なお、一実施形態においては、S1028で保存される画像データのヘッダ領域には、その画像において焦点が合わせられている被写体に対してS1022で演算されたスコアが格納されていてよい。また、別の実施形態では、撮影された複数の画像と、複数の画像のそれぞれにおいて焦点が合わせられている被写体に対して演算されたスコアとを対応付ける情報が記憶部420に記憶されてもよい。
なお、図10の動作フローにおいて、S1001〜S1010、S1011、S1015〜S1020、及びS1023〜S1028の処理では、画像表示制御装置3の制御部400は、例えば、取得部411として機能する。また、S1012〜S1014及びS1021〜S1022の処理では、画像表示制御装置3の制御部400は、例えば、演算部412として機能する。また、図11の動作フローにおいて、S1101〜S1109の処理では、画像表示制御装置3の制御部400は、例えば、取得部411として機能する。
以上の図10の第2の実施形態に係る撮影処理により、撮影者の視線に基づいて画角内から被写体が検出され、その被写体に焦点を合わせて画像が撮影される。また、画角内から検出された被写体が複数ある場合には、制御部400は、例えば、検出された複数の被写体に画像表示制御装置3からの距離がほぼ同じである被写体が含まれているか否かを判定する。また、画像表示制御装置3からの距離がほぼ同じである被写体が含まれている場合には、制御部400は、距離が等しい被写体の明るさがほぼ同じであるか否かを判定する。そして、距離と明るさがほぼ同じである被写体がある場合には、制御部400はそれらの被写体を1枚の画像に集約して撮影する。また、画像表示制御装置3からの距離がほぼ同じであるが、明るさの異なる被写体が含まれている場合には、制御部400は、それらの被写体に対するAFの実行を1回に集約し、それぞれの被写体に対してAEを行って画像を撮影する。そのため、第2の実施形態によれば、撮影枚数又は焦点距離の調節回数を削減することができ、撮影時間の短縮や撮影枚数の効率化を図ることができる。
なお、図10の第2の実施形態に係る撮影処理で撮影された画像は、図6の表示情報出力処理により表示情報を出力することで、例えば、画像表示制御装置3が備える表示装置33の表示画面に表示されてよい。それにより、制御部400は、スコアが演算されている場合には、スコアに基づいて画像を表示画面に表示させることができる。従って、制御部400は、撮影時に撮影者が撮影したいと望んでいた可能性の高い被写体が写る画像を優先して表示画面に表示させることができる。そのため、ユーザは、撮影した画像を閲覧する際に、撮影者が撮影したいと望んでいた被写体に焦点の合った画像が表示されるまで、保存された画像を順に見て行くなどの手間を軽減することができ、画像表示制御装置3のユーザビリティが向上する。
また、上述の例えば、図5、図6、図10、及び図11の動作フローは例示であり、実施形態はこれに限定されるものではない。例えば、これらの動作フローは、可能な場合には、処理の順番を変更して実行してもよく、別に更なる処理を含んでいてもよく、又は、一部の処理が省略されてもよい。例えば、図11のS1101及びS1102の処理は、任意に順序を入れ替えて実行されてもよい。また、別の実施形態においては、図5のS504において抽出された被写体が複数ある場合に、S513へと進むように動作フローを変更してもよい。この場合には、例えば、S511、S512、S520〜S527の処理は省略されてもよい。また、図10のS1011の撮影効率化処理が完了した場合に、処理をS1014へと進めるように動作フローを変更してもよい。この場合には、例えば、S1012、S1013、S1021〜S1028の処理は省略されてもよい。
また、上記の図5又は図10に示す例では画像表示制御装置3が、例えば撮像素子31及び視線センサ32を備え、画像表示制御装置3が複数の画像を取得し、得られた複数の画像のスコアを演算する場合の例を述べた。この場合、画像表示制御装置3の制御部400は、例えば、取得部411、及び演算部412として機能してよい。しかしながら、実施形態はこれに限定されるものではない。例えば、他の装置が図5、又は図10の動作フローを実行してスコアが演算された複数の画像を取得し、得られた複数の画像を画像表示制御装置3が受信して、画像表示制御装置3が図11の動作フローを実行する場合がある。この場合には、画像表示制御装置3の制御部400は、取得部411、及び演算部412を含まなくてもよい。
図12は、実施形態に係る画像表示制御装置3を実現するためのコンピュータ1200のハードウェア構成を例示する図である。図12の画像表示制御装置3を実現するためのハードウェア構成は、例えば、プロセッサ1201、メモリ1202、記憶装置1203、読取装置1204、通信インタフェース1205、及び入出力装置1206を備えていてよい。また、更に画像表示制御装置3を実現するためのハードウェア構成は、例えば、表示装置1211、視線センサ1212、画像処理部1213、撮像素子1214、レンズ駆動装置1215を備えていてよい。なお、プロセッサ1201〜入出力装置1206、及び表示装置1211〜レンズ駆動装置1215は、例えば、バス1208を介して互いに接続されていてよい。
プロセッサ1201は、例えば、CPU(Central Processing Unit)であってよい。プロセッサ1201は、例えば、メモリ1202を利用して上述の動作フローの手順を記述したプログラム430を実行することにより、上述した各機能部の一部または全部の機能を提供する。例えば、画像表示制御装置3の制御部400は、プロセッサ1201であってよく、また、記憶部420は、例えばメモリ1202、記憶装置1203、及び着脱可能記憶媒体1210を含んでいてよい。画像表示制御装置3のプロセッサ1201は、例えば、記憶装置1203に格納されているプログラム430を読み出して実行することで、取得部411、演算部412、及び出力部413として機能してよい。画像表示制御装置3の記憶装置1203には、例えば、プログラム430が格納されていてよい。
メモリ1202は、例えば半導体メモリであり、RAM領域及びROM領域を含んでいてよい。なお、RAMは、Random Access Memoryの略称である。また、ROMは、Read Only Memoryの略称である。記憶装置1203は、例えばハードディスク、フラッシュメモリ等の半導体メモリ、又は外部記憶装置である。
読取装置1204は、プロセッサ1201の指示に従って着脱可能記憶媒体1210にアクセスする。着脱可能記憶媒体1210は、例えば、半導体デバイス(USBメモリ等)、磁気的作用により情報が入出力される媒体(磁気ディスク等)、光学的作用により情報が入出力される媒体(CD−ROM、DVD等)などにより実現される。なお、USBは、Universal Serial Busの略称である。CDは、Compact Discの略称である。DVDは、Digital Versatile Diskの略称である。通信インタフェース1205は、プロセッサ1201の指示に従って有線又は無線で周辺機器、又はネットワークに接続してデータを送受信する。入出力装置1206は、例えば、ユーザからの指示を受け付けるキーボードやマウスなどの入力装置であってよい。また、入出力装置1206は、音声装置(例えばスピーカ)などの出力装置であってよい。
また、表示装置1211は、例えば、ディスプレイであってよく、撮影の際には表示装置1211はファインダとして機能してよい。なお、図3の表示装置33は、例えば表示装置1211であってよい。視線センサ1212は、例えば、カメラなどの撮像素子であってよく、或いは、赤外線光源及び受光素子を備える視線検出装置であってよい。図3の視線センサ32は、例えば視線センサ1212であってよい。画像処理部1213は、例えばISP(image signal processor)などの画像処理用のプロセッサであってよい。そして、画像表示制御装置3の制御部400は、例えば画像処理部1213であってもよい。撮像素子1214は、例えば、CCDやCMOSなどを用いたカメラであってよい。図3の撮像素子31は、例えば撮像素子1214であってよい。レンズ駆動装置1215は、例えば、焦点を変更するためにレンズを駆動するためのアクチュエータであってよい。
実施形態に係る各プログラムは、例えば、下記の形態で画像表示制御装置3に提供されてよい。
(1)記憶装置1203に予めインストールされている。
(2)着脱可能記憶媒体1210により提供される。
(3)プログラムサーバなどのサーバから通信インタフェース1205を介して提供される。
以上で述べたように、いくつかの実施形態は画像表示制御装置3が備えるプロセッサ1201がプログラム430を読み出して実行することで実施されてよい。しかしながら、実施形態はこれに限定されるものではない。例えば、画像表示制御装置3が備える上述の機能部の一部または全部の機能をFPGA及びSoCなどによるハードウェアとして実装してもよい。なお、FPGAは、Field Programmable Gate Arrayの略称である。SoCは、System-on-a-chipの略称である。この場合、制御部400は、FPGA及びSoCなどのハードウェアとして実装された回路であってよい。
また、別の実施形態として、例えば、他の装置が図5、又は図10の動作フローを実行して取得した複数の画像を、画像表示制御装置3が受信し、画像表示制御装置3が、図11の動作フローを実行する場合がある。この場合には、画像表示制御装置3は、例えば、表示装置1211、視線センサ1212、画像処理部1213、撮像素子1214、及びレンズ駆動装置1215を含まなくてもよい。
以上で述べた実施形態を含むいくつかの実施形態は、上述の実施形態の各種変形形態及び代替形態を包含するものとして当業者には理解される。例えば、各種実施形態は、構成要素を変形して具体化されてよい。また、上述した実施形態に開示されている複数の構成要素を適宜組み合わせることにより、種々の実施形態が実施されてよい。更には、実施形態に示される全構成要素からいくつかの構成要素を削除して又は置換して、或いは実施形態に示される構成要素にいくつかの構成要素を追加して種々の実施形態が実施されてよい。