JP2009100301A - 構図判定装置、構図判定方法、プログラム - Google Patents

Abstract

【課題】画像撮影に関して、これまでよりも高度な構図制御が行えるようにする。
【解決手段】撮像画像から先ず人としての被写体を検出し、検出された被写体数が１つの場合には画面内の被写体サイズの占有率が所定範囲値内となる構図を最適構図として判定し、２つの場合には被写体間距離が画面水平サイズの１／３となる構図を、３つ以上の場合には、被写体間距離が画面水平サイズの１／２となる構図を最適構図として判定する。そして、判定された最適構図が得られるように、カメラのズーム制御、雲台のパン・チルト制御を適宜行う。
【選択図】図１４

Description

本発明は、例えば静止画としての画像データを対象として、その画内容が有する構図を判定するようにされた装置である、構図判定装置とその方法に関する。また、このような装置が実行するプログラムに関する。

例えば、良い印象を与えることのできる写真を撮影するためのテクニック的な一要素として、構図設定が挙げられる。ここでいう構図は、フレーミングともいわれるもので、例えば写真としての画面内における被写体の配置をいう。
良好な構図とするための一般的、基本的な手法はいくつかあるものの、一般のカメラユーザが良い構図の写真を撮影することは、写真撮影に関する充分な知識、技術を持っていない限り、決して簡単なことではない。このことからすると、例えば良好な構図の写真画像を手軽で簡単に得ることのできる技術構成が求められることになる。

例えば特許文献１には、自動追尾装置として、一定時間間隔の画像間の差を検出して、画像間の差の重心を算出し、この重心の移動量、移動方向から被写体画像の撮像画面に対する移動量、移動方向を検出して撮像装置を制御し、被写体画像を撮像画面の基準領域内に設定する技術構成が開示されている。
また、特許文献２には、自動追尾装置として、人物を自動追尾する場合に、人物の顔が画面中央となるように画面上の人物像全体の面積に対してその人物上の上側から２０％の面積となる位置を画面中央にして追尾することによって人物の顔を確実に撮影しながら追尾できるようにした技術構成が開示されている。
これらの技術構成を構図決定の観点から見れば、人物としての被写体を自動的に探索して、撮影画面において或る決まった構図でその被写体を配置させることが可能となっている。

特開昭５９−２０８９８３号公報 特開２００１−２６８４２５号公報

例えば被写体に関する所定の状況、状態などに対応しては、最適構図も異なってくることがあると考えられる。しかし、上記特許文献による技術では、追尾した被写体をある固定的な構図で配置させることしかできない。従って、被写体の状況などに対応して構図を変更して撮影するようなことはできないことになる。
そこで、本願発明では、例えば写真などとしての画像について良好な構図が手軽に得られるようにするための技術を提案することを目指すこととしたうえで、その際において、被写体の状況・状態の変化にも適応してより高度で柔軟性のある構図の決定が行われるようにすることを目的とする。

そこで本発明は上記した課題を考慮して、構図判定装置として次のように構成する。
つまり、画像データに基づく画像中における特定の被写体の存在を検出する被写体検出手段と、この被写体検出手段により検出された被写体である検出被写体の数に応じて構図を判定する構図判定手段とを備えて構図判定装置を構成することとした。

上記構成では、画像データに基づく画像中において検出される被写体の数に応じて最適とされる構図の判定が行われる。例えば１画面内において存在する被写体の数に応じて、最適とされる構図は異なってくるものであるが、本願発明によれば、被写体数という状況の変化に適応して最適構図が得られることになるものである。

このようにして本発明によっては、画像データが有する画像の内容について、被写体数に応じた最適構図を得ることが可能となる。つまり、単純に或る固定的な構図による被写体の配置が行われる場合と比較して、より高度で柔軟性のある構図決定が自動的に行われる。これにより、本願発明を適用した装置を利用するユーザは、面倒な手間を掛けることなく、最適構図の画像を得ることが可能になるものであり、例えばこれまでよりも高い利便性を提供できることになる。

以下、本願発明を実施するための最良の形態（以下、実施の形態という）について説明を行う。本実施の形態としては、本願発明に基づく構成を、デジタルスチルカメラと、このデジタルスチルカメラが取り付けられる雲台とからなる撮像システムに適用した場合を例に挙げることとする。

図１は、本実施の形態としての撮像システムの外観構成例を、正面図により示している。
この図に示されるように、本実施の形態の撮像システムは、デジタルスチルカメラ１と雲台１０とから成る。
デジタルスチルカメラ１は、本体正面側のパネルに設けられているレンズ部３によって撮像して得られる撮像光に基づいて静止画像データを生成し、これを内部に装填されている記憶媒体に記憶させることが可能とされている。つまり、写真として撮影した画像を、静止画像データとして記憶媒体に記憶保存させる機能を有する。このような写真撮影を手動で行うときには、ユーザは、本体上面部に設けられているシャッター（レリーズ）ボタンを押し操作する。

雲台１０には、上記デジタルスチルカメラ１を固定するようにして取り付けることができる。つまり、雲台１０とデジタルスチルカメラ１は、相互の取り付けを可能とするための機構部位を備えている。

そして、雲台１０においては、取り付けられたデジタルスチルカメラ１を、パン方向（水平方向）とチルト方向との両方向により動かすためのパン・チルト機構を備える。
雲台１０のパン・チルト機構により与えられるデジタルスチルカメラ１のパン方向、チルト方向それぞれの動き方は例えば図２（ａ）（ｂ）に示されるものとなる。図２（ａ）（ｂ）は、雲台１０に取り付けられているとされるデジタルスチルカメラ１を抜き出して、それぞれ、平面方向、側面方向より見たものである。
先ずパン方向については、デジタルスチルカメラ１の本体横方向と図２（ａ）に示される直線Ｘ１とが同じ向きとなる位置状態を基準にして、例えば回転軸Ｃｔ１を回転中心として回転方向＋αに沿った回転が行われることで、右方向へのパンニングの動きが与えられる。また、回転方向−αに沿った回転が行われることで、左方向へのパンニングの動きが与えられる。
また、チルト方向については、デジタルスチルカメラ１の本体縦方向が垂直方向の直線Ｙ１と一致する一状態を基準にして、例えば回転軸Ｃｔ２を回転中心として回転方向＋βへの回転が行われることで、下方向へのパンニングの動きが与えられる。また、回転方向−βへの回転が行われることで、上方向へのパンニングの動きが与えられる。
なお、図２（ａ）（ｂ）に示される、±α方向、及び±β方向のそれぞれにおける最大可動回転角度については言及していないが、被写体の捕捉の機会をできるだけ多くするべきことを考慮するのであれば、できるだけ最大可動回転角度を大きく取ることが好ましいことになる。

図３のブロック図は、本実施の形態のデジタルスチルカメラ１の内部構成例を示している。
この図において、先ず、光学系部２１は、例えばズームレンズ、フォーカスレンズなども含む所定枚数の撮像用のレンズ群、絞りなどを備えて成り、入射された光を撮像光としてイメージセンサ２２の受光面に結像させる。
また、光学系部２１においては、上記のズームレンズ、フォーカスレンズ、絞りなどを駆動させるための駆動機構部も備えられているものとされる。これらの駆動機構部は、例えば制御部２７が実行するとされるズーム（画角）制御、自動焦点調整制御、自動露出制御などのいわゆるカメラ制御によりその動作が制御される。

イメージセンサ２２は、上記光学系部２１にて得られる撮像光を電気信号に変換する、いわゆる光電変換を行う。このために、イメージセンサ２２は、光学系部２１からの撮像光を光電変換素子の受光面にて受光し、受光された光の強さに応じて蓄積される信号電荷を、所定タイミングにより順次出力するようにされる。これにより、撮像光に対応した電気信号(撮像信号)が出力される。なお、イメージセンサ２２として採用される光電変換素子（撮像素子）としては、特に限定されるものではないが、現状であれば、例えばＣＭＯＳセンサやＣＣＤ(Charge Coupled Device)などを挙げることができる。また、ＣＭＯＳセンサを採用する場合には、イメージセンサ２２に相当するデバイス(部品)として、次に述べるＡ／Ｄコンバータ２３に相当するアナログ−デジタル変換器も含めた構造とすることができる。

上記イメージセンサ２２から出力される撮像信号は、Ａ／Ｄコンバータ２３に入力されることで、デジタル信号に変換され、信号処理部２４に入力される。
信号処理部２４では、Ａ／Ｄコンバータ２３から出力されるデジタルの撮像信号について、例えば１つの静止画 (フレーム画像)に相当する単位で取り込みを行い、このようにして取り込んだ静止画単位の撮像信号について所要の信号処理を施すことで、１枚の静止画に相当する画像信号データである撮像画像データ（撮像静止画像データ）を生成することができる。

上記のようにして信号処理部２４にて生成した撮像画像データを、画像情報として記憶媒体（記憶媒体装置）であるメモリカード４０に記録させる場合には、例えば１つの静止画に対応する撮像画像データを信号処理部２４からエンコード／デコード部２５に対して出力するようにされる。
エンコード／デコード部２５は、信号処理部２４から出力されてくる静止画単位の撮像画像データについて、所定の静止画像圧縮符号化方式により圧縮符号化を実行したうえで、例えば制御部２７の制御に応じてヘッダなどを付加して、所定形式に圧縮された撮像画像データの形式に変換する。そして、このようにして生成した撮像画像データをメディアコントローラ２６に転送する。メディアコントローラ２６は、制御部２７の制御に従って、メモリカード４０に対して、転送されてくる撮像画像データを書き込んで記録させる。この場合のメモリカード４０は、例えば所定規格に従ったカード形式の外形形状を有し、内部には、フラッシュメモリなどの不揮発性の半導体記憶素子を備えた構成を採る記憶媒体である。なお、画像データを記憶させる記憶媒体については、上記メモリカード以外の種別、形式などとされてもよい。

また、本実施の形態としての信号処理部２４は、先の説明のようにして取得される撮像画像データを利用して、被写体検出としての画像処理を実行することも可能とされている。本実施の形態における被写体検出処理がどのようなものであるのかについては後述する。

また、デジタルスチルカメラ１は信号処理部２４にて得られる撮像画像データを利用して表示部３３により画像表示を実行させることで、現在撮像中の画像であるいわゆるスルー画を表示させることが可能とされる。例えば信号処理部２４においては、先の説明のようにしてＡ／Ｄコンバータ２３から出力される撮像信号を取り込んで１枚の静止画相当の撮像画像データを生成するのであるが、この動作を継続することで、動画におけるフレーム画像に相当する撮像画像データを順次生成していく。そして、このようにして順次生成される撮像画像データを、制御部２７の制御に従って表示ドライバ３２に対して転送する。これにより、スルー画の表示が行われる。

表示ドライバ３２では、上記のようにして信号処理部２４から入力されてくる撮像画像データに基づいて表示部３３を駆動するための駆動信号を生成し、表示部３３に対して出力していくようにされる。これにより、表示部３３においては、静止画単位の撮像画像データに基づく画像が順次的に表示されていくことになる。これをユーザが見れば、そのときに撮像しているとされる画像が表示部３３において動画的に表示されることになる。つまり、モニタ画像が表示される。なお、先の図１で説明した表示画面部５が、ここでの表示部３３の画面部分に相当する。

また、デジタルスチルカメラ１は、メモリカード４０に記録されている撮像画像データを再生して、その画像を表示部３３に対して表示させることも可能とされる。
このためには、制御部２７が撮像画像データを指定して、メディアコントローラ２６に対してメモリカード４０からのデータ読み出しを命令する。この命令に応答して、メディアコントローラ２６は、指定された撮像画像データが記録されているメモリカード４０上のアドレスにアクセスしてデータ読み出しを実行し、読み出したデータを、エンコード／デコード部２５に対して転送する。

エンコード／デコード部２５は、例えば制御部２７の制御に従って、メディアコントローラ２６から転送されてきた撮像画像データから圧縮静止画データとしての実体データを取り出し、この圧縮静止画データについて、圧縮符号化に対する復号処理を実行して、１つの静止画に対応する撮像画像データを得る。そして、この撮像画像データを表示ドライバ３２に対して転送する。これにより、表示部３３においては、メモリカード４０に記録されている撮像画像データの画像が再生表示されることになる。

また表示部３３に対しては、上記のモニタ画像や撮像画像データの再生画像などとともに、ユーザインターフェイス画像も表示させることができる。この場合には、例えばそのときの動作状態などに応じて制御部２７が必要なユーザインターフェイス画像としての表示用画像データを生成し、これを表示ドライバ３２に対して出力するようにされる。これにより、表示部３３においてユーザインターフェイス画像が表示されることになる。なお、このユーザインターフェイス画像は、例えば特定のメニュー画面などのようにモニタ画像や撮像画像データの再生画像とは個別に表示部３３の表示画面に表示させることも可能であるし、モニタ画像や撮像画像データの再生画像上の一部において重畳・合成されるようにして表示させることも可能である。

制御部２７は、例えば実際においてはＣＰＵ(Central Processing Unit)を備えて成るもので、ＲＯＭ２８、ＲＡＭ２９などとともにマイクロコンピュータを構成する。ＲＯＭ２８には、例えば制御部２７としてのＣＰＵが実行すべきプログラムの他、デジタルスチルカメラ１の動作に関連した各種の設定情報などが記憶される。ＲＡＭ２９は、ＣＰＵのための主記憶装置とされる。
また、この場合のフラッシュメモリ３０は、例えばユーザ操作や動作履歴などに応じて変更(書き換え)の必要性のある各種の設定情報などを記憶させておくために使用する不揮発性の記憶領域として設けられるものである。なおＲＯＭ２８について、例えばフラッシュメモリなどをはじめとする不揮発性メモリを採用することとした場合には、フラッシュメモリ３０に代えて、このＲＯＭ２８における一部記憶領域を使用することとしてもよい。

操作部３１は、デジタルスチルカメラ１に備えられる各種操作子と、これらの操作子に対して行われた操作に応じた操作情報信号を生成してＣＰＵに出力する操作情報信号出力部位とを一括して示している。制御部２７は、操作部３１から入力される操作情報信号に応じて所定の処理を実行する。これによりユーザ操作に応じたデジタルスチルカメラ１の動作が実行されることになる。

雲台対応通信部３４は、雲台１０側とデジタルスチルカメラ１側との間での所定の通信方式に従った通信を実行する部位であり、例えばデジタルスチルカメラ１が雲台１０に対して取り付けられた状態において、雲台１０側の通信部との間での有線若しくは無線による通信信号の送受信を可能とするための物理層構成と、これより上位となる所定層に対応する通信処理を実現するための構成とを有して成る。

図４は、雲台１０の構成例をブロック図により示している。
先に述べたように、雲台１０は、パン・チルト機構を備えるものであり、これに対応する部位として、パン機構部５３、パン用モータ５５、チルト機構部５６、チルト用モータ５７を備える。
パン機構部５３は、雲台１０に取り付けられたデジタルスチルカメラ１について、図２（ａ）に示したパン（横）方向の動きを与えるための機構を有して構成され、この機構の動きは、パン用モータ５４が正逆方向に回転することによって得られる。同様にして、チルト機構部５３は、雲台１０に取り付けられたデジタルスチルカメラ１について、図２（ｂ）に示したチルト（縦）方向の動きを与えるための機構を有して構成され、この機構の動きは、チルト用モータ５７が正逆方向に回転することによって得られる。

制御部５１は、例えばＣＰＵ、ＲＯＭ、ＲＡＭなどが組み合わされて形成されるマイクロコンピュータを有して成り、上記パン機構部５３、チルト機構部５６の動きをコントロールする。例えば制御部５１がパン機構部５３の動きを制御するときには、パン機構部５３に必要な移動量と移動方向に対応した制御信号をパン用駆動部５５に対して出力する。パン用駆動部５５は、入力される制御信号に対応したモータ駆動信号を生成してパン用モータ５５に出力する。このモータ駆動信号によりパン用モータ５５が、例えば所要の回転方向及び回転角度で回転し、この結果、パン機構部５３も、これに対応した移動量と移動方向により動くようにして駆動される。
同様にして、チルト機構部５６の動きを制御するときには、制御部５１は、チルト機構部５６に必要な移動量と移動方向に対応した制御信号をチルト用駆動部５８に対して出力する。チルト用駆動部５８は、入力される制御信号に対応したモータ駆動信号を生成してチルト用モータ５７に出力する。このモータ駆動信号によりチルト用モータ５７が、例えば所要の回転方向及び回転角度で回転し、この結果、チルト機構部５６も、これに対応した移動量と移動方向により動くようにして駆動される。

通信部５２は、雲台１０に取り付けられたデジタルスチルカメラ１内の雲台対応通信部３４との間で所定の通信方式に従った通信を実行する部位であり、雲台対応通信部３４と同様にして、相手側通信部と有線若しくは無線による通信信号の送受信を可能とするための物理層構成と、これより上位となる所定層に対応する通信処理を実現するための構成とを有して成る。

上記した構成のデジタルスチルカメラ１と雲台１０から成る撮像システムでは、例えば、人を主体的な被写体（以降は単に被写体という）として扱うこととしたうえで、この被写体を検出するための探索を行うとともに、被写体の存在が検出されたのであれば、この被写体が写っている画像として最適とされる構図（最適構図）が得られるように（フレーミングが行われるように）して雲台１０のパン・チルト機構を駆動する。そして、最適構図が得られたタイミングで、そのときの撮像画像データを記憶媒体（メモリカード４０）に記録することが行われる。
つまり、本実施の形態の撮像システムでは、デジタルスチルカメラによる写真撮影を行うのにあたり、探索された被写体について最適構図を決定（判定）して撮影記録を行うという動作が自動的に実行される。これにより、ユーザ自身が構図を判断して撮影を行わなくとも、相応に良質な写真の画像を得ることが可能になる。また、このようなシステムでは、誰かがカメラを持って撮影する必要が無くなるので、その撮影が行われる場所に居る全員が被写体となることができる。また、被写体となるユーザが、カメラの視野角範囲に入ろうと特に意識しなくとも、被写体が収まった写真が得られることになる。つまり、その撮影場所に居る人の自然な様子を撮影する機会が増えるものであり、これまでにはあまりなかった雰囲気の写真を多く得ることができる。
また、最適構図というものは、被写体数に応じては異なってくるものであるとの考え方をとることもできるが、本実施の形態における構図決定に関しては、検出された被写体の数に基づいて異なる最適構図を判定できるようにして構成される。これにより、例えば被写体数を考慮せずに構図決定を行うこととした場合と比較すれば、総合的には、本実施の形態のほうがより良質な画像を得ることが可能となる。

以降においては、本実施の形態における構図制御に関する説明を行っていく。
図５は、デジタルスチルカメラ１側が備える、本実施の形態の構図制御に対応した機能部位についての構成例を示している。
この図において被写体検出処理ブロック６１は、イメージセンサ２２にて得られる撮像信号に基づいて信号処理部２４にて得られる撮像画像データを利用して、被写体の探索制御を含む、被写体検出処理を実行する部位とされる。ここでの被写体検出処理は、先ず撮像画像データの画面の画内容から、人としての被写体を弁別して検出する処理をいうものであり、ここでの検出結果として得られる情報（検出情報）は、人としての被写体の数と、個々の被写体（個別被写体）ごとについての画面内での位置情報、及び個別被写体ごとについての画像内におけるサイズ（占有面積）などとなる。なお、構図判定のアルゴリズムなどの構成によっては、被写体の数のみが検出情報として得られるようにされれば、本実施の形態としての構図制御は実現可能である。
また、ここでの被写体検出処理の具体的手法としては、顔検出の技術を用いることができる。また、顔検出の方式、手法もいくつか知られているが、本実施の形態においてはどの方式を採用するのかについては特に限定されるべきものではなく、検出精度や設計難易度などを考慮して適当とされる方式が採用されればよい。
また、この被写体検出処理ブロック６１が実行する被写体検出処理は、信号処理部２４における画像信号処理として実現することができる。先の説明のようにして信号処理部２４がＤＳＰにより構成される場合、この被写体検出処理は、信号処理部２４としてのＤＳＰに与えるプログラム、インストラクションにより実現されることになる。
また、被写体探索制御時においては、雲台１０のパン・チルト機構を制御するために、通信制御処理ブロック６３経由で、上記パン・チルト機構を駆動するための制御信号を出力する。

被写体検出処理ブロック６１の被写体検出処理結果である検出情報は、構図制御処理ブロック６２に対して入力される。
構図制御処理ブロック６２は、入力された被写体についての検出情報を利用して、最適であるとしてみなされる構図（最適構図）を決定する。そして、決定した最適構図を得るための制御（構図制御）を実行する。この場合の構図制御としては、画角（本実施の形態では、例えばズームレンズの制御に応じて変更可能な視野角をいう）の変更制御と、パン（左右）方向に沿った撮像方向の制御（パン制御）と、チルト（上下）方向に沿った撮像方向の制御（チルト制御）から成る。画角変更のためには、デジタルスチルカメラ１の光学系部２１におけるズームレンズを移動するズーム制御、若しくは撮像画像データに対する画像切り出しなどの画像信号処理の少なくとも何れか一方を行う。また、パン制御、チルト制御は、雲台１０のパン・チルト機構を制御して動かすことにより行う。パン・チルト機構の制御を行うとき、構図制御処理ブロック６２は、パン・チルト機構をしかるべき位置状態とするための制御信号を、通信制御処理ブロック６３を経由して、雲台１０側に送信させる。
なお、上記構図制御処理ブロック６２が実行する構図決定と構図制御の処理は、例えば、制御部２７（ＣＰＵ）がプログラムに基づいて実行するように構成することができる。あるいは、これに信号処理部２４がプログラムに基づいて実行する処理を併用した構成とすることも考えられる。また、通信制御処理ブロック６３は、雲台１０側の通信部５２との通信処理を所定のプロトコルに従って実行するようにして構成される部位であり、雲台対応通信部３４に対応する機能部位となる。

次に、図６を参照して、被写体検出処理ブロック６１が実行するとされる被写体検出処理の事例を挙げておく。
ここで、被写体検出処理ブロック６１が、図６（ａ）に示す画内容の撮像画像データを取り込んだとする。この撮像画像データの画内容としては、人としての被写体が１つ存在した画を撮影して得られたものである。また、図６（ａ）（及び図６（ｂ））には、１画面をマトリクス状に区切った状態を示しているが、これは、撮像画像データとしての画面が、所定数による水平・垂直画素の集合から成るものであることを模式的に示している。
図６（ａ）に示す画内容の撮像画像データを対象に被写体検出（顔検出）を行うことによっては、図において示される１つの個別被写体ＳＢＪの顔が検出されることになる。即ち、顔検出処理によって１つの顔が検出されることを以て、ここでは１つの個別被写体が検出されることとしている。そして、このようにして個別被写体を検出した結果としては、先にも述べたように個別被写体の数、位置、サイズの情報を得るようにされる。
先ず、個別被写体数に関しては、例えば顔検出により検出された顔の数を求めればよい。図６（ａ）の場合には、検出される顔が１つであるから、個別被写体数としても１であるとの結果が得られる。
また、個別被写体ごとの位置情報に関しては、少なくとも、撮像画像データとしての画像内における個別被写体ＳＢＪの重心Ｇ（X,Y）を求めることとする。なお、この場合の重心Ｇ（X,Y）の基準となる撮像画像データの画面上のX,Y原点座標Ｐ(0,0)は、例えば図７に示すようにして、画面サイズに対応したX軸方向(水平方向)の幅(水平画サイズ)Cxの中間点と、Y軸方向（垂直方向）の幅(垂直画サイズ)Cyの中間点との交点であることとしている。
また、この重心Ｇについての個別被写体の画像内における位置の定義であるとか、重心Ｇをどのようにして設定するのかについては、例えばこれまでに知られている被写体重心検出方式を採用することができる。
また、個別被写体ごとのサイズについては、例えば顔検出処理により顔部分であるとして特定、検出される領域の画素数を求めるようにすればよい。

また、図６（ｂ）に示す撮像画像データを取り込んで被写体検出処理ブロック６１が被写体検出処理を実行したとされると、先ずは、顔検出により２つの顔の存在することが特定されることになるので、個別被写体数については２であるとの結果が得られることになる。ここでは、２つの個別被写体のうち、左側を個別被写体ＳＢＪ０、右側を個別被写体ＳＢＪ１として識別性を持たせている。また、個別被写体ＳＢＪ０、ＳＢＪ１ごとに求めた重心の座標については、それぞれ、Ｇ0(X0，Y0)、Ｇ1(X1,Y1)として示されている。
また、このようにして、２以上の個別被写体が検出される場合には、これら複数の個別被写体をひとまとまりの被写体（総合被写体）としてみた場合の重心である、総合被写体重心Ｇｔ（Xg,Yg）を求めるようにされる。
この総合被写体重心Ｇｔをどのようにして設定するのかについては、いくつか考えることができるが、ここでは、最も簡易な例として、検出された複数の個別被写体のうちで、画面の左端と右端の両端に位置する個別被写体の重心を結ぶ線分上の中間点を総合被写体重心Ｇｔとして設定した場合を示している。この総合被写体重心Ｇｔは、例えば後述するようにして構図制御において利用することができる情報であり、個別被写体の重心の情報が取得されれば演算により求められる情報である。従って、総合被写体重心Ｇｔについては、被写体検出処理ブロック６１により求め、これを検出情報として出力することとしてもよいが、構図制御処理ブロック６２が、検出情報として取得した個別被写体の重心の位置を示す情報のうちから、左右両端に位置する個別被写体の重心に関する情報を利用して求めるようにしてもよい。
なお、ほかには例えば、複数の個別被写体のサイズに応じて重み付け係数を与え、この重み付け係数を利用して、例えばサイズの大きな個別被写体に総合被写体重心Ｇｔの位置が近くなるように配慮した設定手法も考えることができる。
また、個別被写体のサイズについては、例えば個別被写体ＳＢＪ０、ＳＢＪ１ごとに、その検出された顔が占有するとされる画素数を求めることとすればよい。

続いては、図８〜図１０を参照して、本実施の形態における第１例としての構図制御により得られる構図についての説明を行う。
図８（ａ）には、構図制御前の被写体検出の結果により得られた撮像画像データとして、１つの個別被写体ＳＢＪ０が撮像された画内容が得られた場合を示している。なお、本実施の形態にあっては、デジタルスチルカメラ１を取り付けた雲台１０を通常に設置した場合には、横長の画像が撮像されるようにしてデジタルスチルカメラ１の向きが設定される。従って、第１例にあっては、撮像により横長の画像が得られることを前提とする。

上記図８（ａ）に示したようにして１つの個別被写体が検出された場合には、例えば図８（ａ）から図８（ｂ）への遷移として示すようにして、この個別被写体ＳＢＪの、撮像画像データの画面内における占有率が所定値となるようにして画角を狭くしていくズーム制御を実行させ、個別被写体のサイズを変更するようにされる。なお、図８（ａ）（ｂ）では、個別被写体ＳＢＪ０のサイズを拡大するために画角を狭くする方向での変更を行っている場合を示しているが、個別被写体が検出された段階において、その個別被写体の画面内における占有率が上記の所定値を越えていた場合には、この占有率が所定値にまで小さくなるようにして、画角を広くしていくズーム制御を実行させることになる。
また、個別被写体が１つである場合の画面内におけるその位置についてであるが、本実施の形態の場合、左右方向に関しては、ほぼ中央となるように位置させることとしている。このためには、例えば個別被写体ＳＪＢ０の重心Ｇの左右方向における位置を、ほぼ中央となるようにすればよい。

次に、図９（ａ）に示すようにして、２つの個別被写体が検出された場合には、構図制御として、先ず、これら２つの個別被写体ＳＢＪ０、ＳＢＪ１間の距離（被写体間距離）Ｋを求める。この距離Ｋは、例えば個別被写体ＳＢＪ０の重心Ｇ0のＸ座標（X0）と個別被写体ＳＢＪ１の重心Ｇ1のX座標（X1）との差(X1−X0)により表現することができる。そして、上記のようにして求められる被写体間距離Ｋが、図９（ｂ）に示すようにして、水平画サイズCxの１／３（Ｋ＝Cx／３）となるように画角の調整を行う。また、この場合においても、２つの個別被写体ＳＢＪ０、ＳＢＪ１が写る領域は、左右方向においてほぼ画面の中央となるようにして配置するようにされており、このためには、例えば、これらの個別被写体ＳＢＪ０、ＳＢＪ１についての総合被写体重心Ｇｔを、左右方向における中央の位置に配置するようにされる。
なお、被写体間距離Ｋを水平画サイズCxの１／３とするのは、三分割法といわれる構図設定の手法に基づいている。三分割法は、最も基本的な構図設定手法の１つであり、方形の画面を垂直方向と水平方向のそれぞれに沿って三等分する仮想線上に被写体を位置させることにより良好な構図を得ようとするものである。被写体間距離Ｋ＝Cx／３となるようにしたうえで、上記のようにして総合被写体重心Ｇｔを左右方向における中央に位置させると、個別被写体ＳＢＪ０の重心Ｇ0は、画面縦方向に沿った左側の仮想線上にほぼ位置することとなり、また、個別被写体ＳＢＪ１の重心Ｇ1は、画面縦方向に沿った右側の仮想線上にほぼ位置することとなる。つまり三分割法に従った構図が得られることになる。

また、図１０（ａ）のようにして、３つの個別被写体が検出された場合の構図制御としては、画面内において最も左側に位置する個別被写体ＳＢＪ０と、最も右側に位置する個別被写体ＳＢＪ２との間の被写体間距離Ｋを求める。つまり、被写体間距離Kを求めるのには、個別被写体がｎ個検出されている場合に、画面左から右にかけての個別被写体に０番からｎ−1番までの番号を割り当てることとした上で、画面において最も左側に位置する個別被写体ＳＢＪ０の重心G0のX座標を（X0）、画面において最も右側に位置する個別被写体ＳＢＪ(n-1)の重心Gn-1のX座標を（Xn-1）として、（Xn-1）−（X0）により表される一般式で求めることができる。
そして、この場合には、この被写体間距離Ｋについて、図９（ｂ）に示すようにして、水平画サイズCxの１／２となるようにして画角の制御を行う。また、左右における被写体位置については、総合被写体Ｇｔが画面左右方向におけるほぼ中央に位置するようにして、３つ個別被写体が存在する領域部分が、画面左右方向においてほぼ中央にくるようにする。本実施の形態としては、３以上の個別被写体が検出された場合において、この図１０に示される構図制御を行うこととする。
３以上の個別被写体が画面内に在る場合には、例えば三分割法に忠実に従って被写体間距離Ｋを水平画サイズCxの１／３とするよりも、さらに水平画サイズCxに対する被写体間距離Ｋの比率を大きくとったほうが一般的には良い構図が得られる。そこで、本実施の形態としては、上記のようにして、３以上の個別被写体が検出された場合には、被写体間距離Ｋ＝Cx／２となる構図を形成することとしている。
このようにして本実施の形態では、検出される個別被写体が１の場合と、２の場合と、３以上の場合とで、それぞれ異なる画角の調整による構図制御を行うようにされている。

図１１は、上記図８〜図１０により説明した第１例としての構図制御に対応して、図５に示した被写体検出処理ブロック６１、構図制御処理ブロック６２、及び通信制御処理ブロック６３が実行するものとされる手順例を示している。また、この図に示す処理は、ＤＳＰとしての信号処理部２４、制御部２７におけるＣＰＵがプログラムを実行することで実現されるものとしてみることができる。このようなプログラムは、例えばＲＯＭなどに対して製造時などに書き込んで記憶させるほか、リムーバブルの記憶媒体に記憶させておいたうえで、この記憶媒体からインストール(アップデートも含む)させるようにしてＤＳＰ対応の不揮発性の記憶領域やフラッシュメモリ３０などに記憶させることが考えられる。また、ＵＳＢやＩＥＥＥ１３９４などのデータインターフェース経由により、他のホストとなる機器からの制御によってプログラムのインストールを行えるようにすることも考えられる。さらに、ネットワーク上のサーバなどにおける記憶装置に記憶させておいたうえで、デジタルスチルカメラ１にネットワーク機能を持たせることとし、サーバからダウンロードして取得できるように構成することも考えられる。

先ず、ステップＳ１０１〜ステップＳ１０６までは、被写体を探索して検出するための手順となり、主に被写体検出処理ブロック６１が実行するものとされる。
ステップＳ１０１では、イメージセンサ２２からの撮像信号に基づいた撮像画像データを取り込んで取得する。ステップＳ１０２では、上記ステップＳ１０１により取得した撮像画像データを利用して被写体検出処理を実行する。ここでの被写体検出処理としては、例えば先ず、先に述べた顔検出などの手法により、撮像画像データとしての画面内容において個別被写体が存在するか否かについての検出を行うものであり、個別被写体が存在する場合には、少なくとも個別被写体数、個別被写体ごとの位置（重心）、サイズを検出情報として得るようにされる。

ステップＳ１０３では、上記ステップＳ１０２による被写体検出処理の結果として、個別被写体の存在が検出されたか否かについての判別を行う。ここで個別被写体の存在が検出されなかった（検出される個別被写体数が０である）として否定の判別結果が得られた場合には、ステップＳ１０４に進み、画角を広くするためのズームレンズの移動制御（ズームアウト制御）を実行する。このようにして画角を広くすることで、より広い範囲が撮像されることになるので、それだけ個別被写体を補足しやすくなる。また、これとともに、ステップＳ１０５により、被写体探索のために雲台１０のパン・チルト機構を動かすための制御（パン・チルト制御）を実行する。このときには、被写体検出処理ブロック６１がパン・チルト制御のための制御信号を通信制御処理ブロック６３に渡し、雲台１０の通信部５２に対して送信されるようにして制御を行う。
なお、上記被写体探索のためのパン・チルト制御として、雲台１０のパン・チルト機構をどのようなパターンで動かすのかについては、例えば探索が効率的に行われることを配慮して決めることとすればよい。
また、ステップＳ１０６においては、モードフラグｆについて０を設定（ｆ＝０）し、ステップＳ１０１に戻るようにされる。
このようにして、撮像画像データの画内容において少なくとも１つの個別被写体が検出されるまでは、ステップＳ１０１〜ステップＳ１０６の手順が繰り返される。このとき、デジタルスチルカメラ１と雲台１０から成るシステムは、被写体探索のために、デジタルスチルカメラ１がパン方向及びチルト方向に動かされている状態となっている。

そして、ステップＳ１０３において個別被写体の存在が検出されたとして肯定の判別結果が得られたとされると、ステップＳ１０７以降の手順に進む。ステップＳ１０７以降の手順は、主に構図制御処理ブロック６２が実行するものとなる。

ステップＳ１０７においては、現在のモードフラグｆに設定されている値が何であるのかを判別する。
ｆ==0であると判別された場合には、構図制御として、最初のラフな被写体捕捉モードを実行すべき場合であることを示すものであり、図のようにしてステップＳ１０８から始まる手順を実行する。
ステップＳ１０８においては、総合被写体重心Ｇｔが、撮像画像データの画面（撮像画像データの画内容を表したとするときに得られる画面）における原点座標Ｐ(0,0)(図７参照)に位置しているか否かについての判別を行う。ここで、総合被写体重心Ｇｔは、未だ原点座標に位置していないとして否定の判別結果が得られた場合には、ステップＳ１０９により、総合被写体重心Ｇｔが原点座標に位置するようにして、雲台１０のパン・チルト機構を動かすための制御を実行し、ステップＳ１０１に戻る。このようにして、個別被写体の存在が検出されている状態での最初の構図制御の手順である捕捉モードは、総合被写体重心Ｇｔを、先ずは初期の基準位置である原点座標に対して位置させるようにして雲台１０のパン・チルト機構を制御することで、検出された個別被写体が写っているとされる画像領域を画面内の中央に位置させようとするものである。

なお、上記ステップＳ１０９としてのパン・チルト制御を実際に行うのにあたってのアルゴリズムの一例をここで示しておく。
モードフラグｆ==0の状態で個別被写体が検出される状態では、被写体検出処理ブロック６１は、下記の（数１）により示される演算を行って、パン方向における必要移動量Ｓpanとチルト方向における必要移動量Stiltを求めるようにされる。下記の（数１）において、ｎは検出された個別被写体数を示し、ｐ（Xi，Yi）は０番からｎ−１番までの番号が与えられた個別被写体のうちのｉ番目の個別被写体の重心のX,Y座標を示す。確認のために、図７に示したように、この場合における原点座標(0,0)は、画面における水平方向における中点と垂直方向における中点との交点となる。

例えばステップＳ１０８では、上記のようにして求められる必要移動量Span,Stiltの絶対値が所定値以内(厳密には０となるが、０より大きな値とされてもよい)であるか否かを判別することを以て、総合被写体重心Ｇｔが原点座標Ｐに在るか否かと同等の判別を行うことができる。そして、ステップＳ１０９においては、必要移動量Span,Stiltの絶対値が所定範囲内となるようにしてパン・チルト制御を実行するようにされる。なお、このときのパン・チルト制御に際してのパン機構部５３、チルト機構部５６の速度は一定としても良いのであるが、例えば、必要移動量Span,Stiltが大きくなるのに応じて速度を高くしていくなどして可変させることが考えられる。このようにすれば、パンニングあるいはチルティングによる必要移動量が大きくなったときも、比較的短時間で総合被写体重心Ｇｔを原点座標に近づけることが可能になる。
そして、ステップＳ１０８において、総合被写体重心Ｇｔが原点座標に位置したとして肯定の判別結果が得られたとされると、ステップＳ１１０によりモードフラグｆについて１を設定（ｆ＝１）してステップＳ１０１に戻る。このステップＳ１０９によりモードフラグｆについて１が設定された状態は、構図制御における最初の手順である捕捉モードは完了し、次の第１の構図の調整制御(構図調整モード)を実行すべき状態であることを示す。

そして、モードフラグｆ==1とされて第1の構図調整モードを実行すべき場合には、ステップＳ１０７からステップＳ１１１に進むことになる。第１の構図調整モードは、以降の説明からも理解されるように、検出された個別被写体数ごとに応じた最適構図を得るためのズーム(画角)調整となるものである。なお、画角調整によっては画面内における個別被写体のサイズであるとか、複数の個別被写体間の距離が変化する結果を生じる。

ステップＳ１１１においては、現在検出されている個別被写体数がいくつであるのかについて判別することとしており、１であればステップＳ１１２から始まる手順を実行することになる。
ステップＳ１１２においては、検出されている個別被写体のサイズがＯＫであるか否かについて判別する。個別被写体のサイズがＯＫである状態とは、図８（ｂ）に示したように、個別被写体としての画像部分の画面内での占有率が所定の範囲値に収まっている状態である。ステップＳ１１２において否定の判別結果が得られた場合には、ステップＳ１１３に進み、上記の占有率が所定範囲値内となる（所定の範囲値内に収まる）ようにしてズームレンズの駆動制御（ズーム制御）を実行し、ステップＳ１０１に戻る。なお、このときには、個別被写体の重心Ｇ（総合被写体重心Ｇｔ）の水平方向（左右方向）における位置に関しては、ステップＳ１０９にて設定されたＸ座標（X=０）に対応する位置を維持するようにしてズーム制御を行うようにされる。これにより、個別被写体を左右方向においてほぼ中央に位置させた状態を維持することができる。また、被写体探索、検出動作の実行時においては、ステップＳ１０４によりズームアウト制御が行われるので、ステップＳ１１３としてのズーム制御に際してはズームイン制御となる場合が多いと考えられる。しかし、何らかの原因で上記の占有率が所定範囲値を越えるような画面内容の状態であることに応じてステップＳ１１２にて否定の判別結果が得られた場合、ステップＳ１１３ではズームアウトを実行させて占有率が所定範囲値内に収まるように制御することになる。
そして、ステップＳ１１２において肯定の判別結果が得られたのであればステップＳ１１４に進み、モードフラグｆについて２を設定してステップＳ１０１に戻るようにされる。なお、モードフラグｆ==２は、以降の説明からも理解されるように、第１の構図調整が完了して、次の第２の構図調整を実行したうえでレリーズ動作を実行すべきであることを示す。

また、ステップＳ１１１において個別被写体数が２であるとして判別された場合には、ステップＳ１１５から始まる手順を実行する。
ステップＳ１１５においては、撮像画像データの画面における２つの個別被写体の被写体間距離Ｋが、図９（ｂ）に示したようにして、水平画サイズCxの１／３となっている状態（K==Cx/3）にあるか否かについての判別を行うようにされる。ここで否定の判別結果が得られた場合には、ステップＳ１１６に進み、上記のK==Cx/3の状態となるようにズーム制御を実行する。なお、このときにも、総合被写体重心Ｇｔの水平方向における位置については、ステップＳ１０９にて設定されたＸ座標（X=０）を維持するようにしてズーム制御を行うようにされる。この点については後述するステップＳ１１９も同様である。そして、ステップＳ１１５によりK==Cx/3の状態になっているとして肯定の判別結果が得られた場合には、ステップＳ１１７に進んでモードフラグｆについて２を設定してステップＳ１０１に戻る。

また、ステップＳ１１１において個別被写体数が３以上であるとして判別された場合には、ステップＳ１１８から始まる手順を実行する。
ステップＳ１１８においては、撮像画像データの画面における被写体間距離Ｋ（この場合には、画面内における最も左の個別被写体の重心から、画面内における最も右の個別被写体の重心までの距離となる）が、図１０（ｂ）に示したようにして、水平画サイズCxの１／２となっている状態（K==Cx/2）にあるか否かについての判別を行う。ここで否定の判別結果が得られた場合には、ステップＳ１１９に進み、K==Cx/2となるようにズーム制御を実行する。そして、K==Cx/3の状態になっているとして肯定の判別結果が得られた場合には、ステップＳ１２０に進んでモードフラグｆについて２を設定してステップＳ１０１に戻るようにされる。

このようにして、モードフラグｆについて２が設定された状態では、図８〜図１０により説明した、個別被写体が１つ、２つ、若しくは３以上の場合に対応した構図制御までの手順が完了した状態であることになる。そこで、ステップＳ１０７にてモードフラグｆが２であると判別された場合には、ステップＳ１２１以降の手順により、第２の構図調整モードを実行する。

例えば、図８〜図１０での構図制御の説明にあっては、その説明を簡単なものとするために、画面上下方向における個別被写体の重心の位置をどのようにして設定するのかについては言及していないが、実際においては、画面の中央から例えば或る必要量だけ上方向に移動（オフセット）させたほうが、より良い構図となる場合がある。そこで、本実施の形態の構図制御の実際としては、最適構図としてより良好なものが得られるようにして総合被写体重心Ｇｔの縦（垂直）方向のオフセット量を設定できるようになっている。このための手順が、第２の構図調整モードとなるものであり、ステップＳ１２１及び次に説明するステップＳ１２２として実行される。
ステップＳ１２１では、総合被写体重心Ｇｔ（個別被写体が１つの場合はその個別被写体の重心Ｇとなる）の位置について、画面上の原点座標Pを通過する水平直線（Ｘ軸）から所定のオフセット量だけオフセットしている状態にあるか否か（重心オフセットがＯＫであるか否か）を判別する。
ステップＳ１２１にて否定の判別結果が得られた場合には、ステップＳ１２２により、設定されたオフセット量だけ重心がオフセットされるようにして、雲台１０のチルト機構が動くようにチルト制御を実行し、ステップＳ１０１に戻る。そして、ステップＳ１２１において肯定の判別結果が得られた段階では、個別被写体数に応じた最適構図が得られているものとされる状態が得られたことになる。
なお、このステップ１２１、Ｓ１２２に対応した重心オフセットとしてのオフセット量の値をどのようにして設定するのかについては、いくつかの手法が考えられることから、ここでは特に限定されるべきものではない。最も簡単な設定の１つとしては、例えば三分割法に基づいて、縦方向における中心位置から、垂直画サイズCyの1/6に相当する長さのオフセット値を与えることが考えられる。もちろん、例えば個別被写体数に応じた異なるオフセット値を所定の規則に従って設定するように構成することも考えられる。

そして、ステップＳ１２１により肯定の判別結果が得られた場合には、ステップＳ１２３から始まる、レリーズ動作に対応した処理手順を実行する。ここでのレリーズ動作とは、そのときに得られている撮像画像データを、静止画像データとして記憶媒体（メモリカード４０）に記憶させるための動作をいう。つまり、手動によるシャッター操作を行っている場合では、このシャッター操作に応答して、そのときに得られていた撮像画像データを静止画像データとして記憶媒体に対して記録する動作にあたる。

ステップＳ１２３においては、現在においてレリーズ動作を実行可能な条件を満たしているか否かを判別する。条件としては例えば、合焦状態にあること（オートフォーカス制御が有効に設定されている場合）、雲台１０のパン・チルト機構が停止状態にあること、などを挙げることができる。
上記ステップＳ１２３で否定の判別結果が得られた場合には、ステップＳ１０１に戻る。これにより、レリーズ動作を実行できる条件が満たされる状態となるのを待機することができる。そして、ステップＳ１２３において肯定の判別結果が得られると、ステップＳ１０４によりレリーズ動作を実行する。このようにして、本実施の形態では、最適構図の撮像画像データを記録することができる。
レリーズ動作が終了したとされると、ステップＳ１２５により所要のパラメータについて初期設定を行う。この処理により、モードフラグｆについては初期値の０が設定される。また、ズームレンズの位置も、予め設定された初期位置に戻される。
そして、ステップＳ１２５の処理を実行した後はステップＳ１０１に戻る。このようにしてステップＳ１２５からステップＳ１０１に戻ることにより、被写体を探索し、この探索により検出されることとなった個別被写体数に応じた最適構図を得て撮像記録（レリーズ動作）を行うという動作が、自動的に繰り返し実行されることになる。

なお、上記図１１の場合におけるレリーズ動作は、撮像画像から静止画像を記録媒体に記録する動作となるものであるが、本実施の形態におけるレリーズ動作は、より広義には、上記の静止画像を記録媒体に記録することを含め、例えば撮像画像から必要な静止画像データを取得することを指す。従って、例えば本実施の形態のデジタルスチルカメラ１により、データインターフェースなどを経由して他の記録装置などに伝送するために、撮像画像から静止画像データを取得するような動作も、レリーズ動作となるものである。

また、上記図１１において、ステップＳ１１１による判別結果に応じて、ステップＳ１１２、Ｓ１１３に対応するズーム制御、ステップＳ１１５、Ｓ１１６に対応するズーム制御、あるいはステップＳ１１８、Ｓ１１９によるズーム制御を実行するという構成は、現在検出されている個別被写体数に応じて構図判定方法を変更しているものであるとみることができる。
ここでいう構図判定方法の変更とは、例えば構図判定、構図制御のためのアルゴリズムを変更すること、あるいは構図判定、構図制御のためのパラメータを変更することをいう。ステップＳ１１１により検出される個別被写体数が１であると判別した場合には、ステップＳ１１２、Ｓ１１３により、個別被写体としての画像部分の画面内での占有率に基づいてズーム制御を行うのに対して、ステップＳ１１１により検出される個別被写体数が２以上であると判別した場合には、上記の占有率ではなく、被写体間距離Ｋに基づいてズーム制御を行う。これは、個別被写体のサイズを調整に関する構図判定、構図制御にあたり、そのためのアルゴリズムを、検出される個別被写体数に応じて変更しているといえる。さらに、検出される個別被写体数が２以上である場合においては、個別被写体数が２の場合と３以上の場合とで、最適構図であると判定される被写体間距離Ｋについて、Cx/3とCx/2のようにして異なる値が設定される。これは、検出される個別被写体数に応じて、個別被写体のサイズを調整に関する構図判定、構図制御のためのパラメータを変更しているといえる。

続いては、本実施の形態における第２の構図制御について説明する。第２の構図制御では、検出される個別被写体数に応じて、以降説明するようにして撮像画像データとしての画面設定(構図)について縦長と横長とで切り換えを行う。
第２の構図制御にあっては、先ず、初期状態として横長の構図が設定された状態で被写体の検出を行うものとする。
そして、例えば図１２（ａ）に示すようにして撮像画像データの画面内において１つの個別被写体ＳＢＪ０が検出されたとする。このようにして検出された個別被写体数が１つの場合、第２の構図制御にあっては、図１２（ａ）から図１２（ｂ）への遷移として示すように、構図を縦長に設定するようにされる。
そのうえで、個別被写体ＳＢＪ０については、画面内における占有率が所定範囲値内となるようにしてサイズの調整（ズーム）制御を行うようにされる。また、この場合には、個別被写体ＳＢＪ０の水平方向における位置はほぼ中央となるようにしており、垂直方向における位置は、所定規則に従って中央よりも上方向にオフセットされるようにして在るようにされる。

被写体が１つの場合の構図に関して、特に人物の場合には、縦長よりも横長の構図としたほうが、全体的、総合的な構図も良好になるとの考え方をとることができる。そこで、第２の構図制御にあっては、この考え方に基づいて、個別被写体が１つのときには、縦長の構図としたうえで、個別被写体のサイズ、位置調整を行うという構図制御を行うこととしているものである。

なお、本実施の形態において、上記のようにして構図を横長から縦長に変更するためには、例えば横長の構図として得られる撮像画像データから縦長サイズ分の画像領域を切り出し、このようして得られた縦長サイズの画像データ部分を利用することが考えられる。
或いは、例えば雲台１０について、デジタルスチルカメラ１を横置きに対応する状態と縦置きにする状態との間で動かすことのできるような機構を設けることとしたうえで、この機構を駆動制御することで構図を変更可能とした構成も考えることができる。

また、図１３（ａ）に示すようにして、撮像画像データの画面内において２つの個別被写体ＳＢＪ０、ＳＢＪ１が検出されたとする。第２の構図制御では、このようにして２つの個別被写体数が検出された場合には、その検出時に対応したときのままの画角での、被写体間距離Ｋが所定の閾値以下であるかどうかについての判断を行うようにされる。
被写体間距離Ｋが閾値以下である場合には、２つの個別被写体は、互いに相当に近い状態にあるということになる。このような状態であれば、構図としては、横長とするよりも縦長としたほうが好ましいとの考え方をとることができる。そこで、この場合には、図１３（ａ）から図１３（ｂ）への遷移として示すようにして、構図を縦長に変更する。なお、構図を変更するための手法としては、例えば上記したとおりである。そのうえで、個別被写体ＳＢＪ０、ＳＢＪ１のサイズと位置が適切なものとなるようにして、ズーム制御やパン・チルト制御を行うようにされる。この場合にも、画面内での個別被写体ＳＢＪ０、ＳＢＪ１から成るとされる画像部分の水平方向における位置はほぼ中央となるようにしており、垂直方向における位置は、所定規則に従って中央よりも上方向に在るようにされている。
一方、検出された２つの個別被写体ＳＢＪ０、ＳＢＪ１の被写体間距離Ｋが閾値を越えている場合には、２つの個別被写体は、互いに相応に離れていることになるが、この場合には、構図としては、横長とすることが好ましいということになる。そこで、この場合には、先に図９により説明したのと同様の構図制御を行うようにされる。

また、撮像画像データの画面内において３以上の個別被写体ＳＢＪ０〜ＳＢＪｎ（ｎは３以上の自然数）が検出されたとする。ここでは、３人以上の個別被写体が検出された場合には、構図については、横長とすることのほうが全体構図としてみたときに好ましいとの考え方を採る。そこで、この場合には、第２の構図制御としても、例えば図１０により説明したのと同様の構図制御を行うようにされる。

図１４は、第２の構図制御に対応して図５に示した被写体検出処理ブロック６１、構図制御処理ブロック６２、及び通信制御処理ブロック６３が実行するものとされる手順例を示している。
この図において、ステップＳ２０１〜Ｓ２１０までの手順は、図１１のステップＳ１０１〜Ｓ１１０までの手順と同様となる。ただし、ステップＳ２０４においては、ステップＳ１０４と同様にズームアウト制御を実行するほか、これまでに設定されていた構図が縦長であったときには、初期状態である横長に設定しなおすための制御も実行するようにされる。

モードフラグｆ==1の状態では、ステップＳ１１１と同様にして、ステップＳ２１１により、検出された個別被写体数について、１であるのか、２であるのか、あるいは3以上であるのかを判定するようにされている。
先ず、ステップＳ２１１にて個別被写体数が１であると判別された場合には、ステップＳ２１２から始まる手順を実行する。
ステップＳ２１２においては、これまでにおいて設定されていた構図が横長である場合には、これを縦長に変更するための制御を実行する。この処理として、例えば先の説明のようにして、横長の構図として得られる撮像画像データから縦長サイズ分の画像領域を切り出すための信号処理を実行すればよい。このような処理は、信号処理部２４における構図制御処理ブロック６２としての機能により実現すべきものとなる。ステップＳ２１２の手順を実行すると、ステップＳ２１３に進む。
ステップＳ２１３〜ステップＳ２１５は、それぞれ、図１１のステップＳ１１２〜Ｓ１１４と同じとなる。
上記ステップＳ２１２〜Ｓ２１５までの手順により、図１２により説明した構図制御（個別被写体についての上方向へのオフセットを除く）が行われたこととなる。

また、ステップＳ２１１にて個別被写体数が２であると判別された場合には、ステップＳ２１６から始まる手順を実行する。
ステップＳ２１６においては、検出された２つの個別被写体についての個別被写体間距離Ｋが閾値以下であるか否かについて判別する。ここで、肯定の判別結果が得られた場合には、ステップＳ２１７に進み、これまでにおいて設定されていた構図が横長である場合には、これを縦長に変更するための制御を実行する。そして、ステップＳ２１３〜Ｓ２１５の手順を実行することになる。
ただし、ステップＳ２１７からステップＳ２１３に至った場合、ステップＳ２１３〜Ｓ２１５の手順を実行する際には、個別被写体が２つであることに対応して設定された、個別被写体が１つのときとは異なる占有率についての所定範囲値が設定される。そして、２つの個別被写体の占有率が、この所定範囲値内に収まったとされると、個別被写体の適正サイズが得られたとして、ステップＳ２１５においてモードフラグｆについて２を設定することになる。
一方、ステップＳ２１６において、否定の判別結果が得られた場合には、ステップＳ２１８からはじまる手順を実行するようにされる。
ステップＳ２１８では、これまでにおいて設定されていた構図が縦長であった場合には、これを横長に変更するための制御を実行する。これに続くステップＳ２１９〜Ｓ２２１の手順は、図１１のステップＳ１１５〜Ｓ１１７と同様となる。
上記ステップＳ２１６〜Ｓ２２１までの手順、及びステップＳ２１７から続くステップＳ２１３〜Ｓ２１５の手順により、個別被写体数が２である場合の第２例の構図制御が行われる。つまり、被写体間距離Ｋが短いとされる場合の画面を縦長とする構図制御と、被写体間距離Ｋが長いとされる場合の画面を横長とする構図制御との使い分けが行われる。

なお、構図を縦長と横長のどちらに設定するのかに関して、ステップＳ２１６においては、画面水平方向に対応する個別被写体間距離Ｋのみを判定の要素としている。しかし、実際においては、例えば、画面水平（左右）方向に対応する個別被写体間距離Ｋに加えて、画面垂直(上下)方向に対応する個別被写体間距離（Ｋv）も判定要素に加えることが考えられる。個別被写体間距離（Ｋv）は、画面において最も上に位置する個別被写体の重心と最も下に位置する個別被写体の重心との間の距離として定義できる。
例えば、実際の画面においては、上下方向において２つの個別被写体間の距離が相当に離れている場合がある。このようなときには、たとえ左右方向における２つの個別被写体間の距離が在る程度離れているとしても、縦長の構図としたほうが良好な全体構図となる場合があると考えられる。
ステップＳ２１６として、画面水平方向に対応する個別被写体間距離Ｋとともに、画面垂直方向に対応する個別被写体間距離Ｋvを判定要素に利用する場合のアルゴリズムの例を挙げておく。
例えば、画面水平方向に対応する個別被写体間距離Ｋと画面垂直方向に対応する個別被写体間距離Ｋvについての比としてＫ／Ｋｖを求める。そして、このＫ／Ｋｖについて、所定の閾値以上であるか否かについて判別する。Ｋ／Ｋｖが閾値以上である場合には、上下方向における個別被写体間の距離と比べれば、水平方向における２つの個別被写体間の距離のほうが相応に広い問うことになる。この場合には、ステップＳ２１８により横長の構図を設定する。これに対して、Ｋ／Ｋｖが閾値未満である場合には、上下方向における個別被写体間の距離が相応に離れていることになる。そこで、この場合には、ステップＳ２１７により縦長の構図を設定する。
あるいは、先の説明と同様に、画面水平方向に対応する個別被写体間距離Ｋと所定の閾値を比較し、個別被写体間距離Ｋが閾値以下であれば、このときには、ステップＳ２１７に進んで縦長の構図を設定する。これに対して、個別被写体間距離Ｋが閾値を越えた場合には、次に画面垂直方向に対応する個別被写体間距離Ｋvについて、所定の閾値と比較する。なお、個別被写体間距離Ｋvと比較する閾値は、個別被写体間距離Ｋに対応する閾値と同じ値である必要はなく、個別被写体間距離Ｋvに対応して適切に設定された値を利用すればよい。そして、個別被写体間距離Ｋvが閾値以内であれば、ステップＳ２１８により横長の構図を設定するが、閾値を越えるのであれば、ステップＳ２１７により縦長の構図を設定する。
あるいは、

ステップＳ２１１にて個別被写体数が３であると判別された場合には、ステップＳ２２２から始まる手順を実行する。ステップＳ２２２では、これまでにおいて設定されていた構図が縦長であった場合には、これを横長に変更するための制御を実行する。これに続くステップＳ２２３〜Ｓ２２５の手順は、図１１のステップＳ１１８〜Ｓ１２０と同様となる。

これまでの手順を経た結果として、モードフラグｆについて２が設定された状態では、ステップＳ２２６から始まる手順を実行することになる。
ステップＳ２２６、Ｓ２２７による手順は、図１１のＳ１２１、Ｓ１２２と同様となる。この手順が実行されることで、例えば先に図１２、図１３により述べたようにして、個別被写体が画面内において、中央よりも上側に位置するような構図を得ることができる。

ステップＳ２２８〜Ｓ２３０は、図１１のステップＳ１２３〜Ｓ１２５と同様にして、レリーズ動作に関連した手順となる。この手順が実行されることで、構図制御によって最適構図が得られている撮像画像データを記憶媒体に記録できることになる。

なお、先の図１１及び上記図１４に示される各構図制御の手順は、その全体の流れからしてみると、検出される個別被写体の数に応じて最適とみなされる構図を判定、決定し、この判定した構図の撮像画像データが実際に得られる（反映される）ようにして、ズーム制御、及びパン・チルト制御を適宜実行しているものであるとみることができる。

また、図１１及び図１４に示される各構図制御の手順にあっては、基本的には、検出される個別被写体数が１つの場合、２つの場合、３以上の場合の３つの条件分岐に対応させて構図を判定するようにしている。しかし、これはあくまでも一例であって、例えば個別被写体数が３以上の場合において、さらに具体的な個別被写体数ごとに区分して構図が判定されるように構成してもよい。
例えば、として縦長と横長の何れの構図を設定するのか、という構図判定のアルゴリズムに関して、図１４の場合には、検出される個別被写体数が２のときには、個別被写体間距離Ｋに応じて縦長と横長の何れかが選択されるが、検出される個別被写体数が３以上の場合には、一律に横長を設定することとしている。しかし、例えば、検出される個別被写体数が３以上の場合であっても、検出される個別被写体数ごとに適合するようにして設定した閾値と、そのときの個別被写体間距離Ｋとを比較した結果に基づいて、横長と縦長の何れの構図とするのかを決定するように構成してもよい。つまり、検出される個別被写体数が２以上であれば、個別被写体間距離Ｋに基づいた縦長構図と横長構図の判定を行うようにして構成できる。また、このときにも、先にステップＳ２１６において述べた、垂直方向に対応する個別被写体間距離Ｋvを判定要素に加えることができる。

ところで、本実施の形態の撮像システムを利用するのにあたって、その周囲において相応に多くの人がいる環境の中で、特定の１又は複数の人物のみ対象にして構図制御を実行させたいような状況もあると考えられる。しかしながら、被写体検出処理が顔検出技術に基づくものであるとして、単純に検出された顔を全て個別被写体数として認識してしまうようなアルゴリズム構成であると、上記のようにして、特定人物のみを対象とする構図制御は適正に行われなくなってしまう。特に、本実施の形態の構図制御は、個別被写体数に応じて異なる構図を設定するので、ユーザが望まない構図となる結果が生じる可能性も相応に高くなると考えられる。

そこで、本実施の形態として上記のような状況に対応させる場合には、図１１のステップＳ１０２若しくは図１４のステップＳ２０２における被写体検出処理において、次のような被写体の弁別処理が可能なように構成することができる。

この場合には、先ず、例えばデジタルスチルカメラ１に対する操作により、構図制御の対象とする個別被写体（対象個別被写体）の上限数を設定できるようにしておく。設定された対象個別被写体上限数の情報は、例えば被写体検出処理ブロック６１が保持しておくようにされる。ここでは、具体例として、対象個別被写体上限数として２が設定されているものとする。
そして、例えば被写体探索動作（ステップ１０５、Ｓ２０５）を実行した結果、図１５（ａ）に示す画内容の撮像画像データが得られたとする。これに対応するステップＳ１０１若しくはＳ２０２の被写体検出処理としては、顔検出により４つの個別被写体の存在を検出することになる。この段階において検出される個別被写体は、ここでは、「被写体候補」として扱われる。図では、画面内の４つの被写体候補について、左から右にかけて、被写体候補ＤＳＢＪ０、ＤＳＢＪ１、ＤＳＢＪ２、ＤＳＢＪ３と符号を付している。

このようにして、単純に顔検出を行った結果としては４つの被写体（候補被写体）が検出される。しかし、上記したように、この場合においては対象個別被写体上限数として２が設定されていることとしている。このことに基づいて、被写体検出処理ブロック６１は、４つの候補被写体ＤＳＢＪ０、ＤＳＢＪ１、ＤＳＢＪ２、ＤＳＢＪ３のうちで、サイズの大きなほうから順に２つの候補被写体を選び、これらの候補被写体を対象個別被写体とする。この場合には、候補被写体ＤＳＢＪ０、ＤＳＢＪ１、ＤＳＢＪ２、ＤＳＢＪ３のうちで、サイズの最も大きな２つは、候補被写体ＤＳＢＪ２、ＤＳＢＪ３であることになる。そこで、被写体検出処理ブロック６１は、図１５（ｂ）に示すようにして、候補被写体ＤＳＢＪ２、ＤＳＢＪ３を、それぞれ、対象個別被写体ＳＢＪ０、ＳＢＪ１として扱うこととして、候補被写体ＤＳＢＪ０、ＤＳＢＪ１については、対象個別被写体ではないものとして無視する。そして、図１１のステップＳ１０７以降若しくは図１４のＳ２０７以降の構図制御のための手順を実行する際には、対象個別被写体のみを制御の対象とするようにされる。このような被写体の弁別が行われることで、例えば多くの人が周囲にいるような環境、状況であっても、撮像システムに対して最も手前の位置に構図制御の対象としたい人物が居るようにすることで、これらの人物のみを対象とした適正な構図制御による撮影が行えることになる。

図１６のフローチャートは、図１１のステップＳ１０２或いは図１４のステップＳ２０２の被写体検出処理の一部として実行される、上記の被写体弁別のための手順例を示している。
この処理にあっては、例えば先ず、顔検出処理により検出された全ての被写体を被写体候補として扱うこととしている。そして、ステップＳ３０１においては、この被写体候補が少なくとも１つ検出されるのを待機しており、被写体候補が検出されたのであれば、ステップＳ３０２に進む。

ステップＳ３０２においては、現在において設定されている対象個別被写体上限数が、上記ステップＳ３０１に対応して検出された被写体候補数以上であるか否かについて判別することとしている。
ステップＳ３０２において肯定の判別結果が得られた場合には、被写体候補の数が対象個別被写体上限数を超えていないことになる。そこで、この場合には、ステップＳ３０３により、検出された全ての被写体候補を対象個別被写体として扱うものとして設定する。
これに対して、ステップＳ３０２において否定の判別結果が得られた場合には、被写体候補の数が対象個別被写体上限数よりも多いことになる。この場合には、ステップＳ３０４により、検出された被写体候補のサイズの大きい順から、対象個別被写体上限数分の被写体候補を選別する。そして、ステップＳ３０５により選別した被写体候補を、対象個別被写体として扱うものとして設定する。これにより、被写体弁別が行われたこととなる。
このような図１６の手順を経ることで、図１１のステップＳ１０２或いは図１４のステップＳ２０２の被写体検出処理の結果としては、上記ステップＳ３０３又はステップＳ２０５により設定された対象個別被写体の数、対象個別被写体ごとのサイズ、位置などの情報を、検出情報として構図制御処理ブロック６２に出力することになる。構図制御処理ブロック６２は、この検出情報を利用して、図１１のステップＳ１０７以降、或いは図１４のステップＳ２０７以降の構図制御を実行する。

図１７は、本実施の形態の撮像システムの変形例としての構成例を示している。
この図では、先ず、デジタルスチルカメラ１から通信制御処理ブロック６３を経由して、撮像に基づいて信号処理部２４にて生成される撮像画像データを、雲台１０に対して送信するようにされている。
この図においては、雲台１０の構成として通信制御処理ブロック７１、パン・チルト制御処理ブロック７２、被写体検出処理ブロック７３、及び構図制御処理ブロック７４が示されている。
通信制御処理ブロック７１は、図４の通信部５２に対応する機能部位であって、デジタルスチルカメラ１側の通信制御処理ブロック部６３（雲台対応通信部３４）との通信処理を所定のプロトコルに従って実行するようにして構成される部位である。
通信制御処理ブロック７１により受信された撮像画像データは、被写体検出処理ブロック７３に渡される。この被写体検出ブロッ７３は、例えば図５に示した被写体検出処理ブロック６１と同等の被写体検出処理が少なくとも可能なだけの信号処理部を備えて構成され、取り込んだ撮像画像データを対象として被写体検出処理を実行し、その検出情報を構図制御処理ブロック７４に出力する。
構図制御処理ブロック７４は、図４の構図制御処理ブロック６２と同等の構図制御を実行可能とされており、この構図制御処理の結果としてパン制御、チルト制御を行うときには、そのための制御信号をパン・チルト制御処理ブロック７２に対して出力する。
パン・チルト制御処理ブロック７２は、例えば図４における制御部５１が実行する制御処理のうちで、パン・チルト制御に関する処理の実行機能に対応するもので、入力される制御信号に応じてパン機構部５３、チルト機構部５６の動きをコントロールするための信号をパン用駆動部５５、チルト用駆動部５８に対して出力する。これにより、構図制御処理ブロック６２にて判定した構図が得られるようにしてパンニング、チルティングが行われる。
このようにして、図１７に示す撮像システムは、デジタルスチルカメラ１から雲台１０に撮像画像データを送信させることとして、雲台１０側により、取り込んだ撮像画像データに基づく被写体検出処理と構図制御とを実行するようにして構成しているものである。

図１８は、本実施の形態の撮像システムについての他の変形例としての構成例を示している。なお、この図において、図１７と同一部分には同一符号を付して説明を省略する。
このシステムにおいては、雲台１０側において撮像部７５が備えられる。この撮像部７５は、例えば撮像のための光学系と撮像素子（イメージャ）を備えて、撮像光に基づいた信号（撮像信号）を得るようにされているとともに、この撮像信号から撮像画像データを生成するための信号処理部から成る。これは、例えば図１に示した光学系部２１、イメージセンサ２２、Ａ／Ｄコンバータ２３、及び信号処理部２４において撮像画像データを得るまでの信号処理段から成る部位に対応する構成となる。撮像部７５により生成される撮像画像データは被写体検出処理ブロック７３に出力される。なお、撮像部７５が撮像光を取り込む方向（撮像方向）は、例えば雲台１０に載置されるデジタルスチルカメラ１の光学系部２１（レンズ部３）の撮像方向とできるだけ一致するようにして設定される。

この場合の被写体検出処理ブロック７３及び構図制御処理ブロック７４は、上記図１７と同様にして被写体検出処理、構図制御処理を実行する。但し、この場合の構図制御処理ブロック７３は、パン・チルト制御に加えて、レリーズ動作を実行させるタイミングに対応してはレリーズ指示信号を、通信制御処理ブロック７１からデジタルスチルカメラ１に対して送信させる。デジタルスチルカメラ１では、レリーズ指示信号が受信されることに応じてレリーズ動作を実行するようにされる。
このようにして他の変形例では、被写体検出処理と構図制御に関して、レリーズ動作自体に関する以外の全ての制御・処理を雲台１０側で完結して行うことができる。

さらに、本実施の形態の撮像システムによる被写体検出であるとか構図制御については、下記のような変形を考えることもできる。
例えば、これまでにおいては、特に水平方向（左右方向）に関しての構図制御に関しては述べていないが、例えば三分割法などによれば、被写体を中央に配置するのではなく、左右何れかの方向に偏らせることによっても良い構図が得られるものとされている。そこで、実際においては、個別被写体数に応じた構図制御として、例えば被写体重心（個別被写体重心、総合被写体重心）についての左右方向における所要量の移動が行われるように構成することとしてもよい。

また、図１１、図１４に示される構図制御において実行されるパン制御、チルト制御は、雲台１０のパン・チルト機構の動きを制御することにより行うこととしているが、雲台１０に代えて、例えば、デジタルスチルカメラ１のレンズ部３に対しては、反射鏡により反射された撮像光が入射されるようにしたうえで、撮像光に基づいて得られる画像についてパンニング・チルティングされた結果が得られるようにして上記反射光を動かす構成を採用することも考えられる。
また、デジタルスチルカメラ１のイメージセンサ２２から画像として有効な撮像信号を取り込むための画素領域を水平方向と垂直方向にシフトさせるという制御を行うことによっても、パンニング・チルティングが行われるのと同等の結果を得ることができる。この場合には、雲台若しくはこれに準ずる、デジタルスチルカメラ１以外のパン・チルトのための装置部を用意する必要が無く、デジタルスチルカメラ１単体により本実施の形態としての構図制御を完結させることが可能となる。
また、光学系部２１におけるレンズの光軸を水平・垂直方向に変更することのできる機構を備えて、この機構の動きを制御するように構成しても、パンニング・チルティングを行うことが可能である。

また、本願発明に基づく構図判定のための構成は、これまでに実施の形態として説明してきた撮像システム以外にも適用することができる。そこで以降、本願発明による構図判定の適用例について述べる。

先ず、図１９は、本願発明による構図判定を、デジタルスチルカメラなどの撮像装置単体に対して適用したもので、例えば撮像モード時において撮像装置により撮像している画像が適正な構図になったときに、このことを表示によってユーザに通知しようとするものである。
このために撮像装置が備えるべき構成として、ここでは被写体検出・構図判定処理ブロック８１、通知制御処理ブロック８２、表示部８３を示している。
被写体検出・構図判定処理ブロック８１は、撮像画像データを取り込んで、例えば図５の被写体検出処理ブロック６１と同等の被写体検出処理と、この被写体検出処理の結果としての検出情報を利用して、例えば図５と同等の構図判定のための処理とを行うようにされた部位である。
例えばユーザは、撮像装置を撮像モードに設定したうえで、撮像装置を手に持っており、いつでもレリーズ操作（シャッターボタン操作）を行えば撮像画像の記録が行える状況にあるものとする。
このような状態の下、被写体検出・構図判定処理ブロック８１では、そのときに撮像して得られる撮像画像データを取り込んで被写体検出を行う。すると構図制御処理によっては、先ず、検出された個別被写体の数等に応じて最適構図がどのようなものであるのかが特定されることになるが、この場合の構図判定処理としては、そのときに得られている撮像画像データの画内容の構図と、最適構図との一致性、類似度を求めるようにされる。そして、例えば類似度が一定以上になったときに、実際に撮影して得られている撮像画像データの画内容が最適構図になったと判定するようにされる。なお、例えば実際においては、撮像画像データの画内容の構図と最適構図とが一致したとみなされる程度の、所定以上の類似度が得られたら、最適構図と判断するようにしてアルゴリズムを構成することが考えられる。また、ここでの一致性、類似度をどのようにして求めるのかについては多様なアルゴリズムを考えることができるので、ここでは、その具体例については特に言及しない。
このようにして撮像画像データの画面内容が最適構図になったことの判定結果の情報は通知制御処理ブロック８２に対して出力される。通知制御処理ブロック８２は、上記の情報の入力に応じて、現在において撮像されている画像が最適構図であることをユーザに通知するための所定態様による表示が表示部８３にて行われるように表示制御を実行する。なお、通知制御処理ブロック８２は、撮像装置が備えるマイクロコンピュータ（ＣＰＵ）などによる表示制御機能と、表示部８３に対する画像表示を実現するための表示用画像処理機能などにより実現される。なお、ここでの最適構図であることのユーザへの通知は、電子音、若しくは合成音声などをはじめとした音により行われるように構成してもよい。
また、表示部８３は、例えば本実施の形態のデジタルスチルカメラ１の表示部３３に対応するもので、例えば撮像装置における所定位置に対してそのディスプレイパネルが表出するようにして設けられ、撮影モード時にはいわゆるスルー画といわれる、そのときに撮像されている画像が表示されることが一般的である。従って、この撮像装置の実際にあっては、表示部８３において、スルー画に対して重畳される態様で最適構図であることを通知する内容の画像が表示されることになる。ユーザは、この最適構図であることを通知する表示が現れたときにレリーズ操作を行うようにされる。これにより、写真撮影の知識や技術に長けていないようなユーザであっても、良好な構図の写真撮影を簡単に行うことが可能になる。

また、図２０も、上記図１９と同様にデジタルスチルカメラなどの撮像装置単体に対して本願発明による構図判定を適用したものとなる。
先ず、この図に示す構成においては、図１９と同様に、被写体検出・構図判定処理ブロック８１により、そのときの撮像により得られる撮像画像データを取り込んで被写体検出処理を行うとともに、被写体検出情報に基づいて、上記の撮像画像データの画内容が最適構図であるか否かを判定するようにされる。そして、最適構図になったことを判定すると、このことをレリーズ制御処理ブロック８４に対して通知する。
レリーズ制御処理ブロック８４は、撮像画像データを記録するための制御を実行する部位とされ、例えば撮像装置が備えるマイクロコンピュータが実行する制御などにより実現される。上記の通知を受けたレリーズ制御処理ブロック８４は、そのときに得られている撮像画像データが、例えば記憶媒体に記憶されるようにして画像信号処理、記録制御処理を実行する。
このような構成であれば、例えば最適な構図の画像が撮像されたときには、自動的にその撮像画像の記録が行われるようにした撮像装置を得ることができる。

なお、上記図１９及び図２０の構成は、例えばスチルカメラの範疇であれば、例えば図１により示されるような構成のデジタルスチルカメラに適用できるほか、銀塩フィルムなどに撮像画像を記録するいわゆる銀塩カメラといわれるものにも、例えば光学系により得られた撮像光を分光して取り入れるイメージセンサと、このイメージセンサからの信号を入力して処理するデジタル画像信号処理部などを設けることで適用が可能である。

また、図２１は、既に存在する画像データに対して画像編集を行う編集装置に本願発明を適用した例である。
この図においては編集装置９０が示されている。ここでの編集装置９０は、既に存在する画像データとして、例えば記憶媒体に記憶されていたものを再生して得た画像データ（再生画像データ）を得るようにされている。なお、記憶媒体から再生したものの他に、例えばネットワーク経由でダウンロードしたものを取り込んでもよい。即ち、編集装置９０が取り込むべき撮像画像データをどのような経路で取得するのかについては、特に限定されるべきものではない。

編集装置９０が取り込んだとされる再生撮像画像データは、トリミング処理ブロック９１と被写体検出・構図判定処理ブロック９２のそれぞれに対して入力される。
先ず、被写体検出・構図判定処理ブロック９２は、例えば先ず、図１９、図２０と同様の被写体検出処理を実行して検出情報を出力する。そして、この検出情報を利用した構図判定処理として、この場合には、入力される再生撮像画像データとしての全画面において、最適構図が得られるとされる所定の縦横比による画像部分（最適構図の画像部分）がどこであるのかを特定する。そして、最適構図の画像部分が特定されると、例えばその画像部分の位置を示す情報（トリミング指示情報）をトリミング処理ブロック９１に対して出力する。
トリミング処理ブロック９１は、上記のようにしてトリミング指示情報が入力されたことに応答して、入力される再生撮像画像データから、トリミング指示情報が示す画像部分を抜き出すための画像処理を実行し、抜き出した画像部分を１つの独立した画像データとして出力する。これが編集撮像画像データとなる。
このような構成であれば、例えば画像データの編集処理として、元々ある画像データの画内容から最適構造となる部分を抜き出した内容の画像データを新規に得るというトリミングが自動的に行われることになる。このような編集機能は、例えばパーソナルコンピュータなどにインストールされる画像データ編集のためのアプリケーションであるとか、画像データを管理するアプリケーションにおける画像編集機能などで採用することが考えられる。

図２２は、本願発明の構図判定をデジタルスチルカメラなどの撮像装置に適用した構成の一例である。
ここでは図示していない撮像部により撮像して得られる撮像画像データは、撮像装置１００内の被写体検出・構図判定処理ブロック１０１、ファイル作成処理ブロック１０３とに対して入力することとしている。なお、この場合において、撮像装置１００内に入力された撮像画像データは、例えばレリーズ操作などに応じて記憶媒体に記憶されるべきこととなった撮像画像データであり、ここでは図示していない、撮像部での撮像により得られた撮像信号を基に生成されたものである。
先ず被写体検出・構図判定処理ブロック１０１では、入力された撮像画像データを対象に被写体検出を行い、その検出情報に基づいて最適構図がどのようなものであるのかを判定するようにされる。具体的には、例えば図２１の場合と同様にして、入力された撮像画像データの全画面において最適構図となる画像部分を特定した情報が得られるようにされればよい。そして、このようにして得た最適構図についての判定結果を表す情報を、メタデータ作成処理ブロック１０２に対して出力する。
メタデータ作成処理ブロック１０２では、入力された情報に基づいて、対応する撮像画像データから最適構図を得るために必要な情報から成るメタデータ（構図編集メタデータ）を作成し、ファイル作成処理ブロック１０３に対して出力する。この構図編集メタデータの内容としては、例えば、対応する撮像画像データとしての画面においてトリミングする画像領域部分がどこであるのかを示し得る位置情報などとなる。
この図に示す撮像装置１００では、撮像画像データについて、所定形式による静止画像ファイルとして管理されるようにして記憶媒体に記録するものとされる。これに対応して、ファイル作成処理ブロック１０３は、撮像画像データを、静止画像ファイル形式に変換（作成）する。
ファイル作成処理ブロック１０３は、先ず、入力される撮像画像データについて、画像ファイル形式に対応した画像圧縮符号化を行い、撮像画像データから成るファイル本体部分を作成する。これとともに、メタデータ作成処理ブロック１０２から入力された構図編集メタデータを、所定の格納位置に対して格納するようにしてヘッダ及び付加情報ブロックなどのデータ部分を作成する。そして、これらファイル本体部分、ヘッダ、付加情報ブロックなどから静止画像ファイルを作成し、これを出力する。これにより、図示するようにして、記憶媒体に記録すべき静止画像ファイルとしては、撮像画像データとともにメタデータ（構図編集メタデータ）が含まれる構造を有したものが得られることになる。

図２３は、上記図２２の装置により作成された静止画像ファイルについて編集を行う編集装置の構成例を示している。
図に示す編集装置１１０は、静止画像ファイルのデータを取り込んで、先ずメタデータ分離処理ブロック１１１に入力する。メタデータ分離処理ブロック１１１は、静止画像ファイルのデータから、ファイル本体部分に相当する撮像画像データとメタデータとを分離する。分離して得られたメタデータについてはメタデータ解析処理ブロック１１２に対して出力し、撮像画像データについてはトリミング処理ブロック１１３に対して出力する。

メタデータ解析処理ブロック１１２は、取り込んだメタデータを解析する処理を実行する部位とされる。そして、解析処理として、構図編集メタデータについては、その内容である最適構図を得るための情報から、すくなくとも、対応の撮像画像データを対象としてトリミングを行う画像領域を特定する。そして、この特定された画像領域のトリミングを指示するトリミング指示情報をトリミング処理ブロック１１３に対して出力する。
トリミング処理ブロック１１３は、先の図２１のトリミング処理ブロック９１と同様に、メタデータ分離処理ブロック１１１側から入力した撮像画像データから、上記メタデータ分離処理ブロック１１２から入力されるトリミング指示情報が示す画像部分を抜き出すための画像処理を実行し、抜き出した画像部分を１つの独立した画像データである、編集撮像画像データとして出力する。

上記図２２、図２３に示される撮像装置と編集装置から成るシステムによれば、例えば撮影などにより得たオリジナルの静止画像データ（撮像画像データ）はそのまま無加工で保存しておけるようにしたうえで、このオリジナル静止画像データからメタデータを利用して、最適構図となる画像を抜き出す編集が行えることになる。また、このような最適構図に対応した抜き出し画像部分の決定は、自動的に行われるものとなる。

図２４は、ビデオカメラなどとしての動画像の撮影記録が可能な撮像装置に本願発明を適用した例である。
この図に示す撮像装置１２０には、動画像データが入力される。この動画像データは、例えば同じ撮像装置１２０が有するとされる撮像部により撮像を行って得られる撮像信号に基づいて生成されるものである。この動画像データは、撮像装置１２０における被写体検出・構図判定処理ブロック１２２、及びファイル作成・記録処理ブロック１２４に対して入力される。
この場合の被写体検出・構図判定処理ブロック１２２は、入力されてくる動画像データについての構図の良否判定を行う。例えば、被写体検出・構図判定処理ブロック１２２では、予め良好とされる構図がどのようなものであるのかについてのパラメータ（良好構図対応パラメータ）を保持している。このパラメータとしては、検出される個別被写体数ごとに応じて適切であるとして設定された画面内における個別被写体の占有率、被写体間距離Ｋなどとなる、そして、被写体検出・構図判定処理ブロック１２２は、入力されてくる動画像データについて、例えば継続的にどのような構図となっているかについての構図判定を行う（例えば動画像データにおける実際の個別被写体の占有率、被写体間距離Ｋなどの構図パラメータを求める）と共に、この判定結果として得られた動画像データの構図パラメータと、上記の良好構図パラメータとを比較する。そして、動画像データの構図パラメータが良好構図対応パラメータに対して一定以上の類似度を有していれば良好な構図であると判定され、上記類似度が一定以下であれば、良好な構図ではないと判定される。
被写体検出・構図判定処理ブロック１２２は、上記のようにして動画像データについて良好な構図が得られていると判定したときには、メタデータ作成処理ブロック１２３に対して、動画像データにおいて、今回、上記の良好な構図が得られていると判定した画像区間(良好構図画像区間)がどこであるのかを示す情報(良好構図画像区間指示情報)を出力する。良好構図画像区間指示情報)は、例えば動画像データにおける良好構図画像区間としての開始位置と終了位置を示す情報などとされる。

この場合のメタデータ作成処理ブロック１２３は、次に説明する動画像記録処理ブロック１２４により記憶媒体にファイルとして記録される動画像データについての、各種所要のメタデータを生成するものとされる。そのうえで、上記のようにして被写体検出・構図判定処理ブロック１２２から良好構図画像区間指示情報を入力した場合には、入力された良好構図画像区間指示情報が示す画像区間が良好な構図であることを示すメタデータを生成し、動画像記録処理ブロック１２４に対して出力する。
動画像記録処理ブロック１２４は、入力された動画像データについて、所定形式による動画像ファイルとして管理されるようにして記憶媒体に記録するための制御を実行する。そして、メタデータ作成処理ブロック１２３からメタデータが出力されてきた場合には、このメタデータが、動画像ファイルに付随するメタデータに含められるようにして記録されるようにするための制御を実行する。
これにより、図示するようにして、記憶媒体に記録される動画像ファイルは、撮像により得られたとする動画像データに、良好な構図が得られている画像区間を示すメタデータが付随された内容を有することになる。
なお、上記のようにしてメタデータにより示される、良好な構図が得られている画像区間は、或る程度の時間幅を有する動画像による画像区間とされてもよいし、動画像データから抜き出した静止画像によるものとされてもよい。また、上記のメタデータに代えて、良好な構図が得られている画像区間の動画像データ若しくは静止画像データを生成して、これを動画像ファイルに付随する副次的な画像データ静止画像データ（或いは動画像ファイルと独立したファイル）として記録する構成も考えられる。
また、図２４に示されるようにして、撮像装置１２０に対して被写体検出・構図判定処理ブロック１２２を備える構成では、被写体検出・構図判定処理ブロック１２２により良好構図画像区間であると判定された動画像の区間のみを動画像ファイルとして記録するように構成することも考えられる。さらには、被写体検出・構図判定処理ブロック１２２により良好構図であると判定された画像区間に対応する画像データを、データインターフェースなどを経由して外部機器に出力するような構成も考えることができる。

図２５は、印刷を行う印刷装置に本願発明を適用した例である。
この場合には、印刷装置１３０が、印刷すべき画像内容を有する画像データ（静止画）を取り込むこととされており、このようにして取り込んだデータは、トリミング処理ブロック１３１、及び被写体検出・構図判定処理ブロック１３２に対して入力される。
先ず、被写体検出・構図判定処理ブロック１３２は、図２１の被写体検出・構図判定処理ブロック９２と同様の被写体検出処理・構図判定処理を実行することで、入力される画像データの全画面における最適構図の画像部分を特定する処理を実行し、この処理結果に応じた内容のトリミング指示情報を生成してトリミング処理ブロック１３１に対して出力する。
トリミング処理ブロック１３１は、図２１のトリミング処理ブロック９１と同様にして、入力した画像データから、トリミング指示情報が示す画像部分を抜き出すための画像処理を実行する。そして、この抜き出した画像部分のデータを、印刷用画像データとして印刷制御処理ブロック１３３に対して出力する。
印刷制御処理ブロック１３３は、入力された印刷用画像データを利用して、ここでは図示していない印刷機構を動作させるための制御を実行する。
このような動作により、印刷装置１３０によっては、入力した画像データの画内容から、最適構図が得られているとされる画像部分が自動的に抜き出されて、１枚の画として印刷されることになる。

図２６に示される例は、例えば静止画像ファイルを多数記憶し、これらの静止画像ファイルを利用したサービスを提供するための装置、システムに適用して好適である。
記憶部１４１には、多数の静止画像ファイルが記憶される。
被写体検出・構図判定処理ブロック１４２は、所定のタイミングで、記憶部１４１に記憶されている静止画ファイルを取り込み、そのファイル本体部に格納される静止画像データを取り出す。そして、この静止画像データを対象として、例えば図２２の被写体検出・構図判定処理ブロック１０１と同様の処理を実行して最適構図についての判定結果を表す情報を得て、この情報をメタデータ作成処理ブロック１４３に対して出力する。

メタデータ作成処理ブロック１４３は、入力された情報に基づいて、先の図２２のメタデータ作成処理ブロック１０２と同様に、メタデータ（構図編集メタデータ）を作成する。その上で、この場合には、作成したメタデータを、記憶部１４１に記憶されるメタデータテーブルに登録する。このメタデータテーブルは、同じ記憶部１４１に記憶される静止画像データとの対応関係が示されるようにしてメタデータを格納して成る情報単位とされる。つまり、メタデータテーブルによっては、メタデータ（構図編集メタデータ）と、このメタデータを作成するために被写体検出・構図判定処理ブロック１０１により被写体検出処理及び構図判定処理の対象となった静止画像ファイルとの対応が示される。

そして、例えば外部からの静止画ファイルの要求に応じて、記憶部１４１に記憶されている静止画像ファイルを出力する（例えばサーバであれば、クライアントからのダウンロード要求に応じて静止画像ファイルをダウンロードする場合などとなる）際には、静止画ファイル出力処理ブロック１４４が、記憶部１４１から要求された静止画像ファイルを検索して取り込むとともに、この検索した静止画ファイルに対応するメタデータ（構図編集メタデータ）も、メタデータテーブルから検索して取り込むようにされる。

そして、この静止画像ファイル出力処理ブロック１４４は、例えば図２３に示したメタデータ解析処理ブロック１１２、及びトリミング処理ブロック１１３に相当する機能ブロックを少なくとも有して成る。
静止画像ファイル出力処理ブロック１４４においては、内部のメタデータ作成処理ブロックにより、取り込んだメタデータを解析してトリミング指示情報を得る。そして、同じ内部のトリミング処理ブロックにより、取り込んだ静止画像ファイルに格納される静止画像データを対象として、上記トリミング指示情報に応じたトリミングを実行する。そして、トリミングにより得られた画像部分を改めて１つの静止画像データとして生成し、これを出力する。

上記図２６のシステム構成は、多様なサービスへの適用を考えることができる。
例えば、１つにはネットワーク経由での写真のプリントサービスに適用できる。つまり、ユーザは、プリントサービスのサーバに、プリント（印刷）してもらいたい画像データ（静止画像ファイル）をネットワーク経由でアップロードする。サーバでは、このようしてアップロードされてきた静止画像ファイルを記憶部１４１に記憶しておき、このファイルに対応するメタデータも作成してメタデータテーブルに登録しておく。そして、実際に印刷出力するときには、静止画像ファイル出力処理ブロック１４４により、最適構図を抜き出した静止画像データを印刷用の画像データとして出力する。つまり、このサービスによっては、写真プリントを依頼すると、最適構図に補正されてプリントされたものが送られてくるものである。

また１つには、例えばブログなどのサーバにも適用することができる。記憶部１４１には、ブログのテキストのデータと共にアップロードされた画像データを記憶させることとする。これにより、例えばブログのページには、ユーザがアップロードした画像データから最適構図を抜き出した画像を貼り付けさせることが可能になる。

なお、上記図１７〜図２６により説明した例は一部であって、本願発明による構図判定を適用できる装置、システム、アプリケーションソフトウェアなどはほかにも考えられる。

また、これまでの実施の形態の説明にあっては、被写体（個別被写体）は、人であることを前提としているが、例えば、動物や植物であるとか、人以外の種類のものを被写体とする場合にも、本願発明を適用することが考えられる。
また、被写体検出の対象となる画像データは、撮像に由来して得られるもの（撮像画像データ）のみに限定されるべきものではなく、例えば、絵であるとかデザイン画などの画内容を有する画像データを対象とすることも考えられる。
また、本願発明のもとで判定される構図（最適構図）は、必ずしも、三分割法のみに基づいて決まるものに限定されない。例えば、三分割法とともに、黄金率による構図設定の手法も知られているが、黄金率などの他の手法を採用することについても特に支障はない。さらには、上記三分割法であるとか、黄金率など、一般的に良いとされる構図のみに限定されるものではない。例えば一般的には良くないとされる構図であっても、構図の設定次第では、ユーザがおもしろみを感じたり、かえって良いと感じるような場合もあると考えられる。従って、本願発明のもとで判定される構図（最適構図）としては、実用性、エンタテイメント性などを考慮して任意に設定されればよく、実際においては特に制限はない。

本発明の実施の形態としての撮像システム（デジタルスチルカメラ、雲台）の外観構成例を示す図である。 実施の形態の撮像システムの動作として、雲台に取り付けられたデジタルスチルカメラのパン方向及びチルト方向に沿った動きの例を模式的に示す図である。 実施の形態のデジタルスチルカメラの構成例を示す図である。 実施の形態の雲台の構成例を示す図である。 実施の形態のデジタルスチルカメラが構図制御に対応して備えるものとされる機能をブロック単位の構成により示す図である。 個別被写体の重心と、複数の個別被写体についての総合被写体重心とを説明する図である。 撮像画像データの画面に設定した原点座標を説明する図である。 第１の構図制御における、検出された個別被写体が１つの場合の構図制御例を模式的に示す図である。 第１の構図制御における、検出された個別被写体が２つの場合の構図制御例を模式的に示す図である。 第１の構図制御における、検出された個別被写体が３以上の場合の構図制御例を模式的に示す図である。 第１の構図制御のための処理手順例を示すフローチャートである。 第２の構図制御における、検出された個別被写体が１つの場合の構図制御例を模式的に示す図である。 第２の構図制御における、検出された個別被写体が２つとされ、かつ、これら個別被写体間の距離が一定以下の状態で検出（補足）された場合の構図制御例を模式的に示す図である。 第２の構図制御のための処理手順例を示すフローチャートである。 実施の形態における被写体弁別を説明するための図である。 実施の形態における被写体弁別を実現するための処理手順例を示すフローチャートである。 実施の形態の撮像システムの変形例としての構成例を示す図である。 実施の形態の撮像システムの他の変形例としての構成例を示す図である。 本願発明に基づく構図判定の適用例を示す図である。 本願発明に基づく構図判定の適用例を示す図である。 本願発明に基づく構図判定の適用例を示す図である。 本願発明に基づく構図判定の適用例を示す図である。 本願発明に基づく構図判定の適用例を示す図である。 本願発明に基づく構図判定の適用例を示す図である。 本願発明に基づく構図判定の適用例を示す図である。 本願発明に基づく構図判定の適用例を示す図である。

符号の説明

１ デジタルスチルカメラ、２ シャッターボタン、３ レンズ部、１０ 雲台、２１ 光学系、２２ イメージセンサ、２３ Ａ／Ｄコンバータ、２４ 信号処理部、２５ エンコード／デコード部、２６ メディアコントローラ、２７ 制御部、２８ ＲＯＭ、２９ ＲＡＭ、３０ フラッシュメモリ、３１ 操作部、３２ 表示ドライバ、３３ 表示部、３４ 雲台対応通信部、４０ メモリカード、５１ 制御部、５２ 通信部、５３ パン機構部、５４ パン用モータ、５５ パン用駆動部、５６ チルト機構部、５７ チルト用モータ、５８ チルト用駆動部、６１ 被写体検出処理ブロック、６２ 構図制御処理ブロック、６３ 通信制御処理ブロック、ＳＢＪ（ＳＢＪ０〜ｎ） 個別被写体、７１ 通信制御処理ブロック、７２ パン・チルト制御処理ブロック、７３ 被写体検出処理ブロック、７４ 構図制御処理ブロック、７５ 撮像部、８１・９２・１０１・１２２・１３２・１４２ 被写体検出・構図判定処理ブロック、８２ 通知制御処理ブロック、８３ 表示部、８４ レリーズ制御処理ブロック、９１・１３１ トリミング処理ブロック、１０２・１２３・１４３ メタデータ作成処理ブロック、１０３ ファイル作成処理ブロック、１１１ メタデータ分離処理ブロック、１１２ メタデータ解析処理ブロック、１１３ トリミング処理ブロック、１２４ ファイル作成・記録処理ブロック、１３３ 印刷制御処理ブロック、１４１ 記憶部、１４４ 静止画ファイル出力処理ブロック

Claims (11)

1. 画像データに基づく画像中における特定の被写体の存在を検出する被写体検出手段と、
   上記被写体検出手段により検出された被写体である検出被写体の数に応じて構図を判定する構図判定手段と、
   を備えることを特徴とする構図判定装置。
2. 上記構図判定手段は、上記検出被写体の数に応じて構図判定方法を変更する、
   ことを特徴とする請求項１に記載の構図判定装置。
3. 上記構図判定手段は、上記検出被写体の数に応じて構図判定のアルゴリズムを変更する、
   ことを特徴とする請求項１に記載の構図判定装置。
4. 上記構図判定手段は、
   上記検出被写体の数が２以上である場合において、左右両端に位置する被写体間の距離の、画像水平方向の長さに対する比率について、上記検出被写体の数に応じて異なる値を設定するようにされている、
   ことを特徴とする請求項２に記載の構図判定装置。
5. 上記構図判定手段は、
   上記検出被写体の数に応じて、長方形の上記画像を、縦長と横長の何れとするのかを判定するようにされている、
   ことを特徴とする請求項２に記載の構図判定装置。
6. 上記構図判定手段は、
   上記検出被写体の数が所定値以上である場合においては、左右両端に位置する被写体間の距離に基づいて、長方形の上記画像を、縦長と横長の何れとするのかを判定するようにされている、
   ことを特徴とする請求項５に記載の構図判定装置。
7. 上記構図判定手段は、上記検出被写体の数が所定値以上である場合として、２以上の所定の値である場合において、左右両端に位置する被写体間の距離に基づいて、長方形の上記画像を、縦長と横長の何れとするのかを判定するようにされている、
   ことを特徴とする請求項６に記載の構図判定装置。
8. 上記構図判定手段は、
   上記検出被写体の数が所定値以上である場合においては、左右両端に位置する被写体間の距離と上下両端に位置する被写体間の距離とに基づいて、長方形の上記画像を、縦長と横長の何れとするのかを判定するようにされている、
   ことを特徴とする請求項５に記載の構図判定装置。
9. 上記構図判定手段は、上記検出被写体の数が所定値以上である場合として、２以上の所定の値である場合において、左右両端に位置する被写体間の距離と上下両端に位置する被写体間の距離とに基づいて、長方形の上記画像を、縦長と横長の何れとするのかを判定するようにされている、
   ことを特徴とする請求項８に記載の構図判定装置。
10. 画像データに基づく画像中における特定の被写体の存在を検出する被写体検出手順と、
    上記被写体検出手順により検出された被写体である検出被写体の数に応じて構図を判定する構図判定手順と、
    を実行することを特徴とする構図判定方法。
11. 画像データに基づく画像中における特定の被写体の存在を検出する被写体検出手順と、
    上記被写体検出手順により検出された被写体である検出被写体の数に応じて構図を判定する構図判定手順と、
    を構図判定装置に実行させるプログラム。

Images