JP7383438B2 - 撮像制御装置、撮像装置、及び撮像制御方法 - Google Patents

撮像制御装置、撮像装置、及び撮像制御方法 Download PDF

Info

Publication number
JP7383438B2
JP7383438B2 JP2019176642A JP2019176642A JP7383438B2 JP 7383438 B2 JP7383438 B2 JP 7383438B2 JP 2019176642 A JP2019176642 A JP 2019176642A JP 2019176642 A JP2019176642 A JP 2019176642A JP 7383438 B2 JP7383438 B2 JP 7383438B2
Authority
JP
Japan
Prior art keywords
subject
imaging
target
zoom position
detected
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019176642A
Other languages
English (en)
Other versions
JP2021057660A5 (ja
JP2021057660A (ja
Inventor
宗亮 加々谷
伸茂 若松
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2019176642A priority Critical patent/JP7383438B2/ja
Priority to US17/028,718 priority patent/US11206357B2/en
Priority to CN202011032864.3A priority patent/CN112584035B/zh
Publication of JP2021057660A publication Critical patent/JP2021057660A/ja
Publication of JP2021057660A5 publication Critical patent/JP2021057660A5/ja
Application granted granted Critical
Publication of JP7383438B2 publication Critical patent/JP7383438B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/695Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/69Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Lens Barrels (AREA)
  • Accessories Of Cameras (AREA)

Description

本発明は、撮像制御装置、特にアクチュエータによって駆動する撮像手段を制御する撮像制御装置及び該撮像制御装置を備える撮像装置に関するものである。
近年、ユーザが撮影指示を与えることなく定期的および継続的に撮影を行う自動撮影カメラが開発され実用化が進んでいる。例えば、カメラの撮影範囲内の被写体を検出し、被写体の表情や動きなどを認識してシャッターを切るカメラも存在する。上記のような自動撮影カメラにおいては、まず被写体を撮影範囲の中央付近に収まるようにカメラを動かし、表情や動きが認識可能な大きさとなるように被写体に近づいたり、ズーム倍率を変更したりするなど、自動撮影のために構図を調整する手間が発生する。
上記のような課題を解決する技術として、カメラをパン、チルト駆動可能な雲台装置に取り付け、撮影範囲内の特定の被写体が事前に登録した画角、構図となるようにパン・チルト・ズーム駆動する技術が、下記特許文献1に記載されている。
特開2013-247508
上述の特許文献1に開示された従来技術では、既に撮影範囲内の、検出している被写体に対しての構図調整ができる一方で、撮影範囲外に存在する別の被写体に対しては、その被写体が撮影範囲内に入り込むまで検出することができない。
例えば、撮影範囲内の被写体が撮影範囲外の被写体と会話をしている、または撮影範囲内から撮影範囲外にかけて複数の被写体が並んでいるような場合に、その時点におけるカメラの向きやズーム倍率によっては、撮影範囲外の被写体が検出できない場合がある。
そのため、撮影範囲外に存在する、撮影対象とすべき被写体を撮り逃す、あるいは撮影範囲内から撮影範囲外にかけて被写体が見切れたような撮影をしてしまう場合がある。
そこで、本発明の目的は、パン、チルトの少なくともいずれかの制御機構を持つ撮像制御装置において、撮影範囲外の被写体についても取り逃しを低減することを可能とすることである。
本発明の一側面としての撮像制御装置は、撮影光学系からの光に基づいて画像データを取得する撮像手段から前記画像データを取得し、当該画像データから検出した被写体の向きを検出する検出手段と、前記撮像手段の回転駆動を制御することで前記撮像手段の撮影方向を制御する制御手段と、を備え、前記制御手段は、前記検出手段により検出された前記被写体の向きに応じて、前記撮像手段の撮像範囲における当該被写体の位置が変わり、前記被写体が正面を向いている場合よりも、前記被写体が第1の方向を向いている場合のほうが、前記第1の方向側の撮像範囲の端と、前記被写体との距離が長くなるように、前記撮像手段の撮影方向を制御し、前記検出手段により、少なくとも1つの被写体が検出されている場合に、ズームアウトして、前記画像データから検出されていない被写体を探索する探索処理を実行することを特徴とする。本発明のその他の側面については、発明を実施するための形態で説明をする。
本発明によれば、パン、チルトの少なくともいずれかの制御機構を持つ撮像制御装置において、撮影範囲外の被写体についても取り逃しを低減することを可能とすることができる。
実施例1に係る撮像装置の模式図 実施例1に係る撮像装置の構成を示すブロック図 実施例1に係る画像と被写体情報の例を示す図 実施例1に係る撮像装置による構図調整処理を説明するフローチャート 実施例1に係る構図判定処理を説明するフローチャート 実施例1に係る対象被写体判定処理を説明するフローチャート 実施例1に係る撮影方向決定処理を説明するフローチャート 実施例1に係るパン移動量、チルト移動量算出時の目標顔位置を示す図 実施例1に係る顔向きが正面の被写体に対するパン移動量、チルト移動量の取得結果を示す図 実施例1に係る顔向きが右向きの被写体に対するパン移動量、チルト移動量の取得結果を示す図 実施例1に係る顔向きが左向きの被写体に対するパン移動量、チルト移動量の取得結果を示す図 実施例1に係る顔向きが正面の複数被写体に対するパン移動量、チルト移動量取得結果を示す図 実施例1に係る顔向きが混在する複数被写体に対するパン移動量、チルト移動量の取得結果を示す図 実施例1に係るズーム位置と相対画角の関係を示す図 実施例1に係るパン駆動角度、チルト駆動角度の取得処理を説明するフローチャート 実施例1に係る構図パターンを示す図 実施例1に係る目標ズーム位置の取得処理を説明するフローチャート 実施例1に係る目標ズーム位置の取得結果を示す図 実施例1に係る被写体と被写体領域との大きさに基づく目標ズーム位置の取得結果を示す図 実施例1に係る被写体と被写体領域との大きさに基づく目標ズーム位置の取得結果を示す図 実施例2に係る構図判定処理を説明するフローチャート 実施例2に係る探索ズーム位置算出結果を示す図 変形例に係る動物を検出可能とした場合の顔向きが左向きの被写体に対するパン移動量、チルト移動量算出結果を示す図
以下に、本発明の好ましい実施の形態を、添付の図面に基づいて詳細に説明する。
本実施例では、検出された被写体の向きに基づいて撮影方向を制御する例について説明をする。本実施例に係る撮像制御装置は、被写体を撮影範囲に収めつつ、被写体が横を向いている場合は向いている側が向いていない側よりも広く撮影されるように撮影方向を制御する。被写体が向いていない方向よりも被写体が向いている方向のほうが、撮影対象とすべき被写体がある可能性が高いと考えられるため、このように撮影方向を制御することで撮影範囲外にいて検出できない被写体であっても撮り逃す可能性を低減することができる。
本実施例に係る撮像装置について説明をする。
図1(a)は、本実施例に係る撮像装置100の模式図である。
撮像装置100は鏡筒101と、鏡筒101をチルト方向に駆動するチルト回転ユニット102と、鏡筒101をパン方向に駆動するパン回転ユニット103と、鏡筒101による撮像を制御する制御ボックス104とを備える。
鏡筒101は、撮像を行う撮像光学系と、撮影光学系からの光に基づいて画像データを取得する撮像素子とを有する撮像手段であり、撮像装置100の固定部(不図示)に対して回転駆動できる回転機構を介して撮像装置100に取り付けられている。
チルト回転ユニット102は、鏡筒101を図1(b)中に示すピッチ方向に回転できるように、アクチュエータとしてモータと、該モータにより回転駆動する回転機構(モータ駆動機構)を備えている。また、パン回転ユニット103は、鏡筒101を図1(b)中に示すヨー方向に回転できるアクチュエータとしてモータと、該モータにより回転駆動する回転機構(モータ駆動機構)を備えている。尚、図に示すように、撮像装置100の水平の軸(X軸)まわりの回転をピッチ、垂直の軸(Y軸)まわりの回転をヨー、奥行き方向の軸(Z軸)まわりの回転をロールと呼ぶ。
制御ボックス104は、鏡筒101に含まれる撮影レンズ群および、チルト回転ユニット102、パン回転ユニット103を制御するための制御マイコン、などを備えている。本実施例では制御ボックス104は撮像装置の固定部内に配置され、鏡筒101がパンチルト駆動をしても制御ボックスは固定されているものとする。
制御ボックスによる処理の詳細を、図2を用いて説明する。
図2は、鏡筒101、チルト回転ユニット102、パン回転ユニット103、制御ボックス104で構成される本実施例1に係る撮像装置100の構成を示すブロック図である。
鏡筒101は、撮影光学系を構成するレンズユニット301と、撮像素子を備える撮像部302とを備える。鏡筒101は、チルト回転ユニット102、パン回転ユニット103によって、チルト方向、パン方向に回転駆動するように制御される。
撮影光学系を構成するレンズユニット301は、変倍を行うズームレンズやピント調整を行う焦点レンズなどで構成され、レンズ駆動部309によって駆動制御される。ズームレンズとズームレンズを駆動するレンズ駆動部309とによるズーム機構が構成され、ズームレンズがレンズ駆動部309により光軸方向に移動することにより、ズーム機能が実現される。
撮像部302は、撮像素子を備え、レンズユニットを構成する各レンズ群を通して入射する光を受け、その光量に応じた電荷の情報をデジタル画像データとして画像処理部303に出力する。
チルト回転ユニット102は、ピッチ方向に回転できるモータ駆動機構を備える。また、パン回転ユニット103はヨー方向に回転できるモータ駆動機構を備える。チルト回転ユニット102とパン回転ユニット103とは、鏡筒回転駆動部308から入力される駆動指示によって鏡筒101を回転駆動する。
制御ボックス104は、画像処理部303、画像記録部304、被写体検出部305、構図判定部306、駆動制御部307、鏡筒回転駆動部308、レンズ駆動部309を有する。撮像装置による撮影方向は、構図判定部306、駆動制御部307、鏡筒回転駆動部308により制御される。各部の詳細について説明する。
画像処理部303は、撮像部302より出力されたデジタル画像データを取得する。そして、該デジタル画像データに対して、歪曲補正やホワイトバランス調整、色補間処理等の画像処理を適用し、適用後のデジタル画像データを画像記録部304および被写体検出部305に出力する。
画像記録部304は、画像処理部303から出力されたデジタル画像データをJPEG形式等の記録用フォーマットに変換し、不揮発性メモリ(不図示)などの記録媒体に記録する。
被写体検出部305は、画像処理部303から入力されるデジタル画像データから被写体を検出し、検出した被写体の情報を抽出する。本実施例では、被写体検出部305が人物の顔を被写体として検出する例について説明をする。被写体の情報とは、例えば、検出された被写体の数、各被写体の顔登録有無、顔の位置、顔のサイズ、顔の向きなどが挙げられる。また被写体検出部305は、被写体の検出結果に基づく被写体情報を構図判定部306に出力する。被写体情報の詳細については、図3を用いて後述する。
構図判定部306は、被写体検出部305から入力される被写体情報に基づいて、好ましい構図を決定する。更に、決定した構図にするためのパン駆動角度dp、チルト駆動角度dt、目標ズーム位置tzpを取得し、駆動制御部307に出力する。尚、詳細は後述するが、本実施例では、被写体検出から撮影範囲の調整までを所定の周期毎に繰り返し行う。よって、本実施例におけるパン駆動角度dpとチルト駆動角度dtとは、次の周期における駆動のタイミングまでに駆動するパン方向の駆動角度とチルト方向の駆動角度である。この周期は、撮像部による撮像の周期であり、各フレームで得られる画像データに基づいて構図判定処理を行い、次のフレームで得られる画像データが前のフレームで得られた画像データよりも、目標とする構図に近づくように構図の調整を行う。構図判定部306が行う構図判定処理の詳細については、後述する。
駆動制御部307は、構図判定部306から入力されるパン駆動角度dp、チルト駆動角度dt、目標ズーム位置tzpに基づいて、レンズ駆動および鏡筒回転駆動を行うための目標位置を決定する。目標ズーム位置tzpに基づくパラメータをレンズ駆動部309に、パン駆動角度dpおよびチルト駆動角度dtに基づく目標位置に対応するパラメータを鏡筒回転駆動部308に出力する。
鏡筒回転駆動部308は駆動制御部307から入力される目標位置と駆動速度に基づいてチルト回転ユニット102および、パン回転ユニット103に駆動指示を出力し、鏡筒101をチルト方向とパン方向に駆動させる。
レンズ駆動部309は、レンズユニット301に含まれるズームレンズや焦点レンズを駆動するためのモータとドライバ部を有している。駆動制御部307から入力される目標位置と基づいて各レンズを駆動させる。
図3は、本実施例に係る画像データ例および被写体検出部305にて取得する被写体情報の例を示す図である。被写体情報の構成について以下に説明する。
図3(a)は、被写体検出部305に入力される画像データの一例を示す図である。本実施例おいては、画像データは水平解像度960ピクセル、垂直解像度540ピクセルで構成されるものとする。
図3(b)は、被写体検出部305に図3(a)に示す画像データを入力して抽出した被写体情報の例を示す図である。本実施例では、被写体情報が、被写体数および、各被写体の顔登録の有無、顔のサイズ、顔の位置、顔の向きによって構成される例について説明をする。
被写体数は、検出された顔の数を示す。図3(b)の例では、被写体数は4となり、被写体4つ分の顔登録の有無、顔のサイズ、顔の位置、顔の向きが含まれることを示す。検出した被写体の並びは、顔の位置が撮影範囲の中央に近い順に並ぶものとし、被写体1が最も中央に近く、被写体4が最も中央から遠い被写体である。
顔登録有無は、事前にユーザによって登録された顔かどうかを示す情報であり、ここでは登録されている被写体はTRUE、登録されていない被写体はFALSEとする。ユーザは特定の人物の顔を事前に撮影して登録することで、自動撮影時に優先的に撮影したい顔を撮影装置に記憶することができる。登録方法については、本願での詳細な説明は割愛するが、例えば撮影装置を特殊なモードに遷移させ、手動で撮影して登録させる。あるいは、外部機器との通信手段によって、入力した顔画像データを登録する。または、頻繁に検出する顔を撮像装置が自動的に登録するなどの方法があり、いずれの方法を使っても良いものとする。
顔サイズ(w、h)は、検出した顔の大きさを示す数値であって、顔の幅(w)と高さ(h)のピクセル数が入力される。本実施例においては、幅と高さは同一の値となる。
顔位置(x、y)は、撮影範囲内における検出した顔の相対位置を示す数値である。本実施例では、画像データの左上を始点(0、0)、画面右下を終点(960、540)とした場合の、始点から顔の中心座標までの水平ピクセル数および垂直ピクセル数が入力される。
顔向きは、検出した顔の向きを示す情報であって、FRONT(正面)、R45(右向き45度)、R90(右向き90度)、L45(左向き45度)、L90(左向き90度)のいずれかの情報が入力される。
図4は、本実施例における撮影範囲(構図)の調整の全体の流れを示すフローチャートである。構図は、パン位置とチルト位置とにより規定される撮影方向と、ズーム倍率(ズーム位置)とで規定される。撮像装置の電源がONされると、撮像装置の撮像部302は構図調整の判断に用いる画像データを取得するために、周期的な撮影(動画撮影)を開始する。撮影により取得された画像データは制御ボックス104の画像処理部303に出力され、各種画像処理を施した画像データが取得される(S401)。この画像データは構図調整のための画像データであるため、ステップS401で取得された画像データは画像記録部304には出力されず、被写体検出部305に対して出力される。言い換えると、ここで取得される画像データは、ユーザが構図の調整及びシャッタ操作をして撮影する撮像装置におけるライブビュー表示用の画像データに対応し、この画像データを取得するための周期的な撮影は、ライブビュー撮影に対応する。但し、本実施例ではこの画像データは、制御ボックス104が構図の調整や自動撮影タイミングの判断に用いるのみで、画像の表示はしない。次に、被写体検出部305は画像データに基づいて被写体検出を行い、図3(b)に示すような被写体の情報を取得する(S402)。
被写体が検出され、被写体情報が取得されると、構図判定を行う(S403)。構図判定では、検出された被写体のうち撮影対象とする被写体を決定し、撮影対象とする被写体の顔の位置と顔のサイズと顔の向きとに基づいて次の周期の駆動のタイミング(S404)までの間に駆動するパン駆動角度とチルト駆動角度が取得される。また、顔の位置とサイズに基づいて目標ズーム位置が取得される。本処理の詳細については図5を用いて後述する。構図判定により、パン駆動角度、チルト駆動角度、目標ズーム位置が取得されると、これらの情報に基づいてパン駆動、チルト駆動、ズーム駆動が実行されることで、構図が調整される。これらのステップS401~S404を撮像部302の撮像周期に合わせて繰り返し実行する。
ステップS403に示した構図判定処理の詳細を説明する。
図5は、本実施例に係る構図判定部306の構図判定処理を説明するフローチャートである。本フローチャートを用いて、構図判定部306に入力された被写体情報から、目標の構図を判定し、パン駆動角度dpおよびチルト駆動角度dt、目標ズーム位置tzpを算出する処理について説明する。構図判定部306は、検出された被写体が、撮影範囲内に収めるべき、撮影対象となる被写体(対象被写体と呼ぶことがある)であるか否かを判定する、対象被写体判定を行う(S501)。対象被写体判定は、入力した被写体情報に含まれる、顔登録の有無と、顔のサイズ、顔の位置とに基づいて行われ、顔登録されている被写体、あるいは顔登録されている被写体とサイズや位置が近い被写体が対象被写体に選択される。この対象被写体判定処理については、図6を用いて詳細を後述する。
対象被写体判定処理が終わると、構図判定部306は、対象被写体数が1以上であるか否かを判定する(S502)。対象被写体数が1以上であると判定されたらS503へ移行し、対象被写体数が0であると判定されたら構図を調整する必要がないと判断し、構図判定処理を終了する。
対象被写体が1以上である場合、構図判定部306は、ステップS501で対象被写体と判定した被写体の被写体情報から、撮像部による撮影方向を決定し、パン移動量dxおよびチルト移動量dyを取得する(S503)。対象被写体の被写体情報としては、顔位置と顔向きを用いる。パン移動量dxは、画像データにおける被写体の水平方向の目標座標と水平方向の現在座標との差分をピクセル値で示した数値である。一方、チルト移動量dyは、画像データにおける被写体の垂直方向の目標座標と垂直方向の現在座標との差分をピクセル値で示した数値である。パン移動量dxおよびチルト移動量dyの取得処理については、図7~13を用いて詳細を後述する。
ステップS503でパン移動量dxおよびチルト移動量dyを取得すると、構図判定部306は、取得したパン移動量dxおよびチルト移動量dy、現在のズーム位置zpに基づいて、パン駆動角度dpおよびチルト駆動角度dtを算出する(S504)。パン駆動角度dpおよびチルト駆動角度dtの取得処理については、図15を用いて後述する。
ステップS504でパン駆動角度dpおよびチルト駆動角度dtを取得すると、構図判定部306は、対象被写体の被写体情報および現在のズーム位置zpから、目標ズーム位置tzpを取得する(S505)。対象被写体の被写体情報としては、顔位置と顔サイズを用いる。目標ズーム位置tzpの取得処理については、図16~20を用いて後述する。
図6は、本実施例に係る構図判定部306がステップS501で行う、対象被写体判定処理を説明するフローチャートである。
構図判定部306は、被写体情報が入力されると、構図判定部306は、被写体情報が入力されると、まず、顔登録の有無を判断し(S601)、顔登録があれば該被写体を対象被写体として判定し(S602)、顔登録が無ければ何もしない。
この処理によって、顔登録された被写体が優先的に対象被写体として判定される。構図判定部306は、ステップS601~602の処理を、検出された全被写体に対して実行する。
構図判定部306は、上述した処理にて対象被写体と判定した被写体の数を参照し、対象被写体とした被写体の数が1以上であるか否かを判定する(S603)。対象被写体の数が0であれば、画像データ上、撮影範囲の中央に最も近い被写体1を対象被写体に追加し(S604)、対象被写体数が1以上であれば何もしない。こうすることで、顔登録された被写体がいない場合においては、撮影範囲の中央に最も近い被写体を基準にした対象被写体の判断がなされるようになる。
次に、構図判定部306は、全被写体に対して、撮影範囲の中央に近い被写体1から順に、ステップS605~S608の処理を実行して該被写体を対象被写体とするか否かを判定する。まず、構図判定部306は、判定対象とする被写体が対象被写体として既に判定されているかどうかを参照する(S605)。対象被写体であれば何もせず、対象被写体でなければS606へ移行する。次に、構図判定部306は、判定対象とする被写体に対して、既に追加済のいずれかの対象被写体と顔サイズが近いかどうかを判断する(S606)。顔サイズが近くないと判定された場合は何もせず、次の被写体を判定対象としてステップS605を開始する。一方、顔サイズが近い場合はステップS607へ移行し、既に追加済みのいずれかの対象被写体との位置が近いかどうかを判定する(S607)。位置が近くないと判定された場合は何もせず、次の被写体を判定対象としてステップS605を開始する。尚、サイズに関しては、対象被写体と判定されているいずれかの被写体の顔サイズの±10%以内であるかどうかで判断する。具体的には、対象被写体の顔サイズが100ピクセルであれば、90ピクセル以上且つ110ピクセル以下であれば、サイズが近いと判断される。また、位置に関しては、対象被写体と判定されているいずれかの被写体の顔位置から水平方向と垂直方向ともに対象被写体の顔サイズ×2以内の位置かどうかで判断する。具体的には、対象被写体が1つで、顔サイズが(100、100)、顔位置が(500、300)であれば、被写体の顔水平位置座標が300~700、顔垂直位置座標が100~500の両方を満たせば位置が近いと判断される。
構図判定部306は、ステップS606およびS607でいずれかの対象被写体とサイズが近く位置も近いと判断された被写体を対象被写体として追加し(S608)、それ以外の被写体は対象被写体には追加しない。
ステップS601~S608の処理によって、入力された被写体情報の中から、撮影範囲内に収めるべき撮影対象となる被写体を判定することができる。
また、本実施例においては顔登録有無、顔サイズの近さ、顔位置の近さから対象被写体を判定する例を示したが、判定の方法はこれに限るものでは無い。例えば、顔登録有無のみを参照する等、より少ない情報から対象被写体を判定するような方法を用いても良いし、また、顔の向きや顔の表情、顔の動きの大きさなどの情報を基に判定するような方法を用いても良い。
図4(b)の被写体情報を構図判定部306に入力した際に図6のフローチャートにて判定した対象被写体の結果について説明する。図4(b)の被写体情報が構図判定部306に入力されると、図6のステップS601~S602の処理にて、顔登録有りの被写体1のみが対象被写体として判定される。図6のステップS603では対象被写体数が1であるためS604の処理はスキップされる。図6のステップS605~S608の処理で、対象被写体とのサイズの近さ、位置の近さを判定する。被写体1の顔サイズが120であるため、S606にて、顔サイズが108~132の間である被写体2と被写体3が対象被写体と顔サイズが近いと判定され、被写体4は対象被写体から除外される。続いて被写体1の顔位置が(480、210)であるため、ステップS607にて顔位置の水平位置が240~720、垂直位置が90~330という条件をそれぞれ満たす被写体2と被写体3が対象被写体との位置が近いと判定される。
以上の処理によって、図7に示すように、顔登録有りの被写体1および被写体1とサイズ、位置の近い被写体2と被写体3が対象被写体として判定される。
次に、ステップS503におけるパン移動量dxとチルト駆動量dyとの取得処理について説明をする。ステップS503では、構図判定部306は、対象被写体数をnとした場合に、各対象被写体の顔位置および顔向きから、目標顔位置までの差分dx(n)、dy(n)を算出し、dx(n)およびdy(n)の平均値を、dxおよびdyと算出する。
図7は、本実施例に係る構図判定部306がステップS503で行う、パン移動量dxとチルト駆動量dyとの取得処理を説明するフローチャートである。ステップS502で検出された被写体を対象被写体とするか否かを判定し、対象被写体が選択されると、ステップS503へ移行し、図7のステップS701を開始する。ステップS701では、対象被写体の顔位置及び顔向き情報を取得する(S701)。図4(b)の被写体情報が入力された場合、対象被写体は被写体1~3であるため、被写体1~3の被写体情報のうち、少なくとも顔位置と顔向きの情報が取得される。顔登録の有無や顔位置を示す情報、つまり、図4(b)に示す情報のうち、被写体1~3に対応する被写体情報のすべてを取得してもよい。
次に、全ての対象被写体のそれぞれに対して、ステップS702~S703の処理を実行して、それぞれの対象被写体の現在位置と目標位置との差分を取得する。まず、差分取得の対象となる対象被写体の顔向きに基づいて目標顔位置を取得する(S702)。本実施例において、目標顔位置は、顔向きに対応して予め決められており、制御部の不図示のメモリに格納されている。
また、本実施例においては、各対象被写体の目標顔位置までの差分dx(n)、dy(n)の平均値を目標位置として計算する例を示したが、計算の方法はこれに限るものでは無い。例えば、各対象被写体の顔の検出精度を取得して、顔の検出精度に応じて、目標顔位置までの差分dx(n)、dy(n)を重み付けすることで、より検出精度の高い被写体に適した構図となるように目標位置を計算するような方法を用いても良い。
図8は、予め決められた目標顔位置について説明する図である。図8(a)は、顔向きが正面(FRONT)の被写体に対する目標顔位置を示す図である。顔向きが正面の場合、目標顔位置は、撮影範囲の中心座標すなわち(480、270)となる。
図8(b)は、顔が右方向を向いている(R45、R90)の被写体に対する目標顔位置を示す図である。顔が右向きの場合、顔が正面を向いている場合よりも目標顔位置が撮影範囲の右の端の近くに設定されることで、撮影範囲の左側(被写体にとっては右側)に多く余白を設けるような位置に目標顔位置が決定されている。本例では目標顔位置は、垂直方向は撮影範囲の中心、水平方向は撮影範囲の4/5にあたる座標すなわち(768、270)である。
図8(c)は、顔が左方向を向いている(L45、L90)の被写体に対する目標顔位置を示す図である。顔が左向きの場合、顔が正面を向いている場合よりも目標顔位置が撮影範囲の左の端の近くに設定されることで、撮影範囲の右側(被写体にとっては左側)に多く余白を設けるような位置に目標顔位置が決定されている。本例の目標顔位置は、垂直方向は撮影範囲の中心、水平方向は撮影範囲の画面1/5にあたる座標すなわち(192、270)である。
図8(b)、図8(c)に示すように、対象被写体の顔の向いている方向の余白を増やすように構図を調整することで、顔を向けた先にいる被写体を認識しやすくすることができる。具体的な効果については図10、図11で説明する。
目標顔位置を取得すると、構図判定部306は、現在の顔位置と目標顔位置との差分を取得する(S703)。すべての対象被写体に対して差分を取得し終わると、その差分の平均を取得し、水平方向の差分をパン移動量dx、垂直方向の差分をチルト移動量dyとする(S704)。
図9~図13は、本実施例に係る対象被写体の被写体情報およびパン移動量dxおよびチルト移動量dyの取得結果の具体例を説明する図である。
図9(a)は、顔向きが正面の被写体が一人だけいるような場合の、被写体検出部305に入力される画像データの一例を示す図である。図9(b)は、図9(a)の画像データに対する対象被写体の被写体情報を示す図である。ここに示す被写体情報を上述のステップS701で取得する。被写体1の顔向きがFRONTであることから、ステップS702で取得される目標顔位置は図8(a)で示したように(480、270)となる。図9(c)は、図9(b)で示した被写体1の顔位置(240、150)と図8(a)で示した目標顔位置(480、270)との位置関係を模式的に示した図である。
図9(d)は、ステップS703で取得される、被写体1のパン移動量dx(1)およびチルト移動量dy(1)と、ステップS704で取得され、最終結果として出力されるパン移動量dx、チルト移動量dyを示した図である。被写体1のパン移動量dx(1)およびチルト移動量dy(1)は、下記に示すように水平方向および垂直方向ともに目標顔位置-顔位置によって算出される。
dx(1)=480-240=240
dy(1)=270-150=120
対象被写体数が1であることから、平均値を算出する必要なくdx(1)、dy(1)がそのままパン移動量dx、チルト移動量dyとして算出される。
図9(e)は、図9(d)に従ってパン方向およびチルト方向に動かした場合の目標構図例を示す図である。図9(e)に示すように、被写体1は顔向きが正面であることから、顔を撮影範囲の中心に配置するような構図が目標の構図となる。
図10(a)は、顔向きが右向きの被写体が一人だけいるような場合の、被写体検出部305に入力される画像データの一例を示す図である。図10(b)は、図10(a)の画像データに対する対象被写体の被写体情報を示す図である。被写体1の顔向きがR90であることから、ステップS702で取得される目標顔位置は図8(b)で示したように(768、270)となる。図10(c)は、図10(b)で示した被写体1の顔位置(210、180)と図8(b)で示した目標顔位置との位置関係を模式的に示した図である。
図10(d)は、ステップS703で取得される、被写体1のパン移動量dx(1)およびチルト移動量dy(1)と、ステップS704で取得され、最終結果として出力されるパン移動量dx、チルト移動量dyを示した図である。被写体1のパン移動量dx(1)およびチルト移動量dy(1)は、下記に示すように水平方向および垂直方向ともに目標顔位置-顔位置によって算出される。
dx(1)=768-210=558
dy(1)=270-180=90
対象被写体数が1であることから、平均値を算出する必要なくdx(1)、dy(1)がそのままパン移動量dx、チルト移動量dyとして算出される。
図10(e)は、図10(d)に従ってパン方向およびチルト方向に動かした場合の目標構図例を示す図である。図10(e)に示すように、被写体1は顔向きが右向きであることから、顔を撮影範囲の右側に配置し撮影範囲の左側の余白を増やすような構図が目標の構図となる。
図10(f)は、図10(e)に示す目標構図にすることで、別の被写体を検出できた場合の例を示す図である。紙面右側が被写体1であり、左側が目標構図にすることで検出された被写体である。図10(f)に示すように、被写体の顔の向いた方向の余白を増やすことで、被写体を撮影範囲の中央に配置した場合には検出できないような、例えば被写体1と会話をしているもう一人の被写体を新しく検出することができる。
図11(a)は、顔向きが左向きの被写体が一人だけいるような場合の、被写体検出部305に入力される画像データの一例を示す図である。
図11(b)は、図11(a)の画像データに対する対象被写体の被写体情報を示す図である。被写体1の顔向きがL90であることから、ステップS702で取得される目標顔位置は図8(c)で示したように(192、270)となる。
図11(c)は、図11(b)で示した被写体1の顔位置(690、390)と図8(c)で示した目標顔位置(192、270)との位置関係を模式的に示した図である。
図11(d)は、ステップS703で取得される、被写体1のパン移動量dx(1)およびチルト移動量dy(1)と、ステップS704で取得され、最終結果として出力されるパン移動量dx、チルト移動量dyを示した図である。
被写体1のパン移動量dx(1)およびチルト移動量dy(1)は、下記に示すように水平方向および垂直方向ともに目標顔位置-顔位置によって算出される。
dx(1)=192-690=-498
dy(1)=270-390=-120
対象被写体数が1であることから、平均値を算出する必要なくdx(1)、dy(1)がそのままパン移動量dx、チルト移動量dyとして算出される。
図11(e)は、図11(d)に従ってパン方向およびチルト方向に動かした場合の目標構図例を示す図である。図11(e)に示すように、被写体1は顔向きが左向きであることから、顔を撮影範囲の左側に配置し、撮影範囲の右側の余白を増やすような構図が目標の構図となる。
図11(f)は、図11(e)に示す目標構図にすることで、別の被写体を検出できた場合の例を示す図である。図11(f)に示すように、被写体の顔の向いた方向の余白を増やすことで、被写体を画面中央に配置した場合には検出できないような、例えば被写体1と会話をしているもう一人の被写体を新しく検出することができる。
図12(a)は、顔向きが正面の被写体が複数いるような場合の、被写体検出部305に入力される画像データの一例を示す図である。
図12(b)は、各被写体のパン移動量dx(n)およびチルト移動量dy(n)、また最終結果として出力されるパン移動量dx、チルト移動量dyを示した図である。
被写体1、被写体2、被写体3の顔向きがFRONTであることから、ステップS702で取得される各被写体の目標顔位置は、図8(a)で示したように(480、270)となる。そして、各被写体のパン移動量dx(n)およびチルト移動量dy(n)は、計算の結果、図12(b)で示すような算出結果が得られるものとする。
各被写体のパン移動量dx(n)およびチルト移動量dy(n)の算出方法については、図9と同様のため省略する。対象被写体数が3であることから、全対象被写体のパン移動量dx(n)およびチルト移動量dy(n)の平均値がパン移動量dx、チルト移動量dyとして算出される。
dx=(120+(-30)+330)/3=140
dy=(60+90+60)/3=70
図12(c)は、図12(b)に従ってパン方向およびチルト方向に動かした場合の目標構図例を示す図である。図12(c)に示すように、全被写体の顔向きが正面であることから、全ての顔を撮影範囲の中心部に近い位置に配置するような構図が目標の構図となる。
図13(a)は、顔向きが混在する被写体が複数いるような場合の、被写体検出部305に入力される画像データの一例を示す図である。
被写体1図13(b)は、各被写体のパン移動量dx(n)およびチルト移動量dy(n)、また最終結果として出力されるパン移動量dx、チルト移動量dyを示した図である。
被写体1の顔向きはFRONTであることから、被写体1を対象としたステップS702で取得される被写体1の目標顔位置は図8(a)で示したように(480、270)となる。一方、被写体2、被写体3の顔向きはR90であることから、被写体2、3を対象としたステップS702で取得される被写体2、被写体3の目標顔位置は図8(b)で示したように(768、270)となる。計算の結果、各被写体のパン移動量dx(n)およびチルト移動量dy(n)は、図13(b)で示すような算出結果が得られるものとする。
各被写体のパン移動量dx(n)およびチルト移動量dy(n)の算出方法については、図9、図10と同様のため省略する。対象被写体数が3であることから、全対象被写体のパン移動量dx(n)およびチルト移動量dy(n)の平均値がパン移動量dx、チルト移動量dyとして算出される。
dx=((-30)+408+618)/3=332
dy=(90+60+60)/3=70
図13(c)は、図13(b)に従ってパン方向およびチルト方向に動かした場合の目標構図例を示す図である。図13(c)に示すように、全被写体の内、顔向きが右向きの被写体が多いことから、被写体全体が撮影範囲の右側に配置され、撮影範囲の左側の余白が増えるような構図が目標の構図となる。
図13(d)は、図13(c)に示す目標構図にすることで、別の被写体を検出できた場合の例を示す図である。図13(d)に示すように、被写体が複数いる場合においても、全被写体の顔向きから相対的に多い顔向き方向の余白を増やすことで、被写体を撮影範囲の中央に配置した場合には検出できないような、もう一人の被写体を新しく検出することができる。
図14は、本実施例に係るズーム位置zpと相対画角aov(zp)との関係を説明する図である。本実施例において、ズーム位置zpは0~100まで設定可能であるものとする。値が小さいほどワイド側で、値が大きいほどテレ側であることを意味する。ズーム位置zpに応じて撮影可能な画角は変わり、ワイド側であるほど撮影画角は大きくなり、テレ側であるほど撮影画角は小さくなる。図14に示す相対画角aov(zp)は、ズーム位置zpが0の時の撮影画角を1000とした場合の、各ズーム位置zpにおける相対的な撮影画角を示した数値である。
例えば、ズーム位置zpが100の場合の相対画角aov(100)は500であることから、ズーム位置zpが0の時に比べて、ズーム位置zpが100の時の撮影画角は50%になるということを示している。パン駆動、チルト駆動時においても、この相対画角aov(zp)を参照する必要がある。例えばズーム位置zpが0でパン角度を1度動かした場合に、画面内の被写体が100ピクセル分水平移動するとしたら、ズーム位置zpが100でパン角度を1度動かすと、画面内の被写体は200ピクセル分水平移動することとなる。
すなわち、テレ側のズーム位置における想定以上の画素移動を避けるために、撮影画角によらず同じピクセル数分の画素を移動させるような駆動角度の計算が有効となる。
計算方法について、図15を用いて説明する。
図15は、本実施例に係る構図判定部306による、前述のステップS504のパン駆動角度dpおよびチルト駆動角度dtの取得処理を説明するフローチャートである。この図を用いて、現在のズーム位置zpおよびパン移動量dx、チルト移動量dyから、パン駆動角度dpおよびチルト駆動角度dtを算出する処理について説明する。
まず、構図判定部306は、現在のズーム位置zpを取得する(S1501)。次に、構図判定部306は、パン移動量dxの絶対値が画面水平解像度5%以上、すなわち48ピクセル以上かどうかを判断する(S1502)。5%以上であればパン駆動の必要があると判断しS1503へ移行する。一方、5%未満であればパン移動が小さい、すなわち目標とする位置にほぼ到達しているためパン駆動の必要がないと判断し、パン駆動角度として0が取得される(S1506)。
ステップS1502でパン駆動の必要があると判断されると、構図判定部306は、パン移動量dxの値が正値か負値かを判断する(S1503)。ここで、本実施例においてパン駆動の正の方向とは回転軸に対して時計回りの方向、負の方向は時計逆回りの方向であるとする。すなわち、パン移動量dxの値が正値、すなわち撮影範囲において被写体を左から右の位置に移動させたい場合は、パン駆動は負方向に駆動させる。一方で、パン移動量dxの値が負値すなわち撮影範囲において被写体を右から左の位置に移動させたい場合は、パン駆動は正の方向に駆動させる必要がある。
つまり、本実施例においては、パン移動量dxとパン駆動角度dpの符号は逆転する。構図判定部306は、パン移動量dxが負値であればS1504へ移行し、正値であればS1505へ移行する。
構図判定部306は、パン移動量dxが負値であれば、正方向の単位駆動角度(本実施例では0.200とする)およびズーム位置zpの相対画角、ズーム位置0の相対画角から、以下の計算式によってパン駆動角度dpを算出する(S1504)。
dp=0.200×(aov(zp)/aov(0))
例えば、ズーム位置zpが0であれば、
dp=0.200×(1000/1000)=0.200
となり、パン駆動量dpは0.200度正方向と算出される。ズーム位置が100であれば、
dp=0.200×(500/1000)=0.100
となり、パン駆動量dpは0.100度正方向と算出される。
同様に、構図判定部306は、パン移動量dxが正値であれば、負方向の単位駆動角度(本実施例では-0.200とする)およびズーム位置zpの相対画角、ズーム位置0の相対画角から、以下の計算式によってパン駆動角度dpを算出する(S1505)。
dp=-0.200×(aov(zp)/aov(0))
上記に示したように、パン駆動角度dpは、ズーム位置zpによって変化はするものの、その大きさは基本的に一律である。図3を用いて説明したように、この構図調整処理は、撮像部による撮像の周期に合わせて周期的に行われる。よって、ここで算出されるパン駆動量dpは、今回の周期でのパンチルト駆動(S404)から次の周期でのパンチルト駆動(S404)までの間の駆動量である。つまり、S401~S404の処理を複数回繰り返すことで、顔位置を目標位置に近づけていくといった処理となる。また、ズーム位置zpによる画角の違いを各ズーム位置の相対画角aov(zp)を用いて吸収することで、ズーム位置によらず特定の角度を駆動した際の画像データ上での画素変化を一律化することができる。
ステップS1504~1506でパン駆動角度dpを取得すると、続いてチルト駆動角度dtを取得する。まず、構図判定部306は、チルト移動量dyの絶対値が画面垂直解像度5%以上、すなわち27ピクセル以上かどうかを判断する(S1507)。5%以上であればチルト駆動の必要があると判断しS1508へ移行する。一方、5%未満であればチルト移動が小さい、すなわち目標とする位置にほぼ到達しているためチルト駆動の必要がないと判断し、チルト駆動角度として0が取得される(S1511)。
ステップS1507でチルト駆動の必要があると判断されると、構図判定部306は、チルト移動量dyの値が正値か負値かを判断する(S1508)。ここで、本実施例においてチルト駆動の正方向とは上を向くような方向、負方向は下を向くような方向であるとする。すなわち、チルト移動量dyの値が正すなわち画面上の被写体を上から下の位置に移動させたい場合は、チルト駆動は正の方向に駆動させる。一方、チルト移動量dyの値が負すなわち被写体を下から上の位置に移動させたい場合は、パン駆動は負の方向に駆動させる必要がある。
つまり、パン駆動時とは異なり、チルト移動量dyとチルト駆動角度dtの符号は一致する。構図判定部306は、チルト移動量dyが負値であればS1509へ移行し、正値であればS1510へ移行する。
構図判定部306は、チルト移動量dyが負値であれば、負方向の単位駆動角度(本実施例では-0.100とする)およびズーム位置zpの相対画角、ズーム位置0の相対画角から、以下の計算式によってチルト駆動角度dtを算出する(S1509)。
dt=-0.100×(aov(zp)/aov(0))
同様に、構図判定部306は、チルト移動量dyが正値であれば、正方向の単位駆動角度(本実施例では0.100とする)およびズーム位置zpの相対画角、ズーム位置0の相対画角から、以下の計算式によってチルト駆動角度dtを算出する(S1510)。
dt=0.100×(aov(zp)/aov(0))
上記に示したように、パン駆動と同様に、チルト駆動角度dtは、ズーム位置zpによって変化はするものの、その大きさは基本的には一律である。上述のように、構図調整処理は、撮像部による撮像の周期に合わせて周期的に行われるため、S401~S404の処理を複数回繰り返すことで、顔位置を目標位置に近づけていくといった処理となる。
続いて、ステップS505の目標ズーム位置tzpの取得方法について説明する。目標ズーム位置tzpは、対象被写体の顔サイズと位置と撮影する構図パターンに応じて決められている目標顔サイズと目標被写体領域とに基づいて決定する。
図16は、本発実施例に係る構図パターンごとの目標顔サイズおよび目標被写体領域のサイズ(単に目標被写体領域と呼ぶ)との関係を説明する図である。本実施例においては、撮像装置は3パターンの構図パターンを持ち、構図パターンに応じて、被写体を撮影範囲に収める際の顔サイズや被写体領域の大きさが変わるように目標顔サイズと目標被写体領域とが設定されている。図16に示すような、構図パターンに対応付けられた目標顔サイズと目標被写体領域との情報を、不図示のメモリに記憶しておき、この情報を参照することで、次の自動撮影用に設定される構図パターンに対応した目標顔サイズと目標被写体領域とを取得できる。また、構図パターンは1回の自動撮影を終えると順次切り替わるものとし、構図パターン「中」で撮影がされたら構図パターンは「大」となり、構図パターン「大」で撮影がされたら構図パターンは「小」に戻る。
目標顔サイズは、撮影される画像データに対する被写体の顔サイズ割合(顔サイズ/水平解像度×100)の目標値を示している。この目標値は予めメモリに格納されている所定値である。例えば構図パターンが「小」の場合は、目標顔サイズは5%~10%(中央値は7.5%)、すなわち48ピクセル~96ピクセル(中央値は72ピクセル)となる。本実施例においては、最も中央の近くにいる対象被写体の顔サイズが、目標顔サイズの範囲内となるようにズーム位置を算出する。
目標被写体領域とは、画像データの水平解像度に対する被写体領域の大きさの割合の目標値を示している。この目標値も、は予めメモリに格納されている所定値である。被写体領域とは、対象被写体がいる(ある)領域のことであり、対象被写体領域のサイズとは水平方向における対象被写体が存在する領域の右端から左端までの距離をピクセル数で示した値である。具体的に、対象被写体が複数の場合、水平位置が最も小さい(つまり左端の)被写体の左端水平座標位置から、水平位置が最も大きい(つまり右端の)被写体の右端水平座標位置までのピクセル数を示している。対象被写体が1人の場合は、顔サイズが対象被写体領域サイズとなる。例えば構図パターンが「中」の場合の目標被写体領域は70%という所定値以下、すなわち672ピクセル以内に対象被写体が入るようにということを意味している。
目標被写体領域に収まるように構図を調整することで、画面両端あるいは画面左右端のいずれかの一定の領域に余白領域を作ることができ、それによって被写体周囲に位置する別の被写体が検出しやすくなるという効果がある。なお、構図パターンが「大」の場合は、目標被写体領域は不問とし、目標顔サイズのみを参照して、目標ズーム位置tzpを算出する。
図17は、本実施例に係る構図判定部306の、目標ズーム位置tzpを取得する処理、つまり、ステップS505を説明するフローチャートである。この図を用いて、現在のズーム位置zpおよび相対画角aov(zp)、目標顔サイズ、目標被写体領域から、目標ズーム位置tzpを算出する処理について説明する。
まず、構図判定部306は、対象被写体1の顔サイズが目標顔サイズの範囲外、つまり、最小値よりも小さかったり最大値よりも大きかったりするか否かを判断し、範囲外であればS1702へ移行し、範囲内であればS1703へ移行する(S1701)。
構図判定部306は、対象被写体1の顔サイズが目標顔サイズの範囲外である場合、まずは対象被写体1の顔サイズが目標顔サイズの中央値となるような第1ズーム位置zp1を取得する(S1702)。具体的には、まず、顔サイズをfs、目標顔サイズをtfsとし、現在のズーム位置zpの相対画角aov(zp)から、以下の式によって目標の相対画角aov(zp1)を算出する。
aov(zp1)=fs×aov(zp)/tfs
そして、aov(zp1)がaov(zp)より小さい、すなわちテレ側に駆動する必要がある場合は、aov(zp)を現在のズーム位置からテレ方向に順に参照する。そして、aov(zp)が最初にaov(zp1)以下となるズーム位置zpを、第1ズーム位置zp1として決定する。一方、aov(zp1)がaov(zp)より大きい、すなわちワイド側に駆動する必要がある場合は、aov(zp)を現在ズーム位置からワイド方向に順に参照する。そして、aov(zp)が最初にaov(zp1)以上となるズーム位置zpを、第1ズーム位置zp1として決定する。
例えば、対象被写体1の顔サイズfsが80ピクセル、現在のズーム位置zpが0、構図パターンが「中」で目標顔サイズtfsが中央値の12.5%(=120ピクセル)だった場合、まず、目標の相対画角aov(zp1)は下記式で算出する。
aov(zp1)=80×1000/120=667
aov(667)<aov(0)なので、aov(58)=669、aov(59)=665であることから、第1ズーム位置zp1は59となる。
また、算出したaov(zp1)がaov(zp)の最小値(ここでは500)より小さい場合は、第1ズーム位置zp1はテレ側の最大値100と設定する。反対に、算出したaov(zp1)がaov(zp)の最大値(ここでは1000)より大きい場合は、第1ズーム位置zp1はワイド側の最小値0と設定する。
構図判定部306は、ステップS1701で対象被写体1の顔サイズが目標顔サイズの範囲内であると判断された場合は、現在のズーム位置zpを第1ズーム位置zp1とする(S1703)。
次に、構図判定部306は、対象被写体数が複数かどうかを判定する(S1704)。複数であれば被写体領域を考慮して目標ズーム位置tzpを決定する必要があると判断しS1705に移行する。対象被写体数が1であれば、目標顔サイズは目標被写体領域よりも小さく設定されているため、被写体領域を考慮する必要はない。よって、目標ズーム位置tzpに第1ズーム位置zp1を代入してステップS505の処理を終了する(S1712)。
被写体領域を考慮して目標ズーム位置tzpを決定する場合、第1のズーム位置zp1に移動しても被写体領域のサイズが目標被写体領域として設定されている割合を超えるか否かを判断する。そして、超える場合は超えない位置を目標ズーム位置tzpとする(S1705~S1711)。
まず、構図判定部306は、算出した第1ズーム位置zp1に変更した場合の、被写体領域が占める割合である、第1被写体領域を算出する(S1705)。具体的には、現在の被写体領域をsrとして、現在のズーム位置zpの相対画角aov(zp)および第1ズーム位置zp1の相対画角aov(zp1)から、以下の式によって第1被写体領域sr1を算出する。
sr1=sr×aov(zp)/aov(zp1)
例えば、現在の被写体領域srが460ピクセル、現在のズーム位置zpが0で相対画角aov(0)が1000、第1ズーム位置zp1が59で相対画角aov(59)が665だった場合、
sr1=460×1000/665=692
となる。つまり、ズーム位置zpを0から59に変更することによって、被写体領域が460ピクセルから692ピクセルに変化する。尚、第1ズーム位置zp1と現在のズーム位置zpが一致している場合は、計算をせずに、現在の被写体領域srを第1被写体領域sr1とすればよい。第1被写体領域sr1を取得すると、本ステップを終え、S1706に進む。
構図判定部306は、第1被写体領域sr1が目標被写体領域より大きいかどうかを判断する(S1706)。目標被写体領域より大きい場合は目標被写体領域に基づいて目標ズーム位置を取得することが必要と判断してS1707へ移行する。目標被写体領域より小さい場合、または構図パターンが「大」で、目標被写体領域による調整が不要である場合、第1ズーム位置zp1を目標ズーム位置tzpとして処理を終了する(S1712)。
目標被写体領域に基づいて目標ズーム位置を取得する場合、構図判定部306は、被写体領域が目標被写体領域以内となるような第2ズーム位置zp2を算出する(S1707)。具体的には、目標被写体領域をtsrとすると、第1被写体領域sr1および第1ズーム位置zp1の相対画角aov(zp1)から、以下の式によって目標の相対画角aov(zp2)を算出する。
aov(zp2)=sr1×aov(zp1)/tsr
例えば、構図パターンが「中」で目標被写体領域tsrが70%(=672ピクセル)に対し、第1被写体領域sr1が692ピクセル(=72%)で、第1ズーム位置zp1が59で相対画角aov(59)が665、だった場合、
aov(zp2)=692×665/672=685
となる。aov(zp)を第1ズーム位置zp1からワイド方向に順に参照し、aov(zp)が最初に685以上となるズーム位置zpを、第2ズーム位置zp2として決定する。この例では、aov(55)=683、aov(54)=688であることから、第2ズーム位置zp2は54となる。
次に、構図判定部306は、対象被写体1の顔サイズが目標顔サイズの最小値となるような第3ズーム位置zp3を取得する(S1708)。第3ズーム位置zp3は、現在の構図パターンにおけるワイド側ズーム位置の限界値を設定するために取得する。
算出方法は、S1702での説明と同様であり、例えば、対象被写体1の顔サイズfsが80ピクセル、現在のズーム位置zpが0、構図パターンが「中」で目標顔サイズtfsが最小値の10%(=96ピクセル)だった場合、
aov(zp3)=80×1000/96=833
となる。そして、aov(zp)を現在ズーム位置0からテレ方向に順に参照し、aov(zp)が最初に833以下となるズーム位置zpを、第3ズーム位置zp3として決定する。この例では、aov(26)=835、aov(27)=829であることから、第3ズーム位置zp3は27となる。
ここで、aov(zp1)の算出時と同様に、算出したaov(zp2)あるいはaov(zp3)がaov(zp)の最小値(ここでは500)より小さい場合は、第2ズーム位置zp2あるいは第3ズーム位置zp3はテレ側の最大値100と設定する。反対に、算出したaov(zp2)あるいはaov(zp3)がaov(zp)の最大値(ここでは1000)より大きい場合は、第2ズーム位置zp2あるいは第3ズーム位置zp3はワイド側の最小値0と設定する。
第2ズーム位置zp2と第3ズーム位置zp3とを取得すると、構図判定部306は、第2ズーム位置zp2が第3ズーム位置zp3よりも小さいか否かを判定する(S1709)。この判定は、目標被写体領域以下に収めるための第2ズーム位置zp2が、構図パターンの対応するワイド側のズームの限界位置を超えているか否かの判定である。第2ズーム位置zp2が、構図パターンに対応するワイド側の限界位置を超えている場合はS1710へ移行し、そうでなければS1711へ移行する。
第2ズーム位置zp2が、構図パターンに対応するワイド側の限界位置を超えている場合、ズーム位置を第2のズーム位置zp2にすると、被写体1の顔サイズが、構図パターンに対応する顔サイズの最小値よりも小さくなる。よって、構図判定部306は、目標被写体領域以下に収めるための第2ズーム位置zp2を目標ズーム位置に設定するのが不可であると判断する。そして、目標ズーム位置tzpに、その構図パターンに対応するワイド側のズーム位置の限界位置である第3ズーム位置zp3を設定する(S1710)。この場合、被写体領域のサイズは、構図パターンに対応づけられている目標被写体領域よりも大きくなる。
一方、第2ズーム位置zp2が、構図パターンに対応するワイド側の限界位置を超えていない場合は、構図判定部306は、目標被写体領域以下に収めるための第2ズーム位置zp2を目標ズーム位置tzpに設定する(S1711)。
上述したように、被写体の顔が目標の顔サイズ範囲に収まるようにズーム位置zpを調整することで、被写体がカメラに近づいたり遠ざかったりした場合にも、追従して同じ顔サイズの構図での撮影が可能となる。
また、対象被写体が複数存在する場合に、目標被写体領域に応じてワイド側に調整し、一定以上の余白を設けるように構図を調整することで、対象被写体の周囲にいる別の被写体を認識しやすくすることができる。具体的な効果については図20で説明する。
図18~図20は、本実施例に係る対象被写体の被写体情報およびズーム位置zp、構図パターンの例と、目標ズーム位置tzpの取得結果の具体例を説明する図である。
図18では、目標顔サイズに基づいて、ズーム位置をテレ方向に制御する例について説明する。図18(a)は、対象被写体が一人だけいるような場合の、被写体検出部305に入力される画像データの一例を示す図である。図18(b)は、図18(a)の画像データに対する対象被写体の被写体情報、現在のズーム位置zpおよび次回の自動撮影のために設定されている構図パターンを示す図である。
構図パターン「大」の目標顔サイズが15~20%に対し、被写体1の顔サイズが120ピクセル(=12.5%)と、目標顔サイズの範囲外であることから、図17のステップS1702で第1ズーム位置zp1を算出する。目標顔サイズの中央値が17.5%(=168ピクセル)、ズーム位置30のaov(30)が812とすると、
aov(zp1)=120×812/168=580
となる。aov(zp)を現在ズーム位置30からテレ方向に順に参照し、aov(zp)が最初に580以下となるズーム位置zpを、第1ズーム位置zp1として決定する。この例では、aov(78)=583、aov(79)=579であることから、第1ズーム位置zp1は79となる。対象被写体数が1であることから、図17のS1712で目標ズーム位置tzpは第1ズーム位置zp1=79と算出される。
図18(c)は、目標ズーム位置tzpに従ってズーム位置を移動した場合の目標構図例を示す図である。図18(c)に示したように、対象被写体の顔を比較的大きく撮影することができる。
図19では、目標顔サイズに基づいて、ズーム位置をワイド方向に制御する例について説明する。図19(a)は、対象被写体が複数いるような場合の、被写体検出部305に入力される画像データの一例を示す図である。図19(b)は、図19(a)の画像データに対する対象被写体の被写体情報、現在のズーム位置zpおよび次回の自動撮影のために設定されている構図パターンを示す図である。
構図パターン「小」の目標顔サイズが5~10%に対し、被写体1の顔サイズが120ピクセル(=12.5%)と、目標顔サイズの範囲外であることから、図17のステップS1702で第1ズーム位置zp1を算出する。目標顔サイズの中央値が7.5%(=72ピクセル)、ズーム位置70のaov(70)が616とすると、
aov(zp1)=120×616/72=1026
となる。aov(zp)の最大値1000を超えているため、第1ズーム位置zp1は0となる。
対象被写体数が3であることから、図17のステップS1705で第1被写体領域sr1を算出する。現在の被写体領域srは、水平位置が最も小さい(紙面左端の)対象被写体は、被写体2である。ここで、図19(b)に示す対象被写体の被写体情報における顔位置(x、y)は顔の中心の位置であるため、被写体2の左端水平座標位置は、220-120/2=160である。また、水平位置の最も大きい(紙面右端の)対象被写体は、被写体3である。同様に、被写体3の右端水平座標位置は、720+120/2=780である。よって、左端水平座標位置から右端水平座標位置までのピクセル数、すなわち現在の被写体領域srは620ピクセルとなる。
現在の被写体領域srが620ピクセル、現在のズーム位置zpが70で相対画角aov(0)が616、第1ズーム位置zp1が0で相対画角aov(0)が1000なので、第1被写体領域sr1は、
sr1=620×616/1000=382
となる。取得されたsr1が構図パターン「小」における目標被写体領域である768ピクセル(=960×0.8)に対して小さいため、目標ズーム位置tzpは第1ズーム位置zp1=0と取得される。
図19(c)は、目標ズーム位置tzpに従ってズーム位置を移動した場合の目標構図例を示す図である。図19(c)に示したように、対象被写体を周りの背景などを含めて撮影することができる。
図20では、目標顔サイズおよび目標被写体領域に基づいて、ズーム位置をワイド方向に制御する例について説明する。図20(a)は、対象被写体が複数いるような場合の、被写体検出部305に入力される画像データの一例を示す図である。
図20(b)は、図20(a)の画像データに対する対象被写体の被写体情報、現在のズーム位置zpおよび次回の自動撮影のために設定されている構図パターンを示す図である。
構図パターン「中」の目標顔サイズが10~15%に対し、被写体1の顔サイズが120ピクセル(=12.5%)と、目標顔サイズの範囲内であることから、図17のステップS1703で第1ズーム位置zp1には現在のズーム位置zp(=50)を代入する。
対象被写体数が3であることから、図17のステップS1705で第1被写体領域sr1を算出する。現在の被写体領域srは、水平位置が最も小さい被写体5の左端水平座標位置120-120/2=60から水平位置の最も大きい被写体4の右端水平座標位置810+120/2=870までのピクセル数、すなわち810ピクセルとなる。
第1ズーム位置zp1は、現在のズーム位置zpと同一であるため、第1被写体領域sr1は現在の被写体領域である810ピクセルとなる。構図パターン「中」における目標被写体領域672ピクセル(=960×0.7)に対して大きいため、図7のステップS1707で被写体領域が目標被写体領域以内となるような第2ズーム位置zp2を算出する。
目標被写体領域tsrが672ピクセル、第1被写体領域sr1が810ピクセル、第1ズーム位置50の相対画角aov(50)が707であるため、第2ズーム位置zp2の相対画角aov(zp2)は、
aov(zp2)=810×707/672=852
となる。aov(zp)を第1ズーム位置zp1からワイド方向に順に参照し、aov(zp)が最初に852以上となるズーム位置zpを、第2ズーム位置zp2として決定する。この例では、aov(24)=847、aov(23)=853であることから、第2ズーム位置zp2は23となる。
続いて、図17のS1708で対象被写体1の顔サイズが目標顔サイズの最小値となるような第3ズーム位置zp3を算出する。対象被写体1の顔サイズfsが120ピクセル、現在のズーム位置zpが50、構図パターンが「中」で目標顔サイズtfsが最小値の10%(=96ピクセル)であるため、
aov(zp3)=120×707/96=884
となる。aov(zp)をズーム位置0からテレ方向に順に参照し、aov(zp)が最初に884以下となるズーム位置zpを、第3ズーム位置zp3として決定する。この例では、aov(17)=889、aov(18)=883であることから、第3ズーム位置zp3は18となる。
第2ズーム位置zp2=26は、第3ズーム位置zp3は18よりも大きいため、第2ズーム位置zp2が目標顔サイズの範囲内に収まるとして、図17のステップS1711にて第2ズーム位置zp2を目標ズーム位置tzpとして取得する。
図20(c)は、目標ズーム位置tzpに従ってズーム位置を移動した場合の目標構図例を示す図である。また、図20(d)は、図20(c)に示す目標構図にすることで、別の被写体を検出できた場合の例を示す図である。図20(d)に示すように、被写体の領域が占める割合を目標被写体領域以下に収めるようにズーム位置を制御することで、対象被写体を撮影範囲の一部の領域内に収めることができる。それにより、対象被写体以外の被写体や、被写体検出の対象外となる背景等が占める領域である画像データ内の余白を、対象被写体を撮影範囲の全体に収める場合(目標被写体領域を100とする場合)よりも画面の余白を増やすことができる。余白を増やすことにより、図20(a)のようなズーム位置制御前の構図では検出できないような、もう一人の被写体を新しく検出することができることがある。新たに検出されたこの被写体は、対象被写体として設定されている被写体4と顔サイズと顔位置が近いことから、次の構図判定(S403)で対象被写体に設定される。よって、新たに検出された被写体の更に左側(紙面右側)に別の被写体がいる場合はそちらの被写体を検出することもできる。
また、本実施例の撮像装置では、ズーム駆動によって対象被写体のサイズを変更することに加え、パン駆動とチルト駆動により撮影範囲内における対象被写体の位置を変更することができる。パン駆動とチルト駆動とができないと、対象被写体の位置によってはズーム駆動によって被写体を見失う等の不具合が生じてしまうことがある。例えば、被写体1の顔サイズが目標顔サイズの最小値より小さく、且つ、被写体領域が目標被写体領域に対して十分小さいため、ズーム位置zpをテレ側に駆動させる必要があるが、被写体領域の水平方向の座標が780~950と、右側に寄っている場合を考える。パン駆動ができない撮像装置の場合、目標顔サイズにするためにテレ側にズーム駆動をすると対象被写体が撮影範囲内に収まらず、右側からフレームアウトしてしまう。その対策として、フレームアウトしないように、被写体の位置に応じてズーム倍率を制限すると、今度は目標顔サイズにすることができない。本実施例の撮像装置は、パン駆動とチルト駆動ができ、被写体の位置や顔の向きに基づいて撮影方向を変更しながらズーム位置zpを変更することができるため、被写体の位置によらず、被写体の顔サイズが目標顔サイズとなるような構図調整をすることができる。このように、本実施例の撮像装置は、パン駆動とチルト駆動とズーム駆動とを行うことができるため、対象被写体の撮影範囲内の位置に関わらず、被写体領域のサイズに基づいて目標ズーム位置tzpを取得することができる。
なお、本実施例においては、顔サイズの割合や被写体領域の割合など、水平方向の解像度を基準としているが、これに限らず、チルト方向の解像度を基準としても良い。
また、本実施例においては、対象被写体の顔の向きに基づいて、対象被写体の撮影範囲における水平方向の位置が変わる実施例について説明をしたが、垂直方向の位置も制御してもよい。対象被写体が上方向を向いているときには、対象被写体が正面を向いているときよりも上方に余白を増やすように、対象被写体の顔の位置が撮影範囲の下端に近くなるような目標顔位置を設定しておけばよい。同様に、対象被写体が下方向を向いているときには、対象被写体が正面を向いているときよりも下方に余白を増やすように、対象被写体の顔の位置が撮影範囲の上端に近くなるような目標顔位置を設定しておけばよい。
また、本実施例においては、被写体の向きとして、被写体の顔向きを参照して構図を判定している。しかしながら、本発明はこれに限らず、被写体の視線の向き、体の向き、指の向き、腕の向き、等の体の一部を使って方向を示すような他の特徴情報を被写体の向きとして参照しても良いものとする。また、これらの複数の特徴情報を用いて被写体の向きを推定した結果を参照してもよい。
実施例2では、自動撮影の直後に、一旦画角を広げる方向にズーム位置を調整する探索処理を行うことで、撮影範囲外の被写体をより検出しやすくする例について説明する。本実施例において、探索処理は、実施例1と同様に検出した顔の向きに基づいて撮影方向を決定したり、検出した顔のサイズに基づいて目標ズーム位置を決定したりしながら自動撮影が行われた後に行われる。本実施例におけるシステム構成は、実施例1と同じであるため説明を省略する。実施例1と異なる部分について以下に説明する。
図21は、本実施例に係る構図判定部306による、構図判定処理を説明するフローチャートである。ステップS501~S505の処理に関しては、実施例1と同様のため、説明を省略する。
構図判定部306は、対象被写体を決定し(S501)、対象被写体数が1以上であると判定されると(S502でYES)、現在の状態が撮影直後かどうかを判断する(S2101)。つまり、今フレームが直前の自動撮影がされた後の1枚目のフレームであるか否かを判断する。撮影直後でなければ、実施例1と同様の構図判定動作を行うためにステップS503へ移行し、撮影直後であれば、ステップS2102へ移行する。
構図判定部306は、構図判定前に一旦画角を広げるための探索ズーム位置izpを算出する(S2102)。初期ズーム位置izpは、対象被写体の検出が継続できる程度の大きさで対象被写体が撮影され、且つ画角が最大限まで大きくなるズーム位置zpである。本実施例においては、被写体の検出が継続できる最小の顔サイズが画面水平解像度に対して5%である例について説明をする。構図判定部306は、ステップS501で判定した対象被写体のうち、顔サイズが最小である被写体の顔サイズが5%(=48ピクセル)以上となるように、初期ズーム位置izpを計算する。
具体的には、目標顔サイズをtfsとすると、対象被写体の現在の最小顔サイズmfsおよび現在ズーム位置zpの相対画角aov(zp)から、以下の式によって目標の相対画角aov(izp)を算出する。
aov(izp)=mfs×aov(zp)/tfs
最小顔サイズmfsが60ピクセル、現在ズーム位置zpが80、相対画角aov(80)が575の場合を考える。目標顔サイズtfsが48ピクセルであるため、
aov(izp)=60×575/48=719
となる。aov(zp)を現在ズーム位置zpからワイド方向に順に参照し、aov(zp)が719以下を満たす最大のズーム位置zpを、探索ズーム位置izpとして決定する。この例では、aov(48)=717、aov(47)=722であることから、初期ズーム位置izpは48となる。
図22では、探索ズーム位置izpを算出して、ズーム位置をワイド方向に制御する例について説明する。図22(a)は、対象被写体が複数いるような場合の、被写体検出部305に入力される画像データの一例を示す図である。図22(b)は、図22(a)の画像データに対する対象被写体の被写体情報及び現在のズーム位置zpを示す図である。この例の場合、最小の顔サイズは、被写体3の顔サイズ90ピクセルとなる。
目標顔サイズtfsが48ピクセル、最小の顔サイズmfsが90ピクセル、現在ズーム位置100の相対画角aov(100)が500であるため、初期ズーム位置izpの相対画角aov(izp)は、
aov(izp)=90×500/48=938
となる。aov(zp)を現在ズーム位置zpからワイド方向に順に参照し、aov(zp)が938以下を満たす最大のズーム位置zpを、探索ズーム位置izpとして決定する。この例では、aov(10)=933、aov(9)=940であることから、探索ズーム位置izpは10となる。構図判定部306は、この探索ズーム位置izpを目標ズーム位置tzpとして駆動制御部307へ出力し、駆動制御部307とレンズ駆動部309とによりズーム位置が探索ズーム位置に移動する。
図22(c)は、探索ズーム位置izpを目標ズーム位置tzpとしてズーム位置を移動した場合の構図の例を示す図である。図22(d)は、図22(c)に示す構図にすることで、別の被写体を検出できた場合の例を示す図である。図22(d)に示すように、被写体の検出が継続でき、且つ画角が最大限まで大きくなるようにズーム位置zpを調整し、画面の余白を最大限まで増やすことで、図22(a)の構図では検出できないような、他の被写体を新しく検出することができることがある。また、対象被写体の顔サイズに関わらず、画角を最大限又は所定の位置まで広げて周辺の被写体を探索すると、撮影範囲内に被写体が存在しているにもかかわらず、小さすぎ被写体が検出できなくなるという状況が生じ得る。しかしながら、本実施例のように、対象被写体の顔サイズに基づいて探索ズーム位置izpを決定することで、小さすぎて被写体が検出できないという状況が生じる可能性を低くすることができる。
以上、本実施例によれば、パン・チルト・ズームの制御機構を持つデジタルカメラ等の撮像装置において、撮影直後に一旦画角を広げる方向にズーム位置を調整することで、画角外の被写体をより検出しやすくすることができる。
(変形例)
実施例1及び2では、被写体情報を人物の顔の特徴に関わる情報とした。しかしながら、これに限らず、被写体情報として、動物、モノ、等の人物以外の被写体に関する特徴情報を用いることもできる。
図23は、人物に加え動物の顔情報を検出可能とする例を示す図である。被写体情報および構図の調整方法に関しては、実施例1の図11と同様であるため、詳細な説明は省略する。図23の(a)は被写体検出部305に入力される画像データの一例を示す図であり、図23(b)は、図23(a)の画像データに対する対象被写体の被写体情報を示す図である。図23(c)は、被写体1の顔位置(690、390)と図8(c)で示した目標顔位置(192、270)との位置関係を模式的に示した図である。図11(d)は、被写体1のパン移動量dx(1)およびチルト移動量dy(1)と、最終結果として出力されるパン移動量dx、チルト移動量dyを示した図である。図23(e)は、図23(d)に従ってパン方向およびチルト方向に動かした場合の目標構図例を示す図であり、図23(f)は、目標構図にすることで、別の被写体を検出できた場合の例を示す図である。動物やモノの場合は人物とは別の目標顔位置を設定してもよいし、人物の場合は被写体の向きに対応して目標顔位置を設定し、動物の場合は被写体の向きに関わらず同じ目標顔位置を設定してもよい。また、動物やモノと人物とが混在している場合は、パン移動量dx(n)およびチルト移動量dy(n)の単純な平均を算出する代わりに、人物に対して取得されたパン移動量dxおよびチルト移動量dyを重く重みづけした平均を算出する等してもよい。
また、実施例1及び2では、撮像部302を含む鏡筒101がX軸とY軸との両方を中心に回転することにより、パン駆動とチルト駆動との両方が可能な例について説明をした。しかしながら、X軸とY軸と両方を中心に回転可能でなくても、いずれか1軸以上の軸を中心に回転可能であれば本発明を適用できる。例えば、Y軸を中心に回転可能であれば、上述のように被写体の向きに基づいてパン駆動を行えばよい。
また、実施例1及び2では、撮影光学系と撮像素子とを備える鏡筒と鏡筒による撮像方向を制御する撮像制御装置とが一体化された撮像装置を例に説明をした。しかしながら、本発明はこれに限定されない。例えば、撮像装置はレンズが交換可能な構成としてもよい。
また、固定された撮像装置をパン方向とチルト方向とに駆動する回転機構を備える雲台に、撮像装置を固定することでも同様の機能を実現できる。尚、撮像装置は撮像機能を有していればそのほかの機能を有していてもよく、例えば撮像機能を有するスマートフォンを固定することができる雲台とスマートフォンとを組み合わせることで、実施例1,2と同様の構成をとることもできる。また、鏡筒とその回転機構(チルト回転ユニットとパン回転ユニット)と、制御ボックスは必ず物理的に接続されている必要はなく、例えば、Wi-Fiなどの無線通信を介して回転機構やズーム機能を制御してもよい。
また、実施例1及び2ではレンズユニットがズーム機能を有する構成について説明をした。しかしながら、ズーム機能を有さないレンズユニットを用いる場合であっても、被写体の向きに基づいて撮像範囲における被写体の位置を変更することで、撮影範囲外の被写体の撮り逃しを低減するという効果を奏することができる。
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形および変更が可能である。
100 撮像装置
101 鏡筒
102 チルト回転ユニット
103 パン回転ユニット
104 制御ボックス
110 外部機器
301 レンズユニット
302 撮像部
303 画像処理部
304 画像記録部
305 被写体検出部
306 構図判定部
307 駆動制御部
308 鏡筒回転駆動部
309 レンズ駆動部

Claims (25)

  1. 撮影光学系からの光に基づいて画像データを取得する撮像手段から前記画像データを取得し、当該画像データから検出した被写体の向きを検出する検出手段と、
    前記撮像手段の回転駆動を制御することで前記撮像手段の撮影方向を制御する制御手段と、を備え、
    前記制御手段は、
    前記検出手段により検出された前記被写体の向きに応じて、前記撮像手段の撮像範囲における当該被写体の位置が変わり、
    前記被写体が正面を向いている場合よりも、前記被写体が第1の方向を向いている場合のほうが、前記第1の方向側の撮像範囲の端と、前記被写体との距離が長くなるように、前記撮像手段の撮影方向を制御し、
    前記検出手段により、少なくとも1つの被写体が検出されている場合に、ズームアウトして、前記画像データから検出されていない被写体を探索する探索処理を実行することを特徴とする撮像制御装置。
  2. 前記制御手段は、
    前記探索処理において、前記検出手段により検出された被写体のサイズに基づいて現在のズーム位置よりも広角側に位置する探索ズーム位置を取得し、
    前記探索ズーム位置に基づいてズーム位置を制御することを特徴とする請求項1項に記載の撮像制御装置。
  3. 撮影光学系からの光に基づいて画像データを取得する撮像手段から前記画像データを取得し、当該画像データから検出した被写体の向きを検出する検出手段と、
    前記撮像手段の回転駆動を制御することで前記撮像手段の撮影方向を制御する制御手段と、を備え、
    前記制御手段は、
    前記検出手段により検出された前記被写体の向きに応じて、前記撮像手段の撮像範囲における当該被写体の位置が変わり、
    前記被写体が正面を向いている場合よりも、前記被写体が第1の方向を向いている場合のほうが、前記第1の方向側の撮像範囲の端と、前記被写体との距離が長くなるように、前記撮像手段の撮影方向を制御し、
    前記検出手段により検出された被写体のサイズに基づいて、探索ズーム位置を取得し、
    前記探索ズーム位置に基づいてズーム位置を制御することで、前記画像データから検出されていない被写体を探索するための探索処理を実行可能であることを特徴とする撮像制御装置。
  4. 前記探索ズーム位置は、前記検出手段により検出された被写体が検出可能な範囲で最大の画角となるズーム位置であることを特徴とする請求項2または3に記載の撮像制御装置。
  5. 前記制御手段は、
    前記検出手段により被写体の向きが検出された場合、前記検出された被写体の向きに応じて前記撮影方向を制御し、当該撮影方向で前記撮像手段により自動撮影が行われた後、前記探索処理を行うことを特徴とする請求項1乃至4のいずれか1項に記載の撮像制御装置。
  6. 前記制御手段は、前記被写体が撮影範囲内に収まるように前記撮影方向を制御することを特徴とする請求項1乃至5のいずれか1項に記載の撮像制御装置。
  7. 前記検出手段により検出された被写体のうち、撮影対象とする被写体を決定する決定手段を備え、
    前記制御手段は、前記決定手段により撮影対象とする被写体に決定された被写体が撮影範囲内に収まるように前記撮影方向を制御することを特徴とする請求項に記載の撮像制御装置。
  8. 前記検出手段により検出された被写体のうち、撮影対象とする被写体を決定する決定手段を備え、
    前記制御手段は、前記決定手段により撮影対象とする被写体に決定された被写体が撮影範囲内に収まるように前記撮影方向を制御し、
    前記制御手段は、前記探索ズーム位置を前記撮影対象とする被写体のサイズに基づいて取得することを特徴とする請求項2乃至4のいずれか1項に記載の撮像制御装置。
  9. 前記検出手段は、前記制御手段による前記撮影方向の制御の後に再度前記画像データから被写体を検出する
    ことを特徴とする請求項1乃至のいずれか1項に記載の撮像制御装置。
  10. 前記制御手段は、前記被写体が正面を向いている場合よりも、前記被写体が前記撮影光学系からみて左方向を向いている場合の方が、前記撮像範囲における当該被写体の位置が前記撮像範囲の右端に近くなるように前記撮影方向を決定することを特徴とする請求項1乃至のいずれか1項に記載の撮像制御装置。
  11. 前記制御手段は、前記被写体が正面を向いている場合よりも、前記被写体が前記撮影光学系からみて右方向を向いている場合のほうが、前記撮像範囲における当該被写体の位置が前記撮像範囲の左端に近くなるように前記撮影方向を決定することを特徴とする請求項1乃至10のいずれか1項に記載の撮像制御装置。
  12. 前記制御手段は、前記被写体が正面を向いている場合よりも、前記被写体が上方向を向いている場合のほうが、前記撮像範囲における当該被写体の位置が前記撮像範囲の下端に近くなるように前記撮影方向を決定することを特徴とする請求項1乃至11のいずれか1項に記載の撮像制御装置。
  13. 前記制御手段は、前記被写体が正面を向いている場合よりも、前記被写体が下方向を向いている場合のほうが、前記撮像範囲における当該被写体の位置が前記撮像範囲の上端に近くなるように前記撮影方向を決定することを特徴とする請求項1乃至12のいずれか1項に記載の撮像制御装置。
  14. 前記制御手段は、前記撮像範囲における被写体の位置と前記被写体が向いている方向とに基づいて前記撮影方向を制御することを特徴とする請求項1乃至13のいずれか1項に記載の撮像制御装置。
  15. 前記検出手段により検出された被写体のうち、撮影対象とする被写体を決定する決定手段を備え、
    前記制御手段は、前記決定手段により撮影対象とする被写体に決定された被写体の位置と当該被写体の向きとに基づいて前記撮影方向を制御することを特徴とする請求項14に記載の撮像制御装置。
  16. 前記被写体の向きとは、
    顔の向き、視線の向き、体の向き、指の向き、腕の向き、の少なくともいずれかであることを特徴とする請求項1乃至15のいずれか1項に記載の撮像制御装置。
  17. 前記制御手段は、前記撮像手段を少なくとも1軸以上の軸を中心に回転させることにより、
    パン駆動とチルト駆動の少なくともいずれかを行う回転機構による回転駆動を制御することを特徴とする請求項1乃至16のいずれか1項に記載の撮像制御装置。
  18. 前記制御手段は、
    前記検出手段により検出された被写体のサイズに基づいて目標ズーム位置を決定し、
    前記目標ズーム位置に基づいて前記撮影光学系のズーム機構を制御することを特徴とする請求項1乃至17のいずれか1項に記載の撮像制御装置。
  19. 前記制御手段は、前記撮像手段の撮影範囲の中心を含む一部の領域内に前記被写体が収まるように前記目標ズーム位置を決定することを特徴とする請求項18に記載の撮像制御装置。
  20. 前記制御手段は、前記撮影方向を決定した後に前記目標ズーム位置を決定することを特徴とする請求項18または19に記載の撮像制御装置。
  21. 前記検出手段は、前記画像データから人物を被写体として検出し、前記人物の特徴を示す被写体情報を取得し、
    前記制御手段は、前記被写体情報に基づいて前記撮影方向を制御することを特徴とする請求項1乃至20のいずれか1項に記載の撮像制御装置。
  22. 前記撮影方向とは、前記撮影光学系の光軸方向又は、前記光軸方向に対応する方向であることを特徴とする請求項1乃至21のいずれか1項に記載の撮像制御装置。
  23. 請求項1乃至22のいずれか1項に記載の撮像制御装置と、前記撮像手段とを備える撮像装置。
  24. 撮影光学系からの光に基づいて画像データを取得する撮像素子を有する撮像手段から前記画像データを取得する取得工程と、
    前記画像データから検出した被写体の向きを検出する検出工程と、
    前記撮像手段の回転駆動を制御することで、前記撮像手段の撮影方向を制御する制御工程と、
    前記画像データから検出されていない被写体を探索するための探索工程と、を有し、
    前記制御工程は、前記被写体の向きに応じて、前記撮像手段の撮像範囲における当該被写体の位置が変わり、
    前記被写体が正面を向いている場合よりも、
    前記被写体が第1の方向を向いている場合のほうが、
    前記第1の方向側の撮像範囲の端と、前記被写体との距離が長くなるように前記回転駆動を制御することで、前記撮像手段の撮影方向を制御し、
    前記探索工程は、前記検出工程により、少なくとも1つの被写体が検出されている場合に実行されることを特徴とする撮像制御方法。
  25. 撮影光学系からの光に基づいて画像データを取得する撮像素子を有する撮像手段から前記画像データを取得する取得工程と、
    前記画像データから検出した被写体の向きを検出する検出工程と、
    前記撮像手段の回転駆動を制御することで、前記撮像手段の撮影方向を制御する制御工程と、
    前記画像データから検出されていない被写体を探索するための探索工程と、を有し、
    前記制御工程は、前記被写体の向きに応じて、前記撮像手段の撮像範囲における当該被写体の位置が変わり、
    前記被写体が正面を向いている場合よりも、
    前記被写体が第1の方向を向いている場合のほうが、
    前記第1の方向側の撮像範囲の端と、前記被写体との距離が長くなるように前記回転駆動を制御することで、前記撮像手段の撮影方向を制御し、
    前記探索工程は、前記検出工程により検出された被写体のサイズに基づいて探索ズーム位置を取得し、前記探索ズーム位置に基づいてズーム位置を制御することで実行可能であることを特徴とする撮像制御方法。
JP2019176642A 2019-09-27 2019-09-27 撮像制御装置、撮像装置、及び撮像制御方法 Active JP7383438B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2019176642A JP7383438B2 (ja) 2019-09-27 2019-09-27 撮像制御装置、撮像装置、及び撮像制御方法
US17/028,718 US11206357B2 (en) 2019-09-27 2020-09-22 Shooting control apparatus, image capture apparatus, and shooting control method
CN202011032864.3A CN112584035B (zh) 2019-09-27 2020-09-27 拍摄控制设备、摄像设备及拍摄控制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019176642A JP7383438B2 (ja) 2019-09-27 2019-09-27 撮像制御装置、撮像装置、及び撮像制御方法

Publications (3)

Publication Number Publication Date
JP2021057660A JP2021057660A (ja) 2021-04-08
JP2021057660A5 JP2021057660A5 (ja) 2022-09-28
JP7383438B2 true JP7383438B2 (ja) 2023-11-20

Family

ID=75119641

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019176642A Active JP7383438B2 (ja) 2019-09-27 2019-09-27 撮像制御装置、撮像装置、及び撮像制御方法

Country Status (3)

Country Link
US (1) US11206357B2 (ja)
JP (1) JP7383438B2 (ja)
CN (1) CN112584035B (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022128941A (ja) * 2021-02-24 2022-09-05 キヤノン株式会社 撮像装置、コンピュータプログラム、記憶媒体及び撮像装置の制御方法
WO2023171120A1 (ja) * 2022-03-11 2023-09-14 ソニーグループ株式会社 情報処理装置、情報処理方法、およびプログラム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006229322A (ja) 2005-02-15 2006-08-31 Matsushita Electric Ind Co Ltd 自動追尾制御装置及び自動追尾制御方法、並びにプログラム、自動追尾システム
JP2007208453A (ja) 2006-01-31 2007-08-16 Matsushita Electric Ind Co Ltd 自動追尾装置及び自動追尾方法
JP2017079408A (ja) 2015-10-20 2017-04-27 キヤノン株式会社 ズーム制御装置、ズーム制御装置の制御方法、ズーム制御装置の制御プログラム及び記憶媒体

Family Cites Families (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7315630B2 (en) * 2003-06-26 2008-01-01 Fotonation Vision Limited Perfecting of digital image rendering parameters within rendering devices using face detection
JP2007086269A (ja) * 2005-09-21 2007-04-05 Hitachi Kokusai Electric Inc カメラ装置およびカメラ装置のズームレンズ光学系の焦点距離調節方法
JP5115139B2 (ja) * 2007-10-17 2013-01-09 ソニー株式会社 構図判定装置、構図判定方法、プログラム
US8125512B2 (en) * 2007-11-16 2012-02-28 Samsung Electronics Co., Ltd. System and method for moving object selection in a handheld image capture device
JP5040760B2 (ja) 2008-03-24 2012-10-03 ソニー株式会社 画像処理装置、撮像装置、表示制御方法およびプログラム
KR20110004083A (ko) 2009-07-07 2011-01-13 삼성전자주식회사 디지털 영상 처리 장치 및 방법
JP5359645B2 (ja) * 2009-07-23 2013-12-04 ソニー株式会社 構図判定装置、撮像システム、構図判定方法、プログラム
JP2011114487A (ja) 2009-11-25 2011-06-09 Olympus Imaging Corp 撮像装置
JP5620142B2 (ja) 2010-04-28 2014-11-05 オリンパスイメージング株式会社 撮像装置および撮像方法
JP6168720B2 (ja) 2011-11-07 2017-07-26 オリンパス株式会社 撮影システム
JP2013219556A (ja) 2012-04-09 2013-10-24 Olympus Imaging Corp 撮像装置
JP2013247508A (ja) 2012-05-25 2013-12-09 Canon Inc 自動追尾カメラの制御装置及び該制御装置を有する自動追尾カメラ
EP2936794A4 (en) 2012-12-18 2016-08-10 Nokia Technologies Oy METHOD AND APPARATUS FOR FORMING A VIDEO SEQUENCE
JP2014183425A (ja) 2013-03-19 2014-09-29 Sony Corp 画像処理方法、画像処理装置および画像処理プログラム
JP6566626B2 (ja) 2014-11-18 2019-08-28 キヤノン株式会社 撮像装置
JP6436760B2 (ja) * 2014-12-24 2018-12-12 キヤノン株式会社 ズーム制御装置、撮像装置、ズーム制御装置の制御方法、及びズーム制御装置の制御プログラム
CN107211088B (zh) * 2015-02-02 2020-05-08 富士胶片株式会社 相机装置、摄像系统、控制方法及有形介质
JP6512897B2 (ja) 2015-03-30 2019-05-15 キヤノン株式会社 ズーム制御装置、ズーム制御装置の制御方法
JP6590628B2 (ja) 2015-10-09 2019-10-16 キヤノン株式会社 撮像装置、その制御方法、およびプログラム、並びに記憶媒体
CN105554391B (zh) * 2015-12-31 2019-05-14 广州广电运通金融电子股份有限公司 摄像头的控制方法及装置、金融设备终端
CN105718862A (zh) * 2016-01-15 2016-06-29 北京市博汇科技股份有限公司 一种单摄像头教师自动跟踪方法、装置及录播系统
EP3550820A4 (en) 2016-12-01 2019-12-11 Sharp Kabushiki Kaisha DEVICE FOR LEADING PHOTOGRAPHY ADJUSTMENT INFORMATION, PHOTOGRAPHY DEVICE, METHOD FOR DERIVING PHOTOGRAPHY SETTING INFORMATION, CONTROL PROGRAM AND RECORDING MEDIUM
US10187579B1 (en) * 2017-06-30 2019-01-22 Polycom, Inc. People detection method for auto-framing and tracking in a video conference
CN110086992A (zh) * 2019-04-29 2019-08-02 努比亚技术有限公司 移动终端的拍摄控制方法、移动终端及计算机存储介质
JP7451122B2 (ja) * 2019-09-27 2024-03-18 キヤノン株式会社 撮像制御装置、撮像装置、及び撮像制御方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006229322A (ja) 2005-02-15 2006-08-31 Matsushita Electric Ind Co Ltd 自動追尾制御装置及び自動追尾制御方法、並びにプログラム、自動追尾システム
JP2007208453A (ja) 2006-01-31 2007-08-16 Matsushita Electric Ind Co Ltd 自動追尾装置及び自動追尾方法
JP2017079408A (ja) 2015-10-20 2017-04-27 キヤノン株式会社 ズーム制御装置、ズーム制御装置の制御方法、ズーム制御装置の制御プログラム及び記憶媒体

Also Published As

Publication number Publication date
US20210099652A1 (en) 2021-04-01
CN112584035A (zh) 2021-03-30
US11206357B2 (en) 2021-12-21
JP2021057660A (ja) 2021-04-08
CN112584035B (zh) 2023-06-02

Similar Documents

Publication Publication Date Title
JP6735583B2 (ja) ズーム制御装置、撮像装置及びそれらの制御方法、プログラム並びに記憶媒体
US9253410B2 (en) Object detection apparatus, control method therefor, image capturing apparatus, and storage medium
US8164643B2 (en) Composition determining apparatus, composition determining method, and program
US8184965B2 (en) Imaging device
EP2139226A1 (en) Image recording apparatus, image recording method, image processing apparatus, image processing method, and program
JP2013013050A (ja) 撮像装置及びこの撮像装置を用いた表示方法
JP6863284B2 (ja) 検出装置、検出方法、検出プログラムおよび撮像装置
JP7383438B2 (ja) 撮像制御装置、撮像装置、及び撮像制御方法
JP2019029998A (ja) 撮像装置、撮像装置の制御方法、および制御プログラム
JP5843525B2 (ja) 撮像装置及びその制御方法
JP6833801B2 (ja) 撮像装置、撮像方法、プログラムおよび記録媒体
JP7451122B2 (ja) 撮像制御装置、撮像装置、及び撮像制御方法
JP2015031726A (ja) 撮像装置、撮像装置の制御方法、撮像装置の制御プログラムおよび記憶媒体
JP6224925B2 (ja) 制御装置及び画角制御方法
EP2211536A1 (en) Photographing apparatus and focus detecting method using the same
JP7438706B2 (ja) 撮像制御装置、撮像装置、及び撮像制御方法
JP5157116B2 (ja) 撮影装置、合成画像作成方法及びプログラム
JP6188455B2 (ja) 制御装置、撮像システム、画角制御方法、プログラム、および、記憶媒体
JP2005175852A (ja) 撮影装置及び撮影装置の制御方法
JP6080825B2 (ja) 撮像装置及びその制御方法
WO2021251298A1 (ja) 画像処理装置およびその制御方法
JP2018113624A (ja) 撮像装置、及び撮像装置の制御方法
JP6824061B2 (ja) 撮像装置、撮像装置が実行する制御方法、プログラム、及び記憶媒体
JP2021057816A (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
JP2020161960A (ja) 撮像装置及びその制御方法、プログラム、記憶媒体

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220916

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220916

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230707

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230718

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230912

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231010

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231108

R151 Written notification of patent or utility model registration

Ref document number: 7383438

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151