JP7384200B2 - 構図制御装置、構図制御方法、プログラム - Google Patents

構図制御装置、構図制御方法、プログラム Download PDF

Info

Publication number
JP7384200B2
JP7384200B2 JP2021522664A JP2021522664A JP7384200B2 JP 7384200 B2 JP7384200 B2 JP 7384200B2 JP 2021522664 A JP2021522664 A JP 2021522664A JP 2021522664 A JP2021522664 A JP 2021522664A JP 7384200 B2 JP7384200 B2 JP 7384200B2
Authority
JP
Japan
Prior art keywords
composition
subject
detected
imaging device
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021522664A
Other languages
English (en)
Other versions
JPWO2020241038A1 (ja
Inventor
優太 中尾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Sony Group Corp
Original Assignee
Sony Corp
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp, Sony Group Corp filed Critical Sony Corp
Publication of JPWO2020241038A1 publication Critical patent/JPWO2020241038A1/ja
Application granted granted Critical
Publication of JP7384200B2 publication Critical patent/JP7384200B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/695Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B17/00Details of cameras or camera bodies; Accessories therefor
    • G03B17/56Accessories
    • G03B17/561Support related camera accessories
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S3/00Direction-finders for determining the direction from which infrasonic, sonic, ultrasonic, or electromagnetic waves, or particle emission, not having a directional significance, are being received
    • G01S3/78Direction-finders for determining the direction from which infrasonic, sonic, ultrasonic, or electromagnetic waves, or particle emission, not having a directional significance, are being received using electromagnetic waves other than radio waves
    • G01S3/782Systems for determining direction or deviation from predetermined direction
    • G01S3/785Systems for determining direction or deviation from predetermined direction using adjustment of orientation of directivity characteristics of a detector or detector system to give a desired condition of signal derived from that detector or detector system
    • G01S3/786Systems for determining direction or deviation from predetermined direction using adjustment of orientation of directivity characteristics of a detector or detector system to give a desired condition of signal derived from that detector or detector system the desired condition being maintained automatically
    • G01S3/7864T.V. type tracking systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/62Control of parameters via user interfaces
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • H04N23/632Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters for displaying or modifying preview images prior to image capturing, e.g. variety of image resolutions or capturing parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/64Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/69Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Electromagnetism (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Studio Devices (AREA)

Description

本技術は構図制御装置、構図制御方法、及びプログラムに関し、特には目標とする構図を指定する際の操作受け付けに係る技術に関する。
例えば電動ジンバル等、撮像方向を変化させるように撮像装置を駆動可能な雲台装置が知られている。そして、この種の雲台装置を用いて、被写体追尾を行うことが可能とされている。具体的には、対象とする被写体が撮像画像内の中心位置等の所定位置に位置するように、雲台装置の制御(雲台装置に内蔵されるアクチュエータの駆動制御)を行うものである。
下記特許文献1には、雲台装置を用いた被写体追尾の技術が開示されている。具体的に、特許文献1では、先ず、雲台装置をパン、チルト動作させる操作をユーザに実行させて、追尾対象とする被写体を画面内の所望位置に配置させる。すなわち、追尾時の目標とする構図への調整が、ユーザのパン、チルト操作に基づき行われる。そして、このように構図の調整が行われた後、ユーザにより操作ボタン10が操作されると、調整された構図が維持されるように、対象とする被写体の追尾動作が開始される。
また、特許文献1では、上記のようなパン、チルト操作で調整した構図を、追尾時における目標構図として登録可能とされている。登録された構図の情報(具体的には、追尾被写体Sについての追尾対象枠の中心座標Mp及び大きさFtの情報)は、ショットボタン16に対応づけられており、ショットボタン16が操作されると、登録した構図を維持するように被写体の追尾動作が開始される。
特開2013-247508号公報
上記した特許文献1に記載の技術では、目標とする構図への調整はユーザによる雲台装置のパン、チルト操作に基づき行われるため、被写体が動くシチュエーションでは、意図した構図に調整することが困難となる。また、ショットボタン16を用いて事前登録した構図に切り替える場合であっても、事前にパン、チルト操作により構図の調整を行っておくことに変わりはなく、目標構図に調整するための操作が困難となる。
本技術は上記事情に鑑み為されたものであり、構図調整に係る操作について操作性向上を図ることを目的とする。
本技術に係る構図制御装置は、撮像装置の構図を指定する操作情報であり、前記撮像装置の撮像画像を表示する画面上における指定位置の情報を含む構図指定操作情報を取得し、前記構図指定操作情報の前記指定位置に対応する被写体情報に基づいて前記撮像装置の構図を調整するように前記撮像装置の撮像範囲を制御する制御部を備えるものである。
構図指定操作情報は、撮像画像を表示する画面上における指定位置の情報を含む。このため、撮像画像を表示する画面上での位置を指定するという直感的な操作に基づき、目標とする構図への調整が行われる。具体的に、上記構成では、画面上の指定位置に対応する被写体情報に基づいて撮像装置の構図が調整される。被写体情報とは、撮像画像内の被写体に関する情報であり、少なくとも、検出被写体の有無を表す情報とされる。このため、構図の調整は、画面上の検出被写体の位置を指定する操作等、直感的な操作に基づき行われる。
上記した本技術に係る構図制御装置においては、前記制御部は、前記被写体情報が、前記撮像画像から検出された検出被写体を示す場合は、前記検出被写体を追尾するように前記撮像範囲を制御する構成とすることが可能である。
これにより、追尾対象とする被写体の指定操作は、画面内の検出被写体を指定する操作とされる。
上記した本技術に係る構図制御装置においては、前記制御部は、前記被写体情報が、前記検出被写体を示さない場合は、前記指定位置の被写体を追尾するための制御を行わない構成とすることが可能である。
これにより、例えば検出被写体の背景部分等、ユーザが追尾を望んでいないと推定される被写体が指定された場合には、指定位置の被写体の追尾が行われない。
上記した本技術に係る構図制御装置においては、前記構図指定操作情報は、前記画面の面内における方向を指定する方向指定操作に基づく方向指定操作情報を含み、前記制御部は、前記方向指定操作情報に基づき前記撮像範囲を制御する構成とすることが可能である。
この方向指定操作により、位置の指定操作で指定された被写体の画面内での位置の変更方向など、構図調整に係る方向の指定が可能とされる。
上記した本技術に係る構図制御装置においては、前記構図指定操作情報は、前記画面のタッチ操作により検出され、前記指定位置は、前記画面のタッチ開始位置である構成とすることが可能である。
これにより、追尾対象とする被写体の指定操作は、画面上で被写体をタッチするという簡易な操作とすることが可能とされる。
上記した本技術に係る構図制御装置においては、前記方向指定操作情報は前記画面をなぞる操作により検出される構成とすることが可能である。
これにより、構図調整に係る方向の指定操作が、画面上において構図を変更したい方向に指をスライドさせるという直感的な操作で実現可能となる。
上記した本技術に係る構図制御装置においては、前記制御部は、前記撮像装置が取り付けられた雲台装置を制御して前記撮像範囲の制御を行う構成とすることが可能である。
これにより、雲台装置により撮像装置の撮像方向を変えることによる構図調整を行うことが可能とされる。
上記した本技術に係る構図制御装置においては、前記雲台装置は、前記撮像装置のパン又はチルト方向における向きを調整可能に構成され、前記パン又はチルト方向を指定する前記構図指定操作情報が前記画面を直線状になぞる操作により検出される構成とすることが可能である。
これにより、パン又はチルト方向の指定操作は、パン又はチルト方向に沿って直線的に指をスライドさせるという直感的な操作で実現される。
上記した本技術に係る構図制御装置においては、前記雲台装置は、前記撮像装置のロール方向における向きを調整可能に構成され、前記ロール方向を指定する前記構図指定操作情報が前記画面を円弧状になぞる操作とされた構成とすることが可能である。
これにより、ロール方向の指定操作は、ロール方向に沿った円弧状に指をスライドさせるという直感的な操作で実現される。
上記した本技術に係る構図制御装置においては、前記制御部は、前記撮像装置が取り付けられた雲台装置を制御して前記撮像範囲の制御を行うと共に、前記被写体情報が、前記撮像画像から検出された検出被写体を示す場合には、前記方向指定操作により指定された方向とは逆方向に前記撮像装置の向きを変化させ、前記被写体情報が前記検出被写体を示さない場合には、前記方向指定操作により指定された方向に前記撮像装置の向きを変化させるように前記雲台装置を制御する構成とすることが可能である。
位置指定操作が検出被写体の指定操作であった場合、ユーザは、その後の方向指定操作によって検出被写体の画面内における位置を変更することを望んでいると推定できるため、該方向指定操作により指定された方向とは逆方向に撮像装置の向きを変化させる。一方、位置指定操作が検出被写体以外の位置の指定操作であった場合、ユーザは、その後の方向指定操作によって撮像方向の変化方向を直接的に指定していると推定できるため、該方向指定操作により指定された方向に撮像装置の向きを変化させる。
上記した本技術に係る構図制御装置においては、前記制御部は、前記撮像装置が取り付けられた雲台装置を制御して前記撮像範囲の制御を行うと共に、前記被写体情報が前記検出被写体を示す場合は、前記追尾に係るパラメータとして、前記検出被写体の種類に応じたパラメータを用いて前記雲台装置を制御する構成とすることが可能である。
これにより、指定された被写体が動きの速い種類の被写体である場合には追従性を高めたパラメータによる追尾制御を行い、動きの遅い種類の被写体である場合には追従性を低くしたパラメータによる追尾制御を行う等、指定された被写体に応じたパラメータによる追尾制御を行うことが可能とされる。
上記した本技術に係る構図制御装置においては、前記雲台装置は、前記撮像装置のパン方向及びチルト方向の向きを調整可能に構成され、前記制御部は、前記雲台装置のパン方向の制御、チルト方向の制御それぞれについて、前記検出被写体の種類に応じた前記パラメータを用いる構成とすることが可能である。
これにより、指定された被写体の種類に応じてパン方向、チルト方向の追尾特性を個別に設定可能となる。例えば、被写体が鳥の場合、パン、チルト方向の双方で追尾応答性を高め、被写体が犬の場合はパン方向の追尾応答性は高めるがチルト方向の追尾応答性は低くするといったことが可能とされる。
上記した本技術に係る構図制御装置においては、前記制御部は、前記検出被写体の種類に応じて、パン方向及びチルト方向の追尾応答性が高い前記パラメータを用いる第一追尾モードと、パン方向及びチルト方向の追尾応答性が低い前記パラメータを用いる第二追尾モードと、パン方向、チルト方向の何れか一方の追尾応答性が低く、パン方向、チルト方向の何れか他方の追尾応答性が高い前記パラメータを用いる第三追尾モードの何れかのモードによる追尾制御を行う構成とすることが可能である。
これにより、指定された被写体の種類に応じて、追尾応答性を高める必要のない方向について過剰に応答性を高めた追尾が行われてしまうことの防止が図られる。
上記した本技術に係る構図制御装置においては、前記制御部は、前記検出被写体の種類に応じた前記パラメータを用いた前記雲台装置の制御を開始した後、該検出被写体の位置と追尾の目標位置との誤差に基づいて前記パラメータの調整を行う構成とすることが可能である。
指定された被写体の位置と追尾の目標位置との誤差の大きさにより、設定したパラメータが実際の被写体の動きに適しているか否かを判定可能となる。
上記した本技術に係る構図制御装置においては、前記制御部は、前記被写体情報が、前記画面内における人物として検出された検出被写体を示す場合において、前記検出被写体について検出された人体の簡易モデル情報に基づき前記撮像範囲の制御を行う構成とする可能である。
人体の簡易モデル情報とは、人体における眼、耳、鼻、口、首、肩、肘、手首、尻、膝、足首等、人体を構成する複数部位の配置状態を表す情報である。上記構成によれば、構図変更のための撮像範囲の制御は、雲台の駆動方向や駆動量を直接指示する操作や焦点距離の調整操作に基づかず、上記の簡易モデル情報から推定される例えば被写体の各部位の位置や姿勢に基づいて行うことが可能とされる。
上記した本技術に係る構図制御装置においては、前記制御部は、前記簡易モデル情報から推定される前記検出被写体の向きの情報に基づき、該検出被写体の正面方向側に画角中心が位置するように前記撮像範囲を制御する構成とすることが可能である。
これにより、指定された被写体の正面側に空間が確保された自然な構図に調整することが可能とされる。
上記した本技術に係る構図制御装置においては、前記構図指定操作情報は、前記画面のタッチ操作により検出され、前記指定位置は、前記画面のタッチ開始位置であり、前記制御部は、前記指定位置の検出後の前記画面上における操作に基づいて、前記簡易モデル情報に基づく前記撮像範囲の制御を行う構成とすることが可能である。
これにより、例えば被写体の全身が映る構図、半身のみが映る構図への調整等、簡易モデル情報に基づく構図調整は、画面上のタッチ操作により対象とする被写体を指定した上で、画面上における操作を行うという簡易な操作により実現可能とされる。
上記した本技術に係る構図制御装置においては、前記制御部は、前記画面上に撮像画像が表示される前記撮像装置とは別途の撮像装置による撮像画像について行われた画像認識処理の結果に基づき、前記撮像範囲の制御を行う構成とすることが可能である。
これにより、画像認識処理に用いる撮像画像については、ユーザによる作画意図に応じたカメラ設定での撮像画像ではなく、画像認識処理に適したカメラ設定での撮像画像を用いることが可能とされる。
また、本技術に係る構図制御方法は、撮像装置の構図を指定する操作情報であり、前記撮像装置の撮像画像を表示する画面上における指定位置の情報を含む構図指定操作情報を取得し、前記構図指定操作情報の前記指定位置に対応する被写体情報に基づいて前記撮像装置の構図を調整するように前記撮像装置の撮像範囲を制御する構図制御方法である。
このような構図制御方法によっても、上記した本技術に係る構図制御装置と同様の作用が得られる。
また、本技術に係るプログラムは、撮像装置の構図を指定する操作情報であり、前記撮像装置の撮像画像を表示する画面上における指定位置の情報を含む構図指定操作情報を取得し、前記構図指定操作情報の前記指定位置に対応する被写体情報に基づいて前記撮像装置の構図を調整するように前記撮像装置の撮像範囲を制御する機能を、情報処理装置に実現させるプログラムである。
このようなプログラムにより、上記した本技術に係る構図制御装置が実現される。
本技術に係る第一実施形態としての構図制御装置を備えた撮像システムの外観構成例についての説明図である。 実施形態における雲台装置の内部構成例を示したブロック図である。 第一実施形態としての構図制御装置の内部構成例を示したブロック図である。 検出被写体が指定された場合の構図調整について説明するための図である。 図4と共に、検出被写体が指定された場合の構図調整について説明するための図である。 実施形態における被写体の追尾制御処理について説明するための図である。 検出被写体以外の被写体が指定された場合の構図調整について説明するための図である。 図7と共に、検出被写体以外の被写体が指定された場合の構図調整について説明するための図である。 画角の変更操作について説明するための図である。 図9と共に、画角の変更操作について説明するための図である。 ダブルタップ操作に応じた構図調整について説明するための図である。 図11と共に、ダブルタップ操作に応じた構図調整について説明するための図である。 第一実施形態としての構図調整手法を実現するための具体的な処理手順の例を示したフローチャートである。 実施形態における通常駆動モード処理のフローチャートである。 実施形態における被写体追尾モード処理のフローチャートである。 第二実施形態としての構図調整手法を実現するための具体的な処理手順の例を示したフローチャートである。 被写体種類に応じたパラメータ設定処理の例を示したフローチャートである。 パラメータ設定処理において対象とする被写体の種類の例を説明するための図である。 パラメータ調整のための処理の例を示したフローチャートである。 人体の簡易モデル情報についての説明図である。 簡易モデル情報に基づき切り替えを行う構図の例を示した図である。 図21に示す各構図に対応した撮像画像の例を示した図である。 第三実施形態における第一例としての構図調整手法を実現するための具体的な処理手順の例を示したフローチャートである。 図23に示すステップS501の処理内容を示したフローチャートである。 第三実施形態における第二例としての構図調整手法を説明するための図である。 図25と共に、第三実施形態における第二例としての構図調整手法を説明するための図である。 第三実施形態における第二例としての構図調整手法を実現するための具体的な処理手順の例を示したフローチャートである。 変形例としての撮像システムの構成を例示した図である。 変形例における各撮像装置の内部構成例を示したブロック図である。 ロール方向の駆動が可能な雲台装置を例示した図である。 撮像装置のロール方向における向きを変化させる変形例について説明するための図である。 図31と共に、撮像装置のロール方向における向きを変化させる変形例について説明するための図である。
以下、実施の形態を次の順序で説明する。
<1.第一実施形態>
[1-1.装置構成例]
[1-2.構図調整について]
[1-3.処理手順]
<2.第二実施形態>
<3.第三実施形態>
[3-1.第一例]
[3-2.第二例]
<4.変形例>
<5.実施形態のまとめ>
<6.本技術>
<1.第一実施形態>
[1-1.装置構成例]

図1は、本技術に係る第一実施形態としての構図制御装置(撮像装置1)を備えた撮像システムの外観構成例についての説明図である。
本実施形態の撮像システムは、撮像装置1と雲台装置50とを備えて構成される。撮像システムにおいては、撮像装置1が雲台装置50に搭載された状態で、雲台装置50の回転動作により撮像装置1の撮像方向が変化される。特に、雲台装置50は後述するアクチュエータを備えており、該アクチュエータが駆動制御されることで、追尾対象とする被写体に対して自動追尾が行われる。
なお「撮像方向」とは、撮像装置1が撮像する向きに相当する方向であり、撮像装置1が有する撮像光学系の光軸線における正面方向(被写体側を示す方向)のことを言う。撮像方向は、図1のようなシステムの場合、雲台装置50の回転角度によって変化されるため、雲台装置50の回転角度によって撮像方向が一意に定まることになる。
図1Aは、雲台装置50に撮像装置1を搭載(装着)した状態を示し、また図1Bは雲台装置50のみを示している。
雲台装置50には、図中矢印D1で表すパン方向(ヨー方向とも換言できる)の回転のための回転軸部51と、矢印D2で表すチルト方向(ピッチ方向とも換言できる)の回転のための回転軸部52とが設けられると共に、基台部53と装着部54とアーム部55とが設けられている。
装着部54は、例えばL字部材とされ、底部上面には撮像装置1の底部に形成された図示しない機構に対応するジョイント機構54aが設けられており、これによって図1Aのように撮像装置1を固定できるようにされている。
装着部54は、回転軸部52を介してアーム部55に取り付けられており、これによって装着部54はアーム部55に対してチルト方向に回転可能とされている。
アーム部55は、例えばL字部材とされ、回転軸部51側で基台部53に取り付けられている。これによりアーム部55(及びアーム部55に連結する装着部54)はパン方向に回転可能とされている。
例えばこのような雲台装置50を用いることで、撮像装置1の撮像方向をパン方向及びチルト方向に変位させることができる。これにより、撮像装置1による撮像画像の構図を変更することが可能とされる。
ここで、雲台装置50により撮像装置1の撮像方向を変えることは、撮像装置1の撮像範囲を変えることの一種である。
図1Aに示す撮像システムは、例えば、雲台装置50の基台部53に不図示のハンドル部が装着されて、該ハンドル部を撮像者としてのユーザが手に持って使用することが想定される。或いは、基台部53が三脚等の台座に装着されて、ユーザが雲台装置50を手に持たずに使用するということも想定される。
図2は、雲台装置50の内部構成例を示したブロック図である。
雲台装置50は、アクチュエータ56と駆動制御部57と通信部58とを備えている。
アクチュエータ56としては、本例では回動軸部51を回転駆動するパン方向アクチュエータ(例えば、モータ)と、回動軸部52を回転駆動するチルト方向アクチュエータ(例えば、モータ)とが設けられている。
駆動制御部57は、アクチュエータ56の駆動回路や駆動回路を制御する制御回路等を有して構成され、アクチュエータ56の駆動制御を行う。特に、本例の駆動制御部57は、通信部58を介して入力される情報に従ってアクチュエータ56の駆動制御を行う。
通信部58は、所定の通信フォーマットに従って外部装置との間でデータ通信を行う。特に、本例の通信部58は、撮像装置1が備える後述する通信部11が対応する通信フォーマットに従ったデータ通信を行う。
図3は、撮像装置1の内部構成例を示したブロック図である。
撮像装置1は、デジタルカメラ装置として構成され、被写体の撮像を行い、動画や静止画としての画像データを記録媒体に記録したり、外部装置に送信したりすることができる。
図示のように撮像装置1は、レンズ系2、撮像部3、カメラ信号処理部4、画像認識処理部5、記録制御部6、ドライバ部7、制御部8、操作部9、表示部10、通信部11、バス12を備えている。バス12には、カメラ信号処理部4、画像認識処理部5、記録制御部6、制御部8、表示部10、及び通信部11が接続されており、これら各部はバス12を介して互いにデータ通信可能とされている。
レンズ系2は、カバーレンズ、ズームレンズ、フォーカスレンズ等のレンズや絞り機構などを備える。このレンズ系2により、被写体からの光(入射光)が導かれ撮像部3における撮像素子の撮像面に集光される。
撮像部3は、例えば、CMOS(Complementary Metal Oxide Semiconductor)型やCCD(Charge Coupled Device)型などの撮像素子を有して構成される。
この撮像部3では、撮像素子で受光した光を光電変換して得た電気信号について、例えばCDS(Correlated Double Sampling)処理、AGC(Automatic Gain Control)処理などを実行し、さらにA/D(Analog/Digital)変換処理を行う。そしてデジタルデータとしての撮像画像信号を、後段のカメラ信号処理部4に出力する。
カメラ信号処理部4は、例えばDSP(Digital Signal Processor)等により画像処理プロセッサとして構成される。カメラ信号処理部4は、撮像部3からのデジタル信号(撮像画像信号)に対して、各種の信号処理を施す。例えば、前処理、同時化処理、YC生成処理、解像度変換処理等を行う。
画像認識処理部5は、カメラ信号処理部4を介して入力される撮像画像信号に対する画像解析を行い、画像内容の認識処理を行う。特に本実施形態の場合、画像認識処理部5は、撮像画像信号のフレーム内で被写体の検出や顔検出、及び検出した被写体の種類の認識処理を行う。被写体の認識処理で認識する被写体の種類としては 例えば人、動物(犬、猫、鳥等)、自動車、飛行機、電車などが挙げられる。
本例において、画像認識処理部5は、被写体の検出処理において、被写体の「位置」と「範囲」の特定を行う。ここで、被写体の「位置」としては、被写体の注目位置を特定する。ここで、注目位置は、対象とする被写体について定められた注目されるべき位置を意味し、例えば人としての被写体であれば、全身における中心(上下左右方向の中心)又は重心、顔の中心等を挙げることができる。或いは、被写体が電車や自動車であれば、それらの進行方向における先端部や運転席位置等を挙げることができる。
本例では、注目位置は被写体の種類に応じて予め定められており、画像認識処理部5は被写体の種類に応じて被写体の注目位置を特定する。
なお、注目位置は、ユーザ操作に応じて被写体の種類ごとに予め定めておくことも考えられる。
画像認識処理部5は、制御部8からの求めに応じて、被写体検出処理で検出した被写体に係る情報(以下「被写体情報Is」と表記する)を制御部8に出力する。具体的に、画像認識処理部5は、被写体を検出した場合に、被写体情報Isとして該被写体の位置(後述する被写体位置Ps)と範囲を表す情報を出力する。また画像認識処理部5は、検出した被写体の種類を認識した場合には、被写体情報Isとして該被写体の位置と範囲の情報と共に種類を表す情報を出力する。
記録制御部6は、例えば不揮発性メモリによる記録媒体に対して記録再生を行う。記録制御部6は、例えば記録媒体に対し動画データや静止画データ等の画像ファイルMFやサムネイル画像等を記録する処理を行う。
記録制御部6の実際の形態は多様に考えられる。例えば記録制御部6は、撮像装置1に内蔵されるフラッシュメモリとその書込/読出回路として構成されてもよいし、撮像装置1に着脱できる記録媒体、例えばメモリカード(可搬型のフラッシュメモリ等)に対して記録再生アクセスを行うカード記録再生部による形態でもよい。また撮像装置1に内蔵されている形態としてHDD(Hard Disk Drive)などとして実現されることもある。
ドライバ部7には、レンズ系2におけるズームレンズ、フォーカスレンズ、絞り機構のそれぞれを駆動するための各モータに対応したドライバ等が設けられている。
これらのドライバは、制御部8からの指示に応じて駆動電流を対応するモータに供給し、フォーカスレンズやズームレンズの移動、絞り機構の絞り羽根の開閉等を実行させる。
制御部8は、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)等を備えたマイクロコンピュータ(演算処理装置)を有して構成される。上記のRAMは、CPUの各種データ処理の際の作業領域として、データやプログラム等の一時的な格納に用いられる。ROMは、CPUが各部を制御するためのOS(Operating System)や、画像ファイル等のコンテンツファイルの他、各種動作のためのアプリケーションプログラムや、ファームウエア等の記憶に用いられる。
制御部8は、上記ROM等に記憶されたプログラムを実行することで、撮像装置1の全体制御を行う。例えば、制御部8は、撮像部3のシャッタスピードの制御、カメラ信号処理部4における各種信号処理の指示、操作部9を用いたユーザの操作に応じた撮像動作や記録動作、記録した画像ファイルの再生動作、ズーム、フォーカス、絞り調整等のレンズ系2の動作、ユーザインタフェース動作等について、必要各部の動作を制御する。
また、制御部8は、上記ROM等に記憶されたプログラムを実行することで、通信部11を介した雲台装置50への指示を行って、雲台装置50のパン・チルト動作の制御を行う。すなわち、パン、チルト方向における撮像方向の調整動作を制御する。
さらに、本例の制御部8は、画像認識処理部5による被写体の検出情報に基づき、対象とする被写体を追尾するための雲台装置50の制御を行う。
ここでの「追尾」とは、対象とする被写体の位置を、撮像画像内における所定の目標位置に一致させ続けるようにすることを意味する。
なお、制御部8が行う被写体追尾のための制御の具体例については後述する。
操作部9は、ユーザが各種操作入力を行うための入力デバイスを総括して示している。操作部9が有する操作子としては、例えば撮像装置1の筐体に設けられた各種のボタン、ダイヤル等の操作子を挙げることができる。また、操作部9には、表示部10の画面上に対するタッチ操作を検出するタッチパネル9aが設けられる。
操作部9は、ユーザによる操作を検知し、検知した操作に応じた信号を制御部8に出力する。
表示部10は、撮像者としてのユーザに対して各種の情報表示を行う。表示部10は、例えば撮像装置1の筐体に配置される液晶ディスプレイ(LCD:Liquid Crystal Display)や有機EL(Electro-Luminescence)ディスプレイ等のディスプレイデバイスとされる。
表示部10は、制御部8の指示に基づいて画面上に各種情報の表示を行う。例えば、表示部10は、記録制御部6において記録媒体から読み出された画像データの再生画像を表示させる。
また、表示部10にはカメラ信号処理部4で表示用に解像度変換された撮像画像の画像データが供給され、表示部10は制御部8の指示に応じて、当該撮像画像の画像データについての表示を行う。これにより、構図確認中の撮像画像である、いわゆるスルー画(被写体のモニタリング画像)が画面上に表示される。
また表示部10は制御部8の指示に基づいて、各種操作メニュー、アイコン、メッセージ等、GUI(Graphical User Interface)としての表示を画面上に行う。
ここで、以下、表示部10の表示画面のことを「画面10a」と表記する。
通信部11は、所定の通信フォーマットに従って外部装置との間でデータ通信を行う。特に、本例の通信部11は、雲台装置50における通信部58との間でデータ通信を行うことが可能とされる。ここで、雲台装置50における通信部58と通信部11との間のデータ通信は、例えばUSB等の有線通信であってもよいし、ブルートゥース(Bluetooth:登録商標)等の無線通信であってもよい。
[1-2.構図調整について]

以下、図4から図12を参照し、実施形態としての構図調整手法について説明する。
先ず、本実施形態では、雲台装置50により構図が調整される撮像装置1の撮像画像を表示する画面10a上における操作により、目標とする構図の指定が行われる。具体的に、本実施形態の撮像装置1は、撮像画像を表示する画面10a上における位置の指定操作を目標とする構図の指定操作として受け付け、該目標とする構図に調整されるように雲台装置50を制御する。より具体的に、本例では、上記のような画面10a上における位置の指定操作を、構図の指定操作として受け付ける。つまりこの場合、該構図の指定操作から取得される構図の指定操作情報(構図指定操作情報)には、画面10a上における指定位置の情報が含まれる。そして、本例の構図調整手法においては、このような構図指定操作情報による指定位置に対応した被写体情報に基づいて、撮像装置の構図を調整する。被写体情報とは、撮像画像内の被写体に関する情報であり、少なくとも、検出被写体の有無を表す情報を含む。このような被写体情報に基づいた構図調整を行うことで、少なくとも検出被写体の有無に応じた構図調整を行うことができる。
ここで、本例において、目標とする構図とは、被写体の追尾を行う際に目標とする構図を意味する。すなわち、ここでの構図とは、追尾対象とする被写体を撮像画像内のどの位置に配置するかという要素を少なくとも含む。
具体的な構図調整手法を図4及び図5を参照して説明する。
図4に示すように、表示部10の画面10a上に、被写体S1及び被写体S2としての二つの検出被写体が捉えられた撮像画像が表示されているとする。なお、このとき、検出被写体の追尾は未だ行われていないとする。
本例では、このように画面10a上に検出被写体が表示されている状態において、検出被写体をタッチする操作(図4の例では被写体S2をタッチする操作)が行われたことに応じ、タッチされた検出被写体の追尾が開始される。具体的には、タッチされた検出被写体の位置が、タッチされたときの該検出被写体の位置のまま維持されるように、雲台装置50のパン・チルト動作を制御する処理が開始される。
ここで、タッチ操作により検出被写体が指定された状態は、換言すれば、タッチ操作による指定位置に対応する被写体情報が検出被写体を示す状態であると言うことができる。
ここで、図6を参照し、本例における被写体の追尾制御処理について説明しておく。
本例では、被写体を追尾するための雲台装置50の制御にPID(Proportional Integral Differential)制御を採用している。具体的には、図6Aに示すように追尾の対象とする被写体の位置Psと、追尾の目標位置Ptとの誤差d(位置誤差d)を算出し、この誤差dに基づいて雲台装置50の制御値Cを

C=P(d)+I(d)+D(d)

により計算する。なお、P(d)、I(d)、D(d)はそれぞれ誤差dについての比例項、積分項、微分項を意味する。
図6Bは、被写体の追尾制御処理を実現するための制御部8の機能構成を示す機能ブロック図である。なお、制御部8は、被写体追尾のための制御としてパン方向とチルト方向の制御を行うため、図6Bに示す制御系の構成は実際にはパン方向、チルト方向のそれぞれについて設けられる。
図示のように制御部8は被写体追尾を実現するための機能部として位置誤差計算処理部F1、制御値計算処理部F2、駆動量換算部F3を有する。位置誤差計算処理部F1は、被写体の追尾時において、追尾対象の被写体の位置である被写体位置Psと、追尾の目標位置Ptとを入力し、それらの誤差dを計算する。
ここで、被写体位置Psの情報は、図4のように撮像画像内に複数の被写体が検出されている場合には、画像認識処理部5より入力される複数の被写体の位置の情報のうち、タッチ操作により指定された被写体の位置の情報を用いる。また、目標位置Ptは、被写体のタッチ操作が行われたときにおける、該タッチ操作で指定された被写体の位置の情報として設定する。
制御値計算処理部F2は、位置誤差計算処理部F1より入力した誤差dに基づき、上記したPID制御の式に従った計算を行って制御値Cを計算する。
駆動量換算処理部F3は、制御値計算処理部F2が計算した制御値C、すなわち、撮像画像のピクセル数単位による値を、パン方向、又はチルト方向としての回転方向における角度の値に変換する。該変換は、撮像装置1の撮像パラメータ(焦点距離や撮像素子のサイズ情報等)に基づき行うことができる。
制御部8は、駆動量換算処理部F3の換算処理で得られた値、すなわちパン方向又はチルト方向の駆動量を表す値を、通信部11を介して雲台装置50に出力する。
雲台装置50では、上記のように制御部8から通信部11を介して出力された値が通信部58を介して駆動制御部57に入力される。駆動制御部57は該入力された値に応じた駆動量によりアクチュエータ56を駆動する。これにより、追尾対象とする被写体の位置(Ps)を撮像画像内の目標位置(Pt)に一致させるように撮像装置1の向きが調整され、被写体の追尾が実現される。
ここで、上述のように本例では、画面10a内の検出被写体をタッチする操作が行われた場合には、タッチされたときの該検出被写体の位置が、追尾制御における目標位置Ptとして設定される。すなわち、検出被写体をタッチする操作は、追尾対象とする被写体を指定する操作のみならず、追尾対象とする被写体の画面内での配置位置を指定する操作としても機能するものである。
追尾対象とする被写体の指定と、追尾対象とする被写体の画面内での配置位置の指定とが、検出被写体をタッチするという単一の操作で実現できるため、構図調整に係るユーザの操作負担軽減を図ることができ、操作性の向上が図られる。
説明を図4に戻す。
画面10a内の検出被写体がタッチされた後、該タッチを行った指が、タッチ状態を維持したまま、図4の太矢印で示すように画面10aで移動されたとする。
本例では、このように被写体をタッチした指でタッチ状態のまま画面10aをなぞる操作は、タッチした被写体(つまり追尾対象被写体)の画面10a内での配置位置(つまり撮像画像内での配置位置)の移動指示操作として受け付ける。
図5は、図4の太矢印で表すなぞり操作に応じて被写体の配置位置が変更された際の画面10aの様子を示している。
制御部8は、上記のようななぞり操作に応じて、タッチされた被写体が、なぞり操作によりなぞられた方向になぞられた量に応じた分だけ移動されるように雲台装置50を制御する。
このとき、タッチされた被写体の追尾状態は維持したままとする。具体的に、制御部8は、なぞり操作によってタッチ位置が徐々に変化していく過程において、タッチ位置が変化するごとに、逐次、目標位置Ptをその時点でのタッチ位置に更新する。これにより、タッチした被写体の画面10a内での位置を、なぞり操作に連動して滑らかに変化させていくことができる。
ここで、本例では、上記のように検出被写体をタッチした後のなぞり操作に応じては、タッチした被写体の画面10a内での配置位置をなぞり操作によるなぞり方向に移動させるが、このために制御部8は、撮像装置1の撮像方向がなぞり方向とは逆方向に変化するように雲台装置50を制御することになる。
なお、上記のようななぞり操作は、画面10aの面内における方向の指定を含む操作であると換言できる。また、このようななぞり操作は、検出被写体をタッチする操作(画面10a上の位置を指定する操作)と同様に、構図指定操作の一部を構成するものとなる。
図7及び図8は、上記のようななぞり操作が、検出被写体以外の被写体をタッチした後に行われた場合の挙動を説明するための図である。
図7に示すように、画面10a上において、検出被写体である被写体S1、S2以外の背景部分としての被写体がタッチされた後に、タッチした指によるなぞり操作が行われたとする。
本実施形態では、このように検出被写体以外の被写体をタッチした後のなぞり操作は、撮像方向の変化方向を直接的に指示する操作として受け付ける。すなわち、例えば図7のように右方向へのなぞり操作が行われた場合には、図8に示すように撮像方向を右方向になぞられた量に応じた分だけ変化させる。すなわち、制御部8は、検出被写体以外の被写体をタッチした後のなぞり操作に応じて、撮像方向がなぞられた方向になぞられた量に応じた分だけ変化されるように雲台装置50を制御する。
ここで、制御部8は、検出被写体以外の被写体がタッチされた場合には、被写体の追尾制御は行わない。
上記のように本例では、同じなぞり操作であっても、検出被写体をタッチした場合と検出被写体以外の被写体をタッチした場合とで、撮像方向の変化方向が逆となる。
ここで、タッチ操作により検出被写体以外が指定された状態は、換言すれば、タッチ操作による指定位置に対応する被写体情報が検出被写体を示さない状態である。
また、本実施形態では、画角の変更を画面上の操作によって行うことが可能とされる。
図9及び図10は、画角の変更操作について説明するための図である。
本例では、画面10aに対し一本目の指がタッチされた後、該一本目の指のタッチ状態が継続されたまま他の指(二本目の指)が画面10a上にタッチされた場合において、該二本目の指で画面10a上をなぞる操作に応じて、画角の変更を行う。
具体的に、本例において制御部8は、二本目の指のタッチ位置が、一本目の指のタッチ位置から離れる方向に変化する場合には、画角が小さくなる(つまりズームインする)方向にズームレンズが駆動されるようにドライバ部7を制御する。これにより、図9から図10への遷移として示すような画角の変化が実現される。
一方、制御部8は、二本目の指のタッチ位置が、一本目の指のタッチ位置に近づく方向に変化する場合には、画角が大きくなる(つまりズームアウトする)方向にズームレンズが駆動されるようにドライバ部7を制御する。この場合の画角の変化は、図10から図9への遷移として表すような変化となる。
なお、図9及び図10では一本目の指で検出被写体がタッチされた場合に対応した画角変更を例示したが、一本目の指で検出被写体以外の被写体がタッチされた場合にも、制御部8は上記と同様の画角制御を行う。
上記により説明した二本目の指によるなぞり操作は、画面10aの面内における方向の指定を含む操作であると換言できる。
また、画角の変更(制御)は、撮像装置1による撮像範囲の変更(制御)の一態様である。
また、本実施形態では、タッチ操作により追尾対象とする被写体が指定された後、再び画面10aをタッチする操作が行われた場合、換言すれば、検出被写体のタップを含め、画面10aをダブルタップする操作が行われた場合には、追尾対象被写体を撮像画像内の所定位置に配置する構図への調整が行われる。
なお、ここで言う「タップ」とは、画面10a上に指をタッチし、該指を画面10aから離すまでの一連の動作を意味する。また、ここでのダブルタップ操作とは、1回目のタップの後、所定時間内に2回目のタップを行う操作を意味する。
図11及び図12は、このようなダブルタップ操作に応じた構図調整についての説明図である。
本例では、上記のようなダブルタップ操作が行われた場合には、1回目のタップで指定された追尾対象被写体(図11の例では被写体S2)を、画角の中心位置Pc(撮像画像の中心位置)に配置する構図への調整を行う(図12参照)。
具体的に、制御部8は、上記のようなダブルタップ操作が行われたことに応じて、追尾の目標位置Ptを中心位置Pcに更新して、被写体の追尾制御を継続する。
[1-3.処理手順]

図13のフローチャートを参照し、上記により説明した実施形態としての構図調整手法を実現するための具体的な処理手順の例を説明する。
なお、図13に示す処理は、制御部8がROM等のメモリに記憶されたプログラムに従って実行するものである。
図13において、制御部8はステップS101で、画面10aのタッチがあるまで待機し、画面10aのタッチがあった場合には、ステップS102の被写体情報取得処理として、画像認識処理部5より被写体情報Isを取得する処理を実行し、ステップS103で検出被写体のタッチか否かを判定する。すなわち、ステップS101で検知されたタッチ操作により指定された画面10a上の位置(つまり、画面10a上でのタッチ開始位置)が、ステップS102で取得した被写体情報Isに含まれる被写体の範囲内の位置であるか否かを判定する。
ステップS103において、タッチ操作により指定された画面10a上の位置が被写体情報Isに含まれる被写体の範囲内の位置でなく、検出被写体のタッチではないとの否定結果を得た場合、制御部8はステップS104に進んで追尾実行フラグをOFFとし、続くステップS105で通常駆動モード処理を実行する。
ここで、追尾実行フラグは、図6を参照して説明した被写体の追尾制御処理を実行するか否かを表すフラグであり、追尾実行フラグがONとされた場合、制御部8は、図13に示す処理と並行して、被写体の追尾制御処理を開始する。追尾実行フラグがOFFのとき、制御部8は該追尾制御処理を実行しない。
なお、追尾実行フラグの初期値はOFFであるが、ステップS104で追尾実行フラグをOFFとするのは、検出被写体がタッチされて被写体の追尾制御が開始された以降において検出被写体以外をタッチする操作が行われたとき(ステップS103:N)に、被写体の追尾制御が停止されるようにするためである。
なお、ステップS105の通常駆動モード処理は、検出被写体以外の被写体をタッチした指によるなぞり操作に応じて撮像方向を変化させたり、二本目の指のなぞり操作に応じて画角調整を行ったりするための処理となるが、詳細については改めて説明する。
また、制御部8は、ステップS103で検出被写体のタッチであるとの肯定結果を得た場合は、ステップS106に進んで追尾実行フラグをONとした上で、ステップS107の被写体追尾モード処理を実行する。
ここで、ステップS106で追尾実行フラグがONとされたことに応じ、制御部8は、図15で説明するステップS301及びS302の処理による設定情報(追尾対象被写体及び目標位置Ptの設定情報)に基づく被写体の追尾制御処理を開始する。この追尾制御処理において制御部8は、画像認識処理部5からの被写体情報Is(特に、追尾対象被写体の被写体位置Psの情報)の取得を毎フレーム実行し、誤差dの計算等に用いる。
なお、ステップS105の通常駆動モード処理は、検出被写体をタッチした指によるなぞり操作に応じて画面10a内の被写体位置を移動させるための制御を行ったり、二本目の指のなぞり操作に応じて画角調整を行ったりするための処理となるが、詳細については改めて説明する。
制御部8は、ステップS105の通常駆動モード処理を実行した場合と、ステップS107の被写体追尾モード処理を実行した場合のそれぞれにおいて、処理をステップS108に進める。
ステップS108で制御部8は、処理終了条件の成立有無を判定する。ここでの処理終了条件とは、図13に示す処理の終了条件を意味するものであり、例えば、撮像装置1の動作モードを、画面10a上にスルー画としての撮像画像を表示する撮像モードから、記録制御部6が記録媒体から再生した画像を画面10a上に表示する再生モードへと切り替える操作が行われたこと等の条件とすることが考えられる。
処理終了条件が成立していないと判定した場合、制御部8はステップS101に戻り、画面10aに対するタッチ操作を再度待機する。
これにより、検出被写体、或いは検出被写体以外の被写体がタッチされ、該タッチされた指が画面10aから離された以降において、画面10aが再びタッチされた場合には、該タッチが検出被写体以外に対するタッチであるか、又は検出被写体に対するタッチであるかに応じて、ステップS105の通常駆動モード処理、又はステップS107の被写体追尾モード処理が実行されることになる。
一方、制御部8は、ステップS108で処理終了条件が成立したと判定した場合には、ステップS109で追尾実行フラグがONか否かを判定した上で、追尾実行フラグがONであればステップS110で追尾実行フラグをOFFとして図13に示す一連の処理を終え、追尾実行フラグがONでなければステップS110の処理をパスして図13に示す一連の処理を終える。
図14は、ステップS105の通常駆動モード処理のフローチャートである。
図14に示す処理は、ステップS210で一本目の指(つまりステップS101でタッチ操作が検知された指)が画面10aから離れたことが検知されるまでは、ステップS211の待機処理により、撮像画像のフレームごとに繰り返し実行される処理となる。
図14において、制御部8はステップS201で、異指タッチフラグがONであるか否かを判定する。異指タッチフラグは、二本目の指(前述した画角変更の操作を参照)がタッチされている状態か否かを表すフラグであり、二本目の指のタッチがあった場合に後述するステップS205でONとされ、二本目の指が画面10aから離れたことに応じてステップS209でOFFとされる。図14に示す処理の開始時において、異指タッチフラグはOFFである。
ステップS201において、異指タッチフラグがONでなければ、制御部8はステップS202に進んで二本目の指タッチの有無を判定し、二本目の指タッチがなければ、ステップS203に進んで一本目の指が移動したか否かを判定する。
一本目の指が移動した場合、制御部8はステップS204に進んで、移動に応じた制御値を出力する処理を実行する。すなわち、一本目の指の移動方向及び移動量に応じた雲台装置50の制御値(パン方向のアクチュエータ、チルト方向のアクチュエータ双方の制御値)を通信部11経由で雲台装置50に出力するための処理を実行する。
これにより、検出被写体以外の被写体がタッチされ、該タッチを行った指が画面10a上で任意方向になぞられた場合には、撮像装置1の撮像方向がなぞり方向になぞり量に応じた分だけ変化されるように雲台装置50のパン及びチルト動作が制御される。
ステップS204の出力処理を実行したことに応じ、制御部8はステップS211の1フレーム待機処理を実行し、ステップS201に戻る。これにより、一本目の指の移動が継続して行われている間は、ステップS204の処理がフレームごとに繰り返されることで、撮像方向が継続して変化されることになる。
また、ステップS203において、一本目の指が移動していないと判定した場合、制御部8はステップS210に進んで一本目の指が画面10aから離れたか否かを判定する。
一本目の指が画面10aから離れていなければ、制御部8はステップS211の1フレーム待機処理に進む。すなわち、一本目の指がタッチ状態を維持している間は、図14に示す処理がフレームごとに繰り返される。
一方、一本目の指が画面10aから離れた場合、制御部8はステップS105の通常駆動モード処理を終える。
また、制御部8は、ステップS202で二本目の指タッチがあったと判定した場合には、ステップS205で異指タッチフラグをONとし、ステップS211で1フレーム待機処理を実行した上で、ステップS201に戻る。
ステップS201において、異指タッチフラグがONであると判定した場合、制御部8はステップS206に進み、二本目の指が移動したか否かを判定する。二本目の指が移動していれば、制御部8はステップS207に進んで移動に応じたズーミング制御を行う。すなわち、二本目の指の移動が、一本目の指のタッチ位置から離れる方向の移動であれば、ズームインする方向にズームレンズが駆動されるようにドライバ部7を制御し、二本目の指の移動が一本目の指のタッチ位置に近づく方向の移動であれば、ズームアウトする方向にズームレンズが駆動されるようにドライバ部7を制御する。
制御部8は、ステップS207のズーミング制御を実行したことに応じ、ステップS211の1フレーム待機処理を実行し、ステップS201に戻る。これにより、二本目の指の移動が継続されている間は、ステップS207のズーミング制御が繰り返されることで、画角の変更が継続されることになる。
一方、ステップS206において二本目の指が移動していないと判定した場合、制御部8はステップS208に進み、二本目の指が画面10aから離れたか否かを判定する。二本目の指が画面10aから離れていないと判定した場合、制御部8は上述したステップS210に進んで一本目の指が画面10aから離れたか否かを判定する。すなわち、本例では、二本目の指が画面10aから離れていなくても、一本目の指が画面10aから離れた場合には、ステップS105の通常駆動モード処理が終了となる。つまり、ユーザは、検出被写体以外の被写体をタッチした一本目の指を画面10aから離した上で、その後に、検出被写体をタッチすることで、タッチした検出被写体の追尾や、なぞり操作による追尾対象被写体の配置位置の変更を指示することが可能とされる。
一方、二本目の指が画面10aから離れたと判定した場合、制御部8はステップS209に進んで異指タッチフラグをOFFとし、ステップS211の1フレーム待機処理を実行した上でステップS201に戻る。
これにより、二本目の指が画面10aから離れた以降でも、一本目の指のタッチ状態が継続している間は、一本目の指のなぞり操作に応じて撮像方向を変化させる制御が行われる。
図15は、ステップS107の被写体追尾モード処理のフローチャートである。
なお、以降の説明において、既に説明済みとなった処理と同様となる処理については同一のステップ番号を付して説明を省略する。
ステップS107の被写体追尾モード処理において、制御部8は、先ずステップS301で、追尾対象被写体の設定を行う。すなわち、ステップS101で検知したタッチ操作により指定された検出被写体を追尾対象被写体として設定する。
続くステップS302で制御部8は、目標位置Ptの設定を行う。すなわち、ステップS101で検知したタッチ操作により指定された検出被写体の位置(被写体位置Ps)を追尾の目標位置Ptとして設定する。
次いで、制御部8はステップS303で、再タッチ待機フラグがONであるか否かを判定する。再タッチ待機フラグは、前述したダブルタップ操作における二回目のタップ操作を待機中の状態か否かを識別するためのフラグであり、ONが待機中である状態を表し、初期値はOFFである。後述するように再タッチ待機フラグは、一本目の指が画面10aから離れた(ステップS210:Y)ことに応じて、ステップS305の処理によりONとされる。
ステップS303において、再タッチ待機フラグがONでなければ、制御部8はステップS201に処理を進める。ここで、ステップS201からステップS211の処理は、図14で説明した処理と同様となるため重複説明は避ける。
但し、この場合、ステップS203で一本目の指が移動したと判定した場合、制御部8は、ステップS304に進み、移動に応じた目標位置Ptの更新処理を実行する。すなわち、目標位置Ptを、一本目の指の現在のタッチ位置に更新する。
制御部8は、ステップS304の更新処理を実行したことに応じ、ステップS211の1フレーム待機処理に進む。これにより、一本目の指が移動している間には、ステップS304の更新処理がフレームごとに繰り返し実行される。このため、画面10aにおける追尾対象被写体の移動が滑らかなものとなる。
また、図15の処理において、制御部8は、ステップS210で一本目の指が画面10aから離れたと判定した場合は、ステップS305で再タッチ待機フラグをONとし、ステップS211で1フレーム待機処理を行った上でステップS303に戻る。
ステップS303において、再タッチ待機フラグがONであると判定した場合、制御部8はステップS306に処理を進める。ステップS306以降の処理は、ダブルタップ操作に対応した処理とされる。
先ず、ステップS306で制御部8は、画面10aに対する再タッチの有無を判定し、再タッチがなければステップS307で再タッチ待機時間が所定時間以上であるか否かを判定する。再タッチ待機時間とは、ステップS210で一本目の指が離れたと判定されたからの経過時間を意味する。
再タッチ待機時間が所定時間以上でなければ、制御部8はステップS306に戻る。つまり、これらステップS306及びS307の処理により、制御部8は一本目の指が離れてから所定時間内のタッチ操作(つまり2タップ目のタッチ操作)を待機する。
ステップS307において、再タッチがあったと判定した場合、制御部8はステップS308に進んで目標位置Ptを画面中心位置(画角の中心位置Pc)に更新する処理を行う。これにより、ダブルタップ操作が行われたことに応じ、1回目のタップで指定された追尾対象被写体の位置(Ps)を、中心位置Pcに一致させる構図への調整が行われる。
ステップS308の更新処理を実行したことに応じ、制御部8はステップS309のフラグOFF処理、すなわち異指タッチフラグ及び再タッチ待機フラグをOFFとする処理を実行し、図15に示す一連の処理を終える。
図13を参照して分かるように、制御部8は、ステップS107の被写体追尾モード処理を実行した後、ステップS108で処理終了条件成立と判定されなければ、ステップS101の処理に移行する。これにより、本例では、ダブルタップ操作により追尾対象被写体が画面10aの中心に移動された以降においても、画面10aに対するタッチ操作の受け付けが行われ、タッチ操作が検出被写体以外の被写体をタッチする操作であれば図14の処理が実行され、検出被写体をタッチする操作であれば図15の処理が実行されることになる。
<2.第二実施形態>

続いて、第二実施形態について説明する。
第二実施形態は、被写体の追尾制御処理において、被写体の種類に応じたパラメータを用いるものである。
なお、第二実施形態において、撮像装置1や雲台装置50の構成については第一実施形態の場合と同様となるため重複説明は避ける。
図16は、第二実施形態としての構図調整手法を実現するための具体的な処理手順の例を示したフローチャートである。
図16において、ステップS101からS110の処理については図13の場合と同様である。
この場合、制御部8は、ステップS103で検出被写体のタッチであると判定した場合に、ステップS401に進んで被写体種類に応じたパラメータ設定処理を実行した上で、ステップS106に処理を進める。
図17は、ステップS401の被写体種類に応じたパラメータ設定処理を示したフローチャートである。
先ず、ステップS410で制御部8は、タッチされた被写体の種類を確認する。ここで、本例における画像認識処理部5では、検出被写体の種類として、第一種類、第二種類、第三種類の三種を認識し分ける。ステップS410で制御部8は、タッチされた被写体の種類がこれら第一種類、第二種類、第三種類の何れであるかを確認する。
ここで、本例において、第一種類は「鳥」(図18A参照)であり、第二種類は「人」(図18B参照)であり、第三種類は「犬」(図18C参照)であるとする。
なお、第一種類について、「鳥」はあくまで一例であり、第一種類としては、「鳥」のように望遠側での撮像が行われる傾向にあり且つ縦横に比較的速く動く被写体の種類であればよい。
同様に、第二種類についても「人」は一例であり、縦横の動きが比較的遅い被写体の種類であればよく、また、第三種類についても「犬」は一例であり、縦の動きは比較的遅いが横の動きが比較的速い被写体の種類であればよい。
制御部8は、タッチした被写体の種類が第一種類であった場合にはステップS411に進んで第一種パラメータを設定し、ステップS401の処理を終える。また、制御部8は、タッチした被写体の種類が第二種類であった場合にはステップS412で第二種パラメータを設定してステップS401の処理を終え、タッチした被写体の種類が第三種類であった場合にはステップS413で第三種パラメータを設定してステップS401の処理を終える。
ここで、本例において、追尾制御処理で用いるパラメータの具体例としては、追尾制御の制御周期や、PID制御におけるゲイン(比例項、積分項、微分項のゲイン)を挙げることができる。制御部8は、ステップS411の第一パラメータ(「鳥」の場合のパラメータ)の設定処理として、パン方向の追尾制御処理、チルト方向の追尾制御処理のそれぞれについて、追尾の応答性を高くするパラメータの設定を行う。具体的には、例えば制御周期を設定可能な周期のうち最短の周期とし、PID制御におけるゲインを設定可能な値のうち最高の値とする設定を行う。
また、制御部8は、ステップS412の第二パラメータ(「人」の場合のパラメータ)の設定処理としては、パン方向の追尾制御処理、チルト方向の追尾制御処理のそれぞれについて、追尾の応答性を低くするパラメータの設定を行う。具体的には、例えば制御周期を上述した最短の周期よりも長い周期(例えば、2倍の周期)とし、PID制御におけるゲインを上述した最高値よりも低い値とする設定を行う。
さらに、制御部8は、ステップS413の第三パラメータ(「犬」の場合のパラメータ)の設定処理としては、パン方向の追尾制御処理に関しては追尾の応答性を高くし、チルト方向の追尾制御処理に関しては追尾の応答性を低くするパラメータの設定を行う。
ここで、本例において、制御部8は、上記した第二パラメータのように追尾制御の制御周期が最短周期の2倍の周期に設定された場合、追尾制御処理において、上記最短の周期で計算される追尾結果(制御値C)、換言すれば、2回分の追尾結果を積算し、該積算した値を雲台装置50の制御に用いる。これにより、ノイズによる影響を軽減することができ、追尾制御の安定性向上を図ることができる。
上記のように被写体の種類に応じたパラメータ設定を行うことで、被写体の追尾制御に関して、被写体の種類ごとの動きの特性に応じた最適なパラメータを設定することが可能となり、追尾制御の精度向上を図ることができる。
また、本例では、被写体の種類に応じ、パン方向、チルト方向の追尾制御それぞれについて個別にパラメータ設定を行っているが、これにより、追尾応答性を高める必要のない方向について過剰に応答性を高めた追尾が行われてしまうことの防止を図ることでき、追尾制御の安定性向上を図ることができる。
ここで、上記では、「犬」の種類に対応してパン方向の追尾応答性を高くし、チルト方向の追尾応答性を低くするパラメータ設定例を挙げたが、被写体の種類によっては、逆にパン方向の追尾応答性を低くし、チルト方向の追尾応答性を高くするパラメータ設定を行うこともできる。
例えば、被写体の種類が家やビル等の比較的大型の不動体であり、撮像者がその周りを移動しながら撮像を行うときには、パン方向の追尾応答性を低くし、チルト方向の追尾応答性を高くするパラメータ設定を行うことが考えられる。或いは、トランポリン等により縦方向のみに激しく動くことの想定される種類の被写体に対応して、同様にパン方向の追尾応答性を低くし、チルト方向の追尾応答性を高くすることも考えられる。
また、第二実施形態において、制御部8は、図17に示したパラメータ設定処理を実行したことに応じ、図19に示すパラメータ調整のための処理を開始する。
ここで、図19の処理は、パン方向の追尾制御処理、チルト方向の追尾制御処理それぞれについて実行される。
図19において、制御部8はステップS420で、現在の設定パラメータは高応答性パラメータか否かを判定する。高応答性パラメータとは、先のステップS411からS412の処理で説明した、追尾応答性を高くするパラメータのことを意味する。例えば、ステップS411でパン方向、チルト方向に設定されたパラメータは高応答性パラメータである。
現在の設定パラメータが高応答性パラメータであると判定した場合、制御部8はステップS421に進み、位置誤差dが閾値TH1よりも小さいか否かを判定する。位置誤差dが閾値TH1よりも小さい場合、制御部8はステップS422で低応答性パラメータに変更する処理を行う。低応答性パラメータは、先のステップS411からS412の処理で説明した追尾応答性を低くするパラメータのことを意味する。ステップS422では、追尾制御処理で用いるパラメータを低応答性パラメータに変更する。
これにより、高応答性パラメータの設定後、位置誤差dが極端に小さい場合には、追尾制御のパラメータを低応答性パラメータに調整することが可能とされる。
ステップS422の変更処理を実行したことに応じ、制御部8はステップS425に処理を進める。また、制御部8は、ステップS421で位置誤差dが閾値TH1よりも小さくないと判定した場合は、ステップS422の変更処理を実行せずにステップS425に処理を進める。
また、制御部8は、ステップS420で現在の設定パラメータは高応答性パラメータでないと判定した場合には、ステップS423に進み、位置誤差dが閾値TH2よりも大きいか否かを判定する。位置誤差dが閾値TH2よりも大きい場合、制御部8はステップS424で高応答性パラメータに変更する処理を行う。
これにより、低応答性パラメータの設定後、位置誤差dが極端に大きい場合には、追尾制御のパラメータを高応答性パラメータに調整することが可能とされる。
ステップS424の変更処理を実行したことに応じ、制御部8はステップS425に処理を進める。また、制御部8は、ステップS423で位置誤差dが閾値TH1よりも大きくないと判定した場合は、ステップS424の変更処理を実行せずにステップS425に処理を進める。
ステップS425で制御部8は、追尾実行フラグがOFFであるか否かを判定し、追尾実行フラグがOFFでなければステップS420に戻り、OFFであれば図19に示す一連の処理を終える。すなわち、図19に示す処理は、被写体の追尾制御処理を実行中の期間に実行される。
上記のような位置誤差dに基づくパラメータ調整を行うことで、設定したパラメータが実際の被写体の動きに適しているか否かの判定結果に基づくパラメータ調整を実現でき、追尾制御の安定性向上を図ることができる。
なお、図19では、位置誤差dと閾値THとの比較結果に基づいてパラメータ調整を行う例としたが、これに代えて、制御値Cとそれに対応する閾値との比較結果に基づいてパラメータ調整を行うこともできる。このようなパラメータ調整とした場合も、被写体の位置と追尾の目標位置との誤差に基づいてパラメータ調整を行うことに変わりはない。
上記では、高応答性パラメータと低応答性パラメータの2段階の調整とする例を挙げたが、パラメータの調整は3段階以上のパラメータ間の調整とすることもできる。
<3.第三実施形態>
[3-1.第一例]

第三実施形態は、人体の簡易モデル情報に基づき構図調整を行うものである。
なお、第三実施形態においても撮像装置1や雲台装置50の構成については第一実施形態の場合と同様となるため重複説明は避ける。
先ずは図20を参照し、人体の簡易モデル情報について説明しておく。
図20に示すように、人体の簡易モデル情報とは、人体における眼、耳、鼻、口、首、肩、肘、手首、尻、膝、足首等、人体を構成する複数部位の配置状態を表す情報である。第三実施形態において、画像認識処理部5は、検出被写体が人としての被写体である場合には、該被写体についてこのような人体の簡易モデル情報を生成する。
具体的に、画像認識処理部5は、人としての検出被写体における眼や首、肩等といった特定部位の検出点(図中の黒丸部)と検出点を結ぶ線の情報を簡易モデル情報として生成する。このとき、各検出点は、それぞれ特定の他の検出点と線で結ばれる。各検出点は、それぞれ線で結ばれている検出点が規定されていることで、点と線により人体を表現する簡易モデルが形成される。
この場合の画像認識処理部5は、制御部8からの求めに応じ、簡易モデル情報を被写体情報Isの一部として制御部8に出力する。本例においても、制御部8は、被写体追尾中においては画像認識処理部5からの被写体情報Isの取得を毎フレーム実行する。
以下、上記のような簡易モデル情報に基づく構図調整の例として、第一例と第二例を挙げる。
第一例は、人体の簡易モデル情報に基づき、撮像画像内に映し出される被写体の部位の組み合わせが異なる複数の構図間で構図切り替えを行うものである。
具体的には、図21に例示する構図K1、構図K2、構図K3の間での構図切り替えを行う。図21において、構図K1は、撮像画像内に映し出される被写体の部位の組み合わせが「眼、耳、鼻、口、首、肩、肘、手首、尻、膝、足首」の組み合わせである、「フルショット」(全身構図)としての構図である。また、構図K2は、撮像画像内に映し出される被写体の部位の組み合わせが、構図K1から「足首」のみが除かれた「眼、耳、鼻、口、首、肩、肘、手首、尻、膝」の組み合わせである「ニーショット」(膝上構図)としての構図、構図K3は、撮像画像内に映し出される被写体の部位の組み合わせが構図K2からさらに「膝、尻、手首」が除かれた「眼、耳、鼻、口、首、肩、肘」の組み合わせである「バストショット」(半身構図)としての構図である。
図22は、これら構図K1、K2、K3のそれぞれに対応した撮像画像の例を示しており、図22Aが構図K1(フルショット)、図22Bが構図K2(ニーショット)、図22Cが構図K3(バストショット)にそれぞれ対応する。
第一例では、これら構図K1、K2、K3の切り替えを、画面10aに対するタッチ操作に応じて行う。具体的に、この場合の制御部8は、人としての検出被写体が画面10a上に表示されている状態において、前述したダブルタップ操作によって該検出被写体が画面10aの中心に配置された後、画面10a上における該検出被写体に対するタップ操作に応じて構図K1、K2、K3の切り替えを行う。より具体的に、この場合の制御部8は、ダブルタップ操作の後、該検出被写体に対するタップ操作が行われるごとに、構図K1→構図K2→構図K3→構図K1→・・・のように構図をトグル的に切り替える。
なお、構図Kの切り替えは、上記のようなダブルタップ操作後のタップ操作に応じて行う例に限らず、例えば一本目の指のタッチ操作により追尾対象被写体が指定された後のズーム操作等に応じて行うこともできる。
図23は、上記のような第一例としての構図調整手法を実現するための具体的な処理手順の例を示したフローチャートである。
なお、この場合の制御部8としても、第一実施形態の場合と同様に図13に示す処理を実行する。但し、この場合の制御部8は、ステップS107の被写体追尾モード処理として、先の図15に示した処理ではなく、図23に示す処理を実行する。
図23に示す処理について、図15に示した処理との差異点は、ステップS309の処理を実行後にステップS501の簡易モデル情報に基づく構図切替処理を実行する点である。
図24は、ステップS501の簡易モデル情報に基づく構図切替処理を示したフローチャートである。
先ず、制御部8はステップS510で、タップ数識別値cを0にリセットする。タップ数識別値cは、ダブルタップ操作後のタップ数を識別するための値であり、ステップS511でタップ済被写体への再タップが検知されるごとに、ステップS516やS521の処理によってc=0→1→2→0→・・・のようにトグル的に値が更新される。
ステップS510に続くステップS511で制御部8は、タップ済被写体が再タップされたか否かを判定する。タップ済被写体とは、ステップS101で検知されたタッチ操作により指定された検出被写体を意味する。ステップS511では、このタップ済被写体の範囲内をタップする操作が行われたか否かを判定する。
確認のため述べておくと、ステップS501の構図切替処理が開始される時点では、該検出被写体に対しては画面中心に位置させるためのタッチが既に行われている(図23のステップS210、S305からS308を参照)。ステップS511ではこの状態からの該検出被写体へのタップ操作有無を判定するため、「再タップ」との表現を用いている。
タップ済み被写体が再タップされていないと判定した場合、制御部8はステップS512に進んでタップ済被写体以外の領域がタッチされたか否かを判定し、タッチ済被写体以外の領域がタッチされてないと判定した場合は、ステップS511に戻る。つまり制御部8は、ステップS511及びS512の処理により、タップ済被写体の再タップ、タッチ済被写体以外の領域のタッチの何れかを待機する。
ステップS512においてタップ済被写体以外の領域のタッチがあったと判定した場合、制御部8はステップS102に戻る。これにより、ダブルタップ操作の後に行われたタップ済被写体以外の領域のタッチが、タップ済被写体以外の検出被写体であれば、ステップS107の処理が実行される(つまりタップ済被写体以外の検出被写体の追尾に切り替えられ、なぞり操作に応じた被写体配置位置の調整等が可能な状態となる)。或いは、ダブルタップ操作の後に行われたタップ済被写体以外の領域のタッチが、検出被写体以外に対するタッチであれば、ステップS105の処理が実行される(つまり被写体追尾が解除され、なぞり操作に応じた撮像方向の調整等が可能な状態となる)。
一方、制御部8は、ステップS511でタップ済被写体が再タップされたと判定した場合には、ステップS513に進んでタップ数識別値cを確認する。タップ数識別値cが0であれば、制御部8はステップS514に進んでフルショット(構図K1)に対応する焦点距離を目標焦点距離として計算する。すなわち、タップ済被写体について取得した簡易モデル情報に基づき、撮像画像内に映し出される部位の組み合わせが、図21の構図K1のように「眼、耳、鼻、口、首、肩、肘、手首、尻、膝、足首」の組み合わせとなる構図が実現されるように、目標とする焦点距離を計算する。
そして、ステップS514に続くステップS515で制御部8は、追尾の目標位置Ptをフルショットに対応する位置に設定する。
ここで、本例において制御部8は、追尾制御処理で用いる被写体の位置Psとして、例えば被写体の「首」の位置等、被写体に最もズームインする構図である構図K3のときに画面10a内に収まる部位の位置を用いる。これにより、構図K2や構図K3への切替時に被写体の位置Psをロストして追尾に失敗することの防止を図ることができる。
ステップS515での目標位置Ptは、上記のように「首」の位置等とされた被写体の位置Psを基準としたときに、構図K1において少なくとも被写体の頭部(被写体の上端部)がフレームアウトしない位置に設定する。
ステップS515で目標位置Ptを設定したことに応じ、制御部8はステップS516でタップ数識別値cを1インクリメントした上で、ステップS522で目標焦点距離となるようにズーミング制御(ドライバ部7におけるズームレンズのドライバの制御)を行い、ステップS511に戻る。
また、ステップS513において、タップ数識別値cが1であれば、制御部8はステップS517に進んでニーショット(構図K2)に対応する焦点距離を目標焦点距離として計算し、ステップS518で追尾の目標位置Ptをニーショットに対応する位置に設定する。具体的に本例では、上述のように「首」の位置等とされた被写体の位置Psを基準としたときに、構図K2において少なくとも被写体の頭部がフレームアウトしない位置に目標位置Ptを設定する。
そして、制御部8は、ステップS518の処理を実行したことに応じ、ステップS516でタップ数識別値cを1インクリメントした上で、ステップS522のズーミング制御を実行し、ステップS511に戻る。
また、制御部8は、ステップS513でタップ数識別値cが2であった場合には、ステップS519に進んでバストショット(構図K3)に対応する焦点距離を目標焦点距離として計算し、ステップS520で追尾の目標位置Ptをバストショットに対応する位置に設定する。具体的に本例では、上述のように「首」の位置等とされた被写体の位置Psを基準としたときに、構図K3において少なくとも被写体の頭部がフレームアウトしない位置に目標位置Ptを設定する。
そして、制御部8は、ステップS520の処理を実行したことに応じ、ステップS521でタップ数識別値cを0リセットした上で、ステップS522のズーミング制御を実行し、ステップS511に戻る。
上記のようなステップS511からS522の処理により、タップ済被写体に対するタップ操作が行われるごとに、構図K1→構図K2→構図K3→構図K1→・・・のように構図Kがトグル的に切り替えられる。
なお、上記では、対象とする検出被写体がダブルタップ操作により画面中心に移動された後のタップ操作に応じて構図Kの切り替えを行うものとしたが、これはあくまで一例であって、例えば対象とする検出被写体の2度目以降のタップ操作に応じて構図Kを切り替える等、他の操作(タップ操作以外の操作も含む)に応じて構図Kの切り替えを行うことも可能である。
また、上記では、構図の調整を雲台装置50の制御による撮像方向の変化と画角の変化とにより実現する例を挙げたが、構図の調整は、少なくとも撮像方向、画角の何れか一方を変化させることで実現することが可能である。
また、人体の簡易モデル情報によっては、被写体の姿勢を検出することが可能である。被写体の姿勢を検出する場合には、被写体が所定の姿勢であるときに、構図Kの切り替えを実行しないようにすることも考えられる。例えば、被写体がしゃがんでいる姿勢のときは、その後に立ち上がったりジャンプしたりする可能性を考慮し、ズームイン側への構図Kの変化を行わないようにすること等が考えられる。
[3-2.第二例]

続いて、第三実施形態の第二例について説明する。
第二例は、簡易モデル情報から推定される被写体の向きの情報に基づき、被写体の正面方向側に画角中心Pcが位置するように雲台装置50を制御するものである。
図25及び図26は、第二例としての構図調整手法の説明図である。
図25では、画面10a内に左方向を向く被写体S3と正面を向く被写体S4が映し出されている例を示している。第二例では、検出被写体のタッチ操作後、再度のタッチ操作に応じて、該検出被写体の正面方向側に画角中心Pcが位置するように構図の調整が行われる。図25及び図26の例では、被写体S3のタッチ操作後の再度のタッチ操作に応じて、被写体S3の正面方向側に画角中心Pcが位置するように構図の調整が行われた例が示されている。
図27のフローチャートは、第二例としての構図調整手法を実現するための具体的な処理手順を示している。
この場合も制御部8は、第一実施形態の場合と同様に図13に示す処理を実行する。但し、この場合の制御部8は、ステップS107の被写体追尾モード処理として、先の図15に示した処理ではなく図27に示す処理を実行する。
図15に示した処理との差異点は、ステップS308の処理に代えて、ステップS601のスペーシング制御処理を実行する点である。
ステップS601のスペーシング制御処理において制御部8は、ステップS101でタッチ操作が検知された検出被写体(つまり追尾対象被写体)について、画像認識処理部5から取得した簡易モデル情報から該検出被写体の向きを推定する。そして、該検出被写体の正面方向側に画角中心Pcが位置するように、目標位置Ptの更新を行う。
制御部8は、ステップS601のスペーシング制御処理を実行したことに応じ、ステップS309に処理を進める。
上記のような処理により、追尾対象被写体を指定するタッチ操作の後の画面10aのタッチ操作に応じて、該追尾対象被写体の正面方向側に画角中心Pcが位置するように構図の調整が行われる。
画面10aをタッチするという簡易な操作に応じて、指定された被写体の正面側に空間が確保された自然な構図に調整が行われるため、ユーザの操作負担軽減を図りながら、違和感の少ない構図に調整することができる。
なお、上記では、ステップS601のスペーシング制御処理が、追尾対象被写体を指定するタッチ操作の後の画面10aのタッチ操作に応じて実行される例を挙げたが、これはあくまで一例であり、他の操作(タッチ操作以外の操作も含む)に応じてスペーシング制御処理を行うことも可能である。
<4.変形例>

ここで、実施形態としては上記で例示した具体例に限定されるものでなく、多様な変形例が考えられるものである。
例えば、上記では、構図調整に係る操作が画面10aに対するタッチ操作として行われる例を挙げたが、これに代えて、画面10a内に表示したカーソル等のポインタを用いた操作とすることもできる。例えば、被写体等の位置の指定操作は、所望の位置にポインタを位置させた状態で所定のボタンを押圧する等の操作とすることも考えられる。このとき、例えば十字キー等の変位指示操作子により、画面10a内におけるポインタの変位の指示が可能となるようにしておく。また、撮像方向の調整や被写体の画面内位置の調整等に係る移動方向指定操作は、例えば所定のボタンを押圧した状態で上記の変位指示操作子によりポインタを変位させる操作等とすることも考えられる。
また、上記では、画面10a上に表示される画像を撮像する撮像装置と、被写体検出等の画像認識を行うための撮像を行う撮像装置とが共通の撮像装置1とされる例を挙げたが、これらの撮像装置を別体とすることも可能である。
図28にその一例を示す。
この場合、撮像装置1Aが、画面10a上に表示される画像を撮像する撮像装置に該当し、撮像装置30が画像認識を行うための撮像を行う撮像装置に該当する。撮像装置30は、画面10a上に撮像画像が表示される撮像装置とは別途の撮像装置であると換言することができる。
図示のように撮像装置30と撮像装置1Aは共通の雲台装置50に搭載され、雲台装置50のパン、チルト動作に応じてこれら撮像装置30と撮像装置1Aがパン方向、チルト方向に連動して動く。
図29は、撮像装置30と撮像装置1Aの内部構成例を示したブロック図である。
撮像装置30は、レンズ系2、撮像部3、カメラ信号処理部4、及び画像認識処理部5を備えて構成される。なお、これらの各部については既に説明済みであるため重複説明は避ける。
撮像装置1Aは、撮像装置1と比較して画像認識処理部5が省略された点が異なる。
この場合、撮像装置1Aにおける制御部8は、撮像装置30の画像認識処理部5から取得した被写体情報Isに基づき、被写体の追尾制御処理を始めとした、第一、第二、又は第三実施形態と同様の構図調整のための処理(図13から図15、図16、図17、図19、図23、図24、図27等の処理)を実行する。
なお、上記構成による撮像システムでは、撮像装置30と撮像装置1Aとの間に視差や画角の差が生じるため、それら視差や画角の差に基づいて各撮像画像間で被写体位置の位置合わせを行う。
上記のような撮像システムの構成を採ることで、撮像装置1Aのカメラ設定は作画を意図したカメラ設定とすることができ、撮像装置30のカメラ設定は画像認識に適したカメラ設定とすることが可能となる。例えば、被写体の流し撮りを行う際、撮像装置1Aについてはシャッタスピードを下げ適切な露光を設定して撮像を行うが、撮像装置30については、これと異なるカメラ設定とすることができる。すなわち、シャッタスピードを上げ、ISO感度を上げた状態で、高速に動く被写体をロバストに認識できるようにすることが可能となる。
また、撮像装置30の画角は、撮像装置1Aの画角に左右されないため、撮像装置30の画角を撮像装置1Aの画角よりも広くすることで、追尾対象被写体がフレームアウトし難くして被写体認識のロバスト性が高まるようにすることができる。
さらに、撮像装置30のフレームレートを撮像装置1よりも高めることで、被写体の追尾性能を高めることもできる。
また、上記では、雲台装置50として、パン方向及びチルト方向のみの駆動が可能とされた雲台装置を例示したが、図30に例示する雲台装置50Aのように、ロール方向(図中矢印Drの方向)の駆動が可能な雲台装置を用いることもできる。
このようにロール方向の駆動が可能とされる場合には、画面10aに対するなぞり操作に応じて、撮像装置1のロール方向における向きを調整することが考えられる。
例えば図31では、一本目の指で被写体S2をタッチする操作(追尾対象被写体を指定する操作)が行われた後、二本目の指で画面10a上を円弧状になぞる操作が行われたことを示している。このような操作に応じ制御部8は、図32に示すように、撮像装置1のロール方向における向きが、なぞられた方向になぞられた量に応じた分だけ変化するように雲台装置50を制御する。
ここで、この場合、ロール方向の向きの変化指示操作との区別可能とするために、パン方向、チルト方向の向きの変化指示操作としては、二本目の指を直線状になぞる操作とする。
なお、図31及び図32では一本目の指が検出被写体をタッチした後の二本目の指によるなぞり操作に応じて撮像装置1のロール方向における向きを調整する例を挙げたが、このようなロール方向における向きの調整は、一本目の指が検出被写体以外の被写体をタッチした場合にも同様に行われる。
また、第三実施形態のように被写体の簡易モデル情報を利用可能な場合には、簡易モデル情報から対象の被写体が斜めに映っていることが検出されたことに応じ、該対象の被写体が画面10a内において直立状態となるように(或いは、傾きが少なくなるように)ロール方向の向きを調整することもできる。
<5.実施形態のまとめ>

上記のように実施形態としての構図制御装置(撮像装置1、1A)は、撮像装置の構図を指定する操作情報であり、撮像装置の撮像画像を表示する画面(同10a)上における指定位置の情報を含む構図指定操作情報を取得し、構図指定操作情報の指定位置に対応する被写体情報に基づいて撮像装置の構図を調整するように撮像装置の撮像範囲を制御する制御部(同8)を備えている。
構図指定操作情報は、撮像画像を表示する画面上における指定位置の情報を含む。このため、撮像画像を表示する画面上での位置を指定するという直感的な操作に基づき、目標とする構図への調整が行われる。具体的に、上記構成では、画面上の指定位置に対応する被写体情報に基づいて撮像装置の構図が調整される。被写体情報とは、撮像画像内の被写体に関する情報であり、少なくとも、検出被写体の有無を表す情報とされる。このため、構図の調整は、画面上の検出被写体の位置を指定する操作等、直感的な操作に基づき行われる。
従って、構図調整に係る操作について操作性向上を図ることができる。
また、実施形態としての構図制御装置においては、制御部は、被写体情報が、撮像画像から検出された検出被写体を示す場合は、検出被写体を追尾するように撮像範囲を制御している。
これにより、追尾対象とする被写体の指定操作は、画面内の検出被写体を指定する操作とされる。
従って、構図調整に係る操作について操作性向上を図ることができる。
さらに、実施形態としての構図制御装置においては、制御部は、被写体情報が、検出被写体を示さない場合は、指定位置の被写体を追尾するための制御を行わない。
これにより、例えば検出被写体の背景部分等、ユーザが追尾を望んでいないと推定される被写体が指定された場合には、指定位置の被写体の追尾が行われない。
従って、ユーザの意図に沿った適切な追尾制御を実現することができる。
さらにまた、実施形態としての構図制御装置においては、構図指定操作情報は、画面の面内における方向を指定する方向指定操作に基づく方向指定操作情報を含み、制御部は、方向指定操作情報に基づき前記撮像範囲を制御している。

この方向指定操作により、位置の指定操作で指定された被写体の画面内での位置の変更方向など、構図調整に係る方向の指定が可能とされる。
構図調整に係る方向の指定操作が画面上における直感的な操作で実現され、構図調整に係る操作について操作性向上を図ることができる。
また、実施形態としての構図制御装置においては、構図指定操作情報は、画面のタッチ操作により検出され、指定位置は、画面のタッチ開始位置であるものとされている。
これにより、追尾対象とする被写体の指定操作は、画面上で被写体をタッチするという簡易な操作とすることが可能とされる。
従って、構図調整に係る操作について操作性向上を図ることができる。
さらに、実施形態としての構図制御装置においては、方向指定操作情報は画面をなぞる操作により検出されるものとされている。
これにより、構図調整に係る方向の指定操作が、画面上において構図を変更したい方向に指をスライドさせるという直感的な操作で実現可能となる。
従って、構図調整に係る操作について操作性向上を図ることができる。
また、位置の指定操作がタッチ操作であり、該位置の指定操作によって追尾対象被写体が指定される場合には、タッチした指で画面上を任意方向になぞるという操作で、追尾対象被写体の指定と、指定した被写体の画面内での位置の移動指定とを行うことが可能とされる。
従って、操作の容易性が増し、操作性のさらなる向上を図ることができる。
また、実施形態としての構図制御装置においては、制御部は、撮像装置が取り付けられた雲台装置(同50、50A)を制御して前記撮像範囲の制御を行っている。
これにより、雲台装置により撮像装置の撮像方向を変えることによる構図調整を行うことが可能とされる。
従って、構図調整の自由度を高めることができる。
さらにまた、実施形態としての構図制御装置においては、雲台装置は、撮像装置のパン又はチルト方向における向きを調整可能に構成され、パン又はチルト方向を指定する構図指定操作情報が画面を直線状になぞる操作により検出されるものとされている。
これにより、パン又はチルト方向の指定操作は、パン又はチルト方向に沿って直線的に指をスライドさせるという直感的な操作で実現される。
従って、構図調整に係る操作について操作性向上を図ることができる。
また、実施形態としての構図制御装置においては、雲台装置は、撮像装置のロール方向における向きを調整可能に構成され、ロール方向を指定する構図指定操作情報が画面を円弧状になぞる操作とされている。
これにより、ロール方向の指定操作は、ロール方向に沿った円弧状に指をスライドさせるという直感的な操作で実現される。
従って、構図調整に係る操作について操作性向上を図ることができる。
さらに、実施形態としての構図制御装置においては、制御部は、撮像装置が取り付けられた雲台装置を制御して撮像範囲の制御を行うと共に、被写体情報が、撮像画像から検出された検出被写体を示す場合には、方向指定操作により指定された方向とは逆方向に撮像装置の向きを変化させ、被写体情報が検出被写体を示さない場合には、方向指定操作により指定された方向に撮像装置の向きを変化させるように雲台装置を制御している。
位置指定操作が検出被写体の指定操作であった場合、ユーザは、その後の方向指定操作によって検出被写体の画面内における位置を変更することを望んでいると推定できるため、該方向指定操作により指定された方向とは逆方向に撮像装置の向きを変化させる。一方、位置指定操作が検出被写体以外の位置の指定操作であった場合、ユーザは、その後の方向指定操作によって撮像方向の変化方向を直接的に指定していると推定できるため、該方向指定操作により指定された方向に撮像装置の向きを変化させる。
これにより、ユーザの意図を反映した適切な構図調整を実現することができる。
さらにまた、実施形態としての構図制御装置においては、制御部は、撮像装置が取り付けられた雲台装置を制御して撮像範囲の制御を行うと共に、被写体情報が検出被写体を示す場合は、追尾に係るパラメータとして、検出被写体の種類に応じたパラメータを用いて雲台装置を制御している。
これにより、指定された被写体が動きの速い種類の被写体である場合には追従性を高めたパラメータによる追尾制御を行い、動きの遅い種類の被写体である場合には追従性を低くしたパラメータによる追尾制御を行う等、指定された被写体に応じたパラメータによる追尾制御を行うことが可能とされる。
従って、追尾制御の精度向上を図ることができる。
また、実施形態としての構図制御装置においては、雲台装置は、撮像装置のパン方向及びチルト方向の向きを調整可能に構成され、制御部は、雲台装置のパン方向の制御、チルト方向の制御それぞれについて、検出被写体の種類に応じたパラメータを用いている。
これにより、指定された被写体の種類に応じてパン方向、チルト方向の追尾特性を個別に設定可能となる。例えば、被写体が鳥の場合、パン、チルト方向の双方で追尾応答性を高め、被写体が犬の場合はパン方向の追尾応答性は高めるがチルト方向の追尾応答性は低くするといったことが可能とされる。
被写体の種類に応じ、追尾応答性を高める必要のない方向について過剰に応答性を高めた追尾が行われてしまうことの防止を図ることでき、追尾制御の安定性向上を図ることができる。
さらに、実施形態としての構図制御装置においては、制御部は、検出被写体の種類に応じて、パン方向及びチルト方向の追尾応答性が高いパラメータ(前述した第一パラメータ)を用いる第一追尾モードと、パン方向及びチルト方向の追尾応答性が低いパラメータ(前述した第二パラメータ)を用いる第二追尾モードと、パン方向、チルト方向の何れか一方の追尾応答性が低く、パン方向、チルト方向の何れか他方の追尾応答性が高いパラメータ(前述した第三パラメータ)を用いる第三追尾モードの何れかのモードによる追尾制御を行っている。
これにより、指定された被写体の種類に応じて、追尾応答性を高める必要のない方向について過剰に応答性を高めた追尾が行われてしまうことの防止が図られる。
従って、追尾制御の安定性向上を図ることができる。
さらにまた、実施形態としての構図制御装置においては、制御部は、検出被写体の種類に応じたパラメータを用いた雲台装置の制御を開始した後、該検出被写体の位置と追尾の目標位置との誤差に基づいてパラメータの調整を行っている。
指定された被写体の位置と追尾の目標位置との誤差の大きさにより、設定したパラメータが実際の被写体の動きに適しているか否かを判定可能となる。
従って、該誤差に基づいてパラメータの調整を行うことで、実際の被写体の動きに適したパラメータに調整すること可能となり、追尾制御の安定性向上を図ることができる。
また、実施形態としての構図制御装置においては、制御部は、被写体情報が、画面内における人物として検出された検出被写体を示す場合において、検出被写体について検出された人体の簡易モデル情報に基づき撮像範囲の制御を行っている。
人体の簡易モデル情報とは、人体における眼、耳、鼻、口、首、肩、肘、手首、尻、膝、足首等、人体を構成する複数部位の配置状態を表す情報である。上記構成によれば、構図変更のための撮像範囲の制御は、雲台の駆動方向や駆動量を直接指示する操作や焦点距離の調整操作に基づかず、上記の簡易モデル情報から推定される例えば被写体の各部位の位置や姿勢に基づいて行うことが可能とされる。
従って、構図調整に係るユーザの操作負担軽減を図ることができる。
また、簡易モデル情報を用いることで、画面内(撮像画像内)に収めるべき被写体の全身部分や半身部分等の特定部分の推定精度が高まるため、構図調整の正確性向上を図ることができる。例えば、顔検出により検出した顔部分から被写体の全身、半身等の特定部分を推定することもできるが、その場合よりも特定部分の推定精度が高まり、構図調整の正確性向上を図ることができる。
さらにまた、実施形態としての構図制御装置においては、制御部は、簡易モデル情報から推定される検出被写体の向きの情報に基づき、該検出被写体の正面方向側に画角中心が位置するように撮像範囲を制御している。
これにより、指定された被写体の正面側に空間が確保された自然な構図に調整することが可能とされる。
従って、ユーザの操作負担軽減を図りながら、違和感の少ない構図に調整することができる。
また、実施形態としての構図制御装置においては、構図指定操作情報は、画面のタッチ操作により検出され、指定位置は、画面のタッチ開始位置であり、制御部は、指定位置の検出後の画面上における操作に基づいて、簡易モデル情報に基づく撮像範囲の制御を行っている。
これにより、例えば被写体の全身が映る構図、半身のみが映る構図への調整等、簡易モデル情報に基づく構図調整は、画面上のタッチ操作により対象とする被写体を指定した上で、画面上における操作を行うという簡易な操作により実現可能とされる。
従って、構図調整に係る操作の容易化が図られ、ユーザの操作負担軽減を図ることができる。
さらに、実施形態としての構図制御装置においては、制御部は、画面上に撮像画像が表示される撮像装置(同1、1A)とは別途の撮像装置(同30)による撮像画像について行われた画像認識処理の結果に基づき、撮像範囲の制御を行っている。
これにより、画像認識処理に用いる撮像画像については、ユーザによる作画意図に応じたカメラ設定での撮像画像ではなく、画像認識処理に適したカメラ設定での撮像画像を用いることが可能とされる。
従って、構図調整のための撮像範囲制御を画像認識処理の結果に基づき行う場合において、画像認識処理の精度向上が図られ、構図調整の精度向上を図ることができる。
また、実施形態としての構図制御方法は、撮像装置の構図を指定する操作情報であり、撮像装置の撮像画像を表示する画面上における指定位置の情報を含む構図指定操作情報を取得し、構図指定操作情報の指定位置に対応する被写体情報に基づいて撮像装置の構図を調整するように撮像装置の撮像範囲を制御する構図制御方法である。
このような実施形態としての構図制御方法によっても、上記した実施形態としての構図制御装置と同様の作用及び効果を得ることができる。
実施形態のプログラムは、撮像装置の構図を指定する操作情報であり、撮像装置の撮像画像を表示する画面上における指定位置の情報を含む構図指定操作情報を取得し、構図指定操作情報の指定位置に対応する被写体情報に基づいて撮像装置の構図を調整するように撮像装置の撮像範囲を制御する機能を、情報処理装置に実現させるプログラムである。
すなわち、図13から図15、図16、図17、図19、図23、図24、図27等で説明した処理を情報処理装置に実行させるプログラムである。
このようなプログラムにより実施形態としての構図制御装置の実現が容易となる。
そしてこのようなプログラムはコンピュータ装置等の機器に内蔵されている記録媒体や、CPUを有するマイクロコンピュータ内のROM等に予め記憶しておくことができる。或いは、半導体メモリ、メモリカード、光ディスク、光磁気ディスク、磁気ディスク等のリムーバブル記録媒体に、一時的あるいは永続的に格納(記憶)しておくことができる。またこのようなリムーバブル記録媒体は、いわゆるパッケージソフトウェアとして提供することができる。
また、このようなプログラムは、リムーバブル記録媒体からパーソナルコンピュータ等にインストールする他、ダウンロードサイトから、LAN(Local Area Network)、インターネットなどのネットワークを介してダウンロードすることもできる。
なお、本明細書に記載された効果はあくまでも例示であって限定されるものではなく、また他の効果があってもよい。
<6.本技術>

なお本技術は以下のような構成も採ることができる。
(1)
撮像装置の構図を指定する操作情報であり、前記撮像装置の撮像画像を表示する画面上における指定位置の情報を含む構図指定操作情報を取得し、前記構図指定操作情報の前記指定位置に対応する被写体情報に基づいて前記撮像装置の構図を調整するように前記撮像装置の撮像範囲を制御する制御部を備える
構図制御装置。
(2)
前記制御部は、
前記被写体情報が、前記撮像画像から検出された検出被写体を示す場合は、前記検出被写体を追尾するように前記撮像範囲を制御する
前記(1)に記載の構図制御装置。
(3)
前記制御部は、
前記被写体情報が、前記検出被写体を示さない場合は、前記指定位置の被写体を追尾するための制御を行わない
前記(2)に記載の構図制御装置。
(4)
前記構図指定操作情報は、前記画面の面内における方向を指定する方向指定操作に基づく方向指定操作情報を含み、
前記制御部は、
前記方向指定操作情報に基づき前記撮像範囲を制御する
前記(1)から(3)の何れかに記載の構図制御装置。
(5)
前記構図指定操作情報は、前記画面のタッチ操作により検出され、
前記指定位置は、前記画面のタッチ開始位置である
前記(2)から(4)の何れかに記載の構図制御装置。
(6)
前記方向指定操作情報は前記画面をなぞる操作により検出される
前記(4)に記載の構図制御装置。
(7)
前記制御部は、
前記撮像装置が取り付けられた雲台装置を制御して前記撮像範囲の制御を行う
前記(1)から(6)の何れかに記載の構図制御装置。
(8)
前記雲台装置は、前記撮像装置のパン又はチルト方向における向きを調整可能に構成され、
前記パン又はチルト方向を指定する前記構図指定操作情報が前記画面を直線状になぞる操作により検出される
前記(7)に記載の構図制御装置。
(9)
前記雲台装置は、前記撮像装置のロール方向における向きを調整可能に構成され、
前記ロール方向を指定する前記構図指定操作情報が前記画面を円弧状になぞる操作とされた
前記(7)又は(8)に記載の構図制御装置。
(10)
前記制御部は、
前記撮像装置が取り付けられた雲台装置を制御して前記撮像範囲の制御を行うと共に、
前記被写体情報が、前記撮像画像から検出された検出被写体を示す場合には、前記方向指定操作により指定された方向とは逆方向に前記撮像装置の向きを変化させ、前記被写体情報が前記検出被写体を示さない場合には、前記方向指定操作により指定された方向に前記撮像装置の向きを変化させるように前記雲台装置を制御する
前記(4)から(9)の何れかに記載の構図制御装置。
(11)
前記制御部は、
前記撮像装置が取り付けられた雲台装置を制御して前記撮像範囲の制御を行うと共に、
前記被写体情報が前記検出被写体を示す場合は、前記追尾に係るパラメータとして、前記検出被写体の種類に応じたパラメータを用いて前記雲台装置を制御する
前記(2)から(10)の何れかに記載の構図制御装置。
(12)
前記雲台装置は、前記撮像装置のパン方向及びチルト方向の向きを調整可能に構成され、
前記制御部は、
前記雲台装置のパン方向の制御、チルト方向の制御それぞれについて、前記検出被写体の種類に応じた前記パラメータを用いる
前記(11)に記載の構図制御装置。
(13)
前記制御部は、
前記検出被写体の種類に応じて、パン方向及びチルト方向の追尾応答性が高い前記パラメータを用いる第一追尾モードと、パン方向及びチルト方向の追尾応答性が低い前記パラメータを用いる第二追尾モードと、パン方向、チルト方向の何れか一方の追尾応答性が低く、パン方向、チルト方向の何れか他方の追尾応答性が高い前記パラメータを用いる第三追尾モードの何れかのモードによる追尾制御を行う
前記(12)に記載の構図制御装置。
(14)
前記制御部は、
前記検出被写体の種類に応じた前記パラメータを用いた前記雲台装置の制御を開始した後、該検出被写体の位置と追尾の目標位置との誤差に基づいて前記パラメータの調整を行う
前記(11)から(13)の何れかに記載の構図制御装置。
(15)
前記制御部は、
前記被写体情報が、前記画面内における人物として検出された検出被写体を示す場合において、前記検出被写体について検出された人体の簡易モデル情報に基づき前記撮像範囲の制御を行う
前記(1)から(14)の何れかに記載の構図制御装置。
(16)
前記制御部は、
前記簡易モデル情報から推定される前記検出被写体の向きの情報に基づき、該検出被写体の正面方向側に画角中心が位置するように前記撮像範囲を制御する
前記(15)に記載の構図制御装置。
(17)
前記構図指定操作情報は、前記画面のタッチ操作により検出され、
前記指定位置は、前記画面のタッチ開始位置であり、
前記制御部は、
前記指定位置の検出後の前記画面上における操作に基づいて、前記簡易モデル情報に基づく前記撮像範囲の制御を行う
前記(15)又は(16)に記載の構図制御装置。
(18)
前記制御部は、
前記画面上に撮像画像が表示される前記撮像装置とは別途の撮像装置による撮像画像について行われた画像認識処理の結果に基づき、前記撮像範囲の制御を行う
前記(1)から(17)の何れかに記載の構図制御装置。
1,1A 撮像装置、5 画像認識処理部、7 ドライバ部、8 制御部、9 操作部、9a タッチパネル、10 表示部、10a 画面、30 撮像装置、50,50A 雲台装置、56 アクチュエータ、57 駆動制御部、F1 位置誤差計算処理部、F2 制御値計算処理部、F3 駆動量換算処理部、Pt 目標位置、d 誤差(位置誤差)

Claims (19)

  1. 撮像装置の構図を指定する操作情報であり、前記撮像装置の撮像画像を表示する画面上における指定位置の情報を含む構図指定操作情報を取得し、前記構図指定操作情報の前記指定位置に対応する被写体情報に基づいて前記撮像装置の構図を調整するように前記撮像装置の撮像範囲を制御する制御部を備え、
    前記構図指定操作情報は、前記画面の面内における方向を指定する方向指定操作に基づく方向指定操作情報を含み、
    前記制御部は、
    前記撮像装置が取り付けられた雲台装置を制御して前記撮像範囲の制御を行うと共に、
    前記被写体情報が、前記撮像画像から検出された検出被写体を示す場合は、前記検出被写体を追尾するように前記撮像範囲を制御し、
    前記被写体情報が、前記撮像画像から検出された検出被写体を示す場合には、前記方向指定操作により指定された方向とは逆方向に前記撮像装置の向きを変化させ、前記被写体情報が前記検出被写体を示さない場合には、前記方向指定操作により指定された方向に前記撮像装置の向きを変化させるように前記雲台装置を制御する
    構図制御装置。
  2. 前記構図指定操作情報は、前記画面のタッチ操作により検出され、
    前記指定位置は、前記画面のタッチ開始位置である
    請求項に記載の構図制御装置。
  3. 前記方向指定操作情報は前記画面をなぞる操作により検出される
    請求項に記載の構図制御装置。
  4. 前記雲台装置は、前記撮像装置のパン又はチルト方向における向きを調整可能に構成され、
    前記パン又はチルト方向を指定する前記構図指定操作情報が前記画面を直線状になぞる操作により検出される
    請求項に記載の構図制御装置。
  5. 前記雲台装置は、前記撮像装置のロール方向における向きを調整可能に構成され、
    前記ロール方向を指定する前記構図指定操作情報が前記画面を円弧状になぞる操作とされた
    請求項に記載の構図制御装置。
  6. 前記制御部は、
    前記被写体情報が、前記画面内における人物として検出された検出被写体を示す場合において、前記検出被写体について検出された人体の簡易モデル情報に基づき前記撮像範囲の制御を行う
    請求項1に記載の構図制御装置。
  7. 前記制御部は、
    前記簡易モデル情報から推定される前記検出被写体の向きの情報に基づき、該検出被写体の正面方向側に画角中心が位置するように前記撮像範囲を制御する
    請求項に記載の構図制御装置。
  8. 前記構図指定操作情報は、前記画面のタッチ操作により検出され、
    前記指定位置は、前記画面のタッチ開始位置であり、
    前記制御部は、
    前記指定位置の検出後の前記画面上における操作に基づいて、前記簡易モデル情報に基づく前記撮像範囲の制御を行う
    請求項に記載の構図制御装置。
  9. 撮像装置の構図を指定する操作情報であり、前記撮像装置の撮像画像を表示する画面上における指定位置の情報を含む構図指定操作情報を取得し、前記構図指定操作情報の前記指定位置に対応する被写体情報に基づいて前記撮像装置の構図を調整するように前記撮像装置の撮像範囲を制御する制御処理を行うと共に、
    前記構図指定操作情報は、前記画面の面内における方向を指定する方向指定操作に基づく方向指定操作情報を含み、
    前記制御処理では、
    前記撮像装置が取り付けられた雲台装置を制御して前記撮像範囲の制御を行うと共に、
    前記被写体情報が、前記撮像画像から検出された検出被写体を示す場合は、前記検出被写体を追尾するように前記撮像範囲を制御し、
    前記被写体情報が、前記撮像画像から検出された検出被写体を示す場合には、前記方向指定操作により指定された方向とは逆方向に前記撮像装置の向きを変化させ、前記被写体情報が前記検出被写体を示さない場合には、前記方向指定操作により指定された方向に前記撮像装置の向きを変化させるように前記雲台装置を制御する
    構図制御方法。
  10. 撮像装置の構図を指定する操作情報であり、前記撮像装置の撮像画像を表示する画面上における指定位置の情報を含む構図指定操作情報を取得し、前記構図指定操作情報の前記指定位置に対応する被写体情報に基づいて前記撮像装置の構図を調整するように前記撮像装置の撮像範囲を制御する制御処理を行う機能を、情報処理装置に実現させる共に、
    前記構図指定操作情報は、前記画面の面内における方向を指定する方向指定操作に基づく方向指定操作情報を含み、
    前記制御処理では、
    前記撮像装置が取り付けられた雲台装置を制御して前記撮像範囲の制御を行うと共に、
    前記被写体情報が、前記撮像画像から検出された検出被写体を示す場合は、前記検出被写体を追尾するように前記撮像範囲を制御し、
    前記被写体情報が、前記撮像画像から検出された検出被写体を示す場合には、前記方向指定操作により指定された方向とは逆方向に前記撮像装置の向きを変化させ、前記被写体情報が前記検出被写体を示さない場合には、前記方向指定操作により指定された方向に前記撮像装置の向きを変化させるように前記雲台装置を制御する
    プログラム。
  11. 撮像装置の構図を指定する操作情報であり、前記撮像装置の撮像画像を表示する画面上における指定位置の情報を含む構図指定操作情報を取得し、前記構図指定操作情報の前記指定位置に対応する被写体情報に基づいて前記撮像装置の構図を調整するように前記撮像装置の撮像範囲を制御する制御部を備え、
    前記制御部は、
    前記撮像装置が取り付けられた雲台装置を制御して前記撮像範囲の制御を行うと共に、
    前記被写体情報が、前記撮像画像から検出された検出被写体を示す場合は、前記検出被写体を追尾するように前記撮像範囲を制御し、
    前記雲台装置は、前記撮像装置のパン方向及びチルト方向の向きを調整可能に構成され、
    前記制御部は、
    前記検出被写体の種類に応じて、前記検出被写体の追尾に用いるパラメータとしてパン方向及びチルト方向の追尾応答性が高い前記パラメータを用いる第一追尾モードと、パン方向及びチルト方向の追尾応答性が低い前記パラメータを用いる第二追尾モードと、パン方向、チルト方向の何れか一方の追尾応答性が低く、パン方向、チルト方向の何れか他方の追尾応答性が高い前記パラメータを用いる第三追尾モードの何れかのモードによる追尾制御を行う
    構図制御装置。
  12. 前記構図指定操作情報は、前記画面のタッチ操作により検出され、
    前記指定位置は、前記画面のタッチ開始位置である
    請求項11に記載の構図制御装置。
  13. 前記制御部は、
    前記検出被写体の種類に応じた前記パラメータを用いた前記雲台装置の制御を開始した後、該検出被写体の位置と追尾の目標位置との誤差に基づいて前記パラメータの調整を行う
    請求項11に記載の構図制御装置。
  14. 撮像装置の構図を指定する操作情報であり、前記撮像装置の撮像画像を表示する画面上における指定位置の情報を含む構図指定操作情報を取得し、前記構図指定操作情報の前記指定位置に対応する被写体情報に基づいて前記撮像装置の構図を調整するように前記撮像装置の撮像範囲を制御する制御処理を行うと共に、
    前記制御処理では、
    前記撮像装置が取り付けられた雲台装置を制御して前記撮像範囲の制御を行うと共に、
    前記被写体情報が、前記撮像画像から検出された検出被写体を示す場合は、前記検出被写体を追尾するように前記撮像範囲を制御し、
    前記雲台装置は、前記撮像装置のパン方向及びチルト方向の向きを調整可能に構成され、
    前記制御処理では、
    前記検出被写体の種類に応じて、前記検出被写体の追尾に用いるパラメータとしてパン方向及びチルト方向の追尾応答性が高い前記パラメータを用いる第一追尾モードと、パン方向及びチルト方向の追尾応答性が低い前記パラメータを用いる第二追尾モードと、パン方向、チルト方向の何れか一方の追尾応答性が低く、パン方向、チルト方向の何れか他方の追尾応答性が高い前記パラメータを用いる第三追尾モードの何れかのモードによる追尾制御を行う
    構図制御方法。
  15. 撮像装置の構図を指定する操作情報であり、前記撮像装置の撮像画像を表示する画面上における指定位置の情報を含む構図指定操作情報を取得し、前記構図指定操作情報の前記指定位置に対応する被写体情報に基づいて前記撮像装置の構図を調整するように前記撮像装置の撮像範囲を制御する制御処理を行う機能を、情報処理装置に実現させると共に、
    前記制御処理では、
    前記撮像装置が取り付けられた雲台装置を制御して前記撮像範囲の制御を行うと共に、
    前記被写体情報が、前記撮像画像から検出された検出被写体を示す場合は、前記検出被写体を追尾するように前記撮像範囲を制御し、
    前記雲台装置は、前記撮像装置のパン方向及びチルト方向の向きを調整可能に構成され、
    前記制御処理では、
    前記検出被写体の種類に応じて、前記検出被写体の追尾に用いるパラメータとしてパン方向及びチルト方向の追尾応答性が高い前記パラメータを用いる第一追尾モードと、パン方向及びチルト方向の追尾応答性が低い前記パラメータを用いる第二追尾モードと、パン方向、チルト方向の何れか一方の追尾応答性が低く、パン方向、チルト方向の何れか他方の追尾応答性が高い前記パラメータを用いる第三追尾モードの何れかのモードによる追尾制御を行う
    プログラム。
  16. 撮像装置の構図を指定する操作情報であり、前記撮像装置の撮像画像を表示する画面上における指定位置の情報を含む構図指定操作情報を取得し、前記構図指定操作情報の前記指定位置に対応する被写体情報に基づいて前記撮像装置の構図を調整するように前記撮像装置の撮像範囲を制御する制御部を備え、
    前記構図指定操作情報は、前記画面のタッチ操作によるタッチ開始位置として指定された前記指定位置の情報と、前記画面をなぞる操作である方向指定操作に基づく方向指定操作情報とを含み、
    前記制御部は、
    前記被写体情報が、前記撮像画像から検出された検出被写体を示す場合は、前記検出被写体を追尾するように前記撮像範囲を制御すると共に、前記方向指定操作情報に基づき、前記追尾の際の構図を調整する制御を行う
    構図制御装置。
  17. 前記制御部は、
    前記撮像装置が取り付けられた雲台装置を制御して前記撮像範囲の制御を行う
    請求項16に記載の構図制御装置。
  18. 撮像装置の構図を指定する操作情報であり、前記撮像装置の撮像画像を表示する画面上における指定位置の情報を含む構図指定操作情報を取得し、前記構図指定操作情報の前記指定位置に対応する被写体情報に基づいて前記撮像装置の構図を調整するように前記撮像装置の撮像範囲を制御する制御処理を行うと共に、
    前記構図指定操作情報は、前記画面のタッチ操作によるタッチ開始位置として指定された前記指定位置の情報と、前記画面をなぞる操作である方向指定操作に基づく方向指定操作情報とを含み、
    前記制御処理では、
    前記被写体情報が、前記撮像画像から検出された検出被写体を示す場合は、前記検出被写体を追尾するように前記撮像範囲を制御すると共に、前記方向指定操作情報に基づき、前記追尾の際の構図を調整する制御を行う
    構図制御方法。
  19. 撮像装置の構図を指定する操作情報であり、前記撮像装置の撮像画像を表示する画面上における指定位置の情報を含む構図指定操作情報を取得し、前記構図指定操作情報の前記指定位置に対応する被写体情報に基づいて前記撮像装置の構図を調整するように前記撮像装置の撮像範囲を制御する制御処理を行う機能を、情報処理装置に実現させると共に、
    前記構図指定操作情報は、前記画面のタッチ操作によるタッチ開始位置として指定された前記指定位置の情報と、前記画面をなぞる操作である方向指定操作に基づく方向指定操作情報とを含み、
    前記制御処理では、
    前記被写体情報が、前記撮像画像から検出された検出被写体を示す場合は、前記検出被写体を追尾するように前記撮像範囲を制御すると共に、前記方向指定操作情報に基づき、前記追尾の際の構図を調整する制御を行う
    プログラム。
JP2021522664A 2019-05-27 2020-04-01 構図制御装置、構図制御方法、プログラム Active JP7384200B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2019098556 2019-05-27
JP2019098556 2019-05-27
PCT/JP2020/015058 WO2020241038A1 (ja) 2019-05-27 2020-04-01 構図制御装置、構図制御方法、プログラム

Publications (2)

Publication Number Publication Date
JPWO2020241038A1 JPWO2020241038A1 (ja) 2020-12-03
JP7384200B2 true JP7384200B2 (ja) 2023-11-21

Family

ID=73553382

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021522664A Active JP7384200B2 (ja) 2019-05-27 2020-04-01 構図制御装置、構図制御方法、プログラム

Country Status (5)

Country Link
US (1) US20220311941A1 (ja)
EP (1) EP3978998A4 (ja)
JP (1) JP7384200B2 (ja)
CN (1) CN113841087A (ja)
WO (1) WO2020241038A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
USD981469S1 (en) * 2022-08-09 2023-03-21 Zhiyong Qiu Selfie stick tripod

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009218807A (ja) 2008-03-10 2009-09-24 Sanyo Electric Co Ltd 撮像装置及び画像再生装置
JP2009244369A (ja) 2008-03-28 2009-10-22 Sony Corp 撮像装置及び撮像方法
JP2013223220A (ja) 2012-04-19 2013-10-28 Canon Inc 自動追尾装置
JP2016027704A (ja) 2014-07-04 2016-02-18 パナソニックIpマネジメント株式会社 撮像装置
WO2016151925A1 (ja) 2015-03-26 2016-09-29 富士フイルム株式会社 追尾制御装置、追尾制御方法、追尾制御プログラム、及び、自動追尾撮影システム
JP2017199982A (ja) 2016-04-25 2017-11-02 パナソニックIpマネジメント株式会社 画像処理装置及びこれを備えた撮像システムならびにキャリブレーション方法

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TW201122713A (en) * 2009-02-27 2011-07-01 Sony Corp Imaging device and imaging method
JP2011139231A (ja) * 2009-12-28 2011-07-14 Sony Corp 画像処理装置、画像処理方法、プログラム
EP2393000B1 (en) * 2010-06-04 2019-08-07 Lg Electronics Inc. Mobile terminal capable of providing multiplayer game and method of controlling operation of the mobile terminal
JP5577900B2 (ja) * 2010-07-05 2014-08-27 ソニー株式会社 撮像制御装置、撮像制御方法、プログラム
KR101180119B1 (ko) * 2012-02-23 2012-09-05 (주)올라웍스 카메라 모듈을 통해 사용자의 머리를 트래킹하여 화면을 제어하는 방법, 제어장치 및 컴퓨터 판독 가능한 기록 매체
JP2013247508A (ja) * 2012-05-25 2013-12-09 Canon Inc 自動追尾カメラの制御装置及び該制御装置を有する自動追尾カメラ
US10168882B2 (en) * 2013-06-09 2019-01-01 Apple Inc. Device, method, and graphical user interface for switching between camera interfaces
KR20150057100A (ko) * 2013-11-18 2015-05-28 삼성전자주식회사 3d 객체 편집을 위한 전자 장치 및 방법
KR102152725B1 (ko) * 2014-05-29 2020-09-07 한화테크윈 주식회사 카메라 제어장치
JP6205070B2 (ja) * 2014-09-08 2017-09-27 富士フイルム株式会社 カメラの初期位置設定方法、カメラ及びカメラシステム
US20170347025A1 (en) * 2014-12-22 2017-11-30 Trinus Systems Inc. User-wearable type photographing device
US10567627B2 (en) * 2015-12-30 2020-02-18 Sony Corporation Point of view camera and imaging device
KR102641881B1 (ko) * 2016-10-28 2024-02-29 삼성전자주식회사 전방위 영상을 획득하는 방법 및 장치
CN109862226B (zh) * 2017-11-30 2021-04-27 Oppo广东移动通信有限公司 一种摄像头组件、移动终端及其摄像头组件的控制方法
JP7049179B2 (ja) * 2018-05-14 2022-04-06 キヤノン株式会社 撮像制御装置およびその制御方法、プログラム並びに記憶媒体

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009218807A (ja) 2008-03-10 2009-09-24 Sanyo Electric Co Ltd 撮像装置及び画像再生装置
JP2009244369A (ja) 2008-03-28 2009-10-22 Sony Corp 撮像装置及び撮像方法
JP2013223220A (ja) 2012-04-19 2013-10-28 Canon Inc 自動追尾装置
JP2016027704A (ja) 2014-07-04 2016-02-18 パナソニックIpマネジメント株式会社 撮像装置
WO2016151925A1 (ja) 2015-03-26 2016-09-29 富士フイルム株式会社 追尾制御装置、追尾制御方法、追尾制御プログラム、及び、自動追尾撮影システム
JP2017199982A (ja) 2016-04-25 2017-11-02 パナソニックIpマネジメント株式会社 画像処理装置及びこれを備えた撮像システムならびにキャリブレーション方法

Also Published As

Publication number Publication date
JPWO2020241038A1 (ja) 2020-12-03
EP3978998A4 (en) 2022-07-20
CN113841087A (zh) 2021-12-24
WO2020241038A1 (ja) 2020-12-03
EP3978998A1 (en) 2022-04-06
US20220311941A1 (en) 2022-09-29

Similar Documents

Publication Publication Date Title
JP6039328B2 (ja) 撮影制御装置および撮像装置の制御方法
JP5402409B2 (ja) 撮影条件設定装置、撮影条件設定方法及び撮影条件設定プログラム
WO2018042824A1 (ja) 撮像制御装置、表示制御装置及びそれらの制御方法
JP2019121858A (ja) 電子機器及びその制御方法
JP6602361B2 (ja) 電子機器及びその制御方法
WO2017126222A1 (ja) 表示制御装置、表示制御方法及びコンピュータプログラム
JP2007251429A (ja) 動画撮影装置及びズーム調整方法
US11295530B2 (en) Electronic apparatus for playing back a virtual reality video image and control method therefor
JP7049195B2 (ja) 電子機器及びその制御方法、プログラム、並びに記憶媒体
JP7129294B2 (ja) 電子機器および領域選択方法
JP2023073307A (ja) プログラム、電子機器およびデータ記録方法
JP2022027841A (ja) 電子機器、プログラムおよび記憶媒体
JP6397454B2 (ja) 撮像制御装置及びその制御方法、プログラム、並びに記憶媒体
CN111385470A (zh) 电子设备、电子设备的控制方法和计算机可读介质
JP5751775B2 (ja) 撮像装置、その制御方法及びプログラム並びに記録媒体
JP2019120748A (ja) 電子機器及びその制御方法
JP7384200B2 (ja) 構図制御装置、構図制御方法、プログラム
WO2022061541A1 (zh) 控制方法、手持云台、系统及计算机可读存储介质
JP2014017665A (ja) 表示制御装置、表示制御装置の制御方法、プログラムおよび記録媒体
JP2020042064A (ja) 表示制御装置、撮像装置、制御方法、プログラム、及び、記憶媒体
US11380075B2 (en) Electronic apparatus for playing back a virtual reality video image and control method therefor
JP2019012900A (ja) 撮像制御装置、制御方法、プログラム、及び記憶媒体
JP6630337B2 (ja) 電子機器およびその制御方法
JP2018037860A (ja) 撮像装置及びその制御方法、プログラム、並びに記憶媒体
JP6218911B2 (ja) 撮影制御装置および撮像制御装置の制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230203

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20230203

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230829

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230929

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231010

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231023

R151 Written notification of patent or utility model registration

Ref document number: 7384200

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151