JPH09322052A

JPH09322052A - 自動撮影カメラシステム

Info

Publication number: JPH09322052A
Application number: JP8153132A
Authority: JP
Inventors: Taiichiro Kato; 大一郎加藤; Mitsuo Yamada; 光穗山田; Kazuo Abe; 一雄阿部; Akio Ishikawa; 秋男石川; Shigezumi Kuwajima; 茂純桑島; Takahito Suzuki; 尊人鈴木; Toru Nakamura; 亨中村; Hiroyuki Kuwabara; 裕之桑原
Original assignee: OYO KEISOKU KENKYUSHO KK; Nippon Hoso Kyokai NHK; Japan Broadcasting Corp
Current assignee: OYO KEISOKU KENKYUSHO KK; Japan Broadcasting Corp
Priority date: 1996-05-24
Filing date: 1996-05-24
Publication date: 1997-12-12
Anticipated expiration: 2016-05-24
Also published as: JP3615868B2

Abstract

(57)【要約】【課題】３次元空間内を移動する対象を自動追尾して
撮影することができると共に、撮影中の状況の変化等に
応じた最適なカメラワークで撮影することができるよう
にする。【解決手段】広角画像を撮影するセンサカメラ１００
と；外部からの制御信号により撮影方向を含むカメラ操
作の制御が可能な撮影用カメラ２００と；前記広角画像
内の静止体又は移動体の中から撮影対象の被写体１を認
識すると共に、被写体１の３次元空間内の現在位置を逐
次計測する３次元位置計測部３００と；前記３次元位置
計測部の計測情報に基づいて被写体１の３次元空間内の
動きを解析する動き解析部と；カメラワークの制御モー
ドを複数持ち、当該制御モードの制御パラメータに従っ
て前記撮影用カメラのカメラワークを制御すると共に、
前記解析した被写体の動きに応じて前記撮影用カメラを
駆動制御するカメラワーク制御部とを備える。

Description

【発明の詳細な説明】

【０００１】

【発明の属する技術分野】本発明は、テレビカメラを使
用して撮影した画像から対象の３次元位置を計測し、そ
の対象を自動追尾して無人で撮影することができる自動
撮影カメラシステムに関する。

【０００２】

【従来の技術】従来、カメラ操作者が直接テレビジョン
カメラを操作せず、被写体を自動追尾して撮影すること
ができるようにしたカメラシステムでは、水平，垂直方
向に回動可能で外部からの制御信号により制御可能な撮
影用カメラを用い、被写体の動きに合わせて撮影用カメ
ラを駆動制御するようにしている。被写体を認識する方
法としては、例えば、被写体（あるいは被写体と共に移
動する物体）に予め検知マークを付けておき、撮影画像
を処理してその検知マークを認識する方法や、赤色など
特定の色を被写体として認識する方法が採られている。
そして、認識した被写体が画面の枠内の所定位置に位置
するように撮影用カメラを駆動制御することで、被写体
を追尾して撮影するようにしている。

【０００３】

【発明が解決しようとする課題】しかしながら、上述の
ような追尾方法の場合、次の例に示すように、画面上で
の被写体の動きは“ぎこちない動き”となる。例えば図
１４に示すように被写体１がｔ１時点からｔ３時点まで
同図のような軌跡で移動したとする。その場合、図１５
（Ａ）に示すように、先ずｔ１時点では、画面ＶＤ（ｔ
１）上の目標位置に被写体１が位置するように撮影用カ
メラの向きを補正する。その後、次のｔ２時点までは同
図（Ｂ）のように被写体１が画面ＶＤ（ｔ１〜ｔ２）上
に表示される。次のｔ２時点では、再度、同図（Ｃ）の
ように画面ＶＤ（ｔ２）上の目標位置に被写体１が位置
するように撮影用カメラの向きを補正する。同様に、図
１５（Ｄ）のように被写体が動いた場合も、目標位置と
のずれ量を補正する。すなわち、被写体の位置が所定位
置からずれたら、そのずれ量を補正するという動作を繰
り返すため、認識間隔の大きさに応じてぎこちない動き
が増大する。また、円滑なカメラワークを実現するには
被写体の認識間隔を小さくすれば良いが、そのための情
報処理量が増えるため、制御装置の処理負荷が増大する
ことになる。

【０００４】また、上述のような１台の撮影用カメラで
被写体を自動追尾するためには、カメラの画枠内に被写
体が存在しないと機能しないため、目的とする被写体が
カメラの画枠内に入ってきた時に、はじめて自動制御に
よるカメラ操作が開始されるようになっていた。そのた
め、カメラが被写体を捕らえるまでは手動でカメラ操作
を行なわなければならず、また、被写体の移動速度に追
いつけずに画枠内からはずれてしまった場合、自動追尾
不能になるという問題があった。

【０００５】一方、広い視野領域で撮影し、その領域の
一部を拡大して撮影できるようにしたカメラシステムと
して、広角画像撮影用とその画像の一部をなす画像撮影
用の２個のテレビジョンカメラを備え、前者の無人カメ
ラを用いて広い視野を撮影し、カメラ操作者がその撮影
画像を見ながら、後者の撮影用カメラを遠隔操作（例え
ばパン，チルト，ズーム）等により操作して、目的とす
る被写体を撮影するようにしたカメラシステムが実現さ
れている。このカメラシステムでは、無人カメラによる
撮影画像をモニターするときのカメラ操作者の視線の動
きを検出し、その動きを撮影用カメラの操作信号に変換
してカメラ制御に反映する機能を備えることで、直接カ
メラを操作せずに撮影するようにしている（特開平７−
２４０８６８号公報参照）。しかしながら、このような
撮影方法では、広い視野領域で被写体を捕らえることが
できるという利点はあるが、カメラ操作者が間接的に操
作する必要があり、自動追尾による無人での撮影を行な
うことができなかった。

【０００６】さらに、対象を自動追尾して無人で撮影す
る従来の自動撮影カメラシステムにおいては、画面内の
被写体の位置や大きさ等が変化しない単調な映像が多
く、一流カメラマンが直接操作しているような臨場感の
高いカメラワークを実現することができなかった。

【０００７】本発明は上述のような事情から成されたも
のであり、本発明の目的は、３次元空間内を移動する対
象を自動追尾して撮影することができると共に、撮影中
の状況の変化等に応じた最適なカメラワークで撮影する
ことができる自動撮影カメラシステムを提供することに
ある。

【０００８】

【課題を解決するための手段】本発明は、自動撮影カメ
ラシステムに関するものであり、本発明の上記目的は、
カメラ操作者の視野に相当する広角画像を撮影するセン
サカメラと；外部からの制御信号により撮影方向を含む
カメラ操作の制御が可能な撮影用カメラと；前記センサ
カメラで撮影された広角画像内の静止体又は移動体の中
から撮影対象の被写体を認識すると共に、該被写体の３
次元空間内の現在位置を逐次計測する３次元位置計測部
と；前記３次元位置計測部の計測情報に基づいて前記被
写体の３次元空間内の動きを解析する動き解析部と；前
記撮影用カメラのカメラワークの制御モードを複数持
ち、当該制御モードの制御パラメータに従って前記撮影
用カメラのカメラワークを制御すると共に、前記動き解
析部で解析した被写体の動きに応じて前記撮影用カメラ
を駆動制御するカメラワーク制御部とを備えることによ
って達成される。

【０００９】さらに、前記動き解析部で解析した被写
体の動きの情報が、前記３次元位置計測部の現時点まで
の複数の計測情報に基づいて求めた前記被写体の動きの
予測情報であること；前記カメラワーク制御部が、前
記被写体の３次元空間内の位置に応じて前記制御モード
を自動的に切替え、当該制御モードの制御パラメータに
従って前記撮影用カメラのカメラワークを制御するこ
と；前記カメラワーク制御部が、前記被写体の速度に
応じて前記制御モードを自動的に切替え、当該制御モー
ドの制御パラメータに従って前記撮影用カメラのカメラ
ワークを制御すること；撮影空間領域を複数の撮影空
間領域部に分割すると共に、当該撮影空間領域部での制
御モード及び各撮影空間領域部の切替条件を予め設定し
ておき、前記カメラワーク制御部が前記切替条件に従っ
て前記撮影空間領域部を切替えることで前記制御モード
を自動的に切替え、当該制御モードの制御パラメータに
従って前記撮影用カメラのカメラワークを制御するこ
と；によってそれぞれ、より効果的に達成される。

【００１０】

【発明の実施の形態】本発明では、カメラ操作者の眼に
相当するセンサカメラにより撮影した広角映像の中から
撮影すべき被写体を自動認識すると共に、３次元空間内
での被写体の位置と動きを計測し、被写体の動きに応じ
て撮影用カメラを駆動制御することで、被写体の自動撮
影を行なうようにしている。また、カメラワークの制御
モードを複数持ち、対象の３次元座標位置や対象の速度
等により制御モードをダイナミックに切替え、当該制御
モードでのカメラワークで制御することで、撮影中の状
況の変化等に応じた最適なカメラワークによる撮影を可
能としている。

【００１１】以下、図面に基づいて本発明の好適な実施
形態について詳細に説明する。図１は本発明の自動撮影
カメラシステムの概略構成を示しており、３次元空間を
移動する被写体を捕らえるための２台のカメラ１００
（以下、「センサカメラ」と呼ぶ）と１台の撮影用カメ
ラ２００を備えたシステムの例を示している。センサカ
メラ１００は、カメラ操作者の両眼に相当するカメラで
あり、同図のように撮影対象の被写体１を含む広角映像
を撮影する。このセンサカメラ１００は、被写体の３次
元位置（３次元座標）を三角測量の原理で求めるために
２台用いる。例えば、センサカメラ１００の視野領域を
越えて移動する被写体１を追尾して撮影する場合には、
複数のセンサカメラ１００が使用され、その場合には撮
影範囲（計測範囲）が分割されてそれぞれ所定の位置に
２台ずつ配置される。撮影用カメラ２００は、外部から
の制御信号によりカメラのパン，チルト，ズーム，フォ
ーカス等の調整が可能な駆動機構部（雲台）２１０と撮
像部２２０とが一体的に構成されたカメラであり、パン
軸及びチルト軸の回動制御により真下を除くほぼ全域の
空間が撮影できるようになっている。

【００１２】３次元位置計測装置３００は、センサカメ
ラ１００の撮影された広角画像ＶＤ１ａ（ＶＤ１ｂ）内
の静止体又は移動体の中から撮影対象の被写体１を認識
（例えば被写体１の色情報により認識）すると共に、被
写体１の現在位置を逐次計測する装置であり、撮影用カ
メラ２００の視点を原点とした三次元空間内での被写体
１の現在位置（３次元座標情報），被写体１の大きさを
示す情報（画像抽出部分の面積情報）等を計測情報ＰＤ
として出力する。この計測情報ＰＤは入出力インタフェ
ースを介してデータ解析装置５００に入力される。

【００１３】データ解析装置５００は、３次元位置計測
装置３００からの計測情報ＰＤを基に被写体１の動きを
解析し、被写体１の動きに応じて撮影用カメラ２００の
カメラワークを制御する装置であり、駆動制御部４００
を介して駆動信号ＭＳを送出し、撮影用カメラ２００の
カメラワークを制御する。すなわち、データ解析装置５
００では、３次元位置計測装置３００の計測情報ＰＤに
基づいて被写体１の現在位置を認識する共に、被写体１
の動き（各時点の位置，方位角，加速度等）を解析して
次の瞬間の動きを予測し、この予測情報と現時点の撮影
用カメラ２００の向きを示す情報等に基づいて撮影用カ
メラ２００のパン，チルト角度偏差及びズーム等の調整
量を演算し、駆動制御データ（速度指令）Ｖｃｏｍを出
力して被写体１の次の動作位置へと撮影用カメラ２００
を駆動制御することで、被写体１を自動追尾して撮影す
るようにしている。

【００１４】また、データ解析装置５００は、カメラワ
ークの制御モードを複数持ち、各制御モードを撮影中の
状況の変化に応じてダイナミックに切替える機能を備え
ており、状況に応じた最適なカメラワークで撮影するこ
とができるようにしている。例えば、被写体の３次元空
間内の位置に応じて視野の大きさを変化させたり、被写
体の速度に応じて画面内の被写体位置を変動させたり、
時間帯に応じてアイリスの調整量を切替えたりというよ
うに、カメラワークの制御モードをダイナミックに切替
えて撮影することができるようにしている。また、運動
競技や自動車競技等、被写体が移動するコースが予め決
まっている場合には、カメラワークの制御モードが異な
る撮影区域（例えば、スキーのジャンプ競技のスタート
地点→ジャンプ地点→着地地点等）ごとにカメラワーク
の制御パラメータをそれぞれ設定しておき、撮影空間内
の被写体の位置に応じて制御パラメータを自動的に切替
えることで、撮影区域に応じた最適なカメラワークで撮
影することができるようにしている。

【００１５】次に、各装置の構成例を示してより詳細に
説明する。先ず、撮影用カメラと駆動制御部の構成につ
いて説明する。図２は、図１の撮影用カメラ２００と駆
動制御部４００の構成例を示しており、撮影用カメラ２
００は、モータ２１３，２１４の駆動によるパン軸２１
１及びチルト軸２１２の回動により撮像部２２０の向き
（水平及び垂直方向）が調整され、各モータ２１５の駆
動により撮像部２２０のズーム，フォーカス，アイリス
が調整されるようになっている。本例では、モータ２１
５にはステップモータを使用し、モータ２１３，２１４
には、高トルクを発生するダイレクトドライブモータを
使用している。

【００１６】駆動制御部４００は、雲台のモータ２１３
〜２１５を駆動する制御ＣＰＵ４１０，モータドライバ
４２０等から構成され、上位制御部（図１の構成例では
データ解析装置５００）からの駆動制御データ（速度指
令）Ｖｃｏｍに従って撮影用カメラ２００の駆動制御を
行なう。すなわち、駆動制御部４００は、上位制御部か
らの駆動制御データ（速度指令）Ｖｃｏｍ及びデータベ
ース４０１のパラメータＰＤＤ（各モータの駆動制御用
パラメータ）を基に各モータ２１３〜２１５の駆動信号
ＭＳ１〜ＭＳ３を制御ＣＰＵ４１０によって生成／出力
し、モータドライバ４２０を介してサーボ制御による撮
影用カメラ２００の制御を行なう。

【００１７】次に、３次元位置計測装置とデータ解析装
置の構成について説明する。図３は、図１の３次元位置
計測装置３００とデータ解析装置５００の主要部の構成
例をブロック図で示している。図３において、３次元位
置計測装置３００は、センサカメラ１００で撮影された
広角画像ＶＤ１ａ（又はＶＤ１ｂ）内の静止体又は移動
体の中から撮影対象の被写体１を認識する被写体認識部
３１０と、被写体１の３次元空間内の現在位置（３次元
座標）を計測する３次元座標計測部３２０とから構成さ
れる。３次元位置計測装置３００の計測情報ＰＤは、デ
ータ解析装置５００内の動き解析部５１０に入力され
る。

【００１８】データ解析装置５００は、３次元位置計測
装置３００からの計測情報ＰＤにより被写体１の動きを
解析し、被写体１の現時点までの直近の動きベクトルを
求める動き解析部５１０と、動き解析部５１０で求めた
動きベクトルを基に被写体１の次の動きを予測し、次の
動きベクトルを求めて被写体速度Ｖ等の予測情報を送出
する動き予測部５２０と、カメラ角度／画角検出センサ
からの検出情報ＳＤ（あるいは撮影用カメラ２００から
の撮影画像ＶＤ２）に基づいて撮影画面内の被写体最適
位置までの撮影用カメラ２００の方位角（パン，チルト
角度偏差）及び画角（ズーム）調整量を検出し、駆動信
号の補正量を求めて速度補正情報（補正速度ΔＶ）を送
出する速度補正量検出部５４０と、動き予測部５２０か
らの予測情報，及び速度補正量検出部５４０からの速度
補正情報等に基づいてカメラワークの分析及び決定を行
ない、駆動制御データ（速度指令）Ｖｃｏｍを出力して
撮影用カメラ２００のカメラワークを制御するカメラワ
ーク制御部５３０とから構成される。

【００１９】ここで、データ解析装置５００内のカメラ
ワーク制御部５３０は、３次元空間内の被写体位置，被
写体の速度等によって撮影用カメラ２００のカメラワー
クの制御モードをダイナミックに切替える制御モード切
替手段を具備しており、各制御モードに対する制御パラ
メータに従って、当該制御モードでのカメラワークを制
御するようになっている。データ解析装置５００は、他
に、動き解析部５１０で解析した被写体動作の解析情報
を記録する図示しない解析情報記録手段と、解析情報を
撮影画像と共にあるいは単独でモニタ表示する図示しな
い解析情報表示手段とを具備している。なお、速度補正
量検出部５４０の構成の詳細については、カメラ角度／
画角検出センサからの検出情報ＳＤに基づいて速度補正
量を検出する方式と、撮影画像ＶＤ２に基づいて速度補
正量を検出する方式とで構成が異なるため、後述の実施
例の項で具体的な構成例を示して説明する。

【００２０】ここで、カメラワークの制御モードの切替
方法について、図５（Ａ）〜（Ｃ）を参照して説明す
る。図５（Ａ）に示すように、カメラワークの制御モー
ドは、制御形態Ｗ１がｉ種類の制御モード（Ｃ１（１）
〜Ｃ１（ｉ）），制御形態Ｗ２がｋ種類の制御モード
（Ｃ２（１）〜Ｃ２（ｋ））というように、カメラワー
クの制御形態（例えば、自動追尾の制御，画面内の被写
体位置の制御，ズーミングワークの制御等の各形態）毎
に複数ある。カメラワーク制御部５３０では、被写体の
３次元位置，被写体の速度，現在の時間帯等を切替要素
として、現在の制御モードを他の制御モードに切替える
ようにしている。また、図５（Ｂ）に示すように、制御
形態Ｗ１は制御モードＣ１（１），制御形態Ｗ２は制御
モードＣ２（７）というように、カメラワークの制御パ
ターン毎に制御モデル（Ｍ１，Ｍ２，〜）を予め用意し
ておき、制御モデル（Ｍ１，Ｍ２，〜）を切替えること
で、各制御形態（Ｗ１，Ｗ２，〜）の制御モードを切替
えるようにしている。この切替え制御は、図５（Ｃ）に
示すように、制御モデルの切替形態（１，２，〜）に対
応して予め設定されている切替条件（ａ１，ａ２，〜）
に従って行われる。

【００２１】上述のような構成において、具体例を示し
てデータ解析装置５００内のカメラワーク制御部５３０
における制御モードの切替制御の動作例、及びシステム
全体の動作例についてそれぞれ説明する。

【００２２】図４は、センサカメラ１００と撮影用カメ
ラ２００の配置構成の一例を示しており、同図に示すよ
うなスキーのジャンプ競技を撮影する場合、被写体であ
る選手１が移動する領域は、スタート地点からジャンプ
台の先端のジャンプ地点までの助走路の領域部２ａ，ジ
ャンプしてから着地地点までの領域部２ｂ，及び着地地
点から静止するまでのスロープの領域部２ｃであり、そ
れぞれの移動領域部が撮影領域部（３次元空間領域）と
なる。本発明では全領域を自動撮影の対象とすることが
できるが、図４では便宜上、ジャンプ中の空間領域部２
ｂの一部を自動撮影の対象とし、センサカメラ１００の
視野領域を２つの計測範囲１及び２に分割し、センサカ
メラ１０１（１０１Ａ，１０１Ｂ）で計測範囲１の３次
元計測を担当し、センサカメラ１０２（１０２Ａ，１０
２Ｂ）で計測範囲２の３次元計測を担当するようにした
場合の配置構成の例を示している。

【００２３】ここで、センサカメラ１０１とセンサカメ
ラ１０２は、それぞれ１台でも被写体の３次元位置（３
次元座標）を求めることが可能だが、その場合、例えば
２点間を移動したときの被写体１の移動量及び大きさの
変化量の検出値に基づいて被写体１の位置を示す３次元
座標を算出することになり、計測時点ごとに３次元座標
を求めることができず、リアルタイムに計測情報を提供
できないという欠点がある。そのため、上記の点や計測
装置の処理負荷の点では、本例のように１計測範囲に２
台のセンサカメラを用いる形態の方が好ましい。

【００２４】図６は、上記のスキーのジャンプ競技を撮
影する場合の制御パラメータの具体例を示している。以
下、図４の全領域（２ａ〜２ｃ）を自動撮影の対象とす
るものとして説明する。図６の例では、スタート地点か
らジャンプ台の先端のジャンプ地点までの助走路の撮影
空間領域２ａにおけるカメラワークの制御モデルを“Ｍ
１”，ジャンプ地点から着地地点までの撮影空間領域２
ｂにおけるカメラワークの制御モデルを“Ｍ２”，着地
地点から静止するまでのスロープの撮影空間領域部領域
２ｃにおけるカメラワークの制御モデルを“Ｍ３”と
し、それぞれ、追尾制御方法に関する制御形態Ｗ１，画
面内の被写体位置に関する制御形態Ｗ２，及び視野の大
きさ（ズーム調整量）関する制御形態Ｗ２における各制
御モードの制御パラメータが制御モデル毎に設定されて
いる。例えば、追尾の制御方法に関する制御形態Ｗ１の
制御モードとしては、センサカメラの出力、すなわち被
写体の３次元位置の計測情報に基づいて追尾する制御モ
ードＣ１（１），被写体の移動コースのモデル式に基づ
いて追尾する制御モードＣ１（２），及び両者を組合わ
せた情報に基づいて追尾する制御モードＣ１（３）があ
り、図６の例では、制御形態Ｗ１における制御モデルＭ
１の制御パラメータとしては上記の制御モードＣ１
（２）の制御パラメータ（助走路のモデル式）が設定さ
れている。

【００２５】これらの制御モデルＭ１〜Ｍ３の切替え
は、図７に示すように、各制御モデルＭ１〜Ｍ３に対応
して予め設定されている切替条件ａ１〜ａ３に従って行
われる。例えば、領域２ｂと領域２ｃは、ジャンプの飛
距離によって着地地点が変動するため、被写体１の最下
端の３次元位置と被写体直下のスロープ表面位置との距
離を示す関数ｆ（ｘ，ｙ，ｚ）によって制御モデルを切
替えるようになっている。すなわち、この場合には、撮
影中の状況の変化（被写体の移動軌跡の変化）に応じて
撮影空間領域が変動し、それに応じてカメラワークの制
御モードを自動的に切替えるようにしている。

【００２６】ここで、上記の制御モデルを例として、デ
ータ解析装置５００内のカメラワーク制御部５３０にお
ける制御モードの切替制御の動作例を、図８のフローチ
ャートに従って説明する。

【００２７】自動追尾の動作は、遠隔制御等による外部
からのスタート信号、或いは、ジャンプの助走スタート
時点で自動的に発生するスタート信号により開始され
る。このスタート信号はシャッタタイミング信号であ
り、シャッタタイミング信号の入力により、カメラワー
ク制御部５３０では、先ず、制御モデルを“Ｍ１”とす
る（ステップＳ１）。そして、制御モデルＭ１の制御パ
ラメータに従って、助走路に沿って追尾するように撮影
用カメラ２００を駆動制御する。

【００２８】すなわち、制御モデルＭ１の場合にはセン
サカメラの出力は用いず、予め登録されているスタート
地点の位置に撮影用カメラ２００を向けて被写体である
選手を捕らえておく。そして、スタート信号の入力を境
にセンサカメラの出力を用い、被写体１の３次元位置情
報及び助走路の道筋を示すモデル式（例えば３次元座標
と時間から成るモデル式）に基づいて撮影用カメラ２０
０のパン，チルト操作を制御する。その際、撮影用カメ
ラ２００の画面内の被写体位置が画面中央に位置し、か
つ視野の大きさが基準値（一定値）Ｌ１となるようにズ
ーム操作を制御する。そして、図７中の制御モデルＭ１
の切替条件ａ１を満足する期間、すなわち、ｘ，ｙ，ｚ
座標系で表わした被写体１の３次元位置から助走路上の
被写体位置をｇ（ｘ，ｙ，ｚ）として求め、被写体１が
領域２ａと領域２ｂとの境界面ｔよりスタート地点側の
空間に位置（ｇ（ｘ，ｙ，ｚ）＜ｔ）する期間は、制御
モデルＭ１の制御パラメータに従ってカメラワークを制
御する（ステップＳ２，Ｓ３）。

【００２９】そして、ステップＳ２において、制御モデ
ルＭ１の切替条件ａ１を満足しないのであれば、制御モ
デルを“Ｍ２”に切替え（ステップＳ４）、制御モデル
Ｍ２の制御パラメータに従ってカメラワークを制御す
る。制御モデルＭ２では、図６中の制御モデルＭ２の制
御パラメータに示すように、センサカメラの出力、すな
わち、センサカメラの撮影画像により被写体１を認識
し、その３次元位置の計測情報に基づいて被写体１の自
動追尾を制御する。その際、撮影用カメラ２００の画面
内の被写体位置が、画面中央を基準として被写体１の速
度のｋ倍遅れた位置に位置し、かつ視野の大きさが基準
値（一定値）Ｌ２となるようにズーム操作を制御する。
この制御は、切替条件ａ２を満足する期間、すなわち、
被写体１の３次元位置が被写体直下のスロープ表面位置
より上部に位置（ｇ（ｘ，ｙ，ｚ）＞ｔかつｆ（ｘ，
ｙ，ｚ）＞０）する期間（ジャンプ中の期間）、継続さ
れる（ステップＳ５，Ｓ６）。

【００３０】そして、ステップＳ５において、制御モデ
ルＭ２の切替条件ａ２を満足しないのであれば、制御モ
デルを“Ｍ３”に切替え（ステップＳ７）、制御モデル
Ｍ３のパラメータに従ってカメラワークを制御する。制
御モードＭ３では、図６中の制御モデルＭ３の制御パラ
メータに示すように、センサカメラの出力、及びスロー
プに沿って、すなわち、被写体の３次元位置の計測情報
ＰＤ及び被写体移動コースのモデル式に基づいて被写体
１の自動追尾を制御するとともに、視野の大きさが徐々
に大きくなるようにズーム操作を制御する。この制御
は、切替条件ａ３を満足する期間、すなわち、被写体１
の３次元位置がスロープ表面近傍に位置し、領域２ｃの
スロープ終了地点の面（垂直の平面）ｔ０まで（ｆ
（ｘ，ｙ，ｚ）≦０かつｔ＜ｇ（ｘ，ｙ，ｚ）＜ｔ０）
の期間（着地滑走中の期間）、継続される（ステップＳ
８，Ｓ９）。そして、ステップＳ８において、制御モデ
ルＭ３の切替条件ａ３を満足しないのであれば、切替制
御の動作を終了する。その後、例えば所定時間経過後、
センサカメラの出力を用いずに初期動作位置（スタート
地点）に撮影用カメラ２００を向けて待機状態とし、ス
タート信号の入力により上記動作を繰り返す。

【００３１】次に、図２〜図４を参照してシステム全体
の動作例を説明する。図４において、センサカメラ１０
１，１０２で撮影された映像信号はそれぞれ３次元位置
計測装置３００に入力される。なお、センサカメラ１０
１，１０２の計測範囲の切換制御の方法については後述
する。ここでは便宜上、センサカメラ１０１，１０２を
センサカメラ１００として説明する。図３において、３
次元位置計測装置３００内の被写体認識部３１０は、映
像信号ＶＤ１ａ（又はＶＤ１ｂ）をデジタル化した１フ
レーム分の２次元座標系の画像データから撮影対象の被
写体１を認識する。被写体１の認識は、例えば画像デー
タの各画素の色度と、被写体認識データとして予め設定
されている複数色のそれぞれの閾値（色度の範囲：下限
の閾値〜上限の閾値）とを比較し、閾値内を“１”，範
囲外を“０”として画素単位に２値化する。その際、２
次元座標系（Ｘ，Ｙ座標系）にて連続する当該色の部分
を抽出して計数し、計数値を面積Ｓとする。そして当該
色の部分が複数存在する場合には、例えば、面積Ｓの大
きい部分を撮影対象の被写体１と認識する。但し、設定
されている色で被写体１を必ず特定できるような撮影条
件では大きさによる認識処理は必要ないため、色だけで
認識すれば良い。

【００３２】３次元座標計測部３２０では、被写体認識
部３１０で求めた面積Ｓから、抽出部分の重心位置を演
算して被写体１の中心位置Ｃ（ｘ，ｙ）とする。この中
心位置は、２台のセンサカメラ１００の画像データＶＤ
１ａ，ＶＤ１ｂからそれぞれ演算する。続いて、算出し
た２つの中心位置Ｃ１（ｘ，ｙ），Ｃ２（ｘ，ｙ）と、
センサカメラ１００及び撮影用カメラ２００の位置情報
とから、被写体１の３次元空間内の位置（撮影用カメラ
２００の視点を原点とした被写体１の３次元座標）を三
角測量の原理で算出し、算出した３次元位置情報Ｃ
（ｘ，ｙ，ｚ）と被写体１の大きさを示す情報（上記の
面積Ｓ）を計測情報ＰＤとして出力する。この計測情報
ＰＤは、データ解析装置５００内の動き解析部５１０に
入力される。

【００３３】動き解析部５１０では、３次元位置計測装
置３００からの計測情報ＰＤにより被写体１の動きを解
析し、解析情報を動き予測部５２０に送出する。例え
ば、今回の計測情報ＰＤｔｎ（３次元座標情報）と前回
の計測情報ＰＤｔ（ｎ−１）により、前回の計測時点を
起点とする動きベクトルを求め、求めた動きベクトルの
情報（時刻，方位角，距離，速度等）を解析情報として
送出する。動き予測部５２０では、動き解析部５１０か
らの解析情報に基づいて被写体１の次の瞬間の動きを予
測する。

【００３４】ここで、被写体の次の瞬間の動き予測する
方法について第１及び第２の例を示して説明する。な
お、計測間隔と動きベクトルの解析間隔とは必ずしも等
しくないが、ここでは、等しいものする。先ず、第１の
例として、直近の２つの計測情報ＰＤｔｎ，ＰＤｔ（ｎ
−１）を基に予測する方法について説明する。図９
（Ａ）に示すように、被写体の前回（ｔ１時点）の計測
位置がＰ１（ｘ，ｙ，ｚ）で、今回（ｔ２時点）の計測
位置がＰ２（ｘ，ｙ，ｚ）とした場合、Ｐ１（ｘ，ｙ，
ｚ）とＰ２（ｘ，ｙ，ｚ）から方位と速度Ｖとを求め
（本例では動き解析部５１０にて算出）、同一方向に同
一速度で動くものと予測して、Ｐ２→ＦＰの動きベクト
ルを求める。ここで、ＦＰ（ｘ，ｙ，ｚ）は、ｔ２−ｔ
１時間経過したｔ３時点での次の移動位置である。

【００３５】続いて、第２の例として、直近の３つの計
測情報ＰＤｔｎ，ＰＤｔ（ｎ−１），ＰＤｔ（ｎ−２）
を基に予測する方法について説明する。図９（Ｂ）に示
すように、被写体の前前回（ｔ１時点）の計測位置がＰ
１（ｘ，ｙ，ｚ），前回（ｔ２時点）の計測位置がＰ２
（ｘ，ｙ，ｚ），今回（ｔ３時点）の計測位置がＰ３
（ｘ，ｙ，ｚ）であったとする。この場合、各時点ｔ１
〜ｔ３の座標から動きベクトルＰ１→Ｐ２，Ｐ２→Ｐ３
を求める。そして、求めた２つの動きベクトルからＰ３
→ＦＰの動きベクトルを求める。この方法では、方位角
の変化及び加速度を考慮して予測することになる。計測
間隔が極めて短い場合には前者の方法で充分である。な
お、予測に用いる計測情報の量を多くして更に先の動き
を予測するようにしても良い。以上のようにして求めた
被写体の動きの予測情報は、カメラワーク制御部５３０
に入力される。

【００３６】カメラワーク制御部５３０では、画面内の
被写体位置情報動き予測部５２０からの予測情報（被写
体速度Ｖ等）、速度補正量検出部５４０からの速度補正
情報（補正速度ΔＶ）に基づいて、撮影用カメラ２００
の方向，移動量及び移動速度を決定する。その際、被写
体の３次元座標位置や速度等の切替条件に従ってカメラ
ワークの制御モードを自動的に切替え、当該制御モード
の制御パラメータに従ってズーム操作等のカメラワーク
を決定する。そして、パン，チルトの速度指令（Ｖ＋Δ
Ｖ）を生成すると共に、撮影用カメラ２００のズーム，
フォーカス，アイリスを調整するための速度指令を生成
し、駆動制御データＶｃｏｍとして出力し、駆動制御部
４００を介して撮影用カメラ２００を駆動制御する。

【００３７】以上のように、対象の３次元座標位置や対
象の速度等により制御モードをダイナミックに切替え、
当該制御モードの制御パラメータに従ってカメラワーク
を制御することで、撮影中の状況の変化等に応じた最適
なカメラワークによる撮影を可能としている。また、被
写体の次の瞬間の動きを予測して次の動作位置へと撮影
用カメラ２００の駆動制御を行なうことにより、従来の
自動撮影システムに見られる映像の動きのぎこちなさは
解消されることになる。また、撮影用カメラ２００を複
数設置し、撮影用カメラ２００を切り換えながら撮影す
る構成とした場合、被写体の動きの予測情報を利用する
ことにより、各視野領域の境界をまたがって移動する被
写体を連続的に追尾して撮影することが可能となる。ま
た、計測範囲を分割して各センサカメラ１００を配置す
る構成では、３次元位置計測装置３００で被写体の動き
を予測し、計測範囲を切り換えながら計測処理を行なう
ことで、計測範囲をまたがって移動する被写体の計測を
連続的に行なうことができる。さらに、従来のシステム
と比較して被写体位置の計測間隔を大きくとることがで
きるので、情報処理量が減り、制御系の処理負荷が軽減
される。

【００３８】

【実施例】以下に、データ解析装置５００内の速度補正
量検出部５４０の構成例の第１及び第２の実施例を、制
御系の全体構成図を用いて説明する。なお、図１０及び
図１１の構成例では、図３のデータ解析装置５００内の
動き解析部５１０及び動き予測部５２０の機能を３次元
位置計測装置３００側に備えた場合の構成を例としてい
る。また、データ解析装置５００内のカメラワーク分析
／制御機能を有する速度補正量検出部５４０とカメラワ
ーク制御部５３０とは、一体的なデータ処理構成である
ため、図１０及び図１１の回路構成例では両者をカメラ
ワーク分析／制御部５５０として新たに符号を付してい
る。

【００３９】図１０は、本発明における制御系の構成の
第１の実施例を示すブロック図であり、本発明に係わる
主要部の回路構成を示している。第１の実施例では、カ
メラ角度／画角検出センサ２３０，２３１からの検出情
報ＳＤ及び３次元位置計測装置３００からの計測情報Ｐ
Ｄに基づいて、撮影方向の速度補正量ΔＶを検出する方
式としている。カメラワーク分析／制御部５５０では、
図１２に示すように、撮影用カメラ２００の視点Ｐｅを
原点としたときの視座標系（ｘｅ，ｙｅ，ｚｅ）におけ
る方位角（φ，ψ）及び画角θを、それぞれ方位角検出
センサ２３０と画角検出センサ２３１からの検出情報Ｓ
Ｄにより検出する。カメラワーク分析／制御部５５０内
の演算回路５５７では、検出情報を座標変換回路５５４
に送出すると共に、現在の撮影用カメラ２００の視線で
の視野スクリーン内（＝撮影画面内）における被写体１
のサイズＳ，及び被写体最適位置までのズレ量Δｌを演
算してマイコン５５１に送出する。

【００４０】座標変換回路５５４では、３次元位置計測
装置３００からの計測情報ＰＤを入力し、３次元座標系
での被写体の位置（ｘ，ｙ，ｚ）を２次元座標系での被
写体の位置（ｘ，ｙ）に変換して動きベクトル検出回路
５５２に送出する。動きベクトル検出回路５５２では、
座標変換回路５５４からの被写体の（ｘ，ｙ）座標か
ら、被写体の現在の動きベクトル（位置（ｘ，ｙ），速
度Ｖｓ，方向ａ）を検出してマイコン５５１に送出す
る。マイコン５５１では、動きベクトル検出回路５５２
及び演算回路５５７からの検出情報を受け、被写体最適
位置までのズレ量Δｌ／画角補正量Δθを演算回路５５
３を介してＲＯＭテーブル１３に書込むと共に、被写体
１の速度Ｖｓ等の情報をＲＯＭテーブル１３に書込む。
ＲＯＭテーブル１３には、画面内の目標位置まで方位角
（パン，チルト角度偏差）の大きさ等に応じた速度補正
量ΔＶが予め設定されており、知的制御信号発生器５５
８では、３次元位置計測装置３００からの被写体の速度
Ｖ（図１２中の予測した動きベクトルでの被写体速度）
を、ＲＯＭテーブル１３から読み出した速度補正量ΔＶ
により補正して速度指令Ｖｃｏｍを出力し、撮影用カメ
ラ２００の駆動制御を行なう。

【００４１】図１１は、本発明における制御系の構成の
第２の実施例を示すブロック図であり、第２の実施例で
は、撮影用カメラ２００からの撮影画像ＶＤ２に基づい
て上記の速度補正量ΔＶを検出する方式としており、第
１の実施例での方式と比較すると、撮影用カメラ２００
の画面内に被写体が存在することが前提となる点，及び
画像処理の負荷が増加する点で難点があるが、カメラ角
度／画角検出センサ２３０，２３１が必要ない点，及び
３次元／２次元座標変換が必要ない点で利点がある。

【００４２】以下、図１３を参照して図１１のカメラワ
ーク分析／制御部５５０の動作例を説明する。カメラワ
ーク分析／制御部５５０内の被写体抽出回路５５５で
は、撮影用カメラ２００からの撮影画像ＶＤ２から被写
体部分を抽出し、画面内の被写体のサイズ（面積を示す
計数値）Ｓを求めてマイコン５５１に送出すると共に、
画面内での被写体の位置（ｘ，ｙ）を求めて動きベクト
ル検出回路５５２及び位置比較器５５６に送出する。動
きベクトル検出回路５５２では、被写体の現在の動きベ
クトル（位置（ｘ，ｙ），速度Ｖｓ，方向ａ）を検出し
てマイコン５５１に送出する。一方、位置比較器５５６
では、画面内での被写体の現在位置（ｘ，ｙ）と、ＲＯ
Ｍテーブル１２から読み出した画面内での被写体の最適
位置（ｘ_０，ｙ_０）とを比較し、画面内でのズレ量Δｌ
をマイコン５５１に送出する。本例では、この画角の補
正量Δθについては、マイコン５５１でＲＯＭテーブル
１２に書込んだ被写体サイズＳとＲＯＭテーブル１２内
に設定されている基準サイズとを位置比較器５５６で比
較して求めるようにしている。なお、その他の動作は第
１の実施例と同様であるため、説明を省略する。

【００４３】なお、上述した実施の形態においては、被
写体の動きの解析機能をデータ解析装置５００に設ける
場合を例として説明したが、実施例のように３次元位置
計測装置３００側に設ける構成としても良い。また、無
人撮影の場合を例として説明したが、当然のことなが
ら、遠隔操作によりカメラマンが撮影用カメラ２００を
操作することも可能であり、その場合には操作情報の入
力が優先処理される。また、制御モデルは、対象となる
撮影空間領域の分割領域部に対応して設定されている場
合を例として説明したが、時間帯に対応して複数の制御
モデルを設定しておき、現在の時間に応じて制御モード
を自動的に切替え、当該時間帯に対応する制御モデルの
パラメータに従って撮影用カメラのカメラワークを制御
するようにしても良い。

【００４４】

【発明の効果】以上に説明したように、本発明の自動撮
影カメラシステムによれば、センサカメラの広角画像か
ら撮影対象の被写体を認識してその３次元位置を逐次計
測し、計測情報から解析した被写体の動きに応じて撮影
用カメラを駆動制御するようにしているので、広範囲の
３次元空間内を移動する対象を自動追尾して無人で撮影
することができる。そのため、カメラマンが撮影できな
いような位置（例えば、木の上，コンサート会場のハイ
ポジション，災害現場等）からでも、迫力のある映像を
自動的に撮影することができるようになり、一流カメラ
マンを越えるカメラワークを実現することができる。さ
らに、対象の３次元座標位置や対象の速度等により制御
モードを自動的に切替え、当該制御モードの制御パラメ
ータに従ってカメラワークを制御するようにしているの
で、撮影中の状況の変化等に応じた最適なカメラワーク
で撮影することができるようになる。また、被写体の次
の瞬間の動きを予測して撮影用カメラを駆動制御するよ
うにしているので、撮影映像内の被写体の不自然な動き
を無くすことができる。

【図面の簡単な説明】

【図１】本発明の自動撮影カメラシステムの概略の構成
例を示すブロック図である。

【図２】図１の撮影用カメラ２００と駆動制御部４００
の構成例を示すブロック図である。

【図３】図１の３次元位置計測装置３００とデータ解析
装置５００の構成例を示すブロック図である。

【図４】本発明に用いるセンサカメラと撮影用カメラの
配置構成の一例を示す図である。

【図５】本発明におけるカメラワークの制御モードの切
替方法を説明するための図であれる。

【図６】本発明に用いる制御パラメータの具体例を示す
図である。

【図７】本発明おける制御モデルの切替え方法の一例を
説明するための図である。

【図８】本発明における切替え制御の動作例を説明する
ためのフローチャートである。

【図９】本発明における被写体の動きの予測方法の具体
例を説明するための図である。

【図１０】本発明における制御系のハードウェア構成の
第１の実施例を示すブロック図である。

【図１１】本発明における制御系のハードウェア構成の
第２の実施例を示すブロック図である。

【図１２】図１０のカメラワーク分析／制御部５５０の
動作例を説明するための図である。

【図１３】図１１のカメラワーク分析／制御部５５０の
動作例を説明するための図である。

【図１４】従来のカメラシステムにおける被写体の自動
追尾の方法の例を説明するための図である。

【図１５】従来のカメラシステムにおける被写体の自動
追尾の方法の例を説明するための図である。

【符号の説明】

１被写体１００センサカメラ２００撮影用カメラ２１０駆動機構部（雲台）２１１パン軸２１２チルト軸２１３，２１４，２１５撮影用カメラ制御モータ２２０撮像部３００３次元位置計測装置３１０被写体認識部３２０３次元座標計測部４００駆動制御部４０１データベース４１０制御ＣＰＵ４２０モータドライバ５００データ解析装置５１０動き解析部５２０動き予測部５３０カメラワーク制御部５４０速度補正量検出部

─────────────────────────────────────────────────────

【手続補正書】

【提出日】平成８年６月１４日

【手続補正１】

【補正対象書類名】図面

【補正対象項目名】全図

【補正方法】変更

【補正内容】

【図１】

【図２】

【図４】

【図６】

【図７】

【図１３】

【図３】

【図５】

【図８】

【図１４】

【図１５】

【図９】

【図１２】

【図１０】

【図１１】

フロントページの続き (72)発明者阿部一雄東京都世田谷区砧１丁目10番11号日本放送協会放送技術研究所内 (72)発明者石川秋男東京都世田谷区砧１丁目10番11号日本放送協会放送技術研究所内 (72)発明者桑島茂純東京都大田区北千束３丁目26番12号株式会社応用計測研究所内 (72)発明者鈴木尊人東京都大田区北千束３丁目26番12号株式会社応用計測研究所内 (72)発明者中村亨東京都大田区北千束３丁目26番12号株式会社応用計測研究所内 (72)発明者桑原裕之東京都大田区北千束３丁目26番12号株式会社応用計測研究所内

Claims

【特許請求の範囲】

【請求項１】カメラ操作者の視野に相当する広角画像
を撮影するセンサカメラと；外部からの制御信号により
撮影方向を含むカメラ操作の制御が可能な撮影用カメラ
と；前記センサカメラで撮影された広角画像内の静止体
又は移動体の中から撮影対象の被写体を認識すると共
に、該被写体の３次元空間内の現在位置を逐次計測する
３次元位置計測部と；前記３次元位置計測部の計測情報
に基づいて前記被写体の３次元空間内の動きを解析する
動き解析部と；前記撮影用カメラのカメラワークの制御
モードを複数持ち、当該制御モードの制御パラメータに
従って前記撮影用カメラのカメラワークを制御すると共
に、前記動き解析部で解析した被写体の動きに応じて前
記撮影用カメラを駆動制御するカメラワーク制御部とを
備えたことを特徴とする自動撮影カメラシステム。
【請求項２】前記動き解析部で解析した被写体の動き
の情報が、前記３次元位置計測部の現時点までの複数の
計測情報に基づいて求めた前記被写体の動きの予測情報
である請求項１に記載の自動撮影カメラシステム。
【請求項３】前記カメラワーク制御部が、前記被写体
の３次元空間内の位置に応じて前記制御モードを自動的
に切替え、当該制御モードの制御パラメータに従って前
記撮影用カメラのカメラワークを制御するようになって
いる請求項１又は２に記載の自動撮影カメラシステム。
【請求項４】前記カメラワーク制御部が、前記被写体
の速度に応じて前記制御モードを自動的に切替え、当該
制御モードの制御パラメータに従って前記撮影用カメラ
のカメラワークを制御するようになっている請求項１又
は２に記載の自動撮影カメラシステム。
【請求項５】撮影空間領域を複数の撮影空間領域部に
分割すると共に、当該撮影空間領域部での制御モード及
び各撮影空間領域部の切替条件を予め設定しておき、前
記カメラワーク制御部が前記切替条件に従って前記撮影
空間領域部を切替えることで前記制御モードを自動的に
切替え、当該制御モードの制御パラメータに従って前記
撮影用カメラのカメラワークを制御するようになってい
る請求項１又は２に記載の自動撮影カメラシステム。