JP4866227B2 - 自動追尾撮影装置 - Google Patents

自動追尾撮影装置 Download PDF

Info

Publication number
JP4866227B2
JP4866227B2 JP2006338899A JP2006338899A JP4866227B2 JP 4866227 B2 JP4866227 B2 JP 4866227B2 JP 2006338899 A JP2006338899 A JP 2006338899A JP 2006338899 A JP2006338899 A JP 2006338899A JP 4866227 B2 JP4866227 B2 JP 4866227B2
Authority
JP
Japan
Prior art keywords
subject
torque
camera
automatic tracking
amount
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006338899A
Other languages
English (en)
Other versions
JP2008153879A (ja
Inventor
俊彦 三須
昌秀 苗村
真人 藤井
伸行 八木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Broadcasting Corp
Original Assignee
Japan Broadcasting Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Japan Broadcasting Corp filed Critical Japan Broadcasting Corp
Priority to JP2006338899A priority Critical patent/JP4866227B2/ja
Publication of JP2008153879A publication Critical patent/JP2008153879A/ja
Application granted granted Critical
Publication of JP4866227B2 publication Critical patent/JP4866227B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Studio Devices (AREA)

Description

本発明は、カメラの手持ち撮影において撮影対象である被写体の自動追尾撮影を実現する自動追尾撮影装置に関する。
従来、自動追尾撮影をする場合、カメラをモータ付きの三脚、雲台またはクレーンに搭載して、カメラの姿勢角や位置を電気的または機械的に自動制御する追尾撮影装置が開示されている(特許文献1)。この追尾撮影装置は、自動追尾撮影をする場合、撮影倍率に応じて予め決められた特徴画像の移動量に応じてチルトモータおよびパンモータにより撮影方向を変えるものである。
また、手持ちカメラにおいては、カメラの微小な揺れや回転を保障するために、光路上
に物理的に移動可能な光学系、例えば、レンズ、プリズムまたは鏡等を設定し、これを電気的に制御することを可能にした装置が存在する。
さらに、手持ち撮影を含む撮影用の防振装置に、モーメンタムホイールを高速回転させることで姿勢を安定化させるジャイロスタビライザが開示されている(特許文献2)。
特開平11−122526号公報(段落0033〜0043、図1) 特開2006−17686号公報(段落0005〜0010、図2)
しかし、従来の追尾撮影装置において、例えば、特許文献1で開示されている技術では、カメラをモータ付きの三脚、雲台またはクレーンに搭載するため、カメラを含めた総重量が重く、人が把持して撮影する手持ち撮影を行なうことが困難であるという問題がある。
また、光路上を移動させる手法では、追尾可能な被写体像の移動量が小さく、手ぶれ程度の小さな姿勢変化は保障可能であるが、特定の被写体を追尾する大きな姿勢変化が要求される用途には適さないという問題がある。
さらに、特許文献2で開示されている技術では、ジャイロスタビライザには、手持ち撮影に対応するものも存在するが、その効果は外部からの等加速度を打ち消すトルクを発生して振動を遮断することを目的としており、被写体を追跡することを目的としていない。
このように、従来の技術では、カメラの手持ち撮影において撮影対象である被写体の自動追尾撮影をすることができないという問題がある。
本発明は、以上のような課題を解決するためになされたものであり、カメラの手持ち撮影において撮影対象である被写体の自動追尾撮影を実現する自動追尾撮影装置を提供することを目的とする。
本発明は、前記目的を達成するために創案されたものであり、まず、請求項1に記載の自動追尾撮影装置は、手持ち撮影用の動画用カメラを撮影方向に向けるようにトルクを発生させることにより、動画用カメラから撮影された撮影対象である被写体を追跡する自動追尾撮影装置であって、前記動画用カメラから撮影された撮影対象である被写体を追跡する自動追尾撮影装置であって、動画像入力手段と、被写体検出手段と、制御手段と、トルク発生手段とを備え、トルク発生手段が、内部に少なくとも1のリアクションホイールを備え、このリアクションホイールにより前記制御信号に基づくトルクを発生させ、前記カメラの回転角を変える構成とした。
ている構成とした。
かかる構成によれば、自動追尾撮影装置は、動画像入力手段によって、動画用カメラから出力される動画像を入力し、その動画像を被写体検出手段に出力する。ここでいう動画用カメラとは、ビデオカメラ(撮影カメラ)を指している。また、動画像とは、カメラで撮影された実写映像であり、何らかの三次元幾何形状をした固定の被写体も含まれる。
次に、自動追尾撮影装置は、被写体検出手段によって、動画像入力手段から入力した動画像内の撮影対象である被写体の画像特徴量に基づいて、撮影領域であるフレーム内における前記被写体の移動量を検出する。
次に、自動追尾撮影装置は、制御手段によって、被写体検出手段により入力した移動量に対して予め定められたトルク量を示す制御信号を出力する。なお、トルク量を示す制御信号とは、発生すべきトルクの回転軸とその大きさに対応する信号を表す。
そして、自動追尾撮影装置は、トルク発生手段によって、制御手段により出力された制御信号に基づき、トルクを発生させる。このとき、自動追尾撮影装置は、トルク発生手段によって、内部に1個以上備えられたリアクションホイールにより制御信号に基づくトルクを発生させ、装着した動画用カメラの回転角を変えることになる。これによって、人が肩にかつぐか、あるいは人が持つ動画用カメラを、発生したトルクにより撮影対象である被写体に向けるようにしむけることができ、自動追尾撮影をすることが可能になる。
また、請求項2に記載の自動追尾撮影装置は、請求項1に記載の自動追尾撮影装置において、前記トルク発生手段が、動画用カメラに着脱自在に設けられることとした。
かかる構成によれば、自動追尾撮影装置は、トルク発生手段によって、動画用カメラとは別体形成されて機械的に装着され、固定されるものとする。例えば、動画用カメラに存在する三脚穴やクイックシューを介して固定することができる。
また、請求項に記載の自動追尾撮影装置は、請求項1に記載の自動追尾撮影装置において、前記発生したトルクを減少させるアンローディング手段を有することとした。
かかる構成によれば、自動追尾撮影装置は、アンローディングが必要な状況になったとき、トルク発生手段がアンローディング手段に対して制御信号を出力し、アンローディング手段では、角速度の大きさを減少させる制御信号をトルク発生手段に対して出力する。これにより、トルク発生手段は、トルクの角速度の大きさを減少させることができる。
また、請求項に記載の自動追尾撮影装置は、請求項1ないし請求項のいずれか1項に記載の自動追尾撮影装置において、前記被写体検出手段が、前記フレーム内の画像特徴量を抽出する特徴抽出手段と、外部から指定されたタイミングで、前記特徴抽出手段により抽出された前記フレーム内の画像特徴量の中から、予め指定された領域の画像特徴量を前記被写体の画像特徴量として記憶する特徴メモリと、前記特徴抽出手段で抽出された前記フレーム内の画像特徴量から、前記特徴メモリに記憶された前記予め指定された領域の画像特徴量と最も近い画像特徴量を有する領域を探索し、この領域と前記予め指定された領域との距離を前記被写体の移動量として検出する特徴追跡手段と、を備えていることとした。
かかる構成によれば、自動追尾撮影装置は、被写体検出手段の特徴抽出手段によって、フレーム内の画像特徴量を抽出し、特徴メモリによって、外部から指定されたタイミングで、特徴抽出手段により抽出されたフレーム内の画像特徴量の中から、予め指定された領域の画像特徴量を被写体の画像特徴量として記憶し、特徴追跡手段によって、特徴抽出手段で抽出されたフレーム内の画像特徴量から、特徴メモリに記憶された予め指定された領域の画像特徴量と最も近い画像特徴量を有する領域を探索し、この領域と予め指定された領域との距離を被写体の移動量として検出する。
さらに、請求項に記載の自動追尾撮影装置は、手持ち撮影用の動画用カメラとは異なるセンサカメラを具備し、動画用カメラを撮影方向に向けるようにトルクを発生させることにより、前記センサカメラから入力された撮影対象である被写体を追跡する自動追尾撮影装置であって、動画像入力手段と、被写体検出手段と、制御手段と、トルク発生手段とを備え、トルク発生手段が、内部に少なくとも1のリアクションホイールを備え、このリアクションホイールにより前記制御信号に基づくトルクを発生させ、前記カメラの回転角を変える構成とした。
かかる構成によれば、自動追尾撮影装置は、動画像入力手段によって、動画用カメラとは異なるセンサカメラから出力される動画像を入力し、その動画像を被写体検出手段に出力する。なお、被写体検出手段、制御手段およびトルク発生手段は、請求項1と同様である。
これによって、動画用カメラを、撮影対象である被写体に向けることができ、自動追尾撮影をすることが可能になる。
また、請求項6に記載の自動追尾撮影装置は、請求項5に記載の自動追尾撮影装置において、前記被写体検出手段が、前記フレーム内の画像特徴量を抽出する特徴抽出手段と、外部から指定されたタイミングで、前記特徴抽出手段により抽出された前記フレーム内の画像特徴量の中から、予め指定された領域の画像特徴量を前記被写体の画像特徴量として記憶する特徴メモリと、前記特徴抽出手段で抽出された前記フレーム内の画像特徴量から、前記特徴メモリに記憶された前記予め指定された領域の画像特徴量と最も近い画像特徴量を有する領域を探索し、この領域と前記予め指定された領域との距離を前記被写体の移動量として検出する特徴追跡手段と、を備えていることとした。
かかる構成によれば、自動追尾撮影装置は、被写体検出手段の特徴抽出手段によって、フレーム内の画像特徴量を抽出し、特徴メモリによって、外部から指定されたタイミングで、特徴抽出手段により抽出されたフレーム内の画像特徴量の中から、予め指定された領域の画像特徴量を被写体の画像特徴量として記憶し、特徴追跡手段によって、特徴抽出手段で抽出されたフレーム内の画像特徴量から、特徴メモリに記憶された予め指定された領域の画像特徴量と最も近い画像特徴量を有する領域を探索し、この領域と予め指定された領域との距離を被写体の移動量として検出する。
請求項1、記載の発明によれば、撮影領域内における撮影対象である被写体の移動量を用いて決定したトルクを発生させることにより、動画用カメラを、撮影方向(被写体)に向けることができ、さらには、使用者の撮影姿勢を変化させることができ、自動追尾撮影が可能となる。また、トルク発生手段のリアクションホイールによりトルクを発生させることにより、装着した動画用カメラの回転角を変えることが可能となる。さらに、トルク発生手段を動画用カメラ以外の物体、例えば三脚等に固定することなくトルクを発生することができ、操作性を向上させることもできる。またさらに、被写体を自動追尾撮影することができれば、使用者が完全に動画用カメラを覗いていなくても、当該被写体を撮影することができる。さらに、追跡する被写体を見失うという弊害も少なくなるという利点がある。
請求項2に記載の発明によれば、通常の動画用カメラでも自動追尾撮影装置を装着でき、当該カメラにより自動追尾撮影をすることが可能となる。
請求項に記載の発明によれば、動作開始から時間経過と共にリアクションホイールの角速度が増大して限界に達する場合があるが、限界に達するおそれのある角速度の大きさを抑制することができる。
請求項に記載の発明によれば、手持ちカメラで撮影された動画像から被写体を確実に検出することができる。
請求項に記載の発明によれば、動画用カメラとは異なるトルク発生手段に固定されたセンサカメラから出力される動画像を入力することにより、動画像出力を備えていないカメラでも自動追尾撮影をすることができる。
請求項6に記載の発明によれば、手持ちカメラで撮影された動画像から被写体を確実に検出することができる。
[実施の形態1]
以下、本発明の実施の形態1について図面を参照して説明する。
[自動追尾撮影装置の構成]
まず、図1を参照して、本発明に係る自動追尾撮影装置について説明する。図1は、自動追尾撮影装置の構成を示したブロック図である。
図1に示したように、自動追尾撮影装置2は、カメラ1より出力される動画像内に存在する撮影対象である被写体の画像特徴量に基づいて、撮影領域内における当該被写体の移動量を検出して、その検出された移動量を用いてトルクを決定し、決定されたトルクを発生させるものである。ここでは、自動追尾撮影装置2は、トルク発生手段3と、トルク決定手段4と、アンローディング手段9とを備え、さらに、トルク決定手段4は、動画像入力手段5と、被写体検出手段6と、制御手段7と、を備えている。
なお、本実施の形態1に係るカメラ1は、手持ち用の動画用カメラを意味するものとする。また、動画用カメラとは、例えば、ビデオカメラ(撮影カメラ)を指すものとする。
さらに、以下、自動追尾撮影装置2により追跡する撮影対象を追跡対象と称することとする。
また、自動追尾撮影装置2は、カメラ1に機械的に装着し固定するものとする。例えば、カメラ1に存在する三脚穴やクイックシューを介して固定することができる。
トルク発生手段3は、制御手段7より出力されたトルク量を示す制御信号を入力し、入力された制御信号に基づく大きさおよび回転軸方向のトルクを発生するアクチュエータである。
トルク発生手段3は、例えば、内部に1個以上のリアクションホイール8により構成され、そのそれぞれの角速度(以下、これを回転数としても良い。)および角加速度を制御するものとしても良い。図1では、3個のリアクションホイール8を回転軸が互いに直交するように配置している。また、リアクションホイール8を持つ制御系を3軸それぞれに設け、3軸を独立に制御する3軸姿勢制御方式による配置としても良い。さらに、カメラのパンおよびチルト軸方向を含む回転軸のみの回転に制約しても良い。
トルク発生手段3は、既に開示されているアクチュエータであるため、リアクションホイール8の角速度および角加速度と発生トルクとの関係については説明を省略する。
また、以降では、トルク発生手段3は、回転軸と発生したトルクとを電気的手段(電圧値、電流値、パルス形状、ディジタル信号等任意とする)により入力すると、当該回転軸周りの当該トルクを発生することができるものとする。
なお、トルク発生手段3は、リアクションホイール8を用いる場合は、動作開始からの時刻経過とともにリアクションホイール8の角速度の大きさが増大して、電気的または機械的な限界に達するおそれがある。このように限界に達した場合、または、限界に達することが予期される場合には、アンローディングを行なうこととしても良い。
ここで、アンローディングとは、リアクションホイール8の角速度の大きさを減少させる操作のことであり、例えば、使用者が本実施の形態における自動追尾撮影装置2を動かないように固定することにより、リアクションホイール8に対し、電気的または機械的なブレーキをかけ、その角速度の大きさを減少させることができる。
アンローディングが必要な状況では、トルク発生手段3は、例えば、光、音、振動または記号を表示することによって、使用者に警告しても良い。また、アンローディングは、自動的に実行するものとしても良いし、使用者のスイッチ操作により手動で実行できるものとしても良い。さらに、非撮影時に自動的にアンローディングするようにしても良い。
図1では、アンローディング手段9は、トルク発生手段3と接続されている。トルク発生手段3は、アンローディングが必要な状況になったとき、アンローディング手段9に対してリアクションホイール8の角速度を制御信号として出力し、出力されたアンローディング手段9では、角速度の大きさを減少させる制御信号(トルク量)をトルク発生手段3に対して出力する。
なお、後記するように、制御手段7によりアンローディングするようにしても良い。
動画像入力手段5は、カメラ1から出力される動画像を入力する。なお、カメラ1と自動追尾撮影装置2とは、ケーブルで接続され、カメラ1から出力される動画像は、ケーブルを介してカメラ1から動画像入力手段5へ伝送される。
被写体検出手段6は、動画像入力手段5から入力した動画像内の追跡対象である被写体の画像特徴量に基づいて、撮影領域であるフレーム内における前記被写体の移動量を検出する。
ここで、図4を参照して、被写体検出手段6の処理について説明する。図4は、被写体検出手段の構成を示したブロック図である。
図4に示したように、被写体検出手段6は、特徴抽出手段61と、記憶スイッチ62と、特徴メモリ63と、特徴追跡手段64と、を備えている。
特徴抽出手段61は、入力した動画像内の追跡対象である被写体の画像特徴量を算出する。画像特徴量は、カメラの撮影領域内の所定の領域のものとすることができる。そして、図5は、カメラの撮影領域内の所定の領域のうち、中央領域を示したものである。ここで、撮影領域31とは、カメラ1の動画像入力のフレーム全体を意味し、中央領域32とは、予め設定した中央付近の領域を意味する。
画像特徴量を、例えば、F(t,x,y)で表し、時刻t時点での座標(x,y)から所定の領域に対する画像特徴量を表し、中央領域32の時刻t時点での画像特徴量は、F(t,0,0)で示す。座標(x,y)は、中央領域32の左上を(0,0)とし、水平方向にx軸、垂直方向にy軸とすることができる。なお、撮影領域31の左上を(0,0)とし、水平方向にx軸、垂直方向にy軸としても良い。
そして、画像特徴量F(t,x,y)は、時刻t時点での座標(x,y)から所定の領域の色分布に基づく特徴量とすることができ、画素値群の色分布正規化ヒストグラムを用いることができる。
ここで、画素値群とは、例えば、モノクロ動画像の場合には輝度値、カラー動画像の場合には赤、緑、青の3原色の各成分の輝度値、多波長動画像の場合には各波長帯の輝度値とすることができる。また、カラー動画像の場合には、輝度、色差による表色系や、色相、彩度および輝度による表色系等、任意の表色系により画素値を表現しても良い。
以下の説明では、画像特徴量を3原色の各成分を輝度値で表した画素値群のヒストグラムで表す。すなわち、画像特徴量F(t,x,y)は、時刻tにおける入力された動画像の座標(x,y)から所定の領域における赤、緑および青の輝度値をそれぞれR(t,x,y)、G(t,x,y)およびB(t,x,y)として表す。
なお、画像特徴量は、輝度勾配分布に基づく特徴量としても良い。
前記正規化ヒストグラムは、例えば、図5に示すように、カメラの撮影領域31中の中央領域32について、(R,G,B)値に対する頻度値(画素数)のヒストグラムを計算し、各頻度値を中央領域32の総画素数で除することで正規化する。
また、中央領域32をテンプレートとして切り出し、当該領域全体の輝度パターンを画像特徴量としても良い。
そして、画像特徴量F(t,x,y)は、図示しない記憶装置に記憶される。なお、記憶装置は、RAM(Random Access Memory)やフラッシュメモリ等の記憶装置である。
記憶スイッチ62は、追跡対象である被写体を選択するためのスイッチであり、特徴抽出手段61により抽出された画像特徴量の中から、その選択した被写体の画像特徴量を特徴メモリ63に記憶させるものである。例えば、被写体検出手段6は、記憶スイッチ62の押下がトリガとなり、その押下時点における図5の中央領域32に存在する被写体を追跡対象であるものとして、その中央領域32の画像特徴量を特徴メモリ63に記憶する。
記憶スイッチ62は、例えば、プッシュスイッチ、跳ね返り型のトグルスイッチ、タッチパネルを用いることができるが、これに限定されるものではない。
特徴メモリ63は、前記したとおり、記憶スイッチ62の押下時点(時刻t)をトリガとして、中央領域32(図5参照)の画像特徴量F(t,0,0)を記憶する。
特徴メモリ63は、RAM(Random Access Memory)やフラッシュメモリが好ましいが、磁気ディスク装置、光ディスク装置、光磁気ディスクであっても良い。
特徴追跡手段64は、画像特徴量について、特徴メモリ63に記憶された中央領域32(図5参照)の画像特徴量F(t,0,0)と類似する類似領域を、現在(時刻tより未来)の入力された動画像の中から探索し、その移動量(Vx,Vy)(並進量)を出力する。
例えば、中央領域32より右側に類似領域が存在した場合にはVxを正の値とし、中央領域32より左側に類似領域が存在した場合にはVxを負の値とし、左右中央に類似領域が存在した場合にはVx=0とすることができる。また、例えば、中央領域32より下側に類似領域が存在した場合にはVyを正の値とし、中央領域32より上側に類似領域が存在した場合にはVyを負の値とし、上下中央に類似領域が存在した場合にはVy=0とすることができる。
なお、中央領域32の画像特徴量から類似する類似領域までの移動量(Vx,Vy)を、以下、被写体位置(被写体の移動量)と称することとする。
ここで、類似領域の探索について説明する。類似領域の探索の前提として、特徴抽出手段61は、以下の処理を実行する。
特徴抽出手段61では、まず、撮影領域31(図5参照)内に中央領域32から所定のベクトルだけ移動した複数の探索領域を予め設定する。例えば、図6では、探索領域33は、中央領域32から(Δx,Δy)だけ移動した領域とする。
次に、現在(時刻t’)の入力された動画像について、予め設定した探索領域33内における画像特徴量F(t’,Δx,Δy)を算出する。
そして、特徴追跡手段64は、算出された現在(時刻t’)の探索領域33(図6参照)内の画像特徴量F(t’,Δx,Δy)と、特徴メモリ63内の中央領域32の画像特徴量F(t,0,0)との距離(被写体の移動量)を以下の(1)式に示すように算出し、最も距離が小さくなる移動量(Δx,Δy)を以下の(2)式に示すように算出し、被写体位置(Vx,Vy)として出力する。
Figure 0004866227
Figure 0004866227
次に、画像特徴量として、正規化ヒストグラムを用いる場合は、前記した距離d(Δx,Δy)は、例えば、Bhattacharyya距離を用いることができる。この場合、中央領域32(図6参照)の正規化ヒストグラムh(R,G,B)と探索領域33の正規化ヒストグラムh’(R,G,B)との距離dは、以下の(3)式に示すように、算出される。
Figure 0004866227
また、画像特徴量として、所定の領域を切り出したテンプレートの輝度パターンを用いる場合には、テンプレート間において同じ位置にある画素ごとの絶対値誤差を算出し、テンプレートサイズ全体での絶対値誤差の総和を距離dとすることができる。
さらに、テンプレート間の相互相関rに対し、d=−ln(r)として、距離dを算出しても良い。
なお、画像特徴量として、テンプレートの輝度パターンを用いる場合は、前記した距離dの算出方法がブロックマッチングと称されている。
前記のとおり、本実施の形態における特徴追跡手段64は、被写体位置(Vx,Vy)(並進量)を出力する場合について説明したが、これに加えて画像回転量をも出力するようにしても良い。この場合には、例えば、被写体位置(並進量)および回転量の両方を探索するブロックマッチングを用いることができる。また、特徴メモリ63に選択した追跡対象である被写体の画像特徴量を記憶し、特徴抽出手段61により複数の位置それぞれの画像特徴量を算出した結果に基づいて、特徴追跡手段64において、被写体位置(並進量)および回転量を算出することができる。
図1に戻って説明を続ける。
制御手段7は、被写体検出手段6により入力した被写体位置を用いてトルク量に基づく制御信号を出力する手段である。
ここで、図7を参照して、制御手段7の処理について説明する。図7は、制御手段の構成を示したブロック図である。
図7に示したように、制御手段7は、制御値算出手段71を備えている。
まず、制御値算出手段71は、被写体検出手段6により入力した被写体位置(Vx,Vy)または、被写体位置(Vx,Vy)および回転量φに基づいて発生すべき制御値、すなわち、トルクの大きさおよび回転軸を算出する。
制御値算出手段71は、例えば、被写体位置(Vx,Vy)および回転量φ(回転量を算出しない構成の場合は、φ=0とする)に基づき、被写体を追跡する方向の回転ベクトルωを、以下の(4)式に示すように算出する。
Figure 0004866227
次に、制御値算出手段71は、例えば、算出された回転ベクトルωの軸方向を回転軸とする大きさNのトルクを発生するように制御信号を生成して出力する。トルクの大きさNは、以下の(5)式に示すように算出する。
Figure 0004866227
なお、前記(5)式に基づいて算出されたトルクの大きさNは、定数kが大きい程迅速な制御をすることができるが、オーバーシュート等の不安定化のおそれを生じるため、所定の正の整数とする。
また、前記(5)式の代わりに、以下の(6)式に示すように、トルクの大きさNは、On−Off制御により算出することとしても良い。
Figure 0004866227
(6)式におけるNmaxは、On−Off制御のOn時に発生するトルクの大きさで、正の整数とする。例えば、Nmax=5[N・m]等とすることができる。
制御手段7は、図7に代えて図8に示すような構成にすることもできる。
ここで、図8を参照して、制御手段7の処理について説明する。図8は、図7と異なる制御手段の構成を示したブロック図である。
図8に示したように、制御手段7は、量子化手段72と、テーブル参照手段73と、ルックアップテーブル74と、を備えている。さらに、リムーバブルメモリ75にルックアップテーブル74が記憶されている。
量子化手段72は、被写体検出手段6の特徴追跡手段64(図4参照)によって検出され出力された被写体位置(Vx、Vy)または、被写体位置(Vx,Vy)と回転量φとの組み合わせを離散的な数値(インデックス番号)に変換する。
量子化手段72は、例えば、被写体位置(Vx,Vy)のVxを0〜Mx−1のMx階調の整数値mxに、Vyを0〜My−1のMy階調の整数値myに変換する。そして、被写体位置のX座標VxおよびY座標Vyの範囲がそれぞれVxmin以上Vxmax以下およびVymin以上Vymax以下である場合に、以下の(7)式に示すような線形量子化により整数値mxおよびmyに変換することができる。
Figure 0004866227
これにより、整数値mxおよびmyの組(mx,my)をインデックス番号とすることができる。
なお、被写体位置(Vx,Vy)が既に離散的な値である場合には、量子化手段72を有しない構成とすることができる。
テーブル参照手段73は、被写体位置から変換されたインデックス番号を用いて制御値(トルク量)をルックアップテーブル74から抽出し、その制御値を制御信号として出力する。
ルックアップテーブル74は、インデックス番号と、制御値とから構成され、インデックス番号ごとに制御値が記憶されている。制御値は、トルク発生手段3が発生すべきトルクの大きさおよび回転軸の組み合わせで記憶されている。
ルックアップテーブル74は、ROM(Read Only Memory)、フラッシュメモリおよびハードディスクの記憶素子またはフレキシブルディスクの記憶媒体に記憶される。これらの記憶素子または記憶媒体は、読み出し専用であっても良いし、書き換え可能であっても良い。特に、フラッシュメモリおよびマイクロドライブを含むリムーバブルメモリ75に記憶し、用途や使用者に応じてルックアップテーブル74を切り替えられるようにしても良い。
なお、制御手段7は、図7の制御値算出手段71のトルクの大きさNの算出において、被写体を追跡する方向の回転ベクトルωの絶対値やその時間履歴に応じた制御値算出手段71を構築しても良い。例えば、ωの絶対値の時間履歴に基づき、PID(比例動作・積分動作・微分動作)制御を適用することができる。また、PID制御を適用する場合において、図8のルックアップテーブル74を用いる場合では、PID制御のパラメータである比例ゲイン、積分時間および微分時間を、インデックス番号ごとに記憶しても良い。
また、制御手段7では、リアクションホイール8の角速度が限界に達することが予期される場合にはアンローディング操作の制御を行なっても良い。
ここで、図2は、本発明の実施の形態1に係る自動追尾撮影装置においてアンローディング操作を制御手段にて実行する場合の構成を示したブロック図である。
図2において、図1の構成との差異は、自動追尾撮影装置2が、アンローディング操作を、トルク発生手段3と接続したアンローディング手段(図1参照)で行なうのではなく、制御手段7で行なうことである。
トルク発生手段3は、アンローディングが必要な状況になったとき、制御手段7に対してリアクションホイール8の角速度を制御信号として出力し、制御手段7は、出力された制御信号に基づいて角速度の大きさを減少させる制御信号(トルク量)をトルク発生手段3に対して出力することができる。また、トルク発生手段3は、一定時間間隔ごとに現在のリアクションホイール8の角速度を制御信号として制御手段7に対して出力し、制御手段7は、出力された制御信号に対応した角速度が予め定められた角速度の限界値を超過している場合には、角速度の大きさを減少させる制御信号をトルク発生手段3に出力することができる。
なお、図2の他の構成要素は、図1と同様であるため、同じ符号を付して説明を省略する。
以上説明したように、自動追尾撮影装置2を構成することで、自動追尾撮影装置2に装着するカメラ1を、撮影方向(被写体)に向けることができ、さらには、使用者の撮影姿勢を変化させることができ、自動追尾撮影が可能となる。
ここで、図3は、自動追尾撮影装置に装着するカメラの動作内容を説明する図である。自動追尾撮影装置2は、手持ちカメラ1の使用者30が追跡対象である被写体を選択すると、その追跡対象が移動した方向にカメラ1を向けるようにトルクを発生させ、カメラ1を撮影方向に姿勢変更(回転)させることができる。そして、手持ちカメラ1の使用者30は、回転するカメラ1に基づき、撮影姿勢を変化させることができる。
例えば、図3では、左フレーム内の左に走行している被写体を追跡対象とするとき、手持ちカメラ1の使用者30は、撮影領域31内の中央領域32に被写体を選択する。次に、追跡対象の被写体の移動とともに、カメラ1は自動追尾撮影装置2により発生するトルクに基づき自動的に被写体の方向に姿勢変更(回転)し、さらには、使用者30の撮影姿勢を変化させる。図3では、自動追尾撮影装置2が、複数の探索領域33の中から右フレーム内の右に走行している被写体を検出して、カメラ1は自動的に追尾撮影をすることができる。
[自動追尾撮影装置の動作]
次に、図9を参照(適宜図1、4、8参照)して、本発明に係る自動追尾撮影装置の動作について説明する。図9は、自動追尾撮影装置の全体動作を示すフローチャートである。
まず、動画像入力手段5は、カメラ1より撮影された動画像を入力する(ステップS1)。
次に、被写体検出手段6は、画像特徴量を算出する(ステップS2)。すなわち、特徴抽出手段61は、動画像入力手段5から出力された動画像を入力し、入力された動画像の画像特徴量を算出する。ここで、画像特徴量F(t,x,y)とは、動画像が入力された時点(時刻t)における各座標(x,y)からの所定の領域に対する画像特徴量のことである。そして、特徴抽出手段61は、算出した画像特徴量を図示しない記憶装置に記憶する。
次に、被写体検出手段6は、使用者が記憶スイッチ62を押下したか否かを判定する(ステップS3)。
ここで、被写体検出手段6は、記憶スイッチ62の押下がある場合(ステップS3でYes)は、追跡対象の画像特徴量を特徴メモリ62へ記憶する(ステップS4)。すなわち、追跡対象である現在(時刻t)の中央領域32(図6参照)の画像特徴量F(t,0,0)を図示しない記憶装置から抽出して特徴メモリ63へ記憶する。
一方、被写体検出手段6は、記憶スイッチ62の押下がない場合(ステップS3でNo)は、ステップS5に進む。
そして、被写体検出手段6は、追跡対象の画像特徴量と類似する類似領域までの移動量を被写体位置として探索する(ステップS7)。すなわち、現在(時刻t’)の所定の領域それぞれの画像特徴量F(t’,x,y)と特徴メモリ63に記憶された画像特徴量とを照合し、類似領域に係る被写体位置(Vx,Vy)(移動量)を算出する。
次に、制御手段7は、被写体位置をインデックス番号に変換する(ステップS6)。すなわち、探索された被写体位置(Vx,Vy)(移動量)に基づいて、インデックス番号に変換する。
そして、制御手段7は、変換されたインデックス番号を用いてルックアップテーブル74からトルク量を抽出する(ステップS7)。
次に、トルク発生手段3は、抽出されたトルク量に基づくトルクを発生させる(ステップS8)。
次に、自動追尾撮影装置2は、動作を終了するか否かを判定する(ステップS9)。
ここで、自動追尾撮影装置2は、外部からの終了信号等によって、終了したと判定した場合(ステップS9でYes)は、自動追尾撮影装置2は、動作を終了する。
一方、終了したと判定しなかった場合(ステップS9でNo)は、ステップS1に戻り、動作を続行する。
なお、記憶スイッチ62の押下が一度もされていない場合にも、ステップS5〜ステップS8を実行してしまうため、図示しない記憶装置に追跡フラグを設定して、自動追尾撮影装置2の開始で追跡フラグをオフ(例えば、「0」)に記憶し、記憶スイッチ62の押下があった場合(ステップS3でYes)は追跡フラグをオン(例えば、「1」)に記憶し、ステップS4とステップS5の間で追跡フラグがオンであるか否かを判定し、オンでない場合は、ステップS9に進む処理を追加しても良い。
以上の動作によって、自動追尾撮影装置2は、選択した追跡対象である被写体を追跡するためのトルクを発生させることにより、装着されたカメラ1は、自動追尾撮影をすることが可能になる。
[実施の形態2]
以下、本発明の実施の形態2について図面を参照して説明する。
[自動追尾撮影装置の構成]
図10は、本実施の形態2に係る自動追尾撮影装置の構成を示したブロック図である。
図10において、図1に示した実施の形態1との差異は、実施の形態2では、自動追尾撮影装置2は、装着するカメラ1とは異なるセンサカメラ10を具備していることである。
センサカメラ10は、トルク発生手段3に固定され、カメラ1のレンズの指向する方向の動画像を入力し、出力される動画像を動画像入力手段5へ伝送する。
動画像入力手段5は、センサカメラ10から出力される動画像を入力する。なお、センサカメラ10と自動追尾撮影装置2とは、ケーブルで接続され、センサカメラ10より入力された動画像は、ケーブルを介してセンサカメラ10から動画像入力手段5へ伝送される。
なお、図10の他の構成要素は、図1と同様であるため、同じ符号を付して説明を省略する
本実施の形態2に係る自動追尾撮影装置2を構成することで、自動追尾撮影装置2に装着するカメラ1を、撮影方向(被写体)に向けることができ、さらには、使用者の撮影姿勢を変化させることができ、自動追尾撮影が可能となる。
これにより、動画像出力を備えていないカメラ1でも自動追尾撮影をすることができる。例えば、撮影時に動画像出力を得られないビデオカメラ、ディジタルスチールカメラ、または銀塩式の撮影機材に対しても自動追尾撮影が可能となる。
本発明の実施の形態1に係る自動追尾撮影装置の構成を示したブロック図である。 本発明の実施の形態1に係る自動追尾撮影装置においてアンローディング操作を制御手段にて実行する場合の構成を示したブロック図である。 本発明の実施の形態1に係る自動追尾撮影装置に装着するカメラの動作内容を説明する図である。 本発明の実施の形態1に係る自動追尾撮影装置の被写体検出手段の構成を示したブロック図である。 カメラの撮影領域と、追跡対象を設定する中央領域と、を示した図の例である。 カメラの撮影領域と、追跡対象を設定する中央領域と、追跡対象を探索する探索領域とを示した図の例である。 本発明の実施の形態1に係る自動追尾撮影装置の制御手段の構成を示したブロック図である。 図7に代えて本発明の実施の形態1に係る自動追尾撮影装置の制御手段の構成を示したブロック図である。 本発明の実施の形態1に係る自動追尾撮影装置の全体動作を示すフローチャートである。 本発明の実施の形態2に係る自動追尾撮影装置の構成を示したブロック図である。
符号の説明
1 カメラ
2 自動追尾撮影装置
3 トルク発生手段
4 トルク決定手段
5 動画像入力手段
6 被写体検出手段
7 制御手段
8 リアクションホイール
9 アンローディング手段
10 センサカメラ

Claims (6)

  1. 手持ち撮影用の動画用カメラを撮影方向に向けるようにトルクを発生させることにより、動画用カメラから撮影された撮影対象である被写体を追跡する自動追尾撮影装置であって、
    前記カメラから出力される動画像を入力する動画像入力手段と、
    この動画像入力手段により入力した動画像内の前記被写体の画像特徴量に基づいて、フレーム内における前記被写体の移動量を検出する被写体検出手段と、
    この被写体検出手段により検出された移動量に対して予め定められたトルク量を示す制御信号を出力する制御手段と、
    この制御手段により出力された制御信号に基づき、トルクを発生させるトルク発生手段と、を備え
    前記トルク発生手段は、
    内部に少なくとも1のリアクションホイールを備え、このリアクションホイールにより前記制御信号に基づくトルクを発生させ、前記カメラの回転角を変えることを特徴とする自動追尾撮影装置。
  2. 前記トルク発生手段は、
    前記カメラに着脱自在に設けられることを特徴とする請求項1に記載の自動追尾撮影装置。
  3. 前記発生したトルクを減少させるアンローディング手段を有することを特徴とする請求項1に記載の自動追尾撮影装置。
  4. 前記被写体検出手段は、
    前記フレーム内の画像特徴量を抽出する特徴抽出手段と、
    外部から指定されたタイミングで、前記特徴抽出手段により抽出された前記フレーム内の画像特徴量の中から、予め指定された領域の画像特徴量を前記被写体の画像特徴量として記憶する特徴メモリと、
    前記特徴抽出手段で抽出された前記フレーム内の画像特徴量から、前記特徴メモリに記憶された前記予め指定された領域の画像特徴量と最も近い画像特徴量を有する領域を探索し、この領域と前記予め指定された領域との距離を前記被写体の移動量として検出する特徴追跡手段と、を備えていることを特徴とする請求項1ないし請求項3のいずれか1項に記載の自動追尾撮影装置。
  5. 手持ち撮影用の動画用カメラとは異なるセンサカメラを具備し、動画用カメラを撮影方向に向けるようにトルクを発生させることにより、前記センサカメラから入力された撮影対象である被写体を追跡する自動追尾撮影装置であって、
    前記センサカメラから出力される動画像を入力する動画像入力手段と、
    この動画像入力手段により入力した動画像内の前記被写体の画像特徴量に基づいて、フレーム内における前記被写体の移動量を検出する被写体検出手段と、
    この被写体検出手段により検出された移動量に対して予め定められたトルク量を示す制御信号を出力する制御手段と、
    この制御手段により出力された制御信号に基づき、トルクを発生させるトルク発生手段と、
    を備え
    前記トルク発生手段は、
    内部に少なくとも1のリアクションホイールを備え、このリアクションホイールにより前記制御信号に基づくトルクを発生させ、前記カメラの回転角を変えることを特徴とする自動追尾撮影装置。
  6. 前記被写体検出手段は、
    前記フレーム内の画像特徴量を抽出する特徴抽出手段と、
    外部から指定されたタイミングで、前記特徴抽出手段により抽出された前記フレーム内の画像特徴量の中から、予め指定された領域の画像特徴量を前記被写体の画像特徴量として記憶する特徴メモリと、
    前記特徴抽出手段で抽出された前記フレーム内の画像特徴量から、前記特徴メモリに記憶された前記予め指定された領域の画像特徴量と最も近い画像特徴量を有する領域を探索し、この領域と前記予め指定された領域との距離を前記被写体の移動量として検出する特徴追跡手段と、を備えていることを特徴とする請求項5に記載の自動追尾撮影装置。
JP2006338899A 2006-12-15 2006-12-15 自動追尾撮影装置 Expired - Fee Related JP4866227B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006338899A JP4866227B2 (ja) 2006-12-15 2006-12-15 自動追尾撮影装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006338899A JP4866227B2 (ja) 2006-12-15 2006-12-15 自動追尾撮影装置

Publications (2)

Publication Number Publication Date
JP2008153879A JP2008153879A (ja) 2008-07-03
JP4866227B2 true JP4866227B2 (ja) 2012-02-01

Family

ID=39655611

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006338899A Expired - Fee Related JP4866227B2 (ja) 2006-12-15 2006-12-15 自動追尾撮影装置

Country Status (1)

Country Link
JP (1) JP4866227B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011193443A (ja) 2010-02-16 2011-09-29 Ricoh Co Ltd 物体追尾装置
JP5720275B2 (ja) 2011-02-03 2015-05-20 株式会社リコー 撮像装置および撮像方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05153459A (ja) * 1991-11-28 1993-06-18 Matsushita Electric Ind Co Ltd 動体追尾装置
JPH07199281A (ja) * 1993-12-30 1995-08-04 Canon Inc カメラシステム
JPH08125908A (ja) * 1994-10-28 1996-05-17 Hitachi Ltd 自動追尾撮像装置
JPH10191289A (ja) * 1996-12-27 1998-07-21 Canon Inc 情報伝送システムおよび遠隔撮像システム

Also Published As

Publication number Publication date
JP2008153879A (ja) 2008-07-03

Similar Documents

Publication Publication Date Title
US10848662B2 (en) Image processing device and associated methodology for determining a main subject in an image
US8004570B2 (en) Image processing apparatus, image-pickup apparatus, and image processing method
JP4548850B2 (ja) 立体画像を選択するための方法および装置
JP5703448B2 (ja) 画像表示装置及び画像表示方法
WO2019227441A1 (zh) 可移动平台的拍摄控制方法和设备
CN110754080B (zh) 图像获取方法、成像装置及拍摄系统
CN110622091A (zh) 云台的控制方法、装置、系统、计算机存储介质及无人机
CN107205111B (zh) 摄像装置、移动装置、摄像系统、摄像方法和记录介质
JP2017072986A (ja) 自律飛行装置、自律飛行装置の制御方法及びプログラム
JP6598537B2 (ja) 画像処理装置、撮像装置および画像処理プログラム
WO2018150917A1 (ja) 被操縦体、移動装置、撮像装置、移動制御方法、移動補助方法、移動制御プログラムおよび移動補助プログラム
JP2004295027A (ja) ブレ補正装置
US11647292B2 (en) Image adjustment system, image adjustment device, and image adjustment
JP2007017517A (ja) 像振れ補正装置
WO2021134644A1 (zh) 云台的控制方法和云台
JP4866227B2 (ja) 自動追尾撮影装置
WO2021168821A1 (zh) 可移动平台的控制方法和设备
CN110036411B (zh) 生成电子三维漫游环境的装置和方法
JP2006203504A (ja) 撮像装置
JP4517813B2 (ja) パンニング撮影可能なカメラおよび動画像編集用プログラム
CN111684784B (zh) 图像处理方法和装置
JP2000069353A (ja) 手ぶれ検出装置および手ぶれ補正装置
JP2580516B2 (ja) 実時間3次元運動測定装置およびその方法
JP2021099383A (ja) 情報処理装置、情報処理方法およびプログラム
CN111373735A (zh) 拍摄控制方法、可移动平台与存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090319

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20101111

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101214

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110209

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111018

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141118

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees