JP4810582B2 - 移動体画像追尾装置および方法 - Google Patents

移動体画像追尾装置および方法 Download PDF

Info

Publication number
JP4810582B2
JP4810582B2 JP2009076700A JP2009076700A JP4810582B2 JP 4810582 B2 JP4810582 B2 JP 4810582B2 JP 2009076700 A JP2009076700 A JP 2009076700A JP 2009076700 A JP2009076700 A JP 2009076700A JP 4810582 B2 JP4810582 B2 JP 4810582B2
Authority
JP
Japan
Prior art keywords
angular velocity
moving body
zenith
rotating means
tracking error
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2009076700A
Other languages
English (en)
Other versions
JP2010231371A (ja
Inventor
博昭 中村
正 黒岩
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2009076700A priority Critical patent/JP4810582B2/ja
Priority to US12/550,648 priority patent/US8098893B2/en
Publication of JP2010231371A publication Critical patent/JP2010231371A/ja
Application granted granted Critical
Publication of JP4810582B2 publication Critical patent/JP4810582B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30232Surveillance

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Control Of Position Or Direction (AREA)
  • Studio Devices (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

本発明は、全方向に渡り移動する目標に対してカメラ等の目標認識センサを追尾させるための移動体画像追尾装置および方法に関する。
近年、空港やプラントなど大型施設、及び発電所や水道施設などのライフラインに関わる施設での保安設備、並びにITSなどの交通情報支援システムなどにおいて、ITVカメラ等を用いて対象物を追跡し、継続した監視や詳細な情報を入手するシステムが多く商品化されている。これらのシステムは、地上設置型だけでなく、プラットホームとして車両、船舶または航空機などを想定し、小型かつ耐振性を考慮した構造で、振動・動揺に対する外乱抑制を行っている。更に、複数の対象物を順次、追尾できるように、旋回速度を高速化し、対象物への指向を短時間に行えることが重要になってきている。
このような移動体画像追尾システムは、全方向に渡り移動する目標に対して追尾するために、ジンバル構造では少なくとも2軸以上を備える必要がある。2軸ジンバルでは、対象物が天頂、もしくは天頂付近を通過する場合にはAZ軸は瞬時に180度回転する必要があり、実際にはこの動作の実現は難しく、連続した追跡ができなくなるというジンバルロックと呼ばれる現象の課題がある。このため2軸ジンバル構造では、ジンバルロックが生じる天頂付近には指向することができず、全方向の実現が難しい。
従来の画像追尾システムでは、3軸ジンバル構造を用いることで、自由度を増やし、角速度が過大とならないように、AZ軸とxEL軸との動作に分配することで、実現可能なジンバル可動範囲を超えることなく、ジンバルロックを避け、全方向にわたり連続的に追尾させようとしている(例えば、特許文献1参照)。
特開2006−106910公報
このような従来技術では、1軸増えているために、2軸ジンバルと比べると構造が複雑化し、モータ等の駆動手段も増えるため、小型化や低コスト化が難しい。また、カメラ等を搭載するためxEL軸の負荷慣性が大きく、AZ軸とxEL軸との軸干渉の影響も生じる可能性があり、3軸ジンバル構造特有の課題が生じてしまう。
また、2軸ジンバル構造で天頂付近の追尾を行うためには、瞬時の180度の回転を許容できるモータ性能等が必要となり、過大な要求を満たす必要が生じてしまう。
本発明は、上記に鑑みてなされたものであって、付加センサを追加することなく、追尾性能の劣化を改善する移動体画像追尾装置および方法を提供することを目的とする。
上述の課題を解決するため、本発明の移動体画像追尾装置は、垂直方向に向けられ回転自在に支持されるアジマス軸を中心に回転する第1回転手段と、前記アジマス軸と直交する水平方向に設けられ、回転自在に支持されるエレベーション軸を中心に回転し、水平方向の正面から天頂を経て背面に回転が可能であり、少なくとも180度以上の可動範囲を有する第2回転手段と、前記第1回転手段と前記第2回転手段を個別に回転駆動する駆動手段と、前記第2回転手段に支持され、移動体を撮影して画像データを取得する取得手段と、前記画像データから、前記移動体の視野中心からのずれ量である追尾誤差を追尾誤差検出値として検出する第1検出手段と、前記回転手段ごとに、前記回転手段の姿勢を示す角度を検出する第2検出手段と、前記回転手段ごとに、前記軸回りの角速度を検出する第3検出手段と、天頂から一定の距離よりも離れた第1範囲に前記移動体がある場合には、前記角度と前記追尾誤差検出値とを使用して、前記移動体を追尾するように前記第1回転手段および前記第2回転手段を駆動する第1角速度指令値を計算する第1計算手段と、天頂から一定の距離以内の第2範囲に前記移動体がある場合には、前記角度と前記追尾誤差検出値とを使用して、前記移動体の移動方向を推定する推定手段と、前記角度と前記追尾誤差検出値と前記移動方向とを使用して、天頂特異点を回避しながら前記移動体を追尾するように前記第1回転手段および前記第2回転手段を駆動する第2角速度指令値を計算する第2計算手段と、前記第1範囲に前記移動体がある場合には前記第1角速度指令値と前記角速度との差がなくなるように、前記移動体が前記第2範囲にある場合には前記第2角速度指令値と前記角速度との差がなくなるように、前記第1回転手段および前記第2回転手段を駆動制御する制御手段と、を具備することを特徴とする。
本発明の移動体画像追尾装置および方法によれば、付加センサを追加することなく、追尾性能の劣化を改善することができる。
第1の実施形態の移動体画像追尾装置のブロック図。 図1のジンバル駆動部を示す模式図。 図1の補正制御系を示すブロック図。 図1のカメラセンサの画像の視野と移動体追尾について説明するための図。 移動体の軌跡と視軸の軌跡とを示す図。 ジンバル天頂座標系によって、軌跡、補正範囲および追尾誤差を示す図。 ジンバル天頂座標系によって、天頂到達後の、軌跡、補正範囲および追尾誤差を示す図。 図1の角速度指令選択部の動作の一例を示すフローチャート。 図1の移動体画像追尾装置の補正制御の有無による角速度指令値を示す図。 図1の移動体画像追尾装置の補正制御の有無による追尾誤差を示す図。 図1の移動体画像追尾装置の補正制御を適用した場合、ジンバル天頂座標系での視軸のベクトル軌跡を示す図。 第2の実施形態での補正制御系を示すブロック図。 図12の角速度指令選択部の動作の一例を示すフローチャート。 第3の実施形態での補正制御系を示すブロック図。
以下、図面を参照しながら本発明の実施形態に係る移動体画像追尾装置および方法について詳細に説明する。なお、以下の実施形態では、同一の番号を付した部分については同様の動作を行うものとして、重ねての説明を省略する。
実施形態の移動体画像追尾装置は、移動体画像追尾機構の制御システムを、画像トラッキングシステムに適用したものである。
(第1の実施形態)
本実施形態の移動体画像追尾装置について図1を参照して説明する。
本実施形態の移動体画像追尾装置は、第1、第2のジンバル111,121、第1、第2の駆動部112,122、第1、第2の角速度センサ113,123、第1、第2の角度センサ114,124、カメラセンサ140、追尾誤差検出部173、角速度指令生成部150、移動体方向推定部174、補正角速度指令生成部171、角速度指令選択部172、駆動制御部160を含む。また、駆動制御部160は、第1のサーボ制御部161と、第2のサーボ制御部162を含んでいる。
第1のジンバル111は、垂直方向に向けられ回転自由に支持されるアジマス軸として第1のジンバル軸を中心に回転する。第2のジンバル121は、このアジマス軸と直交する水平方向に設けられ、回転自由に支持されるエレベーション軸として第2のジンバル軸を中心に回転する。第1、第2の駆動部112,122は、それぞれ、第1、第2のジンバル111,121を回転駆動する。
第1の角速度センサ113は、第1のジンバル軸を中心に回転する第1のジンバル111の角速度を検出する。第2の角速度センサ123は、第2のジンバル軸を中心に回転する第2のジンバル121の角速度を検出する。
第1の角度センサ114は、第1のジンバル111のジンバル固定部に対する回転角度を検出する。第2の角度センサ124は、第2のジンバル121の第1のジンバル111に対する回転角度を検出する。カメラセンサ140は、第2のジンバル121に支持され、移動体を認識して画像データを得る。
追尾誤差検出部173は、カメラセンサ140から取得した画像データに画像処理を施して追尾誤差検出値を検出する。追尾誤差検出部173は、一般的には2値化により白黒画像にし、移動体の特徴点を抽出することでカメラ視野内の位置を識別し、視野中心からの2方向のずれ量(ΔX,ΔY)を追尾誤差検出値とする。これらの画像処理を含めた処理時間が追尾誤差検出値を得るサンプリング時間となる。追尾誤差検出値については後に図4を参照して説明する。
角速度指令生成部150は、追尾誤差検出部173から取得する2方向の追尾誤差検出値と、第1、第2の角度センサ114,124により検出されるジンバル姿勢を表す2軸の角度検出値(θ,θ)とにより、移動体を追尾するようジンバルを駆動する角速度指令値を生成する。この計算の詳細は後に図3を参照して説明する。
移動体方向推定部174は、追尾誤差検出部173から取得する2方向の追尾誤差検出値を入力し、第1、第2の角度センサ114,124のそれぞれから角度を入力することで移動体の進行方向を移動体方向推定値として得る。
補正角速度指令生成部171は、移動体方向推定部174による移動体方向推定値と、追尾誤差検出部173から取得する2方向の追尾誤差検出値と、第1、第2の角度センサ114,124のそれぞれから角度とを入力し、天頂を回避しつつ移動体を追尾するようジンバルを駆動する補正角速度指令値を生成する。
角速度指令選択部172は、角速度指令生成部150による角速度指令値と、補正角速度指令生成部171による補正角速度指令値と、角度センサ114,124からの角度とを入力し、天頂への指向方向の近接度合いによって、角速度指令生成部150による角速度指令値または補正角速度指令生成部171による補正角速度指令値のいずれかを出力する。
駆動制御部160は、各角速度センサ113,123に対応する角速度指令値または補正角速度指令値と、第1、第2の角速度センサ113,123で検出された角速度検出値との差を0にするように制御指令値を計算する。第1、第2のサーボ制御部161,162は、それぞれ第1、第2の角速度センサ113,123に対応し、それぞれ第1、第2の駆動部112,122に対応する制御指令値を出力する。
次に、本実施形態で使用するジンバル駆動部について図2を参照して説明する。
第1のジンバル軸はアジマス軸(以下、単に「AZ軸」という)、第2のジンバル軸はエレベーション軸(以下、単に「EL軸」という)である。図1の移動体画像追尾装置は、これらのAZ軸、EL軸が一点において直交する2軸構造を備えた2軸旋回装置である。
次に、本実施形態の移動体画像追尾装置の補正制御系について図3を参照して説明する。図3は、AZ軸、EL軸の2軸まとめて表した制御ブロック線図である。
角速度指令生成部150は、追尾誤差検出部173から取得する2方向の追尾誤差検出値と、第1、第2の角度センサ114,124により検出されるジンバル姿勢を表す2軸の角度検出値(θ,θ)とにより、移動体を追尾するようにジンバルを駆動する下記(A)の角速度指令値を生成する。
Figure 0004810582
2方向画像(ΔX,ΔY)から2軸ジンバルの各軸へ角速度を分配する手法の一つとして、追尾誤差と角度に対する角速度指令値の関係式を表すと、次式のように表される。
Figure 0004810582
ここで、Kは追尾ゲインである。また、secθは、θに関する正割関数であり、θ=90度で無限大となる。このため天頂や、天頂付近では第1のジンバル111に対して非常に大きな角速度指令が発生することとなり、これがジンバルロックの課題となっている。
本実施形態にかかる補正制御では、ジンバルの角度を検出する角度データ、ならびにカメラセンサ140からの追尾誤差検出値に基づいて、移動体方向推定部174で移動体の進行方向の推定を行う。天頂補正を適用する天頂補正範囲内では、ジンバル角度によって決まる視軸は、天頂付近を指向しており、移動体の位置は視軸と追尾誤差から推定することができる。第1のジンバル角度が0度、第2のジンバル角度が90度を基準としたジンバル天頂座標系において、視軸による移動体の位置成分(X,Y)は、球面座標系からカルテシアン座標への変換を用いて、次式で表される。
Figure 0004810582
天頂補正適用時には、必ず追尾誤差が発生していることから、視軸位置から追尾誤差による位置成分を訂正する必要がある。カメラに固定されているカメラ座標系は第1のジンバル111によって回転していることから、追尾誤差による移動体の位置成分(X,Y)は、第1のジンバル角度による逆回転変換を用いて、次式で表される。
Figure 0004810582
従って、ジンバル天頂座標系での移動体の位置(X,Y)は、次式で表される。
Figure 0004810582
このようにして求まった移動体の推定位置を(X,Y)用いて、kサンプル間隔の差分(dx,dy)が次式で表される。
Figure 0004810582
このようにして求まった移動体推定位置の差分を用いて、移動体の進行方向θestは次式で表される。
Figure 0004810582
補正角速度指令生成部171は、このようにして求まった移動体方向推定値θest、ならびにジンバル角度(θ,θ)、追尾誤差(ΔX,ΔY)を用いて、補正角速度指令の生成を行う。
補正角速度指令を適用する補正範囲内では、視軸は天頂付近を指向していることから、補正範囲閾角度θthに対して、ジンバル角度による球面座標系からカルテシアン座標への変換を用いて、補正範囲は次式で表される。
Figure 0004810582
視軸が補正範囲内である場合には、天頂付近での追尾誤差による角速度指令が過大となるジンバルロックを避けるため、追尾誤差を許容して天頂を視軸が通過する補正駆動を行う。
ジンバルのEL軸0度でカメラが指向している方向をAZ軸正面とすると、天頂においては、AZ軸正面方向と、移動体との進行方向とは対向する関係となる。従って、AZ軸角度θと移動体方向推定値θestから、必要なAZ軸の補正角度θneedは、次式で表される。
Figure 0004810582
この補正角度を用いて、補正範囲内進入時から天頂に至るまでは、第1のジンバル111の補正角速度指令値は次式で表される。
Figure 0004810582
ここで、Kは補正角速度ゲインである。すなわち、移動体が天頂を越えるまでは、第1のジンバル111のアジマス軸角度と移動方向との差が零に近付くように、第1のジンバル111の角速度を制御する。
この補正角速度指令によりAZ軸が駆動されEL軸90度である天頂に至ると、天頂では移動体位置の天頂からのずれ量に応じてX成分の追尾誤差が必ず生じることとなる。従って、天頂通過後は、この追尾誤差を抑制するように補正駆動を行う。
追尾誤差を抑制するように駆動するのは[式1]と同様であるが、天頂付近においてはsec関数が非常に大きくなるため、ゲインKを用いて天頂補正範囲内での追尾誤差を抑制する補正角速度指令は次式で表される。
Figure 0004810582
この天頂補正により、EL軸が90度以上となり補正範囲外へ退出した後、再び補正範囲に進入する場合には、[式9]を適用し、この際に必要なAZ軸の補正角度θneedは、次式で表される。
Figure 0004810582
これに対応して、EL軸が90度以上となり補正範囲外へ退出した後、再び補正範囲に進入し、さらに天頂を通過後、追尾誤差を抑制する天頂補正角速度指令は次式で表される。
Figure 0004810582
角速度指令選択部172は、このようにして求まった角速度指令値と補正角速度指令値と角度センサ114,124からの角度とを用いて、天頂付近の角速度指令の選択を行う。角速度指令選択部172は、補正範囲外の場合には、カメラセンサ140から取得した画像によって追尾誤差検出部173が検出した追尾誤差検出値に基づく下記(B)の角速度指令をそのまま適用し、補正範囲内の場合には、移動体方向推定値に基づく下記(C)の補正角速度指令を適用する。第2のジンバル121に関しては、過大な角速度指令は生じないため、そのまま下記(D)の角速度指令を適用する。
Figure 0004810582
このようにして角速度指令選択部172で生成された各角速度センサ113,123に対応する角速度指令値と第1、第2の角速度センサ113,123で検出された角速度検出値との差を0にするように駆動制御部160で制御指令値が計算され、この制御指令値に従いジンバル駆動部が移動体を追尾するように駆動される。ここで、ジンバル駆動部は、第1、第2のジンバル111,121と第1、第2の駆動部112,122を含む。
以上のように移動体画像追尾装置が作動することにより、天頂付近で過大な角速度指令とならないため、天頂付近でも適切な追尾駆動をするための角速度指令を生成することが可能となる。
次に、カメラセンサ140が取得した画像の視野と移動体追尾について図4を参照して説明する。
図4は、本実施形態にかかるカメラ画像の視野と移動体追尾の概要を示した図である。移動体がカメラ視野内で捉えている場合には、カメラ中心からのずれ量として追従誤差検出値(ΔX,ΔY)が得られる。追尾遅れが生じるため、この追尾誤差検出値はカメラ視野以上には許容でない。追尾誤差検出値は小さいことが望ましいが、追尾誤差検出値が大きくともカメラ視野内に入っている限り、2軸ジンバルを駆動して移動体を追尾することができる。
次に、天頂範囲外から移動体が進入し、天頂付近を通過し、その後、天頂範囲外へ退出する場合の補正について、図5、図6、図7を参照して説明する。
図5は、移動体の軌跡と補正角速度駆動による視軸の軌跡の概要を表した図である。3次元の空間で表すと、2軸ジンバルにより半球状の全方向に渡って視軸を指向することができる。これに対して、典型的な一例として移動体は天頂よりわずかにずれた位置を正面から背面に渡って移動する場合を考える。この図において、天頂から補正範囲閾角度θthの範囲が補正を適用する範囲となる。
図6は、天頂方向から2次元平面として、補正範囲を拡大して表した図である。図6および図7は、ジンバル天頂座標系で軌跡、補正範囲および追尾誤差を示している。この一例では移動体が下方より上方へ移動する場合である。下方より移動体を追尾誤差検出値に基づく角速度指令により追尾して、補正範囲に入った場合、移動体方向推定値θestは、ジンバル天頂座標系で90度となる。従って、天頂に至るまでにAZ軸正面が指向すべきAZ軸角度は0度であり、[式8]により第1のジンバル111は補正角速度指令により駆動する。第2のジンバル121は、カメラセンサ140から取得した画像によって追尾誤差検出部173が検出した追尾誤差検出値に基づく角速度指令により駆動する。
図7は、視軸が天頂到達後の視軸と移動体との位置関係を示した図である。EL軸90度である天頂ではAZ軸正面と移動体方向とは対向する向きとなり、天頂からのずれ量に応じたX方向追尾誤差ΔXが発生している。この追尾誤差を抑制するように、[式9]により第1のジンバル111は補正角速度指令により駆動する。第2のジンバル121は、天頂通過前と同様に、カメラセンサ140から取得した画像によって追尾誤差検出部173が検出した追尾誤差検出値ΔYに基づく角速度指令により駆動する。このようにして追尾誤差が抑制されると伴に、天頂補正範囲から退出した場合、第1のジンバル111では補正角速度指令から追尾誤差検出値に基づく角速度指令に切り替えることで、継続して追尾が可能となる。
角速度指令選択部172の動作の一例について図8を参照して説明する。
角度センサ114,124から取得したジンバル角度検出値に従い、[式7]によって天頂補正範囲内に進入したかどうかを判定する(ステップS801)。天頂補正範囲外であると判定した場合には、角速度指令生成部150による角速度指令値を選択して(ステップS814)、駆動制御部160へ渡す。一方、補正範囲内に進入したと判定した場合には、EL軸の角度が90度を跨いだかどうかから天頂通過を判定する(ステップS802)。天頂を通過していない場合には、角度センサ114,124から取得したジンバル角度、ならびにカメラセンサ140から取得した追尾誤差を用いて移動体方向推定部174により移動体方向推定値を計算する(ステップS806)。そして、EL軸角度が90度を超えていない場合には補正角度を[式8]により補正角度計算Aとして計算し(ステップS808)、90度を超えている場合には補正角度を[式11]により補正角度計算Bとして計算する(ステップS809)。この補正角度が補正角度閾値より大きかった場合には、角速度指令生成部150による角速度指令値を選択する(ステップS810、S814)。こうすることで、天頂補正範囲内であっても、第1のジンバル111で回転角度が大きい、つまり大きな補正角速度指令となる場合には、補正の適用を制限することができる。第1のジンバル111の補正角度が閾値以下と判定された場合には、[式9]に従い、補正角速度指令Aとして補正角速度指令の計算を行う(ステップS811)。
一方、天頂を通過した場合には、EL軸角度が90度を超えている場合には[式10]に従い補正角速度Bとして補正角速度指令を計算し(ステップS804)、90度を超えていない場合には[式11]に従い補正角速度Cとして補正角速度指令を計算する(ステップS805)。
天頂補正範囲内では、このようにして計算された補正角速度指令を角速度指令選択部172により選択し、駆動制御部160へ渡す。補正角速度指令で駆動されている状態では天頂の通過を繰り返し判定し、補正角速度指令の計算を切り替える。また、天頂補正状態において、天頂補正範囲外であると判定した場合には、角速度指令生成部150による角速度指令値を選択して駆動し、再び天頂補正範囲内に侵入したかどうかの判定へと戻す。
次に、移動体は天頂よりわずかにずれた位置を正面から背面に渡って移動する場合に、本実施形態の移動体画像追尾装置による補正制御の適用有無によって、追尾誤差の変化の一例について図9、図10、図11を参照して説明する。
緩やかに移動体が移動を開始し天頂付近を通過する場合、天頂に近いほどジンバルは正面から平面にAZ軸を大きく回転させる動作が伴い、ジンバル駆動特性の限界から、移動体の追尾特性が悪化する可能性が高い。
図9では、第1、第2のジンバル111,121それぞれに対して、駆動制御部160に与えられる角速度指令値を、それぞれ時間に対して図示したものである。第1のジンバル111がAZ、第2のジンバル121がELに対応している。補正なしの場合では、天頂付近(図9の2.2[s]付近)で、非常に大きなAZ軸角速度指令が与えられている(図9(A))が、ジンバル駆動特性の限界から指令に追従することができない。これに対して、補正ありの場合では、ジンバル駆動特性で十二分に追尾することができる角速度指令となっている(図9(B))。顕著な特徴として、図9(B)に示されるように、補正ありにすることで天頂付近では、補正範囲への進入とともに移動体の進行方向と対向するようにAZ軸角度を回転し始めるため減速がおき、天頂通過後は天頂補正により生じたX方向追尾誤差を抑制するように駆動されている。これに対して、EL軸は移動体の移動速度に応じた角速度で駆動され、正面から背面への移動体追尾に対して、EL軸は0度から180度と変化して追尾していることを示している。
図10では、カメラ追尾誤差のx成分とy成分をそれぞれ時間に対して図示したものである。補正なしの場合には、非常に大きなAZ角速度指令となるため、ジンバル駆動特性の限界から追尾誤差が大きくなり、追尾誤差検出範囲を超えてしまって、追尾不能となっている(図10(A))。これに対して、補正ありの場合では、追尾誤差検出範囲を超えることなく移動体を追尾していることを示している(図10(B))。顕著な特徴として、Timeが2.2[s]手前での天頂通過時に、最大の追尾誤差となっている。しかし、カメラ視野に収まっており、安定した追尾が可能である。
図11では、補正を適用した場合において、ジンバル天頂座標系での視軸のベクトル軌跡を図示したものである。破線の円は補正範囲を表している。下方から上方へ追尾から、補正範囲への侵入とともに天頂補正を開始し、天頂である(0,0)点に視軸が一旦指向し、その後、追尾誤差が抑制されながら元の下方から上方への軌道へと戻っていることを示している。
以上の第1の実施形態によれば、付加センサを追加することなく、2軸ジンバル構造であっても、第2のジンバルが正面から背面に指向可能な可動範囲を有し全方向に渡り追尾可能になり、天頂、ならびに天頂付近では、角度データに基づいて移動体角速度推定値を計算し、補正角速度指令で駆動することで、天頂付近での過大な角速度指令によるジンバルロックを回避し、移動体追尾の適切な角速度指令を生成することができ、追従特性を改善することができる。
(第2の実施形態)
本実施形態の移動体画像追尾装置の補正制御では、移動体角速度推定部1201による移動体角速度推定値を用いて移動体の移動状態を判定し、極めて天頂に近い位置から追尾を開始する場合は、天頂に指向するようにアジマス軸ならびにエレベーション軸の角速度指令を生成する。
本実施形態の移動体画像追尾装置の補正制御系について図12を参照して説明する。図12は、AZ軸、EL軸の2軸まとめて表した制御ブロック線図である。
移動体角速度推定部1201は、追尾誤差検出部173から取得する2方向の追尾誤差を入力し、第1、第2の角度センサ114,124のそれぞれから角度を入力し、第1、第2の角速度センサ113,123のそれぞれから角速度を入力することで、移動体の速度を得る。
本実施形態にかかる補正制御では、ジンバルの角度を検出する角度データ、ならびにジンバルの角速度を検出する角速度データ(ω,ω)、ならびにカメラセンサ140からの追尾誤差検出値(ΔX,ΔY)に基づいて、移動体角速度推定部1201で移動体速度の推定を行う。
天頂補正非適用時には、追尾状態であれば視軸と移動体とは必ず交わるように移動しており、視軸ベクトル速度の大きさと移動体速度とが一致することより、移動体角速度推定値ωestは次式で表される。
Figure 0004810582
天頂補正適用時には、追尾誤差を許容して第1のジンバル111での大きな角速度指令を回避する動作を行うため、[式13]では移動体の速度が推定できない。ここで、天頂補正状態では、X方向の追尾誤差は移動体の移動とは関連がなく、移動体の速度は、第2のジンバル121の角速度指令に等しいことから、Y方向追尾誤差と追尾ゲインKから次式で表される。
Figure 0004810582
補正角速度指令生成部1202は、このようにして求まった移動体角速度推定値ωest、移動体方向推定値θest、ジンバル角度(θ,θ)、およびジンバル角速度(ω,ω)を用いて、補正角速度指令の生成を行う。
角速度指令選択部1203の動作の一例について図13を参照して説明する。
天頂補正範囲であると判定された場合(ステップS801)、移動体角速度推定部1201から取得した移動体角速度推定値ωestに従い、対象物の移動状態を判定する(ステップS1301)。移動体角速度推定値ωestが移動体角速度閾値ωthより大きい場合には、移動していると判定してステップS1303に進む。一方、移動体角速度推定値ωestが移動体角速度閾値以下である場合には、移動停止時の追尾のために追尾誤差に基づく角速度指令で駆動するが、天頂付近ではsecθが非常に大きくなるため、sec関数の変わりに、sign関数を使った停止追尾を行う(ステップS1302)。停止追尾の場合の補正角速度指令は次式で表される。
Figure 0004810582
ここで、signθは、θに関する符号関数であり、θが0より大きければ1を、0の場合は0を、0未満の場合は−1を出力する。
移動していると判定された場合、極天頂補正適用条件であるか判定を行う(ステップS1303)。極天頂補正適用条件としては、天頂補正範囲内から追尾を開始し、かつ視軸がカメラの視野範囲θ内であるかに基づき、次式のように表される。カメラの視野範囲θ内の範囲は、天頂補正範囲よりも小さくなる。
Figure 0004810582
条件外([式16]を満たさない場合)である場合には、ステップS802に進み第1の実施形態と同様の天頂補正を行う。条件と一致する場合([式16]を満たす場合)には、補正角速度指令Dとして、次式に従って計算する(ステップS1304)。
Figure 0004810582
この補正角速度指令により、極天頂範囲にて移動体追尾を開始した場合には、AZ軸は追尾誤差を低減し、EL軸は追尾誤差によらず天頂であるEL軸90度となるように駆動される。このようにすることで、EL軸は天頂を通過するため、以降の天頂補正は第1の実施形態と同様の処理となり、天頂補正範囲内ではこのようにして計算された補正角速度指令を角速度指令選択部1203により選択し、駆動制御部160へ渡す。補正角速度指令で駆動されている状態で、天頂の通過を繰り返し判定し、補正角速度指令の計算を切り替える。また、天頂補正状態において、天頂補正範囲外であると判定した場合には、角速度指令生成部150による角速度指令値を選択して(ステップS801、S814)、再び天頂補正範囲内に侵入したかどうかの判定へと戻す。
以上の第2の実施形態によれば、移動体角速度推定部による移動体角速度推定値を用いて移動体の移動状態を判定し、極めて天頂に近い位置から追尾を開始する場合は、天頂に指向するようにアジマス軸ならびにエレベーション軸の角速度指令を生成することができるので、適切に、天頂付近での過大な角速度指令によるジンバルロックを回避し、移動体追尾の適切な角速度指令を生成することができ、追従特性を改善することができる。
(第3の実施形態)
本実施形態の移動体画像追尾装置の補正制御では、移動体方向推定部174による移動体推定位置の差分を用いて移動体の移動状態を判定し、極めて天頂に近い位置から追尾を開始する場合は、天頂に指向するようにアジマス軸ならびにエレベーション軸の角速度指令を生成する。本実施形態は、図13のステップS1301で対象物が移動状態にあるかどうかを判定する判定手法が第2の実施形態と異なる。
本実施形態の移動体画像追尾装置の補正制御系について図14を参照して説明する。図14は、AZ軸、EL軸の2軸まとめて表した制御ブロック線図である。
移動体方向推定部174から出力される[式5]の移動体推定位置の差分(dx,dy)より、移動ベクトル閾値rより移動状態の判定条件は、次式のように表される。すなわち、あるサンプル間隔での差分が速度に対応しているので、この差分によって移動体が移動しているかどうかを判定することができる。
Figure 0004810582
閾値より小さい場合には移動停止していると判定し、大きい場合には移動していると判定する。これ以降の処理は第2の実施形態と同様の天頂補正を行う。
以上の第3の実施形態によれば、移動体推定位置の差分(dx,dy)によって移動体が移動しているかどうかを判定することによって、第2の実施形態と同様の効果を得ることができる。
以上のような実施形態の移動体画像追尾装置は、TVカメラやカメラシーカー、そして自動測量器等を搭載したジンバル構造の移動体のカメラ追尾を行う機器において、2軸ジンバル構造での全方位に渡って追尾が可能であり、移動体に搭載される追尾カメラシステムに有効である。
以上に示した実施形態によれば、2軸ジンバル構造であっても、第2のジンバルが正面から背面に指向可能な可動範囲を有し、天頂、ならびに天頂付近では、角度データに基づいて移動体角速度推定値を計算し、補正角速度指令で駆動することで、天頂付近での過大な角速度指令によるジンバルロックを回避し、移動体追尾の適切な角速度指令を生成することができ、追従特性を改善することが可能となる。
これにより、構造が簡易な2軸ジンバル構造で、過大なモータ性能を必要とせず、天頂、ならびに天頂付近の追尾が可能となる。また、新たにセンサを付与する必要がなく、装置のコストを増やすことなく、追尾特性を改善することができる。
なお、本発明は上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。
111,121・・・ジンバル、112,122・・・駆動部、113,123・・・角速度センサ、114,124・・・角度センサ、140・・・カメラセンサ、150・・・角速度指令生成部、160・・・駆動制御部、161,162・・・サーボ制御部、171・・・補正角速度指令生成部、172、1203・・・角速度指令選択部、173・・・追尾誤差検出部、174・・・移動体方向推定部、1201・・・移動体角速度推定部、1202・・・補正角速度指令生成部。

Claims (7)

  1. 垂直方向に向けられ回転自在に支持されるアジマス軸を中心に回転する第1回転手段と、
    前記アジマス軸と直交する水平方向に設けられ、回転自在に支持されるエレベーション軸を中心に回転し、水平方向の正面から天頂を経て背面に回転が可能であり、少なくとも180度以上の可動範囲を有する第2回転手段と、
    前記第1回転手段と前記第2回転手段を個別に回転駆動する駆動手段と、
    前記第2回転手段に支持され、移動体を撮影して画像データを取得する取得手段と、
    前記画像データから、前記移動体の視野中心からのずれ量である追尾誤差を追尾誤差検出値として検出する第1検出手段と、
    前記回転手段ごとに、前記回転手段の姿勢を示す角度を検出する第2検出手段と、
    前記回転手段ごとに、前記軸回りの角速度を検出する第3検出手段と、
    天頂から一定の距離よりも離れた第1範囲に前記移動体がある場合には、前記角度と前記追尾誤差検出値とを使用して、前記移動体を追尾するように前記第1回転手段および前記第2回転手段を駆動する第1角速度指令値を計算する第1計算手段と、
    天頂から一定の距離以内の第2範囲に前記移動体がある場合には、前記角度と前記追尾誤差検出値とを使用して、前記移動体の移動方向を推定する推定手段と、
    前記角度と前記追尾誤差検出値と前記移動方向とを使用して、天頂特異点を回避しながら前記移動体を追尾するように前記第1回転手段および前記第2回転手段を駆動する第2角速度指令値を計算する第2計算手段と、
    前記第1範囲に前記移動体がある場合には前記第1角速度指令値と前記角速度との差がなくなるように、前記移動体が前記第2範囲にある場合には前記第2角速度指令値と前記角速度との差がなくなるように、前記第1回転手段および前記第2回転手段を駆動制御する制御手段と、を具備することを特徴とする移動体画像追尾装置。
  2. 前記推定手段は、前記角度により定まるジンバル視軸の位置成分と前記追尾誤差検出値から定まる位置成分とから天頂座標系における対象物の位置を求め、該位置のあるサンプル間隔の差分により前記移動方向を推定算することを特徴とする請求項1に記載の移動体画像追尾装置。
  3. 前記第2計算手段は、前記移動体が天頂を越えるまでは、第1回転手段のアジマス軸角度と前記移動方向との差が零に近付くように、前記第1回転手段の角速度を制御することを特徴とする請求項1または請求項2に記載の移動体画像追尾装置。
  4. 前記第2計算手段は、前記移動体が天頂を越えた後は、前記追尾誤差検出値を抑制するように、該追尾誤差検出値に応じて前記第1回転手段の角速度を制御することを特徴とする請求項1から請求項3のいずれか1項に記載の移動体画像追尾装置。
  5. 前記第2範囲に前記移動体がある場合には前記追尾誤差検出値に応じて移動体の角速度推定値を計算する第3計算手段をさらに具備し、
    前記第2計算手段は、前記第2範囲内にある前記移動体の追尾を開始し、かつ、視軸がある視野範囲内にある場合には、前記第1回転手段が追尾誤差検出値を低減するように該第1回転手段の角速度を制御し、前記第2回転手段が天頂を指向するように該第2回転手段の角速度を制御することを特徴とする請求項1から請求項4のいずれか1項に記載の移動体画像追尾装置。
  6. 前記第3計算手段は、前記第1範囲に前記移動体がある場合には、前記第2検出手段による角度および前記第3検出手段による角速度に応じて移動体の角速度推定値を計算することを特徴とする請求項5に記載の移動体画像追尾装置。
  7. 垂直方向に向けられ回転自在に支持されるアジマス軸を中心に回転する第1回転手段を用意し、
    前記アジマス軸と直交する水平方向に設けられ、回転自在に支持されるエレベーション軸を中心に回転し、水平方向の正面から天頂を経て背面に回転が可能であり、少なくとも180度以上の可動範囲を有する第2回転手段を用意し、
    前記第1回転手段と前記第2回転手段を個別に回転駆動し、
    前記第2回転手段に支持され、移動体を撮影して画像データを取得し、
    前記画像データから、前記移動体の視野中心からのずれ量である追尾誤差を追尾誤差検出値として検出し、
    前記回転手段ごとに、前記回転手段の姿勢を示す角度を検出し、
    前記回転手段ごとに、前記軸回りの角速度を検出し、
    天頂から一定の距離よりも離れた第1範囲に前記移動体がある場合には、前記角度と前記追尾誤差検出値とを使用して、前記移動体を追尾するように前記第1回転手段および前記第2回転手段を駆動する第1角速度指令値を計算し、
    天頂から一定の距離以内の第2範囲に前記移動体がある場合には、前記角度と前記追尾誤差検出値とを使用して、前記移動体の移動方向を推定し、
    前記角度と前記追尾誤差検出値と前記移動方向とを使用して、天頂特異点を回避しながら前記移動体を追尾するように前記第1回転手段および前記第2回転手段を駆動する第2角速度指令値を計算し、
    前記第1範囲に前記移動体がある場合には前記第1角速度指令値と前記角速度との差がなくなるように、前記移動体が前記第2範囲にある場合には前記第2角速度指令値と前記角速度との差がなくなるように、前記第1回転手段および前記第2回転手段を駆動制御することを特徴とする移動体画像追尾方法。
JP2009076700A 2009-03-26 2009-03-26 移動体画像追尾装置および方法 Active JP4810582B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2009076700A JP4810582B2 (ja) 2009-03-26 2009-03-26 移動体画像追尾装置および方法
US12/550,648 US8098893B2 (en) 2009-03-26 2009-08-31 Moving object image tracking apparatus and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009076700A JP4810582B2 (ja) 2009-03-26 2009-03-26 移動体画像追尾装置および方法

Publications (2)

Publication Number Publication Date
JP2010231371A JP2010231371A (ja) 2010-10-14
JP4810582B2 true JP4810582B2 (ja) 2011-11-09

Family

ID=42784298

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009076700A Active JP4810582B2 (ja) 2009-03-26 2009-03-26 移動体画像追尾装置および方法

Country Status (2)

Country Link
US (1) US8098893B2 (ja)
JP (1) JP4810582B2 (ja)

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR2929416B1 (fr) * 2008-03-27 2010-11-05 Univ Paris 13 Procede de determination d'une representation tridimensionnelle d'un objet a partir d'une sequence d'images en coupe, produit programme d'ordinateur, procede d 'analyse d'un objet et systeme d'imagerie correspondants
JP5197647B2 (ja) * 2010-02-16 2013-05-15 株式会社東芝 移動体画像追尾装置
US9615064B2 (en) * 2010-12-30 2017-04-04 Pelco, Inc. Tracking moving objects using a camera network
JP5836628B2 (ja) * 2011-04-19 2015-12-24 キヤノン株式会社 制御系の評価装置および評価方法、並びに、プログラム
JP5665677B2 (ja) 2011-07-12 2015-02-04 株式会社東芝 追尾装置
JP5766641B2 (ja) 2012-03-22 2015-08-19 株式会社東芝 追尾装置
US9008359B2 (en) * 2012-06-28 2015-04-14 International Business Machines Corporation Detection of static object on thoroughfare crossings
RU2605158C2 (ru) 2012-09-20 2016-12-20 Нек Корпорейшн Вспомогательное устройство для настройки ориентации антенны и способ установки антенного устройства
JP6065970B2 (ja) * 2013-03-07 2017-01-25 日本電気株式会社 空間安定装置及び空間安定化方法
EP2975692B1 (en) * 2013-03-14 2019-01-09 Nec Corporation Antenna device and antenna device control method
EP3115079B1 (en) 2013-07-11 2019-03-20 Oticon Medical A/S Signal processor for a hearing device
KR101478172B1 (ko) * 2014-07-09 2014-12-31 주식회사 다올넷 위치 정보를 활용한 푸드트럭 및 이용자 분포 검색 시스템
DK3465085T3 (da) * 2016-06-06 2022-03-07 Sz Dji Osmo Technology Co Ltd Bærerstøttet sporing
CN107065560A (zh) * 2017-05-15 2017-08-18 北京环境特性研究所 一种两轴奇异路径光电跟踪控制方法
JP7085954B2 (ja) * 2018-09-25 2022-06-17 三菱電機株式会社 アンテナ駆動装置、アンテナ駆動方法、およびアンテナ駆動プログラム
KR102195419B1 (ko) * 2019-09-18 2020-12-28 (주)인텔리안테크놀로지스 통신 시스템

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6022803A (ja) * 1983-07-19 1985-02-05 Nec Corp 衛星追尾空中線制御装置
JPH04207361A (ja) * 1990-11-30 1992-07-29 Fujitsu Ltd 画像追尾装置
JPH05259722A (ja) 1992-03-10 1993-10-08 Tokimec Inc アンテナ指向装置
JP4672175B2 (ja) * 2000-05-26 2011-04-20 本田技研工業株式会社 位置検出装置、位置検出方法、及び位置検出プログラム
JP2003099127A (ja) * 2001-09-21 2003-04-04 Toshiba Corp 光波追尾装置及び光波追尾方法
JP3886842B2 (ja) * 2002-04-25 2007-02-28 三菱電機株式会社 ロボットの制御装置
JP4007899B2 (ja) * 2002-11-07 2007-11-14 オリンパス株式会社 運動検出装置
JP2006106910A (ja) 2004-09-30 2006-04-20 Toshiba Corp ジンバル装置
US7965868B2 (en) * 2006-07-20 2011-06-21 Lawrence Livermore National Security, Llc System and method for bullet tracking and shooter localization
JP2008200763A (ja) * 2007-02-16 2008-09-04 Hitachi Ltd 作業用マニピュレータの制御装置
DE602007004841D1 (de) * 2007-07-08 2010-04-01 Univ Liege Extraktor für visuellen Hintergrund
JP2009115621A (ja) 2007-11-06 2009-05-28 Toshiba Corp 移動体画像追尾装置
JP5016464B2 (ja) 2007-12-07 2012-09-05 古野電気株式会社 2軸ジンバル構造を有するアンテナの指向誤差を低減する制御方法およびその方法を備えた制御装置
JP4982407B2 (ja) 2008-02-22 2012-07-25 株式会社東芝 移動体画像追尾装置及び方法

Also Published As

Publication number Publication date
JP2010231371A (ja) 2010-10-14
US20100246886A1 (en) 2010-09-30
US8098893B2 (en) 2012-01-17

Similar Documents

Publication Publication Date Title
JP4810582B2 (ja) 移動体画像追尾装置および方法
JP4982407B2 (ja) 移動体画像追尾装置及び方法
JP5010634B2 (ja) 移動体画像追尾装置
JP5459678B2 (ja) 移動体画像追尾装置
CN106774301B (zh) 一种避障跟随方法和电子设备
US20180210442A1 (en) Systems and methods for controlling a vehicle using a mobile device
US8243142B2 (en) Mobile object image tracking apparatus and method
CN108733066B (zh) 一种基于吊舱姿态反馈的目标跟踪控制方法
JP5766641B2 (ja) 追尾装置
JP2009260564A (ja) 移動体画像追尾装置
JP2006106910A (ja) ジンバル装置
CN108427429B (zh) 一种考虑动态指向约束的航天器视轴机动控制方法
WO2021049147A1 (ja) 情報処理装置、情報処理方法、情報処理プログラム及び制御装置
Kim et al. Single 2D lidar based follow-me of mobile robot on hilly terrains
JP5197647B2 (ja) 移動体画像追尾装置
JP2014175774A (ja) 追尾装置
Park et al. A novel line of sight control system for a robot vision tracking system, using vision feedback and motion-disturbance feedforward compensation
JP2008217129A (ja) 追従装置
WO2019220740A1 (ja) 自律移動装置及び自律移動システム
Kim et al. Targeted driving using visual tracking on Mars: From research to flight
Yang et al. Inertial-aided vision-based localization and mapping in a riverine environment with reflection measurements
Bulgakov et al. Dispersed cyber-physical coordination and path planning using unmanned aerial vehicle
US20190306414A1 (en) Moving Object Imaging System and Moving Object Imaging Method
Zhong et al. Novel approach for mobile robot localization using monocular vision
CN108983799A (zh) 一种满足快速绕飞要求的航天器绕飞观测方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110323

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110721

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110726

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110822

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140826

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4810582

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151