JP2009173263A - 無人航空機(uav)によって移動目標物を自律的に追跡するための方法及びシステム - Google Patents
無人航空機(uav)によって移動目標物を自律的に追跡するための方法及びシステム Download PDFInfo
- Publication number
- JP2009173263A JP2009173263A JP2008296595A JP2008296595A JP2009173263A JP 2009173263 A JP2009173263 A JP 2009173263A JP 2008296595 A JP2008296595 A JP 2008296595A JP 2008296595 A JP2008296595 A JP 2008296595A JP 2009173263 A JP2009173263 A JP 2009173263A
- Authority
- JP
- Japan
- Prior art keywords
- target
- uav
- sensor
- tracking
- footprint
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 238000000034 method Methods 0.000 title abstract description 6
- 238000004891 communication Methods 0.000 claims description 7
- 238000012545 processing Methods 0.000 claims description 6
- 238000013500 data storage Methods 0.000 claims description 5
- 230000000007 visual effect Effects 0.000 abstract 1
- 238000012544 monitoring process Methods 0.000 description 12
- 238000010586 diagram Methods 0.000 description 9
- 230000006870 function Effects 0.000 description 6
- 230000007246 mechanism Effects 0.000 description 3
- 230000007123 defense Effects 0.000 description 2
- 230000015572 biosynthetic process Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000000630 rising effect Effects 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 230000007306 turnover Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/0094—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots involving pointing a payload, e.g. camera, weapon, sensor, towards a fixed or moving target
Landscapes
- Engineering & Computer Science (AREA)
- Aviation & Aerospace Engineering (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Automation & Control Theory (AREA)
- Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
Abstract
【課題】具体的な目標物動きパターンに関係なく、目標物が無人航空機(UAV)のセンサ視野内にとどまるように、移動中の目標物を自律的に追跡するためのシステム及び方法を提供する。
【解決手段】目標物116の位置についての情報、UAV112のプラットフォームタイプ及び状態、センサペイロード能力、それぞれが所望のプラットフォーム位置(航路定点の形をとる)を生成する1組のサブアルゴリズムから選択を行うための目標物対UAV速度比、並びに/又は目標物を視野内に入れておくためのセンサ方位コマンドを用いる。
【選択図】図1
【解決手段】目標物116の位置についての情報、UAV112のプラットフォームタイプ及び状態、センサペイロード能力、それぞれが所望のプラットフォーム位置(航路定点の形をとる)を生成する1組のサブアルゴリズムから選択を行うための目標物対UAV速度比、並びに/又は目標物を視野内に入れておくためのセンサ方位コマンドを用いる。
【選択図】図1
Description
本発明は、無人航空機(UAV)によって移動目標物を自律的に追跡するための方法及びシステムに関する。
政府実施許諾権
国防総省国防高等研究事業局との契約第FA8650−04−C−7142号の条件によって規定されるように、米国政府は本発明において一定の権利を有する。
政府実施許諾権
国防総省国防高等研究事業局との契約第FA8650−04−C−7142号の条件によって規定されるように、米国政府は本発明において一定の権利を有する。
無人航空機(UAV)は、カメラ、センサ、通信装置又は他のペイロードを搭載することができる、遠隔操縦されるか、又は自動操縦される航空機である。UAVは、何年にもわたって、偵察及び情報収集の役割を果たすために用いられてきた。近年になって、UAVは、監視及び目標物追跡のために開発されている。
軍事又は民間のどちらの環境においても、UAVによって実行される自律的な監視及び目標物追跡は、情報収集の重要な側面となっている。典型的には、目標物が航空機(たとえば、1つのUAV)から追跡されているとき、人間オペレータは、航空機からストリームされる画像を注意深く監視して、目標物の挙動を評価すると共に目標物が常に確実に視野に入るようにしなければならない。
本発明は、具体的な目標物の動きパターンに関係なく、目標物がUAVのセンサ視野内にとどまるように、種々の機体及びセンサペイロード能力を有するUAVから、移動中の目標物を自律的に追跡するためのシステム及び方法を提供する。
本発明は、目標物の位置についての情報、UAVのプラットフォームタイプ及び状態、センサペイロード能力、それぞれが所望のプラットフォーム位置(航路定点(ウェイポイント、waypoint)の形をとる)を生成する1組のサブアルゴリズムから選択を行うための目標物対UAV速度比、並びに/又は目標物を視野内に入れておくためのセンサ方位コマンドを用いる。
図面を参照して、以下の説明から、当業者には本発明の特徴が明らかになるであろう。図面は本発明の典型的な実施形態のみを示しており、それゆえ、範囲を限定するものと見なされるべきでないことを了解した上で、添付の図面を使用することによって、本発明がさらに具体的且つ詳細に説明される。
以下の詳細な説明では、当業者が本発明を実施することができるようにするほど十分に詳しく実施形態が説明される。本発明の範囲から逸脱することなく、他の実施形態を利用することができることは理解されたい。それゆえ、以下の詳細な説明は、限定する意味に解釈されるべきではない。
図1は、UAVから目標物を自動的に追跡するためのシステム100を示す簡略化された図である。図1に示されるように、システムは、(1)少なくとも1つのセンサ114を備えるUAV112と、(2)目標物116と、(3)リモートオペレータ118とを含む。図1においてリモートオペレータ118が示されるが、リモートオペレータ118は、UAV112及び目標物116から何マイルも離れていることがあることは理解されたい。
UAV112は、ホバリング可能な航空機、又は固定翼航空機のいずれかとすることができる。センサ114は、カメラ又はレーダのような、目標物を撮像することができる任意のデバイスとすることができる。目標物116は、UAV112によって監視される任意のものとすることができる。たとえば、目標物116は、地上車両、飛行体、又は人等である。目標物を捕捉するために、UAV112は典型的には、センサ114からリモートオペレータ118に画像を送信する。その際、リモートオペレータ118は、画像内の1つのエリアを目標物と定義し、その目標物をUAV112に送信する。
リモートオペレータ118は、UAV112と通信することができる任意のデバイスとすることができる。さらに、リモートオペレータ118は、UAV112を遠隔制御するように構成することができる。リモートオペレータ118は、たとえば、デスクトップコンピュータ、ラップトップ、携帯情報端末(「PDA」)のようなデバイスとすることができる。
本発明の態様は、UAV112及び/またリモートオペレータ118(又はUAV112を制御することができる任意の他の実体)によって実行されることがある。図2は、本発明の種々の態様を実行するために、UAV112及び/又はリモートオペレータ118内に含むことができる機能構成要素を示す。図2に示されるように、それらの構成要素は、通信インターフェース200と、処理回路202と、データ記憶装置206とを含み、全てシステムバス、ネットワーク又は他の機構210によって互いに結合することができる。
通信インターフェース200は、エアーインターフェースを介して通信し、それによってUAV112とリモートオペレータ118との間の通信を容易にする機構を含む。さらに、通信インターフェース200は、エアーインターフェース通信を容易にする1つ又は複数のアンテナを含むことがある。
処理ユニット202は、1つ若しくは複数の汎用プロセッサ(たとえば、INTELマイクロプロセッサ)及び/又は1つ若しくは複数の専用プロセッサ(たとえば、デジタルシグナルプロセッサ)を含む。さらに、データ記憶装置204は、たとえば、メモリ及び/又はディスクドライブ記憶装置のような1つ若しくは複数の揮発性及び/又は不揮発性の記憶機構を含み、それは全体的に、また部分的に処理ユニット202と統合することができる。
図に示されるように、データ記憶装置204は、プログラムロジック206と基準データ208とを含む。プログラムロジック206は、1つ又は複数の論理モジュール(アプリケーション)を含み、(1)センサ114のフットプリントの座標を特定すること、(2)目標物が、センサの視野から出るまでの時間が迫っているか否かを判定すること、及び(3)UAV112を、目標物116をセンサ114の視野内に入れておく追跡モードにおいて飛行させることのような、本明細書で記載される種々の機能を実行するために、処理ユニット204によって実行可能な機械語命令を含むことが好ましい。さらに、基準データ208は、センサ114によって収集される画像形成データのようなデータを含むことができる。
図3は、目標物116を自律的に追跡するために用いられるセンサフットプリント内の種々の座標を特定することを示す流れ図である。詳細には、図3は、(1)センサ114のフットプリントの座標を特定すること、(2)目標物が、センサの視野から出るまでの時間が迫っているか否かを判定すること、及び、(3)UAV112を、目標物116をセンサ114の視野内に入れておく追跡モードにおいて飛行させることを示す。
図3に示されるように、ステップ302では、UAV112はセンサ114のフットプリント(すなわち、視認窓)の頂点及び中心の座標を特定する。センサフットプリントの例が図4に示される。図4に示されるように、UAV112は前方監視センサ及び側方監視センサを備える。前方監視センサフットプリント402は、頂点{a,b,c,d}を含む。フットプリント402の中心は、{i}として特定される。側方監視センサフットプリント404は、頂点{e,f,g,h}を含む。側方監視センサフットプリントの中心は{j}として特定される。
図8は、正規化されている(すなわち、長方形として表示されている)前方監視センサフットプリントを示す。図8に示されるように、そのフットプリントは、頂点{a,b,c,d}と、中心{i}と、中間点{adc,abc,bcc,dcc}と、角度{αv/2,αh/2}とを含む。ここで、αh及びαvは、センサ114のための視野角の水平視野及び垂直視野である。
図3に戻ると、以下のデータを用いて、センサフットプリントの頂点及び中心の座標を計算することができる。
[αh,αv]、センサ114のための水平視野及び垂直視野;
[θ,φ,ψ]、UAV112の姿勢角、ここで、θは縦揺れ(pitch)であり、φは横揺れ(roll)であり、ψは偏揺れ(yaw)である。この例では、上昇するのは正の縦揺れを必要とし、右翼を下げるのは正の横揺れであり、UAVの上から時計回りは正の偏揺れである;
[θc,φc,ψc]、センサ114の姿勢角、ここで、θは縦揺れであり、φは横揺れであり、ψは偏揺れである。この例では、縦揺れは、垂直下方向から測定して0度と90度との間で測定される。カメラ下方監視角は(1−θc)であり、横揺れ角は右に正であり、偏揺れ角は時計回りにおいて正である。結果として、前方監視センサ114はψc=0を有し、一方、左方監視カメラは、ψc=−90度を有する;
[N,E,h]、UAV112の位置座標、ここで、或る基準点からN=北、E=東及びh=高さである(UTM北距(northings)、東距(eastings)、高度等)。
[αh,αv]、センサ114のための水平視野及び垂直視野;
[θ,φ,ψ]、UAV112の姿勢角、ここで、θは縦揺れ(pitch)であり、φは横揺れ(roll)であり、ψは偏揺れ(yaw)である。この例では、上昇するのは正の縦揺れを必要とし、右翼を下げるのは正の横揺れであり、UAVの上から時計回りは正の偏揺れである;
[θc,φc,ψc]、センサ114の姿勢角、ここで、θは縦揺れであり、φは横揺れであり、ψは偏揺れである。この例では、縦揺れは、垂直下方向から測定して0度と90度との間で測定される。カメラ下方監視角は(1−θc)であり、横揺れ角は右に正であり、偏揺れ角は時計回りにおいて正である。結果として、前方監視センサ114はψc=0を有し、一方、左方監視カメラは、ψc=−90度を有する;
[N,E,h]、UAV112の位置座標、ここで、或る基準点からN=北、E=東及びh=高さである(UTM北距(northings)、東距(eastings)、高度等)。
フットプリントの頂点及び中心のローカル座標は以下のように特定される。
ステップ304では、センサフットプリントの各辺の中間点のローカル座標が以下のように特定される。
ステップ306では、フレームに外接する楕円の半径が以下のように特定される。
ただし、rhは水平方向における半径であり、rvは垂直方向における半径である。これらの2つの半径のうちの小さい方が、楕円の短半径の長さに相当する。
ステップ308では、その座標に、縦揺れ−横揺れ−偏揺れの回転行列[R]及び[Rc]を乗算することによって、各ローカル座標が、グローバル慣性座標に変換される。ここで、
ステップ308では、その座標に、縦揺れ−横揺れ−偏揺れの回転行列[R]及び[Rc]を乗算することによって、各ローカル座標が、グローバル慣性座標に変換される。ここで、
である。
したがって、以下の式が成り立つ。
したがって、以下の式が成り立つ。
回転行列は当該技術分野において既知であり、ここで詳細には説明されない。
ステップ310では、UAV112が地面の上方を飛行している高さ(h)(目標物116が地上目標物である場合)、又はUAV112が目標物116の飛行している高さ(h)(目標物116は必ずしも地上にはない)だけ慣性座標をスケーリングすることによって、センサフットプリントのスケーリングされた座標が計算される。フットプリントは、以下のように計算される。
ステップ310では、UAV112が地面の上方を飛行している高さ(h)(目標物116が地上目標物である場合)、又はUAV112が目標物116の飛行している高さ(h)(目標物116は必ずしも地上にはない)だけ慣性座標をスケーリングすることによって、センサフットプリントのスケーリングされた座標が計算される。フットプリントは、以下のように計算される。
同様に、短半径の長さは、UAV112が目標物116の上方にある高さを考慮に入れるようにスケーリングすることができる。
センサ114のフットプリントの種々の座標を計算した後に、ステップ310において、目標物の(1)地上における、カメラフットプリントの中心に対する位置(rtarget)と、(2)カメラフットプリントの中心から、目標物に最も近いフットプリントの辺(たとえば、[ABcgBCcgDCcgADcg])までの距離(rside)と、(3)フレームの中心から目標物までの距離(rt)とを用いて、目標物116がセンサ114の視野から出るまでの時間が如何に迫っているかが判定される。これらの位置が図5に示されており、図5は、目標物116がセンサ114の視野から出るまでの時間が如何に迫っているかを判定するために必要とされる変数を示す、フットプリントの図である。図5に示されるように、そのフレームは、中心点、目標物、rtarget、rt、rside、及びフレームの移動方向を含む。
目標物が当該目標物の視野から出るまでの時間が如何に迫っているかを判定するために、rtarget及びrsideの値が最初に計算される。以下の式を用いることによって、rtargetが計算される。
式中、
は目標物からフットプリントの中心までの線に沿った単位ベクトルであり、
は最も近い辺の中間点から中心までの線に沿った単位ベクトルである。すなわち、
はrtに沿った単位ベクトルであり、一方、
はrsideに沿った単位ベクトルである。
rsideは、以下の式を用いて計算される。
rsideは、以下の式を用いて計算される。
式中、rABcg−rADcgは、フレームの中心からフレームの辺までの距離である。
経時的にこれらの値を計算することによって、UAV112(又はリモートオペレータ118)は、目標物118がセンサ114の視野を出ることになるか否か、及びその時刻を判定することができる。
経時的にこれらの値を計算することによって、UAV112(又はリモートオペレータ118)は、目標物118がセンサ114の視野を出ることになるか否か、及びその時刻を判定することができる。
ステップ312では、目標物116の場所及び速さを用いて、目標物116が、UAV112が飛行することができる速さに対して如何に速く動いているかに応じて、UAV112を種々の追跡モードにおいて飛行させる。これらのモードは、適当な高度及びスタンドオフ距離の全てにおいて、(1)目標物に真直ぐ追従すること(SFO)、(2)目標物を中心にした軌道を飛行すること(ORB)、又は(3)S字(すなわち、正弦曲線)を描くこと(SIN)を含む。これによって、UAV112は、目標物116をセンサ114のセンサフットプリント内に保持することができるようになる。UAV112は、航路定点コマンドを受信し、航路定点まで飛行することによって、これらのモードにおいて飛行する。
UAVがいずれの追跡モードを使用すべきであるか判定するために、目標物114の速さ(vt)に対するUAV112の速さ(vp)の比(σ)が特定される。
σが約1である場合には、UAV112及び目標物114が同じような速さで進行しており、UAV112はSFO追跡を用いるべきである。σが1より大きい(すなわち、目標物114よりも速く進行している)場合には、UAV112は目標物114の速さに一致するように速度を落とし、SFO追跡を保持することができる。しかしながら、UAV112が、そのように遅い速さにおいて進行することができない場合には(失速してしまうことによる)、UAV112は、SIN追跡又はORB追跡のいずれかを用いるべきである。結果として、UAV112はSIN追跡を用いるべきである。UAV112が、SIN追跡を用いて、そのセンサフットプリント内に目標物を保持することができない(すなわち、必要とされる振幅が大きすぎる)場合には、UAV112はORB追跡を用いるべきである。異なる航空機は異なる特性を有するため(ホバークラフト対固定翼航空機のように)、UAV112が異なるモードに入ることをトリガするσの値は航空機特有である。UAV112は、σの値に応じて、追跡モードを自動的に切り替えることができるか、又はσの値に応じて、リモートオペレータ118によって異なる追跡モードに入るように指示することができる。
SFO追跡
UAV112がSFO追跡モードにおいて飛行している場合には、航路定点(WPTSFO)は以下のように計算することができる。
SFO追跡
UAV112がSFO追跡モードにおいて飛行している場合には、航路定点(WPTSFO)は以下のように計算することができる。
式中、tgtPosnは、慣性系における目標物の位置であり、Ig(先に計算された)は、航空機と、フットプリントの中心との間のオフセットである。
SIN追跡
図6は、SIN追跡のための航路定点を計算するために用いられる変数を示す図である。図6に示されるように、UAV112は、一定の対気速度vpで進行しており、目標物116を追跡している。目標物116は、真直ぐな線に沿って、速さvtで動いている。さらに、位置合わせされた一対の座標系も示される。一方の座標系(x1,y1)は目標物に固定され、他方の座標系(x2,y2)は、正弦曲線の始点に固定される。UAV112が目標物の追跡を保持するためには、UAV112が1つの周期(T)内に進行する距離(D)が、同じ方向において目標物が進行する距離に等しい。
SIN追跡
図6は、SIN追跡のための航路定点を計算するために用いられる変数を示す図である。図6に示されるように、UAV112は、一定の対気速度vpで進行しており、目標物116を追跡している。目標物116は、真直ぐな線に沿って、速さvtで動いている。さらに、位置合わせされた一対の座標系も示される。一方の座標系(x1,y1)は目標物に固定され、他方の座標系(x2,y2)は、正弦曲線の始点に固定される。UAV112が目標物の追跡を保持するためには、UAV112が1つの周期(T)内に進行する距離(D)が、同じ方向において目標物が進行する距離に等しい。
その周期は、所望により選択されることがある自由パラメータである。しかしながら、振幅(A)の大きさが低減され、それによって、UAV112が目標物116を追跡するのが容易になるため、周期が長い方が望ましい。振幅は、フットプリント変位の方向、及び目標物から、フットプリントの最も近い辺の中間点までの距離を考慮することによって求められる。
式中、rside及びrtargetは上記で計算されており、ktrは、そのアルゴリズムの感度を調整するために用いられるパラメータである。ktrは、0よりも大きく、且つ1以下であり、目標物から、フットプリントの最も近い辺までの距離に基づく乗法因子である。他の値が用いられることもあるが、一般的には、以下のとおりである。
(xp,yp)はx2,y2座標系におけるUAV112の所望の位置であり、
である。式中、
である。
SIN追跡モードにおいて動作しているときのUAV112のための航路定点(WPTSIN)は以下のように計算される。
SIN追跡モードにおいて動作しているときのUAV112のための航路定点(WPTSIN)は以下のように計算される。
式中、(Ψtgt)は目標物の機首方位であり、
はxp及びypを変換して慣性系に戻す回転行列である。
ORB追跡
ORB追跡によって、UAV112は、目標物116上を旋回することができるようになる。旋回飛行追跡航路定点(WPTORB)は、N、E、h(北、東、高さ)において与えられ、慣性座標Nc及びEcを有するUAVの場合に、以下のように計算される。
ORB追跡
ORB追跡によって、UAV112は、目標物116上を旋回することができるようになる。旋回飛行追跡航路定点(WPTORB)は、N、E、h(北、東、高さ)において与えられ、慣性座標Nc及びEcを有するUAVの場合に、以下のように計算される。
式中、(Nt,Et)は目標物116の位置であり、以下の式が成り立ち、
βは、生成したい航路定点の数、及び目標物に対して存在すべき航路定点の場所に依存する角度である。たとえば、UAV112が12個の航路定点を訪れる場合には、β=π/6である。
WPTORBの第1行は必ずしも、UAV112が訪れる第1の航路定点ではないことは理解されたい。代わりに、UAV112が航路定点を訪れる順序を決定する費用関数が用いられることもある。その費用関数は、全ての航路定点への距離と、UAV112が各航路定点に達するために必要とされる機首方位の変化とを用いる。
さらに、速さの比が小さくても(目標物の速さが上がっても)許容することができる追跡性能を達成するために、目標物の動作フレームに対する軌道航路定点の位置を調整することができる。これは、結果として、UAV112の軌道を目標物116の前方に「延ばし」、UAV112が遅れを取る量を低減することができる。
図7は、目標物116が動いているときに、ロイタリング軌道を調整するためのパラメータを示す図である。図6に示されるように、7つのパラメータは、半径r1〜r4、直径d1及びd2、目標物の動きとd1との間の角度である角度θを含む。軌道の形状は、円形軌道を4つの弧(四分円)に分離することによって調整される。各弧は、その接続点において制約される、楕円部分によって示される。これは、楕円部分の4つの「半軸」の長さを指定することによって達成される。その際、円形部分は、楕円部分の特殊な場合であり、その場合、全ての半軸の長さが等しい。さらに、楕円部分の主軸を回転させることができ、軌道の中心を目標物位置から変位させることができる。これらの7つのパラメータは、解析的に計算することができるか、又は数値最適化技法を用いて選択され、速度比の関数としてルックアップテーブルに格納することができる。一般化するために、区分的楕円軌道も正規化される。すなわち、その軌道は単位円軌道に対して定義され、適用中に、円形軌道の実際の半径を用いて、区分的楕円軌道がスケーリングされる。
区分的楕円軌道パラメータが選択されると、変更後の航路定点を以下のように計算することができる。
式中、tgtPosnは慣性系における目標物116の位置であり、tgtVelは慣性系における目標物116の速度であり、rnormは名目的な(円形)軌道の半径であり、さらに以下の式が成り立つ。
スケールファクタαは、楕円の式を用いて計算される。楕円の主軸は以下のように定義される。
軸の長さは以下のように定義される。
楕円の式は以下のとおりである。
αは、
が楕円上に存在するようなスカラー乗数である。αは、
を式xTM=1に代入することによって計算することができる。したがって、以下の式が成り立つ。
高さ調整
UAV112がSFO追跡モードを用いるか、SIN追跡モードを用いるか、ORB追跡モードを用いるかに関係なく、UAV112の高さを調整して、目標物追跡を保持することができる。高さ調整は、勾配降下則を用いて、hに対して、以下の費用関数を最小限に抑えることによって果たすことができる。
UAV112がSFO追跡モードを用いるか、SIN追跡モードを用いるか、ORB追跡モードを用いるかに関係なく、UAV112の高さを調整して、目標物追跡を保持することができる。高さ調整は、勾配降下則を用いて、hに対して、以下の費用関数を最小限に抑えることによって果たすことができる。
上記で言及されたように、以下の式が成り立つ。
その際、以下の式が成り立つ。
式中、γは勾配方式の利得である。
本発明は、その不可欠な特徴から逸脱することなく、他の具体的な形で実施することができる。記述される実施形態は、全ての点において、例示にすぎず、限定するものと見なされるべきではない。それゆえ、本発明の範囲は、これまでの説明によってではなく、むしろ添付の特許請求の範囲によって指示される。特許請求の範囲の均等物の意味及び範囲内に入る全ての変更が、特許請求の範囲に包含される。
本発明は、その不可欠な特徴から逸脱することなく、他の具体的な形で実施することができる。記述される実施形態は、全ての点において、例示にすぎず、限定するものと見なされるべきではない。それゆえ、本発明の範囲は、これまでの説明によってではなく、むしろ添付の特許請求の範囲によって指示される。特許請求の範囲の均等物の意味及び範囲内に入る全ての変更が、特許請求の範囲に包含される。
Claims (3)
- 通信インターフェース(200)と、
処理ユニット(202)と、
データ記憶装置(204)と、
前記データ記憶装置に格納され、前記処理ユニットによって実行可能であるプログラムロジック(206)であって、該プログラムロジックは、(i)目標物(116)を追跡するセンサ(114)のフットプリントの少なくとも1つの座標を特定するステップ(304)であって、該センサは、無人航空機(112)に備え付けられている、特定するステップ、(ii)前記目標物が前記センサの視野から出ることになるか否かを判定するステップ(310)、及び(iii)前記無人航空機を、前記目標物を前記センサの前記視野内に入れておく追跡モードにおいて飛行させるステップ(312)を行う、プログラムロジックとを備える、システム。 - 前記プログラムロジックは、少なくとも、前記無人航空機の速度及び前記目標物の速度に基づいて、前記追跡モードを決定するように構成される、請求項1に記載のシステム。
- 前記追跡モードは、少なくとも1つの航路定点まで飛行することを含む、請求項1に記載のシステム。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US12/018,669 US7970507B2 (en) | 2008-01-23 | 2008-01-23 | Method and system for autonomous tracking of a mobile target by an unmanned aerial vehicle |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2009173263A true JP2009173263A (ja) | 2009-08-06 |
Family
ID=40156988
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008296595A Withdrawn JP2009173263A (ja) | 2008-01-23 | 2008-11-20 | 無人航空機(uav)によって移動目標物を自律的に追跡するための方法及びシステム |
Country Status (3)
Country | Link |
---|---|
US (1) | US7970507B2 (ja) |
EP (1) | EP2083341A2 (ja) |
JP (1) | JP2009173263A (ja) |
Cited By (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013156004A (ja) * | 2011-11-28 | 2013-08-15 | Eads Deutschland Gmbh | 動く対象物体を追跡するための方法および装置 |
JP2016068764A (ja) * | 2014-09-30 | 2016-05-09 | 富士重工業株式会社 | 航空機の飛行制御方法及び航空機の飛行制御システム |
KR20160087388A (ko) * | 2013-10-31 | 2016-07-21 | 에어로바이론먼트, 인크. | 타겟영역의 원격 감지 영상을 디스플레이하는 대화형 무기 조준 시스템 |
KR101650136B1 (ko) * | 2016-02-05 | 2016-08-25 | 김석준 | 원위치 자동복귀·컬러트래킹 자동추적을 갖는 스마트 드론 장치 |
JP2017503226A (ja) * | 2014-07-30 | 2017-01-26 | エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd | 目標追跡システム、デバイスおよび方法 |
JP2017068298A (ja) * | 2015-09-28 | 2017-04-06 | 株式会社日立システムズ | 自律飛行移動体、ターゲット追跡方法 |
JP2017072986A (ja) * | 2015-10-07 | 2017-04-13 | パナソニックIpマネジメント株式会社 | 自律飛行装置、自律飛行装置の制御方法及びプログラム |
JP2017138947A (ja) * | 2016-01-28 | 2017-08-10 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America | 飛行高度制御装置、無人飛行体、飛行高度制御方法及び飛行高度制御プログラム |
JP2017529549A (ja) * | 2015-07-10 | 2017-10-05 | エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd | 画像を取得するシステム及び無人航空機 |
JP2017537484A (ja) * | 2015-09-11 | 2017-12-14 | エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd | 可動物体を検出し、追跡するシステム及び方法 |
JP2018129063A (ja) * | 2018-03-14 | 2018-08-16 | エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd | 無人航空機を制御するための方法、無人航空機、及び無人航空機を制御するためのシステム |
JP2019084898A (ja) * | 2017-11-03 | 2019-06-06 | 株式会社エアロネクスト | 飛行体操縦システム及び飛行体操縦システムを用いて飛行体を操縦する方法 |
CN111596692A (zh) * | 2020-06-09 | 2020-08-28 | 北京航空航天大学 | 一种平流层飞艇的环绕跟踪移动目标控制方法及系统 |
JP2022068257A (ja) * | 2016-08-16 | 2022-05-09 | 本郷飛行機株式会社 | 情報処理システム |
Families Citing this family (60)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8423224B1 (en) * | 2007-05-01 | 2013-04-16 | Raytheon Company | Methods and apparatus for controlling deployment of systems |
US8521339B2 (en) * | 2008-09-09 | 2013-08-27 | Aeryon Labs Inc. | Method and system for directing unmanned vehicles |
US9494941B2 (en) * | 2009-06-26 | 2016-11-15 | Luminati Aerospace Llc | Method of guidance of unmanned aerial vehicles |
JP5504403B2 (ja) | 2010-07-02 | 2014-05-28 | サンデル アヴィオニックス,インコーポレイテッド | 航空機ホバリングシステム及び方法 |
JP5621589B2 (ja) * | 2010-12-28 | 2014-11-12 | アイシン・エィ・ダブリュ株式会社 | ナビゲーション装置、ナビゲーション方法、及びナビゲーションプログラム |
US9090214B2 (en) | 2011-01-05 | 2015-07-28 | Orbotix, Inc. | Magnetically coupled accessory for a self-propelled device |
US9150263B2 (en) | 2011-01-05 | 2015-10-06 | Sphero, Inc. | Self-propelled device implementing three-dimensional control |
US10281915B2 (en) | 2011-01-05 | 2019-05-07 | Sphero, Inc. | Multi-purposed self-propelled device |
US9218316B2 (en) | 2011-01-05 | 2015-12-22 | Sphero, Inc. | Remotely controlling a self-propelled device in a virtualized environment |
US9429940B2 (en) | 2011-01-05 | 2016-08-30 | Sphero, Inc. | Self propelled device with magnetic coupling |
EP2538298A1 (en) * | 2011-06-22 | 2012-12-26 | Sensefly Sàrl | Method for acquiring images from arbitrary perspectives with UAVs equipped with fixed imagers |
US9827487B2 (en) | 2012-05-14 | 2017-11-28 | Sphero, Inc. | Interactive augmented reality using a self-propelled device |
EP2850512A4 (en) | 2012-05-14 | 2016-11-16 | Sphero Inc | OPERATION OF A CALCULATION DEVICE BY DETECTING ROUNDED OBJECTS IN A PICTURE |
US10056791B2 (en) | 2012-07-13 | 2018-08-21 | Sphero, Inc. | Self-optimizing power transfer |
US8698896B2 (en) * | 2012-08-06 | 2014-04-15 | Cloudparc, Inc. | Controlling vehicle use of parking spaces and parking violations within the parking spaces using multiple cameras |
WO2014058337A1 (en) * | 2012-10-11 | 2014-04-17 | Siemens Aktiengesellschaft | An unmanned autonomous vehicle for inspection of fluid transportation means |
US9367067B2 (en) * | 2013-03-15 | 2016-06-14 | Ashley A Gilmore | Digital tethering for tracking with autonomous aerial robot |
EP2992485A1 (en) * | 2013-05-02 | 2016-03-09 | BAE SYSTEMS plc | Goal-based planning system |
WO2015082595A1 (en) | 2013-12-06 | 2015-06-11 | Bae Systems Plc | Imaging method and apparatus |
WO2015082597A1 (en) * | 2013-12-06 | 2015-06-11 | Bae Systems Plc | Payload delivery |
EP2881823A1 (en) * | 2013-12-06 | 2015-06-10 | BAE Systems PLC | Imaging method and apparatus |
WO2015082594A1 (en) * | 2013-12-06 | 2015-06-11 | Bae Systems Plc | Determining routes for aircraft |
US10203691B2 (en) | 2013-12-06 | 2019-02-12 | Bae Systems Plc | Imaging method and apparatus |
GB2522327A (en) * | 2013-12-06 | 2015-07-22 | Bae Systems Plc | Determining routes for aircraft |
US9829882B2 (en) | 2013-12-20 | 2017-11-28 | Sphero, Inc. | Self-propelled device with center of mass drive system |
US9875454B2 (en) * | 2014-05-20 | 2018-01-23 | Verizon Patent And Licensing Inc. | Accommodating mobile destinations for unmanned aerial vehicles |
US9798324B2 (en) | 2014-07-18 | 2017-10-24 | Helico Aerospace Industries Sia | Autonomous vehicle operation |
US9874878B2 (en) | 2014-07-22 | 2018-01-23 | Sikorsky Aircraft Corporation | System and method for adaptive multi-scale perception |
US9442485B1 (en) * | 2014-08-13 | 2016-09-13 | Trace Live Network Inc. | Pixel based image tracking system for unmanned aerial vehicle (UAV) action camera system |
US11140326B2 (en) | 2015-05-22 | 2021-10-05 | The United States Of America, As Represented By The Secretary Of The Navy | Aerial video based point, distance, and velocity real-time measurement system |
WO2016209225A1 (en) * | 2015-06-24 | 2016-12-29 | Hewlett Packard Enterprise Development Lp | Control aerial movement of drone based on line-of-sight of humans using devices |
CN106489062B (zh) * | 2015-06-26 | 2019-06-28 | 深圳市大疆创新科技有限公司 | 用于测量移动平台的位移的系统和方法 |
CN106170676B (zh) * | 2015-07-14 | 2018-10-09 | 深圳市大疆创新科技有限公司 | 用于确定移动平台的移动的方法、设备以及系统 |
EP3128386B1 (en) | 2015-08-04 | 2017-12-06 | The Boeing Company | Method and device for tracking a moving target from an air vehicle |
IL240374B (en) * | 2015-08-05 | 2021-03-25 | Israel Aerospace Ind Ltd | Sensor Oriented Navigation |
CN105184776B (zh) * | 2015-08-17 | 2018-09-28 | 中国测绘科学研究院 | 目标跟踪方法 |
US10042360B2 (en) | 2015-11-18 | 2018-08-07 | Aerovironment, Inc. | Unmanned aircraft turn and approach system |
CN108351653B (zh) * | 2015-12-09 | 2022-08-09 | 深圳市大疆创新科技有限公司 | 用于uav飞行控制的系统和方法 |
CN105759839B (zh) * | 2016-03-01 | 2018-02-16 | 深圳市大疆创新科技有限公司 | 无人机视觉跟踪方法、装置以及无人机 |
US10073454B2 (en) | 2016-03-17 | 2018-09-11 | Northrop Grumman Systems Corporation | Machine vision enabled swarm guidance technology |
CN109716256A (zh) * | 2016-08-06 | 2019-05-03 | 深圳市大疆创新科技有限公司 | 用于跟踪目标的系统和方法 |
US10037632B2 (en) | 2016-09-01 | 2018-07-31 | Ford Global Technologies, Llc | Surrogate vehicle sensors |
WO2018053862A1 (zh) * | 2016-09-26 | 2018-03-29 | 深圳市大疆创新科技有限公司 | 动力系统配置方法、装置、无人机、服务器及用户终端 |
WO2018058309A1 (zh) * | 2016-09-27 | 2018-04-05 | 深圳市大疆创新科技有限公司 | 控制方法、控制装置、电子装置及飞行器控制系统 |
FR3056921B1 (fr) * | 2016-10-05 | 2018-11-23 | Parrot Drones | Systeme autonome de prise de vues animees par un drone avec poursuite de cible et maintien de l'angle de prise de vue de la cible. |
EP3519906B1 (en) | 2016-11-02 | 2021-10-13 | SZ DJI Technology Co., Ltd. | Systems and methods for height control of a movable object |
KR102706191B1 (ko) * | 2016-11-30 | 2024-09-13 | 삼성전자주식회사 | 무인 비행 장치 및 무인 비행 장치의 비행 제어방법 |
CN110109482A (zh) * | 2019-06-14 | 2019-08-09 | 上海应用技术大学 | 基于ssd神经网络的目标跟踪系统 |
CN110611527B (zh) * | 2019-09-17 | 2021-01-15 | 北京邮电大学 | 一种阵列天线、波束成形方法及感知和通信一体化系统 |
CN113055555B (zh) * | 2019-12-27 | 2022-11-04 | 维沃移动通信有限公司 | 电子设备 |
WO2021168678A1 (zh) * | 2020-02-26 | 2021-09-02 | 深圳市大疆创新科技有限公司 | 路径规划的方法、跟踪设备、存储介质和计算机程序产品 |
US11415990B2 (en) | 2020-05-04 | 2022-08-16 | Honeywell International Inc. | Optical object tracking on focal plane with dynamic focal length |
US11571613B1 (en) * | 2020-08-13 | 2023-02-07 | Envelope Sports, LLC | Ground drone-based sports training aid |
US11504593B1 (en) * | 2020-08-13 | 2022-11-22 | Envelope Sports, LLC | Ground drone-based sports training aid |
CN111984036B (zh) * | 2020-08-28 | 2022-09-16 | 中国人民解放军国防科技大学 | 一种基于云台相机的固定翼无人机对快速运动目标的跟踪方法 |
CN112859919B (zh) * | 2021-01-19 | 2022-08-26 | 中国人民解放军陆军边海防学院 | 无人机群对运动目标的追踪方法 |
CN115661204B (zh) * | 2022-11-01 | 2023-11-10 | 中国人民解放军军事科学院国防科技创新研究院 | 一种无人机集群对运动目标的协同搜寻与跟踪定位方法 |
ES2976759A1 (es) * | 2022-12-22 | 2024-08-08 | Sist Aereos Especializados S L | Procedimiento de determinacion de la velocidad de un vehiculo a partir de un cinemometro y sistema que comprende al cinemometro |
CN116974208B (zh) * | 2023-09-22 | 2024-01-19 | 西北工业大学 | 基于捷联导引头的旋翼无人机目标打击控制方法及系统 |
CN118334085B (zh) * | 2024-06-14 | 2024-08-09 | 武汉雷神特种器材有限公司 | 一种基于改进型机器学习的无人机目标跟踪方法及系统 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6694228B2 (en) * | 2002-05-09 | 2004-02-17 | Sikorsky Aircraft Corporation | Control system for remotely operated vehicles for operational payload employment |
US6910657B2 (en) | 2003-05-30 | 2005-06-28 | Raytheon Company | System and method for locating a target and guiding a vehicle toward the target |
US7307579B2 (en) | 2004-11-03 | 2007-12-11 | Flight Safety Technologies, Inc. | Collision alerting and avoidance system |
US7437225B1 (en) * | 2005-07-29 | 2008-10-14 | Rockwell Collins, Inc. | Flight management system |
WO2007047953A2 (en) | 2005-10-20 | 2007-04-26 | Prioria, Inc. | System and method for onboard vision processing |
US7765062B2 (en) | 2006-04-25 | 2010-07-27 | Honeywell International Inc. | Method and system for autonomous tracking of a mobile target by an unmanned aerial vehicle |
US8581981B2 (en) * | 2006-04-28 | 2013-11-12 | Southwest Research Institute | Optical imaging system for unmanned aerial vehicle |
US7999849B2 (en) | 2006-05-17 | 2011-08-16 | The Boeing Company | Moving object detection |
-
2008
- 2008-01-23 US US12/018,669 patent/US7970507B2/en active Active
- 2008-11-18 EP EP08169378A patent/EP2083341A2/en not_active Withdrawn
- 2008-11-20 JP JP2008296595A patent/JP2009173263A/ja not_active Withdrawn
Cited By (31)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013156004A (ja) * | 2011-11-28 | 2013-08-15 | Eads Deutschland Gmbh | 動く対象物体を追跡するための方法および装置 |
US11867479B2 (en) | 2013-10-31 | 2024-01-09 | Aerovironment, Inc. | Interactive weapon targeting system displaying remote sensed image of target area |
KR20160087388A (ko) * | 2013-10-31 | 2016-07-21 | 에어로바이론먼트, 인크. | 타겟영역의 원격 감지 영상을 디스플레이하는 대화형 무기 조준 시스템 |
US11118867B2 (en) | 2013-10-31 | 2021-09-14 | Aerovironment, Inc. | Interactive weapon targeting system displaying remote sensed image of target area |
US11592267B2 (en) | 2013-10-31 | 2023-02-28 | Aerovironment, Inc. | Interactive weapon targeting system displaying remote sensed image of target area |
KR102355046B1 (ko) * | 2013-10-31 | 2022-01-25 | 에어로바이론먼트, 인크. | 타겟영역의 원격 감지 영상을 디스플레이하는 대화형 무기 조준 시스템 |
JP2019163928A (ja) * | 2013-10-31 | 2019-09-26 | エアロバイロメント, インコーポレイテッドAerovironment, Inc. | 遠隔検知した標的地帯の画像を表示する双方向兵器照準システム |
US11194323B2 (en) | 2014-07-30 | 2021-12-07 | SZ DJI Technology Co., Ltd. | Systems and methods for target tracking |
JP2017503226A (ja) * | 2014-07-30 | 2017-01-26 | エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd | 目標追跡システム、デバイスおよび方法 |
US11106201B2 (en) | 2014-07-30 | 2021-08-31 | SZ DJI Technology Co., Ltd. | Systems and methods for target tracking |
US9846429B2 (en) | 2014-07-30 | 2017-12-19 | SZ DJI Technology Co., Ltd. | Systems and methods for target tracking |
JP2016068764A (ja) * | 2014-09-30 | 2016-05-09 | 富士重工業株式会社 | 航空機の飛行制御方法及び航空機の飛行制御システム |
US10687001B2 (en) | 2015-07-10 | 2020-06-16 | SZ DJI Technology Co., Ltd. | Dual lens system having a light splitter |
JP2017529549A (ja) * | 2015-07-10 | 2017-10-05 | エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd | 画像を取得するシステム及び無人航空機 |
US9967477B2 (en) | 2015-07-10 | 2018-05-08 | SZ DJI Technology Co., Ltd. | Dual lens system having a light splitter |
US10397493B2 (en) | 2015-07-10 | 2019-08-27 | SZ DJI Technology Co., Ltd. | Dual lens system having a light splitter |
US11039086B2 (en) | 2015-07-10 | 2021-06-15 | SZ DJI Technology Co., Ltd. | Dual lens system having a light splitter |
JP2017537484A (ja) * | 2015-09-11 | 2017-12-14 | エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd | 可動物体を検出し、追跡するシステム及び方法 |
US10650235B2 (en) | 2015-09-11 | 2020-05-12 | SZ DJI Technology Co., Ltd. | Systems and methods for detecting and tracking movable objects |
US10198634B2 (en) | 2015-09-11 | 2019-02-05 | SZ DJI Technology Co., Ltd. | Systems and methods for detecting and tracking movable objects |
JP2017068298A (ja) * | 2015-09-28 | 2017-04-06 | 株式会社日立システムズ | 自律飛行移動体、ターゲット追跡方法 |
JP2017072986A (ja) * | 2015-10-07 | 2017-04-13 | パナソニックIpマネジメント株式会社 | 自律飛行装置、自律飛行装置の制御方法及びプログラム |
JP2017138947A (ja) * | 2016-01-28 | 2017-08-10 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America | 飛行高度制御装置、無人飛行体、飛行高度制御方法及び飛行高度制御プログラム |
JP2020194590A (ja) * | 2016-01-28 | 2020-12-03 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America | 飛行高度制御装置、無人飛行体、飛行高度制御方法及び飛行高度制御プログラム |
KR101650136B1 (ko) * | 2016-02-05 | 2016-08-25 | 김석준 | 원위치 자동복귀·컬러트래킹 자동추적을 갖는 스마트 드론 장치 |
JP2022068257A (ja) * | 2016-08-16 | 2022-05-09 | 本郷飛行機株式会社 | 情報処理システム |
JP2019084898A (ja) * | 2017-11-03 | 2019-06-06 | 株式会社エアロネクスト | 飛行体操縦システム及び飛行体操縦システムを用いて飛行体を操縦する方法 |
JP7024997B2 (ja) | 2017-11-03 | 2022-02-24 | 株式会社エアロネクスト | 飛行体操縦システム及び飛行体操縦システムを用いて飛行体を操縦する方法 |
JP2018129063A (ja) * | 2018-03-14 | 2018-08-16 | エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd | 無人航空機を制御するための方法、無人航空機、及び無人航空機を制御するためのシステム |
CN111596692B (zh) * | 2020-06-09 | 2021-06-01 | 北京航空航天大学 | 一种平流层飞艇的环绕跟踪移动目标控制方法及系统 |
CN111596692A (zh) * | 2020-06-09 | 2020-08-28 | 北京航空航天大学 | 一种平流层飞艇的环绕跟踪移动目标控制方法及系统 |
Also Published As
Publication number | Publication date |
---|---|
US7970507B2 (en) | 2011-06-28 |
EP2083341A2 (en) | 2009-07-29 |
US20090187299A1 (en) | 2009-07-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2009173263A (ja) | 無人航空機(uav)によって移動目標物を自律的に追跡するための方法及びシステム | |
US20210072745A1 (en) | Systems and methods for uav flight control | |
US20210116944A1 (en) | Systems and methods for uav path planning and control | |
US10657832B2 (en) | Method and apparatus for target relative guidance | |
US10240930B2 (en) | Sensor fusion | |
JP6735821B2 (ja) | Uav経路を計画し制御するシステム及び方法 | |
Shen et al. | Vision-based state estimation for autonomous rotorcraft MAVs in complex environments | |
US20190172358A1 (en) | Methods and systems for obstacle identification and avoidance | |
EP3128386B1 (en) | Method and device for tracking a moving target from an air vehicle | |
WO2019137559A1 (zh) | 定向天线的盲区跟踪方法、其装置及移动跟踪系统 | |
JP2020023283A (ja) | 飛行制御装置、方法、及びプログラム | |
JP2018173934A (ja) | ビークルが追うターゲットに隣接したフライトパターンを確立するシステム及び方法 | |
Valenti et al. | An autonomous flyer photographer | |
Mercado et al. | Quadrotor's trajectory tracking control using monocular vision navigation | |
JP7031997B2 (ja) | 飛行体システム、飛行体、位置測定方法、プログラム | |
WO2021079516A1 (ja) | 飛行体の飛行経路作成方法及び管理サーバ | |
CN111443733A (zh) | 一种无人机飞行控制方法、装置及无人机 | |
Cieśluk et al. | Computationaly simple obstacle avoidance control law for small unmanned aerial vehicles | |
Li et al. | Off-board visual odometry and control of an ultralight quadrotor mav | |
KR102571330B1 (ko) | 피사체 추적 촬영제어장치, 드론 및 그것의 동작 방법 | |
Farrell | Waypoint generation based on sensor aimpoint | |
Persson | Visual-servoing-based tracking for an UAV in a 3D simulation environment |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20120207 |