JP7218321B2 - 無人航空機のビューを生成するためのシステムおよび方法 - Google Patents

無人航空機のビューを生成するためのシステムおよび方法 Download PDF

Info

Publication number
JP7218321B2
JP7218321B2 JP2020084607A JP2020084607A JP7218321B2 JP 7218321 B2 JP7218321 B2 JP 7218321B2 JP 2020084607 A JP2020084607 A JP 2020084607A JP 2020084607 A JP2020084607 A JP 2020084607A JP 7218321 B2 JP7218321 B2 JP 7218321B2
Authority
JP
Japan
Prior art keywords
unmanned aerial
aerial vehicle
imaging devices
group
route
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020084607A
Other languages
English (en)
Other versions
JP2020191083A5 (ja
JP2020191083A (ja
Inventor
ペク ホ
ウチャル セイハン
健太郎 尾口
Original Assignee
トヨタ モーター エンジニアリング アンド マニュファクチャリング ノース アメリカ,インコーポレイティド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by トヨタ モーター エンジニアリング アンド マニュファクチャリング ノース アメリカ,インコーポレイティド filed Critical トヨタ モーター エンジニアリング アンド マニュファクチャリング ノース アメリカ,インコーポレイティド
Publication of JP2020191083A publication Critical patent/JP2020191083A/ja
Publication of JP2020191083A5 publication Critical patent/JP2020191083A5/ja
Application granted granted Critical
Publication of JP7218321B2 publication Critical patent/JP7218321B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G5/00Traffic control systems for aircraft, e.g. air-traffic control [ATC]
    • G08G5/0017Arrangements for implementing traffic-related aircraft activities, e.g. arrangements for generating, displaying, acquiring or managing traffic information
    • G08G5/0026Arrangements for implementing traffic-related aircraft activities, e.g. arrangements for generating, displaying, acquiring or managing traffic information located on the ground
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64CAEROPLANES; HELICOPTERS
    • B64C39/00Aircraft not otherwise provided for
    • B64C39/02Aircraft not otherwise provided for characterised by special use
    • B64C39/024Aircraft not otherwise provided for characterised by special use of the remote controlled vehicle type, i.e. RPV
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G5/00Traffic control systems for aircraft, e.g. air-traffic control [ATC]
    • G08G5/003Flight plan management
    • G08G5/0039Modification of a flight plan
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G5/00Traffic control systems for aircraft, e.g. air-traffic control [ATC]
    • G08G5/0047Navigation or guidance aids for a single aircraft
    • G08G5/0069Navigation or guidance aids for a single aircraft specially adapted for an unmanned aircraft
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G5/00Traffic control systems for aircraft, e.g. air-traffic control [ATC]
    • G08G5/0073Surveillance aids
    • G08G5/0082Surveillance aids for monitoring traffic from a ground station
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • H04N7/185Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source from a mobile camera, e.g. for remote control
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U2201/00UAVs characterised by their flight controls
    • B64U2201/20Remote controls

Landscapes

  • Engineering & Computer Science (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Traffic Control Systems (AREA)
  • Navigation (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

本明細書は、概して、無人航空機のビュー(view)を生成するためのシステムおよび方法に関し、より具体的には、無人航空機のルートに基づいて選択される利用可能な撮像装置に基づいて、無人航空機のビューを生成するためのシステムおよび方法に関する。
無人航空機は、農業、セキュリティと監視、品物とサービスの配達、および電気通信を含む種々の産業において使用されている。しかし、アメリカ連邦航空局規則(例えば、規制ゾーン、人間オペレータの視線規制、目視および回避要件など)は、無人航空機の機能を制限する。特に、無人航空機が長距離を飛行するときは、無人航空機は、広範囲にわたる規制ゾーンの影響を受け、人間オペレータの視線から外れてしまうことが起こり得、そのため、目視および回避要件を満たすことができない可能性がある。
従って、長距離を飛行する無人航空機のリアルタイムビューを得るための必要性が存在する。
1つの実施形態においては、無人航空機に対するビューを生成するための方法が提供される。該方法は、無人航空機の出発地(origin)および目的地(destination)を得ることと、無人航空機の出発地と目的地との間のルートに基づいて、撮像装置のグループを決定することと、撮像装置のグループによりキャプチャされる無人航空機の画像に基づいて、ルートに従う無人航空機のビューを得ることを含んでいる。
他の実施形態においては、無人航空機に対するビューを生成するためのシステムが提供される。該システムは、無人航空機の出発地および目的地を得、無人航空機の出発地と目的地との間のルートに基づいて、撮像装置のグループを決定し、撮像装置のグループによりキャプチャされる画像を受信し、受信画像に基づいて、ルートに従う無人航空機のビューを得るように構成されている電子制御ユニットを含んでいる。
更に他の実施形態においては、無人航空機に対するビューを生成するための方法が提供される。該方法は、無人航空機の現在の位置に基づいて、無人航空機に対するルートを決定することと、ルートに基づいて、撮像装置のグループを選択することと、撮像装置のグループによりキャプチャされる画像に基づいて、ルートに従う無人航空機のビューを得ることを含んでいる。
本開示の実施形態により提供される、これらのおよび追加的特徴は、図面と連携して、下記の詳細な記述を考慮することで、より完全に理解されるであろう。
図面において記述される実施形態は、本質的に説明のためおよび例示のためであり、開示を制限することは意図されていない。説明のための実施形態の下記の詳細な記述は、類似の構造物は、類似の参照番号で示されている下記の図面と連携して読まれると理解できる。
ここにおいて示され且つ記述される1つ以上の実施形態に係る、カメラセンサネットワークを使用して、無人航空機のビューを生成するためのシステムを示している。 ここにおいて示され且つ記述される1つ以上の実施形態に係る、カメラセンサネットワークを使用して、無人航空機のビューを生成するためのシステムの模式図を示している。 ここにおいて示され且つ記述される1つ以上の実施形態に係る、カメラセンサネットワーク間のハンドオーバ(接続移行)を示している。 ここにおいて示され且つ記述される1つ以上の実施形態に係る、無人航空機がカメラセンサネットワークから出て行く、例としてのシナリオを示している。 ここにおいて示され且つ記述される1つ以上の実施形態に係る、カメラセンサネットワークを使用して、無人航空機のビューを得るためのフローチャートである。 ここにおいて示され且つ記述される1つ以上の実施形態に係る、例としてのカメラセンサネットワークを示している。 ここにおいて示され且つ記述される他の実施形態に係る、カメラセンサネットワークを使用して、無人航空機のビューを得るためのフローチャートである。 ここにおいて示され且つ記述される1つ以上の実施形態に係る、例としてのカメラセンサネットワークを示している。 ここにおいて示され且つ記述される他の実施形態に係る、無人航空機の出発地および目的地をシステムが知らないときに、カメラセンサネットワークを使用して、無人航空機のビューを得るためのフローチャートを示している。 ここにおいて示され且つ記述される1つ以上の実施形態に係る、例としてのカメラセンサネットワークを示している。 ここにおいて示され且つ記述される1つ以上の実施形態に係る、例としてのカメラセンサネットワークを示している。
ここにおいて開示される実施形態は、無人航空機のリアルタイムビューを得るためのシステムおよび方法を含んでいる。図1から図5を全体的に参照すると、無人航空機に対するビューを生成するための方法が提供される。方法は、無人航空機104の出発地162および目的地164を得ることと、無人航空機104の出発地162と目的地164との間のルートに基づいて、撮像装置のグループを決定することと、撮像装置のグループによりキャプチャされる無人航空機の画像に基づいて、ルートに従う無人航空機のビューを得ることを含んでいる。
撮像装置のグループは、1つ以上の共同作業するカメラセンサネットワークを形成する。共同作業するカメラセンサネットワークは無人航空機を識別して、無人航空機の人間オペレータのビューを作成する。無人航空機のルートは、カメラセンサネットワークの撮像装置の利用可能性に基づいて決定される。無人航空機のルートは、撮像装置の利用可能性に基づいて変更できる。無人航空機がカメラセンサネットワーク領域から出て行くときは常に、無人航空機の飛行を連続的に監視するために、図3に示されているように、カメラセンサネットワーク間で水平方向および/または垂直方向のハンドオーバが実行される。無人航空機が、カメラセンサネットワークによりカバーされない位置のときは、図4において示されているように、特殊任務のドローンを無人航空機に近接して位置させることができる。カメラセンサネットワークにより得られる画像データは、エッジサーバおよび/またはクラウドサーバに転送され、エッジサーバおよび/またはクラウドサーバは、キャプチャされた画像を人間オペレータに送信する。
図1は、ここにおいて示され且つ記述される1つ以上の実施形態に係る、カメラセンサネットワークを使用して、無人航空機のビューを生成するためのシステムを示している。図1において、システム100は、クラウドサーバ102、無人航空機104、エッジサーバ140と150、およびカメラセンサネットワーク110と120を含むことができる。
無人航空機104のユーザ160は、無人航空機104から遠く離れて位置している。ユーザ160は、カメラセンサネットワーク、例えばカメラセンサネットワーク110から受信される無人航空機のビューに基づいて、無人航空機104を遠隔制御できる。
実施形態においては、無人航空機104は、その出発地および目的地情報を、エッジサーバおよび/またはクラウドサーバと共有できる。例えば、無人航空機104は、その出発地162および目的地164を、近くのエッジサーバ、例えば、エッジサーバ140、またはクラウドサーバ102に送信できる。エッジサーバ140および/またはクラウドサーバ102は、無人航空機104の出発地162と目的地164との間のルート、および利用可能な撮像装置に基づいて、1つ以上の共同作業するカメラセンサネットワークを動的に形成できる。例えば、図1においては、第1および第2の共同作業するカメラセンサネットワーク110および120が形成されている。第1の共同作業するカメラセンサネットワーク110は、複数の撮像装置を含んでいる。例えば、第1の共同作業するカメラセンサネットワーク110は、移動している車両の撮像装置112と114、および道路沿いの(road-side)撮像装置116、118および119を含んでいる。第2の共同作業するカメラセンサネットワーク120は、移動している車両の撮像装置122、124、126、および128、および道路沿いの撮像装置132、134、136、138、および139を含んでいる。
無人航空機104が、出発地162から目的地164に向けて、ルート166に従い移動するときに、無人航空機104のビューは、共同作業するカメラセンサネットワークの複数の撮像装置によりキャプチャされる無人航空機104の画像に基づいて得られる。例えば、撮像装置114は、無人航空機104が、ルート166に従い移動するときに、無人航空機104のキャプチャを開始できる。撮像装置114は、エッジサーバ140またはクラウドサーバ102に常にキャプチャされた画像を送信でき、エッジサーバ140またはクラウドサーバ102は、キャプチャされた画像をユーザ160(例えば、ユーザ160の装置163)に送信する。無人航空機104が、道路沿いの撮像装置116に近接すると(例えば、無人航空機104が、道路沿いの撮像装置116の視距離内のときは)、道路沿いの撮像装置116は無人航空機104の画像をキャプチャでき、その画像をエッジサーバ140またはクラウドサーバ102に送信でき、エッジサーバ140またはクラウドサーバ102はその画像をユーザ160に送信する。
実施形態においては、2つ以上の撮像装置が無人航空機104の画像を同時にキャプチャできる。例えば、撮像装置114および撮像装置116の両者は無人航空機104の画像を、異なる視点から同時にキャプチャできる。撮像装置114および116の両者は、キャプチャされた画像をエッジサーバ140に送信できる。エッジサーバ140は画像を合成でき、無人航空機104の向上されたビュー(例えば、無人航空機104の360度のビュー)を得ることができる。または、エッジサーバ140はキャプチャ画像をクラウドサーバ102に送信し、クラウドサーバ102は画像を合成でき、無人航空機104の向上されたビューを得ることができる。
実施形態においては、エッジサーバ140または150、またはクラウドサーバ102は、撮像装置によりキャプチャされる画像を処理して、無人航空機104が何らかの異常な動きを示しているかどうかを決定する。無人航空機104が何らかの異常な動きを示していると決定された場合、エッジサーバ140または150、またはクラウドサーバ102は、ユーザ160に警報を送信できる。幾つかの実施形態においては、エッジサーバ140または150、またはクラウドサーバ102は、キャプチャされた画像に基づいて無人航空機104の現在の位置を決定でき、位置および規制ゾーンについての予め格納されている情報に基づいて、無人航空機104は規制ゾーン内であるかどうかを決定できる。無人航空機104は規制ゾーン内であると決定された場合、エッジサーバ140または150、またはクラウドサーバ102はユーザ160に警報を送信できる。
図2は、ここにおいて示され且つ記述される1つ以上の実施形態に係る、カメラセンサネットワークを使用して、無人航空機のビューを生成するためのシステムの模式図を示している。
無人航空機104は、1つ以上のプロセッサ202、1つ以上のメモリモジュール204、サテライトアンテナ206、ネットワークインタフェースハードウェア208、1台以上のカメラ、およびビーコン装置212を含んでいる。
無人航空機104の1つ以上のプロセッサ202のそれぞれは、機械読取り可能命令を実行できる任意の装置であってよい。従って、1つ以上のプロセッサ202のそれぞれは、コントローラ、集積回路、マイクロチップ、コンピュータ、または任意の他の演算装置であってよい。1つ以上のプロセッサ202のそれぞれは、通信経路214により、無人航空機104の他の構成要素に通信可能に結合されている。従って、通信経路214は、任意の数のプロセッサを相互に通信可能に結合でき、通信経路214に結合された構成要素が、分散型演算環境において動作することを可能にできる。具体的には、構成要素のそれぞれは、データを送り、および/または受信できるノードとして動作できる。
無人航空機104の1つ以上のメモリモジュール204のそれぞれは通信経路214に結合され、1つ以上のプロセッサ202に通信可能に結合されている。1つ以上のメモリモジュール204のそれぞれは、RAM、ROM,フラッシュメモリ、ハードドライブ、または、機械読取り可能命令が、1つ以上のプロセッサ202によりアクセスされて実行されることが可能なように、機械読取り可能命令を格納できる任意の装置を備えることができる。機械読取り可能命令は、例えば、1つ以上のプロセッサ202により直接実行され得る機械言語、またはアセンブリ言語、オブジェクト指向プログラミング(OOP)、スクリプト言語、マイクロコードなどのような、機械読取り可能命令にコンパイルまたはアセンブルでき、1つ以上のメモリモジュール204に格納できる、任意の世代(例えば、1GL、2GL、3GL、4GL、または5GL)の任意のプログラミング言語で記述されるロジックまたはアルゴリズムを備えることができる。または、機械読取り可能命令は、フィールドプログラマブルゲートアレイ(FPGA)構成、または特定用途向け集積回路(ASIC)の何れか、またはそれらの等価物を介して実現されるロジックのような、ハードウェア記述言語(HDL)で記述できる。従って、ここにおいて記述される機能は、予めプログラムされたハードウェア要素として、または、ハードウェアおよびソフトウェア構成要素の組み合わせとして、任意の従来のコンピュータプログラミング言語において実現できる。
1つ以上のメモリモジュール204は、エッジサーバ140またはクラウドサーバ102から受信する、無人航空機104の出発地および目的地と、出発地と目的地との間の割り当てられたルートを含むことができる。1つ以上のプロセッサ202は、無人航空機104が割り当てられたルートに従うために、無人航空機104の1つ以上の電気モータを動作させることができる。
更に図2を参照すると、サテライトアンテナ206は、通信経路214がサテライトアンテナ206を、無人航空機104の他のモジュールに通信可能に結合するように、通信経路214に結合されている。サテライトアンテナ206は、全地球測位システム衛星から信号を受信するように構成されている。具体的には、1つの実施形態においては、サテライトアンテナ206は、全地球測位システム衛星から送信される電磁信号と相互作用する1つ以上の伝導性要素を含んでいる。受信信号は、1つ以上のプロセッサ202により、サテライトアンテナ206、またはサテライトアンテナ206の近くに位置している物体の位置(例えば、緯度、経度、および高度)を示すデータ信号に変換される。1つ以上のメモリモジュール204は、サテライトアンテナ206が受信する位置を、エッジサーバ140またはクラウドサーバ102に送信するための命令を含むことができる。
更に図2を参照すると、ネットワークインタフェースハードウェア208は通信経路214に結合され、1つ以上のプロセッサ202に通信可能に結合されている。ネットワークインタフェースハードウェア208は、ネットワークを介してデータを送信および/または受信できる任意の装置であってよい。従って、ネットワークインタフェースハードウェア208は、任意の有線または無線通信を送る、および/または受信するための通信トランシーバを含むことができる。例えば、ネットワークインタフェースハードウェア208は、アンテナ、モデム、LANポート、Wi-Fiカード、WiMaxカード、移動体通信ハードウェア、近距離通信ハードウェア、衛星通信ハードウェア、および/または、他のネットワークおよび/または装置と通信するための任意の有線または無線ハードウェアを含むことができる。幾つかの実施形態においては、ネットワークインタフェースハードウェア208は、Bluetooth(ブルートゥース(登録商標))無線通信プロトコルに従って動作するように構成されているハードウェアを含んでいる。他の実施形態においては、ネットワークインタフェースハードウェア208は、Bluetooth(登録商標)以外の無線通信プロトコルに従って動作するように構成されているハードウェアを含んでいる。無人航空機104のネットワークインタフェースハードウェア208は、エッジサーバ140またはクラウドサーバ102と通信できる。
更に図2を参照すると、1台以上のカメラ210は、通信経路214が1台以上のカメラ210を、無人航空機104の他のモジュールに通信可能に結合するように、通信経路214に結合されている。1台以上のカメラ210のそれぞれは、紫外線波長帯、可視光波長帯、または赤外線波長帯における放射を検出できる感知装置(例えば、画素)のアレイを有している任意の装置であってよい。1台以上のカメラ210のそれぞれは、任意の解像度を有することができる。1台以上のカメラ210は、全方位カメラまたはパノラマカメラを含むことができる。幾つかの実施形態においては、ミラー、魚眼レンズ、または任意の他のタイプのレンズのような1つ以上の光学構成要素を、1台以上のカメラ210の少なくとも1つに光学的に結合できる。1台以上のカメラ210は、他の無人航空機の画像をキャプチャするために使用できる。
更に図2を参照すると、通信経路214は、例えば、伝導性ワイヤ、伝導性トレース、光導波路などのような、信号を送信できる任意の媒体から形成できる。更に、通信経路214は、信号を送信できる媒体の組み合わせから形成できる。1つの実施形態においては、通信経路214は、電気データ信号の、プロセッサ、メモリ、センサ、入力装置、出力装置、および通信装置などのような構成要素への送信を許容するように共同で作業する、伝導性トレース、伝導性ワイヤ、コネクタ、およびバスの組み合わせを備えている。従って、通信経路214はバスを備えることができる。追加的に、「信号」という用語は、媒体を通して伝搬できる、DC、AC、正弦波、三角波、矩形波、振動などのような波形(例えば、電気的、光学的、磁気的、機械的、または電磁気的)を意味するということを記しておく。通信経路214は、無人航空機104の種々の構成要素を通信可能に結合する。ここにおいて使用されているような「通信可能に結合されている」という用語は、結合されている構成要素は、例えば、電気信号は伝導性媒体を介して、電磁信号は空気を介して、光信号は光導波路を介してなどのように、データ信号を相互に交換できるということ意味している。
更に図2を参照すると、ビーコン装置212は通信経路214に結合され、1つ以上のプロセッサ202に通信可能に結合されている。ビーコン装置212は、近くの装置に無線ビーコン信号を送信できる。ビーコン信号は、無人航空機104についての識別情報を含むことができる。例えば、図1に示されている撮像装置114は、無人航空機104から無線ビーコン信号を受信して、無人航空機104を識別する。
ここでクラウドサーバ102を参照すると、1つ以上のプロセッサ220は、上記の1つ以上のプロセッサ202に類似しているプロセッサであってよい。1つ以上のメモリモジュール230は、上記の1つ以上のメモリモジュール204に類似しているメモリであってよい。ネットワークインタフェースハードウェア240は、上記のネットワークインタフェースハードウェア208に類似しているインタフェースハードウェアであってよい。通信経路250は、上記の通信経路214に類似している通信経路であってよい。1つ以上のメモリモジュール230の組み合わせにおける1つ以上のプロセッサ220は、クラウドサーバ102に対する電子制御ユニットとして動作できる。
1つ以上のメモリモジュール230は、カメラデータベース232、無人航空機情報データベース234、ルートプラナーモジュール(route planner module)236、およびリモートパーソンビューモジュール(remote person view module)238を含んでいる。カメラデータベース232は、撮像装置の位置および仕様を格納している。撮像装置は、可動撮像装置、例えば、モバイルフォンの撮像装置、無人航空機の撮像装置、車両の撮像装置などを含むことができる。加えて、撮像装置は、例えば、交通信号機における撮像装置、監視カメラの撮像装置、道路沿いのユニットの撮像装置などのような、固定位置における撮像装置を含むことができる。可動撮像装置に対して、カメラデータベース232は、特別な時間における可動撮像装置の予測される位置を含むことができる。固定位置における撮像装置に対して、撮像装置の位置は、カメラデータベース232に格納されている。撮像装置の仕様は、各撮像装置の画角(view angle)、解像度、および視距離(viewing distance)を含んでいる。
無人航空機情報データベース234は、無人航空機の識別情報、および各無人航空機に対する出発地および目的地情報を含むことができる。各無人航空機の出発地および目的地は、無人航空機のそれぞれから受信できる。他の例として、無人航空機のユーザは、無人航空機に対するコントローラ上で出発地および目的地を入力することで、無人航空機の出発地および目的地をクラウドサーバ102に送信できる。
ルートプラナーモジュール236は、カメラデータベース232および無人航空機情報データベース234に格納されている情報に基づいて、各無人航空機に対するルートを決定できる。例えば、無人航空機104に対しては、無人航空機104の出発地および目的地、およびカメラデータベース232に格納されている出発地と目的地との間の撮像装置の位置に基づいて、ルートに従う無人航空機104が、撮像装置の少なくとも1つにより常にキャプチャされるようにルートが計画される。
リモートパーソンビューモジュール238は、無人航空機のビューを、無人航空機のユーザ160または、ユーザ160のウェアラブル装置163に提供する。実施形態においては、リモートパーソンビューモジュール238は撮像装置から、無人航空機104のキャプチャされた画像を受信でき、キャプチャされた画像をユーザ160または、ユーザのウェアラブル装置163に送信できる。幾つかの実施形態においては、リモートパーソンビューモジュール238は、無人航空機104を含んでいるキャプチャされた画像を合成でき、合成画像をユーザ160に送信できる。幾つかの実施形態においては、リモートパーソンビューモジュール238は各撮像装置に、ユーザ160またはユーザ160のウェアラブル装置163と直接通信するように指示できる。例えば、リモートパーソンビューモジュール238は撮像装置114に、無人航空機104のキャプチャされた画像をユーザ160に送信するように指示できる。無人航空機104が撮像装置114から遠ざかるように動き、撮像装置116に接近すると、リモートパーソンビューモジュール238は撮像装置116に、無人航空機104のキャプチャされた画像をユーザ160に送信するように指示できる。幾つかの実施形態においては、撮像装置114および撮像装置116の両者は、キャプチャされた画像をエッジサーバ140に送信でき、エッジサーバ140は、無人航空機104の向上されたビューを得るために、キャプチャされた画像を合成または結び付けることができる。そして、エッジサーバ140は、合成または結びつけられた画像をユーザ160に転送できる。
ルートプラナーモジュール236およびリモートパーソンビューモジュール238のそれぞれは、オペレーティングシステムの形状のプログラムモジュール、アプリケーションプログラムモジュール、および1つ以上のメモリモジュール230に格納されている他のプログラムモジュールであってよい。幾つかの実施形態においては、プログラムモジュールは、クラウドサーバ102と通信できるリモート格納装置に格納できる。そのようなプログラムモジュールは、下記に制限されないが、下記に記述するような特定の作業を実行するため、または、特定のデータタイプを実行するためのルーチン、サブルーチン、プログラム、オブジェクト、構成要素、データ構造、などを含むことができる。
エッジサーバ140は、クラウドサーバ102の構成要素と類似している構成要素を含むことができる。例えば、エッジサーバ140は、1つ以上のプロセッサ、1つ以上のメモリモジュール、およびネットワークハードウェアインタフェースを含むことができる。1つ以上のメモリモジュールは、クラウドサーバ102の1つ以上のメモリモジュール230に類似して、カメラデータベース、無人航空機情報データベース、ルートプラナーモジュール、およびリモートパーソンビューモジュールを含むことができる。
図3は、ここにおいて示され且つ記述される1つ以上の実施形態に係る、カメラセンサネットワーク間のハンドオーバを示している。図3においては、時刻t=t0において、無人航空機104は、第1の共同作業するカメラセンサネットワーク110によりカバーされる領域にいる。第1の共同作業するカメラセンサネットワーク110は複数の撮像装置を含んでいる。例えば、第1の共同作業するカメラセンサネットワーク110は、移動している車両の撮像装置112および114と、道路沿いの撮像装置116、118、および119を含んでいる。第2の共同作業するカメラセンサネットワーク120は、移動している車両の撮像装置122、124、126、および128と、道路沿いの撮像装置132、134、136、138、および139を含んでいる。
無人航空機104が、カメラセンサネットワーク110によりカバーされる領域内のときは、撮像装置114は、無人航空機104がルート166従い移動するときに、無人航空機104のキャプチャを開始できる。撮像装置114はキャプチャされた画像を、エッジサーバ140に常に送信でき、エッジサーバ140はその画像を、クラウドサーバ102またはユーザ160(例えば、ユーザ160のウェアラブル装置163)に送信する。幾つかの実施形態においては、撮像装置114はキャプチャされた画像を、クラウドサーバ102に送信でき、クラウドサーバ102はそのキャプチャされた画像をユーザ160に送信する。
無人航空機104が、カメラセンサネットワーク110によりカバーされる領域を出て行くと、つまり、共同作業するカメラセンサネットワーク120の撮像装置の何れも無人航空機104の画像をキャプチャできなくなると、他のカメラセンサネットワークへのハンドオーバを実行できる。例えば、時刻t=t1において、無人航空機104は、カメラセンサネットワーク110によりカバーされる領域から出て行く。現在、無人航空機104は、カメラセンサネットワーク120によりカバーされる領域内であり、撮像装置の1つ、例えば、撮像装置124は無人航空機104の画像をキャプチャでき、その画像をエッジサーバ150に送信でき、エッジサーバ150はその画像を、クラウドサーバ102またはユーザ160に送信する。この点について、無人航空機104がルート166に沿って移動するときに、カメラセンサネットワーク110と120との間でハンドオーバが実現される。
図4は、ここにおいて示され且つ記述される1つ以上の実施形態に係る、無人航空機がカメラセンサネットワークから出て行く、例としてのシナリオを示している。図4においては、無人航空機104は、位置P1から位置P2に移動する。無人航空機104が位置P1のときは、撮像装置の1つ、例えば、撮像装置114は、無人航空機104の画像をキャプチャして、そのキャプチャされた画像を、エッジサーバ140および/またはクラウドサーバ102を介してユーザ160に送信する。無人航空機104が位置P2に移動すると、無人航空機104は、カメラセンサネットワーク110および120によりカバーされる領域の外となる。そのため、カメラセンサネットワーク110および120の撮像装置の何れも、無人航空機104の画像をキャプチャできない。エッジサーバ140または150は、無人航空機104は、利用可能なカメラセンサネットワーク、例えば、カメラセンサネットワーク110および120によりカバーされる領域の外であるという通知をクラウドサーバ102に送信できる。そして、クラウドサーバ102は、無人航空機104の現在の位置を識別でき、無人航空機410に、無人航空機104の現在に位置に向けて移動するように指示できる。無人航空機410は、無人航空機104の画像をキャプチャする撮像装置412を含んでいる。無人航空機410は、無人航空機410および/またはクラウドサーバ102に近接するエッジサーバを介して、キャプチャされた画像をユーザ160に送信できる。
実施形態においては、無人航空機410は無人航空機104を追尾して、無人航空機410の画像を連続的にキャプチャする。幾つかの実施形態においては、無人航空機410は無人航空機104を、カメラセンサネットワーク110または120によりカバーされる領域に移動して戻るように誘導できる。例えば、無人航空機410は、カメラセンサネットワーク110または120によりカバーされる領域への方向を無人航空機104に提供できる。幾つかの実施形態においては、クラウドサーバ102は、カメラセンサネットワーク110または120によりカバーされる領域への方向を無人航空機104に提供できる。
図5は、ここにおいて示され且つ記述される1つ以上の実施形態に係る、カメラセンサネットワークを使用して、無人航空機のビューを得るためのフローチャートである。
ステップ510において、システムは無人航空機を識別する。実施形態においては、無人航空機は、無人航空機から発せられる無線ビーコンに基づいて、エッジサーバにより識別できる。例えば、図1を参照すると、エッジサーバ140または、カメラセンサネットワーク110における撮像装置の1つは、無人航空機104から無線ビーコン信号を受信でき、無人航空機104を識別できる。他の実施形態においては、無人航空機は、カメラセンサネットワーク110における撮像装置による、画像ベースの深度推定に基づいて識別できる。例えば、図1を参照すると、カメラセンサネットワーク110における撮像装置の1つは、画像ベースの深度推定(image-based depth estimation)を使用して無人航空機104を識別できる。
ステップ520において、システムは、識別された無人航空機の出発地および目的地を得る。実施形態においては、無人航空機はその出発地および目的地を、エッジサーバまたはクラウドサーバに通信することができる。例えば、図1を参照すると、無人航空機104は、出発地162および目的地164についての情報を、無人航空機104の識別情報と共に、エッジサーバ140またはクラウドサーバ102に通信することができる。幾つかの実施形態においては、無人航空機の識別情報と関連付けられている、無人航空機の出発地および目的地を、クラウドサーバ102に予め格納できる。例えば、クラウドサーバ102は、無人航空機の識別情報と共に、無人航空機のユーザから、無人航空機の出発地および目的地を受信して格納できる。
ステップ530において、システムは、無人航空機の出発地と目的地との間のルートに基づいて、撮像装置のグループを決定する。実施形態においては、クラウドサーバ102は、無人航空機の出発地および目的地に基づいて、無人航空機に対するルートを決定できる。例えば、図6を参照すると、クラウドサーバ102は、無人航空機104の出発地162および目的地164を受信できる。クラウドサーバ102は、経路602、経路604、および経路606を含んでいるルートを決定できる。実施形態においては、クラウドサーバ102は、ルートに従う無人航空機104の画像をキャプチャするために利用可能な撮像装置を決定できる。
クラウドサーバ102、または対応するエッジサーバは、種々の要因に基づいて、無人航空機の画像をキャプチャするために撮像装置が利用可能かどうかを決定でき、利用可能な撮像装置を、撮像装置のグループとして選択できる。例えば、クラウドサーバ102、または対応するエッジサーバは、撮像装置が無人航空機のルートに近接していることに基づいて、無人航空機の画像をキャプチャするために撮像装置が利用可能かどうかを決定できる。
他の例として、クラウドサーバ102、または対応するエッジサーバは、可動撮像装置の予期される位置に基づいて、無人航空機の画像をキャプチャするために撮像装置が利用可能かどうかを決定できる。可動撮像装置は、下記に制限されないが、モバイルフォンの撮像装置、他の無人航空機の撮像装置、または車両の撮像装置を含むことができる。クラウドサーバ102、または対応するエッジサーバは、無人航空機104が、経路602、604、606を含んでいるルートに従うときに、可動撮像装置の予期される位置を決定でき、可動撮像装置の予期される位置が、ルートに近接しているかどうかを決定できる。具体的には、図6を参照すると、クラウドサーバ102は、無人航空機104が経路602従うときに、他の無人航空機650の撮像装置の予期される位置を決定できる。他の無人航空機の予期される位置652が、無人航空機104が経路602従うときに、経路602に近接している場合、クラウドサーバ102は、他の無人航空機650の撮像装置は、無人航空機104の画像をキャプチャするために利用可能であると決定できる。
他の例として、クラウドサーバ102、または対応するエッジサーバは、撮像装置の向いている方向に基づいて、無人航空機の画像をキャプチャするために撮像装置が利用可能かどうかを決定できる。撮像装置の向いている方向は、クラウドサーバ、例えば、図2におけるカメラデータベース232、または対応するエッジサーバに格納できる。クラウドサーバ102、または対応するエッジサーバは、撮像装置の向いている方向、および、ルートに従う無人航空機104の移動方向に基づいて、ルートに従う無人航空機104の方を撮像装置が向いているかどうかを決定できる。撮像装置は、無人航空機104がルートに従うときに、無人航空機104の方を向いていると決定されると、クラウドサーバ102は、無人航空機104の画像をキャプチャするために撮像装置は利用可能であると決定できる。具体的には、図6を参照すると、撮像装置610-1は、無人航空機104が経路602従うときに、無人航空機104の方を向いている。そのため、クラウドサーバ102、または対応するエッジサーバは、無人航空機104の画像をキャプチャするために撮像装置610-1は利用可能であると決定できる。対照的に、撮像装置610-2は、無人航空機104が経路60に従うときに、無人航空機104の方を向いていない。そのため、クラウドサーバ102、または対応するエッジサーバは、無人航空機104の画像をキャプチャするために撮像装置610-2は利用可能でないと決定できる。
他の例として、クラウドサーバ102は、撮像装置がシステムに登録されているかどうかに基づいて、無人航空機の画像をキャプチャするために撮像装置が利用可能かどうかを決定できる。例えば、撮像装置620-1が、カメラセンサネットワーク、例えば、図6におけるカメラセンサネットワーク620に関与するために加わることを選択していた場合、クラウドサーバ102は、無人航空機104の画像をキャプチャするために撮像装置620-1は利用可能であると決定できる。他の例として、撮像装置620-2が、カメラセンサネットワークに関与することに加わらないことを選択していた場合、クラウドサーバ102は、無人航空機104の画像をキャプチャするために撮像装置620-1は利用可能でないと決定できる。
実施形態においては、1つ以上のカメラセンサネットワークは、無人航空機の画像をキャプチャするために利用可能な撮像装置に基づいて形成される。例えば、図6を参照すると、カメラセンサネットワーク610、カメラセンサネットワーク620、およびカメラセンサネットワーク630が形成されている。カメラセンサネットワーク610、620、および630のそれぞれは、無人航空機104の画像をキャプチャするために利用可能な1つ以上の撮像装置を含んでいる。図6は、3つの異なるカメラセンサネットワークを示しているが、3つのカメラセンサネットワークよりも多い、または少ないカメラセンサネットワークを、撮像装置間の距離によって形成できる。
実施形態においては、システムは、より多くの撮像装置が、カメラセンサネットワークに関与するために加わることが選択されるように、無人航空機の画像をキャプチャするために利用可能な撮像装置にインセンティブ(incentives)を提供できる。インセンティブは、ルートと各撮像装置との間の距離、各撮像装置の画角、または各撮像装置の視距離の少なくとも1つに基づいて決定できる。
図6に戻って参照すると、ステップ540において、システムは、無人航空機が撮像装置のグループの少なくとも1つのビュー内であるかどうかを決定する。図6を参照すると、クラウドサーバ102、または、カメラセンサネットワーク610、620、630の1つ対するエッジサーバは、無人航空機104が撮像装置のグループの少なくとも1つのビュー内であるかどうかを決定できる。例えば、クラウドサーバ102は、無人航空機104の現在の位置を受信でき、無人航空機104の現在の位置は、カメラセンサネットワーク610、620、および630の撮像装置のビュー内であるかどうかを決定できる。
ステップ540において、無人航空機104は、撮像装置のグループの少なくとも1のビュー内であると決定されると、ステップ550において、システムは、撮像装置のグループによりキャプチャされる無人航空機の画像に基づいて、ルートに従う無人航空機のビューを得る。例えば、図6を参照すると、無人航空機104が出発地162にいるときは、撮像装置610-1は無人航空機104の画像のキャプチャを開始できる。撮像装置610-1はキャプチャされた画像を、カメラセンサネットワーク610に対するエッジサーバ、または図1に示されているクラウドサーバ102に送信でき、エッジサーバまたはクラウドサーバ102はキャプチャされた画像を、ユーザ160の装置163に送信する。無人航空機104が撮像装置610-1を通過するとき、撮像装置610-3は無人航空機104の画像をキャプチャでき、キャプチャされた画像をエッジサーバまたはクラウドサーバに送信できる。無人航空機104が経路604に従うときに、撮像装置620-1は無人航空機104の画像をキャプチャでき、キャプチャされた画像をエッジサーバまたはクラウドサーバに送信できる。このとき、ハンドオーバが、カメラセンサネットワーク610とカメラセンサネットワーク620との間で実現される。この点について、カメラセンサネットワーク610、620、630における少なくとも1つの撮像装置は、無人航空機104の画像をリアルタイムでキャプチャして、ユーザ160が無人航空機104のリアルタイムビューを見ることができるように、キャプチャされた画像をユーザ160に送信する。
幾つかの実施形態においては、カメラセンサネットワークの撮像装置は、所定の時間、無人航空機のキャプチャされた画像を格納できる。撮像装置は、キャプチャされた画像に対して前処理を行うことができ、無人航空機を含んでいる画像を所定の時間格納できる。
幾つかの実施形態においては、エッジサーバまたはクラウドサーバは、撮像装置のグループの中で、正しく機能していない(misbehaving)撮像装置を決定できる。エッジサーバまたはクラウドサーバは、撮像装置のグループによりキャプチャされる無人航空機の画像を比較できる。エッジサーバまたはクラウドサーバは、撮像装置のグループの他の撮像装置により提供される画像と一致しない画像を提供する、撮像装置のグループの正しく機能していない撮像装置を識別できる。エッジサーバまたはクラウドサーバは、撮像装置610-1、620-1、620-2によりキャプチャされる画像を比較でき、撮像装置620-2により提供される画像は、撮像装置610-1および620-1により提供される画像と一致していないと決定できる。例えば、撮像装置620-2は、無人航空機104の位置が、撮像装置610-1および620-1によりキャプチャされる画像における無人航空機104の位置と一致していない無人航空機104の画像を送信する可能性がある。他の例として、撮像装置620-2は、撮像装置610-1および620-1は無人航空機104を含んでいる画像を送信するが、無人航空機が写っていない画像を送信する可能性がある。そして、エッジサーバまたはクラウドサーバは、正しく機能していない撮像装置、例えば、撮像装置620-2により提供される画像を破棄できる。
ステップ540において、無人航空機104は、撮像装置のグループの少なくとも1つのビュー内ではないと決定された場合、ステップ560において、システムは、無人航空機が、撮像装置のグループのビューの外であることに応答して、無人航空機に近接する他の無人航空機を送る。例えば、無人航空機104が図6における位置P3に移動すると、無人航空機104は、カメラセンサネットワーク610、620、および630によりカバーされる領域の外になる。そのため、カメラセンサネットワーク610、620、および630の撮像装置の何れも無人航空機104の画像をキャプチャできない。カメラセンサネットワークに対するエッジサーバは、無人航空機104はカメラセンサネットワーク610、620、および630によりカバーされる領域の外であるという通知をクラウドサーバ102に送信できる。そして、クラウドサーバ102は、可動撮像装置、例えば、無人航空機660に、無人航空機104に向けて移動するように指示できる。無人航空機660は、無人航空機104の画像をキャプチャする撮像装置を含んでいる。無人航空機660はキャプチャされた画像を、無人航空機660および/またはクラウドサーバ102に近接するエッジサーバを介して、ユーザ160に送信できる。
図7は、ここにおいて示され且つ記述される他の実施形態に係る、カメラセンサネットワークを使用して、無人航空機のビューを得るためのフローチャートである。
ステップ710において、システムは無人航空機の出発地および目的地を得る。無人航空機は、上記のステップ510において記述したように、エッジサーバまたは撮像装置により前もって識別できる。実施形態においては、無人航空機はその出発地および目的地を、エッジサーバまたはクラウドサーバに通信することができる。幾つかの実施形態においては、無人航空機の識別情報と関連付けられている、無人航空機の出発地および目的地は、クラウドサーバ102に前もって格納できる。
ステップ720において、システムは、無人航空機の出発地と目的地との間のルートに基づいて、撮像装置のグループを決定する。実施形態においては、クラウドサーバ102は、無人航空機の出発地および目的地に基づいて、無人航空機に対するルートを決定できる。例えば、図6を参照すると、クラウドサーバ102は、無人航空機104の出発地162および目的地164を受信できる。クラウドサーバ102は、経路602、604、および606を含んでいるルートを決定できる。実施形態においては、クラウドサーバ102は、ルートに従う無人航空機104の画像をキャプチャするために利用可能な撮像装置を決定できる。
ステップ730において、システムは、撮像装置のグループの1つ以上が利用不可かどうかを決定する。図6を参照すると、クラウドサーバ102、またはカメラセンサネットワーク610、620、630の1つ対するエッジサーバは、撮像装置のグループの1つ以上が利用不可かどうかを決定できる。
ステップ730で、撮像装置のグループが利用可能であると決定された場合、ステップ740において、システムは、撮像装置のグループによりキャプチャされる無人航空機の画像に基づいて、ルートに従う無人航空機のビューを得る。例えば、図6を参照すると、無人航空機104が出発地162にいるときは、撮像装置610-1は、無人航空機104の画像のキャプチャを開始する。撮像装置610-1はキャプチャされた画像を、カメラセンサネットワーク610に対するエッジサーバ、または図1に示されているクラウドサーバ102に送信でき、エッジサーバまたはクラウドサーバ102はキャプチャされた画像を、ユーザ160の装置163に送信する。無人航空機104が撮像装置610-1を通過するとき、撮像装置610-3は、無人航空機104の画像をキャプチャでき、キャプチャされた画像をエッジサーバまたはクラウドサーバに送信できる。無人航空機104が経路604に従うとき、撮像装置620-1は無人航空機104の画像をキャプチャでき、キャプチャされた画像をエッジサーバまたはクラウドサーバに送信できる。この点について、カメラセンサネットワーク610、622、630における少なくとも1つの撮像装置は、無人航空機104の画像をリアルタイムでキャプチャして、ユーザ160が無人航空機104のリアルタイムビューを見ることができるように、キャプチャされた画像をユーザ160に送信する。
ステップ730において、撮像装置のグループの1つ以上が利用不可であると決定された場合、ステップ750において、システムは、撮像装置の他のグループを選択できる。例えば、図8を参照すると、撮像装置542および544は、無人航空機104の画像をキャプチャするために利用可能ではない可能性がある。例えば、撮像装置542および544は、適切に動作しない可能性がある。他の例として、撮像装置542および544は、カメラセンサネットワーク620に加わらないことを選択している可能性がある。他の例として、撮像装置542および544は可動撮像装置であり、図6におけるカメラセンサネットワーク620によりカバーされる領域から出て行く可能性がある。図6におけるカメラセンサネットワーク620は、撮像装置542および544が利用不可であるために、図8におけるカメラセンサネットワーク622に変更できる。この場合、無人航空機104のルートは、カメラセンサネットワーク610、622、および630の何れにもカバーされない領域のために、カメラセンサネットワーク610、622、および630により連続的には監視できない。そして、システムは、例えば、図8におけるカメラセンサネットワーク810を構成する撮像装置である撮像装置の他のグループを選択できる。
ステップ760において、システムは、撮像装置の他のグループの位置に基づいて、無人航空機に対する他のルートを決定する。例えば、図8を参照すると、カメラセンサネットワーク810に対する撮像装置の位置に基づいて、経路602、経路604-1、経路812、および経路606-2を含む経路が、無人航空機104に対して選択される。
ステップ770において、システムは、他のルートについての情報を無人航空機に送信する。実施形態においては、クラウドサーバ102、または無人航空機104に近接しているエッジサーバは、他のルート、例えば、経路602、経路604-1、経路812、および経路606-2を含むルートについての情報を無人航空機104に送信できる。そして、カメラセンサネットワーク610、622、810、および630の撮像装置は、ルートに従う無人航空機104をキャプチャできる。
図9は、ここにおいて示され且つ記述される他の実施形態に係る、無人航空機の出発地および目的地をシステムが知らないときに、カメラセンサネットワークを使用して、無人航空機のビューを得るためのフローチャートを示している。
ステップ910において、システムは、無人航空機の現在の位置、現在の位置の前の無人航空機の飛行経路(trajectory)、および利用可能な撮像装置の位置の少なくとも1つに基づいて、無人航空機に対するルートを決定する。実施形態においては、無人航空機の出発地および目的地を、システムは知らないこともあり得る。図10Aを参照すると、無人航空機の将来のルート1020を、その現在の位置の前の無人航空機の飛行経路1010に基づいて予測できる。例えば、1つ以上の撮像装置は、無人航空機104の動きを監視できる。移動方向、速度などを含む、無人航空機104の監視された動きに基づいて、エッジサーバまたはクラウドサーバは、無人航空機104のルート1020をリアルタイムで予測できる。
ステップ920において、システムは、予測されたルートに基づいて、撮像装置のグループを選択できる。例えば、クラウドサーバ102、または、無人航空機104に近接しているエッジサーバは、予測されたルートに近接している撮像装置、例えば、図10Aにおける撮像装置1030、1032、1034のグループを選択できる。
ステップ930において、システムは、撮像装置のグループによりキャプチャされる画像に基づいて、ルートに従う無人航空機のビューを得る。例えば、図10Aを参照すると、撮像装置1030は、予測されたルート1020に従う無人航空機104の画像のキャプチャを開始する。撮像装置1030はキャプチャされた画像を、図1に示されているエッジサーバまたはクラウドサーバ102に送信でき、エッジサーバまたはクラウドサーバ102はキャプチャされた画像を、ユーザ160の装置163に送信する。無人航空機104が撮像装置1030を通過するとき、撮像装置1032は、無人航空機104の画像をキャプチャでき、キャプチャされた画像をエッジサーバまたはクラウドサーバに送信できる。無人航空機104の予測されたルートはリアルタイムで変更でき、システムは、変更された予測ルートに基づいて、撮像装置の異なるグループを選択できる。
幾つかの実施形態においては、システムは、利用可能な撮像装置の位置に基づいて、無人航空機に対するルートを決定できる。例えば、図10Bを参照すると、無人航空機の出発地および目的地をシステムは知らない。そして、システムは、無人航空機104の現在の位置からある距離以内の利用可能な撮像装置、例えば、撮像装置1040、1042、および1044の位置を決定できる。撮像装置1040、1042、1044の位置に基づいて、システムは、無人航空機104に対するルート1050を決定でき、ルート1050を無人航空機104に送信できる。撮像装置1040、1042、および1044は、ルート1050に従う無人航空機104の画像をキャプチャでき、キャプチャされた画像を、エッジサーバまたはクラウドサーバを介してユーザ160に送信できる。
ここにおいて記述されている実施形態は、無人航空機のビューを得るための方法およびシステムに向けられているということは理解されるべきである。該方法は、無人航空機の出発地および目的地を得ることと、無人航空機の出発地と目的地との間のルートに基づいて、撮像装置のグループを決定することと、撮像装置のグループによりキャプチャされる無人航空機の画像に基づいて、ルートに従う無人航空機のビューを得ることを含んでいる。
撮像装置のグループは、共同作業するカメラセンサネットワークを形成する。共同作業するカメラセンサネットワークは無人航空機を識別して、無人航空機の人間オペレータのビューを作成する。無人航空機のルートは、カメラセンサネットワークの利用可能性に基づいて決定される。無人航空機のルートは、撮像装置の利用可能性に基づいて変更できる。無人航空機がカメラセンサネットワーク領域から出て行くときは常に、無人航空機の飛行を連続的に監視するために、図3に示されているように、カメラセンサネットワーク間で水平方向および/または垂直方向のハンドオーバを実行できる。無人航空機が、カメラセンサネットワークによりカバーされない位置のときは、図4に示されているように、特殊任務のドローンを無人航空機に近接して位置させることができる。カメラセンサネットワークにより得られる画像データは、エッジサーバおよび/またはクラウドサーバに転送され、エッジサーバおよび/またはクラウドサーバは、キャプチャされた画像を人間オペレータに送信する。
本開示によれば、無人航空機のルートだけでなく、選択されたカメラも、撮像装置の利用可能性に基づいて変更できる。撮像装置は、動的に、静的に、および/または所定の距離に基づいて選択できる。短期および/または長期にわたり、関与する撮像装置が利用不可のときは、代替の撮像装置を選択できる。本開示によれば、無人航空機は、共同作業するカメラセンサネットワークを介して連続的に追尾および/または監視され、無人航空機の一人称視点が、人間オペレータのために構築される。
「実質的に」および「ほぼ」という用語は、ここにおいては、如何なる量的比較、値、測定、または他の表現に起因すると考えることができる、不確定性の固有の程度を表わすために利用できるということが分かる。これらの用語はまた、ここにおいては、検討されている主題の基本機能における変化という結果になることなく、量的表現が、記述された基準から変化できる程度を表わすためにも利用される。
特別な実施形態がここにおいて例示され記述されてきたが、種々の他の変更および修正を、請求項に係る主題の精神および範囲を逸脱することなく実行できるということは理解されるべきである。更に、請求項に係る主題の種々の態様をここにおいて記述したが、そのような態様は、組み合わせて利用する必要はない。従って、付随する請求項は、請求項に係る主題の範囲内であるそのような変更および修正すべてを含むことが意図されている。
〔例1〕無人航空機に対するビューを生成するための方法であって、該方法は、
無人航空機の出発地および目的地を得ることと、
無人航空機の出発地と目的地との間のルートに基づいて、撮像装置のグループを決定することと、
撮像装置のグループによりキャプチャされる無人航空機の画像に基づいて、ルートに従う無人航空機のビューを得ることを含んでいる。
〔例2〕例1の方法であって、撮像装置のグループは、撮像装置のグループの位置、撮像装置のグループの予測される位置、または、撮像装置のグループの仕様の少なくとも1つに基づいて決定される。
〔例3〕例1の方法であって、仕様は、画角、解像度、または視距離の少なくとも1つ含んでいる。
〔例4〕例1の方法であって、
撮像装置のグループは、1つ以上の可動撮像装置を含んでおり、
1つ以上の可動撮像装置が、無人航空機がルートに沿って移動するときに、ルートに近接していると予期されている。
〔例5〕例4の方法であって、1つ以上の可動撮像装置は、モバイルフォンの撮像装置、他の無人航空機の撮像装置、または、車両の撮像装置の少なくとも1つを含んでいる。
〔例6〕例1の方法であって、無人航空機の出発地および目的地を得ることは、
無人航空機を識別することと、
識別された無人航空機の出発地および目的地を検索することと、を含んでいる。
〔例7〕例1の方法であって、
ルートに近接している撮像装置のグループの1つ以上が利用不可であることに応答して、撮像装置の他のグループを選択することと、
撮像装置の他のグループの位置に基づいて、他のルートを決定することと、
他のルートについての情報を、無人航空機に送信することと、を更に含んでいる。
〔例8〕例1の方法であって、撮像装置のグループは、交通信号機における撮像装置、監視カメラの撮像装置、道路沿いのカメラの撮像装置、モバイルフォンの撮像装置、他の無人航空機の撮像装置、または車両の撮像装置の少なくとも1つを含んでいる。
〔例9〕例1の方法であって、
撮像装置のグループによりキャプチャされる無人航空機の画像を比較することと、
撮像装置のグループの他の撮像装置により提供される画像と一致しない画像を提供する、撮像装置のグループの正しく機能していない撮像装置を識別することと、
正しく機能していない撮像装置により提供される画像を破棄することと、を更に含んでいる。
〔例10〕例1の方法であって、無人航空機の出発地と目的地との間のルートに基づいて、撮像装置のグループを決定することは、
撮像装置の位置、予測される位置、および向いている方向の少なくとも1つに基づいて、撮像装置の利用可能性についての情報を決定することと、
撮像装置の利用可能性についての情報に基づいて、撮像装置のグループを選択することと、を含んでいる。
〔例11〕例10の方法であって、
選択された撮像装置のグループにインセンティブを提供することを更に含んでいる。
〔例12〕例11の方法であって、インセンティブは、ルートと各撮像装置との間の距離、各撮像装置の画角、または各撮像装置の視距離の少なくとも1つに基づいて決定される。
〔例13〕例1の方法であって、
無人航空機が、撮像装置のグループの少なくとも1つのビュー内であるかどうかを決定することと、
無人航空機が、撮像装置のグループのビューの外であることに応答して、無人航空機に近接する他の無人航空機を送ることと、を更に含んでいる。
〔例14〕無人航空機に対するビューを生成するためのシステムであって、
無人航空機の出発地および目的地を得、
無人航空機の出発地と目的地との間のルートに基づいて、撮像装置のグループを決定し、
撮像装置のグループによりキャプチャされる画像を受信し、
受信画像に基づいて、ルートに従う無人航空機のビューを得るように構成されている電子制御ユニットを備えている。
〔例15〕例14のシステムであって、電子制御ユニットは、
ルートに近接している撮像装置のグループの1つ以上が利用不可であることに応答して、撮像装置の他のグループを選択し、
撮像装置の他のグループの位置に基づいて、他のルートを決定し、
他のルートについての情報を、無人航空機に送信するように更に構成されている。
〔例16〕例14のシステムであって、電子制御ユニットは、
撮像装置のグループに、所定の時間、画像を格納することを指示するように更に構成されている。
〔例17〕例14のシステムであって、電子制御ユニットは、
無人航空機が、撮像装置のグループの少なくとも1つのビュー内であるかどうかを決定し、
無人航空機が、撮像装置のグループのビューの外であることに応答して、警報を送信するように更に構成されている。
〔例18〕無人航空機に対するビューを生成するための方法であって、該方法は、
無人航空機の現在の位置に基づいて、無人航空機に対するルートを決定することと、
ルートに基づいて、撮像装置のグループを選択することと、
撮像装置のグループによりキャプチャされる画像に基づいて、ルートに従う無人航空機のビューを得ることと、
を含んでいる。
〔例19〕例18の方法であって、
現在の位置の前の無人航空機の飛行経路に更に基づいて、無人航空機に対するルートを決定することを更に含んでいる。
〔例20〕例18の方法であって、
利用可能な撮像装置の位置に更に基づいて、無人航空機に対するルートを決定することを更に含んでいる。

Claims (15)

  1. 無人航空機と、1つ以上の共同作業するカメラセンサネットワークを形成する撮像装置のグループと、電子制御ユニットとを含むシステムにおいて実行される、無人航空機に対するビューを生成するための方法であって、
    前記電子制御ユニットが、
    前記無人航空機の出発地および目的地を得ることと、
    前記無人航空機の前記出発地と前記目的地との間のルートに基づいて、撮像装置のグループを決定することと、
    前記無人航空機が、撮像装置のグループの少なくとも1つのビュー内であるかどうかを決定することと、
    前記無人航空機が、前記撮像装置のグループのビューの外であることに応答して、無人航空機を監視するために前記撮像装置のグループに加わるように他の無人航空機に指示することと、
    前記他の無人航空機及び前記撮像装置のグループによりキャプチャされる前記無人航空機の画像に基づいて、前記ルートに従う前記無人航空機のビューを得ることと、
    を含んでいる、方法。
  2. 前記撮像装置のグループを決定することは、前記撮像装置のグループの位置、前記撮像装置のグループの予測される位置、または、前記撮像装置のグループの仕様の少なくとも1つに基づいてなされる、請求項1に記載の方法。
  3. 前記仕様は、画角、解像度、または視距離の少なくとも1つ含んでいる、請求項2に記載の方法。
  4. 前記撮像装置のグループは、1つ以上の可動撮像装置を含んでおり、
    前記1つ以上の可動撮像装置が、前記無人航空機が前記ルートに沿って移動するときに、前記ルートに近接していると予期されている、請求項1に記載の方法。
  5. 前記1つ以上の可動撮像装置は、モバイルフォンの撮像装置、他の無人航空機の撮像装置、または、車両の撮像装置の少なくとも1つを含んでいる、請求項4に記載の方法。
  6. 前記無人航空機の出発地および目的地を得ることは、
    前記無人航空機を識別することと、
    識別された無人航空機の出発地および目的地を検索することと、
    を含んでいる、請求項1に記載の方法。
  7. 前記電子制御ユニットが、
    前記ルートに近接している前記撮像装置のグループの1つ以上が利用不可であることに応答して、撮像装置の他のグループを選択することと、
    前記撮像装置の他のグループの位置に基づいて、他のルートを決定することと、
    前記他のルートについての情報を、前記無人航空機に送信することと、
    を更に含んでいる、請求項1に記載の方法。
  8. 前記撮像装置のグループは、交通信号機における撮像装置、監視カメラの撮像装置、道路沿いのカメラの撮像装置、モバイルフォンの撮像装置、他の無人航空機の撮像装置、または車両の撮像装置の少なくとも1つを含んでいる、請求項1に記載の方法。
  9. 前記電子制御ユニットが、
    前記撮像装置のグループによりキャプチャされる前記無人航空機の画像を比較することと、
    前記撮像装置のグループの他の撮像装置により提供される画像と一致しない画像を提供する、前記撮像装置のグループの正しく機能していない撮像装置を識別することと、
    前記正しく機能していない撮像装置により提供される前記画像を破棄することと、
    を更に含んでいる、請求項1に記載の方法。
  10. 前記無人航空機の前記出発地と前記目的地との間のルートに基づいて、前記撮像装置のグループを決定することは、
    前記撮像装置の位置、予測される位置、および向いている方向の少なくとも1つに基づいて、撮像装置の利用可能性についての情報を決定することと、
    前記撮像装置の利用可能性についての情報に基づいて、前記撮像装置のグループを選択することと、
    を含んでいる、請求項1に記載の方法。
  11. 前記電子制御ユニットが、前記選択された撮像装置のグループにインセンティブを提供することを更に含んでいる、請求項10に記載の方法。
  12. 前記インセンティブは、前記ルートと各撮像装置との間の距離、各撮像装置の画角、または各撮像装置の視距離の少なくとも1つに基づいて決定される、請求項11に記載の方法。
  13. 無人航空機に対するビューを生成するためのシステムであって、
    前記無人航空機の出発地および目的地を得て、
    前記無人航空機の前記出発地と前記目的地との間のルートに基づいて、撮像装置のグループを決定し、
    前記無人航空機が、撮像装置のグループの少なくとも1つのビュー内であるかどうかを決定し、
    前記無人航空機が、前記撮像装置のグループのビューの外であることに応答して、無人航空機を監視するために前記撮像装置のグループに加わるように他の無人航空機に指示し、
    前記他の無人航空機及び前記撮像装置のグループによりキャプチャされる画像を受信し、
    受信画像に基づいて、前記ルートに従う前記無人航空機のビューを得るように構成されている電子制御ユニットを備えている、
    システム。
  14. 無人航空機と、1つ以上の共同作業するカメラセンサネットワークを形成する撮像装置のグループと、電子制御ユニットとを含むシステムにおいて実行される、無人航空機に対するビューを生成するための方法であって、
    前記電子制御ユニットが、
    前記無人航空機の現在の位置に基づいて、前記無人航空機に対するルートを決定することと、
    利用可能な撮像装置の位置に基づいて、前記無人航空機のルートを動的に更新することと、
    更新されたルートに基づいて、前記利用可能な撮像装置から撮像装置のグループを選択することと、
    前記撮像装置のグループによりキャプチャされる画像に基づいて、前記更新されたルートに従う前記無人航空機のビューを得ることと、
    を含んでいる、方法。
  15. 前記電子制御ユニットが、更に前記現在の位置の前の前記無人航空機の飛行経路に基づいて、前記無人航空機に対する前記ルートを決定することを更に含んでいる、請求項14に記載の方法。
JP2020084607A 2019-05-13 2020-05-13 無人航空機のビューを生成するためのシステムおよび方法 Active JP7218321B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US16/410,134 US11210957B2 (en) 2019-05-13 2019-05-13 Systems and methods for generating views of unmanned aerial vehicles
US16/410,134 2019-05-13

Publications (3)

Publication Number Publication Date
JP2020191083A JP2020191083A (ja) 2020-11-26
JP2020191083A5 JP2020191083A5 (ja) 2022-06-15
JP7218321B2 true JP7218321B2 (ja) 2023-02-06

Family

ID=73245152

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020084607A Active JP7218321B2 (ja) 2019-05-13 2020-05-13 無人航空機のビューを生成するためのシステムおよび方法

Country Status (3)

Country Link
US (1) US11210957B2 (ja)
JP (1) JP7218321B2 (ja)
CN (1) CN111935444A (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11184517B1 (en) * 2020-06-26 2021-11-23 At&T Intellectual Property I, L.P. Facilitation of collaborative camera field of view mapping
WO2022234574A1 (en) * 2021-05-03 2022-11-10 Weinheber Uri Multi-drone beyond visual line of sight (bvlos) operation

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170032587A1 (en) 2015-07-31 2017-02-02 Elwha Llc Systems and methods for collaborative vehicle tracking
JP6100868B1 (ja) 2015-11-09 2017-03-22 株式会社プロドローン 無人移動体の操縦方法および無人移動体監視装置
JP2017146292A (ja) 2015-09-04 2017-08-24 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 飛行ルート生成方法、飛行ルート生成装置、飛行ルート生成プログラム及び端末装置

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000211593A (ja) * 1999-01-27 2000-08-02 Nec Corp 無人機の監視装置
TW201235808A (en) * 2011-02-23 2012-09-01 Hon Hai Prec Ind Co Ltd System and method for controlling UAV to flight in predefined area
JP6133506B2 (ja) 2014-04-17 2017-05-24 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd 飛行制限区域に対する飛行制御
US20150371543A1 (en) 2014-06-21 2015-12-24 Jose Luis Ismael Amodio Leon Safe flight-path search engine system and method
CN108983802A (zh) 2014-07-31 2018-12-11 深圳市大疆创新科技有限公司 使用无人飞行器实现的虚拟观光系统及方法
US20160117933A1 (en) 2014-09-30 2016-04-28 Elwha LLC, a limited liability company of the State of Delaware Unmanned aircraft configured for operation in a managed airspace
US9646502B1 (en) 2015-02-27 2017-05-09 Amazon Technologies, Inc. Universal unmanned aerial vehicle identification system
EP3265885A4 (en) * 2015-03-03 2018-08-29 Prenav Inc. Scanning environments and tracking unmanned aerial vehicles
US9741255B1 (en) * 2015-05-28 2017-08-22 Amazon Technologies, Inc. Airborne unmanned aerial vehicle monitoring station
US20170032586A1 (en) * 2015-07-31 2017-02-02 Elwha Llc Systems and methods for collaborative vehicle tracking
WO2017022058A1 (ja) * 2015-08-03 2017-02-09 Necソリューションイノベータ株式会社 位置管理装置、位置管理方法、及びコンピュータ読み取り可能な記録媒体
AU2016314770A1 (en) 2015-09-03 2018-03-29 Commonwealth Scientific And Industrial Research Organisation Unmanned aerial vehicle control techniques
WO2017037989A1 (ja) 2015-09-04 2017-03-09 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 飛行ルート生成方法、飛行ルート生成装置、飛行ルート生成プログラム及び端末装置
US20180005534A1 (en) * 2016-06-30 2018-01-04 Sharp Laboratories Of America, Inc. Autonomous navigation of an unmanned aerial vehicle
CN106791613B (zh) 2016-11-30 2019-07-12 中通服咨询设计研究院有限公司 一种基于3dgis和视频相结合的智能监控系统

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170032587A1 (en) 2015-07-31 2017-02-02 Elwha Llc Systems and methods for collaborative vehicle tracking
JP2017146292A (ja) 2015-09-04 2017-08-24 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 飛行ルート生成方法、飛行ルート生成装置、飛行ルート生成プログラム及び端末装置
JP6100868B1 (ja) 2015-11-09 2017-03-22 株式会社プロドローン 無人移動体の操縦方法および無人移動体監視装置

Also Published As

Publication number Publication date
US11210957B2 (en) 2021-12-28
CN111935444A (zh) 2020-11-13
JP2020191083A (ja) 2020-11-26
US20200365040A1 (en) 2020-11-19

Similar Documents

Publication Publication Date Title
CN109479119B (zh) Uav交互视频广播的系统与方法
US10191495B2 (en) Distributed ceiling-mounted smart cameras for multi-unmanned ground vehicle routing and coordination
US10440323B2 (en) Facilitating wide view video conferencing through a drone network
JP7218321B2 (ja) 無人航空機のビューを生成するためのシステムおよび方法
US10832567B2 (en) Systems and methods for generating composite real-time traffic images based on triggering events using data from vehicle borne sensors
JP2006086591A (ja) 移動体追跡システム、撮影装置及び撮影方法
US11611700B2 (en) Unmanned aerial vehicle with virtual un-zoomed imaging
US11522612B2 (en) Systems, devices, and methods for optical communication
JP7101799B2 (ja) 監視システム、管理装置、監視方法、管理装置の制御プログラム
US11611707B2 (en) Auto-focus tracking for remote flying targets
KR20170139326A (ko) 무인 비행체의 자율비행시스템 및 자율비행방법
EP4066080A1 (en) Method for controlling a formation of a collaborating swarm of unmanned mobile units
CN112884692A (zh) 分布式机载协同侦察光电系统及无人机系统
US20170269585A1 (en) System, method and server for managing stations and vehicles
US10931597B2 (en) Dynamically docking an unmanned aerial vehicle
KR101651152B1 (ko) 공간 모델과 결합하는 드론의 영상영역 모니터링 시스템
KR102203292B1 (ko) Cctv 겸용 드론을 이용한 cctv 감시 시스템
US20080026713A1 (en) Methods and apparatus for a wireless surveillance system
KR102517970B1 (ko) 항공 측량을 위한 복수의 드론을 제어하는 방법 및 기기
KR101807771B1 (ko) 편대비행 무인항공기를 이용한 영상취득장치
EP3919374B1 (en) Image capturing method
US20220114433A1 (en) Methods and systems for enhanced scene perception using vehicle platoon
Chae et al. The comparison of the detecting performance between the ground and the aerial visual analytics in the UGV-UAV collaborative system
Streit et al. Vision-based path construction and maintenance for indoor guidance of autonomous ground vehicles based on collaborative smart cameras
CN103900554A (zh) 信息处理方法和引导设备

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220607

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220607

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20220607

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220712

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221011

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230110

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230125

R150 Certificate of patent or registration of utility model

Ref document number: 7218321

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350