JP7406656B2 - 航空機の相関動作及び検知 - Google Patents

航空機の相関動作及び検知 Download PDF

Info

Publication number
JP7406656B2
JP7406656B2 JP2022565732A JP2022565732A JP7406656B2 JP 7406656 B2 JP7406656 B2 JP 7406656B2 JP 2022565732 A JP2022565732 A JP 2022565732A JP 2022565732 A JP2022565732 A JP 2022565732A JP 7406656 B2 JP7406656 B2 JP 7406656B2
Authority
JP
Japan
Prior art keywords
intruder
aircraft
signal
channel audio
audio signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022565732A
Other languages
English (en)
Other versions
JP2023508612A (ja
Inventor
オー. タイスバーグ,トーマス
エイチ. サント,ロヒット
オー. デリー,マシュー
ジェイ. デマーツィ,マイケル
クリシュナン,ギャビン ケイ. アナンダ
エイ. ワイロベック,キーナン
ラマン,ヴァスマシ
ジェイ.ディー. ウェイド,ブレンダン
アール. ハーゲン,ブライアー
アール. パターソン,ランドール
エム. グリーン,フィリップ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zipline International Inc
Original Assignee
Zipline International Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zipline International Inc filed Critical Zipline International Inc
Publication of JP2023508612A publication Critical patent/JP2023508612A/ja
Application granted granted Critical
Publication of JP7406656B2 publication Critical patent/JP7406656B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/10Simultaneous control of position or course in three dimensions
    • G05D1/101Simultaneous control of position or course in three dimensions specially adapted for aircraft
    • G05D1/106Change initiated in response to external conditions, e.g. avoidance of elevated terrain or of no-fly zones
    • G05D1/1064Change initiated in response to external conditions, e.g. avoidance of elevated terrain or of no-fly zones specially adapted for avoiding collisions with other aircraft
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/0094Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots involving pointing a payload, e.g. camera, weapon, sensor, towards a fixed or moving target
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G5/00Traffic control systems for aircraft, e.g. air-traffic control [ATC]
    • G08G5/0017Arrangements for implementing traffic-related aircraft activities, e.g. arrangements for generating, displaying, acquiring or managing traffic information
    • G08G5/0021Arrangements for implementing traffic-related aircraft activities, e.g. arrangements for generating, displaying, acquiring or managing traffic information located in the aircraft
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G5/00Traffic control systems for aircraft, e.g. air-traffic control [ATC]
    • G08G5/0047Navigation or guidance aids for a single aircraft
    • G08G5/0052Navigation or guidance aids for a single aircraft for cruising
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G5/00Traffic control systems for aircraft, e.g. air-traffic control [ATC]
    • G08G5/0047Navigation or guidance aids for a single aircraft
    • G08G5/0069Navigation or guidance aids for a single aircraft specially adapted for an unmanned aircraft
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G5/00Traffic control systems for aircraft, e.g. air-traffic control [ATC]
    • G08G5/0073Surveillance aids
    • G08G5/0078Surveillance aids for monitoring traffic from the aircraft
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G5/00Traffic control systems for aircraft, e.g. air-traffic control [ATC]
    • G08G5/04Anti-collision systems
    • G08G5/045Navigation or guidance aids, e.g. determination of anti-collision manoeuvers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R1/00Details of transducers, loudspeakers or microphones
    • H04R1/20Arrangements for obtaining desired frequency or directional characteristics
    • H04R1/32Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only
    • H04R1/326Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only for microphones
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R29/00Monitoring arrangements; Testing arrangements
    • H04R29/004Monitoring arrangements; Testing arrangements for microphones
    • H04R29/005Microphone arrays
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2499/00Aspects covered by H04R or H04S not otherwise provided for in their subgroups
    • H04R2499/10General applications
    • H04R2499/13Acoustic transducers and sound field adaptation in vehicles

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Health & Medical Sciences (AREA)
  • Automation & Control Theory (AREA)
  • Signal Processing (AREA)
  • Acoustics & Sound (AREA)
  • Otolaryngology (AREA)
  • Theoretical Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Evolutionary Computation (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Measurement Of Velocity Or Position Using Acoustic Or Ultrasonic Waves (AREA)
  • Traffic Control Systems (AREA)

Description

関連出願の相互参照
本出願は、「航空機の相関動作及び検知(CORRELATED MOTION AND DETECTION FOR AIRCRAFT」という名称の2020年9月24日出願の米国仮特許出願第63/082,821号、「マイクロフォンアレイを備えた無人航空機システム(UNMANNED AIRCRAFT SYSTEM WITH MICROPHONE ARRAY」という名称の2019年12月31日出願の米国仮特許出願第62/955,946号、「マイクロフォンアレイを備えた無人航空機システム(UNMANNED AIRCRAFT SYSTEM WITH MICROPHONE ARRAY」という名称の2020年3月2日出願の米国仮特許出願第62/984,266号、及び「マイクロフォンアレイを備えた無人航空機システム(UNMANNED AIRCRAFT SYSTEM WITH MICROPHONE ARRAY」という名称の2020年5月7日出願の米国仮特許出願第63/021,633号の優先権と利益を主張するものであり、これらの開示全体は参照によりその全体が本明細書に組み込まれる。
本発明は、航空機の相関動作及び検知に関する。
民間航空機及び一般航空航空機を含む従来の航空機は、他の航空機との衝突を避ける為に確立された空域規則に従っている。例えば、一般に、各航空機は、その航空機の前方の空域に責任を負う。一部の空域では、無人航空機(UAV)は、球面カバレッジを維持することが求められる場合があり、これは、UAVが各方向の空域を侵入機に関して監視しなければならない、例えば、UAVに対して360度の球状の検知ゾーンを検知し、任意に維持しなければならないことを意味している。更に、UAVは、他の航空機が飛行中にUAVに遭遇しないように、侵入機の邪魔にならないように移動する責任があり得る。例えば、一部の規制では、UAVが従来の航空機との間に最小限の距離を維持することを求めている場合がある。レーダー等の従来の航空機検知システムは、航空機の前方の領域を監視する為に最適化され得る。そのようなシステムは、球面カバレッジを提供するように変更され得るが、そのようなカバレッジを提供するシステムは、UAVに組み込むには法外に重く、高価である可能性がある。又、そのような改造は、技術的に複雑であり、実現に時間が掛かる場合がある。更に、従来の検知システムは、長距離検知が困難な場合があり、UAVが他の航空機を検知し、他の航空機を避ける為にその飛行経路を変更して、UAVと他の航空機との間の必要な離隔を維持する為の時間が短くなる。
本発明は、上記従来の技術における課題を解決するためになされたものである。
第1の信号が航空機の音響検知システムで受信され、前記第1の信号はマルチチャネルオーディオ信号である。前記マルチチャネルオーディオ信号は、少なくとも1機の侵入機に関連すると判定され、前記マルチチャネルオーディオ信号と、前記侵入機に関する追加情報を提供する第2の信号に基づいて、前記航空機のマヌーバが指令される。
幾つかの実施形態は更に、機械学習モデルを使用して前記航空機の為の前記マヌーバを選択することを含み得、前記機械学習モデルは、入力として前記侵入機の少なくとも1つの軌道を受信し、前記軌道は前記侵入機の2つ以上の位置推定から生成される。
幾つかの実施形態において、前記マヌーバは、入力データを増加させ、前記マルチチャネルオーディオ信号として受信されるノイズを低減させるように選択される。
幾つかの実施形態において、前記機械学習モデルは、前記航空機のシミュレートされた飛行データを使用して生成された深層学習ネットワークである。
幾つかの実施形態において、前記侵入機の前記軌道は、前記侵入機に関する音響位置推定に基づいて生成され、前記音響位置推定は前記マルチチャネルオーディオ信号を用いて生成される。
幾つかの実施形態において、前記音響位置推定は、前記マルチチャネルオーディオ信号に基づく入力を用いて機械学習モデルによって生成される。
幾つかの実施形態において、前記侵入機に関する追加情報は前記侵入機に関する位置推定を含み、前記位置推定は、前記航空機のセンサからのセンサ情報を使用して生成される。
幾つかの実施形態において、前記マルチチャネルオーディオ信号は、前記侵入機と第2の侵入機に関連付けられ、前記マヌーバは更に、前記マルチチャネルオーディオ信号及び前記第2の侵入機に関する追加情報に基づいて生成された前記第2の侵入機の軌道に基づいている。
1つ以上の非一時的コンピュータ可読媒体は、命令でコード化され、前記命令は、音響航空機回避システムの1つ以上のプロセッサによって実行されると、前記音響航空機回避システムに、前記航空機で受信した第1の信号を解析させて、前記信号が侵入機に関連していると判断させ、前記第1の信号はマルチチャネルオーディオ信号である。前記侵入機に対応する音響方向情報は、前記マイクロチャネルオーディオ信号を用いて生成される。前記音響方向情報と、前記侵入機に対応する追加情報を含む第2の信号を用いて、前記侵入機の軌道を生成する。回避マヌーバは前記侵入機の軌道に基づいて選択される。
1つ以上の非一時的コンピュータ可読媒体の幾つかの実施形態において、前記侵入機に対応する前記追加情報は前記侵入機に対応するセンサ方向情報を含み、前記センサ方向情報は前記航空機のセンサによって収集される。
1つ以上の非一時的コンピュータ可読媒体の幾つかの実施形態において、前記侵入機の軌道に基づいて前記航空機の前記回避マヌーバを選択することは、前記侵入機の前記軌道を深層学習モデルに提供することを含み、前記深層学習モデルは回避マヌーバを生成する。
1つ以上の非一時的コンピュータ可読媒体の幾つかの実施形態において、前記深層学習モデルは、前記航空機に関するシミュレートされた飛行データを使用して生成される。
1つ以上の非一時的コンピュータ可読媒体の幾つかの実施形態において、前記マルチチャネルオーディオ信号は更に、前記航空機によって生成される予想されるノイズと関連付けられ、前記命令は更に、前記音響航空機回避システムに、前記マルチチャネルオーディオ信号が前記航空機によって生成される前記予想されるノイズを含まないことを示す前記マルチチャネルオーディオ信号の解析に基づいて、前記音響航空機回避システムの故障を検知させる。
侵入機の第1の位置推定は、航空機で受信された第1の信号に基づいて生成され、前記第1の信号はマルチチャネルオーディオ信号である。前記侵入機に関する追加情報を含む第2の信号に基づいて、前記侵入機の第2の位置推定が生成される。前記侵入機に対応する軌道が、前記第1の位置推定と前記第2の位置推定を使用して更新される。前記航空機によって回避マヌーバが実行され、前記回避マヌーバは、前記侵入機に対応する前記軌道に基づいて選択される。
幾つかの実施形態において、前記侵入機に関する前記第1の位置推定を生成するステップは、前記マルチチャネルオーディオ信号を深層学習モデルに提供することを含む。
幾つかの実施形態は更に、前記軌道を入力として使用して深層学習モデルを使用して前記回避マヌーバを選択することを含み得る。
幾つかの実施形態において、前記深層学習モデルは、前記航空機及び1機以上の侵入機のシミュレーションを用いて生成されたマヌーバデータを使用して訓練される。
幾つかの実施形態において、前記回避マヌーバは更に、前記侵入機の予測された軌道に基づいて選択される。
幾つかの実施形態において、前記侵入機の前記予測された軌道は、前記侵入機に対応する前記軌道及び前記侵入機の飛行特性に基づいて生成される。
幾つかの実施形態において、前記侵入機の飛行特性は、前記マルチチャネルオーディオ信号に基づいて決定された前記侵入機の航空機タイプを含む。
幾つかの実施形態において、前記第2の信号はマルチチャネルオーディオ信号であり、前記侵入機に関する前記追加情報は、前記第1の信号の受信後に受信した前記侵入機に対応する前記第2の信号の解析と、前記第1の信号の受信と前記第2の信号の受信の間の前記航空機の移動とに基づいている。
航空機上の複数のオーディオプローブの配置は、既知の航空機のオーディオ特性に基づいてもよい。前記航空機に対する侵入機位置は、前記複数のオーディオプローブの配置を使用して追尾される。前記複数のオーディオプローブによって受信されたマルチチャネルオーディオ信号は、既知の航空機のオーディオ特性を使用して監視されて、前記複数のオーディオプローブの機能を決定する。
幾つかの実施形態において、前記航空機上の前記複数のオーディオプローブの配置を決定するステップは、前記オーディオプローブの配置を調整することで、前記既知の航空機オーディオ特性により前記オーディオプローブで受信されるノイズを低減することを含む。
幾つかの実施形態において、前記複数のオーディオプローブの機能を決定するステップは、前記既知の航空機オーディオ特性が、前記オーディオプローブによって受信されたオーディオ信号において検知可能でない場合に、前記複数のオーディオプローブのオーディオプローブが故障していると判断することを含む。
追加の実施形態及び特徴は、以下の説明で部分的に示され、明細書の検討により当業者に明らかになり、開示された主題の実践によって知ることができるであろう。本開示の性質及び利点の更なる理解は、本開示の一部を構成する本明細書の残りの部分及び図面を参照することによって実現され得る。当業者であれば、本開示の様々な態様及び特徴の各々は、或る実施例では有利に別々に使用されてもよく、又は他の実施例では本開示の他の態様及び特徴と組み合わせて使用され得ることを理解するであろう。
本説明は、以下の図を参照してより完全に理解され、図では構成要素が縮尺通りに描かれておらず、図は本開示の様々な例として提示されており、本開示の範囲の完全な説明として解釈されるべきではなく、以下を特徴とする。
例示的な航空機と侵入機の透視図である。 例示的な航空機と侵入機の側方立面図である。 特定の実施形態による例示的な検知及び回避(DAA)システムの概略図である。 特定の実施形態による例示的なDAAシステムのブロック図である。 航空機の為の回避マヌーバを、侵入機の軌道推定に基づいて選択する為の例示的なオペレーションの流れ図である。 特定の実施形態による例示的なDAAシステムのモデルを生成する為の例示的なオペレーションの流れ図である。 オーディオプローブによって捕捉されたマルチチャネルオーディオ信号に基づいて航空機のオーディオプローブの機能性を監視する為の例示的なオペレーションの流れ図である。 本明細書に記載された例における様々な実施形態を実装する例示的なコンピュータシステムの概略図である。
オーディオベースの航空機検知及び回避システムは、UAVの為の従来の検知システムの代替策を提供し得る。オーディオ又は音響ベースのシステムは、全指向性マイクロフォンを利用することによって、特定の方向に向く追加のセンサなしで、より容易に球面カバレッジを提供し得る。又、オーディオ又は音響ベースのシステムでは、複数の非全指向性マイクロフォンを介した球面カバレッジも提供できる。例えば、非全指向性マイクロフォンは、追加情報(例えば、前方/後方の曖昧さを解決する為)を収集する為に全指向性マイクロフォンと組み合わせて使用され得る。オーディオベースのシステムは、侵入機によって生成されるノイズと他のソース、例えば、航空機自身のエンジン(又は他のオンボードシステム、例えば、飛行システム)によって生成されるノイズ、自然ソース(例えば、風又は天候ノイズ)を区別し、音の方向性を決定し(例えば、航空機に対する侵入機の位置推定を提供し)、音源の空間及び識別情報を決定できる(例えば、音のソースが特定のクラスの航空機に属する可能性が高いと判断する)。オーディオ信号を使用する回避判定システムは又、複数の侵入機を区別し、航空機が回避マヌーバを実行するか又はその飛行経路を更新する時でさえ、有用なオーディオデータを継続的に受信する為に十分に高い信号対雑音比(SNR)を維持することが可能である。
一実施形態では、検知及び回避(DAA)システムは、オーディオセンサのアレイを使用して、例えば360度の球面ゾーン内等、航空機に対する複数の方向で侵入機の位置を決定する。侵入機によって生成されたオーディオ信号は、受信したオーディオ信号を既知の航空機信号又は航空機信号のモデルと比較し、広帯域信号(例えば、風)、非指向性信号、及び近距離場信号(例えば、航空機自身のエンジンからの雑音)を拒否することによって、例えば、風雑音又は航空機からの雑音と区別され得る。侵入機信号が検知された場合(即ち、侵入機の存在が検知された場合)、DAAシステムは、侵入機の位置情報を決定する。例えば、オーディオセンサ間の距離を用いて、DAAシステムは、航空機に対する侵入機の方位を計算し、侵入機の位置を推定することができる。幾つかの実装態様では、DAAシステムは、航空機が侵入機に対して相対的に移動する際の侵入機信号の変化を解析し、航空機に対する侵入機のレンジ及び高低角を決定してもよい。本明細書の例は単一の侵入機を論じることがあるが、幾つかの実施例では、複数の侵入機又は音源が存在する可能性があることに留意されたい。これらの実施例では、システムは、2つ以上の侵入機の位置を検知及び推定し、必要に応じて各侵入機を回避するように構成されてもよい。
DAAシステムは、音響信号から生成された位置情報及び追加の位置又は速度情報(例えば、自動従属監視放送(ADS-B)、光検知及び測距(LiDAR)、無線検知及び測距(レーダー)、グローバルポジショニング衛星(GPS)、画像データ又は他のセンシングモダリティを用いて決定した位置)を使用して、各侵入機に対応する軌道を生成して侵入機を追尾し、それは経時的な侵入機の動きを示すものであり得、幾つかの実装態様では、侵入機の飛行経路の予測も含み得る。DAAシステムは、1機以上の侵入機に対応する軌道を評価し、航空機が侵入機から遠ざかる、航空機の回避ゾーンに侵入機がいない状態を保つ、及び/又は侵入機との衝突を回避する為の航空機の回避マヌーバ又は飛行プランの変更を決定してもよい。
DAAシステムは、対象航空機の周囲のクリアゾーン(例えば、半径2000フィートの球面ゾーン)を維持するようにも選択され得る。例えば、侵入機を「回避」しようとするのではなく、DAAシステムは、球体又は空間等の自由な又は妨げられないボリュームを維持しようとしてもよい。このような場合、DAAシステムは、侵入機とUAVとの衝突を回避するのではなく、クリアゾーンの距離を維持するように設定された推定侵入機位置に基づいて、飛行経路変更を生成してもよい。クリアゾーンを維持する為に、DAAシステムは、侵入機を検知し、空域及び距離に対する侵入機の一般的な位置を決定してもよい。複数の侵入機がいる場合、侵入機は、対象航空機に対する異なる位置、侵入機よって生成されたオーディオ信号間の距離(例えば、異なる周波数帯)、及び他の音源分離技術に基づいて区別され得る。
図1Aは、音響ベースのDAAを使用する航空機100と侵入機102との間の関係を示す上面透視図である。図1Bは、航空機100と侵入機102との間の一般的な関係を別の角度から示した図である。図1Aに示されるように、航空機100と侵入機102との間の空間的関係は、方位角Θ、高低角Φ、及びレンジRの観点から定義されてもよい。航空機100及び侵入機102を基準として、方位角Θは、航空機100の視点からの航空機100と侵入機102との間の角度であり、角度Θは地平線と平行に基準平面(破線同類で示す)に投射される。高低角Φは、航空機100から見た航空機100と侵入機102との間の角度であり、角度Φは、水平線に垂直な基準平面上に投射される。レンジRは、航空機間の半径方向の距離である。DAAシステムは、航空機100が回避ゾーン103を侵入機のいない状態に保つことができるように、検知ゾーン101(又は他の関連検知領域)内の他の航空機を検知することを可能にしてもよい。
DAAシステムは、侵入機102が検知ゾーン101内にいる間、侵入機102(又は複数の侵入機)を追尾する、例えば、動きを追う為に使用されてもよい。又、DAAシステムは、回避ゾーン103に侵入機がいない状態を保つ為に、航空機100にマヌーバを行うように指示したり、飛行経路を更新したりすることができる。飛行経路及びマヌーバの変更は、侵入機102の推定位置又は侵入機102の複数の推定位置から生成された侵入機102の軌道に基づいて決定されてもよい。音響又はオーディオベースの検知の使用は、「航空機の為の音響ベース検知及び回避(Acoustic Based Detection and Avoidance for Aircraft)」という名称の米国特許出願第63/082,838号、代理人整理番号P288481.US.01に記載の任意の方法又はシステムを使用してもよく、同出願は、その全体が本明細書に組み込まれる。
航空機100には、航空機100に搭載された全指向性マイクロフォン等の複数のオーディオセンサを含むオーディオアレイが配設されていてもよい。例えば、オーディオアレイは、米国特許出願第63/082,869号、代理人整理番号P288479.US.01に記載されたオーディオアレイによって実装されてもよく、同特許出願は、全ての目的の為にその全体が本明細書に組み込まれる。信号がオーディオアレイで受信される時、DAAシステム105は、アレイ内のセンサに亘る信号の変動を解析することによって、その信号が航空機に関連する可能性が高いかどうかを決定してもよい。例えば、信号が全てのセンサに亘って同じであり、経時変化しない場合、その信号は、無相関(指向性ではない)か、センサアレイの近距離場(ニアフィールド)に存在する可能性が高く、従って、侵入機に関連していないと仮定することができる。例えば、航空機100の風又はモータからのノイズは、周期的に変化する可能性が低く、様々なセンサに亘って同様の信号が得られる可能性が高いであろう。信号が侵入機からのものである可能性が高い場合、DAAシステムは、センサ間のオーディオ信号の変動及びセンサ間の距離を解析することによって、侵入機102の方位角Θを推定することができる。
侵入機102の高低角Φ及びレンジR等の追加の位置情報を推定する為に、DAAシステムは、航空機100が移動する時、又はセンサが(例えば、センサの作動を介して)侵入機102に対して移動する時のオーディオ信号の変化を観察してもよい。幾つかの実装態様では、特定のマヌーバを用いて、追加のデータ、例えば、侵入機102に対する航空機100の位置決めを変更することによる信号特性の変化を強制的に収集してもよい。例えば、航空機100は、DAAシステムがオーディオ信号を解析して侵入機102の高低角Φ及びレンジRの推定値を生成する間、そのロール軸に沿って回転してもよい。
推定される方位角Θ、高低角Φ、及び/又はレンジRは、侵入機102の音響状態推定を提供する。DAAシステムは、音響状態推定を、他のセンシングモダリティを用いて生成された侵入機102の1つ以上の追加の状態推定と組み合わせて、侵入機の軌跡を生成してもよい。例えば、航空機100にはADS-Bが装備されてもよく、ADS-Bは、侵入機102の追加の状態推定を生成する為に使用される追加情報を捕捉し得る。DAAシステムは、音響状態推定を追加状態推定と組み合わせて、侵入機102の軌道を作成又は更新してもよい。幾つかの実装態様では、侵入機の航空機クラス(例えば、侵入機がヘリコプター、小型旅客機、又は他のタイプの航空機であるかどうか)が音から検知され、侵入機の音響状態推定又は軌道を改良する為に使用されてもよい。例えば、航空機の動きに関する仮定は、航空機の可能性の高いクラス(例えば、速度、高度、飛行パターン等の一般的な範囲)に基づいて行われてもよい。侵入機102の軌道は、航空機100のシステムによって、侵入機102から離れるようにマヌーバする為に、又は、航空機100と侵入機102との間の所望の離隔を維持する為に飛行経路を更新する為に使用されてもよい。
図2は、DAAシステムを使用して回避判定システムを実装する為に使用される例示的なハードウェア図である。DAAノード106は、マイクロフォン114a~nで受信されたオーディオ信号、及びセンサ116で受信された信号を解析し得る処理部108及びメモリ110を含む。アレイ要素112a~nは、信号が処理及び解析の為にDAAノード106に提供される前に、マイクロフォン114a~nによって受信された信号をフォーマット又は処理してもよい。DAAノード106は、DAAノード106が航空機100に様々なマヌーバを行うよう命令し、その飛行計画を更新し、航空機100の回避ゾーン103を侵入機のいない状態に保ち、航空機100に対する侵入機の位置についてより多くの情報を収集する為に他のアクションを実行できるように、航空機制御部104と通信してもよい。
マイクロフォン114a~nは、他の航空機からのノイズを最大化しながら、マイクロフォン114a~nによって知覚される飛行関連ノイズ又はバックグラウンドノイズを最小化するように選択された位置で航空機100に搭載されてもよい。例えば、幾つかの実装態様では、マイクロフォン114a~nは、プローブを通過する風による飛行関連ノイズを低減させる為に、航空機100の翼に接続又は取り付けられたプローブ上に搭載されてもよい。追加のマイクロフォンは、航空機100の他の場所に搭載されてもよい。様々な実装態様において、マイクロフォン114a~nは、全指向性マイクロフォン又は指向性マイクロフォンであってよく、又は全指向性マイクロフォン、指向性、及び/又は他のマイクロフォンの組み合わせによって実装されてもよい。マイクロフォン114a~nは、デジタル信号又はアナログ信号を提供するように実装されてもよい。集合的に、マイクロフォン114a~nで収集されたオーディオ信号は、回避判定システムにマルチチャネルオーディオ信号を提供する。又、マイクロフォンは、航空機に対して移動可能であるか、又はそうでなければその形状が可変であるように構成されてもよく、そのような移動は、航空機に対して異なる向きで信号を検知する為に使用されてもよく、航空機によるマヌーバの代わりに使用されても、又は航空機によるマヌーバを補足してもよいことに留意されたい。
アレイ要素112a~nは、マイクロフォン114a~nからの信号を捕捉し処理することができる様々なハードウェアによって実装されてもよい。例えば、一実装態様では、アレイ要素112a~nは、マイクロフォン114a~nで収集されたアナログオーディオ信号をデジタル化する為に、プログラマブルロジックを使用して実装されてもよい。他の実装態様では、アレイ要素112a~nは、マイクロコントローラ、システムオンチップ(SOC)ハードウェア、及び他のタイプの計算リソースを含む他のタイプのハードウェアを使用して実装されてもよい。
センサ116は、例えば、ADS-B受信機、LiDAR、レーダー、GPS、及び/又は画像感知(例えば、様々なタイプのカメラ)等の様々なセンシングモダリティ又はセンシングモダリティの組み合わせを使用して実装されてよく、それらは、航空機上に配置されても、飛行機とは別個に配置されてもよい。従って、センサ116は、上記のセンシングモダリティの何れかに対応するセンサを含んでもよく、2つ以上のセンシングモダリティに対応するセンサを含んでもよい。幾つかの実装態様では、センサ116は、センサからのデータの幾つかの処理を含んでもよい。例えば、センサ116における処理は、様々なセンサによって収集された情報に基づいて、侵入機の状態推定を生成してもよい。他の実施態様では、センサ116は、別の場所で処理され得る生データを提供してもよい。例えば、センサはADS-Bデータを収集し、処理の為に生データをDAAノード106に直接渡してもよい。
DAAノード106は、処理部108及びメモリ110を含む。メモリ110は、揮発性メモリと不揮発性メモリの任意の組合せを用いて実装されてもよい。処理部108は、個別に又は組み合わせて動作する1つ以上のプロセッサを含んでもよく、例えば、プログラマブルロジック及びグラフィカルプロセッシングユニットを含む他のプロセッサを含んでもよい。様々な実装において、DAAノード106は、SOCハードウェア、マイクロコントローラ、又は様々な計算リソースによって実装されてもよい。又、DAAノード106は、様々なタイプの計算リソースの組み合わせによって実装されてもよい。例えば、一実装態様において、DAAノード106は、コントローラボード及びマイクロコントローラを含む。
航空機制御部104は、航空機100を制御し、地上局及び他の航空機と通信する為の様々なシステムを含んでもよい。例えば、航空機制御部104は、超高周波(VHF)無線帯を介した通信、衛星通信、セルラー通信、又は追加の無線周波数帯を介した通信の為の送受信ハードウェアを含んでもよい。航空機制御部104は、特に、航空機100の飛行計画の生成、アクチュエータ制御、推進制御、ペイロード管理、及び安全システム管理を担当する様々なコンポーネント及びモジュールを含んでもよい。航空機制御部104は、SOCハードウェア、様々なプロセッサ、コントローラ、及びプログラマブルロジックを含む任意の数のハードウェアコンポーネントによって実装されてもよい。
DAAシステムの様々なハードウェア構成要素は、通信バス、ユニバーサルシリアルバス(USB)接続、又は他の通信接続によって通信可能に接続されてもよい。
図3は、音響検知システム118、追加検知システム120、及び回避判定122を一般に含む例示的なDAAシステム105のブロック図である。例示的なDAAシステムの各ブロックは、様々なアルゴリズム、モデル、プログラミング、又は様々なアルゴリズム、モデル、及びプログラミングの組み合わせを使用して実装され得る。幾つかの実装態様では、DAAシステムの各ブロックに対応する命令は、同じプロセッサ(例えば、DAAノード106)を使用して実行されてもよい。他の実装態様では、幾つかの命令は、異なるボード上のプロセッサによって、又は共有ボード上の異なるプロセッサによって実行されてもよい。例えば、信号捕捉124及び信号処理126の為の命令は、アレイ要素112a~112nのプロセッサによって実行されてもよく、一方、定位128及び遭遇判定130は、DAAノード106の処理リソース108を使用して実行されてもよい。遭遇判定130は、例えば、侵入機が航空機に対する検知範囲内に存在する確率、尤度、又は確信度を生成してもよい。更に、DAAシステムの1つのブロックの為の命令は複数の場所で実行されてもよい。例えば、初期信号処理126の命令は、アレイ要素112a~112nで実行されてもよく、更なる信号処理126は、DAAノード106で発生してもよい。
例示的なDAAシステムの1つ以上のブロックは、ディープニューラルネットワークを含む機械学習モデルを使用して実装されてもよい。幾つかの実装態様では、DAAシステムの幾つかのブロックは、単一のモデルによって、又は協調的に動作するモデルの組合せを用いて実装されてもよい。例えば、一実装態様では、定位128及び遭遇判定130は、共有ディープニューラルネットワークによって実装されてもよく、軌道生成140及び回避マヌーバ選択142は、別の共有ディープニューラルネットワークによって実装される。
音響検知システム118は、音響信号を収集し、処理し、解析する為の様々なハードウェアを含んでもよい。信号捕捉124の為の命令は、受信したオーディオ信号をタイムスタンプし、チャネル間でオーディオ信号を整列させてマルチチャネルオーディオ信号を生成する為のアルゴリズムを含んでもよい。幾つかの実装態様では、信号捕捉124は、処理の為にアナログ信号をデジタル信号に変換することを含んでもよい。信号捕捉124は、アレイ要素112a~n、DAAノード106、又はアレイ要素112a~nとDAAノード106の組み合わせで発生してもよい。例えば、幾つかの実装態様では、入力されるアナログ信号は、夫々のアレイ要素112a~nでデジタル信号に変換され、タイムスタンプされ、デジタル信号は、DAAノード106でマルチチャネルオーディオ信号を形成するように整列されてもよい。
信号処理126の命令は、マルチチャネルオーディオ信号を変換する為のアルゴリズム及び機械学習モデルを含んでもよい。信号処理126に含まれるアルゴリズム又はモデルは、マルチチャネルオーディオ信号を解析する為にDAAシステムによって実装される方法に依存してもよい。例えば、一実装態様では、DAAシステムは、入力として3次元周波数領域データを受信する定位用モデルを含み、信号処理126は、マルチチャネルオーディオ信号を周波数領域に変換する為の高速フーリエ変換(FFT)アルゴリズムを含む。信号処理126は、オーディオ信号を異なるサンプリング周波数に再サンプリングすることも含んでもよい。別の実装態様では、信号処理126は、DAAシステムによって実装されるディープニューラルネットワーク内で発生してもよい。幾つかの実装態様では、信号処理126は、マルチチャネルオーディオ信号から外来ノイズをフィルタリングすることを含んでもよい。例えば、信号処理126は、広帯域風信号を識別し、マルチチャネルオーディオ信号からそれらの信号をフィルタリングしてもよい。
定位128の命令は、DAAシステムによって実装される定位方法に応じて、アルゴリズム及び機械学習モデルの様々な組み合わせを使用して実装されてもよい。例えば、定位128は、マルチチャネルオーディオ信号のビームフォーミングの為のアルゴリズムと、指向性を決定する為にビームフォーミングされたオーディオ信号を解析する為の追加のアルゴリズムとを含んでもよい。別の例示的な実装態様では、定位128は、方位角の推定を生成する為に方位角のビンを表す複数のバイナリ分類器を用いて実装されてもよい。更に別の例示的な実装態様では、定位128は、ラベル付けされたマルチチャネルオーディオ及び指向性データを使用して生成されたディープニューラルネットワークを使用して実装されてもよい。又、定位128は、航空機100の運動中に収集されたオーディオ信号に基づいてレンジ及び高低角を決定する為の機械学習モデル、アルゴリズム、又は組合せを含んでもよい。
航空機マヌーバ134は、特定の航空機マヌーバの為の命令を航空機制御部104に提供するように実施されてもよい。従って、航空機マヌーバは、航空機制御部104の様々な構成要素への、様々な航空機マヌーバを開始させる命令(例えば、作動制御及び推進制御の命令)を含んでもよく、それらは、幾つかの実装態様では、侵入機102に関する追加情報を収集する為に使用され得る。幾つかの実装態様では、航空機マヌーバ134によって航空機制御部104に提供される命令は、定位128によって生成された推定に依存してもよい。
遭遇判定130は、受信したオーディオ信号が、1機以上の侵入機らしきものと関連するかどうかの初期判定を行うモジュールであってよい。例えば、音源が、UAVの周囲の空間領域内、UAVに対する距離内、又はシステムによって選択される他の閾値内に1機以上の侵入機が存在することを示す場合に、遭遇が判定されてもよい。本方法において、遭遇判定126は、受信したマルチチャネルオーディオ信号が侵入機102に関連する尤度を生成する為に、アルゴリズム及び機械学習モデルの様々な組み合わせによって実施され得る。幾つかの実装態様では、遭遇判定130は、既知の航空機からのマルチチャネルオーディオ信号を使用して(例えば、航空機生成ノイズのオーディオ録音を使用して)生成されたディープニューラルネットワークを使用して実装されてもよい。ディープニューラルネットワークは、幾つかの実装態様において、定位128に使用されるのと同じディープニューラルネットワークであってよい。
別の例示的な実装態様では、遭遇判定130は、分類器(ディープニューラルネットワークとは別個に、又はそれと組み合わせて)を使用して実装され、それは、例えば、ランダムフォレスト分類器又はバイナリ分類器であってもよい。更に別の実装態様では、遭遇判定130は、受信されたマルチチャネルオーディオ信号を航空機に関連する既知のオーディオ信号と比較するアルゴリズム及びモデルを使用して実装されてもよい。例えば、航空機のブレードパス周波数を利用して、航空機に関連する周波数を示す複数のフィルタを生成してもよい。例えば、潜在的な侵入機のブレード通過周波数の先験的知識を利用して、そのような侵入機から予想される基本周波数及び高調波周波数に基づく複数のフィルタを生成してもよい。マルチチャネルオーディオ信号(又は信号処理126によって生成されたマルチチャネルオーディオ信号の表現)は、信号が航空機に関連するかどうかを決定する為に、フィルタと相互相関されるか、又は他の方法で比較されてもよい。幾つかの実装態様では、遭遇判定130は、相互相関プロセス中に航空機の特定型式を識別する為のモデル及びアルゴリズムも含み得る。特定型式の航空機の識別は、識別又は特定のメーカー及びモデルの航空機、又は航空機のクラス(例えば、ヘリコプター、ジェット機、又はプロペラを使用する小型航空機)の識別を含んでもよい。航空機の特定型式の識別は又、モデル内の他の場所で行われてもよく、幾つかの実装態様では、深層学習モデルによって別個に行われてもよい。幾つかの例では、遭遇判定130は、信号が一般的な航空航空機、ヘリコプター等に関連する確率を含んでもよい。別の例として、オーディオ信号は、より特定の範囲の航空機、例えば、大型ジェット機、小型ジェット機、ナローボディ機等に関連するものとして特徴付けられてもよい。予想される飛行高度、速度範囲等の情報が、航空機の種類の分類に基づいてシステムによって抽出され利用され得るので、分類は、侵入機を回避し及び/又はクリアゾーンを維持する為のマヌーバに関する決定をシステムが行うことを支援し得る。
追加の検知システム120は、幾つかの例では、追加の音響検知アレイを含む、1つ以上の追加のセンシングモダリティにおけるセンサの為のハードウェアを含んでもよい。センサ捕捉136は、航空機100の検知ゾーン101内の侵入機を検知することが可能なセンサによって実装されてもよい。幾つかの実装態様では、センサキャプチャ136は、センサキャプチャ136が検知ゾーン101の外側の信号を捕捉し得るように、音響検知システム118とは異なる検知範囲を有していてもよい。センサキャプチャ136は、例えば、ADS-B、LiDAR、レーダー、GPS、及び/又は画像センシングを実装する為のセンサを含んでもよい。複数のタイプのセンサがセンサキャプチャ136に含まれる幾つかの実装態様では、センサは冗長であってもよく(例えば、2つのタイプのセンサが同じ物理空間に関するデータを捕捉する)、又は異なる空間領域をカバーしてもよい。例えば、センサキャプチャ136は、航空機100の前方の空間を感知するレーダーと、航空機100の側方及び後方の空間を感知する立体カメラとを含んでもよい。
センサ位置推定138は、センサ116又はDAAノード106のプロセッサを使用して実装されてもよい。幾つかの実装態様では、センサ位置推定138は、センサ116及びDAAノード106の両方におけるプロセッサによって実装されてもよい。例えば、センサ116における処理は、初期の生信号を処理してもよく(例えば、信号をタイムスタンプする)、一方、DAAノード106は、初期の生信号を使用して位置推定を生成する。幾つかの実装態様では、複数のタイプのセンサがセンサキャプチャ136に実装されてもよく、センサ位置推定は、複数の信号に基づいて位置推定を生成する為のアルゴリズム、モデル、又は様々な組み合わせを含んでもよい。他の実装態様では、センサ位置推定138は、収集された信号に基づいて位置推定を生成する為に、既知のアルゴリズム又は方法を使用して実装されてもよい。
様々な実装において、センサ位置推定138は、第1の信号(例えば、オーディオ信号)及び第2の信号を使用して位置を推定してもよい。第2の信号は、異なる時点で収集された別のオーディオ信号であってよく、或いはADS-B In、LiDAR、レーダー、画像データ若しくは視覚ベースの信号、GPS、又は他のセンサモダリティ等の異なるセンサモダリティを使用して収集された信号であってもよい。例えば、一実装態様において、オーディオ信号は、位置推定を生成する為に視覚ベースの信号(例えば、カメラ)と併用されてもよい。この例では、オーディオ信号が位置の大まかな近似値を提供し(例えば、航空機の左側に侵入機がいる可能性が高い)、視覚ベースの信号がオーディオ信号から生成された推定値を改良する可能性がある。言い換えると、第1の信号は、より遠い距離から検知され得る一般的な位置情報を決定する為に使用されてもよく、第2の信号は、より正確又は高感度の位置情報(ソースに近い距離から検知され得る)を決定する為に使用されてもよい。これらの例では、第1の信号は、第2の信号の為にセンサを作動させるタイミングを決定する為に使用されてもよく、例えば、第1の信号が航空機の特定の距離閾値内の侵入機を検知する為に使用されると、システムは次に第2のセンサを作動させて第2の信号を検知することが可能である。
又、第2の信号は、第1の信号を補足する為に使用されてもよい。又、例えば、オーディオ信号は、方向性情報を提供せず、代わりに航空機に対して何処かに侵入機がいるという指示を提供してもよい。この例では、1つ以上のカメラが侵入機のオーディオ検知に応答して起動し、オーディオ信号のソースを検索し、侵入機に関する位置推定を生成することができる。更に、幾つかの実装態様では、3つ以上の異なる信号(収集時間、センシングモダリティ、又は収集時間とセンシングモダリティの両方が異なる)が、位置推定138を生成する為に使用されてもよい。
回避判定122は、様々なモデル、アルゴリズム、プログラミング、又はモデル、アルゴリズム、及びプログラミングの様々な組み合わせを使用して実装されてもよい。回避判定122の為の命令は、処理部108及びDAAノード106を使用して実行されてもよい。幾つかの実装態様では、例えば、ディープニューラルネットワークは、軌道生成140及び回避マヌーバ選択142の両方を実装してもよい。他の実装態様では、アルゴリズムを使用して軌道生成140を実装してもよく、機械学習モデルを使用して回避マヌーバ選択142を実装してもよい。例えば、回避マヌーバ選択142は、飛行シミュレーションデータ、実世界の飛行データ、又は飛行シミュレーションデータと実世界の飛行データの組み合わせを使用して生成されたディープニューラルネットワークを使用して実装されてもよい。回避マヌーバ選択142は又、飛行シミュレーションデータ、実世界の飛行データ、又は飛行シミュレーションデータと実世界の飛行データの組み合わせを使用して訓練されたランダムフォレストモデル等の、他のモデルによって実装されてもよい。
回避マヌーバ選択142の為の他のタイプのモデルは、ヒューリスティックベースのモデル、強化学習、モデル予測制御、動的プログラミング、及びそれらの組み合わせを含んでもよい。例えば、強化学習モデルは、様々なマヌーバ(飛行中又はシミュレーションの何れか)に起因するオーディオ信号の変化を観察してもよく、このような変化は、その後、所望の結果(例えば、侵入機から遠くに移動する)を得る為のマヌーバを選択する為に使用されてもよい。
幾つかの実装態様では、侵入機について最も多くのデータを収集し得るマヌーバを選択する為に、情報理論を使用してマヌーバが選択されてもよい。例えば、システムは、マヌーバによって収集されそうな情報の量に基づいて、回避マヌーバ、情報収集マヌーバ、及び回避マヌーバと情報収集マヌーバの両方として機能するマヌーバを含む、様々な可能なマヌーバを得点化してもよい。幾つかの実装態様では、侵入機を回避する、又は、航空機の周囲のゾーンをクリアに保つこともできる最も高い得点のマヌーバが次に選択されて、航空機がマヌーバ中に侵入機ついての追加情報を収集できるようにする。
回避マヌーバコマンド144の命令は、航空機制御部104と通信する為にDAAノード106の処理部108を使用して実行されてもよい。回避マヌーバは、様々な実装において、航空機100の飛行経路の変更、航空機100が元の飛行計画に戻る後の有限マヌーバ、又は一般的に航空機100の回避ゾーン103を侵入機のいない状態に保つ、又は衝突、天候等を回避する他の動作を含んでもよい。音響に基づくDAAシステムの様々なブロックは、幾つかの実装態様において、共通のモデルによって実装されてもよい。一般に、様々なブロックは、通信可能に接続され、多チャンネルオーディオデータ及び追加のセンサデータを協調的に処理し、解析する。
図4は、侵入機の軌道推定に基づいて航空機の回避マヌーバを選択する為の例示的なステップの流れ図である。生成オペレーション202は、侵入機に関連する捕捉されたオーディオ信号に基づく音響侵入機定位を用いて、推定侵入機位置を生成する。音響侵入機定位は、「音響ベースの航空機検知及び回避(Acoustic Based Detection and Avoidance for Aircraft」という名称の米国特許出願第63/082,838号、代理人整理番号P288481.US.01に記載の方法及びシステムを用いて音響検知システム118により生成されてもよく、同出願は、その全体が本明細書に組み込まれる。状態侵入機定位は、侵入機の位置情報を含んでもよく、これは、幾つかの実装態様において、推定方位角、高低角、及びレンジとして表現されてもよい。
オプションの関連付けオペレーション204は、音響侵入機定位を第2の侵入機位置と関連付けて、推定侵入機位置を生成する。第2のセンサ侵入機定位は、幾つかの実装態様において、追加の音響検知システムからの音響信号に基づいて生成されてもよい。代替的又は追加的に、第2のセンサ侵入機定位は、例えば、ADS-B In、LiDAR、レーダー、画像データ、GPS、又は他の位置センシングモダリティのうちの1つ以上に基づいてもよい。
音響侵入機定位と第2のセンサ侵入機定位は、例えば、各位置特定に関連付けられたタイムスタンプを使用して関連付けられてもよい。例えば、音響侵入機定位及び第2のセンサ侵入機定位は、定位に関連付けられたタイムスタンプが同様の時間間隔内にある場合(例えば、互いに1秒以内に収集されたデータに基づいて定位が生成された場合)、関連付けられてよい。幾つかの実装態様では、定位は、定位における侵入機の位置に基づいて、更に又は代替的に関連付けられてもよい。侵入機の位置を使用することは、例えば、第1の侵入機の位置を特定する音響定位と、第2の侵入機の位置を特定する第2の定位との間の誤った関連付けを防止し得る。
推定侵入機位置を生成する為に様々な方法が使用されてもよく、方法は、データを収集する為に使用されるセンサ及びシステムの精度に基づいて更新されてもよい。例えば、レーダーデータに基づく第2の定位は、音響侵入機定位よりも高く重み付けされ(例えば、より正しい可能性が高いと見做され)、推定位置が定位の加重平均として表現されてもよい。幾つかの実装態様では、推定侵入機位置を生成する為に、ベイジアンフィルタ(カルマンフィルタ等)又はモンテカルロ法(粒子フィルタ等)等の確率的フィルタリングが使用されてもよい。侵入機について以前の位置推定が計算された場合(例えば、侵入機がDAAシステムによって盛んに追尾されている)、推定された侵入機位置は、以前の位置推定又は既存の侵入機位置の予測と比較されてもよく、既存の侵入機位置に基づいて調整されてもよい。例えば、推定位置と既存の侵入機位置とが、時間間隔に亘って物理的に不可能又はあり得ない距離を移動する侵入機を示す場合、推定位置は、既存の侵入機位置に基づいて調整されてもよく、場合によっては、無視されてもよい。このような比較は、幾つかの実装態様において、オーディオ信号の解析から得られた航空機の推定クラスを使用して、以前の又は既存の位置推定に基づいて予測された位置推定を生成してもよい。例えば、航空機が、高尤度で、小型プロペラ機であると判定される場合、推定位置を正しいものとする為に、該当航空機がそのクラスの航空機の可能な(又は確率的な)速度よりも高い速度で移動しなければならなかったであろうような推定位置は、調整又は無視され得る。
幾つかの実装態様では、位置推定を追尾又は比較することにより、アレイの幾何学的形状に起因して生成された複数の可能な位置から位置を解明することができる。例えば、線形アレイでは、侵入機の2つの可能な検知が生成されてもよく、1つの検知は正しい位置に侵入機を示し、もう1つは翼を横切って前から後ろにミラーリングされる。検知が経時的にどのように移動するかを追尾することにより、侵入機の可能性の高い、又は可能性のある移動に基づいて、正しい検知を選択することができる。例えば、1つの軌道が合理的且つ高尤度の動きを示し、第2の軌道が平均速度よりも高い速度で、又は異常な(又は不可能な)方向に移動する侵入機を示す場合、第2の軌道は無視されてもよい。
更新オペレーション206は、推定侵入機位置に基づいて、侵入機の軌道推定を更新する。軌道推定は、侵入機の動きを時間的にマッピングする為に、複数の推定位置を含んでもよい。幾つかの実装態様では、軌道推定は又、侵入機の将来の動きの予測を含んでもよい。軌道推定は、提出された飛行計画、航空交通データ、又は地上ベースの航空機検知システム等、他のソースから収集された侵入機の飛行データに基づいてもよい。
更新オペレーション206は、推定侵入機位置を使用して更新する侵入機軌道を決定する為に、推定侵入機位置を複数の既存の軌道と比較してもよい。比較は、例えば、確率的位置、オーディオ信号比較、又は侵入機の予測される動きに基づいてもよい。推定された侵入機位置が既存の軌道推定と一致しない場合、更新オペレーション204は、新たな軌道推定を生成してもよい。
選択オペレーション208は、侵入機航空機に対する軌道推定に基づいて航空機の為のマヌーバを選択し、マヌーバは、侵入機と航空機との間の距離を増加させる為に、例えば、回避マヌーバ、及び/又は侵入機に関する追加情報を検知する為に、例えば、情報マヌーバを選択することができる。幾つかの実装態様では、回避マヌーバは、複数の侵入機軌道に基づいてもよい。選択オペレーション206は、提案された回避マヌーバを生成する為に、少なくとも侵入機軌道を入力として受け取るモデルを使用してもよい。ランダムフォレスト又はディープニューラルネットワーク等の様々なモデルが、選択オペレーション206において使用されてもよい。そのようなモデルは、シミュレートされた飛行データ、実世界の飛行データ、テストデータ、又は異なるタイプのデータの組み合わせを使用して生成されてもよい。例えば、選択オペレーション206で使用されるディープニューラルネットワークが、航空機の飛行シミュレーションデータ、及び音響検知システム118に対する様々なマヌーバの効果に関する飛行データを使用して生成されてもよい。その結果、ディープニューラルネットワークは、マヌーバの実行中に音響検知システム118が良好に機能し続けるように、回避ゾーン103に侵入機がいない状態を保ち、マイクロフォン114a~nにおいて最小限の過剰ノイズを発生する回避マヌーバを提案してもよい。例えば、マイクロフォン114a~nによって収集された信号のSNRを閾値未満に減少させない回避マヌーバが、ディープニューラルネットワークによって提案され得る。ランダムフォレスト分類器又は他の機械学習モデルも、選択オペレーション206で使用されてもよく、飛行シミュレーションデータ、実世界の飛行データ、テストデータ、又は異なるタイプのデータの組み合わせを使用して訓練されてもよい。
回避マヌーバは、航空機100の回避ゾーン103を侵入機のいない状態に保つ為に、航空機100の現在の飛行計画及び侵入機の軌道(予測された軌道を含む)に基づいて生成されてもよい。例えば、航空機100の現在の飛行計画及び侵入機102の予測された軌道が、侵入機102が航空機100の上方の回避ゾーン103に入りそうであることを示す場合、生成動作206は、回避ゾーンを空けて保つ為に航空機100の高度を下げる回避マヌーバを生成して良い。同様に、航空機100は、例えば、回避ゾーン103を侵入機からクリアに保つ為に、高低角を上げる、機首方位を変える、ホバリングする、又はホールディングパターンに入ることができる。
又、マイクロフォン114a~nによって収集された信号のSNRを維持する為、及び/又は収集された信号を変化させる為に、マヌーバが選択されて侵入機の位置をより良く理解してもよい。例えば、高低角の素早い変化は、横風を発生させ、過剰なノイズを発生させ、マイクロフォン114a~nによって収集された任意のオーディオ信号のSNRを減少させる可能性がある。選択オペレーション206において、SNRが回避マヌーバ中に閾値より上に留まるように、降下速度が選択されてもよい。例えば、降下又は上昇の角度は、マイクロフォン114a~nを航空機100に取り付けるプローブの空気力学的特性を補完するように選択されてもよい。別の例では、マヌーバ中に航空機100の向きを変更することで、マヌーバによって引き起こされるSNR減少を緩和することができる。例えば、航空機100のロール角の調整は、高低角変化により生じる風切り音を打ち消すことができる。幾つかの実装態様では、DAAシステム105は、マイクロフォン114a~nで受信された信号のSNRを継続的に監視してもよく、そのような緩和調整は、航空機100の飛行中に行われてもよい。
更に別の例として、侵入機に対するアレイマイクロフォンの相対的な関係を意図的に変化させる為に、マヌーバを制定してもよい。このように、マヌーバは、音響信号の変動等、侵入機の更なる情報を提供し、侵入機信号からノイズを分離するのを助ける追加情報を生成する為に使用されてもよい。様々な実施態様において、侵入機の推定位置に基づいて情報を得る為に使用され得る所定のマヌーバが存在し得る。例えば、検知された侵入機信号が航空機に関連する特定の位置から来ている場合、選択された方向へのロール又は特定の方法での翼の揺れが使用されてもよい。これらのマヌーバは、本明細書に記載された技術に基づいて予め決まっていてもよく、検知された信号における精度を高めるのを補助し得る信号における望ましい変動に直接関連する。多くの実施形態において、選択されたマヌーバは、回避マヌーバであると同時に、侵入機に対する相対距離を増加させ、侵入機の推定位置に関する追加情報を提供し得ることに留意されたい。
選択オペレーション206で使用されるモデルは、回避マヌーバを選択する際に、例えば、天候データ、飛行条件、燃料レベル、特定の地理的領域に適用される空域制限、地形図等の追加のデータを使用してもよい。例えば、航空機100に近い天候は、回避ゾーン103を侵入機からクリアに保つ上で、さもなければ良い選択となる回避マヌーバを妨げ得る。別の例として、侵入機に対する距離を増加させるのに最適なマヌーバは、そのようなマヌーバが航空機の地形衝突(例えば、地面との衝突)を発生させる危険性がある場合、選択されない可能性がある。
選択オペレーション206の後、DAAシステムは、選択された回避マヌーバを実現する為に、任意選択で航空機制御部104と通信することができる。DAAシステムは、推定侵入機位置を生成する為にデータを収集し続け、回避マヌーバの実行中に軌道を更新する為に推定侵入機位置を使用することができる。幾つかの実装態様では、DAAシステムは、回避マヌーバ及び侵入機軌道データを格納し、格納されたデータを使用して、選択オペレーション206で使用されるモデルを更新又は更に訓練することができる。
図5は、特定の実施形態による例示的な回避判定システムのモデルを生成する為の例示的なステップの流れ図である。第1の収集オペレーション302は、航空機に対して相対的に移動する侵入機に関するデータを収集する。収集オペレーション302中に収集されたデータは、シミュレーションデータ、実世界の飛行データ、テストデータ、又は様々なタイプのデータの任意の組合せを含んでもよい。例えば、シミュレーションデータは、航空機100及び侵入機(例えば、侵入機102)の様々な飛行経路をシミュレートする為に、航空機特有のシミュレーションソフトウェアを用いて生成されてもよい。シミュレーションソフトウェアは、航空機100の位置、侵入機の位置、航空機100の速度、気象条件、空域制限、飛行条件、燃料条件等のパラメータを変化させて、多くの変化した状況において回避策を選択するようにモデルを訓練することができる様々な飛行シミュレーションにおいて航空機100による多くの回避マヌーバの実行をシミュレートすることができる。
幾つかの実装態様では、シミュレーションデータは、様々な航空機と相関するオーディオデータと関連付けられ得る。そのようなオーディオデータは、例えば、地上ベースのオーディオアレイを使用して、又は追尾されたフライト上の航空機搭載オーディオアレイを使用して、収集されてもよい。そのようなオーディオデータは、生のオーディオ記録、スペクトログラム、時間領域信号、又は他の表現として提供されてもよい。位置データに加えてオーディオデータに基づいてモデルが訓練される場合、回避マヌーバは、追加のセンサデータと関連付けられることなく、音響検知システム118によって収集及び解析されたデータに基づいて選択されてもよい。更に、オーディオデータは、軌道生成140の間にモデルによって使用され、定位に別のデータポイントを提供してもよい。幾つかの実装態様では、モデルは、オーディオデータを使用して航空機100の為の情報収集マヌーバを選択してもよい。例えば、航空機100は、侵入機に対するマイクロフォンアレイの相対的な関係を調整するようにマヌーバすることで、モデルを訓練する際に使用されるオーディオデータと比較する為に侵入機信号を強化してもよい。
収集オペレーション302は、幾つかの実装態様において、飛行計画、記録された飛行データ、又は他のソースを通じて取得され得る、異なるタイプの侵入機航空機の典型的な動きに関するデータも収集し得る。幾つかの実装態様では、オーディオ信号は、DAAシステムが収集されたオーディオ信号に基づいて航空機の種類及び航空機の動きを予測し得るように、異なる種類の航空機に相関させることもできる。そのようなオーディオデータは、地上アレイ、航空機搭載アレイ、デジタルオーディオファイル、又は利用可能な他のソースによって収集されてもよい。
第2の収集オペレーション304は、航空機による回避マヌーバの結果を含む結果データを収集する。例えば、シミュレーションソフトウェアによって収集されたデータは、回避マヌーバが回避ゾーン103を侵入機のいない状態に保つのか、衝突をもたらすのか、航空機100が高度を失い過ぎるのか、又は回避マヌーバによるその飛行計画からの航空機100の分散等を他のデータポイントと共に含み得る。データは、航空機100と侵入機の飛行パラメータ、気象条件、飛行条件等を変化させることによって、様々な状況について収集されてもよい。
第2の収集オペレーション304は、航空機100の音響検知システム118に対する特定のマヌーバの影響に関するデータを収集することもできる。例えば、幾つかのマヌーバは、マイクロフォン114a~nでノイズを発生させ、音響検知システム118が侵入機を検知する際に信頼できない程SNRを低下させる可能性がある。従って、マイクロフォン114a~nによって捕捉された信号のSNRは、様々なマヌーバ及び飛行計画の変更に応答して測定されてもよい。データは、飛行中に航空機に取り付けられたマイクロフォンアレイを使用して、又は、例えば、航空機100の様々なマヌーバをシミュレートする風洞を使用して収集されたテストデータを使用して、収集されてもよい。モデルは、SNRをより少なく減少させるマヌーバを選択するように訓練又は生成されてもよく、又は回避マヌーバとしてそのようなマヌーバを選択する際に緩和調整(例えば、降下中の航空機100のロールに対する調整)を組み込むように訓練され得る。更に、幾つかの実装態様では、侵入機に関する位置情報を生成する為に使用される情報収集マヌーバを開始する為に使用されるモデルは、SNRに対する様々なマヌーバの効果に関する同様のデータを使用して訓練され得る。従って、情報収集マヌーバは、マヌーバの間、高いSNRを確保するように調整されてもよい。
生成オペレーション306は、収集されたオーディオ信号及び結果データを使用して、侵入機からのオーディオ信号に基づいて回避マヌーバを推奨する為のモデルを生成する。生成オペレーション306は、収集オペレーション302及び第2の収集オペレーション304において収集されたデータを使用して、機械学習モデルを生成又は訓練してよい。例えば、生成オペレーション306は、オペレーション302及び304において収集されたデータを用いて、ディープニューラルネットワークを生成してもよい。別の実装では、生成オペレーション306は、収集されたデータを用いてランダムフォレスト分類器を訓練してもよい。幾つかの実装態様では、複数のモデルが生成オペレーション306の間に生成又は訓練されてもよく、回避マヌーバ選択142を実装する為に協働してもよい。例えば、分類器は、与えられた風条件においてマイクロフォン114a~nにおけるSNRを維持する回避マヌーバのサブセットを推奨するように訓練されてもよく、深層学習モデルは、分類器によって生成された回避マヌーバのサブセットから回避マヌーバを選択してもよい。他の組み合わせ及びタイプのモデルも、回避マヌーバ選択142に使用されてもよい。更に、幾つかの実装態様では、生成動作306中に生成されたモデルは、軌道生成140を実装する為、又はDAAシステム105の為の他のタスクを実行する為にも使用され得る。
図6は、オーディオプローブによって捕捉されたマルチチャネルオーディオ信号に基づいて航空機のオーディオプローブの機能性を監視する為の例示的なステップの流れ図である。幾つかの実装態様では、オーディオプローブの飛行前チェック及び較正は、図6に含まれるステップの前に使用されてもよい。例えば、航空機自身のプロペラ、記録されたオーディオパターン、又は他のオーディオソース等の既知のオーディオソースからプローブで受信されたオーディオ信号を観察することによって、オーディオプローブの機能が飛行前に解析され得る。更に、システムに含まれるオーディオプローブの数は、オーディオプローブの1つ(又はそれ以上)が適切に機能していない場合でも、飛行中にDAAシステム105を継続して使用することを可能にし得る。例えば、システムは、アレイ内の何らかの個数のマイクロフォンが適切に機能している限り、適切に機能していないマイクロフォンからの信号を無視するように較正又はプログラムされてもよい。
受信オペレーション402は、航空機の複数のオーディオプローブでマルチチャネルオーディオ信号を受信する。受信オペレーション402は、「音響ベースの航空機検知及び回避(Acoustic Based Detection and Avoidance for Aircraft)」という名称の米国特許出願第63/082,838号、代理人整理番号P288481.US.01に記載の方法及びシステムの何れかを含み得るが、同出願は、その全体が本明細書に組み込まれる。
オペレーション404は、マルチチャネルオーディオ信号が、動作中に航空機自身のプロペラのうち1つ以上によって生成される信号等、航空機に対応する予想されるオーディオを含むか否かを判断する。一般に、マイクロフォン114a~nで収集されたマルチチャネルオーディオ信号は、侵入機よって生成された信号、環境信号(例えば、風又は雨)、及び航空機100によって生成された一定の信号を含むことになる。次に、航空機100によって生成された信号は、音響検知システム118の精度及び動作状態を評価する為のグランドトゥルースとして使用されてもよい。オペレーション404は、例えば、収集された信号と予期される信号との画像比較を用いて、収集されたマルチチャネルオーディオ信号を予期される信号と比較してもよい。幾つかの実装態様では、航空機100は、オーディオアレイと侵入機の間の関係を調整するマヌーバを実行して、比較の為のより強い又はより明確な信号を得てもよい。比較は、幾つかの実装態様において、周波数、強度、周期性、又は他の特性に基づいて信号を比較し、信号が一致するかどうかを決定してもよい。
マルチチャネルオーディオ信号が航空機に対応する予期されるオーディオを実際に含む場合、オペレーション408は、マルチチャネルオーディオ信号を使用して、航空機に対する侵入機位置を検知する。信号が予期される信号を実際に含む場合、音響検知システム118は適切に機能している可能性が高く、例えば、図4で説明した動作を実施する為に使用され得る。例えば、マイクロフォン114a~nの全てが正しく機能している場合、DAAシステム105を使用して、侵入機102の位置を推定し、侵入機102を経時的に追尾し、航空機100と侵入機102との間の離隔距離を維持して航空機100の回避ゾーン103に侵入機102がいることのないように航空機100のマヌーバを選択することが可能である。
マルチチャネルオーディオ信号が航空機に対応する予期されるオーディオを含まない場合、生成動作406は、複数のオーディオプローブのうちの1つ以上が正しく動作していない、又は故障しているという警告を生成する。DAAシステム105及び航空機100は、生成された警告に基づいて様々なアクションを取ることができる。例えば、幾つかの実装態様では、DAAシステム105は、マイクロフォン114a~nのうちどれが正常に機能していないかを判定する為の機能を含んでもよく、DAAシステム105は、期待通りに機能しているマイクロフォン114a~nのサブセットで動作を継続してもよい。DAAシステム105は又、幾つかの実装態様において、音響検知システム118を無効にし、航空機100は、追加検知システム120を使用してその飛行経路を継続してもよい。音響検知システム118が無効にされている間、機能していないマイクロフォンは、場合によっては、再起動されるか、又はリセットされてもよい。幾つかの実装態様では、航空機100は、オペレーション406によって生成された警告に応答して、着陸、方向転換、又はその他の方法で飛行を中止する為に、その飛行経路を変更してもよい。
幾つかの実装態様では、DAAシステム105は、可変ビームフォーミングアプローチを使用して、正しく動作していないマイクロフォンからの信号を無視しながら、動作中のマイクロフォンからの信号を処理してもよい。例えば、DAAシステム105は、正しく動作していないマイクロフォンからの信号を「スキップ」又は無視し、機能しているマイクロフォンを使用してオーディオ検知を継続してもよい。
図7は、本明細書で説明した例における様々な実施形態を実施する為の例示的なコンピュータシステム500の模式図である。コンピュータシステム500は、DAAノード106(図2において)を実装する為に使用されてもよいし、航空機制御システム104の1つ以上の構成要素に統合されてもよい。例えば、音響検知システム118及び/又は回避判定122は、図7に示すコンピュータシステム500の構成要素のうちの1つ以上を用いて実装されてもよい。コンピュータシステム500は、図1~図6に開示された構成要素又は動作のうちの1つ以上を実装又は実行する為に使用される。図7において、コンピュータシステム500は、1つ以上の処理要素502、入出力インターフェース504、ディスプレイ506、1つ以上のメモリ構成要素508、ネットワークインターフェース510、及び1つ以上の外部デバイス512を含んでもよい。様々な構成要素の夫々は、1つ以上のバス、有線又は無線ネットワーク等の通信ネットワークを通じて互いに通信していてもよい。
処理要素502は、命令を処理、受信、及び/又は送信することができる任意のタイプの電子デバイスであってよい。例えば、処理要素502は、中央処理装置、グラフィックス処理装置、マイクロプロセッサ、プロセッサ、又はマイクロコントローラであってもよい。更に、コンピュータ500の幾つかの構成要素は第1のプロセッサによって制御されてもよく、他の構成要素は第2のプロセッサによって制御されてもよく、第1と第2のプロセッサは、互いに通信していても通信していなくてもよいことに留意されたい。
メモリ構成要素508は、コンピュータ500によって、処理要素502の為の命令を格納すると共に、マルチチャネルオーディオデータ、侵入機軌道等のデータを格納する為に使用される。メモリ構成要素508は、例えば、光磁気ストレージ、リードオンリーメモリ、ランダムアクセスメモリ、消去可能プログラマブルメモリ、フラッシュメモリ、又は1つ以上のタイプのメモリ構成要素の組合せであってもよい。
ディスプレイ506は、ユーザに視覚的なフィードバックを提供する。任意選択で、ディスプレイ506は、ユーザが本開示で説明するようにDAAノード106又は航空機制御部104の様々な構成要素を制御、操縦、及び較正できるようにする為の入力要素として機能してもよい。ディスプレイ506は、液晶ディスプレイ、プラズマディスプレイ、有機発光ダイオードディスプレイ、及び/又は他の適切なディスプレイであってもよい。ディスプレイ506が入力として使用される実施形態では、ディスプレイは、静電容量式タッチセンサ、抵抗グリッド等の1つ以上のタッチセンサ又は入力センサを含んでもよい。
I/Oインターフェース504は、ユーザがコンピュータ500にデータを入力することを可能にすると共に、コンピュータ500が他のデバイス又はサービスと通信する為の入力/出力を提供する。I/Oインターフェース504は、1つ以上の入力ボタン、タッチパッド等を含み得る。
ネットワークインターフェース510は、コンピュータ500と他のデバイスとの間の通信を提供する。ネットワークインターフェース510は、WiFi、イーサネット、ブルートゥース(登録商標)等の1つ以上の通信プロトコルを含むが、これらに限定されない。又、ネットワークインターフェース510は、ユニバーサルシリアルバス(USB)ケーブル等の1つ以上のハードワイヤード構成要素を含んでもよい。ネットワークインターフェース510の構成は、所望する通信の種類に依存し、WiFi、Bluetooth等を介して通信するように変更されてもよい。
外部デバイス512は、コンピューティングデバイス500に様々な入力を提供する為に使用され得る1つ以上のデバイスであり、例えば、マウス、マイク、キーボード、トラックパッド等である。外部デバイス512は、ローカル又はリモートであってもよく、所望に応じて変化してもよい。幾つかの例では、外部デバイス512は、1つ以上の追加のセンサも含んでもよい。
本明細書に記載された技術は、1つ以上のシステムにおいて、論理演算及び/又はモジュールとして実装されてもよい。論理演算は、1つ以上のコンピュータシステムで実行されるソフトウェアプログラムによって指示されるプロセッサ実装ステップのシーケンスとして、及び1つ以上のコンピュータシステム内の相互接続された機械又は回路モジュールとして、又は両者の組み合わせとして実装されてもよい。同様に、様々なコンポーネントモジュールの説明は、モジュールによって実行される又は効果的な演算の観点から提供され得る。結果として得られる実装態様は、記述された技術を実装する基礎となるシステムの性能要件に依存する、選択の問題である。従って、本明細書に記載された技術の実施形態を構成する論理演算は、演算、ステップ、オブジェクト、又はモジュールとして様々に言及される。更に、論理演算は、明示的に別の方法で主張されるか、又は特定の順序が請求項の言語によって本質的に必要とされない限り、任意の順序で実行され得ることが理解されるべきである。
幾つかの実装態様では、製品は、手順動作を実施する為にコンピュータシステム上の動作のインスタンス化を引き起こすコンピュータプログラム製品として提供される。コンピュータプログラム製品の一実装態様は、コンピュータシステムによって読み取り可能であり、コンピュータプログラムを符号化する非一時的コンピュータプログラム記憶媒体を提供する。更に、記載された技術は、パーソナルコンピュータとは独立した特殊用途装置において採用され得ることを理解されたい。
上記の明細書、実施例及びデータは、特許請求の範囲に定義される本発明の例示的な実施形態の構造及び使用についての完全な説明を提供するものである。請求項に記載の発明の様々な実施形態が、或る程度の特殊性をもって、又は1つ以上の個々の実施形態を参照して上記に説明されたが、請求項に記載の発明の趣旨又は範囲から逸脱することなく、開示された実施形態に対する多数の変更が可能であり得ることが理解される。従って、他の実施形態が企図される。上記の説明に含まれ、添付の図面に示される全ての事項は、特定の実施形態の例示としてのみ解釈され、限定するものではないことが意図される。詳細又は構造の変更は、以下の特許請求の範囲に定義される本発明の基本的要素から逸脱することなく行われ得る。
〔付記1〕
航空機の音響検知システムで、第1の信号を受信し、前記第1の信号はマルチチャネルオーディオ信号である、ステップと、
前記マルチチャネルオーディオ信号に基づいて、前記マルチチャネルオーディオ信号が少なくとも1機の侵入機に関連していることを判定するステップと、
前記マルチチャネルオーディオ信号と、前記侵入機に関する追加情報を提供する第2の信号とに基づいて、前記航空機のマヌーバを指令するステップと、
を含む方法。
〔付記2〕
更に、機械学習モデルを使用して前記航空機の前記マヌーバを選択するステップを含み、前記機械学習モデルが、入力として前記侵入機の少なくとも1つの軌道を受信し、前記軌道が、前記侵入機の2つ以上の位置推定から生成される、付記1に記載の方法。
〔付記3〕
前記マヌーバは、入力データを増加させ、前記マルチチャネルオーディオ信号として受信されるノイズを低減させるように選択される、付記2に記載の方法。
〔付記4〕
前記機械学習モデルは、前記航空機のシミュレートされた飛行データを使用して生成された深層学習ネットワークである、付記2に記載の方法。
〔付記5〕
前記侵入機の前記軌道は、前記侵入機の音響位置推定に基づいて生成され、前記音響位置推定は、前記マルチチャネルオーディオ信号を用いて生成される、付記2に記載の方法。
〔付記6〕
前記音響位置推定は、前記マルチチャネルオーディオ信号に基づく入力を用いて機械学習モデルによって生成される、付記5に記載の方法。
〔付記7〕
前記侵入機に関する追加情報は、前記侵入機に関する位置推定を含み、前記位置推定は、前記航空機のセンサからのセンサ情報を使用して生成される、付記1に記載の方法。
〔付記8〕
前記マルチチャネルオーディオ信号は、前記侵入機と第2の侵入機とに関連付けられ、前記マヌーバは更に、前記マルチチャネルオーディオ信号と前記第2の侵入機に関する追加情報とに基づいて生成された前記第2の侵入機の軌道に基づいている、付記1に記載の方法。
〔付記9〕
1つ以上の非一時的コンピュータ可読媒体であって、命令でコード化されており、前記命令は、音響航空機回避システムの1つ以上のプロセッサによって実行されると、前記音響航空機回避システムに、
前記航空機で受信した第1の信号を解析させて、前記信号が侵入機に関連していると判定させ、前記第1の信号はマルチチャネルオーディオ信号であり、
前記マルチチャネルオーディオ信号を用いて、前記侵入機に対応する音響方向情報を生成させ、
前記音響方向情報と、前記侵入機に対応する追加情報を含む第2の信号とを用いて前記侵入機の軌道を生成させ、
前記侵入機の前記軌道に基づいて、前記航空機の回避マヌーバを選択させる、
1つ以上の非一時的コンピュータ可読媒体。
〔付記10〕
前記侵入機に対応する前記追加情報は、前記侵入機に対応するセンサ方向情報を含み、前記センサ方向情報は、前記航空機のセンサによって収集される、付記9に記載の1つ以上の非一時的コンピュータ可読媒体。
〔付記11〕
前記侵入機の前記軌道に基づいて前記航空機の前記回避マヌーバを選択することは、前記侵入機の前記軌道を深層学習モデルに提供することを含み、前記深層学習モデルは前記回避マヌーバを生成する、付記9に記載の1つ以上の非一時的コンピュータ可読媒体。
〔付記12〕
前記深層学習モデルは、前記航空機のシミュレートされた飛行データを使用して生成される、付記11に記載の1つ以上の非一時的コンピュータ可読媒体。
〔付記13〕
前記マルチチャネルオーディオ信号は、前記航空機によって生成される予想されるノイズに更に関連付けられ、前記命令は、前記音響航空機回避システムに更に、
前記マルチチャネルオーディオ信号が前記航空機によって生成される予想されるノイズを含まないことを示す前記マルチチャネルオーディオ信号の解析に基づいて、前記音響航空機回避システムの故障を検知させる、付記9に記載の1つ以上の非一時的コンピュータ可読媒体。
〔付記14〕
航空機で受信された第1の信号に基づいて侵入機の第1の位置推定を生成し、前記第1の信号はマルチチャネルオーディオ信号である、ステップと、
前記侵入機に関する追加情報を含む第2の信号に基づいて、前記侵入機の第2の位置推定を生成するステップと、
前記第1の位置推定と前記第2の位置推定とを用いて、前記侵入機に対応する軌道を更新するステップと、
前記航空機によって回避マヌーバを実行し、前記回避マヌーバは、前記侵入機に対応する前記軌道に基づいて選択される、ステップと、を含む方法。
〔付記15〕
前記侵入機に関する前記第1の位置推定を生成するステップは、前記マルチチャネルオーディオ信号を深層学習モデルに提供することを含む、付記14に記載の方法。
〔付記16〕
更に、前記軌道を入力として使用して深層学習モデルを使用して前記回避マヌーバを選択するステップを含む、付記14に記載の方法。
〔付記17〕
前記深層学習モデルは、前記航空機及び1機以上の侵入機のシミュレーションを用いて生成されたマヌーバデータを使用して訓練される、付記16に記載の方法。
〔付記18〕
前記回避マヌーバは更に、前記侵入機の予測された軌道に基づいて選択される、付記16に記載の方法。
〔付記19〕
前記侵入機の予測された軌道は、前記侵入機に対応する前記軌道及び前記侵入機の飛行特性に基づいて生成される、付記18に記載の方法。
〔付記20〕
前記侵入機の飛行特性が、前記マルチチャネルオーディオ信号に基づいて決定された前記侵入機の航空機タイプを含む、付記19に記載の方法。
〔付記21〕
前記第2の信号はマルチチャネルオーディオ信号であり、前記侵入機に関する前記追加情報は、前記第1の信号の受信後に受信した前記侵入機に対応する前記第2の信号の解析と、前記第1の信号の受信と前記第2の信号の受信の間の前記航空機の移動とに基づいている、付記14に記載の方法。
〔付記22〕
既知の航空機のオーディオ特性を利用する方法であって、
航空機上の複数のオーディオプローブの配置を、前記既知の航空機のオーディオ特性に基づいて決定するステップと、
前記複数のオーディオプローブの配置を使用して、前記航空機に対する侵入機位置を追尾するステップと、
前記複数のオーディオプローブによって受信されたマルチチャネルオーディオ信号を、前記既知の航空機のオーディオ特性を使用して監視し、前記複数のオーディオプローブの機能を決定するステップと、を含む方法。
〔付記23〕
前記航空機上の前記複数のオーディオプローブの配置を決定するステップが、前記オーディオプローブの配置を調整することで、前記既知の航空機オーディオ特性により前記オーディオプローブで受信されるノイズを低減することを含む、付記22に記載の方法。
〔付記24〕
前記複数のオーディオプローブの機能を決定するステップは、前記既知の航空機オーディオ特性が、前記オーディオプローブによって受信されたオーディオ信号において検知可能でない場合に、前記複数のオーディオプローブのうちの一オーディオプローブが故障していると判断することを含む、付記22に記載の方法。
100 航空機
101 検知ゾーン
102 侵入機
103 回避ゾーン
104 航空機制御部
105 DAAシステム
106 DAAノード
108 処理部
110 メモリ
112a~n アレイ要素
114a~n マイクロフォン
116 センサ
118 音響検知システム
120 追加検知システム
122 回避判定
124 信号捕捉
126 信号処理
128 定位
130 遭遇判定
132 音響位置推定
136 センサ捕捉
138 センサ位置推定
140 軌道生成
142 回避マヌーバ選択
144 回避マヌーバコマンド
502 処理要素
504 I/Oインターフェース
506 ディスプレイ
508 メモリ構成要素
510 ネットワークインターフェース
512 外部デバイス

Claims (23)

  1. 航空機の音響検知システムで、第1の信号を受信し、前記第1の信号はマルチチャネルオーディオ信号である、ステップと、
    前記マルチチャネルオーディオ信号に基づいて、前記マルチチャネルオーディオ信号が少なくとも1機の侵入機に関連していることを判定するステップと、
    前記マルチチャネルオーディオ信号に基づいて、前記航空機のセンサによって収集された第2の信号であって、前記侵入機に関する位置情報を提供する第2の信号を検出するステップと、
    前記マルチチャネルオーディオ信号と、前記侵入機に関する追加情報を提供する前記第2の信号とに基づいて、前記航空機のマヌーバを指令するステップであって、前記マヌーバは、前記マルチチャネルオーディオ信号の信号特性を変更するために、前記侵入機に対する前記航空機の位置の変更を含み、前記マヌーバは、入力データを増加させ、前記マルチチャネルオーディオ信号として受信されるノイズを低減させるように選択される、ステップと、
    を含む方法。
  2. 更に、機械学習モデルを使用して前記航空機の前記マヌーバを選択するステップを含み、前記機械学習モデルが、入力として前記侵入機の少なくとも1つの軌道を受信し、前記軌道が、前記侵入機の2つ以上の位置推定から生成される、請求項1に記載の方法。
  3. 前記機械学習モデルは、前記航空機のシミュレートされた飛行データを使用して生成された深層学習ネットワークである、請求項2に記載の方法。
  4. 前記侵入機の前記軌道は、前記侵入機の音響位置推定に基づいて生成され、前記音響位置推定は、前記マルチチャネルオーディオ信号を用いて生成される、請求項2に記載の方法。
  5. 前記音響位置推定は、前記マルチチャネルオーディオ信号に基づく入力を用いて機械学習モデルによって生成される、請求項4に記載の方法。
  6. 前記侵入機に関する追加情報は、前記侵入機に関する位置推定を含み、前記位置推定は、前記航空機のセンサからのセンサ情報を使用して生成される、請求項1に記載の方法。
  7. 前記マルチチャネルオーディオ信号は、前記侵入機と第2の侵入機とに関連付けられ、前記マヌーバは更に、前記マルチチャネルオーディオ信号と前記第2の侵入機に関する追加情報とに基づいて生成された前記第2の侵入機の軌道に基づいている、請求項1に記載の方法。
  8. 1つ以上の非一時的コンピュータ可読媒体であって、命令でコード化されており、前記命令は、航空機で使用される音響航空機回避システムの1つ以上のプロセッサによって実行されると、前記音響航空機回避システムに、
    前記航空機で受信した第1の信号を解析させて、前記信号が侵入機に関連していると判定させ、前記第1の信号はマルチチャネルオーディオ信号であり、
    前記マルチチャネルオーディオ信号を用いて、前記侵入機に対応する音響方向情報を生成させ、
    前記音響方向情報と、前記侵入機に対応する追加情報を含む第2の信号とを用いて前記侵入機の軌道を生成させ、
    前記侵入機の前記軌道に基づいて、前記航空機の回避マヌーバを選択させ、ここで、前記回避マヌーバは、前記マルチチャネルオーディオ信号の信号特性を変更するために、前記侵入機に対する前記航空機の位置の変更を含み、前記回避マヌーバは、入力データを増加させ、前記マルチチャネルオーディオ信号として受信されるノイズを低減させるように選択される、
    1つ以上の非一時的コンピュータ可読媒体。
  9. 前記侵入機に対応する前記追加情報は、前記侵入機に対応するセンサ方向情報を含み、前記センサ方向情報は、前記航空機のセンサによって収集される、請求項8に記載の1つ以上の非一時的コンピュータ可読媒体。
  10. 前記侵入機の前記軌道に基づいて前記航空機の前記回避マヌーバを選択することは、前記侵入機の前記軌道を深層学習モデルに提供することを含み、前記深層学習モデルは前記回避マヌーバを生成する、請求項8に記載の1つ以上の非一時的コンピュータ可読媒体。
  11. 前記深層学習モデルは、前記航空機のシミュレートされた飛行データを使用して生成される、請求項10に記載の1つ以上の非一時的コンピュータ可読媒体。
  12. 前記マルチチャネルオーディオ信号は、前記航空機によって生成される予想されるノイズに更に関連付けられ、前記命令は、前記音響航空機回避システムに更に、
    前記マルチチャネルオーディオ信号が前記航空機によって生成される予想されるノイズを含まないことを示す前記マルチチャネルオーディオ信号の解析に基づいて、前記音響航空機回避システムの故障を検知させる、請求項8に記載の1つ以上の非一時的コンピュータ可読媒体。
  13. 航空機で受信された第1の信号に基づいて侵入機の第1の位置推定を生成し、前記第1の信号はマルチチャネルオーディオ信号である、ステップと、
    前記侵入機に関する追加情報を含む第2の信号に基づいて、前記侵入機の第2の位置推定を生成するステップと、
    前記第1の位置推定と前記第2の位置推定とを用いて、前記侵入機に対応する軌道を更新するステップと、
    前記航空機によって回避マヌーバを実行し、前記回避マヌーバは、前記マルチチャネルオーディオ信号の信号特性を変更するために、前記侵入機に対する前記航空機の位置の変更を含み、前記回避マヌーバは、前記侵入機に対応する前記軌道に基づいて、入力データを増加させ、前記マルチチャネルオーディオ信号として受信されるノイズを低減させるように選択される、ステップと、
    を含む方法。
  14. 前記侵入機に関する前記第1の位置推定を生成するステップは、前記マルチチャネルオーディオ信号を深層学習モデルに提供することを含む、請求項13に記載の方法。
  15. 更に、前記軌道を入力として使用して深層学習モデルを使用して前記回避マヌーバを選択するステップを含む、請求項13に記載の方法。
  16. 前記深層学習モデルは、前記航空機及び1機以上の侵入機のシミュレーションを用いて生成されたマヌーバデータを使用して訓練される、請求項15に記載の方法。
  17. 前記回避マヌーバは更に、前記侵入機の予測された軌道に基づいて選択される、請求項15に記載の方法。
  18. 前記侵入機の予測された軌道は、前記侵入機に対応する前記軌道及び前記侵入機の飛行特性に基づいて生成される、請求項17に記載の方法。
  19. 前記侵入機の飛行特性が、前記マルチチャネルオーディオ信号に基づいて決定された前記侵入機の航空機タイプを含む、請求項18に記載の方法。
  20. 前記第2の信号はマルチチャネルオーディオ信号であり、前記侵入機に関する前記追加情報は、前記第1の信号の受信後に受信した前記侵入機に対応する前記第2の信号の解析と、前記第1の信号の受信と前記第2の信号の受信の間の前記航空機の移動とに基づいている、請求項13に記載の方法。
  21. 既知の航空機のオーディオ特性を利用する方法であって、
    航空機上の複数のオーディオプローブの配置を、前記既知の航空機のオーディオ特性に基づいて決定するステップと、
    前記複数のオーディオプローブの配置を使用して、前記航空機に対する侵入機位置を追尾するステップと、
    前記複数のオーディオプローブによって受信されたマルチチャネルオーディオ信号を、前記既知の航空機のオーディオ特性を使用して監視し、前記複数のオーディオプローブの機能を決定するステップと、
    可変ビームフォーミングアプローチを使用して、正しく動作していない前記オーディオプローブからの前記オーディオ信号を無視しながら、正しく動作している前記オーディオプローブからのオーディオ信号を処理するステップと、を含む方法。
  22. 前記航空機上の前記複数のオーディオプローブの配置を決定するステップが、前記オーディオプローブの配置を調整することで、前記既知の航空機オーディオ特性により前記オーディオプローブで受信されるノイズを低減することを含む、請求項21に記載の方法。
  23. 前記複数のオーディオプローブの機能を決定するステップは、前記既知の航空機オーディオ特性が、前記オーディオプローブによって受信されたオーディオ信号において検知可能でない場合に、前記複数のオーディオプローブのうちの一オーディオプローブが故障していると判断することを含む、請求項21に記載の方法。
JP2022565732A 2019-12-31 2020-12-30 航空機の相関動作及び検知 Active JP7406656B2 (ja)

Applications Claiming Priority (9)

Application Number Priority Date Filing Date Title
US201962955946P 2019-12-31 2019-12-31
US62/955,946 2019-12-31
US202062984266P 2020-03-02 2020-03-02
US62/984,266 2020-03-02
US202063021633P 2020-05-07 2020-05-07
US63/021,633 2020-05-07
US202063082821P 2020-09-24 2020-09-24
US63/082,821 2020-09-24
PCT/US2020/067495 WO2021138441A1 (en) 2019-12-31 2020-12-30 Correlated motion and detection for aircraft

Publications (2)

Publication Number Publication Date
JP2023508612A JP2023508612A (ja) 2023-03-02
JP7406656B2 true JP7406656B2 (ja) 2023-12-27

Family

ID=76686033

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022565732A Active JP7406656B2 (ja) 2019-12-31 2020-12-30 航空機の相関動作及び検知

Country Status (4)

Country Link
US (1) US20220011786A1 (ja)
EP (1) EP4085445A4 (ja)
JP (1) JP7406656B2 (ja)
WO (1) WO2021138441A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021138420A1 (en) * 2019-12-31 2021-07-08 Zipline International Inc. Acoustic based detection and avoidance for aircraft
US11798427B2 (en) * 2021-01-25 2023-10-24 The Boeing Company Auto-labeling sensor data for machine learning

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009094574A1 (en) 2008-01-23 2009-07-30 Aviation Communication & Surveillance Systems Llc Multi-sensor system and method for collision avoidance
US20150302858A1 (en) 2014-04-22 2015-10-22 Brian Hearing Drone detection and classification methods and apparatus
JP2017501475A (ja) 2014-09-05 2017-01-12 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd 状況に基づく飛行モード選択
JP2018090117A (ja) 2016-12-05 2018-06-14 株式会社エンルートM’s 無人飛行装置、無人飛行方法及び無人飛行プログラム
US10032111B1 (en) 2017-02-16 2018-07-24 Rockwell Collins, Inc. Systems and methods for machine learning of pilot behavior
JP2019105891A (ja) 2017-12-08 2019-06-27 三菱重工業株式会社 制御装置、無人システム、制御方法及びプログラム
JP2019505047A5 (ja) 2016-11-21 2020-07-09

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20010032111A1 (en) * 1999-12-30 2001-10-18 Jensen Elmer W. System for ordering and manufacturing a tangible device
US7606115B1 (en) * 2007-10-16 2009-10-20 Scientific Applications & Research Associates, Inc. Acoustic airspace collision detection system
US8543265B2 (en) * 2008-10-20 2013-09-24 Honeywell International Inc. Systems and methods for unmanned aerial vehicle navigation
US8378881B2 (en) * 2010-10-18 2013-02-19 Raytheon Company Systems and methods for collision avoidance in unmanned aerial vehicles
US20160091362A1 (en) * 2014-09-29 2016-03-31 Fredric H. Schmitz Aircraft flight characteristic measurement
US9997079B2 (en) * 2014-12-12 2018-06-12 Amazon Technologies, Inc. Commercial and general aircraft avoidance using multi-spectral wave detection
CN107110963B (zh) * 2015-02-03 2021-03-19 深圳市大疆创新科技有限公司 用于利用声音检测飞行器位置和速度的系统及方法
CA3000005C (en) * 2015-09-30 2024-03-19 Alarm.Com Incorporated Drone detection systems
US10379534B2 (en) * 2016-01-28 2019-08-13 Qualcomm Incorporated Drone flight control
US10055675B2 (en) * 2016-06-15 2018-08-21 Ford Global Technologies, Llc Training algorithm for collision avoidance using auditory data
US10067736B2 (en) * 2016-09-30 2018-09-04 Sony Interactive Entertainment Inc. Proximity based noise and chat
US11659322B1 (en) * 2017-06-26 2023-05-23 Wing Aviation Llc Audio based aircraft detection
US10921437B2 (en) * 2017-07-13 2021-02-16 Databuoy Corporation Object tracking in an area of distributed sensors
US10489649B2 (en) * 2017-09-28 2019-11-26 At&T Intellectual Property I, L.P. Drone data locker system
US11721352B2 (en) * 2018-05-16 2023-08-08 Dotterel Technologies Limited Systems and methods for audio capture
CN112912309A (zh) * 2019-02-19 2021-06-04 松下知识产权经营株式会社 无人飞行体、信息处理方法以及程序
US11276179B2 (en) * 2019-12-18 2022-03-15 Zoox, Inc. Prediction on top-down scenes based on object motion
US20230028792A1 (en) * 2019-12-23 2023-01-26 A^3 By Airbus, Llc Machine learning architectures for camera-based detection and avoidance on aircrafts

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009094574A1 (en) 2008-01-23 2009-07-30 Aviation Communication & Surveillance Systems Llc Multi-sensor system and method for collision avoidance
US20150302858A1 (en) 2014-04-22 2015-10-22 Brian Hearing Drone detection and classification methods and apparatus
JP2017501475A (ja) 2014-09-05 2017-01-12 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd 状況に基づく飛行モード選択
JP2019505047A5 (ja) 2016-11-21 2020-07-09
JP2018090117A (ja) 2016-12-05 2018-06-14 株式会社エンルートM’s 無人飛行装置、無人飛行方法及び無人飛行プログラム
US10032111B1 (en) 2017-02-16 2018-07-24 Rockwell Collins, Inc. Systems and methods for machine learning of pilot behavior
JP2019105891A (ja) 2017-12-08 2019-06-27 三菱重工業株式会社 制御装置、無人システム、制御方法及びプログラム

Also Published As

Publication number Publication date
JP2023508612A (ja) 2023-03-02
US20220011786A1 (en) 2022-01-13
EP4085445A1 (en) 2022-11-09
WO2021138441A1 (en) 2021-07-08
EP4085445A4 (en) 2024-02-21

Similar Documents

Publication Publication Date Title
US20210295722A1 (en) Adaptive sense and avoid system
US7355508B2 (en) System and method for monitoring an area
JP7406655B2 (ja) 航空機の音響ベースの検知及び回避
US11288973B2 (en) Unmanned aerial system automated threat assessment
US8509965B2 (en) Integrated collision avoidance system for air vehicle
US11531100B2 (en) Methods and systems for acoustic machine perception for an aircraft
WO2019067695A1 (en) FLIGHT CONTROL USING VISION BY COMPUTER
JP7406656B2 (ja) 航空機の相関動作及び検知
US11827352B2 (en) Visual observer for unmanned aerial vehicles
WO2018137135A1 (en) System and method of radar-based obstacle avoidance for unmanned aerial vehicles
US20210375147A1 (en) Method and system for detecting and avoiding obstacles with several detection spaces for aircraft
WO2021168708A1 (zh) 用于可移动平台的控制方法、可移动平台、设备和存储介质
Zhahir et al. Current development of UAV sense and avoid system
US10540905B2 (en) Systems, aircrafts and methods for drone detection and collision avoidance
JP2019020992A (ja) カバレッジ装置、制御装置、移動体の分散制御プログラム
Ramasamy et al. A unified approach to separation assurance and collision avoidance for flight management systems
Chen et al. Detection and recognition of UA targets with multiple sensors
Dolph et al. Aircraft classification using radar from small unmanned aerial systems for scalable traffic management emergency response operations
Sedunov et al. Long-term testing of acoustic system for tracking low-flying aircraft
Teague et al. Time series classification of radio signal strength for qualitative estimate of UAV motion
Gellerman et al. Integration of a radar sensor into a sense-and-avoid payload for small UAS
WO2018237204A1 (en) SYSTEM AND METHOD FOR DIFFUSING THE POSITION OF LOW ALTITUDE OBJECTS
AU2019236606B2 (en) Pseudo-range estimation from a passive sensor
US20230109995A1 (en) Unmanned aerial vehicle detector
EP4296993A1 (en) Detect and avoid tracking architecture

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220825

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220825

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230626

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230718

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20230922

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231117

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231205

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231215

R150 Certificate of patent or registration of utility model

Ref document number: 7406656

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150