JP6718018B2 - 立体画像のために選択的にペアリングされる撮像素子 - Google Patents

立体画像のために選択的にペアリングされる撮像素子 Download PDF

Info

Publication number
JP6718018B2
JP6718018B2 JP2019512966A JP2019512966A JP6718018B2 JP 6718018 B2 JP6718018 B2 JP 6718018B2 JP 2019512966 A JP2019512966 A JP 2019512966A JP 2019512966 A JP2019512966 A JP 2019512966A JP 6718018 B2 JP6718018 B2 JP 6718018B2
Authority
JP
Japan
Prior art keywords
image
distance
image sensor
aircraft
baseline
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019512966A
Other languages
English (en)
Other versions
JP2019517091A (ja
Inventor
スコット レイモンド ハリス
スコット レイモンド ハリス
バリー ジェームス オーブライエン
バリー ジェームス オーブライエン
ジョシュア ジョン ワトソン
ジョシュア ジョン ワトソン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Amazon Technologies Inc
Original Assignee
Amazon Technologies Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Amazon Technologies Inc filed Critical Amazon Technologies Inc
Publication of JP2019517091A publication Critical patent/JP2019517091A/ja
Application granted granted Critical
Publication of JP6718018B2 publication Critical patent/JP6718018B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • G06T7/596Depth or shape recovery from multiple images from stereo images from three or more stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • G06T7/62Analysis of geometric attributes of area, perimeter, diameter or volume
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • H04N7/185Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source from a mobile camera, e.g. for remote control
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10012Stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10032Satellite or aerial image; Remote sensing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30181Earth observation

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Geometry (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Measurement Of Optical Distance (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)
  • Stereoscopic And Panoramic Photography (AREA)

Description

優先権
本出願は、2016年6月8日に出願された“Selectively Paired Imaging Elements For Stereo Images”と題する米国特許出願第15/176,734号の利益を主張するものであり、その全体は参照により本明細書に組み込まれるものとする。
デジタル画像は、典型的にはアレイに配列されたピクセルの集合であり、光景における1つ以上の物体、背景、または他の地物の光学的に形成された再生を定義する。デジタル画像において、ピクセルのそれぞれは、そのような物体、背景、または地物の一部に対応付けられた色または他の明暗状態を表す、または特定する。例えば、白黒デジタル画像は、2値形式(例えば黒または白のいずれか)でピクセルの明暗状態を表す単一ビットを含み、一方、グレースケールデジタル画像は、複数ビット(例えば白黒の率または配分の観点からグレーの階調を定義する2〜8ビット)で明暗状態を表すことができ、カラーデジタル画像は、複数の基本色(例えば赤、緑、または青)のそれぞれに対応するビット群を含むことができ、ビット群は、ピクセルに対応付けられた色を集合的に表すことができる。1つの一般的なデジタル画像は、二十四ビット(24ビット)のカラーデジタル画像であり、このデジタル画像において、ピクセルのそれぞれは、8ビットのチャネルを3つ含み、これには、ピクセル内の赤の程度を表す8ビットの第1のチャネル、ピクセル内の緑の程度を表す8ビットの第2のチャネル、及びピクセル内の青の程度を表す8ビットの第3のチャネルが含まれる。
深度画像または深度マップもまた、光景における1つ以上の物体、背景、または他の地物の光学的に形成された再生を定義するピクセルの集合である。しかしながら、デジタル画像のピクセルとは異なり、深度画像のピクセルのそれぞれは、そのような物体、背景、または地物の明暗状態または色ではなく、物体、背景、または地物までの距離を表す、または特定する。例えば深度画像のピクセルは、深度画像を取り込んだ撮像装置のセンサ(例えば深度カメラまたは距離センサ)と、ピクセルが対応するそれぞれの物体、背景、または地物との間の距離を表すことができる。
既知の基線で分離されたカメラにより取得された2つ以上のデジタル画像を比較して、2つ以上のデジタル画像の相関ピクセル間の視差を特定することにより、深度画像または深度マップを決定することができる。画像に表される物体の情報の解像度は、多くの場合、カメラと物体との間の距離、及び2つのカメラの間の基線距離に依存する。
発明を実施するための形態は、添付の図面を参照して説明される。図面中、参照番号の左端の数字(複数可)は、参照番号が最初に現れる図を特定する。異なる図面における同じ参照番号の使用は、類似または同一の項目または特徴を示す。
一実施態様による、無人航空機の構成図を示す。 一実施態様による、航空機の複数の選択可能な撮像素子の図を示す。 一実施態様による、航空機の複数の選択可能な撮像素子の図を示す。 一実施態様による、航空機の複数の選択可能な撮像素子の別の図を示す。 一実施態様による、航空機の複数の選択可能な撮像素子の別の図を示す。 一実施態様による、撮像素子選択の例示的なプロセスを示すフロー図である。 様々な実施態様で使用することができる無人飛行機制御システムの例示的な実施態様のブロック図である。
本明細書において実施態様は実施例として説明されるが、これらの実施態様は説明される実施例または図面に限定されないことが、当業者には認識されよう。図面及びその詳細説明には、実施態様を開示される特定の形態に限定する意図はなく、それとは逆に、添付の特許請求の範囲により定義される趣旨と範囲に入る全ての変更、均等物、及び代替物を包含する意図があることを理解されたい。本明細書において使用される見出しは、構成目的でのみ用いられ、明細書または特許請求項の範囲を限定するために用いられることを意図しない。本出願を通して使用される英単語「〜することができる、〜し得る、〜してもよい(may)」は、必須の意味(すなわち「〜しなければならない」という意味)ではなく、許容的な意味(すなわち「〜する可能性がある」という意味)で使用される。同様に、英単語「含む(include)」、「含む(including)」、及び「含む(includes)」は「含むが、その対象に限定されない」ことを意味する。さらに、本明細書において使用される用語「連結された」は、相互接続された2つ以上の構成要素を指すことができ、その接続が、永久的(例えば溶接された)もしくは一時的(例えばボルトで固定された)、直接的もしくは間接的(すなわち中間物を介した)、機械的、化学的、光学的、または電気的な接続であることは関係ない。さらに、本明細書において使用される「水平」飛行とは、地面(すなわち海水位)に対し実質的に平行な方向に進む飛行を指し、「垂直」飛行とは、地球の中心から実質的に半径方向外向きに進む飛行を指す。軌道は、「水平」及び「垂直」の両方の飛行ベクトルの成分を含み得ることを、当業者には理解されたい。
本開示は、複数のカメラを含む無人航空機(「UAV」)などの航空機の構成を説明し、この複数のカメラは、選択的に組み合わせて、画像を取得するために使用するステレオペアを形成することができ、取得された画像は、一緒に処理され、それらの画像内に表される物体に対応する深度情報を提供することができる。物体と航空機との間の距離に応じて、異なる組み合わせのカメラが、カメラ間の基線距離に基づいて、ステレオペアに選択され得る。例えば、飛行機に近い物体の深度情報を特定するために比較する画像を生成するには、基線距離の短い(互いに近接している)カメラが選択され得る。対照的に、飛行機から遠く離れた物体の深度情報を特定するために比較する画像を生成するには、基線距離の長いカメラが選択され得る。
図1は、一実施態様による航空機、この事例ではUAV100の図を示す。図示されるように、UAV100は、前翼120と、下方後翼124と、上方後翼122と、2つの水平側部レール130‐1、130‐2とを含むペリメータフレーム104を有する。水平側部レール130は、前翼120の両端部、並びに上方後翼122及び下方後翼124の両端部に連結される。いくつかの実施態様では、連結は、前方左角接合部131‐1、前方右角接合部131‐2、後方左角接合部131‐3、及び後方右角接合部131‐4などの角接合部を有し得る。このような例では、角接合部もまたペリメータフレーム104の一部である。
前翼120、下方後翼124、上方後翼122、側部レール130‐1、130‐2、及び角接合部131などのペリメータフレーム104の構成要素は、グラファイト、炭素繊維、アルミニウム、チタンなどの任意の1つ以上の好適な材料、またはこれらの任意の組み合わせで形成され得る。図示される例では、UAV100のペリメータフレーム104の構成要素はそれぞれ、炭素繊維で形成され、角接合部131を用いて角部で接合される。ペリメータフレーム104の構成要素は、様々な技術を用いて連結され得る。例えば、ペリメータフレーム104の構成要素が炭素繊維である場合、当業者に既知の技術により、これらは互いに嵌め込まれ、2次結合を用いて接合することができる。別の実施態様では、ペリメータフレーム104の構成要素は、ねじ、リベット、ラッチ、直角掛け留め具などの1つ以上の取付け機構により固定することができる、あるいは永久的な方法または取り外し可能な方法で相互に固定することができる。
前翼120、下方後翼124、及び上方後翼122は、三翼構成で配置され、UAVが水平成分を含む方向に移動している時、各翼はUAV100に揚力を提供する。例えば、翼はそれぞれ、水平飛行中に翼の上を通過する気流によって揚力を生じる翼形状を有し得る。
前翼120の両端は、前方左角接合部131‐1及び前方右角接合部131‐2などの角接合部131に連結され得る。いくつかの実施態様では、前翼は、1つ以上のフラップ127または補助翼を含むことができ、これらは、単独で、あるいは揚力モータ106、揚力プロペラ102、推進モータ110、推進プロペラ112、及び/または後述の後翼上の他のフラップと組み合わせて、UAV100のピッチ、ヨー、及び/またはロールを調整するために使用することができる。いくつかの実施態様では、フラップ127はまた、UAV100の外部の物体による揚力プロペラ102へのアクセスをさらに阻止するための保護シュラウドとして使用することができる。例えば、UAV100が垂直方向に移動またはホバリングしている時、揚力プロペラ102の一部の周りの保護バリアの高さを増大させるために、フラップ127を拡張することができる。
いくつかの実施態様において、図1に示されるように、前翼120は、フラップ127の2つ以上のペアを含み得る。別の実施態様では、例えば前部推進モータ110‐1が存在しない場合、前翼120は、実質的に前翼120の長さにわたり延びる単一のフラップ127のみを含み得る。前翼120がフラップ127を含まない場合、揚力モータ106及び揚力プロペラ102、推進モータ110、推進プロペラ112、及び/または後翼のフラップを利用して、飛行中のUAV100のピッチ、ヨー、及び/またはロールは制御され得る。
下方後翼124の両端は、後方左角接合部131‐3及び後方右角接合部131‐4などの角接合部131に連結され得る。いくつかの実施態様では、下方後翼は、1つ以上のフラップ123または補助翼を含むことができ、これらは、単独で、あるいは揚力モータ106、揚力プロペラ102、推進モータ110、推進プロペラ112、及び/または前翼のフラップ127と組み合わせて、UAV100のピッチ、ヨー、及び/またはロールを調整するために使用することができる。いくつかの実施態様では、フラップ123はまた、UAV100の外部の物体による揚力プロペラ102へのアクセスをさらに阻止するための保護シュラウドとして使用することができる。例えば、UAV100が垂直方向に移動またはホバリングしている時、前翼120の前部フラップ127の拡張と同様に、フラップ123を拡張することができる。
いくつかの実施態様において、後翼124は、図1に示されるような2つ以上のフラップ123、またはフラップの2つ以上のペアを、それぞれ含み得る。別の実施態様では、例えば下方後翼に後部推進モータ110‐2が備え付けられていない場合、後翼124は、実質的に下方後翼124の長さにわたり延びる単一のフラップ123のみを含み得る。別の実施態様では、下方後翼が2つの推進モータを含む場合、下方後翼は、3つのフラップ123、すなわち下方後翼124の両端に1つずつ、下方後翼124に備え付けられた2つの推進モータの間に1つを含むように構成され得る。
上方後翼122の両端は、後方左角接合部131‐3及び後方右角接合部131‐4などの角接合部131に連結され得る。いくつかの実施態様では、下方後翼のように、上方後翼122は、1つ以上のフラップ(図示せず)または補助翼を含むことができ、これらは、単独で、あるいは揚力モータ106、揚力プロペラ102、推進モータ110、推進プロペラ112、及び/または他の翼の他のフラップと組み合わせて、UAV100のピッチ、ヨー、及び/またはロールを調整するために使用することができる。いくつかの実施態様では、フラップはまた、UAV100の外部の物体による揚力プロペラ102へのアクセスをさらに阻止するための保護シュラウドとして使用することができる。例えば、UAV100が垂直方向に移動またはホバリングしている時、前翼120の前部フラップ127または下方後翼のフラップ123の拡張と同様に、フラップを拡張することができる。
前翼120、下方後翼124、及び上方後翼122は、UAV100が水平成分を含む方向に移動している間、UAVに安定性を提供するように、相対的に配置及びサイズ決定が行われ得る。例えば、下方後翼124及び上方後翼122は垂直に配列され、よって下方後翼124及び上方後翼122のそれぞれにより生成される垂直揚力ベクトルが互いに近接するため、水平飛行中に不安定を生じ得る。対照的に、前翼120は後翼から長手方向に分離され、よって前翼120により生成される垂直揚力ベクトルは、下方後翼124及び上方後翼122の垂直揚力ベクトルと共に作用して、効率、安定、及び制御をもたらす。
いくつかの実施態様では、UAV100の安定性及び制御をさらに向上させるために、1つ以上のウィングレット121すなわちスタビライザアームも外周フレーム104に連結され、外周フレーム104の一部として含まれ得る。図1に関して示される実施例では、前方左角接合部131‐1及び前方右角接合部131‐2の下側に、2つの前部ウィングレット121‐1及び121‐2がそれぞれ備え付けられている。ウィングレット121は、前翼120及び側部レール130にほぼ垂直な下方向に延びる。同様に、2つの後方角接合部131‐3、131‐4も、UAV100が水平成分を含む方向に移動している時に、UAV100に付加的安定性及び制御を提供するウィングレットとして形成され作動する。
ウィングレット121及び後方角接合部131は、UAV100の長さ、幅、及び高さに比例した寸法を有することができ、水平飛行中のUAV100に安定性及び制御を提供するように、UAV100の略重心に基づいて配置することができる。例えば、一実施態様では、UAV100はUAV100の前部からUAV100の後部まで約64.75インチの長さであり、約60.00インチの幅であり得る。このような構成では、前翼120は、約60.00インチ×約7.87インチの寸法である。下方後翼124は、約60.00インチ×約9.14インチの寸法である。上方後翼122は、約60.00インチ×約5.47インチの寸法である。下方後翼と上方後翼との間の垂直分離距離は、約21.65インチである。ウィングレット121は、UAVの外周フレームとの角接合部において約6.40インチの幅を有し、ウィングレットの対向端部において約5.91インチの幅を有し、約23.62インチの長さを有する。後方角接合部131‐3、131‐4は、下方後翼124と連結する端部において約9.14インチの幅を有し、対向端部において約8.04インチの幅を有し、約21.65インチの長さを有する。UAV100の全体重量は、約50.00ポンドである。
外周フレーム104の内部には、中央フレーム107が連結される。中央フレーム107は、ハブ108と、ハブ108から延びて外周フレーム104の内部に連結するモータアーム105とを含む。この実施例では、単一のハブ108と、4つのモータアーム105‐1、105‐2、105‐3、及び105‐4とが存在する。モータアーム105のそれぞれは、ハブ108のほぼ角から延びて、外周フレームのそれぞれの内部角に連結または終結する。いくつかの実施態様では、各モータアーム105は、外周フレーム104の角接合部131に連結し得る。外周フレーム104と同様に、中央フレーム107は、グラファイト、炭素繊維、アルミニウム、チタンなどの任意の好適な材料、またはこれらの任意の組み合わせで形成され得る。この実施例では、中央フレーム107は、炭素繊維で形成され、角接合部131にて外周フレーム104の角と接合される。外周フレーム104への中央フレーム107の接合は、外周フレーム104の構成要素を接合するための前述の技術のうちの任意の1つ以上を用いて行われることができる。
揚力モータ106及び対応する揚力プロペラ102が外周フレーム104の略長方形内にあるように、揚力モータ106は各モータアーム105のほぼ中央に連結される。一実施態様では、揚力プロペラ102に備え付けられた揚力モータのプロペラ軸が下を向くように、揚力モータ106は各モータアーム105の下側または底側に下向きに備え付けられる。別の実施態様では、図1に示されるように、揚力プロペラ102に備え付けられた揚力モータのプロペラ軸が上を向くように、揚力モータ106は各モータアーム105の上部に上向きに備え付けられ得る。この実施例では、4つの揚力モータ106‐1、106‐2、106‐3、106‐4があり、それぞれ、それぞれのモータアーム105‐1、105‐2、105‐3、及び105‐4の上側に備え付けられている。
いくつかの実施態様では、複数の揚力モータが、各モータアーム105に連結されてもよい。例えば、図1は、各モータアームの上部に各揚力モータが備え付けられたクワッドコプタ構成を示すが、同様の構成が、オクトコプタにも用いることができる。例えば、各モータアーム105の上側にモータ106を備え付けることに加えて、別の揚力モータを各モータアーム105の下側に備え付けて、下向きに配置することもできる。別の実施態様では、中央フレームは、追加のモータアームなど、異なる構成を有することができる。例えば、8つのモータアームが異なる方向に延びてもよく、揚力モータは各モータアームに備え付けられてもよい。
揚力モータは、UAV100及び任意の係合されたペイロードを離陸させるのに十分な回転速度を揚力プロペラ102で生成することが可能な任意の形態のモータであり得、これによりペイロードの航空輸送が可能となる。
各揚力モータ106には、揚力プロペラ102が備え付けられる。揚力プロペラ102は、任意の形態のプロペラであり得(例えばグラファイト、炭素繊維)、UAV100及びUAV100が係合する任意のペイロードを離陸させるのに十分なサイズを有することができ、よってUAV100は空中を航行して、例えば配送場所までペイロードを配達することができる。例えば、揚力プロペラ102はそれぞれ、24インチの寸法または直径を有する炭素繊維のプロペラであり得る。図1の例示は全て同じサイズの揚力プロペラ102を示すが、いくつかの実施態様では、揚力プロペラ102のうちの1つ以上は、異なるサイズ及び/または寸法であり得る。同様に、この実施例は4つの揚力プロペラ102‐1、102‐2、102‐3、102‐4を含むが、別の実施態様では、より多くまたはより少ないプロペラが揚力プロペラ102に利用され得る。同様に、いくつかの実施態様では、揚力プロペラ102は、UAV100上の異なる位置に配置され得る。さらに、本明細書に説明される実施態様では、代替的な推進方法が「モータ」として利用されてもよい。UAVの揚力を提供するために、例えばファン、ジェット、ターボジェット、ターボファン、ジェットエンジン、及び内燃エンジンなどが使用され得る(プロペラまたは他の装置のいずれかと共に)。
揚力モータ106及び揚力プロペラ102に加えて、UAV100はまた、1つ以上の推進モータ110と、対応する推進プロペラ112とを含み得る。推進モータ及び推進プロペラは、揚力モータ106及び揚力プロペラ102と同一であっても、異なっていてもよい。例えば、いくつかの実施態様では、推進プロペラは、炭素繊維で形成され、約18インチの長さであり得る。別の実施態様では、推進モータは、UAVを進ませるために、別の形態の推進力を利用し得る。例えば、ファン、ジェット、ターボジェット、ターボファン、ジェットエンジン、及び内燃エンジンなどが、推進モータとして使用され得る(プロペラまたは他の装置のいずれかと共に)。
推進モータ及び推進プロペラは、UAV100の外周フレーム104及び中央フレーム107に対して約90度に配向され、水平成分を含む飛行の効率を高めるために利用され得る。例えば、UAV100が水平成分を含む方向に進む時、推進モータは、推進プロペラにより水平推力を提供して、UAV100を水平に進ませることに従事し得る。その結果、揚力モータ106が利用する速度及び動力は低減され得る。あるいは、選ばれた実施態様では、推力及び揚力の組み合わせを提供するために、推進モータは、外周フレーム104及び中央フレーム107に対して90度より大きいまたは小さい角度で配向され得る。
図1に示される実施例では、UAV100は、2つの推進モータ110‐1、110‐2と、対応する推進プロペラ112‐1、112‐2とを含む。具体的には、図示される実施例では、前部推進モータ110‐1が、前翼120の略中間点に連結され、その近くに配置されている。前部推進モータ110‐1は、対応する推進プロペラ112‐1が外周フレーム104の内側に配置されるように、配向される。第2の推進モータは、下方後翼124の略中間点に連結され、その近くに配置される。後部推進モータ110‐2は、対応する推進プロペラ112‐2が外周フレーム104の内側に配置されるように、配向される。
図1に示される実施例は、2つの推進モータ110と対応する推進プロペラ112とを有するUAVを示すが、別の実施態様では、推進モータ及び対応する推進プロペラは、より少なく、またはより多く存在し得る。例えば、いくつかの実施態様では、UAV100は、1つの後部推進モータ110及び対応する推進プロペラ112のみを含み得る。別の実施態様では、2つの推進モータ及び対応する推進プロペラは、下方後翼124に備え付けられ得る。このような構成では、前部推進モータ110‐1は、UAV100に含まれてもよく、UAV100から省略されてもよい。同様に、図1に示される実施例は、外周フレーム104の内側に推進プロペラを配置するように配向された推進モータを示すが、別の実施態様では、推進モータ110のうちの1つ以上は、対応する推進プロペラ112が保護フレーム104の外側を向くように配向され得る。
外周フレーム104は、UAV100の側面から揚力プロペラ102へのアクセスを防止することによりUAV100以外の物体の安全性を確保し、UAV100を保護し、UAV100の構造保全を高める。例えば、UAV100が水平に進んでいて、異物(例えば壁、建物)と衝突した場合、UAV100と異物との衝撃は、プロペラではなく外周フレーム104にもたらされる。同様に、フレームは中央フレーム107と相互接続されているため、衝撃の力は、外周フレーム104と中央フレーム107の両方にわたって分散される。
外周フレーム104はまた、UAV100の1つ以上の構成要素が備え付けられ得る表面を提供する。これに対して代替的または付加的に、UAVの1つ以上の構成要素は、外周フレーム104の部分のキャビティ内に備え付けられ得る、または配置され得る。例えば、1つ以上のアンテナが、前翼120の上または中に備え付けられ得る。アンテナは、無線通信を送信及び/または受信するために使用され得る。例えば、アンテナは、Wi‐Fi、衛星、近距離通信(「NFC」)、セルラ通信、または任意の他の形態の無線通信に利用され得る。撮像素子(例えばカメラ)、飛行時間センサ、加速度計、傾斜計、距離決定素子、ジンバル、全地球測位システム(GPS)受信器/送信器、レーダ、照明素子、スピーカ、及び/またはUAV100もしくは航空機制御システム(下記にて論述)の任意の他の構成要素などの他の構成要素も、同様に外周フレーム104にまたは中に備え付けられてもよい。同様に、UAV100の識別を支援するために、識別情報または反射型識別子が外周フレーム104に備え付けられてもよい。
いくつかの実施態様では、後述されるように、デジタルスチルカメラ、赤、緑、青(RGB)カメラ、ビデオカメラ、サーモグラフカメラなどの複数の撮像素子150が、UAV100のフレームの周りに間隔を空けられて備え付けられ得る。同様に、1つ以上の距離決定素子151が、航空機のフレームに連結され得る。飛行時間センサ、距離計、SONAR、LIDARなどを含むがこれらに限定されない任意の種類の距離決定素子が利用され得る。
撮像素子150は、複数の撮像素子の視野の少なくとも一部が重複するように配置され得る。さらに後述されるように、撮像素子150は、2つ以上の撮像素子をステレオペアすなわち撮像素子ペアとして動的に選択する撮像素子選択コントローラと通信し、これにより制御され得る。選択された撮像素子の組み合わせは、これらの選択された撮像素子の共通視野内の物体の画像を取得するために使用され、取得された画像は処理され、共通視野内に表される物体の視差や変位といった深度情報が生成される。
図示されるように、撮像素子150は、UAV100のフレームの任意の部分に固定されてもよい。例えば、撮像素子150の第1の群は、前翼120の前部に沿って配置され、これらの撮像素子の視野が少なくとも部分的に重複する(すなわち共通する)ように配向され得る。別の例では、撮像素子150の第2の群は、側部レール130‐1の下側または下方側に沿って配置され、これらの撮像素子の視野が少なくとも部分的に共通するように配向され得る。理解されるように、任意の数の撮像素子が、重複する視野を有する撮像素子のグループすなわちセットに含まれてもよく、任意の数の撮像素子のセットが、UAV100に沿って配置されてもよい。撮像素子150の各セットの撮像素子は、さらに後述されるように、1つ以上の撮像素子選択コントローラにより制御され得る。
いくつかの実施態様では、外周フレーム104はまた、外周フレーム104の上面及び/または下面にわたって広がる透過性材料(例えばメッシュ、網)を含んで、中央フレーム、揚力モータ、及び/または揚力プロペラを取り囲み得る。
航空機制御システム114も、中央フレーム107に備え付けられる。この実施例では、航空機制御システム114は、ハブ108に備え付けられ、防護壁に取り囲まれている。UAV100が雨及び/または雪の中でも制御システム114を壊すことなく作動できるように、防護壁は制御システム114を悪天候から保護し得る。いくつかの実施態様では、防護壁は、UAVが水平成分を含む方向に移動している時に、抗力を低減する空気力学的形状を有し得る。防護壁は、グラファイトエポキシ、ケブラー、及び/または繊維ガラスを含むがこれらに限定されない任意の材料から成り得る。いくつかの実施態様では、複数の材料が利用され得る。例えば、ケブラーは、信号を送信及び/または受信する必要がある領域で利用され得る。
同様に、UAV100は、1つ以上の電力モジュール153を含む。いくつかの実施態様では、電力モジュール153は、側部レール130‐1、130‐2のキャビティ内に配置され得る。別の実施態様では、電力モジュール153は、UAVの別の場所に備え付けられ得る、または配置され得る。UAVの電力モジュール153は、バッテリ電源、太陽電力、ガス電力、超コンデンサ、燃料電池、代替発電源、またはこれらの組み合わせの形態であり得る。例えば、電力モジュール153はそれぞれ、6000mAhのリチウムイオンポリマー電池またはポリマーリチウムイオン(Li‐poly、Li‐Pol、LiPo、LIP、PLI、またはLip)電池であり得る。電力モジュール(複数可)は、航空機制御システム114、揚力モータ106、推進モータ110、撮像素子150、及びペイロード係合機構154に連結され、電力を提供する。
いくつかの実施態様では、電力モジュール153のうちの1つ以上は、UAVが着陸または飛行している間に、自律的に取り外され、及び/または別の電力モジュールと交換できるように構成され得る。例えば、UAVがある場所に着陸した時に、UAVはその場所で、電力モジュールを充電する充電部材と係合してもよい。
上記のように、UAV100は、ペイロード係合機構154も含み得る。ペイロード係合機構154は、品物及び/または品物を保持するコンテナ(ペイロード)を係合及び係脱するように構成され得る。この実施例では、ペイロード係合機構154は、UAV100のフレーム104のハブ108の下に配置され、連結されている。ペイロード係合機構154は、ペイロードを確実に係合及び係脱するのに十分な任意のサイズであり得る。別の実施態様では、ペイロード係合機構154は、品物(複数可)を含むコンテナとして機能し得る。ペイロード係合機構154は、航空機制御システム114と通信し(有線または無線通信により)、航空機制御システム114により制御される。例示的なペイロード係合機構は、2014年9月30日に出願された“UNMANNED AERIAL VEHICLE DELIVERY SYSTEM”と題する同時係属中の特許出願第14/502,707号に記載され、その内容全体は参照により本明細書に組み込まれるものとする。
図2A及び2Bは、一実施態様による、UAVなどの航空機の複数の選択可能な撮像素子250、またはカメラの図を示す。この例では、7つの撮像素子が、航空機のフレーム210の一部に沿って配置されている。理解されるように、任意の数及び配置の撮像素子が、本明細書に説明される実施態様で利用され得る。同様に、任意の間隔配置が利用されてもよい。唯一の制約は、撮像素子のセットすなわち複数の撮像素子の各撮像素子250の視野は、そのセットのうちの少なくとも1つの他の撮像素子の視野と、少なくとも部分的に重複することである。いくつかの実施態様では、各撮像素子の視野が、複数の撮像素子のうちの少なくとも2つの他の撮像素子の視野と、少なくとも部分的に重複するように、撮像素子250の構成及び間隔は設定され得る。さらに別の実施態様では、各撮像素子の視野の少なくとも一部が、複数の撮像素子のうちの他の撮像素子のそれぞれの視野と重複するように、構成及び間隔は設定され得る。
図示される実施例では、撮像素子250‐1、250‐2、250‐3、250‐4、250‐5、250‐6、及び250‐7の配置及び間隔は、いずれの基線距離(b、b、b、b、b、b、b、b、b、b10、b11、b12、b13、14、b15、b16、b17、b18、b19、b20、及びb21)も異なるように設定される。別の構成では、基線距離の一部または全ては、ほぼ同じ距離であってもよい。
撮像素子のそれぞれの可能性のあるペアが異なる基線を有するように撮像素子250を離間させることにより、利用可能な異なる基線距離の数が増える。例えば、全ての基線距離が異なる場合、利用可能な基線の数は、下記の2項係数に等しくなる。

nは撮像素子の数量であり、kは組み合わせに選択される撮像素子の数(例えば2つ)である。図2A〜2Bに示される実施例では、7つの撮像素子(n)250‐1、250‐2、250‐3、250‐4、250‐5、250‐6、及び250‐7が存在し、これは、2つの組み合わせ(k)の場合、21個の異なる組み合わせを生じる。全ての基線距離が異なるように撮像素子の位置を配置することにより、撮像素子選択コントローラは、選択対象として、21個の異なる基線及び撮像素子組み合わせを有することになる。同様に、基線距離が同じか異なるかに関わらず、撮像素子の組み合わせを切り替える能力を提供することにより、冗長性が向上する。例えば、撮像素子のうちの1つが動作不能になった(例えば破損した)場合、深度情報は、航空機の異なる組み合わせの撮像素子から取得され得る。
当技術分野では知られているように、より短い基線は、撮像素子により近い物体の場合に通常好まれ、より近い物体のより良い撮像結果及び深度情報を提供する。同様に、より長い基線は、撮像素子から離れた物体の場合に通常好まれ、より離れた物体のより良い撮像結果及び深度情報を提供する。いくつかの実施態様では、撮像素子選択コントローラは、UAVから離れた物体の深度情報を生成するのに比較する画像を取得するために、どの組み合わせの撮像素子を選択するか、比を利用して決定し得る。例えば、撮像素子選択コントローラは、1:30の比を利用して、物体とUAVとの間のおよその距離に基づいて撮像素子の組み合わせを選択し得る。例えば、1:30の比を使用して、検出された物体がUAVから約15メートル離れている場合、0.5メートルに最も近い基線を有する撮像素子が、撮像素子のステレオペアとして選択される。例えば、基線距離b10が約0.5メートルである場合、撮像素子250‐2、及び250‐4が選択され得る。
別の実施態様では、航空機からある距離内に存在する物体を検出するために、異なる組み合わせ間または組み合わせの複数のグループ間の一次距離、中間距離が監視され得る。物体検出の際に、どの組み合わせの撮像素子が、比較画像のピクセル間の視差などの最良の深度情報を提供するかを特定し得る。いくつかの実施態様では、UAVと物体との間の距離は、異なる組み合わせの撮像素子からの一連の画像にわたって推定され得る。例えば、物体が、基線の短い第1のステレオペアで表されるが、基線のより長い第2のステレオペアでは表されない場合、UAVと第2のステレオペアの共通視野との間の距離より短い規定距離内に物体が存在すると、判定することができる。別の例として、物体が、基線の短い第1の組み合わせの撮像素子内のいくつかのピクセルにより表されるが、基線の長い第2の組み合わせの撮像素子内のはるかに多いピクセルにより表される場合、物体はUAVから遠く離れていると推測することができる。
物体とUAVとの間の距離が変化すると、撮像素子の組み合わせを選択するために使用される技術に関係なく、撮像素子選択コントローラは、ステレオペアの撮像素子のうちの1つまたは両方を変更し得る。例えば、物体がUAVのより近くに移動する場合、基線距離b13は基線距離b10より短いことから、撮像素子選択コントローラは、撮像素子250‐4及び250‐5を選択し得る。より短い基線距離b13は、より近い物体のより良い視差情報を提供する。同様に、物体とUAVとの間の距離が減少し続ける場合、基線距離b15は基線距離b13より短いことから、撮像素子選択コントローラは、撮像素子250‐5を維持し、撮像素子250‐6をステレオペアとして選択し得る。
いくつかの実施態様では、撮像素子選択コントローラは、画像を取得し、複数の組み合わせの撮像素子から深度情報を特定し、深度情報を組み合わせ得る。例えば、撮像素子250‐1及び250‐2の組み合わせにより提供される画像から生成される深度情報は、撮像素子250‐3及び250‐6の組み合わせにより提供される画像から生成される深度情報と組み合わされ得る。異なる基線距離により、深度情報の異なるレベルの解像度が提供され、深度情報の組み合わせにより、深度情報の全体的精度が向上し得る。
いくつかの実施態様では、第1の組み合わせの撮像素子から深度情報の誤差または不正確さが検出された場合、異なる組み合わせの撮像素子が選択され得る。例えば、いくつかの組み合わせの撮像素子からの画像は、例えば視野が妨げられる、光(例えば太陽光)の影響を受けるなどの理由で、正確な深度情報を生成しないことがある。このような実施態様では、撮像素子の異なる組み合わせ、または撮像素子の組み合わせの異なるセットが選択され、深度情報を生成するのに使用され得る。
いくつかの事例では、撮像素子の組み合わせ間の基線の角度も変更され得る。例えば、図2Aに示されるように、最初の6つの撮像素子250‐1〜250‐6は、UAVの部分210に沿って水平に整列される。このように、撮像素子250‐1〜250‐6の各組み合わせ間の基線距離は、ほぼ同じ角度またはアラインメントを有する。しかしながら、図2Bに示されるように、撮像素子250‐7を含む撮像素子の組み合わせを選択すると、異なる角度または向きに沿って延びる基線ができる。例えば、基線距離b16〜b21のそれぞれのアラインメントは、互いに異なり、基線距離b〜b15のそれぞれのアラインメントとも異なる。
理解されるように、物体を撮像し深度情報を生成するために、どの組み合わせの撮像素子を選択するか、他の形態の選択を利用して決定してもよい。同様に、いくつかの実施態様では、結果として得られた深度情報を分析して、組み合わされる結果が物体を潜在的に表すか否かが評価され得る。さらに別の例として、いくつかの実施態様では、撮像素子250の一部または全てが画像を取得し、これらの画像はUAVのデータストアに記憶され得る。次いで撮像素子選択コントローラは、どの撮像素子をステレオペアとして利用するかを決定し、これらの撮像素子により取得された記憶画像を選択して、深度情報を生成するために使用し得る。
図3は、一実施態様による、航空機の複数の選択可能な撮像素子の別の図を示す。図2Aに示される実施例を続けると、図3は、航空機の部分311に沿って配置された6つの撮像素子350‐1、350‐2、350‐3、350‐4、350‐5、及び350‐6を示す。図示されるように、撮像素子350のそれぞれは、撮像素子選択コントローラ310に連結され、撮像素子選択コントローラ310と通信し、撮像素子選択コントローラ310により制御される。図示されるように、撮像素子のそれぞれは、視野360‐1、360‐2、360‐3、360‐4、360‐5、及び360‐6を有する。それらの視野は部分的に重複し、共通視野を形成する。例えば、撮像素子350‐1の視野360‐1は、撮像素子350‐2の視野360‐2と部分的に重複し、共通視野366を形成する。同様に、撮像素子350‐5の視野360‐5は、撮像素子350‐6の視野360‐6と部分的に重複し、共通視野368を形成する。
撮像素子選択コントローラは、どの撮像素子をステレオペアの撮像素子として起動するかを決定し得る。例えば、最初に物体を監視するのに、撮像素子350‐1と350‐2、及び/または350‐5と350‐6など、撮像素子の1つ以上の組み合わせが使用され得る。物体370が検出された場合、UAVと物体との間の近似距離が特定される。
例えば、撮像素子350‐1と350‐2の共通視野366内に物体370が検出されたが、撮像素子350‐1と350‐2のそれぞれにより生成された画像の処理から視差または他の深度情報が特定できない、またはわずかに特定できる場合、物体はUAVから遠く離れていると判定され得る。このような実施例では、撮像素子選択コントローラは、撮像素子350‐1と350‐6などの別の組み合わせの撮像素子を選択し、これらの撮像素子からの画像を処理して、処理した画像から物体の深度情報が取得可能かどうかを判定し得る。深度情報が依然として特定できない場合、物体は、UAVの潜在的関心距離を越えて存在すると判定され得る。しかしながら、撮像素子350‐1と350‐2により生成された画像の処理から深度情報が特定された場合、物体は監視され、追加の深度情報が取得され得る。
いくつかの実施態様では、撮像素子選択コントローラにより複数のステレオペアを起動することができ、これらのステレオペアからの画像は並列に処理され、どの組み合わせの撮像素子が、検出された物体の最良の解像度の深度情報を提供するかが特定される。例えば、撮像素子350‐1と350‐6を撮像素子のステレオペアとして選択することに加えて、撮像素子350‐3と350‐4も撮像素子のステレオペアとして起動され得る。このような実施態様では、2つのステレオペアの画像から生成された深度情報を組み合わせることで、航空機から物体の距離に関してより大きな解像度が提供され得る。同様に、異なる基線距離及び異なる共通視野を有する2つのステレオペアにより物体の距離を監視することにより、物体がステレオペアのうちの1つのペアの共通視野から出たとしても、第2のステレオペアの共通視野内に存在し続けることができる。
例えば、重複すなわち共通視野362により図示されるように、撮像素子350‐1の視野360‐1は、撮像素子350‐6の視野360‐6と重複する。同様に、物体370は、共通視野362内に位置する。同じような方法で、重複すなわち共通視野364により図示されるように、撮像素子350‐3の視野360‐3は、撮像素子350‐4の視野360‐4と重複する。物体370は同様に、共通視野364内に位置する。物体370がUAVにより近くなるように、物体またはUAVが移動した場合、物体370は、共通視野362を出るが、共通視野364内に存在し続け得る。
撮像素子選択コントローラ310が撮像素子の組み合わせを選択し、これらの撮像素子により取得された画像を受信または取得すると、当技術分野において知られているように、これらの画像の重複部分に対し、撮像素子が較正された時に確立されたピクセル関係に基づいて、アラインメントが行われる。選択された撮像素子間のピクセル情報及び既知の基線情報のアラインメントを使用して、両画像内に表される物体の深度情報が特定される。本実施態様では、複数のカメラが、異なる基線を有する異なる潜在的な組み合わせとして較正される。次いで撮像素子選択コントローラは、深度情報を形成するために使用される画像を取得するステレオペアとして、好適な組み合わせの撮像素子を選択し得る。
図4は、一実施態様による、航空機の複数の選択可能なカメラの別の図を示す。この実施例では、2つのペアのステレオカメラが、航空機の部分411に連結されている。第1の動作モードでは、撮像素子450‐1及び450‐2を含む第1のステレオカメラ配置が、画像を処理するステレオコントローラ410‐1に、画像を提供する。同様に、撮像素子450‐3及び450‐4を含む第2のステレオカメラ配置が、画像を処理するステレオコントローラ410‐2に、画像を提供する。2つのペアのステレオカメラからの処理された画像は分析され、物体が検出されたかどうかが判定され得る。例えば、ピクセル値の変化、または深度情報は、物体の存在を示し得る。これに対して代替的または付加的に、1つ以上の画像処理アルゴリズムを利用して、画像内に表される物体が検出され得る。
航空機から遠く離れたところで物体が検出された場合、撮像素子選択コントローラ412は、撮像素子450‐2及び撮像素子450‐3など、ステレオペアのそれぞれからの撮像素子を使用して、撮像素子の第3のステレオペアを動的に生成することができ、これは、物体の撮像情報を生成するために使用され得る。例えば、撮像素子450‐2及び撮像素子450‐3の共通視野464内に物体が存在する場合、撮像素子選択コントローラ412は、これらの撮像素子450‐2及び450‐3から画像を取得し、これらの画像を処理して、共通視野464内の物体の深度情報を生成し得る。
図2A〜4は、異なる基線距離に基づいて深度情報を生成するために撮像素子選択コントローラにより選択的にペアリングされ得る複数の撮像素子の異なる構成を示すが、任意の数、組み合わせ、及び/または間隔の撮像素子が、本明細書にて論述される実施態様で利用されてもよいことは理解されよう。同様に、論述では2つの撮像素子のペアリングが説明されるが、いくつかの実施態様では、撮像素子選択コントローラは、3つ以上の撮像素子からの画像を組み合わせることができる。同様に、任意の数の撮像素子を起動して、ほぼ同時に画像を取得することができる。次いで撮像素子選択コントローラは、これらの画像の異なる組み合わせを処理して、これらの画像上で表される物体に関する異なるセットの深度情報を生成し得る。その後、異なるセットの深度情報を組み合わせることで、深度情報の解像度が高められ得る。例えば、撮像素子350‐2、350‐3、350‐4、及び350‐6などの4つの撮像素子が起動され、これらの撮像素子のそれぞれがほぼ同時に画像を生成した場合、撮像素子選択コントローラは、6つの異なるセットの深度情報を生成することができ、各セットは、撮像素子の異なる組み合わせ及び基線に基づく。具体的には、撮像素子選択コントローラは、撮像素子350‐2及び350‐3により生成された画像に基づく第1のセットの深度情報、撮像素子350‐2及び350‐4により生成された画像に基づく第2のセットの深度情報、撮像素子350‐2及び350‐6により生成された画像に基づく第3のセットの深度情報、撮像素子350‐3及び350‐4により生成された画像に基づく第4のセットの深度情報、撮像素子350‐3及び350‐6により生成された画像に基づく第5のセットの深度情報、撮像素子350‐4及び350‐6により生成された画像に基づく第6のセットの深度情報を生成し得る。
その後、これらのセットの深度情報を組み合わせて、より高い解像度の深度情報が提供され得る。これに対して代替的または付加的に、異なるセットの深度情報を比較して、UAVに対する物体の位置を監視するために継続的に画像生成を行う撮像素子の組み合わせが選択され得る。
図5は、一実施態様による、撮像素子選択の例示的なプロセスを示すフロー図である。図5のプロセス、及び本明細書において論じられる他のプロセス及びサブプロセスのそれぞれは、ハードウェア、ソフトウェア、またはこれらの組み合わせで実施され得る。ソフトウェアの文脈において、説明される動作は、1つ以上のコンピュータ可読媒体に記憶されたコンピュータ実行可能命令を表し、コンピュータ実行可能命令は1つ以上のプロセッサにより実行されると、詳述される動作を実行する。一般に、コンピュータ実行可能命令には、特定機能を実行する、または特定抽象データ類を実施するルーチン、プログラム、オブジェクト、コンポーネント、及びデータ構造などが含まれる。
コンピュータ可読媒体には、ハードドライブ、フロッピーディスケット、光ディスク、CD−ROM、DVD、読出専用メモリ(ROM)、ランダムアクセスメモリ(RAM)、EPROM、EEPROM、フラッシュメモリ、磁気もしくは光カード、ソリッドステートメモリ装置、または電子命令を記憶するのに好適な他の種類の記憶媒体を含み得る、非一時的コンピュータ可読記憶媒体が含まれ得る。さらに、いくつかの実施態様では、コンピュータ可読媒体は、一時的コンピュータ可読信号(圧縮または非圧縮形式)を含み得る。コンピュータ可読信号の例には、搬送波を用いて変調したか否かに関わらず、インターネットまたは他のネットワークを通してダウンロードされる信号を含む、コンピュータプログラムを提供または実行するコンピュータシステムがアクセスするように構成できる信号が含まれるが、これに限定されない。最後に、動作が説明される順序は、限定として解釈される意図はなく、任意の数の説明動作を、任意の順序で及び/または並行して組み合わせて、プロセスを実施することができる。
例示的なプロセス500は、502にて、第1のステレオペアの撮像素子を使用して、物体を監視することから始まる。例えば、プロセスは、物体の初期検出のために、最短の基線及び/または最大の共通視野を有する撮像素子のペアを利用し得る。あるいは、監視対象となる一次距離または好ましい距離が存在し、その一次距離または好ましい距離で検出された物体に関して、最高の解像度を提供する撮像素子のペアが選択され得る。前述のように、画像は、撮像素子のペアを使用して取得され、組み合わされた画像に表される物体を検出するように処理され得る。
第1のペアの撮像素子からの画像を使用して物体を検出することに加えてまたは代えて、距離計、飛行時間センサ、SONAR、LIDAR、及び/または他の同様の構成要素などの距離決定素子を使用して、航空機からある距離内に存在する物体が検出され得る。さらに別の例では、ペアのカメラからの画像を使用するのではなく、1つのカメラからの画像を取得及び処理して、潜在的な物体の存在が特定され得る。例えば、ピクセル値が画像間で比較され、物体を表し得る視野内の変化が検出され得る。潜在的な物体が検出された場合、物体の存在を特定するために、前述のように、例えばペアの撮像素子及び/または距離決定素子を使用する追加処理が利用され得る。
504にて、監視に基づいて、物体が検出されたか否かに関する判定が行われる。物体が検出されていないと判定された場合、例示的なプロセス500は、ブロック502に戻り、動作を継続する。物体が検出されたと判定された場合、506にて、物体と航空機との間の近似距離が特定される。例えば、物体と航空機との間の近似距離を特定するために、ステレオ撮像情報及び既知の基線が利用され得る。同様に、距離決定素子により決定された距離が、近似距離として利用され得る。
特定された近似距離に基づいて、物体に関する深度情報を生成するために使用される物体の画像を取得するのに用いる撮像素子の組み合わせが、選択される。選択は、特定された近似距離、及び利用可能な組み合わせの撮像素子の基線に少なくとも部分的に基づいて行われ得る。例えば、1:30などの比を利用して、物体と航空機との間の特定された近似距離に基づいて、比に最も近い撮像素子の組み合わせが選択され得る。あるいは、複数の組み合わせの撮像素子が選択され、視差情報が生成され得る。最大の視差情報を有する撮像素子の組み合わせが、物体を監視するのに選択され得る。撮像素子の組み合わせを選択するのに、他の技術も同様に利用することができる。
物体と航空機との間の距離が変わると、及び/または航空機の任意の動作中に、例示的なプロセス500は動作を継続し得る。例えば、航空機と物体との間の距離が変化(増大または減少)する場合、例示的なプロセス500が完了するたびに、選択された組み合わせの撮像素子は変更され得る。例えば、航空機と物体との間の距離が増大した場合、物体と航空機との間の最新の距離に基づいて、選択された組み合わせの撮像素子間の基線距離が、例示的なプロセス500の比及び/または他の基準に対応するように、撮像素子のうちの1つ以上が変更され得る。
本明細書で論じられる実施例は、無人航空機などの航空機による実施態様の使用を説明するが、説明される実施態様は、他の乗り物及び/または他のシナリオでも同様に使用することができることは、理解されよう。例えば、複数の撮像素子が地上ベース及び/または水ベースの乗り物といった別の種類の乗り物に配置され、撮像素子選択コントローラは、前述のように、撮像素子の組み合わせを選択するために利用され得る。
図6は、例示的な航空機制御システム614を示すブロック図である。様々な実施例において、ブロック図は、本明細書で論じられる様々なシステム及び方法を実施するため、及び/または本明細書に説明される航空機の動作を制御するために使用され得る航空機制御システム614の1つ以上の態様を例示し得る。図示される実施態様では、航空機制御システム614は、例えば非一時的コンピュータ可読記憶媒体620といったメモリに入出力(I/O)インターフェース610を介して連結された1つ以上のプロセッサ602を含む。航空機制御システム614はまた、電子速度制御604(ESC)、電源モジュール606、ナビゲーションシステム607、及び/またはペイロード係合コントローラ612を含み得る。いくつかの実施態様では、ナビゲーションシステム607は、慣性測定ユニット(IMU)を含み得る。航空機制御システム614はまた、ネットワークインターフェース616と、1つ以上の入出力装置618とを含み得る。
様々な実施態様では、航空機制御システム614は、1つのプロセッサ602を含むユニプロセッサシステム、またはいくつか(例えば2つ、4つ、8つ、もしくは別の好適な個数)のプロセッサ602を含むマルチプロセッサシステムであり得る。プロセッサ(複数可)602は、命令を実行可能な任意の好適なプロセッサであり得る。例えば、様々な実施態様では、プロセッサ(複数可)602は、様々な命令集合アーキテクチャ(ISA)、例えばx86、PowerPC、SPARC、もしくはMIPS ISA、または任意の他の好適なISAなどのうちのいずれかを実行する汎用または組み込みプロセッサであり得る。マルチプロセッサシステムでは、各プロセッサ(複数可)602は通常、必ずではないが、同一のISAを実行し得る。
非一時的コンピュータ可読記憶媒体620は、プロセッサ(複数可)602によりアクセス可能な実行可能命令、データ、飛行経路、飛行制御パラメータ、及び/またはデータ項目を記憶するように構成され得る。データ項目には、例えば、撮像素子のうちの1つ以上から取得された画像、距離情報、組み合わされた画像情報(例えば深度情報)などが含まれ得る。
様々な実施態様では、非一時的コンピュータ可読記憶媒体620は、静的ランダムアクセスメモリ(SRAM)、同期式動的RAM(SDRAM)、不揮発性/フラッシュメモリ、または任意の他の種類のメモリなど、任意の好適なメモリ技術を使用して実行され得る。例示される実施態様では、本明細書に説明されるような所望の機能を実行するプログラム命令及びデータは、プログラム命令622、データストレージ624、及び飛行制御626として、非一時的コンピュータ可読記憶媒体620にそれぞれ記憶されることが示される。別の実施態様では、プログラム命令、データ、及び/または飛行制御は、非一時的媒体などの異なる種類のコンピュータアクセス可能媒体上で、または非一時的コンピュータ可読記憶媒体620もしくは航空機制御システム614とは別個の同様の媒体上で、受信、送信、または記憶され得る。一般に、非一時的コンピュータ可読記憶媒体には、例えばI/Oインターフェース610を介して航空機制御システム614に連結されたディスクまたはCD/DVD‐ROMといった、磁気媒体または光学媒体などの記憶媒体またはメモリ媒体が含まれ得る。非一時的コンピュータ可読媒体を介して記憶されるプログラム命令及びデータは、伝送媒体、すなわち電気信号、電磁信号、またはデジタル信号などの信号により送信することができ、これらは、ネットワークインターフェース616を介して実施され得るようなネットワーク及び/または無線リンクなどの通信媒体を介して伝達され得る。
一実施態様では、I/Oインターフェース610は、プロセッサ(複数可)602と、非一時的コンピュータ可読記憶媒体620と、ネットワークインターフェース616、または入出力装置618などの他の周辺インターフェースといった任意の周辺装置との間のI/Oトラフィックを調整するように構成され得る。いくつかの実施態様では、I/Oインターフェース610は、1つの構成要素(例えば非一時的コンピュータ可読記憶媒体620)からのデータ信号を、別の構成要素(例えばプロセッサ(複数可)602)が使用するのに好適な形式に変換するために、任意の必要なプロトコル変換、タイミング変換、または他のデータ変換を実行し得る。いくつかの実施態様では、I/Oインターフェース610は、例えば周辺構成要素相互接続(PCI)バス規格または汎用シリアルバス(USB)規格の変形など、様々な種類の周辺バスを介して取付けられた装置のサポートを含み得る。いくつかの実施態様では、I/Oインターフェース610の機能は、例えばノースブリッジとサウスブリッジなど、2つ以上の別々の構成要素に分割され得る。また、いくつかの実施態様では、非一時的コンピュータ可読記憶媒体620に対するインターフェースなど、I/Oインターフェース610の機能の一部または全ては、プロセッサ(複数可)602に直接取り込まれ得る。
UAVを安定化させ、決定された飛行経路に沿ってUAVを案内するために、ESC604は、ナビゲーションシステム607と通信し、各揚力モータ及び/または推進モータの回転速度を調節する。ナビゲーションシステム607は、GPS、屋内測位システム(IPS)、IMU、あるいはUAV100をある場所へ及び/またはある場所からナビゲートするために使用できる他の同様のシステム及び/またはセンサを含み得る。ペイロード係合コントローラ612は、品物を係合及び/または係脱するために使用されるアクチュエータ(複数可)またはモータ(複数可)(例えばサーボモータ)と通信する。
ネットワークインターフェース616は、航空機制御システム614、他のコンピュータシステム(例えばリモートコンピューティングリソース)などのネットワークに接続された他の装置、及び/または他のUAVの航空機制御システムの間で、データ交換を可能にするように構成され得る。例えば、ネットワークインターフェース616は、制御システム614を含むUAVと、1つ以上のリモートコンピューティングリソース上に実装された航空機制御システムとの間の無線通信を可能にし得る。無線通信には、UAVのアンテナまたは他の通信構成要素が利用され得る。別の例では、ネットワークインターフェース616は、多数のUAV間の無線通信を可能にすることができる。様々な実施態様では、ネットワークインターフェース616は、WiFiネットワークなどの無線一般データネットワークを介した通信に対応し得る。例えば、ネットワークインターフェース616は、セルラ通信ネットワーク、及び衛星ネットワークなどの電気通信ネットワークを介した通信に対応し得る。
入出力装置618は、いくつかの実施態様では、1つ以上のディスプレイ、撮像装置、温度センサ、赤外線センサ、飛行時間センサ、加速度計、圧力センサ、気象センサ、撮像素子(例えばカメラ)、ジンバル、着陸装置などを含み得る。複数の入出力装置618が存在し、航空機制御システム614により制御され得る。これらのセンサのうちの1つ以上は、着陸を支援し、並びに飛行中の障害を回避するために利用され得る。
図6に示されるように、メモリは、本明細書に説明される例示的なルーチン及び/またはサブルーチンを実行するように構成され得るプログラム命令622を含み得る。データストレージ624は、飛行経路の決定、着陸、品物を係脱する場所の特定、推進モータの係合/係脱、ステレオ撮像を行う撮像素子の組み合わせの選択などのために提供され得るデータ項目を保持する様々なデータストアを含み得る。様々な実施態様では、1つ以上のデータストアに含まれるものとして本明細書に例示されるパラメータ値及び他のデータは、記載されていない他の情報と組み合わされてもよく、またはより多い、より少ない、もしくは異なるデータ構造に別様に分割されてもよい。いくつかの実施態様では、データストアは、1つのメモリ内に物理的に配置されてもよく、または2つ以上のメモリに分散されてもよい。
航空機制御システム614はまた、撮像素子選択コントローラ628を含み得る。前述のように、撮像素子選択コントローラは、複数の撮像素子と通信し、ステレオペアとして使用する撮像素子の組み合わせを選択して、選択された撮像素子が取得した画像内に表される物体に関する深度情報を生成する。いくつかの実施態様では、撮像素子選択コントローラ628はまた、距離決定素子と通信して、航空機と検出された物体との間の近似距離を特定する。前述のように、近似距離を利用して、例えば近似距離と、異なる組み合わせの撮像素子間の基線距離との比に基づいて、撮像素子の組み合わせが選択され得る。
航空機制御システム614は、単なる例示であり、本開示の範囲を限定する意図はないことが、当業者には理解されよう。具体的には、コンピューティングシステム及び装置には、示された機能を実行することができる任意の組み合わせのハードウェアまたはソフトウェアが含まれてもよい。また航空機制御システム614は、例示されていない他の装置に接続されてもよく、あるいはスタンドアロンシステムとして作動してもよい。さらに、例示される構成要素により提供される機能は、いくつかの実施態様では、より少ない構成要素に合併されてもよく、または追加の構成要素に分散されてもよい。同様に、いくつかの実施態様では、例示される構成要素のうちのいくつかの機能が提供されなくてもよく、及び/または他の追加の機能が利用可能であってもよい。
様々な項目は使用されている間にメモリまたはストレージに記憶されているように例示されているが、これらの項目またはこれらの一部は、メモリ管理及びデータ保全の目的で、メモリと他のストレージ装置との間で転送され得ることも、当業者には理解されよう。あるいは、別の実施態様では、ソフトウェアコンポーネントの一部または全ては、別の装置上のメモリにおいて実行され、例示される航空機制御システム614と通信することができる。システム構成要素またはデータ構造の一部または全ては、好適なドライブにより読み出される非一時的コンピュータアクセス可能媒体または携帯製品にも記憶することができる(例えば命令または構造化データとして)。いくつかの実施態様では、航空機制御システム614とは別個のコンピュータアクセス可能媒体に記憶された命令は、伝送媒体、すなわち無線リンクなどの通信媒体を介して伝達される電気信号、電磁信号、またはデジタル信号などの信号により、航空機制御システム614へ送信され得る。様々な実施態様はさらに、コンピュータアクセス可能媒体上で、前述の説明に従って命令及び/またはデータの受信、送信、または記憶を実施することを含み得る。従って、本明細書に説明される技術は、他の航空機制御システム構成で実行することができる。
本明細書で開示される実施態様は、フレーム、フレームに連結された複数のカメラ、及び複数のカメラのそれぞれと通信するカメラ選択コントローラのうちの1つ以上を備える航空機を含み得る。カメラ選択コントローラは少なくとも、複数のカメラのうちの第1のカメラから第1の画像を受信することと、複数のカメラのうちの第2のカメラから第2の画像を受信することであって、第1のカメラと第2のカメラは第1の基線距離だけ離れている、複数のカメラのうちの第2のカメラから第2の画像を受信することと、第1の画像及び第2の画像を処理して第1の深度情報を生成することと、第1の深度情報で表される物体を検出することと、航空機と物体との間の近似距離を特定することと、複数のカメラのうちの第3のカメラと、複数のカメラのうちの第4のカメラとを、ステレオペアとして選択することであって、選択は、近似距離、及び第3のカメラと第4のカメラとの間の第2の基線距離に少なくとも部分的に基づくことができ、第2の基線距離は第1の基線距離と異なり得る、複数のカメラのうちの第3のカメラと、複数のカメラのうちの第4のカメラとをステレオペアとして選択することと、第3のカメラから第3の画像を受信することと、第4のカメラから第4の画像を受信することと、第3の画像及び第4の画像を処理して第2の深度情報を生成することであって、第2の深度情報は物体に対応する情報を含む、第3の画像及び第4の画像を処理して第2の深度情報を生成することとを、実行するように構成され得る。
任意で、近似距離は、第1の深度情報に少なくとも部分的に基づいて特定され得る。任意で、航空機はさらに、航空機のフレームに連結された距離決定素子を含むことができ、近似距離は、カメラ選択コントローラが距離決定素子から受信した距離情報に少なくとも部分的に基づいて特定され得る。任意で、第1の基線距離の第1のアラインメントは、第2の基線距離の第2のアラインメントとは異なり得る。任意で、カメラ選択コントローラは少なくとも、複数のカメラのうちの第1のカメラと、複数のカメラのうちの第4のカメラとをステレオペアとして選択することと、第1のカメラから第5の画像を受信することと、第4のカメラから第6の画像を受信することと、第5の画像及び第6の画像を処理して第3の深度情報を生成することであって、第3の深度情報は物体に対応する情報を含む、第5の画像及び第6の画像を処理して第3の深度情報を生成することとを、実行するようにさらに構成され得る。
本明細書で開示される実施態様は、推進機構、航空機の周りに間隔を置いて配置された複数の撮像素子、及び複数の撮像素子のそれぞれと通信する撮像素子選択コントローラのうちの1つ以上を含む航空機を含み得る。撮像素子選択コントローラは少なくとも、航空機と物体との間の近似距離を特定することと、複数の撮像素子のうちの第1の撮像素子と、複数の撮像素子のうちの第2の撮像素子とをステレオペアとして選択することであって、選択は、近似距離、及び第1の撮像素子と第2の撮像素子との間の第1の基線距離に少なくとも部分的に基づき得る、複数の撮像素子のうちの第1の撮像素子と、複数の撮像素子のうちの第2の撮像素子とをステレオペアとして選択することと、第1の撮像素子により取り込まれた第1の画像を取得することと、第2の撮像素子により取り込まれた第2の画像を取得することと、第1の画像及び第2の画像を処理して、物体に対応する深度情報を生成することとを、実行するように構成され得る。
任意で、複数の撮像素子のうちの少なくとも3つの撮像素子のそれぞれの間の基線距離が異なるように、複数の撮像素子のうちの少なくとも3つは、航空機の周りに間隔を置いて配置され得る。任意で、撮像素子選択コントローラは少なくとも、航空機と第2の物体との間の第2の近似距離を特定することと、複数の撮像素子のうちの第1の撮像素子と、複数の撮像素子のうちの第3の撮像素子とをステレオペアとして選択することであって、選択は、第2の近似距離、及び第1の撮像素子と第3の撮像素子との間の第2の基線距離に少なくとも部分的に基づき得る、複数の撮像素子のうちの第1の撮像素子と、複数の撮像素子のうちの第3の撮像素子とをステレオペアとして選択することと、第1の撮像素子により取り込まれた第3の画像を取得することと、第3の撮像素子により取り込まれた第4の画像を取得することと、第3の画像及び第4の画像を処理して、第2の物体に対応する第2の深度情報を生成することとを、実行するようにさらに構成され得る。任意で、近似距離は第2の近似距離よりも長くあり得、第1の基線距離は第2の基線距離より長くあり得る。任意で、第1の撮像素子と第2の撮像素子との間の第1の基線距離の第1のアラインメントは、第1の撮像素子と第4の撮像素子との間の第2の基線距離の第2のアラインメントと、異なり得る。任意で、撮像素子選択コントローラは少なくとも、複数の撮像素子のうちの第3の撮像素子を選択することであって、選択は、第1の撮像素子、第2の撮像素子、及び第3の撮像素子の共通視野に少なくとも部分的に基づき、さらに物体の位置に少なくとも部分的に基づき得る、複数の撮像素子のうちの第3の撮像素子を選択することと、第3の撮像素子により取り込まれた第3の画像を取得することと、第3の画像を第1の画像及び第2の画像と共に処理して、物体に対応する第2の深度情報を生成することとを、実行するようにさらに構成され得る。任意で、物体の位置は、第1の撮像素子、第2の撮像素子、及び第3の撮像素子の共通視野内に存在し得る。任意で、複数の撮像素子のそれぞれの視野の少なくとも一部は重複する。任意で、画像は、複数の撮像素子のそれぞれにより定期的に生成され得、撮像素子選択コントローラは、第1の撮像素子がステレオペアの撮像素子として選択されたことに応じて、飛行機のデータストアから第1の画像を取得し得る。
本明細書で開示される実施態様は、物体を監視することと、航空機からある距離内に存在する物体を検出することと、物体と航空機との間の近似距離を特定することと、航空機の複数の撮像素子から第1の撮像素子及び第2の撮像素子を選択して撮像素子のペアを形成することであって、撮像素子のペアは、第1の撮像素子と第2の撮像素子との間の基線距離に少なくとも部分的に基づいて、さらに近似距離に少なくとも部分的に基づいて選択され得る、第1の撮像素子及び第2の撮像素子を選択して撮像素子のペアを形成することと、第1の撮像素子からの第1の画像、及び第2の撮像素子からの第2の画像を受信することと、第1の画像及び第2の画像を処理して深度情報を生成することであって、深度情報は物体に対応する深度情報を含む、第1の画像及び第2の画像を処理して深度情報を生成することの、以上のうちの1つ以上を含む方法を含み得る。
任意で、方法は、物体と航空機との間の第2の近似距離を特定することと、航空機の複数の撮像素子から第3の撮像素子及び第4の撮像素子を選択して撮像素子のペアを形成することであって、撮像素子のペアは、第3の撮像素子と第4の撮像素子との間の第2の基線距離に少なくとも部分的に基づいて、さらに第2の近似距離に少なくとも部分的に基づいて選択され得る、第3の撮像素子及び第4の撮像素子を選択して撮像素子のペアを形成することと、第3の撮像素子からの第3の画像、及び第4の撮像素子からの第4の画像を受信することと、第3の画像及び第4の画像を処理して第2の深度情報を生成することであって、第2の深度情報は物体に対応する第2の深度情報を含む、第3の画像及び第4の画像を処理して第2の深度情報を生成することとを、さらに含み得る。任意で、近似距離は第2の近似距離よりも長くあり得、基線距離は第2の基線距離より長くあり得る。方法は、物体と航空機との間の第3の近似距離を特定することと、航空機の複数の撮像素子から第1の撮像素子及び第3の撮像素子を選択して撮像素子のペアを形成することであって、撮像素子のペアは、第1の撮像素子と第3の撮像素子との間の第3の基線距離に少なくとも部分的に基づいて、さらに第3の近似距離に少なくとも部分的に基づいて選択され得る、第1の撮像素子及び第3の撮像素子を選択して撮像素子のペアを形成することと、第1の撮像素子からの第5の画像、及び第3の撮像素子からの第6の画像を受信することと、第5の画像及び第6の画像を処理して第3の深度情報を生成することであって、第3の深度情報は物体に対応する第3の深度情報を含む、第5の画像及び第6の画像を処理して第3の深度情報を生成することとを、さらに含み得る。任意で、第2の近似距離は第3の近似距離よりも長くあり得、第2の基線距離は第3の基線距離より長くあり得る。任意で、基線距離は第2の基線距離と異なり得、基線距離は第3の基線距離と異なり得、第2の基線距離は第3の基線距離と異なり得る。
本発明の内容は、構造的特徴及び/または方法論的動作に特有の言語で説明されたが、添付の特許請求の範囲において定義される本発明の内容は、説明される具体的な特徴または動作に必ずしも限定されないことが理解されよう。むしろ、具体的な特徴及び動作は、特許請求の範囲を実施する例示的な形態として開示される。

Claims (14)

  1. フレームと、
    前記フレームに連結された複数のカメラと、
    前記複数のカメラのそれぞれと通信するカメラ選択コントローラと、
    を備える航空機であって、
    前記カメラ選択コントローラは少なくとも、
    複数のカメラのうちの2つのカメラのステレオ画像情報及び基線距離に基づいて、前記航空機と前記物体との間の第1の近似距離を特定することと、
    前記第1の近似距離及び第1カメラと第2カメラとの第1の基線距離とに基づいて、複数のカメラのうちから前記第1カメラと前記第2カメラとを選択することと、
    前記第1のカメラから第1の画像を受信することと、
    前記第2のカメラから第2の画像を受信することと
    前記第1の画像及び前記第2の画像を処理して第1の深度情報を生成することと
    前記第1の近似距離とは異なる、前記航空機と前記物体との間の第2の近似距離を特定することと、
    前記第1の近似距離、及び第3のカメラと第4のカメラとの間の前記第1の基線距離と異なる第2の基線距離に基づき、前記複数のカメラのうちの前記第3のカメラと前記複数のカメラのうちの前記第4のカメラとを、ステレオペアとして選択することと、
    前記第3のカメラから第3の画像を受信することと、
    前記第4のカメラから第4の画像を受信することと、
    前記第3の画像及び前記第4の画像を処理して、前記物体に対応する情報を含む第2の深度情報を生成することと
    を実行するように構成される航空機。
  2. 前記第1の基線距離の第1のアラインメントは、前記第2の基線距離の第2のアラインメントとは異なる、請求項1に記載の航空機。
  3. 前記カメラ選択コントローラは少なくとも、
    前記第1のカメラと前記第4のカメラとを、前記ステレオペアとして選択することと、
    前記第1のカメラから第5の画像を受信することと、
    前記第4のカメラから第6の画像を受信することと、
    前記第5の画像及び前記第6の画像を処理して、前記物体に対応する情報を含む第3の深度情報を生成することと、
    を実行するようにさらに構成される、請求項1または請求項2に記載の航空機。
  4. 航空機であって、
    推進機構と、
    前記航空機の周りに間隔を置いて配置された複数の撮像素子と、
    前記複数の撮像素子のそれぞれと通信する撮像素子選択コントローラと
    を備え、前記撮像素子選択コントローラは少なくとも、
    複数のカメラのうちの2つのカメラのステレオ画像情報及び基線距離に基づいて、前記航空機と物体との間の近似距離を特定することと、
    前記近似距離、及び前記第1の撮像素子と前記第2の撮像素子との間の第1の基線距離に基づいて、前記複数の撮像素子のうちの第1の撮像素子と、前記複数の撮像素子のうちの第2の撮像素子とを、ステレオペアとして選択することと、
    前記第1の撮像素子により取り込まれた第1の画像を取得することと、
    前記第2の撮像素子により取り込まれた第2の画像を取得することと、
    前記第1の画像及び前記第2の画像を処理して、前記物体に対応する深度情報を生成することと、
    を実行するように構成される、前記航空機。
  5. 前記複数の撮像素子のうちの少なくとも3つの撮像素子のそれぞれの間の基線距離が異なるように、前記複数の撮像素子のうちの前記少なくとも3つは、前記航空機の周りに間隔を置いて配置される、請求項4に記載の航空機。
  6. 前記撮像素子選択コントローラは少なくとも、
    前記航空機と第2の物体との間の第2の近似距離を特定することと、
    前記第2の近似距離、及び前記第1の撮像素子と第3の撮像素子との間の第2の基線距離に基づき、前記複数の撮像素子のうちの前記第1の撮像素子と、前記複数の撮像素子のうちの第3の撮像素子とを、前記ステレオペアとして選択することと、
    前記第1の撮像素子により取り込まれた第3の画像を取得することと、
    前記第3の撮像素子により取り込まれた第4の画像を取得することと、
    前記第3の画像及び前記第4の画像を処理して、前記第2の物体に対応する第2の深度情報を生成することと、
    を実行するようにさらに構成される、請求項4または請求項5に記載の航空機。
  7. 前記撮像素子選択コントローラは少なくとも、
    前記第1の撮像素子、前記第2の撮像素子、及び第3の撮像素子の共通視野並びに前記物体の位置に基づき、前記複数の撮像素子のうちの前記第3の撮像素子を選択することと、
    前記第3の撮像素子により取り込まれた第3の画像を取得することと、
    前記第3の画像を前記第1の画像及び前記第2の画像と共に処理して、前記物体に対応する第2の深度情報を生成することと、
    を実行するようにさらに構成される、請求項4から請求項6のいずれか1項に記載の航空機。
  8. 画像は、前記複数の撮像素子のそれぞれにより定期的に生成され、
    前記撮像素子選択コントローラは、前記第1の撮像素子が前記ステレオペアの撮像素子として選択されたことに応じて、前記飛行機のデータストアから前記第1の画像を取得する、
    請求項4から請求項7のいずれか1項に記載の航空機。
  9. 物体を監視することと、
    航空機からある距離内に存在する物体を検出することと、
    複数のカメラのうちの2つのカメラのステレオ画像情報及び基線距離に基づいて、前記物体と前記航空機との間の第1の近似距離を特定することと、
    第1の撮像素子と第2の撮像素子との間の第1の基線距離及び前記第1の近似距離に基づいて、前記航空機の複数の撮像素子から前記第1の撮像素子及び前記第2の撮像素子を選択して撮像素子のペアを形成することと、
    前記第1の撮像素子からの第1の画像、及び前記第2の撮像素子からの第2の画像を受信することと、
    前記第1の画像及び前記第2の画像を処理して前記物体に対応する深度情報を生成することと、
    を含む方法。
  10. 前記第1の撮像素子と第2の撮像素子とのステレオ画像情報及び第1の基線距離に基づいて、前記物体と前記航空機との間の第2の近似距離を特定することと、
    第3の撮像素子と第4の撮像素子との間の第2の基線距離に基づいて、前記航空機の前記複数の撮像素子から前記第3の撮像素子及び前記第4の撮像素子を選択して前記撮像素子のペアを形成することと、
    前記第3の撮像素子からの第3の画像、及び前記第4の撮像素子からの第4の画像を受信することと、
    前記第3の画像及び前記第4の画像を処理して、前記物体に対応する第2の深度情報を生成することと、
    をさらに含む、請求項9に記載の方法。
  11. 前記近似距離は、前記第2の近似距離より長く、
    前記基線距離は、前記第2の基線距離より長い、
    請求項10に記載の方法。
  12. 前記物体と前記航空機との間の第3の近似距離を特定することと、
    前記第1の撮像素子と前記第3の撮像素子との間の第3の基線距離及び前記第3の近似距離に基づいて選択される、前記第1の撮像素子及び前記第3の撮像素子を選択して前記撮像素子のペアを形成することと、
    前記第1の撮像素子からの第5の画像、及び前記第3の撮像素子からの第6の画像を受信することと、
    前記第5の画像及び前記第6の画像を処理して、前記物体に対応する第3の深度情報を生成することと、
    をさらに含む、請求項10または請求書11に記載の方法。
  13. 前記第2の近似距離は、前記第3の近似距離より長く、
    前記第2の基線距離は、前記第3の基線距離より長い、
    請求項12に記載の方法。
  14. 前記基線距離は前記第2の基線距離と異なり、前記基線距離は第3の基線距離と異なり、前記第2の基線距離は前記第3の基線距離と異なる、請求項13に記載の方法。
JP2019512966A 2016-06-08 2017-06-06 立体画像のために選択的にペアリングされる撮像素子 Active JP6718018B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US15/176,734 2016-06-08
US15/176,734 US10706569B2 (en) 2016-06-08 2016-06-08 Selectively paired imaging elements for stereo images
PCT/US2017/036223 WO2017214200A1 (en) 2016-06-08 2017-06-06 Selectively paired imaging elements for stereo images

Publications (2)

Publication Number Publication Date
JP2019517091A JP2019517091A (ja) 2019-06-20
JP6718018B2 true JP6718018B2 (ja) 2020-07-08

Family

ID=59153288

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019512966A Active JP6718018B2 (ja) 2016-06-08 2017-06-06 立体画像のために選択的にペアリングされる撮像素子

Country Status (5)

Country Link
US (2) US10706569B2 (ja)
EP (2) EP3452987B1 (ja)
JP (1) JP6718018B2 (ja)
CN (1) CN109496328A (ja)
WO (1) WO2017214200A1 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10520943B2 (en) * 2016-08-12 2019-12-31 Skydio, Inc. Unmanned aerial image capture platform
US11295458B2 (en) 2016-12-01 2022-04-05 Skydio, Inc. Object tracking by an unmanned aerial vehicle using visual sensors
US10810427B1 (en) * 2017-12-15 2020-10-20 AI Incorporated Methods for an autonomous robotic device to identify locations captured in an image
WO2019133640A1 (en) * 2017-12-29 2019-07-04 PlusAI Corp Method and system for multiple stereo based depth estimation and collision warning/avoidance utilizing the same
JP7165012B2 (ja) * 2018-09-28 2022-11-02 株式会社Subaru 車両用ステレオカメラ装置
US10682955B1 (en) * 2018-12-03 2020-06-16 Beijing Voyager Technology Co., Ltd. Multicamera system for autonomous driving vehicles
CN110009595B (zh) 2019-04-12 2022-07-26 深圳市道通智能航空技术股份有限公司 一种图像数据处理方法、装置、图像处理芯片及飞行器
CN113496503B (zh) * 2020-03-18 2022-11-08 广州极飞科技股份有限公司 点云数据的生成及实时显示方法、装置、设备及介质
US20230221721A1 (en) * 2020-05-11 2023-07-13 Canon U.S.A., Inc. An unmanned autonomous vehicle and method for controlling the same
JP7369094B2 (ja) * 2020-05-29 2023-10-25 株式会社日立製作所 距離計測システム、及び距離計測方法

Family Cites Families (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4805015A (en) * 1986-09-04 1989-02-14 Copeland J William Airborne stereoscopic imaging system
US6891563B2 (en) * 1996-05-22 2005-05-10 Donnelly Corporation Vehicular vision system
JPH10253351A (ja) * 1997-03-14 1998-09-25 Kyocera Corp 測距装置
US7126630B1 (en) * 2001-02-09 2006-10-24 Kujin Lee Method and apparatus for omni-directional image and 3-dimensional data acquisition with data annotation and dynamic range extension method
US8139109B2 (en) * 2006-06-19 2012-03-20 Oshkosh Corporation Vision system for an autonomous vehicle
EP2334089A1 (en) * 2009-12-04 2011-06-15 Alcatel Lucent A method and systems for obtaining an improved stereo image of an object
US20110222757A1 (en) * 2010-03-10 2011-09-15 Gbo 3D Technology Pte. Ltd. Systems and methods for 2D image and spatial data capture for 3D stereo imaging
JP2012103109A (ja) * 2010-11-10 2012-05-31 Panasonic Corp ステレオ画像処理装置、ステレオ画像処理方法及びプログラム
US8947584B2 (en) * 2010-12-01 2015-02-03 Blackberry Limited Apparatus, and associated method, for a camera module of electronic device
US8717467B2 (en) * 2011-01-25 2014-05-06 Aptina Imaging Corporation Imaging systems with array cameras for depth sensing
JP2012247364A (ja) * 2011-05-30 2012-12-13 Panasonic Corp ステレオカメラ装置、ステレオカメラシステム、プログラム
WO2013079660A1 (en) * 2011-11-30 2013-06-06 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Disparity map generation including reliability estimation
WO2014021134A1 (ja) 2012-07-30 2014-02-06 オリンパス株式会社 撮像装置及び撮像方法
JP5819564B2 (ja) * 2013-03-12 2015-11-24 富士フイルム株式会社 画像判定装置、撮像装置、3次元計測装置、画像判定方法、及びプログラム
US10122993B2 (en) * 2013-03-15 2018-11-06 Fotonation Limited Autofocus system for a conventional camera that uses depth information from an array camera
WO2014145856A1 (en) * 2013-03-15 2014-09-18 Pelican Imaging Corporation Systems and methods for stereo imaging with camera arrays
US9544574B2 (en) * 2013-12-06 2017-01-10 Google Inc. Selecting camera pairs for stereoscopic imaging
JP6447055B2 (ja) * 2014-01-28 2019-01-09 株式会社リコー 校正方法、校正装置、計測用具及びプログラム
US9981389B2 (en) * 2014-03-03 2018-05-29 California Institute Of Technology Robotics platforms incorporating manipulators having common joint designs
TWI524050B (zh) * 2014-04-15 2016-03-01 聚晶半導體股份有限公司 取像裝置、影像深度產生裝置及其方法
CN106471803A (zh) * 2014-12-04 2017-03-01 深圳市大疆创新科技有限公司 成像系统及方法
WO2016106694A1 (en) * 2014-12-31 2016-07-07 SZ DJI Technology Co., Ltd. System and method for adjusting a baseline of an imaging system with microlens array
CN104539934A (zh) * 2015-01-05 2015-04-22 京东方科技集团股份有限公司 图像采集装置和图像处理方法、系统
EP3271741A4 (en) * 2015-03-16 2018-12-12 Sikorsky Aircraft Corporation Flight initiation proximity warning system
US11010910B2 (en) * 2015-12-18 2021-05-18 Iris Automation, Inc. Systems and methods for dynamic object tracking using a single camera mounted on a moving object
US20170289525A1 (en) * 2016-03-31 2017-10-05 Charles Wivell Personal 3d photographic and 3d video capture system
TWI567693B (zh) * 2016-05-17 2017-01-21 緯創資通股份有限公司 產生深度資訊的方法及其系統

Also Published As

Publication number Publication date
US20170358099A1 (en) 2017-12-14
US20210012518A1 (en) 2021-01-14
EP3846125A1 (en) 2021-07-07
CN109496328A (zh) 2019-03-19
US11238603B2 (en) 2022-02-01
WO2017214200A1 (en) 2017-12-14
US10706569B2 (en) 2020-07-07
EP3452987A1 (en) 2019-03-13
EP3452987B1 (en) 2021-04-14
JP2019517091A (ja) 2019-06-20

Similar Documents

Publication Publication Date Title
JP6718018B2 (ja) 立体画像のために選択的にペアリングされる撮像素子
US11377232B2 (en) Combined information for object detection and avoidance
US11284056B2 (en) Aerial vehicle sensor positioning
US10733738B1 (en) Image alignment correction for imaging processing during operation of an unmanned aerial vehicle
CN108698695B (zh) 飞行器的摄像机的光调节控制
US10302452B1 (en) Unmanned aerial vehicle sensor calibration via sensor channel
CA2978945C (en) Adjustable landing gear assembly for unmanned aerial vehicles
US9739870B1 (en) Tracking unmanned aerial vehicles using reflected light
US9972212B1 (en) Unmanned aerial vehicle camera calibration as part of departure or arrival at a materials handling facility
US10220964B1 (en) Unmanned aerial vehicle sensor calibration validation before flight
US9969486B1 (en) Unmanned aerial vehicle heat sensor calibration
US10032275B1 (en) Unmanned aerial vehicle sensor calibration during flight
US10812777B1 (en) Rolling shutter motion and depth sensing

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181121

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191224

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200120

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200401

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200525

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200611

R150 Certificate of patent or registration of utility model

Ref document number: 6718018

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250