JP6835392B2 - 撮像装置により取得された画像を制御するためのシステム及び方法 - Google Patents

撮像装置により取得された画像を制御するためのシステム及び方法 Download PDF

Info

Publication number
JP6835392B2
JP6835392B2 JP2019516689A JP2019516689A JP6835392B2 JP 6835392 B2 JP6835392 B2 JP 6835392B2 JP 2019516689 A JP2019516689 A JP 2019516689A JP 2019516689 A JP2019516689 A JP 2019516689A JP 6835392 B2 JP6835392 B2 JP 6835392B2
Authority
JP
Japan
Prior art keywords
target
imaging device
zoom
image
zoom level
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019516689A
Other languages
English (en)
Other versions
JP2019537306A (ja
Inventor
ワン、ミンシ
チェン、ハンピン
ワン、ジアディ
ゾウ、チー
ウェン、チャオ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SZ DJI Technology Co Ltd
Original Assignee
SZ DJI Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SZ DJI Technology Co Ltd filed Critical SZ DJI Technology Co Ltd
Publication of JP2019537306A publication Critical patent/JP2019537306A/ja
Application granted granted Critical
Publication of JP6835392B2 publication Critical patent/JP6835392B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/57Mechanical or electrical details of cameras or camera modules specially adapted for being embedded in other devices
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04842Selection of displayed objects or displayed text elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/62Control of parameters via user interfaces
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04845Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range for image manipulation, e.g. dragging, rotation, expansion or change of colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/05Geographic models
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/69Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/695Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64CAEROPLANES; HELICOPTERS
    • B64C39/00Aircraft not otherwise provided for
    • B64C39/02Aircraft not otherwise provided for characterised by special use
    • B64C39/024Aircraft not otherwise provided for characterised by special use of the remote controlled vehicle type, i.e. RPV
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U2101/00UAVs specially adapted for particular uses or applications
    • B64U2101/30UAVs specially adapted for particular uses or applications for imaging, photography or videography

Description

発明の背景
無人航空機(UAV:unmanned aerial vehicle)等の航空機は、写真撮影、監視、偵察、及び探査タスクを実行するために使用できる。このような航空機は、周囲環境の画像を取得するための撮像装置を支持し得る。撮像装置は航空機上に、撮像装置を1つ又は複数の軸の周囲で航空機に対して回転させるようにし得る支持機構を用いて支持され得る。
従来のUAVの場合、支持機構の移動の制御と撮像装置のズーム機能の制御は、別の独立した制御として提供される。これには、ユーザは撮像装置の姿勢とズームを調整するための2つの別々の入力を提供する必要がある。
撮像装置により取得された画像を制御するための改良されたデバイス、システム、又は方法に対するニーズがある。UAVにより支持される撮像装置のズーム機能と向きを制御することによって画像を制御できるようにする別のニーズもある。制御装置は、ユーザが簡素化されたユーザ操作によってターゲットをUAVから離れた場所で表示される画像の中に所望の倍率で、所望の位置に視覚化することができるように構成され得る。
UAVにより支持される撮像装置により取得される画像を制御するためのシステム及び方法が提供される。画像をディスプレイ上に表示するためのデバイスが提供され得、画像はUAVにより支持される撮像装置により取得される。UAV、撮像装置、及び/又は撮像装置を支持する支持機構は、画像内の関心対象物を示すユーザ入力に関する情報を受信するように構成され得る。ユーザ入力は、ディスプレイ上に表示される関心対象物をタップする等、1回のユーザ動作であり得る。この情報に応答して、UAV、支持機構の向き及び/又は位置ならびに撮像装置の1つ又は複数のパラメータ(例えば、ズーミング)は、関心対象物が画像又はビューに関する所望の倍率と位置でユーザに対して表示されるように調整され得る。
本発明の一態様によれば、制御装置が提供される。本制御装置は、移動体により支持される撮像装置により取得される画像を表示するように構成されたディスプレイと、(1)画像内に表示されているターゲットを示すユーザ入力に関する情報を取得し、(2)ターゲットを示すユーザ入力に関する情報に基づいて、(a)撮像装置のズームレベル、及び(b)ターゲットに関する撮像装置の姿勢の自動制御を実行するように構成された1つ又は複数のプロセッサとを含み得る。
幾つかの実施形態では、制御装置で利用されるディスプレイはタッチクリーンである。ユーザ入力はディスプレイのある領域に対する接触である。幾つかの場合では、ディスプレイのその領域はターゲットを表示している。幾つかの実施形態では、ターゲットを示すユーザ入力は1回のユーザ動作により提供される。幾つかの実施形態では、ユーザ入力に関する情報はディスプレイ内の、ターゲットが表示されている場所を含む。幾つかの実施形態では、ディスプレイは更に撮像装置のズームレベルを制御するための1つ又は複数のズームコントロールを表示する。幾つかの場合では、1つ又は複数のズームコントロールは、(i)撮像装置のズームレベルを上げるように構成されたズームインコントロールと、(ii)撮像装置のズームレベルを下げるように構成されたズームアウトコントロールを含む。幾つかの場合では、1つ又は複数のズームコントロールは撮像装置のズームレベルをプリセットズームレベルに設定するためのデフォルトズームコントロールを含む。プリセットレベルは、ユーザにより構成され得る。
幾つかの実施形態では、制御装置で利用されるディスプレイは更にメニューを表示し、ユーザはそこから、画像内に表示されているターゲットを自動的に調整するための所定の比を選択する。
幾つかの実施形態では、(a)及び(b)の自動制御を実行するためのデータは、撮像装置、撮像装置を支持する支持機構、又は移動体のうちの少なくとも1つに対する(a)及び(b)の自動制御のための命令を含む。幾つかの実施形態では、(a)及び(b)の自動制御を実行するためのデータは、撮像装置、撮像装置を支持する支持機構、又は移動体に送信されるべき、ディスプレイ内のターゲットを示す座標を含む。幾つかの場合では、座標は、支持機構及び/又は移動体の1つ又は複数の作動機構のための制御コマンドを生成するために使用される。幾つかの実施形態では、(a)及び(b)の自動制御を実行するためのデータは、撮像装置、撮像装置を支持する支持機構、又は移動体に送信されるべき、撮像装置のズームレベルを自動的に調整するための所定の比を含む。
幾つかの実施形態では、撮像装置のズームレベルは、撮像装置のズームレベルを所定の比により自動的に調整することによって自動的に制御される。幾つかの場合では、撮像装置のズームレベルは、ズームインを実行するために自動的に調整される。幾つかの実施形態では、ターゲットに関する撮像装置の姿勢は、移動体に関する撮像装置の姿勢、ターゲットに関する移動体の姿勢、又は撮像装置の姿勢と移動体の姿勢の両方を調整することによって自動的に調整される。幾つかの実施形態では、ターゲットに関する撮像装置の姿勢は、ターゲットがディスプレイ内の所定の場所に、又はその付近に表示されるように自動的に制御される。幾つかの実施形態では、データは(a)及び(b)の自動制御を実質的に同時に実行する。
幾つかの実施形態では、制御装置は撮像装置、撮像装置を支持する支持機構、又は移動体のうちの少なくとも1つと通信するように構成された通信ユニットを更に含む。幾つかの場合では、通信ユニットは(a)及び(b)の自動制御を実行するためのデータを無線送信するように構成される。撮像装置は、移動体に対して移動可能である。例えば、撮像装置は、支持機構を用いて移動体により支持され、支持機構により撮像装置は少なくとも2つの軸の周囲で移動体に対して回転できる。幾つかの実施形態では、移動体は無人航空機(UAV)である。
本発明の追加的態様は、画像を取得するためのプログラム命令を含む非一時的コンピュータ可読媒体を提供し得る。本非一時的コンピュータ可読媒体は、移動体により支持される撮像装置により取得された画像をディスプレイ上に表示するためのプログラム命令と、画像内に表示されているターゲットを示すユーザ入力に関する情報を取得するためのプログラム命令と、ターゲットを示すユーザ入力に関する情報に基づいて、(a)撮像装置のズームレベルと、(b)ターゲットに関する撮像装置の姿勢の自動制御を実行するためのデータを生成するプログラム命令とを含み得る。
他の態様によれば、画像を取得する方法が提供される。本方法は、移動体により支持される撮像装置により取得された画像をディスプレイ上に表示するステップと、画像内に表示されているターゲットを示すユーザ入力に関する情報を取得するステップと、ターゲットを示すユーザ入力に関する情報に基づいて、(a)撮像装置のズームレベル、及び(b)ターゲットに関する撮像装置の姿勢の自動制御を実行するためのデータを生成するステップとを含む。
他の態様では、制御装置が提供される。本制御装置は、移動体により支持される撮像装置により取得された画像を表示するように構成されたディスプレイと、(1)画像内に表示されているターゲットを示すユーザ入力に関する情報を取得し、(2)ターゲットを示すユーザ入力に関する情報に基づいて、(a)ディスプレイ上に表示されるターゲットの大きさ、及び(b)ディスプレイ上に表示されるターゲットの位置の自動制御を実行するためのデータを生成するように構成された1つ又は複数のプロセッサとを含む。
幾つかの実施形態では、制御装置で利用されるディスプレイはタッチスクリーンである。ユーザ入力は、ディスプレイのある領域に対する接触である。幾つかの場合では、ディスプレイのその領域はターゲットを表示する。幾つかの実施形態では、ターゲットを示すユーザ入力は、1回のユーザ動作により提供される。幾つかの実施形態では、ユーザ入力に関する情報は、ディスプレイ内の、ターゲットが表示される場所を含む。幾つかの実施形態において、ディスプレイは、撮像装置のズームレベルを制御するための1つ又は複数のズームコントロールを更に表示する。幾つかの場合では、1つ又は複数のズームコントロールは、(i)撮像装置のズームレベルを上げるように構成されたズームインコントロールと、(ii)撮像装置のズームレベルを下げるように構成されたズームアウトコントロールを含む。幾つかの場合では、1つ又は複数のズームコントロールは、撮像装置のズームレベルをプリセットズームレベルに設定するためのデフォルトズームコントロールを含む。プリセットレベルは、ユーザにより構成され得る。
幾つかの実施形態では、制御装置で利用されるディスプレイはメニューを更に表示し、それを通じてユーザは画像内に表示されるターゲットの大きさを自動的に調整するための所定の比を選択する。
幾つかの実施形態では、(a)及び(b)の自動制御を実行するためのデータは、撮像装置、撮像装置を支持する支持機構、又は移動体のうちの少なくとも1つに対する(a)及び(b)の自動制御のための命令を含む。幾つかの実施形態では、(a)及び(b)の自動制御を実行するためのデータは、撮像装置、撮像装置を支持する支持機構、又は移動体に送信されるべき、ターゲットを表示するディスプレイ内の座標を含む。幾つかの場合では、座標は、支持機構及び/又は移動体の1つ又は複数の作動機構のための制御コマンドを生成するために使用される。幾つかの実施形態では、(a)及び(b)の自動制御を実行するためのデータは、撮像装置、撮像装置を支持する支持機構、又は移動体に送信されるべき撮像装置のズームレベルを自動的に調整するための所定の比を含む。
幾つかの実施形態では、撮像装置のズームレベルは、撮像装置のズームレベルを所定の比により自動的に調整することによって自動的に制御される。幾つかの場合では、撮像装置のズームレベルは、ズームインを実行するように自動的に調整される。幾つかの実施形態では、ターゲットに関する撮像装置の姿勢は、移動体に関する撮像装置の姿勢、ターゲットに関する移動体の姿勢、又は撮像装置の姿勢と移動体の姿勢の両方を調整することによって自動的に調整される。幾つかの実施形態では、ターゲットに関する撮像装置の姿勢は、ターゲットがディスプレイ内の所定の場所に、又はその付近に表示されるように自動的に制御される。幾つかの実施形態では、データは、(a)及び(b)の自動制御を実質的に同時に実行する。
幾つかの実施形態では、制御装置は、撮像装置、撮像装置を支持する支持機構、又は移動体の少なくとも1つと通信するように構成された通信ユニットを更に含む。幾つかの場合では、通信ユニットは、(a)及び(b)の自動制御を実行するためのデータを無線送信するように構成される。撮像装置は、移動体に対して移動可能である。例えば、撮像装置は、支持機構を用いて移動体により支持され、支持機構により、撮像装置は少なくとも2つの軸の周囲で移動体に対して回転できる。幾つかの実施形態では、移動体は無人航空機(UAV)である。
別の、ただし関連する態様では、画像を取得するためのプログラム命令を含む非一時的コンピュータ可読媒体が提供される。本非一時的コンピュータ可読媒体は、移動体により支持される撮像装置により取得された画像をディスプレイ上に表示するためのプログラム命令と、画像内に表示されているターゲットを示すユーザ入力に関する情報を取得するためのプログラム命令と、ターゲットを示すユーザ入力に関する情報に基づいて、(a)ディスプレイ上に表示されているターゲットの大きさ、及び(b)ディスプレイ上に表示されているターゲットの位置の自動制御を実行するデータを生成するためのプログラム命令とを含む。
他の関連する態様では、画像を取得する方法が提供される。本方法は、移動体により支持される撮像装置により取得された画像をディスプレイ上に表示するステップと、画像内に表示されているターゲットを示すユーザ入力に関する情報を取得するステップと、ターゲットを示すユーザ入力に関する情報に基づいて、(a)ディスプレイ上に表示されているターゲットの大きさ、及び(b)ディスプレイ上に表示されているターゲットの位置の自動制御を実行するデータを生成するステップとを含む。
本発明の他の態様によれば、制御装置が提供される。本制御装置は、移動体により支持される撮像装置により取得される1つ又は複数の画像を表示するように構成されたディスプレイと、(1)ディスプレイ上に表示される画像のズームレベルをプリセットズームレベルまで、又は所定のズーム比により調整することを示すユーザ入力に関する情報を取得し、(2)1回のユーザ入力に基づいて、(a)撮像装置のズームレベル、(b)画像内に示されるターゲットからの撮像装置の距離、又は(c)撮像装置のズームレベルと距離の両方の自動調整を実行して、(i)ディスプレイ上に表示された画像がプリセットズームレベルであるか、又は(ii)ディスプレイ上に表示された画像のズームレベルが所定のズーム比により調整されるように構成された1つ又は複数のプロセッサとを含む。
幾つかの実施形態では、プリセットズームレベルは1×の光学ズームである。幾つかの実施形態では、プリセットズームレベルは、撮像装置が画像の取得を開始する当初のズームレベルである。幾つかの実施形態において、画像のズームレベルは、プリセットズームレベルに、(1)撮像装置がズーム可能な、(2)ターゲットからの撮像装置の距離が変更可能な、又は(1)と(2)の組合せの最速の速度で自動的に調整される。幾つかの実施形態では、1回のユーザ入力はディスプレイ上の所定の領域のタッチである。幾つかの実施形態では、ディスプレイの所定の領域は、画像がプリセットズームレベルまでズームされるようにするデフォルトズームコントロールを表示する。
幾つかの実施形態では、ディスプレイはメニューを更に表示し、そこを通じてユーザはズーム比を選択する。幾つかの場合では、メニューは、ユーザがディスプレイを時間の閾値長さより長い時間にわたりタッチした時に可視化される。代替的に、メニューは、ユーザがディスプレイを閾値圧力より高い圧力でタッチした時に可視化する。メニューは、ズーム比に関する複数の選択肢を示し得、ユーザは複数の選択肢からある選択肢を選択できる。
幾つかの実施形態では、制御装置で利用されるディスプレイはタッチスクリーンである。ディスプレイは、ユーザが画像のズームイン又はズームアウトを制御するための1つ又は複数のズームコントロールを更に表示する。例えば、1つ又は複数のズームコントロールは、(i)ユーザがズームイン領域に触っている間に画像がズームインされるようにするディスプレイのズームイン領域と、(ii)ユーザがズームアウト領域に触っている間に画像がズームアウトされるようにするディスプレイのズームアウト領域とを含み得る。
幾つかの実施形態では、(a)、(b)、又は(c)の自動調整を実行する命令は、撮像装置、撮像装置を支持する支持機構、又は移動体のうちの少なくとも1つに対する(a)、(b)、又は(c)の自動調整のための命令を含む。幾つかの実施形態では、画像のズームレベルは、撮像装置のズームレベルを自動的に調整することによって自動的に調整される。幾つかの実施形態では、制御装置、撮像装置、撮像装置を支持する支持機構、又は移動体のうちの少なくとも1つと通信するように構成された通信ユニットを更に含む。幾つかの場合では、通信ユニットは、命令を無線送信するように構成される。撮像装置は、移動体に対して移動可能である。例えば、撮像装置は、支持機構を用いて移動体により支持され、支持機構により、撮像装置は少なくとも2つの軸の周囲で移動体に対して回転できる。幾つかの実施形態では、移動体は無人航空機(UAV)である。
本発明の異なる態様が、個々に、集合的に、又は互いと組み合わせて理解することができることが理解されるものとする。本明細書に記載される本発明の様々な態様は、以下記載される特定の用途のいずれか又は任意の他のタイプの移動体に適用し得る。本明細書での無人航空機などの航空機のあらゆる記載は、任意の車両等の任意の移動体に適用し得、使用し得る。更に、航空移動(例えば、飛行)の状況で本明細書に開示されるシステム、デバイス、及び方法は、地上移動、水上移動、水中移動、又は宇宙空間での移動等の他のタイプの移動の状況で適用することもできる。
本開示の追加的な態様と利点は、次の詳細な説明から当業者にとって容易に明らかとなり、その中では本開示の、あくまでも例示的実施形態が、単に本開示を実行するために想定される最良の態様の例示として示され、説明されている。理解されるように、本開示は他の異なる実施形態も可能であり、その幾つかの詳細事項は各種の自明な点において変更でき、これらは全て本開示から逸脱しない。したがって、図面と説明は、限定的ではなく、例示的性質のものとみなされるものとする。
本明細書において言及される全ての公開物、特許、及び特許出願は、個々の各公開物、特許、又は特許出願が特に且つ個々に参照により援用されることが示されるものとして、参照により本明細書に援用される。
本発明の新規の特徴は、特に添付の特許請求の範囲に記載されている。本発明の特徴及び利点のよりよい理解が、本発明の原理が利用される例示的な実施形態を記載する以下の詳細な説明を参照することにより得られる。
本発明の実施形態による、リモートコントローラを含む例示的なシステムを示す。 本発明の実施形態による、撮像装置の姿勢を制御するためにターゲットに関する情報を使用することの例を示す。 リモートコントローラから移動体、支持機構、又は撮像装置へのデータ送信の概略ブロック図を示す。 実施形態による、移動体を制御するための例示的なリモートコントローラを示す。 本発明の実施形態による、ディスプレイ上に表示されているターゲットの位置と大きさを制御することの例を示す。 実施形態による、支持機構と搭載物を含む移動体を示す。 実施形態による、画像データを取得するための例示的なシステムを示す。 実施形態による、撮像装置を制御するための例示的なプロセスを示す。 実施形態による、画像を取得するための他の例示的なプロセスを示す。 上述の画像のズームレベルを制御するための例示的なプロセスを示す。 カメラによる撮像の例示的な幾何学モデルを示す。
本明細書では本発明の好ましい実施形態が示され、説明されているが、当業者にとっては、このような実施形態が例示的に提供されているにすぎないことが明らかであろう。ここで、当業者であれば、本発明から逸脱することなく、多数の改変、変更、置換を着想するであろう。本発明を実施する中で、本明細書に記載されている発明の実施形態の各種の代替案が利用され得ることが理解されるものとする。
本発明は、移動体により支持される撮像装置により取得される画像を制御するためのシステム及び方法を提供する。本明細書に記載されている発明の様々な態様は、後述の具体的な用途のいずれにも当てはまり得る。本発明は、無人航空機(UAV)と共に、又は航空写真システムの一部として応用され得る。本発明の異なる態様が、個別に集合的に、又は相互に組み合わせて理解することができることが理解されるものとする。
本明細書において提供されるシステム及び方法を使って、ユーザはディプレイ上に表示される画像を制御できる。画像は、UAVにより支持される撮像装置を使って取得され得る。ターゲットは、ディスプレイ上に表示され得、画像はターゲットが簡素化されたユーザ操作で所望の倍率と位置で示されるように制御され得る。ユーザ入力は、ディスプレイ上に表示されているターゲット上のタップ等、1回のユーザ動作であり得る。幾つかの実施形態では、システム及び方法により、ユーザはディスプレイ上に表示された画像のズームレベルとディスプレイの中央の、又はその付近のターゲットの位置を制御する1回の動作を実行でき得る。ユーザは、ディスプレイ上に表示された画像のズームレベルをプリセットズームレベルまで、又は所定のズーム比によって調整することを示す1回の動作を実行し得る。ユーザ入力に関する情報に応答して、UAV、撮像装置を支持する支持機構の向き及び/又は位置と、撮像装置の1つ又は複数のパラメータ(例えば、ズームレベル)は、ターゲットがユーザに対して所望の倍率/大きさで、及び/又は画像若しくはディスプレイに関する位置に表示されるように調整され得る。
本明細書で提供されるシステム及び方法により、有利な点として、使用者が1回のユーザ動作で、従来は複数の入力を必要としていた複数の撮像要素を制御でき得る。例えば、従来は、画像をズームするためと画像内のターゲットの位置を調整するために別々のユーザコントロールが提供される。これは、UAVが飛び回っている間、時間を要し、面倒であり得る。従来のコントロールでは、ズームと位置を同時に制御することができない。追加的に、ユーザが最初にズームインした場合、UAV及び/又は撮像装置を支持する支持機構の移動により、ターゲットが視野から容易に外れてしまい得る。ユーザがまずターゲットを略中央に位置付けてからズームインする場合、より多くの時間が必要であり得、時には、別のズーム機能を実行する前に、ターゲットの再センタリング又は位置決めの追加の調整が行われ得る。画像内のターゲットのズームと位置を一緒に制御できるようにすることにより、撮像装置のズームとUAV及び/又は支持機構の動作との協働が可能となる。このような簡素化された動作は、ユーザがUAVの飛行及び/又は撮像装置により取得された画像を制御しているときに有益であり、それは、このような機能を実行することにユーザがより注意を払わずに済むからである。また、必要な時間も短くなり、これは動的環境において有益である。
図1は、本発明の実施形態による、撮像装置130とリモートコントローラ120を含む例示的な画像制御システム100を示す。撮像装置は移動体110により支持される。撮像装置は、移動体により直接支持され得るか、又は支持機構140を介して移動体により支持され得る。撮像装置は、撮像装置の視野170内の画像データを取得するために使用され得る。1つ又は複数のターゲット160が、撮像装置の視野内にあり得る。移動体110はUAVとして描かれているが、この図は限定的であるとは意図されず、本明細書に記載されているように、任意の適するタイプの移動体を使用できる。
移動体110は、環境をトラバースすることが可能な任意の物体であり得る。移動体は、空気、水、陸、及び/又は宇宙空間をトラバースすることが可能であり得る。環境は、移動できない物体(静止物体)及び移動可能な物体を含み得る。静止物体の例としては、地勢、植物、ランドマーク、建物、一体構造物、又は任意の固定された構造物を挙げることができる。移動可能な物体の例としては、人々、車両、動物、発射体等を挙げることができる。
幾つかの場合では、環境は慣性基準系であり得る。慣性基準系を使用して、時空間を均一的、等方的、及び時間独立的に記述し得る。慣性基準系は、移動体に相対して確立し得、移動体に従って移動し得る。慣性基準系での測定は、変換(例えば、ニュートン物理学でのガリレイ変換)により別の基準系(例えば、全球基準系(global reference frame))での測定に変換することができる。
移動体110は車両であり得る。車両は自己推進車両であり得る。車両は、1つ又は複数の推進ユニットを用いて環境をトラバースし得る。車両は、航空車両、陸ベースの車両、水ベースの車両、又は宇宙空間ベースの車両であり得る。車両は無人車両であり得る。車両は、人間の乗員を乗せずに環境をトラバースすることが可能であり得る。代替的には、車両は人間の乗員を搬送し得る。幾つかの実施形態では、移動体は無人航空機(UAV)であり得る。
本明細書でのUAV又は任意の他のタイプの移動体の任意の記載は、任意の他のタイプの移動体又は様々なカテゴリの移動体全般に適用し得、又はこの逆も同じであり得る。例えば、本明細書でのUAVの任意の記載は、任意の無人の陸境界、水ベース、又は宇宙ベースの車両に適用し得る。移動体の更なる例は、本明細書の他の箇所で更に詳細に提供される。
上述したように、移動体は、環境でトラバースすることが可能であり得る。移動体は、三次元内で飛行することが可能であり得る。移動体は、1つ、2つ、又は3つの軸に沿って空間並進することが可能であり得る。1つ、2つ、又は3つの軸は互いに直交し得る。軸は、ピッチ軸、ヨー軸、及び/又はロール軸に沿い得る。移動体は、1つ、2つ、又は3つの軸の回りを回転可能であることができる。1つ、2つ、又は3つの軸は、互いに直交し得る。軸は、ピッチ軸、ヨー軸、及び/又はロール軸であり得る。移動体は、最高で自由度6に沿って移動可能であり得る。移動体は、移動において移動体を支援し得る1つ又は複数の推進ユニット150を含み得る。例えば、移動体は、1つ、2つ、又は3つ以上の推進ユニットを有するUAVであり得る。推進ユニットは、UAVの揚力を生成するように構成し得る。推進ユニットは回転翼を含み得る。移動体はマルチ回転翼UAVであり得る。
移動体は任意の物理的構成を有し得る。例えば、移動体は、中心体105から延びる1つ又はアーム又は分岐部を有する中心体を有し得る。アームは中心体から側方又は放射状に延び得る。アームは、中心体に相対して移動可能であってもよく、又は中心体に相対して静止してもよい。アームは、1つ又は複数の推進ユニットを支持し得る。例えば、各アームは、1つ、2つ、又は3つ以上の推進ユニットを支持し得る。
移動体は筐体を有し得る。筐体は、1つの一体片、2つの一体片、又は複数の個片から形成し得る。筐体は、1つ若しくは複数の構成要素が配置されるキャビティを含み得る。構成要素は、飛行コントローラ、1つ若しくは複数のプロセッサ、1つ若しくは複数のメモリ記憶ユニット、1つ若しくは複数のセンサ(例えば、1つ若しくは複数の慣性センサ又は本明細書の他の箇所に記載される任意の他のタイプのセンサ)、1つ若しくは複数のナビゲーションユニット(例えば、全地球測位システム(GPS)ユニット)、1つ若しくは通信ユニット、又は任意の他のタイプの構成要素等の電気構成要素であり得る。1つ又は複数のセンサは、1つ又は複数のタイプのセンサを含み得る。センサのタイプの幾つかの例としては、位置センサ(例えば、全地球測位システム(GPS)センサ、位置の三角測量を可能にするモバイルデバイス送信機)、ビジョンセンサ(例えば、カメラ等の可視光、赤外線、又は紫外光を検出可能な撮像装置)、近接性又は距離センサ(例えば、超音波センサ、ライダー、飛行時間又は深度カメラ)、慣性センサ(例えば、加速度計、ジャイロスコープ、及び/又は重力検出センサ、これらは慣性測定ユニット(IMU)を形成し得る)、高度センサ、姿勢センサ(例えば、コンパス)、圧力センサ(例えば、気圧計)、温度センサ、湿度センサ、振動センサ、オーディオセンサ(例えば、マイクロフォン)、及び/又はフィールドセンサ(例えば、磁力計、電磁センサ、電波センサ)を挙げることができる。筐体は、単一のキャビティ又は複数のキャビティを有し得る。幾つかの場合では、飛行コントローラは、1つ又は複数の推進ユニットと通信し得、及び/又は1つ又は複数の推進ユニットの動作を制御し得る。飛行コントローラは、1つ又は複数の電子速度制御(ESC)モジュールを用いて1つ又は複数の推進ユニットと通信し、及び/又はその動作を制御し得る。飛行コントローラは、ESCモジュールと通信して、推進ユニットの動作を制御し得る。
幾つかの実施形態では、移動体は支持機構140を使用して搭載物を支持するように構成され得る。搭載物は、1つ又は複数の撮像装置130を含み得る。支持機構は、搭載物が移動体に対して移動できるようにし得る。例えば、支持機構は、搭載物が1つ、2つ、3つ、又は4つ以上の回転軸の周囲で回転できるようにし得る。他の例では、支持機構は、搭載物が1つ、2つ、3つ、又は4つ以上の軸に沿って直線的に移動できるようにし得る。回転又は並進移動のための軸は、相互に直交していても、直交していなくてもよい。相対移動は、自由度1若しくはそれ以上に関する(例えば、1つ、2つ、若しくは3つの軸に沿った)並進及び/又は自由度1若しくはそれ以上に関する(例えば、1つ、2つ、若しくは3つの軸の周囲での)回転、又はその任意の適する組合せとすることができる。1つ、2つ、又は3つの軸は、ピッチ軸、ヨー軸、又はロール軸のいずれの組合せでもあり得る。支持機構は、1軸ジンバル、2軸ジンバル、又は3軸ジンバルを含み得る。
支持機構は、1つ、2つ、3つ、又は4つ以上のフレーム構成要素を含み得る。第一のフレーム構成要素は、搭載物を支持するために使用され得る。第一のフレーム構成要素は、搭載物の重量を支え得る。搭載物は、第一のフレーム構成要素に対して静止し得るか、又は第一のフレーム構成要素に対して1つ若しくは複数の軸の周囲で回転し得る。任意選択により、第二のフレーム構成要素は、第一のフレーム構成要素と搭載物を支持し得る。第二のフレーム構成要素は、第一のフレーム構成要素と搭載物の重量を支え得る。第一のフレーム構成要素は、軸の周囲で第二のフレーム構成要素に対して回転し得る。任意選択により、第三のフレーム構成要素は、第二のフレーム構成要素、第一のフレーム構成要素、及び搭載物を支持し得る。第三のフレーム構成要素は、第二のフレーム構成要素、第一のフレーム構成要素、及び搭載物の重量を支え得る。第二のフレーム構成要素は、軸の周囲で第三のフレーム構成要素に対して回転し得る。第三のフレーム構成要素は移動体により支持され得る。任意選択により、第三のフレーム構成要素は、振動吸収デバイスにより支持され得る。振動吸収デバイスは、1つ又は複数の衝撃吸収材を含み得る。衝撃吸収材は1つ又は複数の軸に沿って振動を減衰させ得る。第三のフレーム構成要素は、移動体及び/又は振動吸収デバイスに対して静止した状態であり得る。代替的に、第三のフレーム構成要素は、ある軸の周囲で移動体及び/又は振動吸収デバイスに対して回転し得る。
支持機構は、1つ、2つ、3つ、4つ、又は5つ以上の作動機構を含み得る。作動機構はモータであり得る。作動機構は、1つ又は複数のフレーム構成要素の相互に関する、及び/又は搭載物若しくは移動体に関する動きを制御し得る。モータは、リモートコントローラ、搭載物、及び/又は移動体から1つ又は複数の制御信号を受信し得、これはモータの動きを制御し、それによって1つ又は複数のフレーム構成要素の配置を制御し得る。1つ又は複数のフレーム構成要素の配置を制御することは、移動体に関する搭載物の姿勢を制御し得る。移動体に関する搭載物の姿勢を制御することは、移動体に関する搭載物の姿勢を変化させ、及び/又は保持することを含み得る。移動体に関する搭載物の姿勢は、1つ、2つ、又は3つの軸の周囲で制御(例えば、変化又は保持)され得る。
幾つかの実施形態において、1つ又は複数のセンサは、移動体、支持機構、及び/又は搭載物の上に提供され得る。センサは、支持機構の1つ、2つ、3つ、又は4つ以上のフレーム構成要素の上に提供され得る。センサは、支持機構の1つ、2つ、3つ、又は4つ以上の作動機構の上に提供され得る。センサは、1つ、2つ、又は3つの軸の周囲の姿勢、角速度、及び/又は角加速度、及び/又は1つ、2つ、又は3つの軸に関する場所、線速度、及び/又は線加速度を測定するために有益であり得る。センサは慣性センサであり得る。
搭載物は任意選択的に、支持機構を用いずに移動体により支持され得る。搭載物は、支持機構を用いずに移動体に対して移動可能であり得てもよく、又は移動可能でなくてもよい。搭載物は、支持機構を用いずに1つ、2つ、又は3つの軸の周囲で回転し得る。幾つかの実施形態では、搭載物は、移動体に対して固定された位置及び/又は姿勢を有し得る。移動体は、周囲環境内でターゲットに関する搭載物の姿勢を調整するために移動してもよく、又はしなくてもよい。
幾つかの実施形態では、搭載物は、1つ又は複数の撮像装置130を含み得る。本明細書に記載されている撮像装置は、画像取得デバイスとして機能し得る。撮像装置は、画像データを取得するために使用できる。いくつかの実施形態では、撮像装置はカメラであり得る。カメラは、動的画像データ(例えば、ビデオ)を取得するムービーカメラ又はビデオカメラであることができる。カメラは、静止画(例えば、写真)を取得するスチルカメラであることができる。カメラは、動的画像データ及び静的画像の両方を取得し得る。カメラは、動的画像データの取得と静止画の取得とを切り替え得る。本明細書に提供される特定の実施形態は、カメラの状況で説明されるが、本開示が任意の適する撮像装置に適用可能であり、カメラに関連する本明細書での任意の説明が、任意の適する撮像装置にも適用可能であり、カメラに関連する本明細書での任意の説明が、他のタイプの撮像装置にも適用可能なことが理解されるものとする。カメラを使用して、3Dシーン(例えば、環境、1つ又は複数の物体等)の2D画像を生成することができる。カメラにより生成される画像は、3Dシーンの2D画像面への射影を表すことができる。したがって、2D画像内の各点は、シーンでの3D空間座標に対応する。カメラは、カラー画像、グレースケール画像等を取得し得る。撮像装置は、光撮像装置、赤外線撮像装置、超音波撮像装置、又は熱撮像装置であり得る。撮像装置は、環境内の各種の波長の光(例えば、可視光、赤外線等)を検出することによって環境を撮像することができ得る。
撮像装置は、光の波長に応答して電気信号を生成する相補型金属酸化膜半導体(CMOS)センサを含み得る。その結果として得られる電気信号を処理して画像データを生成できる。撮像装置により生成される画像データは、1つ又は複数の画像を含むことができ、これは静止画像(例えば、写真)、動画像(例えば、ビデオ)、又はそれらの適する組合せであり得る。画像データは、多色(例えば、RGB、CMYK、HSV)又は単色(例えば、グレイスケール、白黒、セピア)とすることかできる。撮像装置は、光を画像センサ内へと向けるように構成れたレンズを含み得る。画像センサは、ローリングシャッタを利用し得、この場合、画像の行又は列が逐次的に読み取られ、リセットされる。
撮像装置130は、所望のズームレベルで画像を取得するように構成され得る。幾つかの実施形態では、イメージングデバイスは、そのための焦点距離又は視角を変化させることができるズームレンズを含み得る。撮像装置は、ズームレンズの焦点距離を調整することによって光学ズームを提供し得る。例えば、1つ又は複数のレンズは光軸に沿ってスライドして焦点距離を調整し、所望のズームレベル又は拡大レベルを実現できるようにし得る。焦点距離はズームアウト時には増大され得、焦点距離はズームイン時には短縮され得る。焦点距離は、1つ又は複数のレンズを光軸に沿ってイメージングセンサに対して移動させることによって調整され得る。焦点距離は、イメージングセンサを光軸に沿って1つ又は複数のレンズに対して移動させることによって調整され得る。焦点距離は、撮像センサと1つ又は複数のレンズの両方を、画像センサとレンズとの間の距離が調整されるように移動させることによって調整され得る。幾つかの場合では、1つ又は複数のモータが、焦点距離を調整するために1つ又は複数の素子(例えば、レンズ、イメージングセンサ)を移動させるために含められ得る。撮像装置は、1つ又は複数のズームモータを含み得、これはイメージングセンサと1つ又は複数のレンズとの間の相対距離を調整し、及び/又は撮像装置により取得された光のイメージングセンサまでの光路に影響を与え得る他のいずれかの光学素子を調整し得る。
幾つかの実施形態では、撮像装置はデジタルズームを提供し得る。例えば、取得された画像は、画像を中央の領域に原画像と同じアスペクト比でクロップダウンし、その結果を補間によって原画像のピクセル寸法に戻すことによってズームインされ得る。幾つかの実施形態では、撮像装置は、光学ズーム、デジタルズーム、又は両方の組合せを使ってズームレベルを調整するように構成され得る。
光学ズーム、デジタルズーム、又は両方の組合せを使って様々なズームレベルを実現できる。幾つかの場合では、ズームレベルとは、現在の画像とベース画像との間のズーム比を指し得る。ベース画像は、現画像又は画像デバイスがデフォルト状態(例えば、焦点距離が最大)にある時に取得された画像であり得る。幾つかの場合では、ズーム比は、現在の画像と前の画像(ベース画像)との間のズーム比と定義され得る。ズームレベル又はズーム比は、例えば1×、1.5×、1.8×、2×、3×、4×、7×、24、30×、50×、60×、70×、80、90×、120×等とすることができる。画像解像度又は画像品質は、最大ズームレベルで損なわれることもあれば、損なわれないこともある。幾つかの場合では、特定のズームレベルにおいて画像の劣化が生じ得る。幾つかの場合では、全てのズームレベル又はズーム比が、画像劣化を生じさせずに実現できる。
デジタルズーム及び光学ズームは、様々な方法で組み合わせることができる。幾つかの場合では、デジタルズーム及び光学ズームは同時に実行され得る。例えば、3×のデジタルズーム比と4×の光学ズーム比が同時に実行されて、合計のズーム比7×を実現し得る。幾つかの場合には、デジタルズームは光学ズームの前に実行することができる。例えば、画像のズームレベルは、デジタルズームによって所定のズームレベルまで増大させ得、その後、デジタルズームを低下させるのと同時に光学ズームを増大させて、デジタルズーム効果に代わるようにし得る。
ズームレベルは、撮像装置の焦点距離を調整することによって調整できる。焦点距離とは、レンズ中心からレンズの焦点までの距離を指し得る。物体が撮像装置から離れているとき、焦点距離は、レンズから画像までの距離と近似する。幾つかの場合では、焦点距離は、1つ又は複数のレンズと画像センサとの間の距離を調整して、距離を変化させることによって撮像装置のズームレベルを調整できるように調整され得る。焦点距離がより長いと、画像の倍率/ズームインレベルはより高く、視野はより狭くなり得、反対に、焦点距離がより短いと、これはより低い倍率/ズームインレベル及びより広い視野に対応し得る。幾つかの場合では、焦点距離間の比はズーム比又はズーム比に対応し得る。ある例では、55mmから18mmへと変化する焦点距離は、55/18≒3×のズーム比又はズーム比率に対応し得る。焦点距離とズーム比との間の関係は線形であり得ることもあれば、そうでないこともある。幾つかの場合、焦点距離とズーム比は、撮像装置と撮像対象物体との間の距離が焦点距離より顕著に大きい場合に線形の関係を有する。幾つかの場合では、焦点距離とズーム比は、非線形の関係を有し得る。
ズーム速度は、光学ズーム、デジタルズーム、又は両方の組合せに基づいて決定され得る。ズーム速度は、画像のズームレベルが調整されたと認識される速度を指し得る。ズーム速度は、ディスプレイ上に表示される際のターゲットの大きさが変化する速度を指し得る。速度は線形でも非線形でもよい。速度は一定でも変化してもよい。ズーム速度は、ズームレベルの調整中の平均速度を指し得る。ズーム速度は、ズーム比による調整が実現される平均速度に関し得る。例えば、幾つかの場合では、ズーム速度が平均速度であるとき、ズーム速度は少なくとも1×/s、2×/s、4×/s、10×/s、20×/s、30×/s、40×/s、50×/s、60×/s、70×/s、80×/s、100×/s等であり得る。幾つかの実施形態では、光学ズームの速度は、レンズとイメージングセンサとの間の距離が調整され得る速度に依存し得る。光学ズームの速度は、焦点距離がどれだけ早く調整されるかに依存し得る。レンズとイメージングセンサとの間の距離が調整され得る速度は、ズームモータの速度に依存し得る。幾つかの実施形態では、デジタルズームの速度は瞬間的又は非常に高速であり得る。デジタルズームの速度は、約5秒、3秒、2秒、1秒、0.5秒、0.1秒、0.05秒、0.01秒、5ミリ秒、1ミリ秒、0.5ミリ秒、0.1ミリ秒未満であり得る。デジタルズームの速度は、画像データを処理し得る1つ又は複数のプロセッサに依存し得る。ズーム速度はまた、ターゲットに関する撮像装置の移動にも依存し得る。ターゲットに関する撮像装置の移動速度は、ターゲットに関する移動体、例えばUAVの速度に依存し得る。これは、UAVがどれだけ速く飛ぶことができるかに依存し得る。幾つかの実施形態では、環境要因、例えば風が、UAVがどれだけ速く飛ぶことができるかに影響を与え得る。ターゲットに関する撮像装置の移動方向もまた、ズーム速度に影響を与え得る。例えば、撮像装置がズームインしている間に移動体がターゲットから移動している場合、移動体の移動が撮像装置のズームインを部分的に相殺し、ズームイン速度を低下させ得る。ズーム速度は、撮像装置のズームレベル(例えば、光学ズーム、デジタルズーム、又は両方の組合せ)とターゲットに関する撮像装置の移動の組合せに基づいて決定され得る。
幾つかの場合では、ズームは撮像装置の光学ズームレベル又はデジタルズームレベルを調整することによって実現され得る。幾つかの場合では、ズームは撮像装置のズームレベルを調整するほか、撮像装置をターゲットに近付ける、又は更に遠ざけることによって実現され得る。幾つかの場合では、ズームは撮像装置をターゲットに近付ける、又は更に遠ざけることのみによって実現され得る。
撮像装置は、特定の画像解像度でフレーム又は一連の画像フレームを取得し得る。幾つかの実施形態では、フレーム解像度は、フレーム内のピクセル数によって定義し得る。幾つかの実施形態では、画像解像度は、約352×420ピクセル以上、約480×320ピクセル以上、約720×480ピクセル以上、約1280×720ピクセル以上、約1440×1080ピクセル以上、約1920×1080ピクセル以上、約2048×1080ピクセル以上、約3840×2160ピクセル以上、約4096×2160ピクセル以上、約7680×4320ピクセル以上、又は約15360×8640ピクセル以上であり得る。幾つかの実施形態では、カメラは、4Kカメラ又はより高い解像度を有するカメラであり得る。カメラのピクセルは正方形であり得る。他の実施形態では、正方形以外のピクセル又はその他の光歪みを考慮に入れ得る。
撮像装置は、特定の取得率で一連の画像フレームを取得し得る。幾つかの実施形態では、一連の画像は、約24p、約25p、約30p、約48p、約50p、約60p、約72p、約90p、約100p、約120p、約300p、約50i、又は約60i等の標準ビデオフレーム率(1秒あたりのフレーム)で取得し得る。幾つかの実施形態では、一連の画像は、速度が0.0001秒以下、0.0002秒以下、0.0005秒以下、0.001秒以下、0.002秒以下、0.005秒以下、0.01秒以下、0.02秒以下、0.05秒以下、0.1秒以下、0.2秒以下、0.5秒以下、1秒以下、2秒以下、5秒以下、又は10秒以下毎に約1枚の画像を取得し得る。幾つかの実施形態では、取得率は、ユーザ入力及び/又は外部状況(例えば、照明の明るさ)に応じて変更し得る。
画像センサにより取得される画像データは、データストレージデバイスに記憶されることができる。データストレージデバイスは、半導体、磁気、光、又は任意の適する技術に基づき得、フラッシュメモリ、USBドライブ、メモリカード、ソリッドステートドライブ(SSD)、ハードディスクドライブ(HDD)、フロッピディスク、光ディスク、磁気テープ等を含み得る。例えば、データストレージデバイスは、撮像装置に取り外し可能に連結可能なリムーバブルストレージデバイス、例えば任意の適するフォーマットのメモリカード、例えばPCカード、CompactFlash(登録商標)、SmartMedia(登録商標)、Memory Stick、Memory Stick Duo、Memory Stick PRO Duo、Miniature Card、Multimedia Card(MMC)、Reduced Size Multimedia Card(RS−MMC)、MMCmicro Card(MMCmicro)、PS2カード、Secure Digital(SD)カード、SxS、Universal Flash Storage(UFS)、miniSD、microSD、xD−Picture Card、Intelligent Stick(iStick)、Serial Flash Module(SFM)、NT Card、XQDカード等を含むことができる。データストレージデバイスはまた、外部ハードディスクドライブ、光ドライブ、テープドライブ、フロッピドライブ、撮像装置に動作的に接続され得るその他の適するストレージデバイスを含むことができる。
画像センサにより取得される画像データは、画像送信ユニットによりリモートコントローラに送信可能である。幾つかの実施形態では、画像データには、画像送信ユニットにより送信される前に圧縮又はその他の処理が行われ得る。他の例では、画像データは送信される前に圧縮又は処理されなくてもよい。送信された画像データは、リモートコントローラ上に表示され得、それによって制御端末を操作するユーザは、画像データを見て、及び/又は画像データに基づいて制御端末と対話できる。
画像センサにより取得される画像データは、プリプロセスユニットによりプリプロセス可能である。プリプロセスユニットは、あらゆるハードウェア、ソフトウェア、又はそれらの組合せを含むことができる。プリプロセスユニットの例としては、フィールドプログラマブルゲートアレイ(FPGA)を含むことができる。プリプロセスユニットは、画像センサに動作的に接続されて、画像データが処理されて情報の特定の部分が抽出される前に、生の画像データをプリプロセスすることができる。プリプロセスユニットにより実行されるタスクの例としては、画像座標系を確実に正確なものとするためのリサンプリング、ノイズ低減、コントラスト強化、スケールスペース表現等を挙げることができる。
撮像装置は、画像データをリモートコントローラに送信し得る。データは、撮像装置にオンボードの送信機を利用して無線送信され得る。データは、直接通信を使用してリモートコントローラに送信され得る。直接通信は、移動体/撮像装置とリモートコントローラとの間に提供され得る。間接通信は、1つ又は複数のルータ、通信塔、衛星、又は任意の他の中間デバイス若しくはネットワークを用いて実行し得る。通信のタイプの例としては、限定ではなく、インターネット、ローカルエリアネットワーク(LAN)、広域ネットワーク(WAN)、Bluetooth(登録商標)、近距離通信(NFC)技術、汎用パケット無線サービス(GPRS)、GSM(登録商標)、エンハンストデータGSM環境(EDGE)、3G、4G、又はロングタームエボリューション(LTE)プロトコル等のモバイルデータプロトコルに基づくネットワーク、赤外線(IR)通信技術、及び/又はWi−Fiを挙げることができ、無線、有線、又はそれらの組合せを介する通信であり得る。代替的に、撮像装置は、画像データを移動体及び/又は支持機構に提供し得る。画像テータは、有線又は無線接続を介して提供され得る。移動体及び/又は支持機構は今度は、画像データをリモートコントローラに送信し得る。
ターゲット物体160は、ユーザにより選択され得る。ターゲットは、ディスプレイ上で、画像の中に示され、ユーザとディスプレイスクリーンとの対話を介してユーザにより選択され得る。ターゲットは、画像の中で、ユーザが更に精査又は追跡するために選択し得る領域又は区域であり得る。ターゲットは、環境内の物体であり得る。ターゲットは、環境のある領域又は部分であり得る。ターゲットは、その周囲から視覚的に区別可能であってもよく、又はそうでなくてもよい。ターゲットは、静止ターゲット又は移動ターゲットであり得る。静止ターゲットは、環境内で実質的に静止したままであり得る。静止ターゲットの例には、限定ではないが、景観特徴物(例えば、樹木、植物、山、丘、川、小川、入江、谷、巨岩、岩石等)、又は人工特徴物(例えば、構造物、建物、道路、橋梁、柱、フェンス、動いていない車両、看板、照明等)を挙げ得る。静止ターゲットは、大型のターゲット又は小型のターゲットを含み得る。幾つかの例では、静止ターゲットは構造物又は物体の選択された部分に対応し得る。例えば、静止ターゲットは、高層ビルの特定の部分(例えば、最上階)に対応し得る。各種の実施形態では、撮像装置により撮像されるターゲット160は、地理的景観(例えば、山、草木、谷、湖、又は川)、建物、車両(例えば、航空機、船舶、自動車、トラック、バス、バン、又はオートバイ)等、あらゆる自然の、又は人工的な物体又は構造物を含むことができる。
ターゲットは移動ターゲットであり得る。移動ターゲットは環境内で移動可能であり得る。移動ターゲットは、常に移動中であり得るか、又はある期間について移動中であり得る。移動ターゲットは、ほぼ一定した方向において移動し得るか、又は方向を変え得る。移動ターゲットは、空中、地上、地下、水上若しくは水中、及び/又は宇宙空間で移動し得る。移動ターゲットは、生物移動ターゲット(例えば、人間、動物)、又は非生物移動ターゲット(例えば、動いている車両、動いている機械、風に吹かれる、若しくは水により運ばれている物体、生物ターゲットにより運ばれている物体)であり得る。移動ターゲットは、1つの移動物体又は移動物体の集合を含み得る。例えば、移動ターゲットは1人の人間又は移動している人間の集合であり得る。移動ターゲットは、大きなターゲット又は小さいターゲットであり得る。ユーザは移動ターゲットを選択し得る。移動ターゲットはいずれの適した環境内、例えば空中(例えば、固定翼航空機、回転翼航空機、又は固定翼も回転翼も持たない航空機)、水中(例えば、船舶又は潜水艦)、地上(例えば、自動車、トラックバス、バン、オートバイ等のモータ車両、ステッキ、釣り竿等の移動可能な構造物若しくは構成物、又は列車)、地下(例えば、地下鉄)、宇宙空間内(例えば、宇宙船、衛星、又はプローブ)、又はこれらの環境のあらゆる組合せ等、任意の適する環境内で移動するように構成されたあらゆる物体であり得る。
移動ターゲットは、自由度6(例えば、並進に自由度3及び回転に自由度3)に関して環境内を自在に移動可能であり得る。代替的には、移動ターゲットの移動は、所定の経路、行路、又は向きによる等、1つ又は複数の自由度に関して制約することができる。移動は、エンジン又はモータ等の任意の適する作動機構により作動可能である。移動ターゲットの作動機構は、電気エネルギー、磁気エネルギー、太陽エネルギー、風力エネルギー、重力エネルギー、化学エネルギー、核エネルギー、又はそれらの任意の適する組合せ等のエネルギー源で駆動し得る。移動ターゲットは、更に後述されるように、推進システムを介した自己推進型であり得る。推進システムは、任意選択的に、電気エネルギー、磁気エネルギー、太陽エネルギー、風力エネルギー、重力エネルギー、化学エネルギー、核エネルギー、又はこれらの任意の適する組合せ等のエネルギー源で動作し得る。
幾つかの例では、移動ターゲットは、遠隔制御される車両等の車両とすることができる。適する車両としては、水上車両、航空車両、宇宙車両、又は地上車両を挙げ得る。例えば、固定翼航空機(例えば、飛行機、グライダー)、回転翼航空機(例えば、ヘリコプタ、回転翼機)、固定翼と回転翼の両方を有する航空機、又はいずれも有さない航空機(例えば、飛行船、熱気球)であり得る。車両は、空中、水上、水中、宇宙空間、地上、又は地下で自己推進するような自己推進型であることができる。自己推進型車両は、1つ又は複数のエンジン、モータ、車輪、車軸、磁石、回転翼、プロペラ、翼、ノズル、又は任意の適するそれらの組合せを含む推進システム等の推進システムを利用することができる。幾つかの場合では、推進システムを使用して、移動体を表面から離陸させ、表面に着陸させ、現在の位置及び/又は向きを維持させ(例えば、ホバリングさせ)、向きを変更させ、及び/又は位置を変更させることができる。
ターゲットは、人間や動物等の生物対象物を含むことができる。ターゲットは、任意の適した参照フレームに対して移動し、又は静止し得る。参照フレームは、比較的固定された参照フレーム(例えば、周囲環境又は地球)とすることができる。代替的に、参照フレームは、移動参照フレーム(例えば、動いている車両)とすることができる。各種の実施形態において、ターゲットとしては、受動ターゲット又は能動ターゲットを挙げ得る。能動ターゲットは、ターゲットのGPS位置等のターゲットに関する情報を移動体に送信するように構成され得る。情報は、能動ターゲットの通信ユニットから移動体の通信ユニットへと無線通信を介して送信され得る。能動ターゲットの例としては、味方の車両、建物、集団等を挙げることができる。受動ターゲットは、ターゲットに関する情報を送信するように構成されていない。受動ターゲットの例としては、中立の、又は敵対する車両、建物、集団等を挙げることができる。
1つ又は複数のターゲットは、視野170内に示され得る。幾つかの場合では、画像内に表示されるターゲットの位置を調整すること、又はズームレベルを調整することにより、視野又は画角が変化し得る。視野は、撮像装置の各種特性及び撮像装置と撮像対象のターゲットとの間の相対位置に基づいて決定され得る。例えば、レンズ焦点距離と画像センサの大きさにより、視野と、撮像装置からターゲットまでの距離との間の一定の関係が設定される。視野は、カメラの画像センサ上で取得されるビューの領域である。幾つかの例では、撮像装置の視野170は、ターゲットの選択に応答して調整され得る。UAV及び/又は撮像装置の向きは、選択されるターゲットに基づいて調整され得る。例えば、UAV及び/又は撮像装置の向きは、撮像装置の視野の中央領域内にターゲットを提供するように選択され得る。例えば、ターゲットの方向は、中心点又は、視野の横方向及び/又は長さ方向の中心線に沿っていてもよく、それによってターゲットは画像の中央領域に、又はその付近に表示され得る。
システム100は、静止ターゲットの画像を取得するように構成され得る。UAVは、画像取得中に静止ターゲットに対して移動してもよく、又はしなくてもよい。撮像装置は、画像取得中に、UAVに対して(任意選択的に、支持機構を用いて)移動するように構成されてもよく、又はされなくてもよい。
システム100は、移動ターゲットの画像を取得するように構成され得る。幾つかの場合、UAVは移動ターゲットを追跡するように構成され得る。追跡は、ビジョンに基づく追跡、GPSに基づく追跡、又はその他であり得る。システムは、ターゲットの画像を取得するための各種の飛行制御モードを有し得る。各種のモードは、行先指定(fly−to)モード及び追跡モードを含み得る。UAVが行先指定モードにあるとき、UAVはターゲットに向かって飛行するように構成され得る。UAVが追跡モードにあるとき、UAVはターゲットを追跡するように構成され得る。追跡モードにあるとき、UAVはターゲットまでの所定の距離を保持し、又はターゲットをその視野内に保持し得、ターゲットに向かって飛行してもよく、又はしなくてもよい。
システム100は、リモートコントローラ120を含み得る。リモートコントローラは、移動体、支持機構、及び/又は撮像装置を制御するための制御装置であり得る。制御装置は、移動体、支持機構、及び/又は撮像装置と通信し得る。通信は、1方向通信又は2方向通信とすることができる。制御装置は、制御信号を移動体、支持機構、及び/又は撮像装置に送信し得る。制御信号は、撮像装置のズームレベル及び/又は移動体の位置に影響を与えうる。制御信号は支持機構に影響を与えて、移動体に関する撮像装置の向きを調整又は保持し得るか、又は移動体の位置及び/又は向きに影響を与え得る。移動体110は、リモートコントローラ120からの制御データを受信するように構成され得る。リモートコントローラは、制御データを提供するように構成可能な遠隔制御端末とすることができる。制御データは、移動体の各局面を直接又は間接に制御するために使用できる。幾つかの実施形態では、制御データは、移動体の位置、速度、向き、又は姿勢等、移動体のナビゲーションパラメータを制御するためのナビゲーションコマンドを含むことができる。制御データは、UAVの飛行を制御するために使用できる。制御データは、UAVの飛行に影響を与え得る1つ又は複数の推進ユニット150の動作に影響を与え得る。他の場合では、制御データは、移動体の個々の構成要素を制御するためのコマンドを含むことができる。例えば、制御データは、支持機構140の動作を制御するための情報を含み得る。例えば、制御データは、支持機構の作動機構を制御して、移動体110に関する搭載物である撮像装置130の角及び/又は線移動を起こさせるようにするために使用され得る。他の例としては、制御データは、搭載物を持たない支持機構の移動を制御するために使用され得る。他の例として、制御データは、静止画又は動画を撮影すること、ズームイン又はズームアウトすること、電源をオン又はオフにすること、撮像モードを切り換えること、画像解像度を変更すること、焦点を変更すること、被写界深度を変更すること、露光時間を変更すること、レンズの速度を変更すること、画角又は視野を変更すること等、搭載物に関する1つ又は複数の動作パラメータを調整するために使用され得る。他の実施形態では、制御データは移動体の感知システム(図示せず)、通信システム(図示すせず)等を制御するために使用され得る。
幾つかの実施形態では、制御データは、ユーザ入力に関する情報に基づいて生成され得る。ユーザ入力は、リモートコントローラ120により得られ得る。幾つかの実施形態では、リモートコントローラは、移動体110、支持機構140、及び/又は撮像装置130から離れた、又はそこから遠い場所に位置付けることができる。リモートコントローラは、支持プラットフォーム上に配置され、又は固定されることができる。代替的に、リモートコントローラはハンドヘルド又はウェアラブルデバイスとすることができる。例えば、リモートコントローラとしては、スマートフォン、タブレット、ラップトップ、コンピュータ、グラス、グローブ、ヘルメット、マイクロフォン、又はそれらの適した組合せを挙げることができる。
リモートコントローラは、移動体から受信したデータを、ディスプレイを介して表示するように構成できる。表示されたデータは、移動体により支持される撮像装置により取得された画像(例えば、静止画及びビデオ)等の感知データを含み得る。
幾つかの実施形態では、リモートコントローラは、画像内に表示されているターゲットを示すユーザ入力に関する情報を取得するように構成できる。ユーザ入力は、入力デバイスを介して受け取られ得る。入力デバイスはタッチスクリーンであり得る。入力デバイスはまた、画像を表示するための表示デバイスであり得る。ユーザは、画像内に表示されているターゲットを、タッチスクリーン上のある領域をタッチすることによって示し得る。各種の他の入力デバイスを使ってユーザ入力を受け取ることができる。例えば、入力デバイスとしては、ジョイスティック、キーボード、マウス、スタイラス、マイクロフォン、画像若しくはモーションセンサ、慣性センサ等を挙げ得る。
リモートコントローラは、ユーザ入力を受け取り、本明細書の他の箇所に記載されているように、移動体及び/又は移動体に接続されたその他の構成要素を制御するように構成できる。手動入力されたコマンド、音声制御、ジェスチャ制御、又は位置制御(例えば、端末の移動、場所、又は傾きを介した)等の任意の適するユーザ入力が、リモートコントローラとの対話に使用可能である。例えば、リモートコントローラは、ユーザがジョイスティックを操作すると、制御端末の向き若しくは姿勢を変化させること、キーボード、マウス、指、若しくはスタイラスを使ってグラフィカルユーザインタフェースと対話すること、又は任意の他の適する方法を使用することによって、移動体、支持機構、搭載物、又はそれらの任意の構成要素の状態を制御できるように構成され得る。
幾つかの実施形態では、ターゲットを示すユーザ入力に関する情報が取得され得る。情報は、ディスプレイ内の、ターゲットが表示されている場所を含み得る。情報は、ディスプレイ内の、ユーザがタッチスクリーンをタッチ又はタップした場所を含み得る。情報は、ターゲットの場所からディスプレイ内の所定の場所までのオフセットを含み得る。例えば、ユーザが選択したターゲットは、ディスプレイの中心から外れた場所に表示され得る。この場合、情報はディスプレイの中心からのターゲットの場所のオフセットを含み得る。
幾つかの実施形態てば、制御データは、ターゲットを示すユーザ入力に関する情報に基づいて生成され得る。幾つかの実施形態では、制御データは、ズームレベル又はズーム比を更に含み得る。制御データは、撮像装置のズームレベル及びターゲットに関する撮像装置の姿勢の自動制御を実行するために使用され得る。
少なくとも一部に、画像内のターゲットの場所又は所定の場所からのオフセットに基づいて、実質的にターゲットがディスプレイ内の所定の場所に、又はその付近に、所定のズームレベルまで、又は所定のズーム比により調整して表示されるようにする制御信号が(例えば、移動体にオンボードの1つ又は複数のプロセッサにより)生成され得る。調整は、撮像装置が1つ又は複数の画像を取得しているときに実質的にリアルタイムで実行され得る。幾つかの実施形態では、調整は、移動体がユーザから提供されたナビゲーションコマンドを実行している(例えば、ホバリングしている、又は移動している)及び/又は所定のナビゲーション経路を実行しているときに実質的にリアタイムで実行され得る。幾つかの実施形態では、調整は、移動体にオンボードの1つ又は複数のセンサ(例えば、近接性センサ、又はGPSセンサ)により取得された監視データ等、他のデータに基づいて生成され得る。例えば、追跡対象のターゲットの位置情報は、近接性センサにより取得され、及び/又はターゲット自体(例えば、GPSの位置)により取得され得る。このような位置情報は、画像内のオフセット又は画像内のターゲットの場所に加えて、調整を生成するために使用され得る。
調整は、移動体、支持機構、及び/又は撮像装置に関し得る。例えば、調整は、移動体及び/又は撮像装置にその位置、姿勢、向き、角及び/又は線速度、角及び/又は線速度、及びその他を変化させ得る。調整は、支持機構に、1つ、2つ、3つ、又は4つ以上の軸の周囲で、又はそれに沿って等、移動体に対して移動させ得る。更に、調整は、撮像装置のズーム、焦点又はその他の動作パラメータに対する調整を含み得る。
各種の実施形態では、ターゲットがディスプレイ内の所定の場所に、又はその付近に表示されるようにするための調整は、移動体、支持機構、撮像装置、又はこれらの任意の組合せ等、1つ又は複数の制御可能物体の姿勢を、制御信号を介して制御することによって実現され得る。幾つかの実施形態では、制御可能物体は、調整を実行するように選択され得、対応する制御信号は、少なくとも一部に制御可能物体の構成又は設定に基づいて生成され得る。例えば、撮像装置が移動体に剛体的に接続され、したがって、移動体に対して移動できない場合、2つの軸(例えば、ヨーとピッチ)の周囲の回転を含む調整は、それに対応する2つの軸の周囲での移動体の回転のみによって実現され得る。これは、撮像装置が移動体に直接連結されているとき、又は撮像装置が、撮像装置と移動体との間の相対移動を不可能にする支持機構を介して移動体に接続されている場合に当てはまり得る。支持機構により撮像装置が移動体に対して少なくとも1つの軸の周囲で回転できる場合、同じ2軸調整は、移動体と支持機構の両方に対する調整を組み合わせることによって実現され得る。この場合、支持機構は、調整に必要な2つの軸のうちの1つまた2つの周囲での回転を実行するように制御でき、移動体は、2つの軸のうちの1つ又は2つの周囲での回転を実行するように制御できる。例えば、支持機構は1軸ジンバルを含み得、これによって撮像装置は調整に必要な2つの軸のうちの1つの周囲で回転でき、その一方で、他方の軸の周囲での回転が移動体により実現される。代替的には、支持機構により撮像装置が移動体に対して1つ又は2つの軸の周囲で回転できる場合、同じ2軸調整は支持機構のみによって実現され得る。例えば、支持機構は2軸又は3軸ジンバルを含み得る。
幾つかの実施形態では、画像データのズームレベル又はズーム比の調整は、撮像装置のズームイン/アウトレベルを制御することによって(例えば、撮像装置が必要なズームレベルをサポートする場合)、移動体の移動を制御することによって(例えば、ターゲットにより近付けるか、又はそこからより遠ざけるため)、又は撮像装置のズームイン/アウトと移動体の移動の組合せによって実現され得る。移動体にオンボードのプロセッサは、どの物体又は物体の組合せを調整するかを決定し得る。例えば、ズームレベルが撮像装置のズームイン能力を超えている場合、移動体は、撮像装置のズームを調整することに加えて、移動体をターゲットのより近くに移動させるように制御され得る。他の例では、ターゲット又は画像は、撮像装置のズームアウト機能を実行することに加えて、移動体をターゲットからより遠くに移動させることによって、所定の比によりズームアウトされ得る。他の例では、移動体と撮像装置のズームとの間の距離の調整を行って、高速ズームイン/アウト効果を実現し得る。撮像装置のズームは、光学ズーム、デジタルズーム、又はその両方の組合せとし得る点に留意されたい。
幾つかの実施形態では、調整は、他の制約を考慮に入れることによって実施され得る。例えば、移動体のナビゲーション経路があらかじめ決められている場合、調整は、移動体の移動に影響を与えずに、支持機構及び/又は撮像装置によって実施され得る。移動体のナビゲーション経路は、例えば、遠隔ユーザが制御端末を介して移動体のナビゲーションを能動的に制御している場合、又は移動体が事前に記憶されたナビゲーション経路に従って(例えば、自律的又は半自律的に)ナビゲートしている場合に、事前に設定され得る。
他の制約の例としては、移動体、支持機構、及び/又は搭載物(例えば、撮像装置)に関する回転角度、角及び/又は線速度、動作パラメータ、及びその他の最大限度及び/又は最小限度を含み得る。このような最大及び/又は最小閾値は、調整範囲を限定するために使用され得る。例えば、特定の軸の周囲での移動体及び/又は撮像装置の角速度は、移動体、支持機構、及び/又は搭載物(例えば、撮像装置)に対して許容される最大角速度により上限が定められ得る。他の例として、移動体及び/又は支持機構の線速度は、移動体、支持機構、及び/又は搭載物(例えば、撮像装置)に対して許容される最大線速度により上限が定められ得る。また別の例として、撮像装置の焦点距離に対する調整は、特定の撮像装置に関する最大及び/又は最小焦点距離により限定され得る。幾つかの実施形態では、このような限度はあらかじめ決定され、移動体、支持機構、及び/又は搭載物(例えば、撮像装置)の具体的な構成に依存し得る。幾つかの例では、このような構成は(例えば、製造者、管理者、又はユーザにより)構成可能であり得る。
幾つかの実施形態では、移動体は、移動体にオンボードのセンサにより取得された感知データ等のデータを提供するように構成でき、リモートコントローラはこれを受信するように構成できる。感知データの例としては、移動体により支持される撮像装置により取得される画像データ又は他のセンサにより取得される他のデータを挙げ得る。例えば、リアルタイム又は準リアルタイムビデオは、移動体及び/又は撮像装置からリモートコントローラへとストリームされることができる。感知データはまた、全地球測位システム(GPS)センサ、運動センサ、慣性センサ、近接性センサ、及びその他のセンサにより取得されたデータも含み得る。各種の実施形態では、リモートコントローラが移動体から受信したデータは、生データ(例えば、センサが取得した生の感知データ)、及び/又は処理済みデータ(例えば、移動体上の1つ又は複数のプロセッサにより処理される情報)を含み得る。
移動体は、リモートコントローラと通信でき得る。リモートコントローラは、移動体自体と、移動体の搭載物と、及び/又は移動体の支持機構と通信し得、支持機構は搭載物を支持するために使用される。移動体との通信に関する本明細書における記載は全て、移動体の搭載物、移動体の支持機構、及び/又は移動体の1つ又は複数の個々の構成要素(例えば、通信ユニット、ナビゲーションユニット、推進ユニット、電源、プロセッサ、メモリストレージユニット、及び/又は作動機構)との通信に当てはまり得る。
移動体とリモートコントローラとの間の通信は、無線通信であり得る。直接通信は、移動体とリモートコントローラとの間で提供され得る。直接通信は、いずれの仲介デバイス又はネットワークも必要とせずに行われ得る。間接通信は、移動体とリモートコントローラとの間に提供され得る。間接通信は、1つ又は複数の仲介デバイス又はネットワークを用いて行われ得る。例えば、間接通信は電気通信ネットワークを利用し得る。間接通信は、1つ又は複数のルータ、通信塔、衛星、又は他のあらゆる仲介デバイス又はネットワーク用いて実行され得る。通信の様々なタイプは、本明細書の他の箇所に記載されている方法を含むことができる。
リモートコントローラは、任意のタイプの外部デバイスであり得る。リモートコントローラの例としては、限定ではなく、スマートフォン/セルフォン、タブレット、個人情報端末(PDA)、ラップトップコンピュータ、デスクトップコンピュータ、メディアコンテンツプレーヤ、ビデオゲーミングステーション/システム、仮想現実システム、拡張現実システム、ウェアラブルデバイス(例えば、時計、眼鏡、手袋、ヘッドギア(帽子、ヘルメット、仮想現実ヘッドセット、拡張現実ヘッドセット、ヘッドマウントデバイス(HMD)、ヘッドバンド等)、ペンダント、アームバンド、足バンド、靴、ベスト)、ジェスチャ認識デバイス、マイクロフォン、画像データを提供若しくはレンダリング可能な任意の電子デバイス、又は任意の他のタイプのデバイスを挙げることができる。リモートコントローラは、ハンドヘルド物体であり得る。リモートコントローラはポータブルであり得る。リモートコントローラは、人間ユーザにより携帯し得る。幾つかの場合では、リモートコントローラは、人間ユーザからリモートに配置し得、ユーザは、無線通信及び/又は有線通信を使用してリモートコントローラを制御することができる。リモートコントローラの様々な例及び/又は特徴は、本明細書の他の箇所で更に詳細に提供される。
リモートコントローラは、1つ又は複数の動作の命令を提供し得る非一時的コンピュータ可読媒体を実行可能であり得る1つ又は複数のプロセッサを含み得る。リモートコントローラは、1つ又は複数の動作を実行するコード、論理、又は命令を含む非一時的コンピュータ可読媒体を含む1つ又は複数のメモリ記憶デバイスを含み得る。リモートコントローラは、リモートコントローラが移動体と通信し、移動体から撮像データを受信できるようにするソフトウェアアプリケーションを含み得る。リモートコントローラは通信ユニットを含み得、通信ユニットにより、移動体との通信が可能になり得る。幾つかの場合では、通信ユニットは、単一の通信ユニット又は複数の通信ユニットを含み得る。幾つかの場合では、リモートコントローラは、単一の通信リンク又は複数の異なるタイプの通信リンクを使用して移動体と対話可能であり得る。
リモートコントローラはディスプレイを含み得る。ディスプレイは画面であり得る。ディスプレイは、タッチスクリーンであってもよく、又はタッチスクリーンでなくともよい。ディスプレイは発光ダイオード(LED)画面、OLED画面、液晶ディスプレイ(LCD)画面、プラズマ画面、又は任意の他のタイプの画面であり得る。ディスプレイは、グラフィカルユーザインタフェース(GUI)を示すように構成し得る。GUIは、ユーザがUAVの動作を制御できるようにし得る画像を示し得る。例えば、ユーザは、画像からターゲットを選択し得る。ターゲットは、静止ターゲット又は移動ターゲットであり得る。ユーザは、ターゲット及び/又は方向を画定するために画像のある部分(例えば、点、領域、及び/又は物体)を選択し得る。ユーザは、スクリーン(例えば、タッチスクリーン)を直接タッチすることによってターゲットを選択し得る。ユーザは、スクリーンのある部分をタッチし得る。ユーザは、スクリーンのその部分を、スクリーン上のある点をタッチすることによってタッチし得る。ユーザは、ユーザ対話デバイス(例えば、マウス、ジョイスティック、キーボード、トラックボール、タッチパッド、ボタン、音声コマンド、ジェスチャ認識、姿勢センサ、端末センサ、タッチ容量性センサ、又は任意の他のデバイス)を用いて、画像の一部を選択することにより、ターゲット方向を選択し得る。タッチスクリーンは、ユーザのタッチの位置、タッチの長さ、タッチの圧力、及び/又はタッチの移動を検出するように構成し得、それにより、上述したタッチ様式のそれぞれは、ユーザからの特定の入力コマンドを示し得る。
ディスプレイ上の画像は、移動体の搭載物を用いて収集されたビューを示し得る。例えば、撮像装置により取得された画像をディスプレイに表示し得る。これは一人称視点(FPV)と見なし得る。幾つかの場合では、単一の撮像装置を提供し得、単一のFPVを提供しうる。代替的には、異なる視野を有する複数の撮像装置を提供し得る。ビューは複数のFPV間で切り替えてもよく、又は複数のFPVを同時に表示してもよい。複数のFPVは、異なる視野を有し得る異なる撮像装置に対応(又は異なる撮像装置により生成)し得る。リモートコントローラにおけるユーザは、撮像装置により収集された画像の一部を選択して、ターゲットを指定し得る。
別の例では、ディスプレイ上の画像は、移動体の搭載物からの情報を用いて生成し得るマップを示し得る。マップは、任意選択的に、立体マッピング技法を使用し得る複数の撮像装置(例えば、右カメラ、左カメラ、又はより多くのカメラ)を用いて生成し得る。幾つかの場合では、マップは、環境に相対するUAV、環境に相対する撮像装置、及び/又は撮像装置に相対するUAVについての位置情報に基づいて生成し得る。位置情報は、姿勢情報、空間場所情報、角速度、線形速度、角加速度、及び/又は線形加速度を含み得る。マップは、任意選択的に、本明細書の他の箇所で更に詳細に記載されるように、1つ又は複数の追加のセンサを用いて生成し得る。マップは、二次元マップ又は三次元マップであり得る。ビューは、二次元マップビューと三次元マップビューとの間で切り替えてもよく、又は二次元マップビュー及び三次元マップビューを同時に表示してもよい。リモートコントローラにおけるユーザは、マップの一部を選択して、ターゲットを指定し得る。ビューは、1つ又は複数のFPVと1つ又は複数のマップビューとの間で切り替えてもよく、又は1つ又は複数のFPV及び1つ又は複数のマップビューを同時に表示してもよい。ユーザは、ビューのいずれかを使用してターゲット又は方向を選択し得る。ユーザにより選択される部分は、ターゲット及び/又は方向を含み得る。ユーザは、記載のように、選択技法のいずれかを使用して一部を選択し得る。
幾つかの実施形態では、画像は、リモートコントローラ(例えば、仮想現実システム又は拡張現実システム)に表示される3D仮想環境において提供し得る。3D仮想環境は、任意選択的に、3Dマップに対応し得る。仮想環境は、ユーザが操作することができる複数のポイント又は物体を含み得る。ユーザは、仮想環境内の様々な異なる動作を通してポイント又は物体を操作することができる。それらの動作の例としては、1つ又は複数のポイント又は物体の選択、ドラッグアンドドロップ、並進、回転、スピン、プッシュ、プル、ズームイン、ズームアウト等を挙げることができる。三次元仮想空間でのポイント又は物体の任意のタイプの移動動作を意図し得る。リモートコントローラにおけるユーザは、仮想環境内のポイント又は物体を操作して、UAVの飛行経路及び/又はUAVの移動特性を制御し得る。
ユーザ入力に関する情報は、ディスプレイ内の、ターゲットが表示されている場所を含み得る。ユーザ入力に関する情報は、ターゲットが表示されている場所とディスプレイ内の所定の場所とのオフセットを含み得る。オフセットの場所は、ターゲットに関する撮像装置の姿勢の自動制御を行って、ターゲットがディスプレイ内の所定の場所に、又はその付近に表示されるようにするために使用され得る。図2は、本発明の実施形態による、撮像装置230の姿勢を制御するためにターゲットに関する情報を使用することの例を示す。
ディスプレイは、撮像装置230から取得された画像を示すように構成され得る。ディスプレイは、リモートコントローラにより含まれ得る。幾つかの実施形態では、ディスプレイはタッチスクリーンであり得る。ディスプレイは、リモートコントローラに動作的に接続された外部デバイスにより提供され得る。例えば、リモートコントローラは、ユーザからの入力を受け取るように構成され得る適するモバイルアプリケーションソフトウェア(「app」)220を実行するモバイルデバイス(例えば、スマートフォン)に動作的に接続される。app 220は、移動体のための制御命令を生成するために使用されるユーザ入力に関する情報を取得するように構成され得る。幾つかの場合では、画像を表示し、ユーザ入力を受け取るために、グラフィカルユーザインタフェースが提供され得る。GUIは、ソフトウェア、ソフトウェアアプリケーション、ウェブブラウザ等において提供され得る。撮像装置のズームレベル制御とターゲットに関する撮像装置の姿勢制御は、1つ又は複数のコンピューティングデバイス上でソフトウェア、ハードウェア、又はハードウェア又はソフトウェアの組合せを使って実装できる。
支持機構240を介して移動体により支持される撮像装置230により取得される画像210はユーザに対して表示され得る。ユーザ入力は、画像210の中に表示されているターゲット221を示す1つ又は複数のユーザ動作であり得る。例えば、ユーザは、ユーザにとって関心の対象である領域を示すタッチスクリーン上のスポットをタップ又はタッチし得る。幾つかの場合では、ディスプレイその領域はターゲット221を表示し得る。ターゲットは、ユーザがより詳しく見たい物体又は構造であり得る。ターゲットは、ある物体又は構造のうち、ユーザが焦点を合わせたい部分であり得る。幾つかの場合では、ユーザがタッチスクリーン上のタップ等の動作を実行すると、ユーザがディスプレイの画像内にタッチした場所又は場所の座標がターゲットの場所として記録され得る。幾つかの場合では、ターゲットの他のいずれの場所もターゲットの場所として使用され得る。例えば、ターゲットのグラフィック形状が認識され得、ターゲットの中止点がターゲットの位置として使用され得る。各種の座標系を使って場所を定義できる。例えば、座標系は画像の座標又は表示スクリーンの座標とすることができる。座標系の原点は、画像の中心、表示スクリーンの中心、画像の左上隅、又は表示スクリーンの左上隅等、様々な方法で定義できる。app 220により提供されるディスプレイ上の画像座標と撮像装置230のカメラ座標は既知の関係(例えば、変換マトリクス)でマッピングされ得る。例えば、像面のx−y座標は、カメラの光学(例えば、焦点距離)、幾何学(例えば、幾何学歪み)、及びデジタル特性(例えば、ピクセルサイズ)を含むカメラの各種の内的パラメータ及び、カメラの外的パラメータ(例えば、世界フレームに関するカメラの場所と向き)に基づいてカメラ座標X−Yにマッピングされ得る。幾つかの場合では、画像座標からカメラ座標への変換は、像面内の並進オフセットが撮像装置の姿勢調整にマッピングされるようにリアルタイムで計算できる。
ターゲットの場所は画像内のいずれの場所にも位置付けられ得る。場所は、所望の場所(u,V)からずれていてもよく、又はずれていなくてもよい。所望の場所は、画像の中心又は表示スクリーンの中心等、所定の場所とすることができる。例えば、画像の幅がWピクセル、高さがHピクセルであるとすると、所望の場所は
及び/又は
等、画像中心の付近とすることができる。所望の場所は、画像内の他のいずれの箇所に位置付けることもでき、これは中心であってもよく、中心でなくてもよい。所望の場所はユーザが決定できる。例えば、ユーザはユーザの選好に従ってターゲットを見るための所望の場所を設定することができ得る。
幾つかの場合では、ターゲットの場所(u,v)と所望の場所(u,v)との間のオフセットは計算されて、ターゲットが表示スクリーン内の所望の場所に、又はその付近に表示されるように撮像装置の姿勢を制御するために使用され得る。幾つかの実施形態では、画像座標内のターゲットの場所から所望の場所までのオフセットは、1つ又は複数の軸の周囲での撮像装置の1つ又は複数の回転移動を導き出すために使用され得る。回転移動は、ターゲットに関する撮像装置の姿勢を調整して、回転後にターゲットが表示スクリーン上の所望の位置に、又はその付近に位置付けられるようにしうる。ターゲットに関する撮像装置の姿勢は、各種のコンピュータビジョン方法を使って、像面とカメラ座標との間の変換関係に基づいて決定できる。例えば、撮像装置の光学、幾何学、及びデジタル特性を特徴付ける内的パラメータ、カメラフレームからピクセル座標への変換、及びカメラフレームからワールドフレームへの変換は、像面内の座標を撮像装置の姿勢角度にマッピングするために使用され得る。
回転移動は、ターゲットに関する撮像装置の姿勢を、回転後にターゲットが表示スクリーン上の所望の位置に、又はその付近に位置付けられるように調整し得る。幾つかの場合では、撮像装置の並進移動はターゲットに関する撮像装置の姿勢を調整し得る。幾つかの場合では、撮像装置の並進移動と回転移動の組合せは、ターゲットに関する撮像装置の姿勢を調整し得る。ターゲットに関する撮像装置の姿勢は、移動体に関する撮像装置の姿勢、ターゲットに関する移動体の姿勢、又は撮像装置の姿勢と移動体の姿勢の両方を調整することによって自動的に調整され得る。
幾つかの場合では、撮像装置が静止した姿勢にある間に、ターゲットは撮像装置に対して移動し得る。これらの場合では、撮像装置の姿勢を調整するための回転移動は、撮像装置に関するターゲットの相対移動を考慮し得る。例えば、撮像装置と移動体は自動追跡モードにあり得る。当初の追跡対象の物体は、ユーザが示すものと同じターゲットでなくてもよい。この場合では、ユーザがターゲットを示すジェスチャを入力すると、撮像装置と移動体は、撮像装置の姿勢と撮像装置のズームレベルを自動的に調整し、ターゲットがディスプレイ上の所定の場所(例えば、中心)に表示されるようにし得、その間は追跡されていてもいなくてもよい。
ターゲットに関する撮像装置の姿勢は、撮像装置の回転移動/又は並進移動により調整可能である。回転移動は、1つ又は複数の軸(例えば、ロール軸、ピッチ軸、又はヨー軸)の周囲のものとすることができる。撮像装置に関する回転移動は、個別に、又は集合的に、移動体及び支持機構に対する調整を介して実現され得る。1つ、2つ、3つ、又は4つ以上の軸の周囲での回転は、移動体の回転、支持機構を介した移動体に関する撮像装置の回転、又は両方の組合せによって実現され得る。並進移動は、1つ、2つ、3つ、又は4以上の軸に沿ったものとすることができる。撮像装置のための並進移動は、集合的に、又は個別に、移動体及び支持機構に対する調整を介して実現され得る。1つ、2つ、3つ、又は4つ以上の軸に沿った並進移動は、ターゲットに関する移動体の並進移動、移動体に関する支持機構を介した撮像装置の並進移動、又は両方の組合せによって実現できる。幾つかの実施形態において、撮像装置の回転移動と並進移動の両方の組合せは、ターゲットに関する撮像装置の姿勢を調整するために実行され得る。
幾つかの実施形態では、移動体は、ピッチ、ヨー、及びロール軸等、最大3つの直交軸の周囲で回転され得る。移動体は、ターゲットに関する並進移動又は線速度を有するように制御され得る。撮像装置は、支持機構を介して移動体に接続され得る。支持機構は、撮像装置を最大3つの直交軸の周囲で移動体に対して移動させることができ得る。支持機構は、撮像装置が移動体に関する回転及び並進移動の両方を実行させ得る。したがって、撮像装置の姿勢は、集合的又は個別に移動体と支持機に対する調整を介して調整できる。
幾つかの実施形態では、撮像装置のズームレベルもまた、ターゲットを示すユーザ入力に応答して自動的に調整される。幾つかの場合では、撮像装置のズームレベルは、撮像装置の姿勢に対する調整と同時に調整される。例えば、撮像装置が、ターゲットがディスプレイの所定の場所に表示されるようにする姿勢へと回転されている間に、撮像装置の光学ズーム又はデジタルズームもまた実行され、それによってターゲットが所定の場所に移動されるときまでにターゲットの大きさもまた、所定のズーム比により拡大される。幾つかの場合では、撮像装置の姿勢の調整は、光学ズームを使用する場合、ズームレベルの調整より高速であり得る。この場合では、撮像装置の姿勢は支持機構を介して調整されている間に、デジタルズームが実行され得る。画像のズームレベルは、姿勢調整中にデジタルズームによって、所望のズームレベルまで、又は所定のズーム比により増大させられ得る。その後、所望のズームレベルに到達したら、光学ズームが増大させられ得る間に、デジタルズームは低下させられ得、最終的に光学ズームが所望のレベルになり、デジタルズームはゼロに戻る。幾つかの場合では、撮像装置のズームレベルは、姿勢調整後に調整される。他の場合では、撮像装置のズームレベルは、姿勢の調整前に調整される。
撮像装置のズームレベルは、撮像装置のズームパラメータを調整することによって制御され得る。例えば、撮像装置のズーム比は、集合的又は個別に、光学ズーム及びデジタルズームにより調整され得る。ズームレベルは、ターゲットからの撮像装置の距離を調整することによって制御され得る。例えば、移動体は、ズームイン効果のためにはターゲットに近付くように移動し得、ズームアウト効果のためにはターゲットから遠ざかるように移動し得る。ズームレベルは、撮像装置のズームとターゲットからの撮像装置の距離との組合せを調整することによって制御され得る。この組合せを決定するために、様々な方法を使用できる。例えば、撮像装置のズームがまず実行されてよく、所望のズームレベルが撮像装置の能力を超えている場合、移動体はターゲットにより近付くように、又はそれから更に離れるように移動して、所望のズームレベルを実現し得る。他の例では、撮像装置のズームと撮像装置とターゲットとの間の距離を変化させることを実質的に同時に実行し得、それによってズームレベルを連続的に実行する場合より早く実現できる。
幾つかの実施形態では、撮像装置のズームレベルは所定の比により自動的に調整され得る。幾つかの実施形態では、所定の比はズームイン比である。代替的に、撮像装置のズームレベルは所定のズームレベルに到達するまで自動的に調整される。例えば、ディスプレイ上に示されるターゲットを示すユーザ入力に応答して、所望の場所(例えば、ディスプレイの中心)に、又はその付近に位置付けられることに加え、ターゲットはまた、ユーザがターゲットをより詳しく見ることができ得るように、所定のズームイン比により拡大され得る。所定のズームイン比は、ユーザにより設定可能である。ズームイン比は、1.1×、1.5×、2×、3×、4×、5、6×、10×、20×等の各種の数字とすることができる。使用者は、所定の比を、いつでも、例えば撮像装置を作動させる前、撮像装置の動作中、又は必要に応じた他の任意の適する時に設定でき得る。幾つかの場合では、デフォルトズームイン比は、焦点距離、ズーム能力、又は最適な画像品質等、撮像装置の様々な特性に基づいてソフトウェアにより提供され得る。幾つかの場合では、デフォルトズームイン比は、ユーザにより提供され得る。例えば、ユーザは、リモートコントローラ上に提供されたアプリケーションを介してデフォルトズームイン比を選択又は入力し得る。
幾つかの実施形態では、リモートコントローラは、撮像装置、撮像装置を支持する支持機構、又は移動体のうちの少なくとも1つと通信するように構成された通信ユニットを更に含み得る。通信ユニットは、撮像装置のズームレベル及びターゲットに関する撮像装置の姿勢の自動制御を実行するためのデータを送信するように構成され得る。図3は、リモートコントローラから移動体、支持機構、又は撮像装置へのデータ送信の概略ブロック図を示す。
前述のように、データは、画像内に示されるターゲットを示すユーザ入力に関する情報に基づいて生成され得る。ユーザ入力310は、タッチスクリーン上のタップ又はタッチ等の簡素化されたユー動作であり得る。幾つかの実施形態では、ユーザ入力は、1回のユーザ動作であり得る。1回のユーザ動作は、マウスの1回のクリック、スタイラスでのタップ、タッチスクリーンの1回のスイープ等、入力デバイスに関する1回の動作を含むことができる。1回のユーザ動作は、1回のタッチジェスチャとすることができる。1回のジェスチャは、タッチスクリーンへの1回の入力であり得る。1回のシェスチャは、ユーザによる1回の動きを含み得る。ユーザによる1回の動作は、実質的に1方向へのものであり得るか、又は複数の方向へのものであり得る。1回のユーザ動作は、ユーザの片手を使って遂行され得る。1回のユーザ動作は、ユーザの1本の指又は複数の指を使って遂行され得る。複数の指は同時に使用され得る。1回のユーザ動作は、短時間内に遂行され得る。例えば、1回のユーザ動作は約5秒、3秒、2秒、1秒、0.5秒、0.1秒、又は0.01秒以内に遂行され得る。本願で提供されるシステム及びデバイスにより、ユーザは、選択されたターゲットの位置決め及びズームにつながる1回のユーザ動作を実行できる。ユーザ入力は、力覚的入力とすることができる。ユーザ入力は、タッチスクリーンのある領域上でのタップ、ターゲットの所望の場所へのドラッグ、インディケータのドラッグ、及びターゲットの上でのドロップ等、任意の適する形態とすることができる。タップは、シングルタップ、ダブルタップ、ディープタッチ、ライトタッチ、1点のタッチ、複数点のタッチ、及びユーザにより定義され得るか、又はされ得ない他の各種の動作とすることができる。ディープタッチは、圧力の程度が閾値の量を超えるタッチであり得る。ロングタッチは、時間の長さが閾値の量を超えるタッチであり得る。ユーザはタッチスクリーン上で表示されているターゲットをタップし得、及び表示スクリーン内のターゲットの場所を含む情報が得られ得る。幾つかの場合では、情報は、撮像装置330のズームレベルとターゲット340に関する撮像装置の姿勢の自動制御を実行するためのデータを来生するために使用され得る。
データは、(a)撮像装置のズームレベル、及び(b)ターゲットに関する撮像装置の姿勢を制御するための制御データであり得る。制御データは、(a)及び(b)の制御を実質的に同時に実行し得る。制御データは、ユーザが選択するターゲットの座標を含み得る。画像内の選択されたターゲットの座標は、ターゲットに関する撮像装置の姿勢を調整するための回転角を生成するために使用できる。代替的に、制御データは、選択されたターゲットの現在の位置と所定の位置との間のオフセットを含み得る。制御データは、オフセットに対応する回転角を含み得る。ターゲットの座標に基づく撮像装置の回転角を取得することに関する詳細は、図11において更に説明される。回転角を含むデータは、撮像装置の姿勢を回転角だけ調整するために、撮像装置、撮像装置を支持する支持機構、又は移動体に送信され得る。回転角は、支持機構及び/又は移動体の1つ又は複数の作動機構のための制御コマンドを生成するために使用され得る。制御データは、撮像装置のズームレベルを自動的に調整するための所定の比を含み得る。制御データは、撮像装置、撮像装置を支持する支持機構、又は移動体に送信されるための命令を含み得る。制御データは、光学ズームコントロール及び/又はデジタルズームコントロールを介して、撮像装置のズームレベルを制御するための命令を含み得る。
制御データは、撮像装置の姿勢を調整するための情報を含み得、これは以下のうちの少なくとも1つを含む:選択されたターゲットの場所と所定の場所との間のオフセット、ディスプレイ上の選択されたターゲットの座標、オフセットに対応する回転角。制御データはまた、撮像装置のズームレベルを調整するための情報も含み得、これは以下のうちの少なくとも1つを含む:所望のズームレベル、ズームレベルを調整するための所定のズーム比。
データは、撮像装置、撮像装置を支持する支持機構、又は移動体のうちの少なくとも1つに対する命令を含み得る。命令は、撮像装置のズームレベル及びターゲットに関する撮像装置の姿勢を制御するためのものであり得る。ターゲットに関する撮像装置の姿勢を制御することは、上述のように移動体及び/又は支持機構の移動を実行することによって実現可能である。撮像装置のズームレベルを制御することは、撮像装置のズームレベルを調整すること(例えば、光学ズーム及び/又はデジタルズーム)、及び/又は撮像装置からターゲットまでの距離を調整すること(例えば、移動体を移動させる)により達成できる。
幾つかの実施形態では、データは、リモートコントローラにオンボードの1つ又は複数のプロセッサにより生成され得る。一例では、データは撮像装置の目標の姿勢又は角度を含み得、この姿勢は、ターゲットを画像内の所定の場所に表示することに対応し、撮像装置の姿勢角度は、移動体にオンボードの1つ又は複数のプロセッサにより支持機構及び/又は移動体に対する制御コマンドを生成するために使用され得る。他の例では、データは支持機構及び/又は移動体の1つ又は複数の回転角又は並進移動を含み得、回転角又は並進移動は、移動体にオンボードの1つ又は複数のプロセッサにより支持機構及び/又は移動体への制御コマンドを生成するために使用され得る。別の例では、データは、画像内のターゲットの座標と、ターゲットが画像内の所定の場所に表示されるようにする支持機構及び/又は移動体の移動は、移動体にオンボードの1つ又は複数のプロセッサにより決定され得る。支持機構及び/又は移動体の1つ又は複数の作動機構のための制御コマンドは、この移動に基づいて生成できる。データはまた、撮像装置のズームレベルを自動的に調整するための所定の比も含み得る。
リモートコントローラにより生成されるデータは、ターゲットに関する撮像装置の姿勢と撮像装置のズームレベルの自動制御を実行するために使用され得る。データは、ズーム比のほか、画像内のターゲットの場所等、所定の要素を含み得る。データは、支持機構及び/又は移動体の1つ又は複数の作動機構のための制御コマンドを生成するために使用され得る。幾つかの場合では、移動体に対する制御コマンドは、移動体の1つ又は複数の推進ユニットを制御するための飛行制御器により生成され得る。幾つかの場合では、支持機構に対する制御コマンドは、支持機構の1つ又は複数の作動機構(例えば、モータ)を制御するために、支持機構の制御ユニットにより生成され得る。制御ユニットは、複数の飛行コントローラにより含まれているかもしれず、又は含まれないかもしれない。幾つかの場合では、撮像装置のズームモータを制御するために、撮像装置に対する制御コマンドは撮像装置の1つ又は複数のプロセッサにより生成され得る。飛行制御器、支持機構のための制御ユニット、又は撮像装置のためのプロセッサは、移動体にオンボードで、支持機構にオンボードで、撮像装置にオンボードで、及び/又は外部デバイス若しくはネットワーク上に提供され得る。飛行制御器は、1つ又は複数のプロセッサを含み得る。
飛行制御器は、移動体の飛行を制御し得る。任意選択的に、飛行制御器は、移動体の1つ又は複数の推進ユニットに提供されることになる1つ又は複数の飛行命令を生成し得る。飛行制御器は、移動体の1つ又は複数の推進ユニットと通信し得る。
1つ又は複数のセンサからの情報は、飛行コントローラに提供し得る。例えば、1つ又は複数の組のIMUからの情報は、飛行コントローラに提供し得る。1つ又は複数の組のIMUは、移動体に搭載して、支持機構に搭載して、及び/又は搭載物に搭載し得る。IMUからのデータは、移動体、支持機構、及び/又は搭載物の位置情報を示し得る。飛行コントローラは、任意選択的に、UAVの飛行を制御するに当たり、1つ又は複数のセンサからの情報を使用し得る。任意選択的に、1つ又は複数のセンサからの情報は、UAV及び/又はその環境に相対する撮像装置の位置を制御するのに使用し得る。
飛行制御器は、ターゲットに関する移動体の姿勢を制御し得る。飛行制御器は、移動体の1つ又は複数の推進ユニットに、ターゲットに関する移動体の姿勢又は向き(例えば、機首方向)が制御され得るように移動体の1つ又は複数の推進ユニットに対する制御コマンドを生成し得る。
飛行制御器は、ユーザ端末から情報を受信し得る。飛行制御器は、ターゲット及び/又は方向のユーザによる選択及び/又は方向を示す情報を受信し得る。飛行制御器は、ターゲット及び/又は方向の選択に応答して飛行経路を生成し、及び/又はUAVの飛行を制御し得る。
ターゲットに関する撮像装置の姿勢の制御を実行するためのデータは、支持機構に対する命令を含み得る。データは、支持機構の移動を実行するための制御コマンドを生成するために使用され得る。幾つかの場合では、支持機構の1つ又は複数の作動機構のための制御コマンドは、支持機構の制御ユニットにより生成されることができる。幾つかの実施形態では、支持機構の1つ又は複数のフレーム構成要素は、支持機構により支持される撮像装置が移動体に対して相対移動し得るように相互に対して移動すべく制御され得る。支持機構を介して撮像装置の姿勢を制御することに関する詳細は、本明細書の他の箇所に記載されている。
データはまた、撮像装置のズームレベルの自動制御を実行するための所定の要比を含み得る。所定の比はズームイン比であり得る。幾つかの場合では、所定の比は、所定の比を実現できるように撮像装置の焦点距離を調整するための撮像装置の1つ又は複数のズームモータに対する制御コマンドを生成するために使用され得る。
幾つかの実施形態では、ディスプレイ上に表示されているターゲットの大きさとディスプレイ上に表示されているターゲットの位置の自動制御を実行するためのデータが生成され得る。ターゲットの位置に対する制御の実行については前述した。幾つかの実施形態では、ディスプレイ上に表示されるターゲットの大きさの実行は、撮像装置のズームレベル、撮像装置からターゲットまでの距離、又は撮像装置のズームレベルと撮像装置からターゲットまでの距離の両方を自動的に制御することによって実現され得る。例えば、ターゲットの大きさを拡大するために、撮像装置のズームモータは撮像装置の焦点距離を調整するように制御され得るか、移動体がターゲットに向かって移動することによって距離を短縮するように制御され得る。
幾つかの実施形態では、データは、移動体をターゲットに対して移動させ、移動体とターゲットとの間の距離を調整できるようにするための制御コマンドを生成するために使用され得る。制御コマンドは、移動体の1つ又は複数の推進ユニットを制御するために、飛行制御器により生成され得る。飛行制御器は、移動体とターゲットとの間の距離を制御できるように移動体の移動を制御し得る。飛行制御器は、任意選択的に、移動体のための飛行経路を生成し得る。飛行経路は、ターゲット物体に向かい得る。幾つかの実施形態では、飛行経路は静止する物体に向かい得る。飛行経路は、任意選択的に、移動する物体に向かう機首方位であり得るが、機首方位及び/又は経路は、物体が移動するにつれて変更され得る。代替的に、可動物のための飛行経路が生成されない。飛行経路は、ターゲット方向への機首方位を含み得る。幾つかの実施形態では、撮像装置の姿勢と撮像装置のズームレベルを制御するための命令の両方を含むデータは、撮像装置、撮像装置を支持する支持機構、又は移動体の少なくとも1つに送信され得る320。例えば、データは、リモートコントローラから移動体の通信ユニットへと送信され得、ズームレベルを制御するための命令は、更に移動体から撮像装置へと送信され得る。同様に、移動体の姿勢を実行するための命令を含むデータは、撮像装置により中継され、その後、移動体にオンボードのコントローラに送信されることができる。幾つかの実施形態では、撮像装置のズームレベルを制御するための命令を含むデータは撮像装置に送信され得、姿勢を制御するための命令は移動体か及び/又は支持機構に送信され得る。リモートコントローラにより提供又は送信される制御データは、移動体、支持機構、又は撮像装置のうちの1つ又は複数の状態を制御するように構成できる。代替的に、又は組合せにより、支持機構と撮像装置はまた、各々、リモートコントローラと通信するように構成された通信ユニットを含むことができ、それによってリモートコントローラは移動体、支持機構、及び撮像装置の各々と個別に通信し、これを制御できる。
図4は、実施形態による移動体410を制御するためのある例示的なリモートコントローラ420を示す。リモートコントローラは、UAV等の移動体に接続された撮像装置又は画像センサにより取得された画像データ等の感知データを表示するためのディスプレイ430を含む。画像データは、移動体にオンボードの撮像装置又は画像センサにより取得された画像を含み得る。画像はユーザが画像内で所定の場所に所望のズームレベルで見たいと望み得る1つ又は複数のターゲットを含み得る。ターゲットは、ディスプレイ420内に表示され得る。ターゲットを示すユーザ入力は、移動体及び/又は撮像装置を制御するための制御データを生成するために使用され得る。
リモートコントローラ420は、1つ又は複数のディスプレイ430を含み得る。ディスプレイは、タッチセンシティブ表示スクリーンであり得る。タッチセンシティブスクリーンは、スクリーン内に表示されているターゲットを示すユーザ入力を受け取るように構成され得る。ディスプレイは、ユーザに対して画像を表示するように構成され得る。画像は、移動体又は撮像装置から送信され得る。タッチセンシティブ表示スクリーンは、タッチセンシティブ表面、力覚及び/又は触覚コンタクトに基づいてユーザからの入力を受け入れるセンサ又はセンサ群を有し得る。タッチセンシティブ表示スクリーンと付随するあらゆる構成要素は、タッチセンシティブ表示スクリーン上のコンタクト(及びあらゆるコンタクトの移動又は停止)を検出し得、検出されたコンタクトをユーザインタフェースのオブジェクト(例えば、ユーザにとって関心のあるターゲット又は領域)に変換し、これはタッチセンシティブスクリーン上に表示される。
タッチセンシティブ表示スクリーンは、コンタクト及びそのあらゆる移動又は停止を、例えば、限定ではないが、容量、抵抗、赤外線、及び弾性表面波方式を含む、現在知られている、又は今後開発される複数のタッチセンシング技術のいずれかのほか、タッチセンシティブスクリーンとの1つ又は複数のコンタクト地点を判断するための近接性センサアレイ又はその他の素子を使って検出し得る。タッチセンシティブ表示スクリーンは、タップ、ピンチ、スワイプ、ホールド、ディーププレス、ロングプレス等の各種のタッチジェスチャを検出することができ得る。
リモートコントローラはまた、移動体410又は移動体の構成要素を制御するためのその他のユーザ入力を受け取るための1つ又は複数の入力デバイスも含むことができる。このような入力デバイスとしては、ジョイスティック、ボタン若しくはスイッチ、キーボード、マウス、又は任意の適する機構を含み得る。例えば、1つ又は複数のボタン又はスイッチは、移動体のナビゲーションモード等の異なるモード間で切り替えるために使用され得る。ジョイスティック及びホイールは、移動体、支持機構、又は撮像装置の移動又は姿勢を制御するために使用され得る。
リモートコントローラは、1つ又は複数のプロセッサ450を含み得る。1つ又は複数のプロセッサは、プログラマブルプロセッサ(例えば、中央処理ユニット(CPU))、Field Programmable Gate Array(FPGA)及び/又は1つ又は複数のARMプロセッサを含み得る。1つ又は複数のプロセッサは、1つ又は複数のメモリユニット460に動作的に接続可能である。メモリユニットは、一時的及び/又は非一時的記憶媒体を含み得る。非一時的コンピュータ可読媒体は、本明細書に記載されている方法の任意の適する実施形態を実行するための1つ又は複数のプロセッサにより実行可能な論理、コード、及び/又はプログラム命令を記憶できる。メモリは、1つ又は複数のメモリユニット(例えば、SDカード又はランダムアクセスメモリ(RAM)等のリムーバブルメディア又は外部ストレージ)を含み得る。幾つかの実施形態では、リモートコントローラの入力デバイスからのデータは、メモリユニットに直接伝達され、そこに記憶されることができる。例えば、1つ又は複数のプロセッサは、ディスプレイ内に表示されているターゲットを示すユーザ入力(例えば、タッチスクリーン上のタップ)に関する情報に基づいてデータを生成するための命令を実行するように構成でき。1つ又は複数のプロセッサは、ユーザ入力に基づいて移動体又は撮像装置に対する制御コマンドを生成すること、通信ユニット440にデータを送信及び/又は受信させること等を行わせるようにしてもよく、又はしなくてもよい。メモリユニットは、外部デバイス(例えば、移動体)から受信した画像データ等のデータを記憶できる。幾つかの実施形態では、メモリユニットは、撮像装置の、ユーザが定義したズームレベル及びユーザが定義したタッチ動作等のユーザ入力を記憶するために使用できる。
非一時的コンピュータ可読媒体460は、移動体410により支持される撮像装置により取得された画像をディスプレイ上に表示するためのプログラム命令を含み得る。プログラム命令はまた、1つ又は複数のプロセッサに、ディスプレイ上でのタッチジェスチャの位置を分析すること等によって、画像内に表示されているターゲットを示すユーザ入力に関する情報を取得させるための命令も含み得る。プログラム命令はすると、プロセッサに、ターゲットがディスプレイ上に所望の大きさで所望の位置に表示されるように移動体と撮像装置の制御を実行するためのデータを生成させ得る。
幾つかの実施形態において、リモートコントローラは、他のコンピューティングデバイス(例えば、コンピュータ、ラップトップ、タブレット、スマートフォン、又はその他のモバイルデバイス)に動作的に接続できる。他のコンピューティングデバイスは、ユーザと対話するディスプレイを含み得る。他のコンピューティングデバイスは、ディスプレイ上に表示されているターゲットを示すユーザ入力を受け取り、撮像装置を制御するための情報を取得し得る。幾つかの場合では、他のコンピューティングデバイスは、ディスプレイ上に表示されているターゲットの位置及び/又はユーザにより提供されるズームレベル又はズーム比を含む情報をリモートコントローラに送信するように構成され得る。リモートコントローラは、移動体、支持機構、又は撮像装置を制御するための情報に基づいて更にデータを生成し得る。幾つかの場合、他のデバイスは、ユーザ入力に基づいて制御データを生成し、移動体、支持機構、又は撮像装置と直接通信するように構成され得る。他のコンピューティングデバイスは、リモートデバイスとすることができる。移動体は、リモートコントローラに追加的に、又はリモートコントローラの代替として、リモートデバイス(例えば、コンピュータ、ラップトップ、タブレット、スマートフォン等のモバイルデバイス)と通信するように構成できる。リモートコントローラは、リモートデバイスのほか移動体と通信するように構成でき得る。リモートデバイスは、移動体又は撮像装置にデータを送信し、移動体又は撮像装置からデータを受信し、リモートコントローラにデータを送信し、及び/又はリモートコントローラからデータを受信するように構成できる。任意選択的に、リモートデバイスは、インターネット又はその他の電気通信ネットワークに接続でき、それによって移動体及び/又はリモートコントローラから受信したデータをウェブサイト又はサーバにアップロードできる。
リモートコントローラは、撮像装置、撮像装置を支持する支持機構、又は移動体のうちの少なくとも1つと通信するように構成された通信ユニット440を更に含み得る。通信ユニットは、ターゲットに関する撮像装置の姿勢を制御するための命令と撮像装置のズームレベルを制御する命令を含むデータを送信することができ得る。通信ユニットは、1つ又は複数のリモートデバイス(例えば、移動体、搭載物、基地局等)とデータを送信及び/又は受信するように構成できる。例えば、通信ユニットは、制御データ(例えば、画像内のターゲットの場所、ズームレベル)を、移動体、支持機構、及び/又は撮像装置等の外部システム又はデバイスに送信するように構成できる。通信ユニットはまた、このような外部システム又はデバイスからデータ(例えば、画像データと感知データ)を受信するようにも構成できる。幾つかの実施形態では、通信ユニットは、それぞれリモートデバイスにデータを送信し、そこからデータを受信するように構成された送信機と受信機を含むことができる。幾つかの実施形態において、通信ユニットは、送信機及び受信機の機能を複合させたトランシーバを含むことができる。幾つかの実施形態では、送信機と受信機は相互にだけでなく、1つ又は複数のプロセッサと通信できる。
本明細書に記載されている有線通信又は無線通信等、任意の適する通信手段が使用可能である。移動体及び/又は撮像装置の移動を実行するためのデータを送信する送信リンクは、画像送信リンクとは別のリンクであってもよく、又はそうでなくてもよい。有線通信又は無線通信等、任意の適する通信手段を通信ユニット及び/又は画像送信ユニットに使用できる。例えば、通信ユニットは、ローカルエリアネットワーク(LAN)、広域ネットワーク(WAN)、赤外線、無線、WiFi、ポイントツーポイント(P2P)ネットワーク、電気通信網、クラウド通信等のうちの1つ又は複数を利用することができる。任意選択的に、電波塔、衛星、又は移動局等の中継局を使用することができる。無線通信は、近接度依存型又は近接度独立型とすることができる。幾つかの実施形態では、通信にline−of−sightが必要なこともあれば、又は必要ないこともある。画像のズームレベルコントロールと画像内に示されるターゲットの位置を含む情報に加えて、通信ユニットはまた、移動体にオンボードの他のセンサからの感知データ、感知データを処理することにより判断される位置及び/又は運動情報、決定された制御データ、遠隔操作端末からのユーザのコマンド等を送信及び/又は受信するように構成することもできる。
本発明の一態様では、画像を取得する方法が提供される。方法は、撮像装置により取得された画像をディスプレイ上に表示することであって、撮像装置が移動体により支持される、示すことと、画像内に表示されているターゲットを示すユーザ入力に関する情報を取得するステップと、ターゲットを示すユーザ入力に関する情報に基づいて、(a)撮像装置のズームレベル、及び(b)ターゲットに関する撮像装置の姿勢の自動制御を実行するためのデータを生成するステップとを含み得る。
本発明の幾つかの他の態様によれば、UAV等の本明細書に記載されている移動体により支持される撮像装置により取得された画像を、実質的にリアルタイムで選択し、閲覧するために対話式ユーザインタフェースが提供される。このようなユーザインタフェースは、本明細書に記載されているようなリモートコントローラにより提供され得る。図8は、実施形態による、撮像装置を制御をするためのある例示的なプロセス800を示す。プロセス800の各局面は、本明細書に記載されているようなリモートコントローラによって実行され得る。
プロセス800は、移動体により取得された1つ又は複数の画像を表示すること810を含む。画像は、本明細書に記載されているように支持機構を介して移動体に接続された撮像装置により取得され得る。支持機構は、撮像装置が移動体に対して移動できるようにしうる。撮像装置は代替的に、支持機構を用いずに移動体に直接接続され得る。画像は移動体から、又は撮像装置から直接、リモートコントローラに送信され得る。このようにしてリモートコントローラにより受信された画像は、解凍又はその他の処理が行われてから、リモートコントローラに関連付けられるユーザインタフェース上に表示され得る。ユーザインタフェースは、リモートコントローラと一体のディスプレイにより提供され得る。代替的に、ディスプレイは、リモートコントローラとは別であるが、これに動作的に接続され得る。このようにして表示された画像は静的でも(例えば、静止画像)、又は動的でも(例えば、ビデオ)よい。
幾つかの実施形態では、画像は、画像が移動体及び/又は撮像装置から受信されたときに実質的にリアルタイムで表示又はストリーミングされ得る。幾つかの実施形態では、画像は、画像が撮像装置により取得されたときに実質的にリアルタイムで移動体及び/又は撮像装置から送信される。他の場合では、画像の取得及び/又は送信時と画像の表示時との間にある程度のディレイがあり得る。
幾つかの実施形態では、プロセス800は、ターゲットを示す情報を取得すること820を含む。情報は、表示された画像の少なくとも1つの中に表示されているターゲットを示すユーザ入力に関するものであり得る。ユーザは、画像を表示したものと同じユーザインタフェースを介してユーザ入力を提供しうる。ユーザ入力は、1回のユーザ動作であり得る。例えば、幾つかの実施形態では、ユーザによるターゲットの選択は、ユーザによるディスプレイ上に表示されている1つ又は複数の画像のうちの少なくとも1つのある領域を選択することにより実現され、選択された領域はターゲットに対応し得る。例えば、ユーザは、指又はスタイラスを使ってタッチスクリーンを直接タッチすることによりターゲットを選択し得る。ターゲット領域の選択は、本明細書に記載されているような任意の適する入力方法に関連付けられるタッチすること若しくはタップすること、スワイプすること、円を描くこと、クリックすること等を含むことができる。
ユーザが選択したターゲットは、(a)撮像装置のズームレベル、及び(b)ターゲットに関する撮像装置の姿勢を制御をするための制御データを生成すること830のために使用できる。制御データは、(a)及び(b)の制御を実質的に同時に実行し得る。制御データは、ユーザが選択したターゲットの座標を含み得る。画像内の選択されたターゲットの座標は、ターゲットに関する撮像装置の姿勢を調整するための回転角を生成するために使用できる。ターゲットの座標に基づいて撮像装置の回転角を取得することに関する詳細は、図11で更に説明されている。回転角を含むデータは、撮像装置、撮像装置を支持する支持機構、又は移動体へと、回転角だけ撮像装置の姿勢を調整するために送信され得る。回転角は、支持機構及び/又は移動体の1つ又は複数の作動機構のための制御コマンドを生成するために使用され得る。例えば、支持機構の1つ又は複数の作動機構は、支持機構の1つ又は複数のフレーム構成要素を相互に対して移動させるように制御され得、それによって撮像装置は移動体に対して移動される。他の例では、制御コマンドに応答して、移動体の1つ又は複数のロータは、ターゲットに関する移動体の姿勢又は位置を制御するための推力を生成するように制御され得る。制御データは、撮像装置のズームレベルを自動的に調整するための所定の比を含み得る。制御データは、撮像装置、撮像装置を支持する支持機構、又は移動体に送信されることになる命令を含み得る。制御データは、光学ズームコントロール及び/又はデジタルズームコントロールを介して撮像装置のズームレベルを制御するための命令を含み得る。
幾つかの実施形態では、1つ又は複数のズームコントロールが更に、ディスプレイ上でユーザに対して表示され得る。ユーザは、ディスプレイ上に提供された複数のズームコントロールによって撮像装置のズームレベルを制御し得る。複数のズームコントロールは、撮像装置のズームレベルを上げるように構成されたズームインコントロール、撮像装置のズームレベルを下げるように構成されたズームアウトコントロール、及び撮像装置のズームレベルをプリセットズームレベルに設定するように構成されたリセットズームレベルコントロールを含み得る。プリセットズームレベルは、ユーザ定義型とすることができる。
図9は、実施形態による、画像を取得するための他の例示的なプロセス900を示す。プロセス900の各局面は、本明細書に記載されているようなリモートコントローラにより実行され得る。
プロセス900は、移動体により取得された1つ又は複数の画像を表示すること910を含む。画像を表示するプロセス910は、図8に記載されているものと同じプロセス810とすることができる。
幾つかの実施形態では、プロセス900はターゲットを示す情報を取得すること920を含む。情報は、表示された画像の少なくとも1つの中に表示されているターゲットを示すユーザ入力に関するものである。情報を取得するプロセス920は、図8に示されるものと同じプロセス820とすることができる。
ユーザが選択したターゲットは、(a)ディスプレイ上に表示されているターゲットの大きさ、及び(b)ディスプレイ上に表示されているターゲットの位置を制御するための制御データを生成すること830のために使用できる。制御データは、(a)及び(b)の制御を実質的に同時に実行し得る。ディスプレイ上に表示されているターゲットの位置は、ターゲットに関する撮像装置の姿勢を制御することによって制御できる。ターゲットに関する撮像装置の姿勢を調整することにより、ディスプレイ上に表示されているターゲットの位置が調整され得る。幾つかの実施形態では、ディスプレイ上に表示されている所定の場所からのターゲットのオフセットは、撮像装置の回転角に対応させることができる。制御データは、ユーザが選択したターゲットの座標を含み得る。例えば、画像内の選択されたターゲットの座標は、ターゲットに関する撮像装置の姿勢を調整するための回転角を生成するために使用できる。回転角を含むデータは、回転角により撮像装置の姿勢を調整するために、撮像装置、撮像装置を支持する支持機構、又は移動体に送信され得る。回転角は、支持機構及び/又は移動体の1つ又は複数の作動機構のための制御コマンドを生成するために使用され得る。ディスプレイ上に表示されているターゲットの大きさは、撮像装置のズームレベル、ターゲットまでの撮像装置の距離、又は撮像装置のズームレベルとターゲットまでの撮像装置の距離の両方を制御することによって制御できる。例えば、ターゲットの大きさは、撮像装置のズームレベルを高めることに加えて、移動体をターゲットに近付けるように移動するように制御することによって拡大され得る。制御データは、ターゲットの大きさを調整するための所定の比を含み得る。制御データは、撮像装置、撮像装置を支持する支持機構、又は移動体に送信されることになる命令を含み得る。制御データは、光学ズームコントロール及び/又はデジタルズームコントロールを介して撮像装置のズームレベルを制御するための命令及び/又は移動体の1つ又は複数の作動機構を制御するための命令を含み得る。
幾つかの実施形態では、1つ又は複数のズームコントロールがディスプレイ上でユーザに対して更に表示され得る。ユーザは、ディスプレイ上に提供された複数のズームコントロールによって撮像装置のズームレベルを制御し得る。複数のズームコントロールは、撮像装置のズームレベルを上げるように構成されたズームインコントロール、撮像装置のズームレベルを下げるように構成されたズームアウトコントロール、及び撮像装置のズームレベルをプリセットズームレベルに設定するように構成されたリセットズームレベルコントロールを含み得る。プリセットズームレベルは、ユーザ定義型とすることができる。
本発明の他の態様では、画像のズームレベルを制御するシステムと方法が提供される。幾つかの実施形態では、方法は、移動体により支持される撮像装置により取得された1つ又は複数の画像をディスプレイ上に表示するステップと、ディスプレイ上に表示された画像のズームレベルをプリセットズームレベル又は所定のズーム比まで調整することを示す1回のユーザ入力に関する情報を取得するステップと、1回のユーザ入力に基づいて、(a)撮像装置のズームレベル、(b)画像内のターゲットからの撮像装置の距離、又は(c)撮像装置のズームレベルと距離の両方の自動調整を実行して、(i)ディスプレイ上に示される画像はプリセットズームレベルにあり、(ii)ディスプレイ上に示される画像のズームレベルが所定のズーム比により調整されるようにするための命令を生成するステップとを含み得る。
図10は、上述のように画像のズームレベルを制御するためのある例示的なプロセス1000を示す。プロセス1000は、移動体により取得された1つ又は複数の画像を表示すること1010を含む。画像を表示するプロセス1010は、図8において説明したものと同じプロセス810とすることができる。
幾つかの実施形態において、プロセス1000は、ディスプレイ上に表示された画像のズームレベルをプリセットズームレベル又は所定のズーム比まで調整することを示す1回のユーザ入力に関する情報を取得すること1020を含む。ユーザは、画像を表示するものと同じユーザインタフェースを介してユーザ入力を提供し得る。幾つかの実施形態において、1回のユーザ入力はディスプレイの所定の領域のタッチであり得る。所定の領域は、画像がプリセットズームレベルまでズームされるようにするデフォルトズームコントロールを示し得る。ユーザ入力は、本明細書に記載されているような任意の適する入力方法に関連付けられるタッチすること若しくはタップすること、スワイプすること、円を描くこと、クリックすること等を含む任意の適する動作を含むことができる。プリセットズームレベルは、1×の光学ズーム又は、撮像装置が画像の取得を開始する当所のズームレベルとし得る。プリセットズームレベルは、ユーザが選択又は定義できる。幾つかの場合では、ユーザは、ディスプレイ上に提供されたメニューを使ってプリセットズームレベルを選択し得る。メニューは、隠れていて、ユーザがディスプレイにタッチすると可視化し得る。例えば、メニューは、ユーザがディスプレイ上でロングタッチ又はディープタッチを行うと可視化し得る。メニューはまた、ユーザが1つ又は複数のズームコントロールのためのズーム比を選択するための選択肢も提供しうる。1つ又は複数のズームコントロールは、撮像装置のズームレベルを上げるように構成されたズームインコントロール、撮像装置のズームレベルを下げるように構成されたズームアウトコントロール、及び撮像装置のズームレベルをプリセットズームレベルに設定するように構成されたリセットズームレベルコントロールを含み得る。
幾つかの実施形態では、ユーザは、ディスプレイ上に表示されているターゲットの大きさとディスプレイ上に表示されているターゲットの位置を、リモートコントローラを介して制御することができ得る。ユーザは、ディスプレイのある領域に対する接触を入力し得る。ディスプレイのこの領域は、ターゲットを示し得る。幾つかの実施形態では、ターゲットを示すユーザ入力に関する情報に基づいて、撮像装置のズームレベルとターゲットに関する撮像装置の姿勢の自動制御を実行するためのデータが生成され得る。幾つかの実施形態では、ユーザ入力は、ディスプレイ上に示された画像のズームレベルをプリセットズームレベルまで、又は所定のズーム比により調整することを示す1回のユーザ入力であり得る。1回のユーザ入力に基づいて、撮像装置のズームレベル、画像内に表示されているターゲットからの撮像装置の距離、又は両方の組合せの自動調整を実行して、ディスプレイ上に表示されたイメージングがプリセットズームレベルにあるか、又はディスプレイ上に示された画像のズームレベルが所定のズーム比により調整されるようにするための命令が生成され得る。図5は、本発明の実施形態による、ディスプレイ上に示されるターゲットの位置と大きさを制御することの例を示す。5.1に示されているように、移動体により支持される撮像装置により取得された画像510は、ディスプレイを介してユーザに表示される。ディスプレイは、リモートコントローラにより含まれ得る。ユーザは、ターゲット又は領域530を選択でき得る。ユーザは、タッチスクリーンとの対話を通じてターゲット又は領域を選択し得る。例えば、ユーザは、あるターゲット又は領域を、スクリーン上に示されるそのターゲット又は領域上でタッチジェスチャを実行することにより選択し得る。幾つかの場合では、ユーザはあるターゲット又は領域を、そのターゲット又は領域をタップすることにより、見るために選択し得る。幾つかの実施形態では、選択されたターゲットは、ユーザにより選択されたものを示すために、画像内の選択インディケータ520と共に表示される。選択インディケータは、任意の適する色又はパターンの円、チェックマーク、矢印、多角形、又は他の任意の適する形状のオブジェクトグラフィカルオブジェクトであり得る。図の例では、ユーザは選択インディケータ520を関心対象のターゲット又は領域にドラッグアンドドロップすることにより、見るべきターゲット又は領域を選択し得る。例えば、ユーザがターゲット530をより詳しく見たいと望み得ると、ユーザはターゲットの上に選択インディケータ520を合わせ得る。代替的に、選択インディケータ520は、ズームインするように選択されたオブジェクトを示し得る。例えば、ユーザがターゲット上でタップした後で、選択インディケータ520はそのターゲットの上に表示されて、そのターゲットがズームイン/アウトのために選択されたことを示し得る。
ディスプレイは、撮像装置のズームレベルを制御するための1つ又は複数のズームコントロールを更に表示しうる。幾つかの実施形態では、1つ又は複数のズームコントロールは、撮像装置のズームレベルを上げるように構成されたズームインコントロールと、撮像装置のズームレベルを下げるように構成されたズームアウトコントロールを含む。図5に示される例示的実施形態では、複数のズームコントロールは、ズームインコントロール540、ズームアウトコントロール550、及びズームリセットコントロール560を含み得る。ズームインコントロールは、ズームインボタン540を押すことによりイネーブルされ得、ズームアウトコントロールはズームアウトボタン550を押すことによりイネーブルされ得る。ズーム調整は、離散的/段階的であり得る。例えば、ズームインボタンをタップするたびに、画像サイズか特定の比で拡大される。代替的に、ズーム調整は連続的であり得る。例えば、ボタンのロングプレスにより、画像はボタンを離すまで拡大、すなわちズームインされる。入力領域を示すインディケータは、図5ではボタンの形状で示されているが、入力領域を示すインディケータの任意の適する形状、形態、色が使用可能である。代替的に、ユーザは、ディスプレイ上の入力領域を示す明瞭なインディケータを用いずに、ズームレベルを入力し、又はズーム制御を実行でき得る。例えば、ユーザは画像をズームイン又はズームアウトするためにピンチすることを実行するか、画像をズームイン又はズームアウトするために左右のいずれかにスワイプすることを実行し得る。
幾つかの実施形態では、1つ又は複数のズームコントロールは、撮像装置のズームレベルをプリセットズームレベル又はズーム比に設定するためのデフォルトズームコントロールを含み得る。ユーザがタッチスクリーン等の入力デバイスを使って入力を提供すると、画像はプリセットズームレベルで表示され得る。幾つかの場合では、プリセットズームレベルは1×であり得る。幾つかの場合では、プリセットズームレベルは、撮像装置が画像の取得を開始した当初のズームレベルであり得る。プリセットズームレベルは、ユーザにより構成可能である。プリセットズームレベルは、ユーザ定義型とすることができる。図5に示されるように、ユーザはリセットボタン560をタップして、ディスプレイ上に示される画像のズームレベルを調整し得る。ユーザがリセットボタン560をタップすると、画像はプリセットズームレベル又は倍率で表示され得る。
幾つかの実施形態では、ディスプレイ上に表示される画像のズームレベルをプリセットズームレベルまで、又は所定のズーム比により調整することを示す1回のユーザ入力が受け取られ得る。例えば、画像のズームレベルを調整することを示す1回のユーザ入力(例えば、リセットズームボタンをタップすること)を受け取ると、画像は画像の現在のズームレベルに関係なく、ズームアウトされ(現在のズームレベルが現在のズームレベルより高い場合)、又はズームインされ(現在のズームレベルがプリセットズームレベルより低い場合)、プリセットズームレベル(例えば、1×)にされ得る。例えば、画像の現在のズームレベルが3×であり、所定のズームレベルが1×に設定され、ユーザ入力を受け取ると、結果として得られる画像のズームレベルは1×である。他の例では、画像のズームレベルを調整することを示す1回のーザ入力を受け取ると、画像は、画像の現在のズームレベルと比較して、所望のズーム比によりズームアウト又はズームインされ得る。例えば、現在のズームレベルが4×の画像は、2×等の所定のズーム比によりズームアウトされ得、その結果、ズームレベルは2×となる。
幾つかの場合では、画像のズームレベルは、ある速度でプリセットズームレベルまで、又は所定のズーム比により自動的に調整される。ズームレベルを調整する速度は、画像がズーム比によりズームイン/アウトされたと認識される速度であり得る。ズームレベルを調整する速度は、撮像装置がズームできる速度に依存し得る。速度は、場所とズームレベルを調整することを逐次的に実行する場合より速い速度であり得る。画像をプリセットズームレベルまで、又は所定のズーム比により調整する速度は、撮像装置がズームできる速度、ターゲットからの撮像装置の距離を変化させることのできる速度、又は両方の組合せにより決定され得る。例えば、所定のズーム比が4×であるとき、撮像装置がズームレベルを所定のズーム比により調整するのに1秒間かかり得る。この場合では、画像を所定のズーム比により調整する速度は4×/sである。幾つかの場合では、ディスプレイ上に表示される画像は、撮像装置のズームレベルを制御することにより(例えば光学ズーム又はデジタルズーム)、プリセットズームレベルとなるように調整される。幾つかの場合では、ディスプレイ上に表示される画像は、画像内に表示されているターゲットからの撮像装置の距離を調整することにより、プリセットズームレベルとなるように調整される。幾つかの場合では、ディスプレイ上に表示される画像は、撮像装置の距離とズームレベルの両方を制御することにより、プリセットズームレベルとなるように調整される。幾つかの場合では、認識されるズーム調整速度の増大は、デジタルズームと光学ズームの組合せにより実現され得る。認識されるズーム調整速度とは、ディスプレイ上に表示される画像のズームレベルの調整速度又はディスプレイ上に表示されるターゲットの大きさの調整速度を指し得る。幾つかの場合では、デジタルズームは光学ズームより速く調整できる。そのため、認識されるズーム調整速度を増大させるために、デジタルズームをまず所望のズームレベルまで増大させ得、その後、デジタルズームレベルを下げるのと同時に光学ズームレベルを増大させ、最終的に光学ズームが所望のレベルとなり、デジタルズームはゼロに戻る。代替的に、デジタルズームを下げている間に光学ズームを特定のズームレベルまで増大させ得、それによってズームレベルの結果は光学ズームとデジタルズームとの組合せである。
同様に、ディスプレイ上に表示される画像のズームレベルは、撮像装置のズームレベル、画像内に表示されているターゲットからの撮像装置の距離、又は両方の組合せを制御することによって所定のズーム比により調整可能である。これは、ユーザがディスプレイ上のあるターゲット又はある領域をズームインして、それがユーザの見ようとしたものではないことが分かった場合に特に有益であり、この高速プリセットズームの選択肢により、ユーザは素早く画像の当初の大きさ又はビューへとズームアウトでき得る。
ズームレベルの制御は、ユーザにより必要に応じていつでも実行できる。ユーザがズームコントロールを入力するための視覚的グラフィカル要素は、いずれの形状及び形態とすることもできる点に留意されたい。幾つかの場合では、ズームレベルコントロールのための視覚的グラフィカル要素の場所は、ユーザが決定できる。例えば、ユーザは、ズームイン、ズームアウト、及びリセットズームボタンをユーザの選好に応じて表示スクリーンのいずれの場所に置くこともでき得る。他の例では、ユーザがズームイン/アウトすべきターゲットを選択すると、ズームコントロールのための1つ又は複数の視覚的グラフィカル要素(例えば、ズームインボタン、ズームアウトボタン、リセットボタン)が選択されたターゲットの周囲に表示され得る。
5.2〜5.4は、ディスプレイ上に表示されているターゲットの大きさとディスプレイ上に表示されているターゲットの位置を調整する例示的なプロセスを示している。図5.1に示されるように、ズームインし、所望の場所(例えば、中央)に表示されるように位置付けるべきターゲットが選択される。図5.2に示されるプロセスは、選択されたターゲットが所望の場所に向かって移動しており、それと同時に所望のレベルまで、又は所定のズーム比によりズームインされている。その結果が5.3に示され、選択されたターゲットが所望の場所(例えば、中央)に、所望の大きさ又は所望のズームレベルで表示されている。ユーザが、ターゲット530上でタップ等のタッチジェスチャを実行するか、インディケータ520をターゲット上に合わせると、5.3及び5.4に示されるように、ターゲットが自動的に拡大され、それと同時にディスプレイの中央等の所定の場所に位置付けられ得る。幾つかの場合では、ユーザは、ターゲットを選択しながら、ズームレベル又はズーム比を選択し得る。例えば、ユーザはターゲット上でディープタッチを実行し得、ユーザが所望のズームレベルを選択するためのメニューが現れ、ユーザがタッチを解除すると、ターゲットは自動的に所望のズームレベルまでズームイン/アウトされ、それと同時に所望の場所に位置付けられ得る。幾つかの場合では、ターゲットは、それが所定の場所に向かって移動している間に拡張又は拡大され得る。幾つかの場合では、ターゲットは、それが所定の場所に位置付けられた後に、所定の大きさに拡大され得る。他の場合では、ターゲットは所定の大きさまで拡大されてから、所定の場所に位置付けられ得る。標的が所定の場所に位置付けられる際の速度は、ターゲットに関する撮像装置の姿勢を調整するため、及び撮像装置のズームを調整するためにかかる時間により決定され得る。所定の大きさは、ユーザ定義型とすることができる。所定の大きさは、ユーザによってメニューから決定され得る。メニューは、ディスプレイ上に提供され得る。メニューは、リモートコントローラ上で実行されるソフトウェア又はソフトウェアアプリケーションにより提供され得る。所望のズームイン/アウトレベルを入力するために様々な方法を使用できる。例えば、ユーザは、リストからズームレベル(例えば、2×、4×)を選択するか、又はズームレベルをテキストボックスに入力し得る。ユーザは、ターゲットの大きさを調整するための所定の倍率又はズーム比を選択することができ得る。幾つかの場合では、所定の大きさはターゲットの最適な大きさにより決定され得る。最適な大きさは、特定のピクセル数又は所定の閾値に対応し得る。所定の閾値は、例えば、大きさがディスプレイ内のターゲット全体に適合し得るように定義され得る。例えば、移動体は、画像内のターゲットの大きさが所定の閾値に到達するまでターゲットに向かって移動するように構成され得る。代替的に、移動体の撮像装置は、画像内のターゲットの大きさが所定の閾値に到達するまで、移動体を移動させることなくターゲット上へとズームインし得る。任意選択的に、撮像装置がズームインするステップと、移動体がターゲットのオブジェクトに向かって移動することは、画像内のターゲットの大きさが所定の閾値に到達するまで同時に行われ得る。
ターゲットは所定の位置に向かって移動され、及び/又は所望/所定のズームレベルまでズームしている状態で表示されている間に、撮像装置は、ライブ画像をユーザに対して表示されるように送信を継続し得る。この場合では、ユーザは、ワールドフレーム内の撮像装置とターゲットとの間の相対移動によって生じるディスプレイ上のターゲットの移動を観察するかもしれない。例えば、撮像装置がターゲットに対して右に移動しているとき、ターゲットはディスプレイ上で左に移動しているように表示される。幾つかの場合では、ターゲットに関する撮像装置の姿勢又は撮像装置のズームレベル調整中に撮像装置により取得された画像はディスプレイ上に表示されなくてもよく、それに対して、調整プロセス後に取得された画像だけがユーザに対して表示され得る。ターゲットのライブの移動を模倣するために、並進移動及びズーミング効果を示す画像が1つ又は複数のプロセッサにより作られ、ユーザに対して表示され得る。幾つかの場合では、現在の場所から所定の場所へのターゲットのスムーズな移動又は、現在の大きさから所定の大きさまで拡大されたターゲットの大きさは、ソフトウェア又はソフトウェアアプリケーションにより作られ、ユーザに対して表示され得る。これは、ユーザに対してスムーズな視覚的効果を提供する際に有利であり得る。
幾つかの場合では、ユーザが表示スクリーンにタッチする場所は、所定の場所(例えば、ディスプレイの中心)からのオフセットを計算するためのターゲットの場所として使用され得る。すると、オフセットはターゲットを所定の場所まで移動させるために必要なUAV及び/又は撮像装置の調整を計算するために使用される。幾つかの場合では、ターゲットの中心はターゲットの場所を示すために使用され得、ターゲットのこの中心が、所定の場所に、又はその付近に移動され得る。例えば、ユーザ入力は、ユーザが関心を持つターゲットを示し得、その一方で、タッチ場所はターゲットのグラフィクスの中心と整合しなくてもよい。この場合では、ターゲットの形状と境界が特定され得、ターゲットのグラフィクス上の中心は、所定の場所(例えば、ディスプレイの中心)と、又はその付近に整合するようにされ得る。ターゲットの識別には、任意の適する画像認識抽出、パターン認識、及び/又はマッチングアルゴリズムを含むことができる。
図11は、カメラによる撮像のある例示的な幾何学モデルを示す(光軸が画像の中心と厳密に整合していると仮定する)。像面上の所望の場所からのターゲットの場所のオフセットは、撮像装置の1つ又は複数の回転角に関係する。点1120は、ユーザにより選択されたターゲットの場所を示す。像面内のターゲットの座標は(u,v)である。ターゲットの座標は、ピクセル座標であり得、像面の原点(例えば、左上隅)は交点1130(すなわち、光軸と像面との交差点)でなくてもよく、この場合、計算のためにピクセルサイズと原点の場所が必要となり得る。ターゲットは、交点等の所望の又は所定の場所に表示されるように構成され得る。ターゲットの所定の場所からのオフセットは、それぞれx及びy方向にx及びyである。ターゲットの座標と所定の場所のほか、焦点距離fが分かると、三角形状を利用して角度1110が判断できる。例えば、判断された場所が像面の交点又は中心であると、像面内のターゲットのオフセットは、以下の等式により判断される角度1110に対応し得る。
式中、fは焦点距離、θx、θyはそれぞれx及びy方向へのオフセットに対応する回転角である。得られた角度は、撮像装置の回転移動を制御するために使用され得、撮像装置をその角度だけ回転させると、ターゲットは画像の所定の場所に表示される。所定の場所は像面の中心である必要はない点に留意されたい。角度は、1つ、2つ、3つ、又は4つ以上の回転軸(例えば、ロール軸、ピッチ軸、ヨー軸)の周囲での撮像装置の回転移動を制御するために使用され得る。
前述のように、画像のズーム制御はいつでも実行できる。例えば、5.5に示されるように、ターゲットが中心に位置付けられ、所定のサイズまでズームインされると、ユーザは、リセットズームボタン560をタップすることにより、プリセットズームレベル(例えば、1×)まで画像を素早くズームアウトしたいと思い得る。ユーザはまた、前述のように、ズームイン及びズームアウトボタンを使ってズームイン及びズームアウト比を調整できる。
幾つかの実施形態では、ズームコントロールの選択によって、ディスプレイ上に表示されている画像のズームレベルの調整だけが行われ、撮像装置とターゲットとの間の相対回転関係は変化しないようにし得る。例えば、ユーザがズームイン又はズームアウトコントロールボタンを使用すると、画像がズームイン/アウトされて、画像の中心はディスプレイの中心にあるままとし得る。幾つかの実施形態では、ズーム制御は、撮像装置のズームレベル(例えば、撮像テバイスの光学ズーム及び/又はデジタルズーム)、撮像装置とターゲットとの間の距離、又は両方の組合せを調整することによって実現され得る。
幾つかの実施形態では、ユーザは様々なズーム比又はズームレベルを決定し得る。例えば、ユーザは、5.1〜5.4に示されるように、ターゲットを示すユーザ入力に応答するターゲットのデフォルトズームインレベル又は大きさを定義でき得る。他の例では、ユーザはズームイン/アウトボタンの1回のタップに対応する段階式のズームイン/アウト比を選択し得る。別の例では、ユーザはリセットズームボタンが押されたときのリセットズームレベルを選択し得る。ディスプレイは、ユーザがそれを通じてズーム比を選択するメニューを表示し得る。
前述のように、ディスプレイは更に、撮像装置のズームレベルを制御するための1つ又は複数のズームコントロールを表示し得る。5.6に示される例では、ユーザはズームインボタンを使って撮像装置のズームレベルを増大し得る。5.7に示されるように、ユーザはズームアウトボタンを使って撮像装置のズームレベルを低下させ得る。他の様々なユーザ入力方法は、本明細書中の別の箇所に記載されている。
幾つかの場合では、メニュー(5.8に示されている)は、ユーザから隠されており、ユーザのタッチジェスチャを受け取ったところでユーザにとって可視化し得る。例えば、ユーザがタッチスクリーン上のいずれかの領域上でのタップ等のジェスチャを入力すると、メニューが隠れた状態から見える状態に切り替わり得る。メニューを表示するためのタッチジェスチャとしては、ロングプレス、ダブルタップ、ディープタッチ等の様々なタッチジェスチャが使用され得る。ディープタッチは、圧力又は力の程度が閾値の量を超えるタッチであり得る。ロングタッチは、時間の長さが閾値の量を超え得るタッチであり得る。例えば、メニューは、ユーザがディスプレイに閾値の時間の長さより長い期間にわたってタッチすると可視化し得る。他の例では、メニューは、ユーザが3Dタッチスクリーンを含むディスプレイに閾値の圧力より大きい圧力でタッチすると、可視化しうる。幾つかの例では、ユーザがタッチスクリーンにタッチする圧力はズームレベルに相関し得る。例えば、より大きい圧力はより高いズームレベルに対応し得る。タッチジェスチャは、ディスプレイ上の特定の領域上にあることが必要なこともあれば、そうでないこともある。幾つかの実施形態では、ユーザは、メニューを表示させるためにタッチスクリーン上のいずれかの領域上でジェスチャを入力ですることができ得る。メニューは、選択されるべきズーム比のための複数の選択肢を示し得る。例えば、一連のズームイン比又は倍率が、リセットズームボタンに対応するプリセットズームレベル、ターゲットを示す1回のユーザ入力に対応するデフォルトズームレベル、又はズームイン/アウトボタンに対応するズームイン/アウトステップとして選択できるようにユーザに対して提供され得る。
ディスプレイはタッチスクリーンであり得る。ディスプレイは、リモートコントローラにより提供され得る。ディスプレイは、リモートコントローラに動作的に接続された外部コンピューティングデバイス(例えば、コンピュータ、ラップトップ、タブレット、スマートフォン、又は他のモバイルデバイス)により提供され得る。上述の各種の動作は、プログラムされ得、外部コンピューティングデバイスの1つ又は複数のプロセッサ又はリモートコントローラの1つ又は複数のプロセッサにより実行可能である。
本明細書に記載されているシステムと方法は、様々な移動体により実施され、及び/又はそれに応用可能である。本明細書に記載されるシステム、デバイス、及び方法は、多種多様な移動体に適用することができる。先に述べたように、本明細書での航空車両の任意の記載は、任意の移動体に適用し得、任意の移動体に使用し得る。本発明の移動体は、空中(例えば、固定翼機、回転翼航空機、又は固定翼も回転翼も有さない航空機)、水中(例えば、船舶若しくは潜水艦)、地上(例えば、車、トラック、バス、バン、自動二輪車等の自動車両、スティック、釣り竿等の可動構造若しくはフレーム、若しくは列車)、地下(例えば、地下鉄)、宇宙空間(例えば、宇宙飛行機、衛星、若しくは宇宙探査機)、又はこれらの環境の任意の組合せ等の任意の適する環境内で移動するように構成することができる。移動体は、本明細書の他の箇所に記載される車両等の車両であることができる。幾つかの実施形態では、移動体は、人間又は動物等の生体に搭載することができる。適する動物としては、霊長類、鳥類(avines)、犬、猫、馬、牛、羊、豚、イルカ(delphines)、齧歯類、又は昆虫を挙げることができる。
移動体は、自由度6(例えば、並進に自由度3及び回転に自由度3)に関して環境内を自在に移動可能であり得る。代替的には、移動体の移動は、所定の経路、行路、又は向きによる等の1つ又は複数の自由度に関して制約することができる。移動は、エンジン又はモータ等の任意の適する作動機構により作動することができる。移動体の作動機構は、電気エネルギー、磁気エネルギー、太陽エネルギー、風力エネルギー、重力エネルギー、化学エネルギー、核エネルギー、又は任意の適するそれらの組合せ等の任意の適するエネルギー源により電力供給することができる。移動体は、本明細書の他の箇所に記載されるように、推進システムを介して自己推進し得る。推進システムは、任意選択的に、電気エネルギー、磁気エネルギー、太陽エネルギー、風力エネルギー、重力エネルギー、化学エネルギー、核エネルギー、又はそれらの任意の適する組合せ等のエネルギー源で駆動し得る。代替的には、移動体は生体により携帯し得る。
幾つかの例では、移動体は航空機であることができる。適する車両としては、水上車両、航空車両、宇宙車両、又は地上車両を挙げることができる。例えば、航空機は、固定翼航空機(例えば、飛行機、グライダー)、回転翼航空機(例えば、ヘリコプタ、回転翼機)、固定翼と回転翼の両方を有する航空機、又はいずれも有さない航空機(例えば、飛行船、熱気球)であり得る。車両は、空中、水上、水中、宇宙空間、地上、又は地下で自己推進されるような自己推進型であることができる。自己推進型車両は、1つ又は複数のエンジン、モータ、車輪、車軸、磁石、回転翼、プロペラ、翼、ノズル、又は任意の適するそれらの組合せを含む推進システム等の推進システムを利用することができる。幾つかの場合では、推進システムを使用して、移動体を表面から離陸させ、表面に着陸させ、現在の位置及び/又は向きを維持させ(例えば、ホバリングさせ)、向きを変更させ、及び/又は位置を変更させることができる。
移動体は、ユーザにより遠隔制御することもでき、又は移動体内若しくは移動体上の搭乗者によりローカルに制御することもできる。幾つかの実施形態では、移動体は、UAV等の無人移動体である。UAV等の無人移動体は、移動体に搭載された搭乗者を有さなくてよい。移動体は、人間により、自律制御システム(例えば、コンピュータ制御システム)により、又は任意の適するそれらの組合せにより制御することができる。移動体は、人工知能が構成されたロボット等の自律的又は半自律的ロボットであることができる。
移動体は、任意の適するサイズ及び/又は寸法を有することができる。幾つかの実施形態では、車両内又は車両上に人間の搭乗者を有するようなサイズ及び/又は寸法のものであり得る。代替的には、移動体は、車両内又は車両上に人間の搭乗者を有することが可能なサイズ及び/又は寸法よりも小さなものであり得る。移動体は、人間により持ち上げられるか、又は携帯されるのに適するサイズ及び/又は寸法であり得る。代替的には、移動体は、人間により持ち上げられるか、又は携帯されるのに適するサイズ及び/又は寸法よりも大きくてよい。幾つかの場合、移動体は、約2cm、約5cm、約10cm、約50cm、約1m、約2m、約5m、又は約10m以下の最大寸法(例えば、長さ、幅、高さ、直径、対角線)を有し得る。最大寸法は、約2cm、約5cm、約10cm、約50cm、約1m、約2m、約5m、又は約10m以上であり得る。例えば、移動体の対向する回転翼のシャフト間の距離は、約2cm、約5cm、約10cm、約50cm、約1m、約2m、約5m、又は約10m以下であり得る。代替的には、対向する回転翼のシャフト間の距離は、約2cm、約5cm、約10cm、約50cm、約1m、約2m、約5m、又は約10m以上であり得る。
幾つかの実施形態では、移動体は、100cm×100cm×100cm未満、50cm×50cm×30cm未満、又は5cm×5cm×3cm未満の体積を有し得る。移動体の総体積は、約1cm以下、約2cm以下、約5cm以下、約10cm以下、約20cm以下、約30cm以下、約40cm以下、約50cm以下、約60cm以下、約70cm以下、約80cm以下、約90cm以下、約100cm以下、約150cm以下、約200cm以下、約300cm以下、約500cm以下、約750cm以下、約1000cm以下、約5000cm以下、約10,000cm以下、約100,000cm以下、約1m以下、又は約10m以下であり得る。逆に、移動体の総体積は、約1cm以上、約2cm以上、約5cm以上、約10cm以上、約20cm以上、約30cm以上、約40cm以上、約50cm以上、約60cm以上、約70cm以上、約80cm以上、約90cm以上、約100cm以上、約150cm以上、約200cm以上、約300cm以上、約500cm以上、約750cm以上、約1000cm以上、約5000cm以上、約10,000cm以上、約100,000cm以上、約1m以上、又は約10m以上であり得る。
幾つかの実施形態では、移動体は、約32,000cm以下、約20,000cm以下、約10,000cm以下、約1,000cm以下、約500cm以下、約100cm以下、約50cm以下、約10cm以下、又は約5cm以下の設置面積(移動体により包含される横方向の断面積と呼び得る)を有し得る。逆に、設置面積は、約32,000cm以上、約20,000cm以上、約10,000cm以上、約1,000cm以上、約500cm以上、約100cm以上、約50cm以上、約10cm以上、又は約5cm以上であり得る。
幾つかの場合では、移動体は1000kg以下の重量であり得る。移動体の重量は、約1000kg以下、約750kg以下、約500kg以下、約200kg以下、約150kg以下、約100kg以下、約80kg以下、約70kg以下、約60kg以下、約50kg以下、約45kg以下、約40kg以下、約35kg以下、約30kg以下、約25kg以下、約20kg以下、約15kg以下、約12kg以下、約10kg以下、約9kg以下、約8kg以下、約7kg以下、約6kg以下、約5kg以下、約4kg以下、約3kg以下、約2kg以下、約1kg以下、約0.5kg以下、約0.1kg以下、約0.05kg以下、又は約0.01kg以下であり得る。逆に、重量は、約1000kg以上、約750kg以上、約500kg以上、約200kg以上、約150kg以上、約100kg以上、約80kg以上、約70kg以上、約60kg以上、約50kg以上、約45kg以上、約40kg以上、約35kg以上、約30kg以上、約25kg以上、約20kg以上、約15kg以上、約12kg以上、約10kg以上、約9kg以上、約8kg以上、約7kg以上、約6kg以上、約5kg以上、約4kg以上、約3kg以上、約2kg以上、約1kg以上、約0.5kg以上、約0.1kg以上、約0.05kg以上、又は約0.01kg以上であり得る。
幾つかの実施形態では、移動体は、移動体により運ばれる積載物に相対して小さくてよい。積載物は、更に詳細に後述するように、搭載物及び/又は支持機構を含み得る。幾つかの例では、積載物の重量に対する移動体の重量の比は、約1:1よりも大きい、小さい、又は等しくてもよい。幾つかの場合では、積載物の重量に対する移動体の重量の比は、約1:1よりも大きい、小さい、又は等しくてもよい。任意選択的に、積載物の重量に対する支持機構の重量の比は、約1:1よりも大きい、小さい、又は等しくてもよい。所望の場合、積載物の重量に対する移動体の重量の比は、1:2以下、1:3以下、1:4以下、1:5以下、1:10以下、又はそれよりも小さな比であり得る。逆に、積載物の重量に対する移動体の重量の比は、2:1以上、3:1以上、4:1以上、5:1以上、10:1以上、又はそれよりも大きな比であることもできる。
幾つかの実施形態では、移動体は低エネルギー消費量を有し得る。例えば、移動体は、約5W/h未満、約4W/h未満、約3W/h未満、約2W/h未満、約1W/h未満、又はそれよりも小さな値を使用し得る。幾つかの場合では、移動体の支持機構は低エネルギー消費量を有し得る。例えば、支持機構は、約5W/h未満、約4W/h未満、約3W/h未満、約2W/h未満、約1W/h未満、又はそれよりも小さな値を使用し得る。任意選択的に、移動体の搭載物は、約5W/h未満、約4W/h未満、約3W/h未満、約2W/h未満、約1W/h未満、又はそれよりも小さな値等の低エネルギー消費量を有し得る。
幾つかの実施形態では、移動体は、積載物を運ぶように構成することができる。積載物は、乗客、貨物、機器、器具等のうちの1つ又は複数を含むことができる。積載物は筐体内に提供し得る。筐体は、移動体の筐体とは別個であってもよく、又は移動体の筐体の一部であってもよい。代替的には、積載物に筐体を提供することができ、一方、移動体は筐体を有さない。代替的には、積載物の部分又は積載物全体は、筐体なしで提供することができる。積載物は、移動体に強固に固定することができる。任意選択的に、積載物は移動体に対して移動可能であることができる(例えば、移動体に対して並進可能又は回転可能)。
幾つかの実施形態では、積載物は搭載物を含む。搭載物は、いかなる動作又は機能も実行しないように構成することができる。代替的には、搭載物は、機能的搭載物としても知られる、動作又は機能を実行するように構成される搭載物であることができる。例えば、搭載物は、1つ又は複数のターゲットを調査する1つ又は複数のセンサを含むことができる。画像取得デバイス(例えば、カメラ)、オーディオ取得デバイス(例えば、パラボラマイクロフォン)、赤外線撮像装置、又は紫外線撮像装置等の任意の適するセンサを搭載物に組み込むことができる。センサは、静的感知データ(例えば、写真)又は動的感知データ(例えば、ビデオ)を提供することができる。幾つかの実施形態では、センサは、搭載物のターゲットの感知データを提供する。代替的には、又は組み合わせて、搭載物は、信号を1つ又は複数のターゲットを提供する1つ又は複数のエミッタを含むことができる。照明源又は音源等の任意の適するエミッタを使用することができる。幾つかの実施形態では、搭載物は、移動体からリモートなモジュールと通信する等のために、1つ又は複数の送受信機を含む。任意選択的に、搭載物は、環境又はターゲットと対話するように構成することができる。例えば、搭載物は、ロボットアーム等の物体を操作可能なツール、器具、又は機構を含むことができる。
任意選択的に、積載物は支持機構を含み得る。支持機構は搭載物に提供することができ、搭載物は、支持機構を介して移動体に直接(例えば、移動体に直接接触する)又は間接的に(例えば、移動体に接触しない)接続することができる。逆に、搭載物は、支持機構を必要とせずに移動体に搭載することができる。搭載物は、支持機構と一体形成することができる。代替的には、搭載物は支持機構に脱着可能に接続することができる。幾つかの実施形態では、搭載物は、1つ又は複数の搭載物要素を含むことができ、搭載物のうちの1つ又は複数は、上述したように、移動体及び/又は支持機構に相対して移動可能であることができる。
支持機構は、移動体と一体形成することができる。代替的には、支持機構は、移動体に脱着可能に接続することができる。支持機構は、移動体に直接又は間接的に接続することができる。支持機構は、搭載物に支持を提供することができる(例えば、搭載物の重量の少なくとも一部を担持する)。支持機構は、搭載物の移動を安定化し、及び/又は指示することが可能な適する搭載構造(例えば、ジンバルプラットフォーム)を含むことができる。幾つかの実施形態では、支持機構は、移動体に相対する搭載物の状態(例えば、位置及び/又は向き)を制御するように構成することができる。例えば、支持機構は、搭載物が、移動体の移動に関係なく、適する基準系に相対してその位置及び/又は向きを維持するように、移動体に相対して移動する(例えば、1度、2度、又は3度の並進及び/又は1度、2度、又は3度の回転に関して)ように構成することができる。基準系は固定基準系(例えば、周囲環境)であることができる。代替的には、基準系は移動基準系(例えば、移動体、搭載物ターゲット)であることができる。
幾つかの実施形態では、支持機構は、支持機構及び/又は移動体相対する搭載物の移動を可能にするように構成することができる。この移動は、自由度3までに関する(例えば、1つ、2つ、若しくは3つの軸に沿った)並進、自由度3までに関する(例えば、1つ、2つ、若しくは3つの軸の回りの)回転、又はそれらの任意の適する組合せであることができる。
幾つかの場合では、支持機構は、支持機構フレーム組立体及び支持機構作動組立体を含むことができる。支持機構フレーム組立体は、構造的支持を搭載物に提供することができる。支持機構フレーム組立体は、個々の支持機構フレーム構成要素を含むことができ、支持機構フレーム構成要素の幾つかは互いに対して移動可能であることができる。支持機構作動組立体は、個々の支持機構フレーム構成要素の移動を作動させる1つ又は複数のアクチュエータ(例えば、モータ)を含むことができる。アクチュエータは、複数の支持機構フレーム構成要素の同時移動を可能にすることができるか、又は一度に1つの支持機構フレーム構成要素の移動を可能にするように構成し得る。支持機構フレーム構成要素の移動は、搭載物の対応する移動を生成することができる。例えば、支持機構作動組立体は、1つ又は複数の回転軸(例えば、ロール軸、ピッチ軸、又はヨー軸)の回りでの1つ又は複数の支持機構フレーム構成要素の回転を作動させることができる。1つ又は複数の支持機構フレーム構成要素の回転は、搭載物を移動体に相対して、1つ又は複数の回転軸の回りを回転させることができる。代替的に、又は組み合わせて、支持機構作動組立体は、1つ又は複数の並進軸に沿った1つ又は複数の支持機構フレーム構成要素の並進を作動させ、それにより、移動体に相対した1つ又は複数の対応する軸に沿った搭載物の並進を生み出すことができる。
幾つかの実施形態では、固定基準系(例えば、周囲環境)及び/又は互いに相対する移動体、支持機構、及び搭載物の移動は、端末により制御することができる。端末は、移動体、支持機構、及び/又は搭載物から離れた場所にある遠隔制御装置であることができる。端末は、支持プラットフォームに配置又は固定することができる。代替的には、端末は、ハンドヘルド又はウェアラブルデバイスであることができる。例えば、端末は、スマートフォン、タブレット、ラップトップ、コンピュータ、メガネ、手袋、ヘルメット、マイクロフォン、又はそれらの適する組合せを含むことができる。端末は、キーボード、マウス、ジョイスティック、タッチスクリーン、又はディスプレイ等のユーザインタフェースを含むことができる。手動入力されたコマンド、音声制御、ジェスチャ制御、又は位置制御(例えば、端末の移動、場所、又は傾きを介した)等の任意の適するユーザ入力が、端末との対話に使用可能である。端末は、本明細書で前述したものと同じリモートコントローラとすることができる。
端末は、移動体、支持機構、及び/又は積載物の任意の適する状態の制御に使用することができる。例えば、端末は、固定基準系に対する及び/又は相互に対する移動体、支持機構、及び/又は積載物の位置及び/又は向きの制御に使用することができる。幾つかの実施形態では、端末は、支持機構の作動組立体、搭載物のセンサ、又は搭載物のエミッタ等の移動体、支持機構、及び/又は搭載物の個々の要素の制御に使用することができる。端末は、移動体、支持機構、又は搭載物のうちの1つ又は複数と通信するように構成された無線通信デバイスを含むことができる。
端末は、移動体、支持機構、及び/又は搭載物の情報の表示に適するディスプレイユニットを含むことができる。例えば、端末は、位置、並進速度、並進加速度、向き、角速度、角加速度、又はこれらの任意の適する組合せに関する移動体、支持機構、及び/又は搭載物の情報を表示するように構成することができる。幾つかの実施形態では、端末は、機能的な搭載物により提供されるデータ(例えば、カメラ又は他の画像取得デバイスにより記録された画像)等の搭載物により提供される情報を表示することができる。
任意選択的に、同じ端末は、移動体、支持機構、及び/又は搭載物又は移動体、支持機構、及び/又は搭載物の状態の両方を制御するとともに、移動体、支持機構、及び/又は搭載物からの情報を受信及び/又は表示し得る。例えば、端末は、搭載物により取得された画像データ又は搭載物の位置についての情報を表示しながら、環境に対する搭載物の測位を制御し得る。代替的には、異なる端末を異なる機能に使用し得る。例えば、第1の端末は移動体、支持機構、及び/又は搭載物の移動又は状態を制御し得、一方、第2の端末は移動体、支持機構、及び/又は搭載物から情報を受信及び/又は表示し得る。例えば、第1の端末は、環境に対する搭載物の測位の制御に使用し得、一方、第2の端末は、搭載物により取得された画像データを表示する。移動体と、移動体の制御及びデータ受信の両方を行う統合端末との間で、又は移動体と、移動体の制御及びデータ受信の両方を行う複数の端末との間で、様々な通信モードを利用し得る。例えば、移動体と、移動体の制御及び移動体からのデータ受信の両方を行う端末との間で、少なくとも2つの異なる通信モードを形成し得る。
幾つかの実施形態では、撮像装置を支持する移動体はUAVであり得る。図6は、実施形態による、支持機構602及び搭載物604を含む移動体600を示す。移動体600は航空機として示されているが、この描写は限定であるとことを意図せず、本明細書において上述したように、任意の適するタイプの移動体が使用可能である。当業者であれば、航空機システムに関連して本明細書に記載される実施形態がいずれも、任意の適する移動体(例えば、UAV)に適用可能なことを理解する。幾つかの場合では、搭載物604は、支持機構602を必要とせずに、移動体600上に提供し得る。搭載物は、1つ又は複数の撮像装置を含み得る。移動体600は、推進機構606と、感知システム608と、通信システム610とを含み得る。
推進機構606は、上述したように、回転翼、プロペラ、翼、エンジン、モータ、車輪、車軸、磁石、又はノズルのうちの1つ又は複数を含むことができる。例えば、推進機構606は、本明細書の他の箇所に開示されるように、自己締め付け回転翼、回転翼組立体、又は他の回転推進ユニットであり得る。移動体は、1つ以上、2つ以上、3つ以上、又は4つ以上の推進機構を有し得る。推進機構は、全てが同じタイプであり得る。代替的には、1つ又は複数の推進機構は、異なるタイプの推進機構であることができる。推進機構606は、本明細書の他の箇所に記載されるように支持要素(例えば、駆動シャフト)等の任意の適する手段を使用して、移動体600に搭載することができる。推進機構606は、移動体600の上部、下部、前部、後部、側面、又はこれらの適する組合せ等の移動体600の任意の適する部分に搭載することができる。
幾つかの実施形態では、推進機構606は、移動体600のいかなる水平移動も必要とせずに(例えば、滑走路を移動せずに)、移動体600が表面から鉛直に離陸するか、又は表面に鉛直に着陸できるようにし得る。任意選択的に、推進機構606は、移動体600が、空中の特定の位置及び/又は向きでホバリングできるようにするように動作可能である。推進機構600のうちの1つ又は複数は、他の推進機構から独立して制御され得る。代替的には、推進機構600は、同時に制御されるように構成することができる。例えば、移動体600は、移動体に揚力及び/又は推進力を提供することができる複数の水平面指向回転翼を有することができる。複数の水平面指向回転翼は、鉛直離陸機能、鉛直着陸機能、及びホバリング機能を移動体600に提供するように作動することができる。幾つかの実施形態では、水平面指向回転翼のうちの1つ又は複数は、時計回り方向に回転し得、一方、水平回転翼のうちの1つ又は複数は、反時計回り方向に回転し得る。例えば、時計回りの回転翼の数は、反時計回りの回転翼の数と等しくてよい。水平面指向回転翼のそれぞれの回転速度は、各回転翼により生成される揚力及び/又は推進力を制御するように、独立して変更することができ、それにより、移動体600の空間的配置、速度、及び/又は加速度(例えば、最大並進自由度3及び最大回転自由度3に関して)を調整する。
感知システム608は、移動体600の(例えば、最大で並進に3自由度、最大で回転に3自由度に関する)空間配置、速度、及び/又は加速度を感知し得る。1つ又は複数のセンサは、本明細書で前述したセンサのいずれを含むこともでき、これにはGPSセンサ、運動センサ、慣性センサ、近接性センサ、又は画像センサが含まれる。感知システム608により提供される感知データは、移動体600の空間配置、速度、及び/又は方位を(例えば後述のように、適する処理ユニット及び/又は制御ユニットを使って)制御するために使用できる。代替的に、感知システム608は、気象条件、潜在的な障害物との近接度、地理的特徴物の場所、人工構造物の場所等、移動体の周囲の環境に関するデータを提供するために使用できる。
通信システム610は、無線信号616を介して、通信システム614を有する端末612と通信できるようにする。通信システム610、614は、無線通信に適する任意の数の送信機、受信機、及び/又は送受信機を含み得る。通信は、データが一方向でのみに送信可能なように、一方向通信であり得る。例えば、一方向通信は、移動体600のみがデータを端末612に送信すること、又はこの逆を含み得る。データは、通信システム610の1つ又は複数の送信機から、通信システム612の1つ又は複数の受信機に送信し得、又はその逆も同様である。代替的には、通信は、移動体600と端末612との間で両方向でデータを送信することができるように、双方向通信であり得る。双方向通信は、通信システム610の1つ又は複数の送信機から、通信システム614の1つ又は複数の受信機にデータを送信すること、及びその逆を含むことができる。
幾つかの実施形態では、端末612は、移動体600、支持機構602、及び搭載物604の1つ又は複数に制御データを提供することができ、移動体600、支持機構602、及び搭載物604の1つ又は複数から情報(例えば、移動体、支持機構、又は搭載物の位置情報及び/又は動き情報、搭載物カメラにより取得された画像データ等の搭載物により感知されたデータ)を受信することができる。端末は、前述のようなリモートコントローラと同じとすることができる。幾つかの場合、端末からの制御データは、移動体、支持機構、及び/又は搭載物の相対位置、移動、作動、又は制御に関する命令を含み得る。例えば、制御データは、移動体の場所及び/又は向きの変更(例えば、推進機構606の制御を介して)又は移動体に相対する搭載物の移動(例えば、支持機構602の制御を介して)を生じさせ得る。端末からの制御データは、カメラ又は他の画像取得デバイスの動作制御等の搭載物の制御(例えば、静止画又は動画の撮影、ズームイン又はズームアウト、オン又はオフの切り替え、画像モードの切り替え、画像解像度の変更、フォーカスの変更、被写界深度の変更、露光時間の変更、視野角又は視野の変更)を生じさせ得る。幾つかの場合、移動体、支持機構、及び/又は搭載物からの通信は、1つ又は複数のセンサ(例えば、感知システム608又は搭載物604の)からの情報を含み得る。通信は、1つ又は複数の異なるタイプのセンサ(例えば、GPSセンサ、運動センサ、慣性センサ、近接センサ、又は画像センサ)から感知された情報を含み得る。そのような情報は、移動体、支持機構、及び/又は搭載物の位置(例えば、場所、向き)、移動、又は加速度に関し得る。搭載物からのそのような情報は、搭載物により取得されたデータ又は搭載物の感知された状態を含み得る。端末612により送信されて提供される制御データは、移動体600、支持機構602、又は搭載物604のうちの1つ又は複数の状態を制御するように構成することができる。代替として、又は組み合わせて、支持機構602及び搭載物604はそれぞれ、端末612と通信するように構成された通信ユニットを含むこともでき、それにより、端末は、移動体600、支持機構602、及び搭載物604のそれぞれと独立して通信し、制御することができる。
幾つかの実施形態では、移動体600は、端末612に加えて又は端末612に代えて、別のリモートデバイスと通信するように構成することができる。端末612は、別のリモートデバイス及び移動体600と通信するように構成することもできる。例えば、移動体600及び/又は端末612は、別の移動体又は別の移動体の支持機構若しくは搭載物と通信し得る。所望の場合、リモートデバイスは、第2の端末又は他の計算デバイス(例えば、コンピュータ、ラップトップ、タブレット、スマートフォン、又は他のモバイルデバイス)であり得る。リモートデバイスは、データを移動体600に送信し、データを移動体600から受信し、データを端末612に送信し、及び/又はデータを端末612から受信するように構成することができる。任意選択的に、リモートデバイスは、インターネット又は他の通信ネットワークに接続することができ、それにより、移動体600及び/又は端末612から受信したデータをウェブサイト又はサーバにアップロードすることができる。
図7は、実施形態による、画像データを取得するための例示的なシステム700を示す。システム700は、本明細書に記載されているシステム、デバイス、及び方法の任意の適する実施形態と共に使用できる。例えば、システム700は移動体により実装又は支持され得る。システム700は、感知ユニット702と、処理ユニット704と、非一時的コンピュータ可読媒体706と、制御ユニット708と、通信ユニット710とを含むことができる。
感知モジュール702は、異なる方法で移動体に関連する情報を収集する異なるタイプのセンサを利用することができる。異なるタイプのセンサは、異なるタイプの信号又は異なるソースからの信号を感知し得る。例えば、センサは、慣性センサ、GPSセンサ、近接センサ(例えばライダー)、又はビジョン/画像センサ(例えば、カメラ)を含むことができる。感知モジュールは、複数のプロセッサを有する処理ユニット704に動作可能に接続することができる。幾つかの実施形態では、感知モジュール702は、適する外部デバイス又はシステムに感知データを直接送信するように構成された送信ユニット712(例えば、Wi−Fi画像送信ユニット)に動作可能に接続することができる。例えば、送信ユニット712を使用して、感知ユニット702のカメラにより取得された画像をリモート端末に送信することができる。
処理ユニット704は、プログラマブルプロセッサ(例えば、中央処理ユニット(CPU))等の1つ又は複数のプロセッサを有することができる。例えば、処理ユニット704は、フィールドプログラマブルゲートアレイ(FPGA)及び/又は1つ又は複数のARMプロセッサを含み得る。処理ユニット704は、非一時的コンピュー可読媒体706に動作的に接続可能である。非一時的コンピュータ可読媒体1606は、1つ又は複数のステップを実行するための、処理ユニット704により実行可能な論理、コード、及び/又はプログラム命令を記憶することができる。非一時的コンピュータ可読媒体は、1つ又は複数のユニット(例えば、SDカード又はランダムアクセスメモリ(RAM)等のリムーバブルメディア又は外部ストレージ)を含むことができる。幾つかの実施形態では、感知ユニット702からのデータは、非一時的コンピュータ可読媒体706のメモリユニットに直接伝達され、又はそこに記憶することができる。非一時的コンピュータ可読媒体706のメモリユニットは、本明細書に記載された方法による任意の適する実施形態を実行するために処理ユニット704により実行可能な論理、コード、及び/又はプログラム命令を記憶することができる。例えば、処理ユニット704は、処理ユニット704の1つ又は複数のプロセッサに、本明細書で論じられている画像ズーム制御機能を実行させる命令を実行するように構成することができる。メモリユニットは、感知ユニットからの感知データを、処理ユニット704により処理されるように記憶できる。幾つかの実施形態では、非一時的コンピュータ可読媒体706のメモリユニットは、処理ユニット704により生成される処理結果を記憶するために使用できる。
幾つかの実施形態では、処理ユニット704は、移動体の状態を制御するように構成された制御ユニット708に動作可能に接続することができる。例えば、制御ユニット708は、移動体の空間的配置、速度、及び/又は加速度を自由度6に関して調整するよう、移動体の推進機構を制御するように構成することができる。代替的には、又は組み合わせて、制御ユニット708は、支持機構、搭載物、又は感知ユニットの状態のうちの1つ又は複数を制御することができる。
処理ユニット704は、1つ又は複数の外部デバイス(例えば、端末、ディスプレイデバイス、又は他のリモートコントローラ)からデータを送信及び/又は受信するように構成された通信ユニット710に動作可能に接続することができる。有線通信又は無線通信等の任意の適する通信手段を使用し得る。例えば、通信ユニット710は、ローカルエリアネットワーク(LAN)、広域ネットワーク(WAN)、赤外線、無線、WiFi、ポイントツーポイント(P2P)ネットワーク、電気通信網、クラウド通信等のうちの1つ又は複数を利用することができる。任意選択的に、電波塔、衛星、又は移動局等の中継局を使用することができる。無線通信は、近接度依存型であってもよく、又は近接度独立型であってもよい。幾つかの実施形態では、通信にLOF(line−of−sight)が必要なこともあれば、又は必要ないこともある。通信ユニット710は、感知ユニット702からの感知データ、及び/又は処理ユニット702により生成された処理結果、所定の制御データ、端末又はリモートコントローラからのユーザコマンド等のうちの1つ又は複数を送信及び/又は受信することができる。
システム700の構成要素は、任意の適する構成で配置することができる。例えば、システム700の構成要素のうちの1つ又は複数は、移動体、支持機構、搭載物、端末、感知システム、又は上記のうち1つ又は複数と通信する追加の外部デバイスに配置することができる。追加的に、図7は1つの処理ユニット704と1つの非一時的コンピュータ可読媒体706を示しているが、当業者であれば、これは限定的とすることが意図されておらず、システム700は複数の処理ユニット及び/又は非一時的コンピュータ可読媒体を含むことが可能であることが分かるであろう。幾つかの実施形態では、複数の処理ユニット及び/又は非一時的コンピュータ可読媒体のうちの1つ又は複数は、異なる場所、例えば移動体、支持機構、搭載物、端末、感知ユニット、上記のうち1つ又は複数と通信する追加の外部デバイス、又はこれらの適する組合せに配置することができ、それにより、システム700により実行される処理及び/又はメモリ機能の任意の適する態様は、上記場所のうちの1つ又は複数で行うことができる。
本願発明の好ましい実施形態が本明細書に示され、説明されたが、そのような実施形態は、単に例として提供されたことが当業者には明らかである。多くの修正、変更、及び置換が、本発明から逸脱することなく、当業者に想起されるであろう。本明細書に記載された本発明の実施形態に対する様々な代替が、本発明の実行に際して利用可能なことが理解されるべきである。以下の特許請求の範囲が本発明の範囲を規定し、これらの特許請求の範囲及びそれらの均等物内の方法及び構造がそれにより包含されることが意図される。
[項目1]
制御装置において、
移動体により支持される撮像装置により取得される画像を表示するディスプレイと、
(1)上記画像内に表示されているターゲットを示すユーザ入力に関する情報を取得し、
(2)上記ターゲットを示す上記ユーザ入力に関する上記情報に基づいて、(a)上記撮像装置のズームレベル、及び(b)上記ターゲットに関する上記撮像装置の姿勢の自動制御を実行する1つ又は複数のプロセッサと
を含む制御装置。
[項目2]
上記ディスプレイはタッチクリーンである、項目1に記載の制御装置。
[項目3]
上記ユーザ入力は上記ディスプレイのある領域に対する接触である、項目2に記載の制御装置。
[項目4]
ディスプレイの上記領域は上記ターゲットを表示している、項目3に記載の制御装置。
[項目5]
上記ターゲットを示す上記ユーザ入力は1回のユーザ動作により提供される、項目1に記載の制御装置。
[項目6]
上記ユーザ入力に関する上記情報は上記ディスプレイ内の、上記ターゲットが示される場所を含む、項目1に記載の制御装置。
[項目7]
上記ディスプレイは更に、上記撮像装置の上記ズームレベルを制御するための1つ又は複数のズームコントロールを表示する、項目1に記載の制御装置。
[項目8]
上記1つ又は複数のズームコントロールは、(i)上記撮像装置の上記ズームレベルを上げるズームインコントロールと、(ii)上記撮像装置の上記ズームレベルを下げるズームアウトコントロールとを含む、項目7に記載の制御装置。
[項目9]
上記1つ又は複数のズームコントロールは、上記撮像装置の上記ズームレベルをプリセットズームレベルに設定するためのデフォルトズームコントロールを含む、項目7に記載の制御装置。
[項目10]
上記プリセットズームレベルは、ユーザにより構成可能である、項目7に記載の制御装置。
[項目11]
上記ディスプレイは更に、ユーザが上記撮像装置の上記ズームレベルを自動的に調整するための所定のズーム比を選択するメニューを表示する、項目1に記載の制御装置。
[項目12]
(a)及び(b)の上記自動制御を実行するための上記データは、上記撮像装置、上記撮像装置を支持する支持機構、又は上記移動体のうちの少なくとも1つに対する(a)及び(b)の上記自動制御のための命令を含む、項目1に記載の制御装置。
[項目13]
(a)及び(b)の上記自動制御を実行するための上記データは、上記撮像装置、上記撮像装置を支持する支持機構、又は上記移動体に送信されるべき、上記ディスプレイ内の上記ターゲットを示す座標を含む、項目1に記載の制御装置。
[項目14]
上記座標は、上記支持機構及び/又は上記移動体の1つ又は複数の作動機構のための制御コマンドを生成するために使用される、項目13に記載の制御装置。
[項目15]
(a)及び(b)の上記自動制御を実行するための上記データは、上記撮像装置、上記撮像装置を支持する支持機構、又は上記移動体に送信されるべき、上記撮像装置の上記ズームレベルを自動的に調整するための所定の比を含む、項目1に記載の制御装置。
[項目16]
上記撮像装置の上記ズームレベルは、上記撮像装置の上記ズームレベルを所定の比により自動的に調整することによって自動的に制御される、項目1に記載の制御装置。
[項目17]
上記撮像装置の上記ズームレベルは、ズームインを実行するために自動的に調整される、項目16に記載の制御装置。
[項目18]
上記ターゲットに関する上記撮像装置の上記姿勢は、上記移動体に関する上記撮像装置の姿勢、上記ターゲットに関する上記移動体の姿勢、又は上記撮像装置の上記姿勢と上記移動体の上記姿勢の両方を調整することによって自動的に調整される、項目1に記載の制御装置。
[項目19]
上記ターゲットに関する上記撮像装置の上記姿勢は、上記ターゲットが上記ディスプレイ内の所定の場所に、又はその付近に表示されるように自動的に制御される、項目1に記載の制御装置。
[項目20]
上記データは(a)及び(b)の上記自動制御を実質的に同時に実行する、項目1に記載の制御装置。
[項目21]
上記撮像装置、上記撮像装置を支持する支持機構、又は上記移動体のうちの少なくとも1つと通信する通信ユニットを更に含む、項目1に記載の制御装置。
[項目22]
上記撮像装置は上記移動体に対して移動可能である、項目1に記載の制御装置。
[項目23]
上記撮像装置は、支持機構を用いて上記移動体により支持される、項目1に記載の制御装置。
[項目24]
上記支持機構により上記撮像装置は少なくとも2つの軸の周囲で上記移動体に対して回転できる、項目23に記載の制御装置。
[項目25]
上記移動体は無人航空機(UAV)である、項目1に記載の制御装置。
[項目26]
画像を取得するためのプログラム命令を含む非一時的コンピュータ可読媒体において、
移動体により支持される撮像装置により取得された上記画像をディスプレイ上に表示するためのプログラム命令と、
上記画像内に表示されているターゲットを示すユーザ入力に関する情報を取得するためのプログラム命令と、
上記ターゲットを示す上記ユーザ入力に関する上記情報に基づいて、(a)上記撮像装置のズームレベルと、(b)上記ターゲットに関する上記撮像装置の姿勢の自動制御を実行するためのデータを生成するプログラム命令と
を含む非一時的コンピュータ可読媒体。
[項目27]
上記ディスプレイはタッチスクリーンである、項目26に記載の非一時的コンピュータ可読媒体。
[項目28]
上記ターゲットを示す上記ユーザ入力は1回のユーザ動作により提供される、項目26に記載の非一時的コンピュータ可読媒体。
[項目29]
上記ディスプレイは更に、上記撮像装置の上記ズームレベルを制御するための1つ又は複数のズームコントロールを表示する、項目26に記載の非一時的コンピュータ可読媒体。
[項目30]
上記データは、(a)及び(b)の上記自動制御を実質的に同時に実行する、項目26に記載の非一時的コンピュータ可読媒体。
[項目31]
画像を取得する方法において、
移動体により支持される撮像装置により取得された画像をディスプレイ上に表示するステップと、
上記画像内に表示されているターゲットを示すユーザ入力に関する情報を取得するステップと、
上記ターゲットを示す上記ユーザ入力に関する上記情報に基づいて、(a)上記撮像装置のズームレベル、及び(b)上記ターゲットに関する上記撮像装置の姿勢の自動制御を実行するためのデータを生成するステップと
を含む方法。
[項目32]
上記ディスプレイはタッチスクリーンである、項目31に記載の方法。
[項目33]
上記ターゲットを示す上記ユーザ入力は1回のユーザ動作により提供される、項目31に記載の方法。
[項目34]
上記データは、(a)及び(b)の上記自動制御を実質的に同時に実行する、項目31に記載の方法。
[項目35]
制御装置において、
移動体により支持される撮像装置により取得された画像を表示するディスプレイと、
(1)上記画像内に表示されているターゲットを示すユーザ入力に関する情報を取得し、
(2)上記ターゲットを示す上記ユーザ入力に関する上記情報に基づいて、(a)上記ディスプレイ上に表示される上記ターゲットの大きさ、及び(b)上記ディスプレイ上に表示されている上記ターゲットの位置の自動制御を実行するためのデータを生成する1つ又は複数のプロセッサと
を含む制御装置。
[項目36]
上記ディスプレイはタッチスクリーンである、項目35に記載の制御装置。
[項目37]
上記ユーザ入力は上記ディスプレイのある領域に対する接触である、項目36に記載の制御装置。
[項目38]
ディスプレイの上記領域は上記ターゲットを表示している、項目37に記載の制御装置。
[項目39]
上記ターゲットを示す上記ユーザ入力は1回のユーザ動作により提供される、項目35に記載の制御装置。
[項目40]
上記ユーザ入力に関する上記情報は、上記ディスプレイ内の上記ターゲットが表示されている場所を含む、項目35に記載の制御装置。
[項目41]
上記ディスプレイは更に、上記撮像装置の上記ズームレベルを制御するための1つ又は複数のズームコントロールを表示する、項目35に記載の制御装置。
[項目42]
上記1つ又は複数のズームコントロールは、(i)上記撮像装置の上記ズームレベルを上げるズームインコントロールと、(ii)上記撮像装置の上記ズームレベルを下げるズームアウトコントロールを含む、項目41に記載の制御装置。
[項目43]
上記1つ又は複数のズームコントロールは、上記撮像装置の上記ズームレベルをプリセットズームレベルに設定するためのデフォルトズームコントロールを含む、項目41に記載の制御装置。
[項目44]
上記プリセットズームレベルは、ユーザにより構成可能である、項目41に記載の制御装置。
[項目45]
上記ディスプレイは、ユーザが上記撮像装置の上記ズームレベルを自動的に調整するための所定のズーム比を選択するメニューを更に表示する、項目35に記載の制御装置。
[項目46]
(a)及び(b)の上記自動制御を実行するための上記データは、上記撮像装置、上記撮像装置を支持する支持機構、又は上記移動体のうちの少なくとも1つに対する(a)及び(b)の上記自動制御のための命令を含む、項目35に記載の制御装置。
[項目47]
(a)及び(b)の上記自動制御を実行するための上記データは、上記撮像装置、上記撮像装置を支持する支持機構、又は上記移動体に送信されるべき、上記ターゲットを表示する上記ディスプレイ内の座標を含む、項目35に記載の制御装置。
[項目48]
(a)及び(b)の上記自動制御を実行するための上記データは、上記撮像装置、上記撮像装置を支持する支持機構、又は上記移動体に送信されるべき上記撮像装置の上記ズームレベルを自動的に調整するための所定の比を含む、項目35に記載の制御装置。
[項目49]
上記ターゲットの大きさは、上記撮像装置のズームレベルを自動的に制御することによって自動的に制御される、項目35に記載の制御装置。
[項目50]
上記撮像装置の上記ズームレベルは、ズームインを実行するために自動的に調整される、項目35に記載の制御装置。
[項目51]
上記ターゲットの上記大きさは、上記撮像装置のズームレベル、上記ターゲットまでの上記撮像装置の距離、又は上記撮像装置の上記ズームレベルと上記ターゲットまでの上記撮像装置の上記距離の両方を自動的に制御することによって自動的に制御される、項目35に記載の制御装置。
[項目52]
上記ターゲットの上記位置は、上記ターゲットに関する上記移動体の姿勢を自動的に制御することによって自動的に制御される、項目35に記載の制御装置。
[項目53]
上記ターゲットに関する上記撮像装置の姿勢は、上記移動体に関する上記撮像装置の姿勢、上記ターゲットに関する上記移動体の姿勢、又は上記撮像装置の上記姿勢と上記移動体の上記姿勢の両方を調整することによって自動的に調整される、項目35に記載の制御装置。
[項目54]
上記データは、(a)及び(b)の上記自動制御を実質的に同時に実行する、項目35に記載の制御装置。
[項目55]
上記撮像装置、上記撮像装置を支持する支持機構、又は上記移動体の少なくとも1つと通信する通信ユニットを更に含む、項目35に記載の制御装置。
[項目56]
上記通信ユニットは、(a)及び(b)の上記自動制御を実行するためのデータを無線送信するように構成される、項目55に記載の制御装置。
[項目57]
上記撮像装置は、支持機構を用いて上記移動体により支持される、項目35に記載の制御装置。
[項目58]
上記移動体は無人航空機(UAV)である、項目35に記載の制御装置、項目1に記載の制御装置。
[項目59]
画像を取得するためのプログラム命令を含む非一時的コンピュータ可読媒体において、
移動体により支持される撮像装置により取得された上記画像をディスプレイ上に表示するためのプログラム命令と、
上記画像内に表示されているターゲットを示すユーザ入力に関する情報を取得するためのプログラム命令と、
上記ターゲットを示す上記ユーザ入力に関する上記情報に基づいて、(a)上記ディスプレイ上に表示されている上記ターゲットの大きさ、及び(b)上記ディスプレイ上に表示されている上記ターゲットの位置の自動制御を実行するデータを生成するためのプログラム命令と
を含む非一時的コンピュータ可読媒体。
[項目60]
上記ディスプレイはタッチスクリーンである、項目59に記載の非一時的コンピュータ可読媒体。
[項目61]
上記ターゲットを示す上記ユーザ入力は1回のユーザ動作により提供される、項目59に記載の非一時的コンピュータ可読媒体。
[項目62]
[項目63]
上記データは(a)及び(b)の上記自動制御を実質的に同時に実行する、項目59に記載の非一時的コンピュータ可読媒体。
[項目64]
画像を取得する方法において、
移動体により支持される撮像装置により取得された上記画像をディスプレイ上に表示するステップと、
上記画像内に表示されているターゲットを示すユーザ入力に関する情報を取得するステップと、
上記ターゲットを示す上記ユーザ入力に関する上記情報に基づいて、(a)上記ディスプレイ上に表示されている上記ターゲットの大きさ、及び(b)上記ディスプレイ上に表示されている上記ターゲットの位置の自動制御を実行するデータを生成するステップと、
を含む方法。
[項目65]
上記ターゲットを示す上記ユーザ入力は1回のユーザ動作により提供される、項目64に記載の方法。
[項目66]
上記移動体は無人航空機(UAV)である、項目64に記載の方法、項目1に記載の制御装置。
[項目67]
制御装置において、
移動体により支持される撮像装置により取得された1つ又は複数の画像を表示するディスプレイと、
(1)上記ディスプレイ上に表示された上記画像のズームレベルをプリセットズームレベルまで、又は所定のズーム比により調整することを示すユーザ入力に関する情報を取得し、
(2)1回のユーザ入力に基づいて、(a)上記撮像装置のズームレベル、(b)上記画像内に表示されている上記ターゲットからの上記撮像装置の距離、又は(c)上記撮像装置の上記ズームレベルと上記撮像装置の上記距離の両方の自動調整を実行して、(i)上記ディスプレイ上に表示された上記画像が上記プリセットズームレベルであるか、又は(ii)上記ディスプレイ上に表示された上記画像の上記ズームレベルが上記所定のズーム比により調整される1つ又は複数のプロセッサと
を含む制御装置。
[項目68]
上記プリセットズームレベルは1×の光学ズームである、項目67に記載の制御装置。
[項目69]
上記プリセットズームレベルは、上記撮像装置が画像の取得を開始する当初のズームレベルである、項目67に記載の制御装置。
[項目70]
上記画像の上記ズームレべルは、上記プリセットズームレベルに、(1)上記撮像装置がズーム可能な、(2)上記ターゲットからの上記撮像装置の上記距離が変更可能な、又は(3)(1)と(2)の組合せのうちの最速の速度で自動的に調整される、項目67に記載の制御装置。
[項目71]
上記1回のユーザ入力は上記ディスプレイ上の所定の領域のタッチである、項目67に記載の制御装置。
[項目72]
上記ディスプレイの上記所定の領域は、上記画像が上記プリセットズームレベルまでズームされるようにするデフォルトズームコントロールを表示する、項目71に記載の制御装置。
[項目73]
上記ディスプレイは、そこを通じてユーザが上記ズーム比を選択するメニューを更に表示する、項目67に記載の制御装置。
[項目74]
上記メニューは、上記ユーザが上記ディスプレイを時間の閾値長さより長い時間にわたりタッチした時に可視化される、項目73に記載の制御装置。
[項目75]
上記メニューは、上記ユーザが上記ディスプレイを閾値圧力より高い圧力でタッチした時に可視化する、項目73に記載の制御装置。
[項目76]
上記ディスプレイはタッチスクリーンである、項目67に記載の制御装置。
[項目77]
上記上記ディスプレイは、上記ユーザが上記画像のズームイン又はズームアウトを制御するための1つ又は複数のズームコントロールを更に表示する、項目67に記載の制御装置。
[項目78]
上記1つ又は複数のズームコントロールは、(i)上記ディスプレイのズームイン領域であって、上記ユーザが上記ズームイン領域に触っている間に上記画像がズームインされるようにするズームイン領域と、(ii)上記ディスプレイのズームアウト領域であって、上記ユーザが上記ズームアウト領域に触っている間に上記画像がズームアウトされるようにするズームアウト領域とを含む、項目77に記載の制御装置。
[項目79]
上記(a)、(b)、又は(c)の上記自動調整を実行する上記命令は、上記撮像装置、上記撮像装置を支持する支持機構、又は上記移動体のうちの少なくとも1つに対する(a)、(b)、又は(c)の上記自動調整のための命令を含む、項目67に記載の制御装置。
[項目80]
上記画像の上記ズームレベルは、上記撮像装置の上記ズームレベルを自動的に調整することによって自動的に調整される、項目67に記載の制御装置。
[項目81]
上記制御装置、上記撮像装置、上記撮像装置を支持する支持機構、又は上記移動体のうちの少なくとも1つと通信する通信ユニットを更に含む、項目67に記載の制御装置。
[項目82]
上記撮像装置は、支持機構を用いて上記移動体により支持される、項目67に記載の制御装置。
[項目83]
上記移動体は無人航空機(UAV)である、項目67に記載の制御装置。
[項目84]
画像のズームレベルを制御するためのプログラム命令を含む非一時的コンピュータ可読媒体において、
移動体により支持された撮像装置により取得された1つ又は複数の画像をディスプレイ上に表示するためのプログラム命令と、
上記ディスプレイ上に表示された画像のズームレベルをプリセットズームレベルまで、又は所定のズーム比により調製することを示す1回のユーザ入力に関する情報を取得するためのプログラム命令と、
上記1回のユーザ入力に基づいて、(a)上記撮像装置のズームレベル、(b)上記画像内のターゲットからの上記撮像装置の距離、又は(c)上記撮像装置の上記ズームレベルと上記距離の両方の自動調整を実行して、(i)上記ディスプレイ上に表示された上記画像が上記プリセットズームレベルであるか、又は(ii)上記ディスプレイ上に表示された上記画像の上記ズームレベルが上記所定のズーム比により調整されるようにするためのプログラム命令と、
を含む非一時的コンピュータ可読媒体。
[項目85]
上記画像の上記ズームレべルは、上記プリセットズームレベルに、(1)上記撮像装置がズーム可能な、(2)上記ターゲットからの上記撮像装置の上記距離が変更可能な、又は(3)(1)と(2)の組合せのうちの最速の速度で自動的に調整される、項目84に記載の非一時的コンピュータ可読媒体。
[項目86]
上記1回のユーザ入力は上記ディスプレイ上の所定の領域のタッチである、項目84に記載の非一時的コンピュータ可読媒体。
[項目87]
上記移動体は無人航空機(UAV)である、項目84に記載の非一時的コンピュータ可読媒体。
[項目88]
画像のズームレベルを制御する方法において、
移動体により支持される撮像装置により取得された1つ又は複数の画像をディスプレイ上に表示するステップと、
上記ディスプレイ上に表示された画像のズームレベルをプリセットズームレベル又は所定のズーム比まで調整することを示す1回のユーザ入力に関する情報を取得するステップと、
上記1回のユーザ入力に基づいて、(a)上記撮像装置のズームレベル、(b)上記画像内のターゲットからの上記撮像装置の距離、又は(c)上記撮像装置の上記ズームレベルと上記距離の両方の自動調整を実行して、(i)上記ディスプレイ上に表示された上記画像が上記プリセットズームレベルであるか、又は(ii)上記ディスプレイ上に表示された上記画像の上記ズームレベルが上記所定のズーム比により調整されるようにするための命令を生成するステップと、
を含む方法。
[項目89]
上記画像の上記ズームレべルは、上記プリセットズームレベルに、(1)上記撮像装置がズーム可能な、(2)上記ターゲットからの上記撮像装置の上記距離が変更可能な、又は(3)(1)と(2)の組合せのうちの最速の速度で自動的に調整される、項目88に記載の方法。
[項目90]
上記1回のユーザ入力は上記ディスプレイ上の所定の領域のタッチである、項目88に記載の方法。

Claims (21)

  1. 制御装置において、
    移動体により支持される撮像装置により取得される画像を表示するタッチスクリーンであるディスプレイと、
    前記ディスプレイ上の前記画像内に表示されているターゲットを含む領域に対するタッチジェスチャにより、前記撮像装置のズームレベルを選択するためのメニューを前記ディスプレイに表示するとともに、前記メニューからズームレベルの選択を受け付け、
    前記タッチジェスチャにより、前記メニューから選択されたズームレベルと、前記ターゲットが示される場所とを示すユーザ入力に関する情報を取得し、
    前記タッチジェスチャが解除されることに応じて、前記ユーザ入力に関する前記情報に基づいて、(a)前記撮像装置のズームレベル、及び(b)前記ターゲットに関する前記撮像装置の姿勢の自動制御を実行する1つ又は複数のプロセッサと
    を含む制御装置。
  2. 前記タッチジェスチャは、ロングプレス、ダブルタップ、またはディープタッチを含む、請求項1に記載の制御装置。
  3. 前記ディスプレイは更に、前記撮像装置の前記ズームレベルを制御するための1つ又は複数のズームコントロールを表示する、請求項1または2に記載の制御装置。
  4. 前記1つ又は複数のズームコントロールは、(i)前記撮像装置の前記ズームレベルを上げるズームインコントロールと、(ii)前記撮像装置の前記ズームレベルを下げるズームアウトコントロールとを含む、請求項に記載の制御装置。
  5. 前記1つ又は複数のズームコントロールは、前記撮像装置の前記ズームレベルをプリセットズームレベルに設定するためのデフォルトズームコントロールを含む、請求項に記載の制御装置。
  6. 前記プリセットズームレベルは、ユーザにより構成可能である、請求項に記載の制御装置。
  7. (a)前記撮像装置のズームレベル及び(b)前記ターゲットに関する前記撮像装置の姿勢の前記自動制御を実行するためのデータは、前記撮像装置、前記撮像装置を支持する支持機構、及び前記移動体のうちの少なくとも1つに対する(a)前記撮像装置のズームレベル及び(b)前記ターゲットに関する前記撮像装置の姿勢の前記自動制御のための命令を含む、請求項1から請求項の何れか1項に記載の制御装置。
  8. (a)前記撮像装置のズームレベル及び(b)前記ターゲットに関する前記撮像装置の姿勢の前記自動制御を実行するためのデータは、前記撮像装置、前記撮像装置を支持する支持機構、又は前記移動体に送信されるべき、前記ディスプレイ内の前記ターゲットを示す座標を含む、請求項1から請求項の何れか1項に記載の制御装置。
  9. 前記座標は、前記支持機構の一つ又は複数の作動機構、及び前記移動体の1つ又は複数の作動機構の少なくとも1つのための制御コマンドを生成するために使用される、請求項に記載の制御装置。
  10. (a)前記撮像装置のズームレベル及び(b)前記ターゲットに関する前記撮像装置の姿勢の前記自動制御を実行するためのデータは、前記撮像装置、前記撮像装置を支持する支持機構、又は前記移動体に送信されるべき、前記撮像装置の前記ズームレベルを自動的に調整するための所定の比を含む、請求項1から請求項の何れか1項に記載の制御装置。
  11. 前記撮像装置の前記ズームレベルは、前記撮像装置の前記ズームレベルを所定の比により自動的に調整することによって自動的に制御される、請求項1から請求項10の何れか1項に記載の制御装置。
  12. 前記撮像装置の前記ズームレベルは、ズームインを実行するために自動的に調整される、請求項11に記載の制御装置。
  13. 前記ターゲットに関する前記撮像装置の前記姿勢は、前記移動体に関する前記撮像装置の姿勢、前記ターゲットに関する前記移動体の姿勢、又は前記撮像装置の前記姿勢と前記移動体の前記姿勢の両方を調整することによって自動的に調整される、請求項1から請求項12の何れか1項に記載の制御装置。
  14. 前記ターゲットに関する前記撮像装置の前記姿勢は、前記ターゲットが前記ディスプレイ内の所定の場所に、又はその付近に表示されるように自動的に制御される、請求項1から請求項13の何れか1項に記載の制御装置。
  15. (a)前記撮像装置のズームレベル及び(b)前記ターゲットに関する前記撮像装置の姿勢の前記自動制御を実行するためのデータは(a)前記撮像装置のズームレベル及び(b)前記ターゲットに関する前記撮像装置の姿勢の前記自動制御を実行するための前記自動制御を実質的に同時に実行する、請求項1から請求項14の何れか1項に記載の制御装置。
  16. 前記撮像装置、前記撮像装置を支持する支持機構、及び前記移動体のうちの少なくとも1つと通信する通信ユニットを更に含む、請求項1から請求項15の何れか1項に記載の制御装置。
  17. 前記撮像装置は前記移動体に対して移動可能である、請求項1から請求項16の何れか1項に記載の制御装置。
  18. 前記撮像装置は、支持機構を用いて前記移動体により支持される、請求項1から請求項17の何れか1項に記載の制御装置。
  19. 前記支持機構により前記撮像装置は少なくとも2つの軸の周囲で前記移動体に対して回転できる、請求項18に記載の制御装置。
  20. 前記移動体は無人航空機(UAV)である、請求項1から請求項19の何れか1項に記載の制御装置。
  21. 画像を取得する方法において、
    移動体により支持される撮像装置により取得された前記画像をタッチスクリーンであるディスプレイ上に表示するステップと、
    前記ディスプレイ上の前記画像内に表示されているターゲットを含む領域に対するタッチジェスチャにより、前記撮像装置のズームレベルを選択するためのメニューを前記ディスプレイに表示するとともに、前記メニューからズームレベルの選択を受け付けるステップと、
    前記タッチジェスチャにより、前記メニューから選択されたズームレベルと、前記ターゲットが示される場所とを示すユーザ入力に関する情報を取得するステップと、
    前記タッチジェスチャが解除されることに応じて、前記ユーザ入力に関する前記情報に基づいて、(a)前記ディスプレイ上に表示されている前記ターゲットの大きさ、及び(b)前記ディスプレイ上に表示されている前記ターゲットの位置の自動制御を実行するデータを生成するステップと、
    を含む方法。
JP2019516689A 2016-10-24 2016-10-24 撮像装置により取得された画像を制御するためのシステム及び方法 Active JP6835392B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/CN2016/103123 WO2018076147A1 (en) 2016-10-24 2016-10-24 Systems and methods for controlling an image captured by an imaging device

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2021009928A Division JP2021073796A (ja) 2021-01-25 2021-01-25 制御装置、及び画像を取得する方法

Publications (2)

Publication Number Publication Date
JP2019537306A JP2019537306A (ja) 2019-12-19
JP6835392B2 true JP6835392B2 (ja) 2021-02-24

Family

ID=62022946

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019516689A Active JP6835392B2 (ja) 2016-10-24 2016-10-24 撮像装置により取得された画像を制御するためのシステム及び方法

Country Status (6)

Country Link
US (2) US10897567B2 (ja)
EP (1) EP3494443B1 (ja)
JP (1) JP6835392B2 (ja)
KR (2) KR102236339B1 (ja)
CN (1) CN109791405A (ja)
WO (1) WO2018076147A1 (ja)

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109997091B (zh) 2016-12-01 2022-08-09 深圳市大疆创新科技有限公司 用于管理3d飞行路径的方法和相关系统
KR20180065756A (ko) * 2016-12-08 2018-06-18 삼성전자주식회사 무인비행체를 제어하는 전자 장치 및 그 제어 방법
JP7136079B2 (ja) * 2017-03-10 2022-09-13 ソニーグループ株式会社 情報処理装置、情報処理方法および情報処理プログラム
CN107392961B (zh) * 2017-06-16 2019-12-06 华勤通讯技术有限公司 基于增强现实的空间定位方法及装置
CN109814588A (zh) * 2017-11-20 2019-05-28 深圳富泰宏精密工业有限公司 飞行器以及应用于飞行器的目标物追踪系统和方法
WO2019140686A1 (zh) * 2018-01-22 2019-07-25 深圳市大疆创新科技有限公司 跟随控制方法、控制终端及无人机
US10518786B2 (en) * 2018-02-22 2019-12-31 GM Global Technology Operations LLC Systems and methods for providing an operation data interface for autonomous operation of a vehicle
US11175516B1 (en) * 2018-02-27 2021-11-16 Snap Inc. Object recognition for improving interfaces on an eyewear device and other wearable and mobile devices
WO2019220877A1 (ja) * 2018-05-14 2019-11-21 富士フイルム株式会社 移動型機器及び撮影システム
DE102018123411A1 (de) * 2018-09-24 2020-03-26 Autel Robotics Europe Gmbh Zielbeobachtungsverfahren, zugehörige Vorrichtung und System
CN109584370B (zh) * 2018-11-22 2023-03-21 北京未尔锐创科技有限公司 一种目标与背景红外场景仿真的方法
US11314254B2 (en) * 2019-03-26 2022-04-26 Intel Corporation Methods and apparatus for dynamically routing robots based on exploratory on-board mapping
CN110232683A (zh) * 2019-06-10 2019-09-13 北京工业大学 一种基于无人机点云的滑坡检测方法
US10846880B1 (en) * 2020-01-03 2020-11-24 Altec Industries, Inc. Camera embedded joystick
CN111193870B (zh) * 2020-01-09 2022-05-10 华为终端有限公司 通过移动设备控制车载摄像头的方法、设备和系统
TWI720869B (zh) * 2020-04-15 2021-03-01 致伸科技股份有限公司 相機模組之對位方法
KR102379866B1 (ko) * 2020-07-23 2022-03-29 주식회사 엘지유플러스 무인 비행체 및 무인 비행체의 제어 방법
US20220036554A1 (en) * 2020-08-03 2022-02-03 Healthcare Integrated Technologies Inc. System and method for supporting the emotional and physical health of a user
US20220081125A1 (en) * 2020-09-17 2022-03-17 Laura Leigh Donovan Personal paparazzo drones
US11848015B2 (en) 2020-10-01 2023-12-19 Realwear, Inc. Voice command scrubbing
WO2023089960A1 (ja) * 2021-11-17 2023-05-25 ソニーグループ株式会社 制御方法、制御システムおよび移動体
KR102525912B1 (ko) * 2022-09-22 2023-04-26 (주)제이마플 무인 비행체 및 그 제어 방법
US11972077B1 (en) * 2023-04-29 2024-04-30 Himax Technologies Limited Resetting system and method

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08237533A (ja) * 1995-02-27 1996-09-13 Canon Inc カメラ制御方法及び装置
JP2003092750A (ja) * 2001-09-18 2003-03-28 Nec Corp カメラ制御システム
NO332170B1 (no) 2009-10-14 2012-07-16 Cisco Systems Int Sarl Anordning og fremgangsmate for kamerakontroll
CN102809969A (zh) * 2011-06-03 2012-12-05 鸿富锦精密工业(深圳)有限公司 无人飞行载具控制系统及方法
JP5896514B2 (ja) * 2011-11-25 2016-03-30 学校法人千葉工業大学 無人走行体の遠隔操縦システム
US20140008496A1 (en) * 2012-07-05 2014-01-09 Zhou Ye Using handheld device to control flying object
US9367067B2 (en) * 2013-03-15 2016-06-14 Ashley A Gilmore Digital tethering for tracking with autonomous aerial robot
US8903568B1 (en) * 2013-07-31 2014-12-02 SZ DJI Technology Co., Ltd Remote control method and terminal
CN103426282A (zh) * 2013-07-31 2013-12-04 深圳市大疆创新科技有限公司 遥控方法及终端
JP6395381B2 (ja) 2014-01-08 2018-09-26 キヤノン株式会社 撮像装置及びその制御方法
CN107577247B (zh) * 2014-07-30 2021-06-25 深圳市大疆创新科技有限公司 目标追踪系统及方法
CN105391939B (zh) * 2015-11-04 2017-09-29 腾讯科技(深圳)有限公司 无人机拍摄控制方法和装置、无人机拍摄方法和无人机
CN105512643A (zh) * 2016-01-06 2016-04-20 北京二郎神科技有限公司 一种图像采集方法和装置

Also Published As

Publication number Publication date
KR102236339B1 (ko) 2021-04-02
US11632497B2 (en) 2023-04-18
US20190253611A1 (en) 2019-08-15
KR20190055130A (ko) 2019-05-22
WO2018076147A1 (en) 2018-05-03
JP2019537306A (ja) 2019-12-19
KR20210037761A (ko) 2021-04-06
US10897567B2 (en) 2021-01-19
US20210144292A1 (en) 2021-05-13
EP3494443A4 (en) 2019-07-24
CN109791405A (zh) 2019-05-21
EP3494443A1 (en) 2019-06-12
EP3494443B1 (en) 2023-01-11

Similar Documents

Publication Publication Date Title
JP6835392B2 (ja) 撮像装置により取得された画像を制御するためのシステム及び方法
US20210116944A1 (en) Systems and methods for uav path planning and control
JP6735821B2 (ja) Uav経路を計画し制御するシステム及び方法
JP6816156B2 (ja) Uav軌道を調整するシステム及び方法
JP6784434B2 (ja) 方法、uav制御プログラム、無人航空機、及び制御システム
CN108351653B (zh) 用于uav飞行控制的系统和方法
CN108292141B (zh) 用于目标跟踪的方法和系统
CN108351574B (zh) 用于设置相机参数的系统、方法和装置
CN107077113B (zh) 无人飞行器飞行显示
JP2017503226A5 (ja)
JP6849272B2 (ja) 無人航空機を制御するための方法、無人航空機、及び無人航空機を制御するためのシステム
JP2021073796A (ja) 制御装置、及び画像を取得する方法
JP2021036452A (ja) Uav軌道を調整するシステム及び方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190410

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190410

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200610

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200623

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200907

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210105

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210125

R150 Certificate of patent or registration of utility model

Ref document number: 6835392

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250