CN109987226A - Uav全景成像 - Google Patents

Uav全景成像 Download PDF

Info

Publication number
CN109987226A
CN109987226A CN201910278137.6A CN201910278137A CN109987226A CN 109987226 A CN109987226 A CN 109987226A CN 201910278137 A CN201910278137 A CN 201910278137A CN 109987226 A CN109987226 A CN 109987226A
Authority
CN
China
Prior art keywords
carrier
capture device
image capture
axis
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910278137.6A
Other languages
English (en)
Other versions
CN109987226B (zh
Inventor
王铭钰
曹子晟
梁泰文
俞利富
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SZ DJI Osmo Technology Co Ltd
Original Assignee
SZ DJI Osmo Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SZ DJI Osmo Technology Co Ltd filed Critical SZ DJI Osmo Technology Co Ltd
Priority to CN201910278137.6A priority Critical patent/CN109987226B/zh
Publication of CN109987226A publication Critical patent/CN109987226A/zh
Application granted granted Critical
Publication of CN109987226B publication Critical patent/CN109987226B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64CAEROPLANES; HELICOPTERS
    • B64C39/00Aircraft not otherwise provided for
    • B64C39/02Aircraft not otherwise provided for characterised by special use
    • B64C39/024Aircraft not otherwise provided for characterised by special use of the remote controlled vehicle type, i.e. RPV
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64DEQUIPMENT FOR FITTING IN OR TO AIRCRAFT; FLIGHT SUITS; PARACHUTES; ARRANGEMENTS OR MOUNTING OF POWER PLANTS OR PROPULSION TRANSMISSIONS IN AIRCRAFT
    • B64D47/00Equipment not otherwise provided for
    • B64D47/08Arrangements of cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U20/00Constructional aspects of UAVs
    • B64U20/80Arrangement of on-board electronics, e.g. avionics systems or wiring
    • B64U20/87Mounting of imaging devices, e.g. mounting of gimbals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/685Vibration or motion blur correction performed by mechanical compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U10/00Type of UAV
    • B64U10/10Rotorcrafts
    • B64U10/13Flying platforms
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U2101/00UAVs specially adapted for particular uses or applications
    • B64U2101/30UAVs specially adapted for particular uses or applications for imaging, photography or videography
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U50/00Propulsion; Power supply
    • B64U50/10Propulsion
    • B64U50/19Propulsion using electrically powered motors

Abstract

本发明提供了用于生成全景航拍图像的方法、系统和设备。图像捕捉装置经由载体耦合至无人飞行器(UAV),所述载体被配置成用于允许所述图像捕捉装置相对于所述UAV围绕一个、两个或三个轴线旋转。为了生成全景图像,使所述UAV悬停于或保持实质上静止于预定位置附近。在所述UAV悬停于所述预定位置上方的同时,所述载体使所述图像捕捉装置围绕第一轴线旋转,并与此同时至少关于第二轴线稳定所述图像捕捉装置。当所述图像捕捉装置旋转时,其捕捉多个重叠的图像。可以完全地在UAV机上处理所述多个图像以生成全景图像,而无需将所述多个图像传输至远程装置。

Description

UAV全景成像
背景技术
诸如无人飞行器(UAV)的飞行器可以用于执行针对军事和民用应用的监视、侦察和勘探任务。这样的飞行器可以承载有效载荷,所述有效载荷被配置成用于执行特定功能,诸如捕捉周围环境的图像。
在一些情况下,可能期望基于由UAV捕捉的航拍图像来获得全景图像。用于使用UAV来生成全景航拍图像的现有方法通常需要UAV在机载图像捕捉装置捕捉周围环境的多个图像时执行预定飞行路径。随后,将捕捉到的图像从UAV传输至地面站或其他远程装置,继而在那里将图像数字“拼接”在一起以生成全景图像。
这样的现有方法存在若干缺点。首先,可能难以控制UAV执行预定飞行路径。现有技术通常利用诸如陀螺仪或全球定位系统(GPS)传感器的传感器,来辅助UAV的飞行控制。这样的传感器的精确度或准确度可能受到内在因素和/或外在因素的影响。例如,陀螺仪或惯性传感器可能遭受零点漂移和/或温度漂移。民用GPS传感器的误差幅度可能是米级。传感器的这样的误差可能致使UAV偏离预定飞行路径。此外,当UAV远离用户时,通过用户对UAV的手动遥控来实现预定飞行路径可能变得困难,即使在用户是有经验的UAV操作者的情况下也是如此。UAV无能力精确执行预定飞行路径可能导致捕捉到的图像之间的显著移位,因此使得将图像拼接在一起以生成全景图像变得更加困难。
其次,在使用现有方法的全景成像过程期间,通常难以稳定图像捕捉装置。有时需要拍摄大量的图像,以便在图像之间实现所需的空间邻接。有时,可能需要频繁调节用于承载图像捕捉装置的UAV的姿态和/或位置,以便稳定图像捕捉装置。此外,来自UAV的运动(诸如震动)或者来自其他来源的扰动可能导致图像捕捉装置在全景成像过程期间的非预定运动,从而降低捕捉到的图像的质量并且增大生成高质量全景图像所需的计算的复杂度。
最后,通常需要将UAV所捕捉到的航拍图像传输回地面站或者具有更高处理能力的远程装置,在此处执行诸如图像拼接等进一步处理。图像拼接过程的复杂度可归因于大多数航拍图像都是在移动的且不稳定的平台上被捕捉到的这一事实。因此,需要更多的软件处理以应对在不甚理想的环境中捕捉到的图像中的错位、畸变和其他复杂性。然而,图像的非机载处理不仅增加了在UAV与远程装置之间的数据通信信道上的流量,而且还在图像的捕捉与全景图像的生成之间引入了延迟。
发明内容
本发明提供了用于生成全景航拍图像的、克服了现有方法的缺点的方法、系统和设备。本发明提供了用于生成全景航拍图像的方法、系统和设备。图像捕捉装置经由载体耦合至无人飞行器(UAV),所述载体被配置成用于允许所述图像捕捉装置相对于所述UAV围绕一个、两个或三个轴线旋转。为了生成全景图像,使所述UAV悬停或保持实质上静止于预定位置附近。在所述UAV悬停于预定位置上方的同时,所述载体使所述图像捕捉装置围绕第一轴线旋转,并与此同时至少关于第二轴线稳定所述图像捕捉装置。当所述图像捕捉装置旋转时,其捕捉多个重叠的图像。可以完全地在UAV机上处理所述多个图像以生成全景图像,而无需将所述多个图像传输至远程装置。
根据本发明的一个方面,提供了一种用于生成全景航拍图像的系统。所述系统包括:载体,其被配置成与无人飞行器(UAV)相耦合;图像捕捉装置,其被配置成与所述载体相耦合,所述载体被配置成用于允许所述图像捕捉装置围绕至少两个正交轴线旋转,所述至少两个轴线包括第一轴线和第二轴线;一个或多个控制器,其被共同地或单个地配置成用于使所述载体在所述UAV悬停于预定位置附近时,(1)在所述图像捕捉装置以预定间隔捕捉多个连续图像的同时,使所述图像捕捉装置围绕所述第一轴线旋转预定的旋转角度;以及(2)在所述图像捕捉装置的旋转期间,稳定所述图像捕捉装置以使得所述图像捕捉装置至少关于所述第二轴线实质上保持预定空间位置(spatial disposition);以及所述UAV机载的一个或多个处理器,其被共同地或单个地配置成用于基于所述多个图像而生成全景图像。
根据本发明的另一方面,提供了一种用于生成全景航拍图像的方法。所述方法包括:(a)使承载图像捕捉装置的无人飞行器(UAV)在空中悬停于预定位置附近,所述图像捕捉装置经由载体耦合至所述UAV,所述载体被配置成用于允许所述图像捕捉装置围绕至少两个正交轴线旋转,所述至少两个轴线包括第一轴线和第二轴线;(b)控制所述载体以在所述UAV在空中悬停于所述预定位置附近的同时,(1)使所述图像捕捉装置围绕所述第一轴线旋转预定的旋转角度,以及(2)在所述图像捕捉装置的旋转期间,稳定所述图像捕捉装置以使得所述图像捕捉装置至少关于所述第二轴线基本上保持预定空间位置;(c)在所述图像捕捉装置围绕所述第一轴线的旋转期间,由所述图像捕捉装置以预定间隔捕捉多个连续图像;以及(d)由所述UAV机载的一个或多个处理器共同地或单个地基于所述多个图像而生成全景图像。
在一些实施方式中,所述图像捕捉装置的所述预定旋转角度为至少360度。或者,所述图像捕捉装置的所述预定旋转角度小于360度。
在一些实施方式中,所述UAV的悬停包括相对于地面保持实质上固定的空间位置。
在一些实施方式中,所述载体刚性耦合至所述UAV。
在一些实施方式中,所述载体经由一个或多个阻尼构件耦合至所述UAV,所述阻尼构件被配置成用于减小由所述UAV传递至所述载体的运动。所述阻尼构件可以实质上为球形。
在一些实施方式中,所述第一轴线是偏航轴线,并且所述第二轴线是俯仰轴线。
在一些实施方式中,所述载体被进一步配置成用于允许所述图像捕捉装置相对于所述UAV围绕第三轴线旋转。所述第三轴线可以是横滚轴线。
在一些实施方式中,稳定所述图像捕捉装置使所述图像捕捉装置关于所述第二轴线和所述第三轴线实质上保持预定的位置。
在一些实施方式中,所述载体包括被配置成用于支撑所述图像捕捉装置的机架组合件,所述机架组合件至少包括第一机架构件、第二机架构件、第三机架构件和第四机架构件,所述第一机架构件耦合至所述图像捕捉装置,所述第二机架构件围绕所述第二轴线可旋转地耦合至所述第一构件,并且所述第三机架构件围绕所述第三轴线可旋转地耦合至所述第二构件。
在一些实施方式中,所述载体还包括第一致动器构件、第二致动器构件和第三致动器构件,所述第一致动器构件被配置成用于直接驱动所述第一机架构件相对于所述第二机架构件围绕所述第二轴线旋转,所述第二致动器构件被配置成用于直接驱动所述第二机架构件相对于所述第三机架构件围绕所述第三轴线旋转,并且所述第三致动器构件被配置成用于直接驱动所述第三机架构件相对于所述第四机架构件围绕所述第一轴线旋转。
在一些实施方式中,稳定所述图像捕捉装置包括生成针对所述第一致动器构件和所述第二致动器构件的控制信号。
在一些实施方式中,所述载体包括一个或多个载体传感器,所述载体传感器被配置成用于检测所述载体或所述图像捕捉装置的位置、姿态、加速度和/或速度。
在一些实施方式中,来自所述一个或多个载体传感器的感测数据用于稳定所述图像捕捉装置。
在一些实施方式中,来自所述一个或多个载体传感器的感测数据用于所述全景图像的生成。
在一些实施方式中,所述一个或多个载体传感器耦合至所述载体或所述图像捕捉装置。
在一些实施方式中,所述载体传感器中的至少一个耦合至所述载体的致动器构件。
在一些实施方式中,所述一个或多个载体传感器包括一个或多个运动传感器或旋转传感器。所述运动传感器可以包括加速度计。所述旋转传感器可以包括陀螺仪或电位器。
在一些实施方式中,所述载体传感器中的至少一个具有至少100Hz的采样频率。
在一些实施方式中,所述UAV直接耦合至一个或多个UAV传感器,所述UAV传感器用于确定所述UAV的位置、定向和/或速度。所述一个或多个UAV传感器可以包括一个或多个运动传感器、旋转传感器或位置传感器。所述运动传感器可以包括加速度计。所述旋转传感器可以包括陀螺仪。所述位置传感器可以包括GPS传感器。
在一些实施方式中,所述载体包括一个或多个载体传感器,所述载体传感器被配置成用于检测所述载体或所述图像捕捉装置的位置、姿态、加速度和/或速度,并且所述一个或多个载体传感器中的至少一个以比所述一个或多个UAV传感器中的至少一个更高的频率进行采样。
在一些实施方式中,由所述UAV传感器获取的传感器数据用于修正由所述载体传感器获取的传感器数据。在一些实施方式中,来自所述一个或多个UAV传感器的传感器数据用于所述全景图像的生成。
在一些实施方式中,所述载体被配置成用于针对具有高达1000Hz的频率的扰动而稳定所述图像捕捉装置。
在一些实施方式中,所述载体被配置成用于针对具有至少1000Hz的频率的扰动而稳定所述图像捕捉装置。
在一些实施方式中,所述载体被配置成用于实质上减小由所述UAV的推进系统导致的震动。
在一些实施方式中,所述图像捕捉装置被配置成用于捕捉所述多个图像以使得在所述多个图像中的相邻图像之间存在至少50%的重叠。
在一些实施方式中,所述图像捕捉装置被配置成用于捕捉所述多个图像以使得在所述多个图像中的相邻图像之间存在50%-70%的重叠。
在一些实施方式中,所述图像捕捉装置被配置成用于捕捉所述多个图像以使得在所述多个图像中的相邻图像之间存在至少70%的重叠。
在一些实施方式中,所述图像捕捉装置被配置成用于捕捉所述多个图像以使得在所述多个图像中的相邻图像之间存在至多70%的重叠。
在一些实施方式中,所述图像捕捉装置被配置成用于捕捉所述多个图像以使得在所述多个图像中的相邻图像之间存在至多80%的重叠。
在一些实施方式中,生成所述全景图像包括根据一个或多个图像拼接步骤来处理所述多个图像。
在一些实施方式中,所述一个或多个图像拼接步骤涉及图像配准(imageregistration)、全局配准或混合(blending)。
在一些实施方式中,由于所述图像捕捉装置的增稳而降低了所述图像拼接步骤中的至少一个的复杂度。所述图像拼接步骤中的所述至少一个可以是图像配准步骤或全局配准步骤。
在一些实施方式中,降低所述图像拼接步骤中的至少一个的复杂度包括省略插值运算。
在一些实施方式中,降低所述图像拼接步骤中的至少一个的复杂度包括使用不包括旋转的针对所述多个图像的运动模型。
在一些实施方式中,降低所述图像拼接步骤中的至少一个的复杂度包括限制在所述图像拼接步骤中的所述至少一个下执行的搜索运算的范围。
在一些实施方式中,限制搜索运算的范围包括限制所要搜索的参数的数目。在一些实施方式中,所要搜索的参数的数目不超过两个。
在一些实施方式中,限制搜索运算的范围包括限制要沿着对应于参数的搜索矢量搜索的像素的范围。在一些实施方式中,要针对所述参数搜索的像素的范围不超过沿着所述搜索矢量的像素的总数的2%。在一些实施方式中,要针对所述参数搜索的像素的范围不超过沿着所述搜索矢量的像素的总数的1%。在一些实施方式中,所述搜索矢量沿着X轴线或Y轴线。在一些实施方式中,基于实验确定所述范围。
在一些实施方式中,所述全景图像的生成在时间上与所述图像捕捉装置的旋转重叠。在其他实施方式中,所述全景图像的生成在时间上与所述图像捕捉装置的旋转不重叠。
在一些实施方式中,所述一个或多个处理器中的至少一个位于所述图像捕捉装置之内。在一些实施方式中,所述一个或多个处理器中的至少一个位于所述图像捕捉装置之外。
在一些实施方式中,所述UAV在无用户介入的情况下到达所述预定位置附近。
在一些实施方式中,所述载体或所述图像捕捉装置被配置成用于响应由遥控终端提供的信号而进入全景模式。在其他实施方式中,所述载体和所述图像捕捉装置被配置成用于在无用户介入的情况下自动进入全景模式。
在一些实施方式中,本文所描述的方法还包括接收一个或多个用户提供的指令,所述用户提供的指令被配置成用于控制所述全景图像的生成的各个方面。
在一些实施方式中,所述一个或多个用户提供的指令被配置成用于控制所述UAV、所述载体或所述图像捕捉装置。在一些实施方式中,所述一个或多个用户提供的指令中的至少一个涉及对全景模式的选择。在一些实施方式中,所述一个或多个用户提供的指令中的至少一个涉及所述图像捕捉装置的预定旋转角度或者所述图像捕捉装置的视野(FOV)角度。在一些实施方式中,所述一个或多个用户提供的指令中的至少一个涉及相邻图像之间的重叠百分比。在一些实施方式中,至少部分地基于所述一个或多个用户提供的指令而自动计算所述预定间隔。
在一些实施方式中,本文所描述的方法还包括向远程终端传输所生成的全景图像。
在一些实施方式中,本文所描述的方法还包括在远程终端上显示所生成的全景图像。
根据本发明的另一方面,提供了一种用于生成全景航拍图像的方法。所述方法包括:(a)使承载图像捕捉装置的无人飞行器(UAV)在空中悬停于预定位置附近,所述图像捕捉装置经由载体耦合至所述UAV,所述载体被配置成用于允许所述图像捕捉装置相对于所述UAV围绕至少两个正交轴线旋转,所述至少两个轴线包括第一轴线和第二轴线;(b)控制所述载体以在所述UAV在空中悬停于所述预定位置附近的同时,(1)在所述图像捕捉装置以预定间隔捕捉多个连续图像的同时,使所述图像捕捉装置围绕所述第一轴线旋转至少360度;以及(2)稳定所述图像捕捉装置以使得所述图像捕捉装置相对于地面实质上保持水平位置;以及(c)由所述UAV机载的一个或多个处理器共同地或单个地生成。
根据本发明的另一方面,提供了一种用于生成全景航拍图像的系统。所述系统包括:载体,其被配置成与无人飞行器(UAV)和图像捕捉装置相耦合,所述载体被配置成用于允许所述图像捕捉装置相对于所述UAV围绕至少两个正交轴线旋转,所述至少两个轴线包括第一轴线和第二轴线;一个或多个控制器,其被共同地或单个地配置成用于使所述载体在所述UAV悬停于预定位置附近的同时,(1)在所述图像捕捉装置以预定间隔捕捉多个连续图像的同时,使所述图像捕捉装置围绕所述第一轴线旋转至少360度;以及(2)稳定所述图像捕捉装置以使得所述图像捕捉装置相对于地面实质上保持水平位置;以及所述UAV机载的一个或多个处理器,其被共同地或单个地配置成用于基于所述多个图像而生成全景图像。
在一些实施方式中,所述载体被配置成用于在所述图像捕捉装置的旋转期间,稳定所述图像捕捉装置以使得所述图像捕捉装置至少关于所述第二轴线实质上保持预定空间位置。
在一些实施方式中,所述载体被配置成用于在所述图像捕捉装置的旋转期间,稳定所述图像捕捉装置以使得所述图像捕捉装置至少关于所述第二轴线和第三轴线实质上保持预定空间位置。
在一些实施方式中,所述载体经由一个或多个阻尼构件耦合至所述UAV,所述阻尼构件被配置成用于减小由所述UAV传递至所述载体的运动。所述阻尼构件可以实质上为球形。
在一些实施方式中,所述第一轴线是偏航轴线,并且所述第二轴线是俯仰轴线。
在一些实施方式中,所述载体被进一步配置成用于允许所述图像捕捉装置相对于所述UAV围绕第三轴线旋转。所述第三轴线可以是横滚轴线。
在一些实施方式中,所述载体包括被配置成用于支撑所述图像捕捉装置的机架组合件,所述机架组合件至少包括第一机架构件、第二机架构件、第三机架构件和第四机架构件,所述第一机架构件耦合至所述图像捕捉装置,所述第二机架构件围绕所述第二轴线可旋转地耦合至所述第一构件,并且所述第三机架构件围绕所述第三轴线可旋转地耦合至所述第二构件。
在一些实施方式中,所述载体还包括第一致动器构件、第二致动器构件和第三致动器构件,所述第一致动器构件被配置成用于直接驱动所述第一机架构件相对于所述第二机架构件围绕所述第二轴线旋转,所述第二致动器构件被配置成用于直接驱动所述第二机架构件相对于所述第三机架构件围绕所述第三轴线旋转,并且所述第三致动器构件被配置成用于直接驱动所述第三机架构件相对于所述第四机架构件围绕所述第一轴线旋转。
在一些实施方式中,稳定所述图像捕捉装置包括生成针对所述第一致动器构件和所述第二致动器构件的控制信号。
在一些实施方式中,所述载体包括一个或多个载体传感器,所述载体传感器被配置成用于检测所述载体或所述图像捕捉装置的位置、姿态、加速度和/或速度。
在一些实施方式中,来自所述一个或多个载体传感器的感测数据用于稳定所述图像捕捉装置。
在一些实施方式中,来自所述一个或多个载体传感器的感测数据用于所述全景图像的生成。
在一些实施方式中,所述一个或多个载体传感器耦合至所述载体或所述图像捕捉装置。
在一些实施方式中,所述载体传感器中的至少一个耦合至所述载体的致动器构件。
在一些实施方式中,所述一个或多个载体传感器包括一个或多个运动传感器或旋转传感器。所述运动传感器可以包括加速度计。所述旋转传感器可以包括陀螺仪或电位器。
在一些实施方式中,所述载体传感器中的至少一个具有至少100Hz的采样频率。
在一些实施方式中,所述UAV直接耦合至一个或多个UAV传感器,所述UAV传感器用于确定所述UAV的位置、定向和/或速度。所述一个或多个UAV传感器可以包括一个或多个运动传感器、旋转传感器或位置传感器。所述运动传感器可以包括加速度计。所述旋转传感器可以包括陀螺仪。所述位置传感器可以包括GPS传感器。
在一些实施方式中,所述载体包括一个或多个载体传感器,所述载体传感器被配置成用于检测所述载体或所述图像捕捉装置的位置、姿态、加速度和/或速度,并且所述一个或多个载体传感器中的至少一个以比所述一个或多个UAV传感器中的至少一个更高的频率进行采样。
在一些实施方式中,由所述UAV传感器获取的传感器数据用于修正由所述载体传感器获取的传感器数据。在一些实施方式中,来自所述一个或多个UAV传感器的传感器数据用于所述全景图像的生成。
在一些实施方式中,所述载体被配置成用于针对具有高达1000Hz的频率的扰动而稳定所述图像捕捉装置。
在一些实施方式中,所述载体被配置成用于针对具有至少1000Hz的频率的扰动而稳定所述图像捕捉装置。
在一些实施方式中,所述载体被配置成用于实质上减小由所述UAV的推进系统导致的震动。
在一些实施方式中,所述图像捕捉装置被配置成用于捕捉所述多个图像以使得在所述多个图像中的相邻图像之间存在至少50%的重叠。
在一些实施方式中,所述图像捕捉装置被配置成用于捕捉所述多个图像以使得在所述多个图像中的相邻图像之间存在50%-70%的重叠。
在一些实施方式中,所述图像捕捉装置被配置成用于捕捉所述多个图像以使得在所述多个图像中的相邻图像之间存在至少70%的重叠。
在一些实施方式中,所述图像捕捉装置被配置成用于捕捉所述多个图像以使得在所述多个图像中的相邻图像之间存在至多70%的重叠。
在一些实施方式中,所述图像捕捉装置被配置成用于捕捉所述多个图像以使得在所述多个图像中的相邻图像之间存在至多80%的重叠。
在一些实施方式中,生成所述全景图像包括根据一个或多个图像拼接步骤来处理所述多个图像。
在一些实施方式中,所述一个或多个图像拼接步骤涉及图像配准、全局配准或混合。
在一些实施方式中,由于所述图像捕捉装置的增稳而降低了所述图像拼接步骤中的至少一个的复杂度。所述图像拼接步骤中的所述至少一个可以是图像配准步骤或全局配准步骤。
在一些实施方式中,降低所述图像拼接步骤中的至少一个的复杂度包括省略插值运算。
在一些实施方式中,降低所述图像拼接步骤中的至少一个的复杂度包括使用不包括旋转的针对所述多个图像的运动模型。
在一些实施方式中,降低所述图像拼接步骤中的至少一个的复杂度包括限制在所述图像拼接步骤中的所述至少一个下执行的搜索运算的范围。
在一些实施方式中,限制搜索运算的范围包括限制所要搜索的参数的数目。在一些实施方式中,所要搜索的参数的数目不超过两个。
在一些实施方式中,限制搜索运算的范围包括限制要沿着对应于参数的搜索矢量搜索的像素的范围。在一些实施方式中,要针对所述参数搜索的像素的范围不超过沿着所述搜索矢量的像素的总数的2%。在一些实施方式中,要针对所述参数搜索的像素的范围不超过沿着所述搜索矢量的像素的总数的1%。在一些实施方式中,所述搜索矢量沿着X轴线或Y轴线。在一些实施方式中,基于实验确定所述范围。
在一些实施方式中,所述全景图像的生成在时间上与所述图像捕捉装置的旋转重叠。在其他实施方式中,所述全景图像的生成在时间上与所述图像捕捉装置的旋转不重叠。
在一些实施方式中,所述一个或多个处理器中的至少一个位于所述图像捕捉装置之内。在一些实施方式中,所述一个或多个处理器中的至少一个位于所述图像捕捉装置之外。
在一些实施方式中,所述UAV在无用户介入的情况下到达所述预定位置附近。
在一些实施方式中,所述载体或所述图像捕捉装置被配置成用于响应由遥控终端提供的信号而进入全景模式。在其他实施方式中,所述载体和所述图像捕捉装置被配置成用于在无用户介入的情况下自动进入全景模式。
在一些实施方式中,本文所描述的系统还包括一个或多个接收器,所述接收器被配置成用于接收用户提供的指令,所述用户提供的指令被配置成用于控制所述全景图像的生成的各个方面。
在一些实施方式中,所述一个或多个用户提供的指令被配置成用于控制所述UAV、所述载体或所述图像捕捉装置。在一些实施方式中,所述一个或多个用户提供的指令中的至少一个涉及对全景模式的选择。在一些实施方式中,所述一个或多个用户提供的指令中的至少一个涉及所述图像捕捉装置的所述预定旋转角度或者所述图像捕捉装置的视野(FOV)角度。在一些实施方式中,所述一个或多个用户提供的指令中的至少一个涉及相邻图像之间的重叠百分比。在一些实施方式中,至少部分地基于所述一个或多个用户提供的指令而自动计算所述预定间隔。
在一些实施方式中,本文所描述的系统还包括一个或多个发射器,所述发射器被配置成用于向远程终端传输所生成的全景图像。
在一些实施方式中,本文所描述的系统还包括显示器,所述显示器用于在远程终端上显示所生成的全景图像。
根据本发明的另一方面,提供了一种用于生成全景航拍图像的方法。所述方法包括:(a)使承载图像捕捉装置的无人飞行器(UAV)在空中悬停于预定位置附近,所述图像捕捉装置经由载体耦合至所述UAV,所述载体被配置成用于允许所述图像捕捉装置相对于所述UAV围绕至少两个正交轴线旋转,所述至少两个轴线包括第一轴线和第二轴线;(b)控制所述载体以在所述UAV在空中悬停于所述预定位置附近的同时,(1)在所述图像捕捉装置以预定间隔捕捉多个连续图像的同时,使所述图像捕捉装置围绕所述第一轴线旋转预定的旋转角度,其中在相邻图像之间存在至少50%的重叠;以及(2)稳定所述图像捕捉装置以便实质上移除由所述UAV导致的所有震动;以及(c)由所述UAV机载的一个或多个处理器共同地或单个地生成。
根据本发明的另一方面,提供了一种用于生成全景航拍图像的系统。所述系统包括:载体,其被配置成与无人飞行器(UAV)和图像捕捉装置相耦合,所述载体被配置成用于允许所述图像捕捉装置相对于所述UAV围绕至少两个正交轴线旋转,所述至少两个轴线包括第一轴线和第二轴线;一个或多个控制器,其被共同地或单个地配置成用于使所述载体在所述UAV悬停于预定位置附近的同时,(1)在所述图像捕捉装置以预定间隔捕捉多个连续图像的同时,使所述图像捕捉装置围绕所述第一轴线旋转预定的旋转角度,其中在相邻图像之间存在至少50%的重叠;以及(2)稳定所述图像捕捉装置以便实质上移除由所述UAV导致的所有震动;以及所述UAV机载的一个或多个处理器,其被共同地或单个地配置成用于基于所述多个图像而生成全景图像。
在一些实施方式中,所述载体被配置成用于在所述图像捕捉装置的旋转期间,稳定所述图像捕捉装置以使得所述图像捕捉装置至少关于所述第二轴线实质上保持预定空间位置。
在一些实施方式中,所述载体被配置成用于在所述图像捕捉装置的旋转期间,稳定所述图像捕捉装置以使得所述图像捕捉装置至少关于所述第二轴线和第三轴线实质上保持预定空间位置。
在一些实施方式中,所述载体被配置成用于稳定所述图像捕捉装置,以使得所述图像捕捉装置相对于地面实质上保持水平位置。
在一些实施方式中,所述载体经由一个或多个阻尼构件耦合至所述UAV,所述阻尼构件被配置成用于减小由所述UAV传递至所述载体的运动。所述阻尼构件可以实质上为球形。
在一些实施方式中,所述第一轴线是偏航轴线,并且所述第二轴线是俯仰轴线。
在一些实施方式中,所述载体被进一步配置成用于允许所述图像捕捉装置相对于所述UAV围绕第三轴线旋转。所述第三轴线可以是横滚轴线。
在一些实施方式中,所述载体包括被配置成用于支撑所述图像捕捉装置的机架组合件,所述机架组合件至少包括第一机架构件、第二机架构件、第三机架构件和第四机架构件,所述第一机架构件耦合至所述图像捕捉装置,所述第二机架构件围绕所述第二轴线可旋转地耦合至所述第一构件,并且所述第三机架构件围绕所述第三轴线可旋转地耦合至所述第二构件。
在一些实施方式中,所述载体还包括第一致动器构件、第二致动器构件和第三致动器构件,所述第一致动器构件被配置成用于直接驱动所述第一机架构件相对于所述第二机架构件围绕所述第二轴线旋转,所述第二致动器构件被配置成用于直接驱动所述第二机架构件相对于所述第三机架构件围绕所述第三轴线旋转,并且所述第三致动器构件被配置成用于直接驱动所述第三机架构件相对于所述第四机架构件围绕所述第一轴线旋转。
在一些实施方式中,稳定所述图像捕捉装置包括生成针对所述第一致动器构件和所述第二致动器构件的控制信号。
在一些实施方式中,所述载体包括一个或多个载体传感器,所述载体传感器被配置成用于检测所述载体或所述图像捕捉装置的位置、姿态、加速度和/或速度。
在一些实施方式中,来自所述一个或多个载体传感器的感测数据用于稳定所述图像捕捉装置。
在一些实施方式中,来自所述一个或多个载体传感器的感测数据用于所述全景图像的生成。
在一些实施方式中,所述一个或多个载体传感器耦合至所述载体或所述图像捕捉装置。
在一些实施方式中,所述载体传感器中的至少一个耦合至所述载体的致动器构件。
在一些实施方式中,所述一个或多个载体传感器包括一个或多个运动传感器或旋转传感器。所述运动传感器可以包括加速度计。所述旋转传感器可以包括陀螺仪或电位器。
在一些实施方式中,所述载体传感器中的至少一个具有至少100Hz的采样频率。
在一些实施方式中,所述UAV直接耦合至一个或多个UAV传感器,所述UAV传感器用于确定所述UAV的位置、定向和/或速度。所述一个或多个UAV传感器可以包括一个或多个运动传感器、旋转传感器或位置传感器。所述运动传感器可以包括加速度计。所述旋转传感器可以包括陀螺仪。所述位置传感器可以包括GPS传感器。
在一些实施方式中,所述载体包括一个或多个载体传感器,所述载体传感器被配置成用于检测所述载体或所述图像捕捉装置的位置、姿态、加速度和/或速度,并且所述一个或多个载体传感器中的至少一个以比所述一个或多个UAV传感器中的至少一个更高的频率进行采样。
在一些实施方式中,由所述UAV传感器获取的传感器数据用于修正由所述载体传感器获取的传感器数据。在一些实施方式中,来自所述一个或多个UAV传感器的传感器数据用于所述全景图像的生成。
在一些实施方式中,所述载体被配置成用于针对具有高达1000Hz的频率的扰动而稳定所述图像捕捉装置。
在一些实施方式中,所述载体被配置成用于针对具有至少1000Hz的频率的扰动而稳定所述图像捕捉装置。
在一些实施方式中,所述载体被配置成用于实质上减小由所述UAV的推进系统导致的震动。
在一些实施方式中,所述图像捕捉装置被配置成用于捕捉所述多个图像以使得在所述多个图像中的相邻图像之间存在50%-70%的重叠。
在一些实施方式中,所述图像捕捉装置被配置成用于捕捉所述多个图像以使得在所述多个图像中的相邻图像之间存在至少70%的重叠。
在一些实施方式中,所述图像捕捉装置被配置成用于捕捉所述多个图像以使得在所述多个图像中的相邻图像之间存在至多70%的重叠。
在一些实施方式中,所述图像捕捉装置被配置成用于捕捉所述多个图像以使得在所述多个图像中的相邻图像之间存在至多80%的重叠。
在一些实施方式中,生成所述全景图像包括根据一个或多个图像拼接步骤来处理所述多个图像。
在一些实施方式中,所述一个或多个图像拼接步骤涉及图像配准、全局配准或混合。
在一些实施方式中,由于所述图像捕捉装置的增稳而降低了所述图像拼接步骤中的至少一个的复杂度。所述图像拼接步骤中的所述至少一个可以是图像配准步骤或全局配准步骤。
在一些实施方式中,降低所述图像拼接步骤中的至少一个的复杂度包括省略插值运算。
在一些实施方式中,降低所述图像拼接步骤中的至少一个的复杂度包括使用不包括旋转的针对所述多个图像的运动模型。
在一些实施方式中,降低所述图像拼接步骤中的至少一个的复杂度包括限制在所述图像拼接步骤中的所述至少一个下执行的搜索运算的范围。
在一些实施方式中,限制搜索运算的范围包括限制所要搜索的参数的数目。在一些实施方式中,所要搜索的参数的数目不超过两个。
在一些实施方式中,限制搜索运算的范围包括限制要沿着对应于参数的搜索矢量搜索的像素的范围。在一些实施方式中,要针对所述参数搜索的像素的范围不超过沿着所述搜索矢量的像素的总数的2%。在一些实施方式中,要针对所述参数搜索的像素的范围不超过沿着所述搜索矢量的像素的总数的1%。在一些实施方式中,所述搜索矢量沿着X轴线或Y轴线。在一些实施方式中,基于实验确定所述范围。
在一些实施方式中,所述全景图像的生成在时间上与所述图像捕捉装置的旋转重叠。在其他实施方式中,所述全景图像的生成在时间上与所述图像捕捉装置的旋转不重叠。
在一些实施方式中,所述一个或多个处理器中的至少一个位于所述图像捕捉装置之内。在一些实施方式中,所述一个或多个处理器中的至少一个位于所述图像捕捉装置之外。
在一些实施方式中,所述UAV在无用户介入的情况下到达所述预定位置附近。
在一些实施方式中,所述载体或所述图像捕捉装置被配置成用于响应由遥控终端提供的信号而进入全景模式。在其他实施方式中,所述载体和所述图像捕捉装置被配置成用于在无用户介入的情况下自动进入全景模式。
在一些实施方式中,本文所描述的系统还包括一个或多个接收器,所述接收器被配置成用于接收用户提供的指令,所述用户提供的指令被配置成用于控制所述全景图像的生成的各个方面。
在一些实施方式中,所述一个或多个用户提供的指令被配置成用于控制所述UAV、所述载体或所述图像捕捉装置。在一些实施方式中,所述一个或多个用户提供的指令中的至少一个涉及对全景模式的选择。在一些实施方式中,所述一个或多个用户提供的指令中的至少一个涉及所述图像捕捉装置的所述预定旋转角度或者所述图像捕捉装置的视野(FOV)角度。在一些实施方式中,所述一个或多个用户提供的指令中的至少一个涉及相邻图像之间的重叠百分比。在一些实施方式中,至少部分地基于所述一个或多个用户提供的指令而自动计算所述预定间隔。
在一些实施方式中,本文所描述的系统还包括一个或多个发射器,所述发射器被配置成用于向远程终端传输所生成的全景图像。
在一些实施方式中,本文所描述的系统还包括还包括显示器,所述显示器用于在远程终端上显示所生成的全景图像。
根据本发明的另一方面,提供了一种用于生成全景航拍图像的方法。所述方法包括:(a)控制承载图像捕捉装置的无人飞行器(UAV)在空中悬停于预定位置附近,所述图像捕捉装置经由载体耦合至所述UAV,所述载体被配置成用于允许所述图像捕捉装置围绕至少两个正交轴线旋转,所述至少两个轴线包括第一轴线和第二轴线;(b)控制所述载体以在所述UAV在空中悬停于所述预定位置附近的同时,使所述图像捕捉装置围绕所述第一轴线旋转至少360度并与此同时减小关于所述第二轴线的扰动;(c)控制所述图像捕捉装置以在所述图像捕捉装置围绕所述第一轴线旋转的同时,捕捉具有重叠区域的多个连续图像;以及(d)由所述UAV机载的一个或多个处理器共同地或单个地基于捕捉到的多个图像而生成全景图像,其中步骤(d)在时间上与步骤(b)实质上重叠。
根据本发明的另一方面,提供了一种用于生成全景航拍图像的系统。所述系统包括:载体,其被配置成与无人飞行器(UAV)和图像捕捉装置相耦合,所述载体被配置成用于允许所述图像捕捉装置相对于所述UAV围绕至少两个正交轴线旋转,所述至少两个轴线包括第一轴线和第二轴线;第一控制器,其用于控制所述载体以在所述UAV悬停于预定位置附近的同时,使所述图像捕捉装置围绕所述第一轴线旋转至少360度并与此同时减小关于所述第二轴线的扰动;第二控制器,其用于控制所述图像捕捉装置以在所述图像捕捉装置围绕所述第一轴线旋转的同时,捕捉具有重叠区域的多个连续图像;以及所述UAV机载的一个或多个处理器,其被共同地或单个地配置成用于基于所述多个图像而生成全景图像,其中所述全景图像的生成在时间上与所述图像捕捉装置的旋转实质上重叠。
在一些实施方式中,所述载体被配置成用于在所述图像捕捉装置的旋转期间,稳定所述图像捕捉装置以使得所述图像捕捉装置至少关于所述第二轴线实质上保持预定空间位置。
在一些实施方式中,所述载体被配置成用于在所述图像捕捉装置的旋转期间,稳定所述图像捕捉装置以使得所述图像捕捉装置至少关于所述第二轴线和第三轴线实质上保持预定空间位置。
在一些实施方式中,所述载体被配置成用于稳定所述图像捕捉装置,以使得所述图像捕捉装置相对于地面实质上保持水平位置。
在一些实施方式中,所述载体经由一个或多个阻尼构件耦合至所述UAV,所述阻尼构件被配置成用于减小由所述UAV传递至所述载体的运动。所述阻尼构件可以实质上为球形。
在一些实施方式中,所述第一轴线是偏航轴线,并且所述第二轴线是俯仰轴线。
在一些实施方式中,所述载体被进一步配置成用于允许所述图像捕捉装置相对于所述UAV围绕第三轴线旋转。所述第三轴线可以是横滚轴线。
在一些实施方式中,所述载体包括被配置成用于支撑所述图像捕捉装置的机架组合件,所述机架组合件至少包括第一机架构件、第二机架构件、第三机架构件和第四机架构件,所述第一机架构件耦合至所述图像捕捉装置,所述第二机架构件围绕所述第二轴线可旋转地耦合至所述第一构件,并且所述第三机架构件围绕所述第三轴线可旋转地耦合至所述第二构件。
在一些实施方式中,所述载体还包括第一致动器构件、第二致动器构件和第三致动器构件,所述第一致动器构件被配置成用于直接驱动所述第一机架构件相对于所述第二机架构件围绕所述第二轴线旋转,所述第二致动器构件被配置成用于直接驱动所述第二机架构件相对于所述第三机架构件围绕所述第三轴线旋转,并且所述第三致动器构件被配置成用于直接驱动所述第三机架构件相对于所述第四机架构件围绕所述第一轴线旋转。
在一些实施方式中,稳定所述图像捕捉装置包括生成针对所述第一致动器构件和所述第二致动器构件的控制信号。
在一些实施方式中,所述载体包括一个或多个载体传感器,所述载体传感器被配置成用于检测所述载体或所述图像捕捉装置的位置、姿态、加速度和/或速度。
在一些实施方式中,来自所述一个或多个载体传感器的感测数据用于稳定所述图像捕捉装置。
在一些实施方式中,来自所述一个或多个载体传感器的感测数据用于所述全景图像的生成。
在一些实施方式中,所述一个或多个载体传感器耦合至所述载体或所述图像捕捉装置。
在一些实施方式中,所述载体传感器中的至少一个耦合至所述载体的致动器构件。
在一些实施方式中,所述一个或多个载体传感器包括一个或多个运动传感器或旋转传感器。所述运动传感器可以包括加速度计。所述旋转传感器可以包括陀螺仪或电位器。
在一些实施方式中,所述载体传感器中的至少一个具有至少100Hz的采样频率。
在一些实施方式中,所述UAV直接耦合至一个或多个UAV传感器,所述UAV传感器用于确定所述UAV的位置、定向和/或速度。所述一个或多个UAV传感器可以包括一个或多个运动传感器、旋转传感器或位置传感器。所述运动传感器可以包括加速度计。所述旋转传感器可以包括陀螺仪。所述位置传感器可以包括GPS传感器。
在一些实施方式中,所述载体包括一个或多个载体传感器,所述载体传感器被配置成用于检测所述载体或所述图像捕捉装置的位置、姿态、加速度和/或速度,并且所述一个或多个载体传感器中的至少一个以比所述一个或多个UAV传感器中的至少一个更高的频率进行采样。
在一些实施方式中,由所述UAV传感器获取的传感器数据用于修正由所述载体传感器获取的传感器数据。在一些实施方式中,来自所述一个或多个UAV传感器的传感器数据用于所述全景图像的生成。
在一些实施方式中,所述载体被配置成用于针对具有高达1000Hz的频率的扰动而稳定所述图像捕捉装置。
在一些实施方式中,所述载体被配置成用于针对具有至少1000Hz的频率的扰动而稳定所述图像捕捉装置。
在一些实施方式中,所述载体被配置成用于实质上减小由所述UAV的推进系统导致的震动。
在一些实施方式中,所述图像捕捉装置被配置成用于捕捉所述多个图像以使得在所述多个图像中的相邻图像之间存在至少50%的重叠。
在一些实施方式中,所述图像捕捉装置被配置成用于捕捉所述多个图像以使得在所述多个图像中的相邻图像之间存在50%-70%的重叠。
在一些实施方式中,所述图像捕捉装置被配置成用于捕捉所述多个图像以使得在所述多个图像中的相邻图像之间存在至少70%的重叠。
在一些实施方式中,所述图像捕捉装置被配置成用于捕捉所述多个图像以使得在所述多个图像中的相邻图像之间存在至多70%的重叠。
在一些实施方式中,所述图像捕捉装置被配置成用于捕捉所述多个图像以使得在所述多个图像中的相邻图像之间存在至多80%的重叠。
在一些实施方式中,生成所述全景图像包括根据一个或多个图像拼接步骤来处理所述多个图像。
在一些实施方式中,所述一个或多个图像拼接步骤涉及图像配准、全局配准或混合。
在一些实施方式中,由于所述图像捕捉装置的增稳而降低了所述图像拼接步骤中的至少一个的复杂度。所述图像拼接步骤中的所述至少一个可以是图像配准步骤或全局配准步骤。
在一些实施方式中,降低所述图像拼接步骤中的至少一个的复杂度包括省略插值运算。
在一些实施方式中,降低所述图像拼接步骤中的至少一个的复杂度包括使用不包括旋转的针对所述多个图像的运动模型。
在一些实施方式中,降低所述图像拼接步骤中的至少一个的复杂度包括限制在所述图像拼接步骤中的所述至少一个下执行的搜索运算的范围。
在一些实施方式中,限制搜索运算的范围包括限制所要搜索的参数的数目。在一些实施方式中,所要搜索的参数的数目不超过两个。
在一些实施方式中,限制搜索运算的范围包括限制要沿着对应于参数的搜索矢量搜索的像素的范围。在一些实施方式中,要针对所述参数搜索的像素的范围不超过沿着所述搜索矢量的像素的总数的2%。在一些实施方式中,要针对所述参数搜索的像素的范围不超过沿着所述搜索矢量的像素的总数的1%。在一些实施方式中,所述搜索矢量沿着X轴线或Y轴线。在一些实施方式中,基于实验确定所述范围。
在一些实施方式中,所述一个或多个处理器中的至少一个位于所述图像捕捉装置之内。在一些实施方式中,所述一个或多个处理器中的至少一个位于所述图像捕捉装置之外。
在一些实施方式中,所述UAV在无用户介入的情况下到达所述预定位置附近。
在一些实施方式中,所述载体或所述图像捕捉装置被配置成用于响应由遥控终端提供的信号而进入全景模式。在其他实施方式中,所述载体和所述图像捕捉装置被配置成用于在无用户介入的情况下自动进入全景模式。
在一些实施方式中,本文所描述的系统还包括一个或多个接收器,所述接收器被配置成用于接收用户提供的指令,所述用户提供的指令被配置成用于控制所述全景图像的生成的各个方面。
在一些实施方式中,所述一个或多个用户提供的指令被配置成用于控制所述UAV、所述载体或所述图像捕捉装置。在一些实施方式中,所述一个或多个用户提供的指令中的至少一个涉及对全景模式的选择。在一些实施方式中,所述一个或多个用户提供的指令中的至少一个涉及所述图像捕捉装置的所述预定旋转角度或者所述图像捕捉装置的视野(FOV)角度。在一些实施方式中,所述一个或多个用户提供的指令中的至少一个涉及相邻图像之间的重叠百分比。在一些实施方式中,至少部分地基于所述一个或多个用户提供的指令而自动计算所述预定间隔。
在一些实施方式中,本文所描述的系统还包括一个或多个发射器,所述发射器被配置成用于向远程终端传输所生成的全景图像。
在一些实施方式中,本文所描述的系统还包括显示器,所述显示器用于在远程终端上显示所生成的全景图像。
根据本发明的另一方面,提供了一种用于生成全景航拍图像的系统。所述系统包括:无人飞行器(UAV),其被配置成用于悬停于预定位置附近并且围绕预定轴线旋转预定角度;以及图像捕捉装置,其耦合至所述UAV并且被配置成用于(1)在所述UAV围绕所述预定轴线旋转的同时,捕捉用于生成全景图像的多个连续图像;以及(2)在所述图像捕捉装置捕捉所述多个连续图像的同时,提供针对所述图像捕捉装置的非预定移动的图像增稳。
在一些实施方式中,所述预定轴线实质上垂直于地平面。
在一些实施方式中,所述图像捕捉装置被配置成用于提供3轴图像增稳、4轴图像增稳或5轴图像增稳。
在一些实施方式中,所述图像捕捉装置经由载体耦合至所述UAV。所述载体可以被配置成用于在所述图像捕捉装置捕捉所述多个连续图像的同时,稳定所述图像捕捉装置以使得所述图像捕捉装置相对于地平面保持实质上水平的位置。或者,所述载体可以不被配置成用于在所述图像捕捉装置捕捉所述多个连续图像的同时稳定所述图像捕捉装置。
在一些实施方式中,所述系统还包括所述UAV机载的一个或多个处理器,所述处理器被共同地或单个地配置成用于基于所述多个图像而生成全景图像。
根据本发明的另一方面,提供了一种用于生成全景航拍图像的系统。所述系统包括:无人飞行器(UAV),其被配置成用于悬停于预定位置附近并且围绕预定轴线旋转预定角度;以及图像捕捉装置,其经由载体耦合至所述UAV,其中所述图像捕捉装置被配置成用于在所述UAV围绕所述预定轴线旋转的同时捕捉用于生成全景图像的多个连续图像,并且载体被配置成用于在所述图像捕捉装置捕捉所述多个连续图像的同时稳定所述图像捕捉装置以使得所述图像捕捉装置相对于地平面保持实质上水平的位置。
应当明白,本发明的不同方面可以被单独地、共同地或彼此结合地理解。本文所描述的本发明的各个方面可以适用于下文阐述的任何特定应用或者适用于任何其他类型的可移动物体。本文对飞行器(诸如无人飞行器)的任何描述均可适用于和用于任何可移动物体,诸如任何载运工具。另外,本文在空中运动(例如,飞行)的情景下公开的系统、装置和方法还可以适用于其他类型运动的情景下,诸如在地面上或在水上的移动、水下运动或者在太空中的运动。
从在其中简单地通过示例说明为了实施本公开内容而设想到的最佳模式而仅示出和描述了本公开内容的示例性实施方式的以下详细描述中,本公开内容的附加方面和优点将会对于本领域技术人员变得显而易见。应当意识到,本公开内容能够实现其他的和不同的实施方式,并且其若干细节均能够在不偏离本公开内容的情况下在各个明显方面中进行修改。因此,应当将附图和描述视为在本质上是说明性的而非限制性的。
援引并入
本说明书中所提及的所有出版物、专利和专利申请均通过引用而并入于此,程度犹如具体地和个别地指出要通过引用而并入每一个别出版物、专利或专利申请。
附图说明
在所附权利要求书中具体阐述了本发明的新颖特征。通过参考对在其中利用到本发明原理的说明性实施方式加以阐述的以下详细描述和附图,将会对本发明的特征和优点获得更好的理解;在附图中:
图1图示了根据实施方式的用于生成全景图像的示例性系统。
图2图示了根据实施方式的用于生成全景航拍图像的示例性系统。
图3图示了根据实施方式的示例性载体的等距视图。
图4图示了根据实施方式的示例性载体的侧视图。
图5图示了根据实施方式的为了保持有效载荷的预定位置而沿着Z(横滚)轴线进行的对有效载荷的增稳的示例性类型。
图6图示了根据实施方式的为了保持有效载荷的预定位置而沿着Z(横滚)轴线进行的对有效载荷的增稳的另一示例性类型。
图7图示了根据实施方式的为了保持有效载荷的预定位置而沿着X(俯仰)轴线进行的对有效载荷的增稳的示例性类型。
图8图示了根据实施方式的为了保持有效载荷的预定位置而沿着X(俯仰)轴线进行的对有效载荷的增稳的另一示例性类型。
图9图示了根据实施方式的用于实现全景图像生成的示例性过程。
图10图示了根据实施方式的用于由图像捕捉装置来拍摄全景图像的示例性过程。
图11图示了根据实施方式的示例性时间轴,其示出了图像拼接过程相对于图像捕捉过程的时序。
图12图示了根据实施方式的另一示例性时间轴,其示出了图像拼接过程相对于图像捕捉过程的时序。
图13图示了根据实施方式的另一示例性时间轴,其示出了图像拼接过程相对于图像捕捉过程的时序。
图14图示了根据本发明的实施方式的UAV。
图15图示了根据实施方式的包括载体和有效载荷的可移动物体。
图16图示了根据实施方式的用于全景成像的示例性系统。
图17图示了根据实施方式的用于控制可移动物体的示例性系统。
图18图示了根据一些实施方式的具有图像稳定能力的示例性图像捕捉装置。
图19图示了根据一些实施方式的被配置成用于提供图像增稳的图像捕捉装置的示例性部件。
图20图示了根据实施方式的用于生成全景图像的示例性系统。
具体实施方式
本发明提供了克服了现有方法的缺点的、用于生成全景航拍图像的方法、系统和设备。具体而言,无人飞行器(UAV)可以在进行全景成像时在期望位置处保持悬停位置,而不是执行预定飞行路径。保持悬停位置与控制UAV执行预定飞行路径相比,一般更易于由UAV实现。成像装置可借助于载体而被支撑在UAV上。此外,载体可以用于在UAV悬停于预定位置时,随着图像捕捉装置围绕旋转轴线旋转以捕捉多个图像而稳定图像捕捉装置,并从而稳定其光轴。例如,载体可被配置成用于使图像捕捉装置相对于地面保持水平,以使得图像捕捉装置的旋转轴线实质上垂直于地面。图像捕捉装置可以由载体驱动,以围绕旋转角度旋转一定角度(例如,360度)。本文所述的载体可被配置成用于减小和/或消除来自UAV的大量运动。在一些情况下,载体可被配置成用于实质上移除从UAV传递到载体的并且本来会由有效载荷经受的所有震动。例如,载体可被配置成用于移除从UAV传递到载体的震动总量的至少40%、50%、60%、70%、80%、85%、90%、92%、94%、96%、98%或100%。在一些实施方式中,可以在载体与UAV之间安置阻尼元件,以便减小传递到稳定平台的运动。在这样的情况下,可以通过由载体提供的主动补偿而进一步减小载体所经受的任何残余运动或震动,以使得图像捕捉装置可被保持于基本上稳定的预定空间位置(除了图像捕捉装置围绕给定轴线旋转以捕捉图像之外)。当图像捕捉装置旋转时,其可被配置成用于以预定间隔捕捉连续图像。可以计算所述间隔,以使得在给定图像捕捉装置的视野(FOV)的情况下,相邻图像具有期望百分比的重叠区域。
相比于传统的全景航空成像技术,本发明试图确保在接近理想的环境中捕捉图像,这包括将UAV的飞行路径简化为悬停位置,以及稳定图像捕捉平台。由于前期在图像捕捉阶段完成了更多的工作,因此较不复杂的或简化的图像拼接过程可能就足以生成最终的全景图像,这是因为捕捉到的图像很可能被良好地对准并具有高质量。这样的简化的图像拼接过程转而降低了对于计算资源的需求,使得在具有有限资源的UAV机上执行整个图像拼接过程成为可能,而无需将捕捉到的图像传输至地面站以供处理。
图1图示了根据实施方式的用于生成全景图像的示例性系统100。系统100包括被配置成彼此相通信的可移动物体102和远程终端108。尽管可移动物体102被描述为无人飞行器(UAV),但这样的描述并不旨在成为限制性的,并且如本文所描述,可以使用任何合适类型的可移动物体。本领域技术人员将会理解,本文在飞行器系统的背景下描述的任何实施方式均可适用于任何合适的可移动物体。
在一些实施方式中,可移动物体102可以包括载体106和有效载荷104。载体106可以允许有效载荷104相对于可移动物体102移动。例如,载体106可以允许有效载荷104围绕一个、两个、三个或更多个轴线旋转。例如,有效载荷可以围绕横滚、偏航和/或俯仰轴线移动。备选地或附加地,载体106可以允许有效载荷104沿着一个、两个、三个或更多个轴线线性移动。针对旋转或平移移动的轴线可以彼此正交或者可以彼此不正交。
在备选实施方式中,有效载荷104可以刚性耦合至可移动物体102或者与之相连,以使得有效载荷104相对于可移动物体102保持实质上静止。例如,连接可移动物体102和有效载荷104的载体106可以不允许有效载荷104相对于可移动物体102移动。或者,有效载荷104可以直接耦合至可移动物体102而无需载体。
在一些实施方式中,有效载荷104可以包括一个或多个传感器,用于勘测或跟踪周围环境中的物体。这样的有效载荷的示例可以包括图像捕捉装置或成像装置(例如,相机或摄像机、红外成像装置、紫外成像装置等)、音频捕捉装置(例如,抛物面麦克风)、红外成像装置等。可以向有效载荷104中合并任何合适的一个或多个传感器,以捕捉任何视觉信号、音频信号、电磁信号或任何其他期望的信号。传感器可以提供静态感测数据(例如,照片)或动态感测数据(例如,视频)。传感器可以实时地或者以高频率连续捕捉感测数据。在一些情况下,有效载荷可以是相机,其能够以10Hz、20Hz、30Hz、40Hz、50Hz、60Hz、70Hz、80Hz、90Hz、100Hz或更高的频率捕捉图像。
可移动物体102可被配置成用于接收控制数据112。远程终端108可被配置成用于提供控制数据112。控制数据112可以基于来自操作远程终端108的用户110的输入而生成。备选地或附加地,控制数据可以由其他非用户来源所提供,所述非用户来源诸如为远程或本地数据存储、其他可操作地连接至远程终端的计算装置等。控制数据可以用于直接地或间接地控制可移动物体102、有效载荷104和/或载体106的各个方面。在一些实施方式中,控制数据可以包括导航命令,用于控制可移动物体的导航参数,诸如可移动物体102的位置、速度、定向或姿态。控制数据可以用于控制UAV的飞行。控制数据可以影响一个或多个推进系统的操作,所述推进系统可以影响UAV的飞行。
在一些实施方式中,控制数据可以包括用于让可移动物体102悬停于预定位置处或其附近的指令。通过悬停,可移动物体可以在长时间内在实质上相同的位置处保持实质上相同的姿态。在一个实施方式中,由用户110经由远程终端108来提供关于悬停位置的信息(例如,高度和/或GPS坐标)。基于所提供的坐标,可移动物体102可被配置成用于自主导航至悬停位置。在另一实施方式中,用户可以在命令可移动物体悬停之前,经由远程终端108来手动控制可移动物体102移动至悬停位置。
控制数据还可以包括与全景图像的生成相关的信息或指令。例如,控制数据可以包括对于全景模式的开始和/或结束的指示。在全景模式下,可移动物体可被配置成悬停于预定位置处,而有效载荷可被配置成相对于可移动物体围绕一个轴线旋转(如箭头107所表示)并拍摄周围环境的多个图像。有效载荷的旋转可以由载体所引起。旋转角度可以是至少360度,例如,至少360度、450度、540度、630度、720度等。或者,旋转角度可以小于360度,例如,小于60度、90度、120度、150度、180度、210度、240度、270度、300度、330度等。
在一些实施方式中,载体还对抗本来会导致有效载荷的非预定运动的外部扰动而稳定有效载荷。这样的扰动可能包括可移动物体的震动,诸如由可移动物体的推进系统的操作所导致的震动。扰动可能由诸如气象(例如,风)等其他因素所导致。
控制数据还可以包括与全景模式有关的指令或参数,诸如悬停位置信息、总旋转角度、单个图像的视野(FOV)、图像捕捉装置在相邻图像的捕捉之间的旋转角度、连续图像捕捉之间的时间量等。
在一些实施方式中,控制数据可以包括用于控制机载的或由可移动物体102承载的单个部件的命令。例如,控制数据可以包括用于控制载体106的操作的信息。例如,控制数据可以用于控制载体106的致动机构,以便导致有效载荷104相对于可移动物体102的角移动和/或线性移动。又例如,控制数据可以用于调节有效载荷104的一个或多个操作参数,诸如拍摄静止或移动图片、放大或缩小、开启或关闭、切换成像模式、改变图像分辨率、改变聚焦、改变景深、改变曝光时间、改变镜头速度、改变视角或视野等。在其他实施方式中,控制数据可以用于控制可移动物体102所搭载的其他部件,诸如感测系统(未示出)、通信系统(未示出)等。
可移动物体102可被配置成用于提供数据114,并且远程终端108可被配置成用于接收数据114。在各个实施方式中,由远程终端接收的数据可以包括原始数据(例如,由传感器获取的原始感测数据)和/或经处理的数据(例如,诸如由可移动物体上的一个或多个处理器生成的全景图像数据等数据)。例如,数据可以包括由可移动物体102所搭载的传感器获取的感测数据和/或经处理的数据,诸如在可移动物体机上基于由有效载荷捕捉的图像生成的全景图像。感测数据的示例可以包括由可移动物体102承载的有效载荷获取的图像数据或者由其他传感器获取的其他数据。例如,实时或近实时的视频可以从可移动物体102和/或有效载荷104流向远程终端108。感测数据还可以包括由全球定位系统(GPS)传感器、运动传感器、惯性传感器、距离传感器或其他传感器获取的数据。
在一些实施方式中,远程终端108可以位于距可移动物体102、载体106和/或有效载荷104较远或很远的位置处。远程终端108可以安置于或固定至支撑平台。或者,远程终端108可以是手持式或可穿戴式装置。例如,远程终端108可以包括智能电话、平板计算机、膝上型计算机、计算机、眼镜、手套、头盔、麦克风或者其合适的组合。
远程终端108可被配置成用于经由显示器显示从可移动物体102接收的数据。所显示的数据可以包括诸如由可移动物体102承载的成像装置获取的图像(例如,静止图像和视频)等感测数据以及/或者诸如基于感测数据生成的全景图像等经处理的数据。所显示的数据还可以包括可以与图像数据分开显示的或者叠加于图像数据之上的其他信息。在一些实施方式中,可以在生成全景图像和/或将其传输至远程终端时,实质上实时地显示全景图像和/或其他数据。例如,全景图像和/或其他数据可以在被有效载荷104捕捉的10秒、5秒、3秒、2秒、1秒、0.5秒、0.1秒内显示。在其他实施方式中,可以在一些延迟之后提供显示。在一些实施方式中,可以由远程终端储存、传输或者以其他方式处理全景图像和/或其他数据。
远程终端108可被配置成用于经由输入装置接收用户输入。输入装置可以包括操纵杆、键盘、鼠标、触摸屏、触控笔、麦克风、图像或运动传感器、惯性传感器等。任何合适的用户输入均可用于与终端交互,诸如手动输入命令、语音控制、手势控制或位置控制(例如,经由终端的移动、位置或倾斜)。例如,远程终端108可被配置成用于允许用户通过对操纵杆进行操纵,改变远程终端的定向或姿态,使用键盘、鼠标、手指或触控笔与图形用户界面交互或者通过使用任何其他合适方法,来控制可移动物体、载体、有效载荷或其任何部件的状态。例如,远程终端108可被配置成用于允许用户控制如本文所讨论的全景操作模式的各个方面。
备选地或附加地,可以将来自可移动物体、载体和/或有效载荷的数据提供至除远程终端108之外的远程实体,诸如与可移动物体、载体和/或有效载荷相通信的远程数据存储或装置。
图2图示了根据实施方式的用于生成全景航拍图像的示例性系统200。系统200包括由UAV 202经由载体206承载的图像捕捉装置204。UAV 202、图像捕捉装置204和载体206可类似于联系图1讨论的可移动物体102、有效载荷104和载体106。
UAV 202可以包括一个或多个UAV传感器(未示出),用于确定UAV的状态。这样的UAV状态传感器可以耦合至UAV机身的任何合适的一个或多个部分,并且相对于UAV不可移动。UAV的状态可以包括空间位置(例如,位置、定向或姿态)、速度(例如,线速度或角速度)、加速度(例如,线加速度或角加速度)和/或关于UAV的其他信息。状态可以是绝对的(例如,纬度和/或经度)或者相对的(例如,相对于惯性系)。这样的UAV传感器的示例可以包括位置传感器(例如,GPS传感器和磁力计)、运动传感器(例如,加速度计)、旋转传感器(例如,陀螺仪)、惯性传感器、距离传感器(例如,超声传感器、激光雷达传感器或红外传感器)、图像传感器等。UAV传感器具有任何合适的特性,诸如采样频率、精确度/准确度等。
UAV 202还可以包括推进系统208,所述推进系统208可以包括任何合适数目的旋翼、旋翼组合件、螺旋桨、桨叶等。相对的旋翼的轴之间的距离可以是任何合适的长度。UAV的推进系统可以使得UAV能够悬停/保持位置、改变定向和/或改变位置。
UAV 202还可以包括一个或多个控制器(未示出)作为飞行控制系统的一部分。控制器可被配置成用于基于来自上文讨论的UAV的状态传感器的输出,来控制推进系统和其他部件。例如,控制器可被配置成用于基于来自传感器的数据向推进系统部件(例如,旋翼)生成控制信号,以调节UAV的空间位置以便保持悬停位置。例如,如果传感器检测到UAV与预定位置的偏差(例如,平移和/或旋转位移),则控制器可被配置成用于控制推进系统,以便移动UAV从而修正或补偿所述偏差。
UAV 202还可以包括一个或多个载体传感器(未示出),用于确定载体206和/或图像捕捉装置204的状态。这样的用于载体的状态传感器可以耦合至载体206和/或图像捕捉装置204的各个部分,并且可以是或者可以不是相对于UAV可移动的。载体传感器可以具有任何合适的特性,诸如采样频率、测量准确度等。在一些实施方式中,至少一些载体传感器可被配置成用于以比UAV传感器更高的频率采样或者提供更精确或更准确的测量。在其他实施方式中,至少一些载体传感器可被配置成用于以与UAV传感器相同或比其更低的频率采样或者提供较不精确或较不准确的测量。
来自载体206和/或图像捕捉装置204的状态传感器的输出可以用于控制载体206的一个或多个致动机构,以便围绕轴线旋转(如箭头207所描绘)和/或稳定图像捕捉装置204和/或其光轴,例如,在全景模式下。致动机构可以由UAV上的一个或多个控制器来控制。用于控制载体的一个或多个控制器可以包括用于控制UAV的控制器,或者被包括在用于控制UAV的控制器中。联系图3-图8提供了关于载体的进一步细节。
UAV 202还可以包括一个或多个处理器或处理单元(未示出)。处理器可被配置成用于实现用以生成诸如本文所描述的全景图像的各种方法。例如,处理器可被配置成用于向由图像捕捉装置204捕捉到的多个图像应用一个或多个合适的图像拼接步骤,以便生成全景图像。由于当有效载荷捕捉图像时给予有效载荷的稳定,因此可以简化或以其他方式优化至少一些图像拼接步骤的复杂度。这样的稳定至少部分地由载体来提供。
在各个实施方式中,图像捕捉装置204可以包括被配置成用于将光信号转换成电子信号的一个或多个图像传感器。图像传感器可以包括半导体电荷耦合装置(CCD)、使用互补金属氧化物半导体(CMOS)或N型金属氧化物半导体(NOMS、Live MOS)技术的有源像素传感器或者任何其他类型的传感器。图像传感器可以光学地耦合至光学组合件,以便捕捉图片、视频或者具有任何合适参数的任何其他图像数据,所述参数诸如为宽度、高度、宽高比、百万像素数、分辨率或质量等。例如,成像装置可被配置成用于捕捉高清或超高清视频(例如,720p、1080i、1080p、1440p、2000p、2160p、2540p、4000p、4320p等)。
除了图像传感器和光学组合件之外,图像捕捉装置还包括其他部件,诸如一个或多个电池、存储介质、滤波器、位置传感器、电路、处理器、外壳等。图像捕捉装置的部件的任何组合可被收容于同一外壳中或单独的外壳中。图像捕捉装置的部件的任何组合可以耦合至载体和/或可移动物体的相同或不同部分。例如,图像传感器和光学组合件可被收容为一个单元并耦合至载体的机架构件,而其余部件可被收容于单独的一个或多个外壳中并耦合至载体的其他部分或者耦合至UAV。又例如,包括图像传感器和光学组合件的所述单元还可以进一步包括至少一个诸如上文所描述的其他部件(例如,电池、存储介质、滤波器、位置传感器、电路或处理器)。
载体206可以允许图像捕捉装置204围绕至少一个旋转轴线而旋转207。在一些情况下,图像捕捉装置可以能够摇摄以捕捉可用于形成全景图像的图像。图像捕捉装置可以围绕图像捕捉装置的偏航轴线旋转以创建全景图像。如前文所述,UAV 202和载体206可单个地或共同地稳定图像捕捉装置204,以使得当图像捕捉装置围绕旋转轴线旋转时,其实质上不以任何其他方式移动。例如,当图像捕捉装置围绕单一旋转轴线旋转时,其不围绕其他旋转轴线旋转或者沿着任何轴线平移移动。例如,当捕捉图像用于全景图像时,图像捕捉装置除了围绕轴线(例如,偏航轴线)的旋转之外,可以相对于参考系实质上固定。参考系可以是地球,或者是图像捕捉装置从中捕捉全景图像的环境。
图3图示了根据实施方式的示例性载体300的等距视图。载体300可以用于将诸如图像捕捉装置等有效载荷耦合至诸如UAV等可移动物体。
载体300可被配置成允许有效载荷相对于可移动物体围绕多达三个轴线——X或俯仰轴线302、Z或横滚轴线304以及Y或偏航轴线306——旋转。例如,载体300可被配置成允许有效载荷仅围绕一个、两个或全部三个轴线旋转。所述三个轴线可以彼此正交或者可以彼此不正交。围绕任何轴线的旋转范围可以受到限制或者可以不受限制,并且可以针对每个轴线而改变。例如,围绕所述轴线所允许的最大旋转可以是任何合适的度数,诸如30度、60度、90度、120度、150度、180度、210度、240度、270度、300度、330度、360度、450度、540度、630度、720度等。旋转轴线可以彼此相交或者可以彼此不相交。例如,三个正交轴线可以彼此相交。它们可以相交于有效载荷处,或者可以不相交于有效载荷处。或者,它们可以不相交。
载体300可以包括机架组合件,所述机架组合件包括第一机架构件308、第二机架构件316、第三机架构件322和第四机架构件328。第一机架构件308可被配置成与有效载荷(例如,图像捕捉装置)相耦合并且支撑所述有效载荷。第一构件308可以围绕旋转轴线302旋转耦合至第二机架构件316。旋转轴线302可以实质上平行于可移动物体(例如,UAV)和/或图像捕捉装置的俯仰轴线。第一致动器构件310可以耦合至第一机架构件308和/或第二机架构件316,以使得第一致动器构件310的旋转轴线实质上与旋转轴线302重合。第一致动器构件310可被配置成用于直接驱动第一机架构件308和/或第二机架构件316,以便导致其间围绕旋转轴线302的相对旋转。例如,第一致动器构件310可以包括直接驱动式电机。在一些实施方式中,电机的转子可以耦合至第一机架构件308,而电机的定子可以耦合至第二机架构件316。或者,电机的定子可以耦合至第一机架构件308,而电机的转子可以耦合至第二机架构件316。
类似地,第二机架构件316可以围绕旋转轴线304旋转耦合至第三机架构件322。旋转轴线304可以实质上平行于可移动物体(例如,UAV)和/或图像捕捉装置的横滚轴线。轴线304可正交于轴线302。或者,轴线304可以不正交于轴线302。第二致动器构件318可以耦合至第二机架构件316和/或第三机架构件322,以使得第二致动器构件318的旋转轴线实质上与旋转轴线304重合。第二致动器构件318可被配置成用于直接驱动第二机架构件316和/或第三机架构件322,以便导致其间围绕旋转轴线304的相对旋转。例如,第二致动器构件318可以包括直接驱动式电机。在一些实施方式中,电机的转子可以耦合至第二机架构件316,而电机的定子可以耦合至第三机架构件322。或者,电机的定子可以耦合至第二机架构件316,而电机的转子可以耦合至第三机架构件322。
类似地,第三机架构件322可以围绕旋转轴线306旋转耦合至第四机架构件328。旋转轴线306可以实质上平行于可移动物体(例如,UAV)和/或图像捕捉装置的偏航轴线。轴线306可正交于轴线304。或者,轴线306可以不正交于轴线304。第三致动器构件324可以耦合至第三机架构件322和/或第四机架构件328,以使得第三致动器构件324的旋转轴线实质上与旋转轴线306重合。第三致动器构件324可被配置成用于直接驱动第三机架构件322,以便致使第三机架构件322相对于第四机架构件328围绕轴线306旋转。例如,第三致动器构件324可以包括直接驱动式电机。在一些实施方式中,电机的转子可以耦合至第三机架构件322,而电机的定子可以耦合至第四机架构件328。或者,电机的定子可以耦合至第三机架构件322,而电机的转子可以耦合至第四机架构件328。
第四机架构件328可被配置成用于与诸如UAV等可移动物体相耦合。第四机架构件328可以包括一个、两个、三个或更多个耦合构件330,所述耦合构件330被配置成用于直接与可移动物体相接合,以便促进第四机架构件328与可移动物体的耦合。在备选实施方式中,第四机架构件328可以是可移动物体的一部分,而不是载体的一部分。或者,第四机架构件328可以由人类握持,以例如便于进行动态摄像或摄影。
在各个实施方式中,载体的致动器构件310、318和324可以包括无功率降低(诸如经由机械变速箱)的任何合适的直接驱动式电机。有利地,这样的直接驱动式电机与传统的非直接驱动式机构相比,可以提供提高的效率(例如,通过减少在机械齿轮的摩擦中的功率损耗)、更长的使用寿命、更快的响应时间以及更精确的控制。
在一些实施方式中,载体包括一个或多个载体传感器,所述载体传感器对于确定载体或由载体承载的有效载荷的状态是有用的。状态信息可以包括空间位置(例如,位置、定向或姿态)、速度(例如,线速度或角速度)、加速度(例如,线加速度或角加速度)和/或关于载体、其部件和/或有效载荷的其他信息。在一些实施方式中,所获取的或从传感器数据计算出的状态信息可以用作反馈数据,以控制载体的部件(例如,机架构件)的旋转。这样的载体传感器的示例可以包括运动传感器(例如,加速度计)、旋转传感器(例如,陀螺仪)、惯性传感器等。
载体传感器可以耦合至载体的任何合适的一个或多个部分(例如,机架构件和/或致动器构件),并且可以是或者可以不是相对于UAV可移动的。附加地或备选地,至少一些载体传感器可以直接耦合至由载体承载的有效载荷。例如,第一机架构件308可以与传感器312相耦合。在第一机架构件308刚性耦合至有效载荷的情况下,由传感器312体验到的移动或运动可以实质上与由有效载荷体验到的移动或运动相同。因此,传感器312可以用于测量有效载荷的姿态信息。在一些实施方式中,传感器312可以直接耦合至有效载荷而不是耦合至第一机架构件308。可以将零个、一个或多个传感器固定至第一机架构件、第二机架构件、第三机架构件和/或第四机架构件。
载体传感器可以与载体的一些或所有致动器构件相耦合。例如,三个载体传感器可分别耦合至载体的致动器构件310、318和324,并且被配置成用于测量相应的致动器构件310、318和324的驱动。这样的传感器可以包括电位器或其他类似的传感器。在一个实施方式中,传感器(例如,电位器)可以插入于电机的电机轴上以便测量电机转子与电机定子的相对位置,从而测量转子与定子的相对位置并生成代表其的位置信号。在一个实施方式中,每个致动器耦合的传感器被配置成用于提供其所测量的对应的致动器构件的位置信号。例如,第一电位器可以用于生成第一致动器构件310的第一位置信号,第二电位器可以用于生成第二致动器构件318的第二位置信号,并且第三电位器可以用于生成第三致动器构件324的第三位置信号。在一些实施方式中,载体传感器还可以耦合至载体的一些或所有机架构件。传感器可以能够传达关于载体的一个、两个、三个、四个或更多个机架构件以及/或者图像捕捉装置的位置和/或定向的信息。传感器数据可以用于确定图像捕捉装置相对于可移动物体和/或参考系的位置和/或定向。
载体传感器可以提供可传输至载体或可移动物体上的一个或多个控制器(未示出)的位置和/或定向数据。传感器数据可以在基于反馈的控制方案中使用。控制方案可以用于控制诸如两个、三个、四个、五个或更多个电机等多个致动器构件的驱动。可以位于载体上或者承载载体的可移动物体上的一个或多个控制器可生成控制信号用于驱动致动器构件。在一些情况下,可以基于从载体传感器接收的数据生成控制信号,所述数据指示出载体或由载体承载的有效载荷的空间位置。如前文所述,载体传感器可以位于载体或有效载荷上。由控制器产生的控制信号可由第一致动器驱动器、第二致动器驱动器和/或第三致动器驱动器接收。基于控制信号,第一、第二和/或第三致动器驱动器可以控制第一、第二和/或第三致动器构件的驱动,以便例如实现载体的一个或多个部件的旋转。致动器驱动器可以包括硬件和/或软件部件,所述硬件和/或软件部件适合用于控制对应的致动器构件的驱动,以及从对应的传感器(例如,电位器)接收位置信号。控制信号可以同时传输至所述致动器驱动器,以产生对致动器构件的同时驱动。或者,可以按顺序地,或者仅向所述致动器驱动器中之一传输控制信号。有利地,控制方案可以用于提供反馈控制,用于驱动载体的致动器构件,从而支持载体部件的更精确和更准确的旋转。
在一些情况下,载体可以经由一个或多个阻尼元件332间接耦合至UAV。阻尼元件可被配置成用于减小或消除由可移动物体(例如,UAV)的移动所导致的负载(例如,有效载荷、载体或全部两者)的移动。阻尼元件可以包括适合用于抑制耦合的负载的运动的任何元件,诸如主动阻尼元件、被动阻尼元件或者同时具有主动和被动阻尼特性的混合阻尼元件。由本文提供的阻尼元件抑制的运动可以包括震动、震荡、晃动或冲击中的一种或多种。这样的运动可来源于例如经由第四机架构件328而传递到负载的可移动物体的运动。例如,所述运动可以包括由推进系统和/或UAV的其他部件的操作所导致的震动。
阻尼元件可以通过消散或减小传递至负载的运动量(例如,隔震)将负载与不需要的运动的来源相隔离,来提供运动阻尼。阻尼元件可以减小本来将会由负载体验到的运动的幅度(例如,振幅),诸如减小大于或等于约10%、20%、30%、40%、50%、60%、70%、80%、85%、90%或100%。在一些情况下,阻尼元件可被配置成用于减小具有某些频率的运动。例如,一些阻尼元件可以减小高频运动,而其他阻尼元件可以减小低频运动。阻尼元件可以抑制具有大于或等于约0.5Hz、1Hz、5Hz、10Hz、20Hz、30Hz、40Hz、50Hz、100Hz、200Hz、300Hz、400Hz、500Hz、600Hz、700Hz、800Hz、900Hz或1000Hz的频率的运动。或者,阻尼元件可以抑制具有小于或等于约0.5Hz、1Hz、5Hz、10Hz、20Hz、30Hz、40Hz、50Hz、100Hz、200Hz、300Hz、400Hz、500Hz、600Hz、700Hz、800Hz、900Hz或1000Hz的频率的运动。由阻尼元件施加的运动阻尼可以用于稳定负载,从而提高由负载(例如,图像捕捉装置)捕捉到的图像的质量,以及降低基于捕捉到的图像生成全景图像所需的图像拼接步骤的计算复杂度。
本文所描述的阻尼元件可由任何合适的材料或材料组合形成,所述材料包括固体、液体或气体材料。用于阻尼元件的材料可以是可压缩的和/或可变形的。例如,阻尼元件可由海绵、泡沫、橡胶、凝胶等制成。例如,阻尼元件可以包括形状实质上为球形的橡胶球,诸如图3中所图示。阻尼元件可以是任何合适的形状,诸如实质上为球形、矩形、圆柱形等。备选地或附加地,阻尼元件可以包含压电材料或形状记忆材料。阻尼元件可以包括一个或多个机械元件,诸如弹簧、活塞、液压装置、气动装置、缓冲器、减震器、隔离器等。可以选择阻尼元件的性质以便提供预定量的运动阻尼。例如,阻尼元件可以具有特征刚度,所述特征刚度可对应于阻尼元件的杨氏模量。杨氏模量可以大于或等于约0.01GPa、0.05GPa、0.1GPa、0.2GPa、0.3GPa、0.4GPa、0.5GPa、0.6GPa、0.7GPa、0.8GPa、0.9GPa、1GPa或5GPa。或者,杨氏模量可以小于或等于约0.01GPa、0.05GPa、0.1GPa、0.2GPa、0.3GPa、0.4GPa、0.5GPa、0.6GPa、0.7GPa、0.8GPa、0.9GPa、1GPa或5GPa。在一些情况下,阻尼元件可以具有粘弹性质。阻尼元件的性质可以是各向同性的或者各向异性的。例如,阻尼元件可以沿着所有的运动方向相等地提供运动阻尼。相反地,阻尼元件可以仅沿着运动方向的子集(例如,沿着单一运动方向)提供运动阻尼。例如,如图3中所图示的阻尼元件可以主要沿着Y(偏航)轴线306提供阻尼。因此,图示的阻尼元件可被配置成用于减小垂直运动。
尽管本文的实施方式可被描述成利用单一类型的阻尼元件(例如,橡胶球),但应当理解的是,可以使用任何合适的阻尼元件类型的组合。例如,载体可以使用任何合适的一个或多个类型的一个、两个、三个、四个或更多个阻尼元件而耦合至可移动物体。阻尼元件可以具有相同或不同的特性或性质,诸如刚度、粘弹性等。每个阻尼元件可以耦合至负载的不同部分或仅耦合至负载的某一部分。例如,阻尼元件可以位于负载与可移动物体之间的接触点或耦合点或者接触面或耦合面附近(例如,第四机架构件328的耦合构件330附近)。在一些情况下,负载可以嵌入于一个或多个阻尼元件内或者由其所封闭。
在一些实施方式中,即使在阻尼元件的作用之后,残余震动或其他扰动仍然传递至载体。例如,在一些情况下,阻尼元件可被配置成用于移除较低频扰动,而较高频震动仍然传递至载体。可以通过稳定载体部件的旋转来减小或消除这样的残余扰动,以相对于可移动物体稳定由载体承载的有效载荷。载体部件的旋转可由致动器构件响应于如上文所述的控制器所生成的控制信号来驱动。例如,控制信号可以导致有效载荷的反向旋转以补偿来自可移动物体的运动。在各个实施方式中,可以基于仅来自UAV传感器、仅来自针对载体的载体传感器或者它们的组合的传感器数据来生成控制信号。
在一些实施方式中,如上文所述,载体被配置成用于当有效载荷捕捉全景图像时,关于X(俯仰)轴线302和Z(横滚)轴线304稳定所述有效载荷,而同时使所述有效载荷围绕Y(偏航)轴线306旋转。在有效载荷操作以捕捉图像时,由载体提供的稳定可以显著减小其晃动、震动或其他非预期运动,从而提高捕捉到的图像的质量并且降低拼接图像以生成全景图像所涉及的计算复杂度。这样的计算的降低使得完全在可移动物体机上执行这样的图像拼接变得可行。
在一些情况下,载体可被配置成用于减小具有某些频率的运动。例如,载体可被配置成用于减小具有大于或等于约0.5Hz、1Hz、5Hz、10Hz、20Hz、30Hz、40Hz、50Hz、100Hz、200Hz、300Hz、400Hz、500Hz、600Hz、700Hz、800Hz、900Hz、1000Hz、1100Hz、2000Hz等频率的运动。或者,载体可被配置成用于减小具有小于或等于约0.5Hz、1Hz、5Hz、10Hz、20Hz、30Hz、40Hz、50Hz、100Hz、200Hz、300Hz、400Hz、500Hz、600Hz、700Hz、800Hz、900Hz、1000Hz、1500Hz、2000Hz等频率的运动。在一些实施方式中,载体可被配置成用于减小具有相对较高频率的运动,而阻尼元件可被配置成用于减小具有相对较低频率的运动。在一些其他实施方式中,载体可被配置成用于减小具有相对较低频率的运动,而阻尼元件可被配置成用于减小具有相对较高频率的运动。
图4示出了根据实施方式的示例性载体400的侧视图。载体400可以用于将诸如图像捕捉装置等有效载荷耦合至诸如UAV等可移动物体。载体400类似于上文在图3中描述的载体300。
载体400可被配置成用于允许有效载荷相对于可移动物体围绕多达以下三个轴线旋转:X或俯仰轴线(未示出)、Z或横滚轴线404以及Y或偏航轴线406。所述三个轴线可以彼此正交或者可以彼此不正交。所述三个轴线可以彼此相交或者可以彼此不相交。
载体400可以包括机架组合件,所述机架组合件包括第一机架构件408、第二机架构件416、第三机架构件422和第四机架构件428,类似于图3中描述的第一机架构件308、第二机架构件316、第三机架构件322和第四机架构件328。
所述机架构件中的每一个可以由与图3中讨论的直接驱动式致动器构件类似的直接驱动式致动器构件来驱动,以围绕相应的轴线旋转。例如,第一机架构件408由第一致动器构件410驱动,以围绕X或俯仰轴线旋转。第二机架构件416由第二致动器构件418驱动,以围绕Z或横滚轴线404旋转。第三机架构件422由第三致动器构件424驱动,以围绕Y或偏航轴线406旋转。第三致动器构件可以允许第三机架构件旋转约360度或更多,诸如本文其他各处所提及的任何其他度数。机架构件能够以无限制的方式围绕Y或偏航轴线旋转。
载体400可以合并多个载体传感器,所述载体传感器被配置成用于检测有效载荷或载体的部件的空间位置。载体传感器可类似于图3中描述的载体传感器。例如,传感器412可以耦合至第一机架构件408或直接耦合至有效载荷以测量有效载荷的空间位置。此外,一些载体传感器(例如,电位器和/或陀螺仪)可以耦合到致动器构件以测量所述致动器构件的相应旋转。从载体获得的传感器数据可以用于提供对致动器构件的反馈控制以及/或者稳定有效载荷以便保持预定的空间位置,如上文在图3中所描述。
载体400可以经由一个或多个阻尼构件432而与可移动物体相耦合,所述阻尼构件被配置成用于减小由可移动物体的移动所导致的载体的运动(例如,由UAV的推进系统所导致的震动)。阻尼构件432可类似于上文在图3中描述的阻尼构件332。在一些实施方式中,阻尼构件可以安置于一对上板429和下板426之间并与之耦合。上板429可以是耦合构件430的一部分,所述耦合构件被配置成用于直接或间接地与可移动物体的一部分相接合。下板426可以是载体的第四机架构件428的一部分。
在各个实施方式中,可以使用任何合适数目的这样的成对的上板和下板。例如,可以存在一个、两个、三个、四个、五个或更多个这样的对。在每对上板与下板之间,可以存在任何合适数目的阻尼构件。例如,在每对上板与下板之间可以存在一个、两个、三个、四个、五个或更多个阻尼构件。所使用的上板和下板对的确切数目以及阻尼构件的确切数目可以取决于可移动物体、载体和/或有效载荷的特性,诸如载体和/或有效载荷的重量、有效载荷的减震要求、来自可移动物体的运动的特性等。
尽管图3-图4描绘了三轴载体,但应当理解的是,本文所描述的技术总体上适用于两轴或一轴载体的实施方式。尽管描绘了三轴载体,但应当理解的是,载体还可以是两轴或一轴的。
图5-图8图示了根据一些实施方式的由载体执行的对有效载荷的示例性类型的增稳。载体可以与其使有效载荷在全景操作模式下围绕Y(偏航)轴线旋转实质上同时地执行这样的增稳。可以在承载载体的可移动物体悬停于特定位置时执行这样的增稳。这样的增稳可以能够在可移动物体悬停时适应所述可移动物体的位置或定向中的轻微改变。
图5-图6图示了为了保持有效载荷的预定位置而沿着Z(横滚)轴线对有效载荷的示例性增稳。如图所示,诸如UAV等可移动物体502经由诸如载体等载体506承载诸如图像捕捉装置等有效载荷504。为了允许有效载荷504捕捉周围环境的稳定图像,可移动物体502可被配置成悬停于特定位置,从而保持特定位置。同时,载体506可被配置成用于使有效载荷504围绕Y(偏航)轴线旋转,以使得旋转平面实质上平行于地平面。为此,载体506可被配置成用于对抗至少关于Z(横滚)轴线508的移动而稳定有效载荷。
例如,如图5中所示,如果可移动物体502围绕Z(横滚)轴线以逆时针方向514倾斜,则载体506可以使有效载荷504以对应的顺时针方向516围绕Z(横滚)轴线508旋转,以便保持预定位置。预定位置可以是相对于地面为水平的位置。当有效载荷504是图像捕捉装置时,可以将所述图像捕捉装置的光轴保持为实质上与地平面对准或平行。如图6中所示,如果可移动物体502围绕Z(横滚)轴线508以顺时针方向518倾斜,则载体506可以使有效载荷504以对应的逆时针方向520围绕Z(横滚)轴线508旋转,以便保持预定位置。这样的围绕Z(横滚)轴线508的旋转可以由与Z(横滚)轴线508相关联的致动器构件来实现,所述致动器构件诸如为分别在图3和图4中描述的致动器构件318和418。
此外,如上文所讨论,安置于可移动物体502与载体506之间的阻尼元件可以用于移除不需要的运动,从而促进有效载荷504的预定(例如,水平)空间位置。例如,当可移动物体朝向一侧倾斜时,靠近可移动物体的所述侧安置的阻尼构件可变为压缩的,而远离所述侧而安置的阻尼构件可变为伸展的,以使得载体并因此使得有效载荷保持水平位置。
可以关于X(俯仰)轴线执行类似的增稳。图7-图8图示了为了保持有效载荷的预定位置而沿着X(俯仰)轴线进行的对有效载荷的增稳的示例性类型。如图所示,诸如UAV等可移动物体602经由载体606承载诸如图像捕捉装置等有效载荷604。为了允许有效载荷604捕捉周围环境的稳定图像,可移动物体602可被配置成悬停于特定位置,从而保持特定位置。同时,载体606可被配置成用于使有效载荷604围绕Y(偏航)轴线旋转,以使得旋转平面实质上平行于地平面。为此,载体606可被配置成用于针对至少关于X(俯仰)轴线610的移动而稳定有效载荷。
例如,如图7中所示,如果可移动物体602围绕X(俯仰)轴线以逆时针方向614倾斜,则载体606可以使有效载荷604以对应的顺时针方向616围绕X(俯仰)轴线610旋转,以便保持预定位置(例如,相对于地面为水平的)。如上文所讨论,当有效载荷604是图像捕捉装置时,可以将所述图像捕捉装置的光轴保持为实质上与地平面对准或平行。如图8中所示,如果可移动物体602围绕X(俯仰)轴线610以顺时针方向618倾斜,则载体606可以使有效载荷604以对应的逆时针方向620围绕X(俯仰)轴线610旋转,以便保持预定位置。这样的围绕X(俯仰)轴线610的旋转可以由与X(俯仰)轴线610相关联的致动器构件来实现,所述致动器构件诸如为分别在图3和图4中描述的致动器构件310和410。
如上文所讨论,安置于可移动物体602与载体606之间的阻尼元件也可促进或以其他方式有助于保持有效载荷604的预定(例如,水平)位置。
当有效载荷围绕Y(偏航)轴线旋转并沿路捕捉图像时,可以执行沿着X(俯仰)轴线的增稳,以附加于或替代于如图5-图6中描述的关于Z(横滚)轴线的增稳。在一些实施方式中,可以独立地执行沿着X和Z轴线的增稳。在其他实施方式中,沿着一个轴线的增稳可能依赖于在其他轴线上的增稳。在一些实施方式中,沿着两个轴线的增稳可以实质上同时执行。或者,沿着不同的轴线的增稳可以按顺序实现。
如前文所述,可能期望有效载荷以实质上与下方的地面水平的方式旋转。旋转轴线可以实质上正交于下方的地面。这可以允许对与地面水平的全景图像的捕捉。在其他情况下,有效载荷能够以不与地面水平的方式旋转。例如,旋转轴线可以相对于下方的地面成角度,所述角度可以允许对需要与地面水平的全景图像的捕捉。
图9图示了根据实施方式的用于实现全景图像生成的示例性过程700。过程700的各个方面可由搭载于如本文所述的诸如UAV等可移动物体上的一个或多个处理器、未搭载于可移动物体上的一个或多个处理器或者其任何组合来执行。过程700(或者本文所描述的任何其他过程,或者其变体和/或组合)的一些方面或所有方面可以在一个或多个配置有可执行指令的计算机/控制系统的控制下执行,并且可以实现成共同地在一个或多个处理器上执行的代码(例如,可执行指令、一个或多个计算机程序或者一个或多个应用程序),由硬件或者它们的组合来执行。例如,所述代码能够以包含多个可由一个或多个处理器执行的指令的计算机程序的形式储存在计算机可读存储介质上。所述计算机可读存储介质可以是非暂时性的。所描述的操作的顺序并不旨在被解释为限制性的,并且任何数目的所描述的操作均能够以任何顺序和/或并行地结合以实现所述过程。
过程700包括使可移动物体保持悬停于预定位置和/或具有预定空间位置702。可移动物体可被配置成用于经由诸如本文所描述的载体承载诸如图像捕捉装置等有效载荷。具体而言,载体可以允许有效载荷相对于可移动物体围绕诸如X(俯仰)轴线和Y(偏航)轴线等至少两个轴线旋转。此外,载体可以允许有效载荷围绕诸如Z(横滚)轴线等第三轴线旋转。
在一些实施方式中,可移动物体可以由远程终端遥控,以到达预定悬停位置。或者,可移动物体可以自主导航至预定位置,例如,基于预定位置的GPS位置或通过遵循计划的飞行路径。一旦到达预定位置,可移动物体即可自主进入或者被遥控进入悬停模式,可移动物体由此在预定悬停位置处保持预定空间位置。
可移动物体的空间位置可以由控制可移动物体的推进系统的一个或多个控制器来保持。这样的控制器可以包括搭载于可移动物体上的飞行控制器。控制器可以接收来自诸如上文所述的耦合至可移动物体的一个或多个状态传感器(例如,位置传感器、运动传感器、旋转传感器、惯性传感器等)的输入,以便检测可移动物体与预定位置的任何偏差。这样的偏差例如可以包括平移位移、旋转等。响应于检测到的偏差,飞行控制器可被配置成用于向推进系统或其任何部件输出控制信号,以便调节可移动物体的位置以修正检测到的偏差。当悬停时,可移动物体在其定位中可以不显著偏离。例如,可移动物体可以保持在当其开始悬停时的初始位置的约1m、70cm、50cm、30cm、20cm、15cm、10cm、7cm、5cm、3cm、2cm或1cm内。
当可移动物体悬停于预定位置处时,可以通过使可移动物体所承载的图像捕捉装置围绕第一轴线旋转一定角度而开始全景成像704。所述角度可以超过或者可以不超过360度。旋转可以由载体来实现。第一轴线可以包括实质上垂直于地面的Y(偏航)轴线。在围绕第一轴线的旋转期间,图像捕捉装置可被配置成用于定期捕捉图像706。当捕捉每个图像时,可以将反映可移动物体、载体和/或图像捕捉装置的空间位置的传感器数据关联于捕捉到的图像。这样的传感器数据可以用于估计图像捕捉装置的位置和/或位置。传感器数据还可以用于简化图像拼接步骤。例如,传感器数据可以用于限制与图像拼接步骤(例如,图像配准)相关联的搜索运算的范围。
图10图示了根据实施方式的用于由图像捕捉装置拍摄全景图像的示例性过程。假定图像捕捉装置位于空间中的点801处。在全景成像模式下,图像捕捉装置被配置成在定期捕捉图像时在一定方向上(例如,顺时针或逆时针方向)围绕垂直于纸面的轴线旋转。在一些实施方式中,旋转速度实质上随时间推移保持一致。在其他实施方式中,旋转速度随时间推移而变化。进一步假定图像捕捉装置的视野(FOV)在整个全景成像过程中保持θ度,其中θ可以是任何合适的正数,诸如30度、60度、90度、120度、150度、180度、210度、240度、270度等。当图像捕捉装置旋转时,至少一些相邻图像的视野(FOV)重叠,以便促进图像的拼接。在一些实施方式中,图像捕捉装置的FOV可以在装置的旋转期间改变。
在时间t1处,如上文讨论的全景成像过程开始。在一些实施方式中,图像捕捉装置在开始在顺时针方向上旋转之前捕捉第一图像802。图中示出了在t1附近的图像捕捉装置的FOV(θ度)和光轴803的方向。或者,图像捕捉装置可被配置成在开始捕捉图像之前旋转一定角度。
随后,在时间t2处或其附近,图像捕捉装置捕捉第二图像804。当捕捉图像时可以短暂地停止旋转(例如,停止0.1秒、0.2秒、0.5秒或1秒),以便提高图像的质量。或者,旋转可以是连续的,并且当图像捕捉装置旋转时拍摄图像。在捕捉第二图像804的时间处,图像捕捉装置已从前一图像起旋转了β1度,其中β1可以是任何正数。通过图像捕捉装置的光轴从803至805的旋转,图示了FOV的旋转。为了确保相邻图像之间的重叠,β1通常小于θ(图像捕捉装置的FOV)。因此,在第一图像与第二图像的FOV之间存在重叠角度α1 810,其中α1=θ-β1。例如,如果θ=100,β1=40,则α1=60。
随后,在时间t3处或其附近,图像捕捉装置捕捉第二图像806。当捕捉图像时可以短暂地停止旋转(例如,停止0.1秒、0.2秒、0.5秒或1秒),以便提高图像的质量。或者,旋转可以是连续的,并且当图像捕捉装置旋转时拍摄图像。在捕捉第三图像806的时间处,图像捕捉装置已从前一图像起旋转了β2度,其中β2可以是任何正数,并且可以与β1相同或者可以与β1不相同。通过图像捕捉装置的光轴从805至807的旋转,图示了FOV的旋转。为了确保相邻图像之间的重叠,β2通常小于θ(图像捕捉装置的FOV)。因此,在第二图像与第三图像的FOV之间存在重叠角度α2 812,其中α2=θ-β2。例如,如果θ=100,β2=40,则α2=60。
随后,在时间t4处或其附近,图像捕捉装置捕捉第二图像808。当捕捉图像时可以短暂地停止旋转(例如,停止0.1秒、0.2秒、0.5秒或1秒),以便提高图像的质量。或者,旋转可以是连续的,并且当图像捕捉装置旋转时拍摄图像。在捕捉第三图像808的时间处,图像捕捉装置已从前一图像起旋转了β3度,其中β3可以是任何正数,并且可以与β1或β2相同或者可以与β1或β2不相同。通过图像捕捉装置的光轴从807至809的旋转,图示了FOV的旋转。为了确保相邻图像之间的重叠,β3通常小于θ(图像捕捉装置的FOV)。因此,在第三图像与第四图像的FOV之间存在重叠角度α3 814,其中α3=θ-β3。例如,如果θ=100,β3=40,则α3=60。
上文所述全景图像捕捉过程可以继续进行预定的一段时间。在一些实施方式中,当最后图像与第一图像的FOV重叠时,全景图像捕捉过程停止。换言之,当总FOV已经超过360度时,所述过程停止。在这样的情况下,全景图像的总FOV在时间t4处已经超过360度。例如,在图示的示例中时间t4附近,第四图像808的FOV与第一图像802的FOV重叠了角度α4。因此,在图像捕捉装置的光轴的旋转已经达到360度之前,图像捕捉装置可以在时间t4附近停止旋转。在其他实施方式中,仅在图像捕捉装置和/或图像捕捉装置的光轴已经旋转至少360度之后,全景图像捕捉过程才停止。
在一些实施方式中,全景图像捕捉过程的各个方面可以是可配置的,例如,可以由远程用户来配置。例如,用户可以在所述过程开始之前,为所述过程指定某些参数。这样的参数可以包括下列各项中的一项或多项:图像捕捉装置的FOV(例如,θ)、相邻图像之间的重叠角度(例如,α)、相邻图像之间的旋转角度(例如,β)、整个全景图像的视野(例如,)、所要捕捉的图像总数(例如,N)、相邻图像捕捉之间的时间间隔,以及与图像捕捉装置相关联的特性,诸如景深、焦距、缩放水平等。
在一些实施方式中,可以基于诸如上文所讨论的参数等用户提供的参数来自动地计算与全景图像捕捉过程有关的参数。例如,基于图像捕捉装置的FOV(例如,θ)、相邻图像之间的重叠角度(例如,α)以及整个全景图像的视野(例如,),可以按如下计算需要捕捉的图像的数目N:其中表示不大于x的最大整数。又例如,可以基于一些参数来计算相邻图像捕捉之间的时间间隔。在一些实施方式中,可以由搭载于可移动物体上的一个或多个处理器、未搭载于可移动物体上的处理器或者它们的任何合适组合来执行这样的计算。处理器可以在图像捕捉装置之内或之外。
返回参考图9,当图像捕捉装置围绕第一轴线旋转以捕捉多个图像时,可能期望增稳图像捕捉装置以便在图像捕捉装置的旋转期间使图像捕捉装置和/或其光轴保持水平。有利地,这样的对图像捕捉装置的增稳有助于减小相邻图像之间的垂直位移量,并且因此简化如下文讨论的生成全景图像所需的计算(例如,图像拼接)。
可以沿着至少第二轴线稳定图像捕捉装置708,所述第二轴线可以是X(俯仰)轴线或Z(横滚)轴线。在一些实施方式中,可以针对围绕除了第二轴线之外的第三轴线的移动而稳定图像捕捉装置。第二轴线可以是X(俯仰)轴线并且第三轴线可以是Z(横滚)轴线;或者反之亦然。
还可以沿着一个或多个平移轴线来稳定图像捕捉装置。例如,可以针对沿着X轴线、Y轴线和/或Z轴线的平移运动而稳定图像捕捉装置。
在一些实施方式中,可以至少部分地由安置于可移动物体与载体之间的一个或多个阻尼元件(诸如图4中所讨论的阻尼元件)来实现上文讨论的增稳。阻尼元件可被配置成用于减小或消除本来将会传递至载体并对图像捕捉装置的位置造成改变的运动。
在一些实施方式中,未被阻尼元件移除的诸如高频震动等残余扰动可能传递至载体。可以由诸如图5-图6和图7-图8中所描述的载体来进一步减小这样的残余扰动。例如,耦合至可移动物体、载体和/或图像捕捉装置的传感器可以被载体的控制器所使用,用于生成控制信号,以实现用于增稳载体部件的反向旋转,以便补偿任何检测到的残余扰动。
在一些实施方式中,阻尼元件可以是可选的,并且仅由载体来实现增稳。在一些实施方式中,除了阻尼元件和载体之外,可以使用附加的增稳机构。例如,图像捕捉装置可以包括附加阻尼元件和/或云台支架(例如,在图像捕捉装置之内)以在操作期间稳定光轴。
基于由图像捕捉装置捕捉到的多个图像,可以由搭载于可移动物体上的一个或多个处理器生成全景图像710。至少一些处理器可以在图像捕捉装置之内。或者,用于生成全景图像的所有处理器可以在图像捕捉装置之外。在一些其他实施方式中,至少一些处理器可以不搭载于可移动物体上。
可以使用任何合适的图像拼接算法或步骤来将图像捕捉装置所捕捉到的图像“拼接”在一起。在一些实施方式中,可以将生成于可移动物体机上的全景图像传输至一个或多个远程终端用于显示、储存或者进一步处理。由于由本文所讨论的载体和/或阻尼元件提供的对图像捕捉装置和/或其光轴的增稳,因此可以简化图像拼接算法或步骤。
附加地或备选地,图像拼接步骤可以至少部分地由于相邻图像之间的重叠程度而得到简化。在一些实施方式中,相邻图像之间的重叠被配置成至少为30%、40%、50%、60%、70%、80%、85%、90%等。在一些实施方式中,相邻图像之间的重叠被配置成至多为50%、60%、70%、80%、85%、90%等。在一些实施方式中,相邻图像之间的重叠为介于(含)30%-50%、30%-60%、30%-70%、30%-80%或30%-90%之间。在一些实施方式中,相邻图像之间的重叠为介于40%-50%、40%-60%、40%-70%、40%-80%或40%-90%之间。在一些实施方式中,相邻图像之间的重叠为介于50%-60%、50%-70%、50%-80%或50%-90%之间。在一些实施方式中,相邻图像之间的重叠为介于60%-70%、60%-80%或60%-90%之间。在一些实施方式中,相邻图像之间的重叠为介于70%-80%或70%-90%之间。在一些实施方式中,相邻图像之间的重叠为介于80%-90%之间。在另一些其他实施方式中,相邻图像之间的重叠为介于90%-100%之间。如上文所讨论,相邻图像之间重叠的预定程度可以由用户来配置,或者由系统默认提供。给定重叠的预定范围,系统可以自动计算图像捕捉之间的必要旋转角度或时间间隔,或者如本文所描述的控制全景成像过程的其他参数,以使得图像之间的实际重叠接近于预定重叠。
一般而言,图像拼接可以包括图像配准、全局配准、混合以及/或者其他步骤。图像配准涉及估计用于将图像对相关联的正确对准。可以使用各种全景运动模型来描述如何将来自一个图像的像素坐标映射至另一图像。全景运动模型可以用于对二维(2D)或平面变换建模,诸如平移、欧几里得(平移加旋转)、仿射或投影变换。全景运动模型还可以用于对三维(3D)变换建模。图像配准涉及估计描述图像对之间的对准的合适的运动模型的参数。一种方法是直接(基于像素)对准,其使图像相对于彼此移位或翘曲,以估计使得重叠像素之间的合适的误差度量(诸如绝对差值和(SAD),或者平方差和(SSD))最小化的对准。给定在离散的像素位置{xi=(xi,yi)}处采样的模板图像I0(x),希望找到它在I1(x)中位于何处。对此问题的最小二乘解是要找到SSD函数的最小值:
其中u=(u,v)是位移,而是残余误差。
为了优化误差度量,通常针对一定数目的参数执行搜索,每个参数具有相关联的搜索范围。一些参数可以表示平移位移或矢量,例如,沿着X轴线或Y轴线。一些其他参数可以表示旋转变化。求解SSD需要将u的搜索范围作为输入。传统上,求解SSD通常是计算密集的,这是因为u的搜索范围可能很大。由于载体和本文描述的其他增稳技术所提供的增稳,u的搜索范围可以限于小范围,从而减少搜索所需的计算量。
用于图像配准的另一方法是基于特征的方法,其涉及从每个图像中提取显著特征(或兴趣点),匹配所述特征以建立全局对应,以及基于特征匹配来建立图像之间的变换。特征提取方法可以包括尺度不变特征变换(SIFT)、旋转不变特征变换(RIFT)、加速稳健特征(SURF)等。在特征匹配期间,需要确定哪些特征来自不同图像中的对应位置。任何合适的算法均可用于特征匹配,诸如随机抽样一致(RANSAC)和最小平方中值(LMS)。一旦计算出了一组匹配特征点对应,即可通过估计最佳地配准两个图像的运动参数p来估计两个图像之间的变换。
根据本发明的一个方面,至少部分地由于本发明所公开的用于捕捉用以生成全景图像的图像的技术实质上减小了图像之间的非预定移位和/或旋转,而简化用于生成全景图像的图像拼接步骤中的至少一个步骤。所述技术例如包括使可移动物体悬停并使图像捕捉装置围绕实质上稳定的轴线旋转,同时使图像捕捉装置与诸如本文所描述的载体和/或阻尼元件保持实质上水平。
当使用直接对准方法时,对图像拼接步骤的简化可以包括减小要搜索的参数的数目和/或与搜索参数相关联的搜索范围。例如,要搜索的参数的数目可以减少至两个,一个针对沿着X轴线的位移,一个针对沿着Y轴线的位移。有效地,假定一对相邻图像之间的变换仅包括平移,而没有旋转。在其他实施方式中,要搜索的参数的数目可以减少至任何其他合适的数目,诸如一个、三个、四个等。
附加地或备选地,可以减小与每个搜索参数相关联的搜索范围。例如,可以限制要沿着对应于搜索参数的搜索矢量搜索的像素的范围。在一些实施方式中,将沿着Y轴线的搜索范围限制到不超过图像高度的2%。例如,假定图像高度为1080个像素,则垂直范围是约20个像素,或者介于正负十个(+/-10)像素之间。在其他实施方式中,可以将沿着Y轴线的搜索范围限制于不超过1%、2%、3%、5%或10%。在一些实施方式中,沿着X轴线的搜索范围限制于不超过与图像捕捉装置在连续图像捕捉之间的旋转角度(例如,β)相对应的像素的数目。在一些实施方式中,可以基于实验结果来配置与一些搜索参数相关联的搜索范围。在一些实施方式中,可以预先(例如,在实验设置中)校准在不同分辨率下的搜索范围的参数。例如,可以基于实验来校准旋转误差。给定经校准的旋转误差err,可以将X轴线中的搜索范围大致设定为其中width是经测试分辨率下的图像的水平大小,而FOV是视野。
在一些实施方式中,可以使用插值运算。通常,当位移u是分数时,对I1施加插值运算。插值运算的省略可以简化计算。
当使用基于特征的方法时,对图像拼接步骤的简化可以包括简化对最佳地配准两个重叠图像的运动参数p的估计。载体被配置成用于稳定图像捕捉装置,以便保持预定位置。理想情况下,图像捕捉装置的姿态应当保持不变。然而,由于在对可移动物体的姿态估计中的偏差(例如,误差),对图像捕捉装置的姿态估计中的偏差应当与对可移动物体的姿态估计中的偏差相同。当使用基于特征的方法时,由载体引入的增稳可以保证姿态估计(例如,沿着Y轴线)中的偏差(误差)较小,从而简化整个图像拼接过程。
当捕捉第n个图像时,假定可移动物体的估计的姿态偏差是其中是沿着x轴线的矢量偏差,是沿着y轴线的矢量偏差,是沿着z轴线的矢量偏差,并且Δρn是旋转角度偏差。如果围绕载体旋转轴线的偏差的旋转角度为Δγn,则图像捕捉装置的实时姿态偏差是其中Δρ′n=Δρn+Δγn。这是四参数优化问题,并且通常涉及复杂的计算。然而,考虑到由载体提供的增稳,假设所述四个参数在相对较小的范围内变化。相对而言,Δρ′n的值大于其他三个参数。因此,可以使用诸如角点检测或SIFT等任何合适的特征提取算法,将此四参数优化问题约简或解耦成四个一维参数优化问题。对于第n个图像,可以执行四个一维搜索以按如下确定最优匹配特征点:
1.令求解最优
2.令求解最优
3.令求解最优
4.令求解最优
其中是最佳估计姿态。搜索算法可以包括黄金分割搜索、二分法搜索或者其他一维搜索算法。注意,在四个一维搜索之后找到的解是次优解,其具有接近于全局最优解的表现。
利用简化的图像配准算法,可以显著减少配准两个图像所需的时间。所需时间可取决于图像的分辨率、处理器的处理能力以及其他因素。例如,在一个实施方式中,拼接两个各自具有1920*1080分辨率的图像所需的时间至多为0.2秒,其中由600MHz ARM CortexA9处理器来实现拼接。拼接所需的时间是针对诸如本文所讨论的基于特征的无插值拼接过程。
在一些实施方式中,图像拼接过程可以包括在上文所讨论的成对图像配准之后的全局配准。可以执行全局配准以确定使得所有图像对之间的错误配准最少化的全局一致的一组对准参数。为此,可以将上文所讨论的成对匹配准则扩展至涉及一些或所有的每图像姿态参数的全局能量函数。全局配准可以包括光束法平差和视差消除。光束法平差是指同时调节重叠图像集合的姿态参数的过程。可以使用直接对准方法或者基于特征的方法来执行光束法平差。视差消除可以用于消除由诸如未建模径向畸变、3D视差(未能使相机围绕其光学中心旋转)、小场景运动以及大规模场景运动等因素导致的视差畸变。
在一些实施方式中,由于使用本文所描述的方法在图像捕捉和/或曝光期间由载体和/或阻尼元件提供的对图像捕捉装置的增稳,因此可以简化或优化全局配准过程的各个方面。例如,可以用简化的变换模型(例如,仅平移)、减少的待搜索参数和/或减小的搜索范围,来简化光束法平差。在一些实施方式中,全局配准或其各个方面可以是可选的,并且可以从图像拼接过程中省略。例如,给定由载体提供的高精度增稳,可以从图像拼接过程中省略视差消除。
在一些实施方式中,图像拼接过程可以包括将图像混合成最终的全景图像。混合可以包括将图像投影至复合面上。这样的投影面例如可以是直线形的、圆柱形的、球形的、帕尼尼(Panini)或者立体平画的。混合还可以包括选择最终全景图像的中心场景。在一个实施方式中,从第个图像中选择中心场景,其中N是所拍摄的图像的总数。在一些实施方式中,在诸如本文所描述的基于特征的方法中可以省略投影步骤。
混合还可以包括调节图像以产生更加赏心悦目的视图,诸如调节图像以补偿曝光差异、调节拼接图像之处的接缝线周围的区域以使得接缝的可见度最小化、调节轻微错位等。在一些实施方式中,由于在本文所描述的图像捕捉过程期间由载体和/或阻尼元件提供的对图像捕捉装置的增稳,因此可以简化或优化混合过程的各个方面。
在各个实施方式中,一些步骤可以是可选的、被省略,或者以其他方式使用类似于本文所描述的技术而得到简化。在一些实施方式中,上文所描述的图像拼接过程的至少一些方面可以由远程用户定制。其余方面可被硬编码或预编程。例如,用户可以通过挑选和选择要包括在图像拼接过程中和/或从中排除的步骤、指定用于实现步骤的特定算法、提供用于步骤中的参数、指定搜索参数和/或搜索范围或者提供任何其他合适的定制来定制所述过程。例如,用户可以针对图像配准步骤选择直接对准或基于特征的方法。又例如,用户还可以针对最终全景图像选择投影位置(例如,圆柱形、直线形、球形、帕尼尼(Panini)、立体平画的)。
可以在图像拼接过程开始之前向图像捕捉装置提供这样的用户定制。当可移动物体降落或在空中时,可以向搭载于可移动物体上的和/或图像捕捉装置之内的一个或多个处理器提供表示用户定制的指令或命令。可以经由远程或本地终端提供的接口,或者经由直接由可移动物体和/或图像捕捉装置提供的接口,向可移动物体和/或图像捕捉装置提供这样的指令。
在一些实施方式中,当可移动物体在空中时,上文所描述的至少一些图像拼接步骤完全在可移动物体机上执行。在一些情况下,图像拼接过程的所有步骤完全在可移动物体机上执行。可以将所生成的全景图像传输至远程终端以供使用(例如,显示或储存),而不进行进一步处理。在一些其他情况下,一些图像拼接步骤在可移动物体机上执行,而其余步骤由诸如地面站等一个或多个远程装置执行。在这样的情况下,可以将可移动物体机上的处理结果传输至远程装置以供进一步处理。
在各个实施方式中,图像拼接过程在时间上可以与图像捕捉过程重叠或者可以不与之重叠,所述图像捕捉过程包括图像捕捉装置的旋转以及沿路捕捉图像,如本文所描述。例如,图像处理时间的约10%、20%、30%、40%、50%、60%、70%、80%、85%、90%、95%或100%可以与图像捕捉过程重叠。在一些实施方式中,时间上的重叠可以是显著的(例如,至少50%、60%、70%、80%、85%或90%)。在其他实施方式中,图像拼接过程可以不与图像捕捉过程重叠。例如,图像拼接过程可以在图像捕捉过程已经结束之后开始。
图11-图13图示了根据实施方式的示例性时间轴,其示出了图像拼接过程相对于图像捕捉过程的时序。如图所示,当图像捕捉装置旋转时,在离散的时间处捕捉一组N个图像。例如,图像1拍摄于时间t1时,图像2拍摄于时间t2时,等等。最后图像N拍摄于时间tn时。因此,图像捕捉过程跨越了大约从t1到tn。在相邻图像捕捉之间,图像捕捉装置在由载体和/或阻尼元件稳定以便保持水平位置的同时旋转至下一图像捕捉位置,诸如本文所描述。可以根据预定的或预编程的时间或时间表来拍摄图像。可以响应于其他检测到的参数来拍摄图像。在一些情况下,可以按有规律的间隔来拍摄图像。或者,可以按不规律的间隔或时间段来拍摄图像。
图像拼接过程可以与图像捕捉过程重叠,如图11-图13中所示。图像拼接过程可以在图像拼接过程所需的数据(例如,图像)变得可用时开始。例如,如图11中所示,图像拼接过程可以在t2时拍摄(例如,以配准图像1和图像2)第二图像(图像2)之后不久开始,并持续直到在tn时拍摄最后的图像N之后。当拍摄附加图像时,使用本文所讨论的任何合适的图像配准技术将后续图像与先前图像配准。在一些实施方式中,图像拼接过程的某些全局操作必须在所有的图像可用之后进行。这样的全局操作例如可以包括全局配准、混合等。例如,这样的操作可以发生于在tn时获取最后的图像N之后。这样的全局操作的计算复杂度通常比较早的图像配准步骤更低。此外,执行图像拼接过程所需的时间可以比使图像捕捉装置旋转所花费的时间更少。因此,在一些实施方式中,图像拼接过程的大部分可能在tn时拍摄最后的图像(图像N)之前已经完成。利用在tn之后执行的附加全局操作,整个图像拼接过程可以在tn之后不久结束。例如,在11个图像的情况下,可能存在十个需要混合的接缝。假定每个接缝的混合花费约0.1秒,总混合时间可能在tn之后花费约1秒。
在一些实施方式中,诸如图12中所示,可以在时间片段中执行图像拼接过程。例如,图像拼接过程的一些部分(例如,成对图像配准)可以在图像捕捉之间(例如,t2与t3之间、t3与t4之间等)执行,而图像拼接过程的其他部分(例如,全局配准或混合)可以在拍摄最后的图像之后执行。在一些实施方式中,混合可以在介于相邻图像捕捉之间以及拍摄最后的图像之前的间隔期间,在图像对之间发生。
在一些实施方式中,诸如图13中所示,图像拼接过程可以完全地在图像捕捉过程之后执行。例如,可以在已经拍摄了所有图像之后选择参考图像(例如,第个图像、第个图像、第个图像、第N-1个图像),并且可以用在参考图像之前拍摄的图像和在参考图像之后拍摄的图像来执行图像配准,而不是在附加的图像变得可用时执行成对图像配准。
本文所描述的系统和方法可以由多种可移动物体实现和/或适用于多种可移动物体。本文所描述的系统、装置和方法可以适用于多种可移动物体。如前文所述,本文对飞行器的任何描述均可适用于和用于任何可移动物体。本发明的可移动物体可被配置成用于在任何合适的环境内移动,诸如在空中(例如,固定翼飞行器、旋翼飞行器或者既不具有固定翼也不具有旋翼的飞行器)、在水中(例如,船舶或潜艇)、在地面上(例如,机动车,诸如轿车、卡车、公交车、厢式货车、摩托车;可移动结构或框架,诸如棒状物、钓鱼竿;或者火车)、在地下(例如,地铁)、在太空(例如,航天飞机、卫星或探测器),或者这些环境的任何组合。可移动物体可以是载运工具,诸如本文其他各处所描述的载运工具。在一些实施方式中,可移动物体可以安装在诸如人类或动物等活体身上。合适的动物可以包括灵长类、禽类、犬类、猫类、马类、牛类、羊类、猪类、海豚、啮齿类或昆虫。
可移动物体可以能够在所述环境内关于六个自由度(例如,三个平移自由度和三个旋转自由度)而自由移动。或者,可移动物体的移动可能关于一个或多个自由度受到约束,诸如由预定路径、轨迹或定向所约束。所述移动可以由诸如引擎或电机等任何合适的致动机构所致动。可移动物体的致动机构可以由任何合适的能源提供动力,所述能源诸如为电能、磁能、太阳能、风能、重力能、化学能、核能或者其任何合适的组合。可移动物体可以如本文其他各处所述,经由推进系统而自推进。所述推进系统可以可选地依靠能源运行,所述能源诸如为电能、磁能、太阳能、风能、重力能、化学能、核能或者其任何合适的组合。或者,可移动物体可以由生物所承载。
在一些情况下,所述可移动物体可以是载运工具。合适的载运工具可以包括水上载运工具、飞行器、太空载运工具或地面载运工具。例如,飞行器可以是固定翼飞行器(例如,飞机、滑翔机)、旋翼飞行器(例如,直升机、旋翼飞机)、同时具有固定翼和旋翼的飞行器或者既无固定翼又无旋翼的飞行器(例如,飞艇、热气球)。载运工具可以是自推进式,诸如在空中、在水上或水中、在太空中或者在地上或地下自推进。自推进式载运工具可以利用推进系统,诸如包括一个或多个引擎、电机、轮子、轮轴、磁体、旋翼、螺旋桨、桨叶、喷嘴或者其任何合适组合的推进系统。在一些情况下,推进系统可以用于使可移动物体能够从表面起飞、降落在表面上、保持其当前位置和/或定向(例如,悬停)、改变定向和/或改变位置。
可移动物体可以由用户遥控或者由可移动物体之内或之上的乘员在本地控制。在一些实施方式中,可移动物体是无人的可移动物体,诸如UAV。无人的可移动物体(诸如UAV)可以不具有搭乘所述可移动物体的乘员。可移动物体可以由人类或自主控制系统(例如,计算机控制系统)或者其任何合适的组合来控制。可移动物体可以是自主式或半自主式机器人,诸如配置有人工智能的机器人。
可移动物体可以具有任何合适的大小和/或尺寸。在一些实施方式中,可移动物体可以具有能容纳人类乘员身处载运工具之内或之上的大小和/或尺寸。或者,可移动物体可以具有比能够容纳人类乘员身处载运工具之内或之上的大小和/或尺寸更小的大小/或尺寸。可移动物体可以具有适合于由人类搬运或承载的大小和/或尺寸。或者,可移动物体可以大于适合由人类搬运或承载的大小和/或尺寸。在一些情况下,可移动物体可以具有的最大尺寸(例如,长度、宽度、高度、直径、对角线)小于或等于约:2cm、5cm、10cm、50cm、1m、2m、5m或10m。所述最大尺寸可以大于或等于约:2cm、5cm、10cm、50cm、1m、2m、5m或10m。例如,可移动物体的相对的旋翼的轴之间的距离可以小于或等于约:2cm、5cm、10cm、50cm、1m、2m、5m或10m。或者,相对的旋翼的轴之间的距离可以大于或等于约:2cm、5cm、10cm、50cm、1m、2m、5m或10m。
在一些实施方式中,可移动物体可以具有小于100cm x 100cm x 100cm、小于50cmx 50cm x 30cm或小于5cm x 5cm x 3cm的体积。可移动物体的总体积可以小于或等于约:1cm3、2cm3、5cm3、10cm3、20cm3、30cm3、40cm3、50cm3、60cm3、70cm3、80cm3、90cm3、100cm3、150cm3、200cm3、300cm3、500cm3、750cm3、1000cm3、5000cm3、10,000cm3、100,000cm3、1m3或10m3。相反地,可移动物体的总体积可以大于或等于约:1cm3、2cm3、5cm3、10cm3、20cm3、30cm3、40cm3、50cm3、60cm3、70cm3、80cm3、90cm3、100cm3、150cm3、200cm3、300cm3、500cm3、750cm3、1000cm3、5000cm3、10,000cm3、100,000cm3、1m3或10m3
在一些实施方式中,可移动物体可以具有的占地面积(这可以指由所述可移动物体所包围的横截面面积)小于或等于约:32,000cm2、20,000cm2、10,000cm2、1,000cm2、500cm2、100cm2、50cm2、10cm2或5cm2。相反地,所述占地面积可以大于或等于约:32,000cm2、20,000cm2、10,000cm2、1,000cm2、500cm2、100cm2、50cm2、10cm2或5cm2
在一些情况下,可移动物体可以不超过1000kg重。可移动物体的重量可以小于或等于约:1000kg、750kg、500kg、200kg、150kg、100kg、80kg、70kg、60kg、50kg、45kg、40kg、35kg、30kg、25kg、20kg、15kg、12kg、10kg、9kg、8kg、7kg、6kg、5kg、4kg、3kg、2kg、1kg、0.5kg、0.1kg、0.05kg或0.01kg。相反地,所述重量可以大于或等于约:1000kg、750kg、500kg、200kg、150kg、100kg、80kg、70kg、60kg、50kg、45kg、40kg、35kg、30kg、25kg、20kg、15kg、12kg、10kg、9kg、8kg、7kg、6kg、5kg、4kg、3kg、2kg、1kg、0.5kg、0.1kg、0.05kg或0.01kg。
在一些实施方式中,可移动物体相对于所述可移动物体所承载的负载可以较小。如下文进一步详述,所述负载可以包括有效载荷和/或载体。在一些示例中,可移动物体的重量与负载重量之比可以大于、小于或等于约1∶1。在一些情况下,可移动物体的重量与负载重量之比可以大于、小于或等于约1∶1。可选地,载体重量与负载重量之比可以大于、小于或等于约1∶1。当需要时,可移动物体的重量与负载重量之比可以小于或等于:1∶2、1∶3、1∶4、1∶5、1∶10或者甚至更小。相反地,可移动物体的重量与负载重量之比还可以大于或等于:2∶1、3∶1、4∶1、5∶1、10∶1或者甚至更大。
在一些实施方式中,可移动物体可以具有低能耗。例如,可移动物体可以使用小于约:5W/h、4W/h、3W/h、2W/h、1W/h或更小。在一些情况下,可移动物体的载体可以具有低能耗。例如,所述载体可以使用小于约:5W/h、4W/h、3W/h、2W/h、1W/h或更小。可选地,可移动物体的有效载荷可以具有低能耗,诸如小于约:5W/h、4W/h、3W/h、2W/h、1W/h或更小。
图14图示了根据本发明的实施方式的UAV 1000。所述UAV可以是本文所述的可移动物体的示例。UAV 1000可以类似于图2中描述的UAV,区别在于UAV 1000可以包括用于当UAV不在空中时在表面(例如,地面)上支撑UAV的一个或多个支撑构件1016。支撑构件1016可被附加地配置成用于保护由UAV承载的负载。在一些实施方式中,支撑构件可以是UAV的整体部分。在其他实施方式中,支撑构件可以是可从UAV拆卸的。
UAV 1000可以包括具有四个旋翼1002、1004、1006和1008的推进系统。可以提供任何数目的旋翼(例如,一个、两个、三个、四个、五个、六个或更多个)。无人飞行器的旋翼、旋翼组合件或其他推进系统可使所述无人飞行器能够悬停/保持位置、改变定向和/或改变位置。相对的旋翼的轴之间的距离可以是任何合适的长度1010。例如,长度1010可以小于或等于2m,或者小于或等于5m。在一些实施方式中,长度1010可以在从40cm到1m、从10cm到2m或者从5cm到5m的范围内。本文对UAV的任何描述均可适用于可移动物体,诸如不同类型的可移动物体,并且反之亦然。
在一些实施方式中,可移动物体可以被配置成用于承载负载。所述负载可以包括乘客、货物、设备、仪器等之中的一种或多种。所述负载可以提供在外壳内。所述外壳可以与可移动物体的外壳相分离,或者是与可移动物体相同的壳体。或者,负载可以具备外壳,而可移动物体不具有外壳。或者,负载的一些部分或者整个负载可以在不具有外壳的情况下提供。负载可以相对于所述可移动物体刚性固定。可选地,负载可以是相对于可移动物体可以移动的(例如,可以相对于可移动物体平移或旋转)。
在一些实施方式中,负载包括有效载荷1012。所述有效载荷可被配置成不执行任何操作或功能。或者,有效载荷可以是被配置成用于执行操作或功能的有效载荷,也称为功能性有效载荷。例如,有效载荷可以包括一个或多个传感器,用于勘测一个或多个目标。可以向有效载荷中合并任何合适的传感器,诸如图像捕捉装置(例如,相机)、音频捕捉装置(例如,抛物面麦克风)、红外成像装置或紫外成像装置。所述传感器可以提供静态感测数据(例如,照片)或动态感测数据(例如,视频)。在一些实施方式中,传感器提供针对有效载荷的目标的感测数据。备选地或组合地,有效载荷可以包括一个或多个发射体,用于向一个或多个目标提供信号。可以使用任何合适的发射体,诸如照明源或声源。在一些实施方式中,有效载荷包括一个或多个收发器,诸如用于与远离可移动物体的模块通信的收发器。可选地,有效载荷可被配置成用于与环境或目标交互。例如,有效载荷可以包括能够操纵物体的工具、仪器或机构,诸如机械臂。
可选地,负载可以包括载体1014。可以提供载体用于有效载荷,并且所述有效载荷可经由所述载体直接地(例如,直接接触可移动物体)或间接地(例如,不接触可移动物体)耦合至可移动物体。相反地,有效载荷可在无需载体的情况下安装于可移动物体上。有效载荷可以与载体一体形成。或者,有效载荷可以可拆卸地耦合至载体。在一些实施方式中,有效载荷可以包括一个或多个有效载荷元件,并且所述有效载荷元件中的一个或多个可以如上文所述是相对于可移动物体和/或载体可移动的。
载体可以与可移动物体一体形成。或者,载体可以可拆卸地耦合至可移动物体。载体可以直接地或间接地耦合至可移动物体。载体可以向有效载荷提供支撑(例如,承载所述有效载荷的重量的至少一部分)。载体可以包括能够稳定和/或引导有效载荷的移动的合适的安装结构(例如,云台平台)。在一些实施方式中,载体可以适于控制有效载荷相对于可移动物体的状态(例如,位置和/或定向)。例如,载体可被配置成用于相对于可移动物体而移动(例如,关于一个、两个或三个平移自由度以及/或者一个、两个或三个旋转自由度),以使得有效载荷与可移动物体的移动无关地保持其相对于合适的参考系的位置和/或定向。所述参考系可以是固定参考系(例如,周围环境)。或者,所述参考系可以是移动参考系(例如,可移动物体、有效载荷目标)。
在一些实施方式中,载体可被配置成用于允许有效载荷相对于载体和/或可移动物体的移动。所述移动可以是关于多达三个自由度的平移(例如,沿着一个、两个或三个轴线)或者是关于多达三个自由度的旋转(例如,围绕一个、两个或三个轴线),或者是其任何合适的组合。
在一些情况下,载体可以包括载体机架组合件以及载体致动组合件。所述载体机架组合件可以向有效载荷提供结构支撑。载体机架组合件可以包括单个的载体机架部件,其中一些部件可以是可相对于彼此移动的。所述载体致动组合件可以包括一个或多个致动器(例如,电机),所述致动器致动单个载体机架部件的移动。致动器可以允许多个载体机架部件的同时移动,或者可被配置成用于每次允许单一载体机架部件的移动。载体机架部件的移动可以产生有效载荷的对应移动。例如,载体致动组合件可以致动一个或多个载体机架部件围绕一个或多个旋转轴线(例如,横滚轴线、俯仰轴线或偏航轴线)的旋转。所述一个或多个载体机架部件的旋转可以使有效载荷相对于可移动物体围绕一个或多个旋转轴线旋转。备选地或组合地,载体致动组合件可以致动一个或多个载体机架部件沿着一个或多个平移轴线的平移,并从而产生有效载荷相对于可移动物体沿着一个或多个对应的轴线的平移。
在一些实施方式中,可移动物体、载体和有效载荷相对于固定参考系(例如,周围环境)和/或相对于彼此的移动可以由终端来控制。所述终端可以是处于远离所述可移动物体、载体和/或有效载荷的位置处的遥控装置。终端可以安置于支撑平台上或者固定至支撑平台。或者,终端可以是手持式或可穿戴式装置。例如,终端可以包括智能电话、平板计算机、膝上型计算机、计算机、眼镜、手套、头盔、麦克风或者其合适的组合。终端可以包括用户接口,诸如键盘、鼠标、操纵杆、触摸屏或显示器。任何合适的用户输入均可用于与终端交互,诸如手动输入命令、语音控制、手势控制或位置控制(例如,经由终端的移动、位置或倾斜)。
终端可以用于控制可移动物体、载体和/或有效载荷的任何合适的状态。例如,终端可以用于控制可移动物体、载体和/或有效载荷相对于固定参考物从和/或向彼此的位置和/或定向。在一些实施方式中,终端可以用于控制可移动物体、载体和/或有效载荷的单个元件,诸如载体的致动组合件、有效载荷的传感器或者有效载荷的发射体。终端可以包括适于与可移动物体、载体或有效载荷中的一个或多个相通信的无线通信装置。
终端可以包括用于查看可移动物体、载体和/或有效载荷的信息的合适的显示单元。例如,终端可被配置成用于显示可移动物体、载体和/或有效载荷的信息,所述信息关于位置、平移速度、平移加速度、定向、角速度、角加速度或其任何合适的组合。在一些实施方式中,终端可以显示由有效载荷提供的信息,诸如由功能性有效载荷提供的数据(例如,由相机或其他图像捕捉装置记录的图像)。
可选地,同一终端可以同时控制可移动物体、载体和/或有效载荷或者所述可移动物体、载体和/或有效载荷的状态,以及接收和/或显示来自所述可移动物体、载体和/或有效载荷的信息。例如,终端可以控制有效载荷相对于环境的位置,同时显示由有效载荷捕捉的图像数据,或者关于有效载荷的位置的信息。或者,不同的终端可以用于不同的功能。例如,第一终端可以控制可移动物体、载体和/或有效载荷的移动或状态,而第二终端可以接收和/或显示来自可移动物体、载体和/或有效载荷的信息。例如,第一终端可以用于控制有效载荷相对于环境的定位,而第二终端显示由有效载荷捕捉的图像数据。可以在可移动物体与同时控制可移动物体并接收数据的集成式终端之间,或者在可移动物体与同时控制可移动物体并接收数据的多个终端之间利用各种通信模式。例如,可以在可移动物体与同时控制可移动物体并接收来自可移动物体的数据的终端之间形成至少两种不同的通信模式。
图15图示了根据实施方式的包括载体1102和有效载荷1104的可移动物体1100。虽然可移动物体1100被描绘为飞行器,但这样的描绘并不旨在成为限制性的,并且如前文所述可以使用任何合适类型的可移动物体。本领域技术人员将会理解,本文在飞行器系统的情景下描述的任何实施方式均可适用于任何合适的可移动物体(例如,UAV)。在一些情况下,可以在可移动物体1100上提供有效载荷1104而无需载体1102。可移动物体1100可以包括推进机构1106、感测系统1108和通信系统1110。
如前文所述,推进机构1106可以包括旋翼、螺旋桨、桨叶、引擎、电机、轮子、轮轴、磁体或喷嘴中的一种或多种。可移动物体可以具有一个或多个、两个或更多个、三个或更多个或者四个或更多个推进机构。推进机构可以全都是同一类型。或者,一个或多个推进机构可以是不同类型的推进机构。推进机构1106可以使用任何合适的装置而安装在可移动物体1100上,所述装置诸如为本文其他各处所述的支撑元件(例如,驱动轴)。推进机构1106可以安装在可移动物体1100的任何合适的部分上,诸如顶部、底部、前面、后面、侧面或其合适的组合。
在一些实施方式中,推进机构1106可以使得可移动物体1100能够从表面垂直地起飞或者垂直地降落在表面上,而无需可移动物体1100的任何水平移动(例如,无需沿着跑道行进)。可选地,推进机构1106可以可操作以允许可移动物体1100以指定位置和/或定向悬停于空中。一个或多个推进机构1100可以独立于其他推进机构得到控制。或者,推进机构1100可被配置成同时受到控制。例如,可移动物体1100可以具有多个水平定向的旋翼,所述旋翼可以向所述可移动物体提供升力和/或推力。可以致动所述多个水平定向的旋翼以向可移动物体1100提供垂直起飞、垂直降落以及悬停能力。在一些实施方式中,所述水平定向的旋翼中的一个或多个可以在顺时针方向上旋转,同时所述水平旋翼中的一个或多个可以在逆时针方向上旋转。例如,顺时针旋翼的数目可以等于逆时针旋翼的数目。每个水平定向的旋翼的旋转速率可独立地改变,以便控制由每个旋翼产生的升力和/或推力,并从而调节可移动物体1100的空间位置、速度和/或加速度(例如,关于多达三个平移自由度和多达三个旋转自由度)。
感测系统1108可以包括一个或多个传感器,所述传感器可以感测可移动物体1100的空间位置、速度和/或加速度(例如,关于多达三个平移自由度和多达三个旋转自由度)。所述一个或多个传感器可以包括本文先前所述的任何传感器,包括GPS传感器、运动传感器、惯性传感器、距离传感器或图像传感器。由感测系统1108提供的感测数据可以用于控制可移动物体1100的空间位置、速度和/或定向(例如,使用合适的处理单元和/或控制模块,如下文所述)。或者,感测系统1108可以用于提供关于可移动物体周围环境的数据,诸如气象条件、距潜在障碍物的距离、地理特征的位置、人造结构的位置等。
通信系统1110支持经由无线信号1116与具有通信系统1114的终端1112的通信。通信系统1110、通信系统1114可以包括任何数目的适合于无线通信的发射器、接收器和/或收发器。所述通信可以是单向通信,使得数据只能在一个方向上传输。例如,单向通信可以仅涉及可移动物体1100向终端1112传输数据,或者反之亦然。数据可以从通信系统1110的一个或多个发射器传输至通信系统1112的一个或多个接收器,或者反之亦然。或者,所述通信可以是双向通信,使得数据在可移动物体1100与终端1112之间的两个方向上均可传输。双向通信可以涉及从通信系统1110的一个或多个发射器向通信系统1114的一个或多个接收器传输数据,并且反之亦然。
在一些实施方式中,终端1112可以向可移动物体1100、载体1102和有效载荷1104中的一个或多个提供控制数据,以及从可移动物体1100、载体1102和有效载荷1104中的一个或多个接收信息(例如,可移动物体、载体或有效载荷的位置和/或运动信息;由有效载荷感测的数据,诸如由有效载荷相机捕捉的图像数据;以及从有效载荷相机所捕捉的图像数据生成的全景图像)。在一些情况下,来自终端的控制数据可以包括针对可移动物体、载体和/或有效载荷的相对位置、移动、致动或控制的指令。例如,控制数据可以导致可移动物体的位置和/或定向的修改(例如,经由推进机构1106的控制),或者有效载荷相对于可移动物体的移动(例如,经由载体1102的控制)。来自终端的控制数据可以导致对有效载荷的控制,诸如对相机或其他图像捕捉装置的操作的控制(例如,拍摄静态或移动图片、放大或缩小、开启或关闭、切换成像模式、改变图像分辨率、改变聚焦、改变景深、改变曝光时间、改变视角或视野)。
在一些实施方式中,控制数据可以包括用于开始和/或结束全景成像模式的指令。用于开始全景成像模式的指令可以使可移动物体悬停于预定位置处。随后,可以控制载体在有效载荷捕捉多个图像时使有效载荷围绕预定轴线(例如,Y或偏航轴线)旋转某一预定角度。载体可被配置成用于相对于一个或两个其他轴线(例如,X和/或Z轴线)稳定有效载荷,以使得所述有效载荷在其捕捉图像时保持预定位置。例如,有效载荷可被稳定以便相对于地面保持水平或固定的角度。在一些实施方式中,控制数据还可以包括用户提供的参数,用于控制如本文所描述的全景成像过程和/或图像拼接过程的各个方面。
在一些情况下,来自可移动物体、载体和/或有效载荷的通信可以包括来自一个或多个传感器(例如,感测系统1108的或有效载荷1104的传感器)的信息以及/或者基于感测信息而生成的数据(例如,基于有效载荷所捕捉的图像而生成的全景图像)。所述通信可以包括来自一个或多个不同类型的传感器(例如,GPS传感器、运动传感器、惯性传感器、距离传感器或图像传感器)的感测到的信息。这样的信息可以关于可移动物体、载体和/或有效载荷的位置(例如,位置、定向)、移动或加速度。来自有效载荷的这样的信息可以包括由所述有效载荷捕捉的数据或所述有效载荷的感测到的状态。由终端1112传输的控制数据可被配置成用于控制可移动物体1100、载体1102或有效载荷1104中的一个或多个的状态。备选地或组合地,载体1102和有效载荷1104还可以各自包括通信模块,所述通信模块被配置成用于与终端1112通信,以使得所述终端可独立地与可移动物体1100、载体1102和有效载荷1104中的每一个通信和对其加以控制。
在一些实施方式中,可移动物体1100可被配置成用于与另一远程装置相通信——附加于终端1112或代替终端1112。终端1112也可被配置成用于与另一远程装置以及可移动物体1100相通信。例如,可移动物体1100和/或终端1112可以与另一可移动物体或者另一可移动物体的载体或有效载荷相通信。当需要时,所述远程装置可以是第二终端或其他计算装置(例如,计算机、膝上型计算机、平板计算机、智能电话或其他移动装置)。远程装置可被配置成用于向可移动物体1100传输数据、从可移动物体1100接收数据、向终端1112传输数据以及/或者从终端1112接收数据。可选地,远程装置可以连接至因特网或其他电信网络,以使得从可移动物体1100和/或终端1112接收的数据可被上传至网站或服务器。
图16图示了根据实施方式的用于全景成像的示例性系统1200。系统1200可以与本文所公开的系统、装置和方法的任何合适的实施方式结合使用。例如,系统1200可以由可移动物体实现或承载。系统1200可以包括感测模块1202、处理单元1204、非暂时性计算机可读介质1206、控制模块1208和通信模块1210。
感测模块1202可以利用以不同方式收集与可移动物体有关的信息的不同类型的传感器。不同类型的传感器可以感测不同类型的信号或者来自不同来源的信号。例如,所述传感器可以包括惯性传感器、GPS传感器、距离传感器(例如,激光雷达)或视觉/图像传感器(例如,相机)。感测模块1202可以可操作地耦合至具有多个处理器的处理单元1204。在一些实施方式中,感测模块可以可操作地耦合至传输模块1212(例如,Wi-Fi图像传输模块),所述传输模块被配置成用于向合适的外部装置或系统直接传输感测数据。例如,传输模块1212可以用于向远程终端传输由感测模块1202的相机捕捉的图像。
处理单元1204可以具有一个或多个处理器,诸如可编程处理器(例如,中央处理单元(CPU))。例如,处理单元1204可以包括现场可编程门阵列(FPGA)和/或一个或多个ARM处理器。处理单元1204可以可操作地耦合至非暂时性计算机可读介质1206。非暂时性计算机可读介质1206可以储存可由处理单元1204执行的逻辑、代码和/或程序指令,用以执行一个或多个步骤。非暂时性计算机可读介质可以包括一个或多个存储器单元(例如,可移动介质或外部存储,诸如SD卡或随机存取存储器(RAM))。在一些实施方式中,来自感测模块1202的数据可直接传送至并储存于非暂时性计算机可读介质1206的存储器单元内。非暂时性计算机可读介质1206的存储器单元可以储存可由处理单元1204执行的逻辑、代码和/或程序指令,用以执行本文所描述的方法的任何合适的实施方式。例如,处理单元1204可被配置成用于执行指令,从而使处理单元1204的一个或多个处理器执行本文所讨论的图像拼接过程。存储器单元可以储存要由处理单元1204处理的、来自感测模块的感测数据。在一些实施方式中,非暂时性计算机可读介质1206的存储器单元可以用于储存由处理单元1204产生的处理结果。
在一些实施方式中,处理单元1204可以可操作地耦合至控制模块1208,所述控制模块1208被配置成用于控制可移动物体的状态。例如,控制模块1208可被配置成用于控制可移动物体的推进机构以调节可移动物体关于六个自由度的空间位置、速度和/或加速度。例如,控制模块1208可被配置成用于使UAV保持悬停位置。备选地或组合地,控制模块1208可以控制载体、有效载荷或感测模块的状态中的一个或多个。例如,控制模块1208可以用于控制载体以便使有效载荷(例如,图像捕捉装置)围绕第一轴线(例如,Y或偏航轴线)旋转,同时保持预定位置(例如,水平位置)。控制模块1208还可以用于控制有效载荷在所述有效载荷旋转的同时以按预定间隔捕捉多个图像。
处理单元1204可以可操作地耦合至通信模块1210,所述通信模块1210被配置成用于传输数据和/或接收来自一个或多个外部装置(例如,终端、显示装置或其他遥控器)的数据。可以使用任何合适的通信手段,诸如有线通信或无线通信。例如,通信模块1210可以利用局域网(LAN)、广域网(WAN)、红外线、无线电、WiFi、点对点(P2P)网络、电信网络、云通信等之中的一种或多种。可选地,可以使用中继站,诸如塔、卫星或移动台。无线通信可以依赖于距离或独立于距离。在一些实施方式中,通信可能需要或者可能不需要视线。通信模块1210可以传输和/或接收来自感测模块1202的感测数据、以及/或者由处理单元1204产生的处理结果(例如,由捕捉的图像生成的全景图像)、来自终端或遥控器的预定控制数据或用户命令等之中的一个或多个。
系统1200的部件可以按任何合适的配置来布置。例如,系统1200的一个或多个部件可以位于可移动物体、载体、有效载荷、终端、感测系统或与上述的一个或多个相通信的附加的外部装置上。此外,虽然图16描绘了单一处理单元1204、单一非暂时性计算机可读介质1206以及单一控制模块1208,但本领域技术人员将会理解,这并不旨在成为限制性的,并且系统1200可以包括多个处理单元、控制模块和/或非暂时性计算机可读介质。在一些实施方式中,多个处理单元、控制模块和/或非暂时性计算机可读介质中的一个或多个可以位于不同的位置,诸如在可移动物体、载体、有效载荷、终端、感测模块、与上述的一个或多个相通信的附加的外部装置上或其合适的组合,以使得由系统1200执行的处理和/或存储器功能的任何合适的方面可以发生于一个或多个上述位置处。例如,被配置成用于实现图像拼接过程的处理单元可位于有效载荷(例如,图像捕捉装置)之上或之内、载体上或者可移动物体上。
图17图示了根据实施方式的用于控制可移动物体的示例性系统1300。系统1300可以用于控制诸如UAV等可移动物体。系统1300可以与本文所公开的系统、装置和方法的任何合适的实施方式相组合使用。例如,系统1300可以由诸如本文所描述的远程终端来实现。系统1300可以包括输入模块1302、处理单元1304、非暂时性计算机可读介质1306、显示模块1308和通信模块1310,所有的模块经由总线或类似的网络互连起来。
输入模块1302可以包括一个或多个输入机构,用于接收来自操作所述输入模块的用户的输入。这样的输入机构可以包括一个或多个操纵杆、开关、旋钮、滑动开关、按钮、标度盘、触摸屏、小键盘、键盘、鼠标、语音控制、手势控制、惯性传感器等。这样的输入模块1302可以用于接收用以控制可移动物体、载体、有效载荷或其部件的各个方面的用户输入。这样的方面可以包括姿态、位置、定向、导航、跟踪、全景成像等。例如,输入机构可以由用户手动地设定于一个或多个位置,每个位置对应于用于控制UAV的预定输入。
在一些实施方式中,输入机构可以由用户操纵以输入控制命令,用于控制可移动物体的导航。例如,用户可以利用旋钮、开关或类似的输入机构来输入可移动物体的飞行模式,诸如根据预定导航路径的自动驾驶或导航。又例如,用户可以通过以某些方式倾斜控制终端来控制可移动物体的位置、姿态、定向和其他方面,所述倾斜可以由一个或多个惯性传感器检测到并且用于生成对应的导航命令。再例如,用户可以使用输入机构来调节有效载荷的操作参数(例如,缩放)、姿态和/或有效载荷(例如,经由载体)或者搭载于可移动物体上的任何物体的其他方面。
在一些实施方式中,输入机构可以由用户使用,以控制诸如本文所描述的全景成像过程的各个方面。例如,用户可以使用输入机构来选择全景模式、提供与全景成像过程有关的参数、从可移动物体和/或有效载荷接收生成的全景图像。在各个实施方式中,输入模块可以通过不止一个装置来实现。例如,输入模块可以通过具有一个或多个操纵杆的标准遥控器来实现,所述标准遥控器可操作地与移动装置(例如,智能电话)相耦合,所述移动装置运行可以生成针对可移动物体的控制指令的合适的移动应用软件(“app”)。所述app可被配置成用于获取来自用户的输入。
处理单元1304可以具有一个或多个处理器,诸如可编程处理器(例如,中央处理单元(CPU)或微控制器)。处理单元1304可以可操作地耦合至存储器1306。存储器1306可以包括暂时性和/或非暂时性存储介质,所述存储介质被配置成用于储存数据,以及/或者可由处理单元1304执行用以执行一个或多个例程或功能的逻辑、代码和/或程序指令。存储器可以包括一个或多个存储器单元(例如,可移动介质或外部存储,诸如SD卡或随机存取存储器(RAM))。在一些实施方式中,来自输入模块1302的数据可以直接传送至并储存在存储器1306的存储器单元内。存储器1306的存储器单元可以储存可由处理单元1304执行用以执行本文所述方法的任何合适的实施方式的逻辑、代码和/或程序指令。例如,处理单元1304可被配置成用于执行指令,以使处理单元1304的一个或多个处理器处理和显示从可移动物体接收的感测数据(例如,捕捉到的图像)或经处理的数据(例如,经拼接的图像)、基于用户输入生成包括导航命令和其他信息的控制命令、使通信模块1310传输和/或接收数据等。存储器单元可以储存感测数据或者从外部装置(例如,可移动物体)接收的其他数据。在一些实施方式中,存储器1306的存储器单元可以用于储存由处理单元1304所产生的处理结果。虽然图17描绘了单一处理单元1304和单一存储器1306,但本领域技术人员将会理解,这并不旨在成为限制性的,并且系统1300可以包括多个处理单元和/或存储器的存储器单元。
在一些实施方式中,显示模块1308可被配置成用于显示可移动物体、载体和/或有效载荷的信息,所述信息关于位置、平移速度、平移加速度、定向、角速度、角加速度或其任何合适的组合。显示模块1308可被配置成用于显示从可移动物体和/或有效载荷接收的信息,诸如感测数据(例如,由相机或其他图像捕捉装置记录的图像)、诸如由搭载于可移动物体上的处理器生成的经拼接图像等经处理的数据、在图像拼接过程期间生成的中间数据、控制反馈数据等。在一些实施方式中,显示模块1308可以由实现输入模块1302的同一装置实现。在其他实施方式中,显示模块1308可以由与实现输入模块1302的装置分开(但可以可操作地与之耦合)的装置来实现。
通信模块1310可被配置成用于传输和/或从一个或多个远程装置(例如,可移动物体、有效载荷、基站等)接收数据。例如,通信模块1310可被配置成用于向诸如可移动物体、载体和/或有效载荷等外部系统或装置传输控制数据(例如,导航命令、控制命令)。通信模块1310还可被配置成用于从这样的外部系统或装置接收数据(例如,感测数据和图像拼接数据)。在一些实施方式中,通信模块1310可以包括发射器1312和接收器1314,它们分别被配置成用于向远程装置传输数据和从远程装置接收数据。在一些实施方式中,通信模块可以包括结合了发射器和接收器的功能的收发器。在一些实施方式中,发射器和接收器可以彼此通信,以及与处理单元1304通信。可以使用任何合适的通信手段,诸如本文所描述的有线通信或无线通信。
在一些实施方式中,图像捕捉装置可被配置成用于提供图像增稳能力,以替代于或附加于由如本文所描述的载体提供的增稳。图18图示了根据一些实施方式的具有图像增稳能力的示例性图像捕捉装置1800。图像捕捉装置1800可被配置成用于提供图像增稳,以补偿图像捕捉装置的各种非预定移动。可以得到增稳的装置的可补偿移动可以包括平移移动和/或旋转移动。平移移动可以沿着某一个或几个轴线。例如,平移移动可以包括沿着X轴线1804的平移移动1810、沿着Y轴线1806的平移移动1812和/或沿着Z轴线1808的平移移动1814。X轴线1802、Y轴线1806和Z轴线1808可以彼此正交。Z轴线1808可以实质上平行于图像捕捉装置的光轴。旋转移动可以围绕某一个或几个轴线。例如,旋转移动可以包括如下的移动,包括:围绕X(俯仰)轴线1804的旋转移动1816、围绕Y(偏航)轴线1808的旋转移动1818和/或围绕Z(横滚)轴线1808的旋转移动1820。
在各个实施方式中,图像捕捉装置可被配置成用于提供针对围绕或沿着一个、两个、三个、四个、五个、六个或更多个轴线的移动的图像增稳。例如,图像捕捉装置可被配置成用于提供针对沿着或围绕X、Y或Z轴线的移动的一轴增稳。图像捕捉装置可被配置成用于提供两轴稳定。可以针对围绕X、Y和Z轴线中的两个轴线的旋转移动,沿着X、Y和Z轴线中的两个轴线的平移移动,或者围绕X、Y和Z轴线中之一的旋转移动和沿着X、Y和Z轴线中之一的平移移动的组合,来提供两轴增稳。图像捕捉装置可被配置成用于提供三轴增稳。可以针对围绕X、Y和Z轴线三者的旋转移动,沿着X、Y和Z轴线三者的平移移动,围绕X、Y和Z轴线中之一的旋转移动和沿着X、Y和Z轴线中的两个轴线的平移移动的组合,或者围绕X、Y和Z轴线中的两个轴线的旋转移动和沿着X、Y和Z轴线中之一的平移移动的组合,来提供三轴增稳。图像捕捉装置可被配置成用于提供四轴增稳。可以针对围绕X、Y和Z轴线的旋转移动加上沿着X、Y和Z轴线中之一的平移移动,围绕X、Y和Z轴线中的两个轴线的旋转移动加上沿着X、Y和Z轴线中的两个轴线的平移移动,或者围绕X、Y和Z轴线中之一的旋转移动加上沿着X、Y和Z轴线三者的平移移动,来提供四轴增稳。图像捕捉装置可被配置成用于提供五轴增稳。可以针对围绕X、Y和Z轴线三者的旋转移动加上沿着X、Y和Z轴线中的两个轴线(例如,X和Y轴线、X和Z轴线,或者Y和Z轴线)的平移移动,或者围绕X、Y和Z轴线中的两个轴线的旋转移动加上沿着X、Y和Z轴线三者的平移移动,来提供五轴增稳。图像捕捉装置可被配置成用于提供六轴增稳。可以针对围绕X、Y和Z轴线三者的旋转移动加上沿着X、Y和Z轴线三者的平移移动,来提供六轴增稳。
图19图示了根据一些实施方式的被配置成用于提供图像增稳的图像捕捉装置1900的示例性部件。图像捕捉装置1900可以与本文所公开的系统、装置和方法的任何合适的实施方式相组合使用。例如,图像捕捉装置可以与本文所讨论的UAV一起使用。图像捕捉装置可以用载体或者不用载体而耦合至UAV。载体可以提供或者可以不提供对图像捕捉装置的增稳。图像捕捉装置1900可以包括感测模块1902、处理单元1904、控制模块1906、计算机可读介质1905和致动模块1908。在各个实施方式中,图像捕捉装置可以包括比本文所讨论示出的更多或更少的部件。例如,图像捕捉装置还可以包括镜头或光学组合件以及图像传感器。
感测模块1902可以包括被配置成用于检测图像捕捉装置的移动的运动传感器。例如,运动传感器可以包括惯性传感器、加速度计、陀螺仪、GPS传感器、距离传感器等。运动传感器可被配置成用于检测图像捕捉装置关于诸如联系图18所讨论的一个、两个、三个、四个、五个、六个或更多个轴线的移动。在各个实施方式中,运动传感器可以耦合至图像捕捉装置的任何一个或多个合适的部件,诸如外壳或主体、镜头、图像传感器等。运动传感器可以安置于图像捕捉装置的任何合适的部分,诸如图像捕捉装置的内部或外部。
感测模块1902还可以包括被配置成用于将光信号转换成电子信号的一个或多个图像传感器。图像传感器可以包括半导体电荷耦合装置(CCD)、使用互补金属氧化物半导体(CMOS)或N型金属氧化物半导体(NOMS、Live MOS)技术的有源像素传感器或者任何其他类型的传感器。图像传感器可以光学地耦合至光学组合件,以便捕捉图像、视频或者具有任何合适的参数的其他图像数据,所述参数诸如为宽度、高度、宽高比、百万像素数、分辨率或质量等。例如,成像装置可被配置成用于捕捉高清或超高清视频(例如,720p、1080i、1080p、1440p、2000p、2160p、2540p、4000p、4320p等)。光学组合件可以包括一个或多个透镜、反射镜或者被配置成用于传送光的其他光学部件。
感测模块1902可以可操作地耦合至具有多个处理器的处理单元1904。处理单元1904可以具有一个或多个处理器,诸如可编程处理器(例如,中央处理单元(CPU))。例如,处理单元1904可以包括现场可编程门阵列(FPGA)和/或一个或多个ARM处理器。处理单元1904可以可操作地耦合至非暂时性计算机可读介质1905。非暂时性计算机可读介质1905可以储存可由处理单元1904执行的逻辑、代码和/或程序指令,用以执行一个或多个步骤。非暂时性计算机可读介质可以包括一个或多个存储器单元(例如,可移动介质或外部存储,诸如SD卡或随机存取存储器(RAM))。在一些实施方式中,来自感测模块1902的数据(例如,图像捕捉装置的移动数据、由图像传感器捕捉的图像数据)可以直接或间接地传送至并储存于非暂时性计算机可读介质1905的存储器单元内。非暂时性计算机可读介质1905的存储器单元可以储存可由处理单元1904执行的逻辑、代码和/或程序指令,以执行本文所描述的方法的任何合适的实施方式。例如,处理单元1904可被配置成用于从感测模块1902接收图像捕捉装置的移动数据,以及确定用于控制模块1906的指令以便提供图像增稳,所述图像增稳抵消图像捕捉装置的检测到的移动。又例如,处理单元1904可被配置成用于处理从图像传感器接收的图像数据,以便修正由图像捕捉装置的移动所导致的影响(例如,模糊或畸变)。存储器单元可以储存要由处理单元1904处理的、来自感测模块的感测数据。在一些实施方式中,非暂时性计算机可读介质1905的存储器单元可以用于储存由处理单元1904产生的处理结果。
在一些实施方式中,处理单元1904可以可操作地耦合至控制模块1906,所述控制模块1906被配置成用于控制图像捕捉装置的一个或多个部件的状态。在一些实施方式中,感测模块1902可以可操作地连接至控制模块1906。例如,控制模块1906可被配置成用于控制图像捕捉装置的致动模块1908,以便调节图像捕捉装置的一个或多个可移动部件的空间位置、速度和/或加速度,以便提供图像增稳。致动模块1908可以包括诸如电机等一个或多个致动器。致动器可以可操作地连接至图像捕捉装置的一个或多个可移动部件,诸如图像捕捉装置的镜头或光学组合件、图像传感器等。控制模块1906可被配置成用于向致动器输出信号,以便关于一个、两个、三个、四个、五个、六个或更多个自由度而调节可移动部件(例如,光学组合件、图像传感器或者全部两者),以便减小或抵消由图像捕捉装置的非预定移动所导致的影响。例如,当图像捕捉装置沿着X、Y或Z轴线侧向移动或者围绕X、Y或Z轴线旋转移动时,所述移动可以由感测模块1902检测到并且由处理单元1904使用以计算可移动部件(例如,光学组合件、图像传感器或者全部两者)的对应的反向移动。基于处理单元1904的计算,控制模块1906可被配置成用于向与可移动部件相关联的合适的致动器输出对应的信号,以实现对可移动部件的空间位置的调节,以便减小或抵消图像捕捉装置的移动。对可移动部件的空间位置的这样的调节可以与对图像数据的基于软件的调节(例如,图像数据的修改)相结合以提供图像增稳,或者可以不与之结合。由图像捕捉装置提供的图像增稳可以支持稳定图像的生成,尽管存在装置的实际移动,但仍犹如图像捕捉装置保持在预定位置那样(例如,相对于地面的水平位置)。在图像捕捉装置围绕一个轴线(例如,Y轴线)旋转以拍摄用于生成全景图像的多个图像的同时,可以提供这样的增稳。
如上文所讨论,图像捕捉装置可以用载体或者不用载体而耦合至UAV。载体可以提供或者可以不提供增稳。图像捕捉装置可以提供或者可以不提供增稳。因此,可以仅由载体、仅由图像捕捉装置或者由全部两者的组合来提供所述增稳。
图20示出了根据实施方式的用于生成全景图像的示例性系统2000。如图所示,系统2000包括不用载体而刚性耦合至图像捕捉装置2004的UAV 2002。在一些实施方式中,图像捕捉装置2004可以经由载体耦合至UAV 2002,所述载体不允许图像捕捉装置2004相对于UAV 2002围绕垂直轴线2006(例如,如图18中所讨论的Y轴线)的移动。
为了拍摄全景航拍图像,UAV 2002可被配置成悬停于预定位置上方。悬停可以由UAV自主地或者响应于来自遥控终端(未示出)的命令而执行。当UAV 2002悬停时,图像捕捉装置2002可被配置成用于拍摄用以生成全景图像的多个图像。由于图像捕捉装置2004不相对于UAV 2002围绕垂直轴线2006移动,因此UAV 2002可被配置成用于围绕垂直轴线2006旋转一定角度。图像捕捉装置2004可以随UAV一起旋转,同时捕捉多个图像。旋转角度可以是至少360度,例如,至少360度、450度、540度、630度、720度等。或者,旋转角度可以小于360度,例如,小于60度、90度、120度、150度、180度、210度、240度、270度、300度、330度等。在一些实施方式中,图像捕捉装置2004被配置成用于在拍摄全景图像的同时,提供关于如图18-图19中所讨论的一个、两个、三个、四个、五个、六个或更多个轴线的图像增稳,以便减小图像捕捉装置的非预定移动。图像捕捉装置的非预定移动可能由诸如UAV的震动(例如,由UAV的推进系统的操作造成的震动)、自然力(例如,风)等扰动所造成。
在一些实施方式中,由图像捕捉装置2004捕捉到的多个图像可以由搭载于和/或不搭载于UAV上的一个或多个处理器一起切换,以使用如本文所描述的技术来生成全景图像。生成的全景图像可以传输至远程终端,以供显示、储存或进一步处理。
虽然本文已经示出和描述了本发明的优选实施方式,但对于本领域技术人员显而易见的是,这样的实施方式只是以示例的方式提供的。本领域技术人员现将会在不偏离本发明的情况下想到许多更改、改变和替代。应当理解,在实践本发明的过程中可以采用对本文所描述的本发明实施方式的各种替代方案。所附权利要求旨在限定本发明的范围,并因此覆盖这些权利要求及其等效项的范围内的方法和结构。

Claims (13)

1.一种用于生成全景航拍图像的方法,包括:
控制载体以预定的旋转角度围绕所述载体的第一轴旋转图像捕捉装置,所述图像捕捉装置被配置成通过所述载体与无人飞行器(UAV)相耦合,所述载体被配置为允许所述图像捕捉设备绕至少所述第一轴和第二轴旋转;
控制所述载体,通过控制所述载体的一个或多个执行器部件,使所述图像捕捉装置在围绕所述第一轴旋转时,所述图像捕捉装置相对于至少所述第二轴的振动或扰动稳定所述图像捕捉装置;
当所述图像捕捉装置围绕第一轴旋转时,控制所述图像捕捉装置捕捉多个连续图像;以及
由所述无人飞行器上的一个或多个处理器集体或单独生成基于捕获的多个图像的全景图像。
2.根据权利要求1所述的方法,其中所述处理器设置于所述图像捕捉装置中。
3.根据权利要求1所述的方法,其中生成全景图像的步骤与控制所述载体旋转图像捕捉装置的步骤在时间上有重叠。
4.根据权利要求1所述的方法,其中所述载体基于至少以下部分被控制(a)通过一个或多个载体传感器获得的传感器数据被配置用于检测所述载体的位置、姿态、加速度、和/或速度,和/或(b)通过一个或多个无人飞行器传感器获得的传感器数据被配置用于检测所述无人飞行器的位置、姿态、加速度、和/或速度。
5.根据权利要求4所述的方法,其中至少一个所述载体传感器的采样频率高于至少一个无人飞行器传感器。
6.根据权利要求4所述的方法,其中至少一个所述载体传感器具有至少100Hz的采样频率。
7.根据权利要求1所述的方法,其中所述图像捕捉装置被配置为用于捕捉多个连续图像,使多个所述图像的相邻图像之间至少有50%重叠。
8.根据权利要求1所述的方法,进一步包括控制所述无人飞行器在所述图像捕捉装置围绕所述第一轴旋转时悬停。
9.一种用于生成全景航拍图像的系统,包括:
无人飞行器;和
一个或多个处理器,以执行一种方法,该方法包括:
控制载体以预定的旋转角度围绕所述载体的第一轴旋转图像捕捉装置,所述图像捕捉装置被配置成通过所述载体与无人飞行器相耦合,所述载体配置为允许所述图像捕捉设备绕至少所述第一轴和第二轴旋转;
控制所述载体,通过控制所述载体的一个或多个执行器部件,使所述图像捕捉装置在围绕所述第一轴旋转时,所述图像捕捉装置相对于至少所述第二轴的振动或扰动稳定所述图像捕捉装置;
当所述图像捕捉装置围绕第一轴旋转时,控制所述图像捕捉装置捕捉多个连续图像;以及
由所述无人飞行器上的一个或多个处理器集体或单独生成基于捕获的多个图像的全景图像。
10.根据权利要求9所述的系统,其中所述预定的旋转角度至少为360度。
11.根据权利要求9所述的系统,进一步包括(a)一个或多个载体传感器以用于检测所述载体的位置、姿态、加速度、和/或速度,和/或(b)一个或多个无人飞行器传感器以用于检测所述无人飞行器的位置、姿态、加速度、和/或速度。
12.根据权利要求11所述的系统,其中至少一个所述载体传感器的采样频率高于至少一个无人飞行器传感器。
13.一种用于生成全景航拍图像的无人飞行器,包括:
一个或多个处理器,所述处理器机载于所述无人飞行器上,以执行一种方法,该方法包括:
控制载体以预定的旋转角度围绕所述载体的第一轴旋转图像捕捉装置,所述图像捕捉装置被配置成通过所述载体与无人飞行器相耦合,所述载体配置为允许所述图像捕捉设备绕至少第一轴和第二轴旋转;
控制所述载体,通过控制所述载体的一个或多个执行器部件,使所述图像捕捉装置在围绕所述第一轴旋转时,所述图像捕捉装置相对于至少所述第二轴的振动或扰动稳定所述图像捕捉装置;
当所述图像捕捉装置围绕第一轴旋转时,控制所述图像捕捉装置捕捉多个连续图像;以及
由所述无人飞行器上的一个或多个处理器集体或单独生成基于捕获的多个图像的全景图像。
CN201910278137.6A 2014-12-23 2014-12-23 Uav全景成像 Active CN109987226B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910278137.6A CN109987226B (zh) 2014-12-23 2014-12-23 Uav全景成像

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN201480075511.8A CN106029501B (zh) 2014-12-23 2014-12-23 Uav全景成像
PCT/CN2014/094711 WO2016101155A1 (en) 2014-12-23 2014-12-23 Uav panoramic imaging
CN201910278137.6A CN109987226B (zh) 2014-12-23 2014-12-23 Uav全景成像

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
CN201480075511.8A Division CN106029501B (zh) 2014-12-23 2014-12-23 Uav全景成像

Publications (2)

Publication Number Publication Date
CN109987226A true CN109987226A (zh) 2019-07-09
CN109987226B CN109987226B (zh) 2021-01-22

Family

ID=56148892

Family Applications (2)

Application Number Title Priority Date Filing Date
CN201910278137.6A Active CN109987226B (zh) 2014-12-23 2014-12-23 Uav全景成像
CN201480075511.8A Expired - Fee Related CN106029501B (zh) 2014-12-23 2014-12-23 Uav全景成像

Family Applications After (1)

Application Number Title Priority Date Filing Date
CN201480075511.8A Expired - Fee Related CN106029501B (zh) 2014-12-23 2014-12-23 Uav全景成像

Country Status (5)

Country Link
US (5) US9854165B2 (zh)
EP (2) EP3071482B1 (zh)
JP (1) JP6182266B2 (zh)
CN (2) CN109987226B (zh)
WO (1) WO2016101155A1 (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113494660A (zh) * 2020-04-03 2021-10-12 佛玛系统有限责任公司 稳定装置和稳定固定构件的方法
US11577830B2 (en) * 2018-08-20 2023-02-14 Dr. Ing. H.C. F. Porsche Aktiengesellschaft Aircraft

Families Citing this family (99)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE112014003752B4 (de) 2013-08-15 2020-08-27 Traxxas Lp Drehflügler mit integrierten Lichtleiterstützelementen
CN203757311U (zh) * 2014-03-24 2014-08-06 零度智控(北京)智能科技有限公司 一种陀螺仪自平衡云台
CN203757300U (zh) * 2014-03-24 2014-08-06 杨建军 一种云台中电子调速器的安装结构
JP6182266B2 (ja) 2014-12-23 2017-08-16 エスゼット ディージェイアイ オスモ テクノロジー カンパニー リミテッドSZ DJI Osmo Technology Co., Ltd. Uavによるパノラマ画像撮影方法
US11856297B1 (en) * 2014-12-31 2023-12-26 Gn Audio A/S Cylindrical panorama hardware
USD777059S1 (en) * 2015-05-15 2017-01-24 SZ DJI Technology Co., Ltd. Unmanned aerial vehicle
USD780062S1 (en) * 2015-06-01 2017-02-28 SZ DJI Technology Co., Ltd. Unmanned aerial vehicle
US9852645B2 (en) * 2015-08-17 2017-12-26 The Boeing Company Global positioning system (“GPS”) independent navigation system for a self-guided aerial vehicle utilizing multiple optical sensors
JP2017046301A (ja) * 2015-08-28 2017-03-02 オリンパス株式会社 撮像装置
USD827724S1 (en) * 2015-09-28 2018-09-04 Traxxas Lp Set of supporting arms for a quadrotor model helicopter
USD778371S1 (en) * 2015-09-28 2017-02-07 Traxxas Lp Roll hoop for a quadrotor model helicopter
USD827723S1 (en) * 2015-09-28 2018-09-04 Traxxas Lp Quadrotor model helicopter
US10419666B1 (en) * 2015-12-29 2019-09-17 Amazon Technologies, Inc. Multiple camera panoramic images
USD790000S1 (en) * 2016-01-26 2017-06-20 Sz Dji Osmo Technology Co., Ltd. Camera with gimbal
US10718851B2 (en) * 2016-02-02 2020-07-21 Qualcomm Incorporated Displacement and rotation measurement for unmanned aerial vehicles
US10445898B2 (en) * 2016-02-05 2019-10-15 Sony Corporation System and method for camera calibration by use of rotatable three-dimensional calibration object
US10133271B2 (en) * 2016-03-25 2018-11-20 Qualcomm Incorporated Multi-axis controlller
CN106714922B (zh) 2016-04-15 2019-06-04 深圳市大疆创新科技有限公司 遥控器及遥控器的制造方法
NL2016718B1 (en) * 2016-05-02 2017-11-10 Cyclomedia Tech B V A method for improving position information associated with a collection of images.
US11137776B2 (en) * 2016-05-16 2021-10-05 SZ DJI Technology Co., Ltd. Systems and methods for coordinating device actions
US9807996B1 (en) * 2016-05-28 2017-11-07 Simon Siu-Chi Yu Bug eater
WO2017206073A1 (en) * 2016-05-31 2017-12-07 Sz Dji Osmo Technology Co., Ltd. Method and system for adaptive gimbal
US11608173B2 (en) * 2016-07-01 2023-03-21 Textron Innovations Inc. Aerial delivery systems using unmanned aircraft
ES2846864T3 (es) 2016-07-12 2021-07-29 Sz Dji Technology Co Ltd Procesamiento de imágenes para obtener información del entorno
JP7009696B2 (ja) 2016-08-08 2022-01-26 エスゼット ディージェイアイ テクノロジー カンパニー リミテッド 移動体
US10427765B2 (en) * 2016-08-18 2019-10-01 Medici Technologies, LLC Motor control system based upon movements inherent to self-propulsion
US11618540B2 (en) 2016-08-18 2023-04-04 Medici Technologies, LLC Motor control system based upon movements inherent to self-propulsion
KR102514566B1 (ko) 2016-08-23 2023-03-27 삼성전자주식회사 전자 장치 및 그의 동작 방법
CN113895641A (zh) * 2016-08-31 2022-01-07 深圳市大疆创新科技有限公司 无人的可移动物体
US20190174063A1 (en) * 2016-09-23 2019-06-06 Qualcomm Incorporated Adaptive Image Processing in an Unmanned Autonomous Vehicle
US11141673B1 (en) 2016-09-28 2021-10-12 Traxxas Lp Model rotorcraft with light pipe support members
CN106257126B (zh) * 2016-10-09 2018-07-06 深圳市道通智能航空技术有限公司 一种拍摄装置
US10339627B2 (en) 2016-10-10 2019-07-02 Gopro, Inc. Apparatus and methods for the optimal stitch zone calculation of a generated projection of a spherical image
US20190014261A1 (en) * 2016-10-20 2019-01-10 Sky Light Electronic (Shenzhen) Limited Corporation Photographing method and photographing system compatible in air and water
US10455155B1 (en) * 2016-10-25 2019-10-22 Skydio, Inc. Counter-balanced suspended image stabilization system
USD796586S1 (en) 2016-10-25 2017-09-05 SZ DJI Technology Co., Ltd. Aerial vehicle
WO2018095335A1 (zh) * 2016-11-23 2018-05-31 丘之鹏 用于无人机倾斜摄影系统的相机挂载装置
EP3500494A4 (en) 2016-12-12 2019-10-02 SZ DJI Technology Co., Ltd. METHOD AND SYSTEM FOR STABILIZING A PAYLOAD
CN206409570U (zh) * 2016-12-19 2017-08-15 昊翔电能运动科技(昆山)有限公司 减振器和飞行器
US20180186472A1 (en) * 2016-12-30 2018-07-05 Airmada Technology Inc. Method and apparatus for an unmanned aerial vehicle with a 360-degree camera system
US10518702B2 (en) * 2017-01-13 2019-12-31 Denso International America, Inc. System and method for image adjustment and stitching for tractor-trailer panoramic displays
WO2018135114A1 (ja) * 2017-01-19 2018-07-26 ソニー株式会社 姿勢制御装置、保持装置、姿勢制御方法及びプログラム
US10560666B2 (en) 2017-01-21 2020-02-11 Microsoft Technology Licensing, Llc Low-cost, long-term aerial imagery
IL251544A0 (en) * 2017-04-03 2017-06-29 Elbit Systems Electro Optics Elop Ltd A system and method for increasing the coverage of the photographed area using a photographic device
CN110312913A (zh) * 2017-03-24 2019-10-08 深圳市大疆灵眸科技有限公司 用于自适应云台的方法和系统
US10394239B2 (en) 2017-04-04 2019-08-27 At&T Intellectual Property I, L.P. Acoustic monitoring system
US10843816B2 (en) * 2017-04-17 2020-11-24 Autel Robotics Co., Ltd. Photographic assembly and unmanned aerial vehicle having same
WO2018214067A1 (en) * 2017-05-24 2018-11-29 SZ DJI Technology Co., Ltd. Methods and systems for processing an image
US20180350086A1 (en) * 2017-05-31 2018-12-06 Qualcomm Incorporated System And Method Of Dynamically Filtering Depth Estimates To Generate A Volumetric Map Of A Three-Dimensional Environment Having An Adjustable Maximum Depth
CN109040662A (zh) * 2017-06-12 2018-12-18 国网江苏省电力公司徐州供电公司 基于全景地图的输电线路可视化监控方法
US10189580B2 (en) * 2017-06-16 2019-01-29 Aerobo Image stabilization and pointing control mechanization for aircraft imaging systems
CN109213211B (zh) * 2017-06-29 2021-09-21 京东方科技集团股份有限公司 稳定摄影设备的方法及装置
CN107392851A (zh) * 2017-07-04 2017-11-24 上海小蚁科技有限公司 用于生成全景图像的方法和设备
CN107318010B (zh) * 2017-07-05 2019-10-11 上海小蚁科技有限公司 用于生成立体全景图像的方法和设备
JP6519886B2 (ja) * 2017-08-28 2019-05-29 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd 撮像装置、撮像システム、移動体、方法、及びプログラム
US11242147B2 (en) 2017-08-31 2022-02-08 Precision Drone Services Intellectual Property, Llc Aerial vehicle implement hitch assembly
WO2019046837A1 (en) 2017-09-02 2019-03-07 Precision Drone Services Intellectual Property, Llc SEED DISTRIBUTION ASSEMBLY FOR AERIAL VEHICLE
US11348265B1 (en) * 2017-09-15 2022-05-31 Snap Inc. Computing a point cloud from stitched images
WO2019061334A1 (en) 2017-09-29 2019-04-04 SZ DJI Technology Co., Ltd. SYSTEMS AND METHODS FOR PROCESSING AND DISPLAYING IMAGE DATA BASED ON ATTITUDE INFORMATION
CN108702447B (zh) * 2017-09-29 2021-11-12 深圳市大疆创新科技有限公司 一种视频处理方法、设备、无人机及系统、计算机可读存储介质
KR101951666B1 (ko) * 2017-10-05 2019-02-25 윤태기 촬영용 드론 및 그 제어 방법
JP6366158B1 (ja) * 2017-10-10 2018-08-01 株式会社エアロネクスト 飛行体
WO2019084719A1 (zh) * 2017-10-30 2019-05-09 深圳市大疆创新科技有限公司 图像处理方法及无人机
CN111295874B (zh) 2017-10-30 2021-08-03 株式会社OPTiM 长条图像生成系统、方法以及存储介质
CN108780568A (zh) * 2017-10-31 2018-11-09 深圳市大疆创新科技有限公司 一种图像处理方法、装置及飞行器
TWI657011B (zh) * 2017-11-30 2019-04-21 財團法人工業技術研究院 無人機、無人機控制系統及控制方法
EP3671681A4 (en) 2017-11-30 2020-08-26 SZ DJI Technology Co., Ltd. MAXIMUM TEMPERATURE POINT MONITORING PROCESS, DEVICE AND DRONE
TWI649721B (zh) * 2017-12-06 2019-02-01 凌通科技股份有限公司 無人飛行機之全景拍照方法與使用其之無人飛行機
US11048257B2 (en) * 2018-01-23 2021-06-29 Gopro, Inc. Relative image capture device orientation calibration
US20210129987A1 (en) * 2018-03-26 2021-05-06 Singapore University Of Technology And Design Aerial vehicles, methods of imaging a tunnel and methods of imaging a shaft
CN110621927B (zh) * 2018-03-27 2021-10-08 深圳市大疆创新科技有限公司 增稳程度调节方法、设备及存储介质
CN108648257B (zh) * 2018-04-09 2020-12-29 腾讯科技(深圳)有限公司 全景画面的获取方法、装置、存储介质及电子装置
EP3786757B1 (en) * 2018-04-25 2022-09-21 SZ DJI Technology Co., Ltd. Camera stabilizer position correction method and device
CN110352331A (zh) * 2018-04-25 2019-10-18 深圳市大疆创新科技有限公司 手持云台的姿态解算的方法和云台系统
JP6630939B2 (ja) * 2018-04-26 2020-01-15 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd 制御装置、撮像装置、移動体、制御方法、及びプログラム
US10645291B1 (en) * 2018-04-26 2020-05-05 General Atomics Aeronautical Systems, Inc. Systems and methods to mitigate adverse jitter effects in mobile imaging
RU186777U1 (ru) * 2018-05-23 2019-02-01 федеральное государственное автономное образовательное учреждение высшего образования "Самарский национальный исследовательский университет имени академика С.П. Королева" Несущая рама складной конструкции для привязного/автономного беспилотного летательного аппарата на базе квадрокоптера
KR102154530B1 (ko) * 2018-06-06 2020-09-21 엘지전자 주식회사 360 비디오 시스템에서 오버레이 미디어 처리 방법 및 그 장치
US10623038B2 (en) * 2018-06-12 2020-04-14 Se-Kure Controls, Inc. Display assembly for portable article
JP7201214B2 (ja) * 2018-10-25 2023-01-10 株式会社エアロネクスト ジンバル機構
CN109474783B (zh) * 2018-11-19 2020-08-21 奥本未来(北京)科技有限责任公司 一种环境光场采集系统及方法
CN109640057A (zh) * 2018-12-30 2019-04-16 广东电网有限责任公司 一种输电线路视频监测方法及相关装置
US11001380B2 (en) 2019-02-11 2021-05-11 Cnh Industrial Canada, Ltd. Methods for acquiring field condition data
US11059582B2 (en) 2019-02-11 2021-07-13 Cnh Industrial Canada, Ltd. Systems for acquiring field condition data
US11479357B1 (en) * 2019-03-15 2022-10-25 Alarm.Com Incorporated Perspective angle acquisition and adjustment of security camera drone
US11851179B1 (en) * 2019-04-09 2023-12-26 Alarm.Com Incorporated Imaging controls for unmanned aerial vehicles
CN110278374B (zh) * 2019-06-27 2021-02-02 Oppo广东移动通信有限公司 图像处理方法和装置、电子设备、计算机可读存储介质
TWI726536B (zh) * 2019-12-16 2021-05-01 財團法人工業技術研究院 影像擷取方法及影像擷取設備
CN110979708A (zh) * 2019-12-20 2020-04-10 洛阳福格森机械装备有限公司 一种农业监测无人机
CN111210384B (zh) * 2020-04-23 2020-07-14 成都科睿埃科技有限公司 一种适用于机场跑道场景的图像拼接方法
CN111932622B (zh) * 2020-08-10 2022-06-28 浙江大学 一种无人机的飞行高度的确定装置、方法及系统
WO2022034402A1 (en) * 2020-08-12 2022-02-17 Corephotonics Ltd. Optical image stabilization in a scanning folded camera
US11317026B1 (en) 2020-08-19 2022-04-26 General Atomics Aeronautical Systems, Inc. Mobile imaging systems and methods utilizing angular velocity in mitigating adverse jitter effects
US20220141384A1 (en) * 2020-10-30 2022-05-05 Flir Surveillance, Inc. Situational awareness-based image annotation systems and methods
CN112700374A (zh) * 2021-01-14 2021-04-23 广西师范大学 一种无人机序列图像的快速拼接方法
NO347715B1 (en) * 2021-07-05 2024-03-04 Altokinetics As System and method for repair and maintenance of wind turbine blade
US11392143B1 (en) * 2021-07-23 2022-07-19 Beta Air, Llc System and method for producing a control signal of an electric vertical take-off and landing (eVTOL) aircraft
EP4152739A1 (de) * 2021-09-16 2023-03-22 Siemens Energy Global GmbH & Co. KG Verfahren zur erfassung von bildaufnahmen, system, fahrzeug, computerprogrammprodukt und computerlesbares medium
WO2023097494A1 (zh) * 2021-11-30 2023-06-08 深圳市大疆创新科技有限公司 全景图像拍摄方法、装置、无人机、系统及存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060083501A1 (en) * 2004-10-18 2006-04-20 Mark Segal Method and apparatus for creating aerial panoramic photography
US20070206945A1 (en) * 2006-03-01 2007-09-06 Delorme David M Method and apparatus for panoramic imaging
WO2010151311A1 (en) * 2009-06-26 2010-12-29 Flight Landata, Inc. Dual-swath imaging system
CN103886569A (zh) * 2014-04-03 2014-06-25 北京航空航天大学 连续帧多特征点无人机侦察图像并行与匹配精度约束的拼接方法

Family Cites Families (40)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5878356A (en) * 1995-06-14 1999-03-02 Agrometrics, Inc. Aircraft based infrared mapping system for earth based resources
JP4170488B2 (ja) * 1998-12-24 2008-10-22 富士重工業株式会社 航空機による目標捜索装置
JP3466512B2 (ja) * 1999-07-07 2003-11-10 三菱電機株式会社 遠隔撮影システム、撮影装置及び遠隔撮影方法
JP2001238096A (ja) * 2000-02-22 2001-08-31 Diamond Air Service Kk 3軸駆動撮影装置の操作装置
US7746404B2 (en) * 2003-11-10 2010-06-29 Hewlett-Packard Development Company, L.P. Digital camera with panoramic image capture
US7264220B2 (en) * 2004-10-01 2007-09-04 Flir Systems, Inc. Gimbal system
IL165190A (en) * 2004-11-14 2012-05-31 Elbit Systems Ltd System and method for stabilizing an image
US7424218B2 (en) * 2005-07-28 2008-09-09 Microsoft Corporation Real-time preview for panoramic images
US7460730B2 (en) * 2005-08-04 2008-12-02 Microsoft Corporation Video registration and image sequence stitching
KR100724134B1 (ko) * 2006-01-09 2007-06-04 삼성전자주식회사 이미지 매칭 속도와 블렌딩 방법을 개선한 파노라마 영상제공 방법 및 장치
US7639897B2 (en) * 2006-01-24 2009-12-29 Hewlett-Packard Development Company, L.P. Method and apparatus for composing a panoramic photograph
JP2009133895A (ja) * 2007-11-28 2009-06-18 Tamagawa Seiki Co Ltd 空調機能付カメラスタビライザ
RU2460187C2 (ru) 2008-02-01 2012-08-27 Рокстек Аб Переходная рама с встроенным прижимным устройством
US9204040B2 (en) * 2010-05-21 2015-12-01 Qualcomm Incorporated Online creation of panoramic augmented reality annotations on mobile platforms
TW201205180A (en) * 2010-07-27 2012-02-01 Hon Hai Prec Ind Co Ltd Camera
EP2423871B1 (en) * 2010-08-25 2014-06-18 Lakeside Labs GmbH Apparatus and method for generating an overview image of a plurality of images using an accuracy information
WO2012029063A1 (en) * 2010-08-31 2012-03-08 Raul Goldemann Rotary image generator
US8600194B2 (en) 2011-05-17 2013-12-03 Apple Inc. Positional sensor-assisted image registration for panoramic photography
US9007428B2 (en) 2011-06-01 2015-04-14 Apple Inc. Motion-based image stitching
WO2013033954A1 (zh) * 2011-09-09 2013-03-14 深圳市大疆创新科技有限公司 陀螺式动态自平衡云台
US9829582B2 (en) * 2011-09-19 2017-11-28 Raytheon Company Method and apparatus for differential global positioning system (DGPS)-based real time attitude determination (RTAD)
FR2985581B1 (fr) * 2012-01-05 2014-11-28 Parrot Procede de pilotage d'un drone a voilure tournante pour operer une prise de vue par une camera embarquee avec minimisation des mouvements perturbateurs
CN202464124U (zh) * 2012-01-13 2012-10-03 安徽理工大学 一种四旋翼飞行器
WO2014007873A2 (en) * 2012-03-20 2014-01-09 Wagreich David Image monitoring and display from unmanned vehicle
WO2013177163A1 (en) * 2012-05-24 2013-11-28 Siemens Healthcare Diagnostics Inc. Non-contact optical encoding scheme for intelligent automation puck
WO2013192370A2 (en) * 2012-06-21 2013-12-27 Google Inc. Tunable vibration dampers
CN109947122B (zh) * 2012-08-17 2022-04-12 展望机器人股份公司 用于控制飞行的设备及其操作方法
CN103676452A (zh) 2012-09-24 2014-03-26 捷达世软件(深圳)有限公司 全景照片拍摄系统及方法
CN102982515A (zh) 2012-10-23 2013-03-20 中国电子科技集团公司第二十七研究所 一种无人机图像实时拼接的方法
CN203064201U (zh) * 2012-12-28 2013-07-17 贵州斯凯威科技有限公司 一种航拍飞行器
CN103921933A (zh) * 2013-01-10 2014-07-16 深圳市大疆创新科技有限公司 飞行器变形结构及微型飞行器
KR102090624B1 (ko) * 2013-02-26 2020-03-18 삼성전자 주식회사 이미지 촬영장치 및 방법
JP6367522B2 (ja) * 2013-02-28 2018-08-01 株式会社トプコン 航空写真システム
US20140245210A1 (en) * 2013-02-28 2014-08-28 Donan Engineering Co., Inc. Systems and Methods for Collecting and Representing Attributes Related to Damage in a Geographic Area
AU2014230009B2 (en) * 2013-03-15 2017-05-25 Freefly Systems Inc. Method and system for enabling pointing control of an actively stabilized camera
US20150288857A1 (en) * 2014-04-07 2015-10-08 Microsoft Corporation Mount that facilitates positioning and orienting a mobile computing device
IL233684B (en) * 2014-07-17 2018-01-31 Shamir Hanan Stabilizing and displaying remote images
US9927809B1 (en) * 2014-10-31 2018-03-27 State Farm Mutual Automobile Insurance Company User interface to facilitate control of unmanned aerial vehicles (UAVs)
US10095942B2 (en) * 2014-12-15 2018-10-09 Reflex Robotics, Inc Vision based real-time object tracking system for robotic gimbal control
JP6182266B2 (ja) 2014-12-23 2017-08-16 エスゼット ディージェイアイ オスモ テクノロジー カンパニー リミテッドSZ DJI Osmo Technology Co., Ltd. Uavによるパノラマ画像撮影方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060083501A1 (en) * 2004-10-18 2006-04-20 Mark Segal Method and apparatus for creating aerial panoramic photography
US20070206945A1 (en) * 2006-03-01 2007-09-06 Delorme David M Method and apparatus for panoramic imaging
WO2010151311A1 (en) * 2009-06-26 2010-12-29 Flight Landata, Inc. Dual-swath imaging system
CN103886569A (zh) * 2014-04-03 2014-06-25 北京航空航天大学 连续帧多特征点无人机侦察图像并行与匹配精度约束的拼接方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
尚海兴,黄文钰: "无人机低空遥感影像的自动拼接技术研究", 《西北水电》 *
王勇等: "机动飞行环境无人机航拍图像拼接技术研究", 《现代电子技术》 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11577830B2 (en) * 2018-08-20 2023-02-14 Dr. Ing. H.C. F. Porsche Aktiengesellschaft Aircraft
CN113494660A (zh) * 2020-04-03 2021-10-12 佛玛系统有限责任公司 稳定装置和稳定固定构件的方法

Also Published As

Publication number Publication date
US20160198088A1 (en) 2016-07-07
US11949992B2 (en) 2024-04-02
CN106029501A (zh) 2016-10-12
CN106029501B (zh) 2019-05-14
EP3071482A1 (en) 2016-09-28
US11330173B2 (en) 2022-05-10
US9854165B2 (en) 2017-12-26
US20200154045A1 (en) 2020-05-14
EP3071482A4 (en) 2017-03-01
EP3071482B1 (en) 2020-10-07
US10187572B2 (en) 2019-01-22
US20220272260A1 (en) 2022-08-25
CN109987226B (zh) 2021-01-22
JP2017513245A (ja) 2017-05-25
EP3782912A1 (en) 2021-02-24
WO2016101155A1 (en) 2016-06-30
US20190158738A1 (en) 2019-05-23
JP6182266B2 (ja) 2017-08-16
US20180109730A1 (en) 2018-04-19
US10506158B2 (en) 2019-12-10

Similar Documents

Publication Publication Date Title
CN106029501B (zh) Uav全景成像
JP6991122B2 (ja) 目標追跡方法、目標追跡装置、目標追跡システム及びプログラム。
CN108351574B (zh) 用于设置相机参数的系统、方法和装置
US9765926B2 (en) Systems and methods for payload stabilization
CN107924638A (zh) 用于云台模拟的系统和方法
CN110312913A (zh) 用于自适应云台的方法和系统
CN110300927A (zh) 用于具有嵌入式云台的运动摄像机的方法和系统
CN107850901A (zh) 使用惯性传感器和图像传感器的传感器融合
CN107850436A (zh) 使用惯性传感器和图像传感器的传感器融合
CN107615211A (zh) 使用惯性传感器和图像传感器的传感器融合
CN108605098A (zh) 用于卷帘快门校正的系统和方法
CN109416535A (zh) 基于图像识别的飞行器导航技术
CN109983468A (zh) 使用特征点检测和跟踪对象的方法和系统
CN107850899A (zh) 使用惯性传感器和图像传感器的传感器融合
WO2017197653A1 (en) Systems and methods for digital video stabalization
US20200221056A1 (en) Systems and methods for processing and displaying image data based on attitude information
EP3348055B1 (en) System and method for supporting three-dimensional display in first person view (fpv)

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant