CN109983414A - 用于支持在可移动平台中进行同步的系统和方法 - Google Patents
用于支持在可移动平台中进行同步的系统和方法 Download PDFInfo
- Publication number
- CN109983414A CN109983414A CN201680090948.8A CN201680090948A CN109983414A CN 109983414 A CN109983414 A CN 109983414A CN 201680090948 A CN201680090948 A CN 201680090948A CN 109983414 A CN109983414 A CN 109983414A
- Authority
- CN
- China
- Prior art keywords
- timestamp
- data
- process device
- sensing
- trigger signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 100
- 230000008569 process Effects 0.000 claims abstract description 93
- 230000001960 triggered effect Effects 0.000 claims abstract description 10
- 238000012545 processing Methods 0.000 claims description 80
- 230000033001 locomotion Effects 0.000 claims description 42
- 230000004438 eyesight Effects 0.000 claims description 38
- 238000004891 communication Methods 0.000 claims description 28
- 230000000007 visual effect Effects 0.000 claims description 24
- 230000001360 synchronised effect Effects 0.000 claims description 22
- 238000003384 imaging method Methods 0.000 claims description 14
- 238000012423 maintenance Methods 0.000 claims description 11
- 238000005259 measurement Methods 0.000 claims description 9
- 238000013016 damping Methods 0.000 description 36
- 230000007246 mechanism Effects 0.000 description 21
- 230000004927 fusion Effects 0.000 description 14
- 230000008859 change Effects 0.000 description 11
- 238000010586 diagram Methods 0.000 description 9
- 230000006870 function Effects 0.000 description 8
- 230000002093 peripheral effect Effects 0.000 description 8
- 230000001133 acceleration Effects 0.000 description 7
- 238000009432 framing Methods 0.000 description 6
- 239000000463 material Substances 0.000 description 6
- 238000012986 modification Methods 0.000 description 6
- 230000004048 modification Effects 0.000 description 6
- 230000036544 posture Effects 0.000 description 5
- 230000005540 biological transmission Effects 0.000 description 4
- 239000000969 carrier Substances 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 230000037230 mobility Effects 0.000 description 4
- RZVHIXYEVGDQDX-UHFFFAOYSA-N 9,10-anthraquinone Chemical compound C1=CC=C2C(=O)C3=CC=CC=C3C(=O)C2=C1 RZVHIXYEVGDQDX-UHFFFAOYSA-N 0.000 description 3
- 230000006399 behavior Effects 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 3
- 238000013507 mapping Methods 0.000 description 3
- 230000004888 barrier function Effects 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 238000007726 management method Methods 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 230000001141 propulsive effect Effects 0.000 description 2
- 238000013519 translation Methods 0.000 description 2
- 241000208340 Araliaceae Species 0.000 description 1
- 241000628997 Flos Species 0.000 description 1
- 241001465754 Metazoa Species 0.000 description 1
- 235000005035 Panax pseudoginseng ssp. pseudoginseng Nutrition 0.000 description 1
- 235000003140 Panax quinquefolius Nutrition 0.000 description 1
- 230000000712 assembly Effects 0.000 description 1
- 238000000429 assembly Methods 0.000 description 1
- 238000013475 authorization Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 239000013078 crystal Substances 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000001934 delay Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000005183 dynamical system Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000006260 foam Substances 0.000 description 1
- 239000007789 gas Substances 0.000 description 1
- 239000000499 gel Substances 0.000 description 1
- 235000008434 ginseng Nutrition 0.000 description 1
- 238000002955 isolation Methods 0.000 description 1
- 210000003127 knee Anatomy 0.000 description 1
- 239000007788 liquid Substances 0.000 description 1
- 238000002156 mixing Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 210000000056 organ Anatomy 0.000 description 1
- 238000005036 potential barrier Methods 0.000 description 1
- 230000001737 promoting effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 239000005060 rubber Substances 0.000 description 1
- 239000012781 shape memory material Substances 0.000 description 1
- 230000035939 shock Effects 0.000 description 1
- 230000011664 signaling Effects 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
- 230000003442 weekly effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C11/00—Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
- G01C11/02—Picture taking arrangements specially adapted for photogrammetry or photographic surveying, e.g. controlling overlapping of pictures
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64C—AEROPLANES; HELICOPTERS
- B64C39/00—Aircraft not otherwise provided for
- B64C39/02—Aircraft not otherwise provided for characterised by special use
- B64C39/024—Aircraft not otherwise provided for characterised by special use of the remote controlled vehicle type, i.e. RPV
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64U—UNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
- B64U10/00—Type of UAV
- B64U10/10—Rotorcrafts
- B64U10/13—Flying platforms
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64U—UNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
- B64U30/00—Means for producing lift; Empennages; Arrangements thereof
- B64U30/20—Rotors; Rotor supports
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/10—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration
- G01C21/12—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning
- G01C21/16—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning by integrating acceleration or speed, i.e. inertial navigation
- G01C21/165—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning by integrating acceleration or speed, i.e. inertial navigation combined with non-inertial navigation instruments
- G01C21/1656—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning by integrating acceleration or speed, i.e. inertial navigation combined with non-inertial navigation instruments with passive imaging devices, e.g. cameras
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/0011—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots associated with a remote control arrangement
- G05D1/0022—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots associated with a remote control arrangement characterised by the communication link
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/08—Control of attitude, i.e. control of roll, pitch, or yaw
- G05D1/0808—Control of attitude, i.e. control of roll, pitch, or yaw specially adapted for aircraft
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/10—Simultaneous control of position or course in three dimensions
- G05D1/101—Simultaneous control of position or course in three dimensions specially adapted for aircraft
- G05D1/106—Change initiated in response to external conditions, e.g. avoidance of elevated terrain or of no-fly zones
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W56/00—Synchronisation arrangements
- H04W56/001—Synchronization between nodes
- H04W56/002—Mutual synchronization
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W56/00—Synchronisation arrangements
- H04W56/001—Synchronization between nodes
- H04W56/0025—Synchronization between nodes synchronizing potentially movable access points
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W56/00—Synchronisation arrangements
- H04W56/004—Synchronisation arrangements compensating for timing error of reception due to propagation delay
- H04W56/0045—Synchronisation arrangements compensating for timing error of reception due to propagation delay compensating for timing error by altering transmission time
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64U—UNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
- B64U2101/00—UAVs specially adapted for particular uses or applications
- B64U2101/30—UAVs specially adapted for particular uses or applications for imaging, photography or videography
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64U—UNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
- B64U2201/00—UAVs characterised by their flight controls
- B64U2201/20—Remote controls
Landscapes
- Engineering & Computer Science (AREA)
- Remote Sensing (AREA)
- Radar, Positioning & Navigation (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Aviation & Aerospace Engineering (AREA)
- Automation & Control Theory (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Multimedia (AREA)
- Mechanical Engineering (AREA)
- Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
Abstract
系统和方法可以支持在可移动平台中进行同步。该系统包括与一个或多个传感器相关联的感测处理器以及与移动控制器相关联的定时控制器。定时控制器可以生成用于感测操作的触发信号和与触发信号相对应的时间戳。此外,定时控制器可以向感测处理器发送触发信号和对应的时间戳。当从移动控制器接收到触发信号和对应的时间戳时,感测处理器可以触发一个或多个传感器进行感测操作,获得所触发的感测操作的感测数据,并且将所接收的时间戳与感测数据相关联。
Description
版权声明
本专利文件的公开的一部分包含受到版权保护的材料。版权所有人不反对任何人对专利文档或专利公开(如其在专利和商标局中的专利文件或记录中出现的原样)进行复制再现,但是在其他情况下版权所有人保留所有版权。
技术领域
所公开的实施例总体上涉及操作可移动平台,并且更具体地但非排他地,涉及支持在可移动平台中进行同步。
背景技术
诸如无人机(UAV)的可移动平台可以用于执行针对军事和民用应用的监视、侦察和勘探任务。可移动平台可以携带能够感测周围环境的不同类型的传感器。能够正确且及时地利用从不同源获得的感测信息是非常重要的。这是本发明的实施例旨在解决的总的领域。
发明内容
本文中描述了提供用于支持在可移动平台中进行同步的技术解决方案的系统和方法。该系统包括与一个或多个传感器相关联的感测处理器以及与移动控制器相关联的定时控制器。定时控制器可以生成用于感测操作的触发信号和与触发信号相对应的时间戳。此外,定时控制器可以向感测处理器发送触发信号和对应的时间戳。当从移动控制器接收到触发信号和对应的时间戳时,感测处理器可以触发一个或多个传感器进行感测操作,获得所触发的感测操作的感测数据,并且将所接收的时间戳与感测数据相关联。
附图说明
图1示出了根据本发明各种实施例的可移动平台环境。
图2示出了根据实施例的在可移动平台环境中的示例性载体。
图3示出了根据各种实施例的针对可移动平台的示例性计算架构。
图4示出了根据本发明各种实施例的支持在可移动平台中进行同步的示例性图示。
图5示出了根据本发明各种实施例的在可移动平台中进行同步的另一示例性图示。
图6示出了根据本发明各种实施例的支持在另一备选可移动平台中进行同步的示例性图示。
图7示出了根据本发明各种实施例的基于数据融合来控制无人机(UAV)的移动的示例性图示。
图8示出了根据本发明各种实施例的使用移动控制器来支持在可移动平台中进行同步的流程图。
图9示出了根据本发明各种实施例的使用与移动控制器相关联的定时控制器来支持在可移动平台中进行同步的流程图。
图10示出了根据本发明各种实施例的使用感测处理器来支持在可移动平台中进行同步的流程图。
图11示出了根据本发明各种实施例的使用应用处理器来支持在可移动平台中进行同步的流程图。
图12示出了根据本发明各种实施例的支持在UAV中进行同步的流程图。
具体实施方式
在附图的各图中以示例而非限制的方式示出了本发明,在附图中相似的附图标记指示相似的元素。应当注意到:在本公开中针对“实施例”或“一个实施例”或“一些实施例”的引用不一定指的是相同实施例,并且这种引用意味着至少一个实施例。
以下使用无人机(UAV)作为可移动平台的示例来对本发明进行了描述。本领域技术人员显而易见的是可以使用其他类型的可移动平台而不限于此。
根据本发明的各种实施例,该系统可以提供用于支持在可移动平台中进行同步的技术解决方案。该系统包括与一个或多个传感器相关联的感测处理器以及与移动控制器相关联的定时控制器。定时控制器可以生成用于感测操作的触发信号和与触发信号相对应的时间戳。此外,定时控制器可以向感测处理器发送触发信号和对应的时间戳。当从移动控制器接收到触发信号和对应的时间戳时,感测处理器可以触发一个或多个传感器进行感测操作,获得所触发的感测操作的感测数据,并且将所接收的时间戳与感测数据相关联。
图1示出了根据本发明各种实施例的可移动平台环境。如图1所示,可移动平台环境100中的可移动平台118(也成为可移动物体)可以包括载体102和负载104。尽管可移动平台118可以被描绘为飞行器,但是该描述并不旨在限制,并且可以使用任何合适类型的可移动平台。本领域技术人员将理解,本文在飞机系统的上下文中描述的任何实施例可以应用于任何合适的可移动平台(例如,UAV)。在某些实例中,负载104可以设置在可移动平台118上,而不需要载体102。
根据本发明的各种实施例,可移动平台118可以包括一个或多个移动机构106(例如,推进机构)、感测系统108和通信系统110。
移动机构106可以包括旋翼、螺旋桨、叶片、发动机、电机、轮子、轮轴、磁体、喷嘴、或者可以被动物或人类用于实现移动的任何机构中的一个或多个。例如,可移动平台可以具有一个或多个推进机构。移动机构106可以全是相同类型的。备选地,移动机构106可以是不同类型的移动机构。移动机构106可以使用例如支撑元件(例如,驱动轴)之类的任何合适的方法安装在可移动平台118上(或者反之亦然)。移动机构106可以安装在可移动平台118的任何合适的部分上,诸如顶部、底部、前部、后部、侧面或其合适的组合。
在一些实施例中,移动机构106可以使可移动平台118能够垂直地从表面起飞或垂直地降落在表面上,而不需要可移动平台118的任何水平移动(例如,无需沿着跑道行进)。可选地,移动机构106可以可操作地允许可移动平台118以特定位置和/或取向悬停在空中。移动机构106中的一个或多个可以独立于其它移动机构受到控制。备选地,移动机构106可以被配置为同时受到控制。例如,可移动平台118可以具有多个水平取向的旋翼,这些旋翼可以向可移动平台提供升力和/或推力。可以致动多个水平取向的旋翼以向可移动平台118提供垂直起飞、垂直降落和悬停能力。在一些实施例中,水平朝向旋翼中的一个或多个可沿顺时针方向旋转,而水平旋翼中的一个或多个可沿逆时针方向旋转。例如,顺时针旋翼的数量可以等于逆时针旋翼的数量。为了控制由每个旋翼产生的升力和/或推力,从而调整可移动平台118(例如,相对于最多三个平移度和三个旋转度)的空间布置、速度和/或加速度,可以独立地改变每个水平朝向的旋翼的转速。
感测系统108可以包括可感测可移动平台118(例如,相对于各种平移度和各种旋转度)的空间布置、速度和/或加速度的一个或多个传感器。一个或多个传感器可以包括任何传感器,包括GPS传感器、运动传感器、惯性传感器、接近传感器或图像传感器。感测系统108提供的感测数据可用于(例如,使用合适的处理单元和/或控制模块)控制可移动平台118的空间布置、速度和/或朝向。备选地,感测系统108可用于提供关于可移动平台周围的环境的数据,例如天气条件、接近潜在障碍物、地理特征的位置、人造结构的位置等。
通信系统110能够经由无线信号116与具有通信系统114的终端112进行通信。通信系统110、114可以包括适合于无线通信的任意数量的发射机、接收机和/或收发机。所述通信可以是单向通信,使得数据只能在一个方向上传输。例如,单向通信可以仅涉及可移动平台118向终端112发送数据,反之亦然。可以从通信系统110的一个或多个发射机向通信系统112的一个或多个接收机发送数据,或者反之亦然。备选地,所述通信可以是双向通信,使得可以在可移动平台118和终端112之间的两个方向上发送数据。双向通信可以涉及从通信系统110的一个或多个发射机向通信系统114的一个或多个接收机发送数据,并且反之亦然。
在一些实施例中,终端112可以向可移动平台118、载体102和负载104中的一个或更多个提供控制数据,并且从可移动平台118、载体102和负载104中的一个或更多个接收信息(例如,可移动平台、载体或负载的位置和/或运动信息;由负载感测的数据,例如由负载相机捕获的图像数据);以及根据由有效负载相机捕捉的图像数据生成的数据)。在某些实例中,来自终端的控制数据可以包括用于可移动平台、载体和/或负载的相对位置、移动、驱动或控制的指令。例如,控制数据(例如,通过移动机构106的控制)可以导致可移动平台的位置和/或朝向的修改,或(例如,通过载体102的控制)导致负载相对于可移动平台的移动。来自终端的控制数据可以导致对负载的控制,诸如对相机或其他图像捕获设备的操作的控制(例如,拍摄静止或移动的图片、放大或缩小、打开或关闭、切换成像模式、改变图像分辨率、改变焦点、改变景深、改变曝光时间、改变视角或视野)。
在某些实例中,来自可移动平台、载体和/或有效负载的通信可以包括来自(例如,感测系统108或有效负载104的)一个或多个传感器的信息和/或基于感测信息生成的数据。通信可以包括来自一个或多个不同类型的传感器(例如,GPS传感器、运动传感器、惯性传感器、近距离传感器或图像传感器)的感测信息。这样的信息可以涉及可移动平台、载体和/或负载的定位(例如位置,朝向)、移动或加速度。来自负载的这种信息可以包括由负载捕获的数据或负载的感测状态。由终端112发送的控制数据可以被配置为控制可移动平台118、载体102或负载104中的一个或多个的状态。备选地或组合地,载体102和负载104也可以各自包括被配置为与终端112进行通信的通信模块,使得该终端可以独立地与可移动平台118、载体102和有效负载104中的每一个进行通信并对其进行控制。
在一些实施例中,可移动平台118可被配置为与除了终端112之外的或者代替终端112的另一远程通信设备。终端112还可以被配置为与另一远程设备以及可移动平台118进行通信。例如,可移动平台118和/或终端112可以与另一可移动平台或另一可移动平台的载体或负载通信。当需要时,远程设备可以是第二终端或其他计算设备(例如,计算机、膝上型电脑、平板电脑、智能电话或其他移动设备)。远程设备可以被配置为向可移动平台118发送数据、从可移动平台118接收数据、向终端112发送数据,和/或从终端112接收数据。可选地,远程设备可以与因特网或其他电信网络连接,使得从可移动平台118和/或终端112接收的数据可以上传到网站或服务器。
图2示出了根据实施例的在可移动平台环境中的示例性载体。载体200可以用于将诸如图像捕获装置之类的负载202连接到诸如UAV之类的可移动平台。
载体200可以被配置为允许负载202围绕一个或多个轴(例如,X轴或俯仰轴、Z轴或横滚轴、以及Y轴或偏航轴这三个轴)相对于可移动平台旋转。例如,载体200可以被配置为允许负载202仅围绕一个、两个或三个轴旋转。轴可以彼此正交或可以不正交。围绕任何轴的旋转范围可以被限制,也可以不被限制,并且可以针对每个轴而变化。旋转轴可以彼此相交或不相交。例如,正交轴可以彼此相交。它们可以或者可以不相交于负载202。备选地,它们可以不相交。
载体200可以包括具有一个或多个框架构件的框架组件211。例如,框架构件可以被配置为与负载202(例如,图像捕获装置)连接并且支撑该负载202。
在一些实施例中,载体201可以包括一个或多个载体传感器213,载体传感器213用于确定载体201或者载体201所携带的负载202的状态。状态信息可以包括与载体、其组件和/或负载202有关的空间布置(例如,位置、取向或姿态)、速度(例如,线速度或角速度)、加速度(例如,线加速度或角加速度)和/或其它信息。在一些实施例中,根据传感器数据获取或计算的状态信息可以用作反馈数据以控制载体的组件(例如,框架构件)的旋转。这种载体传感器的示例可以包括运动传感器(例如加速度计)、旋转传感器(例如陀螺仪)、惯性传感器等。
载体传感器213可以连接到载体的任何合适的部分(例如,框架构件和/或致动器构件),并且可以或可以不相对于UAV移动。附加地或备选地,载体传感器中的至少一部分可以直接连接到载体201所携带的负载202。
载体传感器213可以与载体的一部分或全部致动器构件连接。例如,三个载体传感器可以分别连接到三轴载体的致动器构件212,并且被配置为测量三轴载体的各个致动器构件212的驱动。这种传感器可以包括电位计或其它类似的传感器。在一个实施例中,可以在电机的电机轴上插入传感器(例如电位计),以测量电机转子和电机定子的相对位置,由此测量转子和定子的相对位置并生成表示该相对位置的位置信号。在一个实施例中,每个与致动器连接的传感器被配置为提供其所测量的对应的致动器构件的位置信号。例如,可以使用第一电位计来生成针对第一致动器构件的第一位置信号,可以使用第二电位计来生成针对第二致动器构件的第二位置信号,并且可以使用第三电位计来生成针对第三致动器构件的第三位置信号。在一些实施例中,载体传感器213也可以连接到载体的一部分或全部框架构件。传感器可以能够传送与载体的一个或多个框架构件和/或图像捕获装置的位置和/或取向有关的信息。传感器数据可以用于确定图像捕获装置相对于可移动平台和/或参考框架的位置和/或取向。
载体传感器213可以提供可以被发送到载体或可移动平台上的一个或多个控制器(未示出)的位置和/或取向数据。传感器数据可以在基于反馈的控制方案中使用。控制方案可以用于控制一个或多个致动器构件(例如一个或多个电机)的驱动。可以位于载体上或者位于携带载体的可移动物体上的一个或多个控制器可以生成用于驱动致动器构件的控制信号。在一些情况下,可以基于从载体传感器接收的、对载体或载体201所携带的负载202的空间布置加以指示的数据来生成控制信号。载体传感器可以位于载体或负载202上,如前所述。控制器生成的控制信号可以被不同的致动器驱动器接收。基于控制信号,不同的致动器驱动器可以控制不同致动器构件的驱动,例如以实现载体的一个或多个组件的旋转。致动器驱动器可以包括适合于控制对应的致动器构件的驱动和从对应的传感器(例如电位计)接收位置信号的硬件和/或软件组件。控制信号可以被同时发送到多个致动器驱动器,以实现多个致动器构件的同时驱动。备选地,控制信号可以被顺序地发送,或者仅被发送到致动器驱动器中的一个。有利地,控制方案可以用于提供用于驱动载体的致动器构件的反馈控制,从而能够实现载体组件的更精确和准确的旋转。
在一些情况下,载体201可以经由一个或多个阻尼元件间接地连接到UAV。阻尼元件可以被配置为减少或消除由可移动平台(例如,UAV)的移动引起的载荷(例如,负载、载体或这两者)的移动。阻尼元件可以包括适于对载体和/或负载的运动进行阻尼的任何元件,诸如主动阻尼元件、被动阻尼元件或具有主动和被动阻尼特性的混合阻尼元件。由本文提供的阻尼元件进行阻尼的运动可以包括振动、摆动、摇动或撞击中的一个或多个。这种移动可以源自传输到负载的可移动平台的移动。例如,所述移动可以包括由动力系统和/或UAV101的其他组件的操作引起的振动。
阻尼元件可以通过消散或减少传递到负载的移动来隔离来自不希望的移动源的负载(例如,振动隔离),提供移动阻尼。阻尼元件可以减小可能由载荷经历的移动的幅度(例如,幅值)。由阻尼元件258施加的移动阻尼可以被用于稳定负载,由此改善由负载(例如,图像捕获装置)捕获的图像的质量,并降低基于捕获的图像生成全景图像所需的图像拼接步骤的计算复杂度。
本文所述的减震元件可以由任何合适的材料或材料组合形成,包括固体、液体或气体材料。用于阻尼元件的材料可以是可压缩的和/或可变形的。例如,阻尼元件可以由海绵、泡沫、橡胶、凝胶等制成。例如,阻尼元件可以包括大致为球形形状的橡胶球。阻尼元件可以具有任何合适的形状,例如大致球形、矩形、圆柱形等。备选地或附加地,阻尼元件可以包括压电材料或形状记忆材料。减震元件可以包括一个或多个机械元件,例如弹簧、活塞、液压装置、气动装置、缓冲器、减震器、隔离器等。可以选择阻尼元件的性质以提供预定量的运动阻尼。在一些情况下,阻尼元件可以具有粘弹性质。阻尼元件的性质可以是各向同性的或各向异性的。例如,阻尼元件可以沿全部运动方向相等地提供运动阻尼。相反,阻尼元件可以仅沿着运动方向的子集(例如,沿着单个运动方向)提供运动阻尼。例如,阻尼元件可以主要沿着Y(偏航)轴提供阻尼。由此,所示出的阻尼元件可以被配置为减小竖直运动。
尽管各种实施例可以被描述为利用单一类型的阻尼元件(例如,橡胶球),但是应当理解的是,可以使用任何合适的不同类型阻尼元件的组合。例如,可以使用任何合适类型的一个或多个阻尼元件将载体连接到可移动平台。阻尼元件可以具有相同或不同的特性或性质,例如刚度、粘弹性等。每个阻尼元件可以连接到载荷的不同部分或仅连接到载荷的某个部分。例如,阻尼元件可以位于载荷与可移动平台之间的接触点或连接点或表面附近。在一些情况下,载荷可以嵌入在一个或多个阻尼元件内或由其包围。
图3示出了根据各种实施例的针对可移动平台的示例性计算架构。可移动平台300(例如,UAV)可以包括一个或多个处理模块(其也可称为处理单元、系统、子系统或处理器)。如图3所示,可移动平台300可以包括移动控制器301、实时感测处理器302和应用处理器302。在一些情况下,可移动平台300可以包括备选和/或附加类型的处理模块。例如,可移动平台300可以包括图像处理器、图像传输模块和/或其它处理模块。
根据各种实施例,可以提供多个处理模块来管理可移动平台300的移动。可以提供处理模块的任何组合或变化。例如,UAV可以包括实时感测处理器302和移动控制器301。在另一示例实例中,UAV可以包括应用处理器304和移动控制器302。
根据各种实施例,处理模块可以使用异构系统(例如,片上系统(SOC)系统)来实现。SOC系统可以是将各种计算组件集成到单个芯片中的集成电路(IC)。它可以在单个芯片基板上包含数字、模拟、混合信号和其它功能电路。SOC系统能够运行各种类型的应用软件,这些软件可以有益于执行复杂任务。此外,SOC系统可以提供高度的芯片集成,这可能会导致制造成本降低和占用空间更小。备选地,异构系统可以是系统级封装(SiP),其在单个封装中包含多个芯片。
根据各种实施例,处理模块可以机载地设置在可移动平台300上。备选地或附加地,一些处理模块可以设置在可移动平台300的外面(例如,在UAV的地面终端处)。在一些情况下,每个处理模块可以是电路单元或电路单元的一部分(例如,芯片或芯片系统中的单个核)。备选地或附加地,每个处理模块可以是单核或多核芯片(或芯片系统)。在一些情况下,可以在相同或不同的印刷电路板(PCB)上设置各种处理模块。
根据各种实施例,移动控制器301(例如,UAV上的飞行控制器)可以被配置为例如通过经由连接334控制一个或多个推进单元303来实现可移动平台300的功能或特征。例如,UAV上的移动控制器可以影响或控制UAV的运动,使得可以实现各种导航特征。在一些情况下,移动控制器可以从诸如应用处理器和/或感测处理器之类的其它处理器(或处理模块)接收指令或信息。在一些情况下,移动控制器可以被配置为处理信息(例如,从连接到移动控制器的传感器接收的信息)以维持UAV的稳定飞行。在一些情况下,例如在不涉及其它处理器或处理模块(例如,应用处理器和/或实时感测处理器)的情况下,移动控制器可以足以维持UAV在空中。例如,在应用处理器和/或实时感测处理器发生故障的情况下,移动控制器可以防止UAV的完全故障或崩溃。
根据各种实施例,移动控制器301可以被配置为实时且高可靠性地处理数据。这对于控制可移动平台300的移动是有益的。例如,基于从各种源(例如,从应用处理器、实时处理器和/或连接到移动控制器的一个或多个传感器)接收的数据,移动控制器可以通过向一个或多个电子速度控制(ESC)控制器发送飞行控制指令来控制UAV的飞行。ESC控制器可以被配置为精确且高效地控制连接到UAV的一个或多个推进单元303的电机的操作,从而影响UAV的实际飞行。例如,移动控制器可以负责UAV的飞行,这是因为应用处理器和/或实时感测处理器可能不直接连接到ESC控制器(即,应用处理器和/或实时感测处理器可能不会直接生成或发送用于控制ESC控制器的指令)。
在一些情况下,应用处理器304可以管理可移动平台300的导航和操作。例如,应用处理器304可以包括中央处理单元(CPU)。备选地或附加地,应用处理器304可以包括图形处理单元(GPU)。GPU可以是专用GPU。备选地,GPU可以是与CPU在相同的晶粒(die)上的集成GPU(即,在SOC系统中)。CPU和/或GPU可以向应用处理器304提供强大的计算能力,使得应用处理器304能够处理数据或完成需要高处理能力的任务(例如,计算机视觉计算)。例如,应用处理器304可以备选地或附加地负责编码数据,为UAV系统提供安全环境(例如,系统图像),更新UAV系统,和/或提供与其它外围装置或处理模块的系统互操作性。在一些情况下,应用处理器304可以负责管理其它外围装置或处理模块和/或处理来自其它装置或模块的数据。
在一些情况下,应用处理器304可以被配置为运行操作系统。操作系统可以是通用操作系统,其被配置为根据任务要求或用户偏好来运行多个程序和应用305。在一些情况下,在应用处理器304上运行的应用305可以涉及UAV的飞行和/或控制。在一些情况下,(例如,经由设置的各种接口)连接到应用处理器304的外部装置可以加载能够在应用处理器304上执行的程序或应用。例如,在应用处理器304上运行的应用可以执行视觉感测、跟踪和视频处理。在一些情况下,在可移动平台300上运行的应用可以是用户可配置的和/或可更新的。因此,操作系统可以提供更新可移动平台300的功能和/或向可移动平台300添加功能的手段。在一些情况下,可以更新或增加可移动平台300的操作能力而无需硬件升级。在一些情况下,可以经由操作系统利用软件更新来更新或增加可移动平台300的操作能力。在一些情况下,操作系统可以是非实时操作系统。备选地,操作系统可以是实时操作系统。实时操作系统可以被配置为在非常短或没有系统延迟(即,实时)的情况下立即且一致地对输入(例如,输入数据)进行响应。另一方面,非实时操作系统可以在具有一些延迟的情况下对输入进行响应。
在一些情况下,应用处理器304可以提供或负责可移动平台300的安全性。例如,UAV系统可以防止重要资源被复制、损坏或被未授权用户获得。授权用户可以包括UAV的所有者和/或其他授权操作者。在一些情况下,UAV系统可以确保UAV保持稳定并响应来自授权用户的命令。此外,UAV系统可以防止未授权用户(或非真实用户,例如黑客)危及UAV系统。
根据各种实施例,可移动平台300的系统图像可以包括可移动平台300系统的完整状态。在一些情况下,可移动平台300的系统图像可以包括应用处理器304的状态(例如,操作系统状态)、以及可移动平台300系统的其它处理器或处理模块和/或其它组件的状态。应用处理器304可以经由软件(例如,在操作系统上运行的应用)提供安全性。例如,在应用处理器304上运行的操作系统可以为可移动平台300提供安全性解决方案。在一些情况下,应用处理器304可以经由硬件安全措施(例如,硬件安全密钥)来提供安全性。在一些情况下,集成硬件和软件组件的组合可以为可移动平台300系统提供安全性。
在一些情况下,应用处理器304可以被配置为在可移动平台300加电时验证系统图像的有效性。备选地或附加地,应用处理器304可以被配置为当UAV的负载(例如,主成像传感器)加电时验证系统图像的有效性。备选地或附加地,可以以预定间隔验证UAV的系统图像。例如,系统图像可以被配置为以大约每6个月、每3个月、每月、每2周、每周、每3天、每24小时、每12个小时、每6小时、每3小时或每小时这样的频率或者更频繁的频率被应用处理器304验证。
在一些情况下,可移动平台300可以验证系统图像的有效性。应用处理器304可以被配置为例如借助深印于微型保险丝(micro fuse)中的密钥来验证系统图像的有效性。在一些情况下,可以仅允许启动经验证的系统图像。例如,在验证系统图像之前可以不允许启动UAV的操作系统或应用处理器304。在一些情况下,应用处理器304还可以被配置为在允许UAV飞行之前验证和记录安全环境中的用户的登录信息。
在一些情况下,应用处理器304可以能够实现安全系统升级。例如,为了升级可移动平台300,不同的处理模块可以从应用处理器接收升级后的系统图像。因此,处理模块可以继续升级系统图像。在一些情况下,处理模块可以被配置为从应用处理器304接收系统图像。在一些情况下,这些处理模块还可以被配置为验证所接收到的图像的有效性。在一些情况下,这些处理模块可以使用相应的私钥来验证所接收的图像的有效性。例如,移动控制器可以在通过应用处理模块和/或诸如实时感测处理器之类的其它处理模块验证成像系统的有效性之前防止UAV起飞。
在一些情况下,应用处理器304可以被配置为从成像传感器接收数据并将数据存储在安全环境中。在一些情况下,应用处理器304还可以被配置为在向存储介质发送数据之前对数据(例如,图像数据)进行加密。在一些情况下,仅适当的用户可以对经加密的数据进行解密。在一些情况下,适当的用户是UAV的操作者或UAV的所有者。备选地或附加地,适当的用户可以包括可能已被授予许可的授权用户。
在一些情况下,可移动平台300可以包括感测处理器302,例如,实时感测处理器。感测处理器302可以包括视觉处理器和/或数字信号处理器。感测处理器302可以提供强大的图像处理能力,并且可以实时或接近实时地操作。在一些情况下,实时感测处理器可以处理来自一个或多个传感器321至322的数据以获得高度测量(例如,UAV相对于地面的高度)或速度测量(例如,UAV的速度)。在一些情况下,实时感测处理器可以处理来自一个或多个传感器的数据,并且负责障碍物检测和深度图计算。在一些情况下,实时感测处理器可以处理来自各种处理模块的信息并监督传感器数据的数据融合,使得可以确定关于UAV的状态的更准确的信息。例如,实时感测处理器可以处理从移动控制器接收的传感器信息。
在一些情况下,各种处理模块可以被配置为管理可移动平台300的不同操作方面,以实现资源的高效使用。在一些情况下,实时感测处理器可以处理由于实时感测而收集到的数据,应用处理器可以使用各种应用逻辑来处理数据,这些应用逻辑可以是动态的和复杂的,并且移动控制器可以基于来自不同的数据模块或来自连接到移动控制器的传感器的数据来影响移动。例如,应用处理器304可以执行计算密集型任务或操作,而实时感测处理器可以通过实时处理传感器数据来支持和确保UAV的最佳操作(例如,稳定的操作)。
根据各种实施例,可移动平台300可以在各种处理模块上设置计算机视觉系统。通过处理数字图像或视频,计算机视觉系统可以确定定位信息、重建场景、在现有数据中搜索和识别匹配的图像或视频。计算机视觉系统倾向于消耗大量计算能力并且需要大的物理占用空间。然而,在复杂环境中实现计算机视觉系统具有广泛的吸引力。例如,UAV中的机载计算机视觉系统可以处理由相机捕获的图像/视频,以作出实时决策来引导UAV。例如,UAV可以确定如何导航,从而避免计算机视觉系统识别出的障碍物。附加地,UAV可以基于所获得的图像/视频是否针对目标的确定来确定是否调整机载相机(例如,放大或缩小)。此外,UAV可以基于可移动物体的位置的地点/周围是否是预期的包裹目的地的确定,来确定是否丢下包裹。
在一些情况下,各种处理模块可以被配置为执行传感器数据融合。基于从连接到移动控制器301的一个或多个传感器312获得的信息和/或从实时感测处理器302或连接到应用处理器304的一个或多个传感器313获得的信息,移动控制器301可以通过调整推进单元303来控制移动可移动平台300的实际移动。例如,即使当其它处理模块(例如,应用处理器或实时感测处理器)故障时,用于UAV的移动控制器也可以使UAV稳定飞行。例如,基于从连接到移动控制器的一个或多个IMU传感器获得的姿态数据和由实时视觉处理器获得的视觉数据,移动控制器可以执行数据融合,使得可以确定关于UAV的状态的准确信息。
根据各种实施例,处理模块可以被配置为彼此通信。在不同处理模块之间,信息或数据的流可以是沿任何方向的。例如,数据可以从实时感测处理器流到应用处理器和/或移动控制器。备选地或附加地,数据或信息可以从应用处理器流到移动控制器和/或实时感测处理器。备选地或附加地,数据或信息可以从移动控制器流到实时感测处理器和/或应用处理器。
不同处理模块(例如,经由通信连接331至333)彼此通信(例如,直接通信)的能力允许处理模块的子集以最适合于给定的UAV的操作的有效方式来完成任务或处理数据。利用不同的处理模块(例如,上述应用处理器、实时感测处理器和移动控制器)并且使得模块之间能够直接通信可以使传感器、控制器和装置能够连接到不同的处理模块,使得可以以有效方式来管理UAV的飞行,在该有效方式下,适合的处理模块可以处理UAV的不同操作方面。在一些情况下,组件之间的直接连接可以减少通信延迟并确保系统一致性和可靠性。
根据各种实施例,可移动平台300可以提供多个接口,用于耦接或连接到外围装置。接口可以是任何类型的接口,并且可以包括但不限于USB、UART、I2C、GPIO、I2S、SPI、MIPI、HPI、HDMI、LVDS等。接口可以配置有多个特性。例如,接口可以配置有诸如带宽、延迟和/或吞吐量之类的特性。在一些情况下,外围装置可以包括附加的传感器和/或模块。外围装置可以根据需要(例如,带宽或吞吐量需要)经由特定接口连接到应用处理模块。在一些情况下,可以在需要高带宽(例如,图像数据传输)的地方使用高带宽接口(例如,MIPI)。在一些情况下,可以在可接受低带宽(例如,控制信号通信)的地方使用低带宽接口(例如,UART)。
接口可以为可移动平台300提供模块化,使得用户可以根据任务要求或偏好来更新外围装置。例如,根据用户的需求和任务目标,可以添加或换入和换出外围装置,以实现最适合于可移动平台300目标的模块化配置。在一些情况下,用户可以方便地访问多个接口。在一些情况下,多个接口可以位于可移动平台300的壳体内。备选地或附加地,多个接口可以部分地位于可移动平台300的外部。
在一些情况下,应用处理器304可以管理各种外围装置、传感器和/或其它处理器和/或与之交互。应用处理器304可以与实时感测处理器302和/或移动控制器301通信,以高效地处理数据和实现UAV特征。在一些情况下,应用处理器304可以从其它处理模块中的任何模块或全部模块接收数据或信息,并且进一步处理数据或信息以生成用于管理可移动平台300的移动的有用信息(例如,构建用于避障的网格图)。在一些情况下,应用处理器304可以确保高效地划分并由不同的处理模块处理不同的程序、输入和/或数据。在一些情况下,在应用处理器304上运行的操作系统以及使得可移动平台300的操作者能够配置可移动平台300与更新的应用和/或装置(例如,外围装置)一起操作的各种接口可以为UAV提供极大的模块化和可配置性,使得UAV能够在最适合于特定任务目标的条件下操作。
图4示出了根据本发明各种实施例的支持在可移动平台中进行同步的示例性图示。如图4所示,移动控制器401可以用于控制可移动平台400(例如,UAV)的移动。此外,可移动平台400可以使用感测处理器402来感测环境。例如,感测处理器402可以是视觉处理器(例如,视觉处理单元(VPU)),其可以处理由各种视觉传感器421至422捕获的环境的图像。
根据各种实施例,可以使用可移动平台400上的不同处理模块来维护系统时间。如图4所示,可移动平台400可以基于定时器411来维护系统时间。例如,定时器411可以针对各种电路组件生成表示当前系统时间的时钟信号。备选地,定时器411可以是当其达到预定计数时输出信号的计数器。在一些情况下,定时器411可以通过移动控制器401来配置和/或设置。通过本地维护系统时间,移动控制器401可以确保系统时间可靠且精确,这对于执行各种关键任务是有益的。例如,通过使由惯性测量单元(IMU)测量的各种移动特性信息(例如,UAV的平移加速度和旋转速度)与其它传感器(在相同时间点或在不同时间点处)对环境的测量进行同步,移动控制器可以维持UAV在空中的姿态和位置。
备选地,可以基于可移动平台400上的应用处理器404上的定时机制来配置系统时间。例如,可以将定时器411配置和/或设置在应用处理器404上,应用处理器404可以管理可移动平台400的导航和操作。通过使用应用处理器404来维护系统时间,在应用处理器404上运行的应用405可以方便地将任务数据与从不同源接收的感测数据(例如,从与可移动平台400相关联的不同传感器收集的数据)同步。备选地,出于各种目的,可以基于感测处理器402或可移动平台400上的任何其它处理模块上的定时机制来配置系统时间。
根据各种实施例,移动控制器401可以生成触发信号。此外,移动控制器401可以基于所维护的系统时间来生成与触发信号相对应的时间戳。
如图4所示,移动控制器401中的定时控制器413可以基于定时器411提供的(根据配置的系统时间的)定时信号以预定频率来生成触发信号(例如,曝光信号)。例如,触发信号可以是软件/硬件中断信号。此外,定时控制器413可以锁存定时信号431以例如在生成触发信号的时刻生成与触发信号相对应的时间戳。备选地,当可以同时执行多个感测操作时,可以生成用于指示预定未来时间点的时间戳。例如,包括功能电路单元在内的定时控制器413可以获得与锁存的定时信号相关联的序列号。然后,定时控制器413可以保存与触发信号相对应的时间戳。
根据各种实施例,可以以预定频率生成触发信号。例如,移动控制器可以以满足控制UAV的需要的频率来生成用于经由视觉传感器421至422来捕获图像的曝光信号。在一些情况下,可以确定或配置用于生成曝光信号的频率,以使视觉数据能够与由IMU412收集的移动特性数据进行数据融合。例如,用于UAV的移动控制器可以以大约每小时、每分钟、每三十秒、每二十秒、每十秒、每五秒、每两秒或每秒这样的频率或者更频繁的频率来生成曝光信号。或者,在每一秒中,用于UAV的移动控制器可以生成大约一个、二个、五个、十个、二十个、三十个、五十个、一百个、二百个、三百个、五百个、一千个或更多个曝光信号。
此外,定时控制器413可以将曝光信号433和时间戳434提供给感测处理器402,以触发视觉传感器421至422捕获一个或多个图像。同时,定时控制器413可以将时间戳432提供给应用处理器304和可移动平台400上的其它处理模块。
根据各种实施例,移动控制器401可以例如经由信号线向感测处理器402发送曝光信号433和对应的时间戳434。附加地或可选地,定时控制器413可以在向感测处理器402发送时间戳信息之前对时间戳进行编码。可以使用各种编码方案来编码时间戳。例如,时间戳可以与触发信号一起发送。备选地,时间戳和触发信号可以分开发送。当感测处理器接收到经编码的时间戳时,感测处理器402可以对所接收的时间戳信息进行解码以获得时间戳。
根据各种实施例,在从移动控制器401接收到触发信号和对应的时间戳时,感测处理器402可以触发一个或多个传感器421至422进行感测操作。然后,感测处理器402可以获得所触发的感测操作的感测数据,并且将所接收的时间戳与感测数据相关联。例如,时间戳可以包括在感测数据的标头部分中。
根据各种实施例,感测处理器402可以进一步处理所收集的周围环境的感测信息。例如,感测处理器402可以触发一个或多个视觉传感器421至422以捕获一个或多个图像,这些图像可以用于计算深度图或执行对定位、映射和避障有用的视觉测距。
根据各种实施例,感测处理器402可以经由连接435(例如,存储器总线)与可移动平台400上的其它处理模块通信感测数据。例如,感测处理器402可以经由存储器总线将捕获的成像信息和/或经处理的信息(例如,应用了时间戳的视觉数据)写入双倍数据速率同步动态随机存取存储器(DDR DRAM)中。附加地,感测处理器402可以向应用处理器404提供存储器地址。然后,应用处理器404可以经由存储器总线从DDR DRAM中的对应存储块获得应用了时间戳的视觉数据。因此,感测处理器402可以高效地向应用处理器404发送大量视觉数据。
根据各种实施例,应用处理器404可以做出与UAV任务管理和导航控制有关的确定。在一些情况下,应用处理器404可以从传感器(包括与其它处理模块相关联的传感器,例如移动控制器401上的IMU传感器413)接收感测信息。在一些情况下,可以在与捕获视觉数据的时间点不同的时间点处收集来自其它传感器的数据。基于时间戳差异,应用处理器404可以使用各种技术执行数据融合,以同步所收集的感测信息(例如,修改收集的感测数据以调整时间差)。备选地,可以在与捕获视觉数据的时间点相同的时间点处(例如,在预定的时间点处)收集来自其它传感器的数据。因此,基于同步信息,应用处理器404可以应用各种应用逻辑,比如规划复杂导航路线以同时执行多个任务(例如,在执行避障的同时跟踪目标,并且向移动控制器401提供这种确定)。
然后,应用处理器404可以经由连接436向移动控制器401提供所述确定。备选地,感测处理器402可以经由连接437向移动控制器401发送感测数据,移动控制器401转而可以做出确定。因此,移动控制器401可以基于这种确定生成用于控制一个或多个推进单元403的控制信号,并且向推进单元403发送控制信号438。例如,用于UAV的移动控制器可以生成用于电子速度控制(ESC)的信号,以经由控制螺旋桨的操作来控制UAV的移动。在一些情况下,ESC是一种电子电路,其目的是改变电动电机的速度。
图5示出了根据本发明各种实施例的在可移动平台中进行同步的另一示例性图示。如图5所示,移动控制器501可以用于控制可移动平台500(例如,UAV)的移动。此外,可移动平台500可以使用感测处理器502来处理来自环境的信息。例如,感测处理器502可以是视觉处理器(例如,视觉处理单元(VPU)),其可以处理由各种视觉传感器521至522捕获的环境的图像。
根据各种实施例,可以使用可移动平台500上的不同处理模块来维护系统时间。如图5所示,可移动平台500可以基于定时器511来维护系统时间。在一些情况下,被配置和/或设置在移动控制器501上的定时器511可以针对可移动平台500上的各种处理模块来维护系统时间。通过本地维护系统时间,移动控制器501可以确保在没有不必要的延迟的情况下接收定时信号,并且可以避免处理和数据传输中的可能错误。因此,系统时间可以是可靠和精确的,这有利于执行关键任务。例如,通过使由惯性测量单元(IMU)测量的各种移动特性信息(例如,UAV的平移加速度和旋转速度)与其它传感器(在不同时间点处)对环境的测量进行同步,移动控制器可以维持UAV在空中的姿态和位置。
备选地,可以基于可移动平台500上的其它处理模块上的定时机制来配置系统时间。例如,定时器可以配置和/或设置在感测处理器502上,感测处理器502可以处理由各种传感器(例如,视觉传感器521至522)收集的感测数据。
根据各种实施例,移动控制器501可以生成用于执行感测操作的触发信号。此外,移动控制器501可以基于所维护的系统时间来生成与触发信号相对应的时间戳。
如图5所示,移动控制器501中的定时控制器513可以基于定时器511提供配置的系统时间以预定频率来生成触发信号(例如,曝光信号)。此外,定时控制器513可以锁存定时信号以例如在生成触发信号的时刻生成与触发信号相对应的时间戳。备选地,当可以同时执行多个感测操作时,可以生成用于指示预定未来时间点的时间戳。例如,包括功能电路单元在内的定时控制器可以记录与锁存的定时信号531相关联的序列号。然后,定时控制器513可以保存与触发信号相对应的时间戳。
根据各种实施例,可以以预定频率生成触发信号。例如,UAV的移动控制器可以以满足控制UAV的需要的频率来生成用于经由视觉传感器521至522来捕获图像的曝光信号。在一些情况下,可以确定或配置用于生成曝光信号的频率,以使视觉数据能够与由IMU 512收集的移动特性数据进行数据融合。例如,用于UAV的移动控制器可以以大约每小时、每分钟、每三十秒、每二十秒、每十秒、每五秒、每两秒或每秒这样的频率或者更频繁的频率来生成曝光信号。或者,在每一秒中,用于UAV的移动控制器可以生成大约一个、二个、五个、十个、二十个、三十个、五十个、一百个、二百个、三百个、五百个、一千个或更多个曝光信号。
此外,定时控制器513可以将曝光信号533和时间戳532提供给感测处理器502,以触发视觉传感器521至522捕获一个或多个图像。根据各种实施例,移动控制器501可以例如经由信号线向感测处理器发送曝光信号533和对应的时间戳532。附加地或可选地,定时控制器513可以在向感测处理器502发送时间戳信息之前对时间戳进行编码。当感测处理器接收到经编码的时间戳时,感测处理器502可以对所接收的时间戳信息进行解码以获得时间戳。
根据各种实施例,当从移动控制器501接收到触发信号533和对应的时间戳532时,感测处理器502可以触发一个或多个传感器521-522进行感测操作,获得所触发的感测操作的感测数据,并且将所接收的时间戳与感测数据相关联。例如,感测处理器502可以触发一个或多个视觉传感器521至522以捕获一个或多个图像,这些图像可以用于计算深度图或执行对定位、映射和避障有用的视觉测距。
根据各种实施例,感测处理器502可以经由连接534(例如,存储器总线)与可移动平台500上的其它处理模块通信感测数据。使用存储器总线,可以可靠且高效地向其它处理模块传送大量的感测数据。例如,感测处理器502可以经由存储器总线将捕获的成像信息和/或经处理的信息(例如,应用了时间戳的视觉数据)写入双倍数据速率同步动态随机存取存储器(DDR DRAM)中。附加地,感测处理器502可以向移动控制器501提供存储器地址。然后,移动控制器501可以经由存储器总线从DDR DRAM中的对应存储块读取应用了时间戳的视觉数据。
根据各种实施例,移动控制器501可以做出与可移动平台500的任务和导航控制有关的确定。此外,移动控制器501可以从其它传感器(例如,移动控制器501上的IMU传感器512)接收感测信息。在一些情况下,可以在与捕获视觉数据的时间点不同的时间点处收集来自传感器512的数据。基于时间戳差异,移动控制器501可以使用各种技术执行数据融合,以同步所收集的感测信息(例如,修改收集的感测数据以补偿时间差)。备选地,可以在与捕获视觉数据的时间点相同的时间点处(例如,在预定的时间点处)收集来自其它传感器的数据。因此,基于同步信息,移动控制器501可以控制导航,比如规划复杂导航路线以同时执行多个任务,例如,在执行避障的同时跟踪目标,并且向移动控制器501提供这种确定。
然后,移动控制器501可以基于这种确定生成用于控制一个或多个推进单元503的控制信号535。例如,用于UAV的移动控制器可以生成用于电子速度控制(ESC)的信号,以经由控制螺旋桨的操作来控制UAV的移动。在一些情况下,ESC是一种电子电路,其目的是改变电动电机的速度。因此,通过直接连接移动控制器501和感测处理器502,可移动平台500可以实现简单性和可靠性。
图6示出了根据本发明各种实施例的支持在另一备选可移动平台中进行同步的示例性图示。如图6所示,移动控制器601可以用于控制可移动平台600(例如,UAV)的移动。此外,可移动平台600可以使用感测处理器602来处理环境的信息。例如,感测处理器602可以是视觉处理器(例如,视觉处理单元(VPU)),其可以处理由各种视觉传感器621至622捕获的环境的图像信息。
根据各种实施例,可移动平台600可以用于维护系统时间。如图6所示,可移动平台600可以基于定时器611来维护系统时间。在一些情况下,定时器611可以配置和/或设置在移动控制器601上。备选地,可以基于可移动平台600的应用处理器604或其它处理模块上的定时机制来配置系统时间。
根据各种实施例,移动控制器601可以生成触发信号。根据各种实施例,可以以预定频率生成触发信号。例如,可以确定或配置用于生成曝光信号的频率以满足用于控制UAV的需要。此外,移动控制器可以以能够支持视觉数据与由IMU 612收集的惯性数据数据融合的频率来生成曝光信号,以用于经由数据传感器621至622捕获图像。
此外,移动控制器601可以向应用处理器604提供触发信号631,以对应用处理器604执行感测操作。在接收到触发信号时,应用处理器604可以基于所维护的系统时间来生成与触发信号相对应的时间戳。应用处理器604可以基于本地定时器或从另一处理模块(例如,定时器611)接收的系统时间来生成时间戳。然后,应用处理器604可以将触发信号633和时间戳634提供给感测处理器602,以触发视觉传感器621至622捕获一个或多个图像。附加地,应用处理器604可以将时间戳632提供给移动控制器601。
根据各种实施例,在从应用处理器604接收到触发信号和对应的时间戳时,感测处理器602可以触发一个或多个传感器621至622进行感测操作。然后,感测处理器602可以获得所触发的感测操作的感测数据,并且处理所接收的时间戳比将其与感测数据相关联。例如,感测处理器602可以触发一个或多个视觉传感器621至622捕获一个或多个图像。然后,感测处理器602可以计算深度图或执行对定位、映射和避障有用的视觉测距。
根据各种实施例,感测处理器602可以经由连接634(例如,存储器总线)与可移动平台600上的其它处理模块通信感测数据。例如,感测处理器602可以经由存储器总线将捕获的成像信息和/或经处理的信息(例如,应用了时间戳的视觉数据)写入双倍数据速率同步动态随机存取存储器(DDR DRAM)中。然后,应用处理器604可以经由存储器总线从DDRDRAM中的对应存储块获得应用了时间戳的视觉数据。
根据各种实施例,应用处理器604可以做出与UAV任务和导航控制有关的确定。此外,应用处理器604可以从其他传感器(包括与其它处理模块相关联的传感器,例如移动控制器601上的IMU传感器612)接收感测信息。在一些情况下,可以在与捕获视觉数据的时间点不同的时间点处收集来自其它传感器的数据。基于时间戳差异,应用处理器604可以使用各种技术执行数据融合,以同步所收集的感测信息(例如,修改收集的感测数据以补偿时间差)。备选地,可以在与捕获视觉数据的时间点相同的时间点处(例如,在预定的时间点处)收集来自其它传感器的数据。因此,基于同步信息,应用处理器604可以应用各种应用逻辑,比如规划复杂导航路线以同时执行多个任务(例如,在执行避障的同时跟踪目标,并且向移动控制器601提供这种确定)。
然后,应用处理器604可以经由连接635向移动控制器601提供所述确定。然后,移动控制器601可以基于这种确定生成用于控制一个或多个推进单元603的控制信号636。例如,用于UAV的移动控制器可以生成用于电子速度控制(ESC)的信号,以经由控制螺旋桨的操作来控制UAV的移动。在一些情况下,ESC是一种电子电路,其目的是改变电动电机的速度。
图7示出了根据本发明各种实施例的基于数据融合来控制UAV的移动的示例性图示。可以控制可移动平台(例如,UAV 701)的移动以沿着飞行路径710移动。如图7所示,UAV701可以在不同时间点(t0至t6)处以不同姿态处于不同位置处,同时围绕目标702盘旋。
在一些情况下,用于UAV 701的移动控制器可以包括被配置为维护系统时间的定时器。附加地,移动控制器可以包括定时器控制器,定时器控制器被配置为生成用于曝光操作的触发信号,并且根据系统时间获得与触发信号相对应的时间戳。此外,UAV 701可以包括与一个或多个图像传感器相关联的视觉感测处理器。在从移动控制器接收到触发信号和时间戳时,视觉感测处理器可以指示一个或多个图像传感器执行曝光操作,以获取周围环境的视觉数据,并且将时间戳与视觉数据相关联。
在一些情况下,UAV 701可以包括各种处理模块(例如,应用处理器)。所述应用处理器可以基于所述时间戳,将由所述一个或多个图像传感器获取的所述图像数据与由与所述移动控制器相关联的惯性测量单元IMU获取的姿态数据同步。因此,所述移动控制器可以基于所述图像数据和所述姿态数据的同步,为所述一个或多个推进单元生成一个或多个控制信号,以实现所述UAV在周围环境中的移动。
根据各种实施例,UAV 701可以支持多个处理模块之间的同步并执行数据融合。例如,UAV 701机载的IMU可以测量UAV 401的姿态,而UAV 701携带的一个或多个成像传感器可以捕获周围环境(例如,目标702)的图像,以向移动控制器提供反馈。UAV 701可以利用由UAV 701机载的[MU收集的飞行姿态信息和由UAV 701携带的视觉传感器收集的成像信息。此外,UAV 701可以利用其它感测信息,例如由全球定位系统(GPS)或其它类似系统收集的位置信息。因此,在如图7所示的示例中,UAV 701可以迅速且精确地评估UAV 701的位置、姿态以及其相对于盘旋环境中的任何障碍物或目标(例如,702)的相对位置。
在一些情况下,为了执行数据融合,可以在与捕获视觉数据的时间点不同的时间点处收集来自IMU的数据。基于时间戳差异,诸如应用处理器之类的处理模块可以使用各种技术来执行数据融合以同步所收集的感测信息。例如,处理模块可以修改所收集的感测数据以补偿时间差。备选地,可以在相同时间点处(例如,在捕获视觉数据时的预定时间点处)收集来自多个源的感测数据。因此,基于同步信息,处理模块404可以应用各种应用逻辑,比如规划复杂导航路线以同时执行多个任务(例如,在执行避障的同时跟踪目标,并且向移动控制器提供这种确定)。
图8示出了根据本发明各种实施例的使用移动控制器来支持在可移动平台中进行同步的流程图。如图8所示,在步骤801处,移动控制器可以从另一处理模块或远程装置接收导航控制指令。此外,在步骤1002处,移动控制器可以生成飞行控制信号。然后,在步骤803处,移动控制器可以将飞行控制信号提供给一个或多个推进单元。
图9示出了根据本发明各种实施例的使用与移动控制器相关联的定时控制器来支持在可移动平台中进行同步的流程图。如图9所示,在步骤901处,定时控制器可以生成用于感测操作的触发信号。此外,在步骤902处,定时控制器可以生成与触发信号相对应的时间戳。然后,在步骤903处,定时控制器可以向感测处理器发送触发信号和对应的时间戳。
图10示出了根据本发明各种实施例的使用感测处理器来支持在可移动平台中进行同步的流程图。如图10所示,在步骤1001处,当从移动控制器接收到触发信号和对应的时间戳时,感测处理器可以触发一个或多个传感器进行感测操作。此外,在步骤1002处,感测处理器可以从所触发的感测操作收集感测数据。然后,在步骤1003处,感测处理器可以将所接收的时间戳与所收集的感测数据相关联。
图11示出了根据本发明各种实施例的使用应用处理器来支持在可移动平台中进行同步的流程图。如图11所示,在步骤1101处,应用处理器可以从感测处理器接收感测数据,该感测数据可以与对应于触发信号的时间戳相关联。此外,在步骤1102处,应用处理器可以基于所接收的感测数据生成一个或多个导航指令。然后,在步骤1103处,应用处理器可以将一个或多个导航指令提供给移动控制器。
图12示出了根据本发明各种实施例的支持在UAV中进行同步的流程图。如图12所示,在步骤1201处,用于UAV的移动控制器可以获得由一个或多个图像传感器获取的图像数据。在步骤1202处,移动控制器可以获得由与移动控制器相关联的IMU获取的姿态数据。此外,在步骤1203处,移动控制器可以将由一个或多个图像传感器获取的图像数据与由与移动控制器相关联的IMU获取的姿态数据同步。然后,在步骤1204处,所述移动控制器可以基于所述图像数据和所述姿态数据的同步,为所述一个或多个推进单元生成一个或多个控制信号,以实现所述UAV在周围环境中的移动。
本发明的许多特征可以以硬件、软件、固件或其组合的形式执行,或者使用硬件、软件、固件或其组合执行,或者借助于硬件、软件、固件或其组合执行。因此,本发明的特征可以使用处理系统来实现。示例性处理器可以包括但不限于:一个或多个通用微处理器(例如,单核或多核处理器)、专用集成电路、专用指令集处理器、图形处理单元、物理处理单元、数字信号处理单元、协处理器、网络处理单元、音频处理单元、加密处理单元等。
本发明的特征可以使用或借助于计算机程序产品来实现,所述计算机程序产品是存储有指令的存储介质(介质)或计算机可读介质(介质),其中可以将所述指令用来对处理系统进行编程以执行本文中呈现的任何特征。存储介质可以包括但不限于任何类型的盘,包括:软盘、光盘、DVD、CD-ROM、微型驱动器和磁光盘、ROM、RAM、EPROM、EEPROM、DRAM、VRAM、闪存设备、磁卡或光卡、纳米系统(包括分子存储器IC)或者适于存储指令和/或数据的任何类型的介质或设备。
存储在任何机器可读介质(介质)上的本发明的特征可以结合到用于控制处理系统的硬件以及用于支持处理系统使通过利用本发明的结果与其他机制进行交互的软件和/或固件中。这样的软件或固件可以包括但不限于应用代码、设备驱动程序、操作系统和执行环境/容器。
本发明的特征还可以使用例如诸如专用集成电路(ASIC)和现场可编程门阵列(FPGA)设备的硬件组件来从硬件上实现。用于执行本文所述功能的硬件状态机的实现方式对于相关领域的技术人员将是显而易见的。
附加地,可以使用包括一个或多个处理器、存储器和/或根据本公开的教导编程的计算机可读存储介质在内的一个或多个常规通用或专用数字计算机、计算设备、机器或微处理器,来方便地实现本发明。编程技术人员可以根据本公开的教导容易地准备适当的软件编码,这对软件领域的技术人员将是显然的。
尽管上面已经描述了本发明各种实施例,但是应当理解,它们是作为示例而不是限制来呈现的。本领域普通技术人员应该理解的是在不脱离本发明的精神和范围的情况下可以进行形式和细节上的各种变化。
以上已经在示出指定功能及其关系的性能的功能构建块的辅助下,描述了本发明。为便于描述,本文通常任意定义这些功能构建块的边界。只要所指定的功能及其关系被适当地执行,就可以定义备选边界。因此任何这样的替代边界都在本发明的范围和精神之内。
已经呈现了本发明的上述说明,用于说明和描述的目的。不是旨在是穷尽性的或将公开的当前形式作为对本发明的限制。本发明的宽度和范围不应当受到上述示例性实施例中任意一个的限制。许多修改和变化对于本领域普通技术人员将是显而易见的。这些修改和变化包括所公开的特征的任何相关组合。对实施例的选择和描述是为了最好地解释本发明的原理及其实际应用,从而使得本领域的其他技术人员能够理解本发明的各种实施例以及适合于预期特定用途的各种修改。意图在于,本发明的范围由所附权利要求及其等同物限定。
Claims (20)
1.一种用于支持在可移动平台中进行同步的系统,包括:
感测处理器,所述感测处理器与一个或多个传感器相关联;以及
定时控制器,所述定时控制器与移动控制器相关联,其中所述定时控制器操作用于:
生成用于感测操作的触发信号;
生成与所述触发信号相对应的时间戳,以及
向所述感测处理器发送所述触发信号和对应的时间戳,
其中,当从所述移动控制器接收到所述触发信号和所述对应的时间戳时,所述感测处理器操作用于:
触发所述一个或多个传感器进行感测操作;
获得所触发的感测操作的感测数据;以及
将所接收的时间戳与所述感测数据相关联。
2.根据权利要求1所述的系统,还包括:
应用处理器,所述应用处理器操作用于:
从所述感测处理器接收与和所述触发信号相对应的时间戳相关联的感测数据;
基于所接收的感测数据来生成一个或多个导航指令;以及
向所述移动控制器提供所述一个或多个导航指令。
3.根据权利要求2所述的系统,其中,所述感测处理器操作用于经由存储器总线与应用处理器通信感测数据。
4.根据权利要求1所述的系统,其中,所述感测处理器操作用于:
经由信号线接收所述触发信号和对应的时间戳;以及
经由存储器总线向另一处理模块提供感测数据。
5.根据权利要求4所述的系统,其中,所述另一处理模块是所述移动控制器,并且其中所述移动控制器操作用于:使用所述对应的时间戳来使从所述感测处理器接收的所述感测数据与由与所述移动控制器相关联的一个或多个惯性测量单元IMU收集的姿态数据同步。
6.根据权利要求1所述的系统,其中,所述触发信号是以预定频率生成的。
7.根据权利要求1所述的系统,其中,所述时间戳是基于系统时间生成的。
8.根据权利要求7所述的系统,其中,所述系统时间是基于与所述移动控制器相关联的定时器来配置的。
9.根据权利要求1所述的系统,其中,所述一个或多个传感器包括视觉传感器,并且所述感测数据包括由所述视觉传感器捕获的图像数据。
10.根据权利要求9所述的系统,其中,所述感测处理器操作用于基于由所述视觉传感器捕获的图像数据来生成深度图。
11.根据权利要求1所述的系统,其中,所述定时控制器操作用于锁存和保存与所述触发信号相对应的所述时间戳。
12.根据权利要求1所述的系统,其中,所述定时控制器操作用于对所述时间戳进行编码,然后再向所述感测处理器发送经编码的时间戳。
13.根据权利要求12所述的系统,其中,所述感测处理器操作用于对所接收的经编码的时间戳信息进行解码以获得所述时间戳。
14.根据权利要求1所述的系统,其中,所述触发信号和所述对应的时间戳是经由应用处理器向所述感测处理器发送的。
15.根据权利要求14所述的系统,其中,所述应用处理器操作用于使用一个或多个通信接口与所述感测处理器和所述移动控制器通信。
16.根据权利要求1所述的系统,其中,所述感测处理器和所述移动控制器包括在专用集成电路ASIC和现场可编程门阵列FPGA之一中。
17.根据权利要求1所述的系统,其中,所述感测处理器和所述移动控制器包括在片上系统SoC或系统级封装SiP中。
18.一种用于支持在可移动平台中进行同步的方法,包括:
经由与移动控制器相关联的定时控制器来生成用于感测操作的触发信号;
生成与所述触发信号相对应的时间戳;
向感测处理器发送所述触发信号和对应的时间戳,
当从所述移动控制器接收到所述触发信号和所述对应的时间戳时,经由所述感测处理器触发一个或多个传感器进行感测操作;
获得所触发的感测操作的感测数据;以及
将所接收的时间戳与所述感测数据相关联。
19.一种存储指令的非暂时性计算机可读介质,所述指令在由处理器执行时,执行以下步骤:
经由与移动控制器相关联的定时控制器来生成用于感测操作的触发信号;
生成与所述触发信号相对应的时间戳;
向感测处理器发送所述触发信号和对应的时间戳,
当从所述移动控制器接收到所述触发信号和所述对应的时间戳时,经由所述感测处理器触发一个或多个传感器进行感测操作;
获得所触发的感测操作的感测数据;以及
将所接收的时间戳与所述感测数据相关联。
20.一种无人机UAV,包括:
一个或多个推进单元;
移动控制器,包括:
定时器,被配置为维护系统时间;以及
定时控制器,被配置为:
生成用于曝光操作的触发信号;以及
根据所述系统时间来获得与所述触发信号相对应的时间戳;
视觉感测处理器,所述视觉感测处理器与一个或多个图像传感器相关联,其中,当从所述移动控制器接收到所述触发信号和所述时间戳时,所述视觉感测处理器操作用于:
指示所述一个或多个图像传感器执行所述曝光操作,并且获取周围环境的视觉数据;以及
将所述时间戳与所述视觉数据相关联;以及
应用处理器,其中所述应用处理器操作用于:基于所述时间戳,将由所述一个或多个图像传感器获取的所述图像数据与由与所述移动控制器相关联的惯性测量单元IMU获取的姿态数据同步,
其中,所述移动控制器操作用于:基于所述图像数据和所述姿态数据的同步,为所述一个或多个推进单元生成一个或多个控制信号,以实现所述UAV在周围环境中的移动。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/CN2016/108891 WO2018103013A1 (en) | 2016-12-07 | 2016-12-07 | System and method for supporting synchronization in a movable platform |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109983414A true CN109983414A (zh) | 2019-07-05 |
Family
ID=62490554
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201680090948.8A Pending CN109983414A (zh) | 2016-12-07 | 2016-12-07 | 用于支持在可移动平台中进行同步的系统和方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20190324449A1 (zh) |
CN (1) | CN109983414A (zh) |
WO (1) | WO2018103013A1 (zh) |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109074090A (zh) * | 2016-02-29 | 2018-12-21 | 深圳市大疆创新科技有限公司 | 无人机硬件架构 |
CN111355913A (zh) * | 2018-12-21 | 2020-06-30 | 刘松林 | 一种pos数据和视频数据的同步方法及装置 |
CN112240777A (zh) * | 2019-07-16 | 2021-01-19 | 百度(美国)有限责任公司 | 传感器同步离线实验室验证系统 |
CN112335223A (zh) * | 2019-10-31 | 2021-02-05 | 深圳市大疆创新科技有限公司 | 控制方法、数据传输装置、拍摄装置、控制系统、云台、可移动平台以及计算机可读存储介质 |
WO2021035721A1 (en) * | 2019-08-30 | 2021-03-04 | Baidu.Com Times Technology (Beijing) Co., Ltd. | Synchronizing sensors of autonomous driving vehicles |
WO2021035645A1 (zh) * | 2019-08-29 | 2021-03-04 | 上海飞来信息科技有限公司 | 传感系统、传感设备及其控制方法、可移动平台和存储介质 |
WO2021078202A1 (zh) * | 2019-10-22 | 2021-04-29 | 深圳市道通智能航空技术有限公司 | 飞行器时间同步系统及方法 |
CN113353090A (zh) * | 2021-06-16 | 2021-09-07 | 深圳市道通智能汽车有限公司 | 数据同步系统、方法、定位系统及无人驾驶设备 |
WO2021212343A1 (zh) * | 2020-04-21 | 2021-10-28 | 深圳市大疆创新科技有限公司 | 无人机的飞行方法、飞行系统、无人机及存储介质 |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10775784B2 (en) * | 2018-06-14 | 2020-09-15 | Wing Aviation Llc | Unmanned aerial vehicle with decentralized control system |
CN110139041B (zh) * | 2018-11-19 | 2021-09-28 | 魔门塔(苏州)科技有限公司 | 远程多传感信号同步采集方法 |
CN109729277B (zh) * | 2018-11-19 | 2021-10-01 | 魔门塔(苏州)科技有限公司 | 多传感器采集时间戳同步装置 |
US11609301B2 (en) * | 2019-03-15 | 2023-03-21 | Teledyne Flir Commercial Systems, Inc. | Radar data processing systems and methods |
WO2021000216A1 (zh) * | 2019-07-01 | 2021-01-07 | 深圳市大疆创新科技有限公司 | 消息同步方法和装置、无人驾驶系统以及可移动平台 |
CN113765611B (zh) * | 2020-06-03 | 2023-04-14 | 杭州海康威视数字技术股份有限公司 | 时间戳确定方法及相关设备 |
US11699284B2 (en) * | 2020-10-27 | 2023-07-11 | Autel Robotics Co., Ltd. | Data collection method, unmanned aerial vehicle (UAV) and storage medium |
CN114089777A (zh) * | 2021-11-22 | 2022-02-25 | 广州市华科尔科技股份有限公司 | 一种抛飞无人机的控制方法及装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105222760A (zh) * | 2015-10-22 | 2016-01-06 | 一飞智控(天津)科技有限公司 | 一种基于双目视觉的无人机自主障碍物检测系统及方法 |
WO2016131005A1 (en) * | 2015-02-13 | 2016-08-18 | Unmanned Innovation, Inc. | Unmanned aerial vehicle sensor activation and correlation |
CN105940390A (zh) * | 2013-12-30 | 2016-09-14 | 谷歌技术控股有限责任公司 | 用于同步从设备的多个传感器接收的数据的方法和系统 |
CN105981369A (zh) * | 2013-12-31 | 2016-09-28 | 谷歌技术控股有限责任公司 | 用于以数字图像格式向应用处理器提供传感器数据和图像数据的方法和系统 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104729506B (zh) * | 2015-03-27 | 2017-11-14 | 北京航空航天大学 | 一种视觉信息辅助的无人机自主导航定位方法 |
CN105468019B (zh) * | 2015-12-23 | 2018-03-02 | 中国工程物理研究院总体工程研究所 | 一种多任务独立并行的无人机飞行控制方法 |
-
2016
- 2016-12-07 WO PCT/CN2016/108891 patent/WO2018103013A1/en active Application Filing
- 2016-12-07 CN CN201680090948.8A patent/CN109983414A/zh active Pending
-
2019
- 2019-06-05 US US16/432,543 patent/US20190324449A1/en not_active Abandoned
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105940390A (zh) * | 2013-12-30 | 2016-09-14 | 谷歌技术控股有限责任公司 | 用于同步从设备的多个传感器接收的数据的方法和系统 |
CN105981369A (zh) * | 2013-12-31 | 2016-09-28 | 谷歌技术控股有限责任公司 | 用于以数字图像格式向应用处理器提供传感器数据和图像数据的方法和系统 |
WO2016131005A1 (en) * | 2015-02-13 | 2016-08-18 | Unmanned Innovation, Inc. | Unmanned aerial vehicle sensor activation and correlation |
CN105222760A (zh) * | 2015-10-22 | 2016-01-06 | 一飞智控(天津)科技有限公司 | 一种基于双目视觉的无人机自主障碍物检测系统及方法 |
Non-Patent Citations (1)
Title |
---|
林兴志 等: "第6章 北斗智能交通物流物联网集成装备", 《珠江-西江互联互通物联网关键技术研究》 * |
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11231726B2 (en) | 2016-02-29 | 2022-01-25 | SZ DJI Technology Co., Ltd. | UAV hardware architecture |
CN109074090A (zh) * | 2016-02-29 | 2018-12-21 | 深圳市大疆创新科技有限公司 | 无人机硬件架构 |
CN111355913A (zh) * | 2018-12-21 | 2020-06-30 | 刘松林 | 一种pos数据和视频数据的同步方法及装置 |
CN112240777A (zh) * | 2019-07-16 | 2021-01-19 | 百度(美国)有限责任公司 | 传感器同步离线实验室验证系统 |
WO2021035645A1 (zh) * | 2019-08-29 | 2021-03-04 | 上海飞来信息科技有限公司 | 传感系统、传感设备及其控制方法、可移动平台和存储介质 |
US11807265B2 (en) | 2019-08-30 | 2023-11-07 | Baidu Usa Llc | Synchronizing sensors of autonomous driving vehicles |
WO2021035721A1 (en) * | 2019-08-30 | 2021-03-04 | Baidu.Com Times Technology (Beijing) Co., Ltd. | Synchronizing sensors of autonomous driving vehicles |
WO2021078202A1 (zh) * | 2019-10-22 | 2021-04-29 | 深圳市道通智能航空技术有限公司 | 飞行器时间同步系统及方法 |
US11877253B2 (en) | 2019-10-22 | 2024-01-16 | Autel Robotics Co., Ltd. | Aircraft time synchronization system and method |
CN112335223B (zh) * | 2019-10-31 | 2022-03-18 | 深圳市大疆创新科技有限公司 | 控制方法、装置、系统、云台、可移动平台及存储介质 |
CN112335223A (zh) * | 2019-10-31 | 2021-02-05 | 深圳市大疆创新科技有限公司 | 控制方法、数据传输装置、拍摄装置、控制系统、云台、可移动平台以及计算机可读存储介质 |
WO2021212343A1 (zh) * | 2020-04-21 | 2021-10-28 | 深圳市大疆创新科技有限公司 | 无人机的飞行方法、飞行系统、无人机及存储介质 |
CN113353090A (zh) * | 2021-06-16 | 2021-09-07 | 深圳市道通智能汽车有限公司 | 数据同步系统、方法、定位系统及无人驾驶设备 |
Also Published As
Publication number | Publication date |
---|---|
US20190324449A1 (en) | 2019-10-24 |
WO2018103013A1 (en) | 2018-06-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109983414A (zh) | 用于支持在可移动平台中进行同步的系统和方法 | |
US11330173B2 (en) | UAV panoramic imaging | |
US10896520B2 (en) | System and method for moment capturing | |
CN110427020A (zh) | 用于支持具有不同效果的摄影术的系统和方法 | |
CN109416535A (zh) | 基于图像识别的飞行器导航技术 | |
CN103517061B (zh) | 一种终端设备的显示控制方法及装置 | |
US11468776B2 (en) | Techniques for location access management in a movable object environment | |
US20210404840A1 (en) | Techniques for mapping using a compact payload in a movable object environment | |
US20220113421A1 (en) | Online point cloud processing of lidar and camera data | |
JP2021060953A (ja) | ヘッドマウントディスプレイシステム及びその風景スキャン方法 | |
CN111213088B (zh) | 网络控制的3d视频捕获 | |
US11138052B2 (en) | System and method for supporting data communication in a movable platform | |
WO2022077829A1 (en) | Large scope point cloud data generation and optimization | |
CN109427095A (zh) | 一种显示混合现实场景的方法及系统 | |
WO2021064982A1 (ja) | 情報処理装置および情報処理方法 | |
Meier | Dynamic Robot Architecture for Robust Realtime Computer Vision | |
Chen et al. | Research of electronic image stabilization technology based on MEMS gyroscope | |
Omowonuola et al. | Virtual Reality and Motion Capture Training | |
KR102243138B1 (ko) | 환경 정보 취득을 이용한 혼합 현실 기기 지원 장치 및 그 방법 | |
US9894276B2 (en) | System and method for supporting three-dimensional display in first person view (FPV) | |
JP2023083072A (ja) | 方法、システムおよびプログラム | |
EP4252064A1 (en) | Image based finger tracking plus controller tracking | |
CN109901611A (zh) | 一种用于搜索监控的高空监控系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20190705 |