CN107532898A - 用于处理地面图像的系统和方法 - Google Patents

用于处理地面图像的系统和方法 Download PDF

Info

Publication number
CN107532898A
CN107532898A CN201680021782.4A CN201680021782A CN107532898A CN 107532898 A CN107532898 A CN 107532898A CN 201680021782 A CN201680021782 A CN 201680021782A CN 107532898 A CN107532898 A CN 107532898A
Authority
CN
China
Prior art keywords
image
aircraft
spacecraft
camera
time interval
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201680021782.4A
Other languages
English (en)
Inventor
S·利凡斯
B·德劳瑞
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Vito NV
Original Assignee
Vito NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Vito NV filed Critical Vito NV
Publication of CN107532898A publication Critical patent/CN107532898A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • G01C11/04Interpretation of pictures
    • G01C11/06Interpretation of pictures by comparison of two or more pictures of the same area
    • G01C11/12Interpretation of pictures by comparison of two or more pictures of the same area the pictures being supported in the same relative position as when they were taken
    • G01C11/26Interpretation of pictures by comparison of two or more pictures of the same area the pictures being supported in the same relative position as when they were taken using computers to control the position of the pictures
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • G01C11/02Picture taking arrangements specially adapted for photogrammetry or photographic surveying, e.g. controlling overlapping of pictures

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Image Processing (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

本发明涉及一种用于从被布置在飞行器或航天器中的相机拍摄地面的部分重叠图像的方法,该方法包括:在所述飞行器或所述航天器在移动时,在由时间间隔分开的不同时刻采集(110)图像;在所述移动期间检测(130)表示所述飞行器或所述航天器的位置的位置信息以及表示所述飞行器或所述航天器的定向的定向信息;使用所述位置信息、所述定向信息、以及所述相机的视角来确定(140;150)其间能够获得具有预定空间重叠量的图像的时间间隔的最大值;以及朝所述最大值调整(160)所述间隔以便在保持所述预定空间重叠量的同时使所述经采集图像的数目最小化。本发明还涉及一种控制器以及一种包括控制器的系统。

Description

用于处理地面图像的系统和方法
本发明涉及图像捕捉领域,诸如多光谱或高光谱图像捕捉,特别是在使用被布置在飞行器中的相机进行地球观测的上下文中。
背景
在地球观测卫星和航空成像中,当前的传感器技术允许以高速度捕捉高分辨率图像,从而产生大量的数据。为了无间隙地覆盖大的区域,当空中平台以有意的标称向前速度向前移动时,以规则的时间间隔(被表达为帧率)拍摄一系列图像。然而,各平台也不可避免地呈现被称为平台姿态变化的某种不希望的移动。这以一般不可预测的方式影响指向角度,并且由此影响被成像区域。为了避免成像中的间隙,通常增加帧率,这进而增加了数据量。实际需要的数据量可能超过安装有飞行器的系统的下行链路和/或存储容量。该问题出现在所有的成像系统中,包括全色成像系统以及多光谱成像系统(无论是基于拼接的还是基于行的,如下所述)。
系统的下行链路和/或存储容量的限制在多光谱成像的情形中(在该情形中数据总量与光谱带的数目相乘)变得特别紧迫,更不用说在高光谱成像的情形中。高光谱成像是光谱成像的一种形式,其中来自跨电磁频谱的信息被收集在许多窄光谱带中并被处理。从收集到的不同光谱图像中可以推导出被成像对象的信息。例如,由于某些对象在图像中留下甚至可能取决于对象的状态的独特光谱特征,因此通过多光谱成像获得的信息可以提供关于被成像区域中的对象的存在和/或状态的信息。在选择将被成像的光谱范围之后,由于可以采集该完整光谱范围中的光谱图像,因此不需要具有对象的详细先验知识,并且后处理可允许获得所有可用信息。
在一些应用中,可以通过在感兴趣的一个光谱范围中收集区域的全二维图像并且随后在感兴趣的其他光谱范围中收集该区域的其他全二维图像来获得多光谱数据,由此光谱滤光器在两者之间切换。然而,这种数据收集方式并不总是行得通的,尤其是当感兴趣的区域和成像系统相对彼此经历大的相对移动时。
以本申请人的名义的国际专利申请公开WO 2011/073430 A1公开了一种用于获得相对于感测设备相对移动的感兴趣区域的几何参照式多光谱图像数据的感测设备。该感测设备包括第一二维传感器元件。该感测设备被适配成用于在感兴趣区域相对于该感测设备的所述相对运动期间获得后续的多光谱图像,从而使用第一传感器的不同部分为感兴趣区域的不同部分提供光谱上有区别的信息。该感测设备还包括第二二维传感器元件,并且该感测设备被适配成用于使用该第二传感器元件来提供感兴趣区域的图像以生成要被耦合到有区别的光谱信息的几何参照信息。
虽然这些布置非常紧凑,但它们需要非常高的图像捕捉帧率来确保在整个期望光谱范围上的足够空间分辨率。因此,存在对所描述系统的下行链路和/或存储容量的高效使用的需求。
发明概述
根据本发明的一方面,提供了一种用于从被布置在飞行器或航天器中的相机拍摄地面的一系列部分重叠图像的方法,所述相机具有视角,所述方法包括:当所述飞行器或所述航天器在移动时,利用所述相机在不同时刻采集多个图像,所述不同时刻由一系列时间间隔分开;在所述移动期间检测表示所述飞行器或所述航天器的位置的位置信息以及表示所述飞行器或所述航天器的定向的定向信息;使用所述位置信息、所述定向信息、以及所述相机的视角来确定其间能够获得具有预定空间重叠量的图像的所述时间间隔的最大值;以及朝所述最大值调整所述间隔,以便在保持所述预定空间重叠量的同时使所述经采集图像的数目最小化。
如本文所使用的术语“飞行器”旨在指定比空气重的飞行器和飞船。具体而言,该术语包括载人和无人飞行器(UAV),包括被适配成以平流层高度自主飞行的那些飞行器。如本文所使用的术语“航天器”旨在指定自推进和发射型航天器,包括轨道航天器,诸如卫星和空间站。要被成像的地面可以是地球表面,或者任何其它星体。本发明对于非常小的平台是最有利的,因为姿态变化对于那些平台而言更大并且准确的姿态确定更加困难。
本发明的优点在于,从一帧到下一帧的相机姿态变化被计及以确定连贯帧(或目标帧)之间的实际重叠量,以使得能够跳过或丢弃表示(由于在飞行器的向前移动期间相机朝向已成像地域的向后俯仰引起的)比与其邻居的必要重叠更多重叠的帧。由此,减小了仍然要被保存或传送的图像数目,而没有牺牲所得到的合成图像的质量。
在根据本发明的方法的一实施例中,所述位置信息至少包括高度和地理位置,并且所述定向信息至少包括俯仰角;以及所述使用所述位置信息和所述定向信息来确定所述时间间隔的所述最大值包括:使用所述高度、所述地理位置、以及所述俯仰角来确定所述时间间隔的所述最大值。
在根据本发明的方法的一实施例中,所述俯仰角的变化是从所述多个图像中的连贯图像中推导出的,或者从借助于被布置在所述飞行器或所述航天器中的辅助相机针对该目的而采集的多个参考图像中的连贯图像中推导出的。
虽然用于确定时间间隔的最大值的定向信息可以通过恰适的传感器来测量,但是它们可以替换地或另外地通过对连贯图像的分析来估计。在该情形中,完整的姿态估计不是必要的,因为期望的俯仰角速率信息可以容易地从其他姿态组件中独立地提取。用于定向估计的图像可以是由主相机提供的图像。然而,提供分开的相机以用于生成允许定向估计的图像也是可能的;例如如果主相机是行扫描型则将是这种情形。
在根据本发明的方法的一实施例中,所述采集包括:以固定的捕捉频率来捕捉图像并临时地存储所述被捕捉图像;并且调整所述间隔包括:从所述被捕捉图像之中丢弃图像以便在保持所述预定空间重叠量的同时保留最小数目的所述图像。
该实施例的优点在于,如根据本发明的实践,能够以非常高的帧率来操作相机,并且能够在图像采集之后并在最终存储或传输之前执行对期望帧的选择。帧率甚至可以被选择成比本发明的实践中的帧率更高,因为之后的选择确保将不必永久地存储或传送任何不必要的帧;即使在图像捕捉期间恶劣的姿态变化的情况下这也确保对总图像的无间隙重构。
在特定的实施例中,所述方法进一步包括:从所述飞行器向地面站传送所述最小数目的图像。
这是特别有利的布置,其中在飞行器上仅执行临时存储,以减小存储介质的必要量并且由此减小有效负载重量和体积。
在根据本发明的方法的一实施例中,所述采集包括:以可变的捕捉频率来捕捉图像;并且调整所述间隔包括:改变所述捕捉频率。
该实施例的优点在于,能够以可变的帧率来操作相机,并且实际上仅采集允许一起拼接高质量图像所需要的帧,由此进一步减小对(临时)存储经采集图像的需求。
在根据本发明的方法的一实施例中,所述确定包括:将视在地速计算为所述地理位置的变化与所述高度和所述俯仰角的正切变化或者其数学近似的乘积的总和。
发明人已发现,这是估计连贯图像帧之间的重叠量的特别高效的方式。
根据本发明的一方面,提供了一种包括被配置成使处理器执行如上所述的方法的代码手段的计算机程序产品。
根据本发明的一方面,提供了一种用于促成从被布置在飞行器或航天器中的相机拍摄地面的一系列部分重叠图像的控制器,所述控制器被配置成:在移动期间获得所述飞行器的高度、地理位置、以及俯仰角;使用所述高度、所述地理位置、所述俯仰角、以及所述相机的视角来确定其间能够获得具有预定空间重叠量的图像的时间间隔的最大值;以及计算连贯图像之间的时间间隔,该时间间隔朝所述最大值被最大化,以便使保持预定空间重叠量所需要的图像数目最小化。
根据本发明的一方面,提供了一种用于拍摄地面的一系列部分重叠图像的系统,所述系统包括:被布置在飞行器或航天器中的相机;如上所述的控制器,所述控制器被布置成:根据所计算的时间间隔来控制所述相机的图像采集速率。
根据本发明的一方面,提供了一种用于拍摄地面的一系列部分重叠图像的系统,所述系统包括:被布置在飞行器或航天器中的相机,所述相机被配置成:以固定的图像采集速率来采集图像;如上所述的控制器,所述控制器被布置成:根据所计算的时间间隔来控制对经采集图像的子集的存储和/或传输。
在根据本发明的系统的一实施例中,所述飞行器或所述航天器是无人飞行器。
在根据本发明的系统的实施例中,所述飞行器或所述航天器是飞船。
在根据本发明的系统的一实施例中,所述飞行器或所述航天器是卫星。
根据本发明的计算机程序产品和系统的各实施例的技术效果和优点加以必要的修改对应于根据本发明的方法的对应实施例的那些技术效果和优点。
附图简述
现在将参照附图来更详细地描述本发明的各实施例的这些和其他技术效果及优点,其中:
图1示意性地标识了在本发明的各实施例中执行的计算中所使用的相关几何变量;
图2示意性地解说了俯仰角变化对连贯航空图像的重叠量的影响;
图3示意性地解说了俯仰角变化对连贯航空图像中的重叠量的影响;
图4给出了根据本发明的方法的实施例的流程图;
图5给出了可以用于根据本发明的方法的实施例中的算法的流程图;
图6给出了根据本发明的方法的另一实施例的流程图;
图7是表示对根据本发明的方法的实施例的模拟应用的结果的图表;
图8示意性地解说了根据本发明的系统的实施例。
实施例描述
通常,从空中和卫星平台进行地球观测,各自具有关于参数(诸如空间分辨率、地面覆盖、可用性和灵活性)的特定优点。取决于应用,一个平台比另一平台更合适。以下描述的各部分指代任何特定类型的平台,这仅是出于进行阐明的目的并且不失一般性。本发明的各个方面不限于任何特定类型的平台,除非另外明确指示。
过去十年的各种技术发展已带来了弥合载人飞行器与卫星之间的间隙的新类型的平台:在平流层中操作的局部对地静止系统。正在开发目的在于地球观测以及电信目的的持续可用性的各种平台概念(大部分是飞船或飞行器)。除了关于平台进行的研究,附加的挑战在于对适于那些创新平台的新规范、环境和操作条件的仪器的开发。
该上下文中的一个倡议包括轻量高分辨率相机,其被适配成在大约18km的平流层高度处的太阳能供电高空长航时无人飞行器(UAV)上运行。这种飞行器由太阳能和高容量电池供电,从而允许它飞行达数周甚至数月而不用着陆。如此,它可被用作局部对地静止系统,因为它能够持久地保持在一区域上方。该平台未被绑定到轨道,并且在风速有限的大气区域中以低速移动。
用于这种飞行器的目标应用包括大规模测绘和灾害监视。各个对应类型的测绘是对大区域的测绘,其目标是一次提供对该区域中的每个位置的高质量图像产品,并且以高的时间更新速率来监视小的专门区划,其中以较低但对于用户可接受的图像质量几乎实时地提供图像产品。
在大规模的测绘任务中,时间专用于实现高质量成像,包括高度准确的地理位置和测绘,这允许使用将产品用于摄影测量目的。为了实现这一点,使用在连贯图像之间具有最佳重叠的成像以及改进的测绘软件。
鉴于将相机系统携带到UAV上的目标,该相机系统必须被适配成在非常具有挑战性的物理和环境条件下操作。由于UAV平台的重量非常低(大约35kg),因此对于有效负载的总的允许质量也严格:例如取决于任务的历时2至3kg。操作高度处的压力可以是大约60mbar。总的功耗可以限制于一天期间大约50W。在夜间没有太阳能可用,并且所有的机械和电子组件必须忍受恶劣的热循环,其中温度在最差情形中低至-70℃并且高至60℃。在一天中还经受热梯度和温度演变,这主要是由于太阳升降和飞行方向的变化。在特定的配置中,有效负载的体积限制于1米长、具有12cm的外直径的或多或少圆柱形管。
较低的平流层环境的特征在于低气压(低至60mbar)和低的相对湿度。环境温度较低。基于平均温度(在20年的时段中针对比利时获得的数据),预期环境温度以大约15℃的3σ偏差在55℃附近变化。
除了波动的气温之外,仪器内的温度还受到两个主要热源控制:太阳(外部)和电子功率耗散(内部)。在缺乏筛选的情况下,相机系统经受由太阳相对于仪器的相对定向引发的强温度变化。
沿水平轴设计示例性相机,以允许在示例性UAV的前面积分。该仪器可被划分成光学舱和电子舱。光学舱容纳折射光学系统,该折射光学系统可装备有若干补偿系统,以使得总的光学系统适合于用在平流层飞行器上。电子舱主存不同的电子模块:CMOS传感器读出和机载计算机、GPS接收机和天线、惯性测量单元以及S波段数据传输系统。
折射光学系统的前述补偿系统可包括热补偿机构,以将CMOS传感器相对于光学系统的焦点位置适配为有效负载内的温度和压力的函数。平流层中的压力方案(大约60mbar)与典型的地球表面气压(大约1013mbar)和太空(几乎真空)两者均不同。此外,在UAV飞行历时(其可跨越若干个月)期间,操作温度可在40至50K的范围上循环。通常,通过飞行前适配(在地面上)针对期望的操作压力范围来预先校准空中系统。发明人洞察到:通过提供对光学系统中的压力和温度变化的主动补偿,该光学系统可以在不同高度(包括对流层中的不同高度)处成功地使用,而不需要显著的温度隔离和压力密封。出于该目的,飞行器或仪器本身必须装备有恰适的温度和压力传感器、操作地连接到这些传感器并被配置成根据检测到的温度和压力值来计算补偿值的控制器、以及致动器,该致动器由所述控制器控制以根据所述补偿值来移动至少一个光学组件以便保持由光学系统执行的图像捕捉的预定质量水平。
另外,该系统可装备有主动致动镜,该主动致动镜抵消相机(或者相机安装在其上的飞行器)的姿态变化。出于该目的,飞行器必须装备有恰适的姿态传感器,如下面将描述的。
可根据前述国际专利申请公开WO 2011/073430 A1来实现高光谱和地理参照传感器。优选地,这些传感器具有非常宽的宽高比,诸如例如具有5,5μm的间距的10000x 1200像素,由此这两个传感器元件例如分开700μm的距离。在传感器位于单个管芯上的情况下,它们自动地非常准确地被对准。传感器可装备有微透镜以增加敏感像素区域上的光强度。CMOS传感器的细长形状因子使它非常适合用于高光谱成像中。通过将传感器的长尺寸布置在交叉方向上,可以获得宽测绘带相机。可以利用沿传感器的短方向的1200行来投射许多不同光谱带中的色散光或经滤波的光,而无需在该方向上提供不必要的长度,由此用非常紧凑的光学系统提供了充分的视场。应当注意,可通过并排放置具有常规宽高比(例如,1:1或1:2)的若干传感器来获得类似的宽测绘带传感器。
为了正确地拼接在勘测期间采集的连贯图像,这些图像必须被共同配准,即,需要找到使这些图像被最佳对准的变换。用于共同配准不同图像的方法依赖于图像中的针对两个图像对地面上的相同物理区域进行成像的部分。为了找到这些部分,从每个图像内的各区域提取特征集。接着,比较来自两个图像的特征集并测量它们的相似性。随后可以基于链接两个图像的最佳匹配特征集来确定共同配准图像的总变换。由于该过程依赖于具有对于两个图像而言共同的部分,因此需要连贯图像之间的一定重叠量。
本发明关注在连贯图像之间提供充分的重叠量,同时使存储和/或传输数据率要求保持最小。
本发明的各实施例依赖于用于图像采集的相机的高度、地理位置(并且具体而言,其变化,即,地速)、以及姿态(特别是俯仰角,即,平台的向前或向后倾斜角,并且具体而言,其变化,即,俯仰角速率)的可用性。在相机被布置成与携带该相机的飞行器或航天器呈固定关系的情况下,这些变量对应于飞行器或航天器的高度、地理位置以及姿态,在不失一般性的情况下,在本描述的剩余部分将假设是这种情况。
高度和地理位置测量技术对于技术人员而言是众所周知的。在用于本发明的各实施例的飞行器或航天器中,优选地借助于惯性测量单元(IMU)在连续的基础上机载地测量高度,其中最近的技术进步允许甚至对小平台的越来越准确的测量。另外地或替换地,还可以从图像自身中估计高度和位置参数及其变化,或者从由在相同平面上针对该目的而提供的辅助相机生成的图像中估计。如果主相机的图像可以用于估计高度参数,则这具有允许获得必要信息而不会对平台增加质量的益处。
平台姿态被表达为围绕三个主轴的定向(滚转、俯仰和偏航),并且姿态变化被表示为围绕这些轴的角度运动。俯仰角(θ,参见图1)描述了成像器的向前(或向后)指向。俯仰角转换成正被成像的点的视在向前或向后位移xapparent(x视在)。
俯仰角的变化(被称为俯仰角速率,被指定为q=dθ/dt的俯仰角的时间导数)根据飞行器的高度(h,参见图1)直接转换成地面上的附加视在向前速度:
可以假设h(t)在相关时间段内是恒定的:
h(t)=h,因此
这简化了对视在地速的表达。
对于小的θ值,cos-2因子近似1。因此:
姿态速度vapparent对总速度vtotal(v)的相对重要性随着增加的q而增加、并且针对较高的高度h和较低的标称速度vnominal(v标称)而增加。正的vapparent添加到vnominal并且增加总的向前速度vtotal,而负的vapparent减小vtotal或使其反向。这在图2中示意性地解说,其中左边部分解说了完美姿态,中间部分解说了造成间隙的俯仰角增加,并且右边部分解说了造成不必要的大重叠的俯仰角减小。
预期的俯仰角变化通常由最大值qmax(q最大)界定,其转换成最大视在向前速度vtotal,max=vnominal+vapparent(qmax)。通过选择帧率以容适vtotal,max(v总,最大)而非vnominal,可以确保没有间隙出现。这在图3中解说。对于图3的中间部分中所示出的情形,通过较高的帧率避免了间隙。对于左边和右边部分,增加的帧没有用。
偏航描述了围绕垂直轴的旋转。对于寻找最低点的成像器,偏航变化不影响对恰好放置在旋转轴的位置上的像素的指向。对于所有其它像素,旋转造成与到轴的距离daxis(d)成比例的附加视在移动。由旋转角引起的位移dyaw(d偏航)是:
这引起附加的视在速度:
对于小的值,可以近似:并且根据偏航变化来表示vyaw,apparent(v偏航,视在):
到轴的距离daxis各像素之间不同。对于重叠计算,应当计及最大距离。除了具有非常宽的测绘带的系统之外,vyaw,apparent与来自俯仰角变化的vapparent相比将是小的。
滚转描述了围绕水平向前指向轴的旋转。滚转变化影响朝向左边或右边的指向。如此,它们改变如上文使用的“到轴的距离”。通常,这对最大视在向前速度仅有小的影响,并且在大部分情形中,这在计算中可以被忽略。
现在将参照图4中给出的流程图来描述根据本发明的方法的实施例。该方法允许从被布置在飞行器中的相机拍摄地球表面的一系列部分重叠图像。该相机具有已知视角,其用于确定连贯图像之间的(预期)重叠量。
当飞行器在移动时,利用所述相机在不同时刻采集110多个图像,这些不同时刻由一系列时间间隔分开。优选地,以固定的、非常高的帧率来采集图像。这些图像被临时地存储(缓冲)120在飞行器上。
在飞行器的移动期间,检测130该飞行器的高度、地理位置、以及俯仰角(即,围绕飞行器的横向轴的角度位置偏差),并且可任选地存储(如果这对于使用这些变量来进行非实时处理是必要的话)。可以借助于专用传感器,通过分析由相机捕捉的图像(这由图像存储120与姿态检测130之间的虚线箭头来表示)、或者通过分析由针对该目的而提供的辅助相机捕捉的图像来进行检测。
应当以充足的准确性水平和时间分辨率来检测基本位置和姿态变量,以允许对地速和俯仰角速率的推导;替换地,可直接检测和/或存储地速和俯仰角速率。可以记录影响地面上被成像区域的其它参数(诸如可变标称向前速度或其它姿态参数(滚转、偏航))并用于进一步的计算中(如果应用如此要求的话)。
高度、俯仰角速率和地速随后用于确定总的向前速度140,如上面方程1和2中所述。与相机的已知视角一起,可以确定150其间能够获得预定空间重叠量的最大帧间时间间隔。随后可以朝最大值调整160所捕捉的帧之间的间隔,以便在保持预定空间重叠量的同时使所述经采集图像数目最小化。在所解说的实施例中,该调整160包括:选择被缓冲图像的子集,以使得连贯的所选图像之间的时间间隔不超过步骤150中所确定的最大值。由此,在保持预定空间重叠量的同时保留170最小数目的图像。优选地,在选择步骤之前从最大间隔值中扣除余量,以避免当vapparent(q)由于影响姿态变量的测量不确定性而被低估时获得间隙。
步骤140-150中所执行的实际计算可如下执行。
连贯图像之间的期望重叠量可以由变量dmax来表示,即,连续图像之间的最大允许的向前距离(这对应于一个图像的向前地面尺寸减去期望重叠,其中图像的向前地面尺寸可以根据视角和高度来确定)。
给定所考虑的被捕捉图像的时刻t以及前一图像的时刻tprevious(t前一),俯仰角速率对所感知的向前移动的贡献dpitch(d俯仰角)可被表达为
dpitch(t,tprevious)=h(tanθ(t)-tanθ(tprevious)) (方程3)
而标称地速的贡献dnominal可被表达为
dnominal(t,tprevious)=vnominal·(t-tprevious) (方程4)
选择算法随后如图5中所解说的进行:
在预备步骤161中,选择第一图像I(t0),并且该图像的时刻被存储为tprevious的初始值。时间迭代器t在步骤162中被设置成开始于tprevious,并且被递增163,直至达到dpitch+dnominal超过dmax的时刻164为止。当是这种情形时,在超过dmax之前的最后t值是要被选择165的下一图像I(t-1)的时间索引。该一连串步骤162-165针对所有存储的图像重复。
在单个图像的积分时间期间,平台移动并且其指向可以变化,这引起一定量的运动模糊。在根据本发明的系统中,姿态变化速率信息对于每个图像可用,其可以用于估计预期的运动模糊。图像选择机构因此可以被适配成使得所估计的运动模糊还被用作准则;它可以偏好选择具有较低运动模糊的图像。通过这样做,获得各图像之间具有较低平均运动模糊和更一致的锐度的图像子集。参照图5的流程图,选择步骤165可被适配成从tprevious至t-1之间的各帧之中选择最佳图像(即,具有最小预期模糊的图像),并以该所选值继续算法。替换地,可从t-1处的帧与紧接在该帧之前的预定数目的帧之中进行该选择。
在实践中,该算法应用于图像缓冲器。通过添加新的采集来连续地更新该缓冲器。该选择行进并且保留所选图像以供较长期存储和/或传输。未被选择的图像可以被丢弃。
图6给出了根据本发明的方法的替换实施例。为了简明起见,与图4的实施例共同的元件在此将不再重复。对图像的采集110包括:以可变的捕捉频率来捕捉图像,而不是以固定的高频率来捕捉图像。根据所确定的视在向前速度实时地适配帧间间隔,以使得捕捉频率变得可变180。虽然该替换实施例进一步减小了对缓冲或存储不必要图像的需求,但它要求对姿态变量的实时处理以及对相机的立即反馈;因此,该实施例所需要的实时计算资源比图4的实施例所需要的实时计算资源显著更多。
可借助于以下模拟的数值示例来进一步阐明本发明,这些示例的结果在图7的图表中概括。假设缓慢移动的平台(小于20m/s),以随机模拟的俯仰角变化(俯仰角的标准差:0.3°/s)在高空(20000m)飞行。水平轴表示由平台以50帧/秒的帧率在300秒的时段内覆盖的距离上捕捉到的帧的索引。在垂直轴上,示出了将由标称速度覆盖的距离(用红色表示)、由于俯仰引起的距离变化(用蓝色表示)、以及组合的距离(用绿色表示)。在所解说的示例中,由于俯仰角变化引起的速度变化大于标称平台速度。在该情形中,组合的移动在时间段的各部分内反向。作为结果,仅在某个部分内(在该示例中大约总时间的1/4)覆盖了新区域。在其它部分中,通过向后或向前移动重新访问相同的区域。累积距离(以虚线示出)的图表解说了这一点,因为它在除了覆盖新区域的时间之外是水平的。
使用先前给出的算法,仅需要选择覆盖新区域的那些帧。在所解说的示例中,这将产生使要存储和/或传送的数据减小大约75%。
图8示意性地解说了根据本发明的系统的实施例。由控制器220来执行上述方法的各计算步骤。控制器220可在专用硬件(例如,ASIC)、可配置硬件(例如,FPGA)、可编程组件(例如,具有恰适的软件的DSP或通用处理器)或其任何组合中实现。(诸)相同组件还可包括其他功能。控制器220促成从被布置在飞行器中的相机拍摄地球表面的一系列部分重叠图像,并且被配置成:通过与恰适的传感器230(诸如GPS接收机和IMU)进行对接来获得该飞行器在移动期间的高度、地理位置和俯仰角。控制器220被进一步配置成:根据上面更详细描述的方法,使用高度、地理位置、俯仰角、以及相机的视角来确定其间能够获得具有预定空间重叠量的图像的时间间隔的最大值,并且调整连贯图像之间的时间间隔,该时间间隔朝该最大值被最大化,以便使保持预定空间重叠量所需要的图像数目最小化。
控制器220可以是用于拍摄地球表面的一系列部分重叠图像的系统的一部分,其中该系统进一步包括被布置在飞行器200中的相机210。
控制器220可被布置成:根据所计算的时间间隔来控制相机的图像采集速率,或者它可以控制以固定帧率采集的图像子集的存储和/或传输,该子集是根据所计算的时间间隔来选择的。该系统可包括恰适的存储介质240和/或传输装置250以用于使所选图像可用于端用户。
虽然上文已参照分开的系统和方法实施例描述了本发明,但这仅是出于进行阐明的目的。技术人员将领会,仅仅结合系统或方法来描述的特征也可以分别应用于方法或系统,其具有相同的技术效果和优点。此外,本发明的范围不限于这些实施例,而是由所附权利要求来定义。

Claims (15)

1.一种用于从被布置在飞行器或航天器中的相机拍摄地面的一系列部分重叠图像的方法,所述相机具有视角,所述方法包括:
-当所述飞行器或所述航天器在移动时,利用所述相机在不同时刻采集(110)多个图像,所述不同时刻由一系列时间间隔分开;
-在所述移动期间检测(130)表示所述飞行器或所述航天器的位置的位置信息以及表示所述飞行器或所述航天器的定向的定向信息;
-使用所述位置信息、所述定向信息、以及所述相机的视角来确定(140;150)其间能够获得具有预定空间重叠量的图像的所述时间间隔的最大值;以及
-朝所述最大值调整(160)所述间隔以便在保持所述预定空间重叠量的同时使所述经采集图像的数目最小化。
2.如权利要求1所述的方法,其特征在于,所述位置信息至少包括高度和地理位置,并且所述定向信息至少包括俯仰角;并且其中,所述使用所述位置信息和所述定向信息来确定所述时间间隔的所述最大值包括:使用所述高度、所述地理位置、以及所述俯仰角来确定所述时间间隔的所述最大值。
3.如权利要求2所述的方法,其特征在于,所述俯仰角的变化是从所述多个图像中的连贯图像中推导出的,或者从借助于被布置在所述飞行器或所述航天器中的辅助相机针对该目的而采集的多个参考图像中的连续图像中推导出的。
4.如前述权利要求中任一项所述的方法,其特征在于,所述采集(110)包括:以固定的捕捉频率来捕捉图像并临时地存储(120)所述被捕捉图像;并且其中,所述调整所述间隔包括:从所述被捕捉图像之中丢弃图像以便在保持所述预定空间重叠量的同时保留(170)最小数目的所述图像。
5.如权利要求4所述的方法,其特征在于,进一步包括:从所述飞行器向地面站传送所述最小数目的所述图像。
6.如权利要求1至3中任一项所述的方法,其特征在于,所述采集(110)包括:以可变的捕捉频率来捕捉图像;并且其中,所述调整所述间隔包括:改变(180)所述捕捉频率。
7.如前述权利要求中任一项所述的方法,其特征在于,所述确定(140;150)包括:将视在地速计算为所述地理位置的变化与所述高度和所述俯仰角的正切变化或者其数学近似的乘积的总和。
8.一种包括被配置成使处理器执行如前述权利要中的任一项所述的方法的代码手段的计算机程序产品。
9.一种用于促成从被布置在飞行器或航天器中的相机拍摄地面的一系列部分重叠图像的控制器,所述控制器被配置成:
-在移动期间获得表示所述飞行器或所述航天器的位置的位置信息以及表示所述飞行器或所述航天器的定向的定向信息;
-使用所述位置信息、所述定向信息、以及所述相机的视角来确定其间能够获得具有预定空间重叠量的图像的时间间隔的最大值;以及
-计算连贯图像之间的时间间隔,该时间间隔朝所述最大值被最大化,以便使保持预定空间重叠量所需要的图像数目最小化。
10.如权利要求9所述的控制器,其特征在于,所述位置信息至少包括高度和地理位置,并且所述定向信息至少包括俯仰角;并且其中,所述使用所述位置信息和所述定向信息来确定所述时间间隔的所述最大值包括:使用所述高度、所述地理位置、以及所述俯仰角来确定所述时间间隔的所述最大值。
11.一种用于拍摄地面的一系列部分重叠图像的系统,所述系统包括:
-被布置在飞行器或航天器(200)中的相机(210);
-如权利要求8或权利要求9所述的控制器,所述控制器被布置成:根据所述经计算的时间间隔来控制所述相机的图像采集速率。
12.一种用于拍摄地面的一系列部分重叠图像的系统,所述系统包括:
-被布置在飞行器或航天器(200)中的相机(210),所述相机被配置成:以固定的图像采集速率来采集图像;
-如权利要求8或权利要求9所述的控制器(220),所述控制器(220)被布置成:根据所述经计算的时间间隔来控制所述经采集图像的子集的存储(240)和/或传输(250)。
13.如权利要求11或权利要求12所述的系统,其特征在于,所述飞行器或所述航天器是无人飞行器。
14.如权利要求11或权利要求12所述的系统,其特征在于,所述飞行器或所述航天器是飞船。
15.如权利要求11或权利要求12所述的系统,其特征在于,所述飞行器或所述航天器是卫星。
CN201680021782.4A 2015-04-14 2016-04-14 用于处理地面图像的系统和方法 Pending CN107532898A (zh)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201562147193P 2015-04-14 2015-04-14
GBGB1506329.0A GB201506329D0 (en) 2015-04-14 2015-04-14 System and method for processing images of a ground surface
GB1506329.0 2015-04-14
US62/147,193 2015-04-14
PCT/EP2016/058297 WO2016166257A1 (en) 2015-04-14 2016-04-14 System and method for processing images of a ground surface

Publications (1)

Publication Number Publication Date
CN107532898A true CN107532898A (zh) 2018-01-02

Family

ID=53333769

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201680021782.4A Pending CN107532898A (zh) 2015-04-14 2016-04-14 用于处理地面图像的系统和方法

Country Status (8)

Country Link
US (1) US10634494B2 (zh)
EP (1) EP3283842B1 (zh)
JP (1) JP2018513377A (zh)
CN (1) CN107532898A (zh)
AU (1) AU2016247478A1 (zh)
CA (1) CA2980092A1 (zh)
GB (1) GB201506329D0 (zh)
WO (1) WO2016166257A1 (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110830718A (zh) * 2019-11-12 2020-02-21 广州极飞科技有限公司 拍照控制方法、测绘方法及相关装置
CN111272146A (zh) * 2020-01-17 2020-06-12 中国科学院长春光学精密机械与物理研究所 测绘仪器、测绘方法及装置、终端设备、存储介质
CN112335226A (zh) * 2018-06-26 2021-02-05 索尼公司 控制装置、方法以及程序
CN116045917A (zh) * 2022-11-17 2023-05-02 西北工业大学 一种航空图像获取精度测试系统及测试方法

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018053861A1 (en) * 2016-09-26 2018-03-29 SZ DJI Technology Co., Ltd. Methods and system for vision-based landing
JP6586602B1 (ja) * 2018-06-13 2019-10-09 株式会社プロドローン 無人航空機
US11580729B2 (en) * 2019-11-22 2023-02-14 Intelinair, Inc. Agricultural pattern analysis system
JP7382632B2 (ja) 2019-11-27 2023-11-17 国立研究開発法人宇宙航空研究開発機構 動画像送信装置、動画像伝送システム、動画像送信方法、およびプログラム
JP7319244B2 (ja) * 2020-12-07 2023-08-01 Hapsモバイル株式会社 制御装置、プログラム、システム、及び方法
RU2763260C1 (ru) * 2021-02-05 2021-12-28 Федеральное государственное бюджетное учреждение науки Научный геоинформационный центр Российской академии наук Способ создания картографо-геодезической основы земельного кадастра

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0053640A1 (en) * 1980-12-04 1982-06-16 Interval Eizo Yugen Kaisha A computerized control for aerial photography
US4802757A (en) * 1986-03-17 1989-02-07 Geospectra Corporation System for determining the attitude of a moving imaging sensor platform or the like
US20140320650A1 (en) * 2012-11-27 2014-10-30 Richard Hong System and method for interactive aerial imaging

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE2636769B1 (de) 1976-08-14 1977-11-10 Zeiss Carl Fa Vorrichtung zur messung der geschwindigkeit und/oder der bewegungsrichtung einer bildstruktur
US5259037A (en) 1991-02-07 1993-11-02 Hughes Training, Inc. Automated video imagery database generation using photogrammetry
JP2003219252A (ja) 2002-01-17 2003-07-31 Starlabo Corp 移動体搭載用撮影装置を用いた撮影システム及び撮影方法
US8497905B2 (en) 2008-04-11 2013-07-30 nearmap australia pty ltd. Systems and methods of capturing large area images in detail including cascaded cameras and/or calibration features
CN101635798A (zh) 2009-09-02 2010-01-27 中国科学院长春光学精密机械与物理研究所 全景式航空相机拍照信号的控制方法
WO2011073430A1 (en) 2009-12-18 2011-06-23 Vito Nv (Vlaamse Instelling Voor Technologisch Onderzoek) Geometric referencing of multi-spectral data
CN102118556B (zh) * 2009-12-31 2012-12-19 敦南科技股份有限公司 图像感测装置即时调整图像撷取频率的方法
CN104079834B (zh) 2014-07-02 2017-07-14 中国科学院长春光学精密机械与物理研究所 全景式航空相机拍照周期的计算方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0053640A1 (en) * 1980-12-04 1982-06-16 Interval Eizo Yugen Kaisha A computerized control for aerial photography
US4802757A (en) * 1986-03-17 1989-02-07 Geospectra Corporation System for determining the attitude of a moving imaging sensor platform or the like
US20140320650A1 (en) * 2012-11-27 2014-10-30 Richard Hong System and method for interactive aerial imaging

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112335226A (zh) * 2018-06-26 2021-02-05 索尼公司 控制装置、方法以及程序
US12010426B2 (en) 2018-06-26 2024-06-11 Sony Corporation Control device and method
CN110830718A (zh) * 2019-11-12 2020-02-21 广州极飞科技有限公司 拍照控制方法、测绘方法及相关装置
CN110830718B (zh) * 2019-11-12 2021-07-20 广州极飞科技股份有限公司 拍照控制方法、测绘方法及相关装置
CN111272146A (zh) * 2020-01-17 2020-06-12 中国科学院长春光学精密机械与物理研究所 测绘仪器、测绘方法及装置、终端设备、存储介质
CN111272146B (zh) * 2020-01-17 2021-06-15 中国科学院长春光学精密机械与物理研究所 测绘仪器、测绘方法及装置、终端设备、存储介质
CN116045917A (zh) * 2022-11-17 2023-05-02 西北工业大学 一种航空图像获取精度测试系统及测试方法
CN116045917B (zh) * 2022-11-17 2024-04-26 西北工业大学 一种航空图像获取精度测试系统及测试方法

Also Published As

Publication number Publication date
EP3283842C0 (en) 2023-06-21
WO2016166257A1 (en) 2016-10-20
EP3283842A1 (en) 2018-02-21
AU2016247478A1 (en) 2017-10-12
US20180051987A1 (en) 2018-02-22
US10634494B2 (en) 2020-04-28
GB201506329D0 (en) 2015-05-27
JP2018513377A (ja) 2018-05-24
CA2980092A1 (en) 2016-10-20
EP3283842B1 (en) 2023-06-21

Similar Documents

Publication Publication Date Title
CN107532898A (zh) 用于处理地面图像的系统和方法
US10902566B2 (en) Methods for agronomic and agricultural monitoring using unmanned aerial systems
Fazeli et al. Evaluating the potential of RTK-UAV for automatic point cloud generation in 3D rapid mapping
KR101793509B1 (ko) 작물 모니터링을 위하여 무인 비행체의 자동 경로 산정을 통한 원격 관측 방법 및 그 시스템
Lucieer et al. HyperUAS—Imaging spectroscopy from a multirotor unmanned aircraft system
Nagai et al. UAV-borne 3-D mapping system by multisensor integration
Navia et al. Multispectral mapping in agriculture: Terrain mosaic using an autonomous quadcopter UAV
Ghazal et al. UAV-based remote sensing for vegetation cover estimation using NDVI imagery and level sets method
US20150022656A1 (en) System for collecting & processing aerial imagery with enhanced 3d & nir imaging capability
CN105180963B (zh) 基于在线标校的无人机遥测参数修正方法
CN107637064A (zh) 用于图像处理的方法和设备
CN110537365A (zh) 信息处理装置、信息处理方法、信息处理程序、图像处理装置以及图像处理系统
CN108414454A (zh) 一种植物三维结构及光谱信息的同步测量系统及测量方法
CN109715498A (zh) 无人自主交通工具中的自适应运动滤波
KR101771492B1 (ko) 복수의 센서를 탑재한 무인 비행체를 이용하는 매핑 방법 및 시스템
Niethammer et al. UAV-based remote sensing of the slow-moving landslide Super-Sauze
Ahamed et al. Tower remote-sensing system for monitoring energy crops; image acquisition and geometric corrections
CN110209199A (zh) 一种农田火源监测无人机系统设计
Reich et al. Filling the Holes: potential of UAV-based photogrammetric façade modelling
Toschi et al. Geomatics mapping of natural hazards: overview and experiences
Nguyen et al. Characteristics of optical flow from aerial thermal imaging,“thermal flow”
WO2021235265A1 (ja) 情報処理装置、情報処理方法、情報処理プログラム、飛行体、飛行体制御方法及び飛行体制御プログラム
Liu et al. An approach of system calibration for UAV photogrammetry
López et al. Automatic analysis and classification of the roof surfaces for the installation of solar panels using a multi-data source and multi-sensor aerial platform
CA2957081C (en) Methods for agronomic and agricultural monitoring using unmanned aerial systems

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
AD01 Patent right deemed abandoned

Effective date of abandoning: 20201106

AD01 Patent right deemed abandoned