CN104704424A - 基础设施测绘系统和方法 - Google Patents
基础设施测绘系统和方法 Download PDFInfo
- Publication number
- CN104704424A CN104704424A CN201380053255.8A CN201380053255A CN104704424A CN 104704424 A CN104704424 A CN 104704424A CN 201380053255 A CN201380053255 A CN 201380053255A CN 104704424 A CN104704424 A CN 104704424A
- Authority
- CN
- China
- Prior art keywords
- imaging sensor
- array
- imaging
- image
- sensor
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B37/00—Panoramic or wide-screen photography; Photographing extended surfaces, e.g. for surveying; Photographing internal surfaces, e.g. of pipe
- G03B37/04—Panoramic or wide-screen photography; Photographing extended surfaces, e.g. for surveying; Photographing internal surfaces, e.g. of pipe with cameras or projectors providing touching or overlapping fields of view
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C11/00—Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
- G01C11/02—Picture taking arrangements specially adapted for photogrammetry or photographic surveying, e.g. controlling overlapping of pictures
Abstract
一种成像传感器系统,包括:固定到运载工具或平台的安装单元,在该安装单元内布置有至少三个成像传感器,其中第一成像传感器、第二成像传感器和第三成像传感器都具有通过安装单元中的孔的焦轴,其中,第一成像传感器生成目标区域的包括第一像素阵列的第一图像区,其中,第二成像传感器生成目标区域的包括第一像素阵列的第二图像区,其中,所述第一成像传感器与所述第二成像传感器偏移以在目标区域具有第一图像交叠区,其中,在第一图像交叠区中,第一传感器图像数据平分第二传感器图像数据。
Description
相关申请的交叉引用
本申请要求于2012年8月21日提交的序号为13/590,735的美国专利申请(现在被授权为美国专利第8,483,960号)的优先权,序号为13/590,735的美国专利申请是于2010年4月13日提交的序号为12/798,899的美国专利申请的部分继续申请案,序号为12/798,899的美国专利申请要求于2006年10月11日提交的序号为11/581,235的美国专利申请(现在被授权为美国专利第7,725,258号)的优先权,序号为11/581,235的美国专利申请要求于2003年9月18日提交的序号为10/664,737的美国专利申请(现在被授权为美国专利第7,127,348号)的优选权,序号为10/664,737的美国专利申请要求于2002年9月20日提交的序号为60/412,504的美国临时专利申请“Vehicle Based Data Collection and Processing System(基于运载工具的数据收集和处理系统)”的优先权。于2013年8月21日提交的序号为13/590,735的美国专利申请还是于2009年8月5日提交的序号为12/462,533的美国专利申请的部分继续申请案,序号为12/462,533的美国专利申请是于2002年8月28日提交的序号为10/229,626的美国专利申请(现在被授权为美国专利第7,893,957号)的分案申请。
技术领域
本发明总体上涉及远程成像技术的领域,更具体地,涉及在很大的视场内,绘制高分辨率、高精度、低失真数字图像的系统。
背景技术
遥感成像是广泛应用的技术,其具有许多不同并且极其重要的实际应用例如地质填图和分析,以及气象预报。基于航空和卫星的摄影和成像是特别有用的远程成像技术,近年来,这些远程成像技术变得极为依赖于对数字图像的数据包括光谱参数、空间参数、高程参数以及运载工具或平台的位置和方位参数的收集和处理。现在能够以数字格式收集、处理和传送空间数据——空间数据表征真实的房屋修建和房屋位置,道路和高速公路,环境危害和状况,公用事业基础设施(例如,电话线,管道)和地球物理特征——以便方便地为各种应用(例如,动态GPS测绘)提供高度精确的测绘和侦测数据。高程数据可用于提高整个系统的空间和位置精度,并且可以从现有的数字高程模型(DEM)数据集获得,或者和光谱传感器数据一起从基于多普勒的主动辐射测量装置来采集,或者从被动的立体摄影计算来采集。
遥感成像应用面对的主要挑战是空间分辨率和光谱保真。诸如球面像差、散光、场曲、失真和色差的摄影问题是在任何传感器/成像应用中都必须处理的公知问题。某些应用要求很高的图像分辨率,通常具有英寸尺度的容差。取决于使用的特定系统(例如,汽车、飞机、卫星、航天器或平台),实际的数字成像装置可以位于离其目标数英尺到数英里的任何位置,导致极大的比例因子。提供具有极大比例因子还具有英寸尺度分辨率容差的图像对甚至最鲁棒的成像系统也提出了挑战。从而,常规系统通常必须在分辨率质量和能够成像的目标区域的大小之间作出折衷。如果系统被设计成提供高分辨率数字图像,则成像装置的视场(FOV)一般较小。如果系统提供较大的FOV,则光谱和空间数据的分辨率通常被降低并且失真增大。
正射成像是为试图解决该问题而使用的一种方法。通常,正射成像通过编辑目标的各不相同的子图像来绘制目标的合成图像。一般来说,在航空成像应用中,具有有限的范围和分辨率的数字成像装置顺序地记录目标区域的固定分区的图像。随后按照某种顺序对齐这些图像,从而绘制目标区域的合成图像。
通常,这样的绘制处理非常费时并且工作量巨大。在许多情况下,这些处理需要显著恶化图像质量和分辨率的迭代处理,尤其是在绘制成千上万的子图像的情况下。在能够自动处理成像数据的情况下,该数据通常被反复变换和采样,从而随着每个连续操作降低了色彩保真和图像锐度。如果采用自动化的校正或均衡系统,则这样的系统可能对图像异常(例如,反常地明亮或黑暗的物体)敏感,导致过度校正或校正不足和图像数据的不可靠判读。在需要或者期望对图像进行人工绘制的情况下,时间和劳动成本极大。
因此,需要一种提供测量精度、稳定性和可重复成像的度量相机系统。特别是,需要一种下述正射图像绘制系统及可选的倾斜图像绘制系统:该系统为包括基础设施的极大的FOV和相关的数据集提供高效且通用的成像,同时保持这种度量图像的质量、精度、位置精度和清晰度。另外,在计划、采集、导航和处理所有相关操作的每个阶段中大量应用了自动化算法。
发明内容
本发明涉及利用各种传感器的远程数据采集和处理系统。所述系统可包括实时地控制运载工具和系统操作的计算机控制台单元。系统还可包括链接到计算机控制台并与计算机控制台通信的全球定位系统。另外,可以使用相机和/或相机阵列组件生成通过孔查看的目标的图像。相机阵列组件通信上连接到计算机控制台。相机阵列组件具有安装壳体以及居中耦接到所述壳体并具有通过所述孔的第一焦轴的第一成像传感器。相机阵列组件还具有耦接到所述壳体并且沿着轴偏离第一成像传感器的第二成像传感器,第二成像传感器具有通过所述孔并且在相交区内与第一焦轴相交的第二焦轴。相机阵列组件具有耦接到所述壳体并且沿着轴与第二成像传感器相对地偏离第一成像传感器的第三成像传感器,第三成像传感器具有通过所述孔并且在相交区内与第一焦轴相交的第三焦轴。按照这种方式,可以使用任意数目的1到n个相机,其中“n”可以是任意奇数或偶数。
系统还可包括姿态测量单元(AMU),例如通信上连接到计算机控制台和相机阵列组件的惯性、光学或类似测量单元。AMU可以确定飞行器在时间上的任意瞬间的横摆、俯仰和/或滚转,连续的DGPS位置可用于测量相对于测地线北极的运载工具航向。使AMU数据与精确DGPS数据结合,以产生鲁棒的实时AMU系统。系统还可包括容置在计算机控制台内的镶嵌模块。镶嵌模块包括对输入图像进行初始处理的第一部件。镶嵌模块还包括确定输入图像的地理边界的第二部件,第二部件与第一部件协同地接合。镶嵌模块还包括以精确的地理位置将输入图像绘制到复合图像中的第三部件。第三部件与第一部件和第二部件协同地接合。镶嵌模块中还包括对绘制到复合图像中的输入图像的颜色进行均衡的第四部件。第四部件可与第一部件、第二部件和第三部件协同地接合。另外,镶嵌模块可包括对绘制到复合图像中的相邻输入图像之间的边界进行融合的第五部件。第五部件与第一部件、第二部件、第三部件和第四部件协同地接合。
可以实现第六部件,即可选的前向倾斜和/或可选的向后倾斜相机阵列系统,该系统采集倾斜图像数据,并使用姿态和位置测量结果来合并该图像数据,以便生成三维图像(即,3D点云)或数字高程模型(DEM)。3D点云或DEM是包括人造结构的地表面的表示。可以使用立体摄影技术根据正射和/或倾斜影像来生成DEM,或者可替代地通过LIDAR或现有的DEM来提供DEM。可以根据来自在时间上交叠的单个相机的任何交叠图像或来自在空间或时间上交叠的任何两个相机的交叠图像来生成DEM或3D点云。DEM或3D点云的生成可以在运载工具上实时地进行,或者稍后后处理。第六部件与其他部件协同地工作。所有部件可被安装到刚性平台上,以便提供传感器数据的联合配准。振动、湍流、温度梯度和其他因素会以生成传感器之间的对准关系的误差的方式作用于运载工具或平台。与未利用这种联合配准体系结构的其他系统相比,对各个传感器使用公共的刚性平台安装套管和/或热套管可带来显著的优点。
此外,本发明可以采用一定程度的横向过采样来改善输出质量,以及/或者采用联合安装联合配准过采样来克服物理像素分辨率极限。
附图说明
为了更好地理解本发明,以及为了以示例的方式示出如何可以实现本发明,现在参考本发明的详细说明和附图,在附图中,不同图中的对应附图标记表示对应的部分,在附图中:
图1示出了本发明的基于运载工具的数据采集和处理系统;
图1A示出了图1的基于运载工具的数据采集和处理系统的一部分;
图1B示出了图1的基于运载工具的数据采集和处理系统的一部分;
图2示出了图1的基于运载工具的数据采集和处理系统,同时更详细地展示了本发明的相机阵列组件;
图3A示出了根据本发明的某些方面的以跨轨道斜视方式配置的相机阵列组件;
图3B示出了根据本发明的某些方面的以长轨道斜视方式配置的相机阵列组件;
图3C-1示出了根据本发明的某些方面的以沿轨道斜视方式配置的相机阵列组件;
图3C-2示出了根据本发明的某些方面的从以沿轨道斜视方式配置的相机阵列组件获得的图像的序列;
图3D示出了根据本发明的某些方面的以跨轨道斜视方式和以沿轨道斜视方式配置的相机阵列组件;
图3E示出了根据本发明的某些方面的以长轨道斜视方式和以跨轨道斜视方式配置的相机阵列组件;
图4A示出了通过图1和图3A的相机阵列组件得到的成像模式的一个实施方式;
图4B示出了通过图1和图3B的相机系统得到的成像模式的一个实施方式;
图4C-1示出了通过图1和图3C-1的相机系统得到的成像模式的一个实施方式;
图4C-2示出了通过图1和图3C-2的相机系统得到的成像模式的一个实施方式;
图4D示出了通过图1和图3D的相机系统得到的成像模式的一个实施方式;
图4E示出了通过图1和图3E的相机系统得到的成像模式的一个实施方式;
图5描绘了示出本发明的某些方面的成像模式;
图6示出了根据本发明的图像条带;
图7示出了根据本发明的图像条带的另一实施方式;
图8示出了根据本发明的成像处理的一个实施方式;
图9以图解的方式示出了可如何对齐利用相机阵列组件拍摄的照片,以制作单帧;
图10是根据本发明的某些实施方式的处理逻辑的框图;
图11示出了根据本发明的某些实施方式的从运载工具俯视的横向过采样;
图12示出了根据本发明的某些实施方式的从运载工具俯视的横向过采样;
图13示出了根据本发明的某些实施方式的从运载工具俯视的航线过采样;
图14示出了根据本发明的某些实施方式的从运载工具俯视的航线过采样;
图15示出了根据本发明的某些实施方式的从运载工具俯视的渐次放大;
图16示出了根据本发明的某些实施方式的从运载工具俯视的渐次放大;
图17示出了根据本发明的某些实施方式的从运载工具俯视的渐次放大;
图18是根据本发明的某些实施方式的系统体系结构的示意图;
图19示出了根据本发明的某些实施方式的从运载工具俯视的单个相机阵列的旁向交叠子像素区中的横向联合安装联合配准过采样;
图20示出了根据本发明的某些实施方式的从运载工具俯视的两个交叠的相机阵列的旁向交叠子像素区中的横向联合安装联合配准过采样;
图21示出了根据本发明的某些实施方式的从运载工具俯视的两个立体相机阵列的旁向交叠子像素区中的前向和横向联合安装联合配准过采样;
图22A示出了图3D的相机阵列的右后侧立体图;
图22B示出了图3E的相机阵列的右前侧立体图;
图23示出了根据本发明的某些实施方式的以跨轨道斜视方式和以长轨道斜视方式配置的凹或视网膜相机阵列组件的仰视图;
图24示出了根据本发明的某些实施方式的倾斜相机阵列组件的一个实施方式;
图25示出了根据本发明的图像条带;
图26A示出了根据本发明的某些实施方式的以沿轨道斜视方式配置的相机阵列组件的一个实施方式;以及
图26B示出了图26A的相机阵列的仰视图。
具体实施方式
虽然下面详细讨论了本发明的各个实施方式的实现和使用,但是应理解本发明提供可在大量各种具体背景中实施的许多适用的发明构思。这里讨论的具体实施方式仅仅作为实现和使用本发明的具体方式的例证,而非限制本发明的范围。
在图1、图1A和图1B中示出了本发明的基于运载工具的数据采集和处理系统100。在图2和图18中示出了本发明的另外方面和实施方式。系统100包括一个或更多个计算机控制台102。计算机控制台包括用于控制运载工具和系统操作二者的一个或更多个计算机104。计算机控制台的功能的示例为:控制可以与数据采集和处理系统相关联的数字颜色传感器系统、向驾驶员提供显示数据、协调卫星产生的GPS秒脉冲(PPS)事件触发器(其可以为每秒20或更多个脉冲)、记录数据日志,传感器控制和调节、检查并对错误事件报警、记录和索引照片、存储和处理数据、使运载工具的导航自动化的飞行计划能力、数据,以及提供相关信息的实时显示。控制计算机控制台与运载工具自动驾驶仪控制器之间的通信接口提供实时地实际控制运载工具的航迹的能力。与人工控制相比这得到了对运载工具的路径的更精确控制。所有这些功能可以通过使用与GPS PPS信号同步并且考虑到测量装置的各种电气延迟时间的各种计算机程序来实现。在实施方式中,计算机被嵌入传感器内。
一个或更多个差分全球定位系统106被合并到系统100中。全球定位系统106用于在运载工具和系统操作期间,导航和确定精确的航迹。为了实现这一点,全球定位系统106通信上链接到计算机控制台102,以使得能够在不中断飞行的情况下,获取和处理来自全球定位系统106的信息。零个或更多个GPS单元可以位于已知的勘测点,以便提供每个亚秒的基于GPS卫星的误差的记录,从而能够反向校正系统100的精度。可以使用GPS和/或地基定位服务,这完全消除了对地面控制点的需要。该技术使得极大改善了数据捕获运载工具的亚秒级的位置精度。
提供实时的横摆、俯仰和滚转信息的一个或更多个AMU 108也通信上链接到计算机控制台102,所述横摆、俯仰和滚转信息用于精确地确定运载工具在数据捕获的时刻的姿态。该姿态测量单元(AMU)(例如,Applanix POS AV)使用三个高性能光纤陀螺,每一个陀螺分别用于横摆、俯仰和滚转测量。也可以使用来自其他制造商的AMU以及使用其他惯性测量装置的AMU。另外,AMU可用于确定运载工具的瞬时姿态,并且使系统对AMU读数中的统计错误的容错性更高。一个或更多个多频DGPS接收器110可以连接到AMU。多频DGPS接收器110可以与AMU的横摆、俯仰和滚转姿态数据结合,以便更准确地确定遥感器平台在三维空间中的位置。另外,可以通过依据与GPS PPS信号同步记录的在连续DGPS位置生成的向量来确定测地北极的方向。
用于生成通过孔查看的目标的图像的一个或更多个相机阵列组件112也通信上连接到一个或更多个计算机控制台102。相机阵列组件112向数据采集和处理系统提供捕获高分辨率高精度逐行扫描或行扫描彩色数字摄影的能力,将在下面更详细地描述相机阵列组件112。
系统还可包括DC电源和调节设备114,以调节DC电源并且将DC电源转换成AC电源,从而为系统提供电力。系统还可以包括导航显示器116,导航显示器116图形地绘制运载工具的位置与供运载工具的驾驶员(在运载工具上或者在远程)使用的飞行计划,从而能够在水平平面和垂直平面中实现精确的航迹。系统还可以包括EMU模块,该EMU模块包括LIDAR、SAR 118或前后倾斜的相机阵列,用于捕获三维高程/地貌数据。EMU模块118可以包括激光器单元120、EMU控制单元122和EMU控制计算机124。也可以根据需要部署温度控制装置例如固态冷却模块,以便为系统提供适当的热环境。
系统还包括容置在计算机控制台102中的镶嵌模块(未绘出)。镶嵌模块向系统提供下述能力:采集由全球定位系统106、AMU 108和相机系统112获得的数据并将所述数据处理成可用的正射地图,将在下面更详细地描述镶嵌模块。
系统100还可以包括自锁航迹技术,该自锁航迹技术提供微校正相邻航迹的位置精度的能力,以便独自实现超过AMU和DGPS传感器的本生精度。
完整飞行计划方法被用于对任务的所有方面进行微计划。输入是各个任务参数(纬度/经度、分辨率、颜色、精度等),输出是存储在数据采集运载工具上的、用于实时导航和报警的详细在线数字地图和数据文件。将飞行计划数据直接接口到自动驾驶仪的能力是附加的集成能力。可以使用计算机程序自动控制航迹、姿态调整、图形显示、运载工具路径的移动地图,检查报警条件和校正动作,将整个系统的状态通知驾驶员和/或机组人员以及提供故障安全操作和控制。可以不断地监测和报告安全操作参数。虽然当前的系统使用了机组人员,但是系统也可被设计成同样好地适用于无人运载工具。
图2示出了本发明的另一种描绘。在图2中,更详细地示出了相机阵列组件112。如图所示,相机阵列组件112能够从后斜位置、前斜位置和天底位置获得图像。
图3A至图3E更详细地描述了本发明的相机阵列组件的示例。具体地,图3A至图3E提供了在目标302(例如,地形)上空中的相机阵列组件300的示例。出于举例说明的目的,在图3A至图3E中没有按比例描绘组件300的相对大小和组件300与地形302之间的相对距离。相机阵列组件300包括壳体304,在壳体304内,沿着凹曲线轴316布置有成像传感器306、308、310、312和314。在优选实施方式中,壳体可以是安装单元。组件300可适应地安装到相对于地形沿路径移动的运载工具。轴316的曲率半径可以显著变化或者被改变,从而提供在轴316中实现非常轻微或者非常剧烈的凹度。可替代地,轴316可以是完全线性的,根本没有任何曲率。借助附接构件318,成像传感器306、308、310、312和314直接或者间接地耦接到壳体304。附接构件318可包括数个固定或者动态的永久或临时的连接设备。例如,附接构件318可以包括简单焊接、可拆卸的夹紧装置或者机电控制的万向接头。
另外,系统100可具有实时的机载导航系统,以便向运载工具驾驶员提供可视的生物反馈显示,或者在无人驾驶运载工具中的操作的情况下提供远程显示。驾驶员能够实时调整运载工具的位置,以提供更精确的航迹。驾驶员可以在运载工具上或者位于远程位置,并且通过通信链路使用飞行显示器来控制运载工具。
系统100还可使用已开发的高度容错的方法以提供下述软件交错磁盘存储方法,该软件交错磁盘存储方法允许一个或两个硬盘驱动器发生故障,而仍然不丢失保存在驱动器上的目标数据。相对于其他硬件方法例如RAID-5,该软件交错磁盘存储方法提供较好的容错性和可移植性。
系统100还可以包括已开发的下述方法,该方能够紧在任务数据捕获之前进行短小的校准步骤。校准方法步骤基于对环境光强度采样并且紧在到达关注的区域之前设定几乎最佳的值,来调整相机设置,相机设置主要是曝光时间。然后使用移动平均算法进行逐秒的相机调整,以便传递改善的一致的照片结果。这改善了对正射地图的颜色处理。另外,可以使用校准来检查或建立每个传感器装置(相机、DPG、AMU、EMU等)的精确空间位置。以该方式,可以将这些装置的空间位置方面发生的变化考虑在内,从而保持整个系统的精准度量。
另外,系统100可以包括已开发的下述方法,该方法能够通过飞过包括多个已知的可视的并且非常精确的地理位置的区域来校准运载工具上的每个传感器装置(相机、DPG、AMU、EMU等)的精确位置和姿态。程序将该数据作为输入,并输出微位置数据,该微位置数据随后用于精确地处理正射地图。
在相机阵列组件300的实施方式中,可以以跨轨道斜视的方式来布置成像传感器。如图3A所示,壳体304包括简单的机壳,在该机壳内布置有成像传感器306、308、310、312和314。在优选的实施方式中,壳体304可以由安装单元(未示出)取代,在该安装单元内布置成像传感器306、308、310、312和314。尽管图3A描绘了5相机阵列,但是当利用从1到任何数目的任何数量的相机传感器时,系统同样适用。传感器306至314经由附接构件318共同耦接到单个横向横梁,或者各自耦接到置于壳体304的相对壁之间的侧向横梁。在替选实施方式中,壳体304可以自身只包括凹曲度的支承横梁(例如安装单元),成像传感器306至314经由构件318耦接到该支承横梁。在其他实施方式中,壳体304可以包括机壳和支承横梁的混合组合。壳体304还包括在成像传感器与目标302之间的机壳表面中形成的孔320。取决于主飞行器的具体类型,孔320可以只包括孔隙,或者它可以包括保护屏或保护窗,以保持壳体304内的环境整体性。在保护性透明板用于任何传感器的情况下,可以对该透明板涂覆特定涂层以提高传感器数据的质量。可选地,孔320可以包括透镜或其他光学器件,以增强或改变传感器记录的图像的性质。形成孔320的尺寸和形状足以向成像传感器306至314提供到地形302上的目标区域322的适当视线。
在壳体304内或者沿着壳体304布置成像传感器306至314使得所有传感器的焦轴在由孔320作为边界的相交区内会聚和彼此相交。取决于采集的图像数据的类型、使用的具体成像传感器以及采用的其他光学器件或设备,可能必须或者理想的是将相交区或者会聚点偏移在孔320的上方或下方。成像传感器306至314相互隔开一定的角度。成像传感器之间的确切位移角可根据利用的成像传感器的数目和采集的成像数据的类型而很不同。如果需要,成像传感器之间的角位移也可以不相等,以便提供期望的图像偏移或对齐。取决于利用的成像传感器的数目和阵列的特定配置,所有成像传感器的焦轴可以相交在完全相同的点处,或者可以相交在多个点处,所有多个点都彼此紧邻并且在由孔320限定的相交区内。
如在图3A中所描绘的那样,成像传感器310沿着轴316居中布置在壳体304内。成像传感器310具有方向与壳体304正交的焦轴324,以使成像传感器的视线对准区域322的图像区326。成像传感器308沿着轴316邻近于成像传感器310布置在壳体304内。成像传感器308被对准为使得其视线与区域322的图像区328一致并且使得其焦轴330在孔320限定的区域内与轴324会聚和相交。成像传感器312在轴316的与成像传感器308相对的侧邻近于成像传感器310布置在壳体304内。成像传感器312被对准成使得其视线与区域322的图像区332一致并且使得其焦轴334在孔320限定的区域内与轴324和330会聚和相交。成像传感器306沿着轴316邻近于传感器308布置在壳体304内。成像传感器306被对准成使得其视线与区域322的图像区336一致并且使得其焦轴338在孔320限定的区域内与其他焦轴会聚和相交。成像传感器314在轴316的与传感器306相对的侧邻近于传感器312布置在壳体304内。成像传感器314被对准为使得其视线与区域322的图像区340一致并且使得其焦轴344在孔320限定的区域内与其他焦轴会聚和相交。
成像传感器306至314可以包括数个数字成像装置,例如包括单独的区域扫描相机、线扫描相机、红外传感器、超光谱和/或地震传感器。每个传感器可以包括各自的成像装置,或者它自身可以包括成像阵列。成像传感器306至314可以都具有同样的性质,或者可以包括不同成像装置的组合。为了易于引用,下面将成像传感器306至314分别称为相机306至314。
在大规格胶片或数字相机中,透镜畸变通常是成像问题的来源。必须仔细地校准每个单独的透镜,以确定精确的畸变因数。在本发明的一个实施方式中,利用透镜角宽度为17度或更小的小规格数字相机。这有效并且经济地减轻了可察觉的畸变。
相机306至314沿着轴316交替地布置在壳体304内使得每个相机的焦轴会聚到孔320、穿过焦轴324并且使其视场对准与其在阵列中的相应位置相对的目标区域,从而生成相机与一个或多个成像目标之间的“斜视”视网膜关系。相机阵列组件300被配置成使得图像区326、328、332、336和340的邻接边界稍微交叠。在实施方式中,图像区340与332、332与326、326与328以及328与336的邻接边界交叠介于图像区的约1%与约99%之间。在另一实施方式中,此邻接边界交叠介于约10%与约80%之间。在又一实施方式中,此邻接边界交叠介于约20%与约60%之间。
取决于成像传感器306、308、310、312和314的形状和尺寸,组件300提供生成具有大致为圆形性质的可定制视场的图像的能力。取决于利用的一个或多个安装单元和成像传感器,组件300可以被部署成生成立体图像。在替选实施方式中,可以对包括具有各种形状和尺寸的任何数量的成像传感器的任何数量的安装单元进行组合,以在任何期望的目标区域上提供成像数据。
在相机阵列组件300的另一实施方式中,可以以长轨道斜视的方式布置成像传感器。如在图3B中所描绘的,壳体304包括简单的机壳,在该机壳内布置有成像传感器306、308、310、312和314。在优选的实施方式中,壳体304可以由安装单元(未示出)取代,在该安装单元内布置成像传感器306、308、310、312和314。尽管图3B描绘了5相机阵列,但是当利用从1到任何数目的任何数量的相机传感器时,系统同样适用。传感器306至314经由附接构件318共同耦接到单个横向横梁,或者各自耦接到置于壳体304的相对壁之间的侧向横梁。在替选实施方式中,壳体304可以自身只包括凹曲度的支承横梁(例如安装单元),成像传感器306至314经由构件318耦接到该支承横梁。在其他实施方式中,壳体304可以包括机壳和支承横梁的混合组合。壳体304还包括在成像传感器与目标302之间的机壳表面形成的孔320。取决于主飞行器的具体类型,孔320可以只包括孔隙,或者它可以包括保护屏或保护窗,以保持壳体304内的环境整体性。在保护性透明板用于任何传感器的情况下,可以对该透明板涂覆特定涂层以提高传感器数据的质量。可选地,孔320可以包括透镜或其他光学器件,以增强或改变传感器记录的图像的性质。形成孔320的尺寸和形状足以向成像传感器306至314提供到地形302上的目标区域322的适当视线。
在壳体304内或者沿着壳体304布置成像传感器306至314使得所有传感器的焦轴在由孔320作为边界的相交区内会聚。取决于采集的图像数据的类型、使用的具体成像传感器以及采用的其他光学器件或设备,可能必须或者理想的是将相交区或者会聚点偏移在孔320的上方或下方。成像传感器306至314相互隔开一定的角度。成像传感器之间的确切位移角可根据利用的成像传感器的数目和采集的成像数据的类型而很不同。如果需要,成像传感器之间的角位移也可以不相等,以便提供期望的图像偏移或对齐。取决于利用的成像传感器的数目和阵列的特定配置,所有成像传感器的焦轴可以相交在完全相同的点处,或者可以相交在多个点处,所有多个点都彼此紧邻并且在由孔320限定的相交区内。
如在图3B中所描绘的那样,成像传感器310沿着轴316居中布置在壳体304内。成像传感器310具有方向与壳体304正交指向的焦轴324,以使成像传感器的视线对准区域322的图像区326。成像传感器308沿着轴316邻近于成像传感器310布置在壳体304内。成像传感器308被对准为使得其视线与区域322的图像区328一致并且使得其焦轴330在孔320限定的区域内与轴324会聚和相交。成像传感器312在轴316的与成像传感器308相对的侧邻近于成像传感器310布置在壳体304内。成像传感器312被对准成使得其视线与区域322的图像区332一致并且使得其焦轴334在孔320限定的区域内与轴324和330会聚和相交。成像传感器306沿着轴316邻近于传感器308布置在壳体304内。成像传感器306被对准成使得其视线与区域322的图像区336一致并且使得其焦轴338在孔320限定的区域内与其他焦轴会聚和相交。成像传感器314在轴316的与传感器306相对的侧邻近于传感器312布置在壳体304内。成像传感器314被对准成使得其视线与区域322的图像区340一致并且使得其焦轴344在孔320限定的区域内与其他焦轴会聚和相交。
相机306至314沿着轴316交替地布置在壳体304内使得每个相机的焦轴会聚到孔320、穿过焦轴324并且使其视场对准与其在阵列中的相应位置相对的目标区域,从而产生相机与一个或多个成像目标之间的“斜视”视网膜关系。相机阵列组件300被配置成使得图像区326、328和332的邻接边界稍微交叠。在实施方式中,图像区326与328和/或图像区326与332的邻接边界交叠介于图像区的约1%与约99%之间。在另一实施方式中,此邻接边界交叠介于约30%与约95%之间。在又一实施方式中,此邻接边界交叠介于约50%与约90%之间。
图像区328与336以及图像区332与340的邻接边界可以轻微交叠或者可以不交叠。在实施方式中,图像区328与336以及图像区332与340的邻接边界交叠介于约0%与约100%之间。在另一实施方式中,此邻接边界交叠介于约30%至约95%之间。在又一实施方式中,此邻接边界交叠介于约50%与约90%之间。
在另一实施方式中,类似于图3B的相机阵列,可以如相机阵列2600中那样以长轨道斜视的方式布置成像传感器。如在图26A中所描绘的那样,安装单元2604包括简单的结构,在该结构内布置有成像传感器2606、2608、2610和2612。尽管图26A描绘了4相机阵列,但是当利用从1到任何数目的任何数量的相机传感器时,系统同样适用。传感器2606至2612经由附接构件2618共同耦接到单个横向横梁,或者各自耦接到置于安装单元2604的相对壁之间的侧向横梁。
类似于图3B的相机阵列组件,安装单元2604还包括在成像传感器与目标(未示出)之间的安装单元表面中形成的孔2620。取决于主飞行器的具体类型,孔2620可以只包括孔隙,或者它可以包括保护屏或保护窗,以保持安装单元2604内的环境整体性。在保护性透明板用于任何传感器的情况下,可以对该透明板涂覆特定涂层以提高传感器数据的质量。可选地,孔2620可以包括透镜或其他光学器件,以增强或改变传感器记录的图像的性质。形成孔2620尺寸和形状足以向成像传感器2606至2612提供到地形上的目标区域(未示出)的适当视线。
正如针对图3B所讨论的那样,在安装单元2604内或者沿着安装单元2604中的凹曲线阵列轴2616布置成像传感器2606至2614使得所有传感器的焦轴在由孔2620限制的相交区内会聚和彼此相交。取决于采集的图像数据的类型、使用的具体成像传感器以及采用的其他光学器件或设备,可能必须或者理想的是将相交区或者会聚点偏移在孔2620的上方或下方。成像传感器2606至2612相互隔开一定的角度。成像传感器之间的确切位移角可根据利用的成像传感器的数目和采集的成像数据的类型而很不同。如果需要,成像传感器之间的角位移也可以不相等,以便提供期望的图像偏移或对齐。取决于利用的成像传感器的数目和阵列的特定配置,所有成像传感器的焦轴可以相交在完全相同的点处,或者可以相交在多个点处,所有多个点都彼此紧邻并且在由孔2620限定的相交区内。
在相机阵列组件300的另一实施方式中,可以针对测绘基础设施以长轨道斜视的方式布置成像传感器。如在图3C中所描绘的那样,壳体304包括简单的机壳,在该机壳内布置有成像传感器306、308、310、312和314。在优选的实施方式中,壳体304可以由安装单元(未示出)取代,在该安装单元内布置成像传感器306、308、310、312和314。尽管图3B描绘了5相机阵列,但是当利用从3到任何数目的任何数量的相机传感器时,系统同样适用。如上所述,传感器306至314经由附接构件318共同耦接到单个横向横梁,或者各自耦接到置于壳体304的相对壁之间的侧向横梁。在替选实施方式中,壳体304可以自身只包括凹曲度的支承横梁(例如安装单元),成像传感器306至314经由构件318耦接到该支承横梁。在其他实施方式中,壳体304可以包括机壳和支承横梁的混合组合。壳体304还包括在成像传感器与目标302之间的机壳表面形成的孔320。取决于主飞行器的具体类型,孔320可以只包括孔隙,或者它可以包括保护屏或保护窗,以保持壳体304内的环境整体性。在保护性透明板用于任何传感器的情况下,可以对该透明板涂覆特定涂层以提高传感器数据的质量。可选地,孔320可以包括透镜或其他光学器件,以增强或改变传感器记录的图像的性质。形成孔320的尺寸和形状足以向成像传感器306至314提供到地形302上的目标区域322的适当视线。
类似于图3B的相机组件,在壳体304内或者沿着壳体304布置成像传感器306至314使得所有传感器的焦轴在由孔320限制的相交区内会聚。取决于采集的图像数据的类型、使用的具体成像传感器以及采用的其他光学器件或设备,可能必须或者理想的是将相交区或者会聚点偏移在孔320的上方或下方。成像传感器306至314相互隔开一定的角度。成像传感器之间的确切位移角可根据利用的成像传感器的数目和采集的成像数据的类型而很不同。如果需要,成像传感器之间的角位移也可以不相等,以便提供期望的图像偏移或对齐。取决于利用的成像传感器的数目和阵列的特定配置,所有成像传感器的焦轴可以相交在完全相同的点处,或者可以相交在多个点处,所有多个点都彼此紧邻并且在由孔320限定的相交区内。
如图3C所示,成像传感器310沿着轴316居中布置在壳体304内。成像传感器310具有方向与壳体304正交指向的焦轴324使得成像传感器的视线对准区域322的图像区326。成像传感器308沿着轴316邻近于成像传感器310布置在壳体304内。成像传感器308被对准使得其视线与区域322的图像区328一致并且使得其焦轴330在孔320限定的区域内与轴324会聚和相交。成像传感器312在轴316的与成像传感器308相对的侧邻近于成像传感器310布置在壳体304内。成像传感器312被对准使得其视线与区域322的图像区332一致并且使得其焦轴334在孔320限定的区域内与轴324和330会聚和相交。成像传感器306沿着轴316邻近于传感器308布置在壳体304内。与图3B的相机组件不同,成像传感器306被对准使得其视线与区域322的前斜图像区336一致并且使得其焦轴338在孔320限定的区域内与其他焦轴会聚和相交。如在图3C和图4C中所描绘的那样,成像传感器306捕获包括第二塔346的后视图的前斜图像区336。成像传感器314在轴316的与传感器306相对的侧邻近于传感器312布置在壳体304内。成像传感器314被对准使得其视线与区域322的后斜图像区340一致并且使得其焦轴344在孔320限定的区域内与其他焦轴会聚和相交。如在图3C和图4C中所描绘的那样,成像传感器314捕获包括第一塔348的前视图的前斜图像区340。
类似于图3B的相机阵列,相机306至314沿着轴316交替地布置在壳体304内使得每个相机的焦轴会聚到孔320、穿过焦轴324并且使其视场对准与其在阵列中的相应位置相对的目标区域,从而产生相机与一个或多个成像目标之间的“斜视”视网膜关系。相机阵列组件300被配置成使得图像区326、328和332的邻接边界稍微交叠。在实施方式中,图像区326与328和/或图像区326与332的邻接边界交叠介于图像区的约1%与约99%之间。在另一实施方式中,此邻接边界交叠介于约30%与约95%之间。在又一实施方式中,此邻接边界交叠介于约50%与约90%之间。
图像区328与336以及图像区332与340的邻接边界可以轻微交叠或者可以不交叠。在实施方式中,图像区328与336以及图像区332与340的邻接边界交叠介于约0%与约100%之间。在另一实施方式中,此邻接边界交叠介于约30%与约95%之间。在又一实施方式中,此邻接边界交叠介于约50%与约90%之间。
参照图3C-2,描绘了使用以沿轨道斜视的方式配置的相机阵列组件获得的图像的示例性序列。尽管示出了图3C-1的相机阵列组件,但是可以使用其他沿轨道相机阵列组件。图3C-2示出了长轨道传感器如何通过采集覆盖长轨道对象的前侧和后侧的交叠图像的序列来覆盖基础设施,如输电塔、绝缘体/导体、变压器和其他线性对准通道对象。
在相机阵列的另一实施方式中,可以以跨轨道斜视的方式和以长轨道斜视的方式来布置成像传感器。参见例如图3D和图22A。图22A从右后侧透视图描绘凹或视网膜相机阵列组件2200。尽管图22A描绘了15相机阵列,但是当利用从1到任何数目的任何数量的成像传感器时,系统同样适用。组件2200在组成、结构和操作方面类似于组件300。组件2200包括第一成像阵列2202、第二成像阵列2204以及第三成像阵列2206。阵列2204被配置为布置在组件2200内的主传感器阵列使得其主成像传感器2210的焦轴2208的方向为从组件2200向下正交于沿地形2214的目标区2212。组件2200可适应地安装到相对于地形2214沿航迹2216移动的运载工具。阵列2202、2204和2206作为成像传感器的子组件被配置在组件2200内。阵列2202在安装单元2204前相对于航迹2216以角偏移2218偏移。类似地,阵列2206在阵列2204后相对于航迹2216以角偏移2220偏移。角偏移2218被选择成使得布置在安装单元2202内的主成像传感器2224的焦轴2222的方向朝向目标区2212向下与目标表面形成角2232。角偏移2220被选择成使得布置在安装单元2206内的主成像传感器2230的焦轴2228的方向朝向目标区2212向下与目标表面形成角2226。优选地,角偏移2218和角偏移2220是相等的,但它们可以不同以提供期望的成像效果。布置在安装单元2202、2204和2206内的其他各个成像传感器的焦轴与目标区2212形成类似的角关系,并且彼此受其沿安装单元的相对位置的约束。
在相机阵列的实施方式中,可以以沿轨道斜视和以跨轨道斜视二者择一的方式来布置成像传感器。参见例如图3E和图22B。图22B从右前侧透视图描绘了凹或视网膜相机阵列组件2200。阵列2204被配置为布置在组件2200内的主传感器阵列使得其主成像传感器2210的焦轴2208的方向从组件2200向下正交于沿地形2214的目标区域2212。安装单元2202相对于航迹(或轨道)2216的垂线2234以角偏移2218向安装单元2204的左方(从后面观看阵列)偏移。类似地,安装单元2206相对于航迹2216的垂线2234以角偏移2220向安装单元2204的右方(从后方观看阵列)偏移。角偏移2218被选择成使得布置在安装单元2202内的主成像传感器2224的焦轴2222的方向朝向目标区2212向下与目标表面形成角2232。角偏移2220被选择成使得布置在安装单元2206内的主成像传感器2230的焦轴2228的方向朝向目标区2212向下与目标表面形成角2226。优选地,角偏移2218和角偏移2220是相等的,但它们可以不同以提供期望的成像效果。布置在安装单元2202、2204和2206内的其他各个成像传感器的焦轴与目标区2212形成类似的角关系,并且彼此受其沿安装单元的相对位置的约束。
在相机阵列的另一实施方式中,可以以凹或视网膜构型来布置成像传感器。图23从仰视图描绘了凹或视网膜相机阵列组件2300。尽管图23描绘了25相机阵列,但是当利用从1到任何数目的任何数量的成像传感器时,系统同样适用。组件2300包括主复合凹曲线安装单元2302和多个复合曲线安装单元2304,所述多个复合曲线安装单元2304形成的尺寸和曲率足以以各种角度间隔偏移并且形成弓形跨过安装单元2302或接触安装单元2302。可以采用任何数量的安装单元2304,并且安装单元2304的数量可以多到形成用于安装传感器的穹顶结构。安装单元2304之间的角位移取决于安装单元的尺寸和期望的成像特征而不同。例如,组件2300可以包括彼此为正交(即,90°)关系的两个安装单元。具有三个安装单元的另一组件可以被配置成使得所述安装单元之间的角位移为60°。
主成像传感器2306沿安装单元2302的凹侧居中布置,其焦轴的方向从组件2300向下正交指向。根据本发明的教示,数个成像传感器2308沿安装单元2302和2304的凹侧以斜视的方式布置。斜视成像传感器2308沿安装单元2302和2304交替地布置使得每个成像传感器的焦轴在相交区(未示出)会聚到成像传感器2306的焦轴,并且使其视场对准与其在阵列中的相应位置相对的目标区域。取决于成像传感器2308的形状和尺寸,组件2300提供生成具有大致为圆形性质的可定制视场的图像的能力。取决于利用的安装单元和成像传感器,组件2300可以被部署成生成立体图像。在替选实施方式中,可以对包括具有各种形状和尺寸的任何数量的成像传感器的任何数量的安装单元进行组合,以在任何期望的目标区域上提供成像数据。
再次参照图3A至图3E,如果附接构件318是永久固定性质的(例如,焊接),那么孔320、相机和它们的视线之间的空间关系保持固定,图像区326、328、332、336和340之间的空间关系也将保持固定。在例如相机阵列组件300保持在离区域322大体固定距离的位置处的卫星监测应用中,这样的构型是合乎需要的。设定相机的位置和对准使得区域326、328、332、336和340提供对区域322的完全成像覆盖。然而,如果附接构件318是临时或可调整性质的,那么理想的是手动地或者借助远程自动化选择性地调整相机的位置或对准,以便平移、缩小或加宽区域326、328、332、336和340,从而增强或改变利用相机阵列组件300采集的图像的质量。
在实施方式中,刚性安装单元可以被固定到刚性安装板,或者可以不被固定到刚性安装板。安装单元是可以在其上固定至少一个成像传感器的任意刚性结构。安装单元可以是围绕成像传感器的壳体,但也可以是任何刚性结构,包括支柱、三角架等。出于本公开内容的目的,成像传感器表示能够接收和处理来自目标区域的主动或被动辐射能量即,光、声音、热、重力等的任何装置。特别地,成像传感器可包括任何数目的数字相机,包括利用红-蓝-绿滤光片、bushbroom滤光片或高光谱滤光片的数字相机,LIDAR传感器,红外传感器,热感传感器,重力计等。成像传感器不包括用于借助卫星数据和/或惯性数据而为运载工具定向的姿态测量传感器,如陀螺仪、GPS装置等。优选地,所述多个传感器是不同的传感器。
在另一实施方式中,可以将单个即至少一个刚性安装单元固定到同一个刚性安装板。
在另一实施方式中,可以将多个即至少两个刚性安装单元固定到同一个刚性安装板。
在成像传感器是相机、LIDAR等的实施方式中,安装单元优选地具有可以通过光和/或能量的孔。安装板优选地是平面的,但可以是非平面的。在成像传感器是相机、LIDAR等的实施方式中,安装板优选地具有与安装单元的可以通过光和/或能量的一个或多个孔对齐的一个或多个孔。
刚性结构是在使用时弯曲小于约0.01度,优选地小于约0.001度,更优选地小于约0.0001度的结构。优选地,刚性结构是当在正常即非湍流飞行期间固定到飞机上时,弯曲小于约0.01度,优选地小于约0.001度,更优选地小于约0.0001度的结构。如果在正常工作期间,物体被相互刚性固定,那么它们相对于彼此的弯曲小于约0.01度,优选地小于约0.001度,更优选地小于约0.0001度。
相机310被指定为主相机。相机310的像平面326充当基准平面。相对于基准平面测量其他相机306、308、312和314的方位。根据为将相机的像平面旋转成平行于基准平面而需要的横摆角、俯仰角和滚转角,测量每个相机的相对方位。旋转的顺序优选地是横摆、俯仰和滚转。
固定到一个或多个安装单元的成像传感器可以不在同一平面中对齐。作为替代,成像传感器的安装角可以相对于固定到第一安装单元的第一传感器的安装角而偏移,优选地是相对于第一安装单元的主天底点相机的安装角而偏移。因而,成像传感器可被联合配准,以校准每个成像传感器相对于彼此的物理安装角偏移量。在实施方式中,多个即至少两个刚性安装单元被固定到同一刚性安装板,并被联合配准。在实施方式中,相机306至314被固定到刚性安装单元上,并被联合配准。在该实施方式中,使用GPS和惯性数据确定AMU优选是陀螺仪的几何中心点。相对于基准点,优选地是相对于AMU的几何中心点,来计算固定到第一安装单元的第一传感器的物理位置,优选地是计算第一安装单元的标准天底点相机的物理位置。以同样地方式,相对于同一基准点直接地或间接地计算所有安装单元内的所有剩余传感器的物理位置。
传感器的视轴角被定义成从传感器的几何中心到基准平面的角度。优选地,所述基准平面与目标区域正交。可以使用地面目标点来确定第一传感器的视轴角。优选地,参照第一传感器的视轴角计算后续传感器的视轴角。优选地,使用已知的地面目标——所述已知的地面目标优选是可照片识别的——来校准传感器。可替代地,使用自锁航迹或者任何其他方法如在美国专利申请公布第2004/0054488A1号(现在的美国专利第7,212,938B2号)中公开的方法来校准传感器,上述美国专利的公开内容通过全部引用合并到本文中。
第二安装单元内的成像传感器可以是任何成像传感器,优选是LIDAR。可替代地,第二成像传感器是数字相机或者数字相机的阵列。在实施方式中,参照第一传感器的视轴角计算固定到第二安装单元的一个或多个传感器的视轴角。可以参照在第一安装单元内的第一传感器的视轴角来校准在第二安装单元内的一个或多个成像传感器的物理偏移。
按照这种方式,使用相同的GPS信号、相同的地面目标并且在基本相同的大气条件下,在基本相同的时间校准所有的传感器。这显著减小了当使用不同的GPS信号、对照不同的地面目标并在不同的大气条件下单独校准每个传感器时产生的复合误差。
现在参照图4A至4E,根据俯视图示出了分别利用相机306至314拍摄的区域336、328、326、332和340的图像。再次,由于“斜视”布置,区域336的图像由相机306拍摄,区域340的图像由相机314拍摄,诸如此类。在本发明的一个实施方式中,在透视变换之后,除用中央相机310拍摄的图像之外的图像呈梯形。参见例如图4A。相机306至314沿着在多数应用中垂直向下指向的轴316形成阵列。在实施方式中,相机308、310和312沿垂直向下指向的轴316形成正交阵列,相机306和相机314也沿轴316形成倾斜阵列。参见例如图4B和图4C。例如,可以获得基础设施信息如绝缘体/导体、变压器传输线和发射塔的状态以及地面植被、树木/叶子、围栏和道路相对于这样的结构的位置。在替选实施方式中,相对于第一相机阵列对齐与相机306至314的阵列构成相似的第二相机阵列,以具有提供“抬头”透视的倾斜视野。抬头相机阵列组件相对于水平面的倾斜角可因任务目标和参数而不同,但是一般为25度至45度角。本发明类似地构思了改变相机阵列的安装的其他替选实施方式。参见例如图4D和图4E。在所有这样的实施方式中,根据本发明精确地测量和校准了相机的相对位置和姿态,以便有助于图像处理。
在本发明的一个实施方式中,使用外部机制(例如,GPS定时信号)来同时触发相机,从而捕获输入图像阵列。镶嵌模块随后将来自这样的阵列的各个输入图像呈现为正射校正的复合图像(或者“镶嵌图”),相邻图像之间没有任何明显的接缝。镶嵌模块执行一组任务,包括:确定每个输入图像的地理边界和尺寸;利用精确的地理定位,将每个输入图像投射到镶嵌图上;均衡镶嵌图中的各个图像的颜色;以及在相邻输入图像的共有接缝处融合所述相邻输入图像。取决于输入的图像数据的大小和性质,执行的各个任务的确切顺序可变化。在某些实施方式中,镶嵌模块在镶嵌期间只对原始输入图像进行一次变换。所述变换可以用4×4矩阵表示。通过将多个变换矩阵组合成单个矩阵,减少了处理时间,并且保持了原始输入图像锐度。
在输入图像到镶嵌图的映射期间,尤其是当以较高的分辨率进行镶嵌时,镶嵌图中的像素(即,输出像素)可能未被输入图像中的任何像素(即,输入像素)映射到。扭曲的线条可能在镶嵌图中产生伪像。本发明的某些实施方式利用超采样系统克服了这个问题,在超采样系统中,每个输入像素和输出像素被进一步分成子像素的n×m网格。逐个对子像素进行变换。输出像素的最终值是该输出像素的存在对应的输入子像素的子像素的平均值。较大的n和m值产生较高分辨率的镶嵌图,但是确实需要额外的处理时间。
在处理图像数据的过程中,镶嵌模块可以利用以下信息:在捕获输入图像时,每个相机的焦点的空间位置(例如,x、y、z坐标);在捕获输入图像时,每个相机的像平面相对于目标区域的地平面的姿态(即,横摆、俯仰、滚转);每个相机的视场(即,沿轨道和跨轨道);以及区域的数字地形模型(DTM)。姿态可由与系统相关的AMU提供。可以根据使用LIDAR模块118获得的信息来创建数字地形模型(DTM)或者数字表面模型(DSM)。LIDAR类似于更常见的雷达,可被考虑为激光雷达。在雷达中,无线电波被发射到大气中,大气把一些能量散射回到雷达的接收器。LIDAR也发射和接收电磁辐射,但是是以更高的频率发射和接收电磁辐射,因为它工作在电磁频谱的紫外区、可见光区和红外区中。在操作中,LIDAR将光发射到目标区域。发射的光与目标区域相互作用并且被目标区域改变。发射的光中的一些光被反射/散射回能够对它进行分析的LIDAR仪器。光的属性的变化使得能够确定目标区域的一些属性。光传送到目标区域然后返回LIDAR装置所用的时间被用于确定距目标的距离。
DTM和DSM数据集也可从相机阵列组件捕获。也可以使用获得高程数据的常规手段,如立体摄影技术。
目前存在三种基本类型的LIDAR:测距仪、差分吸收LIDAR(DIAL)和多普勒LIDAR。测距仪LIDAR是最简单的LIDAR,用于测量从LIDAR装置到固体或硬质目标的距离。DIAL LIDAR用于测量大气中的化学物浓度(如臭氧、水汽、污染物)。DIAL LIDAR使用两个不同的激光波长,所述两个不同的激光波长被选择为使得波长之一被所关注的分子吸收,而另一个波长不被吸收。两个返回信号的强度差可被用于推断正在调查的分子的浓度。多普勒LIDAR用于测量目标的速度。当从LIDAR发出的光射到朝着LIDAR或者远离于LIDAR移动的目标时,从目标反射/散射的光的波长将轻微改变。这被称为多普勒频移,因此这被称为多普勒LIDAR。如果目标正在远离于LIDAR移动,那么返回光将具有更长的波长(有时称为红移),如果目标正在朝着LIDAR移动,那么返回光将具有较短的波长(蓝移)。目标可以是硬质目标或者大气目标(例如,风携带的微小灰尘和悬浮粒子)。
优选地,使用相机的焦点作为透视变换中心。其在空间中的位置可由例如安装在主飞行器上的多频载波相位后处理GPS系统确定。优选地,仔细地测量相机的焦点在三个维度上相对于GPS天线的中心的偏移量。这些偏移量可以与GPS天线的位置以及主飞行器的方位结合,以确定相机的焦点的准确位置。优选地,通过处理采集的GPS数据来确定GPS天线相对于部署在精确勘测的各个点的类似地基GPS天线的位置。
优选地,在运载工具上安装一个或更多个AMU(例如,Applanix POSAV)以确定姿态。优选地,以短的时间间隔以高于0.01度的精度来测量和记录AMU基准平面相对于目标区域的地平面的姿态。AMU基准平面的姿态可被定义成为了使其平行于地平面而可以对AMU基准平面的各个轴进行的一系列旋转。术语“对准”也可用于描述该操作。
优选地,精确地校准中央相机310(即其像平面)相对于AMU的姿态。优选地还仔细地校准其他相机中的每个相对于中央相机310的姿态。这种从属校准比直接校准每个相机更高效。当重新安装相机阵列组件300时,只需要重新校准中央相机310。有效地,对来自中央相机310的输入图像应用一连串两次变换。首先,使中央相机的像平面对齐AMU平面。随后,再次使AMU平面与地平面对准。然而,通过使其相应的变换矩阵相乘将这些变换组合成单个操作。对于来自各个其他相机的图像,首先进行额外的变换以使它与中央相机的像平面对准。
可以如上所述来确定中央相机310的焦点的位置。优选地,该位置的x和y分量确定镶嵌图的天底点400在地面的位置。每个相机的视场(FOV)已知,因此利用该相机的焦点的z分量可以确定每个输入图像的尺寸。优选地,通过计算区域的DTM中的各个点的平均高程来确定地面的平均高程,随后把每个输入图像投影到在该高程的假想水平面。随后,优选地利用该区域的DTM来施加地势平移。可从许多来源获得DTM,包括:美国大部分地区可获得的USGS 30米DTM或USGS 10米DTM;商用DTM;或者利用安装在主飞行器上的与相机同时捕获数据的LIDAR或SAR EMU装置获得的DTM。
除了在地理上被正确放置之外,作为结果的复合图像还需要处处具有辐射一致性,并且在两个相邻图像之间的接合处没有明显的接缝。本发明提供实现此目的的许多技术。
常规相机的一个特征是曝光时间(即,打开快门,以将光收集到像平面的时间)。曝光时间越长,作为结果的图像越明亮。曝光时间必须适应于由例如云遮盖、太阳相对于相机的角度和位置等条件引起的环境照明的变化。最佳曝光时间还可能取决于相机相对于光源的方位(例如,与对着阴暗物体的相机相比,对着太阳照射的物体的相机一般接收更多的环境光)。调整曝光时间,以使图像的平均亮度保持在某个期望的范围内。例如,在24比特彩色图像中,每个红、绿和蓝分量可具有从0到255的亮度值。然而,在多数情况下,理想的是将平均亮度保持在平均值(即,127)。
在本发明中,曝光控制模块控制每个相机或成像传感器的曝光时间。它检查每个输入图像,并计算平均图像亮度。基于移动平均值(即,最后X个图像的平均亮度),曝光控制模块确定要增大还是减小曝光时间。曝光控制模块可以使用较长的移动平均值来实现对照明条件变化的较慢反应,对异常黑暗或明亮图像(例如,沥青路或水)较不敏感。曝光控制模块单独地控制每个相机的曝光时间。
在没有前移补偿机制的情况下安装相机的系统中,必须有曝光时间的最大极限。将曝光时间设定成大于最大值的值会导致运动诱导的模糊。例如,假定相机安装在以170英里/小时(或者约3英寸/ms)行进的飞机上。假定期望的像素分辨率为6英寸。图像捕获期间的前移应受限于像素大小的一半,在本例中像素大小的一半等于3英寸。从而,最大曝光时间例如为1毫秒。
在控制成像质量的过程中下述是有用的:能够确定光强度的变化是由环境光的变化引起的还是由于存在异常明亮或黑暗的物体(例如,反光的水体、金属屋顶、沥青等)引起的。本发明的一些应用涉及航空摄影或监测。注意到地面的航空图像通常包括作物和植被,与水体或者如道路和建筑物之类的人造结构相比,它们具有更加一致的反射率。当然,作物和植被的图像通常绿色占优(即,在红色、绿色和蓝色值之中,绿色分量是最大的)。因此,通过关注绿色占优的像素可以使亮度相关性更精确。
曝光控制模块通过只选择绿色占优的像素来计算图像的平均亮度。例如,如果图像具有100万个像素,而30万个像素是绿色占优的,那么在平均亮度的计算中,只包括这30万个绿色占优的像素。这使得成像处理对由其像素通常不是绿色占优的人造结构和水体引起的偏差较不敏感。如前所述,理想的是保持约127的亮度值。当亮度值高于127(即,曝光过度)时,减小曝光时间,以使得捕获较少的光。类似地,当亮度值低于127(即,曝光不足)时,增大曝光时间,以使得捕获更多的光。例如,考虑飞过具有许多白色屋顶(其亮度非常高)的目标地形区域的系统。捕获的图像的平均亮度往往会高。在大部分常规的系统中,曝光时间会被降低,以便进行补偿。然而,在这样的例子中,降低曝光时间并不适当,因为明亮的屋顶使图像的平均亮度发生了偏差。降低曝光时间会导致产生其中地面比实际更暗的图像。相比之下,如果根据本发明只处理绿色占优的像素,则代表过度明亮的屋顶的像素确实偏离平均亮度,但是不改变曝光时间。
从而,曝光控制模块降低了输入图像之间的亮度差异。无论如何,提供了进一步的处理以增强色调均衡。导致从像平面的不均匀受光的因素很多(例如,透镜物理性质、大气条件、成像装置的空间/位置关系)。在相机或传感器的中心接收的光比在边缘接收的光更多。
本发明的镶嵌模块利用现在参考图5示出的防虚光功能解决该问题。数个焦列500、502、504、506和508在其延伸穿过成像目标区512(例如,地面地形)时从像平面509会聚并穿过焦点510。列500至508可包括单个相机或传感器的各个分辨率列,或者可以代表数个独立的相机或传感器的焦轴。为了参照的目的,列504用作轴,列504与像平面509相交的点513用作主点。曝光控制模块应用将输入像素的原始亮度乘以与列相关的防虚光系数的防虚光函数。由于接收表面被表示成具有坐标系的平面,因此每列具有数个分辨率行(未示出)。对于在列x和行y处的像素p,可以如下表述这种关系:
<调整后的亮度>=<初始亮度>*f(x);
其中f(x)是以下形式的函数:
f(x)=cos(偏轴角)**4。
中央列504的偏轴角514为0;列502和506的偏轴角514较大;列500和508的偏轴角514更大。整个视场角516(FOVx角)被描绘在列504和508之间。
函数f(x)可用在列之间的数个线段近似。对在任意给定列c1和c2之间的线段上的点来说,如下计算调整系数:
<c的调整系数>=f(c1)+[f(c2)-f(cl)*(c-cl)/(c2-cl)];
其中f(c1)和f(c2)分别是在列c1和c2处的偏轴角的f函数值。
每组输入图像需要被拼接成镶嵌图像。尽管曝光控制模块调整了每个相机或传感器接收的光量,作为结果的输入图像仍然可能亮度不同。本发明提供亮度均衡模块,亮度均衡模块比较相邻输入图像之间的交叠区域,以进一步均衡相对亮度。由于邻接的输入图像是同时拍摄的,因此在两个输入图像中,交叠区域理论上应具有相同的亮度。然而,由于各种因素,亮度值通常不同。导致亮度差异的一些因素可包括例如仅仅存在于特定相机的视场中的异常明亮或黑暗的物体使曝光控制模块发生偏差,或者相机的视轴角不同(即,较倾斜的相机比较垂直的相机接收更少的光)。
为了均衡两个相邻图像,一个图像被选为基准图像,而另一个图像是从属图像。利用例如以下处理来确定相关向量(fR,fG,FB)。令V是代表像素的值(R、G和B)的3×1向量:
可如下导出相关矩阵C:
其中FR=AvgIr/AvgIn;AvgIr=基准图像中的交叠区域的红色平均亮度;
AvgIn=新图像中的交叠区域的红色平均亮度;并且类似地导出FG和FB。
相关矩阵比例缩放从属图像的像素值使得从属图像的交叠区域的平均亮度变得等于基准图像的交叠区域的平均亮度。通过将从属图像的像素值乘以相关矩阵,从属图像可被均衡到基准图像。
从而,在根据本发明的均衡处理的一个实施方式中,中央图像被当做基准图像。基准图像首先被复制到复合图像(或者镶嵌图)。使基准图像和邻接图像(例如,近左图像)之间的交叠区域相互关联,以计算均衡相关矩阵(BCM)。随后将BCM乘以代表邻接图像的像素的向量,以使交叠区域的亮度在两个图像中相同。这种关系的一个实施方式可以表示成:
令I(中央)=中央图像中的交叠区域的平均亮度;
I(邻接)=邻接图像中的交叠的平均亮度;则
均衡因子=I(中央)/I(邻接)。
独立地计算每个颜色通道(即,红、绿和蓝)的均衡因子。这三个值构成BCM。将现在均衡的邻接图像复制到镶嵌图。使用掩膜通过“羽化”,在被复制图像的边界提供平滑过渡。该掩模具有和邻接图像相同的尺寸,并且包括数个元素。掩模中的每个元素指示镶嵌图中的对应邻接图像像素的权重。在边界的像素的权重为0(即,从基准图像获得输出值),并且权重沿着邻接图像的方向逐渐增大,直到在达到选择的融合宽度之后变为1为止。镶嵌图在融合区之外的部分将完全由邻接图像的像素决定。类似地,分析和处理所有其他输入图像组成之间的交叠,以计算相关向量并且均衡图像的亮度。
利用例如参考图6的以下处理来确定相关矩阵。图6描绘了根据本发明形成的条带600。基础镶嵌图602和沿着路径(或者轨迹)606添加的新的镶嵌图604在区域608中相互交叠。令V是表示像素的R、G和B值的向量:
令h是区域608的过渡宽度,y是从交叠区域的边界610到点A的沿着轨迹606的距离,点A的像素值用V表示。
令C是相关矩阵:
V的均衡值(称为V')为:
V'=[y/h.I+(1-y/h).C]×V,当0<y<h时;
V'=V,当y>=h时;
其中I是单位矩阵
注意还结合梯度使用“羽化”技术,以使接缝可见性降至最小。
当镶嵌图较长时,从镶嵌图的一端到另一端,交叠部分的亮度的差异会发生变化。可能不能通过计算单一相关向量来避免产生明显接缝。可将镶嵌图分成与构成镶嵌图的初始输入图像的位置对应的数个片段。单独对每个片段单元应用上面说明的处理,以提供更好的局部颜色一致性。
按照这种修正的算法,在两个片段的边界的像素会产生垂直接缝(假定北-南航线)。为了避免这种问题,必须使在该区域中的各个像素的均衡因子从一个片段的均衡因子“过渡”成另一个片段的均衡因子。现在参考图7说明这一点。
图7描绘了根据本发明形成的条带700。基础镶嵌图702与新片段704在区域706中交叠。镶嵌图702和另一个新片段708在区域710中交叠。片段704和708在区域712中交叠,区域706、710和712都在区域714交叠且重合。为了便于说明,点716用作y轴718和x轴720的原点。沿着y轴718的移动代表沿着成像系统的航迹的移动。点716位于区域714的左下处。
根据本发明,条带的尺寸由构成镶嵌图的最小值x和最大值y决定。输出的条带被初始化成背景颜色。第一个镶嵌图被转移到所述条带。之后处理下一个镶嵌图(沿着航迹)。针对每个颜色通道单独地关联新的镶嵌图与第一个镶嵌图的交叠区的亮度值。新的镶嵌图被分成与构成该镶嵌图的初始输入图像对应的数个片段。为新的镶嵌图创建包括数个掩模元素的掩模矩阵。掩模元素包含新的镶嵌图中的对应像素的相关矩阵。掩模中的所有元素被初始化为1。掩模的大小可被限制成仅为新的镶嵌图的过渡区。针对中心片段计算相关矩阵。处理对应于中心片段的掩模区域。在交叠区的边缘的各个元素的值被设定为相关向量。随后,顺着条带逐渐离开第一镶嵌图,相关矩阵的元素被增大或者被减小(不论它们分别是小于1还是大于1),直到它们在预定的过渡距离变成1为止。随后类似地处理与邻接中心片段的片段对应的掩模的区域。然而,由第一镶嵌图与新图像的中心片段和邻接片段形成的区域714需要特殊的处理。由于邻接片段的相关矩阵可能不同于中心片段的相关矩阵,因此在交叠区714中的两个片段与第一镶嵌图的边界处可能出现接缝。因此,该角落受两个片段的相关矩阵的影响。对于到与中心片段的边界的距离为x且到交叠边缘的距离为y的掩模单元A来说,其相关矩阵是这两个片段的如下评估的距离加权平均值:
对于区域714中的到中心片段的边界的距离为x的像素A(x,y),其均衡值被计算为利用这两个片段计算的值的距离加权平均值;
V1是基于片段704的均衡RGB向量;
V2是基于片段708的均衡RGB向量;
V'是组合(最终)的均衡RGB向量
V'=((d-x)/d).V1+(x/d).V2;
其中
x轴是通过交叠区的底部的直线;
y轴是通过片段704和708之间的交叠区的左侧的直线;
h是过渡宽度;以及
d是片段704和片段708之间的交叠区的宽度。
类似地计算与其他邻接片段对应的掩模区。
此外,根据本发明,应用了色彩保真(即,白平衡)滤镜。这将R分量和B分量乘以可确定的因子,以增强色彩保真性。该因子可以通过校准相机和透镜来确定。色彩保真滤镜确保图像中的色彩保持其逼真度,和人眼直接感知的一样。在图像捕获设备中,红色、绿色和蓝色受光元件可以对于它们应该捕获的颜色具有不同的灵敏度。应用了捕获白色对象的图像的“白平衡”处理。理论上,该白色对象的图像中的像素应具有相同的R、G和B值。然而事实上,由于不同的灵敏度和其他因素,每个R、G和B的平均颜色值可能分别为avgR、avgG和avgB。为了均衡颜色分量,将像素的R、G和B值乘以以下比值:
R值被乘以比值avgG/avgR;以及
B值被乘以比值avgG/avgB。
最终结果是白色物体的图像被设定成具有相同的R、G、B分量。
在多数应用中,条带通常覆盖较大面积的非水表面。从而,异常物如高反射表面不太可能扭曲条带的平均亮度。本发明提供亮度归一化模块,亮度归一化模块使每个条带的平均亮度归一化,以使平均值和标准偏差具有期望的值。例如,为127的平均值是摄影测量法中的范数。为51的标准偏差有助于使亮度值分布在对图像特征的视觉感知的最佳范围内。每个条带可以在不同的照明条件下获得,因此,可以具有不同的成像数据配置文件(即,平均亮度和标准偏差)。该模块使条带归一化,以使所有条带具有相同的平均值和标准偏差。这使条带能够被拼接在一起,而没有明显的接缝。
这种亮度归一化包括针对每个通道R、G和B以及针对所有通道计算平均亮度。随后计算总的标准偏差。每个像素的每个R、G和B值被变换成新的平均数和标准偏差:
新值=新的平均数+(旧值-旧的平均数)*(新的标准偏差/旧的标准偏差)。
之后,组合多个相邻的条带以产生所关注区域的平铺镶嵌图。完成的平铺图可以对应于USGS方阵或者四方阵。将条带拼接成镶嵌图类似于将镶嵌图拼接在一起产生条带,现在条带起镶嵌图的作用。如果该接缝线穿过高架结构如建筑物、桥梁等,则在两个条带之间的接缝线处会出现问题。摄影测量法中的这个经典问题起因于从两个不同的视角观看的相同物体引起的视差。例如在对建筑物的成像中,一个条带可呈现从建筑物的一侧看的视图,而另一个条带呈现从建筑物的另一侧看的视图。在将图像拼接在一起之后,所得到的镶嵌图可能看起来像圆锥形帐蓬。为了解决这个问题,可以实现地形引导的镶嵌处理,以引导接缝线的放置。例如,可以处理和图像数据一起采集的或者从图像数据分析的LIDAR或者DEM数据,以便在把图像镶嵌在一起时确定图像的配置和形状。因此,在一些镶嵌的图像中,接缝线可能不是直线,而是包括来回曲折以迂回通过高架结构的接缝线。
现在参见图8,示出了根据如上所述的本发明的成像处理800的一个实施方式。处理800从一个或者更个原始采集图像的序列802开始。随后通过白平衡处理804处理图像802,把它们变换成一系列的中间图像。随后通过防虚光功能806处理序列802,之后前进到正射校正处理808。如前所述,正射校正依赖于来自成像传感器系统或平台的位置和姿态数据810,而且依赖于DTM数据812。DTM数据812可以由位置数据810以及由例如USGS DTM数据814或LIDAR数据816产生。序列802现在被正射校正,然后处理继续进行色彩平衡818。在色彩平衡之后,序列802被镶嵌模块820转换成复合图像822。在该转换过程中,模块820进行镶嵌处理和羽化处理。现在,在步骤824中,通过使用梯度的镶嵌和羽化,一个或更多个复合图像822被进一步组合成图像条带826。通过亮度归一化828处理图像条带。然后通过再次使用梯度的镶嵌和羽化,在步骤830中将现在归一化的条带828镶嵌在一起,绘制出最终的平铺镶嵌图832。在步骤830中进行的镶嵌可包括取决于DTM数据812或LIDAR数据816的地形引导的镶嵌。
图9图解地示出了可如何对齐利用相机阵列组件拍摄的照片以获得单帧。本实施方式利用来自5个相机的正射校正的数据,表示从运载工具俯视的照片模式图示。
图10是根据本发明的某些实施方式的处理逻辑的框图。如框图1000中所示,处理逻辑接受一个或更多个输入,其可以包括高程测量结果1002、姿态测量结果1004和/或照片和传感器影像1006。如在方框1008中所示,可以在分析之前,使某些输入通过初始处理步骤,其中使姿态测量结果与来自地面控制点的数据结合。可以结合高程测量结果1002和姿态测量结果1004,以产生处理后的高程数据1010。处理后的高程数据1010随后可被用于产生高程DEM 1014和DTM 1016。类似地,可以使姿态测量结果1006与照片和传感器影像1006结合,以产生地理坐标参考的图像1012,图像1012随后经历图像处理1018,图像处理1018可以包括色彩平衡和梯度滤波。
取决于要使用的数据集(1020),使DTM 1016或USGS DEM 1022与处理后的图像1018结合以产生正射校正的影像1024。正射校正的影像1024随后被馈入到自锁航线1026。随后进行均衡投影镶嵌1028,以产生最终的照片输出1030。
本发明可以使用如在图3A-3E、图22A-22B和图23中所描绘的相机阵列来捕获正射和/或倾斜图像数据,并且可以将所述图像数据与姿态和位置测量结果合并,以创建三维图像(即,三维点云)或数字高程模型(DEM)。如上所讨论的,所述三维点云或DEM是包括人造结构的地面的表示。可以使用立体摄影技术根据图像数据来计算三维点云或DEM,或者可替代地,可以由LIDAR或现有的DEM直接提供3D点云或DEM。可以根据来自在时间上交叠的单个相机的任何交叠图像数据或者根据来自在空间和/或时间上交叠的任意两个相机的交叠图像数据来计算3D点云或DEM。可以使用标准摄影测量技术对交叠图像的序列进行正射校正,以产生正射地图,在正射地图中,每个像素如上所述具有唯一的纬度和经度坐标,并且具有唯一的高程坐标。
如在图24中所描绘的那样,为了计算对象的高程,需要使正射和/或倾斜图像(即立体图像)交叠,以确定立体视差并创建立体/三维视图。可以从在时间上交叠的单个相机或者从在空间和/或时间上交叠的任何两个相机获得交叠图像。图24描绘了在两个不同的时间从倾斜相机阵列获得的交叠倾斜图像的序列。虽然示出了图24的相机阵列组件,但是也可以使用其他的正射和/或倾斜相机阵列组件。图像区域2402与图像区域2404的邻接边界应略微交叠。在一个实施方式中,图像区域2402与图像区域2404的邻接边界交叠介于约1%与约100%之间。在另一实施方式中,图像区域2402与图像区域2404的邻接边界交叠介于约20%至约70%之间。在又一实施方式中,图像区域2402与图像区域2404的邻接边界交叠介于约50%与约70%之间。在另一实施方式中,侧边交叠区域2406交叠介于约20%与约30%之间,且前向交叠区域2408交叠介于约50%至约70%之间。
可以使用标准立体摄影技术根据交叠的正射和/或倾斜图像来计算对象的高程,或者可替代地,可以从如下所述的LIDAR或预先存在的DEM直接获得对象的高程。如图25所示,使用直接计算技术或空中三角测量技术(例如,左上和右下(UL-LR)和右上和左下(UR-LL))来定位每个图像的主点(例如,图像2402的主点2502),其中,直接计算技术用于在由AMU校正横摆、俯仰和滚转之后确定虚拟角可靠坐标。类似地定位共轭主点,其为相邻图像的主点。对准倾斜图像的序列使得主点和共轭主点在一直线上。在主点与共轭主点之间的线是航迹(或轨迹)。
图像中心投影产生图像位移,其中对象从其正确位置被移位或移动。投影差(relief displacement)是由对象距特定地平面的相对高度差而产生。在指定地平面之上或之下延伸的所有的对象将呈现出与对象的高度成比例的图像差。对象越高,则投影差越大。高的对象甚至可以因大的海拔而呈现出图像差。
径向位移是由对象距主点的相对距离差而产生的。远离于主点的所有对象将呈现出与对象距该主点的距离成比例的径向差。距离越大,则径向位移越大。
立体视差是由于从不同的视点沿航迹捕获同一对象的图像而产生的。可以使用立体视差来计算对象的高程:
h=(H')*dP/(P+dP)
其中
h是对象的海拔高度
H'是飞行高度;
dP是差分视差;
P是平均图像底边长度。
可替代地,可以使用交叠倾斜图像来计算对象的高程:
h=d*(H')/r
其中
h是对象的海拔高度;
H'为可通过代表分数乘以相机的焦距而获得的飞行高度;
d为对象的从基部到顶部的长度;以及
r是从主点到对象的顶部的距离。
本发明可以采用一定程度的横向过采样来提高输出质量。图11是根据本发明的某些实施方式的从运载工具俯视的横向过采样模式1100的图示,显示出最小的横向过采样。在该图示中,分配给中央相机的中央天底区1102仅仅稍微与左天底区1104和右天底区1106交叠,以使交叠降至最小。图12是根据本发明的某些实施方式的从运载工具俯视的横向过采样模式1200的图示,显示出更大程度的横向过采样。在该图示中,中央天底区1202显示与左天底区1204和右天底区1206的较大程度的交叠。
除了如图11和12中所示的横向过采样的使用之外,本发明也可以采用航线过采样。图13是根据本发明的某些实施方式的从运载工具俯视的航线过采样模式1300的图示,显示出一定程度的航线过采样,但非最小的横向过采样。中央天底区1302和1304沿着航线相互交叠,但是没有与左天底区1306和1308或者与右天底区1310和1312横向交叠。
图14是根据本发明的某些实施方式的从运载工具俯视的航线过采样的图示,显示出相当大的航线过采样以及相当大的横向过采样。可以看出中央天底区1402至1406中的每个相互较大地交叠,并且与左天底区1408至1412和右天底区1414至1418较大地交叠。左天底区1408至1412相互交叠,右天底区1414至1418也相互交叠。因而,该表面上的每个点被采样至少两次,在一些情况下多达四次。这种技术使用下述事实:在由不同的相机传感器覆盖两次或者更多次的图像的区域中,沿横向(跨航迹)方向和航线(沿航迹)方向可以使图像分辨率加倍以使分辨率整体提高四倍。实践中,图像/传感器分辨率的改善在每个维度稍微小于两倍,在每个维度近似40%,或者说1.4×1.4=~2倍。这归因于子像素对准/方位的统计变化。实际上,像素网格离覆盖的像素网格的距离很少完全相等。如果做出子像素级的严格精确的横向相机传感器对准,则可以实现图像分辨率的四倍提高。
图15是根据本发明的某些实施方式的从运载工具俯视的渐次放大模式1500的图示。中央天底区1502的左右边缘分别由左侧内部天底区1504和右侧内部天底区1506限制。左侧内部天底区1504的左边缘由左侧外部天底区1508限制,而右侧内部天底区1506的右边缘由右侧外部天底区1510限制。注意,这些区域表现出彼此之间的最小程度的交叠和过采样。
图16是根据本发明的某些实施方式的从运载工具俯视的渐次放大模式1600的图示。中央天底区1602的左右边缘分别由左侧内部天底区1604和右侧内部天底区1606限制。左侧内部天底区1604的左边缘由左侧外部天底区1608限制,而右侧内部天底区1606的右边缘由右侧外部天底区1610限制。注意,如上所述,这些区域表现出彼此之间的最小程度的交叠和过采样。在天底区1604至1610中的每个内,存在用灰色阴影表示的中央图像区1614至1620。
图17是根据本发明的某些实施方式的从运载工具俯视的渐次放大模式1700的图示。在模式1700的中心,左内天底区1702和右内天底区1704在中央交叠。左中天底区1706和右中天底区1708分别被部分布置在区域1702和1704之外,均与相应的相邻区域共享大约50%的交叠区域。左外天底区1710和右外天底区1712分别被部分布置在区域1706和1708之外,均与相应的相邻区域共享大约50%的交叠区域。中央图像区1714被布置在模式1700的中央,由天底区1702至1712的中心部分组成。
图18描绘了根据本发明的某些实施方式的系统1800的体系结构的示意图。系统1800可以包括一个或更多个GPS卫星1802和一个或更多个SATCOM卫星1804。还可以包括一个或更多个GPS定位系统1806,所述一个或更多个GPS定位系统1806可行地连接到一个或更多个模块1808,所述一个或更多个模块1808采集LIDAR、GPS和/或X、Y、Z位置数据,然后把这样的信息提供给一个或更多个数据捕获系统应用1812。一个或更多个数据捕获系统应用1812还可接收来自相机阵列1822的光谱数据。DGPS 1810可以通过无线通信链路1826与一个或更多个SATCOM卫星1804通信。一个或更多个SATCOM卫星1804又可与一个或更多个数据捕获系统应用1812通信。
一个或更多个数据捕获系统应用1812可以与自动驾驶仪1816、SSD和/或实时StichG系统1820对接,自动驾驶仪1816、SSD和/或实时StichG系统1820也可以彼此相互作用。SSD 1814可以可行地连接到实时DEM1818。最后,实时DEM 1818和实时StitchG 1820可以连接到诸如磁盘阵列1824的存储装置。
本发明可以采用一定程度的联合安装联合配准过采样来克服物理像素分辨率限制。这些联合安装联合配准过采样技术同样适用于跨轨道相机阵列或沿轨道相机阵列或其任意组合。图19是根据本发明的某些实施方式的从运载工具俯视的单个相机阵列112的横向联合安装联合配准的过采样配置1900的图示,显示了最小的横向过采样。相机在垂直的旁向交叠区1904和1908中交叠几度。虽然图19描绘了3相机阵列,然而当利用从2个到任意数目的校准相机的任意数量的相机传感器时,这些子像素校准技术同样适用。
类似于图3和图4中的成像传感器,相机传感器可被联合配准,以校准每个传感器相对于彼此和/或相对于天底点相机的物理安装角偏移。这提供了初始的“近似”校准。这些初始校准参数可以被输入系统100中的机载计算机系统104中,并可以使用过采样技术在飞行期间更新。
现在参见图19,矩形A、B和C代表来自3相机阵列C-B-A(未示出)的图像区1902、1906和1910。从俯视图示出分别由相机A至C(未示出)拍摄的区域1902、1906和1910的图像。再次,类似于图3和图4,由于“斜视”布置的缘故,区域1902的图像由右相机A拍摄,区域1906的图像由中央/天底点相机B拍摄,区域1910的图像由左相机C拍摄。相机A至C形成了在多数应用中垂直向下指向的阵列(未示出)。
在图19中,标记为A/B和B/C旁向交叠的阴影区分别代表图像交叠区1904和1908。左图像交叠区1904是右相机A与中央/天底点相机B交叠的地方,右图像交叠区1908是左相机C与中央/天底点相机B交叠的地方。在这些旁向交叠区1904和1908中,相机传感器网格平分交叠区1904和1908中的每个像素,这有效地借助联合安装联合配准过采样的机制使这些区域1904和1908中的图像分辨率变成四倍。实际上,图像/传感器分辨率的改善在每个维度被加倍,或者说变成2×2=4倍。图像分辨率的这种四倍提高还使相邻相机之间的对准精度变成四倍。
此外,相邻相机之间的对准精度的这种四倍提高改善了固定到刚性安装板的所有传感器的系统100对准精度。如上所述,相机和传感器被固定到刚性安装单元上,刚性安装单元被固定到刚性安装板上。具体地,当固定到刚性安装单元的相邻相机的角度对准被改善时,其他传感器的角度对准也被提高。固定到刚性安装板的其他传感器的对准精度的这种提高也改善了这些传感器的图像分辨率。
图20中示出了关于两个交叠的相机阵列112的横向联合安装联合配准过采样配置2000。这些子像素校准技术同样适用于跨轨道相机阵列、沿轨道相机阵列或其任意组合。具体地,图20是根据本发明的某些实施方式的从运载工具俯视的两个交叠相机阵列112的横向联合安装联合配准过采样配置2000的图示,显示了最大的横向过采样。相邻的相机在垂直的旁向交叠区2006、2008、2014和2016中交叠几度,对应的相机在图像区2002、2010、2018和2004、2012、2020中完全交叠。虽然图20描绘两个3相机阵列,然而当利用具有从2个到任意数目的被校准相机的任意数量的相机传感器的两个交叠的相机阵列时,这些子像素校准技术同样适用。
类似于图3和图4中的成像传感器,相机传感器可被联合配准,以校准每个传感器相对于彼此和/或相对于天底点相机的物理安装角偏移。在本实施方式中,多个即至少两个刚性安装单元被固定到刚性安装板,并被联合配准。这提供了初始的“近似”校准。这些初始校准参数可被输入系统100中的机载计算机系统104中,并可以在飞行期间更新。
现在参见图20,标记为A、B和C的矩形分别代表来自两个交叠的3-相机阵列C-B-A(未示出)的图像区2002、2010、2018和2004、2012、2020。从俯视图示出了分别由相机A至C(未示出)和交叠的相机A'至C'(未示出)拍摄的区域2002、2010、2018和2004、2012、2020的图像。再次,类似于图3和图4,由于“斜视”布置的缘故,区域2002的图像由右相机A拍摄,区域2010的图像由中央/天底点相机B拍摄,区域2018的图像由左相机C拍摄。此外,区域2004的图像由右相机A'拍摄,区域2012的图像由中央相机B'拍摄,区域2020的图像由左相机C'拍摄。相机A至C和交叠的相机A'至C'形成在多数应用中垂直向下指向的阵列(未示出)。
在图20中,标记为A/B和B/C旁向交叠的阴影区分别代表两个交叠的图像交叠区2006、2008以及2014、2016。左图像交叠区2006、2008分别是右相机A与中央/天底点相机B交叠的地方和右相机A'与中央相机B'交叠的地方。右图像交叠区2014、2016是左相机C与中央/天底点相机B交叠的地方和左相机C'与中央相机B'交叠的地方。在这些旁向交叠区2006、2008以及2014、2016中,相机传感器网格平分交叠区2006、2008和2014、2016中的每个像素,这有效地借助联合安装联合配准过采样的机制使这些区域2006、2008和2014、2016中的图像分辨率变成四倍。实际上,图像/传感器分辨率的改善在每个维度被加倍,或者说变成2×2=4倍。如上所述,图像分辨率的这种四倍提高使相邻相机之间的对准精度变成四倍。
通过具有两个交叠的相机阵列,对于交叠的旁向交叠的交叠区2006、2008和2014、2016,图像分辨率事实上被再次变成四倍。这在系统100校准和相机对准方面,产生令人震惊的总共64倍的改进。
在交叠的旁向交叠区2006和2008中,交叠的相机传感器网格平分旁向交叠区2006和2008中的每个像素,这有效地借助联合安装联合配准过采样的机制,使这些区域2006和2008中的图像分辨率变成四倍。类似地,在交叠的旁向交叠区2014和2016中,交叠的相机传感器网格平分旁向交叠区2014和2016中的每个像素,这有效地使这些区域2014和2016中的图像分辨率变成四倍。实际上,图像/传感器分辨率的改进再次在每个维度被加倍,或者说变成2×2×2×2×2×2=64倍。图像分辨率的这种总共64倍改进还使相邻相机之间的对准精度提高64倍。
相邻和对应相机之间的对准精度的这种64倍改进提高了固定到刚性安装板的所有传感器的系统100对准精度。相机A至C以及可选地其他传感器被固定到第一刚性安装单元,相机A'至C'以及可选地其他传感器被固定到第二刚性安装单元,第一和第二刚性安装单元都被固定到刚性安装板。具体地,当固定到第一和/或第二刚性安装单元的相邻和/或对应相机的角度对准得到改善时,其他传感器的角度对准也得到提高。固定到刚性安装板的其他传感器的对准精度的这种提高也改善了这些传感器的图像分辨率。
通过具有两个交叠的相机阵列,对于整个图像而不仅仅对于A/B和B/C旁向交叠的交叠区,有效地使图像分辨率变成四倍。现在参见图20,标记为“交叠网格4×”的交叠网格细节分别代表右图像区2018和2020中的交叠区2022和2024。在交叠区2022和2024中,交叠的相机传感器网格平分交叠区2022和2024中的每个像素,这有效地借助联合安装联合配准过采样的机制,使这些区域2022和2024中的图像分辨率变成四倍。实际上,图像分辨率的改善在每个维度被加倍,或者说变成2×2=4倍。
在一个优选实施方式中,一个相机阵列是单色的,而另一个相机阵列是红-绿-蓝的。虽然每个阵列覆盖不同的色带,但可以使用简单的图像处理技术使得所有色带实现分辨率增大的益处。这些技术提供的另一个优点在于:在一个相机阵列是红-绿-蓝,而另一个交叠的相机阵列是红外或近红外(或者某个其他带宽)的情况下,从而产生了高品质的多光谱图像。
因而,对于上面讨论的图19的实施方式确认的所有改进(即,4倍)适应于图20的实施方式,然而,通过两个交叠的相机阵列,可以实现对系统100校准精度和总体图像分辨率的额外显著提高(即,64倍)。
图21是根据本发明的某些实施方式的从运载工具俯视的两个相机阵列112的前向和横向联合安装联合配准过采样配置2100的图示。具体地,图21是根据本发明的某些实施方式的从运载工具俯视的两个交叠相机阵列112的前向和横向联合安装联合配准过采样配置2100的图示,显示了最小前向和最小横向过采样。相邻相机在垂直的旁向交叠区2104、2108、2124和2128中交叠几度,对应的相机沿着水平前向交叠区2112、2116和2120交叠几度。虽然图21描绘了两个3相机阵列,然而,当利用具有从2个到任意数目的被校准相机的任意数量相机传感器的两个交叠的相机阵列时,这些子像素校准技术同样适用。
与图3和图4中的成像传感器类似,相机传感器可被联合配准,以校准每个传感器相对于彼此和/或相对于天底点相机的物理安装角偏移。在本实施方式中,多个即至少两个刚性安装单元被固定到刚性安装板上,并被联合配准。这提供了初始的“近似”校准。这些初始校准参数可被输入系统100中的机载计算机系统104中,并可以在飞行期间更新。
现在参见图21,标记为A、B和C的矩形分别代表来自3相机阵列C-B-A(未示出)的图像区2102、2106和2110,矩形D、E和F分别代表来自3相机阵列F-E-D(未示出)的图像区2122、2126和2130。图中俯视地示出了分别利用相机A至C(未示出)拍摄的区域2102、2106和2110的图像,和利用相机D至F(未示出)拍摄的区域2122、2126和2130的图像。再次,类似于图3和图4,由于“斜视”布置的缘故,区域2102的左后图像由右后相机A拍摄,区域2106的中后图像由后面的中央/天底点相机B拍摄,区域2110的右后图像由左后相机C拍摄。此外,区域2122的左前图像由右前相机D拍摄,区域2126的中前图像由前面的中央相机E拍摄,区域2020的右前图像由左前相机F拍摄。相机A至C和交叠的相机D至F形成在多数应用中垂直向下指向的阵列(未示出)。
在图21中,垂直阴影区代表4个图像交叠区2104、2108、2124和2128。左后图像交叠区2104是右后相机A与中央/天底点相机B交叠的地方,右后图像交叠区2108是左后相机C与中央/天底点相机B交叠的地方。左前图像交叠区2124是右前相机D与中央/天底点相机E交叠的地方,右前图像交叠区2128是左前相机F与中央相机E交叠的地方。
现在参见图21,标记为“旁向交叠区4:1”的交叠网格细节代表交叠的旁向交叠的交叠区2104、2108以及2124、2128。在这些旁向交叠的交叠区2104、2108以及2124、2128中,相机传感器网络平分交叠区2104、2108、2124和2128中的每个像素,这有效地借助联合安装联合配准过采样的机制,使这些区域2104、2108、2124和2128中的图像分辨率变成四倍。事实上,图像/传感器分辨率的改善在每个维度被加倍,或者说变成2×2=4倍。如上所述,图像分辨率的这种四倍提高使相邻相机之间的对准精度变成四倍。
相邻相机之间的对准精度的这种四倍提高改善了固定到刚性安装板的所有传感器的系统100对准精度。相机A至C以及可选地其他传感器被固定到第一刚性安装单元,相机D至F以及可选地其他传感器被固定到第二刚性安装单元,第一和第二刚性安装单元都被固定到刚性安装板。具体地,当固定到第一或第二刚性安装单元的相邻相机的角度对准得到改善时,固定到安装单元的其他传感器的角度对准也得到提高。固定到刚性安装板的其他传感器的对准精度的这种提高还改善了这些传感器的图像分辨率。
类似地,水平阴影区代表3个图像交叠区2112、2116和2120。左前图像交叠区2112是右后相机A与右前相机D交叠的地方,中前图像交叠区2116是后面的中央/天底点相机B与中前相机E交叠的地方,右后图像交叠区2120是左后相机C与左前相机F交叠的地方。
现在参见图21,标记为“前向交叠区4:1”的交叠网格细节表示交叠的前向交叠的交叠区2112、2116和2120。在这些前向交叠的交叠区2112、2116和2120中,相机传感器网格平分交叠区2112、2116和2120中的每个像素,这有效地借助联合安装联合配准过采样的机制,使这些区域2112、2116和2120中的图像分辨率变成四倍。事实上,图像/传感器分辨率的改善在每个维度被加倍,或者说变成2×2=4倍。图像分辨率的这种四倍提高使对应相机之间的对准精度变成四倍。
对应相机之间的对准精度的这种四倍提高改善了固定到刚性安装板的所有传感器的系统100对准精度。相机A至C以及可选地其他传感器固定到第一刚性安装单元,相机D至F以及可选地其他传感器被固定到第二刚性安装单元,第一和第二刚性安装单元都被固定到刚性安装板。具体地,当固定到第一或第二刚性安装单元的对应相机的角度对准得到改善时,其他传感器的角度对准也得到提高。固定到刚性安装板的其他传感器的对准精度的这种提高还改善了这些传感器的图像分辨率。
类似于图20中的交叠的旁向交叠的交叠区2006、2008以及2014、2016,图21中的相交的前向交叠和旁向交叠的交叠区2114和2118在系统校准和相机对准方面,产生令人震惊的总共64倍改进。现在参见图21,标记为“四重交叠区64:1”的相交网格细节代表相交的前向交叠和旁向交叠的交叠区2118。在相交的前向交叠和旁向交叠的交叠区2114和2118中,交叠的相机传感器网格平分相交的区域2114和2118中的每个像素,这有效地借助联合安装联合配准的过采样的机制,使这些区域2114和2118中的图像分辨率变成四倍。事实上,图像/传感器分辨率的改善仍然在每个维度被加倍,或者说变成2×2×2×2×2×2=64倍。图像分辨率的这种总共64倍改进还使相邻相机之间的对准精度提高64倍。
相邻对应相机之间的对准精度的这种64倍改进提高了固定到刚性安装板的所有传感器的系统100对准精度。相机A至C以及可选地其他传感器被固定到第一刚性安装单元,相机D至E以及可选地其他传感器被固定到第二刚性安装单元,第一和第二刚性安装单元都被固定到刚性安装板。具体地,当固定到第一和/或第二刚性安装单元的相邻和/或对应相机的角度对准得到改善时,其他传感器的角度对准也得到提高。固定到刚性安装板的其他传感器的对准角度的这种提高也改善了这些传感器的图像分辨率。
在优选实施方式中,一个相机阵列是单色的,另一个相机阵列是红-绿-蓝的。虽然每个阵列覆盖不同的色带,但可以使用简单的图像处理技术使得所有色带实现分辨率增大的益处。这些技术提供的另一个优点在于:在一个相机阵列是红-绿-蓝,而另一个交叠的相机阵列是红外或近红外(或者某个其他带宽)的情况下,从而产生了高品质的多光谱图像。
如图19-21中所示,这些技术可用于克服由于光学玻璃不能解析“非常小的”物体而对相机系统产生的分辨率极限。如上所述,这些技术同样适用于跨轨道相机阵列、沿轨道相机阵列或其任意组合。具体地,相机透镜中的光学玻璃解析极小物体的能力存在已知物理极限。这通常被称为“玻璃的解析极限”。例如,如果从10000英尺的海拔高度要求1毫米像素,那么会要求使用放大率极高的望远镜头,以获得约100英尺的地面覆盖宽度。这是因为不论电荷耦合器件传感器能够产生多少像素(例如,十亿像素),在10000英尺的海拔高度,最纯净的玻璃的解析能力也不允许达到1毫米像素的图像分辨率。本例用于清楚地说明存在关于玻璃的像素分辨率的物理极限,以及关于成像传感器的像素密度极限。
固定到刚性安装板的刚性安装单元中的系统100成像传感器对准和相关的校准技术提供对这种问题的独特解决方案,如上所述。通过利用这些技术,能够有效地克服玻璃的解析极限。例如,单个相机阵列产生1倍(或者没有)过采样的益处。然而,两个交叠的相机阵列在图像分辨率方面以及整体地理空间水平和垂直精度方面产生4倍的总体改进。此外,3个交叠的相机阵列结果产生16倍的整体改进,4个交叠的相机阵列结果产生64倍的整体改进,依次类推。
从这些例子可以推导出,关于整体改进的等式如下所示:
整体改进=4N
其中N是交叠相机阵列的数目。
如果存在4个相机阵列,那么存在3个交叠的相机阵列(即,N=3)。因而,4个相机阵列提供图像分辨率以及整体地理空间水平和垂直精度方面的64倍整体改进(即,43=64倍)。
此外,这些子像素校准技术可以与如在美国专利申请公布No.2004/0054488A1,即现在的美国专利No.7,212,938B2中公开的自锁航迹技术结合,该专利的公开内容在此整体引为参考。
除了如图19-21中所示的前向和/或横向联合安装联合配准过采样之外,本发明也可采用航线过采样来进一步提高图像分辨率,如图13-17中所示。这些航线过采样技术同样适用于跨轨道相机阵列、沿轨道相机阵列或其组合。如图13-17中所示,在图像区域中航线相互交叠,因为每条航线相互平行。这些交叠的图像区域可用于利用立体摄影技术通过相邻航线中的图像的沿航迹和跨航迹视差来校准传感器。
在一个实施方式中,自锁航迹可以包括在一组3条或者更多的行进路线中产生至少3条大体平行的行进路线的任何模式。此外,行进路线中的至少一条应在与其他大体平行的行进路线相反的方向上。在优选实施方式中,行进模式包括匹配方向的至少一对行进路线和相反方向的至少一对行进路线。
当使用方向相反的自锁航迹时,在一些图像区域中,可观察的位置误差会被加倍。因而,自锁航线技术包括显著降低这些位置误差的算法。在其中发生最大的位置误差的外图像区域、或最左“翼”和最右“翼”图像区中,位置误差的这种降低尤其重要。
在一个实施方式中,可以通过利用自动匹配从航线(例如,北/南)获得的像素模式区和从相邻航线(例如,北/南)获得的相同像素模式区的模式匹配技术来实现这些位置改进。在一个优选实施方式中,来自一个或更多个GPS定位系统的纬度/经度坐标可用于加速该模式匹配处理。
类似地,这些子像素校准和自锁航迹技术可以与立体摄影技术结合,因为立体摄影技术极其依赖于每个像素相对于所有其他像素的位置精度。具体地,这些技术提高了立体摄影图像分辨率以及整体地理水平和垂直精度,尤其是在其中发生最大位置误差的最左“翼”和最右“翼”图像区中。此外,立体摄影技术用于将已知的高程数据与改进的立体摄影数据集进行匹配。因而,组合的子像素校准、自锁航迹和立体摄影技术提供了极大改进的数字高程模型,产生了高品质的图像。
此外,这些子像素校准和自锁航迹技术可用于提供系统100的动态实时校准。具体地,这些技术提供将一个或更多个相机阵列组件112快速“滚装”到系统100上的能力,以立即开始采集目标区域的图像数据并且快速产生高质量图像,因为如上所述,各个传感器已在固定到刚性安装板的一个或多个刚性安装单元中被最初地校准。具体地,相机传感器被联合配准,以校准每个传感器相对于彼此的和/或相对于天底点相机的物理安装角偏移。在一个实施方式中,多个即至少两个刚性安装单元被固定到刚性安装板上并被联合配准。这提供了初始的“近似”校准。如上所述,这些初始校准参数可被输入系统100中的机载计算机系统104中,并可以利用过采样技术在飞行期间更新。
在一个实施方式中,系统100包括实时自校准系统,以更新校准参数。具体地,机载计算机104软件包括实时软件“daemon”(即,后台闭环监控软件),以如上所述利用联合安装联合配准过采样和航线过采样技术,不断监控和更新校准参数。在优选实施方式中,实时daemon结合子像素校准、自锁航迹和立体摄影技术,改进了立体摄影图像分辨率以及整体地理水平和垂直精度。具体地,立体摄影技术被用于将已知的高程数据与改进的立体摄影数据集进行匹配。因而,组合的子像素校准、自锁航迹和立体摄影技术提供了极大改进的数字高程模型,从而产生了高品质的图像。
在一个实施方式中,系统100包括实时GPS数据系统,以提供GPS输入数据。校准精度由来自诸如GPS和IMU的电子装置的输入数据驱动,并且由利用产业标准GPS和IMU软件系统扩充的校准软件驱动。因而,该实时自校准系统的关键要素是经由可能的低带宽通信信道比如卫星电话、蜂窝电话、RF调制解调器等的实时GPS输入数据。实时GPS输入数据的可能来源包括项目控制的自组(ad-hoc)站、固定广播GPS位置(或者类似的)或者借助机载IMU的惯性导航。
除了如图19-21所示的前向和/或横向联合安装联合配准过采样和如图13至图17所示的航线过采样之外,本发明可以采用防振动和等温方法,以进一步降低单个相机内的图像采集误差和两个或更多个相机之间的图像融合误差。例如,图26A和图26B示出了相机的用于提高精度的多级分离实施方式。尽管图26A和图26B描绘了防振动构件和热套筒,然而也可以使用其他防振动和等温的方法。此外,尽管图26A和图26B描绘了以沿轨道斜视的方式配置的具有正射成像传感器和倾斜成像传感器的相机阵列,然而这些防振动和等温技术同样适用于具有正射成像传感器、倾斜成像传感器或其任何组合的其他相机阵列。
在以上讨论的相机阵列组件2600的实施方式中,以沿轨道斜视的方式来布置成像传感器。如在图26A中所描绘的那样,安装单元2604包括在其内部设置有成像传感器2606、2608、2610和2612的简单结构。成像传感器2606至2614被设置在安装单元2604内或沿着安装单元2604中的凹曲线阵列轴2616布置,使得所有传感器的焦轴会聚并且彼此相交在由孔经2620限定的相交区域内。
如在图26B中所描绘的那样,倾斜成像传感器2606具有透镜2628,正射成像传感器2608具有透镜2630,正射成像传感器2610具有透镜2632,倾斜成像传感器具有透镜2634。成像传感器和透镜组件的振动可引起由于各个部件的对准变动而产生的振动误差。此外,成像传感器和透镜组件的热膨胀和收缩可引起由于温度梯度而产生的热误差。为了减少这些振动误差和热误差,可以围绕每个透镜放置振动/热套筒以及/或者可以使用振动构件来固定每个透镜。图26A和图26B描绘了分别用于倾斜成像传感器2606和正射成像传感器2608的防振动/等温套筒2622和2624。防振动/等温套筒2622和2624可以取决于应用的具体要求而相同或不同。防振动/等温套筒可以由能够对透镜进行振动阻尼和/或热隔离的任何材料制成。
为了进一步减少振动误差,可以如在图26A中所绘的那样将每个透镜固定到防振动构件2626。图26B示出了分别用于倾斜成像传感器2606和正射成像传感器2608的防振动附接构件2636和2638。防振动附接构件2636和2638可以取决于应用的具体要求而相同或不同。防振动附接构件可以由能够对透镜进行振动阻尼和/或热隔离的任何材料制成。
在图像采集期间,使用联合安装联合配准过采样技术、子像素校准技术、航线过采样技术、防振动技术、等温技术或者其任何组合,能够以相同的精度融合从多个相机或成像传感器所获得的图像,就好像图像是从单个相机或成像传感器获得的一样。在一个优选的实施方案中,该增强的度量精度创建了虚拟帧。
上面描述的模块、算法和处理可以用各种技术和配置来实现。本发明的实施方式可包括软件或硬件的功能实例或其组合。此外,本发明的模块和处理可以一起组合在单个功能实例(例如,一个软件程序)中,或者可以包括工作上关联的独立功能装置(例如,多个连网的处理器/存储块)。本发明包括所有这样的实现方式。
为了更好地解释本发明及其实际应用,从而使本领域技术人员能够做出和利用本发明,给出了这里陈述的实施方式和例子。然而,本领域的技术人员要认识到上述说明和例子只是出于举例说明的目的给出的。所做出的说明并非意在穷举或将本发明局限于所公开的明确形式。根据以上教示,可以在不脱离所附权利要求的精神和范围的情况下做出许多修改和变化。
Claims (30)
1.一种用于生成目标区域的地图的系统,包括:
全球位置接收器;
高程测量单元,所述高程测量单元能够适应地安装到运载工具或平台;
全球定位天线,所述全球定位天线能够适应地安装到所述运载工具或所述平台;
姿态测量单元,所述姿态测量单元能够适应地安装到所述运载工具或所述平台;
成像传感器系统,所述成像传感器系统能够适应地安装到所述运载工具或所述平台,所述成像传感器系统具有所述目标区域的视域,所述成像传感器系统包括:
安装单元,在所述安装单元中布置有至少三个成像传感器,其中,第一成像传感器、第二成像传感器和第三成像传感器都具有穿过所述安装单元中的孔的焦轴,其中,所述第一成像传感器生成所述目标区域的包括第一像素数据阵列的第一图像区,所述第二成像传感器生成所述目标区域的包括第二像素数据阵列的第二图像区,所述第三成像传感器生成所述目标区域的包括第三像素数据阵列的第三图像区,其中,所述第二成像传感器以跨轨道斜视的方式沿第一阵列轴从所述第一成像传感器偏移,以在所述目标区域具有第一图像交叠区,其中,所述第三成像传感器沿所述第一阵列轴与所述第二成像传感器相对地从所述第一成像传感器偏移;以及
计算机,所述计算机与所述高程测量单元、所述全球定位天线、所述姿态测量单元、所述第一成像传感器、所述第二成像传感器以及所述第三成像传感器通信;所述计算机基于来自所述高程测量单元、所述全球定位天线和所述姿态测量单元中的一个或更多个的输入,使来自所述第一成像传感器、所述第二成像传感器和所述第三成像传感器的图像区的至少一部分与所述目标区域的一部分关联。
2.根据权利要求1所述的系统,其中,来自所述第一成像传感器、所述第二成像传感器和所述第三成像传感器的图像高程的至少一部分基于来自根据交叠图像数据的立体摄影计算、LIDAR数据或数字高程模型中的一个或更多个的输入而与目标高程的一部分关联。
3.根据权利要求1所述的系统,还包括:
固定到所述安装单元的防振动构件,在所述防振动构件内布置有所述至少三个成像传感器,其中,所述第一成像传感器、所述第二成像传感器和所述第三成像传感器都具有穿过所述防振动构件中的孔的焦轴,并且每个所述成像传感器具有其自身的透镜,其中,每个所述透镜固定到所述防振动构件。
4.根据权利要求3所述的系统,其中,每个所述透镜被布置在防振动套筒或热套筒内。
5.根据权利要求1所述的系统,还包括:
布置在所述安装单元内的第四成像传感器,其中,所述第四成像传感器具有穿过所述安装单元中的孔的焦轴,其中,所述第四成像传感器生成所述目标区域的包括第四像素数据阵列的第四图像区,其中,所述第四成像传感器沿所述第一阵列轴与所述第三成像传感器相对地从所述第二成像传感器偏移。
6.根据权利要求1所述的系统,还包括:
布置在所述安装单元内的第四成像传感器,其中,所述第四成像传感器具有穿过所述安装单元中的孔的焦轴,其中,所述第四成像传感器生成所述目标区域的包括第四像素数据阵列的第四图像区,其中,所述第四成像传感器以长轨道斜视的方式沿第二阵列轴从所述第一成像传感器偏移;以及
布置在所述安装单元内的第五成像传感器,其中,所述第五成像传感器具有穿过所述安装单元中的孔的焦轴,其中,所述第五成像传感器生成所述目标区域的包括第五像素数据阵列的第五图像区,其中,所述第五成像传感器沿所述第二阵列轴与所述第四成像传感器相对地从所述第一成像传感器偏移,其中,所述第二成像传感器、所述第三成像传感器、所述第四成像传感器和所述第五成像传感器是倾斜成像传感器。
7.根据权利要求1所述的系统,其中,所述第一成像传感器和所述第二成像传感器选自:数字相机、LIDAR、红外传感器、热感传感器和重力计。
8.根据权利要求5所述的系统,其中,所述第三成像传感器和所述第四成像传感器选自:数字相机、LIDAR、红外传感器、热感传感器和重力计。
9.根据权利要求1所述的系统,其中,所述第一图像交叠区介于所述第一图像区和所述第二图像区的约1%与约100%之间。
10.根据权利要求1所述的系统,其中,所述第一图像交叠区介于所述第一图像区和所述第二图像区的约10%与约80%之间。
11.根据权利要求1所述的系统,其中,所述第一图像交叠区介于所述第一图像区和所述第二图像区的约20%与约60%之间。
12.根据权利要求1所述的系统,其中,所述第三成像传感器沿所述第一阵列轴从所述第一成像传感器偏移,以在所述目标区域具有第二图像交叠区,其中,在所述第一图像交叠区中,所述第一传感器图像数据平分所述第二传感器图像数据,其中,在所述第二图像交叠区中,所述第一传感器图像数据平分所述第三传感器图像数据,其中,所述第一图像交叠区为所述第一图像区和所述第二图像区的约100%,其中,所述第二图像交叠区为所述第一图像区和所述第三图像区的约100%。
13.根据权利要求5所述的系统,其中,所述第二成像传感器以沿轨道斜视的方式沿所述第一阵列轴从所述第一成像传感器偏移,其中,在所述第一图像交叠区中,所述第一传感器图像数据平分所述第二传感器图像数据。
14.根据权利要求13所述的系统,其中,来自所述第一成像传感器、所述第二成像传感器和所述第三成像传感器的图像高程的至少一部分基于来自根据交叠图像数据的立体摄影计算、LIDAR数据或数字高程模型中的一个或更多个的输入而与目标高程的一部分关联。
15.根据权利要求13所述的系统,还包括:
固定到所述安装单元的防振动构件,在所述防振动构件内布置有所述至少三个成像传感器,其中,所述第一成像传感器、所述第二成像传感器和所述第三成像传感器都具有穿过所述防振动构件中的孔的焦轴,并且每个所述成像传感器具有其自身的透镜,其中,每个所述透镜固定到所述防振动构件。
16.根据权利要求15所述的系统,其中,每个所述透镜被布置在防振动套筒或热套筒内。
17.根据权利要求13所述的系统,其中,所述第三成像传感器是前斜成像传感器,并且所述第四成像传感器是后斜成像传感器。
18.根据权利要求13所述的系统,其中,所述第一图像交叠区介于所述第一图像区和所述第二图像区的约1%与约100%之间。
19.根据权利要求13所述的系统,其中,所述第一图像交叠区介于所述第一图像区和所述第二图像区的约30%与约95%之间。
20.根据权利要求13所述的系统,其中,所述第一图像交叠区介于所述第一图像区和所述第二图像区的约50%与约90%之间。
21.一种成像传感器系统,包括:
能够适应地安装到运载工具或平台的安装单元,在所述安装单元内布置有第一成像传感器、第二成像传感器、第三成像传感器和第四成像传感器,其中,所述第一成像传感器、所述第二成像传感器、所述第三成像传感器和所述第四成像传感器都具有穿过所述安装单元中的孔的焦轴,其中,所述第一成像传感器生成包括第一像素数据阵列的第一图像区,所述第二成像传感器生成包括第二像素数据阵列的第二图像区,所述第三成像传感器生成包括第三像素数据阵列的第三图像区,所述第四成像传感器生成包括第四像素数据阵列的第四图像区,其中,所述第二成像传感器以沿轨道斜视的方式从所述第一成像传感器偏移,以在所述目标区域具有第一图像交叠区,其中,在所述第一图像交叠区中,所述第一传感器图像数据平分所述第二传感器图像数据。
22.一种用于生成表面的地图的系统,包括:
全球位置接收器;
高程测量单元,所述高程测量单元能够适应地安装到运载工具或平台;
全球定位天线,所述全球定位天线能够适应地安装到所述运载工具或所述平台;
姿态测量单元,所述姿态测量单元能够适应地安装到所述运载工具或所述平台;
成像阵列,所述成像阵列具有所述表面的视域,所述成像阵列包括:
安装单元,所述安装单元能够适应地安装到所述运载工具或所述平台;
孔,所述孔形成在所述安装单元中;
第一成像传感器,所述第一成像传感器耦接到所述安装单元,所述第一成像传感器具有穿过所述孔的第一焦轴,其中,所述第一成像传感器生成所述表面的包括第一像素阵列的第一图像区;以及
第二成像传感器,所述第二成像传感器耦接到所述安装单元并且以长轨道斜视的方式沿阵列轴从所述第一成像传感器偏移,其中,所述第二成像传感器具有穿过所述孔并与所述第一焦轴相交的第二焦轴,其中所述第二成像传感器生成所述表面的包括第二像素阵列的第二图像区;
第三成像传感器,所述第三成像传感器耦接到所述安装单元并且沿阵列轴与所述第二成像传感器相对地从所述第一成像传感器偏移,其中,所述第三成像传感器生成所述表面的包括第三像素阵列的第三图像区,其中,所述第三成像传感器是前斜成像传感器;以及
第四成像传感器,所述第四成像传感器耦接到所述安装单元并且沿所述阵列轴与所述第三成像传感器相对地从所述第二成像传感器偏移,其中,所述第四成像传感器生成所述表面的包括第四像素阵列的第四图像区,其中,所述第四成像传感器是后斜成像传感器;以及
计算机,所述计算机连接到所述高程测量单元、所述全球定位天线、所述姿态测量单元、所述第一成像传感器和所述第二成像传感器;所述计算机基于来自所述高程测量单元、所述全球定位天线和所述姿态测量单元中的一个或更多个的输入,使来自所述第一成像传感器和所述第二成像传感器的图像区的至少一部分与表面区域的一部分关联。
23.根据权利要求22所述的系统,其中,来自所述第一成像传感器和所述第二成像传感器的图像高程的至少一部分基于来自根据交叠图像数据的立体摄影计算、LIDAR数据或数字高程模型中的一个或更多个的输入而与表面高程的一部分关联。
24.一种用于生成表面的地图的系统,包括:
全球位置接收器;
高程测量单元,所述高程测量单元能够适应地安装到运载工具或平台;
全球定位天线,所述全球定位天线能够适应地安装到所述运载工具或所述平台;
姿态测量单元,所述姿态测量单元能够适应地安装到所述运载工具或所述平台;
多个成像阵列,所述多个成像阵列能够适应地安装到所述运载工具或所述平台,所述多个成像阵列都具有所述表面的视域,所述多个成像阵列包括:
第一成像阵列,所述第一成像阵列还包括多个第一成像传感器,所述多个第一成像传感器耦接到第一安装单元,每个所述第一成像传感器具有穿过所述第一安装单元中形成的孔的第一焦轴,其中,所述第一成像阵列生成所述表面的包括第一像素阵列的第一图像区;以及
第二成像阵列,所述第二成像阵列还包括多个第二成像传感器,所述多个第二成像传感器耦接到第二安装单元并且沿垂直于所述第一成像阵列的曲线阵列轴从所述第一成像阵列偏移,每个所述第二成像传感器具有穿过所述第二安装单元中形成的孔的第二焦轴,其中,所述第二成像阵列生成所述表面的包括第二像素阵列的第二图像区;
第三成像阵列,所述第三成像阵列还包括多个第三成像传感器,所述多个第三成像传感器耦接到第三安装单元并且沿所述阵列轴与所述第二成像阵列相对地从所述第一成像阵列偏移,每个所述第三成像传感器具有穿过所述第三安装单元中形成的孔的第三焦轴,其中,所述第三成像阵列生成所述表面的包括第三像素阵列的第三图像区;以及
第四成像阵列,所述第四成像阵列还包括多个第四成像传感器,所述多个第四成像传感器耦接到第四安装单元并且沿所述阵列轴与所述第三成像阵列相对地从所述第二成像阵列偏移,每个所述第四成像传感器具有穿过所述第四安装单元中形成的孔的第四焦轴,其中,所述第四成像阵列生成所述表面的包括第四像素阵列的第四图像区;以及
计算机,所述计算机连接到所述高程测量单元、所述全球定位天线、所述姿态测量单元、所述第一成像传感器和所述第二成像传感器;所述计算机基于来自所述高程测量单元、所述全球定位天线和所述姿态测量单元中的一个或更多个的输入,使来自所述第一成像阵列、所述第二成像阵列、所述第三成像阵列和所述第四成像阵列的图像区的至少一部分与表面区域的一部分关联。
25.根据权利要求24所述的系统,其中,来自所述第一成像阵列、所述第二成像阵列和所述第三成像阵列的图像高程的至少一部分基于来自根据交叠图像数据的立体摄影计算、LIDAR数据或数字高程模型中的一个或更多个的输入而与表面高程的一部分关联。
26.根据权利要求24所述的系统,其中,所述第一成像阵列以跨轨道斜视的方式配置。
27.根据权利要求24所述的系统,其中,所述第一成像阵列以沿轨道斜视的方式配置。
28.根据权利要求27所述的系统,其中,所述第三成像传感器是前斜成像传感器,并且所述第四成像传感器是后斜成像传感器。
29.一种用于生成表面的地图的系统,包括:
全球位置接收器;
高程测量单元,所述高程测量单元能够适应地安装到运载工具或平台;
全球定位天线,所述全球定位天线能够适应地安装到所述运载工具或所述平台;
姿态测量单元,所述姿态测量单元能够适应地安装到所述运载工具或所述平台;
复合成像阵列,所述复合成像阵列能够适应地安装到所述运载工具或所述平台,所述复合成像阵列具有目标区域的视域,所述复合成像阵列包括:
具有顶点的第一凹阵列;
第二凹阵列,所述第二凹阵列相对于所述第一阵列成角度地放置并且被调整成与所述第一凹阵列的所述顶点相交;
主成像传感器,所述主成像传感器沿所述第一阵列的凹表面居中布置,所述主成像传感器具有主焦轴;以及
多个次级成像传感器,所述多个次级成像传感器从所述主成像传感器以多个角间隔沿所述第一阵列和所述第二阵列的凹表面布置,所述多个次级成像传感器具有在相交区中以斜视的方式与所述主焦轴相交的焦轴;以及
计算机,所述计算机与所述高程测量单元、所述全球定位天线、所述姿态测量单元、所述第一成像传感器、所述第二成像传感器、所述第三成像传感器和所述第四成像传感器通信;所述计算机基于来自所述高程测量单元、所述全球定位天线和所述姿态测量单元中的一个或更多个的输入,使来自所述第一成像阵列和所述第二成像阵列的图像区的至少一部分与所述目标区域的一部分关联。
30.根据权利要求29所述的系统,其中,来自所述第一成像阵列和所述第二成像阵列的图像高程的至少一部分基于来自根据交叠图像数据的立体摄影计算、LIDAR数据或数字高程模型中的一个或更多个的输入而与目标高程的一部分关联。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US13/590,735 | 2012-08-21 | ||
US13/590,735 US8994822B2 (en) | 2002-08-28 | 2012-08-21 | Infrastructure mapping system and method |
PCT/US2013/052278 WO2014031284A1 (en) | 2012-08-21 | 2013-07-26 | Infrastructure mapping system and method |
Publications (2)
Publication Number | Publication Date |
---|---|
CN104704424A true CN104704424A (zh) | 2015-06-10 |
CN104704424B CN104704424B (zh) | 2018-02-09 |
Family
ID=50150296
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201380053255.8A Active CN104704424B (zh) | 2012-08-21 | 2013-07-26 | 基础设施测绘系统和方法 |
Country Status (5)
Country | Link |
---|---|
EP (1) | EP2888628A4 (zh) |
JP (1) | JP6282275B2 (zh) |
CN (1) | CN104704424B (zh) |
CA (1) | CA2880229A1 (zh) |
WO (1) | WO2014031284A1 (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106537454A (zh) * | 2014-07-07 | 2017-03-22 | 威拓股份有限公司 | 用于图像的摄影测量处理的方法和系统 |
CN107402069A (zh) * | 2017-04-21 | 2017-11-28 | 浙江大学 | 无人机快拍式高光谱遥感系统及一致性辐射校正方法 |
CN107818303A (zh) * | 2017-10-23 | 2018-03-20 | 中石化石油工程地球物理有限公司 | 无人机油气管线影像自动对比分析方法、系统及软件存储器 |
CN108875292A (zh) * | 2018-05-16 | 2018-11-23 | 中国水利水电科学研究院 | 基于遥感的流域水文的仿真系统及方法 |
CN108983820A (zh) * | 2018-08-17 | 2018-12-11 | 中南安全环境技术研究院股份有限公司 | 一种生态保护红线区勘界方法及系统 |
CN109937389A (zh) * | 2016-08-05 | 2019-06-25 | 安波福技术有限公司 | 用于自动车辆的操作安全系统 |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104850134B (zh) * | 2015-06-12 | 2019-01-11 | 北京中飞艾维航空科技有限公司 | 一种无人机高精度自主避障飞行方法 |
CN108474661A (zh) | 2016-01-13 | 2018-08-31 | 威拓股份有限公司 | 用于多光谱数据的几何参照的方法和系统 |
CN105867421B (zh) * | 2016-05-25 | 2019-01-04 | 华中科技大学 | 一种基于ph曲线的无人机路径规划方法 |
DE102016224886B3 (de) * | 2016-12-13 | 2018-05-30 | Deutsches Zentrum für Luft- und Raumfahrt e.V. | Verfahren und Vorrichtung zur Ermittlung der Schnittkanten von zwei sich überlappenden Bildaufnahmen einer Oberfläche |
EP3635332A2 (en) * | 2017-05-10 | 2020-04-15 | Mobileye Vision Technologies Ltd. | Cross field of view for autonomous vehicle systems |
EP3664029B1 (en) | 2017-08-01 | 2023-12-13 | Sony Group Corporation | Image processing device, image processing method, and program |
EP3460518B1 (en) * | 2017-09-22 | 2024-03-13 | Leica Geosystems AG | Hybrid lidar-imaging device for aerial surveying |
US20220234753A1 (en) * | 2019-05-24 | 2022-07-28 | Aerometrex Pty Ltd | An Aerial Imaging System and Method |
FR3126164A1 (fr) * | 2021-08-10 | 2023-02-17 | Technivue | Procédé d’aide à la détermination d’un emplacement géographique pour l’implantation d’un équipement de diffusion hertzienne |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE2811428A1 (de) * | 1978-03-16 | 1979-09-20 | Bosch Gmbh Robert | Scheinwerfer oder leuchte fuer fahrzeuge |
JP2006217131A (ja) * | 2005-02-02 | 2006-08-17 | Matsushita Electric Ind Co Ltd | 撮像装置 |
CN101344391A (zh) * | 2008-07-18 | 2009-01-14 | 北京工业大学 | 基于全功能太阳罗盘的月球车位姿自主确定方法 |
US20090295924A1 (en) * | 2002-08-28 | 2009-12-03 | M7 Visual Intelligence, L.P. | Retinal concave array compound camera system |
US20100235095A1 (en) * | 2002-09-20 | 2010-09-16 | M7 Visual Intelligence, L.P. | Self-calibrated, remote imaging and data processing system |
CN102506868A (zh) * | 2011-11-21 | 2012-06-20 | 清华大学 | 基于联邦滤波的sins/smans/trns组合导航方法及系统 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
AU2003273338A1 (en) * | 2002-09-20 | 2004-04-08 | M7 Visual Intelligence, Lp | Vehicule based data collection and porcessing system |
WO2007006577A1 (en) * | 2005-07-14 | 2007-01-18 | Carl Zeiss Smt Ag | Optical element |
JP4875682B2 (ja) * | 2008-09-30 | 2012-02-15 | 富士フイルム株式会社 | レンズ枠、レンズ組立体および撮影装置 |
-
2013
- 2013-07-26 EP EP13831711.0A patent/EP2888628A4/en not_active Withdrawn
- 2013-07-26 WO PCT/US2013/052278 patent/WO2014031284A1/en active Application Filing
- 2013-07-26 JP JP2015528490A patent/JP6282275B2/ja active Active
- 2013-07-26 CA CA2880229A patent/CA2880229A1/en not_active Abandoned
- 2013-07-26 CN CN201380053255.8A patent/CN104704424B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE2811428A1 (de) * | 1978-03-16 | 1979-09-20 | Bosch Gmbh Robert | Scheinwerfer oder leuchte fuer fahrzeuge |
US20090295924A1 (en) * | 2002-08-28 | 2009-12-03 | M7 Visual Intelligence, L.P. | Retinal concave array compound camera system |
US20100235095A1 (en) * | 2002-09-20 | 2010-09-16 | M7 Visual Intelligence, L.P. | Self-calibrated, remote imaging and data processing system |
JP2006217131A (ja) * | 2005-02-02 | 2006-08-17 | Matsushita Electric Ind Co Ltd | 撮像装置 |
CN101344391A (zh) * | 2008-07-18 | 2009-01-14 | 北京工业大学 | 基于全功能太阳罗盘的月球车位姿自主确定方法 |
CN102506868A (zh) * | 2011-11-21 | 2012-06-20 | 清华大学 | 基于联邦滤波的sins/smans/trns组合导航方法及系统 |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106537454A (zh) * | 2014-07-07 | 2017-03-22 | 威拓股份有限公司 | 用于图像的摄影测量处理的方法和系统 |
US10497139B2 (en) | 2014-07-07 | 2019-12-03 | Vito Nv | Method and system for photogrammetric processing of images |
CN109937389A (zh) * | 2016-08-05 | 2019-06-25 | 安波福技术有限公司 | 用于自动车辆的操作安全系统 |
CN107402069A (zh) * | 2017-04-21 | 2017-11-28 | 浙江大学 | 无人机快拍式高光谱遥感系统及一致性辐射校正方法 |
CN107818303A (zh) * | 2017-10-23 | 2018-03-20 | 中石化石油工程地球物理有限公司 | 无人机油气管线影像自动对比分析方法、系统及软件存储器 |
CN107818303B (zh) * | 2017-10-23 | 2021-06-15 | 中石化石油工程地球物理有限公司 | 无人机油气管线影像自动对比分析方法、系统及软件存储器 |
CN108875292A (zh) * | 2018-05-16 | 2018-11-23 | 中国水利水电科学研究院 | 基于遥感的流域水文的仿真系统及方法 |
CN108983820A (zh) * | 2018-08-17 | 2018-12-11 | 中南安全环境技术研究院股份有限公司 | 一种生态保护红线区勘界方法及系统 |
CN108983820B (zh) * | 2018-08-17 | 2021-04-16 | 中南安全环境技术研究院股份有限公司 | 一种生态保护红线区勘界方法及系统 |
Also Published As
Publication number | Publication date |
---|---|
CA2880229A1 (en) | 2014-02-27 |
JP6282275B2 (ja) | 2018-03-07 |
JP2015532714A (ja) | 2015-11-12 |
EP2888628A1 (en) | 2015-07-01 |
CN104704424B (zh) | 2018-02-09 |
EP2888628A4 (en) | 2016-09-14 |
WO2014031284A1 (en) | 2014-02-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104704424B (zh) | 基础设施测绘系统和方法 | |
US9797980B2 (en) | Self-calibrated, remote imaging and data processing system | |
US8994822B2 (en) | Infrastructure mapping system and method | |
US7725258B2 (en) | Vehicle based data collection and processing system and imaging sensor system and methods thereof | |
CN103038761B (zh) | 自校准的远程成像和数据处理系统 | |
US7127348B2 (en) | Vehicle based data collection and processing system | |
US6928194B2 (en) | System for mosaicing digital ortho-images | |
CN108168521A (zh) | 一种基于无人机实现景观三维可视化的方法 | |
WO2003021187A2 (en) | Digital imaging system for airborne applications | |
CN110986888A (zh) | 一种航空摄影一体化方法 | |
CN110296688A (zh) | 一种基于被动地理定位技术的侦测一体倾斜航测吊舱 | |
USRE49105E1 (en) | Self-calibrated, remote imaging and data processing system | |
CN108195359A (zh) | 空间数据的采集方法及系统 | |
Lin et al. | Accuracy analysis of low altitude photogrammetry with wide-angle camera | |
JP2014511155A (ja) | 自己較正リモートイメージング及びデータ処理システム | |
Alfarhan et al. | 3D digital photorealistic models from the field to the lab | |
Merchant | Influence of temperature on focal length for the airborne camera | |
Tsai et al. | The performance analysis of a UAV based mobile mapping system | |
Atatrah et al. | The use of mobile phone camera in close range photogrammetry | |
Ethrog et al. | CALIBRATION AND VALIDATION OF AERIAL PHOTOGRAMMETRIC SYSTEMS WHICH UTILIZE SOLAR IMAGES FOR DETERMINING AERIAL CAMERA TILT ANGLES | |
Zhang et al. | Techniques of UAV system land use changes detection application | |
Melega | Design, assembly and test of an airborne automated imaging system for environmental monitoring | |
Hsieh et al. | Generation of Digital Surface Temperature Model from Thermal Images Collected by Thermal Sensor on Quadcopter UAV | |
EP1532424A2 (en) | Digital imaging system for airborne applications |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
EXSB | Decision made by sipo to initiate substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
TR01 | Transfer of patent right | ||
TR01 | Transfer of patent right |
Effective date of registration: 20221214 Address after: Texas, USA Patentee after: VI Technology Co.,Ltd. Address before: Texas, USA Patentee before: VISUAL INTELLIGENCE, L.P. |