CN115908482B - 建模错误数据的定位方法和装置 - Google Patents
建模错误数据的定位方法和装置 Download PDFInfo
- Publication number
- CN115908482B CN115908482B CN202211263205.XA CN202211263205A CN115908482B CN 115908482 B CN115908482 B CN 115908482B CN 202211263205 A CN202211263205 A CN 202211263205A CN 115908482 B CN115908482 B CN 115908482B
- Authority
- CN
- China
- Prior art keywords
- modeling
- image frame
- pose information
- information
- target image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Landscapes
- Image Analysis (AREA)
Abstract
本申请公开了一种建模错误数据的定位方法和装置,涉及图像处理领域,用于快速定位建模的错误数据。建模错误数据的定位方法包括:按照最先注册的多个注册图像帧的注册顺序,根据多个注册图像帧的建模位姿信息得到建模光心轨迹;根据多个注册图像帧的真实位姿信息得到真实光心轨迹;根据建模光心轨迹和真实光心轨迹将所有注册图像帧的建模位姿信息和真实位姿信息映射至同一坐标系,计算目标图像帧的建模位姿信息与真实位姿信息之间的偏差,目标图像帧为所有注册图像帧中按照注册顺序选取的一个图像帧;如果偏差大于阈值,则确定目标图像帧的建模位姿信息错误。
Description
技术领域
本申请涉及图像处理领域,尤其涉及一种建模错误数据的定位方法和装置。
背景技术
运动中恢复结构(structure from motion,SFM)建模是一种从包含视觉运动信息的二维图像帧序列中估计物体三维结构的方法。受环境光照变化、被摄物体运动、重复纹理、二维图像采集方式或采集速度等影响,SFM建模后可能出现建模错误,例如轨迹重叠、轨迹飘飞、轨迹断裂、尺度不一致等,目前需要人工定位SFM建模的错误数据,当数据量较大时,效率极其低下。
发明内容
本申请实施例提供一种建模错误数据的定位方法和装置,用于快速定位建模的错误数据。
为达到上述目的,本申请的实施例采用如下技术方案:
第一方面,提供了一种建模错误数据的定位方法,包括:按照最先注册的多个注册图像帧的注册顺序,根据多个注册图像帧的建模位姿信息得到建模光心轨迹;根据多个注册图像帧的真实位姿信息得到真实光心轨迹;根据建模光心轨迹和真实光心轨迹将所有注册图像帧的建模位姿信息和真实位姿信息映射至同一坐标系,计算目标图像帧的建模位姿信息与真实位姿信息之间的偏差,目标图像帧为所有注册图像帧中按照注册顺序选取的一个图像帧;如果偏差大于阈值,则确定目标图像帧的建模位姿信息错误。
本申请实施例提供的建模错误数据的定位方法,按照最先注册的多个注册图像帧的注册顺序,根据多个注册图像帧的建模位姿信息得到建模光心轨迹;根据多个注册图像帧的真实位姿信息得到真实光心轨迹;再根据建模光心轨迹和真实光心轨迹将所有注册图像帧的建模位姿信息和真实位姿信息映射至同一坐标系,从而可以计算每个目标图像帧的建模位姿信息与真实位姿信息之间的偏差,目标图像帧为所有注册图像帧中按照注册顺序选取的一个图像帧;如果该偏差大于阈值,则确定该目标图像帧的建模位姿信息错误。不必人工排查建模数据错误,因此可以快速定位建模的错误数据。
在一种可能的实施方式中,如果偏差大于阈值,则确定目标图像帧的建模位姿信息错误,包括:如果偏差大于阈值,并且,目标图像帧为词袋注册类型,则确定目标图像帧的建模位姿信息错误,目标图像帧为词袋注册类型指目标图像帧通过与具有共视关系的图像帧进行词袋匹配来进行注册。
该目标图像帧为轨迹重叠的起始帧,即该确定目标图像帧的建模位姿信息错误的方式,可以用于解决轨迹重叠的问题。
在一种可能的实施方式中,还包括:输出与目标图像帧具有共视关系的在先注册的图像帧。
原因在于目标图像帧是被具有共视关系的在先注册的图像帧通过词袋匹配进行注册的。便于进一步分析轨迹重叠的问题,
在一种可能的实施方式中,还包括:将目标图像帧合并入异常注册图像帧序列中或者作为新的异常注册图像帧序列,合并连续的异常注册图像帧序列,使得任意两个异常注册图像帧序列之间不存在相交、相邻或者相融关系。
目的在于直观输出错误的各段轨迹,便于用户分析问题。
在一种可能的实施方式中,目标图像帧的建模位姿信息包括建模旋转信息和建模平移信息,目标图像帧的真实位姿信息包括真实旋转信息和真实平移信息;偏差大于阈值,包括:目标图像帧的建模旋转信息与真实旋转信息之间的偏差大于旋转信息阈值,或者,目标图像帧的建模平移信息与真实平移信息之间的偏差大于平移信息阈值。
在一种可能的实施方式中,真实位姿信息来自其他传感器的即时定位与地图构建,其他传感器与采集图像帧的摄像头具有相同位姿。
在三维重建的实际产品中采用摄像头具有成本优势,在三维重建算法(例如SFM建模)训练阶段采用其他传感器具有精度优势,因此可以通过其他传感器的高精度来帮助修正三维重建算法的不足。
第二方面,提供了一种建模错误数据的定位装置,包括处理器和存储器,存储器中存储指令,当处理器执行指令时,如第一方面及其任一实施方式所述的方法被执行。
第三方面,提供了一种计算机可读存储介质,包括指令,当指令在建模错误数据的定位装置上运行时,使得建模错误数据的定位装置执行如第一方面及其任一实施方式所述的方法。
第四方面,提供了一种包含指令的计算机程序产品,当指令在上述建模错误数据的定位装置上运行时,使得该建模错误数据的定位装置执行如第一方面及其任一实施方式所述的方法。
第五方面,提供了一种芯片系统,该芯片系统包括处理器,用于支持建模错误数据的定位装置实现上述第一方面中所涉及的功能。在一种可能的设计中,该装置还包括接口电路,接口电路可用于从其它装置(例如存储器)接收信号,或者,向其它装置(例如通信接口)发送信号。该芯片系统可以包括芯片,还可以包括其他分立器件。
第二方面至第五方面的技术效果参照第一方面及其任一实施方式的技术效果,在此不再重复。
附图说明
图1为本申请实施例提供的一种SFM建模的示意图;
图2为本申请实施例提供的一种SFM建模方法的流程示意图;
图3为本申请实施例提供的一种轨迹重叠、轨迹飘飞、轨迹断裂的示意图;
图4为本申请实施例提供的一种建模错误数据的定位装置的结构示意图;
图5为本申请实施例提供的一种建模错误数据的定位方法的流程示意图;
图6为本申请实施例提供的另一种建模错误数据的定位方法的流程示意图;
图7为本申请实施例提供的一种芯片系统的结构示意图。
具体实施方式
首先对本申请涉及的一些概念进行描述。
本申请实施例涉及的术语“第一”、“第二”等仅用于区分同一类型特征的目的,不能理解为用于指示相对重要性、数量、顺序等。
本申请实施例涉及的术语“示例性的”或者“例如”等词用于表示作例子、例证或说明。本申请中被描述为“示例性的”或者“例如”的任何实施例或设计方案不应被解释为比其他实施例或设计方案更优选或更具优势。确切而言,使用“示例性的”或者“例如”等词旨在以具体方式呈现相关概念。
本申请实施例涉及的术语“耦合”、“连接”应做广义理解,例如,可以指物理上的直接连接,也可以指通过电子器件实现的间接连接,例如通过电阻、电感、电容或其他电子器件实现的连接。
首先对本申请涉及的一些概念进行描述:
SFM建模:SFM建模是一种从包含视觉运动信息的二维(2dimension,2D)图像帧序列中估计物体三维(3dimension,3D)结构的方法。示例性的,如图1所示,相机在运动过程中围绕桌子拍摄二维图像帧序列,再结合相机的位姿,从而估计桌子的三维结构。
示例性的,如图2所示,本申请实施例提供的一种SFM建模方法包括:
S101、对二维图像帧序列中每个图像帧提取特征点和描述子信息。
例如,可以采用尺度不变特征转换(scale-invariant feature transform,SIFT)等方式提取图像帧中的特征点和描述子信息,描述子信息用于表示不同特征点之间的联系。
S102、确定两个图像帧的特征点之间的匹配关系。
即确定两个图像帧的特征点对应现实中的同一个点,例如同一张桌子的同一个角。
S103、删除两个图像帧中错误的特征点之间的匹配关系。
示例性的,可以采用随机样本一致性(random sample consensus,RANSAC)算法删除两个图像帧中错误的特征点之间的匹配关系。RANSAC算法可以根据一组包含错误数据(本申请中即错误的特征点之间的匹配关系)的数据集,计算出数据集满足的数学模型,并得到数据集中有效数据(本申请中即正确的特征点之间的匹配关系)。
S104、选取匹配的特征点数目较多并且视差较大的多个图像帧,计算各个图像帧的位姿。
匹配的特征点数目多说明多个图像帧相似度高,多个图像帧的拍摄时间较近,视差较大说明相机在拍摄多个图像帧期间有了明显的移动,使得多个图像帧有明显的区别,便于准确计算多个图像帧特征点对应的真实世界中的3D地图点。
可以通过RANSAC算法计算各个图像帧的位姿。当相机拍摄世界坐标系中某一物体时,可以用旋转和平移来描述物体相对于相机坐标系统的姿态,物体在世界坐标系中的坐标经过旋转和平移即可以转换到相机坐标系中的坐标,因此,位姿包括图像帧的旋转信息和平移信息。
S105、根据多个图像帧的位姿以及多个图像帧的特征点之间的2D-2D对应关系,计算多个图像帧的特征点对应的真实世界中的3D地图点,并注册多个图像帧。
示例性的,可以通过直接线性变换(direct linear transform,DLT)算法计算多个图像帧的特征点对应的真实世界中的3D地图点。也就是说,多个图像帧的特征点对应真实世界中的同一个点,例如同一张桌子的同一个角。
S106、对于新注册的图像帧,基于已有的注册图像帧的特征点对应的真实世界中的3D地图点,构建新注册的图像帧的特征点与上述3D地图点之间的3D-2D对应关系,并根据该3D-2D对应关系通过透视N点(perspective-n-point,PNP)算法计算新注册的图像帧的位姿,并计算新注册的图像帧的特征点对应的真实世界中的3D地图点。
简单地理解,PNP算法是利用两个图像帧之间的共视关系以及其中一个图像帧的位姿,来计算另一个图像帧的位姿,两个图像帧具有共视关系指两个图像帧共同映射至相同的3D地图点。
S107、根据注册图像帧的位姿、注册图像帧的特征点对应的真实世界中的3D地图点以及注册图像帧的特征点,通过重投影误差最小等约束,优化注册图像帧的位姿和3D地图点。
S108、完成图像帧注册后,输出注册图像帧的位姿、注册图像帧的特征点对应的3D地图点云以及注册图像帧的特征点与3D地图点之间的对应关系。
受环境光照变化、被摄物体运动、重复纹理、二维图像帧采集方式或采集速度等影响,上述SFM建模方法可能出现SFM建模的错误数据,例如轨迹重叠、轨迹飘飞、轨迹断裂、尺度不一致等。如图3所示,轨迹重叠指同一3D地图点有至少两条轨迹。轨迹飘飞指属于当前轨迹的3D地图点被匹配至其他轨迹。轨迹断裂指在行进路线上相邻3D地图点之间的距离大于阈值从而产生两条轨迹。尺度不一致指位姿的平移数值不一致。
目前在SFM建模失败的问题分析中,需要人工定位SFM建模的错误数据,存在效率低下的问题。例如,通过图形用户界面(graphical user interface,GUI)显示轨迹,通过手动点击3D地图点以及查看对应的注册图像帧等方式,来定位出现问题的轨迹起始点或者轨迹异常区域,不可避免的需要查看很多无关注册图像帧的特征点或者位姿估计信息,因此耗时耗力,效率极其低下,尤其遇到轨迹重叠严重的复杂大数据场景,甚至难以手动分析,非常不利于SFM建模算法的问题分析和版本迭代。
为此,本申请实施例提供了一种建模错误数据的定位装置,用于执行建模错误数据的定位方法,通过将注册图像帧的建模位姿信息与真实位姿信息进行比较,从而确定注册图像帧的建模位姿信息是否正确,避免人工排查建模数据错误,因此可以快速定位建模的错误数据。
如图4所示,建模错误数据的定位装置100可以包括至少一个处理器101、通信线路102、存储器103以及至少一个通信接口104。通信线路102可包括一通路,在上述组件之间传送信息。通信接口104使用任何收发器一类的装置,用于与其他设备通信。存储器103中存储有指令,当处理器101执行上述指令时,执行本申请实施例提供的建模错误数据的定位方法。
本申请实施例涉及的处理器可以是一个芯片。例如,可以是现场可编程门阵列(field programmable gate array,FPGA)、专用集成芯片(application specificintegrated circuit,ASIC)片上系统(system on chip,SoC)、中央处理器(centralprocessor unit,CPU)、网络处理器(network processor,NP)、数字信号处理电路(digitalsignal processor,DSP)、微控制器(micro controller unit,MCU)、可编程控制器(programmable logic device,PLD)或其他集成芯片。
本申请实施例涉及的存储器可以是易失性存储器或非易失性存储器,或可包括易失性和非易失性存储器两者。其中,非易失性存储器可以是只读存储器(read-onlymemory,ROM)、可编程只读存储器(programmable ROM,PROM)、可擦除可编程只读存储器(erasable PROM,EPROM)、电可擦除可编程只读存储器(electrically EPROM,EEPROM)或闪存。易失性存储器可以是随机存取存储器(random access memory,RAM),其用作外部高速缓存。通过示例性但不是限制性说明,许多形式的RAM可用,例如静态随机存取存储器(static RAM,SRAM)、动态随机存取存储器(dynamic RAM,DRAM)、同步动态随机存取存储器(synchronous DRAM,SDRAM)、双倍数据速率同步动态随机存取存储器(double data rateSDRAM,DDR SDRAM)、增强型同步动态随机存取存储器(enhanced SDRAM,ESDRAM)、同步连接动态随机存取存储器(synchlink DRAM,SLDRAM)和直接内存总线随机存取存储器(directrambus RAM,DR RAM)。应注意,本文描述的系统和方法的存储器旨在包括但不限于这些和任意其它适合类型的存储器。
如图5所示,本申请实施例提供的建模错误数据的定位方法包括S201-S204:
S201、按照最先注册的多个注册图像帧的注册顺序,根据最先注册的多个注册图像帧的建模位姿信息得到建模光心轨迹。
由于位姿信息包括旋转信息和平移信息,所以图像帧的建模位姿信息包括建模旋转信息和建模平移信息。
选择最先注册的多个注册图像帧的原因在于:SFM建模产生错误数据具有按照注册顺序逐渐发生或者变严重的特点,最先注册的图像帧出现错误的概率最低,便于步骤S203准确计算目标图像帧的建模位姿信息与真实位姿信息之间的偏差,另外,不必计算所有注册图像帧的建模光心轨迹和真实光心轨迹,从而节省计算量。
按照多个注册图像帧的注册顺序,而不是按照多个图像帧的拍摄顺序的原因在于:由于在SFM建模时,并不是所有图像帧都进行注册并生成位姿信息,按照拍摄顺序遍历图像帧将会浪费处理资源,而通过按照图像帧的注册顺序来遍历图像帧可以减少异常情况处理,提高检索效率。另外,由于SFM建模产生错误数据具有按照注册顺序逐渐发生或者变严重的特点,因此按照多个注册图像帧的注册顺序更有利于精准定位问题。
图像帧的建模位姿信息指经过建模(例如SFM建模)后得到的位姿信息。通过图像帧的建模位姿信息中的平移信息可以计算出建模光心坐标,根据多个注册图像帧的建模光心坐标即可以得到建模光心轨迹。
S202、根据最先注册的多个注册图像帧的真实位姿信息得到真实光心轨迹。
由于位姿信息包括旋转信息和平移信息,所以图像帧的真实位姿信息包括真实旋转信息和真实平移信息。
图像帧的真实位姿信息可以来自其他传感器(例如2D激光、3D激光或者ARCore等传感器)的即时定位与地图构建(simultaneous localization and mapping,SLAM),这些其他传感器与采集图像帧的摄像头具有相同位姿,从而得到图像帧的真实位姿信息。在三维重建的实际产品中采用摄像头具有成本优势,在三维重建算法(例如SFM建模)训练阶段采用其他传感器具有精度优势,因此可以通过其他传感器的高精度来帮助修正三维重建算法的不足。
同理,通过图像帧的真实位姿信息中的平移信息可以计算出真实光心坐标,根据多个注册图像帧的真实光心坐标即可以得到真实光心轨迹。
S203、根据最先注册的多个注册图像帧的建模光心轨迹和真实光心轨迹,将所有注册图像帧的建模位姿信息和真实位姿信息映射至同一坐标系,计算目标图像帧的建模位姿信息与真实位姿信息之间的偏差。
可以将建模光心轨迹和真实光心轨迹进行迭代最近点(iterative closestpoint,ICP)匹配,从而将所有注册图像帧的建模位姿信息和真实位姿信息映射至同一坐标系,例如,将所有注册图像帧的建模位姿信息映射至真实位姿信息的坐标系。即通过将最先注册的多个注册图像帧的建模光心轨迹和真实光心轨迹进行对齐,将所有注册图像帧的建模光心轨迹和真实光心轨迹进行对齐,进而便于比较各个注册图像帧的建模位姿信息与真实位姿信息之间的偏差,而不必计算所有注册图像帧的建模光心轨迹和真实光心轨迹,从而节省计算量。
目标图像帧为所有注册图像帧中按照注册顺序选取的一个图像帧,即按照所有图像帧的注册顺序,计算目标图像帧的建模位姿信息与真实位姿信息之间的偏差。
目标图像帧的建模位姿信息与真实位姿信息之间的偏差包括:目标图像帧的建模旋转信息与真实旋转信息之间的偏差,以及,目标图像帧的建模平移信息与真实平移信息之间的偏差。
S204、如果目标图像帧的建模位姿信息与真实位姿信息之间的偏差大于阈值,则确定目标图像帧的建模位姿信息错误。
该确定目标图像帧的建模位姿信息错误的方式,可以用于解决轨迹飘飞、轨迹断裂、尺度不一致等问题。
进一步地,如果目标图像帧的建模位姿信息与真实位姿信息之间的偏差大于阈值,并且,目标图像帧为词袋注册类型,则确定目标图像帧的建模位姿信息错误,目标图像帧为词袋注册类型指目标图像帧通过与具有共视关系的图像帧进行词袋匹配来进行注册。该目标图像帧为轨迹重叠的起始帧,即该确定目标图像帧的建模位姿信息错误的方式,可以用于解决轨迹重叠的问题。为了便于进一步分析轨迹重叠的问题,此时还可以输出与目标图像帧具有共视关系的在先注册的图像帧,原因在于目标图像帧是通过PNP算法被具有共视关系的在先注册的图像帧通过词袋匹配进行注册的。
两个图像帧具有共视关系指两个图像帧共同映射至相同的3D地图点。两个图像帧进行词袋匹配指两个图像帧的特征点进行匹配。
目标图像帧的建模位姿信息与真实位姿信息之间的偏差大于阈值,具体包括:目标图像帧的建模旋转信息与真实旋转信息之间的偏差大于旋转信息阈值,或者,目标图像帧的建模平移信息与真实平移信息之间的偏差大于平移信息阈值。即满足任一条件即认为目标图像帧的建模位姿信息错误。
本申请实施例提供的建模错误数据的定位方法,按照最先注册的多个注册图像帧的注册顺序,根据多个注册图像帧的建模位姿信息得到建模光心轨迹;根据多个注册图像帧的真实位姿信息得到真实光心轨迹;再根据建模光心轨迹和真实光心轨迹将所有注册图像帧的建模位姿信息和真实位姿信息映射至同一坐标系,从而可以计算每个目标图像帧的建模位姿信息与真实位姿信息之间的偏差,目标图像帧为所有注册图像帧中按照注册顺序选取的一个图像帧;如果该偏差大于阈值,则确定该目标图像帧的建模位姿信息错误。不必人工排查建模数据错误,因此可以快速定位建模的错误数据。
下面结合图6所示的具体示例对上述建模错误数据的定位方法进行描述,如图6所示,该建模错误数据的定位方法包括S301-S310:
S301、获取配置信息。
配置信息可以指示对轨迹重叠问题进行分析,或者,对非轨迹重叠问题进行分析。非轨迹重叠问题包括前文的轨迹飘飞、轨迹断裂、尺度不一致等。
S302、加载SFM建模得到的所有注册图像帧的建模位姿信息和注册顺序信息。
关于图像帧的建模位姿信息参照步骤S201,在此不再赘述。注册顺序信息指示注册图像帧的注册顺序(例如编号)。
S303、加载所有注册图像帧的真实位姿信息。
关于图像帧的真实位姿信息参照步骤S202,在此不再赘述。
S304、按照最先注册的多个注册图像帧的注册顺序,根据最先注册的多个注册图像帧的建模位姿信息得到建模光心轨迹。
该步骤参照步骤S201,在此不再赘述。
S305、根据最先注册的多个注册图像帧的真实位姿信息得到真实光心轨迹。
该步骤参照步骤S202,在此不再赘述。
S306、根据最先注册的多个注册图像帧的建模光心轨迹和真实光心轨迹,将所有注册图像帧的建模位姿信息和真实位姿信息映射至同一坐标系,计算目标图像帧的建模位姿信息与真实位姿信息之间的偏差。
该步骤参照步骤S203,在此不再赘述。
如果配置信息指示对轨迹重叠问题进行分析,则执行步骤S307-S308。如果配置信息指示对非轨迹重叠问题进行分析,则执行步骤S309-S310。
S307、加载SFM建模得到的3D地图点云,得到注册图像帧之间的共视关系。
两个图像帧具有共视关系指两个图像帧共同映射至相同的3D地图点。
S308、如果目标图像帧的建模位姿信息与真实位姿信息之间的偏差大于阈值,并且,目标图像帧为词袋注册类型,则确定目标图像帧的建模位姿信息错误。
目标图像帧为所有注册图像帧中按照注册顺序选取的一个图像帧。
也就是说,如果目标图像帧的建模旋转信息与真实旋转信息之间的偏差大于旋转信息阈值,或者,如果目标图像帧的建模平移信息与真实平移信息之间的偏差大于平移信息阈值,并且,目标图像帧通过与具有共视关系的图像帧进行词袋匹配来进行注册,则该目标图像帧的建模位姿信息错误,并且该目标图像帧为轨迹重叠的起始帧。否则,遍历下一个注册图像帧(即将下一个注册图像帧作为目标图像帧),直至遍历完所有注册图像帧。
为了便于进一步分析轨迹重叠的问题,此时还可以输出与目标图像帧具有共视关系的在先注册的图像帧,原因在于目标图像帧是通过PNP算法被具有共视关系的在先注册的图像帧通过词袋匹配进行注册的。
S309、如果目标图像帧的建模位姿信息与真实位姿信息之间的偏差大于阈值,则确定目标图像帧的建模位姿信息错误。
目标图像帧为所有注册图像帧中按照注册顺序选取的一个图像帧。
此时,可以将目标图像帧合并入异常注册图像帧序列中或者作为新的异常注册图像帧序列,并且可以合并连续的异常注册图像帧序列,保证任意两个异常注册图像帧序列之间不存在相交、相邻或者相融关系。目的在于直观输出错误的各段轨迹,便于用户分析问题。
入异常注册图像帧序列中的注册图像存在轨迹飘飞、轨迹断裂、尺度不一致等问题。
S310、遍历完成后输出所有异常注册图像帧序列。
本申请提供的建模错误数据的定位方法,可以准确快速的自动定位三维重建算法(例如SFM建模)造成的建模数据错误,提高建模失效问题的分析效率,最终加快三维重建算法的问题解决和版本迭代。经过实测,在路径重叠问题严重的复杂大数据场景下,效率提升尤为明显。
如图7所示,本申请实施例还提供一种芯片系统。该芯片系统70包括至少一个处理器701和至少一个接口电路702。至少一个处理器701和至少一个接口电路702可通过线路互联。处理器701用于支持建模错误数据的定位装置实现上述方法实施例中的各个步骤,例如图5、图6所示的方法,至少一个接口电路702可用于从其它装置(例如存储器)接收信号,或者,向其它装置(例如通信接口)发送信号。该芯片系统可以包括芯片,还可以包括其他分立器件。
本申请实施例还提供一种计算机可读存储介质,该计算机可读存储介质包括指令,当指令在上述建模错误数据的定位装置上运行时,使得该建模错误数据的定位装置执行上述方法实施例中的各个步骤,例如执行图5、图6所示的方法。
本申请实施例还提供一种包括指令的计算机程序产品,当指令在上述建模错误数据的定位装置上运行时,使得该建模错误数据的定位装置执行上述方法实施例中的各个步骤,例如执行图5、图6所示的方法。
关于芯片系统、计算机可读存储介质、计算机程序产品的技术效果参照前面方法实施例的技术效果。
应理解,在本申请的各种实施例中,上述各过程的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本申请实施例的实施过程构成任何限定。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的模块及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统、装置和模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统、设备和方法,可以通过其它的方式实现。例如,以上所描述的设备实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个模块或组件可以结合或者可以集成到另一个设备,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,设备或模块的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理模块,即可以位于一个设备,或者也可以分布到多个设备上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能模块可以集成在一个设备中,也可以是各个模块单独物理存在,也可以两个或两个以上模块集成在一个设备中。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件程序实现时,可以全部或部分地以计算机程序产品的形式来实现。该计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行计算机程序指令时,全部或部分地产生按照本申请实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,所述计算机指令可以从一个网站站点、计算机、服务器或者数据中心通过有线(例如同轴电缆、光纤、数字用户线(digital subscriber line,DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可以用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质(例如,软盘、硬盘、磁带),光介质(例如,DVD)、或者半导体介质(例如固态硬盘(solid state disk,SSD))等。
以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以所述权利要求的保护范围为准。
Claims (8)
1.一种建模错误数据的定位方法,其特征在于,包括:
按照最先注册的多个注册图像帧的注册顺序,根据所述多个注册图像帧的建模位姿信息得到建模光心轨迹;
根据所述多个注册图像帧的真实位姿信息得到真实光心轨迹;
根据所述建模光心轨迹和所述真实光心轨迹将所有注册图像帧的建模位姿信息和真实位姿信息映射至同一坐标系,计算目标图像帧的所述建模位姿信息与所述真实位姿信息之间的偏差,所述目标图像帧为所述所有注册图像帧中按照注册顺序选取的一个图像帧;
如果所述偏差大于阈值,则确定所述目标图像帧的建模位姿信息错误。
2.根据权利要求1所述的方法,其特征在于,所述如果所述偏差大于阈值,则确定所述目标图像帧的建模位姿信息错误,包括:
如果所述偏差大于阈值,并且,所述目标图像帧为词袋注册类型,则确定所述目标图像帧的建模位姿信息错误,所述目标图像帧为词袋注册类型指所述目标图像帧通过与具有共视关系的图像帧进行词袋匹配来进行注册。
3.根据权利要求2所述的方法,其特征在于,还包括:
输出与所述目标图像帧具有共视关系的在先注册的图像帧。
4.根据权利要求1所述的方法,其特征在于,还包括:
将所述目标图像帧合并入异常注册图像帧序列中或者作为新的异常注册图像帧序列,合并连续的异常注册图像帧序列,使得任意两个异常注册图像帧序列之间不存在相交、相邻或者相融关系。
5.根据权利要求1-4任一项所述的方法,其特征在于,所述目标图像帧的建模位姿信息包括建模旋转信息和建模平移信息,所述目标图像帧的真实位姿信息包括真实旋转信息和真实平移信息;所述偏差大于阈值,包括:
所述目标图像帧的建模旋转信息与真实旋转信息之间的偏差大于旋转信息阈值,或者,所述目标图像帧的建模平移信息与真实平移信息之间的偏差大于平移信息阈值。
6.根据权利要求1-5任一项所述的方法,其特征在于,所述真实位姿信息来自其他传感器的即时定位与地图构建,所述其他传感器与采集图像帧的摄像头具有相同位姿。
7.一种建模错误数据的定位装置,其特征在于,包括处理器和存储器,所述存储器中存储指令,当所述处理器执行所述指令时,如权利要求1-6任一项所述的方法被执行。
8.一种计算机可读存储介质,其特征在于,包括指令,当所述指令在建模错误数据的定位装置上执行时,使得所述建模错误数据的定位装置执行如权利要求1-6任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211263205.XA CN115908482B (zh) | 2022-10-14 | 2022-10-14 | 建模错误数据的定位方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211263205.XA CN115908482B (zh) | 2022-10-14 | 2022-10-14 | 建模错误数据的定位方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115908482A CN115908482A (zh) | 2023-04-04 |
CN115908482B true CN115908482B (zh) | 2023-10-20 |
Family
ID=86471729
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211263205.XA Active CN115908482B (zh) | 2022-10-14 | 2022-10-14 | 建模错误数据的定位方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115908482B (zh) |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1890263A2 (en) * | 2000-03-07 | 2008-02-20 | Sarnoff Corporation | Method of pose estimation adn model refinement for video representation of a three dimensional scene |
CN110349212A (zh) * | 2019-06-28 | 2019-10-18 | Oppo广东移动通信有限公司 | 即时定位与地图构建的优化方法及装置、介质和电子设备 |
CN110986968A (zh) * | 2019-10-12 | 2020-04-10 | 清华大学 | 三维重建中实时全局优化和错误回环判断的方法及装置 |
CN111383333A (zh) * | 2020-04-02 | 2020-07-07 | 西安因诺航空科技有限公司 | 一种分段式sfm三维重建方法 |
CN112907620A (zh) * | 2021-01-25 | 2021-06-04 | 北京地平线机器人技术研发有限公司 | 相机位姿的估计方法、装置、可读存储介质及电子设备 |
WO2021212844A1 (zh) * | 2020-04-21 | 2021-10-28 | 广东博智林机器人有限公司 | 点云拼接方法、装置、设备和存储设备 |
CN113920263A (zh) * | 2021-10-18 | 2022-01-11 | 浙江商汤科技开发有限公司 | 地图构建方法、装置、设备及存储介质 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10778949B2 (en) * | 2012-04-06 | 2020-09-15 | Adobe Inc. | Robust video-based camera rotation estimation |
EP4309018A1 (en) * | 2021-03-15 | 2024-01-24 | OMRON Corporation | Method and apparatus for updating an environment map used by robots for self-localization |
-
2022
- 2022-10-14 CN CN202211263205.XA patent/CN115908482B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1890263A2 (en) * | 2000-03-07 | 2008-02-20 | Sarnoff Corporation | Method of pose estimation adn model refinement for video representation of a three dimensional scene |
CN110349212A (zh) * | 2019-06-28 | 2019-10-18 | Oppo广东移动通信有限公司 | 即时定位与地图构建的优化方法及装置、介质和电子设备 |
CN110986968A (zh) * | 2019-10-12 | 2020-04-10 | 清华大学 | 三维重建中实时全局优化和错误回环判断的方法及装置 |
CN111383333A (zh) * | 2020-04-02 | 2020-07-07 | 西安因诺航空科技有限公司 | 一种分段式sfm三维重建方法 |
WO2021212844A1 (zh) * | 2020-04-21 | 2021-10-28 | 广东博智林机器人有限公司 | 点云拼接方法、装置、设备和存储设备 |
CN112907620A (zh) * | 2021-01-25 | 2021-06-04 | 北京地平线机器人技术研发有限公司 | 相机位姿的估计方法、装置、可读存储介质及电子设备 |
CN113920263A (zh) * | 2021-10-18 | 2022-01-11 | 浙江商汤科技开发有限公司 | 地图构建方法、装置、设备及存储介质 |
Non-Patent Citations (1)
Title |
---|
面向建筑物的三维点云生成、增强和重建技术研究;万国伟;《中国博士学位论文全文数据库信息科技辑》(第4期);I138-73 * |
Also Published As
Publication number | Publication date |
---|---|
CN115908482A (zh) | 2023-04-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Zhang et al. | Reference pose generation for long-term visual localization via learned features and view synthesis | |
CN111199564B (zh) | 智能移动终端的室内定位方法、装置与电子设备 | |
US8437501B1 (en) | Using image and laser constraints to obtain consistent and improved pose estimates in vehicle pose databases | |
Mellado et al. | Relative scale estimation and 3D registration of multi-modal geometry using growing least squares | |
CN111709973B (zh) | 目标跟踪方法、装置、设备及存储介质 | |
CN110568447A (zh) | 视觉定位的方法、装置及计算机可读介质 | |
CN109974721A (zh) | 一种基于高精度地图的视觉回环检测方法和装置 | |
Havlena et al. | Randomized structure from motion based on atomic 3D models from camera triplets | |
KR20140014298A (ko) | 모바일 디바이스들에 대한 평면 맵핑 및 트래킹 | |
Wasenmüller et al. | Augmented reality 3d discrepancy check in industrial applications | |
CN110648363A (zh) | 相机姿态确定方法、装置、存储介质及电子设备 | |
JP5837848B2 (ja) | 画像処理装置、画像処理システム、画像処理方法 | |
CN113052880B (zh) | 一种sfm稀疏重建方法、系统及应用 | |
CN108109176A (zh) | 物品检测定位方法、装置及机器人 | |
CN113160130A (zh) | 一种回环检测方法、装置及计算机设备 | |
Nousias et al. | Large-scale, metric structure from motion for unordered light fields | |
CN116309880A (zh) | 基于三维重建的物体位姿确定方法、装置、设备及介质 | |
WO2022147655A1 (zh) | 定位方法、空间信息获取方法、装置、拍摄设备 | |
CN115908482B (zh) | 建模错误数据的定位方法和装置 | |
CN117437357A (zh) | 模型构建方法、装置、非易失性存储介质及电子设备 | |
WO2017003424A1 (en) | Metric 3d stitching of rgb-d data | |
Abdel-Wahab et al. | Efficient reconstruction of large unordered image datasets for high accuracy photogrammetric applications | |
CN116295466A (zh) | 地图生成方法、装置、电子设备、存储介质、及车辆 | |
JP3548652B2 (ja) | 物体形状復元装置及びその方法 | |
CN116228992B (zh) | 基于视觉定位系统模型的不同类型图像的视觉定位方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |