CN117994333A - 位姿确定方法及装置、计算机可读存储介质和电子设备 - Google Patents
位姿确定方法及装置、计算机可读存储介质和电子设备 Download PDFInfo
- Publication number
- CN117994333A CN117994333A CN202211337302.9A CN202211337302A CN117994333A CN 117994333 A CN117994333 A CN 117994333A CN 202211337302 A CN202211337302 A CN 202211337302A CN 117994333 A CN117994333 A CN 117994333A
- Authority
- CN
- China
- Prior art keywords
- camera
- color image
- coordinate system
- image acquired
- feature point
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 99
- 239000011159 matrix material Substances 0.000 claims description 72
- 238000006243 chemical reaction Methods 0.000 claims description 44
- 230000009466 transformation Effects 0.000 claims description 17
- 238000013519 translation Methods 0.000 claims description 12
- 238000012216 screening Methods 0.000 claims description 11
- 238000005259 measurement Methods 0.000 claims description 8
- 230000003287 optical effect Effects 0.000 claims description 7
- 230000005484 gravity Effects 0.000 claims description 6
- 238000004590 computer program Methods 0.000 claims description 3
- 230000008569 process Effects 0.000 description 41
- 238000010586 diagram Methods 0.000 description 23
- 238000004422 calculation algorithm Methods 0.000 description 19
- 238000012545 processing Methods 0.000 description 18
- 238000001514 detection method Methods 0.000 description 11
- 239000000284 extract Substances 0.000 description 10
- 238000000605 extraction Methods 0.000 description 8
- 230000006870 function Effects 0.000 description 7
- 230000009977 dual effect Effects 0.000 description 5
- 230000000007 visual effect Effects 0.000 description 4
- 230000006978 adaptation Effects 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000004807 localization Effects 0.000 description 2
- 239000000203 mixture Substances 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 210000000988 bone and bone Anatomy 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000008451 emotion Effects 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012806 monitoring device Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
- G06T7/85—Stereo camera calibration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/46—Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/46—Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
- G06V10/462—Salient features, e.g. scale invariant feature transforms [SIFT]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
- G06V10/757—Matching configurations of points or features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/762—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using clustering, e.g. of similar faces in social networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/762—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using clustering, e.g. of similar faces in social networks
- G06V10/7625—Hierarchical techniques, i.e. dividing or merging patterns to obtain a tree-like representation; Dendograms
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30244—Camera pose
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- Databases & Information Systems (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
Abstract
本公开提供了一种位姿确定方法、位姿确定装置、计算机可读存储介质和电子设备,涉及计算机视觉技术领域。该位姿确定方法包括:确定第一相机采集的当前帧彩色图像上与第一相机采集的上一帧彩色图像匹配的第一二维特征点,确定第二相机采集的当前帧彩色图像上与第二相机采集的上一帧彩色图像匹配的第二二维特征点,将第二二维特征点转换到第一相机坐标系下以得到第三二维特征点,并根据第一二维特征点、第三二维特征点、第一相机采集的上一帧彩色图像在世界坐标系下的三维特征点以及第二相机采集的上一帧彩色图像在世界坐标系下的三维特征点,确定第一相机采集当前帧彩色图像时的位姿。本公开可以提高定位的精确度。
Description
技术领域
本公开涉及计算机视觉技术领域,具体而言,涉及一种位姿确定方法、位姿确定装置、计算机可读存储介质和电子设备。
背景技术
在计算机视觉技术领域,视觉定位是一种利用相机拍摄的图像进行定位以确定相机在真实世界中位姿的技术,其在增强现实、虚拟现实、机器人、智能交通等领域均具有重要的应用价值。
在多个相机执行视觉定位的场景中,可能出现定位精度差的问题。
发明内容
本公开提供一种位姿确定方法、位姿确定装置、计算机可读存储介质和电子设备,进而至少在一定程度上克服视觉定位精度差的问题。
根据本公开的第一方面,提供了一种位姿确定方法,应用于终端设备,终端设备配置有第一相机和至少一个第二相机,该位姿确定方法包括:获取第一相机采集的当前帧彩色图像,确定第一相机采集的当前帧彩色图像上与第一相机采集的上一帧彩色图像匹配的第一二维特征点;获取第二相机采集的当前帧彩色图像,确定第二相机采集的当前帧彩色图像上与第二相机采集的上一帧彩色图像匹配的第二二维特征点;利用第一相机的第一相机坐标系与第二相机的第二相机坐标系之间的转换矩阵将第二二维特征点转换为第一相机坐标系下的第三二维特征点;根据第一二维特征点、第三二维特征点、第一相机采集的上一帧彩色图像在世界坐标系下的三维特征点以及第二相机采集的上一帧彩色图像在世界坐标系下的三维特征点,确定第一相机采集当前帧彩色图像时的位姿。
根据本公开的第二方面,提供了一种位姿确定装置,配置于终端设备,终端设备还配置有第一相机和至少一个第二相机,该位姿确定装置包括:第一特征点确定模块,用于获取第一相机采集的当前帧彩色图像,确定第一相机采集的当前帧彩色图像上与第一相机采集的上一帧彩色图像匹配的第一二维特征点;第二特征点确定模块,用于获取第二相机采集的当前帧彩色图像,确定第二相机采集的当前帧彩色图像上与第二相机采集的上一帧彩色图像匹配的第二二维特征点;特征点转换模块,用于利用第一相机的第一相机坐标系与第二相机的第二相机坐标系之间的转换矩阵将第二二维特征点转换为第一相机坐标系下的第三二维特征点;位姿确定模块,用于根据第一二维特征点、第三二维特征点、第一相机采集的上一帧彩色图像在世界坐标系下的三维特征点以及第二相机采集的上一帧彩色图像在世界坐标系下的三维特征点,确定第一相机采集当前帧彩色图像时的位姿。
根据本公开的第三方面,提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现上述的位姿确定方法。
根据本公开的第四方面,提供了一种电子设备,包括处理器;存储器,用于存储一个或多个程序,当一个或多个程序被处理器执行时,使得处理器实现上述的位姿确定方法。
在本公开的一些实施例所提供的技术方案中,确定第一相机采集的当前帧彩色图像上与第一相机采集的上一帧彩色图像匹配的第一二维特征点,确定第二相机采集的当前帧彩色图像上与第二相机采集的上一帧彩色图像匹配的第二二维特征点,将第二二维特征点转换到第一相机坐标系下以得到第三二维特征点,并根据第一二维特征点、第三二维特征点、第一相机采集的上一帧彩色图像在世界坐标系下的三维特征点以及第二相机采集的上一帧彩色图像在世界坐标系下的三维特征点,确定第一相机采集当前帧彩色图像时的位姿。本公开通过将第二相机采集的特征点转换到第一相机坐标系下,以与第一相机采集的特征点一并进行位姿计算,由于特征点来自至少两个相机,并进行了坐标系的统一,采集的特征点更多,即参与统一处理的特征点更全面,确定出的位姿更准确,提高了定位的精确度。另外,本公开的位姿确定过程考虑到了帧间的关联性,结合了上一帧图像的特征信息,用上一帧的数据进行约束,进一步提高了定位的精确度。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。显而易见地,下面描述中的附图仅仅是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。在附图中:
图1示出了本公开实施例的位姿确定系统的系统架构的示意图;
图2示出了本公开实施例的双相机在终端设备上的摆放方式的示意图;
图3示出了本公开实施例的双相机的摆放角度的示意图;
图4示出了本公开实施例的位姿确定方案所涉及的各个处理阶段的示意图;
图5示意性示出了本公开示例性实施方式的位姿确定方法的流程图;
图6示出了本公开实施例的双相机点对匹配的示意图;
图7示出了本公开实施例的定位初始化的过程的流程图;
图8示出了本公开实施例的确定两个平面的示意图;
图9示出了本公开实施例的确定地平面的示意图;
图10示出了本公开实施例的确定第一相机坐标系与世界坐标系之间的转换矩阵的过程的流程图;
图11示意性示出了本公开第一示例性实施方式的位姿确定装置的方框图;
图12示意性示出了本公开第二示例性实施方式的位姿确定装置的方框图;
图13示意性示出了本公开第三示例性实施方式的位姿确定装置的方框图;
图14示意性示出了本公开第四示例性实施方式的位姿确定装置的方框图;
图15示意性示出了根据本公开的示例性实施方式的电子设备的方框图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本公开将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。在下面的描述中,提供许多具体细节从而给出对本公开的实施方式的充分理解。然而,本领域技术人员将意识到,可以实践本公开的技术方案而省略所述特定细节中的一个或更多,或者可以采用其它的方法、组元、装置、步骤等。在其它情况下,不详细示出或描述公知技术方案以避免喧宾夺主而使得本公开的各方面变得模糊。
此外,附图仅为本公开的示意性图解,并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分,因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体,不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
附图中所示的流程图仅是示例性说明,不是必须包括所有的步骤。例如,有的步骤还可以分解,而有的步骤可以合并或部分合并,因此实际执行的顺序有可能根据实际情况改变。另外,下面所有的术语“第一”、“第二”、“第三”等仅是为了区分的目的,不应作为本公开内容的限制。
通过视觉定位技术,使得计算机设备可以自主感知自身在环境中的位姿状态,以便执行跟踪、监控、交互、显示画面、播放音频等任意用户提出的任务。定位的精确程度极大影响计算机设备功能的实现。
为了挺高设备视觉定位的精确程度,本公开实施方式提供了一种新的定位方案。
图1示出了本公开实施例的位姿确定系统的系统架构的示意图。参考图1,终端设备1可以包括处理器100、第一相机110和至少一个第二相机120。
终端设备1可以例如包括机器人、智能监控设备、智能跟踪设备等。其可以是一个设备整体,也可以是由多个实体单元组成的设备系统。
例如,终端设备1可以是机器狗。机器狗是一种机器人形态,具有灵活、移动能力强等优点,可以实现安防巡逻、运送物品、情感陪伴等任务。
第一相机110和至少一个第二相机120作为本公开实施方式位姿确定方案的输入传感器,可以将感测到的彩色图像和深度图像传输至处理器100。
例如,第一相机110和第二相机120可以是RealsenseD455相机。RealsenseD455相机由一个RGB相机、两个IR(红外)相机、一个IR发射器组成。RGB相机输出彩色图像,两个IR相机可以输出与彩色图像对齐的稠密深度图。RealsenseD455相机的FOV(视场角)为水平方向90°、竖直方向65°。
在终端设备1包括第一相机110和一个第二相机120的情况下,第一相机110可以是左目(left)相机,第二相机120可以是右目(right)相机,在下述实施例中,涉及的左目相机可以理解为是第一相机110,涉及的右目相机可以理解为是第二相机120。然而,应当理解的是,“左”、“右”、“第一”、“第二”仅是为了区分的示例性描述,在本公开另一些实施例中,第一相机110可以是右目相机,第二相机120可以是左目相机,本公开对此不做限制。
以第一相机110和一个第二相机120共两个相机为例,图2示出了本公开实施例的该双相机在终端设备上的摆放方式的示意图。应当理解的是,图2所示的摆放方式仅是示例性的说明,根据终端设备的类型以及相机配置空间,还可以存在多种摆放方式,本公开对此不做限制。
图3示出了本公开实施例的双相机的摆放角度的示意图。对于均是竖直摆放的第一相机110和第二相机120,它们的视角均为65°,分别对应图3中的角A和角B。在摆放时,可以将第一相机110的最左边视线与第二相机120的最右边视线平行,此时两个相机可以得到最大视野范围,即130°,对应图3中的角C。第一相机110与第二相机120之间存在狭小的共视区域。按照上述角度的设计,可以确定出第一相机110与第二相机120放置的夹角为115°,对应图3中的角D。
由此,将第一相机110与第二相机120按115°夹角竖直并列摆放,两个相机的视场为水平方向130°、竖直方向90°。实现了对两个相机视野的最大化叠加,有效增加了终端设备1的视野,为后续定位算法提供更加充足的准确。
另外,第一相机110与第二相机120支持多相机硬件同步,可以将第一相机110与第二相机120通过导线连接起来,使用同一脉冲信号触发两个相机同时曝光,实现了多个相机的硬件同步。经过硬件同步设置后,输入到后续定位算法中的图像即是同一时刻拍摄出的图像。由此,避免了由于多相机拍摄时刻不一致而造成的额外误差。
在通过上述方式摆放第一相机和第二相机之后,可以对两个相机分别进行内外参的标定,以供后续算法使用。本公开对标定的过程不做限制。
在本公开实施方式的位姿确定方案中,处理器100可以获取第一相机110采集的当前帧彩色图像,并确定第一相机110采集的当前帧彩色图像上与第一相机110采集的上一帧彩色图像匹配的第一二维特征点。
处理器100可以获取第二相机120采集的当前帧彩色图像,并确定第二相机120采集的当前帧彩色图像上与第二相机120采集的上一帧彩色图像匹配的第二二维特征点。处理器100利用第一相机110的第一相机坐标系与第二相机的第二相机坐标系之间的转换矩阵将该第二二维特征点转换为第一相机坐标系下的第三二维特征点。
接下来,处理器100可以根据第一二维特征点、第三二维特征点、第一相机110采集的上一帧彩色图像在世界坐标系下的三维特征点以及第二相机120采集的上一帧彩色图像在世界坐标系下的三维特征点,确定第一相机110采集当前帧彩色图像时的位姿。
在终端设备1配置有多个第二相机120的情况下,每个第二相机120的特征点数据均可以映射到第一相机110的第一相机坐标系下进行处理。
可以理解的是,第一相机110和第二相机120在终端设备1上的摆放位置固定,在确定出第一相机110当前位姿的情况下,即可以得到第二相机120当前的位姿和终端设备1的当前位姿。
此外,在终端设备1配置两个以上相机的情况下,可以将任意一个相机确定为算法实现上的第一相机110,并将其余相机确定为第二相机120。
基于本公开实施方式的位姿确定方案,通过将第二相机120采集的特征点转换到第一相机坐标系下,以与第一相机110采集的特征点一并进行位姿计算,由于特征点来自至少两个相机,并进行了坐标系的统一,采集的特征点更多,即参与统一处理的特征点更全面,确定出的位姿更准确,提高了定位的精确度。另外,本公开的位姿确定过程考虑到了帧间的关联性,结合了上一帧图像的特征信息,用上一帧的数据进行约束,进一步提高了定位的精确度。
在实现本公开实施方式的位姿确定过程中,涉及多个处理阶段。参考图4,涉及的处理阶段包括但不限于坐标系对齐阶段、定位初始化阶段和实时定位阶段。
针对坐标系对齐阶段,终端设备确定出第一相机坐标系与世界坐标系之间的转换矩阵。
首先,终端设备可以利用第一相机输出的深度图像和第二相机输出的深度图像,构建点云。其中,可以两幅深度图像对应的三维空间点进行合并,以得到三维特征点的点云。
接下来,终端设备利用平面检测算法从点云中提取平面信息,并根据提取到的平面信息筛选出指定平面(如地平面)。
然后,终端设备可以根据指定平面的法向量和重力向量计算转换矩阵,以实现第一相机坐标系与世界坐标系的对齐。
另外,可以理解的是,基于预先的内外参标定结果,可以获知第一相机坐标系与第二相机坐标系之间的转换矩阵。在这种情况下,也可以得到第二相机坐标系与世界坐标系之间的转换矩阵,实现第一相机坐标系、第二相机坐标系、世界坐标系三者之间的对齐。
针对定位初始化阶段,终端设备可以确定第一相机初始拍摄彩色图像时的位姿。应当理解的是,本公开所说的相机拍摄图像时的位姿指的是在世界坐标系下的位姿。
一方面,终端设备可以确定第一相机采集的初始帧彩色图像对应的三维特征点,该三维特征点是在第一相机坐标系下的特征点。
另一方面,可以设置初始旋转矩阵和初始平移向量。例如,初始旋转矩阵为单位矩阵,初始平移向量为[0,0,0]。
在确定出初始帧彩色图像对应的三维特征点以及初始旋转矩阵和初始平移向量之后,即完成在第一相机坐标系下的定位初始化。
接下来,结合坐标系对齐阶段确定出的第一相机坐标系与世界坐标系之间的转换矩阵,可以将第一相机坐标系下的定位初始化结果转换为世界坐标系下的定位初始化结果,即确定出第一相机采集初始帧彩色图像时的位姿。
针对实时定位阶段,终端设备可以结合定位初始化阶段确定出的初始位姿对实时得到当前帧的位姿。在此过程中,可以将第二相机的特征转移到第一相机坐标系下,与第一相机的特征联合进行位姿求解,完成当前帧的位姿预测。
下面对本公开实施方式的位姿确定方法进行示例性说明。
图5示意性示出了本公开的示例性实施方式的位姿确定方法的流程图。参考图5,该位姿确定方法可以包括以下步骤:
S52.获取第一相机采集的当前帧彩色图像,确定第一相机采集的当前帧彩色图像上与第一相机采集的上一帧彩色图像匹配的第一二维特征点。
在本公开的示例性实施方式中,当前帧彩色图像为相机在当前时刻采集到的彩色图像,上一帧彩色图像为相机在上一帧采集到的彩色图像。本公开对图像的尺寸、拍摄场景等均不做限制。
在获取到第一相机采集的当前帧彩色图像之后,终端设备可以提取第一相机采集的当前彩色图像的特征点。
本公开示例性实施方式采用的特征提取算法可以包括但不限于FAST特征点检测算法、DOG特征点检测算法、Harris特征点检测算法、SIFT特征点检测算法、SURF特征点检测算法等。特征描述子可以包括但不限于BRIEF特征点描述子、BRISK特征点描述子、FREAK特征点描述子等。
根据本公开的一个实施例,特征提取算法和特征描述子的组合可以是FAST特征点检测算法和BRIEF特征点描述子。根据本公开的另一些实施例,特征提取算法和特征描述子的组合可以是DOG特征点检测算法和FREAK特征点描述子。
应当理解的是,还可以针对不同纹理场景采用不同的组合形式,例如,针对强纹理场景,可以采用FAST特征点检测算法和BRIEF特征点描述子来进行特征提取;针对弱纹理场景,可以采用DOG特征点检测算法和FREAK特征点描述子来进行特征提取。
在当前帧彩色图像对应的上一帧彩色图像的处理过程中,同样存在提取特征点的过程。由此,终端设备可以利用第一相机采集的当前帧彩色图像的特征点以及第一相机采集的上一帧彩色图像的特征点,确定出两张图像之间匹配的二维特征点,即本公开所说的第一二维特征点。
具体的,可以采用光流法确定特征点的匹配关系,即利用第一相机采集的当前帧彩色图像的特征点以及第一相机采集的上一帧彩色图像的特征点进行光流跟踪,以确定出第一二维特征点。另外,还可以采用其他图像匹配方法来确定2D-2D特征点对,本公开对此不做限制。
S54.获取第二相机采集的当前帧彩色图像,确定第二相机采集的当前帧彩色图像上与第二相机采集的上一帧彩色图像匹配的第二二维特征点。
应当理解的是,与步骤S52相比,虽然都存在当前帧彩色图像和上一帧彩色图像的描述,然而,步骤S52中的当前帧彩色图像和上一帧彩色图像是由第一相机采集,步骤S54中的当前帧彩色图像和上一帧彩色图像是由第二相机采集。
在获取到第二相机采集的当前帧彩色图像之后,终端设备可以提取第二相机采集的当前彩色图像的特征点。特征点的提取方式可以与步骤S52中提取特征点的方式相同,不再赘述。
终端设备可以利用第二相机采集的当前帧彩色图像的特征点以及第二相机采集的上一帧彩色图像的特征点进行光流跟踪,以确定出第二二维特征点。
S56.利用第一相机的第一相机坐标系与第二相机的第二相机坐标系之间的转换矩阵将第二二维特征点转换为第一相机坐标系下的第三二维特征点。
在本公开的示例性实施方式中,为了区分,将第一相机的相机坐标系记为第一相机坐标系,将第二相机的相机坐标系记为第二相机坐标系。
在第一相机和第二相机于终端设备上的摆放位置固定的情况下,预先对第一相机和第二相机进行内参、外参的标定,从标定结果中可以确定出第一相机的第一相机坐标系与第二相机的第二相机坐标系之间的转换矩阵。
终端设备可以获取第一相机坐标系与第二相机坐标系之间的转换矩阵以及第二二维特征点的深度信息,并根据该转换矩阵、第二二维特征点的深度信息以及第二特征点确定第三二维特征点。该第三二维特征点为第二二维特征点转换到第一相机坐标系下的二维特征点。
具体的,可以将转换矩阵、第二二维特征点的深度信息以及第二二维特征点相乘,并对相乘的结果进行归一化处理,以确定出第三二维特征点。其中,乘法运算中的第二二维特征点指的是这些特征点的位置坐标信息。可以利用公式1确定出第三二维特征点
其中,Tlr为第一相机坐标系与第二相机坐标系之间的转换矩阵,dj为第二二维特征点的深度值,为第二二维特征点。
S58.根据第一二维特征点、第三二维特征点、第一相机采集的上一帧彩色图像在世界坐标系下的三维特征点以及第二相机采集的上一帧彩色图像在世界坐标系下的三维特征点,确定第一相机采集当前帧彩色图像时的位姿。
在本公开的示例性实施方式中,第一二维特征点和第三二维特征点组成二维坐标信息,第一相机采集的上一帧彩色图像在世界坐标系下的三维特征点和第二相机采集的上一帧彩色图像在世界坐标系下的三维特征点组成三维坐标信息。
终端设备可以将二维坐标系信息与三维坐标信息关联,以得到点对信息,并利用该点对信息求解透视n点(Perspective-n-Point,PnP)问题,并结合求解结果确定所述第一相机采集当前帧彩色图像时的位姿。
其中,PnP是机器视觉领域的方法,可以根据场景中的n个特征点来确定相机的相对位姿。具体可以根据场景上的n个特征点来确定相机的旋转矩阵和平移向量。
应当注意的是,本公开确定上一帧彩色图像在世界坐标系下的三维特征点的过程可以当前帧的处理过程中进行,也可以在上一帧的处理过程中进行,本公开对此不做限制。
下面对确定第一相机采集的上一帧彩色图像在世界坐标系下的三维特征点的过程进行说明。
首先,终端设备可以获取第一相机采集的上一帧彩色图像,并提取第一相机采集的上一帧彩色图像的特征点。其中,提取特征点的过程与步骤S52中的过程相同,在此不在赘述。
接下来,终端设备可以利用与第一相机采集的上一帧彩色图像对齐的上一帧深度图像,对第一相机采集的上一帧彩色图像的特征点进行空间投射,以得到第一相机采集的上一帧彩色图像在第一相机坐标系下的三维特征点。其中,该上一帧深度图像可以由第一相机输出,或者可以由终端设备配备的其他深度相机得到,本公开对此不做限制。
另外,为了进一步提高本公开定位的精度,还可以对空间投射过程进行约束。具体的,终端设备可以利用与第一相机采集的上一帧彩色图像对齐的上一帧深度图像,对第一相机采集的上一帧彩色图像的特征点中处于预定深度范围内的特征点进行空间投射,以得到第一相机采集的上一帧彩色图像在第一相机坐标系下的三维特征点。
预定深度范围基于深度测量的量程确定出,深度相机类型、型号的不同,预定深度范围的取值可能存在差异,本公开对预定深度范围的具体取值不做限制。例如,深度值大于0.5m且小于6m的特征点进行空间投射。
然后,终端设备可以根据第一相机采集上一帧彩色图像时的位姿,对第一相机坐标系下的三维特征点进行转换,以得到第一相机采集的上一帧彩色图像在世界坐标系下的三维特征点。参考公式2:
其中,为第一相机采集的上一帧彩色图像在世界坐标系下的三维特征点,为第一相机采集的上一帧彩色图像在第一相机坐标系下的三维特征点,Tw_last为第一相机采集上一帧彩色图像时的位姿。
需要说明的是,第一相机采集上一帧彩色图像时的位姿在上一帧图像的处理过程中可以确定出,也就是说,在当前帧的处理过程中,上一帧对应的位姿是已知的。对于初始的位姿,在本公开定位初始化的过程中进行说明。
下面对确定第二相机采集的上一帧彩色图像在世界坐标系下的三维特征点的过程进行说明。
首先,终端设备可以获取第二相机采集的上一帧彩色图像,并提取第二相机采集的上一帧彩色图像的特征点。其中,提取特征点的过程与步骤S52中的过程相同,在此不在赘述。
接下来,终端设备可以利用与第二相机采集的上一帧彩色图像对齐的上一帧深度图像,对第二相机采集的上一帧彩色图像的特征点进行空间投射,以得到第二相机采集的上一帧彩色图像在第二相机坐标系下的三维特征点。其中,该上一帧深度图像可以由第二相机输出,或者可以由终端设备配备的其他深度相机得到,本公开对此不做限制。
类似地,为了进一步提高本公开定位的精度,还可以对空间投射过程进行约束。具体的,终端设备可以利用与第二相机采集的上一帧彩色图像对齐的上一帧深度图像,对第二相机采集的上一帧彩色图像的特征点中处于预定深度范围内的特征点进行空间投射,以得到第二相机采集的上一帧彩色图像在第二相机坐标系下的三维特征点。
预定深度范围基于深度测量的量程确定出,深度相机类型、型号的不同,预定深度范围的取值可能存在差异,本公开对预定深度范围的具体取值不做限制。例如,深度值大于0.5m且小于6m的特征点进行空间投射。
随后,终端设备可以利用第一相机坐标系与第二相机坐标系之间的转换矩阵将第二相机采集的上一帧彩色图像在第二相机坐标系下的三维特征点转换为第一相机坐标系下的三维特征点。
然后,终端设备可以根据第一相机采集上一帧彩色图像时的位姿,对该转换而来的第一相机坐标系下的三维特征点再次进行转换,以得到第二相机采集的上一帧彩色图像在世界坐标系下的三维特征点。
下面参考公式3对上述过程进行说明:
其中,为第二相机采集的上一帧彩色图像在世界坐标系下的三维特征点,为第二相机采集的上一帧彩色图像在第二相机坐标系下的三维特征点,Tw_last为第一相机采集上一帧彩色图像时的位姿,Tlr为第一相机坐标系与第二相机坐标系之间的转换矩阵。
结合上述点对匹配关系,图6给出了第一相机和第二相机点对匹配进而实现PnP位姿求解的示意图,其中涉及当前帧2D-2D特征点匹配的关系以及3D-2D特征点的匹配关系。
在上述确定上一帧彩色图像在世界坐标系下的三维特征点的过程中,利用了第一相机采集上一帧彩色图像时的位姿。下面对第一相机的初始位姿的确定过程进行说明。
根据本公开的一些实施例,首先,终端设备可以获取第一相机采集的初始帧彩色图像,并提取第一相机采集的初始帧彩色图像的特征点。其中,提取特征点的过程与步骤S52中的过程相同,在此不在赘述。
接下来,终端设备可以利用与第一相机采集的初始帧彩色图像对齐的初始帧深度图像,对第一相机采集的初始帧彩色图像的特征点进行空间投射,以得到第一相机采集的初始帧彩色图像在第一相机坐标系下的三维特征点。
类似地,为了进一步提高本公开定位的精度,还可以对空间投射过程进行约束。具体的,终端设备可以利用与第一相机采集的初始帧彩色图像的特征点中处于预定深度范围内的特征点进行空间投射,以得到第一相机采集的初始帧彩色图像在第一相机坐标系下的三维特征点。
预定深度范围基于深度测量的量程确定出,深度相机类型、型号的不同,预定深度范围的取值可能存在差异,本公开对预定深度范围的具体取值不做限制。例如,深度值大于0.5m且小于6m的特征点进行空间投射。
随后,终端设备可以根据第一相机采集的初始帧彩色图像在第一相机坐标系下的三维特征点、初始旋转矩阵和初始平移向量,确定出第一相机在第一相机坐标系下的初始定位结果。
在本公开的一个实施例中,可以将初始旋转矩阵设定为单位矩阵,将平移向量设置为[0,0,0]。
应当注意的是,在得知第一相机采集的初始帧彩色图像在第一相机坐标系下的三维特征点、初始旋转矩阵和初始平移向量的情况下,此时确定出的仅是第一相机在第一相机坐标系下的位姿。为了得到应用于后续当前帧处理过程的位姿,需要对该位姿进行转换,以得到第一相机在世界坐标系下的位姿。
具体的,终端设备可以利用第一相机坐标系与世界坐标系之间的转换矩阵,对第一相机在第一相机坐标系下的初始定位结果进行转换,以确定出第一相机采集初始帧彩色图像时的位姿。
根据本公开的另一些实施例,针对第一相机的初始位姿的确定过程还可以结合第二相机的特征数据,下面对此过程进行说明。
一方面,终端设备可以确定出第一相机采集的初始帧彩色图像在第一相机坐标系下的三维特征点。
另一方面,终端设备可以获取第二相机采集的初始帧彩色图像,并提取第二相机采集的初始帧彩色图像的特征点。其中,提取特征点的过程与步骤S52中的过程相同,在此不在赘述。
终端设备可以利用与第二相机采集的初始帧彩色图像对齐的初始帧深度图像,对第二相机采集的初始帧彩色图像的特征点进行空间投射,以得到第二相机采集的初始帧彩色图像在第二相机坐标系下的三维特征点。
类似地,还可以对空间投射过程进行约束。具体的,终端设备可以利用与第二相机采集的初始帧彩色图像的特征点中处于预定深度范围内的特征点进行空间投射,以得到第二相机采集的初始帧彩色图像在第二相机坐标系下的三维特征点。
预定深度范围基于深度测量的量程确定出,深度相机类型、型号的不同,预定深度范围的取值可能存在差异,本公开对预定深度范围的具体取值不做限制。例如,深度值大于0.5m且小于6m的特征点进行空间投射。
接下来,终端设备可以利用第一相机的第一相机坐标系与第二相机的第二相机坐标系之间的转换矩阵,将第二相机采集的初始帧彩色图像在第二相机坐标系下的三维特征点转换至第一相机坐标系下的三维特征点。
该转换后的三维特征点和第一相机采集的初始帧彩色图像在第一相机坐标系下的三维特征点可以合并,得到合并后的三维特征点。可以理解的是,合并后的三维特征点是在第一相机坐标系下的三维特征点。
随后,终端设备可以根据合并后的三维特征点、初始旋转矩阵和初始平移向量,确定出第一相机在第一相机坐标系下的初始定位结果。例如,可以将初始旋转矩阵设定为单位矩阵,将平移向量设置为[0,0,0]。
然后,终端设备可以利用第一相机坐标系与世界坐标系之间的转换矩阵,对第一相机在第一相机坐标系下的初始定位结果进行转换,以确定出第一相机采集初始帧彩色图像时的位姿。
下面将参考图7对本公开实施例的定位初始化的过程进行说明。
在步骤S702中,终端设备可以获取第一相机采集的初始帧彩色图像,并提取第一相机采集的初始帧彩色图像的特征点。
在步骤S704中,终端设备可以结合与第一相机采集的初始帧彩色图像对齐的深度图像进行空间投射,以得到第一相机采集的初始帧彩色图像在第一相机坐标系下的三维特征点。如上述实施例中说明的是,步骤S704确定出的三维特征点还可以包括第二相机采集初始帧彩色图像对应的三维特征点。
在步骤S706中,终端设备可以根据步骤S704确定出的三维特征点、初始旋转矩阵和初始平移向量,确定第一相机在第一相机坐标系下的初始定位结果。
在步骤S708中,终端设备可以利用第一相机坐标系与世界坐标系之间的转换矩阵对初始定位结果进行转换,以确定出第一相机采集初始帧彩色时的位姿,完成定位初始化。
在上述处理过程中,利用到了第一相机坐标系与世界坐标系之间的转换矩阵,对于该预先确定的转换矩阵,本公开实施方式提供了一种坐标系对齐方案。具体的,结合深度信息来实现坐标系对齐,为了区分,在下面的实施例中,采用参考深度图像的术语对坐标系对齐的过程进行说明。
首先,终端设备可以获取第一相机输出的参考深度图像。
接下来,在结合第一相机输出的参考深度图像确定出场景中存在指定平面的情况下,终端设备可以根据指定平面的法向量和重力向量确定第一相机坐标系与世界坐标系之间的转换矩阵。
其中,重力向量可以为Ng(0,0,1),在这种情况下,指定平面通常为地平面,以与终端设备为例如机器狗的场景匹配。然而,可以理解的是,指定平面还可以是特定场景下人为指定的平面,例如墙面、桌面等,本公开对此不做限制。
如果将指定平面的法向量记为nc,将nc旋转Rwc之后,可与Ng重合,即可实现第一相机坐标系与世界坐标系的对齐。其中。Rwc为第一相机坐标系与世界坐标系之间的转换矩阵,Rwc的转轴ω可以由Ng与nc叉乘得到,如公式4所示:
ω=Ng×nc (公式4)
Rwc的转角θ可以由Ng与nc点乘得到,如公式5所示:
转轴ω和转角θ构成了第一相机坐标系与世界坐标系之间的旋转向量,根据罗德里格斯公式,终端设备可以计算出第一相机坐标系与世界坐标系之间的转换矩阵Rwc。由此,坐标系对齐的线程结束。
在上述处理过程中,如果场景中不存在指定平面,则终端设备可以返回获取参考深度图像的步骤,重新获取参考深度图像,并进行是否存在指定平面的判断过程。
下面对指定平面的确定过程进行说明。
首先,终端设备可以结合第一相机输出的参考深度图像,确定出第一相机对应的点云,记为参考点云。
根据本公开的一些实施例,终端设备针对第一相机输出的参考深度图像上的每一个像素点,根据像素点、像素点的深度值和第一相机的相机内参确定参考深度图像上各像素点的三维空间点。公式6给出了此处确定三维空间点的方式:
P=z*K-1*p (公式6)
其中,P表示投射到空间的三维空间点,z表示该像素点的深度值,K-1表示相机内参矩阵的逆,p表示该像素点的坐标位置。
在这些实施例中,可以由经此过程得到三维空间点构建出第一相机对应的参考点云。
根据本公开的另一些实施例,一方面,终端设备针对第一相机输出的参考深度图像上的每一个像素点,根据像素点、像素点的深度值和第一相机的相机内参确定参考深度图像上各像素点的三维空间点。
另一方面,终端设备可以获取第二相机输出的参考深度图像,并结合上述公式6确定第二相机输出的参考深度图像上每一个像素点的三维空间点。
终端设备可以根据第一相机坐标系与第二相机坐标系之间的转换矩阵将第二相机输出的参考深度图像上每一个像素点的三维空间点进行转换,以得到转换后的三维空间点。
由此,将第一相机输出的参考深度图像上每一个像素点的三维空间点与上述转换后的三维空间点合并,以构建出第一相机对应的参考点云。参考公式7:
PC_mixture=PC_left+Tlr*PC_right (公式7)
其中,PC_mixture为确定出的参考点云,PC_right为第二相机输出的参考深度图像上每一个像素点的三维空间点,PC_left为第一相机输出的参考深度图像上每一个像素点的三维空间点,Tlr为第一相机坐标系与第二相机坐标系之间的转换矩阵。
在这些实施例中,参考点云的构建融合了第二相机输出的深度图像的信息,由此,空间特征点更加全面,提高算法的准确度。
在确定出第一相机对应的参考点云之后,终端设备可以提取参考点云的平面信息。本公开对平面提取方式不做限制,可以采用ransac拟合的方式、法向量区域生长的方式、层次聚类的方式等等,只要能够提取出场景中的平面信息即可。本公开一些实施例采用了基于层次聚类的平面提取算法peac,参考图8,利用该算法可以提取到的两个平面,图8仅是示例,利用上述算法可以提取到场景中的所有平面。
可以理解的是,提取到的平面信息包括但不限于平面id、平面的法向量、平面距相机的距离等。
在基于参考点云提取到平面之后,终端设备可以根据参考点云的平面信息筛选指定平面。具体的,终端设备可以根据参考点云的平面信息中包含的平面距第一相机的距离信息筛选指定平面。
在该距离信息中包含预定距离范围内的距离的情况下,终端设备可以确定与该距离对应的候选平面,此时确定出的候选平面的数量为一个或多个。
在候选平面的数量为一个的情况下,终端设备可以将该候选平面确定为指定平面。
在候选平面的数量为多个的情况下,终端设备可以将距第一相机的距离最接近距离阈值的候选平面确定为指定平面。其中,该距离阈值在上述预定距离范围内。
图9示出了筛选出地平面的示意图,相对于平面检测的结果,通过上述基于距离的筛选过程,剔除了例如天花板等平面。
以终端设备是机器狗为例,终端设备配置有第一相机和一个第二相机,两个相机的配置位置固定,在实施方案时,控制机器狗运动一小段时间,仅在地平面上运动。基于此先验条件,地平面在第一相机坐标系下的位置基本固定。地平面距离相机的高度与机器狗的高度相当,约为0.3m。由此,可以将上述预定距离范围设置为0.25m至0.35m,作为地平面。如果筛选出多个候选平面,则将距离最近接0.3m的平面作为地平面。
应当理解的是,如果在此过程中未检测到地平面,则控制终端设备不断重复上述深度图像确定平面以及平面筛选的过程,直至终端设备检测到地平面为止。
下面参考图10对本公开实施例的坐标系对齐的过程进行说明。
在步骤S1002中,终端设备获取第一相机输出的参考深度图像,并将该参考深度图像反投影以得到空间中的三维空间点。
在步骤S1004中,终端设备获取第二相机输出的参考深度图像,并将该参考深度图像反投影以得到空间中的三维空间点。
在步骤S1006中,终端设备将步骤S1004得到的三维空间点转换至第一相机坐标系下的三维空间点。
在步骤S1008中,终端设备将步骤S1002得到的三维空间点与步骤S1006得到的三维空间点合并,以得到第一相机对应的参考点云。
在步骤S1010中,终端设备可以基于参考点云提取平面信息。
在步骤S1012中,终端设备可以对提取到的平面进行筛选,确定出地平面;
在步骤S1014中,终端设备可以利用地平面的法向量和重力向量确定第一相机坐标系与世界坐标系之间的转换矩阵,以完成第一相机坐标系与世界坐标系的对齐。
另外,鉴于第一相机坐标系与第二相机坐标系之间的关系已通过标定确定出,由此,还可以得到第二相机坐标系与世界坐标系之间的转换矩阵,以实现第一相机坐标系、第二相机坐标系、世界坐标系三者的对齐。由此,可以将坐标系对齐结果应用于本公开上述位姿确定过程中。
应当注意,尽管在附图中以特定顺序描述了本公开中方法的各个步骤,但是,这并非要求或者暗示必须按照该特定顺序来执行这些步骤,或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的,可以省略某些步骤,将多个步骤合并为一个步骤执行,以及/或者将一个步骤分解为多个步骤执行等。
进一步的,本示例实施方式中还提供了一种位姿确定装置。该位姿确定装置配置于终端设备,终端设备还配置有第一相机和至少一个第二相机。
图11示意性示出了本公开的示例性实施方式的位姿确定装置的方框图。参考图11,根据本公开的示例性实施方式的位姿确定装置11可以包括第一特征点确定模块111、第二特征点确定模块113、特征点转换模块115和位姿确定模块117。
具体的,第一特征点确定模块111可以用于获取第一相机采集的当前帧彩色图像,确定第一相机采集的当前帧彩色图像上与第一相机采集的上一帧彩色图像匹配的第一二维特征点;第二特征点确定模块113可以用于获取第二相机采集的当前帧彩色图像,确定第二相机采集的当前帧彩色图像上与第二相机采集的上一帧彩色图像匹配的第二二维特征点;特征点转换模块115可以用于利用第一相机的第一相机坐标系与第二相机的第二相机坐标系之间的转换矩阵将第二二维特征点转换为第一相机坐标系下的第三二维特征点;位姿确定模块117可以用于根据第一二维特征点、第三二维特征点、第一相机采集的上一帧彩色图像在世界坐标系下的三维特征点以及第二相机采集的上一帧彩色图像在世界坐标系下的三维特征点,确定第一相机采集当前帧彩色图像时的位姿。
根据本公开的示例性实施例,第一特征点确定模块111可以被配置为执行:提取第一相机采集的当前帧彩色图像的特征点;利用第一相机采集的当前帧彩色图像的特征点以及第一相机采集的上一帧彩色图像的特征点进行光流跟踪,以确定出第一二维特征点。
根据本公开的示例性实施例,特征点转换模块115可以被配置为执行:获取第一相机的第一相机坐标系与第二相机的第二相机坐标系之间的转换矩阵以及第二二维特征点的深度信息;根据转换矩阵、第二二维特征点的深度信息以及第二二维特征点确定第三二维特征点。
根据本公开的示例性实施例,特征点转换模块115可以被配置为执行:将转换矩阵、第二二维特征点的深度信息以及第二二维特征点相乘,并对相乘的结果进行归一化处理,以确定出第三二维特征点。
根据本公开的示例性实施例,第一二维特征点和第三二维特征点组成二维坐标信息,第一相机采集的上一帧彩色图像在世界坐标系下的三维特征点和第二相机采集的上一帧彩色图像在世界坐标系下的三维特征点组成三维坐标信息。在这种情况下,位姿确定模块117可以被配置为执行:将二维坐标信息与三维坐标信息关联,以得到点对信息;利用点对信息求解透视n点问题,并结合求解结果确定第一相机采集当前帧彩色图像时的位姿。
根据本公开的示例性实施例,参考图12,相比于位姿确定装置11,位姿确定装置12还可以包括第三特征点确定模块121。
具体的,第三特征点确定模块121可以被配置为执行:获取第一相机采集的上一帧彩色图像,提取第一相机采集的上一帧彩色图像的特征点;利用与第一相机采集的上一帧彩色图像对齐的上一帧深度图像,对第一相机采集的上一帧彩色图像的特征点进行空间投射,以得到第一相机采集的上一帧彩色图像在第一相机坐标系下的三维特征点;根据第一相机采集上一帧彩色图像时的位姿,对第一相机坐标系下的三维特征点进行转换,以得到第一相机采集的上一帧彩色图像在世界坐标系下的三维特征点。
根据本公开的示例性实施例,第三特征点确定模块121可以被配置为执行:利用与第一相机采集的上一帧彩色图像对齐的上一帧深度图像,对第一相机采集的上一帧彩色图像的特征点中处于预定深度范围内的特征点进行空间投射,以得到第一相机采集的上一帧彩色图像在第一相机坐标系下的三维特征点;其中,预定深度范围基于深度测量的量程确定出。
根据本公开的示例性实施例,第三特征点确定模块121还可以被配置为执行:获取第二相机采集的上一帧彩色图像,提取第二相机采集的上一帧彩色图像的特征点;利用与第二相机采集的上一帧彩色图像对齐的上一帧深度图像,对第二相机采集的上一帧彩色图像的特征点进行空间投射,以得到第二相机采集的上一帧彩色图像在第二相机坐标系下的三维特征点;利用第一相机坐标系与第二相机坐标系之间的转换矩阵将第二相机采集的上一帧彩色图像在第二相机坐标系下的三维特征点转换为第一相机坐标系下的三维特征点;根据第一相机采集上一帧彩色图像时的位姿,对第一相机坐标系下的三维特征点进行转换,以得到第二相机采集的上一帧彩色图像在世界坐标系下的三维特征点。
根据本公开的示例性实施例,第三特征点确定模块121还可以被配置为执行:利用与第二相机采集的上一帧彩色图像对齐的上一帧深度图像,对第二相机采集的上一帧彩色图像的特征点中处于预定深度范围内的特征点进行空间投射,以得到第二相机采集的上一帧彩色图像在第二相机坐标系下的三维特征点;其中,预定深度范围基于深度测量的量程确定出。
根据本公开的示例性实施例,参考图13,相比于位姿确定装置11,位姿确定装置13还可以包括定位初始化模块131。
具体的,定位初始化模块131可以被配置为执行:获取第一相机采集的初始帧彩色图像,提取第一相机采集的初始帧彩色图像的特征点;利用与第一相机采集的初始帧彩色图像对齐的初始帧深度图像,对第一相机采集的初始帧彩色图像的特征点进行空间投射,以得到第一相机采集的初始帧彩色图像在第一相机坐标系下的三维特征点;根据第一相机采集的初始帧彩色图像在第一相机坐标系下的三维特征点、初始旋转矩阵和初始平移向量,确定第一相机在第一相机坐标系下的初始定位结果;利用第一相机坐标系与世界坐标系之间的转换矩阵,对第一相机在第一相机坐标系下的初始定位结果进行转换,以确定出第一相机采集初始帧彩色图像时的位姿。
根据本公开的示例性实施例,参考图14,相比于位姿确定装置13,位姿确定装置14还可以包括转换矩阵确定模块141。
具体的,转换矩阵确定模块141可以被配置为执行:获取第一相机输出的参考深度图像;在结合第一相机输出的参考深度图像确定出指定平面的情况下,根据指定平面的法向量和重力向量确定第一相机坐标系与世界坐标系之间的转换矩阵。
根据本公开的示例性实施例,转换矩阵确定模块141可以被配置为执行:结合第一相机输出的参考深度图像,确定出第一相机对应的参考点云;提取参考点云的平面信息;根据参考点云的平面信息筛选指定平面。
根据本公开的示例性实施例,转换矩阵确定模块141确定参考点云的过程可以被配置为执行:针对第一相机输出的参考深度图像上的每一个像素点,根据像素点、像素点的深度值和第一相机的相机内参确定像素点的三维空间点;结合第一相机输出的参考深度图像上的每一个像素点的三维空间点,构建第一相机对应的参考点云。
根据本公开的示例性实施例,转换矩阵确定模块141确定参考点云的过程还可以被配置为执行:获取第二相机输出的参考深度图像;确定第二相机输出的参考深度图像上每一个像素点的三维空间点;根据第一相机坐标系与第二相机坐标系之间的转换矩阵将第二相机输出的参考深度图像上每一个像素点的三维空间点进行转换,以得到转换后的三维空间点;将第一相机输出的参考深度图像上的每一个像素点的三维空间点与转换后的三维空间点合并,以构建出第一相机对应的参考点云。
根据本公开的示例性实施例,转换矩阵确定模块141筛选指定平面的过程可以被配置为执行:根据参考点云的平面信息中包含的平面距第一相机的距离信息筛选指定平面。
根据本公开的示例性实施例,转换矩阵确定模块141筛选指定平面的过程可以被配置为执行:在距离信息中包含预定距离范围内的距离的情况下,确定与距离信息中处于预定距离范围内的距离对应的候选平面;在候选平面的数量为一个的情况下,将候选平面确定为指定平面;在候选平面的数量为多个的情况下,将距第一相机的距离最接近距离阈值的候选平面确定为指定平面;其中,距离阈值在预定距离范围内。
根据本公开的示例性实施例,指定平面为地平面。
由于本公开实施方式的位姿确定装置的各个功能模块与上述方法实施方式中相同,因此在此不再赘述。
图15示出了适于用来实现本公开示例性实施方式的电子设备的示意图。本公开示例性实施方式的终端设备可以被配置为如图15的形式。需要说明的是,图15示出的电子设备仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
本公开的电子设备至少包括处理器和存储器,存储器用于存储一个或多个程序,当一个或多个程序被处理器执行时,使得处理器可以实现本公开示例性实施方式的位姿确定方法。
具体的,如图15所示,电子设备150至少包括:处理器1510、内部存储器1521、外部存储器接口1522、通用串行总线(Universal Serial Bus,USB)接口1530、充电管理模块1540、电源管理模块1541、电池1542、天线、无线通信模块1550、音频模块1560、显示屏1570、传感器模块1580、摄像模组1590等。其中传感器模块1580可以包括深度传感器、压力传感器、陀螺仪传感器、气压传感器、磁传感器、加速度传感器、距离传感器、接近光传感器、指纹传感器、温度传感器、触摸传感器、环境光传感器及骨传导传感器等。
可以理解的是,本公开实施例示意的结构并不构成对电子设备150的具体限定。在本公开另一些实施例中,电子设备150可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件、软件或软件和硬件的组合实现。
处理器1510可以包括一个或多个处理单元,例如:处理器1510可以包括应用处理器(Application Processor,AP)、调制解调处理器、图形处理器(Graphics ProcessingUnit,GPU)、图像信号处理器(Image Signal Processor,ISP)、控制器、视频编解码器、数字信号处理器(Digital Signal Processor,DSP)、基带处理器和/或神经网络处理器(Neural-network Processing Unit,NPU)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。另外,处理器1510中还可以设置存储器,用于存储指令和数据。
电子设备150可以通过ISP、摄像模组1590、视频编解码器、GPU、显示屏1570及应用处理器等实现拍摄功能。在一些实施例中,电子设备150可以包括至少两个摄像模组1590,在实现本公开方案时,将一个摄像模组确定为基准相机,其他摄像模组采集到的特征数据转移到该基准相机的坐标系下进行处理。例如,电子设备150配置有两个RealsenseD455相机。
内部存储器1521可以用于存储计算机可执行程序代码,所述可执行程序代码包括指令。内部存储器1521可以包括存储程序区和存储数据区。外部存储器接口1522可以用于连接外部存储卡,例如Micro SD卡,实现扩展电子设备150的存储能力。
本公开还提供了一种计算机可读存储介质,该计算机可读存储介质可以是上述实施例中描述的电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。
计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读存储介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读存储介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
计算机可读存储介质承载有一个或者多个程序,当上述一个或者多个程序被一个该电子设备执行时,使得该电子设备实现如本公开实施例中所述的方法。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现,所描述的单元也可以设置在处理器中。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本公开实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、终端装置、或者网络设备等)执行根据本公开实施方式的方法。
此外,上述附图仅是根据本公开示例性实施例的方法所包括的处理的示意性说明,而不是限制目的。易于理解,上述附图所示的处理并不表明或限制这些处理的时间顺序。另外,也易于理解,这些处理可以是例如在多个模块中同步或异步执行的。
应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本公开的实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
本领域技术人员在考虑说明书及实践这里公开的内容后,将容易想到本公开的其他实施例。本申请旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由权利要求指出。
应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限。
Claims (20)
1.一种位姿确定方法,其特征在于,应用于终端设备,所述终端设备配置有第一相机和至少一个第二相机,所述位姿确定方法包括:
获取所述第一相机采集的当前帧彩色图像,确定所述第一相机采集的当前帧彩色图像上与所述第一相机采集的上一帧彩色图像匹配的第一二维特征点;
获取所述第二相机采集的当前帧彩色图像,确定所述第二相机采集的当前帧彩色图像上与所述第二相机采集的上一帧彩色图像匹配的第二二维特征点;
利用所述第一相机的第一相机坐标系与所述第二相机的第二相机坐标系之间的转换矩阵将所述第二二维特征点转换为所述第一相机坐标系下的第三二维特征点;
根据所述第一二维特征点、所述第三二维特征点、所述第一相机采集的上一帧彩色图像在世界坐标系下的三维特征点以及所述第二相机采集的上一帧彩色图像在世界坐标系下的三维特征点,确定所述第一相机采集当前帧彩色图像时的位姿。
2.根据权利要求1所述的位姿确定方法,其特征在于,确定所述第一相机采集的当前帧彩色图像上与所述第一相机采集的上一帧彩色图像匹配的第一二维特征点包括:
提取所述第一相机采集的当前帧彩色图像的特征点;
利用所述第一相机采集的当前帧彩色图像的特征点以及所述第一相机采集的上一帧彩色图像的特征点进行光流跟踪,以确定出所述第一二维特征点。
3.根据权利要求1所述的位姿确定方法,其特征在于,利用所述第一相机的第一相机坐标系与所述第二相机的第二相机坐标系之间的转换矩阵将所述第二二维特征点转换为所述第一相机坐标系下的第三二维特征点包括:
获取所述第一相机的第一相机坐标系与所述第二相机的第二相机坐标系之间的转换矩阵以及所述第二二维特征点的深度信息;
根据所述转换矩阵、所述第二二维特征点的深度信息以及所述第二二维特征点确定所述第三二维特征点。
4.根据权利要求3所述的位姿确定方法,其特征在于,根据所述转换矩阵、所述第二二维特征点的深度信息以及所述第二二维特征点确定所述第三二维特征点包括:
将所述转换矩阵、所述第二二维特征点的深度信息以及所述第二二维特征点相乘,并对相乘的结果进行归一化处理,以确定出所述第三二维特征点。
5.根据权利要求1所述的位姿确定方法,其特征在于,所述第一二维特征点和所述第三二维特征点组成二维坐标信息,所述第一相机采集的上一帧彩色图像在世界坐标系下的三维特征点和所述第二相机采集的上一帧彩色图像在世界坐标系下的三维特征点组成三维坐标信息;其中,根据所述第一二维特征点、所述第三二维特征点、所述第一相机采集的上一帧彩色图像在世界坐标系下的三维特征点以及所述第二相机采集的上一帧彩色图像在世界坐标系下的三维特征点,确定所述第一相机采集当前帧彩色图像时的位姿,包括:
将所述二维坐标信息与所述三维坐标信息关联,以得到点对信息;
利用所述点对信息求解透视n点问题,并结合求解结果确定所述第一相机采集当前帧彩色图像时的位姿。
6.根据权利要求1所述的位姿确定方法,其特征在于,所述位姿确定方法还包括:
获取所述第一相机采集的上一帧彩色图像,提取所述第一相机采集的上一帧彩色图像的特征点;
利用与所述第一相机采集的上一帧彩色图像对齐的上一帧深度图像,对所述第一相机采集的上一帧彩色图像的特征点进行空间投射,以得到所述第一相机采集的上一帧彩色图像在所述第一相机坐标系下的三维特征点;
根据所述第一相机采集上一帧彩色图像时的位姿,对所述第一相机坐标系下的三维特征点进行转换,以得到所述第一相机采集的上一帧彩色图像在世界坐标系下的三维特征点。
7.根据权利要求6所述的位姿确定方法,其特征在于,利用与所述第一相机采集的上一帧彩色图像对齐的上一帧深度图像,对所述第一相机采集的上一帧彩色图像的特征点进行空间投射,以得到所述第一相机采集的上一帧彩色图像在所述第一相机坐标系下的三维特征点,包括:
利用与所述第一相机采集的上一帧彩色图像对齐的上一帧深度图像,对所述第一相机采集的上一帧彩色图像的特征点中处于预定深度范围内的特征点进行空间投射,以得到所述第一相机采集的上一帧彩色图像在所述第一相机坐标系下的三维特征点;
其中,所述预定深度范围基于深度测量的量程确定出。
8.根据权利要求1所述的位姿确定方法,其特征在于,所述位姿确定方法还包括:
获取所述第二相机采集的上一帧彩色图像,提取所述第二相机采集的上一帧彩色图像的特征点;
利用与所述第二相机采集的上一帧彩色图像对齐的上一帧深度图像,对所述第二相机采集的上一帧彩色图像的特征点进行空间投射,以得到所述第二相机采集的上一帧彩色图像在所述第二相机坐标系下的三维特征点;
利用所述第一相机坐标系与所述第二相机坐标系之间的转换矩阵将所述第二相机采集的上一帧彩色图像在所述第二相机坐标系下的三维特征点转换为所述第一相机坐标系下的三维特征点;
根据所述第一相机采集上一帧彩色图像时的位姿,对所述第一相机坐标系下的三维特征点进行转换,以得到所述第二相机采集的上一帧彩色图像在世界坐标系下的三维特征点。
9.根据权利要求8所述的位姿确定方法,其特征在于,利用与所述第二相机采集的上一帧彩色图像对齐的上一帧深度图像,对所述第二相机采集的上一帧彩色图像的特征点进行空间投射,以得到所述第二相机采集的上一帧彩色图像在所述第二相机坐标系下的三维特征点,包括:
利用与所述第二相机采集的上一帧彩色图像对齐的上一帧深度图像,对所述第二相机采集的上一帧彩色图像的特征点中处于预定深度范围内的特征点进行空间投射,以得到所述第二相机采集的上一帧彩色图像在所述第二相机坐标系下的三维特征点;
其中,所述预定深度范围基于深度测量的量程确定出。
10.根据权利要求1至9中任一项所述的位姿确定方法,其特征在于,所述位姿确定方法还包括:
获取所述第一相机采集的初始帧彩色图像,提取所述第一相机采集的初始帧彩色图像的特征点;
利用与所述第一相机采集的初始帧彩色图像对齐的初始帧深度图像,对所述第一相机采集的初始帧彩色图像的特征点进行空间投射,以得到所述第一相机采集的初始帧彩色图像在所述第一相机坐标系下的三维特征点;
根据所述第一相机采集的初始帧彩色图像在所述第一相机坐标系下的三维特征点、初始旋转矩阵和初始平移向量,确定所述第一相机在所述第一相机坐标系下的初始定位结果;
利用所述第一相机坐标系与所述世界坐标系之间的转换矩阵,对所述第一相机在所述第一相机坐标系下的初始定位结果进行转换,以确定出所述第一相机采集初始帧彩色图像时的位姿。
11.根据权利要求10所述的位姿确定方法,其特征在于,所述位姿确定方法还包括:
获取所述第一相机输出的参考深度图像;
在结合所述第一相机输出的参考深度图像确定出指定平面的情况下,根据所述指定平面的法向量和重力向量确定所述第一相机坐标系与所述世界坐标系之间的转换矩阵。
12.根据权利要求11所述的位姿确定方法,其特征在于,所述位姿确定方法还包括:
结合所述第一相机输出的参考深度图像,确定出所述第一相机对应的参考点云;
提取所述参考点云的平面信息;
根据所述参考点云的平面信息筛选所述指定平面。
13.根据权利要求12所述的位姿确定方法,其特征在于,结合所述第一相机输出的参考深度图像,确定出所述第一相机对应的参考点云,包括:
针对所述第一相机输出的参考深度图像上的每一个像素点,根据所述像素点、所述像素点的深度值和所述第一相机的相机内参确定所述像素点的三维空间点;
结合所述第一相机输出的参考深度图像上的每一个像素点的三维空间点,构建所述第一相机对应的参考点云。
14.根据权利要求13所述的位姿确定方法,其特征在于,结合所述第一相机输出的参考深度图像上的每一个像素点的三维空间点,构建所述第一相机对应的参考点云,包括:
获取所述第二相机输出的参考深度图像;
确定所述第二相机输出的参考深度图像上每一个像素点的三维空间点;
根据所述第一相机坐标系与所述第二相机坐标系之间的转换矩阵将所述第二相机输出的参考深度图像上每一个像素点的三维空间点进行转换,以得到转换后的三维空间点;
将所述第一相机输出的参考深度图像上的每一个像素点的三维空间点与所述转换后的三维空间点合并,以构建出所述第一相机对应的参考点云。
15.根据权利要求12所述的位姿确定方法,其特征在于,根据所述参考点云的平面信息筛选所述指定平面包括:
根据所述参考点云的平面信息中包含的平面距所述第一相机的距离信息筛选所述指定平面。
16.根据权利要求15所述的位姿确定方法,其特征在于,根据所述参考点云的平面信息中包含的平面距所述第一相机的距离信息筛选所述指定平面包括:
在所述距离信息中包含预定距离范围内的距离的情况下,确定与所述距离信息中处于所述预定距离范围内的距离对应的候选平面;
在所述候选平面的数量为一个的情况下,将所述候选平面确定为所述指定平面;
在所述候选平面的数量为多个的情况下,将距所述第一相机的距离最接近距离阈值的候选平面确定为所述指定平面;
其中,所述距离阈值在所述预定距离范围内。
17.根据权利要求11所述的位姿确定方法,其特征在于,所述指定平面为地平面。
18.一种位姿确定装置,其特征在于,配置于终端设备,所述终端设备还配置有第一相机和至少一个第二相机,所述位姿确定装置包括:
第一特征点确定模块,用于获取所述第一相机采集的当前帧彩色图像,确定所述第一相机采集的当前帧彩色图像上与所述第一相机采集的上一帧彩色图像匹配的第一二维特征点;
第二特征点确定模块,用于获取所述第二相机采集的当前帧彩色图像,确定所述第二相机采集的当前帧彩色图像上与所述第二相机采集的上一帧彩色图像匹配的第二二维特征点;
特征点转换模块,用于利用所述第一相机的第一相机坐标系与所述第二相机的第二相机坐标系之间的转换矩阵将所述第二二维特征点转换为所述第一相机坐标系下的第三二维特征点;
位姿确定模块,用于根据所述第一二维特征点、所述第三二维特征点、所述第一相机采集的上一帧彩色图像在世界坐标系下的三维特征点以及所述第二相机采集的上一帧彩色图像在世界坐标系下的三维特征点,确定所述第一相机采集当前帧彩色图像时的位姿。
19.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1至17中任一项所述的位姿确定方法。
20.一种电子设备,其特征在于,包括:
处理器;
存储器,用于存储一个或多个程序,当所述一个或多个程序被所述处理器执行时,使得所述处理器实现如权利要求1至17中任一项所述的位姿确定方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211337302.9A CN117994333A (zh) | 2022-10-28 | 2022-10-28 | 位姿确定方法及装置、计算机可读存储介质和电子设备 |
PCT/CN2023/118181 WO2024087917A1 (zh) | 2022-10-28 | 2023-09-12 | 位姿确定方法及装置、计算机可读存储介质和电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211337302.9A CN117994333A (zh) | 2022-10-28 | 2022-10-28 | 位姿确定方法及装置、计算机可读存储介质和电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117994333A true CN117994333A (zh) | 2024-05-07 |
Family
ID=90829950
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211337302.9A Pending CN117994333A (zh) | 2022-10-28 | 2022-10-28 | 位姿确定方法及装置、计算机可读存储介质和电子设备 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN117994333A (zh) |
WO (1) | WO2024087917A1 (zh) |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10388029B1 (en) * | 2017-09-07 | 2019-08-20 | Northrop Grumman Systems Corporation | Multi-sensor pose-estimate system |
CN111415387B (zh) * | 2019-01-04 | 2023-12-29 | 南京人工智能高等研究院有限公司 | 相机位姿确定方法、装置、电子设备及存储介质 |
CN114897988B (zh) * | 2022-07-14 | 2023-05-12 | 苏州魔视智能科技有限公司 | 一种铰链式车辆中的多相机定位方法、装置及设备 |
-
2022
- 2022-10-28 CN CN202211337302.9A patent/CN117994333A/zh active Pending
-
2023
- 2023-09-12 WO PCT/CN2023/118181 patent/WO2024087917A1/zh unknown
Also Published As
Publication number | Publication date |
---|---|
WO2024087917A1 (zh) | 2024-05-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108765498B (zh) | 单目视觉跟踪方法、装置及存储介质 | |
CN109947886B (zh) | 图像处理方法、装置、电子设备及存储介质 | |
US7733404B2 (en) | Fast imaging system calibration | |
CN113874870A (zh) | 基于图像的定位 | |
US9129435B2 (en) | Method for creating 3-D models by stitching multiple partial 3-D models | |
WO2019238114A1 (zh) | 动态模型三维重建方法、装置、设备和存储介质 | |
CN112927362B (zh) | 地图重建方法及装置、计算机可读介质和电子设备 | |
EP3547256A1 (en) | Extracting a feature descriptor for an image feature | |
CN106529538A (zh) | 一种飞行器的定位方法和装置 | |
CN112927363B (zh) | 体素地图构建方法及装置、计算机可读介质和电子设备 | |
CN110866977A (zh) | 增强现实处理方法及装置、系统、存储介质和电子设备 | |
WO2019221340A1 (ko) | 관심 영역의 공간 좌표를 산출하는 방법, 시스템 및 비일시성의 컴퓨터 판독 가능 기록 매체 | |
US20180020203A1 (en) | Information processing apparatus, method for panoramic image display, and non-transitory computer-readable storage medium | |
WO2023284358A1 (zh) | 相机标定方法、装置、电子设备及存储介质 | |
CN110310325B (zh) | 一种虚拟测量方法、电子设备及计算机可读存储介质 | |
CN113228117B (zh) | 创作装置、创作方法和记录有创作程序的记录介质 | |
CN116168383A (zh) | 三维目标检测方法、装置、系统和存储介质 | |
Aliakbarpour et al. | Multi-sensor 3D volumetric reconstruction using CUDA | |
CN117994333A (zh) | 位姿确定方法及装置、计算机可读存储介质和电子设备 | |
CN117115434A (zh) | 数据分割装置和方法 | |
WO2018150086A2 (en) | Methods and apparatuses for determining positions of multi-directional image capture apparatuses | |
CN108335329A (zh) | 应用于飞行器中的位置检测方法和装置、飞行器 | |
CN115482285A (zh) | 图像对齐方法、装置、设备及存储介质 | |
CN116136408A (zh) | 室内导航方法、服务器、装置和终端 | |
CN113240602A (zh) | 图像去雾方法及装置、计算机可读介质和电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |