CN108765563B - 基于ar的slam算法的处理方法、装置及设备 - Google Patents

基于ar的slam算法的处理方法、装置及设备 Download PDF

Info

Publication number
CN108765563B
CN108765563B CN201810555483.XA CN201810555483A CN108765563B CN 108765563 B CN108765563 B CN 108765563B CN 201810555483 A CN201810555483 A CN 201810555483A CN 108765563 B CN108765563 B CN 108765563B
Authority
CN
China
Prior art keywords
terminal equipment
data
test action
pose information
pose
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201810555483.XA
Other languages
English (en)
Other versions
CN108765563A (zh
Inventor
刘红保
李敏
丁广路
毛楠
钱承君
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN201810555483.XA priority Critical patent/CN108765563B/zh
Publication of CN108765563A publication Critical patent/CN108765563A/zh
Application granted granted Critical
Publication of CN108765563B publication Critical patent/CN108765563B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/05Geographic models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Geometry (AREA)
  • Computer Graphics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Remote Sensing (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • User Interface Of Digital Computer (AREA)
  • Image Analysis (AREA)

Abstract

本发明提供一种基于AR的SLAM算法的处理方法、装置及设备。本发明的方法,通过移动终端在执行AR场景的测试动作过程中,采集执行测试动作所得到的执行数据,并获取执行测试动作所对应的真实位姿信息;采用SLAM算法对执行数据进行处理得到执行测试动作所对应的估计位姿信息;根据真实位姿信息和估计位姿信息得到SLAM算法所对应的轨迹误差;根据轨迹误差对SLAM算法进行算法优化处理,实现对SLAM算法的自动化评测和优化,在AR场景规模较大时,显著提升对SLAM算法的自动化评测和优化的效率,避免了出现移动终端呈现的AR场景中出现3D虚拟物体在真实场景中的漂移和抖动以及重定位时3D虚拟物体的偏移距离大的问题。

Description

基于AR的SLAM算法的处理方法、装置及设备
技术领域
本发明涉及通信技术领域,尤其涉及一种基于AR的SLAM算法的处理方法、装置及设备。
背景技术
随着智能手机的硬件性能配置的提高,基于单目摄像头的纯视觉及时定位和地图构建(Simultaneous Localization And Mapping,简称SLAM)技术开始应用到移动终端的增强现实(Augmented Reality,简称AR)场景中。
现有的对于移动终端基于AR的SLAM算法的评测方案,评测人员选择应用了SLAM算法的AR场景,并设定每种AR场景下的一组测试动作,在每种AR场景下评测人员手持移动终端反复地执行该组测试动作,并观察3D虚拟物体在真实场景中的漂移和抖动,以及能否实现重定位和重定位时3D虚拟物体的偏移距离等。
现有的对于应用于移动终端的基于AR的SLAM算法的评测为手工测试和人为主观判断,导致移动终端呈现的AR场景中出现3D虚拟物体在真实场景中的漂移和抖动以及重定位时3D虚拟物体的偏移距离大的问题。
发明内容
本发明提供一种基于AR的SLAM算法的处理方法、装置及设备,用以解决现有的对于应用于移动终端的基于AR的SLAM算法的评测为手工测试和人为主观判断,导致移动终端呈现的AR场景中出现3D虚拟物体在真实场景中的漂移和抖动以及重定位时3D虚拟物体的偏移距离大的问题。
本发明的第一个方面是提供一种基于AR的SLAM算法的处理方法,包括:
终端设备在执行AR场景的测试动作过程中,采集执行所述测试动作所得到的执行数据,并获取执行所述测试动作所对应的真实位姿信息;
终端设备采用SLAM算法对所述执行数据进行处理,得到执行所述测试动作所对应的估计位姿信息;
终端设备根据所述真实位姿信息和估计位姿信息,得到所述SLAM算法所对应的轨迹误差;
终端设备根据所述轨迹误差,对所述SLAM算法进行算法优化处理。
本发明的第二个方面是提供一种基于AR的SLAM算法的处理方法,包括:
在终端设备执行AR场景的测试动作过程中,定位跟踪系统采集获取辅助信息,所述辅助信息用于使所述终端设备获取执行所述测试动作所对应的真实位姿信息;
所述定位跟踪系统向所述终端设备发送辅助信息。
本发明的第三个方面是提供一种基于AR的SLAM算法的处理装置,包括:
数据获取模块,用于终端设备在执行AR场景的测试动作过程中,采集执行所述测试动作所得到的执行数据,并获取执行所述测试动作所对应的真实位姿信息;
执行模块,用于终端设备采用SLAM算法对所述执行数据进行处理,得到执行所述测试动作所对应的估计位姿信息;
误差计算模块,用于终端设备根据所述真实位姿信息和估计位姿信息,得到所述SLAM算法所对应的轨迹误差;
优化模块,用于终端设备根据所述轨迹误差,对所述SLAM算法进行算法优化处理。
本发明的第四个方面是提供一种基于AR的SLAM算法的处理装置,包括:
数据采集模块,用于在终端设备执行AR场景的测试动作过程中,定位跟踪系统采集获取辅助信息,所述辅助信息用于使所述终端设备获取执行所述测试动作所对应的真实位姿信息;
发送模块,用于所述定位跟踪系统向所述终端设备发送辅助信息。
本发明的第五个方面是提供一种终端设备,包括:
存储器,处理器,以及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器运行所述计算机程序时实现上述第一方面所述的方法。
本发明的第六个方面是提供一种定位跟踪系统,包括:
跟踪器,用于在终端设备执行AR场景的测试动作的过程中跟踪所述终端设备;
存储器,处理器,以及存储在所述存储器上并可在所述处理器上运行的计算机程序,
所述处理器运行所述计算机程序时实现上述第二方面所述的方法。
本发明的第七个方面是提供一种计算机可读存储介质,存储有计算机程序,所述计算机程序被处理器执行时实现上述第一个方面所述的方法。
本发明的第八个方面是提供一种计算机可读存储介质,存储有计算机程序,所述计算机程序被处理器执行时实现上述第二个方面所述的方法。
本发明提供的基于AR的SLAM算法的处理方法、装置及设备,通过终端设备在执行AR场景的测试动作过程中,采集执行测试动作所得到的执行数据,并获取执行测试动作所对应的真实位姿信息;采用SLAM算法对执行数据进行处理,得到执行测试动作所对应的估计位姿信息;根据真实位姿信息和估计位姿信息,得到SLAM算法所对应的轨迹误差;根据轨迹误差,对SLAM算法进行算法优化处理,实现了对SLAM算法的自动化评测和优化,在AR场景规模较大时,能够显著地提升对SLAM算法的自动化评测和优化的效率,从而可以避免出现移动终端呈现的AR场景中出现3D虚拟物体在真实场景中的漂移和抖动以及重定位时3D虚拟物体的偏移距离大的问题。
附图说明
图1为本发明实施例一提供的基于AR的SLAM算法的处理方法流程图;
图2为本发明实施例二提供的基于AR的SLAM算法的处理方法流程图;
图3为本发明实施例三提供的基于AR的SLAM算法的处理方法流程图;
图4为本发明实施例四提供的基于AR的SLAM算法的处理方法流程图;
图5为本发明实施例五提供的基于AR的SLAM算法的处理装置的结构示意图;
图6为本发明实施例七提供的基于AR的SLAM算法的处理装置的结构示意图;
图7为本发明实施例九提供的终端设备的结构示意图;
图8为本发明实施例九提供的定位跟踪系统的结构示意图。
通过上述附图,已示出本发明明确的实施例,后文中将有更详细的描述。这些附图和文字描述并不是为了通过任何方式限制本发明构思的范围,而是通过参考特定实施例为本领域技术人员说明本发明的概念。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本发明相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本发明的一些方面相一致的装置和方法的例子。
首先对本发明所涉及的名词进行解释:
刚体变换(Rigid Transformation):刚体变换变换前后两点间的距离依旧保持不变则被称为刚体变换(Rigid Transform)。刚体变换可分解为平移变换、旋转变换和反转(镜像)变换。
迭代最近点(Iterative Closest Point,简称ICP)算法:也称为就近点搜索法,是指一种高层次的基于自由形态曲面的配准方法。
此外,术语“第一”、“第二”等仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。在以下各实施例的描述中,“多个”的含义是两个以上,除非另有明确具体的限定。
下面这几个具体的实施例可以相互结合,对于相同或相似的概念或过程可能在某些实施例中不再赘述。下面将结合附图,对本发明的实施例进行描述。
实施例一
图1为本发明实施例一提供的基于AR的SLAM算法的处理方法流程图。本发明实施例针对现有的对于应用于移动终端的基于AR的SLAM算法的评测为手工测试和人为主观判断,导致移动终端呈现的AR场景中出现3D虚拟物体在真实场景中的漂移和抖动以及重定位时3D虚拟物体的偏移距离大的问题,提供了基于AR的SLAM算法的处理方法。本实施例中的方法应用于终端设备,该终端设备可以是智能手机、平板、AR设备等移动终端,也可以是应用于AR场景的智能设备等,在其他实施例中,该方法还可应用于其他设备,本实施例以终端设备为例进行示意性说明。如图1所示,该方法具体步骤如下:
步骤S101、终端设备在执行AR场景的测试动作过程中,采集执行测试动作所得到的执行数据,并获取执行测试动作所对应的真实位姿信息。
本实施例中终端设备执行测试动作所对应的真实位姿信息包括终端设备执行测试动作过程中的多个时刻的位姿信息按照时间先后顺序构成的序列。
在实际应用的AR场景中,终端设备上安装有SLAM算法软件,终端设备可以通过摄像头采集周围环境的视频数据,通过惯性测量单元等传感器获取手机的姿态信息,将采集的视频数据和姿态信息作为SLAM算法的输入数据,执行SLAM算法对采集的视频数据和姿态信息进行处理,可以得到终端设备在AR场景中的位姿信息。
本实施例中,对终端设备的SLAM算法进行评测时,可以预先设定多个AR场景,每个AR场景对应于一组测试动作。分别针对每一个AR场景对SLAM算法进行评测,在不同的AR场景中对SLAM算法进行评测的处理过程是一致,本实施例以针对任意一个AR场景对SLAM算法的处理过程为例进行说明。
在对终端设备的SLAM算法进行评测时,终端设备在执行AR场景的测试动作过程中,可以采集执行测试动作所得到的执行数据,该执行数据可以包括终端设备在执行测试动作时采集的视频数据和惯性测量数据等姿态信息;并且,终端设备获取执行测试动作所对应的真实位姿信息。
本实施例中,该步骤为终端设备第一次执行该AR场景的测试动作过程中需要执行的步骤,在第一次执行该AR场景的测试动作过程中获取到执行测试动作所得到的执行数据以及执行测试动作所对应的真实位姿信息之后,终端设备可以将获取到的执行测试动作所得到的执行数据以及执行测试动作所对应的真实位姿信息与该AR场景进行对应存储。这样,移动终端可以存储该AR场景的测试动作对应的执行数据,在需要针对该AR场景对SLAM算法进行评测时,根据已存储的该AR场景对应的执行数据进行后续评测过程即可。
步骤S102、终端设备采用SLAM算法对执行数据进行处理,得到执行测试动作所对应的估计位姿信息。
本实施例中终端设备采用SLAM算法对执行数据进行处理得到执行测试动作所对应的估计位姿信息也包括多个时刻的位姿信息按照时间先后顺序构成的序列。
终端设备将获取到在执行AR场景的测试动作过程中采集的执行数据作为SLAM算法的输入数据,执行SLAM算法来对执行数据进行处理,得到执行测试动作所对应的估计位姿信息。估计位姿信息是终端设备以该执行数据为输入,执行SLAM算法得到的输出数据。
可选的,终端设备可以将执行SLAM算法得到的估计位姿信息写入到本地文件中,以供后续步骤从本地文件中读取终端设备执行SLAM算法得到的估计位姿信息。
步骤S103、终端设备根据真实位姿信息和估计位姿信息,得到SLAM算法所对应的轨迹误差。
终端设备在获取到该AR场景的测试动作对应的真实位姿信息和估计位姿信息,可以计算得到真实位姿信息和估计位姿信息的轨迹误差,也即是得到SLAM算法所对应的轨迹误差。
其中,轨迹误差可以为绝对轨迹误差或者平均轨迹误差(Average Track Error,简称ATE)。
步骤S104、终端设备根据轨迹误差,对SLAM算法进行算法优化处理。
终端设备在得到SLAM算法所对应的轨迹误差之后,若SLAM算法所对应的轨迹误差大于预设误差阈值,终端设备确定SLAM算法需要优化,对SLAM算法进行算法优化处理。
其中,误差阈值可以由技术人员根据实际需要进行设定,本实施例此处不做具体限定。
本实施例中,在对SLAM算法进行算法优化处理之后,还可以针对该AE场景对优化后的SLAM算法重新进行评测。
本发明实施例终端设备通过在执行AR场景的测试动作过程中,采集执行测试动作所得到的执行数据,并获取执行测试动作所对应的真实位姿信息;采用SLAM算法对执行数据进行处理,得到执行测试动作所对应的估计位姿信息;根据真实位姿信息和估计位姿信息,得到SLAM算法所对应的轨迹误差;根据轨迹误差,对SLAM算法进行算法优化处理,实现了对SLAM算法的自动化评测和优化,在AR场景规模较大时,能够显著地提升对SLAM算法的自动化评测和优化的效率,从而可以避免出现移动终端呈现的AR场景中出现3D虚拟物体在真实场景中的漂移和抖动以及重定位时3D虚拟物体的偏移距离大的问题。
实施例二
图2为本发明实施例二提供的基于AR的SLAM算法的处理方法流程图。在上述实施例一的基础上,本实施例中,如图2所示,该方法具体步骤如下:
步骤S201、终端设备在执行AR场景的测试动作过程中,采集执行测试动作所得到的执行数据。
本实施例中,终端设备在执行AR场景的测试动作过程中,采集执行测试动作所得到的执行数据,具体可以采用如下方式实现:
在执行AR场景的测试动作过程中,终端设备通过终端设备的摄像头采集执行测试动作所得到的视频数据,并且,通过终端设备的惯性测量单元(Inertial measurementunit,简称IMU)采集执行测试动作所得到的惯性测量数据。其中,惯性测量数据可以包括三轴姿态角速度以及加速度。
可选的,若除上述视频数据和惯性测量数据之外SLAM算法的还需要其他输入数据,终端设备在执行AR场景的测试动作过程中采集执行测试动作所得到的执行数据,还可以包括终端设备上的其他传感器获取的执行SLAM算法所需的其他输入数据。
步骤S202、终端设备接收定位跟踪系统发送的辅助信息,辅助信息用于使终端设备获取执行测试动作所对应的真实位姿信息。
终端设备获取执行测试动作所对应的真实位姿信息,具体可以通过接收定位跟踪系统发送的辅助信息,辅助信息用于使终端设备获取执行测试动作所对应的真实位姿信息,根据辅助信息获取执行测试动作所对应的真实位姿信息。
本实施例中,终端设备接收定位跟踪系统发送的辅助信息的一种可行的实施方式为:
终端设备接收定位跟踪系统发送的真实位姿信息,其中,真实位姿信息为定位跟踪系统在终端设备执行测试动作过程中获取的终端设备的位姿信息。
具体的,本实施例中可以由定位跟踪系统在终端设备执行AR场景的测试动作过程中跟踪获取终端设备的位姿信息,得到终端设备执行该AR场景的测试动作所对应的真实位姿信息,并将该真实位姿信息发送给移动终端。移动终端通过接收定位跟踪系统发送的真实位姿信息,即可获取到移动终端执行测试动作所对应的真实位姿信息。
这种实现方式中,终端设备无需自行计算真实位姿信息,通过直接接收定位跟踪系统发送的真实位姿信息,可以减少终端设备的计算量,提高终端设备效率。
本实施例中,终端设备接收定位跟踪系统发送的辅助信息的另外一种可行的实施方式为:
终端设备接收定位跟踪系统发送的位姿数据,其中,位姿数据为定位跟踪系统在终端设备执行测试动作过程中所采集的终端设备的位姿状态变化数据;终端设备根据位姿数据计算得到真实位姿信息。
具体的,终端设备接收定位跟踪系统发送的位姿数据,包括:
终端设备接收定位跟踪系统发送的位姿数据,位姿数据包括定位跟踪系统获取定位跟踪系统的跟踪器的位姿变化数据以及跟踪器与终端设备之间的姿态映射关系数据,其中,跟踪器在终端设备执行测试动作的过程中跟踪终端设备。
相应的,终端设备根据位姿数据计算得到真实位姿信息,包括:
终端设备采用姿态映射关系数据对位姿变化数据进行姿态映射处理,得到真实位姿信息。
该实现方式中,定位跟踪系统包括跟踪器,跟踪器在终端设备执行测试动作的过程中跟踪终端设备,通过将跟踪器与终端设备相对空间位置是固定的,定位跟踪系统可以获取到跟踪器与终端设备之间的姿态映射关系数据。
可选的,通过跟踪器与终端设备固定在同一支架上,使得跟踪器与终端设备相对空间位置是固定的,跟踪器的位姿信息与终端设备的位姿信息之间的存在一个刚体变换矩阵,将跟踪器的位姿信息与终端设备的位姿信息之间的刚体变换矩阵作为跟踪器与终端设备之间的姿态映射关系数据。
在终端设备执行AR场景的测试动作过程中,跟踪器在终端设备执行测试动作的过程中跟踪终端设备,定位跟踪系统能够准确获取到跟踪器的位姿变化数据;在获取到跟踪器的位姿变化数据以及跟踪器与终端设备之间的姿态映射关系数据之后,定位跟踪系统将获取到的跟踪器的位姿变化数据以及跟踪器与终端设备之间的姿态映射关系数据发送给移动终端。移动终端在接收到定位跟踪系统发送的位姿数据之后,采用姿态映射关系数据对位姿变化数据进行姿态映射处理,得到真实位姿信息。
本实施例中,上述步骤S201-S202为终端设备第一次执行该AR场景的测试动作过程中需要执行的步骤,在第一次执行该AR场景的测试动作过程中获取到执行测试动作所得到的执行数据以及执行测试动作所对应的真实位姿信息之后,终端设备可以将获取到的执行测试动作所得到的执行数据以及执行测试动作所对应的真实位姿信息与该AR场景进行对应存储。这样,移动终端可以存储该AR场景的测试动作对应的执行数据,在需要针对该AR场景对SLAM算法进行评测时,根据已存储的该AR场景对应的执行数据进行后续评测过程即可。
本实施例中,为了能评测出SLAM算法在终端设备上的效果,在终端设备上安装基于SLAM算法的软件开发工具包(Software Development Kit,简称SDK)预先开发的示例工程(也称为Demo工程),在该示例工程中,Mock掉终端设备的相机的输出数据和惯性测量单元的输出数据,在执行SLAM算法时,终端设备可以直接获取已存储的各AR场景对应的执行数据。
在以后对SLAM算法的评测时,使用已存储的一组AR场景对应的执行数据,只需要将待测评SLAM算法的SDK包更新即可,通过灌入同一批录制好的各AR场景对应的执行数据,就能够实现基于同一组各AR场景的SLAM算法的评测。
步骤S203、终端设备采用SLAM算法对执行数据进行处理,得到执行测试动作所对应的估计位姿信息。
终端设备将获取到在执行AR场景的测试动作过程中采集的执行数据作为SLAM算法的输入数据,执行SLAM算法来对执行数据进行处理,得到执行测试动作所对应的估计位姿信息。估计位姿信息是终端设备以该执行数据为输入,执行SLAM算法得到的输出数据。
可选的,终端设备可以将执行SLAM算法得到的估计位姿信息写入到本地文件中,以供后续步骤从本地文件中读取终端设备执行SLAM算法得到的估计位姿信息。
步骤S204、终端设备根据真实位姿信息和估计位姿信息,得到SLAM算法所对应的轨迹误差。
本实施例中,终端设备根据真实位姿信息和估计位姿信息,得到SLAM算法所对应的轨迹误差,具体可以采用如下方式实现:
获取真实位姿信息和估计位姿信息中相匹配的数据对,数据对中的真实位姿信息用于描述终端设备在AR场景下的真实轨迹,数据对中的估计位姿信息用于描述终端设备在AR场景下的估计轨迹;根据真实位姿信息和估计位姿信息中相匹配的数据对,计算得到真实轨迹和估计轨迹的轨迹误差。
具体的,获取真实位姿信息和估计位姿信息中相匹配的数据对,具体可以采用如下方式实现:
根据真实位姿信息和估计位姿信息中各帧数据的时间戳,将真实位姿信息和估计位姿信息的第一帧做时间对齐,也即是,将真实位姿信息和估计位姿信息中的第一帧的时间戳的差值作为基本误差;根据预设的时间差阈值,获取真实位姿信息和估计位姿信息中相匹配的数据对。
其中,匹配的数据对包括分别属于真实位姿信息和估计位姿信息的两个帧,这两个帧的时间戳的差值与上述基本误差的差值小于或者等于预设的时间差阈值。若将两个帧的时间戳的差值与上述基本误差的差值作为这两个帧的误差,那么匹配的数据对中的两个帧的误差不超过预设的时间差阈值。
可选的,预设的时间差阈值小于真实位姿信息和估计位姿信息中相邻的两帧数据的时间戳的差值,以便于获取真实位姿信息和估计位姿信息中相匹配的数据对。
另外,预设的时间差阈值可以由技术人员根据实际需要进行设定,本实施例此处不做具体限定。例如,预设的时间差阈值可以为5毫秒、10毫秒、15毫秒等。
可选的,在获取真实位姿信息和估计位姿信息中相匹配的数据对之前,终端设备还可以对真实位姿信息和估计位姿信息进行预处理,具体包括:终端设备根据估计位姿信息的帧率对真实位姿信息进行帧率同步处理,使得真实位姿信息与估计位姿信息的帧率一致,以便于获取真实位姿信息和估计位姿信息中相匹配的数据对。
可选的,终端设备对真实位姿信息和估计位姿信息进行预处理还可以包括过滤掉明显异常的数据帧。
终端设备采用迭代最近点算法,根据真实位姿信息和估计位姿信息中相匹配的数据对,计算得到真实轨迹和估计轨迹的轨迹误差,具体可以采用如下方式实现:
在获取到真实位姿信息和估计位姿信息中相匹配的数据对之后,终端设备将数据对中的真实位姿信息作为终端设备在该AR场景下的真实轨迹对应的真实轨迹数据,数据对中的估计位姿信息作为终端设备在该AR场景下的估计轨迹对应的估计轨迹数据;根据真实位姿信息和估计位姿信息中相匹配的数据对,计算得到真实轨迹和估计轨迹之间的刚体变换矩阵,并根据真实轨迹和估计轨迹之间的刚体变换矩阵以及真实轨迹数据和估计轨迹数据,计算出真实轨迹和估计轨迹的轨迹误差。
可选的,终端设备可以采用迭代最近点(Iterative Closest Point,简称ICP)算法,根据真实位姿信息和估计位姿信息中相匹配的数据对,将真实轨迹和估计轨迹对齐,计算真实轨迹和估计轨迹之间的刚体变换矩阵,并根据真实轨迹和估计轨迹之间的刚体变换矩阵以及真实轨迹数据和估计轨迹数据,计算出真实轨迹和估计轨迹的轨迹误差。
步骤S205、终端设备根据轨迹误差,对SLAM算法进行算法优化处理。
终端设备在得到SLAM算法所对应的轨迹误差之后,若SLAM算法所对应的轨迹误差大于预设误差阈值,终端设备确定SLAM算法需要优化,对SLAM算法进行算法优化处理。
其中,误差阈值可以由技术人员根据实际需要进行设定,本实施例此处不做具体限定。
本实施例中,在对SLAM算法进行算法优化处理之后,还可以针对该AE场景对优化后的SLAM算法重新进行评测。
本发明实施例提供了对基于AR的SLAM算法的处理方法的实施方式进行了详细地说明,在对基于AR场景的SLAM算法进行评测时,终端设备通过在第一次针对一AR场景的测试动作的执行过程中,获取并存储执行测试动作所得到的执行数据以及执行测试动作所对应的真实位姿信息,当再次针对同一AR场景对SLAM算法进行评测时,终端设备直接获取已存储的执行测试动作所得到的执行数据以及执行测试动作所对应的真实位姿信息即可,实现了对SLAM算法的自动化评测和优化,在AR场景规模较大时,能够显著地提升对SLAM算法的自动化评测和优化的效率。
实施例三
图3为本发明实施例三提供的基于AR的SLAM算法的处理方法流程图。本发明实施例针对现有的对于应用于移动终端的基于AR的SLAM算法的评测为手工测试和人为主观判断,导致移动终端呈现的AR场景中出现3D虚拟物体在真实场景中的漂移和抖动以及重定位时3D虚拟物体的偏移距离大的问题,提供了基于AR的SLAM算法的处理方法。本实施例中的方法应用于定位跟踪系统,例如HTC Vive的Lighthouse系统等,在其他实施例中,该方法还可应用于其他设备,本实施例以定位跟踪系统为例进行示意性说明。
本实施例中以Lighthouse系统为例对定位跟踪系统进行说明,定位跟踪系统包括两个基站(Base Station)和一个跟踪器(Vive Tracker),跟踪器上安装有光敏传感器。每个基站里有一个红外LED阵列,内部有两个转轴(分别记为X轴和Y轴)互相垂直的旋转的红外激光发射器按照一定频率间隔(例如10毫秒)向空间发射红外光,投射到安装有光敏传感器的跟踪器,通过X轴和Y轴到达光敏传感器的时间并结合光敏传感器之间的固定距离,就可以计算出跟踪器在空间的位姿信息。在对终端设备的基于AR场景的SLAM算法进行评测时,在终端设备执行AR场景的测试动作过程中,定位跟踪系统的跟踪器用于跟踪终端设备。
如图3所示,该方法具体步骤如下:
步骤S301、在终端设备执行AR场景的测试动作过程中,定位跟踪系统采集获取辅助信息,辅助信息用于使终端设备获取执行测试动作所对应的真实位姿信息。
本实施例中,在对终端设备的基于AR场景的SLAM算法进行评测时,在终端设备执行各个AR场景的测试动作过程中,定位跟踪系统的跟踪器跟踪终端设备的运动轨迹,定位跟踪系统可以采集到终端设备的运动轨迹的辅助信息,终端设备根据辅助信息可以获取执行测试动作所对应的真实位姿信息。
可选的,定位跟踪系统采集获取辅助信息,具体可以采用以下任意一种方式实现:
一种可行的实施方式:
将终端设备配置为定位跟踪系统的跟踪器,在终端设备执行测试动作过程中,定位跟踪系统获取真实位姿信息,将该真实位姿信息作为辅助信息。其中,真实位姿信息为终端设备在执行测试动作过程中的位姿信息。
另一种可行的实施方式:
设置跟踪器与终端设备相对空间位置是固定的,在终端设备执行测试动作过程中,定位跟踪系统采集终端设备的位姿数据,位姿数据为终端设备在执行测试动作过程中的位姿状态变化数据,将该位姿数据作为辅助信息。
再一种可行的实施方式:
设置跟踪器与终端设备相对空间位置是固定的,在终端设备执行测试动作过程中,定位跟踪系统采集终端设备的位姿数据,位姿数据为终端设备在执行测试动作过程中的位姿状态变化数据,并且,定位跟踪系统根据该位姿数据计算得到终端设备的真实位姿信息,将该真实位姿信息作为辅助信息。
步骤S302、定位跟踪系统向终端设备发送辅助信息。
本发明实施例中定位跟踪系统在终端设备执行各AR场景的测试动作过程中,采集获取用于使终端设备获取执行测试动作所对应的真实位姿信息的辅助信息,并将辅助信息发送给终端设备;终端设备能够根据接收到的辅助信息获取执行测试动作所对应的真实位姿信息,为终端设备进一步根据真实位姿信息和估计位姿信息,得到SLAM算法所对应的轨迹误差,并据轨迹误差对SLAM算法进行算法优化处理,实现对SLAM算法的自动化评测和优化提供了数据基础,在AR场景规模较大时,能够显著地提升终端设备获取执行测试动作所对应的真实位姿信息的效率,从而可以提高终端设备对SLAM算法的自动化评测和优化的效率,可以避免出现移动终端呈现的AR场景中出现3D虚拟物体在真实场景中的漂移和抖动以及重定位时3D虚拟物体的偏移距离大的问题。
实施例四
图4为本发明实施例四提供的基于AR的SLAM算法的处理方法流程图。在上述实施例三的基础上,本实施例中,在终端设备执行测试动作过程中,定位跟踪系统采集终端设备的位姿数据,包括:在终端设备执行测试动作过程中,定位跟踪系统采集定位跟踪系统的跟踪器的位姿变化数据,并获取跟踪器与终端设备之间的姿态映射关系数据,其中,跟踪器在终端设备执行测试动作的过程中跟踪终端设备。如图4所示,该方法具体步骤如下:
步骤S401、在终端设备执行测试动作过程中,定位跟踪系统采集定位跟踪系统的跟踪器的位姿变化数据;其中,跟踪器在终端设备执行测试动作的过程中跟踪终端设备。
本实施例中,在终端设备执行测试动作过程中,跟踪器跟踪终端设备的运动轨迹,定位跟踪系统采集定位跟踪系统的跟踪器的位姿变化数据。
另外,定位跟踪系统采集跟踪器的位姿变化数据的实现方式可以采用现有技术中任意一种采集跟踪器发送运动过程中的运动轨迹对应的位姿变化数据的方法实现,例如Lighthouse系统确定Lighthouse系统的跟踪器的运动轨迹对应的位姿变化数据的方法等,本实施例对此不做具体限定。
步骤S402、获取跟踪器与终端设备之间的姿态映射关系数据。
本实施例中,跟踪器在终端设备执行测试动作的过程中跟踪终端设备,通过将跟踪器与终端设备相对空间位置是固定的,定位跟踪系统可以获取到跟踪器与终端设备之间的姿态映射关系数据。
具体的,通过跟踪器与终端设备固定在同一支架上,使得跟踪器与终端设备相对空间位置是固定的,跟踪器的位姿信息与终端设备的位姿信息之间的存在一个刚体变换矩阵,将跟踪器的位姿信息与终端设备的位姿信息之间的刚体变换矩阵作为跟踪器与终端设备之间的姿态映射关系数据。
通常,定位跟踪系统的跟踪器与终端设备的摄像头采集图像数据的帧率不一致,例如,假设定位跟踪系统为Lighthouse系统,终端设备为手机,基于传统的基于时间和空间的手眼标定,Lighthouse系统中跟踪器采集图像数据的帧率通常为250帧/秒,手机的摄像头采集图像数据的帧率通常为30帧/秒。
本实施例中,在终端设备执行测试动作过程中,定位跟踪系统获取跟踪器与终端设备之间的姿态映射关系数据,包括:
在终端设备执行测试动作过程中,定位跟踪系统获取跟踪器采集的图像数据和终端设备采集的图像数据,图像数据包括至少一个图像帧;定位跟踪系统根据终端设备采集图像数据的帧率,对跟踪器采集的图像数据进行帧率同步处理,使跟踪器采集的图像数据与终端设备采集图像帧的帧率一致;根据跟踪器采集的图像数据与终端设备采集的图像数据,计算终端设备的运动轨迹的与跟踪器的运动轨迹的刚体变换矩阵。
通过对定位跟踪系统根据终端设备采集图像数据的帧率,对跟踪器采集的图像数据进行帧率同步处理,可以使得跟踪器采集的图像数据与终端设备采集图像帧的帧率一致,根据帧率同步处理后的跟踪器采集的图像数据和终端设备采集的图像数据,计算终端设备的运动轨迹的与跟踪器的运动轨迹的刚体变换矩阵,可以优化棋盘格特定角点在摄像头拍摄平面上的重投影误差。
需要说明的是,在终端设备与跟踪器的相对空间位置保持固定不变时,跟踪器与终端设备之间的姿态映射关系数据也是固定不变的,只需在终端设备执行第一个AR场景的测试动作的过程中,通过该步骤S402确定跟踪器与终端设备之间的姿态映射关系数据之后,定位跟踪系统可以存储跟踪器与终端设备之间的姿态映射关系数据,在终端设备执行其他AR场景的测试动作的过程中,定位跟踪系统获取已存储的跟踪器与终端设备之间的姿态映射关系数据即可,提高了定位跟踪系统的效率,可以进一步提升终端设备对基于AR场景的SLAM算法的评测和优化效率。
上述步骤S401-S402为定位跟踪系统在终端设备执行测试动作过程中,定位跟踪系统采集终端设备的位姿数据的一种可行的实施方式。
在本实施例的另一可行的实施方式中,在定位跟踪系统获取到跟踪器的位姿变化数据和跟踪器与终端设备之间的姿态映射关系数据之后,定位跟踪系统可以将跟踪器的位姿变化数据和跟踪器与终端设备之间的姿态映射关系数据作为辅助信息,向终端设备发送该辅助信息,终端设备可以采用姿态映射关系数据对位姿变化数据进行姿态映射处理,得到真实位姿信息。
步骤S403、定位跟踪系统采用姿态映射关系数据对位姿变化数据进行姿态映射处理,得到真实位姿信息。
其中,真实位姿信息为终端设备在执行测试动作过程中的位姿信息。
本实施例中,在定位跟踪系统获取到跟踪器的位姿变化数据和跟踪器与终端设备之间的姿态映射关系数据之后,定位跟踪系统采用姿态映射关系数据对位姿变化数据进行姿态映射处理,得到真实位姿信息,然后再将真实位姿信息发送给终端设备,可以减少终端设备的计算量,从而可以提高终端设备的效率。
步骤S404、定位跟踪系统将该真实位姿信息作为辅助信息,向终端设备该发送辅助信息。
本实施例中在终端设备执行各AR场景的测试动作过程中,定位跟踪系统采集定位跟踪系统的跟踪器的位姿变化数据,并获取跟踪器与终端设备之间的姿态映射关系数据,定位跟踪系统采用姿态映射关系数据对位姿变化数据进行姿态映射处理,得到真实位姿信息,然后再将真实位姿信息发送给终端设备,可以减少终端设备的计算量,从而可以提高终端设备的效率,在AR场景规模较大时,能够显著地提升对SLAM算法的自动化评测和优化的效率。
实施例五
图5为本发明实施例五提供的基于AR的SLAM算法的处理装置的结构示意图。本发明实施例提供的基于AR的SLAM算法的处理装置可以执行基于AR的SLAM算法的处理方法实施例提供的处理流程。如图5所示,该装置50包括:数据获取模块501,执行模块502,误差计算模块503和优化模块504。
具体地,数据获取模块501用于终端设备在执行AR场景的测试动作过程中,采集执行测试动作所得到的执行数据,并获取执行测试动作所对应的真实位姿信息。
执行模块502用于终端设备采用SLAM算法对执行数据进行处理,得到执行测试动作所对应的估计位姿信息。
误差计算模块503用于终端设备根据真实位姿信息和估计位姿信息,得到SLAM算法所对应的轨迹误差。
优化模块504用于终端设备根据轨迹误差,对SLAM算法进行算法优化处理。
本发明实施例提供的装置可以具体用于执行上述实施例一所提供的方法实施例,具体功能此处不再赘述。
本发明实施例终端设备通过在执行AR场景的测试动作过程中,采集执行测试动作所得到的执行数据,并获取执行测试动作所对应的真实位姿信息;采用SLAM算法对执行数据进行处理,得到执行测试动作所对应的估计位姿信息;根据真实位姿信息和估计位姿信息,得到SLAM算法所对应的轨迹误差;根据轨迹误差,对SLAM算法进行算法优化处理,实现了对SLAM算法的自动化评测和优化,在AR场景规模较大时,能够显著地提升对SLAM算法的自动化评测和优化的效率,从而可以避免出现移动终端呈现的AR场景中出现3D虚拟物体在真实场景中的漂移和抖动以及重定位时3D虚拟物体的偏移距离大的问题。
实施例六
在上述实施例五的基础上,本实施例中,数据获取模块还用于:终端设备通过终端设备的摄像头采集执行测试动作所得到的视频数据,并且,通过终端设备的惯性测量单元采集执行测试动作所得到的惯性测量数据。
可选的,数据获取模块还用于:
终端设备接收定位跟踪系统发送的辅助信息,辅助信息用于使终端设备获取执行测试动作所对应的真实位姿信息。
可选的,数据获取模块还用于:
终端设备接收定位跟踪系统发送的真实位姿信息,其中,真实位姿信息为定位跟踪系统在终端设备执行测试动作过程中获取的终端设备的位姿信息。
可选的,数据获取模块还用于:
终端设备接收定位跟踪系统发送的位姿数据,其中,位姿数据为定位跟踪系统在终端设备执行测试动作过程中所采集的终端设备的位姿状态变化数据;终端设备根据位姿数据计算得到真实位姿信息。
可选的,数据获取模块还用于:
终端设备接收定位跟踪系统发送的位姿数据,位姿数据包括定位跟踪系统获取定位跟踪系统的跟踪器的位姿变化数据以及跟踪器与终端设备之间的姿态映射关系数据,其中,跟踪器在终端设备执行测试动作的过程中跟踪终端设备;终端设备采用姿态映射关系数据对位姿变化数据进行姿态映射处理,得到真实位姿信息。
可选的,误差计算模块还用于:
终端设备获取真实位姿信息和估计位姿信息中相匹配的数据对,数据对中的真实位姿信息用于描述终端设备在AR场景下的真实轨迹,数据对中的估计位姿信息用于描述终端设备在AR场景下的估计轨迹;终端设备根据真实位姿信息和估计位姿信息中相匹配的数据对,计算得到真实轨迹和估计轨迹的轨迹误差。
本发明实施例提供的装置可以具体用于执行上述实施例二所提供的方法实施例,具体功能此处不再赘述。
本发明实施例提供了对基于AR的SLAM算法的处理方法的实施方式进行了详细地说明,在对基于AR场景的SLAM算法进行评测时,终端设备通过在第一次针对一AR场景的测试动作的执行过程中,获取并存储执行测试动作所得到的执行数据以及执行测试动作所对应的真实位姿信息,当再次针对同一AR场景对SLAM算法进行评测时,终端设备直接获取已存储的执行测试动作所得到的执行数据以及执行测试动作所对应的真实位姿信息即可,实现了对SLAM算法的自动化评测和优化,在AR场景规模较大时,能够显著地提升对SLAM算法的自动化评测和优化的效率。
实施例七
图6为本发明实施例七提供的基于AR的SLAM算法的处理装置的结构示意图。本发明实施例提供的基于AR的SLAM算法的处理装置可以执行基于AR的SLAM算法的处理方法实施例提供的处理流程。如图6所示,该装置60包括:数据采集模块601和发送模块602。
具体的,数据采集模块601用于在终端设备执行AR场景的测试动作过程中,定位跟踪系统采集获取辅助信息,辅助信息用于使终端设备获取执行测试动作所对应的真实位姿信息。
发送模块602用于定位跟踪系统向终端设备发送辅助信息。
本发明实施例提供的装置可以具体用于执行上述实施例三所提供的方法实施例,具体功能此处不再赘述。
本发明实施例中定位跟踪系统在终端设备执行各AR场景的测试动作过程中,采集获取用于使终端设备获取执行测试动作所对应的真实位姿信息的辅助信息,并将辅助信息发送给终端设备;终端设备能够根据接收到的辅助信息获取执行测试动作所对应的真实位姿信息,为终端设备进一步根据真实位姿信息和估计位姿信息,得到SLAM算法所对应的轨迹误差,并据轨迹误差对SLAM算法进行算法优化处理,实现对SLAM算法的自动化评测和优化提供了数据基础,在AR场景规模较大时,能够显著地提升终端设备获取执行测试动作所对应的真实位姿信息的效率,从而可以提高终端设备对SLAM算法的自动化评测和优化的效率,可以避免出现移动终端呈现的AR场景中出现3D虚拟物体在真实场景中的漂移和抖动以及重定位时3D虚拟物体的偏移距离大的问题。
实施例八
在上述实施例七的基础上,本实施例中,数据采集模块还用于:
在终端设备执行测试动作过程中,定位跟踪系统获取真实位姿信息,其中,真实位姿信息为终端设备在执行测试动作过程中的位姿信息。
可选的,数据采集模块还用于:
在终端设备执行测试动作过程中,定位跟踪系统采集终端设备的位姿数据,其中,位姿数据为终端设备在执行测试动作过程中的位姿状态变化数据。
可选的,数据采集模块还用于:
在终端设备执行测试动作过程中,定位跟踪系统采集定位跟踪系统的跟踪器的位姿变化数据,并获取跟踪器与终端设备之间的姿态映射关系数据,其中,跟踪器在终端设备执行测试动作的过程中跟踪终端设备。
可选的,数据采集模块还用于:
在终端设备执行测试动作过程中,定位跟踪系统获取跟踪器采集的图像数据和终端设备采集的图像数据,图像数据包括至少一个图像帧;定位跟踪系统根据终端设备采集图像数据的帧率,对跟踪器采集的图像数据进行帧率同步处理,使跟踪器采集的图像数据与终端设备采集图像帧的帧率一致;根据跟踪器采集的图像数据与终端设备采集的图像数据,计算终端设备的运动轨迹的与跟踪器的运动轨迹的刚体变换矩阵。
可选的,数据采集模块还用于:
定位跟踪系统采用姿态映射关系数据对位姿变化数据进行姿态映射处理,得到真实位姿信息,其中,真实位姿信息为终端设备在执行测试动作过程中的位姿信息。
本发明实施例提供的装置可以具体用于执行上述实施例四所提供的方法实施例,具体功能此处不再赘述。
本实施例中在终端设备执行各AR场景的测试动作过程中,定位跟踪系统采集定位跟踪系统的跟踪器的位姿变化数据,并获取跟踪器与终端设备之间的姿态映射关系数据,定位跟踪系统采用姿态映射关系数据对位姿变化数据进行姿态映射处理,得到真实位姿信息,然后再将真实位姿信息发送给终端设备,可以减少终端设备的计算量,从而可以提高终端设备的效率,在AR场景规模较大时,能够显著地提升对SLAM算法的自动化评测和优化的效率。
实施例九
图7为本发明实施例九提供的终端设备的结构示意图。如图7所示,该终端设备70包括:处理器701,存储器702,以及存储在存储器702上并可由处理器701执行的计算机程序。
处理器701在执行存储在存储器702上的计算机程序时实现上述实施例一或者实施例二提供的基于AR的SLAM算法的处理方法。
本发明实施例终端设备通过在执行AR场景的测试动作过程中,采集执行测试动作所得到的执行数据,并获取执行测试动作所对应的真实位姿信息;采用SLAM算法对执行数据进行处理,得到执行测试动作所对应的估计位姿信息;根据真实位姿信息和估计位姿信息,得到SLAM算法所对应的轨迹误差;根据轨迹误差,对SLAM算法进行算法优化处理,实现了对SLAM算法的自动化评测和优化,在AR场景规模较大时,能够显著地提升对SLAM算法的自动化评测和优化的效率,从而可以避免出现移动终端呈现的AR场景中出现3D虚拟物体在真实场景中的漂移和抖动以及重定位时3D虚拟物体的偏移距离大的问题。
实施例十
图8为本发明实施例九提供的定位跟踪系统的结构示意图。如图8所示,该终端设备80包括:跟踪器800和控制设备801。
其中,跟踪器800用于在终端设备执行AR场景的测试动作的过程中跟踪终端设备。
所述控制设备801包括处理器8011,存储器8012,以及存储在存储器8012上并可由处理器8011执行的计算机程序。
处理器8011在执行存储在存储器8012上的计算机程序时实现上述实施例三或者实施例四提供的基于AR的SLAM算法的处理方法。
本发明实施例中定位跟踪系统在终端设备执行各AR场景的测试动作过程中,采集获取用于使终端设备获取执行测试动作所对应的真实位姿信息的辅助信息,并将辅助信息发送给终端设备;终端设备能够根据接收到的辅助信息获取执行测试动作所对应的真实位姿信息,为终端设备进一步根据真实位姿信息和估计位姿信息,得到SLAM算法所对应的轨迹误差,并据轨迹误差对SLAM算法进行算法优化处理,实现对SLAM算法的自动化评测和优化提供了数据基础,在AR场景规模较大时,能够显著地提升终端设备获取执行测试动作所对应的真实位姿信息的效率,从而可以提高终端设备对SLAM算法的自动化评测和优化的效率,可以避免出现移动终端呈现的AR场景中出现3D虚拟物体在真实场景中的漂移和抖动以及重定位时3D虚拟物体的偏移距离大的问题。
另外,本发明实施例还提供一种计算机可读存储介质,存储有计算机程序,所述计算机程序被处理器执行时实现上述任一方法实施例提供的基于AR的SLAM算法的处理方法。
在本发明所提供的几个实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。
上述以软件功能单元的形式实现的集成的单元,可以存储在一个计算机可读取存储介质中。上述软件功能单元存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)或处理器(processor)执行本发明各个实施例所述方法的部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
本领域技术人员可以清楚地了解到,为描述的方便和简洁,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将装置的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。上述描述的装置的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本发明的其它实施方案。本发明旨在涵盖本发明的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本发明未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本发明的真正范围和精神由下面的权利要求书指出。
应当理解的是,本发明并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求书来限制。

Claims (29)

1.一种基于AR的SLAM算法的处理方法,其特征在于,包括:
终端设备在执行AR场景的测试动作过程中,采集执行所述测试动作所得到的执行数据,并获取执行所述测试动作所对应的真实位姿信息;
终端设备采用SLAM算法对所述执行数据进行处理,得到执行所述测试动作所对应的估计位姿信息;
终端设备根据所述真实位姿信息和所述估计位姿信息中相匹配的数据对,得到所述SLAM算法所对应的轨迹误差,所述匹配的数据对包括分别属于所述真实位姿信息和所述估计位姿信息的两个帧,所述两个帧的时间戳的差值与基本误差的差值小于或者等于预设的时间差阈值,所述基本误差为所述真实位姿信息和所述估计位姿信息中的第一帧的时间戳的差值;
终端设备根据所述轨迹误差,对所述SLAM算法进行算法优化处理。
2.根据权利要求1所述的方法,其特征在于,所述终端设备采集执行所述测试动作所得到的执行数据,包括:
所述终端设备通过所述终端设备的摄像头采集执行所述测试动作所得到的视频数据,并且,通过所述终端设备的惯性测量单元采集执行所述测试动作所得到的惯性测量数据。
3.根据权利要求1所述的方法,其特征在于,所述终端设备获取执行所述测试动作所对应的真实位姿信息,包括:
所述终端设备接收定位跟踪系统发送的辅助信息,所述辅助信息用于使所述终端设备获取执行所述测试动作所对应的真实位姿信息。
4.根据权利要求3所述的方法,其特征在于,所述终端设备接收定位跟踪系统发送的辅助信息,包括:
所述终端设备接收定位跟踪系统发送的所述真实位姿信息,其中,所述真实位姿信息为所述定位跟踪系统在所述终端设备执行所述测试动作过程中获取的所述终端设备的位姿信息。
5.根据权利要求3所述的方法,其特征在于,所述终端设备接收定位跟踪系统发送的辅助信息,包括:
所述终端设备接收定位跟踪系统发送的位姿数据,其中,位姿数据为所述定位跟踪系统在所述终端设备执行所述测试动作过程中所采集的所述终端设备的位姿状态变化数据;
所述终端设备根据所述位姿数据计算得到所述真实位姿信息。
6.根据权利要求5所述的方法,其特征在于,所述终端设备接收定位跟踪系统发送的位姿数据,包括:
所述终端设备接收定位跟踪系统发送的位姿数据,所述位姿数据包括所述定位跟踪系统获取所述定位跟踪系统的跟踪器的位姿变化数据以及所述跟踪器与所述终端设备之间的姿态映射关系数据,其中,所述跟踪器在所述终端设备执行所述测试动作的过程中跟踪所述终端设备;
相应的,所述终端设备根据所述位姿数据计算得到所述真实位姿信息,包括:
所述终端设备采用所述姿态映射关系数据对所述位姿变化数据进行姿态映射处理,得到所述真实位姿信息。
7.根据权利要求1所述的方法,其特征在于,所述终端设备根据所述真实位姿信息和估计位姿信息中相匹配的数据对,得到所述SLAM算法所对应的轨迹误差,包括:
所述终端设备获取所述真实位姿信息和估计位姿信息中相匹配的数据对,所述数据对中的真实位姿信息用于描述终端设备在所述AR场景下的真实轨迹,所述数据对中的估计位姿信息用于描述所述终端设备在所述AR场景下的估计轨迹;
所述终端设备根据所述真实位姿信息和估计位姿信息中相匹配的数据对,计算得到所述真实轨迹和所述估计轨迹的轨迹误差。
8.一种基于AR的SLAM算法的处理方法,其特征在于,包括:
在终端设备执行AR场景的测试动作过程中,定位跟踪系统采集获取辅助信息,所述辅助信息用于使所述终端设备获取执行所述测试动作所对应的真实位姿信息;
所述定位跟踪系统向所述终端设备发送辅助信息,以使所述终端设备根据所述真实位姿信息和估计位姿信息中相匹配的数据对,得到SLAM算法所对应的轨迹误差,并根据所述轨迹误差,对所述SLAM算法进行算法优化处理,所述估计位姿信息是所述终端设备采用SLAM算法对执行数据进行处理得到的执行所述测试动作所对应的估计位姿信息,所述执行数据是执行所述测试动作所采集的数据,所述匹配的数据对包括分别属于所述真实位姿信息和所述估计位姿信息的两个帧,所述两个帧的时间戳的差值与基本误差的差值小于或者等于预设的时间差阈值,所述基本误差为所述真实位姿信息和所述估计位姿信息中的第一帧的时间戳的差值。
9.根据权利要求8所述的方法,其特征在于,所述在终端设备执行AR场景的测试动作过程中,定位跟踪系统采集获取辅助信息,包括:
在所述终端设备执行所述测试动作过程中,所述定位跟踪系统获取所述真实位姿信息,其中,所述真实位姿信息为所述终端设备在执行所述测试动作过程中的位姿信息。
10.根据权利要求8所述的方法,其特征在于,所述在终端设备执行AR场景的测试动作过程中,定位跟踪系统采集获取辅助信息,包括:
在所述终端设备执行所述测试动作过程中,所述定位跟踪系统采集所述终端设备的位姿数据,其中,所述位姿数据为所述终端设备在执行所述测试动作过程中的位姿状态变化数据。
11.根据权利要求10所述的方法,其特征在于,所述在所述终端设备执行所述测试动作过程中,所述定位跟踪系统采集所述终端设备的位姿数据,包括:
在所述终端设备执行所述测试动作过程中,所述定位跟踪系统采集所述定位跟踪系统的跟踪器的位姿变化数据,并获取所述跟踪器与所述终端设备之间的姿态映射关系数据,其中,所述跟踪器在所述终端设备执行所述测试动作的过程中跟踪所述终端设备。
12.根据权利要求11所述的方法,其特征在于,在所述终端设备执行所述测试动作过程中,所述定位跟踪系统获取所述跟踪器与所述终端设备之间的姿态映射关系数据,包括:
在所述终端设备执行所述测试动作过程中,所述定位跟踪系统获取所述跟踪器采集的图像数据和所述终端设备采集的图像数据,所述图像数据包括至少一个图像帧;
所述定位跟踪系统根据所述终端设备采集图像数据的帧率,对所述跟踪器采集的图像数据进行帧率同步处理,使所述跟踪器采集的图像数据与所述终端设备采集图像帧的帧率一致;
根据所述跟踪器采集的图像数据与所述终端设备采集的图像数据,计算所述终端设备的运动轨迹的与所述跟踪器的运动轨迹的刚体变换矩阵。
13.根据权利要求11或12所述的方法,其特征在于,在所述终端设备执行所述测试动作过程中,所述定位跟踪系统采集所述定位跟踪系统的跟踪器的位姿变化数据,并获取所述跟踪器与所述终端设备之间的姿态映射关系数据之后,还包括:
所述定位跟踪系统采用所述姿态映射关系数据对所述位姿变化数据进行姿态映射处理,得到真实位姿信息,其中,所述真实位姿信息为所述终端设备在执行所述测试动作过程中的位姿信息。
14.一种基于AR的SLAM算法的处理装置,其特征在于,包括:
数据获取模块,用于终端设备在执行AR场景的测试动作过程中,采集执行所述测试动作所得到的执行数据,并获取执行所述测试动作所对应的真实位姿信息;
执行模块,用于终端设备采用SLAM算法对所述执行数据进行处理,得到执行所述测试动作所对应的估计位姿信息;
误差计算模块,用于终端设备根据所述真实位姿信息和估计位姿信息中相匹配的数据对,得到所述SLAM算法所对应的轨迹误差,所述匹配的数据对包括分别属于所述真实位姿信息和所述估计位姿信息的两个帧,所述两个帧的时间戳的差值与基本误差的差值小于或者等于预设的时间差阈值,所述基本误差为所述真实位姿信息和所述估计位姿信息中的第一帧的时间戳的差值;
优化模块,用于终端设备根据所述轨迹误差,对所述SLAM算法进行算法优化处理。
15.根据权利要求14所述的装置,其特征在于,所述数据获取模块还用于:
所述终端设备通过所述终端设备的摄像头采集执行所述测试动作所得到的视频数据,并且,通过所述终端设备的惯性测量单元采集执行所述测试动作所得到的惯性测量数据。
16.根据权利要求14所述的装置,其特征在于,所述数据获取模块还用于:
所述终端设备接收定位跟踪系统发送的辅助信息,所述辅助信息用于使所述终端设备获取执行所述测试动作所对应的真实位姿信息。
17.根据权利要求16所述的装置,其特征在于,所述数据获取模块还用于:
所述终端设备接收定位跟踪系统发送的所述真实位姿信息,其中,所述真实位姿信息为所述定位跟踪系统在所述终端设备执行所述测试动作过程中获取的所述终端设备的位姿信息。
18.根据权利要求16所述的装置,其特征在于,所述数据获取模块还用于:
所述终端设备接收定位跟踪系统发送的位姿数据,其中,位姿数据为所述定位跟踪系统在所述终端设备执行所述测试动作过程中所采集的所述终端设备的位姿状态变化数据;
所述终端设备根据所述位姿数据计算得到所述真实位姿信息。
19.根据权利要求18所述的装置,其特征在于,所述数据获取模块还用于:
所述终端设备接收定位跟踪系统发送的位姿数据,所述位姿数据包括所述定位跟踪系统获取所述定位跟踪系统的跟踪器的位姿变化数据以及所述跟踪器与所述终端设备之间的姿态映射关系数据,其中,所述跟踪器在所述终端设备执行所述测试动作的过程中跟踪所述终端设备;
所述终端设备采用所述姿态映射关系数据对所述位姿变化数据进行姿态映射处理,得到所述真实位姿信息。
20.一种基于AR的SLAM算法的处理装置,其特征在于,包括:
数据采集模块,用于在终端设备执行AR场景的测试动作过程中,定位跟踪系统采集获取辅助信息,所述辅助信息用于使所述终端设备获取执行所述测试动作所对应的真实位姿信息;
发送模块,用于所述定位跟踪系统向所述终端设备发送辅助信息,以使所述终端设备根据所述真实位姿信息和估计位姿信息中相匹配的数据对,得到SLAM算法所对应的轨迹误差,并根据所述轨迹误差,对所述SLAM算法进行算法优化处理,所述估计位姿信息是所述终端设备采用SLAM算法对执行数据进行处理得到的执行所述测试动作所对应的估计位姿信息,所述执行数据是执行所述测试动作所采集的数据,所述匹配的数据对包括分别属于所述真实位姿信息和所述估计位姿信息的两个帧,所述两个帧的时间戳的差值与基本误差的差值小于或者等于预设的时间差阈值,所述基本误差为所述真实位姿信息和所述估计位姿信息中的第一帧的时间戳的差值。
21.根据权利要求20所述的装置,其特征在于,所述数据采集模块还用于:
在所述终端设备执行所述测试动作过程中,所述定位跟踪系统获取所述真实位姿信息,其中,所述真实位姿信息为所述终端设备在执行所述测试动作过程中的位姿信息。
22.根据权利要求20所述的装置,其特征在于,所述数据采集模块还用于:
在所述终端设备执行所述测试动作过程中,所述定位跟踪系统采集所述终端设备的位姿数据,其中,所述位姿数据为所述终端设备在执行所述测试动作过程中的位姿状态变化数据。
23.根据权利要求22所述的装置,其特征在于,所述数据采集模块还用于:
在所述终端设备执行所述测试动作过程中,所述定位跟踪系统采集所述定位跟踪系统的跟踪器的位姿变化数据,并获取所述跟踪器与所述终端设备之间的姿态映射关系数据,其中,所述跟踪器在所述终端设备执行所述测试动作的过程中跟踪所述终端设备。
24.根据权利要求23所述的装置,其特征在于,所述数据采集模块还用于:
在所述终端设备执行所述测试动作过程中,所述定位跟踪系统获取所述跟踪器采集的图像数据和所述终端设备采集的图像数据,所述图像数据包括至少一个图像帧;
所述定位跟踪系统根据所述终端设备采集图像数据的帧率,对所述跟踪器采集的图像数据进行帧率同步处理,使所述跟踪器采集的图像数据与所述终端设备采集图像帧的帧率一致;
根据所述跟踪器采集的图像数据与所述终端设备采集的图像数据,计算所述终端设备的运动轨迹的与所述跟踪器的运动轨迹的刚体变换矩阵。
25.根据权利要求23或24所述的装置,其特征在于,所述数据采集模块还用于:
所述定位跟踪系统采用所述姿态映射关系数据对所述位姿变化数据进行姿态映射处理,得到真实位姿信息,其中,所述真实位姿信息为所述终端设备在执行所述测试动作过程中的位姿信息。
26.一种终端设备,其特征在于,包括:
存储器,处理器,以及存储在所述存储器上并可在所述处理器上运行的计算机程序,
所述处理器运行所述计算机程序时实现如权利要求1-7中任一项所述的方法。
27.一种定位跟踪系统,其特征在于,包括:跟踪器和控制设备,
所述跟踪器用于在终端设备执行AR场景的测试动作的过程中跟踪所述终端设备;
所述控制设备包括存储器,处理器,以及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器运行所述计算机程序时实现如权利要求8-13中任一项所述的方法。
28.一种计算机可读存储介质,其特征在于,存储有计算机程序,
所述计算机程序被处理器执行时实现如权利要求1-7中任一项所述的方法。
29.一种计算机可读存储介质,其特征在于,存储有计算机程序,
所述计算机程序被处理器执行时实现如权利要求8-13中任一项所述的方法。
CN201810555483.XA 2018-05-31 2018-05-31 基于ar的slam算法的处理方法、装置及设备 Active CN108765563B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810555483.XA CN108765563B (zh) 2018-05-31 2018-05-31 基于ar的slam算法的处理方法、装置及设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810555483.XA CN108765563B (zh) 2018-05-31 2018-05-31 基于ar的slam算法的处理方法、装置及设备

Publications (2)

Publication Number Publication Date
CN108765563A CN108765563A (zh) 2018-11-06
CN108765563B true CN108765563B (zh) 2022-05-10

Family

ID=64001669

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810555483.XA Active CN108765563B (zh) 2018-05-31 2018-05-31 基于ar的slam算法的处理方法、装置及设备

Country Status (1)

Country Link
CN (1) CN108765563B (zh)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109814710B (zh) * 2018-12-27 2022-05-13 青岛小鸟看看科技有限公司 数据处理方法、装置及虚拟现实设备
CN110262283B (zh) * 2019-06-11 2022-08-23 远形时空科技(北京)有限公司 一种多场景的视觉机器人仿真平台及方法
CN110650354B (zh) * 2019-10-12 2021-11-12 苏州大禹网络科技有限公司 虚拟动漫角色直播方法、系统、设备及存储介质
CN112785715B (zh) 2019-11-08 2024-06-25 华为技术有限公司 虚拟物体显示方法以及电子设备
CN110887489A (zh) * 2019-11-22 2020-03-17 深圳晨芯时代科技有限公司 一种基于ar机器人的slam算法的实验方法
CN111582385B (zh) * 2020-05-11 2023-10-31 杭州易现先进科技有限公司 Slam质量的量化方法、系统、计算机设备和存储介质
CN111862288B (zh) * 2020-07-29 2024-08-13 北京小米移动软件有限公司 一种位姿渲染方法、装置及介质
CN114170448A (zh) * 2020-08-20 2022-03-11 魔门塔(苏州)科技有限公司 一种视觉感知算法的评测方法及装置
CN112132940A (zh) * 2020-09-16 2020-12-25 北京市商汤科技开发有限公司 显示方法、装置,显示设备及存储介质
CN112148197A (zh) * 2020-09-23 2020-12-29 北京市商汤科技开发有限公司 增强现实ar交互方法、装置、电子设备及存储介质
CN113469495A (zh) * 2021-05-28 2021-10-01 视辰信息科技(上海)有限公司 一种视觉定位系统的自动化评估方法及其系统
CN114442808B (zh) * 2022-01-26 2024-09-17 深圳市慧鲤科技有限公司 一种位姿跟踪模块的测试方法、装置、设备、系统和介质
CN114445496A (zh) * 2022-01-27 2022-05-06 深圳市慧鲤科技有限公司 一种重定位模块的测试方法、装置、设备、系统和介质
CN114469079B (zh) * 2022-01-29 2022-09-06 北京中科深智科技有限公司 一种利用LightHouse的身体关节测量方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104850615A (zh) * 2015-05-14 2015-08-19 西安电子科技大学 一种基于g2o的SLAM后端优化算法方法
CN104966123A (zh) * 2015-07-16 2015-10-07 北京工业大学 基于模糊-自适应的slam数据关联方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7689321B2 (en) * 2004-02-13 2010-03-30 Evolution Robotics, Inc. Robust sensor fusion for mapping and localization in a simultaneous localization and mapping (SLAM) system
US10306206B2 (en) * 2013-07-23 2019-05-28 The Regents Of The University Of California 3-D motion estimation and online temporal calibration for camera-IMU systems
US10354449B2 (en) * 2015-06-12 2019-07-16 Hand Held Products, Inc. Augmented reality lighting effects
KR102462799B1 (ko) * 2015-11-05 2022-11-03 삼성전자주식회사 자세 추정 방법 및 자세 추정 장치
EP3182373B1 (en) * 2015-12-17 2019-06-19 STMicroelectronics S.A. Improvements in determination of an ego-motion of a video apparatus in a slam type algorithm
US9854170B2 (en) * 2015-12-29 2017-12-26 Oculus Vr, Llc Rolling shutter blur reduction using motion data

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104850615A (zh) * 2015-05-14 2015-08-19 西安电子科技大学 一种基于g2o的SLAM后端优化算法方法
CN104966123A (zh) * 2015-07-16 2015-10-07 北京工业大学 基于模糊-自适应的slam数据关联方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
余杰.基于ORB关键帧闭环检测算法的SLAM方法研究.《中国优秀博硕士学位论文全文数据库(硕士) 信息科技辑》.2017,第I138-890页. *
基于ORB关键帧闭环检测算法的SLAM方法研究;余杰;《中国优秀博硕士学位论文全文数据库(硕士) 信息科技辑》;20170515;第I138-890页 *
基于关节自由度约束的上臂轴旋转跟踪误差补偿;荆旭 等;《上海交通大学学报》;20141231;第1667-1674页 *

Also Published As

Publication number Publication date
CN108765563A (zh) 2018-11-06

Similar Documents

Publication Publication Date Title
CN108765563B (zh) 基于ar的slam算法的处理方法、装置及设备
CN107888828B (zh) 空间定位方法及装置、电子设备、以及存储介质
CN108765498B (zh) 单目视觉跟踪方法、装置及存储介质
CN108830894B (zh) 基于增强现实的远程指导方法、装置、终端和存储介质
CN107747941B (zh) 一种双目视觉定位方法、装置及系统
CN108700947B (zh) 用于并发测距和建图的系统和方法
CN108447097B (zh) 深度相机标定方法、装置、电子设备及存储介质
CN106446815B (zh) 一种同时定位与地图构建方法
CN110310326B (zh) 一种视觉定位数据处理方法、装置、终端及计算机可读存储介质
EP3855400A1 (en) Data processing method and device for virtual scene
EP3134870B1 (en) Electronic device localization based on imagery
CA3161560A1 (en) 3-d reconstruction using augmented reality frameworks
CN111091587B (zh) 一种基于视觉标志物的低成本动作捕捉方法
EP3335153B1 (en) Managing feature data for environment mapping on an electronic device
CN109767470B (zh) 一种跟踪系统初始化方法及终端设备
CN112212852B (zh) 定位方法、移动设备及存储介质
CN112819860A (zh) 视觉惯性系统初始化方法及装置、介质和电子设备
EP3786891A1 (en) Method and system for visual localization based on dual dome cameras
CN114092646A (zh) 模型生成方法、装置、计算机设备及存储介质
CN109040525A (zh) 图像处理方法、装置、计算机可读介质及电子设备
CN114283243A (zh) 数据处理方法、装置、计算机设备及存储介质
CN117788659A (zh) 渲染图像的方法、装置、电子设备及存储介质
CN117689826A (zh) 三维模型构建和渲染方法、装置、设备以及介质
CN113822936A (zh) 数据处理方法、装置、计算机设备及存储介质
CN111242107B (zh) 用于设置空间中的虚拟对象的方法和电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant