CN111028347A - 用于重建物理工作空间的三维模型的方法和系统 - Google Patents

用于重建物理工作空间的三维模型的方法和系统 Download PDF

Info

Publication number
CN111028347A
CN111028347A CN201911345607.2A CN201911345607A CN111028347A CN 111028347 A CN111028347 A CN 111028347A CN 201911345607 A CN201911345607 A CN 201911345607A CN 111028347 A CN111028347 A CN 111028347A
Authority
CN
China
Prior art keywords
acquisition
motion
mobile device
track
interest
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201911345607.2A
Other languages
English (en)
Other versions
CN111028347B (zh
Inventor
饶童
施文博
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seashell Housing Beijing Technology Co Ltd
Original Assignee
Beike Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beike Technology Co Ltd filed Critical Beike Technology Co Ltd
Priority to CN201911345607.2A priority Critical patent/CN111028347B/zh
Publication of CN111028347A publication Critical patent/CN111028347A/zh
Application granted granted Critical
Publication of CN111028347B publication Critical patent/CN111028347B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/08Indexing scheme for image data processing or generation, in general involving all processing steps from image acquisition to 3D model generation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/32Indexing scheme for image data processing or generation, in general involving image mosaicing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Geometry (AREA)
  • Artificial Intelligence (AREA)
  • Computer Graphics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Image Analysis (AREA)

Abstract

本发明提供了用于重建物理工作空间的三维模型的方法和系统。所述方法包括:获取表示移动设备的运动状态的状态参数;基于所述状态参数计算出表示移动设备的位置在物理工作空间内的变化的运动轨迹;在移动设备的运动轨迹上确定出作为采集设备的运动轨迹的感兴趣的轨迹段,所述感兴趣的轨迹段是采集设备被操作者持着而改变采集位置的轨迹;在采集设备的运动轨迹上确定出所述多个采集位置,以获取分别表示所述多个采集位置的多片点云数据;以及基于所述感兴趣的轨迹段所述多片点云数据获得所述多个采集位置的相对位置关系,用于基于所述相对位置关系拼接所述多个子模型,从而重建所述三维模型。

Description

用于重建物理工作空间的三维模型的方法和系统
技术领域
本发明涉及三维重建领域,尤其涉及用于重建物理工作空间的三维模型的方法和系统。
背景技术
随着智慧城市、文物保护、室内导航、虚拟现实等对精细化三维模型的需求越来越多,三维模型的重建技术成为了研究热点。在三维模型的重建过程中,可以通过将多个有重叠部分的子模型拼接在一起以重建三维模型。
为了将多个子模型有序地拼接在一起,一种现有方案是先通过人工方式进行粗略拼接,然后在粗略拼接的基础上,通过算法进行精准拼接。然而,该现有方案存在手动拼接效率低下且容易拼接出错而导致重建失败的问题。
另一种现有方案是通过视觉定位算法来完成子模型的拼接。在该现有方案中,通常采用图像特征点匹配、深度匹配或光流追踪等方式来实现子模型的高精度定位与追踪。但是,这些方式都依赖于待拼接的子模型满足一定的条件才能有效地完成拼接。所述条件例如是待拼接的子模型的图像中存在丰富的纹理,或者待拼接的子模型的运动矢量满足一定的约束条件。这样,在待拼接的子模型的图像中存在大量弱纹理、弱光照或者追踪丢失的情况下,采用该方案就难以达到较佳的拼接效果。而且,在对待拼接的子模型进行长时间、无回环的定位追踪过程中,视觉定位算法通常存在误差积累和尺度漂移的问题。
因此,希望提出一种技术方案来解决现有技术中的上述问题。
发明内容
鉴于现有技术中的上述问题,本发明旨在提供一种用于重建物理工作空间的三维模型的技术方案,其能够提升重建三维模型的成功率。
为此,根据本发明的一个方面,提供了一种用于重建物理工作空间的三维模型的方法,所述三维模型包括由采集设备在物理工作空间内的多个采集位置处采集的多个子模型。所述方法包括:获取表示移动设备的运动状态的状态参数,移动设备与采集设备无线连接并由采集设备的操作者携带;基于所述状态参数计算出表示移动设备的位置在物理工作空间内的变化的运动轨迹;在移动设备的运动轨迹上确定作为采集设备的运动轨迹的感兴趣的轨迹段,所述感兴趣的轨迹段是采集设备被操作者持着而改变采集位置的轨迹;在采集设备的运动轨迹上确定出所述多个采集位置,以获得分别表示所述多个采集位置的多片点云数据;以及基于所述感兴趣的轨迹段和所述多片点云数据获得所述多个采集位置的相对位置关系,用于基于所述相对位置关系拼接所述多个子模型,从而重建所述三维模型。
根据一个可行实施方式,在移动设备的运动轨迹上确定所述感兴趣的轨迹段包括:在移动设备的运动轨迹上确定多个感兴趣的子段,每个感兴趣的子段与每次采集设备被操作者持着而变换采集位置的运动轨迹相对应;以及将所述多个感兴趣的子段依次连接,以形成所述感兴趣的轨迹段。
根据一个可行实施方式,确定所述感兴趣的子段包括:获取用于连接采集设备与移动设备的无线网络的信号强度;对每个单位时间内的信号强度进行线性拟合,以获得表示信号强度随时间变化的多个线段;基于所述多个线段中每个线段所表示的强度幅值和该线段的斜率来判断该线段是否为表示采集设备被操作者持着而变换采集位置的线段;以及将移动设备的运动轨迹中与判断结果为肯定的线段相对应的部分确定为所述感兴趣的子段。
根据一个可行实施方式,确定所述感兴趣的轨迹段包括:获取移动设备的样本轨迹,所述样本轨迹表示所述移动设备被操作者携带着而离开一采集位置再返回至该采集位置以开始变换采集位置的轨迹;将移动设备的运动轨迹与样本轨迹相匹配;以及去除移动设备的运动轨迹中匹配成功的部分,以获得作为所述感兴趣的轨迹段的剩余部分。
根据一个可行实施方式,所述状态参数包括表示移动设备的运动状态的角速度和加速度;并且借助经训练的机器学习模型,基于所述角速度和加速度预测出移动设备的位移,以获得所述移动设备的运动轨迹。
根据一个可行实施方式,所述物理工作空间是室内空间。
根据一个可行实施方式,所述物理工作空间是房源的室内空间。
根据本发明的另一个方面,提供了一种用于重建物理工作空间的三维模型的系统,包括:采集设备,用于在物理工作空间内的多个采集位置中的每一个处分别采集图像,以获得物理工作空间的多个子模型;移动设备,与采集设备无线连接并由采集设备的操作者携带,所述移动设备上设置有用于检测其运动状态的运动状态检测装置;以及处理设备,与移动设备和采集设备以能够传输数据的方式连接,所述处理设备配置成执行如上所述方法以提供多个采集位置的相对位置关系,以便在采集设备处基于所述相对位置关系拼接所述多个子模型,从而重建所述三维模型。
根据一个可行实施方式,所述运动状态检测装置为惯性测量单元,所述惯性测量单元包括陀螺仪和加速度计。
根据一个可行实施方式,所述惯性测量单元还包括线性加速度计和重力计中的至少一项。
根据一个可行实施方式,所述系统还包括信号强度检测装置,用于检测采集设备与移动设备之间的无线网络的信号强度;并且所述信号强度检测装置是设置于移动设备上的应用程序,或者是与移动设备和采集设备均独立的检测装置。
根据本发明的又一个方面,提供了一种用于重建物理工作空间的三维模型的装置,包括处理器和存储器,所述存储器耦合至所述处理器并存储有指令,所述指令在由所述处理器执行时使得所述处理器执行如上所述的方法。
根据本发明的再一个方面,提供了一种机器可读存储介质,其存储有可执行指令,所述指令在被执行时使得所述机器执行如上所述的方法。
由此可见,根据本发明的技术方案,借助移动设备上的惯性测量单元(IMU)获得移动设备的运动轨迹,基于移动设备的运动轨迹恢复出采集设备的运动轨迹,以获得采集设备的多个采集位置,进而获得分别表示多个采集位置的多片点云数据。根据多片点云数据确定出多个采集位置之间的相对位置关系,基于该相对位置关系自动地拼接(吸附)多个子模型以重建物理工作空间的三维模型。
因此,本发明的技术方案能够在不依赖于所采集的图像本身的特征的情况下,以较高的精度和具有鲁棒性地确定出多个采集位置之间的相对位置关系,提升了重建三维模型的成功率。
附图说明
图1是根据本发明一个可行实施方式的用于重建物理工作空间的三维模型的系统的示意性框图。
图2示意性示出了包含图1中的系统的一个应用场景。
图3示意性示出了图2的场景中的物理工作空间的平面图。
图4示意性示出了图1中的系统的移动设备的运动轨迹。
图5A-5C示意性示出了在图1的系统的移动设备与采集设备之间的无线网络的信号强度随时间的变化。
图6是根据本发明一个可行实施方式的用于重建物理工作空间的三维模型的方法流程图,该方法由图1中的系统的处理设备执行。
图7A是根据本发明一个可行实施方式的图6中的一个主要步骤所包含的分步骤的示意性流程图,图7B是根据本发明另一个可行实施方式的所述主要步骤所包含的分步骤的示意性流程图。
图8是根据本发明一个可行实施方式的用于重建物理工作空间的三维模型的装置的示意性框图。
具体实施方式
本发明主要涉及重建物理工作空间的三维模型的技术方案。在具体介绍本发明的各实施例之前,首先解释说明书和权利要求书中使用的一些术语。
术语“物理工作空间”在本文中可以理解为物理环境,是采集设备的采集对象。例如,物理工作空间可以是被墙壁、底板和/或顶板部分地或完全包围室内空间,或者可以是建筑物内的受限空间。
术语“采集设备”可以理解为具有捕获图像的功能的设备,例如,照相机、摄像机、扫描仪等。采集设备可以是具有较宽视角的广角相机,能够在有限的距离内捕获较大范围的图像。
术语“采集位置”可以理解为采集设备在物理工作空间中进行采集时的位置(即,采集场地)。在物理工作空间中具有多个采集位置,采集设备在每一个采集位置处采集图像,以获得物理工作空间的三维模型的子模型。
术语“点云数据”可以理解为表示采集位置的数据。每片点云数据表示一个采集位置。每片点云都有独立的坐标系并且都以采集设备为其坐标系的原点。例如,可以通过两片点云数据之间的相似性来确定相连两个采集位置之间的相对位置关系。“点云数据”在拼接多个子模型的过程中起到“导向”作用,用于引导各子模型自动地吸附(拼接)至其在整个三维模型中的位置。
术语“移动设备”可以理解为移动终端,例如,移动电话,寻呼机,通讯机,电子记事本,个人数字助理(PDA),智能手机或类似设备。移动设备尤其是便携式移动终端,例如,便于携带的智能手机。
下面,结合附图来详细描述本发明的各个实施例。
图1示意性示出了根据本发明一个可行实施方式的用于重建物理工作空间的三维模型的系统100,其主要包括采集设备10、移动设备20和处理设备30。参见图2和图3,物理工作空间S可以是室内空间,尤其是房源的室内空间。在物理工作空间S中具有多个采集位置①-⑩,采集设备10分别在每个采集位置处采集图像(例如,深度图像),以获得物理工作空间S的三维模型的子模型,再借助系统100来拼接多个子模型以重建室内空间的三维模型。
应当理解,在多个采集位置的分布上,本发明仅涉及该多个采集位置位于物理工作空间S内的诸如地板(地面)之类的平面上,因为本发明需要借助采集设备的操作者(摄影师)的行经路径来确定该多个采集位置之间的相对位置关系。
以下,逐一介绍系统100的每个设备。
采集设备10由其操作者依次放置于物理工作空间S中的多个采集位置①-⑩中的每一个采集位置处,并在每个采集位置处采集物理工作空间S的子模型(例如,深度图像)。采集设备在一个采集位置完成采集后,被操作者持着移动而被操作者放置于下一个采集位置,直到完成所有采集位置的采集。
移动设备20由采集设备10的操作者携带,并且与采集设备10经由无线网络而通信连接。在移动设备20与采集设备10之间的通信方式可以是wifi,蓝牙或Zigbee中的一种。移动设备20被操作者携带着而在物理工作空间S内移动,从而形成移动设备的运动轨迹。例如,操作者可以携带移动设备20靠近采集设备10至到达采集设备10的当前采集位置①,接着持采集设备移动至下一个采集位置②,将采集设备放置于该下一个采集位置②后离开。为了在采集设备采集的图像中不出现操作者,操作者往往放置好采集设备后转身并迅速离开采集设备的视野。
移动设备20上设置有运动状态检测装置21,用于检测移动设备20的运动状态。运动状态检测装置21将检测到表示移动设备20的运动状态的状态参数传输给处理设备30,以便处理设备30进行计算。
在一个实施例中,运动状态检测装置21实现为惯性测量单元(IMU),惯性测量单元可以集成有用于感测运动状态的多种传感器。各传感器在感测移动设备20的运动状态的过程中,可以采用移动设备20的本体坐标系(Body Fram),例如,各传感器分别感测本体坐标系的三个轴方向(例如,表示为XYZ三个方向)上的状态参数。惯性测量单元可以包括陀螺仪和加速度计。陀螺仪感测移动设备20在XYZ三个方向上的角速度。加速度计感测移动设备20在XYZ三个方向上的加速度。惯性测量单元还可以包括其他的传感器,例如,线性加速度计和重力计。线性加速度计感测移动设备20在XYZ三个方向上的线性加速度。重力计感测移动设备20在XYZ三个方向上的重力分量。
应当理解,加速度计测得的结果包括重力加速度在XYZ三个方向上的分量。线性加速度计测得的结果不包括重力加速度在XYZ三个方向上的分量,即,线性加速度计测得的结果为移动设备自身的运动在XYZ三个方向上的加速度。
处理设备30与移动设备20和采集设备10以能够传输数据的方式连接。处理设备30可以实现为移动设备20的一部分,例如,处理设备30实现为集成于移动设备20中的处理器。处理设备30也可以实现为独立于移动设备20和采集设备10的设备,例如,处理设备30实现为一台计算机。处理设备30及其各功能模块也可以在一个或多个处理器上实现。以下介绍处理设备30进行计算和处理的过程。
处理设备30基于来自运动状态检测装置21的状态参数进行计算出移动设备20在物理工作空间S中运动轨迹。参见图4,在生成移动设备20的运动轨迹的过程中,以第一个采集位置为原点,即,以采集设备10的运动起始点为原点(参见图4中的符号☆),在该原点所在平面上建立坐标系。应当理解,对于原点和坐标系的选取,也可以采用其他的方式,因为本发明仅需要确定多个采集位置之间的相对位置关系,而不需要知道它们各自的绝对位置。
在运动状态检测装置21实现为惯性测量单元(IMU)的实施方式中,处理设备30获取来自惯性测量单元的状态参数,例如,来自各传感器的测量参数。接着,处理设备30采用经训练的机器学习模型预测出移动设备20的位移变化,从而生成移动设备的运动轨迹。例如,在采用机器学习模型的处理中,角速度和加速度随时间的变化为模型输入,位移随时间的变化为模型输出。
在本发明中,采用机器学习模型来基于状态参数获得运动轨迹是有利的,因为在采用各种传感器测量移动设备的状态参数的过程中,存在诸如噪声、本体坐标系随移动设备的晃动而变化等干扰因素,机器学习模型能够有效地消除或者降低这些干扰因素带来的影响,恢复出真实的运动轨迹。而且,机器学习模型能够将不同类型传感器测得的不同类型的状态参数进行融合计算,从而提升预测结果的准确性。而且,机器学习模型能够消除测量以及计算中的累积误差,并充分挖掘出数据之间的时间依赖性,由此进一步提升了预测结果的准确性。
继续参见图4,移动设备20的运动轨迹包含其被操作者携带着而遍历所有采集位置①-⑩的轨迹,其中,包含感兴趣的轨迹段和不感兴趣的轨迹段。感兴趣的轨迹段指表示采集设备10被操作者持着而变化采集位置的轨迹部分。不感兴趣的轨迹段指“离开-采集-返回”的轨迹部分,即,操作者(携带着移动设备20)在放置好采集设备后离开,待采集设备10在该采集位置处采集完成,操作者再返回该采集位置处的轨迹。也就是说,感兴趣的轨迹段是采集设备的运动轨迹。不感兴趣的轨迹段为非采集设备的运动轨迹。
下面介绍在移动设备20的运动轨迹上确定出感兴趣的轨迹段的过程。
在一种实施方式中,在移动设备的运动轨迹上截取多个感兴趣的子段,每个感兴趣的子段与每次采集设备10被操作者持着而变换采集位置的运动轨迹相对应,然后将多个感兴趣的子段依次连接,以形成感兴趣的轨迹段,即,采集设备的运动轨迹。
在该实施方式中,系统100还包括信号强度检测装置(未示出),用于检测移动设备20与采集设备10之间的无线网络的信号强度。该信号强度检测装置可以实现为安装于移动设备20上的APP,还可以实现为独立于移动设备20和采集设备10的检测装置。处理设备30可以借助检测到的信号强度随时间的变化来确定出各感兴趣的子段。例如,处理设备30获取无线网络的信号强度,对每个单位时间内获得的信号强度进行线性拟合,以获得多个线段,基于多个线段中每个线段所表示的强度幅值和该线段的斜率来判断该线段是否为表示采集设备被操作者持着而变换采集位置的线段,并且将在时间上与判断结果为肯定的线段相对应的轨迹部分确定为感兴趣的子段。
在该实施方式中,信号强度检测装置可以以预定的频率检测信号强度(例如,wifi信号的强度)。例如,每秒检测100次,以0.5s为单位时间,则处理设备30在每个单位时间内获得50个信号强度。图5A-5C示意性示出了无线网络的信号强度随时间变化的三种情形。
参见图5A,在第一个时间窗t1(0-0.5S)和第二个时间窗t2中(0.5S-1S),线段的斜率为正且斜率大于斜率阈值,则将移动设备20在第一个时间窗t1和第二时间窗t2的时间内的状态判定为靠近采集设备10,即,MOVE_CLOSE。在第三个时间窗t3(1S-1.5S)和第四个时间窗t4(1.5S-2S)中,线段的斜率基于不变,且强度幅值大于幅值阈值,则将移动设备20在第三个时间窗t3和第四时间窗t4的时间内的状态确定为稳定,即,STAY_STABLE。
由此可见,在第一和第二时间窗内,移动设备20被操作者携带着而逐渐靠近采集设备10直到达到采集设备10的当前采集位置处,接着在第三和第四时间窗内,采集设备10被操作者持着移动(即,采集设备10处于变换采集位置中)。因此,在图5A示出的情形中,移动设备20的运动轨迹中,在时间上与第三个时间窗t3和第四时间窗t4对应的轨迹部分为感兴趣的子段。
参见图5B,在第一个时间窗t1(0-0.5S)中,线段的斜率基本不变,且强度幅值大于幅值阈值,则将移动设备20在该时间窗的时间内的状态确定为稳定,即,STAY_STABLE。在第二个时间窗t2(0.5S-1S)和第三个时间窗t3(1S-1.5S)中,线段的斜率为负,则将移动设备在第二个时间窗和第三个时间窗的时间内的状态确定为远离采集设备10,即,MOVE_FAR。在第四个时间窗t4(1.5S-2S)中,线段的斜率基本不变并且强度幅值小于预定阈值。
由此可见,在第一个时间窗的时间内,采集设备10被操作者持着移动并达到目标采集位置。在第二和第三个时间窗的时间内,移动设备20被操作者携带着朝向远离采集设备10的方向移动。在第四个时间窗的时间内,移动设备20被操作者携带者停留于距离采集设备10较远处。因此,在图5B示出的情形中,在移动设备20的运动轨迹中,在时间上与第一个时间窗对应的轨迹部分为感兴趣的子段,并且在时间上与第二至第四个时间窗对应的轨迹部分为不感兴趣的轨迹段。
参见图5C,在第一个时间窗t1(0-0.5S)中,线段的斜率为正且斜率大于斜率阈值,则移动设备20在第一个时间窗的时间内的状态为靠近采集设备10,即,MOVE_CLOSE。在第二个时间窗t2(0.5S-1S)中,虽然线段的信号幅值大于幅值阈值,但是幅值波动较大,例如,当前信号强度幅值的平方减去该线段的时间段内强度平均值的平方大于预定阈值,则移动设备20在第二个时间窗的时间内的状态为不稳定,即,STAY_UNSTABLE。在第三个时间窗t3(1S-1.5S)和第四个时间窗t4(1.5S-2S)中,线段的斜率基本不变,且强度幅值大于幅值阈值,则移动设备20在第三个时间窗和第四时间窗的时间内的状态为稳定,即,STAY_STABLE。
由此可见,第一时间窗的时间内,移动设备20被操作者携带者朝向靠近采集设备10的方向移动至采集设备10的附近(即,当前采集位置附近)。在第二时间窗的时间内,移动设备20被操作者携带着在采集设备10附近来回晃动(例如,操作者在该附近处来回移动并执行其他操作)。在第三和第四时间窗的时间内,采集设备10被操作者携带着移动。因此,在图5C的情形中,在移动设备的运动轨迹中,在时间上与第一和第二时间窗对应的轨迹部分为不感兴趣的轨迹段,并且在时间上与第三和第四时间窗对应的轨迹部分为感兴趣的子段。
应当理解,在图5A-5C中示出的强度值是将实际强度值进行线性映射而量化后的值。
应当理解,图5A-5C仅示出了移动设备被操作者携带着运动的一些实例,实际情况可以包括各种场景,不限于此。
应当理解,上述斜率阈值和幅值阈值都是基于经验而预先设定的值。
在上述实施方式中,借助滑动时间窗来确定感兴趣的子段是有利的,因为虽然理论上来说,那些信号较强的点(例如,强度幅值超过了强度阈值的点)应当表示移动设备和采集设备最靠近的点,即,与这些时间点对应的轨迹部分应当构成感兴趣的子段(即,操作者携带着移动设备并持采集设备而使得移动设备和采集设备最靠近的时间段),但实际情况比较复杂,例如,操作者在十分接近采集设备的位置处徘徊并处理其他事务而并没有移动采集设备,这些时间段内信号强度都会超过强度阈值却并非我们感兴趣的区域。借助上述滑动时间窗的方式,能够有效地排出这样的干扰,从而更加准确地确定出感兴趣的子段。
在另一个实施方式中,通过在移动设备的运动轨迹中去除不感兴趣的轨迹段来获得感兴趣的轨迹段。在该实施方式中,处理设备30获取轨迹样本,轨迹样本是基于经验(例如,考虑操作者的运动习惯等)预先确定的一次“离开-采集-返回”轨迹段,即,移动设备20被操作者携带着离开一采集位置,待采集设备10在该采集位置处完成采集后,移动设备20被操作者携带着返回该采集位置。接着,处理设备30将移动设备20的运动轨迹与轨迹样本相匹配,将匹配成功的轨迹部分确定为不感兴趣的轨迹段,去除所有匹配成功的轨迹部分,将剩余部分连接起来以形成感兴趣的轨迹段。
在处理设备30获得了感兴趣的轨迹段,即,采集设备10的运动轨迹之后,在采集设备10的运动轨迹上确定出多个采集位置。例如,将该轨迹上出现拐点的地方确定为采集位置。每个采集位置可以用一片点云数据来表示,由此获得分别表示每个采集位置的多片点云数据。
接着,处理设备30基于感兴趣的轨迹段和多片点云数据确定出多个采集位置之间的相对位置关系。例如,处理设备30基于感兴趣的轨迹段的起点和终点粗略地确定出两个相邻采集位置之间的位置关系,即,基于感兴趣的轨迹段获得粗略的位置关系。并且,进一步基于表示这两个相邻采集位置的两片点云数据之间的相似性并借助优化迭代(ICP算法)来精确地获得这两个相邻采集位置之间的相对位置关系,即,基于点云数据来获得精确的位置关系。
由此可见,通过感兴趣的轨迹段能够获得两个相邻采集位置之间的粗略的位置关系,这个粗略的位置关系为获取精确的位置关系提供了良好的基础。如果没有获得感兴趣的轨迹段以及由此得到的粗略的位置关系,也就是说,在不知道两个采集位置之间大致位置关系的情况下而直接基于表示这两个采集位置的两片点云数据来确定它们之间的位置关系,很可能会出现无法得到正确的位置关系或者仅能得到不太准确的位置关系的问题。
接着,在采集设备10处,基于该相对位置关系将多个子模型自动地拼接(吸附)在一起,以重建物理工作空间S的三维模型。
本发明还涉及用于重建物理工作空间S的三维模型的方法,该方法可以借助上述处理设备30来实施,因此以上相关描述同样适用于此。以下参见图6描述该方法的主要步骤。
在步骤S610中,获取表示移动设备20的运动状态的状态参数。
在步骤S620中,基于状态参数计算出表示移动设备20运动轨迹,其表示移动设备20位置在物理工作空间S内的变化。
在步骤S630中,在移动设备20的运动轨迹上确定出感兴趣的轨迹段,作为采集设备10的运动轨迹。
在步骤S640中,在采集设备10的运动轨迹上确定出多个采集位置,以获取分别表示多个采集位置的多片点云数据。
在步骤S650中,基于感兴趣的轨迹段和多片点云数据获得多个采集位置的相对位置关系。
以下,参见图7A描述根据一个实施例的步骤S630所包含的分步骤。
在分步骤S631中,获取用于连接采集设备10与移动设备20的无线网络的信号强度。
在分步骤S632中,对每个单位时间内的信号强度进行线性拟合,以获得表示信号强度随时间变化的多个线段。
在分步骤S633中,基于多个线段中每个线段所表示的强度幅值和该线段的斜率来判断该线段是否为表示采集设备被操作者持着而变换采集位置的线段。
在分步骤S634中,将与判断结果为肯定的线段相对应的移动设备20的运动轨迹确定为感兴趣的子段。
在分步骤S635中,连接多个感兴趣的子段,以获得采集设备10的运动轨迹。
以下,参见图7B描述根据另一个实施例的步骤S630所包含的分步骤。
在分步骤S630A中,获取样本轨迹,所述样本轨迹表示移动设备20被操作者携带着而离开一采集位置再返回该采集位置以开始变换采集位置的运动轨迹。
在分步骤S630B中,将移动设备20的运动轨迹与样本轨迹相匹配。
在分步骤S630C中,去除移动设备20的运动轨迹中匹配成功的轨迹部分,将剩余的轨迹部分作为所述感兴趣的轨迹段。
本发明还涉及用于重建物理工作空间的三维模型的装置800。应当理解,装置800可以实现参见图6和图7A和图7B所描述的方法。参见图8,装置800包括存储器810和与存储器810耦接的处理器820。存储器810存储有指令,指令在由处理器820执行时使得处理器820执行如图6和图7A和图7B所例示的方法。
应当理解,本发明的实施例的装置800可以在硬件或专用电路、软件、固件、逻辑,或其任何组合中实施。某些方面可以在硬件中实施,而其他方面可以在可以由控制器、微处理器或其他计算设备执行的固件或软件中实施。
应当理解,本发明的实施例的处理器820可以用通用处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)或其它可编程逻辑器件、分立门或者晶体管逻辑、分立硬件组件等的任意组合来实现。通用处理器可以是微处理器,或者,处理器也可以是任何普通的处理器、控制器、微控制器或者状态机。处理器也可以实现为计算设备的组合,例如,DSP和微处理器的组合、多个微处理器、一个或多个微处理器与DSP内核的结合,或者任何其它此种结构。
应当理解,本发明的实施例的存储器810可以用便携式计算机磁盘、硬盘、随机存储存取器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或闪存)、光存储设备、磁存储设备,云存储器或其任意合适的组合来实现。
本发明还涉及计算机程序产品,其可以包括计算机可读存储介质,在该计算机可读介质上载有用于执行本发明的实施例的计算机可读程序指令。计算机可读存储介质可以是保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是但不限于电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。
本文所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备,或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令,并转发该计算机可读程序指令,以供存储在各个计算/处理设备中的计算机可读存储介质中。
用于执行本发明内容操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码,所述编程语言包括面向对象的编程语言—诸如Java、C++等,以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务供应商来通过因特网连接)。
应当理解,如在本发明中所使用的那样,术语“具有”、“包含”、“包括”等是开放性的术语,其表明所陈述的元件或特征的存在,而并不排除额外的元件或特征。除非上下文清楚地另有所指,否则冠词“一”、“一个”和“所述”旨在包括复数以及单数形式。除非另外具体注明,否则在本发明中描述的各实施例的特征可以彼此组合。
虽然前面描述了一些实施方式,这些实施方式仅以示例的方式给出,而不意于限制本发明的范围。所附的权利要求及其等同替换意在涵盖本发明范围和主旨内做出的所有修改、替代和改变。

Claims (10)

1.一种用于重建物理工作空间的三维模型的方法,所述三维模型包括由采集设备在所述物理工作空间内的多个采集位置处采集的多个子模型,所述方法包括:
获取表示移动设备的运动状态的状态参数,所述移动设备与所述采集设备无线连接并由所述采集设备的操作者携带;
基于所述状态参数计算出表示所述移动设备的位置在所述物理工作空间内的变化的运动轨迹;
在所述移动设备的运动轨迹上确定作为所述采集设备的运动轨迹的感兴趣的轨迹段,所述感兴趣的轨迹段是所述采集设备被操作者持着而改变采集位置的轨迹;
在所述采集设备的运动轨迹上确定出所述多个采集位置,以获得分别表示所述多个采集位置的多片点云数据;以及
基于所述感兴趣的轨迹段和所述多片点云数据获得所述多个采集位置的相对位置关系,用于基于所述相对位置关系拼接所述多个子模型,从而重建所述三维模型。
2.根据权利要求1所述的方法,其中,在所述移动设备的运动轨迹上确定所述感兴趣的轨迹段包括:
在所述移动设备的运动轨迹上确定多个感兴趣的子段,每个感兴趣的子段与每次采集设备被所述操作者持着而变换采集位置的运动轨迹相对应;以及
将所述多个感兴趣的子段依次连接,以形成所述感兴趣的轨迹段。
3.根据权利要求2所述的方法,其中,确定所述感兴趣的子段包括:
获取用于连接所述采集设备与所述移动设备的无线网络的信号强度;
对每个单位时间内的信号强度进行线性拟合,以获得表示信号强度随时间变化的多个线段;
基于所述多个线段中每个线段所表示的强度幅值和所述线段的斜率来判断所述线段是否为表示所述采集设备被所述操作者持着而变换采集位置的线段;以及
将所述移动设备的运动轨迹中与判断结果为肯定的线段相对应的部分确定为所述感兴趣的子段。
4.根据权利要求1所述的方法,其中,确定所述感兴趣的轨迹段包括:
获取所述移动设备的样本轨迹,所述样本轨迹表示所述移动设备被所述操作者携带着而离开一采集位置再返回至所述采集位置以开始变换采集位置的轨迹;
将所述移动设备的运动轨迹与所述样本轨迹相匹配;以及
去除所述移动设备的运动轨迹中匹配成功的部分,以获得作为所述感兴趣的轨迹段的剩余部分。
5.根据权利要求1-4中任一项所述的方法,其中,所述状态参数包括表示所述移动设备的运动状态的角速度和加速度;并且
借助经训练的机器学习模型,基于所述角速度和加速度预测出所述移动设备的位移,以获得所述移动设备在所述物理工作空间内的运动轨迹,可选地,所述物理工作空间是室内空间。
6.一种用于重建物理工作空间的三维模型的系统,包括:
采集设备,用于在所述物理工作空间内的多个采集位置中的每一个处分别采集图像,以获得所述物理工作空间的多个子模型;
移动设备,与所述采集设备无线连接并由所述采集设备的操作者携带,所述移动设备上设置有用于检测其运动状态的运动状态检测装置;以及
处理设备,与所述移动设备和所述采集设备以能够传输数据的方式连接,所述处理设备配置成执行如1-5中任一项所述的方法以确定作为所述采集设备的运动轨迹的感兴趣的轨迹段和分别表示所述多个采集位置的多片点云数据,并且基于所述感兴趣的轨迹段和所述多片点云数据来提供所述多个采集位置的相对位置关系,以便在采集设备处基于所述相对位置关系拼接所述多个子模型,从而重建所述三维模型。
7.如权利要求6所述的系统,其中,所述运动状态检测装置为惯性测量单元,所述惯性测量单元包括陀螺仪和加速度计,
可选地,所述惯性测量单元还包括线性加速度计和重力计中的至少一项。
8.如权利要求6或7所述的系统,其中,所述系统还包括信号强度检测装置,用于检测所述采集设备与所述移动设备之间的无线网络的信号强度;并且
所述信号强度检测装置是设置于所述移动设备上的应用程序,或者是与所述移动设备和所述采集设备均独立的检测装置。
9.一种用于重建物理工作空间的三维模型的装置,包括处理器和存储器,所述存储器耦合至所述处理器并存储有指令,所述指令在由所述处理器执行时使得所述处理器执行如权利要求1-5中任一项所述的方法。
10.一种机器可读存储介质,其存储有可执行指令,所述指令在被执行时使得所述机器执行如权利要求1-5中任一项所述的方法。
CN201911345607.2A 2019-12-24 2019-12-24 用于重建物理工作空间的三维模型的方法和系统 Active CN111028347B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911345607.2A CN111028347B (zh) 2019-12-24 2019-12-24 用于重建物理工作空间的三维模型的方法和系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911345607.2A CN111028347B (zh) 2019-12-24 2019-12-24 用于重建物理工作空间的三维模型的方法和系统

Publications (2)

Publication Number Publication Date
CN111028347A true CN111028347A (zh) 2020-04-17
CN111028347B CN111028347B (zh) 2021-06-22

Family

ID=70211986

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911345607.2A Active CN111028347B (zh) 2019-12-24 2019-12-24 用于重建物理工作空间的三维模型的方法和系统

Country Status (1)

Country Link
CN (1) CN111028347B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117132728A (zh) * 2023-10-26 2023-11-28 毫末智行科技有限公司 构建地图的方法、装置、电子设备及存储介质

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106470396A (zh) * 2015-08-19 2017-03-01 杭州海康威视数字技术股份有限公司 获取与目标对象的距离信息的方法、装置和摄像机
CN108876935A (zh) * 2018-06-06 2018-11-23 链家网(北京)科技有限公司 一种在移动端快速进行房屋三维模型拼接的方法及装置
CN109064545A (zh) * 2018-06-06 2018-12-21 链家网(北京)科技有限公司 一种对房屋进行数据采集和模型生成的方法及装置
CN110189399A (zh) * 2019-04-26 2019-08-30 浙江大学 一种室内三维布局重建的方法及系统
US20190321977A1 (en) * 2018-04-23 2019-10-24 General Electric Company Architecture and methods for robotic mobile manipluation system
CN110493710A (zh) * 2019-07-22 2019-11-22 香港中文大学(深圳) 轨迹重建方法、装置、计算机设备和存储介质
CN110505463A (zh) * 2019-08-23 2019-11-26 上海亦我信息技术有限公司 基于拍照的实时自动3d建模方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106470396A (zh) * 2015-08-19 2017-03-01 杭州海康威视数字技术股份有限公司 获取与目标对象的距离信息的方法、装置和摄像机
US20190321977A1 (en) * 2018-04-23 2019-10-24 General Electric Company Architecture and methods for robotic mobile manipluation system
CN108876935A (zh) * 2018-06-06 2018-11-23 链家网(北京)科技有限公司 一种在移动端快速进行房屋三维模型拼接的方法及装置
CN109064545A (zh) * 2018-06-06 2018-12-21 链家网(北京)科技有限公司 一种对房屋进行数据采集和模型生成的方法及装置
CN110189399A (zh) * 2019-04-26 2019-08-30 浙江大学 一种室内三维布局重建的方法及系统
CN110493710A (zh) * 2019-07-22 2019-11-22 香港中文大学(深圳) 轨迹重建方法、装置、计算机设备和存储介质
CN110505463A (zh) * 2019-08-23 2019-11-26 上海亦我信息技术有限公司 基于拍照的实时自动3d建模方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117132728A (zh) * 2023-10-26 2023-11-28 毫末智行科技有限公司 构建地图的方法、装置、电子设备及存储介质
CN117132728B (zh) * 2023-10-26 2024-02-23 毫末智行科技有限公司 构建地图的方法、装置、电子设备及存储介质

Also Published As

Publication number Publication date
CN111028347B (zh) 2021-06-22

Similar Documents

Publication Publication Date Title
Cortés et al. Deep learning based speed estimation for constraining strapdown inertial navigation on smartphones
EP3019827B1 (en) Indoor location-finding using magnetic field anomalies
KR101976241B1 (ko) 다중로봇의 자기위치인식에 기반한 지도작성 시스템 및 그 방법
CN110231028B (zh) 飞行器导航方法、装置和系统
US20190170521A1 (en) Method and system for fingerprinting survey
WO2022193508A1 (zh) 位姿优化方法、装置、电子设备、计算机可读存储介质、计算机程序及程序产品
Porzi et al. Visual-inertial tracking on android for augmented reality applications
CN104811683A (zh) 用于估计位置的方法和设备
CN110553648A (zh) 一种用于室内导航的方法和系统
CN104769640A (zh) 使用多个传感器来进行绘图与定位
CN110597265A (zh) 一种扫地机器人回充方法和装置
JP5742794B2 (ja) 慣性航法装置及びプログラム
JP2013253927A (ja) 情報処理システム、及び屋内外のシームレスな軌跡を生成する方法
CN112729321A (zh) 一种机器人的扫图方法、装置、存储介质和机器人
CN111028347B (zh) 用于重建物理工作空间的三维模型的方法和系统
Galioto et al. Sensor fusion localization and navigation for visually impaired people
Varelas et al. An AR indoor positioning system based on anchors
CN112904365B (zh) 地图的更新方法及装置
Qian et al. Optical flow based step length estimation for indoor pedestrian navigation on a smartphone
CN116952277A (zh) 一种基于人工智能和行为特征的潜在位置估算方法及系统
KR102547926B1 (ko) 자기장 측정치로부터 결정된 진행 방향을 특정화하는 방법 및 장치
KR102683702B1 (ko) 자기 센서에 의해 측정된 자기장으로부터 진행 방향의 결정
CN113379850B (zh) 移动机器人控制方法、装置、移动机器人及存储介质
CN111862146A (zh) 一种目标对象的定位方法及装置
KR102503608B1 (ko) 모빌리티 장치에 최적 경로 제공 시스템

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right

Effective date of registration: 20200708

Address after: No. 102-1, West Haidian Road, Beijing 100085

Applicant after: Seashell Housing (Beijing) Technology Co.,Ltd.

Address before: 300 457 days Unit 5, Room 1, 112, Room 1, Office Building C, Nangang Industrial Zone, Binhai New Area Economic and Technological Development Zone, Tianjin

Applicant before: BEIKE TECHNOLOGY Co.,Ltd.

TA01 Transfer of patent application right
GR01 Patent grant
GR01 Patent grant