CN107053166B - 自主移动装置、自主移动方法以及存储介质 - Google Patents

自主移动装置、自主移动方法以及存储介质 Download PDF

Info

Publication number
CN107053166B
CN107053166B CN201611033504.9A CN201611033504A CN107053166B CN 107053166 B CN107053166 B CN 107053166B CN 201611033504 A CN201611033504 A CN 201611033504A CN 107053166 B CN107053166 B CN 107053166B
Authority
CN
China
Prior art keywords
estimation
unit
determined
image
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201611033504.9A
Other languages
English (en)
Other versions
CN107053166A (zh
Inventor
成川哲郎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2015245196A priority Critical patent/JP6311695B2/ja
Priority to JP2015-245196 priority
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Publication of CN107053166A publication Critical patent/CN107053166A/zh
Application granted granted Critical
Publication of CN107053166B publication Critical patent/CN107053166B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0246Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1656Programme controls characterised by programming, planning systems for manipulators
    • B25J9/1671Programme controls characterised by programming, planning systems for manipulators characterised by simulation, either to verify existing program or to create and verify new program, CAD/CAM oriented, graphic oriented programming systems
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1656Programme controls characterised by programming, planning systems for manipulators
    • B25J9/1664Programme controls characterised by programming, planning systems for manipulators characterised by motion, path, trajectory planning
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/0088Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot characterized by the autonomous decision making process, e.g. artificial intelligence, predefined behaviours
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0268Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means
    • G05D1/0274Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means using mapping information stored in a memory device
    • GPHYSICS
    • G06COMPUTING; CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D2201/00Application
    • G05D2201/02Control of position of land vehicles
    • G05D2201/0203Cleaning or polishing vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Abstract

本发明的自主移动装置以及自主移动方法的课题在于从不能进行自身设备位置估算的状态快速地恢复。为此,自主移动装置(100)的移动处理部(11)对驱动部(42)进行驱动处理以进行自主移动。位置估算部(13)估算自身设备位置。估算判定部(14)判定位置估算部(13)的自身设备位置的估算结果是否唯一确定。移动处理控制部(15)在估算判定部(14)判定为估算结果不唯一确定的情况下,控制移动处理部(11)以移动到位置估算部(13)的自身设备位置的估算结果唯一确定的位置。

Description

自主移动装置、自主移动方法以及存储介质
技术领域
本发明涉及自主移动装置、自主移动方法以及程序。
背景技术
根据用途而自主地移动的自主移动装置正在逐渐普及。例如,已知为了进行屋内的清洁而自主地移动的自主移动装置。一般来说,这样的自主移动装置需要进行实际空间的地图的制作、和实际空间内的自身设备位置的估算。
作为用于制作实际空间的地图的方法,例如已知SLAM(SimultaneousLocalization And Mapping,即时定位与地图构建)法。使用了单眼摄像机的SLAM技术的基本原理在非专利文献1中有记载,进行如下处理,即,通过从摄像机拍摄的运动图像的多个帧,追踪同一特征点,来交替地估算自身设备的三维位置(摄像机位置)和特征点的三维位置(该特征点的三维位置集合而构成地图的信息)。此外,还有在实际空间内制作环境地图来进行自主移动的自主移动装置(例如,参照专利文献1、2)。
在先技术文献
非专利文献
非专利文献1:Andrew J.Davison,“Real-Time Simultaneous Localization andMapping with a Single Camera”,Proceedings of the 9th IEEE InternationalConference on Computer Vision Volume 2,2003,pp.1403-1410
非专利文献2:Richard Hartley,Andrew Zisserman,“Multiple View Geometryin Computer Vision”,Second Edition,Cambridge.University Press, March 2004,chapter 9
专利文献
专利文献1:JP特开2015-146091号公报
专利文献2:JP特开2014-186694号公报
发明内容
发明要解决的课题
对于使用了这样的图像的自身设备位置估算而言,在摄像机拍摄的方向发生较大变化的情况下、或在所拍摄到的图像中特征点较少的情况下,存在如下这样的问题,即,无法获得与过去的图像的共同特征点,自身设备位置的估算失败。
此外,在专利文献1中,公开了如下的自身位置估算方法:基于移动量来估算自身位置的候补点,在地图上决定多个测定点,基于距离映射将从所述测定点到壁障的距离设为评价距离,在第1评价工序中,基于评价距离来评价一致的程度,在第2评价工序中,将从外界传感器朝向测定点的方向的单位向量即测定方向向量与测定点的壁障方向向量的内积作为评价函数来进行评价,将在第1评价工序中一致较大、并且在所述第2评价工序中评价函数较大的候补点估算为自身位置。
此外,在专利文献2中,公开了一种自主移动式无人输送车,其特征在于,在起动时,基于存储在停止主要原因存储单元中的停止主要原因,来判断是否能够从当前的自身位置继续进行自主移动,在判断为能够进行自主移动的情况下,基于存储在自身位置存储单元中的自身位置开始自主移动,在判断为不能进行自主移动的情况下,保持停止状态。
但是,对于专利文献1所记载的技术而言,虽然能够提高自身位置估算的精度,但存在自身设备位置的估算失败的情况下,不能恢复这样的课题。
此外,对于专利文献2所记载的技术而言,仍然存在判断为不能进行自主移动的情况下,不能恢复这样的课题。
因此,本发明为了解决上述问题而作,其目的在于提供一种能够从不能进行自身设备位置估算的状态快速地恢复的自主移动装置等。
用于解决课题的手段
本发明的自主移动装置具备摄像部、图像存储部、控制部和驱动部,其中,
所述图像存储部存储所述摄像部所拍摄到的多个图像的信息,
所述控制部,
对所述驱动部进行驱动处理使得基于所述摄像部所拍摄到的图像的信息来自主地移动,
使用存储在所述图像存储部中的多个图像的信息来估算自身设备位置,
判定所述自身设备位置的估算结果是否唯一确定,
在判定为所述估算结果不唯一确定的情况下,控制所述驱动处理使得移动到所述自身设备位置的估算结果唯一确定的位置。
发明效果
根据本发明,能够从不能进行自身设备位置估算的状态快速地恢复
附图说明
图1是表示实施方式所涉及的自主移动装置的外观的图。
图2是表示实施方式所涉及的自主移动装置的构成的图。
图3是表示实施方式所涉及的自主移动控制处理整体的流程图的图。
图4是表示实施方式所涉及的自主移动控制处理当中的自身设备位置估算线程的初始化处理的流程图的图。
图5是表示实施方式所涉及的自主移动控制处理当中的自身设备位置估算线程的初始化后的主处理的流程图的图。
图6是表示实施方式所涉及的自主移动控制处理当中的地图制作线程的处理的流程图的图。
图7是表示实施方式所涉及的自主移动控制处理当中的闭环线程的处理的流程图的图。
图8是表示第一实施方式所涉及的自主移动控制处理当中的移动处理控制的处理的流程图的图。
图9是表示第二实施方式所涉及的自主移动控制处理当中的移动处理控制的处理的流程图的图。
图10是表示第三实施方式所涉及的自主移动装置的构成的图。
图11是表示第三实施方式所涉及的自主移动控制处理当中的移动处理控制的处理的流程图的图。
图12是表示将控制部等的一部分设置于外部的服务器的构成的一例的图。
符号说明
100…自主移动装置,10、50…控制部,11…移动处理部,12…地图制作部,13…位置估算部,14…估算判定部,15…移动处理控制部,16…旋转拍摄部,20、60…存储部,21…图像存储部,22…地图存储部,23…位置变化历史记录存储部,24…位置历史记录存储部,25…特征点存储部, 30…传感器部,31…加速度传感器,32…角速度传感器,33…障碍物传感器,41…摄像部,42…驱动部,43…输入部,44、71…通信部,45…电源, 200…服务器
具体实施方式
以下,参照图1,对本发明的实施方式所涉及的自主移动装置进行说明。自主移动装置100根据用途而自主地移动。该用途,例如是警备监视用、屋内清洁用、宠物用、玩具用等。
自主移动装置100在外观上具备摄像部41、驱动部42。
摄像部41具备单眼的摄像装置(摄像机)。摄像部41例如以30fps 取得图像(帧)。自主移动装置100基于由摄像部41依次取得的图像,实时地识别自身设备位置和周围环境,同时进行自主移动。
驱动部42是独立2轮驱动型,是具备车轮和电动机的移动单元。自主移动装置100能够通过2个车轮的同一方向驱动来进行前后的平行移动 (平移移动),能够通过2个车轮的反向驱动来进行原地的旋转(朝向变更),并能够通过改变2个车轮各自的速度的驱动来进行旋转移动(平移 +旋转(朝向变更)移动)。此外,各个车轮具备旋转编码器,通过旋转编码器来测量车轮的转速,并通过利用车轮的直径、车轮间的距离等几何学关系而能够计算平移移动量以及旋转量。例如,若将车轮的直径设为D,并将转速设为R(由旋转编码器测定),则该车轮的接地部分的平移移动量成为π·D·R。此外,若将车轮的直径设为D,将车轮间的距离设为I,将右车轮的转速设为RR,并将左车轮的转速设为RL,则朝向变更的旋转量(若以右旋转为正)成为360°×D×(RL-RR)/(2×I)。通过将该平移移动量、旋转量依次进行相加,从而驱动部42作为所谓的里程计 (Odometry)而发挥作用,能够测量自身设备位置(以移动开始时的位置以及朝向为基准的位置以及朝向)。
从里程计得到的自身设备的位置以及朝向的精度由于车轮的摩耗、打滑等而成为低精度的情况较多。特别是由于误差逐渐累积的关系,精度随着时间经过而恶化。不过,关于里程计的旋转分量(朝向的信息),通过使用后述的角速度传感器信息,能够提高精度。此外,通过使用检测地磁来确定方位的方位传感器(未图示),也能够与来自里程计的取得值无关地取得利用了地磁的绝对朝向的信息。
另外,也可以取代车轮而具备履带,还可以通过具备多条(例如两条) 腿并用腿行走来进行移动。在这些情况下,也能够基于两个履带的活动、腿的活动,与车轮的情况同样地测量自身设备的位置、朝向。
如图2所示,自主移动装置100除了具备摄像部41、驱动部42以外,还具备控制部10、存储部20、传感器部30、输入部43、通信部44、电源 45。
控制部10由CPU(Central Processing Unit,中央处理单元)等构成,通过执行存储在存储部20中的程序,从而实现后述的各部(移动处理部 11,地图制作部12,位置估算部13,估算判定部14,移动处理控制部15) 的功能。
存储部20由ROM(Read Only Memory,只读存储器)、RAM(Random Access Memory,随机存取存储器)等构成,包含图像存储部21、地图存储部22、位置变化历史记录存储部23、位置历史记录存储部24。在ROM 中,存储有控制部10的CPU所执行的程序(例如,后述的SLAM法的运算、自主移动控制处理所涉及的程序)、执行程序上预先需要的数据。在 RAM中,存储在程序执行中被生成或者变更的数据。
在图像存储部21中,存储摄像部41所拍摄的图像。但是,为了节约存储容量,可以不存储所拍摄的所有的图像,此外也可以不存储图像本身,而存储图像的特征量。关于重要的图像(后述的关键帧),与图像的信息一起,存储拍摄该图像时的自身设备位置(自身设备的位置以及朝向)的信息。
在地图存储部22中,存储由地图制作部12基于后述的SLAM法、来自障碍物传感器33的信息而制作的地图(特征点、障碍物的三维位置的信息)。
在位置变化历史记录存储部23中,存储由移动处理部11使自身设备的位置怎样发生了变化的历史记录。
在位置历史记录存储部24中,存储由位置估算部13估算出的自身设备位置的历史记录。
作为传感器部30,具备加速度传感器31、角速度传感器32、障碍物传感器33。加速度传感器31是测量XYZ方向(3轴)的加速度的传感器。通过对这些值进行时间积分,从而能够求取XYZ的各方向的速度,进而通过对这些速度进行时间积分,从而能够求取XYZ的各方向的位置的变化量(移动距离)(但是由于对传感器值进行二次积分,因而累积误差变得相当大)。
角速度传感器32是测量角速度(每单位时间的角度移动量)的传感器。已知与基于车轮的转速来求取自身设备的朝向相比,使用角速度传感器32来求取朝向更能提高精度。障碍物传感器33是探测行进过程中的障碍物的传感器,例如是红外线传感器、超声波传感器。另外,也可以不搭载独立的障碍物传感器33,使用摄像部41来探测障碍物。此外,也可以具备对碰撞到其他物体的情况进行探测的碰撞传感器(bumper sensor)(未图示)。此外,还可以具备检测地磁来确定方位的方位传感器(未图示)。通过使用方位传感器,能够与来自里程计的取得值无关地取得利用了地磁的绝对朝向的信息。
作为输入部43,具备用于操作自主移动装置100的操作按钮。操作按钮,例如,包含电源按钮、模式切换按钮(对清洁模式、宠物模式等进行切换)、初始化按钮(重新进行地图的制作)等。作为输入部43,也可以具备进行声音的输入的麦克风(未图示)、和识别对自主移动装置100的操作指示的声音的声音识别部。
通信部44是用于与外部装置进行通信的模块,在与外部装置进行无线通信的情况下是包含天线的无线模块。例如,通信部44是用于进行基于Bluetooth(注册商标)的近距离无线通信的无线模块。在通信部44中,进行自主移动装置100与外部的数据授受等。
电源45是使自主移动装置100进行动作的电源,一般来说是内置的充电电池,但也可以是太阳能电池,还可以是从地面利用无线进行电力供给的系统。在电源45是充电电池的情况下,自主移动装置100通过与充电站(基座)进行对接而被充电。
接着,对控制部10的功能进行说明。控制部10包含移动处理部11、地图制作部12、位置估算部13、估算判定部14、移动处理控制部15,进行后述的SLAM法的运算、自主移动装置100的移动指示等。此外,控制部10适应多线程功能,能够并行进行多个线程(不同的处理的流程)。
移动处理部11进行如下处理:操纵驱动部42来使自身设备移动。
地图制作部12将基于存储在图像存储部21中的图像的信息以及该图像拍摄时的自身设备的位置以及朝向的信息使用SLAM法而估算出的特征点的三维位置(Map点)、基于由障碍物传感器33探测到障碍物时的自身设备的位置以及朝向的信息而得到的该障碍物的三维位置等,作为地图的信息而存储到地图存储部22中。
位置估算部13基于后述的SLAM法,作为视觉里程计(visual odometry),估算自身设备的位置以及朝向。
估算判定部14判定位置估算部13是否能够基于当前已取得的信息来估算自身设备位置。更详细而言,若已取得估算自身设备位置所需的信息,并且基于这些信息的自身设备位置的估算结果唯一确定则判定为能够估算。反之,在未能取得估算自身设备位置所需的信息或者即使能够取得但是基于这些信息的自身设备位置的估算结果不定(产生多个估算候补等) 的情况下,判定为不能估算。
移动处理控制部15在估算判定部14判定为不能估算的情况下,控制移动处理部11以使自身设备位置自主地移动到能够估算的位置。
图3是自主移动装置100的主流程。控制部10起动如下各线程,即,自身设备位置估算线程(步骤S101)、地图制作线程(步骤S102)、闭环线程(步骤S103)。通过自身设备位置估算线程、地图制作线程进行动作,从而基于SLAM法,开始地图的信息以及视觉里程计(使用地图和图像而估算出的自身设备位置的信息)的生成。然后,控制部10将位置变化历史记录计数器DC(表示向位置变化历史记录存储部23的位置变化历史记录的登记数的变量)进行清零(步骤S104)。然后,控制部10判定是否动作结束(步骤S105),若动作结束(步骤S105:“是”)则结束动作,若动作未结束(步骤S105:“否”)则地图制作部12进行地图的信息的制作/更新(步骤S106)。
接着,控制部10判定估算状态变量ES(表示是否为能够进行位置估算的状态的变量)的值是否为“不能进行位置估算”(步骤S107)。若是不能进行位置估算(步骤S107:“是”),则进行用于自主地移动到能够进行位置估算的位置的处理即“移动处理控制”之后(步骤S110)返回至步骤S105。该“移动处理控制”实现了本实施方式的特征性的功能,关于其详情在后面叙述。
若估算状态变量ES的值不是“不能进行位置估算”(步骤S107:“否”) 则使位置变化历史记录计数器DC递增(步骤S108),为了自主移动而由移动处理部11向驱动部42指示所希望的动作,并且将伴随该动作的位置的变化量与时间戳(使用当前时刻等能够与位置历史记录存储部24的时间戳进行比较的数据)一起登记到位置变化历史记录存储部23的第DC个项目(步骤S109),返回至步骤S105。在该步骤S109中的位置的变化量的登记处理中,移动处理部11相当于位置变化历史记录登记部。
在此,位置的变化量,是从在步骤S109中移动处理部11向驱动部42 发出指示之前的位置起,到驱动部42按照指示进行动作从而自主移动装置100移动之后的位置为止的(步骤S109中的移动处理的一次动作的) 变化量。该变化量既可以使用里程计信息来取得,也可以使用加速度传感器31或角速度传感器32的值来取得。通常使用里程计信息更能够取得高精度的位置变化量,但在通过人的手而被移动的情况等下,里程计信息没有用处(在该情况下加速度传感器31或角速度传感器32的值有用)。因此,期望通过使用里程计信息和传感器信息这两者,从而通过传感器信息来补偿在车轮打滑或者通过人的手而被移动的情况等下产生的里程计信息的误差。
作为典型的示例,自主移动装置100首先若在置于充电站的状态下接通电源45,则借助障碍物传感器33,在家中的各房间到处移动,由障碍物传感器33来确定墙壁等障碍物位置,能够制作包含障碍物位置的地图的信息。若将地图制作一定程度,则能够知道虽然还没有地图的信息但可以认为能够移动的区域,在该区域自主地进行移动等,也能够促进更广范围的地图的制作。然后,若制作了能够移动的大致整个区域的地图的信息,则能够进行利用了地图的信息的高效的移动动作。例如能够实现无论从房间的什么位置都以最短路径返回到充电站,或者高效地进行房间的清洁。
关于在自主移动装置100的主流程(图3)的步骤S101起动的自身设备位置估算线程,使用图4以及图5来进行说明。自身设备位置估算线程是如下处理,即,位置估算部13首先基于图4进行初始化处理,之后基于图5持续进行自身设备位置估算(使用由摄像部41取得的图像通过视觉里程计来估算自身设备位置)。
首先使用图4来说明自身设备位置估算线程的初始化处理。位置估算部13将“初始化中”设置给估算状态变量ES,并清除位置历史记录登记计数器HC(表示向位置历史记录存储部24的位置历史记录的登记数的变量)和位置历史记录检索计数器SC(从位置历史记录存储部24取得位置历史记录时使用的变量)(步骤S201)。接着将-1设置给帧计数器N(表示摄像部41的图像取得数的变量)(步骤S202)。接下来位置估算部13 判定是否动作结束(步骤S203)。若动作结束(步骤S203:“是”)则结束,若动作未结束(步骤S203:“否”),则由摄像部41取得图像(步骤S204)。图像例如能够以30fps取得(所取得的图像也被称为帧)。
接着,从所取得的图像内取得2D特征点(步骤S205)。所谓2D特征点,是图像中的边缘部分等图像内的特征性的部分,能够使用SIFT (Scale-Invariant Future Transform,尺度不变特征转换)、SURF(Speed-Up Robust Features,加速稳健特征)等算法来取得。另外,为了取得2D特征点,也可以使用其他算法。
若所取得的2D特征点的个数较少,则无法进行利用后述的Two-view Structurefrom Motion法(双视图运动恢复结构法)的计算,因此位置估算部13在步骤S206中,将2D特征点的取得数与基准值(例如10个)进行比较,在小于基准值的情况下(步骤S206:“否”)返回至步骤S203,反复进行图像的取得和2D特征点的取得,直到得到基准值以上的2D特征点数为止。另外,在此时点,虽然还未能制作地图的信息,但例如在上述的典型的示例中,由于借助障碍物传感器33,在家中的各房间开始到处移动,因此只要在该初始化处理中反复进行图像取得和2D特征点取得,便会一边移动一边反复进行图像取得,所以能够取得各种各样的图像,能够期待终归能取得2D特征点数较多的图像。
在2D特征点的取得数为基准值以上的情况下(步骤S206:“是”),位置估算部13使帧计数器N递增(步骤S207)。然后,判定帧计数器N 是否为0(步骤S208)。若帧计数器N为0(步骤S208:“是”)则仅仅才取得一个图像,所以为了取得第2张图像而返回至步骤S203。另外虽然在图4的流程图中并未记载,但取得第1张图像时的自身设备的位置和取得第2张图像时的自身设备的位置在一定程度上远离,会提高通过之后的处理而估算的姿势的精度。因此,在从步骤S208返回至步骤S203时,也可以追加如下处理,即,进行等待,直到通过主流程(图3)的步骤S109 中的移动处理部11的动作指示从而基于里程计的平移距离成为规定距离 (例如1m)以上为止。
若帧计数器N不为0(步骤S208:“否”)则可知已经取得了两个图像,因此位置估算部13在这两个图像间取得2D特征点的对应(实际环境上的同一点存在于各个图像中,能取得其对应)(步骤S209)。在该步骤 S209中,位置估算部13相当于对应特征点取得部。由于若在此取得的特征点的对应数小于5,则不能进行后述的两个图像间的姿势的估算,因此估算判定部14判定特征点的对应数是否小于5(步骤S210)。若小于5 (步骤S210:“是”)则为了重新取得初始图像,返回至步骤S202。若特征点的对应数为5点以上(步骤S210:“否”),则通过使用Two-view Structure from Motion法,从而能够估算两个图像间的姿势(取得各个图像的位置的差分(平移向量t)以及朝向的差分(旋转矩阵R))(步骤S211)。
该估算具体而言,根据对应的特征点来求取基础矩阵E,通过将基础矩阵E分解为平移向量t和旋转矩阵R来得到,但其详情在非专利文献2 中已经作了说明,在此不再赘述。另外,在此得到的平移向量t(若设想在三维空间内移动,则以取得最初的图像的位置为原点,具有X、Y、Z 这3个要素)的各要素的值与实际环境上的值不同(Two-view Structurefrom Motion法不能得到实际环境上的值本身,而得到与实际环境相似的空间上的值。),因此将它们视为SLAM空间上的值,以下使用SLAM 空间上的坐标(SLAM坐标)来进行说明。
另外,即使特征点的对应数为5点以上,也存在两个图像间的姿势的估算值不唯一确定的情况(存在条件不足而不确定的情况、即使想要通过最小平方法来唯一确定但似乎可靠的估算值不唯一确定而成为多个的情况等)。在位置估算部13估算两个图像间的姿势(取得各个图像的位置的差分(平移向量t)以及朝向的差分(旋转矩阵R))时,在估算值唯一确定的情况下,估算判定部14判定为能够估算,在估算值不唯一确定的情况下,估算判定部14判定为不能估算(步骤S212)。
在估算判定部14判定为不能估算的情况下(步骤S212:“否”),返回至步骤S202,从初始图像的取得开始重新进行处理。在估算判定部 14判定为能够估算的情况下(步骤S212:“是”),也就是说已经求出两个图像间的姿势(平移向量t以及旋转矩阵R),因此前进至步骤S213。
若求出两个图像间的姿势(平移向量t以及旋转矩阵R),则其值成为以最初的图像为基准(以取得最初的图像的位置为SLAM坐标的原点,平移向量为0向量,旋转矩阵为单位矩阵I。)的情况下的第二张图像的姿势(取得第二个图像时的自身设备的位置(平移向量t)以及朝向(旋转矩阵R))。在此,在求出两个图像各自的姿势(是该图像(帧)拍摄时的自身设备的位置(平移向量t)以及朝向(旋转矩阵R),也称为帧姿势)的情况下,基于以下的思想,由地图制作部12来求取在这两个图像间能取得对应的2D特征点(对应特征点)在SLAM坐标中的3D位置 (步骤S213)。
若将2D特征点在图像中的坐标(帧坐标:已知)设为(u,v),并将该2D特征点在SLAM坐标中的3D位置(未知)设为(X,Y,Z),则将它们用齐次坐标表示时的它们的关系,使用透视投影矩阵P由下述的算式(1)来表示。在此,“~”记号表示“除以非零的常数倍后相等” (即,相等或成为常数(非零)倍),“’”记号表示“转置”。
(u v 1)’~P(X Y Z 1)’…(1)
在上述的式(1)中,P为3×4的矩阵,根据表示摄像机的内部参数的3×3的矩阵A、和表示该图像的姿势(帧姿势)的外部参数R以及t 由以下的算式(2)来表示。在此,(R|t)表示在旋转矩阵R的右侧排列平移列向量t而得到的矩阵。
P=A(R |t)…(2)
在上述的算式(2)中,R以及t如上所述作为该帧姿势来求取。此外,摄像机的内部参数A由焦点距离和摄像元件尺寸来决定,因此只要决定摄像部41便成为常数。
若假设在两个图像间取得了对应的2D特征点当中的一个映射于第一个图像的帧坐标(u1,v1)和第二个图像的帧坐标(u2,v2),则能够得到以下的算式(3)以及算式(4)。在此,I表示单位矩阵,0表示零向量, (L|r)表示在矩阵L的右侧排列列向量r而得到的矩阵。
(u1 v1 1)’~A(I|0)(X Y Z 1)’…(3)
(u2 v2 1)’~A(R|t)(X Y Z 1)’…(4)
在上述的算式(3)以及算式(4)中,由于能够形成关于u1、v1、u2、 v2各自的算式,因此算式得到4个而未知数为X、Y、Z这3个,因此能够求取X、Y、Z,这成为该2D特征点在SLAM坐标中的3D位置。另外,由于算式的个数多于未知数的个数,因此有可能存在例如以u1、v1、u2求取的X、Y、Z与以u1、v1、v2求取的X、Y、Z不同的情况。这样的情况下,成为过剩条件的联立一次方程式,一般而言无解,但地图制作部12 使用最小平方法,来求取似乎最可靠的X、Y、Z(步骤S213)。
若求出2D特征点在SLAM坐标中的3D位置(X,Y,Z),则由地图制作部12将其作为Map点而登记到Map点数据库(也称为Map点DB (Database),被保存在地图存储部22中)中(步骤S214)。作为登记到Map点数据库中的要素,至少需要“2D特征点在SLAM坐标中的3D 位置即X、Y、Z”、和“该2D特征点的特征量”(例如通过SIFT等而得到的特征量)。此外,若将“时间戳”(后述的关键帧计数器NKF(表示当前的关键帧编号的变量)在向Map点数据库的登记时间点的值等)追加到向Map点数据库的登记要素中,则在对Map点数据库进行编辑(返回到过去的状态等)时会很便利。
然后,地图制作部12判定是否已经将在两个图像间取得了对应的2D 特征点(对应特征点)全部登记到Map点数据库中(步骤S215),若尚未完成全部登记(步骤S215:“否”)则返回至步骤S213,若全部登记完成(步骤S215:“是”)则前进至步骤S216。
接下来位置估算部13将NKF(表示关键帧(是指成为后续的线程中的处理对象的图像)的计数器的变量)初始化为0(步骤S216),将第二个图像作为关键帧而登记到帧数据库(也称为帧DB(Database),被保存在图像存储部21中)(步骤S217)。
登记到帧数据库中的要素是:“关键帧编号”(登记时间点上的关键帧计数器NKF的值)、“姿势”(该图像拍摄时的自身设备在SLAM坐标内的位置(平移向量t)以及朝向(旋转矩阵R))、“所提取出的全部的2D特征点”、“全部的2D特征点当中作为Map点而已知3D位置的点”、“关键帧自身的特征”,但除了这些以外,还可以登记“由里程计测量出的实际环境上的姿势”(根据实际环境中的基于驱动部42的移动距离而求取的自身设备的位置以及朝向)。
上述中,所谓“关键帧自身的特征”,是用于使求取关键帧间的图像类似度的处理变得高效的数据,通常使用图像中的2D特征点的直方图等为好,但也可以将图像自身设为“关键帧自身的特征”。此外,“由里程计测量出的实际环境上的姿势”,也能够通过平移向量t和旋转矩阵R来表示,但通常,由于该自主移动装置100在二维平面上活动,因此也可以简化为二维数据,作为以移动开始时的位置(原点)以及朝向为基准的二维坐标(X,Y)以及朝向φ来表示。
接着,位置估算部13为了使地图制作线程知道生成了关键帧的情况,在地图制作线程的关键帧队列(队列(Queue)成为先入先出的数据结构) 中,设置关键帧计数器NKF(步骤S218)。
然后,位置估算部13为了得到SLAM坐标与实际环境坐标的比例 (scale)对应,通过将基于里程计的平移距离(以实际环境下的坐标来求取)除以通过上述处理而估算的SLAM坐标下的平移距离d,来求取比例 S(步骤S219)。
以上,自身设备位置估算线程的初始化处理完成,因此进入到图5的自身设备位置估算(主处理)(步骤S220)。
接下来使用图5对自身设备位置估算线程的主处理进行说明。首先,位置估算部13将“能够进行位置估算”设置给估算状态变量ES(步骤 S231)。这是因为在初始化处理中,实现了自身设备位置的估算,在此时点可以说是处于能够进行位置估算的状态。接下来位置估算部13判定是否动作结束(步骤S232)。若动作结束(步骤S232:“是”)则结束,若动作未结束(步骤S232:“否”),则由摄像部41取得图像(步骤S233),并使帧计数器N递增(步骤S234)。
接着,位置估算部13取得所拍摄到的图像中包含的2D特征点(步骤 S235)。然后,从登记在帧数据库中的以前的关键帧(例如关键帧编号为 NKF的图像)的信息中,取得该图像的信息中所包含的2D特征点当中的 3D位置已知(成为登记在Map点数据库中的Map点)的2D特征点,提取与当前拍摄到的图像之间能取得对应的2D特征点(对应特征点)(步骤S236)。
然后,估算判定部14判定对应特征点的个数是否小于规定值(例如5) (步骤S237),在小于规定值的情况下(步骤S237:“是”),不能实现似乎可靠的自身设备位置的估算,因此前进至步骤S247。在此,也可以不是立刻前进至步骤S247,而是返回至步骤S236,从登记在帧数据库中的关键帧当中检索对应特征点的个数为规定值以上的关键帧。在该情况下,在登记在帧数据库中的关键帧当中未找到对应特征点的个数为规定值以上的关键帧的情况下前进至步骤S247。
若能够提取规定值以上的对应特征点(步骤S237:“否”),则位置估算部13从Map点数据库中取得对应特征点各自的3D位置(Xi,Yi, Zi)(步骤S238)。若将当前拍摄到的图像中包含的对应特征点的帧坐标设为(ui,vi),将该对应特征点的3D位置设为(Xi,Yi,Zi)(i取从1到对应特征点数的值),则将各对应特征点的3D位置(Xi,Yi,Zi)通过以下的算式(5)而投影到帧坐标系的值(uxi,vxi)与帧坐标(ui,vi)理想而言应该是一致的。
(uxi vxi 1)’~A(R|t)(Xi Yi Zi 1)’…(5)
实际上在(Xi,Yi,Zi)中以及在(ui,vi)中都包含有误差,因此(uxi, vxi)和(ui,vi)一致的情况很少存在。而且,未知数仅为R和t(三维空间的情况下分别为三维,3+3=6是未知数的个数),而数学式存在对应特征点的个数的2倍(对于一个对应特征点,存在与帧坐标u、v分别对应的算式),因此成为过剩条件的联立一次方程式,如上所述通过最小平方法来求取。具体而言,位置估算部13求取使以下的算式(6)的成本函数E1最小化的姿势(平移向量t以及旋转矩阵R)。这成为通过SLAM 法而求取的SLAM坐标下的自身设备的姿势(由平移向量t以及旋转矩阵 R表示的自身设备的位置以及朝向)。以此方式,位置估算部13估算自身设备的姿势(步骤S239)。
【数学式1】
在该自身设备位置的估算中,存在自身设备的姿势的估算值不唯一确定的情况(存在条件不足而不确定的情况(例如两个图像中的对应特征点数小于5点的情况)、即使想要通过最小平方法来唯一确定但似乎可靠的估算值也不唯一确定而成为多个的情况(例如在算式(6)中,最小值大于规定值的情况,或极小值存在多个并且将最小值(最小的极小值)除以第二小的极小值而得到的值大于规定值的情况)等)。在位置估算部13 估算自身设备的姿势(平移向量t以及旋转矩阵R)时,在估算值唯一确定的情况下,估算判定部14判定为能够估算,在估算值不唯一确定的情况下,估算判定部14判定为不能估算(步骤S240)。
在估算判定部14判定为不能估算的情况下(步骤S240:“否”),前进至步骤S247。在估算判定部14判定为能够估算的情况下(步骤S240:“是”),也就是说已经求出自身设备的姿势(平移向量t以及旋转矩阵 R),因此前进至步骤S241。
由于求出SLAM坐标下的当前的自身设备的姿势(平移向量t以及旋转矩阵R),因此控制部10使位置历史记录登记计数器HC递增,在位置历史记录存储部24的第HC个项目中,与时间戳(使用当前时刻等能够与位置变化历史记录存储部23的时间戳进行比较的数据)一起登记当前的自身设备的姿势(平移向量t以及旋转矩阵R),并将位置历史记录登记计数器HC的值设置给位置历史记录检索计数器SC(步骤S241)。在该步骤S241中,控制部10相当于位置历史记录登记部。然后,位置估算部13通过对当前的自身设备的姿势乘以比例S,来求取VO(视觉里程计) (步骤S242)。VO能够作为实际环境下的自身设备的位置以及朝向来利用。
接着,位置估算部13判定从对登记在帧DB中的前一个关键帧(关键帧编号为NKF的图像)进行拍摄时的自身设备的位置起是否移动了规定距离(例如1m。以下称为“基准平移距离”。)以上(步骤S243),若移动了基准平移距离以上(步骤S243:“是”)则使关键帧计数器NKF 递增后(步骤S244),将当前帧作为关键帧而登记到帧DB中(步骤S245)。若仅移动不足基准平移距离(步骤S243:“否”)则返回至步骤S232。
在此,对于与基准平移距离进行比较的自身设备的移动距离而言,既可以从里程计取得从前一个关键帧到当前帧的平移距离(两帧的平移向量之差的向量的绝对值(要素的平方和的平方根)),也可以从上述的VO (视觉里程计)求取。登记到帧DB中的内容如上所述是:“关键帧编号”、“姿势”、“所提取出的全部的2D特征点”、“全部的2D特征点当中作为Map点而已知3D位置的点”、“关键帧自身的特征”。
然后,位置估算部13为了使地图制作线程知道产生了新的关键帧,在地图制作线程的关键帧队列中设置关键帧计数器NKF(步骤S246)。然后,返回至步骤S232。另外,关键帧计数器NKF、比例S、Map点DB、帧DB、位置历史记录存储部24、位置变化历史记录存储部23、位置历史记录登记计数器HC、位置历史记录检索计数器SC、位置变化历史记录计数器DC都存储在存储部20中,使得能够跨越线程来参照值。
接下来对步骤S247以后进行说明。这是不能进行自身设备位置的估算时的处理。首先,位置估算部13对估算状态变量ES设置“不能进行位置估算”(步骤S247)。接着位置估算部13判定是否动作结束(步骤S248)。若动作结束(步骤S248:“是”)则结束,若动作未结束(步骤S248:“否”),则由摄像部41取得图像(步骤S249)。
然后,控制部10从帧DB中检索与取得图像的类似度为规定的类似度(例如0.9。以下称为“基准图像类似度”。)以上的关键帧(步骤 S250)。在此,关于该类似度,在由特征向量表示了图像(关键帧)的特征的情况下,能够将两个图像的特征向量的绝对值(要素的平方和的平方根)归一化为1而得到的值彼此的内积设为该两个图像的类似度。此外,也可以将两个图像的特征向量(将绝对值归一化为1而得到的值)的距离 (各要素之差的平方和的平方根)的倒数设为类似度。
控制部10判定是否能够从帧DB中发现与取得图像的类似度成为基准图像类似度以上的关键帧(步骤S251)。若未能发现(步骤S251:“否”) 则返回至步骤S248。若能够发现(步骤S251:“是”)则分别对取得图像的2D特征点和所发现的类似图像的2D特征点进行取得(步骤S252),并在这两个图像间取得2D特征点的对应(步骤S253)。
然后,通过与步骤S239同样的方法来估算自身设备的姿势(步骤 S254)。此时,估算判定部14与步骤S240同样地判定是否能够估算(步骤S255),若不能估算(步骤S255:“否”)则返回至步骤S248,若能够估算(步骤S255:“是”),也就是说能够进行自身设备位置的估算,所以前进至步骤S231。
这样,自身设备位置估算线程的初始化结束后,在估算状态变量ES 中会设置“能够进行位置估算”或者“不能进行位置估算”中的任意一者,因此在图3所示的主流程中,若ES的值为“能够进行位置估算”,则自主移动装置100进行所希望的动作,若ES的值为“不能进行位置估算”,则能够求取能够进行位置估算那样的位置来进行移动处理控制。
接着,关于在自主移动装置100的主流程(图3)的步骤S102起动的地图制作线程,使用图6来进行说明。该线程由地图制作部12计算关键帧中的对应特征点的3D位置,来制作地图的信息(Map点DB)。
首先,地图制作部12判定是否动作结束(步骤S301)。若动作结束 (步骤S301:“是”)则结束,若动作未结束(步骤S301:“否”),则判定关键帧队列是否为空(步骤S302)。若关键帧队列为空(步骤S302:“是”)则返回至步骤S301,若不为空(步骤S302:“否”),则从关键帧队列取出数据来设置给MKF(表示在地图制作线程中处理的关键帧的关键帧编号的变量)(步骤S303)。地图制作部12判定MKF是否大于0(步骤S304),在MKF为0的情况下(步骤S304:“否”)返回至步骤S301,等待数据进入到关键帧队列。在MKF为1以上的情况下(步骤S304:“是”),进入到以下的处理。
地图制作部12参照帧DB,提取在前关键帧(关键帧编号为MKF-1 的关键帧)的2D特征点与当前关键帧(关键帧编号为MKF的关键帧) 的2D特征点之间能取得对应的2D特征点(对应特征点)(步骤S305)。由于在帧DB中还登记有各关键帧的姿势(平移向量t和旋转矩阵R),因此能够通过与自身设备位置估算线程的初始化时的处理时同样的方法来计算对应特征点的3D位置。地图制作部12将计算出了3D位置的对应特征点作为Map点而登记到Map点DB中(步骤S306)。地图制作部12 对于帧DB也针对本次计算出了3D位置的2D特征点来登记3D位置(步骤S307)。
另外,在地图制作部12提取出的对应特征点已经登记在Map点DB 中的情况下,可以跳过3D位置计算而进入到针对下一个对应特征点(Map 点DB中未登记的对应特征点)的处理,也可以重新进行3D位置计算,对Map点DB中已经登记的3D位置、帧DB中的对应特征点对应的3D 位置进行更新。
接着,地图制作部12判定关键帧队列是否为空(步骤S308)。若为空(步骤S308:“是”),则针对全部关键帧的姿势和全部Map点的3D 位置,进行捆绑调整处理,提高精度后(步骤S309)前进至步骤S310。若关键帧队列不为空(步骤S308:“否”)则前进至步骤S310。接着地图制作部12将MKF设置到合环线程的关键帧队列(步骤S310),返回至步骤S301。
另外,所谓捆绑调整处理,是对摄像机姿势(关键帧姿势)和Map 点的3D位置同时进行估算的非线性最优化法,进行在使Map点投影在关键帧上时产生的误差最小那样的最优化。
通过进行该捆绑调整的处理,从而能够提高关键帧姿势和Map点的 3D位置的精度。但是,即使不进行该处理,仅是不能实现精度提高,也并不会发生特别问题。因此,即使在没有其他处理的状态时(例如,关键帧队列为空的状态),也不必每次都进行该处理。
此外,若进行捆绑调整的处理,则有时会发现投影在关键帧上时的误差大于规定值的Map点。关于这样的误差较大的Map点,由于会给SLAM 估算造成不良影响,因此可以从Map点DB以及帧DB中进行删除,或者设立用于识别是误差较大的需要注意的Map点的标志。另外,捆绑调整的处理在本实施方式中为可选的处理,所以在此省略处理的详细情况。
接下来关于在自主移动装置100的主流程(图3)的步骤S103起动的闭环线程,使用图7来进行说明。在该线程中控制部10连续不断地检查是否能够进行闭环处理,在能够进行的情况下进行闭环处理。另外,所谓闭环处理,是指在识别出已返回到以前来到过的相同场所的情况下,使用以前位于该相同场所时的姿势的值和当前的姿势的值的偏差,对从以前来到时到当前为止的轨迹中的关键帧、关联的Map点的3D位置进行修正。
首先,控制部10判定是否动作结束(步骤S401)。若动作结束(步骤S401:“是”)则结束。若并非动作结束(步骤S401:“否”)则判定关键帧队列是否为空(步骤S402)。若关键帧队列为空(步骤S402:“是”)则返回至步骤S401,若关键帧队列不为空(步骤S402:“否”),则从关键帧队列中取出数据并设定给LKF(表示在闭环线程中处理的关键帧的关键帧编号的变量)(步骤S403)。接着控制部10判定LKF是否大于1(步骤S404)。在LKF为0或1的情况下(步骤S404:“否”)返回至步骤S401,等待数据进入到关键帧队列中。然后,在LKF为2以上的情况下(步骤S404:“是”),进行以下的处理。
控制部10参照帧DB,从帧DB中检索与当前关键帧(关键帧编号为 LKF的关键帧)之间的“关键帧自身的特征”的类似度为基准图像类似度以上的关键帧(步骤S405)。
控制部10判定是否发现了“关键帧自身的特征”的类似度为基准图像类似度以上的关键帧(步骤S406),若未发现(步骤S406:“否”) 则返回至步骤S401,若发现(步骤S406:“是”),则对从发现的关键帧到当前关键帧的轨迹中的关键帧的姿势、和轨迹中的关键帧所包含的 Map点的3D位置进行修正(步骤S407)。例如,控制部10将当前关键帧的姿势修正为与所发现的关键帧的姿势相同的姿势。然后,使用所发现的关键帧的姿势与当前关键帧的姿势的差分,对从所发现的关键帧到当前关键帧的轨迹中的各关键帧的姿势施加线性校正。进而关于这些各关键帧所包含的Map点的3D位置也根据各关键帧的姿势的校正量来进行修正。然后,返回至步骡S401。
接下来关于自主移动装置100的主流程(图3)的步骤S110的处理即移动处理控制,使用图8来进行说明。首先,控制部10判定位置历史记录检索计数器SC的值是否为0(步骤S501)。若SC为0,则意味着针对位置历史记录存储部24中存储的全部位置已经尝试了回退处理(return process)但并未变为能够进行位置估算的状态,在该情况下(步骤S501:“是”)为了在未能进行位置的估算的状态下进行自主动作而进行与主流程(图3)的步骤S108、S109同样的动作(步骤S502、S503),并返回至主流程(图3)的步骤S105。
若SC不为0(步骤S501:“否”),则取得存储在位置历史记录存储部24中的第SC个信息(自身设备的姿势(位置)的信息以及当时的时刻)(步骤S504)。所取得的信息当中,自身设备的姿势(位置)的信息保存在HP(对从位置历史记录存储部24中取得的自身设备的位置的信息进行保存的变量)中,时刻保存在HT(对从位置历史记录存储部24中取得的时刻进行保存的变量)中。然后,判定位置变化历史记录计数器DC 的值是否为0(步骤S505)。若DC为0则意味着虽然尝试了位置变化历史记录存储部23中存储的全部的位置的变化但并未变为能够进行位置估算的状态,在该情况下(步骤S505:“是”)为了在未能进行位置的估算的状态下进行自主动作而进行与主流程(图3)的步骤S108、S109同样的动作(步骤S502、S503),并返回至主流程(图3)的步骤S105。
若DC不为0(步骤S505:“否”),则取得存储在位置变化历史记录存储部23中的第DC个信息(位置变化量以及当时的时刻)(步骤 S506)。所取得的信息当中,位置变化量保存在DP(对从位置变化历史记录存储部23中取得的位置变化量进行保存的变量)中,时刻保存在DT (对从位置变化历史记录存储部23中取得的时刻进行保存的变量)中。然后,判定从位置历史记录存储部24中取得的时刻HT与从位置变化历史记录存储部23中取得的时刻DT相比是否为过去的时刻(是否为较小的值) (步骤S507)。
若HT与DT相比为过去(步骤S507:“是”),则自身设备还未完全返回到从位置历史记录存储部24中取得的过去的HP的位置,所以前进至步骤S508。若HT和DT为相同时刻或DT一方为过去(步骤S507:“否”) 则为了进行移动处理控制中的最后的移动处理而前进至步骤S510。
在步骤S508中,基于登记在位置变化历史记录存储部23中的位置变化量DP,由移动处理控制部15使移动处理部11进行消除该变化量的移动处理(步骤S508)。例如若DP为“向前方前进了10cm”,则此处的移动处理成为“向后方退回10cm”的处理。然后,使位置变化历史记录计数器DC递减(步骤S509)并返回至步骤S505。
步骤S510也与步骤S508同样地,基于登记在位置变化历史记录存储部23中的位置变化量DP,由移动处理控制部15使移动处理部11进行消除该变化量的移动处理(步骤S510)。通过该移动处理,从而(如果存储在位置变化历史记录存储部23中的信息、移动处理部11的移动距离没有误差)自主移动装置100应该会返回到过去实现了位置估算的位置(由HP所示的位置),所以为了正确地进行自身设备位置估算线程中的自身设备位置估算,该最后的移动处理期望降低速度来进行。特别是在步骤 S507的判定时若HT与DT的值相等,则通过该移动应该会返回到HP所示的位置,所以也可以在步骤S510与步骤S511之间(为了等待自身设备位置估算线程中的自身设备位置估算的进行)追加规定时间不移动而停止的处理。
接着,使位置变化历史记录计数器DC递减(步骤S511),并使位置历史记录检索计数器SC递减(步骤S512),返回至主流程的步骤S105。使位置历史记录检索计数器SC递减,是为了在即使通过本次的移动处理控制也未能在自身设备位置估算线程中实现自身设备位置估算的情况下,在下次的移动处理控制中,进一步返回到过去的位置来尝试自身设备位置估算。但是,若在到下次为止的期间自身设备位置估算成功,则在图5的步骤S241中位置历史记录登记计数器HC的值被设置到位置历史记录检索计数器SC。通过进行这样的移动处理控制,从而能够返回到过去实现了自身设备位置估算的位置,能够进行自身设备位置估算。
接下来,作为与上述不同的移动处理控制,对进行图9的流程图所示的移动处理控制的第二实施方式进行说明。第二实施方式除了移动处理控制的流程图以外都与第一实施方式相同。
首先,控制部10判定位置历史记录检索计数器SC的值是否为0(步骤S601)。若SC为0,则意味着针对位置历史记录存储部24中存储的全部位置已经尝试了回退处理但并未变为能够进行位置估算的状态,在该情况下(步骤S601:“是”)为了在未能进行位置的估算的状态下进行自主动作而进行与主流程(图3)的步骤S108、S109同样的动作(步骤S602、S603),并返回至主流程(图3)的步骤S105。
若SC不为0(步骤S601:“否”),则取得存储在位置历史记录存储部24中的第SC个信息(自身设备的姿势(平移向量t以及旋转矩阵R) 的信息HP以及当时的时刻HT)(步骤S604)。然后,将位置变化历史记录计数器DC的值设置给位置变化历史记录工作计数器WC(在从位置变化历史记录存储部23中取得位置变化的历史记录时使用的变量),并对位置变化历史记录堆栈(保存位置变化量的堆栈)进行初始化(步骤 S605)。另外,堆栈为先入后出的数据结构。
然后,控制部10判定位置变化历史记录工作计数器WC是否为0(步骤S606)。若WC为0则意味着虽然尝试了位置变化历史记录存储部23 中存储的全部的位置的变化但并未变为能够进行位置估算的状态,在该情况下(步骤S606:“是”)为了在未能进行位置的估算的状态下进行自主动作而进行与主流程(图3)的步骤S108、S109同样的动作(步骤S602、S603),并返回至主流程(图3)的步骤S105。
若WC不为0(步骤S606:“否”),则控制部10取得存储在位置变化历史记录存储部23中的第WC个信息(位置变化量DP以及当时的时刻DT)(步骤S607)。然后,判定从位置历史记录存储部24中取得的时刻HT与从位置变化历史记录存储部23中取得的时刻DT相比是否为过去的时刻(是否为较小的值)(步骤S608)。
若HT与DT相比为过去(步骤S608:“是”),则自身设备还未完全返回到从位置历史记录存储部24中取得的过去的HP的位置,所以前进至步骤S609。若HT和DT为相同时刻或DT一方为过去(步骤S608:“否”) 则为了根据位置变化历史记录来累计估算自身设备的位置而前进至步骤 S611。
在步骤S609中,控制部10将位置变化量DP的值压入到位置变化历史记录堆栈中。然后,使位置变化历史记录工作计数器WC递减(步骤 S610)并返回至步骤S606。由此,到目前为止的位置变化都被积累到位置变化历史记录堆栈中。
在步骤S611中,控制部10将从位置历史记录存储部24中取得的过去的HP的姿势(平移向量t以及旋转矩阵R)作为初始值而设置给MP (为了求取自身设备位置的估算值而使用的变量),进行从位置变化历史记录堆栈中取出数据(DP)并加到MP上的处理,直到位置变化历史记录堆栈成为空为止。由此,在MP中,能够得到通过从过去的能够进行自身设备位置估算的状态时的位置HP起对位置变化历史记录DP进行累计而得到的当前的自身设备位置的估算值。在该处理中,控制部10相当于累计位置估算部。
接着,移动处理控制部15控制移动处理部11,使得从当前的自身设备位置的估算值MP,移动到过去的自身设备位置HP(步骤S612)。具体而言,进行控制,使得进行从HP的平移向量中减去MP的平移向量的量的平移移动,并进行对HP的旋转矩阵乘以MP的旋转矩阵的逆矩阵而得到的旋转矩阵所表示的旋转量的旋转动作。通过该移动处理控制,从而 (如果存储在位置变化历史记录存储部23中的信息、移动处理部11的移动距离没有误差)自主移动装置100应该会返回到过去实现了位置估算的位置(由HP所示的位置),所以也可以在步骤S612与步骤S613之间(为了等待自身设备位置估算线程中的自身设备位置估算的进行)追加规定时间不移动而停止的处理。
接着,使位置历史记录检索计数器SC递减(步骤S613),并返回至主流程的步骤S105。使位置历史记录检索计数器SC递减,是为了在即使通过本次的移动处理控制也未能在自身设备位置估算线程中实现自身设备位置估算的情况下,在下次的移动处理控制中,进一步返回到过去的位置来尝试自身设备位置估算。但是,若在到下次为止的期间自身设备位置估算成功,则在图5的步骤S241中位置历史记录登记计数器HC的值被设置到位置历史记录检索计数器SC。通过进行这样的移动处理控制,从而能够返回到过去实现了自身设备位置估算的位置,能够进行自身设备位置估算。
第二实施方式若与第一实施方式相比较,则针对位置变化历史记录存储部23中所存储的位置变化并不是一个一个进行移动处理,而是汇总来进行移动处理,因此存在如下这样的优点,即,移动处理控制时的驱动部 42的误差不容易积累。
至此说明的两个实施方式虽然都进行了返回到过去实现了自身设备位置估算的位置的处理,但是它们都存在如下这样的问题,即,若存储在位置变化历史记录存储部23中的信息或基于移动处理部11的移动距离不正确则不能返回到过去的正确位置。
因此,对不需要位置变化历史记录存储部23、位置历史记录存储部 24的第三实施方式进行说明。图10中示出第三实施方式的构成,若与第一或第二实施方式相比较,则在以下方面不同,即,在控制部10中存在旋转拍摄部16,以及在存储部20中不存在位置变化历史记录存储部23、位置历史记录存储部24而存在特征点存储部25。
关于图3~图7的各流程,仅是省略与位置变化历史记录计数器DC、位置变化历史记录存储部23、位置历史记录登记计数器HC、位置历史记录检索计数器SC相关的处理,其余与第三实施方式的处理流程相同。移动处理控制的处理流程与第一、第二实施方式较大不同,因此以下使用图 11来进行说明。
首先,旋转拍摄部16对旋转拍摄标志RF(表示当前是否是旋转拍摄的处理中的变量)设置1(步骤S701),并对累积旋转角φS进行清零(步骤S702)。接着,由摄像部41取得图像(步骤S703)。接着,从所取得的图像内取得2D特征点(步骤S704)。然后,将所取得的2D特征点的个数和累积旋转角φS登记到特征点存储部25中(步骤S705)。
接着,旋转拍摄部16判定旋转拍摄标志RF是否为2(步骤S706)。若RF为2(步骤S706:“是”)则意味着1圈旋转的拍摄完成,所以前进至步骤S712。若RF不为2(步骤S706:“否”),则判定累积旋转角φS+旋转角φ1是否小于360°(步骤S707)。在此,旋转角φ1是基于旋转拍摄部16的一次旋转动作的旋转角,例如是30°。φ1期望设定摄像部41的视角的一半以下的角度,使得能够从周围的环境拍摄尽可能多的特征点。
旋转拍摄部16在累积旋转角φS+旋转角φ1小于360°的情况下(步骤S707:“是”),对驱动部42发出指示以进行旋转角φ1的旋转动作(步骤S708),在累积旋转角φS上加上旋转角φ1(步骤S709),之后返回至步骤S703。此处的旋转动作若是能够通过使驱动部42的两个车轮反向等速旋转等而不移动位置地旋转,则期望进行不移动位置的旋转动作。在只能使两个车轮向相同方向旋转的情况下,期望进行旋转半径尽可能小的旋转动作。
旋转拍摄部16在累积旋转角φS+旋转角φ1为360°以上的情况下 (步骤S707:“否”),对驱动部42发出指示以进行旋转角(360°-φS)的旋转动作(步骤S710),并对旋转拍摄标志RF设置2(步骤S711),之后返回至步骤S703。
在步骤S712中,移动处理控制部15从特征点存储部25中检索登记到特征点存储部25中的2D特征点的个数最多时的累积旋转角φS,并控制移动处理部11以进行旋转角φS的旋转动作(步骤S713)。然后,移动处理控制部15控制移动处理部11以慢慢地向前方移动规定距离(例如基准平移距离的3倍)(步骤S714)。通过慢慢地移动,从而能够增加在自身设备位置估算线程中能够估算自身设备位置的定时。
然后,旋转拍摄部16将旋转拍摄标志RF清零(步骤S715),并返回至主流程的步骤S105。通过进行这样的动作,从而向2D特征点的个数多的方向进行移动,所以自身设备位置的估算成功的可能性得到提高。另外,在本实施方式中仅关注了2D特征点的个数,但也可以不仅关注个数还关注质量,利用2D特征点的个数和质量来定义评价函数,在步骤S712 中进行对该2D特征点的评价函数最高的旋转角φS进行检索的处理。
此外,也可以适当切换进行第一、第二、第三的各实施方式的移动处理控制。例如,可以考虑如下的实施方式等:首先进行第一实施方式的移动处理控制,若即便如此也不能进行自身设备位置估算,则进行第三实施方式的移动处理控制的实施方式;首先进行第二实施方式的移动处理控制,若即便如此也不能进行自身设备位置估算,则进行第三实施方式的移动处理控制的实施方式;首先进行第一实施方式的移动处理控制,若即便如此也不能进行自身设备位置估算,则进行第二实施方式的移动处理控制,若即便如此也不能进行自身设备位置估算,则进行第三实施方式的移动处理控制的实施方式。
另外,在上述的各实施方式中,将基准平移距离的值设定为了“例如 1m”,但由于根据自主移动装置自身的大小、速度、自主移动的环境、移动范围等,最佳的基准平移距离会改变,因此关于基准平移距离的设定方法进行补充。
作为基准平移距离的设定方法,可以按将从关键帧上的所有Map点 (3D位置已知的2D特征点)的3D位置到自身设备位置的距离进行平均得到的值(=到在关键帧上观察到的所有Map点的进深的平均距离)与平移距离之比来进行设定(例如,将到Map点的进深的平均距离的5%的距离设为基准平移距离等)。在此使用的“所有Map点”能够通过由控制部 10参照Map点DB来提取,在该处理中控制部10相当于能够进行位置估算的特征点提取部。此外,也可以根据实际环境上的平移距离的大小,例如若在桌子上活动则将10cm设定为基准平移距离,若在房间来回活动则将1m设定为基准平移距离,若在屋外的广场等来回活动则将10m等设定为基准平移距离,还可以将与驱动部42的车轮的直径相应的值(例如车轮的直径的10倍)设定为基准平移距离。
在作为基准平移距离而以实际环境上的距离进行设定的情况下,对 SLAM坐标下的平移距离乘以比例S来变换为实际环境上的距离之后进行比较(反之也同样,在作为基准平移距离而设定SLAM坐标下的距离的情况下,将实际环境上的距离除以比例S来变换为SLAM坐标下的距离之后进行比较)。
另外,本发明的自主移动装置100的各功能通过通常的PC(Personal Computer,个人计算机)等计算机也能够实施。具体而言,在上述实施方式中,自主移动装置100所进行的自主移动控制处理的程序作为预先存储在存储部20的ROM中的程序来进行了说明。但是,也可以将程序保存在软盘、CD-ROM(Compact Disc Read Only Memory,光盘只读存储器),DVD(Digital Versatile Disc,数字多用途盘)以及MO(Magneto-Optical Disc,磁光盘)等计算机可读取的记录介质中来进行分发,通过将该程序读入到计算机中进行安装,从而构成能够实现上述的各功能的计算机。
此外,该计算机既可以内置于自主移动装置100,也可以与自主移动装置100分开存在。即,也可以如图12所示,将控制部、存储部设置于外部的服务器200。自主移动装置100的控制部10可以通过云计算技术,经由通信部44将由摄像部41、传感器部30等所取得的数据发送到外部的服务器200,并使该服务器200进行了运算处理之后,经由通信部44来接收服务器200所执行的运算结果,对驱动部42等进行控制。在图12中,成为如下构成,即,服务器200的控制部50具备地图制作部12、位置估算部13、估算判定部14以及移动处理控制部15,自主移动装置100的控制部10具备移动处理部11,但只要在服务器200的控制部50和自主移动装置100的控制部10的任意一者中具备各部即可。关于是服务器200的控制部50具备各部还是自主移动装置100的控制部10具备各部是任意的。
以上,对本发明的优选实施方式进行了说明,但本发明并不限定于这种特定的实施方式,在本发明中,包含权利要求书所记载的发明及其均等的范围。

Claims (14)

1.一种自主移动装置,具备:摄像部、图像存储部、控制部和驱动部,其中,
所述图像存储部存储所述摄像部所拍摄到的多个图像的信息;
所述控制部,
对所述驱动部进行驱动处理使得基于所述摄像部所拍摄到的图像的信息来自主地移动,
使用存储在所述图像存储部中的多个图像的信息来估算所述自主移动装置位置,
判定所述自主移动装置位置的估算结果是否唯一确定,
在判定为所述估算结果不唯一确定的情况下,控制所述驱动处理使得移动到所述自主移动装置位置的估算结果唯一确定的位置,
所述控制部还在每次通过所述驱动处理使所述自主移动装置的位置发生变化时将该变化量登记到位置变化历史记录存储部中,
在判定为所述估算结果唯一确定的情况下,将该时间点的位置的信息与时刻信息一起登记到位置历史记录存储部中,
在判定为所述估算结果不唯一确定的情况下,控制所述驱动处理,使得追溯到所述自主移动装置处于登记在所述位置历史记录存储部中的位置的时间点,同时与登记在所述位置变化历史记录存储部中的位置的变化量反向移动。
2.一种自主移动装置,具备:摄像部、图像存储部、控制部和驱动部,其中,
所述图像存储部存储所述摄像部所拍摄到的多个图像的信息;
所述控制部,
对所述驱动部进行驱动处理使得基于所述摄像部所拍摄到的图像的信息来自主地移动,
使用存储在所述图像存储部中的多个图像的信息来估算所述自主移动装置位置,
判定所述自主移动装置位置的估算结果是否唯一确定,
在判定为所述估算结果不唯一确定的情况下,控制所述驱动处理使得移动到所述自主移动装置位置的估算结果唯一确定的位置,
所述控制部还在每次通过所述驱动处理使所述自主移动装置的位置发生变化时将该变化量登记到位置变化历史记录存储部中,
在判定为所述估算结果唯一确定的情况下,将该时间点的位置的信息与时刻信息一起登记到位置历史记录存储部中,
在判定为所述估算结果不唯一确定的情况下,通过在登记在所述位置历史记录存储部中的位置上,累计从与该位置对应的时刻起到当前时刻为止登记在所述位置变化历史记录存储部中的位置的变化量,来估算当前的所述自主移动装置的位置,
在判定为所述估算结果不唯一确定的情况下,控制所述驱动处理使得从通过所述累计而估算出的位置朝向登记在所述位置历史记录存储部中的位置进行移动。
3.根据权利要求1或2所述的自主移动装置,其中,
所述自主移动装置还具备与外部的服务器进行通信的通信部,
经由所述通信部使所述外部的服务器进行基于所述控制部的所述驱动处理、所述估算、所述判定以及所述控制中的至少一者。
4.根据权利要求1或2所述的自主移动装置,其中,
所述控制部还从多个图像取得对应的特征点,
在从用于所述自主移动装置位置的估算的多个图像取得的所述对应的特征点的数量小于规定数的情况下,判定为所述估算结果不唯一确定。
5.根据权利要求1或2所述的自主移动装置,其中,
所述控制部还从多个图像取得对应的特征点,
通过使基于所取得的所述特征点在所述图像中的坐标而定义的成本函数最小化来估算所述自主移动装置位置,
在所述成本函数的最小值大于规定值的情况下,判定为所述估算结果不唯一确定。
6.根据权利要求1或2所述的自主移动装置,其中,
所述控制部还从多个图像取得对应的特征点,
通过使基于所取得的所述特征点在所述图像中的坐标而定义的成本函数最小化来估算所述自主移动装置位置,
在所述成本函数具有多个极小值,并且将最小的极小值除以第二小的极小值而得到的值大于规定值的情况下,判定为所述估算结果不唯一确定。
7.根据权利要求1或2所述的自主移动装置,其中,
所述控制部还在进行旋转动作的同时使所述摄像部拍摄图像,
在判定为所述估算结果不唯一确定的情况下,控制所述驱动处理,使得朝向对如下图像进行了拍摄时的方向进行移动:在进行所述旋转动作的同时使所述摄像部拍摄到的图像当中能够用于所述自主移动装置位置的估算的信息最多的图像。
8.根据权利要求7所述的自主移动装置,其中,
一次所述旋转动作的旋转角是所述摄像部的视角的一半以下的角度。
9.根据权利要求1或2所述的自主移动装置,其中,
每当所述自主移动装置移动基准平移距离时,所述图像存储部存储所述摄像部所拍摄到的图像的信息,
将对所述驱动部的车轮的直径乘以规定值而得到的值设定为所述基准平移距离。
10.根据权利要求1或2所述的自主移动装置,其中,
每当所述自主移动装置移动基准平移距离时,所述图像存储部存储所述摄像部所拍摄到的图像的信息,
所述控制部还从多个图像提取能够估算位置的特征点,
将所提取的全部所述特征点的各位置与所述自主移动装置位置的距离的平均值除以规定值而得到的值设定为所述基准平移距离。
11.一种自主移动方法,具备:
移动处理步骤,对驱动部进行驱动处理使得自主移动装置基于摄像部所拍摄到的图像的信息来自主地移动;
图像存储步骤,存储所述摄像部所拍摄到的多个图像的信息;
位置估算步骤,基于在所述图像存储步骤中存储的多个图像的信息来估算所述自主移动装置位置;
估算判定步骤,判定所述位置估算步骤中的所述自主移动装置位置的估算结果是否唯一确定;
移动处理控制步骤,在所述估算判定步骤中判定为所述估算结果不唯一确定的情况下,控制所述移动处理步骤中的处理使得移动到所述位置估算步骤中的所述自主移动装置位置的估算结果唯一确定的位置;
位置变化历史记录登记步骤,在每次通过所述移动处理步骤使所述自主移动装置的位置发生变化时将该变化量登记到位置变化历史记录存储部中;和
位置历史记录登记步骤,在所述估算判定步骤中判定为所述估算结果唯一确定的情况下,将该时间点的位置的信息与时刻信息一起登记到位置历史记录存储部中,
在所述移动处理控制步骤中,在所述估算判定步骤中判定为所述估算结果不唯一确定的情况下,控制所述移动处理步骤中的处理,使得追溯到所述自主移动装置处于登记在所述位置历史记录存储部中的位置的时间点,同时与登记在所述位置变化历史记录存储部中的位置的变化量反向移动。
12.一种自主移动方法,具备:
移动处理步骤,对驱动部进行驱动处理使得自主移动装置基于摄像部所拍摄到的图像的信息来自主地移动;
图像存储步骤,存储所述摄像部所拍摄到的多个图像的信息;
位置估算步骤,基于在所述图像存储步骤中存储的多个图像的信息来估算所述自主移动装置位置;
估算判定步骤,判定所述位置估算步骤中的所述自主移动装置位置的估算结果是否唯一确定;
移动处理控制步骤,在所述估算判定步骤中判定为所述估算结果不唯一确定的情况下,控制所述移动处理步骤中的处理使得移动到所述位置估算步骤中的所述自主移动装置位置的估算结果唯一确定的位置;
位置变化历史记录登记步骤,在每次通过所述移动处理步骤使所述自主移动装置的位置发生变化时将该变化量登记到位置变化历史记录存储部中;
位置历史记录登记步骤,在所述估算判定步骤中判定为所述估算结果唯一确定的情况下,将该时间点的位置的信息与时刻信息一起登记到位置历史记录存储部中;和
累计位置估算步骤,在所述估算判定步骤中判定为所述估算结果不唯一确定的情况下,通过在登记在所述位置历史记录存储部中的位置上,累计从与该位置对应的时刻起到当前时刻为止登记在所述位置变化历史记录存储部中的位置的变化量,来估算当前的所述自主移动装置的位置,
在所述移动处理控制步骤中,在所述估算判定步骤中判定为所述估算结果不唯一确定的情况下,控制所述移动处理步骤中的处理使得从通过所述累计位置估算步骤而估算出的位置朝向登记在所述位置历史记录存储部中的位置进行移动。
13.一种存储介质,其存储有用于使计算机执行如下步骤的程序:
移动处理步骤,对驱动部进行驱动处理使得自主移动装置基于摄像部所拍摄到的图像的信息来自主地移动;
图像存储步骤,存储所述摄像部所拍摄到的多个图像的信息;
位置估算步骤,基于在所述图像存储步骤中存储的多个图像的信息来估算所述自主移动装置位置;
估算判定步骤,判定所述位置估算步骤中的所述自主移动装置位置的估算结果是否唯一确定;
移动处理控制步骤,在所述估算判定步骤中判定为所述估算结果不唯一确定的情况下,控制所述移动处理步骤中的处理使得移动到所述位置估算步骤中的所述自主移动装置位置的估算结果唯一确定的位置;
位置变化历史记录登记步骤,在每次通过所述移动处理步骤使所述自主移动装置的位置发生变化时将该变化量登记到位置变化历史记录存储部中;和
位置历史记录登记步骤,在所述估算判定步骤中判定为所述估算结果唯一确定的情况下,将该时间点的位置的信息与时刻信息一起登记到位置历史记录存储部中,
在所述移动处理控制步骤中,在所述估算判定步骤中判定为所述估算结果不唯一确定的情况下,控制所述移动处理步骤中的处理,使得追溯到所述自主移动装置处于登记在所述位置历史记录存储部中的位置的时间点,同时与登记在所述位置变化历史记录存储部中的位置的变化量反向移动。
14.一种存储介质,其存储有用于使计算机执行如下步骤的程序:
移动处理步骤,对驱动部进行驱动处理使得自主移动装置基于摄像部所拍摄到的图像的信息来自主地移动;
图像存储步骤,存储所述摄像部所拍摄到的多个图像的信息;
位置估算步骤,基于在所述图像存储步骤中存储的多个图像的信息来估算所述自主移动装置位置;
估算判定步骤,判定所述位置估算步骤中的所述自主移动装置位置的估算结果是否唯一确定;
移动处理控制步骤,在所述估算判定步骤中判定为所述估算结果不唯一确定的情况下,控制所述移动处理步骤中的处理使得移动到所述位置估算步骤中的所述自主移动装置位置的估算结果唯一确定的位置;
位置变化历史记录登记步骤,在每次通过所述移动处理步骤使所述自主移动装置的位置发生变化时将该变化量登记到位置变化历史记录存储部中;
位置历史记录登记步骤,在所述估算判定步骤中判定为所述估算结果唯一确定的情况下,将该时间点的位置的信息与时刻信息一起登记到位置历史记录存储部中;和
累计位置估算步骤,在所述估算判定步骤中判定为所述估算结果不唯一确定的情况下,通过在登记在所述位置历史记录存储部中的位置上,累计从与该位置对应的时刻起到当前时刻为止登记在所述位置变化历史记录存储部中的位置的变化量,来估算当前的所述自主移动装置的位置,
在所述移动处理控制步骤中,在所述估算判定步骤中判定为所述估算结果不唯一确定的情况下,控制所述移动处理步骤中的处理使得从通过所述累计位置估算步骤而估算出的位置朝向登记在所述位置历史记录存储部中的位置进行移动。
CN201611033504.9A 2015-12-16 2016-11-15 自主移动装置、自主移动方法以及存储介质 Active CN107053166B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2015245196A JP6311695B2 (ja) 2015-12-16 2015-12-16 自律移動装置、自律移動方法及びプログラム
JP2015-245196 2015-12-16

Publications (2)

Publication Number Publication Date
CN107053166A CN107053166A (zh) 2017-08-18
CN107053166B true CN107053166B (zh) 2020-05-05

Family

ID=59064449

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201611033504.9A Active CN107053166B (zh) 2015-12-16 2016-11-15 自主移动装置、自主移动方法以及存储介质

Country Status (3)

Country Link
US (1) US10296009B2 (zh)
JP (1) JP6311695B2 (zh)
CN (1) CN107053166B (zh)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019053986A1 (ja) * 2017-09-14 2019-03-21 ソニー株式会社 自己位置推定装置と自己位置推定方法とプログラムおよび移動体装置
EP3770712A1 (en) * 2018-03-19 2021-01-27 Honda Motor Co., Ltd. Autonomous traveling work machine
JP2020047188A (ja) * 2018-09-21 2020-03-26 パナソニックIpマネジメント株式会社 自律走行掃除機
JP2020052687A (ja) * 2018-09-26 2020-04-02 クラリオン株式会社 位置推定装置
KR101948728B1 (ko) * 2018-09-28 2019-02-15 네이버랩스 주식회사 데이터 수집 방법 및 시스템
WO2020144936A1 (ja) * 2019-01-09 2020-07-16 ソニー株式会社 情報処理装置、情報処理方法及びプログラム
CN112129272A (zh) * 2019-06-25 2020-12-25 京东方科技集团股份有限公司 视觉里程计的实现方法和实现装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102866706A (zh) * 2012-09-13 2013-01-09 深圳市银星智能科技股份有限公司 一种采用智能手机导航的清扫机器人及其导航清扫方法
CN103294059A (zh) * 2013-05-21 2013-09-11 无锡普智联科高新技术有限公司 基于混合导航带的移动机器人定位系统及其方法
CN104723338A (zh) * 2013-12-20 2015-06-24 蛇目缝纫机工业株式会社 机器人、机器人的控制方法及机器人的控制程序
CN104898658A (zh) * 2014-03-06 2015-09-09 丰田自动车株式会社 自主移动机器人及其控制方法

Family Cites Families (41)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3176701B2 (ja) * 1992-04-15 2001-06-18 本田技研工業株式会社 移動体の現在位置認識処理装置
JP4060974B2 (ja) 1999-02-25 2008-03-12 株式会社ザナヴィ・インフォマティクス 経路誘導装置
JP4175165B2 (ja) 2002-04-17 2008-11-05 松下電工株式会社 自律移動装置
JP4352148B2 (ja) 2003-03-14 2009-10-28 独立行政法人科学技術振興機構 移動ロボット用地図作成システム
US7835820B2 (en) 2005-10-11 2010-11-16 Vanderbilt University System and method for image mapping and visual attention
US8965578B2 (en) 2006-07-05 2015-02-24 Battelle Energy Alliance, Llc Real time explosive hazard information sensing, processing, and communication for autonomous operation
JP2008059218A (ja) * 2006-08-30 2008-03-13 Fujitsu Ltd 自律走行ロボットの自己位置回復方法
KR100855469B1 (ko) 2006-09-13 2008-09-01 삼성전자주식회사 이동 로봇의 자세 추정 장치 및 방법
JP4856510B2 (ja) 2006-10-02 2012-01-18 本田技研工業株式会社 移動ロボット
GB2448470B (en) 2007-04-20 2012-04-04 Ultra Global Ltd Vehicle guidance system
KR101337534B1 (ko) 2007-07-24 2013-12-06 삼성전자주식회사 이동 로봇의 위치 인식 장치 및 방법
US20090096686A1 (en) * 2007-10-11 2009-04-16 Nec Laboratories America, Inc. Autonomous mobile wireless antenna systems
JP2009169845A (ja) 2008-01-18 2009-07-30 Toyota Motor Corp 自律移動ロボット及び地図更新方法
JP2009193240A (ja) 2008-02-13 2009-08-27 Toyota Motor Corp 移動ロボット及び環境地図の生成方法
JP5270184B2 (ja) 2008-02-13 2013-08-21 古野電気株式会社 衛星航法/推測航法統合測位装置
JP5310285B2 (ja) 2009-06-12 2013-10-09 日産自動車株式会社 自己位置推定装置及び自己位置推定方法
KR20100138725A (ko) 2009-06-25 2010-12-31 삼성전자주식회사 가상 세계 처리 장치 및 방법
JP2011043419A (ja) 2009-08-21 2011-03-03 Sony Corp 情報処理装置、および情報処理方法、並びにプログラム
JP5444952B2 (ja) 2009-08-28 2014-03-19 富士通株式会社 センサフュージョンによる地図の自動生成、およびそのように自動生成された地図を用いて移動体の移動をするための、装置、方法、ならびにプログラム
US8355818B2 (en) 2009-09-03 2013-01-15 Battelle Energy Alliance, Llc Robots, systems, and methods for hazard evaluation and visualization
JP5315289B2 (ja) 2010-04-12 2013-10-16 トヨタ自動車株式会社 オペレーティングシステム及びオペレーティング方法
US20120230550A1 (en) * 2011-03-10 2012-09-13 Jacob Kraut Method and Apparatus for Generating a Map from Landmarks
JP5222971B2 (ja) * 2011-03-31 2013-06-26 富士ソフト株式会社 歩行ロボット装置及びその制御プログラム
US20140340241A1 (en) 2011-09-14 2014-11-20 Smart Ship Holdings Limited Allocating an area to a vehicle
JP5821526B2 (ja) 2011-10-27 2015-11-24 ソニー株式会社 画像処理装置、画像処理方法及びプログラム
EP2776216A4 (en) 2011-11-11 2015-12-30 Irobot Corp SCALING VECTOR FIELD SLAM TO LARGE ENVIRONMENTS
JP5429901B2 (ja) 2012-02-08 2014-02-26 富士ソフト株式会社 ロボット及び情報処理装置のプログラム
WO2014016862A1 (ja) 2012-07-23 2014-01-30 富士通株式会社 表示制御プログラム、表示制御方法及び表示制御装置
US9739215B2 (en) 2013-03-15 2017-08-22 Ford Global Technologies, Llc Intrusive EGR monitor for a hybrid vehicle
JP6051993B2 (ja) 2013-03-25 2016-12-27 村田機械株式会社 自律移動式無人搬送車、及び、自律移動式無人搬送システム
US9037396B2 (en) 2013-05-23 2015-05-19 Irobot Corporation Simultaneous localization and mapping for a mobile robot
JP6027554B2 (ja) 2014-01-21 2016-11-16 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置、情報処理システム、ブロックシステム、および情報処理方法
JP6191484B2 (ja) 2014-02-03 2017-09-06 トヨタ自動車株式会社 移動ロボットの自己位置推定方法
TWI507664B (zh) 2014-03-13 2015-11-11 Pixart Imaging Inc 光學編碼器及其運作方法
KR101629649B1 (ko) 2014-09-30 2016-06-13 엘지전자 주식회사 로봇 청소기 및 로봇 청소기의 제어방법
US9519289B2 (en) * 2014-11-26 2016-12-13 Irobot Corporation Systems and methods for performing simultaneous localization and mapping using machine vision systems
US9569851B2 (en) 2014-12-23 2017-02-14 Ricoh Co., Ltd. Sequencing products recognized in a shelf image
JP6789624B2 (ja) 2015-11-20 2020-11-25 キヤノン株式会社 情報処理装置、情報処理方法
GB2545171B (en) 2015-12-03 2020-08-19 Sony Interactive Entertainment Inc Light source identification apparatus and method
JP6323439B2 (ja) 2015-12-17 2018-05-16 カシオ計算機株式会社 自律移動装置、自律移動方法及びプログラム
US9889859B2 (en) 2015-12-21 2018-02-13 Intel Corporation Dynamic sensor range in advanced driver assistance systems

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102866706A (zh) * 2012-09-13 2013-01-09 深圳市银星智能科技股份有限公司 一种采用智能手机导航的清扫机器人及其导航清扫方法
CN103294059A (zh) * 2013-05-21 2013-09-11 无锡普智联科高新技术有限公司 基于混合导航带的移动机器人定位系统及其方法
CN104723338A (zh) * 2013-12-20 2015-06-24 蛇目缝纫机工业株式会社 机器人、机器人的控制方法及机器人的控制程序
CN104898658A (zh) * 2014-03-06 2015-09-09 丰田自动车株式会社 自主移动机器人及其控制方法

Also Published As

Publication number Publication date
US20170176997A1 (en) 2017-06-22
US10296009B2 (en) 2019-05-21
CN107053166A (zh) 2017-08-18
JP6311695B2 (ja) 2018-04-18
JP2017111606A (ja) 2017-06-22

Similar Documents

Publication Publication Date Title
US9870624B1 (en) Three-dimensional mapping of an environment
CN105302131B (zh) 借助可自主运行的设备清洁或处理空间的方法
WO2017163596A1 (en) Autonomous navigation using visual odometry
US20180075643A1 (en) Method and device for real-time mapping and localization
US10962376B2 (en) Adaptive mapping with spatial summaries of sensor data
CN106127739B (zh) 一种结合单目视觉的rgb-d slam方法
CN107160395B (zh) 地图构建方法及机器人控制系统
JP6462728B2 (ja) 自律ロボットの障害物の不在および存在の一方の確率のマップを構築する方法
US10027952B2 (en) Mapping and tracking system with features in three-dimensional space
US20180161986A1 (en) System and method for semantic simultaneous localization and mapping of static and dynamic objects
Lingemann et al. High-speed laser localization for mobile robots
US9020682B2 (en) Autonomous mobile body
KR100790860B1 (ko) 사람 추적 장치 및 방법, 그 방법을 수행하기 위한프로그램이 저장된 기록매체와 그 장치를 포함하는 이동형전자기기
US20190332115A1 (en) Method of controlling mobile robot
Dubé et al. An online multi-robot SLAM system for 3D LiDARs
KR102016551B1 (ko) 위치 추정 장치 및 방법
Sim et al. Autonomous vision-based exploration and mapping using hybrid maps and Rao-Blackwellised particle filters
Burgard et al. World modeling
US8855819B2 (en) Method and apparatus for simultaneous localization and mapping of robot
Sabe et al. Obstacle avoidance and path planning for humanoid robots using stereo vision
US9037396B2 (en) Simultaneous localization and mapping for a mobile robot
KR101503903B1 (ko) 이동 로봇의 지도 구성 장치 및 방법
US8265425B2 (en) Rectangular table detection using hybrid RGB and depth camera sensors
Pradeep et al. Robot vision for the visually impaired
Park et al. Autonomous mobile robot navigation using passive RFID in indoor environment

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant