CN111639510B - 一种信息处理方法、装置及存储介质 - Google Patents

一种信息处理方法、装置及存储介质 Download PDF

Info

Publication number
CN111639510B
CN111639510B CN201910156460.6A CN201910156460A CN111639510B CN 111639510 B CN111639510 B CN 111639510B CN 201910156460 A CN201910156460 A CN 201910156460A CN 111639510 B CN111639510 B CN 111639510B
Authority
CN
China
Prior art keywords
image
information
target
module
entrance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910156460.6A
Other languages
English (en)
Other versions
CN111639510A (zh
Inventor
薛舟
陈子冲
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ninebot Beijing Technology Co Ltd
Original Assignee
Ninebot Beijing Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ninebot Beijing Technology Co Ltd filed Critical Ninebot Beijing Technology Co Ltd
Priority to CN201910156460.6A priority Critical patent/CN111639510B/zh
Publication of CN111639510A publication Critical patent/CN111639510A/zh
Application granted granted Critical
Publication of CN111639510B publication Critical patent/CN111639510B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes

Abstract

本发明实施例公开一种信息处理方法和装置,应用于移动设备,包括:当移动设备移动到目标入口的预设位置时,获取包含目标入口的第一图像;对获取的第一图像进行处理,获得第一图像中对应于目标入口的几何结构特征;基于几何结构特征确定目标入口的第一信息,依据第一信息判定能否进入目标入口,其中,第一信息至少包括移动设备相对目标入口的方位及目标入口的尺寸。

Description

一种信息处理方法、装置及存储介质
技术领域
本发明涉及图像识别领域,尤其涉及一种信息处理方法、装置及存储介质。
背景技术
随着智能化的提高,移动设备应用在生活与工作上的各种场景,为了能够让移动设备安全的移动,移动设备除了能够实现自身定位和导航,还需要能够检测目标,尤其是对入口的检测,如电梯门、闸机、通道等;入口检测的精度直接影响了移动设备是否能够进入特定空间、完成特定任务。目前,入口检测通常采用图像中的角点检测,但这种方式容易受到图像噪声、虚假角点的干扰,检测精度不高、易受环境的影响,并且受限于简单的入口结构,缺乏复杂结构的入口的泛化能力,导致移动设备执行特定任务的成功率不高,影响移动设备对于任务的有效执行。
发明内容
为解决现有存在的技术问题,本发明实施例提供一种信息处理方法、设备及存储介质,至少部分解决入口检测精度不高、易受环境的影响的问题。
为达到上述目的,本发明实施例的技术方案是这样实现的:
本发明实施例的提供一种信息处理方法,应用于移动设备,所述方法包括:
当所述移动设备移动到目标入口的预设位置时,获取包含所述目标入口的第一图像;
对所述第一图像进行处理,获得所述第一图像中对应于所述目标入口的几何结构特征;
基于所述几何结构特征确定所述目标入口的第一信息,其中,所述第一信息至少包括所述目标入口相对于所述移动设备的方位及所述目标入口的尺寸;
依据所述第一信息判定是否能够进入所述目标入口。
在上述方案中,所述方法还包括:当判定不能进入所述目标入口时,调整所述移动设备的姿态;重新获取包含所述目标入口的第一图像以进行是否能够进入所述目标入口的判定;直至判定能够进入所述目标入口,或者判定不能够进入所述目标入口的次数达到第一预设阈值。
在上述方案中,所述方法还包括:当所述移动设备不能移动到所述目标入口的预设位置、或者依据所述目标入口的第一信息判定不能够进入所述目标入口的次数达到第一预设阈值时,获取包含所述目标入口的图像;
基于所述图像和预先训练获得的神经网络模型确定所述图像中的目标入口的第二信息,其中,所述第二信息至少包括所述目标入口与所述移动设备的相对位置信息;
基于所述第二信息控制所述移动设备移动。
在上述方案中,其特征在于,所述神经网络模型的训练方法包括:
获得多个样本图片以及每个样本图片的标记数据,其中,所述样本图片中包含相同类型的入口,其中,所述标记数据用于标记对应的样本图片中的入口的特征信息;
基于所述多个样本图片以及每个样本图片的标记数据进行学习训练,获得神经网络模型。
在上述方案中,所述对所述第一图像进行处理,包括:基于所述第一图像中每个像素的三维坐标信息进行平面拟合,获得至少一个拟合平面的信息;
基于所述至少一个拟合平面的信息将所述至少一个拟合平面投影至参考面,获得每个拟合平面对应的投影信息;其中,所述参考面与所述至少一个拟合平面垂直;
所述获得所述第一图像中对应于所述目标入口的几何结构特征,包括:
基于所述投影信息获得所述第一图像中对应于所述目标入口的几何结构特征。
在上述方案中,所述基于所述第一图像中每个像素的三维坐标信息进行平面拟合,获得至少一个拟合平面的信息,包括:
将获得的包含所述目标入口的第一图像进行图像分块处理,获得至少一个图像块;
基于所述至少一个图像块中的每个像素的三维坐标信息进行平面拟合,获得至少一个初始拟合平面信息;
基于所述至少一个初始拟合平面的信息确定所述至少一个拟合平面的有效性,将确定为有效的初始拟合平面的信息确定为拟合平面的信息。
在上述方案中,所述图像分块处理包括:按照相邻图像块之间有交叠像素点划分第一图像;或者按照相邻图像块之间没有交叠像素点划分第一图像。
本发明还提供一种信息处理装置,应用于移动设备,所述装置包括:第一获取模块、处理模块、第一确定模块和判定模块,其中,
所述第一获取模块,用于当所述移动设备移动到目标入口的预设位置时,获取包含所述目标入口的第一图像;
所述处理模块,用于对所述第一获取模块获得的第一图像进行处理,获得所述第一图像中对应于所述目标入口的几何结构特征;
所述第一确定模块,用于根据所述处理模块获得的几何结构特征确定所述目标入口的第一信息,其中,所述第一信息至少包括所述目标入口相对于所述移动设备的方位及所述目标入口的尺寸;
所述判定模块,用于依据所述第一确定模块确定的第一信息判定是否能够进入所述目标入口。
在上述方案中,所述装置还包括:调整模块,用于当所述判定模块判定不能进入所述目标入口时,调整所述移动设备的姿态;
所述第一获取模块,还用于重新获取包含所述目标入口的第一图像以使所述判定模块进行是否能够进入所述目标入口的判定;直至判定能够进入所述目标入口,或者判定不能够进入所述目标入口的次数达到第一预设阈值。
在上述方案中,所述装置还包括:第二获取模块、第二确定模块和控制模块,其中,
所述第二获取模块,用于当所述移动设备不能移动到所述目标入口的预设位置、或者所述判定模块依据所述目标入口的第一信息判定不能够进入所述目标入口的次数达到第一预设阈值时,获取包含所述目标入口的第二图像;
所述第二确定模块,用于根据所述第二获取模块获取的所述第二图像和预先训练获得的神经网络模型确定所述第二图像中的目标入口的第二信息,其中,所述第二信息至少包括所述目标入口与所述移动设备的相对位置信息;
所述控制模块,用于根据所述第二确定模块确定的第二信息控制所述移动设备移动。
在上述方案中,所述装置还包括:
模型训练模块,用于获得多个样本图片以及每个样本图片的标记数据,其中,所述样本图片中包含相同类型的入口,其中,所述标记数据用于标记对应的样本图片中的入口的特征信息;基于所述多个样本图片以及每个样本图片的标记数据进行学习训练,获得神经网络模型。
在上述方案中,所述处理模块包括:拟合模块和投影模块,其中,
所述拟合模块,用于基于所述第一图像中每个像素的三维坐标信息进行平面拟合,获得至少一个拟合平面的信息;
所述投影模块,用于基于所述拟合模块获得的至少一个拟合平面的信息将所述至少一个拟合平面投影至参考面,获得每个拟合平面对应的投影信息;其中,所述参考面与所述至少一个拟合平面垂直;基于所述投影信息获得所述第一图像中对应于所述目标入口的几何结构特征。
在上述方案中,所述拟合模块包括划分模块、第三获取模块和第三确定模块,其中:
所述划分模块,用于将获得的包含所述目标入口的第一图像进行图像分块处理,获得至少一个图像块;
所述第三获取模块,用于对所述划分模块获得的至少一个图像块中的每个像素的三维坐标信息进行平面拟合,获得至少一个初始拟合平面信息;
所述第三确定模块,用于根据第三获得模块获得的至少一个初始拟合平面的信息确定所述至少一个拟合平面的有效性,将确定为有效的初始拟合平面的信息确定为拟合平面的信息。
在上述方案中,所述划分模块,还用于按照相邻图像块之间有交叠像素点划分第一图像;或者按照相邻图像块之间没有交叠像素点划分第一图像。
本发明还提供一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时上述所述方法的任一步骤。
本发明实施例提供一种信息处理装置,包括:处理器和用于存储能够在处理器上运行的计算机程序的存储器,其中,所述处理器用于运行所述计算机程序时,执行上述所述方法的任一步骤。
本发明实施例提供一种信息处理的方法、装置和存储介质,其中,包括:当所述移动设备移动到目标入口的预设位置时,获取包含所述目标入口的第一图像;对所述第一图像进行处理,获得所述目标入口的几何结构特征;基于所述几何结构特征确定所述目标入口的第一信息,依据所述第一信息判定是否能够进入所述目标入口;所述第一信息至少包括所述移动设备相对所述目标入口的方位及所述目标入口的尺寸。本发明实施例,通过获取包含目标入口的第一图像,确定对应于所述目标入口的几何结构特征,能够得到目标入口更准确的几何结构描述,基于此几何结构描述,可得到更精确目标入口参数,进一步,可更准确的判定移动设备能否进入目标入口,为实现移动设备能够高效、安全地进入目标入口提供有效的判断依据。
附图说明
图1为本发明实施例一种信息处理方法的应用场景示意图;
图2为本发明实施例一种信息处理方法流程示意图;
图3为本发明实施例一种对第一图像处理的流程示意图;
图4为本发明实施例一种图像分块处理划分方式示意图;
图5为本发明实施例另一种图像分块处理划分示意图;
图6为本发明实施例目标入口为规则矩形时的图像分块处理示意图;
图7为本发明实施例投影处理的效果示意图;
图8为本发明实施例另一种信息处理方法流程示意图;
图9为本发明实施例再一种信息处理方法流程示意图;
图10为本发明实施例一种神经网络模型的训练流程示意图;
图11为本发明实施例的一种信息处理装置的结构示意图;
图12为本发明实施例的一种信息处理装置中的处理模块的结构示意图;
图13为本发明实施例的一种可选的拟合模块结构示意图;
图14为本发明实施例的另一种信息处理装置的结构示意图;
图15为本发明实施例一种信息处理装置的硬件结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对发明的具体技术方案做进一步详细描述。以下实施例用于说明本发明,但不用来限制本发明的范围。
为了能够更清楚的理解本发明实施例的技术方案,参见图1,其示出本发明实施例一种信息处理方法的应用场景示意图,在该场景中可以包括移动设备10和目标入口11,需要说明的是,所述移动设备10可以为日常生活中能够自动移动的任何设备,例如机器人(如送货机器人、扫地机器人等)。所述目标入口11为受限通行的区域,所述受限通行是指受尺寸的影响不容易通过等,所述目标入口11,例如门、闸机、通道等。在此场景中,假设所述移动设备10接收到任务执行指令,如运输任务指令,此时,在所述移动设备10移动的路径中要通过所述目标入口11。
结合图1所示的应用场景,参见图2,其示出一种信息处理方法流程示意图,应用于移动设备,所述方法包括:
S201,当所述移动设备移动到目标入口的预设位置时,获取包含所述目标入口的第一图像;
S202,对所述第一图像进行处理,获得所述第一图像中对应于所述目标入口的几何结构特征;
S203,基于所述几何结构特征确定所述目标入口的第一信息,其中,所述第一信息至少包括所述移动设备相对所述目标入口的方位及所述目标入口的尺寸;
S204,依据所述第一信息判定是否能够进入所述目标入口。
需要说明的是,所述预设位置可根据移动设备使用的具体应用场景进行设置。可选的一种实施例,所述预设位置为所述移动设备位于所述目标入口满足预设距离的前方,其中,所述预设距离是指所述移动设备到所述目标入口的距离,比如,所述移动设备到所述目标入口的距离为1米。
所述第一图像是指深度图像,其中,所述深度图像(Depth image)也被称为距离影像(Range image),指的是:将图像采集器到场景中各点的距离(也称深度)作为像素值,能够直接反映景物(例如目标入口)可见表面的几何形状,且深度图像经过坐标转换可以计算为点云数据。
在本实施例中,采集第一图像的设备可以为深度相机,由于深度相机在获取第一图像时,会随着移动设备与目标入口的距离增大而精度降低,一般情况下,在使用深度相机获取第一图像时,会将移动设备移动到离目标入口较近的位置,再利用深度相机获取包含待检测目标的第一图像,比如,在移动设备需要进入目标入口时,需要将所述移动设备移动到所述目标入口前方的1米之后,再利用所述移动设备上携带的深度相机获取包含所述目标入口的第一图像。
需要说明的是,本发明实施例中的第一图像获取设备为深度相机,但不局限于使用别的第一图像采集设备,例如双目摄像头。
应理解,将所述移动设备移动到目标入口的预设位置可通过所述移动设备自身的定位模块和导航系统,如全球定位系统(GPS,Global Positioning System),或者,其它任何可进行定位和导航的系统均可。作为一种示例,对于移动设备熟悉的移动场景,基于移动设备的多次移动可绘制路线或者地图,移动设备可基于已绘制的路线或者地图进行导航,使得移动设备移动到目标入口的预设位置。
在本实施例中,当所述移动设备到达预设位置后,所述移动设备利用自身携带的深度相机对所述目标入口进行拍摄,获取包含所述目标入口的第一图像,然后对获取的第一图像进行处理,以获得直观地反映此时深度相机视角下所述目标入口的几何结构特征。基于获得的几何结构特征确定所述目标入口的第一信息,其中,所述第一信息可以至少包括所述移动设备相对所述目标入口的方位及所述目标入口的尺寸。作为一种示例,所述目标入口的尺寸包括目标入口的宽度和/或高度;在获取到第一信息之后,将获得的第一信息与预先存储的可使所述移动设备进入所述目标入口的预设条件进行比较,基于比较结果判定所述移动设备是否能够进入所述目标入口。其中,当所述第一信息与预先存储的可使所述移动设备进入所述目标入口的预设条件匹配一致时,可判定所述移动设备能够进入所述目标入口;当所述第一信息与预先存储的可使所述移动设备进入所述目标入口的预设条件匹配不一致时,可判定所述移动设备不能够进入所述目标入口。
例如,移动设备为清洁机器人,当清洁机器人接收到跨房间清洁任务时,如,到指定房间内清扫,本应用场景下,清洁机器人需要通过指定房间的门之后才能进行清扫任务。则清洁机器人首先基于自身设置的定位和导航系统移动到指定房间门的预设位置,比如清洁机器人移动到距离指定房间门前方1米处;启动深度相机进行拍摄,获取包含指定房间门在内的第一图像;对获得第一图像进行处理,得到此时深度相机视角下指定房间门的几何结构特征,即,提取指定房间门的几何结构特征;再根据获得的几何结构特征确定关于指定房间门的第一信息,所述第一信息例如清洁机器人相对于指定房间门的方位以及指定房间门的尺寸;基于清洁机器人相对于指定房间门的方位及指定房间门的尺寸判断清洁机器人能否进入指定房间。当所述第一信息与预先存储的可使所述清洁机器人进入所述指定房间门的预设条件匹配一致时,可判定所述清洁机器人能够进入所述目标入口;当所述第一信息与预先存储的可使所述清洁机器人进入所述指定房间门的预设条件匹配不一致时,可判定所述清洁机器人不能够进入所述指定房间门。
需要说明的是,所述移动设备相对所述目标入口的方位可用下列方式表述:以所述目标入口与地面的交线的中心点为参考原点,以所述目标入口所在平面作为x面,以地面所在平面作为y面,可以理解,x面垂直于y面;则在y面内以参考原点作为起点确定垂直于目标入口与地面的交线的直线作为参考线,确定移动设备在地面上的位置作为第一位置,连接第一位置和参考原点的直线作为目标线,则目标线与参考线之间的夹角可作为移动设备相对所述目标入口的方位,这个夹角也可称为移动设备相对于目标入口的方位角。当然,上述移动设备相对所述目标入口的方位仅作为一种示意,任何能够表示移动设备与目标入口之间的相对位置关系的限定均在本发明实施例的保护范围之内。
应该理解,所述预设条件可人为输入,也可基于在先判定的能够进入相同类型和尺寸的目标入口或不能进入相同类型和尺寸的目标入口获得的数据确定;且预设条件包含的信息种类不少于第一信息包含的信息种类。
比如,第一信息中包含所述移动设备相对所述目标入口的方位及所述目标入口的尺寸,则预设条件至少包括所述目标入口的尺寸以及所述移动设备相对所述目标入口的方位。其中,所述预设条件中包含的目标入口尺寸是目标入口的真实尺寸,而第一信息中的目标入口尺寸是经第一图像计算的测量值;所述预设条件中所述移动设备相对所述目标入口的方位表示的是所述移动设备能够进入目标入口的方位,而第一信息中所述移动设备相对所述目标入口的方位表示所述移动设备经第一图像测量的当前所述移动设备相对所述目标入口的方位。
其中,所述预设条件中移动设备相对目标入口的方位为移动设备能够进入目标入口时,移动设备相对于目标入口的所有方位角的集合。应该理解,一般情况下,所述集合为一个方位角范围;仅特殊情况下,所述方位角为零,即,移动设备的尺寸略小于所述目标入口尺寸,所述移动设备只有沿参考线移动才可以进出目标入口。此处所述方位角与前述方位角含义相同,不再赘述。
应该理解,所述移动设备中预先存储了对应于入口属性的至少一个预设条件,所述入口属性包括入口类型和型号(或尺寸);所述入口类型至少包括以下至少之一:通道入口、电梯入口、闸机入口、门等等。同类型的入口也可对应不同的型号(或尺寸),基于此,移动设备中预先存储了与入口类型和型号(或尺寸)对应的预设条件。若移动设备仅在一个场景中移动,例如在一个楼宇中移动,该楼宇中的所有入口的类型和型号均相同,则移动设备预先存储对应于入口的类型和型号的一个预设条件即可。
在本实施例中,深度相机虽然使用具有简便性,但由于成像技术的限制,利用深度相机产生的第一图像存在一些缺陷,例如信息缺失,也可以称为空洞;再比如,含有大量的噪声。因此,需要对从深度相机获取的原始的第一图像进行处理。可选的,参见图3,其示出一种对第一图像处理的流程示意图,所述方法包括:
S301,基于所述第一图像中每个像素的三维坐标信息进行平面拟合,获得至少一个拟合平面的信息;
S302,基于所述至少一个拟合平面的信息将所述至少一个拟合平面投影至参考面,获得每个拟合平面对应的投影信息;其中,所述参考面与所述至少一个拟合平面垂直;
S303,基于所述投影信息获得所述第一图像中对应于所述目标入口的几何结构特征。
在本实施例中,对于步骤S301,所述基于所述第一图像中每个像素的三维坐标信息进行平面拟合,获得至少一个拟合平面的信息,包括:
S3011,将获得的包含所述目标入口的第一图像进行图像分块处理,获得至少一个图像块;
S3012,基于所述至少一个图像块中的每个像素的三维坐标信息进行平面拟合,获得至少一个初始拟合平面信息;
S3013,基于所述至少一个初始拟合平面的信息确定所述至少一个拟合平面的有效性,将确定为有效的初始拟合平面的信息确定为拟合平面的信息。
在本实施例中,步骤S3011,所述图像分块处理是指对第一图像按照包含的像素点个数进行分块,且理论上,所有图像块包含的像素点的数量之和应不小于第一图像中包含的像素点的数量,其中,所述像素点的数量是指横向像素点与纵向像素点乘积的总数量,比如,横向像素点为480,纵向像素点为640,则像素点的数量为480*640。
按照上述划分思想,图像分块处理可分为:按照相邻图像块之间有交叠像素点划分第一图像,或者,按照相邻图像块之间没有交叠像素点划分第一图像。
以包含3*3个像素点的第一图像为例详细阐述上述两种图像分块处理。
如图4所示,其示一种图像分块处理划分示意图,按相邻图像块之间有交叠像素点划分第一图像。
可将此第一图像分成2个包含6个像素点的图像块,如图4(a)所示;或者,可将此第一图像分成4个包含6个像素点的图像块,如图4(b)所示;或者,可将此第一图像分成4个包含4个像素点的图像块,如图4(c)所示等。
需要说明的是,按照此种划分方法,每个图像块与相邻图像块之间均有交叠像素点,且与每个相邻图像块之间至少包含一个相同的像素点。
如图5所示,其示另一种图像分块处理划分示意图,按照相邻图像块之间没有交叠像素点划分第一图像。
可将此第一图像分成包含4个像素点的图像块和5个像素点的图像块,如图5(a)所示;或者,可将此第一图像分成包含6个像素点的图像块和3个像素点的图像块,如图5(b)所示;或者,可将此第一图像分成3个包含3个像素点的图像块,如图5(c)所示等。
应理解,按照此种图像分块处理方式相邻图像块之间没有像素点的交叠。
上述图4和图5仅作为一种示意图对第一图像的划分方式进行了说明,对于图像块中包含的像素点数目的选择可根据实际情况人为设置。可选的,按照所述移动设备所处的环境决定图像块的大小(即,图像块包含的像素点数目),其中,所述环境是指在移动设备移动到目标入口前时,所述目标入口前障碍物的情况。一般情况下,当目标入口前障碍物较少时,获得的第一图像所含的噪声较少,可按照较大图像块(如5*5)划分第一图像;当目标入口前的障碍物较多时,获得的第一图像所含的噪声较多,可按照较小图像块(如2*2)划分第一图像。这样设置是因为当障碍物较少时,获得的第一图像中属于目标入口的像素点较多,所含噪声较少,即使将图像块划分的大一些,每块图像块所包含的噪声也较少,不会对图像块的拟合造成太大的影响;而当障碍物较多时,获得的第一图像中属于目标入口的像素点较少,所含噪声较多,若将图像块划分的较大,由于包含噪声的图像块有可能拟合出平面的置信度不高,在后期处理时(如,确定有效拟合平面),像这种拟合平面置信度不高的图像块会被剔除,同时,包含在此种图像块中的目标入口的三维像素点也将被剔除,从而造成较多目标入口的三维像素点被剔除,剩余的目标入口的三维像素点就会减少,那么,此时仅利用剩余的目标入口的三维像素点构成目标入口的几何结构特征,对目标入口的描述不准确,因此,要将图像块划分的小一些,才能保证剩余足够的目标入口的三维像素点,从而,为后续获取更准确的目标入口的几何结构特征提供依据。
举例来说,如图6所示,其示出目标入口为规则矩形时对第一图像的图像分块处理示意图。在此场景中,以地面为参考面,且按照相邻图像块之间没有交叠像素点划分第一图像。图6(a)表示在目标入口前没有障碍物时获得的第一图像中目标入口的三维像素点分布图;图6(b)表示在目标入口前有障碍物时获得的第一图像中目标入口与障碍物的三维像素点分布图;图6(c)表示在目标入口前有更多障碍物时获得的第一图像目标入口与障碍物的三维像素点分布图;以包含5*5个三维像素点的第一图像为例,若将图6(a)、图6(b)及图6(c)均按照15个像素点和10个像素点将第一图像进行划分。如图6(a)所示,由于目标入口为规则的矩形,在理论上,如果目标入口前没有障碍物,那么,获得的包含目标入口的第一图像所包含的所有属于目标入口的三维像素点应该均包含在垂直于地面的一个平面上;两个图像块均可拟合成平面,在后期处理时,可保留所有的目标入口的三维像素点。如图6(b)和图6(c)所示,由于障碍物的遮挡,此时第一图像中一部分目标入口的三维像素点就会被障碍物的三维像素点替代,此时若按照如图6(a)那样的划分方式,进而,进行局部平面拟合,由于图像块中含有障碍物的三维像素点,那么,拟合得到的平面可能会因为置信度达不到要求而被舍弃,那么,此图像块中包含的目标入口的三维像素点也因此被舍弃,则仅基于保留下的目标入口的三维像素点获得目标入口的几何结构特征不能准确的表达目标入口的真实结构。因此,如图6(d)和图6(e)所示,需要将图像块划分的小一些,保证保留足够的目标入口的三维像素点,从而,为后续获取更准确的目标入口的几何结构特征提供依据。
应该理解,移动设备中已经预先设置有障碍物检测算法,可以检测目标入口的障碍物情况,且已经人为设定了障碍物情况与对第一图像的图像划分处理对应关系,可根据实际需要进行选择。
在本实施例中,步骤S3012,所述基于所述至少一个图像块中的每个像素的三维坐标信息进行平面拟合是指基于每个图像块中的每个像素的三维坐标信息对每个图像块单独进行平面拟合,可采用主成分分析(Principal Component Analysis,PCA)对每个图像块进行平面拟合,不局限于此方法。
以上述包含3*3个像素的第一图像为例,首先,将第一图像进行图像分块处理,以按照相邻图像块之间没有交叠像素点的方式划分:所述第一图像可分成包含6个像素点的图像块和3个像素点的图像块。然后,对包含6个像素点的图像块采用PCA进行平面拟合,以及对包含3个像素的图像块也采用PCA进行平面拟合。
在本实施例中,所述获得至少一个初始拟合平面信息,至少包括:获得初始拟合平面的法向量和初始拟合平面的置信度,其中,所述拟合平面的置信度表示通过拟合算法将图像块拟合成一个平面的可靠程度,即,当所述拟合平面的置信度达到预设阈值时,才可认定经拟合算法得到的是一个平面,其中,所述拟合平面的置信度的预设阈值可人为设定,例如,预设阈值为90%,即,拟合平面的置信度达到90%时才确定经拟合算法得到的是一个平面。
在本实施例中,在步骤S3013,所述基于所述至少一个初始拟合平面的信息确定所述至少一个拟合平面的有效性,将确定为有效的初始拟合平面的信息确定为拟合平面的信息,包括:依据每个初始拟合平面的信息判断每个所述初始拟合平面的信息对应的初始拟合平面是否垂直于参考面和判断每个所述初始拟合平面的信息对应的初始拟合平面的置信度是否达到预设阈值;若所述初始拟合平面的信息对应的初始拟合平面垂直于参考面且其置信度达到预设阈值,则所述初始拟合平面的信息对应的拟合平面为有效,将其初始拟合平面信息确定为拟合平面的信息;反之,则为无效。
比如,对第一图像经过分块处理以及PCA平面拟合后,,得到5组拟合平面的信息,则这5组初始拟合平面的信息对应的初始拟合平面是否有效,需要依据每组初始拟合平面的信息判断其对应的初始拟合平面的有效性。
在本实施例中,对于步骤S302,所述基于所述至少一个拟合平面的信息将所述至少一个拟合平面投影至参考面,获得每个拟合平面对应的投影信息;其中,所述参考面与所述至少一个拟合平面垂直,包括:
基于每个拟合平面的信息将其对应的拟合平面投影至参考面,获得每个拟合平面在参考面的投影信息。
应该理解,所述基于每个拟合平面的信息将其对应的拟合平面投影至参考面,获得每个拟合平面在参考面的投影信息是指将垂直于参考面的每个拟合平面均投影至参考面,获得每个拟合平面在参考面的投影信息。在本实施例中,对于步骤S303中,所述投影信息可以是包含目标入口的投影图片;也可以是包含目标入口的投影点的坐标信息,根据实际需要确定具体要获取的信息。
以所述目标入口为规则矩形门为例,详细对第一图像的处理进行说明,在对获取的包含此矩形门的原始第一图像进行处理时,将所述原始第一图像进行划分,比如划分成10块;然后,对这10块图像块均进行平面拟合,并且在拟合后获得拟合的平面的法向量和置信度;然后根据获得的拟合平面的法向量和置信度确定每一个拟合平面的有效性,比如,确定有9块拟合的平面有效;之后,将有效的9块拟合平面投影至地面形成投影信息,其中,这个投影信息中包含矩形门相对于地面的投影,由于是规则的矩形门,则其在地面的投影图片是矩形凹陷。
在本实施例中,对于步骤S303中,所述目标入口的几何结构特征是指图像中目标入口的位置、方向、周长和面积等方面的特征。在得到目标入口的几何结构特征之后,可利用这些参数计算目标入口的第一信息,比如,可利用目标入口几何结构特征中目标入口的周长和面积计算目标入口的宽度。其具体计算过程属于现有技术这里不再赘述。
在本实施例中,对获取的第一图像进行局部平面拟合和投影处理可达到如下效果:
第一,由于在图像块中存在小空洞不会影响图像块的平面性,也就是说,在图像块中存在某些像素点的缺失不会改变拟合平面的置信度和拟合平面的法向量,不会影响最终的结果,换句话说,即使在图像块包含小空洞,如果图像块包含目标入口的三维像素点拟合的平面是有效平面,则也可被保留,不会因为此图像块中含有小空洞而被剔除。因此,第一图像存在的小空洞不会影响对于后续目标入口的尺寸的计算。
第二,本实施例中将第一图像进行图像划分处理,然后对每一块图像块进行平面拟合,保留有效的拟合平面,剔除不符合要求的拟合平面,因此,仅保留了目标入口的三维像素点,剔除了障碍物的三维像素点(也即,剔除噪声),如此,可有效的去除原始第一图像上的噪声的影响。
第三,本实施例中在投影时,由于多个三维像素点对应于一个投影的像素点,那么,即使拟合平面有大片空洞,将其投影至参考面时,空洞也会被垂直于参考面的同一直线上其他三维像素点填补,因此,不会影响投影后的目标入口的形状。举例来说,如图7(a)和图7(b)所示。
第四,由于在局部平面拟合后仅保留了目标入口的三维像素点,基于保留的三维像素点进行投影,得到的投影图片仅包含了目标入口的投影信息,因此,可基于此投影信息得到仅包括目标入口的信息的几何结构特征,从而有效的降低障碍物遮挡带来的影响。
综上所述,在本发明实施例中,对包含有目标入口的第一图像经过的局部平面拟合和投影处理后可获得更为直观地反映此时深度相机视角下所述目标入口表面的几何分布特征,更为真实的反映目标入口的几何形状,为后续的进入目标入口奠定基础。
基于上面方法对所述移动设备能否进入所述目标入口的判定,若所述移动设备能够进入所述目标入口时,所述移动设备就可以直接进入或者通过。
若所述移动设备不能进入所述目标入口时,参见图8,其示出了本发明实施例另一种信息处理方法流程示意图,所述方法还包括:
S801,调整所述移动设备的姿态;重新获取包含所述目标入口的第一图像以进行是否能够进入所述目标入口的判定;直至判定能够进入所述目标入口,或者判定不能够进入所述目标入口的次数达到第一预设阈值。
应理解,虽然目前市面上使用GPS、北斗系统等进行定位导航应用非常广泛,其效果也不错,但其难免受移动设备的机械结构或者环境因素的影响,存在一定的误差,因此,可能难以保证仅通过获取一次第一图像就可以使所述移动设备进入所述目标入口,需要多次对所述移动设备的姿态进行调整之后,重新获取包含所述目标入口的第一图像,直到满足所述移动设备进入所述目标入口的预设条件,此处,所述预设条件与前述的预设条件含义相同,在此不再赘述。或者,考虑到实际应用时,不可能无限制的进行判定是否能够进入所述目标入口,设置有第一预设阈值,其中,所述第一预设阈值可根据用户的需求进行设置,比如,第一预设阈值设置为3,即,当判定所述移动设备不能进行所述目标入口的次数达到3次,就先暂停对所述移动设备进行姿态的调整。
在本实施例中,对所述移动设备的姿态进行调整至少包括调整其相对于目标入口的方位和相对于目标入口的距离,其调整方式可根据实际情况而定。可选的,根据所述第一信息调整移动设备的姿态。
举例来说,当根据所述第一信息判定所述移动设备不能进入所述目标入口时,此时,根据所述第一信息获得所述移动设备当前的位置信息,然后根据当前的位置信息确定与满足所述移动设备进入所述目标入口的预设条件进行比较,基于比较结果调整所述移动设备的姿态。
由于所述移动设备工作的场景大多在室内,而室内环境较为复杂,导致所述移动设备的定位不能保证十分的精准,就会出现所述移动设备不能移动到所述目标入口的预设位置的情况,或者,所述移动设备认为定位已经准确,但依据所述目标入口的第一信息确定不能够进入所述目标入口的次数达到预设阈值时,所述移动设备还是不能进入所述目标入口的情况。
为了保证所述移动设备能够完成任务,在本发明实施例中,在所述移动设备上还设置比深度相机的拍摄视角更大的图像采集设备,比如,鱼眼相机。基于此图像采集设备辅助导航以及作为采用深度相机无法找到或者确认入口的备用方案,参见图9,其示出了本发明实施例再一种信息处理方法流程示意图,当所述移动设备不能移动到所述目标入口的预设位置、或者依据所述目标入口的第一信息确定不能够进入所述目标入口的次数达到第一预设阈值时,所述方法还包括:
S901,获取包含所述目标入口的第二图像;基于所述第二图像和预先训练获得的神经网络模型确定所述第二图像中的目标入口的第二信息,其中,所述第二信息至少包括所述目标入口与所述移动设备的相对位置信息;基于所述第二信息控制所述移动设备移动。
需要说明的是,此处采集所述第二图像使用的图像采集设备比获取第一图像使用的图像采集设备的拍摄视角更大,比如,鱼眼相机。
应理解,所述获取包含所述目标入口的第二图像包括通过所述移动设备进行第二图像的拍摄,并根据拍摄的第二图像进行图像识别,以判断所拍摄的第二图像中是否包含所述目标入口。在此过程中,可以仅通过一次拍摄就能识别到所述目标入口,即获得了包含所述目标入口的第二图像;也可以是通过多次拍摄和识别,才获得含有所述目标入口的第二图像。
需要说明的是,根据实际情况,不可能无限的进行拍摄,以获取包含目标入口的第二图像,因此设置有第二预设阈值,若在达到设定的获取次数上限时,即,获取的第二图像中不包含所述目标入口的次数达到第二预设阈值,所述移动设备就会停止拍摄第二图像,后续是停止任务、或是发出警报寻求人为的帮助或是调整移动设备的姿态,可根据用户的需求或者用户的设计选择。
举例来说,当所述移动设备设定的第二预设阈值,如第二预设阈值为3,若判定获取的第二图像中不包括所述目标入口的次数不到第二预设阈值时,在获取的第二图像中不包含所述目标入口时,可以进行下一次的获取,直至获取的第二图像中包含所述目标入口,应该理解,在每次判定获取的第二图像中不包括所述目标入口时,所述移动设备会调整自身的姿态,进行重新获取;若判定获取的第二图像中不包括所述目标入口的次数达到第二预设阈值时,获得的第二图像中仍然没有所述目标入口,则暂停拍摄。
在本实施例中,所述目标入口与所述移动设备的相对位置信息可以包括所述目标入口相对于所述移动设备的方位以及距离。在得到所述目标入口相对于所述移动设备的方位和距离之后,所述移动设备根据自身存储的场景的地图以及自身携带的定位和导航功能,为所述移动设备规划移动到所述目标入口的路径,以使所述移动设备能够移动到所述目标入口的预设位置。
在本实施例中,参见图10,其示出了本发明实施例一种神经网络模型的训练流程示意图,所述神经网络模型的训练方法包括:
S1001,获得多个样本图片以及每个样本图片的标记数据,其中,所述样本图片中包含相同类型的入口,其中,所述标记数据用于标记对应的样本图片中的入口的特征信息;
S1002,基于所述多个样本图片以及每个样本图片的标记数据进行学习训练,获得神经网络模型。
需要说明的是,为了增加预先训练的神经网络模型的普适性,所述样本图像可来自不同的应用场景。以采集电梯门的样本图片来说,所述样本图片可以包括:同一楼层、不同楼层的电梯门,不同建筑物中的电梯门,不同城市的电梯门等等。实际应用中,作为一种示例,按照入口的类型对样本图片进行分类,针对同一类的样本图片按照神经网络模型进行学习训练,获得该类型的入口对应的神经网络模型;其中,入口的类型可包括电梯入口、通道入口或闸机入口等等。作为另一种示例,按照入口的类型以及入口的尺寸(或者入口的型号,相同型号的入口的尺寸通常是相同的)对样本图片进行分类,针对同一类的样本图片按照神经网络模型进行学习训练,获得该类型的入口对应的神经网络模型。
作为一种实施方式,所述神经网络模型可以是任一种卷积神经网络模型。
本发明实施例提供一种信息处理的方法,通过获得的包含目标入口的第一图像确定目标入口的几何结构特征,能够准确的识别目标入口,基于几何结构特征确定目标入口的信息,基于此信息,能够更准确的判定移动设备是否能够进入目标入口,为实现移动设备能够安全地进出电梯的精准判断,为移动设备高效完成接受的任务提供依据。
基于前述实施例相同的技术构思,参见图11,其示出本发明实施例提供的一种信息处理装置的结构示意图,所述装置包括:第一信息处理单元110,包括:第一获取模块111、处理模块112、第一确定模块113和判定模块114,其中,
所述第一获取模块111,用于当所述移动设备移动到目标入口的预设位置时,获取包含所述目标入口的第一图像;
所述处理模块112,用于对所述第一获取模块111获得的第一图像进行处理,获得所述第一图像中对应于所述目标入口的几何结构特征;
所述第一确定模块113,用于根据所述处理模块112获得的几何结构特征确定所述目标入口的第一信息,其中,所述第一信息至少包括所述目标入口相对于所述移动设备的方位及所述目标入口的尺寸;
所述判定模块114,用于依据所述第一确定模块113确定的第一信息判定是否能够进入所述目标入口。
需要说明的是,此处的预设位置与前面方法中的预设位置含义相同,不在赘述。
在本发明实施例中,可选的一种信息处理装置中的处理模块112的结构示意图,如图12所示,所述处理模块112包括:拟合模块1121和投影模块1122,其中,
所述拟合模块1121,用于基于所述第一图像中每个像素的三维坐标信息进行平面拟合,获得至少一个拟合平面的信息;
所述投影模块1122,用于基于所述拟合模块1121获得的至少一个拟合平面的信息将所述至少一个拟合平面投影至参考面,获得每个拟合平面对应的投影信息;其中,所述参考面与所述至少一个拟合平面垂直;基于所述投影信息获得所述第一图像中对应于所述目标入口的几何结构特征。
在本实施例中,可选的一种所述拟合模块1121的结构示意图,如图13所示,所述拟合模块1121包括:划分模块131、第三获取模块132和第三确定模块133,其中:
所述划分模块131,用于将获得的包含所述目标入口的第一图像进行图像分块处理,获得至少一个图像块;
所述第三获取模块132,用于对所述划分模块131获得的至少一个图像块中的每个像素的三维坐标信息进行平面拟合,获得至少一个初始拟合平面信息;
所述第三确定模块133,用于根据第三获得模块132获得的至少一个初始拟合平面的信息确定所述至少一个拟合平面的有效性,将确定为有效的初始拟合平面的信息确定为拟合平面的信息。
需要说明的是,所述拟合平面的信息、所述参考面以及所述投影信息与上述方法中的含义相同,不再赘述。
当第一信息处理单元110判定所述移动设备能够进入所述目标入口时,所述移动设备就可以直接进入或者通过。
若所述移动设备不能进入所述目标入口时,所述装置还包括:调整模块,用于当所述判定模块114判定不能进入所述目标入口时,调整所述移动设备的姿态;
所述第一获取模块111,还用于重新获取包含所述目标入口的第一图像以使所述判定模块114进行是否能够进入所述目标入口的判定;直至判定能够进入所述目标入口,或者判定不能够进入所述目标入口的次数达到第一预设阈值。
由于所述移动设备工作的场景大多在室内,而室内环境较为复杂,导致所述移动设备的定位不能保证十分的精准,就会出现所述移动设备不能移动到所述目标入口的预设位置的情况,或者,所述移动设备认为定位已经准确,但依据所述目标入口的第一信息确定不能够进入所述目标入口的次数达到第一预设阈值时,所述移动设备还是不能进入所述目标入口的情况。
为了保证所述移动设备能够完成任务,如图14所示,其为另一种信息处理装置的结构示意图,所述装置还包括:第二信息处理单元140,包括:第二获取模块141、第二确定模块142和控制模块143,其中,
所述第二获取模块141,用于当所述移动设备不能移动到所述目标入口的预设位置、或者所述判定模块114依据所述目标入口的第一信息确定不能够进入所述目标入口的次数达到第一预设阈值时,获取包含所述目标入口的图像;
所述第二确定模块142,用于根据所述第二获取模块141获取的所述图像和预先训练获得的神经网络模型确定所述图像中的目标入口的第二信息,其中,所述第二信息至少包括所述目标入口与所述移动设备的相对位置信息;
所述控制模块143,用于根据所述第二确定模块142确定的第二信息控制所述移动设备移动。
应该理解,第一信息处理单元110和第二信息处理单元140启动的先后顺序根据实际情况而定。
一种可选的示例,在所述移动设备自身设定的定位和导航能够输出稳定的导航结果,也就是说,所述移动设备根据自身的定位和导航能够移动到所述目标入口的前方预设位置,则先启动第一信息处理单元110,判定所述移动设备能否进入目标入口,当不能进入的次数达到第一预设阈值时,再启动第二信息处理单元140,获取目标入口更准确的位置信息,以使所述移动设备根据准确的位置信息移动到所述目标入口的前方预设位置,再判断能否进入目标入口,直至能够进入所述目标入口或者判定不能进入所述目标入口的次数达到上限,放弃进入所述目标入口。
另一种可选示例,在所述移动设备自身设定的定位和导航不能移动到所述目标入口的前方预设位置时,此时需要先启动第二信息处理单元140,获取目标入口更准确的位置信息,以使所述移动设备根据准确的位置信息移动到所述目标入口的前方预设位置,再启动第一信息处理单元110,判定所述移动设备能否进入目标入口,直至能够进入所述目标入口或者判定不能进入所述目标入口的次数达到上限,放弃进入所述目标入口。
也就是说,第一信息处理单元110和第二信息处理单元140相互配合使用,以提高对目标入口的检测和进入精度,并且不受限于对简单的入口结构的检测和进入,同时对复杂结构的入口具有泛化能力,保证了移动设备执行任务的高效性。
在本发明实施例中,所述装置还包括:模型训练模块,用于获得多个样本图片以及每个样本图片的标记数据,其中,所述样本图片中包含相同类型的入口,其中,所述标记数据用于标记对应的样本图片中的入口的特征信息;基于所述多个样本图片以及每个样本图片的标记数据进行学习训练,获得神经网络模型。
本实施例提供一种信息处理装置,通过获得的包含目标入口的第一图像确定目标入口的几何结构特征,能够准确的识别目标入口,基于几何结构特征确定目标入口的信息,基于此信息,能够更准确的判定移动设备是否能够进入目标入口,为实现移动设备能够安全地进出电梯的精准判断,为移动设备高效完成接收的任务提供依据。
为了便于理解本发明实施例的技术方案,以下面两种应用场景、以及移动设备为机器人为例进行说明。
第一种场景:机器人可根据自身的定位和导航功能结合该导航地图到达目标入口的预设位置。
在该场景中,以机器人运行在熟悉的环境为例,所谓熟悉的环境是指预先在机器人中已经设置有导航地图,并且机器人存储有该场景内的所有入口的几何配置参数和入口的尺寸等,其中,所述几何配置参数为入口的2-D鸟瞰投影的几何结构描述,如,矩形入口的几何配置参数为矩形凹陷的描述。换句话说,机器人不是首次在该场景运行,涉及到需要进行匹配的模板在机器人中均有存储,如进入某指定入口的条件模板等。则,在此场景中,机器人进入指定入口的具体流程如下:
S1501,接收进入指定入口任务指令;
需要说明的是,所述任务指令不局限于进入指定入口任务指令,可以是任何机器人可以接收的指令。
S1502,基于所述进入指定入口任务指令移动到所述指定入口的预设位置;
应理解,这里的预设位置与前述的预设位置含义相同,不再赘述。
S1503,当所述机器人移动到指定入口的预设位置时,获取包含所述指定入口的第一图像;对所述第一图像进行处理,获得所述第一图像中对应于所述指定入口的几何结构特征;基于所述几何结构特征确定所述指定入口的第一信息,其中,所述第一信息至少包括所述指定入口相对于所述机器人的方位及所述指定入口的尺寸;依据所述第一信息判定是否能够进入所述指定入口;
需要说明的是,此步骤可以看成一个整体,在完成一次步骤S1503,可称为调用一次第一图像检测,用于当所述机器人到达指定入口前的预设位置时,判断是否能够进入所述指定入口。
S1504,若所述机器人能够进入所述指定入口时,所述机器人就可以直接进入指定入口;若所述机器人不能进入所述指定入口时,机器人调整自身的姿态;重新获取包含所述指定入口的第一图像以进行是否能够进入所述指定入口的判定;直至判定能够进入所述指定入口,或者判定不能够进入所述指定入口的次数达到第一预设阈值;
应该理解,根据步骤S1503的判断,若能进入,机器人就直接进入指定入口;若调用一次第一图像检测不能进入,则将机器人的姿态进行调整,重新调用第一图像检测,以判断所述机器人能够进入所述指定入口;直到所述机器人能够进入所述指定入口,或者,调用第一图像检测的次数达到第一预设阈值,也就是说,可以通过多次调用第一图像检测来判断所述机器人能否进入所述指定入口。
S1505,当判定不能够进入所述指定入口的次数达到第一预设阈值时,获取包含所述指定入口的第二图像;基于所述第二图像和预先训练获得的神经网络模型确定所述第二图像中的指定入口的第二信息,其中,所述第二信息至少包括所述指定入口与所述机器人的相对位置信息;基于所述第二信息控制所述机器人移动;
应该理解,此步骤可以看成一个整体,称为调用一次第二图像检测。经过步骤S1504之后,若所述机器人还是不能进入所述指定入口,调用一次第二图像检测,基于检测的结果,控制所述机器人移动,以辅助所述机器人导航,以期到达所述指定入口的预设位置。
S1506,当能够移动到所述指定入口预设位置,则跳转回S1503;当不能获取包含所述指定入口的第二图像,机器人调整自身姿态;重新获取包含所述指定入口的第二图像以进行在所述第二图像中是否包含指定入口的判定;直至判定获取的第二图像中包含所述指定入口,或者判定获取的第二图像中不包含所述指定入口的次数达到第二预设阈值;
S1507,当判定获取的第二图像中不包含所述指定入口的次数达到第二预设阈值时,停止获取第二图像,判定进入指定入口失败。
应该理解,也可以通过多次调用第二图像检测来辅助所述机器人导航。
本实施例中,结合前述装置实施例的描述,调用第一图像检测可以理解为调用第一信息处理单元110,调用第二图像检测可以理解为调用第二信息处理单元140。
需要说明的是,在此应用场景中,通过机器人自身的导航系统,将机器人移动到预设位置,先通过第一图像检测判定机器人是否能够进入指定入口,在通过第一图像检测不能使机器人进入指定入口时,启动第二图像检测,获得更大视角的图像,判断指定入口的准确位置,以使机器人能够移动到指定入口前,配合第一图像检测使用,大大提高对指定入口的检测和进入的效率。
第二种场景:机器人不能根据自身的定位和导航功能达到指定入口的预设位置。
在此种场景中,机器人仍然是运行在熟悉的环境中,所谓熟悉的环境与上述第一场景中定义相同,不再赘述,则,机器人进入指定入口的具体流程如下:
S1601,接收进入指定入口任务指令;
需要说明的是,所述任务指令不局限于进入指定入口任务指令,可以是任何机器人可以接收的指令。
S1602,机器人不能移动到指定入口的预设位置;获取包含所述指定入口的第二图像;基于所述第二图像和预先训练获得的神经网络模型确定所述第二图像中的指定入口的第二信息,其中,所述第二信息至少包括所述指定入口与所述机器人的相对位置信息;基于所述第二信息控制所述机器人移动;
S1603,当机器人能够移动到所述指定入口预设位置,获取包含所述指定入口的第一图像;对所述第一图像进行处理,获得所述第一图像中对应于所述指定入口的几何结构特征;基于所述几何结构特征确定所述指定入口的第一信息,其中,所述第一信息至少包括所述指定入口相对于所述机器人的方位及所述指定入口的尺寸;依据所述第一信息判定是否能够进入所述指定入口;若所述机器人能够进入所述目标入口时,所述机器人就可以直接进入或者通过;若所述机器人不能进入所述指定入口时,机器人调整自身姿态;重新获取包含所述指定入口的第一图像以进行是否能够进入所述指定入口的判定;直至判定能够进入所述指定入口,或者判定不能够进入所述指定入口的次数达到第一预设阈值;
S1604,当机器人不能获取包含所述指定入口的第二图像,机器人调整自身姿态;重新获取包含所述指定入口的图像以进行在所述第二图像中是否包含指定入口的判定;直至判定获取的第二图像中包含所述指定入口,或者判定获取的第二图像中不包含所述指定入口的次数达到第二预设阈值;
S1605,当判定获取的图像中不包含所述指定入口的次数达到第二预设阈值时,停止获取第二图像,判定进入指定入口失败。
需要说明的是,在第一种场景中,从侧面反映了导航的不准确性,而在本场景中,已经预先知道机器人的导航不准确,在此情况下,需要先第二启动图像检测获得指定入口的准确位置,根据获得的准确位置移动机器人到指定入口前的预设位置,然后,在利用第一图像检测判定机器人是否能够进入指定入口。
在本发明实施例中,提供两种应用场景,将第一图像检测和图像检测相互配合使用,克服了图像噪声、虚假角点的干扰,大大提高对指定入口的检测和进入精度,并且不受限于对简单的入口结构的检测和进入,同时对复杂结构的入口具有泛化能力,保证了机器人执行任务的高效性。
上述实施例中提供的信息处理装置在进行信息处理时,仅以上述各程序模块的划分进行举例说明,实际应用中,可以根据需要而将上述处理分配由不同的程序模块完成,即将装置的内部结构划分成不同的程序模块,以完成以上描述的全部或者部分处理。另外,上述实施例提供的信息处理装置与信息处理方法实施例属于同一构思,其具体实现过程详见方法实施例,这里不再赘述。
本发明提供一种计算机可读介质,其上存储有计算机程序,所述计算机程序处理器被处理器执行时实现上述方法实施例的步骤,而前述的存储介质包括:移动存储设备、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
本发明实施例还提供一种信息处理装置,包括:处理器和用于存储能够在处理器上运行的计算机程序的存储器,其中,所述处理器用于运行所述计算机程序时,执行存储在存储器中的上述方法实施例的步骤。
图15是本发明实施例一种信息处理装置的硬件结构示意图,该信息处理装置150包括:至少一个处理器151和存储器152;可选地,所述信息处理装置150还可包括至少一个通信接口153;信息处理装置150中的各个组件可通过总线系统154耦合在一起,可理解,总线系统154用于实现这些组件之间的连接通信。总线系统154除包括数据总线之外,还包括电源总线、控制总线和状态信号总线。但是为了清楚说明起见,在图15中将各种总线都标为总线系统154。
可以理解,存储器152可以是易失性存储器或非易失性存储器,也可包括易失性和非易失性存储器两者。其中,非易失性存储器可以是只读存储器(ROM,Read Only Memory)、可编程只读存储器(PROM,Programmable Read-Only Memory)、可擦除可编程只读存储器(EPROM,Erasable Programmable Read-Only Memory)、电可擦除可编程只读存储器(EEPROM,Electrically Erasable Programmable Read-Only Memory)、磁性随机存取存储器(FRAM,ferromagnetic random access memory)、快闪存储器(Flash Memory)、磁表面存储器、光盘、或只读光盘(CD-ROM,Compact Disc Read-Only Memory);磁表面存储器可以是磁盘存储器或磁带存储器。易失性存储器可以是随机存取存储器(RAM,Random AccessMemory),其用作外部高速缓存。通过示例性但不是限制性说明,许多形式的RAM可用,例如静态随机存取存储器(SRAM,Static Random Access Memory)、同步静态随机存取存储器(SSRAM,Synchronous Static Random Access Memory)、动态随机存取存储器(DRAM,Dynamic Random Access Memory)、同步动态随机存取存储器(SDRAM,SynchronousDynamic Random Access Memory)、双倍数据速率同步动态随机存取存储器(DDRSDRAM,Double Data Rate Synchronous Dynamic Random Access Memory)、增强型同步动态随机存取存储器(ESDRAM,Enhanced Synchronous Dynamic Random Access Memory)、同步连接动态随机存取存储器(SLDRAM,SyncLink Dynamic Random Access Memory)、直接内存总线随机存取存储器(DRRAM,Direct Rambus Random Access Memory)。本发明实施例描述的存储器152旨在包括但不限于这些和任意其它适合类型的存储器。
本发明实施例中的存储器152用于存储各种类型的数据以支持信息处理装置120的操作。这些数据的示例包括:用于在信息处理装置150上操作的任何计算机程序,如判断样本谷物含水率的变化量是否超过预设阈值的程序等,实现本发明实施例方法的程序可以包含在存储器152中。
上述本发明实施例揭示的方法可以应用于处理器151中,或者由处理器151实现。处理器可能是一种集成电路芯片,具有信号的处理能力。在实现过程中,上述方法的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器可以是通用处理器、数字信号处理器(DSP,Digital Signal Processor),或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。处理器可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者任何常规的处理器等。结合本发明实施例所公开的方法的步骤,可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于存储介质中,该存储介质位于存储器,处理器读取存储器中的信息,结合其硬件完成前述方法的步骤。
在示例性实施例中,信息处理装置150可以被一个或多个应用专用集成电路(ASIC,Application Specific Integrated Circuit)、DSP、可编程逻辑器件(PLD,Programmable Logic Device)、复杂可编程逻辑器件(CPLD,Complex Programmable LogicDevice)、现场可编程门阵列(FPGA,Field-Programmable Gate Array)、通用处理器、控制器、微控制器(MCU,Micro Controller Unit)、微处理器(Microprocessor)、或其他电子元件实现,用于执行上述方法。
在本申请所提供的几个实施例中,应该理解到,所揭露的设备和方法,可以通过其它的方式实现。以上所描述的设备实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,如:多个单元或组件可以结合,或可以集成到另一个系统,或一些特征可以忽略,或不执行。另外,所显示或讨论的各组成部分相互之间的耦合、或直接耦合、或通信连接可以是通过一些接口,设备或单元的间接耦合或通信连接,可以是电性的、机械的或其它形式的。
上述作为分离部件说明的单元可以是、或也可以不是物理上分开的,作为单元显示的部件可以是、或也可以不是物理单元,即可以位于一个地方,也可以分布到多个网络单元上;可以根据实际的需要选择其中的部分或全部单元来实现本实施例方案的目的。
另外,在本发明各实施例中的各功能单元可以全部集成在一个处理单元中,也可以是各单元分别单独作为一个单元,也可以两个或两个以上单元集成在一个单元中;上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。
本领域普通技术人员可以理解:实现上述方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成,前述的程序可以存储于一计算机可读取存储介质中,该程序在执行时,执行包括上述方法实施例的步骤;而前述的存储介质包括:移动存储设备、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
或者,本发明上述集成的单元如果以软件功能模块的形式实现并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实施例的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机、服务器、或者网络设备等)执行本发明各个实施例所述方法的全部或部分。而前述的存储介质包括:移动存储设备、ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以所述权利要求的保护范围为准。

Claims (10)

1.一种信息处理方法,应用于移动设备,其特征在于,所述方法包括:
当所述移动设备移动到目标入口的预设位置时,获取包含所述目标入口的第一图像;
对所述第一图像进行处理,获得所述第一图像中对应于所述目标入口的几何结构特征;
基于所述几何结构特征确定所述目标入口的第一信息,其中,所述第一信息至少包括所述目标入口相对于所述移动设备的方位及所述目标入口的尺寸;
依据所述第一信息判定是否能够进入所述目标入口;
所述目标入口的几何结构特征是指图像中目标入口的位置、方向、周长和面积;
所述对所述第一图像进行处理,包括:
基于所述第一图像中每个像素的三维坐标信息进行平面拟合,获得至少一个拟合平面的信息;
基于所述至少一个拟合平面的信息将所述至少一个拟合平面投影至参考面,获得每个拟合平面对应的投影信息;其中,所述参考面与所述至少一个拟合平面垂直;
所述获得所述第一图像中对应于所述目标入口的几何结构特征,包括:
基于所述投影信息获得所述第一图像中对应于所述目标入口的几何结构特征;
所述基于所述第一图像中每个像素的三维坐标信息进行平面拟合,获得至少一个拟合平面的信息,包括:
将获得的包含所述目标入口的第一图像进行图像分块处理,获得至少一个图像块,按照所述移动设备所处的环境决定图像块的大小;
基于所述至少一个图像块中的每个像素的三维坐标信息进行平面拟合,获得至少一个初始拟合平面信息;
基于所述至少一个初始拟合平面的信息确定所述至少一个拟合平面的有效性,将确定为有效的初始拟合平面的信息确定为拟合平面的信息;
所述图像分块处理包括:
按照相邻图像块之间有交叠像素点划分第一图像;或者按照相邻图像块之间没有交叠像素点划分第一图像。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
当判定不能进入所述目标入口时,调整所述移动设备的姿态;重新获取包含所述目标入口的第一图像以进行是否能够进入所述目标入口的判定;直至判定能够进入所述目标入口,或者判定不能够进入所述目标入口的次数达到第一预设阈值。
3.根据权利要求1或2所述的方法,其特征在于,所述方法还包括:
当所述移动设备不能移动到所述目标入口的预设位置、或者依据所述目标入口的第一信息判定不能够进入所述目标入口的次数达到第一预设阈值时,
获取包含所述目标入口的第二图像;
基于所述第二图像和预先训练获得的神经网络模型确定所述第二图像中的目标入口的第二信息,其中,所述第二信息至少包括所述目标入口与所述移动设备的相对位置信息;
基于所述第二信息控制所述移动设备移动。
4.根据权利要求3所述的方法,其特征在于,所述神经网络模型的训练方法包括:
获得多个样本图片以及每个样本图片的标记数据,其中,所述样本图片中包含相同类型的入口,其中,所述标记数据用于标记对应的样本图片中的入口的特征信息;
基于所述多个样本图片以及每个样本图片的标记数据进行学习训练,获得神经网络模型。
5.一种信息处理装置,应用于移动设备,其特征在于,所述装置包括:第一获取模块、处理模块、第一确定模块和判定模块,其中,
所述第一获取模块,用于当所述移动设备移动到目标入口的预设位置时,获取包含所述目标入口的第一图像;
所述处理模块,用于对所述第一获取模块获得的第一图像进行处理,获得所述第一图像中对应于所述目标入口的几何结构特征;
所述第一确定模块,用于根据所述处理模块获得的几何结构特征确定所述目标入口的第一信息,其中,所述第一信息至少包括所述目标入口相对于所述移动设备的方位及所述目标入口的尺寸;
所述判定模块,用于依据所述第一确定模块确定的第一信息判定是否能够进入所述目标入口;
所述目标入口的几何结构特征是指图像中目标入口的位置、方向、周长和面积;
所述处理模块包括:拟合模块和投影模块,其中,
所述拟合模块,用于基于所述第一图像中每个像素的三维坐标信息进行平面拟合,获得至少一个拟合平面的信息;
所述投影模块,用于基于所述拟合模块获得的至少一个拟合平面的信息将所述至少一个拟合平面投影至参考面,获得每个拟合平面对应的投影信息;其中,所述参考面与所述至少一个拟合平面垂直;基于所述投影信息获得所述第一图像中对应于所述目标入口的几何结构特征;
所述拟合模块包括划分模块、第三获取模块和第三确定模块,其中:
所述划分模块,用于将获得的包含所述目标入口的第一图像进行图像分块处理,获得至少一个图像块,按照所述移动设备所处的环境决定图像块的大小;
所述第三获取模块,用于对所述划分模块获得的至少一个图像块中的每个像素的三维坐标信息进行平面拟合,获得至少一个初始拟合平面信息;
所述第三确定模块,用于根据第三获得模块获得的至少一个初始拟合平面的信息确定所述至少一个拟合平面的有效性,将确定为有效的初始拟合平面的信息确定为拟合平面的信息;
所述划分模块,还用于按照相邻图像块之间有交叠像素点划分第一图像;或者按照相邻图像块之间没有交叠像素点划分第一图像。
6.根据权利要求5所述的装置,其特征在于,所述装置还包括:调整模块,用于当所述判定模块判定不能进入所述目标入口时,调整所述移动设备的姿态;
所述第一获取模块,还用于重新获取包含所述目标入口的第一图像以使所述判定模块进行是否能够进入所述目标入口的判定;直至判定能够进入所述目标入口,或者判定不能够进入所述目标入口的次数达到第一预设阈值。
7.根据权利要求5或6所述的装置,其特征在于,所述装置还包括:第二获取模块、第二确定模块和控制模块,其中,
所述第二获取模块,用于当所述移动设备不能移动到所述目标入口的预设位置、或者所述判定模块依据所述目标入口的第一信息判定不能够进入所述目标入口的次数达到第一预设阈值时,获取包含所述目标入口的第二图像;
所述第二确定模块,用于根据所述第二获取模块获取的所述第二图像和预先训练获得的神经网络模型确定所述第二图像中的目标入口的第二信息,其中,所述第二信息至少包括所述目标入口与所述移动设备的相对位置信息;
所述控制模块,用于根据所述第二确定模块确定的第二信息控制所述移动设备移动。
8.根据权利要求7所述的装置,其特征在于,所述装置还包括:
模型训练模块,用于获得多个样本图片以及每个样本图片的标记数据,其中,所述样本图片中包含相同类型的入口,其中,所述标记数据用于标记对应的样本图片中的入口的特征信息;基于所述多个样本图片以及每个样本图片的标记数据进行学习训练,获得神经网络模型。
9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至4任一项所述方法的步骤。
10.一种信息处理装置,其特征在于,包括:处理器和用于存储能够在处理器上运行的计算机程序的存储器,其中,所述处理器用于运行所述计算机程序时,执行权利要求1至4任一项所述方法的步骤。
CN201910156460.6A 2019-03-01 2019-03-01 一种信息处理方法、装置及存储介质 Active CN111639510B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910156460.6A CN111639510B (zh) 2019-03-01 2019-03-01 一种信息处理方法、装置及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910156460.6A CN111639510B (zh) 2019-03-01 2019-03-01 一种信息处理方法、装置及存储介质

Publications (2)

Publication Number Publication Date
CN111639510A CN111639510A (zh) 2020-09-08
CN111639510B true CN111639510B (zh) 2024-03-29

Family

ID=72330496

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910156460.6A Active CN111639510B (zh) 2019-03-01 2019-03-01 一种信息处理方法、装置及存储介质

Country Status (1)

Country Link
CN (1) CN111639510B (zh)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107223261A (zh) * 2016-12-07 2017-09-29 深圳前海达闼云端智能科技有限公司 人机混合决策方法和装置
DE102017104427A1 (de) * 2017-03-02 2018-09-06 RobArt GmbH Verfahren zur Steuerung eines autonomen, mobilen Roboters
CN109086736A (zh) * 2018-08-17 2018-12-25 深圳蓝胖子机器人有限公司 目标获取方法、设备和计算机可读存储介质
WO2019019147A1 (en) * 2017-07-28 2019-01-31 Qualcomm Incorporated SELF-EXPLORATION CONTROL OF A ROBOTIC VEHICLE

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11156464B2 (en) * 2013-03-14 2021-10-26 Trx Systems, Inc. Crowd sourced mapping with robust structural features

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107223261A (zh) * 2016-12-07 2017-09-29 深圳前海达闼云端智能科技有限公司 人机混合决策方法和装置
DE102017104427A1 (de) * 2017-03-02 2018-09-06 RobArt GmbH Verfahren zur Steuerung eines autonomen, mobilen Roboters
WO2019019147A1 (en) * 2017-07-28 2019-01-31 Qualcomm Incorporated SELF-EXPLORATION CONTROL OF A ROBOTIC VEHICLE
CN109086736A (zh) * 2018-08-17 2018-12-25 深圳蓝胖子机器人有限公司 目标获取方法、设备和计算机可读存储介质

Also Published As

Publication number Publication date
CN111639510A (zh) 2020-09-08

Similar Documents

Publication Publication Date Title
US9466107B2 (en) Bundle adjustment based on image capture intervals
CN112050810B (zh) 一种基于计算机视觉的室内定位导航方法及系统
CN110597265A (zh) 一种扫地机器人回充方法和装置
CN110491060B (zh) 一种机器人及其安全监控方法、装置及存储介质
US11200406B2 (en) Customer flow statistical method, apparatus and device
CN113255633B (zh) 基于目标跟踪的摄像头调节控制方法、装置、系统和介质
CN112445204B (zh) 工地中的物体移动导航方法、装置和计算机设备
CN111631642B (zh) 一种基于激光地图的工作区域拓展方法、芯片及机器人
CN111679688A (zh) 一种自走机器人的充电方法、装置、可读介质及电子设备
US11482007B2 (en) Event-based vehicle pose estimation using monochromatic imaging
CN110082739B (zh) 数据同步方法和设备
US20210004978A1 (en) Method for acquiring depth information of target object and movable platform
CN106292656A (zh) 一种环境建模方法及装置
CN111026115A (zh) 一种基于深度学习的机器人避障控制方法及装置
CN114494618A (zh) 地图的生成方法、装置、电子设备及存储介质
CN111105351B (zh) 一种视频序列影像拼接方法及装置
CN115420275A (zh) 回环路径的预测方法及装置、非易失性存储介质、处理器
CN112041634A (zh) 移动机器人的定位方法、构建地图的方法及移动机器人
CN111639510B (zh) 一种信息处理方法、装置及存储介质
KR102383567B1 (ko) 시각 정보 처리 기반의 위치 인식 방법 및 시스템
CN115407355B (zh) 库位地图的验证方法、装置及终端设备
CN115290066A (zh) 一种误差校正方法、装置及移动设备
CN112291701B (zh) 定位验证方法、装置、机器人、外部设备和存储介质
CN115063461A (zh) 一种误差消除方法、装置及电子设备
CN113379850A (zh) 移动机器人控制方法、装置、移动机器人及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant