CN116416518A - 智能避开障碍的方法及装置 - Google Patents

智能避开障碍的方法及装置 Download PDF

Info

Publication number
CN116416518A
CN116416518A CN202111580917.XA CN202111580917A CN116416518A CN 116416518 A CN116416518 A CN 116416518A CN 202111580917 A CN202111580917 A CN 202111580917A CN 116416518 A CN116416518 A CN 116416518A
Authority
CN
China
Prior art keywords
target
information
obstacle
intelligent cleaning
target obstacle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202111580917.XA
Other languages
English (en)
Inventor
陈小平
王云华
杨旭
罗韬
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangdong Lizi Technology Co Ltd
Original Assignee
Guangdong Lizi Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangdong Lizi Technology Co Ltd filed Critical Guangdong Lizi Technology Co Ltd
Priority to CN202111580917.XA priority Critical patent/CN116416518A/zh
Priority to PCT/CN2022/070836 priority patent/WO2023115658A1/zh
Publication of CN116416518A publication Critical patent/CN116416518A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/46Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02EREDUCTION OF GREENHOUSE GAS [GHG] EMISSIONS, RELATED TO ENERGY GENERATION, TRANSMISSION OR DISTRIBUTION
    • Y02E10/00Energy generation through renewable energy sources
    • Y02E10/50Photovoltaic [PV] energy

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)

Abstract

本发明公开了一种智能避开障碍的方法及装置、智能清扫设备,该方法包括:在智能清扫设备移动过程中,确定智能清扫设备的目标移动区域;采集目标移动区域的区域信息;根据区域信息判断目标移动区域是否存在目标障碍物;当判断结果为是时,确定目标障碍物的位置以及其他信息,并根据目标障碍物的位置以及其他信息控制智能清扫设备进行避障,其他信息包括尺寸信息以及类别信息。可见,本发明能够在智能清扫设备行进过程中采集行进路径上的区域信息,智能识别路径上的障碍物,进而实现对障碍物的准确避障,提高了智能清扫设备的清扫效率,同时通过准确识别障碍物的类别,匹配相应的避障策略,进一步提升避障精度,最大限度增加清扫面的覆盖程度。

Description

智能避开障碍的方法及装置
技术领域
本发明涉及智能设备技术领域,尤其涉及一种智能避开障碍的方法及装置、 智能清扫设备。
背景技术
随着人工智能技术的不断发展,人工智能产品逐渐走进人们的生活,为人 们的生活提供诸多便利,例如智能扫地机器人,能够自动清扫区域,为用户减 轻清扫任务。
在实际应用中,智能扫地机器人主要是按照预先设置好的路径或者随机路 径进行清扫。然而,实践发现,现有的智能扫地机器人在清扫过程中遇到障碍 物时经常出现乱撞导致降低了清扫效率,甚至被障碍物挡住无法继续清扫的发 生情况。可见,如何提供一种智能识别障碍物,以提高智能清扫设备的清扫效 率的技术方案显得尤为重要。
发明内容
本发明提供了一种智能避开障碍的方法及装置、智能清扫设备,能够在智 能清扫设备行进过程中采集行进路径上的区域信息,智能识别路径上的障碍物, 进而实现对障碍物的准确避障,提高了智能清扫设备的清扫效率,同时通过准 确识别障碍物的类别,匹配相应的避障策略,进一步提升避障精度,最大限度 增加清扫面的覆盖程度。
为了解决上述技术问题,本发明第一方面公开了一种智能避开障碍的方法, 所述方法包括:
在所述智能清扫设备移动过程中,确定所述智能清扫设备的目标移动区域;
采集所述目标移动区域的区域信息,所述区域信息包括图像信息和/或红外 信息;
根据所述区域信息判断所述目标移动区域是否存在阻碍所述智能清扫设备 移动的目标障碍物;
当判断结果为是时,确定所述目标障碍物的位置以及其他信息,并根据所 述目标障碍物的位置以及所述其他信息控制所述智能清扫设备进行避障,所述 其他信息包括尺寸信息以及类别信息。
作为一种可选的实施方式,在本发明第一方面中,所述确定所述目标障碍 物的位置以及其他信息,包括:
根据所述区域信息确定所述目标障碍物的位置;
确定所述目标障碍物的目标图像集,并基于预设的图像检测模型,对所述 目标图像集进行特征提取,得到所述目标障碍物的特征检测结果,将所述特征 检测结果作为所述目标障碍物的其他信息,所述特征检测结果包括所述目标障 碍物的目标类别信息以及所述目标障碍物的目标尺寸信息;
其中,所述确定所述目标障碍物的目标图像集,包括:
根据所述智能清扫设备的实时位置和所述目标障碍物的位置,判断所述智 能清扫设备与所述目标障碍物之间的距离是否大于等于第一预设距离,当判断 结果为是时,获取所述目标障碍物的第一图像,所述第一图像用于识别所述目 标障碍物的类别信息;
判断所述智能清扫设备与所述目标障碍物之间的距离是否小于所述第一预 设距离且大于等于第二预设距离,当判断结果为是时,获取所述目标障碍物的 第二图像,所述第二图像包括景深信息,用于检测所述目标障碍物的三维尺寸 信息;
将所述第一图像以及所述第二图像确定为所述目标障碍物的目标图像集。
作为一种可选的实施方式,在本发明第一方面中,所述基于预设的图像检 测模型,对所述目标图像集进行特征提取,得到所述目标障碍物的特征检测结 果,包括:
将所述第一图像输入预设的图像检测模型的图像识别分支,对所述第一图 像进行图像识别操作,得到所述第一图像中所述目标障碍物对应的特征向量; 根据所述目标障碍物对应的特征向量,确定所述目标障碍物对应的类别概率集 合;从所述类别概率集合中确定出概率值最高的类别作为所述目标障碍物的目 标类别信息;
根据所述目标障碍物的类别信息,确定所述目标障碍物的初始尺寸模型;
将所述第二图像输入所述图像检测模型的图像检测分支,得到所述第二图 像中所述目标障碍物的景深信息;根据所述景深信息,对所述初始尺寸模型进 行重建,得到所述目标障碍物的目标尺寸信息;
将所述目标障碍物的目标类别信息以及所述目标尺寸信息确定为所述目标 障碍物的特征检测结果。
作为一种可选的实施方式,在本发明第一方面中,所述根据所述景深信息, 对所述初始尺寸模型进行重建,得到所述目标障碍物的目标尺寸信息,包括:
根据所述景深信息,确定所述第二图像中所述目标障碍物对应的所有像素 点的景深特征;
将所有所述像素点的景深特征进行转化操作,确定出所有所述像素点的目 标景深特征以及所述初始尺寸模型中需要重建的目标像素点集合;其中,所述 将所有所述像素点的景深特征进行转化操作,包括:将所有所述像素点的景深 特征映射到所述初始尺寸模型中;
根据所有所述像素点的目标景深特征,对所述目标像素点集合进行重建, 得到所述目标障碍物的目标尺寸信息。
作为一种可选的实施方式,在本发明第一方面中,所述根据所述目标障碍 物的位置以及所述其他信息控制所述智能清扫设备进行避障,包括:
根据所述目标障碍物的特征信息以及预先确定出的地图信息,确定目标避 障路径;
根据所述目标障碍物的目标类别信息,确定与所述目标类别信息相匹配的 避障控制方式;
根据所述目标避障路径以及所述避障控制方式,控制所述智能清扫设备进 行避障;
其中,所述根据所述目标障碍物的目标类别信息,确定与所述目标类别信 息相匹配的避障控制方式,包括:
判断所述目标类别是否属于第一类别,当判断结果为是时,控制所述智能 清扫设备执行自动避障操作,所述第一类别用于表征类别为需要避让且无法进 行清扫的障碍物;
判断所述目标类别信息是否属于第二类别,当判断结果为是时,控制所述 智能清扫设备执行自动避障操作且输出警告信息,所述第二类别用于表征类别 为需要避让、清扫且不属于所述智能清扫设备清扫类别范围的障碍物,所述警 告信息用于提示目标人员需要对所述目标障碍物进行清扫;
判断所述目标类别信息是否属于第三类别,当判断结果为是时,控制所述 智能清扫设备不执行避让操作,所述第三类别用于表征类别为需要清扫且属于 所述智能清扫设备清扫类别范围的障碍物。
作为一种可选的实施方式,在本发明第一方面中,所述根据所述目标障碍 物的特征信息以及预先确定出的地图信息,确定目标避障路径包括:
根据所述目标障碍物的特征信息,更新预先确定出的地图信息以生成目标 地图信息;
根据所述目标障碍物的位置以及所述目标地图信息,确定出所述智能清扫 设备的目标避障路径;
其中,所述根据所述目标障碍物的特征信息,更新预先确定出的地图信息 以生成目标地图信息,包括:
根据所述目标障碍物的特征信息,判断所述目标障碍物是否为移动障碍物;
当判断结果为是时,根据所述目标障碍物的移动方向以及移动速度,确定 出所述目标障碍物的预估移动位置;
根据所述目标障碍物的预估移动位置,对所述预先确定出的地图信息进行 动态更新以生成目标地图信息。
作为一种可选的实施方式,在本发明第一方面中,所述控制所述智能清扫 设备执行自动避障操作,包括:
根据所述目标障碍物的目标尺寸信息,计算所述智能清扫设备的转向距离 信息、转向方向信息以及转向角度信息;
根据所述转向方向信息以及所述转向角度信息,确定目标转向路径;
控制所述智能清扫设备按照所述目标转向路径执行自动避障操作。
作为一种可选的实施方式,在本发明第一方面中,所述根据所述目标障碍 物的目标尺寸信息,计算所述智能清扫设备的转向距离信息、转向方向信息以 及转向角度信息,包括:
根据所述目标障碍物的目标尺寸信息、所述智能清扫设备的顶部位置以及 所述智能清扫设备的底部位置,提取所述目标障碍物的边缘像素序列,所述边 缘像素序列包括所述目标尺寸信息中位于所述智能清扫设备的顶点与所述智能 清扫设备的底点之间绝对高度范围内的所有像素点集合;
计算所述边缘像素序列中每一边缘像素点与所述智能清扫设备之间的水平 距离,得到所有所述边缘像素点对应的水平距离集合;
从所述水平距离集合中筛选出所述水平距离最小的边缘像素点作为目标避 障像素点;
根据所述目标避障像素点,计算所述智能清扫设备的转向距离信息、转向 方向信息以及转向角度信息。
本发明第二方面公开了一种智能避开障碍的装置,所述装置包括:
第一确定模块,用于在所述智能清扫设备移动过程中,确定所述智能清扫 设备的目标移动区域;
采集模块,用于采集所述目标移动区域的区域信息,所述区域信息包括图 像信息和/或红外信息;
判断模块,用于根据所述区域信息判断所述目标移动区域是否存在阻碍所 述智能清扫设备移动的目标障碍物;
第二确定模块,用于当所述判断模块的判断结果为是时,确定所述目标障 碍物的位置以及其他信息;
控制模块,用于根据所述目标障碍物的位置以及所述其他信息控制所述智 能清扫设备进行避障,所述其他信息包括尺寸信息以及类别信息。
作为一种可选的实施方式,在本发明第二方面中,所述第二确定模块,包 括:
第一确定子模块,用于根据所述区域信息确定所述目标障碍物的位置;
第二确定子模块,用于确定所述目标障碍物的目标图像集,并基于预设的 图像检测模型,对所述目标图像集进行特征提取,得到所述目标障碍物的特征 检测结果,将所述特征检测结果作为所述目标障碍物的其他信息,所述特征检 测结果包括所述目标障碍物的目标类别信息以及所述目标障碍物的目标尺寸信 息;
其中,所述第二确定子模块确定所述目标障碍物的目标图像集的具体方式 为:
根据所述智能清扫设备的实时位置和所述目标障碍物的位置,判断所述智 能清扫设备与所述目标障碍物之间的距离是否大于等于第一预设距离,当判断 结果为是时,获取所述目标障碍物的第一图像,所述第一图像用于识别所述目 标障碍物的类别信息;
判断所述智能清扫设备与所述目标障碍物之间的距离是否小于所述第一预 设距离且大于等于第二预设距离,当判断结果为是时,获取所述目标障碍物的 第二图像,所述第二图像包括景深信息,用于检测所述目标障碍物的三维尺寸 信息;
将所述第一图像以及所述第二图像确定为所述目标障碍物的目标图像集。
作为一种可选的实施方式,在本发明第二方面中,所述第二确定子模块基 于预设的图像检测模型,对所述目标图像集进行特征提取,得到所述目标障碍 物的特征检测结果的具体方式为:
将所述第一图像输入预设的图像检测模型的图像识别分支,对所述第一图 像进行图像识别操作,得到所述第一图像中所述目标障碍物对应的特征向量; 根据所述目标障碍物对应的特征向量,确定所述目标障碍物对应的类别概率集 合;从所述类别概率集合中确定出概率值最高的类别作为所述目标障碍物的目 标类别信息;
根据所述目标障碍物的类别信息,确定所述目标障碍物的初始尺寸模型;
将所述第二图像输入所述图像检测模型的图像检测分支,得到所述第二图 像中所述目标障碍物的景深信息;根据所述景深信息,对所述初始尺寸模型进 行重建,得到所述目标障碍物的目标尺寸信息;
将所述目标障碍物的目标类别信息以及所述目标尺寸信息确定为所述目标 障碍物的特征检测结果。
作为一种可选的实施方式,在本发明第二方面中,所述第二确定子模块根 据所述景深信息,对所述初始尺寸模型进行重建,得到所述目标障碍物的目标 尺寸信息的具体方式为:
根据所述景深信息,确定所述第二图像中所述目标障碍物对应的所有像素 点的景深特征;
将所有所述像素点的景深特征进行转化操作,确定出所有所述像素点的目 标景深特征以及所述初始尺寸模型中需要重建的目标像素点集合;其中,所述 将所有所述像素点的景深特征进行转化操作,包括:将所有所述像素点的景深 特征映射到所述初始尺寸模型中;
根据所有所述像素点的目标景深特征,对所述目标像素点集合进行重建, 得到所述目标障碍物的目标尺寸信息。
作为一种可选的实施方式,在本发明第二方面中,所述控制模块,包括:
第三确定子模块,用于根据所述目标障碍物的目标类别信息,确定与所述 目标类别信息相匹配的避障控制方式;
控制子模块,根据所述目标障碍物的位置以及所述避障控制方式,控制所 述智能清扫设备进行避障;
所述控制子模块,具体用于:
判断所述目标类别是否属于第一类别,当判断结果为是时,控制所述智能 清扫设备执行自动避障操作,所述第一类别用于表征类别为需要避让且无法进 行清扫的障碍物;
判断所述目标类别信息是否属于第二类别,当判断结果为是时,控制所述 智能清扫设备执行自动避障操作且输出警告信息,所述第二类别用于表征类别 为需要避让、清扫且不属于所述智能清扫设备清扫类别范围的障碍物,所述警 告信息用于提示目标人员需要对所述目标障碍物进行清扫;
判断所述目标类别信息是否属于第三类别,当判断结果为是时,控制所述 智能清扫设备不执行避让操作,所述第三类别用于表征类别为需要清扫且属于 所述智能清扫设备清扫类别范围的障碍物。
作为一种可选的实施方式,在本发明第二方面中,所述控制子模块控制所 述智能清扫设备执行自动避障操作的具体方式为:
根据所述目标障碍物的目标尺寸信息,计算所述智能清扫设备的转向距离 信息、转向方向信息以及转向角度信息;
根据所述转向方向信息以及所述转向角度信息,确定目标转向路径;
控制所述智能清扫设备按照所述目标转向路径执行自动避障操作。
作为一种可选的实施方式,在本发明第二方面中,所述控制子模块根据所 述目标障碍物的目标尺寸信息,计算所述智能清扫设备的转向距离信息、转向 方向信息以及转向角度信息的具体方式为:
根据所述目标障碍物的目标尺寸信息、所述智能清扫设备的顶部位置以及 所述智能清扫设备的底部位置,提取所述目标障碍物的边缘像素序列,所述边 缘像素序列包括所述目标尺寸信息中位于所述智能清扫设备的顶点与所述智能 清扫设备的底点之间绝对高度范围内的所有像素点集合;
计算所述边缘像素序列中每一边缘像素点与所述智能清扫设备之间的水平 距离,得到所有所述边缘像素点对应的水平距离集合;
从所述水平距离集合中筛选出所述水平距离最小的边缘像素点作为目标避 障像素点;
根据所述目标避障像素点,计算所述智能清扫设备的转向距离信息、转向 方向信息以及转向角度信息。
本发明第三方面公开了一种智能清扫设备,所述智能清扫设备包括:
存储有可执行程序代码的存储器;
与所述存储器耦合的处理器;
所述处理器调用所述存储器中存储的所述可执行程序代码,以实现本发明 第一方面公开的任意一种智能避开障碍的方法中的部分或全部步骤。
本发明第四方面公开了另一种智能避开障碍的装置,所述装置包括:
存储有可执行程序代码的存储器;
与所述存储器耦合的处理器;
所述处理器调用所述存储器中存储的所述可执行程序代码,执行本发明第 一方面公开的任意一种智能避开障碍的方法中的部分或全部步骤。
本发明第五方面公开了一种计算机存储介质,所述计算机存储介质存储有 计算机指令,所述计算机指令被调用时,用于执行本发明第一方面公开的任意 一种智能避开障碍的方法中的部分或全部步骤。
与现有技术相比,本发明具有以下有益效果:
本发明公开了一种智能避开障碍的方法及装置、智能清扫设备,该方法包 括:在智能清扫设备移动过程中,确定智能清扫设备的目标移动区域;采集目 标移动区域的区域信息;根据区域信息判断目标移动区域是否存在目标障碍物; 当判断结果为是时,确定目标障碍物的位置以及其他信息,并根据目标障碍物 的位置以及其他信息控制智能清扫设备进行避障,其他信息包括尺寸信息以及 类别信息。可见,本发明能够在智能清扫设备行进过程中采集行进路径上的区 域信息,智能识别路径上的障碍物,进而实现对障碍物的准确避障,提高了智 能清扫设备的清扫效率,同时通过准确识别障碍物的类别,匹配相应的避障策 略,进一步提升避障精度,最大限度增加清扫面的覆盖程度。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所 需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明 的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下, 还可以根据这些附图获得其他的附图。
图1是本发明实施例公开的一种智能避开障碍的方法的流程示意图;
图2是本发明实施例公开的一种智能避开障碍的装置的结构示意图;
图3是本发明实施例公开的另一种智能避开障碍的装置的结构示意图;
图4是本发明实施例公开的又一种智能避开障碍的装置的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案,下面将结合本发明实施 例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所 描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明 中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有 其他实施例,都属于本发明保护的范围。
本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于 区别不同对象,而不是用于描述特定顺序。此外,术语“包括”和“具有”以及它们 任何变形,意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、 方法、装置、产品或端没有限定于已列出的步骤或单元,而是可选地还包括没 有列出的步骤或单元,或可选地还包括对于这些过程、方法、产品或端固有的 其他步骤或单元。
在本文中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可 以包含在本发明的至少一个实施例中。在说明书中的各个位置出现该短语并不 一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。 本领域技术人员显式地和隐式地理解的是,本文所描述的实施例可以与其它实 施例相结合。
本发明公开了一种智能避开障碍的方法及装置、智能清扫设备,能够在智 能清扫设备行进过程中采集行进路径上的区域信息,如图像信息和/或红外信息, 智能识别路径上的障碍物,进而实现对障碍物的准确避障,提高了智能清扫设 备的清扫效率,同时通过准确识别障碍物的类别,匹配相应的避障策略,满足 不同的清洁需求,进一步提升避障精度,最大限度增加清扫面的覆盖程度。以 下分别进行详细的说明。
实施例一
请参阅图1,图1是本发明实施例公开的一种智能避开障碍的方法的流程示 意图。其中,图1所描述的方法可以应用于智能避开障碍的自动控制装置中, 该智能避开障碍的自动控制装置可以包括智能清扫设备或智能清扫设备对应的 服务器,其中智能清扫设备可以与用户终端和/或当前区域的其他智能设备(如: 智能显示屏、智能图像采集设备等)进行通信连接,其中,用户终端包括但不 限于智能穿戴设备(如智能手环等)和/或智能手机(Android手机、iOS手机等), 本发明实施例不做限定。如图1所示,该智能避开障碍的方法可以包括以下操 作:
101、在智能清扫设备移动过程中,确定智能清扫设备的目标移动区域。
本发明实施例中,智能清扫设备的目标移动区域可以是在清扫过程中或者 巡航过程中,根据预设的移动规则或巡航规则确定出的行进区域,比如,智能 清扫设备按照预设回形针式的路径对房间的地图进行巡航扫描,则其前进方向 所对应的区域即为上述目标移动区域;也可以是根据从移动终端获取到的清扫 区域范围而解析出来的目标移动区域,比如,用户在手机APP中的虚拟地图中 划定出需要清扫的区域后,将该区域范围发送给智能清扫设备,智能清扫设备 根据接收到的区域范围可以确定出该区域范围所对应的目标移动区域;还可以 是通过图像或者语音指令而解析出来的目标移动区域,比如,用户发送“扫地 机器人,请把餐桌周围打扫一下”的语音指令,则智能清扫设备可以根据预设 清扫范围,确定餐桌周围0.5m范围内的区域作为其目标移动区域。
102、采集目标移动区域的区域信息。
本发明实施例中,在确定出智能清扫设备的目标移动区域之后,需要采集 目标移动区域的区域信息,包括视觉识别类的信息,距离测量类的信息,比如, 图像信息、红外信息、超声回馈信息等中的一种或多种组合。本发明可以通过 智能清扫设备自身安装的采集装置获取,比如单目摄像头、双目摄像头、红外 感应器、超声波感应器等,也可以是通过接收可与智能清扫设备进行通信的其 他智能采集设备发送的信息中获取,比如房间中的智能摄像头将拍摄到的图像 发送至智能清扫设备等,本发明实施例不做限定。
103、根据区域信息判断目标移动区域是否存在阻碍智能清扫设备移动的目 标障碍物。
本发明实施例中,通过步骤102所采集到的区域信息,可以对目标移动区 域中是否存在阻碍智能清扫设备移动的障碍物作出初步判断,比如,通过对图 像信息进行物体识别,将识别到的物体与数据库中的障碍物进行匹配,若匹配 成功,则可以判断出目标移动区域存在阻碍智能清扫设备移动的目标障碍物。
104、当判断结果为是时,确定目标障碍物的位置以及其他信息。
本发明实施例中,当判断出目标移动区域存在阻碍智能清扫设备移动的目 标障碍物之后,确定出目标障碍物的位置以及其他信息,以对智能清扫设备进 行避障控制。其中,其他信息包括目标障碍物的类别信息(床、餐桌、书桌、 水杯、垃圾袋、橘子皮等)以及尺寸信息(二维尺寸信息、三维尺寸信息等)。
105、根据目标障碍物的位置以及其他信息控制智能清扫设备进行避障。
本发明实施例中,在智能清扫设备的行进过程中,根据其实时位置、目标 障碍物的位置信息以及其他信息,计算行进过程中的避障点,保持动态探测和 路线规划,进而控制转向电机和行进电机进行调整,以控制智能清扫设备进行 避障。
可见,本发明实施例所描述的方法能够在智能清扫设备行进过程中采集行 进路径上的区域信息,如图像信息和/或红外信息,智能识别路径上的障碍物, 进而实现对障碍物的准确避障,提高了智能清扫设备的清扫效率,同时通过准 确识别障碍物的类别,匹配相应的避障策略,满足不同的清洁需求,进一步提 升避障精度,最大限度增加清扫面的覆盖程度。
在一个可选的实施例中,确定目标障碍物的位置以及其他信息,包括:
根据区域信息确定目标障碍物的位置;
确定目标障碍物的目标图像集,并基于预设的图像检测模型,对目标图像 集进行特征提取,得到目标障碍物的特征检测结果,将特征检测结果作为目标 障碍物的其他信息,特征检测结果包括目标障碍物的目标类别信息以及目标障 碍物的目标尺寸信息;
其中,确定目标障碍物的目标图像集,包括:
根据智能清扫设备的实时位置和目标障碍物的位置,判断智能清扫设备与 目标障碍物之间的距离是否大于等于第一预设距离,当判断结果为是时,获取 目标障碍物的第一图像,第一图像用于识别目标障碍物的类别信息;
判断智能清扫设备与目标障碍物之间的距离是否小于第一预设距离且大于 等于第二预设距离,当判断结果为是时,获取目标障碍物的第二图像,第二图 像包括景深信息,用于检测目标障碍物的三维尺寸信息;
将第一图像以及所述第二图像确定为目标障碍物的目标图像集。
本发明实施例中,根据采集到的目标移动区域的区域信息,可以确定出目 标障碍物的位置。举例说明,智能清扫设备在移动过程中不断发射红外信号或 者超声信号,通过实时接收到目标障碍物反馈回来的红外信号或者超声信号, 即可测算出其与目标障碍物之间的距离,进而得到目标障碍物的位置。与此同 时,智能清扫设备可以采集目标障碍物的目标图像集,并通过预先训练好的图 像检测模型,对目标图像集中的图像进行特征提取,以得到目标障碍物的特征 检测结果。其中,目标图像集可以包括一张待检测图像,也可以包括多张待检 测图像,本发明实施例不做限定。需要说明的是,特征检测结果即为上述的其 他信息,特征检测结果可以包括目标障碍物的目标类别信息以及目标尺寸信息。
该可选的实施例中,智能清扫设备行进过程中,根据智能清扫设备的实时 位置以及目标障碍物的位置,采集两张目标障碍物的图像作为目标图像集。其 中,考虑到当智能清扫设备距离目标障碍物较远时,采集图像的视野较大,对 目标障碍物的整体识别度较好,所以在判断智能清扫设备与目标障碍物之间的 距离大于等于第一预设距离(比如0.5m处)时,采集一张用于识别目标障碍物 类别的图像。此时采集到的图像的分辨率可以是低分辨率的,降低智能清扫设 备的算力占比,便于快速识别类别信息。需要说明的是,本发明并不限定第一 预设距离是固定不变的,第一预设距离可以根据图像视野中目标障碍物的大小 做调整,比如目标障碍物在整个图像中的占比接近70%时,设置第一预设距离 为0.7m;目标障碍物在整个图像中的占比接近50%时,设置第一预设距离为 0.5m。相应的,考虑到智能清扫设备距离目标障碍物较近时,采集到的图像的 细节更为清晰、准确,所以在判断智能清扫设备与目标障碍物之间的距离小于 第一预设距离且大于等于第二预设距离时,采集一张用于检测目标障碍物三维 尺寸信息的图像,且该图像中应当包括景深信息。比如,当智能清扫设备距离 目标障碍物为0.2m时,通过3D ToF摄像头拍摄得到包括景深信息的图像,与 此同时,智能清扫设备上还可以设置有云台,控制3D ToF摄像头进行上下俯仰 扫描,得到更精准的图像。
可见,本发明实施例所描述的方法能够通过较远距离采集到的第一图像来 快速识别目标障碍物的类别,通过较近距离采集到的第二图像来测算目标障碍 物的尺寸信息,有利于提高目标障碍物的识别和检测效率,提升智能清扫设备 的清扫效率。
在另一个可选的实施例中,基于预设的图像检测模型,对目标图像集进行 特征提取,得到目标障碍物的特征检测结果,包括:
将第一图像输入预设的图像检测模型的图像识别分支,对第一图像进行图 像识别操作,得到第一图像中目标障碍物对应的特征向量;根据目标障碍物对 应的特征向量,确定目标障碍物对应的类别概率集合;从类别概率集合中确定 出概率值最高的类别作为目标障碍物的目标类别信息;
根据目标障碍物的类别信息,确定目标障碍物的初始尺寸模型;
将第二图像输入图像检测模型的图像检测分支,得到第二图像中目标障碍 物的景深信息;根据景深信息,对初始尺寸模型进行重建,得到目标障碍物的 目标尺寸信息;
将目标障碍物的目标类别信息以及目标尺寸信息确定为目标障碍物的特征 检测结果。
本发明实施例中,图像检测模型是基于正向样本训练得到的深度神经网络 模型,将第一图像输入图像检测模型的图像识别分支,通过卷积、池化、激活 层以及全连接层的处理,可以得到第一图像对应特征向量。将该特征向量与预 设数据库中各个类别参考障碍物图像的参考特征向量进行相似度匹配,得到目 标障碍物对应于各个类别参考障碍物的类别概率集合,从该类别概率集合中筛 选出概率值最高的类别作为目标障碍物的目标类别信息。进而,可以根据目标 障碍物的类别信息,从预设尺寸模型数据库中确定出目标障碍物的初始尺寸模 型。举例说明,当检测到目标障碍物是篮球,则可以从预设尺寸模型数据库中 查找到与篮球相匹配的模型为球形。
该可选的实施例中,将第二图像输入图像检测模型的图像检测分支,通过 图像检测分支的解析,可以得到第二图像中每一像素点的景深信息,进而根据 景深信息所反应出来的智能清扫设备与目标障碍物之间的距离信息,对上述确 定出的初始尺寸模型进行重建,既可以得到目标障碍物的目标尺寸信息。比如, 检测到的目标障碍物是篮球,此时可以通过景深信息计算出该篮球的圆周为 75cm,直径为24.6cm。
本发明实施例所描述的方法能够通过较远距离采集到的第一图像来快速识 别目标障碍物的类别,准确识别类别的同时降低算力消耗,通过较近距离采集 到的第二图像来测算目标障碍物的尺寸信息,精准识别三维尺寸细节,有利于 提高目标障碍物的识别和检测效率,进一步提升智能清扫设备的避障的准确率, 同时提高智能清扫设备的清扫效率。
在又一个可选的实施例中,根据景深信息,对初始尺寸模型进行重建,得 到目标障碍物的目标尺寸信息,包括:
根据景深信息,确定第二图像中目标障碍物对应的所有像素点的景深特征;
将所有所述像素点的景深特征进行转化操作,确定出所有像素点的目标景 深特征以及所述初始尺寸模型中需要重建的目标像素点集合;其中,所述将所 有所述像素点的景深特征进行转化操作,包括:将所有所述像素点的景深特征 映射到初始尺寸模型中;
根据所有像素点的目标景深特征,对所述目标像素点集合进行重建,得到 所述目标障碍物的目标尺寸信息。
本发明实施例中,因为受限于智能清扫设备的拍摄距离或者视野,可能无 法完整拍摄到目标障碍物的完整的图像,则需要根据景深信息对初始尺寸模型 进场重建,以得到目标障碍物的更精准的尺寸信息。通过第二图像的景深信息, 可以得到第二图像中目标障碍物所对应图像区域中所有像素点的景深特征,假 如识别到的目标障碍物为篮球,则只提取第二图像中篮球所对应的图像区域的 景深特征。根据这些景深特征所反映出来的尺寸信息,确定出初始尺寸模型中 需要重建的目标像素点集合。举例说明,智能清扫设备扫描的景深信息只包含 整个篮球的1/4球面,则相对应的,初始尺寸模型中对应的1/4球面位置处的像 素点即为需要重建的目标像素点。可以将这些景深特征映射到上述确定出的初 始尺寸模型中,对这些需要重建的目标像素点的构成的图像模型的尺寸进行重 建,以得到目标障碍物的目标尺寸信息。
可见,本发明实施例所描述的方法能够通过景深信息对目标障碍物的尺寸 模型进行重构,以得到目标障碍物的精准的目测尺寸信息,提高智能清扫设备 对障碍物的测算精度和准确度,有利于提升智能清扫设备的避障精度和准确度, 进一步提高智能清扫设备的清扫效率。
在又一个可选的实施例中,根据目标障碍物的位置以及其他信息控制智能 清扫设备进行避障,包括:
根据目标障碍物的特征信息以及预先确定出的地图信息,确定目标避障路 径;
根据目标障碍物的目标类别信息,确定与目标类别信息相匹配的避障控制 方式;
根据目标避障路径以及避障控制方式,控制智能清扫设备进行避障;
其中,根据目标障碍物的目标类别信息,确定与目标类别信息相匹配的避 障控制方式,包括:
判断目标类别是否属于第一类别,当判断结果为是时,控制智能清扫设备 执行自动避障操作,第一类别用于表征类别为需要避让且无法进行清扫的障碍 物;
判断目标类别信息是否属于第二类别,当判断结果为是时,控制智能清扫 设备执行自动避障操作且输出警告信息,第二类别用于表征类别为需要避让、 清扫且不属于智能清扫设备清扫类别范围的障碍物,警告信息用于提示目标人 员需要对目标障碍物进行清扫;
判断目标类别信息是否属于第三类别,当判断结果为是时,控制智能清扫 设备不执行避让操作,第三类别用于表征类别为需要清扫且属于智能清扫设备 清扫类别范围的障碍物。
本发明实施例中,首先将智能清扫设备获取到的目标障碍物的特征信息(比 如,位置信息、类别信息、尺寸信息等)与获取到的地图数据信息进行信息融 合,得到融合之后的地图数据信息,进而可以根据融合之后的地图数据信息, 生成智能清扫设备的目标避障路径。通过目标障碍物的目标类别信息,可以从 预置的避障控制方式中确定出与目标类别信息相匹配的控制方式,实现对不同 的目标障碍物实施不同的避障控制。其中,本发明提供了三种方案,将智能清 扫设备需要避让且无法进行清扫的障碍物作为第一类别,比如鞋柜、床等物品; 将智能清扫设备需要避让、清扫且不属于智能清扫设备清扫类别范围的障碍物 作为第二类别,比如,拖鞋、儿童玩具、线团、动物粪便等物品;将智能清扫 设备需要清扫且属于智能清扫设备清扫类别范围的障碍物作为第三类别,比如 纸屑、毛发等物品。对目标障碍物进行分类之后,如果判断为第一类别的物品, 则控制智能清扫设备执行自动避障操作;如果判断为第二类别的物品,则控制 智能清扫设备执行自动避障操作的同时输出警告信息,用以提示用户检测到的 物品是需要人为进行清扫的。需要说明的是,输出警告信息的方式可以是产生 警告语音提示、也可以是将该物品的信息(类别信息、位置信息等)发送至其 他智能设备(智能手机、智能显示大屏等)来提醒用户,本发明实施例不做限定;如果判断为第三类类别的物品,则不执行避让操作,直接跨越该物品进行 清扫。
可见,本发明实施例所描述的方法通过检测到的目标障碍物的不同类别来 匹配不同的避障策略,极大增强智能清扫设备的智能化水平,提升对智能清扫 设备的精细化控制程度,解决了因避障缺乏策略导致的清洁面覆盖不足的问题, 进一步提高提高智能清扫设备的清扫质量和清扫效率。
在又一个可选的实施例中,根据目标障碍物的特征信息以及预先确定出的 地图信息,确定目标避障路径,包括:
根据目标障碍物的特征信息,更新预先确定出的地图信息以生成目标地图 信息;
根据目标障碍物的位置以及目标地图信息,确定出智能清扫设备的目标避 障路径;
其中,根据目标障碍物的特征信息,更新预先确定出的地图信息以生成目 标地图信息,包括:
根据目标障碍物的特征信息,判断目标障碍物是否为移动障碍物;
当判断结果为是时,根据目标障碍物的移动方向以及移动速度,确定出目 标障碍物的预估移动位置;
根据目标障碍物的预估移动位置,对预先确定出的地图信息进行动态更新 以生成目标地图信息。
本发明实施例中,需要说明的是,目标避障路径可以是全局避障路径(比 如,用户选定的目标区域为整个房间,则生成整个房间的避障路径即为全局区 域避障路径),也可以是局部避障路径(比如,用户指定的目标区域为餐桌周 边区域,则生成餐桌周边区域范围内的避障路径即为局部避障路径),对此本 发明实施例不做限定。根据目标障碍物的特征信息,比如,尺寸信息,对该尺 寸信息进行坐标和比例转化的方式,得到目标障碍物在预先确定出的地图上的 对应坐标和尺寸,进而可以将目标障碍物与地图信息进行融合,得到融合之后 的地图信息,也即上述目标地图信息。进一步的,还可以通过目标障碍物的类 别信息等,判断是否需要对目标地图信息进行实时更新。举例说明,当判断出 目标障碍物为小狗时,其属于移动障碍物,可以根据监测到的小狗的移动速度 和移动方向,计算出小狗的预估移动位置,同时根据该预估移动位置与预先确 定出的地图信息进行动态更新,动态生成实时目标地图信息。进而,可以根据 目标地图信息中的已有障碍物的位置以及目标障碍物的位置,规划出智能清扫 设备的目标避障路径。
可见,本发明实施例所描述的方法能够通过目标障碍物的特征信息,在匹 配不同的控制方式的同时,将目标障碍物的特征信息与获取到的地图数据信息 融合,以用于全局路径规划或者局部路径规划,提高了路径规划的和追踪的效 率,进一步提高智能清扫设备的智能化避障水平和避障效率。
在又一个可选的实施例中,控制智能清扫设备执行自动避障操作,包括:
根据目标障碍物的目标尺寸信息,计算智能清扫设备的转向距离信息、转 向方向信息以及转向角度信息;
根据转向距离信息、转向方向信息以及转向角度信息,确定目标转向路径;
控制智能清扫设备按照目标转向路径执行自动避障操作。
本发明实施例中,根据目标障碍物的目标尺寸信息以及智能清扫设备的位 置,将目标障碍物相对于智能清扫设备正前方的最短距离确定为转向距离信息, 同时根据目标障碍物的目标尺寸信息,判断目标障碍物的左右两侧是否可供智 能清扫设备转向避障,以确定转向方向信息以及转向角度信息。在确定出转向 距离信息、转向方向信息以及转向角度信息之后,根据这些信息规划目标转向 路径,从而控制智能清扫设备以规划的目标转向路径执行自动避障操作。
进一步的,还可以根据检测到的目标障碍物的类别信息,来对转向距离信 息进行修正,对于上述第一类别的物品,尽可能在距离目标障碍物较近的地方 再进行转向避障,对于上述第二类别物品,尽可能在距离目标障碍物较远的地 方进行转向避障。比如,如果检测的目标障碍物为床,则可以在避免碰撞的前 提下,为了实现更好的清扫效果和更大的清扫面积,可以在距离床边缘3cm处 进行避障;如果检测的目标障碍物为线团,为了避免线团缠绕智能清扫设备, 可以在距离线团边缘10cm处进行避障。
可见,本发明实施例所描述的方法能够通过目标障碍物的目标尺寸信息确 定出精准的转向距离信息、转向方向信息以及转向角度信息,提升确定目标转 向路径的精准度,进而提高智能清扫设备的避障效率和准确度,进一步提高提 高智能清扫设备的清扫质量和清扫效率。
在又一个可选的实施例中,根据目标障碍物的目标尺寸信息,计算智能清 扫设备的转向距离信息、转向方向信息以及转向角度信息,包括:
根据目标障碍物的目标尺寸信息、智能清扫设备的顶部位置以及智能清扫 设备的底部位置,提取目标障碍物的边缘像素序列,边缘像素序列包括目标尺 寸信息中位于智能清扫设备的顶点与智能清扫设备的底点之间绝对高度范围内 的所有像素点集合;
计算边缘像素序列中每一边缘像素点与智能清扫设备之间的水平距离,得 到所有边缘像素点对应的水平距离集合;
从水平距离集合中筛选出水平距离最小的边缘像素点作为目标避障像素 点;
根据目标避障像素点,计算智能清扫设备的转向距离信息、转向方向信息 以及转向角度信息。
本发明实施例中,根据目标障碍物的目标尺寸信息、智能清扫设备的顶部 位置以及智能清扫设备的底部位置,提取目标障碍物的边缘像素序列,其中提 取的边缘像素序列包括目标尺寸信息中位于智能清扫设备的顶点与智能清扫设 备的底点之间绝对高度范围内的所有像素点集合。举例说明,智能清扫设备的 顶点与智能清扫设备的底点之间绝对高度范围为10cm,则以智能清扫设备的底 点作为水平位置的最低点,从该位置开始截取目标尺寸信息中高度范围在10cm 以内的所有像素点作为目标障碍物的边缘像素序列。从每一边缘像素点与智能 清扫设备之间的水平距离组成的水平距离集合中筛选出水平距离最小的边缘像 素点作为目标避障像素点。进而,根据该目标像素点计算转向距离信息、转向 方向信息以及转向角度信息。
进一步的,在智能清扫设备沿目标障碍物的边缘行进避障过程中,可以根 据转向方向和转向角度,将目标转向路径划分为多个转向路径节点,在智能清 扫设备每行进至一个转向路径节点时,重新触发执行根据所述目标障碍物的目 标尺寸信息,计算所述智能清扫设备的转向距离信息、转向方向信息以及转向 角度信息的操作,以在行进过程中保持动态勘测和路径规划,达到动态修正目 标转向路径的目的。
可见,本发明实施例所描述的方法能够通过提取边缘像素序列的方式,节 约智能清扫设备计算目标避障点的算力,提高测算目标避障点的精度和准确度, 提升智能清扫设备快速测算低矮空间等缝隙,避免物体底部磕碰损伤,进而提 高智能清扫设备的避障效率和准确度,进一步提高提高智能清扫设备的清扫质 量和清扫效率。
实施例二
请参阅图2,图2是本发明实施例公开的一种智能避开障碍的装置的结构示 意图。其中,该智能避开障碍的装置可以包括智能清扫设备或智能清扫设备对 应的服务器,其中智能清扫设备可以与用户终端和/或当前区域的其他智能设备 (如:智能显示屏、智能图像采集设备等)进行通信连接,其中,用户终端包 括但不限于智能穿戴设备(如智能手环等)和/或智能手机(Android手机、iOS 手机等),本发明实施例不做限定。需要说明的是,该智能避开障碍的装置参 照的是实施例一所描述的一种智能避开障碍的方法中的步骤,详细的描述在本 实施例中就不做赘述,如图2所示,该智能避开障碍的装置可以包括:
第一确定模块201,用于在智能清扫设备移动过程中,确定智能清扫设备的 目标移动区域;
采集模块202,用于采集目标移动区域的区域信息,区域信息包括图像信息 和/或红外信息;
判断模块203,用于根据区域信息判断目标移动区域是否存在阻碍所述智能 清扫设备移动的目标障碍物;
第二确定模块204,用于当判断模块203的判断结果为是时,确定目标障碍 物的位置以及其他信息;
控制模块205,用于根据目标障碍物的位置以及其他信息控制智能清扫设备 进行避障,其他信息包括尺寸信息以及类别信息。
可见,本发明实施例所描述的装置能够在智能清扫设备行进过程中采集行 进路径上的区域信息,如图像信息和/或红外信息,智能识别路径上的障碍物, 进而实现对障碍物的准确避障,提高了智能清扫设备的清扫效率,同时通过准 确识别障碍物的类别,匹配相应的避障策略,满足不同的清洁需求,进一步提 升避障精度,最大限度增加清扫面的覆盖程度。
在一个可选的实施例中,如图3所示,第二确定模块204可以包括:
第一确定子模块2041,用于根据所述区域信息确定所述目标障碍物的位置;
第二确定子模块2042,用于确定所述目标障碍物的目标图像集,并基于预 设的图像检测模型,对所述目标图像集进行特征提取,得到所述目标障碍物的 特征检测结果,将所述特征检测结果作为所述目标障碍物的其他信息,所述特 征检测结果包括所述目标障碍物的目标类别信息以及所述目标障碍物的目标尺 寸信息;
其中,第二确定子模块2042确定目标障碍物的目标图像集的具体方式为:
根据所述智能清扫设备的实时位置和所述目标障碍物的位置,判断所述智 能清扫设备与所述目标障碍物之间的距离是否大于等于第一预设距离,当判断 结果为是时,获取所述目标障碍物的第一图像,所述第一图像用于识别所述目 标障碍物的类别信息;
判断所述智能清扫设备与所述目标障碍物之间的距离是否小于所述第一预 设距离且大于等于第二预设距离,当判断结果为是时,获取所述目标障碍物的 第二图像,所述第二图像包括景深信息,用于检测所述目标障碍物的三维尺寸 信息;
将所述第一图像以及所述第二图像确定为所述目标障碍物的目标图像集。
可见,本发明实施例所描述的装置能够通过较远距离采集到的第一图像来 快速识别目标障碍物的类别,通过较近距离采集到的第二图像来测算目标障碍 物的尺寸信息,有利于提高目标障碍物的识别和检测效率,提升智能清扫设备 的清扫效率。
在另一个可选的实施例中,如图3所示,第二确定子模块2042基于预设的 图像检测模型,对所述目标图像集进行特征提取,得到所述目标障碍物的特征 检测结果的具体方式为:
将所述第一图像输入预设的图像检测模型的图像识别分支,对所述第一图 像进行图像识别操作,得到所述第一图像中所述目标障碍物对应的特征向量; 根据所述目标障碍物对应的特征向量,确定所述目标障碍物对应的类别概率集 合;从所述类别概率集合中确定出概率值最高的类别作为所述目标障碍物的目 标类别信息;
根据所述目标障碍物的类别信息,确定所述目标障碍物的初始尺寸模型;
将所述第二图像输入所述图像检测模型的图像检测分支,得到所述第二图 像中所述目标障碍物的景深信息;根据所述景深信息,对所述初始尺寸模型进 行重建,得到所述目标障碍物的目标尺寸信息;
将所述目标障碍物的目标类别信息以及所述目标尺寸信息确定为所述目标 障碍物的特征检测结果。
可见,本发明实施例所描述的装置能够通过较远距离采集到的第一图像来 快速识别目标障碍物的类别,准确识别类别的同时降低算力消耗,通过较近距 离采集到的第二图像来测算目标障碍物的尺寸信息,精准识别三维尺寸细节, 有利于提高目标障碍物的识别和检测效率,进一步提升智能清扫设备的避障的 准确率,同时提高智能清扫设备的清扫效率。
在又一个可选的实施例中,如图3所示,第二确定子模块2042根据所述景 深信息,对所述初始尺寸模型进行重建,得到所述目标障碍物的目标尺寸信息 的具体方式为:
根据所述景深信息,确定所述第二图像中所述目标障碍物对应的所有像素 点的景深特征;
将所有所述像素点的景深特征进行转化操作,确定出所有所述像素点的目 标景深特征以及所述初始尺寸模型中需要重建的目标像素点集合;其中,所述 将所有所述像素点的景深特征进行转化操作,包括:将所有所述像素点的景深 特征映射到所述初始尺寸模型中;
根据所有所述像素点的目标景深特征,对所述目标像素点集合进行重建, 得到所述目标障碍物的目标尺寸信息。
可见,本发明实施例所描述的装置能够通过景深信息对目标障碍物的尺寸 模型进行重构,以得到目标障碍物的精准的目测尺寸信息,提高智能清扫设备 对障碍物的测算精度和准确度,有利于提升智能清扫设备的避障精度和准确度, 进一步提高智能清扫设备的清扫效率。
在又一个可选的实施例中,如图3所示,控制模块可以包括:
第三确定子模块2051,用于根据所述目标障碍物的目标类别信息,确定与 所述目标类别信息相匹配的避障控制方式;
控制子模块2052,根据所述目标障碍物的位置以及所述避障控制方式,控 制所述智能清扫设备进行避障;
所述控制子模块2052,具体用于:
判断所述目标类别是否属于第一类别,当判断结果为是时,控制所述智能 清扫设备执行自动避障操作,所述第一类别用于表征类别为需要避让且无法进 行清扫的障碍物;
判断所述目标类别信息是否属于第二类别,当判断结果为是时,控制所述 智能清扫设备执行自动避障操作且输出警告信息,所述第二类别用于表征类别 为需要避让、清扫且不属于所述智能清扫设备清扫类别范围的障碍物,所述警 告信息用于提示目标人员需要对所述目标障碍物进行清扫;
判断所述目标类别信息是否属于第三类别,当判断结果为是时,控制所述 智能清扫设备不执行避让操作,所述第三类别用于表征类别为需要清扫且属于 所述智能清扫设备清扫类别范围的障碍物。。
可见,本发明实施例所描述的装置能够通过检测到的目标障碍物的不同类 别来匹配不同的避障策略,极大增强智能清扫设备的智能化水平,提升对智能 清扫设备的精细化控制程度,解决了因避障缺乏策略导致的清洁面覆盖不足的 问题,进一步提高提高智能清扫设备的清扫质量和清扫效率。
在又一个可选的实施例中,如图3所示,控制子模块2052控制所述智能清 扫设备执行自动避障操作的具体方式为:
根据所述目标障碍物的目标尺寸信息,计算所述智能清扫设备的转向距离 信息、转向方向信息以及转向角度信息;
根据所述转向方向信息以及所述转向角度信息,确定目标转向路径;
控制所述智能清扫设备按照所述目标转向路径执行自动避障操作。
可见,本发明实施例所描述的装置能够通过目标障碍物的目标尺寸信息确 定出精准的转向距离信息、转向方向信息以及转向角度信息,提升确定目标转 向路径的精准度,进而提高智能清扫设备的避障效率和准确度,进一步提高提 高智能清扫设备的清扫质量和清扫效率。
在又一个可选的实施例中,如图3所示,控制子模块2052根据目标障碍物 的目标尺寸信息,计算所述智能清扫设备的转向距离信息、转向方向信息以及 转向角度信息的具体方式为:
根据所述目标障碍物的目标尺寸信息、所述智能清扫设备的顶部位置以及 所述智能清扫设备的底部位置,提取所述目标障碍物的边缘像素序列,所述边 缘像素序列包括所述目标尺寸信息中位于所述智能清扫设备的顶点与所述智能 清扫设备的底点之间绝对高度范围内的所有像素点集合;
计算所述边缘像素序列中每一边缘像素点与所述智能清扫设备之间的水平 距离,得到所有所述边缘像素点对应的水平距离集合;
从所述水平距离集合中筛选出所述水平距离最小的边缘像素点作为目标避 障像素点;
根据所述目标避障像素点,计算所述智能清扫设备的转向距离信息、转向 方向信息以及转向角度信息。
可见,本发明实施例所描述的装置能够通过提取边缘像素序列的方式,节 约智能清扫设备计算目标避障点的算力,提高测算目标避障点的精度和准确度, 提升智能清扫设备快速测算低矮空间等缝隙,避免物体底部磕碰损伤,进而提 高智能清扫设备的避障效率和准确度,进一步提高提高智能清扫设备的清扫质 量和清扫效率。
实施例三
请参阅图4,图4是本发明实施例公开的又一种智能避开障碍的装置的结构 示意图。其中,该智能避开障碍的装置可以包括智能清扫设备或智能清扫设备 对应的服务器,其中智能清扫设备可以与用户终端和/或当前区域的其他智能设 备(如:智能显示屏、智能图像采集设备等)进行通信连接,其中,用户终端 包括但不限于智能穿戴设备(如智能手环等)和/或智能手机(Android手机、iOS 手机等),本发明实施例不做限定。如图4所示,该智能避开障碍的装置可以 包括:
存储有可执行程序代码的存储器301;
与存储器301耦合的处理器302;
处理器302调用存储器302中存储的可执行程序代码,执行本发明实施例 一公开的智能避开障碍的方法中的部分或全部步骤。
实施例四
本发明实施例公开了一种计算机存储介质,该计算机存储介质存储有计算 机指令,该计算机指令被调用时,用于执行本发明实施例一公开的智能避开障 碍的方法中的步骤。
实施例五
本发明实施例公开的一种智能清扫设备,其中,该智能清扫设备可以包括 智能避开障碍的装置,且用于实现图1所描述的智能避开障碍的方法中部分或 全部的步骤。可选的,该智能避开障碍的装置可以为图2-图4任一项所描述的 智能避开障碍的装置,本发明实施例不做限定。
以上所描述的装置实施例仅是示意性的,其中所述作为分离部件说明的模 块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可 以不是物理模块,即可以位于一个地方,或者也可以分布到多个网络模块上。 可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目 的。本领域普通技术人员在不付出创造性的劳动的情况下,即可以理解并实施。
通过以上的实施例的具体描述,本领域的技术人员可以清楚地了解到各实 施方式可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件。 基于这样的理解,上述技术方案本质上或者说对现有技术做出贡献的部分可以 以软件产品的形式体现出来,该计算机软件产品可以存储在计算机可读存储介 质中,存储介质包括只读存储器(Read-Only Memory,ROM)、随机存储器 (Random Access Memory,RAM)、可编程只读存储器(Programmable Read-only Memory,PROM)、可擦除可编程只读存储器(ErasableProgrammable Read Only Memory,EPROM)、一次可编程只读存储器(One-timeProgrammable Read-Only Memory,OTPROM)、电子抹除式可复写只读存储器(Electrically-Erasable Programmable Read-Only Memory,EEPROM)、只读光盘(CompactDisc Read-Only Memory,CD-ROM)或其他光盘存储器、磁盘存储器、磁带存储器、 或者能够用于携带或存储数据的计算机可读的任何其他介质。
需要说明的是本说明书各部分操作所需的计算机程序代码可以用任意一种 或多种程序语言编写,包括面向对象编程语言如Java、Scala、Smalltalk、Eiffel、 JADE、Emerald、C++、C#、VB.NET、Python等,常规程序化编程语言如C 语言、Visual Basic、Fortran2003、Perl、COBOL 2002、PHP、ABAP,动态编程 语言如Python、Ruby和Groovy,或其他编程语言等。该程序编码可以完全在计 算机(PC、嵌入式智能设备等)上运行、或作为独立的软件包在用户计算机上 运行、或部分在用户计算机上运行部分在远程计算机运行、或完全在远程计算 机或服务器上运行。在后种情况下,远程计算机可以通过任何网络形式与用户 计算机连接,比如局域网(LAN)或广域网(WAN),或连接至外部计算机(例如通 过因特网),或在云计算环境中,或作为服务使用如软件即服务(SaaS)。
最后应说明的是:本发明实施例公开的一种智能避开障碍的方法及装置、 智能清扫设备所揭露的仅为本发明较佳实施例而已,仅用于说明本发明的技术 方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领 域的普通技术人员应当理解;其依然可以对前述各项实施例所记载的技术方案 进行修改,或者对其中部分技术特征进行等同替换;而这些修改或替换,并不 使相应的技术方案的本质脱离本发明各项实施例技术方案的精神和范围。

Claims (10)

1.一种智能避开障碍的方法,其特征在于,所述方法包括:
在所述智能清扫设备移动过程中,确定所述智能清扫设备的目标移动区域;
采集所述目标移动区域的区域信息,所述区域信息包括图像信息和/或红外信息;
根据所述区域信息判断所述目标移动区域是否存在阻碍所述智能清扫设备移动的目标障碍物;
当判断结果为是时,确定所述目标障碍物的位置以及其他信息,并根据所述目标障碍物的位置以及所述其他信息控制所述智能清扫设备进行避障,所述其他信息包括尺寸信息以及类别信息。
2.根据权利要求1所述的智能避开障碍的方法,其特征在于,所述确定所述目标障碍物的位置以及其他信息,包括:
根据所述区域信息确定所述目标障碍物的位置;
确定所述目标障碍物的目标图像集,并基于预设的图像检测模型,对所述目标图像集进行特征提取,得到所述目标障碍物的特征检测结果,将所述特征检测结果作为所述目标障碍物的其他信息,所述特征检测结果包括所述目标障碍物的目标类别信息以及所述目标障碍物的目标尺寸信息;
其中,所述确定所述目标障碍物的目标图像集,包括:
根据所述智能清扫设备的实时位置和所述目标障碍物的位置,判断所述智能清扫设备与所述目标障碍物之间的距离是否大于等于第一预设距离,当判断结果为是时,获取所述目标障碍物的第一图像,所述第一图像用于识别所述目标障碍物的类别信息;
判断所述智能清扫设备与所述目标障碍物之间的距离是否小于所述第一预设距离且大于等于第二预设距离,当判断结果为是时,获取所述目标障碍物的第二图像,所述第二图像包括景深信息,用于检测所述目标障碍物的三维尺寸信息;
将所述第一图像以及所述第二图像确定为所述目标障碍物的目标图像集。
3.根据权利要求2所述的智能避开障碍的方法,其特征在于,所述基于预设的图像检测模型,对所述目标图像集进行特征提取,得到所述目标障碍物的特征检测结果,包括:
将所述第一图像输入预设的图像检测模型的图像识别分支,对所述第一图像进行图像识别操作,得到所述第一图像中所述目标障碍物对应的特征向量;根据所述目标障碍物对应的特征向量,确定所述目标障碍物对应的类别概率集合;从所述类别概率集合中确定出概率值最高的类别作为所述目标障碍物的目标类别信息;
根据所述目标障碍物的类别信息,确定所述目标障碍物的初始尺寸模型;
将所述第二图像输入所述图像检测模型的图像检测分支,得到所述第二图像中所述目标障碍物的景深信息;根据所述景深信息,对所述初始尺寸模型进行重建,得到所述目标障碍物的目标尺寸信息;
将所述目标障碍物的目标类别信息以及所述目标尺寸信息确定为所述目标障碍物的特征检测结果。
4.根据权利要求3所述的智能避开障碍的方法,其特征在于,所述根据所述景深信息,对所述初始尺寸模型进行重建,得到所述目标障碍物的目标尺寸信息,包括:
根据所述景深信息,确定所述第二图像中所述目标障碍物对应的所有像素点的景深特征;
将所有所述像素点的景深特征进行转化操作,确定出所有所述像素点的目标景深特征以及所述初始尺寸模型中需要重建的目标像素点集合;其中,所述将所有所述像素点的景深特征进行转化操作,包括:将所有所述像素点的景深特征映射到所述初始尺寸模型中;
根据所有所述像素点的目标景深特征,对所述目标像素点集合进行重建,得到所述目标障碍物的目标尺寸信息。
5.根据权利要求1-4任一所述的智能避开障碍的方法,其特征在于,所述根据所述目标障碍物的位置以及所述其他信息控制所述智能清扫设备进行避障,包括:
根据所述目标障碍物的特征信息以及预先确定出的地图信息,确定目标避障路径;
根据所述目标障碍物的目标类别信息,确定与所述目标类别信息相匹配的避障控制方式;
根据所述目标避障路径以及所述避障控制方式,控制所述智能清扫设备进行避障;
其中,所述根据所述目标障碍物的目标类别信息,确定与所述目标类别信息相匹配的避障控制方式,包括:
判断所述目标类别是否属于第一类别,当判断结果为是时,控制所述智能清扫设备执行自动避障操作,所述第一类别用于表征类别为需要避让且无法进行清扫的障碍物;
判断所述目标类别信息是否属于第二类别,当判断结果为是时,控制所述智能清扫设备执行自动避障操作且输出警告信息,所述第二类别用于表征类别为需要避让、清扫且不属于所述智能清扫设备清扫类别范围的障碍物,所述警告信息用于提示目标人员需要对所述目标障碍物进行清扫;
判断所述目标类别信息是否属于第三类别,当判断结果为是时,控制所述智能清扫设备不执行避让操作,所述第三类别用于表征类别为需要清扫且属于所述智能清扫设备清扫类别范围的障碍物。
6.根据权利要求5所述的智能避开障碍的方法,其特征在于,所述根据所述目标障碍物的特征信息以及预先确定出的地图信息,确定目标避障路径包括:
根据所述目标障碍物的特征信息,更新预先确定出的地图信息以生成目标地图信息;
根据所述目标障碍物的位置以及所述目标地图信息,确定出所述智能清扫设备的目标避障路径;
其中,所述根据所述目标障碍物的特征信息,更新预先确定出的地图信息以生成目标地图信息,包括:
根据所述目标障碍物的特征信息,判断所述目标障碍物是否为移动障碍物;
当判断结果为是时,根据所述目标障碍物的移动方向以及移动速度,确定出所述目标障碍物的预估移动位置;
根据所述目标障碍物的预估移动位置,对所述预先确定出的地图信息进行动态更新以生成目标地图信息。
7.根据权利要求5或6所述的智能避开障碍的方法,其特征在于,所述控制所述智能清扫设备执行自动避障操作,包括:
根据所述目标障碍物的目标尺寸信息,计算所述智能清扫设备的转向距离信息、转向方向信息以及转向角度信息;
根据所述转向方向信息以及所述转向角度信息,确定目标转向路径;
控制所述智能清扫设备按照所述目标转向路径执行自动避障操作。
8.根据权利要求7所述的智能避开障碍的方法,其特征在于,所述根据所述目标障碍物的目标尺寸信息,计算所述智能清扫设备的转向距离信息、转向方向信息以及转向角度信息,包括:
根据所述目标障碍物的目标尺寸信息、所述智能清扫设备的顶部位置以及所述智能清扫设备的底部位置,提取所述目标障碍物的边缘像素序列,所述边缘像素序列包括所述目标尺寸信息中位于所述智能清扫设备的顶点与所述智能清扫设备的底点之间绝对高度范围内的所有像素点集合;
计算所述边缘像素序列中每一边缘像素点与所述智能清扫设备之间的水平距离,得到所有所述边缘像素点对应的水平距离集合;
从所述水平距离集合中筛选出所述水平距离最小的边缘像素点作为目标避障像素点;
根据所述目标避障像素点,计算所述智能清扫设备的转向距离信息、转向方向信息以及转向角度信息。
9.一种智能避开障碍的装置,其特征在于,所述装置包括:
第一确定模块,用于在所述智能清扫设备移动过程中,确定所述智能清扫设备的目标移动区域;
采集模块,用于采集所述目标移动区域的区域信息,所述区域信息包括图像信息和/或红外信息;
判断模块,用于根据所述区域信息判断所述目标移动区域是否存在阻碍所述智能清扫设备移动的目标障碍物;
第二确定模块,用于当所述判断模块的判断结果为是时,确定所述目标障碍物的位置以及其他信息;
控制模块,用于根据所述目标障碍物的位置以及所述其他信息控制所述智能清扫设备进行避障,所述其他信息包括尺寸信息以及类别信息。
10.一种智能清扫设备,其特征在于,所述智能清扫设备包括:
存储有可执行程序代码的存储器;
与所述存储器耦合的处理器;
所述处理器调用所述存储器中存储的所述可执行程序代码,以实现如权利要求1-8任一项所述的智能避开障碍的方法。
CN202111580917.XA 2021-12-22 2021-12-22 智能避开障碍的方法及装置 Pending CN116416518A (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202111580917.XA CN116416518A (zh) 2021-12-22 2021-12-22 智能避开障碍的方法及装置
PCT/CN2022/070836 WO2023115658A1 (zh) 2021-12-22 2022-01-07 智能避开障碍的方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111580917.XA CN116416518A (zh) 2021-12-22 2021-12-22 智能避开障碍的方法及装置

Publications (1)

Publication Number Publication Date
CN116416518A true CN116416518A (zh) 2023-07-11

Family

ID=86901147

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111580917.XA Pending CN116416518A (zh) 2021-12-22 2021-12-22 智能避开障碍的方法及装置

Country Status (2)

Country Link
CN (1) CN116416518A (zh)
WO (1) WO2023115658A1 (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117032218B (zh) * 2023-07-31 2024-08-09 北京小米机器人技术有限公司 机器人巡航控制方法、装置、机器人及存储介质
CN117406755B (zh) * 2023-12-01 2024-04-19 北京极智嘉科技股份有限公司 机器人避障方法、装置、设备和可读存储介质

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20180075176A (ko) * 2016-12-26 2018-07-04 엘지전자 주식회사 이동 로봇 및 그 제어방법
CN108594823A (zh) * 2018-05-21 2018-09-28 珠海格力电器股份有限公司 扫地机器人的控制方法及其控制系统
CN108852176A (zh) * 2018-05-31 2018-11-23 上海与德通讯技术有限公司 智能清扫方法、清扫设备以及计算机可读存储介质
CN111012254B (zh) * 2019-12-30 2024-10-18 南京智慧建筑研究院有限公司 智能扫地机器人
CN111067439B (zh) * 2019-12-31 2022-03-01 深圳飞科机器人有限公司 障碍物处理方法以及清洁机器人
CN112650235A (zh) * 2020-03-11 2021-04-13 南京奥拓电子科技有限公司 一种机器人避障控制方法、系统及机器人
CN111481105A (zh) * 2020-04-20 2020-08-04 北京石头世纪科技股份有限公司 一种自行走机器人避障方法、装置、机器人和存储介质
CN112415998B (zh) * 2020-10-26 2024-06-18 珠海一微半导体股份有限公司 一种基于tof摄像头的障碍物分类避障控制系统

Also Published As

Publication number Publication date
WO2023115658A1 (zh) 2023-06-29

Similar Documents

Publication Publication Date Title
CN112215843B (zh) 超声智能成像导航方法、装置、超声设备及存储介质
US10102429B2 (en) Systems and methods for capturing images and annotating the captured images with information
CN110968083B (zh) 栅格地图的构建方法、避障的方法、设备及介质
CN112075879A (zh) 一种信息处理方法、装置及存储介质
JP6237804B2 (ja) 異常状況の検出方法及び装置
CN116416518A (zh) 智能避开障碍的方法及装置
US11703334B2 (en) Mobile robots to generate reference maps for localization
AU2010338283B2 (en) Head recognition method
US11562524B2 (en) Mobile robots to generate occupancy maps
CN113670292A (zh) 地图的绘制方法和装置、扫地机、存储介质、电子装置
CN109344687A (zh) 基于视觉的障碍物检测方法、装置、移动设备
CN113359692B (zh) 一种障碍物的避让方法、可移动机器人
CN106162144A (zh) 一种用于夜视环境的视觉图像处理设备、系统和智能机器
CN112711249A (zh) 机器人定位方法、装置、智能机器人和存储介质
CN115346256A (zh) 机器人寻人方法及系统
CN113675923A (zh) 充电方法、充电装置及机器人
CN110853135A (zh) 基于养老机器人的室内场景实时重建跟踪服务方法
CN113440050B (zh) Ar设备与扫地机交互的清扫方法、装置及计算机设备
CN117152719B (zh) 除草障碍物检测方法、设备、存储介质及装置
CN117671637A (zh) 物体点云重叠识别方法、装置、设备、机器人和存储介质
CN117726648A (zh) 待跟踪的目标对象确定方法、系统及机器人
CN114089364A (zh) 一种集成化的感知系统装置及实现方法
Desarda et al. Single Shot Detector Based Object Detection For Visually Impaired People
CN113075692A (zh) 目标检测及控制方法、系统、设备及存储介质
CN112733571A (zh) 机器人的控制方法、设备和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination