CN115381335A - 一种扫地机器人的路径控制方法、装置、设备及存储介质 - Google Patents

一种扫地机器人的路径控制方法、装置、设备及存储介质 Download PDF

Info

Publication number
CN115381335A
CN115381335A CN202210445296.2A CN202210445296A CN115381335A CN 115381335 A CN115381335 A CN 115381335A CN 202210445296 A CN202210445296 A CN 202210445296A CN 115381335 A CN115381335 A CN 115381335A
Authority
CN
China
Prior art keywords
area
sub
sweeping robot
coordinates
obstacle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202210445296.2A
Other languages
English (en)
Other versions
CN115381335B (zh
Inventor
伍仁华
陈会普
王为举
赵传涛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Proscenic Technology Co Ltd
Original Assignee
Shenzhen Proscenic Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Proscenic Technology Co Ltd filed Critical Shenzhen Proscenic Technology Co Ltd
Priority to CN202210445296.2A priority Critical patent/CN115381335B/zh
Publication of CN115381335A publication Critical patent/CN115381335A/zh
Application granted granted Critical
Publication of CN115381335B publication Critical patent/CN115381335B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A47FURNITURE; DOMESTIC ARTICLES OR APPLIANCES; COFFEE MILLS; SPICE MILLS; SUCTION CLEANERS IN GENERAL
    • A47LDOMESTIC WASHING OR CLEANING; SUCTION CLEANERS IN GENERAL
    • A47L11/00Machines for cleaning floors, carpets, furniture, walls, or wall coverings
    • A47L11/24Floor-sweeping machines, motor-driven
    • AHUMAN NECESSITIES
    • A47FURNITURE; DOMESTIC ARTICLES OR APPLIANCES; COFFEE MILLS; SPICE MILLS; SUCTION CLEANERS IN GENERAL
    • A47LDOMESTIC WASHING OR CLEANING; SUCTION CLEANERS IN GENERAL
    • A47L11/00Machines for cleaning floors, carpets, furniture, walls, or wall coverings
    • A47L11/40Parts or details of machines not provided for in groups A47L11/02 - A47L11/38, or not restricted to one of these groups, e.g. handles, arrangements of switches, skirts, buffers, levers
    • A47L11/4002Installations of electric equipment
    • AHUMAN NECESSITIES
    • A47FURNITURE; DOMESTIC ARTICLES OR APPLIANCES; COFFEE MILLS; SPICE MILLS; SUCTION CLEANERS IN GENERAL
    • A47LDOMESTIC WASHING OR CLEANING; SUCTION CLEANERS IN GENERAL
    • A47L11/00Machines for cleaning floors, carpets, furniture, walls, or wall coverings
    • A47L11/40Parts or details of machines not provided for in groups A47L11/02 - A47L11/38, or not restricted to one of these groups, e.g. handles, arrangements of switches, skirts, buffers, levers
    • A47L11/4011Regulation of the cleaning machine by electric means; Control systems and remote control systems therefor
    • AHUMAN NECESSITIES
    • A47FURNITURE; DOMESTIC ARTICLES OR APPLIANCES; COFFEE MILLS; SPICE MILLS; SUCTION CLEANERS IN GENERAL
    • A47LDOMESTIC WASHING OR CLEANING; SUCTION CLEANERS IN GENERAL
    • A47L11/00Machines for cleaning floors, carpets, furniture, walls, or wall coverings
    • A47L11/40Parts or details of machines not provided for in groups A47L11/02 - A47L11/38, or not restricted to one of these groups, e.g. handles, arrangements of switches, skirts, buffers, levers
    • A47L11/4061Steering means; Means for avoiding obstacles; Details related to the place where the driver is accommodated

Landscapes

  • Manipulator (AREA)

Abstract

本发明涉及计算机技术领域,提出一种扫地机器人的路径控制方法、装置、设备及存储介质,根据获得的待清扫区域的全局深度图,通过三维重建算法,得到待清扫区域的三维地图,以及三维地图中的每个障碍物区域,将待清扫区域的三维地图划分为不同子区域,对每个子区域设置不同的名称,使扫地机器人可以快速地定位到对应区域,提高了清扫效率,接收并识别用户的语音信息并将识别出的语音信息与每个子区域的子区域名称进行匹配,得到要清扫的目标子区域,根据得到的机器人的实时位置坐标,通过计算,得到扫地机器人到所述目标子区域的移动路径,基于障碍物对路径进行规划,使扫地机器人可以快速安全到达目标子区域,提高了扫地机器人的清扫效率。

Description

一种扫地机器人的路径控制方法、装置、设备及存储介质
技术领域
本发明涉及扫地机器人技术领域,尤其涉及一种扫地机器人的路径控制方法、装置、计算机设备及存储介质。
背景技术
机器人避障路径规划是指在给定的环境障碍条件下,选择一条从起始点到目标点的路径,使机器人可以安全、无碰撞地通过所有的障碍,由于目前大多数扫地机器人无法生成三维立体地图,大部分扫地机的地图都是二维的,比较抽象,难以精确地对实际屋内的待清扫区域进行准确地定位,且二维地图不能较清楚地显示障碍物的位置,扫地机器人不能在规避障碍物的情况下快速地,安全到达目标清扫区域,使扫地机器人的清扫效率较低。
发明内容
基于此,有必要针对上述技术问题,提供一种扫地机器人的路径控制方法、装置、计算机设备及存储介质,以解决扫地机器人清扫效率较低的问题。
第一方面,提供一种扫地机器人的路径控制方法,包括:
获得待清扫区域的全局深度图;
根据获得的待清扫区域的全局深度图,通过三维重建算法,得到所述待清扫区域的三维地图,所述三维地图中得到每个障碍物区域的障碍物区域边界点坐标;
将所述待清扫区域的三维地图划分为不同子区域,对每个区域设置不同的名称,得到每个子区域的区域名称,获取每个子区域中的子区域边界特征点坐标接收并识别用户的语音信息并将识别出的语音信息与每个子区域的子区域名称进行匹配,得到要清扫的目标子区域;
获取机器人的实时位置坐标并且根据所获取的机器人的实时位置坐标、所述要清扫的目标子区域的子区域边界特征点坐标和所述三维地图中的每个障碍物区域的障碍物区域边界点坐标,计算得出所述扫地机器人的清扫路径。
第二方面,提供一种扫地机器人的路径控制装置,其特征在于,
获得单元:获得待清扫区域的全局深度图;
得到单元:根据获得的待清扫区域的全局深度图,通过三维重建算法,得到所述待清扫区域的三维地图,所述三维地图中得到每个障碍物区域的障碍物区域边界点坐标;
设置单元:将所述待清扫区域的三维地图划分为多个子区域,对每个子区域设置不同的子区域名称并将这些子区域名称存储在扫地机器人的内置存储器中,获取每个子区域中的子区域边界特征点坐标;匹配单元:接收并识别用户的语音信息并将识别出的语音信息与每个子区域的子区域名称进行匹配,得到要清扫的目标子区域;
计算单元:获取机器人的实时位置坐标并且根据所获取的机器人的实时位置坐标、所述要清扫的目标子区域的子区域边界特征点坐标和所述三维地图中的每个障碍物区域的障碍物区域边界点坐标,计算得出所述扫地机器人的清扫路径。
第三方面,本发明实施例提供一种计算机设备,所述计算机设备包括处理器、存储器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如第一方面所述的扫地机器人的路径控制方法。
第四方面,本发明实施例提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如第一方面所述的扫地机器人的路径控制方法。
本发明与现有技术相比存在的有益效果是:
根据获得的待清扫区域的全局深度图,通过三维重建算法,得到待清扫区域的三维地图,以及三维地图中的每个障碍物区域的障碍物区域边界点坐标,三维地图可以较清楚地显示障碍物的位置,将待清扫区域的三维地图划分为不同子区域,对每个子区域设置不同的名称,得到每个子区域的区域名称,设置不同子区域,使扫地机器人可以快速地定位到对应区域,提高了清扫效率,根据三维地图,获取每个子区域中的子区域边界特征点坐标;接收并识别用户的语音信息并将识别出的语音信息与每个子区域的子区域名称进行匹配,得到要清扫的目标子区域,根据得到的机器人的实时位置坐标,以及目标子区域的子区域边界特征点坐标和三维地图中的每个障碍物区域的障碍物区域边界点坐标,通过计算,得到扫地机器人到所述目标子区域的移动路径,基于障碍物对路径进行规划,使扫地机器人可以快速安全到达目标子区域,提高了扫地机器人的清扫效率。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对本发明实施例的描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的一种扫地机器人的路径控制方法的一应用环境示意图;
图2是本发明一实施例提供的一种扫地机器人的路径控制方法的流程示意图;
图3是本发明另一实施例提供的一种扫地机器人的路径控制方法的流程示意图;
图4是本发明实施例提供的一种扫地机器人的路径控制装置的结构示意图;
图5是本发明实施例提供的一种计算机设备的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
应当理解,当在本发明说明书和所附权利要求书中使用时,术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解,在本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
如在本发明说明书和所附权利要求书中所使用的那样,术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地,短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
另外,在本发明说明书和所附权利要求书的描述中,术语“第一”、“第二”、“第三”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
在本发明说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本发明的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此,在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例,而是意味着“一个或多个但不是所有的实施例”,除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”,除非是以其他方式另外特别强调。
本发明实施例可以基于人工智能技术对相关的数据进行获取和处理。其中,人工智能(Artificial Intelligence,AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
应理解,以下实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本发明实施例的实施过程构成任何限定。
为了说明本发明的技术方案,下面通过具体实施例来进行说明。
本发明实施例一提供的一种扫地机器人的路径控制方法,可应用在如图1的应用环境中,其中,客户端与服务端进行通信。其中,客户端包括但不限于掌上电脑、桌上型计算机、笔记本电脑、超级移动个人计算机(ultra-mobile personal computer,UMPC)、上网本、个人数字助理(personal digital assistant,PDA)等计算机设备。服务端可以用独立的服务器或者是多个服务器组成的服务器集群来实现。
参见图2,是本发明实施例一提供的一种扫地机器人的路径控制方法的流程示意图,上述扫地机器人的路径控制方法可以应用于图1中的客户端,对应的计算机设备通过预设的应用程序接口(Application Programming Interface,API)连接目标数据库。在目标数据被驱动运行以执行相应的任务时,会产生对应的任务日志,通过API可以采集到上述任务日志。如图2所示,该多任务的可视化方法可以包括以下步骤:
S11:获得待清扫区域的全局深度图;
在步骤S11中,待清扫区域的全局深度图为扫地机器人通过Kinect相机首次对待清扫区域进行扫描得到的;
本实施例中,使用Kinect对待清扫区域进行拍摄,得到待清扫区域的全局深度图,受Kinect方位、视野范围和物体形状限制,每次只能拍摄一个角度的深度图像,不能获得物体全部信息,故需从多个角度进行拍摄。
S12:根据获得的待清扫区域的全局深度图,通过三维重建算法,得到所述待清扫区域的三维地图,所述三维地图中得到每个障碍物区域的障碍物区域边界点坐标;
在步骤S12中,对全局深度图进行三维重建得到待清扫区域的三维地图,从待清扫区域中的三维地图中,可以得到每个障碍物区域,以及每个障碍物区域的边界点坐标。
本实施例中,通过三维重建算法,得到所述待清扫区域的三维地图,根据得到的三维地图,从三维地图中得到每个障碍物区域,这里的障碍物区域为固定障碍区域,从障碍区域的边界选取有限个点,并获取有限个点的坐标。
需要说明的是,待清扫区域的全局深度图为距离图像。和一般的彩色、灰度图像类似,深度图像信息也存储在矩阵中,但深度图像像素点存储的是深度值,而不是灰度值或颜色值。深度图像与灰度图像的区别在于,深度值只与距离相关,不受光照强度和方向影响。
本实施例中,步骤S12具体包括:
对所述全局深度图进行预处理,得到全局深度处理图;根据所述全局深度处理图,以及预先得到深度参数,通过计算得到点云数据;根据所述点云数据,通过三维重建算法,得到所述待清扫区域的三维地图,以及所述三维地图中的每个障碍物区域的障碍物区域边界点坐标。
本实施例中,Kinect摄像机获得的深度图像往往含有一定的噪声和空洞,这会对后续计算过程带来不利影响,因此需要对原始深度图像进行滤波预处理,对深度图像一般采用基于空间域的滤波方法。空间域方法是基于邻域的处理方法,它根据一定的模板,对像素点及其邻域中的点进行某种运算得到新像素值,得到全局深度处理图。
经过预处理得到的是二维深度图像,其像素点的值是深度值。需结合深度摄像机的内参数矩阵,计算像素点在摄像机坐标系下的坐标和法向量,其中,深度参数为Kinect相机的内部参数,计算像素点在摄像机坐标系下的坐标和法向量,得到对应像素的点云数据。其中点云数据为带有坐标和方向量的点,根据多个视角的深度图像可获得多个点云,但每个点云的数据都是基于各自摄像机坐标系的。这就需要对点云进行坐标变换,将各个点云转换到统一的世界坐标系下。需利用前一帧和当前帧的点云数据,并以前一点云的变换参数作为初始值,根据ICP算法计算得出变换参数。将多视角的点云坐标转化为同一坐标下的点云坐标。根据得到的转化后的点云坐标,使用移动立方体法生成表面。移动立方体法以数据集相邻两层各四个共八个体素为顶点构成的立方体为基本处理单元,逐个处理每一个立方体,获得与等值面相交的立方体,这些立方体内的等值面合起来就是整个表面。所有立方体的等值面合并起来就构成了完整的三维表面。根据得到的三维表面,在障碍物的表面边界线选取有限个点,并记录有限个点的坐标。
S13:将所述待清扫区域的三维地图划分为多个子区域,对每个子区域设置不同的子区域名称并将这些子区域名称存储在扫地机器人的内置存储器中,获取每个子区域中的子区域边界特征点坐标;在步骤13中,根据待清扫区域的三维地图中的空间信息,将具有公共边界线的不同空间划分为不同子区域,并设置不同子区域的名称,以不同的名称作为不同子区域的表示,以方便后续扫地机器人执行相关命令,根据划分的不同子区域,每个子区域的边界线上选取出子区域边界特征点,并得到子区域边界特征点坐标。
本实施例中,对三维地图进行划分时,可以进行手动划分为不同而区域,也可以将待清扫区域的三维地图与对应的待清扫区域的二维地图进行映射,首先对待清扫区域的二维地图进行划分,二维地图划分不同子区域时,可以依据二维地图中的地图线元素进行划分,在待清扫区域的二维地图中得到划分的不同子区域,并对不同子区域设置对应的区域名称。将二维地图与三维地图进行映射处理,在三维地图中得到与二维地图对应的区域,并将对应的区域设置对应的区域名称。根据划分的不同子区域,每个子区域的边界线上选取出子区域边界特征点,并得到子区域边界特征点坐标。
本实施例中,步骤S13具体包括:
根据所述三维地图,以及每个子区域中的相邻子区域,得到每个子区域与相邻区域的公共边界线;从所述公共边界线中获取边界特征点坐标。
本实施例中,从公共边界线中选取子区域边界特征点,公共边界线为区分相邻区域的标志,扫地机器人可以根据得到的公共边界线信息,从某一位置准确到达需要清扫的目标位置过程中,规避掉不相通的相邻区域的公共边界阻碍物,防止公共边界阻碍物对扫地机器人造成前进阻碍。
S14:接收并识别用户的语音信息并将识别出的语音信息与每个子区域的子区域名称进行匹配,得到要清扫的目标子区域;
在步骤S14中,在扫地机器人需要清扫特定区域时,对扫地机器人发送语音信息,扫地机器人根据语音信息,得到需要清扫的目标子区域,直接对扫地机器人发送语音指令,使用语音信息控制扫地机器人,简化了扫地机器人的操作步骤,方便了人们的使用。
本实施例中,语音信息用于指示操作,即指示控制机器人执行操作。该操作可以是自定义设置的操作,也可以是系统默认设置,例如:打扫操作、拖地操作、除草操作等。语音信息还包括每个子区域名称的关键词,将每个子区域的区域名称预先存入云端,当需要清扫目标子区域时,对扫地机器人说出需要清扫的区域名称,与云端预先存入的区域名称进行匹配,得到对应的目标子区域。例如,语音信息可以为打扫厨房,打扫客厅,打扫主卧等。
本实施例中,步骤S14具体包括:
接收到的语音信息通过预先训练好的语音识别模型,得到所述语音信息对应的语音文本;将所述语音文本与预先保存的每个子区域名称对应的文本进行关键词匹配,得到目标子区域。
本实施例中,将接收到的语音信息转化为语音文本,使语音文本对每个子区域的名称文本进行匹配,首先训练语音识别模型,训练语音识别模型时,获取语音样本对,该语音样本对包括第一语音样本和第二语音样本,且该语音样本对携带有样本对标签,该样本对标签用于标识第一语音样本和第二语音样本是否相同,即该两个语音样本是否为同一个关键词对应的语音,样本对标签为1,表示两个语音样本相同;样本对标签为0,表示两个语音样本不同。然后,通过语音识别模型的全连接层获得第一语音样本的第一样本向量和第二语音样本的第二样本向量;并根据第一样本向量和第二样本向量之间的相似度,以及样本对标签,计算语音识别模型的损失值;之后,根据语音识别模型的损失值,对语音识别模型进行训练,直至达到训练停止条件,得到训练后的语音识别模型。语音识别模型可以为卷积神经网络,该语音识别模型可以包括输入层、多个卷积层、多个池化层和全连接层。引入了基于样本对的损失函数,该基于样本对的损失函数使得语音识别模型具有准确抽取语音内容信息的能力,从而可以将现有技术中直接预测待识别语音对应的关键词问题转化为语音编码问题,使得新增待识别的关键词时,无需重新训练语音识别模型,只需准备少量该关键词的标准语音即可。
需要说明的是,实际应用中,一般是直接获取许多语音样本,组成语音样本集,然后将该语音样本集中的语音样本两两配对,并设置每对语音样本相应的样本对标签,用于标识该对语音样本的两个语音样本是否相同,即该两个语音样本是否为同一个关键词对应的语音。需要说明的是,本步骤中获取的语音样本对是从语音样本集中获取的任一对语音样本对,并获取该语音样本对的样本对标识。
本实施例中,将接收到的语音信息进行语音处理,得到目标语音特征向量,目标语音特征向量过预先训练好的语音识别模型,得到待清扫区域的语音文本。基于得到的语音文本与每个子区域的区域名称进行匹配。匹配时,由于语音信息的冗余,所以得到语音文本后进行关键词匹配。
需要说明的是,当关键词匹配成功后,扫地机器人将移动到对应的目标子区域,例如,将子区域A标记为大房间,子区域B标记为小房间,子区域C标记为厨房,当扫地机器人开启后,当接收到语音请清扫A子区域时,扫地机器人将清扫大区域,当接受到请清扫B子区域时,扫地机器人将清扫小区域,用户通过语音能够轻松去控制扫地机器人的工作区域,操作简单,便于用户使用。
可选地,扫地机器人带有控制面板,该控制面板支持触控操作,控制面板带语音采集功能。基于此,用户可以通过控制面板向扫地机器人发出定点清扫任务设置命令,该命令中携带需要定点清扫的子区域的标识和清扫事件或清扫频率。同时可以将待清扫子区域显示在控制面板,用户可以对显示的待清扫区域进行绘制,可以在对应的子区域标注相应的标号等。
需要说明的是,当关键词匹配不成功时,扫地机器人不能确定出目标子区域,扫地机器人将发出提示语音,请选择待清扫区域,或者其余的提示语音。
S15:获取机器人的实时位置坐标并且根据所获取的机器人的实时位置坐标、所述要清扫的目标子区域的子区域边界特征点坐标和所述三维地图中的每个障碍物区域的障碍物区域边界点坐标,计算得出所述扫地机器人的清扫路径。
在步骤S15中,机器人的实时位置坐标可以根据扫地机器人中携带的定位系统得到,根据目标子区域对应边界点坐标,通过均值算法,得到目标子区域的中心点坐标,根据目标子区域的中心点坐标与扫地机器人的实时位置坐标差值,以及三维地图中的每个障碍物区域的障碍物区域边界点坐标,确定出扫地机器人需要移动的方向与距离,从而得到扫地机器人到目标子区域的移动路径。
本实施例中,根据扫地机器人携带的GPS定位系统,得到扫地机器人的实时位置坐标,并将实时位置坐标上传至云端,根据目标子区域对应边界点坐标,通过均值算法,得到目标子区域的中心点坐标,根据目标子区域的中心点坐标与扫地机器人的实时位置坐标差值,确定出扫地机器人的路径,根据地路径中的障碍物区域中的障碍物区域边界点坐标,确定出扫地机器人需要移动的方向与距离,确定出扫地机器人的移动路径。
本实施例中,步骤S15具体包括:
以所述第一入口坐标与所述扫地机器人的实时位置坐标为对角点,构建第一矩形;以所述第二入口坐标与所述扫地机器人的实时位置坐标为对角点,构建第二矩形;从所述第一矩形与第二矩形中选取面积及最大的矩形为目标矩形;根据每个子区域的子区域边界特征点坐标,以及所述目标矩形中的每个障碍区域的障碍物区域边界点坐标,以及所述扫地机器人的实时位置坐标,通过计算,得到所述扫地机器人的移动路径。
本实施例中,首先根据三维地图中与目标子区域相邻区域的边界线交点信息,得到目标子区域的第一入口坐标与第二入口坐标,以第一入口坐标与扫地机器人的实时位置坐标为对角点,构建第一矩形;以第二入口坐标与扫地机器人的实时位置坐标为对角点,构建第二矩形,构建第一矩形与第二矩形是确保扫地机器人移动到目标子区域的最短路径。
选择第一矩形与第二矩形中面积最大的矩形作为目标矩形,增加了障碍物区域与扫地机器人的安全距离。根据每个子区域的子区域边界特征点坐标,判断是否存在已划分的子区域与目标矩形相交的区域,即确定出机器人是否需要穿过多个区域,当不存在时,根据每个障碍物区域的障碍物区域边界点坐标,确定出目标矩形中对应的障碍物区域,将目标矩形划分划分为大小相等的多个子区域,根据障碍物区域占子区域的面积比,设置面积比阈值,将目标矩形中的子区域划分为障碍物密集区域与障碍物稀疏区域,使扫地机器人始终以障碍物稀疏区域所在的方向进行移动。
当存在已划分的区域与目标矩形相交的区域时,根据每个子区域的子区域边界特征点坐标,确定出目标子区域中是否存在不相通的相邻区域,由于不相通的相邻区域之间存在阻碍物,阻碍扫地机器人的移动,则需要扫地机器人进行实时移动时,根据扫地机器人的实时位置,建立实时的目标矩形,直到实时目标矩形中不存在已划分的区域与实时目标矩形相交的区域时,根据每个障碍物区域的障碍物区域边界点坐标,确定出目标矩形中对应的障碍物区域,将目标矩形划分划分为大小相等的多个子区域,根据障碍物区域占子区域的面积比,设置面积比阈值,将目标矩形中的子区域划分为障碍物密集区域与障碍物稀疏区域,使扫地机器人始终以障碍物稀疏区域所在的方向进行移动。
参见图3,是本发明另一实施例提供的一种扫地机器人的路径控制方法的流程示意图,如图3所示,该扫地机器人的路径控制方法还包括以下步骤:
S31:所述扫地机器人根据所述移动路径从所述实时位置坐标移动到所述目标子区域,根据接收到的所述语音信息进行相关操作。
本实施例中,在扫地机器人移动的过程中,若在中途遇到障碍物区域,则改变扫地机器人的移动路径,改变移动路径时,以障碍物稀疏区域所在的方向为基准,使扫地机器人在障碍物稀疏区域进行移动,以确保扫地机器人可以安全快速到达目标子区域。当扫地机器人到达目标子区域时,根据接收到的语音信息中对应的打扫指令,对目标子区域进行打扫,例如,对目标子区域扫地,或者对目标子区域进行擦地等。
需要说明的是,当扫地机器人接收到需要清扫的目标子区域时,在移动到目标子区域的过程中,扫地机器人的轮子动,但是风机、边刷等处于静止状态,直到扫地机器人前进至目标子区域之后,风机、边刷、中刷等结构才会工作,此时才是正式进去了清扫环节。这样做的方式能够节省电量,以备扫地机器人充分清扫。
本发明中根据获得的待清扫区域的全局深度图,通过三维重建算法,得到待清扫区域的三维地图,以及三维地图中的每个障碍物区域的障碍物区域边界点坐标,三维地图可以较清楚地显示障碍物的位置,将待清扫区域的三维地图划分为不同子区域,对每个子区域设置不同的名称,得到每个子区域的区域名称,设置不同子区域,使扫地机器人可以快速地定位到对应区域,提高了清扫效率,根据三维地图,获取每个子区域中的子区域边界特征点坐标;接收并识别用户的语音信息并将识别出的语音信息与每个子区域的子区域名称进行匹配,得到要清扫的目标子区域,根据得到的机器人的实时位置坐标,以及目标子区域的子区域边界特征点坐标和三维地图中的每个障碍物区域的障碍物区域边界点坐标,通过计算,得到扫地机器人到所述目标子区域的移动路径,基于障碍物对路径进行规划,使扫地机器人可以快速安全到达目标子区域,提高了扫地机器人的清扫效率。
对应于上文实施例的方法,图4示出了本发明实施例提供的扫地机器人的路径控制结构装置框图,上述扫地机器人的路径控制装置应用于计算机设备,计算机设备通过预设的应用程序接口连接目标数据库。在目标数据库被驱动运行以执行相应的任务时,会产生对应的任务日志,通过API可以采集到上述任务日志。为了便于说明,仅示出了与本发明实施例相关的部分。
参见图4,该扫地机器人的路径控制装置40包括:
获得单元41,用于获得待清扫区域的全局深度图;
得到单元42,用于根据获得的待清扫区域的全局深度图,通过三维重建算法,得到所述待清扫区域的三维地图,所述三维地图中得到每个障碍物区域的障碍物区域边界点坐标;
设置单元43,用于将所述待清扫区域的三维地图划分为多个子区域,对每个子区域设置不同的子区域名称并将这些子区域名称存储在扫地机器人的内置存储器中,获取每个子区域中的子区域边界特征点坐标;
匹配单元44,用于接收并识别用户的语音信息并将识别出的语音信息与每个子区域的子区域名称进行匹配,得到要清扫的目标子区域;
计算单元45,用于获取机器人的实时位置坐标并且根据所获取的机器人的实时位置坐标、所述要清扫的目标子区域的子区域边界特征点坐标和所述三维地图中的每个障碍物区域的障碍物区域边界点坐标,计算得出所述扫地机器人的清扫路径。
作为本发明一实施例,扫地机器人的路径控制装置40还包括:
第一执行单元46,用于所述扫地机器人根据所述移动路径从所述实时位置坐标移动到所述目标子区域,根据接收到的所述语音信息进行相关操作。
作为本发明一实施例,得到单元42具体用于,对所述全局深度图进行预处理,得到全局深度处理图;根据所述全局深度处理图,以及预先得到深度参数,通过计算得到点云数据;根据所述点云数据,通过三维重建算法,得到所述待清扫区域的三维地图,所述三维地图中得到每个障碍物区域的障碍物区域边界点坐标。
作为本发明一实施例,设置单元43具体用于,
根据所述三维地图,以及每个子区域中的相邻区域,得到每个子区域与相邻区域的公共边界线;从所述公共边界线中获取子区域边界特征点坐标。作为本发明一实施例,匹配单元44具体用于,接收到的语音信息通过预先训练好的语音识别模型,得到所述语音信息对应的语音文本;将所述语音文本与预先保存的每个子区域名称对应的文本进行关键词匹配,得到目标子区域。将接收到的语音信息进行语音处理,得到目标语音特征向量;所述目标语音特征向量通过预先训练好的语音识别模型,得到所述语音信息对应的语音文本。
作为本发明一实施例,计算单元45具体用于,根据所述三维地图获取所述目标子区域的第一入口坐标与第二入口坐标;
以所述第一入口坐标与所述扫地机器人的实时位置坐标为对角点,构建第一矩形;以所述第二入口坐标与所述扫地机器人的实时位置坐标为对角点,构建第二矩形;;从所述第一矩形与第二矩形中选取面积及最大的矩形为目标矩形;根据每个子区域的子区域边界特征点坐标,以及所述目标矩形中的每个障碍区域的障碍物区域边界点坐标,以及所述扫地机器人的实时位置坐标,通过计算,得到所述扫地机器人的移动路径。
需要说明的是,上述单元之间的信息交互、执行过程等内容,由于与本发明方法实施例基于同一构思,其具体功能及带来的技术效果,具体可参见方法实施例部分,此处不再赘述。
图5是本发明实施例提供的一种计算机设备的结构示意图。如图5所示,该实施例的计算机设备包括:至少一个处理器(图5中仅示出一个)、存储器以及存储在存储器中并可在至少一个处理器上运行的计算机程序,处理器执行计算机程序时实现上述任意扫地机器人的路径控制方法实施例中的步骤。
该计算机设备可包括,但不仅限于,处理器、存储器。本领域技术人员可以理解,图5仅仅是计算机设备的举例,并不构成对计算机设备的限定,计算机设备可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如还可以包括网络接口、显示屏和输入装置等。
所称处理器可以是CPU,该处理器还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific IntegratedCircuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
存储器包括可读存储介质、内存储器等,其中,内存储器可以是计算机设备的内存,内存储器为可读存储介质中的操作系统和计算机可读指令的运行提供环境。可读存储介质可以是计算机设备的硬盘,在另一些实施例中也可以是计算机设备的外部存储设备,例如,计算机设备上配备的插接式硬盘、智能存储卡(Smart Media Card,SMC)、安全数字(Secure Digital,SD)卡、闪存卡(Flash Card)等。进一步地,存储器还可以既包括计算机设备的内部存储单元也包括外部存储设备。存储器用于存储操作系统、应用程序、引导装载程序(BootLoader)、数据以及其他程序等,该其他程序如计算机程序的程序代码等。存储器还可以用于暂时地存储已经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本发明的保护范围。上述装置中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实现上述实施例方法中的全部或部分流程,可以通过计算机程序来指令相关的硬件来完成,计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述方法实施例的步骤。其中,计算机程序包括计算机程序代码,计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。计算机可读介质至少可以包括:能够携带计算机程序代码的任何实体或装置、记录介质、计算机存储器、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、电载波信号、电信信号以及软件分发介质。例如U盘、移动硬盘、磁碟或者光盘等。在某些司法管辖区,根据立法和专利实践,计算机可读介质不可以是电载波信号和电信信号。
本发明实现上述实施例方法中的全部或部分流程,也可以通过一种计算机程序产品来完成,当计算机程序产品在计算机设备上运行时,使得计算机设备执行时实现可实现上述方法实施例中的步骤。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
在本发明所提供的实施例中,应该理解到,所揭露的装置/计算机设备和方法,可以通过其它的方式实现。例如,以上所描述的装置/计算机设备实施例仅仅是示意性的,例如,模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围,均应包含在本发明的保护范围之内。

Claims (10)

1.一种扫地机器人的路径控制方法,其特征在于,包括:
获得待清扫区域的全局深度图;
根据获得的待清扫区域的全局深度图,通过三维重建算法得到所述待清扫区域的三维地图,从所述三维地图中得到每个障碍物区域的障碍物区域边界点坐标;
将所述待清扫区域的三维地图划分为多个子区域,对每个子区域设置不同的子区域名称并将这些子区域名称存储在扫地机器人的内置存储器中,获取每个子区域中的子区域边界特征点坐标;
接收并识别用户的语音信息并将识别出的语音信息与每个子区域的子区域名称进行匹配,得到要清扫的目标子区域;
获取机器人的实时位置坐标并且根据所获取的机器人的实时位置坐标、所述要清扫的目标子区域的子区域边界特征点坐标和所述三维地图中的每个障碍物区域的障碍物区域边界点坐标,计算得出所述扫地机器人的移动路径。
2.如权利要求1所述的扫地机器人的路径控制方法,其特征在于,所述根据获得的待清扫区域的全局深度图,通过三维重建算法得到所述待清扫区域的三维地图,从所述三维地图中得到每个障碍物区域的障碍物区域边界点坐标,包括:
对所述全局深度图进行预处理,得到全局深度处理图;
根据所述全局深度处理图,以及预先得到深度参数,通过计算得到点云数据;
根据所述点云数据,通过三维重建算法,得到所述待清扫区域的三维地图,所述三维地图中得到每个障碍物区域的障碍物区域边界点坐标。
3.如权利要求1所述的扫地机器人的路径控制方法,其特征在于,所述获取每个子区域中的子区域边界特征点坐标,包括:
根据所述三维地图,以及每个子区域中的相邻区域,得到每个子区域与相邻区域的公共边界线;
从所述公共边界线中获取子区域边界特征点坐标。
4.如权利要求1所述的扫地机器人的路径控制方法,其特征在于,所述接收并识别用户的语音信息并将识别出的语音信息与每个子区域的子区域名称进行匹配,得到要清扫的目标子区域,包括:
接收到的语音信息通过预先训练好的语音识别模型,得到所述语音信息对应的语音文本;
将所述语音文本与预先保存的每个子区域名称对应的文本进行关键词匹配,得到目标子区域。
5.如权利要求4所述的扫地机器人的路径控制方法,其特征在于,所述接收到的语音信息通过预先训练好的语音识别模型,得到所述语音信息对应的语音文本,包括:
将接收到的语音信息进行语音处理,得到目标语音特征向量;
所述目标语音特征向量通过预先训练好的语音识别模型,得到所述语音信息对应的语音文本。
6.如权利要求1所述的扫地机器人的路径控制方法,其特征在于,所述获取机器人的实时位置坐标并且根据所获取的机器人的实时位置坐标、所述要清扫的目标子区域的子区域边界特征点坐标和所述三维地图中的每个障碍物区域的障碍物区域边界点坐标,计算得出所述扫地机器人的清扫路径,包括:
根据所述三维地图获取所述目标子区域的第一入口坐标与第二入口坐标;
以所述第一入口坐标与所述扫地机器人的实时位置坐标为对角点,构建第一矩形;
以所述第二入口坐标与所述扫地机器人的实时位置坐标为对角点,构建第二矩形;
从所述第一矩形与第二矩形中选取面积及最大的矩形为目标矩形;
根据每个子区域的子区域边界特征点坐标,以及所述目标矩形中的每个障碍区域的障碍物区域边界点坐标,以及所述扫地机器人的实时位置坐标,通过计算,得到所述扫地机器人的移动路径。
7.如权利要求1所述的扫地机器人的路径控制方法,其特征在于,所述获取机器人的实时位置坐标并且根据所获取的机器人的实时位置坐标、所述要清扫的目标子区域的子区域边界特征点坐标和所述三维地图中的每个障碍物区域的障碍物区域边界点坐标,计算得出所述扫地机器人的清扫路径之后,还包括:
所述扫地机器人根据所述移动路径从所述实时位置坐标移动到所述目标子区域,根据接收到的所述语音信息进行相关操作。
8.一种扫地机器人的路径控制装置,其特征在于,
获得单元:获得待清扫区域的全局深度图;
得到单元:根据获得的待清扫区域的全局深度图,通过三维重建算法,得到所述待清扫区域的三维地图,所述三维地图中得到每个障碍物区域的障碍物区域边界点坐标;
设置单元:将所述待清扫区域的三维地图划分为多个子区域,对每个子区域设置不同的子区域名称并将这些子区域名称存储在扫地机器人的内置存储器中,获取每个子区域中的子区域边界特征点坐标;
匹配单元:接收并识别用户的语音信息并将识别出的语音信息与每个子区域的子区域名称进行匹配,得到要清扫的目标子区域;
计算单元:获取机器人的实时位置坐标并且根据所获取的机器人的实时位置坐标、所述要清扫的目标子区域的子区域边界特征点坐标和所述三维地图中的每个障碍物区域的障碍物区域边界点坐标,计算得出所述扫地机器人的清扫路径。
9.一种终端设备,其特征在于,所述终端设备包括处理器、存储器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述的扫地机器人的路径控制方法。
10.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的扫地机器人的路径控制方法。
CN202210445296.2A 2022-04-26 2022-04-26 一种扫地机器人的路径控制方法、装置、设备及存储介质 Active CN115381335B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210445296.2A CN115381335B (zh) 2022-04-26 2022-04-26 一种扫地机器人的路径控制方法、装置、设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210445296.2A CN115381335B (zh) 2022-04-26 2022-04-26 一种扫地机器人的路径控制方法、装置、设备及存储介质

Publications (2)

Publication Number Publication Date
CN115381335A true CN115381335A (zh) 2022-11-25
CN115381335B CN115381335B (zh) 2024-01-02

Family

ID=84115548

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210445296.2A Active CN115381335B (zh) 2022-04-26 2022-04-26 一种扫地机器人的路径控制方法、装置、设备及存储介质

Country Status (1)

Country Link
CN (1) CN115381335B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116627057A (zh) * 2023-05-30 2023-08-22 驭慕科技(上海)有限公司 一种清洁系统的控制方法、存储介质及程序
CN117173415A (zh) * 2023-11-03 2023-12-05 南京特沃斯清洁设备有限公司 用于大型洗地机的视觉分析方法及系统

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20130042389A (ko) * 2011-10-18 2013-04-26 엘지전자 주식회사 이동 로봇 및 이의 제어 방법
US20180147721A1 (en) * 2016-11-28 2018-05-31 Brain Corporation Systems and methods for remote operating and/or monitoring of a robot
CN110522359A (zh) * 2019-09-03 2019-12-03 深圳飞科机器人有限公司 清洁机器人以及清洁机器人的控制方法
CN111743476A (zh) * 2020-06-18 2020-10-09 小狗电器互联网科技(北京)股份有限公司 扫地机器人的清扫方法及装置
CN111743462A (zh) * 2020-06-18 2020-10-09 小狗电器互联网科技(北京)股份有限公司 扫地机器人的清扫方法及装置
CN111899299A (zh) * 2020-06-16 2020-11-06 弗徕威智能机器人科技(上海)有限公司 地面障碍物地图标记方法、移动机器人和存储介质
CN112085838A (zh) * 2020-09-10 2020-12-15 追创科技(苏州)有限公司 自动清洁设备控制方法、装置及存储介质

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20130042389A (ko) * 2011-10-18 2013-04-26 엘지전자 주식회사 이동 로봇 및 이의 제어 방법
US20180147721A1 (en) * 2016-11-28 2018-05-31 Brain Corporation Systems and methods for remote operating and/or monitoring of a robot
CN110522359A (zh) * 2019-09-03 2019-12-03 深圳飞科机器人有限公司 清洁机器人以及清洁机器人的控制方法
CN111899299A (zh) * 2020-06-16 2020-11-06 弗徕威智能机器人科技(上海)有限公司 地面障碍物地图标记方法、移动机器人和存储介质
CN111743476A (zh) * 2020-06-18 2020-10-09 小狗电器互联网科技(北京)股份有限公司 扫地机器人的清扫方法及装置
CN111743462A (zh) * 2020-06-18 2020-10-09 小狗电器互联网科技(北京)股份有限公司 扫地机器人的清扫方法及装置
CN112085838A (zh) * 2020-09-10 2020-12-15 追创科技(苏州)有限公司 自动清洁设备控制方法、装置及存储介质

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116627057A (zh) * 2023-05-30 2023-08-22 驭慕科技(上海)有限公司 一种清洁系统的控制方法、存储介质及程序
CN116627057B (zh) * 2023-05-30 2024-05-28 驭慕科技(上海)有限公司 一种清洁系统的控制方法、存储介质及程序
CN117173415A (zh) * 2023-11-03 2023-12-05 南京特沃斯清洁设备有限公司 用于大型洗地机的视觉分析方法及系统
CN117173415B (zh) * 2023-11-03 2024-01-26 南京特沃斯清洁设备有限公司 用于大型洗地机的视觉分析方法及系统

Also Published As

Publication number Publication date
CN115381335B (zh) 2024-01-02

Similar Documents

Publication Publication Date Title
CN111328396B (zh) 用于图像中的对象的姿态估计和模型检索
JP6200989B2 (ja) 物体姿勢認識
CN107766839B (zh) 基于3d卷积神经网络的动作识别方法和装置
Alvarez et al. Providing guidance for maintenance operations using automatic markerless augmented reality system
CN115381335B (zh) 一种扫地机器人的路径控制方法、装置、设备及存储介质
JP7438320B2 (ja) クロスモーダルセンサデータの位置合わせ
CN111316291A (zh) 用生成式对抗神经网络分割和去噪深度图像用于识别应用
WO2018125339A2 (en) Computer vision systems and methods for detecting and modeling features of structures in images
CN109176512A (zh) 一种体感控制机器人的方法、机器人及控制装置
US6668084B1 (en) Image recognition method
CN111309035B (zh) 多机器人协同移动与动态避障方法、装置、设备及介质
CN114219855A (zh) 点云法向量的估计方法、装置、计算机设备和存储介质
CN114548253A (zh) 一种基于图像识别及动态匹配的数字孪生模型构建系统
CN115063768A (zh) 三维目标检测方法、编码器及解码器
CN115330946A (zh) 元宇宙构建方法、装置、存储介质及电子设备
CN113222961A (zh) 智能船体检测系统及方法
CN113496163B (zh) 障碍物识别方法和装置
CN117689887A (zh) 基于点云分割的工件抓取方法、装置、设备及存储介质
CN117213496A (zh) 视觉导航方法及装置、电子设备和存储介质
CN112528918A (zh) 道路元素识别方法、地图标注方法及装置、车辆
CN115670308A (zh) 一种扫地机器人的清扫方法、装置、设备及存储介质
CN108805121B (zh) 一种车牌检测定位方法、装置、设备及计算机可读介质
CN111860084A (zh) 图像特征的匹配、定位方法及装置、定位系统
Akiyama et al. Fine-grained object detection and manipulation with segmentation-conditioned perceiver-actor
CN112449701A (zh) 学习模板表示库

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant