CN114043478B - 机器人复杂操作技能表示方法、装置、智能终端和介质 - Google Patents

机器人复杂操作技能表示方法、装置、智能终端和介质 Download PDF

Info

Publication number
CN114043478B
CN114043478B CN202111403922.3A CN202111403922A CN114043478B CN 114043478 B CN114043478 B CN 114043478B CN 202111403922 A CN202111403922 A CN 202111403922A CN 114043478 B CN114043478 B CN 114043478B
Authority
CN
China
Prior art keywords
sequence
skill
action
operation skill
obtaining
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202111403922.3A
Other languages
English (en)
Other versions
CN114043478A (zh
Inventor
黄海明
邱志鹏
钟达明
孙富春
文振焜
缪圣义
陈小军
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen University
Original Assignee
Shenzhen University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen University filed Critical Shenzhen University
Priority to CN202111403922.3A priority Critical patent/CN114043478B/zh
Publication of CN114043478A publication Critical patent/CN114043478A/zh
Application granted granted Critical
Publication of CN114043478B publication Critical patent/CN114043478B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1628Programme controls characterised by the control loop
    • B25J9/163Programme controls characterised by the control loop learning, adaptive, model based, rule based expert control
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/02Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]

Landscapes

  • Engineering & Computer Science (AREA)
  • Robotics (AREA)
  • Mechanical Engineering (AREA)
  • Manipulator (AREA)
  • Numerical Control (AREA)

Abstract

本发明公开了机器人复杂操作技能表示方法、装置、智能终端及介质,其中,上述方法包括:基于预先获得的操作技能数据集,获得执行目标操作任务所需要的操作技能序列;获得所述操作技能序列中每一项操作技能所执行的动作基元序列并根据所述动作基元序列获得动作执行序列;融合所有的所述动作执行序列,获得与所述操作技能序列对应的技能表征序列。与现有技术相比,本发明方案通过获得执行目标操作任务所需要的操作技能序列,再获得动作执行序列,并对获得的动作执行序列进行融合,使得机器人具备一定的任务规划能力和操作技能学习能力,能够解决和应对复杂的任务。

Description

机器人复杂操作技能表示方法、装置、智能终端和介质
技术领域
本发明涉及机器人技能学习技术领域,尤其涉及的是一种机器人复杂操作技能表示方法、装置、智能终端和介质。
背景技术
随着人们生活质量的提高和机器人技术的发展,人们对智能机器人的需求越来越多,各种功能的机器人应运而生。传统的依靠人工预定规则的机器人操作和编程方法只能执行简单重复性工作,难以满足目前智能制造业对机器人技术应用的需求。
因此,需要一种新的机器人任务规划方法,用来将复杂任务分解为若干个机器人可以直接执行的操作技能,从而让机器人能够从人类示范数据中进行复杂操作技能的学习,实现机器人的快速编程与推广。
因此,现有技术还有待改进和发展。
发明内容
本发明的主要目的在于提供一种机器人复杂操作技能表示方法、装置、智能终端和介质,旨在解决现有技术中机器人无法应对复杂的任务的问题,使机器人具备一定的任务规划能力和操作技能学习能力。
为了实现上述目的,本发明提供了机器人复杂操作技能表示方法,其中,上述方法包括:
基于预先获得的操作技能数据集,获得执行目标操作任务所需要的操作技能序列;
获得所述操作技能序列中每一项操作技能所执行的动作基元序列并根据所述动作基元序列获得动作执行序列;
融合所有的所述动作执行序列,获得与所述操作技能序列对应的技能表征序列。
可选的,所述获得所述操作技能序列中每一项操作技能所执行的动作基元序列,包括:
基于预先获得的操作技能数据集,获得所述操作技能所执行的动作基元列表;
根据目标操作任务对所述动作基元列表进行筛选;
所述筛选后的动作基元列表为所述操作技能所执行的动作基元序列。
可选的,所述根据所述动作基元序列获得动作执行序列,包括:
获得当前任务场景;
基于所述任务场景,获得与所述动作基元相匹配的动作参数序列;
将所述动作基元序列与所述动作参数序列融合,获得所述动作执行序列。
可选的,获得所述操作技能数据集的方法,包括:
获得目标任务场景下的设定操作技能序列;
基于设定的操作技能分类,依次对所述设定操作技能序列中的每一项操作技能进行标注;
对所述设定操作技能序列中的每一项操作技能进行拖动示教,记录机器人在每一项操作技能示教过程中的各个动作基元;
将所述动作基元与所述操作技能建立关联,获得所述操作技能数据集。
可选的,所述基于预先获得的操作技能数据集,获得执行目标操作任务所需要的操作技能序列,包括:
根据神经网络模型获得目标操作任务的操作技能序列;
基于预先获得的操作技能数据集,对所述操作技能序列进行筛选,获得筛选后的操作技能序列;
所述筛选后的操作技能序列形成所述执行目标操作任务所需要的操作技能序列。
可选的,所述基于预先获得的操作技能数据集,对所述操作技能序列进行筛选,获得筛选后的操作技能序列,包括:
依次将所述操作技能序列中每一项操作技能与当前任务场景进行匹配,获得匹配结果,当所述匹配结果为不匹配时,将所述操作技能从所述操作技能序列中删除。
可选的,所述目标操作任务为预先编写好的任务描述文件,所述获得执行目标操作任务所需要的操作技能序列,包括:
根据所述任务描述文件通过人工智能规划语言获得所述操作技能序列。
为了实现上述目的,本发明还提供了一种机器人复杂操作技能表示装置,包括:
操作技能序列获取模块,用于基于预先获得的操作技能数据集,获得执行目标操作任务所需要的操作技能序列;
分解模块,用于获得所述操作技能序列中每一项操作技能所执行的动作基元序列并根据所述动作基元序列获得动作执行序列;
融合模块,用于融合所有的所述动作执行序列,获得与所述操作技能序列对应的技能表征序列。
为了实现上述目的,本发明还提供了一种智能终端,上述智能终端包括存储器、处理器以及存储在上述存储器上并可在上述处理器上运行的机器人复杂操作技能表示程序,上述机器人复杂操作技能表示程序被上述处理器执行时实现任意一项上述机器人复杂操作技能表示方法的步骤。
为了实现上述目的,本发明还提供了一种计算机可读存储介质,上述计算机可读存储介质上存储有机器人复杂操作技能表示程序,上述机器人复杂操作技能表示程序被处理器执行时实现任意一项上述机器人复杂操作技能表示方法的步骤。
由上述可见,本发明的机器人复杂操作技能表示方法、装置、智能终端及介质,基于预先获得的操作技能数据集,获得执行目标操作任务所需要的操作技能序列,再根据操作技能序列中的每一项操作技能获得对应的动作执行序列,并对获得的动作执行序列进行融合,实现对目标操作任务对应的复杂操作技能的表征。从而使得机器人具备一定的任务规划能力和操作技能学习能力,能够解决和应对复杂的任务。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其它的附图。
图1是本发明实施例提供的机器人复杂操作技能表示方法的流程示意图;
图2是本发明实施例提供的一种机器人复杂操作技能表示装置的结构示意图;
图3是本发明实施例提供的一种智能终端的内部结构原理框图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、技术之类的具体细节,以便透彻理解本发明实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本发明。在其它情况下,省略对众所周知的系统、装置、电路以及方法的详细说明,以免不必要的细节妨碍本发明的描述。
应当理解,当在本说明书和所附权利要求书中使用时,术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解,在本发明说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本发明。如在本发明说明书和所附权利要求书中所使用的那样,除非上下文清楚地指明其它情况,否则单数形式的“一”、“一个”及“该”意在包括复数形式。
还应当进一步理解,在本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
如在本说明书和所附权利要求书中所使用的那样,术语“如果”可以依据上下文被解释为“当…时”或“一旦”或“响应于确定”或“响应于检测到”。类似的,短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述的条件或事件]”或“响应于检测到[所描述条件或事件]”。
下面结合本发明实施例的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明的一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例,都属于本发明保护的范围。
在下面的描述中阐述了很多具体细节以便于充分理解本发明,但是本发明还可以采用其它不同于在此描述的其它方式来实施,本领域技术人员可以在不违背本发明内涵的情况下做类似推广,因此本发明不受下面公开的具体实施例的限制。
随着人们生活质量的提高和机器人技术的发展,人们对智能机器人的需求越来越多,各种功能的机器人应运而生。传统的依靠人工预定规则的机器人操作和编程方法只能执行简单重复性工作,难以满足目前智能制造业对机器人技术应用的需求。
因此,需要一种新的机器人任务规划方法,用来将复杂任务分解为若干个机器人可以直接执行的操作序列,从而让机器人能够从人类示范数据中进行复杂操作技能的学习,实现机器人的快速编程与推广。
本发明方案中,基于预先获得的操作技能数据集,获得执行目标操作任务所需要的操作技能序列;获得所述操作技能序列中每一项操作技能所执行的动作基元序列并根据所述动作基元序列获得动作执行序列;融合所有的所述动作执行序列,获得与所述操作技能序列对应的技能表征序列。与现有技术相比,通过获得执行目标操作任务所需要的操作技能序列,再根据操作技能序列中的每一项操作技能获得对应的动作执行序列,并对获得的动作执行序列进行融合,实现对目标操作任务对应的复杂操作技能的表征。从而使得机器人具备一定的任务规划能力和操作技能学习能力,能够解决和应对复杂的任务。
示例性方法
如图1所示,本发明实施例提供一种机器人复杂操作技能表示方法,具体的,上述方法包括如下步骤:
步骤S100:基于预先获得的操作技能数据集,获得执行目标操作任务所需要的操作技能序列;
具体的,机器人的操作技能是指机器人基于自身的传感、感知、决策、规划与控制能力,在有限时间内操作环境中的特定物体,使该物体由初始状态到达目标状态。各项操作技能的粗粒度由人类对复杂任务的定义和理解进行划分而取得的。每项操作技能又包含一项或多项机器人的具体动作,这些动作称为动作基元。例如:拍照、识别、平移、竖移、吸装、调姿、松开等。根据动作基元的属性可以将机器人的动作基元分为以下几类:空间位置类、空间姿态类、力向量类、力扭矩类、时间延迟类、附件控制类等。
根据操作技能中所执行的动作基元的数量、属性等,也可以将操作技能作相应的分类。具体的可以根据单个动作基元或多个动作基元的组合将操作技能分类为以下大类:仅包含空间位置的技能、仅包括空间姿态的技能、仅包含力向量的技能、仅包含力扭矩的技能、包含空间位置和姿态的技能、包含空间位置和力向量的技能、包含空间位置和力扭矩的技能、包含空间姿态和力向量的技能、包含力方向和力扭矩的技能,仅包含时间延时的技能、仅包含执行器操作的技能、包含空间位置姿态和力方向的技能等。通过将操作技能进行相应的归类,在对操作技能进行表示时,可以根据操作技能的分类来判断是否需要从操作任务中获取参数、需要获取哪些相应的参数等。举例来说,对于仅包含空间位置的操作技能,表示位置移动的动作基元就与目标位置参数相关。例如:在倒一杯水的具体场景中,移动到水杯所在位置、将夹爪伸到螺丝或螺母的上方这些都是空间位置的改变;在将螺丝拧入螺母的操作技能中,不仅包括将夹爪移动到指定位置,还包括需要调整机器人的姿态和角度才能将螺丝拧入螺母中。
现有的机器人还无法完整的执行人类指定的较为复杂的任务,或完成一次相对较为复杂的交互。比如用户对机器人说:“去帮我倒杯咖啡”,这就需要机器人理解这句话,并得出如下信息:去哪里拿杯子?装咖啡用什么杯子?咖啡机在哪里?还需要知道操作咖啡机的步骤等。因此,需要根据预先获得的操作技能数据集,查找到倒咖啡场景下,完成“去帮我倒杯咖啡”需要包含哪些操作技能,这些操作技能组合起来形成执行目标操作任务所需要的操作技能序列。获得操作技能序列后,就可以进行进一步的任务规划、路径规划、定位和移动,从而执行一系列动作完成规定的任务。
在本实施例中,通过神经网络模型对目标操作任务进行分析,获得操作技能序列;为了使得获得的操作技能序列更加准确,基于预先获得的操作技能数据集,还对获得的操作技能序列进行了进一步筛选,经筛选后的操作技能序列才是执行目标操作任务所需要的操作技能序列。优选根据当前任务场景对获得的操作技能序列进行筛选,即:依次将操作技能序列中每一项操作技能与当前任务场景进行匹配,获得匹配结果,当所述匹配结果为不匹配时,将操作技能从操作技能序列中删除。也就是说,将与当前任务场景不相关的操作技能进行剔除,从而根据操作技能获得的技能表征序列才能够更加准确。
可选的,当目标操作任务为预先编写好的任务描述文件时,可以通过人工智能规划语言(PDDL)对任务描述文件进行解析获得操作技能序列。具体的,根据给定的任务,利用语义理解技术理解所要执行的任务,从事先定义的任务库中匹配与该任务相关的域文件和问题文件,并将这两个文件输入到PDDL规划器中,获得操作技能序列。
其中,可以通过逐个模拟任务场景进行示教训练的方式获得操作技能数据集。例如,对于某一个具体的目标任务场景,设定该目标任务场景下包括的操作技能序列。然后根据设定的操作技能分类,依次对操作技能序列中的每一项操作技能标注上对应的操作技能分类;再对操作技能序列中的每一项操作技能进行拖动示教,记录机器人在每一项操作技能示教过程中的各个动作基元;将动作基元与操作技能建立关联形成的数据集即为操作技能数据集。当然,当动作基元所对应的动作需要动作参数时,也可以将动作基元的动作参数和/或目标任务场景等加入到操作技能数据集中。例如:移动到某一个具体的空间位置,空间位置的具体坐标就是移动动作相关的动作参数。动作基元对应的动作参数根据动作基元不同而不同,可能是位置坐标、角度方向、力向量方向,时间计数等。
进一步的,操作技能的粗粒度由人类对复杂任务的定义和理解进行划分,最初的操作技能数据集可能只包含很细粒度的操作技能,随着操作技能数据集中的操作技能越来越多,可以将操作技能再进行组合,形成粗粒度的操作技能,从而形成一个层级向上递增的操作技能数据集,使得机器人能够处理越来越复杂的操作任务。在将操作技能粗粒度化的过程中,也可以将多个相关的动作基元组合构成复合基元,从而动作基元也逐渐泛化,能够应用于更高层级的动作。
步骤S200:获得所述操作技能序列中每一项操作技能所执行的动作基元序列并根据所述动作基元序列获得动作执行序列;
具体的,在根据目标操作任务获得对应的操作技能序列后,需要进一步的对操作技能序列中的每一项操作技能进行解析获得动作基元序列,从而根据动作基元序列获得动作执行序列。然后机器人就可以根据动作执行序列来自动完成每一项操作技能。本实施例在对每一项操作技能进行解析时,根据预先获得的操作技能数据集,获得该项操作技能所执行的动作基元列表,枚举目标操作任务中包括的动作基元序列,筛选到同时属于动作基元列表与动作基元序列中的动作基元上述多个动作基元组成与该操作技能对应的动作基元序列。根据当前任务场景获得每个动作基元相匹配的动作参数,将动作基元序列与动作参数序列融合后获得动作执行序列。动作基元序列与动作参数组合的形式不做限制,可以是动作基元+动作参数的组合形式,也可以是动作基元序列+动作参数序列的组合形式。
可选的,当将待执行的操作任务复杂度很高,牵涉到很多的子任务时,还可以根据操作技能序列中的操作技能,将待执行的操作任务分解为相应的子任务。然后直接从子任务中获得与操作技能的分类相对应的动作基元,并根据当前任务场景获得每个动作基元相匹配的动作参数,将动作基元序列与动作参数融合后获得动作执行序列。
步骤S300:融合所有的所述动作执行序列,获得与所述操作技能序列对应的技能表征序列。
具体的,获得每一项操作技能的动作执行序列后,需要将操作技能序列中的所有操作技能所对应的动作执行序列进行融合,得到最终的与操作技能序列对应的技能表征序列。在一种应用场景中,直接将所有操作技能所对应的动作执行序列按照动作的先后顺序进行组合获得技能表征序列。该技能表征序列即为目标操作任务的自动解析结果,机器人就可以加载该技能表征序列自动执行完成操作任务,提升执行效率。
由于机器人在执行动作时,需要一定的执行空间冗余,以保证机器人在执行任务的过程中不会发生碰撞,要保证机器人在经过目标路径的节点时,能够在各个节点之间自由移动,因此,机器人在执行动作时还包括过渡动作,用于衔接动作前与动作后的两个节点。本实施例在融合每一项操作技能的动作执行序列时,根据当前任务场景的需要,在前一项操作技能的动作执行序列的末尾、当前项操作技能的动作执行序列的头部,添加用于过渡的动作执行序列。用于过渡的动作执行序列也可以基于当前任务场景,从操作技能数据集获得。
容易理解的是,操作技能的分类可以根据多种维度来进行。例如:还可以根据有无感知反馈,将操作技能分为开环技能和闭环技能;根据有无循环,将操作技能分为开链技能和闭链技能;根据传感器量,将操作技能分为简单感知技能和复杂感知技能;根据多源、多模态传感器融合将操作技能分为融合感知技能;根据运动动作将操作技能分为运动技能;根据末端操作将操作技能分为操作技能;根据包含感知、运动等多种属性将操作技能可以分为复杂技能等等,不同的操作技能分类包括的动作基元也各不相同。
综上所述,通过获得执行目标操作任务所需要的操作技能序列,再根据操作技能序列中的每一项操作技能获得对应的动作执行序列,并对获得的动作执行序列进行融合,实现对复杂操作技能的表征。从而使得机器人能够完成用户下达的较为复杂的任务或者与用户之间较为复杂的交互,提升用户体验。
示例性设备
如图2中所示,对应于上述机器人复杂操作技能表示方法,本发明实施例还提供一种机器人复杂操作技能表示装置,上述机器人复杂操作技能表示装置包括:
操作技能序列获取模块600,用于基于预先获得的操作技能数据集,获得执行目标操作任务所需要的操作技能序列;
现有的机器人还无法完整的执行人类指定的较为复杂的任务,或完成一次相对较为复杂的交互。比如用户对机器人说:“去帮我倒杯咖啡”,这就需要机器人理解这句话,并得出如下信息:去哪里拿杯子?装咖啡用什么杯子?咖啡机在哪里?还需要知道操作咖啡机的步骤等。因此,需要根据预先获得的操作技能数据集,查找到倒咖啡场景下,完成“去帮我倒杯咖啡”需要包含哪些操作技能,这些操作技能组合起来形成执行目标操作任务所需要的操作技能序列。获得操作技能序列后,就可以进行任务规划、路径规划、定位和移动从而执行一系列动作完成规定的任务。
操作技能序列获取模块600通过神经网络模型对目标操作任务进行分析,获得操作技能序列;为了使得获得的操作技能序列更加准确,基于预先获得的操作技能数据集,还对获得的操作技能序列进行了进一步筛选,经筛选后的操作技能序列才是执行目标操作任务所需要的操作技能序列。优选根据当前任务场景对获得的操作技能序列进行筛选,即:依次将操作技能序列中每一项操作技能与当前任务场景进行匹配,获得匹配结果,当所述匹配结果为不匹配时,将操作技能从操作技能序列中删除。也就是说,将与当前任务场景不相关的操作技能进行剔除,从而根据操作技能获得的技能表征序列才能够更加准确。
可选的,当目标操作任务为预先编写好的任务描述文件时,可以通过人工智能规划语言(PDDL)对任务描述文件进行解析获得操作技能序列。具体的,根据给定的任务,利用语义理解技术理解所要执行的任务,从事先定义的任务库中匹配与该任务相关的域文件和问题文件,并将这两个文件输入到PDDL规划器中,获得操作技能序列。
其中,可以通过逐个模拟任务场景进行示教训练的方式获得操作技能数据集。例如,对于某一个具体的目标任务场景,设定该目标任务场景下包括的操作技能序列。然后根据设定的操作技能分类,依次对操作技能序列中的每一项操作技能标注上对应的操作技能分类;再对操作技能序列中的每一项操作技能进行拖动示教,记录机器人在每一项操作技能示教过程中的各个动作基元;将动作基元与操作技能建立关联形成的数据集即为操作技能数据集。当然,当动作基元所对应的动作需要动作参数时,也可以将动作基元的动作参数和/或目标任务场景等加入到操作技能数据集中。例如:移动到某一个具体的空间位置,空间位置的具体坐标就是移动动作相关的动作参数。动作基元的动作参数根据动作基元不同而不同,可能是位置坐标、角度方向、力向量方向,时间计数等。
进一步的,操作技能的粗粒度由人类对复杂任务的定义和理解进行划分,最初的操作技能数据集可能只包含很细粒度的操作技能,随着操作技能数据集中的操作技能越来越多,可以将操作技能再进行组合,形成粗粒度的操作技能,从而形成一个层级向上递增的操作技能数据集,使得机器人能够处理越来越复杂的操作任务。在将操作技能粗粒度化的过程中,也可以将多个相关的动作基元组合构成复合基元,从而动作基元也逐渐泛化,能够应用于更高层级的动作。
分解模块610,用于获得所述操作技能序列中每一项操作技能所执行的动作基元序列并根据所述动作基元序列获得动作执行序列;
具体的,在根据目标操作任务获得对应的操作技能序列后,需要进一步的对操作技能序列中的每一项操作技能进行解析获得动作基元,从而根据动作基元获得动作执行序列。然后机器人就可以根据动作执行序列来自动完成每一项操作技能。分解模块610在对每一项操作技能进行解析时,根据预先获得的操作技能数据集,获得该项操作技能所执行的动作基元列表,枚举目标操作任务中包括的动作基元序列,筛选到同时属于动作基元列表与动作基元序列中的动作基元上述多个动作基元组成与该操作技能对应的动作基元序列。根据当前任务场景获得每个动作基元相匹配的动作参数,将动作基元序列与动作参数序列融合后获得动作执行序列。动作基元序列与动作参数组合的形式不做限制,可以是动作基元+动作参数的组合形式,也可以是动作基元序列+动作参数序列的组合形式。
可选的,当将待执行的操作任务复杂度很高,牵涉到很多的子任务时,还可以根据操作技能序列中的操作技能,将待执行的操作任务分解为相应的子任务。然后直接从子任务中获得与操作技能的分类相对应的动作基元,并根据当前任务场景获得每个动作基元相匹配的动作参数,将动作基元序列与动作参数融合后获得动作执行序列。
融合模块620,用于融合所有的所述动作执行序列,获得与所述操作技能序列对应的技能表征序列。
具体的,获得每一项操作技能的动作执行序列后,融合模块620需要将操作技能序列中的所有操作技能所对应的动作执行序列进行融合,得到最终的与操作技能序列对应的技能表征序列。该技能表征序列即为目标操作任务的自动解析结果,机器人就可以加载该技能表征序列自动执行完成操作任务,提升执行效率。
由于机器人在执行动作时,需要一定的执行空间冗余,以保证机器人在执行任务的过程中不会发生碰撞,要保证机器人在经过目标路径的节点时,能够在各个节点之间自由移动,因此,机器人在执行动作时还包括过渡动作,用于衔接动作前与动作后的两个节点。融合模块620在融合每一项操作技能的动作执行序列时,根据当前任务场景的需要,在前一项操作技能的动作执行序列的末尾、当前项操作技能的动作执行序列的头部,添加用于过渡的动作执行序列。用于过渡的动作执行序列也可以基于当前任务场景,从操作技能数据集获得。
本实施例中,上述机器人复杂操作技能表示装置的各模块的具体功能可以参照上述机器人复杂操作技能表示方法中的对应描述,在此不再赘述。
基于上述实施例,本发明还提供了一种智能终端,其原理框图可以如图3所示。上述智能终端包括通过系统总线连接的处理器、存储器、网络接口以及显示屏。其中,该智能终端的处理器用于提供计算和控制能力。该智能终端的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统和机器人复杂操作技能表示程序。该内存储器为非易失性存储介质中的操作系统和机器人复杂操作技能表示程序的运行提供环境。该智能终端的网络接口用于与外部的终端通过网络连接通信。该机器人复杂操作技能表示程序被处理器执行时实现上述任意一种机器人复杂操作技能表示方法的步骤。该智能终端的显示屏可以是液晶显示屏或者电子墨水显示屏。
本领域技术人员可以理解,图3中示出的原理框图,仅仅是与本发明方案相关的部分结构的框图,并不构成对本发明方案所应用于其上的智能终端的限定,具体的智能终端可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
在一个实施例中,提供了一种智能终端,上述智能终端包括存储器、处理器以及存储在上述存储器上并可在上述处理器上运行的机器人复杂操作技能表示程序,上述机器人复杂操作技能表示程序被上述处理器执行时进行以下操作指令:
基于预先获得的操作技能数据集,获得与待执行的操作任务对应的操作技能序列;
依次对所述操作技能序列中每一项操作技能执行如下操作:从所述待执行的操作任务中获得与所述操作技能对应的动作基元,基于所述动作基元,获得动作执行序列;
融合每一项所述操作技能的动作执行序列,获得与所述操作技能序列对应的技能表征序列。
本发明实施例还提供一种计算机可读存储介质,上述计算机可读存储介质上存储有机器人复杂操作技能表示程序,上述机器人复杂操作技能表示程序被处理器执行时实现本发明实施例提供的任意一种机器人复杂操作技能表示方法的步骤。
应理解,上述实施例中各步骤的序号大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本发明实施例的实施过程构成任何限定。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将上述装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本发明的保护范围。上述系统中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各实例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟是以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
在本发明所提供的实施例中,应该理解到,所揭露的装置/终端设备和方法,可以通过其它的方式实现。例如,以上所描述的装置/终端设备实施例仅仅是示意性的,例如,上述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以由另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。
上述集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读存储介质中。基于这样的理解,本发明实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,上述计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,上述计算机程序包括计算机程序代码,上述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。上述计算机可读介质可以包括:能够携带上述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,RandomAccess Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是,上述计算机可读存储介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减。
以上所述实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解;其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不是相应技术方案的本质脱离本发明各实施例技术方案的精神和范围,均应包含在本发明的保护范围之内。

Claims (8)

1.机器人复杂操作技能表示方法,其特征在于,包括如下步骤:
基于预先获得的操作技能数据集,获得执行目标操作任务所需要的操作技能序列;
获得所述操作技能序列中每一项操作技能所执行的动作基元序列并根据所述动作基元序列获得动作执行序列;
融合所有的所述动作执行序列,获得与所述操作技能序列对应的技能表征序列;
获得所述操作技能数据集的方法,包括:
获得目标任务场景下的设定操作技能序列;基于设定的操作技能分类,依次对所述设定操作技能序列中的每一项操作技能进行标注;对所述设定操作技能序列中的每一项操作技能进行拖动示教,记录机器人在每一项操作技能示教过程中的各个动作基元;将所述动作基元与所述操作技能建立关联,获得所述操作技能数据集,所述设定的操作技能分类是根据操作技能中所包括的动作基元的数量和属性进行分类的;
所述根据所述动作基元序列获得动作执行序列,包括:
获得当前任务场景;基于所述任务场景,获得与所述动作基元相匹配的动作参数序列;将所述动作基元序列与所述动作参数序列融合,获得所述动作执行序列,所述获得与所述动作基元相匹配的动作参数序列,包括:通过动作基元对应的操作技能所属的操作技能类别获得对应的动作参数类型获取的。
2.如权利要求1所述的机器人复杂操作技能表示方法,其特征在于,所述获得所述操作技能序列中每一项操作技能所执行的动作基元序列,包括:
基于预先获得的操作技能数据集,获得所述操作技能所执行的动作基元列表;
根据目标操作任务对所述动作基元列表进行筛选;
所述筛选后的动作基元列表为所述操作技能所执行的动作基元序列。
3.如权利要求1所述的机器人复杂操作技能表示方法,其特征在于,所述基于预先获得的操作技能数据集,获得执行目标操作任务所需要的操作技能序列,包括:
根据神经网络模型获得目标操作任务的操作技能序列;
基于预先获得的操作技能数据集,对所述操作技能序列进行筛选,获得筛选后的操作技能序列;
所述筛选后的操作技能序列形成所述执行目标操作任务所需要的操作技能序列。
4.如权利要求3所述的机器人复杂操作技能表示方法,其特征在于,所述基于预先获得的操作技能数据集,对所述操作技能序列进行筛选,获得筛选后的操作技能序列,包括:
依次将所述操作技能序列中每一项操作技能与当前任务场景进行匹配,获得匹配结果,当所述匹配结果为不匹配时,将所述操作技能从所述操作技能序列中删除。
5.如权利要求1所述的机器人复杂操作技能表示方法,其特征在于,所述目标操作任务为预先编写好的任务描述文件,所述获得执行目标操作任务所需要的操作技能序列,包括:
根据所述任务描述文件通过人工智能规划语言获得所述操作技能序列。
6.机器人复杂操作技能表示装置,其特征在于,包括:
操作技能序列获取模块,用于基于预先获得的操作技能数据集,获得执行目标操作任务所需要的操作技能序列;
获得所述操作技能数据集的方法,包括:
获得目标任务场景下的设定操作技能序列;基于设定的操作技能分类,依次对所述设定操作技能序列中的每一项操作技能进行标注;对所述设定操作技能序列中的每一项操作技能进行拖动示教,记录机器人在每一项操作技能示教过程中的各个动作基元;将所述动作基元与所述操作技能建立关联,获得所述操作技能数据集,所述设定的操作技能分类是根据操作技能中所包括的动作基元的数量和属性进行分类的;
分解模块,用于获得所述操作技能序列中每一项操作技能所执行的动作基元序列并根据所述动作基元序列获得动作执行序列;
所述根据所述动作基元序列获得动作执行序列,包括:
获得当前任务场景;基于所述任务场景,获得与所述动作基元相匹配的动作参数序列;将所述动作基元序列与所述动作参数序列融合,获得所述动作执行序列,所述获得与所述动作基元相匹配的动作参数序列,包括:通过动作基元对应的操作技能所属的操作技能类别获得对应的动作参数类型获取的;
融合模块,用于融合所有的所述动作执行序列,获得与所述操作技能序列对应的技能表征序列。
7.智能终端,其特征在于,所述智能终端包括存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的机器人复杂操作技能表示程序,所述机器人复杂操作技能表示程序被所述处理器执行时实现如权利要求1-5任意一项所述机器人复杂操作技能表示方法的步骤。
8.计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有机器人复杂操作技能表示程序,所述机器人复杂操作技能表示程序被处理器执行时实现如权利要求1-5任意一项所述机器人复杂操作技能表示方法的步骤。
CN202111403922.3A 2021-11-24 2021-11-24 机器人复杂操作技能表示方法、装置、智能终端和介质 Active CN114043478B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111403922.3A CN114043478B (zh) 2021-11-24 2021-11-24 机器人复杂操作技能表示方法、装置、智能终端和介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111403922.3A CN114043478B (zh) 2021-11-24 2021-11-24 机器人复杂操作技能表示方法、装置、智能终端和介质

Publications (2)

Publication Number Publication Date
CN114043478A CN114043478A (zh) 2022-02-15
CN114043478B true CN114043478B (zh) 2023-07-07

Family

ID=80210737

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111403922.3A Active CN114043478B (zh) 2021-11-24 2021-11-24 机器人复杂操作技能表示方法、装置、智能终端和介质

Country Status (1)

Country Link
CN (1) CN114043478B (zh)

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6879009B2 (ja) * 2017-03-30 2021-06-02 株式会社安川電機 ロボット動作指令生成方法、ロボット動作指令生成装置及びコンピュータプログラム
CN109202882B (zh) * 2017-06-29 2021-04-06 深圳模德宝科技有限公司 一种机器人的控制方法及其装置
CN111745636B (zh) * 2019-05-15 2022-01-07 北京京东乾石科技有限公司 机器人控制方法及控制系统、存储介质及电子设备
US11345030B2 (en) * 2019-05-28 2022-05-31 Intel Corporation Methods and apparatus for complex assembly via autonomous robots using reinforcement learning action primitives
EP3753684B1 (en) * 2019-06-21 2022-08-10 Robert Bosch GmbH Method and system for robot manipulation planning
CN112605974A (zh) * 2020-11-27 2021-04-06 广东省科学院智能制造研究所 一种机器人复杂操作技能表征方法及系统
CN112917516B (zh) * 2021-02-01 2022-04-01 北京航空航天大学 用于自主装配机器人的知识学习与推理执行系统

Also Published As

Publication number Publication date
CN114043478A (zh) 2022-02-15

Similar Documents

Publication Publication Date Title
Xia et al. A digital twin to train deep reinforcement learning agent for smart manufacturing plants: Environment, interfaces and intelligence
Maksymova et al. Voice control for an industrial robot as a combination of various robotic assembly process models
US20200401503A1 (en) System and Method for Testing Artificial Intelligence Systems
Mania et al. A framework for self-training perceptual agents in simulated photorealistic environments
CN109591013B (zh) 一种柔性装配仿真系统及其实现方法
Luebbers et al. Arc-lfd: Using augmented reality for interactive long-term robot skill maintenance via constrained learning from demonstration
KR20200138074A (ko) 머신-러닝과 크라우드-소싱된 데이터 주석을 통합하기 위한 시스템 및 방법
Ma et al. A consistency method for digital twin model of human-robot collaboration
Xia et al. Virtual comissioning of manufacturing system intelligent control
Knoch et al. Sensor-based human–process interaction in discrete manufacturing
CN115648202A (zh) 基于时序逻辑的机器人视觉感知和反应规划联合方法及系统
CN108399609A (zh) 一种三维点云数据的修补方法、装置和机器人
CN115205586A (zh) 基于知识蒸馏的多自监督任务融合方法、装置及存储介质
CN114043478B (zh) 机器人复杂操作技能表示方法、装置、智能终端和介质
CN113703637A (zh) 巡检任务代码化方法、装置、电子设备和计算机存储介质
Lomp et al. A software framework for cognition, embodiment, dynamics, and autonomy in robotics: cedar
DE102018008366B4 (de) Verfahren und Anlage zum gestenbasierten Steuern eines Prüfprozesses an einem industriellen teilautomatisierten Sichtprüfplatzes eines industriellen technischen Prozesses oder einer industriellen technischen Produktionsanlage
Liu et al. A human-robot collaboration framework based on human motion prediction and task model in virtual environment
Denoun et al. Grasping robot integration and prototyping: The grip software framework
Cichon et al. Simulation-based control and simulation-based support in erobotics applications
Charter Human-Centered Intelligent Monitoring and Control of Industrial Systems: A Framework for Immersive Cyber-Physical Systems
WO2023031642A1 (en) Method and system for determining a joint in a virtual kinematic device
JP2023516776A (ja) 製造プロセスのためのシステム、方法及び媒体
Lin et al. A BPMN-Engine Based Process Automation System
US12115680B2 (en) Computerized engineering tool and methodology to develop neural skills for a robotics system

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant