CN112287728A - 智能体轨迹规划方法、装置、系统、存储介质及设备 - Google Patents
智能体轨迹规划方法、装置、系统、存储介质及设备 Download PDFInfo
- Publication number
- CN112287728A CN112287728A CN201910673027.XA CN201910673027A CN112287728A CN 112287728 A CN112287728 A CN 112287728A CN 201910673027 A CN201910673027 A CN 201910673027A CN 112287728 A CN112287728 A CN 112287728A
- Authority
- CN
- China
- Prior art keywords
- target object
- trajectory planning
- image data
- model
- acquiring
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 57
- 238000012549 training Methods 0.000 claims description 46
- 238000004590 computer program Methods 0.000 claims description 11
- 238000000605 extraction Methods 0.000 claims description 4
- 239000003795 chemical substances by application Substances 0.000 description 46
- 238000010586 diagram Methods 0.000 description 10
- 230000008569 process Effects 0.000 description 8
- 230000009471 action Effects 0.000 description 6
- 238000003672 processing method Methods 0.000 description 4
- 238000013473 artificial intelligence Methods 0.000 description 3
- 230000006399 behavior Effects 0.000 description 3
- 238000013527 convolutional neural network Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 230000002787 reinforcement Effects 0.000 description 2
- 238000004088 simulation Methods 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 239000003086 colorant Substances 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000003708 edge detection Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 238000006748 scratching Methods 0.000 description 1
- 230000002393 scratching effect Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
- G06Q10/047—Optimisation of routes or paths, e.g. travelling salesman problem
Landscapes
- Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Human Resources & Organizations (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Strategic Management (AREA)
- Economics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Game Theory and Decision Science (AREA)
- Evolutionary Computation (AREA)
- Evolutionary Biology (AREA)
- Multimedia (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Development Economics (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Entrepreneurship & Innovation (AREA)
- Marketing (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Tourism & Hospitality (AREA)
- General Business, Economics & Management (AREA)
- Image Analysis (AREA)
Abstract
本申请涉及一种智能体轨迹规划方法、装置、系统、存储介质及设备。其中，智能体轨迹规划方法包括：获取目标物的当前图像数据；其中，所述目标物的部分被遮挡；获取轨迹规划模型；将当前图像数据输入轨迹规划模型中，输出目标物关联的轨迹规划结果。采用本发明的技术方案，提高了智能体在遮挡情况下的轨迹规划的精度。
Description
技术领域
本申请涉及机器人控制技术领域，特别是涉及一种智能体轨迹规划方法、装置、系统、存储介质及设备。
背景技术
随着科技水平的提高，整个社会都向着自动化的方向发展。越来越多的行为依赖于智能体的实现。比如：通过智能体执行抓取的动作、装配的动作、带动目标物运动等等的动作行为。
但是应该看到，当遇到遮挡情况，比如机械手抓取目标物后对目标物的遮挡，物体因为拍摄的视觉角度造成的遮挡，或者物体在摆放过程中由其它物体对其造成的真实遮挡等等。
在发生上述遮挡情况发生的过程中，往往会影响智能体的上述运动轨迹的精度。
发明内容
基于此，本发明提供一种智能体轨迹规划方法、装置、系统、存储介质及设备。
本发明第一方面提供一种智能体轨迹规划方法，所述智能体轨迹规划方法包括：
获取目标物的当前图像数据；其中，所述目标物的部分被遮挡；
获取轨迹规划模型；及
将所述当前图像数据输入所述轨迹规划模型中，输出所述目标物关联的轨迹规划结果。
优选的，所述当前图像只包括前景，或所述前景和单一背景；其中，所述前景代表所述目标物；
所述获取目标物的当前图像数据之前还包括；
获取目标物的当前初始图像数据；
提取所述当前初始图像数据中的目标物，得到所述目标物的当前图像数据。
本发明第二方面提供一种智能体轨迹规划训练方法，所述智能体轨迹规划训练方法包括：
获取目标物的训练样本；其中，所述目标物的部分被遮挡；
获取姿态识别模型的初始模型
将所述训练样本输入所述初始模型中进行训练，得到轨迹规划模型。
本发明第三方面提供一种智能体轨迹规划装置，所述智能体轨迹规划装置包括：
图像获取模块，用于获取目标物的当前图像数据；其中，所述目标物的部分被遮挡；
模型获取模块，用于获取轨迹规划模型；
结果输出模块，用于将所述当前图像数据输入所述轨迹规划模型中，输出所述目标物关联的轨迹规划结果。
优选的，所述当前图像只包括前景，或所述前景和单一背景；其中，所述前景代表所述目标物；
所述智能体轨迹规划装置还包括；
初始图像获取模块，用于获取目标物的当前初始图像数据；
目标图像提取模块，用于提取所述当前初始图像数据中的目标物，得到所述目标物的当前图像数据。
本发明第四方面提供一种智能体轨迹规划训练装置，所述智能体轨迹规划训练装置包括：
样本获取模块，用于获取目标物的训练样本；其中，所述目标物的部分被遮挡；
模型获取模块，用于获取姿态识别模型的初始模型；
模型训练模块，用于将所述训练样本输入所述初始模型中进行训练，得到轨迹规划模型。
本发明第五方面提供一种智能体系统，所述智能体系统包括：图像传感器、智能体和控制装置；
所述图像传感器，用于采集目标物的当前图像数据；
所述控制装置，用于获取目标物的当前图像数据；其中，所述目标物的部分被遮挡；获取轨迹规划模型；将所述当前图像数据输入所述轨迹规划模型中，输出所述目标物关联的轨迹规划结果；或
所述图像传感器，用于采集目标物的初始图像；
所述控制装置，用于获取目标物的当前初始图像数据；提取所述当前初始图像数据中的目标物，得到所述目标物的当前图像数据；获取目标物的当前图像数据；其中，所述目标物的部分被遮挡；获取轨迹规划模型；将所述当前图像数据输入所述轨迹规划模型中，输出所述目标物关联的轨迹规划结果；
所述智能体，用于根据所述轨迹规划结果执行对应的运动轨迹。
本发明第六方面提供一种计算机设备，包括存储器和处理器，所述存储器存储有计算机程序所述处理器执行所述计算机程序时实现上面所述的智能体轨迹规划方法；和/或上面所述的智能体轨迹规划训练方法。
本发明第七方面提供一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现上面所述的智能体轨迹规划方法；和/或上面所述的智能体轨迹规划训练方法。
采用本发明的技术方法，基于人工智能方法，能够提高在目标物体被遮挡情况下的运动轨迹控制的精度。
附图说明
图1为一个实施例中智能体轨迹规划方法的第一流程示意图；
图2为一个实施例中智能体轨迹规划方法的第二流程示意图；
图3为一个实施例中智能体轨迹规划训练方法的第三流程示意图；
图4为机器人系统的实施例的第一结构示意图；
图5为机器人系统的实施例的第二结构示意图；
图6为一个实施例中智能体规划装置的第一结构框图；
图7为一个实施例中智能体规划装置的第二结构框图；
图8为一个实施例中智能体规划训练装置的第一结构框图；
图9为一个实施例中智能体系统的第一结构框图。
图10为一个实施例中计算机设备的第一结构框图。
图11为一个实施例中当前图像数据的第一示意图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本申请进行进一步详细说明。应当理解，此处描述的具体实施例仅仅用以解释本申请，并不用于限定本申请。
本申请提供的数据处理方法，可以应用于如图4、5所示的应用环境中，应用环境中可以包括图像传感器、智能体和控制装置。
其中，智能体为任意可实现本实施例的轨迹规划训练方法的具有智能的实体，比如:机械手600(如图4、5所示)或人形机器人(省略附图)。在一个实施例中，机械手可以为多个关节和连杆通过串联或者并联形成的各种类型的机械手，每个关节即是一个驱动单元，比如：四轴机械手(省略附图)、六轴机械手(如图4、5所示)等串联机械手。在一个实施例中，继续如图4或5所示，机械手600的末端可以设置各种执行器610，通过执行器610执行具体的抓取或释放等动作，为方便理解，本具体实施例以智能体为机械手为例进一步详细说明。控制装置400分别与机械手600和图像传感器500通过有线或者无线的方式通信连接。
在一个实施例中，如图1所示，提供一种智能体轨迹规划方法，以该方法应用于图4或5的智能体系统为例，该方法包括以下步骤：
步骤S110获取目标物的当前图像数据；其中，目标物的部分被遮挡；
具体的，由于目标物的部分被遮挡，因此当前图像数据中包括局部被遮挡的。目标物部分图像。如图11所示，该当前图像数据M中，包括局部被遮挡的目标物部分图像N。
获取图像传感器采集并实时发送的包括目标物体的当前图像数据，或者从存储器或者服务器等获取上述当前图像数据。
具体的，轨迹规划的目的可以包括但不限于：从散装物或规则排列的物中抓取目标物体的动作(如图5所示)；装配目标物体的动作(如图4所示)；固定连接目标物体(比如：粘接、螺接)；放下目标物的动作(省略附图)，从一个位置运动到另一个位置的动作或在运动中躲避障碍物(省略附图)；抓取静止或运动中的物体；拉伸或压缩目标物体；或者上述各个动作中的部分或全部动作的组合。
具体的，当前图像数据可以是3D图像(比如：点云图像或深度图像)、2D图像(比如：RGB图像、黑白图像或灰度图像)等等。
图像传感器可以包括但不限于：照相机、摄像机、扫描仪或其他带有相关功能的设备(手机、电脑等)等等。图像传感器可以为大于等于1的任意个。
步骤S120获取轨迹规划模型；
从存储器或服务器获取预先经过训练的轨迹规划模型；
步骤S130将当前图像数据输入轨迹规划模型中，输出目标物关联的轨迹规划结果；
以机械手抓取工件为例，该当前图像数据中的目标物体可以为机械手的执行器、工件、或者同时包括机械手的执行器和工件，而轨迹规划结果是针对机械手的，因此称为目标物关联的轨迹规划结果。
在一个实施例中，该轨迹规划结果可以为为达到目标位置(2D或6D坐标等等)或者实现某一目标动作由机械手需分别到达的多个目标点的位置组成的一条完整的轨迹；或者该轨迹规划结果可以为为了使得机械手到达上述多个目标点的位置而直接生成的机械手的各个驱动单元的控制脉冲调整方波(PWM)、电流或速率等等，将生成的轨迹规划结果直接发送给机械手，或者将轨迹规划结果经过某些进一步处理后发给机械手。
通过采用基于人工智能方法对在遮挡情况下的目标轨迹进行轨迹规划，可以提高在遮挡情况下智能体的运动轨迹的精度。
另外，可以提高在遮挡情况下的轨迹规划的泛化能力。
在一个实施例中，该目标物的当前图像数据可以为包括目标物和复杂背景的图像数据；除此之外，在另一个实施例中，该图像数据也可以为只包括目标物、或者包括目标物和单一背景的图像数据，如图2所示，则在步骤S110之前还可以包括如下方法步骤：
S140获取目标物的当前初始图像数据；
S150提取当前初始图像数据中的目标物，得到所述目标物的当前图像数据。
具体的，单一背景可以是指背景形成统一的颜色或图案等等。
具体的，提取可以包括但不限于如下方法：
在一个实施例中，可以是将前景按照外轮廓从初始图像中抠出；比如：基于传统的各种图像的处理方法(比如：二值化、边缘检测、连通域等等)识别出初始图像中的前景部分，然后将前景部分抠出；
进一步，在一个实施例中，也可以将上述抠出的前景映射到一个单一背景的预设大小的矩形图像上，从而生成单一背景的目标图像；或者
在一个实施例中，将原本一定大小的初始图像进行一定的裁剪，使得裁剪后的图像为包围目标物外框的最小截面图像(比如：初始图像为一张100*200的图像，而裁剪后的图像为50*80大小，则可以将该裁剪后的图像看作上述只包括前景的目标图像)；或者
在一个实施例中，对初始图像进行处理使得处理后的图像只包括前景和单一的背景等等。
具体的，可以基于人工智能的方法，或基于传统的图像处理方法，比如：以二值化图像基于图像的处理方法为例，可以将前景设置为白色，而背景统一调整成黑色。
在一个实施例中，如图3所示，提供一种轨迹规划训练方法，该方法包括如下方法步骤：
S210获取目标物的训练样本；其中，所述目标物的部分被遮挡；
具体的训练样本可以是图像传感器真实拍回的各个被遮挡情况的目标物体的图像；也可以是模仿各种被遮挡情况，经过对图像的后期处理，比如：抠除或者覆盖不同颜色，从而形成的虚拟样本当前图像数据。
S220获取轨迹规划模型的初始模型；
从存储器或服务器获取该初始模型；
S230将训练样本输入初始模型中进行训练，得到轨迹规划模型。
具体的，模型的训练方法可以但不限于是是现在已有或将来开发的各种网络模型的训练方法，比如：监督学习(比如，基于标注对模型进行监督学习训练)、强化学习(比如，基于奖励函数对模型进行强化学习训练)和模仿学习(比如，基于示范的行为数据和对应的观测数据对模型进行训练)。
具体的，该轨迹规划模型可以但不限于是现在已有或将来开发的各种能实现基于输入的图像输出轨迹规划结果的各种网络模型结构，比如：各种卷积神经网络模型(CNN)。
应该理解的是，虽然图1、2或3的流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，这些步骤可以以其它的顺序执行。而且，图1、2或3中的至少一部分步骤可以包括多个子步骤或者多个阶段，这些子步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，这些子步骤或者阶段的执行顺序也不必然是依次进行，而是可以与其它步骤或者其它步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
在一些实施例中，如图6所示，提供一种智能体轨迹规划装置，该装置包括：
图像获取模块110，用于获取目标物的当前图像数据；其中，所述目标物的部分被遮挡；
模型获取模块120，用于获取轨迹规划模型；
结果输出模块130，用于将当前图像数据输入轨迹规划模型中，输出目标物关联的轨迹规划结果；.
在一个实施例中，如图7所示，提供一种智能体轨迹规划装置，该装置还包括：
所述当前图像只包括前景，或所述前景和单一背景；其中，所述前景代表所述目标物；
所述智能体轨迹规划装置还包括；
初始图像获取模块140，用于获取目标物的当前初始图像数据；
目标图像提取模块150，用于提取所述当前初始图像数据中的目标物，得到所述目标物的当前图像数据。
在一个实施例中，如图8所示，提供一种智能体轨迹规划训练装置，该装置还包括：
样本获取模块210，用于获取目标物的训练样本；其中，所述目标物的部分被遮挡；
模型获取模块220，用于获取姿态识别模型的初始模型；
模型训练模块230，用于将所述训练样本输入所述初始模型中进行训练，得到轨迹规划模型。
关于智能体轨迹规划装置的具体限定可以参见上文中对于智能体轨迹规划方法的限定，在此不再赘述。上述智能体轨迹规划控制装置和行为规划装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中，也可以以软件形式存储于计算机设备中的存储器中，以便于处理器调用执行以上各个模块对应的操作。
在一个实施例中，如图9所示，提供一种智能体系统，该智能体系统包括：图像传感器500、智能体600和控制装置400；
图像传感器500，用于采集目标物的当前图像数据；
控制装置400，用于获取目标物的当前图像数据；其中，所述目标物的部分被遮挡；获取轨迹规划模型；将当前图像数据输入轨迹规划模型中，输出目标物关联的轨迹规划结果；或
图像传感器500，用于采集目标物的当前初始图像数据；
控制装置400，用于获取目标物的当前初始图像数据；提取当前初始图像数据中的目标物，得到目标物的当前图像数据；获取目标物的当前图像数据；其中，目标物的部分被遮挡；获取轨迹规划模型；将当前图像数据输入轨迹规划模型中，输出目标物关联的轨迹规划结果；
所述智能体600，用于根据所述轨迹规划结果执行对应的运动轨迹。
关于控制装置的具体限定可以参见上文中对于智能体轨迹规划方法的限定，在此不再赘述。
控制装置400可以为可编程逻辑控制器(Programmable Logic Controller，
PLC)、现场可编程门阵列(Field-Programmable Gate Array，FPGA)、计算机(Personal Computer,PC)、工业控制计算机(Industrial Personal Computer,IPC)或服务器等等。控制装置根据预先固定的程序，结合人工输入的信息、参数或者外部的图像传感器采集的数据等生成程序指令。
需要说明的是，上述智能体轨迹规划方法、装置、智能体系统提到的智能体、传感器和/或控制装置等等，即可以是真实环境下的真实智能体、传感器、控制装置，也可以是仿真平台下的虚拟智能体、传感器、控制装置，通过仿真环境以达到连接真实智能体、传感器、控制装置的效果。将依赖虚拟环境完成行为训练后的控制装置，移植到真实环境下，对真实的智能体、传感器、控制装置进行控制或者再训练，可以节省训练过程的资源和时间。
在一个实施例中，如图10所示，提供一种计算机设备，包括存储器和处理器，存储器存储有计算机程序，处理器执行计算机程序时实现上面所述的智能体轨迹规划方法；和/或智能体轨迹规划训练方法。
在一个实施例中，提供一种计算机可读存储介质，其上存储有计算机程序，计算机程序被处理器执行时实现上面实施例所述的智能体轨迹规划方法；和/或智能体轨迹规划训练方法。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，所述的计算机程序可存储于一非易失性计算机可读取存储介质中，该计算机程序在执行时，可包括如上述各方法的实施例的流程。其中，本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用，均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM)或者外部高速缓冲存储器。作为说明而非局限，RAM以多种形式可得，诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDRSDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)等。
以上所述实施例的各技术特征可以进行任意的组合，为使描述简洁，未对上述实施例中的各个技术特征所有可能的组合都进行描述，然而，只要这些技术特征的组合不存在矛盾，都应当认为是本说明书记载的范围。
在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述或记载的部分，可以参见其它实施例的相关描述。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
除非另有定义，本说明书所使用的所有的技术和科学术语与属于本发明的技术领域的技术人员通常理解的含义相同。本说明书中在本发明的说明书中所使用的属于只是为了描述具体的实施方式的目的，不是用于限制本发明。
本文术语中“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如：A和/或B,可以表示单独存在A,同时存在A和B,单独存在B这三种情况。另外，本文中字符“/”，一般表示前后关联对象是一种“或”的关系。
本发明的权利要求书和说明书及上述附图中的术语“第一”、“第二”、“第三”、“S110”、“S120”“S130”等等(如果存在)是用来区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的实施例能够以除了在这里图示或描述的内容以外的顺序实施。此外，术语“包括”“具有”以及他们的任何变形，意图在于覆盖不排他的包含。例如：包括了一系列步骤或者模块的过程、方法、系统、产品或机器人不必限于清楚地列出的那些步骤或者模块，而是包括没有清楚地列出的或对于这些过程、方法、系统、产品或机器人固有的其它步骤或模块。
需要说明的是，本领域技术人员也应该知悉，说明书中所描述的实施例均属于优选实施例，所涉及的结构和模块并不一定是本发明所必须的。
以上所述实施例仅表达了本发明的几种实施方式，其描述较为具体和详细，但并不能因此而理解为对发明专利范围的限制。应当指出的是，对于本领域的普通技术人员来说，在不脱离本发明构思的前提下，还可以做出若干变形和改进，这些都属于本发明的保护范围。因此，本发明专利的保护范围应以所附权利要求为准。
Claims (9)
1.一种智能体轨迹规划方法，其特征在于，所述智能体轨迹规划方法包括：
获取目标物的当前图像数据；其中，所述目标物的部分被遮挡；
获取轨迹规划模型；及
将所述当前图像数据输入所述轨迹规划模型中，输出所述目标物关联的轨迹规划结果。
2.根据权利要求1所述的智能体轨迹规划方法，其特征在于，所述当前图像只包括前景，或所述前景和单一背景；其中，所述前景代表所述目标物；
所述获取目标物的当前图像数据之前还包括；
获取目标物的当前初始图像数据；
提取所述当前初始图像数据中的目标物，得到所述目标物的当前图像数据。
3.一种智能体轨迹规划训练方法，其特征在于，所述智能体轨迹规划训练方法包括：
获取目标物的训练样本；其中，所述目标物的部分被遮挡；
获取姿态识别模型的初始模型
将所述训练样本输入所述初始模型中进行训练，得到轨迹规划模型。
4.一种智能体轨迹规划装置，其特征在于，所述智能体轨迹规划装置包括：
图像获取模块，用于获取目标物的当前图像数据；其中，所述目标物的部分被遮挡；
模型获取模块，用于获取轨迹规划模型；
结果输出模块，用于将所述当前图像数据输入所述轨迹规划模型中，输出所述目标物关联的轨迹规划结果。
5.根据权利要求4所述的智能体轨迹规划装置，其特征在于，所述当前图像只包括前景，或所述前景和单一背景；其中，所述前景代表所述目标物；
所述智能体轨迹规划装置还包括；
初始图像获取模块，用于获取目标物的当前初始图像数据；
目标图像提取模块，用于提取所述当前初始图像数据中的目标物，得到所述目标物的当前图像数据。
6.一种智能体轨迹规划训练装置，其特征在于，所述智能体轨迹规划训练装置包括：
样本获取模块，用于获取目标物的训练样本；其中，所述目标物的部分被遮挡；
模型获取模块，用于获取姿态识别模型的初始模型；
模型训练模块，用于将所述训练样本输入所述初始模型中进行训练，得到轨迹规划模型。
7.一种智能体系统，其特征在于，所述智能体系统包括：图像传感器、智能体和控制装置；
所述图像传感器，用于采集目标物的当前图像数据；
所述控制装置，用于获取目标物的当前图像数据；其中，所述目标物的部分被遮挡；获取轨迹规划模型；将所述当前图像数据输入所述轨迹规划模型中，输出所述目标物关联的轨迹规划结果；或
所述图像传感器，用于采集目标物的初始图像；
所述控制装置，用于获取目标物的当前初始图像数据；提取所述当前初始图像数据中的目标物，得到所述目标物的当前图像数据；获取目标物的当前图像数据；其中，所述目标物的部分被遮挡；获取轨迹规划模型；将所述当前图像数据输入所述轨迹规划模型中，输出所述目标物关联的轨迹规划结果；
所述智能体，用于根据所述轨迹规划结果执行对应的运动轨迹。
8.一种计算机设备，包括存储器和处理器，所述存储器存储有计算机程序，其特征在于，所述处理器执行所述计算机程序时实现权利要求1或2所述的智能体轨迹规划方法；和/或权利要求3所述的智能体轨迹规划训练方法。
9.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1或2所述的智能体轨迹规划方法；和/或权利要求3所述的智能体轨迹规划训练方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910673027.XA CN112287728A (zh) | 2019-07-24 | 2019-07-24 | 智能体轨迹规划方法、装置、系统、存储介质及设备 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910673027.XA CN112287728A (zh) | 2019-07-24 | 2019-07-24 | 智能体轨迹规划方法、装置、系统、存储介质及设备 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN112287728A true CN112287728A (zh) | 2021-01-29 |
Family
ID=74419050
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201910673027.XA Pending CN112287728A (zh) | 2019-07-24 | 2019-07-24 | 智能体轨迹规划方法、装置、系统、存储介质及设备 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112287728A (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114693721A (zh) * | 2022-03-24 | 2022-07-01 | 美的集团(上海)有限公司 | 运动规划方法、装置及机器人 |
Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102696411A (zh) * | 2012-04-13 | 2012-10-03 | 浙江工业大学 | 基于机器视觉的葡萄冬剪作业装置 |
| CN104411248A (zh) * | 2012-06-28 | 2015-03-11 | 皇家飞利浦有限公司 | 在内窥镜外科手术中用于最佳图像采集的c型臂轨迹规划 |
| CN108656107A (zh) * | 2018-04-04 | 2018-10-16 | 北京航空航天大学 | 一种基于图像处理的机械臂抓取系统及方法 |
| EP3402633A1 (en) * | 2016-05-20 | 2018-11-21 | Google LLC | Machine learning methods and apparatus related to predicting motion(s) of object(s) in a robot's environment based on image(s) capturing the object(s) and based on parameter(s) for future robot movement in the environment |
| CN109784400A (zh) * | 2019-01-12 | 2019-05-21 | 鲁班嫡系机器人（深圳）有限公司 | 智能体行为训练方法、装置、系统、存储介质及设备 |
| CN109940619A (zh) * | 2019-04-09 | 2019-06-28 | 深圳前海达闼云端智能科技有限公司 | 一种轨迹规划方法、电子设备及存储介质 |
| CN110026987A (zh) * | 2019-05-28 | 2019-07-19 | 广东工业大学 | 一种机械臂抓取轨迹的生成方法、装置、设备及存储介质 |
-
2019
- 2019-07-24 CN CN201910673027.XA patent/CN112287728A/zh active Pending
Patent Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102696411A (zh) * | 2012-04-13 | 2012-10-03 | 浙江工业大学 | 基于机器视觉的葡萄冬剪作业装置 |
| CN104411248A (zh) * | 2012-06-28 | 2015-03-11 | 皇家飞利浦有限公司 | 在内窥镜外科手术中用于最佳图像采集的c型臂轨迹规划 |
| EP3402633A1 (en) * | 2016-05-20 | 2018-11-21 | Google LLC | Machine learning methods and apparatus related to predicting motion(s) of object(s) in a robot's environment based on image(s) capturing the object(s) and based on parameter(s) for future robot movement in the environment |
| CN109153123A (zh) * | 2016-05-20 | 2019-01-04 | 谷歌有限责任公司 | 与基于捕获物体的图像并且基于用于环境中的未来机器人运动的参数来预测机器人环境中的物体运动有关的机器学习方法和装置 |
| CN108656107A (zh) * | 2018-04-04 | 2018-10-16 | 北京航空航天大学 | 一种基于图像处理的机械臂抓取系统及方法 |
| CN109784400A (zh) * | 2019-01-12 | 2019-05-21 | 鲁班嫡系机器人（深圳）有限公司 | 智能体行为训练方法、装置、系统、存储介质及设备 |
| CN109940619A (zh) * | 2019-04-09 | 2019-06-28 | 深圳前海达闼云端智能科技有限公司 | 一种轨迹规划方法、电子设备及存储介质 |
| CN110026987A (zh) * | 2019-05-28 | 2019-07-19 | 广东工业大学 | 一种机械臂抓取轨迹的生成方法、装置、设备及存储介质 |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114693721A (zh) * | 2022-03-24 | 2022-07-01 | 美的集团(上海)有限公司 | 运动规划方法、装置及机器人 |
| CN114693721B (zh) * | 2022-03-24 | 2023-09-01 | 美的集团(上海)有限公司 | 运动规划方法、装置及机器人 |
| WO2023178931A1 (zh) * | 2022-03-24 | 2023-09-28 | 美的集团(上海)有限公司 | 运动规划方法、装置及机器人 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN109483573A (zh) | 机器学习装置、机器人系统以及机器学习方法 | |
| CN108958233B (zh) | 一种感知模拟方法和装置 | |
| CN109397285B (zh) | 一种装配方法、装配装置及装配设备 | |
| CN111695562A (zh) | 一种基于卷积神经网络的机器人自主抓取方法 | |
| CN109760050A (zh) | 机器人行为训练方法、装置、系统、存储介质及设备 | |
| CN112518756B (zh) | 机械臂的运动轨迹规划方法及装置、机械臂及存储介质 | |
| CN111208783A (zh) | 一种动作模仿方法、装置、终端及计算机存储介质 | |
| CN112775967A (zh) | 基于机器视觉的机械臂抓取方法、装置及设备 | |
| Liang et al. | Teaching robots to perform construction tasks via learning from demonstration | |
| CN110463376A (zh) | 一种插机方法及插机设备 | |
| CN110977966A (zh) | 一种基于虚拟场景训练的机器人避障方法 | |
| CN114730407A (zh) | 使用神经网络对工作环境中的人类行为进行建模 | |
| CN113762159B (zh) | 一种基于有向箭头模型的目标抓取检测方法及系统 | |
| CN112287728A (zh) | 智能体轨迹规划方法、装置、系统、存储介质及设备 | |
| US20230330858A1 (en) | Fine-grained industrial robotic assemblies | |
| Liu et al. | Sim-and-real reinforcement learning for manipulation: A consensus-based approach | |
| Kim et al. | Digital twin for autonomous collaborative robot by using synthetic data and reinforcement learning | |
| Arents et al. | Construction of a smart vision-guided robot system for manipulation in a dynamic environment | |
| CN113551661A (zh) | 位姿识别、轨迹规划方法、装置、系统、存储介质及设备 | |
| CN112307799A (zh) | 姿态识别方法、装置、系统、存储介质及设备 | |
| CN114585487A (zh) | 通过使用基于视觉的机器人任务模型训练模拟到真实模型来减轻现实差距 | |
| Takarics et al. | Welding trajectory reconstruction based on the Intelligent Space concept | |
| CN112287955A (zh) | 基于图像的处理、训练、前景提取方法、装置及系统 | |
| CN109784400A (zh) | 智能体行为训练方法、装置、系统、存储介质及设备 | |
| CN112698632B (zh) | 一种全自动化生产线数字孪生系统、方法及设备 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |