CN114406985A - 一种目标追踪的机械臂方法、系统、设备及存储介质 - Google Patents
一种目标追踪的机械臂方法、系统、设备及存储介质 Download PDFInfo
- Publication number
- CN114406985A CN114406985A CN202111556272.6A CN202111556272A CN114406985A CN 114406985 A CN114406985 A CN 114406985A CN 202111556272 A CN202111556272 A CN 202111556272A CN 114406985 A CN114406985 A CN 114406985A
- Authority
- CN
- China
- Prior art keywords
- mechanical arm
- tracking marker
- target object
- coordinate
- tracking
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 59
- 239000003550 marker Substances 0.000 claims abstract description 94
- 230000000007 visual effect Effects 0.000 claims abstract description 33
- 230000033001 locomotion Effects 0.000 claims description 52
- 230000008569 process Effects 0.000 claims description 17
- 238000004590 computer program Methods 0.000 claims description 9
- 230000009466 transformation Effects 0.000 claims description 4
- 238000003672 processing method Methods 0.000 claims description 3
- 239000000126 substance Substances 0.000 claims description 2
- 230000004044 response Effects 0.000 claims 1
- 230000008859 change Effects 0.000 description 7
- 238000010586 diagram Methods 0.000 description 7
- 230000000694 effects Effects 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 2
- OKTJSMMVPCPJKN-UHFFFAOYSA-N Carbon Chemical compound [C] OKTJSMMVPCPJKN-UHFFFAOYSA-N 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 229910021389 graphene Inorganic materials 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J13/00—Controls for manipulators
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J19/00—Accessories fitted to manipulators, e.g. for monitoring, for viewing; Safety devices combined with or specially adapted for use in connection with manipulators
- B25J19/02—Sensing devices
- B25J19/04—Viewing devices
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1602—Programme controls characterised by the control system, structure, architecture
- B25J9/161—Hardware, e.g. neural networks, fuzzy logic, interfaces, processor
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1694—Programme controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion
- B25J9/1697—Vision controlled systems
Landscapes
- Engineering & Computer Science (AREA)
- Robotics (AREA)
- Mechanical Engineering (AREA)
- Automation & Control Theory (AREA)
- Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Fuzzy Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Manipulator (AREA)
Abstract
本公开关于一种目标追踪的机械臂方法、系统、设备及存储介质。所述系统包括视觉系统、机械臂、追踪标识物、标定板、控制处理装置;其中,追踪标识物与机械臂的末端采用刚性连接;视觉系统被放置于机械臂最大伸展范围外;标定板被放置于视觉系统的视场范围内;控制处理器与视觉系统、机械臂电性连接。本公开实施例结合了眼在手外和眼在手上两种方式的优点,同时可以显著降低机械臂的负载,留出了更多的负载空间,提高了机械臂的真实负载能力。
Description
本发明专利要求申请日为:2021年10月18日、申请号为:2021112122809、发明名称为“一种目标追踪的机械臂方法、系统、设备及存储介质”发明专利的优先权。
技术领域
本公开涉及图像数据处理技术领域,尤其涉及一种目标追踪的机械臂方法、系统、设备及存储介质。
背景技术
目前,机械臂作为一种高精度的设备被广泛应用于工业、医疗、教育、军工、航天等不同行业中。在这些大量的应用中存在需要通过视觉引导来控制机械臂进行运动的需求。
目前业内主要的方式是手眼标定法,包括两种方式:眼在手外和眼在手上,其都是采用二维或者三维的视觉系统作为视觉数据的采集设备,采用软件来对视觉系统采集到的数据进行处理,并且根据这些数据去引导机械臂运行。但目前这两种方式各自仍然存在很多技术问题,如眼在手外要求机械臂和视觉系统之间相对位置不能发生变化,但在实际应用中由于机械臂基座和视觉系统各自发生移动后几乎不可能保持相对位置没有变化,或者眼在手上时视觉系统视场范围较小,且当机械臂末端接近物体时可能会出现丢失目标的问题。
发明内容
本公开提供一种目标追踪的机械臂方法、系统、设备及存储介质,以至少解决相关技术中至少技术问题。本公开的技术方案包括如下:
根据本公开实施例的第二方面,供一种目标追踪的机械臂系统,包括:
视觉系统、机械臂、追踪标识物、标定板、控制处理装置;其中,
追踪标识物与机械臂的末端采用刚性连接;
视觉系统放置于机械臂外且使机械臂上的追踪标识物位于视觉系统的视场范围内;
标定板被放置于视觉系统的视场范围内;
控制处理器与视觉系统、机械臂电性连接。
根据本公开实施例的第二方面,提供一种目标追踪的机械臂方法,可实施于本公开任一所述的机械臂系统,包括:
获取目标物体在视觉系统的坐标系下的第一坐标;
将所述第一坐标转换为追踪标识物坐标系下的第二坐标;
根据所述第二坐标确定所述追踪标识物和所述目标物体之间的相对位置;
在所述追踪标识物和所述目标物体之间的相对位置不满足预先设定的追踪标识物与目标物体之间的预设相对位置的情况下,确定追踪标识物在空间中需要移动的移动向量;
将追踪标识物在空间中需要移动的移动向量转换为机械臂末端坐标系下的移动向量;
本公开实施例的第三方面,还提供一种计算机设备,包括:
至少一个处理器;
用于存储所述处理器可执行指令的存储器;
其中,所述处理器被配置为执行所述指令,以实现本公开第二方面任一所述的方法。
本公开实施例的第四方面,还提供一种计算机可读存储介质,当所述计算机可读存储介质中的指令被计算机设备的处理器执行时,使得所述电子设备能够执行本公开第二方面任一所述的方法。
本公开实施例的第五方面,还提供一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现本公开第二方面任一所述的方法。
本公开的实施例提供的技术方案至少带来以下有益效果:
通过本公开提供的方案进行视觉引导机械臂跟随目标物体运动时,如果视觉系统和机械臂之间发生相对位置的变化不会影响机械臂对目标物体的跟随效果。由于实际的视觉系统在机械臂外,视觉系统的视场范围不会随着机械臂的运动而发生改变,目标物体不容易脱离视觉系统的视场范围,从而确保视觉系统在此过程中具有较高的可靠性。同时由于追踪标识物的重量要远小于视觉系统,将视觉系统固定在机械臂外可以显著降低机械臂的负载,留出了更多的负载空间,提高了机械臂的真实负载能力。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理,并不构成对本公开的不当限定。
图1是根据一示例性实施例示出的一种目标追踪的机械臂系统的结构示意图。
图2是根据一示例性实施例示出的一种目标追踪的机械臂系统的结构示意图。
图3是根据一示例性实施例示出的一种目标追踪的机械臂方法的流程图。
图4是根据一示例性实施例示出的一种计算机设备的内部结构图。
具体实施方式
为了使本领域普通人员更好地理解本公开的技术方案,下面将结合附图,对本公开实施例中的技术方案进行清楚、完整地描述。
需要说明的是,本公开的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本公开的实施例能够以除了在这里图示或描述的那些以外的顺序实施。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。术语“包括”、“包含”或者其任何其它变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、产品或者设备不仅包括那些要素,而且还包括没有明确列出的其它要素,或者是还包括为这种过程、方法、产品或者设备所固有的要素。在没有更多限制的情况下,并不排除在包括所述要素的过程、方法、产品或者设备中还存在另外的相同或等同要素。例如若使用到第一,第二等词语用来表示名称,而并不表示任何特定的顺序。
还需要说明的是,本公开所涉及的信息(包括但不限于用户设备信息、用户个人信息等)和数据(包括但不限于用于展示的数据、分析的数据等),均为经用户授权或者经过各方充分授权的信息和数据。
如果把机械臂定义为手,视觉系统定义为眼,要完成手眼的协同工作通常要建立手和眼二者之间的关系。构建手眼关系的方法可以称为手眼标定法。传统的手眼标定法主要分为两种方式:眼在手外和眼在手上。在眼在手外的方式中,通常是将相机视觉系统固定在机械臂以外,标定板固定在机械臂末端进行手眼关系标定的方式称为眼在手外标定。通过手眼标定可以得到机械臂基座坐标系和视觉系统坐标系之间的关系。在实际工作中会把视觉系统坐标系下的目标物体坐标通过手眼关系转换为机械臂基座坐标系下的坐标,从而引导机械臂进行运动。在眼在手上的方式中,通常是将视觉系统固定在机械臂末端,标定板固定在机械臂外进行手眼标定的方式称为眼在手上标定。通过手眼标定可以得到机械臂末端坐标系和视觉系统坐标系之间的关系。在实际工作中会把视觉系统坐标系下的目标物体坐标通过手眼关系转换为机械臂末端坐标系下的坐标,从而引导机械臂进行运动。
但在眼在手外的方式中,建立的是机械臂基座标系和视觉系统坐标系之间的关系,在使用时这个关系必须保持不变,所以这二者如果发生相对偏移这个关系就不成立了,所以这种标定方式在标定完成后不允许机械臂或者系统发生位置变化。但在实际应用中由于机械臂基座和视觉系统各自发生移动后几乎不可能保持相对位置没有变化,因此实际中经常会出现因于机械臂基座和视觉系统相对位置发生变化从而导致引导机械臂进行运动不够准确,出现偏差的技术问题。在眼在手上的方式中,由于视觉系统部署于机械臂的末端,所以视野范围会随着机械臂的运动而发生变化,而视野范围大小跟视觉系统与物体之间的距离成正比,当末端越接近物体,视野也就越小,可能会出现丢失目标的问题。
本公开提供的技术方案至少可以解决眼在手外的方式中机械臂和视觉系统之间相对位置不能发生变化的问题、眼在手上视觉系统视场范围较小,且当机械臂末端接近物体时可能出现丢失目标的问题、眼在手上增加机械臂负载等中的至少一个技术问题。
本实施例提供的方案可以将视觉系统部署于机械臂外,通过在机械臂末端增加一个追踪标识物。视觉系统可以实时追踪标识物和目标物的位置,构建一个以追踪标识物坐标为原点的坐标系,并得到目标物在该坐标系下的实时坐标。本方案中可以获取追踪标识物的坐标和目标物的坐标且这两个坐标处于同一个坐标系下,即视觉系统坐标一下,这样便可得出目标物体到追踪标识物的相对坐标。把追踪标识物视为一个新的坐标系的原点,那么这个相对坐标成为了新坐标系下的目标物的绝对坐标。此时可将追踪标识物的坐标系类比为视觉系统的坐标系,形成一套视觉系统在机械臂外(眼在手外),但同时又可以采用眼在手上方式来计算手眼关系的系统。本公开提供的方案结合了眼在手外和眼在手上两种方式的优点,避免了两种方式的缺点,形成了独特的优势,具有显著的技术效果。
本公开可以提供一种目标追踪的机械臂系统,如图1所示,可以包括视觉系统10、机械臂20、追踪标识物30、标定板40。
所述视觉系统10可以包括一组或多组拍摄装置,如摄像机,可以进行拍照或拍摄,可以实时拍摄视场范围内的视频信息。视觉系统10还可以包括控制处理设备,可以对拍摄获取的数据进行处理,如坐标计算、坐标转换、主体识别(如识别是追踪标识物还是目标物体还是标定板等)等。当然,所述的控制处理设备也可以不设置在视觉系统中,可以由专门的机械臂系统的数据处理设备进行数据处理,如中央处理器、微处理器等,该控制处理设备可以实现机械臂系统中全部或部分的数据获取、交互、处理等。所述视场范围(视野范围)可以指视觉系统10可以拍摄、监控到的空间范围,如摄像头能够观察到的最大范围,可以用角度或三维坐标等表示。
追踪标识物30与机械臂20末端可以采用刚性连接。机械臂20通常可以包括基座和末端。基座通常设置为固定不动,基座和末端之间可以采用活动连接,使得末端(或机械臂)可以在一个或多个连接节点处理进行多个方向的运动。如一个场景中,末端可以是指机械臂的末端法兰盘。刚性连接通常是指两个连接件之间,当一个部件产生位移或受力时,与之相连的另一个部件不相对于第一个件产生位移或相对变形。本实施方案中,机械臂的末端与追踪标识物可以是刚性连接,相对位置关系固定。
视觉系统可以被放置于机械臂20最大伸展范围外,并且使机械臂上的追踪标识物位于视觉系统的视场范围内,这样可以避免机械臂20的运动触碰到视觉系统的设备。
标定板40可以被放置于视觉系统10的视场范围内,可以用于视觉系统10确定坐标。所述的确定坐标可以包括建立坐标和/或不同坐标之间的转换。
具体的,在一个在利用本系统进行标定和追踪处理的过程可以包括如下实施场景所述。当然,本公开提供的实施方案并不限于下述所述的处理方式。具体的,在一个标定处理实施场景中,视觉系统10自身可以有自身的坐标系统,可以称为视觉系统10下的坐标系。视觉系统10(或数据处理装置)可以识别和定位出追踪标识物30和标定板40,确定追踪标识物30和标定板40在视觉系统10下的坐标系中的坐标。
确定了标定板40在视觉系统10下的坐标,则可以进一步的可以将标定板40在视觉系统10下的坐标转换为标定板40在追踪标识物30坐标系下的坐标。如,在视觉系统10的坐标下,根据追踪标识物30在视觉系统10的坐标,将追踪标识物30的坐标作为原点建立或确定追踪标识物30的坐标系。此时可将追踪标识物30视作固定于机械臂末端的视觉系统,可采用眼在手上的手眼标定法或类似方式进行标定、跟踪。
在本公开的一些实施例方案中,可以固定标定板40的位置,控制以实现让机械臂20运动到多个不同的位姿(可以是不同空间位置,至少两个不同空间位置的姿势不同)。如控制机械臂在空间中完成任意4个不重合的位姿(各个位姿均不相同),这4个位姿都处在视觉系统10的视野内且不会遮挡标定板。
进一步的,可以让机械臂在多个空间位姿间进行插补运动,总共采集第一阈值个数以上的位姿数据。采集得到的每一个位姿的数据可以被分为一组数据。第一阈值的设置可以保障获取更多的数据信息,使得坐标建立、转换等的处理结果更加准确,使得机械臂系统对目标物体跟踪精度更高。如前述4个位姿的实施例中,可以在每两个位姿间插补至少两个位姿,加上之前的4个位姿,总计有超过10个(第一阈值),另外,采集至少10个不同的空间位姿数据可以更加有效保障数据的准确性。或者可以理解为要采集机械臂运动到10个以上不同的位置的位姿数据,可以通过先采集机械臂在空间中4个不同位置的位姿信息,剩余的位姿数据靠插补运动来完成,并计算得到10个以上的位姿数据。可以理解的是,一个空间位置可以是一个位姿,机械臂在一个空间位置上所做的不同角度或不同幅度的插补运动也可以作为一个位姿,或者在不同空间位置之间连续或离散做的若干插补运动也可以视为一个或多个位姿,进而得到相应的位姿数据。
当机械臂20到达每个位姿时记录机械臂的末端(末端的坐标可以是在机械臂基座坐标系下进行表示,而追踪标识物坐标是在视觉坐标系下被观测到的)在基座标系(基座坐标系是指机械臂的基座坐标系)下的坐标和标定板40在追踪标识物30坐标系下的坐标。进一步的,通过多组数据计算得到机械臂20的末端坐标系(末端的坐标系)和追踪标识物30坐标系之间的关系。所述的多组数据可以包括前述每一个位姿的数据,也可以包括前述提级到的各个坐标系下的某个或多个主体的坐标数据,也可以包括多个坐标系的转换或对应关系数据。
下面是基于前述标定过程实现对目标物的追踪的实施处理实施过程。
一个实施方式中,追踪标识物跟目标物体之间的相对位置关系可以预先设定(可以称为预设相对位置)。机械臂上的追踪标识物处于视觉系统视野范围内,当目标物体也处于视野范围内时,机械臂可以根据设定值和实时数据进行对目标物体的追踪,使二者保持设定的相对位置关系。这里的相对位置关系可以包括追踪标识物跟目标物体之间的距离、角度、方位等中的一种或多种位置关系组合。当目标物体处于视觉系统视场范围内时,视觉系统可以将目标物体的坐标转换到追踪标识物坐标系下。通过实时获得目标物体在追踪标识物坐标下的坐标可知二者之间的相对位置。若二者之间的相对位置不满足预先设定的相对位置关系,则需要控制机械臂进行移动,使其满足预先设定的相对位置关系,此时便需要确定追踪标识物需要移动的向量。利用手眼标定过程得到的机械臂末端坐标系和追踪标识物坐标系之间的关系,将空间中的移动向量转换为机械臂末端坐标系下的移动向量,通过该移动向量引导机械臂进行移动,达到机械臂跟随目标物体运动的效果。
通过本公开提供的方案进行视觉引导机械臂跟随目标物体运动时,如果视觉系统和机械臂之间发生相对位置的变化不会影响机械臂对目标物体的跟随效果。由于实际的视觉系统在机械臂外,视觉系统的视场范围不会随着机械臂的运动而发生改变,目标物体不容易脱离视觉系统的视场范围,从而确保视觉系统在此过程中具有较高的可靠性。同时由于追踪标识物的重量要远小于视觉系统,将视觉系统固定在机械臂外可以显著降低机械臂的负载,留出了更多的负载空间,提高了机械臂的真实负载能力。
基于前述实施例和实施场景的描述,本公开提供一种目标追踪的机械臂系统。图2是根据一示例性实施例示出的一种目标追踪的机械臂系统的结构示意图,如图2所示,所述系统可以包括视觉系统10、机械臂20、追踪标识物30、标定板40、控制处理装置50。
机械臂系统中所包含的各个设备、系统等的连接以及作用可以参照前述描述。在一些实施例中,控制处理器50可以与视觉系统10、机械臂20连接,如电性连接,可以获取视觉系统10获取的数据信息,将目标物的坐标转换到追踪标识物坐标系下,通过(可以是实时的)获得目标物体在追踪标识物坐标下的坐标可知二者之间的相对位置,即追踪标识物需要移动的移动向量,利用手眼标定过程得到的机械臂末端坐标系和追踪标识物坐标系之间的关系,将空间中的移动向量转换为机械臂末端坐标系下的移动向量。控制处理器50可以根据所述移动向量发出机械臂移动的指令,以控制机械臂进行移动机械臂跟随目标物体运动。
需要说明的是,基于前述描述,所述的机械臂系统还可以包括其他的实施例。
本公开还提供一种目标跟踪处理方法,可以实施于机械臂系统。图3是根据一示例性实施例示出的一种目标追踪的机械臂系统的结构示意图,如图3所示,所述方法可包括:
S302:获取目标物体在视觉系统的坐标系下的第一坐标。
S304:将所述第一坐标转换为追踪标识物坐标系下的第二坐标。
S306:根据所述第二坐标确定所述追踪标识物和所述目标物体之间的相对位置。
S308:在所述追踪标识物和所述目标物体之间的相对位置不满足预先设定的追踪标识物与目标物体之间的预设相对位置的情况下,确定追踪标识物在空间中需要移动的移动向量。这个移动向量可以根据所述相对位置和所述预设相对位置之间的坐标差值数据确定。
S310:将追踪标识物在空间中需要移动的移动向量转换为机械臂末端坐标系下的移动向量。
S312:基于所述机械臂末端坐标系下的移动向量控制机械臂运动。
需要说明的是,基于前述机械臂系统实施例描述,所述的跟踪处理方法还可以包括其他的实施例,在此不做逐一赘述。
本申请实施例提供的方法,可以应用于终端或服务器等计算机设备中,计算机设备可以实现视觉系统获取的数据处理、坐标计算以及转换、计算得到机械臂末端坐标系和追踪标识物坐标系之间的关系、发出对机械臂运动的控制指令等。所述计算机设备可以是终端,可以但不限于是各种个人计算机、笔记本电脑、智能手机、平板电脑、物联网设备和便携式可穿戴设备,物联网设备可为智能音箱、智能电视、智能空调、智能车载设备等。便携式可穿戴设备可为智能手表、智能手环、头戴设备等。计算机设备也可以是服务器,可以用独立的服务器或者是多个服务器组成的服务器集群、分布式分系统、云处理平台、包含区块链节点的服务器以及其组合的设备。
可以理解的是,本说明书中上述方法的各个实施例均采用递进的方式描述,各个实施例之间相同/相似的部分互相参见即可,每个实施例重点说明的都是与其它实施例的不同之处。相关之处参见其他方法实施例的描述说明即可。
应该理解的是,虽然附图中涉及的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,附图中的至少一部分步骤可以包括多个步骤或者多个阶段,这些步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤的步骤或者阶段的至少一部分轮流或者交替地执行。
基于上述所述的目标追踪的机械臂方法实施例的描述,本公开还提供目标追踪的机械臂装置。所述装置可以包括使用了本说明书实施例所述方法的系统(包括分布式系统)、软件(应用)、模块、组件、服务器、客户端等并结合必要的实施硬件的装置。基于同一创新构思,本公开实施例提供的一个或多个实施例中的装置如下面的实施例所述。由于装置解决问题的实现方案与方法相似,因此本说明书实施例具体的装置的实施可以参见前述方法的实施,重复之处不再赘述。以下所使用的,术语“单元”或者“模块”可以实现预定功能的软件和/或硬件的组合。尽管以下实施例所描述的装置较佳地以软件来实现,但是硬件,或者软件和硬件的组合的实现也是可能并被构想的。
所述的装置可以采用第一模块、第二模块、第三模块等依次类推的名称定义,可以实施本公开各个方法实施例中各个的对应步骤。如一种目标追踪的机械臂的控制装置,包括:
第一模块,用于获取目标物体在视觉系统的坐标系下的第一坐标;
第二模块,用于将所述第一坐标转换为追踪标识物坐标系下的第二坐标;
第三模块,用于根据所述第二坐标确定所述追踪标识物和所述目标物体之间的相对位置;
第四模块,用于在所述追踪标识物和所述目标物体之间的相对位置不满足预先设定的追踪标识物与目标物体之间的预设相对位置的情况下,确定追踪标识物在空间中需要移动的移动向量;
第五模块,用于将追踪标识物在空间中需要移动的移动向量转换为机械臂末端坐标系下的移动向量;
第六模块,用于基于所述机械臂末端坐标系下的移动向量控制机械臂运动。
本公开提供装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
在一个实施例中,提供了一种计算机设备,该计算机设备可以是服务器,其内部结构图可以如图4所示。该计算机设备包括通过系统总线连接的处理器、存储器和网络接口。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统、计算机程序和数据库。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的数据库用于存储数据。该计算机设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现本公开任一实施例方法。
本领域技术人员可以理解,图4中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的各实施例中所使用的对存储器、数据库或其它介质的任何引用,均可包括非易失性和易失性存储器中的至少一种。非易失性存储器可包括只读存储器(Read-OnlyMemory,ROM)、磁带、软盘、闪存、光存储器、高密度嵌入式非易失性存储器、阻变存储器(ReRAM)、磁变存储器(Magnetoresistive Random Access Memory,MRAM)、铁电存储器(Ferroelectric Random Access Memory,FRAM)、相变存储器(Phase Change Memory,PCM)、石墨烯存储器等。易失性存储器可包括随机存取存储器(Random Access Memory,RAM)或外部高速缓冲存储器等。作为说明而非局限,RAM可以是多种形式,比如静态随机存取存储器(Static Random Access Memory,SRAM)或动态随机存取存储器(Dynamic RandomAccess Memory,DRAM)等。本申请所提供的各实施例中所涉及的数据库可包括关系型数据库和非关系型数据库中至少一种。非关系型数据库可包括基于区块链的分布式数据库等,不限于此。本申请所提供的各实施例中所涉及的处理器可为通用处理器、中央处理器、图形处理器、数字信号处理器、可编程逻辑器、基于量子计算的数据处理逻辑器等,不限于此。
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本申请专利范围的限制。应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。
Claims (15)
1.一种目标追踪的机械臂系统,其特征在于,包括:视觉系统、机械臂、追踪标识物、标定板、控制处理装置;其中,
追踪标识物与机械臂的末端采用刚性连接;
视觉系统放置于机械臂外且使机械臂上的追踪标识物位于视觉系统的视场范围内;
标定板被放置于视觉系统的视场范围内;
控制处理器与视觉系统、机械臂电性连接。
2.如权利要求1所述的机械臂系统,其特征在于,所述控制处理器还用于:
控制视觉系统识别和定位出追踪标识物和标定板,确定追踪标识物和标定板在视觉系统下的坐标系中的坐标;
将标定板在所述视觉系统下的坐标转换为标定板在追踪标识物坐标系下的坐标;
基于所述追踪标识物坐标系下的坐标,将所述追踪标识物作为固定于机械臂末端的视觉系统,采用眼在手上的手眼标定法对目标物的位置进行标定和/或跟踪。
3.如权利要求1所述的机械臂系统,其特征在于,在固定标定板的位置的情况下,所述控制处理器还用于:
控制所述机械臂运动到多个不同的空间位姿,其中所述多个不同的空间位姿的位姿均不同;
控制所述机械臂在多个空间位姿间进行插补运动,采集第一阈值个数以上的位姿数据,所述位姿数据用于机械臂系统对目标物体跟踪过程中的坐标建立、转换的数据处理。
4.如权利要求3所述的机械臂系统,其特征在于,所述位姿数据用于机械臂系统对目标物体跟踪过程中的坐标建立、转换的数据处理,包括:
通过包括所述位姿数据的多组数据计算得到机械臂的末端坐标系和追踪标识物坐标系之间的关系。
5.如权利要求1所述的机械臂系统,其特征在于,所述控制所述机械臂在多个位姿间进行插补运动包括:
控制所述机械臂在运动到多个不同的空间位姿中的每两个空间位姿间插补至少两个位姿。
6.如权利要求1所述的机械臂系统,其特征在于,所述控制处理器还用于:
当检测到机械臂上的追踪标识物处于视觉系统视野范围内,且目标物体处于视野范围内时,将目标物体的坐标转换到追踪标识物坐标系下,控制机械臂根据进行对目标物体的追踪,使追踪标识物跟目标物体之间保持设定的相对位置关系。
7.如权利要求6所述的机械臂系统,其特征在于,所述将目标物体的坐标转换到追踪标识物坐标系下,控制机械臂根据进行对目标物体的追踪,使追踪标识物跟目标物体之间保持设定的相对位置关系,包括:
通过实时获得目标物体在追踪标识物坐标下的坐标确定追踪标识物跟目标物体之间的相对位置;
若所述相对位置不满足预先设定的相对位置关系,则利用手眼标定方式得到的机械臂末端坐标系和追踪标识物坐标系之间的关系,将追踪标识物在空间中的移动向量转换为机械臂末端坐标系下的移动向量;
通过所述机械臂末端坐标系下的移动向量,发出机械臂移动的指令,控制机械臂跟随目标物体移动。
8.如权利要求6所述的机械臂系统,其特征在于,所述相对位置关系包括追踪标识物跟目标物体之间的距离、角度、方位等中的一种或多种位置关系组合。
9.如权利要求3所述的机械臂系统,其特征在于,多个不同的空间位姿包括至少10个以上不同的空间位姿。
10.一种目标跟踪处理方法,其特征在于,实施于如权利要求1所述的机械臂系统,包括:
获取目标物体在视觉系统的坐标系下的第一坐标;
将所述第一坐标转换为追踪标识物坐标系下的第二坐标;
根据所述第二坐标确定所述追踪标识物和所述目标物体之间的相对位置;
在所述追踪标识物和所述目标物体之间的相对位置不满足预先设定的追踪标识物与目标物体之间的预设相对位置的情况下,确定追踪标识物在空间中需要移动的移动向量;
将追踪标识物在空间中需要移动的移动向量转换为机械臂末端坐标系下的移动向量;
基于所述机械臂末端坐标系下的移动向量控制机械臂运动。
11.一种机械臂控制方法,其特征在于,包括:
获取目标物体在视觉系统的坐标系下的第一坐标;
将所述第一坐标转换为追踪标识物坐标系下的第二坐标;
根据所述第二坐标确定所述追踪标识物和所述目标物体之间的相对位置;
在所述追踪标识物和所述目标物体之间的相对位置不满足预先设定的追踪标识物与目标物体之间的预设相对位置的情况下,确定追踪标识物在空间中需要移动的移动向量;
将追踪标识物在空间中需要移动的移动向量转换为机械臂末端坐标系下的移动向量;
基于所述机械臂末端坐标系下的移动向量控制机械臂运动。
12.一种目标追踪的机械臂的控制装置,其特征在于,包括:
第一模块,用于获取目标物体在视觉系统的坐标系下的第一坐标;
第二模块,用于将所述第一坐标转换为追踪标识物坐标系下的第二坐标;
第三模块,用于根据所述第二坐标确定所述追踪标识物和所述目标物体之间的相对位置;
第四模块,用于在所述追踪标识物和所述目标物体之间的相对位置不满足预先设定的追踪标识物与目标物体之间的预设相对位置的情况下,确定追踪标识物在空间中需要移动的移动向量;
第五模块,用于将追踪标识物在空间中需要移动的移动向量转换为机械臂末端坐标系下的移动向量;
第六模块,用于基于所述机械臂末端坐标系下的移动向量控制机械臂运动。
13.一种计算机设备,其特征在于,包括:
至少一个处理器;
用于存储所述处理器可执行指令的存储器;
其中,所述处理器被配置为执行所述指令,以实现如权利要求11或10所述的方法。
14.一种计算机可读存储介质,其特征在于,当所述计算机可读存储介质中的指令被计算机设备的处理器执行时,使得所述计算机设备能够执行如权利要求11或10所述的方法。
15.一种计算机程序产品,包括计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求11或10所述的方法。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111212280 | 2021-10-18 | ||
CN2021112122809 | 2021-10-18 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114406985A true CN114406985A (zh) | 2022-04-29 |
CN114406985B CN114406985B (zh) | 2024-04-12 |
Family
ID=81266661
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111556272.6A Active CN114406985B (zh) | 2021-10-18 | 2021-12-17 | 一种目标追踪的机械臂方法、系统、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114406985B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117124334A (zh) * | 2023-10-23 | 2023-11-28 | 湖南视比特机器人有限公司 | 机器人漂移校正方法、机器人、存储介质和终端设备 |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101186038A (zh) * | 2007-12-07 | 2008-05-28 | 北京航空航天大学 | 一种机器人延伸手眼标定方法 |
CN109483516A (zh) * | 2018-10-16 | 2019-03-19 | 浙江大学 | 一种基于空间距离和极线约束的机械臂手眼标定方法 |
CN109910016A (zh) * | 2019-04-22 | 2019-06-21 | 亿嘉和科技股份有限公司 | 基于多自由度机械臂的视觉采集标定方法、装置及系统 |
CN110260786A (zh) * | 2019-06-26 | 2019-09-20 | 华中科技大学 | 一种基于外部跟踪的机器人视觉测量系统及其标定方法 |
CN110370286A (zh) * | 2019-08-13 | 2019-10-25 | 西北工业大学 | 基于工业机器人和单目相机的定轴运动刚体空间位置识别方法 |
WO2020038386A1 (zh) * | 2018-08-22 | 2020-02-27 | 杭州萤石软件有限公司 | 确定单目视觉重建中的尺度因子 |
CN111445533A (zh) * | 2020-03-27 | 2020-07-24 | 广东博智林机器人有限公司 | 一种双目相机标定方法、装置、设备及介质 |
US20200238525A1 (en) * | 2019-01-28 | 2020-07-30 | Cognex Corporation | System and method for automatic hand-eye calibration of vision system for robot motion |
CN111791231A (zh) * | 2020-06-02 | 2020-10-20 | 同济大学 | 一种机器人标定系统及二维平面、三维空间运动标定方法 |
CN113370221A (zh) * | 2021-08-12 | 2021-09-10 | 季华实验室 | 机器人tcp标定系统、方法、装置、设备及存储介质 |
-
2021
- 2021-12-17 CN CN202111556272.6A patent/CN114406985B/zh active Active
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101186038A (zh) * | 2007-12-07 | 2008-05-28 | 北京航空航天大学 | 一种机器人延伸手眼标定方法 |
WO2020038386A1 (zh) * | 2018-08-22 | 2020-02-27 | 杭州萤石软件有限公司 | 确定单目视觉重建中的尺度因子 |
CN109483516A (zh) * | 2018-10-16 | 2019-03-19 | 浙江大学 | 一种基于空间距离和极线约束的机械臂手眼标定方法 |
US20200238525A1 (en) * | 2019-01-28 | 2020-07-30 | Cognex Corporation | System and method for automatic hand-eye calibration of vision system for robot motion |
CN109910016A (zh) * | 2019-04-22 | 2019-06-21 | 亿嘉和科技股份有限公司 | 基于多自由度机械臂的视觉采集标定方法、装置及系统 |
CN110260786A (zh) * | 2019-06-26 | 2019-09-20 | 华中科技大学 | 一种基于外部跟踪的机器人视觉测量系统及其标定方法 |
CN110370286A (zh) * | 2019-08-13 | 2019-10-25 | 西北工业大学 | 基于工业机器人和单目相机的定轴运动刚体空间位置识别方法 |
CN111445533A (zh) * | 2020-03-27 | 2020-07-24 | 广东博智林机器人有限公司 | 一种双目相机标定方法、装置、设备及介质 |
CN111791231A (zh) * | 2020-06-02 | 2020-10-20 | 同济大学 | 一种机器人标定系统及二维平面、三维空间运动标定方法 |
CN113370221A (zh) * | 2021-08-12 | 2021-09-10 | 季华实验室 | 机器人tcp标定系统、方法、装置、设备及存储介质 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117124334A (zh) * | 2023-10-23 | 2023-11-28 | 湖南视比特机器人有限公司 | 机器人漂移校正方法、机器人、存储介质和终端设备 |
CN117124334B (zh) * | 2023-10-23 | 2024-01-23 | 湖南视比特机器人有限公司 | 机器人漂移校正方法、机器人、存储介质和终端设备 |
Also Published As
Publication number | Publication date |
---|---|
CN114406985B (zh) | 2024-04-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107871328B (zh) | 机器视觉系统和机器视觉系统实现的校准方法 | |
CN109313417B (zh) | 帮助机器人定位 | |
CN110695993B (zh) | 一种柔性机械臂同步测量方法、系统及装置 | |
EP2684651A2 (en) | Robot system, robot, robot control device, robot control method, and robot control program | |
WO2021218542A1 (zh) | 基于视觉感知设备的机器人本体坐标系的空间标定方法、装置和存储介质 | |
US10061784B2 (en) | Method and device for fusing a plurality of uncertain or correlated data | |
CN114406985B (zh) | 一种目标追踪的机械臂方法、系统、设备及存储介质 | |
JPWO2018043524A1 (ja) | ロボットシステム、ロボットシステム制御装置、およびロボットシステム制御方法 | |
Li et al. | Simultaneous kinematic calibration, localization, and mapping (SKCLAM) for industrial robot manipulators | |
Li et al. | Relative posture-based kinematic calibration of a 6-RSS parallel robot by optical coordinate measurement machine | |
CN116277035A (zh) | 机器人的控制方法、装置、处理器及电子设备 | |
JP2012071394A (ja) | シミュレーションシステムおよびそのためのシミュレーションプログラム | |
US20210156710A1 (en) | Map processing method, device, and computer-readable storage medium | |
Assaf et al. | Visual-tactile sensory map calibration of a biomimetic whiskered robot | |
Tammaro et al. | Extending Industrial Digital Twins with Optical Object Tracking. | |
JP2003296708A (ja) | データ処理方法、データ処理プログラムおよび記録媒体 | |
CN116019562A (zh) | 机器人控制系统和方法 | |
CN113597362B (zh) | 用于确定机器人坐标系与可移动装置坐标系之间的关系的方法和控制装置 | |
CN114833825A (zh) | 协作机器人控制方法、装置、计算机设备和存储介质 | |
CN115042184A (zh) | 机器人手眼坐标转换方法、装置、计算机设备和存储介质 | |
CN114187344A (zh) | 一种地图构建方法、装置及设备 | |
Schmidt et al. | The calibration of the pan-tilt units for the active stereo head | |
Pathak et al. | Spherical video stabilization by estimating rotation from dense optical flow fields | |
Medeiros et al. | UAV target-selection: 3D pointing interface system for large-scale environment | |
Nobakht et al. | A hybrid positioning method for eye-in-hand industrial robot by using 3D reconstruction and IBVS |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |