CN111483803A - 控制方法、抓取系统和存储介质 - Google Patents
控制方法、抓取系统和存储介质 Download PDFInfo
- Publication number
- CN111483803A CN111483803A CN202010307225.7A CN202010307225A CN111483803A CN 111483803 A CN111483803 A CN 111483803A CN 202010307225 A CN202010307225 A CN 202010307225A CN 111483803 A CN111483803 A CN 111483803A
- Authority
- CN
- China
- Prior art keywords
- stacked
- image
- pose
- identified
- target
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B65—CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
- B65G—TRANSPORT OR STORAGE DEVICES, e.g. CONVEYORS FOR LOADING OR TIPPING, SHOP CONVEYOR SYSTEMS OR PNEUMATIC TUBE CONVEYORS
- B65G47/00—Article or material-handling devices associated with conveyors; Methods employing such devices
- B65G47/74—Feeding, transfer, or discharging devices of particular kinds or types
- B65G47/90—Devices for picking-up and depositing articles or materials
- B65G47/905—Control arrangements
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B65—CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
- B65G—TRANSPORT OR STORAGE DEVICES, e.g. CONVEYORS FOR LOADING OR TIPPING, SHOP CONVEYOR SYSTEMS OR PNEUMATIC TUBE CONVEYORS
- B65G47/00—Article or material-handling devices associated with conveyors; Methods employing such devices
- B65G47/74—Feeding, transfer, or discharging devices of particular kinds or types
- B65G47/90—Devices for picking-up and depositing articles or materials
- B65G47/902—Devices for picking-up and depositing articles or materials provided with drive systems incorporating rotary and rectilinear movements
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B65—CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
- B65G—TRANSPORT OR STORAGE DEVICES, e.g. CONVEYORS FOR LOADING OR TIPPING, SHOP CONVEYOR SYSTEMS OR PNEUMATIC TUBE CONVEYORS
- B65G2203/00—Indexing code relating to control or detection of the articles or the load carriers during conveying
- B65G2203/04—Detection means
Abstract
本申请公开了一种控制方法、抓取系统和存储介质。控制方法用于抓取系统。抓取系统包括摄像头、抓取装置、传送带和设置在传送带的编码器;控制方法包括:获取摄像头输出的待识别图像;获取编码器输出的传送带的运动信息;根据待识别图像和运动信息确定待码放物体的目标抓取位姿;控制抓取装置运动至目标抓取位姿以抓取待码放物体;根据待识别图像确定待码放物体的目标放置位姿;控制抓取装置从目标抓取位姿移动至目标放置位姿以码放待码放物体。如此,目标抓取位姿的确定考虑到了传送带的运动,使得对待码放物体的抓取更加灵活。目标放置位姿的确定基于待识别图像,使得对待码放物体的码放更加智能,有利于提高抓取和码放的效率和效果。
Description
技术领域
本申请涉及控制技术领域,具体涉及一种控制方法、抓取系统和存储介质。
背景技术
相关技术通常通过摄像头拍摄图像以确定传送带上的物体的位置,然后通过抓取装置来抓取传送带上的物体,并对抓取到的物体进行码放。然而,当抓取装置移动至由图像确定的待抓取物体的位置时,物体通常已离开该位置。而且,码放的位置通常是固定的,导致抓取和码放的灵活性和效率较低,效果较差。
发明内容
本申请提供了一种控制方法、抓取系统和存储介质。
本申请实施方式提供一种控制方法。所述控制方法用于抓取系统,所述抓取系统包括摄像头、抓取装置、传送带和设置在所述传送带的编码器;所述控制方法包括:
获取所述摄像头输出的待识别图像;
获取所述编码器输出的所述传送带的运动信息;
根据所述待识别图像和所述运动信息确定待码放物体的目标抓取位姿;
控制所述抓取装置运动至所述目标抓取位姿以抓取所述待码放物体;
根据所述待识别图像确定所述待码放物体的目标放置位姿;
控制所述抓取装置从所述目标抓取位姿移动至所述目标放置位姿以码放所述待码放物体。
本申请实施方式提供一种抓取系统。所述抓取系统包括处理器、摄像头、抓取装置、传送带和设置在所述传送带的编码器,所述处理器用于获取所述摄像头输出的待识别图像;获取所述编码器输出的所述传送带的运动信息;根据所述待识别图像和所述运动信息确定待码放物体的目标抓取位姿;控制所述抓取装置运动至所述目标抓取位姿以抓取所述待码放物体;根据所述待识别图像确定所述待码放物体的目标放置位姿;控制所述抓取装置从所述目标抓取位姿移动至所述目标放置位姿以码放所述待码放物体。
本申请实施方式的控制方法、抓取系统和存储介质,目标抓取位姿的确定考虑到了传送带的运动,使得对待码放物体的抓取更加灵活。目标放置位姿的确定基于待识别图像,使得对待码放物体的码放更加智能,有利于提高抓取和码放的效率和效果。
本申请的实施方式的附加方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本申请的实施方式的实践了解到。
附图说明
本申请的上述和/或附加的方面和优点从结合下面附图对实施方式的描述中将变得明显和容易理解,其中:
图1是本申请实施方式的控制方法的流程示意图;
图2是本申请实施方式的抓取系统的结构示意图;
图3是本申请实施方式的抓取系统的模块示意图;
图4是本申请另一实施方式的控制方法的流程示意图;
图5是相关技术的控制方法的待识别图像的示意图;
图6是本申请实施方式的控制方法的待识别图像的示意图;
图7是本申请实施方式的控制方法的待识别图像的图像轮廓示意图;
图8是本申请又一实施方式的控制方法的流程示意图;
图9是本申请再一实施方式的控制方法的流程示意图;
图10是本申请另一实施方式的控制方法的流程示意图。
具体实施方式
下面详细描述本申请的实施方式,所述实施方式的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施方式是示例性的,仅用于解释本申请,而不能理解为对本申请的限制。
在本申请的描述中,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个所述特征。在本申请的描述中,“多个”的含义是两个或两个以上,除非另有明确具体的限定。
在本申请的描述中,需要说明的是,除非另有明确的规定和限定,术语“安装”、“相连”、“连接”应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或一体地连接;可以是机械连接,也可以是电连接或可以相互通信;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通或两个元件的相互作用关系。对于本领域的普通技术人员而言,可以根据具体情况理解上述术语在本申请中的具体含义。
下文的公开提供了许多不同的实施方式或例子用来实现本申请的不同结构。为了简化本申请的公开,下文中对特定例子的部件和设置进行描述。当然,它们仅仅为示例,并且目的不在于限制本申请。此外,本申请可以在不同例子中重复参考数字和/或参考字母,这种重复是为了简化和清楚的目的,其本身不指示所讨论各种实施方式和/或设置之间的关系。此外,本申请提供了的各种特定的工艺和材料的例子,但是本领域普通技术人员可以意识到其他工艺的应用和/或其他材料的使用。
请参阅图1和图2,本申请实施方式提供一种控制方法和抓取系统100。控制方法用于抓取系统100,抓取系统100包括摄像头10、抓取装置20、传送带30和设置在传送带30的编码器40;控制方法包括:
步骤S13:获取摄像头10输出的待识别图像;
步骤S14:获取编码器40输出的传送带30的运动信息;
步骤S17:根据待识别图像和运动信息确定待码放物体的目标抓取位姿;
步骤S18:控制抓取装置20运动至目标抓取位姿以抓取待码放物体;
步骤S19:根据待识别图像确定待码放物体的目标放置位姿;
步骤S20:控制抓取装置20从目标抓取位姿移动至目标放置位姿以码放待码放物体。
请参阅图3,本申请实施方式提供一种抓取系统100。抓取系统100包括处理器101、摄像头10、抓取装置20、传送带30和设置在传送带30的编码器40,处理器101用于获取摄像头10输出的待识别图像;获取编码器40输出的传送带30的运动信息;根据待识别图像和运动信息确定待码放物体的目标抓取位姿;控制抓取装置20运动至目标抓取位姿以抓取待码放物体;根据待识别图像确定待码放物体的目标放置位姿;控制抓取装置20从目标抓取位姿移动至目标放置位姿以码放待码放物体。
本申请实施方式的控制方法和抓取系统100,目标抓取位姿的确定考虑到了传送带30的运动,使得对待码放物体的抓取更加灵活。目标放置位姿的确定基于待识别图像,可基于待识别图像对目标放置位姿动态确定,使得对待码放物体的码放更加智能,有利于提高抓取和码放的效率和效果。
本实施方式中的摄像头10包括2D工业摄像头。可以理解,在其他的实施方式中,摄像头10可为3D摄像头。例如基于结构光、飞行时间、双目视觉的3D摄像头。在此不对摄像头10的具体形式进行限定。
本实施方式中的抓取装置20可包括机械臂,机械臂可设有电磁吸盘21,电磁吸盘21用于在通电时产生磁力以吸附待码放物体,在断电时丧失磁力以释放待码放物体。如此,可以通过通电和断电简单方便地实现待码放物体的吸取和释放,而且断电时电磁吸盘21退磁及时,可以避免退磁不及时的问题,有利于提高抓取效率。具体地,电磁吸盘21可包括多个电磁单元,多个电磁单元呈阵列排布。如此,可以在通电时产生阵列式的磁力,从而使抓取更加稳定。
可以理解,在其他的实施方式中,抓取装置20也可通过夹爪、真空吸盘等部件对待码放物体进行抓取。在此不对抓取装置20的具体形式进行限定。
另外,在图2的示例中,摄像头10的数量为2个,抓取装置20的数量为2个,每个抓取装置20与一个摄像头10对应设置。如此,两组摄像头10和抓取装置20可以交替抓取待码放物体,可以提高效率。
可以理解,在其他的实施方式中,摄像头10的数量可以为1个、3个、4个或其他数量。抓取装置20的数量可以为1个、3个、4个或其他数量。在此不对摄像头10和抓取装置20的具体数量进行限定。
本实施方式中的编码器40可为旋转编码器。旋转编码器可以随传送带30同步旋转,并记录编码值。编码值也即是传送带30的运动信息。
在步骤S13前,控制方法可包括:对摄像头10进行内参标定和外参标定,以建立摄像头10的坐标系与传送带30的坐标系之间的联系;标定抓取装置20的坐标系,以建立抓取装置20的坐标系与传送带30的坐标系之间的联系。如此,可以建立起摄像头10的坐标系、传送带30的坐标系和抓取装置20的坐标系之间的联系,保证抓取系统100的各部件处于正确的状态,便于后续的计算和抓取。
具体地,可利用张正友标定法及openCV中的marker detection模块分别对摄像头10进行内参标定与外参标定。可利用三点标定法标定抓取装置20的坐标系。在此不对标定的具体方式进行限定。
请注意,本实施方式中的目标抓取位姿、目标放置位姿,均是在抓取装置20的坐标系下的位姿。
本实施方式中的抓取系统100可包括工业控制计算机、可编程逻辑控制器(Programmable Logic Controller,PLC)。摄像头10与抓取装置20的主机之间可通过工业控制计算机建立通信链路,编码器40可与抓取装置20连接。各部件之间的信号转发可由PLC完成。处理器101可为工业控制计算机、可编程逻辑控制器的部分或全部。
请参阅图4,在某些实施方式中,待识别图像包括非过滤区域,控制方法包括:
步骤S15:在待码放物体的图像未处于非过滤区域时,确定未从待识别图像中检测到待码放物体;
步骤S16:在待码放物体的图像处于非过滤区域时,确定从待识别图像中检测到待码放物体,并进入步骤S17和步骤S19。
在某些实施方式中,待识别图像包括非过滤区域,处理器101用于在待码放物体的图像未处于非过滤区域时,确定未从待识别图像中检测到待码放物体;在待码放物体的图像处于非过滤区域时,确定从待识别图像中检测到待码放物体,并进入根据待识别图像和运动信息确定待码放物体的目标抓取位姿的步骤,和根据待识别图像确定待码放物体的目标放置位姿的步骤。
如此,通过非过滤区域缩小待识别图像的检测范围,确保待码放物体完全进入摄像头10的视野再对待识别图像进行检测识别,有利于提高识别的准确率。可以理解,非过滤区域也即是待识别图像的实际检测范围。
请注意,待识别图像中非过滤区域之外的区域为过滤区域。待码放物体的图像处于非过滤区域,是指待码放物体的图像完全处于非过滤区域。待码放物体的图像未处于非过滤区域,包括待码放物体的图像完全处于过滤区域,或,待码放物体的图像的一部分处于非过滤区域,另一部分处于非过滤区域。
可以理解,由于待码放物体通常具有一定尺寸和体积,在待码放物体未被摄像头10拍全的情况下,如果根据待识别图像确定待码放物体的目标抓取位姿和目标放置位姿,可能导致目标抓取位姿和目标放置位姿的准确率较低,甚至导致对待码放物体的抓取失败。
例如,请参阅图5,根据待识别图像P1,可以确定此时待码放物体未完全进入摄像头10的视野,即待识别图像P1中不包括待码放物体的完整图像。如果对待识别图像进行识别,只能基于图5中虚线框中的、待码放物体的部分图像P11计算,以得到目标抓取位姿。这样得到的目标抓取位姿与基于完整的待码放物体的图像所计算出目标抓取位姿相差较大,容易导致抓取偏离待码放物体的中心,甚至导致抓取失败。类似地,此时只能基于图5中虚线框中的、待码放物体的部分图像P11计算,以得到目标放置位姿。这样得到的目标放置位姿与基于完整的待码放物体的图像所计算出目标放置位姿相差较大,导致目标放置位姿的准确率将大幅下降。
而在本实施方式中,在待码放物体的图像未处于待识别图像的非过滤区域时,确定未从待识别图像中检测到待码放物体;在待码放物体的图像处于非过滤区域时,确定从待识别图像中检测到待码放物体,并进入步骤S17和步骤S19,可以保证待码放物体完全进入摄像头10的视野再根据待识别图像进行检测识别,有利于提高识别的准确率。
例如,请参阅图6,待识别图像P2包括过滤区域P21和非过滤区域P22。由于码放物体的图像轮廓,即图7中的白色区域与黑色区域交界处的像素点,全部处于非过滤区域P22内,因此,可确定待码放物体的图像P23处于非过滤区域P22,从而确定从待识别图像P2中检测到待码放物体,进而可以进入进入步骤S17和步骤S19。
可以理解,如果待码放物体未完全出现在非过滤区域P22,例如图像轮廓上的像素点出现在过滤区域P21中,或者,图像轮廓与过滤区域P21和非过滤区域P22的边界有交点,则该图像轮廓被舍弃,确定未从待识别图像中检测到待码放物体。
请注意,理想情况下,过滤区域和非过滤区域的边界可以接近待识别图像的边缘,即过滤区域可以很小。然而,若待码放物体表面反光、纹理过于丰富,待码放物体的图像轮廓容易出现断裂的现象。此时,图像轮廓将不紧贴待识别图像的边缘。因此,为保证过滤效果,过滤区域与非过滤区域的边界应适当远离待识别图像的边界。该边界的具体位置可根据实际场景测试确定。
另外,控制方法可包括:获取输入数据;根据输入数据确定过滤区域和非过滤区域的边界,以确定非过滤区域的范围。如此,确定过滤区域和非过滤区域的边界,可以准确地确定非过滤区域的范围。
可以理解,输入数据可由用户输入,也可由抓取系统100的检测部件检测得到。输入数据可为前述的根据实际场景测试确定的测试信息,也可为确定过滤区域和非过滤区域的边界的具体数值。在此不对输入数据的具体来源和具体形式进行限定。
在本实施方式中,输入数据可以是为确定过滤区域和非过滤区域的边界的具体数值。
例如,输入数据包括基点和缩放比例,可根据基点和缩放比例缩放待识别图像的边框,并将缩放后的边框的范围作为非过滤区域的范围。如此,以缩放待识别图像的边框的形式确定非过滤区域的范围,简单方便,容易实现。
在一个例子中,基点为待识别图像的中心,缩放比例为0.5,可以待识别图像的中心为基点,以0.5作为缩放比例,对待识别图像的边框进行缩放,缩放后的边框作为过滤区域和非过滤区域的边界。即,缩放后的边框内即为非过滤区域,缩放后的边框与待识别图像的边框之间的区域即为过滤区域。
再如,输入数据包括基点和范围尺寸,可根据基点和范围尺寸确定非过滤区域的范围。如此,非过滤区域的范围较为灵活。
在一个例子中,基点为待识别图像的中心,范围尺寸为长500像素,宽500像素。如此,则将以待识别图像的中心为基点,长500像素,宽500像素的范围作为非过滤区域。可以理解,范围尺寸可以包括矩形范围的尺寸、正方形范围的尺寸、圆形范围的尺寸。在此不对范围尺寸的具体形式进行限定。
此外,在本实施方式中,可通过用于目标检测的卷积神经网络对待识别图像进行识别,以待码放物体的图像是否处于非过滤区域。如此,可以提高识别的准确性。
请参阅图8,在某些实施方式中,控制方法包括:
步骤S11:获取触发信号;
步骤S12:根据触发信号控制摄像头10连续拍摄以获取待识别图像;
在确定未从待识别图像中检测到待码放物体时,进入步骤S13。
在某些实施方式中,处理器101用于获取触发信号;根据触发信号控制摄像头10连续拍摄以获取待识别图像;在确定未从待识别图像中检测到待码放物体时,进入获取摄像头10输出的待识别图像的步骤。
如此,通过控制摄像头连续拍摄,可以避免漏检,并提高检测效率。
可以理解,相关技术通常采用光电传感器等感应器件进行拦截式抓取,在感应到待码放物体后,发送信号至摄像头以触发摄像头拍摄待识别图像,从而根据待识别图像确定待码放物体的目标抓取位姿。
然而,由于待码放物体触发拍照时必须处于摄像头视野下以使待识别图像中包括待码放物体的图像,因此,光电传感器也必须位于摄像头视野下。为了保证形状种类各异的待码放物体被拍摄完整,光电传感器常常位于接近视野中央的位置。在待码放物体流动至该位置触发光电传感器等感应器件之前,摄像头和抓取装置不会有任何动作。然而这样可能错过实际上存在的合适的抓取时机,从而导致抓取的滞后。另外,如果多个待码放物体并列通过光电传感器等感应器件,可能仅触发摄像头进行一次拍照,而一次拍照仅识别一个待码放物体,这将导致遗漏,从而使得传统方式的效率较低。
而本实施方式的控制方法,利用触发摄像头10连续拍摄,以实现自动化、近实时化检测,将被动等待触发拍照转变为主动触发拍照。在这样的触发模式下,待码放物体被实时监控,一旦进入摄像头10的视野,便能被摄像头10拍摄,从而确定目标抓取位置。而且,即使多个待码放物体并列进入摄像头10的视野,摄像头10也能够迅速地进行多次拍摄,避免遗漏。这样的方式减少了抓取装置20的等待时间,使得抓取的节拍更加紧凑,并且能大幅减少漏识别的发生,有利于提高工作效率。
具体地,在步骤S11中,触发信号可由抓取装置20发送至处理器101。触发信号可由抓取装置20在抓取装置20启动时发送。如此,保证摄像头10拍摄时,抓取装置20处于工作状态,避免根据待识别图像确定了目标抓取位姿后,抓取装置20不能及时运动以抓取待码放物体。
进一步地,处理器101在获取到触发信号的情况下,可开始读取编码器40输出的运动信息。例如,工业控制计算机可通过PLC给抓取装置20发送读取信号,以使抓取装置20的处理装置读取编码器40输出的运动信息。
在步骤S12中,可利用高频率触发信号控制摄像头10连续拍摄,以获取待识别图像,使得摄像头10接近实时化拍摄,避免时间间隔过长引起的遗漏。
请参阅图9,在某些实施方式中,步骤S17包括:
步骤S171:根据待识别图像确定待码放物体的初始位姿;
步骤S172:根据运动信息确定待码放物体的位姿偏差;
步骤S173:根据初始位姿和位姿偏差确定目标抓取位姿。
在某些实施方式中,处理器101用于根据待识别图像确定待码放物体的初始位姿;根据运动信息确定待码放物体的位姿偏差;根据初始位姿和位姿偏差确定目标抓取位姿。
如此,实现根据待识别图像和运动信息确定待码放物体的目标抓取位姿。具体地,在步骤S171中,可利用卷积神经网络处理待识别图像,以确定待码放物体的最小矩阵包围盒;根据最小矩阵包围盒确定待码放物体的初始位姿。如此,可以准确地实现根据待识别图像确定待码放物体的初始位姿。
在步骤S172中,可根据运动信息确定传送带30的位移,从而确定待码放物体的位姿偏差。可以理解,由于待码放物体放置在传送带30上,随着传送带30一同运动,因此,可根据传送带30的位移确定待码放物体的位姿偏差。
另外,可在根据初始位姿和位姿偏差确定目标抓取位姿后,根据目标抓取位姿进行运动规划以得到规划信息,并根据规划信息控制抓取装置20运动至目标抓取位姿以抓取待码放物体。如此,通过运动规划控制抓取装置20基于规划信息进行运动,可以提高抓取的效率和准确性,避免由于没有进行运动规划而引起的抓取装置20运动的混乱。
进一步地,规划信息可包括抓取装置20的运动速度、加速度、位移中的至少一个。可以理解,规划信息用于控制抓取装置20的运动轨迹。
此外,控制抓取装置20运动至目标抓取位姿以抓取待码放物体,可包括:判断抓取装置20是否运动至目标抓取位姿;在抓取装置20运动至目标抓取位姿的情况下,控制抓取装置20抓取待码放物体;在抓取装置20未运动至目标抓取位姿的情况下,控制抓取装置20向目标抓取位姿运动。如此,不断地对抓取装置20的状态进行判断,以及时抓取待码放物体,避免延迟。
具体地,可基于随动系统控制抓取装置20运动至目标抓取位姿。如此,可以实现对待码放物体的快速跟踪和准确定位。可以理解,随动系统是一种反馈控制系统,其根据机械位移或者速度的变化,反过来调整随动系统的输出,达到输出随输入变化而变化的效果。
请参阅图10,在某些实施方式中,步骤S19包括:
步骤S191:根据待识别图像确定待码放物体的类别;
步骤S192:根据待码放物体的类别确定目标放置位姿。
在某些实施方式中,处理器101用于根据待识别图像确定待码放物体的类别;根据待码放物体的类别确定目标放置位姿。
如此,通过由待识别图像确定的待码放物体的类别,确定待码放物体的目标放置位姿,可以实现待码放物体的分类码放,使得对待码放物体的码放更加清楚。
具体地,步骤S191包括:
利用卷积神经网络处理待识别图像,以确定待码放物体的图像轮廓和待码放物体的第一类别;
对图像轮廓进行模板匹配,以确定待码放物体在第一类别下的第二类别;
将第二类别作为待码放物体的类别。
在某些实施方式中,处理器101用于利用卷积神经网络处理待识别图像,以确定待码放物体的图像轮廓和待码放物体的第一类别;及用于对图像轮廓进行模板匹配,以确定待码放物体在第一类别下的第二类别;以及用于将第二类别作为待码放物体的类别。
换言之,可通过卷积神经网络确定图像轮廓和待码放物体所处的大类,再通过图像轮廓从大类中确定待码放物体所处的子类。
如此,可以准确、快速地确定待码放物体的类别。而且,由于卷积神经网络只需确定待码放物体所处的大类,无需确定大类下细分的子类,可以避免卷积神经网络的臃肿。
在一个例子中,利用卷积神经网络处理待识别图像,确定待码放物体的第一类别为:“圆环”。对图像轮廓进行模板匹配,确定待码放物体在“圆环”下的第二类别为:“1号尺寸的圆环”。则可将“1号尺寸的圆环”作为待码放物体的类别。
在步骤S192中,可根据待码放物体的类别查询数据库,以确定目标放置位姿。可以理解,待码放物体的类别和目标放置位姿的对应关系可预存在数据库中。
在步骤S192中,可根据待码放物体的类别从多个料框50中确定一个料框50作为目标料框50,并将目标料框50对应的位姿作为目标放置位姿。如此,可以将待码放物体按照类别码放进对应的料框50。
请注意,控制抓取装置20从目标抓取位姿移动至目标放置位姿以码放待码放物体的解释和说明可参照前文中关于控制抓取装置20运动至目标抓取位姿以抓取待码放物体的部分,为避免冗余,在此不再赘述。
本申请实施例还提出一种计算机可读存储介质,计算机可读存储介质上存储有控制程序,控制程序被处理器101执行时实现如上述任一实施方式的控制方法。
例如执行:步骤S13:获取摄像头10输出的待识别图像;步骤S14:获取编码器40输出的传送带30的运动信息;步骤S17:根据待识别图像和运动信息确定待码放物体的目标抓取位姿;步骤S18:控制抓取装置20运动至目标抓取位姿以抓取待码放物体;步骤S19:根据待识别图像确定待码放物体的目标放置位姿;步骤S20:控制抓取装置20从目标抓取位姿移动至目标放置位姿以码放待码放物体。
本申请实施方式的和计算机可读存储介质,目标抓取位姿的确定考虑到了传送带30的运动,使得对待码放物体的抓取更加灵活。目标放置位姿的确定基于待识别图像,使得对待码放物体的码放更加智能,有利于提高抓取和码放的效率和效果。
综合以上,本申请实施方式的控制方法、抓取系统100和存储介质,可以实现传送带30上待待码放物体的实时监测、随动抓取,以及对待码放物体的自动分类码放等高度智能化无人作业,可以大幅节约人力,提高生产效率近5倍。
而且,可以通过触发信号触发摄像头10连续拍摄,以合理地控制抓取节拍,提高待码放物体的抓取效率。另外,通过神经网络的方式对待识别图像进行识别,速度较快,准确率较高。具体地,识别速度可小于1s,准确率可高达99%。对待码放物体的位姿估计精度高,误差在1度和1毫米以内。
此外,在待码放物体种类繁多(例如几万种)、尺寸差异巨大(5~1000cm不等)的场景下,本申请实施方式的控制方法在进行目标检测(objection detection)以确定最小包围盒和第一类别的同时,进行实例分割(instance segmentation)以确定图像轮廓,从而实现多任务联合学习。最小包围盒用于确定待码放物体的中心,图像轮廓用于轮廓匹配完成细分类,使得分类准确率达到98%,大幅提高抓取与码放的效率。
最后,本申请实施方式的控制方法还可结合在线训练数据合成和深度网络快速自适应微调(fine tuning)技术,实现在线小样本学习,从而在短时间内迅速调整部署神经网络模型,满足复杂场景下零件的动态分类需求。
在本说明书的描述中,参考术语“某些实施方式”、“一个实施方式”、“一些实施方式”、“示意性实施方式”、“示例”、“具体示例”、或“一些示例”等的描述意指结合实施方式或示例描述的具体特征、结构、材料或者特点包含于本申请的至少一个实施方式或示例中。在本说明书中,对上述术语的示意性表述不一定指的是相同的实施方式或示例。而且,描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施方式或示例中以合适的方式结合。
尽管上面已经示出和描述了本申请的实施方式,可以理解的是,上述实施方式是示例性的,不能理解为对本申请的限制,本领域的普通技术人员在本申请的范围内可以对上述实施方式进行变化、修改、替换和变型,本申请的范围由权利要求及其等同物限定。
Claims (10)
1.一种控制方法,用于抓取系统,其特征在于,所述抓取系统包括摄像头、抓取装置、传送带和设置在所述传送带的编码器;所述控制方法包括:
获取所述摄像头输出的待识别图像;
获取所述编码器输出的所述传送带的运动信息;
根据所述待识别图像和所述运动信息确定待码放物体的目标抓取位姿;
控制所述抓取装置运动至所述目标抓取位姿以抓取所述待码放物体;
根据所述待识别图像确定所述待码放物体的目标放置位姿;
控制所述抓取装置从所述目标抓取位姿移动至所述目标放置位姿以码放所述待码放物体。
2.如权利要求1所述的控制方法,其特征在于,所述待识别图像包括非过滤区域,所述控制方法包括:
在所述待码放物体的图像未处于所述非过滤区域时,确定未从所述待识别图像中检测到所述待码放物体;
在所述待码放物体的图像处于所述非过滤区域时,确定从所述待识别图像中检测到所述待码放物体,并进入所述根据所述待识别图像和所述运动信息确定待码放物体的目标抓取位姿的步骤,和所述根据所述待识别图像确定所述待码放物体的目标放置位姿的步骤。
3.如权利要求1所述的控制方法,其特征在于,根据所述待识别图像和所述运动信息确定所述待码放物体的目标抓取位姿,包括:
根据所述待识别图像确定所述待码放物体的初始位姿;
根据所述运动信息确定所述待码放物体的位姿偏差;
根据所述初始位姿和所述位姿偏差确定所述目标抓取位姿。
4.如权利要求1所述的控制方法,其特征在于,根据所述待识别图像确定所述待码放物体的目标放置位姿,包括:
根据所述待识别图像确定所述待码放物体的类别;
根据所述待码放物体的类别确定所述目标放置位姿。
5.如权利要求4所述的控制方法,其特征在于,根据所述待识别图像确定所述待码放物体的类别,包括:
利用卷积神经网络处理所述待识别图像,以确定所述待码放物体的图像轮廓和所述待码放物体的第一类别;
对所述图像轮廓进行模板匹配,以确定所述待码放物体在所述第一类别下的第二类别;
将所述第二类别作为所述待码放物体的类别。
6.一种抓取系统,其特征在于,所述抓取系统包括处理器、摄像头、抓取装置、传送带和设置在所述传送带的编码器,所述处理器用于获取所述摄像头输出的待识别图像;获取所述编码器输出的所述传送带的运动信息;根据所述待识别图像和所述运动信息确定待码放物体的目标抓取位姿;控制所述抓取装置运动至所述目标抓取位姿以抓取所述待码放物体;根据所述待识别图像确定所述待码放物体的目标放置位姿;控制所述抓取装置从所述目标抓取位姿移动至所述目标放置位姿以码放所述待码放物体。
7.如权利要求6所述的抓取系统,其特征在于,所述待识别图像包括非过滤区域,所述处理器用于在所述待码放物体的图像未处于所述非过滤区域时,确定未从所述待识别图像中检测到所述待码放物体;在所述待码放物体的图像处于所述非过滤区域时,确定从所述待识别图像中检测到所述待码放物体,并进入所述根据所述待识别图像和所述运动信息确定待码放物体的目标抓取位姿的步骤,和所述根据所述待识别图像确定所述待码放物体的目标放置位姿的步骤。
8.如权利要求1所述的抓取系统,其特征在于,所述处理器用于根据所述待识别图像确定所述待码放物体的类别;根据所述待码放物体的类别确定所述目标放置位姿。
9.如权利要求8所述的抓取系统,其特征在于,所述处理器用于利用卷积神经网络处理所述待识别图像,以确定所述待码放物体的图像轮廓和所述待码放物体的第一类别;及用于对所述图像轮廓进行模板匹配,以确定所述待码放物体在所述第一类别下的第二类别;以及用于将所述第二类别作为所述待码放物体的类别。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有控制程序,所述控制程序被处理器执行时实现如权利要求1至5中任一项所述的控制方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010307225.7A CN111483803B (zh) | 2020-04-17 | 2020-04-17 | 控制方法、抓取系统和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010307225.7A CN111483803B (zh) | 2020-04-17 | 2020-04-17 | 控制方法、抓取系统和存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111483803A true CN111483803A (zh) | 2020-08-04 |
CN111483803B CN111483803B (zh) | 2022-03-04 |
Family
ID=71813701
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010307225.7A Active CN111483803B (zh) | 2020-04-17 | 2020-04-17 | 控制方法、抓取系统和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111483803B (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112091992A (zh) * | 2020-10-13 | 2020-12-18 | 广州酒家集团利口福食品有限公司 | 一种刷蛋液机械手的路径规划方法及装置 |
CN112276955A (zh) * | 2020-10-30 | 2021-01-29 | 北京市商汤科技开发有限公司 | 一种物品配送方法、装置、设备以及存储介质 |
CN112565616A (zh) * | 2021-03-01 | 2021-03-26 | 民航成都物流技术有限公司 | 一种目标抓取方法、系统、装置以及可读存储介质 |
CN113351522A (zh) * | 2021-06-11 | 2021-09-07 | 梅卡曼德(北京)机器人科技有限公司 | 物品分拣方法、装置及系统 |
CN113752268A (zh) * | 2021-11-11 | 2021-12-07 | 季华实验室 | 电路板抓取控制方法、装置、设备及存储介质 |
Citations (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4147930A (en) * | 1975-03-20 | 1979-04-03 | U.S. Philips Corporation | Object location detector |
CN1930887A (zh) * | 2004-02-05 | 2007-03-14 | 卡普西斯公司 | 用于对图像获取系统编程的方法和装置 |
JP2008292345A (ja) * | 2007-05-25 | 2008-12-04 | Kobe Steel Ltd | 圧延材の表面疵検査方法及び表面疵検査装置 |
CN204640228U (zh) * | 2015-05-13 | 2015-09-16 | 天津大宇包装制品有限公司 | 包装袋高速码垛机械手 |
CN106181998A (zh) * | 2016-06-27 | 2016-12-07 | 上海知津信息科技有限公司 | 一种机器人视觉定位传感器 |
CN106826822A (zh) * | 2017-01-25 | 2017-06-13 | 南京阿凡达机器人科技有限公司 | 一种基于ros系统的视觉定位及机械臂抓取实现方法 |
CN106853925A (zh) * | 2015-12-09 | 2017-06-16 | 中国科学院沈阳自动化研究所 | 一种基于视觉定位的弹药码垛机械手 |
CN107025633A (zh) * | 2016-01-29 | 2017-08-08 | 中兴通讯股份有限公司 | 一种图像处理方法及装置 |
CN207451111U (zh) * | 2017-08-14 | 2018-06-05 | 郭屹 | 一种自动化码垛机械手 |
CN207901186U (zh) * | 2018-01-26 | 2018-09-25 | 湖北三丰智能输送装备股份有限公司 | 一种全自动码垛机械手 |
EP3418228A1 (en) * | 2017-06-20 | 2018-12-26 | Fameccanica.Data S.p.A. | A method for automatically replacing reels in an unwinding assembly and relative unwinding assembly |
CN109309791A (zh) * | 2018-11-09 | 2019-02-05 | 珠海格力智能装备有限公司 | 控制相机拍照方法和系统 |
CN109911549A (zh) * | 2019-01-25 | 2019-06-21 | 东华大学 | 一种易损物品的机器人动态跟踪抓取系统及方法 |
CN109955244A (zh) * | 2017-12-26 | 2019-07-02 | 深圳市优必选科技有限公司 | 一种基于视觉伺服的抓取控制方法、装置和机器人 |
CN110640741A (zh) * | 2018-11-07 | 2020-01-03 | 宁波赛朗科技有限公司 | 一种规则形状工件匹配的抓取工业机器人 |
CN110640739A (zh) * | 2018-11-07 | 2020-01-03 | 宁波赛朗科技有限公司 | 一种具有中心位置识别的抓取工业机器人 |
US20200020095A1 (en) * | 2016-09-12 | 2020-01-16 | Apple Inc. | Optical verification system and methods of verifying micro device transfer |
CN110744544A (zh) * | 2019-10-31 | 2020-02-04 | 昆山市工研院智能制造技术有限公司 | 服务机器人视觉抓取方法及服务机器人 |
CN110963298A (zh) * | 2019-12-21 | 2020-04-07 | 深圳市华成工业控制有限公司 | 基于视觉跟随的取料装置及方法 |
-
2020
- 2020-04-17 CN CN202010307225.7A patent/CN111483803B/zh active Active
Patent Citations (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4147930A (en) * | 1975-03-20 | 1979-04-03 | U.S. Philips Corporation | Object location detector |
CN1930887A (zh) * | 2004-02-05 | 2007-03-14 | 卡普西斯公司 | 用于对图像获取系统编程的方法和装置 |
JP2008292345A (ja) * | 2007-05-25 | 2008-12-04 | Kobe Steel Ltd | 圧延材の表面疵検査方法及び表面疵検査装置 |
CN204640228U (zh) * | 2015-05-13 | 2015-09-16 | 天津大宇包装制品有限公司 | 包装袋高速码垛机械手 |
CN106853925A (zh) * | 2015-12-09 | 2017-06-16 | 中国科学院沈阳自动化研究所 | 一种基于视觉定位的弹药码垛机械手 |
CN107025633A (zh) * | 2016-01-29 | 2017-08-08 | 中兴通讯股份有限公司 | 一种图像处理方法及装置 |
CN106181998A (zh) * | 2016-06-27 | 2016-12-07 | 上海知津信息科技有限公司 | 一种机器人视觉定位传感器 |
US20200020095A1 (en) * | 2016-09-12 | 2020-01-16 | Apple Inc. | Optical verification system and methods of verifying micro device transfer |
CN106826822A (zh) * | 2017-01-25 | 2017-06-13 | 南京阿凡达机器人科技有限公司 | 一种基于ros系统的视觉定位及机械臂抓取实现方法 |
EP3418228A1 (en) * | 2017-06-20 | 2018-12-26 | Fameccanica.Data S.p.A. | A method for automatically replacing reels in an unwinding assembly and relative unwinding assembly |
CN207451111U (zh) * | 2017-08-14 | 2018-06-05 | 郭屹 | 一种自动化码垛机械手 |
CN109955244A (zh) * | 2017-12-26 | 2019-07-02 | 深圳市优必选科技有限公司 | 一种基于视觉伺服的抓取控制方法、装置和机器人 |
CN207901186U (zh) * | 2018-01-26 | 2018-09-25 | 湖北三丰智能输送装备股份有限公司 | 一种全自动码垛机械手 |
CN110640741A (zh) * | 2018-11-07 | 2020-01-03 | 宁波赛朗科技有限公司 | 一种规则形状工件匹配的抓取工业机器人 |
CN110640739A (zh) * | 2018-11-07 | 2020-01-03 | 宁波赛朗科技有限公司 | 一种具有中心位置识别的抓取工业机器人 |
CN109309791A (zh) * | 2018-11-09 | 2019-02-05 | 珠海格力智能装备有限公司 | 控制相机拍照方法和系统 |
CN109911549A (zh) * | 2019-01-25 | 2019-06-21 | 东华大学 | 一种易损物品的机器人动态跟踪抓取系统及方法 |
CN110744544A (zh) * | 2019-10-31 | 2020-02-04 | 昆山市工研院智能制造技术有限公司 | 服务机器人视觉抓取方法及服务机器人 |
CN110963298A (zh) * | 2019-12-21 | 2020-04-07 | 深圳市华成工业控制有限公司 | 基于视觉跟随的取料装置及方法 |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112091992A (zh) * | 2020-10-13 | 2020-12-18 | 广州酒家集团利口福食品有限公司 | 一种刷蛋液机械手的路径规划方法及装置 |
CN112276955A (zh) * | 2020-10-30 | 2021-01-29 | 北京市商汤科技开发有限公司 | 一种物品配送方法、装置、设备以及存储介质 |
CN112565616A (zh) * | 2021-03-01 | 2021-03-26 | 民航成都物流技术有限公司 | 一种目标抓取方法、系统、装置以及可读存储介质 |
CN113351522A (zh) * | 2021-06-11 | 2021-09-07 | 梅卡曼德(北京)机器人科技有限公司 | 物品分拣方法、装置及系统 |
CN113752268A (zh) * | 2021-11-11 | 2021-12-07 | 季华实验室 | 电路板抓取控制方法、装置、设备及存储介质 |
CN113752268B (zh) * | 2021-11-11 | 2022-01-04 | 季华实验室 | 电路板抓取控制方法、装置、设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN111483803B (zh) | 2022-03-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111483803B (zh) | 控制方法、抓取系统和存储介质 | |
CN113524194B (zh) | 基于多模特征深度学习的机器人视觉抓取系统的目标抓取方法 | |
CN109483554B (zh) | 基于全局和局部视觉语义的机器人动态抓取方法及系统 | |
CN109308693B (zh) | 由一台ptz相机构建的目标检测和位姿测量单双目视觉系统 | |
US9259844B2 (en) | Vision-guided electromagnetic robotic system | |
EP2629939B1 (en) | Method for the filtering of target object images in a robot system | |
KR20190073282A (ko) | 파지 장치, 학습 장치, 학습 완료 모델, 파지 시스템, 판정 방법, 및 학습 방법 | |
JP3834297B2 (ja) | 画像処理装置 | |
EP3173194B1 (en) | Manipulator system, image capturing system, transfer method of object, and carrier medium | |
CN110211180A (zh) | 一种基于深度学习的机械臂自主抓取方法 | |
CN108748149B (zh) | 一种复杂环境下基于深度学习的无标定机械臂抓取方法 | |
CN107009358A (zh) | 一种基于单相机的机器人无序抓取装置及方法 | |
CN106530276A (zh) | 一种用于非标准件抓取的机械手定位方法以及定位系统 | |
CN207841338U (zh) | 一种机械臂 | |
CN107649406A (zh) | 一种高效的双目视觉多物料拾取系统及方法 | |
CN115890639A (zh) | 一种机器人视觉引导定位抓取控制系统 | |
CN112561886A (zh) | 一种基于机器视觉的工件自动分拣方法及系统 | |
CN110842890B (zh) | 一种机器人及其控制方法 | |
CN115070781B (zh) | 一种物体抓取方法及双机械臂协作系统 | |
CN114751153B (zh) | 一种全角度的多模板码垛系统 | |
Zhou et al. | Design and test of a sorting device based on machine vision | |
Kato et al. | partial depth estimation with single image using YOLO and CNN for robot arm control | |
EP4207068A1 (en) | Target object detection method and apparatus, and electronic device, storage medium and program | |
Dyrstad et al. | Bin picking of reflective steel parts using a dual-resolution convolutional neural network trained in a simulated environment | |
CN207446762U (zh) | 一种高效的双目视觉多物料拾取系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |