CN117501192A - 示教装置 - Google Patents

示教装置 Download PDF

Info

Publication number
CN117501192A
CN117501192A CN202180099514.5A CN202180099514A CN117501192A CN 117501192 A CN117501192 A CN 117501192A CN 202180099514 A CN202180099514 A CN 202180099514A CN 117501192 A CN117501192 A CN 117501192A
Authority
CN
China
Prior art keywords
storage
condition
history information
learning
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202180099514.5A
Other languages
English (en)
Inventor
伊藤岬
并木勇太
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fanuc Corp
Original Assignee
Fanuc Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fanuc Corp filed Critical Fanuc Corp
Publication of CN117501192A publication Critical patent/CN117501192A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/774Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1656Programme controls characterised by programming, planning systems for manipulators
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1628Programme controls characterised by the control loop
    • B25J9/163Programme controls characterised by the control loop learning, adaptive, model based, rule based expert control
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1694Programme controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion
    • B25J9/1697Vision controlled systems
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Programme-control systems
    • G05B19/02Programme-control systems electric
    • G05B19/42Recording and playback systems, i.e. in which the programme is recorded from a cycle of operations, e.g. the cycle of operations being manually controlled, after which this record is played back on the same machine
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/94Hardware or software architectures specially adapted for image or video understanding
    • G06V10/945User interactive design; Environments; Toolboxes
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/39Robotics, robotics to robotics hand
    • G05B2219/39438Direct programming at the console
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/40Robotics, robotics mapping to robotics vision
    • G05B2219/40584Camera, non-contact sensor mounted on wrist, indep from gripper
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/24Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20092Interactive image processing based on input by user
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30164Workpiece; Machine component

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Robotics (AREA)
  • Mechanical Engineering (AREA)
  • Multimedia (AREA)
  • Software Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Databases & Information Systems (AREA)
  • Computing Systems (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Quality & Reliability (AREA)
  • Automation & Control Theory (AREA)
  • Manipulator (AREA)
  • Image Analysis (AREA)
  • Numerical Control (AREA)
  • Supply And Installment Of Electrical Components (AREA)

Abstract

一种示教装置(30)具备:判定部(154),其判定是否满足与视觉传感器对对象物的处理的结果相关的保存条件;以及履历保存部(155),其在判定为满足所述保存条件的情况下,将作为所述处理的结果的履历信息保存到存储装置。

Description

示教装置
技术领域
本发明涉及示教装置。
背景技术
已知使用拍摄装置从视野内的图像中检测特定的对象物,取得检测出的对象物的位置的影像检测功能。在这样的影像检测功能中,一般还具备将检测结果保存为执行履历的功能。
关于此,专利文献1记载了如下的信息管理系统:“从设备控制系统10对图像处理系统20通知在各工序中进行加工等处理时应该拍摄作为该处理的对象的工件82的图像的时期(以下,称为“拍摄定时”),并且从设备控制系统10对图像处理系统20发送用于识别(确定)与该通知对应的工件82的信息即识别信息”(0032段)。
现有技术文献
专利文献
专利文献1:日本特开2021-22296号公报
发明内容
发明所要解决的课题
在影像检测功能中的履历信息的保存功能中,期望能够以灵活的条件进行保存,并且能够抑制与履历信息的保存相伴的存储器容量的压迫、周期时间的增加。
用于解决课题的手段
本公开的一个方式是一种示教装置,具备:判定部,其判定是否满足与视觉传感器对对象物进行处理的结果有关的保存条件;以及履历保存部,其在判定为满足所述保存条件的情况下,将作为所述处理的结果的履历信息保存到存储装置。
发明效果
根据上述结构,能够以灵活的条件保存履历信息,并且能够抑制与履历信息的保存相伴的存储器容量的压迫、周期时间的增加。
根据附图所示的本发明的典型的实施方式的详细说明,本发明的这些目的、特征和优点以及其他目的、特征和优点将变得更加明确。
附图说明
图1是表示包含一实施方式的示教装置的机器人系统的整体结构的图。
图2是表示机器人控制装置以及示教操作盘的硬件结构例的图。
图3是表示示教操作盘以及机器人控制装置(示教装置)的功能结构的框图。
图4是表示根据预定的保存条件执行基于影像检测功能的履历信息的保存的处理(影像检测和履历保存处理)的流程图。
图5是表示将影像检测以及履历保存处理作为基于文本的程序来实现的情况下的程序的例子的图。
图6是表示通过命令图标生成影像检测以及履历保存处理时的程序的例子的图。
图7是表示用于进行条件判断图标的详细设定的用户界面画面的图。
图8是表示影像检测图标的设定用的用户界面画面的图。
图9是表示用于指定保存条件的条件设定画面的图。
图10A是表示对条件设定画面设定了保存条件的例子的图。
图10B是用于说明设定图像内的检测位置来作为保存条件的情况的图。
图11是用于说明检测离群值并进行履历信息的保存的情况下的动作的图。
图12是表示将履历图像作为输入数据输入到卷积神经网络来进行学习的情况下的结构例的图。
图13A是表示使用以履历图像为输入数据、将是否保存作为输出标签的训练数据来进行学习的结构的图。
图13B是表示使用以履历图像为输入数据、将保存目的地作为输出标签的训练数据进行学习的结构的图。
具体实施方式
接着,参照附图对本公开的实施方式进行说明。在参照的附图中,对相同的结构部分或功能部分标注相同的参照符号。为了容易理解,这些附图适当变更了比例尺。另外,附图所示的方式是用于实施本发明的一个例子,本发明并不限定于图示的方式。
图1是表示包含一实施方式的示教装置30的机器人系统的整体结构的图。机器人系统100包括机器人10、视觉传感器控制装置20、控制机器人10的机器人控制装置50、示教操作盘40以及存储装置60。在机器人10的臂前端部搭载有作为末端执行器的手部11。另外,在机器人10的臂前端部安装有视觉传感器71。视觉传感器控制装置20控制视觉传感器71。机器人系统100能够通过视觉传感器71检测放置于作业台81的对象物(工件W),校正机器人10的位置来执行工件W的处理。在本说明书中,有时也将使用视觉传感器71进行对象物的检测的功能称为影像检测功能。
在机器人系统100中,示教操作盘40被用作用于对机器人10进行各种示教(即,编程)的操作终端。当使用示教操作盘40生成的机器人程序被登记到机器人控制装置50时,以后,机器人控制装置50能够按照该机器人程序执行机器人10的控制。在本实施方式中,通过示教操作盘40和机器人控制装置50的功能构成示教装置30。示教装置30的功能包括对机器人10进行示教的功能(作为编程装置的功能)以及按照示教内容控制机器人10的功能。
在本实施方式中,示教装置30构成为:按照与视觉传感器71对对象物进行处理的结果有关的保存条件,决定是否保存作为视觉传感器71对对象物执行处理的结果而得到的履历信息。在此,视觉传感器71对对象物的处理可以包括对象物的检测、判定、其他使用视觉传感器71的功能的各种处理。在本实施方式中,作为例示,采用影像检测功能进行说明。示教装置30提供进行用于实现这样的功能的编程的功能。通过示教装置30的这样的功能,能够通过灵活的保存条件来保存履历信息,并且能够抑制与履历信息的保存相伴的存储器容量的压迫、周期时间的增加。此外,作为影像检测功能的执行结果的履历信息包括所拍摄的图像(履历图像)、与履历图像的质量有关的各种信息、与图案匹配等图像处理的结果有关的信息以及其他通过执行影像检测功能生成的各种数据。
存储装置60与机器人控制装置50连接,保存作为视觉传感器71的影像检测功能的执行结果的履历信息。存储装置60还可以构成为存储视觉传感器71的设定信息、影像检测用的程序、设定信息、其他各种信息。存储装置60可以是机器人控制装置50的外置的存储装置(USB存储器)等,或者也可以是与机器人控制装置50网络连接的计算机、文件服务器、其他数据存储用的装置。此外,在图1中,作为例示,存储装置60构成为与机器人控制装置50分体的装置,但存储装置60也可以构成为机器人控制装置50的内部存储装置或示教操作盘40的内部存储装置。作为示教装置30的功能也可以包括存储装置60。
视觉传感器控制装置20具有控制视觉传感器71的功能和对由视觉传感器71拍摄到的图像进行图像处理的功能。视觉传感器控制装置20根据由视觉传感器71拍摄到的图像来检测工件W,并将检测出的工件W的位置提供给机器人控制装置50。由此,机器人控制装置50能够校正示教位置来执行工件W的取出等。视觉传感器71可以是拍摄浓淡图像、彩色图像的照相机(二维照相机),也可以是能够取得距离图像、三维点群的立体照相机、三维传感器。视觉传感器控制装置20保持工件W的模型图案,执行通过拍摄图像中的对象物的图像与模型图案的图案匹配来检测对象物的图像处理。视觉传感器控制装置20也可以保存通过对视觉传感器71进行校准而得到的校准数据。校准数据包含以机器人10(例如,机器人坐标系)为基准的视觉传感器71(传感器坐标系)的相对位置的信息。此外,在图1中,视觉传感器控制装置20构成为与机器人控制装置50分体的装置,但作为视觉传感器控制装置20的功能也可以组装到机器人控制装置50内。
此外,作为用于在机器人系统100中使用视觉传感器71来检测工件W的结构,除了图1所示那样的结构以外,也可以是将视觉传感器71设置于在作业空间内固定的位置的结构。另外,在该情况下,也可以构成为利用机器人10的指尖把持工件W而使固定设置的视觉传感器71看起来被固定。
图2是表示机器人控制装置50以及示教操作盘40的硬件结构例的图。机器人控制装置50也可以具有经由总线将存储器52(ROM、RAM、非易失性存储器等)、输入输出接口53、包含各种操作开关的操作部54等与处理器51连接的作为一般的计算机的结构。示教操作盘40也可以具有经由总线将存储器42(ROM、RAM、非易失性存储器等)、显示部43、由键盘(或者软件键)等输入装置构成的操作部44、输入输出接口45等与处理器41连接的作为一般的计算机的结构。此外,作为示教操作盘40,能够使用平板终端、智能手机、个人计算机及其他各种信息处理装置。
图3是表示由示教操作盘40以及机器人控制装置50构成的功能结构(即,作为示教装置30的功能结构)的框图。如图3所示,机器人控制装置50具有按照机器人程序等控制机器人10的动作的动作控制部151、存储部152、保存条件设定部153、判定部154、履历保存部155、离群值检测部156以及学习部157。
存储部152存储机器人程序及其他各种信息。另外,存储部152也可以构成为存储由保存条件设定部153设定的保存条件(在图3中标注符号152a)。
保存条件设定部153提供设定用于保存履历信息的保存条件的功能。基于保存条件设定部153的用于设定保存条件的功能是通过在经由程序制作部141的功能的编程中接受保存条件的设定的功能以及通过将由该功能生成的程序登记到机器人控制装置50来设定在机器人控制装置50中实现的保存条件的功能的协作而实现的功能。此外,这里所说的编程包括基于文本的命令的编程以及基于命令图标的编程。关于这些编程进行后述。
判定部154判定是否满足保存条件。在由判定部154判定为满足保存条件的情况下,履历保存部155将履历信息保存于存储装置60。
离群值检测部156具有针对作为影像检测功能的执行结果的履历信息中包含的数据(参数),检测该数据的值是否是离群值的功能。学习部157承担基于履历信息来学习保存条件的功能。
例如也可以通过将由示教操作盘40生成的程序(机器人程序、影像检测功能的程序等)登记到机器人控制装置50,机器人控制装置50的处理器51执行这些程序来实现图3所示的机器人控制装置50的各功能。此外,也能够构成为将机器人控制装置50中的作为存储部152、保存条件设定部153、判定部154、履历保存部155、离群值检测部156以及学习部157的功能的至少一部分搭载于视觉传感器控制装置20。在该情况下,作为示教装置30的功能也可以包含视觉传感器控制装置20。
示教操作盘40具有用于生成机器人10的机器人程序、实现影像检测功能的程序(以下,也记载为影像检测程序)等各种程序的程序制作部141。程序制作部141具有:用户界面生成部142(以下,记载为UI生成部142),其生成并显示用于进行包含命令的输入以及与命令相关的详细设定的编程所涉及的各种输入的用户界面;操作输入受理部143,其受理经由用户界面的各种用户操作;以及程序生成部144,其基于所输入的命令、设定来生成程序。
经由基于示教操作盘40的程序生成功能,用户能够进行用于控制机器人10的机器人程序、影像检测程序的生成。当生成影像检测程序并登记在机器人控制装置50中时,之后,机器人控制装置50执行包含影像检测程序的机器人程序,能够执行一边使用视觉传感器71检测工件W一边处理工件W的作业。
在本实施方式中,用户能够经由程序制作部141的功能,生成用于在满足保存条件时保存作为执行了影像检测功能的情况下的执行结果的履历信息的程序。若这样的程序被登记于机器人控制装置50,则以后,机器人控制装置50能够以仅在满足保存条件的情况下保存履历信息的方式进行动作。由此,能够抑制与履历信息的保存相伴的存储器容量的压迫、周期时间的增加。
图4是表示在机器人控制装置50内构成的、根据保存条件进行基于影像检测功能的履历信息的保存的处理(影像检测以及履历保存处理)的流程图。影像检测以及履历保存处理例如在机器人控制装置50的处理器51的控制下执行。此外,图4的处理是以一个工件W为对象的处理。在处理对象的工件有多个的情况下,也可以对各个工件执行图4的处理。
当开始影像检测以及履历保存处理时,首先,利用视觉传感器71(照相机)拍摄工件W(步骤S1)。接着,对拍摄到的图像进行使用了基于所示教的工件模型的图案匹配等的工件模型的检测(即工件W的检测)(步骤S2)。接着,基于工件W的检测结果,计算工件模型的位置(即,工件W的位置)(步骤S3)。工件模型的位置(工件W的位置)例如被计算为机器人坐标系内的位置。
在计算模型(工件W)的位置后,接着,计算用于校正机器人10的位置的校正数据(步骤S4)。校正数据例如是用于校正示教点的数据。
接着,机器人控制装置50判定是否满足用于保存履历信息的保存条件(步骤S5)。步骤S5的处理对应于判定部154的功能。在满足保存条件的情况下(S5:是),机器人控制装置50将履历信息写入存储装置60(步骤S6),退出本处理。步骤S6的处理对应于履历保存部155的功能。此外,也可以在退出本处理后,对下一个工件W继续执行本处理。另一方面,在不满足保存条件的情况下(S5:否),不进行履历信息的保存而结束本处理。
用于执行图4所示那样的影像检测以及履历保存处理的程序能够经由示教操作盘40的程序制作部141的功能,作为基于文本的程序或者命令图标的程序来制作。作为主要的功能,UI生成部142在显示部43的画面上提供用于通过命令图标进行编程的各种用户界面。UI生成部142提供的用户界面中包含用于进行与命令图标相关的详细设定的详细设定画面等。关于这样的界面画面的例子进行后述。
操作输入受理部143接受针对程序生成画面的各种操作输入。例如,操作输入受理部143对在程序生成画面上输入基于文本的命令的操作、从命令图标的一览中选择所希望的命令图标并配置于程序生成画面的操作、选择命令图标并显示针对该图标的详细设定用的详细设定画面的操作、经由用户界面画面输入详细设定的操作等进行辅助。
图5表示作为将图4的影像检测以及履历保存处理作为基于文本的程序来实现的情况下的一例的程序201。在图5的程序201中,各行的左边的数字表示行编号。在生成如图5所示那样的基于文本的程序201的情况下,用户在由程序制作部141提供的程序生成画面210上输入命令。
第一行的命令“影像检测‘···’”是与图4的步骤S1-S3的处理对应的命令,与使用视觉传感器71拍摄工件W,并根据拍摄到的图像,通过示教的工件模型检测工件W,检测模型的位置(工件W的位置)的处理对应。在命令“影像检测”之后的‘···’中,指定执行该处理的程序名(宏名)。
第二行的命令“影像校正数据取得‘···’”是与图4的步骤S4的处理对应的命令,是根据工件的位置的检测结果计算用于校正示教点的数据的处理。在命令“影像校正数据取得”之后的‘···’中指定执行该处理的程序名(宏名)。在接下来的命令“影像寄存器[···]”中,指定存储校正数据的影像寄存器编号。在此,将校正后的示教点的三维位置存储在所指定的影像寄存器中。
第三行的指令“如果[···]=[···]”对应于图4的步骤S5的处理,是指定保存条件的命令。当在此指定的保存条件成立时,执行第四行的履历保存的命令“影像履历保存‘···’”。在保存条件不成立的情况下,不执行第四行的履历保存的命令。由此,通过使用在此指定的影像寄存器,能够在机器人程序中进行机器人的位置校正。此外,为了在指定影像寄存器的命令之后执行其他处理,也可以记述跳转到所指定的标签的命令“跳转标签[···]”。
第四行的命令“影像履历保存‘···’”与图4的步骤S6的处理对应,是保存作为上述影像检测功能的执行结果的履历信息的命令。此外,也可以在该命令之后的“‘···’”的部分指定履历信息的保存目的地。
图6表示作为通过命令图标实现了图4的影像检测以及履历保存处理的情况下的例子的影像检测程序301。在生成图6那样的影像检测程序301的情况下,用户在由UI生成部142提供的程序生成画面310中配置图标来进行编程。此外,在此,示出了将图标按照执行顺序从上到下地配置的情况的例子。
影像检测程序301由以下的图标构成。
影像检测图标321;
快照图标322;
图案匹配图标323;
条件判断图标324。
影像检测图标321是承担指示使用一台照相机进行基于影像检测结果的校正的动作的综合功能的图标,作为其内部功能,包括快照图标322以及图案匹配图标323。快照图标322与使用一台照相机拍摄对象物的指令对应。图案匹配图标323是指示对拍摄到的图像数据进行基于图案匹配的工件检测的动作的图标。图案匹配图标323包含条件判断图标324作为其内部功能。条件判断图标324提供根据图案匹配的结果来指定进行各种动作的条件的功能。
影像检测图标321根据由快照图标322和图案匹配图标323取得的工件的检测结果,管理用于取得校正示教点的校正数据的动作。通过这些图标的功能,能够实现在图4中作为流程示出的影像检测以及履历保存处理。
在本实施方式中,作为用于判定是否应该保存履历信息的保存条件,能够通过以下那样的方式来设定保存条件。
(1)使用用户指定的保存条件。
(2)检测离群值来进行异常检测。
(3)通过学习来构建保存条件。
(4)使用预先设定的保存条件。
(1)针对使用用户指定的保存条件的方法进行说明。
使用用户指定的保存条件的方法包括在图5所示的基于文本的程序中设定保存条件的方法、在图6所示的命令图标的程序中经由用户界面设定保存条件的方法。在此,对后者进行详细说明。
图7是用于进行条件判断图标324的详细设定的用户界面画面330的例子。用户界面画面330包括用于指定在条件判断中使用的值的种类的值的设定栏341和用于指定基于所设定的值的条件的设定栏342。在图示的例子中,作为值的设定,指定了作为图案匹配的结果而得到的得分。另外,作为条件的设定,指定了“值大于常数(在此为0.0)的情况”。用户界面画面330还包括条件成立时指定动作的弹出窗口343。该弹出窗口343的菜单中包含“保存履历图像”的项目344。这样,通过在条件判断图标324的详细设定用的用户界面画面330中包含用于保存履历图像的值的设定以及条件的设定,能够以任意的条件进行履历图像(履历信息)的保存。另外,在图7中,作为条件成立时的动作,记载了设置“保存履历图像”的项目的例子,但也可以是还设置“仅保存履历图像以外的履历信息”的项目的结构。由此,用户能够选择是否包含图像作为要保存的履历信息。在该情况下,能够减少要存储的数据量或者将数据量限制为最小限度。另外,作为保存条件,也可以有提示能够选择要保存的信息(要保存的对象)的菜单的结构。在该结构中,在条件成立的情况下,能够仅将被选择为保存对象的信息存储于存储装置60。
作为用于设定保存条件的用户界面,也可以构成为使用图8所示的影像检测图标321的详细设定用的用户界面画面350。用户界面画面350构成为包含指定用于保存履历信息的条件的项目。通过在程序生成画面310上选择了影像检测图标321的状态下进行预定操作,可以启动图8的用户界面画面350。图8的用户界面画面350在指定图像的保存的项目361的设定菜单中包含“详细设定”的项目362。在此,通过选择“详细设定”的项目362,能够显示图9所示的用于指定保存条件的用户界面即条件设定画面380。
图9的条件设定画面380包括用于设定用作条件的值的种类的“值的设定”的项目381和用于设定针对所设定的值的条件的“条件的设定”的项目382。在图9的例子中,作为保存条件,指定了作为图案匹配的结果的“得分大于0.0的情况”。在条件设定画面380中还可以包含在条件成立的情况下指定用于保存履历图像的保存目的地的项目383。
参照图10A以及图10B对经由图9的条件设定画面380的保存条件的设定例进行说明。图10A表示对条件设定画面380设定了保存条件的例子。图10A中的值的设定包括以下5种值的设定来作为用于条件设定的值。在此,指定作为执行某个图案匹配动作时的执行结果而得到的参数的值。
值1:图案匹配的结果的得分(符号301a);
值2:作为检测位置的范围的图像的纵向的位置(符号381b);
值3:作为检测位置的范围的图像的横向的位置(符号381c);
值4:图像的对比度(符号381d);
值5:检测出的对象物的角度(符号381e)。
在图10A的条件设定画面中,“条件的设定”的项目包含以下的5个条件作为使用了上述值1至值5的条件设定。
条件1:得分(值1)大于作为常数的50(符号382a);
条件2:检测位置(值2)为大于图像的纵向位置100的范围(符号382b);
条件3:检测位置(值3)为大于图像的横向位置150的范围(符号382c);
条件4:图像的对比度(值4)为11以下(符号382d);
条件5:作为检测结果的工件的旋转角度(值5)大于62度(符号382e)。
条件1是在检测结果的得分(表示与所示教的模型的接近度的值)超过50的情况下保存履历信息这样的条件。在同时设定条件2以及条件3的情况下,成为在工件W的检测位置处于图像400内的纵向的范围为位置100以上、横向的范围为位置150以上的范围的情况下,保存履历信息这样的条件。该范围图示为在图10B中用阴影指定的范围410。例如,在想要在图像400内限定检测对象的范围的情况下,这样的设定是有效的。条件4是在检测图像的对比度为11以下时保存履历信息这样的条件。条件5是在作为对象物的检测结果的角度(相对于所示教的模型数据旋转了多少)大于62度时保存履历信息这样的条件。
此外,作为保存条件的例子,除了上述以外,还能够如作为圆检测固有的特征的“直径”那样,根据通过各个检测方法输出的特有的检测结果来指定设定条件。
(2)检测离群值并进行异常检测的情况
接着,说明根据离群值检测部156对离群值检测的结果进行履历信息的保存时的动作。图11中的左侧所示的图像501是进行了正常检测的情况下的图像的例子。另一方面,在视觉传感器71产生了透镜的破损等异常的情况下,例如认为拍摄到图像551那样的没有对比度的图像。这样的异常能够作为履历图像的对比度的离群值来检测。离群值检测部156将发生视觉传感器71的破损等事故的状况检测为拍摄数据的离群值。然后,履历保存部155在检测到这样的离群值的情况下,作为异常状态而保存拍摄图像。该情况下的保存目的地也可以设定离群值发生用的专用的保存目的地561。保存目的地561可以预先设定,也可以由用户设定。
作为用于检测异常发生(离群值)的判定材料(参数),例如能够使用得分、对比度、位置、角度、大小。在此,对比度是检测图像的对比度,位置、角度以及大小分别是指作为与检测出的对象物的示教数据的差异的位置、角度以及大小。作为异常状态的判定条件,例如是得分低于预定值、对比度低于预定值、检测出的对象物的位置相对于所示教的模型数据的位置的差大于预定的阈值、检测出的对象物相对于所示教的模型数据的旋转位置的旋转角大于预定的阈值、检测出的对象物的大小相对于所示教的模型数据的大小的差大于预定的阈值等。
作为用于检测离群值的阈值的具体的值,例如也可以使用平均值,以正常时的值的平均值为基准,在值比该平均值大幅偏离时(例如,小于平均值的10%时等),判定为离群值。也可以使用标准偏差作为用于检测离群值的指标。例如,可以有将从3个标准偏差的范围偏离的检测值作为离群值的例子。或者,也可以视为最新的检测结果的值正确,仅将最新的检测结果用作基准来判定离群值。在离群值的检测中也可以使用在本领域中已知的其他方法。
此外,可以说通过检测离群值而进行的这样的异常检测即使未预先设定保存条件,也在离群值产生时设定保存条件,因此也能够定位为“无监督学习”。
(3)通过学习来构建保存条件的情况
学习部157构成为学习作为视觉传感器71的检测结果的履历信息所包含的一个以上的数据(参数)与保存条件之间的关系。以下说明学习部157对保存条件的学习。在此,学习有各种方法,在此,例示作为机器学习之一的监督学习。监督学习是使用带标签的数据作为训练数据进行学习来构建学习模型的学习方法。
学习部157使用将与作为影像检测功能的执行结果的履历信息相关的数据作为输入数据、将与履历信息的保存相关的信息作为标签的训练数据,构建学习模型。若构建学习模型,则能够将该学习模型用作保存条件。作为一例,也可以使用具有输入层、中间层、输出层的三层神经网络来构建学习模型。也可以使用利用了具有三层以上的层的神经网络的所谓的深度学习的方法来进行学习。
在将作为履历信息的履历图像用作输入的情况下,也可以使用CNN(Convolutional neural network:卷积神经网络)。在该情况下,如图12所示,使用将针对CNN602的输入数据601作为履历图像、将标签(输出)603作为与履历信息的保存相关的信息的训练数据,通过误差反向传播法来学习CNN602内的加权参数。
对使用了检测图像的学习的例子进行说明。在第一例中,将检测图像作为输入数据,作为输出标签赋予“保存“1””、“未保存“0””的标签并用作训练数据来进行机器学习(监督学习)。如图13A所例示的那样,对于检测到的图像,在用户保存的情况下作为标签702而赋予“保存“1””,在用户未保存的情况下作为标签712而赋予“未保存“0””,将这些标签用作训练数据来进行学习。当通过足够数量的训练数据(training data)进行学习而成为构建了学习模型的状态时,若提供图13A所示的输入图像610作为测试数据,则得到表示是否应该保存的输出620。
在使用了检测图像的学习的第二例中,将检测图像作为输入数据,将保存目的地作为输出标签来赋予,将它们用作训练数据来进行机器学习(监督学习)。例如,如图13B所示,在检测图像被保存在保存检测结果的保存目的地文件夹中的情况下,作为标签722而赋予“检测文件夹“1””。另一方面,在未检测的情况下保存履历图像的“未检测文件夹”中保存有检测图像的情况下,赋予“未检测文件夹“0””作为标签732。然后,将这些标签用作训练数据(training data)来进行机器学习。当通过机器学习构建学习模型时,若提供图13B所示的输入图像630作为测试数据,则得到表示保存目的地的输出640。
另外,也可以构成为,通过将第二例所示的保存目的地的学习功能(第二学习功能)与第一例所示的关于是否保存履历信息的学习功能(第一学习功能)并用,将应保存的履历信息自动地保存到所期望的保存目的地。
作为通过学习构建保存条件的情况的其他例子,也可以有使用与图像以外的检测结果相关的数据的例子。例如,也可以根据将得分、对比度、检测出的对象物的位置、检测出的对象物的角度、检测出的对象物的大小中的任意一个参数作为输入数据,将是否保存了履历图像作为标签的训练数据来进行学习。作为该情况下的学习(监督学习)的方法,也可以使用回归或分类。作为一例,通过将得分与表示是否保存了履历图像的数据用作训练数据,能够得到得分与是否应该保存图像的关系(例如,在得分为50以上时保存履历图像)。
这样,学习部学习履历信息所包含的输入数据与履历信息的保存所涉及的输出的关系(即,保存条件)来构建学习模型。因此,若构建学习模型,则以后能够通过将输入数据输入至学习模型来获得是否应保存履历信息作为该学习模型的输出、或者履历信息的保存目的地。
(4)使用预先设定的保存条件的情况
以上,说明了将保存条件设定为基于文本的命令的情况、设定为命令图标的设定信息的情况、设定为离群值的检测动作的情况、通过学习进行设定的情况,但保存条件也可以预先设定在示教装置30内的存储器(存储器42等)中。
如以上说明的那样,根据本实施方式,能够以灵活的条件保存履历信息。另外,由此,能够抑制与履历信息的保存相伴的存储器容量的压迫、周期时间的增加。
履历信息有助于获知在何种状况下检测到无法检测到对象物等,在进行对象物的检测方法的改善、检测环境的重新评估等时是有用的。如本实施方式那样将履历信息的保存条件设为灵活的条件,能够进行按照用户的意图的条件的设定,从而能够仅高效地收集对检测方法的改善有用的履历信息。
以上,使用典型的实施方式对本发明进行了说明,但本领域技术人员能够理解,在不脱离本发明的范围的情况下,能够对上述的各实施方式进行变更以及各种其他变更、省略、追加。
在图3所示的机器人控制装置内构成的功能块可以通过机器人控制装置的处理器执行存储在存储装置中的各种软件来实现,或者也可以通过以ASIC(ApplicationSpecific Integrated Circuit:专用集成电路)等硬件为主体的结构来实现。
执行上述的实施方式中的影像检测以及履历保存处理等各种处理的程序能够记录于计算机可读取的各种记录介质(例如,ROM、EEPROM、闪存等半导体存储器、磁记录介质、CD-ROM、DVD-ROM等光盘)。
附图标记说明
10机器人
11手部
20视觉传感器控制装置
30示教装置
40示教操作盘
41处理器
42存储器
43显示部
44操作部
45输入输出接口
50机器人控制装置
51处理器
52存储器
53输入输出接口
54操作部
60存储装置
71视觉传感器
81作业台
100机器人系统
141程序制作部
142用户界面生成部
143操作输入受理部
144程序生成部
151动作控制部
152存储部
152a保存条件
153保存条件设定部
154判定部
155履历保存部
156离群值检测部
157学习部
201程序
210、310程序生成画面
301影像检测程序
330、350用户界面画面
380条件设定画面
601输入数据
602卷积神经网络
603、702、712、722、732标签。

Claims (11)

1.一种示教装置,其特征在于,
所述示教装置具备:
判定部,其判定是否满足与视觉传感器对对象物进行处理的结果有关的保存条件;以及
履历保存部,其在判定为满足所述保存条件的情况下,将作为所述处理的结果的履历信息保存在存储装置中。
2.根据权利要求1所述的示教装置,其特征在于,
所述保存条件包括指定所述履历信息的保存目的地的条件,
所述履历保存部将所述履历信息保存到由所述保存条件指定的保存目的地。
3.根据权利要求1或2所述的示教装置,其特征在于,
所述保存条件包括指定所述履历信息中的作为保存对象的信息的条件,
所述履历保存部保存所述履历信息中的所述保存对象的信息。
4.根据权利要求1至3中的任一项所述的示教装置,其特征在于,
所述示教装置还具备用于设定所述保存条件的保存条件设定部。
5.根据权利要求4所述的示教装置,其特征在于,
所述保存条件设定部接受根据基于文本的命令的所述保存条件的设定。
6.根据权利要求4所述的示教装置,其特征在于,
所述保存条件设定部在显示画面上提示用于设定所述保存条件的用户界面,经由该用户界面接受所述保存条件的设定。
7.根据权利要求1所述的示教装置,其特征在于,
所述示教装置还具备:学习部,其基于所述履历信息学习所述保存条件,
所述判定部使用通过所述学习部的学习而得到的所述保存条件。
8.根据权利要求7所述的示教装置,其特征在于,
所述学习部使用以所述履历信息为输入并以是否保存了所述履历信息作为输出标签的训练数据来进行第一学习,
所述判定部将通过所述第一学习得到的学习模型用作所述保存条件。
9.根据权利要求8所述的示教装置,其特征在于,
所述学习部还使用以所述履历信息为输入并以所述履历信息的保存目的地作为输出标签的训练数据来进行第二学习,
所述履历保存部使用通过所述第二学习得到的学习模型来决定保存所述履历信息的情况下的保存目的地。
10.根据权利要求1所述的示教装置,其特征在于,
所述示教装置还具备:离群值检测部,其检测在所述履历信息所包含的预定的数据中是否存在离群值,
所述判定部将是否由所述离群值检测部检测到所述离群值用作所述保存条件。
11.根据权利要求10所述的示教装置,其特征在于,
在检测到所述离群值的情况下,所述履历保存部将所述履历信息保存到预定的保存目的地。
CN202180099514.5A 2021-06-23 2021-06-23 示教装置 Pending CN117501192A (zh)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2021/023866 WO2022269838A1 (ja) 2021-06-23 2021-06-23 教示装置

Publications (1)

Publication Number Publication Date
CN117501192A true CN117501192A (zh) 2024-02-02

Family

ID=84545422

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202180099514.5A Pending CN117501192A (zh) 2021-06-23 2021-06-23 示教装置

Country Status (6)

Country Link
US (1) US20240177461A1 (zh)
JP (1) JPWO2022269838A1 (zh)
CN (1) CN117501192A (zh)
DE (1) DE112021007526T5 (zh)
TW (1) TW202300304A (zh)
WO (1) WO2022269838A1 (zh)

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3834307B2 (ja) * 2003-09-29 2006-10-18 ファナック株式会社 ロボットシステム
JP6886869B2 (ja) * 2017-06-09 2021-06-16 川崎重工業株式会社 動作予測システム及び動作予測方法
JP6788235B1 (ja) 2019-07-30 2020-11-25 オムロン株式会社 情報管理システム、情報管理方法

Also Published As

Publication number Publication date
WO2022269838A1 (ja) 2022-12-29
US20240177461A1 (en) 2024-05-30
TW202300304A (zh) 2023-01-01
JPWO2022269838A1 (zh) 2022-12-29
DE112021007526T5 (de) 2024-04-04

Similar Documents

Publication Publication Date Title
US20170249766A1 (en) Image processing device for displaying object detected from input picture image
US10147179B2 (en) Action instruction apparatus
CN109426835B (zh) 信息处理装置、信息处理装置的控制方法和存储介质
JP6727228B2 (ja) リード先端位置画像認識方法及びリード先端位置画像認識システム
JPH07311610A (ja) 視覚センサを用いた座標系設定方法
KR102441757B1 (ko) 작업 동작 해석 시스템 및 작업 동작 해석 방법
JP2016143157A (ja) 画像処理装置、画像処理方法、及び画像処理システム
CN111225143B (zh) 图像处理装置及其控制方法以及程序存储介质
US10960550B2 (en) Identification code reading apparatus and machine learning device
JP2019197461A (ja) 解析支援装置及び解析支援方法
JP2020123140A (ja) 制御パラメータ調整装置
US11839980B2 (en) Image processing apparatus monitoring target, control method therefor, and storage medium storing control program therefor
CN109877828B (zh) 机器点位调试方法、装置、计算机设备和存储介质
JP7148322B2 (ja) 画像処理装置
US10599266B2 (en) Touch panel inspection device and inspection method for touch panel
CN112347837A (zh) 图像处理系统
CN117501192A (zh) 示教装置
CN112446287A (zh) 设置设备的控制处理过程的电子装置、方法和存储介质
JP2020144830A (ja) 作業分析装置及び作業分析プログラム
WO2021215333A1 (ja) プログラム編集装置
CN112088395A (zh) 图像处理装置、图像处理方法以及图像处理程序
CN116685916A (zh) 示教装置
CN114326171A (zh) 屏幕检测方法及装置
JP2921718B2 (ja) 産業用視覚センサにおける画像処理方法
CN117337226A (zh) 示教装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination