CN107003656B - 用于机器人设备的基于传感器的安全特征 - Google Patents

用于机器人设备的基于传感器的安全特征 Download PDF

Info

Publication number
CN107003656B
CN107003656B CN201480082555.3A CN201480082555A CN107003656B CN 107003656 B CN107003656 B CN 107003656B CN 201480082555 A CN201480082555 A CN 201480082555A CN 107003656 B CN107003656 B CN 107003656B
Authority
CN
China
Prior art keywords
robotic device
boundary
model image
robotic
environment surrounding
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201480082555.3A
Other languages
English (en)
Other versions
CN107003656A (zh
Inventor
S·亨特
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Robot Vision Polytron Technologies Inc
Original Assignee
Robot Vision Polytron Technologies Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Robot Vision Polytron Technologies Inc filed Critical Robot Vision Polytron Technologies Inc
Priority to CN202010043682.XA priority Critical patent/CN111240269B/zh
Publication of CN107003656A publication Critical patent/CN107003656A/zh
Application granted granted Critical
Publication of CN107003656B publication Critical patent/CN107003656B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Programme-control systems
    • G05B19/02Programme-control systems electric
    • G05B19/18Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form
    • G05B19/406Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form characterised by monitoring or safety
    • G05B19/4061Avoiding collision or forbidden zones
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1674Programme controls characterised by safety, monitoring, diagnostic
    • B25J9/1676Avoiding collision or forbidden zones
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/39Robotics, robotics to robotics hand
    • G05B2219/39001Robot, manipulator control
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/39Robotics, robotics to robotics hand
    • G05B2219/39082Collision, real time collision avoidance
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/39Robotics, robotics to robotics hand
    • G05B2219/39094Interference checking between robot and fixture
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/40Robotics, robotics mapping to robotics vision
    • G05B2219/40339Avoid collision

Abstract

大致描述了用于机器人设备的基于传感器的安全特征及其实现的技术。可以相对于机器人设备定位一个或多个传感器,使得传感器可以从机器人设备周围的环境的至少一部分捕获光。在一些示例中,传感器可以与机器人设备集成和/或可以被配置为旋转。耦合到传感器的分析模块可以基于由传感器捕获的光来构建环境的模型图像。分析模块可以响应于检测到模型图像的变化而检测到非预期对象正在接近机器人设备,并且基于对象向机器人设备的接近度和/或接近速度,分析模块可以指示机器人设备降低运行速度和/或停止机器人设备的运动。

Description

用于机器人设备的基于传感器的安全特征
背景技术
除非在此处进行说明,否则此处所描述的材料不是本申请权利要求的现有技术并且不因包含在该部分中而承认是现有技术。
在制造环境中,例如,可以使用机器人设备来补充和/或替代人的劳动以允许快速、成本有效和质量受控的制造过程。机器人设备以及与机器人设备一起执行任务的其他机器和/或外围设备被称为工作单元或单元。关于机器人设备在单元中的位置以及与其他机器的同步,机器人设备如何与单元中的其他机器交互可以被编程。由机器人设备执行的操作运动和顺序可以由耦合到机器人设备的一个或多个计算设备自动编程和控制。在一些示例中,计算设备可以与机器人设备集成。
可以实现用于机器人设备的各种安全特征(例如遮光板、激光扫描仪、围栏和/或安全垫)以向在制造环境中工作的人以及机器人设备本身提供保护。然而,在某些情况下,实施这种安全特征的成本和复杂性可能是过高的。因此,目前的安全特征及其实施可以使用改进和/或替代或附加的解决方案来提供和促进安全、有成效的制造环境。
发明内容
本公开总体上描述了实现用于设备的基于传感器的安全特征的技术。
根据一些示例,描述了实现用于机器人设备的基于传感器的安全特征的方法。示例方法可以包括基于由一个或多个传感器捕获的光生成机器人设备周围的环境的模型图像,其中模型图像的时间变化被存储为多个帧;基于一个或多个帧的比较来检测模型图像的变化;以及基于检测到的变化来确定非预期对象是否正在接近所述机器人设备。示例方法还可以包括响应于确定非预期对象正在接近机器人设备而指示机器人设备基于对象向机器人设备的接近度和接近速度中的一个或多个来调节机器人设备的操作速度。
根据其他示例,描述了被配置为实现用于机器人设备的基于传感器的安全特征的装置。示例装置可以包括:一个或多个传感器,其被配置为从机器人设备周围的环境捕获光;以及通信地耦合到所述一个或多个传感器的至少一个分析模块。所述至少一个分析模块可以被配置为:基于由所述一个或多个传感器捕获的光来生成所述机器人设备周围的环境的模型图像,其中所述模型图像的时间变化被存储为多个帧;基于一个或多个帧的比较来检测模型图像的变化;并且基于检测到的变化来确定非预期对象是否正在接近机器人设备。所述至少一个分析模块还可以被配置为响应于确定非预期对象正在接近机器人设备而指示所述机器人设备基于所述对象向所述机器人设备的接近度和接近速度中的一个或多个来调节所述机器人设备的操作速度。
根据另外的示例,描述了一种实现用于机器人设备的基于传感器的安全特征的系统。该系统可以包括:至少一个成像模块,被配置为通过一个或多个传感器捕获机器人设备周围的环境的光;至少一个建模模块,被配置为基于由所述至少一个成像模块捕获的光来生成所述机器人设备周围的环境的模型图像,其中所述模型图像的时间变化被存储为多个帧;以及至少一个检测模块,被配置为基于一个或多个帧的比较来检测模型图像的变化,并且基于检测到的变化来确定非预期对象是否正在接近机器人设备。该系统还可以包括至少一个控制器,其被配置为响应于确定非预期对象正在接近机器人设备而指示所述机器人设备基于所述对象向所述机器人设备的接近度和接近速度中的一个或多个来调节所述机器人设备的操作速度。
前面的概述仅仅是示例性的,而不意在以任何方式进行限制。通过参考附图以及下面的详细说明,除了上文所描述的示例性的方案、实施例和特征之外,另外的方案、实施例和特征将变得清晰可见。
附图说明
通过下面结合附图给出的详细说明和随附的权利要求,本公开的前述特征以及其它特征将变得更加清晰。应理解的是,这些附图仅描绘了依照本公开的多个实施例,因此,不应视为对本发明范围的限制,将通过利用附图结合附加的具体描述和细节对本公开进行说明,在附图中:
图1示出了与机器人设备的至少一部分集成以允许实现基于传感器的安全特征的传感器的示例配置;
图2A和2B示出了允许实现基于传感器的安全特征的一个或多个传感器和机器人设备的其他示例配置;
图3示出了示例边界定义;
图4示出了实现用于机器人设备的基于传感器的安全特征的示例过程;
图5示出了被配置为实现用于机器人设备的基于传感器的安全特征的系统的示例控制器;
图6示出了通用计算设备,其可以用于实现用于机器人设备的基于传感器的安全特征;
图7是示出了可以由诸如图6中的计算设备的计算设备执行的用于机器人设备的基于传感器的安全特征的示例过程的流程图;以及
图8示出了示例计算机程序产品的框图,以上全部根据本文所描述的至少一些实施例布置。
具体实施方式
在下面的详细说明中,将参考附图,附图构成了详细说明的一部分。在附图中,除非上下文指出,否则相似的符号通常表示相似的部件。在详细说明、附图和权利要求中所描述的示例性实施例不意在限制。可以使用其它实施例,并且可以做出其它改变,而不偏离本文呈现的主题的精神或范围。将易于理解的是,如本文大致描述且如图中所图示的,本公开的方案能够以各种不同配置来布置、替代、组合、分离和设计,所有这些都在本文中明确地构思出。
除了其他方面,本公开总体上涉及与用于设备的基于传感器的安全特征的实现相关的方法、装置、系统、设备和/或计算机程序产品。
简而言之,通常描述用于机器人设备的基于传感器的安全特征及其实现的技术。可以相对于机器人设备定位一个或多个传感器,使得传感器可以从机器人设备周围的环境的至少一部分捕获光。在一些示例中,传感器可以与机器人设备集成和/或可以被配置为旋转。耦合到传感器的分析模块可以基于由传感器捕获的光来构建环境的模型图像。分析模块可以响应于检测到模型图像的变化而检测到非预期对象正在接近机器人设备,并且基于该对象向机器人设备的接近度和/或接近速度,分析模块可以指示机器人设备降低操作速度和/或停止机器人设备的运动。
图1示出了根据本文描述的至少一些实施例布置的与机器人设备的至少一部分集成以允许实现基于传感器的安全特征的示例传感器。
如图示 100所示,诸如机器人臂的机器人设备102可以与至少一个传感器104集成。传感器104可以是例如金属氧化物半导体(CMOS)图像传感器、电荷耦合器件(CCD)图像传感器和N型金属氧化物半导体(NMOS)图像传感器。机器人设备102可以包括例如成形为扳手的延伸部,并且可以被编程为执行任务,例如拧紧螺母108,以将零件106的一个或多个部件紧固在一起。机器人设备102所在的单元还可以包括被编程为与机器人设备102一起执行任务的一个或多个机器或外围设备。
在第一配置100A中,传感器104可以被配置为从机器人设备102周围的环境捕获光。耦合到传感器104的分析模块可以被配置为基于传感器捕获的光来构建环境的模型图像,其中模型图像包括零件106。分析模块可以被配置为使用一个或多个高斯分布构建模型图像。模型图像的时间变化可以存储为多个帧,并且可以使用帧的比较来检测模型图像的变化。分析模块还可以被配置为将模型图像的像素分类为模型图像的前景或背景,其中分类为模型图像的前景的像素表示运动。随后,分类为模型图像的前景的像素可以被分组,并且可以代表与机器人设备102周围的环境相关联的预期运动。例如,根据编程,作为零件106的预期运动接近机器人设备,使得机器人设备可以拧紧螺母108,以便将零件106的部件固定在一起。可以为组的尺寸分配阈值,使得可以响应于组的尺寸超过阈值而检测到由于接近对象而导致的环境中的非预期运动。非预期运动可能是由于接近机器人设备102的不同尺寸和/或形状的不正确零件、接近机器人设备102的人体的一部分、和/或接近机器人设备102的来自单元中的其他机器人设备或机器的碎片而导致。模型图像可以作为直方图存储在分析模块的数据库中。如果检测到模型图像的变化,则可以参考直方图。
在第二配置100B中,诸如人手110的对象可能正在接近机器人设备102。由传感器104捕获的光可以由分析模块分析以构建环境的模型图像,并且可以由于接近的人手110而检测到模型图像的变化。例如,由于分析模块将模型图像的像素分类为模型图像的前景或背景,并将分类为前景的像素进行分组,因此分析模块可以确定组的尺寸超过分配的阈值。响应于检测到的变化,分析模块可以向控制机器人设备102的计算设备或直接向机器人设备102发送指令,以基于人手110向机器人设备102的接近度和/或接近速度来调节机器人设备102的操作速度。
随着人手110接近机器人设备102,可以以分步方式或连续方式来调节操作速度,并且人手110在一个或多个定义的边界内的位置可以确定调节所基于的、人手110向机器人设备102的接近度。例如,第一边界和第二边界可以由机器人设备102的操作者定义,其中第一边界比第二边界更靠近机器人设备102。边界可以是平面的、线性的和/或三维的。操作者可以通过提供给操作者的用户界面来定义边界,其中用户界面耦合到分析模块,并且可以被配置为显示机器人设备102周围的环境的模型图像。
在一个示例中,分析模块可以响应于在第二边界内的位置处检测到人手110来指示机器人设备102降低机器人设备102的操作速度。由于人手110和机器人设备102之间的距离较大,所以降低操作速度的指令可以是可选的。在另一示例中,分析模块可以响应于在第一边界内的位置处检测到人手110而指示机器人设备102停止运动。由于人手110较接近机器人设备102,停止运动的指令可能是强制性的。
响应于检测到人手110已经离开第一边界,分析模块可以指示机器人设备102重新启动运动,和/或响应于检测到人手110已经离开第二边界,分析模块可以指示机器人设备102提高机器人设备102的操作速度。类似地,随着人手110离开机器人设备102周围的环境,可以以分步方式或连续方式提高操作速度。通过将当前模型图像的直方图与其中不存在人手的最后一个已知模型图像的另一直方图(例如在第一配置100A中讨论的直方图)进行匹配,分析模块可以检测到人手110不在第一边界和/或第二边界中。
目前在制造环境中,实现用于机器人设备的各种安全特征(诸如遮光屏、激光扫描器、围栏和/或安全垫)以向在制造环境中工作的人以及机器人设备本身提供质量控制和/或保护。然而,实现这些安全特征的成本可以从几百美元到几千美元不等。因此,如上述实施例中所述的用于机器人设备的基于传感器的安全特征可以提供成本有效的方法以实现用于机器人设备的安全特征,从而促进安全、有成效的制造环境。
图2A和2B示出了根据本文所描述的至少一些实施例布置的允许实现基于传感器的安全特征的一个或多个传感器和机器人设备的其他示例配置。
如图示200A所示,传感器204可以被定位在机器人设备202上方,使得传感器204被配置为从机器人设备周围的环境捕获光。传感器204可以使用支撑装置206定位在机器人设备上方,传感器204可耦合到支撑装置206。在一些示例中,支撑装置206可以附接到支撑机器人设备202的表面208,如图所示。除了其他示例之外,表面208可以是桌面、传送带表面、工作台表面和墙壁。在其他示例中,支撑装置206可以附接到另一表面,其中另一表面被定位在机器人设备202上方,例如天花板。在另外的示例中,传感器可以被配置为旋转210,或者支撑装置206可以是便携式的212,使得可以从机器人设备202周围的整个环境捕获光。
如图示200B所示,多个传感器224可以相对于机器人设备222定位,使得传感器224被配置为从机器人设备222周围的整个环境捕获光。多个传感器224可以直接附接到支撑机器人设备222的表面228。如前所述,除了其他示例之外,表面228可以是桌面、传送带表面、工作台表面和墙壁。多个传感器224中的一个或多个可以被配置为旋转330。
图3示出了根据本文所描述的至少一些实施例布置的示例边界定义。
如图示300所示,与传感器304集成的机器人设备302的操作者可在围绕机器人设备302的环境中定义一个或多个边界,例如第一边界306和第二边界308。在定义第一边界306和第二边界308时,可以形成包括环境的所有其他区域的边远边界310。操作者可以通过提供给操作者的用户界面来定义边界。用户界面可以耦合到分析模块,并且被配置为显示基于由传感器304捕获的光而由分析模块构建的机器人设备302周围的环境的模型图像。模型图像的显示可以向操作者提供定义边界时环境的视觉表示。例如,定义的边界可以是平面的、线性的和/或三维的。如图所示,第一边界306和机器人设备302之间的距离可以小于第二边界308和机器人设备302之间的距离。
如果分析模块检测到接近机器人设备302的对象,则第一边界306或第二边界308内的对象的位置可以确定从分析模块发送到机器人设备302的指令,以调节机器人设备302的操作速度。例如,响应于在第二边界308内的位置处检测到对象,分析模块可以指示机器人设备302降低机器人设备302的操作速度。操作速度可以是以逐步方式、以连续方式或以另一种方式降低。在一些实施例中,操作速度可以降低到零(即,停止机器人设备)。例如,响应于在第一边界306内的位置处检测到对象,分析模块可以指示机器人设备302停止运动。当对象位于第二边界308中时,指令可以是可选的,但是当对象位于第一边界306中时,由于对象更接近机器人设备302,所以该指令可能是强制性的。根据另一个示例,响应于在边远边界310内的位置处检测到对象,没有指令被发送到机器人设备302。
类似地,随着对象离开机器人设备302周围的环境,对象在第二边界308或边远边界310内的位置可以确定从分析模块发送到机器人设备302的指令,以恢复机器人设备302的操作。例如,响应于检测到对象已经离开第一边界306并且位于第二边界308中,分析模块可以指示机器人设备302重新启动运动。响应于检测到对象已经离开第二边界308并且位于边远边界310中,分析模块可以指示机器人设备102提高机器人设备302的操作速度。可以随着对象离开机器人设备302周围的环境而以逐步、连续或其他方式提高操作速度。
图4示出了根据本文所描述的至少一些实施例布置的实现用于设备的基于传感器的安全特征的示例过程。
如图示400所示,在操作402,“操作者定义边界”,机器人设备的操作者420可以通过配置为显示环境的模型图像的用户界面在机器人周围的环境内定义一个或多个边界,例如第一边界和第二边界。用户界面可以耦合到分析模块424,分析模块424被配置为基于在操作404“在传感器处捕获光”中由一个或多个传感器422从环境捕获的光来构建环境的模型图像。一个或多个传感器422可以与机器人设备集成,和/或可以与机器人设备分离、但相对于机器人设备定位,使得光从机器人设备周围的环境的至少一部分被捕获。在一些实施例中,传感器422可以被配置为旋转而使得来自机器人设备周围的整个环境的光被捕获。
在操作406“分析来自传感器的光”中,分析模块424可以被配置为分析从传感器422捕获的光。例如,分析模块424可将模型图像的像素分类为模型图像的前景或背景,其中分类为模型图像的前景的像素表示运动。随后,分类为模型图像的前景的像素可以被分组,并且可以代表与机器人设备周围的环境相关联的预期运动。可以为组的尺寸分配阈值,使得可以响应于组的尺寸超过阈值而检测到由于接近对象而导致的环境中的非预期运动。非预期运动可能是由于接近机器人设备的不同尺寸和/或形状的不正确的零件或部件、接近机器人设备的人体的一部分、和/或来自其它机器人设备或机器的碎片以及其他示例而导致的。
基于组的尺寸的确定,分析模块可以被配置为在操作408“检测变化?”处检测模型图像是否已经改变。如果组的尺寸不超过阈值,则没有检测到模型图像的变化,并且可以不执行进一步的操作。如果组的尺寸超过阈值,则检测到模型图像的改变,其中变化可以指示接近机器人设备的非预期对象。分析模块可以被配置为指示机器人设备基于接近对象的接近度和/或速度来调节操作速度。在操作402处由操作者定义的第一边界或第二边界内的对象的位置可以确定调节所基于的对象向机器人设备的接近度。
在操作412“发送停止运动的指令”中,分析模块可以响应于在决定操作410“在第一边界中?”处确定在第一边界内的位置处检测到对象而指示机器人设备停止运动,因为对象较接近机器人设备。在操作416“发送降低操作速度的指令”中,分析模块可以响应于在决定操作414“在第二边界中?”处确定在第二边界内的位置处检测到对象而指示机器人设备降低机器人设备的操作速度,因为对象和机器人设备之间的距离较大。
图5示出根据本文描述的至少一些实施例布置的被配置为实现用于设备的基于传感器的安全特征的系统的示例控制器。
如图所示,系统500可以包括至少一个控制器520,包括至少一个成像模块522的成像子系统530和包括至少一个建模模块524和至少一个检测模块526的分析子系统532。控制器520可以通过人类控制来操作,或者可以被配置为用于自动操作,或者可以由远程控制器550通过至少一个网络(例如,经由网络510)来引导。与控制不同生产过程相关联的数据可以存储在数据存储器560和/或从数据存储器560接收。
控制器520可以包括和/或控制成像子系统的成像模块522,成像模块522被配置为通过一个或多个传感器从机器人设备周围的环境捕获光。传感器可以与机器人设备集成,和/或与机器人设备分开、但相对于机器人设备定位,使得来自机器人设备周围的环境的至少一部分的光被捕获。在一些示例中,传感器可以被配置为旋转,使得从机器人设备周围的整个环境捕获光。
控制器520还可以包括和/或控制分析子系统532的建模模块524和检测模块526。建模模块524可以被配置为基于成像模块522的传感器所捕获的光构建机器人设备周围的环境的模型图像。在一些实施例中,模型图像可以作为直方图存储在分析子系统532的数据库中以在检测到模型图像的变化时被参考,其将在下面讨论。检测模块526可以被配置为响应于检测到模型图像的变化而检测到接近机器人设备的对象。例如,模型图像的像素可以被分类为模型图像的前景或背景,其中分类为模型图像的前景的像素指示运动并且被分组。可以对组的尺寸分配阈值,并且响应于确定组的尺寸已经超过阈值,检测到可以指示接近机器人设备的对象的模型图像的变化。
检测模块526还可以被配置为指示机器人设备基于对象向机器人设备的接近度和/或接近速度来调节机器人设备的操作速度。在由机器人设备的操作者定义的一个或多个边界内的对象的位置可以确定调节所基于的、对象向机器人设备的接近度。例如,操作者可以通过被配置以显示环境的模型图像的用户界面在机器人设备周围的环境内定义第一边界和第二边界。第一边界可能比第一边界更靠近机器人设备。因此,响应于在第二边界内的位置中检测到对象,检测模块可以指示机器人设备降低机器人设备的操作速度。在一些示例中,操作速度可以被降低到基本为零。响应于在第一边界内的位置中检测到,检测模块可以指示机器人设备停止运动。可以在通过检测模块526检测出对象已经分别离开第一边界和/或第二边界时,可以恢复运动和/或可以提高操作速度。可以通过将当前模型图像的直方图与其中不存在对象的最后一个已知模型图像的直方图进行匹配来检测对象的不存在。
已经使用实现用于设备的基于传感器的安全特征的特定的装置、配置和系统描述了图1至图5中的示例。实现用于设备的基于传感器的安全特征的实施例不限于根据这些示例的具体的装置、配置和系统。
图6示出了根据本文所描述的至少一些实施例布置的通用计算设备,其可以用于实现用于设备的基于传感器的安全特征。
例如,计算设备600可以用作服务器、台式计算机、便携式计算机、智能电话、专用计算机或类似设备,例如控制器、新部件、包括车辆和智能制造设施的可操作系统中的现有部件群。在示例基本配置602中,计算设备600可以包括一个或多个处理器604和系统存储器606。存储器总线608可以用于处理器604和系统存储器606之间的通信。基本配置602可通过内部虚线内的那些部件被示出于图6中。
根据所期望的配置,处理器404可以是任意类型,包括但不限于微处理器(μP)、微控制器(μC)、数字信号处理器(DSP)或其任意组合。处理器404可以包括诸如级别高速缓存存储器612的一级或多级高速缓存、一个或多个处理器核614和寄存器616。示例处理器核614可以(各自)包括算术逻辑单元(ALU)、浮点单元(FPU)、数字信号处理核(DSP Core)或其任意组合。示例存储器控制器618还可与处理器604一起使用,或者在一些实施方式中,存储器控制器618可以是处理器604的内部部件。
根据期望的配置,系统存储器606可以是任何类型的,包括但不限于易失性存储器(诸如RAM)、非易失性存储器(诸如ROM,闪速存储器等)或其任何组合。系统存储器606可以包括操作系统620、控制器应用622和程序数据624。控制器应用622可以包括成像模块626和分析模块627,其可以是应用的一个集成部件或单独的独立应用。成像模块626可以被配置为捕获来自机器人设备周围的环境的光。分析模块627可以被配置为基于成像模块626的传感器所捕获的光来构建机器人设备周围的环境的模型图像、响应于检测到模型图像的变化而检测到接近机器人设备的对象、以及指示机器人设备基于该对象向机器人设备的接近度和/或接近速度来调节机器人设备的操作速度。除了其他数据之外,程序数据624可以包括与构建模型图像和检测模型图像的变化有关的过程数据628,如本文所述。
计算设备600可具有附加的特征或功能以及附加的接口以便于基本配置602与任何所需的设备和接口之间的通信。例如,总线/接口控制器630可用于便于基本配置602与一个或多个数据存储设备632之间经由存储接口总线634的通信。数据存储设备632可以是一个或多个可移除存储设备636、一个或多个非可移除存储设备638或者其组合。可移除存储设备和非可移除存储设备的示例包括诸如软盘驱动器和硬盘驱动器(HDD)的磁盘设备、诸如压缩盘(CD)驱动器或数字多功能盘(DVD)驱动器的光盘驱动器、固态驱动器(SSD)和磁带驱动器(仅列举了几个)。示例计算机存储介质可以包括以用于诸如计算机可读指令、数据结构、程序模块或其它数据的信息的存储的任何方法或技术实现的易失性和非易失性、可移除和非可移除的介质。
系统存储器606、可移除存储设备636和非可移除存储设备638是计算机存储介质的示例。计算机存储介质包括但不限于RAM、ROM、EEPROM、闪存(flash memory)或其它存储器技术、CD-ROM、数字通用盘(DVD)、固态驱动器或其它光学存储设备、磁盒、磁带、磁盘存储设备或其它磁存储设备、或者可用于存储所需信息并且可由计算设备600访问的任何其它介质。任意这样的计算机存储介质可以是计算设备600的部件。
计算设备600还可以包括接口总线640,该接口总线便于从各接口设备(例如,一个或多个输出设备642、一个或多个外围设备接口644和一个或多个通信设备646)经由总线/接口控制器630到基本配置602的通信。示例输出设备642中的一些包括图形处理单元648和音频处理单元650,其可配置为经由一个或多个A/V端口652与诸如显示器或扬声器的各外部设备通信。一个或多个示例外围设备接口644包括串行接口控制器654或并行接口控制器656,其可配置为经由一个或多个I/O端口658与诸如输入设备(例如,键盘、鼠标、笔、语音输入设备、触摸输入设备等)或其它外围设备(例如,打印机、扫描仪等)的外部设备通信。示例通信设备646包括网络控制器660,其可布置成便于经由一个或多个通信端口664在网络通信链路上与一个或多个其它计算设备662的通信。一个或多个其它计算设备662可以包括服务器、客户端设备和类似的设备。
网络通信链路可以是通信介质的一个示例。通信介质通常可通过计算机可读指令、数据结构、程序模块或诸如载波或其它传输机制的调制数据信号中的其它数据来体现,并且可以包括任何信息输送介质。“调制数据信号”可以是使得其特性中的一个或多个以将信号中的信息编码的方式设定或改变的信号。通过举例而不是限制的方式,通信介质可以包括诸如有线网络或直接线连接的有线介质,以及诸如声波、射频(RF)、微波、红外(IR)和其它无线介质的无线介质。如本文所使用的术语计算机可读介质可以包括存储介质和通信介质两者。
计算设备600可以被实现为通用或专用服务器、主机或包括任一上述任何功能的类似计算机的一部分。计算设备600还可以实现为包括膝上型计算机和非膝上型计算机配置的个人计算机。
示例实施例还可以包括实现用于设备的基于传感器的安全特征的方法。这些方法可以以任何数量的方式实现,包括本文所述的结构。一种这样的方式可以是通过本公开中描述的类型的装置的机器操作。另一种可选方式可以是与一个或多个人类操作者执行某些操作而其他操作可以由机器执行的方式相结合地执行所述方法的各个操作中的一个或多个操作。这些人类操作者不需要彼此搭配,但每个操作人员仅被配有执行程序的一部分的机器。在其他实施例中,人类交互可以是自动化的,例如通过可以是机器自动化的预先选择的标准。
图7是示出了根据本文所描述的至少一些实施例来布置的可以由诸如图6中的计算设备的计算设备执行的实现用于设备的基于传感器的安全特征的示例过程的流程图。
示例性方法可以包括由方框722、724和/或726中的一个或多个所示出的一个或多个操作、功能或动作。方框722至726中描述的操作也可以存储为在诸如计算设备710的计算机可读介质720的计算机可读介质中的计算机可执行指令。
实现用于机器人设备的基于传感器的安全特征的示例过程可以从方框722“基于由一个或多个传感器捕获的光构建机器人设备周围的环境的模型图像”开始,其中一个或多个传感器可以从机器人设备周围的环境中捕获光。传感器可以与机器人设备集成,和/或与机器人设备分开、但相对于机器人设备定位,从而使得来自机器人设备周围的环境的至少一部分的光被捕获。示例传感器可以包括CMOS图像传感器、CCD图像传感器和NMOS图像传感器。耦合到一个或多个传感器的分析模块可以被配置为基于由传感器捕获的光来构建机器人设备周围的环境的模型图像。分析模块可以使用高斯分布来构建模型图像。模型图像可以作为直方图存储在分析模块的数据库中以响应于检测到的模型图像的变化而被参考。
方框722之后可以是方框724“响应于检测到模型图像的变化而检测到接近机器人设备的对象”,其中分析模块可将模型图像的像素分类为模型图像的前景或背景,其中分类为模型图像的前景的像素指示运动并且被分组。可以对组的尺寸分配阈值,并且响应于确定组的尺寸已经超过阈值,检测到可以指示接近机器人设备的对象的模型图像的改变。接近机器人设备的对象可以是环境中的不同尺寸和/或形状的不正确的零件或部件、人体的一部分,和/或来自一个或多个其他机器的碎片。
方框724之后可以是方框726“指示机器人设备基于对象向机器人设备的接近度和接近速度中的一个或多个来调节机器人设备的操作速度”,其中分析模块可以进一步配置成指示机器人设备基于对象向机器人设备的接近度和/或接近速度来调节机器人设备的操作速度。对象在由机器人设备的操作者定义的一个或多个边界内的位置可以确定调节所基于的、对象向机器人设备的接近度。例如,操作者可以通过被配置以显示环境的模型图像的用户界面在机器人设备周围的环境内定义第一边界和第二边界。第一边界可能比第一边界更靠近机器人设备。因此,响应于在第二边界内的位置中检测到对象,分析模块可以指示机器人设备降低机器人设备的操作速度。在一些示例中,操作速度可以被降低到基本为零。响应于在第一边界内的位置中检测到,分析模块可以指示机器人设备停止运动。在通过检测模块检测到对象已经分别离开第一边界和/或第二边界时,可以恢复运动和/或可以提高操作速度。可以通过将当前模型图像的直方图与其中不存在对象的最后一个已知模型图像的直方图进行匹配来检测对象的不存在。
包括在上述过程中的方框用于说明的目的。用于设备的基于传感器的安全特征可以通过具有较少或附加方框的类似过程来实现。在一些实施例中,方框可以以不同的顺序执行。在一些其他实施例中,可以消除各种方框。在另外其他实施例中,各种方框可以被划分为附加方框,或者组合成更少的方框。
图8示出了根据本文所描述的至少一些实施例布置的示例计算机程序产品的框图。
在一些实施例中,如图8所示,计算机程序产品800可以包括信号承载介质802,其还可以包括当由例如处理器执行时可以提供本文所描述的功能的一个或多个机器可读指令804。因此,例如,参考图6中的处理器604,在处理器604上执行的成像模块626和分析模块627可以响应于由介质802传送到处理器604的指令804而承担图8所示的一个或多个任务,从而执行与本文所述的用于设备的基于传感器的安全特征的实现相关联的动作。这些指令中的一些可以包括例如用于以下操作的一个或多个指令:基于由一个或多个传感器捕获的光来构建机器人设备周围的环境的模型图像、响应于检测到模型图像的变化而检测到接近机器人设备的对象、以及指示机器人设备基于对象向机器人设备的接近度和接近速度中的一个或多个来调节机器人设备的操作速度。
在一些实施方式中,图8所示的信号承载介质802可以包括计算机可读介质806,诸如但不限于硬盘驱动器、固态驱动器、压缩盘(CD)、数字通用盘(DVD)、数字带、存储器等。在一些实施方式中,信号承载介质802可以包含可记录介质808,例如但不限于存储器、读/写(R/W)CD、R/W DVD等。在一些实施方式中,信号承载介质802可以包括通信介质810,例如但不限于数字和/或模拟通信介质(例如,光纤电缆、波导、有线通信链路、无线通信链路等)。因此,例如,程序产品800可通过RF信号承载介质传送到图6的处理器604的一个或多个模块,其中信号承载介质802由无线通信介质810(例如,符合IEEE 802.11标准的无线通信介质) 传送。
根据一些示例,描述了实现用于机器人设备的基于传感器的安全特征的方法。示例性的方法可以包括基于由一个或多个传感器捕获的光生成机器人设备周围的环境的模型图像,其中模型图像的时间变化被存储为多个帧;基于一个或多个帧的比较来检测模型图像的变化;以及基于检测到的变化来确定非预期对象是否正在接近机器人设备。示例方法还可以包括响应于确定非预期对象正在接近机器人设备而指示机器人设备基于对象向机器人设备的接近度和接近速度中的一个或多个来调节机器人设备的操作速度。
根据其他示例,所述方法还可以包括:基于一个或多个帧的比较来确定对象向机器人设备的接近度和接近速度的一个或多个,或者将图像模型的像素分类为模型图像的前景和背景之一。该方法还可以包括将分类为模型图像的前景的像素进行分组,其中被分类为模型图像的前景的被分组的像素指示运动。所述方法还可以包括对被分组的像素的尺寸分配阈值。检测模型图像的变化可以包括确定被分组的像素的尺寸超过阈值。
根据另外的示例,指示机器人设备调节机器人设备的操作速度可以包括指示机器人设备将机器人设备的操作速度降低到基本为零或指示机器人设备将机器人设备停止。所述方法还可以包括通过显示模型图像的用户界面从机器人设备的操作者接收在机器人设备周围的环境内的至少第一边界和第二边界的定义。第一边界和机器人设备之间的距离可以小于第二边界和机器人设备之间的距离。指示机器人设备可以包括响应于在第一边界和机器人设备之间的位置处检测到对象而指示机器人设备停止运动,或者响应于在第二边界和第一边界之间的位置处检测到对象而指示机器人设备降低机器人设备的操作速度。
根据另外其他的示例,指示机器人设备可以包括响应于检测到对象离开第一边界而指示机器人设备重新启动运动,或者响应于检测到对象离开第二边界而指示机器人设备提高机器人设备的操作速度。检测到对象离开第二边界可以包括将多个帧存储为直方图,并且响应于确定当前帧的直方图与在第二边界内不存在对象的最后一个已知帧的直方图相匹配来确定对象的不存在。
根据其它示例,描述了被配置为实现用于机器人设备的基于传感器的安全特征的装置。示例装置可以包括:一个或多个传感器,其被配置为从机器人设备周围的环境捕获光;以及通信地耦合到所述一个或多个传感器的至少一个分析模块。所述至少一个分析模块可以被配置为基于由所述一个或多个传感器捕获的光来生成所述机器人设备周围的环境的模型图像,其中所述模型图像的时间变化被存储为多个帧;基于一个或多个帧的比较来检测模型图像的变化;并且基于检测到的变化来确定非预期对象是否正在接近机器人设备。所述至少一个分析模块还可以被配置为响应于确定非预期对象正在接近机器人设备而指示所述机器人设备基于所述对象向所述机器人设备的接近度和接近速度中的一个或多个来调节所述机器人设备的操作速度。
根据进一步的示例,一个或多个传感器可以包括互补的金属氧化物半导体(CMOS)图像传感器、电荷耦合器件(CCD)图像传感器或N型金属氧化物半导体(NMOS)图像传感器。一个或多个传感器可以相对于机器人设备定位在一个或多个位置处,使得光从机器人设备周围的环境的至少一部分被捕获。一个或多个传感器可以与机器人设备集成。
根据另外其他的示例,一个或多个传感器可以被定位或配置成旋转,使得光从机器人设备周围的基本上整个环境被捕获。所述至少一个分析模块可以被配置为采用一个或多个高斯分布生成模型图像。该装置还可以包括耦合到至少一个分析模块的用户界面,用户界面被配置为将机器人设备周围的环境的模型图像显示给机器人设备的操作者。所述至少一个分析模块可以被进一步配置成从所述机器人设备的操作者接收所述机器人设备周围的环境内的至少第一边界和第二边界的定义。至少一个分析模块还可以被配置为基于对象在第一边界或第二边界内的位置来确定对象向机器人设备的接近度。
根据进一步的示例,描述了实现用于机器人设备的基于传感器的安全特征的系统。该系统可以包括:至少一个成像模块,其被配置为通过一个或多个传感器捕获机器人设备周围的环境的光;至少一个建模模块,其被配置为基于由所述至少一个成像模块捕获的光来生成所述机器人设备周围的环境的模型图像,其中所述模型图像的时间变化被存储为多个帧;以及至少一个检测模块,其被配置为基于一个或多个帧的比较来检测模型图像的变化,并且基于检测到的变化来确定非预期对象是否正在接近机器人设备。该系统还可以包括至少一个控制器,其被配置为响应于确定非预期对象正在接近机器人设备而指示所述机器人设备基于对象向所述机器人设备的接近度和接近速度中的一个或多个来调节所述机器人设备的操作速度。
根据另外的示例,所述至少一个控制器还可以被配置为控制所述至少一个成像模块、所述至少一个建模模块和所述至少一个检测模块的操作方面。所述至少一个建模模块还可以被配置为将模型图像的像素分类为模型图像的前景和背景之一;将分类为模型图像的前景的像素分组;并为被分组的像素的尺寸分配阈值。所述至少一个检测模块还可以被配置为确定被分组的像素的尺寸超过阈值,以检测到模型图像的变化。
示例
以下是可以如何实现一些实施例的说明性的示例,并且不旨在以任何方式限制实施例的范围。
示例1:通过定位在纺织制造厂的机器人绗缝机上方的传感器检测第一边界内的 人手
耦合到支撑装置的单个NMOS传感器定位在机器人绗缝机上方,该机器人绗缝机配置成制造由三层纤维构成的材料。支撑装置附接到机器人绗缝机的部件。单个传感器被配置为从机器人绗缝机的环境捕获光,并且还被配置为旋转以确保从整个环境捕获光。耦合到所述传感器的分析模块被配置为基于从所述环境捕获的光来构建模型图像。模型图像包括用于制造材料的纤维层和被配置为与机器人绗缝机一起执行制造的一个或多个其它机器和/或外围设备。模型图像作为直方图保存在分析模块的数据库中以响应于检测到模型图像的变化而被参考。耦合到分析模块的用户界面向机器人绗缝机的操作者提供模型图像的显示,并允许操作者在环境内定义第一边界和第二边界。第一边界是机器人绗缝机的10厘米(cm)内的环境区域,第二边界是机器人绗缝机的10厘米到40厘米的环境区域。
分析模块将模型图像内的像素分类为模型图像的前景和/或背景。分类为模型图像的前景的像素被分组在一起,并且指示与机器人绗缝装置的环境相关联的运动。例如,将用于制造材料的纤维层进给到机器人绗缝机中的运动以及配置成与机器人绗缝机结合进行制造的一个或多个其它机器和/或外围设备的运动。该组的尺寸被分配阈值。分析模块响应于确定由于环境中的非预期运动而导致分组的尺寸超过阈值来检测模型图像的变化,其中变化指示接近机器人绗缝机的人手。人手被确定为位于第一边界内机器人绗缝机上方3厘米处。
分析模块被配置为基于人手在第一边界中的位置来指示机器人绗缝机停止运动。一旦分析模块检测到人手移动到第二边界内的机器人绗缝机上方11cm处的位置,则分析模块指示机器人绗缝机重新启动机器人绗缝机的运动。此外,一旦分析模块检测到人手移动到位于第二边界之外的机器人绗缝机上方41cm的位置,则分析模块被配置为提高机器人绗缝机的操作速度。分析模块通过将当前模型图像的直方图与不存在人手的最后一个已知模型图像的直方图进行匹配来检测人手从第一边界和/或第二边界的不存在。
示例2:通过与汽车制造厂中的机器人焊机集成的传感器检测第二边界内的不正 确部件
单个CMOS图像传感器与被配置为将车辆的两个或更多个底盘部件焊接在一起的机器人焊机集成。单个传感器被配置为从机器人焊接机的环境捕获光,并且还被配置为旋转而使得从整个环境捕获光。耦合到所述传感器的分析模块被配置为基于从环境捕获的光来构建模型图像。模型图像包括要焊接在一起的底盘部件和被配置为与机器人焊机一起执行焊接的一个或多个其它机器和/或外围设备。模型图像作为直方图保存在分析模块的数据库中以响应于检测到模型图像的变化而被参考。耦合到分析模块的用户界面向机器人焊机的操作者提供模型图像的显示,并允许操作者在环境内定义第一边界和第二边界。第一边界是机器人焊机的1米(m)以内的环境区域,第二边界是机器人焊机的1米到2米的环境区域。
分析模块将模型图像内的像素分类为模型图像的前景和/或背景。分类为模型图像的前景的像素被分组在一起,并且指示与机器人焊机的环境相关联的运动。例如,要被焊接在一起的接近的底盘部件的运动和一个或多个配置成与机器人焊机一起执行焊接的其它机器和/或外围设备的运动。组的尺寸被分配阈值。分析模块响应于确定由于环境中的非预期运动导致组的尺寸超过阈值来检测模型图像的变化,其中变化指示接近机器人焊机的不正确的部件(例如悬架)。该悬架被确定为在第二边界内距机器人焊机1.5米远。
分析模块被配置为指示机器人焊机基于悬架在第二边界中的位置来降低焊接的操作速度。一旦分析模块检测到悬架移动到第二边界以外远离机器人焊机超过2m的位置,则分析模块指示机器人焊机提高焊接的操作速度。分析模块通过将当前模型图像的直方图与其中不存在悬架的最后一个已知模型图像的直方图进行匹配来检测悬架从第二边界的不存在。
示例3:通过定位在电子制造厂的机器人蚀刻机周围的多个传感器来检测第一边 界和第二边界内的碎片
多个CCD图像传感器定位在被配置成将一个或多个光学部件蚀刻到集成电路(IC)的表面上的机器人蚀刻机周围。传感器定位在支撑机器人蚀刻机的相同表面上。传感器被配置为从机器人蚀刻机的环境捕获光,并且还被配置为旋转以确保从整个环境捕获光。耦合到所述传感器的分析模块被配置为基于从环境捕获的光来构建模型图像。模型图像包括IC、一个或多个光学部件以及被配置为与机器人蚀刻机一起执行蚀刻的一个或多个其它机器和/或外围设备。模型图像作为直方图保存在分析模块的数据库中以响应于检测到模型图像的变化而被参考。耦合到分析模块的用户界面向机器人蚀刻机的操作者提供模型图像的显示,并允许操作者在环境内定义第一边界和第二边界。第一边界是机器人绗缝机的10毫米(mm)以内的环境区域,第二边界是机器人蚀刻机的10mm至40mm的环境区域。
分析模块将模型图像内的像素分类为模型图像的前景和/或背景。分类为模型图像的前景的像素被分组在一起,并且指示与机器人蚀刻机的环境相关联的运动。例如,接近机器人蚀刻机以允许将一个或多个光学部件蚀刻到IC上的IC的运动,以及配置成与机器人蚀刻机结合执行蚀刻的一个或多个其它机器和/或外围设备的运动。该组的尺寸被分配阈值。分析模块响应于由于环境中的非预期运动而确定组的尺寸超过阈值来检测模型图像的变化,其中变化指示接近机器人蚀刻机的碎片,其中碎片是来自制造IC的之前制造过程的多余材料。
碎片被确定为位于第二边界内距机器人蚀刻机35mm处。分析模块被配置为指示机器人蚀刻机基于碎片在第二边界中的位置而以连续的方式降低操作速度。碎片继续接近机器人蚀刻机,并被确定为位于第一边界内距离机器人蚀刻机5mm处。分析模块被配置为指示机器人蚀刻机基于碎片在第一边界中的位置而停止运动。
一旦分析模块检测到碎片移动到第二边界内距机器人蚀刻机10mm的位置,则分析模块指示机器人蚀刻机重新启动机器人蚀刻机的运动。此外,一旦分析模块检测到碎片移动到第二边界之外远离机器人蚀刻机40mm的位置,则分析模块被配置为提高机器人蚀刻机的操作速度。分析模块通过将当前模型图像的直方图与其中不存在碎片的最后一个已知模型图像的直方图进行匹配来检测碎片从第一和/或第二边界的不存在。
存在可以影响本文所描述的过程和/或系统和/或其他技术(例如,硬件、软件和/或固件)的各种媒介物,并且优选的媒介物将随着过程和/或系统和/或其他技术所部署的上下文而变化。例如,如果实施者确定速度和准确性是至关重要的,则实施者可以选择主要是硬件和/或固件的媒介物;如果灵活性至关重要,实施者可以选择主要是软件的实施方式;或者,再次替代地,实施者可以选择硬件、软件和/或固件的某些组合。
虽然根据“包括”各种部件或步骤(被解释为意为“包括但不限于”)来描述各种组合物、方法、系统和设备,组合物、方法、系统和设备也可以“基本上由各种组成部分和步骤组成”或“由各种组成部分和步骤组成”,而这些术语应被解释为基本上是封闭成员组。
前面的详细说明已经通过框图、流程图和/或示例阐述了设备和/或过程的各个实施例。在这些框图、流程图和/或示例包含一项或多项功能和/或操作的程度上,可以通过各种各样的硬件、软件、固件或实际上其任意组合来单独地和/或统一地实现这些框图、流程图或示例内的各项功能和/或操作。在一个实施例中,本文所描述的主题的多个部分可经由专用集成电路(ASIC)、现场可编程门阵列(FPGA)、数字信号处理器(DSP)或其它集成格式来实现。然而,在本文公开的实施例的一些方面可以整体地或部分地等同地实现为集成电路、在一个或多个计算机上运行的一个或多个计算机程序(例如,实现为在一个或多个计算机系统上运行的一个或多个程序)、在一个或多个处理器上运行的一个或多个程序(例如,实现为在一个或多个微处理器上运行的一个或多个程序)、固件、或实际上其任意组合,并且根据本公开的内容设计电路和/或编写用于软件和/或固件的代码将是可能的。
本公开不受在本申请中所描述的特定实施例限制,这些特定实施例意在为各个方案的示例。能够进行各种改进和变型,而不偏离其精神和范围。根据前面的说明,除了本文列举的那些之外,在本公开范围内的功能上等同的方法和装置将是可能的。这些改进方案和变型例旨在落在随附权利要求书的范围内。本公开仅受随附权利要求书连同这些权利要求书所给予权利的等同方案的整个范围限制。将理解的是,本公开不限于特定的方法、系统或部件,当然这些可以变化。还应理解的是,本文所使用的术语仅是为了描述特定实施例的目的,而不意在限制。
另外,本文所描述的主题的机制能够以各种形式分布为程序产品,并且本文所描述的主题的示例性实施例适用,无论实际上用于实施分布的特定类型的信号承载介质如何。信号承载介质的示例包括但不限于以下:可记录型介质,诸如软盘、硬盘驱动器、压缩盘(CD)、数字通用盘(DVD)、数字带、计算机存储器等;以及传输型介质,诸如数字和/或模拟通信介质(例如,光纤电缆、波导、有线通信链路、无线通信链路等)。
本领域技术人员将认识到,在本领域中以本文所阐述的方式描述设备和/或过程是常见的,此后使用工程实践来将这样描述的设备和/或过程集成到数据处理系统中。也就是说,本文所描述的设备和/或过程的至少一部分可以经由合理的实验量集成到数据处理系统中。本领域技术人员将认识到,典型的数据处理系统通常包括系统单元外壳、视频显示设备、诸如易失性和非易失性存储器的存储器、诸如微处理器和数字信号处理器的处理器、诸如操作系统、驱动器、图形用户界面和应用程序的计算实体、诸如触摸板或屏幕的一个或多个交互设备和/或包括反馈回路的控制系统中的一个或多个。
本文所描述的主题有时说明了包含在不同的其它部件内的不同部件或与不同的其它部件连接的不同部件。应理解的是,这些所描绘的体系结构仅是示例性的,并且实际上可以实施实现相同功能的许多其它体系结构。在概念意义上,实现相同功能的任何部件的布置有效地“关联”,使得实现期望功能。因此,在此处组合以实现特定功能的任何两个部件可视为彼此“关联”,使得实现期望功能,无论体系结构或中间部件如何。同样,任意两个如此关联的部件还可视为彼此“可操作地连接”、或“可操作地耦合”以实现期望的功能,并且能够如此关联的任意两个部件还可视为彼此“能够可操作地耦合”以实现期望功能。能够可操作耦合的具体示例包括但不限于能够物理上可连接和/或物理上交互的部件和/或能够无线交互和/或无线交互的部件和/或逻辑上交互和/或能够逻辑上交互的部件。
关于本文中基本上任何复数和/或单数术语的使用,本领域技术人员能够根据上下文和/或应用适当地从复数变换成单数和/或从单数变换成复数。为了清晰的目的,本文中明确地阐明了各单数/复数的置换。
本领域技术人员将理解,一般地,本文所使用的术语,尤其是随附权利要求(例如,随附权利要求的主体)中所使用的术语,通常意在为“开放式”术语(例如,术语“包括”应当解释为“包括但不限于”,术语“具有”应解释为“至少具有”,术语“包括”应解释为“包括但不限于”,等等)。本领域技术人员还理解,如果意图表达引导性权利要求记述项的具体数量,该意图将明确地记述在权利要求中,并且在不存在这种记述的情况下,不存在这样的意图。例如,为辅助理解,下面的随附权利要求可能包含了引导性短语“至少一个”和“一个或多个”的使用以引导权利要求记述项。然而,这种短语的使用不应解释为暗示不定冠词“一”或“一个”引导权利要求记述项将包含该所引导的权利要求记述项的任何特定权利要求局限于仅包含一个该记述项的实施例,即使当同一权利要求包括了引导性短语“一个或多个”或“至少一个”以及诸如不定冠词“一”或“一个”的(例如,“一”和/或“一个”应当解释为表示“至少一个”或“一个或多个”);这同样适用于对于用于引导权利要求记述项的定冠词的使用。另外,即使明确地记述了被引导的权利要求记述项的具体数量,本领域技术人员将理解到这些记述项应当解释为至少表示所记述的数量(例如,没有其它修饰语的裸记述“两个记述项”表示至少两个记述项或两个以上的记述项)。
此外,在使用类似于“A、B和C等中的至少一个”的惯用法的那些实例中,通常这样的构造旨在表达本领域技术人员理解该惯用法的含义(例如,“具有A、B和C中的至少一个的系统”将包括但不限于仅具有A、仅具有B、仅具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B和C等等的系统)。本领域技术人员将进一步理解,呈现两个以上可选项的几乎任何分离词和/或短语,无论是在说明书、权利要求或附图中,都应理解为设想包括一项、任一项或两项的可能性。例如,术语“A或B”将理解为包括“A”或“B”或“A和B”的可能性。
本领域技术人员将理解的是,为了任何以及全部的目的,诸如在提供所撰写的说明书方面,本文所公开的全部范围也涵盖了任何和全部的可能的子范围及其子范围的组合。能够容易地认识到任何所列范围都充分地描述了同一范围并且使同一范围分解成至少均等的一半、三分之一、四分之一、五分之一、十分之一等等。作为非限制示例,本文所论述的每个范围能够容易地分解成下三分之一、中三分之一和上三分之一,等等。本领域技术人员还将理解的是,诸如“多达”、“至少”、“大于”、“小于”等所有的语言包括所记述的数量并且是指如上文所论述的随后能够分解成子范围的范围。最后,本领域技术人员将理解的是,范围包括每个独立的成员。因此,例如,具有1-3个单元的组是指具有1个、2个或3个单元的组。类似地,具有1-5个单元的组是指具有1个、2个、3个、4个、或5个单元的组,等等。
虽然本文公开了各个方案和实施例,但是其它的方案和实施例对于本领域技术人员而言将是显而易见的。因此,本文所公开的各个方案和实施例是为了示例的目的而不意在限制,真正的范围和精神是通过随附的权利要求表示的。

Claims (24)

1.一种实现用于机器人设备的基于传感器的安全特征的方法,所述方法包括:
基于由一个或多个传感器捕获的光产生所述机器人设备周围的环境的模型图像,其中所述模型图像的时间变化被存储为多个帧;
通过显示所述模型图像的用户界面,接收所述机器人设备周围的环境内的至少第一边界和第二边界的定义,其中所述第一边界和所述机器人设备之间的距离小于所述第二边界和所述机器人设备之间的距离;
基于所述多个帧中的一个或多个帧的比较来检测模型图像的变化;
基于检测到的变化来确定非预期对象是否正在接近所述机器人设备;
响应于确定所述非预期对象正在接近所述机器人设备,指示所述机器人设备基于所述非预期对象向所述机器人设备的接近度和接近速度中的一个或多个来调节所述机器人设备的操作速度;以及
指示所述机器人设备响应于检测到所述非预期对象正在离开所述机器人设备周围的环境内的所述第二边界而提高所述机器人设备的操作速度,
其中,检测到所述非预期对象正在离开所述第二边界包括:将所述多个帧存储为直方图,以及响应于确定当前帧的直方图与在所述第二边界内不存在所述非预期对象的最后一个已知帧的直方图相匹配而确定所述非预期对象的不存在。
2.根据权利要求1所述的方法,还包括:
基于所述多个帧中的一个或多个帧的比较来确定所述非预期对象向所述机器人设备的接近度和接近速度中的所述一个或多个。
3.根据权利要求1所述的方法,还包括:
将所述模型图像的像素分类为所述模型图像的前景和背景之一。
4.根据权利要求3所述的方法,还包括:
对分类为所述模型图像的前景的像素进行分组,其中分类为所述模型图像的前景的被分组的像素指示运动。
5.根据权利要求4所述的方法,还包括:
对所述被分组的像素的尺寸分配阈值。
6.根据权利要求5所述的方法,其中检测所述模型图像的变化包括:
确定所述被分组的像素的尺寸超过所述阈值。
7.根据权利要求1所述的方法,其中指示所述机器人设备调节所述机器人设备的操作速度包括:
指示所述机器人设备将所述机器人设备的操作速度降低到零。
8.根据权利要求1所述的方法,其中指示所述机器人设备调节所述机器人设备的操作速度包括:
指示所述机器人设备以使所述机器人设备停止。
9.根据权利要求1所述的方法,其中指示所述机器人设备包括:
指示所述机器人设备响应于在第一边界和所述机器人设备之间的位置处检测到所述非预期对象而停止运动。
10.根据权利要求1所述的方法,其中指示所述机器人设备调节所述机器人设备的操作速度包括:
指示所述机器人设备响应于在所述第二边界和所述第一边界之间的位置处检测到所述非预期对象而降低所述机器人设备的操作速度。
11.根据权利要求1所述的方法,还包括:
指示所述机器人设备响应于检测到所述非预期对象正在离开所述第一边界而重新启动运动。
12.一种被配置为实现用于机器人设备的基于传感器的安全特征的装置,所述装置包括:
一个或多个传感器,被配置为从所述机器人设备周围的环境捕获光;以及
至少一个分析模块,可通信地耦合到所述一个或多个传感器,其中所述至少一个分析模块被配置为:
基于由所述一个或多个传感器捕获的光产生所述机器人设备周围的环境的模型图像,其中所述模型图像的时间变化被存储为多个帧;
通过显示所述模型图像的用户界面,接收所述机器人设备周围的环境内的至少第一边界和第二边界的定义,其中所述第一边界和所述机器人设备之间的距离小于所述第二边界和所述机器人设备之间的距离;
基于所述多个帧中的一个或多个帧的比较来检测所述模型图像的变化;
基于检测到的变化来确定非预期对象是否正在接近所述机器人设备;
响应于确定所述非预期对象正在接近所述机器人设备,指示所述机器人设备基于所述非预期对象向所述机器人设备的接近度和接近速度中的一个或多个来调节所述机器人设备的操作速度;以及
指示所述机器人设备响应于检测到所述非预期对象正在离开所述机器人设备周围的环境内的所述第二边界而提高所述机器人设备的操作速度,
其中,检测到所述非预期对象正在离开所述第二边界包括:将所述多个帧存储为直方图,以及响应于确定当前帧的直方图与在所述第二边界内不存在所述非预期对象的最后一个已知帧的直方图相匹配而确定所述非预期对象的不存在。
13.根据权利要求12所述的装置,其中所述一个或多个传感器包括互补金属氧化物半导体图像传感器、电荷耦合器件图像传感器和N型金属氧化物半导体图像传感器中的至少一个。
14.根据权利要求12所述的装置,其中所述一个或多个传感器相对于所述机器人设备定位在一个或多个位置处,使得所述光从所述机器人设备周围的环境的至少一部分被捕获。
15.根据权利要求12所述的装置,其中所述一个或多个传感器与所述机器人设备集成。
16.根据权利要求12所述的装置,其中所述一个或多个传感器被定位或配置成旋转,使得所述光被从所述机器人设备周围的整个环境被捕获。
17.根据权利要求12所述的装置,其中所述至少一个分析模块被配置成使用一个或多个高斯分布来生成所述模型图像。
18.根据权利要求12所述的装置,其中:
所述用户界面耦合到所述至少一个分析模块,并且
所述用户界面被配置为将所述机器人设备周围的环境的模型图像显示给所述机器人设备的操作者。
19.根据权利要求18所述的装置,其中所述至少一个分析模块还被配置为从所述机器人设备的操作者接收在所述机器人设备周围的环境内的至少所述第一边界和所述第二边界的定义。
20.根据权利要求19所述的装置,其中所述至少一个分析模块还被配置为基于所述非预期对象在所述第一边界或所述第二边界内的位置来确定所述非预期对象向所述机器人设备的接近度。
21.一种实现用于机器人设备的基于传感器的安全特征的系统,所述系统包括:
至少一个成像模块,被配置为通过一个或多个传感器捕获所述机器人设备周围的环境的光;
至少一个建模模块,被配置为基于由所述至少一个成像模块捕获的光来生成所述机器人设备周围的环境的模型图像,其中所述模型图像的时间变化被存储为多个帧;
至少一个检测模块,被配置为基于所述多个帧中的一个或多个帧的比较来检测所述模型图像的变化,并且基于检测到的变化来确定非预期对象是否正在接近所述机器人设备;和
至少一个控制器,被配置为:
通过显示所述模型图像的用户界面,接收所述机器人设备周围的环境内的至少第一边界和第二边界的定义,其中所述第一边界和所述机器人设备之间的距离小于所述第二边界和所述机器人设备之间的距离;
响应于确定所述非预期对象正在接近所述机器人设备而指示所述机器人设备基于所述非预期对象向所述机器人设备的接近度和接近速度中的一个或多个来调节所述机器人设备的操作速度;以及
指示所述机器人设备响应于检测到所述非预期对象正在离开所述机器人设备周围的环境内的所述第二边界而提高所述机器人设备的操作速度,
其中,检测到所述非预期对象正在离开所述第二边界包括:
将所述多个帧存储为直方图,以及响应于确定当前帧的直方图与在所述第二边界内不存在所述非预期对象的最后一个已知帧的直方图相匹配而确定所述非预期对象的不存在。
22.根据权利要求21所述的系统,其中所述至少一个控制器还被配置为:
控制所述至少一个成像模块、所述至少一个建模模块和所述至少一个检测模块的操作方面。
23.根据权利要求21所述的系统,其中所述至少一个建模模块还被配置为:
将所述模型图像的像素分类为所述模型图像的前景和背景之一;
将分类为所述模型图像的前景的像素分组;以及
对被分组的像素的尺寸分配阈值。
24.根据权利要求23所述的系统,其中为了检测所述模型图像中的变化,所述至少一个检测模块被配置为:
确定所述被分组的像素的尺寸超过所述阈值。
CN201480082555.3A 2014-08-08 2014-08-08 用于机器人设备的基于传感器的安全特征 Active CN107003656B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010043682.XA CN111240269B (zh) 2014-08-08 2014-08-08 实现用于机器人单元的基于传感器的安全特征的方法和系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/US2014/050405 WO2016022155A1 (en) 2014-08-08 2014-08-08 Sensor-based safety features for robotic equipment

Related Child Applications (1)

Application Number Title Priority Date Filing Date
CN202010043682.XA Division CN111240269B (zh) 2014-08-08 2014-08-08 实现用于机器人单元的基于传感器的安全特征的方法和系统

Publications (2)

Publication Number Publication Date
CN107003656A CN107003656A (zh) 2017-08-01
CN107003656B true CN107003656B (zh) 2020-02-07

Family

ID=55264277

Family Applications (2)

Application Number Title Priority Date Filing Date
CN202010043682.XA Active CN111240269B (zh) 2014-08-08 2014-08-08 实现用于机器人单元的基于传感器的安全特征的方法和系统
CN201480082555.3A Active CN107003656B (zh) 2014-08-08 2014-08-08 用于机器人设备的基于传感器的安全特征

Family Applications Before (1)

Application Number Title Priority Date Filing Date
CN202010043682.XA Active CN111240269B (zh) 2014-08-08 2014-08-08 实现用于机器人单元的基于传感器的安全特征的方法和系统

Country Status (3)

Country Link
US (1) US9740193B2 (zh)
CN (2) CN111240269B (zh)
WO (1) WO2016022155A1 (zh)

Families Citing this family (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10274930B2 (en) * 2015-08-03 2019-04-30 Siemens Aktiengesellschaft Machine human interface—MHI
US10416614B2 (en) 2015-10-15 2019-09-17 Siemens Aktiengesellschaft Human programming interfaces for machine-human interfaces
DE102016203701A1 (de) * 2016-03-07 2017-09-07 Kuka Roboter Gmbh Industrieroboter mit mindestens zwei Bilderfassungseinrichtungen
US10016896B2 (en) * 2016-06-30 2018-07-10 Brain Corporation Systems and methods for robotic behavior around moving bodies
US11518051B2 (en) 2017-02-07 2022-12-06 Veo Robotics, Inc. Dynamic, interactive signaling of safety-related conditions in a monitored environment
EP4088891A1 (en) 2017-02-07 2022-11-16 Veo Robotics, Inc. Workspace safety monitoring and equipment control
US11541543B2 (en) 2017-02-07 2023-01-03 Veo Robotics, Inc. Dynamic, interactive signaling of safety-related conditions in a monitored environment
US11820025B2 (en) 2017-02-07 2023-11-21 Veo Robotics, Inc. Safe motion planning for machinery operation
EP3360652B1 (en) * 2017-02-14 2020-07-15 Sony Corporation Detection of engagement of robot with object
JP2018176397A (ja) * 2017-04-21 2018-11-15 オムロン株式会社 ロボットシステム
JP6953778B2 (ja) * 2017-04-28 2021-10-27 オムロン株式会社 協調ロボット、コントローラ、および方法
JP7329902B2 (ja) * 2017-08-25 2023-08-21 オムロン株式会社 ロボット制御装置、ロボットシステム、ロボット制御方法、および、ロボット制御プログラム
DE102018214439A1 (de) * 2017-11-17 2019-05-23 Volkswagen Aktiengesellschaft Verfahren und Vorrichtung zur Absicherung eines Arbeitsbereiches eines Roboters während einer Benutzungsphase
JP6680752B2 (ja) * 2017-11-28 2020-04-15 ファナック株式会社 ロボットの速度を制限する制御装置
CA3085768A1 (en) * 2017-12-21 2019-06-27 Magna International Inc. Safety control module for a robot assembly and method of same
JP6687654B2 (ja) * 2018-03-14 2020-04-28 ファナック株式会社 協働ロボットの制御装置及び制御方法
JP2019188556A (ja) * 2018-04-26 2019-10-31 オムロン株式会社 センサコントローラ、ロボットシステム、センサ制御方法、およびプログラム
EP3784449A1 (en) * 2018-05-30 2021-03-03 Sony Corporation Control apparatus, control method, robot apparatus and program
DE102018126216A1 (de) * 2018-09-28 2020-04-02 Still Gmbh Verfahren zur Absicherung eines Arbeitsbereichs eines mobilen Logistik-Roboters mittels adaptiver Schutzfelder
US11407110B2 (en) 2020-07-17 2022-08-09 Path Robotics, Inc. Real time feedback and dynamic adjustment for welding robots
JP2024508564A (ja) 2021-02-24 2024-02-27 パス ロボティクス, インコーポレイテッド 自律型溶接ロボット
US11897706B2 (en) 2021-03-30 2024-02-13 Dexterity, Inc. Robotic system with zone-based control
US20220315353A1 (en) * 2021-03-30 2022-10-06 Dexterity, Inc. Robotic line kitting system safety features
US20230333254A1 (en) * 2022-04-15 2023-10-19 Zebra Technologies Corporation Lidar Sensor System for Enabling or Disabling Use of a Robotic Arm
US20230330764A1 (en) * 2022-04-19 2023-10-19 Path Robotics, Inc. Autonomous assembly robots
GB2622565A (en) * 2022-07-15 2024-03-27 Taylor Hobson Ltd A collision protection apparatus

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4967370A (en) * 1988-10-21 1990-10-30 Robotic Vision Systems, Inc. Robot and sensor error determination system
DE10000287B4 (de) * 2000-01-07 2004-02-12 Leuze Lumiflex Gmbh + Co. Kg Vorrichtung und Verfahren zur Überwachung eines Erfassungsbereichs an einem Arbeitsmittel
WO2004025947A2 (en) * 2002-09-13 2004-03-25 Irobot Corporation A navigational control system for a robotic device
DE10360174B4 (de) * 2003-12-20 2007-03-08 Leuze Lumiflex Gmbh + Co. Kg Vorrichtung zur Überwachung eines Erfassungsbereichs an einem Arbeitsmittel
US8073528B2 (en) * 2007-09-30 2011-12-06 Intuitive Surgical Operations, Inc. Tool tracking systems, methods and computer products for image guided surgery
US8676379B2 (en) * 2006-07-04 2014-03-18 Panasonic Corporation Device and method for controlling robot arm, robot, and robot arm control program
DE102006048163B4 (de) 2006-07-31 2013-06-06 Pilz Gmbh & Co. Kg Kamerabasierte Überwachung bewegter Maschinen und/oder beweglicher Maschinenelemente zur Kollisionsverhinderung
DE102006057605A1 (de) * 2006-11-24 2008-06-05 Pilz Gmbh & Co. Kg Verfahren und Vorrichtung zum Überwachen eines dreidimensionalen Raumbereichs
DE102010002250B4 (de) * 2010-02-23 2022-01-20 pmdtechnologies ag Überwachungssystem
CN103268616B (zh) * 2013-04-18 2015-11-25 北京工业大学 多特征多传感器的移动机器人运动人体跟踪方法

Also Published As

Publication number Publication date
CN107003656A (zh) 2017-08-01
US9740193B2 (en) 2017-08-22
US20160224012A1 (en) 2016-08-04
CN111240269B (zh) 2023-12-08
CN111240269A (zh) 2020-06-05
WO2016022155A1 (en) 2016-02-11

Similar Documents

Publication Publication Date Title
CN107003656B (zh) 用于机器人设备的基于传感器的安全特征
US10195741B2 (en) Controlling a robot in the presence of a moving object
CN105744218A (zh) 垃圾清理方法及装置
US10307957B2 (en) Apparatus and method for additive manufacturing
CN107544514A (zh) 机器人障碍物避让方法、装置、存储介质及机器人
US9399290B2 (en) Enhancing sensor data by coordinating and/or correlating data attributes
CN107643755A (zh) 一种扫地机器人的高效控制方法
CN109129499B (zh) 控制擦窗机器人行走的方法、擦窗机器人及存储介质
EP3563270B1 (en) System and method for providing variation in bead size to improve geometrical accuracy of deposited layers in an additive manufacturing process
US9747696B2 (en) Systems and methods for providing normalized parameters of motions of objects in three-dimensional space
CN105407774A (zh) 自动清扫系统、清扫机器人和控制清扫机器人的方法
US20120086778A1 (en) Time of flight camera and motion tracking method
US9734401B2 (en) Detection and tracking of item features
US11631005B2 (en) Method and apparatus for detecting small objects with an enhanced deep neural network
IN2014CN02676A (zh)
CN103995934A (zh) 自动打磨的实现方法及装置
CN103870824A (zh) 一种在人脸检测跟踪过程中的人脸捕捉方法及装置
US20200401105A1 (en) Agent-based slicing
CN106204653A (zh) 一种监控跟踪方法及装置
JP2016119103A5 (zh)
CN102447882A (zh) 时间飞行摄影机装置及利用其进行影像监控的方法
CN107450557A (zh) 一种基于云端记忆的扫地机器人寻路方法
US10525599B1 (en) Automatic detection of screen area and camera assisted movement of robotic arm
CN102693412A (zh) 用于检测物件的影像处理方法及影像处理装置
CN106919088B (zh) 智能收纳装置及控制方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant