CN111860217A - 故障检测的方法、装置、电子设备及存储介质 - Google Patents
故障检测的方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN111860217A CN111860217A CN202010614534.9A CN202010614534A CN111860217A CN 111860217 A CN111860217 A CN 111860217A CN 202010614534 A CN202010614534 A CN 202010614534A CN 111860217 A CN111860217 A CN 111860217A
- Authority
- CN
- China
- Prior art keywords
- component
- target image
- information
- fault
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 35
- 238000003860 storage Methods 0.000 title claims abstract description 20
- 238000000034 method Methods 0.000 claims abstract description 57
- 238000004590 computer program Methods 0.000 claims description 19
- 238000002372 labelling Methods 0.000 claims description 9
- 238000004891 communication Methods 0.000 description 17
- 230000008569 process Effects 0.000 description 11
- 230000006870 function Effects 0.000 description 9
- 238000010586 diagram Methods 0.000 description 7
- 238000012423 maintenance Methods 0.000 description 4
- 238000004519 manufacturing process Methods 0.000 description 4
- 230000004044 response Effects 0.000 description 4
- 230000002159 abnormal effect Effects 0.000 description 3
- 230000008859 change Effects 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000011161 development Methods 0.000 description 3
- 239000003990 capacitor Substances 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000002950 deficient Effects 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000008030 elimination Effects 0.000 description 1
- 238000003379 elimination reaction Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/20—Scenes; Scene-specific elements in augmented reality scenes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
- G06V10/751—Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- Databases & Information Systems (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明提出一种故障检测的方法、装置、电子设备及存储介质,属于机电设备技术领域。所述方法包括:获取机电设备的故障部件的部件信息;获取所述机电设备的目标图像;所述目标图像为拍摄获得的包含所述故障部件的图像;根据所述部件信息在所述目标图像上标注所述故障部件;显示经过标注的所述目标图像。应理解,通过机电设备的故障部件的部件信息对机电设备的目标图像上对故障部件标注和显示,可以直观的向专业人员展示故障部件的位置,方便了非专业人员定位故障部件和排除故障。
Description
技术领域
本发明属于机电设备技术领域,尤其涉及一种故障检测的方法、装置、电子设备及存储介质。
背景技术
随着科技的发展,越来越多的机电设备应用于各行各业,甚至是家庭环境。这些机电设备包括但不限于机器人、自动化生产设备、通讯设备、打印机、家用电器、汽车电子产品以及健身运动机械等。
以机器人为例,在机器人的使用过程中难免出现故障。一般需要专业的技术维修人员到现场进行维修。而且在技术维修人员完成对机器人的维修之前,机器人都无法正常工作,影响机器人的作业效率。
当前的技术发展趋势是通过部件的标准化和模块化,以提高部件互换的能力,有助于降低整个行业的成本。当机器人在出现异常的时候,可以通过更换同一规格的部件就能完成机器人的重新启动。为了使非专业人员可以完成对模块化部件的更换,需要一种方便的故障检测方法。
发明内容
本发明实施例提供了故障检测的方法、装置、电子设备,可以解决以上问题的至少一部分。
第一方面,本发明实施例提供了一种故障检测的方法,包括:
获取机电设备的故障部件的部件信息;
获取所述机电设备的目标图像;所述目标图像为拍摄获得的包含所述故障部件的图像;
根据所述部件信息在所述目标图像上标注所述故障部件;
显示经过标注的所述目标图像。
可选的,所述获取所述机电设备的目标图像,包括:
根据所述部件信息,获取所述故障部件所在区域的参考图像;
获取所述机电设备的多个备选图像;
将与所述参考图像匹配度最高的备选图像作为所述目标图像。
可选的,所述获取所述机电设备的目标图像,包括:
根据所述部件信息,获取所述故障部件所在区域的参考图像;
获取拍摄的备选图像,若所述备选图像与所述参考图像的匹配度大于预设阈值,则将所述备选图像作为所述目标图像;
若所述备选图像与所述参考图像的匹配度小于或等于所述预设阈值,则发出重新选择拍摄角度的提示,并获取在更新的角度拍摄的备选图像;直到所述备选图像与所述参考图像的匹配度大于预设阈值。
可选的,所述机电设备设置有多个摄像装置;
相应的,获取所述机电设备的目标图像,包括:
根据所述部件信息在多个摄像装置中确定目标摄像装置;
通过所述目标摄像装置获取所述目标图像,并提示用户目标摄像装置的位置。
可选的,所述部件信息包括所述故障部件的位置信息;
相应的,所述根据所述部件信息在所述目标图像上标注所述故障部件,包括:
根据所述位置信息在所述目标图像上标注所述故障部件。
可选的,所述位置信息包括所述故障部件与特征结构的相对位置信息;
相应的,所述根据所述位置信息在所述目标图像上标注所述故障部件包括:
识别所述目标图像中的所述特征结构,根据所述特征结构在所述目标图像中的位置确定所述目标图像的基础坐标;
根据所述基础坐标和所述相对位置信息确定所述故障部件在所述目标图像中的第一位置;
根据所述第一位置在所述目标图像中标注所述故障部件。
可选的,所述部件信息还包括所述故障部件的特征信息;
相应的,在所述根据所述基础坐标和所述相对位置信息确定所述故障部件在所述目标图像中的第一位置后,还包括:
根据所述第一位置和所述特征信息对所述目标图像进行识别,确定所述故障部件在所述目标图像中的第二位置;
根据所述第二位置信息调整所述第一位置。
可选的,所述机电设备为机器人;
所述根据所述部件信息在所述目标图像上标注所述故障部件,包括:
根据所述部件信息在所述目标图像上标注所述故障部件的轮廓。
第二方面,本发明实施例提供了一种故障检测的装置,包括:
部件信息获取模块,用于获取机电设备的故障部件的部件信息;
目标图像获取模块,用于获取所述机电设备的目标图像;所述目标图像为拍摄获得的包含所述故障部件的图像;
目标图像标注模块,用于根据所述部件信息在所述目标图像上标注所述故障部件;
目标图像显示模块,用于显示经过标注的所述目标图像。
第三方面,本发明实施例提供了一种电子设备,包括:
存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述计算机程序被所述处理器执行时实现上述第一方面所述的方法步骤。
第四方面,本发明实施例提供了一种计算机可读存储介质,包括:所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述第一方面所述的方法步骤。
第五方面,本发明实施例提供了一种计算机程序产品,当计算机程序产品在电子设备上运行时,使得电子设备执行上述第一方面所述的方法步骤。
上述第一方面提供的故障检测的方法,通过机电设备的故障部件的部件信息对机电设备的目标图像上对故障部件标注和显示,可以直观的向专业人员展示故障部件的位置,方便了非专业人员定位故障部件和排除故障。
可以理解的是,上述第二方面至第五方面的有益效果可以参见上述第一方面中的相关描述,在此不再赘述。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本发明一实施例提供的故障检测的方法的流程示意图;
图2是本发明另一实施例提供的故障检测的方法的流程示意图;
图3是本发明另一实施例提供的故障检测的方法的流程示意图;
图4是本发明另一实施例提供的故障检测的方法的流程示意图;
图5是本发明实施例提供的故障检测的装置的结构示意图;
图6是本发明实施例提供的电子设备的结构示意图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、技术之类的具体细节,以便透彻理解本发明实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本发明。在其它情况中,省略对众所周知的系统、装置、电路以及方法的详细说明,以免不必要的细节妨碍本发明的描述。
应当理解,当在本发明说明书和所附权利要求书中使用时,术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解,在本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
如在本发明说明书和所附权利要求书中所使用的那样,术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地,短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
另外,在本发明说明书和所附权利要求书的描述中,术语“第一”、“第二”、“第三”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
在本发明说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本发明的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此,在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例,而是意味着“一个或多个但不是所有的实施例”,除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”,除非是以其他方式另外特别强调。
在说明本发明实施例提供的故障检测方法之前,为方便对本发明实施例的理解,下面对本发明实施例提供的故障检测方法的原理以及发明构思进行说明。
随着科技的发展,越来越多的机电设备应用于各行各业,甚至是家庭环境。这些机电设备包括但不限于机器人、自动化生产设备、通讯设备、打印机、家用电器、汽车电子产品以及健身运动机械等。
以机器人为例,越来越多的行业开始应用机器人完成本行业的部分工作。机器人在使用过程中难免出现故障。一般需要专业的技术维修人员到现场进行维修。而且在技术维修人员完成对机器人的维修之前,机器人都无法正常工作,影响机器人的作业效率。
但是随着机器人的应用越来越广泛,大部分场景下是需要使用机器人的非专业人员人员来完成对机器人故障部件的替换。由于非专业人员的技术素养过低,导致无法及时的定位故障部件,进而不能及时完成对故障部件的更换。因此需要一种故障检测的方法,能够在检测到故障部件的同时给非专业人员提供更换部件的指引。
随着机器人技术的发展,以下三方面的因素可以加以利用,进而实现本发明实施例提供的故障检测方法,以解决以上问题的至少一部分。
一方面,当前的技术发展趋势是通过部件的标准化和模块化,提高部件互换的能力。部件的标准化和模块化也有助于降低整个行业的成本。另外,标准化和模块化的部件也便于及时的更换。当机器人在出现异常的时候,可以通过更换同一规格的部件就能完成机器人的重新启动。
通常标准化和模块化的部件通过可以插拔的接口或插孔与机器人的其他部件连接,标准化和模块化的部件包括但不限于电阻、电容、电感、芯片,以及实现某一功能的功能模块,例如红外测距模块、音频传感模块等。
标准化和模块化以标准接口、插座和插孔等方式和其他模块连接。例如红外距离检测部件通过可插拔接口与机器人的主控制器主板连接。又例如熔断器通过可以插拔的插座与机器人的电源控制板连接。再例如,可替换的阻容原件通过插孔和主控制器主板连接。
第二方面,通过对机器人的部件的通电情况以及传输数据的分析结果,可以判断该部件的工作情况,进而可以判断该部件是否发生故障。基本原理包括:当元件损坏,其通电的电流值、电压值、电流值和电压值的变化情况会和正常工作状态不一样,通过采集各个部件的以上参数并和设定的检测阈值进行比较,可以实现对部件故障情况的判断。另外,一些元件,例如传感器,会向机器人的控制芯片反馈数据。当传感器异常,则其反馈的数据的内容、频率等参数会发生变化。通过检测这些传感器反馈数据变化,也可以实现对部件故障情况的判断。若检测到某个部件发生故障,则可以通过查询数据库等方式确定该部件的相关信息,例如,位置、种类、型号、外观等信息。
第三方面,在机器人的可靠性设计中,通常会对一些重要部件,例如数据存储单元进行冗余设计,从而达到该部件出现故障,机器人也实现继续完成全部或部分功能的目标。而对一些次要部件而言,例如距离传感器,这些部件通常出现故障时,机器人仍能够实现部分功能,例如对自身各个部件的检测和通信等功能。
基于以上三方面的因素,本发明实施例提供了一种故障检测的方法,通过获取机器人的故障部件的部件信息;获取机器人的目标图像;目标图像为拍摄获得的包含故障部件的图像;根据部件信息在目标图像上标注故障部件;显示经过标注的目标图像。实现检测部件故障的同时,提供了方便定位故障的指引。机器人发生故障时,基于以上第三方面因素,通常机器人还能实现部分功能,因此可以通过机器人对其各个部件进行检测。基于以上第二方面的因素,机器人可以通过对部件接口的检测获得故障部件的部件信息,例如故障部件的位置信息、故障部件的特征信息、故障部件的外观信息、故障部件的型号信息、故障部件与其他部件的连接方式信息、故障部件的作业提示信息。在此基础上,获取包含故障部件的目标图像,并通过上述部件信息对图像中的故障部件进行标注,可以直观的向专业人员展示故障部件的位置。基于以上第一的因素,非专业人员可以根据标注故障部件图像定位故障部件。通过拔除故障部件,插入替换部件的方式排除故障。
需要指出的是,为了方便对本发明的理解,以上对发明构思的介绍是以机器人为例的。应理解,本发明的各个实施例提供的故障检测的方法的对象或执行主体,适用于各种满足以上三个因素的机电设备。所述机电设备包括但不限于产业类机电设备、信息类机电设备、民生类机电设备等,例如,机器人、自动化生产设备、通讯设备、打印机、家用电器、汽车电子产品以及健身运动机械等。
基于以上发明构思,本发明实施例提供的一种故障检测的方法。图1示出的是本发明实施例提供的故障检测的方法的流程示意图。该方法可以应用于机电设备或终端设备,由机电设备或终端设备的软件和/或硬件实现,如图1所示,该方法包括步骤S110至S140。各个步骤的具体实现原理如下:
S110,获取机电设备的故障部件的部件信息。
在一些实施例中,所述机电设备可以是机器人。在另一些实施例中,所述机电设备可以是包括但不限于产业类机电设备、信息类机电设备、民生类机电设备等机电设备,例如,自动化生产设备、通讯设备、打印机、家用电器、汽车电子产品以及健身运动机械等。
其中,部件信息包括但不限于故障部件的位置信息、故障部件的特征信息、故障部件的外观信息、故障部件的型号信息、故障部件与其他部件的连接方式信息、故障部件的作业提示信息。
在本发明的实施例中,机电设备通过以上发明构思的论述中的第二方面因素检测到故障部件。
在本申请实施的一种实施方式中,机电设备检测到故障部件后,根据检测到的故障部件的类型、编号等,通过查询数据表或数据库的方式获得该故障部件的部件信息。
在本申请实施的另一种实施方式中,终端设备在接收得到,机电设备检测到故障部件的通知后,该终端设备通过无线或有线的方式从机电设备获取机电设备检测到的包括但不限于机电设备类型、故障部件类型、故障部件编号等部件基本信息。非限定性的,终端设备可以从自身的存储介质或远程存储设置查询与该部件基本信息对应的部件信息。终端设备也可以向机电设备查询与该部件基本信息对应的部件信息。
本发明实施例提供的故障检测的方法可以应用于手机、平板电脑、可穿戴设备、车载设备、增强现实(augmented reality,AR)/虚拟现实(virtual reality,VR)设备、笔记本电脑、超级移动个人计算机(ultra-mobile personal computer,UMPC)、上网本、个人数字助理(personal digital assistant,PDA)等终端设备,本发明实施例对终端设备的具体类型不作任何限制。
S120,获取机电设备的目标图像;目标图像为拍摄获得的包含故障部件的图像。
在本发明的实施例中,机电设备或终端设备通过摄像装置获取机电设备的目标图像。为了使目标图像为拍摄获得的包含故障部件的图像。本发明实施例提供了以下三种实施方式。
在第一种实施方式中,终端设备通过内置或外置的摄像装置获取机电设备的目标图像,可以通过以下方式实现:根据部件信息,获取故障部件所在区域的参考图像;获取机电设备的多个备选图像;将与参考图像匹配度最高的备选图像作为目标图像。其中,部件所在区域可以为机电设备的部分结构区域,也可以为故障部件所在的电路板。其中,参考图像可以为故障部件的轮廓图、结构图、特征图等可以用来与目标图像进行匹配的图像。其中,匹配方法可以为任意基于图像识别的特征匹配方法。非限定性的,根据部件信息,获取故障部件所在区域的参考图像,可以为根据部件信息的类型和型号信息从预存的图库中获取该部件所在区域的参考图像。
在第二种实施方式中,终端设备通过内置或外置的摄像装置获取机电设备的目标图像,可以通过以下方式实现:根据部件信息,获取故障部件所在区域的参考图像;获取拍摄的备选图像,若备选图像与参考图像的匹配度大于预设阈值,则将备选图像作为目标图像;若备选图像与参考图像的匹配度小于或等于预设阈值,则发出重新选择拍摄角度的提示,并获取在更新的角度拍摄的备选图像;直到备选图像与参考图像的匹配度大于预设阈值。在一个非限定性的具体示例中,用户采用终端设备拍了了一个备选图像,终端设备通过匹配参考与该备选图像,获得该备选图像的匹配度低于预设的阈值,例如匹配度为40%,低于阈值80%。终端设备发出提示信息,提示用户换一个角度进行拍摄。用户换一个拍摄角度进行拍摄后,重复上述匹配的过程,直到获得与参考图像匹配的目标图像。
需要说明的是,参考图像可以存储在终端设备、机电设备、远程服务器等设备的存储介质,需要使用参考图像的设备可以通过与存储参考图像的设备通信获取参考图像。
在第三种实施方式中,机电设备设置有多个摄像装置,获取机电设备的目标图像,可以通过以下方式实现:机电设备根据部件信息在多个摄像装置中确定目标摄像装置;通过目标摄像装置获取目标图像,并提示用户目标摄像装置的位置。非限定性的,机电设备可以通过用户的终端设备提示用于拍摄机电设备故障部件所在区域的目标图像,并通过有线或无线的通信方式获取该终端设备拍摄的目标图像。其中,提示用户目标摄像装置的位置可以为通过显示装置显示目标摄像装置的位置。也可以为,通过驱动该目标摄像装置的指示灯提示用户目标摄像装置的位置。非限定性的,机电设备根据部件信息,根于预设的部件信息和摄像装置的对应关系,在多个摄像装置中确定目标摄像装置。
S130,根据部件信息在目标图像上标注故障部件。
其中,部件信息包括但不限于故障部件的位置信息、故障部件的特征信息、故障部件的外观信息、故障部件的型号信息、故障部件与其他部件的连接方式信息、故障部件的作业提示信息。
其中,标注包括但不限于矩形框标注、提示文字标注、轮廓标注、位置提示标注。矩形框标注为通过一个可以包括故障部件的矩形框标识故障部件在目标图像的位置。提示文字标注为通过文字信息提示故障部件在目标图像的位置。位置提示标注为通过箭头或图钉等图像提示故障部件在目标图像的位置。
在本发明的实施例的一种实施方式中,部件信息包括故障部件的位置信息。机电设备或终端设备根据部件信息在目标图像上标注故障部件,可以为,根据位置信息在目标图像上标注故障部件。
在本发明的实施例的另一种实施方式中,部件信息包括故障部件的外观信息。机电设备或终端设备根据部件信息在目标图像上标注故障部件,可以为,机电设备或终端设备对目标图像进行识别和搜索,获取与故障部件的外观信息匹配的位置,并对目标图像的该位置进行标注。
在本发明的实施例的另一种实施方式中,部件信息包括故障部件的型号信息。机电设备或终端设备根据部件信息在目标图像上标注故障部件,可以为,机电设备或终端设备根据该型号信息查询数据库获取该故障部件的特征信息,机电设备或终端设备对目标图像进行识别和搜索,获取与故障部件特征信息匹配的位置,并对目标图像的该位置进行标注。
需要说明的是,本发明实施例的各个实施方式中对图像识别或搜索的方法可以为通过任意识别或搜索的模型对目标图像进行识别和搜索。
在本实施例的一种实施方式中,根据部件信息在目标图像上标注故障部件,包括:根据部件信息在目标图像上标注故障部件的轮廓。可以理解的是,通过对目标图像上的故障部件的轮廓进行标注,非专业人员可以方便的获知故障部件的形状,避免了误操作的发生。
S140,显示经过标注的目标图像。
在本发明的实施例中,可以通过两种方式实现显示经过标注的目标图像。
在第一种实施方式中,机电设备自身具备显示装置,可以通过机电设备的显示装置显示经过标注的目标图像。非限定性的,机电设备也可以通过有线或无线的方式调用终端设备的显示装置或其他显示设备来显示经过标注的目标图像。
在第二种实施方式中,可以通过终端设备的显示装置显示经过标注的目标图像。
可以理解的是,通过机电设备的故障部件的部件信息对机电设备的目标图像上对故障部件标注和显示,可以直观的向专业人员展示故障部件的位置,方便了非专业人员定位故障部件和排除故障。
在图1示出的本发明实施例的基础上,图2示出了本发明实施例提供的另一种故障检测的方法的实施例方式,如图2所示,在此实施方式中,部件信息包括故障部件的位置信息。图1所示的故障检测的方法的步骤S130可以替换为步骤S130’。图2所示实施例与图1所示实施例包括的相同步骤此处不再详述,请参见图1所示实施例的相应描述。
S130’,根据位置信息在目标图像上标注故障部件。
其中,该位置信息可以为故障部件的在机电设备的绝对位置信息、故障部件相对于机电设备的其他部件的相对位置信息。
在本实施方式的一个非限定性的示例中,位置信息包括故障部件与特征结构的相对位置信息。非限定性的,位置信息是故障部件的接口与特征结构的相对位置信息。那么,如图3所示,步骤S130’,根据位置信息在目标图像上标注故障部件包括步骤S131、S132和S135。
S131,识别目标图像中的特征结构,根据特征结构在目标图像中的位置确定目标图像的基础坐标。
其中,特征结构可以为故障部件所在的装置,例如主控制器电路板的边缘。特征结构还可以为预先设置的用于标定位置的结构。
机电设备或终端设备根据特征结构在目标图像中的位置确定目标图像的基础坐标,可以为将该特征结构所在位置或该特征结构的几何中心所在位置作为基础坐标。
S132,根据基础坐标和相对位置信息确定故障部件在目标图像中的第一位置。
其中,相对位置信息可以为故障部件与基础坐标的距离和夹角构成的位置信息。机电设备或终端设备故障部件与基础坐标的距离和夹角构成的位置信息确定故障部件在目标图像中的第一位置。
S135,根据第一位置在目标图像中标注故障部件。
在本实施方式的另一个非限定性的示例中,部件信息还包括故障部件的特征信息。在图3所示的实施方式基础上,如图4所示,在根据基础坐标和相对位置信息确定故障部件在目标图像中的第一位置后,还包括步骤S133和S134。
S133,根据第一位置和特征信息对目标图像进行识别,确定故障部件在目标图像中的第二位置。
其中,特征信息可以是通过任意特征提取模型提取的图像特征。可以将各个部件的特征预先提取出来保存在机电设备或者其他存储介质中。该特征信息与部件的类型、型号等信息匹配。当需要获取故障部件的特征信息时,可以通过检测到的故障部件的类型、型号等信息从存储介质中获取故障部件的图像特征。可选的,特征信息也可为部件的几何特征。
S134,根据第二位置信息调整第一位置。
在本发明的实施例中,在一些实施例方式中需要对故障部件的轮廓或者几何中心进行标注,在这些实施方式中,位置信息是故障部件的接口与特征结构的相对位置信息,通过上述的部件信息的位置信息等方式可能会得不到准确度的部件几何中心或轮廓信息。可以在通过位置信息等方式获取故障部件的大概位置后,通过识别故障部件获得故障部件在目标图像中的准确位置,即第二位置信息。根据第二位置信息调整第一位置可以为采用第二位置信息更新第一位置信息。
应理解,上述实施例中各种实施方式可以合逻辑的组合。上述实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本发明实施例的实施过程构成任何限定。
对应于上述图1所示的故障检测的方法,图5示出的是本发明实施例提供的一种故障检测的装置M100,包括:
部件信息获取模块M110,用于获取机电设备的故障部件的部件信息。
目标图像获取模块M120,用于获取机电设备的目标图像;目标图像为拍摄获得的包含故障部件的图像。
目标图像标注模块M130,用于根据部件信息在目标图像上标注故障部件。
目标图像显示模块M140,用于显示经过标注的目标图像。
需要说明的是,为描述的方便和简洁,上述故障检测的装置M100的具体工作过程,可以参考图1至图4所述方法的对应过程,在此不再赘述。
可以理解的是,以上实施例中的各种实施方式和实施方式组合及其有益效果同样适用于本实施例,这里不再赘述。
图6为本发明一实施例提供的电子设备的结构示意图。该电子设备用于实现上述的机电设备或终端设备。在一些实施例中,该机电设备可以为机器人。如图6所示,该实施例的电子设备D10包括:至少一个处理器D100(图6中仅示出一个)处理器、存储器D101以及存储在存储器D101中并可在至少一个处理器D100上运行的计算机程序D102,处理器D100执行计算机程序D102时实现上述任意各个方法实施例中的步骤。或者,处理器D100执行计算机程序D102时实现上述各装置实施例中各模块/单元的功能。在一些实施例中,电子设备D10还包括摄像装置D103、显示装置D104、通信装置D105。存储器D101、摄像装置D103、显示装置D104、通信装置D105通过总线D110与处理器D100之间传送信息。
电子设备D10可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。电子设备D10也可是机电设备。在一些实施例中,该机电设备可以为机器人。该电子设备可包括,但不仅限于,处理器D100、存储器D101。本领域技术人员可以理解,图6仅仅是电子设备D10的举例,并不构成对电子设备D10的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如还可以包括输入输出设备、网络接入设备等。
所称处理器D100可以是中央处理单元(Central Processing Unit,CPU),该处理器D100还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
存储器D101在一些实施例中可以是电子设备D10的内部存储单元,例如电子设备D10的硬盘或内存。存储器D101在另一些实施例中也可以是电子设备D10的外部存储设备,例如电子设备D10上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。进一步地,存储器D101还可以既包括电子设备D10的内部存储单元也包括外部存储设备。存储器D101用于存储操作系统、应用程序、引导装载程序(BootLoader)、数据以及其他程序等,例如计算机程序的程序代码等。存储器D101还可以用于暂时地存储已经输出或者将要输出的数据。
摄像装置D103可以内置于电子设备D10的摄像头,也可为外置于电子设备D10的摄像头。
显示装置D104可用于显示由用户输入的信息或提供给用户的信息各种图像、选择菜单以及提示信息。显示装置D104可包括显示面板,可选的,可以采用液晶显示器(LiquidCrystal Display,LCD)、有机发光二极管(Organic Light-Emitting Diode,OLED)等形式来配置显示面板。触控面板可覆盖显示面板,当触控面板检测到在其上或附近的触摸操作后,传送给处理器D100以确定触摸事件的类型,随后处理器D100根据触摸事件的类型在显示面板上提供相应的视觉输出。
通信装置D105包括但不限于实现蜂窝移动通信、WiFi通信、蓝牙通信等无线通信的通信模块,也可以为实现有线通信的通信模块。
需要说明的是,上述装置/单元之间的信息交互、执行过程等内容,由于与本发明方法实施例基于同一构思,其具体功能及带来的技术效果,具体可参见方法实施例部分,此处不再赘述。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本发明的保护范围。上述系统中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
本发明实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现可实现上述各个方法实施例中的步骤。
本发明实施例提供了一种计算机程序产品,当计算机程序产品在电子设备上运行时,使得电子设备执行时实现可实现上述各个方法实施例中的步骤。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实现上述实施例方法中的全部或部分流程,可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质至少可以包括:能够将计算机程序代码携带到拍照装置/终端设备的任何实体或装置、记录介质、计算机存储器、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random AccessMemory,RAM)、电载波信号、电信信号以及软件分发介质。例如U盘、移动硬盘、磁碟或者光盘等。在某些司法管辖区,根据立法和专利实践,计算机可读介质不可以是电载波信号和电信信号。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
在本发明所提供的实施例中,应该理解到,所揭露的装置/网络设备和方法,可以通过其它的方式实现。例如,以上所描述的装置/网络设备实施例仅仅是示意性的,例如,所述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
以上所述实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围,均应包含在本发明的保护范围之内。
Claims (11)
1.一种故障检测的方法,其特征在于,包括:
获取机电设备的故障部件的部件信息;
获取所述机电设备的目标图像;所述目标图像为拍摄获得的包含所述故障部件的图像;
根据所述部件信息在所述目标图像上标注所述故障部件;
显示经过标注的所述目标图像。
2.如权利要求1所述的方法,其特征在于,所述获取所述机电设备的目标图像,包括:
根据所述部件信息,获取所述故障部件所在区域的参考图像;
获取所述机电设备的多个备选图像;
将与所述参考图像匹配度最高的备选图像作为所述目标图像。
3.如权利要求1所述的方法,其特征在于,所述获取所述机电设备的目标图像,包括:
根据所述部件信息,获取所述故障部件所在区域的参考图像;
获取拍摄的备选图像,若所述备选图像与所述参考图像的匹配度大于预设阈值,则将所述备选图像作为所述目标图像;
若所述备选图像与所述参考图像的匹配度小于或等于所述预设阈值,则发出重新选择拍摄角度的提示,并获取在更新的角度拍摄的备选图像;直到所述备选图像与所述参考图像的匹配度大于预设阈值。
4.如权利要求1所述的方法,其特征在于,所述机电设备设置有多个摄像装置;
相应的,获取所述机电设备的目标图像,包括:
根据所述部件信息在多个摄像装置中确定目标摄像装置;
通过所述目标摄像装置获取所述目标图像,并提示用户目标摄像装置的位置。
5.如权利要求1所述的方法,其特征在于,所述部件信息包括所述故障部件的位置信息;
相应的,所述根据所述部件信息在所述目标图像上标注所述故障部件,包括:
根据所述位置信息在所述目标图像上标注所述故障部件。
6.如权利要求5所述的方法,其特征在于,所述位置信息包括所述故障部件与特征结构的相对位置信息;
相应的,所述根据所述位置信息在所述目标图像上标注所述故障部件包括:
识别所述目标图像中的所述特征结构,根据所述特征结构在所述目标图像中的位置确定所述目标图像的基础坐标;
根据所述基础坐标和所述相对位置信息确定所述故障部件在所述目标图像中的第一位置;
根据所述第一位置在所述目标图像中标注所述故障部件。
7.如权利要求6所述的方法,其特征在于,所述部件信息还包括所述故障部件的特征信息;
相应的,在所述根据所述基础坐标和所述相对位置信息确定所述故障部件在所述目标图像中的第一位置后,还包括:
根据所述第一位置和所述特征信息对所述目标图像进行识别,确定所述故障部件在所述目标图像中的第二位置;
根据所述第二位置信息调整所述第一位置。
8.如权利要求1至7任一项所述的方法,其特征在于,所述机电设备为机器人;
所述根据所述部件信息在所述目标图像上标注所述故障部件,包括:
根据所述部件信息在所述目标图像上标注所述故障部件的轮廓。
9.一种故障检测的装置,其特征在于,包括:
部件信息获取模块,用于获取机电设备的故障部件的部件信息;
目标图像获取模块,用于获取所述机电设备的目标图像;所述目标图像为拍摄获得的包含所述故障部件的图像;
目标图像标注模块,用于根据所述部件信息在所述目标图像上标注所述故障部件;
目标图像显示模块,用于显示经过标注的所述目标图像。
10.一种电子设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至8任一项所述的方法。
11.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至8任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010614534.9A CN111860217A (zh) | 2020-06-30 | 2020-06-30 | 故障检测的方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010614534.9A CN111860217A (zh) | 2020-06-30 | 2020-06-30 | 故障检测的方法、装置、电子设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111860217A true CN111860217A (zh) | 2020-10-30 |
Family
ID=72989383
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010614534.9A Pending CN111860217A (zh) | 2020-06-30 | 2020-06-30 | 故障检测的方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111860217A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112380968A (zh) * | 2020-11-12 | 2021-02-19 | 北京市商汤科技开发有限公司 | 检测方法、装置、电子设备及存储介质 |
CN112686852A (zh) * | 2020-12-25 | 2021-04-20 | 浙江伟星实业发展股份有限公司 | 一种产品缺陷识别方法、装置、设备及存储介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130050478A1 (en) * | 2011-08-29 | 2013-02-28 | Venu Madhav Tadepalli | Systems and Methods For Locating Faults In A Power System |
JP2015036066A (ja) * | 2013-08-13 | 2015-02-23 | オリンパス株式会社 | 観察装置及びそれに用いる照明装置の故障検出方法 |
CN105565103A (zh) * | 2016-03-16 | 2016-05-11 | 广州日滨科技发展有限公司 | 电梯故障检测方法及装置 |
CN108761237A (zh) * | 2018-05-29 | 2018-11-06 | 福州大学 | 无人机电力巡检图像关键电力部件自动诊断与标注系统 |
CN110309033A (zh) * | 2019-07-15 | 2019-10-08 | 中国工商银行股份有限公司 | 故障监控方法、装置和系统 |
-
2020
- 2020-06-30 CN CN202010614534.9A patent/CN111860217A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130050478A1 (en) * | 2011-08-29 | 2013-02-28 | Venu Madhav Tadepalli | Systems and Methods For Locating Faults In A Power System |
JP2015036066A (ja) * | 2013-08-13 | 2015-02-23 | オリンパス株式会社 | 観察装置及びそれに用いる照明装置の故障検出方法 |
CN105565103A (zh) * | 2016-03-16 | 2016-05-11 | 广州日滨科技发展有限公司 | 电梯故障检测方法及装置 |
CN108761237A (zh) * | 2018-05-29 | 2018-11-06 | 福州大学 | 无人机电力巡检图像关键电力部件自动诊断与标注系统 |
CN110309033A (zh) * | 2019-07-15 | 2019-10-08 | 中国工商银行股份有限公司 | 故障监控方法、装置和系统 |
Non-Patent Citations (1)
Title |
---|
张秋雁;张俊玮;丁超;钱威;黎世华;: "AR技术在用电信息采集系统运维中的应用", 自动化与仪表, no. 04, 25 April 2020 (2020-04-25) * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112380968A (zh) * | 2020-11-12 | 2021-02-19 | 北京市商汤科技开发有限公司 | 检测方法、装置、电子设备及存储介质 |
CN112686852A (zh) * | 2020-12-25 | 2021-04-20 | 浙江伟星实业发展股份有限公司 | 一种产品缺陷识别方法、装置、设备及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US6195618B1 (en) | Component position verification using a probe apparatus | |
CN111860217A (zh) | 故障检测的方法、装置、电子设备及存储介质 | |
CN105210160A (zh) | 线束生产支撑台 | |
CN104023906A (zh) | 操作管理装置及操作管理系统 | |
JP2005327231A (ja) | 製造履歴管理システム | |
GB2567968A (en) | Wafer test system | |
CN110609912B (zh) | 元器件信息记录方法、装置、设备及可读存储介质 | |
JP2011159699A (ja) | 異常検出装置を備えた部品実装装置 | |
CN102799853A (zh) | 电路板的测试点图形化辨识系统及方法 | |
JP4566999B2 (ja) | 機器の構成認識システム、構成認識方法及び構成認識プログラム | |
US20100175965A1 (en) | Pallet monitoring system and monitoring method | |
CN116593894A (zh) | 一种自动化测试方法、系统及自动化测试柜 | |
CN110046009B (zh) | 录制方法、装置、服务器及可读存储介质 | |
US20160011578A1 (en) | Engineering tool | |
JP5891191B2 (ja) | 稼動実績取得システム及び稼動実績取得方法 | |
US11398435B2 (en) | Substrate, alignment method and alignment device | |
JP2008254157A (ja) | 連結部材装着評価装置、方法、プログラムおよび記憶媒体 | |
CN115829929A (zh) | 产品表面图像的缺陷检测方法、装置、设备及存储介质 | |
WO2020174626A1 (ja) | 製造管理方法 | |
US10929970B2 (en) | Component mounting system and trace data acquisition method | |
CN111766409B (zh) | 板件构件的即时定位装置与方法 | |
CN112068756A (zh) | 一种舵机调试方法、装置、设备及存储介质 | |
CN108694105B (zh) | 机架式服务器系统的接线提示方法 | |
CN108697025B (zh) | 机架式服务器系统的组装提示方法 | |
CN110596156B (zh) | 一种废旧电器的质检方法、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |