CN114663647A - 汽车流水线的发动机工序检测方法、系统、存储介质及计算机设备 - Google Patents
汽车流水线的发动机工序检测方法、系统、存储介质及计算机设备 Download PDFInfo
- Publication number
- CN114663647A CN114663647A CN202210183389.2A CN202210183389A CN114663647A CN 114663647 A CN114663647 A CN 114663647A CN 202210183389 A CN202210183389 A CN 202210183389A CN 114663647 A CN114663647 A CN 114663647A
- Authority
- CN
- China
- Prior art keywords
- target
- video frame
- detection
- frame image
- roi
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30241—Trajectory
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Computational Biology (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Quality & Reliability (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
- Automobile Manufacture Line, Endless Track Vehicle, Trailer (AREA)
Abstract
本发明提供了一种汽车流水线的发动机工序检测方法,通过获取指定监控范围内的视频帧图像;对视频帧图像中第一ROI区域进行目标检测,以确定是否存在电机目标;若存在电机目标,则对视频帧图像中第二ROI区域进行高压线状态分类识别,以判断电机目标上高压线的插接状态是否正确;检测跟踪所述视频帧图像上的人手目标和工具目标,获得对应的检测跟踪信息,并依据所述检测跟踪信息分析判断对应的操作行为是否正确;若通过各个操作行为和高压线的分析判断结果确定工序违规时,则生成警报信息。本发明还提供了一种基于终端标签划分终端管理的系统、存储介质及计算机设备。借此,本发明实现了对发动机工序的智能化检测,提高了检测效率,并降低了人工成本。
Description
技术领域
本发明涉及汽车发动机生产检测技术领域,尤其涉及一种汽车流水线的发动机工序检测方法、系统、存储介质及计算机设备。
背景技术
在车辆生产的流水线上,发动机在集成到车辆之前,需要对其进行复杂且有序的零部件组装和检查,以避免产生低质量的发动机组件。
在实际应用中,需要对电机工作工位操作工序和规范性进行检查,一般的检查顺序如下:1、取高压线;2、检查高压线(头部)是否有破损;3、检查高压线是否插反(白色在左红色在右);4、拧下黑色堵盖;5、紧固外侧螺丝;6、紧固内侧螺丝;7、自检画蓝线;8、上黑色堵盖;9、互检画黄色。
而目前的检查方案主要是需要对员工进行技术培训和考核,符合技术要求的员工才能在此工序进行安装和核查操作,但有时因人工失误等操作,而不可避免的会存在遗漏某个工序,从而影响发动机的质量。
综上可知,现有的方法在实际使用上,存在着较多的问题,所以有必要加以改进。
发明内容
针对上述的缺陷,本发明的目的在于提供一种汽车流水线的发动机工序检测方法,系统、存储介质及其计算机设备,实现了对发动机工序的智能化检测,提高了检测效率,并降低了人工成本。
为了实现上述目的,本发明提供一种汽车流水线的发动机工序检测方法,包括步骤:
获取指定监控范围内的视频帧图像;
对所述视频帧图像中第一ROI区域进行目标检测,以确定所述第一ROI区域是否存在电机目标;
若存在所述电机目标,则对所述视频帧图像中第二ROI区域进行高压线状态分类识别,以判断所述电机目标上高压线的插接状态是否正确;
检测跟踪所述视频帧图像上的人手目标和工具目标,获得对应的检测跟踪信息,并依据所述检测跟踪信息分析判断对应的操作行为是否正确;
若通过各个所述操作行为和所述高压线的分析判断结果确定工序违规时,则生成警报信息。
可选的,所述对所述视频帧图像中第一ROI区域进行目标检测,以确定所述第一ROI区域是否存在电机目标的步骤具体包括:
通过预设的电机检测算法,以检测识别所述视频帧图像中第一ROI区域中是否存在电机目标。
可选的,所述若存在所述电机目标,则对所述视频帧图像中第二ROI区域进行高压线状态分类识别,以判断所述电机目标上高压线的插接状态是否正确的步骤具体包括:
若存在所述电机目标,则从所述视频帧图像上裁剪出所述第一ROI区域对应的区域图像;
检测所述区域图像上是否存在高压线目标;
若存在所述高压线目标,则通过预设的高压线二分类算法,分类识别所述高压线目标的插接状态是否处于正确插接状态。
可选的,所述检测所述区域图像上是否存在高压线目标的步骤之后,还包括:
若存在所述高压线目标,则根据预设的破损分类算法检测所述高压线目标上是否存在破损部位。
可选的,所述检测跟踪所述视频帧图像上的人手目标和工具目标,获得对应的检测跟踪信息,并依据所述检测跟踪信息分析判断对应的操作行为是否正确的步骤具体包括:
检测所述视频帧图像上是否存在人手目标和工具目标;
若存在所述人手目标和所述工具目标,则根据所述人手目标和所述工具目标在连续多帧所述视频帧图像上的定位信息,获得对应的跟踪轨迹;
计算所述跟踪轨迹与预设行为库中的轨迹特征之间的匹配值,并判断所述匹配值是否超过预设阈值;
若所述匹配值超过所述预设阈值,则确定当前对应的操作行为合规。
可选的,所述若通过各个所述操作行为和所述高压线的分析判断结果确定工序违规时,则生成警报信息的步骤具体包括:
获取各个所述操作行为对应的第一分析判断结果和所述高压线的分类识别状态的第二分析判断结果,并分别确定对应的工步是否合规;
若确定不合规,则生成对应所述工步的警报信息。
可选的,所述获取指定监控范围内的视频帧图像的步骤具体包括:
通过摄像头实时获取指定监控范围的视频帧数据,并对所述摄像头进行ROI区域标定。
还提供了一种汽车流水线的发动机工序检测系统,包括有:
获取单元,用于获取指定监控范围内的视频帧图像;
电机检测单元,用于对所述视频帧图像中第一ROI区域进行目标检测,以确定所述第一ROI区域是否存在电机目标;
高压线状态分类单元,用于若存在所述电机目标,则对所述视频帧图像中第二ROI区域进行高压线状态分类识别,以判断所述电机目标上高压线的插接状态是否正确;
跟踪分析单元,用于检测跟踪所述视频帧图像上的人手目标和工具目标,获得对应的检测跟踪信息,并依据所述检测跟踪信息分析判断对应的操作行为是否正确;
警报单元,用于若通过各个所述操作行为和所述高压线的分析判断结果确定工序违规时,则生成警报信息。
另外,还提供了一种存储介质和计算机设备,所述存储介质用于存储一种用于执行上述汽车流水线的发动机工序检测方法的计算机程序。
所述计算机设备包括存储介质、处理器以及存储在所述存储介质上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现上述的汽车流水线的发动机工序检测方法。
本发明所述的汽车流水线的发动机工序检测方法及其系统,通过拍摄发动机检测工位区域,获得视频帧图像;再对视频帧图像中的第一ROI区域进行目标检测,以确定是否存在电机目标;若存在,则进一步对视频帧图像中的第二ROI区域进行高压线状态分类识别,以判断电机目标上高压线的插接状态是否正确;检测跟踪所述视频帧图像上的人手目标和工具目标,获得对应的检测跟踪信息,进而依据所述检测跟踪信息来分析判断对应的操作行为是否正确;若通过各个操作行为和高压线的分析判断结果,确定工序违规时,则生成警报信息。据此,本发明能够实现对发动机工序的智能化检测,从而大幅提升电机的检测效率和人工成本。
附图说明
图1为本发明一实施例提供的所述汽车流水线的发动机工序检测方法的步骤流程图;
图2为本发明一实施例提供的所述汽车流水线的发动机工序检测方法用于高压线状态分类可选的步骤流程图;
图3为本发明一实施例提供的所述汽车流水线的发动机工序检测方法用于人手与工具的跟踪分析可选的步骤流程图;
图4为本发明一实施例提供的所述汽车流水线的发动机工序检测系统的结构示意框图;
图5为本发明一实施例提供的所述汽车流水线的发动机工序检测系统的所述高压线状态分类单元可选的结构示意框图;
图6为本发明一实施例提供的所述汽车流水线的发动机工序检测系统的所述跟踪分析单元可选的结构示意框图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
需要说明的,本说明书中针对“一个实施例”、“实施例”、“示例实施例”等的引用,指的是描述的该实施例可包括特定的特征、结构或特性,但是不是每个实施例必须包含这些特定特征、结构或特性。此外,这样的表述并非指的是同一个实施例。进一步,在结合实施例描述特定的特征、结构或特性时,不管有没有明确的描述,已经表明将这样的特征、结构或特性结合到其它实施例中是在本领域技术人员的知识范围内的。
此外,在说明书及后续的权利要求当中使用了某些词汇来指称特定组件或部件,所属领域中具有通常知识者应可理解,制造商可以用不同的名词或术语来称呼同一个组件或部件。本说明书及后续的权利要求并不以名称的差异来作为区分组件或部件的方式,而是以组件或部件在功能上的差异来作为区分的准则。在通篇说明书及后续的权利要求书中所提及的“包括”和“包含”为一开放式的用语,故应解释成“包含但不限定于”。以外,“连接”一词在此系包含任何直接及间接的电性连接手段。间接的电性连接手段包括通过其它装置进行连接。
图1示出本发明一实施例提供的汽车流水线的发动机工序检测方法,所述发动机工序检测方法应用于新能源车的发动机的工序检测,本实施例的所述发动机工序检测方法包括步骤如下:
S101:获取指定监控范围内的视频帧图像。所述指定监控范围具体为发动机的检测工位区域;具体的,本实施例应用在新能源汽车的发动机工序检测上,在发动机的检测工位上方设置至少一摄像头来拍摄该区域的视频,并从拍摄的视频数据中逐帧抽取出视频帧图像,例如从视频流数据中以每秒的频率提取出一张视频帧图像。可选的,步骤S101具体包括:通过摄像头实时获取指定监控范围的视频帧数据,并对所述摄像头进行ROI区域标定。所述ROI区域标定是指在摄像头的固定监控画面中根据实际需要划定出至少一感兴趣区域;具体的,本实施例需要在监控画面中标定出第一ROI区域和第二ROI区域,其中第一ROI区域为电机目标的固定放置区域,第二ROI区域为第一ROI区域中电机目标上的高压线插接区域。
S102:对所述视频帧图像中第一ROI区域进行目标检测,以确定所述第一ROI区域是否存在电机目标。其中,第一ROI区域为预先在摄像头中标定的一目标区域。可选的,所述电机目标是指新能源汽车的发动机;若未能从第一ROI区域上检测到电机目标,则轮巡检测下一时间帧的视频帧图像,直至检测出电机目标出现。可选的,步骤S102具体包括:通过预设的电机检测算法,以检测识别视频帧图像中第一ROI区域中是否存在电机目标。在一具体应用中,可通过若干张电机训练数据以训练生成电机检测模型,再将视频帧图像输入至该电机检测模型,从而检测确定视频帧图像上的第一ROI区域上是否有电机目标。
S103:若存在所述电机目标,则对所述视频帧图像中第二ROI区域进行高压线状态分类识别,以判断所述电机目标上高压线的插接状态是否正确。在实际应用中,需要在发动机检测工序中,将高压线插接到电机目标上,由于该高压线为双电线结构,需要分别将两条电线分别插接到正确的位置上;而高压线上的双电线分别有相应的颜色标识;本实施例具体可通过检测识别出电机上的插接的高压线的电线颜色分布,从而分类识别出当前的插接状态是否正确;即高压线正接在发动机上的电线颜色分布与反接在发动机上的电线颜色分布截然相反,因此本实施例通过检测高压线上的电线颜色,并根据检测到的颜色分布即可确定当前高压线在发动机上的插接状态是否正确。可选的,在步骤S103之后,还包括:记录下高压线状态分类识别的结果信息,即记录下当前所述高压线的插接状态是否正确。
S104:检测跟踪所述视频帧图像上的人手目标和工具目标,获得对应的检测跟踪信息,并依据所述检测跟踪信息分析判断对应的操作行为是否正确。在发动机的检测工序中,往往需要由工人借助一定工具执行相应的检测程序;为此,本实施例通过该检测视频帧图像上的人手目标和工具目标,再跟踪定位视频帧图像上的人手目标和工具目标,进而通过人手目标和工具目标对应的检测跟踪信息分析当前正在执行的操作行为,再判断该操作行为是否符合预定要求,从而确定当前的操作行为是否正确。其中,本实施例所述工具目标包括有:用于内外侧螺丝的拧紧工具,用于画线校验的画笔工具以及制定区域的堵盖工具等。
S105:若通过各个操作行为和所述高压线的分析判断结果确定工序违规时,则生成警报信息。在实际应用中,发动机工序中包括有各种操作流程,不同的操作流程要求工人严格执行相应的操作行为;为此,本实施例通过上述分析结果判断该发动机工序中是否存在违规情况,所述违规情况包括操作流程顺序不正确,操作行为不正确或高压线插接错误等,若存在上述情况之一,则生成警报信息以提示工人或后台管理人员及时进行纠正。
可选的,步骤S105具体包括:获取各个所述操作行为对应的第一分析判断结果和所述高压线的分类识别状态的第二分析判断结果,并分别确定对应的工步是否合规;若确定不合规,则生成对应工步的警报信息。其中,工步是指发动机工序的组成单元,即发动机工序由至少一工步组成,不同的工步执行相应的操作行为;本实施例具体通过对各个操作行为对应的第一分析判断结果和高压线的分类识别状态的第二分析判断结果,来确定工序中的各个工步执行状况是否合规。
参见图2,一可选的实施方式中,步骤S103具体包括:
S1031:若存在电机目标,则从所述视频帧图像上裁剪出所述第一ROI区域对应的区域图像。
S1032:检测所述区域图像上是否存在高压线目标。具体的,本实施例采用预设的高压线目标检测算法,对所述区域图像进行目标检测;在实际应用中,可训练生成基于所述高压线目标检测算法的目标检测模型,并将从第一ROI区域上裁剪出来的所述区域图像输入到该目标检测模型中,以检测识别是否存在高压线目标。可选的,步骤S1032之后,还包括:若存在高压线目标,则根据预设的破损分类算法检测所述高压线目标上是否存在破损部位。即本实施例在检测到存在高压线时,再基于预设的破损分类算法检测其高压线是否存在破损部位,并进一步标记高压线是否破损。本实施例的破损分类算法具体是采用二分类的样本数据(高压线破损样本和高压线完整样本)训练出的分类模型,并将区域图像作为输入数据以输入到该分类模型中,获得该分类模型对应输出的分类结果;在该分类结果上若存在破损特征则进一步标记出破损区域。
S1033:若存在所述高压线目标,则通过预设的高压线二分类算法,分类识别所述高压线目标的插接状态是否处于正确插接状态。所述高压线二分类算法用于分类识别图像上的高压线处于正接状态还是反接状态,具体实施时,可采用高压线正接训练数据和高压线反接训练数据训练生成分类识别模型,并将所述区域图像输入到该分类识别模型中,以识别当前的高压线是处于正接状态还是反接状态。其中,正接状态的高压线是指高压线正确的插接状态。
参见图3,一可选的实施方式中,步骤S104具体包括:
S1041:检测所述视频帧图像上是否存在人手目标和工具目标。
S1042:若存在所述人手目标和所述工具目标,则根据所述人手目标和所述工具目标在连续多帧所述视频帧图像上的定位信息,获得对应的跟踪轨迹。具体的,获取摄像头拍摄的视频流数据,并从视频流数据中逐帧提取出若干视频帧图像,再通过预设的手部检测算法和工具检测算法,以检测识别图像中相应的ROI区域是否存在人手目标和工具目标,同时存储连续多张视频帧图像上具有人手目标和工具目标的定位信息,所述定位信息是指人手目标和工具目标在图像上的位置分布信息,进而通过多张连续的视频帧图像上的定位信息,以生成对应的跟踪轨迹(包括人手目标跟踪轨迹和工具目标跟踪轨迹)。
S1043:计算所述跟踪轨迹与预设行为库中的轨迹特征之间的匹配值,并判断所述匹配值是否超过预设阈值。
S1044:若所述匹配值超过所述预设阈值,则确定当前对应的操作行为合规。其中,预设行为库是根据工序检测的操作规范而创建生成的标准行为特征。本实施例通过判断上述分析得到的人手目标和工具目标对应的跟踪轨迹与预设行为库中的轨迹特征的匹配是否达到预设阈值,从而确定当前执行的操作行为是否正确。即所述匹配值超过该预设阈值,则确定当前的操作行为符合操作规范;反之,则确定当前的操作行为不符合操作规范。
在一具体示例中,在视频帧图像上标定出外侧螺丝ROI区域,再通过手部检测跟踪算法和外侧工具检测跟踪算法,判断当前的发动机工序是否进行了紧固外侧螺丝的行为,并标记和存储对应的行为状态;具体地,将从视频帧图像上捕获到的人手目标和外侧工具目标的跟踪轨迹与预设行为库中的轨迹特征(在该示例中,所述轨迹特征是指扇形操作特征)进行匹配判断,从而依据匹配值确定是否执行了紧固外侧螺丝的行为。
当检测到有紧固外侧螺丝行为时,进一步在视频帧图像上的内侧螺丝ROI区域上,通过手部检测跟踪算法和内侧工具检测跟踪算法,判断是否进行了紧固内侧螺丝行为(具体检测判断步骤如上所述),同时标记和存储对应的行为状态。
当检测到进行了紧固内侧螺丝行为时,在视频帧图像上标定的蓝线ROI区域,通过手部检测跟踪算法和画笔检测跟踪算法,判断是否在对应的蓝线ROI区域进行了画线自检,并标记和存储对应的行为状态;具体讲从视频帧图像上捕获到的人手目标和外侧工具目标的跟踪轨迹与预设行为库中的轨迹特征(在该示例中,所述轨迹特征是指圆形操作特征)进行匹配判断,从而依据匹配值确定是否执行了蓝线区域的自检行为。
当检测到蓝线区域的自检行为时,在视频帧图像上标定的堵盖ROI区域,通过手部检测跟踪算法和堵盖工具检测跟踪算法,判断是否在堵盖ROI区域进行了堵盖固定操作,并标记和存储对应的行为状态。
当检测存在堵盖固定操作时,在视频帧图像上的黄线ROI区域,通过手部检测跟踪算法和画笔检测跟踪算法,判断是否在黄线ROI区域进行了画线自检,并标记和存储对应的行为状态。
进而依据上述各个检测步骤标记和存储对应的行为状态进行分析判断,以确定各个检测步骤的检测顺序和操作行为结果是否正确。
图4示出本发明一实施例提供的汽车流水线的发动机工序检测系统100,其包括有获取单元10、电机检测单元20、高压线状态分类单元30、跟踪分析单元40以及警报单元50,其中:
获取单元10用于获取指定监控范围内的视频帧图像;电机检测单元20用于对所述视频帧图像中第一ROI区域进行目标检测,以确定第一ROI区域是否存在电机目标;高压线状态分类单元30用于若存在电机目标,则对所述视频帧图像中第二ROI区域进行高压线状态分类识别,以判断所述电机目标上高压线的插接状态是否正确;跟踪分析单元40用于检测跟踪所述视频帧图像上的人手目标和工具目标,获得对应的检测跟踪信息,并依据所述检测跟踪信息分析判断对应的操作行为是否正确;警报单元50用于若通过各个操作行为和所述高压线的分析判断结果确定工序违规时,则生成警报信息。
可选的,所述电机检测单元20具体用于:通过预设的电机检测算法,以检测识别所述视频帧图像中第一ROI区域中是否存在电机目标。
参见图5,一可选的实施方式中,高压线状态分类单元30具体包括图像裁剪子单元31、目标检测子单元32以及分类子单元33,其中:
图像裁剪子单元31用于若存在电机目标,则从所述视频帧图像上裁剪出所述第一ROI区域对应的区域图像;目标检测子单元32用于检测所述区域图像上是否存在高压线目标;分类子单元33用于若存在高压线目标,则通过预设的高压线二分类算法,分类识别所述高压线目标的插接状态是否处于正确插接状态。
一实施例中,还包括有破损检测单元,其用于若存在高压线目标,则根据预设的破损分类算法检测所述高压线目标上是否存在破损部位。
参见图6,一可选的实施方式中,所述跟踪分析单元40具体包括检测子单元41、跟踪子单元42、计算与判断子单元43以及确定子单元44,其中:
检测子单元41用于检测所述视频帧图像上是否存在人手目标和工具目标;跟踪子单元42用于若存在所述人手目标和工具目标,则根据所述人手目标和工具目标在连续多帧所述视频帧图像上的定位信息,获得对应的跟踪轨迹;计算与判断子单元43用于计算所述跟踪轨迹与预设行为库中的轨迹特征之间的匹配值,并判断所述匹配值是否超过预设阈值;确定子单元44用于若所述匹配值超过预设阈值,则确定当前对应的操作行为合规。
一实施例中,警报单元50具体包括工步合规确定子单元和警报生成子单元,其中:
工步合规确定子单元用于获取各个操作行为对应的第一分析判断结果和高压线的分类识别状态的第二分析判断结果,并分别确定对应的工步是否合规;警报生成子单元用于若确定不合规,则生成对应工步的警报信息。
可选的,所述获取单元10具体用于:通过摄像头实时获取指定监控范围的视频帧数据,并对摄像头进行ROI区域标定。
本发明还提供一种存储介质,用于存储如图1~图3所述汽车流水线的发动机工序检测方法的计算机程序。例如计算机程序指令,当其被计算机执行时,通过该计算机的操作,可以调用或提供根据本申请的方法和/或技术方案。而调用本申请的方法的程序指令,可能被存储在固定的或可移动的存储介质中,和/或通过广播或其他信号承载媒体中的数据流而被传输和/或被存储在根据程序指令运行的计算机设备的存储介质中。在此,根据本申请的一个实施例包括如图4所示汽车流水线的发动机工序检测系统的计算机设备,所述计算机设备优选包括用于存储计算机程序的存储介质和用于执行计算机程序的处理器,其中,当该计算机程序被该处理器执行时,触发该计算机设备执行基于前述多个实施例中的方法和/或技术方案。
需要注意的是,本申请可在软件和/或软件与硬件的组合体中被实施,例如,可采用专用集成电路(ASIC)、通用目的计算机或任何其他类似硬件设备来实现。在一个实施例中,本申请的软件程序可以通过处理器执行以实现上文步骤或功能。同样地,本申请的软件程序(包括相关的数据结构)可以被存储到计算机可读记录介质中,例如,RAM存储器,磁或光驱动器或软磁盘及类似设备。另外,本申请的一些步骤或功能可采用硬件来实现,例如,作为与处理器配合从而执行各个步骤或功能的电路。
根据本发明的方法可以作为计算机实现方法在计算机上实现、或者在专用硬件中实现、或以两者的组合的方式实现。用于根据本发明的方法的可执行代码或其部分可以存储在计算机程序产品上。计算机程序产品的示例包括存储器设备、光学存储设备、集成电路、服务器、在线软件等。优选地,计算机程序产品包括存储在计算机可读介质上以便当所述程序产品在计算机上执行时执行根据本发明的方法的非临时程序代码部件。
在优选实施例中,计算机程序包括适合于当计算机程序在计算机上运行时执行根据本发明的方法的所有步骤的计算机程序代码部件。优选地,在计算机可读介质上体现计算机程序。
综上所述,本发明所述的汽车流水线的发动机工序检测方法及其系统,通过拍摄发动机检测工位区域,获得视频帧图像;再对视频帧图像中的第一ROI区域进行目标检测,以确定是否存在电机目标;若存在,则进一步对视频帧图像中的第二ROI区域进行高压线状态分类识别,以判断电机目标上高压线的插接状态是否正确;检测跟踪所述视频帧图像上的人手目标和工具目标,获得对应的检测跟踪信息,进而依据所述检测跟踪信息来分析判断对应的操作行为是否正确;若通过各个操作行为和高压线的分析判断结果,确定工序违规时,则生成警报信息。据此,本发明能够实现对发动机工序的智能化检测,从而大幅提升电机的检测效率和人工成本。
当然,本发明还可有其它多种实施例,在不背离本发明精神及其实质的情况下,熟悉本领域的技术人员当可根据本发明作出各种相应的改变和变形,但这些相应的改变和变形都应属于本发明所附的权利要求的保护范围。
Claims (10)
1.一种汽车流水线的发动机工序检测方法,其特征在于,包括步骤:
获取指定监控范围内的视频帧图像;
对所述视频帧图像中第一ROI区域进行目标检测,以确定所述第一ROI区域是否存在电机目标;
若存在所述电机目标,则对所述视频帧图像中第二ROI区域进行高压线状态分类识别,以判断所述电机目标上高压线的插接状态是否正确;
检测跟踪所述视频帧图像上的人手目标和工具目标,获得对应的检测跟踪信息,并依据所述检测跟踪信息分析判断对应的操作行为是否正确;
若通过各个所述操作行为和所述高压线的分析判断结果确定工序违规时,则生成警报信息。
2.根据权利要求1所述的汽车流水线的发动机工序检测方法,其特征在于,所述对所述视频帧图像中第一ROI区域进行目标检测,以确定所述第一ROI区域是否存在电机目标的步骤具体包括:
通过预设的电机检测算法,以检测识别所述视频帧图像中第一ROI区域中是否存在电机目标。
3.根据权利要求1所述的汽车流水线的发动机工序检测方法,其特征在于,所述若存在所述电机目标,则对所述视频帧图像中第二ROI区域进行高压线状态分类识别,以判断所述电机目标上高压线的插接状态是否正确的步骤具体包括:
若存在所述电机目标,则从所述视频帧图像上裁剪出所述第一ROI区域对应的区域图像;
检测所述区域图像上是否存在高压线目标;
若存在所述高压线目标,则通过预设的高压线二分类算法,分类识别所述高压线目标的插接状态是否处于正确插接状态。
4.根据权利要求3所述的汽车流水线的发动机工序检测方法,其特征在于,所述检测所述区域图像上是否存在高压线目标的步骤之后,还包括:
若存在所述高压线目标,则根据预设的破损分类算法检测所述高压线目标上是否存在破损部位。
5.根据权利要求1所述的汽车流水线的发动机工序检测方法,其特征在于,所述检测跟踪所述视频帧图像上的人手目标和工具目标,获得对应的检测跟踪信息,并依据所述检测跟踪信息分析判断对应的操作行为是否正确的步骤具体包括:
检测所述视频帧图像上是否存在人手目标和工具目标;
若存在所述人手目标和所述工具目标,则根据所述人手目标和所述工具目标在连续多帧所述视频帧图像上的定位信息,获得对应的跟踪轨迹;
计算所述跟踪轨迹与预设行为库中的轨迹特征之间的匹配值,并判断所述匹配值是否超过预设阈值;
若所述匹配值超过所述预设阈值,则确定当前对应的操作行为合规。
6.根据权利要求1所述的汽车流水线的发动机工序检测方法,其特征在于,所述若通过各个所述操作行为和所述高压线的分析判断结果确定工序违规时,则生成警报信息的步骤具体包括:
获取各个所述操作行为对应的第一分析判断结果和所述高压线的分类识别状态的第二分析判断结果,并分别确定对应的工步是否合规;
若确定不合规,则生成对应所述工步的警报信息。
7.根据权利要求1所述的汽车流水线的发动机工序检测方法,其特征在于,所述获取指定监控范围内的视频帧图像的步骤具体包括:
通过摄像头实时获取指定监控范围的视频帧数据,并对所述摄像头进行ROI区域标定。
8.一种汽车流水线的发动机工序检测系统,其特征在于,包括:
获取单元,用于获取指定监控范围内的视频帧图像;
电机检测单元,用于对所述视频帧图像中第一ROI区域进行目标检测,以确定所述第一ROI区域是否存在电机目标;
高压线状态分类单元,用于若存在所述电机目标,则对所述视频帧图像中第二ROI区域进行高压线状态分类识别,以判断所述电机目标上高压线的插接状态是否正确;
跟踪分析单元,用于检测跟踪所述视频帧图像上的人手目标和工具目标,获得对应的检测跟踪信息,并依据所述检测跟踪信息分析判断对应的操作行为是否正确;
警报单元,用于若通过各个所述操作行为和所述高压线的分析判断结果确定工序违规时,则生成警报信息。
9.一种存储介质,其特征在于,用于存储一种用于执行权利要求1~7中任意一种所述汽车流水线的发动机工序检测方法的计算机程序。
10.一种计算机设备,包括存储介质、处理器以及存储在所述存储介质上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1~7任一项所述汽车流水线的发动机工序检测方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210183389.2A CN114663647A (zh) | 2022-02-25 | 2022-02-25 | 汽车流水线的发动机工序检测方法、系统、存储介质及计算机设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210183389.2A CN114663647A (zh) | 2022-02-25 | 2022-02-25 | 汽车流水线的发动机工序检测方法、系统、存储介质及计算机设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114663647A true CN114663647A (zh) | 2022-06-24 |
Family
ID=82026726
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210183389.2A Pending CN114663647A (zh) | 2022-02-25 | 2022-02-25 | 汽车流水线的发动机工序检测方法、系统、存储介质及计算机设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114663647A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115661726A (zh) * | 2022-12-26 | 2023-01-31 | 江苏中车数字科技有限公司 | 一种轨道列车工件装配的自主视频采集与分析方法 |
CN117115783A (zh) * | 2023-09-06 | 2023-11-24 | 江苏泰坦智慧科技有限公司 | 基于机器视觉的流水线工作行为识别方法 |
-
2022
- 2022-02-25 CN CN202210183389.2A patent/CN114663647A/zh active Pending
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115661726A (zh) * | 2022-12-26 | 2023-01-31 | 江苏中车数字科技有限公司 | 一种轨道列车工件装配的自主视频采集与分析方法 |
CN117115783A (zh) * | 2023-09-06 | 2023-11-24 | 江苏泰坦智慧科技有限公司 | 基于机器视觉的流水线工作行为识别方法 |
CN117115783B (zh) * | 2023-09-06 | 2024-03-26 | 江苏泰坦智慧科技有限公司 | 基于机器视觉的流水线工作行为识别方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114663647A (zh) | 汽车流水线的发动机工序检测方法、系统、存储介质及计算机设备 | |
CN106372662B (zh) | 安全帽佩戴的检测方法和装置、摄像头、服务器 | |
US8902053B2 (en) | Method and system for lane departure warning | |
US8532414B2 (en) | Region-of-interest video quality enhancement for object recognition | |
CN113361354B (zh) | 轨道部件巡检方法、装置、计算机设备和存储介质 | |
EP3518146A1 (en) | Image processing apparatus and image processing method | |
CN109559519A (zh) | 监控设备及其违章停车检测方法、装置、可读存储介质 | |
CN112016409A (zh) | 一种基于深度学习的工步规范视觉识别判定方法及系统 | |
CN112149761A (zh) | 一种基于YOLOv4改进算法的电力智慧工地违规行为检测方法 | |
KR101840944B1 (ko) | 영상 분석 기반의 불량 판별 장치 및 방법 | |
Martin et al. | Object of fixation estimation by joint analysis of gaze and object dynamics | |
CN113639685A (zh) | 位移检测方法、装置、设备和存储介质 | |
CN112104838B (zh) | 图像分辨方法及其监控摄像机与监控摄像系统 | |
CN112215222A (zh) | 车牌识别方法、装置、设备及存储介质 | |
US10241000B2 (en) | Method for checking the position of characteristic points in light distributions | |
JP2013182395A (ja) | 対象物検査装置、対象物検査方法及び対象物検査プログラム | |
CN114973135A (zh) | 一种基于头肩的时序视频睡岗识别方法、系统及电子设备 | |
CN114092965A (zh) | 安全帽检测与颜色识别方法、系统、存储介质及计算机设备 | |
CN111553408B (zh) | 视频识别软件自动测试的方法 | |
CN114529497A (zh) | 老化的屏幕的检测方法、系统、存储介质以及计算机设备 | |
CN115512283A (zh) | 包裹图像处理方法、装置、计算机设备和存储介质 | |
CN111222428B (zh) | 一种基于监控视频的器件紧固操作的检测方法 | |
CN114495008A (zh) | 汽车流水线车窗关闭性的检测方法、系统、存储介质及计算机设备 | |
TWI739203B (zh) | 一種評估影像有效分析區域之方法與系統 | |
EP3819817A1 (en) | A method and system of evaluating the valid analysis region of a specific scene |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication |