CN111582135B - 基于工作阶段识别的挖掘机手操作熟练度评价方法及装置 - Google Patents
基于工作阶段识别的挖掘机手操作熟练度评价方法及装置 Download PDFInfo
- Publication number
- CN111582135B CN111582135B CN202010363188.1A CN202010363188A CN111582135B CN 111582135 B CN111582135 B CN 111582135B CN 202010363188 A CN202010363188 A CN 202010363188A CN 111582135 B CN111582135 B CN 111582135B
- Authority
- CN
- China
- Prior art keywords
- excavator
- bucket
- stage
- working
- picture
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/46—Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
- G06V10/462—Salient features, e.g. scale invariant feature transforms [SIFT]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/30—Computing systems specially adapted for manufacturing
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- General Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Biophysics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Health & Medical Sciences (AREA)
- Electrically Operated Instructional Devices (AREA)
- Component Parts Of Construction Machinery (AREA)
Abstract
本发明提供了一种基于工作阶段识别的挖掘机手操作熟练度评价方法,包括:采集工作过程中挖掘机铲斗视频;根据挖掘机铲斗视频,截取挖掘机铲斗图片;提取铲斗的特征点并进行特征点匹配;根据挖掘机铲斗特征点坐标,判断挖掘机当前图片所处的工作阶段;识别各阶段起始及结束标志,对各工作阶段计时;根据挖掘机工作阶段识别结果,截取对应工作阶段的铲斗图片,评定铲斗满载率;根据各工作阶段计时及铲斗满载率,对挖掘机手的熟练度进行综合评价。本发明通过外接的图像采集单元采集挖掘机铲斗作业信息,依靠计算机深度学习模型中的图像识别和分类技术进行挖掘机的工作阶段识别和铲斗满载率评估,从而对挖掘机手操作的熟练度进行评价。
Description
技术领域
本发明涉及挖掘机技术领域,特别涉及一种基于工作阶段识别的挖掘机手操作熟练度评价方法及装置。
背景技术
挖掘机作为一种典型的工程机械,凭借其功率大、施工效率高等优势在国民经济建设的许多行业被广泛应用。挖掘机手操作熟练度直接决定挖机作业安全性、工作效率、挖机能耗、挖机损耗等一系列问题,因此对挖掘机手操作熟练度评估至关重要。挖掘机手熟练度评定主要考虑挖掘效率、挖机损耗两方面的因素,挖掘效率可由挖掘速度及单次挖掘量衡量,挖掘速度与挖机损耗又相互制约。因此,可用挖掘机各工作阶段时间与标准时间的接近程度来反映这两个因素的影响,即挖掘机手操作熟练度的评定须考虑各工作阶段的时间以及单次挖掘量。
识别挖掘机所处的工作阶段是工作循环各阶段计时的基础。目前主要有三类方法:一是采集主泵压力信号,以主泵压力作为识别依据;二是通过角接触器采集各关节角度信息,通过各臂之间角度关系识别挖机阶段;三是以回转作为分隔,推测出挖掘机工作阶段。由于主泵压力波动大、识别度低,安装角接触器易受环境影响、可靠性低,以回转作为依据易受机手误操作影响,以上方法用于识别挖掘机工作阶段并不理想。通过铲斗的位置及姿态变化可以推测出挖掘机所处的工作阶段,通过视频录像的方法可以完全避免环境因素的影响,因此通过采集挖掘机工作过程中铲斗动作视频可以作为挖掘机工作阶段识别的依据。
目前,挖掘机单次挖掘量的测量方法单一,主要以测量渣土重量为主,如卡特320电子称重。挖掘机挖掘效果的判断是以铲斗渣土容量为依据的,由于不同地质条件,渣土密度不同,因此渣土质量不能有效、准确的反映铲斗中渣土容量。而通过采集铲斗渣土容量图片,与标准数据库中照片相匹配,可以有效反映铲斗渣土容量。
发明内容
本发明的目的是为了克服现有技术的不足,提供一种挖掘机手操作熟练度评价方案,通过采集挖掘机工作过程中铲斗动作视频识别挖掘机的工作阶段,并通过采集铲斗渣土容量图片,与标准数据库中的图片相匹配来反映铲斗渣土容量,完成挖掘机手熟练度的评价。
为了达到上述目的,本发明提供了一种基于工作阶段识别的挖掘机手操作熟练度评价方法,包括如下步骤:
步骤一、采集工作过程中挖掘机铲斗视频;
步骤二、根据挖掘机铲斗视频,截取挖掘机铲斗图片;
步骤三、提取铲斗的特征点并进行特征点匹配;
步骤四、根据挖掘机铲斗特征点坐标,判断挖掘机当前图片所处的工作阶段;
步骤五、识别各阶段起始及结束标志,对各工作阶段计时;
步骤六、根据挖掘机工作阶段识别结果,截取对应工作阶段的铲斗图片,评定铲斗满载率;
步骤七:根据各工作阶段计时及铲斗满载率,对挖掘机手的熟练度进行综合评价。
其中,步骤三包括:
使用深度学习模型对图片中的铲斗进行识别并框选;使用SIFT算法提取铲斗的特征点并进行特征点匹配;输出当前图片特征点坐标(xi,yi)以及下一张图片与之匹配的特征点的位置坐标(x′i,y′i);将下一张图片作为当前图片,继续后续特征点提取;
(xi,yi)表示当前图片第i个特征点坐标,(x′i,y′i)表示下一张图片中与(xi,yi)对应的特征点坐标。
其中,步骤四包括:
根据当前图片以及上一张图片输出的特征点坐标,计算当前图片各特征点的速度(ui,vi),以此判断挖掘机当前时刻所处的工作阶段,各特征点的速度(ui,vi):
(ui,vi)表示特征点(x′i,y′i)在(x,y)方向的速度,T为截取图片的间隔时间。
其中,所述工作阶段包括挖掘阶段、提升回转阶段、卸荷阶段和空斗返回阶段。
其中,判断挖掘机当前时刻所处的工作阶段采用IF-THEN的形式判别,IF部分为使用该条件的前提,THEN部分为满足前提后的工作阶段判别结果;根据特征点速度的计算结果,与条件IF一一匹配,如满足IF条件,则执行THEN部分;如果不满足IF部分,则维持原输出,具体如下:
条件一:IF存在|ui-uj|>δ0,AND所有ui>0,THEN当前输出为挖掘阶段;
条件二:IF存在|ui-uj|>δ0,AND所有ui<0,THEN当前输出为卸荷阶段;
条件三:IF所有|ui-uj|<δ0,AND上一个输出为挖掘阶段,THEN当前输出为提升回转阶段;
条件四:IF存在|ui-uj|<δ0,AND上一个输出为卸荷阶段,THEN当前输出为空斗返回阶段;
条件五:IF存在|ui-uj|<δ0,AND上一个输出为提升回转阶段,THEN当前输出为提升回转阶段;
条件六:IF存在|ui-uj|<δ0,AND上一个输出为空斗返回阶段,THEN当前输出为空斗返回阶段;
δ0为铲斗平移时特征点x方向速度差的阈值,|ui-uj|为任意两特征点x方向的速度差。
其中,步骤五中各工作阶段开始及结束标志根据工作阶段判别结果进行识别确认,如果当前图片判别结果与上一张图片判别结果相同,则不输出标志,如果当前图片与上一张图片判别结果不同,则输出上一张图片所处工作阶段的结束标志及当前图片所处工作阶段的开始标志,对上一阶段停止计时,并对当前阶段开始计时。
其中,步骤六中根据挖掘机工作阶段识别结果,在提升回转阶段的前期选取N张挖掘机铲斗图片,输入至用于评定铲斗满载率的深度学习模型,输出铲斗满载率等级Vi;所述用于评定铲斗满载率的深度学习模型将铲斗满载率分为多个等级,通过图像识别将挖掘机铲斗图片分类至不同的铲斗满载率等级。
其中,步骤七中通过计时阶段对各工作阶段的计时结果、以及步骤六输出的铲斗满载率等级,对各环节进行评估,进而依据各环节的比重对挖掘机手熟练度进行综合评估。
其中,评估方式为,首先对各环节进行评分,而后将分段评分按照在挖掘机作业中重要性比重叠加,得到挖掘机手熟练度评分,具体包括如下过程:
以T1、T2、T3、T4分别作为挖掘阶段、提升回转阶段、卸荷阶段、空斗返回阶段的最优时间;
熟练度评分时,采集十个循环过程对挖掘机手评分,评价分数采用百分制,工作阶段评分具体如下:
k取值为1、2、3、4,分别代表:1:挖掘阶段,2:提升回转阶段,3:卸荷阶段,4:空斗返回阶段;Ak为k阶段的最终评分,Tk为k阶段的最优时间,Tkc为k阶段第c次计时的时长;若A1、A2、A3、A4中有小于零的项,结果按0计;
铲斗满载率评分通过如下方式进行:
V表示铲斗满载率最终评分,Vn即挖掘机提升回转阶段的第n张铲斗图片的铲斗满载率等级,M表示整个满载率评分需要剔除图片的个数;
将分段评分按照在挖掘机作业中重要性比重叠加,得到挖掘机手熟练度评分:
A表示挖掘机手熟练度评分,α、β、γ、η、ω依次表示挖掘阶段、提升回转阶段、卸荷阶段、空斗返回阶段、铲斗满载率在挖掘机手熟练度评分中所占比重。
本发明还提供了一种基于工作阶段识别的挖掘机手操作熟练度评价装置,包括图像采集单元、图片获取单元、特征点提取单元、状态识别单元、计时单元、铲斗满载率评定单元和评价单元;
所述图像采集单元实时采集工作过程中挖掘机铲斗视频;
所述图片获取单元根据采集的挖掘机铲斗视频,截取挖掘机铲斗图片;
所述特征点提取单元对挖掘机铲斗图片进行处理,提取铲斗的特征点并进行特征点匹配;
所述状态识别单元根据挖掘机铲斗的特征点坐标,判断挖掘机当前图片所处的工作阶段;
所述计时单元根据挖掘机工作阶段识别结果,对各工作阶段计时;
所述铲斗满载率评定单元根据挖掘机工作阶段识别结果,截取挖掘机铲斗图片,评定铲斗满载率;
所述评价单元根据各工作阶段计时及铲斗满载率,对挖掘机手熟练度进行综合评价。
本发明的上述方案有如下的有益效果:
本发明通过外接的图像采集单元采集挖掘机铲斗作业信息,依靠计算机深度学习模型中的图像识别和分类技术进行挖掘机的工作阶段识别和铲斗满载率评估,从而对挖掘机手操作的熟练度进行评价,充分考虑了挖掘机各工作阶段耗时及渣土容量两方面影响影响,其评价结果客观可靠;
相比与依靠主泵压力信号区分工作阶段的方式,本发明是完全分离的一套系统,不用受挖掘机自身系统压力波动影响,因此不影响挖掘机现有功能;与在各臂之间安装角接触器相比,本发明可以有效避免挖掘机作业中的磕碰、震动造成的角接触器损坏;由于本发明采用的是计算机图像识别和分类方式评估,因此还可以有效避免不同地质条件渣土密度不同带来的误差。
附图说明
图1为本发明的方法步骤流程图;
图2为本发明的装置结构示意简图。
【附图标记说明】
1-图像采集单元;2-图片获取单元;3-特征点提取单元;4-状态识别单元;5-计时单元;6-铲斗满载率评定单元;7-评分获取单元。
具体实施方式
为使本发明要解决的技术问题、技术方案和优点更加清楚,下面将结合附图及具体实施例进行详细描述。显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。此外,下面所描述的本发明不同实施方式中所涉及的技术特征只要彼此之间未构成冲突就可以相互结合。
实施例1:
本发明的实施例1提供了一种基于工作阶段识别的挖掘机手操作熟练度评价方法,步骤流程如图1所示,具体包括:
步骤一、采集工作过程中挖掘机铲斗视频。其中挖掘机铲斗视频包含整个挖掘作业过程铲斗位置姿态信息,并且部分时刻可清晰识别铲斗渣土容量。
步骤二、每隔T时刻从挖掘机铲斗视频中截取一张铲斗图片。
步骤三、提取铲斗的特征点并进行特征点匹配。具体为,使用深度学习模型对挖掘机状态图片中的铲斗进行识别并框选;使用SIFT算法提取铲斗的特征点并进行特征点匹配;输出当前图片特征点坐标(xi,yi)以及下一张图片与之匹配的特征点的位置坐标(x′i,y′i);将下一张图片作为当前图片,继续后续特征点提取。
其中,(xi,yi)表示当前图片第i个特征点坐标,(x′i,y′i)表示下一张图片中与(xi,yi)对应的特征点坐标,SIFT算法为现有技术中常用的一种计算机视觉算法,用来侦测与描述影像中的局部性特征,它在空间尺度中寻找极值点,并提取出其位置、尺度、旋转不变量等。
步骤四、根据挖掘机铲斗特征点坐标,判断挖掘机当前图片所处的工作阶段。根据挖掘机作业特性可将挖掘机的工作阶段分为4个阶段,分别是:挖掘阶段、提升回转阶段、卸荷阶段、空斗返回阶段。根据当前图片以及上一张图片输出的特征点坐标,计算当前图片各特征点的速度(ui,vi),判断挖掘机当前时刻所处的工作阶段。各特征点的速度(ui,vi):
其中,(ui,vi)表示特征点(x′i,y′i)在(x,y)方向的速度,T为截取图片的间隔时间。
判断挖掘机当前时刻具体所处的工作阶段采用IF-THEN的形式判别,IF部分为使用该条件的前提,THEN部分为满足前提后的工作阶段判别结果。根据特征点速度的计算结果,与条件IF一一匹配,如满足IF条件,则执行THEN部分。如果不满足IF部分,则维持原输出。条件来源于挖掘机循环顺序及挖掘机作业过程的特性,如下:
条件一:IF存在|ui-uj|>δ0,AND所有ui>0,THEN当前输出为挖掘阶段;
条件二:IF存在|ui-uj|>δ0,AND所有ui<0,THEN当前输出为卸荷阶段;
条件三:IF所有|ui-uj|<δ0,AND上一个输出为挖掘阶段,THEN当前输出为提升回转阶段;
条件四:IF存在|ui-uj|<δ0,AND上一个输出为卸荷阶段,THEN当前输出为空斗返回阶段;
条件五:IF存在|ui-uj|<δ0,AND上一个输出为提升回转阶段,THEN当前输出为提升回转阶段;
条件六:IF存在|ui-uj|<δ0,AND上一个输出为空斗返回阶段,THEN当前输出为空斗返回阶段;
其中,δ0为铲斗平移时特征点x方向速度差的阈值,|ui-uj|为任意两特征点x方向的速度差。上述挖掘机当前时刻具体所处工作阶段的判断方法是根据挖掘机4工作阶段铲斗的工作特征设计的,不同类型、不同功率的的挖掘机具有不同的阈值。
步骤五、识别各工作阶段起始及结束标志,对各工作阶段计时。各工作阶段开始及结束标志根据工作阶段判别结果进行识别确认,如果当前图片判别结果与上一张图片判别结果相同,则不输出标志;如果当前图片与上一张图片判别结果不同,则输出上一张图片所处工作阶段的结束标志及当前图片所处工作阶段的开始标志,对上一阶段停止计时,并对当前阶段开始计时。
步骤六、根据挖掘机工作阶段识别结果,截取挖掘机铲斗图片,评定铲斗满载率。具体地,根据挖掘机工作阶段识别结果,在提升回转阶段的前期选取N张挖掘机铲斗图片,输入到培养的用于评定铲斗满载率的深度学习模型,输出其铲斗满载率等级Vi。由于提升回转阶段后半期可能无法拍摄铲斗内部情况,因此采用提升回转阶段前期的照片来评定此挖掘周期的满载率情况。
在本实施例中,用于评定铲斗满载率的深度学习模型将铲斗满载率分为十个等级,分别是:1:0~10%、2:10%~20%、3:20%~30%、4:30%~40%、5:40%~50%、6:50%~60%、7:60%~70%、8:70%~80%、9:80%~90%、10:90%~100%。评定结果输出等级标号:1~10。
步骤七、根据各工作阶段计时及铲斗满载率,获取用于评价挖掘机手熟练度的评价分数。具体为,将计时阶段对各工作阶段的计时结果,以及步骤六输出的铲斗满载率等级,对各环节进行评分,将分段评分按照在挖掘机作业中重要性比重叠加。
考虑到每一阶段时间越短,其挖掘效率越高,但冲击等因素对挖掘机造成的伤害也会随之加大。综合考虑后,以下以T1、T2、T3、T4分别作为挖掘阶段、提升回转阶段、卸荷阶段、空斗返回阶段的最优时间。
熟练度评分时,首先对各环节进行评分,而后将分段评分按照在挖掘机作业中重要性比重叠加,得到挖掘机手熟练度评分。在本实施例中采集十个循环过程对挖掘机手评分,评价分数采用百分制,工作阶段评分具体如下:
其中,k取值为1、2、3、4,分别代表:1:挖掘阶段;2:提升回转阶段;3:卸荷阶段;4:空斗返回阶段。Ak为k阶段的最终评分,Tk为k阶段的最优时间,Tkc为k阶段第c次计时的时长。若A1、A2、A3、A4中有小于零的项,结果按0计。
铲斗满载率评分:
其中V表示铲斗满载率最终评分,Vn即挖掘机提升回转阶段的第n张铲斗图片的铲斗满载率等级,由步骤六中深度学习模型评估得出,M表示整个满载率评分需要剔除图片的个数。
将分段评分按照在挖掘机作业中重要性比重叠加,得到挖掘机手熟练度评分:
其中,A表示挖掘机手熟练度评分,α、β、γ、η、ω依次表示挖掘阶段、提升回转阶段、卸荷阶段、空斗返回阶段、铲斗满载率在挖掘机手熟练度评分中所占比重,可根据不同类型的挖掘机适应性地分配权重。
需要说明的是,本实施例所述的深度学习模型是计算机视觉领域中的图像分类模型,通过培养已经标记的样本数据库,对全新获取的图片提取特征进行分类。在步骤六中,根据挖掘机工作阶段识别结果,截取提升回转阶段前期的铲斗图片,通过图片特征判断铲斗中物料的满载情况,分类至不同的满载率类别,并输出对应的等级Vi。
实施例2:
本发明的实施例2提供了一种基于工作阶段识别的挖掘机手操作熟练度评价装置,示意简图如图2所示,具体包括:
图像采集单元1:实时采集工作过程中挖掘机铲斗视频。
图片获取单元2:根据采集的挖掘机铲斗视频,截取挖掘机铲斗图片。
特征点提取单元3:对挖掘机铲斗图片进行处理,提取铲斗的特征点并进行特征点匹配。
状态识别单元4:根据挖掘机铲斗特征点坐标,判断挖掘机当前图片所处的工作阶段。
计时单元5:根据挖掘机工作阶段识别结果,对各工作阶段计时。
铲斗满载率评定单元6:根据挖掘机工作阶段识别结果,截取挖掘机铲斗图片,评定铲斗满载率。
评分获取单元7:根据各工作阶段计时及铲斗满载率,获取用于评价挖掘机手熟练度的评价分数。
其中,图像采集单元1为一组安装在挖掘机驾驶室顶端,用于挖掘机铲斗视频采集,其采集内容包括铲斗状态信息及渣土容量信息。
本发明通过挖掘机上安装的图像采集单元1录制挖掘机铲斗视频,对全工作段视频信息进行采集,但并不强调实时的对挖掘机手熟练度评估,在后期对某一时刻进行抽检,即可达到评价目的。本发明充分考虑了各工作阶段耗时及渣土容量两方面因素影响。
以上所述是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明所述原理的前提下,还可以作出若干改进和润饰,这些改进和润饰也应视为本发明的保护范围。
Claims (6)
1.一种基于工作阶段识别的挖掘机手操作熟练度评价方法,其特征在于,包括如下步骤:
步骤一、采集工作过程中挖掘机铲斗视频;
步骤二、根据挖掘机铲斗视频,截取挖掘机铲斗图片;
步骤三、提取铲斗的特征点并进行特征点匹配;
步骤四、根据挖掘机铲斗特征点坐标,判断挖掘机当前图片所处的工作阶段;
步骤五、识别各阶段起始及结束标志,对各工作阶段计时;
步骤六、根据挖掘机工作阶段识别结果,截取对应工作阶段的铲斗图片,评定铲斗满载率;
步骤七:根据各工作阶段计时及铲斗满载率,对挖掘机手的熟练度进行综合评价;
步骤三包括:
使用深度学习模型对图片中的铲斗进行识别并框选;使用SIFT算法提取铲斗的特征点并进行特征点匹配;输出当前图片特征点坐标(xi,yi)以及下一张图片与之匹配的特征点的位置坐标(x′i,y′i);将下一张图片作为当前图片,继续后续特征点提取;
(xi,yi)表示当前图片第i个特征点坐标,(x′i,y′i)表示下一张图片中与(xi,yi)对应的特征点坐标;
步骤四包括:
根据当前图片以及上一张图片输出的特征点坐标,计算当前图片各特征点的速度(ui,vi),以此判断挖掘机当前时刻所处的工作阶段,各特征点的速度(ui,vi):
(ui,vi)表示特征点(x′i,y′i)在(x,y)方向的速度,T为截取图片的间隔时间;
所述工作阶段包括挖掘阶段、提升回转阶段、卸荷阶段和空斗返回阶段;
判断挖掘机当前时刻所处的工作阶段采用IF-THEN的形式判别,IF部分为使用该条件的前提,THEN部分为满足前提后的工作阶段判别结果;根据特征点速度的计算结果,与条件IF一一匹配,如满足IF条件,则执行THEN部分;如果不满足IF部分,则维持原输出,具体如下:
条件一:IF存在|ui-uj|>δ0,AND所有ui>0,THEN当前输出为挖掘阶段;
条件二:IF存在|ui-uj|>δ0,AND所有ui<0,THEN当前输出为卸荷阶段;
条件三:IF所有|ui-uj|<δ0,AND上一个输出为挖掘阶段,THEN当前输出为提升回转阶段;
条件四:IF存在|ui-uj|<δ0,AND上一个输出为卸荷阶段,THEN当前输出为空斗返回阶段;
条件五:IF存在|ui-uj|<δ0,AND上一个输出为提升回转阶段,THEN当前输出为提升回转阶段;
条件六:IF存在|ui-uj|<δ0,AND上一个输出为空斗返回阶段,THEN当前输出为空斗返回阶段;
δ0为铲斗平移时特征点x方向速度差的阈值,|ui-uj|为任意两特征点x方向的速度差。
2.根据权利要求1所述的基于工作阶段识别的挖掘机手操作熟练度评价方法,其特征在于,步骤五中各工作阶段开始及结束标志根据工作阶段判别结果进行识别确认,如果当前图片判别结果与上一张图片判别结果相同,则不输出标志,如果当前图片与上一张图片判别结果不同,则输出上一张图片所处工作阶段的结束标志及当前图片所处工作阶段的开始标志,对上一阶段停止计时,并对当前阶段开始计时。
3.根据权利要求2所述的基于工作阶段识别的挖掘机手操作熟练度评价方法,其特征在于,步骤六中根据挖掘机工作阶段识别结果,在提升回转阶段的前期选取N张挖掘机铲斗图片,输入至用于评定铲斗满载率的深度学习模型,输出铲斗满载率等级Vi;所述用于评定铲斗满载率的深度学习模型将铲斗满载率分为多个等级,通过图像识别将挖掘机铲斗图片分类至不同的铲斗满载率等级。
4.根据权利要求3所述的基于工作阶段识别的挖掘机手操作熟练度评价方法,其特征在于,步骤七中通过计时阶段对各工作阶段的计时结果、以及步骤六输出的铲斗满载率等级,对各环节进行评估,进而依据各环节的比重对挖掘机手熟练度进行综合评估。
5.根据权利要求4所述的基于工作阶段识别的挖掘机手操作熟练度评价方法,其特征在于,评估方式为,首先对各环节进行评分,而后将分段评分按照在挖掘机作业中重要性比重叠加,得到挖掘机手熟练度评分,具体包括如下过程:
以T1、T2、T3、T4分别作为挖掘阶段、提升回转阶段、卸荷阶段、空斗返回阶段的最优时间;
熟练度评分时,采集十个循环过程对挖掘机手评分,评价分数采用百分制,工作阶段评分具体如下:
k取值为1、2、3、4,分别代表:1:挖掘阶段,2:提升回转阶段,3:卸荷阶段,4:空斗返回阶段;Ak为k阶段的最终评分,Tk为k阶段的最优时间,Tkc为k阶段第c次计时的时长;若A1、A2、A3、A4中有小于零的项,结果按0计;
铲斗满载率评分通过如下方式进行:
V表示铲斗满载率最终评分,Vn即挖掘机提升回转阶段的第n张铲斗图片的铲斗满载率等级,M表示整个满载率评分需要剔除图片的个数;
将分段评分按照在挖掘机作业中重要性比重叠加,得到挖掘机手熟练度评分:
A表示挖掘机手熟练度评分,α、β、γ、η、ω依次表示挖掘阶段、提升回转阶段、卸荷阶段、空斗返回阶段、铲斗满载率在挖掘机手熟练度评分中所占比重。
6.一种基于工作阶段识别的挖掘机手操作熟练度评价装置,采用如权利要求1-5任意一项所述的基于工作阶段识别的挖掘机手操作熟练度评价方法,其特征在于,包括图像采集单元、图片获取单元、特征点提取单元、状态识别单元、计时单元、铲斗满载率评定单元和评价单元;
所述图像采集单元实时采集工作过程中挖掘机铲斗视频;
所述图片获取单元根据采集的挖掘机铲斗视频,截取挖掘机铲斗图片;
所述特征点提取单元对挖掘机铲斗图片进行处理,提取铲斗的特征点并进行特征点匹配;
所述状态识别单元根据挖掘机铲斗的特征点坐标,判断挖掘机当前图片所处的工作阶段;
所述计时单元根据挖掘机工作阶段识别结果,对各工作阶段计时;
所述铲斗满载率评定单元根据挖掘机工作阶段识别结果,截取挖掘机铲斗图片,评定铲斗满载率;
所述评价单元根据各工作阶段计时及铲斗满载率,对挖掘机手熟练度进行综合评价。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010363188.1A CN111582135B (zh) | 2020-04-30 | 2020-04-30 | 基于工作阶段识别的挖掘机手操作熟练度评价方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010363188.1A CN111582135B (zh) | 2020-04-30 | 2020-04-30 | 基于工作阶段识别的挖掘机手操作熟练度评价方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111582135A CN111582135A (zh) | 2020-08-25 |
CN111582135B true CN111582135B (zh) | 2023-05-16 |
Family
ID=72111896
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010363188.1A Active CN111582135B (zh) | 2020-04-30 | 2020-04-30 | 基于工作阶段识别的挖掘机手操作熟练度评价方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111582135B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114559177B (zh) * | 2022-03-07 | 2023-12-05 | 北京洞微科技发展有限公司 | 基于影像数据分析的焊接评估方法、装置及存储介质 |
CN115354708A (zh) * | 2022-09-16 | 2022-11-18 | 徐州徐工矿业机械有限公司 | 基于机器视觉的挖掘机铲斗自主挖掘识别控制系统及方法 |
CN116451809A (zh) * | 2023-06-16 | 2023-07-18 | 北谷电子股份有限公司 | 基于dagsvm算法的挖掘机工况识别方法及系统 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003166909A (ja) * | 2001-11-29 | 2003-06-13 | Hitachi Constr Mach Co Ltd | 作業機の強度評価方法、強度評価システム、強度評価装置、および強度評価を行うためのプログラム |
JP2013073516A (ja) * | 2011-09-28 | 2013-04-22 | Sumitomo Heavy Ind Ltd | 物体検出装置を搭載する移動体 |
CN106414860A (zh) * | 2016-03-28 | 2017-02-15 | 株式会社小松制作所 | 评价装置以及评价方法 |
CN109440855A (zh) * | 2018-10-30 | 2019-03-08 | 柳州柳工挖掘机有限公司 | 一种挖掘机工作效率检测方法及系统 |
CN109636951A (zh) * | 2018-11-21 | 2019-04-16 | 中南大学 | 一种基于工作阶段识别的挖掘机能耗分析方法 |
CN111062254A (zh) * | 2019-11-18 | 2020-04-24 | 厦门大学 | 一种装载机铲斗内物料堆积密度评估方法和装置 |
-
2020
- 2020-04-30 CN CN202010363188.1A patent/CN111582135B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003166909A (ja) * | 2001-11-29 | 2003-06-13 | Hitachi Constr Mach Co Ltd | 作業機の強度評価方法、強度評価システム、強度評価装置、および強度評価を行うためのプログラム |
JP2013073516A (ja) * | 2011-09-28 | 2013-04-22 | Sumitomo Heavy Ind Ltd | 物体検出装置を搭載する移動体 |
CN106414860A (zh) * | 2016-03-28 | 2017-02-15 | 株式会社小松制作所 | 评价装置以及评价方法 |
CN109440855A (zh) * | 2018-10-30 | 2019-03-08 | 柳州柳工挖掘机有限公司 | 一种挖掘机工作效率检测方法及系统 |
CN109636951A (zh) * | 2018-11-21 | 2019-04-16 | 中南大学 | 一种基于工作阶段识别的挖掘机能耗分析方法 |
CN111062254A (zh) * | 2019-11-18 | 2020-04-24 | 厦门大学 | 一种装载机铲斗内物料堆积密度评估方法和装置 |
Non-Patent Citations (4)
Title |
---|
Azar E R , et al..Part based model and spatial–temporal reasoning to recognize hydraulic excavators in construction images and videos.Automation in Construction.2012,第194-202页. * |
Shi, Yupeng, et al..Intelligent identification for working-cycle stages of excavator based on main pump pressure.Automation in Construction.2019,第1-15页. * |
Xuhui Zhang, et al..Comparison Study on the Rock Cutting Characteristics of Disc Cutter under Free-face-assisted and Conventional Cutting Methods. KSCE Journal of Civil Engineering.2018,第4155-4162页. * |
Zhang B , et al..Automatic matching of construction onsite resources under camera views.Automation in Construction.2018,第206-215. * |
Also Published As
Publication number | Publication date |
---|---|
CN111582135A (zh) | 2020-08-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111582135B (zh) | 基于工作阶段识别的挖掘机手操作熟练度评价方法及装置 | |
CN103279765B (zh) | 基于图像匹配的钢丝绳表面损伤检测方法 | |
CN110334750B (zh) | 输电线路铁塔螺栓锈蚀程度图像分类识别方法 | |
CN103778624A (zh) | 一种基于最优阈值分割的织物疵点检测方法 | |
CN101976313A (zh) | 基于频繁子图挖掘的异常入侵检测方法 | |
CN102521534B (zh) | 一种基于粗糙熵属性约简的入侵检测方法 | |
CN101551467A (zh) | 一种基于边界检测的初至波自动拾取方法 | |
Vivekananthan et al. | Concrete bridge crack detection by image processing technique by using the improved OTSU method | |
CN106650446A (zh) | 基于系统调用的恶意程序行为识别方法和系统 | |
CN104751192A (zh) | 基于图像块共生特征的煤岩识别方法 | |
CN105116394A (zh) | 一种基于多维细微特征分析的目标点迹提取方法 | |
CN115408925A (zh) | 用于隧道施工的岩体参数预测方法和装置 | |
CN113128555B (zh) | 一种用于列车闸片部件异常检测的方法 | |
KR102311558B1 (ko) | 인공지능을 이용한 구조물 손상 탐지 시스템, 방법, 및 상기 방법을 실행시키기 위한 컴퓨터 판독 가능한 프로그램을 기록한 기록 매체 | |
CN111767546B (zh) | 一种基于深度学习的输入结构推断方法和装置 | |
CN113536955B (zh) | 一种可持续学习的信号调制类型识别方法 | |
CN110689538B (zh) | 隧道衬砌裂缝图像检测方法 | |
CN112883889A (zh) | 一种适用于电力施工场景下违章行为检测方法 | |
CN112488991A (zh) | 一种基于r2cnn++算法的绝缘子自爆缺陷检测方法 | |
JP4723771B2 (ja) | 発雷判定システム及び発雷判定方法 | |
CN116246114B (zh) | 自监督脱轨自动装置拉环脱落图像异常检测方法及装置 | |
Xu et al. | Fine-Grained Graptolite Image Classification Based on Multi-Scale Deep Learning | |
CN101795351B (zh) | 单帧暗弱点目标快速自动捕获与跟踪检测方法 | |
CN112087272B (zh) | 一种电磁频谱监测接收机信号自动检测方法 | |
CN115935250A (zh) | 基于差分振子和领域自适应混合模型故障诊断方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |