CN111795978A - 一种钢桥结构健康状态评估方法、装置、设备及存储介质 - Google Patents
一种钢桥结构健康状态评估方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN111795978A CN111795978A CN202010934875.4A CN202010934875A CN111795978A CN 111795978 A CN111795978 A CN 111795978A CN 202010934875 A CN202010934875 A CN 202010934875A CN 111795978 A CN111795978 A CN 111795978A
- Authority
- CN
- China
- Prior art keywords
- steel
- fatigue
- steel bridge
- stress
- classification
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
- G01N21/95—Investigating the presence of flaws or contamination characterised by the material or shape of the object to be examined
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N3/00—Investigating strength properties of solid materials by application of mechanical stress
- G01N3/02—Details
- G01N3/06—Special adaptations of indicating or recording means
- G01N3/068—Special adaptations of indicating or recording means with optical indicating or recording means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Theoretical Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Evolutionary Computation (AREA)
- Pathology (AREA)
- Biochemistry (AREA)
- Artificial Intelligence (AREA)
- Analytical Chemistry (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Immunology (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Chemical & Material Sciences (AREA)
- Image Analysis (AREA)
Abstract
本申请公开了一种钢桥结构健康状态评估方法、装置、设备及存储介质,包括:采集钢桥表面各类病害图像和不同受力及疲劳状态下的各构件表面显微图像;以各类病害图像为输入,以病害种类及损伤程度为输出,构建并训练结构病害分类及损伤评估模型;以显微图像为输入,以钢材种类、疲劳寿命及应力识别为输出,构建并训练钢材分类及应力评估模型和钢材分类及疲劳状态评估模型;利用多镜头钢桥爬壁机器人定时定点检测图像的采集;将检测图像分别输入对应的上述评估模型中,分别得出病害损伤程度、应力状态、疲劳状态的预测评分结果,依据各构件的三个评估分数加权求和后得到钢桥结构整体健康状态评分。这样安全有效、操作简便、精度更高、智能化程度高。
Description
技术领域
本发明涉及建筑工程技术领域,特别是涉及一种钢桥结构健康状态评估方法、装置、设备及存储介质。
背景技术
桥梁工程结构长期使用中,在环境侵蚀、材料老化、负荷作用疲劳效应、各种振动效应及自然灾害等多种不利因素的共同作用下,将会导致结构的损伤积累,使其承受正常荷载、抵抗外界环境作用的能力下降,进而降低结构使用寿命,在某些极端情况下甚至发生灾难性的事故。由此而引起的一系列问题都需要花费大量的人力、物力进行检测、维修和加固来解决,因此需要对桥梁结构的整体健康状态进行快速准确的评估,以保证该工程处于安全使用条件下。
由于目前的桥梁结构健康状态评估方法(包括荷载试验法、外观观测法、层次分析法、桥梁监测系统检测法、打分排序法等)的检测结果所受影响因素较多,需要消耗大量的人力物力,检测精度较低。例如,桥梁病害的检测在很大程度上仍然依赖于人工检测、人工识别病害和传统检测仪器,且容易受主观因素的影响,检测效率低;工作应力的检测在很大程度上也依赖于研究人员的操作及经验,在绝对应力的定量检测方面还存在一定难度,无法对现有桥梁结构的应力状态进行有效的评估;桥梁疲劳状态计算主要还是在设计阶段,无法对施工状况、运营荷载、周围环境等做到精准考虑。
因此,如何设计一种桥梁结构整体健康状态评估的方法,能够提高构件检测效率,减少检测误差,降低成本,是本领域技术人员亟待解决的技术问题。
发明内容
有鉴于此,本发明的目的在于提供一种钢桥结构健康状态评估方法、装置、设备及存储介质,安全有效、操作简便、精度更高、智能化程度高,有效缓解人工检测成本高、效率低、主观性强等缺点。其具体方案如下:
一种钢桥结构健康状态评估方法,包括:
采集钢桥表面各类病害图像,通过图像处理标记结构表面病害种类及损伤程度,并对各类等级的钢桥构件进行静力及疲劳加载试验,采集不同受力状态及疲劳状态下的各构件表面显微图像;
以钢桥表面各类病害图像为输入,以病害种类及损伤程度为输出,构建并训练结构病害分类及损伤评估模型;所述结构病害分类及损伤评估模型用于对病害损伤程度进行评估并评分;
以各构件表面显微图像为输入,以钢材种类及应力识别为输出,构建并训练钢材分类及应力评估模型;所述钢材分类及应力评估模型用于根据应力识别结果与对应种类的钢材性能比较后对应力状态进行评分;
以各构件表面显微图像为输入,以钢材种类及疲劳寿命识别为输出,构建并训练钢材分类及疲劳状态评估模型;所述钢材分类及疲劳状态评估模型用于根据疲劳识别结果与对应种类的钢材性能比较后对疲劳状态进行评分;
利用多镜头钢桥爬壁机器人在钢桥构件表面行进,进行定时定点检测图像的采集;
将采集的所述检测图像分别输入对应的上述评估模型中,分别得出病害损伤程度、应力状态、疲劳状态的预测评分结果,依据各构件的三个评估分数加权求和后得到钢桥结构整体健康状态评分。
优选地,在本发明实施例提供的上述钢桥结构健康状态评估方法中,所述病害种类包括腐蚀和裂纹;构件表面腐蚀的损伤程度的量化依据为累积腐蚀面积占图像总面积的比例;构件表面裂纹的损伤程度的量化依据为焊缝裂纹长度。
优选地,在本发明实施例提供的上述钢桥结构健康状态评估方法中,所述结构病害分类及损伤评估模型采用ResNet网络结构,采用的两种损伤函数分别为交叉熵损失函数和欧氏距离损失函数,进行结构病害分类及损伤评估回归任务。
优选地,在本发明实施例提供的上述钢桥结构健康状态评估方法中,所述钢材分类及应力评估模型采用ResNet网络结构,进行钢材种类分类与应力值评估,采用的两种损伤函数分别为交叉熵损失函数和欧氏距离损失函数,进行钢材种类分类及应力值回归任务;应力状态量化评分的依据是构件当前状态下检测应力值所占其钢材屈服强度的比例。
优选地,在本发明实施例提供的上述钢桥结构健康状态评估方法中,所述钢材分类及疲劳状态评估模型采用ResNet网络结构,进行钢材种类分类与疲劳状态评估,采用的两种损伤函数分别为交叉熵损失函数和欧氏距离损失函数,进行钢材分类及疲劳加载次数回归任务;疲劳状态量化评分的依据是构件当前状态下检测疲劳加载次数所占其对应钢材规定的极限疲劳加载次数的比例。
优选地,在本发明实施例提供的上述钢桥结构健康状态评估方法中,采集钢桥表面各类病害图像,采集不同受力状态及疲劳状态下的各构件表面显微图像,具体包括:
通过高清摄像机采集钢桥表面各类病害图像,通过便捷式显微镜采集不同受力状态及疲劳状态下的各构件表面显微图像;所述高清摄像机和所述便捷式显微镜安装在钢桥爬壁机器人上。
优选地,在本发明实施例提供的上述钢桥结构健康状态评估方法中,依据各构件的三个评估分数加权求和后得到钢桥结构整体健康状态评分,具体包括:
依次对各构件的病害损伤程度、应力状态、疲劳状态这三层进行加权评定;
通过各构件的分层加权评定结果结合各构件单层评估分数,获取钢桥整体单层评估分数;
依据所述钢桥整体单层评估分数,获取钢桥整体三层加权评估分数,以得到钢桥结构整体健康状态评分。
本发明实施例还提供了一种钢桥结构健康状态评估装置,包括:
原始图像数据采集模块,用于采集钢桥表面各类病害图像,通过图像处理标记结构表面病害种类及损伤程度,并对各类等级的钢桥构件进行静力及疲劳加载试验,采集不同受力状态及疲劳状态下的各构件表面显微图像;
结构病害分类及损伤评估模型构建模块,用于以钢桥表面各类病害图像为输入,以病害种类及损伤程度为输出,构建并训练结构病害分类及损伤评估模型;所述结构病害分类及损伤评估模型用于对病害损伤程度进行评估并评分;
钢材分类及应力评估模型构建模块,用于以各构件表面显微图像为输入,以钢材种类及应力识别为输出,构建并训练钢材分类及应力评估模型;所述钢材分类及应力评估模型用于根据应力识别结果与对应种类的钢材性能比较后对应力状态进行评分;
钢材分类及疲劳状态评估模型构建模块,用于以各构件表面显微图像为输入,以钢材种类及疲劳寿命识别为输出,构建并训练钢材分类及疲劳状态评估模型;所述钢材分类及疲劳状态评估模型用于根据疲劳识别结果与对应种类的钢材性能比较后对疲劳状态进行评分;
检测图像采集模块,用于利用多镜头钢桥爬壁机器人在钢桥构件表面行进,进行定时定点检测图像的采集;
结构健康状态评估模块,用于将采集的所述检测图像分别输入对应的上述评估模型中,分别得出病害损伤程度、应力状态、疲劳状态的预测评分结果,依据各构件的三个评估分数加权求和后得到钢桥结构整体健康状态评分。
本发明实施例还提供了一种钢桥结构健康状态评估设备,包括处理器和存储器,其中,所述处理器执行所述存储器中保存的计算机程序时实现如本发明实施例提供的上述钢桥结构健康状态评估方法。
本发明实施例还提供了一种计算机可读存储介质,用于存储计算机程序,其中,所述计算机程序被处理器执行时实现如本发明实施例提供的上述钢桥结构健康状态评估方法。
从上述技术方案可以看出,本发明所提供的一种钢桥结构健康状态评估方法、装置、设备及存储介质,包括:采集钢桥表面各类病害图像,通过图像处理标记结构表面病害种类及损伤程度,并对各类等级的钢桥构件进行静力及疲劳加载试验,采集不同受力状态及疲劳状态下的各构件表面显微图像;以钢桥表面各类病害图像为输入,以病害种类及损伤程度为输出,构建并训练结构病害分类及损伤评估模型;结构病害分类及损伤评估模型用于对病害损伤程度进行评估并评分;以各构件表面显微图像为输入,以钢材种类及应力识别为输出,构建并训练钢材分类及应力评估模型;钢材分类及应力评估模型用于根据应力识别结果与对应种类的钢材性能比较后对应力状态进行评分;以各构件表面显微图像为输入,以钢材种类及疲劳寿命识别为输出,构建并训练钢材分类及疲劳状态评估模型;钢材分类及疲劳状态评估模型用于根据疲劳识别结果与对应种类的钢材性能比较后对疲劳状态进行评分;利用多镜头钢桥爬壁机器人在钢桥构件表面行进,进行定时定点检测图像的采集;将采集的检测图像分别输入对应的上述评估模型中,分别得出病害损伤程度、应力状态、疲劳状态的预测评分结果,依据各构件的三个评估分数加权求和后得到钢桥结构整体健康状态评分。
本发明突破了钢桥结构健康状态传统评估方法的局限性,通过深度学习和计算机视觉技术相结合的方式对检测目标进行智能检测和识别,可以在桥梁运营中利用桥梁结构的病害损伤程度、应力状态与疲劳状态这三方面对桥梁整体健康状态进行定量分析评估,为桥梁管理者提供有效的参考依据,进一步拓展了深度学习方法在桥梁工程上的应用,具有安全有效、操作简便、精度更高、智能化程度高的优点,在一定程度上有效缓解人工检测成本高、效率低、主观性强等困难,为进一步拓展桥梁结构健康状态评估的研究方向,提供了有益的探索和参考价值。
附图说明
为了更清楚地说明本发明实施例或相关技术中的技术方案,下面将对实施例或相关技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。
图1为本发明实施例提供的钢桥结构健康状态评估方法的流程图;
图2为本发明实施例提供的结构病害分类及损伤评估模型的评估流程图;
图3为本发明实施例提供的钢材分类及应力评估模型的评估流程图;
图4为本发明实施例提供的钢材分类及疲劳状态评估模型的评估流程图;
图5为本发明实施例提供的结合三种评估模型进行整体桥梁健康状态评估的流程图;
图6为本发明实施例提供的钢桥结构健康状态评估装置的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明提供一种钢桥结构健康状态评估方法,如图1所示,包括以下步骤:
S101、(通过高清摄像机)采集钢桥表面各类病害图像,通过图像处理标记结构表面病害种类及损伤程度,并(在实验室中)对各类等级的钢桥构件进行静力及疲劳加载试验,(通过便捷式显微镜)采集不同受力状态及疲劳状态下的各构件表面显微图像;
在实际应用中,在采集图像数据后,制作数据集,分别构建钢桥各类病害分类及评估、钢材等级分类、钢材应力识别评估、钢材所受疲劳周期次数识别评估的钢材表面图像训练集、验证集及测试集,并对采集的原始样本数据进行数据增强;
S102、以钢桥表面各类病害图像为输入,以病害种类及损伤程度为输出,构建并训练结构病害分类及损伤评估模型;结构病害分类及损伤评估模型用于对病害损伤程度进行评估并评分;
具体地,通过计算机视觉与数据预处理制作钢桥各类病害图像与其对应损伤程度的数据集,如图2所示,首先构建一个深层神经网络,输入端为钢桥表面病害图像,输出端为病害种类及损伤程度,不同损伤程度对应不同的病害评分,通过不断训练优化神经网络最终实现对钢桥结构表面病害种类及损伤程度的准确判断并评分;
S103、以各构件表面显微图像为输入,以钢材种类及应力识别为输出,构建并训练钢材分类及应力评估模型;钢材分类及应力评估模型用于根据应力识别结果与对应种类的钢材性能比较后对应力状态进行评分;
具体地,对得到的显微图像进行数据预处理后,如图3所示,首先构建一个深度神经网络,输入端为钢材表面显微图像,输出端为钢材种类、应力识别,用训练集训练各个深度神经网络模型,通过利用验证集对模型进行反复的测试及验证后,选择出性能最优的一类神经网络模型,对材料种类、结构应力能够精确识别,根据应力识别结果与对应种类的钢材性能比较后对结构受力状态进行评分;
S104、以各构件表面显微图像为输入,以钢材种类及疲劳寿命识别为输出,构建并训练钢材分类及疲劳状态评估模型;钢材分类及疲劳状态评估模型用于根据疲劳识别结果与对应种类的钢材性能比较后对疲劳状态进行评分;
具体地,对得到的显微图像进行数据预处理后,如图4所示,首先构建一个深度神经网络,输入端为钢材表面显微图像,输出端为钢材种类、疲劳寿命识别,用训练集训练各个深度神经网络模型,通过利用验证集对模型进行反复的测试及验证后,选择出性能最优的一类神经网络模型,对材料种类、结构疲劳状态能够精确识别,根据疲劳状态识别结果与对应种类的钢材性能比较后对结构受力状态进行评分;
S105、利用多镜头钢桥爬壁机器人在钢桥构件表面行进,进行定时定点检测图像的采集;
具体地,根据钢桥结构形式及主要构件位置设定检测轨迹及拍摄频次,利用多镜头钢桥爬壁机器人在钢桥构件表面行进,分别用高清摄像头和便携式显微镜进行定时定点图像采集;需要说明的是,检测图像采集的轨迹设定时,要求所有钢桥关键构件均能检测到,关键构件包括桥梁的梁和板,根据桥型、桥跨等因素确定图像重点采集位置;图像采集装置包括便携式显微镜头和高清摄像头,该图像采集装置安装在钢桥爬壁机器人上;同时建立图像采集装置与计算机的联系,通过无线通讯将宏观病害图像及钢桥表面显微图像实时传输到计算机进行检测评分。这里利用桥梁爬壁机器人可以对桥梁结构外观全局扫描,并自动获取桥梁表面高清图像及显微图像,取代人工检测手段,将使桥梁检测更加智能、准确、便捷,大大减少了工作量及工作时间;
S106、将采集的检测图像分别输入对应的上述评估模型中,分别得出病害损伤程度、应力状态、疲劳状态的预测评分结果,依据各构件的三个评估分数加权求和后得到钢桥结构整体健康状态评分。
可以理解的是,桥梁结构的病害程度、应力状态、疲劳状态与整体健康状态存在着必然的联系,因此可以利用这三方面的量化评分来对桥梁结构整体进行健康评估。
在本发明实施例提供的上述钢桥结构健康状态评估方法中,突破了钢桥结构健康状态传统评估方法的局限性,通过深度学习和计算机视觉技术相结合的方式对检测目标进行智能检测和识别,可以在桥梁运营中利用桥梁结构的病害损伤程度、应力状态与疲劳状态这三方面对桥梁整体健康状态进行定量分析评估,为桥梁管理者提供有效的参考依据,进一步拓展了深度学习方法在桥梁工程上的应用,具有安全有效、操作简便、精度更高、智能化程度高的优点,在一定程度上有效缓解人工检测成本高、效率低、主观性强等困难,为进一步拓展桥梁结构健康状态评估的研究方向,提供了有益的探索和参考价值。
在具体实施时,在钢桥表面各类病害图像数据集制作中,如图2所示,病害种类包括腐蚀和裂纹,采集病害图像中,需要固定与拍摄构件表面距离,保证高清摄像机拍摄面积的一致。
构件表面腐蚀的损伤程度的量化依据为累积腐蚀面积占图像总面积的比例,病害损伤程度评分在0-1之间标定对应的分值,0表示病害占图像面积比例为100%,1表示该图像中无损伤;构件表面裂纹的损伤程度的量化依据为焊缝裂纹长度,损伤程度评分在0-1之间标定对应的分值,焊缝表面完好无损时分值为1,焊缝裂纹长度为n毫米时,损伤程度评分为(1-0.1n),当焊缝长度大于等于10mm时,损伤程度评分为0。
进一步地,在具体实施时,在进行静力及疲劳加载试验过程中,实验室所选用的钢材实验对象种类与待测桥梁各部位使用的钢材种类相同或存在对应关系;静力加载试验中,可以每隔5MPa进行一次图像采集;疲劳试验中,可以每隔5万次进行一次图像采集。
便携式显微镜采集图像数据中,使用仪器可以为便携式数码显微镜,不仅可以与电脑连接,使显微镜内视像透过电脑上查看,而且可以直接保存在内部存储空间。
另外,需要说明的是,在制作深度学习数据集时,选取全部采集数据的10%作为测试集,剩余数据中80%作为训练集、20%作为验证集。测试集不需要进行数据增强,剩余数据中在进行数据增强时,主要方式有翻转,旋转,裁剪,变形,缩放等各类几何操作。
在具体实施时,在本发明实施例提供的上述钢桥结构健康状态评估方法中,结构病害分类及损伤评估模型可以采用ResNet网络结构,采用的两种损伤函数分别为交叉熵损失函数和欧氏距离损失函数,进行分类(结构病害分类)及回归(损伤评估)任务。
在具体实施时,在本发明实施例提供的上述钢桥结构健康状态评估方法中,钢材分类及应力评估模型可以采用ResNet网络结构,进行钢材种类分类与应力值评估,采用的两种损伤函数分别为交叉熵损失函数和欧氏距离损失函数,进行分类(钢材分类)及回归(应力值)任务;应力状态量化评分的依据是构件当前状态下检测应力值所占其钢材屈服强度的比例,例如钢材屈服强度为aMPa,检测应力值为bMPa,则应力状态评分为(1-b/a),最终输出结果为依据钢材种类及检测应力值确定的应力状态评分。
在具体实施时,在本发明实施例提供的上述钢桥结构健康状态评估方法中,钢材分类及疲劳状态评估模型可以采用ResNet网络结构,进行钢材种类分类与疲劳状态评估,采用的两种损伤函数分别为交叉熵损失函数和欧氏距离损失函数,进行分类(钢材分类)及回归(疲劳加载次数)任务;疲劳状态量化评分的依据是构件当前状态下检测疲劳加载次数所占其对应钢材规定的极限疲劳加载次数的比例,例如规定某类钢材极限疲劳加载次数为a,检测疲劳加载次数为b,则疲劳状态评分为(1-b/a),最终输出结果为依据钢材种类及检测疲劳加载次数确定的疲劳状态评分。
在具体实施时,在本发明实施例提供的上述钢桥结构健康状态评估方法中,依据各构件的三个评估分数加权求和后得到钢桥结构整体健康状态评分,具体可以包括:依次将各构件的病害损伤程度、应力状态、疲劳状态作为病害层、应力层和疲劳层这三层进行加权评定;通过各构件的分层加权评定结果结合各构件单层评估分数,获取钢桥整体单层评估分数;依据钢桥整体单层评估分数,获取钢桥整体三层加权评估分数,以得到钢桥结构整体健康状态评分。
具体地,如图5所示,将传输到计算机上的检测图像输入到对应的三个评估模型中,得到关于病害损伤、应力状态、疲劳状态的评分;钢桥结构健康状态评定采用分层加权评定与综合加权评估相结合的方法,总共分三层,先对钢桥各构件的病害损伤进行加权评定,然后对钢桥各构件的检测应力水平进行加权评定,再对各构件的检测疲劳状态进行加权评定,最后根据以上三方面进行桥梁结构总体健康状态的评定。
桥梁结构构件评分权重取值依据为判断是否是桥梁的主要构件,某一层加权最终评分为,其中为某构件在该层的检测评分,为该构件在此层的权重;总体健康状态评分为,其中为分层评分,为对应层的权重。依据总体健康状态评分确定评定等级,分为完好(8-10分)、轻微(6-8分)、中度(4-6分)、重度(2-4分)、危险(0-2分)五个等级。
基于同一发明构思,本发明实施例还提供了一种钢桥结构健康状态评估装置,由于该装置解决问题的原理与前述一种钢桥结构健康状态评估方法相似,因此该装置的实施可以参见钢桥结构健康状态评估方法的实施,重复之处不再赘述。
在具体实施时,本发明实施例提供的钢桥结构健康状态评估装置,如图6所示,具体可以包括:
原始图像数据采集模块11,用于采集钢桥表面各类病害图像,通过图像处理标记结构表面病害种类及损伤程度,并对各类等级的钢桥构件进行静力及疲劳加载试验,采集不同受力状态及疲劳状态下的各构件表面显微图像;
结构病害分类及损伤评估模型构建模块12,用于以钢桥表面各类病害图像为输入,以病害种类及损伤程度为输出,构建并训练结构病害分类及损伤评估模型;结构病害分类及损伤评估模型用于对病害损伤程度进行评估并评分;
钢材分类及应力评估模型构建模块13,用于以各构件表面显微图像为输入,以钢材种类及应力识别为输出,构建并训练钢材分类及应力评估模型;钢材分类及应力评估模型用于根据应力识别结果与对应种类的钢材性能比较后对应力状态进行评分;
钢材分类及疲劳状态评估模型构建模块14,用于以各构件表面显微图像为输入,以钢材种类及疲劳寿命识别为输出,构建并训练钢材分类及疲劳状态评估模型;钢材分类及疲劳状态评估模型用于根据疲劳识别结果与对应种类的钢材性能比较后对疲劳状态进行评分;
检测图像采集模块15,用于利用多镜头钢桥爬壁机器人在钢桥构件表面行进,进行定时定点检测图像的采集;
结构健康状态评估模块16,用于将采集的检测图像分别输入对应的上述评估模型中,分别得出病害损伤程度、应力状态、疲劳状态的预测评分结果,依据各构件的三个评估分数加权求和后得到钢桥结构整体健康状态评分。
在本发明实施例提供的上述钢桥结构健康状态评估装置中,可以通过上述六个模块的相互作用,可以在桥梁运营中对桥梁整体健康状态进行评估,具有安全有效、操作简便、精度更高、智能化程度高的优点,为桥梁管理者在决策时提供有效的参考依据。
关于上述各个模块更加具体的工作过程可以参考前述实施例公开的相应内容,在此不再进行赘述。
相应的,本发明实施例还公开了一种钢桥结构健康状态评估设备,包括处理器和存储器;其中,处理器执行存储器中保存的计算机程序时实现前述实施例公开的钢桥结构健康状态评估方法。
关于上述方法更加具体的过程可以参考前述实施例中公开的相应内容,在此不再进行赘述。
进一步的,本发明还公开了一种计算机可读存储介质,用于存储计算机程序;计算机程序被处理器执行时实现前述公开的钢桥结构健康状态评估方法。
关于上述方法更加具体的过程可以参考前述实施例中公开的相应内容,在此不再进行赘述。
本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其它实施例的不同之处,各个实施例之间相同或相似部分互相参见即可。对于实施例公开的装置、设备、存储介质而言,由于其与实施例公开的方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。
专业人员还可以进一步意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
结合本文中所公开的实施例描述的方法或算法的步骤可以直接用硬件、处理器执行的软件模块,或者二者的结合来实施。软件模块可以置于随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质中。
本发明实施例提供的一种钢桥结构健康状态评估方法、装置、设备及存储介质,包括:采集钢桥表面各类病害图像,通过图像处理标记结构表面病害种类及损伤程度,并对各类等级的钢桥构件进行静力及疲劳加载试验,采集不同受力状态及疲劳状态下的各构件表面显微图像;以钢桥表面各类病害图像为输入,以病害种类及损伤程度为输出,构建并训练结构病害分类及损伤评估模型;结构病害分类及损伤评估模型用于对病害损伤程度进行评估并评分;以各构件表面显微图像为输入,以钢材种类及应力识别为输出,构建并训练钢材分类及应力评估模型;钢材分类及应力评估模型用于根据应力识别结果与对应种类的钢材性能比较后对应力状态进行评分;以各构件表面显微图像为输入,以钢材种类及疲劳寿命识别为输出,构建并训练钢材分类及疲劳状态评估模型;钢材分类及疲劳状态评估模型用于根据疲劳识别结果与对应种类的钢材性能比较后对疲劳状态进行评分;利用多镜头钢桥爬壁机器人在钢桥构件表面行进,进行定时定点检测图像的采集;将采集的检测图像分别输入对应的上述评估模型中,分别得出病害损伤程度、应力状态、疲劳状态的预测评分结果,依据各构件的三个评估分数加权求和后得到钢桥结构整体健康状态评分。本发明通过深度学习和计算机视觉技术相结合的方式对检测目标进行智能检测和识别,可以在桥梁运营中利用桥梁结构的病害损伤程度、应力状态与疲劳状态这三方面对桥梁整体健康状态进行定量分析评估,为桥梁管理者提供有效的参考依据,进一步拓展了深度学习方法在桥梁工程上的应用,具有安全有效、操作简便、精度更高、智能化程度高的优点,在一定程度上有效缓解人工检测成本高、效率低、主观性强等困难,为进一步拓展桥梁结构健康状态评估的研究方向,提供了有益的探索和参考价值。
最后,还需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上对本发明所提供的钢桥结构健康状态评估方法、装置、设备及存储介质进行了详细介绍,本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的一般技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本发明的限制。
Claims (10)
1.一种钢桥结构健康状态评估方法,其特征在于,包括:
采集钢桥表面各类病害图像,通过图像处理标记结构表面病害种类及损伤程度,并对各类等级的钢桥构件进行静力及疲劳加载试验,采集不同受力状态及疲劳状态下的各构件表面显微图像;
以钢桥表面各类病害图像为输入,以病害种类及损伤程度为输出,构建并训练结构病害分类及损伤评估模型;所述结构病害分类及损伤评估模型用于对病害损伤程度进行评估并评分;
以各构件表面显微图像为输入,以钢材种类及应力识别为输出,构建并训练钢材分类及应力评估模型;所述钢材分类及应力评估模型用于根据应力识别结果与对应种类的钢材性能比较后对应力状态进行评分;
以各构件表面显微图像为输入,以钢材种类及疲劳寿命识别为输出,构建并训练钢材分类及疲劳状态评估模型;所述钢材分类及疲劳状态评估模型用于根据疲劳识别结果与对应种类的钢材性能比较后对疲劳状态进行评分;
利用多镜头钢桥爬壁机器人在钢桥构件表面行进,进行定时定点检测图像的采集;
将采集的所述检测图像分别输入对应的上述评估模型中,分别得出病害损伤程度、应力状态、疲劳状态的预测评分结果,依据各构件的三个评估分数加权求和后得到钢桥结构整体健康状态评分。
2.根据权利要求1所述的钢桥结构健康状态评估方法,其特征在于,所述病害种类包括腐蚀和裂纹;构件表面腐蚀的损伤程度的量化依据为累积腐蚀面积占图像总面积的比例;构件表面裂纹的损伤程度的量化依据为焊缝裂纹长度。
3.根据权利要求2所述的钢桥结构健康状态评估方法,其特征在于,所述结构病害分类及损伤评估模型采用ResNet网络结构,采用的两种损伤函数分别为交叉熵损失函数和欧氏距离损失函数,进行结构病害分类及损伤评估回归任务。
4.根据权利要求1所述的钢桥结构健康状态评估方法,其特征在于,所述钢材分类及应力评估模型采用ResNet网络结构,进行钢材种类分类与应力值评估,采用的两种损伤函数分别为交叉熵损失函数和欧氏距离损失函数,进行钢材种类分类及应力值回归任务;应力状态量化评分的依据是构件当前状态下检测应力值所占其钢材屈服强度的比例。
5.根据权利要求1所述的钢桥结构健康状态评估方法,其特征在于,所述钢材分类及疲劳状态评估模型采用ResNet网络结构,进行钢材种类分类与疲劳状态评估,采用的两种损伤函数分别为交叉熵损失函数和欧氏距离损失函数,进行钢材分类及疲劳加载次数回归任务;疲劳状态量化评分的依据是构件当前状态下检测疲劳加载次数所占其对应钢材规定的极限疲劳加载次数的比例。
6.根据权利要求1所述的钢桥结构健康状态评估方法,其特征在于,采集钢桥表面各类病害图像,采集不同受力状态及疲劳状态下的各构件表面显微图像,具体包括:
通过高清摄像机采集钢桥表面各类病害图像,通过便捷式显微镜采集不同受力状态及疲劳状态下的各构件表面显微图像;所述高清摄像机和所述便捷式显微镜安装在钢桥爬壁机器人上。
7.根据权利要求1所述的钢桥结构健康状态评估方法,其特征在于,依据各构件的三个评估分数加权求和后得到钢桥结构整体健康状态评分,具体包括:
依次对各构件的病害损伤程度、应力状态、疲劳状态这三层进行加权评定;
通过各构件的分层加权评定结果结合各构件单层评估分数,获取钢桥整体单层评估分数;
依据所述钢桥整体单层评估分数,获取钢桥整体三层加权评估分数,以得到钢桥结构整体健康状态评分。
8.一种钢桥结构健康状态评估装置,其特征在于,包括:
原始图像数据采集模块,用于采集钢桥表面各类病害图像,通过图像处理标记结构表面病害种类及损伤程度,并对各类等级的钢桥构件进行静力及疲劳加载试验,采集不同受力状态及疲劳状态下的各构件表面显微图像;
结构病害分类及损伤评估模型构建模块,用于以钢桥表面各类病害图像为输入,以病害种类及损伤程度为输出,构建并训练结构病害分类及损伤评估模型;所述结构病害分类及损伤评估模型用于对病害损伤程度进行评估并评分;
钢材分类及应力评估模型构建模块,用于以各构件表面显微图像为输入,以钢材种类及应力识别为输出,构建并训练钢材分类及应力评估模型;所述钢材分类及应力评估模型用于根据应力识别结果与对应种类的钢材性能比较后对应力状态进行评分;
钢材分类及疲劳状态评估模型构建模块,用于以各构件表面显微图像为输入,以钢材种类及疲劳寿命识别为输出,构建并训练钢材分类及疲劳状态评估模型;所述钢材分类及疲劳状态评估模型用于根据疲劳识别结果与对应种类的钢材性能比较后对疲劳状态进行评分;
检测图像采集模块,用于利用多镜头钢桥爬壁机器人在钢桥构件表面行进,进行定时定点检测图像的采集;
结构健康状态评估模块,用于将采集的所述检测图像分别输入对应的上述评估模型中,分别得出病害损伤程度、应力状态、疲劳状态的预测评分结果,依据各构件的三个评估分数加权求和后得到钢桥结构整体健康状态评分。
9.一种钢桥结构健康状态评估设备,其特征在于,包括处理器和存储器,其中,所述处理器执行所述存储器中保存的计算机程序时实现如权利要求1至7任一项所述的钢桥结构健康状态评估方法。
10.一种计算机可读存储介质,其特征在于,用于存储计算机程序,其中,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的钢桥结构健康状态评估方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010934875.4A CN111795978B (zh) | 2020-09-08 | 2020-09-08 | 一种钢桥结构健康状态评估方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010934875.4A CN111795978B (zh) | 2020-09-08 | 2020-09-08 | 一种钢桥结构健康状态评估方法、装置、设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111795978A true CN111795978A (zh) | 2020-10-20 |
CN111795978B CN111795978B (zh) | 2020-12-04 |
Family
ID=72834212
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010934875.4A Active CN111795978B (zh) | 2020-09-08 | 2020-09-08 | 一种钢桥结构健康状态评估方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111795978B (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112229800A (zh) * | 2020-12-14 | 2021-01-15 | 湖南大学 | 非接触式铁路桥梁状况综合检测方法和系统 |
CN112446612A (zh) * | 2020-11-25 | 2021-03-05 | 大连理工大学 | 一种软刚臂系泊系统连接结构的损伤评估系统及评估方法 |
CN114510767A (zh) * | 2022-02-22 | 2022-05-17 | 中交四公局第一工程有限公司 | 一种基于三维立体建模的钢结构装配效果评估方法及系统 |
CN115032206A (zh) * | 2022-06-15 | 2022-09-09 | 招商局重庆交通科研设计院有限公司 | 一种桥梁机器人智能检测方法 |
CN115063040A (zh) * | 2022-07-28 | 2022-09-16 | 湖南工商大学 | 一种用于房屋建筑结构健康协同评估与预测的方法及系统 |
CN117077873A (zh) * | 2023-10-18 | 2023-11-17 | 金现代信息产业股份有限公司 | 一种工器具报废预测方法、系统、设备及介质 |
Citations (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP0921371A3 (en) * | 1997-12-05 | 2001-06-06 | Ford Global Technologies, Inc. | Method of using a microscopic digital strain gauge |
EP1139088A2 (en) * | 2000-03-30 | 2001-10-04 | Kawasaki Jukogyo Kabushiki Kaisha | Crack-type fatigue detecting sensor, method for fabricating crack-type fatigue detecting sensor, and method for estimating damage using crack-type fatique detecting sensor |
CN102384856A (zh) * | 2011-08-15 | 2012-03-21 | 东南大学 | 基于概率有限元法的钢桥疲劳可靠度评估方法 |
US20120120246A1 (en) * | 2009-05-15 | 2012-05-17 | Pasco Corporation | Method for detecting damage to a deck of a bridge |
CN103293014A (zh) * | 2013-05-17 | 2013-09-11 | 东南大学 | 一种桥梁疲劳损伤状态与剩余寿命的评估方法 |
CN107064169A (zh) * | 2017-01-22 | 2017-08-18 | 太原科技大学 | 一种桥梁裂缝检测装置及检测方法 |
CN107642036A (zh) * | 2017-09-11 | 2018-01-30 | 中交第公路勘察设计研究院有限公司 | 桥梁快速可视化检测装置及其系统和方法 |
CN108896562A (zh) * | 2018-07-12 | 2018-11-27 | 广西大学 | 基于表面显微形貌特征图像分析的材料剩余寿命评估方法 |
CN109408985A (zh) * | 2018-11-01 | 2019-03-01 | 哈尔滨工业大学 | 基于计算机视觉的桥梁钢结构裂缝精准识别方法 |
CN109559025A (zh) * | 2018-11-15 | 2019-04-02 | 安徽省交通控股集团有限公司 | 一种桥梁检监测一体化健康状况评估体系及其使用方法 |
CN110031477A (zh) * | 2019-04-04 | 2019-07-19 | 中设设计集团股份有限公司 | 基于图像监控数据的桥梁关键构件病害预警系统及方法 |
CN110197203A (zh) * | 2019-05-08 | 2019-09-03 | 湖北民族大学 | 基于宽度学习神经网络的桥梁路面裂缝分类识别方法 |
CN111292305A (zh) * | 2020-01-22 | 2020-06-16 | 重庆大学 | 一种改进型yolo-v3的金属加工表面缺陷检测方法 |
CN111562220A (zh) * | 2020-06-02 | 2020-08-21 | 吉林大学 | 一种桥梁病害快速智能检测方法 |
CN111581830A (zh) * | 2020-05-11 | 2020-08-25 | 湖北特种设备检验检测研究院 | 一种基于材料腐蚀损伤因子和焊缝裂纹损伤因子的金属结构疲劳寿命计算方法 |
CN111598879A (zh) * | 2020-05-18 | 2020-08-28 | 湖南大学 | 一种结构疲劳累积损伤评估的方法、系统及设备 |
-
2020
- 2020-09-08 CN CN202010934875.4A patent/CN111795978B/zh active Active
Patent Citations (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP0921371A3 (en) * | 1997-12-05 | 2001-06-06 | Ford Global Technologies, Inc. | Method of using a microscopic digital strain gauge |
EP1139088A2 (en) * | 2000-03-30 | 2001-10-04 | Kawasaki Jukogyo Kabushiki Kaisha | Crack-type fatigue detecting sensor, method for fabricating crack-type fatigue detecting sensor, and method for estimating damage using crack-type fatique detecting sensor |
US20120120246A1 (en) * | 2009-05-15 | 2012-05-17 | Pasco Corporation | Method for detecting damage to a deck of a bridge |
CN102384856A (zh) * | 2011-08-15 | 2012-03-21 | 东南大学 | 基于概率有限元法的钢桥疲劳可靠度评估方法 |
CN103293014A (zh) * | 2013-05-17 | 2013-09-11 | 东南大学 | 一种桥梁疲劳损伤状态与剩余寿命的评估方法 |
CN107064169A (zh) * | 2017-01-22 | 2017-08-18 | 太原科技大学 | 一种桥梁裂缝检测装置及检测方法 |
CN107642036A (zh) * | 2017-09-11 | 2018-01-30 | 中交第公路勘察设计研究院有限公司 | 桥梁快速可视化检测装置及其系统和方法 |
CN108896562A (zh) * | 2018-07-12 | 2018-11-27 | 广西大学 | 基于表面显微形貌特征图像分析的材料剩余寿命评估方法 |
CN109408985A (zh) * | 2018-11-01 | 2019-03-01 | 哈尔滨工业大学 | 基于计算机视觉的桥梁钢结构裂缝精准识别方法 |
CN109559025A (zh) * | 2018-11-15 | 2019-04-02 | 安徽省交通控股集团有限公司 | 一种桥梁检监测一体化健康状况评估体系及其使用方法 |
CN110031477A (zh) * | 2019-04-04 | 2019-07-19 | 中设设计集团股份有限公司 | 基于图像监控数据的桥梁关键构件病害预警系统及方法 |
CN110197203A (zh) * | 2019-05-08 | 2019-09-03 | 湖北民族大学 | 基于宽度学习神经网络的桥梁路面裂缝分类识别方法 |
CN111292305A (zh) * | 2020-01-22 | 2020-06-16 | 重庆大学 | 一种改进型yolo-v3的金属加工表面缺陷检测方法 |
CN111581830A (zh) * | 2020-05-11 | 2020-08-25 | 湖北特种设备检验检测研究院 | 一种基于材料腐蚀损伤因子和焊缝裂纹损伤因子的金属结构疲劳寿命计算方法 |
CN111598879A (zh) * | 2020-05-18 | 2020-08-28 | 湖南大学 | 一种结构疲劳累积损伤评估的方法、系统及设备 |
CN111562220A (zh) * | 2020-06-02 | 2020-08-21 | 吉林大学 | 一种桥梁病害快速智能检测方法 |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112446612A (zh) * | 2020-11-25 | 2021-03-05 | 大连理工大学 | 一种软刚臂系泊系统连接结构的损伤评估系统及评估方法 |
CN112229800A (zh) * | 2020-12-14 | 2021-01-15 | 湖南大学 | 非接触式铁路桥梁状况综合检测方法和系统 |
CN112229800B (zh) * | 2020-12-14 | 2021-03-12 | 湖南大学 | 非接触式铁路桥梁状况综合检测方法和系统 |
CN114510767A (zh) * | 2022-02-22 | 2022-05-17 | 中交四公局第一工程有限公司 | 一种基于三维立体建模的钢结构装配效果评估方法及系统 |
CN114510767B (zh) * | 2022-02-22 | 2022-09-02 | 中交第四公路工程局有限公司 | 一种基于三维立体建模的钢结构装配效果评估方法及系统 |
CN115032206A (zh) * | 2022-06-15 | 2022-09-09 | 招商局重庆交通科研设计院有限公司 | 一种桥梁机器人智能检测方法 |
CN115063040A (zh) * | 2022-07-28 | 2022-09-16 | 湖南工商大学 | 一种用于房屋建筑结构健康协同评估与预测的方法及系统 |
CN115063040B (zh) * | 2022-07-28 | 2022-11-08 | 湖南工商大学 | 一种用于房屋建筑结构健康协同评估与预测的方法及系统 |
CN117077873A (zh) * | 2023-10-18 | 2023-11-17 | 金现代信息产业股份有限公司 | 一种工器具报废预测方法、系统、设备及介质 |
CN117077873B (zh) * | 2023-10-18 | 2024-06-04 | 金现代信息产业股份有限公司 | 一种工器具报废预测方法、系统、设备及介质 |
Also Published As
Publication number | Publication date |
---|---|
CN111795978B (zh) | 2020-12-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111795978B (zh) | 一种钢桥结构健康状态评估方法、装置、设备及存储介质 | |
Sohn et al. | A review of structural health monitoring literature: 1996–2001 | |
Nair et al. | Acoustic emission pattern recognition in CFRP retrofitted RC beams for failure mode identification | |
CN107092735A (zh) | 一种桥梁疲劳状态评估方法 | |
CN103838931A (zh) | 一种工程机械臂架类结构再制造准入期评估方法 | |
CN111368423A (zh) | 一种车载桥梁承载能力快速检测评估系统及方法 | |
CN110852001A (zh) | 一种基于图像处理的桥梁结构安全评估方法 | |
Pardo-Ferreira et al. | Evolution of the Functional Resonance Analysis Method (FRAM) through the combination with other methods | |
Katam et al. | A review on structural health monitoring: past to present | |
CN111695176A (zh) | 大跨径斜拉桥拉索状况评定方法及装置 | |
Maalej et al. | Automatic crack detection on concrete structure using a deep convolutional neural network and transfer learning | |
CN117233347B (zh) | 一种碳钢球化等级测量方法、系统及设备 | |
Asjodi et al. | Extended fragility surfaces for unreinforced masonry walls using vision-derived damage parameters | |
CN117172622B (zh) | 基于多源数据分析的装配式建筑质量管理方法与系统 | |
Padmapoorani et al. | Machine learning techniques for structural health monitoring of concrete structures: A systematic review | |
CN117349947A (zh) | 一种基于sn曲线与svm的结构安全智慧监测方法 | |
CN104504265A (zh) | 一种在役桥梁监测信息安全评估的方法 | |
CN110378622B (zh) | 一种可重复使用钢构件的寿命评估方法及租赁管理方法 | |
Hamdan et al. | A knowledge-based Approach for the Assessment of Damages to Constructions | |
CN112818454B (zh) | 一种吊杆拱桥桥面系裂缝宽度计算方法及系统 | |
Yasuda et al. | Fatigue crack detection system based on IoT and statistical analysis | |
Dong et al. | Risk assessment of remanufacturing arm structure for crane based on potential failure mode | |
CN114722858A (zh) | 一种预应力混凝土结构的安全评估方法 | |
Bernat et al. | Aided diagnosis of structural pathologies with an expert system | |
Chen et al. | Smart bridge maintenance using cluster merging algorithm based on self-organizing map optimization |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |