CN115983141B - 一种基于深度学习反演海浪波高的方法、介质及系统 - Google Patents

一种基于深度学习反演海浪波高的方法、介质及系统 Download PDF

Info

Publication number
CN115983141B
CN115983141B CN202310272210.5A CN202310272210A CN115983141B CN 115983141 B CN115983141 B CN 115983141B CN 202310272210 A CN202310272210 A CN 202310272210A CN 115983141 B CN115983141 B CN 115983141B
Authority
CN
China
Prior art keywords
image
wave
buoy
sea
sea wave
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202310272210.5A
Other languages
English (en)
Other versions
CN115983141A (zh
Inventor
胡伟
黄文华
李锐
王志勇
崔学荣
王宁
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beihai Prediction Center Of State Oceanic Administration Qingdao Ocean Prediction Station Of State Oceanic Administration Qingdao Marine Environment Monitoring Center Station Of State Oceanic Administration
Original Assignee
Beihai Prediction Center Of State Oceanic Administration Qingdao Ocean Prediction Station Of State Oceanic Administration Qingdao Marine Environment Monitoring Center Station Of State Oceanic Administration
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beihai Prediction Center Of State Oceanic Administration Qingdao Ocean Prediction Station Of State Oceanic Administration Qingdao Marine Environment Monitoring Center Station Of State Oceanic Administration filed Critical Beihai Prediction Center Of State Oceanic Administration Qingdao Ocean Prediction Station Of State Oceanic Administration Qingdao Marine Environment Monitoring Center Station Of State Oceanic Administration
Priority to CN202310272210.5A priority Critical patent/CN115983141B/zh
Publication of CN115983141A publication Critical patent/CN115983141A/zh
Application granted granted Critical
Publication of CN115983141B publication Critical patent/CN115983141B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02ATECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
    • Y02A90/00Technologies having an indirect contribution to adaptation to climate change
    • Y02A90/10Information and communication technologies [ICT] supporting adaptation to climate change, e.g. for weather forecasting or climate simulation

Landscapes

  • Image Processing (AREA)

Abstract

本发明提供了一种基于深度学习反演海浪波高的方法、介质及系统,属于海洋环境技术领域,该基于深度学习反演海浪波高的方法包括实时获取海浪基础数据,包括海浪图像、风速、风向、相对湿度、温度;将海浪基础数据输入预先训练好的海浪反演模型;所述海浪反演模型输出海浪波高。该方法根据实时获取海浪基础数据,利用预先训练好的海浪反演模型进行计算,可以得到海浪波高,由于同时考虑了风速、风向、相对湿度、温度数据,利用对海浪图像进行清晰处理的步骤,能够有效减少当空气湿度大、雾气浓或者光照亮度不够时的条件下对海浪图像产生的影响;利用高斯模型原理过滤掉背景的前浪点集合能够准确的反应浪高,有利于提高模型的精确性。

Description

一种基于深度学习反演海浪波高的方法、介质及系统
技术领域
本发明属于海洋环境技术领域,具体而言,涉及一种基于深度学习反演海浪波高的方法、介质及系统。
背景技术
海浪包含巨大的能量,对船舶航行、海岸防护、泥沙搬运有重大影响。监测海浪要素对设计、建造、实施和转移海洋结构物(平台、船只和防波堤等)、估算海洋沉积物的传输速率,监测预测海洋灾害(海浪、台风等)、以及估算海港和海洋结构物附近的腐蚀和沉积速率具有十分重大的意义。
现有技术的缺陷和不足:
目前,海浪观测的传统方法主要包括:浮标观测、测波杆观测、遥感观测等方式。其中,浮标观测是监测近岸海浪要素最常用的方法,但是浮标设备的运行和维护成本太高。测波杆的结构简单、分辨率高、对波动响应也十分敏感,但测波杆的安装需要依托固定建筑物,且维护繁琐,需定时清理。遥感观测也可以获取海浪要素,但精度远低于浮标观测。利用海浪图像和气象要素(风速、风向、相对湿度、温度)反演海浪要素既比浮标观测投入少,又比遥感观测的精度高。
公开号为CN114445634A的中国发明专利(申请号:CN202210189203.4 )公开了一种基于深度学习模型的海浪波高预测方法及系统,包括以下步骤:获取海浪波高的图片数据;对所述海浪波高的图片数据进行预处理,并将预处理后的海浪波高的图片数据作为训练数据集;构建海浪有效波高数据预测模型,将所述训练数据集输入海浪有效波高数据预测模型中进行深度学习训练,直至达到预设精度,获得最优预测模型;通过所述最优预测模型进行海浪有效波高预测,并对预测结果进行反归一化,得到海浪有效波高的预测值。
由于风速、风向、相对湿度、温度会对海浪的波高造成不小影响,上述发明专利只考虑了海浪波高的图片数据作为预测数据,缺乏对风速、风向、相对湿度、温度的分析,造成预测的海浪波高数据不够准确。
发明内容
有鉴于此,本发明提供一种基于深度学习反演海浪波高的方法,解决了缺乏对风速、风向、相对湿度、温度的分析,造成预测的海浪波高数据不够准确的技术问题。
本发明是这样实现的:
本发明的第一方面提供一种基于深度学习反演海浪波高的方法,其中,包含如下步骤:
S10:实时获取海浪基础数据,包括海浪图像、海浪距离、风速、风向、相对湿度、温度;
S20:将海浪基础数据输入预先训练好的海浪反演模型;
S30:利用实时采集的海浪基础数据输入所述海浪反演模型,输出海浪波高。
其中,采集海浪图像的装置为部署在海岸线以外10米~25米范围内陆地上的多个摄像头,其中摄像头的摄像方向朝向海面;采集风速、风向的装置为部署在海岸线以外10米~25米范围内陆地上的多个电子风速计,以及海岸线以内的10米~10千米范围内的多个电子风速计;采集相对湿度、温度的装置为部署在海岸线以外10米~25米范围内陆地上的多个电子温湿度计,以及海岸线以内的10米~10千米范围内的多个电子温湿度计;对风速、风向、相对湿度、温度采集频率为每10秒~60秒采集一次;对海浪图像的采集频率为1分钟采集一次,并对海浪图像标记对应的采集时间。
上述技术方案根据实时获取海浪基础数据,包括海浪图像、海浪距离、风速、风向、相对湿度、温度,利用预先训练好的海浪反演模型进行计算,可以得到海浪波高,由于同时考虑了风速、风向、相对湿度、温度数据,使得反演得到的海浪波高数据更加准确。
在上述技术方案的基础上,本发明的一种基于深度学习反演海浪波高的方法还可以做如下改进:
其中,所述海浪反演模型的建立步骤包括:
采集指定时间长度的海浪基础数据及其对应的实际海浪波高数据作为深度学习网络训练样本,将深度学习网络训练样本按照6:2:2的比例进行划分为训练集、验证集和测试集;其中,所述海浪基础数据中风速、风向、相对湿度、温度与海浪图像标记的采集时间所对应;所述海浪基础数据对应的实际海浪波高数据来自于多个海面浮标的数据,且多个海面浮标的表面图像不同,所述海面浮标的数据与海浪图像标记的采集时间所对应;其中,海浪距离的采集方式为:采用无线电波对海浪进行测距,得到海浪距离;
利用卷积神经网络构建海浪反演模型雏形;
采用训练集对海浪反演模型雏形通过卷积神经网络训练得到海浪反演模型;
采用验证集和测试集对海浪反演模型进行验证和测试,优化海浪反演模型。
所述采用验证集和测试集对海浪反演模型进行验证和测试,优化海浪反演模型的步骤是:
将验证集中的海浪基础数据输入海浪反演模型,输出第一浪高数据;
若第一浪高数据与验证集中的实际海浪波高数据差距超过10%时,则采用随机梯度下降优化算法进行反向传播网络训练,更新骨干层的参数,以训练集和验证集的并集作为训练集对海浪反演模型进一步训练;
将测试集中的海浪基础数据输入进一步训练好的海浪反演模型,输出第二浪高数据;
若第二浪高数据与测试集中的实际海浪波高数据差距超过10%时,则采用随机梯度下降优化算法进行反向传播网络训练,更新骨干层的参数,以训练集、验证集以及测试集的并集作为训练集对海浪反演模型进一步训练。
进一步的,所述卷积神经网络包含1个输入层,1个骨干网络、1个Flatten层,1个全连接层以及1个输出层。
所述输入层用于输入训练样本的海浪基础数据。
进一步的,所述骨干层用于处理海浪图像,对海浪图像预处理后得到的预处理数据集进行特征提取,得到预处理数据集的高维稀疏数据,然后将得到的高维稀疏数据利用Flatten层进行展平,将展平后的数据输入4层的节点数为256的激活函数为Relu的全连接网络进行特征提取,得到表示海浪图像的256维的向量,记为第一向量,所述骨干层进行特征提取所使用网络骨架是DenseNet121,其中骨干网络DenseNet121由1个包含6个卷积层的Dense Block、1个包含12个卷积层的Dense Block 块、1个包含24个卷积层的Dense Block块和1个包含16个卷积层的Dense Block块依次堆叠而成。Dense Block中每个卷积层的输入为前面所有卷积层的输出。
进一步的,所述全连接层用于将风速、风向、相对湿度、温度构成的4维向量输入全连接层进行特征提取得到表示风速、风向、相对湿度、温度的256维向量记为第二向量;将所述第一向量和所述第二向量拼接为一个512维的向量,记为第三向量;将第三项向量通过全连接层进行海浪波高预测,输出海浪波高;当输出的海浪波高与期望输出相差超过10%,则采用随机梯度下降优化算法进行反向传播网络训练,更新骨干层的参数。
进一步的,所述海浪图像预处理后得到的预处理数据集的步骤具体包括:
对海浪图像进行清晰处理;
提取海浪图像中的前浪点集合作为预处理数据集。
进一步的,对海浪图像进行清晰处理的步骤包括:
将采集海浪图像的视频流信号转成YUV三分量,并获取视频流信号内各帧图像中像素的Y分量;
对各像素的Y分量进行加权统计计算;其中,采用如下公式对各像素的Y分量进行加权统计计算:
Figure SMS_1
Figure SMS_2
其中,
Figure SMS_3
和/>
Figure SMS_4
分别表示第n帧图像中像素的加权统计计算的结果;n为大于0的自然数;i,j为像素的行列坐标;/>
Figure SMS_5
=0;/>
Figure SMS_6
=0;/>
Figure SMS_7
表示第n帧图像当前像素的Y分量;α∈[0,1];β∈[0,100];
根据加权统计计算的结果及相应像素的Y分量判断该像素是否存在噪声,根据加权统计计算的结果与相应像素的Y分量进行计算,计算公式如下:
Figure SMS_8
Figure SMS_9
根据计算结果L1与L2判断对应帧的像素是否存在噪声;
若是,则根据加权统计计算的结果对相应像素进行清晰处理,具体为:
获取存在噪声的像素加权统计计算的结果
Figure SMS_10
将加权统计计算的结果
Figure SMS_11
赋值给相应像素的Y分量;
采用上述改进方案的有益效果为:经过对海浪图像进行清晰处理的步骤,能够有效减少当空气湿度大、雾气浓或者光照亮度不够时的条件下对海浪图像产生的影响。
进一步的,提取海浪图像中的前浪点集合的步骤包括:
获取多个海面浮标在一个海浪波形中最高点的海浪图像作为第一图像,获取多个海面浮标在所述海浪波形中最低点的海浪图像作为第二图像;
确定所述第一图像的第一变化检测区域和所述第二图像的第二变化检测区域;其中,所述第一变化检测区域为所述海面浮标所在区域,所述第二变化检测区域为所述第二图像中海面浮标所在区域;
将第一变化检测区域和所述第二变化检测区域分别进行图像增强,得到第一变化检测区域的增强后图像和第二变化检测区域的增强后图像;
将所述第一变化检测区域的增强后图像和所述第二变化检测区域的增强后图像分别通过均值滤波器进行滤波,得到第一变化检测区域的滤波后图像和第二变化检测区域的滤波后图像;
将所述第一变化检测区域的滤波后图像和所述第二变化检测区域的滤波后图像分别进行边缘检测与浮标图像寻找,得到所述第一变化检测区域的第一所有浮标图像和所述第二变化检测区域的第二所有浮标图像;
分别计算所述第一所有浮标图像的第一归一化中心矩和所述第二所有浮标图像的第二归一化中心矩;
根据所述第一归一化中心矩计算得到第一浮标图像特征;并根据所述第二归一化中心矩计算得到第二浮标图像特征;其中,所述第一浮标图像特征和第二浮标图像特征均包括中心、弧长与面积;
根据所述第一归一化中心矩和所述第一浮标图像特征计算所述第一所有浮标图像与基本浮标图像的第一相似度;并根据所述第二归一化中心矩和所述第二浮标图像特征计算所述第二所有浮标图像与基本浮标图像的第二相似度;其中,基本浮标图像为浮标在平面上的图像;
根据所述第一相似度得到所述第一变化检测区域的第一浮标图像匹配结果,根据所述第二相似度得到第二变化检测区域的第二浮标图像匹配结果;
将所述第一浮标图像匹配结果和所述第二浮标图像匹配结果进行局部特征匹配,得到所述第一浮标图像匹配结果相较于所述第二浮标图像匹配结果的变化值,具体为:
通过黑塞矩阵生成所述第一浮标图像匹配结果的第一所有特征点和所述第二浮标图像匹配结果的第二所有特征点;
通过不同尺寸的盒状滤波器分别对第一浮标图像匹配结果和所述第二浮标图像匹配结果进行卷积,得到第一浮标图像匹配结果的第一尺度空间和第二浮标图像匹配结果的第二尺度空间;
根据所述第一浮标图像匹配结果的第一所有特征点与第一浮标图像匹配结果的第一尺度空间进行特征点定位,得到第一稳定特征点集合;并根据所述第二浮标图像匹配结果的第二所有特征点与第二浮标图像匹配结果的第二尺度空间进行特征点定位,得到第二稳定特征点集合;
分别以第一稳定特征点集合和第二稳定特征点集合为圆心统计预设半径内的harr小波特征,得到第一稳定特征点集合的第一主方向集合和第二稳定特征点集合的第二主方向集合;
根据所述第一主方向集合生成第一特征点描述子集合,并根据第二主方向集合生成第二特征点描述子集合;
根据所述第一特征点描述子集合和所述第二特征点描述子集合,并利用最小二乘法计算第一稳定特征点集合中的任一点与第二稳定特征点集合中所有点的匹配度,根据所述匹配度得到第一稳定特征点集合中的任一点在所述第二稳定特征点中的对应点;
根据所述第一稳定特征点集合中的任一点与所述第一稳定特征点集合中的任一点在所述第二稳定特征点中的对应点组成匹配点对;
根据所述匹配点对计算所述第一浮标图像匹配结果相较于所述第二浮标图像匹配结果的变化值;
将所述第一图像转换成掩膜图像,并将所述掩膜图像输入混合高斯背景模型,得到所述混合高斯背景模型输出的掩膜图像点的高斯类别,所述高斯类别包括前景和背景;
以掩膜图像中高斯类别为前景的点的集合为前浪点集合。
采用上述改进方案的有益效果为:由于海浪是连续的,且海水颜色统一,在海浪图像中前浪和后浪之间缺乏明显的界限,由于海浪图像是平面的,前浪后浪叠加在一个图像平面中,需要对前浪进行区别,防止背景海水对前浪的图像区域造成影响,在分析海浪波高数据时,需要过滤掉前浪的背景。利用高斯模型原理过滤掉背景的前浪点集合能够准确的反应浪高,有利于提高模型的精确性。
本发明的第二方面提供一种计算机可读存储介质,包含存储有程序指令,所述程序指令运行时用于上述的基于深度学习反演海浪波高的方法。
本发明的第三方面提供一种基于深度学习反演海浪波高的系统,其中,包含上述的计算机可读存储介质。
与现有技术相比较,本发明提供的一种基于深度学习反演海浪波高的方法、介质及系统的有益效果是:根据实时获取海浪基础数据,包括海浪图像、风速、风向、相对湿度、温度,利用预先训练好的海浪反演模型进行计算,可以得到海浪波高,由于同时考虑了风速、风向、相对湿度、温度数据,使得反演得到的海浪波高数据更加准确。经过对海浪图像进行清晰处理的步骤,能够有效减少当空气湿度大、雾气浓或者光照亮度不够时的条件下对海浪图像产生的影响。由于海浪是连续的,且海水颜色统一,在海浪图像中前浪和后浪之间缺乏明显的界限,由于海浪图像是平面的,前浪后浪叠加在一个图像平面中,需要对前浪进行区别,防止背景海水对前浪的图像区域造成影响,在分析海浪波高数据时,需要过滤掉前浪的背景。利用高斯模型原理过滤掉背景的前浪点集合能够准确的反应浪高,有利于提高模型的精确性。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对本发明实施例的描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本发明公开的一种基于深度学习反演海浪波高的方法的流程图。
具体实施方式
为使本发明实施方式的目的、技术方案和优点更加清楚,下面将结合本发明实施方式中的附图,对本发明实施方式中的技术方案进行清楚、完整地描述,显然,所描述的实施方式是本发明一部分实施方式,而不是全部的实施方式。基于本发明中的实施方式,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施方式,都属于本发明保护的范围。
因此,以下对在附图中提供的本发明的实施方式的详细描述并非旨在限制要求保护的本发明的范围,而是仅仅表示本发明的选定实施方式。基于本发明中的实施方式,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施方式,都属于本发明保护的范围。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。
在本发明的描述中,需要理解的是,术语“中心”、“纵向”、“横向”、“长度”、“宽度”、“厚度”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”、“内”、“外”、“顺时针”、“逆时针”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的设备或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。
此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。在本发明的描述中,“多个”的含义是两个或两个以上,除非另有明确具体的限定。
如图1所示,是本发明第一方面提供一种基于深度学习反演海浪波高的方法的流程图,本方法包含如下步骤:
S10:实时获取海浪基础数据,包括海浪图像、海浪距离、风速、风向、相对湿度、温度;
S20:将海浪基础数据输入预先训练好的海浪反演模型;
S30:利用实时采集的海浪基础数据输入海浪反演模型,输出海浪波高。
其中,采集海浪图像的装置为部署在海岸线以外10米~25米范围内陆地上的多个摄像头,其中摄像头的摄像方向朝向海面;采集风速、风向的装置为部署在海岸线以外10米~25米范围内陆地上的多个电子风速计,以及海岸线以内的10米~10千米范围内的多个电子风速计;采集相对湿度、温度的装置为部署在海岸线以外10米~25米范围内陆地上的多个电子温湿度计,以及海岸线以内的10米~10千米范围内的多个电子温湿度计;对风速、风向、相对湿度、温度采集频率为每10秒~60秒采集一次;对海浪图像的采集频率为1分钟采集一次,并对海浪图像标记对应的采集时间;
采集海浪距离的装置为部署在每个摄像头下方的雷达,公开号为
Figure SMS_12
的中国发明专利(申请号为CN201310237383.X)公开了一种波导超视距海浪监测雷达,具有:测量水文气象数据的传感器单元、还具有:计算当前气象条件下是否具有海面蒸发波导的波导计算模块以及判断雷达在当前气象条件下是否具有超视距性能的超视距评估模模块;海浪监测模块:在具有海面蒸发波导的情况下,对当前雷达的检测范围的任意方向划定等距网格,记录每个网格的雷达回波强度,去除海面目标的强信号,保留回波中的海杂波弱信号;判定回波中海杂波弱信号强度大于周边网格的若干网格为浪峰;得到扫描区域内的所有海浪浪峰回波信号,得到相邻浪峰的长度,即海浪波长;记录两个相邻的雷达扫描周期,得到海浪的移动方向、距离、移动速度并计算海浪频率,完成海浪监测。
在上述发明中,提供了对海浪距离的探测手段,如下:
计算当前气象条件下是否具有海面蒸发波导的波导计算模块以及判断雷达在当前气象条件下是否具有超视距性能的超视距评估模块;海浪监测模块:在具有海面蒸发波导的情况下,对当前雷达的检测范围的任意方向划定等距网格,记录每个网格的雷达回波强度,去除海面目标的强信号,保留回波中的海杂波弱信号;判定回波中海杂波弱信号强度大于周边网格的若干网格为浪峰;得到扫描区域内的所有海浪浪峰回波信号,得到相邻浪峰的长度,即海浪波长;记录两个相邻的雷达扫描周期,得到海浪的移动方向、距离、移动速度并计算海浪频率,完成海浪监测、对海面溢油和海流进行有效的探测。
本发明的方案中,利用上述发明的装置,可简单的得到海浪距离。
由于本发明的方案中,仅需要采用上述发明的思路实现海浪距离的探测,也可以采用无线电波测距的方式获取海浪距离。
公开号为CN104331588B的中国发明专利(申请号为CN201410081497.4)公开了一种海面风场和海浪联合反演的装置,装置包括:定标模块,用于将风场数据库中合成孔径雷达图像进行辐射定标;分割模块,用于将已过滤的图像按照预设大小进行分割得到若干个子图像;插值计算模块,用于采用人机交互式获取外部风向信息,并得到相应子图像的风向;反演模块,用于反演获得海面风场;分离处理模块,用于输入海面风场,采用波数分离法进行分离,得到合成孔径雷达图像的风浪图像谱和涌浪图像谱;联合反演模块,用于联合反演处理得到海浪谱,得到海浪要素。实现了避免重复输入外部信息,对SAR海面风场的反馈更加精准和高效,保证了风场与海浪具有相同空间分辨率,提高了反演结果的准确性。这一发明充分考虑了风场对于海浪的影响;
公开号为CN114491386B的中国发明专利(申请号为CN202210158849.6)公开了一种基于海气温差的海浪有效波高订正方法、装置、计算机设备和存储介质,这一发明基于对现有技术问题的进一步分析和研究,认识到空气和水之间的温差会影响大气边界层的层结稳定性,边界结构的改变会影响风浪的成长关系;研究发现,在大气层结不稳定条件下,风浪成长率增强,而在稳定条件下,风浪成长率减小。
由于海岸附近的湿度较大,会对温度的变化产生影响,因此海岸附近的湿度会对海浪产生间接影响,在本方案中,同样将湿度作为分析海浪波高的因素。
其中,在上述技术方案中,海浪反演模型的建立步骤包括:
采集指定时间长度的海浪基础数据及其对应的实际海浪波高数据作为深度学习网络训练样本,将深度学习网络训练样本按照6:2:2的比例进行划分为训练集、验证集和测试集;其中,海浪基础数据中风速、风向、相对湿度、温度与海浪图像标记的采集时间所对应;海浪基础数据对应的实际海浪波高数据来自于多个海面浮标的数据,且多个海面浮标的表面图像不同,海面浮标的数据与海浪图像标记的采集时间所对应;其中,海浪距离的采集方式为:采用无线电波对海浪进行测距,得到海浪距离;
一般的,为了更好的测试海浪波高获得实际海浪波高数据,在构建深度学习网络训练样本时,部署的海面浮标密度大于1个/10平方米;
利用卷积神经网络构建海浪反演模型雏形;
采用训练集对海浪反演模型雏形通过卷积神经网络训练得到海浪反演模型;
采用验证集和测试集对海浪反演模型进行验证和测试,优化海浪反演模型。
采用验证集和测试集对海浪反演模型进行验证和测试,优化海浪反演模型的步骤是:
将验证集中的海浪基础数据输入海浪反演模型,输出第一浪高数据;
若第一浪高数据与验证集中的实际海浪波高数据差距超过10%时,则采用随机梯度下降优化算法进行反向传播网络训练,更新骨干层的参数,以训练集和验证集的并集作为训练集对海浪反演模型进一步训练;
将测试集中的海浪基础数据输入进一步训练好的海浪反演模型,输出第二浪高数据;
若第二浪高数据与测试集中的实际海浪波高数据差距超过10%时,则采用随机梯度下降优化算法进行反向传播网络训练,更新骨干层的参数,以训练集、验证集以及测试集的并集作为训练集对海浪反演模型进一步训练。
进一步的,在上述技术方案中,卷积神经网络包含1个输入层,1个骨干层、1个Flatten层,1个全连接层以及1个输出层。
输入层用于输入训练样本的海浪基础数据。
进一步的,在上述技术方案中,骨干层用于处理海浪图像,对海浪图像预处理后得到的预处理数据集进行特征提取,得到预处理数据集的高维稀疏数据,然后将得到的高维稀疏数据利用Flatten层进行展平,将展平后的数据输入4层的节点数为256的激活函数为Relu的全连接网络进行特征提取,得到表示海浪图像的256维的向量,记为第一向量,骨干层进行特征提取所使用网络骨架是DenseNet121,其中,骨干网络DenseNet121由1个包含6个卷积层的Dense Block、1个包含12个卷积层的Dense Block 块、1个包含24个卷积层的Dense Block块和1个包含16个卷积层的Dense Block块依次堆叠而成。Dense Block中每个卷积层的输入为前面所有卷积层的输出。
进一步的,在上述技术方案中,全连接层用于将风速、风向、相对湿度、温度构成的4维向量输入全连接层进行特征提取得到表示风速、风向、相对湿度、温度的256维向量记为第二向量;将第一向量和第二向量拼接为一个512维的向量,记为第三向量;将第三项向量通过全连接层进行海浪波高预测,输出海浪波高;当输出的海浪波高与期望输出相差超过10%,则采用随机梯度下降优化算法进行反向传播网络训练,更新骨干层的参数。
进一步的,在上述技术方案中,海浪图像预处理后得到的预处理数据集的步骤具体包括:
对海浪图像进行清晰处理;
提取海浪图像中的前浪点集合作为预处理数据集。
进一步的,在上述技术方案中,对海浪图像进行清晰处理的步骤包括:
将采集海浪图像的视频流信号转成YUV三分量,并获取视频流信号内各帧图像中像素的Y分量;
对各像素的Y分量进行加权统计计算;其中,采用如下公式对各像素的Y分量进行加权统计计算:
Figure SMS_13
Figure SMS_14
其中,
Figure SMS_15
和/>
Figure SMS_16
分别表示第n帧图像中像素的加权统计计算的结果;n为大于0的自然数;i,j为像素的行列坐标;/>
Figure SMS_17
=0;/>
Figure SMS_18
=0;/>
Figure SMS_19
表示第n帧图像当前像素的Y分量;α∈[0,1];β∈[0,100];
根据加权统计计算的结果及相应像素的Y分量判断该像素是否存在噪声,根据加权统计计算的结果与相应像素的Y分量进行计算,计算公式如下:
Figure SMS_20
Figure SMS_21
根据计算结果L1与L2判断对应帧的像素是否存在噪声;
若是,则根据加权统计计算的结果对相应像素进行清晰处理,具体为:
获取存在噪声的像素加权统计计算的结果
Figure SMS_22
将加权统计计算的结果
Figure SMS_23
赋值给相应像素的Y分量;
进一步的,在上述技术方案中,提取海浪图像中的前浪点集合的步骤包括:
获取多个海面浮标在一个海浪波形中最高点的海浪图像作为第一图像,获取多个海面浮标在海浪波形中最低点的海浪图像作为第二图像;
确定第一图像的第一变化检测区域和第二图像的第二变化检测区域;其中,第一变化检测区域为海面浮标所在区域,第二变化检测区域为第二图像中海面浮标所在区域;
将第一变化检测区域和第二变化检测区域分别进行图像增强,得到第一变化检测区域的增强后图像和第二变化检测区域的增强后图像;
将第一变化检测区域的增强后图像和第二变化检测区域的增强后图像分别通过均值滤波器进行滤波,得到第一变化检测区域的滤波后图像和第二变化检测区域的滤波后图像;
将第一变化检测区域的滤波后图像和第二变化检测区域的滤波后图像分别进行边缘检测与浮标图像寻找,得到第一变化检测区域的第一所有浮标图像和第二变化检测区域的第二所有浮标图像;
分别计算第一所有浮标图像的第一归一化中心矩和第二所有浮标图像的第二归一化中心矩;
根据第一归一化中心矩计算得到第一浮标图像特征;并根据第二归一化中心矩计算得到第二浮标图像特征;其中,第一浮标图像特征和第二浮标图像特征均包括中心、弧长与面积;
根据第一归一化中心矩和第一浮标图像特征计算第一所有浮标图像与基本浮标图像的第一相似度;并根据第二归一化中心矩和第二浮标图像特征计算第二所有浮标图像与基本浮标图像的第二相似度;其中,基本浮标图像为浮标在平面上的图像;
根据第一相似度得到第一变化检测区域的第一浮标图像匹配结果,根据第二相似度得到第二变化检测区域的第二浮标图像匹配结果;
将第一浮标图像匹配结果和第二浮标图像匹配结果进行局部特征匹配,得到第一浮标图像匹配结果相较于第二浮标图像匹配结果的变化值,具体为:
通过黑塞矩阵生成第一浮标图像匹配结果的第一所有特征点和第二浮标图像匹配结果的第二所有特征点;
通过不同尺寸的盒状滤波器分别对第一浮标图像匹配结果和第二浮标图像匹配结果进行卷积,得到第一浮标图像匹配结果的第一尺度空间和第二浮标图像匹配结果的第二尺度空间;
根据第一浮标图像匹配结果的第一所有特征点与第一浮标图像匹配结果的第一尺度空间进行特征点定位,得到第一稳定特征点集合;并根据第二浮标图像匹配结果的第二所有特征点与第二浮标图像匹配结果的第二尺度空间进行特征点定位,得到第二稳定特征点集合;
分别以第一稳定特征点集合和第二稳定特征点集合为圆心统计预设半径内的harr小波特征,得到第一稳定特征点集合的第一主方向集合和第二稳定特征点集合的第二主方向集合;
根据第一主方向集合生成第一特征点描述子集合,并根据第二主方向集合生成第二特征点描述子集合;
根据第一特征点描述子集合和第二特征点描述子集合,并利用最小二乘法计算第一稳定特征点集合中的任一点与第二稳定特征点集合中所有点的匹配度,根据匹配度得到第一稳定特征点集合中的任一点在第二稳定特征点中的对应点;
根据第一稳定特征点集合中的任一点与第一稳定特征点集合中的任一点在第二稳定特征点中的对应点组成匹配点对;
根据匹配点对计算第一浮标图像匹配结果相较于第二浮标图像匹配结果的变化值;
将第一图像转换成掩膜图像,并将掩膜图像输入混合高斯背景模型,得到混合高斯背景模型输出的掩膜图像点的高斯类别,高斯类别包括前景和背景;
以掩膜图像中高斯类别为前景的点的集合为前浪点集合。
掩膜图像指的是用选定的图像、图形或物体,对待处理的图像(全部或局部)进行遮挡,来控制图像处理的区域或处理过程。用于覆盖的特定图像或物体称为掩模或模板。光学图像处理中,掩模可以为胶片、滤光片等。数字图像处理中,掩模为二维矩阵数组,有时也用多值图像。
数字图像处理中,图像掩模主要用于:
①提取感兴趣区。用预先制作的感兴趣区掩模与待处理图像相乘,得到感兴趣区图像,感兴趣区内图像值保持不变,而区外图像值都为0;
②屏蔽作用。用掩模对图像上某些区域作屏蔽,使其不参加处理或不参加处理参数的计算,或仅对屏蔽区作处理或统计;
③结构特征提取。用相似性变量或图像匹配方法检测和提取图像中与掩模相似的结构特征;
④特殊形状图像的制作。用选定的图像、图形或物体,对待处理的图像(全部或局部)进行遮挡,来控制图像处理的区域或处理过程。用于覆盖的特定图像或物体称为掩模或模板。
混合高斯背景建模适合于在相机固定的情况下从图像序列中分离出背景和前景。基于像素的混合高斯模型对多峰分布背景进行建模很有效,在物体具有重复性运动的情况下鲁棒性较好,比如微风树叶抖动。
黑塞矩阵(Hessian Matrix),又译作海森矩阵、海瑟矩阵、海塞矩阵等,是一个多元函数的二阶偏导数构成的方阵,描述了函数的局部曲率。黑塞矩阵最早于19世纪由德国数学家Ludwig Otto Hesse提出,并以其名字命名。黑塞矩阵常用于牛顿法解决优化问题,利用黑塞矩阵可判定多元函数的极值问题。在工程实际问题的优化设计中,所列的目标函数往往很复杂,为了使问题简化,常常将目标函数在某点邻域展开成泰勒多项式来逼近原函数,此时函数在某点泰勒展开式的矩阵形式中会涉及到黑塞矩阵。
本发明的第二方面提供一种计算机可读存储介质,包含存储有程序指令,所述程序指令运行时用于上述的基于深度学习反演海浪波高的方法。
本发明的第三方面提供一种基于深度学习反演海浪波高的系统,其中,包含上述的计算机可读存储介质。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求的保护范围为准。

Claims (5)

1.一种基于深度学习反演海浪波高的方法,其特征在于,包含如下步骤:
S10:实时获取海浪基础数据,包括海浪图像、海浪距离、风速、风向、相对湿度、温度;
S20:将海浪基础数据输入预先训练好的海浪反演模型;
S30:利用实时采集的海浪基础数据输入所述海浪反演模型,输出海浪波高,其中,所述海浪反演模型的建立步骤包括:
采集指定时间长度的海浪基础数据及其对应的实际海浪波高数据作为深度学习网络训练样本,将深度学习网络训练样本按照6:2:2的比例进行划分为训练集、验证集和测试集;其中,所述海浪基础数据中风速、风向、相对湿度、温度与海浪图像标记的采集时间所对应;所述海浪基础数据对应的实际海浪波高数据来自于多个海面浮标的数据,且多个海面浮标的表面图像不同,所述海面浮标的数据与海浪图像标记的采集时间所对应;其中,海浪距离的采集方式为:采用无线电波对海浪进行测距,得到海浪距离;
利用卷积神经网络构建海浪反演模型雏形;
采用训练集对海浪反演模型雏形通过卷积神经网络训练得到海浪反演模型;
采用验证集和测试集对海浪反演模型进行验证和测试,优化海浪反演模型;
其中,所述卷积神经网络包含1个输入层,1个骨干层、1个Flatten层,1个全连接层以及1个输出层;
其中,所述骨干层用于处理海浪图像,对海浪图像预处理后得到的预处理数据集进行特征提取,得到预处理数据集的高维稀疏数据,然后将得到的高维稀疏数据利用Flatten层进行展平,将展平后的数据输入4层的节点数为256的激活函数为Relu的全连接网络进行特征提取,得到表示海浪图像的256维的向量,记为第一向量,所述骨干层进行特征提取所使用骨干是DenseNet121;骨干网络DenseNet121由1个包含6个卷积层的Dense Block、1个包含12个卷积层的Dense Block块、1个包含24个卷积层的Dense Block块和1个包含16个卷积层的Dense Block块依次堆叠而成;Dense Block中每个卷积层的输入为前面所有卷积层的输出;
其中,所述海浪图像预处理后得到的预处理数据集的步骤具体包括:
对海浪图像进行清晰处理;
提取海浪图像中的前浪点集合作为预处理数据集;
其中,提取海浪图像中的前浪点集合的步骤包括:
获取多个海面浮标在一个海浪波形中最高点的海浪图像作为第一图像,获取多个海面浮标在所述海浪波形中最低点的海浪图像作为第二图像;
确定所述第一图像的第一变化检测区域和所述第二图像的第二变化检测区域;其中,所述第一变化检测区域为所述海面浮标所在区域,所述第二变化检测区域为所述第二图像中海面浮标所在区域;
将第一变化检测区域和所述第二变化检测区域分别进行图像增强,得到第一变化检测区域的增强后图像和第二变化检测区域的增强后图像;
将所述第一变化检测区域的增强后图像和所述第二变化检测区域的增强后图像分别通过均值滤波器进行滤波,得到第一变化检测区域的滤波后图像和第二变化检测区域的滤波后图像;
将所述第一变化检测区域的滤波后图像和所述第二变化检测区域的滤波后图像分别进行边缘检测与浮标图像寻找,得到所述第一变化检测区域的第一所有浮标图像和所述第二变化检测区域的第二所有浮标图像;
分别计算所述第一所有浮标图像的第一归一化中心矩和所述第二所有浮标图像的第二归一化中心矩;
根据所述第一归一化中心矩计算得到第一浮标图像特征;并根据所述第二归一化中心矩计算得到第二浮标图像特征;其中,所述第一浮标图像特征和第二浮标图像特征均包括中心、弧长与面积;
根据所述第一归一化中心矩和所述第一浮标图像特征计算所述第一所有浮标图像与基本浮标图像的第一相似度;并根据所述第二归一化中心矩和所述第二浮标图像特征计算所述第二所有浮标图像与基本浮标图像的第二相似度;其中,基本浮标图像为浮标在平面上的图像;
根据所述第一相似度得到所述第一变化检测区域的第一浮标图像匹配结果,根据所述第二相似度得到第二变化检测区域的第二浮标图像匹配结果;
将所述第一浮标图像匹配结果和所述第二浮标图像匹配结果进行局部特征匹配,得到所述第一浮标图像匹配结果相较于所述第二浮标图像匹配结果的变化值,具体为:
通过黑塞矩阵生成所述第一浮标图像匹配结果的第一所有特征点和所述第二浮标图像匹配结果的第二所有特征点;
通过不同尺寸的盒状滤波器分别对第一浮标图像匹配结果和所述第二浮标图像匹配结果进行卷积,得到第一浮标图像匹配结果的第一尺度空间和第二浮标图像匹配结果的第二尺度空间;
根据所述第一浮标图像匹配结果的第一所有特征点与第一浮标图像匹配结果的第一尺度空间进行特征点定位,得到第一稳定特征点集合;并根据所述第二浮标图像匹配结果的第二所有特征点与第二浮标图像匹配结果的第二尺度空间进行特征点定位,得到第二稳定特征点集合;
分别以第一稳定特征点集合和第二稳定特征点集合为圆心统计预设半径内的harr小波特征,得到第一稳定特征点集合的第一主方向集合和第二稳定特征点集合的第二主方向集合;
根据所述第一主方向集合生成第一特征点描述子集合,并根据第二主方向集合生成第二特征点描述子集合;
根据所述第一特征点描述子集合和所述第二特征点描述子集合,并利用最小二乘法计算第一稳定特征点集合中的任一点与第二稳定特征点集合中所有点的匹配度,根据所述匹配度得到第一稳定特征点集合中的任一点在所述第二稳定特征点中的对应点;
根据所述第一稳定特征点集合中的任一点与所述第一稳定特征点集合中的任一点在所述第二稳定特征点中的对应点组成匹配点对;
根据所述匹配点对计算所述第一浮标图像匹配结果相较于所述第二浮标图像匹配结果的变化值;
将所述第一图像转换成掩膜图像,并将所述掩膜图像输入混合高斯背景模型,得到所述混合高斯背景模型输出的掩膜图像点的高斯类别,所述高斯类别包括前景和背景;
以掩膜图像中高斯类别为前景的点的集合为前浪点集合。
2.根据权利要求1所述的一种基于深度学习反演海浪波高的方法,其特征在于,所述全连接层用于将风速、风向、相对湿度、温度构成的4维向量输入全连接层进行特征提取得到表示风速、风向、相对湿度、温度的256维向量记为第二向量;将所述第一向量和所述第二向量拼接为一个512维的向量,记为第三向量;将第三项向量通过全连接层进行海浪波高预测,输出海浪波高;当输出的海浪波高与期望输出相差超过10%,则采用随机梯度下降优化算法进行反向传播网络训练,更新骨干层的参数。
3.根据权利要求1所述的一种基于深度学习反演海浪波高的方法,其特征在于,对海浪图像进行清晰处理的步骤包括:
将采集海浪图像的视频流信号转成YUV三分量,并获取视频流信号内各帧图像中像素的Y分量;
对各像素的Y分量进行加权统计计算;其中,采用如下公式对各像素的Y分量进行加权统计计算:
Mn(i,j)=Mn-1(i,j)*α+β*Yn(i,j);
Nn(i,j)=Nn-1(i,j)*α+β*Yn(i,j)2
其中,Mn(i,j)和Nn(i,j)分别表示第n帧图像中像素的加权统计计算的结果;n为大于0的自然数;i,j为像素的行列坐标;M0(i,j)=0;N0(i,j)=0;Yn(i,j)表示第n帧图像当前像素的Y分量;α∈[0,1];β∈[0,100];
根据加权统计计算的结果及相应像素的Y分量判断该像素是否存在噪声,根据加权统计计算的结果与相应像素的Y分量进行计算,计算公式如下:
Figure FDA0004272912560000061
Figure FDA0004272912560000062
根据计算结果L1与L2判断对应帧的像素是否存在噪声;
若是,则根据加权统计计算的结果对相应像素进行清晰处理,具体为:
获取存在噪声的像素加权统计计算的结果Mn(i,j);
将加权统计计算的结果Mn(i,j)赋值给相应像素的Y分量。
4.一种计算机可读存储介质,其特征在于,包含存储有程序指令,所述程序指令运行时用于执行权利要求1-3任一项所述的基于深度学习反演海浪波高的方法。
5.一种基于深度学习反演海浪波高的系统,其特征在于,包含权利要求4所述的计算机可读存储介质。
CN202310272210.5A 2023-03-21 2023-03-21 一种基于深度学习反演海浪波高的方法、介质及系统 Active CN115983141B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310272210.5A CN115983141B (zh) 2023-03-21 2023-03-21 一种基于深度学习反演海浪波高的方法、介质及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310272210.5A CN115983141B (zh) 2023-03-21 2023-03-21 一种基于深度学习反演海浪波高的方法、介质及系统

Publications (2)

Publication Number Publication Date
CN115983141A CN115983141A (zh) 2023-04-18
CN115983141B true CN115983141B (zh) 2023-07-14

Family

ID=85959934

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310272210.5A Active CN115983141B (zh) 2023-03-21 2023-03-21 一种基于深度学习反演海浪波高的方法、介质及系统

Country Status (1)

Country Link
CN (1) CN115983141B (zh)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104036108A (zh) * 2014-03-06 2014-09-10 浙江海洋学院 一种海面风场和海浪联合反演的方法
CN115438571A (zh) * 2022-08-04 2022-12-06 南方海洋科学与工程广东省实验室(珠海) 一种基于机器学习的地波雷达波浪场计算方法及装置

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109886217B (zh) * 2019-02-26 2022-10-14 上海海洋大学 一种基于卷积神经网络从近岸海浪视频中检测浪高的方法
CN111583214B (zh) * 2020-04-30 2023-06-30 江苏科技大学 基于rbf神经网络的航海雷达图像反演海面风速方法
CN111830506B (zh) * 2020-07-22 2022-02-08 江苏科技大学 一种基于K-means聚类算法的海面风速方法
KR20220107446A (ko) * 2021-01-25 2022-08-02 대우조선해양 주식회사 라이다를 이용한 해상이미지의 기계학습을 통한 파랑정보 추정시스템
CN113156439B (zh) * 2021-05-08 2022-08-30 中国石油大学(华东) 一种基于数据驱动的sar风场海浪联合反演方法及系统
CN115470957A (zh) * 2021-06-10 2022-12-13 中国石油大学(华东) 基于深度学习的台风期间近海海浪波高预测系统、计算机设备、存储介质
CN114167076A (zh) * 2021-11-10 2022-03-11 中国地质大学(武汉) 海面风速风向反演模型的建立方法及风速风向的反演方法
CN114265087A (zh) * 2021-12-24 2022-04-01 青岛镭测创芯科技有限公司 一种海浪参数反演方法及相关组件
CN114912077B (zh) * 2022-05-27 2023-06-30 中国海洋大学 一种融合随机搜索与混合分解误差订正的海浪预报方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104036108A (zh) * 2014-03-06 2014-09-10 浙江海洋学院 一种海面风场和海浪联合反演的方法
CN115438571A (zh) * 2022-08-04 2022-12-06 南方海洋科学与工程广东省实验室(珠海) 一种基于机器学习的地波雷达波浪场计算方法及装置

Also Published As

Publication number Publication date
CN115983141A (zh) 2023-04-18

Similar Documents

Publication Publication Date Title
Zhao et al. A coupled convolutional neural network for small and densely clustered ship detection in SAR images
WO2021093283A1 (zh) 基于多传感融合的海面小面积溢油区域检测系统及检测方法
Wang et al. Sea ice concentration estimation during melt from dual-pol SAR scenes using deep convolutional neural networks: A case study
Zheng et al. Development of a gray-level co-occurrence matrix-based texture orientation estimation method and its application in sea surface wind direction retrieval from SAR imagery
CN111781146B (zh) 利用高分辨率卫星光学影像的波浪参数反演方法
CN102609701B (zh) 基于最佳尺度的高分辨率合成孔径雷达遥感检测方法
CN111476159B (zh) 一种基于双角回归的检测模型训练、检测方法及装置
CN101915910B (zh) 利用航海雷达识别海上溢油目标的方法及系统
CN111860336A (zh) 基于位置感知的高分辨遥感图像倾斜船舶目标检测方法
CN111273378B (zh) 一种基于风应力扰动的台风中心定位方法
WO2018000252A1 (zh) 高分辨遥感海洋图像的海背景建模与抑制的方法及系统
CN112614177B (zh) 一种适用于船舶冰区走航测试的海冰厚度识别系统及海冰厚度识别方法
CN114821358A (zh) 光学遥感图像海上舰船目标提取与识别方法
Yang et al. Evaluation and mitigation of rain effect on wave direction and period estimation from X-band marine radar images
CN113469097B (zh) 一种基于ssd网络的水面漂浮物多相机实时检测方法
CN116168240A (zh) 基于注意力增强的任意方向密集舰船目标检测方法
CN109409285B (zh) 基于重叠切片的遥感视频目标检测方法
CN111487621A (zh) 一种基于雷达图像的海表流场反演方法及电子设备
CN107748361A (zh) 基于截断杂波统计的sar图像双参数cfar检测方法
CN114565824A (zh) 基于全卷积网络的单阶段旋转舰船检测方法
CN104297753B (zh) 一种基于自适应缩减算子的导航雷达图像反演海面风向方法
CN116338628B (zh) 一种基于学习架构的激光雷达测深方法、装置及电子设备
CN115983141B (zh) 一种基于深度学习反演海浪波高的方法、介质及系统
CN115471782B (zh) 一种面向无人艇的红外舰船目标检测方法及装置
CN112085779B (zh) 一种波浪参数估算方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant