CN117611462A - 一种多层次单图像超分辨率的时空融合方法、设备及介质 - Google Patents
一种多层次单图像超分辨率的时空融合方法、设备及介质 Download PDFInfo
- Publication number
- CN117611462A CN117611462A CN202311535199.3A CN202311535199A CN117611462A CN 117611462 A CN117611462 A CN 117611462A CN 202311535199 A CN202311535199 A CN 202311535199A CN 117611462 A CN117611462 A CN 117611462A
- Authority
- CN
- China
- Prior art keywords
- image
- htls
- hslt
- pixel
- time
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000007500 overflow downdraw method Methods 0.000 title claims abstract description 21
- 230000006870 function Effects 0.000 claims abstract description 43
- 230000004927 fusion Effects 0.000 claims abstract description 38
- 230000002123 temporal effect Effects 0.000 claims abstract description 29
- 238000012545 processing Methods 0.000 claims abstract description 15
- 238000013528 artificial neural network Methods 0.000 claims abstract description 11
- 230000008859 change Effects 0.000 claims description 43
- 238000000034 method Methods 0.000 claims description 41
- 230000009466 transformation Effects 0.000 claims description 11
- 238000009826 distribution Methods 0.000 claims description 9
- 230000002776 aggregation Effects 0.000 claims description 8
- 238000004220 aggregation Methods 0.000 claims description 8
- 238000010586 diagram Methods 0.000 claims description 8
- OIGNJSKKLXVSLS-VWUMJDOOSA-N prednisolone Chemical compound O=C1C=C[C@]2(C)[C@H]3[C@@H](O)C[C@](C)([C@@](CC4)(O)C(=O)CO)[C@@H]4[C@@H]3CCC2=C1 OIGNJSKKLXVSLS-VWUMJDOOSA-N 0.000 claims description 6
- 239000000126 substance Substances 0.000 claims description 6
- 230000001186 cumulative effect Effects 0.000 claims description 4
- 238000004364 calculation method Methods 0.000 claims description 3
- 230000009897 systematic effect Effects 0.000 claims description 2
- 238000004891 communication Methods 0.000 description 7
- 230000008569 process Effects 0.000 description 4
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000012952 Resampling Methods 0.000 description 2
- 230000009471 action Effects 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 238000010606 normalization Methods 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 238000001228 spectrum Methods 0.000 description 2
- 238000009825 accumulation Methods 0.000 description 1
- 230000004931 aggregating effect Effects 0.000 description 1
- 238000013398 bayesian method Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 238000012958 reprocessing Methods 0.000 description 1
- 230000011664 signaling Effects 0.000 description 1
- 230000003595 spectral effect Effects 0.000 description 1
- 230000001502 supplementing effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/042—Knowledge-based neural networks; Logical representations of neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0464—Convolutional networks [CNN, ConvNet]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4053—Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Biophysics (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Image Processing (AREA)
Abstract
本申请提供了一种多层次单图像超分辨率的时空融合方法,包括:获取高时间低空间分辨率图像,记为HTLS图像;获取高空间低时间分辨率图像,记为HSLT图像;通过基于学习的跨尺度内部图神经网络,构建HSLT‑HTLS连接图,扩展得到图像通过基于插值的薄板样条插值函数以及图像扩展得到图像即为空间预测;使用小波变换处理扩展后的图像确定改进后的空间预测使用迭代自组织聚类算法对k‑1时相的HSLT图像的像素进行分类;估计每个类的时域信息变化;将时域信息变化分配到k‑1时相的HSLT图像,得到k时相的HTLS图像即为时间预测;根据空间预测与时间预测,确定时空融合模型;基于时空融合模型以及权重因子wq的值,确定融合图像。
Description
技术领域
本申请涉及遥感时空融合领域,尤其涉及一种多层次单图像超分辨率的时空融合方法、设备及介质。
背景技术
目前,人们越来越关注密集的时间序列卫星数据和高空间分辨率图像。现在越来越多的应用需要高时间和高空间分辨率(HTHS)图像,特别是用于土地利用、覆盖测绘、变化检测和监测生态系统动态等任务。
已有许多成功的遥感时空融合方法。这些方法大致可分为五类,即基于权重的方法、基于解混的方法、基于贝叶斯的方法、基于学习的方法和混合方法。基于权重的方法将HTLS图像重新采样到与HSLT图像相同大小来建立空间对应关系,利用权值计算信息变化量,得到HTHS图像;基于解混的方法通过考虑混合像元的角度来阐明空间对应关系,HTLS图像中每个像元被视为HSLT图像中像素的组合;基于贝叶斯的方法从概率论出发描述空间对应关系,并将融合问题视为求解已知观测值下最优状态的最大后验问题;基于学习的方法认为HTLS和HSLT图像在空间关系上具有相同或相似的特征属性;混合方法结合了上述方法的优点,可以获得更好的融合精度。然而,这些方法的空间对应解大多只适用于空间分辨率差较小的应用,如4倍或8倍。
一些应用需要在大的空间差异下进行时空融合,如果空间分辨率差较大,如16倍以上,则可能导致融合效果较差。这是由于在空间分辨率差异较大的情况下,基于权重的方法的重采样会面临一个像素值被重采样到数百个值的情况,基于解混的方法需要处理一个像素与数百个像素混合的情况,空间信息量的差异不可避免地会导致融合结果出现误差,基于贝叶斯的方法需要解决由于空间分辨率差异而导致的先验知识缺乏的问题,基于学习的方法面临HTLS图像特征由于缺乏信息而无法提取的问题。
发明内容
为了解决上述技术问题,本申请提供一种多层次单图像超分辨率的时空融合方法、设备及介质。
本申请的上述目的是通过以下技术方案得以实现的:
S1:获取HTLS图像以及HSLT图像;从空间域预测变化信息,确定空间预测:
根据所述HTLS图像以及所述HSLT图像,进行两级扩展,生成图像
S2:使用小波变换处理所述图像确定改进后的空间预测/>
S3:从时间域预测变化信息,确定时间预测:
使用迭代自组织聚类算法对所述HSLT图像的像素进行分类,计算每个类的丰度;估计每个类的时域信息变化;
根据所述丰度以及所述时域信息变化,得到k时相的HTLS图像
S4:根据所述空间预测与所述时间预测,确定时空融合模型以及权重因子wq;基于所述时空融合模型以及所述权重因子wq,确定融合图像Fk(Rij,Lij)。
可选的,第一级扩展:通过基于学习的跨尺度内部图神经网络,构建HSLT-HTLS连接图,扩展得到图像
第二级扩展:通过基于插值的薄板样条插值函数以及所述图像扩展得到图像/>即为所述空间预测;
在第一级扩展中:
通过所述跨尺度内部图神经网络的非局部图卷积聚合模块,为每个HTLS图像块匹配k个最近邻的HSLT图像块,构建所述HSLT-HTLS连接图;
对HSLT-HTLS连接图中对应的图像块信息进行聚合,生成1到4倍分辨率的图像
其中,Fk-1表示待预测时相的前一时相的HSLT图像,Ck-1表示k-1时相的HTLS图像;Ck表示k时相的HTLS图像,即待预测时相的HTLS图像;ψIGNN表示IGNN网络;
在第二级扩展中:
通过所述基于插值的薄板样条插值函数,建立一个经过所有已知点的曲面,将每个粗像素的值归为中心位置,通过样条函数拟合得到规则的点数据集合;
所述基于插值的薄板样条插值函数通过最小化能量函数,利用已知像素点拟合空间相关的函数,以使所有已知点的梯度变化最小化;
则给定N个已知点,薄板样条插值函数的估计值C(Ri,Li),如下:
其中,a,b,c是标量;Ai是第i个点的波段A;di是插值点与控制点坐标值之间的距离,且满足三个约束条件:∑iAi=0,∑iAiRi=0,∑iAiLi=0;表示距离的平方;(R,L)表示某个已知图像像素点的坐标;
其中,C2(Ri,Li,A)表示待预测时相的HTLS图像中位置(Ri,Li)上第A个波段的值,ETPS-b表示插值结果;
通过最小化来优化薄板样条插值函数中的参数后,利用薄板样条插值函数,预测每个HSLT图像的像素的值;
获得4到16倍分辨率的图像如下:
其中,ψTPS表示薄板样条插值函数。
可选的,步骤S2包括:
通过所述小波变换,提取HTLS图像Ck的帧信息、以及所述图像的细节信息;
利用小波变换的逆变换,将所述细节信息融合到所述帧信息中,以保证获取信息的准确性,改进后的空间预测可表示为:
其中,ψWAV表示小波变换。
可选的,步骤S3包括:
S31:假定HTLS图像的一个像素的中每一类物质占总物质的百分比不随时间变化,设一个HTLS图像的像素对应m个HSLT图像的像素,划分为l个类;
在l个分类结果中,若第c类有N[c]个像素,数量则表示为丰度,用变量A表示丰度,如下:
其中,l表示类别数;A[c]表示第c类别的丰度;(Ri,Li)表示第i个HTLS图像像素的坐标值;
S32:通过所述丰度,估计第c类的时域信息变化ΔF[c]:
根据线性混合理论的基本假设,HTLS像元内时域信息的变化可以被定义为HTLS像元内所有HSLT像元间的时域信息变化的累积效应;
ΔC(Ri,Li)=Ck(Ri,Li)-Ck-1(Ri,Li)
其中,ΔC表示所述时空融合模型的时间信息,即两幅HTLS图像在k-1时相和k时相的差值,ΔC(Ri,Li)表示(Ri,Li)位置的HTLS图像内的时域变化信息;
S33:通过将每个类的时域信息变化ΔF[c]分配到k-1时相的HSLT图像,得到k时相的图像如下:
其中,表示k时相在坐标(Ri,Li)上的HTLS像素中第j个HSLT像素里类别c的时域预测值;Fk-1[c](Rij,Lij)表示k-1时相在坐标(Ri,Li)上的HTLS像素中第j个HSLT像素里类别c的像素值。
可选的,所述时空融合模型,如下:
Fk=Fk-1+(wqΔFSP+(1-wq)ΔFTP)
其中,Fk表示k时相HSLT图像;Fk-1表示k-1时相的HSLT图像;wq表示权重因子;ΔFSP表示在空间尺度影响下的信息变化量;ΔFTP表示在时间尺度影响下的信息变化量。
可选的,步骤S4包括:
S41:根据解混理论,将HTLS图像的1个像素视为对应的HSLT图像的m个像素的融合,如下:
其中,(Rij,Lij)表示在HTLS图像像素(Ri,Li)位置中的第j个HSLT图像像素的坐标;Fk-1(Rij,Lij)表示k-1时相在坐标(Ri,Li)上的HTLS像素中第j个HSLT像素值;Fk(Rij,Lij)表示k时相在坐标(Ri,Li)上的HTLS像素中第j个HSLT像素值;ξ表示由带宽和太阳几何形状的差异引起的两个传感器之间的系统差异,为常数;Ck-1(Ri,Li)表示k-1时相HTLS图像在(Ri,Li)位置的像素值;Ck(Ri,Li)表示k时相HTLS图像在(Ri,Li)位置的像素值;
S42:在异质区域内,HTLS图像异质区域的残差Ehe(Ri,Li)可表示为:
由上述公式可得到异质区域内的残差Ehe(Ri,Li):
在同质区域,所述空间预测表示HSLT图像的实际值,同质区域内的残差Eho(Rij,Lij)如下:
其中,表示在(Rij,Lij)位置空间预测值;/>表示在(Rij,Lij)位置时间预测值;
S43:通过FSDAF时空融合算法,计算与异质区域和同质区域残差分布相关的加权因子,确定空间预测和时间预测/>对最终像素值的影响程度HI(Rij,Lij),如下:
其中,变量Iq取值范围在0到1之间,当HSLT图像中第q个像元与中心HSLT图像像元(Rij,Lij)对应的土地覆盖类型相同时,Iq值为1;
S44:通过计算与异质区域和同质区域残差分布相关的加权因子,合并权重:
CW(Rij,Lij)=Eho(Rij,Lij)HI(Rij,Lij)+Ehe(Rij,Lij)(1-HI(Rij,Lij))
权重被归一化为:
其中,CW(Rij,Lij)表示在HTLS图像像素(Ri,Li)位置中的第j个HSLT图像像素对应的合并的权重;W(Rij,Lij)表示在HTLS图像像素(Ri,Li)位置中的第j个HSLT图像像素对应的归一化后的权重;
S45:将残差分布和时间变化相加,HSLT图像的像素内的实际变化量ΔF(Rij,Lij)计算如下:
ΔF(Rij,Lij)=m*Ehe(Rij,Lij)W(Rij,Lij)+ΔF[c]
S46:设定以预测点为中心的窗口,整合窗口内邻近像素点信息,邻近像素点对预测点影响的权重取决于像素到像素的距离,第q个相似像素的空间相对距离Dq,如下:
其中,w是窗口大小;Rq表示第q个相似像素点的横坐标;Lq表示第q个相似像素点的纵坐标;Rij表示预测点位置的横坐标;Lij表示预测点位置的纵坐标;
因此,权重因子wq和所述融合图像Fk(Rij,Lij)表示为:
其中,n表示窗口内的像素总个数, 表示空间预测值,/>时间预测值。
一种电子设备,包括处理器、存储器、用户接口及网络接口,所述存储器用于存储指令,所述用户接口和网络接口用于给其他设备通信,所述处理器用于执行所述存储器中存储的指令,以使所述电子设备执行一种多层次单图像超分辨率的时空融合方法。
一种计算机可读存储介质,所述计算机可读存储介质存储有指令,当所述指令被执行时,执行一种多层次单图像超分辨率的时空融合方法。
本申请提供的技术方案带来的有益效果是:
从空间域预测变化信息,确定空间预测,将HSLT-HTLS连接图进行扩展并使用小波变换处理扩展后的图像。通过基于学习的跨尺度内部图神经网络(IGNN)和基于插值的薄板样条插值函数(TPS),解决多级随机抽样引起的噪声积累问题。同时利用小波变化提取HTLS图像帧信息和经过多级单幅超分辨率得到的16倍图像的详细信息,进一步有效控制噪声的产生。
使用迭代自组织聚类算法(ISODATA)对k-1时相的HSLT图像的像素进行分类,得到k时相的HTLS图像从时间域预测变化信息,确定时间预测。最后根据时空融合模型将时间预测与空间预测进行融合,确定最终的融合图像。通过扩展传统的FSDAF时空融合算法,提出一个新的多层次单幅超分辨率时空融合算法,解决常规的单级超分辨率方法在空间分辨率差较大时的有局限性的问题,避免了时域信息和空域信息之间的相互干扰。提高了空间分辨率差异较大的两种高时间低空间分辨率图像(HTLS)和高空间低时间分辨率图像(HSLT)在空间信息的融合精度。
附图说明
下面将结合附图及实施例对本申请作进一步说明,附图中:
图1是本申请实施例中多层次单图像超分辨率的时空融合方法的网络结构示例图;
图2是本申请实施例中多层次单图像超分辨率的时空融合方法的遥感时空融合任务示例图;
图3是本申请实施例中多层次单图像超分辨率的时空融合方法的电子设备结构示意图。
具体实施方式
为了对本申请的技术特征、目的和效果有更加清楚的理解,现对照附图详细说明本申请的具体实施方式。
本申请的实施例提供了一种多层次单图像超分辨率的时空融合方法,具体包括如下步骤:
S1:获取HTLS图像以及HSLT图像;从空间域预测变化信息,确定空间预测:
根据所述HTLS图像以及所述HSLT图像,进行两级扩展,生成图像
S2:使用小波变换处理所述图像确定改进后的空间预测/>
S3:从时间域预测变化信息,确定时间预测:
使用迭代自组织聚类算法对所述HSLT图像的像素进行分类,计算每个类的丰度;估计每个类的时域信息变化;
根据所述丰度以及所述时域信息变化,得到k时相的HTLS图像
S4:根据所述空间预测与所述时间预测,确定时空融合模型以及权重因子wq;基于所述时空融合模型以及所述权重因子wq,确定融合图像Fk(Rij,Lij)。
具体的,端元是解混中的概念,代表每个混合像元的基本组成单元,确定端元个数后可计算出每个类别的丰度值。根据线性混合理论假设,HTLS像元内时域信息的变化可以通过HTLS像元内所有HSLT像元时域信息变化的累积效应得到。
具体的,高时间低空间分辨率图像,记为HTLS图像;高空间低时间分辨率图像,记为HSLT图像;
具体的,跨尺度内部图神经网络(IGNN)、薄板样条插值函数(TPS)、迭代自组织聚类算法(ISODATA)。本发明基于经典的混合算法FSDAF进行扩展,首先分别从空间域和时间域预测变化信息,再通过权重计算实际变化信息,得到融合结果。使用IGNN作为第一级单帧超分辨率扩展方法,搜索相似块来获取信息,使用TPS作为第二级单帧超分辨率扩展方法来补充和传递增益信息,使用小波变换处理多级扩展后的空间预测结果来保证增益信息的有效性。
具体的,利用多级单幅超分辨率和约束信息解决空间分辨率差异大时空间信息难精准预测的困难在尝试融合异构遥感数据源时,大的空间分辨率差异带来了固有的困难。在需要集成高分辨率和低分辨率传感器数据的情况下,实现完美融合,本申请可以在处理较大的分辨率差距时更多地保留空间细节和光谱特征,获得精度更高的融合图像。该方法与当前最先进的时空融合方法进行对比,在均方根误差,相关系数,结构相似度,光谱角等相关指标上都有很好的表现。
步骤S1包括:
第一级扩展:通过基于学习的跨尺度内部图神经网络,构建HSLT-HTLS连接图,扩展得到图像
第二级扩展:通过基于插值的薄板样条插值函数以及所述图像扩展得到图像/>即为所述空间预测;
在第一级扩展中:
通过所述跨尺度内部图神经网络的非局部图卷积聚合模块,为每个HTLS图像块匹配k个最近邻的HSLT图像块,构建所述HSLT-HTLS连接图;
对HSLT-HTLS连接图中对应的图像块信息进行聚合,生成1到4倍分辨率的图像
其中,Fk-1表示待预测时相的前一时相的HSLT图像,Ck-1表示k-1时相的HTLS图像;Ck表示k时相的HTLS图像,即待预测时相的HTLS图像;ψIGNN表示IGNN网络;
在第二级扩展中:
通过所述基于插值的薄板样条插值函数,建立一个经过所有已知点的曲面,将每个粗像素的值归为中心位置,通过样条函数拟合得到规则的点数据集合;
所述基于插值的薄板样条插值函数通过最小化能量函数,利用已知像素点拟合空间相关的函数,以使所有已知点的梯度变化最小化;
则给定N个已知点,薄板样条插值函数的估计值C(Ri,Li),如下:
其中,a,b,c是标量;Ai是第i个点的波段A;di是插值点与控制点坐标值之间的距离,且满足三个约束条件:∑iAi=0,∑iAiRi=0,∑iAiLi=0;表示距离的平方;(R,L)表示某个已知图像像素点的坐标;
其中,C2(Ri,Li,A)表示待预测时相的HTLS图像中位置(Ri,Li)上第A个波段的值,ETPS-b表示插值结果;
通过最小化来优化薄板样条插值函数中的参数后,利用薄板样条插值函数,预测每个HSLT图像的像素的值;
获得4到16倍分辨率的图像如下:
其中,ψTPS表示薄板样条插值函数。
步骤S2包括:
通过所述小波变换,提取HTLS图像Ck的帧信息、以及所述图像的细节信息;
利用小波变换的逆变换,将所述细节信息融合到所述帧信息中,以保证获取信息的准确性,改进后的空间预测可表示为:
其中,ψWAV表示小波变换。
具体的,跨尺度内部图神经网络(IGNN)提出了一种非局部图卷积聚合模块(GraphAgg),该网络使用增强型深度残差单幅超分辨率网络(EDSR)作为主干网络,在其中插入GraphAgg模块进行跨尺度高清块聚合,聚合后的高清特征可以通过跨尺度连接直接传递到后端高尺度网络层,使网络直接感知到隐藏在图像特征中的高清纹理。GraphAgg模块主要包括两个步骤:图的构造和块的聚合。
图的构造:下采样HTLS图像,对于HTLS图像中的每个图像块,通过块匹配从下采样图像中搜索对应的k个最近邻的HSLT图像块,即NN块。将每个NN块视为一个顶点,每条边代表HSLT图像块与k个NN块之间的直接相似度。
块的聚合:根据HSLT图像与NN块的相似度定义边缘的聚集权值。受自适应实例归一化(AdaIN)的启发,IGNN提出了一种图像块的自适应补丁归一化(AdaPN)方法,在不改变高频纹理信息的情况下,将相邻块和HSLT图像的低频信号对齐。最后,使用IGNN得到提升4倍分辨率的图像
步骤S3包括:
S31:假定HTLS图像的一个像素的中每一类物质占总物质的百分比不随时间变化,设一个HTLS图像的像素对应m个HSLT图像的像素,划分为l个类;
在l个分类结果中,若第c类有N[c]个像素,数量则表示为丰度,用变量A表示丰度,如下:
其中,l表示类别数;A[c]表示第c类别的丰度;(Ri,Li)表示第i个HTLS图像像素的坐标值;
S32:通过所述丰度,估计第c类的时域信息变化ΔF[c]:
根据线性混合理论的基本假设,HTLS像元内时域信息的变化可以被定义为HTLS像元内所有HSLT像元间的时域信息变化的累积效应;
ΔC(Ri,Li)=Ck(Ri,Li)-Ck-1(Ri,Li)
其中,ΔC表示所述时空融合模型的时间信息,即两幅HTLS图像在k-1时相和k时相的差值,ΔC(Ri,Li)表示(Ri,Li)位置的HTLS图像内的时域变化信息;
S33:通过将每个类的时域信息变化ΔF[c]分配到k-1时相的HSLT图像,得到k时相的图像如下:
其中,表示k时相在坐标(Ri,Li)上的HTLS像素中第j个HSLT像素里类别c的时域预测值;Fk-1[c](Rij,Lij)表示k-1时相在坐标(Ri,Li)上的HTLS像素中第j个HSLT像素里类别c的像素值。
具体的,为了匹配相似的块,在跨尺度内部图神经网络(IGNN)中添加了下采样HTLS图像的处理过程,从而导致的混合像素会影响相似块的选择,同时具有相同光谱的不同物体也会影响所获得的信息。为了解决此问题,保证增益信息有效性,使用小波变换对改进后的空间预测进行再处理。小波变换利用一系列不同尺度的小波对原函数进行分解,从而得到原函数在不同尺度下的系数。在数字图像处理中,连续小波需要在小波变换中离散化。将连续小波变换的尺度和位移按二次幂进行离散,得到离散小波变换。离散小波变换通过低通和高通滤波器将图像分解为相应的低频和高频信号。低频信号表示图像的帧信息,而高频信号表示图像的详细信息。
所述时空融合模型,如下:
Fk=Fk-1+(wqΔFSP+(1-wq)ΔFTP)
其中,Fk表示k时相HSLT图像;Fk-1表示k-1时相的HSLT图像;wq表示权重因子;ΔFSP表示在空间尺度影响下的信息变化量;ΔFTP表示在时间尺度影响下的信息变化量。
步骤S4包括:
S41:根据解混理论,将HTLS图像的1个像素视为对应的HSLT图像的m个像素的融合,如下:
其中,(Rij,Lij)表示在HTLS图像像素(Ri,Li)位置中的第j个HSLT图像像素的坐标;Fk-1(Rij,Lij)表示k-1时相在坐标(Ri,Li)上的HTLS像素中第j个HSLT像素值;Fk(Rij,Lij)表示k时相在坐标(Ri,Li)上的HTLS像素中第j个HSLT像素值;ξ表示由带宽和太阳几何形状的差异引起的两个传感器之间的系统差异,为常数;Ck-1(Ri,Li)表示k-1时相HTLS图像在(Ri,Li)位置的像素值;Ck(Ri,Li)表示k时相HTLS图像在(Ri,Li)位置的像素值;
S42:在异质区域内,HTLS图像异质区域的残差Ehe(Ri,Li)可表示为:
由上述公式可得到异质区域内的残差Ehe(Ri,Li):
在同质区域,所述空间预测表示HSLT图像的实际值,同质区域内的残差Eho(Rij,Lij)如下:
其中,表示在(Rij,Lij)位置空间预测值;/>表示在(Rij,Lij)位置时间预测值;
S43:通过FSDAF时空融合算法,计算与异质区域和同质区域残差分布相关的加权因子,确定空间预测和时间预测/>对最终像素值的影响程度HI(Rij,Lij),如下:
其中,变量Iq取值范围在0到1之间,当HSLT图像中第q个像元与中心HSLT图像像元(Rij,Lij)对应的土地覆盖类型相同时,Iq值为1;
S44:通过计算与异质区域和同质区域残差分布相关的加权因子,合并权重:
CW(Rij,Lij)=Eho(Rij,Lij)HI(Rij,Lij)+Ehe(Rij,Lij)(1-HI(Rij,Lij))
权重被归一化为:
其中,CW(Rij,Lij)表示在HTLS图像像素(Ri,Li)位置中的第j个HSLT图像像素对应的合并的权重;W(Rij,Lij)表示在HTLS图像像素(Ri,Li)位置中的第j个HSLT图像像素对应的归一化后的权重;
S45:将残差分布和时间变化相加,HSLT图像的像素内的实际变化量ΔF(Rij,Lij)计算如下:
ΔF(Rij,Lij)=m*Ehe(Rij,Lij)W(Rij,Lij)+ΔF[c]
S46:设定以预测点为中心的窗口,整合窗口内邻近像素点信息,邻近像素点对预测点影响的权重取决于像素到像素的距离,第q个相似像素的空间相对距离Dq,如下:
其中,w是窗口大小;Rq表示第q个相似像素点的横坐标;Lq表示第q个相似像素点的纵坐标;Rij表示预测点位置的横坐标;Lij表示预测点位置的纵坐标;
因此,权重因子wq和所述融合图像Fk(Rij,Lij)表示为:
其中,n表示窗口内的像素总个数, 表示空间预测值,/>时间预测值。
具体的,最终像素值为空间域和时间域的预测的结果
图2为遥感时空融合方法任务的示例。给定k-1时相的高空间低时间图像(HSLT),k-1时相高时间低空间图像(HTLS)和待预测的k时相的高时间低空间图像(HTLS),任务是通过建立k-1时相的图像对之间对应关系,来融合得到k时相未观测到的HTHS图像。通常,时空融合可以表示为待求图像Fk为前一时刻图像Fk-1与该时段信息量变化ΔF之和:Fk=Fk-1+ΔF。但是ΔF不能直接求得,这个变化信息和HTLS图像有很大关系,因此,Fk=Fk-1+λΔC,其中λ表示HSLT和HTLS图像的退化关系,与空间模型有关,ΔC表示两幅HTLS图像在k-1和k时的差值,与时间模型有关。进一步可得到Fk=Fk-1+(wΔFSP+(1-w)ΔFTP)。
图1为空间域预测的网络结构的一个示例,使用IGNN提出的非局部图卷积聚合模块(GraphAgg)为每个HTLS图像块找到k个HSLT图像块的最近邻(NNs),构建HSLT-HTLS连接图,然后聚合该HTLS图像块对应的k个HSLT图像块的纹理信息。聚合后的高清特征可以通过跨尺度连接直接传递到后端高尺度网络层,使网络直接感知到隐藏在图像特征中的高清纹理。使用IGNN获得从1到4倍分辨率的图像,再经过TPS得到从4到16倍分辨率的图像。
需要说明的是:上述实施例提供的装置在实现其功能时,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将设备的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。另外,上述实施例提供的装置和方法实施例属于同一构思,其具体实现过程详见方法实施例,这里不再赘述。
本申请还公开一种电子设备。参照图3,图3是本申请实施例的公开的一种电子设备的结构示意图。该电子设备500可以包括:至少一个处理器501,至少一个网络接口504,用户接口503,存储器505,至少一个通信总线502。
其中,通信总线502用于实现这些组件之间的连接通信。
其中,用户接口503可以包括显示屏(Display)、摄像头(Camera),可选用户接口503还可以包括标准的有线接口、无线接口。
其中,网络接口504可选的可以包括标准的有线接口、无线接口(如WI-FI接口)。
其中,处理器501可以包括一个或者多个处理核心。处理器501利用各种接口和线路连接整个服务器内的各个部分,通过运行或执行存储在存储器505内的指令、程序、代码集或指令集,以及调用存储在存储器505内的数据,执行服务器的各种功能和处理数据。可选的,处理器501可以采用数字信号处理(Digital Signal Processing,DSP)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)、可编程逻辑阵列(Programmable LogicArray,PLA)中的至少一种硬件形式来实现。处理器501可集成中央处理器(CentralProcessing Unit,CPU)、图像处理器(Graphics Processing Unit,GPU)和调制解调器等中的一种或几种的组合。其中,CPU主要处理操作系统、用户界面和应用程序等;GPU用于负责显示屏所需要显示的内容的渲染和绘制;调制解调器用于处理无线通信。可以理解的是,上述调制解调器也可以不集成到处理器501中,单独通过一块芯片进行实现。
其中,存储器505可以包括随机存储器(Random Access Memory,RAM),也可以包括只读存储器(Read-Only Memory)。
可选的,该存储器505包括非瞬时性计算机可读介质(non-transitory computer-readable storage medium)。存储器505可用于存储指令、程序、代码、代码集或指令集。存储器505可包括存储程序区和存储数据区,其中,存储程序区可存储用于实现操作系统的指令、用于至少一个功能的指令(比如触控功能、声音播放功能、图像播放功能等)、用于实现上述各个方法实施例的指令等;存储数据区可存储上面各个方法实施例中涉及的数据等。存储器505可选的还包括但不限于至少一个位于远离前述处理器501的存储装置。参照图3,作为一种计算机存储介质的存储器505中可以包括操作系统、网络通信模块、用户接口模块以及一种多层次单图像超分辨率的时空融合方法的应用程序。
在图3所示的电子设备500中,用户接口503主要用于为用户提供输入的接口,获取用户输入的数据;而处理器501可以用于调用存储器505中存储一种多层次单图像超分辨率的时空融合方法的应用程序,当由一个或多个处理器501执行时,使得电子设备500执行如上述实施例中一个或多个的方法。需要说明的是,对于前述的各方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本申请并不受所描述的动作顺序的限制,因为依据本申请,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作和模块并不一定是本申请所必需的。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
在本申请所提供的几种实施方式中,应该理解到,所披露的装置,可通过其他的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接包括但不限于通过一些服务接口,装置或单元的间接耦合或通信连接,包括但不限于电性或其他的形式。
作为分离部件说明的单元包括但不限于或者也可以不是物理上分开的,作为单元显示的部件包括但不限于或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也包括但不限于各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
集成的单元如果以软件功能单元的形式实现并作为独立的商品销售或使用时,可以存储在一个计算机可读取存储器中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件商品的形式体现出来,该计算机软件商品存储在一个存储器中,包括若干指令用以使得一台计算机设备(可为个人计算机、服务器或者网络设备等)执行本申请各个实施例方法的全部或部分步骤。而前述的存储器包括:U盘、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。
以上者,仅为本公开的示例性实施例,不能以此限定本公开的范围。即但凡依本公开教导所作的等效变化与修饰,皆仍属本公开涵盖的范围内。本领域技术人员在考虑说明书及实践真理的公开后,将容易想到本公开的其他实施方案。
本申请旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未记载的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的范围和精神由权利要求限定。
Claims (8)
1.一种多层次单图像超分辨率的时空融合方法,其特征在于,方法包括以下步骤:
S1:获取HTLS图像以及HSLT图像;从空间域预测变化信息,确定空间预测:
根据所述HTLS图像以及所述HSLT图像,进行两级扩展,生成图像
S2:使用小波变换处理所述图像确定改进后的空间预测/>
S3:从时间域预测变化信息,确定时间预测:
使用迭代自组织聚类算法对所述HSLT图像的像素进行分类,计算每个类的丰度;估计每个类的时域信息变化;
根据所述丰度以及所述时域信息变化,得到k时相的HTLS图像
S4:根据所述空间预测与所述时间预测,确定时空融合模型以及权重因子wq;基于所述时空融合模型以及所述权重因子wq,确定融合图像Fk(Rij,Lij)。
2.如权利要求1的一种多层次单图像超分辨率的时空融合方法,其特征在于,步骤S1包括:
第一级扩展:通过基于学习的跨尺度内部图神经网络,构建HSLT-HTLS连接图,扩展得到图像
第二级扩展:通过基于插值的薄板样条插值函数以及所述图像扩展得到图像即为所述空间预测;
在第一级扩展中:
通过所述跨尺度内部图神经网络的非局部图卷积聚合模块,为每个HTLS图像块匹配k个最近邻的HSLT图像块,构建所述HSLT-HTLS连接图;
对HSLT-HTLS连接图中对应的图像块信息进行聚合,生成1到4倍分辨率的图像
其中,Fk-1表示待预测时相的前一时相的HSLT图像,Ck-1表示k-1时相的HTLS图像;Ck表示k时相的HTLS图像,即待预测时相的HTLS图像;ψIGNN表示IGNN网络;
在第二级扩展中:
通过所述基于插值的薄板样条插值函数,建立一个经过所有已知点的曲面,将每个粗像素的值归为中心位置,通过样条函数拟合得到规则的点数据集合;
所述基于插值的薄板样条插值函数通过最小化能量函数,利用已知像素点拟合空间相关的函数,以使所有已知点的梯度变化最小化;
则给定N个已知点,薄板样条插值函数的估计值C(Ri,Li),如下:
其中,a,b,c是标量;Ai是第i个点的波段A;di是插值点与控制点坐标值之间的距离,且满足三个约束条件:∑iAi=0,∑iAiRi=0,∑iAiLi=0;表示距离的平方;(R,L)表示某个已知图像像素点的坐标;
其中,C2(Ri,Li,A)表示待预测时相的HTLS图像中位置(Ri,Li)上第A个波段的值,ETPS-b表示插值结果;
通过最小化来优化薄板样条插值函数中的参数后,利用薄板样条插值函数,预测每个HSLT图像的像素的值;
获得4到16倍分辨率的图像如下:
其中,ψTPS表示薄板样条插值函数。
3.如权利要求2的一种多层次单图像超分辨率的时空融合方法,其特征在于,步骤S2包括:
通过所述小波变换,提取HTLS图像Ck的帧信息、以及所述图像的细节信息;
利用小波变换的逆变换,将所述细节信息融合到所述帧信息中,以保证获取信息的准确性,改进后的空间预测可表示为:
其中,ψWAV表示小波变换。
4.如权利要求3的一种多层次单图像超分辨率的时空融合方法,其特征在于,步骤S3包括:
S31:假定HTLS图像的一个像素的中每一类物质占总物质的百分比不随时间变化,设一个HTLS图像的像素对应m个HSLT图像的像素,划分为l个类;
在l个分类结果中,若第c类有N[c]个像素,数量则表示为丰度,用变量A表示丰度,如下:
其中,l表示类别数;A[c]表示第c类别的丰度;(Ri,Li)表示第i个HTLS图像像素的坐标值;
S32:通过所述丰度,估计第c类的时域信息变化ΔF[c]:
根据线性混合理论的基本假设,HTLS像元内时域信息的变化可以被定义为HTLS像元内所有HSLT像元间的时域信息变化的累积效应;
ΔC(Ri,Li)=Ck(Ri,Li)-Ck-1(Ri,Li)
其中,ΔC表示所述时空融合模型的时间信息,即两幅HTLS图像在k-1时相和k时相的差值,ΔC(Ri,Li)表示(Ri,Li)位置的HTLS图像内的时域变化信息;
S33:通过将每个类的时域信息变化ΔF[c]分配到k-1时相的HSLT图像,得到k时相的图像如下:
其中,表示k时相在坐标(Ri,Li)上的HTLS像素中第j个HSLT像素里类别c的时域预测值;Fk-1[c](Rij,Lij)表示k-1时相在坐标(Ri,Li)上的HTLS像素中第j个HSLT像素里类别c的像素值。
5.如权利要求4的一种多层次单图像超分辨率的时空融合方法,其特征在于,所述时空融合模型,如下:
Fk=Fk-1+(wqΔFSP+(1-wq)ΔFTP)
其中,Fk表示k时相HSLT图像;Fj-1表示k-1时相的HSLT图像;wq表示权重因子;ΔFSP表示在空间尺度影响下的信息变化量;ΔFTP表示在时间尺度影响下的信息变化量。
6.如权利要求5的一种多层次单图像超分辨率的时空融合方法,其特征在于,步骤S4包括:
S41:根据解混理论,将HTLS图像的1个像素视为对应的HSLT图像的m个像素的融合,如下:
其中,(Rij,Lij)表示在HTLS图像像素(Ri,Li)位置中的第j个HSLT图像像素的坐标;Fk-1(Rij,Lij)表示k-1时相在坐标(Ri,Li)上的HTLS像素中第j个HSLT像素值;Fk(Rij,Lij)表示k时相在坐标(Ri,Li)上的HTLS像素中第j个HSLT像素值;ξ表示由带宽和太阳几何形状的差异引起的两个传感器之间的系统差异,为常数;Ck-1(Ri,Li)表示k-1时相HTLS图像在(Ri,Li)位置的像素值;Ck(Ri,Li)表示k时相HTLS图像在(Ri,Li)位置的像素值;
S42:在异质区域内,HTLS图像异质区域的残差Ehe(Ri,Li)可表示为:
由上述公式可得到异质区域内的残差Ehe(Ri,Li):
在同质区域,所述空间预测表示HSLT图像的实际值,同质区域内的残差Eho(Rij,Lij)如下:
其中,表示在(Rij,Lij)位置空间预测值;/>表示在(Rij,Lij)位置时间预测值;
S43:通过FSDAF时空融合算法,计算与异质区域和同质区域残差分布相关的加权因子,确定空间预测和时间预测/>对最终像素值的影响程度HI(Rij,Lij),如下:
其中,变量Iq取值范围在0到1之间,当HSLT图像中第q个像元与中心HSLT图像像元(Rij,Lij)对应的土地覆盖类型相同时,Iq值为1;
S44:通过计算与异质区域和同质区域残差分布相关的加权因子,合并权重:
CW(Rij,Lij)=Eho(Rij,Lij)HI(Rij,Lij)+Ehe(Rij,Lij)(1-HI(Rij,Lij))
权重被归一化为:
其中,CW(Rij,Lij)表示在HTLS图像像素(Ri,Li)位置中的第j个HSLT图像像素对应的合并的权重;W(Rij,Lij)表示在HTLS图像像素(Ri,Li)位置中的第j个HSLT图像像素对应的归一化后的权重;
S45:将残差分布和时间变化相加,HSLT图像的像素内的实际变化量ΔF(Rij,Lij)计算如下:
ΔF(Rij,Lij)=m*Ehe(Rij,Lij)W(Rij,Lij)+ΔF[c]
S46:设定以预测点为中心的窗口,整合窗口内邻近像素点信息,邻近像素点对预测点影响的权重取决于像素到像素的距离,第q个相似像素的空间相对距离Dq,如下:
其中,w是窗口大小;Rq表示第q个相似像素点的横坐标;Lq表示第q个相似像素点的纵坐标;Rij表示预测点位置的横坐标;Lij表示预测点位置的纵坐标;
因此,权重因子wq和所述融合图像Fk(Rij,Lij)表示为:
其中,n表示窗口内的像素总个数, 表示空间预测值,/>时间预测值。
7.一种电子设备,其特征在于,包括处理器(501)、存储器(505)、用户接口(503)及网络接口(504),所述存储器(505)用于存储指令,所述用户接口(503)和网络接口(504)用于给其他设备通信,所述处理器(501)用于执行所述存储器(505)中存储的指令,以使所述电子设备(500)执行如权利要求1-6任意一项所述的方法。
8.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有指令,当所述指令被执行时,执行如权利要求1-6任意一项所述的方法步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311535199.3A CN117611462A (zh) | 2023-11-15 | 2023-11-15 | 一种多层次单图像超分辨率的时空融合方法、设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311535199.3A CN117611462A (zh) | 2023-11-15 | 2023-11-15 | 一种多层次单图像超分辨率的时空融合方法、设备及介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117611462A true CN117611462A (zh) | 2024-02-27 |
Family
ID=89948893
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311535199.3A Pending CN117611462A (zh) | 2023-11-15 | 2023-11-15 | 一种多层次单图像超分辨率的时空融合方法、设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117611462A (zh) |
-
2023
- 2023-11-15 CN CN202311535199.3A patent/CN117611462A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2020108358A1 (zh) | 图像修复方法、装置、计算机设备和存储介质 | |
CN108154222B (zh) | 深度神经网络训练方法和系统、电子设备 | |
US9342870B2 (en) | Tree-based linear regression for denoising | |
Wang et al. | Fast subpixel mapping algorithms for subpixel resolution change detection | |
JP2019528500A (ja) | 点を有する入力点群を処理するシステム及び方法 | |
Gou et al. | Remote sensing image super-resolution reconstruction based on nonlocal pairwise dictionaries and double regularization | |
CN112017135A (zh) | 一种遥感影像数据时空融合的方法、系统及设备 | |
US20220286696A1 (en) | Image compression method and apparatus | |
Li et al. | Example-based image super-resolution with class-specific predictors | |
Wang et al. | Utilizing multiple subpixel shifted images in subpixel mapping with image interpolation | |
CN110826429A (zh) | 一种基于景区视频的旅游突发事件自动监测的方法及系统 | |
Zhang et al. | Image denoising based on sparse representation and gradient histogram | |
CN108921801B (zh) | 用于生成图像的方法和装置 | |
EP2304601B1 (en) | Compact representation of a reflectance spectrum | |
Hua et al. | Context-aware joint dictionary learning for color image demosaicking | |
Liang et al. | Multi-scale hybrid attention graph convolution neural network for remote sensing images super-resolution | |
CN117593702B (zh) | 远程监控方法、装置、设备及存储介质 | |
Xu et al. | FastVSDF: An efficient spatiotemporal data fusion method for seamless data cube | |
Shen et al. | Graph-Represented Distribution Similarity Index for Full-Reference Image Quality Assessment | |
CN117333468A (zh) | 面向多模式时序PolSAR影像的洪涝灾害监测方法 | |
CN117611462A (zh) | 一种多层次单图像超分辨率的时空融合方法、设备及介质 | |
Yang et al. | Infrared image super-resolution with parallel random Forest | |
Luo et al. | Hierarchical Neural Operator Transformer with Learnable Frequency-aware Loss Prior for Arbitrary-scale Super-resolution | |
CN115131637A (zh) | 基于生成对抗网络的多级特征时空遥感图像融合方法 | |
Gou et al. | Image super‐resolution based on the pairwise dictionary selected learning and improved bilateral regularisation |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |