CN118013217B - 物联网通信数据缺失处理方法及系统 - Google Patents
物联网通信数据缺失处理方法及系统 Download PDFInfo
- Publication number
- CN118013217B CN118013217B CN202410424605.7A CN202410424605A CN118013217B CN 118013217 B CN118013217 B CN 118013217B CN 202410424605 A CN202410424605 A CN 202410424605A CN 118013217 B CN118013217 B CN 118013217B
- Authority
- CN
- China
- Prior art keywords
- data
- missing
- residual
- prediction
- training
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000004891 communication Methods 0.000 title claims abstract description 63
- 238000003672 processing method Methods 0.000 title description 8
- 238000012549 training Methods 0.000 claims abstract description 125
- 238000012360 testing method Methods 0.000 claims abstract description 79
- 238000012545 processing Methods 0.000 claims abstract description 32
- 238000000034 method Methods 0.000 claims abstract description 19
- 230000000295 complement effect Effects 0.000 claims abstract description 17
- 238000010606 normalization Methods 0.000 claims description 50
- 230000006870 function Effects 0.000 claims description 39
- 238000013507 mapping Methods 0.000 claims description 24
- 230000004913 activation Effects 0.000 claims description 18
- 239000012634 fragment Substances 0.000 claims description 14
- 230000002159 abnormal effect Effects 0.000 claims description 9
- 238000007781 pre-processing Methods 0.000 claims description 9
- 238000004364 calculation method Methods 0.000 claims description 7
- 230000008859 change Effects 0.000 claims description 6
- 238000011176 pooling Methods 0.000 claims description 6
- 230000009467 reduction Effects 0.000 claims description 6
- 238000012216 screening Methods 0.000 claims description 6
- 238000012217 deletion Methods 0.000 claims description 3
- 230000037430 deletion Effects 0.000 claims description 3
- 230000011218 segmentation Effects 0.000 claims description 3
- 238000007405 data analysis Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 5
- 230000005540 biological transmission Effects 0.000 description 3
- 238000003491 array Methods 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 230000005856 abnormality Effects 0.000 description 1
- 230000003044 adaptive effect Effects 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明涉及物联网通信技术领域，尤其涉及物联网通信数据缺失处理方法及系统，方法包括：获取物联网通信带有时戳的历史数据，基于历史数据得到缺失训练数据集和缺失测试数据集；基于缺失训练数据集和缺失测试数据集分别对数据缺失预测模型进行训练和预测，得到缺失预测数据集；将缺失测试数据集与缺失预测数据集内的样本一一对应作差，得到残差数据集，并将残差数据集分为残差训练集和残差测试集；基于残差训练集和残差测试集分别对残差数据预测模型进行训练和预测，得到残差预测集；根据残差预测集和预设的调校网络模型对缺失预测数据集进行校准，得到通信缺失数据的预测补值结果。本发明能够保证物联网通信缺失数据被精准预测恢复。
Description
技术领域
本发明涉及物联网通信技术领域，尤其涉及物联网通信数据缺失处理方法及系统。
背景技术
时间序列数据是指一系列随时间推移先后产生的数据，时间序列数据反映了事物或行为随着时间变化的规律性。随着信息技术以及物联网的快速发展，各种传感器和信息采集设备的激增，时序数据在日常生活中出现的频率越来越高。智慧物联网环境下典型的时序数据有智能家居场景下采集的家居数据、智慧医疗收集的医疗数据、智慧交通中收集到的交通数据、智能电网中采集的电力数据等。这些由传感器收集到的时序数据是建设智慧物联网的前提，完整的数据为智慧物联网提供了基础的数据支撑。
但是数据传输中可能存在数据异常或者数据丢失的情况，当存在这些种情况时，这些数据是不能直接被系统直接使用和分析的，因此要对物联网中传输的数据进行异常值检测，去除异常数据；但是在去除异常值之后，会存在数据空缺的情况，或者数据在传输过程中有一连串的数据空缺的情况存在，因此需要对缺失值进行数据补值。对缺失值进行预测不仅使数据具有可靠性和完整性，并且也为后面的数据计算和数据分析保证了数据的全面性。
发明内容
为了解决上述技术问题，本发明提供了物联网通信数据缺失处理方法及系统。
本发明采用以下技术方案：物联网通信数据缺失处理方法，所述方法包括：
获取物联网通信带有时戳的历史数据，对所述历史数据进行预处理并进行数据分割，得到缺失训练数据集和缺失测试数据集；
基于所述缺失训练数据集和所述缺失测试数据集分别对预设的基于LSTM的数据缺失预测模型进行训练和预测，得到缺失预测数据集；
将所述缺失测试数据集与所述缺失预测数据集内的样本一一对应作差，得到残差数据集，并将所述残差数据集分为残差训练集和残差测试集；
基于所述残差训练集和所述残差测试集分别对预设的基于MLP的残差数据预测模型进行训练和预测，得到残差预测集；其中，所述残差预测集内的样本与所述缺失预测数据集内的样本相对应；
根据所述残差预测集和预设的调校网络模型对所述缺失预测数据集进行校准，得到通信缺失数据的预测补值结果。
本发明一实施例的物联网通信数据缺失处理方法，首先通过数据缺失预测模型对物联网通信数据进行预测，得到缺失预测数据集，再将缺失预测数据集与缺失测试数据作差得到残差数据集，通过残差数据预测模型进行残差值预测，最后再根据调校网络和残差预测集对缺失预测数据集校准，通过三重精细化预测调校，降低了预测数据与真实数据的误差，提高了预测精度，保证物联网通信缺失数据能够被精准预测恢复，满足物联网数据计算和数据分析完整性和全面性的要求。
进一步的，对所述历史数据进行预处理并进行数据分割，得到缺失训练数据集和缺失测试数据集的步骤具体包括：
对所述历史数据进行数据降噪、异常数值筛选处理，再对所述历史数据进行归一化处理，得到待测数据时间序列，归一化处理公式为：
其中，为进行归一化前的所述历史数据，/>为进行归一化后的所述历史数据，为进行归一化前的所述历史数据中的最大值，/>为进行归一化前的所述历史数据中的最小值，/>为所述历史数据的映射范围的最小值，/>为所述历史数据的映射范围的最大值；
基于预设长度的滑动窗口将经过归一化的所述待测数据时间序列分割为多个等间隔数据片段，并按预设比例将所述等间隔数据片段分为缺失训练数据集和缺失测试数据集。
进一步的，基于所述缺失训练数据集和所述缺失测试数据集分别对预设的基于LSTM的数据缺失预测模型进行训练和预测，得到缺失预测数据集的步骤具体包括：
构建基于LSTM的数据缺失预测模型，所述数据缺失预测模型包括输入层、三层LSTM单元层、两层全连接层以及输出层；
首先将所述缺失训练数据集内的缺失训练数据片段输入至输入层，根据三层LSTM单元层对所述缺失训练数据片段中的相关性特征进行学习；
然后根据两层全连接层对所述缺失训练数据片段的维度进行转换，再利用输出层将缺失训练结果映射到实数空间中；
最后，当所述数据缺失预测模型产生的损失值迭代变化小于设定阈值不再降低或者达到最大迭代次数，终止所述数据缺失预测模型的训练，得到训练后的所述数据缺失预测模型；其中，所述数据缺失预测模型采用均方误差作为损失函数，并根据内设的自适应动量估计引擎更新模型的权重参数；
将所述缺失测试数据集内的缺失测试数据片段依次输入训练后的所述数据缺失预测模型，得到缺失预测数据集。
进一步的，基于所述残差训练集和所述残差测试集分别对预设的基于MLP的残差数据预测模型进行训练和预测，得到残差预测集的步骤具体包括：
构建基于MLP的残差数据预测模型，所述残差数据预测模型包括输入层、六层隐含层及输出层；
通过六层隐含层依次对所述残差训练集内的残差训练数据值进行参数训练，直至所述残差数据预测模型对于训练结果误差精度达到预设波动范围，得到训练后的所述残差数据预测模型；
将所述残差测试集内的残差测试数据值依次输入训练后的所述残差数据预测模型，得到由多个残差预测值组成的残差预测集。
进一步的，根据所述残差预测集和预设的调校网络模型对所述缺失预测数据集进行校准，得到通信缺失数据的预测补值结果的步骤具体包括：
基于ResNet网络构建调校网络模型，所述调校网络模型包括输入卷积层、SE-ResNet残差模块和输出卷积层；
将所述残差预测集输入所述输入卷积层，然后将所述输入卷积层的输出作为所述SE-ResNet残差模块的输入；其中，所述SE-ResNet残差模块包括三个一维卷积层，每个所述一维卷积层中包括卷积操作、批量归一化和激活函数映射输出，第三个所述一维卷积层输出包含两个网络分支，其中一个所述网络分支连接SE模块，另一个所述网络分支与所述SE模块的输出结果做乘积，得到乘积结果；
然后将乘积结果与所述SE-ResNet残差模块的输入求和，其结果作为所述SE-ResNet残差模块的输出；
最后将所述SE-ResNet残差模块的输出作为所述输出卷积层的输入，调整最终输出结果，得到校准值，并利用所述校准值与所述缺失预测数据集内相应的样本求和，完成对所述缺失预测数据集的校准；
对校准后的所述缺失预测数据集进行反归一化操作，并将反归一化操作后的所述缺失预测数据集作为通信缺失数据的补值结果；
其中，所述SE模块包括全局池化层、和两个全连接层，第一个所述全连接层输出采用Relu函数作为激活函数，第二个所述全连接层输出采用Sigmoid函数作为激活函数。
本发明还提出物联网通信数据缺失处理系统，所述系统包括：
获取模块，用于获取物联网通信带有时戳的历史数据，对所述历史数据进行预处理并进行数据分割，得到缺失训练数据集和缺失测试数据集；
缺失预测模块，用于基于所述缺失训练数据集和所述缺失测试数据集分别对预设的基于LSTM的数据缺失预测模型进行训练和预测，得到缺失预测数据集；
计算模块，用于将所述缺失测试数据集与所述缺失预测数据集内的样本一一对应作差，得到残差数据集，并将所述残差数据集分为残差训练集和残差测试集；
残差预测模块，用于基于所述残差训练集和所述残差测试集分别对预设的基于MLP的残差数据预测模型进行训练和预测，得到残差预测集；其中，所述残差预测集内的样本与所述缺失预测数据集内的样本相对应；
校准模块，用于根据所述残差预测集和预设的调校网络模型对所述缺失预测数据集进行校准，得到通信缺失数据的预测补值结果。
本发明一实施例的物联网通信数据缺失处理系统，首先通过数据缺失预测模型对物联网通信数据进行预测，得到缺失预测数据集，再将缺失预测数据集与缺失测试数据作差得到残差数据集，通过残差数据预测模型进行残差值预测，最后再根据调校网络和残差预测集对缺失预测数据集校准，通过三重精细化预测调校，降低了预测数据与真实数据的误差，提高了预测精度，保证物联网通信缺失数据能够被精准预测恢复，满足物联网数据计算和数据分析完整性和全面性的要求。
进一步的，所述获取模块具体用于：
对所述历史数据进行数据降噪、异常数值筛选处理，再对所述历史数据进行归一化处理，得到待测数据时间序列，归一化处理公式为：
其中，为进行归一化前的所述历史数据，/>为进行归一化后的所述历史数据，为进行归一化前的所述历史数据中的最大值，/>为进行归一化前的所述历史数据中的最小值，/>为所述历史数据的映射范围的最小值，/>为所述历史数据的映射范围的最大值；
基于预设长度的滑动窗口将经过归一化的所述待测数据时间序列分割为多个等间隔数据片段，并按预设比例将所述等间隔数据片段分为缺失训练数据集和缺失测试数据集。
进一步的，所述缺失预测模块具体用于：
构建基于LSTM的数据缺失预测模型，所述数据缺失预测模型包括输入层、三层LSTM单元层、两层全连接层以及输出层；
首先将所述缺失训练数据集内的缺失训练数据片段输入至输入层，根据三层LSTM单元层对所述缺失训练数据片段中的相关性特征进行学习；
然后根据两层全连接层对所述缺失训练数据片段的维度进行转换，再利用输出层将缺失训练结果映射到实数空间中；
最后，当所述数据缺失预测模型产生的损失值迭代变化小于设定阈值不再降低或者达到最大迭代次数，终止所述数据缺失预测模型的训练，得到训练后的所述数据缺失预测模型；其中，所述数据缺失预测模型采用均方误差作为损失函数，并根据内设的自适应动量估计引擎更新模型的权重参数；
将所述缺失测试数据集内的缺失测试数据片段依次输入训练后的所述数据缺失预测模型，得到缺失预测数据集。
进一步的，所述残差预测模块具体用于：
构建基于MLP的残差数据预测模型，所述残差数据预测模型包括输入层、六层隐含层及输出层；
通过六层隐含层依次对所述残差训练集内的残差训练数据值进行参数训练，直至所述残差数据预测模型对于训练结果误差精度达到预设波动范围，得到训练后的所述残差数据预测模型；
将所述残差测试集内的残差测试数据值依次输入训练后的所述残差数据预测模型，得到由多个残差预测值组成的残差预测集。
进一步的，所述校准模块具体用于：
基于ResNet网络构建调校网络模型，所述调校网络模型包括输入卷积层、SE-ResNet残差模块和输出卷积层；
将所述残差预测集输入所述输入卷积层，然后将所述输入卷积层的输出作为所述SE-ResNet残差模块的输入；其中，所述SE-ResNet残差模块包括三个一维卷积层，每个所述一维卷积层中包括卷积操作、批量归一化和激活函数映射输出，第三个所述一维卷积层输出包含两个网络分支，其中一个所述网络分支连接SE模块，另一个所述网络分支与所述SE模块的输出结果做乘积，得到乘积结果；
然后将乘积结果与所述SE-ResNet残差模块的输入求和，其结果作为所述SE-ResNet残差模块的输出；
最后将所述SE-ResNet残差模块的输出作为所述输出卷积层的输入，调整最终输出结果，得到校准值，并利用所述校准值与所述缺失预测数据集内相应的样本求和，完成对所述缺失预测数据集的校准；
对校准后的所述缺失预测数据集进行反归一化操作，并将反归一化操作后的所述缺失预测数据集作为通信缺失数据的补值结果；
其中，所述SE模块包括全局池化层、和两个全连接层，第一个所述全连接层输出采用Relu函数作为激活函数，第二个所述全连接层输出采用Sigmoid函数作为激活函数。
附图说明
为了更清楚地说明本发明实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1为本发明一实施例的物联网通信数据缺失处理方法的流程图；
图2为本发明一实施例的物联网通信数据缺失处理方法中数据缺失预测模型的结构示意图；
图3为本发明一实施例的物联网通信数据缺失处理方法中残差数据预测模型的结构示意图；
图4为本发明一实施例的物联网通信数据缺失处理方法中调校网络模型的结构示意图；
图5为本发明一实施例的物联网通信数据缺失处理方法与现有数据缺失预测模型的预测结果对比图；
图6为本发明一实施例的物联网通信数据缺失处理系统的结构框图。
具体实施方式
下面详细描述本发明的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，旨在用于解释本发明的实施例，而不能理解为对本发明的限制。
在本发明实施例的描述中，需要理解的是，术语“长度”、“宽度”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系，仅是为了便于描述本发明实施例和简化描述，而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作，因此不能理解为对本发明的限制。
此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。在本发明实施例的描述中，“多个”的含义是两个或两个以上，除非另有明确具体的限定。
在本发明实施例中，除非另有明确的规定和限定，术语“安装”、“相连”、“连接”、“固定”等术语应做广义理解，例如，可以是固定连接，也可以是可拆卸连接，或成一体；可以是机械连接，也可以是电连接；可以是直接相连，也可以通过中间媒介间接相连，可以是两个元件内部的连通或两个元件的相互作用关系。对于本领域的普通技术人员而言，可以根据具体情况理解上述术语在本发明实施例中的具体含义。
实施例一
参照图1至图4，本发明第一实施例，物联网通信数据缺失处理方法，方法包括：
S1：获取物联网通信带有时戳的历史数据，对历史数据进行预处理并进行数据分割，得到缺失训练数据集和缺失测试数据集；
进一步的，对历史数据进行预处理并进行数据分割，得到缺失训练数据集和缺失测试数据集的步骤具体包括：
对历史数据进行数据降噪、异常数值筛选处理，再对历史数据进行归一化处理，得到待测数据时间序列，归一化处理公式为：
其中，为进行归一化前的历史数据，/>为进行归一化后的历史数据，/>为进行归一化前的历史数据中的最大值，/>为进行归一化前的历史数据中的最小值，/>为历史数据的映射范围的最小值，/>为历史数据的映射范围的最大值；本实施例中，的取值范围为/>；
基于预设长度的滑动窗口将经过归一化的待测数据时间序列分割为多个等间隔数据片段，并按预设比例将等间隔数据片段分为缺失训练数据集和缺失测试数据集。
S2：基于缺失训练数据集和缺失测试数据集分别对预设的基于LSTM的数据缺失预测模型进行训练和预测，得到缺失预测数据集；
进一步的，基于缺失训练数据集和缺失测试数据集分别对预设的基于LSTM的数据缺失预测模型进行训练和预测，得到缺失预测数据集的步骤具体包括：
构建基于LSTM的数据缺失预测模型，数据缺失预测模型包括输入层、三层LSTM单元层、两层全连接层以及输出层；
首先将缺失训练数据集内的缺失训练数据片段输入至输入层，根据三层LSTM单元层对缺失训练数据片段中的相关性特征进行学习；
然后根据两层全连接层对缺失训练数据片段的维度进行转换，再利用输出层将缺失训练结果映射到实数空间中；
最后，当数据缺失预测模型产生的损失值迭代变化小于设定阈值不再降低或者达到最大迭代次数，终止数据缺失预测模型的训练，得到训练后的数据缺失预测模型；其中，数据缺失预测模型采用均方误差作为损失函数，并根据内设的自适应动量估计引擎更新模型的权重参数；
将缺失测试数据集内的缺失测试数据片段依次输入训练后的数据缺失预测模型，得到缺失预测数据集。
本实施例中，自适应动量估计引擎的结构及其原理已为本领域技术人员所熟知，故在此不另作详述。
S3：将缺失测试数据集与缺失预测数据集内的样本一一对应作差，得到残差数据集，并将残差数据集分为残差训练集和残差测试集；本实施例中，残差数据集分为残差训练集和残差测试集的比例为1:1。
S4：基于残差训练集和残差测试集分别对预设的基于MLP的残差数据预测模型进行训练和预测，得到残差预测集；其中，残差预测集内的样本与缺失预测数据集内的样本相对应；
进一步的，基于残差训练集和残差测试集分别对预设的基于MLP的残差数据预测模型进行训练和预测，得到残差预测集的步骤具体包括：
构建基于MLP的残差数据预测模型，残差数据预测模型包括输入层、六层隐含层及输出层；
通过六层隐含层依次对残差训练集内的残差训练数据值进行参数训练，直至残差数据预测模型对于训练结果误差精度达到预设波动范围，得到训练后的残差数据预测模型；
将残差测试集内的残差测试数据值依次输入训练后的残差数据预测模型，得到由多个残差预测值组成的残差预测集。
S5：根据残差预测集和预设的调校网络模型对缺失预测数据集进行校准，得到通信缺失数据的预测补值结果；
进一步的，根据残差预测集和预设的调校网络模型对缺失预测数据集进行校准，得到通信缺失数据的预测补值结果的步骤具体包括：
基于ResNet网络构建调校网络模型，调校网络模型包括输入卷积层、SE-ResNet残差模块和输出卷积层；
将残差预测集输入输入卷积层，然后将输入卷积层的输出作为SE-ResNet残差模块的输入；其中，SE-ResNet残差模块包括三个一维卷积层，每个一维卷积层中包括卷积操作、批量归一化和激活函数映射输出，第三个一维卷积层输出包含两个网络分支，其中一个网络分支连接SE模块，另一个网络分支与SE模块的输出结果做乘积，得到乘积结果；
然后将乘积结果与SE-ResNet残差模块的输入求和，其结果作为SE-ResNet残差模块的输出；
最后将SE-ResNet残差模块的输出作为输出卷积层的输入，调整最终输出结果，得到校准值，并利用校准值与缺失预测数据集内相应的样本求和，完成对缺失预测数据集的校准；
对校准后的缺失预测数据集进行反归一化操作，并将反归一化操作后的缺失预测数据集作为通信缺失数据的补值结果；
其中，SE模块包括全局池化层、和两个全连接层，第一个全连接层输出采用Relu函数作为激活函数，第二个全连接层输出采用Sigmoid函数作为激活函数。
参照图5，在本实施例中，通过对某变电站机房内的空气湿度进行监测，采用湿度传感器获取机房内的空气湿度数据，并利用无线及有线两种方式同时将所采集的数据回传至终端进行记录，基于LSTM和MLP分别建立LSTM数据缺失预测模型（LSTM模型）和MLP数据缺失预测模型（MLP模型），并通过LSTM数据缺失预测模型、MLP数据缺失预测模型以及本发明的物联网通信数据缺失处理方法对无线传输的数据进行训练及预测，得到预测结果，将有线传输的数据作为真实数据（REAL DATA）与预测结果进行对比，可以看出，采用本发明的物联网通信数据缺失处理方法对无线传输的空气湿度数据进行预测补值后与真实数据的贴合度明显高于LSTM数据缺失预测模型和MLP数据缺失预测模型，因此，本发明的物联网通信数据缺失处理方法与现有数据缺失处理方法相比，降低了预测数据与真实数据的误差，提高了预测精度，保证物联网通信缺失数据能够被精准预测恢复。
本发明一实施例的物联网通信数据缺失处理方法，首先通过数据缺失预测模型对物联网通信数据进行预测，得到缺失预测数据集，再将缺失预测数据集与缺失测试数据作差得到残差数据集，通过残差数据预测模型进行残差值预测，最后再根据调校网络和残差预测集对缺失预测数据集校准，通过三重精细化预测调校，降低了预测数据与真实数据的误差，提高了预测精度，保证物联网通信缺失数据能够被精准预测恢复，满足物联网数据计算和数据分析完整性和全面性的要求。
实施例二
参照图6，本发明还提出物联网通信数据缺失处理系统，系统包括：
获取模块，用于获取物联网通信带有时戳的历史数据，对历史数据进行预处理并进行数据分割，得到缺失训练数据集和缺失测试数据集；
缺失预测模块，用于基于缺失训练数据集和缺失测试数据集分别对预设的基于LSTM的数据缺失预测模型进行训练和预测，得到缺失预测数据集；
计算模块，用于将缺失测试数据集与缺失预测数据集内的样本一一对应作差，得到残差数据集，并将残差数据集分为残差训练集和残差测试集；
残差预测模块，用于基于残差训练集和残差测试集分别对预设的基于MLP的残差数据预测模型进行训练和预测，得到残差预测集；其中，残差预测集内的样本与缺失预测数据集内的样本相对应；
校准模块，用于根据残差预测集和预设的调校网络模型对缺失预测数据集进行校准，得到通信缺失数据的预测补值结果。
进一步的，获取模块具体用于：
对历史数据进行数据降噪、异常数值筛选处理，再对历史数据进行归一化处理，得到待测数据时间序列，归一化处理公式为：
其中，为进行归一化前的历史数据，/>为进行归一化后的历史数据，/>为进行归一化前的历史数据中的最大值，/>为进行归一化前的历史数据中的最小值，/>为历史数据的映射范围的最小值，/>为历史数据的映射范围的最大值；
基于预设长度的滑动窗口将经过归一化的待测数据时间序列分割为多个等间隔数据片段，并按预设比例将等间隔数据片段分为缺失训练数据集和缺失测试数据集。
进一步的，缺失预测模块具体用于：
构建基于LSTM的数据缺失预测模型，数据缺失预测模型包括输入层、三层LSTM单元层、两层全连接层以及输出层；
首先将缺失训练数据集内的缺失训练数据片段输入至输入层，根据三层LSTM单元层对缺失训练数据片段中的相关性特征进行学习；
然后根据两层全连接层对缺失训练数据片段的维度进行转换，再利用输出层将缺失训练结果映射到实数空间中；
最后，当数据缺失预测模型产生的损失值迭代变化小于设定阈值不再降低或者达到最大迭代次数，终止数据缺失预测模型的训练，得到训练后的数据缺失预测模型；其中，数据缺失预测模型采用均方误差作为损失函数，并根据内设的自适应动量估计引擎更新模型的权重参数；
将缺失测试数据集内的缺失测试数据片段依次输入训练后的数据缺失预测模型，得到缺失预测数据集。
进一步的，残差预测模块具体用于：
构建基于MLP的残差数据预测模型，残差数据预测模型包括输入层、六层隐含层及输出层；
通过六层隐含层依次对残差训练集内的残差训练数据值进行参数训练，直至残差数据预测模型对于训练结果误差精度达到预设波动范围，得到训练后的残差数据预测模型；
将残差测试集内的残差测试数据值依次输入训练后的残差数据预测模型，得到由多个残差预测值组成的残差预测集。
进一步的，校准模块具体用于：
基于ResNet网络构建调校网络模型，调校网络模型包括输入卷积层、SE-ResNet残差模块和输出卷积层；
将残差预测集输入输入卷积层，然后将输入卷积层的输出作为SE-ResNet残差模块的输入；其中，SE-ResNet残差模块包括三个一维卷积层，每个一维卷积层中包括卷积操作、批量归一化和激活函数映射输出，第三个一维卷积层输出包含两个网络分支，其中一个网络分支连接SE模块，另一个网络分支与SE模块的输出结果做乘积，得到乘积结果；
然后将乘积结果与SE-ResNet残差模块的输入求和，其结果作为SE-ResNet残差模块的输出；
最后将SE-ResNet残差模块的输出作为输出卷积层的输入，调整最终输出结果，得到校准值，并利用校准值与缺失预测数据集内相应的样本求和，完成对缺失预测数据集的校准；
对校准后的缺失预测数据集进行反归一化操作，并将反归一化操作后的缺失预测数据集作为通信缺失数据的补值结果；
其中，SE模块包括全局池化层、和两个全连接层，第一个全连接层输出采用Relu函数作为激活函数，第二个全连接层输出采用Sigmoid函数作为激活函数。
本发明一实施例的物联网通信数据缺失处理系统，首先通过数据缺失预测模型对物联网通信数据进行预测，得到缺失预测数据集，再将缺失预测数据集与缺失测试数据作差得到残差数据集，通过残差数据预测模型进行残差值预测，最后再根据调校网络和残差预测集对缺失预测数据集校准，通过三重精细化预测调校，降低了预测数据与真实数据的误差，提高了预测精度，保证物联网通信缺失数据能够被精准预测恢复，满足物联网数据计算和数据分析完整性和全面性的要求。
实施例三
本发明第三实施例，基于同一发明构思，本发明提出的一种计算机可读存储介质，该计算机可读存储介质存储有计算机程序，该计算机程序被处理器执行时实现上述实施例的物联网通信数据缺失处理方法的步骤。
在流程图中表示或在此以其他方式描述的逻辑和/或步骤，例如，可以被认为是用于实现逻辑功能的可执行指令的定序列表，可以具体实现在任何计算机可读介质中，以供指令执行系统、装置或设备（如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统）使用，或结合这些指令执行系统、装置或设备而使用。就本说明书而言，“计算机可读介质”可以是任何包含存储、通讯、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。
计算机可读介质的更具体的示例（非穷尽性列表）包括以下：具有一个或多个布线的电连接部（电子装置），便携式计算机盘盒（磁装置），随机存取存储器（RAM），只读存储器（ROM），可擦除可编辑只读存储器（EPROM或闪速存储器），光纤装置，以及便携式光盘只读存储器（CDROM）。另外，计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质，因为可以例如通过对纸或其他介质进行光学扫描，接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序，然后将其存储在计算机存储器中。
其中，存储器可以包括用于数据或指令的大容量存储器。举例来说而非限制，存储器可包括硬盘驱动器（Hard Disk Drive，简称为HDD）、软盘驱动器、固态驱动器（SolidState Drive，简称为SSD）、闪存、光盘、磁光盘、磁带或通用串行总线（Universal SerialBus，简称为USB）驱动器或者两个或更多个以上这些的组合。在合适的情况下，存储器可包括可移除或不可移除（或固定）的介质。在合适的情况下，存储器可在数据处理装置的内部或外部。在特定实施例中，存储器是非易失性（Non-Volatile）存储器。在特定实施例中，存储器包括只读存储器（Read-Only Memory，简称为ROM）和随机存取存储器（Random AccessMemory，简称为RAM）。在合适的情况下，该ROM可以是掩模编程的ROM、可编程ROM（Programmable Read-Only Memory，简称为PROM）、可擦除PROM（Erasable ProgrammableRead-Only Memory，简称为EPROM）、电可擦除PROM（Electrically Erasable ProgrammableRead-Only Memory，简称为EEPROM）、电可改写ROM（Electrically Alterable Read-OnlyMemory，简称为EAROM）或闪存（FLASH）或者两个或更多个以上这些的组合。在合适的情况下，该RAM可以是静态随机存取存储器（Static Random-Access Memory，简称为SRAM）或动态随机存取存储器（Dynamic Random Access Memory，简称为DRAM），其中，DRAM可以是快速页模式动态随机存取存储器（Fast Page Mode Dynamic Random Access Memory，简称为FPMDRAM）、扩展数据输出动态随机存取存储器（Extended Date Out Dynamic RandomAccess Memory，简称为EDODRAM）、同步动态随机存取内存（Synchronous Dynamic Random-Access Memory，简称SDRAM）等。
实施例四
本发明第四实施例，基于同一发明构思，本发明提出的一种终端，终端包括：处理器，存储器；所述处理器、所述存储器进行相互的通信；存储器用于存储指令；处理器用于执行存储器中的指令，执行上述实施例的物联网通信数据缺失处理方法。
应当理解，本发明的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中，多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。例如，如果用硬件来实现，和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列（PGA），现场可编程门阵列（FPGA）等。
在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不一定指的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。
在不出现冲突的前提下，本领域技术人员可以将上述附加技术特征自由组合以及叠加使用。
以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内。
Claims (8)
1.物联网通信数据缺失处理方法，其特征在于，所述方法包括：
获取物联网通信带有时戳的历史数据，对所述历史数据进行预处理并进行数据分割，得到缺失训练数据集和缺失测试数据集；
基于所述缺失训练数据集和所述缺失测试数据集分别对预设的基于LSTM的数据缺失预测模型进行训练和预测，得到缺失预测数据集；
将所述缺失测试数据集与所述缺失预测数据集内的样本一一对应作差，得到残差数据集，并将所述残差数据集分为残差训练集和残差测试集；
基于所述残差训练集和所述残差测试集分别对预设的基于MLP的残差数据预测模型进行训练和预测，得到残差预测集；其中，所述残差预测集内的样本与所述缺失预测数据集内的样本相对应；
根据所述残差预测集和预设的调校网络模型对所述缺失预测数据集进行校准，得到通信缺失数据的预测补值结果；
根据所述残差预测集和预设的调校网络模型对所述缺失预测数据集进行校准，得到通信缺失数据的预测补值结果的步骤具体包括：
基于ResNet网络构建调校网络模型，所述调校网络模型包括输入卷积层、SE-ResNet残差模块和输出卷积层；
将所述残差预测集输入所述输入卷积层，然后将所述输入卷积层的输出作为所述SE-ResNet残差模块的输入；其中，所述SE-ResNet残差模块包括三个一维卷积层，每个所述一维卷积层中包括卷积操作、批量归一化和激活函数映射输出，第三个所述一维卷积层输出包含两个网络分支，其中一个所述网络分支连接SE模块，另一个所述网络分支与所述SE模块的输出结果做乘积，得到乘积结果；
然后将乘积结果与所述SE-ResNet残差模块的输入求和，其结果作为所述SE-ResNet残差模块的输出；
最后将所述SE-ResNet残差模块的输出作为所述输出卷积层的输入，调整最终输出结果，得到校准值，并利用所述校准值与所述缺失预测数据集内相应的样本求和，完成对所述缺失预测数据集的校准；
对校准后的所述缺失预测数据集进行反归一化操作，并将反归一化操作后的所述缺失预测数据集作为通信缺失数据的补值结果；
其中，所述SE模块包括全局池化层、和两个全连接层，第一个所述全连接层输出采用Relu函数作为激活函数，第二个所述全连接层输出采用Sigmoid函数作为激活函数。
2.根据权利要求1所述的物联网通信数据缺失处理方法，其特征在于，对所述历史数据进行预处理并进行数据分割，得到缺失训练数据集和缺失测试数据集的步骤具体包括：
对所述历史数据进行数据降噪、异常数值筛选处理，再对所述历史数据进行归一化处理，得到待测数据时间序列，归一化处理公式为：
其中，为进行归一化前的所述历史数据，/>为进行归一化后的所述历史数据，/>为进行归一化前的所述历史数据中的最大值，/>为进行归一化前的所述历史数据中的最小值，/>为所述历史数据的映射范围的最小值，/>为所述历史数据的映射范围的最大值；
基于预设长度的滑动窗口将经过归一化的所述待测数据时间序列分割为多个等间隔数据片段，并按预设比例将所述等间隔数据片段分为缺失训练数据集和缺失测试数据集。
3.根据权利要求1所述的物联网通信数据缺失处理方法，其特征在于，基于所述缺失训练数据集和所述缺失测试数据集分别对预设的基于LSTM的数据缺失预测模型进行训练和预测，得到缺失预测数据集的步骤具体包括：
构建基于LSTM的数据缺失预测模型，所述数据缺失预测模型包括输入层、三层LSTM单元层、两层全连接层以及输出层；
首先将所述缺失训练数据集内的缺失训练数据片段输入至输入层，根据三层LSTM单元层对所述缺失训练数据片段中的相关性特征进行学习；
然后根据两层全连接层对所述缺失训练数据片段的维度进行转换，再利用输出层将缺失训练结果映射到实数空间中；
最后，当所述数据缺失预测模型产生的损失值迭代变化小于设定阈值不再降低或者达到最大迭代次数，终止所述数据缺失预测模型的训练，得到训练后的所述数据缺失预测模型；其中，所述数据缺失预测模型采用均方误差作为损失函数，并根据内设的自适应动量估计引擎更新模型的权重参数；
将所述缺失测试数据集内的缺失测试数据片段依次输入训练后的所述数据缺失预测模型，得到缺失预测数据集。
4.根据权利要求1所述的物联网通信数据缺失处理方法，其特征在于，基于所述残差训练集和所述残差测试集分别对预设的基于MLP的残差数据预测模型进行训练和预测，得到残差预测集的步骤具体包括：
构建基于MLP的残差数据预测模型，所述残差数据预测模型包括输入层、六层隐含层及输出层；
通过六层隐含层依次对所述残差训练集内的残差训练数据值进行参数训练，直至所述残差数据预测模型对于训练结果误差精度达到预设波动范围，得到训练后的所述残差数据预测模型；
将所述残差测试集内的残差测试数据值依次输入训练后的所述残差数据预测模型，得到由多个残差预测值组成的残差预测集。
5.物联网通信数据缺失处理系统，其特征在于，所述系统包括：
获取模块，用于获取物联网通信带有时戳的历史数据，对所述历史数据进行预处理并进行数据分割，得到缺失训练数据集和缺失测试数据集；
缺失预测模块，用于基于所述缺失训练数据集和所述缺失测试数据集分别对预设的基于LSTM的数据缺失预测模型进行训练和预测，得到缺失预测数据集；
计算模块，用于将所述缺失测试数据集与所述缺失预测数据集内的样本一一对应作差，得到残差数据集，并将所述残差数据集分为残差训练集和残差测试集；
残差预测模块，用于基于所述残差训练集和所述残差测试集分别对预设的基于MLP的残差数据预测模型进行训练和预测，得到残差预测集；其中，所述残差预测集内的样本与所述缺失预测数据集内的样本相对应；
校准模块，用于根据所述残差预测集和预设的调校网络模型对所述缺失预测数据集进行校准，得到通信缺失数据的预测补值结果；
所述校准模块具体用于：
基于ResNet网络构建调校网络模型，所述调校网络模型包括输入卷积层、SE-ResNet残差模块和输出卷积层；
将所述残差预测集输入所述输入卷积层，然后将所述输入卷积层的输出作为所述SE-ResNet残差模块的输入；其中，所述SE-ResNet残差模块包括三个一维卷积层，每个所述一维卷积层中包括卷积操作、批量归一化和激活函数映射输出，第三个所述一维卷积层输出包含两个网络分支，其中一个所述网络分支连接SE模块，另一个所述网络分支与所述SE模块的输出结果做乘积，得到乘积结果；
然后将乘积结果与所述SE-ResNet残差模块的输入求和，其结果作为所述SE-ResNet残差模块的输出；
最后将所述SE-ResNet残差模块的输出作为所述输出卷积层的输入，调整最终输出结果，得到校准值，并利用所述校准值与所述缺失预测数据集内相应的样本求和，完成对所述缺失预测数据集的校准；
对校准后的所述缺失预测数据集进行反归一化操作，并将反归一化操作后的所述缺失预测数据集作为通信缺失数据的补值结果；
其中，所述SE模块包括全局池化层、和两个全连接层，第一个所述全连接层输出采用Relu函数作为激活函数，第二个所述全连接层输出采用Sigmoid函数作为激活函数。
6.根据权利要求5所述的物联网通信数据缺失处理系统，其特征在于，所述获取模块具体用于：
对所述历史数据进行数据降噪、异常数值筛选处理，再对所述历史数据进行归一化处理，得到待测数据时间序列，归一化处理公式为：
其中，为进行归一化前的所述历史数据，/>为进行归一化后的所述历史数据，/>为进行归一化前的所述历史数据中的最大值，/>为进行归一化前的所述历史数据中的最小值，/>为所述历史数据的映射范围的最小值，/>为所述历史数据的映射范围的最大值；
基于预设长度的滑动窗口将经过归一化的所述待测数据时间序列分割为多个等间隔数据片段，并按预设比例将所述等间隔数据片段分为缺失训练数据集和缺失测试数据集。
7.根据权利要求5所述的物联网通信数据缺失处理系统，其特征在于，所述缺失预测模块具体用于：
构建基于LSTM的数据缺失预测模型，所述数据缺失预测模型包括输入层、三层LSTM单元层、两层全连接层以及输出层；
首先将所述缺失训练数据集内的缺失训练数据片段输入至输入层，根据三层LSTM单元层对所述缺失训练数据片段中的相关性特征进行学习；
然后根据两层全连接层对所述缺失训练数据片段的维度进行转换，再利用输出层将缺失训练结果映射到实数空间中；
最后，当所述数据缺失预测模型产生的损失值迭代变化小于设定阈值不再降低或者达到最大迭代次数，终止所述数据缺失预测模型的训练，得到训练后的所述数据缺失预测模型；其中，所述数据缺失预测模型采用均方误差作为损失函数，并根据内设的自适应动量估计引擎更新模型的权重参数；
将所述缺失测试数据集内的缺失测试数据片段依次输入训练后的所述数据缺失预测模型，得到缺失预测数据集。
8.根据权利要求5所述的物联网通信数据缺失处理系统，其特征在于，所述残差预测模块具体用于：
构建基于MLP的残差数据预测模型，所述残差数据预测模型包括输入层、六层隐含层及输出层；
通过六层隐含层依次对所述残差训练集内的残差训练数据值进行参数训练，直至所述残差数据预测模型对于训练结果误差精度达到预设波动范围，得到训练后的所述残差数据预测模型；
将所述残差测试集内的残差测试数据值依次输入训练后的所述残差数据预测模型，得到由多个残差预测值组成的残差预测集。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202410424605.7A CN118013217B (zh) | 2024-04-10 | 2024-04-10 | 物联网通信数据缺失处理方法及系统 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202410424605.7A CN118013217B (zh) | 2024-04-10 | 2024-04-10 | 物联网通信数据缺失处理方法及系统 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN118013217A CN118013217A (zh) | 2024-05-10 |
| CN118013217B true CN118013217B (zh) | 2024-06-21 |
Family
ID=90954485
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202410424605.7A Active CN118013217B (zh) | 2024-04-10 | 2024-04-10 | 物联网通信数据缺失处理方法及系统 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN118013217B (zh) |
Family Cites Families (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20190188611A1 (en) * | 2017-12-14 | 2019-06-20 | Business Objects Software Limited | Multi-step time series forecasting with residual learning |
| US11775873B2 (en) * | 2018-06-11 | 2023-10-03 | Oracle International Corporation | Missing value imputation technique to facilitate prognostic analysis of time-series sensor data |
| WO2023113729A1 (en) * | 2021-11-24 | 2023-06-22 | Kriptek Kripto Ve Bilişim Teknolojileri Sanayi Ve Ticaret Anonim Şirketi | High performance machine learning system based on predictive error compensation network and the associated device |
| CN114663376A (zh) * | 2022-03-15 | 2022-06-24 | 中国华能集团清洁能源技术研究院有限公司 | 基于改进ssd模型的风机叶片缺陷检测方法及系统 |
| CN115618706A (zh) * | 2022-06-19 | 2023-01-17 | 北京强度环境研究所 | 基于退化趋势分析和grnn的缺失数据模拟方法 |
| CN115169746A (zh) * | 2022-08-15 | 2022-10-11 | 华润数字科技有限公司 | 基于融合模型的电力负荷短期预测方法、装置及相关介质 |
| CN116070799B (zh) * | 2023-03-30 | 2023-05-30 | 南京邮电大学 | 一种基于注意力及深度学习的光伏发电量预测系统及方法 |
| CN116933090A (zh) * | 2023-08-07 | 2023-10-24 | 浙江大学 | 一种基于深度神经网络的pm2.5预测方法和装置 |
| CN117370748A (zh) * | 2023-09-07 | 2024-01-09 | 中国银行股份有限公司 | 虚拟资源数据预测方法、装置、计算机设备和存储介质 |
| CN117312769A (zh) * | 2023-09-20 | 2023-12-29 | 天津科技大学 | 一种基于BiLSTM的物联网时序数据异常检测方法 |
| CN117390502A (zh) * | 2023-12-13 | 2024-01-12 | 国网江苏省电力有限公司苏州供电分公司 | 一种基于ResIOFNN网络的电压数据缺失值填补方法及系统 |
-
2024
- 2024-04-10 CN CN202410424605.7A patent/CN118013217B/zh active Active
Non-Patent Citations (2)
| Title |
|---|
| Recurrent Neural Networks for Multivariate Time Series with Missing Values;Zhengping Che 等;scientific reports;20180417;全文 * |
| 基于误差校正的能源消费总量预测方法;艾兵;董明刚;;桂林理工大学学报;20160725(02);全文 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN118013217A (zh) | 2024-05-10 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN112633412B (zh) | 异常用电检测方法、设备及存储介质 | |
| CN105473354A (zh) | Hvac系统的功耗评价 | |
| CN110533166B (zh) | 一种基于时空间融合特征的室内定位方法 | |
| CN113328908B (zh) | 异常数据的检测方法、装置、计算机设备和存储介质 | |
| CN117471227B (zh) | 汽车线束参数性能测试方法及测试系统 | |
| CN114707632A (zh) | 一种传感网络传感器故障定位方法、系统、设备及介质 | |
| CN115824261B (zh) | 一种控制力矩陀螺仪故障检测方法、装置及相关存储介质 | |
| CN116559667A (zh) | 模型训练方法及装置、电池检测方法及装置、设备、介质 | |
| CN118013217B (zh) | 物联网通信数据缺失处理方法及系统 | |
| CN109065176B (zh) | 一种血糖预测方法、装置、终端和存储介质 | |
| CN110866682A (zh) | 基于历史数据的地下电缆预警方法和装置 | |
| CN107437112B (zh) | 一种基于改进多尺度核函数的混合rvm模型预测方法 | |
| CN112128950A (zh) | 一种基于多种模型对比的机房温湿度预测方法及系统 | |
| CN117407771A (zh) | 基于数字孪生的轴承健康状态评估方法、装置及相关设备 | |
| CN116128882B (zh) | 基于不平衡数据集的电机轴承故障诊断方法、设备及介质 | |
| CN116842447A (zh) | 分类数据的后处理方法、装置、系统和电子装置 | |
| CN116738261A (zh) | 基于聚类分箱的数值型特征离散化归因分析方法及装置 | |
| CN116415488A (zh) | 一种土壤湿度预测方法、装置、电子设备及存储介质 | |
| US20220222573A1 (en) | Running tests in data digest machine-learning model | |
| KR102389317B1 (ko) | 순환 신경망(rnn)을 이용한 스마트팜 센서의 고장여부 판단방법 | |
| CN115420977A (zh) | 电器故障检测方法、训练方法、计算机设备及存储介质 | |
| CN112114215A (zh) | 基于误差反向传播算法的变压器老化评估的方法及系统 | |
| CN113408739A (zh) | 定子温度的监控方法、装置、设备和存储介质 | |
| CN116087622B (zh) | 检测准确度预测方法、装置、处理设备及存储介质 | |
| CN116381511B (zh) | 电池状态检测方法、装置、电子设备及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |