CN113239949A - 一种基于1d分组卷积神经网络的数据重构方法 - Google Patents

一种基于1d分组卷积神经网络的数据重构方法 Download PDF

Info

Publication number
CN113239949A
CN113239949A CN202110276693.7A CN202110276693A CN113239949A CN 113239949 A CN113239949 A CN 113239949A CN 202110276693 A CN202110276693 A CN 202110276693A CN 113239949 A CN113239949 A CN 113239949A
Authority
CN
China
Prior art keywords
data
layer
grouping
pooling
convolution
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110276693.7A
Other languages
English (en)
Inventor
许艳萍
章霞
裘振亮
叶挺聪
仇建
张桦
吴以凡
张灵均
陈政
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hangzhou Dianzi University
Original Assignee
Hangzhou Dianzi University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hangzhou Dianzi University filed Critical Hangzhou Dianzi University
Priority to CN202110276693.7A priority Critical patent/CN113239949A/zh
Publication of CN113239949A publication Critical patent/CN113239949A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/50Monitoring users, programs or devices to maintain the integrity of platforms, e.g. of processors, firmware or operating systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Computer Security & Cryptography (AREA)
  • Evolutionary Computation (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Molecular Biology (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Evolutionary Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Computer Hardware Design (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种基于1D分组卷积神经网络的数据重构方法。该方法数据分组、模型的构建与训练优化以及数据重构。计算数据特征之间的相关性并降序排列,然后依据相关性对数据进行分组,输入分组卷积神经网络中进行分组运算,再通过全连接层的全局卷积操作和拼接层的特征拼接,输出重构特征,实现任意维度的特征重构。得到的重构特征维度降低,并且模型的空间复杂度和时间复杂度都有所下降,因此可以减少时间,降低内存资源占用。本方法,在分组时利用了特征之间的相关性,提高了重构特征之间的相关性;通过对数据分组,可以控制重构特征的维度,实现数据降维,不仅简化了深度学习的运算过程,还提高了模型的运算效率。

Description

一种基于1D分组卷积神经网络的数据重构方法
技术领域
本发明涉及网络安全大数据分析和建模领域,尤其是涉及到一种基于1D分组卷积神经 网络的数据重构方法。
背景技术
网络空间中存在各种各样的网络攻击方式,比如恶意代码、钓鱼邮件和网站、流量攻击、 漏洞利用等,这些攻击不仅会造成巨大的经济损失,甚至会威胁国家安全和社会稳定,因此 对网络威胁进行检测是很有必要的。在检测的过程中,需要采集大量的网络数据,比如恶意 软件、钓鱼邮件、网络流量、系统日志等,构建传统的机器学习模型分析这些数据已经难以 取得较好的效果。随着深度学习、人工智能计算的不断发展,以及深度学习技术在计算机视 觉、自然语言处理等方面的成功应用,将深度学习技术应用于网络空间威胁检测方面,是一 种实现网络安全数据分类,提高网络威胁检测的有效方法。
深度学习技术包括多种算法,比如卷积神经网络(CNN)、循环神经网络(RNN)、对抗神经网络(GAN)等,其中,CNN算法利用卷积层的非线性运算,对数据特征进行学习和重 新表征,利用池化层的压缩运算,减少数据特征的维度,因此,CNN算法能够用于处理网络 安全数据。根据处理数据类型的不同,CNN算法可以构建1D-CNN模型和2D-CNN模型。 比如,在处理序列信号数据和自然语言时,构建1D-CNN模型,在处理图像、视频数据时, 构建2D-CNN模型。将2D-CNN模型用于网络安全数据进行分类时,首先需要将数据转换为 图像格式然后再进行处理,在处理过程中存在运算过程复杂、运算量大的缺陷。
发明内容
针对现有技术的不足,本发明提出了一种基于1D分组卷积神经网络的数据重构方法, 在预处理阶段利用数据特征之间的相关性,对高维数据进行分组,然后构建1D分组CNN深 层模型,针对每组数据采用一组卷积核和池化核进行运算,利用神经元的非线性特性重构原 始的安全数据特征,最后将分组重构的数据进行拼接,形成完整的重构数据,降低数据的维 度。
一种基于1D分组卷积神经网络的数据重构方法,该方法具体包括以下步骤:
步骤一、构造数据集
对原始安全数据进行One-hot编码,构建尺寸为N*D的训练集X,其中N为训练集的样 本数,D表示训练集维度;Y为训练集X对应的真实类别标签集合。
步骤二、数据分组
计算训练集X的D个特征之间的相关性,形成相关性矩阵R,任意取一组数据Rn作为分组依据,对Rn中的D个相关性系数进行降序排列,按照降序的相关性系数将训练集X分 为T组,第t组特征数据Xt包含D/T个特征,其中n=1,2,...N,t=1,2,...T。t越小,表示 Xt组内的数据相关性越强,反之则组内相关性越弱。
步骤三、构建1D分组CNN算法模型
构建1D分组CNN算法模型,用于对输入的分组数据集进行重构、降维,模型包括1个输入层、L个卷积层、L个池化层、1个全连接层、1个拼接层和1个Softmax层。输入层包 含T组数据输入,每个卷积层包含T组卷积运算,每组卷积运算中有M个卷积核,每个池化 层包含T组池化运算,每组池化运算中有M个池化核。
所述输入层,用于T组数据Xt的输入。
所述L个卷积层,第一个卷积层的输入与输入层相连,经过非线性激活函数ReLU(·)输出 后与第一个池化层相连,第l+1个卷积层的输入与第l个池化层相连,输出经过非线性激活函 数ReLU(·)后与第l+1个池化层相连,其中l=1,2...L。在每组卷积运算中,T组数据分别与M个 卷积核进行卷积运算,得到卷积特征图。
所述L个池化层,其中,第L个池化层的输出经过非线性激活函数ReLU(·)后与全连接层的 输入相连。池化层采用最大值池化的方式,对卷积层的输出进行最大化下采样,形成池化特 征图。
所述全连接层的输入与第L个池化层的输出相连,对每组池化特征图进行全局卷积运算, 得到T组重构特征Xt′。
所述拼接层,将全连接层的T组输出进行拼接,输出得到重构特征数据X′。
步骤四、模型的训练、优化
将步骤三得到的重构特征数据X′输入到softmax层中,得到重构特征数据的预测类别标 签Y′,将预测的样本类别标签Y′与真实的类别标签Y相比,基于交叉熵损失函数定义1D分 组CNN算法模型的损失函数Loss,循环训练F次并采用Adam优化函数将损失函数Loss优 化到最小值,完成义1D分组CNN算法模型的优化。
作为优选,F=1000。
步骤五、完成数据重构
将训练集X输入步骤四优化得到的1D分组CNN模型,从模型的拼接层输出得到得到的 尺寸为N×D′重构特征矩阵X′,其中D′≤D,表示重构矩阵的维度低于原始数据矩阵,即1D分组CNN模型实现重构矩阵对原始矩阵的降维。
本发明具有以下有益效果:
(1)计算原始数据特征之间的相关性,然后按照相关性降序排列,对数据进行分组,这 会使得有些分组内的特征相关性更强,有些分组内的特征相关性更弱,再将分组后的数据输 入到卷积神经网络中,利用分组特征增强重构特征数据间的关联性。
(2)根据输入数据的1D结构,构建1D分组CNN模型,该模型针对分组数据,对每一层卷积层和池化层进行分组,每组卷积和池化包含多个卷积核核池化核,分别对每组数据进 行卷积操作和池化操作。相比于不分组的数据运算过程,分组运算能够降低计算的时间复杂 度和空间复杂度,可以减少参数与运算时间,提高重构效率。
(3)经过1D分组CNN的卷积操作、池化操作和全连接层的卷积操作,能够控制重构特征的维度,当维度低于原始数据维度时,实现了数据的降维,也使得CNN的Loss更低。
附图说明
图1为基于1D分组卷积神经网络的数据重构方法流程图。
具体实施方式
以下结合附图对本发明作进一步的解释说明;
如图1所示,基于1D分组卷积神经网络的数据重构方法包括数据分组、模型构建、训 练优化以及数据重构,具体过程如下:
步骤一、构建数据集
对原始安全数据进行One-hot编码,构建尺寸为N*D的训练集X,其中N为数据集的样 本数,D表示数据集维度;Y为训练集X对应的真实类别标签集合。
步骤二、数据分组
计算训练集X的D个特征之间的相关性,形成相关性矩阵R,取一组数据Rn将其中的D 个相关性系数按降序进行排列,根据Rn中排序后的相关性系数将训练集X分为T组,第t组特征数据Xt包含D/T个特征,其中n=1,2,...N,t=1,2,...T。
步骤三:构建1D分组CNN算法模型
构建1D分组CNN算法模型,用于对输入的分组数据集进行重构、降维,模型包括1个输入层、L个卷积层、L个池化层、1个全连接层、1个拼接层和1个Softmax层。输入层包 含T组数据输入;每个卷积层包含T组卷积运算,每组卷积运算中有M个卷积核;每个池化 层包含T组池化运算,每组池化运算中有M个池化核。
所述输入层,用于T组数据的输入。
所述L个卷积层,第一个卷积层的输入与输入层的输出相连,经过非线性激活函数ReLU(·) 输出后与第一个池化层的输入相连,第l+1个卷积层的输入与第l个池化层的输出相连,输出 经过非线性激活函数ReLU(·)后与第l+1个池化层的输入相连。第l个卷积层中第t组的第m个卷 积核表示为
Figure RE-GDA0003109865710000041
与输入数据xn,t或者第l-1个池化层的第t组的第m个池化核输出
Figure RE-GDA0003109865710000042
进行运 算,得到卷积运算输出
Figure RE-GDA0003109865710000043
Figure BDA0002976936760000044
其中,l=1,2...L,m=1,2,...M;xn,t表示第t组数据Xt中的第n个样本,convlD(·)表示1 维卷积函数,
Figure RE-GDA0003109865710000045
表示第l层第t组中第m个卷积核运算时的偏移量,ReLU(·)表示非线性激活函 数。
所述L个池化层,其中,第L个池化层的输出经过非线性激活函数ReLU(·)后与全连接层的 输入相连。池化层采用最大值池化的方式,在第l个池化层第t组中的第m个池化运算,使用池 化矩阵Pl m,t对第l个卷积层第t组中的第m个卷积核输出
Figure RE-GDA0003109865710000046
进行下采样操作,再经过非线性激 活函数ReLU(·),得到池化后的非线性映射特征矩阵
Figure RE-GDA0003109865710000047
Figure BDA00029769367600000413
其中,maxpooling(·)表示最大池化函数。
所述全连接层的输入与第L个池化层的输出相连,包含T组卷积操作,在全连接层中经过 第t组卷积核
Figure BDA0002976936760000052
的全局卷积运算,得到重构特征Xt′:
Figure BDA0002976936760000053
其中,
Figure BDA0002976936760000054
表示全连接层中第t组全连接的第m个卷积核,
Figure BDA0002976936760000055
表示全连接层中的偏移量。 所述拼接层将全连接层的T组输出进行拼接,得到重构特征数据X′:
X′=concatenate(Xt′),
其中,concatenate(·)表示重构特征数据的拼接函数。
步骤四、模型的训练、优化
将步骤三得到的重构特征数据X′输入到softmax层中,得到预测重构特征数据的类别标 签Y′:
Y′=softmax(X′)
将预测的样本类别标签Y′与真实的类别标签Y相比,基于交叉熵损失函数定义1D分组 CNN算法模型的损失函数Loss:
Loss=crossentropy(Y,Y′)
其中,crossentropy(·)表示交叉熵损失函数。
循环训练1D分组CNN模型1000次,并采用Adam优化函数将1D分组CNN模型的损 失函数Loss优化到最小值,完成对1D分组CNN模型训练、优化。
步骤五、数据重构
将训练集X输入步骤四优化得到的1D分组CNN模型,从模型的拼接层输出得到1D分组CNN模型训练完成得到的尺寸为N×D′重构特征矩阵X′,其中D′≤D,表示重构矩阵的 维度低于原始数据矩阵,即1D分组CNN模型实现重构矩阵对原始矩阵的降维。
1D分组CNN模型的复杂度包括时间复杂度和空间复杂度。时间复杂度指的是模型运算 耗费的时间,体现在计算的复杂度,即模型中加法和乘法的运算次数,与模型的层数、分组 数、分组中的卷积核数、卷积核的尺寸以及卷积输出的特征图的尺寸相关。空间复杂度主要 指的是算法中的参数总量,体现在占用计算内存资源,与模型的层数、分组数、分组中的卷 积核数、卷积核的尺寸有关系。
首先计算上述1D分组CNN模型的时间复杂度。输入数据为X,维度为D,被分为T个分组,每个分组的维度为D/T。模型有L个卷积层和L个池化层,每层有T个分组,每个分 组有M个卷积核,卷积核的长度为W,输入、输出通道的数量分别为Cin、Cout,则对于一层 中的一组卷积运算来说,时间复杂度为:
N*Cin*M*(1*W1+1)*W2*M*W1*Cout,
其中,M*(W+1)表示输入数据与卷积核的乘法次数,考虑到偏移量的存在因此次数加1; W2是输入数据与卷积核运算得到的特征图的尺寸:
W2=(D+2padding-M)/stride+1
其中padding=0,stride=1。*W*M表示得到卷积层最终输出特征图的加法次数。*Cin和*Cout表示在多个输入通道和输出通道上重复计算。*N表示考虑所有样本的计算复杂度。
模型的卷积层拥有L层T组卷积,时间复杂度为:
Figure BDA0002976936760000061
而池化层是取最大值的操作,没有乘法和加法运算,所以池化层的操作不计入时间复杂 度。在忽略偏移项的情况下对上式进行优化,计算得到1D分组CNN模型的时间复杂度为:
Figure BDA0002976936760000062
再计算1D分组CNN模型的空间复杂度,即计算模型运行过程中的参数总量。对于一个 卷积核运算来说,空间复杂度为(W+1),则对于L层T组M个卷积核来说,空间复杂度为:
Figure BDA0002976936760000063
忽略偏移量项后优化得到的空间复杂度为
Figure BDA0002976936760000064
未进行分组的1D CNN模型的时间复杂度和空间复杂度分别为:
Figure BDA0002976936760000071
Figure BDA0002976936760000072
当1D CNN模型每层的卷积核数量与1D分组CNN模型每层的卷积核总数量相等,即M′=M*T。又由于输入数据的长度不同,1D CNN模型输入数据的长度为D,1D分组CNN 模型输入数据的长度为D/T,则1D CNN模型卷积核的长度和卷积运算输出的特征图长度至 少有一个大于1D分组CNN模型中卷积核的长度和卷积运算输出的特征图长度,即W<W′、 W2<W2′两个结果至少一个成立,或者两个都成立。因此,通过比较,可以得到1D分组CNN 模型的时间复杂度和空间复杂度要小于1D CNN模型的时间复杂度和空间复杂度。

Claims (5)

1.一种基于1D分组卷积神经网络的数据重构方法,其特征在于:该方法具体包括以下步骤:
步骤一、构造数据集
对原始安全数据进行One-hot编码,构建尺寸为N*D的训练集X,其中N为训练集的样本数,D表示训练集维度;Y为训练集X对应的真实类别标签集合;
步骤二、数据分组
计算训练集X的D个特征之间的相关性,形成相关性矩阵R,取一组数据Rn将其中的D个相关性系数按降序进行排列,根据Rn中排序后的相关性系数将训练集X分为T组,第t组特征数据Xt包含D/T个特征,其中n=1,2,...N,t=1,2,...T;
步骤三、构建1D分组CNN算法模型
构建1D分组CNN算法模型,用于对输入的分组数据集进行重构、降维,模型包括1个输入层、L个卷积层、L个池化层、1个全连接层、1个拼接层和1个Softmax层;
所述输入层,用于T组数据的输入;
所述L个卷积层,每个卷积层包含T组卷积运算,每组卷积运算中有M个卷积核,第一个卷积层的输入与输入层的输出相连,经过非线性激活函数ReLU(·)输出后与第一个池化层的输入相连;第l+1个卷积层的输入与第l个池化层的输出相连,输出经过非线性激活函数ReLU(·)后与第l+1个池化层的输入相连,其中l=1,2...L;在每组卷积运算中,T组数据分别与M个卷积核进行卷积运算,得到卷积特征图;
所述L个池化层,每个池化层包含T组池化运算,每组池化运算中有M个池化核;其中,第L个池化层的输出经过非线性激活函数ReLU(·)后与全连接层的输入相连;池化层采用最大值池化的方式,对卷积层的输出进行最大化下采样,形成池化特征图;
所述全连接层的输入与第L个池化层的输出相连,对每组池化特征图进行全局卷积运算,得到T组重构特征Xt′;
所述拼接层,将全连接层的T组输出进行拼接,输出得到重构特征数据X′;
步骤四、模型的训练、优化
将步骤三得到的重构特征数据X′输入到softmax层中,得到重构特征数据的预测类别标签Y′,将预测的样本类别标签Y′与真实的类别标签Y相比,计算1D分组CNN算法模型的损失函数Loss,迭代训练F次并采用Adam优化函数优化损失函数Loss,完成1D分组CNN算法模型的优化;
步骤五:完成数据重构
将训练集X输入步骤四优化得到的1D分组CNN模型,从模型的拼接层输出得到得到的尺寸为N×D′重构特征矩阵X′,其中D′≤D,表示重构矩阵的维度低于原始数据矩阵,1D分组CNN模型实现重构矩阵对原始矩阵的降维。
2.如权利要求1所述一种基于1D分组卷积神经网络的数据重构方法,其特征在于:步骤二分组得到的T组数据中,t越小,表示Xt组内的数据相关性越强,反之则组内相关性越弱。
3.如权利要求1所述一种基于1D分组卷积神经网络的数据重构方法,其特征在于:步骤四中1D分组CNN算法模型的损失函数Loss基于交叉熵损失函数定义。
4.如权利要求1所述一种基于1D分组卷积神经网络的数据重构方法,其特征在于:1D分组CNN算法模型的迭代训练次数F=1000。
5.如权利要求1所述一种基于1D分组卷积神经网络的数据重构方法,其特征在于:1D分组CNN算法模型的优化过程中,使用Adam优化函数将损失函数Loss优化至最小值。
CN202110276693.7A 2021-03-15 2021-03-15 一种基于1d分组卷积神经网络的数据重构方法 Pending CN113239949A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110276693.7A CN113239949A (zh) 2021-03-15 2021-03-15 一种基于1d分组卷积神经网络的数据重构方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110276693.7A CN113239949A (zh) 2021-03-15 2021-03-15 一种基于1d分组卷积神经网络的数据重构方法

Publications (1)

Publication Number Publication Date
CN113239949A true CN113239949A (zh) 2021-08-10

Family

ID=77130289

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110276693.7A Pending CN113239949A (zh) 2021-03-15 2021-03-15 一种基于1d分组卷积神经网络的数据重构方法

Country Status (1)

Country Link
CN (1) CN113239949A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114169377A (zh) * 2021-12-17 2022-03-11 郑州滕瑟电子科技有限公司 基于g-mscnn的有噪环境中滚动轴承故障诊断方法
WO2024088269A1 (zh) * 2022-10-26 2024-05-02 维沃移动通信有限公司 文字识别方法、装置、电子设备及介质

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114169377A (zh) * 2021-12-17 2022-03-11 郑州滕瑟电子科技有限公司 基于g-mscnn的有噪环境中滚动轴承故障诊断方法
WO2024088269A1 (zh) * 2022-10-26 2024-05-02 维沃移动通信有限公司 文字识别方法、装置、电子设备及介质

Similar Documents

Publication Publication Date Title
WO2021042828A1 (zh) 神经网络模型压缩的方法、装置、存储介质和芯片
CN108985317B (zh) 一种基于可分离卷积和注意力机制的图像分类方法
CN110048827B (zh) 一种基于深度学习卷积神经网络的类模板攻击方法
CN112308158A (zh) 一种基于部分特征对齐的多源领域自适应模型及方法
CN112116001B (zh) 图像识别方法、装置及计算机可读存储介质
CN111242071B (zh) 一种基于锚框的注意力遥感图像目标检测方法
CN110222760B (zh) 一种基于winograd算法的快速图像处理方法
CN111783442A (zh) 入侵检测方法、设备和服务器、存储介质
CN112839024A (zh) 一种基于多尺度特征注意力的网络流量分类方法及系统
CN112529146B (zh) 神经网络模型训练的方法和装置
CN110490265B (zh) 一种基于双路卷积和特征融合的图像隐写分析方法
CN112465120A (zh) 一种基于进化方法的快速注意力神经网络架构搜索方法
CN112995150B (zh) 一种基于cnn-lstm融合的僵尸网络检测方法
CN113239949A (zh) 一种基于1d分组卷积神经网络的数据重构方法
CN107292458A (zh) 一种应用于神经网络芯片的预测方法和预测装置
CN113592060A (zh) 一种神经网络优化方法以及装置
Luan et al. Sunflower seed sorting based on convolutional neural network
CN114882278A (zh) 一种基于注意力机制和迁移学习的轮胎花纹分类方法和装置
CN111144296A (zh) 基于改进cnn模型的视网膜眼底图片分类方法
CN116563683A (zh) 一种基于卷积神经网络和多层感知机的遥感影像场景分类方法
CN112989955B (zh) 基于空时双流异构嫁接卷积神经网络人体动作识别方法
CN112529637B (zh) 基于情景感知的服务需求动态预测方法及系统
CN115242458A (zh) 一种基于shap的1d-cnn网络流量分类模型的可解释方法
CN115115835A (zh) 图像的语义分割方法、装置、设备、存储介质及程序产品
CN114741532A (zh) 基于多尺度分散动态路由的知识图谱补全方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
CB03 Change of inventor or designer information
CB03 Change of inventor or designer information

Inventor after: Zhang Xia

Inventor after: Xu Yanping

Inventor after: Qiu Zhenliang

Inventor after: Ye Tingcong

Inventor after: Qiu Jian

Inventor after: Zhang Hua

Inventor after: Wu Yifan

Inventor after: Zhang Lingjun

Inventor after: Chen Zheng

Inventor before: Xu Yanping

Inventor before: Zhang Xia

Inventor before: Qiu Zhenliang

Inventor before: Ye Tingcong

Inventor before: Qiu Jian

Inventor before: Zhang Hua

Inventor before: Wu Yifan

Inventor before: Zhang Lingjun

Inventor before: Chen Zheng