CN113361648A - 一种用于安全的工业大数据分析的信息指纹提取方法 - Google Patents

一种用于安全的工业大数据分析的信息指纹提取方法 Download PDF

Info

Publication number
CN113361648A
CN113361648A CN202110765362.XA CN202110765362A CN113361648A CN 113361648 A CN113361648 A CN 113361648A CN 202110765362 A CN202110765362 A CN 202110765362A CN 113361648 A CN113361648 A CN 113361648A
Authority
CN
China
Prior art keywords
neural network
sample
autoencoder
information fingerprint
loss function
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110765362.XA
Other languages
English (en)
Other versions
CN113361648B (zh
Inventor
葛志强
江肖禹
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhejiang University ZJU
Original Assignee
Zhejiang University ZJU
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhejiang University ZJU filed Critical Zhejiang University ZJU
Priority to CN202110765362.XA priority Critical patent/CN113361648B/zh
Publication of CN113361648A publication Critical patent/CN113361648A/zh
Application granted granted Critical
Publication of CN113361648B publication Critical patent/CN113361648B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/211Selection of the most significant subset of features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/088Non-supervised learning, e.g. competitive learning
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/30Computing systems specially adapted for manufacturing

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开一种用于安全的工业大数据分析的信息指纹提取方法,该方法首先构建一个信息指纹提取网络,该网络包括孪生神经网络和自编码器,其中孪生神经网络包括两个隐含层参数共享的神经网络;通过有监督对比训练孪生神经网络,把孪生神经网络的隐含层参数保留,并迁移到一个自编码器的编码网络中作为初始化的参数,然后再用原始样本对自编码器进行无监督的训练,得到训练后的自编码器,最后根据训练后的自编码器得到样本的重构样本,再将重构样本与原始样本求差,即可得到信息指纹。该方法定位了真实样本和对抗样本的关键信息,将其进行区分,有效地保护了工业数据驱动模型决策的安全性。

Description

一种用于安全的工业大数据分析的信息指纹提取方法
技术领域
本发明属于工业对抗样本的检测领域,具体涉及一种用于安全的工业大数据分析的信息指纹提取方法。
背景技术
随着信息技术、分布式控制系统、传感技术等的不断发展,数据在工业中的积累量已经到了一个前所未有的水平。在工业大数据时代中,相比机理和知识驱动模型,数据驱动模型由于它的灵活性和通用性在工业生产过程中得到了更广泛的应用和发展,最常用的有故障诊模型和软测量模型。但是随着工业控制系统和互联网不断融合,攻击者可以通过多种渠道对系统数据进行篡改,这对数据驱动模型也造成了巨大的风险。
对抗攻击是一种在原有样本的基础上加入少量扰动得到对抗样本,以使数据驱动模型做出错误判断的数据攻击行为。虽然自然扰动在工业场景下是普遍存在的,比如环境噪声,设备老化,操作差异等等。但已有大量的研究证明,数据驱动模型在面对对抗样本时是脆弱的,如果没有良好的应对措施,错误的决策会对工业过程产生重大的安全威胁。
目前迫切的需要一种方法来对工业数据进行检测,判断其是真实样本还是对抗样本,防止对抗样本对数据驱动模型的决策产生误导,进行安全的工业大数据分析。
发明内容
针对对抗样本的检测问题,本发明提出一种用于安全的工业大数据分析的信息指纹提取方法,该方法从真实样本和对抗样本的细微差别中得到代表其各自身份的信息指纹,从而可以适用于不同的工业数据驱动模型,比如故障诊断模型和软测量模型,并以此对对抗样本进行精确的检测。
本发明的目的通过如下的技术方案来实现:
一种用于安全的工业大数据分析的信息指纹提取方法,该方法包括如下步骤:
(1)构建信息指纹提取网络,该网络包括孪生神经网络和自编码器;所述孪生神经网络包括两个隐含层参数共享的神经网络;自编码器包括编码器和解码器两部分结构;
(2)将原始样本
Figure BDA0003151279780000011
和其对应的标签
Figure BDA0003151279780000012
输入孪生神经网络的其中一个神经网络,将原始样本的正样本x+μ和其对应标签
Figure BDA0003151279780000013
输入孪生神经网络的其中一个神经网络,进行有监督训练;其中,n代表的是样本的数量,d是样本的维度,μ~N(0,σ2)为外部噪声的模拟;其中,所述孪生神经网络的损失函数为L+λLcl,其中,L为输入原始样本的神经网络的目标损失函数,λ是权重因子,Lcl为对比训练损失,计算公式如下
Figure BDA0003151279780000021
其中,h1和h2分别为孪生神经网络的两个神经网络的隐含层的输出;
(3)将孪生神经网络的隐含层参数保留,并迁移到一个自编码器的编码网络中作为初始化的参数,然后用原始样本
Figure BDA0003151279780000022
来对自编码器进行无监督的训练,得到训练后的自编码器;
(4)将待获取信息指纹的样本输入训练后的自编码器,得到该样本的重构样本,重构样本和待获取指纹样本的残差值即为样本的信息指纹。
进一步地,当该方法用于故障诊断任务时,所述孪生神经网络的目标损失函数L采用交叉熵损失函数表示:
Figure BDA0003151279780000023
其中,i=1,2,…,n,fDNN(·)表示数据驱动模型的预测值。
进一步地,当该方法用于质量变量预测任务时,所述孪生神经网络的目标损失函数L采用均方误差损失函数表示:
Figure BDA0003151279780000024
本发明的有益效果如下:
(1)该方法考虑了对抗攻击的目的性,定位了真实样本和对抗样本的关键信息并进行有效的特征提取,可以进一步用于对抗样本的检测,有效地保护了工业数据驱动模型决策的安全性。
(2)该方法对外部噪声有一定的鲁棒性,可以更好的在有外部噪声情况下得到对抗样本。
(3)通过本发明的方法可以快速、方便地得到原始样本和对抗样本对应的信息指纹,将本发明的方法应用在故障诊断和分类场景中,可以对多种对抗攻击进行检测,故障检测率高,误检率低。
附图说明
图1为本发明的方法的示意图;
图2为田纳西伊曼工艺流程图;
图3为脱丁烷塔的流程图。
具体实施方式
下面根据附图和优选实施例详细描述本发明,本发明的目的和效果将变得更加明白,应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
本发明的用于安全的工业大数据分析的信息指纹提取方法,通过信息指纹提取网络(IfeNet)来实现。如图1所示,IfeNet的结构包括两个部分,它们分别是孪生神经网络和自编码器。并且,IfeNet的训练过程可以分为两个阶段,它们分别是有监督的对比训练和无监督训练。
步骤一:有监督的对比训练
1.构造一对孪生神经网络,其由两个神经网络组成。两个神经网络的隐含层(除了出入层和输出层之外)参数是共享的,即完全保持一致。假设原始样本为
Figure BDA0003151279780000031
n代表的是样本的数量,d是样本的维度,其对应的标签为
Figure BDA0003151279780000032
高斯噪声μ~N(0,σ2)作为外部噪声的模拟,构造原始样本的正样本为x+μ。然后分别将原始样本
Figure BDA0003151279780000033
和其对应的标签
Figure BDA0003151279780000034
输入孪生神经网络的其中一个神经网络,将原始样本的正样本x+μ和其对应标签
Figure BDA0003151279780000035
输入孪生神经网络的其中一个神经网络,进行有监督训练。孪生神经网络通过误差反向传播进行训练,训练的损失函数包括两个部分,它们分别是监督训练损失和对比训练损失。
(1)监督训练损失对应的是目标损失函数L,监督训练损失根据IfeNet应用场景的不同而进行对应选择。例如本发明的方法用于故障诊断时,故障诊断模型对应的目标损失函数L采用交叉熵损失Lce;本发明的方法用于分类时,则软测量模型对应的目标损失函数L采用均方误差损失Lmse,两者的计算公式如下:
Figure BDA0003151279780000036
Figure BDA0003151279780000037
i=1,2,…,n,fDNN(·)表示数据驱动模型的预测值。
监督训练充分考虑了攻击者对于数据驱动模型目标恶化的意图,一旦原始样本受到对抗攻击,将会对预测值产生巨大的偏斜。因此,监督训练为IfeNet引入对于标签的关注,来提高信息指纹的可分性。
(2)对比训练损失
在监督训练的基础上,将成对的原始样本和正样本送入到孪生神经网络中,分别得到孪生神经网络的隐含层的输出h1和h2,构造对比训练损失Lcl如下:
Figure BDA0003151279780000041
由于工业过程中的数据采集往往受到环境噪声的影响,使得对抗样本更加难以检测。对比训练有助于IfeNet能够在噪声影响下,提取数据更深层,更稳定的信息指纹。综上所述,有监督的对比训练的损失函数可以被写为Lce+λLcl或Lmse+λLcl,λ是权重因子。
步骤二:无监督训练
结束步骤一的训练后,将孪生神经网络的隐含层参数保留,并迁移到一个自编码器(AE)的编码网络中作为初始化的参数。随后,将用原始样本
Figure BDA0003151279780000042
来对自编码器进行无监督的训练,损失函数LAE如下:
Figure BDA0003151279780000043
其中,
Figure BDA0003151279780000044
是AE的输出,即原始样本x对应的重构样本。当AE训练结束之后,原始数据通过AE的残差来进行信息指纹R的提取,残差方程如下所示:
Figure BDA0003151279780000045
此时,R将作为原始样本x的信息指纹。
通过IfeNet,可以很方便得到原始数据xi所对应的信息指纹Ri
提取到信息指纹后,可以进一步用于下游的检测任务。如果想建立一个无监督的检测模型,只需要将Ri进行平方均值,得到重构误差:
然后通过计数来确定重构误差的控制范围,范围内的数据为正常数据,而超出范围的即判断为对抗样本。如果能够事先得到部分对抗样本,同样可以采用训练好的IfeNet,来得到对抗样本xi′所对应的信息指纹Ri′。然后,一个二分类的判别模型可以在有监督的训练中构建,用于对抗样本的检测。
以下结合一个具体的田纳西伊曼过程(TE)的例子来说明故障诊断模型下,信息指纹的无监督检测效果。TE过程是故障诊断与故障分类领域常用的标准数据集,整个数据集包括53个过程变量,其工艺流程如图2所示。该流程由气液分离塔,连续搅拌式反应釜,分凝器,离心式压缩机,再沸器等5个操作单元组成,该过程可以由多个代数和微分方程来表示,非线性和强耦合性是该过程传感数据的主要特点。TE过程人为设置21类故障,在这21类故障中,包括16类已知故障,5类未知故障,故障的种类包括流量的阶跃变化、缓慢斜坡增大、阀门的粘滞等等,包含典型的非线性故障和动态性故障。本实施例中选择了故障5的数据作为真实数据,其他因为对抗攻击被错分故障5的样本为对抗样本。实现了四种对抗攻击形式:FGSM,PGD,DeepFool和CW。并用AE,概率分布法(PD)两种常见的对抗样本检测方法与本文提出的IfeNet进行对比。
在四种对抗攻击下,共得到训练数据量,测试数据量如表1所示:
表1:故障5的训练数据量和测试数据量
Figure BDA0003151279780000051
表2给出了在四种对抗攻击下,三种检测方法的实际效果。可以看到,本文提出的IfeNet取得了最高的故障检测率和平均误检率。
表2:故障分类模型的对抗样本检测结果
Figure BDA0003151279780000052
以下结合一个具体的脱丁烷塔的例子来说明软测量模型下,信息指纹的无监督检测效果。脱丁烷塔是一种分馏塔,它主要用于在精炼过程中从天然气或石脑油流中分离丁烷。脱丁烷塔的流程图如图3所示。脱丁烷塔的目标是尽量减少丁烷含量,但是丁烷含量的测量需要大量时间和成本。为了加强工业过程的质量控制,需要开发和应用质量变量预测模型。在此过程中收集了七个变量,它们是最高温度,最高压力,回流流量等。
本实施例共选择了1394个样本作为训练数据,1000个样本作为测试数据。在两种对抗攻击:FGSM和PGD下,分别在训练数据和测试数据中生成了1394个对抗样本和1000个对抗样本。表3列出了软测量模型中,三种对抗样本检测方法的最终结果。其中IfeNet在不同对抗攻击,以及多种扰动大小对比下,均取得了最好的效果。
表3:软测量模型的对抗样本检测结果
Figure BDA0003151279780000061
本领域普通技术人员可以理解,以上所述仅为发明的优选实例而已,并不用于限制发明,尽管参照前述实例对发明进行了详细的说明,对于本领域的技术人员来说,其依然可以对前述各实例记载的技术方案进行修改,或者对其中部分技术特征进行等同替换。凡在发明的精神和原则之内,所做的修改、等同替换等均应包含在发明的保护范围之内。

Claims (3)

1.一种用于安全的工业大数据分析的信息指纹提取方法,其特征在于,该方法包括如下步骤:
(1)构建信息指纹提取网络,该网络包括孪生神经网络和自编码器;所述孪生神经网络包括两个隐含层参数共享的神经网络;自编码器包括编码器和解码器两部分结构;
(2)将原始样本
Figure FDA0003151279770000011
和其对应的标签
Figure FDA0003151279770000012
输入孪生神经网络的其中一个神经网络,将原始样本的正样本x+μ和其对应标签
Figure FDA0003151279770000013
输入孪生神经网络的其中一个神经网络,进行有监督训练;其中,n代表的是样本的数量,d是样本的维度,μ~N(0,σ2)为外部噪声的模拟;其中,所述孪生神经网络的损失函数为L+λLcl,其中,L为输入原始样本的神经网络的目标损失函数,λ是权重因子,Lcl为对比训练损失,计算公式如下
Figure FDA0003151279770000014
其中,h1和h2分别为孪生神经网络的两个神经网络的隐含层的输出;
(3)将孪生神经网络的隐含层参数保留,并迁移到一个自编码器的编码网络中作为初始化的参数,然后用原始样本
Figure FDA0003151279770000015
来对自编码器进行无监督的训练,得到训练后的自编码器;
(4)将待获取信息指纹的样本输入训练后的自编码器,得到该样本的重构样本,重构样本和待获取指纹样本的残差值即为样本的信息指纹。
2.根据权利要求1所述的用于安全的工业大数据分析的信息指纹提取方法,其特征在于,当该方法用于故障诊断任务时,所述孪生神经网络的目标损失函数L采用交叉熵损失函数表示:
Figure FDA0003151279770000016
其中,i=1,2,…,n,fDNN(·)表示数据驱动模型的预测值。
3.根据权利要求1所述的用于安全的工业大数据分析的信息指纹提取方法,其特征在于,当该方法用于质量变量预测任务时,所述孪生神经网络的目标损失函数L采用均方误差损失函数表示:
Figure FDA0003151279770000021
CN202110765362.XA 2021-07-07 2021-07-07 一种用于安全的工业大数据分析的信息指纹提取方法 Active CN113361648B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110765362.XA CN113361648B (zh) 2021-07-07 2021-07-07 一种用于安全的工业大数据分析的信息指纹提取方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110765362.XA CN113361648B (zh) 2021-07-07 2021-07-07 一种用于安全的工业大数据分析的信息指纹提取方法

Publications (2)

Publication Number Publication Date
CN113361648A true CN113361648A (zh) 2021-09-07
CN113361648B CN113361648B (zh) 2022-07-05

Family

ID=77538683

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110765362.XA Active CN113361648B (zh) 2021-07-07 2021-07-07 一种用于安全的工业大数据分析的信息指纹提取方法

Country Status (1)

Country Link
CN (1) CN113361648B (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113886992A (zh) * 2021-10-21 2022-01-04 大连理工大学 一种基于多保真度数据的数字孪生建模方法
CN115082761A (zh) * 2022-01-06 2022-09-20 鸿海精密工业股份有限公司 模型产生装置及方法
CN118394030A (zh) * 2024-03-29 2024-07-26 重庆赛力斯凤凰智创科技有限公司 车辆故障诊断方法、装置、计算机设备和存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018192662A1 (en) * 2017-04-20 2018-10-25 Hp Indigo B.V. Defect classification in an image or printed output
CN112162515A (zh) * 2020-10-10 2021-01-01 浙江大学 一种针对过程监控系统的对抗攻击方法
CN112233695A (zh) * 2020-10-13 2021-01-15 张鹏 基于人工智能和大数据的加油机异音分析及故障预警系统

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018192662A1 (en) * 2017-04-20 2018-10-25 Hp Indigo B.V. Defect classification in an image or printed output
CN112162515A (zh) * 2020-10-10 2021-01-01 浙江大学 一种针对过程监控系统的对抗攻击方法
CN112233695A (zh) * 2020-10-13 2021-01-15 张鹏 基于人工智能和大数据的加油机异音分析及故障预警系统

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
ZHENG ZHANG等: "Industrial Process Modeling and Fault Detection with Recurrent Kalman Variational Autoencoder", 《2020 IEEE 9TH DATA DRIVEN CONTROL AND LEARNING SYSTEMS CONFERENCE (DDCLS)》 *
王玉龙等: "基于稀疏堆叠自编码器和Circle Loss的电机故障诊断", 《中国设备工程》 *

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113886992A (zh) * 2021-10-21 2022-01-04 大连理工大学 一种基于多保真度数据的数字孪生建模方法
CN113886992B (zh) * 2021-10-21 2024-05-07 大连理工大学 一种基于多保真度数据的数字孪生建模方法
CN115082761A (zh) * 2022-01-06 2022-09-20 鸿海精密工业股份有限公司 模型产生装置及方法
US12315229B2 (en) 2022-01-06 2025-05-27 Hon Hai Precision Industry Co., Ltd. Model generating apparatus and method
CN118394030A (zh) * 2024-03-29 2024-07-26 重庆赛力斯凤凰智创科技有限公司 车辆故障诊断方法、装置、计算机设备和存储介质

Also Published As

Publication number Publication date
CN113361648B (zh) 2022-07-05

Similar Documents

Publication Publication Date Title
CN113361648B (zh) 一种用于安全的工业大数据分析的信息指纹提取方法
WO2019144521A1 (zh) 信息物理交通系统中基于深度学习的恶意攻击检测方法
CN109302410B (zh) 一种内部用户异常行为检测方法、系统及计算机存储介质
Chang et al. Anomaly detection for industrial control systems using k-means and convolutional autoencoder
CN111539769A (zh) 基于差分隐私的异常检测模型的训练方法及装置
Zizzo et al. Adversarial machine learning beyond the image domain
CN111901340B (zh) 一种面向能源互联网的入侵检测系统及其方法
CN111026058B (zh) 基于瓦瑟斯坦距离和自编码器的半监督深度学习故障诊断方法
CN110674938A (zh) 基于协同多任务训练的对抗攻击防御方法
CN110365647B (zh) 一种基于pca和bp神经网络的虚假数据注入攻击检测方法
CN110933105B (zh) 一种Web攻击检测方法、系统、介质和设备
CN109034140B (zh) 基于深度学习结构的工业控制网络信号异常检测方法
Pan et al. A classification-driven neuron-grouped SAE for feature representation and its application to fault classification in chemical processes
CN115052304B (zh) 基于gcn-lstm的工业传感网络异常数据检测方法
CN112101400A (zh) 工业控制系统异常检测方法、设备和服务器、存储介质
CN112989361B (zh) 一种基于生成对抗网络的模型安全性检测方法
CN117040939B (zh) 基于改进视觉自注意力模型的车载网络入侵检测方法
CN113179264B (zh) 网络化控制系统中数据传输的攻击检测方法
CN114580934A (zh) 基于无监督异常检测的食品检测数据风险的早预警方法
CN112804248B (zh) 一种基于频域特征融合的LDoS攻击检测方法
Ren et al. A thermodynamic-law-integrated deep learning method for high-dimensional sensor fault detection in diverse complex HVAC systems
Akavalappil et al. A convolutional neural network (CNN)‐based direct method to detect stiction in control valves
CN114760128A (zh) 一种基于重采样的网络异常流量检测方法
CN113222056B (zh) 面向图像分类系统攻击的对抗样本检测方法
CN115086070B (zh) 工业互联网入侵检测方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant