CN116738226A - 一种基于自可解释注意力网络的瓦斯涌出量预测方法 - Google Patents
一种基于自可解释注意力网络的瓦斯涌出量预测方法 Download PDFInfo
- Publication number
- CN116738226A CN116738226A CN202310612101.3A CN202310612101A CN116738226A CN 116738226 A CN116738226 A CN 116738226A CN 202310612101 A CN202310612101 A CN 202310612101A CN 116738226 A CN116738226 A CN 116738226A
- Authority
- CN
- China
- Prior art keywords
- gas
- feedforward
- working face
- concentration
- sequence
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 69
- 238000013528 artificial neural network Methods 0.000 claims abstract description 80
- 230000008569 process Effects 0.000 claims abstract description 37
- 239000003245 coal Substances 0.000 claims abstract description 27
- 230000007246 mechanism Effects 0.000 claims abstract description 24
- 238000004364 calculation method Methods 0.000 claims abstract description 9
- 230000007480 spreading Effects 0.000 claims abstract description 9
- 238000003892 spreading Methods 0.000 claims abstract description 9
- 238000012549 training Methods 0.000 claims description 62
- 238000010606 normalization Methods 0.000 claims description 24
- 238000004140 cleaning Methods 0.000 claims description 15
- 238000007781 pre-processing Methods 0.000 claims description 15
- 238000012216 screening Methods 0.000 claims description 15
- 230000007812 deficiency Effects 0.000 claims description 12
- 238000001914 filtration Methods 0.000 claims description 8
- 238000012544 monitoring process Methods 0.000 claims description 7
- 238000009933 burial Methods 0.000 claims description 6
- QSQFARNGNIZGAW-UHFFFAOYSA-N 2-methylsulfonyloxyethyl methanesulfonate Chemical compound CS(=O)(=O)OCCOS(C)(=O)=O QSQFARNGNIZGAW-UHFFFAOYSA-N 0.000 claims description 3
- 101100129500 Caenorhabditis elegans max-2 gene Proteins 0.000 claims description 3
- 101100083446 Danio rerio plekhh1 gene Proteins 0.000 claims description 3
- 238000004519 manufacturing process Methods 0.000 abstract description 3
- 230000001364 causal effect Effects 0.000 abstract 1
- 230000006870 function Effects 0.000 description 11
- 230000008901 benefit Effects 0.000 description 4
- 238000012986 modification Methods 0.000 description 4
- 230000004048 modification Effects 0.000 description 4
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 3
- 230000009471 action Effects 0.000 description 3
- 238000010276 construction Methods 0.000 description 3
- 230000007547 defect Effects 0.000 description 3
- 238000011160 research Methods 0.000 description 3
- 238000012937 correction Methods 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000011084 recovery Methods 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 239000002360 explosive Substances 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 238000005065 mining Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0499—Feedforward networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/02—Agriculture; Fishing; Forestry; Mining
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Software Systems (AREA)
- Mathematical Physics (AREA)
- Computing Systems (AREA)
- Molecular Biology (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Business, Economics & Management (AREA)
- Animal Husbandry (AREA)
- Marine Sciences & Fisheries (AREA)
- Human Resources & Organizations (AREA)
- Marketing (AREA)
- Primary Health Care (AREA)
- Strategic Management (AREA)
- Tourism & Hospitality (AREA)
- General Business, Economics & Management (AREA)
- Mining & Mineral Resources (AREA)
- Economics (AREA)
- Evolutionary Biology (AREA)
- Agronomy & Crop Science (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Feedback Control In General (AREA)
Abstract
本发明提供一种基于自可解释注意力机制网络的瓦斯涌出量预测方法，涉及煤矿安全生产领域。该方法采用瓦斯溯因前馈网络和瓦斯推理前馈网络，并结合联合预测损失计算公式。该方法在预测工作面瓦斯浓度的同时，结合了影响工作面瓦斯浓度的特征因素，并给出了瓦斯浓度变化的逻辑解释。瓦斯溯因前馈网络采用注意力机制的前馈过程，完成工作面涌出瓦斯浓度历史序列到影响工作面瓦斯涌出浓度因素的溯因传播；瓦斯推理前馈网络采用注意力机制神经网络的前馈过程，完成影响工作面瓦斯涌出浓度因素到工作面涌出瓦斯浓度预测序列的推理传播。该方法利用梯度下降算法端到端的实现两段因果损失的联合计算，不仅提高了预测精度，还自解释了预测结果。
Description
技术领域
本发明涉及煤矿安全生产技术领域，特别是一种基于自可解释注意力网络的瓦斯涌出量预测方法。
背景技术
瓦斯是煤炭资源的伴生气体，同时也是一种重要的清洁能源,其易燃易爆的性质,使其成为煤矿安全生产的重要影响因素。随着煤炭资源的开，矿井的采深逐年增加，进而煤层瓦斯含量逐渐增加,瓦斯的治理工作变得更加复杂。
由于煤矿井下不同区域的各类传感器之间,存在一定的空间关联性,包含脊彼此的部分信息，合理融合并利用该部分数据，能够给瓦斯预测工作带来一定的帮助。但目前的技术中，对于瓦斯时间序列预测研究的不足，没有充分挖掘瓦斯大数据中潜在的信息，无法实现瓦斯浓度的多时间尺度预测，瓦斯浓度预测的准确率和时效性较低。
发明内容
鉴于上述问题，本发明提出了一种基于自可解释注意力网络的瓦斯涌出量预测方法。
本发明实施例提供了一种基于自可解释注意力网络的瓦斯涌出量预测方法，所述瓦斯涌出量预测方法包括：
获取矿井中的工作面瓦斯监控监测数据，得到工作面瓦斯涌出浓度的历史序列；
获取矿井中的工作面瓦斯浓度历史影响因素数据，所述工作面瓦斯浓度历史影响因素包括：煤层厚度、瓦斯含量、推进速度、断面风速；
对所述工作面瓦斯浓度历史影响因素和所述工作面瓦斯涌出浓度的历史序列进行预处理，并构建瓦斯溯因前馈网络，所述瓦斯溯因前馈网络表征所述工作面瓦斯涌出浓度的历史序列到影响工作面瓦斯涌出浓度因素的溯因传播；
以任一样本进行训练的过程中，对所述瓦斯溯因前馈网络采用注意力机制神经网络的前馈过程，并结合专家经验规则干预，对训练的样本进行筛选，以及对所述瓦斯溯因前馈网络输出的前馈结果进行修正，所述前馈结果为工作面瓦斯涌出浓度的影响因素序列结果；
将所述前馈结果作为输入，以下一时间步长的工作面瓦斯涌出浓度序列作为输出，构建瓦斯推理神经网络；
对所述瓦斯推理神经网络采用注意力机制神经网络的前馈过程，进行所述工作面瓦斯涌出浓度的影响因素序列到工作面瓦斯未来浓度预测序列的推理传播，以完成所述工作面瓦斯涌出浓度的历史序列到影响工作面瓦斯涌出浓度的影响因素序列，再到所述工作面瓦斯未来浓度预测序列的两段前向传播；
联合所述瓦斯溯因前馈网络与所述瓦斯推理神经网络的两段前馈损失，采用梯度下降算法，完成反向传播。
可选地，对所述工作面瓦斯浓度历史影响因素和所述工作面瓦斯涌出浓度的历史序列进行预处理，并构建瓦斯溯因前馈网络包括：
对所述工作面瓦斯浓度历史影响因素和所述工作面瓦斯涌出浓度的历史序列进行数据清洗与归一化；
分别以所述工作面瓦斯涌出浓度的历史序列、所述工作面瓦斯浓度历史影响因素作为所述瓦斯溯因前馈网络的样本输入和样本标签。
可选地，对所述瓦斯溯因前馈网络采用注意力机制神经网络的前馈过程，并结合专家经验规则干预，对训练的样本进行筛选，以及对所述瓦斯溯因前馈网络输出的前馈结果进行修正，包括：
对所述瓦斯溯因前馈网络采用注意力机制神经网络的前馈过程，结合所述专家经验规则干预中的前馈训练中断、前馈结果输出展示、根据预设规则过滤训练样本和修改样本标签以及恢复前馈训练，对所述瓦斯溯因前馈网络的参数更新，进而对训练的样本进行筛选，以及对所述瓦斯溯因前馈网络输出的前馈结果进行修正。
可选地，所述前馈结果展示为使用反归一化处理后的结果展示。
可选地，前馈训练中断、前馈结果输出展示、根据预设规则过滤训练样本和修改样本标签以及恢复前馈训练包括：对于任一训练的样本均有：
若该样本一阶差分值恒大于零，前馈结果的瓦斯含量、煤层埋深、煤层厚度、及推进速度的一阶差分值恒小于零，则前馈训练中断，重新编辑该样本或删除该样本后，恢复前馈训练；
若该样本一阶差分值恒小于零，前馈结果的瓦斯含量、煤层埋深、煤层厚度、及推进速度的一阶差分值恒大于零，则前馈训练中断，重新编辑该样本或删除该样本后，恢复前馈训练；
若该样本与前馈结果的协相关系数为0，则前馈训练中断，重新编辑该样本或删除该样本后，恢复前馈训练。
可选地，将所述前馈结果作为输入，以下一时间步长的工作面瓦斯涌出浓度序列作为输出，构建瓦斯推理神经网络包括：
对所述工作面瓦斯涌出浓度的影响因素序列进行数据清洗与归一化；
以数据清洗与归一化后的工作面瓦斯涌出浓度的影响因素序列作为所述瓦斯推理神经网络的输入；
以与所述工作面瓦斯涌出浓度的影响因素序列对应的下一时间步长的工作面瓦斯涌出浓度序列作为所述瓦斯推理神经网络的样本标签，构建所述瓦斯推理神经网络。
可选地，对所述工作面瓦斯浓度历史影响因素和所述工作面瓦斯涌出浓度的历史序列进行预处理，包括：
所述预处理包括缺值填充，所述缺值填充为缺值附近最邻近非缺值；
对于预处理中的归一化，设xmax1是所有训练样本的最大值，xmin1是所有训练样本的最小值，x1为归一化后的样本值，计算公式如下：
上式中，x0表示原始样本值。
可选地，对所述工作面瓦斯涌出浓度的影响因素序列进行归一化，包括：
设xmax2为归一化得到的最大值，xmin2为归一化得到的最小值，则函数表达如下：
上式中，x2表示反归一化后的样本值。
可选地，所述瓦斯溯因前馈网络的前馈损失函数为：设DMSE为瓦斯溯因前馈网络的均方误差，其前馈损失函数计算方式如下：
上式中，nabduction为瓦斯溯因前馈网络的样本个数，i为第i个样本，为第i个工作面瓦斯涌出浓度的影响因素序列的样本标签，/>为第i个工作面瓦斯涌出浓度的影响因素序列的样本预测值；
所述瓦斯推理神经网络的前馈损失函数为：设IMSE为瓦斯推理神经网络的均方误差，其前馈损失函数计算方式如下：
上式中，nabduction为瓦斯推理神经网络的样本个数，i为第i个样本，为第i个工作面瓦斯未来浓度预测序列的样本标签，/>为第i个工作面瓦斯未来浓度预测序列的样本预测值。
可选地，所述瓦斯溯因前馈网络与所述瓦斯推理神网络两者的前馈损失之和为自可解释性瓦斯浓度序列预测的损失，其计算公式如下：
上式中，CovMSE表示联合损失，即所述前馈损失之和。
本发明实施例提供了一种基于自可解释注意力网络的瓦斯涌出量预测装置，所述瓦斯涌出量预测装置包括：
获取历史序列模块，用于获取矿井中的工作面瓦斯监控监测数据，得到工作面瓦斯涌出浓度的历史序列；
获取影响因素模块，用于获取矿井中的工作面瓦斯浓度历史影响因素数据，所述工作面瓦斯浓度历史影响因素包括：煤层厚度、瓦斯含量、推进速度、断面风速；
预处理构建前馈网络模块，用于对所述工作面瓦斯浓度历史影响因素和所述工作面瓦斯涌出浓度的历史序列进行预处理，并构建瓦斯溯因前馈网络，所述瓦斯溯因前馈网络表征所述工作面瓦斯涌出浓度的历史序列到影响工作面瓦斯涌出浓度因素的溯因传播；
筛选修正模块，用于以任一样本进行训练的过程中，对所述瓦斯溯因前馈网络采用注意力机制神经网络的前馈过程，并结合专家经验规则干预，对训练的样本进行筛选，以及对所述瓦斯溯因前馈网络输出的前馈结果进行修正，所述前馈结果为工作面瓦斯涌出浓度的影响因素序列结果；
构建神经网络模块，用于将所述前馈结果作为输入，以下一时间步长的工作面瓦斯涌出浓度序列作为输出，构建瓦斯推理神经网络；
推理传播模块，用于对所述瓦斯推理神经网络采用注意力机制神经网络的前馈过程，进行所述工作面瓦斯涌出浓度的影响因素序列到工作面瓦斯未来浓度预测序列的推理传播，以完成所述工作面瓦斯涌出浓度的历史序列到影响工作面瓦斯涌出浓度的影响因素序列，再到所述工作面瓦斯未来浓度预测序列的两段前向传播；
反向传播模块，用于联合所述瓦斯溯因前馈网络与所述瓦斯推理神经网络的两段前馈损失，采用梯度下降算法，完成反向传播。
可选地，所述预处理构建前馈网络模块具体用于：
对所述工作面瓦斯浓度历史影响因素和所述工作面瓦斯涌出浓度的历史序列进行数据清洗与归一化；
分别以所述工作面瓦斯涌出浓度的历史序列、所述工作面瓦斯浓度历史影响因素作为所述瓦斯溯因前馈网络的样本输入和样本标签。
可选地，所述筛选修正模块具体用于：
对所述瓦斯溯因前馈网络采用注意力机制神经网络的前馈过程，结合所述专家经验规则干预中的前馈训练中断、前馈结果输出展示、根据预设规则过滤训练样本和修改样本标签以及恢复前馈训练，对所述瓦斯溯因前馈网络的参数更新，进而对训练的样本进行筛选，以及对所述瓦斯溯因前馈网络输出的前馈结果进行修正。
可选地，所述构建神经网络模块具体用于：
对所述工作面瓦斯涌出浓度的影响因素序列进行数据清洗与归一化；
以数据清洗与归一化后的工作面瓦斯涌出浓度的影响因素序列作为所述瓦斯推理神经网络的输入；
以与所述工作面瓦斯涌出浓度的影响因素序列对应的下一时间步长的工作面瓦斯涌出浓度序列作为所述瓦斯推理神经网络的样本标签，构建所述瓦斯推理神经网络。
本发明提供的基于自可解释注意力网络的瓦斯涌出量预测方法，首先获取矿井中的工作面瓦斯监控监测数据，得到工作面瓦斯涌出浓度的历史序列；接着获取矿井中的工作面瓦斯浓度历史影响因素数据。
对工作面瓦斯浓度历史影响因素和工作面瓦斯涌出浓度的历史序列进行预处理，并构建瓦斯溯因前馈网络，该瓦斯溯因前馈网络表征工作面瓦斯涌出浓度的历史序列到影响工作面瓦斯涌出浓度因素的溯因传播。
以任一样本进行训练的过程中，对瓦斯溯因前馈网络采用注意力机制神经网络的前馈过程，并结合专家经验规则干预，对训练的样本进行筛选，以及对瓦斯溯因前馈网络输出的前馈结果进行修正，该前馈结果为工作面瓦斯涌出浓度的影响因素序列结果。
将前馈结果作为输入，以下一时间步长的工作面瓦斯涌出浓度序列作为输出，构建瓦斯推理神经网络；对瓦斯推理神经网络采用注意力机制神经网络的前馈过程，进行工作面瓦斯涌出浓度的影响因素序列到工作面瓦斯未来浓度预测序列的推理传播，以完成工作面瓦斯涌出浓度的历史序列到影响工作面瓦斯涌出浓度的影响因素序列，再到工作面瓦斯未来浓度预测序列的两段前向传播。
最后联合瓦斯溯因前馈网络与瓦斯推理神经网络的两段前馈损失，采用梯度下降算法，完成反向传播。
本发明针对传统技术中瓦斯时间序列预测研究的不足，采用基于编码-解码模型的深度学习框架，提取工作面瓦斯浓度序列的空间特征和时序特征，充分挖掘瓦斯大数据中潜在的信息，实现瓦斯浓度的多时间尺度预测，较好的提高了瓦斯浓度预测的准确率和时效性，为煤矿瓦斯安全管理提供有效的支撑。
附图说明
通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的，而并不认为是对本发明的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：
图1是本发明实施例的基于自可解释注意力网络的瓦斯涌出量预测方法的流程图。
具体实施方式
为使本发明的上述目的、特征和优点能够更加明显易懂，下面结合附图和具体实施方式对本发明作进一步详细的说明。应当理解，此处所描述的具体实施例仅用以解释本发明，仅仅是本发明一部分实施例，而不是全部的实施例，并不用于限定本发明。
参照图1，示出了本发明实施例的基于自可解释注意力网络的瓦斯涌出量预测方法的流程图，该瓦斯涌出量预测方法包括：
步骤101：获取矿井中的工作面瓦斯监控监测数据，得到工作面瓦斯涌出浓度的历史序列。
首先需要获取到矿井中的工作面瓦斯监控监测数据，可以得到工作面瓦斯涌出浓度的历史序列。
步骤102：获取矿井中的工作面瓦斯浓度历史影响因素数据，工作面瓦斯浓度历史影响因素包括：煤层厚度、瓦斯含量、推进速度、断面风速。
还需要获取矿井中的工作面瓦斯浓度历史影响因素数据，该工作面瓦斯浓度历史影响因素包括：煤层厚度、瓦斯含量、推进速度、断面风速。
步骤103：对工作面瓦斯浓度历史影响因素和工作面瓦斯涌出浓度的历史序列进行预处理，并构建瓦斯溯因前馈网络，瓦斯溯因前馈网络表征工作面瓦斯涌出浓度的历史序列到影响工作面瓦斯涌出浓度因素的溯因传播。
前述步骤得到工作面瓦斯浓度历史影响因素和工作面瓦斯涌出浓度的历史序列之后，先要进行数据预处理，再去使用这些数据。这样保证了后续网络模型构建、训练以及结果的精准度。
在一种可能的实施例中，对工作面瓦斯浓度历史影响因素和工作面瓦斯涌出浓度的历史序列进行预处理，并构建瓦斯溯因前馈网络包括：
对工作面瓦斯浓度历史影响因素和工作面瓦斯涌出浓度的历史序列进行数据清洗与归一化；分别以工作面瓦斯涌出浓度的历史序列、工作面瓦斯浓度历史影响因素作为瓦斯溯因前馈网络的样本输入和样本标签。
这其中，预处理包括缺值填充，缺值填充为缺值附近最邻近非缺值。
对于预处理中的归一化，设xmax1是所有训练样本的最大值，xmin1是所有训练样本的最小值，x1为归一化后的样本值，则计算公式如下：
上式中，x0表示原始样本值。
步骤104：以任一样本进行训练的过程中，对瓦斯溯因前馈网络采用注意力机制神经网络的前馈过程，并结合专家经验规则干预，对训练的样本进行筛选，以及对瓦斯溯因前馈网络输出的前馈结果进行修正，前馈结果为工作面瓦斯涌出浓度的影响因素序列结果。
对于瓦斯溯因前馈网络，在以任一样本进行训练的过程中，需要对瓦斯溯因前馈网络采用注意力机制神经网络的前馈过程，并结合专家经验规则干预，对训练的样本进行筛选，同时还需要对瓦斯溯因前馈网络输出的前馈结果进行修正，所谓前馈结果即为工作面瓦斯涌出浓度的影响因素序列结果。
具体的可以包括：对瓦斯溯因前馈网络采用注意力机制神经网络的前馈过程，结合专家经验规则干预中的前馈训练中断、前馈结果输出展示、根据预设规则过滤训练样本和修改样本标签以及恢复前馈训练，对瓦斯溯因前馈网络的参数更新，进而对训练的样本进行筛选，以及对瓦斯溯因前馈网络输出的前馈结果进行修正。其中，前馈结果展示是使用反归一化处理后的结果展示。
对于任一训练样本，所谓专家经验规则干预中的前馈训练中断、前馈结果输出展示、根据预设规则过滤训练样本和修改样本标签以及恢复前馈训练具体可以包括：
若该样本(指任一训练样本)一阶差分值恒大于零，前馈结果的瓦斯含量、煤层埋深、煤层厚度、及推进速度的一阶差分值恒小于零，则前馈训练中断，重新编辑该样本或删除该样本后，再恢复前馈训练。
若该样本一阶差分值恒小于零，前馈结果的瓦斯含量、煤层埋深、煤层厚度、及推进速度的一阶差分值恒大于零，则前馈训练中断，重新编辑该样本或删除该样本后，再恢复前馈训练。
若该样本与前馈结果的协相关系数为0，则前馈训练中断，重新编辑该样本或删除该样本后，再恢复前馈训练。
通过上述方式达到对训练的样本进行筛选，以及对瓦斯溯因前馈网络输出的前馈结果进行修正的目标。
步骤105：将前馈结果作为输入，以下一时间步长的工作面瓦斯涌出浓度序列作为输出，构建瓦斯推理神经网络。
得到前馈结果后，将前馈结果作为输入，以下一时间步长的工作面瓦斯涌出浓度序列作为输出，构建瓦斯推理神经网络。所谓下一时间步长的工作面瓦斯涌出浓度序列，实质上还是属于工作面瓦斯涌出浓度的历史序列中的一个浓度序列，区别在于该浓度序列相对于正在训练的样本对应的浓度序列的时间段来说，是其下一个时间段的浓度序列。例如：正在训练的样本对应的浓度序列的时间段为2020年1月1日9:00～10:00，那么下一时间步长的工作面瓦斯涌出浓度序列就是2020年1月1日10:00～11:00的工作面瓦斯涌出浓度序列。
在一种可能的实施例中，构建瓦斯推理神经网络可以包括：
对工作面瓦斯涌出浓度的影响因素序列进行数据清洗与归一化；以数据清洗与归一化后的工作面瓦斯涌出浓度的影响因素序列作为瓦斯推理神经网络的输入；以与工作面瓦斯涌出浓度的影响因素序列对应的下一时间步长的工作面瓦斯涌出浓度序列作为瓦斯推理神经网络的样本标签，构建瓦斯推理神经网络。
其中，对工作面瓦斯涌出浓度的影响因素序列进行归一化，包括：设xmax2为归一化得到的最大值，xmin2为归一化得到的最小值，则函数表达如下：
上式中，x2表示反归一化后的样本值。
步骤106：对瓦斯推理神经网络采用注意力机制神经网络的前馈过程，进行工作面瓦斯涌出浓度的影响因素序列到工作面瓦斯未来浓度预测序列的推理传播，以完成工作面瓦斯涌出浓度的历史序列到影响工作面瓦斯涌出浓度的影响因素序列，再到工作面瓦斯未来浓度预测序列的两段前向传播。
构建瓦斯推理神经网络，同样需要对瓦斯推理神经网络采用注意力机制神经网络的前馈过程，以进行工作面瓦斯涌出浓度的影响因素序列到工作面瓦斯未来浓度预测序列的推理传播。这样才可以完成工作面瓦斯涌出浓度的历史序列到影响工作面瓦斯涌出浓度的影响因素序列，再到工作面瓦斯未来浓度预测序列的两段前向传播。
步骤107：联合瓦斯溯因前馈网络与瓦斯推理神经网络的两段前馈损失，采用梯度下降算法，完成反向传播。
对于瓦斯溯因前馈网络和瓦斯推理神经网络，若要正常实现其功能，不但需要完成两段前向传播，还需要完成反向传播。而反向传播与两个网络各自的前馈损失有关，因此需要联合瓦斯溯因前馈网络与瓦斯推理神经网络的两段前馈损失，采用梯度下降算法，完成反向传播。
在一种可能的实施例中，瓦斯溯因前馈网络的前馈损失函数为：设DMSE为瓦斯溯因前馈网络的均方误差，其前馈损失函数计算方式如下：
上式中，nabduction为瓦斯溯因前馈网络的样本个数，i为第i个样本，为第i个工作面瓦斯涌出浓度的影响因素序列的样本标签，/>为第i个工作面瓦斯涌出浓度的影响因素序列的样本预测值。
而瓦斯推理神经网络的前馈损失函数为：设IMSE为瓦斯推理神经网络的均方误差，其前馈损失函数计算方式如下：
上式中，nabduction为瓦斯推理神经网络的样本个数，i为第i个样本，为第i个工作面瓦斯未来浓度预测序列的样本标签，/>为第i个工作面瓦斯未来浓度预测序列的样本预测值。
由于瓦斯溯因前馈网络与瓦斯推理神网络两者的前馈损失之和为自可解释性瓦斯浓度序列预测的损失，因此其计算公式如下：
上式中，CovMSE表示联合损失，即前馈损失之和。为了使上述模型在运算过程中可以快速收敛，可以采用多种算法作为优化器，一种较优的选择是采用Adam算法作为优化器。Adam算法结合了AdaGrad算法和RMSProp算法的优点，Adam算法不仅基于一阶矩均值计算适应性参数学习率，同时还充分利用了梯度的二阶矩均值。Adam算法本身具有很高的计算效率和较低的内存需求，很适合求解带有大规模数据或参数的优化问题。因此将其作为一种优选的优化器，很适合使上述模型在运算过程中快速收敛。
本发明实施例中，基于上述基于自可解释注意力网络的瓦斯涌出量预测方法，还提出一种基于自可解释注意力网络的瓦斯涌出量预测装置，所述瓦斯涌出量预测装置包括：
获取历史序列模块，用于获取矿井中的工作面瓦斯监控监测数据，得到工作面瓦斯涌出浓度的历史序列；
获取影响因素模块，用于获取矿井中的工作面瓦斯浓度历史影响因素数据，所述工作面瓦斯浓度历史影响因素包括：煤层厚度、瓦斯含量、推进速度、断面风速；
预处理构建前馈网络模块，用于对所述工作面瓦斯浓度历史影响因素和所述工作面瓦斯涌出浓度的历史序列进行预处理，并构建瓦斯溯因前馈网络，所述瓦斯溯因前馈网络表征所述工作面瓦斯涌出浓度的历史序列到影响工作面瓦斯涌出浓度因素的溯因传播；
筛选修正模块，用于以任一样本进行训练的过程中，对所述瓦斯溯因前馈网络采用注意力机制神经网络的前馈过程，并结合专家经验规则干预，对训练的样本进行筛选，以及对所述瓦斯溯因前馈网络输出的前馈结果进行修正，所述前馈结果为工作面瓦斯涌出浓度的影响因素序列结果；
构建神经网络模块，用于将所述前馈结果作为输入，以下一时间步长的工作面瓦斯涌出浓度序列作为输出，构建瓦斯推理神经网络；
推理传播模块，用于对所述瓦斯推理神经网络采用注意力机制神经网络的前馈过程，进行所述工作面瓦斯涌出浓度的影响因素序列到工作面瓦斯未来浓度预测序列的推理传播，以完成所述工作面瓦斯涌出浓度的历史序列到影响工作面瓦斯涌出浓度的影响因素序列，再到所述工作面瓦斯未来浓度预测序列的两段前向传播；
反向传播模块，用于联合所述瓦斯溯因前馈网络与所述瓦斯推理神经网络的两段前馈损失，采用梯度下降算法，完成反向传播。
可选地，所述预处理构建前馈网络模块具体用于：
对所述工作面瓦斯浓度历史影响因素和所述工作面瓦斯涌出浓度的历史序列进行数据清洗与归一化；
分别以所述工作面瓦斯涌出浓度的历史序列、所述工作面瓦斯浓度历史影响因素作为所述瓦斯溯因前馈网络的样本输入和样本标签。
可选地，所述筛选修正模块具体用于：
对所述瓦斯溯因前馈网络采用注意力机制神经网络的前馈过程，结合所述专家经验规则干预中的前馈训练中断、前馈结果输出展示、根据预设规则过滤训练样本和修改样本标签以及恢复前馈训练，对所述瓦斯溯因前馈网络的参数更新，进而对训练的样本进行筛选，以及对所述瓦斯溯因前馈网络输出的前馈结果进行修正。
可选地，所述构建神经网络模块具体用于：
对所述工作面瓦斯涌出浓度的影响因素序列进行数据清洗与归一化；
以数据清洗与归一化后的工作面瓦斯涌出浓度的影响因素序列作为所述瓦斯推理神经网络的输入；
以与所述工作面瓦斯涌出浓度的影响因素序列对应的下一时间步长的工作面瓦斯涌出浓度序列作为所述瓦斯推理神经网络的样本标签，构建所述瓦斯推理神经网络。
综上所述，本发明针对传统技术中瓦斯时间序列预测研究的不足，采用基于编码-解码模型的深度学习框架，提取工作面瓦斯浓度序列的空间特征和时序特征，充分挖掘瓦斯大数据中潜在的信息，实现瓦斯浓度的多时间尺度预测，较好的提高了瓦斯浓度预测的准确率和时效性，为煤矿瓦斯安全管理提供有效的支撑。
尽管已描述了本发明实施例的优选实施例，但本领域内的技术人员一旦得知了基本创造性概念，则可对这些实施例做出另外的变更和修改。所以，所附权利要求意欲解释为包括优选实施例以及落入本发明实施例范围的所有变更和修改。
最后，还需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者终端设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者终端设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者终端设备中还存在另外的相同要素。
上面结合附图对本发明的实施例进行了描述，但是本发明并不局限于上述的具体实施方式，上述的具体实施方式仅仅是示意性的，而不是限制性的，本领域的普通技术人员在本发明的启示下，在不脱离本发明宗旨和权利要求所保护的范围情况下，还可做出很多形式，这些均属于本发明的保护之内。
Claims (10)
1.一种基于自可解释注意力网络的瓦斯涌出量预测方法，其特征在于，所述瓦斯涌出量预测方法包括：
获取矿井中的工作面瓦斯监控监测数据，得到工作面瓦斯涌出浓度的历史序列；
获取矿井中的工作面瓦斯浓度历史影响因素数据，所述工作面瓦斯浓度历史影响因素包括：煤层厚度、瓦斯含量、推进速度、断面风速；
对所述工作面瓦斯浓度历史影响因素和所述工作面瓦斯涌出浓度的历史序列进行预处理，并构建瓦斯溯因前馈网络，所述瓦斯溯因前馈网络表征所述工作面瓦斯涌出浓度的历史序列到影响工作面瓦斯涌出浓度因素的溯因传播；
以任一样本进行训练的过程中，对所述瓦斯溯因前馈网络采用注意力机制神经网络的前馈过程，并结合专家经验规则干预，对训练的样本进行筛选，以及对所述瓦斯溯因前馈网络输出的前馈结果进行修正，所述前馈结果为工作面瓦斯涌出浓度的影响因素序列结果；
将所述前馈结果作为输入，以下一时间步长的工作面瓦斯涌出浓度序列作为输出，构建瓦斯推理神经网络；
对所述瓦斯推理神经网络采用注意力机制神经网络的前馈过程，进行所述工作面瓦斯涌出浓度的影响因素序列到工作面瓦斯未来浓度预测序列的推理传播，以完成所述工作面瓦斯涌出浓度的历史序列到影响工作面瓦斯涌出浓度的影响因素序列，再到所述工作面瓦斯未来浓度预测序列的两段前向传播；
联合所述瓦斯溯因前馈网络与所述瓦斯推理神经网络的两段前馈损失，采用梯度下降算法，完成反向传播。
2.根据权利要求1所述的瓦斯涌出量预测方法，其特征在于，对所述工作面瓦斯浓度历史影响因素和所述工作面瓦斯涌出浓度的历史序列进行预处理，并构建瓦斯溯因前馈网络包括：
对所述工作面瓦斯浓度历史影响因素和所述工作面瓦斯涌出浓度的历史序列进行数据清洗与归一化；
分别以所述工作面瓦斯涌出浓度的历史序列、所述工作面瓦斯浓度历史影响因素作为所述瓦斯溯因前馈网络的样本输入和样本标签。
3.根据权利要求1所述的瓦斯涌出量预测方法，其特征在于，对所述瓦斯溯因前馈网络采用注意力机制神经网络的前馈过程，并结合专家经验规则干预，对训练的样本进行筛选，以及对所述瓦斯溯因前馈网络输出的前馈结果进行修正，包括：
对所述瓦斯溯因前馈网络采用注意力机制神经网络的前馈过程，结合所述专家经验规则干预中的前馈训练中断、前馈结果输出展示、根据预设规则过滤训练样本和修改样本标签以及恢复前馈训练，对所述瓦斯溯因前馈网络的参数更新，进而对训练的样本进行筛选，以及对所述瓦斯溯因前馈网络输出的前馈结果进行修正。
4.根据权利要求3所述的瓦斯涌出量预测方法，其特征在于，所述前馈结果展示为使用反归一化处理后的结果展示。
5.根据权利要求3所述的瓦斯涌出量预测方法，其特征在于，前馈训练中断、前馈结果输出展示、根据预设规则过滤训练样本和修改样本标签以及恢复前馈训练包括：对于任一训练的样本均有：
若该样本一阶差分值恒大于零，前馈结果的瓦斯含量、煤层埋深、煤层厚度、及推进速度的一阶差分值恒小于零，则前馈训练中断，重新编辑该样本或删除该样本后，恢复前馈训练；
若该样本一阶差分值恒小于零，前馈结果的瓦斯含量、煤层埋深、煤层厚度、及推进速度的一阶差分值恒大于零，则前馈训练中断，重新编辑该样本或删除该样本后，恢复前馈训练；
若该样本与前馈结果的协相关系数为0，则前馈训练中断，重新编辑该样本或删除该样本后，恢复前馈训练。
6.根据权利要求1所述的瓦斯涌出量预测方法，其特征在于，将所述前馈结果作为输入，以下一时间步长的工作面瓦斯涌出浓度序列作为输出，构建瓦斯推理神经网络包括：
对所述工作面瓦斯涌出浓度的影响因素序列进行数据清洗与归一化；
以数据清洗与归一化后的工作面瓦斯涌出浓度的影响因素序列作为所述瓦斯推理神经网络的输入；
以与所述工作面瓦斯涌出浓度的影响因素序列对应的下一时间步长的工作面瓦斯涌出浓度序列作为所述瓦斯推理神经网络的样本标签，构建所述瓦斯推理神经网络。
7.根据权利要求1所述的瓦斯涌出量预测方法，其特征在于，对所述工作面瓦斯浓度历史影响因素和所述工作面瓦斯涌出浓度的历史序列进行预处理，包括：
所述预处理包括缺值填充，所述缺值填充为缺值附近最邻近非缺值；
对于预处理中的归一化，设xmax1是所有训练样本的最大值，xmin1是所有训练样本的最小值，x1为归一化后的样本值，计算公式如下：
上式中，x0表示原始样本值。
8.根据权利要求6所述的瓦斯涌出量预测方法，其特征在于，对所述工作面瓦斯涌出浓度的影响因素序列进行归一化，包括：
设xmax2为归一化得到的最大值，xmin2为归一化得到的最小值，则函数表达如下：
上式中，x2表示反归一化后的样本值。
9.根据权利要求1所述的瓦斯涌出量预测方法，其特征在于，所述瓦斯溯因前馈网络的前馈损失函数为：设DMSE为瓦斯溯因前馈网络的均方误差，其前馈损失函数计算方式如下：
上式中，nabduction为瓦斯溯因前馈网络的样本个数，i为第个样本，为第个工作面瓦斯涌出浓度的影响因素序列的样本标签，/>为第个工作面瓦斯涌出浓度的影响因素序列的样本预测值；
所述瓦斯推理神经网络的前馈损失函数为：设IMSE为瓦斯推理神经网络的均方误差，其前馈损失函数计算方式如下：
上式中，nabduction为瓦斯推理神经网络的样本个数，i为第个样本，为第个工作面瓦斯未来浓度预测序列的样本标签，/>为第个工作面瓦斯未来浓度预测序列的样本预测值。
10.根据权利要求9所述的瓦斯涌出量预测方法，其特征在于，所述瓦斯溯因前馈网络与所述瓦斯推理神网络两者的前馈损失之和为自可解释性瓦斯浓度序列预测的损失，其计算公式如下：
上式中，CovMSE表示联合损失，即所述前馈损失之和。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310612101.3A CN116738226B (zh) | 2023-05-26 | 2023-05-26 | 一种基于自可解释注意力网络的瓦斯涌出量预测方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310612101.3A CN116738226B (zh) | 2023-05-26 | 2023-05-26 | 一种基于自可解释注意力网络的瓦斯涌出量预测方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN116738226A true CN116738226A (zh) | 2023-09-12 |
| CN116738226B CN116738226B (zh) | 2024-03-12 |
Family
ID=87914301
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202310612101.3A Active CN116738226B (zh) | 2023-05-26 | 2023-05-26 | 一种基于自可解释注意力网络的瓦斯涌出量预测方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN116738226B (zh) |
Citations (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109711641A (zh) * | 2019-01-28 | 2019-05-03 | 辽宁工程技术大学 | 一种基于改进ga-bp网络模型的瓦斯涌出量预测方法 |
| CN111126658A (zh) * | 2019-11-15 | 2020-05-08 | 太原理工大学 | 一种基于深度学习的煤矿瓦斯预测方法 |
| CN112308306A (zh) * | 2020-10-27 | 2021-02-02 | 贵州工程应用技术学院 | 一种多模态输入的煤与瓦斯突出危险预测方法 |
| US20210262341A1 (en) * | 2019-06-24 | 2021-08-26 | China University Of Mining And Technology | Inversion calculation method of coal-bed gas parameters of fast test while-drilling |
| US20220197233A1 (en) * | 2020-12-18 | 2022-06-23 | Wuhan University | Wind power prediction method and system for optimizing deep transformer network |
| WO2022145792A1 (ko) * | 2020-12-28 | 2022-07-07 | 전북대학교산학협력단 | 가축 정보를 이용한 온실가스 감축 인증 및 탄소배출권 거래 방법과, 그 시스템 |
| WO2022186182A1 (ja) * | 2021-03-04 | 2022-09-09 | 日本電気株式会社 | 予測装置、予測方法、及び、記録媒体 |
| CN115310705A (zh) * | 2022-08-10 | 2022-11-08 | 国家能源集团乌海能源有限责任公司 | 瓦斯涌出量的确定方法及其装置、计算机可读存储介质 |
| BR102022014168A2 (pt) * | 2022-07-18 | 2023-01-31 | Univ Do Estado Do Rio De Janeiro | Sistema integrado de gerenciamento e monitoramento ambiental |
| WO2023056695A1 (zh) * | 2021-10-09 | 2023-04-13 | 安徽理工大学 | 一种基于深度循环神经网络的煤与瓦斯突出事故预测与识别方法 |
| US20230215159A1 (en) * | 2020-09-10 | 2023-07-06 | Huawei Technologies Co., Ltd. | Neural network model training method, image processing method, and apparatus |
| US20230359867A1 (en) * | 2021-03-30 | 2023-11-09 | CCNets, Inc. | Framework for causal learning of neural networks |
-
2023
- 2023-05-26 CN CN202310612101.3A patent/CN116738226B/zh active Active
Patent Citations (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109711641A (zh) * | 2019-01-28 | 2019-05-03 | 辽宁工程技术大学 | 一种基于改进ga-bp网络模型的瓦斯涌出量预测方法 |
| US20210262341A1 (en) * | 2019-06-24 | 2021-08-26 | China University Of Mining And Technology | Inversion calculation method of coal-bed gas parameters of fast test while-drilling |
| CN111126658A (zh) * | 2019-11-15 | 2020-05-08 | 太原理工大学 | 一种基于深度学习的煤矿瓦斯预测方法 |
| US20230215159A1 (en) * | 2020-09-10 | 2023-07-06 | Huawei Technologies Co., Ltd. | Neural network model training method, image processing method, and apparatus |
| CN112308306A (zh) * | 2020-10-27 | 2021-02-02 | 贵州工程应用技术学院 | 一种多模态输入的煤与瓦斯突出危险预测方法 |
| US20220197233A1 (en) * | 2020-12-18 | 2022-06-23 | Wuhan University | Wind power prediction method and system for optimizing deep transformer network |
| WO2022145792A1 (ko) * | 2020-12-28 | 2022-07-07 | 전북대학교산학협력단 | 가축 정보를 이용한 온실가스 감축 인증 및 탄소배출권 거래 방법과, 그 시스템 |
| WO2022186182A1 (ja) * | 2021-03-04 | 2022-09-09 | 日本電気株式会社 | 予測装置、予測方法、及び、記録媒体 |
| US20230359867A1 (en) * | 2021-03-30 | 2023-11-09 | CCNets, Inc. | Framework for causal learning of neural networks |
| WO2023056695A1 (zh) * | 2021-10-09 | 2023-04-13 | 安徽理工大学 | 一种基于深度循环神经网络的煤与瓦斯突出事故预测与识别方法 |
| BR102022014168A2 (pt) * | 2022-07-18 | 2023-01-31 | Univ Do Estado Do Rio De Janeiro | Sistema integrado de gerenciamento e monitoramento ambiental |
| CN115310705A (zh) * | 2022-08-10 | 2022-11-08 | 国家能源集团乌海能源有限责任公司 | 瓦斯涌出量的确定方法及其装置、计算机可读存储介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN116738226B (zh) | 2024-03-12 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| KR102172925B1 (ko) | 딥러닝 기반 기후 변화 예측 시스템의 동작 방법 | |
| RU2404363C2 (ru) | Оптимизация добычи | |
| CN108171443B (zh) | 考虑指令上注的多星应急任务规划方法及装置 | |
| CN111260156B (zh) | 现金流预测模型的构建方法及现金流预测方法及装置 | |
| CN111127246A (zh) | 一种输电线路工程造价的智能预测方法 | |
| Ma et al. | A prediction method of fire frequency: Based on the optimization of SARIMA model | |
| CN109934385A (zh) | 基于长短记忆神经网络的货量预测方法及系统 | |
| Dey et al. | t-SNE and variational auto-encoder with a bi-LSTM neural network-based model for prediction of gas concentration in a sealed-off area of underground coal mines | |
| Brazee | Impacts of declining discount rates on optimal harvest age and land expectation values | |
| CN115034496A (zh) | 基于GCN-Transformer的城市轨道交通节假日短时客流预测方法 | |
| CN116738226B (zh) | 一种基于自可解释注意力网络的瓦斯涌出量预测方法 | |
| CN115755219A (zh) | 基于stgcn的洪水预报误差实时校正方法及系统 | |
| CN111524349B (zh) | 一种语境特征注入的多尺度交通流预测模型建立方法及使用方法 | |
| KHAMIS et al. | Deep learning Feedforward Neural Network in predicting model of Environmental risk factors in the Sohar region | |
| CN115546609A (zh) | 基于静态和动态图学习网络的海温时空预测方法及系统 | |
| CN109558615B (zh) | 油气勘探决策树分析方法及系统 | |
| US20230135656A1 (en) | Systems and methods for undercarriage wear prediction | |
| CN114408694A (zh) | 一种电梯故障预测系统及其预测方法 | |
| CN116128065A (zh) | 一种基于双向自动编码器的并行自动机器学习系统 | |
| CN113033702A (zh) | 一种基于时空数据的结构安全预警方法 | |
| Gómez et al. | Data-Driven Optimization of Intermittent Gas Production in Mature Fields Assisted by Deep Learning and a Population-Based Global Optimizer | |
| CN114761967A (zh) | 使用全连接层的神经网络执行块 | |
| Nguyen et al. | FOREcaST: Improving Extreme Weather Forecasts with Deep Neural Decision Forest for Climate Change Adaptation | |
| CN114969618B (zh) | 基于多源因果图路径卷积的复杂机电系统故障检测方法 | |
| Bistline | Electric sector capacity planning under uncertainty: Shale gas and climate policy in the US |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |