CN112949930B - 基于pa-lstm网络的道路机动车尾气高排放预警方法 - Google Patents

基于pa-lstm网络的道路机动车尾气高排放预警方法 Download PDF

Info

Publication number
CN112949930B
CN112949930B CN202110284631.0A CN202110284631A CN112949930B CN 112949930 B CN112949930 B CN 112949930B CN 202110284631 A CN202110284631 A CN 202110284631A CN 112949930 B CN112949930 B CN 112949930B
Authority
CN
China
Prior art keywords
time
motor vehicle
attention
coding
emission
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110284631.0A
Other languages
English (en)
Other versions
CN112949930A (zh
Inventor
张玉钧
谢皓
何莹
尤坤
李潇毅
范博强
余冬琪
雷博恩
张旺春
刘建国
刘文清
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hefei Institutes of Physical Science of CAS
Original Assignee
Hefei Institutes of Physical Science of CAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hefei Institutes of Physical Science of CAS filed Critical Hefei Institutes of Physical Science of CAS
Priority to CN202110284631.0A priority Critical patent/CN112949930B/zh
Publication of CN112949930A publication Critical patent/CN112949930A/zh
Application granted granted Critical
Publication of CN112949930B publication Critical patent/CN112949930B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/047—Probabilistic or stochastic networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/048—Activation functions
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10—Services
    • G06Q50/26—Government or public services
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
    • Y02T10/00—Road transport of goods or passengers
    • Y02T10/10—Internal combustion engine [ICE] based vehicles
    • Y02T10/40—Engine management systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Molecular Biology (AREA)
  • Evolutionary Computation (AREA)
  • Data Mining & Analysis (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Human Resources & Organizations (AREA)
  • Tourism & Hospitality (AREA)
  • Economics (AREA)
  • Strategic Management (AREA)
  • General Business, Economics & Management (AREA)
  • Development Economics (AREA)
  • Marketing (AREA)
  • Educational Administration (AREA)
  • Primary Health Care (AREA)
  • Game Theory and Decision Science (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Probability & Statistics with Applications (AREA)
  • Exhaust Silencers (AREA)

Abstract

本发明公开了一种基于PA‑LSTM网络的道路机动车尾气高排放预警方法，包括：1、利采集机动车尾气排放数据，并对尾气排放数据集进行缺失数据补偿和归一化预处理；2、建立由空间并行注意力编码层和时间注意力解码层组成的Parallel‑Attention‑LSTM网络模型；3、采用网格遍历搜索法确定模型的超参数，并结合自适应学习率算法优化模型参数，完成预警模型训练；4、采用3σ误差检验，消除测试集Ytest检测值中的异常点和抑制基线漂移；5、设置机动车各类尾气的高排放警戒阈值用于预警。本发明能有效预测机动车可能发生的高排放现象，并及时将预警信息进行反馈，从而避免机动车高排放现象的发生。

Description

基于PA-LSTM网络的道路机动车尾气高排放预警方法
技术领域
本发明涉及道路机动车尾气排放时序预测算法技术领域，尤其是一种并行注意力时空编解码长短期记忆网络的道路机动车尾气高排放预警方法。
背景技术
近年来全国机动车保有量迅猛增长，致使道路机动车尾气排放成为污染城市环境的主要因素之一，采取行之有效的道路机动车尾气排放监控手段，对于改善城市空气质量具有重要的意义。目前，针对道路机动车尾气排放监控的常用方法，主要有：底盘测功法、隧道测试法、激光遥测法、烟羽追逐测量法、车载便携式排放(Portable EmissionMeasurement System,PEMS)测量法。底盘测功法的实验结果无法反映机动车的实际道路排放情况，隧道测试法受制于特殊的地理环境条件，激光遥测法易受到外界环境干扰，测量准确率不高，烟羽追逐测量法需要实验车辆搭载测试设备跟踪追逐待测车辆，测量方式虽易于执法，但准确度不及车载尾气检测设备测量法。PEMS作为机动车尾气道路检测中，最精确的测量方式，已被我国环境保护部和国家质检总局写入国家第六阶段机动车污染物排放标准中，作为新型车辆上路前的必检环节之一。
在PEMS的实际使用过程中，存在以下可优化之处：
(1)PEMS在两小时左右的连续监测后，随着测量时间的推移，尾气排放检测数据中容易出现较多的异常值，基线漂移现象愈发明显，降低了检测精度。
(2)PEMS作为一种测量装置，虽然可以准确测量机动车的尾气排放，但目前市场和学术研究上，缺乏以PEMS测量为基础的机动车尾气高排放预测与预警技术手段，因此尾气排放仍然严重。
发明内容
本发明为克服现有技术的不足之处，提供一种基于PA-LSTM网络的道路机动车尾气高排放预警方法，以期能有效预测机动车可能发生的高排放现象，并及时将预警信息进行反馈，从而避免机动车高排放现象的发生。
为实现上述目的，本发明采用下述技术方案：
本发明一种基于PA-LSTM网络的道路机动车尾气高排放预警方法的特点包括：
步骤1、采用PEMS检测设备和OBD车载诊断系统共同采集道路机动车在u天的尾气排放数据，且每天采集v个工况的数据，每个工况数据的采集时间为Tround，从而得到包含n个特征的尾气排放关联数据集Draw＝(d′ij)m×n和待预测机动车尾气排放真实数据集Yraw＝{y′i|i＝1,2,...,m}；其中，d′ij表示第i个采集时间下的第j个特征值；y′i表示第i个采集时间下待预测机动车尾气排放真实值；1≤i≤m；1≤j≤n；m＝u×v×Tround；
对所述尾气排放关联数据集Draw和待预测机动车尾气排放真实数据集Yraw进行缺失数据补偿和归一化的预处理，得到预处理后的尾气排放关联特征矩阵Dscaled＝(dij)m×n和预处理后的待预测机动车尾气排放真实数据集Yscaled＝{yi|i＝1,2,...,m}；其中，dij表示预处理后的第i个采集时间下的第j个特征值；yi表示预处理后的第i个采集时间下待预测机动车尾气排放真实值；
将预处理后的尾气排放关联特征矩阵Dscaled和预处理后的待预测机动车尾气排放真实数据集Yscaled＝{yi|i＝1,2,...,m}分别按3:1:1划分为训练集
Figure BDA0002979927310000021
和Ytrain＝{yi|i＝1,2,...,m1}，验证集
Figure BDA0002979927310000022
和Yverify＝{yi|i＝m1,m1+1,...,m1+m2}，测试集
Figure BDA0002979927310000023
和Ytest＝{yi|i＝m1+m2,m1+m2+1,...,m}；m1＝[0.6m]，m2＝[0.2m]，m3＝[0.2m]；其中[·]表示取整函数；
所述预处理后的尾气排放关联训练集
Figure BDA0002979927310000024
包含：预处理后的OBD参数训练数据
Figure BDA0002979927310000025
预处理后的PEMS参数训练数据
Figure BDA0002979927310000026
预处理后的机动车尾气排放关联训练数据
Figure BDA0002979927310000027
n1为OBD参数训练数据的特征值数量，n2为PEMS参数训练数据的特征值数量，n3为机动车尾气排放关联训练数据的特征值数量；n＝n1+n2+n3；
步骤2、建立由空间并行注意力编码层和时间注意力解码层组成的PA-LSTM网络，并初始化PA-LSTM网络的自身参数，定义时间步长为T；
所述空间并行注意力编码层包括T个空间并行注意力编码网络，每个空间并行注意力编码网络由3组编码模块构成，每组编码模块分别包含1个LSTM网络单元，1个Attention层，1个Softmax层及1个全连接层；
令第t个空间并行注意力编码网络中3组编码模块的LSTM网络单元的隐藏层为
Figure BDA0002979927310000028
Figure BDA0002979927310000029
3组编码模块的LSTM网络单元的细胞状态为
Figure BDA00029799273100000210
T个空间并行注意力编码网络通过所包含的LSTM网络单元中的隐藏层进行连接；t＝1,2,…,T；
将转置后的尾气排放训练集
Figure BDA0002979927310000031
以时间步长T为周期进行采样，从而得到单个采样周期内的OBD参数训练数据矩阵为
Figure BDA0002979927310000032
单个采样周期内的PEMS参数训练数据矩阵
Figure BDA0002979927310000033
单个采样周期内的机动车尾气排放关联训练数据矩阵
Figure BDA0002979927310000034
其中，
Figure BDA0002979927310000035
表示单个采样周期内的t时刻第k1个特征值；1≤k1≤n1；
Figure BDA0002979927310000036
表示单个采样周期内的t时刻第k2个特征值；1≤k2≤n2；
Figure BDA0002979927310000037
表示单个采样周期内的t时刻第k3个特征值；1≤k3≤n3；
令
Figure BDA0002979927310000038
表示单个采样周期内的OBD参数训练数据矩阵P中初始时刻至第T时刻所有k1个特征值的矩阵；
令
Figure BDA0002979927310000039
表示单个采样周期内的PEMS参数训练数据矩阵Q中初始时刻至第T时刻所有k2个特征值的矩阵；
令
Figure BDA00029799273100000310
表示单个采样周期内的机动车尾气排放关联训练数据矩阵X中的初始时刻至第T时刻所有k3个特征值的矩阵；
令
Figure BDA00029799273100000311
表示OBD参数训练数据矩阵P中t时刻所有特征值的矩阵；
令
Figure BDA00029799273100000312
表示PEMS参数训练数据矩阵Q中t时刻所有特征值的矩阵；
令
Figure BDA00029799273100000313
表示机动车尾气排放关联训练数据矩阵X中t时刻所有特征值的矩阵；
初始化第1个空间并行注意力编码网络的3组编码模块的LSTM单元隐藏层
Figure BDA00029799273100000314
和细胞状态
Figure BDA00029799273100000315
为：
Figure BDA00029799273100000316
将单个采样周期内的OBD参数训练数据矩阵P＝(p1,...,pt,...,pT)按列分别输入T个空间并行注意力编码网络中第1组编码模块的Attention层，其中，t时刻所有特征值的矩阵pt输入对应的第t个空间并行注意力编码网络中，从而自适应地捕获待预测机动车排放与OBD参数之间的动态相关性
Figure BDA00029799273100000317
并输出；
将所有动态相关性
Figure BDA00029799273100000318
输入后续的Softmax层，输出OBD参数关于待预测机动车排放的特征权重
Figure BDA00029799273100000319
其中，
Figure BDA00029799273100000320
表示t时刻第k1个特征的权重，将权重
Figure BDA00029799273100000321
输入后续的全连接层，输出t时刻关于OBD参数权重分配后的驱动序列
Figure BDA0002979927310000041
利用分配后的驱动序列
Figure BDA0002979927310000042
作为第t个空间并行注意力编码网络中第1组编码模块的新输入，从而利用式(1)得到t时刻的隐藏层输出
Figure BDA0002979927310000043
Figure BDA0002979927310000044
式(1)中，fp()表示第1组编码模块中的LSTM网络单元；2≤t≤T；
同理，将单个采样周期内的PEMS参数训练数据矩阵Q＝(q1,...,qt,...,qT)按列分别输入T个空间并行注意力编码网络中第2组编码模块的Attention层，其中，t时刻所有特征值的矩阵qt输入对应的第t个空间并行注意力编码网络中，自适应地捕获待预测机动车排放与PEMS参数之间的第k2个动态相关性
Figure BDA0002979927310000045
并输出；
将所有动态相关性
Figure BDA0002979927310000046
输入后续的Softmax层，输出PEMS参数关于待预测机动车排放的特征权重
Figure BDA0002979927310000047
其中，
Figure BDA0002979927310000048
表示t时刻第k2个特征的权重，将权重
Figure BDA0002979927310000049
输入后续的全连接层，输出t时刻关于PEMS参数权重分配后的驱动序列
Figure BDA00029799273100000410
利用分配后的驱动序列
Figure BDA00029799273100000411
作为第t个空间并行注意力编码网络中第2组编码模块的新输入，从而利用式(2)得到t时刻的隐藏层输出
Figure BDA00029799273100000412
Figure BDA00029799273100000413
式(2)中，fq()表示第2组编码模块中LSTM网络单元；2≤t≤T；
根据式(3)，将T个空间并行注意力编码网络的前2组编码模块在单个时间周期T的OBD参数权重分配后的驱动序列
Figure BDA00029799273100000414
PEMS参数权重分配后的驱动序列
Figure BDA00029799273100000415
与机动车尾气排放关联训练数据
Figure BDA00029799273100000416
连接，从而生成新的驱动矩阵Z：
Figure BDA00029799273100000417
式(3)中，
Figure BDA00029799273100000418
zk表示单个采样周期内初始时刻至第T时刻所有k个特征值的集合，且1≤k≤n；zt表示t时刻新的驱动矩阵Z中所有特征值的集合；
将驱动矩阵Z＝(z1,...,zt,...,zT)按列分别输入T个空间并行注意力编码网络中第3组编码模块的Attention层，其中，t时刻所有特征值的矩阵zt输入对应的第t个空间并行注意力编码网络中，自适应地捕获待预测机动车排放与新驱动序列Z的第k个动态相关性
Figure BDA00029799273100000419
并输出；
将所有动态相关性
Figure BDA0002979927310000051
输入后续的Softmax层，输出驱动矩阵Z关于待预测机动车排放的特征权重
Figure BDA0002979927310000052
其中，
Figure BDA0002979927310000053
表示t时刻第k个特征的权重；将权重
Figure BDA0002979927310000054
输入后续的全连接层，输出t时刻关于驱动矩阵Z分配后的驱动序列
Figure BDA0002979927310000055
利用分配后的驱动序列
Figure BDA0002979927310000056
作为第t个空间并行注意力编码网络中第3组编码模块的新输入，从而利用式(4)得到t时刻的隐藏层输出
Figure BDA0002979927310000057
进而得到空间并行注意力编码层的输出为
Figure BDA0002979927310000058
Figure BDA0002979927310000059
式(4)中，fx()表示第3组编码模块中LSTM网络单元；2≤t≤T；
所述时间注意力解码层由T个时间注意力解码网络构成，每个时间注意力解码网络由1个LSTM网络单元，1个Attention层，1个Softmax层及1个全连接层组成；
令第t个时间注意力解码网络中LSTM网络单元的隐藏层为ht′，细胞状态为st′；初始化第1个时间注意力解码网络的LSTM单元隐藏层和细胞状态：h1′＝s1′＝y1；
将空间注意力编码层的输出
Figure BDA00029799273100000510
按列分别输入T个时间注意力解码网络的Attention层，其中，t时刻的隐藏层输出
Figure BDA00029799273100000511
输入对应的第t个时间注意力解码网络，自适应地为空间注意力编码层的输出分配第i个动态相关性
Figure BDA00029799273100000512
并输出；
将所有动态相关性
Figure BDA00029799273100000513
输入后续的Softmax层，输出空间并行注意力编码层输出的权重
Figure BDA00029799273100000514
将权重
Figure BDA00029799273100000515
输入后续的全连接层，输出解码向量
Figure BDA00029799273100000516
其中，
Figure BDA00029799273100000517
表示第i个空间并行注意力编码层的输出，
Figure BDA00029799273100000518
表示第i个空间并行注意力编码层输出的权重；
采用式(5)得到t时刻时间注意力解码网络的预测更新值
Figure BDA00029799273100000519
Figure BDA00029799273100000520
式(5)中，
Figure BDA00029799273100000521
和
Figure BDA00029799273100000522
分别表示时间注意力解码层的权重和偏置；me表示时间注意力解码网络中LSTM网络单元的隐藏层单元数；yt表示t时刻机动车尾气排放真实值；
采用式(6)得到第t个时间注意力解码网络中LSTM网络单元的隐藏层h′t：
Figure BDA0002979927310000061
式(6)中，fd(·)为时间注意力解码网络的LSTM网络单元；2≤t≤T；
利用式(7)获得PA-LSTM网络的机动车尾气排放预测结果
Figure BDA0002979927310000062
Figure BDA0002979927310000063
式(7)中，F(·)表示PA-LSTM网络，
Figure BDA0002979927310000064
和
Figure BDA0002979927310000065
表示时间注意力解码层的权重和偏置；
Figure BDA0002979927310000066
表示
Figure BDA0002979927310000067
和
Figure BDA0002979927310000068
的映射连接；
Figure BDA0002979927310000069
和
Figure BDA00029799273100000610
表示PA-LSTM网络的权重和偏置，用于完成线性变换；md表示时间注意力解码网络中LSTM网络单元的隐藏层单元数；
步骤3、采用网格遍历搜索法确定模型的超参数，包括：编码层隐藏层单元数、解码层隐藏层单元数、时间步长、训练批次、训练迭代次数、训练周期和学习速率；再将尾气排放关联训练集Dtrain和待预测机动车尾气排放真实数据训练集Ytrain＝{yi|i＝1,2,...,m1}输入设置好超参数的PA-LSTM网络中进行训练，在训练过程中采用自适应学习率算法Adam作为梯度下降算法优化PA-LSTM网络的自身参数，从而得到道路机动车尾气高排放预警模型；
步骤4、采用式(8)所示的3σ误差检验消除预处理后的待预测机动车尾气排放真实数据测试集Ytest检测值中的异常点和抑制基线漂移：
Figure BDA00029799273100000611
式(8),
Figure BDA00029799273100000612
是PA-LSTM网络的机动车尾气排放τ时刻预测值；yτ是待预测机动车尾气排放τ时刻的真实值，
Figure BDA00029799273100000613
为道路机动车尾气高排放预警模型的最小MSE值；
Figure BDA00029799273100000614
表示预处理后的尾气排放关联测试集Dtest输入PA-LSTM网络得到的所有预测值，y表示预处理后的待预测机动车尾气排放真实数据测试集Ytest中所有真实值，τ＝m1+m2,m1+m2+1,...,m3；
如果
Figure BDA00029799273100000615
则自动判定第τ个真实值yτ为异常点并利用式(9)进行修复：
Figure BDA00029799273100000616
式(9)中，
Figure BDA00029799273100000617
是τ时刻修复后的值；
步骤5、设置机动车各类尾气的高排放警戒阈值，当所述道路机动车尾气高排放预警模型的预测值高于所设置的高排放警戒阈值时进行报警。
与现有技术相比，本发明的有益效果为：
1、本发明使用创新的PA-LSTM(Parallel Attention-Long Short-Term Memory)并行注意力时空编解码长短期记忆网络预测模型，能结合PEMS、OBD关联测量参数和关联排放气体数据的时空特征，与需要预测的机动车尾气排放数据自适应地匹配关联权重，有效提高了模型的预测精度。
2、本发明在神经网络中引入Parallel Attention并行注意力机制，避免了来自PEMS和OBD不同设备采集的多数据集之间，存在的权重干扰现象，有效加快了模型的收敛速度，降低了模型的训练时间，促进了模型更好地实现实时高排放预警。
3、本发明采用3σ误差原则，当PEMS的机动车尾气实测值与模型的预测值误差大于3σ时，模型会自动判定该时刻或时段的PEMS测量值是否存在异常，并根据算法自动矫正异常点，同时抑制了基线漂移，提高了PEMS的检测精度。
附图说明
图1为本发明PEMS道路机动车尾气排放预警方法的流程示意图；
图2为本发明PA-LSTM网络空间注意力机制示意图；
图3为本发明PA-LSTM网络时间注意力机制示意图；
图4a为北京道路PEMS测试实验现场图；
图4b为天津台架PEMS测试实验现场图；
图5为本发明PA-LSTM网络模型训练、验证和测试结果示意图；
图6为本发明PA-LSTM网络模型关于PEMS道路机动车尾气排放预测结果示意图；
图7a为本发明PA-LSTM网络模型关于PEMS道路机动车尾气排放数据异常值检测示意图；
图7b为本发明PA-LSTM网络模型关于PEMS道路机动车尾气排放数据异常值修复示意图；
图8为本发明PA-LSTM网络模型训练与PEMS道路机动车尾气高排放预警模型结构示意图；
图9为本发明PA-LSTM网络模型关于PEMS道路机动车尾气高排放预警结果示意图。
具体实施方式
本实施例中，如图1所示，一种基于并行注意力时空编解码长短期记忆网络的道路机动车尾气高排放预警方法是按如下步骤进行：
步骤1、采用PEMS检测设备和OBD车载诊断系统共同采集道路机动车在u天的尾气排放数据，且每天采集v个工况的数据，每个工况数据的采集时间为Tround，从而得到包含n个特征的尾气排放关联数据集Draw＝(d′ij)m×n和待预测机动车尾气排放真实数据集Yraw＝{y′i|i＝1,2,...,m}；其中，d′ij表示第i个采集时间下的第j个特征值；y′i表示第i个采集时间下待预测机动车尾气排放真实值；1≤i≤m；1≤j≤n；m＝u×v×Tround；
对尾气排放关联数据集Draw和待预测机动车尾气排放真实数据集Yraw进行缺失数据补偿和归一化的预处理，数据补偿采用缺失数据前M个和后M个数据取平均值的方法，M通常的取值为10～20，即缺失值填补为前后共2M个有效数据的平均值，修复完成后的尾气排放关联数据集和待预测机动车尾气排放真实数据集分别记为Dfit和Yfit，将修复完成后的Dfit和Yfit分别进行归一化处理，计算各时间节点特征d′ij和待预测尾气排放真实值y′i的归一化值dij和yi，如式(1)和式(2)所示：
Figure BDA0002979927310000081
Figure BDA0002979927310000082
式(1)中，d′(max)j和d′(min)j分别是归一化前尾气排放关联数据集中同一特征数据的最大值和最小值；式(2)中，y′max和y′min分别是归一化前待预测尾气排放真实值中的最大值和最小值；
得到预处理后的尾气排放关联特征矩阵Dscaled＝(dij)m×n和预处理后的待预测机动车尾气排放真实数据集Yscaled＝{yi|i＝1,2,...,m}；其中，dij表示预处理后的第i个采集时间下的第j个特征值；yi表示预处理后的第i个采集时间下待预测机动车尾气排放真实值；
将预处理后的尾气排放关联特征矩阵Dscaled和预处理后的待预测机动车尾气排放真实数据集Yscaled＝{yi|i＝1,2,...,m}分别按3:1:1划分为训练集
Figure BDA0002979927310000083
和Ytrain＝{yi|i＝1,2,...,m1}，验证集
Figure BDA0002979927310000084
和Yverify＝{yi|i＝m1,m1+1,...,m1+m2}，测试集
Figure BDA0002979927310000085
和Ytest＝{yi|i＝m1+m2,m1+m2+1,...,m}；m1＝[0.6m]，m2＝[0.2m]，m3＝[0.2m]；其中[·]表示取整函数；
预处理后的尾气排放关联训练集
Figure BDA0002979927310000091
包含：预处理后的OBD参数训练数据
Figure BDA0002979927310000092
其中包含车辆瞬时速度、发动机瞬时功率、发动机转速、发动机负荷、发动机油温、油门电压和车轮力等，计n1项；预处理后的PEMS参数训练数据
Figure BDA0002979927310000093
其中包含采样质量流量、采样体积流量、采样管温度、采样管湿度、采样管空燃比、环境温度、环境湿度等，计n2项；预处理后的机动车尾气排放关联训练数据
Figure BDA0002979927310000094
包含实时CO2、CO、NO、NO2、THC、O2浓度等，计n3项；n1为OBD参数训练数据的特征值数量，n2为PEMS参数训练数据的特征值数量，n3为机动车尾气排放关联训练数据的特征值数量；n＝n1+n2+n3；
步骤2、如图2和图3所示，建立由空间并行注意力编码层和时间注意力解码层组成的PA-LSTM网络，并初始化PA-LSTM网络的自身参数，定义时间步长为T；
如图2所示，空间并行注意力编码层包括T个空间并行注意力编码网络，每个空间并行注意力编码网络由3组编码模块构成，每组编码模块分别包含1个LSTM网络单元，1个Attention层，1个Softmax层及1个全连接层；
令第t个空间并行注意力编码网络中3组编码模块的LSTM网络单元的隐藏层为
Figure BDA0002979927310000095
Figure BDA0002979927310000096
3组编码模块的LSTM网络单元的细胞状态为
Figure BDA0002979927310000097
T个空间并行注意力编码网络通过所包含的LSTM网络单元中的隐藏层进行连接；t＝1,2,…,T；
将转置后的尾气排放训练集
Figure BDA0002979927310000098
以时间步长T为周期进行采样，从而得到单个采样周期内的OBD参数训练数据矩阵为
Figure BDA0002979927310000099
单个采样周期内的PEMS参数训练数据矩阵
Figure BDA00029799273100000910
单个采样周期内的机动车尾气排放关联训练数据矩阵
Figure BDA00029799273100000911
其中，
Figure BDA00029799273100000912
表示单个采样周期内的t时刻第k1个特征值；1≤k1≤n1；
Figure BDA00029799273100000913
表示单个采样周期内的t时刻第k2个特征值；1≤k2≤n2；
Figure BDA00029799273100000914
表示单个采样周期内的t时刻第k3个特征值；1≤k3≤n3；
令
Figure BDA00029799273100000915
表示单个采样周期内的OBD参数训练数据矩阵P中初始时刻至第T时刻所有k1个特征值的矩阵；
令
Figure BDA00029799273100000916
表示单个采样周期内的PEMS参数训练数据矩阵Q中初始时刻至第T时刻所有k2个特征值的矩阵；
令
Figure BDA0002979927310000101
表示单个采样周期内的机动车尾气排放关联训练数据矩阵X中的初始时刻至第T时刻所有k3个特征值的矩阵；
令
Figure BDA0002979927310000102
表示OBD参数训练数据矩阵P中t时刻所有特征值的矩阵；
令
Figure BDA0002979927310000103
表示PEMS参数训练数据矩阵Q中t时刻所有特征值的矩阵；
令
Figure BDA0002979927310000104
表示机动车尾气排放关联训练数据矩阵X中t时刻所有特征值的矩阵；
初始化第1个空间并行注意力编码网络的3组编码模块的LSTM单元隐藏层
Figure BDA0002979927310000105
和细胞状态
Figure BDA0002979927310000106
为：
Figure BDA0002979927310000107
将单个采样周期内的OBD参数训练数据矩阵P＝(p1,...,pt,...,pT)按列分别输入T个空间并行注意力编码网络中第1组编码模块的Attention层，其中，t时刻所有特征值的矩阵pt输入对应的第t个空间并行注意力编码网络中，从而自适应地捕获待预测机动车排放与OBD参数之间的动态相关性
Figure BDA0002979927310000108
并输出：
Figure BDA0002979927310000109
式(3)中，
Figure BDA00029799273100001010
和
Figure BDA00029799273100001011
是第一组编码模块需要训练的参数，me表示编码层LSTM隐藏层单元数；
将所有动态相关性
Figure BDA00029799273100001012
输入后续的Softmax层，输出OBD参数关于待预测机动车排放的特征权重
Figure BDA00029799273100001013
Figure BDA00029799273100001014
其中，
Figure BDA00029799273100001015
表示t时刻第k1个特征的权重，将权重
Figure BDA00029799273100001016
输入后续的全连接层，输出t时刻关于OBD参数权重分配后的驱动序列
Figure BDA00029799273100001017
利用分配后的驱动序列
Figure BDA00029799273100001018
作为第t个空间并行注意力编码网络中第1组编码模块的新输入，从而利用式(5)得到t时刻的隐藏层输出
Figure BDA00029799273100001019
Figure BDA00029799273100001020
式(5)中，fp()表示第1组编码模块中的LSTM网络单元；2≤t≤T；
同理，将单个采样周期内的PEMS参数训练数据矩阵Q＝(q1,...,qt,...,qT)按列分别输入T个空间并行注意力编码网络中第2组编码模块的Attention层，其中，t时刻所有特征值的矩阵qt输入对应的第t个空间并行注意力编码网络中，自适应地捕获待预测机动车排放与PEMS参数之间的第k2个动态相关性
Figure BDA0002979927310000111
并输出；
Figure BDA0002979927310000112
式(6)中，
Figure BDA0002979927310000113
和
Figure BDA0002979927310000114
是第二组编码模块需要训练的参数；
将所有动态相关性
Figure BDA0002979927310000115
输入后续的Softmax层，输出PEMS参数关于待预测机动车排放的特征权重
Figure BDA0002979927310000116
Figure BDA0002979927310000117
式(7)中，
Figure BDA0002979927310000118
表示t时刻第k2个特征的权重，将权重
Figure BDA0002979927310000119
输入后续的全连接层，输出t时刻关于PEMS参数权重分配后的驱动序列
Figure BDA00029799273100001110
利用分配后的驱动序列
Figure BDA00029799273100001111
作为第t个空间并行注意力编码网络中第2组编码模块的新输入，从而利用式(8)得到t时刻的隐藏层输出
Figure BDA00029799273100001112
Figure BDA00029799273100001113
式(8)中，fq()表示第2组编码模块中LSTM网络单元；2≤t≤T；
根据式(9)，将T个空间并行注意力编码网络的前2组编码模块在单个时间周期T的OBD参数权重分配后的驱动序列
Figure BDA00029799273100001114
PEMS参数权重分配后的驱动序列
Figure BDA00029799273100001115
与机动车尾气排放关联训练数据
Figure BDA00029799273100001116
连接，从而生成新的驱动矩阵Z：
Figure BDA00029799273100001117
式(9)中，
Figure BDA00029799273100001118
zk表示单个采样周期内初始时刻至第T时刻所有k个特征值的集合，且1≤k≤n；zt表示t时刻新的驱动矩阵Z中所有特征值的集合；
将驱动矩阵Z＝(z1,...,zt,...,zT)按列分别输入T个空间并行注意力编码网络中第3组编码模块的Attention层，其中，t时刻所有特征值的矩阵zt输入对应的第t个空间并行注意力编码网络中，自适应地捕获待预测机动车排放与新驱动序列Z的第k个动态相关性
Figure BDA00029799273100001119
并输出：
Figure BDA00029799273100001120
式(10)中，
Figure BDA0002979927310000121
和
Figure BDA0002979927310000122
是第三组编码模块需要训练的参数；
将所有动态相关性
Figure BDA0002979927310000123
输入后续的Softmax层，输出驱动矩阵Z关于待预测机动车排放的特征权重
Figure BDA0002979927310000124
Figure BDA0002979927310000125
式(11)中，
Figure BDA0002979927310000126
表示t时刻第k个特征的权重；将权重
Figure BDA0002979927310000127
输入后续的全连接层，输出t时刻关于驱动矩阵Z分配后的驱动序列
Figure BDA0002979927310000128
利用分配后的驱动序列
Figure BDA0002979927310000129
作为第t个空间并行注意力编码网络中第3组编码模块的新输入，从而利用式(12)得到t时刻的隐藏层输出
Figure BDA00029799273100001210
进而得到空间并行注意力编码层的输出为
Figure BDA00029799273100001211
Figure BDA00029799273100001212
式(12)中，fx()表示第3组编码模块中LSTM网络单元；2≤t≤T；具体地，LSTM网络的状态更新：
it＝σ(Wi[ht-1；xt]+bi)                                 (13)
ft＝σ(Wf[ht-1；xt]+bf)                                (14)
ot＝σ(Wo[ht-1；xt]+bo)                                 (15)
st＝ft⊙st-1+it⊙tanh(Ws[ht-1；xt]+bs)                         (16)
ht＝ot⊙tanh(st)                                           (17)
这里，it为输入门，ft为遗忘门，ot为输出门，st为LSTM在t时刻记忆细胞的状态，σ、tanh()和⊙分别为Sigmoid激活函数、双曲正切函数和同位元素对应相乘，[ht-1；xt]表示上一时刻隐藏层状态ht-1和当前输入序列xt的连接，Wi、Wf、Wo、Ws和bi、bf、bo、bs为LSTM网络模型需要学习的参数。
如图3所示，时间注意力解码层由T个时间注意力解码网络构成，每个时间注意力解码网络由1个LSTM网络单元，1个Attention层，1个Softmax层及1个全连接层组成；
令第t个时间注意力解码网络中LSTM网络单元的隐藏层为h′t，细胞状态为s′t；初始化第1个时间注意力解码网络的LSTM单元隐藏层和细胞状态：h′1＝s′1＝y1；
将空间注意力编码层的输出
Figure BDA00029799273100001213
按列分别输入T个时间注意力解码网络的Attention层，其中，t时刻的隐藏层输出
Figure BDA0002979927310000131
输入对应的第t个时间注意力解码网络，自适应地为空间注意力编码层的输出分配第i个动态相关性
Figure BDA0002979927310000132
并输出:
Figure BDA0002979927310000133
Figure BDA0002979927310000134
和
Figure BDA0002979927310000135
是解码层需要训练的参数；
将所有动态相关性
Figure BDA0002979927310000136
输入后续的Softmax层，输出空间并行注意力编码层输出的权重
Figure BDA0002979927310000137
Figure BDA0002979927310000138
将权重
Figure BDA0002979927310000139
输入后续的全连接层，输出解码向量
Figure BDA00029799273100001310
其中，
Figure BDA00029799273100001311
表示第i个空间并行注意力编码层的输出，
Figure BDA00029799273100001312
表示第i个空间并行注意力编码层输出的权重；
采用式(20)得到t时刻时间注意力解码网络的预测更新值
Figure BDA00029799273100001313
Figure BDA00029799273100001314
式(20)中，
Figure BDA00029799273100001315
和
Figure BDA00029799273100001316
分别表示时间注意力解码层的权重和偏置；me表示时间注意力解码网络中LSTM网络单元的隐藏层单元数；yt表示t时刻机动车尾气排放真实值；
采用式(21)得到第t个时间注意力解码网络中LSTM网络单元的隐藏层h′t：
Figure BDA00029799273100001326
式(21)中，fd(·)为时间注意力解码网络的LSTM网络单元；2≤t≤T；
利用式(22)获得PA-LSTM网络的机动车尾气排放预测结果
Figure BDA00029799273100001317
Figure BDA00029799273100001318
式(22)中，F(·)表示PA-LSTM网络，
Figure BDA00029799273100001319
和
Figure BDA00029799273100001320
表示时间注意力解码层的权重和偏置；
Figure BDA00029799273100001321
表示
Figure BDA00029799273100001322
和
Figure BDA00029799273100001323
的映射连接；
Figure BDA00029799273100001324
和
Figure BDA00029799273100001325
表示PA-LSTM网络的权重和偏置，用于完成线性变换；md表示时间注意力解码网络中LSTM网络单元的隐藏层单元数；
步骤3、采用网格遍历搜索法确定模型的超参数，包括：编码层隐藏层单元数、解码层隐藏层单元数、时间步长、训练批次、训练迭代次数、训练周期和学习速率；为了简化模型，令编码层LSTM隐藏层单元数等于解码层LSTM隐藏层单元数，即me＝md，使用遍历搜索法确定LSTM网络隐藏层单元数me＝md∈{16,32,64,128,256}，时间步长T∈{3,5,10,15,25}，训练批次τ∈{32,64,128,256,512}，训练周期epoch＝{100,200,300,400,500}；以训练集Dtrain和Ytrain作为输入数据，对模型进行训练；训练完成后，采用验证集Dverify和Yverify对模型进行验证，利用式(23)计算模型输出结果与真实值的均方误差作为目标函数：
Figure BDA0002979927310000141
式(23)中，
Figure BDA0002979927310000142
为道路机动车尾气高排放预警模型的最小MSE值；
Figure BDA0002979927310000143
表示预处理后的尾气排放关联测试集Dtest输入PA-LSTM网络得到的所有预测值，y表示预处理后的待预测机动车尾气排放真实数据测试集Ytest中所有真实值。
再将尾气排放关联训练集Dtrain和待预测机动车尾气排放真实数据训练集Ytrain＝{yi|i＝1,2,...,m1}输入设置好超参数的PA-LSTM网络中进行训练，在训练过程中采用自适应学习率算法Adam作为梯度下降算法优化PA-LSTM网络的自身参数，从而得到道路机动车尾气高排放预警模型；Adam即adaptive moments通过计算梯度的一阶矩估计和二阶矩估计，为不同的参数设计独立的自适应性学习率，避免了因随机梯度下降而使模型收敛到局部最优的风险。
如图4a和图4b所示，分别以北京延庆区柴油车道路PEMS实测数据和天津南开大学尾气排放实验室柴油车台架PEMS实测数据验证模型，超参数网格搜索最优结果如表1所示。
表1 PA-LSTM超参数网格搜索结果
Figure BDA0002979927310000144
超参数选择完成后，PA-LSTM模型的训练结果和道路机动车尾气排放的预测结果分别如图5和图6所示。预测精度评价指标采用均方根误差(Root Mean Square Error,RMSE)，平均绝对误差(Mean Absolute Error,MAE)，平均绝对百分比误差(Mean AbsolutePercentage Error,MAPE)，公式如下：
Figure BDA0002979927310000145
Figure BDA0002979927310000151
Figure BDA0002979927310000152
Figure BDA0002979927310000153
这里,yt为尾气排放关联训练集Dtest中t时刻所预测机动车尾气排放的真实值，
Figure BDA0002979927310000159
为待预测机动车尾气排放真实数据训练集Ytest中所预测机动车尾气排放真实值的平均值，
Figure BDA00029799273100001510
为PA-LSTM模型t时刻的预测值，N是测试集的采样点数。本发明的模型预测结果与目前主流的时序预测算法关于机动车尾气排放的预测结果对比如表2所示，四类预测精度评价指标表明，本发明的模型预测精度高于其他主流的时序预测方法。
表2北京道路PEMS测试和天津台架PEMS测试数据集的机动车尾气排放预测精度对比
Figure BDA0002979927310000154
步骤4、采用式(28)所示的3σ误差检验消除预处理后的待预测机动车尾气排放真实数据测试集Ytest检测值中的异常点和抑制基线漂移：
Figure BDA0002979927310000155
式(28),
Figure BDA0002979927310000156
是PA-LSTM网络的机动车尾气排放τ时刻预测值；yτ是待预测机动车尾气排放τ时刻的真实值，
Figure BDA0002979927310000157
为道路机动车尾气高排放预警模型的最小MSE值；
Figure BDA0002979927310000158
表示预处理后的尾气排放关联测试集Dtest输入PA-LSTM网络得到的所有预测值，y表示预处理后的待预测机动车尾气排放真实数据测试集Ytest中所有真实值，τ＝m1+m2,m1+m2+1,...,m3；
如果
Figure BDA0002979927310000161
则自动判定第τ个真实值yτ为异常点并利用式(9)进行修复：
Figure BDA0002979927310000162
式(29)中，
Figure BDA0002979927310000163
是τ时刻修复后的值；
这里，选取一段北京延庆区柴油车道路PEMS测试数据，人工在数据中添加异常值和漂移，模型异常值修复的结果如图7a、图7b和表3所示，实验结果表明，本专利提出的预测模型能有效检测出异常值，对PEMS所采集的机动车尾气排放数据中的基线漂移有一定的抑制作用。
表3人工插入异常值的检测与剔除结果
Figure BDA0002979927310000164
步骤5、设置机动车各类尾气的高排放警戒阈值，当道路机动车尾气高排放预警模型的预测值高于所设置的高排放警戒阈值时进行报警，本发明的预警流程如图8所示。
利用天津台架PEMS测试数据检验本发明的预警性能，共收集了288000个数据集，采样间隔为1秒，将数据转换成分钟格式，取一分钟内60个数据的平均值。如图9所示，通过在PA-LSTM模型中设置机动车各类尾气的高排放阈值，模型可实现机动车尾气高排放的自动预警。
本发明的预警准确率与目前主流时序预测算法关于机动车尾气排放的预警准确率对比结果如表4所示，本发明除针对NO2的高排放预警准确率略低于双阶段注意的递归神经网络(Dual-Stage Attention-Based Recurrent Neural Network,DA-RNN)方法，针对其余各种机动车尾气高排放的预警准确率均优于其它模型，总体预警成功率为87％，满足了道路机动车尾气高排放的实时预警要求。
表4机动车高排放预警准确率对比
Figure BDA0002979927310000171
综上所述，本发明充分考虑了影响道路机动车尾气排放的多特征因素，提高了尾气排放预测精度并具有较大的适用范围，从而能有效预测机动车即将发生的高排放现象，并及时将预警信息反馈至机动车的发动机控制系统，使其能够改变尾气控制策略，以避免机动车即将发生的高排放现象。且该方法消除了实际PEMS测试过程中，因检测设备长时间工作或故障等原因，检测数据中出现的异常值，并对基线漂移有一定的抑制作用。

Claims (1)

1.一种基于PA-LSTM网络的道路机动车尾气高排放预警方法，其特征包括：
步骤1、采用PEMS检测设备和OBD车载诊断系统共同采集道路机动车在u天的尾气排放数据，且每天采集v个工况的数据，每个工况数据的采集时间为Tround，从而得到包含n个特征的尾气排放关联数据集Draw＝(d′ij)m×n和待预测机动车尾气排放真实数据集Yraw＝{y′i|i＝1,2,...,m}；其中，d′ij表示第i个采集时间下的第j个特征值；y′i表示第i个采集时间下待预测机动车尾气排放真实值；1≤i≤m；1≤j≤n；m＝u×v×Tround；
对所述尾气排放关联数据集Draw和待预测机动车尾气排放真实数据集Yraw进行缺失数据补偿和归一化的预处理，得到预处理后的尾气排放关联特征矩阵Dscaled＝(dij)m×n和预处理后的待预测机动车尾气排放真实数据集Yscaled＝{yi|i＝1,2,...,m}；其中，dij表示预处理后的第i个采集时间下的第j个特征值；yi表示预处理后的第i个采集时间下待预测机动车尾气排放真实值；
将预处理后的尾气排放关联特征矩阵Dscaled和预处理后的待预测机动车尾气排放真实数据集Yscaled＝{yi|i＝1,2,...,m}分别按3:1:1划分为训练集
Figure FDA0002979927300000011
和Ytrain＝{yi|i＝1,2,...,m1}，验证集
Figure FDA0002979927300000012
和Yverify＝{yi|i＝m1,m1+1,...,m1+m2}，测试集
Figure FDA0002979927300000013
和Ytest＝{yi|i＝m1+m2,m1+m2+1,...,m}；m1＝[0.6m]，m2＝[0.2m]，m3＝[0.2m]；其中[·]表示取整函数；
所述预处理后的尾气排放关联训练集
Figure FDA0002979927300000014
包含：预处理后的OBD参数训练数据
Figure FDA0002979927300000015
预处理后的PEMS参数训练数据
Figure FDA0002979927300000016
预处理后的机动车尾气排放关联训练数据
Figure FDA0002979927300000017
n1为OBD参数训练数据的特征值数量，n2为PEMS参数训练数据的特征值数量，n3为机动车尾气排放关联训练数据的特征值数量；n＝n1+n2+n3；
步骤2、建立由空间并行注意力编码层和时间注意力解码层组成的PA-LSTM网络，并初始化PA-LSTM网络的自身参数，定义时间步长为T；
所述空间并行注意力编码层包括T个空间并行注意力编码网络，每个空间并行注意力编码网络由3组编码模块构成，每组编码模块分别包含1个LSTM网络单元，1个Attention层，1个Softmax层及1个全连接层；
令第t个空间并行注意力编码网络中3组编码模块的LSTM网络单元的隐藏层为
Figure FDA0002979927300000021
Figure FDA0002979927300000022
3组编码模块的LSTM网络单元的细胞状态为
Figure FDA0002979927300000023
T个空间并行注意力编码网络通过所包含的LSTM网络单元中的隐藏层进行连接；t＝1,2,…,T；
将转置后的尾气排放训练集
Figure FDA0002979927300000024
以时间步长T为周期进行采样，从而得到单个采样周期内的OBD参数训练数据矩阵为
Figure FDA0002979927300000025
单个采样周期内的PEMS参数训练数据矩阵
Figure FDA0002979927300000026
单个采样周期内的机动车尾气排放关联训练数据矩阵
Figure FDA0002979927300000027
其中，
Figure FDA0002979927300000028
表示单个采样周期内的t时刻第k1个特征值；1≤k1≤n1；
Figure FDA0002979927300000029
表示单个采样周期内的t时刻第k2个特征值；1≤k2≤n2；
Figure FDA00029799273000000210
表示单个采样周期内的t时刻第k3个特征值；1≤k3≤n3；
令
Figure FDA00029799273000000211
表示单个采样周期内的OBD参数训练数据矩阵P中初始时刻至第T时刻所有k1个特征值的矩阵；
令
Figure FDA00029799273000000212
表示单个采样周期内的PEMS参数训练数据矩阵Q中初始时刻至第T时刻所有k2个特征值的矩阵；
令
Figure FDA00029799273000000213
表示单个采样周期内的机动车尾气排放关联训练数据矩阵X中的初始时刻至第T时刻所有k3个特征值的矩阵；
令
Figure FDA00029799273000000214
表示OBD参数训练数据矩阵P中t时刻所有特征值的矩阵；
令
Figure FDA00029799273000000215
表示PEMS参数训练数据矩阵Q中t时刻所有特征值的矩阵；
令
Figure FDA00029799273000000216
表示机动车尾气排放关联训练数据矩阵X中t时刻所有特征值的矩阵；
初始化第1个空间并行注意力编码网络的3组编码模块的LSTM单元隐藏层
Figure FDA00029799273000000217
和细胞状态
Figure FDA00029799273000000218
为：
Figure FDA00029799273000000219
将单个采样周期内的OBD参数训练数据矩阵P＝(p1,...,pt,...,pT)按列分别输入T个空间并行注意力编码网络中第1组编码模块的Attention层，其中，t时刻所有特征值的矩阵pt输入对应的第t个空间并行注意力编码网络中，从而自适应地捕获待预测机动车排放与OBD参数之间的动态相关性
Figure FDA00029799273000000220
并输出；
将所有动态相关性
Figure FDA00029799273000000221
输入后续的Softmax层，输出OBD参数关于待预测机动车排放的特征权重
Figure FDA00029799273000000222
其中，
Figure FDA00029799273000000223
表示t时刻第k1个特征的权重，将权重
Figure FDA0002979927300000031
输入后续的全连接层，输出t时刻关于OBD参数权重分配后的驱动序列
Figure FDA0002979927300000032
利用分配后的驱动序列
Figure FDA0002979927300000033
作为第t个空间并行注意力编码网络中第1组编码模块的新输入，从而利用式(1)得到t时刻的隐藏层输出
Figure FDA0002979927300000034
Figure FDA0002979927300000035
式(1)中，fp()表示第1组编码模块中的LSTM网络单元；2≤t≤T；
同理，将单个采样周期内的PEMS参数训练数据矩阵Q＝(q1,...,qt,...,qT)按列分别输入T个空间并行注意力编码网络中第2组编码模块的Attention层，其中，t时刻所有特征值的矩阵qt输入对应的第t个空间并行注意力编码网络中，自适应地捕获待预测机动车排放与PEMS参数之间的第k2个动态相关性
Figure FDA0002979927300000036
并输出；
将所有动态相关性
Figure FDA0002979927300000037
输入后续的Softmax层，输出PEMS参数关于待预测机动车排放的特征权重
Figure FDA0002979927300000038
其中，
Figure FDA0002979927300000039
表示t时刻第k2个特征的权重，将权重
Figure FDA00029799273000000310
输入后续的全连接层，输出t时刻关于PEMS参数权重分配后的驱动序列
Figure FDA00029799273000000311
利用分配后的驱动序列
Figure FDA00029799273000000312
作为第t个空间并行注意力编码网络中第2组编码模块的新输入，从而利用式(2)得到t时刻的隐藏层输出
Figure FDA00029799273000000313
Figure FDA00029799273000000314
式(2)中，fq()表示第2组编码模块中LSTM网络单元；2≤t≤T；
根据式(3)，将T个空间并行注意力编码网络的前2组编码模块在单个时间周期T的OBD参数权重分配后的驱动序列
Figure FDA00029799273000000315
PEMS参数权重分配后的驱动序列
Figure FDA00029799273000000316
与机动车尾气排放关联训练数据
Figure FDA00029799273000000317
连接，从而生成新的驱动矩阵Z：
Figure FDA00029799273000000318
式(3)中，
Figure FDA00029799273000000319
zk表示单个采样周期内初始时刻至第T时刻所有k个特征值的集合，且1≤k≤n；zt表示t时刻新的驱动矩阵Z中所有特征值的集合；
将驱动矩阵Z＝(z1,...,zt,...,zT)按列分别输入T个空间并行注意力编码网络中第3组编码模块的Attention层，其中，t时刻所有特征值的矩阵zt输入对应的第t个空间并行注意力编码网络中，自适应地捕获待预测机动车排放与新驱动序列Z的第k个动态相关性
Figure FDA00029799273000000320
并输出；
将所有动态相关性
Figure FDA0002979927300000041
输入后续的Softmax层，输出驱动矩阵Z关于待预测机动车排放的特征权重
Figure FDA0002979927300000042
其中，
Figure FDA0002979927300000043
表示t时刻第k个特征的权重；将权重
Figure FDA0002979927300000044
输入后续的全连接层，输出t时刻关于驱动矩阵Z分配后的驱动序列
Figure FDA0002979927300000045
利用分配后的驱动序列
Figure FDA0002979927300000046
作为第t个空间并行注意力编码网络中第3组编码模块的新输入，从而利用式(4)得到t时刻的隐藏层输出
Figure FDA0002979927300000047
进而得到空间并行注意力编码层的输出为
Figure FDA0002979927300000048
Figure FDA0002979927300000049
式(4)中，fx()表示第3组编码模块中LSTM网络单元；2≤t≤T；
所述时间注意力解码层由T个时间注意力解码网络构成，每个时间注意力解码网络由1个LSTM网络单元，1个Attention层，1个Softmax层及1个全连接层组成；
令第t个时间注意力解码网络中LSTM网络单元的隐藏层为h′t，细胞状态为s′t；初始化第1个时间注意力解码网络的LSTM单元隐藏层和细胞状态：h′1＝s′1＝y1；
将空间注意力编码层的输出
Figure FDA00029799273000000410
按列分别输入T个时间注意力解码网络的Attention层，其中，t时刻的隐藏层输出
Figure FDA00029799273000000411
输入对应的第t个时间注意力解码网络，自适应地为空间注意力编码层的输出分配第i个动态相关性
Figure FDA00029799273000000412
并输出；
将所有动态相关性
Figure FDA00029799273000000413
输入后续的Softmax层，输出空间并行注意力编码层输出的权重
Figure FDA00029799273000000414
将权重
Figure FDA00029799273000000415
输入后续的全连接层，输出解码向量
Figure FDA00029799273000000416
其中，
Figure FDA00029799273000000417
表示第i个空间并行注意力编码层的输出，
Figure FDA00029799273000000418
表示第i个空间并行注意力编码层输出的权重；
采用式(5)得到t时刻时间注意力解码网络的预测更新值
Figure FDA00029799273000000419
Figure FDA00029799273000000420
式(5)中，
Figure FDA00029799273000000421
和
Figure FDA00029799273000000422
分别表示时间注意力解码层的权重和偏置；me表示时间注意力解码网络中LSTM网络单元的隐藏层单元数；yt表示t时刻机动车尾气排放真实值；
采用式(6)得到第t个时间注意力解码网络中LSTM网络单元的隐藏层h′t：
Figure FDA00029799273000000423
式(6)中，fd(·)为时间注意力解码网络的LSTM网络单元；2≤t≤T；
利用式(7)获得PA-LSTM网络的机动车尾气排放预测结果
Figure FDA0002979927300000051
Figure FDA0002979927300000052
式(7)中，F(·)表示PA-LSTM网络，
Figure FDA0002979927300000053
和
Figure FDA0002979927300000054
表示时间注意力解码层的权重和偏置；
Figure FDA0002979927300000055
表示
Figure FDA0002979927300000056
和
Figure FDA0002979927300000057
的映射连接；
Figure FDA0002979927300000058
和
Figure FDA0002979927300000059
表示PA-LSTM网络的权重和偏置，用于完成线性变换；md表示时间注意力解码网络中LSTM网络单元的隐藏层单元数；
步骤3、采用网格遍历搜索法确定模型的超参数，包括：编码层隐藏层单元数、解码层隐藏层单元数、时间步长、训练批次、训练迭代次数、训练周期和学习速率；再将尾气排放关联训练集Dtrain和待预测机动车尾气排放真实数据训练集Ytrain＝{yi|i＝1,2,...,m1}输入设置好超参数的PA-LSTM网络中进行训练，在训练过程中采用自适应学习率算法Adam作为梯度下降算法优化PA-LSTM网络的自身参数，从而得到道路机动车尾气高排放预警模型；
步骤4、采用式(8)所示的3σ误差检验消除预处理后的待预测机动车尾气排放真实数据测试集Ytest检测值中的异常点和抑制基线漂移：
Figure FDA00029799273000000510
式(8),
Figure FDA00029799273000000511
是PA-LSTM网络的机动车尾气排放τ时刻预测值；yτ是待预测机动车尾气排放τ时刻的真实值，
Figure FDA00029799273000000512
为道路机动车尾气高排放预警模型的最小MSE值；
Figure FDA00029799273000000513
表示预处理后的尾气排放关联测试集Dtest输入PA-LSTM网络得到的所有预测值，y表示预处理后的待预测机动车尾气排放真实数据测试集Ytest中所有真实值，τ＝m1+m2,m1+m2+1,...,m3；
如果
Figure FDA00029799273000000514
则自动判定第τ个真实值yτ为异常点并利用式(9)进行修复：
Figure FDA00029799273000000515
式(9)中，
Figure FDA00029799273000000516
是τ时刻修复后的值；
步骤5、设置机动车各类尾气的高排放警戒阈值，当所述道路机动车尾气高排放预警模型的预测值高于所设置的高排放警戒阈值时进行报警。
CN202110284631.0A 2021-03-17 2021-03-17 基于pa-lstm网络的道路机动车尾气高排放预警方法 Active CN112949930B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110284631.0A CN112949930B (zh) 2021-03-17 2021-03-17 基于pa-lstm网络的道路机动车尾气高排放预警方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110284631.0A CN112949930B (zh) 2021-03-17 2021-03-17 基于pa-lstm网络的道路机动车尾气高排放预警方法

Publications (2)

Publication Number Publication Date
CN112949930A CN112949930A (zh) 2021-06-11
CN112949930B true CN112949930B (zh) 2023-04-18

Family

ID=76228737

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110284631.0A Active CN112949930B (zh) 2021-03-17 2021-03-17 基于pa-lstm网络的道路机动车尾气高排放预警方法

Country Status (1)

Country Link
CN (1) CN112949930B (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113379164B (zh) * 2021-07-16 2024-03-26 国网江苏省电力有限公司苏州供电分公司 基于深度自注意力网络的负荷预测方法及系统
CN115879049A (zh) * 2023-03-02 2023-03-31 国网江西省电力有限公司电力科学研究院 一种自动立杆的感应识别输出方法及系统
CN115964621B (zh) * 2023-03-17 2023-05-09 中国科学技术大学 区域路网尾气排放数据补全方法
CN116992247B (zh) * 2023-09-27 2023-12-22 集利安(南通)电子科技有限公司 一种尾气分析仪的异常数据检测方法

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111612254A (zh) * 2020-05-22 2020-09-01 中国科学院合肥物质科学研究院 基于改进注意力双向长短期记忆网络的道路机动车尾气排放预测方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11518382B2 (en) * 2018-09-26 2022-12-06 Nec Corporation Learning to simulate

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111612254A (zh) * 2020-05-22 2020-09-01 中国科学院合肥物质科学研究院 基于改进注意力双向长短期记忆网络的道路机动车尾气排放预测方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
Automatic and Fast Recognition of On-Road High-Emitting Vehicles Using an Optical Remote Sensing System;Hao Xie, etc.;《Sensors》;第19卷(第16期);第3540-3557页 *
压差法机动车高温尾气瞬时流量测量;余冬琪等;《电子测量技术》;第42卷(第24期);32-37 *

Also Published As

Publication number Publication date
CN112949930A (zh) 2021-06-11

Similar Documents

Publication Publication Date Title
CN112949930B (zh) 基于pa-lstm网络的道路机动车尾气高排放预警方法
CN111612254B (zh) 基于改进注意力双向长短期记忆网络的道路机动车尾气排放预测方法
CN110705743B (zh) 一种基于长短期记忆神经网络的新能源消纳电量预测方法
CN103942398B (zh) 基于遗传算法及广义回归神经网络的交通仿真校正方法
CN111191824B (zh) 一种动力电池容量衰减预测方法及系统
CN111325403A (zh) 一种公路隧道机电设备剩余寿命预测方法
CN113627661A (zh) 一种电动汽车充电负荷预测的方法
CN113850320A (zh) 基于改进支持向量机回归算法的变压器故障检测方法
CN110988263B (zh) 一种基于改进的Stacking模型的车辆尾气浓度估计方法
CN113983646A (zh) 基于生成对抗网络的空调互动末端能耗预测方法及空调
CN115983448A (zh) 一种基于时空图神经网络的多能源负荷预测方法
Liao et al. A comparative investigation of advanced machine learning methods for predicting transient emission characteristic of diesel engine
KR20200057608A (ko) 인공지능 기술을 이용한 배기가스 배출량 예측방법
Dong et al. Prognostics 102: efficient Bayesian-based prognostics algorithm in Matlab
CN112232570A (zh) 一种正向有功总电量预测方法、装置及可读存储介质
CN117272783A (zh) 一种基于云边协同多模型融合的动力电池寿命预测方法
CN116613745A (zh) 一种基于变分模态分解的pso-elm电动汽车充电负荷预测方法
CN115730456A (zh) 基于双注意力融合网络的机动车多元尾气预测方法及系统
CN115330082A (zh) 一种基于注意力机制的lstm网络的pm2.5浓度预测方法
CN111273212B (zh) 数据驱动的电量传感器误差在线评测闭环改进方法、系统及介质
CN113159395A (zh) 一种基于深度学习的污水处理厂进水流量预测方法及系统
CN114280490A (zh) 一种锂离子电池荷电状态估计方法及系统
CN115809947A (zh) 一种水污染时序数据连续缺失值填补方法
CN113671386A (zh) 一种氢燃料电池耐久性能分析方法及装置
CN113393107B (zh) 一种面向发电设备状态参量参考值的增量式计算方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant