CN114331542A - 一种电动汽车充电需求预测方法及装置 - Google Patents

Abstract

本申请实施例提供一种电动汽车充电需求预测方法及装置，应用于电动汽车充电需求预测服务器。其中，所述方法包括：构建测试数据集；通过所述测试数据集对负荷预测模型进行训练；将所述测试数据集输入训练后的负荷预测模型，获得预测结果。本申请实施例采用的基于改进的概率稀疏自注意力和对比学习的深度神经网络电动汽车充电需求预测方法，能够克服长期需求预测误差大，且需要额外信息修正的问题，能够满足移动端使用、边缘设备运行、以及边远地区局域网、网络安全受限等场景的部署需求，尤其是可部署在充电站点储能系统甚至充电桩内独立运行，提供更精确的预测结果和更灵活的部署方式，让现有充电站点具备智能化升级空间。

Description

一种电动汽车充电需求预测方法及装置

技术领域

本申请涉及电动汽车技术领域，尤其涉及一种电动汽车充电需求预测方法及装置。

背景技术

近年来，电动汽车产业发展迅速，大规模的电动汽车充电需求衍生了较高的用电负荷。精准的充电需求预测，是实现充电站点精细化运营管理、整体优化调度以及运营策略升级的重要基础。

与传统的电力负荷特征不同，充电站点的电动汽车的充电行为不仅是时间上的连续过程；由于电动汽车具有移动性，其充电行为与用户的出行行为密切相关，电动汽车在不同充电站点之间的转移会导致不同站点的充电需求具有空间相关性。所以，电动汽车的充电需求在时空分布上具有极强的随机性。此外，电动汽车充电需求还会受到充电站点运营策略、节假日安排，天气情况，国家政策补贴等多方面影响。因此，预测电动汽车充电需求在时间维度、空间维度和其他额外维度的波动是一个复杂动力系统问题。

另一方面，由于缺乏精准充电需求预测能力，现有的充电能力管理系统虽然具备一定的自动监控处理手段，但综合调度能力有限，仅靠人工结合实际充电使用而调整，效率低且车辆充电过程中矛盾突出。用户经常面临高峰时段车找桩困难，车辆需排队充电且等候时间长，低峰时段又会出现充电设施闲置、利用率不高的现象；有时，还会出现即使充电设施满充电输出工作，由于存在充电过程功率需求曲线的因素，受充电枪与停车位的限制，高峰时段也会出现充电设施能力富裕，而被迫车等位的现象，即电动汽车处于均充阶段仍然在继续充电。

发明内容

本申请实施例提供了一种电动汽车充电需求预测方法及方法装置，采用基于改进的概率稀疏自注意力和对比学习的深度神经网络充电需求预测模型，能够满足在边缘计算平台、低算力基层设备、离网私有化等场景的部署需求，具有较高的预测精度和一定的对数据噪声的容忍裕度。

本申请实施例采用下述技术方案：

第一方面，本申请实施例提供一种电动汽车充电需求预测方法，应用于电动汽车充电需求预测服务器，所述方法包括：

构建测试数据集；

通过所述测试数据集对负荷预测模型进行训练；

将所述测试数据集输入训练后的负荷预测模型，获得预测结果。

可选地，所述测试数据集中的数据按照所期望的预测时间周期切分，包括以下维度：历史车流量数据、历史充电需求数据、地区分时电价数据、是否节假日数据、温度数据、储能运行状态数据、充电站点所处经纬度、季节、天气、是否存在运营补贴。

可选地，所述负荷预测模型包括嵌入层、编码层和解码层；其中，

所述嵌入层包括卷积模块、位置编码器和时间编码器，用于对输入的测试数据集进行线性变换和时序信息拼接，生成时序位置编码数据；

所述编码层包括两条支路，其中，第一支路包括第一概率稀疏自注意力网络模块，用于长周期的注意力构建和分配；第二支路包括门控线性激活单元、卷积模块和全连接模块，用于输入数据指定时间周期内局部关联信息的提取；所述编码层用于对嵌入层输出的数据进行并行处理，获得Query、Key、Value查询序列矩阵以及自注意力输出Z1”、Z2”；并将所述处理结果拼接后送入全连接层并输出；

所述解码层包括mask稀疏自注意力网络模块和第二自注意力网络模块，用于根据所述嵌入层和编码层输出获得联合注意力序列，并根据所述联合注意力序列获得预测结果；其中，所述第二自注意力网络模块和所述编码层的第一自注意力网络模块的结构相同。

可选地，所述嵌入层还用于：

对所述线性变换和时序信息拼接后生成的数据，进行数据增强；

将所述线性变换和时序信息拼接后生成的数据和进行数据增强后生成的数据，作为所述嵌入层输出的数据，送入所述编码层；

其中，所述数据增强采用如下方法之一：

方法一：

在一个时间周期内，按照维度对数据进行拆分；

针对拆分后的一个或多个维度数据，将其部分或全部内容替换为其数值限定范围内的随机数值；

将替换后的维度数据组合为原始数据格式；

方法二：

在一个时间周期内，在数据中确定一个或多个切片；

随机截取其他时间周期内相同长度的一个或多个切片；

将所述其他时间周期内相同长度的一个或多个切片覆盖所述本数据中确定的一个或多个切片。

可选地，所述通过所述测试数据集对负荷预测模型进行训练，包括：

通过Adam优化器，对所述嵌入层和编码层的输出进行自监督对比学习训练；

通过Adam优化器，对所述负荷预测模型的输出进行训练。

可选地，所述通过Adam优化器，对所述嵌入层和编码层的输出进行自监督对比学习训练，包括：

计算总损失L_total，

将所述总损失L_total发送至所述嵌入层的卷积模块，更新所述卷积模块的参数；

其中，所述总损失L_total通过以下公式获得：

L_total＝L₁+L₂，

其中，Z₁、Z₂分别为所述嵌入层输出的所述线性变换和时序信息拼接后生成的数据和进行数据增强后生成的数据，所述P₁、P₂为所述编码层处理过程中所述第一支路和第二支路输出且尚未进入所述全链接模块的数据，所述||…||₂表示二范数。

可选地，所述嵌入层输出的时序位置编码数据包括Query、Key、Value序列，所述第一自注意力网络模块生成稀疏概率自注意力输出的方法包括：

对每个时序片刻的Query随机采样其他时序片刻对应的Key部分，所述采样个数为M；

采用如下公式计算每个Query的M个采样key对应的稀疏性分数，

其中，qi为第i个时间片刻的Query，j第i个时间片刻以外的其他时间片刻，k为除第i个时间片刻以外的所有其他时间片刻对应的Key部分，k^T为k的转置形式，d为自注意力通道数量，L为序列长度；

选择稀疏性分数最高的N个时序片刻的Query，采用如下公式计算所述N个时序片刻的Query与所有时间片刻对应的Key的点积结果，

其中，softmax为交叉熵函数，Q、K、V分别对应变换获得的Query、Key、Value序列矩阵；

采用如下公式计算所述N个时序片刻的Query的自注意力结果，

计算剩余L-N个时序片刻的Query的自注意力的均值，作为所述剩余L-N个时序片刻的Query的自注意力结果；

将所述N个时序片刻的Query的自注意力结果和所述剩余L-N个时序片刻的Query的自注意力结果合并，作为稀疏概率自注意力输出。

可选地，所述解码层获得预测结果的方法包括：

确定预测时间点前指定时间窗口长度数据编码和预测时间点后指定时间窗口长度数据编码，记为L’；

通过所述第二注意力网络模块获得自注意力序列Z_dec-mask，将所述自注意力序列Z_dec-mask与所述嵌入层卷积变换模块输出的卷积变换序列Z_dec-glu进行拼接；

将拼接后的序列与所述编码层输出的处理结果V”、K”通过所述mask注意力网络模块进行稀疏自注意力计算，获得联合注意力；

使用如下损失函数和Adam优化器对所述负荷预测模型进行迭代训练，

Loss＝∑L1_s(Gt,Zt)，

其中，Gt为训练数据ground ture序列，Zt为预测序列；所述迭代训练采用step bystep步进模式，即预测出一个时序片刻值后，将其加进编码层输入，填补原未知的对应时间片刻数据，预测以下个时间片刻结果；

获得预测序列Zt。

第二方面，本申请实施例还提供一种电动汽车充电需求预测装置，应用于电动汽车充电需求预测服务器，所述装置用于实现前述之任一所述方法。

第三方面，本申请实施例还提供一种电子设备，包括：

处理器；以及

被安排成存储计算机可执行指令的存储器，所述可执行指令在被执行时使所述处理器执行前述之任一所述方法。

本申请实施例采用的上述至少一个技术方案能够达到以下有益效果：一是采取了对比学习和数据增强方法，让预测网络获得一个可自行迭代优化的特征提取器，以得到更好的特征表达。由于数据获取质量的不可控，需采取一定措施使得预测结果对充电需求输入数据的各个维度的噪声或插值错误相对不敏感，获得了更好的兼容性。二是采取了全局自注意力和局部注意力分离方法改进概率稀疏自注意力模块，以代替传统自注意力神经网络模块。与现有的注意力模块或稀疏注意力模块中的多头注意力计算过程有所不同，本申请采用的注意力模块和卷积模块分别负责全局注意力生成和局部注意力生成，对应解码器的自注意力模块也对应作出相应改变，从而极大降低了计算量，提高了模型运行效率。本申请实施例采用的基于改进的概率稀疏自注意力和对比学习的深度神经网络电动汽车充电需求预测方法，能够克服长期需求预测误差大，且需要额外信息修正的问题，能够满足移动端使用、边缘设备运行、以及边远地区局域网、网络安全受限等场景的部署需求，尤其是可部署在充电站点储能系统甚至充电桩内独立运行，提供更精确的预测结果和更灵活的部署方式，让现有充电站点具备智能化升级空间。

附图说明

此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：

图1为本申请实施例中一种电动汽车充电需求预测方法的整体流程示意图；

图2为本申请实施例中一种电动汽车充电需求预测网络结构的示意图；

图3为本申请实施例中一种电动汽车充电需求预测装置的整体结构示意图；

图4为本申请实施例中一种电子设备的结构示意图。

具体实施方式

为使本申请的目的、技术方案和优点更加清楚，下面将结合本申请具体实施例及相应的附图对本申请技术方案进行清楚、完整地描述。显然，所描述的实施例仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

为了便于对本申请的理解，以下先对现有技术进行简要介绍。

现有的电动汽车充电需求主要研究方法可分为三大类：基于概率模型的传统预测方法、基于机器学习的智能预测方法和基于深度学习的神经网络预测方法。为了提高充电需求预测的精度，必须尽可能考虑所有相关维度数据，并通过完善的特征工程构造数据表征。

基于概率模型的方法主要是对某个充电桩的电动汽车充电行为建立概率模型，再通过蒙特卡洛模拟法生成一组随机数据模拟电动汽车群的充电行为来预测。考虑到充电行为时间和空间上的随机性，建立精确概率模型是很困难的，上述方法只能进行简单的估算。同时由于缺乏真实的充电数据，大部分研究模拟电动汽车充电行为与真实情况可能相差甚远。

基于机器学习的智能预测方法主要是利用机器学习算法和模型，从数据驱动的角度建模，通过对历史数据的分析和训练得到预测模型来进行预测。然而绝大多数研究都是利用ANN、SVM、KNN等浅层模型做一维时间序列预测，模型学习能力和对复杂系统的表达能力有限。这些方法只是从时间特征的角度来建模，没有考虑到电动汽车充电需求的时空相关性，预测精度有待提高。

基于深度学习和传统方法相结合的负荷预测模型可以用于解决时空特征序列预测的问题，但是也存在如下弊端：第一方面，现有技术中BiLSTM、GRU等循环神经网络框架更多被应用在对未来几小时、一天等短时或单月总需求粗颗粒预测中，缺乏长时间片段周期应用结果验证。由于充电行为存在随机性和非线性，涉及多个主客观维度影响，并且上述数据通常存在噪音和采集质量参差不齐等问题，从而增加了充电需求预测的复杂程度、降低了预测结果的准确性。第二方面，随着模型结构和参数量的发展，对模型部署系统的计算能力和存储能力也提出了更高要求，模型的部署成本变得愈发无法忽略。第三方面，部分充电站点由于地处偏僻，出于安全考虑，其设备层网络和大数据云平台网络只能单向通信或作为局域网单独运行，需要模型和相应的策略优化服务可部署在更基层的设备中。因此，负荷预测模型需要具备对基层边缘计算平台的兼容性，以及自行学习迭代的能力。

事实上，由于充电需求的不确定性，作出精确的需求功率预测具有很大挑战性。在充电站点运营精细化管理趋势大背景下，即使有很小的预测误差，由充电桩和储能操作产生的功率峰值以及联动的充放电参数也会有很大的调整。因为充电站点储能调度的峰值削减量是基于充电需求预测的结果，因此即使小的预测误差，也可能降低调度策略的效果，并降低电站收益。现有方法的缺点主要体现在：1、使用传统机器学习方法或LSTM等路径，虽然在短时预测上取得了不错的效果，但在以天、月、季单位的长周期细颗粒度预测中表现不佳，且需要额外数据或约束条件修正预测结果。2、采用部分改进的深度自注意力网络的Transformer框架，虽然可以在一定程度上满足实际应用的精度要求，但也面临这计算量大，运行速度过慢、部署成本高、无法灵活部署在移动或边缘计算平台的问题。3、模型预测所依赖的部分维度数据，存在数据噪音、片段缺失、记录和插值错误等问题，而模型缺乏有效过滤手段和容忍度。

目前，关于结合多重维度的时间序列预测领域已经开展了大量的相关研究，其中经典的预测方法包括：时间序列法、回归分析法等。这些方法的实现原理简单，运算速度快，适合处理结构简单，规模小的数据集。但是，随着充电站点基础设施不断完善和设备信息化程度提高，用户规模的不断扩大，数据快速增长，同时由于大部分数据本身的非线性特点，使得现有方法在大规模数据上的表现不甚理想。而机器学习方法因为其强大的适应性和非线性处理能力受到关注。其中，深层神经网络在理论上可以逼近任何函数，在图像识别、自然语言处理等领域取得了非常好的效果。自注意力机制能够计算序列数据中每个数据对其它数据的注意力，并给它们分配不同的权重，从而使经过其处理的序列数据成为包含着权重信息的序列数据，具有较强的处理序列数据的能力。

以下结合附图，详细说明本申请各实施例提供的技术方案。

本实施例提供一种电动汽车充电需求预测方法，应用于电动汽车充电需求预测服务器，如图1所示，所述方法包括步骤S110至S130：

步骤S110：构建测试数据集；

其中，所述测试数据集基于历史数据构建，主要包括历史车流量数据、历史充电需求数据等，用于对负荷预测模型进行训练。

步骤S120：通过所述测试数据集对负荷预测模型进行训练；

其中，所述负荷预测模型基于改进的概率稀疏自注意力和对比学习的深度神经网络构建。通过测试数据集对负荷预测模型进行训练，确定模型中的各类参数，从而使得所述模型具备预测能力。

步骤S130：将所述测试数据集输入训练后的负荷预测模型，获得预测结果。

其中，通过训练后的负荷预测模型，可以实现对未来一段时期内的充电需求情况进行较为准确的预测。

本实施例提出的基于改进的概率稀疏自注意力和对比学习的深度神经网络电动汽车充电需求预测方法，能够克服长期需求预测误差大，且需要额外信息修正的问题。并且采用了对比学习，使得模型对于数据质量较差的情况拥有了一定容忍度。并且降低了现有方法框架的计算量，使得可部署场景更灵活多样，例如移动端使用、边缘设备运行、以及边远地区局域网、网络安全受限等场景的部署需求。

在本申请的一个实施例中，所述测试数据集中的数据按照所期望的预测时间周期切分，包括以下维度：历史车流量数据、历史充电需求数据、地区分时电价数据、是否节假日数据、温度数据、储能运行状态数据、充电站点所处经纬度、季节、天气、是否存在运营补贴。

其中，所述所期望的预测时间周期是指，按照用户预测所需要的时间周期而设定的最小时间长度，例如是一分钟、一个小时或者一天。所述历史车流量数据和历史充电需求数据可以是根据历史数据统计的每一个预测时间周期内前来充电的车辆总数、每辆车的充电电量及功率等充电参数；所述储能运行状态数据是指与充电电站配合使用的储充电站点或储充系统的运行状态数据。

在一个具体的场景中，如果所述测试数据集中的数据存在由通信故障等造成的超限值或者缺失等问题，则对上述维度数据中超限值进行置空，再对数据中的缺失值按向前补齐原则进行插值，构建测试数据集。

在本申请的一个实施例中，所述负荷预测模型包括嵌入层(embedding layer)、编码层(encoding layer)和解码层(decoding layer)；其中，

所述嵌入层包括卷积模块(CNN)、位置编码器和时间编码器，用于对输入的测试数据集进行线性变换和时序信息拼接，生成时序位置编码数据；

所述编码层包括两条支路，其中，第一支路包括第一概率稀疏自注意力网络模块，用于长周期的注意力构建和分配；第二支路包括门控线性激活单元、卷积模块和全连接模块，用于输入数据指定时间周期内局部关联信息的提取；所述编码层用于对嵌入层输出的数据进行并行处理，获得Query、Key、Value查询序列矩阵以及自注意力输出Z1”、Z2”；并将所述处理结果拼接后送入全连接层并输出；

其中，所述全链接层和每一个拼接层(stacking)都是捆绑的，现有自注意力输出后拼接再进全链接处理。同时，所述编码层、解码层也均设有全连接层，并进行相同的处理过程；通过设置具有对比学习功能的两个支路，可以让预测网络获得一个可自行迭代优化的特征提取器，以得到更好的特征表达；

所述解码层包括mask稀疏自注意力网络模块和第二自注意力网络模块，用于根据所述嵌入层和编码层输出获得联合注意力序列，并根据所述联合注意力序列获得预测结果；其中，所述第二自注意力网络模块和所述编码层的第一自注意力网络模块的结构相同。

在本申请的一个实施例中，所述嵌入层还用于：对所述线性变换和时序信息拼接后生成的数据，进行数据增强；将所述线性变换和时序信息拼接后生成的数据和进行数据增强后生成的数据，作为所述嵌入层输出的数据，送入所述编码层；其中，所述数据增强采用如下方法之一：

方法一：在一个时间周期内，按照维度对数据进行拆分；针对拆分后的一个或多个维度数据，将其部分或全部内容替换为其数值限定范围内的随机数值；将替换后的维度数据组合为原始数据格式；例如，对某一个维度数据随机抽取其中10％的切片数据，替换为在各自数值限定范围内的随机数值(如温度数据范围：0～50摄氏度，则替换为0～50范围内的随机数值)，和原数据组成配对；

方法二：在一个时间周期内，在数据中确定一个或多个切片；随机截取其他时间周期内相同长度的一个或多个切片；将所述其他时间周期内相同长度的一个或多个切片覆盖所述本数据中确定的一个或多个切片。

在本实施例中，每批次进入编码层的已变换数据都包含两个部分，一个被增强过的数据，一个未被增强的数据。通过进行数据增强，可以使得预测结果对充电需求输入数据的各个维度的噪声或插值错误相对不敏感，从而提高模型的训练效果和预测准确度。

在本申请的一个实施例中，所述通过所述测试数据集对负荷预测模型进行训练，包括：通过Adam优化器，对所述嵌入层和编码层的输出进行自监督对比学习训练；通过Adam优化器，对所述负荷预测模型的输出进行训练。

当然，也可以采用现有的其他训练方法，通过设置合理的损失函数，获得最优的训练效果。

在本申请的一个实施例中，所述通过Adam优化器，对所述嵌入层和编码层的输出进行自监督对比学习训练，包括：计算总损失L_total；将所述总损失L_total发送至所述嵌入层的卷积模块，更新所述卷积模块的参数；

其中，所述总损失L_total通过以下公式获得：

L_total＝L₁+L₂，

其中，Z₁、Z₂分别为所述嵌入层输出的所述线性变换和时序信息拼接后生成的数据和进行数据增强后生成的数据，所述P₁、P₂为所述编码层处理过程中所述第一支路和第二支路输出且尚未进入所述全链接模块的数据，所述||…||₂表示二范数。

在本实施例中，将上述L_total作为总损失反传回所述卷积模块更新对应参数，能够使所述卷积模块具备自监督的噪音适应能力。

在本申请的一个实施例中，所述嵌入层输出的时序位置编码数据包括Query、Key、Value序列，所述第一自注意力网络模块生成稀疏概率自注意力输出的方法包括：

对每个时序片刻的Query随机采样其他时序片刻对应的Key部分，所述采样个数为M；

采用如下公式计算每个Query的M个采样key对应的稀疏性分数，

其中，qi为第i个时间片刻的Query，j第i个时间片刻以外的其他时间片刻，k为除第i个时间片刻以外的所有其他时间片刻对应的Key部分，kT为k的转置形式，d为自注意力通道数量(例如为8个)，L为序列长度；

选择稀疏性分数最高的N个时序片刻的Query，采用如下公式计算所述N个时序片刻的Query与所有时间片刻对应的Key的点积结果，

其中，softmax为交叉熵函数，Q、K、V分别对应变换获得的Query、Key、Value序列矩阵；

采用如下公式计算所述N个时序片刻的Query的自注意力结果，

计算剩余L-N个时序片刻的Query的自注意力的均值，作为所述剩余L-N个时序片刻的Query的自注意力结果；

将所述N个时序片刻的Query的自注意力结果和所述剩余L-N个时序片刻的Query的自注意力结果合并，作为稀疏概率自注意力输出。

在本实施例中，所述N的取值可以为M。

在本申请的一个实施例中，所述解码层获得预测结果的方法包括：

确定预测时间点前指定时间窗口长度数据编码和预测时间点后指定时间窗口长度数据编码，记为L’；

通过所述第二注意力网络模块获得自注意力序列Z_dec-mask，将所述自注意力序列Z_dec-mask与所述嵌入层卷积变换模块输出的卷积变换序列Z_dec-glu进行拼接；

将拼接后的序列与所述编码层输出的处理结果V”、K”通过所述mask注意力网络模块进行稀疏自注意力计算，获得联合注意力；其中，所述获得的联合注意力Zdec-mask和Zdec-glu经过上一步拼接和全链接处理后，和编码层一样，再次分两条支路分别进入稀疏自注意力模块和门限激活单元模块。进入稀疏自注意力模块的部分，同样通过预设的变换矩阵生成对应的新的Query序列，记为Qdec-mask，该部分和编码器输出的Q”，V”进行稀疏自注意力计算后输出联合注意力At，再和另一支路的门限激活单元模块输出拼接和全链接层处理后输出预测序列Zt；

使用如下损失函数和Adam优化器对所述负荷预测模型进行迭代训练，

Loss＝∑L1_s(Gt,Zt)，

其中，Gt为训练数据ground ture序列，Zt为预测序列；所述迭代训练采用step bystep步进模式，即预测出一个时序片刻值后，将其加进编码层输入，填补原未知的对应时间片刻数据，预测以下个时间片刻结果；

获得预测序列Zt。

本实施例中，所述时序片刻指的是一个时间周期(窗口)内的每一个时间切片。例如，使用前72小时数据预测后24小时数据，一个时间切片为1小时。

在本实施例中，嵌入层经过时序位置编码数据由自注意力模块预设的变换矩阵，生成对应Query、Key、Value序列，并按通道数量(例如8个)，一半进行计算多头自注意力输出Z’，另一半进入门限激活支路计算局部特征。由于整个注意力模块计算结果是所有Query序列计算结果合并而来，该结果存在稀疏性，即大部分时序片刻的Query只占用很少的自注意力权重，所以需要找到一个方法衡量Query的稀疏性得分，决定该Query是否值得计算。

为了便于对本申请实施例的理解，如图2所示，提供了本申请实施例中一种电动汽车充电需求预测网络结构的整体结构示意图，包括嵌入层(embedding layer)、编码层(encoding layer)和解码层(decoding layer)。其中，所述嵌入层包括卷积模块(CNN)、位置编码器和时间编码器，用于对输入的测试数据集进行线性变换和时序信息拼接，生成时序位置编码数据。所述编码层包括两条支路，其中，第一支路包括第一概率稀疏自注意力网络模块，用于长周期的注意力构建和分配；第二支路包括门控线性激活单元，用于输入数据指定时间周期内局部关联信息的提取。两条支路各自拥有一个归一化层和加法层(add)，数据经过两条支路并行处理，再拼接到一起送入一个全连接层(FC)处理并输出，其中所述全链接层和每一个拼接层(stacking)都是捆绑的，现有自注意力输出后拼接再进全链接处理，同时所述编码层、解码层也均设有全连接层，并进行相同的处理过程。所述解码层包括mask稀疏自注意力网络模块和第二自注意力网络模块，用于根据所述嵌入层和编码层输出获得联合注意力序列，并根据所述联合注意力序列获得预测结果；其中，所述第二自注意力网络模块和所述编码层的第一自注意力网络模块的结构相同。

第二方面，本申请实施例还提供一种电动汽车充电需求预测装置，应用于电动汽车充电需求预测服务器，如图3所示，提供了本申请实施例中一种电动汽车充电需求预测装置300，所述装置300包括：构建单元310、训练单元320、预测单元330，其中：

所述构建单元310，构建测试数据集；

所述训练单元320，用于通过所述测试数据集对负荷预测模型340进行训练；

所述预测单元330，将所述测试数据集输入训练后的负荷预测模型340，获得预测结果。

在本申请的一个实施例中，所述测试数据集中的数据按照所期望的预测时间周期切分，包括以下维度：历史车流量数据、历史充电需求数据、地区分时电价数据、是否节假日数据、温度数据、储能运行状态数据、充电站点所处经纬度、季节、天气、是否存在运营补贴。

在本申请的一个实施例中，所述负荷预测模型包括嵌入层、编码层和解码层；其中，所述嵌入层包括卷积模块、位置编码器和时间编码器，用于对输入的测试数据集进行线性变换和时序信息拼接，生成时序位置编码数据；所述编码层包括两条支路，其中，第一支路包括第一概率稀疏自注意力网络模块，用于长周期的注意力构建和分配；第二支路包括门控线性激活单元、卷积模块和全连接模块，用于输入数据指定时间周期内局部关联信息的提取；所述编码层用于对嵌入层输出的数据进行并行处理，获得Query、Key、Value查询序列矩阵以及自注意力输出Z1”、Z2”；并将所述处理结果拼接后送入全连接层并输出；所述解码层包括mask稀疏自注意力网络模块和第二自注意力网络模块，用于根据所述嵌入层和编码层输出获得联合注意力序列，并根据所述联合注意力序列获得预测结果；其中，所述第二自注意力网络模块和所述编码层的第一自注意力网络模块的结构相同。

在本申请的一个实施例中，所述训练单元320具体用于：对所述线性变换和时序信息拼接后生成的数据，进行数据增强；将所述线性变换和时序信息拼接后生成的数据和进行数据增强后生成的数据，作为所述嵌入层输出的数据，送入所述编码层；其中，所述数据增强采用如下方法之一：方法一：在一个时间周期内，按照维度对数据进行拆分；针对拆分后的一个或多个维度数据，将其部分或全部内容替换为其数值限定范围内的随机数值；将替换后的维度数据组合为原始数据格式；方法二：在一个时间周期内，在数据中确定一个或多个切片；随机截取其他时间周期内相同长度的一个或多个切片；将所述其他时间周期内相同长度的一个或多个切片覆盖所述本数据中确定的一个或多个切片。

在本申请的一个实施例中，所述训练单元320具体用于：通过Adam优化器，对所述嵌入层和编码层的输出进行自监督对比学习训练；通过Adam优化器，对所述负荷预测模型的输出进行训练。

在本申请的一个实施例中，所述训练单元320具体用于：所述通过Adam优化器，对所述嵌入层和编码层的输出进行自监督对比学习训练，包括：计算总损失L_total，将所述总损失L_total发送至所述嵌入层的卷积模块，更新所述卷积模块的参数；其中，所述总损失L_total通过以下公式获得：

L_total＝L₁+L₂，

其中，Z₁、Z₂分别为所述嵌入层输出的所述线性变换和时序信息拼接后生成的数据和进行数据增强后生成的数据，所述P₁、P₂为所述编码层处理过程中所述第一支路和第二支路输出且尚未进入所述全链接模块的数据，所述||…||₂表示二范数。

在本申请的一个实施例中，所述训练单元320具体用于：所述嵌入层输出的时序位置编码数据包括Query、Key、Value序列，所述第一自注意力网络模块生成稀疏概率自注意力输出的方法包括：

对每个时序片刻的Query随机采样其他时序片刻对应的Key部分，所述采样个数为M；

采用如下公式计算每个Query的M个采样key对应的稀疏性分数，

其中，qi为第i个时间片刻的Query，j第i个时间片刻以外的其他时间片刻，k为除第i个时间片刻以外的所有其他时间片刻对应的Key部分，k^T为k的转置形式，d为自注意力通道数量，L为序列长度；

选择稀疏性分数最高的N个时序片刻的Query，采用如下公式计算所述N个时序片刻的Query与所有时间片刻对应的Key的点积结果，

其中，softmax为交叉熵函数，Q、K、V分别对应变换获得的Query、Key、Value序列矩阵；

采用如下公式计算所述N个时序片刻的Query的自注意力结果，

计算剩余L-N个时序片刻的Query的自注意力的均值，作为所述剩余L-N个时序片刻的Query的自注意力结果；

将所述N个时序片刻的Query的自注意力结果和所述剩余L-N个时序片刻的Query的自注意力结果合并，作为稀疏概率自注意力输出。

在本申请的一个实施例中，所述预测单元330具体用于：

确定预测时间点前指定时间窗口长度数据编码和预测时间点后指定时间窗口长度数据编码，记为L’；

通过所述第二注意力网络模块获得自注意力序列Z_dec-mask，将所述自注意力序列Z_dec-mask与所述嵌入层卷积变换模块输出的卷积变换序列Z_dec-glu进行拼接；

将拼接后的序列与所述编码层输出的处理结果V”、K”通过所述mask注意力网络模块进行稀疏自注意力计算，获得联合注意力；

使用如下损失函数和Adam优化器对所述负荷预测模型进行迭代训练，

Loss＝∑L1_s(Gt,Zt)，

其中，Gt为训练数据ground ture序列，Zt为预测序列；所述迭代训练采用step bystep步进模式，即预测出一个时序片刻值后，将其加进编码层输入，填补原未知的对应时间片刻数据，预测以下个时间片刻结果；

获得预测序列Zt。

能够理解，上述电动汽车充电需求预测装置，能够实现前述实施例中提供的由电动汽车充电需求预测服务器执行的电动汽车充电需求预测方法的各个步骤，关于电动汽车充电需求预测的相关阐释均适用于电动汽车充电需求预测装置，此处不再赘述。

图4是本申请的一个实施例电子设备的结构示意图。请参考图4，在硬件层面，该电子设备包括处理器，可选地还包括内部总线、网络接口、存储器。其中，存储器可能包含内存，例如高速随机存取存储器(Random-Access Memory，RAM)，也可能还包括非易失性存储器(non-volatile memory)，例如至少1个磁盘存储器等。当然，该电子设备还可能包括其他业务所需要的硬件。

处理器、网络接口和存储器可以通过内部总线相互连接，该内部总线可以是ISA(Industry Standard Architecture，工业标准体系结构)总线、PCI(PeripheralComponent Interconnect，外设部件互连标准)总线或EISA(Extended Industry StandardArchitecture，扩展工业标准结构)总线等。所述总线可以分为地址总线、数据总线、控制总线等。为便于表示，图4中仅用一个双向箭头表示，但并不表示仅有一根总线或一种类型的总线。

存储器，用于存放程序。具体地，程序可以包括程序代码，所述程序代码包括计算机操作指令。存储器可以包括内存和非易失性存储器，并向处理器提供指令和数据。

处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行，在逻辑层面上形成电动汽车充电需求预测装置。处理器，执行存储器所存放的程序，并具体用于执行以下操作：

构建测试数据集；

通过所述测试数据集对负荷预测模型进行训练；

将所述测试数据集输入训练后的负荷预测模型，获得预测结果。

上述如本申请图3所示实施例揭示的电动汽车充电需求预测装置执行的方法可以应用于处理器中，或者由处理器实现。处理器可能是一种集成电路芯片，具有信号的处理能力。在实现过程中，上述方法的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器可以是通用处理器，包括中央处理器(Central ProcessingUnit，CPU)、网络处理器(Network Processor，NP)等；还可以是数字信号处理器(DigitalSignal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(Field－Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本申请实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本申请实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成，或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器，闪存、只读存储器，可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器，处理器读取存储器中的信息，结合其硬件完成上述方法的步骤。

该电子设备还可执行图3中电动汽车充电需求预测装置执行的方法，并实现电动汽车充电需求预测装置在图3所示实施例的功能，本申请实施例在此不再赘述。

本申请实施例还提出了一种计算机可读存储介质，该计算机可读存储介质存储一个或多个程序，该一个或多个程序包括指令，该指令当被包括多个应用程序的电子设备执行时，能够使该电子设备执行图1所示实施例中电动汽车充电需求预测装置执行的方法，并具体用于执行：

构建测试数据集；

通过所述测试数据集对负荷预测模型进行训练；

将所述测试数据集输入训练后的负荷预测模型，获得预测结果。

本领域内的技术人员应明白，本发明的实施例可提供为方法、系统、或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

在一个典型的配置中，计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。

内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。

计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。

还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。

本领域技术人员应明白，本申请的实施例可提供为方法、系统或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

以上所述仅为本申请的实施例而已，并不用于限制本申请。对于本领域技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本申请的权利要求范围之内。

Claims (10)

1.一种电动汽车充电需求预测方法，应用于电动汽车充电需求预测服务器，其特征在于，所述方法包括：

构建测试数据集；

通过所述测试数据集对负荷预测模型进行训练；

将所述测试数据集输入训练后的负荷预测模型，获得预测结果。

2.根据权利要求1所述的电动汽车充电需求预测方法，其特征在于：所述测试数据集中的数据按照所期望的预测时间周期切分，包括以下维度：历史车流量数据、历史充电需求数据、地区分时电价数据、是否节假日数据、温度数据、储能运行状态数据、充电站点所处经纬度、季节、天气、是否存在运营补贴。

3.根据权利要求1所述的电动汽车充电需求预测方法，其特征在于：所述负荷预测模型包括嵌入层、编码层和解码层；其中，

所述嵌入层包括卷积模块、位置编码器和时间编码器，用于对输入的测试数据集进行线性变换和时序信息拼接，生成时序位置编码数据；

所述编码层包括两条支路，其中，第一支路包括第一概率稀疏自注意力网络模块，用于长周期的注意力构建和分配；第二支路包括门控线性激活单元、卷积模块和全连接模块，用于输入数据指定时间周期内局部关联信息的提取；所述编码层用于对嵌入层输出的数据进行并行处理，获得Query、Key、Value查询序列矩阵以及自注意力输出Z1”、Z2”；并将所述处理结果拼接后送入全连接层并输出；

所述解码层包括mask稀疏自注意力网络模块和第二自注意力网络模块，用于根据所述嵌入层和编码层输出获得联合注意力序列，并根据所述联合注意力序列获得预测结果；其中，所述第二自注意力网络模块和所述编码层的第一自注意力网络模块的结构相同。

4.根据权利要求3所述的电动汽车充电需求预测方法，其特征在于：所述嵌入层还用于：

对所述线性变换和时序信息拼接后生成的数据，进行数据增强；

将所述线性变换和时序信息拼接后生成的数据和进行数据增强后生成的数据，作为所述嵌入层输出的数据，送入所述编码层；

其中，所述数据增强采用如下方法之一：

方法一：

在一个时间周期内，按照维度对数据进行拆分；

针对拆分后的一个或多个维度数据，将其部分或全部内容替换为其数值限定范围内的随机数值；

将替换后的维度数据组合为原始数据格式；

方法二：

在一个时间周期内，在数据中确定一个或多个切片；

随机截取其他时间周期内相同长度的一个或多个切片；

将所述其他时间周期内相同长度的一个或多个切片覆盖所述本数据中确定的一个或多个切片。

5.根据权利要求4所述的电动汽车充电需求预测方法，其特征在于：所述通过所述测试数据集对负荷预测模型进行训练，包括：

通过Adam优化器，对所述嵌入层和编码层的输出进行自监督对比学习训练；

通过Adam优化器，对所述负荷预测模型的输出进行训练。

6.根据权利要求5所述的电动汽车充电需求预测方法，其特征在于：所述通过Adam优化器，对所述嵌入层和编码层的输出进行自监督对比学习训练，包括：

计算总损失L_total，

将所述总损失L_total发送至所述嵌入层的卷积模块，更新所述卷积模块的参数；

其中，所述总损失L_total通过以下公式获得：

L_total＝L₁+L₂，

其中，Z₁、Z₂分别为所述嵌入层输出的所述线性变换和时序信息拼接后生成的数据和进行数据增强后生成的数据，所述P₁、P₂为所述编码层处理过程中所述第一支路和第二支路输出且尚未进入所述全链接模块的数据，所述‖…‖₂表示二范数。

7.根据权利要求6所述的电动汽车充电需求预测方法，其特征在于：所述嵌入层输出的时序位置编码数据包括Query、Key、Value序列，所述第一自注意力网络模块生成稀疏概率自注意力输出的方法包括：

对每个时序片刻的Query随机采样其他时序片刻对应的Key部分，所述采样个数为M；

采用如下公式计算每个Query的M个采样key对应的稀疏性分数，

其中，q_i为第i个时间片刻的Query，j第i个时间片刻以外的其他时间片刻，k为除第i个时间片刻以外的所有其他时间片刻对应的Key部分，k^T为k的转置形式，d为自注意力通道数量，L为序列长度；

选择稀疏性分数最高的N个时序片刻的Query，采用如下公式计算所述N个时序片刻的Query与所有时间片刻对应的Key的点积结果，

其中，softmax为交叉熵函数，Q、K、V分别对应变换获得的Query、Key、Value序列矩阵；

采用如下公式计算所述N个时序片刻的Query的自注意力结果，

计算剩余L-N个时序片刻的Query的自注意力的均值，作为所述剩余L-N个时序片刻的Query的自注意力结果；

将所述N个时序片刻的Query的自注意力结果和所述剩余L-N个时序片刻的Query的自注意力结果合并，作为稀疏概率自注意力输出。

8.根据权利要求7所述的电动汽车充电需求预测方法，其特征在于：所述解码层获得预测结果的方法包括：

确定预测时间点前指定时间窗口长度数据编码和预测时间点后指定时间窗口长度数据编码，记为L’；

通过所述第二注意力网络模块获得自注意力序列Z_dec-mask，将所述自注意力序列Z_dec-mask与所述嵌入层卷积变换模块输出的卷积变换序列Z_dec-glu进行拼接；

将拼接后的序列与所述编码层输出的处理结果V”、K”通过所述mask注意力网络模块进行稀疏自注意力计算，获得联合注意力；

使用如下损失函数和Adam优化器对所述负荷预测模型进行迭代训练，

Loss＝∑L1_s(Gt,Zt)，

其中，Gt为训练数据ground ture序列，Zt为预测序列；所述迭代训练采用step bystep步进模式，即预测出一个时序片刻值后，将其加进编码层输入，填补原未知的对应时间片刻数据，预测以下个时间片刻结果；

获得预测序列Zt。

9.一种电动汽车充电需求预测装置，应用于电动汽车充电需求预测服务器，其中，所述装置用于实现权利要求1～8之任一所述方法。

10.一种电子设备，包括：

处理器；以及

被安排成存储计算机可执行指令的存储器，所述可执行指令在被执行时使所述处理器执行所述权利要求1～8之任一所述方法。

Images