CN108009632A - 对抗式时空大数据预测方法 - Google Patents

对抗式时空大数据预测方法 Download PDF

Info

Publication number
CN108009632A
CN108009632A CN201711342473.XA CN201711342473A CN108009632A CN 108009632 A CN108009632 A CN 108009632A CN 201711342473 A CN201711342473 A CN 201711342473A CN 108009632 A CN108009632 A CN 108009632A
Authority
CN
China
Prior art keywords
time
space serial
space
fallout predictor
arbiter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201711342473.XA
Other languages
English (en)
Inventor
龙明盛
王建民
王韫博
黄向东
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tsinghua University
Original Assignee
Tsinghua University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tsinghua University filed Critical Tsinghua University
Priority to CN201711342473.XA priority Critical patent/CN108009632A/zh
Publication of CN108009632A publication Critical patent/CN108009632A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明提供一种对抗式时空大数据预测方法，包括：将时空序列输入训练好的对抗式卷积递归神经网络模型，获取预测结果；所述对抗式卷积递归神经网络模型由预测器和判别器构成，所述判别器为卷积神经网络；所述预测器用于根据输入所述预测器的时空序列输出预测时空序列，所述预测器用于根据输入所述判别器的时空序列输出真实性概率向量；所述模型应用所述真实性概率向量构建的损失函数进行训练。本发明提供的方法，基于对抗式卷积递归神经网络模型，应用判别器输出的真实性概率向量构建损失函数，更好的保留了预测值和真实值在结构层面和语义层面的差距，使得时空数据的预测纹理更加清晰、结构更加完整、语义更加准确。

Description

对抗式时空大数据预测方法
技术领域
本发明涉及计算机数据分析技术领域，尤其涉及一种对抗式时空大数据预测方法。
背景技术
随着传感器网络、手持移动设备等的普遍应用，遥感卫星和地理信息系统等的显著进步，一种同时具有时间和空间维度的数据——时空数据，大量存在于金融、气象、环保、安防等领域。
目前，机器学习已经被成功应用于时序数据分析和时序信号处理领域，而如何准确预测大规模流式到来的高维时空序列数据，则成为了大数据背景下亟待解决的科学问题。
使用序列到序列(Seq2Seq)方法来预测时空序列时，得到的结果往往存在以下两个问题：一是预测结果的边缘不锐利，存在明显的羽化现象；二是语义丢失，即使预测结果在分布情况上与真实值相似，内容信息仍可能存在巨大差异。这些问题的出现很大程度上是由于传统方法单单使用预测序列和真实序列的均方误差作为损失函数，在判断预测值和真实值误差时仅能描述二者在像素分布上的差距，不能描述结构上或者语义上的差距。
发明内容
本发明为解决现有技术中存在的问题，提供了一种对抗式时空大数据预测方法。
一方面，本发明提出一种时空数据预测方法，包括：将时空序列输入训练好的对抗式卷积递归神经网络模型，获取预测结果；所述对抗式卷积递归神经网络模型由预测器和判别器构成，所述判别器为卷积神经网络；所述预测器用于根据输入所述预测器的时空序列输出预测时空序列，所述预测器用于根据输入所述判别器的时空序列输出真实性概率向量；所述模型应用所述真实性概率向量构建的损失函数进行训练。
优选地，所述对抗式卷积递归神经网络模型的训练方法包括：S1，将源时空序列输入所述预测器，获取预测时空序列；S2，将目标时空序列和预测目标时空序列分别输入所述判别器，对应获取所述目标时空序列的真实性概率向量和所述预测时空序列的真实性概率向量；所述目标时空序列为对应所述预测时空序列的真实值；S3，将所述目标时空序列的真实性概率向量和预测时空序列的真实性概率向量输入预测器损失函数和判别器损失函数，对应获取预测器损失值和判别器损失值；S4，对所述模型进行优化并重复步骤S1至S3，直至所述预测器损失值和判别器损失值满足预设条件。
优选地，所述判别器包括卷积部分和全连通部分；对应地，所述步骤S2进一步包括：将所述目标时空序列和预测时空序列分别输入所述卷积部分，对应输出目标张量和预测张量；将所述目标张量和预测张量经过扁平化层处理后分别输入所述全连通部分，对应输出独热码形式的所述目标时空序列的真实性概率向量和所述预测时空序列的真实性概率向量。
优选地，所述步骤S3中，所述判别器损失函数为：
式中，为所述判别器损失值；X为所述目标时空序列，为所述预测时空序列，D(X)为所述目标时空序列的真实性概率向量，为所述预测时空序列的真实性概率向量；EX～Pd[log(D(X))]为所述目标时空序列的真实性概率向量和[1,0]的交叉熵，为所述预测时空序列的真实性概率向量和[0,1]的交叉熵。
优选地，所述预测器损失函数为：
式中，为所述预测器损失值，为所述目标时空序列和预测时空序列的L2范数。
优选地，所述预测器由若干组预测单元构成，任一所述预测单元由若干层卷积长短时间记忆单元构成；其中，任一所述记忆单元接收前一组预测单元中同一层记忆单元的记忆，并向后一组预测单元中同一层记忆单元发送所述任一记忆单元的记忆；任一所述记忆单元的输入为同一组预测单元中的前一层记忆单元的输出。
优选地，当输入所述预测器的源时空序列长度为K时，则所述预测器的第m组预测单元的底层记忆单元的输入为输入所述预测器的时空序列中m时刻的空间数据，第K组预测单元的顶层记忆单元的输出为K+1时刻的空间数据预测值，m＝1,2，…，K；所述预测器第n组预测单元的底层记忆单元的输入为第n-1组预测单元的顶层记忆单元的输出，第n组预测单元的顶层记忆单元的输出为n+1时刻的空间数据预测值，n＝K+1，K+2，…，K+J-1，J为预先设定的预测时空序列长度。
优选地，所述步骤S4中，应用随机梯度下降反向传播算法，按照预先设定的学习速率策略对所述模型进行优化。
另一方面，本发明提出一种时空数据预测设备，包括：至少一个处理器；以及与所述处理器通信连接的至少一个存储器，其中：所述存储器存储有可被所述处理器执行的程序指令，所述处理器调用所述程序指令能够执行如前所述的方法。
又一方面，一种非暂态计算机可读存储介质，所述非暂态计算机可读存储介质存储计算机指令，所述计算机指令使所述计算机执行如前所述的方法。
本发明提供的对抗式时空大数据预测方法，基于对抗式卷积递归神经网络模型，应用判别器输出的真实性概率向量构建损失函数，更好的保留了预测值和真实值在结构层面和语义层面的差距，使得时空数据的预测纹理更加清晰、结构更加完整、语义更加准确。
附图说明
图1为本发明具体实施例的一种对抗式卷积递归神经网络模型的训练方法的流程示意图；
图2为本发明具体实施例的一种对抗式卷积递归神经网络模型的结构示意图；
图3为本发明具体实施例的一种对抗式卷积递归神经网络模型的训练方法的流程示意图；
图4为本发明具体实施例的一种时空数据预测设备的结构示意图。
具体实施方式
下面结合附图和实施例，对本发明的具体实施方式作进一步详细描述。以下实施例用于说明本发明，但不用来限制本发明的范围。
一种时空数据预测方法，包括：将时空序列输入训练好的对抗式卷积递归神经网络模型，获取预测结果；所述对抗式卷积递归神经网络模型由预测器和判别器构成，所述判别器为卷积神经网络；所述预测器用于根据输入所述预测器的时空序列输出预测时空序列，所述预测器用于根据输入所述判别器的时空序列输出真实性概率向量；所述模型应用所述真实性概率向量构建的损失函数进行训练。
具体地，为了实现大数据背景下高维时空序列数据的准确预测，基于机器学习技术，本发明具体实施例提出了一种基于对抗式卷积递归神经网络模型的时空数据预测方法：将时空序列输入训练好的对抗式卷积递归神经网络模型，获取预测结果。
进一步地，所述对抗式卷积递归神经网络模型由预测器和判别器两部分构成，所述判别器为卷积神经网络。其中，所述预测器用于根据输入序列获取预测时空序列，所述判别器用于甄别输入序列的真实性，并输出所述输入序列的真实性概率向量。应用所述判别器输出的真实性概率向量构建损失函数，应用所述损失函数对所述对抗式卷积递归神经网络模型进行训练。
所述卷积神经网络(Convolutional Neural Network)是一种前馈神经网络，是近年发展起来并引起广泛重视的一种高效识别方法。本发明具体实施例中，基于卷积神经网络在数据特征捕捉方面的优良性能，应用卷积神经网络作为判别器。
本发明具体实施例中，基于对抗式卷积递归神经网络模型，应用判别器输出的真实性概率向量构建损失函数，更好的保留了预测值和真实值在结构层面和语义层面的差距，使得时空数据的预测纹理更加清晰、结构更加完整、语义更加准确。
基于上述具体实施例，图1为本发明具体实施例的一种对抗式卷积递归神经网络模型的训练方法的流程示意图，如图1所示，所述对抗式卷积递归神经网络模型的训练方法包括：S1，将源时空序列输入所述预测器，获取预测时空序列；S2，将目标时空序列和预测目标时空序列分别输入所述判别器，对应获取所述目标时空序列的真实性概率向量和所述预测时空序列的真实性概率向量；所述目标时空序列为对应所述预测时空序列的真实值；S3，将所述目标时空序列的真实性概率向量和预测时空序列的真实性概率向量输入预测器损失函数和判别器损失函数，对应获取预测器损失值和判别器损失值；S4，对所述模型进行优化并重复步骤S1至S3，直至所述预测器损失值和判别器损失值满足预设条件。
参考图1，所述对抗式卷积递归神经网络模型的训练方法包括如下步骤：
首先，将用于训练所述模型的源时空序列输入所述模型的预测器中，获取预测器的输出，即预测时空序列。
其次，将所述源时空序列经过预测器获取的预测时空序列输入所述模型的判别器中，所述判别器对于输入的预测时空序列的真实性进行甄别，输出所述预测时空序列的真实性概率向量。
对应地，将目标时空序列输入所述模型的判别器中，所述判别器对于输入的目标时空序列的真实性进行甄别，输出所述目标时空序列的真实性概率向量。其中，所述预测时空序列为经由所述预测器输出的预测值，所述目标时空序列为对应所述预测时空序列的真实值。
然后，将所述目标时空序列的真实性概率向量和预测时空序列的真实性概率向量输入预测器损失函数，获取预测器损失值；将所述目标时空序列的真实性概率向量和预测时空序列的真实性概率向量输入判别器损失函数，获取判别器损失值；所述预测器损失函数和判别器损失函数用于表征所述预测器输出的预测时空序列能否在判别过程中获取与目标时空序列相同的真实性判别结果。
最后，基于当前所述预测器损失值和判别器损失值判断所述模型是否完成训练，如果当前所述预测器损失值和判别器损失值满足预设条件，则认为所述模型已经完成训练；否则，对所述模型进行优化，并重复上述步骤以获取所述预测器损失值和判别器损失值，对优化后的模型再次进行判断。
本发明具体实施例中，基于对抗式卷积递归神经网络模型，应用判别器输出的真实性概率向量构建损失函数，更好的保留了预测值和真实值在结构层面和语义层面的差距，使得时空数据的预测纹理更加清晰、结构更加完整、语义更加准确。
基于上述任一具体实施例，一种时空数据预测方法，所述判别器包括卷积部分和全连通部分；对应地，所述步骤S2进一步包括：将所述目标时空序列和预测时空序列分别输入所述卷积部分，对应输出目标张量和预测张量；将所述目标张量和预测张量经过扁平化层处理后分别输入所述全连通部分，对应输出独热码形式的所述目标时空序列的真实性概率向量和所述预测时空序列的真实性概率向量。
具体地，基于卷积神经网络在数据特征捕捉方面的优良性能，应用卷积神经网络作为判别器，本发明具体实施例中，所述判别器用于甄别输入序列的真实性，所述判别器包括卷积部分和全连接部分，所述卷积部分用于对输入所述判别器的时空序列进行特征提取，所述全连接部分用于根据所述卷积部分提取的特征对输入所述判别器的时空序列进行分类。
对应地，所述步骤S2进一步包括：
首先，将所述源时空序列经过预测器获取的预测时空序列输入所述判别器的卷积部分，所述卷积部分对于输入的预测时空序列的特征进行提取，输出所述预测时空序列对应的预测张量。
同理，将所述目标时空序列输入所述判别器的卷积部分，所述卷积部分对于输入的目标时空序列的特征进行提取，输出所述目标时空序列对应的目标张量。
随后，将所述卷积部分输出的预测张量和目标张量进行扁平化层处理，并将经过扁平化层处理的预测张量输入所述判别器的全连接部分，所述全连接部分用于根据预测张量对输入所述判别器的预测时空序列进行分类，输出独热码形式的所述预测时空序列的真实性概率向量。所述真实性概率向量中包括两个元素，分别表示所述判别器认为输入的时空序列为真实值的概率和输入的时空序列为预测值的概率。
同理，将经过扁平化层处理的目标张量输入所述判别器的全连接部分，所述全连接部分用于根据目标张量对输入所述判别器的目标时空序列进行分类，输出独热码形式的所述目标时空序列的真实性概率向量。
本发明具体实施例中提出了所述判别器的结构和对输入时空序列的真实性进行判断的方法，卷积神经网络的应用为更好的保留了预测值和真实值在结构层面和语义层面的差距提供了可能。
基于上述任一具体实施例，一种时空数据预测方法，所述步骤S3中，所述判别器损失函数为：
式中，为所述判别器损失值；X为所述目标时空序列，为所述预测时空序列，D(X)为所述目标时空序列的真实性概率向量，为所述预测时空序列的真实性概率向量；EX～Pd[log(D(X))]为所述目标时空序列的真实性概率向量和[1,0]的交叉熵，为所述预测时空序列的真实性概率向量和[0,1]的交叉熵。
具体地，所述判别器损失函数中，EX～Pd[log(D(X))]用于表征所述目标时空序列的真实性概率和所述目标时空序列的实际真实性概率[1,0]的交叉熵，其中所述目标时空序列的实际真实性概率[1,0]表示输入的目标时空序列为真实值的概率为1，输入的目标时空序列为预测值的概率为0。
用于表征所述预测时空序列的真实性概率和所述预测时空序列的实际真实性概率[0,1]的交叉熵，其中所述目标时空序列的实际真实性概率[0,1]表示输入的目标时空序列为真实值的概率为0，输入的目标时空序列为预测值的概率为1。
进一步地，所述预测器损失函数为：
式中，为所述预测器损失值，为所述目标时空序列和预测时空序列的L2范数。
具体地，所述预测器的损失值为所述目标时空序列和预测时空序列的L2范数和所述判别器损失值的差。所述目标时空序列和预测时空序列的L2范数是目标时空序列和预测时空序列差的向量中各个元素平方和的1/2次方。
本发明具体实施例中，应用卷积神经网络输出的熵函数来表征预测时空序列和目标时空序列的差距，更好的保留了预测时空序列和目标时空序列在结构层面和语义层面的差距，有助于提高预测结果的精确度。
基于上述任一具体实施例，一种时空数据预测方法，所述预测器由若干组预测单元构成，任一所述预测单元由若干层卷积长短时间记忆单元构成；其中，任一所述记忆单元接收前一组预测单元中同一层记忆单元的记忆，并向后一组预测单元中同一层记忆单元发送所述任一记忆单元的记忆；任一所述记忆单元的输入为同一组预测单元中的前一层记忆单元的输出。
具体地，所述预测器有若干组预测单元构成，任一所述预测单元由若干层所述记忆单元构成，每一所述预测单元用于预测一个时刻的空间数据。
所述记忆单元以矩阵的形式排列，每行为一层记忆单元，每列为一组预测单元。其中，任一所述记忆单元能够接收前一组预测单元中同一层记忆单元的记忆，即所述任一记忆单元上一时刻的卷积记忆状态；同理，任一所述记忆单元还能够想后一组预测单元中同一层记忆单元发送所述任一记忆单元的记忆，即向下一时刻输送当前时刻的卷积记忆状态。由上可知，同一层的记忆单元间共享卷积记忆状态。此外，任一所述记忆单元的输入为同一组预测单元中前一层记忆单元的输出，同一预测单元中的记忆单元对初始输入值进行递归卷积。
本发明具体实施例提出了预测器的具体结构，通过同一层记忆单元之间的参数的共享，实现高精度的空间数据预测。
基于上述任一具体实施例，一种时空数据预测方法，当输入所述预测器的源时空序列长度为K时，则所述预测器的第m组预测单元的底层记忆单元的输入为输入所述预测器的时空序列中m时刻的空间数据，第K组预测单元的顶层记忆单元的输出为K+1时刻的空间数据预测值，m＝1,2，…，K；所述预测器第n组预测单元的底层记忆单元的输入为第n-1组预测单元的顶层记忆单元的输出，第n组预测单元的顶层记忆单元的输出为n+1时刻的空间数据预测值，n＝K+1，K+2，…，K+J-1，J为预先设定的预测时空序列长度。
具体地，当输入所述预测器的时空序列长度为K时，所述预测器中第1至K组预测单元的底层记忆单元的输入分别对应所述输入预测器的源时空序列的第1至K时刻的空间数据。例如，所述源时空序列的m时刻的空间数据对应输入所述预测器的第m组预测单元中的底层记忆单元，其中，m＝1,2，…，K。所述预测器第K组预测单元的输入为所述源时空序列中最后时刻即K时刻的空间数据，所述预测器第K组预测单元的顶层记忆单元的卷积输出为K+1时刻的空间数据预测值。
将所述预测器第K组预测单元的顶层记忆单元的卷积输出，即K+1时刻的空间数据预测值作为所述预测器第K+1组预测单元底层记忆单元的输入，所述预测器第K+1组预测单元顶层记忆单元输出下一个时刻即K+2时刻的空间数据预测值。随后，将所述预测器第K+1组预测单元的输出，即K+2个时刻的空间数据预测值作为第K+2组预测单元的输入，依照上述规则进行递归预测，将所述预测器中第K+1至K+J-1组预测单元中，任一预测单元的输出作为所述任一预测单元后一预测单元的输入。例如，所述预测器的第n组预测单元的底层记忆单元的输入为第n-1组预测单元的输出，即K+n时刻的空间数据预测值，所述第n组预测单元的顶层记忆单元的输出为K+n+1时刻的空间数据预测值，n＝K+1，K+2，…，K+J-1。由此，第K至第K+J-1组预测单元共输出J个时刻的空间数据预测值，即第K+1至K+J时刻的空间数据预测值，构成长度为J的预测时空序列。
基于上述任一具体实施例，一种时空数据预测方法，所述步骤S4中，应用随机梯度下降反向传播算法，按照预先设定的学习速率策略对所述模型进行优化。
具体地，梯度下降法(gradient descent)是一种最优化算法，常用于机器学习和人工智能当中用来递归性地逼近最小偏差模型。随机梯度下降法(Stochastic GradientDescent)仅选取一个样本来求取梯度，有效缩减了收敛时间。
反向传播算法(Backpropagation algorithm)是一种建立在梯度下降法的基础上，适用于多层神经元网络的学习算法。反向传播算法的学习过程由正向传播过程和反向传播过程组成。在正向传播过程中，输入信息通过输入层经隐含层，逐层处理并传向输出层。如果在输出层得不到期望的输出值，则取输出与期望的误差的平方和作为目标函数，转入反向传播，逐层求出目标函数对各神经元权值的偏导数，构成目标函数对权值向量的梯量，作为修改权值的依据，模型的学习在权值修改过程中完成。
本发明具体实施例中，通过应用随机梯度下降反向传播算法，按照预先设定的学习速率策略对所述对抗式卷积递归神经网络模型进行优化，以使得所述模型满足预设条件。
基于上述任一具体实施例，一种时空数据预测方法，将时空序列输入训练好的对抗式卷积递归神经网络模型，获取预测结果，进一步包括：将所述时空序列输入训练好的对抗式卷积递归神经网络模型中所述预测器中，获取预测时空序列，即预测结果。
具体地，所述训练好的对抗式卷积递归神经网络模型包括预测器和判别器两部分，在应用所述训练好的对抗式卷积递归神经网络模型对所述时空序列进行预测时，仅需将所述时空序列输入所述模型的预测器中，所述预测器根据输入的所述时空序列进行预测并输出预测时空序列，即预测结果。
为了更好地理解与应用本发明提出的一种时空数据预测方法，本发明进行以下示例，且本发明不仅局限于以下示例。
在对时空序列进行预测之前，首先对对抗式卷积递归神经网络模型进行训练：
图2为本发明具体实施例的一种对抗式卷积递归神经网络模型的结构示意图，图3为本发明具体实施例的一种对抗式卷积递归神经网络模型的训练方法的流程示意图，参考图2和图3，首先，将长度为m的源时空序列中t＝1至t＝m的空间数据依次输入预测器中对应t＝1至t＝m的预测单元的底层记忆单元中，所述第m组预测单元的顶层记忆单元输出t＝m+1的空间数据预测值。
将t＝m+1的空间数据预测值，输入预测器对应t＝m+1的预测单元底层记忆单元，所述底层记忆单元抽取编码器对应t＝m的预测单元的底层记忆单元的记忆，并将输出传递给同一预测单元上一层的记忆单元作为输入，所述预测单元中任一记忆单元抽取编码器对应t＝m的预测单元的同一层记忆单元的记忆，并将输出作为上一层记忆单元的输入，直至信息传递到所述预测单元的顶层记忆单元，输出t＝m+2的空间数据预测值。依照时序将前一预测单元输出的空间数据预测值输入预测器中下一预测单元，直至t＝m+n-1，预测器共输出n个空间数据预测值，即t＝m+1至t＝m+n的空间数据预测值，由此构成预测器输出的长度为n的预测时空序列。
其次，将所述预测时空序列输入所述判别器的卷积部分，所述卷积部分对于输入的预测时空序列的特征进行提取，输出所述预测时空序列对应的预测张量。同理，将所述目标时空序列输入所述判别器的卷积部分，所述卷积部分对于输入的目标时空序列的特征进行提取，输出所述目标时空序列对应的目标张量。
随后，将所述卷积部分输出的预测张量和目标张量进行扁平化层处理，并将经过扁平化层处理的预测张量输入所述判别器的全连接部分，所述全连接部分用于根据预测张量对输入所述判别器的预测时空序列进行分类，输出独热码形式的所述预测时空序列的真实性概率向量。同理，将经过扁平化层处理的目标张量输入所述判别器的全连接部分，所述全连接部分用于根据目标张量对输入所述判别器的目标时空序列进行分类，输出独热码形式的所述目标时空序列的真实性概率向量。
接着，将所述目标时空序列的真实性概率向量和预测时空序列的真实性概率向量输入预测器损失函数和判别器损失函数，获取预测器损失值和判别器损失值。其中，所述判别器损失函数为：
式中，为所述判别器损失值；X为所述目标时空序列，为所述预测时空序列，D(X)为所述目标时空序列的真实性概率向量，为所述预测时空序列的真实性概率向量；EX～Pd[log(D(X))]为所述目标时空序列的真实性概率向量和[1,0]的交叉熵，为所述预测时空序列的真实性概率向量和[0,1]的交叉熵。
所述预测器损失函数为：
式中，为所述预测器损失值，为所述目标时空序列和预测时空序列的L2范数。
最后，基于当前所述预测器损失值和判别器损失值判断所述模型是否完成训练，如果当前所述预测器损失值和判别器损失值满足预设条件，则认为所述模型已经完成训练；否则，应用随机梯度下降反向传播算法，按照预先设定的学习速率策略对所述模型进行优化，并重复上述步骤以获取所述预测器损失值和判别器损失值，对优化后的模型再次进行判断。
本示例中，基于对抗式卷积递归神经网络模型，应用判别器输出的真实性概率向量构建损失函数，更好的保留了预测值和真实值在结构层面和语义层面的差距，使得时空数据的预测纹理更加清晰、结构更加完整、语义更加准确。
图4为本发明具体实施例的一种时空数据预测设备的结构示意图，如图4所示，该设备包括：至少一个处理器401；以及与所述处理器401通信连接的至少一个存储器402，其中：所述存储器402存储有可被所述处理器401执行的程序指令，所述处理器401调用所述程序指令能够执行上述各实施例所提供的时空数据预测的方法，例如包括：将时空序列输入训练好的对抗式卷积递归神经网络模型，获取预测结果；所述对抗式卷积递归神经网络模型由预测器和判别器构成，所述判别器为卷积神经网络；所述预测器用于根据输入所述预测器的时空序列输出预测时空序列，所述预测器用于根据输入所述判别器的时空序列输出真实性概率向量；所述模型应用所述真实性概率向量构建的损失函数进行训练。
本发明实施例还提供一种非暂态计算机可读存储介质，该非暂态计算机可读存储介质存储计算机指令，该计算机指令使计算机执行对应实施例所提供的时空数据预测方法，例如包括：将时空序列输入训练好的对抗式卷积递归神经网络模型，获取预测结果；所述对抗式卷积递归神经网络模型由预测器和判别器构成，所述判别器为卷积神经网络；所述预测器用于根据输入所述预测器的时空序列输出预测时空序列，所述预测器用于根据输入所述判别器的时空序列输出真实性概率向量；所述模型应用所述真实性概率向量构建的损失函数进行训练。
最后，本申请的方法仅为较佳的实施方案，并非用于限定本发明的保护范围。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (10)

1.一种时空数据预测方法，其特征在于，包括：
将时空序列输入训练好的对抗式卷积递归神经网络模型，获取预测结果；
所述对抗式卷积递归神经网络模型由预测器和判别器构成，所述判别器为卷积神经网络；所述预测器用于根据输入所述预测器的时空序列输出预测时空序列，所述预测器用于根据输入所述判别器的时空序列输出真实性概率向量；所述模型应用所述真实性概率向量构建的损失函数进行训练。
2.根据权利要求1所述的方法，其特征在于，所述对抗式卷积递归神经网络模型的训练方法包括：
S1，将源时空序列输入所述预测器，获取预测时空序列；
S2，将目标时空序列和所述预测目标时空序列分别输入所述判别器，对应获取所述目标时空序列的真实性概率向量和所述预测时空序列的真实性概率向量；所述目标时空序列为对应所述预测时空序列的真实值；
S3，将所述目标时空序列的真实性概率向量和预测时空序列的真实性概率向量输入预测器损失函数和判别器损失函数，对应获取预测器损失值和判别器损失值；
S4，对所述模型进行优化并重复步骤S1至S3，直至所述预测器损失值和判别器损失值满足预设条件。
3.根据权利要求2所述的方法，其特征在于，所述判别器包括卷积部分和全连通部分；
对应地，所述步骤S2进一步包括：
将所述目标时空序列和预测时空序列分别输入所述卷积部分，对应输出目标张量和预测张量；
将所述目标张量和预测张量经过扁平化层处理后分别输入所述全连通部分，对应输出独热码形式的所述目标时空序列的真实性概率向量和所述预测时空序列的真实性概率向量。
4.根据权利要求2所述的方法，其特征在于，所述步骤S3中，所述判别器损失函数为：
式中，为所述判别器损失值；X为所述目标时空序列，为所述预测时空序列，D(X)为所述目标时空序列的真实性概率向量，为所述预测时空序列的真实性概率向量；EX～Pd[log(D(X))]为所述目标时空序列的真实性概率向量和[1,0]的交叉熵，为所述预测时空序列的真实性概率向量和[0,1]的交叉熵。
5.根据权利要求2所述的方法，其特征在于，所述预测器损失函数为：
式中，为所述预测器损失值，为所述目标时空序列和预测时空序列的L2范数。
6.根据权利要求1所述的方法，其特征在于，所述预测器由若干组预测单元构成，任一所述预测单元由若干层卷积长短时间记忆单元构成；
其中，任一所述记忆单元接收前一组预测单元中同一层记忆单元的记忆，并向后一组预测单元中同一层记忆单元发送所述任一记忆单元的记忆；
任一所述记忆单元的输入为同一组预测单元中的前一层记忆单元的输出。
7.根据权利要求6所述的方法，其特征在于，当输入所述预测器的源时空序列长度为K时，则所述预测器的第m组预测单元的底层记忆单元的输入为输入所述预测器的时空序列中m时刻的空间数据，第K组预测单元的顶层记忆单元的输出为K+1时刻的空间数据预测值，m＝1,2，…，K；
所述预测器第n组预测单元的底层记忆单元的输入为第n-1组预测单元的顶层记忆单元的输出，第n组预测单元的顶层记忆单元的输出为n+1时刻的空间数据预测值，n＝K+1，K+2，…，K+J-1，J为预先设定的预测时空序列长度。
8.根据权利要求2所述的方法，其特征在于，所述步骤S4中，应用随机梯度下降反向传播算法，按照预先设定的学习速率策略对所述模型进行优化。
9.一种时空数据预测设备，其特征在于，包括：
至少一个处理器；以及与所述处理器通信连接的至少一个存储器，其中：所述存储器存储有可被所述处理器执行的程序指令，所述处理器调用所述程序指令能够执行如权利要求1至8任一所述的方法。
10.一种非暂态计算机可读存储介质，其特征在于，所述非暂态计算机可读存储介质存储计算机指令，所述计算机指令使所述计算机执行如权利要求1至8任一所述的方法。
CN201711342473.XA 2017-12-14 2017-12-14 对抗式时空大数据预测方法 Pending CN108009632A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201711342473.XA CN108009632A (zh) 2017-12-14 2017-12-14 对抗式时空大数据预测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201711342473.XA CN108009632A (zh) 2017-12-14 2017-12-14 对抗式时空大数据预测方法

Publications (1)

Publication Number Publication Date
CN108009632A true CN108009632A (zh) 2018-05-08

Family

ID=62059179

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201711342473.XA Pending CN108009632A (zh) 2017-12-14 2017-12-14 对抗式时空大数据预测方法

Country Status (1)

Country Link
CN (1) CN108009632A (zh)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109614744A (zh) * 2018-12-28 2019-04-12 华东交通大学 一种基于大数据的降水量检测方法及系统
CN109685097A (zh) * 2018-11-08 2019-04-26 银河水滴科技（北京）有限公司 一种基于gan的图像检测方法及装置
CN110070093A (zh) * 2019-04-08 2019-07-30 东南大学 一种基于对抗学习的远监督关系抽取去噪方法
CN111046027A (zh) * 2019-11-25 2020-04-21 北京百度网讯科技有限公司 时间序列数据的缺失值填充方法和装置
CN111402870A (zh) * 2019-01-02 2020-07-10 中国移动通信有限公司研究院 一种语音识别方法、装置及设备
CN112688746A (zh) * 2020-12-14 2021-04-20 中山大学 一种基于时空数据的频谱预测方法
CN112731567A (zh) * 2021-01-11 2021-04-30 河海大学 一种用于超高频微波的时空协同干湿增强判别方法
CN113112469A (zh) * 2021-04-06 2021-07-13 上海深至信息科技有限公司 一种b超图像选取方法及系统
WO2021189362A1 (zh) * 2020-03-26 2021-09-30 深圳先进技术研究院 基于多条件约束的时间序列数据生成方法、装置及介质

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109685097A (zh) * 2018-11-08 2019-04-26 银河水滴科技（北京）有限公司 一种基于gan的图像检测方法及装置
CN109614744A (zh) * 2018-12-28 2019-04-12 华东交通大学 一种基于大数据的降水量检测方法及系统
CN109614744B (zh) * 2018-12-28 2022-11-22 浙江理工大学 一种基于大数据的降水量检测方法及系统
CN111402870A (zh) * 2019-01-02 2020-07-10 中国移动通信有限公司研究院 一种语音识别方法、装置及设备
CN111402870B (zh) * 2019-01-02 2023-08-15 中国移动通信有限公司研究院 一种语音识别方法、装置及设备
CN110070093A (zh) * 2019-04-08 2019-07-30 东南大学 一种基于对抗学习的远监督关系抽取去噪方法
CN111046027A (zh) * 2019-11-25 2020-04-21 北京百度网讯科技有限公司 时间序列数据的缺失值填充方法和装置
WO2021189362A1 (zh) * 2020-03-26 2021-09-30 深圳先进技术研究院 基于多条件约束的时间序列数据生成方法、装置及介质
GB2606792A (en) * 2020-03-26 2022-11-23 Shenzhen Inst Adv Tech Time series data generation method and device based on multi-condition constraints, and medium
US11797372B2 (en) 2020-03-26 2023-10-24 Shenzhen Institutes Of Advanced Technology Method and apparatus for generating time series data based on multi-condition constraints, and medium
CN112688746A (zh) * 2020-12-14 2021-04-20 中山大学 一种基于时空数据的频谱预测方法
CN112731567B (zh) * 2021-01-11 2021-09-21 河海大学 一种用于超高频微波的时空协同干湿增强判别方法
CN112731567A (zh) * 2021-01-11 2021-04-30 河海大学 一种用于超高频微波的时空协同干湿增强判别方法
CN113112469A (zh) * 2021-04-06 2021-07-13 上海深至信息科技有限公司 一种b超图像选取方法及系统
CN113112469B (zh) * 2021-04-06 2023-04-28 上海深至信息科技有限公司 一种b超图像选取方法及系统

Similar Documents

Publication Publication Date Title
CN108009632A (zh) 对抗式时空大数据预测方法
CN109886444B (zh) 一种交通短时客流预测方法、装置、设备和存储介质
CN108197739A (zh) 一种城市轨道交通乘客流量预测方法
CN107992938B (zh) 基于正反卷积神经网络的时空大数据预测方法和系统
CN107403141A (zh) 人脸检测方法及装置、计算机可读存储介质、设备
CN107944550A (zh) 一种基于探测式深度网络的时空大数据预测方法
CN112053560B (zh) 基于神经网络的短时交通流量预测方法、系统和存储介质
CN104217258B (zh) 一种电力负荷条件密度预测方法
CN107832913A (zh) 基于深度学习的对监控数据趋势的预测方法及系统
CN109508789A (zh) 预测手牌的方法、存储介质、处理器以及设备
CN109685743A (zh) 基于噪声学习神经网络模型的图像混合噪声消除方法
CN104900063B (zh) 一种短程行驶时间预测方法
CN109840628A (zh) 一种短时多区域车速预测方法及系统
CN107945534A (zh) 一种基于gmdh神经网络的交通车流量预测方法
CN114021811B (zh) 基于注意力改进的交通预测方法及计算机介质
CN108182490A (zh) 一种大数据环境下的短期负荷预测方法
CN114548591B (zh) 一种基于混合深度学习模型和Stacking的时序数据预测方法及系统
CN109886342A (zh) 基于机器学习的模型训练方法和装置
CN106446506A (zh) 一种多方法组合的小卫星状态自主智能预测方法
CN116011684A (zh) 一种基于时空图卷积网络的交通流量预测方法
CN114584406B (zh) 一种联邦学习的工业大数据隐私保护系统及方法
Huo et al. A BP neural network predictor model for stock price
CN107038450A (zh) 基于深度学习的无人机警察系统
CN110782083A (zh) 基于深度Croston方法的航空发动机备用需求预测方法
CN106067075B (zh) 一种建筑用能负荷预测模型建立、负荷预测方法及其装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20180508