CN116091276A - 基于深度学习的长时间序列预测方法、装置、设备及介质 - Google Patents

基于深度学习的长时间序列预测方法、装置、设备及介质 Download PDF

Info

Publication number
CN116091276A
CN116091276A CN202211624511.1A CN202211624511A CN116091276A CN 116091276 A CN116091276 A CN 116091276A CN 202211624511 A CN202211624511 A CN 202211624511A CN 116091276 A CN116091276 A CN 116091276A
Authority
CN
China
Prior art keywords
time
time sequence
data
long
data sets
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202211624511.1A
Other languages
English (en)
Inventor
余晓填
王孝宇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Intellifusion Technologies Co Ltd
Original Assignee
Shenzhen Intellifusion Technologies Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Intellifusion Technologies Co Ltd filed Critical Shenzhen Intellifusion Technologies Co Ltd
Priority to CN202211624511.1A priority Critical patent/CN116091276A/zh
Publication of CN116091276A publication Critical patent/CN116091276A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services
    • G06Q50/26Government or public services
    • G06Q50/265Personal security, identity or safety
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/049Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Tourism & Hospitality (AREA)
  • Biophysics (AREA)
  • Computing Systems (AREA)
  • Molecular Biology (AREA)
  • Evolutionary Computation (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Economics (AREA)
  • General Business, Economics & Management (AREA)
  • Strategic Management (AREA)
  • Primary Health Care (AREA)
  • Marketing (AREA)
  • Human Resources & Organizations (AREA)
  • Educational Administration (AREA)
  • Development Economics (AREA)
  • Computer Security & Cryptography (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本申请涉及人工智能技术领域,尤其涉及一种基于深度学习的长时间序列预测方法、装置、设备及介质。该方法对获取的M个时间序列数据集进行相关性分析,确定任两个数据集间的相关性系数,根据相关性系数构建图结构数据,使用图卷积网络对图结构数据进行重表达,得到M个更新的数据集,使用自注意学习模型对M个更新的数据集进行特征提取并结合待预测的时间点个数,预测得到长时间序列。该方法基于图卷积网络与自注意学习模型结合来预测长时间序列,通过图卷积对多重序列的处理,得到了时间序列数据集之间的关系,丰富了数据的特征量,通过自注意学习可以在输入较短的数据里面进行自注意学习,充分挖掘数据的相关性,从而实现准确地长时间序列预测。

Description

基于深度学习的长时间序列预测方法、装置、设备及介质
技术领域
本申请涉及人工智能技术领域,尤其涉及一种基于深度学习的长时间序列预测方法、装置、设备及介质。
背景技术
时间序列预测是一项针对未来预测的关键技术,在指定场景的客流分析中,要求基于过去一段时间的客流,对未来一段时间的客流进行预测,在区域治安管理中,指定某个区域,要求基于历史一段时间区域的犯罪案件,对未来一段时间的犯罪案件数进行预测,从而输出区域的公共安全指数。
传统的时间序列是短时间序列预测,具体而言,预测所使用的的模型的输入数据序列长度长于该模型的输出数据序列的长度。由于短时间序列预测可以获取较长的输入数据,模型的训练和数据挖掘难度较低。常见的短时间序列预测包含均值回归模型,多阶差分回归模型等。传统的模型在实际应用时,存在超参难以确定和预测精度低的问题。
而对于长时间序列预测,预测所使用的模型的输入序列的长度短于该模型的输出数据序列的长度,进而导致模型的训练和数据挖掘难度较高。现有基于transformer模型来进行长时间序列的预测时,仅能够处理单序列数据,对于多重的序列数据而言,无法有效地学习到序列数据之间的关系,因而无法得到准确地训练信息,进而无法准确地预测长时间序列。因此,如何对多重的序列数据的信息提取以给出充分的序列特征,以提高基于该序列特征预测长时间序列的结果的准确率成为亟待解决的问题。
发明内容
有鉴于此,本申请实施例提供了一种基于深度学习的长时间序列预测方法、装置、设备及介质,以解决对多重的序列数据的信息提取以给出充分的序列特征,以提高基于该序列特征预测长时间序列的结果的准确率的问题。
第一方面,本申请实施例提供一种基于深度学习的长时间序列预测方法,所述长时间序列预测方法包括:
获取M个时间序列数据集,每个时间序列数据集均包含连续N个时间点对应的N个数据样本,M、N均为大于1的整数;
对所述M个时间序列数据集进行相关性分析,确定任两个时间序列数据集间的相关性系数;
以每个时间序列数据集为节点,根据所述相关性系数,构建具有连接关系的图结构数据,使用图卷积网络对所述图结构数据进行重表达,得到M个更新时间序列数据集,所述更新时间序列数据集中包括连续N个时间点对应的N个数据样本的重表达张量;
使用自注意学习模型对所述M个更新时间序列数据集进行特征提取,得到表征所述连续N个时间点的编码特征,根据所述连续N个时间点的编码特征,结合待预测的时间点个数,预测得到长时间序列,所述待预测的时间点个数至少为N+1个。
第二方面,本申请实施例提供一种基于深度学习的长时间序列预测装置,所述长时间序列预测装置包括:
数据获取模块,用于获取M个时间序列数据集,每个时间序列数据集均包含连续N个时间点对应的N个数据样本,M、N均为大于1的整数;
相关性分析模块,用于对所述M个时间序列数据集进行相关性分析,确定任两个时间序列数据集间的相关性系数;
图数据处理模块,用于以每个时间序列数据集为节点,根据所述相关性系数,构建具有连接关系的图结构数据,使用图卷积网络对所述图结构数据进行重表达,得到M个更新时间序列数据集,所述更新时间序列数据集中包括连续N个时间点对应的N个数据样本的重表达张量;
序列预测模块,用于使用自注意学习模型对所述M个更新时间序列数据集进行特征提取,得到表征所述连续N个时间点的编码特征,根据所述连续N个时间点的编码特征,结合待预测的时间点个数,预测得到长时间序列,所述待预测的时间点个数至少为N+1个。
第三方面,本申请实施例提供一种计算机设备,所述计算机设备包括处理器、存储器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如第一方面所述的长时间序列预测方法。
第四方面,本申请实施例提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如第一方面所述的长时间序列预测方法。
本申请实施例与现有技术相比存在的有益效果是:
获取M个时间序列数据集,每个时间序列数据集均包含连续N个时间点对应的N个数据样本,对所述M个时间序列数据集进行相关性分析,确定任两个时间序列数据集间的相关性系数,以每个时间序列数据集为节点,根据所述相关性系数,构建具有连接关系的图结构数据,使用图卷积网络对所述图结构数据进行重表达,得到M个更新时间序列数据集,使用自注意学习模型对所述M个更新时间序列数据集进行特征提取,得到表征所述连续N个时间点的编码特征,根据所述连续N个时间点的编码特征,结合待预测的时间点个数,预测得到长时间序列。其中,构建了图卷积网络与自注意学习模型结合的模型来预测长时间序列,通过图卷积网络对多重序列的处理,得到了时间序列数据集之间的关系,进一步丰富了数据的特征量,通过自注意学习模型可以在输入较短的数据里面进行自注意学习,充分挖掘数据的相关性,从而实现准确地长时间序列预测,本申请的方案极大地提升了模型对时间序列的适应性,有助于提高长时间序列预测的精准度。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例一提供的一种基于深度学习的长时间序列预测方法的一应用环境示意图;
图2是本申请实施例一提供的一种基于深度学习的长时间序列预测方法的流程示意图;
图3是本申请实施例二提供的一种基于深度学习的长时间序列预测方法的流程示意图;
图4是本申请实施例三提供的一种基于深度学习的长时间序列预测装置的结构示意图;
图5是本申请实施例四提供的一种计算机设备的结构示意图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、技术之类的具体细节,以便透彻理解本申请实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中,省略对众所周知的系统、装置、电路以及方法的详细说明,以免不必要的细节妨碍本申请的描述。
应当理解,当在本申请说明书和所附权利要求书中使用时,术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解,在本申请说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
如在本申请说明书和所附权利要求书中所使用的那样,术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地,短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
另外,在本申请说明书和所附权利要求书的描述中,术语“第一”、“第二”、“第三”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
在本申请说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本申请的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此,在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例,而是意味着“一个或多个但不是所有的实施例”,除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”,除非是以其他方式另外特别强调。
本申请实施例可以基于人工智能技术对相关的数据进行获取和处理。其中,人工智能(Artificial Intelligence,AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
应理解,以下实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本申请实施例的实施过程构成任何限定。
为了说明本申请的技术方案,下面通过具体实施例来进行说明。
本申请实施例一提供的一种基于深度学习的长时间序列预测方法,可应用在如图1的应用环境中,其中,客户端与服务端进行通信。其中,客户端包括但不限于掌上电脑、桌上型计算机、笔记本电脑、超级移动个人计算机(ultra-mobile personal computer,UMPC)、上网本、云端终端设备、个人数字助理(personal digital assistant,PDA)等计算机设备。服务端可以是独立的服务器,也可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、内容分发网络(ContentDelivery Network,CDN)、以及大数据和人工智能平台等基础云计算服务的云服务器。
参见图2,是本申请实施例一提供的一种基于深度学习的长时间序列预测方法的流程示意图,上述长时间序列预测方法可以应用于图1中的服务端,服务端对应的计算机设备连接客户端、数据库等,以获取相应的数据。该服务端运行上述的长时间序列预测方法可以应用于天气预测、道路拥堵预测、车站客流预测等有预测需求的场景下,服务端基于相应地请求开始对相应的数据进行处理,以给出处理结论也即是长时间预测序列,例如,在车站客流预测的场景下,首先由相应地客户端或者数据库提供针对一车站的历史客流数据和需要预测的时间点,其次,服务端获取到这部分历史客流数据和需要预测的时间点后进行相应处理,得到该需要预测的时间点的预测数据,最后,将该预测数据反馈至触发预测请求的用户,其中,具体的数据格式、预测过程等在下文中详述。
如图2所示,该长时间序列预测方法可以包括以下步骤:
步骤S201,获取M个时间序列数据集。
本申请中,上述的每个时间序列数据集均包含连续N个时间点对应的N个数据样本,M、N均为大于1的整数。
一个时间序列数据集中包含N个数据样本,每个数据样本具有对应的时间戳,该时间戳可以为一个一个的时间点,例如,一天的24小时内,分为8个时间点,从0时开始至24时,每个三个小时为一个时间点,即0时、3时、6时、……、21时、24时,如果所有的时间序列数据集中时间戳均依次分布,则该时间戳可以通过数据样本的前后顺序的顺序标号进行表征。
如果给定一个时间序列数据XT=[x1,x2,…,xT],其中,变量右下标表示时间戳,x1,x2,…,xT即为对应的数据样本,时间序列预测任务要求模型预测一组未来时间的数据YT+P=[yT+1,yT+2,…,yT+P],对于短时间序列预测,要求P≤T,对于长时间序列预测,要求P>T。显然,长时间序列预测难度比短时间序列预测大,因为长时间序列预测的输入短于输出,对数据挖掘分析的要求更高。例如,基于过去三十天温度数据预测未来一天的温度,基于历史二十年的区域人口数量预测未来五年该区域人口数量等均为常见的短时间序列预测,而基于某个区域过去三天客流预测该区域未来七天的客流等即为长时间序列预测。长时间序列预测常应用于数据分布不稳定或者数据有限的场景。
步骤S202,对所述M个时间序列数据集进行相关性分析,确定任两个时间序列数据集间的相关性系数。
本申请中,上述相关性分析为针对时间序列数据集所进行的分析,也即分析对象为两个时间序列,通常情况下,相关性是全局同步性的快照测量。因此,该相关性分析可以包括皮尔逊相关、时间滞后互相关、动态时间扭曲、瞬时相位同步等,具体可以根据这部分内容分析出两个时间序列的相关度。
其中,皮尔逊相关可以衡量两个连续信号如何随时间共同变化,并且可以以数字-1(负相关)、0(不相关)和1(完全相关)表示出它们之间的线性关系。但异常数据可能会干扰相关评估的结果,且需要两个数据是同方差的,即数据方差在整个数据范围内都是同质的。时间滞后互相关可以定义两个信号之间的方向性,例如,引导-追随关系,在这种关系中,引导信号会初始化一个响应,追随信号则重复它。动态时间扭曲是一种计算两信号间路径的方法,它能最小化两信号之间的距离,这种方法最大的优势就是他能处理不同长度的信号,但在本申请中处理的时间序列数据集为长度相同的信号。针对时间序列数据集为具有振荡特性(例如,脑电波、心电图等)的情况,可以测量瞬时相位同步,以两个信号间每一时刻的同步性来表达相关。
基于上述各种相关性分析,最终需要表达任意的两个时间序列数据集之间的关联、相似等隐藏的信息。
可选的是,对所述M个时间序列数据集进行相关性分析,确定任两个时间序列数据集间的相关性系数包括:
计算任两个时间序列数据集之间的相似度;
对所有的相似度进行归一化处理,得到每个相似度的归一化值;
确定任两个时间序列数据集间的相似度对应的归一化值为对应的相关性系数。
其中,相似度用于表征两个时间序列数据集的相似情况,包括数据样本随时间的变化趋势的趋势相似、数据样本的大小的数据相似等,将所有的时间序列数据集之间的相似情况量化为相似度,由于数据样本统计特性的差异(如方差、极值等),需要对量化得到的相似度进行归一化处理,以找到在M个时间序列数据集中均合理的相关性描述,即将归一化值作为任两个时间序列数据集的相关性系数。
在一实施方式中,可以基于皮尔逊相关、时间滞后互相关、动态时间扭曲、瞬时相位同步中至少一个来计算两个时间序列数据集之间的相似度,其中,采用多个计算相似度时需要根据时间序列数据集的特征配置相应的权重,以使得相似度的计算更加准确。
步骤S203,以每个时间序列数据集为节点,根据所述相关性系数,构建具有连接关系的图结构数据,使用图卷积网络对所述图结构数据进行重表达,得到M个更新时间序列数据集。
本申请中,图结构数据为一种节点以及节点的连接边构成的结构图,在本申请中,节点即为一个时间序列数据集,节点的特征即为时间序列数据集的特征,具体以时间序列数据集表达,节点连接边即为表征节点连接关系的量,具体大小由相关性系数决定,其中,两个时间序列数据集的相关性系数越高,对应两个节点的连接边越短,两个时间序列数据集的相关性系数越低,对应两个节点的连接边越长,在结构图中表现为相关性系数越高,两个节点挨得越近。
图卷积网络(Graph Convolutional Networks,GCN)的输入为图数据,能够分析图数据中的结构信息和节点信息,对于每个节点都要考虑其所有邻居节点以及其自身所包含的特征信息,从而构成每个节点的新的特征信息。
图卷积网络的层数表征了节点特征所能够到达的最远距离,针对一层的图卷积网络,每个节点只能够得到其一阶的邻居节点的信息,针对二层的图卷积网络,每个节点能够得到其一阶的邻居节点的信息,以及其邻居节点的邻居节点信息。
针对上述的图结构数据而言,目的是让每个节点均能够学习到其邻居节点的特征,从而对每个节点进行重表达,由于每个节点均为时间序列数据集,因而重表达后得到M个更新时间序列数据集。
本申请中,在进行重表达时,需要将重表达的更新时间序列数据集的维度与原维度一致,即时间点的个数相同,因此,所述更新时间序列数据集中包括连续N个时间点对应的N个数据样本的重表达张量。其中,通过设置图卷积网络中的参数即可实现维度的保持,避免更新时间序列数据集的失真。
举例说明,以客流量预测这一场景为例,获取某一个车站的过去三天内每天6时至18时之间每三个小时内的客流量,即可得到3个时间序列数据集,每个时间序列数据集中有4个客流量值,每个客流量值对应一个时间戳,即X1=[x11,x12,x13,x14]、X2=[x21,x22,x23,x24]、X3=[x31,x32,x33,x34],计算X1、X2、X3任两个之间的相关性系数,进而得到图结构数据,通过图卷积网络对图结构数据进行处理,输出更新的时间序列数据集为Y1=[y11,y12,y13,y14]、Y2=[y21,y22,y23,y24]、Y3=[y31,y32,y33,y34],其中,y为数据样本的重表达张量,表征为一向量值。
可选的是,以每个时间序列数据集为节点,根据所述相关性系数,构建具有连接关系的图结构数据包括:
以每个时间序列数据集为节点;
以任两个时间序列数据集间的相关性系数构建对应两个节点间的连接边,得到由节点和连接边构成的图结构数据。
其中,对于M个时间序列数据集包括:L1,L2,…,Lm,m表征第M个时间序列数据集,通过计算相关性系数,可以将相关性系数表征为相关性矩阵A∈Rm×m,Rm×m即为以m×m的矩阵。根据该矩阵,直接以相关性系数作为连接边的边长,即可形成图结构数据,即包含了多个时间序列数据集的信息,又包含了时间序列数据集之间的相似信息,无需采用其他复杂手法构建即可用于后续的图卷积网络,以挖掘进一步地特征,提高特征的数据量。
通过相关性系数,构建了多重序列的图结构数据,并构建图卷积网络对该图结构数据进行序列特征挖掘,从而学习时间序列数据集之间的关系,进一步丰富了数据的特征量。
步骤S204,使用自注意学习模型对所述M个更新时间序列数据集进行特征提取,得到表征所述连续N个时间点的编码特征,根据所述连续N个时间点的编码特征,结合待预测的时间点个数,预测得到长时间序列。
本申请中,自注意学习模型(Self-Attention Model)是基于自注意力机制构建的模型,例如,Informer模型,能够使用Transfomer方法解决长序列时间序列预测的问题。
该自注意学习模型的原理过程如下:
创建Query(q)向量,Key(k)向量和Value(v)向量;
基于Query(q)向量和Key(k)向量计算输入数据的自注意力分数;
调整自注意力分数幅值(也即训练过程);
使用softmax函数对自注意力分数进行激活操作;
激活操作后的分数与Value(v)向量进行相乘运算;
将相乘运算后的结果相加,生成新的向量。
即通过自注意学习模型对M个更新时间序列数据集进行特征提取,生成表征数据特征的向量,该向量即为表征连续N个时间点的编码特征。
本申请中,根据预测的需求,获取待预测的时间点个数,该待预测的时间点个数至少为N+1个,也即使用N个时间点的数据预测大于N个时间点的数据。在得到连续N个时间点的编码特征之后,对编码特征进行解码,以获取到N+1及以上个时间点的预测结果,即得到长时间序列数据。
可选的是,所述自注意学习模型包括三个训练好的参数矩阵;
使用自注意学习模型对所述M个更新时间序列数据集进行特征提取,得到表征所述连续N个时间点的编码特征包括:
将所述M个更新时间序列数据集排序后作为一个单列时间序列数据;
使用所述的三个训练好的参数矩阵分别对所述单列时间序列数据进行矩阵变换,得到每个参数矩阵对应的变换结果;
对所有的变换结果进行归一化,得到归一化的变换结果为表征所述连续N个时间点的编码特征。
其中,自注意学习模型中将上述Query(q)向量,Key(k)向量和Value(v)向量以矩阵的形式表达,即为三个参数矩阵:Wi Q,Wi K,Wi V
针对M个更新时间序列数据集排序后作为一个单列时间序列数据,可以表征为
Figure BDA0004003582380000101
其中,右下标表示T个时间戳,右上标表示第i个更新时间序列数据集,0<i<m,该自注意学习模型是通过矩阵变换,对
Figure BDA0004003582380000102
的数据特征进行学习。
上述参数矩阵的下标i表示第i层网络,对于H层的网络,有i=1,…,H。
使用上述参数矩阵进行矩阵变换,得到
Figure BDA0004003582380000103
Figure BDA0004003582380000104
自注意学习模型是通过如下实现的:
Figure BDA0004003582380000105
其中,d是参数矩阵Wi Q和Wi K列的维度,softmax(·)是向量归一化算子。参数矩阵都是在网络训练中可学的,而本申请为训练好的。
对于H层的网络,上一层的输出Oi为下一层的输入,因此,通过层级叠加,构建一个深度神经网络。
可选的是,所述自注意学习模型包括训练好的解码器;
根据所述连续N个时间点的编码特征,结合待预测的时间点个数,预测得到长时间序列包括:
使用所述解码器对所述连续N个时间点的编码特征进行解码,得到解码结果;
获取待预测的时间点个数;
对所述解码结果和所述待预测的时间点个数进行全链接输出,得到长时间序列。
其中,针对编码特征而言,需要使用相应的解码器进行解码,解码可以将编码特征中的相关特征进行整合,并按照待预测的时间点个数进行输出,从而达到预测长时间序列的结果。
可选的是,对所述解码结果和所述待预测的时间点个数进行全链接输出,得到长时间序列包括:
提取所述解码结果中表征所述连续N个时间点的数据趋势特征和数据周期特征;
根据待预测的时间点个数,构建时间轴;
根据所述数据趋势特征和所述数据周期特征,在所述时间轴上填充预测数据,得到长时间序列。
其中,本实施方式关注连续N个时间点的数据趋势特征和数据周期特征,根据两部分特征,预测得到预测值,根据待预测时间点个数构建的时间轴,将预测值对应填充,即可得到预测的序列,也即一长时间序列的预测结果。由于时间轴的长度是由时间点的个数决定的,采用时间轴填充数据的方式来构建序列,能够快速且有效地得到长时间序列。
举例说明,以上述的客流量预测这一场景为例,得到更新的时间序列数据集为Y1=[y11,y12,y13,y14]、Y2=[y21,y22,y23,y24]、Y3=[y31,y32,y33,y34]之后,使用Wi Q,Wi K,Wi V分别对Y1、Y2、Y3进行处理,得到4个时间点的编码特征,根对4个时间点的编码特征进行解码,得到4个时间点的数据趋势特征和数据周期特征,据此可以预测出新的4甚至多个时间点的数据值。
本申请有效利用了多重时间序列的信息对样本进行重表达,然后通过变换器网络(即由自注意学习模型构成的网络)对重表达的张量进行自注意学习,并最终对长时间序列进行预测。上述的模型需要使用一定数据量的训练样本进行训练,其中,训练上面的预测模型可以采用最小均方误差作为目标函数,在本申请为使用该预测模型进行长时间序列的预测,因而,预测模型中每个网络或者模型的参数均为训练好的。
本申请实施例构建了图卷积网络与自注意学习模型结合的模型来预测长时间序列,首先,获取M个时间序列数据集,对所述M个时间序列数据集进行相关性分析,确定任两个时间序列数据集间的相关性系数,以每个时间序列数据集为节点,根据所述相关性系数,构建具有连接关系的图结构数据,其次,使用图卷积网络对所述图结构数据进行重表达,得到M个更新时间序列数据集,从而通过图卷积网络对多重序列的处理,得到了时间序列数据集之间的关系,进一步丰富了数据的特征量,然后,使用自注意学习模型对所述M个更新时间序列数据集进行特征提取,得到表征所述连续N个时间点的编码特征,根据所述连续N个时间点的编码特征,结合待预测的时间点个数,预测得到长时间序列,从而通过自注意学习模型可以在输入较短的数据里面进行自注意学习,充分挖掘数据的相关性,从而实现准确地长时间序列预测,本申请实施例极大地提升了模型对时间序列的适应性,有助于提高长时间序列预测的精准度。
参见图3,是本申请实施例二提供的一种基于深度学习的长时间序列预测方法的流程示意图。如图3所示,该长时间序列预测方法包括以下步骤:
步骤S301,获取M个时间序列数据集。
步骤S302,对所述M个时间序列数据集进行相关性分析,确定任两个时间序列数据集间的相关性系数。
步骤S303,以每个时间序列数据集为节点,根据所述相关性系数,构建具有连接关系的图结构数据。
其中,步骤S301至步骤S303的内容与上述步骤S201至步骤S203的内容相同,具体可以参考步骤S201至步骤S203的表述,在此不再赘述。
步骤S304,将所述图结构数据输入所述第一卷积层,计算节点间的邻接矩阵,根据所述邻接矩阵、每个节点的特征和第一卷积层的网络参数,使用所述线性整流函数计算得到线性整流结果。
本申请中,所述图卷积网络包括第一卷积层和第二卷积层,所述第一卷积层的激励函数为线性整流函数,所述第二卷积层的激励函数为softmax函数。
使用第一卷积层对输入图结构数据进行处理,以获取邻接矩阵,即得到邻居节点的特征,将本节点、邻居节点的特征通过该层的网络参数进行融合,并使用线性整流函数进行处理,得到卷积结果即线性整流结果。
步骤S305,将所述线性整流结果和所述邻接矩阵输入所述第二卷积层,根据所述邻接矩阵、所述线性整流结果和所述第二卷积层的网络参数,使用softmax函数计算得到每个节点中对应数据样本的重表达张量。
本申请中,使用第二卷积层对输入的第一卷积层的卷积结果进行处理,以获取邻接矩阵,即得到邻居节点的特征,将本节点、邻居节点的特征通过该层的网络参数进行融合,并使用softmax函数进行处理,得到卷积结果即每个节点中数据样本的重表达张量。
构建两层图卷积网络如下,
Z=softmax(AReLU(AXW1)W2)
其中,ReLU(·)为向量线性截断算子,W1和W2是图卷积网络参数。值得注意的是,为了得到多重序列数据图卷积后的维度和原维度一致,我们设置网络参数的维度,使得Z∈Rm ×L
步骤S306,针对任一节点,确定所述节点中所有数据样本的重表达张量构成对应节点的时间序列数据集的更新时间序列数据集,得到M个更新时间序列数据集。
本申请中,使用重表达张量更新对应时间序列数据集中的数据样本,即可得到更新时间序列数据集。
步骤S307,使用自注意学习模型对所述M个更新时间序列数据集进行特征提取,得到表征所述连续N个时间点的编码特征,根据所述连续N个时间点的编码特征,结合待预测的时间点个数,预测得到长时间序列。
其中,步骤S307的内容与上述步骤S204的内容相同,具体可以参考步骤S204的表述,在此不再赘述。
以上两个部分的数据挖掘分析,在实际应用中,利用多重时间序列信息进行样本重表达,然后再对重表达的样本进行自注意学习。即,图卷积网络的输出Z作为自注意学习模型的输入。通过两层的图卷积网络和自注意学习模型构建的深度学习模型,同时学习单个时间序列的内在特性和多重时间序列的相关性,从而对长时间序列的预测更加有效。
对应于上文实施例的基于深度学习的长时间序列预测方法,图4示出了本申请实施例三提供的基于深度学习的长时间序列预测装置的结构框图,上述长时间序列预测装置应用于服务端,服务端对应的计算机设备连接客户端、数据库等,以获取相应的数据。该服务端运行上述的长时间序列预测方法可以应用于天气预测、道路拥堵预测、车站客流预测等有预测需求的场景下,服务端基于相应地请求开始对相应的数据进行处理,以给出处理结论也即是长时间预测序列,例如,在车站客流预测的场景下,首先由相应地客户端或者数据库提供针对一车站的历史客流数据和需要预测的时间点,其次,服务端获取到这部分历史客流数据和需要预测的时间点后进行相应处理,得到该需要预测的时间点的预测数据,最后,将该预测数据反馈至触发预测请求的用户。为了便于说明,仅示出了与本申请实施例相关的部分。
参见图4,该长时间序列预测装置包括:
数据获取模块41,用于获取M个时间序列数据集,每个时间序列数据集均包含连续N个时间点对应的N个数据样本,M、N均为大于1的整数;
相关性分析模块42,用于对所述M个时间序列数据集进行相关性分析,确定任两个时间序列数据集间的相关性系数;
图数据处理模块43,用于以每个时间序列数据集为节点,根据所述相关性系数,构建具有连接关系的图结构数据,使用图卷积网络对所述图结构数据进行重表达,得到M个更新时间序列数据集,所述更新时间序列数据集中包括连续N个时间点对应的N个数据样本的重表达张量;
序列预测模块44,用于使用自注意学习模型对所述M个更新时间序列数据集进行特征提取,得到表征所述连续N个时间点的编码特征,根据所述连续N个时间点的编码特征,结合待预测的时间点个数,预测得到长时间序列,所述待预测的时间点个数至少为N+1个。
可选的是,所述相关性分析模块42包括:
相似度计算单元,用于计算任两个时间序列数据集之间的相似度;
第一归一化单元,用于对所有的相似度进行归一化处理,得到每个相似度的归一化值;
相关性系数确定单元,用于确定任两个时间序列数据集间的相似度对应的归一化值为对应的相关性系数。
可选的是,所述图数据处理模块43包括:
节点构建单元,用于以每个时间序列数据集为节点;
连接边构建单元,用于以任两个时间序列数据集间的相关性系数构建对应两个节点间的连接边,得到由节点和连接边构成的图结构数据。
可选的是,所述图卷积网络包括第一卷积层和第二卷积层,所述第一卷积层的激励函数为线性整流函数,所述第二卷积层的激励函数为softmax函数;
所述图数据处理模块43包括:
第一卷积单元,用于将所述图结构数据输入所述第一卷积层,计算节点间的邻接矩阵,根据所述邻接矩阵、每个节点的特征和第一卷积层的网络参数,使用所述线性整流函数计算得到线性整流结果;
第二卷积单元,用于将所述线性整流结果和所述邻接矩阵输入所述第二卷积层,根据所述邻接矩阵、所述线性整流结果和所述第二卷积层的网络参数,使用softmax函数计算得到每个节点中对应数据样本的重表达张量;
数据集更新单元,用于针对任一节点,确定所述节点中所有数据样本的重表达张量构成对应节点的时间序列数据集的更新时间序列数据集,得到M个更新时间序列数据集。
可选的是,所述自注意学习模型包括三个训练好的参数矩阵;
所述序列预测模块44包括:
数据排序单元,用于将所述M个更新时间序列数据集排序后作为一个单列时间序列数据;
序列处理单元,用于使用所述的三个训练好的参数矩阵分别对所述单列时间序列数据进行矩阵变换,得到每个参数矩阵对应的变换结果;
第二归一化单元,用于对所有的变换结果进行归一化,得到归一化的变换结果为表征所述连续N个时间点的编码特征。
可选的是,所述自注意学习模型包括训练好的解码器;
所述序列预测模块44包括:
解码单元,用于使用所述解码器对所述连续N个时间点的编码特征进行解码,得到解码结果;
预测目标获取单元,用于获取待预测的时间点个数;
长时间序列输出单元,用于对所述解码结果和所述待预测的时间点个数进行全链接输出,得到长时间序列。
可选的是,所述长时间序列输出单元包括:
特征提取子单元,用于提取所述解码结果中表征所述连续N个时间点的数据趋势特征和数据周期特征;
时间轴构建子单元,用于根据待预测的时间点个数,构建时间轴;
长时间序列确定子单元,用于根据所述数据趋势特征和所述数据周期特征,在所述时间轴上填充预测数据,得到长时间序列。
需要说明的是,上述模块、单元、子单元之间的信息交互、执行过程等内容,由于与本申请方法实施例基于同一构思,其具体功能及带来的技术效果,具体可参见方法实施例部分,此处不再赘述。
图5为本申请实施例四提供的一种计算机设备的结构示意图。如图5所示,该实施例的计算机设备包括:至少一个处理器(图5中仅示出一个)、存储器以及存储在存储器中并可在至少一个处理器上运行的计算机程序,处理器执行计算机程序时实现上述任意各个长时间序列预测方法实施例中的步骤。
该计算机设备可包括,但不仅限于,处理器、存储器。本领域技术人员可以理解,图5仅仅是计算机设备的举例,并不构成对计算机设备的限定,计算机设备可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如还可以包括网络接口、显示屏和输入装置等。
所称处理器可以是CPU,该处理器还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific IntegratedCircuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
存储器包括可读存储介质、内存储器等,其中,内存储器可以是计算机设备的内存,内存储器为可读存储介质中的操作系统和计算机可读指令的运行提供环境。可读存储介质可以是计算机设备的硬盘,在另一些实施例中也可以是计算机设备的外部存储设备,例如,计算机设备上配备的插接式硬盘、智能存储卡(Smart Media Card,SMC)、安全数字(Secure Digital,SD)卡、闪存卡(Flash Card)等。进一步地,存储器还可以既包括计算机设备的内部存储单元也包括外部存储设备。存储器用于存储操作系统、应用程序、引导装载程序(BootLoader)、数据以及其他程序等,该其他程序如计算机程序的程序代码等。存储器还可以用于暂时地存储已经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。上述装置中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请实现上述实施例方法中的全部或部分流程,可以通过计算机程序来指令相关的硬件来完成,计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述方法实施例的步骤。其中,计算机程序包括计算机程序代码,计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。计算机可读介质至少可以包括:能够携带计算机程序代码的任何实体或装置、记录介质、计算机存储器、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、电载波信号、电信信号以及软件分发介质。例如U盘、移动硬盘、磁碟或者光盘等。在某些司法管辖区,根据立法和专利实践,计算机可读介质不可以是电载波信号和电信信号。
本申请实现上述实施例方法中的全部或部分流程,也可以通过一种计算机程序产品来完成,当计算机程序产品在计算机设备上运行时,使得计算机设备执行时实现可实现上述方法实施例中的步骤。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
在本申请所提供的实施例中,应该理解到,所揭露的装置/计算机设备和方法,可以通过其它的方式实现。例如,以上所描述的装置/计算机设备实施例仅仅是示意性的,例如,模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
以上实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围,均应包含在本申请的保护范围之内。

Claims (10)

1.一种基于深度学习的长时间序列预测方法,其特征在于,所述长时间序列预测方法包括:
获取M个时间序列数据集,每个时间序列数据集均包含连续N个时间点对应的N个数据样本,M、N均为大于1的整数;
对所述M个时间序列数据集进行相关性分析,确定任两个时间序列数据集间的相关性系数;
以每个时间序列数据集为节点,根据所述相关性系数,构建具有连接关系的图结构数据,使用图卷积网络对所述图结构数据进行重表达,得到M个更新时间序列数据集,所述更新时间序列数据集中包括连续N个时间点对应的N个数据样本的重表达张量;
使用自注意学习模型对所述M个更新时间序列数据集进行特征提取,得到表征所述连续N个时间点的编码特征,根据所述连续N个时间点的编码特征,结合待预测的时间点个数,预测得到长时间序列,所述待预测的时间点个数至少为N+1个。
2.根据权利要求1所述的长时间序列预测方法,其特征在于,对所述M个时间序列数据集进行相关性分析,确定任两个时间序列数据集间的相关性系数包括:
计算任两个时间序列数据集之间的相似度;
对所有的相似度进行归一化处理,得到每个相似度的归一化值;
确定任两个时间序列数据集间的相似度对应的归一化值为对应的相关性系数。
3.根据权利要求2所述的长时间序列预测方法,其特征在于,以每个时间序列数据集为节点,根据所述相关性系数,构建具有连接关系的图结构数据包括:
以每个时间序列数据集为节点;
以任两个时间序列数据集间的相关性系数构建对应两个节点间的连接边,得到由节点和连接边构成的图结构数据。
4.根据权利要求1所述的长时间序列预测方法,其特征在于,所述图卷积网络包括第一卷积层和第二卷积层,所述第一卷积层的激励函数为线性整流函数,所述第二卷积层的激励函数为softmax函数;
使用图卷积网络对所述图结构数据进行重表达,得到M个更新时间序列数据集包括:
将所述图结构数据输入所述第一卷积层,计算节点间的邻接矩阵,根据所述邻接矩阵、每个节点的特征和第一卷积层的网络参数,使用所述线性整流函数计算得到线性整流结果;
将所述线性整流结果和所述邻接矩阵输入所述第二卷积层,根据所述邻接矩阵、所述线性整流结果和所述第二卷积层的网络参数,使用softmax函数计算得到每个节点中对应数据样本的重表达张量;
针对任一节点,确定所述节点中所有数据样本的重表达张量构成对应节点的时间序列数据集的更新时间序列数据集,得到M个更新时间序列数据集。
5.根据权利要求1所述的长时间序列预测方法,其特征在于,所述自注意学习模型包括三个训练好的参数矩阵;
使用自注意学习模型对所述M个更新时间序列数据集进行特征提取,得到表征所述连续N个时间点的编码特征包括:
将所述M个更新时间序列数据集排序后作为一个单列时间序列数据;
使用所述的三个训练好的参数矩阵分别对所述单列时间序列数据进行矩阵变换,得到每个参数矩阵对应的变换结果;
对所有的变换结果进行归一化,得到归一化的变换结果为表征所述连续N个时间点的编码特征。
6.根据权利要求5所述的长时间序列预测方法,其特征在于,所述自注意学习模型包括训练好的解码器;
根据所述连续N个时间点的编码特征,结合待预测的时间点个数,预测得到长时间序列包括:
使用所述解码器对所述连续N个时间点的编码特征进行解码,得到解码结果;
获取待预测的时间点个数;
对所述解码结果和所述待预测的时间点个数进行全链接输出,得到长时间序列。
7.根据权利要求6所述的长时间序列预测方法,其特征在于,对所述解码结果和所述待预测的时间点个数进行全链接输出,得到长时间序列包括:
提取所述解码结果中表征所述连续N个时间点的数据趋势特征和数据周期特征;
根据待预测的时间点个数,构建时间轴;
根据所述数据趋势特征和所述数据周期特征,在所述时间轴上填充预测数据,得到长时间序列。
8.一种基于深度学习的长时间序列预测装置,其特征在于,所述长时间序列预测装置包括:
数据获取模块,用于获取M个时间序列数据集,每个时间序列数据集均包含连续N个时间点对应的N个数据样本,M、N均为大于1的整数;
相关性分析模块,用于对所述M个时间序列数据集进行相关性分析,确定任两个时间序列数据集间的相关性系数;
图数据处理模块,用于以每个时间序列数据集为节点,根据所述相关性系数,构建具有连接关系的图结构数据,使用图卷积网络对所述图结构数据进行重表达,得到M个更新时间序列数据集,所述更新时间序列数据集中包括连续N个时间点对应的N个数据样本的重表达张量;
序列预测模块,用于使用自注意学习模型对所述M个更新时间序列数据集进行特征提取,得到表征所述连续N个时间点的编码特征,根据所述连续N个时间点的编码特征,结合待预测的时间点个数,预测得到长时间序列,所述待预测的时间点个数至少为N+1个。
9.一种计算机设备,其特征在于,所述计算机设备包括处理器、存储器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述的长时间序列预测方法。
10.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的长时间序列预测方法。
CN202211624511.1A 2022-12-16 2022-12-16 基于深度学习的长时间序列预测方法、装置、设备及介质 Pending CN116091276A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211624511.1A CN116091276A (zh) 2022-12-16 2022-12-16 基于深度学习的长时间序列预测方法、装置、设备及介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211624511.1A CN116091276A (zh) 2022-12-16 2022-12-16 基于深度学习的长时间序列预测方法、装置、设备及介质

Publications (1)

Publication Number Publication Date
CN116091276A true CN116091276A (zh) 2023-05-09

Family

ID=86209398

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211624511.1A Pending CN116091276A (zh) 2022-12-16 2022-12-16 基于深度学习的长时间序列预测方法、装置、设备及介质

Country Status (1)

Country Link
CN (1) CN116091276A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116559681A (zh) * 2023-07-12 2023-08-08 安徽国麒科技有限公司 基于深度学习时序算法的退役电池容量预测方法和装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116559681A (zh) * 2023-07-12 2023-08-08 安徽国麒科技有限公司 基于深度学习时序算法的退役电池容量预测方法和装置

Similar Documents

Publication Publication Date Title
CN109508584B (zh) 视频分类的方法、信息处理的方法以及服务器
CN108427708B (zh) 数据处理方法、装置、存储介质和电子装置
CN109376222B (zh) 问答匹配度计算方法、问答自动匹配方法及装置
WO2019227716A1 (zh) 流感预测模型的生成方法、装置及计算机可读存储介质
CN110457672A (zh) 关键词确定方法、装置、电子设备及存储介质
CN111831901B (zh) 数据处理方法、装置、设备和存储介质
CN115034315B (zh) 基于人工智能的业务处理方法、装置、计算机设备及介质
CN112990530B (zh) 区域人口数量预测方法、装置、电子设备和存储介质
CN113223502B (zh) 语音识别系统优化方法、装置、设备及可读存储介质
CN114547267A (zh) 智能问答模型的生成方法、装置、计算设备和存储介质
CN110188158A (zh) 关键词及话题标签生成方法、装置、介质及电子设备
CN116091276A (zh) 基于深度学习的长时间序列预测方法、装置、设备及介质
CN115168590A (zh) 文本特征提取方法、模型训练方法、装置、设备及介质
CN113705698B (zh) 基于点击行为预测的信息推送方法及装置
CN118312329A (zh) 异构算力集成系统下算力智能推荐方法
CN115222443A (zh) 客户群体划分方法、装置、设备及存储介质
CN102693258A (zh) 高精度的类似检索系统
CN117636467A (zh) 一种动作质量的评估方法、装置、电子设备及存储介质
CN117576648A (zh) 自动驾驶的场景挖掘方法、装置、电子设备及存储介质
CN111126311B (zh) 城市道路的潜在危险区域识别方法、装置及电子设备
CN112036439A (zh) 依存关系分类方法及相关设备
CN116257885A (zh) 基于联邦学习的隐私数据通信方法、系统和计算机设备
CN114581177B (zh) 产品推荐方法、装置、设备及存储介质
CN113610580B (zh) 产品推荐方法、装置、电子设备及可读存储介质
CN116152551A (zh) 分类模型训练方法、分类方法、装置、设备及介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination