CN117688472B - 一种基于因果结构的无监督域适应多元时间序列分类方法 - Google Patents

一种基于因果结构的无监督域适应多元时间序列分类方法 Download PDF

Info

Publication number
CN117688472B
CN117688472B CN202311703839.7A CN202311703839A CN117688472B CN 117688472 B CN117688472 B CN 117688472B CN 202311703839 A CN202311703839 A CN 202311703839A CN 117688472 B CN117688472 B CN 117688472B
Authority
CN
China
Prior art keywords
domain
time sequence
causal
loss
classification
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202311703839.7A
Other languages
English (en)
Other versions
CN117688472A (zh
Inventor
孙仕亮
卢俊鑫
赵静
张庆久
宋金龙
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
East China Normal University
Original Assignee
East China Normal University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by East China Normal University filed Critical East China Normal University
Priority to CN202311703839.7A priority Critical patent/CN117688472B/zh
Publication of CN117688472A publication Critical patent/CN117688472A/zh
Application granted granted Critical
Publication of CN117688472B publication Critical patent/CN117688472B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2415Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/25Fusion techniques
    • G06F18/253Fusion techniques of extracted features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/042Knowledge-based neural networks; Logical representations of neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/044Recurrent networks, e.g. Hopfield networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/044Recurrent networks, e.g. Hopfield networks
    • G06N3/0442Recurrent networks, e.g. Hopfield networks characterised by memory or gating, e.g. long short-term memory [LSTM] or gated recurrent units [GRU]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/084Backpropagation, e.g. using gradient descent
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/088Non-supervised learning, e.g. competitive learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/0985Hyperparameter optimisation; Meta-learning; Learning-to-learn
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2123/00Data types
    • G06F2123/02Data types in the time domain, e.g. time-series data
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02ATECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
    • Y02A90/00Technologies having an indirect contribution to adaptation to climate change
    • Y02A90/10Information and communication technologies [ICT] supporting adaptation to climate change, e.g. for weather forecasting or climate simulation

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • Molecular Biology (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Mathematical Physics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Probability & Statistics with Applications (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明涉及时间序列数据的分析与处理技术领域,尤其是涉及一种基于因果结构的无监督域适应多元时间序列分类方法,以解决现有多元时间序列域适应方法在复杂多元时序动态系统中鲁棒性和适应性不足的问题,所述方法包括:对多元时序数据进行多视图增强,构建多元时序数据的跨域共享因果结构;提取多元时序数据的时序隐状态;提取多元时序数据的特有因果结构;进行因果引导的多元时序表征聚合;提取时序表征所对应的时序特征;对时序特征进行跨域分类,得到分类结果并计算总体分类损失;进行域内对比学习得到域内对比学习损失;进行跨域因果一致性学习得到因果图对比一致性损失;构建总体误差函数用以优化分类结果。

Description

一种基于因果结构的无监督域适应多元时间序列分类方法
技术领域
本发明涉及时间序列数据的分析与处理技术领域,尤其是涉及一种基于因果结构的无监督域适应多元时间序列分类方法。
背景技术
多元时间序列无监督领域适应任务旨在应对源领域和目标领域中多元时间序列数据分布不匹配的挑战。在实际应用中,由于时序数据可能受到不同环境条件、数据采集设备或记录方式的影响,源领域和目标领域之间存在分布偏移。这种分布偏移给监督学习和模型泛化带来了困难,直接将源领域的知识应用到目标领域可能导致模型性能下降。因此,多元时间序列无监督领域适应任务关注于模型在源域和目标域之间的适应性泛化能力,实现在不依赖标定的目标域数据下促使模型具有足够的领域泛化性。
现有的时间序列数据无监督域适应方法主要采用提取领域不变表征的范式,即通过将源域和目标域时序数据投射至一个共享的联合特征空间,并进行特征之间的差异性最小化操作,以提取领域不变表征进行后续分类操作。现实中多元时序动态系统繁杂多变,但是时序数据的跨域生成通常遵循其内部固有的潜在因果模式。这些潜在的因果模式是领域不变的,引导着多元变量以稳定的方式在时空维度上进行相互作用。然而,现有的方法往往优先考虑隐式域不变表示的提取,而不是探究这种更具稳定性和可解释性的因果模式。此外,现有方法直接对齐跨域多元时间序列,而不使用因果关系来过滤特定于领域的虚假信息,可能导致捕获粗粒度的快捷特征作为领域不变表征。因此,相对于现有范式,通过学习源域和目标域中变量之间的因果关系,模型能够更好地理解数据生成的机制,提升模型在目标域的泛化性能。
此外,多元时间序列数据中常常存在非平稳性,包括变量之间的时变关系。因果结构学习有助于提高模型对这种非平稳性的鲁棒性。通过在多元时间序列无监督领域适应任务中引入因果结构学习,可以期望获得更具深度和适应性的模型,为实际应用中的多元时间序列数据处理提供更有效的解决方案。
发明内容
针对现有技术中的不足,本发明提供一种基于因果结构的无监督域适应多元时间序列分类方法。
为了实现上述目的,本发明提供了一种基于因果结构的无监督域适应多元时间序列分类方法,所述方法包括如下步骤:对多元时序数据进行多视图增强,并构建多元时序数据的跨域共享因果结构;提取多元时序数据的时序隐状态;基于所述时序隐状态提取多元时序数据在源域以及目标域上动态因果效应,进而计算出相应的特有因果结构;根据所述跨域共享因果结构和所述特有因果结构进行因果引导的多元时序表征聚合,得到最终因果结构和多元时序数据的时序表征;利用特征提取网络提取所述时序表征所对应的时序特征;对所述时序特征进行跨域分类,进而得到多元时序数据的分类结果和预测概率,并计算跨域分类中的总体分类损失;分别根据所述预测概率和时序表征进行域内对比学习,进而得到域内对比学习损失;利用所述动态因果效应和所述最终因果结构进行跨域因果一致性学习,进而得到因果图对比一致性损失;使用所述总体分类损失、所述域内对比学习损失和所述因果图对比一致性损失构建总体误差函数,并利用所述总体误差函数优化分类结果。本发明以多元时间序列数据为基础,利用时序数据中蕴含的固有领域不变的因果结构对多元时序数据进行处理,并在数据分布切换和飘移,数据缺失和干扰等场景下具有较好的准确性和鲁棒性。
可选地,采用保留语义的增强方式对每一个多元时序数据进行多视图增强,得到查询视图和参考视图两个增强视图。
进一步的,保留语义的增强方式包括历史裁剪、历史剪切、通道丢失、高斯噪声干扰等步骤。
可选地,所述跨域共享因果结构满足如下关系:
其中,Ac为所述跨域共享因果结构,为数域,N为多元时序数据的元数。
可选地,采用LSTM提取所述时序隐状态。
进一步的,采用LSTM提取所述时序隐状态以捕捉多元时序数据中的长期依赖关系,便于更好地理解多元时序数据的内在结构,从而更准确地提取多元时序数据中隐含的状态信息。
可选地,所述基于所述时序隐状态提取多元时序数据在源域以及目标域上动态因果效应,进而计算出相应的特有因果结构包括如下步骤:
在每个时间步,基于所述时序隐状态分别计算多元时序数据在源域以及目标域上的动态因果效应;
使用Gumbel Softmax技术对离散的所述动态因果效应进行连续逼近,进而计算出多元时序数据在源域以及目标域上的特有因果结构。
进一步的,通过提取多元时序数据在源域以及目标域上的特有因果结构能够更准确地反映不同域内多元时序数据的动态特征,从而提高多元时间序列分类的鲁棒性。
可选地,所述根据所述跨域共享因果结构和所述特有因果结构进行因果引导的多元时序表征聚合,得到最终因果结构和多元时序数据的时序表征包括如下步骤:
将源域上的所述特有因果结构与所述跨域共享因果结构结合,得到第一最终因果结构,所述第一最终因果结构满足如下关系:
其中,AS*为所述第一最终因果结构,为数域,N为多元时序数据的元数,MS为源域上的逐元素掩码,Ac为所述跨域共享因果结构,IN为N×N的单位矩阵,为IN的转置矩阵,AS为源域上的所述特有因果结构;
基于所述第一最终因果结构使用多层图卷积神经网络对多元时序数据进行表征聚合,得到第一时序表征,所述第一时序表征满足如下关系:
其中,为第i个多元时序数据的第一时序表征,为源域上第i个多元时序数据的所述时序隐状态,GCNs(·)表示多层图卷积神经网络,AS*为所述第一最终因果结构;
将目标域上的所述特有因果结构与所述跨域共享因果结构结合,得到第二最终因果结构;
基于所述第二最终因果结构使用多层图卷积神经网络对多元时序数据进行表征聚合,得到第二时序表征。
可选地,所述对所述时序特征进行跨域分类,进而得到多元时序数据的分类结果和预测概率,并计算跨域分类中的总体分类损失包括如下步骤:
采用领域共享的分类器对所述时序特征进行跨域分类,进而得到多元时序数据的分类结果、源域上的第一预测概率和目标域上的第二预测概率;
根据所述第一预测概率计算源域分类损失,同时根据所述第二预测概率计算目标域分类损失,进而利用所述源域分类损失和所述目标域分类损失计算所述总体分类损失,所述总体分类损失满足如下关系:
其中,Lcls为所述总体分类损失,γ1和γ2为第一平衡超参数,为所述源域分类损失,为所述目标域分类损失。
可选地,所述分别根据所述预测概率和时序表征进行域内对比学习,进而得到域内对比学习损失包括如下步骤:
利用所述第一预测概率构建预测概率集合,依次取出所述预测概率集合中的第一预测概率作为第一锚点样本;
依据所述第一锚点样本的类别标签,从所述预测概率集合中随机选择一个与第一锚点样本具有相同类别标签的所述第一预测概率作为第一正样本,从所述预测概率集合中随机选择一个与第一锚点样本具有不同类别标签的所述第一预测概率作为第一负样本,进而计算源域内对比学习损失;
利用所述第二时序表征构建时序表征集合,依次取出所述时序表征集合中的第二时序表征作为第二锚点样本;
依次计算所述时序表征集合中除所述第二锚点样本之外其他第二时序表征与所述第二锚点样本之间的分布距离,并将与所述第二锚点样本具有最小分布距离的所述第二时序表征作为第二正样本,将所述时序表征集合中除所述第二锚点样本和所述第二正样本之外的其他第二时序表征作为第二负样本,而计算目标域内对比学习损失;
利用所述源域内对比学习损失和所述目标域内对比学习损失计算所述域内对比学习损失,所述域内对比学习损失满足如下关系:
其中,Lcon为所述域内对比学习损失,λ1和λ2为第二平衡超参数,为所述源域内对比学习损失,为所述目标域内对比学习损失。
进一步的,利用域内对比学习有效地缩小同一域内同一多元时序数据的查询视图和参考视图之间的表征距离,通过强调每个域内的类内关系,可以提高统一表征空间中的类内紧凑性,并区分不同域的不同类,有利于模型在源域和目标域之间更好地泛化。
可选地,所述利用所述动态因果效应和所述最终因果结构进行跨域因果一致性学习,进而得到因果图对比一致性损失包括如下步骤:
在源域上,依据所述动态因果效应和所述第一最终因果结构计算源域因果图对比一致性损失;
在目标域上,依据所述动态因果效应和所述第二最终因果结构计算目标域因果图对比一致性损失;
利用所述源域因果图对比一致性损失和所述目标域因果图对比一致性损失计算所述因果图对比一致性损失,所述因果图对比一致性损失满足如下关系:
其中,Lcong为所述因果图对比一致性损失,β1和β2为第三平衡超参数,为所述源域因果图对比一致性损失,为所述目标域因果图对比一致性损失。
进一步的,进行跨域因果一致性学习并计算因果图对比一致性损失有助于使多元时间序列无监督领域适应的模型更深层次地理解数据的生成机制,提高泛化性能,增强对领域间分布差异的适应能力,并提高模型的鲁棒性。
可选地,所述总体误差函数满足如下关系:
Lall=α1Lcls2Lcon3Lcong
其中,Lall为总体误差,α1、α2和α3为第四平衡超参数,lcls为所述总体分类损失,Lcon为所述域内对比学习损失,Lcong为所述因果图对比一致性损失。
进一步的,建立总体误差函数有助于提高模型的鲁棒性。
综上所述,本发明在多元时间序列的无监督领域适应任务中引入因果视野,并同步进行因果结构学习,即域内对比学习和跨域因果一致性对比学习。因果结构学习有助于深入理解源域和目标域中变量之间的因果关系,而不仅仅是捕捉它们之间的相关性,有利于模型更全面、更深刻地理解多元时间序列数据的生成机制;因果结构的学习使得模型在源域和目标域之间更好地泛化,通过捕捉领域不变的因果关系,模型能够更好地适应不同领域之间的潜在变化,从而提高在目标域中的泛化性能;因果结构学习有助于提高模型对非平稳性的鲁棒性,多元时间序列数据中常常存在时变关系,而因果结构的学习可以使模型更好地适应这种时变性,从而提高模型的鲁棒性;通过学习因果结构,模型可以进行更精确的因果推理,这对于理解时间序列数据中事件发生的原因和影响至关重要,尤其是在目标领域发生领域偏移的情况下。
附图说明
为了更清楚地说明本申请实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本申请的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其它相关的附图。
图1为本发明实施例的一种基于因果结构的无监督域适应多元时间序列分类方法流程示意图;
图2为本发明实施例的因果结构示意图。
具体实施方式
下面将详细描述本发明的具体实施例,应当注意,这里描述的实施例只用于举例说明,并不用于限制本发明。在以下描述中,为了提供对本发明的透彻理解,阐述了大量特定细节。然而,对于本领域普通技术人员显而易见的是:不必采用这些特定细节来实行本发明。在其他实例中,为了避免混淆本发明,未具体描述公知的电路,软件或方法。
在整个说明书中,对“一个实施例”、“实施例”、“一个示例”或“示例”的提及意味着:结合该实施例或示例描述的特定特征、结构或特性被包含在本发明至少一个实施例中。因此,在整个说明书的各个地方出现的短语“在一个实施例中”、“在实施例中”、“一个示例”或“示例”不一定都指同一实施例或示例。此外,可以以任何适当的组合和、或子组合将特定的特征、结构或特性组合在一个或多个实施例或示例中。此外,本领域普通技术人员应当理解,在此提供的示图都是为了说明的目的,并且示图不一定是按比例绘制的。
需要提前说明的是,在一个可选地实施例当中,除了做出独立的说明之外,其它的在所有公式中出现的相同的符号或字母带表的含义和数值相同。
在一个可选地实施例当中,请参见图1,本发明提供了一种基于因果结构的无监督域适应多元时间序列分类方法,所述方法包括如下步骤:
S1、对多元时序数据进行多视图增强,并构建多元时序数据的跨域共享因果结构。
具体的,在本实施例中,采用保留语义的增强方式对多元时序数据Xi={x1,x2,x3,...,xN}进行多视图增强,得到多元时序数据Xi的查询视图和参考视图两个增强视图,并在源域以及目标域的查询视图和参考视图上进行模型的构建和训练,其中,xn为多元时序数据中第n个变量,且n=1,2,3...,N,N为多元时序数据的元数。本实施例中所说的模型是基于本发明提供的方法建立的,其依次执行本发明所提供的各个步骤来实现对多元时序数据的跨域分类。其中,保留语义的增强方式依次包含如下四个步骤:
A1、历史裁剪:以50%的概率随机屏蔽20%-50%的初始多元时序数据。
A2、历史剪切:将多元时序数据的随机5%-20%时间窗以20%-70%的概率掩盖。
A3、通道丢失:将每个信道独立屏蔽,屏蔽概率的取值范围为5%-30%。
A4、高斯噪声干扰:将高斯噪声独立应用于每次测量,测量结果的标准差取值范围为0.05-0.2。
进一步的,假定多元时序数据的跨域生成是遵循一种复杂但稳定的因果结构,该因果结构指导着多元变量在时空维度上进行相互依存。因此,请参见图2中的(a),在跨域的情况下为源域和目标域构建一个在时空上共享的可学习因果结构,即跨域共享因果结构,该跨域共享因果结构满足其中,Ac为跨域共享因果结构,为数域,N为多元时序数据的元数。
更进一步的,的大小取决于N的大小,本实施例设定多元变量在时空维度上的因果关系是一种特殊的格兰杰因果关系,可存在自环,即每个变量除了受到其他变量的因果影响,还会受到自身历史时刻数据对于当前以及未来时刻的数据的影响。如果因果结构中的元素则表明多元时序数据中变量xi与xj之间存在因果关联,反之则表明xi与xj之间不存在因果关联,i=1,2,3,...,N,j=1,2,3,...,N且i≠j。
S2、提取多元时序数据的时序隐状态。
具体的,在本实施例中,采用LSTM提取多元时序数据的时序隐状态Hi,以捕捉时序数据中的长期依赖关系,使模型能够更好地理解多元时序数据的内在结构,从而更准确地提取多元时序数据中隐含的状态信息。
进一步的,LSTM循环更新每个变量xj在各个时间步下的隐状态hj,t为:
hj,t=LSTM(xj,t,hj,t-1)
其中,xj,t为第t个时间步时的变量xj,hj,t-1表示变量xj在第t-1个时间步时的隐藏状态,则Hi={h1,h2,...,hN}且τmax为输入LSTM的多元时序数据的时间步长度,hj为hj,t的集合,t=1,2,3,...,τmax
更进一步的,在其他可选地实施例中,还可以使用循环神经网络提取多元时序数据的时序隐状态。
S3、基于所述时序隐状态提取多元时序数据在源域以及目标域上动态因果效应,进而计算出相应的特有因果结构。
其中,领域特有的因果结构考虑了域内每个变量之间的特有关联性,而不仅仅是共有的因果模式,因此通过这一步骤能够更准确地反映不同域内多元时序数据的动态特征。S3具体包括如下步骤:
S31、在每个时间步,基于所述时序隐状态分别计算多元时序数据在源域以及目标域上的动态因果效应。
具体的,在本实施例中,基于时序隐状态Hi中的各个隐藏状态,利用两个变量xi与xj间的时空交互注意力计算多元时序数据在每个时间步的注意力系数,即动态因果效应,多元时序数据在源域以及目标域上的动态因果效应都满足如下关系:
其中,cij,t为第t个时间步时变量xi和变量xj之间在源域或者目标域上的动态因果效应,σ为激活函数,表示进行转置操作,为可学习权重参数,为可学习参数。可学习权重参数和可学习参数都是随机初始化得到的。根据此关系式,将源域上的隐藏状态带入此关系式中即可计算得到多元时序数据在源域上的动态因果效应,将目标域上的隐藏状态带入此关系式中即可计算得到多元时序数据在目标域上的动态因果效应。
S32、使用Gumbel Softmax技术对离散的所述动态因果效应进行连续逼近,进而计算出多元时序数据在源域以及目标域上的特有因果结构。
具体的,在本实施例中,由于多元时序数据在源域以及目标域上的动态因果效应在时间维度上是离散的,因此本实施例采用Gumbel Softmax技术来实现动态因果效应离散分布的连续逼近,促使所有动态因果效应的总和为1,便于计算多元时序数据在源域以及目标域上的特有因果效应,进而得到相应的特有因果结构。具体而言,多元时序数据在源域以及目标域上的动态因果效应都满足如下关系:
其中,为与cij,t对应的连续因果效应,τ为Gumbel Softmax的温度超参,g为一个简化参数,g=-log(-log(u)),u为参数且u~Uniform(0,1)。在本实施例中,τ的初始值较高,并在优化过程中不断降低,其取值范围为(0.1,1)。
进一步的,多元时序数据在源域以及目标域上的特有因果效应都满足如下关系:
其中,aij为源域或者目标域上变量xi和变量xj之间的特有因果效应。在分别计算出多元时序数据在源域以及目标域上的连续因果效应之后,将多元时序数据在源域上的连续因果效应带入此关系式中计算出多元时序数据在源域上的特有因果效应,则多元时序数据在源域上的特有因果效应的集合即为多元时序数据在源域上的特有因果结构AS,多元时序数据在源域上的特有因果结构AS请参见图2中的(b);将多元时序数据在目标域上的连续因果效应带入此关系式中计算出多元时序数据在目标域上的特有因果效应,则多元时序数据在目标域上的特有因果效应的集合即为多元时序数据在目标域上的特有因果结构AT,多元时序数据在目标域上的特有因果结构AT请参见图2中的(c)。
更进一步的,步骤S31和S32主要用于提取不同领域特有的因果结构,因此源域和目标域的注意力系数的计算是完全独立,不共享参数的。在计算过程中,利用来自源域的数据使用步骤S31和S33提供的关系式计算多元时序数据在源域上的特有因果结构,利用来自目标域的数据使用步骤S31和S33提供的关系式计算多元时序数据在目标域上的特有因果结构。通过提取多元时序数据在源域以及目标域上的特有因果结构能够更准确地反映不同域内多元时序数据的动态特征,从而提高模型的鲁棒性。
S4、根据所述跨域共享因果结构和所述特有因果结构进行因果引导的多元时序表征聚合,得到最终因果结构和多元时序数据的时序表征。
其中,S4具体包括如下步骤:
S41、将源域上的所述特有因果结构与所述跨域共享因果结构结合,得到第一最终因果结构,所述第一最终因果结构满足如下关系:
其中,AS*为所述第一最终因果结构,为数域,N为多元时序数据的元数,MS为源域上的逐元素掩码,Ac为所述跨域共享因果结构,IN为N×N的单位矩阵,为IN的转置矩阵,AS为源域上的所述特有因果结构。
具体的,在本实施例中,MS是从随时间演变的通用注意力矩阵中学习得来的,即在建模两个变量之间的相互因果影响时,MS可以权衡跨域共享因果结构与第一最终因果结构的贡献。
S42、基于所述第一最终因果结构使用多层图卷积神经网络对多元时序数据进行表征聚合,得到第一时序表征,所述第一时序表征满足如下关系:
其中,为第i个多元时序数据的第一时序表征,为源域上第i个多元时序数据的时序隐状态,GCNs(·)表示多层图卷积神经网络,AS*为第一最终因果结构。
具体的,在本实施例中,采用一个因果增强的多层图网络GCNs(·)来聚合源域上每一个变量的父节点的隐藏状态进行因果依赖编码,实现源域上变量间的表征聚合得到得到第一时序表征,该过程可表述为以下两个关系式:
其中,表示源域上的多元时序数据在第l层图卷积时在所有时间步下的结点时序表征,β为控制中每个变量保留原始输入信息的比例超参数。L为图卷积的层数,gθ为图卷积的所有网络参数,G(·)是由1×1的卷积层实现的表征融合函数。将源域上所有多元时序数据的第一时序表征集合起来,即可得到源域下的第一时序表征
S43、将目标域上的所述特有因果结构与所述跨域共享因果结构结合,得到第二最终因果结构。
具体的,在本实施例中,采用与计算第一最终因果结构相同的方法计算第二最终因果结构AT*,但是在计算AT*时,需要将MS替换为MT,而在计算MT时,则需要将AS替换为AT。本步骤的具体的内容在此就不做赘述。
S44、基于所述第二最终因果结构使用多层图卷积神经网络对多元时序数据进行表征聚合,得到第二时序表征。
具体的,在本实施例中,将源域换为目标域,采用获取第一时序表征相同的方法来获取第i个多元时序数据的第二时序表征进而得到目标域下的第二时序表征NT为目标域上多元时序数据的元数。本步骤的具体的内容在此就不做赘述。
S5、利用特征提取网络提取所述时序表征所对应的时序特征。
具体的,在本实施例中,所述的时序表征包括第一时序表征和第二时序表征。依据步骤S4得到的第一时序表征ES和第二时序表征ET,利用特征提取网络F(·)提取多元时序数据的时序特征。具体而言,源域的时序特征ZS的提取可定义为ZS=F(ES),其中目标域的时序特征ZT的提取可定义为ZT=F(ET),其中
进一步的,特征提取网络F(·)具体为CNN,使用CNN进行特征提取为现有技术,在此就不做详细说明。在其他可选地实施例中,特征提取网络还可以是其他的网络,例如TCN。
S6、对所述时序特征进行跨域分类,进而得到多元时序数据的分类结果和预测概率,并计算跨域分类中的总体分类损失。
其中,S6具体包括如下步骤:
S61、采用领域共享的分类器对所述时序特征进行跨域分类,进而得到多元时序数据的分类结果、源域上的第一预测概率和目标域上的第二预测概率。
具体的,在本实施例中,采用领域共享的分类器C(·),即MLP对时序特征进行跨域分类,进而得到多元时序数据的分类结果,第一预测概率和第二预测概率分别满足如下关系:
PS=C(ZS
PT=C(ZT)
其中,PS为第一预测概率,PT为第二预测概率。
S62、根据所述第一预测概率计算源域分类损失,同时根据所述第二预测概率计算目标域分类损失,进而利用所述源域分类损失和所述目标域分类损失计算所述总体分类损失,所述总体分类损失满足如下关系:
其中,Lcls为总体分类损失,γ1和γ2为第一平衡超参数,为源域分类损失,为目标域分类损失。
具体的,在本实施例中,由于源域的多元时序数据带有类别标签,因此构建基于类别标签的有监督交叉熵分类损失,即源域分类损失;由于目标域的多元时序数据不带有类别标签,因此构建条件交叉熵损失,即目标域分类损失。源域分类损失和目标域分类损失依次满足如下关系:
其中,为交叉熵损失函数,为源域上第i个多元时序数据所对应的第一预测概率,为源域上第i个多元时序数据所对应的真实类别标签,为目标域上第i个多元时序数据所对应的第二预测概率的转置,为目标域上第i个多元时序数据所对应的时序特征且 为以为时序特征所求得的第二预测概率的期望,为目标域上第i个多元时序数据所对应的第二预测概率。
S7、分别根据所述预测概率和时序表征进行域内对比学习,进而得到域内对比学习损失。
其中,利用域内对比学习有效地缩小同一域内同一多元时序数据的查询视图和参考视图之间的表征距离,通过强调每个域内的类内关系,可以提高统一表征空间中的类内紧凑性,并区分不同域的不同类,有利于模型在源域和目标域之间更好地泛化。S7具体包括如下步骤:
S71、利用所述第一预测概率构建预测概率集合,依次取出所述预测概率集合中的第一预测概率作为第一锚点样本。
具体的,在本实施例中,由于源域的多元时序数据带有类别标签,因此后续将构建类别标签监督的概率对比损失,即源域内对比学习损失。在源域中,利用每个多元时序数据的查询视图的第一预测概率和参考视图的第一预测概率构建预测概率集合依次取出预测概率集合中每一个元素并以其作为第一锚点样本。
S72、依据所述第一锚点样本的类别标签,从所述预测概率集合中随机选择一个与第一锚点样本具有相同类别标签的所述第一预测概率作为第一正样本,从所述预测概率集合中随机选择一个与第一锚点样本具有不同类别标签的所述第一预测概率作为第一负样本,进而计算源域内对比学习损失。
具体的,在本实施例中,依据类别标签,从中随机取出一个与第一锚点样本具有同类别标签的元素作为第一正样本同时取出一个与具有不同类别标签的元素作为第一负样本进而计算源域内对比学习损失。源域内对比学习损失满足如下关系:
其中,K为每一个第一锚点样本所对应的第一正样本的总数,H为每一个第一锚点样本所对应的第一负样本的总数。
S73、利用所述第二时序表征构建时序表征集合,依次取出所述时序表征集合中的第二时序表征作为第二锚点样本。
具体的,在本实施例中,针对目标域,由于目标域的多元时序数据不带有类别标签,因此后续将构建最近邻时序表征对比损失,即目标域内对比学习损失。在目标域中,利用每个多元时序数据的查询视图的第二时序表征和参考视图的第二时序表征构建时序表征集合依次取出时序表征集合中每一个元素并以其作为第二锚点样本。
S74、依次计算所述时序表征集合中除所述第二锚点样本之外其他第二时序表征与所述第二锚点样本之间的分布距离,并将与所述第二锚点样本具有最小分布距离的所述第二时序表征作为第二正样本,将所述时序表征集合中除所述第二锚点样本和所述第二正样本之外的其他第二时序表征作为第二负样本,而计算目标域内对比学习损失。
具体的,在本实施例中,依次计算第二锚点样本与中的其他元素的分布距离,并将与第二锚点样本具有最小分布距离的第二时序表征作为第二正样本中除第二锚点样本和第二正样本之外的其他第二时序表征作为第二负样本进而计算出目标域内对比学习损失。目标域内对比学习损失满足如下关系:
其中,R为第二负样本的总数,Ii≠r为指标函数,若i=j,则Ii≠r=0,反之Ii≠r=1,其用于确保第二锚点样本与第二负样本不是同一样本,sim(·)为第二时序表征之间的相似度计算函数,可表述为
S75、利用所述源域内对比学习损失和所述目标域内对比学习损失计算所述域内对比学习损失,所述域内对比学习损失满足如下关系:
其中,Lcon为域内对比学习损失,λ1和λ2为第二平衡超参数,为源域内对比学习损失,为目标域内对比学习损失。λ1和λ2的取值通过常规的网格搜索策略进行确定,搜索范围为[0.001,1]。
S8、利用所述动态因果效应和所述最终因果结构进行跨域因果一致性学习,进而得到因果图对比一致性损失。
其中,进行跨域因果一致性学习并计算因果图对比一致性损失有助于使多元时间序列无监督领域适应的模型更深层次地理解数据的生成机制,提高泛化性能,增强对领域间分布差异的适应能力,并提高模型的鲁棒性。S8具体包括如下步骤:
S81、在源域上,依据所述动态因果效应和所述第一最终因果结构计算源域因果图对比一致性损失。
具体的,在本实施例中,源域因果图对比一致性损失满足如下关系:
其中,分别为源域中查询视图和参考视图对应的多元时序数据,分别为源域中查询视图和参考视图中变量xi与xj之间的第一最终因果效应,γ为权重系数,γ的取值通过常规的网格搜索策略进行确定,搜索范围为[0.1,1],分别为第t个时间步下源域中查询视图和参考视图中变量xi与xj之间的因果效应差异, 为第t个时间步下源域中查询视图中变量xi与xj之间的动态因果效应,为第t-1个时间步下源域中查询视图中变量xi与xj之间的动态因果效应,为第t个时间步下源域中参考视图中变量xi与xj之间的动态因果效应,为第t-1个时间步下源域中查参考视图中变量xi与xj之间的动态因果效应。
S82、在目标域上,依据所述动态因果效应和所述第二最终因果结构计算目标域因果图对比一致性损失。
具体的,在本实施例中,目标域因果图对比一致性损失满足如下关系:
其中,分别为目标域中查询视图和参考视图对应的多元时序数据,分别为目标域中查询视图和参考视图中变量xi与xj之间的第二最终因果效应,分别为第t个时间步下目标域中查询视图和参考视图中变量xi与xj之间的因果效应差异, 为第t个时间步下目标域中查询视图中变量xi与xj之间的动态因果效应,为第t-1个时间步下目标域中查询视图中变量xi与xj之间的动态因果效应,为第t个时间步下目标域中参考视图中变量xi与xj之间的动态因果效应,为第t-1个时间步下目标域中查参考视图中变量xi与xj之间的动态因果效应。
S83、利用所述源域因果图对比一致性损失和所述目标域因果图对比一致性损失计算所述因果图对比一致性损失,所述因果图对比一致性损失满足如下关系:
其中,Lcong为因果图对比一致性损失,β1和β2为第三平衡超参数,为源域因果图对比一致性损失,为目标域因果图对比一致性损失。β1和β2的取值通过常规的网格搜索策略进行确定,搜索范围为[0.01,0.1]。
S9、使用所述总体分类损失、所述域内对比学习损失和所述因果图对比一致性损失构建总体误差函数,并利用所述总体误差函数优化分类结果。
具体的,在本实施例中,总体误差函数满足如下关系:
Lall=α1Lcls2Lcon3Lcong
其中,Lall为总体误差,α1、α2和α3为第四平衡超参数,Lcls为总体分类损失,Lcon为域内对比学习损失,Lcong为因果图对比一致性损失。α1、α2和α3的取值通过常规的网格搜索策略进行确定,搜索范围为[0.1,1]。
进一步的,最小化目标函数min(Lall),通过Adam优化器进行多轮反向传播来迭代优化模型的参数和因果结构,即通过调整S9所提供关系式中的各个参数使Lall达到最小值,使在对多元时序数据进行分类时造成的总体误差降到最低,进而提升模型的鲁棒性。
需要说明的是,在一些情况下,在说明书中记载的动作可以按照不同的顺序来执行并且仍然可以实现期望的结果,在本实施例当中,所给出的步骤顺序仅仅是为了使实施例看起来更加清晰明了,方便说明,而非对其限制。
综上所述,本发明在多元时间序列的无监督领域适应任务中引入因果视野,并同步进行因果结构学习,即域内对比学习和跨域因果一致性对比学习。因果结构学习有助于深入理解源域和目标域中变量之间的因果关系,而不仅仅是捕捉它们之间的相关性,有利于模型更全面、更深刻地理解多元时间序列数据的生成机制;因果结构的学习使得模型在源域和目标域之间更好地泛化,通过捕捉领域不变的因果关系,模型能够更好地适应不同领域之间的潜在变化,从而提高在目标域中的泛化性能;因果结构学习有助于提高模型对非平稳性的鲁棒性,多元时间序列数据中常常存在时变关系,而因果结构的学习可以使模型更好地适应这种时变性,从而提高模型的鲁棒性;通过学习因果结构,模型可以进行更精确的因果推理,这对于理解时间序列数据中事件发生的原因和影响至关重要,尤其是在目标领域发生领域偏移的情况下。
最后应说明的是:以上各实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述各实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的范围,其均应涵盖在本发明的权利要求和说明书的范围当中。

Claims (6)

1.一种基于因果结构的无监督域适应多元时间序列分类方法,其特征在于,包括如下步骤:
对多元时序数据进行多视图增强, 并构建多元时序数据的跨域共享因果结构;
提取多元时序数据的时序隐状态;
基于所述时序隐状态提取多元时序数据在源域以及目标域上动态因果效应,进而计算出相应的特有因果结构;
将源域上的所述特有因果结构与所述跨域共享因果结构结合,得到第一最终因果结构,所述第一最终因果结构满足如下关系:
其中,为所述第一最终因果结构,为数域,N为多元时序数据的元数,为源域上的逐元素掩码,为所述跨域共享因果结构,的单位矩阵,的转置矩阵,为源域上的所述特有因果结构;
基于所述第一最终因果结构使用多层图卷积神经网络对多元时序数据进行表征聚合,得到第一时序表征,所述第一时序表征满足如下关系:
其中,为第i个多元时序数据的第一时序表征,为源域上第i个多元时序数据的所述时序隐状态,表示多层图卷积神经网络,为所述第一最终因果结构;
将目标域上的所述特有因果结构与所述跨域共享因果结构结合,得到第二最终因果结构;
基于所述第二最终因果结构使用多层图卷积神经网络对多元时序数据进行表征聚合,得到第二时序表征;
利用特征提取网络提取时序表征所对应的时序特征;
采用领域共享的分类器对所述时序特征进行跨域分类,进而得到多元时序数据的分类结果、源域上的第一预测概率和目标域上的第二预测概率;
根据所述第一预测概率计算源域分类损失,同时根据所述第二预测概率计算目标域分类损失,进而利用所述源域分类损失和所述目标域分类损失计算总体分类损失,所述总体分类损失满足如下关系:
其中,为所述总体分类损失,为第一平衡超参数,为所述源域分类损失,为所述目标域分类损失;
利用所述第一预测概率构建预测概率集合,依次取出所述预测概率集合中的第一预测概率作为第一锚点样本;
依据所述第一锚点样本的类别标签,从所述预测概率集合中随机选择一个与第一锚点样本具有相同类别标签的所述第一预测概率作为第一正样本,从所述预测概率集合中随机选择一个与第一锚点样本具有不同类别标签的所述第一预测概率作为第一负样本,进而计算源域内对比学习损失;
利用所述第二时序表征构建时序表征集合,依次取出所述时序表征集合中的第二时序表征作为第二锚点样本;
依次计算所述时序表征集合中除所述第二锚点样本之外其他第二时序表征与所述第二锚点样本之间的分布距离,并将与所述第二锚点样本具有最小分布距离的所述第二时序表征作为第二正样本,将所述时序表征集合中除所述第二锚点样本和所述第二正样本之外的其他第二时序表征作为第二负样本,而计算目标域内对比学习损失;
利用所述源域内对比学习损失和所述目标域内对比学习损失计算所述域内对比学习损失,所述域内对比学习损失满足如下关系:
其中,为所述域内对比学习损失,为第二平衡超参数,为所述源域内对比学习损失,为所述目标域内对比学习损失;
在源域上,依据所述动态因果效应和所述第一最终因果结构计算源域因果图对比一致性损失;
在目标域上,依据所述动态因果效应和所述第二最终因果结构计算目标域因果图对比一致性损失;
利用所述源域因果图对比一致性损失和所述目标域因果图对比一致性损失计算所述因果图对比一致性损失,所述因果图对比一致性损失满足如下关系:
其中,为所述因果图对比一致性损失,为第三平衡超参数,为所述源域因果图对比一致性损失,为所述目标域因果图对比一致性损失;
使用所述总体分类损失、所述域内对比学习损失和所述因果图对比一致性损失构建总体误差函数,并利用所述总体误差函数优化分类结果。
2.根据权利要求1所述的一种基于因果结构的无监督域适应多元时间序列分类方法,其特征在于:
采用保留语义的增强方式对每一个多元时序数据进行多视图增强,得到查询视图和参考视图两个增强视图。
3.根据权利要求1所述的一种基于因果结构的无监督域适应多元时间序列分类方法,其特征在于,所述跨域共享因果结构满足如下关系:
其中,为所述跨域共享因果结构,为数域,N为多元时序数据的元数。
4.根据权利要求1所述的一种基于因果结构的无监督域适应多元时间序列分类方法,其特征在于,采用LSTM提取所述时序隐状态。
5.根据权利要求1所述的一种基于因果结构的无监督域适应多元时间序列分类方法,其特征在于,所述基于所述时序隐状态提取多元时序数据在源域以及目标域上动态因果效应,进而计算出相应的特有因果结构包括如下步骤:
在每个时间步,基于所述时序隐状态分别计算多元时序数据在源域以及目标域上的动态因果效应;
使用Gumbel Softmax技术对离散的所述动态因果效应进行连续逼近,进而计算出多元时序数据在源域以及目标域上的特有因果结构。
6.根据权利要求5所述的一种基于因果结构的无监督域适应多元时间序列分类方法,其特征在于,所述总体误差函数满足如下关系:
其中,为总体误差,为第四平衡超参数,为所述总体分类损失,为所述域内对比学习损失,为所述因果图对比一致性损失。
CN202311703839.7A 2023-12-13 2023-12-13 一种基于因果结构的无监督域适应多元时间序列分类方法 Active CN117688472B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202311703839.7A CN117688472B (zh) 2023-12-13 2023-12-13 一种基于因果结构的无监督域适应多元时间序列分类方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202311703839.7A CN117688472B (zh) 2023-12-13 2023-12-13 一种基于因果结构的无监督域适应多元时间序列分类方法

Publications (2)

Publication Number Publication Date
CN117688472A CN117688472A (zh) 2024-03-12
CN117688472B true CN117688472B (zh) 2024-05-24

Family

ID=90138595

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202311703839.7A Active CN117688472B (zh) 2023-12-13 2023-12-13 一种基于因果结构的无监督域适应多元时间序列分类方法

Country Status (1)

Country Link
CN (1) CN117688472B (zh)

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109993281A (zh) * 2019-03-28 2019-07-09 北京工业大学 一种基于深度学习的因果关系挖掘方法
CN113837358A (zh) * 2021-08-25 2021-12-24 润联软件系统(深圳)有限公司 基于格兰杰因果关系的系统策略预测方法及相关设备
CN114090770A (zh) * 2021-10-19 2022-02-25 杭州电子科技大学 一种多阶段的无监督域适应因果关系识别方法
CN116257667A (zh) * 2023-03-09 2023-06-13 重庆邮电大学 一种面向多元时间序列的因果关系可视分析方法
CN116450399A (zh) * 2023-06-13 2023-07-18 西华大学 微服务系统故障诊断及根因定位方法
CN116522138A (zh) * 2023-04-23 2023-08-01 哈尔滨工业大学 一种基于弱监督集成的多元时间序列异常检测方法及系统
CN117115547A (zh) * 2023-09-05 2023-11-24 云南大学 基于自监督学习与自训练机制的跨域长尾图像分类方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4381361B2 (ja) * 2005-08-31 2009-12-09 株式会社東芝 時系列データ分析装置、時系列データ分析方法、及び時系列データ分析プログラム
CN111814871B (zh) * 2020-06-13 2024-02-09 浙江大学 一种基于可靠权重最优传输的图像分类方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109993281A (zh) * 2019-03-28 2019-07-09 北京工业大学 一种基于深度学习的因果关系挖掘方法
CN113837358A (zh) * 2021-08-25 2021-12-24 润联软件系统(深圳)有限公司 基于格兰杰因果关系的系统策略预测方法及相关设备
CN114090770A (zh) * 2021-10-19 2022-02-25 杭州电子科技大学 一种多阶段的无监督域适应因果关系识别方法
CN116257667A (zh) * 2023-03-09 2023-06-13 重庆邮电大学 一种面向多元时间序列的因果关系可视分析方法
CN116522138A (zh) * 2023-04-23 2023-08-01 哈尔滨工业大学 一种基于弱监督集成的多元时间序列异常检测方法及系统
CN116450399A (zh) * 2023-06-13 2023-07-18 西华大学 微服务系统故障诊断及根因定位方法
CN117115547A (zh) * 2023-09-05 2023-11-24 云南大学 基于自监督学习与自训练机制的跨域长尾图像分类方法

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
Khoshnevisan, F. ; Zhewen Fan.RSM-GAN: A Convolutional Recurrent GAN for Anomaly Detection in Contaminated Seasonal Multivariate Time Series. arXiv.2019,全文. *
Nan Zhang ; Shiliang Sun. Multiview Unsupervised Shapelet Learning for Multivariate Time Series Clustering.IEEE Transactions on Pattern Analysis and Machine Intelligence.2022,全文. *
基于高斯过程的动态系统研究;赵静;中国优秀博士学位论文全文数据库;20160815;全文 *
混沌时间序列分析与预测研究综述;韩敏;任伟杰;李柏松;冯守渤;;信息与控制;20200215(01);全文 *

Also Published As

Publication number Publication date
CN117688472A (zh) 2024-03-12

Similar Documents

Publication Publication Date Title
Wu et al. Discovering invariant rationales for graph neural networks
Mukherjee et al. Deep learning-based multilabel classification for locational detection of false data injection attack in smart grids
CN109934261B (zh) 一种知识驱动参数传播模型及其少样本学习方法
CN113326731B (zh) 一种基于动量网络指导的跨域行人重识别方法
CN108399428A (zh) 一种基于迹比准则的三元组损失函数设计方法
CN111783540B (zh) 一种视频中人体行为识别方法和系统
Guh* et al. On-line identification of control chart patterns using self-organizing approaches
CN112633478A (zh) 一种基于本体语义的图卷积网络学习模型的构建
Xia et al. Deciphering spatio-temporal graph forecasting: A causal lens and treatment
Lee et al. Visual question answering over scene graph
CN114500325B (zh) 一种基于无监督迁移学习的sdn控制器故障自适应智能检测方法
CN115688871A (zh) 基于预训练增强的多元时间序列预测方法及系统
CN116781346A (zh) 基于数据增强的卷积双向长短期记忆网络入侵检测方法
Xingrong Research on time series data mining algorithm based on Bayesian node incremental decision tree
Chen et al. A new view of multisensor data fusion: research on generalized fusion
CN115455146A (zh) 基于Transformer深度强化学习的知识图谱多跳推理方法
Siminski An outlier-robust neuro-fuzzy system for classification and regression
Cao et al. Deep multi-task learning model for time series prediction in wireless communication
CN112965968B (zh) 一种基于注意力机制的异构数据模式匹配方法
Bae et al. Safe semi-supervised learning using a bayesian neural network
CN112307914B (zh) 一种基于文本信息指导的开放域图像内容识别方法
CN117688472B (zh) 一种基于因果结构的无监督域适应多元时间序列分类方法
CN115174263B (zh) 攻击路径动态决策方法与装置
CN112927248B (zh) 一种基于局部特征增强和条件随机场的点云分割方法
Li et al. Learning node embedding for inductive link prediction in sparse observation network

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant