CN117828536B - 节点交互的预测方法、模型、终端及介质 - Google Patents

节点交互的预测方法、模型、终端及介质 Download PDF

Info

Publication number
CN117828536B
CN117828536B CN202410238511.0A CN202410238511A CN117828536B CN 117828536 B CN117828536 B CN 117828536B CN 202410238511 A CN202410238511 A CN 202410238511A CN 117828536 B CN117828536 B CN 117828536B
Authority
CN
China
Prior art keywords
node
interaction
frequency
features
time
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202410238511.0A
Other languages
English (en)
Other versions
CN117828536A (zh
Inventor
齐逸岩
田宇星
幺宝刚
郭健
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
International Digital Economy Academy IDEA
Original Assignee
International Digital Economy Academy IDEA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by International Digital Economy Academy IDEA filed Critical International Digital Economy Academy IDEA
Priority to CN202410238511.0A priority Critical patent/CN117828536B/zh
Publication of CN117828536A publication Critical patent/CN117828536A/zh
Application granted granted Critical
Publication of CN117828536B publication Critical patent/CN117828536B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/25Fusion techniques
    • G06F18/253Fusion techniques of extracted features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/213Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Molecular Biology (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Health & Medical Sciences (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开了一种节点交互的预测方法、模型、终端及介质,所述方法包括:基于连续时间动态图,获取目标节点对中每个节点在t时刻的预设历史时长内发生交互的历史邻居节点序列;提取历史邻居节点序列的特征,获得原始特征;统计节点的交互频率,获得交互频率特征;对齐原始特征和交互频率特征,获得对齐嵌入表征,对对齐嵌入表征特征在频域上进行频率增强,获得频域融合特征;基于目标节点对中所有节点的频域融合特征,预测目标节点对中的节点之间在t时刻的交互概率,获得交互预测结果。能够捕获邻居节点当中共同出现的频率,解决频域中存在的“移位”现象,交互预测更加精准。

Description

节点交互的预测方法、模型、终端及介质
技术领域
本发明涉及人工智能技术领域,尤其涉及的是一种节点交互的预测方法、模型、终端及介质。
背景技术
时间动态图已被广泛应用于社交网络分析、药物发现和推荐系统中,在上述场景中,需要根据时间动态图的历史拓扑结构预测节点之间未来时刻的交互,例如:在推荐系统中,通过分析用户和物品之间的关系变化,为用户提供更准确的推荐;在社交网络关系预测中,分析用户之间的通信历史、生活状态和环境等因素,更好地预测未来关系的变化。
目前的预测方法主要通过对各个节点分别进行建模,然后利用循环神经网络或自注意力机制来预测节点之间的交互。由于对节点分开建模,忽略了历史拓扑结构中各节点之间的关联信息;而自注意力机制相当于低通滤波器,会将高频信息视为噪声,很难捕捉到普遍存在于时间动态数据的“移位”现象(如用户浏览短视频时从运动类别转移到萌宠类别),导致预测不够精准。
发明内容
本发明的主要目的在于提供一种节点交互的预测方法、交互预测模型、智能终端及计算机可读存储介质,能够解决目前交互预测不够精准的问题。
为了实现上述目的,本发明第一方面提供一种节点交互的预测方法,所述方法包括:
在连续时间动态图中获取目标节点对中每个节点在t时刻的预设历史时长内发生交互的历史邻居节点序列,提取所述历史邻居节点序列的特征,获得目标节点对中每个节点的原始特征;
基于所述历史邻居节点序列,统计目标节点对中每个节点的交互频率,获得每个节点的交互频率特征;
对齐所述原始特征和所述交互频率特征,获得所述目标节点对中每个节点的对齐嵌入表征;
将所述目标节点对中每个节点的对齐嵌入表征分别进行频率增强,获得所述目标节点对中每个节点的频域融合特征;
基于所述目标节点对中所有节点的频域融合特征,预测所述目标节点对中的节点之间在t时刻的交互概率。
可选的,所述对齐所述原始特征和所述交互频率特征,获得所述目标节点对中每个节点的对齐嵌入表征,包括:
将所述原始特征和所述交互频率特征通过线性层网络映射为预设维度的向量,获得所述目标节点对中每个节点的对齐嵌入表征。
可选的,所述每个节点的原始特征包括节点特征、边特征和时间戳特征,提取所述历史邻居节点序列的特征,获得目标节点对中每个节点的原始特征,包括:
对每个节点的历史邻居节点序列的节点数据、边数据分别进行编码,获得每个节点的所述节点特征、所述边特征;
采用时间编码函数对所述目标节点对中的节点与所述历史邻居节点序列中的节点发生交互的时间戳进行编码,获得所述时间戳特征。
可选的,所述采用时间编码函数对所述目标节点对中的节点与所述历史邻居节点序列中的节点发生交互的时间戳进行编码,获得所述时间戳特征,包括:
根据所述目标节点对中的节点与所述历史邻居节点序列中的节点发生交互的时刻和t时刻,获得所述历史邻居节点序列中各个节点对应的相对时间戳;
采用时间编码函数将所有的所述相对时间戳映射为向量,获得所述时间戳特征。
可选的,基于所述历史邻居节点序列,统计目标节点对中每个节点的交互频率,获得每个节点的交互频率特征,包括:
基于所述历史邻居节点序列,统计所述目标节点对中所有节点与其他节点的交互次数,获得所述目标节点对中每个节点的交互频率;
对所述交互频率进行编码,获得所述目标节点对中每个节点的所述交互频率特征。
可选的,所述将所述目标节点对中每个节点的对齐嵌入表征分别进行频率增强,包括:
对所述对齐嵌入表征进行快速傅里叶变换,获得频域特征;
将所述频域特征乘以可学习的频率向量以增强频域信息,获得增强特征;
采用逆快速傅里叶变换将所述增强特征从频域变换为时域,获得时域特征;
对所述时域特征进行残差操作,获得增强后的对齐嵌入表征。
可选的,所述获得所述目标节点对中每个节点的频域融合特征,包括:
将所述增强后的对齐嵌入表征输入多层感知机混合网络进行列混合和行混合,对混合后特征在通道维度上进行加权聚合,获得所述目标节点对中每个节点的频域融合特征。
本发明第二方面提供一种节点交互的预测模型,所述模型包括:
原始特征编码模块,用于在连续时间动态图中获取目标节点对中每个节点在t时刻的预设历史时长内发生交互的历史邻居节点序列,提取所述历史邻居节点序列的特征,获得目标节点对中每个节点的原始特征;
节点交互频率编码模块,用于基于所述历史邻居节点序列,统计目标节点对中每个节点的交互频率,获得每个节点的交互频率特征;
对齐模块,用于对齐所述原始特征和所述交互频率特征,获得所述目标节点对中每个节点的对齐嵌入表征;
频域融合模块,用于将所述目标节点对中每个节点的对齐嵌入表征分别进行频率增强,获得所述目标节点对中每个节点的频域融合特征;
预测模块,用于基于所述目标节点对中所有节点的频域融合特征,预测所述目标节点对中的节点之间在t时刻的交互概率。
可选的,所述频域融合模块包括基于频率自适应的增强网络,所述基于频率自适应的增强网络用于对所述对齐嵌入表征进行快速傅里叶变换,获得频域特征,将所述频域特征乘以可学习的频率向量以增强频域信息,获得增强特征,采用逆快速傅里叶变换将所述增强特征从频域变换为时域,获得时域特征,对所述时域特征进行残差操作,获得增强后的对齐嵌入表征。
可选的,所述节点交互频率编码模块包括节点交互频率单元和编码单元,所述节点交互频率单元用于基于所述历史邻居节点序列,统计所述目标节点对中所有节点与其他节点的交互次数,获得所述目标节点对中每个节点的交互频率;所述编码单元用于对所述交互频率进行编码,获得所述目标节点对中每个节点的所述交互频率特征。
可选的,所述原始特征编码模块包括节点特征编码单元、边特征编码单元和时间戳特征编码单元,所述节点特征编码单元用于编码所述历史邻居节点序列的节点数据,获得所述节点特征;所述边特征编码单元用于编码所述历史邻居节点序列的边数据,获得所述边特征;所述时间戳特征编码单元用于采用时间编码函数对所述目标节点对中的节点与所述历史邻居节点序列中的节点发生交互的时间戳进行编码,获得所述时间戳特征。
可选的,训练所述预测模型时,根据所述交互概率和连续时间动态图中t时刻实际发生交互的样本数据计算损失值,根据所述损失值迭代训练所述预测模型,所述样本数据中设有负样本。
本发明第三方面提供一种智能终端,上述智能终端包括存储器、处理器,所述存储器上存储有任意一项上述节点交互的预测模型和/或可在所述处理器上运行的节点交互的预测程序;所述节点交互的预测程序被所述处理器执行时实现任意一项上述节点交互的预测方法的步骤。
本发明第四方面提供一种计算机可读存储介质,上述计算机可读存储介质上存储有任意一项上述节点交互的预测模型和/或节点交互的预测程序,上述节点交互的预测程序被处理器执行时实现任意一项上述节点交互的预测方法的步骤。
由上可见,本发明通过编码目标节点对中的节点的交互频率,能够捕捉节点对中的节点与邻居节点中共同出现交互的频率,提取表征历史序列之间联系的特征,并对频率自适应增强,使得交互预测更加精准。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其它的附图。
图1是本发明实施例提供的节点交互的预测方法流程示意图;
图2是连续时间动态图的图结构示意图;
图3是本发明实施例提供的获得原始特征的流程示意图;
图4是本发明实施例提供的交互预测功能框图;
图5是本发明实施例提供的获得交互频率特征的流程示意图;
图6是本发明实施例提供的对对齐嵌入表征进行频率增强的流程示意图;
图7是本发明实施例提供的节点交互的预测模型的功能框图;
图8是本发明实施例提供的一种智能终端的内部结构原理框图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、技术之类的具体细节,以便透彻理解本发明实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本发明。在其它情况下,省略对众所周知的系统、装置、电路以及方法的详细说明,以免不必要的细节妨碍本发明的描述。
应当理解,当在本说明书和所附权利要求书中使用时,术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解,在本发明说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本发明。如在本发明说明书和所附权利要求书中所使用的那样,除非上下文清楚地指明其它情况,否则单数形式的“一”、“一个”及“该”意在包括复数形式。
还应当进一步理解,在本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
如在本说明书和所附权利要求书中所使用的那样,术语“如果”可以依据上下文被解释为“当…时”或“一旦”或“响应于确定”或“响应于检测到”。
下面结合本发明实施例的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明的一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例,都属于本发明保护的范围。
在下面的描述中阐述了很多具体细节以便于充分理解本发明,但是本发明还可以采用其它不同于在此描述的其它方式来实施,本领域技术人员可以在不违背本发明内涵的情况下做类似推广,因此本发明不受下面公开的具体实施例的限制。
在社交网络、交通网络、药物发现和推荐系统等应用中,需要对时间动态图上两个节点之间是否会进行交互进行预测,表现在时间动态图上就是对时间动态图上两个节点之间是否会建立链接进行预测,因此,交互预测又称为链接预测。例如:在推荐系统中进行链接预测,能够进行购物软件的商品推荐、短视频软件的视频推荐以及直播推荐等;在社交网络平台中进行链接预测,可以帮助社交网络平台预测用户之间新的社交关系,从而为社交网络分析提供支持;对药物进行链接预测,能够帮助预测蛋白质或基因之间的新的相互作用关系,从而为药物设计、疾病治疗等提供支持。
时间动态图包括:离散时间动态图和连续时间动态图。采用离散时间动态图进行预测时,首先需要从原始的动态图形数据中生成一系列离散的图形快照,然后融合从不同快照中提取的信息。但由于时间离散化,往往存在信息丢失的问题。因此,本发明采用了连续时间动态图,将动态图数据视为一系列连续发生的事件,能够更有效地保存时间信息,得到更高的预测准确率。
为了使得交互预测更加精准,本发明还考虑到频域上的信息,针对需要进行交互预测的由源节点和目标节点构成的节点对(以下简称为目标节点对),显式地从源节点和目标节点捕获邻居节点当中共同出现交互的频率,能够更好地建模节点对的交互频率信息,并采用了基于频率自适应增强的MLP-Mixer(Multi-Layer Perceptron -Mixer:多层感知机混合)网络,捕获周期时间模式(在一定时间内出现重复的模式或趋势)来解决频域中存在的“移位”现象,生成更准确的节点表征用于链接预测任务,使得预测更加精准。
本实施例提供了一种节点交互的预测方法,应用于购物软件上,通过预测连续时间动态图上的链接来进行商品推荐。但本发明的交互预测方法并不限于购物推荐场景,还可以应用于短视频软件进行视频推荐,也可以应用于直播软件进行直播推荐等;也可以应用于社交分析软件、药物分析软件和交通分析软件等。
如图1所示,具体步骤包括:
步骤S100:在连续时间动态图中获取目标节点对中每个节点在t时刻的预设历史时长内发生交互的历史邻居节点序列,提取历史邻居节点序列的特征,获得目标节点对中每个节点的原始特征;
连续时间动态图的图结构如图2所示,图结构在连续时间段内是动态变化的。构建连续时间动态图时,首先收集目标场景的历史交互事件数据,如时间戳、参与者信息、交互类型、交互内容等,然后对历史交互事件数据进行时间序列分析,以识别事件之间的关联性和时间上的趋势,再采用图论方法构建连续时间动态图。其中,连续时间动态图的构建方法为与图网络相关的通用技术手段,在此不再赘述。
连续时间动态图中需要进行交互预测的两个节点构成目标节点对,根据时刻之前预设历史时长(如/>-/>,/>>/>)在连续时间动态图中采样目标节点对中每个节点的历史邻居交互节点,获得目标节点对中每个节点的历史邻居节点序列。以节点u为例,节点u的历史邻居交互节点为历史时刻(即/>时刻之前一段预设历史时长内)与节点u之间存在交互的节点,历史邻居交互节点属于邻居节点,所有历史邻居交互节点构成历史邻居节点序列,表示为:/>,历史邻居节点序列为邻居节点集合的子集,基于时间戳t按时间顺序倒排,长度为预设历史长度L。如果节点u的历史邻居少于L,则使用零填充来填补历史邻居节点序列。
将连续时间动态图表示为按照时间顺序发生的一系列节点对之间相互作用事件:,其中/>表示时间戳,节点对表示在时间戳/>时刻发生交互的节点id,/>表示整个节点集,/>中的每个节点u都有节点特征/>,并且每个交互/>都存在边特征/>,其中,/>分别表示节点的维度和边特征的维度。
从历史邻居节点序列中读取节点数据、边数据和时间戳数据,对这些数据进行编码,获得目标节点对中每个节点的原始特征。原始特征中包括节点特征、边特征和时间戳特征。如历史邻居节点序列,节点数据为:/>,边数据则为节点u与节点/>的链接,时间戳数据则为节点u与节点/>交互的时刻。
如图3所示,在一个实施例中,获得原始特征的具体步骤包括:
步骤S110:对每个节点的历史邻居节点序列的节点数据、边数据分别进行编码,获得每个节点的节点特征、边特征;
步骤S120:采用时间编码函数对目标节点对中的节点与历史邻居节点序列中的节点发生交互的时间戳进行编码,获得时间戳特征;
参考图4,以预测节点u和节点之间的交互为例,则目标节点对为/>,首先编码节点u对应的历史邻居节点序列中的节点数据和边数据,获得节点u的节点特征和边特征。然后采用时间编码函数编码节点u对应的历史邻居节点序列中的每个节点与节点u发生交互的时间戳,获得节点u的时间戳特征。节点u的节点特征、边特征和时间戳特征一起构成节点u的原始特征。同理,编码节点/>对应的历史邻居节点序列中的节点数据和边数据,获得节点/>的节点特征和边特征;采用时间编码函数编码节点/>对应的历史邻居节点序列中的每个节点与节点/>发生交互的时间戳,获得节点/>的时间戳特征。节点/>的节点特征、边特征和时间戳特征一起构成节点/>的原始特征。
具体地,可以根据用于图网络的编码方法进行编码,例如:针对节点数据,可以采用图嵌入算法进行编码,获得节点特征:;针对边数据,可以采用路径编码或距离编码,获得边特征:/>,其中,/>表示节点,例如节点u或者节点/>。针对时间戳,利用广泛采用的时间编码函数/>将时间戳映射为向量,获得时间戳特征:,其中,/>为时间特征向量的维度,/>用于对时间戳进行编码,/>,/>为超参数,使/>在当/>接近/>时接近0。在实际训练中,/>保持不变,并且在训练阶段不更新。
本实施例中是对相对时间戳进行编码而不是对绝对时间戳进行编码,能够更加关注时间间隔的长度,使得时间戳信息更加准确。具体地,根据目标节点对中的节点与历史邻居节点序列中的节点发生交互的时刻和时刻,获得历史邻居节点序列中各个节点对应的相对时间戳,再采用时间编码函数将所有的相对时间戳映射为向量,获得时间戳特征。以节点u为例,假定节点u对应的历史邻居节点序列为/>,假设节点/>与节点u发生交互的时刻为/>,则节点/>的相对时间戳为/>;假设节点/>与节点u发生交互的时刻为/>,则节点/>的相对时间戳为/>。然后采用时间编码函数将节点u对应的历史邻居节点序列中所有节点的相对时间戳映射为向量,获得节点u的时间戳特征。
步骤S200:基于历史邻居节点序列,统计目标节点对中每个节点的交互频率,获得每个节点的交互频率特征;
目前进行交互预测时是对节点分开建模,没有考虑历史拓扑结构中节点之间的关联。针对该问题,本实施例根据节点的历史邻居节点序列来统计节点的交互频率,获得目标节点对中每个节点的交互频率特征,能够捕捉邻居节点中共同出现的频率,更好地建模节点对的交互频率信息,提取两个节点之间的关联性。
例如:节点u的交互频率特征用来表征节点u的每个历史邻居交互节点分别与节点u和节点v的交互频率。交互频率的计算方法不限,本实施例中简单地统计了节点出现次数作为交互频率。
具体地,如图5所示,本实施例中获得交互频率特征的具体步骤包括:
步骤S210:基于历史邻居节点序列,统计目标节点对中所有节点与其他节点的交互次数,获得目标节点对中每个节点的交互频率;
步骤S220:对交互频率进行编码,获得目标节点对中每个节点的交互频率特征。
假设预设历史时长的长度L为5,节点u的历史邻居节点序列为和/>,则可以统计出c、d在/>的历史邻居节点序列中的出现频率分别为2/1、1/2(即c在/>中出现2次、在/>中出现1次;d在/>中出现1次、在/>中出现2次)。节点对相互作用频率为[2,2],即在/>中出现2次v、在/>中出现2次u。对uv的历史邻居节点序列中的每一个节点进行上述出现次数的统计,则得到uv的交互频率,分别表示为:/>,其中,/>中/>分别为/>中c,v,c,d,v等节点的交互频率;/>中/>分别为中d,u,d,c,u等节点的交互频率。然后,对交互频率进行编码得到交互频率特征:。/>的输入和输出维度分别是1和/>,/>为带有激活函数(如ReLU)的两层MLP网络实现,/>表示取矩阵/>的所有行的第一列元素,/>表示取矩阵/>的所有行的第二列元素。其中,/>表示节点u或者节点v
通过编码节点的交互频率,能够在交互频率特征中表征历史序列之间的联系,为交互预测提供更有效的特征信息,预测更精准。
步骤S300:对齐原始特征和交互频率特征,获得目标节点对中每个节点的对齐嵌入表征;
采用线性层网络将步骤S100得到的原始特征(包括节点特征、边特征/>和时间戳特征/>)和步骤S200得到的交互频率特征/>映射到预设维度d的向量中,获得对齐嵌入表征/>。其中,输入线性层网络的特征为:,其中,/>和/>分别为节点u和节点v的输入特征,/> />分别为节点u和节点v的节点特征,/> />分别为节点u和节点v的边特征,/> />分布为节点u和节点v的时间戳特征,/> />为分别为节点u和节点v的交互频率特征。
步骤S400:将目标节点对中每个节点的对齐嵌入表征特征分别进行频率增强,获得目标节点对中每个节点的频域融合特征;
针对目标节点对中每个节点的对齐嵌入表征,首先通过时域转换为频域的算法(如傅里叶变换、小波变换)将对齐嵌入表征从时域转换为频域,然后采用频率域增强算法对频谱进行调整和增强后,再转换为时域,获得增强后的对齐嵌入表征。
具体地,如图6所示,本实施例中,对对齐嵌入表征进行频率增强的具体步骤包括:
步骤S410:对对齐嵌入表征进行快速傅里叶变换,获得频域特征;
步骤S420:将频域特征乘以可学习的频率向量以增强频域信息,获得增强特征;
步骤S430:采用逆快速傅里叶变换将增强特征从频域变换为时域,获得时域特征;
步骤S440:对时域特征进行残差操作,获得增强后的对齐嵌入表征。
具体地,对齐嵌入表征是一个特征矩阵,包括行特征、列特征,行特征是时长L的历史节点序列token,列特征是d维嵌入向量channel;首先对对齐嵌入表征的行特征执行快速傅里叶变换(FFT):/>,将/>从时域转换到频域,获得频域特征:;然后,通过将频域特征乘以一个可学习的频率向量/>来自适应增强频域信息,获得增强特征:/>;使用逆FFT将增强特征从频域变换回时域,获得时域特征:/>;最后,结合跳跃连接层对时域特征进行残差操作,并采用层归一化和dropout操作来缓解潜在梯度消失和训练不稳定的问题,获得增强后的对齐嵌入表征:/>
将增强后的对齐嵌入表征输入MLP-Mixer网络(多层感知机混合网络),捕获非线性特征,进行列混合(即空间位置维度混合)和行混合(即通道维度混合),获得目标节点对中每个节点的混合后特征。具体地,首先在多层感知机混合网络中利用多层感知机进行空间位置维度混合(即列混合),具体表达式为:
再在多层感知机混合网络中利用多层感知机进行通道维度混合(即行混合),具体表达式为:
其中,和/>分别是token列混合和通道行混合时的可训练参数,以相同的列特征混合机制作用于对齐嵌入表征的每一行token上,相同的行特征混合机制作用于输入数据的每一列通道上。
本实施例中,最后还使用一个加权聚合操作使混合后特征映射到/>,有效降低混合后特征的通道维度,不改变token维度,得到频域融合特征/>
其中,为加权聚合权重。
通过进行频率自适应增强,在连续时间动态图对节点表征的计算过程中考虑了频域信息,再采用多层感知机混合网络进行空间混合和通道混合,可以使得到的节点表征更精确用于链接预测任务,更好的捕获时序当中的周期性,解决频域中存在的“移位”现象。
步骤S500:基于目标节点对中所有节点的频域融合特征,预测目标节点对中的节点之间在t时刻的交互概率。
得到频域融合特征后,输入链接预测层预测目标节点对在t时刻的交互概率,根据交互概率获得t时刻目标节点对的交互预测结果。其中,预测交互概率的表达式为:
根据目标场景的不同,获得的交互预测结果也不同。例如:本实施例中,参考图2所示,假定节点u和节点v分别为一种商品,当前时刻为t10,可以对t10时刻下节点u和节点v之间的链接进行预测,当预测节点u和节点v之间需要建立链接时,则可以在节点u对应的商品页面上显示节点v对应的商品链接,从而向用户推荐节点v对应的商品,此时,节点u为源节点,节点v为目标节点,节点u和节点v构成目标节点对。此时的交互预测结果为在目标节点对中一个节点对应的商品页面上显示另一个节点的商品链接。
在一个实施例中,用户与推文进行交互并相互关注的动态网络,交互预测结果用于决定用户会喜欢哪些推文、或者他们会关注谁等。例如:在时刻t,节点i和j之间具有边的概率是多少?根据概率的高低来建议社交网络用户关注谁、或者决定显示哪些内容。此时的交互预测结果为向社交网络用户推荐另一个用户。
综上所述,本实施例通过编码目标节点对中节点之间的交互频率,能够捕捉邻居节点中共同出现的频率,提取表征历史序列之间联系的特征,并对频率自适应增强和采用多层感知机混合网络进行列混合和行混合,能够更好的捕获时序当中的周期性,解决频域中存在的“移位”现象,使得交互预测更加精准。
基于上述节点交互的预测方法,本实施例构建了一种节点交互的预测模型,部署于购物软件中进行商品推荐。如图7所示,预测模型包括:
原始特征编码模块600,用于在连续时间动态图中获取目标节点对中每个节点在t时刻的预设历史时长内发生交互的历史邻居节点序列,提取所述历史邻居节点序列的特征,获得目标节点对中每个节点的原始特征;
节点交互频率编码模块610,用于基于所述历史邻居节点序列,统计目标节点对中每个节点的交互频率,获得每个节点的交互频率特征;
对齐模块620,用于对齐所述原始特征和所述交互频率特征,获得所述目标节点对中每个节点的对齐嵌入表征;
频域融合模块630,用于对所述目标节点对中每个节点的对齐嵌入表征分别进行频率增强,获得所述目标节点对中每个节点的频域融合特征;
预测模块640,用于基于所述目标节点对中所有节点的频域融合特征,预测所述目标节点对中的节点之间在t时刻的交互概率。
可选的,所述频域融合模块包括基于频率自适应的增强网络,所述基于频率自适应的增强网络用于对所述对齐嵌入表征进行快速傅里叶变换,获得频域特征,将所述频域特征乘以可学习的频率向量以增强频域信息,获得增强特征,采用逆快速傅里叶变换将所述增强特征从频域变换为时域,获得时域特征,对所述时域特征进行残差操作,获得所述增强后的对齐嵌入表征。
可选的,所述节点交互频率编码模块包括节点交互频率单元和编码单元,所述节点交互频率单元用于基于所述历史邻居节点序列,统计所述目标节点对中所有节点与其他节点的交互次数,获得所述目标节点对中每个节点的交互频率;所述编码单元用于对所述交互频率进行编码,获得所述目标节点对中每个节点的所述交互频率特征。
可选的,所述原始特征编码模块包括节点特征编码单元、边特征编码单元和时间戳特征编码单元,所述节点特征编码单元用于编码所述历史邻居节点序列的节点数据,获得所述节点特征;所述边特征编码单元用于编码所述历史邻居节点序列的边数据,获得所述边特征;所述时间戳特征编码单元用于采用时间编码函数对所述目标节点对中的节点与所述历史邻居节点序列中的节点发生交互的时间戳进行编码,获得所述时间戳特征。
参考图4所示,编码层中设置了上述原始特征编码模块和节点交互频率编码模块,原始特征编码模块用于编码连续时间动态图数据上的原始特征信息;节点交互频率编码模块用于编码节点对的交互频率信息。基于频率增强的MLP-Mixer层中设置有频域融合模块,频域融合模块包括基于频率自适应的增强网络和多层感知机混合网络,用于自适应增强历史邻居节点序列的嵌入,输入频域融合模块的数据为原始特征编码模块和节点交互频率编码模块编码特征对齐后的嵌入。
可选的,训练所述预测模型时,根据所述交互概率和连续时间动态图中t时刻实际发生交互的样本数据计算损失值,根据所述损失值迭代训练所述预测模型,所述样本数据中设有负样本。
节点交互预测的模型在使用前先进行网络训练,训练完成后,就可以将交互预测模型部署于软件中以预测节点交互的概率,例如部署于购物软件中进行商品推荐。训练时,使用预测的交互概率与连续时间动态图中实际发生交互的样本数据计算损失值,根据损失值迭代训练预测模型。损失函数具体表达式为:
其中,S为样本总数,为第i个交互样本的标签(是否发生交互,发生为1,不发生为0),/>为预测值,K为样本数据中负样本的个数。
经过在七个广泛使用的现实世界连续时间动态图数据集上进行广泛的实验,评估了转导、归纳设置和三种负采样方法,本实施例的交互预测模型比采用循环神经网络或自注意力机制的交互预测模型在AP(Average Precision:平均精度),AUC-ROC(Area Underthe Receiver Operating Characteristic Curve:ROC曲线下的面积)指标上平均可以提升5%。
具体的,本实施例中,上述节点交互的预测模型的各模块的具体功能可以参照上述节点交互的预测方法中的对应描述,在此不再赘述。
基于上述实施例,如图8所示,本发明还提供了一种智能终端,上述智能终端包括通过系统总线连接的处理器、存储器、网络接口以及显示屏。其中,该智能终端的处理器用于提供计算和控制能力。该智能终端的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统和节点交互的预测程序和/或节点交互的预测模型。该内存储器为非易失性存储介质中的操作系统和节点交互的预测程序的运行提供环境。该智能终端的网络接口用于与外部的终端通过网络连接通信。该节点交互的预测程序被处理器执行时实现上述任意一种节点交互的预测方法的步骤。该智能终端的显示屏可以是液晶显示屏或者电子墨水显示屏。
本发明实施例还提供一种计算机可读存储介质,上述计算机可读存储介质上存储有节点交互的预测程序和/或节点交互的预测模型,上述节点交互的预测程序被处理器执行时实现本发明实施例提供的任意一种节点交互的预测方法的步骤。
应理解,上述实施例中各步骤的序号大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本发明实施例的实施过程构成任何限定。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将上述装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本发明的保护范围。上述系统中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各实例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟是以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
在本发明所提供的实施例中,应该理解到,所揭露的装置/终端设备和方法,可以通过其它的方式实现。例如,以上所描述的装置/终端设备实施例仅仅是示意性的,例如,上述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以由另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。
上述集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读存储介质中。基于这样的理解,本发明实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,上述计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,上述计算机程序包括计算机程序代码,上述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。上述计算机可读介质可以包括:能够携带上述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,RandomAccess Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是,上述计算机可读存储介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减。
以上所述实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解;其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不是相应技术方案的本质脱离本发明各实施例技术方案的精神和范围,均应包含在本发明的保护范围之内。

Claims (13)

1.一种节点交互的预测方法,其特征在于,所述方法包括:
在连续时间动态图中获取目标节点对中每个节点在t时刻的预设历史时长内发生交互的历史邻居节点序列,提取所述历史邻居节点序列的特征,获得目标节点对中每个节点的原始特征;
基于所述历史邻居节点序列,统计目标节点对中每个节点的交互频率,获得每个节点的交互频率特征;
对齐所述原始特征和所述交互频率特征,获得所述目标节点对中每个节点的对齐嵌入表征;
将所述目标节点对中每个节点的对齐嵌入表征分别进行频率增强,获得所述目标节点对中每个节点的频域融合特征;
基于所述目标节点对中所有节点的频域融合特征,预测所述目标节点对中的节点之间在t时刻的交互概率;
所述将所述目标节点对中每个节点的对齐嵌入表征分别进行频率增强,包括:
对所述对齐嵌入表征进行快速傅里叶变换,获得频域特征;将所述频域特征乘以可学习的频率向量以增强频域信息,获得增强特征;采用逆快速傅里叶变换将所述增强特征从频域变换为时域,获得时域特征;对所述时域特征进行残差操作,获得增强后的对齐嵌入表征。
2.如权利要求1所述的节点交互的预测方法,其特征在于,所述对齐所述原始特征和所述交互频率特征,获得所述目标节点对中每个节点的对齐嵌入表征,包括:
将所述原始特征和所述交互频率特征通过线性层网络映射为预设维度的向量,获得所述目标节点对中每个节点的对齐嵌入表征。
3.如权利要求1所述的节点交互的预测方法,其特征在于,所述每个节点的原始特征包括节点特征、边特征和时间戳特征,提取所述历史邻居节点序列的特征,获得目标节点对中每个节点的原始特征,包括:
对每个节点的历史邻居节点序列的节点数据、边数据分别进行编码,获得每个节点的所述节点特征、所述边特征;
采用时间编码函数对所述目标节点对中的节点与所述历史邻居节点序列中的节点发生交互的时间戳进行编码,获得所述时间戳特征。
4.如权利要求3所述的节点交互的预测方法,其特征在于,所述采用时间编码函数对所述目标节点对中的节点与所述历史邻居节点序列中的节点发生交互的时间戳进行编码,获得所述时间戳特征,包括:
根据所述目标节点对中的节点与所述历史邻居节点序列中的节点发生交互的时刻和t时刻,获得所述历史邻居节点序列中各个节点对应的相对时间戳;
采用时间编码函数将所有的所述相对时间戳映射为向量,获得所述时间戳特征。
5.如权利要求1所述的节点交互的预测方法,其特征在于,基于所述历史邻居节点序列,统计目标节点对中每个节点的交互频率,获得每个节点的交互频率特征,包括:
基于所述历史邻居节点序列,统计所述目标节点对中所有节点与其他节点的交互次数,获得所述目标节点对中每个节点的交互频率;
对所述交互频率进行编码,获得所述目标节点对中每个节点的所述交互频率特征。
6.如权利要求1所述的节点交互的预测方法,其特征在于,所述获得所述目标节点对中每个节点的频域融合特征,包括:
将所述增强后的对齐嵌入表征输入多层感知机混合网络进行列混合和行混合,对混合后特征在通道维度上进行加权聚合,获得所述目标节点对中每个节点的频域融合特征。
7.一种节点交互的预测装置,其特征在于,包括:
原始特征编码模块,用于在连续时间动态图中获取目标节点对中每个节点在t时刻的预设历史时长内发生交互的历史邻居节点序列,提取所述历史邻居节点序列的特征,获得目标节点对中每个节点的原始特征;
节点交互频率编码模块,用于基于所述历史邻居节点序列,统计目标节点对中每个节点的交互频率,获得每个节点的交互频率特征;
对齐模块,用于对齐所述原始特征和所述交互频率特征,获得所述目标节点对中每个节点的对齐嵌入表征;
频域融合模块,用于将所述目标节点对中每个节点的对齐嵌入表征分别进行频率增强,获得所述目标节点对中每个节点的频域融合特征;所述将所述目标节点对中每个节点的对齐嵌入表征分别进行频率增强,包括:对所述对齐嵌入表征进行快速傅里叶变换,获得频域特征;将所述频域特征乘以可学习的频率向量以增强频域信息,获得增强特征;采用逆快速傅里叶变换将所述增强特征从频域变换为时域,获得时域特征;对所述时域特征进行残差操作,获得增强后的对齐嵌入表征;
预测模块,用于基于所述目标节点对中所有节点的频域融合特征,预测所述目标节点对中的节点之间在t时刻的交互概率。
8.如权利要求7所述的节点交互的预测装置,其特征在于,所述频域融合模块包括基于频率自适应的增强网络,所述基于频率自适应的增强网络用于对所述对齐嵌入表征进行快速傅里叶变换,获得频域特征,将所述频域特征乘以可学习的频率向量以增强频域信息,获得增强特征,采用逆快速傅里叶变换将所述增强特征从频域变换为时域,获得时域特征,对所述时域特征进行残差操作,获得增强后的对齐嵌入表征。
9.如权利要求7所述的节点交互的预测装置,其特征在于,所述节点交互频率编码模块包括节点交互频率单元和编码单元,所述节点交互频率单元用于基于所述历史邻居节点序列,统计所述目标节点对中所有节点与其他节点的交互次数,获得所述目标节点对中每个节点的交互频率;所述编码单元用于对所述交互频率进行编码,获得所述目标节点对中每个节点的所述交互频率特征。
10.如权利要求7所述的节点交互的预测装置,其特征在于,所述原始特征编码模块包括节点特征编码单元、边特征编码单元和时间戳特征编码单元,所述节点特征编码单元用于编码所述历史邻居节点序列的节点数据,获得所述节点特征;所述边特征编码单元用于编码所述历史邻居节点序列的边数据,获得所述边特征;所述时间戳特征编码单元用于采用时间编码函数对所述目标节点对中的节点与所述历史邻居节点序列中的节点发生交互的时间戳进行编码,获得所述时间戳特征。
11.如权利要求7所述的节点交互的预测装置,其特征在于,训练所述预测装置所包括的预测模型时,根据所述交互概率和连续时间动态图中t时刻实际发生交互的样本数据计算损失值,根据所述损失值迭代训练所述预测模型,所述样本数据中设有负样本。
12.一种智能终端,其特征在于,所述智能终端包括存储器、处理器,所述存储器上存储有如权利要求7-11任意一项所述节点交互的预测装置和/或可在所述处理器上运行的节点交互的预测程序;所述节点交互的预测程序被所述处理器执行时实现如权利要求1-6任意一项所述节点交互的预测方法的步骤。
13.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有如权利要求7-11任意一项所述节点交互的预测装置和/或节点交互的预测程序;所述节点交互的预测程序被处理器执行时实现如权利要求1-6任意一项所述节点交互的预测方法的步骤。
CN202410238511.0A 2024-03-04 2024-03-04 节点交互的预测方法、模型、终端及介质 Active CN117828536B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202410238511.0A CN117828536B (zh) 2024-03-04 2024-03-04 节点交互的预测方法、模型、终端及介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202410238511.0A CN117828536B (zh) 2024-03-04 2024-03-04 节点交互的预测方法、模型、终端及介质

Publications (2)

Publication Number Publication Date
CN117828536A CN117828536A (zh) 2024-04-05
CN117828536B true CN117828536B (zh) 2024-06-11

Family

ID=90510015

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202410238511.0A Active CN117828536B (zh) 2024-03-04 2024-03-04 节点交互的预测方法、模型、终端及介质

Country Status (1)

Country Link
CN (1) CN117828536B (zh)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114970854A (zh) * 2022-05-23 2022-08-30 中国人民解放军战略支援部队信息工程大学 一种基于时序邻域聚合的多视野动态网络链接预测方法及系统
CN114969540A (zh) * 2022-06-10 2022-08-30 重庆大学 一种社交网络中用户未来交互行为预测方法
CN115471675A (zh) * 2022-10-09 2022-12-13 许昌三维测绘有限公司 一种基于频域增强的伪装对象检测方法
CN115510277A (zh) * 2022-06-23 2022-12-23 厦门大学 连续时序交互图表示方法
CN115640337A (zh) * 2022-12-22 2023-01-24 粤港澳大湾区数字经济研究院(福田) 针对符号图网络的异常数据预测方法、系统及相关设备
CN116055342A (zh) * 2022-12-16 2023-05-02 宁波大学 一种异质动态网络的链接预测方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11868851B2 (en) * 2015-03-11 2024-01-09 Symphonyai Sensa Llc Systems and methods for predicting outcomes using a prediction learning model
US20220027722A1 (en) * 2020-07-27 2022-01-27 Adobe Inc. Deep Relational Factorization Machine Techniques for Content Usage Prediction via Multiple Interaction Types
CN113643752A (zh) * 2021-07-29 2021-11-12 北京百度网讯科技有限公司 建立药物协同作用预测模型的方法、预测方法及对应装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114970854A (zh) * 2022-05-23 2022-08-30 中国人民解放军战略支援部队信息工程大学 一种基于时序邻域聚合的多视野动态网络链接预测方法及系统
CN114969540A (zh) * 2022-06-10 2022-08-30 重庆大学 一种社交网络中用户未来交互行为预测方法
CN115510277A (zh) * 2022-06-23 2022-12-23 厦门大学 连续时序交互图表示方法
CN115471675A (zh) * 2022-10-09 2022-12-13 许昌三维测绘有限公司 一种基于频域增强的伪装对象检测方法
CN116055342A (zh) * 2022-12-16 2023-05-02 宁波大学 一种异质动态网络的链接预测方法
CN115640337A (zh) * 2022-12-22 2023-01-24 粤港澳大湾区数字经济研究院(福田) 针对符号图网络的异常数据预测方法、系统及相关设备

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
基于LSTM的跨海桥梁危化品车辆行驶轨迹预测;郭健 等;安全与环境工程;20230330;第30卷(第02期);第101-108页 *
融合项目嵌入表征与注意力机制的推荐算法;都奕冰 等;计算机工程与设计;20200316(第03期);第90-96页 *

Also Published As

Publication number Publication date
CN117828536A (zh) 2024-04-05

Similar Documents

Publication Publication Date Title
US11544535B2 (en) Graph convolutional networks with motif-based attention
Cai et al. A sample-rebalanced outlier-rejected $ k $-nearest neighbor regression model for short-term traffic flow forecasting
Veluri et al. Learning analytics using deep learning techniques for efficiently managing educational institutes
CN107578453A (zh) 压缩图像处理方法、装置、电子设备及计算机可读介质
CN109543112A (zh) 一种基于循环卷积神经网络的序列推荐方法及装置
Chen et al. Computing by modulating spontaneous cortical activity patterns as a mechanism of active visual processing
Al‐Naji et al. Quality index evaluation of videos based on fuzzy interface system
Kumagai et al. Mixture of counting CNNs
CN112288554A (zh) 商品推荐方法和装置、存储介质及电子装置
Li et al. MSFFA: a multi-scale feature fusion and attention mechanism network for crowd counting
Pérez-Ortiz et al. Network topological determinants of pathogen spread
Tripathy et al. AMS-CNN: Attentive multi-stream CNN for video-based crowd counting
Ji et al. Multi-range gated graph neural network for telecommunication fraud detection
Xiong et al. Face2Statistics: user-friendly, low-cost and effective alternative to in-vehicle sensors/monitors for drivers
Lian et al. Training deep convolutional spiking neural networks with spike probabilistic global pooling
Hu et al. Application of hybrid improved temporal convolution network model in time series prediction of river water quality
Medathati et al. Recurrent network dynamics reconciles visual motion segmentation and integration
CN117828536B (zh) 节点交互的预测方法、模型、终端及介质
Sairamya et al. Computer-aided diagnosis of epilepsy based on the time-frequency texture descriptors of EEG signals using wavelet packet decomposition and artificial neural network
Chu et al. Ahed: A heterogeneous-domain deep learning model for IoT-enabled smart health with few-labeled EEG data
Anees et al. Deep learning framework for density estimation of crowd videos
Peters et al. Dynamic clustering with soft computing
CN117077735A (zh) 基于卷积神经网络的维度相关集成服务质量预测方法
Li et al. MFAGCN: multi-feature based attention graph convolutional network for traffic prediction
CN116341976A (zh) 导航地图生产线的指标数据调整方法、装置及设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant