CN112800048A - 一种基于图表示学习的通信网用户通信记录补全方法 - Google Patents

Abstract

本发明涉及通信网分析技术，提供一种基于图表示学习的通信网用户通信记录补全方法，包括步骤：1）将需要补全的一组用户通信记录数据表示为一个三元组形式；2）将待补全的三元组输入训练好的通信记录补全模型中，输出候选元素的概率分布向量；3）选取概率最大的所对应的候选元素作为补全元素，根据补全元素确定需要补全的这一组用户通信记录中的数据。本发明将基于图表示的通信网中用户与通信关系投影到低维空间，通过语义合成方式对三元组中任意两个元素的表达进行语义组合，获取相互关联的两个用户间的语义关联以实现记录补全，解决了通信记录不完整、数据稀疏的问题。

Description

一种基于图表示学习的通信网用户通信记录补全方法

技术领域

本发明涉及通信网分析技术，特别涉及一种基于图表示学习的通信网用户通信记录补全技术。

背景技术

通信网指人们使用电子设备进行信息交流形成的网络，包括邮件网络、移动通信网等。随着终端设备的普及，通信网已成为人们信息交流的主要载体，通信用户规模不断扩大，通信数据也以指数级规模不断增长。这些通信数据蕴含着丰富的用户行为信息，反映了用户的社交关系、日常行为习惯、生活作息时间等诸多重要信息，如何利用海量通信数据分析通信用户行为特征，并有效应用于欺诈检测、服务推荐等领域，已成为当前的研究热点之一。

但在实际通信网分析过程中，由于数据收集技术等多方面的限制，往往很难获得完整的通信记录，这使得基于通信网的数据分析结果性能受限，从而成为限制通信网用户行为分析的一大瓶颈。

针对这一问题，现有研究从不同的角度构建用户行为分析模型，如用户频繁行为模式挖掘、基于生活熵的个人用户行为分类等，进一步挖掘用户行为特征，缓解实际数据的不足。然而，这些方法仅从用户行为的统计性特征角度进行建模，没有考虑用户及其通信行为在通信网拓扑结构中的语义信息，无法从根本上解决通信数据不完整的问题。

发明内容

本发明所要解决的技术问题是，根据用户及其通信行为在通信网拓扑结构中的语义信息形成两个用户间的语义关联进行通信网用户通信记录补全的方法。

本发明为解决上述技术问题所采用的技术方案是，一种基于图表示学习的通信网用户通信记录补全方法，其特征在于，包括以下步骤：

1）通信网数据图表示步骤：将需要补全的一组用户通信记录数据表示为一个三元组形式<v _i , r, v _j >；其中，元素v _i 、元素v _j 表示分别通信双方用户i与用户j的节点向量，元素r为表示通信关系的边向量；其中，一个待补全的三元组中只能有一个待补全元素，另两个元素为已知元素；

2）将待补全的三元组输入训练好的通信记录补全模型中，输出候选元素的概率分布向量，当待补全的三元组中已知两个用户的节点向量v _i 与v _j 时，利用已知的v _i 与v _j 得到用户行为趋势特征F _trend 与交叉特征F _cross ；当待补全的三元组中已知一个用户与通信关系v _i 与r时，利用已知的v _i 与r得到候选用户对象特征F _object 与交叉特征F _cross ；

再计算得到特征聚合结果x：x= αF _trend + βF _object + γF _cross ；其中，α、β、γ分别表示特征F _trend 、F _object 和F _cross 的预设权重；当v _i 与r为已知时，设置α=0.0；当v _i 与v _j 为已知时，设置β=0.0；

之后根据特征聚合结果x输出候选元素的概率分布向量ŷ；

3）根据候选元素的概率分布向量ŷ获得每个候选元素的概率分布，选取概率最大的所对应的候选元素作为补全元素，根据补全元素确定需要补全的这一组用户通信记录中的数据。

本发明将基于图表示的通信网中用户与通信关系投影到低维空间，通过语义合成方式对三元组中任意两个元素的表达进行语义组合，再定义其与第三个元素的映射偏差作为目标函数以学习用户和通信关系的向量表达，从而获取相互关联的两个用户间的语义关联以实现记录补全，从根本上解决通信记录不完整、数据稀疏的问题。

本发明的有益效果是：

（1）利用历史通信记录构造基于图表示的通信网拓扑结构，可有效提高通信网用户行为分析的效果。

（2）针对通信网用户与通信关系提出三种不同的特征及其对应的获取方式，包括候选对象特征、用户行为趋势特征、交叉特征，能够有效学习用户和通信关系的隐含信息。

（3）适用于通信对象补全与通信关系补全两种信息缺失情况，模型简单易理解实现。

附图说明

图1为实施例流程图。

具体实施方式

实施例具体步骤如图1所示：

步骤1：根据历史通信记录，获取通信网中的用户间的通信关系，通过图表示的方式，以用户为节点，通信关系为边，构造通信网G；通信网中节点的总个数为Q，通信网中边的总数量为R，R也为通信网中通信关系的种类数；通信关系的可以是通话、短消息、邮件和传真等。

通信网中的用户（节点）与通信关系（边）一般用ID作为唯一标识来表示G={V΄, R΄}，其中V΄表示节点ID集合{v΄₁,…, v΄ _Q }，R΄表示边集合，每一条边的ID用符号r΄表示。

步骤2：由于节点ID与通信关系ID为数字，没有办法计算相似度等节点特征；将ID转化为向量后，其中每个位置上的数值都可以表示一种节点特征，用向量可以计算节点的相似度等节点特征。因此，采用正态分布随机生成通信网中各节点的向量与通信关系的向量，得到初始的节点向量集合V与通信关系向量集合R；节点向量集合V={v₁,…,v _Q }，通信关系向量集合R中每一条边向量用符号r表示。保存通信网中所有节点ID与对应的节点的向量以及通信关系ID与对应的通信关系的向量在向量字典中。

本实施例，采用期望为0，方差为0.052的正态分布N(0,0.052)。

步骤3：利用一个三元组<v _i , r, v _j >表示两个用户及其之间的通信关系组成的关 系对；其中元素v _i 表示用户i的节点向量，元素v _j 表示用户j的节点向量，i

{1,…,Q}，j

{1,…,Q}，i≠j；v _i

ℝ ^d 、v _j

ℝ ^d 、r

ℝ ^d ，ℝ表示实数域，d表示向量空间维度。

步骤4：涉及参数计算方式。

定义用户行为趋势特征为三元组中已知两个用户时，通过行为趋势预测算法得到该三元组中通信关系作为结果。

定义候选用户对象特征为三元组中已知一个用户与通信关系时，通过候选对象特征预测算法得到该三元组中另一个用户作为结果。

定义交叉特征为三元组中已知某个元素时，通过交叉特征计算方法得到的结果。

具体为：

4.1） 在三元组中，以已知两个用户为输入，以用户间的通信关系为训练目标时，定义用户行为趋势特征F _trend 计算方式如下：

F _trend = f (U _trend v _i ) + f (W _trend v _j )

其中，f (·)表示非线性激活函数，如Tanh函数或Relu函数；U _trend 、W _trend 分别表示 通过训练得到的两个用户行为趋势特征变换矩阵，U _trend

ℝ ^d×d 、W _trend

ℝ ^d×d 。

4.2）在三元组中，以已知一个用户与通信关系为输入，以已知用户的通信对象为训练目标时，定义候选用户对象特征F _object 计算方式如下：

F _object = f (U _object v _i ) ⊙ f (W _object r)

其中，U _object 、W _object 分别表示通过训练得到的两个候选对象特征变换矩阵，⊙表示 哈达玛积，U _object

ℝ ^d×d 、W _object

ℝ ^d×d 。

4.3）在三元组中，以已知任意两个元素为输入，以未知的第三个元素为训练目标时，定义交叉特征F _cross ，当已知元素一个为用户一个通信关系时，计算方式如下：

F _cross = f (U _cross v _i ) Ⓝ f (W _cross r)

当已知元素两个均为用户时，计算方式如下：

F _cross = f (U _cross v _i ) Ⓝ f (W _cross v _j )

其中， U _cross 、W _cross 分别表示通过训练得到的交叉特征变换矩阵，d表示向量空间 维度，Ⓝ表示循环卷积，U _cross

ℝ ^d×d 、W _cross

ℝ ^d×d 。

步骤5：用作通信记录补全模型的神经网络以特征聚合器堆叠多层感知机形成。训练数据分别构造以v _i 与r为输入，以v _j 为训练目标的数据集，以及以v _i 与v _j 为输入，以r为训练目标的数据集，分别训练可以预测用户记录中通信对象与通信关系的模型。具体步骤如下：

5-1）基于步骤4的定义，定义记录补全特征聚合器x计算方式如下：

x= αF _trend + βF _object + γF _cross

其中，x

ℝ ^d 表示特征聚合结果，α、β、γ分别表示特征F _trend 、F _object 和F _cross 的预设 权重，取值范围0.0至1.0；当以v _i 与r为输入，以v _j 为训练目标时，设置α=0.0；当以v _i 与v _j 为 输入，以r为训练目标时，设置β=0.0。

5-2）以步骤5-1）的特征聚合结果x为输入，构造基于多层感知机的通信记录补全模型，通信记录补全模型输出候选元素的概率分布向量ŷ：

ŷ = softmax(W _t ·f (W _o x+ b _o ) + b _t )

其中，W _o 、W _t 分别表示输入权重矩阵和输出权重矩阵，W _o

ℝ ^k×d 、W _t

ℝ ^outputdim×k ； b _o 、b _t 分别表示输入偏差向量和输出偏差向量，b _o

ℝ ^k 、 b _t

ℝ ^outputdim ；k表示通信记录补全 模型的中间层维度；softmax表示将通信记录补全模型的输出映射到[0.0,1.0]之间的实 数，从而获取输出概率分布向量ŷ，ŷ

ℝ ^outputdim ；outputdim表示通信记录补全模型的输出层 维度，当以v _i 与r为输入，以v _j 为训练目标时，outputdim= Q；当以v _i 与v _j 为输入，以r为训练 目标时，outputdim=R。

5-3）根据候选元素的概率分布向量ŷ获得缺失元素候选列表中每个候选元素的概率分布，选取概率最大的所对应的结果输出作为通信记录补全结果；网络训练时采用基于交叉熵的损失函数，根据损失函数得到的误差来调整神经网络中的参数U _trend 、W _trend 、U _object 、W _object 、U _cross 、W _cross 、W _o 、W _t 、b _o 、b _t 。

5-4）神经网络训练完成，确定神经网络中的各参数。

步骤6：实际使用时，根据缺省用户通信记录，构造输入三元组数据，通过采用的正态分布随机生成输入数据的向量表达，当三元组中已知两个用户，需要补全通信关系时，神经网络通过用户行为趋势特征与交叉特征得到的特征聚合结果获得补全结果的向量表达；当三元组中已知一个用户与通信关系，需要补全另一个用户时，神经网络通过候选用户对象特征与交叉特征得到的特征聚合结果获得通信对象补全结果或者通信关系补全结果的向量表达。最后根据获得的补全结果的向量表达，通过向量字典查询得到对应的节点ID或者通信关系ID完成补全，具体过程如下：

6-1）通信网数据图表示步骤：将需要补全的一组用户通信记录数据表示为一个三元组形式<v _i , r, v _j >；元素v _i 、元素v _j 表示分别通信双方用户i与用户j的节点向量，元素r为表示通信关系的边向量；其中，一个待补全的三元组中只能有一个待补全元素，另两个元素为已知元素；

6-2）将待补全的三元组输入训练好的通信记录补全模型中候选元素的概率分布向量，当待补全的三元组中已知两个用户的节点向量v _i 与v _j 时，则进入步骤6-2-1），当待补全的三元组中已知一个用户与通信关系v _i 与r时，则进入步骤6-2-3）；

6-2-1）计算得到用户行为趋势特征F _trend 后，进入步骤6-2-2）：

F _trend = f (U _trend v _i ) + f (W _trend v _j )；

6-2-2）计算得到交叉特征F _cross 后，进入步骤6-2-5）：

F _cross = f (U _cross v _i ) Ⓝ f (W _cross v _j )；

6-2-3）计算得到候选用户对象特征F _object 计算步骤，进入步骤6-2-4）：

F _object = f (U _object v _i ) ⊙ f (W _object r)；

6-2-4）通信记录补全模型计算得到交叉特征F _cross 后，进入步骤6-2-5）：

F _cross = f (U _cross v _i ) Ⓝ f (W _cross r)；

6-2-5）通信记录补全模型计算得到特征聚合结果x后，进入步骤6-2-6）：

x= αF _trend + βF _object + γF _cross ；

当v _i 与r为已知时，设置α=0.0；当v _i 与v _j 为已知时，设置β=0.0；

6-2-6）通信记录补全模型根据特征聚合结果x输出候选元素的概率分布向量ŷ：

ŷ = softmax(W _t ·f (W _o x+ b _o ) + b _t )。

6-3）根据候选元素的概率分布向量ŷ获得每个候选元素的概率分布，选取概率最大的所对应的候选元素作为补全元素，根据补全元素确定需要补全的这一组用户通信记录中的数据。

Claims (7)

1.一种基于图表示学习的通信网用户通信记录补全方法，其特征在于，包括以下步骤：

1）通信网数据图表示步骤：将需要补全的一组用户通信记录数据表示为一个三元组形式<v _i , r, v _j >；其中，元素v _i 、元素v _j 表示分别通信双方用户i与用户j的节点向量，元素r为表示通信关系的边向量；其中，一个待补全的三元组中只能有一个待补全元素，另两个元素为已知元素；

2）将待补全的三元组输入训练好的通信记录补全模型中，输出候选元素的概率分布向量，当待补全的三元组中已知两个用户的节点向量v _i 与v _j 时，利用已知的v _i 与v _j 得到用户行为趋势特征F _trend 与交叉特征F _cross ；当待补全的三元组中已知一个用户与通信关系v _i 与r时，利用已知的v _i 与r得到候选用户对象特征F _object 与交叉特征F _cross ；

再计算得到特征聚合结果x：x= αF _trend + βF _object + γF _cross ；其中，α、β、γ分别表示特征F _trend 、F _object 和F _cross 的预设权重；当v _i 与r为已知时，设置α=0.0；当v _i 与v _j 为已知时，设置β=0.0；

之后根据特征聚合结果x输出候选元素的概率分布向量ŷ；

3）根据候选元素的概率分布向量ŷ获得每个候选元素的概率分布，选取概率最大的所对应的候选元素作为补全元素，根据补全元素确定需要补全的这一组用户通信记录中的数据。

2.如权利要求1所述方法，其特征在于，步骤2）中利用已知的v _i 与v _j 得到用户行为趋势特征F _trend 与交叉特征F _cross 的具体方法是：

F _trend = f (U _trend v _i ) + f (W _trend v _j )

其中，f (·)表示非线性激活函数，U _trend 、W _trend 分别表示用户i、用户j对应的行为趋势特征变换矩阵；

F _cross = f (U _cross v _i ) Ⓝ f (W _cross v _j )

其中，Ⓝ表示循环卷积，U _cross 、W _cross 分别表示两个交叉特征变换矩；

上述U _trend 、W _trend 、U _cross 、W _cross 均通过完成对通信记录补全模型的训练来确定其取值。

3. 如权利要求1所述方法，其特征在于，步骤2）中利用已知的v _i 与r得到候选用户对象特征F _object 与交叉特征F _cross 的具体方法是：

F _object = f (U _object v _i ) ⊙ f (W _object r)

其中，f (·)表示非线性激活函数，U _object 、W _object 分别表示用户i、通信关系对应的特征变换矩阵，⊙表示哈达玛积；

F _cross = f (U _cross v _i ) Ⓝ f (W _cross r)；

其中，Ⓝ表示循环卷积，U _cross 、W _cross 分别表示两个交叉特征变换矩；

上述U _object 、W _object 、U _cross 、W _cross 均通过完成对通信记录补全模型的训练来确定其取值。

4.如权利要求1所述方法，其特征在于，步骤2）中根据特征聚合结果x输出候选元素的概率分布向量ŷ的具体方法是：

ŷ = softmax(W _t ·f (W _o x+ b _o ) + b _t )

其中，W _o 、W _t 分别表示输入权重矩阵和输出权重矩阵，b _o 、b _t 分别表示输入偏差向量和输出偏差向量；softmax(·)表示softmax函数；

上述W _o 、W _t 、b _o 、b _t 均通过完成对通信记录补全模型的训练来确定其取值。

5.如权利要求1所述方法，其特征在于，所述通信关系包括通话、短消息、邮件和传真。

6.如权利要求1所述方法，其特征在于，三元组中的节点向量是根据对应的用户ID正态分布随机生成；

三元组中的边向量是根据对应的通信关系ID正态分布随机生成。

7.如权利要求6所述方法，其特征在于，在根据用户ID正态分布随机生成对应的节点向量以及根据通信关系ID正态分布随机生成对应的边向量时，用户ID与节点向量的对应关系以及通信关系ID与边向量的对应关系均保存在向量字典中；

步骤3）中根据补全元素确定需要补全的这一组用户通信记录中的数据的具体方法是：根据补全元素查找向量字典，得到补全元素对应的用户ID或者通信关系ID，从而确定需要补全的这一组用户通信记录中的数据。

Images