CN114861065A - 基于多行为的级联残差图卷积网络的个性化推荐方法 - Google Patents

Abstract

一种基于多行为的级联残差图卷积网络的个性化推荐方法，利用多行为数据缓解了目标行为数据稀疏性问题，并从向量表达层面探索了不同行为之间的联系，从而不断对用户偏好进行细化，到达提升推荐性能的目的；我们设计了一个级联残差图卷积网络(GCN)结构，它使我们的模型能够通过不断细化不同类型行为之间的用户嵌入来学习用户偏好。采用多任务学习方法对不同行为进行联合优化模型。同时模型采用了轻量级的设计，具有更少的参数，与更高的计算效率。

Description

基于多行为的级联残差图卷积网络的个性化推荐方法

技术领域

本发明涉及推荐系统领域，具体涉及一种基于多行为的级联残差图卷积网络的个性化推荐方法。

背景技术

多行为推荐利用多种类型的用户-物品交互，如浏览和加购物车，来学习用户偏好，并已被证明是一种有效的解决方案，以缓解传统模型所面临的数据稀疏性问题，而传统模型通常只使用一种类型的交互来进行推荐。在真实场景中，用户通常会采取一系列动作与物品互动，以获得更多关于物品的信息，从而准确地评估物品是否符合个人偏好。这些交互行为通常服从一定的顺序，更重要的是，不同的行为揭示了用户对目标物品偏好的不同信息或方面。现有的多行为推荐方法大多采用先从不同行为中分别提取信息，然后将其融合进行最终预测。然而，他们并没有利用不同行为之间的联系来学习用户的偏好。此外，它们往往会引入复杂的模型结构和更多的参数来建模多种行为，这在很大程度上增加了空间和时间的复杂性。

发明内容

本发明为了克服以上技术的不足，提供了一种按照行为发生顺序级联建模多种行为的方法，明确地将多行为信息之间的偏好依赖关系融入到用户向量表达的学习中，并提出在不同的行为发生的顺序中逐步更新用户的偏好,进而提升个性化推荐效果的方法。

本发明克服其技术问题所采用的技术方案是：

一种基于多行为的级联残差图卷积网络的个性化推荐方法，包括：

a)对平台收集到的多种行为下的交互记录数据进行预处理，将预处理后的交互记录数据划分为训练集和测试集，保存训练集和测试集中用户ID和物品ID；

b)构建级联残差网络模型，该网络模型由N个残差模块组成，N为平台收集到的行为的数量，每个残差模块中设置有一个GCN网络；

c)初始化训练集中用户和物品的向量表示，将用户和物品的向量表示输入到级联残差网络模型中，得到每个残差模块输出的用户的向量表示和物品的向量表示；

d)训级联残差网络模型，得到训练后的级联残差网络模型最后一个残差模块输出的用户的向量表示和物品的向量表示；

e)计算训练后的级联残差网络模型的最后一个残差模块的用户对商品的偏好程度得分，利用偏好程度得分进行个性化推荐。

进一步的，步骤a)中的对平台收集到的多种行为下的交互记录数据进行预处理的方法为：过滤掉交互记录数据中购买行为中的交互数小于阈值的用户与物品。优选的，阈值取值为5。

优选的，步骤a)中按8:2的比例将预处理后的交互记录数据划分为训练集和测试集。

进一步的，步骤c)包括如下步骤：

c-1)将训练集中用户ID和物品ID分别映射成one-hot向量矩阵ID^U和ID^I，初始化用户ID的嵌入矩阵P、初始化物品ID的嵌入矩阵Q，P∈R^A×d，Q∈R^B×d，其中R为实数空间，A为用户总数量，B为物品总数量，d为嵌入向量的长度；

c-2)根据公式

计算得到用户ID的嵌入表达

式中

为one-hot向量矩阵ID^U中第u个用户的one-hot向量编码，u∈{1,2,...,A}，根据公式

计算得到物品ID的嵌入表达

式中

为one-hot向量矩阵ID^I中第i个物品的one-hot向量编码，i∈{1,2,...,B}；

c-3)将嵌入表达

和嵌入表达

输入第一个残差模块中，在第一个残差模块的GCN网络中进行一次传播更新GCN网络各节点，得到更新后的GCN网络中的用户ID的向量表示e_u和物品ID的向量表示e_i；

c-4)通过公式

计算得到L₂正则化后的用户ID的向量表示

通过公式

计算得到L₂正则化后物品ID的向量表示

式中||·||₂为L2范数；

c-5)通过公式

计算得到第一个残差模块输出的用户ID的向量表示

通过公式

计算得到第一个残差模块输出的物品ID的向量表示

c-6)将第一个残差模块输出的

和

分别代替步骤c-3)中的

和

后重复执行步骤c-3)至步骤c-5)得到第二个残差模块中输出的用户ID的向量表示

及物品ID的向量表示

c-7)重复执行步骤c-6)，直至得到第N个残差模块输出的用户ID的向量表示

及物品ID的向量表示

c-8)建立不同行为下用户的嵌入输出集合U和物品的嵌入输出集合I，

进一步的，步骤d)包括如下步骤：

d-1)通过公式y_ui＝e_u ^Te_i计算得到残差模块中用户对商品的偏好程度y_ui，T为转置，N个残差模块的相似度得分集合

式中

为第n个残差模块中用户对商品的偏好程度，n＝{1,2,...,N}；

d-2)得到用户u与第n个残差模块中训练集中所有物品的交互得分集合

为第n个残差模块中用户u与训练集中第k个物品的交互得分，u∈{1,2,...,A}；

d-3)对第n个残差模块的数据集进行随机抽取三元组(u,i⁺,i^-)，i⁺∈(0,B)为正样本物品，i^-∈(0,B)为负样本物品，正样本物品为用户u在第n个残差模块中交互过的商品的数据，负样本物品为用户u在第n个残差模块中未交互过的商品的数据；

d-4)通过公式

计算得到第n个残差模块的损失L_n，式中O＝{(u,i⁺,i^-)|(u,i⁺)∈R⁺,(u,i^-)∈R^-}，R⁺为用户和商品在第n个残差模块中的交互数据集，R^-为用户和商品在第n个残差模块中的随机获得的负样例集合，σ(·)为sigmoid函数；

d-5)通过公式L＝∑_n∈(1,N)L_n+β||Θ||²计算得到总损失L，β为正则化权重，Θ为模型参数，通过总损失L利用梯度下降法训级联残差网络模型，得到反向传播更新初始化的用户的用户ID的嵌入表达

和物品ID的嵌入表达

d-6)将训练后的级联残差网络模型的最后一个残差模块输出的用户ID的向量表示

及物品ID的向量表示

保存下来用于个性化推荐。

进一步，步骤e)中通过公式

计算得到训练后的级联残差网络模型的最后一个残差模块的用户对商品的偏好程度得分y。

本发明的有益效果是：利用多行为数据缓解了目标行为数据稀疏性问题，并从向量表达层面探索了不同行为之间的联系，从而不断对用户偏好进行细化，到达提升推荐性能的目的；我们设计了一个级联残差图卷积网络(GCN)结构，它使我们的模型能够通过不断细化不同类型行为之间的用户嵌入来学习用户偏好。采用多任务学习方法对不同行为进行联合优化模型。同时模型采用了轻量级的设计，具有更少的参数，与更高的计算效率。

附图说明

图1为本发明的方法流程图；

图2为本发明的模型结构图。

具体实施方式

下面结合附图1、附图2对本发明做进一步说明。

一种基于多行为的级联残差图卷积网络的个性化推荐方法，包括：

a)对平台收集到的多种行为下的交互记录数据进行预处理，将预处理后的交互记录数据划分为训练集和测试集，保存训练集和测试集中用户ID和物品ID。

b)构建级联残差网络模型，该网络模型由N个残差模块组成，N为平台收集到的行为的数量，每个残差模块中设置有一个GCN网络。

c)初始化训练集中用户和物品的向量表示，将用户和物品的向量表示输入到级联残差网络模型中，得到每个残差模块输出的用户的向量表示和物品的向量表示。

d)训级联残差网络模型，得到训练后的级联残差网络模型最后一个残差模块输出的用户的向量表示和物品的向量表示。

e)计算训练后的级联残差网络模型的最后一个残差模块的用户对商品的偏好程度得分，利用偏好程度得分进行个性化推荐。

利用多行为数据缓解了目标行为数据稀疏性问题，并从向量表达层面探索了不同行为之间的联系，从而不断对用户偏好进行细化，到达提升推荐性能的目的；我们设计了一个级联残差图卷积网络(GCN)结构，它使我们的模型能够通过不断细化不同类型行为之间的用户嵌入来学习用户偏好。采用多任务学习方法对不同行为进行联合优化模型。同时模型采用了轻量级的设计，具有更少的参数，与更高的计算效率。

实施例1：

步骤a)中的对平台收集到的多种行为下的交互记录数据进行预处理的方法为：

过滤掉交互记录数据中购买行为中的交互数小于阈值的用户与物品。

实施例2：

优选的，阈值取值为5。

实施例3：

步骤a)中按8:2的比例将预处理后的交互记录数据划分为训练集和测试集。

实施例4：

步骤c)包括如下步骤：

c-1)将训练集中用户ID和物品ID分别映射成one-hot向量矩阵ID^U和ID^I，初始化用户ID的嵌入矩阵P、初始化物品ID的嵌入矩阵Q，P∈R^A×d，Q∈R^B×d，其中R为实数空间，A为用户总数量，B为物品总数量，d为嵌入向量的长度。

c-2)根据公式

计算得到用户ID的嵌入表达

式中

为one-hot向量矩阵ID^U中第u个用户的one-hot向量编码，u∈{1,2,...,A}，根据公式

计算得到物品ID的嵌入表达

式中

为one-hot向量矩阵ID^I中第i个物品的one-hot向量编码，i∈{1,2,...,B}。

c-3)将嵌入表达

和嵌入表达

输入第一个残差模块中，在第一个残差模块的GCN网络中进行一次传播更新GCN网络各节点，得到更新后的GCN网络中的用户ID的向量表示e_u和物品ID的向量表示e_i。

c-4)通过公式

计算得到L₂正则化后的用户ID的向量表示

通过公式

计算得到L₂正则化后物品ID的向量表示

式中||·||₂为L2范数。

c-5)通过公式

计算得到第一个残差模块输出的用户ID的向量表示

通过公式

计算得到第一个残差模块输出的物品ID的向量表示

c-6)将第一个残差模块输出的

和

分别代替步骤c-3)中的

和

后重复执行步骤c-3)至步骤c-5)得到第二个残差模块中输出的用户ID的向量表示

及物品ID的向量表示

c-7)重复执行步骤c-6)，直至得到第N个残差模块输出的用户ID的向量表示

及物品ID的向量表示

c-8)建立不同行为下用户的嵌入输出集合U和物品的嵌入输出集合I，

实施例5：

步骤d)包括如下步骤：

d-1)通过公式y_ui＝e_u ^Te_i计算得到残差模块中用户对商品的偏好程度y_ui，T为转置，N个残差模块的相似度得分集合

式中

为第n个残差模块中用户对商品的偏好程度，n＝{1,2,...,N}。

d-2)得到用户u与第n个残差模块中训练集中所有物品的交互得分集合

为第n个残差模块中用户u与训练集中第k个物品的交互得分，u∈{1,2,...,A}。

d-3)对第n个残差模块的数据集进行随机抽取三元组(u,i⁺,i^-)，i⁺∈(0,B)为正样本物品，i^-∈(0,B)为负样本物品，正样本物品为用户u在第n个残差模块中交互过的商品的数据，负样本物品为用户u在第n个残差模块中未交互过的商品的数据。

d-4)通过公式

计算得到第n个残差模块的损失L_n，式中O＝{(u,i⁺,i^-)|(u,i⁺)∈R⁺,(u,i^-)∈R^-}，R⁺为用户和商品在第n个残差模块中的交互数据集，R^-为用户和商品在第n个残差模块中的随机获得的负样例集合，σ(·)为sigmoid函数。

d-5)通过公式L＝∑_n∈(1,N)L_n+β||Θ||²计算得到总损失L，β为正则化权重，Θ为模型参数，通过总损失L利用梯度下降法训级联残差网络模型，得到反向传播更新初始化的用户的用户ID的嵌入表达

和物品ID的嵌入表达

d-6)将训练后的级联残差网络模型的最后一个残差模块输出的用户ID的向量表示

及物品ID的向量表示

保存下来用于个性化推荐。

实施例6：

步骤e)中通过公式

计算得到训练后的级联残差网络模型的最后一个残差模块的用户对商品的偏好程度得分y。

最后应说明的是：以上所述仅为本发明的优选实施例而已，并不用于限制本发明，尽管参照前述实施例对本发明进行了详细的说明，对于本领域的技术人员来说，其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (7)

1.一种基于多行为的级联残差图卷积网络的个性化推荐方法，其特征在于，包括：

a)对平台收集到的多种行为下的交互记录数据进行预处理，将预处理后的交互记录数据划分为训练集和测试集，保存训练集和测试集中用户ID和物品ID；

b)构建级联残差网络模型，该网络模型由N个残差模块组成，N为平台收集到的行为的数量，每个残差模块中设置有一个GCN网络；

c)初始化训练集中用户和物品的向量表示，将用户和物品的向量表示输入到级联残差网络模型中，得到每个残差模块输出的用户的向量表示和物品的向量表示；

d)训级联残差网络模型，得到训练后的级联残差网络模型最后一个残差模块输出的用户的向量表示和物品的向量表示；

e)计算训练后的级联残差网络模型的最后一个残差模块的用户对商品的偏好程度得分，利用偏好程度得分进行个性化推荐。

2.根据权利要求1所述的基于多行为的级联残差图卷积网络的个性化推荐方法，其特征在于，步骤a)中的对平台收集到的多种行为下的交互记录数据进行预处理的方法为：过滤掉交互记录数据中购买行为中的交互数小于阈值的用户与物品。

3.根据权利要求2所述的基于多行为的级联残差图卷积网络的个性化推荐方法，其特征在于：所述阈值取值为5。

4.根据权利要求1所述的基于多行为的级联残差图卷积网络的个性化推荐方法，其特征在于：步骤a)中按8:2的比例将预处理后的交互记录数据划分为训练集和测试集。

5.根据权利要求1所述的基于多行为的级联残差图卷积网络的个性化推荐方法，其特征在于，步骤c)包括如下步骤：

c-1)将训练集中用户ID和物品ID分别映射成one-hot向量矩阵ID^U和ID^I，初始化用户ID的嵌入矩阵P、初始化物品ID的嵌入矩阵Q，P∈R^A×d，Q∈R^B×d，其中R为实数空间，A为用户总数量，B为物品总数量，d为嵌入向量的长度；

c-2)根据公式

计算得到用户ID的嵌入表达

式中

为one-hot向量矩阵ID^U中第u个用户的one-hot向量编码，u∈{1,2,...,A}，根据公式

计算得到物品ID的嵌入表达

式中

为one-hot向量矩阵ID^I中第i个物品的one-hot向量编码，i∈{1,2,...,B}；

c-3)将嵌入表达

和嵌入表达

输入第一个残差模块中，在第一个残差模块的GCN网络中进行一次传播更新GCN网络各节点，得到更新后的GCN网络中的用户ID的向量表示e_u和物品ID的向量表示e_i；

c-4)通过公式

计算得到L₂正则化后的用户ID的向量表示

通过公式

计算得到L₂正则化后物品ID的向量表示

式中||·||₂为L2范数；

c-5)通过公式

计算得到第一个残差模块输出的用户ID的向量表示

通过公式

计算得到第一个残差模块输出的物品ID的向量表示

c-6)将第一个残差模块输出的

和

分别代替步骤c-3)中的

和

后重复执行步骤c-3)至步骤c-5)得到第二个残差模块中输出的用户ID的向量表示

及物品ID的向量表示

c-7)重复执行步骤c-6)，直至得到第N个残差模块输出的用户ID的向量表示

及物品ID的向量表示

c-8)建立不同行为下用户的嵌入输出集合U和物品的嵌入输出集合I，

6.根据权利要求5所述的基于多行为的级联残差图卷积网络的个性化推荐方法，其特征在于，步骤d)包括如下步骤：

d-1)通过公式

计算得到残差模块中用户对商品的偏好程度y_ui，T为转置，N个残差模块的相似度得分集合

式中

为第n个残差模块中用户对商品的偏好程度，n＝{1,2,...,N}；

d-2)得到用户u与第n个残差模块中训练集中所有物品的交互得分集合

为第n个残差模块中用户u与训练集中第k个物品的交互得分，u∈{1,2,...,A}；

d-3)对第n个残差模块的数据集进行随机抽取三元组(u,i⁺,i^-)，i⁺∈(0,B)为正样本物品，i^-∈(0,B)为负样本物品，正样本物品为用户u在第n个残差模块中交互过的商品的数据，负样本物品为用户u在第n个残差模块中未交互过的商品的数据；

d-4)通过公式

计算得到第n个残差模块的损失L_n，式中

R⁺为用户和商品在第n个残差模块中的交互数据集，R^-为用户和商品在第n个残差模块中的随机获得的负样例集合，σ(·)为sigmoid函数；

d-5)通过公式

计算得到总损失L，β为正则化权重，Θ为模型参数，通过总损失L利用梯度下降法训级联残差网络模型，得到反向传播更新初始化的用户的用户ID的嵌入表达

和物品ID的嵌入表达

d-6)将训练后的级联残差网络模型的最后一个残差模块输出的用户ID的向量表示

及物品ID的向量表示

保存下来用于个性化推荐。

7.根据权利要求6所述的基于多行为的级联残差图卷积网络的个性化推荐方法，其特征在于：步骤e)中通过公式

计算得到训练后的级联残差网络模型的最后一个残差模块的用户对商品的偏好程度得分y。

Images