CN109190040B - 基于协同演化的个性化推荐方法及装置 - Google Patents

基于协同演化的个性化推荐方法及装置 Download PDF

Info

Publication number
CN109190040B
CN109190040B CN201811013374.1A CN201811013374A CN109190040B CN 109190040 B CN109190040 B CN 109190040B CN 201811013374 A CN201811013374 A CN 201811013374A CN 109190040 B CN109190040 B CN 109190040B
Authority
CN
China
Prior art keywords
user
group
preference
time
implicit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201811013374.1A
Other languages
English (en)
Other versions
CN109190040A (zh
Inventor
刘业政
杨露
吴锋
吴乐
姜元春
孙见山
孙春华
陈夏雨
刘春丽
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hefei University of Technology
Original Assignee
Hefei University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hefei University of Technology filed Critical Hefei University of Technology
Priority to CN201811013374.1A priority Critical patent/CN109190040B/zh
Publication of CN109190040A publication Critical patent/CN109190040A/zh
Application granted granted Critical
Publication of CN109190040B publication Critical patent/CN109190040B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/06Buying, selling or leasing transactions
    • G06Q30/0601Electronic shopping [e-shopping]
    • G06Q30/0631Item recommendations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/50Network services
    • H04L67/55Push-based network services

Abstract

本发明提供了一种基于协同演化的个性化推荐方法及装置。一种基于协同演化的个性化推荐方法,包括:基于贝叶斯定理获取预先设置的模型的学习目标;所述模型至少包括:用户消费行为的概率模型、用户加群行为的概率模型、产品的隐特征矩阵、用户的隐偏好张量和群组的隐偏好张量;基于所述学习目标,利用随机梯度下降法和投影梯度法来更新所述模型的最优参数,得到训练好的模型;利用所述训练好的参数预测用户在T+1时刻的加群行为、偏好及标记行为。本发明实施例中可以在动态场景中同时考虑到用户的历史偏好和加入群组的影响来预测用户的加群行为和偏好,以及标记行为。

Description

基于协同演化的个性化推荐方法及装置
技术领域
本发明涉及数据处理技术领域,尤其涉及一种基于协同演化的个性化推荐方法及装置。
背景技术
互联网是全球数十亿用户的通用信息来源。然而,在信息化时代产生的数据的急剧增长使得用户难以发现与他们相关的信息。推荐系统已被广泛用于应对信息过载问题并找到目标用户可能感兴趣的信息。在社交网络平台上,用户不仅可以选择自己感兴趣的产品或服务,还可以与其他用户产生各种社交关系:用户可以与他的朋友建立联系,也可以选择加入自己感兴趣的小组,并且同有共同兴趣的用户建立联系。简而言之,用户主要在社交网络中主要有两种行为:消费行为(反映在用户项目交互中,如浏览,购买,评分,评论)和社交行为(反映在用户与用户的交互中,如友谊,会员,特别关注等互动)。因此,根据以上两种行为,需要一种有效的推荐方法来为用户建立他们的社会关系并找到更满意的内容。
大多数传统推荐方法基于用户是独立且相同分布的假设,即他们忽略了用户之间的社交关系,然而,社会学家长期以来认为用户的偏好和用户的社会行为并不是孤立的,相反,他们之间存在相互强化的关系。目前,已经有人提出了一个统一的静态模型来联合预测用户的这两种行为。但是,他们所研究的目标是评分预测和社交关系预测,而不是对消费和加入群组的预测,此外,大多是方法都是静态的,时间不变的,不能体现出用户和群组随时间的动态变化。
发明内容
针对现有技术中的缺陷,本发明提供了一种基于协同演化的个性化推荐方法及装置,用于解决相关技术中静态预测用户行为导致推荐精度低的问题。
第一方面,本发明实施例提供了一种基于协同演化的个性化推荐方法,包括:
基于贝叶斯定理获取预先设置的模型的学习目标;所述模型至少包括:用户消费行为的概率模型、用户加群行为的概率模型、产品的隐特征矩阵、用户的隐偏好张量和群组的隐偏好张量;
基于所述学习目标,利用随机梯度下降法和投影梯度法来更新所述模型的最优参数,得到训练好的模型;
利用所述训练好的参数预测用户在T+1时刻的加群行为和偏好,以及用户在T+1时刻的标记行为。
第二方面,本发明实施例提供了一种基于协同演化的个性化推荐装置,包括:
学习目标获取模块,用于基于贝叶斯定理获取预先设置的模型的学习目标;所述模型至少包括:用户消费行为的概率模型、用户加群行为的概率模型、产品的隐特征矩阵、用户的隐偏好张量和群组的隐偏好张量;
最优参数更新模块,用于基于所述学习目标,利用随机梯度下降法和投影梯度法来更新所述模型的最优参数,得到训练好的模型;
标记行为预测模块,用于利用所述训练好的参数预测用户在T+1时刻的加群行为和偏好,以及用户在T+1时刻的标记行为。
由上述技术方案可知,本发明实施例中可以在动态场景中同时考虑到用户的历史偏好和加入群组的影响来预测用户的加群行为和偏好,以及标记行为。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些图获得其他的附图。
图1为本发明实施例提供的一种基于协同演化的个性化推荐方法的流程示意图;
图2为本发明实施例提供的模型示意图;
图3a为本发明与基准算法在用户的加入行为预测上的准确率对比图;
图3b为本发明与基准算法在用户的加入行为预测上的召回率对比图;
图3c为本发明与基准算法在用户的加入行为预测上的F值对比图;
图4a为本发明与基准算法在用户的标记行为预测上的准确率对比图;
图4b为本发明与基准算法在用户的标记行为预测上的召回率对比图;
图4c为本发明与基准算法在用户的标记行为预测上的F值对比图;
图5a为本发明中用户平衡参数的统计;
图5b为本发明中群组平衡参数的统计;
图6正则化参数λS对实验结果的影响;
图7正则化参数λU对实验结果的影响;
图8正则化参数λG对实验结果的影响;
图9为本发明实施例提供的基于协同演化的个性化推荐装置的框图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
图1为本发明一实施例提供的基于协同演化的个性化推荐方法的流程示意图。参见图1,该基于协同演化的个性化推荐方法包括:
101,基于贝叶斯定理获取预先设置的模型的学习目标;所述模型至少包括:用户消费行为的概率模型、用户加群行为的概率模型、产品的隐特征矩阵、用户的隐偏好张量和群组的隐偏好张量;
102,基于所述学习目标,利用随机梯度下降法和投影梯度法来更新所述模型的最优参数,得到训练好的模型;
103,利用所述训练好的参数预测用户在T+1时刻的加群行为和偏好,以及用户在T+1时刻的标记行为。
可见,本发明实施例中可以在动态场景中同时考虑到用户的历史偏好和加入群组的影响来预测用户的加群行为和偏好,以及标记行为。
下面结合附图和实施例对本发明实施例提供的基于协同演化的个性化推荐方法的各步骤作详细描述。
首先,介绍101,基于贝叶斯定理获取预先设置的模型的学习目标的步骤。
本实施例中,在一个推荐情境下,假设有N个用户,M个产品,K个群组,定义
Figure GDA0003004574630000051
如果
Figure GDA0003004574630000052
表示用户a在t时选择了产品i,定义
Figure GDA0003004574630000053
如果
Figure GDA0003004574630000054
表示用户a在t时加入了群组p,定义用户张量
Figure GDA0003004574630000055
Figure GDA0003004574630000056
表示用户a在t时的隐偏好向量,定义群组张量
Figure GDA0003004574630000057
Figure GDA0003004574630000058
表示群组p在t时的隐偏好向量,定义产品张量
Figure GDA0003004574630000059
Vi表示产品i的隐特征向量。
本实施例中,构建模型以及模型中各个相关参数的定义,包括:
1,定义用户消费行为的概率模型,对于每一个用户a和每一个产品i,预测用户在时间t对产品消费偏好可以定义为
Figure GDA00030045746300000510
式(1)中,
Figure GDA0003004574630000061
是均值为μ,方差为σ2的高斯分布。
Figure GDA0003004574630000062
是指示向量,当用户a在时间t选择产品i时,
Figure GDA0003004574630000063
否则为0。
Figure GDA0003004574630000064
是用户a在时间t的隐偏好,属于用户隐张量
Figure GDA0003004574630000065
是产品的隐特征,属于产品的隐矩阵
Figure GDA0003004574630000066
<,>表示两个向量的内积。
2,定义用户加群行为的概率模型,对于每一个用户a和每一个群组p,预测用户在时间t加入群组的社交行为偏好可以定义为:
Figure GDA0003004574630000067
式(2)中,
Figure GDA0003004574630000068
是均值为μ,方差为σ2的高斯分布。
Figure GDA0003004574630000069
是指示向量,当用户a在时间t加入群组p时,
Figure GDA00030045746300000610
否则为0。
Figure GDA00030045746300000611
是用户a在时间t-1的隐偏好,属于用户隐张量
Figure GDA00030045746300000612
Figure GDA00030045746300000613
表示群组p在时间t-1的群组偏好,属于群组隐张量
Figure GDA00030045746300000614
<,>表示两个向量的内积。
3,构建产品的隐特征矩阵,给产品隐矩阵加入一个均值为0的高斯先验:
Figure GDA00030045746300000615
4,构建用户的隐偏好张量,用户当前偏好主要受到用户以前的偏好和用户所加入的群组的影响,基于个体偏好和群体影响的用户a在时间窗口t=2,3,4,…,T的隐偏好张量为:
Figure GDA00030045746300000616
式(4)中,
Figure GDA0003004574630000071
Figure GDA0003004574630000072
式(5)中,αa是非负参数,用以平衡个体偏好和群体的影响力。
Figure GDA0003004574630000073
表示群组p在t时刻对用户a的影响力函数,
Figure GDA0003004574630000074
表示群组p在t-1时刻的群组偏好,
Figure GDA0003004574630000075
表示t时刻,用户a新参与的群组数量。本模型的
Figure GDA0003004574630000076
定义为:
Figure GDA0003004574630000077
Figure GDA0003004574630000078
为t-1时刻群组p和用户a的关系强度,定义如下:
Figure GDA0003004574630000079
式(7)中
Figure GDA00030045746300000710
为直至t-1时刻,用户a与用户c购买产品中相同产品的个数(交互次数);
Figure GDA00030045746300000711
为直至t-1时刻,用户c购买产品的数量。
在初始状态下,个体不受任何群体的影响,假设t=1时刻,用户隐偏好服从均值为0的高斯分布,所述用户隐张量的概率分布即为:
Figure GDA00030045746300000712
5,构建群组的隐偏好张量,一个群组的偏好是群组历史偏好状态和新加入用户偏好的综合作用结果。综合上述研究分析,采用等权策略为每个群组构建在时间窗口t=2,3,4,…,T的隐偏好建模:
Figure GDA00030045746300000713
式(9)中
Figure GDA00030045746300000714
Figure GDA00030045746300000715
式(10)中,
Figure GDA0003004574630000081
表示用户a受群组影响之后在t时刻的用户偏好。
Figure GDA0003004574630000082
表示在t时刻加入的用户a对于群组p的影响,
Figure GDA0003004574630000083
表示t时刻群组p新加入成员的数量,所以
Figure GDA0003004574630000084
βp是非负参数,用以平衡新旧群成员的影响力。
在初始状态t=1时,群组偏好就是t=1时刻全部群成员偏好的加和平均值:
Figure GDA0003004574630000085
因此,群组的隐偏好张量的概率分布为:
Figure GDA0003004574630000086
本发明的模型示意图如图2所示。首先,由t时刻的用户隐偏好和t时刻的群组隐偏好预测t+1时刻用户的加群行为,其次,根据当前t+1时刻用户加群行为后所带来的影响,结合用户t时刻的隐偏好来预测用户在t+1时刻的隐偏好,最后,根据t+1时刻的隐偏好和产品的隐特征,预测用户t+1时刻可能的标记行为。
其次,介绍102,基于所述学习目标,利用随机梯度下降法和投影梯度法来更新所述模型的最优参数,得到训练好的模型的步骤。
本实施例中,基于贝叶斯定理得出步骤101中各模型的学习目标,然后再使用随机梯度下降法和投影梯度法来更新得到模型的最优参数。
1,为了学习出最优的参数Φ=[U,G,V,α,β],基于贝叶斯定理得到目标就是要最大化下式中的后验概率:
p(U,G,V,α,β|C,S)∝p(C|U,V,α)×p(S|G,U,α,β)×p(U)×p(G)×p(V) (13)
2,对上式右边取自然对数ln,并且乘以-1,得到目标函数等价于最小化下式(14):
Figure GDA0003004574630000091
Figure GDA0003004574630000092
其中λ表示正则化参数:
Figure GDA0003004574630000093
3,求解参数G,U,V,α,β的偏导数:
Figure GDA0003004574630000094
Figure GDA0003004574630000095
Figure GDA0003004574630000096
Figure GDA0003004574630000097
Figure GDA0003004574630000101
4,根据步骤101中模型的构建初始化参数集合G,U,V,α,β。
5,遍历N个用户和从1~T的T个时间点,使用随机梯度下降(SGD)方法来更新U,由于α,β取值范围是在0与1之间,因此采用投影梯度(PG)方法来更新α。
6,遍历K个群组和从1~T的T个时间点,使用随机梯度下降(SGD)方法来更新G,由于α,β取值范围是在0与1之间,因此采用投影梯度(PG)方法来更新β。
7,遍历M个产品,使用随机梯度下降(SGD)方法来更新V。
8,重复步骤5-步骤7,直至目标函数(14)收敛为止。
再次,介绍103,利用所述训练好的参数预测用户在T+1时刻的加群行为和偏好,以及用户在T+1时刻的标记行为的步骤。
本实施例中,根据训练好的参数,来预测用户在T+1时刻的加群行为和偏好以及根据群组对于用户在T+1时刻的影响,预测用户在T+1时刻的标记行为。
首先,本实施例中根据T时刻的用户隐偏好向量
Figure GDA0003004574630000102
和T时刻的群组隐偏好向量
Figure GDA0003004574630000103
由下式预测用户在T+1时刻的加群行为;
Figure GDA0003004574630000104
然后,本实施例中根据T时刻的用户隐偏好向量
Figure GDA0003004574630000105
和T+1时刻的用户加入群组的影响,由下式预测用户在T+1时刻的偏好;
Figure GDA0003004574630000106
最后,本实施例中根据T+1时刻的用户隐偏好向量
Figure GDA0003004574630000111
和产品的隐特征向量Vi,由下式预测用户在受到T+1时刻群组的影响,而产生的标记行为
Figure GDA0003004574630000112
下面结合实验来验证本发明提供的基于协同演化的个性化推荐方法的有效性。
准备标准数据集
从DeviantArt[https://www.deviantart.com/]获取的真实得数据集来评估基于协同演化的个性化推荐方法中的模型,数据集周期为2017年5月1日至2018年4月30日。在DeviantArt网站上,用户与作品和与用户群组的交互数据都是隐式反馈。此外,数据集包含用户何时喜欢哪个艺术作品,以及何时加入哪个群组。本实施例中,数据集按照月份划分为12个相等的时间间隔,其中前11个月的数据用作训练数据;第12个月的数据用作测试数据。
表1
Figure GDA0003004574630000113
本实施例中,过滤用户群组矩阵,使每个用户至少加入2个组,每个组至少有2个成员,每个用户至少有2个生产交互记录。执行此过滤后,DeviantArt数据集的统计信息和稀疏度如表1所示。
评价指标
本实施例中采用三个流行指标,即准确率Prec@n,召回率Rec@N和F-measure来评价模型的质量。其中,
Prec@n表示的推荐结果的准确率,公式为:
Figure GDA0003004574630000121
式(24)中,其中nrelated是在推荐列表和测试集中同时出现的产品数目,n是推荐列表中所有产品的数目。
推荐列表长度为N的召回率Rec@N计算公式为:
Figure GDA0003004574630000122
式(25)中,Nrelated是在推荐列表和测试集中同时出现的产品数目,N是测试集中相关产品的数目。
F-measure同时考虑到推荐结果的精确度和召回率,可以定义为:
Figure GDA0003004574630000123
在标准数据集上进行实验
为了验证模型在预测加入行为和消费行为两个目标上的有效性,将本发明提供的方法同四种基准方法相比较,四种方法分别是:概率矩阵分解(PMF)方法,加权正则矩阵分解(WRMF)方法,时序-奇异值分解(Time-SVD),时序概率矩阵分解(TMF),此外对于两种不同的行为预测,我们还分别给出了一个独立的方法,分别是演化加群预测模型(EJP)、演化标记预测模型(ETP)。
本实施例中,目标是得出一个可能加入的组和感兴趣的产品的排名,在每个方法中的参数都被调至最优情况下,对各个方法的结果进行比较,关于加入行为的实验结果如图3a,图3b和图3c所示,关于标记行为的实验结果如图4a,图4b和图4c所示。首先,考虑时间的方法结果都要好于没有考虑时间的方法,表明在本发明的模型中考虑时间的有效性。其次,本发明的方法协同演化预测(CEP)结果总是最好的,说明联合起来预测用户的这两种行为更为有效。此外,本发明还可以得出偏好向量的维度在15左右最佳。
图5a和图5b表示的分别是用户和群组的平衡参数α,β的分布统计结果,从图中可以看出来不同的用户(群组)在平衡他们的历史偏好和社会影响方面具有差异性。并且,从结果分布上来看,大多数用户可能会倾向于他们自身固有的偏好,而大多数群体更愿意采纳他们的新成员的意见。
本发明的模型中有六个参数λSG1GU1UV,对于这些正则化参数,可以调整这些参数来影响到本发明的实验结果,其中,λU1G1分别是时间1时的用户和群体潜在偏好向量的正则化参数,λV是项目潜在特征的正则化参数。由于这三个参数与传统概率矩阵分解(PMF)具有相似的形式,在此不做深入研究,对于λSGU,可以通过实验得出参数调整的结果如图6,图7和图8。
本实施例中,将用户、群组、产品联合建模,给用户推荐产品的同时考虑到用户的社交关系,联合建模用户对产品的标记行为和对群组的加入行为。与传统的推荐方法相比,本实施例提供的方法符合实际情况,可以捕捉用户和群组之间的交互关系,如实验结果图3和图4所示,本实施例可以提高推荐精度。
本实施例中,是在一个动态的推荐场景中,考虑到了时间因素,例如用户的偏好或行为会受到其历史偏好或行为的影响,群组偏好也会受到之前偏好的影响。与传统的没有考虑时间的推荐方法相比,如图3和图4所示,本实施例的实验结果较好,即表明考虑时间可以提高推荐的准确性。
本实施例中,在动态场景中考虑到用户和群组的交互关系,通过联合用户偏好和群组偏好来预测下一时间用户的加群行为,然后考虑到用户此时的加群行为,再结合用户的历史偏好用以预测用户当前偏好,最后通过用户当前偏好和产品的特征来预测用户对产品的标记行为。本发明的方法可以指引用户加入自己感兴趣的群组,并且同时更准确给用户推荐感兴趣的产品。
本实施例中,在用户和群组都设置了个性化平衡参数。对于用户,平衡参数用来衡量用户自身和所加入的群组对用户偏好的影响。对于群组,平衡参数用来衡量群组自身和群组内成员对群组偏好的影响。各个用户和群组的平衡参数的个性化,更符合现实情况,可以提高推荐精度。
本实施例中,在迭代训练用户和群组的个性化平衡参数时,采用投影梯度(PG)方法来更新参数,这样可以实现将这两种参数的取值范围控制在[0,1]区间内,符合实际情况。
本实施例中,在大数据环境下,数据集相对比较稀疏,并且是属于隐式反馈数据,即数据中0的个数远大于1的个数,因此,本实施例中选择了一种欠采样的方法,即从所有负例样本中随机采样一定比例的数据,以提高模型的效率。
本实施例中,用户的社交关系不仅是体现在用户与用户之间的好友关系,还体现在用户与群组的关系,因此,本实施例中可以实现给用户推荐更准确的产品。
本实施例可以应用于汽车和电脑等实体产品、电影和图片等数字产品、旅游和金融投资等服务产品的个性化推荐系统,以及可以应用于网页、手机APP和电脑软件等平台上。
图9为本发明一实施例提供的基于协同演化的个性化推荐装置的框图。参见图9,基于协同演化的个性化推荐装置包括:
学习目标获取模块901,用于基于贝叶斯定理获取预先设置的模型的学习目标;所述模型至少包括:用户消费行为的概率模型、用户加群行为的概率模型、产品的隐特征矩阵、用户的隐偏好张量和群组的隐偏好张量;
最优参数更新模块902,用于基于所述学习目标,利用随机梯度下降法和投影梯度法来更新所述模型的最优参数,得到训练好的模型;
标记行为预测模块903,用于利用所述训练好的参数预测用户在T+1时刻的加群行为和偏好,以及用户在T+1时刻的标记行为。
在一实施例中,所述装置还包括:
消费概率模型构建模块,用于构建用户消费行为的概率模型,对于每一个用户a和每一个产品i,预测用户在时间t对产品的消费偏好定义为:
Figure GDA0003004574630000161
式中,
Figure GDA0003004574630000162
是均值为μ,方差为σ2的高斯分布;
Figure GDA0003004574630000163
是指示向量,当用户a在时间t选择产品i时,
Figure GDA0003004574630000164
否则为0;
Figure GDA0003004574630000165
是用户a在时间t的隐偏好,属于用户隐张量
Figure GDA0003004574630000166
是产品的隐特征,属于产品的隐矩阵
Figure GDA0003004574630000167
<,>表示两个向量的内积;
加群概率模型构建模块,用于构建用户加群行为的概率模型,对于每一个用户a和每一个群组p,预测用户在时间t加入群组的社交行为偏好可以定义为:
Figure GDA0003004574630000168
式中,
Figure GDA0003004574630000169
是均值为μ,方差为σ2的高斯分布;
Figure GDA00030045746300001610
是指示向量,当用户a在时间t加入群组p时,
Figure GDA00030045746300001611
否则为0;
Figure GDA00030045746300001612
是用户a在时间t-1的隐偏好,属于用户隐张量
Figure GDA00030045746300001613
Figure GDA00030045746300001614
表示群组p在时间t-1的群组偏好,属于群组隐张量
Figure GDA00030045746300001615
<,>表示两个向量的内积;
产品隐特征构建模块,用于构建产品的隐特征矩阵,且所述隐特征矩阵中包括一个均值为0的高斯先验;
Figure GDA00030045746300001616
用户隐张量构建模块,用于构建用户的隐偏好张量,用户当前偏好主要受到用户以前的偏好和用户所加入的群组的影响,基于个体偏好和群体影响的用户a在时间窗口t=2,3,4,…,T的隐偏好张量为:
Figure GDA0003004574630000171
式中,
Figure GDA0003004574630000172
Figure GDA0003004574630000173
式中,αa是非负参数,用以平衡个体偏好和群体的影响力;
Figure GDA0003004574630000174
表示群组p在t时刻对用户a的影响力函数,
Figure GDA0003004574630000175
表示群组p在t-1时刻的群组偏好,
Figure GDA0003004574630000176
表示t时刻,用户a新参与的群组数量;
Figure GDA0003004574630000177
定义为:
Figure GDA0003004574630000178
Figure GDA0003004574630000179
为t-1时刻群组p和用户a的关系强度,定义如下:
Figure GDA00030045746300001710
式中,
Figure GDA00030045746300001711
为直至t-1时刻,用户a与用户c购买产品中相同产品的个数(交互次数);
Figure GDA00030045746300001712
为直至t-1时刻,用户c购买产品的数量;
在初始状态下,个体不受任何群体的影响,假设t=1时刻,用户隐偏好服从均值为0的高斯分布,所述用户隐张量概率分布为:
Figure GDA00030045746300001713
群组隐张量构建模块,用于构建群组的隐偏好张量,采用等权策略为每个群组构建在时间窗口t=2,3,4,…,T的隐偏好张量:
Figure GDA00030045746300001714
式中
Figure GDA0003004574630000181
Figure GDA0003004574630000182
式中,
Figure GDA0003004574630000183
表示用户a受群组影响之后在t时刻的用户偏好;
Figure GDA0003004574630000184
表示在t时刻加入的用户a对于群组p的影响,
Figure GDA0003004574630000185
表示t时刻群组p新加入成员的数量,且
Figure GDA0003004574630000186
βp是非负参数,用以平衡新旧群成员的影响力;
在初始状态t=1时,群组偏好就是t=1时刻全部群成员偏好的加和平均值;
Figure GDA0003004574630000187
所述群组隐偏好张量的概率分布为:
Figure GDA0003004574630000188
在一实施例中,所述学习目标获取模块包括:
最优参数获取单元,用于基于贝叶斯定理最大化公式p(U,G,V,α,β|C,S)∝p(C|U,V,α)×p(S|G,U,α,β)×p(U)×p(G)×p(V)的后验概率,得到最优的参数Φ=[U,G,V,α,β];
目标函数获取模块,用于获取p(U,G,V,α,β|C,S)的自然对数ln,并且乘以-1,得到目标函数等价于最小化下式:
Figure GDA0003004574630000189
Figure GDA0003004574630000191
其中λ表示正则化参数:
Figure GDA0003004574630000192
初始参数求解单元,用于求解参数G,U,V,α,β的偏导数,得到关于G,U,V,α,β的初始化参数集合:
Figure GDA0003004574630000193
Figure GDA0003004574630000194
Figure GDA0003004574630000195
Figure GDA0003004574630000196
Figure GDA0003004574630000197
参数更新单元,用于遍历N个用户和从1~T的T个时间点,使用随机梯度下降方法更新U,并采用投影梯度方法来更新α,α,β取值范围是在0与1之间;遍历K个群组和从1~T的T个时间点,使用随机梯度下降方法来更新G,并采用投影梯度方法来更新β;遍历M个产品,使用随机梯度下降方法来更新V;重复更新α,β,U,G和V,所述目标函数收敛。
在一实施例中,所述标记行为预测模块包括:
加群行为预测单元,用于根据T时刻的用户隐偏好向量
Figure GDA0003004574630000201
和T时刻的群组隐偏好向量
Figure GDA0003004574630000202
由公式
Figure GDA0003004574630000203
预测用户在T+1时刻的加群行为;
用户偏好预测单元,用于根据T时刻的用户隐偏好向量
Figure GDA0003004574630000204
和T+1时刻的用户加入群组的影响,由
Figure GDA0003004574630000205
预测用户在T+1时刻的偏好;
标记行为预测单元,用于根据T+1时刻的用户隐偏好向量
Figure GDA0003004574630000206
和产品的隐特征向量Vi,由
Figure GDA0003004574630000207
预测用户在受到T+1时刻群组的影响而产生的标记行为
需要说明的是,本发明实施例提供的基于协同演化的个性化推荐装置与上述方法是一一对应的关系,上述方法的实施细节同样适用于上述装置,本发明实施例不再对上述系统进行详细说明。
本发明的说明书中,说明了大量具体细节。然而,能够理解,本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中,并未详细示出公知的方法、结构和技术,以便不模糊对本说明书的理解。
最后应说明的是:以上各实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述各实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的范围,其均应涵盖在本发明的权利要求和说明书的范围当中。

Claims (8)

1.一种基于协同演化的个性化推荐方法,其特征在于,包括:
基于贝叶斯定理获取预先设置的模型的学习目标;所述模型至少包括:用户消费行为的概率模型、用户加群行为的概率模型、产品的隐特征矩阵、用户的隐偏好张量和群组的隐偏好张量;
基于所述学习目标,利用随机梯度下降法和投影梯度法来更新所述模型的最优参数,得到训练好的模型;
利用所述训练好的参数预测用户在T+1时刻的加群行为和偏好,以及用户在T+1时刻的标记行为;
所述用户消费行为的概率模型表示对于每一个用户和每一个产品,预测用户在不同时间对产品消费偏好;
所述用户加群行为的概率模型表示对于每一个用户和每一个群组,预测用户在不同时间加入群组的社交行为偏好;
所述产品的隐特征矩阵表示给产品隐矩阵加入一个均值为0的高斯先验;
所述用户的隐偏好张量表示用户当前偏好主要受到用户以前的偏好和用户所加入的群组的影响,基于个体偏好和群体影响的用户在时间窗口的隐偏好张量;
所述群组的隐偏好张量表示一个群组的偏好是群组历史偏好状态和新加入用户偏好的综合作用结果。
2.根据权利要求1所述的个性化推荐方法,其特征在于,基于贝叶斯定理获取预先设置的模型的学习目标之前,所述方法还包括:
构建用户消费行为的概率模型,对于每一个用户a和每一个产品i,预测用户在时间t对产品的消费偏好定义为:
Figure FDA0003004574620000021
式中,
Figure FDA0003004574620000022
是均值为μ,方差为σ2的高斯分布;
Figure FDA0003004574620000023
是指示向量,当用户a在时间t选择产品i时,
Figure FDA0003004574620000024
否则为0;
Figure FDA0003004574620000025
是用户a在时间t的隐偏好,属于用户隐张量
Figure FDA0003004574620000026
是产品的隐特征,属于产品的隐矩阵
Figure FDA0003004574620000027
<,>表示两个向量的内积;
构建用户加群行为的概率模型,对于每一个用户a和每一个群组p,预测用户在时间t加入群组的社交行为偏好可以定义为:
Figure FDA0003004574620000028
式中,
Figure FDA0003004574620000029
是均值为μ,方差为σ2的高斯分布;
Figure FDA00030045746200000210
是指示向量,当用户a在时间t加入群组p时,
Figure FDA00030045746200000211
否则为0;
Figure FDA00030045746200000212
是用户a在时间t-1的隐偏好,属于用户隐张量
Figure FDA00030045746200000213
Figure FDA00030045746200000214
表示群组p在时间t-1的群组偏好,属于群组隐张量
Figure FDA00030045746200000215
<,>表示两个向量的内积;
构建产品的隐特征矩阵,且所述隐特征矩阵中包括一个均值为0的高斯先验;
Figure FDA00030045746200000216
构建用户的隐偏好张量,用户当前偏好主要受到用户以前的偏好和用户所加入的群组的影响,基于个体偏好和群体影响的用户a在时间窗口t=2,3,4,…,T的隐偏好张量为:
Figure FDA0003004574620000031
式中,
Figure FDA0003004574620000032
Figure FDA0003004574620000033
式中,αa是非负参数,用以平衡个体偏好和群体的影响力;
Figure FDA0003004574620000034
表示群组p在t时刻对用户a的影响力函数,
Figure FDA0003004574620000035
表示群组p在t-1时刻的群组偏好,
Figure FDA0003004574620000036
表示t时刻,用户a新参与的群组数量;
Figure FDA0003004574620000037
定义为:
Figure FDA0003004574620000038
Figure FDA0003004574620000039
为t-1时刻群组p和用户a的关系强度,定义如下:
Figure FDA00030045746200000310
式中,
Figure FDA00030045746200000311
为直至t-1时刻,用户a与用户c购买产品中相同产品的个数;
Figure FDA00030045746200000312
为直至t-1时刻,用户c购买产品的数量;
在初始状态下,个体不受任何群体的影响,假设t=1时刻,用户隐偏好服从均值为0的高斯分布,所述用户隐张量概率分布为:
Figure FDA00030045746200000313
构建群组的隐偏好张量,采用等权策略为每个群组构建在时间窗口t=2,3,4,…,T的隐偏好张量:
Figure FDA00030045746200000314
式中
Figure FDA0003004574620000041
Figure FDA0003004574620000042
式中,
Figure FDA0003004574620000043
表示用户a受群组影响之后在t时刻的用户偏好;
Figure FDA0003004574620000044
表示在t时刻加入的用户a对于群组p的影响,
Figure FDA0003004574620000045
表示t时刻群组p新加入成员的数量,且
Figure FDA0003004574620000046
βp是非负参数,用以平衡新旧群成员的影响力;
在初始状态t=1时,群组偏好就是t=1时刻全部群成员偏好的加和平均值;
Figure FDA0003004574620000047
所述群组隐偏好张量的概率分布为:
Figure FDA0003004574620000048
3.根据权利要求2所述的个性化推荐方法,其特征在于,基于贝叶斯定理获取预先设置的模型的学习目标包括:
基于贝叶斯定理最大化公式p(U,G,V,α,β|C,S)∝p(C|U,V,α)×p(S|G,U,α,β)×p(U)×p(G)×p(V)的后验概率,得到最优的参数Φ=[U,G,V,α,β];
获取p(U,G,V,α,β|C,S)的自然对数ln,并且乘以-1,得到目标函数等价于最小化下式:
Figure FDA0003004574620000049
Figure FDA0003004574620000051
其中λ表示正则化参数:
Figure FDA0003004574620000052
求解参数G,U,V,α,β的偏导数,得到关于G,U,V,α,β的初始化参数集合:
Figure FDA0003004574620000053
Figure FDA0003004574620000054
Figure FDA0003004574620000055
Figure FDA0003004574620000056
Figure FDA0003004574620000057
遍历N个用户和从1~T的T个时间点,使用随机梯度下降方法更新U,并采用投影梯度方法来更新α,α,β取值范围是在0与1之间;
遍历K个群组和从1~T的T个时间点,使用随机梯度下降方法来更新G,并采用投影梯度方法来更新β;
遍历M个产品,使用随机梯度下降方法来更新V;
重复更新α,β,U,G和V,所述目标函数收敛。
4.根据权利要求3所述的个性化推荐方法,其特征在于,所述利用所述训练好的参数预测用户在T+1时刻的加群行为和偏好,以及用户在T+1时刻的标记行为包括:
根据T时刻的用户隐偏好向量
Figure FDA0003004574620000061
和T时刻的群组隐偏好向量
Figure FDA0003004574620000062
由公式
Figure FDA0003004574620000063
预测用户在T+1时刻的加群行为;
根据T时刻的用户隐偏好向量
Figure FDA0003004574620000064
和T+1时刻的用户加入群组的影响,由
Figure FDA0003004574620000065
预测用户在T+1时刻的偏好;
根据T+1时刻的用户隐偏好向量
Figure FDA0003004574620000066
和产品的隐特征向量Vi,由
Figure FDA0003004574620000067
预测用户在受到T+1时刻群组的影响而产生的标记行为。
5.一种基于协同演化的个性化推荐装置,其特征在于,包括:
学习目标获取模块,用于基于贝叶斯定理获取预先设置的模型的学习目标;所述模型至少包括:用户消费行为的概率模型、用户加群行为的概率模型、产品的隐特征矩阵、用户的隐偏好张量和群组的隐偏好张量;
最优参数更新模块,用于基于所述学习目标,利用随机梯度下降法和投影梯度法来更新所述模型的最优参数,得到训练好的模型;
标记行为预测模块,用于利用所述训练好的参数预测用户在T+1时刻的加群行为和偏好,以及用户在T+1时刻的标记行为;
所述用户消费行为的概率模型表示对于每一个用户和每一个产品,预测用户在不同时间对产品消费偏好;
所述用户加群行为的概率模型表示对于每一个用户和每一个群组,预测用户在不同时间加入群组的社交行为偏好;
所述产品的隐特征矩阵表示给产品隐矩阵加入一个均值为0的高斯先验;
所述用户的隐偏好张量表示用户当前偏好主要受到用户以前的偏好和用户所加入的群组的影响,基于个体偏好和群体影响的用户在时间窗口的隐偏好张量;
所述群组的隐偏好张量表示一个群组的偏好是群组历史偏好状态和新加入用户偏好的综合作用结果。
6.根据权利要求5所述的个性化推荐装置,其特征在于,所述装置还包括:
消费概率模型构建模块,用于构建用户消费行为的概率模型,对于每一个用户a和每一个产品i,预测用户在时间t对产品的消费偏好定义为:
Figure FDA0003004574620000071
式中,
Figure FDA0003004574620000072
是均值为μ,方差为σ2的高斯分布;
Figure FDA0003004574620000073
是指示向量,当用户a在时间t选择产品i时,
Figure FDA0003004574620000074
否则为0;
Figure FDA0003004574620000075
是用户a在时间t的隐偏好,属于用户隐张量
Figure FDA0003004574620000076
是产品的隐特征,属于产品的隐矩阵
Figure FDA0003004574620000077
<,>表示两个向量的内积;
加群概率模型构建模块,用于构建用户加群行为的概率模型,对于每一个用户a和每一个群组p,预测用户在时间t加入群组的社交行为偏好可以定义为:
Figure FDA0003004574620000081
式中,
Figure FDA0003004574620000082
是均值为μ,方差为σ2的高斯分布;
Figure FDA0003004574620000083
是指示向量,当用户a在时间t加入群组p时,
Figure FDA0003004574620000084
否则为0;
Figure FDA0003004574620000085
是用户a在时间t-1的隐偏好,属于用户隐张量
Figure FDA0003004574620000086
Figure FDA0003004574620000087
表示群组p在时间t-1的群组偏好,属于群组隐张量
Figure FDA0003004574620000088
<,>表示两个向量的内积;
产品隐特征构建模块,用于构建产品的隐特征矩阵,且所述隐特征矩阵中包括一个均值为0的高斯先验;
Figure FDA0003004574620000089
用户隐张量构建模块,用于构建用户的隐偏好张量,用户当前偏好主要受到用户以前的偏好和用户所加入的群组的影响,基于个体偏好和群体影响的用户a在时间窗口t=2,3,4,…,T的隐偏好张量为:
Figure FDA00030045746200000810
式中,
Figure FDA00030045746200000811
Figure FDA00030045746200000812
式中,αa是非负参数,用以平衡个体偏好和群体的影响力;
Figure FDA00030045746200000813
表示群组p在t时刻对用户a的影响力函数,
Figure FDA0003004574620000091
表示群组p在t-1时刻的群组偏好,
Figure FDA0003004574620000092
表示t时刻,用户a新参与的群组数量;
Figure FDA0003004574620000093
定义为:
Figure FDA0003004574620000094
Figure FDA0003004574620000095
为t-1时刻群组p和用户a的关系强度,定义如下:
Figure FDA0003004574620000096
式中,
Figure FDA0003004574620000097
为直至t-1时刻,用户a与用户c购买产品中相同产品的个数;
Figure FDA0003004574620000098
为直至t-1时刻,用户c购买产品的数量;
在初始状态下,个体不受任何群体的影响,假设t=1时刻,用户隐偏好服从均值为0的高斯分布,所述用户隐张量概率分布为:
Figure FDA0003004574620000099
群组隐张量构建模块,用于构建群组的隐偏好张量,采用等权策略为每个群组构建在时间窗口t=2,3,4,…,T的隐偏好张量:
Figure FDA00030045746200000910
式中
Figure FDA00030045746200000911
Figure FDA00030045746200000912
式中,
Figure FDA00030045746200000913
表示用户a受群组影响之后在t时刻的用户偏好;
Figure FDA00030045746200000914
表示在t时刻加入的用户a对于群组p的影响,
Figure FDA00030045746200000915
表示t时刻群组p新加入成员的数量,且
Figure FDA00030045746200000916
βp是非负参数,用以平衡新旧群成员的影响力;
在初始状态t=1时,群组偏好就是t=1时刻全部群成员偏好的加和平均值;
Figure FDA0003004574620000101
所述群组隐偏好张量的概率分布为:
Figure FDA0003004574620000102
7.根据权利要求6所述的个性化推荐装置,其特征在于,所述学习目标获取模块包括:
最优参数获取单元,用于基于贝叶斯定理最大化公式p(U,G,V,α,β|C,S)∝p(C|U,V,α)×p(S|G,U,α,β)×p(U)×p(G)×p(V)的后验概率,得到最优的参数Φ=[U,G,V,α,β];
目标函数获取模块,用于获取p(U,G,V,α,β|C,S)的自然对数ln,并且乘以-1,得到目标函数等价于最小化下式:
Figure FDA0003004574620000103
Figure FDA0003004574620000104
其中λ表示正则化参数:
Figure FDA0003004574620000105
初始参数求解单元,用于求解参数G,U,V,α,β的偏导数,得到关于G,U,V,α,β的初始化参数集合:
Figure FDA0003004574620000111
Figure FDA0003004574620000112
Figure FDA0003004574620000113
Figure FDA0003004574620000114
Figure FDA0003004574620000115
参数更新单元,用于遍历N个用户和从1~T的T个时间点,使用随机梯度下降方法更新U,并采用投影梯度方法来更新α,α,β取值范围是在0与1之间;遍历K个群组和从1~T的T个时间点,使用随机梯度下降方法来更新G,并采用投影梯度方法来更新β;遍历M个产品,使用随机梯度下降方法来更新V;重复更新α,β,U,G和V,所述目标函数收敛。
8.根据权利要求7所述的个性化推荐装置,其特征在于,所述标记行为预测模块包括:
加群行为预测单元,用于根据T时刻的用户隐偏好向量
Figure FDA0003004574620000116
和T时刻的群组隐偏好向量
Figure FDA0003004574620000117
由公式
Figure FDA0003004574620000121
预测用户在T+1时刻的加群行为;
用户偏好预测单元,用于根据T时刻的用户隐偏好向量
Figure FDA0003004574620000122
和T+1时刻的用户加入群组的影响,由
Figure FDA0003004574620000123
预测用户在T+1时刻的偏好;
标记行为预测单元,用于根据T+1时刻的用户隐偏好向量
Figure FDA0003004574620000124
和产品的隐特征向量Vi,由
Figure FDA0003004574620000125
预测用户在受到T+1时刻群组的影响而产生的标记行为。
CN201811013374.1A 2018-08-31 2018-08-31 基于协同演化的个性化推荐方法及装置 Active CN109190040B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811013374.1A CN109190040B (zh) 2018-08-31 2018-08-31 基于协同演化的个性化推荐方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811013374.1A CN109190040B (zh) 2018-08-31 2018-08-31 基于协同演化的个性化推荐方法及装置

Publications (2)

Publication Number Publication Date
CN109190040A CN109190040A (zh) 2019-01-11
CN109190040B true CN109190040B (zh) 2021-05-28

Family

ID=64917430

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811013374.1A Active CN109190040B (zh) 2018-08-31 2018-08-31 基于协同演化的个性化推荐方法及装置

Country Status (1)

Country Link
CN (1) CN109190040B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112182395B (zh) * 2020-10-10 2023-08-29 深圳市万佳安物联科技股份有限公司 一种基于时间序列的金融服务个性化推荐装置和方法
CN113537622B (zh) * 2021-07-30 2022-04-29 烟台大学 基于动态信任感知的服务偏好预测方法及系统
CN113987261B (zh) * 2021-11-08 2023-07-18 烟台大学 一种基于动态信任感知的视频推荐方法及系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102262648A (zh) * 2010-05-31 2011-11-30 索尼公司 评价预测设备、评价预测方法和程序
CN104866540A (zh) * 2015-05-04 2015-08-26 华中科技大学 一种基于群体用户行为分析的个性化推荐方法
CN105183909A (zh) * 2015-10-09 2015-12-23 福州大学 基于高斯混合模型的社交网络用户兴趣预测方法
CN108304556A (zh) * 2018-02-06 2018-07-20 中国传媒大学 基于内容与协同过滤相结合的个性化推荐方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090276403A1 (en) * 2008-04-30 2009-11-05 Pablo Tamayo Projection mining for advanced recommendation systems and data mining

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102262648A (zh) * 2010-05-31 2011-11-30 索尼公司 评价预测设备、评价预测方法和程序
CN104866540A (zh) * 2015-05-04 2015-08-26 华中科技大学 一种基于群体用户行为分析的个性化推荐方法
CN105183909A (zh) * 2015-10-09 2015-12-23 福州大学 基于高斯混合模型的社交网络用户兴趣预测方法
CN108304556A (zh) * 2018-02-06 2018-07-20 中国传媒大学 基于内容与协同过滤相结合的个性化推荐方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
Group recommendation based on a bidirectional tensor factorization model;Junkun Wang;《World Wide Web-internet & Web Information Systems》;20180731;第21卷;第961-984页 *

Also Published As

Publication number Publication date
CN109190040A (zh) 2019-01-11

Similar Documents

Publication Publication Date Title
US20220215032A1 (en) Ai-based recommendation method and apparatus, electronic device, and storage medium
CN111428147B (zh) 结合社交和兴趣信息的异源图卷积网络的社交推荐方法
CN107563841B (zh) 一种基于用户评分分解的推荐系统
CN110266745B (zh) 基于深度网络的信息流推荐方法、装置、设备及存储介质
CN107526810B (zh) 建立点击率预估模型的方法及装置、展示方法及装置
CN107301247B (zh) 建立点击率预估模型的方法及装置、终端、存储介质
JP6261547B2 (ja) 判定装置、判定方法及び判定プログラム
CN109190040B (zh) 基于协同演化的个性化推荐方法及装置
James et al. Penalized and constrained optimization: an application to high-dimensional website advertising
CN106776928B (zh) 基于内存计算框架、融合社交及时空数据的位置推荐方法
CN109635206B (zh) 融合隐式反馈和用户社会地位的个性化推荐方法及系统
CN110209946B (zh) 基于社交和社群的产品推荐方法、系统和存储介质
EP2960849A1 (en) Method and system for recommending an item to a user
CN109840833B (zh) 贝叶斯协同过滤推荐方法
CN111177473B (zh) 人员关系分析方法、装置和可读存储介质
CN107423335B (zh) 一种针对单类协同过滤问题的负样本选择方法
JP2021103542A (ja) 情報提供装置、情報提供方法、およびプログラム
CN111242310A (zh) 特征有效性评估方法、装置、电子设备及存储介质
CN108446297B (zh) 一种推荐方法及装置,电子设备
CN111259263A (zh) 一种物品推荐方法、装置、计算机设备及存储介质
CN107577736B (zh) 一种基于bp神经网络的文件推荐方法及系统
CN112380433A (zh) 面向冷启动用户的推荐元学习方法
CN111681084A (zh) 一种基于社交关系影响因素的电商平台推荐方法
CN109684561B (zh) 基于用户签到行为变化的深层语义分析的兴趣点推荐方法
CN105260458A (zh) 一种用于显示装置的视频推荐方法及显示装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant