CN108874998B - 一种基于混合特征向量表示的对话式音乐推荐方法 - Google Patents

Abstract

本发明公开了一种基于混合特征向量表示的对话式音乐推荐方法，通过用户历史听歌数据表示为用户‑待推荐音乐实体的二维矩阵，并进行分解得到用户行为特征向量和音乐行为特征向量，通过利用翻译模型处理音乐知识图谱，为每个待推荐音乐实体得到特征向量表示，记为音乐知识特征向量，然后采用拼接的方式对不同来源的特征向量进行融合，扩大了向量空间，较好地保留了各个隐向量维度的语义信息。同时基于Bandit算法的实时推荐可以逐步推算出用户的偏好，且Bandit算法的执行逻辑符合交互式场景。这样实现了实时推荐，且对上下文信息、用户需求和反馈能良好处理。

Description

一种基于混合特征向量表示的对话式音乐推荐方法

技术领域

本发明属于数据挖掘中的音乐推荐技术领域，更为具体地讲，涉及应用场景为人机对话场景的一种基于混合特征向量表示的对话式实时音乐推荐方法。

背景技术

听音乐已经成为现代人的一种非常常见的娱乐方式，随着音乐流媒体的发展，人们随时随地都能享受音乐。但网络上海量的音乐资源也带来了信息过载问题，用户难以从海量音乐资源中找到自己喜欢的音乐。因此需要音乐推荐系统来挖掘用户的偏好，主动为用户推荐其可能感兴趣的音乐。一个好的音乐推荐系统既能提升用户体验，也能帮助商家盈利，达到用户和商家的双赢。当前，国内外许多知名互联网公司也已经将音乐推荐系统应用到产品当中，并获得了可观的回报。

音乐推荐作为一类很有代表性的研究领域，具有推荐音乐种类繁多、实时性强、上下文信息丰富、消费代价低以及允许重复消费等特性。学术界和工业界针对音乐推荐也已有多年的研究与实践经验，取得了不俗的表现。但用户的音乐偏好容易受上下文信息影响，实时性比较强，而传统的音乐推荐技术着眼于离线场景，不支持与用户的实时交互，不能很好地满足用户的实时音乐需求。

而随着时代的变迁与技术的变革，人工智能催生了许多全新应用场景，对话系统便是其中极具代表性的方向之一。此外，近些年，知识图谱的出现也让各类互联网技术迈入了新的台阶。对话系统和知识图谱技术的发展为设计满足用户实时偏好的对话式音乐推荐方法，构建基于音乐知识图谱的对话式音乐推荐系统提供了更多的研究思路与方法。

目前存在几类对话式推荐方法，但是其反馈方式和应用场景均单一，不能实现在人机对话场景下的实时音乐推荐。

发明内容

本发明的目的在于克服现有技术的不足，提供一种基于混合特征向量表示的对话式音乐推荐方法，该方法实现对话场景下的基于音乐知识图谱的对话式音乐推荐，即在人机对话的场景下，实时获取用户对音乐的偏好，并结合音乐知识图谱来建模用户的长短期偏好，及时给予上下文感知的推荐结果，以实现实时推荐，且对上下文信息、用户需求和反馈能良好处理。

为实现上述发明目的，本发明基于混合特征向量表示的对话式音乐推荐方法，其特征在于，包括以下步骤：

(1)、将用户历史听歌数据表示为用户-待推荐音乐实体的二维矩阵M，二维矩阵M中的每一项表示一个用户与一待推荐音乐实体的交互次数；

利用矩阵分解模型分解二维矩阵M，得到的每一用户的隐向量和每一待推荐音乐实体的隐向量，分别记为用户行为特征向量和音乐行为特征向量；

利用翻译模型处理音乐知识图谱，得到每一待推荐音乐实体的特征向量表示，记为音乐知识特征向量；

将每一待推荐音乐实体的音乐行为特征向量与音乐知识特征向量进行拼接，得到每一待推荐音乐实体的音乐混合特征向量，将每一用户的用户行为特征向量拼接上与音乐知识特征向量长度相等的0向量，得到每一用户的用户混合特征向量；所有用户的混合特征向量以及所有待推荐音乐实体的混合特征向量构成用户与音乐混合特征向量池；

(2)、从人机对话内容中识别当前用户需求，并根据当前用户需求，从音乐知识图谱中提取符合需求的目标(待推荐)音乐实体，并构成候选目标音乐实体集合；

(3)、从用户与音乐混合特征向量池中，获取当前用户的混合特征向量和候选目标音乐实体集合中各待推荐音乐实体的混合特征向量；

(4)、根据当前用户的混合特征向量和候选目标音乐实体集合中各目标音乐实体的混合特征向量，基于Bandit算法进行实时推荐，得到候选目标音乐实体集合中各目标音乐实体的得分，并将得分最高的目标音乐实体推荐给当前用户。

本发明的目的是这样实现的。

本发明基于混合特征向量表示的对话式音乐推荐方法，通过用户历史听歌数据表示为用户-待推荐音乐实体的二维矩阵，并进行分解得到用户行为特征向量和音乐行为特征向量，通过利用翻译模型处理音乐知识图谱，为每个待推荐音乐实体得到特征向量表示，记为音乐知识特征向量，然后采用拼接的方式对不同来源的特征向量进行融合，扩大了向量空间，较好地保留了各个隐向量维度的语义信息。同时基于Bandit算法的实时推荐可以逐步推算出用户的偏好，且Bandit算法的执行逻辑符合交互式场景。这样实现了实时推荐，且对上下文信息、用户需求和反馈能良好处理。

附图说明

图1是本发明基于混合特征向量表示的对话式音乐推荐方法一种具体实施方式的流程图；

图2是本发明基于翻译和矩阵分解模型的混合特征向量表示的流程图；

具体实施方式

下面结合附图对本发明的具体实施方式进行描述，以便本领域的技术人员更好地理解本发明。需要特别提醒注意的是，在以下的描述中，当已知功能和设计的详细描述也许会淡化本发明的主要内容时，这些描述在这里将被忽略。

针对目前的几类对话式推荐方法存在反馈方式和应用场景均单一，不能实现在人机对话场景下进行实时音乐推荐的问题。本发明的目的是实现对话场景下的基于知识图谱的实时音乐推荐，即在人机对话的场景下，实时获取用户对音乐的偏好，并结合知识图谱来建模用户的长短期偏好，及时给予上下文感知的推荐结果。此类应用场景要求推荐技术能够实现实时推荐，且对上下文信息、用户需求和反馈能良好处理。

为实现上述发明目的，本发明提出了一种基于混合特征向量表示的实时音乐推荐方法。在推荐方法层面，主要分为两个模块：混合特征向量表示模块和基于Bandit算法的实时推荐模块。此两个模块以pipeline的方式结合执行，首先基于混合特征向量表示方法获得每一用户和每一待推荐音乐实体的混合特征向量表示，然后将当前用户的混合特征向量以及每一待推荐音乐实体的混合特征向量用于Bandit算法中，为用户提供实时音乐推荐。

在本发明中，输入数据涉及两部分：用户历史听歌数据和音乐知识图谱(MusicalKnowledge Graph，MKG)，分别利用矩阵分解模型进行分解和翻译模型进行处理，并对得到的特征向量进行混合

这里我们利用基于翻译模型(trans系列)和矩阵分解模型的混合表示方法得到用户和音乐实体的混合特征向量表示。这样采用混合技术，对用户听歌历史数据和音乐知识图谱采用不同的技术处理得到特征向量表示，进一步将不同来源的特征向量融合到一起形成混合特征向量来表示用户的长短期偏好，用于后续的bandit实时推荐算法中。

Bandit算法是强化学习(Reinforcement Learning)技术的子类，是一类优秀的在线推荐算法，现多用于高度动态变化的领域，如新闻推荐等。本发明基于Bandit算法在线多轮的交互，为用户提供实时推荐结果。

对于用户听歌历史数据，由于听歌记录中只有用户与待推荐音乐实体交互的次数，是一种隐式反馈行为，因此，在本实施例中采用基于协同过滤处理隐式数据的矩阵分解模型WMF(Weighted Matrix Factorization)来挖掘用户的长期偏好。

图1是本发明基于混合特征向量表示的对话式音乐推荐方法一种具体实施方式的流程图。

在本实施例中，如图1所示，本发明基于混合特征向量表示的对话式音乐推荐方法包括以下步骤：

步骤S1：混合特征向量表示

在本实施例中，如图2所示，混合特征向量表示进一步包括：

步骤S1.1：构建用户-待推荐音乐实体的二维矩阵

将用户历史听歌数据表示为用户-待推荐音乐实体的二维矩阵M，二维矩阵M中的每一项表示一个用户与一待推荐音乐实体的交互次数。

待推荐音乐实体可以是歌曲、专辑、歌手、风格。在本实施例中，以歌曲作为待推荐音乐实体，用户-待推荐音乐实体的二维矩阵M为用户-歌曲的二维矩阵M。所述二维矩阵M中的一个元素M_ui表示用户u听过歌曲i的次数。表1为用户-待推荐音乐实体的二维矩阵一实例。

	本草纲目	花田错	江南
				User1	20	10	0
User2	0	5	2
				User3	0	0	8

表1

表1中，二维矩阵M中的一个元素表示用户的听歌次数即交互为听歌，次数为0表示用户没有听过该歌曲。

步骤S1.2：WMF矩阵分解

利用矩阵分解模型分解二维矩阵M，得到的每一用户的隐向量和每一待推荐音乐实体的隐向量，分别记为用户行为特征向量和音乐行为特征向量。

在本实施例中，矩阵分解模型采用WMF(Weighted Matrix Factorization)即带权重的矩阵分解模型(算法)分解用户-歌曲的二维矩阵M，得到每一用户的隐含特征向量即隐向量(记为用户行为特征向量)和每一歌曲的隐含特征向量即隐向量(记为音乐行为特征向量)。

在本实施例中，各用户的用户行为特征向量为：

User1-MF,User2-MF,User3-MF。

各歌曲的音乐行为特征向量为：

本草纲目-MF,花田错-MF,江南-MF。

其中，MF表示对应的向量。

在本实施例中，针对隐式的用户听歌行为数据，采用带权重的矩阵分解模型WMF对用户-歌曲的二维矩阵M进行分解，得到每一用户的隐含特征向量即隐向量(记为用户行为特征向量)和每一歌曲的隐含特征向量即隐向量(记为音乐行为特征向量)，以达到拟合用户听歌行为的效果。

矩阵分解模型进行分解的损失函数为：

其中θ_u表示用户u的隐含特征向量，x_i表示歌曲i的隐含特征向量，

表示用户u对音乐i的偏好程度，p_ui取值为0或1，为1则表示用户历史听歌数据中用户u与歌曲i有过交互(听过)，否则则没有过交互，c_ui是依赖于用户u对音乐i的访问次数的权重，访问次数越大，权重就会越高，λ代表正则化项系数。

在本实施例中，将听歌次数作为权重来约束用户对待推荐音乐实体即歌曲的喜爱程度，给用户没有听过的待推荐音乐实体即歌曲赋值为最低的权重，充分利用了用户有过交互的待推荐音乐实体即歌曲和没有交互过的待推荐实体音乐实体即歌曲来拟合用户的听歌偏好。

步骤S1.3：构建音乐知识图谱三元组

从音乐知识图谱中，抽取与用户历史听歌数据中待推荐音乐实体相关的音乐实体和关系，构成三元组。在本实施例中，音乐知识图谱三元组如表2所示，与歌曲相关的音乐实体和关系有：歌手演唱歌曲、歌曲所属风格、歌曲所属专辑、歌手所属风格、歌手所发专辑。

表2

步骤S1.4：翻译模型对音乐知识图谱三元组进行处理

在本实施例中，翻译模型采用TransE算法(Translating Embedding)对音乐知识图谱三元组进行处理，得到每一待推荐音乐实体的特征向量表示，记为音乐知识特征向量。对音乐知识图谱，采用基于翻译的模型来提取音乐实体的知识特征，很好地提取了音乐知识图谱中蕴含的语义信息。

音乐知识图谱三元组经过翻译模型进行处理过程中，翻译模型处理的损失函数为：

其中，(h,l,t)表示音乐知识图谱中存在的正确的三元组，S表示正确的三元组的集合，h,l,t分别表示头实体、关系和尾实体的特征向量；(h′,l,t′)是相对于正确的三元组构建出来的负例，S′是负例三元组集合；d是度量三元组可信程度的函数，γ是模型的超参数。

基于翻译的模型将三元组看做头实体到尾实体的翻译，模型设计较易理解，是当前比较常用的对知识图谱进行特征抽取的模型。

步骤S1.5：拼接获得所有用户和待推荐音乐实体的混合特征向量

将每一待推荐音乐实体的音乐行为特征向量与音乐知识特征向量进行拼接，得到每一待推荐音乐实体的音乐混合特征向量，将每一用户的用户行为特征向量拼接上与音乐知识特征向量长度相等的0向量，得到每一用户的用户混合特征向量；所有用户的混合特征向量以及所有待推荐音乐实体的混合特征向量构成用户与音乐混合特征向量池。

在本实施例中，待推荐音乐实体的混合特征向量为音乐行为特征向量与音乐知识特征向量直接进行拼接后得到；以用户User1和歌曲江南为例：

User1-hybrid＝[User1-MF,zero-vector]

江南-hybrid＝[江南-MF,江南-TransE]

其中“User1-MF”和“江南-MF”分别表示矩阵分解得到的用户和歌曲行为特征向量，而“江南-TransE”则表示TransE模型从音乐领域知识图谱中抽取到的“江南”这首歌的知识特征表示。

本发明采用拼接的方式对向量进行融合，扩大了向量空间，较好地保留了各个隐向量维度的语义信息

本发明通过矩阵分解模型分解方法对用户和待推荐音乐实体，在本实施例中为歌曲提取特征的优势在于：针对隐式的用户听歌行为数据，采用常用的带权重的矩阵分解模型WMF进行处理，达到拟合用户听歌行为的效果；对音乐知识图谱，采用基于翻译的模型来提取音乐实体的知识特征，很好地提取了知识图谱中蕴含的语义信息。

步骤S2：从人机对话内容中识别当前用户需求，并根据当前用户需求，从音乐知识图谱中提取符合需求的目标(待推荐)音乐实体，并构成候选目标音乐实体集合。

以用户u的需求q对应的候选目标音乐实体集合为例，记为

步骤S3：从用户与音乐混合特征向量池中，获取当前用户的混合特征向量和候选目标音乐实体集合中各待推荐音乐实体的混合特征向量；

从用户和音乐两个方面观察当前上下文情况，即用户u的混合特征向量

和用户需求q对应的候选音乐集合Candidate_q中的音乐混合特征向量

步骤S4：基于Bandit算法的实时推荐

根据当前用户的混合特征向量和候选目标音乐实体集合中各目标音乐实体的混合特征向量，基于Bandit算法进行实时推荐，得到候选目标音乐实体集合中各目标音乐实体的得分，并将得分最高的目标音乐实体推荐给当前用户。具体为：

采用“利用已知(exploit)”和“探索未知(explore)”结合的Bandit算法计算每个候选集合中的物品得分，选择得分最高的物品推荐给用户：

上式的意义为针对用户的需求q,候选的音乐实体集合为Candidate_q,其中每一个音乐实体i的推荐得分为score(i),从中选出分数最大的物品作为推荐物品。

Bandit算法选用常线性模型，采用置信区间上界策略作为“explore”部分的方法，具体公式如下：

上式的意义为针对用户u的第t轮交互中，候选的音乐实体集合为c_u,t。为其中的每一个候选音乐实体i_t计算推荐得分，分为两部分：

代表“exploit”，

代表“explore”，α则为平衡两部分的超参。具体的，

为第t轮模型估计的用户u的偏好向量，

表示候选音乐实体i_t对应的特征向量，A_u,t代表记录用户历史轮次信息的模型参数。根据推荐分数选择出来得分最高的候选目标音乐实体a_t作为第t轮的推荐结果。

在本发明考虑了exploit和explore两部分的bandit算法不仅能够利用当前已经学到的用户偏好为用户推荐其感兴趣的目标音乐实体，还具有探索的能力，通过给用户推荐他没有尝试过的目标音乐实体来探索用户新的兴趣，从长远来看能达到较好的推荐效果。

步骤S5：更新

获得该用户对该轮推荐的音乐的反馈，并在线实时更新Bandit算法，以使后续的推荐中学习到本次推荐的结果。

更新Bandit算法的具体公式为：

上式中，

表示用户u_t在第t轮对算法推荐的音乐实体a_t的反馈，这里反馈取值为1或0，1表示用户对当前推荐比较满意，0表示用户对当前推荐不满意。

和

分别表示用户u_t在前(t-1)轮中的历史特征与反馈信息，同样地，

和

分别针对第t轮的历史特征与反馈；

代表第t轮中算法为用户u_t推荐的音乐实体对应的混合特征向量。

和

是用于计算用户偏好的中间变量。

本发明通过翻译模型和矩阵分解方法对用户和音乐提取特征的优势在于：(1)针对用户听歌历史数据和音乐领域知识图谱数据，分别采用了当前比较成熟的技术进行处理；(2)采用拼接的方式对向量进行融合，扩大了向量空间，较好地保留了各个隐向量维度的语义信息。基于Bandit算法的实时推荐可以逐步推算出用户的偏好，且Bandit算法的执行逻辑符合交互式场景。

本发明基于混合特征向量表示的对话式音乐推荐方法，在人机对话的场景下，实时获取用户的显式需求，通过知识图谱构建待推荐的音乐实体集合；然后，将基于混合技术得到的特征向量用到Bandit算法中为当前用户推荐音乐实体；接着，用户针对当前推荐结果给出反馈，而基于Bandit的算法可以及时根据用户的反馈对模型进行更新，使得本次推荐反馈能够及时作用于接下来的推荐中，做到在线推荐。采用本发明可以实现在人机对话场景下的实时音乐推荐，且良好地利用了知识图谱作为方法的先验知识来源。

尽管上面对本发明说明性的具体实施方式进行了描述，以便于本技术领域的技术人员理解本发明，但应该清楚，本发明不限于具体实施方式的范围，对本技术领域的普通技术人员来讲，只要各种变化在所附的权利要求限定和确定的本发明的精神和范围内，这些变化是显而易见的，一切利用本发明构思的发明创造均在保护之列。

Claims (4)

1.一种基于混合特征向量表示的对话式音乐推荐方法，其特征在于，包括以下步骤：

(1)、将用户历史听歌数据表示为用户-待推荐音乐实体的二维矩阵M，二维矩阵M中的每一项表示一个用户与一待推荐音乐实体的交互次数；

利用矩阵分解模型分解二维矩阵M，得到的每一用户的隐向量和每一待推荐音乐实体的隐向量，分别记为用户行为特征向量和音乐行为特征向量；

利用翻译模型处理音乐知识图谱，得到每一待推荐音乐实体的特征向量表示，记为音乐知识特征向量；

将每一待推荐音乐实体的音乐行为特征向量与音乐知识特征向量进行拼接，得到每一待推荐音乐实体的音乐混合特征向量，将每一用户的用户行为特征向量拼接上与音乐知识特征向量长度相等的0向量，得到每一用户的用户混合特征向量；所有用户的混合特征向量以及所有待推荐音乐实体的混合特征向量构成用户与音乐混合特征向量池；

(2)、从人机对话内容中识别当前用户需求，并根据当前用户需求，从音乐知识图谱中提取符合需求的目标即待推荐音乐实体，并构成候选目标音乐实体集合；

(3)、从用户与音乐混合特征向量池中，获取当前用户的混合特征向量和候选目标音乐实体集合中各待推荐音乐实体的混合特征向量；

(4)、根据当前用户的混合特征向量和候选目标音乐实体集合中各目标音乐实体的混合特征向量，基于Bandit算法进行实时推荐，得到候选目标音乐实体集合中各目标音乐实体的得分，并将得分最高的目标音乐实体推荐给当前用户。

2.根据权利要求1所述的基于混合特征向量表示的对话式音乐推荐方法，其特征在于，还包括以下步骤

(5)、获得该用户对该轮推荐的音乐实体的反馈，并在线实时更新Bandit算法，以使后续的推荐中利用到本次推荐的结果。

3.根据权利要求1所述的基于混合特征向量表示的对话式音乐推荐方法，其特征在于，所述的待推荐音乐实体为歌曲，所述矩阵分解模型采用WMF(Weighted MatrixFactorization)即权重矩形分解模型，其中，矩阵分解模型进行分解的损失函数为：

其中θ_u表示用户u的隐含特征向量，x_i表示歌曲i的隐含特征向量，

表示用户u对音乐i的偏好程度，p_ui取值为0或1，为1则表示用户历史听歌数据中用户u与歌曲i有过交互，否则则没有过交互，c_ui是依赖于用户u对音乐i的访问次数的权重，访问次数越大，权重就会越高，λ代表正则化项系数。

4.根据权利要求1所述的基于混合特征向量表示的对话式音乐推荐方法，其特征在于，所述利用翻译模型处理音乐知识图谱，得到每一待推荐音乐实体的特征向量表示为：

从音乐知识图谱中，抽取与用户历史听歌数据中待推荐音乐实体相关的音乐实体和关系，构成三元组，音乐知识图谱三元组的关系类型为：歌手演唱歌曲、歌曲所属风格、歌曲所属专辑、歌手所属风格、歌手所发专辑；

音乐知识图谱三元组经过翻译模型进行处理过程中，翻译模型处理的损失函数为：

其中，(h,l,t)表示音乐知识图谱中存在的正确的三元组，S表示正确的三元组的集合，h,l,t分别表示头实体、关系和尾实体的特征向量；(h′,l,t′)是相对于正确的三元组构建出来的负例，S′是负例三元组集合；d是度量三元组可信程度的函数，γ是模型的超参数。

Images