CN107507054A - 一种基于循环神经网络的推荐算法 - Google Patents

Abstract

本发明为一种基于循环神经网络的推荐算法，涉及推荐算法领域；该算法首先提出一个引入商品评分信息的基于循环神经网络(Recurrent Neural Network,RNN)推荐算法的模型框架Rating‑RNN，对用户将要消费哪一个商品作出准确的预测。然后提出一个基于循环神经网络推荐算法的模型框架Category‑RNN，对用户将要消费哪一类别的商品作出预测。最后，将Rating‑RNN与Category‑RNN输出层合并，形成能够并行训练的Mixing‑RNN。对用户的消费历史进行建模，利用用户的评分信息以及商品类别信息等多种特征，能够捕获用户兴趣的演变，可以有效的提高推荐算法的评估指标。

Description

一种基于循环神经网络的推荐算法

技术领域

本发明涉及推荐算法领域，具体涉及一种基于循环神经网络的推荐算法。

背景技术

互联网的出现和普及给用户带来了大量的信息，满足了用户在信息时代对信息的需求，使得人们的生活越来越离不开网络，越来越多的人选择在网络上进行娱乐或购物。但随着网络的迅速发展而带来的网上信息量的大幅增长，使得用户在面对大量信息时无法从中获得对自己真正有用的那部分信息，对信息的使用效率反而降低了。面对日益扩大的用户需求，以及越来越丰富的资源，如何能够充分理解用户的需求，快捷地为用户找到自己需要的资源，成为吸引用户的一个有力手段。基于此需求，个性化推荐技术渐渐受到重视，如今已经进入一个成熟发展的阶段。

个性化推荐技术，是用户行为分析技术的一个重要方面，简单的说，它是根据用户的信息需求、兴趣等，将用户感兴趣的信息、产品等推荐给用户，为用户找到他可能感兴趣的资源的个性化信息推荐系统。和搜索引擎相比推荐系统通过研究用户的兴趣偏好，进行个性化计算，由系统发现用户的兴趣点，从而引导用户发现自己的信息需求。为了实现个性化的资源推荐，必须“懂”用户、“懂”资源。通过对用户资料及大量历史行为的分析，从中得出用户的兴趣知识，然后以一种合理的方式来表示用户兴趣。同时对资源进行组织，选取合理表达方式来表达资源特征。然后采用恰当的推荐算法，匹配用户兴趣与资源特征，完成推荐。推荐系统现已广泛应用于很多领域，其中最典型并具有良好的发展和应用前景的领域就是电子商务领域。同时学术界对推荐系统的研究热度一直很高，逐步形成了一门独立的学科

目前，流行的推荐算法如协同过滤，通常基于用户的评分或行为进行用户评分预测或商品推荐。但是当预测用户将要消费一个具体的商品时，传统的协同过滤算法无法捕获用户兴趣的演变或上下文相关的兴趣。一种基于循环神经网络的推荐算法可以通过对用户的消费历史进行建模，可以提供更加准确的推荐。

发明内容

为了克服常用的流行的推荐算法无法捕获用户兴趣随时间的演变或者是用户上下文相关的兴趣，本发明提供一种新的算法框架。

本发明的目的是这样实现的：

所述的一种基于循环神经网络的推荐算法，其特征在于，包含以下步骤：

步骤一收集用户用户的商品评评分或行为作为元数据(Raw Data)模块；

步骤二利用商品评分信息的基于循环神经网络(Recurrent Neural Network,RNN)推荐算法的模型框架Rating-RNN，对用户将要消费哪一个商品作出更准确的预测；

步骤三利用局部敏感哈希对数据进行处理，并针对电影推荐的问题对经典的循环神经网络进行修改；

步骤四增加输入门(Input Gate)以引入用户评分信息；通过增加遗忘门(ForgetGate) 以根据当前商品评分高低来决定从当前网络记忆中丢弃信息的量；针对用户数据的序列长度不等问题进行时序规整；

步骤五通过对输出层进行层次化设计以提高输出层计算效率；

步骤六提出一个引入商品类别信息的基于循环神经网络推荐算法的模型框架Category-RNN，独热编码层，用于将商品进行数字编码；

步骤七通过输入层，将商品所述的类别信息输入到神经网络之中；

步骤八通过输出层，计算神经网络误差。实现对用户将要消费哪一类别的商品作出预测；

步骤九Rating-RNN、Category-RNN以及将其输出层合并后的输出层，形成能够并行训练的Mixing-RNN。

该算法框架对用户的消费历史进行建模，利用用户的评分信息以及商品类别信息等多种特征，能够捕获用户兴趣的演变，可以有效的提高推荐算法的评估指标。

附图说明

图1为本发明的Rating-RNN模型框架图；

图2为本发明的Category-RNN模型框架图；

图3为本发明的Mixing-RNN模型框架图。

具体实施方式

下面结合附图对本发明做进一步描述。

图1为引入了用户评分信息的RNN模型框架Rating-RNN，包括元数据(Raw Data)模块、预处理(Preprocessing)模块、数据输入层(Input Layer)、局部敏感哈希(LocalSensitive Hashing，LSH)模块、RNN层、用于防止过拟合的Dropout层(可选择)，最后是Softmax 输出层(或层次Softmax层，即Hierarchical Softmax Layer)。

图2为用于类别预测的Category-RNN框架，在Rating-RNN中，输入层与输出层为电影的ID，因此输入层和输出层向量中都是只有一个元素的值为1，其余都为0。

图3通过将引入评分信息的Rating-RNN框架与用于类别特征预测的Category-RNN框架连接起来，最终形成一个混合的RNN框架，即Mixing-RNN。

如图1，首先提出一个引入商品评分信息的基于循环神经网络(Recurrent NeuralNetwork, RNN)推荐算法的模型框架Rating-RNN，对用户将要消费哪一个商品作出更准确的预测。利用局部敏感哈希对数据进行处理，并针对电影推荐的问题对经典的循环神经网络进行修改，增加输入门(Input Gate)以引入用户评分信息；通过增加遗忘门(ForgetGate)以根据当前商品评分高低来决定从当前网络记忆中丢弃信息的量；针对用户数据的序列长度不等问题进行时序规整；通过对输出层进行层次化设计以提高输出层计算效率。同时如图2，提出一个引入商品类别信息的基于循环神经网络推荐算法的模型框架Category-RNN，对用户将要消费哪一类别的商品作出预测。最后如图3，将Rating-RNN与Category-RNN输出层合并，形成能够并行训练的Mixing-RNN。

Claims (1)

1.一种基于循环神经网络的推荐算法，其特征在于，包含以下步骤：

步骤一 收集用户用户的商品评评分或行为作为元数据(Raw Data)；

步骤二 利用商品评分信息的基于循环神经网络(Recurrent Neural Network,RNN)推荐算法的模型框架Rating-RNN，对用户将要消费哪一个商品作出更准确的预测；

步骤三 利用局部敏感哈希对数据进行处理，并针对电影推荐的问题对经典的循环神经网络进行修改；

步骤四 增加输入门(Input Gate)以引入用户评分信息；通过增加遗忘门(ForgetGate)以根据当前商品评分高低来决定从当前网络记忆中丢弃信息的量；针对用户数据的序列长度不等问题进行时序规整；

步骤五 通过对输出层进行层次化设计以提高输出层计算效率；

步骤六 提出一个引入商品类别信息的基于循环神经网络推荐算法的模型框架Category-RNN，独热编码层，用于将商品进行数字编码；

步骤七 通过输入层，将商品所述的类别信息输入到神经网络之中；

步骤八 通过输出层，计算神经网络误差；实现对用户将要消费哪一类别的商品作出预测；

步骤九 Rating-RNN、Category-RNN以及将其输出层合并后的输出层，形成能够并行训练的Mixing-RNN。