CN106408343A - 一种基于bp神经网络的用户行为分析与预测的建模方法及其装置 - Google Patents

Abstract

本发明涉及计算机网络领域，特别是电商和大数据分析领域，具体涉及一种基于BP神经网络的用户行为分析与预测的建模方法及其装置。一种基于BP神经网络的用户行为分析与预测的建模方法，将用户行为数据的采集与分析、预算算法用于参数源建模，本建模方法采用三层神经网络模型进行设计，构建出三层神经网络模型下的神经网络预测模型预测移动用户行为，将用户的行为类型作为评价参数，该建模方法包括：将网络用户行为的各指标作为参数通过输入层一一对应输入到本神经网络中；此建模方法将所有的输入的参数在隐藏层通过不断的迭代处理，再通过输出层输出结果；其特征在于利用人工蜂群ABC算法来弥补BP神经网络预测模型的不足，通过将人工蜂群ABC算法运用在隐藏层和输出层的运算中，从而提高该预测模型的收敛速度。

Description

一种基于BP神经网络的用户行为分析与预测的建模方法及其 装置

技术领域

本发明涉及计算机网络领域，特别是电商和大数据分析领域，具体涉及一种基于BP神经网络的用户行为分析与预测的建模方法及其装置。

背景技术

近年的互联网高速发展国家战略，使网络的使用更加的深入到社会生活生产的角角落落。对人们在网络上的行为进行分析和预测，成为很多商业公司的核心竞争力。通过收集用户在网上的点击，消费，收藏，购物等行为，能够了解他的性格特点，购买偏好，当前消费需求，从而精准的实现商品营销和推广，个性化的针对不同的人群推送不同的广告，减少人们的盲目消费。同时在社会管理方面，对网络行为的不同维度的数据收集可以实现不同的用途。比如论坛的留言，某些网站的登录逗留时间长短，社交工具的发言等，可以进行社会舆情监控分析和重大言论事件的预测，个人犯罪倾向的判断等。所以，网络行为分析与预测，是未来IT技术发展的一大重点领域。

网络行为分析预测的工具研发，是这项技术发展的关键。一个高效好用的分析和预测模型，关系着数据分析的准确性和时效性。

目前用户行为分析模型的构建方法主要有k-means聚类建模方法、决策树建模方法、贝叶斯网络建模方法和神经网络建模方法等等。k-means聚类建模方法凭经验选择个对象作为初始簇中心，计算对象到簇中心距离，将对象放入其最近的簇中。算法简单易实现，但对于连续型属性聚类效果好，而离散型属性效果则不理想。决策树建模方法是分类算法中应用最广泛的，该方法基于逐层分类思想，根据用户行为特征属性值从决策树根节点自上而下逐层分类，在叶子节点预测，最终通过构建的决策树，对用户行为进行决策分类，从而实现移动用户行为预测。该方法实现简单，预测精准具有很好的自学习能力。但处理缺失数据时较困难，容易出现过度拟合，且易忽略数据集中属性间关联性。贝叶斯网络建模方法通过概率解决不确定因素，将用户感兴趣内容假设为一个概率分布影响，通过对其先验概率推算出后验概率，即所需要预测的用户行为分布，进而实现用户行为预测嗍。该方法学习效率高，是处理不确定性问题的有效模型。但鲁棒性不好，每次聚类的结果不完全一致。神经网络建模方法基于神经网络思想，通过模拟类似于生物神经网络的功能，采集用户行为样本信息，根据样本信息来学习不断的优化系统，调整网络结构，最终使得整个网络达到一个稳定的状态，即实现对用户行为的预测。但单一应用神经网络算法，聚类效率不高，收敛速度慢。

以上这些传统的用户行为分析模型都存在各种局限性，无法对用户的需求进行有效细分，因此对用户定位偏差很大，最终导致营销与用户需求不相匹配。在这种开发模式下只通过简单的局部数据来对网络用户的行为进行建模，其准确度和可信度极差，导致开发出的网络应用只能满足少数用户的行为习惯，而无法根据不同的用户的行为习惯来实现个性化的服务，导致用户在使用网络应用服务过程中的体验感下降，影响应用服务质量，在这样的背景下，迫切需要提出一种有针对性的网络用户行为分析方法，这已成为各类电商，社区，论坛，微博等网络应用在拓展业务过程中亟待需要解决的问题。

本发明在比较了多种建模算法后，认为BP(反向传播)神经网络建模算法是最适合使用在网络用户的行为分析上的。但是需要改善其收敛速度慢及预测不准确问题。

发明内容

本发明采用的技术方案为：一种基于BP神经网络的用户行为分析与预测的建模方法，将用户行为数据的采集与分析、预算算法用于参数源建模，本建模方法采用三层神经网络模型进行设计，构建出三层神经网络模型下的神经网络预测模型预测移动用户行为，将用户的行为类型作为评价参数，该建模方法包括如下步骤：

(3)将网络用户行为的各指标作为参数通过输入层一一对应输入到本神经网络中；

(4)此建模方法将所有的输入的参数在隐藏层通过不断的迭代处理，再通过输出层输出结果。

通过预先输入已有的一些统计参数，让模型自我学习，将各个参数通过输入层输入到模型后，在隐藏层先将各个神经元的连接权值和阈值进行初始化，开始进入学习模式。此时，各个隐藏层中的每个神经元会计算净输入和输出，接着隐藏层的输出会成为输出层的输入。输出层在得到输入后，计算其各个神经元的净输入和输出。接下来，隐藏层和输出层均通过自己的输出和已设定的阈值进行对比并计算一般化误差。隐藏层会依据一般化误差来调整隐藏层至输出层之间的连接权值和输出层各个单元的阈值，输出层会根据一般化误差调整输入层至隐藏层之间的连接权值及隐藏层中各个单元的阈值。不断调整、更新学习模式，并判断学习模式是否完毕。未完毕则再次跳转到重新将学习模式对提供给网络这个步骤，已完毕则更新学习次数，之后判断学习次数或者误差是否达标。若未达标，则跳转到重新将学习模式对提供给网络这个步骤。若已达标，则流程结束。

其特征在于利用人工蜂群ABC算法来弥补BP神经网络预测模型的不足，通过将人工蜂群ABC算法运用在隐藏层和输出层的运算中，从而提高该预测模型的收敛速度。

本发明的优化，根据上述所述的一种基于BP神经网络的用户行为分析与预测的建模方法，其特征为所述人工蜂群ABC算法是一种元启发式智能算法，该算法主要基于蜂群觅食的行为模型，该行为模型主要包含三种核心元素；雇佣蜂、非雇佣蜂和食物源，所述雇佣蜂和非雇佣蜂主要负责搜寻附近的富源，通过富源反馈的积极信号从来招引更多的蜜蜂来采蜜；贫源则反馈消极信号，从而会导致此食物源被放弃。

使用上述任一一项一种基于BP神经网络的用户行为分析与预测的建模方法的装置，主要包括数据采集模块、参数格式化模板、数据库、分析预测模块、预测结果输出模块；所述数据采集模块输出端与参数格式化模板输入端连接，所述参数格式化模板输出端与数据库输入端连接，数据库输出端与分析预测模块输入端连接，输出端与与预测结果输出模块连接。

对上述装置的优化，根据上述所述的一种基于BP神经网络的用户行为分析与预测的建模方法的装置，其特征为该应用平台装置基于java编程语言开发；所述数据采集模块，采用tomcat中间件，向外提供https协议堆栈，供上传数据方通过https协议的pos方式上传数据；所述参数格式化模板采用json格式封装，采用开源的drools规则引擎处理数据的格式化问题；所述数据库中数据的存储，采用mongodb数据库；所述分析预测模块，采用java语言编写；所述分析预测模块在结果的输出上，同样采用tomcat构建https协议栈，提供post方式的结果调用，为用户的外围系统提供决策数据。

对上述装置的进一步优化，根据最上面所述的一种基于BP神经网络的用户行为分析与预测的建模方法的装置，其特征为所述参数格式化模板针对的是非格式化的数据，不同的数据源可以采用不同的格式化模板。

对上述装置的进一步优化，根据最上面所述所述的一种基于BP神经网络的用户行为分析与预测的建模方法的装置，其特征为所述mongodb数据库，采用了列簇组织数据，在保证操作性能的情况下，数据的容量大大增加，可以存放列不固定的数据。

对上述装置的进一步优化，根据最上面所述所述的一种基于BP神经网络的用户行为分析与预测的建模方法的装置，其特征为所述分析预测模块为了利用现代多核心cpu的能力，在模块内部为每一个分析参数建立一组线程池，利用多线程提高计算速度，缩短模型学习进化的时间。

一种基于BP神经网络的用户行为分析与预测的建模方法及其装置的原理：BP(Back D mpagation)神经网，即误差反向传播算法。本模型采用三层神经网络模型进行设计，构建出三层模型下的神经网络预测模型预测移动用户行为。将网络用户行为的各指标作为参数通过输入层一一对应输入到本神经网络中。此结构将所有的隐含层简单表述为一个隐含层。所有的输入的参数在隐藏层通过不断的迭代处理，再通过输出层输出结果。用户的行为类型作为评价参数。这个参数是得出移动用户行为的最重要也是不可或缺的参数。

本发明与现有技术相比，其效果为：本发明采用人工蜂群ABC算法去改进BP神经网络算法，从而诞生出一种新型的基于神经网络的用户行为分析与预测的建模方法及其装置，从而实现准确预测移动用户行为；改进后的方法有效提高神经网络的收敛速度和预测准确性，从而为提升移动用户行为分析预测准确性和可靠性、提升企业在营销中的竞争力提供有力的参考依据。

附图说明

图1为BP神经网络隐藏层具体算法流程图；

图2为人工蜂群ABC算法的一般流程图；

图3为一种基于BP神经网络的用户行为分析与预测的建模方法的装置组件连接图；

图4为新型用户行为分析与预测模型的应用平台装置具体的分析预测过程图；

图5为本模型平台设计统计其输出的移动用户操作行为和实际的移动用户操作行为值。

具体实施方式

为了使本发明的技术手段、创作特征、达成目的与功效易于明白了解，现结合具体实施例和附图，对本发明进行进一步阐述。

BP神经网络隐藏层具体算法流程如图1，通过预先输入已有的一些统计参数，让模型自我学习，将各个参数通过输入层输入到模型后，在隐藏层先将各个神经元的连接权值和阈值进行初始化，开始进入学习模式。此时，各个隐藏层中的每个神经元会计算净输入和输出，接着隐藏层的输出会成为输出层的输入。输出层在得到输入后，计算其各个神经元的净输入和输出。接下来，隐藏层和输出层均通过自己的输出和已设定的阈值进行对比并计算一般化误差。隐藏层会依据一般化误差来调整隐藏层至输出层之间的连接权值和输出层各个单元的阈值，输出层会根据一般化误差调整输入层至隐藏层之间的连接权值及隐藏层中各个单元的阈值。不断调整、更新学习模式，并判断学习模式是否完毕。未完毕则再次跳转到重新将学习模式对提供给网络这个步骤，已完毕则更新学习次数，之后判断学习次数或者误差是否达标。若未达标，则跳转到重新将学习模式对提供给网络这个步骤。若已达标，则流程结束。

在实际预测中，只需要将实时检测到的网络用户的操作作为输入参数输入至网络模型中，即可从输出层得到网络用户当前的操作行为的预测结果，并及时做出决策。在一般的神经网络建立的预测模型中，存在着收敛较慢的问题，同时预测的准确性很低。因此，我们通过引入人工蜂群ABC算法来改善这一问题。人工蜂群ABC算法是一种元启发式智能算法，该算法主要基于蜂群觅食的行为模型。该行为模型主要包含三种核心元素；雇佣蜂、非雇佣蜂和食物源。雇佣蜂和非雇佣蜂主要负责搜寻附近的富源，通过富源反馈的积极信号从来招引更多的蜜蜂来采蜜。另一方面，贫源则反馈消极信号，从而会导致此食物源被放弃。本方法利用人工蜂群ABC算法在收敛方面较快的优势来弥补BP神经网络预测模型的不足。通过将人工蜂群ABC算法运用在隐藏层和输出层的运算中，从而提高该预测模型的收敛速度。人工蜂群ABC算法的一般流程为图2：

(1)初始化种群及ABC算法的参数；(2)cycle＝l；(3)采蜜蜜蜂根据式(1)进行邻域搜索新解并计算各个解的适应值；(4)采蜜蜜蜂根据一般贪婪算法选择新解；(5)跟随蜜蜂根据采蜜蜜蜂搜索的解，计算这个解的收益率，之后根据收益率从现有解的邻域中再搜索新的解并作为选择；(6)判断解的更新失败的次数是否已超过了阈值limit，如果是，就表示这个解不能再被优化，舍弃，并用式(2)计算新解代替；(7)记录最优解；(8)cycle＝cycle+1；(9)判断cycle是否达到最大阈值，是则结束，否则返回(3)。

首先通过公式1计算邻域搜索新解，式中指第i个食物源，√∈(1,2，…，D)，k∈(1，2，…，Ne)，且随机生成的k≠i，j，k...搜索公式为：

公式1

再通过公式2计算收益率：

公式2

通过将人工蜂群ABC算法引入到BP神经网络建立的预测模型中，在不影响精度的情况下提高了预测模型的收敛速度，有效的提高了网络用户行为分析预测的效率，降低了算法的时间复杂度。

一种基于BP神经网络的用户行为分析与预测的建模方法的装置：主要包括数据采集模块、参数格式化模板、数据库、分析预测模块、预测结果输出模块；所述数据采集模块输出端与参数格式化模板输入端连接，所述参数格式化模板输出端与数据库输入端连接，数据库输出端与分析预测模块输入端连接，输出端与与预测结果输出模块连接。

该应用平台装置基于java编程语言开发。所述数据采集模块，采用tomcat中间件，向外提供https协议堆栈，供上传数据方通过https协议的pos方式上传数据。所述参数格式化模板采用json格式封装。对数据的清洗和格式化，因为大多数行为数据都是非格式化的，所以要针对不同的数据源采用不同的格式化模板，管理众多的模板也是一个难题，这里采用开源的drools规则引擎处理数据的格式化问题。所述数据库中数据的存储，采用mongodb数据库，这种数据库是有别于传统的行簇模式，采用了列簇组织数据，在保证操作性能的情况下，数据的容量大大增加，尤其适合存放列不固定的数据。所述分析预测模块，采用java语言编写，为了利用现代多核心cpu的能力，在模块内部为每一个分析参数建立一组线程池，利用多线程提高计算速度，缩短模型学习进化的时间。所述分析预测模块在结果的输出上，同样采用tomcat构建https协议栈，提供post方式的结果调用，为电商系统，广告推送系统等外围系统提供决策数据。

该平台装置首先应用在对移动用户行为进行分析预测。通过采集将得到的移动用户地理位置信息、移动用户操作信息、网络速度信息和移动用户手机信息，收藏行为、购买、评论、订单类型、感兴趣的目标类型等参数输入到样本数据库中，同时在采集模式下对样本数据库进行实时更新，利用上述网络分析预测模型从样本数据库中获取数据，同时在学习过程中获取用户的上网行为，对其进行预测，输出预测行为，同时反馈到BP神经网络分析预测模块中对误差进行不断的修正，以达到预测的目标，具体的分析预测过程如图4：

在预测过程中，对移动用户地理位置信息采用定性化分析方法进行析，将地理位置信息分为室内、室外、公共场所3种情况，其在模型中分别用一1，0，1表示。对移动用户操作信息，为了简化，将其分为购物、浏览新闻、社交聊天、语音电话四种模式，将其通过移动通信接口进行实时采集并存入样本数据库中。并分别用1，2，3，4表示。对移动用户网络速度，为了简化模型，本研究在测试过程中以等级形式对其进行量化，其中小于1M用1表示，1M到2M之间2表示，2M到3M之间用3表示。4M到6M用4表示，6M到8M用5表示。8M以上用6表示。网络类型分为运营2G网络、3G网络、4G网络wifi网络四种网络类型，在预测模型中分别用1，2，3，4表示。完成数据简化表示后，将预处理后的移动用户地理位置信息、移动用户操作信息、移动用户网络速度信息和移动用户网络类型信息输入到神经网络模块中，通过输入层、隐藏层和输出层的处理后，输出移动用户操作行为，其输出集合为{l，2，3，4}分别表示购物、浏览新闻、社交聊天、语音电话四种操作行为。

在实际应用中，我们输入的数据采用随机收集两年内的移动用户的存量数据，对其进行预处理得到符合本模型要求的量化数据，然后输入到本新型的行为数据分析模型平台中，最后通过黑盒子测试方法，统计其输出的移动用户操作行为和实际的移动用户操作行为值如图5。

由图5的预测曲线和实际操作曲线趋势可知，本模型平台设计的方法其预测效果较好，准确度较高，在l8次预测中只有2次预测失败，其预测成功率高达88％以上。

通过将人工蜂群ABC算法融合进BP神经网络建立的预测模型中，在不影响精度的情况下提高了预测模型的收敛速度，有效的提高了网络用户行为分析预测的效率，降低了算法的时间复杂度。

以上显示和描述了本发明的基本原理、主要特征和本发明的优点。本行业的技术人员应该了解，本发明不受上述实施例的限制，上述实施例和说明书中的描述仅为本发明的优选例，本发明并不受上述优选例的限制，在不脱离本发明精神和范围的前提下，本发明还可有各种变化和改进，这些变化和改进都落入本发明要求保护的范围内。

Claims (7)

1.一种基于BP神经网络的用户行为分析与预测的建模方法，将用户行为数据的采集与分析、预算算法用于参数源建模，本建模方法采用三层神经网络模型进行设计，构建出三层神经网络模型下的神经网络预测模型预测移动用户行为，将用户的行为类型作为评价参数，该建模方法包括如下步骤：

(1)将网络用户行为的各指标作为参数通过输入层一一对应输入到本神经网络中；

(2)此建模方法将所有的输入的参数在隐藏层通过不断的迭代处理，再通过输出层输出结果。

通过预先输入已有的一些统计参数，让模型自我学习，将各个参数通过输入层输入到模型后，在隐藏层先将各个神经元的连接权值和阈值进行初始化，开始进入学习模式。此时，各个隐藏层中的每个神经元会计算净输入和输出，接着隐藏层的输出会成为输出层的输入。输出层在得到输入后，计算其各个神经元的净输入和输出。接下来，隐藏层和输出层均通过自己的输出和已设定的阈值进行对比并计算一般化误差。隐藏层会依据一般化误差来调整隐藏层至输出层之间的连接权值和输出层各个单元的阈值，输出层会根据一般化误差调整输入层至隐藏层之间的连接权值及隐藏层中各个单元的阈值。不断调整、更新学习模式，并判断学习模式是否完毕。未完毕则再次跳转到重新将学习模式对提供给网络这个步骤，已完毕则更新学习次数，之后判断学习次数或者误差是否达标。若未达标，则跳转到重新将学习模式对提供给网络这个步骤。若已达标，则流程结束。

其特征在于利用人工蜂群ABC算法来弥补BP神经网络预测模型的不足，通过将人工蜂群ABC算法运用在隐藏层和输出层的运算中，从而提高该预测模型的收敛速度。

2.根据权利要求1所述的一种基于BP神经网络的用户行为分析与预测的建模方法，其特征为所述人工蜂群ABC算法是一种元启发式智能算法，该算法主要基于蜂群觅食的行为模型，该行为模型主要包含三种核心元素；雇佣蜂、非雇佣蜂和食物源，所述雇佣蜂和非雇佣蜂主要负责搜寻附近的富源，通过富源反馈的积极信号从来招引更多的蜜蜂来采蜜；贫源则反馈消极信号，从而会导致此食物源被放弃。

3.使用权利要求1、2任一一项一种基于BP神经网络的用户行为分析与预测的建模方法的装置，主要包括数据采集模块、参数格式化模板、数据库、分析预测模块、预测结果输出模块；所述数据采集模块输出端与参数格式化模板输入端连接，所述参数格式化模板输出端与数据库输入端连接，数据库输出端与分析预测模块输入端连接，输出端与与预测结果输出模块连接。

4.根据权利要求3所述的一种基于BP神经网络的用户行为分析与预测的建模方法的装置，其特征为该应用平台装置基于java编程语言开发；所述数据采集模块，采用tomcat中间件，向外提供https协议堆栈，供上传数据方通过https协议的pos方式上传数据；所述参数格式化模板采用json格式封装，采用开源的drools规则引擎处理数据的格式化问题；所述数据库中数据的存储，采用mongodb数据库；所述分析预测模块，采用java语言编写；所述分析预测模块在结果的输出上，同样采用tomcat构建https协议栈，提供post方式的结果调用，为用户的外围系统提供决策数据。

5.根据权利要求3所述的一种基于BP神经网络的用户行为分析与预测的建模方法的装置，其特征为所述参数格式化模板针对的是非格式化的数据，不同的数据源可以采用不同的格式化模板。

6.根据权利要求3所述的一种基于BP神经网络的用户行为分析与预测的建模方法的装置，其特征为所述mongodb数据库，采用了列簇组织数据，在保证操作性能的情况下，数据的容量大大增加，可以存放列不固定的数据。

7.根据权利要求3所述的一种基于BP神经网络的用户行为分析与预测的建模方法的装置，其特征为所述分析预测模块为了利用现代多核心cpu的能力，在模块内部为每一个分析参数建立一组线程池，利用多线程提高计算速度，缩短模型学习进化的时间。