CN109961315A - 一种基于非线性组合模型的卷烟月度销量预测方法 - Google Patents

Abstract

本发明公开了一种基于非线性组合模型的卷烟月度销量预测方法，包括构建一阶模型以及构建组合模型，通过构建的组合模型进行准确预测。本发明通过利用ARIMA模型、基于梯度下降算法的BP神经网络模型、基于Levenberg‑Marquardt算法改进的BP神经网络模型三个单项模型对各月卷烟销量数据进行拟合并预测；然后采用集成学习结合策略中的学习法，提出建立ARIMA模型、基于梯度下降算法的BP神经网络模型、基于Levenberg‑Marquardt算法改进的BP神经网络模型的非线性组合模型，对历年各月卷烟销量数据进行仿真训练，在大量数据中找到销量数据之间的关系，以期预测未来几个月的卷烟销量。该模型充分利用上述3种单个模型的优点，有效提取数据各方面信息，其预测误差最为平稳，适应性最强，更加贴合卷烟销售实际情况。

Description

一种基于非线性组合模型的卷烟月度销量预测方法

技术领域

本发明涉及卷烟生产预测技术领域，尤其涉及一种基于非线性组合模型的卷烟月度销量预测方法。

背景技术

目前，传统卷烟预测模式立足于市场实际，把握市场的能力不断加强，但由于受人为因素影响较大，预测准确率难以有效提升。目前卷烟预测研究分为四类：第一类为以年度数据为基础，以宏观经济数据为自变量、卷烟消费数据为因变量，建立回归方程，分析各指标的相关性，进而对卷烟销量进行预测，多见于卷烟需求预测方法初探阶段，预测误差较大；第二类为线性时间序列模型，通过建立单一的线性时间序列模型来预测卷烟销量，由于时间序列模型仅利用数据自身的历史时间序列信息，获得过去行为的有关结论，进而对未来时间序列行为进行推断，突出了时间因素在预测中的作用，暂不考虑外界具体因素的影响，具有获取成本低、建模时间快等优点，但预测精度有待进一步提升；第三类为单个神经网络预测模型，通过对数据集的建模训练，构建网络，进而预测未来月份的数据，该方法根据选择算法不同，其预测精度也会不同；第四类为多个单一预测模型进行组合，给予每个预测模型一定的权重，从而完成组合模型的构建，有效提升了模型的预测精度，但各模型的权重没有固定的模式，进而影响预测结果。

发明内容

本发明的目的是提供一种基于非线性组合模型的卷烟月度销量预测方法，能够有效弥补上述模型弊端，准确预测各月卷烟销量。

本发明采用的技术方案为：

一种基于非线性组合模型的卷烟月度销量预测方法，包括如下步骤：

A、根据卷烟N个月度销量数据受节日因素较大、季节性较强的规律特征，选择多种适应性较强的时间序列预测方法；

B、通过输入卷烟N个月度销售数据端分别通过多种适应性较强的时间序列预测方法对卷烟N个月度销售数据进行建模和训练，分别得到对应的模型，记为一阶模型；

C：选取一阶模型中其中一个模型作为二阶模型，以一阶模型的输出数据作为二阶模型的输入数据，然后对一阶模型输入N个月度销量数据，一阶模型得到的对应的多个拟合值同时作为输入向量，以N月度相对应的真实销量作为输出向量，对二阶模型进行训练，从而得到一阶模型和二阶模型的组合模型；

D：对组合模型输入新的月度销售数据，即可输出得到最新的月度销售预测值。所述的一阶模型分别包括有ARIMA模型、基于梯度下降算法的BP神经网络模型和基于Levenberg-Marquardt的BP神经网络模型，二阶模型为基于Levenberg-Marquardt的BP神经网络模型。

所述的步骤B分别包括有如下步骤:

B1,选择ARIMA模型对卷烟月度销售数据进行差分处理、模型识别与定阶、仿真等过程，进而预测未来月份的卷烟销量；

B2,选择基于梯度下降算法的BP神经网络模型，对卷烟月度销售数据进行处理，确定输入层、输出层，创建基于梯度下降算法的网络，编制神经元测试程序，确定神经元数量；设定网络参数，经过训练，完成模型构建；选择预测输入层数据，从而预测未来月份卷烟销量；

B3,选择基于Levenberg-Marquardt的BP神经网络模型，对卷烟月度销售数据进行处理，确定输入层、输出层，创建基于LM算法的神经网络；编制神经元测试程序，确定神经元数量；设定网络参数，经过训练，完成模型构建；选择预测输入层数据，从而预测未来月份卷烟销量。

本发明通过利用ARIMA模型、基于梯度下降算法的BP神经网络模型、基于Levenberg-Marquardt算法改进的BP神经网络模型三个单项模型对各月卷烟销量数据进行拟合并预测；然后采用集成学习结合策略中的学习法，提出建立ARIMA模型、基于梯度下降算法的BP神经网络模型、基于Levenberg-Marquardt算法改进的BP神经网络模型的非线性组合模型，对历年各月卷烟销量数据进行仿真训练，在大量数据中找到销量数据之间的关系，以期预测未来几个月的卷烟销量。该模型充分利用上述3种单个模型的优点，有效提取数据各方面信息，其预测误差最为平稳，适应性最强，更加贴合卷烟销售实际情况。

附图说明

图1本发明的建模流程图。

图2ARIMA模型对卷烟月度销售数据的拟合及预测图。

图3基于梯度下降算法的BP神经网络模型对卷烟月度销售数据的拟合及预测图。

图4基于LM算法的BP神经网络模型对卷烟月度销售数据的拟合及预测图。

图5非线性组合预测模型对卷烟月度销售数据的拟合及预测图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

如图1、2和3所示，本发明包括如下步骤：

A、根据卷烟N个月度销量数据受节日因素较大、季节性较强的规律特征，选择多种适应性较强的时间序列预测方法；

B、通过输入卷烟N个月度销售数据端分别通过多种适应性较强的时间序列预测方法对卷烟N个月度销售数据进行建模和训练，分别得到对应的模型，记为一阶模型；所述的一阶模型分别包括有ARIMA模型、基于梯度下降算法的BP神经网络模型和基于Levenberg-Marquardt的BP神经网络模型，二阶模型为基于Levenberg-Marquardt的BP神经网络模型。所述的步骤B分别包括有如下步骤:

B1,选择ARIMA模型对卷烟月度销售数据进行差分处理、模型识别与定阶、仿真等过程，进而预测未来月份的卷烟销量；

B2,选择基于梯度下降算法的BP神经网络模型，对卷烟月度销售数据进行处理，确定输入层、输出层，创建基于梯度下降算法的网络，编制神经元测试程序，确定神经元数量；设定网络参数，经过训练，完成模型构建；选择预测输入层数据，从而预测未来月份卷烟销量；

B3,选择基于Levenberg-Marquardt的BP神经网络模型，对卷烟月度销售数据进行处理，确定输入层、输出层，创建基于LM算法的神经网络；编制神经元测试程序，确定神经元数量；设定网络参数，经过训练，完成模型构建；选择预测输入层数据，从而预测未来月份卷烟销量。

C：选取一阶模型中其中一个模型作为二阶模型，以一阶模型的输出数据作为二阶模型的输入数据，然后对一阶模型输入N个月度销量数据，一阶模型得到的对应的多个拟合值同时作为输入向量，以N月度相对应的真实销量作为输出向量，对二阶模型进行训练，从而得到一阶模型和二阶模型的组合模型；

具体的，采用集成学习结合策略中的学习法，以ARIMA模型拟合值、基于梯度下降算法的BP神经网络拟合值、基于LM算法的BP神经网络拟合值作为输入向量，即选取相同月份的3种模型拟合值作为输入向量，当月真实销量作为输出向量，选择基于LM算法的BP神经网络构造非线性组合模型，编制神经元测试程序，确定神经元数量；设定网络参数，进行训练后进行仿真拟合；输入上述3种模型对预测月份卷烟销量的预测值，得到组合预测模型对销量的预测结果。通过测试，其拟合及预测结果如图5所示。

D：对组合模型输入新的月度销售数据，即可输出得到最新的月度销售预测值。

具体的以实际数据进行举例说明：ARIMA模型是由Box和Jenkins提出的一种时间预测方法，该方法将原始时间序列数据看作一个随机序列，并用一定的数学模型来近似描述，一旦被识别后，就可以利用该模型根据历史数据来预测未来。本发明以2006～2017年共144个月的全国卷烟销量数据(万箱)作为基础数据，如图2所示，应用MATLAB对其进行ARIMA拟合，并预测2018年1～4月的销量。

从销量趋势图中可以看出，该时间序列非平稳，对数列先进行1阶差分处理，将其平稳化，其公式为：

Δx_t＝x_t+1-x_t 式(1)

一阶差分的时间序列的均值和方差均基本平稳，接近一个白噪声序列。通过平稳性检验可知，即将建立的ARIMA(p，d，q)模型，其中d＝1，其基本公式为：

x_t＝θ+α₁x_t-1+α₂x_t-2+...+α_px_t-p+u_t+β₁u_t-1+β₂u_t-2+...+β_qu_t-q 式(2)

其中，x为时间序列，θ是常数项，α为自回归系数，β为移动平均系数，u为白噪声，p为自回归项，q为移动平均项。

为确认模型中p和q的值，以AIC准则为评价该时间序列数据的准则，利用MATLAB进行测试。本次基础数据为144个，故将p和q的范围定为1～29之间，通过测试确定AIC＝7.06，p＝25，q＝7，即选择的模型为ARIMA(25，1，7)。

将p和q的值代入模型，计算得到2006～2017年各月卷烟销量的拟合值(如图2所示)，模型拟合度为76.07％，平均绝对误差为14.82，平均绝对误差率(平均绝对误差/平均真实销量，下同)为3.81％，拟合精度整体良好。

将预测长度设定为4个月，利用该模型对2018年1～4月全国卷烟销量进行预测，如表1所示，可以看出预测误差均较大，除1月份外，其余3个月的绝对误差值均大于当月的日均销量。

表1 ARIMA模型对2018年1～4月全国卷烟销量预测表(万箱，％，天)

注：2018年，1月共22个工作日、2月共17个工作日、3月共22个工作日、4月共20个工作日。

BP神经网络是Rumelhart和McClellend于1986年提出一种多层网络的“逆推”学习算法，是一种单向传播的多层前向网络，具有3层或3层以上，包括输入层、隐含层和输出层，其中隐含层可以有多个层次，上下层之间的神经元全部连接，但每层神经元之间相互独立没有连接。当学习样本进入神经网络后，神经元的激活值从输入层经过各隐含层传向输出层，若达不到期望，则进入误差反向传播过程，逐次调整网络各层的权值和偏置，最后回到输入层，再重复计算，通过不断调整各层的权值和阈值，从而达到网络误差最小，学习过程结束；再利用训练好的网络，进行预测。

BP神经网络通过训练误差来逐步调整各层间的输入权重和偏置，这个调整过程的算法依据为最基本的梯度下降法(Gradient Descent)，由于训练误差是关于输入权重和偏置的二次函数，分别对权重和偏置求偏导数，即梯度向量，沿着梯度向量的方向，是训练误差增加最快的地方，而沿着梯度向量相反的方向，梯度减少最快，在这个方向上更容易找到训练误差函数(损失函数)的最小值。本节利用MATLAB软件应用梯度下降算法的BP神经网络对全国卷烟历史销量数据进行训练并预测，其处理步骤如下：

1.样本数据确定。

由于卷烟销量执行的是年度计划，为更好的反应卷烟销量的时间特点，本文将2006至2017年每12个月销量数据作为一组输入向量，形成12*129的输入矩阵；以之后4个月的销量数据作为网络的输出，形成4*129的输出矩阵，用以神经网络进行训练。

2.样本数据处理。

数据的预处理和后处理是训练神经网络的关键步骤，它直接影响到训练后神经网络的性能，常见的方法是将原始数据进行归一化处理，即通过一定的线性变换将输入数据和输出数据统一限制在[0,1]或[-1,1]区间内。本节选择最大最小法进行处理，其函数形式是：

其中，x_min为数据序列的最小值，x_max为数据序列的最大值。最大最小值法可以通过MATLAB的mapminmax函数对数据进行处理，让其落入在[-1,1]区间内。

3.创建网络及参数设定。

本模型设计主要涉及到网络的层数、每层中的神经元个数和激活函数、初始值以及学习速率等几个方面。

(1)网络层数确定。理论证明，具有偏差和至少一个S型隐层加上一个线性输出层的网络，能够逼近任何有理函数，增加层数可以进一步降低误差，提高精度，但同时也是网络复杂化。本节模型选择3层网络，即1个输入层、1个隐含层、1个输出层。

(2)创建网络。在MATLAB中创建神经网络要确定以下函数：①输入层和隐含层的传递函数采用正切S型函数，以tansig表示，即：

②输出层的传递函数采用线性函数，以purelin表示；③网络训练函数采用动量反转和动态自适应学习率的梯度下降算法训练函数tianingd；④确定隐含层神经元个数，理论上没有计算出多少隐含层节点最合适，在具体设计时，要通过对不同神经元数进行训练比较，以网络最小误差为依据确定神经元数。通过循环计算，确定此模型的神经元个数为9个。

(3)网络训练参数设定。①根据梯度下降法的特点，训练次数选取为80000；②误差性能目标值选取为0.01；③学习速率一般取值范围为0.01-0.8之间，学习速率太大可能导致系统的不稳定，但学习速率太小导致收敛太慢，需要较长的训练时间，为达到目标误差精度，此模型选取0.01。

利用基于梯度下降算法的BP神经网络预测模型对卷烟销量数据进行训练和仿真，经过79976次训练之后达到目标误差0.01的要求，模型拟合效果如图3所示，其平均绝对误差为17.87，平均绝对误差率为4.59％，其拟合精度不及ARIMA模型。

输入2017年12个月的卷烟销量数据，模型得到2018年1～4月销量的预测值，如表2所示，可以看出虽然该模型拟合效果不及ARIMA模型，但预测结果要明显好于ARIMA模型，除2月份由于春节因素导致预测效果较差外，其余月份预测结果十分逼近真实销量，均不足半天的当月卷烟销量。

表2基于梯度下降算法的BP神经网络模型对2018年1～4月全国卷烟销量预测表(万箱，％，天)

注：2018年，1月共22个工作日、2月共17个工作日、3月共22个工作日、4月共20个工作日。

从上述基于梯度下降算法的BP神经网络模型训练过程发现，虽然该模型能较好的拟合卷烟销量并比较准确的预测未来4个月的销量，但其学习算法的收敛速度较慢，训练次数达到了近8万次，另外其预测误差精度较低，仅能达到0.01。针对该模型存在的不足，出现了几种基于该模型的改进算法，如拟牛顿法、Levenberg-Marquardt算法等。通过实验发现，对中小规模的神经网络，使用Levenberg-Marquardt算法(简称LM算法)的收敛速度最快，且计算精度较高。作为BP神经网络的改进算法，LM算法实际上是梯度下降法和高斯牛顿法的结合，该算法期望在不计算Hessian矩阵的情况下获得高阶的训练速度，其公式表达为：

x_k+1＝x_k-[J^TJ+μI]^-1J^Te 式(5)

其中，J^T为雅克比矩阵，e是网络误差向量。随着μ越来越小，该算法越来越接近高斯牛顿法；随着μ越来越大，该算法越来越接近梯度下降法。由于高斯牛顿法收敛速度更快更准确，因此LM算法的目的就是尽快接近高斯牛顿法，如果某次迭代成功，误差减小，则减小μ的值；如果迭代失败，则增加μ的值，从而使得误差性能函数随着迭代的进行而下降到极小值。

基于LM算法改进BP神经网络模型构建过程：

基于LM算法改进BP神经网络模型的输入向量和输出向量与基于梯度下降算法的BP神经网络模型相同，并进行归一化的数据处理，确定网络层数，选择传递函数，设定训练次数、训练精度、学习速率等参数。但与前者不同的是，基于LM算法改进的BP神经网络模型需要将模型的训练函数更改成LM算法，在MATLAB中以trianlm表示。鉴于LM算法快速、准确收敛的特点，将模型训练次数取为3000，误差性能目标值取为0.0005，学习速率仍为0.01，经过测试神经元数量取为30个。

利用LM算法改进BP神经网络模型对卷烟销量数据进行训练和仿真，经过32次即可达到目标误差0.0005的要求，模型拟合效果明显更好，如图4所示。其平均绝对误差为3.99，平均绝对误差率为1.03％，其拟合精度明显高于ARIMA模型和基于梯度下降算法的BP神经网络模型。

输入2017年12个月的卷烟销量数据，从而得到2018年1～4月销量的预测值，如表3所示，可以看出经过改进后的BP神经网络模型，预测误差更加均衡，其预测效果更加平稳，适应性更强。

表3基于LM算法的BP神经网络模型对2018年1～4月全国卷烟销量预测表(万箱，％，天)

注：2018年，1月共22个工作日、2月共17个工作日、3月共22个工作日、4月共20个工作日。

上述三种模型均在一定程度上解释了卷烟销量数据之间的联系，并对未来4个月的卷烟销量进行预测，但单项预测方法存在未能充分利用历史数据的缺点，从而导致预测结果不够精准，为此，通过构建非线性组合预测模型，吸收各模型的优点，提高预测精度。

本发明通过基于LM算法改进的BP神经网络构造非线性组合模型，非线性组合模型构建过程：①以ARIMA模型拟合值、基于梯度下降算法的BP神经网络拟合值、基于LM算法的BP神经网络拟合值作为输入向量，即选取相同月份的3种模型拟合值作为输入向量，当月真实销量作为输出向量，进行训练后进行仿真拟合；②输入上述3种模型对2018年1～4月全国卷烟销量的预测值，得到组合预测模型对销量的预测结果。构建构成中对销量数据的训练参数设定为：训练次数取为3000，误差性能目标值取为0.0005，学习速率为0.01，经过测试神经元数量取为30个。通过训练，组合预测模型训练的销量数据经过4次达到目标误差精度0.0005的要求，如图5所示，模型拟合效果明显更好，其平均绝对误差为3.3，平均绝对误差率为0.85％，其拟合精度均高于上述3种模型。

输入上述3种模型对2018年1～4月销量的预测值，利用训练好的模型得到组合预测模型对2018年1～4月销量的预测值，如表4所示，可以看出组合预测模型的预测绝对误差较为均衡，均不足1天的当月日均销量。

表4非线性组合预测模型对2018年1～4月全国卷烟销量预测表(万箱，％，天)

注：2018年，1月共22个工作日、2月共17个工作日、3月共22个工作日、4月共20个工作日。

模型预测效果对比如表5所示表5四种模型对2018年1～4月全国卷烟销量误差值对比(万箱，天)

注：2018年，1月共22个工作日、2月共17个工作日、3月共22个工作日、4月共20个工作日。

对比4种模型的预测值，发现各预测模型呈现不同的特点：ARIMA模型预测近期销量相对较准，但较远月份的预测值误差较大；基于梯度下降算法的BP神经网络模型可以较为准确的预测大部分月份的卷烟销量，但对于波动性较大的月份预测误差较大；基于LM算法的BP神经网络模型作为改进后的神经网络模型，预测结果精度更高，预测误差更为平稳；非线性组合预测模型综合利用上述3种模型的优点，有效提取数据各方面信息，预测绝对误差均小于当月的日均量，其预测结果最为平稳，适应性最强，更加贴合卷烟销售实际情况。

以上利用ARIMA模型、基于梯度下降算法的BP神经网络模型、基于Levenberg-Marquardt算法改进的BP神经网络模型构建的非线性组合模型对2006～2017年144个月的全国卷烟销量进行仿真训练，并对2018年1～4月的卷烟销量进行预测。通过对比，表明非线性组合模型有更好的预测效果，对卷烟调拨计划制定，科学安排生产计划等具有一定的参考意义。此外，该模型的构建思路还可用于卷烟各价类的销售预测。

Claims (3)

1.一种基于非线性组合模型的卷烟月度销量预测方法，其特征在于：包括如下步骤：

A、根据卷烟N个月度销量数据受节日因素较大、季节性较强的规律特征，选择多种适应性较强的时间序列预测方法；

B、通过输入卷烟N个月度销售数据端分别通过多种适应性较强的时间序列预测方法对卷烟N个月度销售数据进行建模和训练，分别得到对应的模型，记为一阶模型；

C：选取一阶模型中其中一个模型作为二阶模型，以一阶模型的输出数据作为二阶模型的输入数据，然后对一阶模型输入N个月度销量数据，一阶模型得到的对应的多个拟合值同时作为输入向量，以N月度相对应的真实销量作为输出向量，对二阶模型进行训练，从而得到一阶模型和二阶模型的组合模型；

D：对组合模型输入新的月度销售数据，即可输出得到最新的月度销售预测值。

2.根据权利要求1所述的基于非线性组合模型的卷烟月度销量预测方法，其特征在于：所述的一阶模型分别包括有ARIMA模型、基于梯度下降算法的BP神经网络模型和基于Levenberg-Marquardt的BP神经网络模型，二阶模型为基于Levenberg-Marquardt的BP神经网络模型。

3.根据权利要求2所述的基于非线性组合模型的卷烟月度销量预测方法，其特征在于：所述的步骤B分别包括有如下步骤:

B1,选择ARIMA模型对卷烟月度销售数据进行差分处理、模型识别与定阶、仿真等过程，进而预测未来月份的卷烟销量；

B2,选择基于梯度下降算法的BP神经网络模型，对卷烟月度销售数据进行处理，确定输入层、输出层，创建基于梯度下降算法的网络，编制神经元测试程序，确定神经元数量；设定网络参数，经过训练，完成模型构建；选择预测输入层数据，从而预测未来月份卷烟销量；

B3,选择基于Levenberg-Marquardt的BP神经网络模型，对卷烟月度销售数据进行处理，确定输入层、输出层，创建基于LM算法的神经网络；编制神经元测试程序，确定神经元数量；设定网络参数，经过训练，完成模型构建；选择预测输入层数据，从而预测未来月份卷烟销量。