CN104574220A - 基于最小二乘支持向量机的电力客户信用评估方法 - Google Patents

Abstract

一种基于最小二乘支持向量机的电力客户信用评估方法，包括以下步骤：S1：建立由用电客户信用评价指标数据构成的评价指标体系，并对评价指标数据进行量化处理；S2：对步骤S1中量化后的指标数据进行归化处理，并将数据分为训练样本和测试样本；S3：建立具有高斯核函数的最小二乘支持向量机数学模型，即LS-SVM数学模型；S4：训练具有高斯核函数的最小二乘支持向量机数学模型，构建用电客户信用评估模型，检测最小二乘支持向量机分类器的性能；S5：通过步骤S4中构建的用电客户信用评估模型对新的客户进行信用评估，获得用电客户信用评估结果。

Description

基于最小二乘支持向量机的电力客户信用评估方法

技术领域

本发明涉及电力客户信用评估方法，具体是一种基于最小二乘支持向量机的电力客户信用评估方法。

背景技术

在电力市场中，供电企业需要面对信用不同的用电客户，“先用电，后交费”的电力销售模式更使电费回收问题成为电力系统的顽疾。为了促进电力营销健康发展，供电企业就需要建立一套适合电力市场的客户信用评估体系，以控制电费回收风险，提高企业效益。电力客户信用评估系统是根据电力客户的历史缴费记录、欠费情况及原因、目前信用等综合状况，用量化的数据表示各项指标，通过信用评估模型科学分析用电客户的信用情况，从而有针对性地采取措施，加强用电客户的管理，为制定适当的营销策略提出依据。

建立电力客户信用评估模型，即从采集的电力客户数据中挖掘出对信用评价有利的指标作为客户的特征表示，然后利用建立的评价模型，对电力客户进行信用分类。考虑的因素包括客户的性质及经营方式、缴费记录、用电行为、公共信息等，并将这些定性和定量的信息量化处理，按照统一的内容、标准和程序公正评价。目前，多数供电企业还是采用根据经验主观判断或者比例分析的方式评估信用风险，这样就难免造成考虑因素不全、判断程度不准等问题。

发明内容

本发明公开了一种基于最小二乘支持向量机的电力客户信用评估方法，采用LS-SVM数学模型构造决策分类器来评估电力客户信用，为供电企业明确客户信用，降低电费回收风险提供有效的依据。

本发明采用的技术方案是：一种基于最小二乘支持向量机的电力客户信用评估方法，包括以下步骤：

S1：建立由用电客户信用评价指标数据构成的评价指标体系，并对评价指标数据进行量化处理；

S2：对步骤S1中量化后的指标数据进行归一化处理，并将数据分为训练样本和测试样本；

S3：建立具有高斯核函数的最小二乘支持向量机数学模型，即LS-SVM数学模型；

S4：训练具有高斯核函数的最小二乘支持向量机数学模型，构建用电客户信用评估模型，检测最小二乘支持向量机分类器的性能；

S5：通过步骤S4中构建的用电客户信用评估模型对新的客户进行信用评估，获得用电客户信用评估结果。

本发明的有益效果：本发明建立了基于最小二乘支持向量机的电力客户信用评估模型，并对模型参数进行最优值的搜索，得到较好的评估结果；该信用评估方法具有较高的分类正确率，并且通过对样本数据的归一化处理，提高了预测性能，具有较强的实用性，为供电企业明确客户信用，降低电费回收风险提供有效的依据。

附图说明

图1是本发明的方法流程图。

具体实施方式

以下是本发明的具体实施方式，现结合附图对本发明作进一步说明。

如图1所示，本发明的具体实现步骤如下：

S1：建立由用电客户信用评价指标数据构成的评价指标体系，并对评价指标数据进行量化处理；

S2：对步骤S1中量化后的指标数据进行归一化处理，并将数据分为训练样本和测试样本；

S3：建立具有高斯核函数的最小二乘支持向量机数学模型，即LS-SVM数学模型；

S4：训练具有高斯核函数的最小二乘支持向量机数学模型，构建用电客户信用评估模型，检测最小二乘支持向量机分类器的性能；

S5：通过步骤S4中构建的用电客户信用评估模型对新的客户进行信用评估，获得用电客户信用评估结果。

(1)构建用电客户信用评价指标体系，选取600个样本指标数据，并对指标数据进行量化处理；

指标体系要全面、真实、准确地反应用电客户的信用水平，并能充分揭示企业的信用情况，涵盖客户的生产经营状况、企业用电量状况、缴费状况、违约状况、设备运行状况等。如果选取的指标对分类的贡献不大甚至误导，则所获取分类器的决策面就不一定准确，因此需要对选取的指标进行定性定量分析，并去除指标体系中的错误信息。结合电力营销管理经验，和供电企业自身的需要，自定义10个评价指标数据构成电力客户评价指标体系，对评价指标数据进行量化处理的方法为：将电力客户信用评价指标数据做成向量形式，向量中的每个元素对应一个信用属性值。

(2)量化后的指标数据进行归一化处理，作为表示该客户用电信用的特征向量，将前400个样本数据作为训练样本，后200个样本数据作为测试样本；

步骤S2中对指标数据进行归一化处理的方法为：假设l个样本具有d个不同的指标数据，则可用下式进行处理：

$x_{\mathrm{ij}}^{\′}=\frac{x_{\mathrm{ij}}-\underset{i}{\min \left\{x_{\mathrm{ij}}\right\}}}{\underset{i}{\max \left\{x_{\mathrm{ij}}\right\}}-\underset{i}{\min \left\{x_{\mathrm{ij}}\right\}}}$

i＝1,2,3,…l；j＝1,2,3,…d

式中，x_ij表示第i个样本的第j个指标数据，表示第i个样本的指标中数值最大的一个指标数据，表示第i个样本的指标中数值最小的一个指标数据，x^' _ij表示预处理后的第i个样本的第j个指标数据。经过这样的处理，每个客户的指标值都限制在[0，1]的范围内。

(3)建立具有高斯核函数的最小二乘支持向量机数学模型；

步骤3中建立具有高斯核函数的LS-SVM数学模型，首先要建立支持向量机模型，即SVM模型，SVM模型的实质是寻找一个最优超平面来达到对数据进行分类的目的，基本思想就是通过内积函数的非线性变换将输入空间映射到一个高维特征空间，并在这个空间中利用结构风险最小化原则和分类间隔最大化思想构造分类决策函数求得最优分类超平面，从而建立SVM模型。决策函数中x为指标，y∈(1,-1)为相应的指标类别，支持向量机的非线性映射(核函数)简化了高维空间的点积运算，将非线性映射与特征空间线性分类融合到一起建立一个非线性的学习器，直接计算两个向量在隐式映射过后空间中的内积。

LS-SVM作为标准支持向量机的扩展，在其优化问题的目标函数中使用误差平方项，并利用等式约束条件代替SVM标准算法中的不等式约束条件，得到最小二乘支持向量机数学模型，将传统支持向量机的二次规划方法的QP(QuadraticProgramming)问题求解转化为一组线性方程组的求解，这在一定程度上降低了求解难度，提高了求解速度。最后再引入高斯核函数，即得到具有高斯核函数的最小二乘支持向量机数学模型。

设有训练样本集{x_i,y_i}，x_i∈R^d,y_i∈{-1，+1}，i＝1,2,...,l，其中l为训练样本总数，R为样本空间，d为样本空间的维数，y为样本的类别标志，根据结构风险原则，分类问题的最小风险界可由优化问题得到，在最小二乘支持向量机中，采用最小二乘线性系统作为损失函数求解决策函数的参量w、b，其优化问题为：

$\min J(w,\mathrm{\ξ})=\frac{1}{2}{w}^{T}w+\frac{1}{2}\mathrm{\γ}\underset{i=1}{\overset{n}{\mathrm{\Σ}}}{\mathrm{\ξ}}_i^2$

式中，w为权向量，b为偏差，ξ_i是误差变量，γ为误差惩罚因子，用于控制对错分样本的惩罚程度。引入拉格朗日函数求解，相应的拉格朗日函数为：

式中，a_i(i＝1,2,...,n)是拉格朗日乘子，b是偏差；根据Karush-Kuhn-Tucker优化条件，消去w和ξ，将以上目标函数的最优化问题转化为求解以下的方程组：

$\left[\begin{array}{cc}0& l^T\\ l& {\mathrm{GG}}^T+{\mathrm{\γ}}^{-1}I\end{array}\right]\left[\begin{array}{c}b\\ a\end{array}\right]=\left[\begin{array}{c}0\\ y\end{array}\right]$

其中l^T＝[1,1,…,1]_n，I为n×n的单位矩阵，a＝[a₁,a₂,...,a_n]^T，y＝[y₁,y₂,...,y_n]^T，这是满足Mercer条件的对称函数，可以用核函数K(x_i,x_j)代替特征空间的内积方程组变为：

利用最小二乘法求出α_i和b，则可以求出训练数据集的最优决策函数：

建立最小二乘支持向量机模型；这样给定特征x，通过该模型得到的f(x)即为x所属的类别。

在支持向量机中，核函数的目的是将原始空间输入变量映射到一个高维特征空间，并在这个空间中构造最优分类超平面。只要一种核函数K(x_i,x_j)满足Mercer条件，该核函数就对应一个变换空间中的内积，通过核函数和映射函数的内积关系，把高维特征空间中的函数估计转换到原始空间，因此核函数对LS-SVM分类器的性能起着决定性作用。常用的核函数有多项式核(Polynomial核)、Gauss径向基核(RBF核，即高斯核函数)和双曲正切核(Sigmoid核)。

在步骤S3中，LS-SVM的核函数采用Gauss径向基核(RBF核，即高斯核函数)，其形式为K(x_i,x_j)＝exp(-||x_i-x_j||²/σ²)，σ为函数的宽度参数，控制了函数的径向作用范围，建立具有高斯核函数的最小二乘支持向量机数学模型。

(4)训练LS-SVM数学模型，检测LS-SVM分类器的性能；

使用高斯核函数的LS-SVM数学模型，需要确定LS-SVM的惩罚函数gam和高斯核函数径向基核宽度sig2的取值，即最优参数。gam反映了训练误差和泛化能力，sig2反映了训练样本的分布范围特征，确定局部领域的宽度，gam和sig2的优化采用网络搜索的方法。

将由400个训练样本构成的训练样本集输入LS-SVM分类器，设定gam和sig2的范围和步长，本实例中gam的取值范围是0.1～100，步长为10，sig2的取值范围是0.1～1，步长为0.1，一共组成110个不同的gam和sig2数据对，例如(gamsig2)＝[(11)，(50.9)，(100.8)]等。采用网络搜索的方法：用不同的参数组合训练LS-SVM数学模型，在当前支持向量机中输入所有样本，并分析正确分类率，直至网络搜索完毕，选择出最优的gam和sig2，例如在本实施例中，选择gam＝10，sig2＝0.6得到了最好的分类效果。根据最优参数训练出LS-SVM分类器，并输入200个测试样本得到测试样本的分类结果，验证所得决策分类模型的信用评估性能。至此，基于最小二乘支持向量机的电力客户信用评估模型已经建立，通过此模型即可进行信用评估。

(5)当有新的电力客户数据时，将数据进行量化处理和归一化处理后，输入电力客户信用评估模型，即可得到这部分客户的信用评估结果，预测电力客户信用情况。

Claims (5)

1.一种基于最小二乘支持向量机的电力客户信用评估方法，其特征在于，包括以下步骤：

S1：建立由用电客户信用评价指标数据构成的评价指标体系，并对评价指标数据进行量化处理；

S2：对步骤S1中量化后的指标数据进行归一化处理，并将数据分为训练样本和测试样本；

S3：建立具有高斯核函数的最小二乘支持向量机数学模型，即LS-SVM数学模型；

S4：训练具有高斯核函数的最小二乘支持向量机数学模型，构建用电客户信用评估模型，检测最小二乘支持向量机分类器的性能；

S5：通过步骤S4中构建的用电客户信用评估模型对新的客户进行信用评估，获得用电客户信用评估结果。

2.根据权利要求1所述的基于最小二乘支持向量机的电力客户信用评估方法，其特征在于：步骤S1中所述的用电客户信用评价指标体系包括10个自定义的评价指标数据；对评价指标数据进行量化处理的方法为：将电力客户信用评价指标数据做成向量形式，向量中的每个元素对应一个信用属性值。

3.根据权利要求1所述的基于最小二乘支持向量机的电力客户信用评估方法，其特征在于：步骤S2中对指标数据进行归一化处理的方法为：假设l个样本具有d个不同的指标数据，则可用下式进行处理：

$x_{\mathrm{ij}}^{\′}=\frac{x_{\mathrm{ij}}-\underset{i}{\min \left\{x_{\mathrm{ij}}\right\}}}{\underset{i}{\max \left\{x_{\mathrm{ij}}\right\}}-\underset{i}{\min \left\{x_{\mathrm{ij}}\right\}}}$

i＝1,2,3,…l；j＝1,2,3,…d

式中，x_ij表示第i个样本的第j个指标数据，表示第i个样本的指标中数值最大的一个指标数据，表示第i个样本的指标中数值最小的一个指标数据，x'_ij表示预处理后的第i个样本的第j个指标数据。

4.根据权利要求1所述的基于最小二乘支持向量机的电力客户信用评估方法，其特征在于：步骤S3中建立具有高斯核函数的最小二乘支持向量机数学模型的方法为：首先，构造分类决策函数求得最优分类超平面，建立支持向量机模型，决策函数中x为指标，y∈(1,-1)为相应的指标类别；然后在支持向量机模型优化问题的目标函数中使用误差平方项，并用等式约束条件代替支持向量机模型中的不等式约束条件，得到最小二乘支持向量机模型，最后再引入高斯核函数，即得到具有高斯核函数的最小二乘支持向量机数学模型，具体方法为：设有训练样本集{x_i,y_i}，x_i∈R^d,y_i∈{-1，+1}，i＝1,2,…,l，其中l为训练样本总数，R为样本空间，d为样本空间的维数，y为样本的类别标志，根据结构风险原则，分类问题的最小风险界可由优化问题得到，在最小二乘支持向量机中，采用最小二乘线性系统作为损失函数求解决策函数的参量w、b，其优化问题为：

$\min J(w,\mathrm{\ξ})=\frac{1}{2}{w}^{T}w+\frac{1}{2}\mathrm{\γ}\underset{i=1}{\overset{n}{\mathrm{\Σ}}}{\mathrm{\ξ}}_i^2$

式中，w为权向量，b为偏差，ξ_i是误差变量，γ为误差惩罚因子，引入拉格朗日函数求解，相应的拉格朗日函数为：

式中，a_i(i＝1,2,…,n)是拉格朗日乘子，b是偏差；根据Karush-Kuhn-Tucker优化条件，消去w和ξ，将以上目标函数的最优化问题转化为求解以下的方程组：

$\left[\begin{array}{cc}0& l^T\\ l& {\mathrm{GG}}^T+{\mathrm{\γ}}^{-1}I\end{array}\right]\left[\begin{array}{c}b\\ a\end{array}\right]=\left[\begin{array}{c}0\\ y\end{array}\right]$

其中l^T＝[1,1,…,1]_n，I为n×n的单位矩阵，a＝[a₁,a₂,...,a_n]^T，y＝[y₁,y₂,...,y_n]^T，这是满足Mercer条件的对称函数，用核函数K(x_i,x_j)代替特征空间的内积方程组变为：

2 -->

利用最小二乘法求出α_i和b，则可以求出训练数据集的最优决策函数：

建立最小二乘支持向量机模型；

最后，引入高斯核函数：K(x_i,x_j)＝exp(-||x_i-x_j||²/σ²)，σ为函数的宽度参数，建立具有高斯核函数的最小二乘支持向量机数学模型。

5.根据权利要求1所述的基于最小二乘支持向量机的电力客户信用评估方法，其特征在于：步骤S4中训练具有高斯核函数的最小二乘支持向量机数学模型，构建用电客户信用评估模型，检测最小二乘支持向量机分类器的性能的具体步骤：首先，确定LS-SVM数学模型的惩罚参数gam和高斯核函数径向基核宽度sig2的取值，方法为：将训练样本输入LS-SVM数学模型，用不同的参数组合训练LS-SVM分类器，采用网络搜索的方法选择出最优的gam与sig2，然后把测试样本输入根据最优参数gam与sig2训练出的LS-SVM分类器，检测LS-SVM分类器的性能。