CN106960218B - 基于代价敏感学习贝叶斯的乳腺癌数据计算机分类系统 - Google Patents

Abstract

本发明涉及一种基于代价敏感学习贝叶斯的乳腺癌数据计算机分类系统，包括：数据输入模块，用于获取待分类的乳腺癌数据；数据预处理模块，用于对所获取的待分类的乳腺癌数据进行预处理；数据分类模块，用于采用经训练的代价敏感朴素贝叶斯分类网络对预处理后的乳腺癌数据进行分类。与现有技术相比，本发明将代价敏感思想引入到朴素贝叶斯法中形成代价敏感朴素贝叶斯分类算法，对乳腺癌数据进行分类，分类准确率高。

Description

基于代价敏感学习贝叶斯的乳腺癌数据计算机分类系统

技术领域

本发明涉及一种数据分类技术，尤其是涉及一种基于代价敏感学习贝叶斯的乳腺癌数据计算机分类系统，属于机器学习中的分类领域。

背景技术

乳腺癌数据是根据各种医疗仪器对人体的检查结果形成的。传统上，国内外主要是凭借医生自身的医学知识和多年积累的临床诊断经验对获得的乳腺癌数据进行分类，这种分类结果的有效性通常取决于医生的业务水平，主观因素影响较大。乳腺癌数据分类是一种典型的不平衡分类问题，在分类任务中更关注其患病类的分类准确率。因此，开发乳腺癌数据分类系统来提高乳腺癌分类的准确率是至关重要。

发明内容

本发明的目的就是为了克服上述现有技术存在的缺陷而提供一种基于代价敏感学习贝叶斯的乳腺癌数据计算机分类系统。

本发明的目的可以通过以下技术方案来实现：

一种基于代价敏感学习贝叶斯的乳腺癌数据计算机分类系统，包括：

数据输入模块，用于获取待分类的乳腺癌数据；

数据预处理模块，用于对所获取的待分类的乳腺癌数据进行预处理；

数据分类模块，用于采用经训练的代价敏感朴素贝叶斯分类网络对预处理后的乳腺癌数据进行分类。

所述数据预处理模块对待分类的乳腺癌数据进行预处理具体为：

对所述乳腺癌数据中的每一属性值均进行离散化处理，处理公式为：

其中，n表示某一属性的属性值，n₁表示该属性对应的最不正常情况值，n₀表示该属性对应的最正常情况值。

所述数据分类模块包括：

数据库单元，用于存储历史乳腺癌数据及对应分类；

分类网络建立单元，用于根据数据库单元中的数据建立代价敏感朴素贝叶斯分类网络并进行训练；

实时分类单元，用于调用所述代价敏感朴素贝叶斯分类网络进行乳腺癌数据的实时分类。

所述分类网络建立单元中，代价敏感朴素贝叶斯分类网络的建立过程为：

1)从数据库单元中调用训练数据Test＝{(x₁,y₁),(x₂,y₂),...,(x_N,y_N)}，其中

是第i个样本的第j个特征，

a_jl是第j个特征可能取的第l个值，j＝1,2,...,n，l＝1,2,...,S_j，y_i∈{T,F}，N为测试样本个数，n为特征总数，S_j为可能值总数，T、F为分类类别；

2)计算先验概率：

计算条件概率：

3)对于给定的实例x＝(x⁽¹⁾,x⁽²⁾,...,x⁽ⁿ⁾)^T，计算：

P(Y＝T)∏_jP(X^(j)＝x^(j)|Y＝T)

P(Y＝F)Π_jP(X^(j)＝x^(j)|Y＝F)

4)加入代价敏感参数C_TF和C_FT，构建损失函数：

L(x,T)＝P(F|x)*C_TF

L(x,F)＝P(T|x)*C_FT

其中，0＜C_TF＝1＜C_FT，表明将T类误分为F类的代价大于将F类误分为T类的代价，P(F|x)、P(T|x)分别表示将样本x预测为类别F、类别T的条件概率；

5)根据损失函数最小化确定实例x的类别：

所述数据分类模块还包括：

模型验证单元，用于对所述分类网络建立单元建立并训练的代价敏感朴素贝叶斯分类网络进行十折交叉验证。

与现有技术相比，本发明具有以下优点：

1)本发明将代价敏感思想引入到朴素贝叶斯法中形成代价敏感朴素贝叶斯分类算法，分类时引入了代价敏感参数，令多类(F)误分为少类(T)的代价为定值1，学习过程中只需调整一个参数，即少类(T)误分为多类(F)的代价敏感参数。相比之前的代价敏感朴素贝叶斯分类器实验过程参数值变少，降低算法复杂度。同时对乳腺癌数据进行分类，分类准确率高。

2)本发明给不同的误分类情况赋予不同的代价，能处理不平衡分类，能对乳腺癌数据进行有效的分类。

附图说明

图1为本发明的结构示意图；

图2为本发明与朴素贝叶斯分类算法在不平衡数据集上的分类结果示意图，横坐标为classification index(分类索引)，纵坐标为ratio(比例)，其中，(a)为Credit-g，(b)为Breast-w，(c)为Haberman，(d)为Breast-c，(e)为sick，(f)为Hepatitis，(g)为vote，(h)为Tic-tac-toe。

具体实施方式

下面结合附图和具体实施例对本发明进行详细说明。本实施例以本发明技术方案为前提进行实施，给出了详细的实施方式和具体的操作过程，但本发明的保护范围不限于下述的实施例。

如图1所示，本实施例提供一种基于代价敏感学习贝叶斯的乳腺癌数据计算机分类系统，包括数据输入模块1、数据预处理模块2和数据分类模块3，其中，数据输入模块1用于获取待分类的乳腺癌数据；数据预处理模块2用于对所获取的待分类的乳腺癌数据进行预处理；数据分类模块3用于采用经训练的代价敏感朴素贝叶斯分类网络(CL-NBC算法)对预处理后的乳腺癌数据进行分类。

每组乳腺癌数据有9个属性值，由于该9个属性值的指标取值是连续的，需要对数据进行离散化处理来方便分类模型进行处理。本系统中，数据预处理模块2对待分类的乳腺癌数据进行预处理具体为：

对所述乳腺癌数据中的每一属性值均进行离散化处理，处理公式为：

其中，n表示某一属性的属性值，n₁表示该属性对应的最不正常情况值，n₀表示该属性对应的最正常情况值。

经预处理后的乳腺癌数据如表1所示。

表1乳腺癌数据集属性描述

数据分类模块3包括：数据库单元31，用于存储历史乳腺癌数据及对应分类；分类网络建立单元32，用于根据数据库单元中的数据建立代价敏感朴素贝叶斯分类网络并进行训练；实时分类单元33，用于调用所述代价敏感朴素贝叶斯分类网络进行乳腺癌数据的实时分类。

分类网络建立单元32中，代价敏感朴素贝叶斯分类网络的建立过程为：

1)从数据库单元中调用训练数据Test＝{(x₁,y₁),(x₂,y₂),...,(x_N,y_N)}，其中

是第i个样本的第j个特征，

a_jl是第j个特征可能取的第l个值，j＝1,2,...,n，l＝1,2,...,S_j，y_i∈{T,F}，N为测试样本个数，n为特征总数，S_j为可能值总数，T、F为分类类别；

2)计算先验概率：

计算条件概率：

3)对于给定的实例x＝(x⁽¹⁾,x⁽²⁾,...,x⁽ⁿ⁾)^T，计算：

P(Y＝T)∏_jP(X^(j)＝x^(j)|Y＝T)

P(Y＝F)∏_jP(X^(j)＝x^(j)|Y＝F)

4)加入代价敏感参数C_TF和C_FT，构建损失函数：

L(x,T)＝P(F|x)*C_TF

L(x,F)＝P(T|x)*C_FT

5)根据损失函数最小化确定实例x的类别：

本发明的另一实施例中，数据分类模块3还包括模型验证单元34，用于对所述分类网络建立单元建立并训练的代价敏感朴素贝叶斯分类网络进行十折交叉验证，验证代价敏感朴素贝叶斯分类网络在乳腺癌数据集上的处理效果，选取的评价指标为：Recall(召回率)、F-measure、G-mean、accurccy(准确率)。

本实施例采用的数据集来源于Wisconsin医学院的william H.Wolberg博士提供的乳腺癌数据样本。图2是本发明在8个不平衡数据集上的分类结果，对比的算法是原始的朴素贝叶斯法(NBC)。选择如下算法评价分类指标：Recall、F-measure、G-mean、accurccy作为算法的分类效果指标。其中短划线表示朴素贝叶斯分类算法，实线表示本发明。

表2四种算法分类准确率比较

表2所示为4种算法对乳腺癌数据分类的准确率，结果显示CL-NBC算法的分类准确率最高，同时图2(b)所示少类的recall达0.9920，意味着乳腺癌数据中99.20％被分类正确了，从而影响了生病患者的前期发现及时治疗。

以上详细描述了本发明的较佳具体实施例。应当理解，本领域的普通技术人员无需创造性劳动就可以根据本发明的构思作出诸多修改和变化。因此，凡本技术领域中技术人员依本发明的构思在现有技术的基础上通过逻辑分析、推理或者有限的实验可以得到的技术方案，皆应在由权利要求书所确定的保护范围内。

Claims (3)

1.一种基于代价敏感学习贝叶斯的乳腺癌数据计算机分类系统，其特征在于，包括：

数据输入模块，用于获取待分类的乳腺癌数据，每组乳腺癌数据具有的属性值包括肿块厚度、细胞大小的均匀性、细胞形状的均匀性、边缘粘、单上皮细胞的大小、裸核、乏味染色体、正常核和有丝分裂；

数据预处理模块，用于对所获取的待分类的乳腺癌数据进行预处理；

数据分类模块，用于采用经训练的代价敏感朴素贝叶斯分类网络对预处理后的乳腺癌数据进行分类；

所述数据分类模块包括：

数据库单元，用于存储历史乳腺癌数据及对应分类；

分类网络建立单元，用于根据数据库单元中的数据建立代价敏感朴素贝叶斯分类网络并进行训练；

实时分类单元，用于调用所述代价敏感朴素贝叶斯分类网络进行乳腺癌数据的实时分类；

所述分类网络建立单元中，代价敏感朴素贝叶斯分类网络的建立过程为：

1)从数据库单元中调用训练数据Test＝{(x₁,y₁),(x₂,y₂),...,(x_N,y_N)}，其中

是第i个样本的第j个特征，

a_jl是第j个特征可能取的第l个值，j＝1,2,...,n，l＝1,2,...,S_j，y_i∈{T,F}，N为测试样本个数，n为特征总数，S_j为可能值总数，T、F为分类类别；

2)计算先验概率：

计算条件概率：

3)对于给定的实例x＝(x⁽¹⁾,x⁽²⁾,...,x⁽ⁿ⁾)^T，计算：

P(Y＝T)Π_jP(X^(j)＝x^(j)|Y＝T)

P(Y＝F)Π_jP(X^(j)＝x^(j)|Y＝F)

4)加入代价敏感参数C_TF和C_FT，构建损失函数：

L(x,T)＝P(F|x)*C_TF

L(x,F)＝P(T|x)*C_FT

其中，0＜C_TF＝1＜C_FT，表明将T类误分为F类的代价大于将F类误分为T类的代价，P(F|x)、P(T|x)分别表示将样本x预测为类别F、类别T的条件概率；

5)根据损失函数最小化确定实例x的类别：

2.根据权利要求1所述的基于代价敏感学习贝叶斯的乳腺癌数据计算机分类系统，其特征在于，所述数据预处理模块对待分类的乳腺癌数据进行预处理具体为：

对所述乳腺癌数据中的每一属性值均进行离散化处理，处理公式为：

其中，n表示某一属性的属性值，n₁表示该属性对应的最不正常情况值，n₀表示该属性对应的最正常情况值。

3.根据权利要求1所述的基于代价敏感学习贝叶斯的乳腺癌数据计算机分类系统，其特征在于，所述数据分类模块还包括：

模型验证单元，用于对所述分类网络建立单元建立并训练的代价敏感朴素贝叶斯分类网络进行十折交叉验证。

Images