CN108090088A - 特征提取方法及装置 - Google Patents

Abstract

本发明公开了一种特征提取方法，首先确定样本集中的候选特征词；对于任意一个候选特征词，分别统计样本集中“是否包含该候选特征词”、“是否属于目标类别”这两个条件组合得到的四种情况对应的样本数量；然后，获取该候选特征词的频度；利用四个样本数量及该候选特征词的频度计算卡方值，最后，根据卡方值确定出待训练特征，并利用预设分类算法进行训练得到该目标类别所包含的特征。由上述内容可知，该特征提取方法在计算候选特征词时加入了特征词的频度，频度是平均一篇样本出现该候选特征词的平均词频，换言之，增加包含该候选特征词的个数较多的样本的权重，减小包含该候选特征词个数较少的样本的权重，从而提高了特征提取的准确率。

Description

特征提取方法及装置

技术领域

本发明涉及计算机领域，尤其涉及特征提取方法及装置。

背景技术

分类就是按照某种标准给对象贴标签，再根据标签来区分归类，分类算法就是自动完成上述过程的算法。特征提取是为分类算法选择合理特征进行学习训练，提取的特征将直接影响分类模型的训练，因此，提高特征提取的准确率至关重要。

文章的情感分类是将从不同平台，例如，微信公众号、微博、新闻、论坛、网页中爬取的数据进行情感分类，其中，情感类别可以包括正、中、负三类。目前，采用卡方值特征提取的方式，首先，采用2-gram模型对文本样本进行分词，然后利用普通卡方值公式计算各分词的卡方值，并根据卡方值选取前500的词组，得到提取的特征。卡方值是非参数检验中的一个统计量，主要用于非参数统计分析中。它的作用是检验数据的相关性，例如，如果卡方值的显著性(即SIG.)小于0.05，则说明两个变量是显著相关的。但是，此种方式提取的特征的准确率较低。

发明内容

鉴于上述问题，提出了本申请的技术方案以便提供一种克服上述问题或者至少部分地解决上述问题的特征提取方法及装置，其技术方案如下：

第一方面，本申请提供了一种特征提取方法，包括：

获取样本集中的候选特征词；

对于任意一个所述候选特征词，分别统计所述样本集中的第一样本数量、第二样本数量、第三样本数量和第四样本数量；所述第一样本数量是包含所述候选特征词且属于目标类别的样本数量，所述第二样本数量是不包含所述候选特征词且属于所述目标类别的样本数量，所述第三样本数量是包含所述候选特征词且不属于所述目标类别的样本数量，所述第四样本数量是不包含所述候选特征词且不属于所述目标类别的样本数量；

获取所述候选特征词在属于所述目标类别的样本中出现的频度；

根据所述第一样本数量、所述第二样本数量、所述第三样本数量、所述第四样本数量和所述频度，计算得到所述候选特征词与所述目标类别之间的卡方值；

根据所述卡方值确定所述目标类别的待训练特征词；

利用预设分类算法对所述待训练特征词进行训练，得到所述目标类别所包含的特征。

可选地，所述获取所述候选特征词在属于所述目标类别的样本中出现的频度，包括：

统计属于所述目标类别的样本中出现所述候选特征词的次数，以及所述目标类别包含的样本总数量；

计算所述次数与所述目标类别所包含的样本总数量的比值，得到所述频度。

可选地，所述根据所述第一样本数量、所述第二样本数量、所述第三样本数量、所述第四样本数量和所述频度，计算得到所述候选特征词与所述目标类别之间的卡方值，包括：

根据公式计算所述卡方值；

其中，N为样本集中样本总数量，A为所述第一样本数量、B为所述第二样本数量、C为所述第三样本数量、D为所述第四样本数量；I为所述目标类别，t为所述候选特征词，α(t,I)为所述候选特征词的频度。

可选地，所述获取样本集中的候选特征词，包括：

在预设分词算法的分词词典中加入指定停用词，根据更新后的分词词典对所述样本集中的文本内容进行分词处理，并删除所述文本内容包含的所述指定停用词，得到所述候选特征词。

可选地，所述获取样本集中的候选特征词，包括：

在预设分词算法的分词词典中加入指定候选词，根据更新后的分词词典对所述样本集中的文本内容进行分词处理，得到所述候选特征词，所述候选特征词中包含所述指定候选词。

第二方面，本申请提供一种特征提取装置，包括：

第一获取模块，用于获取样本集中的候选特征词；

统计模块，用于对于任意一个所述候选特征词，分别统计所述样本集中的第一样本数量、第二样本数量、第三样本数量和第四样本数量；所述第一样本数量是包含所述候选特征词且属于目标类别的样本数量，所述第二样本数量是不包含所述候选特征词且属于所述目标类别的样本数量，所述第三样本数量是包含所述候选特征词且不属于所述目标类别的样本数量，所述第四样本数量是不包含所述候选特征词且不属于所述目标类别的样本数量；

第二获取模块，用于获取所述候选特征词在属于所述目标类别的样本中出现的频度；

卡方值计算模块，用于根据所述第一样本数量、所述第二样本数量、所述第三样本数量、所述第四样本数量和所述频度，计算得到所述候选特征词与所述目标类别之间的卡方值；

待训练特征确定模块，用于根据所述卡方值确定所述目标类别的待训练特征词；

特征训练模块，用于利用预设分类算法对所述待训练特征词进行训练，得到所述目标类别所包含的特征。

可选地，所述第二获取模块，包括：

统计子模块，用于统计属于所述目标类别的样本中出现所述候选特征词的次数，以及所述目标类别所包含的样本总数量；

频度计算子模块，用于计算所述次数与所述样本总数量的比值，得到所述频度。

可选地，所述卡方值计算模块具体用于：

根据公式计算所述卡方值；

其中，N为样本集中样本总数量，A为所述第一样本数量、B为所述第二样本数量、C为所述第三样本数量、D为所述第四样本数量；I为所述目标类别，t为所述候选特征词，α(t,I)为所述候选特征词的频度。

可选地，所述第一获取模块，包括：

第一获取子模块，用于在预设分词算法的分词词典中加入指定停用词，根据更新后的分词词典对所述样本集中的文本内容进行分词处理，并删除所述文本内容包含的所述指定停用词，得到所述候选特征词。

可选地，所述第一获取模块，包括：

第二获取子模块，用于在预设分词算法的分词词典中加入指定候选词，根据更新后的分词词典对所述样本集中的文本内容进行分词处理，得到所述候选特征词，所述候选特征词中包含所述指定候选词。

借由上述技术方案，本发明提供的特征提取方法，首先从样本集中确定出本次处理的候选特征词；并分别统计样本集中“是否包含该候选特征词”、“是否属于目标类别”这两个条件组合得到的四种情况对应的四个样本数量；然后，获取该候选特征词的频度；利用四个样本数量及该候选特征词的频度计算卡方值，最后，根据卡方值确定目标类别所包含的特征。由上述内容可知，该特征提取方法在计算候选特征词时加入了特征词的频度，频度是平均一篇样本出现该候选特征词的平均词频，换言之，增加包含该候选特征词的个数较多的样本的权重，减小包含该候选特征词个数较少的样本的权重，从而提高了特征提取的准确率。

上述说明仅是本发明技术方案的概述，为了能够更清楚了解本发明的技术手段，而可依照说明书的内容予以实施，并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂，以下特举本发明的具体实施方式。

附图说明

通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的，而并不认为是对本发明的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：

图1示出了本发明实施例一种特征提取方法的流程图；

图2示出了本发明实施例另一种特征提取方法的流程图；

图3示出了本发明实施例一种特征提取装置的框图；

图4示出了本发明实施例另一种特征提取装置的框图；

图5示出了本发明实施例又一种特征提取装置的框图。

具体实施方式

下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例，然而应当理解，可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本公开，并且能够将本公开的范围完整的传达给本领域的技术人员。

请参见图1，示出了本发明实施例一种特征提取方法的流程图，该方法应用于终端设备或服务器中，如图1所示，该方法可以包括以下步骤：

S110，获取样本集中的候选特征词。

样本集是已知分类类别的样本，通常包括正样本和负样本，例如，待训练的类别是A类，则正样本是指属于A类的样本，负样本是不属于A类的样本。本申请主要应用于文本分类过程中的特征提取，每个样本都是文本文件。

可以利用分词算法对样本的文本内容进行分词，然后确定出候选特征词。分词算法可以选用适合中文的已有分词算法，本申请对此并不限制。

S120，分别统计所述样本集中的第一样本数量、第二样本数量、第三样本数量和第四样本数量。

样本数量分类如表1所示：

表1

	含有特征X	不含有特征X
			属于I类	A	B
不属于I类	C	D

例如，表1中的特征X即候选特征词、I类即目标类别，则第一样本数量为A，表示样本集中包含特征X且属于I类的样本数量；B为第二样本数量表示样本集中不包含特征X且属于I类的样本数量；C为第三样本数量表示样本集中包含特征X且不属于I类的样本数量；D为第四样本数量表示样本集中不包含特征X且不属于I类的样本数量。

S130，获取候选特征词在属于目标类别的样本中出现的频度。

候选特征词的频度是指该特征词出现的文本数与该类文本总数的比值。计算公式如下：

α(t,I)为所述候选特征词与I类之间的频度；例如，公式1中的分母为表1中属于I类的文本数是A+B，分子为A个样本中所包含的特征词X的数量。

目标类别是当前要训练的类别。对于汽车类文章情感分类的应用场景而言，包括正情感、中情感和负情感三个类别，目标类别可以是这三个类别中的任意一类。

S140，根据第一样本数量、第二样本数量、第三样本数量、第四样本数量和频度，计算得到候选特征词与目标类别之间的卡方值。

公式2中，x²(t,I)表示卡方值，N为样本总数量；A为第一样本数量、B为第二样本数量、C为第三样本数量、D为第四样本数量，α(t,I)表示特征t与类别I的频度。

当(AD-BC)＞0时，表示该候选特征词与目标类别的相关度较大，当(AD-BC)≤0时，表示该候选特征词与非目标类别的相关度比较大，x²(t,I)＝0，卡方值取0排除此类候选特征词对目标类别的影响。

S150，根据卡方值确定目标类别的待训练特征。

当全部候选特征词的卡方值都计算完后，按照卡方值的数值大小进行排序，并选取数值从大到小的预设数量个候选特征词作为该类别的特征。

预设数量可以根据实际需求进行选取，例如，可以选取500。

S160，利用预设分类算法对待训练特征词进行训练，得到目标类别所包含的特征。

选取的待训练特征词需要利用预设分类算法进行训练，从预设数量个候选特征词中训练得到能够真正表征目标类别属性的特征。例如，预设分类算法可以是SVM(SupportVector Machine，支持向量机)算法，当然还可以使用其它分类算法，本申请对此并不限制。

本实施例提供的特征提取方法，首先确定样本集中的候选特征词；对于任意一个候选特征词，分别统计样本集中“是否包含该候选特征词”、“是否属于目标类别”这两个条件组合得到的四种情况对应的样本数量；然后，获取该候选特征词的频度；利用四个样本数量及该候选特征词的频度计算卡方值，最后，根据卡方值确定出待训练特征，并利用预设分类算法进行训练得到该目标类别所包含的特征。由上述内容可知，该特征提取方法在计算候选特征词时加入了特征词的频度，频度是平均一篇样本出现该候选特征词的平均词频，换言之，增加包含该候选特征词的个数较多的样本的权重，减小包含该候选特征词个数较少的样本的权重，从而提高了特征提取的准确率。

请参见图2，示出了本发明实施例另一种特征提取方法的流程图，该方法在选取候选特征词时，引入了停用词，如图2所示，该方法包括以下步骤：

S210，在预设分词算法的分词词典中加入指定停用词和指定候选词，得到更新后的分词词典。

指定停用词是没有具体语义的词，例如，语气词、量词、连词等。例如，“啊”、“一个”、“但是”等等。

在本发明一种可能的实现方式中，对关于车辆的文本进行分类，此种应用场景下，指定候选词可以是车型词，例如，帕萨特、朗逸等，如果文本样本中依次出现车型词中的字时则按照车型词进行划分，并确定为候选特征词。

S220，根据更新后的分词词典对样本集中的文本内容进行分词处理，得到候选特征词。

候选特征词中不包含指定停用词，但是，包括指定候选词。

S230，对于任意一个候选特征词，统计样本集中的第一样本数量、第二样本数量、第三样本数量和第四样本数量。

其中，第一样本数量是包含候选特征词且属于目标类别的样本数量，第二样本数量是不包含该候选特征词且属于目标类别的样本数量，第三样本数量是包含该候选特征词且不属于目标类别的样本数量，第四样本数量是不包含该候选特征词且不属于目标类别的样本数量。

S240，统计属于目标类别的样本中包含该候选特征词的个数，以及，目标类别中包含样本的总数量。

本步骤是统计第一样本数量的样本中所包含的该候选特征词的个数，同时，统计目标类别中包含样本的总数量。

S250，利用所述个数除以所述总数量得到该候选特征词的频度。

例如，目标类别所包含的样本中出现该候选特征词的个数是n，目标类别中包含样本总数量是A+B(参见表1)，则该候选特征词的频度是n/(A+B)。

S260，计算该候选特征词的卡方值。

根据公式2计算该候选特征词的卡方值，此处不再赘述。

重复执行S210～S260，直到得到样本集中的全部候选特征词对应的卡方值。

S270，选取卡方值从大到小的预设数量个候选特征词，确定该目标类别的待训练特征词。

具体的，计算得到样本集中全部候选特征词对应的卡方值后，按照从大到小进行排序，选取前预设数量个候选特征词确定为待训练特征词。

S280，选取卡方值从大到小的预设数量个候选特征词，确定该目标类别的待训练特征词。

本实施例提供的特征提取方法，在确定样本集中的候选特征词时，在分词词典中加入指定停用词和指定候选词，对文本样本进行分词时，删掉文本中与指定停用词相符合的词组，得到的分词结果即候选特征词。然后，计算各个候选特征词的频度，并结合该候选特征词的频度计算卡方值；根据卡方值确定出待训练特征词，最后利用预设分类算法训练待训练特征词得到该目标类别所包含的特征。该方法在分词词典中加入了指定停用词，在分词时直接删掉了文本样本中出现的停用词，从而减少了候选特征词的数量，从而提高了选取待训练特征词的效率。而且，在分词词典中加入了指定候选词，并直接将符合指定候选词的字划分在一起，提高了分词的准确率，进而提高了特征提取的准确率。

相应于上述的特征提取方法实施例，本发明还提供了特征提取装置实施例。

请参见图3，示出了本发明实施例一种特征提取装置的框图，该装置可以应用于终端设备或服务器中。如图3所示，该装置可以包括：第一获取模块310、统计模块320、第二获取模块330、卡方值计算模块340、待训练特征确定模块350和特征训练模块360。

第一获取模块310，用于获取样本集中的候选特征词。

利用分词算法对样本集中的文本进行分词处理，得到的分词结果即候选特征词。

统计模块320，用于对于任意一个候选特征词，分别统计样本集中的第一样本数量、第二样本数量、第三样本数量和第四样本数量。

分别统计样本集中符合表1所示的四种情况的样本数量。

其中，所述第一样本数量是包含所述候选特征词且属于目标类别的样本数量，所述第二样本数量是不包含所述候选特征词且属于所述目标类别的样本数量，所述第三样本数量是包含所述候选特征词且不属于所述目标类别的样本数量，所述第四样本数量是不包含所述候选特征词且不属于所述目标类别的样本数量。

第二获取模块330，用于获取候选特征词在属于该目标类别的样本中出现的频度。

利用公式1计算候选特征词的频度，此处不再赘述。

卡方值计算模块340，用于根据第一样本数量、第二样本数量、第三样本数量、第四样本数量和所述频度，计算得到该候选特征词与该目标类别的卡方值。

利用公式2计算得到卡方值，此处不再赘述。

待训练特征确定模块350，用于根据所述卡方值确定所述目标类别的待训练特征词。

当全部候选特征词的卡方值都计算完后，按照卡方值的数值大小进行排序，并选取数值从大到小的预设数量个候选特征词作为该类别的特征。

预设数量可以根据实际需求进行选取，例如，可以选取500。

特征训练模块360，用于利用预设分类算法对所述待训练特征词进行训练，得到所述目标类别所包含的特征。

选取的待训练特征词需要利用预设分类算法进行训练后才能得到目标类别所包含的特征。例如，预设分类算法可以是SVM(Support Vector Machine，支持向量机)算法，当然还可以使用其它分类算法，本申请对此并不限制。

本实施例提供的特征提取装置，由第一获取模块确定样本集中的候选特征词；对于任意一个候选特征词，利用统计模块分别统计样本集中“是否包含该候选特征词”、“是否属于目标类别”这两个条件组合得到的四种情况对应的样本数量；然后，由第二获取模块获取该候选特征词的频度；并由卡方值计算模块利用四个样本数量及该候选特征词的频度计算卡方值，最后，待训练特征确定模块根据卡方值确定出待训练特征，并由特征训练模块利用预设分类算法进行训练得到该目标类别所包含的特征。由上述内容可知，该装置在计算候选特征词时加入了特征词的频度，频度是平均一篇样本出现该候选特征词的平均词频，换言之，增加包含该候选特征词的个数较多的样本的权重，减小包含该候选特征词个数较少的样本的权重，从而提高了特征提取的准确率。

请参见图4，示出了本发明实施例另一种特征提取装置的框图，本实施例对图3所示实施例中的部分模块进行了细化，如图4所示，该装置可以包括：第一获取模块410、统计模块420、统计子模块430、频度计算子模块440、卡方值计算模块450、待训练特征确定模块460和特征训练模块470。

第一获取模块410，用于在预设分词算法的分词词典中加入指定停用词和指定候选词，根据更新后的分词词典对所述样本集中的文本内容进行分词处理，删掉所述文本内容包含的所述指定停用词，并将符合所述指定候选词的字划分成词组，得到候选特征词。

本实施例中，在分词算法的原有分词词典中加入了指定停用词和指定候选词，如果文本样本中存在符合指定停用词的词则删掉，如果文本样本中存在符合指定候选词的词则划分成词组，这样，既能候选特征词的总数量，又能提高候选特征词的准确率。

统计模块420，用于对于任意一个所述候选特征词，分别统计所述样本集中的第一样本数量、第二样本数量、第三样本数量和第四样本数量。

其中，所述第一样本数量是包含所述候选特征词且属于目标类别的样本数量，所述第二样本数量是不包含所述候选特征词且属于所述目标类别的样本数量，所述第三样本数量是包含所述候选特征词且不属于所述目标类别的样本数量，所述第四样本数量是不包含所述候选特征词且不属于所述目标类别的样本数量。

统计子模块430，用于统计属于所述目标类别的样本中出现所述候选特征词的次数，以及所述目标类别所包含的样本总数量。

该统计子模块统计第一样本数量的样本中所包含的该候选特征词的个数，同时，统计目标类别中包含样本的总数量。

频度计算子模块440，用于计算所述次数与所述样本总数量的比值，得到所述频度。

频度计算子模块利用公式1计算得到，此处不再赘述。

卡方值计算模块450，用于根据所述第一样本数量、所述第二样本数量、所述第三样本数量、所述第四样本数量和所述频度，计算得到所述候选特征词与所述目标类别之间的卡方值。

卡方值利用公式2计算得到，此处不再赘述。

待训练特征确定模块460，用于根据所述卡方值确定所述目标类别的待训练特征词。

具体的，计算得到样本集中全部候选特征词对应的卡方值后，按照从大到小进行排序，选取前预设数量个候选特征词确定为待训练特征词。

特征训练模块470，用于利用预设分类算法对所述待训练特征词进行训练，得到所述目标类别所包含的特征。

例如，预设分类算法可以是SVM算法，从预设数量个候选特征词中训练得到能够真正表征目标类别属性的特征。

本实施例提供的特征提取装置，在确定样本集中的候选特征词时，在分词词典中加入指定停用词和指定候选词，对文本样本进行分词时，删掉文本中与指定停用词相符合的词组，得到的分词结果即候选特征词。然后，计算各个候选特征词的频度，并结合该候选特征词的频度计算卡方值；根据卡方值确定出待训练特征词，最后利用预设分类算法训练待训练特征词得到该目标类别所包含的特征。该装置在分词词典中加入了指定停用词，在分词时直接删掉了文本样本中出现的停用词，从而减少了候选特征词的数量，从而提高了选取待训练特征词的效率。而且，在分词词典中加入了指定候选词，并直接将符合指定候选词的字划分在一起，提高了分词的准确率，进而提高了特征提取的准确率。

请参见图5，示出了本发明实施例又一种特征提取装置的框图，该装置包括处理器510和存储器520。

其中，上述的第一获取模块310、统计模块320、第二获取模块330、卡方值计算模块340、待训练特征确定模块350和特征训练模块360等均作为程序单元存储在存储器520中，由处理器510执行存储在存储器520中的上述程序单元来实现相应的功能。

处理器510中包含内核，由内核去存储器520中调取相应的程序单元。内核可以设置一个或一个以上，通过调整内核参数来提高特征提取的准确率。

存储器520可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)，存储器520包括至少一个存储芯片。

本实施例提供的特征提取装置，由处理器调取存储器中相应的程序单元以完成以下过程：确定样本集中的候选特征词；对于任意一个候选特征词，分别统计样本集中“是否包含该候选特征词”、“是否属于目标类别”这两个条件组合得到的四种情况对应的样本数量；然后，获取该候选特征词的频度；利用四个样本数量及该候选特征词的频度计算卡方值，最后，根据卡方值确定出待训练特征，并利用预设分类算法进行训练得到该目标类别所包含的特征。该特征提取过程在计算候选特征词时加入了特征词的频度，频度是平均一篇样本出现该候选特征词的平均词频，换言之，增加包含该候选特征词的个数较多的样本的权重，减小包含该候选特征词个数较少的样本的权重，从而提高了特征提取的准确率。

本申请还提供了一种计算机程序产品，当在数据处理设备上执行时，适于执行初始化有如下方法步骤的程序代码：

获取样本集中的候选特征词；

对于任意一个所述候选特征词，分别统计所述样本集中的第一样本数量、第二样本数量、第三样本数量和第四样本数量；所述第一样本数量是包含所述候选特征词且属于目标类别的样本数量，所述第二样本数量是不包含所述候选特征词且属于所述目标类别的样本数量，所述第三样本数量是包含所述候选特征词且不属于所述目标类别的样本数量，所述第四样本数量是不包含所述候选特征词且不属于所述目标类别的样本数量；

获取所述候选特征词在属于所述目标类别的样本中出现的频度；

根据所述第一样本数量、所述第二样本数量、所述第三样本数量、所述第四样本数量和所述频度，计算得到所述候选特征词与所述目标类别之间的卡方值；

根据所述卡方值确定所述目标类别的待训练特征词；

利用预设分类算法对所述待训练特征词进行训练，得到所述目标类别所包含的特征。

本领域内的技术人员应明白，本申请的实施例可提供为方法、系统、或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

在一个典型的配置中，计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。

存储器可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)。存储器是计算机可读介质的示例。

计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。

以上仅为本申请的实施例而已，并不用于限制本申请。对于本领域技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本申请的权利要求范围之内。

Claims (10)

1.一种特征提取方法，其特征在于，包括：

获取样本集中的候选特征词；

对于任意一个所述候选特征词，分别统计所述样本集中的第一样本数量、第二样本数量、第三样本数量和第四样本数量；所述第一样本数量是包含所述候选特征词且属于目标类别的样本数量，所述第二样本数量是不包含所述候选特征词且属于所述目标类别的样本数量，所述第三样本数量是包含所述候选特征词且不属于所述目标类别的样本数量，所述第四样本数量是不包含所述候选特征词且不属于所述目标类别的样本数量；

获取所述候选特征词在属于所述目标类别的样本中出现的频度；

根据所述第一样本数量、所述第二样本数量、所述第三样本数量、所述第四样本数量和所述频度，计算得到所述候选特征词与所述目标类别之间的卡方值；

根据所述卡方值确定所述目标类别的待训练特征词；

利用预设分类算法对所述待训练特征词进行训练，得到所述目标类别所包含的特征。

2.根据权利要求1所述的方法，其特征在于，所述获取所述候选特征词在属于所述目标类别的样本中出现的频度，包括：

统计属于所述目标类别的样本中出现所述候选特征词的次数，以及所述目标类别包含的样本总数量；

计算所述次数与所述目标类别所包含的样本总数量的比值，得到所述频度。

3.根据权利要求1所述的方法，其特征在于，所述根据所述第一样本数量、所述第二样本数量、所述第三样本数量、所述第四样本数量和所述频度，计算得到所述候选特征词与所述目标类别之间的卡方值，包括：

根据公式计算所述卡方值；

其中，N为样本集中样本总数量，A为所述第一样本数量、B为所述第二样本数量、C为所述第三样本数量、D为所述第四样本数量；I为所述目标类别，t为所述候选特征词，α(t,I)为所述候选特征词的频度。

4.根据权利要求1至3任意一项所述的方法，其特征在于，所述获取样本集中的候选特征词，包括：

在预设分词算法的分词词典中加入指定停用词，根据更新后的分词词典对所述样本集中的文本内容进行分词处理，并删除所述文本内容包含的所述指定停用词，得到所述候选特征词。

5.根据权利要求1至3任意一项所述的方法，其特征在于，所述获取样本集中的候选特征词，包括：

在预设分词算法的分词词典中加入指定候选词，根据更新后的分词词典对所述样本集中的文本内容进行分词处理，得到所述候选特征词，所述候选特征词中包含所述指定候选词。

6.一种特征提取装置，其特征在于，包括：

第一获取模块，用于获取样本集中的候选特征词；

统计模块，用于对于任意一个所述候选特征词，分别统计所述样本集中的第一样本数量、第二样本数量、第三样本数量和第四样本数量；所述第一样本数量是包含所述候选特征词且属于目标类别的样本数量，所述第二样本数量是不包含所述候选特征词且属于所述目标类别的样本数量，所述第三样本数量是包含所述候选特征词且不属于所述目标类别的样本数量，所述第四样本数量是不包含所述候选特征词且不属于所述目标类别的样本数量；

第二获取模块，用于获取所述候选特征词在属于所述目标类别的样本中出现的频度；

卡方值计算模块，用于根据所述第一样本数量、所述第二样本数量、所述第三样本数量、所述第四样本数量和所述频度，计算得到所述候选特征词与所述目标类别之间的卡方值；

待训练特征确定模块，用于根据所述卡方值确定所述目标类别的待训练特征词；

特征训练模块，用于利用预设分类算法对所述待训练特征词进行训练，得到所述目标类别所包含的特征。

7.根据权利要求6所述的装置，其特征在于，所述第二获取模块，包括：

统计子模块，用于统计属于所述目标类别的样本中出现所述候选特征词的次数，以及所述目标类别所包含的样本总数量；

频度计算子模块，用于计算所述次数与所述样本总数量的比值，得到所述频度。

8.根据权利要求6所述的装置，其特征在于，所述卡方值计算模块具体用于：

根据公式计算所述卡方值；

其中，N为样本集中样本总数量，A为所述第一样本数量、B为所述第二样本数量、C为所述第三样本数量、D为所述第四样本数量；I为所述目标类别，t为所述候选特征词，α(t,I)为所述候选特征词的频度。

9.根据权利要求6至8任意一项所述的装置，其特征在于，所述第一获取模块，包括：

第一获取子模块，用于在预设分词算法的分词词典中加入指定停用词，根据更新后的分词词典对所述样本集中的文本内容进行分词处理，并删除所述文本内容包含的所述指定停用词，得到所述候选特征词。

10.根据权利要求6至8任意一项所述的装置，其特征在于，所述第一获取模块，包括：

第二获取子模块，用于在预设分词算法的分词词典中加入指定候选词，根据更新后的分词词典对所述样本集中的文本内容进行分词处理，得到所述候选特征词，所述候选特征词中包含所述指定候选词。