CN109947811A - 通用特征库生成方法及装置、存储介质、电子设备 - Google Patents

Abstract

本公开是关于一种通用特征库生成方法及装置，属于数据处理技术领域，该方法包括：获取多个数据源并对各所述数据源进行预处理得到多个原始指标；根据各所述原始指标的变量对各所述原始指标进行分组并对分组结果进行第一运算处理得到多个基础指标；根据各所述基础指标的共性将各所述基础指标分为多个指标类，并对各所述指标类进行第二运算处理得到多个衍生指标；将各所述原始指标、基础指标以及衍生指标进行汇总得到所述通用特征库。该方法通过从通用特征库获取模型指标的取值，避免了指标在加工阶段存在大量的重复工作的问题，提高了指标的取值速度。

Description

通用特征库生成方法及装置、存储介质、电子设备

技术领域

本公开涉及数据处理技术领域，具体而言，涉及一种通用特征库生成方法、通用特征库生成装置、计算机可读存储介质以及电子设备。

背景技术

随着电子商务的发展，机器学习算法在电子商务中的应用也越来越广泛，例如可以包括电商反欺诈、信用模型构建以及搜索引擎推荐等等。

目前，机器学习算法的数据处理一般流程可以包括：首先，针对不同的业务需求分析海量的数据中与业务相关的有价值的潜在指标特征，并根据分析经验预先设定好要得到的指标内容；其次，进行数据抽取转换加载(ETL，Extract Transform Load)生成预先设定的指标，并进行数据深度处理；最后，采用机器学习方法进行建模，从而挖掘出隐含的、未知的、对决策有潜在价值的关系、模式以及趋势等等。

参考图1所示，现有的数据挖掘建模过程可以包括：S102.明确业务需求：了解业务，明确需求，对数据挖掘以及建模目标有一个清晰明确的定义；S103.指标设计加工：构思设计与业务相关指标，从海量数据源101中对数据进行针对性筛选；S104.数据挖掘建模：对加工好的指标进行探索、后处理以及机器学习建模以及模型测试修改；S105.业务场景应用：建模结果应用于实际业务场景、观察效果以及后续调整。

但是，上述建模流程存在如下缺点：一方面，会约束模型中的指标取值范围，缺乏全面性；另一方面，评价指标的数据量有限，靠人的行业经验来制定指标，可比性和可测性降低；再一方面，对于不同的业务需求建模，指标加工阶段存在大量重复工作；更进一步的，不同业务需求建模的指标含义不通用，不便于模型的融合应用。

因此，需要提供一种新的通用特征库生成方法。

需要说明的是，在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。

发明内容

本公开的目的在于提供一种通用特征库生成方法、通用特征库生成装置、计算机可读存储介质以及电子设备，进而至少在一定程度上克服由于相关技术的限制和缺陷而导致的一个或者多个问题。

根据本公开的一个方面，提供一种通用特征库生成方法，包括：

获取多个数据源并对各所述数据源进行预处理得到多个原始指标；

根据各所述原始指标的变量对各所述原始指标进行分组并对分组结果进行第一运算处理得到多个基础指标；

根据各所述基础指标的共性将各所述基础指标分为多个指标类，并对各所述指标类进行第二运算处理得到多个衍生指标；

将各所述原始指标、基础指标以及衍生指标进行汇总得到所述通用特征库。

在本公开的一种示例性实施例中，获取多个数据源并对各所述数据源进行预处理得到多个原始指标包括：

根据所述通用特征库的待服务范围从多个数据系统中获取与所述待服务范围关联的多个数据源；

对获取到的各所述数据源进行抽取、加载、转换以及清洗得到多个所述原始指标。

在本公开的一种示例性实施例中，对获取到的各所述数据源进行抽取包括：

根据预设抽取方式对获取到的各所述数据源进行抽取；

其中，所述预设抽取方式包括实时抽取以及历史抽取中的一种。

在本公开的一种示例性实施例中，根据各所述原始指标的变量对各所述原始指标进行分组包括：

根据各所述原始指标的变量将各所述原始指标分为数值变量、分类变量以及时间变量中的多种。

在本公开的一种示例性实施例中，对分组结果进行第一运算处理得到多个基础指标包括：

根据所述数值变量以及分类变量的主键维度对所述数值变量以及分类变量进行第一运算处理得到多个基础指标。

在本公开的一种示例性实施例中，所述第一运算处理包括计数、求和、最小值、最大值以及平均值中的多种。

在本公开的一种示例性实施例中，对分组结果进行第一运算处理得到多个基础指标之后，所述通用特征库生成方法还包括：

提取各所述基础指标的共性。

在本公开的一种示例性实施例中，根据各所述基础指标的共性将各所述基础指标分为多个指标类，并对各所述指标类进行第二运算处理得到多个衍生指标包括：

根据各所述基础指标的共性将各所述基础指标分为单变量指标类以及多变量指标类；

对所述单变量指标类以及多变量指标类进行第二运算处理得到多个衍生指标。

在本公开的一种示例性实施例中，所述第二运算处理包括单一运算处理以及多运算处理；

其中，所述单一运算处理包括对数、开方、平方以及倒数中的一种或多种；

所述多运算处理包括加减乘除运算中的一种或多种。

根据本公开的一个方面，提供一种通用特征库生成装置，包括：

转换清洗模块，用于获取多个数据源并对各所述数据源进行预处理得到多个原始指标；

第一处理模块，用于根据各所述原始指标的变量对各所述原始指标进行分组并对分组结果进行第一运算处理得到多个基础指标；

第二处理模块，用于根据各所述基础指标的共性将各所述基础指标分为多个指标类，并对各所述指标类进行第二运算处理得到多个衍生指标；

汇总模块，用于将各所述原始指标、基础指标以及衍生指标进行汇总得到所述通用特征库。

根据本公开的一个方面，提供一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现上述任意一项所述的通用特征库生成方法。

根据本公开的一个方面，提供一种电子设备，包括：

处理器；以及

存储器，用于存储所述处理器的可执行指令；

其中，所述处理器配置为经由执行所述可执行指令来执行上述任意一项所述的通用特征库生成方法。

本公开一种通用特征库生成方法及装置，通过对各数据源进行转换以及清洗得到多个原始指标然后对各原始指标进行第一运算处理得到多个基础指标；再将各基础指标分为多个指标类，并对各指标类进行第二运算处理得到多个衍生指标；最后将各原始指标、基础指标以及衍生指标进行汇总得到通用特征库；一方面，通过将各原始指标、基础指标以及衍生指标进行汇总得到通用特征库，避免了传统建模流程中模型指标取值范围缺乏全面性的问题，提高了指标的取值范围，增强了可比性和可测性；另一方面，通过从通用特征库获取模型指标的取值，避免了指标在加工阶段存在大量的重复工作的问题，提高了指标的取值速度；再一方面，根据原始指标得到基础指标，再根据基础指标得到衍生指标，增加了各指标之间的关联，同时也也提高了各模型之间的融合度。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理。显而易见地，下面描述中的附图仅仅是本公开的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1示意性示出一种数据挖掘建模流程示例图。

图2示意性示出一种通用特征库生成方法的流程图。

图3示意性示出一种通用特征库的系统结构示例图。

图4示意性示出一种数据抽取加载转换示例图。

图5示意性示出一种将原始指标进行第一运算处理得到多个基础指标的流程示例图。

图6示意性示出一种脚本示例图。

图7示意性示出一种将基础指标进行第二运算处理得到多个衍生指标的流程示例图。

图8示意性示出一种利用通用特征库进行数据挖掘建模的流程示例图。

图9示意性示出一种通用特征库生成装置的框图。

图10示意性示出一种用于实现上述通用特征库生成方法的电子设备。

图11示意性示出一种用于实现上述通用特征库生成方法的计算机可读存储介质。

具体实施方式

现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本公开将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。在下面的描述中，提供许多具体细节从而给出对本公开的实施方式的充分理解。然而，本领域技术人员将意识到，可以实践本公开的技术方案而省略所述特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知技术方案以避免喧宾夺主而使得本公开的各方面变得模糊。

此外，附图仅为本公开的示意性图解，并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体，不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。

本示例实施方式中首先提供了一种通用特征库生成方法。参考图2所示，该通用特征库生成方法可以包括以下步骤：

步骤S210.获取多个数据源并对各所述数据源进行预处理得到多个原始指标。

步骤S220.根据各所述原始指标的变量对各所述原始指标进行分组并对分组结果进行第一运算处理得到多个基础指标。

步骤S230.根据各所述基础指标的共性将各所述基础指标分为多个指标类，并对各所述指标类进行第二运算处理得到多个衍生指标。

步骤S240.将各所述原始指标、基础指标以及衍生指标进行汇总得到所述通用特征库。

在上述通用特征库生成方法中，一方面，通过将各原始指标、基础指标以及衍生指标进行汇总得到通用特征库，避免了传统建模流程中模型指标取值范围缺乏全面性的问题，提高了指标的取值范围，增强了可比性和可测性；另一方面，通过从通用特征库获取模型指标的取值，避免了指标在加工阶段存在大量的重复工作的问题，提高了指标的取值速度；再一方面，根据原始指标得到基础指标，再根据基础指标得到衍生指标，增加了各指标之间的关联，同时也也提高了各模型之间的融合度。

下面，将对本示例实施方式中上述通用特征库生成方法中的各步骤进行详细的解释以及说明。

在步骤S210中，获取多个数据源并对各所述数据源进行预处理得到多个原始指标。其中，获取多个数据源并对数据源转换以及清洗可以包括：根据所述通用特征库的待服务范围从多个数据系统中获取与所述待服务范围关联的多个数据源；对获取到的各所述数据源进行抽取、加载、转换以及清洗得到多个所述原始指标。详细而言：

参考图3所示，首先，选定特征库的服务范围(明确特征库所要服务的业务范围)，并从与服务范围相关的多个数据系统(业务系统)中获取与服务范围关联的多个数据源301；然后，对获取到的各数据源301进行抽取转换加载(ETL，Extract Transform Load)以及清洗得到多个原始指标302(也可以抽取转换加载城一个原始指标，可以根据实际需要自行加工，本示例对此不做特殊限制)。此处需要补充说明的是，在处理原始指标时，需要对各个数据系统进行精选，选取特征库服务范围内相关的数据源；并且，在进行数据采集和加工时，高度重视数据质量以确保原始指标的相关性、可靠性以及有效性。进一步的，对获取到的各数据源进行抽取可以包括：根据预设抽取方式对获取到的各所述数据源进行抽取。举例而言：

根据数据的实时要求进行抽取；其中，抽取的方式可以包括实时抽取与T+1(历史抽取，抽取前一天数据)等等，也可以包括其他抽取方式，可以是T+n抽取，本示例对此不做特殊限制。进一步的，实时抽取(流式处理)可以通过Spark-storm插件，每隔十分钟抽取业务库中的数据，进行加工、计算，实时返回结果；T+1抽取方式为抽取离线的数据，可以抽取经过处理后的汇总数据，然后再入库做比对。进一步举例而言：

参考图4所示，例如，从各个数据源401中可以抽取到的原始指标表402中，可以包括用户的购物信息以及用户的个人信息。其中，用户的购物信息可以包括：PIN(PersonalIdentification Number，个人识别码)、订单号、一级品类、三级品类、是否是高危品类、虚拟商品or实物、交易金额、商品价格、商品数量以及下单时间等等；用户的个人信息可以包括：PIN(Personal Identification Number，人识别码)、年龄、性别以及省份等等；进一步的，按照不同的业务主体可以将用户的购物信息以及用户的个人信息生成两种原始指标数据集(用户购物信息表以及用户基本信息表)，后续可以通过唯一主键PIN进行关联。此处需要补充说明的是，实时抽取可以抽取实时交易的数据，对数据的时效性要求比较高；T+1抽取可以对应于用户的固有属性，例如可以包括：相关电话以及邮箱等等，对时效性要求不高，所以使用T+1方式。

在步骤S220中，根据各所述原始指标的变量对各所述原始指标进行分组并对分组结果进行第一运算处理得到多个基础指标。

首先，根据各原始指标的变量对各原始指标进行分组可以包括：根据各所述原始指标的变量将各所述原始指标分为数值变量、分类变量以及时间变量中的多种。详细而言：

参考图5所示，根据各原始指标302的变量类别将各原始指标分为数据值变量501、分类变量502以及时间变量503三大类别，也可以包括其他类别的变量，例如可以是品类变量等等，本示例对此不做特殊限制。

其次，对分组结果进行第一运算处理得到多个基础指标可以包括：根据所述数值变量以及分类变量的主键维度对所述数值变量以及分类变量进行第一运算处理得到多个基础指标。详细而言：

对于数据值变量501的指标处理，可以对其进行以主键为维度的集合统计函数的运算处理；具体的可以包括：Count(计数)、Sum(求和)、Min(最小值)、Max(最大值)以及Avg(平均值)等等，也可以包括其他运算，例如可以包括斜率或截距等等，本示例对此不做特殊限制；对于分类变量502，采用主键+分类变量形成联合主键，然后对该联合主键进行集合统计函数的运算处理，再将生成的(主键+分类变量维度)结果转换成以主键为单一维度(也就是进行行转列处理)；其中，对分类变量的集合统计函数的运算处理也可以包括：Count(计数)、Sum(求和)、Min(最小值)、Max(最大值)以及Avg(平均值)等等，也可以包括其他运算，例如可以包括斜率或截距等等，本示例对此不做特殊限制；进一步的，在对以上变量处理的过程中，还可以加入时间变量503，通过加入时间变量，可以得到数值型变量以及分类变量的历史变化的趋势；通过对上述数据值变量501、分类变量502以及时间变量503进行处理后可以得到数值类脚本504、分类变量脚本505以及将时间分段看做分类变量，运用分类变量脚本505。

进一步的，对分组结果进行第一运算处理得到多个基础指标之后，还可以提取各所述基础指标的共性。详细而言：

通过对各个指标变量做共性的提取，将常用的运算逻辑(包括但不限于：对近N个月/历史进行求和、计数、最大值、最小值、平均值、斜率、截距以及方差等等)固化成可改变传入参数的脚本形式；进一步的，在处理从原始指标到基础指标过程中，只要知道这个原始指标初始的规划分类，直接选择相应的脚本传入此指标作为参数运算即可。在实际操作过程中，可可以将所有数值型或分类型指标一次性传入脚本，批量生成相应指标加工代码运行。举例而言：

参考图5所示，例如，对于上述用户购物信息来说，可以将一级品类、三级品类、是否是高危品类、虚拟商品or实物规划为分类变量型的指标，将交易金额、商品价格以及商品数量规划成数值变量型的指标，将下单时间规划成时间变量型的指标；进一步的，对于一级品类指标，以PIN+一级品类分组求交易金额的最大值、最小值以及平均值等，其他品类指标同理；再将生成的表进行行转列处理；通过上述方式生成的指标将是品类指标种类的n倍(n取决于对交易金额使用的聚合函数的种类)；对于数值型的指标如交易金额，直接以PIN为主键，对其进行必要的聚合函数处理即可。在以上两种方式中，加入时间变量性的指标(下单时间)对聚合函数在时间上的约束，就可以得到不同的时间段内的相关信息了。

进一步的，参考图6所示，生成的固化脚本代码可以如图6所示，然后将图6中所示的代码封装在Shell脚本的Test.sh中，执行的方法可以包括：sh test.sh create_tabledate key class from_table***；其中，create_table可以表示创建新表；date可以表示日期变量；key可以表示主键；class可以表示分类变量；from_table可以表示抽取数据的表；***可以表示任意的数值字段。

在步骤S230中，根据各所述基础指标的共性将各所述基础指标分为多个指标类，并对各所述指标类进行第二运算处理得到多个衍生指标。其中，将各基础指标分为多个指标类并对各指标类进行第二运算处理可以包括步骤S2302以及步骤S2304。其中：

在步骤S2302中，根据各所述基础指标的共性将各所述基础指标分为单变量指标类以及多变量指标类。详细而言：

在基础指标的基础上，根据各基础指标的共性将各基础指标分为单变量指标类以及多变量指标类。其中，单变量指标类可以包括将交易金额、商品价格以及商品数量等等；多变量指标类可以包括一级品类、三级品类、是否是高危品类、虚拟商品or实物等等；也可以包括其他品类，本示例对此不做特殊限制。

在步骤S2304中，对所述单变量指标类以及多变量指标类进行第二运算处理得到多个衍生指标。

首先，对上述第二运算处理进行解释以及说明。第二运算处理可以包括单一运算处理以及多运算处理；其中，单一运算处理可以包括对数、开方、平方以及倒数等等，也可以包括其他运算方法，例如可以为截距或方差等等，本示例对此不做特殊限制；多运算处理可以包括加减乘除运算等等，也可以包括其他运算方法，例如可以为三角函数等等，本示例对此不做特殊限制。

其次，基于上述第二运算处理对上述步骤S2304进行解释以及说明。参考图7所示，以主键为维度，可以将单变量指标以及多变量指标分别进行对数、开放、平方、倒数等单一的运算处理，也可以进行任意两个指标的互相加减乘除运算，本示例对此不做特殊限制。进一步的，该步骤也要将有共性的运算写成脚本并固化，以传参数方式进行运算处理。例如，通过三级品类的基础指标303除以一级品类的基础指标，可以得到每个用户的某三级品类购买(金额/数量)占隶属一级品类总购买(金额/数量)占比(占比脚本703)，反映出用户的生活细节；通过近一年某一级品类消费(金额/数量)拟合方差的处理(方差脚本702)，可以得到消费者的意愿波动；也可以通过其他的处理方法得到其他XX脚本701，以反映消费者其他方面的生活细节，本示例对此不做特殊限制；最后，再对各脚本进行处理得到衍生指标704。

在步骤S240中，将各所述原始指标、基础指标以及衍生指标进行汇总得到所述通用特征库。详细而言：

参考图3所示，将上述各原始指标302、基础指标303以及衍生指标304进行汇总，然后得到通用特征库305；进一步的，将构建出的通用特征库305进行整理，明确各指标特征的含义并统一命名；当需要调用该通用特征库中的各指标时，可以根据业务需求直接从特征库中筛选特征进行数据处理和建模，服务于特征库相应的业务范围，例如风险模型，信用模型，推荐模型等。进一步的，参考图8所示，该通用特征库802可以方便不同业务需求803、不同种类模型从该特征库802中抽取特征数据进行建模(参考图中804所示)，然后再应用到不同的业务场景应用805中，大幅缩短了模型开发中指标加工过程耗时，同时让模型有更多维度和更多数量的指标可供选择；进一步的，通过在海量数据源301中利用批量生成指标工具平台801构建大型特征库，从而使开发出的数据模型更加的全面和准确。此外，不同的模型基于同样的通用的特征库，也可以为模型的进一步融合铺平了道路。

本公开还提供了一种通用特征库生成装置。参考图9所示，该通用特征库生成装置可以包括转换清洗模块910、第一处理模块920、第二处理模块930以及汇总模块940。其中：

转换清洗模块910可以用于获取多个数据源并对各所述数据源进行预处理得到多个原始指标。

第一处理模块920可以用于根据各所述原始指标的变量对各所述原始指标进行分组并对分组结果进行第一运算处理得到多个基础指标。

第二处理模块930可以用于根据各所述基础指标的共性将各所述基础指标分为多个指标类，并对各所述指标类进行第二运算处理得到多个衍生指标。

汇总模块940可以用于将各所述原始指标、基础指标以及衍生指标进行汇总得到所述通用特征库。

上述通用特征库生成装置中各模块的具体细节已经在对应的通用特征库生成方法中进行了详细想描述，因此此处不再赘述。

应当注意，尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元，但是这种划分并非强制性的。实际上，根据本公开的实施方式，上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之，上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。

此外，尽管在附图中以特定顺序描述了本公开中方法的各个步骤，但是，这并非要求或者暗示必须按照该特定顺序来执行这些步骤，或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的，可以省略某些步骤，将多个步骤合并为一个步骤执行，以及/或者将一个步骤分解为多个步骤执行等。

通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本公开实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、移动终端、或者网络设备等)执行根据本公开实施方式的方法。

在本公开的示例性实施例中，还提供了一种能够实现上述方法的电子设备。

所属技术领域的技术人员能够理解，本发明的各个方面可以实现为系统、方法或程序产品。因此，本发明的各个方面可以具体实现为以下形式，即：完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等)，或硬件和软件方面结合的实施方式，这里可以统称为“电路”、“模块”或“系统”。

下面参照图10来描述根据本发明的这种实施方式的电子设备600。图10显示的电子设备600仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。

如图10所示，电子设备600以通用计算设备的形式表现。电子设备600的组件可以包括但不限于：上述至少一个处理单元610、上述至少一个存储单元620、连接不同系统组件(包括存储单元620和处理单元610)的总线630。

其中，所述存储单元存储有程序代码，所述程序代码可以被所述处理单元610执行，使得所述处理单元610执行本说明书上述“示例性方法”部分中描述的根据本发明各种示例性实施方式的步骤。例如，所述处理单元610可以执行如图2中所示的步骤S210：获取多个数据源并对各所述数据源进行预处理得到多个原始指标；S220：根据各所述原始指标的变量对各所述原始指标进行分组并对分组结果进行第一运算处理得到多个基础指标；步骤S230：根据各所述基础指标的共性将各所述基础指标分为多个指标类，并对各所述指标类进行第二运算处理得到多个衍生指标；步骤S240：将各所述原始指标、基础指标以及衍生指标进行汇总得到所述通用特征库。

存储单元620可以包括易失性存储单元形式的可读介质，例如随机存取存储单元(RAM)6201和/或高速缓存存储单元6202，还可以进一步包括只读存储单元(ROM)6203。

存储单元620还可以包括具有一组(至少一个)程序模块6205的程序/实用工具6204，这样的程序模块6205包括但不限于：操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。

总线630可以为表示几类总线结构中的一种或多种，包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。

电子设备600也可以与一个或多个外部设备700(例如键盘、指向设备、蓝牙设备等)通信，还可与一个或者多个使得用户能与该电子设备600交互的设备通信，和/或与使得该电子设备600能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口650进行。并且，电子设备600还可以通过网络适配器660与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。如图所示，网络适配器660通过总线630与电子设备600的其它模块通信。应当明白，尽管图中未示出，可以结合电子设备600使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。

通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本公开实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、终端装置、或者网络设备等)执行根据本公开实施方式的方法。

在本公开的示例性实施例中，还提供了一种计算机可读存储介质，其上存储有能够实现本说明书上述方法的程序产品。在一些可能的实施方式中，本发明的各个方面还可以实现为一种程序产品的形式，其包括程序代码，当所述程序产品在终端设备上运行时，所述程序代码用于使所述终端设备执行本说明书上述“示例性方法”部分中描述的根据本发明各种示例性实施方式的步骤。

参考图11所示，描述了根据本发明的实施方式的用于实现上述方法的程序产品800，其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码，并可以在终端设备，例如个人电脑上运行。然而，本发明的程序产品不限于此，在本文件中，可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

所述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。

可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、RF等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。

此外，上述附图仅是根据本发明示例性实施例的方法所包括的处理的示意性说明，而不是限制目的。易于理解，上述附图所示的处理并不表明或限制这些处理的时间顺序。另外，也易于理解，这些处理可以是例如在多个模块中同步或异步执行的。

本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本公开的其他实施例。本申请旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本公开的真正范围和精神由权利要求指出。

Claims (12)

1.一种通用特征库生成方法，其特征在于，包括：

获取多个数据源并对各所述数据源进行预处理得到多个原始指标；

根据各所述原始指标的变量对各所述原始指标进行分组并对分组结果进行第一运算处理得到多个基础指标；

根据各所述基础指标的共性将各所述基础指标分为多个指标类，并对各所述指标类进行第二运算处理得到多个衍生指标；

将各所述原始指标、基础指标以及衍生指标进行汇总得到所述通用特征库。

2.根据权利要求1所述的通用特征库生成方法，其特征在于，获取多个数据源并对各所述数据源进行预处理得到多个原始指标包括：

根据所述通用特征库的待服务范围从多个数据系统中获取与所述待服务范围关联的多个数据源；

对获取到的各所述数据源进行抽取、加载、转换以及清洗得到多个所述原始指标。

3.根据权利要求2所述的通用特征库生成方法，其特征在于，对获取到的各所述数据源进行抽取包括：

根据预设抽取方式对获取到的各所述数据源进行抽取；

其中，所述预设抽取方式包括实时抽取以及历史抽取中的一种。

4.根据权利要求1所述的通用特征库生成方法，其特征在于，根据各所述原始指标的变量对各所述原始指标进行分组包括：

根据各所述原始指标的变量将各所述原始指标分为数值变量、分类变量以及时间变量中的多种。

5.根据权利要求4所述的通用特征库生成方法，其特征在于，对分组结果进行第一运算处理得到多个基础指标包括：

根据所述数值变量以及分类变量的主键维度对所述数值变量以及分类变量进行第一运算处理得到多个基础指标。

6.根据权利要求5所述的通用特征库生成方法，其特征在于，所述第一运算处理包括计数、求和、最小值、最大值以及平均值中的多种。

7.根据权利要求5所述的通用特征库生成方法，其特征在于，对分组结果进行第一运算处理得到多个基础指标之后，所述通用特征库生成方法还包括：

提取各所述基础指标的共性。

8.根据权利要求1所述的通用特征库生成方法，其特征在于，根据各所述基础指标的共性将各所述基础指标分为多个指标类，并对各所述指标类进行第二运算处理得到多个衍生指标包括：

根据各所述基础指标的共性将各所述基础指标分为单变量指标类以及多变量指标类；

对所述单变量指标类以及多变量指标类进行第二运算处理得到多个衍生指标。

9.根据权利要求8所述的通用特征库生成方法，其特征在于，所述第二运算处理包括单一运算处理以及多运算处理；

其中，所述单一运算处理包括对数、开方、平方以及倒数中的一种或多种；

所述多运算处理包括加减乘除运算中的一种或多种。

10.一种通用特征库生成装置，其特征在于，包括：

转换清洗模块，用于获取多个数据源并对各所述数据源进行预处理得到多个原始指标；

第一处理模块，用于根据各所述原始指标的变量对各所述原始指标进行分组并对分组结果进行第一运算处理得到多个基础指标；

第二处理模块，用于根据各所述基础指标的共性将各所述基础指标分为多个指标类，并对各所述指标类进行第二运算处理得到多个衍生指标；

汇总模块，用于将各所述原始指标、基础指标以及衍生指标进行汇总得到所述通用特征库。

11.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1-9任一项所述的通用特征库生成方法。

12.一种电子设备，其特征在于，包括：

处理器；以及

存储器，用于存储所述处理器的可执行指令；

其中，所述处理器配置为经由执行所述可执行指令来执行权利要求1-9任一项所述的通用特征库生成方法。