CN113590677A - 一种数据处理方法、装置和电子设备 - Google Patents

一种数据处理方法、装置和电子设备 Download PDF

Info

Publication number
CN113590677A
CN113590677A CN202110796103.3A CN202110796103A CN113590677A CN 113590677 A CN113590677 A CN 113590677A CN 202110796103 A CN202110796103 A CN 202110796103A CN 113590677 A CN113590677 A CN 113590677A
Authority
CN
China
Prior art keywords
machine learning
classification model
learning classification
classified
cross entropy
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110796103.3A
Other languages
English (en)
Inventor
王天圣
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai Qiyue Information Technology Co Ltd
Original Assignee
Shanghai Qiyue Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai Qiyue Information Technology Co Ltd filed Critical Shanghai Qiyue Information Technology Co Ltd
Priority to CN202110796103.3A priority Critical patent/CN113590677A/zh
Publication of CN113590677A publication Critical patent/CN113590677A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24—Querying
    • G06F16/245—Query processing
    • G06F16/2458—Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
    • G06F16/2465—Query processing support for facilitating data mining operations in structured databases
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/28—Databases characterised by their database models, e.g. relational or object models
    • G06F16/284—Relational databases
    • G06F16/285—Clustering or classification
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/22—Matching criteria, e.g. proximity measures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning

Abstract

本说明书实施例提供一种数据处理方法，构造具有平衡参数的交叉熵函数，所述交叉熵函数为损失函数构造机器学习分类模型框架，获取训练样本，在利用所述训练样本对所述机器学习分类模型框架进行训练时，对交叉熵函数中的平衡参数进行训练，得到调平衡后的机器学习分类模型，利用调平衡后的机器学习分类模型对待分类对象进行类别预测，交叉熵函数为损失函数构造机器学习分类模型框架，对交叉熵函数中的平衡参数进行训练，能够得到调平衡后的模型，解决训练样本不平衡的问题，提高了预测准确率。

Description

一种数据处理方法、装置和电子设备
技术领域
本申请涉及计算机领域，尤其涉及一种数据处理方法、装置和电子设备。
背景技术
狭义上的数据治理是指对数据质量的管理。广义上的数据治理是对数据的全生命周期进行管理，包含数据采集、清洗、转换等传统数据集成和存储环节的工作，同时还包含数据资产目录、数据标准、质量、安全、数据开发、数据价值、数据服务与应用等，整个数据生命期而开展的业务、技术和管理活动都属于数据治理范畴。
数据治理专注于将数据作为企事业单位数据资产进行应用和管理的一套管理机制，能够消除数据的不一致性，建立规范的数据应用标准，提高数据质量，实现数据内外部共享，并能够将数据作为组织的宝贵资产应用于业务、管理、战略决策中，发挥数据资产价值。
目前，数据治理的处理方式中，常常需要结合数据进行预测，然而，实际应用时往往由于所获取样本不理想，存在数据不平衡的现象，降低了预测准确率。
因此，有必要提供一种新的数据处理方法。
发明内容
本说明书实施例提供一种数据处理方法、装置和电子设备，用以提高预测准确率。
本说明书实施例提供一种数据处理方法，包括：
构造具有平衡参数的交叉熵函数，所述交叉熵函数为损失函数构造机器学习分类模型框架；
获取训练样本，在利用所述训练样本对所述机器学习分类模型框架进行训练时，对交叉熵函数中的平衡参数进行训练，得到调平衡后的机器学习分类模型；
利用调平衡后的机器学习分类模型对待分类对象进行类别预测。
可选地，所述平衡参数包括：区分度平衡参数和正负样本体量平衡参数。
可选地，所述利用调平衡后的机器学习分类模型对待分类对象进行类别预测，包括：
利用调平衡后的机器学习分类模型，结合待分类对象的第一属性信息对所述待分类对象的第二属性类别进行预测。
可选地，还包括：
对待分类对象的缺失特征进行填充。
可选地，还包括：
识别待分类对象特征中的异常值。
可选地，所述利用调平衡后的机器学习分类模型对待分类对象进行类别预测，包括：
选取多个相似程度满足临近条件的多个对象，利用调平衡后的机器学习分类模型对所述多个对象进行类别预测，根据多个预测结果确定所述待分类对象的类别。
可选地，所述对象为资信业务中的用户。
可选地，还包括：对所述机器学习分类模型进行修正。
本说明书实施例还提供一种数据处理装置，包括：
交叉熵模块，用于构造具有平衡参数的交叉熵函数，所述交叉熵函数为损失函数构造机器学习分类模型框架；
训练模块，用于获取训练样本，在利用所述训练样本对所述机器学习分类模型框架进行训练时，对交叉熵函数中的平衡参数进行训练，得到调平衡后的机器学习分类模型；
预测模块，用于利用调平衡后的机器学习分类模型对待分类对象进行类别预测。
可选地，所述平衡参数包括：区分度平衡参数和正负样本体量平衡参数。
可选地，所述利用调平衡后的机器学习分类模型对待分类对象进行类别预测，包括：
利用调平衡后的机器学习分类模型，结合待分类对象的第一属性信息对所述待分类对象的第二属性类别进行预测。
可选地，还包括：
对待分类对象的缺失特征进行填充。
可选地，还包括：
识别待分类对象特征中的异常值。
可选地，所述利用调平衡后的机器学习分类模型对待分类对象进行类别预测，包括：
选取多个相似程度满足临近条件的多个对象，利用调平衡后的机器学习分类模型对所述多个对象进行类别预测，根据多个预测结果确定所述待分类对象的类别。
可选地，所述对象为资信业务中的用户。
可选地，还包括：对所述机器学习分类模型进行修正。
本说明书实施例还提供一种电子设备，其中，该电子设备包括：
处理器；以及，
存储计算机可执行指令的存储器，所述可执行指令在被执行时使所述处理器执行上述任一项方法。
本说明书实施例还提供一种计算机可读存储介质，其中，所述计算机可读存储介质存储一个或多个程序，所述一个或多个程序当被处理器执行时，实现上述任一项方法。
本说明书实施例提供的各种技术方案通过构造具有平衡参数的交叉熵函数，所述交叉熵函数为损失函数构造机器学习分类模型框架，获取训练样本，在利用所述训练样本对所述机器学习分类模型框架进行训练时，对交叉熵函数中的平衡参数进行训练，得到调平衡后的机器学习分类模型，利用调平衡后的机器学习分类模型对待分类对象进行类别预测，交叉熵函数为损失函数构造机器学习分类模型框架，对交叉熵函数中的平衡参数进行训练，能够得到调平衡后的模型，解决训练样本不平衡的问题，提高了预测准确率。
附图说明
此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：
图1为本说明书实施例提供的一种数据处理方法的原理示意图；
图2为本说明书实施例提供的一种数据处理装置的结构示意图；
图3为本说明书实施例提供的一种电子设备的结构示意图；
图4为本说明书实施例提供的一种计算机可读介质的原理示意图。
具体实施方式
现在将参考附图更全面地描述本发明的示例性实施例。然而，示例性实施例能够以多种形式实施，且不应被理解为本发明仅限于在此阐述的实施例。相反，提供这些示例性实施例能够使得本发明更加全面和完整，更加便于将发明构思全面地传达给本领域的技术人员。在图中相同的附图标记表示相同或类似的元件、组件或部分，因而将省略对它们的重复描述。
在符合本发明的技术构思的前提下，在某个特定的实施例中描述的特征、结构、特性或其他细节不排除可以以合适的方式结合在一个或更多其他的实施例中。
在对于具体实施例的描述中，本发明描述的特征、结构、特性或其他细节是为了使本领域的技术人员对实施例进行充分理解。但是，并不排除本领域技术人员可以实践本发明的技术方案而没有特定特征、结构、特性或其他细节的一个或更多。
附图中所示的流程图仅是示例性说明，不是必须包括所有的内容和操作/步骤，也不是必须按所描述的顺序执行。例如，有的操作/步骤还可以分解，而有的操作/步骤可以合并或部分合并，因此实际执行的顺序有可能根据实际情况改变。
附图中所示的方框图仅仅是功能实体，不一定必须与物理上独立的实体相对应。即，可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
术语“和/或”或者“及/或”包括相关联的列出项目中的任一个或多者的所有组合。
图1为本说明书实施例提供的一种数据处理方法的原理示意图，该方法可以包括：
S101：构造具有平衡参数的交叉熵函数，所述交叉熵函数为损失函数构造机器学习分类模型框架。
考虑到一种场景，例如现在的数据中，对象a缺失了年龄特征，但通过知识图谱，可知与对象a密切连接一度关系的三人年龄分别是26,30,31，那我们就不需要使用整个样本的值去做预处理，而可以通过知识图谱得到一度(一维)关系，针对26,30,31三个样本值，预测对象a缺失的年龄特征。
甚至在做标签挖掘的情景，我们不仅仅可以得到一度关系，甚至三度关系，预测缺失的标签，我们还可以根据图谱连接得到这个人是否恶意逾期等类似标签，挖掘新的信息。
S102：获取训练样本，在利用所述训练样本对所述机器学习分类模型框架进行训练时，对交叉熵函数中的平衡参数进行训练，得到调平衡后的机器学习分类模型。
在本说明书实施例中，所述平衡参数包括：区分度平衡参数和正负样本体量平衡参数。
在利用相关联的对象在进行预测时，目前业内较常用的是近邻算法，但是这种算法无法处理样本不平衡问题，在样本不平衡的时候，对稀有类别的预测准确率低，如，一个类的样本容量(也可以理解为体量)很大，而其他类样本容量很小时，有可能导致当输入一个新样本时，该样本的K个邻居中大容量类的样本占多数。
为此，我们利用交叉熵来提高模型的平衡水平。
可以将交叉熵记作CE。
在一种实施例中，
Figure BDA0003162807830000061
为了解决正负样本不平衡问题，我们可以增加正负样本体量平衡参数，这时，
Figure BDA0003162807830000062
考虑到在实际工程落地项目中，易分样本是占大多数，难分样本较少，因此，我们还可以增加区分度平衡参数，来平衡易区分样本和难区分样本，这种交叉熵记作FL。
在一种实施例中，
Figure BDA0003162807830000063
通过调平衡，可以使模型预测时的关注对象的排序为正难>负难>正易>负易。
S103：利用调平衡后的机器学习分类模型对待分类对象进行类别预测。
该方法构造具有平衡参数的交叉熵函数，所述交叉熵函数为损失函数构造机器学习分类模型框架，获取训练样本，在利用所述训练样本对所述机器学习分类模型框架进行训练时，对交叉熵函数中的平衡参数进行训练，得到调平衡后的机器学习分类模型，利用调平衡后的机器学习分类模型对待分类对象进行类别预测，交叉熵函数为损失函数构造机器学习分类模型框架，对交叉熵函数中的平衡参数进行训练，能够得到调平衡后的模型，解决训练样本不平衡的问题，提高了预测准确率。
在本说明书实施例中，所述对象为资信业务中的用户。
对数据的处理还可以包括对缺失值、异常值和不一致值的处理。
在本说明书实施例中，还包括：
对待分类对象的缺失特征进行填充。
可以包括以下处理方式：删除包含空值的记录，这种方式主要是针对包含空值的数据占总体比例较低，对象有多个属性缺失值，删除这些数据对于数据整体影响不大；统计补齐,通过统计学原理，根据数据集中记录的取值分布情况来对一个空值进行自动填充，可以用均值，众数，最大值，最小值等基于统计学的客观知识来填充字段；算法补齐：利用K最近邻法、回归、期望值最大化计算空值进行自动填充；还可以在模型端手动进行补全。
在本说明书实施例中，还包括：
识别待分类对象特征中的异常值。
异常值是指样本中的个别值，其数据明显偏离其余的观测值。异常值也称为离群点，异常值的分析也称为离群点分析。
具体的，可以通过以下方式来识别异常值：可以先对变量做一个描述性统计，进而查看哪些数据是不合理的。最常用的统计量是最大值和最小值，用来判断这个变量的取值是否超出了合理的范围。如客户年龄的最大值为199岁，则该变量的取值存在异常；如果数据服从正态分布，可以将异常值定义为一组测定值中与平均值的偏差超过3倍标准差的值。还可以通过上四分位数与下四分位数之间的区间识别异常值。
在识别到异常值后，可以进行删除、也可以按照缺失值进行处理。
不一致数据的产生主要发生在数据集成过程中，这可能是由于从不同的数据源、对于重新存放的数据未能进行一致性造成的。例如，地推系统中同一个地推人员的离职时间不一致，我们可以对其进行去重清洗。
在本说明书实施例中，还包括：对所述机器学习分类模型进行修正。
在本说明书实施例中，所述利用调平衡后的机器学习分类模型对待分类对象进行类别预测，包括：
利用调平衡后的机器学习分类模型，结合待分类对象的第一属性信息对所述待分类对象的第二属性类别进行预测。
在本说明书实施例中，所述利用调平衡后的机器学习分类模型对待分类对象进行类别预测，包括：
选取多个相似程度满足近邻条件的多个对象，利用调平衡后的机器学习分类模型对所述多个对象进行类别预测，根据多个预测结果确定所述待分类对象的类别。
近邻算法是一种回归分类的方法，在预测时，计算测试样本和所有训练样本的距离，根据最近的K个训练样本的类别，通过多数投票的方式进行预测。
近邻算法模型的三要素：距离度量，k的大小和分类规则。当训练数据集和三要素确定后，相当于将特征空间划分成一些子空间，对于每个训练实例，距离该点比距离其它点更近的所有点组成了一个区域，每个区域的类别由决策规则确定且唯一，从而将整个区域划分。对于任何一个测试点，找到其所属的子空间，其类别即为该子空间的类别。
可选地，可以采用交叉验证的方法来选取合适的k值。
在实施时，先用近邻树存储训练数据集，建好了近邻算法模型后再对测试集做预测，可以减少计算距离的次数。
构造近邻树的步骤可以包括：
提取特征点数据，展开平衡二叉树，选择最大方差维数Ki，选择阈值，，分割数据，将小于该阈值的数据存储于左侧子树，将大于该阈值的数据存储于右侧子树，分别展开左右子树。
在搜索时，利用构建的紧邻树进行搜索，可以提高搜索效率。
图2为本说明书实施例提供的一种数据处理装置的结构示意图，该装置可以包括：
交叉熵模块201，用于构造具有平衡参数的交叉熵函数，所述交叉熵函数为损失函数构造机器学习分类模型框架；
训练模块202，用于获取训练样本，在利用所述训练样本对所述机器学习分类模型框架进行训练时，对交叉熵函数中的平衡参数进行训练，得到调平衡后的机器学习分类模型；
预测模块203，用于利用调平衡后的机器学习分类模型对待分类对象进行类别预测。
在本说明书实施例中，所述平衡参数包括：区分度平衡参数和正负样本体量平衡参数。
在本说明书实施例中，所述利用调平衡后的机器学习分类模型对待分类对象进行类别预测，包括：
利用调平衡后的机器学习分类模型，结合待分类对象的第一属性信息对所述待分类对象的第二属性类别进行预测。
在本说明书实施例中，还包括：
对待分类对象的缺失特征进行填充。
在本说明书实施例中，还包括：
识别待分类对象特征中的异常值。
在本说明书实施例中，所述利用调平衡后的机器学习分类模型对待分类对象进行类别预测，包括：
选取多个相似程度满足临近条件的多个对象，利用调平衡后的机器学习分类模型对所述多个对象进行类别预测，根据多个预测结果确定所述待分类对象的类别。
在本说明书实施例中，所述对象为资信业务中的用户。
在本说明书实施例中，还包括：对所述机器学习分类模型进行修正。
该装置构造具有平衡参数的交叉熵函数，所述交叉熵函数为损失函数构造机器学习分类模型框架，获取训练样本，在利用所述训练样本对所述机器学习分类模型框架进行训练时，对交叉熵函数中的平衡参数进行训练，得到调平衡后的机器学习分类模型，利用调平衡后的机器学习分类模型对待分类对象进行类别预测，交叉熵函数为损失函数构造机器学习分类模型框架，对交叉熵函数中的平衡参数进行训练，能够得到调平衡后的模型，解决训练样本不平衡的问题，提高了预测准确率。
基于同一发明构思，本说明书实施例还提供一种电子设备。
下面描述本发明的电子设备实施例，该电子设备可以视为对于上述本发明的方法和装置实施例的具体实体实施方式。对于本发明电子设备实施例中描述的细节，应视为对于上述方法或装置实施例的补充；对于在本发明电子设备实施例中未披露的细节，可以参照上述方法或装置实施例来实现。
图3为本说明书实施例提供的一种电子设备的结构示意图。下面参照图3来描述根据本发明该实施例的电子设备300。图3显示的电子设备300仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。
如图3所示，电子设备300以通用计算设备的形式表现。电子设备300的组件可以包括但不限于：至少一个处理单元310、至少一个存储单元320、连接不同系统组件(包括存储单元320和处理单元310)的总线330、显示单元340等。
其中，所述存储单元存储有程序代码，所述程序代码可以被所述处理单元310执行，使得所述处理单元310执行本说明书上述处理方法部分中描述的根据本发明各种示例性实施方式的步骤。例如，所述处理单元310可以执行如图1所示的步骤。
所述存储单元320可以包括易失性存储单元形式的可读介质，例如随机存取存储单元(RAM)3201和/或高速缓存存储单元3202，还可以进一步包括只读存储单元(ROM)3203。
所述存储单元320还可以包括具有一组(至少一个)程序模块3205的程序/实用工具3204，这样的程序模块3205包括但不限于：操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线330可以为表示几类总线结构中的一种或多种，包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备300也可以与一个或多个外部设备400(例如键盘、指向设备、蓝牙设备等)通信，还可与一个或者多个使得用户能与该电子设备300交互的设备通信，和/或与使得该电子设备300能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口350进行。并且，电子设备300还可以通过网络适配器360与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。网络适配器360可以通过总线330与电子设备300的其它模块通信。应当明白，尽管图3中未示出，可以结合电子设备300使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
通过以上的实施方式的描述，本领域的技术人员易于理解，本发明描述的示例性实施例可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本发明实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个计算机可读的存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、或者网络设备等)执行根据本发明的上述方法。当所述计算机程序被一个数据处理设备执行时，使得该计算机可读介质能够实现本发明的上述方法，即：如图1所示的方法。
图4为本说明书实施例提供的一种计算机可读介质的原理示意图。
实现图1所示方法的计算机程序可以存储于一个或多个计算机可读介质上。计算机可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
所述计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、RF等等，或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码，所述程序设计语言包括面向对象的程序设计语言-诸如Java、C++等，还包括常规的过程式程序设计语言-诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
综上所述，本发明可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器(DSP)等通用数据处理设备来实现根据本发明实施例中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如，计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。
以上所述的具体实施例，对本发明的目的、技术方案和有益效果进行了进一步详细说明，应理解的是，本发明不与任何特定计算机、虚拟装置或者电子设备固有相关，各种通用装置也可以实现本发明。以上所述仅为本发明的具体实施例而已，并不用于限制本发明，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。
本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。
以上所述仅为本申请的实施例而已，并不用于限制本申请。对于本领域技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本申请的权利要求范围之内。

Claims (11)

1.一种数据处理方法，其特征在于，包括：
构造具有平衡参数的交叉熵函数，所述交叉熵函数为损失函数构造机器学习分类模型框架；
获取训练样本，在利用所述训练样本对所述机器学习分类模型框架进行训练时，对交叉熵函数中的平衡参数进行训练，得到调平衡后的机器学习分类模型；
利用调平衡后的机器学习分类模型对待分类对象进行类别预测。
2.根据权利要求1所述的方法，其特征在于，所述平衡参数包括：区分度平衡参数和正负样本体量平衡参数。
3.根据权利要求1-2中任一项所述的方法，其特征在于，所述利用调平衡后的机器学习分类模型对待分类对象进行类别预测，包括：
利用调平衡后的机器学习分类模型，结合待分类对象的第一属性信息对所述待分类对象的第二属性类别进行预测。
4.根据权利要求1-3中任一项所述的方法，其特征在于，还包括：
对待分类对象的缺失特征进行填充。
5.根据权利要求1-4中任一项所述的方法，其特征在于，还包括：
识别待分类对象特征中的异常值。
6.根据权利要求1-5中任一项所述的方法，其特征在于，所述利用调平衡后的机器学习分类模型对待分类对象进行类别预测，包括：
选取多个相似程度满足临近条件的多个对象，利用调平衡后的机器学习分类模型对所述多个对象进行类别预测，根据多个预测结果确定所述待分类对象的类别。
7.根据权利要求1-6中任一项所述的方法，其特征在于，所述对象为资信业务中的用户。
8.根据权利要求1-7中任一项所述的方法，其特征在于，还包括：对所述机器学习分类模型进行修正。
9.一种数据处理装置，其特征在于，包括：
交叉熵模块，用于构造具有平衡参数的交叉熵函数，所述交叉熵函数为损失函数构造机器学习分类模型框架；
训练模块，用于获取训练样本，在利用所述训练样本对所述机器学习分类模型框架进行训练时，对交叉熵函数中的平衡参数进行训练，得到调平衡后的机器学习分类模型；
预测模块，用于利用调平衡后的机器学习分类模型对待分类对象进行类别预测。
10.一种电子设备，其中，该电子设备包括：
处理器；以及，
存储计算机可执行指令的存储器，所述可执行指令在被执行时使所述处理器执行根据权利要求1-8中任一项所述的方法。
11.一种计算机可读存储介质，其中，所述计算机可读存储介质存储一个或多个程序，所述一个或多个程序当被处理器执行时，实现权利要求1-8中任一项所述的方法。
CN202110796103.3A 2021-07-14 2021-07-14 一种数据处理方法、装置和电子设备 Pending CN113590677A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110796103.3A CN113590677A (zh) 2021-07-14 2021-07-14 一种数据处理方法、装置和电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110796103.3A CN113590677A (zh) 2021-07-14 2021-07-14 一种数据处理方法、装置和电子设备

Publications (1)

Publication Number Publication Date
CN113590677A true CN113590677A (zh) 2021-11-02

Family

ID=78247357

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110796103.3A Pending CN113590677A (zh) 2021-07-14 2021-07-14 一种数据处理方法、装置和电子设备

Country Status (1)

Country Link
CN (1) CN113590677A (zh)

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180268292A1 (en) * 2017-03-17 2018-09-20 Nec Laboratories America, Inc. Learning efficient object detection models with knowledge distillation
CN108764319A (zh) * 2018-05-21 2018-11-06 北京京东尚科信息技术有限公司 一种样本分类方法和装置
CN110196908A (zh) * 2019-04-17 2019-09-03 深圳壹账通智能科技有限公司 数据分类方法、装置、计算机装置及存储介质
CN110490239A (zh) * 2019-08-06 2019-11-22 腾讯医疗健康(深圳)有限公司 图像质控网络的训练方法、质量分类方法、装置及设备
CN110795564A (zh) * 2019-11-01 2020-02-14 南京稷图数据科技有限公司 一种缺少负例的文本分类方法
CN111126776A (zh) * 2019-11-26 2020-05-08 国网浙江省电力有限公司 一种基于逻辑回归算法的电费风险防控模型构建方法
CN111582651A (zh) * 2020-04-09 2020-08-25 上海淇毓信息科技有限公司 用户风险分析模型训练方法、装置及电子设备
CN111831956A (zh) * 2020-06-16 2020-10-27 五邑大学 高自由度类不平衡性损失函数的调整方法和存储介质

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180268292A1 (en) * 2017-03-17 2018-09-20 Nec Laboratories America, Inc. Learning efficient object detection models with knowledge distillation
CN108764319A (zh) * 2018-05-21 2018-11-06 北京京东尚科信息技术有限公司 一种样本分类方法和装置
CN110196908A (zh) * 2019-04-17 2019-09-03 深圳壹账通智能科技有限公司 数据分类方法、装置、计算机装置及存储介质
CN110490239A (zh) * 2019-08-06 2019-11-22 腾讯医疗健康(深圳)有限公司 图像质控网络的训练方法、质量分类方法、装置及设备
CN110795564A (zh) * 2019-11-01 2020-02-14 南京稷图数据科技有限公司 一种缺少负例的文本分类方法
CN111126776A (zh) * 2019-11-26 2020-05-08 国网浙江省电力有限公司 一种基于逻辑回归算法的电费风险防控模型构建方法
CN111582651A (zh) * 2020-04-09 2020-08-25 上海淇毓信息科技有限公司 用户风险分析模型训练方法、装置及电子设备
CN111831956A (zh) * 2020-06-16 2020-10-27 五邑大学 高自由度类不平衡性损失函数的调整方法和存储介质

Similar Documents

Publication Publication Date Title
US20220092419A1 (en) Systems and methods to use neural networks for model transformations
US11562304B2 (en) Preventative diagnosis prediction and solution determination of future event using internet of things and artificial intelligence
CN110363449B (zh) 一种风险识别方法、装置及系统
US20150371244A1 (en) Forecasting information technology workload demand
US8489441B1 (en) Quality of records containing service data
CN111666304B (zh) 数据处理装置、数据处理方法、存储介质与电子设备
CN111199474B (zh) 一种基于双方网络图数据的风险预测方法、装置和电子设备
US20170109636A1 (en) Crowd-Based Model for Identifying Executions of a Business Process
CN111343161A (zh) 异常信息处理节点分析方法、装置、介质及电子设备
CN110689368B (zh) 一种移动应用内广告点击率预测系统设计方法
US20240061695A1 (en) System and methods for improved adoption of cloud container profiles
CN111222976A (zh) 一种基于双方网络图数据的风险预测方法、装置和电子设备
CN109828750B (zh) 自动配置数据埋点的方法、装置、电子设备及存储介质
US11704186B2 (en) Analysis of deep-level cause of fault of storage management
US11836331B2 (en) Mathematical models of graphical user interfaces
CN111582645B (zh) 基于因子分解机的app风险评估方法、装置和电子设备
CN111191825A (zh) 用户违约预测方法、装置及电子设备
Castaño et al. Exploring the Carbon Footprint of Hugging Face's ML Models: A Repository Mining Study
Liu et al. Extracting, ranking, and evaluating quality features of web services through user review sentiment analysis
US20220222924A1 (en) Scalable pipeline for machine learning-based base-variant grouping
US20230230081A1 (en) Account identification method, apparatus, electronic device and computer readable medium
CN113609008A (zh) 测试结果分析方法、装置和电子设备
CN106447397A (zh) 基于决策树算法的烟草零售户定价方法
CN113590677A (zh) 一种数据处理方法、装置和电子设备
CN114881521A (zh) 业务评估方法、装置、电子设备以及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination