WO2020143304A1 - 损失函数优化方法、装置、计算机设备及存储介质 - Google Patents

损失函数优化方法、装置、计算机设备及存储介质 Download PDF

Info

Publication number
WO2020143304A1
WO2020143304A1 PCT/CN2019/117311 CN2019117311W WO2020143304A1 WO 2020143304 A1 WO2020143304 A1 WO 2020143304A1 CN 2019117311 W CN2019117311 W CN 2019117311W WO 2020143304 A1 WO2020143304 A1 WO 2020143304A1
Authority
WO
WIPO (PCT)
Prior art keywords
sample
value
initial
loss function
samples
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/CN2019/117311
Other languages
English (en)
French (fr)
Inventor
郑立颖
金戈
徐亮
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An Technology Shenzhen Co Ltd
Original Assignee
Ping An Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Technology Shenzhen Co Ltd filed Critical Ping An Technology Shenzhen Co Ltd
Publication of WO2020143304A1 publication Critical patent/WO2020143304A1/zh
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/35—Clustering; Classification
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
    • Y02T10/00—Road transport of goods or passengers
    • Y02T10/10—Internal combustion engine [ICE] based vehicles
    • Y02T10/40—Engine management systems

Definitions

  • class imbalance problems are often encountered in text classification problems. For example, in emotional multi-classification, there are many samples expressing happiness, but there are few samples expressing anger. When using deep learning for classification, there will be fewer class training examples. Fully lead to low accuracy.
  • the embodiments of the present application provide a loss function optimization method, device, computer equipment, and storage medium, which are designed to solve the problem that the samples in text classification in the prior art are prone to category imbalance, and a few categories will appear when using deep learning for classification Insufficient sample training leads to the problem of low accuracy.
  • an embodiment of the present application provides a loss function optimization method, which includes:
  • the initial sample is an initial unbalanced sample, obtain the proportion of positive samples occupied by positive samples and the proportion of negative samples occupied by negative samples in the initial unbalanced samples;
  • an embodiment of the present application provides a loss function optimization device, including:
  • a positive-negative ratio obtaining unit used to obtain a positive sample proportion occupied by a positive sample and a negative sample proportion occupied by a negative sample in the initial unbalanced sample if the initial sample is an initial unbalanced sample;
  • a prediction value obtaining unit configured to obtain a prediction model obtained by training corresponding to the initial imbalance sample, and obtain a prediction value corresponding to each sample in the initial imbalance sample according to the prediction model;
  • the adjustment value obtaining unit is used to obtain the value interval satisfied by the predicted value and the true value of each sample in the initial imbalance sample, according to the value interval satisfied by the predicted value and the true value of each sample and the preset
  • the adjustment value setting strategy to obtain the adjustment value of the loss function corresponding to each of the initial unbalanced samples
  • the loss function acquisition unit is configured to multiply and sum the loss function adjustment value corresponding to each sample in the initial unbalanced sample by the cross entropy of the corresponding sample to obtain a loss function corresponding to the prediction model.
  • an embodiment of the present application further provides a computer device, which includes a memory, a processor, and a computer program stored on the memory and executable on the processor, and the processor executes the computer
  • the program implements the loss function optimization method described in the first aspect above.
  • an embodiment of the present application also provides a computer-readable storage medium, wherein the computer-readable storage medium stores a computer program, and when the computer program is executed by a processor, the processor causes the processor to execute the first On the one hand, the loss function optimization method.
  • FIG. 1 is a schematic diagram of an application scenario of a loss function optimization method provided by an embodiment of this application;
  • FIG. 2 is a schematic flowchart of a loss function optimization method provided by an embodiment of the present application.
  • FIG. 4 is a schematic diagram of another sub-process of a method for optimizing a loss function provided by an embodiment of the present application
  • FIG. 5 is a schematic diagram of another sub-process of a loss function optimization method provided by an embodiment of this application.
  • FIG. 6 is a schematic block diagram of an apparatus for optimizing a loss function provided by an embodiment of the present application.
  • FIG. 7 is a schematic block diagram of a subunit of a loss function optimization apparatus provided by an embodiment of this application.
  • FIG. 8 is a schematic block diagram of another subunit of the apparatus for optimizing a loss function according to an embodiment of the present application.
  • FIG. 9 is a schematic block diagram of another subunit of the apparatus for optimizing a loss function according to an embodiment of the present application.
  • FIG. 10 is a schematic block diagram of a computer device provided by an embodiment of the present application.
  • FIG. 1 is a schematic diagram of an application scenario of a loss function optimization method provided by an embodiment of the present application
  • FIG. 2 is a schematic flowchart of a loss function optimization method provided by an embodiment of the present application.
  • the loss function optimization method is applied to In the server, the method is executed by the application software installed in the server.
  • the method includes steps S110-S140.
  • the initial sample is an initial unbalanced sample, obtain a positive sample ratio occupied by a positive sample and a negative sample ratio occupied by a negative sample in the initial unbalanced sample.
  • the user when the user uploads the initial sample to the server for machine learning, it often encounters the problem of imbalanced sample ratio.
  • the ratio of positive and negative samples is 2:8, and the sample ratio Imbalances are often determined by their own data sources.
  • the actual data obtained is often unbalanced, and the unbalanced sample ratio often brings many problems, such as:
  • Another typical problem is that the accuracy of the model's prediction of samples is high, but the model's generalization ability is poor. The reason is that the model classifies most samples into the category with a larger number of samples.
  • the method before step S110, the method further includes:
  • the initial sample is determined to be an initial unbalanced sample; wherein, the first ratio threshold is 4, and the second ratio threshold is 0.25.
  • the ratio of the number of positive and negative samples is too high or too low, that is, to determine the first number corresponding to the positive sample and the second number corresponding to the negative sample Whether the ratio of numbers exceeds a preset first ratio threshold or falls below a preset second ratio threshold. If the ratio of the number of positive samples and negative samples of the initial sample is too high or too low, it means that the initial sample is an initial unbalanced sample, and the loss function needs to be adjusted, so that the training process pays more attention to a small number of samples.
  • the training model (such as CNN model, DNN model, RNN model, BP neural network model, etc.) is first treated according to the initial imbalance sample ,
  • the CNN model represents the convolutional neural network model
  • the DNN model represents the deep neural network model
  • the RNN model represents the recurrent neural network model
  • the BP neural network model represents the back propagation neural network model. Then input the input value of each sample in the initial unbalanced sample to the prediction model to obtain a prediction value corresponding to each sample in the initial unbalanced sample.
  • the prediction process pays more attention to the error situation of a small number of samples, thereby improving its accuracy.
  • step S120 includes:
  • 70% of the sample data may be randomly obtained from both the positive sample and the negative sample included in the initial unbalanced sample as the training set Input to the model to be trained for training to obtain the prediction model corresponding to the model to be trained.
  • the input value of each sample included in the initial unbalanced sample can be used as the input of the prediction model to perform calculations to obtain the prediction value corresponding to each sample.
  • the method further includes:
  • the sample data of the initial unbalanced sample that is not selected as the training set may also be used as the test set to verify the correctness of the prediction model. If the prediction model passes the verification of the test set (for example, the input value of the sample data of a positive sample in the test set is used as the input of the prediction model to obtain the predicted value corresponding to the sample data, then the predicted value corresponds to the true value of the sample data
  • the gap between the values is within the acceptable range, which means that the prediction model shown does not need to be corrected and is directly applied to the next step.
  • the input value of each sample included in the initial unbalanced sample may be used as the input of the prediction model to obtain a prediction value corresponding to each sample.
  • the cross-entropy loss function of the prediction function is calculated, as follows:
  • y true represents the true value corresponding to each sample
  • y pred represents the predicted value corresponding to each sample.
  • the loss function is used to measure the degree of inconsistency between the predicted value and the real value of the model. It is a non-negative real value function. The smaller the loss function, the better the model robustness.
  • the above-mentioned cross-entropy loss function is directly adopted, the positive sample ratio and the negative sample ratio in the initial unbalanced samples are not fully considered, which may easily lead to poor generalization ability of the prediction model. At this time, an adjustment parameter needs to be set to dynamically adjust the loss function.
  • step S130 includes:
  • the parameter is set to the first adjustment value; wherein, the first judgment condition is that the predicted value is greater than 0.8 and the true value is equal to 1, and the second judgment condition is that the predicted value is less than 0.2 and the true value is equal to -1;
  • the third judgment condition is that the third judgment condition is a supplementary set corresponding to the union of the first judgment condition and the second judgment condition.
  • the network interface 505 is used for network communication, such as the transmission of data information.
  • the network interface 505 is used for network communication, such as the transmission of data information.
  • FIG. 10 is only a block diagram of a part of the structure related to the solution of the present application, and does not constitute a limitation on the computer device 500 to which the solution of the present application is applied.
  • the specific computer device 500 may include more or fewer components than shown in the figures, or combine certain components, or have a different arrangement of components.
  • the storage medium is a physical, non-transitory storage medium, for example, it can be a U disk, a mobile hard disk, a read-only memory (Read-Only Memory, ROM), a magnetic disk, or an optical disk and other various physical storages that can store program codes medium.
  • ROM Read-Only Memory

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本申请公开了损失函数优化方法、装置、计算机设备及存储介质。该方法包括：若初始样本为初始不平衡样本，获取其中正样本比例和负样本比例；获取根据初始不平衡样本对应训练得到的预测模型，根据预测模型得到与每一样本对应的预测值；获取初始不平衡样本中每一样本的预测值和真实值所满足的取值区间，根据每一样本的预测值和真实值所满足的取值区间以及预设的调节值设置策略，得到与初始不平衡样本中每一样本对应的损失函数调节值；将初始不平衡样本中每一样本对应的损失函数调节值乘以对应样本的交叉熵并求和，以得到与预测模型对应的损失函数。

Description

损失函数优化方法、装置、计算机设备及存储介质
本申请要求于2019年1月7日提交中国专利局、申请号为201910012557.X、申请名称为“损失函数优化方法、装置、计算机设备及存储介质”的中国专利申请的优先权，其全部内容通过引用结合在本申请中。
技术领域
本申请涉及机器学习技术领域，尤其涉及一种损失函数优化方法、装置、计算机设备及存储介质。
背景技术
目前，在文本分类问题中经常会碰到类别不平衡问题，例如情感多分类中，表达快乐的样本很多，但是表达愤怒的样本很少，在使用深度学习进行分类时会出现少类样本训练不充分导致准确率不高。
发明内容
本申请实施例提供了一种损失函数优化方法、装置、计算机设备及存储介质，旨在解决现有技术中文本分类中样本易出现类别不平衡，在使用深度学习进行分类时会出现少数类别的样本训练不充分，导致准确率不高的问题。
第一方面，本申请实施例提供了一种损失函数优化方法，其包括：
若初始样本为初始不平衡样本，获取所述初始不平衡样本中正样本所占的正样本比例和负样本所占的负样本比例；
获取根据所述初始不平衡样本对应训练得到的预测模型，根据所述预测模型得到与所述初始不平衡样本中每一样本对应的预测值；
获取所述初始不平衡样本中每一样本的预测值和真实值所满足的取值区间，根据每一样本的预测值和真实值所满足的取值区间以及预设的调节值设置策略，得到与所述初始不平衡样本中每一样本对应的损失函数调节值；以及
将所述初始不平衡样本中每一样本对应的损失函数调节值乘以对应样本的交叉熵并求和，以得到与所述预测模型对应的损失函数。
第二方面，本申请实施例提供了一种损失函数优化装置，其包括：
正负比例获取单元，用于若初始样本为初始不平衡样本，获取所述初始不平衡样本中正样本所占的正样本比例和负样本所占的负样本比例；
预测值获取单元，用于获取根据所述初始不平衡样本对应训练得到的预测模型，根据所述预测模型得到与所述初始不平衡样本中每一样本对应的预测值；
调节值获取单元，用于获取所述初始不平衡样本中每一样本的预测值和真实值所满足的取值区间，根据每一样本的预测值和真实值所满足的取值区间以及预设的调节值设置策略，得到与所述初始不平衡样本中每一样本对应的损失函数调节值；以及
损失函数获取单元，用于将所述初始不平衡样本中每一样本对应的损失函数调节值乘以对应样本的交叉熵并求和，以得到与所述预测模型对应的损失函数。
第三方面，本申请实施例又提供了一种计算机设备，其包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现上述第一方面所述的损失函数优化方法。
第四方面，本申请实施例还提供了一种计算机可读存储介质，其中所述计算机可读存储介质存储有计算机程序，所述计算机程序当被处理器执行时使所述处理器执行上述第一方面所述的损失函数优化方法。
附图说明
为了更清楚地说明本申请实施例技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本申请实施例提供的损失函数优化方法的应用场景示意图；
图2为本申请实施例提供的损失函数优化方法的流程示意图；
图3为本申请实施例提供的损失函数优化方法的子流程示意图；
图4为本申请实施例提供的损失函数优化方法的另一子流程示意图；
图5为本申请实施例提供的损失函数优化方法的另一子流程示意图；
图6为本申请实施例提供的损失函数优化装置的示意性框图；
图7为本申请实施例提供的损失函数优化装置的子单元示意性框图；
图8为本申请实施例提供的损失函数优化装置的另一子单元示意性框图；
图9为本申请实施例提供的损失函数优化装置的另一子单元示意性框图；
图10为本申请实施例提供的计算机设备的示意性框图。
具体实施方式
下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
应当理解，当在本说明书和所附权利要求书中使用时，术语“包括”和“包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解，在此本申请说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本申请。如在本申请说明书和所附权利要求书中所使用的那样，除非上下文清楚地指明其它情况，否则单数形式的“一”、“一个”及“该”意在包括复数形式。
还应当进一步理解，在本申请说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。
请参阅图1和图2，图1是本申请实施例提供的损失函数优化方法的应用场景示意图，图2是本申请实施例提供的损失函数优化方法的流程示意图，该损失函数优化方法应用于服务器中，该方法通过安装于服务器中的应用软件进行执行。
如图2所示，该方法包括步骤S110～S140。
S110、若初始样本为初始不平衡样本，获取所述初始不平衡样本中正样本所占的正样本比例和负样本所占的负样本比例。
在本实施例中，当用户端上传了初始样本至服务器进行机器学习时，常常会遇到样本比例不平衡的问题，如对于一个二分类问题，正负样本的比例是2：8，样本比例不平衡的现象往往是由于本身数据来源决定的。但是实际获取的数据又往往是不平衡的，样本比例不平衡往往会带来不少问题，如：
1)样本不平衡往往会导致模型对样本数较多的分类造成过拟合，即总是将样本分到了样本数较多的分类中；
2)另一个典型的问题就是模型的对样本预测的准确率很高，但是模型的泛化能力差，其原因是模型将大多数的样本都归类为样本数较多的那一类。
此时为了后续对样本不平衡的调整，需初始获取不平衡样本中正样本所占的正样本比例和负样本所占的负样本比例。
在一实施例中，步骤S110之前还包括：
判断初始样本中正样本对应的第一数量与负样本对应的第二数量之比是否超出预设的第一比例阈值或者低于预设的第二比例阈值，若所述第一数量与所述第二数量之比超出所述第一比例阈值或者低于所述第二比例阈值，判定所述初始样本为初始不平衡样本；其中，所述第一比例阈值为4，所述第二比例阈值为0.25。
在本实施例中，在判断初始样本是否为初始不平衡样本时，主要是判断正负样本数量之比是否过高或过低，即判断正样本对应的第一数量与负样本对应的第二数量之比是否超出预设的第一比例阈值或者低于预设的第二比例阈值。若初始样本的正样本与负样本的数量之比过高或过低，则表示该初始样本为初始不平衡样本，需要对损失函数进行调整，使得训练过程更关注少量样本。
S120、获取根据所述初始不平衡样本对应训练得到的预测模型，根据所述预测模型得到与所述初始不平衡样本中每一样本对应的预测值。
在本实施例中，在未对所述初始不平衡样本对应的损失函数进行调整时，先根据所述初始不平衡样本对待训练模型(如CNN模型、DNN模型，RNN模型、BP神经网络模型等，其中CNN模型表示卷积神经网络模型，DNN模型表示深度神经网络模型，RNN模型表示循环神经网络模型，BP神经网络模型表示反向传播神经网络模型)进行训练得到预测模型。然后将所述初始不平衡样本中各样本的输入值输入至所述预测模型，得到与所述初始不平衡样本中每一样本对应的预测值。
由于所述初始不平衡样本中每一样本对应的预测值不一定与该样本对应的真实值相等，此时为了提高预测模型的泛化能力，需对预测模型对应的损失函数设置调节参数，以通过对损失函数进行调整，使得训练过程更关注少量样本的错误情况，进而提高其准确率。
在一实施例中，如图3所示，步骤S120包括：
S121、根据预设的训练集获取比例在所述初始不平衡样本所包括的正样本和负样本中对应获取训练集以对待训练模型进行训练，得到与所述待训练模型对应的预测模型；
S122、将所述初始不平衡样本中所包括的每一样本的输入值作为所述预测模型的输入进行运算，得到与所述初始不平衡样本中所包括的每一样本对应的预测值。
在本实施例中，在预先设置了训练集获取比例后(如70％)，可在所述初始不平衡样本所包括的正样本和负样本中均随机获70％的样本数据以作为训练集输入至待训练模型进行训练，以得到与待训练模型对应的预测模型。得到了预测模型后，即可将所述初始不平衡样本中所包括的每一样本的输入值作为所述预测模型的输入进行运算，得到与各样本对应的预测值。
在一实施例中，如图4所示，步骤S121之后还包括：
S1211、将所述初始不平衡样本中与所述训练集对应的补集作为测试集，将所述测试集中每一样本输入至所述预测模型，以得到与所述测试集中每一样本对应的预测值；
S1212、判断述测试集中每一样本对应的预测值和真实值之差是否均在预设的损失阈值之内，若所述测试集中每一样本对应的预测值和真实值之差均在预设的损失阈值之内，执行步骤S122；若所述测试集中每一样本对应的预测值和真实值之差均在预设的损失阈值之内，执行步骤S1213；
S1213、发送所述测试模型未通过验证的提示信息。
在完成对预测模型的训练后，还可以将所述初始不平衡样本中未被选择为训练集的样本数据作为测试集，以验证所述预测模型的正确性。若所述预测模型通过测试集的验证(例如测试集中某一正样本的样本数据的输入值作为预测模型的输入，得到与该样本数据对应的预测值，此时预测值与样本数据对应的真实值之间的差距在可接受的范围内，即表示所示预测模型无需进行校正直接进行下一步应用。
在验证了所述预测模型后，可以将所述初始不平衡样本中所包括的每一样本的输入值作为预测模型的输入，得到与每一样本对应的预测值。在现有技术 中，对预测模型的鲁棒性进行判断时，是计算该预测函数的交叉熵损失函数，具体如下：
Figure PCTCN2019117311-appb-000001
其中，y true表示每一样本对应的真实值，y pred表示每一样本对应的预测值。损失函数(loss function)是用来估量模型的预测值与真实值的不一致程度，它是一个非负实值函数，损失函数越小，模型的鲁棒性就越好。但是，若直接采用上述交叉熵损失函数，则未充分考虑到初始不平衡样本中正样本比例与负样本比例，易导致预测模型的泛化能力差。此时需设置一个调节参数，以对损失函数进行动态调整。
S130、获取所述初始不平衡样本中每一样本的预测值和真实值所满足的取值区间，根据每一样本的预测值和真实值所满足的取值区间以及预设的调节值设置策略，得到与所述初始不平衡样本中每一样本对应的损失函数调节值。
在一实施例中，如图5所示，步骤S130包括：
S131、若所述初始不平衡样本中每一样本的预测值和真实值满足预设的第一判断条件或满足预设的第二判断条件，将与所述初始不平衡样本中对应样本的调节参数设置为第一调节值；其中，所述第一判断条件为预测值大于0.8且真实值等于1，所述第二判断条件为预测值小于0.2且真实值等于-1；
S132、若所述初始不平衡样本中每一样本的预测值和真实值满足预设的第三判断条件，将与所述初始不平衡样本中对应样本的调节参数设置为第二调节值；其中，所述第三判断条件为第三判断条件为第一判断条件和第二判断条件的并集所对应的补集。
在本实施例中，例如，当正负样本的比例是2:8时，需调整至当y pred>0.8时，才判定预测值对应的是正样本的预测结果，此时可以将调节参数λ(y pred，y true)设置如下：
Figure PCTCN2019117311-appb-000002
即第一判断条件为y pred>0.8且y true＝1，第二判断条件为y pred<0.2且y true＝-1，第三判断条件为第一判断条件和第二判断条件求并集后的补集。通过上述调整，充分考虑到初始不平衡样本中正样本比例与负样本比例，将各个类别赋予不同的权重(即调节参数)，通过给予少量样本更高权重来调整损失函数，提高了预测模型的泛化能力。
S140、将所述初始不平衡样本中每一样本对应的损失函数调节值乘以对应样本的交叉熵并求和，以得到与所述预测模型对应的损失函数。
在本实施例中，将损失函数通过下式计算，即可通过优化损失函数进而提高预测模型的准确率：
Loss＝-∑ yλ(y pred，y true)y truelgy pred；
通过将损失函数优化为上述方式，针对少类样本给予更高权重，进而使得模型准确率提高。
在一实施例中，步骤S140之后还包括：
将所述损失函数及所述预测模型发送至与所述初始样本对应的用户端。
在本实施例中，当在服务器中完成了对损失函数的优化之后，可以将该损失函数及所述预测模型发送至与所述初始样本对应的用户端，以供用户实际应用该预测模型进行文本分类(例如进行文本情感的分类，至少有正向分类和负向分类两种)。
该方法通过对损失函数进行调整，使得训练过程更关注少量样本的错误情况，进而提高其准确率。
本申请实施例还提供一种损失函数优化装置，该损失函数优化装置用于执行前述损失函数优化方法的任一实施例。具体地，请参阅图6，图6是本申请实施例提供的损失函数优化装置的示意性框图。该损失函数优化装置100可以配置于服务器中。
如图6所示，损失函数优化装置100包括正负比例获取单元110、预测值获取单元120、调节值获取单元130、损失函数获取单元140。
正负比例获取单元110，用于若初始样本为初始不平衡样本，获取所述初始不平衡样本中正样本所占的正样本比例和负样本所占的负样本比例。
在一实施例中，损失函数优化装置还包括：
样本类型判断单元，用于判断初始样本中正样本对应的第一数量与负样本 对应的第二数量之比是否超出预设的第一比例阈值或者低于预设的第二比例阈值，若所述第一数量与所述第二数量之比超出所述第一比例阈值或者低于所述第二比例阈值，判定所述初始样本为初始不平衡样本；其中，所述第一比例阈值为4，所述第二比例阈值为0.25。
预测值获取单元120，用于获取根据所述初始不平衡样本对应训练得到的预测模型，根据所述预测模型得到与所述初始不平衡样本中每一样本对应的预测值。
在一实施例中，如图7所示，预测值获取单元120包括：
模型训练单元121，用于根据预设的训练集获取比例在所述初始不平衡样本所包括的正样本和负样本中对应获取训练集以对待训练模型进行训练，得到与所述待训练模型对应的预测模型；
输入运算单元122，用于将所述初始不平衡样本中所包括的每一样本的输入值作为所述预测模型的输入进行运算，得到与所述初始不平衡样本中所包括的每一样本对应的预测值。
在一实施例中，如图8所示，预测值获取单元120还包括：
测试集获取单元1211，用于将所述初始不平衡样本中与所述训练集对应的补集作为测试集，将所述测试集中每一样本输入至所述预测模型，以得到与所述测试集中每一样本对应的预测值；
差值判断单元1212，用于判断述测试集中每一样本对应的预测值和真实值之差是否均在预设的损失阈值之内，若所述测试集中每一样本对应的预测值和真实值之差均在预设的损失阈值之内，执行将所述初始不平衡样本中所包括的每一样本的输入值作为所述预测模型的输入进行运算，得到与所述初始不平衡样本中所包括的每一样本对应的预测值的步骤；若所述测试集中每一样本对应的预测值和真实值之差均在预设的损失阈值之内，执行发送所述测试模型未通过验证的提示信息的步骤；
提示单元1213，用于发送所述测试模型未通过验证的提示信息。
调节值获取单元130，用于获取所述初始不平衡样本中每一样本的预测值和真实值所满足的取值区间，根据每一样本的预测值和真实值所满足的取值区间以及预设的调节值设置策略，得到与所述初始不平衡样本中每一样本对应的损失函数调节值。
在一实施例中，如图9所示，调节值获取单元130包括：
第一调节值获取单元131，用于若所述初始不平衡样本中每一样本的预测值和真实值满足预设的第一判断条件或满足预设的第二判断条件，将与所述初始不平衡样本中对应样本的调节参数设置为第一调节值；其中，所述第一判断条件为预测值大于0.8且真实值等于1，所述第二判断条件为预测值小于0.2且真实值等于-1；
第二调节值获取单元132，用于若所述初始不平衡样本中每一样本的预测值和真实值满足预设的第三判断条件，将与所述初始不平衡样本中对应样本的调节参数设置为第二调节值；其中，所述第三判断条件为第三判断条件为第一判断条件和第二判断条件的并集所对应的补集。
损失函数获取单元140，用于将所述初始不平衡样本中每一样本对应的损失函数调节值乘以对应样本的交叉熵并求和，以得到与所述预测模型对应的损失函数。
该装置通过对损失函数进行调整，使得训练过程更关注少量样本的错误情况，进而提高其准确率。
上述损失函数优化装置可以实现为计算机程序的形式，该计算机程序可以在如图10所示的计算机设备上运行。
请参阅图10，图10是本申请实施例提供的计算机设备的示意性框图。该计算机设备500是服务器。其中，服务器可以是独立的服务器，也可以是多个服务器组成的服务器集群。
参阅图10，该计算机设备500包括通过系统总线501连接的处理器502、存储器和网络接口505，其中，存储器可以包括非易失性存储介质503和内存储器504。
该非易失性存储介质503可存储操作系统5031和计算机程序5032。该计算机程序5032被执行时，可使得处理器502执行损失函数优化方法。
该处理器502用于提供计算和控制能力，支撑整个计算机设备500的运行。
该内存储器504为非易失性存储介质503中的计算机程序5032的运行提供环境，该计算机程序5032被处理器502执行时，可使得处理器502执行损失函数优化方法。
该网络接口505用于进行网络通信，如提供数据信息的传输等。本领域技 术人员可以理解，图10中示出的结构，仅仅是与本申请方案相关的部分结构的框图，并不构成对本申请方案所应用于其上的计算机设备500的限定，具体的计算机设备500可以包括比图中所示更多或更少的部件，或者组合某些部件，或者具有不同的部件布置。
其中，所述处理器502用于运行存储在存储器中的计算机程序5032，以实现本申请实施例中的损失函数优化方法。
本领域技术人员可以理解，图10中示出的计算机设备的实施例并不构成对计算机设备具体构成的限定，在其他实施例中，计算机设备可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。例如，在一些实施例中，计算机设备可以仅包括存储器及处理器，在这样的实施例中，存储器及处理器的结构及功能与图10所示实施例一致，在此不再赘述。
应当理解，在本申请实施例中，处理器502可以是中央处理单元(Central Processing Unit，CPU)，该处理器502还可以是其他通用处理器、数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现成可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。其中，通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
在本申请的另一实施例中提供计算机可读存储介质。该计算机可读存储介质可以为非易失性的计算机可读存储介质。该计算机可读存储介质存储有计算机程序，其中计算机程序被处理器执行时实现本申请实施例中的损失函数优化方法。
所述存储介质为实体的、非瞬时性的存储介质，例如可以是U盘、移动硬盘、只读存储器(Read-Only Memory，ROM)、磁碟或者光盘等各种可以存储程序代码的实体存储介质。
所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，上述描述的设备、装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
以上所述，仅为本申请的具体实施方式，但本申请的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本申请揭露的技术范围内，可轻易想到各种等效的修改或替换，这些修改或替换都应涵盖在本申请的保护范围之内。 因此，本申请的保护范围应以权利要求的保护范围为准。

Claims (20)

  1. 一种损失函数优化方法，包括：
    若初始样本为初始不平衡样本，获取所述初始不平衡样本中正样本所占的正样本比例和负样本所占的负样本比例；
    获取根据所述初始不平衡样本对应训练得到的预测模型，根据所述预测模型得到与所述初始不平衡样本中每一样本对应的预测值；
    获取所述初始不平衡样本中每一样本的预测值和真实值所满足的取值区间，根据每一样本的预测值和真实值所满足的取值区间以及预设的调节值设置策略，得到与所述初始不平衡样本中每一样本对应的损失函数调节值；以及
    将所述初始不平衡样本中每一样本对应的损失函数调节值乘以对应样本的交叉熵并求和，以得到与所述预测模型对应的损失函数。
  2. 根据权利要求1所述的损失函数优化方法，其中，所述获取所述初始不平衡样本中每一样本的预测值和真实值所满足的取值区间，根据每一样本的预测值和真实值所满足的取值区间以及预设的调节值设置策略，得到与所述初始不平衡样本中每一样本对应的损失函数调节值，包括：
    若所述初始不平衡样本中每一样本的预测值和真实值满足预设的第一判断条件或满足预设的第二判断条件，将与所述初始不平衡样本中对应样本的调节参数设置为第一调节值；其中，所述第一判断条件为预测值大于0.8且真实值等于1，所述第二判断条件为预测值小于0.2且真实值等于-1；
    若所述初始不平衡样本中每一样本的预测值和真实值满足预设的第三判断条件，将与所述初始不平衡样本中对应样本的调节参数设置为第二调节值；其中，所述第三判断条件为第三判断条件为第一判断条件和第二判断条件的并集所对应的补集。
  3. 根据权利要求1所述的损失函数优化方法，其中，所述获取根据所述初始不平衡样本对应训练得到的预测模型，根据所述预测模型得到与所述初始不平衡样本中每一样本对应的预测值，包括：
    根据预设的训练集获取比例在所述初始不平衡样本所包括的正样本和负样本中对应获取训练集以对待训练模型进行训练，得到与所述待训练模型对应的预测模型；
    将所述初始不平衡样本中所包括的每一样本的输入值作为所述预测模型的输入进行运算，得到与所述初始不平衡样本中所包括的每一样本对应的预测值。
  4. 根据权利要求3所述的损失函数优化方法，其中，所述根据预设的训练集获取比例在所述初始不平衡样本所包括的正样本和负样本中对应获取训练集以对待训练模型进行训练，得到与所述待训练模型对应的预测模型之后，还包括：
    将所述初始不平衡样本中与所述训练集对应的补集作为测试集，将所述测试集中每一样本输入至所述预测模型，以得到与所述测试集中每一样本对应的预测值；
    判断述测试集中每一样本对应的预测值和真实值之差是否均在预设的损失阈值之内，若所述测试集中每一样本对应的预测值和真实值之差均在预设的损失阈值之内，执行将所述初始不平衡样本中所包括的每一样本的输入值作为所述预测模型的输入进行运算，得到与所述初始不平衡样本中所包括的每一样本对应的预测值的步骤；若所述测试集中每一样本对应的预测值和真实值之差均在预设的损失阈值之内，执行发送所述测试模型未通过验证的提示信息的步骤；
    发送所述测试模型未通过验证的提示信息。
  5. 根据权利要求2所述的损失函数优化方法，其中，所述若初始样本为初始不平衡样本，获取所述初始不平衡样本中正样本所占的正样本比例和负样本所占的负样本比例之前，还包括：
    判断初始样本中正样本对应的第一数量与负样本对应的第二数量之比是否超出预设的第一比例阈值或者低于预设的第二比例阈值，若所述第一数量与所述第二数量之比超出所述第一比例阈值或者低于所述第二比例阈值，判定所述初始样本为初始不平衡样本；其中，所述第一比例阈值为4，所述第二比例阈值为0.25。
  6. 根据权利要求3所述的损失函数优化方法，其中，所述根据预设的训练集获取比例在所述初始不平衡样本所包括的正样本和负样本中对应获取训练集以对待训练模型进行训练，得到与所述待训练模型对应的预测模型，包括：
    在所述初始不平衡样本所包括的正样本和负样本中均随机获70％的样本数据以作为训练集输入至待训练模型进行训练，得到与所述待训练模型对应的预测模型。
  7. 根据权利要求1所述的损失函数优化方法，其中，所述将所述初始不平衡样本中每一样本对应的损失函数调节值乘以对应样本的交叉熵并求和，以得到与所述预测模型对应的损失函数之后，还包括：
    将所述损失函数及所述预测模型发送至与所述初始样本对应的用户端。
  8. 一种损失函数优化装置，包括：
    正负比例获取单元，用于若初始样本为初始不平衡样本，获取所述初始不平衡样本中正样本所占的正样本比例和负样本所占的负样本比例；
    预测值获取单元，用于获取根据所述初始不平衡样本对应训练得到的预测模型，根据所述预测模型得到与所述初始不平衡样本中每一样本对应的预测值；
    调节值获取单元，用于获取所述初始不平衡样本中每一样本的预测值和真实值所满足的取值区间，根据每一样本的预测值和真实值所满足的取值区间以及预设的调节值设置策略，得到与所述初始不平衡样本中每一样本对应的损失函数调节值；以及
    损失函数获取单元，用于将所述初始不平衡样本中每一样本对应的损失函数调节值乘以对应样本的交叉熵并求和，以得到与所述预测模型对应的损失函数。
  9. 根据权利要求8所述的损失函数优化装置，其中，所述调节值获取单元，包括：
    第一调节值获取单元，用于若所述初始不平衡样本中每一样本的预测值和真实值满足预设的第一判断条件或满足预设的第二判断条件，将与所述初始不平衡样本中对应样本的调节参数设置为第一调节值；其中，所述第一判断条件为预测值大于0.8且真实值等于1，所述第二判断条件为预测值小于0.2且真实值等于-1；
    第二调节值获取单元，用于若所述初始不平衡样本中每一样本的预测值和真实值满足预设的第三判断条件，将与所述初始不平衡样本中对应样本的调节参数设置为第二调节值；其中，所述第三判断条件为第三判断条件为第一判断条件和第二判断条件的并集所对应的补集。
  10. 根据权利要求8所述的损失函数优化装置，其中，所述预测值获取单元，包括：
    模型训练单元，用于根据预设的训练集获取比例在所述初始不平衡样本所 包括的正样本和负样本中对应获取训练集以对待训练模型进行训练，得到与所述待训练模型对应的预测模型；
    输入运算单元，用于将所述初始不平衡样本中所包括的每一样本的输入值作为所述预测模型的输入进行运算，得到与所述初始不平衡样本中所包括的每一样本对应的预测值。
  11. 一种计算机设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行以下步骤：
    若初始样本为初始不平衡样本，获取所述初始不平衡样本中正样本所占的正样本比例和负样本所占的负样本比例；
    获取根据所述初始不平衡样本对应训练得到的预测模型，根据所述预测模型得到与所述初始不平衡样本中每一样本对应的预测值；
    获取所述初始不平衡样本中每一样本的预测值和真实值所满足的取值区间，根据每一样本的预测值和真实值所满足的取值区间以及预设的调节值设置策略，得到与所述初始不平衡样本中每一样本对应的损失函数调节值；以及
    将所述初始不平衡样本中每一样本对应的损失函数调节值乘以对应样本的交叉熵并求和，以得到与所述预测模型对应的损失函数。
  12. 根据权利要求11所述的计算机设备，其中，所述获取所述初始不平衡样本中每一样本的预测值和真实值所满足的取值区间，根据每一样本的预测值和真实值所满足的取值区间以及预设的调节值设置策略，得到与所述初始不平衡样本中每一样本对应的损失函数调节值，包括：
    若所述初始不平衡样本中每一样本的预测值和真实值满足预设的第一判断条件或满足预设的第二判断条件，将与所述初始不平衡样本中对应样本的调节参数设置为第一调节值；其中，所述第一判断条件为预测值大于0.8且真实值等于1，所述第二判断条件为预测值小于0.2且真实值等于-1；
    若所述初始不平衡样本中每一样本的预测值和真实值满足预设的第三判断条件，将与所述初始不平衡样本中对应样本的调节参数设置为第二调节值；其中，所述第三判断条件为第三判断条件为第一判断条件和第二判断条件的并集所对应的补集。
  13. 根据权利要求11所述的计算机设备，其中，所述获取根据所述初始不平衡样本对应训练得到的预测模型，根据所述预测模型得到与所述初始不平衡 样本中每一样本对应的预测值，包括：
    根据预设的训练集获取比例在所述初始不平衡样本所包括的正样本和负样本中对应获取训练集以对待训练模型进行训练，得到与所述待训练模型对应的预测模型；
    将所述初始不平衡样本中所包括的每一样本的输入值作为所述预测模型的输入进行运算，得到与所述初始不平衡样本中所包括的每一样本对应的预测值。
  14. 根据权利要求13所述的计算机设备，其中，所述根据预设的训练集获取比例在所述初始不平衡样本所包括的正样本和负样本中对应获取训练集以对待训练模型进行训练，得到与所述待训练模型对应的预测模型之后，还包括：
    将所述初始不平衡样本中与所述训练集对应的补集作为测试集，将所述测试集中每一样本输入至所述预测模型，以得到与所述测试集中每一样本对应的预测值；
    判断述测试集中每一样本对应的预测值和真实值之差是否均在预设的损失阈值之内，若所述测试集中每一样本对应的预测值和真实值之差均在预设的损失阈值之内，执行将所述初始不平衡样本中所包括的每一样本的输入值作为所述预测模型的输入进行运算，得到与所述初始不平衡样本中所包括的每一样本对应的预测值的步骤；若所述测试集中每一样本对应的预测值和真实值之差均在预设的损失阈值之内，执行发送所述测试模型未通过验证的提示信息的步骤；
    发送所述测试模型未通过验证的提示信息。
  15. 根据权利要求12所述的计算机设备，其中，所述若初始样本为初始不平衡样本，获取所述初始不平衡样本中正样本所占的正样本比例和负样本所占的负样本比例之前，还包括：
    判断初始样本中正样本对应的第一数量与负样本对应的第二数量之比是否超出预设的第一比例阈值或者低于预设的第二比例阈值，若所述第一数量与所述第二数量之比超出所述第一比例阈值或者低于所述第二比例阈值，判定所述初始样本为初始不平衡样本；其中，所述第一比例阈值为4，所述第二比例阈值为0.25。
  16. 根据权利要求13所述的计算机设备，其中，所述根据预设的训练集获取比例在所述初始不平衡样本所包括的正样本和负样本中对应获取训练集以对待训练模型进行训练，得到与所述待训练模型对应的预测模型，包括：
    在所述初始不平衡样本所包括的正样本和负样本中均随机获70％的样本数据以作为训练集输入至待训练模型进行训练，得到与所述待训练模型对应的预测模型。
  17. 根据权利要求11所述的计算机设备，其中，所述将所述初始不平衡样本中每一样本对应的损失函数调节值乘以对应样本的交叉熵并求和，以得到与所述预测模型对应的损失函数之后，还包括：
    将所述损失函数及所述预测模型发送至与所述初始样本对应的用户端。
  18. 一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序当被处理器执行时使所述处理器执行以下操作：
    若初始样本为初始不平衡样本，获取所述初始不平衡样本中正样本所占的正样本比例和负样本所占的负样本比例；
    获取根据所述初始不平衡样本对应训练得到的预测模型，根据所述预测模型得到与所述初始不平衡样本中每一样本对应的预测值；
    获取所述初始不平衡样本中每一样本的预测值和真实值所满足的取值区间，根据每一样本的预测值和真实值所满足的取值区间以及预设的调节值设置策略，得到与所述初始不平衡样本中每一样本对应的损失函数调节值；以及
    将所述初始不平衡样本中每一样本对应的损失函数调节值乘以对应样本的交叉熵并求和，以得到与所述预测模型对应的损失函数。
  19. 根据权利要求18所述的计算机可读存储介质，其中，所述获取所述初始不平衡样本中每一样本的预测值和真实值所满足的取值区间，根据每一样本的预测值和真实值所满足的取值区间以及预设的调节值设置策略，得到与所述初始不平衡样本中每一样本对应的损失函数调节值，包括：
    若所述初始不平衡样本中每一样本的预测值和真实值满足预设的第一判断条件或满足预设的第二判断条件，将与所述初始不平衡样本中对应样本的调节参数设置为第一调节值；其中，所述第一判断条件为预测值大于0.8且真实值等于1，所述第二判断条件为预测值小于0.2且真实值等于-1；
    若所述初始不平衡样本中每一样本的预测值和真实值满足预设的第三判断条件，将与所述初始不平衡样本中对应样本的调节参数设置为第二调节值；其中，所述第三判断条件为第三判断条件为第一判断条件和第二判断条件的并集所对应的补集。
  20. 根据权利要求18所述的计算机可读存储介质，其中，所述获取根据所述初始不平衡样本对应训练得到的预测模型，根据所述预测模型得到与所述初始不平衡样本中每一样本对应的预测值，包括：
    根据预设的训练集获取比例在所述初始不平衡样本所包括的正样本和负样本中对应获取训练集以对待训练模型进行训练，得到与所述待训练模型对应的预测模型；
    将所述初始不平衡样本中所包括的每一样本的输入值作为所述预测模型的输入进行运算，得到与所述初始不平衡样本中所包括的每一样本对应的预测值。
PCT/CN2019/117311 2019-01-07 2019-11-12 损失函数优化方法、装置、计算机设备及存储介质 Ceased WO2020143304A1 (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN201910012557.XA CN109815332B (zh) 2019-01-07 2019-01-07 损失函数优化方法、装置、计算机设备及存储介质
CN201910012557.X 2019-01-07

Publications (1)

Publication Number Publication Date
WO2020143304A1 true WO2020143304A1 (zh) 2020-07-16

Family

ID=66604012

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/CN2019/117311 Ceased WO2020143304A1 (zh) 2019-01-07 2019-11-12 损失函数优化方法、装置、计算机设备及存储介质

Country Status (2)

Country Link
CN (1) CN109815332B (zh)
WO (1) WO2020143304A1 (zh)

Cited By (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112163637A (zh) * 2020-10-19 2021-01-01 平安国际智慧城市科技股份有限公司 基于非平衡数据的图像分类模型训练方法、装置
CN112464278A (zh) * 2020-11-24 2021-03-09 平安科技（深圳）有限公司 基于非均匀分布数据的联邦建模方法及相关设备
CN112529158A (zh) * 2020-12-08 2021-03-19 华强方特（深圳）科技有限公司 位置预测方法、装置、计算机设备及存储介质
CN112766618A (zh) * 2020-12-25 2021-05-07 苏艺然 异常预测方法及装置
CN113065066A (zh) * 2021-03-31 2021-07-02 北京达佳互联信息技术有限公司 预测方法、装置、服务器及存储介质
CN113218537A (zh) * 2021-05-25 2021-08-06 中国南方电网有限责任公司超高压输电公司广州局 温度异常检测模型的训练方法、装置、设备和存储介质
CN113516239A (zh) * 2021-04-16 2021-10-19 Oppo广东移动通信有限公司 模型训练方法、装置、存储介质及电子设备
CN113888636A (zh) * 2021-09-29 2022-01-04 山东大学 基于多尺度深度特征的蛋白质亚细胞定位方法
CN114090751A (zh) * 2021-11-12 2022-02-25 北京明略软件系统有限公司 对话模型训练、对话生成方法、系统、计算机和存储介质
CN114330573A (zh) * 2021-12-30 2022-04-12 济南博观智能科技有限公司 一种目标检测方法、装置、电子设备及存储介质
CN114549392A (zh) * 2021-03-31 2022-05-27 正泰集团研发中心(上海)有限公司 太阳能电池片的色差检测方法、装置、设备和计算机介质
CN115761395A (zh) * 2022-10-27 2023-03-07 珠海市博杰电子有限公司 一种基于视觉模型的模型训练方法和装置
CN115758527A (zh) * 2022-11-17 2023-03-07 中国矿业大学(北京) 支护参数预测模型的训练方法、确定方法、装置及设备
CN115908915A (zh) * 2022-11-16 2023-04-04 中国人民解放军国防科技大学 红外小目标检测网络训练方法、装置、设备及存储介质
CN116612745A (zh) * 2023-06-13 2023-08-18 中国平安财产保险股份有限公司 一种语音情感识别方法、装置、设备及其存储介质
CN116805251A (zh) * 2022-03-15 2023-09-26 腾讯科技（深圳）有限公司 数据预测方法、装置、计算机设备和存储介质
CN116933103A (zh) * 2023-09-15 2023-10-24 宁波普瑞均胜汽车电子有限公司 触摸事件检测方法、装置、计算机设备及可读存储介质
CN116978491A (zh) * 2022-04-14 2023-10-31 中国石油化工股份有限公司 硫含量预测模型的确定方法、硫含量预测方法和装置
CN117132174A (zh) * 2023-10-26 2023-11-28 扬宇光电(深圳)有限公司 一种应用于工业流水线质量检测的模型训练方法与系统
CN117293817A (zh) * 2023-10-10 2023-12-26 华润电力技术研究院有限公司 发电参数预测方法及装置
CN117669449A (zh) * 2023-11-14 2024-03-08 南方电网调峰调频发电有限公司检修试验分公司 灭磁电路确定方法、装置、计算机设备和存储介质
CN118936733A (zh) * 2024-10-14 2024-11-12 东屹半导体科技(江苏)有限公司 一种划片机切割主轴动平衡测试方法及装置
CN119201297A (zh) * 2024-09-14 2024-12-27 浙江大学 基于工具调用模型的工具自动调用方法、系统及设备
CN120726033A (zh) * 2025-08-21 2025-09-30 杭州智思达科技有限责任公司 一种基于正负样本双识别ai模型的电子零部件缺陷视觉检测方法、装置、电子设备及存储介质
CN121682506A (zh) * 2026-02-11 2026-03-17 成都信息工程大学 一种针对样本不平衡数据集的损失函数计算方法及装置

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109815332B (zh) * 2019-01-07 2023-06-20 平安科技（深圳）有限公司 损失函数优化方法、装置、计算机设备及存储介质
CN110443280B (zh) * 2019-07-05 2022-06-03 北京达佳互联信息技术有限公司 图像检测模型的训练方法、装置及存储介质
CN112308278B (zh) * 2019-08-02 2024-08-09 中移信息技术有限公司 用户离网预测模型的优化方法、装置、设备和介质
CN112434839B (zh) * 2019-08-26 2023-05-30 电力规划总院有限公司 一种配电变压器重过载风险的预测方法及电子设备
CN114424186B (zh) * 2019-12-16 2026-01-23 深圳市欢太科技有限公司 文本分类模型训练方法、文本分类方法、装置及电子设备
CN111145365A (zh) * 2019-12-17 2020-05-12 北京明略软件系统有限公司 一种实现分类处理的方法、装置、计算机存储介质及终端
CN111177644B (zh) * 2019-12-20 2023-10-27 中国移动通信集团江苏有限公司 模型参数的优化方法、装置、设备及存储介质
CN111310814A (zh) * 2020-02-07 2020-06-19 支付宝(杭州)信息技术有限公司 利用不平衡正负样本对业务预测模型训练的方法及装置
CN111368903B (zh) * 2020-02-28 2021-08-27 深圳前海微众银行股份有限公司 模型性能优化方法、装置、设备及存储介质
CN111340850A (zh) * 2020-03-20 2020-06-26 军事科学院系统工程研究院系统总体研究所 基于孪生网络和中心逻辑损失的无人机对地目标跟踪方法
CN111461329B (zh) * 2020-04-08 2024-01-23 中国银行股份有限公司 一种模型的训练方法、装置、设备及可读存储介质
CN112052900B (zh) * 2020-09-04 2024-05-24 京东科技控股股份有限公司 机器学习样本权重调整方法和装置、存储介质
CN114677151A (zh) * 2020-12-09 2022-06-28 上海顺如丰来技术有限公司 基于xgboost的分位数预测方法、装置、计算机设备和存储介质
CN112732913B (zh) * 2020-12-30 2023-08-22 平安科技（深圳）有限公司 一种非均衡样本的分类方法、装置、设备及存储介质
CN113570175B (zh) * 2021-09-27 2022-01-04 深圳市玄羽科技有限公司 一种工业精细化工时物量管理平台的建立方法
CN116631436B (zh) * 2023-04-06 2025-10-28 平安健康保险股份有限公司 性别识别模型处理方法、装置、计算机设备及存储介质
CN117292756B (zh) * 2023-09-01 2025-09-09 鹏城实验室 病毒性质预测模型训练方法和病毒性质预测方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107560849A (zh) * 2017-08-04 2018-01-09 华北电力大学 一种多通道深度卷积神经网络的风电机组轴承故障诊断方法
CN107844785A (zh) * 2017-12-08 2018-03-27 浙江捷尚视觉科技股份有限公司 一种基于尺度估计的人脸检测方法
US20180268292A1 (en) * 2017-03-17 2018-09-20 Nec Laboratories America, Inc. Learning efficient object detection models with knowledge distillation
CN109815332A (zh) * 2019-01-07 2019-05-28 平安科技（深圳）有限公司 损失函数优化方法、装置、计算机设备及存储介质

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104346372B (zh) * 2013-07-31 2018-03-27 国际商业机器公司 用于评估预测模型的方法和装置
CN107784312B (zh) * 2016-08-24 2020-12-22 腾讯征信有限公司 机器学习模型训练方法及装置
US10366491B2 (en) * 2017-03-08 2019-07-30 Siemens Healthcare Gmbh Deep image-to-image recurrent network with shape basis for automatic vertebra labeling in large-scale 3D CT volumes
CN107316061B (zh) * 2017-06-22 2020-09-22 华南理工大学 一种深度迁移学习的不平衡分类集成方法
CN108388888B (zh) * 2018-03-23 2022-04-05 腾讯科技（深圳）有限公司 一种车辆识别方法、装置和存储介质
CN108628971B (zh) * 2018-04-24 2021-11-12 深圳前海微众银行股份有限公司 不均衡数据集的文本分类方法、文本分类器及存储介质
CN109086656B (zh) * 2018-06-06 2023-04-18 平安科技（深圳）有限公司 机场异物检测方法、装置、计算机设备及存储介质

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180268292A1 (en) * 2017-03-17 2018-09-20 Nec Laboratories America, Inc. Learning efficient object detection models with knowledge distillation
CN107560849A (zh) * 2017-08-04 2018-01-09 华北电力大学 一种多通道深度卷积神经网络的风电机组轴承故障诊断方法
CN107844785A (zh) * 2017-12-08 2018-03-27 浙江捷尚视觉科技股份有限公司 一种基于尺度估计的人脸检测方法
CN109815332A (zh) * 2019-01-07 2019-05-28 平安科技（深圳）有限公司 损失函数优化方法、装置、计算机设备及存储介质

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
YUAN, YADING ET AL.: "Automatic Skin Lesion Segmentation Using Deep Fully Convolutional Networks With Jaccard Distance.", IEEE TRANSACTIONS ON MEDICAL IMAGING., vol. 36, no. 9, 30 September 2017 (2017-09-30), pages 1876 - 1886, XP055718862 *

Cited By (35)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112163637A (zh) * 2020-10-19 2021-01-01 平安国际智慧城市科技股份有限公司 基于非平衡数据的图像分类模型训练方法、装置
CN112163637B (zh) * 2020-10-19 2024-04-19 深圳赛安特技术服务有限公司 基于非平衡数据的图像分类模型训练方法、装置
CN112464278A (zh) * 2020-11-24 2021-03-09 平安科技（深圳）有限公司 基于非均匀分布数据的联邦建模方法及相关设备
CN112464278B (zh) * 2020-11-24 2023-07-21 平安科技（深圳）有限公司 基于非均匀分布数据的联邦建模方法及相关设备
CN112529158A (zh) * 2020-12-08 2021-03-19 华强方特（深圳）科技有限公司 位置预测方法、装置、计算机设备及存储介质
CN112766618B (zh) * 2020-12-25 2024-02-02 苏艺然 异常预测方法及装置
CN112766618A (zh) * 2020-12-25 2021-05-07 苏艺然 异常预测方法及装置
CN113065066B (zh) * 2021-03-31 2024-05-07 北京达佳互联信息技术有限公司 预测方法、装置、服务器及存储介质
CN114549392A (zh) * 2021-03-31 2022-05-27 正泰集团研发中心(上海)有限公司 太阳能电池片的色差检测方法、装置、设备和计算机介质
CN114549392B (zh) * 2021-03-31 2024-05-31 正泰集团研发中心(上海)有限公司 太阳能电池片的色差检测方法、装置、设备和计算机介质
CN113065066A (zh) * 2021-03-31 2021-07-02 北京达佳互联信息技术有限公司 预测方法、装置、服务器及存储介质
CN113516239A (zh) * 2021-04-16 2021-10-19 Oppo广东移动通信有限公司 模型训练方法、装置、存储介质及电子设备
CN113218537A (zh) * 2021-05-25 2021-08-06 中国南方电网有限责任公司超高压输电公司广州局 温度异常检测模型的训练方法、装置、设备和存储介质
CN113218537B (zh) * 2021-05-25 2024-04-05 中国南方电网有限责任公司超高压输电公司广州局 温度异常检测模型的训练方法、装置、设备和存储介质
CN113888636A (zh) * 2021-09-29 2022-01-04 山东大学 基于多尺度深度特征的蛋白质亚细胞定位方法
CN114090751A (zh) * 2021-11-12 2022-02-25 北京明略软件系统有限公司 对话模型训练、对话生成方法、系统、计算机和存储介质
CN114330573A (zh) * 2021-12-30 2022-04-12 济南博观智能科技有限公司 一种目标检测方法、装置、电子设备及存储介质
CN116805251A (zh) * 2022-03-15 2023-09-26 腾讯科技（深圳）有限公司 数据预测方法、装置、计算机设备和存储介质
CN116978491A (zh) * 2022-04-14 2023-10-31 中国石油化工股份有限公司 硫含量预测模型的确定方法、硫含量预测方法和装置
CN115761395A (zh) * 2022-10-27 2023-03-07 珠海市博杰电子有限公司 一种基于视觉模型的模型训练方法和装置
CN115908915A (zh) * 2022-11-16 2023-04-04 中国人民解放军国防科技大学 红外小目标检测网络训练方法、装置、设备及存储介质
CN115758527A (zh) * 2022-11-17 2023-03-07 中国矿业大学(北京) 支护参数预测模型的训练方法、确定方法、装置及设备
CN116612745A (zh) * 2023-06-13 2023-08-18 中国平安财产保险股份有限公司 一种语音情感识别方法、装置、设备及其存储介质
CN116933103B (zh) * 2023-09-15 2023-11-21 宁波普瑞均胜汽车电子有限公司 触摸事件检测方法、装置、计算机设备及可读存储介质
CN116933103A (zh) * 2023-09-15 2023-10-24 宁波普瑞均胜汽车电子有限公司 触摸事件检测方法、装置、计算机设备及可读存储介质
CN117293817B (zh) * 2023-10-10 2024-06-07 华润电力技术研究院有限公司 发电参数预测方法及装置
CN117293817A (zh) * 2023-10-10 2023-12-26 华润电力技术研究院有限公司 发电参数预测方法及装置
CN117132174B (zh) * 2023-10-26 2024-01-30 扬宇光电(深圳)有限公司 一种应用于工业流水线质量检测的模型训练方法与系统
CN117132174A (zh) * 2023-10-26 2023-11-28 扬宇光电(深圳)有限公司 一种应用于工业流水线质量检测的模型训练方法与系统
CN117669449A (zh) * 2023-11-14 2024-03-08 南方电网调峰调频发电有限公司检修试验分公司 灭磁电路确定方法、装置、计算机设备和存储介质
CN119201297A (zh) * 2024-09-14 2024-12-27 浙江大学 基于工具调用模型的工具自动调用方法、系统及设备
CN118936733A (zh) * 2024-10-14 2024-11-12 东屹半导体科技(江苏)有限公司 一种划片机切割主轴动平衡测试方法及装置
CN120726033A (zh) * 2025-08-21 2025-09-30 杭州智思达科技有限责任公司 一种基于正负样本双识别ai模型的电子零部件缺陷视觉检测方法、装置、电子设备及存储介质
CN121682506A (zh) * 2026-02-11 2026-03-17 成都信息工程大学 一种针对样本不平衡数据集的损失函数计算方法及装置
CN121682506B (zh) * 2026-02-11 2026-04-24 成都信息工程大学 一种针对样本不平衡数据集的损失函数计算方法及装置

Also Published As

Publication number Publication date
CN109815332A (zh) 2019-05-28
CN109815332B (zh) 2023-06-20

Similar Documents

Publication Publication Date Title
WO2020143304A1 (zh) 损失函数优化方法、装置、计算机设备及存储介质
WO2020155756A1 (zh) 基于聚类和sse的异常点比例优化方法及装置
US9003534B2 (en) System and method for server-based antivirus scan of data downloaded from a network
WO2020155752A1 (zh) 异常点检测模型验证方法、装置、计算机设备及存储介质
WO2019127924A1 (zh) 样本权重分配方法、模型训练方法、电子设备及存储介质
CN107316198A (zh) 账户风险识别方法及装置
WO2020143186A1 (zh) 推荐系统训练方法、装置、计算机设备及存储介质
CN110299136A (zh) 一种用于语音识别的处理方法及其系统
CN108804266A (zh) 一种存储系统性能测试方法、装置和计算机可读存储介质
CN108833458A (zh) 一种应用推荐方法、装置、介质及设备
CN108234247A (zh) 一种检测网络质量的方法和系统
WO2020155754A1 (zh) 异常点比例优化方法、装置、计算机设备及存储介质
CN106940868A (zh) 实时与离线相结合的交易风险识别方法及装置
WO2021098265A1 (zh) 缺失信息预测方法、装置、计算机设备及存储介质
CN112308278A (zh) 预测模型的优化方法、装置、设备和介质
CN113590603A (zh) 基于数据源智能选择的数据处理方法、装置、设备及介质
CN106803815B (zh) 一种流量控制方法和装置
CN114817425A (zh) 一种冷热数据分类的方法、装置、设备及可读存储介质
CN111260056A (zh) 一种网络模型蒸馏方法及装置
CN111008299B (zh) 语音数据库的质量评估方法、装置及计算机存储介质
CN109560978B (zh) 网络流量检测方法、装置及系统和计算机可读存储介质
CN108463813B (zh) 一种进行数据处理的方法和装置
CN116166967A (zh) 基于元学习与残差网络的数据处理方法、设备和存储介质
CN107515876B (zh) 一种特征模型的生成、应用方法及装置
CN112988892A (zh) 一种分布式系统热点数据的管理方法

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 19908815

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 19908815

Country of ref document: EP

Kind code of ref document: A1