CN111898739B - 基于元学习的数据筛选模型构建方法、数据筛选方法、装置、计算机设备及存储介质 - Google Patents

基于元学习的数据筛选模型构建方法、数据筛选方法、装置、计算机设备及存储介质 Download PDF

Info

Publication number
CN111898739B
CN111898739B CN202010752915.3A CN202010752915A CN111898739B CN 111898739 B CN111898739 B CN 111898739B CN 202010752915 A CN202010752915 A CN 202010752915A CN 111898739 B CN111898739 B CN 111898739B
Authority
CN
China
Prior art keywords
data
feature vector
screened
preset
meta
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010752915.3A
Other languages
English (en)
Other versions
CN111898739A (zh
Inventor
吕根鹏
庄伯金
王少军
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An Technology Shenzhen Co Ltd
Original Assignee
Ping An Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Technology Shenzhen Co Ltd filed Critical Ping An Technology Shenzhen Co Ltd
Priority to CN202010752915.3A priority Critical patent/CN111898739B/zh
Priority to PCT/CN2020/122637 priority patent/WO2021139313A1/zh
Publication of CN111898739A publication Critical patent/CN111898739A/zh
Application granted granted Critical
Publication of CN111898739B publication Critical patent/CN111898739B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/048Activation functions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management

Abstract

本发明实施例公开了一种基于元学习的数据筛选模型构建方法、数据筛选方法、装置、计算机设备及存储介质。本发明涉及机器学习技术领域,该方法包括:构建基于元学习的数据筛选模型,基于该模型提取待筛选类别中各类别的特征向量及待筛选数据中各待筛选数据的特征向量分别作为第一目标特征向量和第二目标特征向量;将第二目标特征向量与第一目标特征向量进行拼接以生成与各待筛选数据对应的第三目标特征向量;将每个待筛选数据的第三目标特征向量的归属度值与各类别对应的预设归属度阈值进行比较,以采用预设标签将目标数据标记为第三目标特征向量对应的类别。本发明实施例可提高数据筛选的效率及节约数据标注成本。

Description

基于元学习的数据筛选模型构建方法、数据筛选方法、装置、 计算机设备及存储介质
技术领域
本发明涉及机器学习技术领域,尤其涉及一种基于元学习的数据筛选模型构建方法、数据筛选方法、装置、计算机设备及存储介质。
背景技术
为了更好地使用深度神经网络训练模型,往往需要大量的训练样本,而训练样本的不足往往会导致模型的过拟合,影响模型的性能。在实际应用中,训练样本的不足经常体现在少量的类别中,为了扩充这些样本量过少的类别,需要对大量的无标签数据进行标注,而数据标注是一件极其耗费人力与资金的事情,且在待标注的数据中,绝大多数的数据是样本量过多的类别的数据,这些数据是我们不需要的,只有那些样本量过少的类别的数据,是我们需要标注的目标数据,因此数据筛选的效率极低,过低的数据筛选导致了人力和资金的浪费。
发明内容
本发明实施例提供了一种基于元学习的数据筛选模型构建方法、数据筛选方法、装置、计算机设备及存储介质,旨在解决现有数据筛选效率比较低的问题。
第一方面,本发明实施例提供了一种基于元学习的数据筛选模型构建方法,其包括:
构造元训练任务,采用特征提取模型提取每个元训练任务的第一特征向量和第二特征向量,其中,每个所述元训练任务包括支持集和查询集,所述第一特征向量为每个所述支持集所包括的训练类别的特征向量,所述第二特征向量为每个所述查询集所包括的训练数据的特征向量;
采用关系模型获取所述第一特征向量和所述第二特征向量拼接之后的归属度值;
基于所述归属度值,采用预设计算公式计算得出所述训练数据的差距值;
基于所述差距值,采用预设方法经过预设次数更新所述特征提取模型及所述关系模型中的参数值以获得所述基于元学习的数据筛选模型。
第二方面,本发明实施例提供了一种基于元学习的数据筛选方法,其包括:
获取待筛选类别并将所述待筛选类别输入所述基于元学习的数据筛选模型以提取所述待筛选类别中各类别的特征向量作为第一目标特征向量;
获取待筛选数据并将所述待筛选数据输入所述基于元学习的数据筛选模型以提取所述待筛选数据中各待筛选数据的特征向量作为第二目标特征向量;
对于每个待筛选数据,将所述第二目标特征向量与各类别的所述第一目标特征向量进行拼接以生成与各待筛选数据对应的第三目标特征向量;
将每个待筛选数据的所述第三目标特征向量的归属度值与各类别对应的预设归属度阈值进行比较,以识别出所述第三目标特征向量的归属度值大于所述预设归属度阈值的数据作为目标数据;
采用预设标签将所述目标数据标记为所述第三目标特征向量对应的类别。
第三方面,本发明实施例还提供了一种基于元学习的数据筛选模型构建装置,其包括:
构造提取单元,用于构造元训练任务,采用特征提取模型提取每个元训练任务的第一特征向量和第二特征向量,其中,每个所述元训练任务包括支持集和查询集,所述第一特征向量为每个所述支持集所包括的训练类别的特征向量,所述第二特征向量为每个所述查询集所包括的训练数据的特征向量;
获取单元,用于采用关系模型获取所述第一特征向量和所述第二特征向量拼接之后的归属度值;
计算单元,用于基于所述归属度值,采用预设计算公式计算得出所述训练数据的差距值;
更新单元,用于基于所述差距值,采用预设方法经过预设次数更新所述特征提取模型及所述关系模型中的参数值以获得所述基于元学习的数据筛选模型。
第四方面,本发明实施例还提供了一种基于元学习的数据筛选装置,其包括:
第一获取单元,用于获取待筛选类别并将所述待筛选类别输入所述基于元学习的数据筛选模型以提取所述待筛选类别中各类别的特征向量作为第一目标特征向量;
第二获取单元,用于获取待筛选数据并将所述待筛选数据输入所述基于元学习的数据筛选模型以提取所述待筛选数据中各待筛选数据的特征向量作为第二目标特征向量;
拼接单元,用于对于每个待筛选数据,将所述第二目标特征向量与各类别的所述第一目标特征向量进行拼接以生成与各待筛选数据对应的第三目标特征向量;
比较识别单元,用于将每个待筛选数据的所述第三目标特征向量的归属度值与各类别对应的预设归属度阈值进行比较,以识别出所述第三目标特征向量的归属度值大于所述预设归属度阈值的数据作为目标数据;
标记单元,用于采用预设标签将所述目标数据标记为所述第三目标特征向量对应的类别。
第五方面,本发明实施例还提供了一种计算机设备,其包括存储器及处理器,所述存储器上存储有计算机程序,所述处理器执行所述计算机程序时实现上述第一方面和第二方面的方法。
第六方面,本发明实施例还提供了一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序当被处理器执行时可实现上述第一方面和第二方面的方法。
本发明实施例提供了一种数据筛选模型构建及数据筛选方法、装置、计算机设备及存储介质。其中,所述方法包括:构建基于元学习的数据筛选模型,获取待筛选类别并将所述待筛选类别输入所述基于元学习的数据筛选模型以提取所述待筛选类别中各类别的特征向量作为第一目标特征向量;获取待筛选数据并将所述待筛选数据输入所述基于元学习的数据筛选模型以提取所述待筛选数据中各待筛选数据的特征向量作为第二目标特征向量;对于每个待筛选数据,将所述第二目标特征向量与各类别的所述第一目标特征向量进行拼接以生成与各待筛选数据对应的第三目标特征向量;将每个待筛选数据的所述第三目标特征向量的归属度值与各类别对应的预设归属度阈值进行比较,以识别出所述第三目标特征向量的归属度值大于所述预设归属度阈值的数据作为目标数据;采用预设标签将所述目标数据标记为所述第三目标特征向量对应的类别。本发明实施例的技术方案,先构建了基于元学习的数据筛选模型,再基于该模型对待筛选数据进行筛选,筛选过程中先获取各待筛选类别的特征向量作为第一目标特征向量,然后再获取各待筛选数据的特征向量作为第二目标特征向量,并将第一目标特征向量和第二目标特征向量进行拼接生成与各待筛选数据对应的第三目标特征向量,最后将每个待筛选数据的第三目标特征向量的归属度值与各类别对应的预设归属度阈值进行比较,以识别出第三目标特征向量的归属度值大于预设归属度阈值的数据并采用预设标签将其标记为第三目标特征向量对应的类别,因此可提高数据筛选的效率及节约数据标注成本。
附图说明
为了更清楚地说明本发明实施例技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明一实施例提供的一种基于元学习的数据筛选模型构建方法的流程示意图;
图2为本发明实施例提供的一种基于元学习的数据筛选模型构建方法的子流程示意图;
图3为本发明一实施例提供的一种基于元学习的数据筛选方法的流程示意图;
图4为本发明另一实施例提供的一种基于元学习的数据筛选方法的流程示意图;
图5为本发明实施例提供的一种基于元学习的数据筛选模型构建装置的示意性框图;
图6为本发明实施例提供的基于元学习的数据筛选模型构建装置的获取单元的示意性框图;
图7为本发明实施例提供的基于元学习的数据筛选模型构建装置的更新单元的示意性框图;
图8为本发明一实施例提供的一种基于元学习的数据筛选装置的示意性框图;
图9为本发明另一实施例提供的一种基于元学习的数据筛选装置的示意性框图;以及
图10为本发明实施例提供的一种计算机设备的示意性框图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
应当理解,当在本说明书和所附权利要求书中使用时,术语“包括”和“包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解,在此本发明说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本发明。如在本发明说明书和所附权利要求书中所使用的那样,除非上下文清楚地指明其它情况,否则单数形式的“一”、“一个”及“该”意在包括复数形式。
还应当进一步理解,在本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
如在本说明书和所附权利要求书中所使用的那样,术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地,短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
请参阅图1,图1是本发明实施例提供的一种基于元学习的数据筛选模型构建方法的流程示意图。本发明实施例的基于元学习的数据筛选模型构建方法可应用于服务器中,例如可通过配置于服务器上的软件程序来实现该基于元学习的数据筛选模型构建方法。下面对所述基于元学习的数据筛选模型构建方法进行详细说明。如图1所示,该方法包括以下步骤S100-S130。
S100、构造元训练任务,采用特征提取模型提取每个元训练任务的第一特征向量和第二特征向量,其中,每个所述元训练任务包括支持集和查询集,所述第一特征向量为每个所述支持集所包括的训练类别的特征向量,所述第二特征向量为每个所述查询集所包括的训练数据的特征向量。
在本发明实施例中,构建基于元学习的数据筛选模型,首先要构造元训练任务,并采用特征提取模型提取支持集中训练类别的特征向量作为第一特征向量,查询集中训练数据的特征向量作为第二特征向量。其中,训练数据为图片数据或文本数据。在实际应用场景中,支持集是由随机采样的类别的少量样例构成,例如,随机采样N个训练类别,每个训练类别选取K个训练数据,其中训练数据为图片或者文本,记为构成该元训练任务的支持集。在训练过程中,需要依次为这N个训练类别随机采样Q个图片数据或者文本数据,以及随机采样Q个不属于这N个训练类别的图片数据或者文本数据,记为一起构成查询集。从上可以看出,在训练过程中查询集的图片数据或者文本数据都是带标签的,记为/>若/>属于训练类别i,则/>属于训练类别i;若/>不属于N个训练类别的任何一个,则/>为-1。对支持集中的每一个训练类别获取其特征向量,若训练数据为图片数据,则采用CNN网络;若训练数据为文本数据,则采用BERT、RNN等网络。
假设特征提取模型记为f,则每个训练类别i的特征向量为Fi,如公式(1)所示。
对于查询集中图片数据或者文本数据提取特征向量fm,如公式(2)所示。
由上所述可知,Fi为第一特征向量,fm为第二特征向量。
S110、采用关系模型获取所述第一特征向量和所述第二特征向量拼接之后的归属度值。
在本发明实施例中,采用特征提取模型提取支持集中训练类别的特征向量作为第一特征向量,查询集中训练数据的特征向量作为第二特征向量之后,会采用关系模型获取所述第一特征向量和所述第二特征向量拼接之后的归属度值。其中,关系模型为比较网络,由全连接网络和sigmoid函数构成,且用g表示。其中,全连接网络是把所有的输入与输出连接起来的单个交换机,具有吞吐量大、可靠性高、低延时的特点。
请参阅图2,在一实施例中,例如在本实施例中,所述步骤S110包括如下步骤S111-S112。
S111、将所述第一特征向量及所述第二特征向量进行拼接以生成第三特征向量;
S112、采用关系模型获取所述第三特征向量的归属度值。
在本发明实施例中,将所述第一特征向量及所述第二特征向量进行拼接以生成第三特征向量。具体为,使用cat(·)将第一特征向量和第二特征向量进行拼接,然后采用关系模型g获取所述第三特征向量的归属度,具体是使用关系模型g求查询集中图片数据或者文本数据和每一个训练类别i的归属度simm,i,如公式(3)所示。
simm,i=g(cat(fm,Fi)) (3)
S120、基于所述归属度值,采用预设计算公式可计算得出所述训练数据的差距值。
在本发明实施例中,采用关系模型获取所述第三特征向量的归属度值之后,基于所述归属度值,采用预设计算公式可计算得出所述训练数据的差距值。其中,所述训练数据的差距值为训练数据预测属于哪一个类别的值与实际属于哪一个类别的值之间的差值,用loss表示。在实际应用中,差值越小,数据筛选模型越好。差距值的计算如公式(4)所示。
S130、基于所述差距值,采用预设方法经过预设次数更新所述特征提取模型及所述关系模型中的参数值以获得所述基于元学习的数据筛选模型。
在本发明实施例中,采用预设计算公式计算得出所述训练数据的差距值之后,基于所述差距值,采用预设方法经过预设次数更新所述特征提取模型及所述关系模型中的参数值以获得所述基于元学习的数据筛选模型。其中,预设方法为梯度下降优化方法,梯度下降法(gradient descent)是一种常用的一阶(first-order)优化方法,是求解无约束优化问题最简单、最经典的方法之一。通过此方法不断更新特征提取模型和关系模型中的参数值直至达到预设次数,然后可获得所述基于元学习的数据筛选模型。
请参阅图3,图3是本发明实施例提供的一种基于元学习的数据筛选方法的流程示意图。本发明实施例的基于元学习的数据筛选方法可应用于服务器中,例如可通过配置于服务器上的软件程序来实现该基于元学习的数据筛选方法,从而提高基于元学习的数据筛选效率及节约数据标注成本。下面对所述基于元学习的数据筛选方法进行详细说明。如图3所示,该方法包括以下步骤S200-S240。
S200、获取待筛选类别并将所述待筛选类别输入所述基于元学习的数据筛选模型以提取所述待筛选类别中各类别的特征向量作为第一目标特征向量。
在本发明实施例中,当基于元学习的数据筛选模型构建好之后,会基于该模型进行数据筛选,具体为,首先获取待筛选类别,其中,待筛选类别为让筛选模型学习识别的类别。并且为每个待筛选类别定义一个预设归属度阈值,若预设归属度阈值设置的比较低,则待筛选类别的召回率较高;反之,若预设归属度阈值设置的比较高,则待筛选类别的精确度比较高。其中,召回率为实际筛选出图片数据或者文本数据的数量与待筛选的图片数据或者文本数据的总量的比值;精确度为人工对筛选模型筛选出的图片数据或者文本数据的进行标注后的数量与数据筛选模型筛选出的图片数据或者文本数据的数量的比值。例如,假设有100个图片数据,3个筛选类别,经数据筛选模型筛选之后筛选出的属于这3个筛选类别的图片数据为20,而人工对这20个图片数据进行标注,最后标注数量为15,则召回率=15/100;精确度=15/20。获取筛选的类别之后将待筛选类别输入至基于元学习的数据筛选模型以提取所述待筛选类别中各类别的特征向量作为第一特征向量。具体为,将待筛选类型输入至基于元学习的数据筛选模型的特征提取模型以提取所述待筛选类别中各类别的特征向量。更为具体地是通过数据筛选模型中的公式(1)提取所述待筛选类别中各类别的特征向量作为第一目标特征向量。
S210、获取待筛选数据并将所述待筛选数据输入所述基于元学习的数据筛选模型以提取所述待筛选数据中各待筛选数据的特征向量作为第二目标特征向量。
在本发明实施例中,提取所述待筛选类别中各类别的特征向量作为第一目标特征向量之后,会获取待筛选数据并将所述待筛选数据输入所述基于元学习的数据筛选模型以提取所述待筛选数据的特征向量作为第二目标特征向量。具体为,通过基于元学习的数据筛选模型中的公式(2)提取所述待筛选数据的特征向量作为第二特征向量。
S220、对于每个待筛选数据,将所述第二目标特征向量与各类别的所述第一目标特征向量进行拼接以生成与各待筛选数据对应的第三目标特征向量。
在本发明实施例中,基于元学习的数据筛选模型中公式(1)求出的第一目标特征向量和公式(2)求出第二目标特征向量之后,会使用cat(·)将进行拼接,以生成与各待筛选数据对应的第三目标特征向量。
S230、将每个待筛选数据的所述第三目标特征向量的归属度值与各类别对应的预设归属度阈值进行比较,以识别出所述第三目标特征向量的归属度值大于所述预设归属度阈值的数据作为目标数据。
S240、采用预设标签将所述目标数据标记为所述第三目标特征向量对应的类别。
在本发明实施例中,在本发明实施例中,使用cat(·)将第一特征向量和第二特征向量拼接生成与各待筛选数据对应的第三目标特征向量之后,会使用基于元学习的数据筛选模型中的公式(3)求出每个待筛选数据的所述第三目标特征向量的归属度值,然后再将每个待筛选数据的所述第三目标特征向量的归属度值与各类别对应的预设归属度阈值进行比较,以识别出所述第三目标特征向量的归属度值大于所述预设归属度阈值的数据作为目标数据,然后会采用设标签将所述目标数据标记为所述第三目标特征向量对应的类别,即完成了待筛选数据的筛选。其中,预设标签可为#、&等符号,只需能将目标数据进行标记即可。
图4为本发明另一实施例提供的一种基于元学习的数据筛选方法的流程示意图,如图4所示,在本实施例中,本实施例的基于元学习的数据筛选方法包括步骤S300-S350。其中步骤S300-S340与上述实施例中的步骤S200-S240类似,在此不再赘述。下面详细说明本实施例中所增加的步骤S350。
S350、剔除所有未被所述预设标签标记的所述待筛选数据。
在本发明实施例中,若数据筛选结束,待筛选数据都未被预设标签标记,表明该待筛选数据不属于任一待筛选类别,则剔除所有未被预设标签标记的所述待筛选数据。
图5是本发明实施例提供的一种基于元学习的数据筛选模型构建装置200的示意性框图。如图5所示,对应于以上基于元学习的数据筛选模型构建方法,本发明还提供一种基于元学习的数据筛选模型构建装置200。该基于元学习的数据筛选模型构建装置200包括用于执行上述基于元学习的数据筛选模型构建方法的单元,该装置可以被配置于服务器中。具体地,请参阅图5,该基于元学习的数据筛选模型构建装置200包括构造提取单元201、获取单元202、计算单元203以及更新单元204。
其中,构造提取单元201用于用于构造元训练任务,采用特征提取模型提取每个元训练任务的第一特征向量和第二特征向量,其中,每个所述元训练任务包括支持集和查询集,所述第一特征向量为每个所述支持集所包括的训练类别的特征向量,所述第二特征向量为每个所述查询集所包括的训练数据的特征向量;获取单元202用于采用关系模型获取所述第一特征向量和所述第二特征向量拼接之后的归属度值;计算单元203用于基于所述归属度值,采用预设计算公式计算得出所述训练数据的差距值;更新单元204用于基于所述差距值,采用预设方法经过预设次数更新所述特征提取模型及所述关系模型中的参数值以获得所述基于元学习的数据筛选模型。
在某些实施例,例如本实施例中,如图6所示,所述获取单元202包括拼接单元2021及获取子单元2022。
其中,拼接单元2021用于将所述第一特征向量及所述第二特征向量进行拼接以生成第三特征向量;获取子单元2022用于采用关系模型获取所述第三特征向量的归属度值。
在某些实施例,例如本实施例中,如图7所示,所述更新单元204包括更新子单元2041。
其中,更新子单元2041用于基于所述差距值,采用梯度下降优化方法经过预设次数更新所述预设特征提取模型及所述关系模型中的参数值以获得所述基于元学习的数据筛选模型。
图8是本发明实施例提供的一种基于元学习的数据筛选装置300的示意性框图。如图8所示,对应于以上基于元学习的数据筛选方法,本发明还提供一种基于元学习的数据筛选装置300。该基于元学习的数据筛选装置300包括用于执行上述基于元学习的数据筛选方法的单元,该装置可以被配置于服务器中。具体地,请参阅图8,该基于元学习的数据筛选装置300包括第一获取单元301、第二获取单元302、拼接单元303、比较识别单元304以及标记单元305。
其中,第一获取单元301用于获取待筛选类别并将所述待筛选类别输入所述基于元学习的数据筛选模型以提取所述待筛选类别中各类别的特征向量作为第一目标特征向量;第二获取单元302,用于获取待筛选数据并将所述待筛选数据输入所述基于元学习的数据筛选模型以提取所述待筛选数据中各待筛选数据的特征向量作为第二目标特征向量;拼接单元303用于对于每个待筛选数据,将所述第二目标特征向量与各类别的所述第一目标特征向量进行拼接以生成与各待筛选数据对应的第三目标特征向量;比较识别单元304用于将每个待筛选数据的所述第三目标特征向量的归属度值与各类别对应的预设归属度阈值进行比较,以识别出所述第三目标特征向量的归属度值大于所述预设归属度阈值的数据作为目标数据;标记单元305用于采用预设标签将所述目标数据标记为所述第三目标特征向量对应的类别。
图9是本发明另一实施例提供的基于元学习的数据筛选装置300的示意性框图。如图9所示,本实施例的数据筛选装置300是在上述实施例的基础上增加了剔除单元306。
其中,剔除单元306用于剔除所有未被所述预设标签标记的所述待筛选数据。
上述基于元学习的数据筛选模型构建和数据筛选装置可以实现为一种计算机程序的形式,该计算机程序可以在如图10所示的计算机设备上运行。
请参阅图10,图10是本发明实施例提供的一种计算机设备的示意性框图。该计算机设备300为服务器,具体地,服务器可以是独立的服务器,也可以是多个服务器组成的服务器集群。
参阅图10,该计算机设备300包括通过系统总线301连接的处理器302、存储器和网络接口305,其中,存储器可以包括非易失性存储介质503和内存储器304。
该非易失性存储介质303可存储操作系统3031和计算机程序3032。该计算机程序3032被执行时,可使得处理器302执行一种基于元学习的数据筛选模型构建方法。
该处理器302用于提供计算和控制能力,以支撑整个计算机设备300的运行。
该内存储器304为非易失性存储介质303中的计算机程序3032的运行提供环境,该计算机程序3032被处理器302执行时,可使得处理器302执行一种基于元学习的数据筛选模型构建方法。
该网络接口305用于与其它设备进行网络通信。本领域技术人员可以理解,图10中示出的结构,仅仅是与本发明方案相关的部分结构的框图,并不构成对本发明方案所应用于其上的计算机设备300的限定,具体的计算机设备300可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
其中,所述处理器302用于运行存储在存储器中的计算机程序3032,以实现如下步骤:构造元训练任务,采用特征提取模型提取每个元训练任务的第一特征向量和第二特征向量,其中,每个所述元训练任务包括支持集和查询集,所述第一特征向量为每个所述支持集所包括的训练类别的特征向量,所述第二特征向量为每个所述查询集所包括的训练数据的特征向量;采用关系模型获取所述第一特征向量和所述第二特征向量拼接之后的归属度值;基于所述归属度值,采用预设计算公式计算得出所述训练数据的差距值;基于所述差距值,采用预设方法经过预设次数更新所述特征提取模型及所述关系模型中的参数值以获得所述基于元学习的数据筛选模型。
在某些实施例,例如本实施例中,处理器302在实现所述采用关系模型获取所述第一特征向量和所述第二特征向量拼接之后的归属度值步骤时,具体实现如下步骤:将所述第一特征向量及所述第二特征向量进行拼接以生成第三特征向量;采用关系模型获取所述第三特征向量的归属度值。
在某些实施例,例如本实施例中,处理器302在实现所述基于所述差距值,采用预设方法经过预设次数更新所述特征提取模型及所述关系模型中的参数值以获得所述基于元学习的数据筛选模型步骤时,具体实现如下步骤:基于所述差距值,采用梯度下降优化方法经过预设次数更新所述预设特征提取模型及所述关系模型中的参数值以获得所述基于元学习的数据筛选模型。
其中,所述处理器302用于运行存储在存储器中的计算机程序3032,以实现如下步骤:获取待筛选类别并将所述待筛选类别输入所述基于元学习的数据筛选模型以提取所述待筛选类别中各类别的特征向量作为第一目标特征向量;获取待筛选数据并将所述待筛选数据输入所述基于元学习的数据筛选模型以提取所述待筛选数据中各待筛选数据的特征向量作为第二目标特征向量;对于每个待筛选数据,将所述第二目标特征向量与各类别的所述第一目标特征向量进行拼接以生成与各待筛选数据对应的第三目标特征向量;将每个待筛选数据的所述第三目标特征向量的归属度值与各类别对应的预设归属度阈值进行比较,以识别出所述第三目标特征向量的归属度值大于所述预设归属度阈值的数据作为目标数据;采用预设标签将所述目标数据标记为所述第三目标特征向量对应的类别。
在某些实施例,例如本实施例中,处理器302在实现所述采用预设标签将所述目标数据标记为所述第三目标特征向量对应的类别的步骤之后,具体实现还包括如下步骤:剔除所有未被所述预设标签标记的所述待筛选数据。
应当理解,在本发明实施例中,处理器302可以是中央处理单元(CentralProcessing Unit,CPU),该处理器302还可以是其他通用处理器、数字信号处理器(DigitalSignal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。其中,通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
本领域普通技术人员可以理解的是实现上述实施例的方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成。该计算机程序可存储于一存储介质中,该存储介质为计算机可读存储介质。该计算机程序被该计算机系统中的至少一个处理器执行,以实现上述方法的实施例的流程步骤。
因此,本发明还提供一种存储介质。该存储介质可以为计算机可读存储介质。该存储介质存储有计算机程序。该计算机程序被处理器执行时使处理器执行如下步骤:构造元训练任务,采用特征提取模型提取每个元训练任务的第一特征向量和第二特征向量,其中,每个所述元训练任务包括支持集和查询集,所述第一特征向量为每个所述支持集所包括的训练类别的特征向量,所述第二特征向量为每个所述查询集所包括的训练数据的特征向量;采用关系模型获取所述第一特征向量和所述第二特征向量拼接之后的归属度值;基于所述归属度值,采用预设计算公式计算得出所述训练数据的差距值;基于所述差距值,采用预设方法经过预设次数更新所述特征提取模型及所述关系模型中的参数值以获得所述基于元学习的数据筛选模型。
在某些实施例,例如本实施例中,所述处理器在执行所述计算机程序而实现所述采用关系模型获取所述第一特征向量和所述第二特征向量拼接之后的归属度值步骤时,具体实现如下步骤:将所述第一特征向量及所述第二特征向量进行拼接以生成第三特征向量;采用关系模型获取所述第三特征向量的归属度值。
在某些实施例,例如本实施例中,所述处理器在执行所述计算机程序而实现所述基于所述差距值,采用预设方法经过预设次数更新所述特征提取模型及所述关系模型中的参数值以获得所述基于元学习的数据筛选模型步骤时,具体实现如下步骤:基于所述差距值,采用梯度下降优化方法经过预设次数更新所述预设特征提取模型及所述关系模型中的参数值以获得所述基于元学习的数据筛选模型。
该计算机程序被处理器执行时使处理器执行如下步骤:获取待筛选类别并将所述待筛选类别输入所述的基于元学习的数据筛选模型以提取所述待筛选类别中各类别的特征向量作为第一目标特征向量;获取待筛选数据并将所述待筛选数据输入所述基于元学习的数据筛选模型以提取所述待筛选数据中各待筛选数据的特征向量作为第二目标特征向量;对于每个待筛选数据,将所述第二目标特征向量与各类别的所述第一目标特征向量进行拼接以生成与各待筛选数据对应的第三目标特征向量;将每个待筛选数据的所述第三目标特征向量的归属度值与各类别对应的预设归属度阈值进行比较,以识别出所述第三目标特征向量的归属度值大于所述预设归属度阈值的数据作为目标数据;采用预设标签将所述目标数据标记为所述第三目标特征向量对应的类别。
在某些实施例,例如本实施例中,所述处理器在执行所述计算机程序而实现所述采用预设标签将所述目标数据标记为所述第三目标特征向量对应的类别的步骤之后,具体实现还包括如下步骤:剔除所有未被所述预设标签标记的所述待筛选数据。
所述存储介质可以是U盘、移动硬盘、只读存储器(Read-Only Memory,ROM)、磁碟或者光盘等各种可以存储程序代码的计算机可读存储介质。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
在本发明所提供的几个实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的。例如,各个单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。
本发明实施例方法中的步骤可以根据实际需要进行顺序调整、合并和删减。本发明实施例装置中的单元可以根据实际需要进行合并、划分和删减。另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以是两个或两个以上单元集成在一个单元中。
该集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分,或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,终端,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详细描述的部分,可以参见其他实施例的相关描述。
显然,本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样,尚且本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内,则本发明也意图包含这些改动和变型在内。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求的保护范围为准。

Claims (7)

1.一种基于元学习的数据筛选模型构建方法,其特征在于,包括:
构造元训练任务,采用特征提取模型提取每个元训练任务的第一特征向量和第二特征向量,其中,每个所述元训练任务包括支持集和查询集,所述第一特征向量为每个所述支持集所包括的训练类别的特征向量,所述第二特征向量为每个所述查询集所包括的训练数据的特征向量,其中,所述训练数据为图片数据或文本数据,若所述训练数据为图片数据,则采用CNN网络;若所述训练数据为文本数据,则采用BERT和RNN网络;
采用关系模型获取所述第一特征向量和所述第二特征向量拼接之后的归属度值,其中,所述关系模型为比较网络,所述比较网络由全连接网络和sigmoid函数构成;
基于所述归属度值,采用预设计算公式计算得出所述训练数据的差距值;
基于所述差距值,采用预设方法经过预设次数更新所述特征提取模型及所述关系模型中的参数值以获得所述基于元学习的数据筛选模型;
其中,所述采用关系模型获取所述第一特征向量和所述第二特征向量拼接之后的归属度值,包括:
将所述第一特征向量及所述第二特征向量进行拼接以生成第三特征向量;
采用关系模型获取所述第三特征向量的归属度值。
2.根据权利要求1所述的方法,其特征在于,所述基于所述差距值,采用预设方法经过预设次数更新所述特征提取模型及所述关系模型中的参数值以获得所述基于元学习的数据筛选模型,包括:
基于所述差距值,采用梯度下降优化方法经过预设次数更新预设特征提取模型及所述关系模型中的参数值以获得所述基于元学习的数据筛选模型。
3.一种基于元学习的数据筛选方法,其特征在于,包括:
获取待筛选类别并将所述待筛选类别输入如权利要求1-2任一项所述的方法构建的基于元学习的数据筛选模型以提取所述待筛选类别中各类别的特征向量作为第一目标特征向量;
获取待筛选数据并将所述待筛选数据输入所述基于元学习的数据筛选模型以提取所述待筛选数据中各待筛选数据的特征向量作为第二目标特征向量;
对于每个待筛选数据,将所述第二目标特征向量与各类别的所述第一目标特征向量进行拼接以生成与各待筛选数据对应的第三目标特征向量;
将每个待筛选数据的所述第三目标特征向量的归属度值与各类别对应的预设归属度阈值进行比较,以识别出所述第三目标特征向量的归属度值大于所述预设归属度阈值的数据作为目标数据;
采用预设标签将所述目标数据标记为所述第三目标特征向量对应的类别;
剔除所有未被所述预设标签标记的所述待筛选数据。
4.一种基于元学习的数据筛选模型构建装置,其特征在于,包括:
构造提取单元,用于构造元训练任务,采用特征提取模型提取每个元训练任务的第一特征向量和第二特征向量,其中,每个所述元训练任务包括支持集和查询集,所述第一特征向量为每个所述支持集所包括的训练类别的特征向量,所述第二特征向量为每个所述查询集所包括的训练数据的特征向量,其中,所述训练数据为图片数据或文本数据,若所述训练数据为图片数据,则采用CNN网络;若所述训练数据为文本数据,则采用BERT和RNN网络;
获取单元,用于采用关系模型获取所述第一特征向量和所述第二特征向量拼接之后的归属度值,其中,所述关系模型为比较网络,所述比较网络由全连接网络和sigmoid函数构成;
计算单元,用于基于所述归属度值,采用预设计算公式计算得出所述训练数据的差距值;
更新单元,用于基于所述差距值,采用预设方法经过预设次数更新所述特征提取模型及所述关系模型中的参数值以获得所述基于元学习的数据筛选模型;
其中,所述获取单元包括:
拼接单元,用于将所述第一特征向量及所述第二特征向量进行拼接以生成第三特征向量;
获取子单元,用于采用关系模型获取所述第三特征向量的归属度值。
5.一种基于元学习的数据筛选装置,其特征在于,包括:
第一获取单元,用于获取待筛选类别并将所述待筛选类别输入如权利要求1-2任一项所述的方法构建的基于元学习的数据筛选模型以提取所述待筛选类别中各类别的特征向量作为第一目标特征向量;
第二获取单元,用于获取待筛选数据并将所述待筛选数据输入所述基于元学习的数据筛选模型以提取所述待筛选数据中各待筛选数据的特征向量作为第二目标特征向量;
拼接单元,用于对于每个待筛选数据,将所述第二目标特征向量与各类别的所述第一目标特征向量进行拼接以生成与各待筛选数据对应的第三目标特征向量;
比较识别单元,用于将每个待筛选数据的所述第三目标特征向量的归属度值与各类别对应的预设归属度阈值进行比较,以识别出所述第三目标特征向量的归属度值大于所述预设归属度阈值的数据作为目标数据;
标记单元,用于采用预设标签将所述目标数据标记为所述第三目标特征向量对应的类别;
剔除单元,用于剔除所有未被所述预设标签标记的所述待筛选数据。
6.一种计算机设备,其特征在于,所述计算机设备包括存储器及处理器,所述存储器上存储有计算机程序,所述处理器执行所述计算机程序时实现如权利要求1-2中任一项所述的方法或是执行如权利要求3中所述的方法。
7.一种计算机可读存储介质,其特征在于,所述存储介质存储有计算机程序,所述计算机程序当被处理器执行时可实现如权利要求1-2中任一项所述的方法或是执行如权利要求3中所述的方法。
CN202010752915.3A 2020-07-30 2020-07-30 基于元学习的数据筛选模型构建方法、数据筛选方法、装置、计算机设备及存储介质 Active CN111898739B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202010752915.3A CN111898739B (zh) 2020-07-30 2020-07-30 基于元学习的数据筛选模型构建方法、数据筛选方法、装置、计算机设备及存储介质
PCT/CN2020/122637 WO2021139313A1 (zh) 2020-07-30 2020-10-22 基于元学习的数据筛选模型构建方法、数据筛选方法、装置、计算机设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010752915.3A CN111898739B (zh) 2020-07-30 2020-07-30 基于元学习的数据筛选模型构建方法、数据筛选方法、装置、计算机设备及存储介质

Publications (2)

Publication Number Publication Date
CN111898739A CN111898739A (zh) 2020-11-06
CN111898739B true CN111898739B (zh) 2024-02-20

Family

ID=73182706

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010752915.3A Active CN111898739B (zh) 2020-07-30 2020-07-30 基于元学习的数据筛选模型构建方法、数据筛选方法、装置、计算机设备及存储介质

Country Status (2)

Country Link
CN (1) CN111898739B (zh)
WO (1) WO2021139313A1 (zh)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11977602B2 (en) * 2020-11-10 2024-05-07 Nec Corporation Domain generalized margin via meta-learning for deep face recognition
CN112786030B (zh) * 2020-12-30 2022-04-29 中山大学 一种基于元学习的对抗采样训练方法及装置
CN113377990B (zh) * 2021-06-09 2022-06-14 电子科技大学 基于元自步学习的视频/图片-文本跨模态匹配训练方法
CN113806536B (zh) * 2021-09-14 2024-04-16 广州华多网络科技有限公司 文本分类方法及其装置、设备、介质、产品
CN115082955B (zh) * 2022-05-12 2024-04-16 华南理工大学 一种深度学习全局优化方法、识别方法、装置及介质
CN114969293A (zh) * 2022-05-31 2022-08-30 支付宝(杭州)信息技术有限公司 数据处理方法、装置及设备

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109961089A (zh) * 2019-02-26 2019-07-02 中山大学 基于度量学习和元学习的小样本和零样本图像分类方法
CN110232403A (zh) * 2019-05-15 2019-09-13 腾讯科技(深圳)有限公司 一种标签预测方法、装置、电子设备及介质

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160078359A1 (en) * 2014-09-12 2016-03-17 Xerox Corporation System for domain adaptation with a domain-specific class means classifier
US10846308B2 (en) * 2016-07-27 2020-11-24 Anomalee Inc. Prioritized detection and classification of clusters of anomalous samples on high-dimensional continuous and mixed discrete/continuous feature spaces
WO2018077401A1 (en) * 2016-10-26 2018-05-03 Swiss Reinsurance Company Ltd. Data extraction engine for structured, semi-structured and unstructured data with automated labeling and classification of data patterns or data elements therein, and corresponding method thereof
CN110211121B (zh) * 2019-06-10 2021-07-16 北京百度网讯科技有限公司 用于推送模型的方法和装置
CN110766080B (zh) * 2019-10-24 2022-03-08 腾讯医疗健康(深圳)有限公司 一种标注样本确定方法、装置、设备及存储介质
CN111090768A (zh) * 2019-12-17 2020-05-01 杭州深绘智能科技有限公司 一种基于深度卷积神经网络的相似图像检索系统和方法
CN111160469B (zh) * 2019-12-30 2023-08-08 湖南大学 一种目标检测系统的主动学习方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109961089A (zh) * 2019-02-26 2019-07-02 中山大学 基于度量学习和元学习的小样本和零样本图像分类方法
CN110232403A (zh) * 2019-05-15 2019-09-13 腾讯科技(深圳)有限公司 一种标签预测方法、装置、电子设备及介质

Also Published As

Publication number Publication date
CN111898739A (zh) 2020-11-06
WO2021139313A1 (zh) 2021-07-15

Similar Documents

Publication Publication Date Title
CN111898739B (zh) 基于元学习的数据筛选模型构建方法、数据筛选方法、装置、计算机设备及存储介质
CN108683530B (zh) 多维度数据的数据分析方法、装置及存储介质
CN108830329B (zh) 图片处理方法和装置
CN110211119B (zh) 图像质量评估方法、装置、电子设备及可读存储介质
CN112561080B (zh) 样本筛选方法、样本筛选装置及终端设备
CN111914159B (zh) 一种信息推荐方法及终端
CN112862093B (zh) 一种图神经网络训练方法及装置
JP2015087903A (ja) 情報処理装置及び情報処理方法
CN111461164B (zh) 样本数据集的扩容方法及模型的训练方法
CN110135505B (zh) 图像分类方法、装置、计算机设备及计算机可读存储介质
WO2019223104A1 (zh) 确定事件影响因素的方法、装置、终端设备及可读存储介质
CN110929785A (zh) 数据分类方法、装置、终端设备及可读存储介质
US11023720B1 (en) Document parsing using multistage machine learning
CN110765292A (zh) 图像检索方法、训练方法及相关装置
CN112699945A (zh) 数据标注方法及装置、存储介质及电子装置
CN111159481B (zh) 图数据的边预测方法、装置及终端设备
CN112200862B (zh) 目标检测模型的训练方法、目标检测方法及装置
CN107832852B (zh) 数据处理学习方法、系统以及电子设备
CN113032524A (zh) 商标侵权识别方法、终端设备及存储介质
CN110705889A (zh) 一种企业筛选方法、装置、设备及存储介质
CN112861962B (zh) 样本处理方法、装置、电子设备和存储介质
CN115098679A (zh) 文本分类标注样本的异常检测方法、装置、设备及介质
CN112800037A (zh) 工程造价数据处理的优化方法及装置
CN112115996B (zh) 图像数据的处理方法、装置、设备及存储介质
CN112598118B (zh) 有监督学习的标注异常处理方法、装置、存储介质及设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant