CN111860580B - 识别模型获取及类别识别方法、装置及存储介质 - Google Patents
识别模型获取及类别识别方法、装置及存储介质 Download PDFInfo
- Publication number
- CN111860580B CN111860580B CN202010518958.5A CN202010518958A CN111860580B CN 111860580 B CN111860580 B CN 111860580B CN 202010518958 A CN202010518958 A CN 202010518958A CN 111860580 B CN111860580 B CN 111860580B
- Authority
- CN
- China
- Prior art keywords
- category
- data
- vector
- training
- test data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 70
- 239000013598 vector Substances 0.000 claims abstract description 148
- 238000012549 training Methods 0.000 claims abstract description 126
- 238000012360 testing method Methods 0.000 claims abstract description 117
- 230000008569 process Effects 0.000 claims abstract description 21
- 230000015654 memory Effects 0.000 claims description 22
- 238000010276 construction Methods 0.000 claims description 6
- 238000012545 processing Methods 0.000 claims description 5
- 238000011282 treatment Methods 0.000 claims description 5
- 230000006403 short-term memory Effects 0.000 claims description 2
- 230000007787 long-term memory Effects 0.000 claims 1
- 238000013135 deep learning Methods 0.000 abstract description 9
- 238000003058 natural language processing Methods 0.000 abstract description 3
- 238000010586 diagram Methods 0.000 description 9
- 241000405070 Percophidae Species 0.000 description 6
- 238000004590 computer program Methods 0.000 description 6
- 238000004891 communication Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 241000282412 Homo Species 0.000 description 2
- 230000009471 action Effects 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000002372 labelling Methods 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000004883 computer application Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- Mathematical Physics (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Computing Systems (AREA)
- Molecular Biology (AREA)
- General Health & Medical Sciences (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
Abstract
本申请公开了识别模型获取及类别识别方法、装置及存储介质，涉及自然语言处理与深度学习领域，所述识别模型获取方法可包括：训练识别模型，其中，任一轮次的训练过程分别包括：根据已标注类别的小样本数据集中的数据构造元学习任务，其中包括由M条训练数据组成的支撑集以及由N条测试数据组成的样本集，支撑集中的训练数据属于P个不同的类别；针对任一测试数据，分别获取测试数据及各训练数据的特征向量，根据所述特征向量，分别确定出各类别的类别向量，根据测试数据的特征向量及各类别的类别向量，确定出与测试数据相匹配的类别，作为预测出的测试数据所属的类别。应用本申请所述方案，可降低模型对于数据规模的要求等。
Description
技术领域
本申请涉及计算机应用技术，特别涉及自然语言处理与深度学习领域的识别模型获取及类别识别方法、装置及存储介质。
背景技术
目前，深度学习技术已经得到了广泛应用，如可应用于对话系统中。任务型的对话系统通常由对话意图识别和槽位识别任务组成，其中，可通过标注大量的对话样本数据，训练得到对话意图识别模型(即对话意图分类器)，进而可利用对话意图识别模型进行对话意图识别。
但真实的对话场景在冷启动阶段，标注的对话样本数据往往规模很小，即仅存在小样本数据集，而上述方法在小样本数据集下往往存在过拟合的现象，模型性能较差，识别结果的准确性较低，无法满足真实需求。
发明内容
本申请提供了识别模型获取及类别识别方法、装置及存储介质。
一种识别模型获取方法，包括：
训练识别模型，其中，任一轮次的训练过程分别包括以下处理：
根据已标注类别的小样本数据集中的数据构造元学习任务，所述元学习任务中包括由M条训练数据组成的支撑集以及由N条测试数据组成的样本集，所述支撑集中的训练数据属于P个不同类别，M和P均为大于一的正整数，N为正整数；
针对任一测试数据，分别进行以下处理：获取所述测试数据及各训练数据的特征向量；根据所述测试数据及各训练数据的特征向量，分别确定出各类别的类别向量；根据所述测试数据的特征向量及各类别的类别向量，确定出与所述测试数据相匹配的类别，将所述相匹配的类别作为预测出的所述测试数据所属的类别。
一种类别识别方法，包括：
构造元学习测试任务，所述元学习测试任务中包括由已标注类别的数据组成的支撑集以及由待处理的数据组成的样本集；
针对所述元学习测试任务，利用按照上述方法获取到的识别模型，确定出所述待处理的数据所属的类别。
一种识别模型获取装置，包括：获取模块及训练模块；
所述获取模块，用于获取已标注类别的小样本数据集；
所述训练模块，用于训练识别模型，其中，任一轮次的训练过程分别包括以下处理：根据已标注类别的小样本数据集中的数据构造元学习任务，所述元学习任务中包括由M条训练数据组成的支撑集以及由N条测试数据组成的样本集，所述支撑集中的训练数据属于P个不同类别，M和P均为大于一的正整数，N为正整数；针对任一测试数据，分别进行以下处理：获取所述测试数据及各训练数据的特征向量；根据所述测试数据及各训练数据的特征向量，分别确定出各类别的类别向量；根据所述测试数据的特征向量及各类别的类别向量，确定出与所述测试数据相匹配的类别，将所述相匹配的类别作为预测出的所述测试数据所属的类别。
一种类别识别装置，包括：构造模块以及识别模块；
所述构造模块，用于构造元学习测试任务，所述元学习测试任务中包括由已标注类别的数据组成的支撑集以及由待处理的数据组成的样本集；
所述识别模型，用于针对所述元学习测试任务，利用按照上述装置获取到的识别模型，确定出所述待处理的数据所属的类别。
一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行如以上所述的方法。
一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行如以上所述的方法。
一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现如以上所述的方法。
上述申请中的一个实施例具有如下优点或有益效果：通过构造不同的元学习任务，可利用小样本数据集训练得到识别模型，即通过利用构造的大量元学习任务进行训练，使得模型具有快速学习新任务的能力，从而降低了模型对于数据规模的要求，并确保了模型性能等，在实际识别时，识别模型能够对新任务快速适应，不需要再进行任务训练，直接将已标注类别的数据作为支撑集，将待处理的数据作为样本集，并可确保识别结果的准确性等。应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案，不构成对本申请的限定。其中：
图1为本申请所述识别模型获取方法实施例的流程图；
图2为本申请所述识别模型的结构示意图；
图3为本申请所述权重计算过程示意图；
图4为本申请所述类别识别方法实施例的流程图；
图5为本申请所述识别模型获取装置50实施例的组成结构示意图；
图6为本申请所述类别识别装置60实施例的组成结构示意图；
图7为根据本申请实施例所述方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明，其中包括本申请实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本申请的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
另外，应理解，本文中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本文中字符“/”，一般表示前后关联对象是一种“或”的关系。
图1为本申请所述识别模型获取方法实施例的流程图。如图1所示，包括以下具体实现方式。
在101中，训练识别模型，其中，任一轮次的训练过程中分别进行102-103所示处理。
在102中，根据已标注类别的小样本数据集中的数据构造元学习任务(MetaTask)，元学习任务中包括由M条训练数据组成的支撑集(Support Set)以及由N条测试数据组成的样本集(Query Set)，支撑集中的训练数据属于P个不同类别，M和P均为大于一的正整数，N为正整数。
在103中，针对任一测试数据，分别进行以下处理：获取测试数据及各训练数据的特征向量；根据测试数据及各训练数据的特征向量，分别确定出各类别的类别向量；根据测试数据的特征向量及各类别的类别向量，确定出与测试数据相匹配的类别，将相匹配的类别作为预测出的测试数据所属的类别。
传统的深度学习方法需要获取大规模样本数据集，通过大规模样本数据集从头开始训练任务，模型的效果依赖于数据的质量和规模。相比之下，人类拥有一个显著的能力，即可以从少量的样本数据中进行有效学习，比如，人类看到一张鸭嘴兽的照片，能够从中获悉鸭嘴兽的长相特征，即具有了辨别鸭嘴兽的能力，这样，即便之前没有见过鸭嘴兽，当见到真实的鸭嘴兽时，也可以辨别出鸭嘴兽。显然，传统的深度学习方法与人类仅通过少量样本数据即可迅速完成学习的情况相差甚远。
本实施例中提出一种基于小样本的深度学习方法(即小样本学习方法)，可极大地降低模型对于数据规模的要求。
元学习是目前深度学习领域的一个前沿的研究方向，解决的是学习如何学习的问题。本实施例所述基于小样本的深度学习方法以元学习作为理论支撑。
本实施例中，可利用已标注类别的小样本数据集训练识别模型。其中，在进行每一轮次的训练时，均可根据已标注类别的小样本数据集中的数据随机构造一个元学习任务。
每一个元学习任务均可由支撑集和样本集组成，其中，支撑集由M条训练数据组成，样本集由N条测试数据组成，训练数据和测试数据均来自小样本数据集，支撑集中的训练数据属于P个不同类别，M和P均为大于一的正整数，N为正整数，M、P、N的具体取值均可根据实际需要而定。
优选地，P小于L，L为大于一的正整数，表示小样本数据集中的数据所属的类别数，对于P个不同类别中的任一类别，支撑集中可至少包括两条属于该类别的训练数据。
假设小样本数据集中共包含1000条数据，属于20个不同的类别，并假设每个类别下分别包括50条数据，那么每次构造元学习任务时，可任选4个类别，每个类别下任选5条属于该类别的训练数据，组成支撑集，并可选出2条测试数据组成样本集。所述各数值仅为举例说明，并不用于限制本申请的技术方案。
在小样本学习中(FewShot Learning)，将学习任务的类别数称为Way Number，将每个类别下的数据数称为Shot Number。那么，若所构造的元学习任务中，支撑集中的训练数据属于4个不同的类别，每个类别下均包括5条训练数据，则所构造的为4-Ways 5-Shots的任务。优选地，仍以支撑集中的训练数据属于4个不同的类别为例，可构造4-Ways K-Shots的任务，K-Shots表示每一个类别下的训练数据数是非固定变化的，如某一类别下的训练数据数为5，而另一类别下的训练数据数为4等。另外，不同元学习任务中，P的取值也可进行变化。总之，可根据实际需要灵活地构造元学习任务。
在构造完元学习任务之后，针对样本集中的任一测试数据，可分别进行以下处理：获取测试数据及各训练数据的特征向量；根据测试数据及各训练数据的特征向量，分别确定出各类别的类别向量；根据测试数据的特征向量及各类别的类别向量，确定出与测试数据相匹配的类别，将相匹配的类别作为预测出的测试数据所属的类别。
以对话系统为例，上述类别即为对话意图类别，上述识别模型即为对话意图识别模型，小样本数据集中的每条数据可分别为一个或多个句子组成的文本。对话意图识别的本质是一个分类任务，如对于输入的句子，对话意图识别模型需要判断出这个句子是否属于已有的某个对话意图类别。常见的对话意图识别模型实现方法主要分为两大类，一类是基于分类思想的对话意图识别模型，即将句子输入对话意图识别模型后，模型直接输出句子对应的对话意图类别，另一类是基于匹配思想的对话意图识别模型，本实施例中所述的识别模型即基于匹配思想实现。
图2为本申请所述识别模型的结构示意图。如图2所示，识别模型中主要包括三个组成部分，分别为特征提取器、类别向量生成器和关系匹配计算网络。
其中，特征提取器可用于对测试数据及不同类别下的各训练数据进行特征提取，优选地，可选用长短期记忆网络(LSTM，Long Short-Term Memory)模型作为特征提取器，即可将测试数据及各训练数据分别输入LSTM模型，得到输出的特征向量。
LSTM模型是自然语言处理中一种常见的模型，使用了重复神经网络模块的链式形式，对长度不一的时间序列进行建模，并可采用注意力机制，注意力机制是深度学习中的一种常用技术，类似于人类的视觉，通过快速扫描全局，获得需要重点关注的目标区域，也就是所说的注意力焦点，然后对这一区域投入更多的注意力资源，以获取更多所需要关注目标的细节信息，从而抑制其它无用信息。
通过上述方式，可快速准确地获取到测试数据及各训练数据的特征向量。如图2所示，假设支撑集中的训练数据属于4个不同的类别，经过特征提取器后，可分别得到测试数据及4个不同类别中的各训练数据的特征向量。
之后，可根据测试数据及各训练数据的特征向量，分别确定出各类别的类别向量。其中，针对每个类别，可分别根据属于该类别的训练数据的特征向量及测试数据的特征向量，确定出该类别的类别向量。优选地，针对每个类别，可根据测试数据的特征向量分别确定出属于该类别的各训练数据的权重，进而可分别计算属于该类别的各训练数据的特征向量与对应的权重的乘积，将各乘积相加，将相加之和作为该类别的类别向量。
类别向量生成器中可引入注意力层，通过注意力层，可得到各训练数据的权重。具体地，针对属于任一类别的各条训练数据，可分别计算各训练数据的特征向量与测试数据的特征向量之间的余弦相似度，将计算出的余弦相似度进行预定处理后作为各训练数据的权重。所述预定处理可为归一化处理等。
图3为本申请所述权重计算过程示意图。如图3所示，假设某一类别的训练数据中包括训练数据1-训练数据3，计算训练数据1的特征向量与测试数据的特征向量之间的余弦相似度，进行归一化处理后作为训练数据1的权重，计算训练数据2的特征向量与测试数据的特征向量之间的余弦相似度，进行归一化处理后作为训练数据2的权重，计算训练数据3的特征向量与测试数据的特征向量之间的余弦相似度，进行归一化处理后作为训练数据3的权重，在分别获取到训练数据1、训练数据2和训练数据3的权重后，分别计算训练数据1的特征向量与对应的权重的乘积、训练数据2的特征向量与对应的权重的乘积以及训练数据3的特征向量与对应的权重的乘积，并将3个乘积相加，将相加之和作为该类别的类别向量。
在分别获取到各类别的类别向量后，可进一步根据测试数据的特征向量及各类别的类别向量，确定出与测试数据相匹配的类别，进而可将相匹配的类别作为预测出的测试数据所属的类别。
其中，针对每个类别，可分别将该类别的类别向量与测试数据的特征向量组成向量对，并可分别获取各向量对的匹配评分，将评分最高的向量对中的类别向量对应的类别作为与测试数据相匹配的类别。
如图2所示，假设支撑集中的训练数据属于4个不同的类别，那么可得到4个类别向量，分别为类型向量1-类别向量4，分别将类型向量1-类别向量4与测试数据的特征向量组成向量对，从而得到以下4个向量对：(类别向量1，测试数据的特征向量)、(类别向量2，测试数据的特征向量)、(类别向量3，测试数据的特征向量)及(类别向量4，测试数据的特征向量)，关系匹配计算网络可分别对4个向量对进行评分，进而可选出评分最高的向量对，将评分最高的向量对中的类别向量对应的类别作为与测试数据相匹配的类别，如选出的评分最高的向量对为(类别向量2，测试数据的特征向量)，那么则可将类别向量2对应的类别作为与测试数据相匹配的类别，进而可将相匹配的类别作为预测出的测试数据所属的类别。
可使用全连接层等搭建关系匹配计算网络。所述评分的取值可在0-1之间。在实际应用中，如何对向量对进行评分不作限制。
识别模型训练过程中的每一轮次都会随机构造一个元学习任务，并进行一次网络前向传播和误差反向传播(即反向误差梯度更新)。通常，每次构造的云学习任务都不同，模型训练的每一轮次学习目标也不同。
本实施例所述方法中，通过构造不同的元学习任务，可利用小样本数据集训练得到识别模型，即通过利用构造的大量不同元学习任务进行训练，使得模型具有快速学习新任务的能力，从而降低了模型对于数据规模的要求，并确保了模型性能等。
图4为本申请所述类别识别方法实施例的流程图。如图4所示，包括以下具体实现方式。
在401中，构造元学习测试任务(Meta-Testing Task)，元学习测试任务中包括由已标注类别的数据组成的支撑集以及由待处理的数据组成的样本集。
在402中，针对元学习测试任务，利用预先训练得到的识别模型，确定出待处理的数据所属的类别。
预先训练得到的识别模型可为按照图1所示方法训练得到的识别模型。本实施例中，对于识别模型，仅进行网络前向传播，不涉及反向误差传播。
对于任一用户来说，当使用本申请所述识别模型进行实际识别/预测时，可将已有的标注数据即已标注类别的数据作为支撑集，将待处理的数据作为样本集，分别获取待处理的数据及支撑集中的各数据的特征向量，并获取各类别的类别向量，各类别的类别向量分别与待处理的数据的特征向量组成向量对，分别获取各向量对的匹配评分，最终将评分最高的向量对中的类别向量对应的类别作为待处理的数据所属的类别。
可以看出，在实际识别时，识别模型能够对新任务快速适应，不需要再进行任务训练，直接将已标注类别的数据作为支撑集，将待处理的数据作为样本集，并可确保识别结果的准确性等。
需要说明的是，对于前述的各方法实施例，为了简单描述，将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本申请并不受所描述的动作顺序的限制，因为依据本申请，某些步骤可以采用其它顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于优选实施例，所涉及的动作和模块并不一定是本申请所必须的。另外，某个实施例中没有详述的部分，可以参见其它实施例中的相关说明。
以上是关于方法实施例的介绍，以下通过装置实施例，对本申请所述方案进行进一步说明。
图5为本申请所述识别模型获取装置50实施例的组成结构示意图。如图5所示，包括：获取模块501及训练模块502。
获取模块501，用于获取已标注类别的小样本数据集。
训练模块502，用于训练识别模型，其中，任一轮次的训练过程分别包括以下处理：根据已标注类别的小样本数据集中的数据构造元学习任务，元学习任务中包括由M条训练数据组成的支撑集以及由N条测试数据组成的样本集，支撑集中的训练数据属于P个不同类别，M和P均为大于一的正整数，N为正整数；针对任一测试数据，分别进行以下处理：获取测试数据及各训练数据的特征向量；根据测试数据及各训练数据的特征向量，分别确定出各类别的类别向量；根据测试数据的特征向量及各类别的类别向量，确定出与测试数据相匹配的类别，将相匹配的类别作为预测出的测试数据所属的类别。
优选地，P小于L，L为大于一的正整数，表示小样本数据集中的数据所属的类别数，对于P个不同类别中的任一类别，支撑集中至少包括两条属于该类别的训练数据。
训练模块502可将测试数据及各训练数据分别输入LSTM模型，得到输出的特征向量。
训练模块502可针对任一类别，分别根据属于该类别的训练数据的特征向量及测试数据的特征向量，确定出该类别的类别向量。
具体地，训练模块502可针对任一类别，分别根据测试数据的特征向量确定出属于该类别的各训练数据的权重，并分别计算属于该类别的各训练数据的特征向量与对应的权重的乘积，将各乘积相加，将相加之和作为该类别的类别向量。其中，训练模块502可针对任一属于该类别的训练数据，分别计算测试数据的特征向量与该训练数据的特征向量之间的余弦相似度，将所述余弦相似度进行预定处理后作为该训练数据的权重。
训练模块502针对任一类别，还可分别将该类别的类别向量与测试数据的特征向量组成向量对，分别获取各向量对的匹配评分，将评分最高的向量对中的类别向量对应的类别作为与测试数据相匹配的类别。
识别模型训练过程中的每一轮次都会随机构造一个元学习任务，并进行一次网络前向传播和误差反向传播。
图6为本申请所述类别识别装置60实施例的组成结构示意图。如图6所示，包括：构造模块601以及识别模块602。
构造模块601，用于构造元学习测试任务，元学习测试任务中包括由已标注类别的数据组成的支撑集以及由待处理的数据组成的样本集。
识别模型602，用于针对元学习测试任务，利用按照图5所示装置获取到的识别模型，确定出待处理的数据所属的类别。
图5和图6所示装置实施例的具体工作流程请参照前述方法实施例中的相关说明，不再赘述。
总之，采用本申请装置实施例所述方案，通过构造不同的元学习任务，可利用小样本数据集训练得到识别模型，即通过利用构造的大量不同元学习任务进行训练，使得模型具有快速学习新任务的能力，从而降低了模型对于数据规模的要求，并确保了模型性能等，在实际识别时，识别模型能够对新任务快速适应，不需要再进行任务训练，直接将已标注类别的数据作为支撑集，将待处理的数据作为样本集，并可确保识别结果的准确性等。
根据本申请的实施例，本申请还提供了一种电子设备和一种可读存储介质。
如图7所示，是根据本申请实施例所述方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图7所示，该电子设备包括：一个或多个处理器Y01、存储器Y02，以及用于连接各部件的接口，包括高速接口和低速接口。各个部件利用不同的总线互相连接，并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理，包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如，耦合至接口的显示设备)上显示图形用户界面的图形信息的指令。在其它实施方式中，若需要，可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样，可以连接多个电子设备，各个设备提供部分必要的操作(例如，作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图7中以一个处理器Y01为例。
存储器Y02即为本申请所提供的非瞬时计算机可读存储介质。其中，所述存储器存储有可由至少一个处理器执行的指令，以使所述至少一个处理器执行本申请所提供的方法。本申请的非瞬时计算机可读存储介质存储计算机指令，该计算机指令用于使计算机执行本申请所提供的方法。
存储器Y02作为一种非瞬时计算机可读存储介质，可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块，如本申请实施例中的方法对应的程序指令/模块。处理器Y01通过运行存储在存储器Y02中的非瞬时软件程序、指令以及模块，从而执行服务器的各种功能应用以及数据处理，即实现上述方法实施例中的方法。
存储器Y02可以包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需要的应用程序；存储数据区可存储根据电子设备的使用所创建的数据等。此外，存储器Y02可以包括高速随机存取存储器，还可以包括非瞬时存储器，例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中，存储器Y02可选包括相对于处理器Y01远程设置的存储器，这些远程存储器可以通过网络连接至电子设备。上述网络的实例包括但不限于互联网、企业内部网、区块链网络、局域网、移动通信网及其组合。
电子设备还可以包括：输入装置Y03和输出装置Y04。处理器Y01、存储器Y02、输入装置Y03和输出装置Y04可以通过总线或者其他方式连接，图7中以通过总线连接为例。
输入装置Y03可接收输入的数字或字符信息，以及产生与电子设备的用户设置以及功能控制有关的键信号输入，例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置Y04可以包括显示设备、辅助照明装置和触觉反馈装置(例如，振动电机)等。该显示设备可以包括但不限于，液晶显示器、发光二极管显示器和等离子体显示器。在一些实施方式中，显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用集成电路、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令，并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的，术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如，磁盘、光盘、存储器、可编程逻辑装置)，包括，接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，阴极射线管或者液晶显示器监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网、广域网、区块链网络和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本申请公开的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本申请保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等，均应包含在本申请保护范围之内。
Claims (12)
1.一种识别模型获取方法，包括：
训练识别模型，其中，任一轮次的训练过程分别包括以下处理：
根据已标注类别的小样本数据集中的数据构造元学习任务，所述元学习任务中包括由M条训练数据组成的支撑集以及由N条测试数据组成的样本集，所述支撑集中的训练数据属于P个不同类别，M和P均为大于一的正整数，N为正整数；其中，所述识别模型为对话意图识别模型，所述小样本数据集中的每条数据分别为文本；
针对任一测试数据，分别进行以下处理：获取所述测试数据及各训练数据的特征向量；根据所述测试数据及各训练数据的特征向量，分别确定出各类别的类别向量，包括：针对任一类别，对于任一属于所述类别的训练数据，分别计算所述测试数据的特征向量与所述训练数据的特征向量之间的余弦相似度，将所述余弦相似度进行预定处理后作为所述训练数据的权重，分别计算属于所述类别的各训练数据的特征向量与对应的权重的乘积，将各乘积相加，将相加之和作为所述类别的类别向量；根据所述测试数据的特征向量及各类别的类别向量，确定出与所述测试数据相匹配的类别，将所述相匹配的类别作为预测出的所述测试数据所属的类别。
2.根据权利要求1所述的方法，其中，P小于L，L为大于一的正整数，表示所述小样本数据集中的数据所属的类别数，对于所述P个不同类别中的任一类别，所述支撑集中至少包括两条属于所述类别的训练数据。
3.根据权利要求1所述的方法，其中，所述获取所述测试数据及各训练数据的特征向量包括：
将所述测试数据及各训练数据分别输入长短期记忆网络模型，得到输出的特征向量。
4.根据权利要求1所述的方法，其中，所述根据所述测试数据的特征向量及各类别的类别向量，确定出与所述测试数据相匹配的类别包括：
针对任一类别，分别将所述类别的类别向量与所述测试数据的特征向量组成向量对；
分别获取各向量对的匹配评分，将评分最高的向量对中的类别向量对应的类别作为与所述测试数据相匹配的类别。
5.一种类别识别方法，包括：
构造元学习测试任务，所述元学习测试任务中包括由已标注类别的数据组成的支撑集以及由待处理的数据组成的样本集；
针对所述元学习测试任务，利用按照权利要求1-4中任一项所述的方法获取到的识别模型，确定出所述待处理的数据所属的类别。
6.一种识别模型获取装置，包括：获取模块及训练模块；
所述获取模块，用于获取已标注类别的小样本数据集；其中，所述识别模型为对话意图识别模型，所述小样本数据集中的每条数据分别为文本；
所述训练模块，用于训练识别模型，其中，任一轮次的训练过程分别包括以下处理：根据已标注类别的小样本数据集中的数据构造元学习任务，所述元学习任务中包括由M条训练数据组成的支撑集以及由N条测试数据组成的样本集，所述支撑集中的训练数据属于P个不同类别，M和P均为大于一的正整数，N为正整数；针对任一测试数据，分别进行以下处理：获取所述测试数据及各训练数据的特征向量；根据所述测试数据及各训练数据的特征向量，分别确定出各类别的类别向量，包括：针对任一类别，对于任一属于所述类别的训练数据，分别计算所述测试数据的特征向量与所述训练数据的特征向量之间的余弦相似度，将所述余弦相似度进行预定处理后作为所述训练数据的权重，分别计算属于所述类别的各训练数据的特征向量与对应的权重的乘积，将各乘积相加，将相加之和作为所述类别的类别向量；根据所述测试数据的特征向量及各类别的类别向量，确定出与所述测试数据相匹配的类别，将所述相匹配的类别作为预测出的所述测试数据所属的类别。
7.根据权利要求6所述的装置，其中，P小于L，L为大于一的正整数，表示所述小样本数据集中的数据所属的类别数，对于所述P个不同类别中的任一类别，所述支撑集中至少包括两条属于所述类别的训练数据。
8.根据权利要求6所述的装置，其中，所述训练模块将所述测试数据及各训练数据分别输入长短期记忆网络模型，得到输出的特征向量。
9.根据权利要求6所述的装置，其中，所述训练模块针对任一类别，分别将所述类别的类别向量与所述测试数据的特征向量组成向量对，分别获取各向量对的匹配评分，将评分最高的向量对中的类别向量对应的类别作为与所述测试数据相匹配的类别。
10.一种类别识别装置，包括：构造模块以及识别模块；
所述构造模块，用于构造元学习测试任务，所述元学习测试任务中包括由已标注类别的数据组成的支撑集以及由待处理的数据组成的样本集；
所述识别模型，用于针对所述元学习测试任务，利用按照权利要求6-9中任一项所述的装置获取到的识别模型，确定出所述待处理的数据所属的类别。
11.一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-5中任一项所述的方法。
12.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行权利要求1-5中任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010518958.5A CN111860580B (zh) | 2020-06-09 | 2020-06-09 | 识别模型获取及类别识别方法、装置及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010518958.5A CN111860580B (zh) | 2020-06-09 | 2020-06-09 | 识别模型获取及类别识别方法、装置及存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN111860580A CN111860580A (zh) | 2020-10-30 |
| CN111860580B true CN111860580B (zh) | 2024-02-20 |
Family
ID=72987312
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202010518958.5A Active CN111860580B (zh) | 2020-06-09 | 2020-06-09 | 识别模型获取及类别识别方法、装置及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN111860580B (zh) |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112560505A (zh) * | 2020-12-09 | 2021-03-26 | 北京百度网讯科技有限公司 | 一种对话意图的识别方法、装置、电子设备及存储介质 |
| CN112528662A (zh) * | 2020-12-15 | 2021-03-19 | 深圳壹账通智能科技有限公司 | 基于元学习的实体类别识别方法、装置、设备和存储介质 |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2019016122A (ja) * | 2017-07-06 | 2019-01-31 | 日本放送協会 | モデル学習装置、情報判定装置およびそれらのプログラム |
| CN109961089A (zh) * | 2019-02-26 | 2019-07-02 | 中山大学 | 基于度量学习和元学习的小样本和零样本图像分类方法 |
| CN110020682A (zh) * | 2019-03-29 | 2019-07-16 | 北京工商大学 | 一种基于小样本学习的注意力机制关系对比网络模型方法 |
| CN110569886A (zh) * | 2019-08-20 | 2019-12-13 | 天津大学 | 一种双向通道注意力元学习的图像分类方法 |
| CN110909224A (zh) * | 2019-11-22 | 2020-03-24 | 浙江大学 | 一种基于人工智能的敏感数据自动分类识别方法及系统 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109919317A (zh) * | 2018-01-11 | 2019-06-21 | 华为技术有限公司 | 一种机器学习模型训练方法和装置 |
-
2020
- 2020-06-09 CN CN202010518958.5A patent/CN111860580B/zh active Active
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2019016122A (ja) * | 2017-07-06 | 2019-01-31 | 日本放送協会 | モデル学習装置、情報判定装置およびそれらのプログラム |
| CN109961089A (zh) * | 2019-02-26 | 2019-07-02 | 中山大学 | 基于度量学习和元学习的小样本和零样本图像分类方法 |
| CN110020682A (zh) * | 2019-03-29 | 2019-07-16 | 北京工商大学 | 一种基于小样本学习的注意力机制关系对比网络模型方法 |
| CN110569886A (zh) * | 2019-08-20 | 2019-12-13 | 天津大学 | 一种双向通道注意力元学习的图像分类方法 |
| CN110909224A (zh) * | 2019-11-22 | 2020-03-24 | 浙江大学 | 一种基于人工智能的敏感数据自动分类识别方法及系统 |
Non-Patent Citations (2)
| Title |
|---|
| Learning to Propagate for Graph Meta-Learning;Lu Liu等;《NeurIPS 2019》;第1-12页 * |
| 任务相关的图像小样本深度学习分类方法研究;陈晨;王亚立;乔宇;;集成技术(03);全文 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN111860580A (zh) | 2020-10-30 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111625635B (zh) | 问答处理方法、装置、设备及存储介质 | |
| CN111709247B (zh) | 数据集处理方法、装置、电子设备和存储介质 | |
| CN111639710A (zh) | 图像识别模型训练方法、装置、设备以及存储介质 | |
| EP3937032A1 (en) | Search result determination method, device, apparatus, and computer storage medium | |
| CN111104514B (zh) | 文档标签模型的训练方法及装置 | |
| CN110674314B (zh) | 语句识别方法及装置 | |
| CN110991196B (zh) | 多义词的翻译方法、装置、电子设备及介质 | |
| CN111767379A (zh) | 图像问答方法、装置、设备以及存储介质 | |
| CN111259671B (zh) | 文本实体的语义描述处理方法、装置及设备 | |
| JP7309798B2 (ja) | 対話意図の認識方法及び装置、電子機器並びに記憶媒体 | |
| CN112001180A (zh) | 多模态预训练模型获取方法、装置、电子设备及存储介质 | |
| US20210397791A1 (en) | Language model training method, apparatus, electronic device and readable storage medium | |
| US20210200813A1 (en) | Human-machine interaction method, electronic device, and storage medium | |
| CN111949814A (zh) | 搜索方法、装置、电子设备和存储介质 | |
| CN111079945B (zh) | 端到端模型的训练方法及装置 | |
| CN112507702B (zh) | 文本信息的抽取方法、装置、电子设备及存储介质 | |
| CN111860580B (zh) | 识别模型获取及类别识别方法、装置及存储介质 | |
| CN111782785B (zh) | 自动问答方法、装置、设备以及存储介质 | |
| CN111522944A (zh) | 用于输出信息的方法、装置、设备以及存储介质 | |
| CN111241838A (zh) | 文本实体的语义关系处理方法、装置及设备 | |
| CN111666771A (zh) | 文书的语义标签抽取、装置、电子设备及可读存储介质 | |
| CN112270169B (zh) | 对白角色预测方法、装置、电子设备及存储介质 | |
| CN111966782B (zh) | 多轮对话的检索方法、装置、存储介质及电子设备 | |
| CN112529180A (zh) | 模型蒸馏的方法和装置 | |
| CN110674262B (zh) | 词语识别方法、装置、电子设备和介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |