CN112560928B - 负样本挖掘方法、装置、电子设备及存储介质 - Google Patents
负样本挖掘方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN112560928B CN112560928B CN202011445714.5A CN202011445714A CN112560928B CN 112560928 B CN112560928 B CN 112560928B CN 202011445714 A CN202011445714 A CN 202011445714A CN 112560928 B CN112560928 B CN 112560928B
- Authority
- CN
- China
- Prior art keywords
- matrix
- queries
- training
- samples
- processor
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 44
- 238000005065 mining Methods 0.000 title claims abstract description 22
- 238000012549 training Methods 0.000 claims abstract description 98
- 238000012545 processing Methods 0.000 claims abstract description 15
- 239000011159 matrix material Substances 0.000 claims description 138
- 230000007480 spreading Effects 0.000 claims description 55
- 239000013598 vector Substances 0.000 claims description 31
- 239000013604 expression vector Substances 0.000 claims description 21
- 230000015654 memory Effects 0.000 claims description 20
- 230000007246 mechanism Effects 0.000 claims description 6
- 230000009977 dual effect Effects 0.000 claims 1
- 230000008713 feedback mechanism Effects 0.000 claims 1
- 230000000694 effects Effects 0.000 abstract description 7
- 238000013473 artificial intelligence Methods 0.000 abstract description 6
- 238000013135 deep learning Methods 0.000 abstract description 4
- 238000003058 natural language processing Methods 0.000 abstract description 4
- 238000005516 engineering process Methods 0.000 description 9
- 230000008569 process Effects 0.000 description 9
- 238000010586 diagram Methods 0.000 description 8
- 238000004590 computer program Methods 0.000 description 6
- 238000004891 communication Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 239000011324 bead Substances 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000002776 aggregation Effects 0.000 description 1
- 238000004220 aggregation Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000017105 transposition Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Physics & Mathematics (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Medical Informatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请公开了负样本挖掘方法、装置、电子设备及存储介质，涉及深度学习及自然语言处理等人工智能领域，其中的方法可包括：在利用至少两个图形处理器进行多机模型训练时，任一图形处理器分别进行以下处理：在任一训练批次内，分别将训练批次内的各查询作为待处理查询；针对各待处理查询，分别将训练批次内除待处理查询外的其它各查询以及除自身外的其它各图形处理器对应的训练批次内的各查询作为关联查询，将各关联查询对应的样本作为待处理查询对应的弱负样本，对应的样本包括正样本和/或强负样本。应用本申请所述方案，可提升模型训练效果及数据利用率等。
Description
技术领域
本申请涉及人工智能技术领域，特别涉及深度学习及自然语言处理领域的负样本挖掘方法、装置、电子设备及存储介质。
背景技术
负样本挖掘(或称为负例挖掘)是深度语义匹配问题上的核心问题。在搜索业务中，语义匹配问题可以看作是一项排序任务，对应给定的查询(query)，希望通过语义匹配模型的计算，使得相关的文档(Document)即正样本的得分越高，排序越靠前，反之，希望不相关的文档即负样本的得分越低，排序越靠后，因此，在语义匹配模型的训练中，不可避免地会使用到负样本。
通常，会将用户点击的文档作为正样本，将用户未点击的文档作为强负样本。但除了强负样本之外，还需要挖掘弱负样本，以提升模型训练效果等。
另外，为提升训练效率等，目前通常采用多机模型训练方式，即可利用多个图形处理器(GPU，Graphics Processing Unit)基于数据并行的训练语义匹配模型。而对于这种场景下如何挖掘弱负样本，目前还没有一种较好的实现方式。
发明内容
本申请提供了负样本挖掘方法、装置、电子设备及存储介质。
一种负样本挖掘方法，包括：
在利用至少两个图形处理器进行多机模型训练时，所述至少两个图形处理器中的任一图形处理器分别进行以下处理：
在任一训练批次内，分别将所述训练批次内的各查询作为待处理查询；针对各待处理查询，分别将所述训练批次内除所述待处理查询外的其它各查询以及除自身外的其它各图形处理器对应的训练批次内的各查询作为关联查询，将各关联查询对应的样本作为所述待处理查询对应的弱负样本，所述对应的样本包括正样本和/或强负样本。
一种负样本挖掘装置，所述装置应用于利用至少两个图形处理器进行多机模型训练时的任一图形处理器中，包括：
样本挖掘模块，用于在任一训练批次内，分别将所述训练批次内的各查询作为待处理查询，针对各待处理查询，分别将所述训练批次内除所述待处理查询外的其它各查询以及除所在图形处理器外的其它各图形处理器对应的训练批次内的各查询作为关联查询，将各关联查询对应的样本作为所述待处理查询对应的弱负样本，所述对应的样本包括正样本和/或强负样本。
一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行如以上所述的方法。
一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使计算机执行如以上所述的方法。
一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现如以上所述的方法。
上述申请中的一个实施例具有如下优点或有益效果：在多机模型训练时，每个训练批次内，对于任一图形处理器的任一查询来说，可分别将训练批次内的其它各查询以及其它各图形处理器对应的训练批次内的各查询对应的正样本和/或强负样本作为该查询的弱负样本，从而实现了弱负样本的自动挖掘，进而提升了模型训练效果以及数据利用率等。
应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案，不构成对本申请的限定。其中：
图1为本申请所述负样本挖掘方法实施例的流程图；
图2为本申请所述通过Allgather方式进行表示向量汇聚的过程示意图；
图3为本申请所述双流损失梯度回传机制的实现过程示意图；
图4为本申请所述负样本挖掘装置实施例40的组成结构示意图；
图5为根据本申请实施例所述方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明，其中包括本申请实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本申请的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
另外，应理解，本文中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本文中字符“/”，一般表示前后关联对象是一种“或”的关系。
图1为本申请所述负样本挖掘方法实施例的流程图。如图1所示，包括以下具体实现方式。
在步骤101中，在利用至少两个图形处理器进行多机模型训练时，至少两个图形处理器中的任一图形处理器分别按照步骤102-步骤103所示方式进行处理。
假设共存在4个图形处理器，分别为图形处理器0-图形处理器3，在多机模型训练时，每个图形处理器均可按照步骤102-步骤103所示方式进行处理。
在步骤102中，在任一训练批次(batch)内，分别将训练批次内的各查询作为待处理查询。
每个训练批次内可包括多个查询，每个查询可分别对应一个正样本和一个强负样本。
在步骤103中，针对各待处理查询，分别将训练批次内除待处理查询外的其它各查询以及除自身外的其它各图形处理器对应的训练批次内的各查询作为关联查询，将各关联查询对应的样本作为待处理查询对应的弱负样本，对应的样本包括正样本和/或强负样本。
假设各图形处理器对应的训练批次内均包括5个查询，那么共存在20个查询，以图形处理器2为例，在每个训练批次内，对于其中的任一查询如查询3，可将图形处理器2对应的训练批次内的其它4个查询以及图形处理器0、图形处理器1和图形处理器3对应的训练批次内的共15个查询作为关联查询，从而得到19个关联查询，进而可将这19个关联查询对应的样本作为图形处理器2的查询3对应的弱负样本。
对应的样本可包括正样本和/或强负样本。也就是说，可以仅将关联查询对应的正样本作为挖掘出的弱负样本，也可以仅将关联查询对应的强负样本作为挖掘出的弱负样本，还可以同时将关联查询对应的正样本和强负样本作为挖掘出的弱负样本。优选地，可采用最后一种方式。
可以看出，上述方法实施例所述方案中，在多机模型训练时，每个训练批次内，对于任一图形处理器的任一查询来说，可分别将训练批次内的其它各查询以及其它各图形处理器对应的训练批次内的各查询对应的正样本和/或强负样本作为该查询的弱负样本，从而实现了弱负样本的自动挖掘，进而提升了模型训练效果以及数据利用率等。
本申请所述方案中，对于任一图形处理器来说，还可分别获取训练批次内的各查询及对应的样本的表示向量，并可分别获取除自身外的其它各图形处理器对应的训练批次内的各查询及对应的样本的表示向量，根据获取到各查询及对应的样本的表示向量生成得分矩阵，进而可根据生成的得分矩阵确定损失(loss)。
假设用于进行多机模型训练的图形处理器的数量为n，n为大于一的正整数，定义单个图形处理器上的批次大小(batch size)为B，则总的批次大小为n*B。假设查询、正样本和强负样本的表示向量的维度均为H，H为大于一的正整数，如何获取表示向量为现有技术。那么对于任一图形处理器来说，针对任一训练批次，可分别得到该训练批次内的各查询(B个查询)的表示向量，以及各查询分别对应的正样本和强负样本的表示向量。
另外，图形处理器可通过全局收集(Allgather)的方式获取除自身外的其它各图形处理器对应的训练批次内的各查询及对应的样本的表示向量。即不同的图形处理器可分别将自身的表示向量向其它图形处理器进行广播，从而将不同图形处理器中的不同训练批次的表示向量汇聚到一起。该方式的实现简单方便，能够快速高效地完成所述汇聚。
图2为本申请所述通过Allgather方式进行表示向量汇聚的过程示意图。如图2所示，假设共有四个图形处理器，分别为图形处理器0-图形处理器3，其中的in0表示图形处理器0对应的表示向量，其它类推，out表示汇聚后的表示向量。
优选地，可分别利用同一图形处理器对应的训练批次内的各查询的表示向量组成B行H列的第一矩阵，B表示训练批次内的查询的数量，H表示表示向量的维度，并可将各图形处理器对应的第一矩阵按预定顺序进行组合，得到n*B行H列的第一扩展矩阵，n表示用于进行多机模型训练的图形处理器的数量。
第一矩阵中的每一行分别对应于一个查询，即为对应的查询的表示向量。第一矩阵为[B，H]大小的矩阵，第一扩展矩阵为[n*B，H]大小的矩阵。将各图形处理器对应的第一矩阵按照何种顺序进行组合可根据实际需要而定，另外，各图形处理器可按照同样的顺序进行组合。
类似地，可分别利用同一图形处理器对应的训练批次内的各查询对应的正样本的表示向量组成B行H列的第二矩阵，并可将各图形处理器对应的第二矩阵按预定顺序进行组合，得到n*B行H列的第二扩展矩阵。和/或，分别利用同一图形处理器对应的训练批次内的各查询对应的强负样本的表示向量组成B行H列的第三矩阵，并可将各图形处理器对应的第三矩阵按预定顺序进行组合，得到n*B行H列的第三扩展矩阵。优选地，可分别获取第二扩展矩阵以及第三扩展矩阵。
根据得到的第一扩展矩阵、第二扩展矩阵和第三扩展矩阵，可进一步得到得分矩阵。对于不同的图形处理器来说，其得到的第一扩展矩阵都是相同的，得到的第二扩展矩阵也都是相同的，得到的第三扩展矩阵也都是相同的。
可计算第一扩展矩阵与第二扩展矩阵的转置的乘积，将得到的矩阵作为得分矩阵，和/或，计算第一扩展矩阵与第三扩展矩阵的转置的乘积，将得到的矩阵作为得分矩阵。优选地，可分别计算第一扩展矩阵与第二扩展矩阵的转置的乘积以及第一扩展矩阵与第三扩展矩阵的转置的乘积。
以计算第一扩展矩阵与第二扩展矩阵的转置的乘积得到的得分矩阵score_weak_neg’为例，score_weak_neg’＝matmul(第一扩展矩阵,第二扩展矩阵的转置)，其中，matmul表示矩阵相乘。
假设各扩展矩阵均为[n*B，H]大小，那么得到的得分矩阵将为[n*B，n*B]大小。
之后，还可根据得到的得分矩阵确定损失，并可根据确定出的损失进行模型参数更新等，如何确定损失及如何进行模型参数更新均为现有技术。
通过上述方式，可结合挖掘出的弱负样本进行模型的训练，从而提升了模型训练效果以及数据利用率等。
另外，通过Allgather从其它图形处理器处汇聚而来的表示向量是不包含梯度信息的，比如，图形处理器1向图形处理器2广播了表示向量a，那么表示向量a在图形处理器2上是没有梯度信息的，这样在训练过程中可以极大地减小对于显存的占用等。也就是说，通过汇聚后，每个图形处理器均可获取到所有图形处理器对应的表示向量，但只有自身对应的表示向量是具有梯度信息的。
因此，本申请中提出，各图形处理器还可通过双流损失梯度回传机制获取完整的梯度信息。
具体地，对于任一图形处理器来说，图形处理器可计算对应的第一矩阵与第五扩展矩阵的转置的乘积，第五扩展矩阵等同于不包含梯度信息的第二扩展矩阵，并计算第四扩展矩阵与图形处理器对应的第二矩阵的转置的乘积，第四扩展矩阵等同于不包含梯度信息的第一扩展矩阵，将计算出的乘积相加。和/或，图形处理器可计算对应的第一矩阵与第六扩展矩阵的转置的乘积，第六扩展矩阵等同于不包含梯度信息的第三扩展矩阵，并计算第四扩展矩阵与图形处理器对应的第三矩阵的转置的乘积，将计算出的乘积相加。优选地，可分别进行上述两种处理。
图3为本申请所述双流损失梯度回传机制的实现过程示意图。
如图3所示，假设共有四个图形处理器，分别为图形处理器0-图形处理器3，以图形处理器0为例，通过Allgather的方式汇聚了向量/矩阵P＝(P0’，P1’，P2’，P3’)，P不含有梯度信息，P0’表示图形处理器0对应的第二矩阵中不含有梯度信息的各向量，P1’表示图形处理器1对应的第二矩阵中不含有梯度信息的各向量，其它类推。
假设Q0为图形处理器0对应的第一矩阵，含有梯度信息，因此Q0*P是只具有一半的梯度信息的，如图3中左侧所示。
同理，图形处理器0通过Allgather的方式汇聚了向量/矩阵Q＝(Q0’，Q1’，Q2’，Q3’)，Q不含有梯度信息，Q0’表示图形处理器0对应的第一矩阵中不含有梯度信息的各向量，Q1’表示图形处理器1对应的第一矩阵中不含有梯度信息的各向量，其它类推。
假设P0为图形处理器0对应的第二矩阵，含有梯度信息，因此Q*P0也是只具有一半的梯度信息的，如图3中右侧所示。
那么，通过Q0*P0’+Q0’*P0就可以获得完整的梯度，与Q0*P0的梯度一致，同理，通过Q0*P1’+Q1’*P0就可以获得完整的梯度，与Q0*P1的梯度一致，类似地，Q0*P2、Q0*P3等均可以获得完整的梯度信息。
根据获取到的完整的梯度信息，可更好地进行模型训练，并可使得对于样本的利用更加充分等，进而进一步提升了模型训练效果以及数据利用率等。
需要说明的是，对于前述的方法实施例，为了简单描述，将其表述为一系列的动作组合，但是本领域技术人员应该知悉，本申请并不受所描述的动作顺序的限制，因为依据本申请，某些步骤可以采用其它顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于优选实施例，所涉及的动作和模块并不一定是本申请所必须的。
以上是关于方法实施例的介绍，以下通过装置实施例，对本申请所述方案进行进一步说明。
图4为本申请所述负样本挖掘装置实施例40的组成结构示意图。所述装置可应用于利用至少两个图形处理器进行多机模型训练时的任一图形处理器中。如图4所示，包括：样本挖掘模块401。
样本挖掘模块401，用于在任一训练批次内，分别将训练批次内的各查询作为待处理查询，针对各待处理查询，分别将训练批次内除待处理查询外的其它各查询以及除所在图形处理器外的其它各图形处理器对应的训练批次内的各查询作为关联查询，将各关联查询对应的样本作为待处理查询对应的弱负样本，对应的样本包括正样本和/或强负样本。
如图4所示，所述装置中还可包括：矩阵生成模块402，用于分别获取训练批次内的各查询及对应的样本的表示向量，并分别获取除所在图形处理器外的其它各图形处理器对应的训练批次内的各查询及对应的样本的表示向量，根据获取到各查询及对应的样本的表示向量生成得分矩阵，根据得分矩阵确定损失。
优选地，矩阵生成模块402可通过全局收集的方式获取除所在图形处理器外的其它各图形处理器对应的训练批次内的各查询及对应的样本的表示向量。
优选地，矩阵生成模块402可按照以下方式生成得分矩阵：
分别利用同一图形处理器对应的训练批次内的各查询的表示向量组成B行H列的第一矩阵，B表示训练批次内的查询的数量，H表示表示向量的维度，并将各图形处理器对应的第一矩阵按预定顺序进行组合，得到n*B行H列的第一扩展矩阵，n表示用于进行多机模型训练的图形处理器的数量；
分别利用同一图形处理器对应的训练批次内的各查询对应的正样本的表示向量组成B行H列的第二矩阵，并将各图形处理器对应的第二矩阵按预定顺序进行组合，得到n*B行H列的第二扩展矩阵，和/或，分别利用同一图形处理器对应的训练批次内的各查询对应的强负样本的表示向量组成B行H列的第三矩阵，并将各图形处理器对应的第三矩阵按预定顺序进行组合，得到n*B行H列的第三扩展矩阵；
计算第一扩展矩阵与第二扩展矩阵的转置的乘积，将得到的矩阵作为得分矩阵，和/或，计算第一扩展矩阵与第三扩展矩阵的转置的乘积，将得到的矩阵作为得分矩阵。
进一步地，所述装置中还可包括：梯度处理模块403，用于采用双流损失梯度回传机制，获取完整的梯度信息。
优选地，梯度处理模块403可计算所在图形处理器对应的第一矩阵与第五扩展矩阵的转置的乘积，第五扩展矩阵等同于不包含梯度信息的第二扩展矩阵，并计算第四扩展矩阵与所在图形处理器对应的第二矩阵的转置的乘积，第四扩展矩阵等同于不包含梯度信息的第一扩展矩阵，将计算出的乘积相加。
和/或，梯度处理模块403可计算所在图形处理器对应的第一矩阵与第六扩展矩阵的转置的乘积，第六扩展矩阵等同于不包含梯度信息的第三扩展矩阵，并计算第四扩展矩阵与所在图形处理器对应的第三矩阵的转置的乘积，将计算出的乘积相加。
图4所示装置实施例的具体工作流程请参照前述方法实施例中的相关说明，不再赘述。
总之，采用本申请装置实施例所述方案，可实现弱负样本的自动挖掘，并可提升模型训练效果以及数据利用率等。
本申请所述方案可应用于人工智能领域，特别涉及深度学习及自然语言处理等领域。
人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科，既有硬件层面的技术也有软件层面的技术，人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术，人工智能软件技术主要包括计算机视觉技术、语音识别技术、自然语言处理技术以及机器学习/深度学习、大数据处理技术、知识图谱技术等几大方向。
根据本申请的实施例，本申请还提供了一种电子设备和一种可读存储介质。
如图5所示，是根据本申请实施例所述方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图5所示，该电子设备包括：一个或多个处理器Y01、存储器Y02，以及用于连接各部件的接口，包括高速接口和低速接口。各个部件利用不同的总线互相连接，并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理，包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如，耦合至接口的显示设备)上显示图形用户界面的图形信息的指令。在其它实施方式中，若需要，可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样，可以连接多个电子设备，各个设备提供部分必要的操作(例如，作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图5中以一个处理器Y01为例。
存储器Y02即为本申请所提供的非瞬时计算机可读存储介质。其中，所述存储器存储有可由至少一个处理器执行的指令，以使所述至少一个处理器执行本申请所提供的方法。本申请的非瞬时计算机可读存储介质存储计算机指令，该计算机指令用于使计算机执行本申请所提供的方法。
存储器Y02作为一种非瞬时计算机可读存储介质，可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块，如本申请实施例中的方法对应的程序指令/模块。处理器Y01通过运行存储在存储器Y02中的非瞬时软件程序、指令以及模块，从而执行服务器的各种功能应用以及数据处理，即实现上述方法实施例中的方法。
存储器Y02可以包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需要的应用程序；存储数据区可存储根据电子设备的使用所创建的数据等。此外，存储器Y02可以包括高速随机存取存储器，还可以包括非瞬时存储器，例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中，存储器Y02可选包括相对于处理器Y01远程设置的存储器，这些远程存储器可以通过网络连接至电子设备。上述网络的实例包括但不限于互联网、企业内部网、区块链网络、局域网、移动通信网及其组合。
电子设备还可以包括：输入装置Y03和输出装置Y04。处理器Y01、存储器Y02、输入装置Y03和输出装置Y04可以通过总线或者其他方式连接，图5中以通过总线连接为例。
输入装置Y03可接收输入的数字或字符信息，以及产生与电子设备的用户设置以及功能控制有关的键信号输入，例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置Y04可以包括显示设备、辅助照明装置和触觉反馈装置(例如，振动电机)等。该显示设备可以包括但不限于，液晶显示器、发光二极管显示器和等离子体显示器。在一些实施方式中，显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用集成电路、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令，并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的，术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如，磁盘、光盘、存储器、可编程逻辑装置)，包括，接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，阴极射线管或者液晶显示器监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网、广域网、区块链网络和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS服务中，存在的管理难度大，业务扩展性弱的缺陷。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本申请公开的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本申请保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等，均应包含在本申请保护范围之内。
Claims (14)
1.一种负样本挖掘方法，包括：
在利用至少两个图形处理器进行多机模型训练时，所述至少两个图形处理器中的任一图形处理器分别进行以下处理：
在任一训练批次内，分别将所述训练批次内的各查询作为待处理查询；针对各待处理查询，分别将所述训练批次内除所述待处理查询外的其它各查询以及除自身外的其它各图形处理器对应的训练批次内的各查询作为关联查询，将各关联查询对应的样本作为所述待处理查询对应的弱负样本，所述对应的样本包括正样本和/或强负样本。
2.根据权利要求1所述的方法，还包括：
所述图形处理器分别获取所述训练批次内的各查询及对应的样本的表示向量，并分别获取除自身外的其它各图形处理器对应的训练批次内的各查询及对应的样本的表示向量；
所述图形处理器根据获取到各查询及对应的样本的表示向量生成得分矩阵，根据所述得分矩阵确定损失。
3.根据权利要求2所述的方法，其中，所述分别获取除自身外的其它各图形处理器对应的训练批次内的各查询及对应的样本的表示向量包括：
通过全局收集的方式获取除自身外的其它各图形处理器对应的训练批次内的各查询及对应的样本的表示向量。
4.根据权利要求2所述的方法，其中，所述根据获取到各查询及对应的样本的表示向量生成得分矩阵包括：
分别利用同一图形处理器对应的训练批次内的各查询的表示向量组成B行H列的第一矩阵，B表示所述训练批次内的查询的数量，H表示所述表示向量的维度，并将各图形处理器对应的所述第一矩阵按预定顺序进行组合，得到n*B行H列的第一扩展矩阵，n表示用于进行多机模型训练的图形处理器的数量；
分别利用同一图形处理器对应的训练批次内的各查询对应的正样本的表示向量组成B行H列的第二矩阵，并将各图形处理器对应的所述第二矩阵按所述预定顺序进行组合，得到n*B行H列的第二扩展矩阵，和/或，分别利用同一图形处理器对应的训练批次内的各查询对应的强负样本的表示向量组成B行H列的第三矩阵，并将各图形处理器对应的所述第三矩阵按所述预定顺序进行组合，得到n*B行H列的第三扩展矩阵；
计算所述第一扩展矩阵与所述第二扩展矩阵的转置的乘积，将得到的矩阵作为所述得分矩阵，和/或，计算所述第一扩展矩阵与所述第三扩展矩阵的转置的乘积，将得到的矩阵作为所述得分矩阵。
5.根据权利要求4所述的方法，还包括：
所述图形处理器采用双流损失梯度回传机制，获取完整的梯度信息。
6.根据权利要求5所述的方法，其中，所述双流损失梯度回传机制包括：
所述图形处理器计算对应的第一矩阵与第五扩展矩阵的转置的乘积，所述第五扩展矩阵等同于不包含梯度信息的所述第二扩展矩阵，并计算第四扩展矩阵与所述图形处理器对应的第二矩阵的转置的乘积，所述第四扩展矩阵等同于不包含梯度信息的所述第一扩展矩阵，将计算出的乘积相加；
和/或，所述图形处理器计算对应的第一矩阵与第六扩展矩阵的转置的乘积，所述第六扩展矩阵等同于不包含梯度信息的所述第三扩展矩阵，并计算所述第四扩展矩阵与所述图形处理器对应的第三矩阵的转置的乘积，将计算出的乘积相加。
7.一种负样本挖掘装置，所述装置应用于利用至少两个图形处理器进行多机模型训练时的任一图形处理器中，包括：
样本挖掘模块，用于在任一训练批次内，分别将所述训练批次内的各查询作为待处理查询，针对各待处理查询，分别将所述训练批次内除所述待处理查询外的其它各查询以及除所在图形处理器外的其它各图形处理器对应的训练批次内的各查询作为关联查询，将各关联查询对应的样本作为所述待处理查询对应的弱负样本，所述对应的样本包括正样本和/或强负样本。
8.根据权利要求7所述的装置，还包括：
矩阵生成模块，用于分别获取所述训练批次内的各查询及对应的样本的表示向量，并分别获取除所在图形处理器外的其它各图形处理器对应的训练批次内的各查询及对应的样本的表示向量，根据获取到各查询及对应的样本的表示向量生成得分矩阵，根据所述得分矩阵确定损失。
9.根据权利要求8所述的装置，其中，
所述矩阵生成模块通过全局收集的方式获取除所在图形处理器外的其它各图形处理器对应的训练批次内的各查询及对应的样本的表示向量。
10.根据权利要求8所述的装置，其中，
所述矩阵生成模块按照以下方式生成所述得分矩阵：
分别利用同一图形处理器对应的训练批次内的各查询的表示向量组成B行H列的第一矩阵，B表示所述训练批次内的查询的数量，H表示所述表示向量的维度，并将各图形处理器对应的所述第一矩阵按预定顺序进行组合，得到n*B行H列的第一扩展矩阵，n表示用于进行多机模型训练的图形处理器的数量；
分别利用同一图形处理器对应的训练批次内的各查询对应的正样本的表示向量组成B行H列的第二矩阵，并将各图形处理器对应的所述第二矩阵按所述预定顺序进行组合，得到n*B行H列的第二扩展矩阵，和/或，分别利用同一图形处理器对应的训练批次内的各查询对应的强负样本的表示向量组成B行H列的第三矩阵，并将各图形处理器对应的所述第三矩阵按所述预定顺序进行组合，得到n*B行H列的第三扩展矩阵；
计算所述第一扩展矩阵与所述第二扩展矩阵的转置的乘积，将得到的矩阵作为所述得分矩阵，和/或，计算所述第一扩展矩阵与所述第三扩展矩阵的转置的乘积，将得到的矩阵作为所述得分矩阵。
11.根据权利要求10所述的装置，还包括：
梯度处理模块，用于采用双流损失梯度回传机制，获取完整的梯度信息。
12.根据权利要求11所述的装置，其中，
所述梯度处理模块计算所在图形处理器对应的第一矩阵与第五扩展矩阵的转置的乘积，所述第五扩展矩阵等同于不包含梯度信息的所述第二扩展矩阵，并计算第四扩展矩阵与所在图形处理器对应的第二矩阵的转置的乘积，所述第四扩展矩阵等同于不包含梯度信息的所述第一扩展矩阵，将计算出的乘积相加；
和/或，所述梯度处理模块计算所在图形处理器对应的第一矩阵与第六扩展矩阵的转置的乘积，所述第六扩展矩阵等同于不包含梯度信息的所述第三扩展矩阵，并计算所述第四扩展矩阵与所在图形处理器对应的第三矩阵的转置的乘积，将计算出的乘积相加。
13.一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-6中任一项所述的方法。
14.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使计算机执行权利要求1-6中任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011445714.5A CN112560928B (zh) | 2020-12-08 | 2020-12-08 | 负样本挖掘方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011445714.5A CN112560928B (zh) | 2020-12-08 | 2020-12-08 | 负样本挖掘方法、装置、电子设备及存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN112560928A CN112560928A (zh) | 2021-03-26 |
| CN112560928B true CN112560928B (zh) | 2021-10-26 |
Family
ID=75061207
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202011445714.5A Active CN112560928B (zh) | 2020-12-08 | 2020-12-08 | 负样本挖掘方法、装置、电子设备及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112560928B (zh) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN115344672B (zh) * | 2022-10-18 | 2023-02-03 | 北京澜舟科技有限公司 | 文档检索模型训练方法、检索方法及存储介质 |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN106021364A (zh) * | 2016-05-10 | 2016-10-12 | 百度在线网络技术（北京）有限公司 | 图片搜索相关性预测模型的建立、图片搜索方法和装置 |
| CN109446922A (zh) * | 2018-10-10 | 2019-03-08 | 中山大学 | 一种实时鲁棒的人脸检测方法 |
| CN110019990A (zh) * | 2017-07-14 | 2019-07-16 | 阿里巴巴集团控股有限公司 | 样本筛选的方法和装置、业务对象数据搜索的方法和装置 |
| CN111275044A (zh) * | 2020-02-21 | 2020-06-12 | 西北工业大学 | 基于样本选择和自适应难例挖掘的弱监督目标检测方法 |
| CN111831902A (zh) * | 2020-05-26 | 2020-10-27 | 北京三快在线科技有限公司 | 推荐理由筛选方法、装置、电子设备 |
Family Cites Families (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US8494983B2 (en) * | 2010-11-16 | 2013-07-23 | Microsoft Corporation | Object-sensitive image search |
| CN103729374B (zh) * | 2012-10-15 | 2017-04-19 | 北京搜狗信息服务有限公司 | 一种信息搜索方法及搜索引擎 |
-
2020
- 2020-12-08 CN CN202011445714.5A patent/CN112560928B/zh active Active
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN106021364A (zh) * | 2016-05-10 | 2016-10-12 | 百度在线网络技术（北京）有限公司 | 图片搜索相关性预测模型的建立、图片搜索方法和装置 |
| CN110019990A (zh) * | 2017-07-14 | 2019-07-16 | 阿里巴巴集团控股有限公司 | 样本筛选的方法和装置、业务对象数据搜索的方法和装置 |
| CN109446922A (zh) * | 2018-10-10 | 2019-03-08 | 中山大学 | 一种实时鲁棒的人脸检测方法 |
| CN111275044A (zh) * | 2020-02-21 | 2020-06-12 | 西北工业大学 | 基于样本选择和自适应难例挖掘的弱监督目标检测方法 |
| CN111831902A (zh) * | 2020-05-26 | 2020-10-27 | 北京三快在线科技有限公司 | 推荐理由筛选方法、装置、电子设备 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN112560928A (zh) | 2021-03-26 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11928432B2 (en) | Multi-modal pre-training model acquisition method, electronic device and storage medium | |
| CN111639710A (zh) | 图像识别模型训练方法、装置、设备以及存储介质 | |
| CN111860167B (zh) | 人脸融合模型获取及人脸融合方法、装置及存储介质 | |
| JP7258066B2 (ja) | 測位方法、測位装置及び電子機器 | |
| KR102521765B1 (ko) | 인과 관계의 판별 방법, 장치, 전자 기기 및 저장 매체 | |
| KR20210114853A (ko) | 모델 파라미터를 업데이트하는 방법 및 장치 | |
| CN110706147B (zh) | 图像处理的环境确定方法、装置、电子设备和存储介质 | |
| CN111666077B (zh) | 算子处理方法、装置、电子设备及存储介质 | |
| CN112102448A (zh) | 虚拟对象图像显示方法、装置、电子设备和存储介质 | |
| CN112215243A (zh) | 图像特征提取方法、装置、设备及存储介质 | |
| CN111640103A (zh) | 图像检测方法、装置、设备以及存储介质 | |
| CN112560928B (zh) | 负样本挖掘方法、装置、电子设备及存储介质 | |
| CN111259090A (zh) | 关系数据的图生成方法、装置、电子设备和存储介质 | |
| CN112527943B (zh) | 地图渲染方法、装置、设备和存储介质 | |
| CN111767059B (zh) | 深度学习模型的部署方法、装置、电子设备和存储介质 | |
| CN111461306B (zh) | 特征评估的方法及装置 | |
| CN112148249A (zh) | 点积运算实现方法、装置、电子设备及存储介质 | |
| CN111079813A (zh) | 基于模型并行的分类模型计算方法和装置 | |
| CN111177479A (zh) | 获取关系网络图中节点的特征向量的方法以及装置 | |
| CN114817845B (zh) | 数据处理方法、装置、电子设备及存储介质 | |
| CN111292223B (zh) | 图计算的处理方法、装置、电子设备及存储介质 | |
| CN111324747B (zh) | 三元组的生成方法、装置及电子设备 | |
| CN112989219A (zh) | 兴趣点推荐方法、装置、电子设备及存储介质 | |
| CN111125603A (zh) | 网页场景识别方法、装置、电子设备及存储介质 | |
| CN112819498B (zh) | 转化率确定方法、装置、电子设备和存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |