CN110245757A - 一种图像样本的处理方法及装置、电子设备和存储介质 - Google Patents
一种图像样本的处理方法及装置、电子设备和存储介质 Download PDFInfo
- Publication number
- CN110245757A CN110245757A CN201910517720.8A CN201910517720A CN110245757A CN 110245757 A CN110245757 A CN 110245757A CN 201910517720 A CN201910517720 A CN 201910517720A CN 110245757 A CN110245757 A CN 110245757A
- Authority
- CN
- China
- Prior art keywords
- data
- sequence
- criterion
- ranking
- iteration
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012545 processing Methods 0.000 title claims abstract description 69
- 238000003860 storage Methods 0.000 title claims abstract description 22
- 238000003672 processing method Methods 0.000 title abstract description 13
- 238000000034 method Methods 0.000 claims abstract description 110
- 238000012549 training Methods 0.000 claims abstract description 24
- 238000012163 sequencing technique Methods 0.000 claims description 54
- 230000010354 integration Effects 0.000 claims description 34
- 238000005457 optimization Methods 0.000 claims description 18
- 238000013145 classification model Methods 0.000 claims description 15
- 238000007499 fusion processing Methods 0.000 claims description 15
- 238000004590 computer program Methods 0.000 claims description 10
- 230000001174 ascending effect Effects 0.000 claims description 6
- 230000004927 fusion Effects 0.000 abstract description 5
- 239000012141 concentrate Substances 0.000 abstract 1
- 238000002372 labelling Methods 0.000 description 31
- 238000010586 diagram Methods 0.000 description 22
- 239000011159 matrix material Substances 0.000 description 19
- 238000004422 calculation algorithm Methods 0.000 description 16
- 230000008569 process Effects 0.000 description 16
- 230000006870 function Effects 0.000 description 14
- 230000000694 effects Effects 0.000 description 13
- 238000012546 transfer Methods 0.000 description 13
- 238000005516 engineering process Methods 0.000 description 11
- 238000004891 communication Methods 0.000 description 10
- 230000003287 optical effect Effects 0.000 description 5
- 230000009467 reduction Effects 0.000 description 5
- 230000003044 adaptive effect Effects 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 4
- 238000013401 experimental design Methods 0.000 description 4
- 230000005236 sound signal Effects 0.000 description 4
- 230000007704 transition Effects 0.000 description 4
- 238000010801 machine learning Methods 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 2
- 230000001413 cellular effect Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000012937 correction Methods 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 230000001902 propagating effect Effects 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 238000005728 strengthening Methods 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 230000003313 weakening effect Effects 0.000 description 2
- RYGMFSIKBFXOCR-UHFFFAOYSA-N Copper Chemical compound [Cu] RYGMFSIKBFXOCR-UHFFFAOYSA-N 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 229910052802 copper Inorganic materials 0.000 description 1
- 239000010949 copper Substances 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000007429 general method Methods 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 230000036961 partial effect Effects 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000002829 reductive effect Effects 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 238000013077 scoring method Methods 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Medical Informatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Artificial Intelligence (AREA)
- Image Analysis (AREA)
Abstract
本公开涉及一种图像样本的处理方法及装置、电子设备和存储介质,其中,该方法包括根据自适应调整的一个或多个准则对未标注数据集中的数据进行排序,获得多个排序结果;将所述多个排序结果进行融合处理,得到目标排序结果;将所述目标排序结果中的数据,按照排序靠前先发送的策略发送给目标对象进行数据标注,以根据数据标注结果进行主动学习的模型训练。采用本公开,通过多准则和权重自适应调整得到的标注结果,可以达到预期的标注结果,从而可以根据该标注结果更好的对模型进行训练。
Description
技术领域
本公开涉及机器学习技术领域,尤其涉及一种图像样本的处理方法及装置、电子设备和存储介质。
背景技术
主动学习技术属于机器学习的技术分支,用于以最小的标注成本获取最高性能的预测模型。近年来随着“大数据”时代的到来,正被日益广泛受各方研究者所关注。目前的主动学习是基于单一的准则,常常达不到预期的标注结果,从而也无法根据该标注结果更好的对模型进行训练。然而,相关技术中未存在有效的解决方案。
发明内容
本公开提出了一种图像样本的处理技术方案。
根据本公开的一方面,提供了一种图像样本的处理方法,所述方法包括:
根据自适应调整的一个或多个准则对未标注数据集中的数据进行排序,获得多个排序结果;
将所述多个排序结果进行融合处理,得到目标排序结果;
将所述目标排序结果中的数据,按照排序靠前先发送的策略发送给目标对象进行数据标注,以根据数据标注结果进行主动学习的模型训练。
采用本公开,在图像样本处理中,基于多准则的主动学习,通过对每个准则的权重进行自适应调整,可以强化对模型训练贡献高的准则,弱化对模型训练贡献低的准则,通过多准则和权重自适应调整得到的标注结果,可以达到预期的标注结果,从而可以根据该标注结果更好的对模型进行训练。
可能的实现方式中,所述根据自适应调整的一个或多个准则对未标注数据集中的数据进行排序,获得多个排序结果,包括:
在每次迭代中,将所述多个准则中的每个准则分别应用于未标注数据集中的数据,直至达到每次迭代需要标注的数据样本数量,结束本次迭代;
根据迭代处理结果,得到对应每个准则的分数序列;
根据所述分数序列,得到对应每个准则的排名序列,将所述排名序列作为所述排序结果。
采用本公开,在每次迭代中,将所述多个准则中的每个准则分别应用于未标注数据集中的数据,直至达到每次迭代需要标注的数据样本数量,从而得到对应每个准则的分数序列,通过分数序列可以得到排名序列,以便根据排名序列用于数据标注。
可能的实现方式中,所述分数序列,用于表征所述未标注数据集中数据接近最可能标注类型的评分顺序。
采用本公开,通过分数序列来表征所述未标注数据集中数据接近最可能标注类型的评分顺序,可以得到更精确的排名序列。
可能的实现方式中,所述根据所述分数序列,得到对应每个准则的排名序列,包括:
将所述未标注数据集在所述分数序列中数据的值,按照从小到大的顺序进行提取,得到所述排名序列。
采用本公开,可以将所述未标注数据集在所述分数序列中数据的值,按照从小到大的顺序进行提取,得到排名序列,由于根据评分顺序,可以得到更精确的排名序列,因此,能达到很好的数据标注效果。
可能的实现方式中,所述方法还包括:对所述一个或多个准则进行自适应调整;所述对所述一个或多个准则进行自适应调整包括:
根据所述排序结果的优化规则,自适应调整所述多个准则中的权重;
所述排序结果的优化规则,根据用于训练分类模型精度的主动学习需求得到。
采用本公开,可以根据所述排序结果的优化规则,自适应调整所述多个准则中的权重,而不是采用固定的权重,因此,根据自适应调整权重得到的多个准则中的每个准则分别应用于未标注数据集中的数据,可以对数据标注结果进行不断的迭代优化。
可能的实现方式中,所述根据所述排序结果的优化规则,自适应调整所述多个准则中的权重,包括:
在每次迭代中,将所述对应每个准则的分数序列进行归一化处理,并以升序形式进行重排序处理,得到重构后的分数序列;
根据所述重构后的分数序列,自适应调整所述多个准则中的权重,直至达到每次迭代需要标注的数据样本数量,结束本次迭代。
采用本公开,在每次迭代中,可以将对应每个准则的分数序列进行重排序处理,得到重构后的分数序列,则根据重构后的分数序列可以自适应调整所述多个准则中的权重,直至达到每次迭代需要标注的数据样本数量,从而可以迭代优化得到更准确的排名序列,以便根据排名序列用于更准确的数据标注。
可能的实现方式中,所述将所述多个排序结果进行融合处理,得到目标排序结果,包括:
将所述对应每个准则的排名序列进行多个排名序列的加权整合,得到一个目标排名序列;
将所述目标排名序列,作为所述目标排序结果。
采用本公开,将不断迭代优化所得到的多个目标排名序列加权整合后,由多个目标排名序列得到一个目标排名序列,并作为最终的目标排序结果,通过该最终的目标排序结果,可以进行更准确的数据标注。
可能的实现方式中,所述将所述对应每个准则的排名序列进行多个排名序列的加权整合,得到一个目标排名序列,包括:
在每次迭代中,将所述对应每个准则的排名序列,根据新增参与整合样本数目进行加权整合,得到整合后对应每个准则的排名序列;
对所述整合后对应每个准则的排名序列中的转移矩阵进行修正,直至修正后的转移矩阵达到平稳状态,结束本次迭代;
根据迭代处理得到的排名序列中,存在最高马尔可夫链得分的前N个数据样本,其中,所述N为大于1的正整数;
将所述前N个数据样本构成的序列,作为所述目标排名序列。
采用本公开,在每次迭代中,加入新增参与整合样本数目以进行加权整合,得到整合后对应每个准则的排名序列,及进行排名序列中的转移矩阵进行修正,直至修正后的转移矩阵达到平稳状态,结束本次迭代,可以得到更为准确的排名序列。将得到的排名序列选取其中前N个数据样本,并作为最终的目标排序结果,通过该最终的目标排序结果,可以进行更准确的数据标注。
根据本公开的一方面,提供了一种图像样本的处理装置,所述装置包括:
排序单元,用于根据自适应调整的一个或多个准则对未标注数据集中的数据进行排序,获得多个排序结果;
融合处理单元,用于将所述多个排序结果进行融合处理,得到目标排序结果;
发送单元,用于将所述目标排序结果中的数据,按照排序靠前先发送的策略发送给目标对象进行数据标注,以根据数据标注结果进行主动学习的模型训练。
可能的实现方式中,所述排序单元,进一步用于:
在每次迭代中,将所述多个准则中的每个准则分别应用于未标注数据集中的数据,直至达到每次迭代需要标注的数据样本数量,结束本次迭代;
根据迭代处理结果,得到对应每个准则的分数序列;
根据所述分数序列,得到对应每个准则的排名序列,将所述排名序列作为所述排序结果。
可能的实现方式中,所述分数序列,用于表征所述未标注数据集中数据接近最可能标注类型的评分顺序。
可能的实现方式中,所述排序单元,进一步用于:
将所述未标注数据集在所述分数序列中数据的值,按照从小到大的顺序进行提取,得到所述排名序列。
可能的实现方式中,所述排序单元,进一步用于:
根据所述排序结果的优化规则,自适应调整所述多个准则中的权重;
所述排序结果的优化规则,根据用于训练分类模型精度的主动学习需求得到。
可能的实现方式中,所述排序单元,进一步用于:
在每次迭代中,将所述对应每个准则的分数序列进行归一化处理,并以升序形式进行重排序处理,得到重构后的分数序列;
根据所述重构后的分数序列,自适应调整所述多个准则中的权重,直至达到每次迭代需要标注的数据样本数量,结束本次迭代。
可能的实现方式中,所述融合处理单元,进一步用于:
将所述对应每个准则的排名序列进行多个排名序列的加权整合,得到一个目标排名序列;
将所述目标排名序列,作为所述目标排序结果。
可能的实现方式中,所述融合处理单元,进一步用于:
在每次迭代中,将所述对应每个准则的排名序列,根据新增参与整合样本数目进行加权整合,得到整合后对应每个准则的排名序列;
对所述整合后对应每个准则的排名序列中的转移矩阵进行修正,直至修正后的转移矩阵达到平稳状态,结束本次迭代;
根据迭代处理得到的排名序列中,存在最高马尔可夫链得分的前N个数据样本,其中,所述N为大于1的正整数;
将所述前N个数据样本构成的序列,作为所述目标排名序列。
根据本公开的一方面,提供了一种电子设备,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为:执行上述图像样本的处理方法。
根据本公开的一方面,提供了一种计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令被处理器执行时实现上述图像样本的处理方法。
在本公开实施例中,根据自适应调整的一个或多个准则对未标注数据集中的数据进行排序,获得多个排序结果;将所述多个排序结果进行融合处理,得到目标排序结果;将所述目标排序结果中的数据,按照排序靠前先发送的策略发送给目标对象进行数据标注,以根据数据标注结果进行主动学习的模型训练。主动学习是基于多准则,通过对每个准则的权重进行自适应调整,可以强化对模型训练贡献高的准则,弱化对模型训练贡献低的准则,通过多准则和权重自适应调整得到的标注结果,可以达到预期的标注结果,从而可以根据该标注结果更好的对模型进行训练。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,而非限制本公开。
根据下面参考附图对示例性实施例的详细说明,本公开的其它特征及方面将变得清楚。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,这些附图示出了符合本公开的实施例,并与说明书一起用于说明本公开的技术方案。
图1示出根据本公开实施例的主动学习能达到标注处理效果的示意图。
图2示出根据本公开实施例的图像样本的处理方法的流程图。
图3示出根据本公开实施例的图像样本的处理框架的示意图。
图4示出根据本公开实施例的图像样本的处理方法的流程图。
图5示出根据本公开实施例的图像样本的处理方法应用示例的示意图;
图6示出根据本公开实施例的图像样本的处理装置的框图。
图7示出根据本公开实施例的电子设备的框图。
图8示出根据本公开实施例的电子设备的框图。
具体实施方式
以下将参考附图详细说明本公开的各种示例性实施例、特征和方面。附图中相同的附图标记表示功能相同或相似的元件。尽管在附图中示出了实施例的各种方面,但是除非特别指出,不必按比例绘制附图。
在这里专用的词“示例性”意为“用作例子、实施例或说明性”。这里作为“示例性”所说明的任何实施例不必解释为优于或好于其它实施例。
本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中术语“至少一种”表示多种中的任意一种或多种中的至少两种的任意组合,例如,包括A、B、C中的至少一种,可以表示包括从A、B和C构成的集合中选择的任意一个或多个元素。
另外,为了更好的说明本公开,在下文的具体实施方式中给出了众多的具体细节。本领域技术人员应当理解,没有某些具体细节,本公开同样可以实施。在一些实例中,对于本领域技术人员熟知的方法、手段、元件和电路未作详细描述,以便于凸显本公开的主旨。
主动学习技术是一直特殊的机器学习方法分支,用于以最小的标注成本获取最高性能的预测模型。主动学习指这样一种场景,比如有标注的数据比较稀少,而没有标注的数据相当丰富的情况下,如果对数据进行人工标注,其代价非常昂贵且处理效率低下。通过主动学习,可以主动地提出一些标注请求,将一些经过筛选的数据(而不是全部数据)提交给相应专家进行人工标注。这个筛选过程也就是主动学习主要研究的内容。
近年来随着“大数据”时代的到来,主动学习正被日益广泛受各方研究者所关注。主动学习存在称之为“主动学习的阶段性效应”,如图1所示。图1示出根据本公开实施例的主动学习能达到标注处理效果的示意图,图1中存在两种准则,分别为基于代表性度量的主动学习,及基于信息性度量的主动学习。就基于代表性度量的主动学习而言,大多数基于代表性度量的主动学习方法往往在样本标注量较少的前期表现良好。但随着标注样本量的逐步增加,基于信息性度量的主动学习方法往往能够在主动学习的中期迎头赶上,直至整个流程结束。
对于上述现象,分析得知:基于代表性度量的主动学习方法虽然能在第一时间获得未标注样本集的整体数据结构,但该类方法往往对靠近决策边界的样本并不敏感,尽管这些样本对预测模型可能更重要。就基于信息性度量的主动学习而言,基于信息性度量的主动学习方法经常根据当前决策边界确定接下来需要标注的最有价值的样本,但理想的决策边界往往需要对一定数量的未标注样本进行标注才能获得。换言之,相关技术中,单样本查询准则(如仅仅采用基于代表性度量的主动学习,或者仅仅采用基于信息性度量的主动学习)主动学习方法只能保证其性能在整体主动学习流程中的部分阶段内达到最佳,不同类型的主动学习方法其达到最佳性能的阶段又互不相同。
考虑到上述类似互补的性能阶段性最佳现象,如果能在整个主动学习流程中使用两个或两个以上样本查询准则(比如,结合上述基于代表性度量的主动学习和基于信息性度量的主动学习的两个准则),并将这些准则以一种最恰当的方式有效利用起来,取长补短,从而进一步提升主动学习方法性能。多准则主动学习应运而生。
首先,扩展性与通用性不可兼得是目前大多数多准则主动学习存在的主要问题。如何更好的将各准则紧密结合起来,使其结合产生更好的主动学习算法效果是要需要解决的问题。其次,多准则主动学习存在一个尚未解决的问题即如何建立一种机制,使其在每次主动学习迭代中,均能在每个涉及样本查询准则之间起到动态且自适应调整作用,从而强化贡献度较高的准则,弱化贡献度较低的准则。这个问题在相关技术中未得到解决,通常的方法是利用所谓的经验参数来实现各准则的权值调整,如何自适应调整权值是要解决的问题。相关技术中大部分多准则主动学习的复杂度过高,使其并不适合现有的大数据任务,如何降低其算法复杂度成为了主动学习领域要解决的问题。总而言之,相关技术中主动学习算法还有许多改进余地。
为了确保选取标注的样本同时符合多个样本查询准则,本公开提供了一种基于排序整合的图像样本的处理方法。该方法源自于信息融合领域,用于排序问题,改进后的马尔可夫链方法,可以作为新提出的主动学习方法的准则融合策略。该策略能保证整体图像样本的处理方法同时具备通用性与可扩展性,且本公开还实现了样本查询准则的自适应加权调整,能很好的评估在不同主动学习阶段各涉及准则的贡献程度,从而给予贡献度较高的准则更高的关注与权值。本公开的主动学习方法能将几个普通的弱准则结合为一个更强的准则,且实际降低样本标注量效果不输给当下最先进的主动学习方法。
本公开的图像样本的处理方法,是一种基于排序整合的图像样本的处理方法,包括如下内容:
(1)样本查询到样本排名与评分的转化:其难点在于如何通过现有各式各样的样本查询准则获取当前所有未标注样本的排名与评分。
(2)样本查询准则的权重的计算:其难点在于利用权重调节各涉及准则使最终主动学习效果达到最优,且各权重均是自适应获得,反映各准则在算法各阶段相应贡献程度而并非依赖人为经验设置。
(3)加权排序整合方法:具体包括找出针对主动学习任务的最佳排序整合方法与必要的算法修正。
图2示出根据本公开实施例的图像样本的处理方法的流程图,该图像样本的处理方法应用于图像样本的处理装置,例如,图像样本的处理装置可以由终端设备或服务器或其它处理设备执行,其中,终端设备可以为用户设备(UE,User Equipment)、移动设备、蜂窝电话、无绳电话、个人数字处理(PDA,Personal Digital Assistant)、手持设备、计算设备、车载设备、可穿戴设备等。在一些可能的实现方式中,该图像样本的处理方法可以通过处理器调用存储器中存储的计算机可读指令的方式来实现。如图2所示,该流程包括:
步骤S101、根据自适应调整的一个或多个准则对未标注数据集中的数据进行排序,获得多个排序结果;
步骤S102、将所述多个排序结果进行融合处理,得到目标排序结果;
步骤S103、将所述目标排序结果中的数据,按照排序靠前先发送的策略发送给进行数据标注的目标对象,以根据数据标注结果进行主动学习的模型训练。
采用本公开,根据自适应调整的一个或多个准则(如对多个准则的权重进行自适应的调整后对应得到的多个准则)对未标注数据集中的数据进行排序,获得多个排序结果。将多个排序结果(一个准则对应一个排序结果,根据多个准则可以得到多个排序结果)进行融合处理,得到目标排序结果。将目标排序结果中的数据,按照排序靠前先发送的策略发送给进行数据标注的目标对象。换言之,是将多个排序结果加权融合得到的一个结果为最优排序结果,将该排序结果中顺序靠前的,作为目标标注结果推送给专业人士进行标注,从而得到已经标注结果。其中,目标对象可以为:进行数据标注处理的专业人士或专家,比如,将医疗类数据发送给医生,将安防类数据发送给安保人员等。后续,可以根据数据标注结果进行主动学习的模型训练,比如,根据目标对象标注得到的已标注数据,对分类模型进行训练。
图3示出根据本公开实施例的图像样本的处理框架的示意图。如图3所示,将待处理数据输入未标注数据集21,未标注数据集21是数据集2的一个子集。在数据集2中还包括已标注数据集22。根据上述图2所示的主动学习流程(可以通过排序融合模型32中的逻辑处理来实现)进行基于排序整合的多准则主动学习的过程中,不断的对未标注数据集21中的数据进行该逻辑处理,即:根据自适应调整的一个或多个准则对未标注数据集21中的数据进行排序,获得多个排序结果,将多个排序结果进行融合处理,得到目标排序结果。将目标排序结果中的数据,按照排序靠前先发送的策略发送给进行数据标注的目标对象。
通过上述逻辑处理,可以不断的将未标注数据集21中最可能的标注结果主动提供给进行数据标注的目标对象,即将未标注数据集21中最可能的标注结果输入已标注数据集22中,直至结束迭代。将已标注数据集22中的数据作为训练样本,对分类模型31进行模型训练。其中,结束迭代的条件,可以为未标注数据集21中数据为空,或者已经基于这些处理用于训练分类模型,其精确已经达到用户满意,即为得到了用户满意的分类模型后,则结束迭代。
采用本公开图像样本的处理方法至少具备以下效果:
一、采用本公开的多准则,对该训练样本进行分类模型的训练,可以用更少的标注量获取更高性能的分类模型。而相关技术中,主流建立分类模型的方法仍然是有监督学习,该技术需要大量带标注的样本,样本标注成本非常高。
二、采用本公开的多准则,相比于相关技术中的单准则而言,相关技术中单准则容易出现阶段性效应,即某一时刻主动学习的处理效果不错,另一些时刻主动学习的效果有限。
三、采用本公开的排序整合且作为多准则主动学习的准则融合策略,具备很好的通用性与可扩展性,任意数量或任意类型的主动学习中的查询准则,都可以集成到本公开的多准则方法中,从而结合成为一个更好的主动学习方法。而相关技术中,不能同时兼顾通用性与扩展性,流程框架被完全限制,算法复杂度也较高,不适合大数据任务。
四、采用本公开由于不涉及任何权值计算,而是通过自适应调整权值来获取主动学习每次迭代中各准则的权值,因此,提高了主动学习的处理效率和准确度,避免了人为设定权值所需前期的测试集标注量,同时也有更好的鲁棒性,适应更多不同种类的实际分类任务。而相关技术中,主动学习方法需要人为设定各准则前的权值,以用于强化或者弱化各涉及准则。一方面不能反映各准则在不同阶段性的贡献变换。另一方面,要获取一个合理权值可能需要更多标注成本用于建立测试集,显然这与主动学习方法初衷违背。而且,假如阈值选取不恰当,不恰当的阈值往往会使整个主动学习方法效果受到局限。
图4示出根据本公开实施例的图像样本的处理方法的流程图。该图像样本的处理方法应用于图像样本的处理装置,例如,图像样本的处理装置可以由终端设备或服务器或其它处理设备执行,其中,终端设备可以为用户设备(UE,User Equipment)、移动设备、蜂窝电话、无绳电话、个人数字处理(PDA,Personal Digital Assistant)、手持设备、计算设备、车载设备、可穿戴设备等。在一些可能的实现方式中,该图像样本的处理方法可以通过处理器调用存储器中存储的计算机可读指令的方式来实现。如图4所示,该流程包括:
步骤S201、在每次迭代中,将多个准则中的每个准则分别应用于未标注数据集中的数据,直至达到每次迭代需要标注的数据样本数量,结束本次迭代;
步骤S202、根据迭代处理结果,得到对应每个准则的分数序列(如);
根据所述分数序列,得到对应每个准则的排名序列(如)。
分数序列,用于表征所述未标注数据集中数据接近最可能标注类型的评分顺序。
步骤S203、将对应每个准则的排名序列,作为通过自适应调整的多个准则对未标注数据集中的数据进行排序后得到的多个排序结果。
步骤S204、将多个排序结果进行融合处理,得到目标排序结果。
步骤S205、将目标排序结果中的数据,按照排序靠前先发送的策略发送给进行数据标注的目标对象,以根据数据标注结果进行主动学习的模型训练。
采用本公开的适用场景,包括但不限于例如医学图像、遥感图像、封闭产品的分类预测任务。在这些任务中,对样本的标注成本往往很高,要么是需要标注者具备大量的专业知识(医学图像),要么是对该样本标注会一定程度破坏样本本身(封闭产品),抑或是要获得样本标注需要大量的时间与经费成本(遥感图像)。使用者采用本公开在建模过程中,其标注成本能大幅降低,但以此建立的分类模型效果却几乎不受影响。
本公开可能的实现方式中,根据所述分数序列,得到对应每个准则的排名序列,包括:将所述未标注数据集在所述分数序列中数据的值,按照从小到大的顺序进行提取,得到所述排名序列。
本公开可能的实现方式中,对多个准则的自适应调整过程包括:根据所述排序结果的优化规则,自适应调整所述多个准则中的权重,利用权重调节各涉及准则使最终主动学习效果达到最优。其中,多个准则中的权重,均是自适应获得,反映各准则在算法各阶段相应贡献程度。而排序结果的优化规则,根据用于训练分类模型精度的主动学习需求得到。
本公开可能的实现方式中,根据所述排序结果的优化规则,自适应调整所述多个准则中的权重,包括:在每次迭代中,将所述对应每个准则的分数序列进行归一化处理,并以升序形式进行重排序处理,得到重构后的分数序列(如);根据所述重构后的分数序列,自适应调整所述多个准则中的权重,直至达到每次迭代需要标注的数据样本数量,结束本次迭代。
本公开可能的实现方式中,将所述多个排序结果进行融合处理,得到目标排序结果,包括:将所述对应每个准则的排名序列进行多个排名序列的加权整合,得到一个排名序列;将加权整合后得到的排名序列,作为所述目标排序结果。
本公开可能的实现方式中,所述将所述对应每个准则的排名序列进行多个排名序列的加权整合,得到一个排名序列,包括:在每次迭代中,将所述对应每个准则的排名序列根据新增参与整合样本数目(如tun2)进行加权整合,得到整合后对应每个准则的排名序列(如);对所述整合后对应每个准则的排名序列中的转移矩阵(如Tran(t))进行修正,直至修正后的转移矩阵(如Tran*(t))到平稳状态结束本次迭代,且在所述修正后转移矩阵内部不存在零值;其中,直至修正后的转移矩阵到平稳状态结束本次迭代,是指:达到迭代条件,则修正后的转移矩阵处于平稳状态,从而结束本地迭代。其中,迭代的条件可以是:未标注数据集中数据为空,或者已经基于这些处理用于训练分类模型,其精确已经达到用户满意,即为用户满意的分类模型,则结束迭代。根据迭代处理得到的排名序列中,存在最高马尔可夫链得分的前N个数据样本,其中,所述N为大于1的正整数。将所述前N个数据样本构成的序列,作为所述目标排名序列。换言之,将根据迭代处理得到的排名序列中有着最高马尔可夫链得分的前N个样本,作为最终排名序列。其中,最终排名序列中包含了在当前未标注数据集合中最值得标注的N个样本,N为大于1的正整数。
应用示例:
算法(Algorithm)1、样本查询到样本排名与评分的转化:
Input:涉及准则(这里以基于不确定度、基于样本关联、基于版本空间缩减与基于实验设计的主动学习方法为例子)。
Step 1:这些方法内部的未标注样本评分方法均可以用以下几个式子表达:
多准则中基于不确定度的主动学习方法的公式如下:
其中,t是主动学习任意迭代次数;u是未标注样本集U(t)中的某个样本特征向量;h是前一次标注后获得的已标注样本集At-1获得的模型;是u最可能的标注类型;是基于不确定度的主动学习得到的P函数输出的可进行数据标注的概率。
多准则中基于样本关联的主动学习方法的公式如下:
其中,t是主动学习任意迭代次数;u是未标注样本集U(t)中的某个样本特征向量;表示当前已标注样本集中的元素At-1的特征向量,其中m∈[1,...,|A(t-1)||];K是用于测量向量差异的核函数且K(A,B)=A·B,其中,A和B可以为样本集中的任何向量,样本集不限于未标注样本集;是基于样本关联得到的排序得分。
多准则中基于版本空间缩减的主动学习方法的公式如下:
其中,t是主动学习任意迭代次数;u是未标注样本集U(t)中的某个样本特征向量;h是前一次标注后获得的已标注样本集At-1获得的模型;C是建立委员会中委员的数量;yi是待标注类型,其中i是x在U(t)的位置;是第t次迭代的qbc方法得到的输出。
多准则中基于实验设计的主动学习方法的公式如下:
其中,t是主动学习任意迭代次数;u是未标注样本集U中的某个样本特征向量;U(t)是当前未标注样本集;i是x在U(t)的位置;而z*=minz||U(t)-U(t)Z||2,1+λ||ZT||2,1,其中Z满足 Z*是是要求的矩阵,用于找出未标注样本中最有代表性的一部分;λ、T、R、s、Z是各个超参数。
Step 2:那么,对于当前未标注样本集U(t),其对应样本查询准则k的分数序列即可表达为其中un∈U(t),n=1,...,|U(t)|。其中,是至少包括上述提及的多个准则中的任意准则,如基于不确定度、基于样本关联、基于版本空间缩减与基于实验设计的主动学习方法等准则;(u1)…,其中相应的u参数分别是未标注样本集U(t)中的某个样本特征向量。
Step 3:进一步,只需根据各未标注样本在序列中的值从小到大排列,即可获得此样本查询准则k对应生成的排名序列
Output:对应该准则的排名序列与分数序列
Algorithm 2、样本查询准则的权重的计算:
Input:L个分数序列来源于对应样本查询准则(其中有c1个非基于版本空间缩减的样本查询准则,c2个基于版本空间缩减的样本查询准则,L=c1+c2而k=1,2,…,L),每次迭代中样本查询数量N。
Step 1:对所有涉及的归一化处理至-1到1,并以升序形式重排序构成相应
Step 2:运用以下两个公式计算与
其中,和分别是权重,是所有涉及准则(不包括基于委员会qbc方法的权重),是是所有委员会qbc系列准则的权重;是对分数序列处理后得到的重构分数序列;权重计算中的N1是表示可标注数据位于新评分表(重构分数序列)中第几项;VSR是表示方法是委员会系列;t是主动学习任意迭代次数;U(t)是当前未标注样本集;K是样本查询准则。
Step 3:通过以下公式对与进一步修正,获得
其中,c1和c2分别是建立委员会中委员的数量;L是源于不同样本查询准则的排名序列的个数,其中k=1,2,...,L;K是样本查询准则;VSR是表示方法是委员会系列;t是主动学习任意迭代次数;和的描述如上所述,不做赘述。
Ou中ut:权重向量用于在t次迭代中调整各涉及查询准则。
Algorithm 3、加权排序整合方法:
Input:L个源于不同样本查询准则的排名序列(其中k=1,2,...,L),本算法中每次迭代中需要标注的样本数量N,权重向量w(t),调和参数tun1,额外参与整合样本数目tun2。
Step 1:对所有排名序列利用下面公式与tun2获得其对应I函数表示指示函数。
Step 2:各对任意两个样本的转移矩阵Tran(t)将通过指定模式下的公式(MCl,MC2或MC3)计算获得。
其中,Tran(t)(i,j)是转移矩阵;P函数是从到的输出概率,其中,和分别是Tran(t)(i,j)的中间过程,用于计算整合后的排名;i和j分别是整合后排名i转移到排名j的概率,这个概率值是有当前各待整合排名决定的;U(t)是当前未标注样本集;MC1、MC2和MC3是三种马尔科夫方法,用于决定该概率值;权重向量;是对应不同样本查询准则的排名序列;
Step 3:利用以下公式对转移矩阵Tran(t)修正,并构成修正后的矩阵Tran*(t),确保任意该修正后的矩阵内部不存在零值,tun设为0.05。
Step 4:获得的转移矩阵Tran*(t)必须进行转置,然后利用幂迭代算法来计算其左特征向量,也就是Tran*(t)的最终平稳状态。
Step 5:平稳状态下的Tran*(t)中的每个元素的值可以被视作是各样本的加权马尔可夫链得分。那么加权整合后得到的最终排名序列事实上就是根据马尔可夫链得分获取的从大到小的排名。有着最高马尔可夫链得分的前N个样本即是最有价值且需要标注的Q(t)。
Output:Q(t),其中包含了在当前未标注样本集U(t)中最值得标注的N个样本。
图5示出根据本公开实施例的图像样本的处理方法应用示例的示意图,如图5所示,图像样本的处理方法的整体流程包括如下内容,下面公式参数的含义如上所述,不做赘述:
Input:L个不同样本查询准则(其中k=1,2,...,L),每次迭代中需要标注的样本数量N,未标注样本集U(0)。
Repeat
If当前主动学习迭代次数t=0;
Step 0:采用基于实验设计的样本查询准则或随机获取第一批未标注样本进行标注即Q(0),A(0)=Q(0)且U(1)=U(0)\Q(0);
Else
Step 1:通过Algorithm 1,将每种涉及应用于U(t),从而获得其对应
Step 2:将Algorithm 2用于从而获得每个涉及准则在该次迭代下对应权重即
Step 3:利用Algorithm 3来获取加权整合后未标注样本排名并根据提取排名前N的样本即为Q(t)。即
Step 4:通过专业标注者(如Oracle)获取Q(t)的标注Y(t),那么当前已标注与未标注样本集分别更新为A(t)=A(t-1)∪(Q(t)+Y(t))与U(t+1)=U(t)\Q(t)。
Until:终止准则达成或者|U(t)|=0。
本领域技术人员可以理解,在具体实施方式的上述方法中,各步骤的撰写顺序并不意味着严格的执行顺序而对实施过程构成任何限定,各步骤的具体执行顺序应当以其功能和可能的内在逻辑确定。
本公开提及的上述各个方法实施例,在不违背原理逻辑的情况下,均可以彼此相互结合形成结合后的实施例,限于篇幅,本公开不再赘述。
此外,本公开还提供了图像样本的处理装置、电子设备、计算机可读存储介质、程序,上述均可用来实现本公开提供的任一种图像样本的处理方法,相应技术方案和描述和参见方法部分的相应记载,不再赘述。
图6示出根据本公开实施例的图像样本的处理装置的框图,如图6所示,图像样本的处理装置,包括:排序单元51,用于根据自适应调整的一个或多个准则对未标注数据集中的数据进行排序,获得多个排序结果;融合处理单元52,用于将所述多个排序结果进行融合处理,得到目标排序结果;发送单元53,用于将所述目标排序结果中的数据,按照排序靠前先发送的策略发送给目标对象进行数据标注,以根据数据标注结果进行主动学习的模型训练。
本公开可能的实现方式中,所述排序单元,进一步用于:在每次迭代中,将所述多个准则中的每个准则分别应用于未标注数据集中的数据,直至达到每次迭代需要标注的数据样本数量,结束本次迭代;根据迭代处理结果,得到对应每个准则的分数序列;根据所述分数序列,得到对应每个准则的排名序列,将所述排名序列作为所述排序结果。其中,分数序列用于表征所述未标注数据集中数据接近最可能标注类型的评分顺序。
本公开可能的实现方式中,所述排序单元,进一步用于:将所述未标注数据集在所述分数序列中数据的值,按照从小到大的顺序进行提取,得到所述排名序列。
本公开可能的实现方式中,所述排序单元,进一步用于:根据所述排序结果的优化规则,自适应调整所述多个准则中的权重;所述排序结果的优化规则,根据用于训练分类模型精度的主动学习需求得到。
本公开可能的实现方式中,所述排序单元,进一步用于:在每次迭代中,将所述对应每个准则的分数序列进行归一化处理,并以升序形式进行重排序处理,得到重构后的分数序列;根据所述重构后的分数序列,自适应调整所述多个准则中的权重,直至达到每次迭代需要标注的数据样本数量,结束本次迭代。
本公开可能的实现方式中,所述融合处理单元,进一步用于:将所述对应每个准则的排名序列进行多个排名序列的加权整合,得到一个目标排名序列;将所述目标排名序列,作为所述目标排序结果。
本公开可能的实现方式中,所述融合处理单元,进一步用于:在每次迭代中,将所述对应每个准则的排名序列,根据新增参与整合样本数目进行加权整合,得到整合后对应每个准则的排名序列;对所述整合后对应每个准则的排名序列中的转移矩阵进行修正,直至修正后的转移矩阵达到平稳状态,结束本次迭代;根据迭代处理得到的排名序列中,存在最高马尔可夫链得分的前N个数据样本,其中,所述N为大于1的正整数。将所述前N个数据样本构成的序列,作为所述目标排名序列。
在一些实施例中,本公开实施例提供的装置具有的功能或包含的模块可以用于执行上文方法实施例描述的方法,其具体实现可以参照上文方法实施例的描述,为了简洁,这里不再赘述。
本公开实施例还提出一种计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令被处理器执行时实现上述方法。计算机可读存储介质可以是非易失性计算机可读存储介质。
本公开实施例还提出一种电子设备,包括:处理器;用于存储处理器可执行指令的存储器;其中,所述处理器被配置为上述方法。
电子设备可以被提供为终端、服务器或其它形态的设备。
图7是根据一示例性实施例示出的一种电子设备800的框图。例如,电子设备800可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等终端。
参照图7,电子设备800可以包括以下一个或多个组件:处理组件802,存储器804,电源组件806,多媒体组件808,音频组件810,输入/输出(I/O)的接口812,传感器组件814,以及通信组件816。
处理组件802通常控制电子设备800的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件802可以包括一个或多个处理器820来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件802可以包括一个或多个模块,便于处理组件802和其他组件之间的交互。例如,处理组件802可以包括多媒体模块,以方便多媒体组件808和处理组件802之间的交互。
存储器804被配置为存储各种类型的数据以支持在电子设备800的操作。这些数据的示例包括用于在电子设备800上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器804可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
电源组件806为电子设备800的各种组件提供电力。电源组件806可以包括电源管理系统,一个或多个电源,及其他与为电子设备800生成、管理和分配电力相关联的组件。
多媒体组件808包括在所述电子设备800和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件808包括一个前置摄像头和/或后置摄像头。当电子设备800处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件810被配置为输出和/或输入音频信号。例如,音频组件810包括一个麦克风(MIC),当电子设备800处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中,音频组件810还包括一个扬声器,用于输出音频信号。
I/O接口812为处理组件802和外围接口模块之间提供接口,上述外围接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件814包括一个或多个传感器,用于为电子设备800提供各个方面的状态评估。例如,传感器组件814可以检测到电子设备800的打开/关闭状态,组件的相对定位,例如所述组件为电子设备800的显示器和小键盘,传感器组件814还可以检测电子设备800或电子设备800一个组件的位置改变,用户与电子设备800接触的存在或不存在,电子设备800方位或加速/减速和电子设备800的温度变化。传感器组件814可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件814还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件816被配置为便于电子设备800和其他设备之间有线或无线方式的通信。电子设备800可以接入基于通信标准的无线网络,如WiFi,2G或3G,或它们的组合。在一个示例性实施例中,通信组件816经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件816还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
在示例性实施例中,电子设备800可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述方法。
在示例性实施例中,还提供了一种非易失性计算机可读存储介质,例如包括计算机程序指令的存储器804,上述计算机程序指令可由电子设备800的处理器820执行以完成上述方法。
图8是根据一示例性实施例示出的一种电子设备900的框图。例如,电子设备900可以被提供为一服务器。参照图8,电子设备900包括处理组件922,其进一步包括一个或多个处理器,以及由存储器932所代表的存储器资源,用于存储可由处理组件922的执行的指令,例如应用程序。存储器932中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外,处理组件922被配置为执行指令,以执行上述方法。
电子设备900还可以包括一个电源组件926被配置为执行电子设备900的电源管理,一个有线或无线网络接口950被配置为将电子设备900连接到网络,和一个输入输出(I/O)接口958。电子设备900可以操作基于存储在存储器932的操作系统,例如WindowsServerTM,Mac OS XTM,UnixTM,LinuxTM,FreeBSDTM或类似。
在示例性实施例中,还提供了一种非易失性计算机可读存储介质,例如包括计算机程序指令的存储器932,上述计算机程序指令可由电子设备900的处理组件922执行以完成上述方法。
本公开可以是系统、方法和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质,其上载有用于使处理器实现本公开的各个方面的计算机可读程序指令。
计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身,诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如,通过光纤电缆的光脉冲)、或者通过电线传输的电信号。
这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备,或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令,并转发该计算机可读程序指令,以供存储在各个计算/处理设备中的计算机可读存储介质中。
用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码,所述编程语言包括面向对象的编程语言—诸如Smalltalk、C++等,以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中,通过利用计算机可读程序指令的状态信息来个性化定制电子电路,例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA),该电子电路可以执行计算机可读程序指令,从而实现本公开的各个方面。
这里参照根据本公开实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本公开的各个方面。应当理解,流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合,都可以由计算机可读程序指令实现。
这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器,从而生产出一种机器,使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时,产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中,这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作,从而,存储有指令的计算机可读介质则包括一个制造品,其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。
也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上,使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤,以产生计算机实现的过程,从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。
附图中的流程图和框图显示了根据本公开的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分,所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
以上已经描述了本公开的各实施例,上述说明是示例性的,并非穷尽性的,并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下,对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择,旨在最好地解释各实施例的原理、实际应用或对市场中技术的技术改进,或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。
Claims (10)
1.一种图像样本的处理方法,其特征在于,所述方法包括:
根据自适应调整的一个或多个准则对未标注数据集中的数据进行排序,获得多个排序结果;
将所述多个排序结果进行融合处理,得到目标排序结果;
将所述目标排序结果中的数据,按照排序靠前先发送的策略发送给目标对象进行数据标注,以根据数据标注结果进行主动学习的模型训练。
2.根据权利要求1所述的方法,其特征在于,所述根据自适应调整的一个或多个准则对未标注数据集中的数据进行排序,获得多个排序结果,包括:
在每次迭代中,将所述多个准则中的每个准则分别应用于未标注数据集中的数据,直至达到每次迭代需要标注的数据样本数量,结束本次迭代;
根据迭代处理结果,得到对应每个准则的分数序列;
根据所述分数序列,得到对应每个准则的排名序列,将所述排名序列作为所述排序结果。
3.根据权利要求2所述的方法,其特征在于,所述分数序列,用于表征所述未标注数据集中数据接近最可能标注类型的评分顺序。
4.根据权利要求2或3所述的方法,其特征在于,所述根据所述分数序列,得到对应每个准则的排名序列,包括:
将所述未标注数据集在所述分数序列中数据的值,按照从小到大的顺序进行提取,得到所述排名序列。
5.根据权利要求1-4任一项所述的方法,其特征在于,所述方法还包括:对所述一个或多个准则进行自适应调整;所述对所述一个或多个准则进行自适应调整包括:
根据所述排序结果的优化规则,自适应调整所述多个准则中的权重;
所述排序结果的优化规则,根据用于训练分类模型精度的主动学习需求得到。
6.根据权利要求5所述的方法,其特征在于,所述根据所述排序结果的优化规则,自适应调整所述多个准则中的权重,包括:
在每次迭代中,将所述对应每个准则的分数序列进行归一化处理,并以升序形式进行重排序处理,得到重构后的分数序列;
根据所述重构后的分数序列,自适应调整所述多个准则中的权重,直至达到每次迭代需要标注的数据样本数量,结束本次迭代。
7.根据权利要求2-6任一项所述的方法,其特征在于,所述将所述多个排序结果进行融合处理,得到目标排序结果,包括:
将所述对应每个准则的排名序列进行多个排名序列的加权整合,得到一个目标排名序列;
将所述目标排名序列,作为所述目标排序结果。
8.一种图样样本的处理装置,其特征在于,所述装置包括:
排序单元,用于根据自适应调整的一个或多个准则对未标注数据集中的数据进行排序,获得多个排序结果;
融合处理单元,用于将所述多个排序结果进行融合处理,得到目标排序结果;
发送单元,用于将所述目标排序结果中的数据,按照排序靠前先发送的策略发送给目标对象进行数据标注,以根据数据标注结果进行主动学习的模型训练。
9.一种电子设备,其特征在于,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为:执行权利要求1至7中任意一项所述的方法。
10.一种计算机可读存储介质,其上存储有计算机程序指令,其特征在于,所述计算机程序指令被处理器执行时实现权利要求1至7中任意一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910517720.8A CN110245757B (zh) | 2019-06-14 | 2019-06-14 | 一种图像样本的处理方法及装置、电子设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910517720.8A CN110245757B (zh) | 2019-06-14 | 2019-06-14 | 一种图像样本的处理方法及装置、电子设备和存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110245757A true CN110245757A (zh) | 2019-09-17 |
CN110245757B CN110245757B (zh) | 2022-04-01 |
Family
ID=67887266
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910517720.8A Active CN110245757B (zh) | 2019-06-14 | 2019-06-14 | 一种图像样本的处理方法及装置、电子设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110245757B (zh) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111061968A (zh) * | 2019-11-15 | 2020-04-24 | 北京三快在线科技有限公司 | 排序方法、装置、电子设备及可读存储介质 |
CN111242905A (zh) * | 2020-01-06 | 2020-06-05 | 科大讯飞(苏州)科技有限公司 | 一种x光样本图像的生成方法、生成设备和存储装置 |
CN111401759A (zh) * | 2020-03-20 | 2020-07-10 | 支付宝(杭州)信息技术有限公司 | 数据处理方法、装置、电子设备及存储介质 |
CN112102315A (zh) * | 2020-11-02 | 2020-12-18 | 腾讯科技(深圳)有限公司 | 医学影像处理方法、装置、计算机设备和存储介质 |
CN112257812A (zh) * | 2020-11-12 | 2021-01-22 | 四川云从天府人工智能科技有限公司 | 一种标注样本确定方法、装置、机器可读介质及设备 |
CN113139568A (zh) * | 2021-02-22 | 2021-07-20 | 杭州深睿博联科技有限公司 | 一种基于主动学习的类别预测模型建模方法及装置 |
CN113706448A (zh) * | 2021-05-11 | 2021-11-26 | 腾讯科技(深圳)有限公司 | 确定图像的方法、装置、设备及存储介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20080256035A1 (en) * | 2007-04-10 | 2008-10-16 | Wei Vivian Zhang | Query substitution using active learning |
US8650033B1 (en) * | 2002-07-29 | 2014-02-11 | At&T Intellectual Property Ii, L.P. | Method of active learning for automatic speech recognition |
CN104765757A (zh) * | 2014-12-05 | 2015-07-08 | 华中科技大学 | 一种基于异构网络的微博时序排名方法 |
CN107329951A (zh) * | 2017-06-14 | 2017-11-07 | 深圳市牛鼎丰科技有限公司 | 构建命名实体标注资源库方法、装置、存储介质和计算机设备 |
CN107679564A (zh) * | 2017-09-20 | 2018-02-09 | 北京百度网讯科技有限公司 | 样本数据推荐方法及其装置 |
CN108875816A (zh) * | 2018-06-05 | 2018-11-23 | 南京邮电大学 | 融合置信度准则和多样性准则的主动学习样本选择策略 |
-
2019
- 2019-06-14 CN CN201910517720.8A patent/CN110245757B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8650033B1 (en) * | 2002-07-29 | 2014-02-11 | At&T Intellectual Property Ii, L.P. | Method of active learning for automatic speech recognition |
US20080256035A1 (en) * | 2007-04-10 | 2008-10-16 | Wei Vivian Zhang | Query substitution using active learning |
CN104765757A (zh) * | 2014-12-05 | 2015-07-08 | 华中科技大学 | 一种基于异构网络的微博时序排名方法 |
CN107329951A (zh) * | 2017-06-14 | 2017-11-07 | 深圳市牛鼎丰科技有限公司 | 构建命名实体标注资源库方法、装置、存储介质和计算机设备 |
CN107679564A (zh) * | 2017-09-20 | 2018-02-09 | 北京百度网讯科技有限公司 | 样本数据推荐方法及其装置 |
CN108875816A (zh) * | 2018-06-05 | 2018-11-23 | 南京邮电大学 | 融合置信度准则和多样性准则的主动学习样本选择策略 |
Non-Patent Citations (2)
Title |
---|
WEI CHEN ETAL.: "A NEW METHOD FOR SAMPLE SELECTION IN ACTIVE LEARNING", 《PROCEEDINGS OF THE EIGHTH INTERNATIONAL CONFERENCE ON MACHINE LEARNING AND CYBERNETICS》 * |
曹永锋等: "基于BvSBHC的主动学习多类分类算法", 《计算机科学》 * |
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111061968A (zh) * | 2019-11-15 | 2020-04-24 | 北京三快在线科技有限公司 | 排序方法、装置、电子设备及可读存储介质 |
CN111061968B (zh) * | 2019-11-15 | 2023-05-30 | 北京三快在线科技有限公司 | 排序方法、装置、电子设备及可读存储介质 |
CN111242905A (zh) * | 2020-01-06 | 2020-06-05 | 科大讯飞(苏州)科技有限公司 | 一种x光样本图像的生成方法、生成设备和存储装置 |
CN111401759A (zh) * | 2020-03-20 | 2020-07-10 | 支付宝(杭州)信息技术有限公司 | 数据处理方法、装置、电子设备及存储介质 |
CN111401759B (zh) * | 2020-03-20 | 2022-08-23 | 支付宝(杭州)信息技术有限公司 | 数据处理方法、装置、电子设备及存储介质 |
CN112102315A (zh) * | 2020-11-02 | 2020-12-18 | 腾讯科技(深圳)有限公司 | 医学影像处理方法、装置、计算机设备和存储介质 |
CN112257812A (zh) * | 2020-11-12 | 2021-01-22 | 四川云从天府人工智能科技有限公司 | 一种标注样本确定方法、装置、机器可读介质及设备 |
CN112257812B (zh) * | 2020-11-12 | 2024-03-29 | 四川云从天府人工智能科技有限公司 | 一种标注样本确定方法、装置、机器可读介质及设备 |
CN113139568A (zh) * | 2021-02-22 | 2021-07-20 | 杭州深睿博联科技有限公司 | 一种基于主动学习的类别预测模型建模方法及装置 |
CN113139568B (zh) * | 2021-02-22 | 2022-05-10 | 杭州深睿博联科技有限公司 | 一种基于主动学习的类别预测模型建模方法及装置 |
CN113706448A (zh) * | 2021-05-11 | 2021-11-26 | 腾讯科技(深圳)有限公司 | 确定图像的方法、装置、设备及存储介质 |
CN113706448B (zh) * | 2021-05-11 | 2022-07-12 | 腾讯医疗健康(深圳)有限公司 | 确定图像的方法、装置、设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN110245757B (zh) | 2022-04-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110245757B (zh) | 一种图像样本的处理方法及装置、电子设备和存储介质 | |
CN110210535B (zh) | 神经网络训练方法及装置以及图像处理方法及装置 | |
CN111460150B (zh) | 一种分类模型的训练方法、分类方法、装置及存储介质 | |
KR102365890B1 (ko) | 신경망의 훈련 방법, 장치 및 저장 매체 | |
WO2020013577A1 (en) | Electronic device and method for predicting user actions on ubiquitous devices | |
US20200394216A1 (en) | Method and device for video processing, electronic device, and storage medium | |
CN111160448B (zh) | 一种图像分类模型的训练方法及装置 | |
CN109858614B (zh) | 神经网络训练方法及装置、电子设备和存储介质 | |
CN110390394A (zh) | 批归一化数据的处理方法及装置、电子设备和存储介质 | |
CN108073303B (zh) | 一种输入方法、装置及电子设备 | |
CN111242303B (zh) | 网络训练方法及装置、图像处理方法及装置 | |
CN111612093A (zh) | 一种视频分类方法、视频分类装置、电子设备及存储介质 | |
CN108960283B (zh) | 分类任务增量处理方法及装置、电子设备和存储介质 | |
CN109145970B (zh) | 基于图像的问答处理方法和装置、电子设备及存储介质 | |
CN112148980B (zh) | 基于用户点击的物品推荐方法、装置、设备和存储介质 | |
CN110188865B (zh) | 信息处理方法及装置、电子设备和存储介质 | |
TW202029062A (zh) | 網路優化方法及裝置、圖像處理方法及裝置、儲存媒體 | |
CN114169534A (zh) | 分布式机器学习模型的训练方法、装置、设备及介质 | |
CN112768064B (zh) | 疾病预测装置及设备、症状信息处理方法、装置及设备 | |
CN107480773B (zh) | 训练卷积神经网络模型的方法、装置及存储介质 | |
CN113609380A (zh) | 标签体系更新方法、搜索方法、装置以及电子设备 | |
CN110866114B (zh) | 对象行为的识别方法、装置及终端设备 | |
CN115512116B (zh) | 图像分割模型优化方法、装置、电子设备及可读存储介质 | |
CN112308588A (zh) | 广告的投放方法、装置及存储介质 | |
CN112712385A (zh) | 广告推荐方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |