WO2022037233A1 - 一种基于自监督知识迁移的小样本视觉目标识别方法 - Google Patents

一种基于自监督知识迁移的小样本视觉目标识别方法 Download PDF

Info

Publication number
WO2022037233A1
WO2022037233A1 PCT/CN2021/101128 CN2021101128W WO2022037233A1 WO 2022037233 A1 WO2022037233 A1 WO 2022037233A1 CN 2021101128 W CN2021101128 W CN 2021101128W WO 2022037233 A1 WO2022037233 A1 WO 2022037233A1
Authority
WO
WIPO (PCT)
Prior art keywords
data
self
feature
small
supervised
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/CN2021/101128
Other languages
English (en)
French (fr)
Other versions
WO2022037233A9 (zh
Inventor
宋杰
宋明黎
冯尊磊
陈刚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhejiang University
Original Assignee
Zhejiang University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhejiang University filed Critical Zhejiang University
Publication of WO2022037233A1 publication Critical patent/WO2022037233A1/zh
Publication of WO2022037233A9 publication Critical patent/WO2022037233A9/zh
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/40—Scenes; Scene-specific elements in video content
    • G06V20/41—Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
    • G06F18/2135—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods based on approximation criteria, e.g. principal component analysis
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Definitions

  • the invention belongs to the field of computer vision, and aims at the problem of insufficient labeled data in image classification, target detection, video surveillance and other scenarios, and proposes a small sample visual target recognition method based on self-supervised knowledge transfer.
  • Computer vision object recognition is one of the most basic and core problems in the field of computer vision and artificial intelligence.
  • visual object recognition has made great progress.
  • massive labeled data existing deep models have been able to accurately identify thousands of visual objects with a single model.
  • existing deep models rely on a large amount of high-quality labeled data for learning.
  • These deep models are often difficult to learn effectively when data is scarce.
  • Meta-learning still requires a large amount of relevant visual data with labels for learning, and the cost of data labeling is still high; secondly, meta-learning has higher requirements on auxiliary data, and the auxiliary data needs to be strongly related to the target data. Otherwise, the learned knowledge will be difficult to guide the model. Effective learning of target data.
  • the present invention proposes a small-sample visual target recognition method based on self-supervised knowledge transfer, which learns general knowledge from unlabeled and weakly correlated auxiliary data to solve target classification tasks.
  • the small sample visual target recognition method based on self-supervised knowledge transfer includes the following steps:
  • auxiliary data described in step 1) is without any labels, and the amount of data is sufficient for training; the target data is labeled, but the amount of data is small, usually only a few labeled images per class.
  • the ultimate goal of the depth model described in step 2) is to identify the target data, that is, to output a category of visual objects in the target data image.
  • auxiliary data described in step 1) is used for the learning of general knowledge by the depth model; the target data is used to guide the depth model to rapidly migrate and accurately identify specific target data.
  • step 2) means that the learning of the model does not require any manual annotation, and only relies on the self-consistent information of the data itself to construct pseudo-tasks to help the deep model perform pre-learning.
  • i,j represents a positive sample pair
  • N represents the batch size of an iterative update process in the model training process
  • z represents the feature vector of the data
  • ⁇ represents the temperature hyperparameter
  • step 3 the data dimensionality reduction for the features described in step 3 is performed by means of principal component analysis, PCA, ICA, and the like.
  • the feature prototype of each category described in step 4) in the feature subspace is the feature mean of the category data, and its calculation formula is
  • K is the amount of labeled data for each category in the labeled data.
  • the invention is a small sample visual target recognition method based on self-supervised knowledge transfer. It uses unlabeled and weakly correlated auxiliary data for self-learning, and then uses labeled, small-sample target data for feature dimensionality reduction and target recognition.
  • the present invention can effectively alleviate the dependence of the depth model on the labeled training data, and improve the practicability of the algorithm in real scenarios.
  • FIG. 1 is a schematic flow chart of the method of the present invention.
  • the present invention proposes a small sample biological species identification method based on self-supervised knowledge transfer, which learns general knowledge from unlabeled and weakly correlated auxiliary data to solve the species classification task.
  • the auxiliary data described in step 1) is not labeled, and the data volume is sufficient for training; the biological species data is labeled, but the data volume is small, usually only a few labeled images for each species.
  • the ultimate goal of the deep model described in step 2) is to identify biological species, that is, to output the names of biological species in an image.
  • the auxiliary data in step 1) is used for the deep model to learn general knowledge; the target data is used to guide the deep model to quickly migrate and accurately identify specific target data.
  • the self-supervised learning in step 2) means that the learning of the model does not require any manual annotation, and only relies on the self-consistent information of the data itself to construct pseudo-tasks to help the deep model perform pre-learning.
  • i,j represents a positive sample pair
  • N represents the batch size of an iterative update process in the model training process
  • z represents the feature vector of the data
  • ⁇ represents the temperature hyperparameter
  • step 3 The data dimensionality reduction for features described in step 3) is performed by means of principal component analysis, PCA, ICA, and the like.
  • the feature prototype of each species in the feature subspace described in step 4) is the feature mean of the species data, and its calculation formula is
  • K is the amount of labeled data for each species in the labeled data.
  • the present invention proposes a small-sample biological species identification method based on self-supervised knowledge transfer, which can learn general knowledge by using self-supervision, and use this knowledge to solve the biological species identification problem under the condition of small samples. It includes the following steps:
  • Step 2 construct positive sample pairs and negative sample pairs, and use self-supervised learning to train a deep model.
  • N 32 images are randomly selected from the auxiliary data, and another 32 data are constructed through the data conversion function to form a batch data of size 64.
  • Positive sample pairs consist of corresponding data pairs, and other data pairs constitute negative sample pairs.
  • the temperature hyperparameter is set to 4 for ⁇ ,
  • Step 3 using the pre-trained model for feature extraction, and using the biological species data for data dimensionality reduction.
  • the model is used to extract the features of all biological species data, and based on the features, principal component analysis is used to reduce the dimension of the feature space, and only the first 5% of the principal components are retained.
  • Step 4 classify the biological species images. Calculate the feature mean of each species in the feature subspace, and use the feature mean to perform a nearest neighbor search on the features of each image, and select the species with the closest distance as the prediction result of the test image.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Software Systems (AREA)
  • Computational Linguistics (AREA)
  • Computing Systems (AREA)
  • Molecular Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Mathematical Physics (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Health & Medical Sciences (AREA)
  • Evolutionary Biology (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

一种基于自监督知识迁移的小样本视觉目标识别方法，包括：1)收集与任务弱相关、数量较多的无标注辅助数据，以及与任务强相关、数据量较小的有标注目标数据；2)在数据量较多的无标注辅助数据上通过数据变换构造正样本对以及负样本对，并利用对比损失函数作自监督学习，预训练一个深度神经网络；3)利用预训练模型提取目标数据的特征，并在该特征空间的基础进行数据降维，学习到一个对目标数据具有较强判别能力的特征子空间；4)将每个类别少量标注数据在该子空间的特征表达作为该类别的特征原型，利用最近邻方法对测试数据进行分类预测。

Description

一种基于自监督知识迁移的小样本视觉目标识别方法 技术领域
本发明属于计算机视觉领域，针对图像分类、目标检测、视频监控等场景中标注数据量不足的问题，提出了一种基于自监督知识迁移的小样本视觉目标识别方法。
背景技术
计算机视觉目标识别是计算机视觉以及人工智能领域最基础、最核心的问题之一。近几年由于深度学习技术的发展，视觉目标识别已经取得了非常巨大的进步。现有的深度模型在海量标注数据驱动下，已经能够实现单个模型准确识别上千种视觉目标。然而在视觉目标分类、检测等场景中，现有深度模型依赖大量的高质量标注数据进行学习。但现实生活场景中由于数据的采集成本以及标注成本普遍较高，通常很难获取到大规模标注数据用以模型训练。在数据较少情况下，这些深度模型通常很难进行有效学习。
现有的解决小样本问题的方法主要通过元学习来实现：(1)首先在大量相关视觉分类任务上进行有监督学习来提取任务通用的信息；(2)其次利用这些通用信息引导模型对当前的视觉分类任务进行学习。元学习依然需要大量有标注的相关视觉数据进行学习，数据标注成本依然较高；其次元学习对辅助数据要求较高，需要辅助数据与目标数据强相关，否则学习到的知识很难引导模型对目标数据的有效学习。
发明内容
针对现实场景中视觉分类任务中数据量不足的现状，本发明提出了一种基于自监督知识迁移的小样本视觉目标识别方法，从无标注、弱相关的辅助数据学习通用知识解决目标分类任务。
为实现上述目的，本发明所述的基于自监督知识迁移的小样本视觉目标识别方法，包括如下步骤：
1)收集与任务弱相关、数量较多的无标注辅助数据，以及与任务强相关、数据量较小的有标注目标数据；
2)在数据量较多的无标注辅助数据上通过数据变换构造正样本对以及负样本对，并利用对比损失函数作自监督学习，预训练一个深度模型；
3)利用预训练模型提取目标数据的特征，并在该特征空间的基础进行数据降维，学习到一个对目标数据具有较强判别能力的特征子空间；
4)将每个类别少量标注数据在该子空间的特征表达作为该类别的特征原型，利用最近邻方法对测试数据进行分类预测。
进一步，步骤1)所述的辅助数据无任何标注，且数据量充足能够用以训练；所述的目标数据有标注，但数据量较少，通常每个类仅有几张标注图像。
进一步，步骤2)所述的深度模型的最终目标是对目标数据进行识别，即输出一个目标数据图像中视觉物体的类别。
进一步，步骤1)所述的辅助数据用以深度模型对通用知识的学 习；所述的目标数据用以引导深度模型对特定目标数据的快速迁移和准确识别。
进一步，步骤2)所述的自监督学习指的是模型的学习无需任何人工标注，仅依赖利用数据本身的自洽信息构造伪任务，以帮助深度模型进行预学习。
进一步，步骤2)所述的对比损失通过下式计算：
Figure PCTCN2021101128-appb-000001
其中，i,j表示一个正样本对，N代表模型训练过程中一次迭代更新处理的批大小，z代表数据的特征向量，τ代表温度超参数，函数sim代表特征相似性：sim(u,v)＝u Tv/‖u‖‖v‖。
进一步，步骤3)所述的对于特征的数据降维通过主成分分析PCA、ICA等手段进行。
进一步，步骤4)所述的每个类别在特征子空间内的特征原型为该类别数据的特征均值，其计算公式为
Figure PCTCN2021101128-appb-000002
其中，K为有标注数据中每个类别的标注数据量。
本发明的有益效果如下：
本发明是一种基于自监督知识迁移的小样本视觉目标识别方法。它利用无标注、弱相关的辅助数据进行自学习，然后利用有标注、小样本的目标数据进行特征降维以及目标识别。
与传统方法相比，本发明能够有效缓解深度模型对有标注训练数据的依赖性，提高算法在现实场景下实用性。
附图说明
图1是本发明方法的流程示意图。
具体实施方式
下面结合附图和具体实施例对本发明的技术方案进行清晰、完整的解释和描述。
生物物种识别任务中，由于数据的采集成本以及标注成本普遍较高，通常很难获取到大规模标注数据用以模型训练。在数据较少情况下，现有深度模型通常很难进行有效学习。
针对生物物种识别任务中数据量不足的现状，本发明提出了一种基于自监督知识迁移的小样本生物物种识别方法，从无标注、弱相关的辅助数据学习通用知识解决物种分类任务，具体包括如下步骤：
1)收集与待识别物种弱相关、且无需标注的辅助图像数据，以及少量有标注的待识别物种图像数据；
2)在数据量较多的无标注辅助图像数据上通过数据变换构造正样本对以及负样本对，并利用对比损失函数作自监督学习，预训练一个深度模型；
3)利用预训练模型提取待识别物种的特征，并在该特征空间的基础进行数据降维，学习到一个对物种识别具有较强判别能力的特征子空间；
4)将每个物种少量标注数据在该子空间的特征表达作为该类别的特征原型，利用最近邻搜索方法对测试数据进行预测。
步骤1)所述的辅助数据无任何标注，且数据量充足能够用以训 练；所述的生物物种数据有标注，但数据量较少，通常每个物种仅有几张标注图像。
步骤2)所述的深度模型的最终目标是对生物物种进行识别，即输出一个图像中生物物种的名称。
步骤1)所述的辅助数据用以深度模型对通用知识的学习；所述的目标数据用以引导深度模型对特定目标数据的快速迁移和准确识别。
步骤2)所述的自监督学习指的是模型的学习无需任何人工标注，仅依赖利用数据本身的自洽信息构造伪任务，以帮助深度模型进行预学习。
步骤2)所述的对比损失通过下式计算：
Figure PCTCN2021101128-appb-000003
其中，i,j表示一个正样本对，N代表模型训练过程中一次迭代更新处理的批大小，z代表数据的特征向量，τ代表温度超参数，函数sim代表特征相似性：sim(u,v)＝u Tv/‖u‖‖v‖。
步骤3)所述的对于特征的数据降维通过主成分分析PCA、ICA等手段进行。
步骤4)所述的每个物种在特征子空间内的特征原型为该物种数据的特征均值，其计算公式为
Figure PCTCN2021101128-appb-000004
其中，K为有标注数据中每个物种的标注数据量。
具体地，本发明提出了一种基于自监督知识迁移的小样本生物物 种识别方法，该方法能够从利用自监督学习通用的知识，并利用该知识解决小样本条件下生物物种识别问题。包括如下步骤：
步骤1，采集无标注辅助图像数据和有标注的生物物种数据。其中无标注辅助数据100万张图片；生物物种数据中每个类别包含K＝5张图片。所有图像块放缩至224×224。
步骤2，构建正样本对和负样本对，并利用自监督学习训练深度模型。每次训练迭代中，从辅助数据中随机选取N＝32张图片，并通过数据转换函数构造另外32个数据，构成大小为64的批数据。正样本对由对应的数据对构成，其它数据对构成负样本对。温度超参数为τ设置为4，
步骤3，利用预训练模型进行特征提取，并利用生物物种数据进行数据降维。模型预训练后，利用该模型提取所有生物物种数据的特征，并基于该特征利用主成分分析对特征空间进行降维，只保留前5％主成分。
步骤4，对生物物种图像进行分类。在特征子空间中计算每个物种的特征均值，并利用该特征均值对每个图像的特征做最近邻搜索，选择距离最近的那个物种作为该测试图像的预测结果。
本说明书实施例所述的内容仅仅是对发明构思的实现形式的列举，本发明的保护范围的不应当被视为仅限于实施例所陈述的具体形式，本发明的保护范围也及于本领域技术人员根据本发明构思所能够想到的等同技术手段。

Claims (8)

  1. 一种基于自监督知识迁移的小样本视觉目标识别方法，包含如下步骤：
    1)收集与任务弱相关、数量较多的无标注辅助数据，以及与任务强相关、数据量较小的有标注目标数据；
    2)在数据量较多的无标注辅助数据上通过数据变换构造正样本对以及负样本对，并利用对比损失函数作自监督学习，预训练一个深度模型；
    3)利用预训练模型提取目标数据的特征，并在该特征空间的基础进行数据降维，学习到一个对目标数据具有较强判别能力的特征子空间；
    4)将每个类别少量标注数据在该子空间的特征表达作为该类别的特征原型，利用最近邻方法对测试数据进行分类预测。
  2. 根据权利要求1所述的一种基于自监督知识迁移的小样本视觉目标识别方法，其特征在于：步骤1)所述的辅助数据无任何标注，且数据量充足能够用以训练；步骤1)所述的目标数据有标注，但数据量较少，通常每个类仅有几张标注图像。
  3. 根据权利要求1所述的一种基于自监督知识迁移的小样本视觉目标识别方法，其特征在于：步骤2)所述的深度模型的最终目标是对目标数据进行识别，即输出一个目标数据图像中视觉物体的类别。
  4. 根据权利要求1所述的一种基于自监督知识迁移的小样本视觉目标识别方法，其特征在于：步骤1)所述的辅助数据用以深度模型对通用知识的学习，该部分知识能够泛化到多个任务中；所述的目 标数据用以引导深度模型对特定目标数据的快速迁移和准确识别。
  5. 根据权利要求1所述的一种基于自监督知识迁移的小样本视觉目标识别方法，其特征在于：步骤2)所述的自监督学习指的是模型的学习无需任何人工标注，仅依赖利用数据本身的自洽信息构造伪任务，以帮助深度模型进行预学习。
  6. 根据权利要求1所述的一种基于自监督知识迁移的小样本视觉目标识别方法，其特征在于：步骤2)所述的对比损失函数通过下式计算：
    Figure PCTCN2021101128-appb-100001
    其中，i,j表示一个正样本对，N代表模型训练过程中一次迭代更新处理的批大小，z代表数据的特征向量，τ代表温度超参数，函数sim代表特征相似性：sim(u,v)＝u Tv/‖u‖‖v‖。
  7. 根据权利要求1所述的一种基于自监督知识迁移的小样本视觉目标识别方法，其特征在于：步骤3)所述的对于特征的数据降维通过主成分分析PCA、ICA手段进行。
  8. 根据权利要求1所述的一种基于自监督知识迁移的小样本视觉目标识别方法，其特征在于：步骤4)所述的每个类别在特征子空间内的特征原型为该类别数据的特征均值，其计算公式为
    Figure PCTCN2021101128-appb-100002
    其中，K为有标注数据中每个类别的标注数据量。
PCT/CN2021/101128 2020-08-18 2021-06-21 一种基于自监督知识迁移的小样本视觉目标识别方法 Ceased WO2022037233A1 (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN202010830474.4 2020-08-18
CN202010830474.4A CN112069921A (zh) 2020-08-18 2020-08-18 一种基于自监督知识迁移的小样本视觉目标识别方法

Publications (2)

Publication Number Publication Date
WO2022037233A1 true WO2022037233A1 (zh) 2022-02-24
WO2022037233A9 WO2022037233A9 (zh) 2022-04-21

Family

ID=73661981

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/CN2021/101128 Ceased WO2022037233A1 (zh) 2020-08-18 2021-06-21 一种基于自监督知识迁移的小样本视觉目标识别方法

Country Status (2)

Country Link
CN (1) CN112069921A (zh)
WO (1) WO2022037233A1 (zh)

Cited By (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114596844A (zh) * 2022-03-18 2022-06-07 腾讯科技（深圳）有限公司 声学模型的训练方法、语音识别方法及相关设备
CN114841257A (zh) * 2022-04-21 2022-08-02 北京交通大学 一种基于自监督对比约束下的小样本目标检测方法
CN114861813A (zh) * 2022-05-24 2022-08-05 河南科技大学 一种具有知识迁移判别能力的数据分类方法
CN114863203A (zh) * 2022-03-28 2022-08-05 重庆长安汽车股份有限公司 一种基于目标检测的预标注方法及存储介质
CN114882308A (zh) * 2022-04-12 2022-08-09 北京旷视科技有限公司 生物特征提取模型训练方法和图像分割方法
CN114936395A (zh) * 2022-04-27 2022-08-23 土巴兔集团股份有限公司 一种户型图识别方法、装置、计算机设备及存储介质
CN115080749A (zh) * 2022-08-16 2022-09-20 之江实验室 一种基于自监督训练的弱监督文本分类方法、系统和装置
CN115100532A (zh) * 2022-08-02 2022-09-23 北京卫星信息工程研究所 小样本遥感图像目标检测方法和系统
CN115131613A (zh) * 2022-07-01 2022-09-30 中国科学技术大学 一种基于多向知识迁移的小样本图像分类方法
CN115346130A (zh) * 2022-07-08 2022-11-15 北京理工大学 一种提升遥感下游任务性能的知识迁移方法
CN115410059A (zh) * 2022-11-01 2022-11-29 山东锋士信息技术有限公司 基于对比损失的遥感图像部分监督变化检测方法及设备
CN115482461A (zh) * 2022-08-26 2022-12-16 西安电子科技大学 基于自监督学习和最近邻网络的小样本sar目标分类方法
CN115631382A (zh) * 2022-11-08 2023-01-20 中国科学院计算技术研究所 一种基于类内偏差迁移的小样本图像分类方法
CN115661548A (zh) * 2022-11-14 2023-01-31 上海艺赛旗软件股份有限公司 一种物体识别的训练方法、装置及存储介质
CN115861720A (zh) * 2023-02-28 2023-03-28 人工智能与数字经济广东省实验室(广州) 一种小样本亚类图像分类识别方法
CN116151368A (zh) * 2023-03-17 2023-05-23 中国石油大学(华东) 一种基于元迁移学习的小样本储层分类方法
CN116524242A (zh) * 2023-04-07 2023-08-01 华东师范大学 基于监督对比学习和多任务设置的小样本图像分类优化方法
CN116612343A (zh) * 2023-03-13 2023-08-18 华北电力大学（保定） 一种基于自监督学习的输电线路金具检测方法
CN116704260A (zh) * 2023-07-05 2023-09-05 桂林电子科技大学 基于多尺度特征融合的元学习小样本图像目标检测方法
CN116704295A (zh) * 2023-07-20 2023-09-05 京东科技信息技术有限公司 图像分类元模型的训练方法、图像分类方法、装置和介质
CN117079347A (zh) * 2023-08-22 2023-11-17 新奥新智科技有限公司 一种使用终端设备的行为的检测方法及装置
CN117726799A (zh) * 2023-12-18 2024-03-19 国网福建省电力有限公司电力科学研究院 一种基于小样本和迁移学习的自监督预训练方法
WO2024055398A1 (zh) * 2022-09-16 2024-03-21 北京大学 一种无监督低光照域自适应训练方法及检测方法
CN118823323A (zh) * 2024-07-17 2024-10-22 浙江大学 面向自动驾驶场景的多视角3d目标检测主动学习方法
WO2026157092A1 (zh) * 2025-01-24 2026-07-30 重庆理工大学 一种基于隐式特征对比学习的小样本目标检测方法

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112069921A (zh) * 2020-08-18 2020-12-11 浙江大学 一种基于自监督知识迁移的小样本视觉目标识别方法
CN115115016A (zh) * 2021-03-18 2022-09-27 华为技术有限公司 一种训练神经网络的方法与装置
CN113298150A (zh) * 2021-05-25 2021-08-24 东北林业大学 一种基于迁移学习与自学习的小样本植物病害识别方法
CN113314205B (zh) * 2021-05-28 2022-05-17 北京航空航天大学 一种高效的医学影像标注与学习系统
CN113313684B (zh) * 2021-05-28 2022-11-25 北京航空航天大学 一种暗光条件下基于视频的工业缺陷检测系统
CN113392855B (zh) * 2021-07-12 2026-04-28 昆明理工大学 一种基于注意力和对比学习的小样本目标检测方法
CN113781404B (zh) * 2021-08-19 2023-12-01 浙江大学 基于自监督预训练的道路病害检测方法和系统
CN113688757B (zh) * 2021-08-30 2024-07-05 五邑大学 一种sar图像识别方法、装置及存储介质
CN114494890B (zh) * 2022-04-14 2022-08-23 广州市玄武无线科技股份有限公司 一种模型训练方法、商品图像管理方法及装置
CN114596312B (zh) * 2022-05-07 2022-08-02 中国科学院深圳先进技术研究院 一种视频处理方法和装置
CN114936615B (zh) * 2022-07-25 2022-10-14 南京大数据集团有限公司 一种基于表征一致性校对的小样本日志信息异常检测方法
CN115511795B (zh) * 2022-09-07 2026-01-30 西北工业大学 一种基于半监督学习的医学图像分割方法
CN115879004A (zh) * 2022-12-21 2023-03-31 北京百度网讯科技有限公司 目标模型的训练方法、装置、电子设备、介质和程序产品

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110363231A (zh) * 2019-06-27 2019-10-22 平安科技（深圳）有限公司 基于半监督深度学习的异常识别方法、装置及存储介质
US20200160177A1 (en) * 2018-11-16 2020-05-21 Royal Bank Of Canada System and method for a convolutional neural network for multi-label classification with partial annotations
CN112069921A (zh) * 2020-08-18 2020-12-11 浙江大学 一种基于自监督知识迁移的小样本视觉目标识别方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180174042A1 (en) * 2016-12-20 2018-06-21 Intel Corporation Supervised training and pattern matching techniques for neural networks
CN108985334B (zh) * 2018-06-15 2022-04-12 拓元(广州)智慧科技有限公司 基于自监督过程改进主动学习的通用物体检测系统及方法
CN110414600A (zh) * 2019-07-27 2019-11-05 西安电子科技大学 一种基于迁移学习的空间目标小样本识别方法
CN111259720B (zh) * 2019-10-30 2023-05-26 北京中科研究院 基于自监督代理特征学习的无监督行人重识别方法
CN111191732B (zh) * 2020-01-03 2021-05-14 天津大学 一种基于全自动学习的目标检测方法
CN111222471B (zh) * 2020-01-09 2022-07-15 中国科学技术大学 基于自监督域感知网络的零样本训练及相关分类方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20200160177A1 (en) * 2018-11-16 2020-05-21 Royal Bank Of Canada System and method for a convolutional neural network for multi-label classification with partial annotations
CN110363231A (zh) * 2019-06-27 2019-10-22 平安科技（深圳）有限公司 基于半监督深度学习的异常识别方法、装置及存储介质
CN112069921A (zh) * 2020-08-18 2020-12-11 浙江大学 一种基于自监督知识迁移的小样本视觉目标识别方法

Cited By (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114596844A (zh) * 2022-03-18 2022-06-07 腾讯科技（深圳）有限公司 声学模型的训练方法、语音识别方法及相关设备
CN114863203A (zh) * 2022-03-28 2022-08-05 重庆长安汽车股份有限公司 一种基于目标检测的预标注方法及存储介质
CN114882308A (zh) * 2022-04-12 2022-08-09 北京旷视科技有限公司 生物特征提取模型训练方法和图像分割方法
CN114841257A (zh) * 2022-04-21 2022-08-02 北京交通大学 一种基于自监督对比约束下的小样本目标检测方法
CN114841257B (zh) * 2022-04-21 2023-09-22 北京交通大学 一种基于自监督对比约束下的小样本目标检测方法
CN114936395A (zh) * 2022-04-27 2022-08-23 土巴兔集团股份有限公司 一种户型图识别方法、装置、计算机设备及存储介质
CN114861813A (zh) * 2022-05-24 2022-08-05 河南科技大学 一种具有知识迁移判别能力的数据分类方法
CN115131613B (zh) * 2022-07-01 2024-04-02 中国科学技术大学 一种基于多向知识迁移的小样本图像分类方法
CN115131613A (zh) * 2022-07-01 2022-09-30 中国科学技术大学 一种基于多向知识迁移的小样本图像分类方法
CN115346130A (zh) * 2022-07-08 2022-11-15 北京理工大学 一种提升遥感下游任务性能的知识迁移方法
CN115100532A (zh) * 2022-08-02 2022-09-23 北京卫星信息工程研究所 小样本遥感图像目标检测方法和系统
CN115080749B (zh) * 2022-08-16 2022-11-08 之江实验室 一种基于自监督训练的弱监督文本分类方法、系统和装置
CN115080749A (zh) * 2022-08-16 2022-09-20 之江实验室 一种基于自监督训练的弱监督文本分类方法、系统和装置
CN115482461A (zh) * 2022-08-26 2022-12-16 西安电子科技大学 基于自监督学习和最近邻网络的小样本sar目标分类方法
WO2024055398A1 (zh) * 2022-09-16 2024-03-21 北京大学 一种无监督低光照域自适应训练方法及检测方法
CN115410059A (zh) * 2022-11-01 2022-11-29 山东锋士信息技术有限公司 基于对比损失的遥感图像部分监督变化检测方法及设备
CN115631382A (zh) * 2022-11-08 2023-01-20 中国科学院计算技术研究所 一种基于类内偏差迁移的小样本图像分类方法
CN115631382B (zh) * 2022-11-08 2026-05-15 中国科学院计算技术研究所 一种基于类内偏差迁移的小样本图像分类方法
CN115661548A (zh) * 2022-11-14 2023-01-31 上海艺赛旗软件股份有限公司 一种物体识别的训练方法、装置及存储介质
CN115861720A (zh) * 2023-02-28 2023-03-28 人工智能与数字经济广东省实验室(广州) 一种小样本亚类图像分类识别方法
CN116612343A (zh) * 2023-03-13 2023-08-18 华北电力大学（保定） 一种基于自监督学习的输电线路金具检测方法
CN116151368A (zh) * 2023-03-17 2023-05-23 中国石油大学(华东) 一种基于元迁移学习的小样本储层分类方法
CN116524242A (zh) * 2023-04-07 2023-08-01 华东师范大学 基于监督对比学习和多任务设置的小样本图像分类优化方法
CN116704260A (zh) * 2023-07-05 2023-09-05 桂林电子科技大学 基于多尺度特征融合的元学习小样本图像目标检测方法
CN116704295A (zh) * 2023-07-20 2023-09-05 京东科技信息技术有限公司 图像分类元模型的训练方法、图像分类方法、装置和介质
CN117079347A (zh) * 2023-08-22 2023-11-17 新奥新智科技有限公司 一种使用终端设备的行为的检测方法及装置
CN117726799A (zh) * 2023-12-18 2024-03-19 国网福建省电力有限公司电力科学研究院 一种基于小样本和迁移学习的自监督预训练方法
CN118823323A (zh) * 2024-07-17 2024-10-22 浙江大学 面向自动驾驶场景的多视角3d目标检测主动学习方法
WO2026157092A1 (zh) * 2025-01-24 2026-07-30 重庆理工大学 一种基于隐式特征对比学习的小样本目标检测方法

Also Published As

Publication number Publication date
CN112069921A (zh) 2020-12-11
WO2022037233A9 (zh) 2022-04-21

Similar Documents

Publication Publication Date Title
CN112069921A (zh) 一种基于自监督知识迁移的小样本视觉目标识别方法
CN110837846B (zh) 一种图像识别模型的构建方法、图像识别方法及装置
CN111222471B (zh) 基于自监督域感知网络的零样本训练及相关分类方法
CN114038037B (zh) 基于可分离残差注意力网络的表情标签修正和识别方法
WO2024093466A1 (zh) 一种基于模型结构自主进化的行人图像重识别方法
CN110443257B (zh) 一种基于主动学习的显著性检测方法
CN107808113B (zh) 一种基于差分深度特征的人脸表情识别方法及系统
CN110188654B (zh) 一种基于移动未裁剪网络的视频行为识别方法
CN114626461B (zh) 基于领域自适应的跨域目标检测方法
CN107194418B (zh) 一种基于对抗特征学习的水稻蚜虫检测方法
CN116310647B (zh) 一种基于增量学习的劳保物品目标检测方法及系统
CN113283282A (zh) 一种基于时域语义特征的弱监督时序动作检测方法
CN110751038A (zh) 一种基于图注意力机制的pdf表格结构识别方法
CN104217225A (zh) 一种视觉目标检测与标注方法
CN112434686B (zh) 针对ocr图片的端到端含错文本分类识别仪
CN111191033A (zh) 一种基于分类效用的开集分类方法
CN113792574B (zh) 一种基于度量学习和教师学生模型的跨数据集表情识别方法
CN109543546B (zh) 基于深度序分布回归的步态年龄估计方法
Liang et al. A 3D object recognition and pose estimation system using deep learning method
CN116910571A (zh) 一种基于原型对比学习的开集域适应方法及系统
CN115410223B (zh) 一种基于不变性特征提取的域泛化行人重识别方法
CN116757261A (zh) 基于带有闭集噪声和开集噪声标签的鲁棒学习方法
CN107679501B (zh) 一种基于标签自提纯的深度学习方法
CN114580566A (zh) 一种基于间隔监督对比损失的小样本图像分类方法
CN118887382A (zh) 一种基于预训练模型定位知识嵌入的零样本目标检测方法

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21857330

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 21857330

Country of ref document: EP

Kind code of ref document: A1