CN111582449A - 一种目标域检测网络的训练方法、装置、设备及存储介质 - Google Patents

一种目标域检测网络的训练方法、装置、设备及存储介质 Download PDF

Info

Publication number
CN111582449A
CN111582449A CN202010378333.3A CN202010378333A CN111582449A CN 111582449 A CN111582449 A CN 111582449A CN 202010378333 A CN202010378333 A CN 202010378333A CN 111582449 A CN111582449 A CN 111582449A
Authority
CN
China
Prior art keywords
detection network
domain detection
target domain
target
network
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010378333.3A
Other languages
English (en)
Other versions
CN111582449B (zh
Inventor
曹桂平
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangzhou Shiyuan Electronics Thecnology Co Ltd
Original Assignee
Guangzhou Shiyuan Electronics Thecnology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangzhou Shiyuan Electronics Thecnology Co Ltd filed Critical Guangzhou Shiyuan Electronics Thecnology Co Ltd
Priority to CN202010378333.3A priority Critical patent/CN111582449B/zh
Publication of CN111582449A publication Critical patent/CN111582449A/zh
Application granted granted Critical
Publication of CN111582449B publication Critical patent/CN111582449B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/088—Non-supervised learning, e.g. competitive learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/08—Feature extraction
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/12—Classification; Matching

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种目标域检测网络的训练方法、装置、设备及存储介质。该方法包括：基于源域数据和目标域数据构建编码网络、源域检测网络和目标域检测网络；根据目标函数更新编码网络、源域检测网络和目标域检测网络，直至目标函数的值满足设定条件，更新过程中，源域检测网络和目标域检测网络之间满足最大均值差异约束关系；将目标函数的值满足设定条件的情况下的目标域检测网络作为训练后的目标域检测网络。上述技术方案，根据源域数据训练得到用于识别目标域数据的检测网络，提高了对目标域数据识别的准确性并降低了目标域检测网络的数据成本。

Description

一种目标域检测网络的训练方法、装置、设备及存储介质
技术领域
本发明实施例涉及图像识别技术领域，尤其涉及一种目标域检测网络的训练方法、装置、设备及存储介质。
背景技术
随着医学影像设备和人工智能技术的高速发展，医学数据大规模增长，基于深度学习的人工智能医学影像的分析得到了逐步应用。根据大量的有标签数据可以训练一个深度神经网络，应用该深度神经网络可以检测特定的特征，从而对图像进行识别和分类，极大地降低了医生的工作负担，并提高了诊断效率和准确率。
对于深度神经网络，需要大量有标签的样本数据来训练模型，但是在医学领域，获取大量的医学图像比较困难，训练的数据成本较高；以利用电子计算机断层扫描(ComputedTomography，CT)设备拍摄的胸部CT图像检测肺结节的情况为例，不同型号的CT设备拍出的胸部CT图像之间具有明显的差异，如果直接将这些存在差异的图片混在一起训练神经网络，虽然数据量足够，但图像之间的差异反而会导致训练效果变差，影响检测准确性，并且样本数据难以全面覆盖各种数据类型，一旦更换其他型号的CT设备的CT图像数据，识别准确率依然较低。
发明内容
本发明提供了一种目标域检测网络的训练方法、装置、设备及存储介质，以实现对跨域数据的准确检测，提高了对目标域数据识别的准确性并降低了目标域检测网络的数据成本。
第一方面，本发明实施例提供了一种目标域检测网络的训练方法，包括：
基于源域数据和目标域数据，构建编码网络、源域检测网络和目标域检测网络，其中，所述编码网络用于提取所述源域数据和所述目标域数据的特征，所述源域检测网络用于识别所述源域数据的特征，所述目标域检测网络用于识别所述目标域数据的特征；
根据目标函数更新所述编码网络、所述源域检测网络和所述目标域检测网络，直至所述目标函数的值满足设定条件，更新过程中，所述源域检测网络和所述目标域检测网络之间满足最大均值差异(Maximum Mean Discrepancy，MMD)约束关系；
将目标函数的值满足设定条件的情况下的目标域检测网络作为训练后的目标域检测网络。
第二方面，本发明实施例提供了一种目标域检测网络的训练装置，包括：
网络构建模块，用于基于源域数据和目标域数据，构建编码网络、源域检测网络和目标域检测网络，其中，所述编码网络用于提取所述源域数据和所述目标域数据的特征，所述源域检测网络用于识别所述源域数据的特征，所述目标域检测网络用于识别所述目标域数据的特征；
更新模块，用于根据目标函数更新所述编码网络、所述源域检测网络和所述目标域检测网络，直至所述目标函数的值满足设定条件，更新过程中，所述源域检测网络和所述目标域检测网络之间满足最大均值差异约束关系；
识别模块，用于将目标函数的值满足设定条件的情况下的目标域检测网络作为训练后的目标域检测网络。
第三方面，本发明实施例提供了一种设备，包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序；
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如第一方面所述的目标域检测网络的训练方法。
第四方面，本发明实施例还提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如第一方面所述的目标域检测网络的训练方法。
本发明实施例提供了一种目标域检测网络的训练方法、装置、设备及存储介质，该方法包括：基于源域数据和目标域数据构建编码网络、源域检测网络和目标域检测网络，编码网络用于提取源域数据和目标域数据的特征，源域检测网络用于识别源域数据的特征，目标域检测网络用于识别目标域数据的特征；根据目标函数更新编码网络、源域检测网络和目标域检测网络，直至目标函数的值满足设定条件，更新过程中，源域检测网络和目标域检测网络之间满足最大均值差异约束关系；将目标函数的值满足设定条件的情况下的目标域检测网络作为训练后的目标域检测网络。上述技术方案，根据源域数据训练用于识别目标域数据的检测网络，实现了跨域检测，提高了对目标域数据识别的准确性并降低了目标域检测网络的数据成本。
附图说明
图1为本发明实施例一提供的一种目标域检测网络的训练方法的流程图；
图2为本发明实施例一中的目标域检测网络的训练方法的应用场景的示意图；
图3为本发明实施例二提供的一种目标域检测网络的训练方法的流程图；
图4为本发明实施例三提供的一种目标域检测网络的训练方法的流程图；
图5为本发明实施例三中的目标域检测网络的训练方法的原理示意图；
图6为本发明实施例四提供的一种目标域检测网络的训练装置的结构示意图；
图7为本发明实施例五提供的一种设备的硬件结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释本发明，而非对本发明的限定。此外，在不冲突的情况下，本发明中的实施例及实施例中的特征可以相互组合。另外还需要说明的是，为了便于描述，附图中仅示出了与本发明相关的部分而非全部结构。
在更加详细地讨论示例性实施例之前应当提到的是，一些示例性实施例被描述成作为流程图描绘的处理或方法。虽然流程图将各项操作(或步骤)描述成顺序的处理，但是其中的许多操作可以被并行地、并发地或者同时实施。此外，各项操作的顺序可以被重新安排。当其操作完成时所述处理可以被终止，但是还可以具有未包括在附图中的附加步骤。所述处理可以对应于方法、函数、规程、子例程、子程序等等。此外，在不冲突的情况下，本发明中的实施例及实施例中的特征可以相互组合。
本发明使用的术语“包括”及其变形是开放性包括，即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”。
实施例一
图1为本发明实施例一提供的一种目标域检测网络的训练方法的流程图，本实施例可适用于对目标域检测网络进行训练的情况。具体的，该目标域检测网络的训练方法可以由目标域检测网络的训练装置执行，该目标域检测网络的训练装置可以通过软件和/或硬件的方式实现，并集成在设备中。进一步的，设备包括但不限定于：台式计算机、笔记本电脑、云服务器等。此处不限定源域数据或目标域数据的具体内容，例如，在对医疗影像领域中的肺部图像进行识别的过程中，可以将由一种设备拍摄的、已有标签的图像数据作为源域数据，将另一设备拍摄的、无标签的图像数据作为目标域数据。其中，源域数据可以包括来自不同设备的多个数据集。
图2为本发明实施例一中的目标域检测网络的训练方法的应用场景的示意图。如图2所示，源域数据为有标签的数据，目标域数据为无标签的数据，源域数据和目标域数据可以是通过不同设备采集到的，其特征分布具有差异，如果直接将根据源域数据训练得到的检测网络用于对目标域数据的识别，存在较大的误差，识别准确率低。
本实施例的目标域检测网络的训练方法，实质是一种无监督的训练方法，如图2所示，通过一个共用的编码网络，分别提取源域数据的特征和目标域数据的特征，然后分别输入对应的源域检测网络或目标域检测网络，其中，对于源域检测网络，可以基于源域数据的标签进行训练，从而对源域数据的特征进行学习、训练得到对于源域数据的识别能力，与此同时，源域检测网络和目标域检测网络之间满足一定的约束关系，在训练源域检测网络的同时，也同步训练了目标域检测网络。由于训练过程中，源域检测网络和目标域检测网络满足约束关系，两者的数据分布相似，从而可以将源域检测网络所学习到的识别能力迁移至目标域检测网络，使目标域检测网络也可以准确地识别目标域数据，从而解决不同设备采集到的数据之间的差异问题。利用该方法，针对无标签的目标域数据，可以根据源域数据进行有效且充足的训练，从而提高了对目标域数据识别的准确性，并降低了目标域检测网络的数据成本。
如图1所示，该方法具体包括如下步骤：
S110、基于源域数据和目标域数据，构建编码网络、源域检测网络和目标域检测网络，其中，所述编码网络用于提取所述源域数据和所述目标域数据的特征，所述源域检测网络用于识别所述源域数据的特征，所述目标域检测网络用于识别所述目标域数据的特征。
本实施例中，源域数据可以包括多个设备采集到的多个数据集，通过在所有的源域数据和目标域数据上构建一个共有的编码网络(Encoder)，记为E，该编码网络用于提取源域数据的特征和目标域数据的特征，然后针对各源域数据和目标域数据分别构建对应的检测网络，检测网络可以理解为解码器 (Decoder)，记为D，编码网络E提取到的特征分别输入至对应域的检测网络 D中，由对应域的检测网络D进行特征识别，在此基础上，对各个域的检测网络同步进行训练，最终得到可准确识别目标域数据的特征的目标域检测网络。
S120、根据目标函数更新所述编码网络、所述源域检测网络和所述目标域检测网络，直至所述目标函数的值满足设定条件，更新过程中，所述源域检测网络和所述目标域检测网络之间满足最大均值差异约束关系。
本实施例中，设定一个目标函数作为编码网络、源域检测网络和目标域检测网络的训练依据。设定该目标函数的目的是使编码网络、源域检测网络和目标域检测网络之间的损失最小，且保证源域检测网络和目标域检测网络之间的特征分布近似，即保证源域检测网络和目标域检测网络之间满足最大均值差异约束关系。通过三种网络不断的迭代更新，使该目标函数逼近最优值，当其达到最优值或者在一定误差范围内近似最优值时，得到的即为最终的编码网络、源域检测网络和目标域检测网络，此时的目标域检测网络可直接应用于对目标域数据的识别，具有较高的识别准确率。
具体的，
Figure RE-GDA0002484964050000071
表示源域j的数据，其中，
Figure RE-GDA0002484964050000072
表示源域j的图像，
Figure RE-GDA0002484964050000073
表示该图像对应的检测结果(标签)，nsj表示该源域j包含的图像数量。对于多源迁移的情况下，源域有多个，j≥2。
Figure RE-GDA0002484964050000074
表示目标域t的图像，其中，nt表示目标域包含的图片数量，目标域的图像为待识别的图像，没有标签。 S和T是来自不同域的数据，例如来自用不同医疗设备采集的肺结节CT数据集。在不同域的检测网络之间加入基于最大均值差异的距离约束，使得网络每一层的两个域数据表达相似，利用多个拥有标签的源域数据S和无标签的目标域T经过训练后，得到了一个用于自动检测目标域数据的目标域检测网络。
本实施例中，最大均值差异约束关系用来度量源域数据和目标域数据之间的分布的相似程度，表示为
Figure RE-GDA0002484964050000075
根据
Figure RE-GDA0002484964050000076
可以判断两个域数据的分布是否相同，如果
Figure RE-GDA0002484964050000077
的值足够小，则认为两个域的数据分布基本相同。
Figure RE-GDA0002484964050000078
的定义如下：
Figure RE-GDA0002484964050000081
其中，
Figure RE-GDA0002484964050000082
和
Figure RE-GDA0002484964050000083
分别表示来自源域和目标域的数据，ns和nt分别表示源域和目标域中数据的个数。函数Φ表示对数据
Figure RE-GDA0002484964050000084
和
Figure RE-GDA0002484964050000085
进行特征变换，将其映射到高维特征空间，即相应的域的检测网络中某一层输出的特征向量。通过在每个源域检测网络DSj和目标域检测网络DT的每一层之间都加入最大均值差异约束，可以使每个源域检测网络DSj和目标域检测网络DT中的每一层的数据表达都相似，通过根据源域数据的数据特征进行迁移学习，实现对目标域数据的准确识别。
S130、将目标函数的值满足设定条件的情况下的目标域检测网络作为训练后的目标域检测网络。
本实施例中，满足设定条件是指目标函数达到最优值或者在一定误差范围内近似最优值，这种情况下，目标域检测网络的输出即为对目标域数据的识别结果，具有较高的准确率，此时的目标域检测网络即为训练完成的目标域检测网络，可直接应用于对目标域数据的识别，例如，可直接应用于采集目标域数据的CT设备所采集到的新的肺部图像的识别，由于已经根据有标签的源域数据进行了迁移学习和训练，该目标域检测网络具有较高的准确率。
本发明实施例一提供的一种目标域检测网络的训练方法，通过构建编码网络、源域检测网络和目标域检测网络，并根据目标函数和最大均值差异约束关系对编码网络、源域检测网络和目标域检测网络进行训练，保证源域数据和目标域数据的特征分布相似，从而根据源域数据训练得到用于识别目标域数据的检测网络，实现了对跨域数据的识别，提高了目标域检测网络的识别准确性，并且在训练过程中，目标域数据不需要标签信息，仅利用源域数据的已有标签训练即可，降低了数据采集的成本和复杂度。
实施例二
图3为本发明实施例二提供的一种目标域检测网络的训练方法的流程图，本实施例是在上述实施例的基础上进行优化，对目标函数的构建进行具体描述。需要说明的是，未在本实施例中详尽描述的技术细节可参见上述任意实施例。
本实施例中的方法还包括：根据所述源域数据，确定所述编码网络和所述源域检测网络之间对应的第一损失函数；根据所述源域数据和所述目标域数据，确定所述编码网络、所述源域检测网络和所述目标域检测网络之间对应的第二损失函数；根据所述第一损失函数和所述第二损失函数，确定所述目标函数。
其中，所述目标函数为使所述第一损失函数与所述第二损失函数的和最小化的函数；所述设定条件包括所述目标函数的值达到最优值，其中，所述最优值为所述目标函数的最小值。
本实施例中，所述源域检测网络至少为两个；各所述源域检测网络和所述目标域检测网络之间均满足最大均值差异约束关系。
具体的，如图3所示，该方法具体包括如下步骤：
S210、基于源域数据和目标域数据，构建编码网络、源域检测网络和目标域检测网络。
S220、根据所述源域数据，确定所述编码网络和所述源域检测网络之间对应的第一损失函数。
本实施例通过构建第一损失函数，用于反映源域检测网络对编码网络所提取的源域数据的特征的识别准确率，在网络更新和训练过程中，通过使第一损失函数的值越来越小，可以得到精度越来越高的编码网络和源域检测网络。
以两个源域为例，利用源域数据
Figure RE-GDA0002484964050000101
(及其对应的标签
Figure RE-GDA0002484964050000102
)确定编码网络E和两个源域检测网络DS1、DS2之间的第一损失函数Lbce(E,DS1,DS2)，例如可以为：
Figure RE-GDA0002484964050000103
其中，第一损失函数的值越小，表明源域检测网络对源域数据的识别准确率越高，因此在源域检测网络的更新过程中，构建的目标函数应使第一损失函数最小化。
S230、根据所述源域数据和所述目标域数据，确定所述编码网络、所述源域检测网络和所述目标域检测网络之间对应的第二损失函数。
本实施例中，通过构建第二损失函数，用于反映源域检测网络与目标域检测网络的数据分布的相似程度，随着源域网络的不断训练和更新，保持源域检测网络与目标域检测网络的数据分布的相似程度较高，则也可以得到精度越来越高的的目标域检测网络。
本实施例中，在每个源域检测网络与目标域检测网络之间都加入MMD约束，例如，源域检测网络DS1与目标域检测网络DT之间的MMD约束表示为
Figure RE-GDA0002484964050000104
其含义是源域检测网络DS1与目标域检测网络DT的第l层之间的距离，具体可以表示为：
Figure RE-GDA0002484964050000105
同理，源域检测网络DS2与目标域检测网络DT之间的MMD约束表示为
Figure RE-GDA0002484964050000106
其含义是源域检测网络DS2与目标域检测网络DT的第l层之间的距离，具体可以表示为：
Figure RE-GDA0002484964050000111
通过将每一层的距离相加，可以构建第二损失函数，用于反映各源域检测网络和目标域检测网络的差异大小。
具体的，利用源域数据
Figure RE-GDA0002484964050000112
和目标域数据
Figure RE-GDA0002484964050000113
构建与源域S1对应的一个第二损失函数：
Figure RE-GDA0002484964050000114
通过最小化该第二损失函数可以训练编码器E 和源域检测网络DS1、目标域检测网络DT。
类似的，利用源域数据
Figure RE-GDA0002484964050000115
和目标域数据
Figure RE-GDA0002484964050000116
构建与源域S2对应的一个第二损失函数：
Figure RE-GDA0002484964050000117
通过最小化该第二损失函数可以训练编码器E 和检测网络源域检测网络DS2、目标域检测网络DT。
S240、根据所述第一损失函数和所述第二损失函数，确定所述目标函数。
本实施例中，通过建立合适的目标函数，对第一损失函数和第二损失函数进行优化，以提高源域检测网络对编码网络所提取的源域数据的特征的识别准确率，并保持源域检测网络与目标域检测网络的数据分布的高相似程度。当源域为多个时，上述的第二损失函数也可以为多个，求解目标函数的过程，即为保证多个源域检测网络与目标域网络之间的数据分布都相似、损失最小化的过程。
在一实施例中，目标函数为使第一损失函数与第二损失函数的和最小化的函数；设定条件包括所述目标函数的值达到最优值，其中，最优值为目标函数的最小值。
本实施例中，目标函数为使第一损失函数和各源域对应的第二损失函数都最小化，以两个源域为例，则目标函数可以表示为：
Figure RE-GDA0002484964050000121
目标函数满足设定条件是指目标函数的值达到最优值，即最小值。
S250、根据目标函数更新所述编码网络、所述源域检测网络和所述目标域检测网络。
本实施例中，根据目标函数对第一损失函数和第二损失函数进行优化，以提高源域检测网络对编码网络所提取的源域数据的特征的识别准确率，并保持源域检测网络与目标域检测网络的数据分布的相似性，从而经过反复的训练可以得到最优的编码网络、源域检测网络以及目标域检测网络。
S260、目标函数的值满足设定条件？若是，则执行S270，若否，则返回执行S250。
S270、将目标函数的值满足设定条件的情况下的目标域检测网络作为训练后的目标域检测网络。
本发明实施例二提供的一种目标域检测网络的训练方法，在上述实施例的基础上进行优化，通过构建第一损失函数、第二损失函数以及对应的目标函数，以目标函数作为训练依据，经过反复训练提高源域检测网络对编码网络所提取的源域数据的特征的识别准确率，并保持源域检测网络与目标域检测网络的数据分布的高相似程度，实现了根据已有标签的源域数据训练出高精度的目标域检测网络。
实施例三
图4为本发明实施例三提供的一种目标域检测网络的训练方法的流程图，本实施例是在上述实施例的基础上进行优化，对源域检测网络和目标域检测网络的特征识别过程进行具体描述。需要说明的是，未在本实施例中详尽描述的技术细节可参见上述任意实施例。
本实施例中，根据目标函数更新编码网络、源域检测网络和目标域检测网络，直至目标函数的值满足设定条件，具体包括：通过编码网络分别提取源域数据的第一特征向量和目标域数据的第二特征向量；将第一特征向量和编码网络对于源域数据的中间层输出输入至对应的源域检测网络；将第二特征向量和编码网络对于目标域数据的中间层输出输入至目标域检测网络；根据源域检测网络和目标域检测网络的输入以及最大均值差异约束关系，得到源域检测网络和目标域检测网络的输出；根据源域检测网络和目标域检测网络的输出更新编码网络、源域检测网络和目标域检测网络的参数；基于更新后的编码网络、源域检测网络和目标域检测网络重复执行更新操作，直至目标函数的值满足设定条件。
本实施例中，在源域检测网络中，第一个反卷积层的输入为第一特征向量，除第一个反卷积层以外的每个反卷积层的输入包括编码网络对于源域数据的中间层输出以及前一个反卷积层的输出，最后一个反卷积层的输出包括源域数据的标签；在目标域检测网络中，第一个反卷积层的输入为第二特征向量，除第一个反卷积层以外的每个反卷积层的输入包括编码网络对于目标域数据的中间层输出以及前一个反卷积层的输出，最后一个反卷积层的输出为目标域数据的识别结果。
本实施例中，源域检测网络和目标域检测网络由相同数量的反卷积层组成；源域检测网络的每一个反卷积层和目标域检测网络的相应的反卷积层之间均满足最大均值差异约束关系；源域检测网络或所述目标域检测网络中的每一个反卷积层的输出均根据该反卷积层的输入以及该反卷积层对应的最大均值差异约束关系确定。
具体的，如图4所示，该方法具体包括如下步骤：
S310、基于源域数据和目标域数据，构建编码网络、源域检测网络和目标域检测网络。
S320、通过编码网络分别提取源域数据的第一特征向量和目标域数据的第二特征向量。
本实施例中的编码网络是源域数据和目标域数据共有的，即，使用相同的编码网络，分别提取源域数据的特征和目标域数据的特征，得到第一特征向量和第二特征向量。由于编码网络是源域数据和目标域数据共有的，本实施例还通过在源域检测网络中和目标域检测网络中加入MMD约束，以使不同域的特征分布相似，从而可以使用共有的编码网络提取特征供相应的检测网络进行特征识别，编码网络、源域检测网络和目标域检测网络经过多次循环更新后可以完成训练。
S330、将第一特征向量和编码网络对于源域数据的中间层输出输入至对应的源域检测网络。
本实施例中，第一特征向量输入至源域检测网络(的第一层)，且编码网络也是一个具有多个层的神经网络，其中的某一层输出与第一特征向量一同输入至源域检测网络(的第一层)，从而为源域检测网络的训练提供有效的丰富的特征。此外，源域检测网络也包括多个反卷积层，每个反卷积层的输入都包括前一个反卷积层的输出，以及编码网络的某一个中间层的输出，从而为源域检测网络的训练提供有效的丰富的特征，为源域检测网络的训练提供依据。
S340、将第二特征向量和编码网络对于目标域数据的中间层输出输入至目标域检测网络。
本实施例中，第二特征向量输入至目标域检测网络(的第一层)，且编码网络也是一个具有多个层的神经网络，其中的某一层输出与第一特征向量一同输入至目标域检测网络(的第一层)，从而为目标域检测网络的训练提供有效的丰富的特征。此外，目标域检测网络也包括多个反卷积层，每个反卷积层的输入都包括前一个反卷积层的输出，以及编码网络的某一个中间层的输出，从而为目标域检测网络的训练提供有效的丰富的特征，为目标域检测网络的训练提供依据。
除此之外，源域检测网络与目标域检测网络满足MMD约束关系。
S350、根据源域检测网络和目标域检测网络的输入以及最大均值差异约束关系得到源域检测网络和目标域检测网络的输出。
本实施例中，源域检测网络的输入包括第一特征向量和编码网络对于源域数据的中间层输出，目标域检测网络的输入包括第二特征向量和编码网络对于目标域数据的中间层输出，源域检测网络和目标域检测网络之间满足MMD约束关系。在此基础上，源域检测网络和目标域检测网络可基于相似的特征分布对各自域的数据特征进行识别，得到对应的输出，是源域检测网络学习到的识别能力迁移至目标域检测网络，根据源域检测网络的输出与源域数据的真实标签的误差，可以对编码器、源域检测网络、目标域检测网络进行训练。
S360、目标函数的值满足设定条件？若是，则执行S380，若否，则执行S370。
S370、根据源域检测网络和目标域检测网络的输出更新编码网络、源域检测网络和目标域检测网络的参数，返回执行S320。
本实施例中，如果当前的目标函数的值不满足设定条件，说明源域检测网络的输出与源域数据的真实标签的误差较大，训练还未完成。例如，第一损失函数和第二损失函数没有达到最小值，则继续调整编码网络、源域检测网络和目标域检测网络的参数，进行训练，经过对源域数据和目标域数据不断地特征提取和识别，可以逐步降低损失函数、提高源域检测网络和目标域检测网络的识别准确率，直至目标函数达到最小值，则完成训练，得到最终的编码网络、源域检测网络和目标域检测网络，此时的目标域检测网络可应用于对目标域数据的准确识别。
S380、将目标函数的值满足设定条件的情况下的目标域检测网络作为训练后的目标域检测网络。
本实施例中，源域检测网络经过不断的训练和学习，其输出的结果越来越接近源域数据的真实标签，识别准确性越来越高，与此同时，目标域检测网络在MMD约束下也经过了不断的训练和学习，其对无标签的目标域数据的识别结果也越来越准确，最终得到训练后的可用于准确识别目标域数据的目标域检测网络。
图5为本发明实施例三中的目标域检测网络的训练方法的原理示意图。如图5所示，源域S1、源域S2和目标域T中的肺部图像的大小均为96×96×96的三维(3D)数据，将这些不同域的3D数据分别输入至编码网络E，该编码网络E 是一个3D卷积神经网络，用于提取不同域的3D数据的特征。图5中，该编码网络E由5个卷积层组成，第一个卷积层的卷积核大小为3×3×3，通道数为24，步长为1×1×1；第二个卷积层包含两部分，分别是卷积核大小为3×3×3、通道数为32、步长为1×1×1的卷积块，以及卷积核大小为3×3×3，步长为2×2×2的最大池化层；第三层到第五层的结构与第二层的结构相似，区别在于通道数均为64。
来自源域S1、源域S2和目标域T的数据经过共用的编码网络E会提取出各自的特征向量ZS1、ZS2和ZT，这些特征向量被分别输入至对应域的检测网络中，即分别输入至DS1、DS2和DT，这三个检测网络为具有相同网络结构的3D卷积神经网络。具体的，每个域的检测网络均由三个反卷积层组成，第一个反卷积层的卷积核大小为2×2×2，通道数为64，步长为2×2×2；第二个反卷积层的卷积核大小2×2×2，通道数为64，步长为2×2×2；第三个反卷积层的卷积核大小为2×2×2，通道数为128，步长为2×2×2。
如图5所示，以目标域检测网络的特征识别过程为例，首先将ZT输入至DT的第一个反卷积层，DT的第一个反卷积层的输出和编码器E第四层的输出进行拼接组合，一起输入至DT的第二个反卷积层，DT的第二个反卷积层的输出和编码器E第三层的输出进行拼接组合，一起输入至DT的第三个反卷积层，通过DT的第三个反卷积层之后，得到了最终的输出结果，是一个32×5×3的3D数据，即对于目标域数据的识别结果。此外，DS1、DS2和DT之间的每个相对应的反卷积层都满足MMD约束。在这种约束下，经过不断循环训练，当目标函数达到最优值时，源域检测网络的输出已和源域数据的标签一致，得到的目标域检测网络DT已经是一个可用于识别目标域数据的高精度检测网络。
在一实施例中，在源域检测网络中，第一个反卷积层的输入为第一特征向量，除第一个反卷积层以外的每个反卷积层的输入包括编码网络对于源域数据的中间层输出以及前一个反卷积层的输出，最后一个反卷积层的输出包括源域数据的标签；在目标域检测网络中，第一个反卷积层的输入为第二特征向量，除第一个反卷积层以外的每个反卷积层的输入包括编码网络对于目标域数据的中间层输出以及前一个反卷积层的输出，最后一个反卷积层的输出为目标域数据的识别结果。
本实施例中，通过将共用的编码网络提取的特征向量以及编码网络的中间层输出结合输入至源域检测网络和目标域检测网络，然后经过多个反卷积层的处理，每个反卷积层的输入都包括前一个反卷积层的输出，以及编码网络的某一个中间层输出，从而为目标域检测网络的训练提供有效的丰富的特征，为目标域检测网络的训练提供依据。
在一实施例中，源域检测网络和目标域检测网络由相同数量的反卷积层组成；源域检测网络的每一个反卷积层和目标域检测网络的相应的反卷积层之间均满足最大均值差异约束关系；源域检测网络或目标域检测网络中的每一个反卷积层的输出均根据该反卷积层的输入以及该反卷积层对应的最大均值差异约束关系确定。
本实施例中，源域检测网络与目标域检测网络具有相同的网络结构，且源域检测网络与目标域检测网络的每个相应的反卷积层之间都满足MMD约束关系，使得检测网络的各个层中不同域的数据表达都相似，扩充了可供训练的数据集；在MMD约束下，结合特征向量以及编码网络的中间层输出，对数据特征进行可靠的处理，最终根据有标签的源域数据进行迁移学习，实现对目标域数据的准确识别。
需要说明的是，本实施例以3D数据格式的CT图像为例进行说明，整个框架采用的是3D U-Net网络结构，从而构建有效的3D数据检测网络，在实际应用中，也可以采用其他形式的用于处理3D数据的编码网络或检测网络进行替换，本实施例对编码网络和检测网络的层数、卷积核、通道数等不作限定。并且，如果源域数据或目标域数据为二维(2D)数据，也可以采用其他的用于处理2D数据的编码网络或检测网络进行替换。此外，本实施例对源域的数量不作限定，在有多个源域的情况下，每个源域检测网络与目标域检测网络之间都满足MMD约束，从而可以基于任意数量的源域数据是实现目标域检测网络的训练，提高训练的灵活性。
本发明实施例三提供的一种目标域检测网络的训练方法，在上述实施例的基础上进行优化，通过基于迁移学习的原理，将整个训练过程设计为 Encoder-Decoder的结构，并且为Decoder网络的每一层(不仅是最后一个全连接层)都添加了约束以实现特征数据的迁移，确保检测网络在特征处理过程中始终保持不同域数据分布的一致性，具有更高的可靠性，训练得到的目标域检测网络具有更高的识别和分类精度。
实施例四
图6为本发明实施例四提供的一种目标域检测网络的训练装置的结构示意图。如图6所示，本实施例提供的目标域检测网络的训练装置包括：
网络构建模块410，用于基于源域数据和目标域数据，构建编码网络、源域检测网络和目标域检测网络，其中，所述编码网络用于提取所述源域数据和所述目标域数据的特征，所述源域检测网络用于识别所述源域数据的特征，所述目标域检测网络用于识别所述目标域数据的特征；
更新模块420，用于根据目标函数更新所述编码网络、所述源域检测网络和所述目标域检测网络，直至所述目标函数的值满足设定条件，更新过程中，所述源域检测网络和所述目标域检测网络之间满足最大均值差异约束关系；
识别模块430，用于将目标函数的值满足设定条件的情况下的目标域检测网络作为训练后的目标域检测网络。
本发明实施例三提供的一种目标域检测网络的训练装置，通过根据目标函数更新编码网络、源域检测网络和目标域检测网络，直至目标函数的值满足设定条件，更新过程中，源域检测网络和目标域检测网络之间满足最大均值差异约束关系；在目标函数的值满足设定条件的情况下的目标域检测网络作为训练后的目标域检测网络，实现了根据源域数据训练用于识别目标域数据的检测网络，提高了目标域数据识别的准确性和检测网络的训练效率。
在上述实施例的基础上，还包括：目标函数确定模块，用于：
根据所述源域数据，确定所述编码网络和所述源域检测网络之间对应的第一损失函数；
根据所述源域数据和所述目标域数据，确定所述编码网络、所述源域检测网络和所述目标域检测网络之间对应的第二损失函数；
根据所述第一损失函数和所述第二损失函数，确定所述目标函数。
在上述实施例的基础上，所述目标函数为使所述第一损失函数与所述第二损失函数的和最小化的函数；
所述设定条件包括所述目标函数的值达到最优值，其中，所述最优值为所述目标函数的最小值。
在上述实施例的基础上，更新模块420包括：
特征提取单元，用于通过所述编码网络分别提取所述源域数据的第一特征向量和所述目标域数据的第二特征向量；
源域特征输入单元，用于将所述第一特征向量和所述编码网络对于所述源域数据的中间层输出输入至对应的源域检测网络；
目标域特征输入单元，用于将所述第二特征向量和所述编码网络对于所述目标域数据的中间层输出输入至所述目标域检测网络；
输出单元，用于根据所述源域检测网络和所述目标域检测网络的输入以及所述最大均值差异约束关系，得到所述源域检测网络和所述目标域检测网络的输出；
参数调整单元，用于根据所述源域检测网络和所述目标域检测网络的输出更新所述编码网络、所述源域检测网络和所述目标域检测网络的参数；
循环单元，用于基于更新后的所述编码网络、所述源域检测网络和所述目标域检测网络重复执行更新操作，直至所述目标函数的值满足设定条件。
在上述实施例的基础上，在所述源域检测网络中，第一个反卷积层的输入为所述第一特征向量，除所述第一个反卷积层以外的每个反卷积层的输入包括所述编码网络对于所述源域数据的中间层输出以及前一个反卷积层的输出，最后一个反卷积层的输出包括所述源域数据的标签；
在所述目标域检测网络中，第一个反卷积层的输入为所述第二特征向量，除所述第一个反卷积层以外的每个反卷积层的输入包括所述编码网络对于所述目标域数据的中间层输出以及前一个反卷积层的输出，最后一个反卷积层的输出为所述目标域数据的识别结果。
在上述实施例的基础上，所述源域检测网络和所述目标域检测网络由相同数量的反卷积层组成；
所述源域检测网络的每一个反卷积层和所述目标域检测网络的相应的反卷积层之间均满足最大均值差异约束关系；
所述源域检测网络或所述目标域检测网络中的每一个反卷积层的输出均根据该反卷积层的输入以及该反卷积层对应的最大均值差异约束关系确定。
在上述实施例的基础上，所述源域检测网络至少为两个；
各所述源域检测网络和所述目标域检测网络之间均满足最大均值差异约束关系。
本发明实施例四提供的目标域检测网络的训练装置可以用于执行上述任意实施例提供的目标域检测网络的训练方法，具备相应的功能和有益效果。
实施例五
图7为本发明实施例五提供的一种设备的硬件结构示意图。设备包括但不限定于：台式计算机、笔记本电脑、智能手机以及平板电脑等。如图7所示，本实施例提供的一种设备，包括：处理器510和存储装置520。该设备中的处理器可以是一个或多个，图7中以一个处理器510为例，所述设备中的处理器510和存储装置520可以通过总线或其他方式连接，图7中以通过总线连接为例。
所述一个或多个程序被所述一个或多个处理器510执行，使得所述一个或多个处理器实现上述实施例中任意所述的目标域检测网络的训练方法。
该设备中的存储装置520作为一种计算机可读存储介质，可用于存储一个或多个程序，所述程序可以是软件程序、计算机可执行程序以及模块，如本发明实施例中目标域检测网络的训练方法对应的程序指令/模块(例如，附图6所示的目标域检测网络的训练装置中的模块，包括：网络构建模块410、更新模块420以及识别模块430)。处理器510通过运行存储在存储装置520中的软件程序、指令以及模块，从而执行设备的各种功能应用以及数据处理，即实现上述方法实施例中的目标域检测网络的训练方法。
存储装置520主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序；存储数据区可存储根据设备的使用所创建的数据等(如上述实施例中的源域数据和目标域数据等)。此外，存储装置520可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。在一些实例中，存储装置520可进一步包括相对于处理器510远程设置的存储器，这些远程存储器可以通过网络连接至设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
并且，当上述设备中所包括一个或者多个程序被所述一个或者多个处理器 510执行时，进行如下操作：基于源域数据和目标域数据，构建编码网络、源域检测网络和目标域检测网络，其中，所述编码网络用于提取所述源域数据和所述目标域数据的特征，所述源域检测网络用于识别所述源域数据的特征，所述目标域检测网络用于识别所述目标域数据的特征；根据目标函数更新所述编码网络、所述源域检测网络和所述目标域检测网络，直至所述目标函数的值满足设定条件，更新过程中，所述源域检测网络和所述目标域检测网络之间满足最大均值差异约束关系；将目标函数的值满足设定条件的情况下的目标域检测网络作为训练后的目标域检测网络。
本实施例提出的设备与上述实施例提出的目标域检测网络的训练方法属于同一发明构思，未在本实施例中详尽描述的技术细节可参见上述任意实施例，并且本实施例具备与执行目标域检测网络的训练方法相同的有益效果。
在上述实施例的基础上，本实施例还提供一种计算机可读存储介质，其上存储有计算机程序，该程序被目标域检测网络的训练装置执行时实现本发明上述任意实施例中的目标域检测网络的训练方法，该方法包括：
基于源域数据和目标域数据，构建编码网络、源域检测网络和目标域检测网络，其中，所述编码网络用于提取所述源域数据和所述目标域数据的特征，所述源域检测网络用于识别所述源域数据的特征，所述目标域检测网络用于识别所述目标域数据的特征；根据目标函数更新所述编码网络、所述源域检测网络和所述目标域检测网络，直至所述目标函数的值满足设定条件，更新过程中，所述源域检测网络和所述目标域检测网络之间满足最大均值差异约束关系；将目标函数的值满足设定条件的情况下的目标域检测网络作为训练后的目标域检测网络。
当然，本发明实施例所提供的一种包含计算机可执行指令的存储介质，其计算机可执行指令不限于如上所述的目标域检测网络的训练方法操作，还可以执行本发明任意实施例所提供的目标域检测网络的训练方法中的相关操作，且具备相应的功能和有益效果。
通过以上关于实施方式的描述，所属领域的技术人员可以清楚地了解到，本发明可借助软件及必需的通用硬件来实现，当然也可以通过硬件实现，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在计算机可读存储介质中，如计算机的软盘、只读存储器 (Read-Only Memory，ROM)、随机存取存储器(RandomAccess Memory，RAM)、闪存(FLASH)、硬盘或光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述的目标域检测网络的训练方法。
注意，上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解，本发明不限于这里所述的特定实施例，对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此，虽然通过以上实施例对本发明进行了较为详细的说明，但是本发明不仅仅限于以上实施例，在不脱离本发明构思的情况下，还可以包括更多其他等效实施例，而本发明的范围由所附的权利要求范围决定。

Claims (10)

1.一种目标域检测网络的训练方法，其特征在于，包括：
基于源域数据和目标域数据，构建编码网络、源域检测网络和目标域检测网络，其中，所述编码网络用于提取所述源域数据和所述目标域数据的特征，所述源域检测网络用于识别所述源域数据的特征，所述目标域检测网络用于识别所述目标域数据的特征；
根据目标函数更新所述编码网络、所述源域检测网络和所述目标域检测网络，直至所述目标函数的值满足设定条件，更新过程中，所述源域检测网络和所述目标域检测网络之间满足最大均值差异约束关系；
将目标函数的值满足设定条件的情况下的目标域检测网络作为训练后的目标域检测网络。
2.根据权利要求1所述的方法，其特征在于，还包括：
根据所述源域数据，确定所述编码网络和所述源域检测网络之间对应的第一损失函数；
根据所述源域数据和所述目标域数据，确定所述编码网络、所述源域检测网络和所述目标域检测网络之间对应的第二损失函数；
根据所述第一损失函数和所述第二损失函数，确定所述目标函数。
3.根据权利要求2所述的方法，其特征在于，所述目标函数为使所述第一损失函数与所述第二损失函数的和最小化的函数；
所述设定条件包括所述目标函数的值达到最优值，其中，所述最优值为所述目标函数的最小值。
4.根据权利要求1所述的方法，其特征在于，所述根据目标函数更新所述编码网络、所述源域检测网络和所述目标域检测网络，直至所述目标函数的值满足设定条件，包括：
通过所述编码网络分别提取所述源域数据的第一特征向量和所述目标域数据的第二特征向量；
将所述第一特征向量和所述编码网络对于所述源域数据的中间层输出输入至对应的源域检测网络；
将所述第二特征向量和所述编码网络对于所述目标域数据的中间层输出输入至所述目标域检测网络；
根据所述源域检测网络和所述目标域检测网络的输入以及所述最大均值差异约束关系，得到所述源域检测网络和所述目标域检测网络的输出；
根据所述源域检测网络和所述目标域检测网络的输出更新所述编码网络、所述源域检测网络和所述目标域检测网络的参数；
基于更新后的所述编码网络、所述源域检测网络和所述目标域检测网络重复执行更新操作，直至所述目标函数的值满足设定条件。
5.根据权利要求4所述的方法，其特征在于，
在所述源域检测网络中，第一个反卷积层的输入为所述第一特征向量，除所述第一个反卷积层以外的每个反卷积层的输入包括所述编码网络对于所述源域数据的中间层输出以及前一个反卷积层的输出，最后一个反卷积层的输出包括所述源域数据的标签；
在所述目标域检测网络中，第一个反卷积层的输入为所述第二特征向量，除所述第一个反卷积层以外的每个反卷积层的输入包括所述编码网络对于所述目标域数据的中间层输出以及前一个反卷积层的输出，最后一个反卷积层的输出为所述目标域数据的识别结果。
6.根据权利要求4所述的方法，其特征在于，所述源域检测网络和所述目标域检测网络由相同数量的反卷积层组成；
所述源域检测网络的每一个反卷积层和所述目标域检测网络的相应的反卷积层之间均满足最大均值差异约束关系；
所述源域检测网络或所述目标域检测网络中的每一个反卷积层的输出均根据该反卷积层的输入以及该反卷积层对应的最大均值差异约束关系确定。
7.根据权利要求1-6任一项所述的方法，其特征在于，所述源域检测网络至少为两个；
各所述源域检测网络和所述目标域检测网络之间均满足最大均值差异约束关系。
8.一种目标域检测网络的训练装置，其特征在于，包括：
网络构建模块，用于基于源域数据和目标域数据，构建编码网络、源域检测网络和目标域检测网络，其中，所述编码网络用于提取所述源域数据和所述目标域数据的特征，所述源域检测网络用于识别所述源域数据的特征，所述目标域检测网络用于识别所述目标域数据的特征；
更新模块，用于根据目标函数更新所述编码网络、所述源域检测网络和所述目标域检测网络，直至所述目标函数的值满足设定条件，更新过程中，所述源域检测网络和所述目标域检测网络之间满足最大均值差异约束关系；
识别模块，用于将目标函数的值满足设定条件的情况下的目标域检测网络作为训练后的目标域检测网络。
9.一种设备，其特征在于，包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序；
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-7中任一所述的目标域检测网络的训练方法。
10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-7中任一所述的目标域检测网络的训练方法。
CN202010378333.3A 2020-05-07 2020-05-07 一种目标域检测网络的训练方法、装置、设备及存储介质 Active CN111582449B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010378333.3A CN111582449B (zh) 2020-05-07 2020-05-07 一种目标域检测网络的训练方法、装置、设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010378333.3A CN111582449B (zh) 2020-05-07 2020-05-07 一种目标域检测网络的训练方法、装置、设备及存储介质

Publications (2)

Publication Number Publication Date
CN111582449A true CN111582449A (zh) 2020-08-25
CN111582449B CN111582449B (zh) 2023-08-04

Family

ID=72115333

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010378333.3A Active CN111582449B (zh) 2020-05-07 2020-05-07 一种目标域检测网络的训练方法、装置、设备及存储介质

Country Status (1)

Country Link
CN (1) CN111582449B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112417293A (zh) * 2020-12-03 2021-02-26 京东数字科技控股股份有限公司 信息推送方法和系统、模型训练方法及相关设备
WO2023016168A1 (zh) * 2021-08-10 2023-02-16 中兴通讯股份有限公司 信号识别方法及装置、计算机可读存储介质

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108898218A (zh) * 2018-05-24 2018-11-27 阿里巴巴集团控股有限公司 一种神经网络模型的训练方法、装置、及计算机设备
CN109190707A (zh) * 2018-09-12 2019-01-11 深圳市唯特视科技有限公司 一种基于对抗学习的域自适应图像语义分割方法
CN109523526A (zh) * 2018-11-08 2019-03-26 腾讯科技（深圳）有限公司 组织结节检测及其模型训练方法、装置、设备和系统
US20190130220A1 (en) * 2017-10-27 2019-05-02 GM Global Technology Operations LLC Domain adaptation via class-balanced self-training with spatial priors
US20190189111A1 (en) * 2017-12-15 2019-06-20 Mitsubishi Electric Research Laboratories, Inc. Method and Apparatus for Multi-Lingual End-to-End Speech Recognition
CN110276811A (zh) * 2019-07-02 2019-09-24 厦门美图之家科技有限公司 图像转换方法、装置、电子设备及可读存储介质
CN110309798A (zh) * 2019-07-05 2019-10-08 中新国际联合研究院 一种基于域自适应学习和域泛化的人脸欺骗检测方法
CN110321926A (zh) * 2019-05-24 2019-10-11 北京理工大学 一种基于深度残差修正网络的迁移方法及系统
WO2020043296A1 (en) * 2018-08-30 2020-03-05 Huawei Technologies Co., Ltd. Device and method for separating a picture into foreground and background using deep learning

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190130220A1 (en) * 2017-10-27 2019-05-02 GM Global Technology Operations LLC Domain adaptation via class-balanced self-training with spatial priors
US20190189111A1 (en) * 2017-12-15 2019-06-20 Mitsubishi Electric Research Laboratories, Inc. Method and Apparatus for Multi-Lingual End-to-End Speech Recognition
CN108898218A (zh) * 2018-05-24 2018-11-27 阿里巴巴集团控股有限公司 一种神经网络模型的训练方法、装置、及计算机设备
WO2020043296A1 (en) * 2018-08-30 2020-03-05 Huawei Technologies Co., Ltd. Device and method for separating a picture into foreground and background using deep learning
CN109190707A (zh) * 2018-09-12 2019-01-11 深圳市唯特视科技有限公司 一种基于对抗学习的域自适应图像语义分割方法
CN109523526A (zh) * 2018-11-08 2019-03-26 腾讯科技（深圳）有限公司 组织结节检测及其模型训练方法、装置、设备和系统
CN110321926A (zh) * 2019-05-24 2019-10-11 北京理工大学 一种基于深度残差修正网络的迁移方法及系统
CN110276811A (zh) * 2019-07-02 2019-09-24 厦门美图之家科技有限公司 图像转换方法、装置、电子设备及可读存储介质
CN110309798A (zh) * 2019-07-05 2019-10-08 中新国际联合研究院 一种基于域自适应学习和域泛化的人脸欺骗检测方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112417293A (zh) * 2020-12-03 2021-02-26 京东数字科技控股股份有限公司 信息推送方法和系统、模型训练方法及相关设备
WO2023016168A1 (zh) * 2021-08-10 2023-02-16 中兴通讯股份有限公司 信号识别方法及装置、计算机可读存储介质

Also Published As

Publication number Publication date
CN111582449B (zh) 2023-08-04

Similar Documents

Publication Publication Date Title
US11670071B2 (en) Fine-grained image recognition
CN109345575B (zh) 一种基于深度学习的图像配准方法及装置
US11842487B2 (en) Detection model training method and apparatus, computer device and storage medium
WO2022213879A1 (zh) 目标对象检测方法、装置、计算机设备和存储介质
CN106547880B (zh) 一种融合地理区域知识的多维度地理场景识别方法
Laskar et al. Camera relocalization by computing pairwise relative poses using convolutional neural network
WO2022001623A1 (zh) 基于人工智能的图像处理方法、装置、设备及存储介质
CN110210513B (zh) 数据分类方法、装置及终端设备
CN111797893A (zh) 一种神经网络的训练方法、图像分类系统及相关设备
CN112307940A (zh) 模型训练方法、人体姿态检测方法、装置、设备及介质
WO2020134533A1 (zh) 深度模型训练方法及装置、电子设备及存储介质
WO2021203865A1 (zh) 分子结合位点检测方法、装置、电子设备及存储介质
CN113326851B (zh) 图像特征提取方法、装置、电子设备及存储介质
CN112668608B (zh) 一种图像识别方法、装置、电子设备及存储介质
Li et al. Transfer learning for toxoplasma gondii recognition
CN111091010A (zh) 相似度确定、网络训练、查找方法及装置和存储介质
Zeng et al. Sese-net: Self-supervised deep learning for segmentation
CN110866469A (zh) 一种人脸五官识别方法、装置、设备及介质
CN111582449B (zh) 一种目标域检测网络的训练方法、装置、设备及存储介质
CN112036514A (zh) 一种图像分类方法、装置、服务器及计算机可读存储介质
Xing et al. Bidirectional mapping-based domain adaptation for nucleus detection in cross-modality microscopy images
Chen et al. Full transformer framework for robust point cloud registration with deep information interaction
CN111368733A (zh) 一种基于标签分布学习的三维手部姿态估计方法、存储介质及终端
CN112906517A (zh) 一种自监督的幂律分布人群计数方法、装置和电子设备
CN114913330B (zh) 点云部件分割方法、装置、电子设备与存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant