CN116228715B - 息肉检测模型的训练方法、息肉检测方法及相关装置 - Google Patents

息肉检测模型的训练方法、息肉检测方法及相关装置 Download PDF

Info

Publication number
CN116228715B
CN116228715B CN202310200654.8A CN202310200654A CN116228715B CN 116228715 B CN116228715 B CN 116228715B CN 202310200654 A CN202310200654 A CN 202310200654A CN 116228715 B CN116228715 B CN 116228715B
Authority
CN
China
Prior art keywords
polyp
feature
prediction
image
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202310200654.8A
Other languages
English (en)
Other versions
CN116228715A (zh
Inventor
王杰祥
赵家英
李永会
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Douyin Vision Co Ltd
Original Assignee
Douyin Vision Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Douyin Vision Co Ltd filed Critical Douyin Vision Co Ltd
Priority to CN202310200654.8A priority Critical patent/CN116228715B/zh
Publication of CN116228715A publication Critical patent/CN116228715A/zh
Application granted granted Critical
Publication of CN116228715B publication Critical patent/CN116228715B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/0002—Inspection of images, e.g. flaw detection
    • G06T7/0012—Biomedical image inspection
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10068—Endoscopic image
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30004—Biomedical image processing
    • G06T2207/30096—Tumor; Lesion

Landscapes

  • Engineering & Computer Science (AREA)
  • Quality & Reliability (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Endoscopes (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)

Abstract

本公开涉及一种息肉检测模型的训练方法、息肉检测方法及相关装置，以提高息肉检测模型在检测低对比度的内窥镜图像的息肉检测性能。该训练方法包括：将目标样本图像输入息肉检测模型，得到图像特征、多个预测框特征以及息肉预测结果；根据息肉预测结果确定图像特征对应的特征权重，将特征权重与图像特征相乘得到目标图像特征，根据目标图像特征、正样本图像和负样本图像确定第一损失值；根据息肉预测结果、预测框特征、正样本框特征和负样本框特征，确定第二损失值；根据息肉预测结果与目标样本图像标注的息肉标签确定第三损失值；根据第一损失值、第二损失值和第三损失值，调整息肉检测模型的参数。

Description

息肉检测模型的训练方法、息肉检测方法及相关装置
技术领域
本公开涉及图像处理技术领域，具体地，涉及一种息肉检测模型的训练方法、息肉检测方法及相关装置。
背景技术
随着人工智能相关技术的发展，基于深度学习的辅助诊断技术被广泛应用于各种医疗相关场景中，例如基于深度学习的息肉检测模型对内窥镜图像进行息肉检测。目前，基于深度学习的息肉检测模型在较为简单的场景下取得良好的检测准确性和效率，如息肉组织与周围组织对比度较高的场景下。然而在实际应用中，不乏有肉眼难以检测的息肉，其与周围组织的对比度较低，颜色和质地非常相似，针对这些难以检测的息肉，基于深度学习的息肉检测模型的检测性能不佳。
发明内容
提供该发明内容部分以便以简要的形式介绍构思，这些构思将在后面的具体实施方式部分被详细描述。该发明内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征，也不旨在用于限制所要求的保护的技术方案的范围。
第一方面，本公开提供一种息肉检测模型的训练方法，所述息肉检测模型包括特征提取网络、区域提取网络和预测网络，所述训练方法包括：
将目标样本图像输入所述息肉检测模型，得到所述特征提取网络输出的图像特征、所述区域提取网络输出的多个预测框特征以及所述预测网络输出的息肉预测结果；
根据所述息肉预测结果，确定所述图像特征对应的特征权重，将所述图像特征对应的特征权重与所述图像特征相乘，得到目标图像特征，根据所述目标图像特征、所述目标样本图像对应的正样本图像特征和所述目标样本图像对应的负样本图像特征，确定第一损失值，其中，所述正样本图像为对所述目标样本图像进行数据增强处理得到的样本图像，所述负样本图像为样本图像集中除所述目标样本图像和所述正样本图像外的样本图像；
针对每一所述预测框特征，在所述多个预测框特征中确定与所述预测框特征属于同类别的正样本框特征，以及与所述预测框特征属于不同类别的负样本框特征，并根据所述息肉预测结果、所述预测框特征、所述正样本框特征和所述负样本框特征，确定第二损失值；
根据所述息肉预测结果与所述目标样本图像标注的息肉标签确定第三损失值；
根据所述第一损失值、所述第二损失值和所述第三损失值，调整所述息肉检测模型的参数。
第二方面，本公开提供一种息肉检测方法，所述方法包括：
获取待处理的内窥镜图像；
将所述内窥镜图像输入息肉检测模型，得到所述内窥镜图像对应的息肉检测结果，其中，所述息肉检测模型是通过上述第一方面中所述的训练方法训练得到的。
第三方面，本公开提供一种息肉检测模型的训练装置，所述息肉检测模型包括图像特征提取网络、区域提取网络和预测网络，所述训练装置包括：
第一训练模块，用于将目标样本图像输入所述息肉检测模型，得到所述特征提取网络输出的图像特征、所述区域提取网络输出的多个预测框特征以及所述预测网络输出的息肉预测结果；
第二训练模块，用于根据所述息肉预测结果，确定所述图像特征对应的特征权重，将所述图像特征对应的特征权重与所述图像特征相乘，得到目标图像特征，根据所述目标图像特征、所述目标样本图像对应的正样本图像和所述目标样本图像对应的负样本图像，确定第一损失值，其中，所述正样本图像为对所述目标样本图像进行数据增强处理得到的样本图像，所述负样本图像为样本图像集中除所述目标样本图像和所述正样本图像外的样本图像；
第三训练模块，用于针对每一所述预测框特征，在所述多个预测框特征中确定与所述预测框特征属于同类别的正样本框特征，以及与所述预测框特征属于不同类别的负样本框特征，并根据所述预测框特征、所述正样本框特征和所述负样本框特征，确定第二损失值；
第四训练模块，用于根据所述息肉预测结果与所述目标样本图像标注的息肉标签确定第三损失值；
第五训练模块，用于根据所述第一损失值、所述第二损失值和所述第三损失值，调整所述息肉检测模型的参数。
第四方面，本公开提供一种息肉检测装置，所述装置包括：
获取模块，用于获取待处理的内窥镜图像；
检测模块，用于将所述内窥镜图像输入息肉检测模型，得到所述内窥镜图像对应的息肉检测结果，其中，所述息肉检测模型是通过上述第一方面中所述的训练方法训练得到的。
第五方面，本公开提供一种非临时性计算机可读介质，其上存储有计算机程序，该程序被处理装置执行时实现第一方面或第二方面所述方法的步骤。
第六方面，本公开提供一种电子设备，包括：
存储装置，其上存储有计算机程序；
处理装置，用于执行所述存储装置中的所述计算机程序，以实现第一方面或第二方面所述方法的步骤。
通过上述技术方案，在息肉检测模型的训练过程中，可以分别构建图像级别的正负样本和预测框级别的正负样本，从而实现基于图像级别和框级别的关联对比学习，提高息肉检测模型对息肉区域和非息肉区域的区分度，进而提升训练后的息肉检测模型在检测低对比度的内窥镜图像的息肉检测性能。
本公开的其他特征和优点将在随后的具体实施方式部分予以详细说明。
附图说明
结合附图并参考以下具体实施方式，本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中，相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的，原件和元素不一定按照比例绘制。在附图中：
图1是根据本公开一示例性实施例示出的一种息肉检测模型的训练方法的流程图；
图2是根据本公开另一示例性实施例示出的一种息肉检测模型的训练方法的过程示意图；
图3是根据本公开一示例性实施例示出的一种息肉检测方法的流程图；
图4是根据本公开一示例性实施例示出的一种息肉检测模型的训练装置的框图；
图5是根据本公开一示例性实施例示出的一种息肉检测装置的框图；
图6是根据本公开一示例性实施例示出的一种电子设备的框图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例，然而应当理解的是，本公开可以通过各种形式来实现，而且不应该被解释为限于这里阐述的实施例，相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是，本公开的附图及实施例仅用于示例性作用，并非用于限制本公开的保护范围。
应当理解，本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行，和/或并行执行。此外，方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。
本文使用的术语“包括”及其变形是开放性包括，即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”；术语“另一实施例”表示“至少一个另外的实施例”；术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。
需要注意，本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分，并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意，本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的，本领域技术人员应当理解，除非在上下文另有明确指出，否则应该理解为“一个或多个”。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的，而并不是用于对这些消息或信息的范围进行限制。
可以理解的是，在使用本公开各实施例公开的技术方案之前，均应当依据相关法律法规通过恰当的方式对本公开所涉及个人信息的类型、使用范围、使用场景等告知用户并获得用户的授权。
例如，在响应于接收到用户的主动请求时，向用户发送提示信息，以明确地提示用户，其请求执行的操作将需要获取和使用到用户的个人信息。从而，使得用户可以根据提示信息来自主地选择是否向执行本公开技术方案的操作的电子设备、应用程序、服务器或存储介质等软件或硬件提供个人信息。
作为一种可选的但非限定性的实现方式，响应于接收到用户的主动请求，向用户发送提示信息的方式例如可以是弹窗的方式，弹窗中可以以文字的方式呈现提示信息。此外，弹窗中还可以承载供用户选择“同意”或者“不同意”向电子设备提供个人信息的选择控件。
可以理解的是，上述通知和获取用户授权过程仅是示意性的，不对本公开的实现方式构成限定，其它满足相关法律法规的方式也可应用于本公开的实现方式中。
同时，可以理解的是，本技术方案所涉及的数据(包括但不限于数据本身、数据的获取或使用)应当遵循相应法律法规及相关规定的要求。
正如背景技术所言，针对这些难以检测的息肉，基于深度学习的息肉检测模型的检测性能不佳。为了提高对比度较低的内窥镜图像的检测性能，相关技术一般有两种解决办法：(1)在训练集中增加更多的低对比度的内窥镜图像。(2)在有监督训练中，对困难样本赋予更大的训练权重，其中大部分困难样本是低对比度的内窥镜图像，如采用focalloss作为损失函数或者在样本策略上使用困难样本进行更多轮次的训练。然而，方法(1)需要额外引入大量的低对比度的内窥镜图像，会造成较大的存储负担以及标注成本。方法(2)在赋予困难样本更多权重的同时，可能是在强行拟合异常样本，让检测器强行去拟合异常样本对训练过程是没有帮助的。
有鉴于此，本公开提供一种息肉检测模型的训练方法、息肉检测方法及相关装置，以解决目前基于深度学习的息肉检测模型，在检测低对比度的内窥镜图像时，检测性能不佳的问题。并且，无需额外引入大量的低对比度的内窥镜图像，减少存储负担及标注成本。
图1是根据本公开一示例性实施例示出的一种息肉检测模型的训练方法的流程图。该息肉检测模型包括特征提取网络、区域提取网络和预测网络，参照图1，该训练方法包括：
步骤101，将目标样本图像输入息肉检测模型，得到特征提取网络输出的图像特征、区域提取网络输出的多个预测框特征以及预测网络输出的息肉预测结果。
步骤102，根据息肉预测结果，确定图像特征对应的特征权重，将图像特征对应的特征权重与图像特征相乘，得到目标图像特征，根据目标图像特征、目标样本图像对应的正样本图像和目标样本图像对应的负样本图像，确定第一损失值。
其中，正样本图像为对目标样本图像进行数据增强处理得到的样本图像，负样本图像为样本图像集中除目标样本图像和正样本图像外的样本图像。
步骤103，针对每一预测框特征，在多个预测框特征中确定与预测框特征属于同类别的正样本框特征，以及与预测框特征属于不同类别的负样本框特征，并根据息肉预测结果、预测框特征、正样本框特征和负样本框特征，确定第二损失值。
步骤104，根据息肉预测结果与目标样本图像标注的息肉标签确定第三损失值。
步骤105，根据第一损失值、第二损失值和第三损失值，调整息肉检测模型的参数。
示例地，息肉检测模型可以采用双阶段检测模型(如faster-rcnn)或者单阶段检测模型(如YOLO模型)，本公开实施例对此不作限定。参照图2，本公开实施例以faster-rcnn网络模型作为息肉检测模型进行实施例说明。
示例地，目标样本图像为有标签的内窥镜图像，标签信息包括息肉类别和息肉位置。在实际应用中，可以通过肠镜等不同类型的内窥镜得到多个样本图像，并对样本图像进行标注，然后将多个样本图像组成样本图像集。相应地，目标样本图像可以是样本图像集中的任一图像。
将目标样本图像输入息肉检测模型，可以得到特征提取网络输出的图像特征、区域提取网络输出的多个预测框特征以及预测网络输出的息肉预测结果。参照图2，特征提取网络可以是resent、vgg等backbone(主干网络)，区域提取网络可以由感兴趣区域提取网络(regionproposalnetwork，RPN)和ROI Align(Region of Interest，ROI)层构成，预测网络包括回归网络和分类网络。示例地，样本图像首先经过主干网络输出基础特征，并且不同样本图像的基础特征会被保留到一个memory bank(存储体)中。然后基础特征经过RPN网络得到前背景区域(预测框)，将这些区域与基础特征通过ROI Align的操作后，得到ROI特征。最后ROI特征经过检测头，进行分类和回归，输出息肉预测结果，该息肉预测结果包括预测框、预测框对应的类别以及预测框对应的预测类别概率，其中，类别包括息肉类别和非息肉类别，息肉类别的预测框表示内窥镜图像中存在息肉的预测区域，非息肉类别的预测框表示内窥镜图像中不存在息肉的预测区域，息肉类别的预测框对应的预测类别概率表示该预测框存在息肉的概率，非息肉类别的预测框对应的预测类别概率表示不存在息肉的概率。
为了增强低对比度的内窥镜图像的息肉类别和非息肉类别的判别表示，可以基于目标样本图像的数据增强图像构建正样本图像集，然后样本图像集中除目标样本图像和正样本图像外的样本图像作为负样本图像集，并基于预测框特征，将与预测框特征属于同类别的样本框特征作为正样本框特征，与预测框特征属于不同类别的样本框特征作为负样本框特征。进而可以在训练过程中，针对图像级别的正样本和负样本，以及框级别的正样本和负样本进行损失函数的计算。其中，目标样本图像可以是样本图像集中任一图像，正样本图像可以是正样本图像集中的任一图像，负样本可以是负样本图像集中的任一图像。相应地，预测框特征可以是多个预测框特征中的任一者，正样本框特征可以是多个预测框特征中与预测框特征同类别的任一者，负样本框特征可以是多个预测框特征中与预测框特征不同类别的任一者。
从而实现图像级别和框级别的关联对比学习，进而提高息肉检测模型对低对比度的内窥镜图像的息肉和非息肉的区分度，提高息肉检测模型对低对比度的内窥镜图像的息肉检测性能。此外，由于数据增强图像是基于样本图像进行平移、旋转、缩放等操作得到的，因此无需额外引入大量的低对比度的内窥镜图像，减少存储负担及标注成本。
应当理解的是，对比学习可以通过拉近正对的表示，拉远负对的表示。相关技术通常在检测任务中进行图像级别的对比学习，即原始图像的增强图像被视为正样本，数据集中的其他图像被视为负样本。然而相关技术中的图像级别的对比学习没有考虑到图像预测结果的不确定性，从而导致在进行对比操作时，不同对的正样本和负样本没有显性的区分开。此外，图像级别的对比学习忽略了图像内部物体的位置关系，进而导致训练后的模型在检测低对比度的内窥镜图像时，检测性能不佳。
因此，本公开实施例提供一种基于不确定性的图像级别和框级别的关联对比学习的方式，分别基于目标样本图像建立图像级别的正负样本集和框级别的正负样本集，从而增强低对比度的内窥镜图像的息肉和非息肉的判别表示，进而提高息肉检测模型对低对比度的内窥镜图像的息肉检测性能。
在一些实施例中，根据目标图像特征、目标样本图像对应的正样本图像和目标样本图像对应的负样本图像，确定第一损失值可以是：首先将正样本图像和负样本图像，输入息肉检测模型，得到正样本图像对应的正样本图像特征和正样本息肉预测结果，以及负样本图像对应的负样本图像特征和负样本息肉预测结果。然后根据正样本息肉预测结果，确定正样本图像特征对应的正样本特征权重，并根据负样本息肉预测结果，确定负样本图像特征对应的负样本特征权重。进而将正样本图像特征与正样本特征权重相乘，得到正样本目标图像特征，并将负样本图像特征与负样本特征权重相乘，得到负样本目标图像特征。最后根据目标图像特征、正样本目标图像特征和负样本目标图像特征，确定第一损失值。
示例地，模型对预测框的预测类别越确定(预测框对应的概率越高)，则对应的熵越小，从而对应的图像特征权重应当越大。反之，模型对预测框的预测类别越不确定，则对应的熵较大，从而对应的图像特征权重应当较小。其中，若模型对预测框的预测类别的预测结果越接近1，则表明模型对预测框的预测类别越确定。因此，可以按照熵与图像特征权重成反比的方式，确定每一样本图像的图像特征权重。进而根据样本图像的图像特征和图像特征权重确定样本图像对应的目标图像特征。
在一些实施例中，息肉预测结果包括用于标示息肉区域的息肉预测框以及息肉预测框对应的预测类别概率，根据息肉预测结果，确定图像特征对应的特征权重可以是：确定息肉预测结果中各息肉预测框对应的预测类别概率的熵值，并将各息肉预测框对应的熵值求和后除以息肉预测框的数量，得到平均熵值，根据平均熵值确定图像特征的特征权重。或者，根据息肉预测结果，确定息肉预测框的预测类别概率平均方差值，根据平均方差值确定图像特征的特征权重。
示例地，可以按照如下方式确定样本图像的特征权重Q：
其中，n表示息肉预测框的数量，Pi表示预测网络输出的第i个息肉预测框的预测类别概率(如图2所示的分类网络输出的概率)，H表示熵函数。
或者，还可以按照如下方式确定样本图像的特征权重Q：
其中，k表示息肉检测模型的类别数量，包括息肉类别和非息肉类别，r表示第k个类别的预测框数量，var表示方差函数。
在其他可能的实施例中，还可以将平均熵值的负数作为图像特征权重或者第一方差值和第二方差值的平均值的负数作为图像特征权重，本公开实施例对此不作限定。
进一步地，可以按照如下方式确定样本图像的目标图像特征m：
m＝Ft·Q (3)
其中，Ft表示特征提取网络输出的图像特征。目标样本图像对应的目标图像特征、正样本图像对应的正样本目标图像特征以及样本图像对应的负样本目标图像特征都可以参考上述计算式1-3确定。
进一步地，可以按照如下方式确定第一损失值L1：
其中，Mi表示正样本图像集，Ni表示负样本图像集，m+表示正样本目标图像特征，m-表示正样本目标图像特征，τ表示温度系数。
在上述过程中，利用对比学习的“对比能力”提高特征提取网络的特征表示能力，并且利用预测框的预测类别概率对特征进行加权操作，从而提高低对比度的内窥镜图像的息肉检测性能(低对比度的内窥镜图像的熵或者方差比较大)。
应当理解的是，由于需要根据目标图像特征、正样本目标图像特征和负样本目标图像特征确定第一损失值，因此在模型迭代训练过程中，针对每一样本图像计算损失值时，无法确定正样本图像的正样本目标图像特征和负样本图像的负样本目标图像特征。因此可以先将每一样本图像输入息肉检测模型，进而确定每一样本图像的目标图像特征，并将每一样本图像的目标图像特征作为历史图像特征进行存储。然后可以在迭代训练过程中，结合当前迭代训练中目标样本图像对应的图像特征和息肉预测结果确定目标图像特征，然后确定当前迭代训练中目标样本图像对应的正样本图像和负样本图像，将历史图像特征中正样本图像对应的目标图像特征作为正样本目标图像特征，负样本图像对应的目标图像特征作为负样本目标图像特征。并且在确定新的目标图像特征后，对历史图像特征进行更新。或者，可以将每一样本图像输入息肉检测模型，进而确定每一样本图像的图像特征和息肉预测结果，并将每一样本图像的图像特征和息肉预测结果作为历史数据进行存储，在迭代过程中根据历史数据确定正样本目标图像特征和负样本目标图像特征，本公开实施例对此不作限定。
在一些实施方式中，息肉预测结果包括息肉区域和非息肉区域的预测框以及预测框对应的预测类别概率，根据息肉预测结果、预测框特征、正样本框特征和负样本框特征，确定第二损失值，可以是：根据息肉预测结果中多个预测框特征对应的预测框的预测类别概率，确定预测框特征对应的第一目标特征、正样本框特征对应的第二目标特征以及负样本框特征对应的第三目标特征，然后根据第一目标特征、第二目标特征和第三目标特征，确定第二损失值。
继续参照图2，目标样本图像的图像特征经过感兴趣区域提取网络得到多个预测框，将这些预测框与图像特征通过ROI Align的操作后，得到ROI特征(预测框对应的特征)输入预测网络，预测网络输出每个预测框对应的预测分类概率。在此基础上，可以基于ROI特征构造正负样本对，以此学习图像内部的对比信息，从而加强息肉检测模式在检测低对比度的内窥镜图像的息肉检测性能。此外，值得说明的是，这种框级别的对比学习，在单次对比的过程中，是基于同一样本图像得到的多个预测框之间进行对比学习，无需跨图像进行对比学习，因此无需存储大量的ROI特征，从而减少存储负担。
在一些实施方式中，根据息肉预测结果中多个预测框特征对应的预测框的预测分类概率，确定预测框特征对应的第一目标特征可以是：根据息肉预测结果中多个预测框特征对应的预测框的预测分类概率，确定预测框特征对应的预测框的预测分类概率的熵值，并根据熵值确定预测框特征对应的特征权重，然后将预测框特征对应的特征权重与预测框特征相乘，得到第一目标特征。
例如，可以按照如下方式确定各预测框特征对应的目标特征aj：
aj＝FII[Pj＝t]·(1-H(Pj)) (5)
其中，II表示指示函数，Pj表示预测框j的预测分类概率，预测框包括是息肉预测框和非息肉预测框，t表示息肉检测模型的类别，(1-H(Pj))表示预测框特征对应的特征权重，FIIj＝]表示属于类别t的预测框的特征(ROI特征)。此外，还可以用熵值的负数表示特征权重，本公开实施例对此不作限制。
进一步地，可以按照如下方式确定第二损失值L2：
其中，Ai表示正样本框特征集合，Bi表示负样本框特征集合，a表示第一目标特征，a+表示第二目标特征，a-表示第三目标特征，τ′表示温度系数。
基于上述计算式(5)和(6)，相同类别的预测框之间的特征距离会被拉近，不同类别的预测框之间的特征距离会被拉远。并且，模型越确定的预测框对应的损失越小，模型越不确定的预测框对应的损失越高。
在一些实施方式中，基于第一损失值、第二损失值和第三损失值，调整息肉检测模型的参数可以是：根据预设损失权重，将第一损失值、第二损失值和第三损失值进行加权求和，得到目标损失值，根据目标损失值调整息肉检测模型的参数，以减小息肉检测模型输出的息肉预测结果中相同类别的预测框之间的特征距离，增加息肉检测模型输出的息肉预测结果中不同类别的预测框之间的特征距离。
示例地，第三损失值可以根据模型结构确定，本公开实施例对此不作限制。例如参照图2的Faster-rcnn网络，第三损失值可以根据分类网络的分类损失和回归网络的回归损失确定，具体可以参照相关技术中的Faster-rcnn网络损失计算，本公开实施例在此不再赘述。
例如，可以按照如下方式确定Faster-rcnn网络结构的息肉检测模型的目标损失值L：
L＝L1+2+f+h(7)
其中，Lf表示分类网络的分类损失，Lh表示回归网络的回归损失。
此外，还可以引入权重因子确定目标损失值，例如按照如下方式，对分类损失和回归损失进行加权，然后求和得到目标损失值L：
L＝L1+2+Lf+Lh(8)
其中，β表示分类损失的权重因子，γ表示回归损失的权重因子。应当理解的是，权重因子可以根据实际情况设定为0至1的任意值，本公开实施例对此不作限定，上述举例仅作示意。
然后，可以根据目标损失值调整息肉检测模型的参数，减小息肉检测模型输出的息肉预测结果中相同类别的预测框之间的特征距离，增加息肉检测模型输出的息肉预测结果中不同类别的预测框之间的特征距离。从而实现图像级别和框级别的关联对比学习，进而提高息肉检测模型对低对比度的内窥镜图像的息肉和非息肉的区分度，提高息肉检测模型对低对比度的内窥镜图像的息肉检测性能。
下面参照图2说明本公开提供的息肉检测模型的训练方法。
如图2所示，训练过程可以包括两部分，分别是基于图像级别的对比学习模块和基于框级别的对比学习模块，图像级别的对比学习是基于主干网络产生的特征，通过构造图像级别的正负样本对，并引入权重机制，提高息肉检测模型对低对比度的内窥镜图像的息肉检测性能。但是图像级别的对比学习，忽略的图像内部结构以及位置对比特性，因此进一步在ROI特征(感兴趣区域提取网络输出的框级别的特征)层面构造正负样本对，以此学习图像内部的对比信息，进一步提高息肉检测模型对低对比度的内窥镜图像的息肉检测性能。
最后，通过基于图像级别的对比损失、基于框级别的对比损失、以及息肉预测结果和息肉标签之间的损失(分类损失和回归损失)对息肉检测模型进行参数调整，完成对息肉检测模型的训练。在应用阶段，可以根据训练完成的息肉检测模型对内窥镜图像进行息肉检测。应当理解的是，图2所示的各训练过程的具体细节可以参照上文，这里不再赘述。
基于同一构思，本公开还提供一种息肉检测方法。参照图3，该息肉检测方法包括：
步骤301，获取待处理的内窥镜图像。
步骤302，将内窥镜图像输入息肉检测模型，得到内窥镜图像对应的息肉检测结果。
其中，息肉检测模型是通过上述任一息肉检测模型的训练方法训练得到的。
示例地，息肉检测模型可以采用双阶段检测模型(如faster-rcnn)或者单阶段检测模型(如YOLO模型)，本公开实施例对此不作限定。
通过上述方案，由于在息肉检测模型的训练过程中，分别构建图像级别的正负样本和预测框级别的正负样本，从而实现基于图像级别和框级别的关联对比学习，提高息肉检测模型对息肉区域和非息肉区域的区分度，进而提升息肉检测模型在检测低对比度的内窥镜图像的息肉检测性能。这样，即使输入息肉检测模型的内窥镜图像的对比度较低，也可以得到更准确的息肉检测结果。
基于同一构思，本公开还提供一种息肉检测模型的训练装置，该装置可以通过软件、硬件或者两者结合的方式成为电子设备的部分或全部。其中，息肉检测模型包括图像特征提取网络、区域提取网络和预测网络。参照图4，该息肉检测模型的训练装置400包括：
第一训练模块401，用于将目标样本图像输入所述息肉检测模型，得到所述特征提取网络输出的图像特征、所述区域提取网络输出的多个预测框特征以及所述预测网络输出的息肉预测结果。
第二训练模块402，用于根据所述息肉预测结果，确定所述图像特征对应的特征权重，将所述图像特征对应的特征权重与所述图像特征相乘，得到目标图像特征，根据所述目标图像特征、所述目标样本图像对应的正样本图像和所述目标样本图像对应的负样本图像，确定第一损失值，其中，所述正样本图像为对所述目标样本图像进行数据增强处理得到的样本图像，所述负样本图像为样本图像集中除所述目标样本图像和所述正样本图像外的样本图像。
第三训练模块403，用于针对每一所述预测框特征，在所述多个预测框特征中确定与所述预测框特征属于同类别的正样本框特征，以及与所述预测框特征属于不同类别的负样本框特征，并根据所述息肉预测结果、所述预测框特征、所述正样本框特征和所述负样本框特征，确定第二损失值。
第四训练模块404，用于根据所述息肉预测结果与所述目标样本图像标注的息肉标签确定第三损失值。
第五训练模块405，用于根据所述第一损失值、所述第二损失值和所述第三损失值，调整所述息肉检测模型的参数。
可选地，所述第二训练模块402用于：
将所述正样本图像和所述负样本图像，输入所述息肉检测模型，得到所述正样本图像对应的正样本图像特征和正样本息肉预测结果，以及所述负样本图像对应的负样本图像特征和负样本息肉预测结果；
根据所述正样本息肉预测结果，确定所述正样本图像特征对应的正样本特征权重，并根据所述负样本息肉预测结果，确定所述负样本图像特征对应的负样本特征权重；
将所述正样本图像特征与所述正样本特征权重相乘，得到正样本目标图像特征，并将所述负样本图像特征与所述负样本特征权重相乘，得到负样本目标图像特征；
根据所述目标图像特征、所述正样本目标图像特征和所述负样本目标图像特征，确定所述第一损失值。
可选地，所述息肉预测结果包括用于标示息肉区域的息肉预测框以及所述息肉预测框对应的预测类别概率，所述第二训练模块402用于：
确定所述息肉预测结果中各所述息肉预测框对应的预测类别概率的熵值，并将各所述息肉预测框对应的所述熵值求和后除以所述息肉预测框的数量，得到平均熵值；
根据所述平均熵值确定所述图像特征的特征权重；或，
根据所述息肉预测结果，确定所述息肉预测框的预测类别概率的平均方差值，根据所述平均方差值确定所述图像特征的特征权重。
可选地，所述息肉预测结果包括息肉区域和非息肉区域的预测框以及所述预测框对应的预测类别概率，所述第三训练模块403用于：
根据所述息肉预测结果中所述多个预测框特征对应的预测框概率的预测类别概率，确定所述预测框特征对应的第一目标特征、所述正样本框特征对应的第二目标特征以及所述负样本框特征对应的第三目标特征；
根据所述第一目标特征、所述第二目标特征和所述第三目标特征，确定所述第二损失值。
可选地，所述第三训练模块403用于：
根据所述息肉预测结果中所述多个预测框特征对应的预测框概率的预测类别概率，确定所述预测框特征对应的预测框的预测类别概率的熵值；
根据所述熵值确定所述预测框特征对应的特征权重；
将所述预测框特征对应的特征权重与所述预测框特征相乘，得到所述第一目标特征。
可选地，所述第五训练模块405用于：
根据预设损失权重，将所述第一损失值、所述第二损失值和所述第三损失值进行加权求和，得到目标损失值；
根据所述目标损失值调整所述息肉检测模型的参数，以减小所述息肉检测模型输出的息肉预测结果中相同类别的预测框之间的特征距离，增加所述息肉检测模型输出的息肉预测结果中不同类别的预测框之间的特征距离。
基于同一构思，本公开还提供一种息肉检测装置，该装置可以通过软件、硬件或者两者结合的方式成为电子设备的部分或全部。参照图5，该息肉检测装置500可以包括：
获取模块501，用于获取待处理的内窥镜图像。
检测模块502，用于将所述内窥镜图像输入息肉检测模型，得到所述内窥镜图像对应的息肉检测结果，其中，所述息肉检测模型是通过上述任一项所述息肉检测模型的训练方法训练得到的。
关于上述实施例中的装置，其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述，此处将不做详细阐述说明。
基于同一构思，本公开还提供一种非临时性计算机可读介质，其上存储有计算机程序，该程序被处理装置执行时实现上述任一息肉检测模型的训练方法或息肉检测方法的步骤。
基于同一构思，本公开还提供一种电子设备，包括：
存储装置，其上存储有计算机程序；
处理装置，用于执行所述存储装置中的所述计算机程序，以实现上述任一息肉检测模型的训练方法或息肉检测方法的步骤。
下面参考图6，其示出了适于用来实现本公开实施例的电子设备600的结构示意图。本公开实施例中的终端设备可以包括但不限于诸如移动电话、笔记本电脑、PAD(平板电脑)等等的移动终端以及诸如台式计算机、内窥镜设备等等的固定终端。图6示出的电子设备仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。
如图6所示，电子设备600可以包括处理装置(例如中央处理器、图形处理器等)601，其可以根据存储在只读存储器(ROM)602中的程序或者从存储装置608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中，还存储有电子设备600操作所需的各种程序和数据。处理装置601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
通常，以下装置可以连接至I/O接口605：包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置606；包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置607；包括例如磁带、硬盘等的存储装置608；以及通信装置609。通信装置609可以允许电子设备600与其他设备进行无线或有线通信以交换数据。虽然图6示出了具有各种装置的电子设备600，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在非暂态计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信装置609从网络上被下载和安装，或者从存储装置608被安装，或者从ROM 602被安装。在该计算机程序被处理装置601执行时，执行本公开实施例的方法中限定的上述功能。
需要说明的是，本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、RF(射频)等等，或者上述的任意合适的组合。
在一些实施方式中，可以利用诸如HTTP(HyperText Transfer Protocol，超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信，并且可以与任意形式或介质的数字数据通信(例如，通信网络)互连。通信网络的示例包括局域网(“LAN”)，广域网(“WAN”)，网际网(例如，互联网)以及端对端网络(例如，ad hoc端对端网络)，以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：将目标样本图像输入所述息肉检测模型，得到所述特征提取网络输出的图像特征、所述区域提取网络输出的多个预测框特征以及所述预测网络输出的息肉预测结果；根据所述息肉预测结果，确定所述图像特征对应的特征权重，将所述图像特征对应的特征权重与所述图像特征相乘，得到目标图像特征，根据所述目标图像特征、所述目标样本图像对应的正样本图像和所述目标样本图像对应的负样本图像，确定第一损失值，其中，所述正样本图像为对所述目标样本图像进行数据增强处理得到的样本图像，所述负样本图像为样本图像集中除所述目标样本图像和所述正样本图像外的样本图像；针对每一所述预测框特征，在所述多个预测框特征中确定与所述预测框特征属于同类别的正样本框特征，以及与所述预测框特征属于不同类别的负样本框特征，并根据所述息肉预测结果、所述预测框特征、所述正样本框特征和所述负样本框特征，确定第二损失值；根据所述息肉预测结果与所述目标样本图像标注的息肉标签确定第三损失值；根据所述第一损失值、所述第二损失值和所述第三损失值，调整所述息肉检测模型的参数。
或者，上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：获取待处理的内窥镜图像；将所述内窥镜图像输入息肉检测模型，得到所述内窥镜图像对应的息肉检测结果，其中，所述息肉检测模型是通过上述任一项所述息肉检测模型的训练方法训练得到的。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码，上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言——诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)——连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的模块可以通过软件的方式实现，也可以通过硬件的方式来实现。其中，模块的名称在某种情况下并不构成对该模块本身的限定。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如，非限制性地，可以使用的示范类型的硬件逻辑部件包括：现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开中所涉及的公开范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述公开构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
此外，虽然采用特定次序描绘了各操作，但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下，多任务和并行处理可能是有利的。同样地，虽然在上面论述中包含了若干具体实现细节，但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地，在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。
尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题，但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反，上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。关于上述实施例中的装置，其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述，此处将不做详细阐述说明。

Claims (11)

1.一种息肉检测模型的训练方法，其特征在于，所述息肉检测模型包括特征提取网络、区域提取网络和预测网络，所述训练方法包括：
将目标样本图像输入所述息肉检测模型，得到所述特征提取网络输出的图像特征、所述区域提取网络输出的多个预测框特征以及所述预测网络输出的息肉预测结果；
根据所述息肉预测结果，确定所述图像特征对应的特征权重，将所述图像特征对应的特征权重与所述图像特征相乘，得到目标图像特征，根据所述目标图像特征、所述目标样本图像对应的正样本图像特征和所述目标样本图像对应的负样本图像特征，确定第一损失值，其中，所述正样本图像为对所述目标样本图像进行数据增强处理得到的样本图像，所述负样本图像为样本图像集中除所述目标样本图像和所述正样本图像外的样本图像；
针对每一所述预测框特征，在所述多个预测框特征中确定与所述预测框特征属于同类别的正样本框特征，以及与所述预测框特征属于不同类别的负样本框特征，并根据所述息肉预测结果、所述预测框特征、所述正样本框特征和所述负样本框特征，确定第二损失值；
根据所述息肉预测结果与所述目标样本图像标注的息肉标签确定第三损失值；
根据所述第一损失值、所述第二损失值和所述第三损失值，调整所述息肉检测模型的参数。
2.根据权利要求1所述的训练方法，其特征在于，所述根据所述目标图像特征、所述目标样本图像对应的正样本图像特征和所述目标样本图像对应的负样本图像特征，确定第一损失值，包括：
将所述正样本图像和所述负样本图像，输入所述息肉检测模型，得到所述正样本图像对应的正样本图像特征和正样本息肉预测结果，以及所述负样本图像对应的负样本图像特征和负样本息肉预测结果；
根据所述正样本息肉预测结果，确定所述正样本图像特征对应的正样本特征权重，并根据所述负样本息肉预测结果，确定所述负样本图像特征对应的负样本特征权重；
将所述正样本图像特征与所述正样本特征权重相乘，得到正样本目标图像特征，并将所述负样本图像特征与所述负样本特征权重相乘，得到负样本目标图像特征；
根据所述目标图像特征、所述正样本目标图像特征和所述负样本目标图像特征，确定所述第一损失值。
3.根据权利要求1所述的训练方法，其特征在于，所述息肉预测结果包括用于标示息肉区域的息肉预测框以及所述息肉预测框对应的预测类别概率，所述根据所述息肉预测结果，确定所述图像特征对应的特征权重，包括：
确定所述息肉预测结果中各所述息肉预测框对应的预测类别概率的熵值，并将各所述息肉预测框对应的所述熵值求和后除以所述息肉预测框的数量，得到平均熵值；
根据所述平均熵值确定所述图像特征的特征权重；或，
根据所述息肉预测结果，确定所述息肉预测框的预测类别概率的平均方差值，根据所述平均方差值确定所述图像特征的特征权重。
4.根据权利要求1所述的训练方法，其特征在于，所述息肉预测结果包括息肉区域和非息肉区域的预测框以及所述预测框对应的预测类别概率，所述根据所述息肉预测结果、所述预测框特征、所述正样本框特征和所述负样本框特征，确定第二损失值，包括：
根据所述息肉预测结果中所述多个预测框特征对应的预测框的预测类别概率，确定所述预测框特征对应的第一目标特征、所述正样本框特征对应的第二目标特征以及所述负样本框特征对应的第三目标特征；
根据所述第一目标特征、所述第二目标特征和所述第三目标特征，确定所述第二损失值。
5.根据权利要求4所述的训练方法，其特征在于，所述根据所述息肉预测结果中所述多个预测框特征对应的预测框的预测类别概率，确定所述预测框特征对应的第一目标特征，包括：
根据所述息肉预测结果中所述多个预测框特征对应的预测框的预测类别概率，确定所述预测框特征对应的预测框的预测类别概率的熵值；
根据所述熵值确定所述预测框特征对应的特征权重；
将所述预测框特征对应的特征权重与所述预测框特征相乘，得到所述第一目标特征。
6.根据权利要求1-5任一项所述的训练方法，其特征在于，基于所述第一损失值、所述第二损失值和所述第三损失值，调整所述息肉检测模型的参数，包括：
根据预设损失权重，将所述第一损失值、所述第二损失值和所述第三损失值进行加权求和，得到目标损失值；
根据所述目标损失值调整所述息肉检测模型的参数，以减小所述息肉检测模型输出的息肉预测结果中相同类别的预测框之间的特征距离，增加所述息肉检测模型输出的息肉预测结果中不同类别的预测框之间的特征距离。
7.一种息肉检测方法，其特征在于，所述方法包括：
获取待处理的内窥镜图像；
将所述内窥镜图像输入息肉检测模型，得到所述内窥镜图像对应的息肉检测结果，其中，所述息肉检测模型是通过权利要求1-6任一所述的训练方法训练得到的。
8.一种息肉检测模型的训练装置，其特征在于，所述息肉检测模型包括图像特征提取网络、区域提取网络和预测网络，所述训练装置包括：
第一训练模块，用于将目标样本图像输入所述息肉检测模型，得到所述特征提取网络输出的图像特征、所述区域提取网络输出的多个预测框特征以及所述预测网络输出的息肉预测结果；
第二训练模块，用于根据所述息肉预测结果，确定所述图像特征对应的特征权重，将所述图像特征对应的特征权重与所述图像特征相乘，得到目标图像特征，根据所述目标图像特征、所述目标样本图像对应的正样本图像特征和所述目标样本图像对应的负样本图像特征，确定第一损失值，其中，所述正样本图像为对所述目标样本图像进行数据增强处理得到的样本图像，所述负样本图像为样本图像集中除所述目标样本图像和所述正样本图像外的样本图像；
第三训练模块，用于针对每一所述预测框特征，在所述多个预测框特征中确定与所述预测框特征属于同类别的正样本框特征，以及与所述预测框特征属于不同类别的负样本框特征，并根据所述息肉预测结果、所述预测框特征、所述正样本框特征和所述负样本框特征，确定第二损失值；
第四训练模块，用于根据所述息肉预测结果与所述目标样本图像标注的息肉标签确定第三损失值；
第五训练模块，用于根据所述第一损失值、所述第二损失值和所述第三损失值，调整所述息肉检测模型的参数。
9.一种息肉检测装置，其特征在于，所述装置包括：
获取模块，用于获取待处理的内窥镜图像；
检测模块，用于将所述内窥镜图像输入息肉检测模型，得到所述内窥镜图像对应的息肉检测结果，其中，所述息肉检测模型是通过权利要求1-6任一项所述的训练方法训练得到的。
10.一种非临时性计算机可读介质，其上存储有计算机程序，其特征在于，该程序被处理装置执行时实现权利要求1-7中任一项所述方法的步骤。
11.一种电子设备，其特征在于，包括：
存储装置，其上存储有计算机程序；
处理装置，用于执行所述存储装置中的所述计算机程序，以实现权利要求1-7中任一项所述方法的步骤。
CN202310200654.8A 2023-02-28 2023-02-28 息肉检测模型的训练方法、息肉检测方法及相关装置 Active CN116228715B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310200654.8A CN116228715B (zh) 2023-02-28 2023-02-28 息肉检测模型的训练方法、息肉检测方法及相关装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310200654.8A CN116228715B (zh) 2023-02-28 2023-02-28 息肉检测模型的训练方法、息肉检测方法及相关装置

Publications (2)

Publication Number Publication Date
CN116228715A CN116228715A (zh) 2023-06-06
CN116228715B true CN116228715B (zh) 2023-09-22

Family

ID=86572812

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310200654.8A Active CN116228715B (zh) 2023-02-28 2023-02-28 息肉检测模型的训练方法、息肉检测方法及相关装置

Country Status (1)

Country Link
CN (1) CN116228715B (zh)

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113239982A (zh) * 2021-04-23 2021-08-10 北京旷视科技有限公司 检测模型的训练方法、目标检测方法、装置和电子系统
CN113393416A (zh) * 2020-03-12 2021-09-14 富士胶片商业创新有限公司 利用三元组损失和预测区域识别和定位图像的方法和介质
CN114782709A (zh) * 2022-05-20 2022-07-22 湖南神帆科技有限公司 一种基于高斯分配策略的图像小目标检测方法及系统
CN114841257A (zh) * 2022-04-21 2022-08-02 北京交通大学 一种基于自监督对比约束下的小样本目标检测方法
CN114898111A (zh) * 2022-04-26 2022-08-12 北京百度网讯科技有限公司 预训练模型生成方法和装置、目标检测方法和装置
CN114926622A (zh) * 2022-04-15 2022-08-19 中南大学 一种少样本目标检测方法、电子设备及计算机介质
CN115272987A (zh) * 2022-07-07 2022-11-01 淮阴工学院 一种基于MSA-Yolov5的恶劣天气下车辆检测方法及装置
CN115358392A (zh) * 2022-10-21 2022-11-18 北京百度网讯科技有限公司 深度学习网络的训练方法、文本检测方法及装置

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113393416A (zh) * 2020-03-12 2021-09-14 富士胶片商业创新有限公司 利用三元组损失和预测区域识别和定位图像的方法和介质
CN113239982A (zh) * 2021-04-23 2021-08-10 北京旷视科技有限公司 检测模型的训练方法、目标检测方法、装置和电子系统
CN114926622A (zh) * 2022-04-15 2022-08-19 中南大学 一种少样本目标检测方法、电子设备及计算机介质
CN114841257A (zh) * 2022-04-21 2022-08-02 北京交通大学 一种基于自监督对比约束下的小样本目标检测方法
CN114898111A (zh) * 2022-04-26 2022-08-12 北京百度网讯科技有限公司 预训练模型生成方法和装置、目标检测方法和装置
CN114782709A (zh) * 2022-05-20 2022-07-22 湖南神帆科技有限公司 一种基于高斯分配策略的图像小目标检测方法及系统
CN115272987A (zh) * 2022-07-07 2022-11-01 淮阴工学院 一种基于MSA-Yolov5的恶劣天气下车辆检测方法及装置
CN115358392A (zh) * 2022-10-21 2022-11-18 北京百度网讯科技有限公司 深度学习网络的训练方法、文本检测方法及装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
基于Transformer的弱监督医疗影像多模预训练模型;张贺贺等;《2022中国自动化大会论文集》;1-6 *

Also Published As

Publication number Publication date
CN116228715A (zh) 2023-06-06

Similar Documents

Publication Publication Date Title
CN111476309B (zh) 图像处理方法、模型训练方法、装置、设备及可读介质
CN108269254B (zh) 图像质量评估方法和装置
KR20220011207A (ko) 이미지 처리 방법 및 장치, 전자 기기 및 저장 매체
CN113658178B (zh) 组织图像的识别方法、装置、可读介质和电子设备
WO2023207564A1 (zh) 基于图像识别的内窥镜进退镜时间确定方法及装置
CN112561840A (zh) 视频裁剪方法、装置、存储介质及电子设备
EP4343616A1 (en) Image classification method, model training method, device, storage medium, and computer program
US20240112299A1 (en) Video cropping method and apparatus, storage medium and electronic device
CN115346278A (zh) 图像检测方法、装置、可读介质及电子设备
CN111382695A (zh) 用于检测目标的边界点的方法和装置
CN116168053B (zh) 息肉分割模型的训练方法、息肉分割方法及相关装置
CN114240867A (zh) 内窥镜图像识别模型的训练方法、内窥镜图像识别方法及装置
WO2023185516A1 (zh) 图像识别模型的训练方法、识别方法、装置、介质和设备
WO2023185497A1 (zh) 组织图像的识别方法、装置、可读介质和电子设备
CN116228715B (zh) 息肉检测模型的训练方法、息肉检测方法及相关装置
CN112907628A (zh) 视频目标追踪方法、装置、存储介质及电子设备
CN115830001B (zh) 肠道图像处理方法、装置、存储介质及电子设备
CN110399802B (zh) 处理面部图像眼睛亮度的方法、装置、介质和电子设备
CN115439449B (zh) 全视野组织学图像的处理方法、装置、介质和电子设备
US20210374480A1 (en) Arithmetic device, arithmetic method, program, and discrimination system
CN115115836B (zh) 图像识别方法、装置、存储介质以及电子设备
CN115375657A (zh) 息肉检测模型的训练方法、检测方法、装置、介质及设备
CN115375656A (zh) 息肉分割模型的训练方法、分割方法、装置、介质及设备
US20240037713A1 (en) System, devices and/or processes for image anti-aliasing
CN114863124A (zh) 模型训练方法、息肉检测方法、相应装置、介质及设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant