CN113658146A - 一种结节分级方法、装置、电子设备及存储介质 - Google Patents

一种结节分级方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN113658146A
CN113658146A CN202110961147.7A CN202110961147A CN113658146A CN 113658146 A CN113658146 A CN 113658146A CN 202110961147 A CN202110961147 A CN 202110961147A CN 113658146 A CN113658146 A CN 113658146A
Authority
CN
China
Prior art keywords
image
feature
feature vector
area
breast
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110961147.7A
Other languages
English (en)
Other versions
CN113658146B (zh
Inventor
程栋梁
张泉
谢蠡
刘振
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hefei Hebin Intelligent Robot Co ltd
Original Assignee
Hefei Hebin Intelligent Robot Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hefei Hebin Intelligent Robot Co ltd filed Critical Hefei Hebin Intelligent Robot Co ltd
Priority to CN202110961147.7A priority Critical patent/CN113658146B/zh
Publication of CN113658146A publication Critical patent/CN113658146A/zh
Application granted granted Critical
Publication of CN113658146B publication Critical patent/CN113658146B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/0002—Inspection of images, e.g. flaw detection
    • G06T7/0012—Biomedical image inspection
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/22—Matching criteria, e.g. proximity measures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10132—Ultrasound image
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30004—Biomedical image processing
    • G06T2207/30068—Mammography; Breast

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Software Systems (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Medical Informatics (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Mathematical Physics (AREA)
  • Computing Systems (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Quality & Reliability (AREA)
  • Image Processing (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)

Abstract

本发明公开了一种结节分级方法、装置、电子设备及存储介质，属于智能医疗技术领域。该方法包括获得待测乳腺区域的乳腺超声图像，提取所述待测乳腺区域的乳腺超声图像中某一处或多处的病灶区域图像；将所述病灶区域图像输入预置的特征提取网络模型，提取第一特征向量；计算所述第一特征向量与预置标签库中第二特征向量的相似度；根据所述相似度确定所述第一特征向量对应的病灶区域图像在BI‑RADS中分级结果。本申请通过自监督对比学习可以训练原始训练集，使预置的特征提取网络模型学到的特征具有极强的泛化性，采用特征向量相似度的匹配方式，能够准确获得结节对应的分类结果，降低了噪声的干扰，实现了自动识别BI‑RADS中的分级的结果。

Description

一种结节分级方法、装置、电子设备及存储介质
技术领域
本发明属于智能医疗技术领域，具体地说，涉及一种结节分级方法、装置、电子设备及存储介质。
背景技术
医疗领域，对诸如乳腺和甲状腺等结节的研究，日益引起广泛关注。通说认为，结节是癌症最重要的早期征象之一，根据结节的病变特征能够推断出病灶特性。其中，乳腺超声图像处理目前主要都是通过人工的方式发现图像中的结节并对结节按照BIRADS标准进行分级，然而各个地区医疗资源不平衡，采用人工智能技术自动分级对医疗资源缺乏的区域进行乳腺癌早筛有重大意义。
目前，结节自动分级大多通过图像分类的方法，例如使用深度神经网络(AlexNet，Resnet， VGG，Inception等)分类的方法，具体可以参见中国专利公开号为：CN111768366A，CN 110599476A，CN111000589 A。又例如使用传统方法提取特征再训练分类器的方法(SVM、KNN、 boosting等)，具体可以中国专利公开号为CN 111768366A，CN109308488A，CN109065150A。
然而，对于深度神经网络分类方法需要使用大量标注的数据训练，数据量不够可能导致网络过早收敛，无法学习到有价值的东西。对于传统方法分类器虽然数据少时也能学习，但是泛化差，实际的效果和数据量成正比。尤其在乳腺超声领域，BIRADS属性种类多(如乳腺结节形状、生长方向、边缘类型、边界类型，回声类型、后方回声类型、钙化类型等)，每个属性的子类别多(如回声类型有无回声，低回声，高回声，混合回声，等回声5个类别)，如此量级的类别至少需要十万量级有标注的图像才能训练到满意的分类效果。而医疗领域的数据虽然采集容易(一台超声设备大约一天能采集几百段视频)，但标注困难，需要专业的经验丰富医师进行标注，一个医生大约一天只能从视频中挑选出100张图像进行BIRADS分级标注，故难以获得可用的数量级的训练样本。
因此，如何使用没有标签的训练数据较好提取乳腺区域的超声图像的特征，提高结节分类准确率成为当前需要解决的问题。
发明内容
针对现实中较少可用训练数据，导致结节分类准确率不佳的问题，本发明提供一种结节分级方法，该方法通过自监督对比学习可以使用未标注的数据训练特征提取网络，使预置的特征提取网络模型学到的特征具有极强的泛化性，可以显著降低误检；建立的预置标签库中BI-RADS分级的标准与第二特征向量对应，采用特征向量相似度的匹配方式，能够准确获得结节对应的分类结果，同时降低了噪声的干扰，实现了自动识别BI-RADS中的分级的结果。
为实现上述目的，本发明采用如下的技术方案。
本发明第一方面提供一种结节分级方法，所述方法包括：
获得待测乳腺区域的乳腺超声图像，提取所述待测乳腺区域的乳腺超声图像中某一处或多处的病灶区域图像；
将所述病灶区域图像输入预置的特征提取网络模型，提取第一特征向量；
计算所述第一特征向量与预置标签库中第二特征向量的相似度；其中所述第二特征向量与预置标签库中BI-RADS分级的标准相对应；
根据所述相似度确定所述第一特征向量对应的病灶区域图像在BI-RADS中分级结果。
在一些实施例中，所述提取所述待测乳腺区域的乳腺超声图像中某一处或多处的病灶区域图像步骤包括：
检测待测乳腺区域的乳腺超声图像，获取所述待测乳腺区域的乳腺超声图像中某一处或多处的病灶区域的裁剪窗；
以目标区域像素的最小裁剪窗中心点为中心，目标区域像素的最大的裁剪窗的长度和高度进行裁剪获得第一区域图像；
将所述第一区域图像越界区域填充，获得所述病灶区域图像。
在一些实施例中，所述的预置标签库包括多组子属性库，所述子属性与BI-RADS分级的标准对应；所述第二特征向量包括分别与所述多组子属性库对应的子特征向量；
计算第一特征向量分别与所述子特征向量的相似度；
根据所述第一特征向量对应的病灶区域分别在多组子属性库中的属性；确定所述第一特征向量对应的病灶区域图像在BI-RADS中分级结果。
在一些实施例中，所述预置的特征提取网络模型的训练步骤包括：
构建训练集，将训练集中的每张原图像进行图片增广，获得与所述原图片对应的增广图像，原图像与增广后的图像的标注为0；
将原图像输入第一网络分支，提取与原图像对应的第一特征；将增广图像输入第二网络分支，提取与增广图像对应的第二特征；第一网络分支与第二网络分支共享权重参数。
将第一特征通过特征映射模块进行二次映射，获得第三特征；所述特征映射模块输出的第三特征维度与第一网络分支提取的第一特征维度相同；
将第三特征与第二特征的余弦相似度作为损失函数，训练并更新整个网络模型。
在一些实施例中，所述损失函数的公式为：
Figure RE-GDA0003296545640000031
Loss的取值范围是[0,1]，由于所述原始图像和增广的图像都是同类，确定网络优化的目标函数就是Loss＝0；去除所述特征映射模块，使用收敛的特征提取网络作为预置的特征提取网络模型。
本发明第二方面提供一种基于自监督的结节分级装置，包括：
图像截取模块，其用于获得待测乳腺区域的乳腺超声图像，提取所述待测乳腺区域的乳腺超声图像中某一处或多处的病灶区域图像；
特征提取模块，其用于将所述病灶区域图像输入预置的特征提取网络模型，提取第一特征向量；
第一计算模块，其用于计算所述第一特征向量与预置标签库中第二特征向量的相似度；其中所述第二特征向量与预置标签库中BI-RADS分级的标准相对应；及
分级模块，其用于根据所述相似度确定所述第一特征向量对应的病灶区域图像在BI-RADS中分级结果。
在一些实施例中，所述的预置标签库包括多组子属性库，所述子属性与BI-RADS分级的标准对应；
所述第二特征向量包括分别与所述多组子属性库对应的子特征向量；第一计算模块包括与子属性库对应的子计算单元；
子计算单元用于分别计算第一特征向量与所述子特征向量的相似度。
在一些实施例中，所述图像截取模块包括：
图像检测模块，其用于检测待测乳腺区域的乳腺超声图像，获取所述待测乳腺区域的乳腺超声图像中某一处或多处的病灶区域的裁剪窗；
裁剪模块，其用于以目标区域像素的最小裁剪窗中心点为中心，目标区域像素的最大的裁剪窗的长度和高度进行裁剪获得第一区域图像；及
填充模块，其用于将所述第一区域图像越界区域填充，获得所述病灶区域图像。
本发明第三方面提供一种电子设备，包括处理器、输入设备、输出设备和存储器，所述处理器、输入设备、输出设备和存储器依次连接，所述存储器用于存储计算机程序，所述计算机程序包括程序指令，所述处理器被配置用于调用所述程序指令，执行如上述的方法。
本发明提供第四方面提供一种可读存储介质，所述存储介质存储有计算机程序，所述计算机程序包括程序指令，所述程序指令当被处理器执行时使所述处理器执行如上述的方法。
相比于现有技术，本发明的有益效果为：
采用自监督的方法，使用无标签的图像数据训练特征提取网络，不会发生由于数据量不够导致网络无法收敛的情况，可以很好解决图像数据足但是标注不足导致的深度网络效果差的问题，通过比对的方法对B超图像中乳腺结节进行BIRADS分级，前期标注的标签不参与训练仅用于对比，在数据量不够的情况下效果远超训练分类神经网络的方法；后期当标注数据量积累到一定量级时，可以用有标签的数据对加上分类模块特征提取网络进行微调，效果也会超过单独训练的分类网络；另外采用特征比对的方法，可以通过错误样本入库的方法快速更新算法，当数据量达到一定量级时，在特征网络加入分类层后继续训练的效果远远高于仅用这些标注数据训练的效果。
附图说明
通过结合附图对本申请实施例进行更详细的描述，本申请的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本申请实施例的进一步理解，并且构成说明书的一部分，与本申请实施例一起用于解释本申请，并不构成对本申请的限制。在附图中，相同的参考标号通常代表相同部件或步骤。附图中：
图1为本发明实施例提供的一种结节分级方法流程图；
图2为本发明实施例提供的一种结节分级装置框图；
图3为本发明实施例提供的预置的特征提取网络模型的训练原理图；
图4图示了根据本申请实施例的电子设备的框图；
图5为本发明实施例提供的乳腺超声图像截取病灶区域示意图。
图中：
具体实施方式
下面，将参考附图详细地描述根据本申请的示例实施例。显然，所描述的实施例仅仅是本申请的一部分实施例，而不是本申请的全部实施例，应理解，本申请不受这里描述的示例实施例的限制。
示例性方法
如图1所示，一种结节分级方法，所述方法包括：
S102：获得待测乳腺区域的乳腺超声图像，提取所述待测乳腺区域的乳腺超声图像中某一处或多处的病灶区域图像；
具体的，获取待测乳腺区域的乳腺超声图像的方式可以是基于超声波(超声)的医学影像设备拍摄的，例如读取超声设备显示接口的视频流，把视频流按帧为单位解码成一张张连续乳腺超声图像。也可以是非实时获得，例如，接收预先存储在服务器等设备中的乳腺超声图像，或者接收从其他设备传输的乳腺超声图像。
本示例中病灶区域，可以是乳腺的病灶为乳腺上的病变区域，例如包括炎症性病灶或肿瘤性病灶，如结节等。
S104：将所述病灶区域图像输入预置的特征提取网络模型，提取第一特征向量；
具体的，本示例中预置的特征提取网络模型是预先训练好的，例如可以是去掉分类网络 (如AlexNet，Resnet，VGG，Inception)的分类模型。使用预置的特征提取网络模型对裁剪后的病灶区域图像提取特征，本示例中第一特征向量为一个多维的向量，该特征向量反映了图像中病灶的高层语义信息。
需要说明的是，此处预置的特征提取网络模型训练采用自监督对比学习的方法(如 SimCLR，MocoV2，BYOL，SimSiam等)，训练数据可以使已经标注病灶区域的图像，也可以使用B超乳腺扫查中没有任何标注信息的图像。
S106：计算所述第一特征向量与预置标签库中第二特征向量的相似度；其中所述第二特征向量与预置标签库中BI-RADS分级的标准相对应。
具体的，预置标签库包括多组子属性库，所述子属性与BI-RADS分级的标准对应；所述第二特征向量包括分别与所述多组子属性库对应的子特征向量；计算第一特征向量分别与所述子特征向量的相似度，这里的相似度计算可以采用特性向量的余弦相似度计算方式，在此不在赘述。
本示例中子属性库包括肿物形态、肿物方位、肿物边缘、肿物边界、肿物回声、肿物后方回声以及肿物钙化等7种。在每一组属性库中都具有对应的子特征向量。
进一步，如表1所示，每一种子属性库对应的子类别，例如肿物形态子属性库，对应可以分为圆形、椭圆形以及不规则形。当计算第一特征向量与肿物形态子属性库中的子特征向量，根据余弦相似度可以对应获得其子类别结果可以是圆形、椭圆形以及不规则形状中的一种。
表1子属性库对应分类表
Figure RE-GDA0003296545640000051
S108：根据所述相似度确定所述第一特征向量对应的病灶区域图像在BI-RADS中分级结果。
具体的，根据所述第一特征向量对应的病灶区域分别在多组子属性库中的属性；确定所述第一特征向量对应的病灶区域图像在BI-RADS中分级结果。
例如，第一特征向量与肿物形态子属性库中的特征向量距离最近的是圆形，与肿物方位子属性库中的特征向量距离最近的是纵横比小于1，同样的方法确定每一个属性，边缘规则、边界清晰、等回声、后方回声无改变、无钙化，可以得出BI-RADS的分级结果为2A。
如图5所示，作为一个变化例，提取所述待测乳腺区域的乳腺超声图像中某一处或多处的病灶区域图像步骤包括：检测待测乳腺区域的乳腺超声图像，获取所述待测乳腺区域的乳腺超声图像中某一处或多处的病灶区域的裁剪窗。
具体的，找出乳腺超声图像中的病灶区域，可以使用图像检测(如Faster-RCNN，SSD， YOLO等)的或者图像分割(如U-Net，Deeplab等)，这与数据的标注方法有关，检测和分割由于结节类别单一，只需要五千量级带标注的数据就能达到预期效果。
以目标区域像素(即病灶区域)的最小包围框(裁剪窗)中心点为中心，病灶区域的最大的裁剪窗的宽度和高度进行裁剪获得第一区域图像；将所述第一区域图像越界区域填充，获得所述病灶区域图像。
具体的，将上述得到的裁剪窗，取裁剪窗左上角和右下角两个点的坐标；使用分割网络得到的病灶区域图像，取目标区域像素的最小矩形包围框的左上角和右下角，计算矩形区域的中心点，以中心点为中心、宽和高的最大值裁剪图像，得到一张正方形的第一结节区域，越界的区域补纯黑色，这种裁剪方法可以避免先裁剪再缩放产生的拉伸变形。
作为一个变化例，所述预置的特征提取网络模型的训练步骤包括：
构建训练集，将训练集中的每张原图像进行图片增广，获得与所述原图片对应的增广图像。
具体的，训练集中可以使用上述的步骤来提取待测乳腺区域的乳腺超声图像中的病灶区域，也可以使用B超乳腺扫查中没有任何标注信息的图像。以BYOL为例，把数据集中的图像进行数据增广，以50％的概率进行水平翻转、50％的概率垂直翻转、50％的概率随机裁剪、 50％的概率进行全局亮度对比度浮动。
需要说明的是，由于旋转会影响结节方位信息(如水平位生长信息、垂直位生长信息)，因此不能使用旋转增广。由于局部的亮度对比度会影响结节回声信息(如高回声、低回声、后方回声增强、后方回声衰减等)，因此也不能使用局部的亮度对比度浮动，只能使用整张图的亮度对比度浮动。
同时将原图像输入第一网络分支(上层)，增广图像输入第二网络分支(下层)，获得与原图像对应的第一特征以及与增广图像对应的第二特征；
将第一特征通过特征映射模块进行二次映射，获得第三特征；所述特征映射模块输出的第三特征维度与第一网络分支提取的第一特征维度相同；
将第三特征与第二特征的余弦相似度作为损失函数，训练并更新整个网络模型。
如图3所示，具体的，把原始图像和增广图像同时送入上述的BYOL网络的第一网络分支(上)和第二网路分支(下)，原始图像的特征提取网络输出端增加两个全连接层组成的特征映射模块进行特征二次映射，映射模块输出的维度与原特征维度相同，其特征维度为2048 个，数据增广对应的特征提取网络与原结构相同，不增加特征映射模块。使用两个特征的余弦相似度作为损失函数，训练并更新网络。
进一步，当标注的数据达到一定量级后，可按照传统的分类网络微调特征提取网络，增加分类模块并按图像分类任务来训练分类网络。
需要说明的是，本示例中特征映射模块共4层，由全连接层，BN层，ReLU层和全连接层构成。加入特征映射模块后，使上下两个网络分支结构非对称，可以避免网络输出恒为常数，当训练完成，在实际使用中，去掉一个分支，只剩下一个分支。
进一步的，上述网络模型的损失函数的公式为：
Figure RE-GDA0003296545640000071
Loss的取值范围是[0,1]，由于所述原始图像和经过增广的图像都是同一类，确定网络优化的目标函数就是Loss＝0；去除所述特征映射模块，使用收敛的特征提取网络做为预置的特征提取网络模型。
示例性装置
如图2所示，一种基于自监督的结节分级装置，包括：
图像截取模块20，其用于获得待测乳腺区域的乳腺超声图像，提取所述待测乳腺区域的乳腺超声图像中某一处或多处的病灶区域图像；
特征提取模块30，其用于将所述病灶区域图像输入预置的特征提取网络模型，提取第一特征向量；
第一计算模块40，其用于计算所述第一特征向量与预置标签库中第二特征向量的相似度；其中所述第二特征向量与预置标签库中BI-RADS分级的标准相对应；及
分级模块50，其用于根据所述相似度确定所述第一特征向量对应的病灶区域图像在 BI-RADS中分级结果。
在一些实施例中，所述的预置标签库包括多组子属性库，所述子属性与BI-RADS分级的标准对应；
所述第二特征向量包括分别与所述多组子属性库对应的子特征向量；第一计算模块包括与子属性库对应的子计算单元；
子计算单元用于分别计算第一特征向量与所述子特征向量的相似度。
在一些实施例中，所述图像截取模块包括：
图像检测模块，其用于检测待测乳腺区域的乳腺超声图像，获取所述待测乳腺区域的乳腺超声图像中某一处或多处的病灶区域的裁剪窗；
裁剪模块，其用于以目标区域像素的最小裁剪窗中心点为中心，目标区域像素的最大的裁剪窗的长度和高度进行裁剪获得第一区域图像；及
填充模块，其用于将所述第一区域图像越界区域填充，获得所述病灶区域图像。
示例性电子设备
下面，参考图1来描述根据本申请实施例的电子设备。该电子设备可以是可移动设备本身，或与其独立的单机设备，该单机设备可以与医用超声诊断设备或者可移动设备进行通信，以从它们接收所采集到的输入信号，并向其发送所选择的目标决策行为。
图4图示了根据本申请实施例的电子设备的框图。
如图4所示，电子设备10包括一个或多个处理器11和存储器12。
处理器11可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元，并且可以控制电子设备10中的其他组件以执行期望的功能。
存储器12可以包括一个或多个计算机程序产品，所述计算机程序产品可以包括各种形式的计算机可读存储介质，例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令，处理器11可以运行所述程序指令，以实现上文所述的本申请的各个实施例的决策行为决策方法以及/或者其他期望的功能。
在一个示例中，电子设备10还可以包括：输入装置13和输出装置14，这些组件通过总线系统和/或其他形式的连接机构(未示出)互连。例如，该输入设备13可以包括例如车载诊断系统(OBD)、统一诊断服务(UDS)、惯性测量单元(IMU)、摄像头、激光雷达、毫米波雷达、超声波雷达、车载通信(V2X)等各种设备。该输入设备13还可以包括例如键盘、鼠标等等。该输出装置14可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。
当然，为了简化，图4中仅示出了该电子设备10中与本申请有关的组件中的一些，省略了诸如总线、输入/输出接口等等的组件。除此之外，根据具体应用情况，电子设备10还可以包括任何其他适当的组件。
示例性计算机程序产品和计算机可读存储介质
除了上述方法和设备以外，本申请的实施例还可以是计算机程序产品，其包括计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请各种实施例的决策行为决策方法中的步骤。
所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本申请实施例操作的程序代码，所述程序设计语言包括面向对象的程序设计语言，诸如Java、C++ 等，还包括常规的过程式程序设计语言，诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。
此外，本申请的实施例还可以是计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请各种实施例的决策行为决策方法中的步骤。
所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
以上结合具体实施例描述了本申请的基本原理，但是，需要指出的是，在本申请中提及的优点、优势、效果等仅是示例而非限制，不能认为这些优点、优势、效果等是本申请的各个实施例必须具备的。另外，上述公开的具体细节仅是为了示例的作用和便于理解的作用，而非限制，上述细节并不限制本申请为必须采用上述具体的细节来实现。
本申请中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的，可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇，指“包括但不限于”，且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”，且可与其互换使用，除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”，且可与其互换使用。
还需要指出的是，在本申请的装置、设备和方法中，各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本申请的等效方案。
提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本申请。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的，并且在此定义的一般原理可以应用于其他方面而不脱离本申请的范围。因此，本申请不意图被限制到在此示出的方面，而是按照与在此公开的原理和新颖的特征一致的最宽范围。
为了例示和描述的目的已经给出了以上描述。此外，此描述不意图将本申请的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例，但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。

Claims (10)

1.一种结节分级方法，其特征在于，所述方法包括：
获得待测乳腺区域的乳腺超声图像，提取所述待测乳腺区域的乳腺超声图像中某一处或多处的病灶区域图像；
将所述病灶区域图像输入预置的特征提取网络模型，提取第一特征向量；
计算所述第一特征向量与预置标签库中第二特征向量的相似度；其中所述第二特征向量与预置标签库中BI-RADS分级标准相对应；
根据所述相似度确定所述第一特征向量对应的病灶区域图像在BI-RADS中分级结果。
2.根据权利要求1所述的一种结节分级方法，其特征在于，提取所述待测乳腺区域的乳腺超声图像中某一处或多处的病灶区域图像步骤包括：
检测待测乳腺区域的乳腺超声图像，获取所述待测乳腺区域的乳腺超声图像中某一处或多处的病灶区域的裁剪窗；
以目标区域像素的最小裁剪窗中心点为中心，目标区域像素的最大的裁剪窗的长度和高度进行裁剪获得第一区域图像；
将所述第一区域图像的越界区域填充，获得所述病灶区域图像。
3.根据权利要求2所述的一种结节分级方法，其特征在于，所述的预置标签库包括多组子属性库，所述子属性与BI-RADS分级的标准对应；所述第二特征向量包括分别与所述多组子属性库对应的子特征向量；
计算第一特征向量分别与所述子特征向量的相似度；
根据所述第一特征向量对应的病灶区域分别在多组子属性库中的属性；确定所述第一特征向量对应的病灶区域图像在BI-RADS中分级结果。
4.根据权利要求1所述的一种结节分级方法，其特征在于，所述预置的特征提取网络模型的自监督训练步骤包括：
构建训练集，将训练集中的每张原图像进行图片增广，获得与所述原图片对应的增广图像；
提取与原图像对应的第一特征，提取与增广图像对应的第二特征；
将第一特征通过特征映射获得第三特征；所述第三特征维度与第一特征维度相同；
将第三特征与第二特征的余弦相似度作为损失函数，训练并更新整个网络模型。
5.根据权利要求4所述的一种结节分级方法，其特征在于，所述损失函数的公式为：
Figure FDA0003222101700000011
其中，Loss的取值范围是[0,1]，由于所述原始图像和增广的图像为同类，确定网络优化的目标函数就是Loss＝0；使用收敛的特征提取网络做作为预置的特征提取网络模型。
6.一种结节分级装置，其特征在于，包括：
图像截取模块，其用于获得待测乳腺区域的乳腺超声图像，提取所述待测乳腺区域的乳腺超声图像中某一处或多处的病灶区域图像；
特征提取模块，其用于将所述病灶区域图像输入预置的特征提取网络模型，提取第一特征向量；
第一计算模块，其用于计算所述第一特征向量与预置标签库中第二特征向量的相似度；其中所述第二特征向量与预置标签库中BI-RADS分级的标准相对应；及
分级模块，其用于根据所述相似度确定所述第一特征向量对应的病灶区域图像在BI-RADS中分级结果。
7.根据权利要求6所述的结节分级装置，其特征在于，所述的预置标签库包括多组子属性库，所述子属性与BI-RADS分级的标准对应；
所述第二特征向量包括分别与所述多组子属性库对应的子特征向量；第一计算模块包括与子属性库对应的子计算单元；
子计算单元用于分别计算第一特征向量与所述子特征向量的相似度。
8.根据权利要求6所述的结节分级装置，其特征在于，所述图像截取模块包括：
图像检测模块，其用于检测待测乳腺区域的乳腺超声图像，获取所述待测乳腺区域的乳腺超声图像中某一处或多处的病灶区域的裁剪窗；
裁剪模块，其用于以目标区域像素的最小裁剪窗中心点为中心，目标区域像素的最大的裁剪窗的长度和高度进行裁剪获得第一区域图像；及
填充模块，其用于将所述第一区域图像越界区域填充，获得所述病灶区域图像。
9.一种电子设备，其特征在于，包括处理器、输入设备、输出设备和存储器，所述处理器、输入设备、输出设备和存储器依次连接，所述存储器用于存储计算机程序，所述计算机程序包括程序指令，所述处理器被配置用于调用所述程序指令，执行如权利要求1-5任一项所述的方法。
10.一种可读存储介质，其特征在于，所述存储介质存储有计算机程序，所述计算机程序包括程序指令，所述程序指令当被处理器执行时使所述处理器执行如权利要求1-5任一项所述的方法。
CN202110961147.7A 2021-08-20 2021-08-20 一种结节分级方法、装置、电子设备及存储介质 Active CN113658146B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110961147.7A CN113658146B (zh) 2021-08-20 2021-08-20 一种结节分级方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110961147.7A CN113658146B (zh) 2021-08-20 2021-08-20 一种结节分级方法、装置、电子设备及存储介质

Publications (2)

Publication Number Publication Date
CN113658146A true CN113658146A (zh) 2021-11-16
CN113658146B CN113658146B (zh) 2022-08-23

Family

ID=78481540

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110961147.7A Active CN113658146B (zh) 2021-08-20 2021-08-20 一种结节分级方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN113658146B (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114219807A (zh) * 2022-02-22 2022-03-22 成都爱迦飞诗特科技有限公司 乳腺超声检查图像分级方法、装置、设备和存储介质
CN114691918A (zh) * 2022-04-01 2022-07-01 北京百度网讯科技有限公司 基于人工智能的雷达图像检索方法、装置以及电子设备
CN116403007A (zh) * 2023-04-12 2023-07-07 北京卫星信息工程研究所 基于目标向量的遥感影像变化检测方法

Citations (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2010073190A1 (en) * 2008-12-22 2010-07-01 Koninklijke Philips Electronics N.V. Classifying abnormal growths in a human body
CN106778786A (zh) * 2016-12-29 2017-05-31 西京学院 基于对数频域分层梯度方向直方图的苹果病害识别方法
CN107463964A (zh) * 2017-08-15 2017-12-12 山东师范大学 一种基于超声图像特征相关性的乳腺肿瘤分类方法、装置
CN109065150A (zh) * 2018-07-02 2018-12-21 江苏省中医院 一种基于多特征提取和Linear SVM的超声乳腺肿瘤分级方法
CN110348477A (zh) * 2019-06-04 2019-10-18 上海联影智能医疗科技有限公司 医疗图像处理方法、存储介质及计算机设备
US20200085382A1 (en) * 2017-05-30 2020-03-19 Arterys Inc. Automated lesion detection, segmentation, and longitudinal identification
CN111383213A (zh) * 2020-03-09 2020-07-07 常州工业职业技术学院 一种多视角判别度量学习的乳腺影像检索方法
CN111639653A (zh) * 2020-05-08 2020-09-08 浙江大华技术股份有限公司 一种误检图像确定方法、装置、设备和介质
US20200327659A1 (en) * 2019-04-10 2020-10-15 International Business Machines Corporation Image analysis and annotation
CN112132808A (zh) * 2020-09-23 2020-12-25 沈阳建筑大学 基于常态模型学习的乳腺x线图像病变检测方法和装置
CN112233795A (zh) * 2020-11-19 2021-01-15 吾征智能技术(北京)有限公司 一种基于耳朵纹理特征的疾病预测系统
US20210056693A1 (en) * 2018-11-08 2021-02-25 Tencent Technology (Shenzhen) Company Limited Tissue nodule detection and tissue nodule detection model training method, apparatus, device, and system
CN112767355A (zh) * 2021-01-20 2021-05-07 北京小白世纪网络科技有限公司 一种甲状腺结节Tirads分级自动识别模型构建方法及装置
CN112784879A (zh) * 2020-12-31 2021-05-11 前线智能科技(南京)有限公司 一种基于小样本域自适应的医学影像分割或分类方法
CN112884046A (zh) * 2021-02-24 2021-06-01 润联软件系统(深圳)有限公司 基于不完全监督学习的图像分类方法、装置及相关设备

Patent Citations (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2010073190A1 (en) * 2008-12-22 2010-07-01 Koninklijke Philips Electronics N.V. Classifying abnormal growths in a human body
CN106778786A (zh) * 2016-12-29 2017-05-31 西京学院 基于对数频域分层梯度方向直方图的苹果病害识别方法
US20200085382A1 (en) * 2017-05-30 2020-03-19 Arterys Inc. Automated lesion detection, segmentation, and longitudinal identification
CN107463964A (zh) * 2017-08-15 2017-12-12 山东师范大学 一种基于超声图像特征相关性的乳腺肿瘤分类方法、装置
CN109065150A (zh) * 2018-07-02 2018-12-21 江苏省中医院 一种基于多特征提取和Linear SVM的超声乳腺肿瘤分级方法
US20210056693A1 (en) * 2018-11-08 2021-02-25 Tencent Technology (Shenzhen) Company Limited Tissue nodule detection and tissue nodule detection model training method, apparatus, device, and system
US20200327659A1 (en) * 2019-04-10 2020-10-15 International Business Machines Corporation Image analysis and annotation
CN110348477A (zh) * 2019-06-04 2019-10-18 上海联影智能医疗科技有限公司 医疗图像处理方法、存储介质及计算机设备
CN111383213A (zh) * 2020-03-09 2020-07-07 常州工业职业技术学院 一种多视角判别度量学习的乳腺影像检索方法
CN111639653A (zh) * 2020-05-08 2020-09-08 浙江大华技术股份有限公司 一种误检图像确定方法、装置、设备和介质
CN112132808A (zh) * 2020-09-23 2020-12-25 沈阳建筑大学 基于常态模型学习的乳腺x线图像病变检测方法和装置
CN112233795A (zh) * 2020-11-19 2021-01-15 吾征智能技术(北京)有限公司 一种基于耳朵纹理特征的疾病预测系统
CN112784879A (zh) * 2020-12-31 2021-05-11 前线智能科技(南京)有限公司 一种基于小样本域自适应的医学影像分割或分类方法
CN112767355A (zh) * 2021-01-20 2021-05-07 北京小白世纪网络科技有限公司 一种甲状腺结节Tirads分级自动识别模型构建方法及装置
CN112884046A (zh) * 2021-02-24 2021-06-01 润联软件系统(深圳)有限公司 基于不完全监督学习的图像分类方法、装置及相关设备

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
JUE JIANG; YU-CHI HU等: "Multiple Resolution Residually Connected Feature Streams for Automatic Lung Tumor Segmentation From CT Images", 《IEEE TRANSACTIONS ON MEDICAL IMAGING 》 *
张知航: "基于TI-RADS的甲状腺结节超声图像特征提取与可视化技术研究", 《中国优秀博硕士学位论文全文数据库(硕士)医药卫生科技辑》 *

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114219807A (zh) * 2022-02-22 2022-03-22 成都爱迦飞诗特科技有限公司 乳腺超声检查图像分级方法、装置、设备和存储介质
CN114219807B (zh) * 2022-02-22 2022-07-12 成都爱迦飞诗特科技有限公司 乳腺超声检查图像分级方法、装置、设备和存储介质
CN114691918A (zh) * 2022-04-01 2022-07-01 北京百度网讯科技有限公司 基于人工智能的雷达图像检索方法、装置以及电子设备
CN116403007A (zh) * 2023-04-12 2023-07-07 北京卫星信息工程研究所 基于目标向量的遥感影像变化检测方法
CN116403007B (zh) * 2023-04-12 2023-12-19 北京卫星信息工程研究所 基于目标向量的遥感影像变化检测方法

Also Published As

Publication number Publication date
CN113658146B (zh) 2022-08-23

Similar Documents

Publication Publication Date Title
CN113658146B (zh) 一种结节分级方法、装置、电子设备及存储介质
US10929708B2 (en) Deep learning network for salient region identification in images
US8879796B2 (en) Region refocusing for data-driven object localization
Yeh et al. Interpretable and globally optimal prediction for textual grounding using image concepts
JP6005837B2 (ja) 画像解析装置、画像解析システム、画像解析方法
US8774498B2 (en) Modeling images as sets of weighted features
US7508961B2 (en) Method and system for face detection in digital images
US9330336B2 (en) Systems, methods, and media for on-line boosting of a classifier
US10121245B2 (en) Identification of inflammation in tissue images
US10853943B2 (en) Counting objects in images based on approximate locations
US8355576B2 (en) Method and system for crowd segmentation
TW201926140A (zh) 影像標註方法、電子裝置及非暫態電腦可讀取儲存媒體
CN106934337B (zh) 用于操作图像检测装置的方法和计算机可读存储介质
JP2006252559A (ja) 画像において対象物の位置を特定する方法および対象物の画像を相異なる画像カテゴリに分類する方法
CN110046627B (zh) 一种乳腺影像识别的方法及装置
US8718362B2 (en) Appearance and context based object classification in images
CN112580657B (zh) 一种自学习字符识别方法
JP6787831B2 (ja) 検索結果による学習が可能な対象検出装置、検出モデル生成装置、プログラム及び方法
CN109461144B (zh) 一种乳腺影像识别的方法及装置
CN111753721A (zh) 一种人体姿态的识别方法及装置
US20230023164A1 (en) Systems and methods for rapid development of object detector models
WO2023165033A1 (zh) 识别医学图像中的目标的模型训练、方法、设备及介质
CN114693640A (zh) 一种基于视频序列的超声图像病灶属性分类处理方法、系统、电子设备及存储介质
CN114022509A (zh) 基于多个动物的监控视频的目标跟踪方法及相关设备
CN113222989A (zh) 一种图像分级方法、装置、存储介质及电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant