CN111724361B - 实时显示病灶的方法及装置、电子设备和存储介质 - Google Patents

实时显示病灶的方法及装置、电子设备和存储介质 Download PDF

Info

Publication number
CN111724361B
CN111724361B CN202010534724.XA CN202010534724A CN111724361B CN 111724361 B CN111724361 B CN 111724361B CN 202010534724 A CN202010534724 A CN 202010534724A CN 111724361 B CN111724361 B CN 111724361B
Authority
CN
China
Prior art keywords
lung
image
images
optical flow
predicted
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010534724.XA
Other languages
English (en)
Other versions
CN111724361A (zh
Inventor
康雁
郭英委
杨英健
李强
刘洋
曾吴涛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Technology University
Original Assignee
Shenzhen Technology University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Technology University filed Critical Shenzhen Technology University
Priority to CN202010534724.XA priority Critical patent/CN111724361B/zh
Publication of CN111724361A publication Critical patent/CN111724361A/zh
Application granted granted Critical
Publication of CN111724361B publication Critical patent/CN111724361B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/0002—Inspection of images, e.g. flaw detection
    • G06T7/0012—Biomedical image inspection
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/80—Geometric correction
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10072—Tomographic images
    • G06T2207/10081—Computed x-ray tomography [CT]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30004—Biomedical image processing
    • G06T2207/30061—Lung
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00—Indexing scheme relating to image or video recognition or understanding
    • G06V2201/07—Target detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Apparatus For Radiation Diagnosis (AREA)

Abstract

本公开涉及一种实时显示病灶的方法及装置、电子设备和存储介质，所述方法包括：获取多组肺图像中针对病灶的预测位置，所述多组肺图像为在呼吸过程中的多时刻分别获取的肺图像；按照第一方式显示所述肺图像中的病灶的预测位置；对所述肺图像中的预测位置进行动态校正，得到所述肺图像中病灶的动态检测位置，所述动态校正与所述肺图像的多时刻信息相关；按照第二方式显示所述肺图像中的病灶的动态检测位置。本公开实施例能够在不影响医学影像中病灶的判别观察的情况下，很难实现检测时间和检测精度两方面很难达到平衡。

Description

实时显示病灶的方法及装置、电子设备和存储介质
技术领域
本公开涉及医学影像处理技术领域，尤其涉及一种实时显示病灶的方法及装置、电子设备和存储介质。
背景技术
目前，人工智能技术的快速发展，促进了医疗领域的智能诊断等技术的发展，通过医学影像分析可以检测出医学图像中的病灶位置。然而目前，对医学影像进行病灶检测时，在检测出病灶时，需要对病灶的具体位置进行详细观察。其中，如果想要达到较高的检测精度，其检测模型会很复杂，计算成本相对也高。如果想要提高检测的效率，又很难保证检测精度。因此，在不影响医学影像中病灶的判别观察的情况下，很难实现检测时间和检测精度两方面很难达到平衡。
发明内容
本公开提出了一种实时显示病灶的方法及装置、电子设备和存储介质的技术方案。该技术方案能够在不影响医学影像中病灶的判别观察的情况下，很难实现检测时间和检测精度两方面很难达到平衡。
根据本公开的一方面，提供了一种实时显示病灶的方法，包括：
获取多组肺图像中针对病灶的预测位置，所述多组肺图像为在呼吸过程中的多时刻分别获取的肺图像；
按照第一方式显示所述肺图像中的病灶的预测位置；
对所述肺图像中的预测位置进行动态校正，得到所述肺图像中病灶的动态检测位置，所述动态校正与所述肺图像的多时刻信息相关；
按照第二方式显示所述肺图像中的病灶的动态检测位置。
在一些可能的实施方式中，所述按照第一方式显示所述肺图像中的病灶的预测位置，包括以下方式中的至少一种；
以突出的第一颜色显示所述预测位置；
利用第一形式的检测框标记所述预测位置的区域；
隐藏所述预测位置以外的图像区域；以及/或
所述按照第二方式显示所述肺图像中的病灶的动态检测位置，包括：
以突出的第二颜色显示所述动态检测位置；
利用第二形式的检测框标记所述动态检测位置的区域；
隐藏所述动态检测位置以外的图像区域。
在一些可能的实施方式中，所述对所述肺图像中的预测位置进行动态校正，得到所述肺图像中病灶的动态检测位置，包括：
分别提取所述多组肺图像中相同位置的第一图像，得到每个所述相同位置的肺运动序列图像；
按照所述肺运动序列中第一图像的顺序，依次校正各所述第一图像的所述预测位置，得到病灶的动态检测位置；其中，利用所述肺运动序列中第i个第一图像的动态检测位置对第i+1个第一图像的预测位置进行校正，得到第i+1第一图像的动态检测位置。
在一些可能的实施方式中，所述分别提取所述多组肺图像相同位置的第一图像，得到每个所述相同位置的肺运动序列图像，包括：
确定所述多组肺图像的层数；
根据所述层数确定所述多组肺图像中相同位置的第一图像；
根据每组所述肺图像中位于所述相同位置的第一图像，得到所述相同位置对应的所述肺运动序列图像。
在一些可能的实施方式中，所述按照所述肺运动序列中第一图像的顺序，依次校正所述预测位置，得到病灶的动态检测位置，包括：
获得所述第一图像内所述预测位置对应的第一病灶特征；
按照所述肺运动序列中第一图像的顺序，依次校正各所述第一病灶特征；
基于校正后的所述第一病灶特征得到病灶的动态检测位置。
在一些可能的实施方式中，所述按照所述肺运动序列中第一图像的顺序，依次校正各所述第一病灶特征，包括：
获得所述肺运动序列中各所述第一图像之间的光流；
按照所述肺运动序列中第一图像的顺序，利用所述光流依次校正所述第一病灶特征；
其中，所述光流包括按照所述肺运动序列中第一图像的正向顺序得到的正向光流，以及/或按照所述肺运动序列中第一图像的反向顺序得到的反向光流。
在一些可能的实施方式中，所述按照第二方式显示所述肺图像中的病灶的动态检测位置，还包括：
按照渐变的形式从预测位置切换至动态检测位置。
根据本公开的第二方面，提供了一种实时显示病灶的装置，包括：
获取模块，用于获取多组肺图像中针对病灶的预测位置，所述多组肺图像为在呼吸过程中的多时刻分别获取的肺图像；
第一显示模块，用于按照第一方式显示所述肺图像中的病灶的预测位置；
检测模块，用于对所述肺图像中的预测位置进行动态校正，得到所述肺图像中病灶的动态检测位置，所述动态校正与所述肺图像的多时刻信息相关；
第二显示模块，用于按照第二方式显示所述肺图像中的病灶的动态检测位置。
根据本公开的第三方面，提供了一种电子设备，包括：处理器；用于存储处理器可执行指令的存储器；其中，所述处理器被配置为调用所述存储器存储的指令，以执行第一方面中任意一项所述的方法。
根据本公开的第四方面，提供了一种计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令被处理器执行时实现第一方面中任意一项所述的方法。
在本公开实施例中，可以对检测呼吸过程中的多个时刻采集的肺图像中针对病灶的预测位置，并在肺图像中以第一方式显示该预测位置，同时可以对肺图像中的预测位置进行校正，得到与采集肺图像的时刻信息相关的动态检测位置，该动态检测位置的精度高于预测位置，而后以第二方式显示动态检测位置。从而能够在检测出预测位置的情况下，即显示预测位置，以便不影响对肺图像中的病灶的大致观察和检测，当校正得到准确度更高的动态检测位置的情况下，显示该动态检测位置，提供给用户更为准确的病灶的位置信息，方便对于病灶的进一步研究和观察。
应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，而非限制本公开。
根据下面参考附图对示例性实施例的详细说明，本公开的其它特征及方面将变得清楚。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分，这些附图示出了符合本公开的实施例，并与说明书一起用于说明本公开的技术方案。
图1示出根据本公开实施例的一种实时显示病灶的方法的流程图；
图2示出根据本公开的一种实时显示病灶的方法中步骤S10的流程图；
图3示出根据本公开实施例的一种实时显示病灶的方法中步骤S30的流程图；
图4示出根据本公开实施例的一种实时显示病灶的方法中步骤S31的流程图；
图5示出根据本公开实施例的一种实时显示病灶的方法中步骤S32的流程图；
图6示出根据本公开实施例的一种实时显示病灶的方法中步骤S322的流程图；
图7示出根据本公开实施例的一种实时显示病灶的方法中步骤S3222的流程图；
图8示出根据本公开实施例的光流优化网络的结构示意图；
图9示出根据本公开实施例的一种实时显示病灶的装置的图；
图10示出根据本公开实施例的一种电子设备800的框图；
图11示出根据本公开实施例的另一种电子设备1900的框图。
具体实施方式
以下将参考附图详细说明本公开的各种示例性实施例、特征和方面。附图中相同的附图标记表示功能相同或相似的元件。尽管在附图中示出了实施例的各种方面，但是除非特别指出，不必按比例绘制附图。
在这里专用的词“示例性”意为“用作例子、实施例或说明性”。这里作为“示例性”所说明的任何实施例不必解释为优于或好于其它实施例。
本文中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本文中术语“至少一种”表示多种中的任意一种或多种中的至少两种的任意组合，例如，包括A、B、C中的至少一种，可以表示包括从A、B和C构成的集合中选择的任意一个或多个元素。
另外，为了更好地说明本公开，在下文的具体实施方式中给出了众多的具体细节。本领域技术人员应当理解，没有某些具体细节，本公开同样可以实施。在一些实例中，对于本领域技术人员熟知的方法、手段、元件和电路未作详细描述，以便于凸显本公开的主旨。
可以理解，本公开提及的上述各个方法实施例，在不违背原理逻辑的情况下，均可以彼此相互结合形成结合后的实施例，限于篇幅，本公开不再赘述。
本公开实施例提供了一种实时显示病灶的方法，该方法的执行主体可以是图像处理装置，例如，实时显示病灶的方法可以由终端设备或服务器或其它处理设备执行，其中，终端设备可以为用户设备(User Equipment，UE)、移动设备、用户终端、终端、蜂窝电话、无绳电话、个人数字处理(Personal Digital Assistant，PDA)、手持设备、计算设备、车载设备、可穿戴设备等。在一些可能的实现方式中，该实时显示病灶的可以通过处理器调用存储器中存储的计算机可读指令的方式来实现。
图1示出根据本公开实施例的一种实时显示病灶的方法的流程图，如图1所示，所述方法包括：
S10：获取多组肺图像中针对病灶的预测位置，所述多组肺图像为在呼吸过程中的多时刻分别获取的肺图像；
在一些可能的实施方式中，肺图像可以为通过拍摄CT(ComputedTomography，计算机断层影像)的方式得到在多时刻的肺图像。具体方法可以包括：设定CT设备的采集肺图像的扫描层数、层厚以及层间距离；按照所述扫描层数、层厚以及层间距离采集多时刻的肺图像。其中，本公开实施例得到肺图像由多层图像构成，可以看成三维图像结构，通过多层图像构成整个肺结构的肺图像。肺图像可以为在呼吸过程中的不同时刻获取的多组肺图像，每组肺图像与一个时刻对应。
在一些可能的实施方式中，可以从其他的电子设备或者服务器中请求获取多时刻的肺图像，其中可以得到多组(套)肺图像，每组肺图像对应于一个时刻，多组肺图像构成多个时刻的肺图像。
在一些可能的实施方式中，在获得肺图像的情况下，可以检测肺图像中针对病灶的预测位置。其中该病灶的类型可以为肺部疾病的至少一种，如可以为肺结节、结核、肿瘤或者肺癌中的至少一种，但不作为本公开的具体限定，病灶类型也可以是其他肺部疾病。另外，本公开实施例可以通过对肺图像进行处理，检测出肺图像中针对设定的病灶类型的病灶位置(预测位置)。其中肺图像为多层图像，通过本公开实施例可以检测出每层图像中病灶的预测位置。本公开实施例中执行病灶检测可以通过卷积神经网络实现，或者也可以利用传统算法实现，本公开对此不作具体限定。例如，卷积神经网络可以包括区域候选网络、残差网络、基于掩码的目标识别网络中的至少一种，传统算法可以包括区域增长法、K均值聚类算法、分类器等。上述方法仅为示例性说明，本领域技术人员也可以通过其他方式实现。本公开实施例病灶的预测位置可以表示成矩阵或者向量的形式，用第一标识表示肺图像中病灶所在的区域，其中，第一标识可以为1，第一标识以外的区域可以用第二标识表示，如第二标识可以为0。执行病灶检测的卷积神经网络为预先经过训练能够识别出设定病灶的位置检测的网络，并且该神经网络的检测精度满足设定的精度要求，如高于80％。
S20：按照第一方式显示所述肺图像中的病灶的预测位置；
在一些可能的方式中，在得到肺图像内的病灶的预测位置的情况下，可以在肺图像中显示该预测位置，从而实现预先对病灶区域的大致观察，满足病灶检测的时间需求。
S30：对所述肺图像中的预测位置进行动态校正，得到所述肺图像中病灶的动态检测位置，所述动态校正与所述肺图像的多时刻信息相关；
在一些可能的实施方式中，可以利用获取的多时刻的肺图像之间的关联性，对肺图像得到的预测位置进行校正，得到肺图像中每个图像内病灶的校正结果，即动态检测位置。
S40：按照第二方式显示所述肺图像中的病灶的动态检测位置。
在一些可能的方式中，在得到肺图像内的病灶的动态检测位置的情况下，可以在肺图像中显示该动态检测位置，从而实现预先对病灶区域的准确检测和观察，满足病灶检测的精度需求。其中，第一方式和第二方式可以相同或不同。
下面结合附图对本公开实施例的各步骤进行详细说明。图2示出根据本公开的一种实时显示病灶的方法中步骤S10的流程图。所述获取多组肺图像中针对病灶的预测位置，可以包括：
S11：获取呼吸过程中的多时刻的肺图像；
S12：对所述肺图像执行目标检测处理，检测出所述肺图像中的病灶的预测位置。
如上述实施例所述，本公开实施例中的肺图像可以为在呼吸过程中的不同时刻获取的多组肺图像，每组肺图像与一个时刻对应。其中，获取肺图像可以包括获取呼吸过程中多组肺图像，该多组肺图像可以为吸气过程中的多组肺图像，或呼吸过程中的多组肺图像，或吸气及呼吸过程中的多组肺图像；上述多组肺图像为同一患者在呼气和/或吸气过程中的多个时刻分别获得的多组肺图像，每一个时刻对应一组肺图像。本公开实施例中的时刻可以表示为一个时间段，即采集一组肺图像的时间信息。具体的采集过程，可以按照影像医生的指导进行；例如，在呼吸过程中，可以采集深吸气的时刻采集至少一套肺图像，也可以采集深呼气的时刻采集至少一套肺图像，在平静状态下采集至少一套肺图像，其中平静状态为正常呼气和吸气间隔时的状态。又例如，在呼吸过程中，让患者在呼吸到呼气阶段的不同时刻进行屏住呼吸，以采集多组肺图像。本领域技术人员可以获取不同时刻的肺图像，以执行不同状态下的病灶位置的动态检测。
在得到多组肺图像的情况下，可以对该多组肺图像执行设定的病灶的目标检测处理，得到病灶的预测位置。如上述实施例所述，病灶的类型可以为肺部疾病的至少一种，如可以为肺结节、结核、肿瘤或者肺癌中的至少一种，也可以是其他肺部疾病。目标检测处理可以通过目标检测方式实现，例如可以通过区域增长法、K均值聚类算法等实现。本公开实施例中，也可以通过卷积神经网络实现，例如区域候选网络、残差网络等，本公开对此不作具体限定。
在通过目标检测方法实现时，通过检测方法得到不同的分类区域，结合分类器对分类区域识别，检测出病灶的位置区域。在通过卷积神经网络实现时，可以首先对肺图像执行特征提取处理，得到提取出的图像特征，而后利用图像特征执行病灶区域的检测，预测出肺图像中的病灶位置。其中，可以分别对肺图像中的各层图像单独进行检测，也可以对一组肺图像同时进行检测，本公开对此不作具体限定。通过目标检测处理，可以得到肺图像中的每层图像内的病灶的预测位置。本公开实施例得到的预测位置可以通过矩阵或者向量的形式表示，其中的元素表示肺图像的各位置是否为病灶区域，第一标识表示相应位置为病灶区域，第二标识表示病灶区域以外的区域。
在检测出肺图像内的病灶的预测位置的情况下，可以在显示窗口显示肺图像中病灶的预测位置。
本公开实施例中，按照第一方式显示所述肺图像中的病灶的预测位置，包括以下方式中的至少一种：以突出的第一颜色显示所述预测位置；利用第一形式的检测框标记所述预测位置的区域；隐藏所述预测位置以外的图像区域。
在一个示例中，在得到肺图像的预测位置(肺图像内各层图像中病灶的预测位置)的情况下，可以将肺图像中该预测位置显示成为与其他图像区域不同的颜色状态，例如病灶位置显示为红色，病灶预测位置以外的区域显示成黑色，但不作为本公开的具体限定。
在一个示例中，在得到肺图像的预测位置(肺图像内各层图像中病灶的预测位置)的情况下，可以利用预设形状的检测框显示该预测位置。检测框可以为矩形形状、圆形形状或者其他形状，本公开对此不作具体限定。另外，检测框的颜色也可以为根据需求设定。
在一个示例中，在得到肺图像的预测位置(肺图像内各层图像中病灶的预测位置)的情况下，可以隐藏肺图像中预测位置以外的图像区域。本公实施例中，为了不影响对原始肺图像的观察，可以在新的显示窗口中显示肺图像内的预测位置，同时隐藏预测位置以外的图像区域，即在新的显示窗口中仅显示预测位置的图像区域。本公开实施例在隐藏显示预测位置以外的图像区域时，可以从肺图像渐变的切换到仅显示预测位置。其中可以设定渐变的时间，通过设定的渐变时间完成上述隐藏其余区域的显示状态。
另外，由于肺图像中包括多层图像，本公开实施例可以根据接收的层数信息显示与该层数信息对应的图像的预测位置，从而可以方便观察每层病灶的预测位置的变化情况。另外，也可以根据接收的肺图像选择信息，从多组肺图像中选择出至少一组进行病灶的预测位置的显示，本公开对此不作限定。
另外，本公开实施例在执行完成步骤S10的情况下，还可以对预测位置进行校正，得到动态检测位置。本公开实施例中对步骤S20和S30执行顺序不作具体限定。
图3示出根据本公开实施例的一种实时显示病灶的方法中步骤S30的流程图，其中，所述对所述肺图像中的预测位置进行动态校正，得到所述肺图像中病灶的动态检测位置，包括：
S31：分别提取所述多组肺图像中相同位置的第一图像，得到每个所述相同位置的肺运动序列图像；
在一些可能的实施方式中，在得到多组肺图像的情况下，可以从该多组肺图像中提取出相同位置对应的图像(第一图像)，利用相同位置的第一图像组成该位置的肺运动序列图像。其中，该相同位置可以为肺图像中的相同层数。
S32：按照所述肺运动序列中第一图像的顺序，依次校正各所述第一图像的所述预测位置，得到病灶的动态检测位置；其中，利用所述肺运动序列中第i个第一图像的动态检测位置对第i+1个第一图像的预测位置进行校正，得到第i+1第一图像的动态检测位置；
在一些可能的实施方式中，可以利用肺运动序列图像中的第一图像的正向顺序和/或反向顺序，依次对各第一图像的预测位置进行校正，肺运动序列图像中的每个第一图像相当于肺的一个肺平面在不同时刻的图像，因此通过依次校正各第一图像中病灶的预测位置，可以准确的确定病灶在不同时刻的动态变化。
具体的，图4示出根据本公开实施例的一种实时显示病灶的方法中步骤S31的流程图。其中，所述分别提取所述多组肺图像中相同位置的第一图像，得到每个所述相同位置的肺运动序列图像，包括：
S311：确定所述多组肺图像的层数；
S312：根据所述层数确定所述多组肺图像中相同位置的第一图像；
S313：根据每组所述肺图像中位于所述相同位置的第一图像，得到所述相同位置对应的所述肺运动序列图像。
在本公开实施例中，在获取呼吸过程中多组肺图像时，已经设定所述多组肺图像的扫描层数、层厚以及层间距离。因此，采集的多组肺图像的层数、层厚以及层间距离分别相同。基于此，可以根据层数确定各组肺图像中相同位置的图像。也就是说，可以根据所述层数确定所述多组肺图像在相同位置的图像(第一图像)。例如，在第一时刻的一组肺图像的第N层对应的位置与第二时刻至第M时刻的肺图像的第N层对应的位置相同，都是一个肺平面，所有时刻的相同层的肺平面组合在一起就是所述肺运动序列图像，M为大于1的整数，用于表示时刻数或者组数，N可以表示任一层数值。
在得到肺运动序列图像的情况下，可以分别对每组肺运动序列图像进行分析，依次校正各图像中的预测位置。如上述实施例所述，每个肺运动序列图像可以表示相应肺平面在不同时刻的图像变化。
图5示出根据本公开实施例的一种实时显示病灶的方法中步骤S32的流程图，其中所述按照所述肺运动序列中第一图像的顺序，依次校正各所述第一图像的所述预测位置，得到病灶的动态检测位置，包括：
S321：获得所述第一图像内所述预测位置对应的第一病灶特征；
S322：按照所述肺运动序列中第一图像的顺序，依次校正各所述第一病灶特征；
S323：基于校正后的所述第一病灶特征得到病灶的动态检测位置。
在一些可能的实施方式中，可以分别对肺运动序列中各第一图像中检测出的病灶的预测位置进行校正，得到随时间变化的动态检测位置。其中，首先可以获取第一图像针对病灶的第一病灶特征。
在一个示例中，可以根据S10中检测到的第一图像内病灶的预测位置，从第一图像中截取出该预测位置对应的图像区域，并对截取的图像区域进行特征提取处理，得到对应的第一病灶特征。截取预测位置对应的图像区域的方法可以包括将表示预测位置的矩阵或者向量与第一图像相乘，得到截取的预测位置对应的图像区域。本公开实施例可以通过升采样或者降采样的方式，使得得到的第一病灶特征的尺度相同。
在另一个示例中，可以对第一图像执行特征提取处理，得到第一图像的图像特征，再利用第一图像的图像特征与表示预测位置的矩阵或者向量相乘，得到预测位置对应的图像特征，即第一病灶特征。上述特征提取处理可以通过特征提取神经网络实现，如残差网络、金字塔特征网络等，但不作为本公开的具体限定。同样，得到的第一病灶特征尺度相同。
在获取肺运动序列中各第一图像的第一病灶特征的情况下，可以依次对各第一病灶特征进行校正优化。
图6示出根据本公开实施例的一种实时显示病灶的方法中步骤S322的流程图，所述按照所述肺运动序列中第一图像的顺序，依次校正各所述第一病灶特征，包括：
S3221：获得所述肺运动序列中各所述第一图像之间的光流；
S3222：按照所述肺运动序列中第一图像的顺序，利用所述光流依次校正所述第一病灶特征；其中，所述光流包括按照所述肺运动序列中第一图像的正向顺序得到的正向光流，以及/或按照所述肺运动序列中第一图像的反向顺序得到的反向光流。
本公开实施例中，光流(optical flow)可以用于表示运动图像之间的变化，是指时变图像中模式运动速度。当肺在运动时，它在图像上对应点的亮度模式也在运动，因此光流可以用于表示图像之间的变化，由于它包含了病灶运动的信息，因此可被观察者用来确定肺上的病灶的运动情况。肺运动序列图像中的各第一图像可以是相同肺平面在不同时刻的变化图像，通过分析各时刻的第一图像的病灶的预测位置之间的光流变化，可以获知肺部一个肺平面内的病灶的运动信息。
其中，假定多组肺图像对应的时刻分别为t1,t2,…,tM,M表示组数。第N个肺运动序列图像可以分别包括M组肺图像中的第N层图像，对应的得到第N层图像F1N,F2N,…,FMN，表示第1至M组中肺图像内第N层图像。本公开实施例可以分别得到肺运动序列图像中任意两个第一图像之间的光流。本公开实施例中为了得到充分的光流信息，可以按照肺运动序列中各第一图像的正向顺序和/或反向顺序，得到相邻第一图像之间的光流信息。
在一个示例中，在执行光流估计时，可以按照1至M组的正向顺序，分别得到每个肺运动序列图像内两个相邻第一图像之间的正向光流，例如可以得到F1N到F2N的正向光流，F2N到F3N的正向光流，依次类推，得到F(M-1)到FMN的正向光流。其中，正向光流表示按照时间的正向顺序排列，相邻的第一图像中各特征点的运动速度信息。具体地，可以将肺运动序列图像内的第一图像输入到光流估计模型中，用于得到第一图像之间的正向光流，该光流估计模型可以为FlowNet2.0，或者也可以为其他光流估计模型，本公开对此不作具体限定。或者也可以采用稀疏光流估计算法、稠密光流估计算法等光流估计算法对相邻第一图像进行光流评估，本公开同样对此不做具体限定。
在另一个示例中，在执行光流估计时，按照M至1组的反向顺序，分别得到每个肺运动序列图像内两个相邻第一图像的反向光流，例如可以得到FMN到F(M-1)N的反向光流，F(M-2)N到F(M-1)N的反向光流，依次类推，得到F2N到F1N的反向光流。其中，反向光流表示按照时间的反向顺序排列，相邻的第一图像中各特征点的运动速度信息。同样，可以将肺运动序列图像输入到光流估计模型中，用于得到第一图像之间的反向光流，或者也可以采用稀疏光流估计算法、稠密光流估计算法等光流估计算法对相邻图像进行光流评估，本公开同样对此不做具体限定。
在得到第一图像内的预测位置之间的光流的情况下，可以利用该光流对第一图像的第一病灶特征进行校正。例如可以按照所述肺运动序列中所述第一图像的正向顺序，依次根据第i和第i+1个第一图像之间的正向光流，校正所述第i+1个第一图像的第一病灶特征；和/或按照所述肺运动序列中所述第一图像的反向顺序，依次根据第i和第i+1个第一图像之间的反向光流，校正所述第i+1个第一图像的第一病灶特征。
图7示出根据本公开实施例的一种实时显示病灶的方法中步骤S3222的流程图。其中，按照所述肺运动序列中第一图像的顺序，利用所述光流依次校正所述第一病灶特征，包括：
S32221：利用第一图像之间的正向光流和/或反向光流，得到第一图像的病灶的预测位置之间的第一正向光流和/或第一反向光流；
S32222：基于所述第一正向光流和/或第一反向光流对第一病灶特征进行校正。
其中，在本公开实施例中，在得到第一图像之间的正向光流和/或反向光流的情况下，可以进一步得到第一图像中病灶的预测位置对应的光流信息(第一正向光流和/或第一反向光流)。例如，可以将表示病灶的预测位置的矩阵或者向量与正向光流/或反向光流相乘，得到相应的第一正向光流和/或第一反向光流。例如，可以将第i个第一图像和第i+1个第一图像之间的正向光流与第i+1个第一图像的病灶预测位置对应的矩阵相乘，得到第i个第一图像和第i+1个第一图像之间第一正向光流。以及还可以将第i+1个第一图像和第i个第一图像之间的反向光流与第i个第一图像的病灶预测位置相乘，得到第i+1个图像和第i个图像之间第一反向光流。
基于上述可以得到肺运动序列中各第一图像内病灶的预测位置之间的第一正向光流和第一反向光流。继而利用第一正向光流和第二正向光流中的至少一种，校正各第一病灶特征。
下面以第一正向光流举例说明。可以按照肺运动序列图像中各第一图像的正向顺序，根据各所述第一正向光流校正第一个第一图像以外的第一图像的第一病灶特征。
本公开实施例中，获得的第一正向光流表示在肺运动序列图像的正向顺序上相邻的两个第一图像内病灶的预测位置(病灶区域)之间的光流，即前一个第一图像到下一个第一图像的病灶区域的光流。因此，可以根据得到的第一正向光流对各第一图像的第一病灶特征进行引导，即确定每个第一图像的第一病灶特征在对应的第一正向光流的光流变化的条件下得到的新的病灶特征。
具体地，首先可以根据第一正向光流得到第一个第一图像以外的第一图像的病灶修复特征，其中，病灶修复特征可以表示通过光流得到的特征变化。该过程可以包括：按照所述肺运动序列图像的正向顺序，根据第一个第一正向光流对第一个第一图像的第一病灶特征执行偏移处理，得到第二个第一图像的第一病灶特征的病灶修复特征；然后将第k个第一图像的第一病灶特征和所述第k个第一图像的病灶修复特征执行加和处理，得到第k个第一图像的第一加和特征，以及按照第k个第一正向光流对所述第k个第一加和特征执行偏移处理，得到第k+1个第一图像的病灶修复特征，依次类推，得到第一个第一图像以外的其余第一图像的第一加和特征。其中k为大于1且小于M的正整数，M表示第一图像的数量。本公开实施例得到的第一加和特征即为各第一图像的第一病灶特征校正后的特征。
同样的，也可以通过第一反向光流进行校正。可以按照肺运动序列图像中各第一图像的反向顺序，根据各所述第一反向光流校正反向顺序的第一个第一图像以外的第一图像的第一病灶特征。
本公开实施例中，获得的第一反向光流表示在肺运动序列图像的反向顺序上相邻的两个第一图像内病灶的预测位置(病灶区域)之间的光流，即反向顺序上的前一个第一图像到下一个第一图像的病灶区域的光流。因此，可以根据得到的第一反向光流对各第一图像的第一病灶特征进行引导，即确定每个第一图像的第一病灶特征在对应的第一反向光流的光流变化的条件下得到的新的病灶特征。
具体地，首先可以根据第一反向光流得到反向顺序上的第一个第一图像以外的第一图像的病灶修复特征，其中，病灶修复特征可以表示通过光流得到的特征变化。该过程可以包括：按照所述肺运动序列图像的反向顺序，根据第一个第一反向光流对反向顺序上的第一个第一图像的第一病灶特征执行偏移处理，得到第二个第一图像的第一病灶特征的病灶修复特征；然后将反向顺序上的第k个第一图像的第一病灶特征和所述第k个第一图像的病灶修复特征执行加和处理，得到第k个第一图像的第一加和特征，以及按照第k个第一反向光流对所述第k个第一加和特征执行偏移处理，得到第k+1个第一图像的病灶修复特征，依次类推，得到反向顺序上的第一个第一图像以外的其余第一图像的第一加和特征。其中k为大于1且小于M的正整数，M表示第一图像的数量。本公开实施例得到的第一加和特征即为各第一图像的第一病灶特征校正后的特征。
在获得通过第一正向光流校正得到的各第一加和特征或者通过第一反向光流得到的第一加和特征的情况下，可以直接将第一加和特征作为校正后的第一病灶特征。在此需要说明的是，正向校正时，第一个第一图像的第一病灶特征并未进行校正，反向校正时，反向顺序的第一个第一图像的第一病灶特征并未进行校正。
在本公开的一些优选的实施方式中，可以对第一正向光流校正得到的第一加和特征以及第一反向光流校正得到的第一加和特征，进一步融合处理，实现对校正得到的特征进一步地优化。
在一个示例中，可以将第一正向光流得到的第一加和特征和第一反向光流得到的第一加和特征取均值，得到优化的第一加和特征。或者，在另一些实施方式中，也可以通过卷积神经网络实现特征的融合。其中，针对第一个第一图像以及最后一个第一图像以外的第一图像，可以将第一正向光流和第一反向光流得到的两个第一加和特征进行连接，得到连接特征；对该连接特征进行卷积处理，得到融合特征。该融合特征即可以为通过两个方向光流校正后的特征的进一步优化结果。例如，以第二个第一图像为例说明，在通过第一正向光流得到的第一加和特征为F1，在通过第一反向光流得到的第一加和特征为F2，可以将F1和F2进行连接(在深度方向上的连接)，得到连接特征F3，通过至少一层卷积层执行F3的卷积操作，得到融合特征，该融合特征与F1和F2的维度相同。融合特征即可以作为第二个第一图像的第一病灶特征的最终校正结果。
在本公开的另一些实施例中，还可以在得到正向光流和反向光流的情况下，对正向光流和反向光流进行优化，并利用优化后的光流确定第一正向光流和第一反向光流，并执行上述第一病灶特征的校正过程。或者也可以直接对第一正向光流和第一反向光流进行优化，利用优化后的光流执行上述第一病灶特征的校正过程。下面以对第一正向光流和第一反向光流为例说明优化过程，针对正向光流和/或反向光流的优化方式相同，不作重复说明。
其中，对所述第一正向光流和第一反向光流进行光流优化处理，包括：连接肺运动序列图像中各第一图像之间的各所述第一正向光流得到第一连接光流，以及连接各所述第一反向光流得到第二连接光流；分别对所述第一连接光流和第二连接光流执行Q次光流优化处理，得到所述第一连接光流对应的第一优化光流，以及第二连接光流对应的第二优化光流，Q为大于或者等于1的正整数；根据所述第一优化光流得到每个第一正向光流对应的第二正向光流，以及根据所述第二优化光流得到每个第一反向光流对应的第二反向光流。
本公开实施例，在执行光流优化之前，首先将肺运动序列图像中各第一图像之间的第一正向光流分别连接，如分别级联。其中在深度方向上将各第一正向光流连接，形成由多层第一正向光流构成的第一连接光流。同样的，也可以将各第一图像之间的第一反向光流分别连接，例如在深度方向上将各第一反向光流连接，形成由多层第一方向光流构成的第二连接光流。
在获得第一连接光流和第二连接光流之后，可以分别对第一连接光流和第二连接光流执行光流优化处理，如上述实施例所述，本公开实施例可以执行至少一次光流优化处理过程。例如本公开实施例中每次的光流优化处理可以利用光流优化模块执行，该光流优化模块可以由神经网络构成，或者也可以利用对应的算法执行优化操作。对应的，在执行Q次光流优化处理时，可以包括Q各依次相连的光流优化网络模块，后一个光流优化网络模块的输入为前一光流优化网络模块的输出，最后一个光流优化网络模块的输出即为对第一连接光流和第二连接光流的优化结果。
具体的，在仅包括一个光流优化网络模块时，可以利用该光流优化网络模块对第一连接光流执行优化处理得到第一连接光流对应的第一优化子光流，以及通过光流优化网络模块对第二连接光流执行优化处理，得到第二连接光流对应的第二优化子光流。其中光流优化处理可以包括残差处理和上采样处理。即光流优化网络模块中可以进一步包括残差单元和上采样单元，通过残差单元对输入的第一连接光流或者第二连接光流执行残差处理，其中残差单元可以包括多个卷积层，每个卷积层采用的卷积核本公开实施例不作具体限定，通过残差单元残差处理后的第一连接光流的尺度变小，如减小为输入的连接光流的尺度的四分之一，本公开对此不作具体限定，可以根据需求设定。在执行残差处理之后，可以对残差处理后的第一连接光流或者第二连接光流执行上采样处理，通过上采样处理可以将输出的第一优化子光流的尺度调整成第一连接光流的尺度，以及将输出的第二优化子光流的尺度调整成第二连接光流的尺度。且通过光流优化过程可以融合各光流的特征，同时可以提高光流精度。
在另一些实施例中，光流优化模块也可以包括多个光流优化网络模块，如Q个光流优化网络模块。其中第一个光流优化网络模块可以接收第一连接光流和第二连接光流，并分别对第一连接光流和第二连接光流执行第一次光流优化处理，该第一次光流优化处理包括残差处理和升采样处理，其中具体过程与上述实施例相同，在此不再赘述。通过该第一次光流优化处理可以得到第一连接光流的第一优化子光流以及第二连接光流的第一优化子光流。
进一步的，将该第一连接子光流和第二连接子光流输入至第二个光流优化网络模块，执行第二次光流优化处理，其中第二个光流优化网络模块同样也可以包括执行残差处理的残差单元和执行升采样处理的升采样单元，通过第二个光流优化网络模块可以执行第一连接子光流和第二连接子光流的光流优化处理，其中具体过程与上述实施例相同，在此不再赘述。通过该第二次光流优化处理可以得到第一连接光流的二优化子光流以及第二连接光流的第二优化子光流。
同理，可以利用每个光流优化网络模块执行一次光流优化过程，即可以利用第k+1个光流优化网络模块对所述第一连接光流和所述第二连接光流的第i优化子光流执行第k+1次光流优化处理，得到所述第一连接光流对应的第k+1优化子光流，以及第二连接光流对应的第k+1优化子光流，其中i为大于1且小于Q的正整数。最终可以通过第N个光流优化网络模块执行的第N次优化处理，得到第一连接光流的第N优化子光流以及第二连接光流的第Q优化子光流，并且可以将得到的所述第一连接光流的第Q优化子光流确定为所述第一优化光流，以及将得到的所述第二连接光流的第N优化子光流确定为所述第二优化光流。本公开实施例中，每个光流优化网络模块执行的光流优化处理过程可以残差处理和上采样处理。即每个光流优化网络模块可以为相同的光流优化模块。
例如，图8示出根据本公开实施例的光流优化网络的结构示意图，其中可以包括三个光流优化网络模块A、B和C。该三个光流优化网络模块可以分别通过残差单元和上采样单元组成。其中，可以通过第一个光流优化网络模块A可以执行第一连接光流f0和第二连接光流f1的第一次光流优化处理，得到第一连接光流的第一连接子光流f1，以及第二连接光流的第一连接子光流f1'。将该第一连接子光流f1和f1'分别输入至第二个光流优化网络模块B，执行第二次光流优化处理，得到第一连接光流的第二连接子光流f2和第二连接光流的第二连接子光流f2'。进一步地，将第二连接子光流f2和f2'分别输入至第三个光流优化网络模块C，分别执行第三次光流优化处理，得到第一连接光流对应的第三优化子光流f3和第二连接光流对应的第三优化子光流f3'。此时可以将最后一次光流优化处理得到的第一连接光流的第三优化子光流确定为第一优化光流，以及将最后一次光流优化处理得到的第二连接光流的第三优化子光流确定为第二优化光流。
在经过Q次光流优化处理后，得到第一优化光流的尺度和第一连接光流的尺度相同，可以按照深度方向将该第一优化光流拆分成多个第二正向光流(每层为一个第二正向光流)，该多个第二正向光流分别对应的为各第一正向光流的优化结果。同样的，在经过Q次光流优化处理后，得到第二优化光流的尺度和第二连接光流的尺度相同，可以按照深度方向将该第二优化光流拆分成多个第二反向光流(每层为一个第二反向光流)，该多个第二反向光流分别对应的为各第一反向光流的优化结果。
通过上述实施例，即可以得到各第一图像之间的第一正向光流优化后的第二正向光流，以及各第一图像之间的第一反向光流优化后的第二反向光流。
在得到优化后的光流之后，即可以利用该优化后的第二正向光流和第二反向光流分别执行肺运动序列图像中各第一图像的第一病灶特征的正向顺序的校正和/或反向顺序的校正，得到每个第一病灶特征的校正结果。具体过程可以参照上述第一正向光流和第一反向光流校正第一病灶特征的过程，在此不做重复说明。
基于上述配置，可以得到每个肺运动序列中各第一图像的第一病灶特征的校正结果。在得到每个第一图像的校正后的第一病灶特征的情况下，可以执行预测位置的校正，即可以基于校正后的所述第一病灶特征得到病灶的动态检测位置。
其中，所述基于校正后的所述第一病灶特征得到病灶的动态检测位置，包括：基于校正后的所述第一病灶特征执行目标检测处理，得到病灶的动态检测位置。
同样的，目标检测处理可以通过检测算法或者目标检测神经网络实现，具体参照前述实施例的说明，在此不做赘述。本公开实施例中，对肺运动序列内的每个第一图像的第一病灶特征执行目标检测处理，可以更为精确提取出第一病灶特征对应的病灶位置，得到动态检测位置，实现每个第一图像病灶位置的更新和优化。这里动态检测位置也可以表示为矩阵或者向量的形式，用于表示相应的第一图像中病灶区域所对应的位置区域。
在得到每个肺运动序列图像内各第一图像的动态检测位置的情况下，可以进一步得到每组肺图像的病灶的动态检测位置。如上述实施例所述，肺运动序列中各第一图像为多个时刻肺图像中相同位置的图像构成的图像序列，因此在得到每个第一图像内的病灶的动态检测位置情况下，可以对应的得到每组肺图像中各对应的第一图像的动态检测位置。例如可以按照每组肺运动序列图像中的第i个第一图像，构成第i组肺图像，该第i个第一图像内病灶的动态检测位置即形成第i组肺图像的病灶的动态检测位置。i为大于或者等于1且小于或者等于肺图像的总组数。
在得到肺图像的动态检测位置的情况下，可以在肺图像中显示该动态检测位置。可以在对肺图像中的预测位置完成校正，得到动态检测位置的情况下，以第二方式显示该动态检测位置，其中第一方式和第二方式可以相同或不同。
按照第二方式显示所述肺图像中的病灶的动态检测位置可以包括：以突出的第二颜色显示所述动态检测位置；利用第二形式的检测框标记所述动态检测位置的区域；隐藏所述动态检测位置以外的图像区域。
在一个示例中，在得到肺图像的动态检测位置(肺图像内各层图像中病灶的动态检测位置)的情况下，可以将肺图像中该动态检测位置显示成为与其他图像区域不同的颜色状态，并且该颜色可以与显示预测位置的颜色不同，例如病灶动态检测位置显示为蓝色，病灶预测位置以外的区域显示成黑色，但不作为本公开的具体限定。或者，为了减少预测位置和动态检测位置所产生的视觉影像，本公开实施例也可以利用相同颜色显示预测位置和动态检测位置。
在一个示例中，在得到肺图像的预测位置(肺图像内各层图像中病灶的预测位置)的情况下，可以利用预设形状的检测框显示该预测位置。检测框可以为矩形形状、圆形形状或者其他形状，本公开对此不作具体限定。另外，检测框的颜色也可以为根据需求设定。其中，第一形式和第二形式可以为检测框的形状不同、颜色不同的至少一种。或者，为了减少预测位置和动态检测位置之间变化显示的视觉影像，也可以利用相同的显示状态进行显示。
在一个示例中，在得到肺图像的动态检测位置(肺图像内各层图像中病灶的动态检测位置)的情况下，可以隐藏肺图像中动态检测位置以外的图像区域。本公实施例中，为了不影响对原始肺图像的观察，可以在新的显示窗口中显示肺图像内的动态检测位置，同时隐藏动态检测位置以外的图像区域，即在新的显示窗口中仅显示动态检测位置的图像区域。本公开实施例在隐藏显示所述动态检测位置以外的区域时，可以从肺图像渐变的切换到仅显示动态检测位置的显示状态。其中可以设定渐变的时间，通过设定的渐变时间完成上述隐藏其余区域的显示状态。
或者，在本公开实施例中，还可以按照渐变的形式从预测位置切换显示到动态检测位置。例如在，预测位置和动态检测位置的突出显示颜色不同时，可以渐变从第一颜色切换到第二颜色进行显示。或者也可以将预测位置对应的检测框渐变转换到动态检测位置的检测框。上述不作为本公开的具体限定，在此不进行一一举例说明。
本公开实施例中，按照渐变的形式从预测位置切换显示到动态检测位置，包括：获取过渡系数的初始值和终值；控制所述过渡系数从初始值按照预设步长变化至所述终值，并按照预设方式确定与各过渡系数对应的中间图像，其中所述过渡系数为初始值时，对应的中间图像为预测位置的图像区域，所述过渡系数为终值时，对应的中间图像为动态检测位置的图像区域；显示各所述中间图像。
本公开实施例中，过渡系数可以为用于确定从显示预测位置的肺图像到显示动态病灶位置的肺图像的变换过程中的中间状态。例如，可以用于确定显示预测位置的肺图像到示动态病灶位置的肺图像的变化过程中，每次变化后的各像素点的像素值。数据库中可以存储有过渡系数的初始值和终值，例如初始值可以为0，终值可以为1，但不作为本公开的具体限定。本公开实施例可以设定不同的初始值和终值。
在获取过渡系数的初始值和终值后，可以控制过渡系数从初始值变化到终值，例如按照预设步长进行变化。例如步长可以为0.01。即，可以按照0.01不断的控制过渡系数从0增加到1。其中，本公开实施例中，每个过渡系数可以对应一种渐变显示的显示状态，即中间图像。其中，本公开实施例，过渡系数为初始值时，对应的中间图像为显示预测位置的肺图像，所述过渡系数为终值时，对应的中间图像为显示动检测位置的肺图像。从而可以按照预设方式根据不同的过渡系数确定与该过渡系数对应的中间图像。其中，所述预设方式的表达式为：
I＝I0*(1-b)+I1*b；
其中，I为中间图像，I0为显示预测位置的肺图像，I1为显示动态检测位置的肺图像，b为过渡系数。
即可以按照显示预测位置的肺图像的每个像素点的像素值确定在过渡系数改变的情况下获得的新的像素值，得到各中间图像并最终得到显示动态检测位置的肺图像。
通过上述方式即可以从完成预测位置的显示到动态检测位置的显示的渐变过程，在其他实施例中，也可以通过其他方式实现上述渐变过程，例如可以按照第一方向将预测位置逐渐变换成动态检测位置。第一方向可以为从上到下，或者从左到右，或者也可以为其他的方向，本公开不作具体限定。
上述渐变显示的过程也可以用于从肺图像渐变到显示预测位置的过程中，或者从肺图像渐变显示到动态检测位置的过程中，本公开对此不作具体限定。
通过上述实施例，可以满足病灶预测位置的快速显示，以及检测精度的要求。
另外，在本公开优选实施方式中，得到每组肺图像的病灶的动态检测位置的情况下，可以对病灶的体积进行运算，获得病灶的体积信息。例如，可以将肺图像中的每层图像对应的动态检测位置的区域面积进行加和处理，得到病灶的总体积。
基于上述实施例的配置，本公开实施例中的动态检测位置是基于预测位置进一步校正得到的，在临床使用时，可以首先通过预测位置显示病灶的大致位置，当校正得到动态检测位置时，再显示动态检测位置，可以减少时间成本的浪费同时保证检测精度，可以提高用户体验。
另外，本公开实施例形成的肺运动序列相当于肺部同一位置在不同时刻的运动变化，因此肺运动序列中各第一图像的预测位置可以体现出病灶在不同时刻的位置变化。基于此，本公开实施例利用时间顺序上的各第一图像中预测位置的变化信息，对预测位置进行校正，提高病灶位置检测精度。通过本公开实施例可以实现在呼吸过程中各时刻的病灶位置的动态检测。
本领域技术人员可以理解，在具体实施方式的上述方法中，各步骤的撰写顺序并不意味着严格的执行顺序而对实施过程构成任何限定，各步骤的具体执行顺序应当以其功能和可能的内在逻辑确定。
此外，本公开还提供了实时显示病灶的装置、电子设备、计算机可读存储介质、程序，上述均可用来实现本公开提供的任一种实时显示病灶的方法，相应技术方案和描述和参见方法部分的相应记载，不再赘述。
图9示出根据本公开实施例的实时显示病灶的装置的框图，如图9所示，所述实时显示病灶的装置包括：获取模块10，用于获取多组肺图像中针对病灶的预测位置，所述多组肺图像为在呼吸过程中的多时刻分别获取的肺图像；第一显示模块20，用于按照第一方式显示所述肺图像中的病灶的预测位置；检测模块30，用于对所述肺图像中的预测位置进行动态校正，得到所述肺图像中病灶的动态检测位置，所述动态校正与所述肺图像的多时刻信息相关；第二显示模块40，用于按照第二方式显示所述肺图像中的病灶的动态检测位置。
在一些实施例中，本公开实施例提供的装置具有的功能或包含的模块可以用于执行上文方法实施例描述的方法，其具体实现可以参照上文方法实施例的描述，为了简洁，这里不再赘述。
本公开实施例还提出一种计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令被处理器执行时实现上述方法。计算机可读存储介质可以是非易失性计算机可读存储介质。
本公开实施例还提出一种电子设备，包括：处理器；用于存储处理器可执行指令的存储器；其中，所述处理器被配置为上述方法。
电子设备可以被提供为终端、服务器或其它形态的设备。
图10示出根据本公开实施例的一种电子设备的800的框图。例如，电子设备800可以是移动电话，计算机，数字广播终端，消息收发设备，游戏控制台，平板设备，医疗设备，健身设备，个人数字助理等终端。
参照图10，电子设备800可以包括以下一个或多个组件：处理组件802，存储器804，电源组件806，多媒体组件808，音频组件810，输入/输出(I/O)的接口812，传感器组件814，以及通信组件816。
处理组件802通常控制电子设备800的整体操作，诸如与显示，电话呼叫，数据通信，相机操作和记录操作相关联的操作。处理组件802可以包括一个或多个处理器820来执行指令，以完成上述的方法的全部或部分步骤。此外，处理组件802可以包括一个或多个模块，便于处理组件802和其他组件之间的交互。例如，处理组件802可以包括多媒体模块，以方便多媒体组件808和处理组件802之间的交互。
存储器804被配置为存储各种类型的数据以支持在电子设备800的操作。这些数据的示例包括用于在电子设备800上操作的任何应用程序或方法的指令，联系人数据，电话簿数据，消息，图片，视频等。存储器804可以由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器(SRAM)，电可擦除可编程只读存储器(EEPROM)，可擦除可编程只读存储器(EPROM)，可编程只读存储器(PROM)，只读存储器(ROM)，磁存储器，快闪存储器，磁盘或光盘。
电源组件806为电子设备800的各种组件提供电力。电源组件806可以包括电源管理系统，一个或多个电源，及其他与为电子设备800生成、管理和分配电力相关联的组件。
多媒体组件808包括在所述电子设备800和用户之间的提供一个输出接口的屏幕。在一些实施例中，屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板，屏幕可以被实现为触摸屏，以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界，而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中，多媒体组件808包括一个前置摄像头和/或后置摄像头。当电子设备800处于操作模式，如拍摄模式或视频模式时，前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件810被配置为输出和/或输入音频信号。例如，音频组件810包括一个麦克风(MIC)，当电子设备800处于操作模式，如呼叫模式、记录模式和语音识别模式时，麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中，音频组件810还包括一个扬声器，用于输出音频信号。
I/O接口812为处理组件802和外围接口模块之间提供接口，上述外围接口模块可以是键盘，点击轮，按钮等。这些按钮可包括但不限于：主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件814包括一个或多个传感器，用于为电子设备800提供各个方面的状态评估。例如，传感器组件814可以检测到电子设备800的打开/关闭状态，组件的相对定位，例如所述组件为电子设备800的显示器和小键盘，传感器组件814还可以检测电子设备800或电子设备800一个组件的位置改变，用户与电子设备800接触的存在或不存在，电子设备800方位或加速/减速和电子设备800的温度变化。传感器组件814可以包括接近传感器，被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器，如CMOS或CCD图像传感器，用于在成像应用中使用。在一些实施例中，该传感器组件814还可以包括加速度传感器，陀螺仪传感器，磁传感器，压力传感器或温度传感器。
通信组件816被配置为便于电子设备800和其他设备之间有线或无线方式的通信。电子设备800可以接入基于通信标准的无线网络，如WiFi，2G或3G，或它们的组合。在一个示例性实施例中，通信组件816经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中，所述通信组件816还包括近场通信(NFC)模块，以促进短程通信。例如，在NFC模块可基于射频识别(RFID)技术，红外数据协会(IrDA)技术，超宽带(UWB)技术，蓝牙(BT)技术和其他技术来实现。
在示例性实施例中，电子设备800可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现，用于执行上述方法。
在示例性实施例中，还提供了一种非易失性计算机可读存储介质，例如包括计算机程序指令的存储器804，上述计算机程序指令可由电子设备800的处理器820执行以完成上述方法。
图11示出根据本公开实施例的另一种电子设备1900的框图。例如，电子设备1900可以被提供为一服务器。参照图11，电子设备1900包括处理组件1922，其进一步包括一个或多个处理器，以及由存储器1932所代表的存储器资源，用于存储可由处理组件1922的执行的指令，例如应用程序。存储器1932中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外，处理组件1922被配置为执行指令，以执行上述方法。
电子设备1900还可以包括一个电源组件1926被配置为执行电子设备1900的电源管理，一个有线或无线网络接口1950被配置为将电子设备1900连接到网络，和一个输入输出(I/O)接口1958。电子设备1900可以操作基于存储在存储器1932的操作系统，例如Windows ServerTM，Mac OS XTM，UnixTM,LinuxTM，FreeBSDTM或类似。
在示例性实施例中，还提供了一种非易失性计算机可读存储介质，例如包括计算机程序指令的存储器1932，上述计算机程序指令可由电子设备1900的处理组件1922执行以完成上述方法。
本公开可以是系统、方法和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质，其上载有用于使处理器实现本公开的各个方面的计算机可读程序指令。
计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身，诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如，通过光纤电缆的光脉冲)、或者通过电线传输的电信号。
这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备，或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令，并转发该计算机可读程序指令，以供存储在各个计算/处理设备中的计算机可读存储介质中。
用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码，所述编程语言包括面向对象的编程语言—诸如Smalltalk、C++等，以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中，通过利用计算机可读程序指令的状态信息来个性化定制电子电路，例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA)，该电子电路可以执行计算机可读程序指令，从而实现本公开的各个方面。
这里参照根据本公开实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本公开的各个方面。应当理解，流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合，都可以由计算机可读程序指令实现。
这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器，从而生产出一种机器，使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时，产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中，这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作，从而，存储有指令的计算机可读介质则包括一个制造品，其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。
也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上，使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤，以产生计算机实现的过程，从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。
附图中的流程图和框图显示了根据本公开的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分，所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
以上已经描述了本公开的各实施例，上述说明是示例性的，并非穷尽性的，并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下，对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择，旨在最好地解释各实施例的原理、实际应用或对市场中的技术改进，或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。

Claims (9)

1.一种实时显示病灶的方法，其特征在于，包括：
获取多组肺图像中针对病灶的预测位置，所述多组肺图像为在呼吸过程中的多时刻分别获取的肺图像，所述肺图像为三维肺图像；
按照第一方式显示所述肺图像中的病灶的预测位置；
对所述肺图像中的预测位置进行动态校正，得到所述肺图像中病灶的动态检测位置，所述动态校正与所述肺图像的多时刻信息相关；
按照第二方式显示所述肺图像中的病灶的动态检测位置；
所述对所述肺图像中的预测位置进行动态校正，得到所述肺图像中病灶的动态检测位置，包括：分别提取所述多组肺图像中相同位置的第一图像，得到每个所述相同位置的肺运动序列图像；按照所述肺运动序列中第一图像的顺序，依次校正各所述第一图像的所述预测位置，得到病灶的动态检测位置；其中，利用所述肺运动序列中第i个第一图像的动态检测位置对第i+1个第一图像的预测位置进行校正，得到第i+1第一图像的动态检测位置；所述相同位置的第一图像为相同层数的第一图像。
2.根据权利要求1所述的方法，其特征在于，所述按照第一方式显示所述肺图像中的病灶的预测位置，包括以下方式中的至少一种；
以突出的第一颜色显示所述预测位置；
利用第一形式的检测框标记所述预测位置的区域；
隐藏所述预测位置以外的图像区域；以及/或
所述按照第二方式显示所述肺图像中的病灶的动态检测位置，包括：
以突出的第二颜色显示所述动态检测位置；
利用第二形式的检测框标记所述动态检测位置的区域；
隐藏所述动态检测位置以外的图像区域。
3.根据权利要求1所述的方法，其特征在于，所述分别提取所述多组肺图像相同位置的第一图像，得到每个所述相同位置的肺运动序列图像，包括：
确定所述多组肺图像的层数；
根据所述层数确定所述多组肺图像中相同位置的第一图像；
根据每组所述肺图像中位于所述相同位置的第一图像，得到所述相同位置对应的所述肺运动序列图像。
4.根据权利要求1或3所述的方法，其特征在于，所述按照所述肺运动序列中第一图像的顺序，依次校正所述预测位置，得到病灶的动态检测位置，包括：
获得所述第一图像内所述预测位置对应的第一病灶特征；
按照所述肺运动序列中第一图像的顺序，依次校正各所述第一病灶特征；
基于校正后的所述第一病灶特征得到病灶的动态检测位置。
5.根据权利要求4所述的方法，其特征在于，所述按照所述肺运动序列中第一图像的顺序，依次校正各所述第一病灶特征，包括：
获得所述肺运动序列中各所述第一图像之间的光流；
按照所述肺运动序列中第一图像的顺序，利用所述光流依次校正所述第一病灶特征；
其中，所述光流包括按照所述肺运动序列中第一图像的正向顺序得到的正向光流，以及/或按照所述肺运动序列中第一图像的反向顺序得到的反向光流。
6.根据权利要求1-5中任意一项所述的方法，其特征在于，所述按照第二方式显示所述肺图像中的病灶的动态检测位置，还包括：
按照渐变的形式从预测位置切换至动态检测位置。
7.一种实时显示病灶的装置，其特征在于，包括：
获取模块，用于获取多组肺图像中针对病灶的预测位置，所述多组肺图像为在呼吸过程中的多时刻分别获取的肺图像，所述肺图像为三维肺图像；
第一显示模块，用于按照第一方式显示所述肺图像中的病灶的预测位置；
检测模块，用于对所述肺图像中的预测位置进行动态校正，得到所述肺图像中病灶的动态检测位置，所述动态校正与所述肺图像的多时刻信息相关；
第二显示模块，用于按照第二方式显示所述肺图像中的病灶的动态检测位置；
所述检测模块，具体可以用于分别提取所述多组肺图像中相同位置的第一图像，得到每个所述相同位置的肺运动序列图像；按照所述肺运动序列中第一图像的顺序，依次校正各所述第一图像的所述预测位置，得到病灶的动态检测位置；其中，利用所述肺运动序列中第i个第一图像的动态检测位置对第i+1个第一图像的预测位置进行校正，得到第i+1第一图像的动态检测位置；所述相同位置的第一图像为相同层数的第一图像。
8.一种电子设备，其特征在于，包括：
处理器；
用于存储处理器可执行指令的存储器；
其中，所述处理器被配置为调用所述存储器存储的指令，以执行权利要求1至6中任意一项所述的方法。
9.一种计算机可读存储介质，其上存储有计算机程序指令，其特征在于，所述计算机程序指令被处理器执行时实现权利要求1至6中任意一项所述的方法。
CN202010534724.XA 2020-06-12 2020-06-12 实时显示病灶的方法及装置、电子设备和存储介质 Active CN111724361B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010534724.XA CN111724361B (zh) 2020-06-12 2020-06-12 实时显示病灶的方法及装置、电子设备和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010534724.XA CN111724361B (zh) 2020-06-12 2020-06-12 实时显示病灶的方法及装置、电子设备和存储介质

Publications (2)

Publication Number Publication Date
CN111724361A CN111724361A (zh) 2020-09-29
CN111724361B true CN111724361B (zh) 2023-08-01

Family

ID=72568051

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010534724.XA Active CN111724361B (zh) 2020-06-12 2020-06-12 实时显示病灶的方法及装置、电子设备和存储介质

Country Status (1)

Country Link
CN (1) CN111724361B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112185523B (zh) * 2020-09-30 2023-09-08 南京大学 基于多尺度卷积神经网络的糖尿病视网膜病变分类方法
CN113576488B (zh) * 2021-06-18 2023-06-23 深圳技术大学 基于心率的肺影像组学的确定方法及装置、设备及介质
CN113744266B (zh) * 2021-11-03 2022-02-08 武汉楚精灵医疗科技有限公司 一种病灶检测框的显示方法、装置、电子设备及存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105139390A (zh) * 2015-08-14 2015-12-09 四川大学 一种检测胸透dr片中肺结核病灶的图像处理方法
CN109993733A (zh) * 2019-03-27 2019-07-09 上海宽带技术及应用工程研究中心 肺部病灶的检测方法、系统、存储介质、终端及显示系统
CN111047609A (zh) * 2020-03-13 2020-04-21 北京深睿博联科技有限责任公司 肺炎病灶分割方法和装置

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8879810B2 (en) * 2011-11-16 2014-11-04 Siemens Aktiengesellschaft Method and system for automatic lung segmentation in magnetic resonance imaging videos
CN106780460B (zh) * 2016-12-13 2019-11-08 杭州健培科技有限公司 一种用于胸部ct影像的肺结节自动检测系统
WO2018205922A1 (en) * 2017-05-08 2018-11-15 Suzhou Complexis Medical Inc. Methods and systems for pulmonary function test based on diagnostic medical imaging and machine learning
CN109410244B (zh) * 2018-08-28 2021-02-26 浙江工业大学 一种基于全局光流法的肺部肿瘤自动检测跟踪方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105139390A (zh) * 2015-08-14 2015-12-09 四川大学 一种检测胸透dr片中肺结核病灶的图像处理方法
CN109993733A (zh) * 2019-03-27 2019-07-09 上海宽带技术及应用工程研究中心 肺部病灶的检测方法、系统、存储介质、终端及显示系统
CN111047609A (zh) * 2020-03-13 2020-04-21 北京深睿博联科技有限责任公司 肺炎病灶分割方法和装置

Also Published As

Publication number Publication date
CN111724361A (zh) 2020-09-29

Similar Documents

Publication Publication Date Title
CN109829920B (zh) 图像处理方法及装置、电子设备和存储介质
TWI758234B (zh) 影像處理方法及影像處理裝置、電子設備和電腦可讀儲存媒體
CN111724361B (zh) 实时显示病灶的方法及装置、电子设备和存储介质
JP2022515722A (ja) 画像セグメンテーション方法及び装置、電子機器並びに記憶媒体
CN111310616A (zh) 图像处理方法及装置、电子设备和存储介质
CN110647834A (zh) 人脸和人手关联检测方法及装置、电子设备和存储介质
CN113591754A (zh) 关键点检测方法及装置、电子设备和存储介质
CN112541928A (zh) 网络训练方法及装置、图像分割方法及装置和电子设备
CN110674719A (zh) 目标对象匹配方法及装置、电子设备和存储介质
US11030733B2 (en) Method, electronic device and storage medium for processing image
CN109410276B (zh) 关键点位置确定方法、装置及电子设备
CN112115894B (zh) 手部关键点检测模型的训练方法、装置及电子设备
CN110211134B (zh) 一种图像分割方法及装置、电子设备和存储介质
CN113194254A (zh) 图像拍摄方法及装置、电子设备和存储介质
CN111047526A (zh) 一种图像处理方法、装置、电子设备及存储介质
CN109840917B (zh) 图像处理方法及装置、网络训练方法及装置
WO2023142645A1 (zh) 图像处理方法、装置、电子设备、存储介质和计算机程序产品
TWI765404B (zh) 圖像定位的互動顯示方法、電子設備和電腦可讀儲存媒體
CN109903252B (zh) 图像处理方法及装置、电子设备和存储介质
CN111241887A (zh) 目标对象关键点识别方法及装置、电子设备和存储介质
CN111724364B (zh) 基于肺叶及气管树的方法及装置、电子设备和存储介质
CN111435422B (zh) 动作识别方法、控制方法及装置、电子设备和存储介质
CN112509123A (zh) 三维重建方法、装置、电子设备及存储介质
KR20220034844A (ko) 이미지 처리 방법 및 장치, 전자 기기, 저장 매체 및 프로그램 제품
CN110929616B (zh) 一种人手识别方法、装置、电子设备和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant