CN113891683A - 用于辅助宫颈超声检查的系统、设备和方法 - Google Patents
用于辅助宫颈超声检查的系统、设备和方法 Download PDFInfo
- Publication number
- CN113891683A CN113891683A CN202080036618.7A CN202080036618A CN113891683A CN 113891683 A CN113891683 A CN 113891683A CN 202080036618 A CN202080036618 A CN 202080036618A CN 113891683 A CN113891683 A CN 113891683A
- Authority
- CN
- China
- Prior art keywords
- image
- acoustic
- cervical
- qualifying
- cervix
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 48
- 238000002604 ultrasonography Methods 0.000 title description 20
- 210000003679 cervix uteri Anatomy 0.000 claims abstract description 82
- 238000005259 measurement Methods 0.000 claims abstract description 79
- 238000001514 detection method Methods 0.000 claims abstract description 13
- 238000003709 image segmentation Methods 0.000 claims abstract description 12
- 239000000523 sample Substances 0.000 claims description 77
- 238000003384 imaging method Methods 0.000 claims description 55
- 230000015654 memory Effects 0.000 claims description 33
- 238000013135 deep learning Methods 0.000 claims description 25
- 238000004891 communication Methods 0.000 claims description 15
- 238000013528 artificial neural network Methods 0.000 claims description 10
- 238000013527 convolutional neural network Methods 0.000 claims description 10
- 230000004044 response Effects 0.000 claims description 9
- 238000002592 echocardiography Methods 0.000 claims description 8
- 238000012545 processing Methods 0.000 description 20
- 230000035935 pregnancy Effects 0.000 description 14
- 208000005107 Premature Birth Diseases 0.000 description 9
- 238000005516 engineering process Methods 0.000 description 7
- 230000008569 process Effects 0.000 description 7
- 208000006399 Premature Obstetric Labor Diseases 0.000 description 6
- 210000003484 anatomy Anatomy 0.000 description 6
- 230000015572 biosynthetic process Effects 0.000 description 5
- 238000006243 chemical reaction Methods 0.000 description 5
- 230000005540 biological transmission Effects 0.000 description 4
- 230000002269 spontaneous effect Effects 0.000 description 4
- 230000003068 static effect Effects 0.000 description 4
- 210000001519 tissue Anatomy 0.000 description 4
- 230000006835 compression Effects 0.000 description 3
- 238000007906 compression Methods 0.000 description 3
- 238000012285 ultrasound imaging Methods 0.000 description 3
- 230000000007 visual effect Effects 0.000 description 3
- 238000009557 abdominal ultrasonography Methods 0.000 description 2
- 230000004913 activation Effects 0.000 description 2
- 230000008602 contraction Effects 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000037361 pathway Effects 0.000 description 2
- 230000029058 respiratory gaseous exchange Effects 0.000 description 2
- 101100478282 Mus musculus Sptb gene Proteins 0.000 description 1
- 206010036590 Premature baby Diseases 0.000 description 1
- 206010036595 Premature delivery Diseases 0.000 description 1
- 230000003187 abdominal effect Effects 0.000 description 1
- 230000003213 activating effect Effects 0.000 description 1
- 210000001691 amnion Anatomy 0.000 description 1
- 230000003321 amplification Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 238000009530 blood pressure measurement Methods 0.000 description 1
- 238000003759 clinical diagnosis Methods 0.000 description 1
- 239000004020 conductor Substances 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 230000010339 dilation Effects 0.000 description 1
- 239000003814 drug Substances 0.000 description 1
- 230000001605 fetal effect Effects 0.000 description 1
- 210000003754 fetus Anatomy 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000006698 induction Effects 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000008774 maternal effect Effects 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 230000002028 premature Effects 0.000 description 1
- 230000002265 prevention Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000001065 shear force microscopy Methods 0.000 description 1
- 238000004904 shortening Methods 0.000 description 1
- 208000024891 symptom Diseases 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
- 238000012800 visualization Methods 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/08—Detecting organic movements or changes, e.g. tumours, cysts, swellings
- A61B8/0833—Detecting organic movements or changes, e.g. tumours, cysts, swellings involving detecting or locating foreign bodies or organic structures
- A61B8/085—Detecting organic movements or changes, e.g. tumours, cysts, swellings involving detecting or locating foreign bodies or organic structures for locating body or organic structures, e.g. tumours, calculi, blood vessels, nodules
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/08—Detecting organic movements or changes, e.g. tumours, cysts, swellings
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/103—Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
- A61B5/107—Measuring physical dimensions, e.g. size of the entire body or parts thereof
- A61B5/1072—Measuring physical dimensions, e.g. size of the entire body or parts thereof measuring distances on the body, e.g. measuring length, height or thickness
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/43—Detecting, measuring or recording for evaluating the reproductive systems
- A61B5/4306—Detecting, measuring or recording for evaluating the reproductive systems for evaluating the female reproductive systems, e.g. gynaecological evaluations
- A61B5/4318—Evaluation of the lower reproductive system
- A61B5/4331—Evaluation of the lower reproductive system of the cervix
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/12—Diagnosis using ultrasonic, sonic or infrasonic waves in body cavities or body tracts, e.g. by using catheters
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/13—Tomography
- A61B8/14—Echo-tomography
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/42—Details of probe positioning or probe attachment to the patient
- A61B8/4245—Details of probe positioning or probe attachment to the patient involving determining the position of the probe, e.g. with respect to an external reference frame or to the patient
- A61B8/4254—Details of probe positioning or probe attachment to the patient involving determining the position of the probe, e.g. with respect to an external reference frame or to the patient using sensors mounted on the probe
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/44—Constructional features of the ultrasonic, sonic or infrasonic diagnostic device
- A61B8/4444—Constructional features of the ultrasonic, sonic or infrasonic diagnostic device related to the probe
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/44—Constructional features of the ultrasonic, sonic or infrasonic diagnostic device
- A61B8/4483—Constructional features of the ultrasonic, sonic or infrasonic diagnostic device characterised by features of the ultrasound transducer
- A61B8/4488—Constructional features of the ultrasonic, sonic or infrasonic diagnostic device characterised by features of the ultrasound transducer the transducer being a phased array
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/46—Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient
- A61B8/461—Displaying means of special interest
- A61B8/463—Displaying means of special interest characterised by displaying multiple images or images and diagnostic data on one display
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/52—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/5207—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of raw data to produce diagnostic data, e.g. for generating an image
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/52—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/5215—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/52—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/5215—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data
- A61B8/5223—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for extracting a diagnostic or physiological parameter from medical diagnostic data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
- G06T7/0014—Biomedical image inspection using an image reference approach
- G06T7/0016—Biomedical image inspection using an image reference approach involving temporal comparison
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10132—Ultrasound image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/03—Recognition of patterns in medical or anatomical images
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Animal Behavior & Ethology (AREA)
- Pathology (AREA)
- Molecular Biology (AREA)
- Heart & Thoracic Surgery (AREA)
- Biomedical Technology (AREA)
- Surgery (AREA)
- Biophysics (AREA)
- Veterinary Medicine (AREA)
- Public Health (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Radiology & Medical Imaging (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Gynecology & Obstetrics (AREA)
- Physiology (AREA)
- Databases & Information Systems (AREA)
- Multimedia (AREA)
- Software Systems (AREA)
- Computing Systems (AREA)
- Artificial Intelligence (AREA)
- Vascular Medicine (AREA)
- Geometry (AREA)
- Quality & Reliability (AREA)
- Dentistry (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Reproductive Health (AREA)
- Ultra Sonic Daignosis Equipment (AREA)
Abstract
针对在用于产生包括宫颈的感兴趣区的声学图像的扫描会话中的多个时间帧中的每个时间帧,系统和方法执行以下操作:根据一个或多个图像信号和惯性测量信号来构建(1520)所述感兴趣区的三维体积;将深度学习算法应用(1530)于所构建的感兴趣三维体积以对用于获得针对所述宫颈的候选宫颈长度的图像平面赋予资格;针对赋予资格的图像平面执行(1540)图像分割和对象检测以获得所述候选宫颈长度。从所述多个时间帧中选择最短的候选宫颈长度作为针对所述扫描会话的测量宫颈长度。显示设备(116)显示与针对所述扫描会话的所述测量宫颈长度相对应的所述宫颈的图像以及对针对所述扫描会话的所述测量宫颈长度的指示。
Description
技术领域
本发明涉及声学(例如超声)成像,并且特别涉及用于辅助宫颈超声检查的系统、设备和方法。
背景技术
在各种应用中和背景下越来越多地采用声学(例如超声)成像系统。例如,在宫颈检查的背景下越来越多地采用声学成像。
使用经阴道超声检查(TVS)进行的宫颈长度测量是评估早产风险的重要组成部分。在妊娠中期,它提供了一种有用的方法来预测渐近女性的后续早产的可能性。已有基本上四种方法用于评价子宫颈:数值检查、经腹超声、经会阴超声以及经阴道超声检查(TVS)。
数值检查具有主观性并且在测量宫颈长度方面准确度较低。声学(例如超声)成像是解决上述两种挑战的理想模态,因为它能够以微创方式对宫颈组织进行可视化。
然而,获得具有准确测量结果(卡尺放置)的正确宫颈视图以及正确识别解剖界标仍然非常具有挑战性。
发明内容
因此,期望提供能够解决宫颈超声成像中的这些挑战的系统和方法。还期望为超声医师提供指导以识别正确的成像平面和宫颈漏斗解剖界标并且在妊娠期间执行准确的宫颈长度测量。
在本发明的一个方面中,一种系统包括:声学探头,其具有声学换能器元件的阵列;惯性测量单元,其被配置为提供指示所述声学探头的姿态的惯性测量信号;以及声学成像仪器,其被连接到所述声学探头,并且被配置为向所述声学换能器元件中的至少一些声学换能器元件提供发射信号以使声学换能器元件的所述阵列将声学探头信号发射到包括宫颈的感兴趣区,并且还被配置为响应于由所述声学探头接收到的、来自所述感兴趣区的、响应于所述声学探头信号的声学回波而产生所述感兴趣区的声学图像。所述声学成像仪器包括:显示设备;通信接口,其被配置为:从所述声学探头接收根据来自所述感兴趣区的所述声学回波产生的一个或多个图像信号,并且接收所述惯性测量信号;以及处理器和相关联的存储器。所述处理器被配置为:针对扫描会话中的多个时间帧中的每个时间帧:根据所述一个或多个图像信号和接收到的惯性测量信号来构建所述感兴趣区的三维体积,将深度学习算法应用于所构建的所述感兴趣区的三维体积以对用于获得针对所述宫颈的候选宫颈长度的图像平面赋予资格,并且执行对赋予资格的图像平面的图像分割和对象检测以获得所述候选宫颈长度。所述处理器被配置为:从所述多个时间帧中选择最短的候选宫颈长度作为针对所述扫描会话的测量宫颈长度,并且控制所述显示设备以显示与针对所述扫描会话的所述测量宫颈长度相对应的所述宫颈的图像以及对针对所述扫描会话的所述测量宫颈长度的指示。
在一些实施例中,所述处理器被配置为:控制所述显示设备以显示示出所述候选宫颈长度的图形,并且在所述图形上显示对针对所述扫描会话的所述测量宫颈长度的所述指示。
在一些实施例中,所述处理器被配置为在非易失性存储器设备中存储针对所述扫描会话的所述测量宫颈长度以及所述扫描会话的日期。
在一些实施例中,所述非易失性存储器设备被配置为在所述非易失性存储器设备中存储针对在对应时间执行的多个扫描会话的多个测量宫颈长度,并且其中,所述处理器被配置为使所述显示器显示标绘针对所述扫描会话的所述宫颈长度与所述对应时间的关系的图形。
在一些实施例中,所述处理器被配置为:生成针对所述赋予资格的图像平面的图像数据,并且通过将针对所述赋予资格的图像平面的所述图像数据应用于You Only LookOnce(YOLO)神经网络来执行图像分割。
在一些实施例中,所述处理器被配置为:生成针对所述赋予资格的图像平面的图像数据;并且通过将针对所述赋予资格的图像平面的所述图像数据应用于U-Net卷积网络来执行对针对所述赋予资格的图像平面的对象检测。
在一些实施例中,所述处理器被配置为生成针对所述三维体积的多个图像平面的图像数据,并且其中,所述深度学习算法采用一个或多个赋予资格解剖界标,所述一个或多个赋予资格解剖界标对所述三维体积的图像平面赋予资格,并且所述深度学习算法采用一个或多个取消资格解剖界标,所述一个或多个取消资格解剖界标对所述三维体积的图像平面取消资格。
在一些实施例中,采用第一宫颈形状作为所述取消资格解剖界标中的一个取消资格解剖界标,并且采用第二宫颈形状作为所述赋予资格解剖界标中的一个赋予资格解剖界标。特别地,某些解剖界标(例如,某些宫颈形状)指示视图不是用于测量宫颈长度的良好视图,在这种情况下,取消该视图的用于宫颈长度测量的资格。
在一些实施例中,所述处理器被配置为生成针对所述三维体积的多个图像平面的图像数据,并且其中,所述深度学习算法将所述图像数据应用于以下各项中的一项:卷积神经网络(CNN)、You Only Look Once(YOLO)神经网络或U-Net卷积网络。
在本发明的另一方面中,一种方法包括:在扫描会话期间利用声学探头执行对包括宫颈的感兴趣区的实时二维声学成像,包括产生所述感兴趣区的一个或多个图像信号以及产生指示所述声学探头的姿态的惯性测量信号。所述方法还包括:针对所述扫描会话中的多个时间帧中的每个时间帧:根据所述一个或多个图像信号和所述惯性测量信号来构建所述感兴趣区的三维体积,将深度学习算法应用于所构建的所述感兴趣区的三维体积以对用于获得针对所述宫颈的候选宫颈长度的图像平面赋予资格,并且执行对赋予资格的图像平面的图像分割和对象检测以获得所述候选宫颈长度。所述方法还包括:从所述多个时间帧中选择最短的候选宫颈长度作为针对所述扫描会话的测量宫颈长度,并且在显示设备上显示与针对所述扫描会话的所述测量宫颈长度相对应的所述宫颈的图像以及对针对所述扫描会话的所述测量宫颈长度的指示。
在一些实施例中,所述方法还包括:显示示出所述候选宫颈长度的图形,并且在所述图形上显示对针对所述扫描会话的所述测量宫颈长度的所述指示。
在一些实施例中,所述方法还包括:将针对所述扫描会话的所述测量宫颈长度以及所述扫描会话的日期存储在非易失性存储器设备中。
在一些实施例中,所述方法还包括:在所述非易失性存储器设备中存储针对在对应时间执行的多个扫描会话的多个测量宫颈长度;并且在所述显示设备上显示标绘针对所述扫描会话的所述宫颈长度与所述对应时间的关系的图形。
在一些实施例中,所述方法还包括:生成针对所述赋予资格的图像平面的图像数据,并且通过将针对所述赋予资格的图像平面的所述图像数据应用于You Only Look Once(YOLO)神经网络来执行图像分割。
在一些实施例中,所述方法还包括:生成针对所述赋予资格的图像平面的图像数据;并且通过将针对所述赋予资格的图像平面的所述图像数据应用于U-Net卷积网络来执行对针对所述赋予资格的图像平面的对象检测。
在一些实施例中,所述方法还包括:生成针对所述三维体积的多个图像平面的图像数据;采用一个或多个赋予资格解剖界标,所述一个或多个赋予资格解剖界标对所述三维体积的图像平面赋予资格;并且采用一个或多个取消资格解剖界标,所述一个或多个取消资格解剖界标按顺序对所述三维体积的图像平面取消资格。
在一些实施例中,所述方法还包括:采用第一宫颈形状作为所述取消资格解剖界标中的一个取消资格解剖界标;并且采用第二宫颈形状作为所述赋予资格解剖界标中的一个赋予资格解剖界标。
在一些实施例中,所述方法还包括:生成针对所述三维体积的多个图像平面的图像数据;并且将所述图像数据应用于以下各项中的一项以对用于获得所述宫颈的候选宫颈长度的图像平面赋予资格:卷积神经网络(CNN)、You Only Look Once(YOLO)神经网络或U-Net卷积网络。
附图说明
图1图示了基于宫颈长度评估的针对妊娠的可能临床路径。
图2A示出了具有解剖界标的宫颈的期望视图的声学图像。
图2B图示了宫颈的典型解剖结构的图画视图。
图3图示了针对宫颈的不同漏斗形成模式的示例声学图像。
图4图示了具有用于确定宫颈长度的宫颈的次优视图的声学图像的示例。
图5图示了具有用于确定宫颈长度的不准确的光标放置的宫颈的声学图像的示例。
图6图示了声学探头在宫颈上产生过量压力的宫颈的声学图像的示例。
图7图示了描绘收缩的宫颈的声学图像的示例。
图8图示了声学成像装置的示例实施例。
图9是图示根据本公开内容的实施例的示例处理单元的框图。
图10图示了声学探头的示例实施例。
图11图示了声学成像装置的示例操作。
图12A、图12B和图12C图示了根据一系列二维声学图像构建三维(3D)体积的过程的示例操作。
图13图示了用于确定宫颈的宫颈长度的算法的示例实施例中的主要操作。
图14A图示了可以在用户接口中显示以示出候选宫颈长度并指示针对扫描会话的测量宫颈长度的图形。
图14B图示了可以在用户接口中显示以在妊娠期间从多个扫描会话随时间示出测量宫颈长度的进展的图形。
图15图示了确定宫颈的宫颈长度的方法的示例实施例的流程图。
具体实施方式
现在将在下文中参考示出本发明的优选实施例的附图来更加详细地描述本发明。然而,本发明可以以不同的形式实施,并且不应被解释为限于在本文中阐述的实施例。确切地说,所提供的这些实施例只是作为本发明的教导示例。在本文中,当说某个东西是“大致”或“大约”某个值时,它意味着在该值的10%内。
早产(PTB)仍然是新生儿发病和死亡的主要原因,因此对早产的预测和预防是妇产科中最重要的两个问题。宫颈无力(机能不全)是一种导致早产的医学状况。
为了诊断这种状况,可以使用声学(例如超声)成像系统来测量宫颈长度(CL)。声学成像已被证明是对早产的最佳预测物。在妊娠中期,声学成像提供了一种有用的方法来预测在无症状女性中随后发生早产的可能性。在存在自发性早产症状的女性中,对宫颈长度的测量能够有助于区分“真”自发性(宫颈在没有收缩的情况下过早打开)早产与“假”自发性早产。另外,还有一些证据表明:11±0和13±周扫描的宫颈测量结果能够有助于建立早产风险。
图1图示了基于宫颈长度评估的针对妊娠的可能临床路径。特别地,图1图示了妊娠中的许多问题,这些问题与次优宫颈长度相关联,包括早产、引产需求、过期妊娠,以及对重复C段的需求。这些问题与正常的妊娠结果无关。例如,一项研究报告表明:当宫颈长度小于2.2cm时,女性面临20%的早产概率。而且,在妊娠晚期宫颈长度的增加与过期妊娠有关。
美国妇产科医生学院(ACOG)和母胎医学协会(SMFM)推荐对具有先验自发性PTB(sPTB)的单生儿在从16周到23周的妊娠期间每2周测量一次宫颈长度(CL),其中,针对小于25mm的CL放置环扎术。
如上所述,基本上有四种方法能够用于评价子宫颈:数值检查、经腹超声、经会阴超声以及经阴道超声检查(TVS)。数值检查提供了对宫颈的最全面的评价,从而评估扩张、位置、一致性和长度。然而,这项检查存在主观性。这项检查会受到限制,特别是其准确建立宫颈长度的能力会受到限制。它还无法重现性检测宫颈内口和宫颈管的上部部分的任何变化。声学(例如超声)成像(其能够对宫颈组织进行可视化并且显示其解剖结构)是解决上述问题的理想模态。
为了确保正确测量,插入经阴道探头以对宫颈的解剖结构进行第一评估,然后撤回经阴道探头,直到声学图像模糊(使图像暗淡或变暗)以减少来自换能器的压缩。最终,将经阴道探头再次向前移动以重新施加足够的压力来创建最佳图像。获得正确的图像视图和流程要求施加温和的耻骨上加压或腹部宫底加压达大致15秒,以观察漏斗形成(宫颈的顶部部分的缩短)。然后在施加腹部宫底加压或耻骨上加压时减小探头压力。然后获得三个测量结果,并且通常记录最短的测量结果。
图2A示出了具有解剖界标的宫颈的期望视图的声学图像,并且图2B图示了宫颈的典型解剖结构的图画视图。典型的解剖结构示出内口和外口。宫颈长度是在这两点之间测量的。
除了宫颈长度测量以外,超声医师还必须寻找额外的重要发现,例如,漏斗形成(其被定义为羊膜进入宫颈管的突起)。宫颈漏斗形成是宫颈机能不全的迹象并且表示宫颈管的内部部分的扩张和宫颈长度的减小。特定的漏斗形成模式指示早产的风险。在25周之前大于50%的漏斗形成与大致80%的早产风险相关联(https://radiopaedia.org/articles/funneling-of-the-ternal-cervical_os)。
图3图示了针对宫颈的不同漏斗形成模式的示例声学图像。由于操作者的技术和胎儿的位置,可能发生不同的漏斗形成模式。一个重要因素是操作者对宫颈施加的压力量。同样,由于多种原因(包括患者运动、呼吸、探头运动等),所估计的宫颈长度能够改变。
虽然超声成像是用于测量宫颈长度的最佳选择模态,但是超声检查仍然是依赖操作者的模态,并且对于图像技术或解读来说可能具有许多隐患。放射科医师应当能够认识到与早产风险相关的这些成像发现并将其报告给转诊临床医生。然后,临床医生可以选择应从中期妊娠的开始阶段经历系列超声研究的患者,或者在临床检查前基于暗示机能不全的超声发现来确定合适的处置。
为了使宫颈长度测量准确且可重现,需要考虑几个因素。特别地,需要对宫颈进行重复的TVS测量,并且这种重复的TVS测量应当符合若干准则,例如每个宫颈长度测量结果的差异应当小于10%。在最佳宫颈长度测量中,超声医师应当记录最短的宫颈长度测量结果。
下面描述了常见的一些可能导致测量不准确的误差来源。
首先,能够根据(一幅或多幅)声学图像对整个宫颈进行可视化是非常重要的。
图4图示了具有用于确定宫颈长度的宫颈的次优视图的声学图像的示例。在图4的示例图像中,整个宫颈未被可视化,并且内口和外口没有被明确定义。虽然宫颈长度可能是正常的,但是这是次优图像。
在图像中准确放置测量卡尺也很重要。
图5图示了宫颈的声学图像的示例,其中,卡尺的放置不是精确的并且远侧宫颈未被完全可视化,这妨碍了对宫颈外口的识别。
另外,产生宫颈的(一幅或多幅)声学图像而不使声学探头向宫颈施加过量压力也很重要。
图6图示了声学探头在宫颈上产生过量压力的宫颈的声学图像的示例。特别地,图6示出了在成像期间由于声学探头在宫颈上产生过量压力而引起的前宫颈唇厚度与后宫颈唇厚度之间的差异。
图7图示了描绘收缩的宫颈的声学图像的示例。图7示出了收缩如何导致宫颈的S形管和前部不对称。
为了解决这些问题中的一个或多个问题,在下面描述的系统和方法中采用基于人工智能(AI)/深度学习的系统以实现准确的宫颈测量。在一些实施例中,这些系统和方法可以:
·识别解剖界标并且向用户提供视觉反馈。
·基于解剖界标来指导用户操纵声学探头以获得最优视图。
·基于当前声学图像来识别过量的声学探头压力并且向用户提供视觉反馈。
·基于上面识别的信息向用户提供关于哪个用于获得准确的宫颈长度测量结果的准则已经得到满足(以及哪个用于获得准确的宫颈长度测量结果的准则尚未得到满足)的视觉反馈。
·基于尚未得到满足的准则来指导用户执行适当的操作。例如,如果未识别出针对准确的宫颈长度测量结果的适当视图,则可以用指令指示或建议用户如何操纵声学探头以实现满足针对准确的宫颈长度测量结果的所有准则的最佳成像平面。
·自动识别卡尺点并且记录最短的最佳宫颈长度测量结果。
·(如果超声医师想要重新获得先前识别的扫描平面,则要么在相同的扫描会话内,要么在后续扫描会话中)识别先前扫描平面,以用于使用3D体积的后续测量。
·如果当前会话是随访扫描,则提供关于宫颈长度随时间的进展的纵向概要。
图8示出了声学成像系统100的一个示例,声学成像系统100包括声学成像仪器110和声学探头120。声学成像仪器110包括处理单元900、用户接口114、显示设备116和通信接口118。处理单元900可以包括处理器112和存储器111。
图9是图示根据本公开内容的实施例的示例处理单元900的框图。处理单元900可以用于实施本文描述的一个或多个处理器,例如,图8所示的处理器112。处理单元900可以是任何合适的处理器类型,包括但不限于微处理器、微控制器、数字信号处理器(DSP)、现场可编程阵列(FPGA)(其中,FPGA已被编程以形成处理器)、图形处理单元(GPU)、专用集成电路(ASIC)(其中,ASIC已被设计为形成处理器)或其组合。
处理单元900可以包括一个或多个核902。核902可以包括一个或多个算术逻辑单元(ALU)904。在一些实施例中,除了ALU 904以外或者代替ALU 904,核902还可以包括浮点逻辑单元(FPLU)906和/或数字信号处理单元(DSPU)908。
处理单元900可以包括被通信性耦合到核902的一个或多个寄存器912。可以使用专用逻辑门电路(例如,触发器)和/或任何存储器技术来实施寄存器912。在一些实施例中,可以使用静态存储器来实施寄存器912。寄存器可以向核902提供数据、指令和地址。
在一些实施例中,处理单元900可以包括被通信性耦合到核902的一个或多个级别的高速缓冲存储器910。高速缓冲存储器910可以向核902提供用于执行的计算机可读指令。高速缓冲存储器910可以提供用于通过核902进行处理的数据。在一些实施例中,可以通过本地存储器(例如,附接到外部总线916的本地存储器)向高速缓冲存储器910提供计算机可读指令。可以利用任何合适的高速缓冲存储器类型来实施高速缓冲存储器910,例如,金属-氧化物半导体(MOS)存储器(例如,静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM))和/或任何其他合适的存储器技术。
处理单元900可以包括控制器914,控制器914可以控制从在系统(例如,图8中的声学成像系统100)中包括的其他处理器和/或部件到处理器900的输入和/或从处理单元900到在系统(例如,图8所示的通信接口118)中包括的其他处理器和/或部件的输出。控制器914可以控制ALU 904、FPLU 906和/或DSPU 908中的数据路径。控制器914可以被实施为一个或多个状态机、数据路径和/或专用控制逻辑单元。控制器914的门可以被实施为独立门、FPGA、ASIC或任何其他合适的技术。
寄存器912和高速缓冲存储器910可以经由内部连接920A、920B、920C和920D与控制器914和核902通信。内部连接可以被实施为总线、多路复用器、交叉开关和/或任何其他合适的连接技术。
针对处理单元900的输入和输出可以经由总线916来提供,总线916可以包括一条或多条导线。总线916可以被通信性耦合到处理单元900的一个或多个部件,例如,控制器914、高速缓冲存储器910和/或寄存器912。总线916可以被耦合到系统的一个或多个部件,例如,先前提到的部件BBB和CCC。
总线916可以被耦合到一个或多个外部存储器。外部存储器可以包括只读存储器(ROM)932。ROM 932可以是掩模ROM、电子可编程只读存储器(EPROM)或任何其他合适的技术。外部存储器可以包括随机存取存储器(RAM)933。RAM 933可以是静态RAM、电池备份静态RAM、动态RAM(DRAM)或任何其他合适的技术。外部存储器可以包括电可擦除可编程只读存储器(EEPROM)935。外部存储器可以包括闪速存储器934。外部存储器可以包括磁性存储设备,例如,磁盘936。在一些实施例中,外部存储器可以被包括在图8所示的超声成像系统100中。
应当理解,在各个实施例中,声学成像系统100的配置可以与下面关于图8描述的配置不同。特别地,在不同的实施例中,被描述为由声学成像仪器110的元件执行的一种或多种功能可以在声学探头120中执行,这取决于例如可能存在于声学探头120中的信号处理能力的水平。
在各个实施例中,处理器112可以包括微处理器(和相关联的存储器)、数字信号处理器、专用集成电路(ASIC)、现场可编程门阵列(FPGA)、数字电路和/或模拟电路的各种组合。与处理器112相关联的存储器(例如,非易失性存储器)111可以在其中存储计算机可读指令,该计算机可读指令使处理器112的微处理器执行算法来控制声学成像系统100以执行在下面更加详细描述的一个或多个操作或方法。在一些实施例中,微处理器可以执行操作系统。在一些实施例中,微处理器可以执行指令,该指令利用图形用户接口(GUI),经由用户接口114和显示设备116向用户呈现声学成像系统100。
在各个实施例中,用户接口114可以包括以下各项的任意组合:键盘、按键、鼠标、迹线球、触控笔/触摸笔、操纵杆、麦克风、扬声器、触摸屏、一个或多个开关、一个或多个旋钮、一个或多个按钮、一个或多个灯等。在一些实施例中,处理器112的微处理器可以执行软件算法,该软件算法经由用户接口114的麦克风来提供对用户命令的语音识别。
显示设备116可以包括任何方便技术的显示屏幕(例如,液晶显示器)。在一些实施例中,显示屏可以是触摸屏设备,其也形成用户接口114的部分。
通信接口118包括发射单元113和接收单元115。
发射单元113可以在处理器112的控制下生成一个或多个电发射信号,并且将电发射信号供应给声学探头120。例如,发射单元113可以包括本领域已知的各种电路,例如,时钟生成器电路、延迟电路和脉冲生成器电路。时钟生成器电路可以是用于生成用于设置驱动信号的发射定时和发射频率的时钟信号的电路。延迟电路可以是用于设置针对与声学探头120的换能器元件相对应的个体路径的驱动信号的发射定时中的延迟时间的电路,并且可以对针对所设置的延迟时间来延迟驱动信号的发射,以使声学波束集中而产生具有用于对期望的图像平面进行声处理的期望的特征分布的声学探头信号15。脉冲生成器电路可以是用于在预定周期中生成作为驱动信号的脉冲信号的电路。
有益地,如下面关于图10所述,声学探头120可以包括声学换能器元件的阵列122,例如,二维(2D)阵列或线性或一维(1D)阵列。例如,在一些实施例中,换能器元件122可以包括压电元件。在操作中,声学换能器元件122中的至少一些声学换能器元件接收来自声学成像仪器110的发射单元113的电发射信号,并且将电发射信号转换为声学波束以使声学换能器元件的阵列122将声学探头信号15发射到感兴趣区10。声学探头120可以声处理感兴趣区10中的图像平面以及该图像平面的任一侧上的相对较小的区域(即,它扩展到浅视场)。
而且,声学探头120的声学换能器元件122中的至少一些声学换能器元件接收来自感兴趣区10的响应于声学探头信号15的声学回波,并且将接收到的声学回波转换为表示感兴趣区10的图像10的一个或多个电信号。可以通过声学探头120进一步处理这些电信号,并且通过声学探头120的通信接口(参见图10)将这些电信号作为一个或多个图像信号传送到接收单元115。
接收单元115被配置为:接收来自声学探头120的一个或多个图像信号,并且处理(一个或多个)图像信号以产生声学图像数据。在一些实施例中,接收单元115可以包括本领域已知的各种电路,例如,一个或多个放大器、一个或多个A/D转换电路以及相位加法电路。放大器可以是用于以针对与换能器元件122相对应的个体路径的放大因子来放大图像信号的电路。A/D转换电路可以是用于对经放大的图像信号执行模拟/数字转换(A/D转换)的电路。相位加法电路是用于通过以下操作来调整对其执行A/D转换的经放大的图像信号的时间相位的电路:将延迟时间分别应用于与换能器元件122相对应的个体路径,并且通过添加经调整的接收到的信号来生成声学数据(相位加法)。声学数据可以被存储在存储器111或与声学成像仪器100相关联的另一存储器中。
处理器112可以将从接收器单元115接收到的声学数据重建成与截取感兴趣区10的图像平面相对应的声学图像,并且随后使显示设备116显示该图像。经重建的图像可以例如是超声亮度模式“B模式”图像(也被称为“2D模式”图像)、“C模式”图像或多普勒模式图像,或者实际上任何超声图像。
在各个实施例中,处理器112可以在一个或多个模块中执行软件,以用于执行如下面关于图13-15所描述的一种或多种算法或方法,从而响应于由探查包括宫颈的感兴趣区10的声学探头120接收到的图像信号而测量宫颈长度。
当然,应当理解,声学成像仪器110可以包括在图8中未示出的许多其他元件,例如,用于从AC市电接收电力的电力系统、用于在处理器112与声学探头120之间通信的输入/输出端口、用于(例如经由无线、以太网和/或互联网连接)与其他外部设备和系统通信的通信子系统等。
在一些实施例中,声学成像仪器110还包括接收来自在声学探头120中包括的或者与声学探头120相关联的内部测量单元(IMU)的惯性测量信号。惯性测量信号可以指示声学探头120的取向或姿态。惯性测量单元可以包括硬件电路、硬件传感器或微机电系统(MEMS)设备。惯性测量电路可以包括处理单元(例如,处理单元900),该处理单元与硬件传感器或MEMS设备联合运行软件。
图10图示了声学探头120的示例实施例。在一些实施例中,声学探头120可以包括用于提供宫颈的声学图像的经阴道超声检查(TVS)探头。
声学探头120包括声学换能器元件的阵列122、波束形成器124、信号处理器126、通信接口128以及惯性测量单元121。在一些实施例中,惯性测量单元121可以是不包括在声学探头120内但与其相关联(例如被附着到声学探头120或者被安装在声学探头120上)的单独部件。惯性测量单元本身是已知的。惯性测量单元121被配置为向声学成像仪器110提供惯性测量信号,所述惯性测量信号指示声学探头120的当前取向或姿态,使得3D体积可以根据利用不同姿态的声学探头120获得的多幅2D图像来构建。
通信接口128被连接到信号处理器126,并且也可以与声学成像仪器110的通信接口115相连接。信号处理器126还与波束形成器124相连接。波束形成器124还被连接到换能器阵列122。
在操作中,声学成像仪器110可以经由通信接口128向声学探头提供一个或多个控制信号,信号处理器126可以根据需要来处理这一个或多个控制信号。由信号处理器126输出的一个或多个信号可以被供应给波束形成器124,波束形成器124可以响应于这一个或多个信号而向换能器阵列供应信号以将期望的声学探头信号15发射到感兴趣区10。
而且,声学探头120的声学换能器元件122中的至少一些声学换能器元件接收来自感兴趣区10的响应于声学探头信号15的声学回波,并且将接收到的声学回波转换为表示感兴趣区10的图像的一个或多个电信号。波束形成器124和信号处理器126可以根据需要来进一步处理这些电信号,然后通信接口128将这些电信号作为一个或多个图像信号传送到声学成像仪器110。
在一些实施例中,由惯性测量单元121输出的一个或多个惯性测量信号可以被供应到通信接口128,然后被供应到声学成像仪器110,在声学成像仪器110中,可以发生任何期望的处理。在其他实施例中,由惯性测量单元121输出的一个或多个惯性测量信号可以被供应到信号处理器126(而不是直接被供应到通信接口128),信号处理器126可以根据需要处理(一个或多个)惯性测量信号并且将(一个或多个)经处理的惯性测量信号提供给通信接口128,然后提供给声学成像仪器110。
图11图示了在用于测量宫颈长度的扫描会话期间声学成像装置(例如,声学成像仪器110)的示例操作。
图11示出了被实施为软件程序的部分的深度学习模块1122,处理器在扫描会话中执行深度学习模块1122以测量宫颈长度。深度学习模块1122与自动测量软件程序1124相关联,处理器112可以执行自动测量软件程序1124以采集宫颈的声学图像,以用于响应于一个或多个准则或针对自动LC测量的系统配置设置正被激活而测量宫颈长度。这些设置可以包括(但不限于)组织特异性预设(TSP)设置、指示要执行宫颈测量的意图的用户特异性简档、对经阴道超声检查(TVS)探头的激活等。
在扫描会话期间,声学成像仪器110可以接收来自声学探头120的一个或多个图像信号,当声学探头120扫描不同的2D平面中的感兴趣区10的不同视图10时,声学成像仪器110可以处理(一个或多个)图像信号以产生声学图像数据,并且声学成像仪器110可以根据声学图像数据和接收到的惯性测量信号来构建感兴趣区10的三维(3D)体积1220,如图12A、图12B和图12C所示。
图12A、图12B和图12C图示了根据一系列声学图像1220来构建3D体积1220的过程的示例操作,该过程开始于在第一图像平面上拍摄第一二维图像或帧1120-1,如图12A的左侧所示。继续进行拍摄,在第27个图像平面上拍摄第27幅图像或第27个帧1120-27,如图12B的左侧所示。然后继续进行拍摄,在第269个图像平面上拍摄第269幅图像或第269个帧1120-269,如图12C的左侧所示。当然,也拍摄了多幅其他声学图像或多个其他声学帧,但为了简化图示而没有在图12A、图12B和图12C中示出。
然后,声学成像仪器110可以对声学图像1120中的一幅或多幅声学图像以及3D体积1220内的对应平面赋予资格以进行候选宫颈长度测量。特别地,深度学习模块1122可以采用标准深度学习网络架构(例如,经典卷积神经网络(CNN)、You Only Look Once(YOLO)神经网络或U-Net卷积网络(U-net))来执行针对由声学成像仪器110根据从声学探头120接收到的宫颈的图像信号形成的声学图像的任务(例如,分类、回归、对象检测以及分割)。
深度学习模块也可以被实施为硬件电路,而不是被实施为由处理器112执行的软件。
特别地,为了基于解剖界标来指导用户得到最优成像平面,深度学习模块1122可以采用一个或多个赋予资格解剖界标和/或一个或多个取消资格解剖界标,这一个或多个赋予资格解剖界标对三维体积的图像平面赋予资格,这一个或多个取消资格解剖界标对感兴趣区10的三维体积的图像平面取消资格。通常,要求某些(赋予资格)解剖界标实现最优视图,而其他(取消资质)解剖界标的存在会自动对次优视图取消资格。例如,深度学习模块1122可以实施在图像中启用对象识别的YOLO网络,并且可以采用YOLO网络在3D体积的图像平面中搜索赋予资格解剖界标和取消资格解剖界标的存在。
可以利用以下输入对深度学习模块1122进行训练以用于测量指导:(1)一系列B模式声学图像;(2)针对最优视图和次优视图的标记;(3)经标记的解剖区域/界标。
在临床操作场景中,超声医师可以在扫描会话期间采用声学探头120和声学成像仪器110来如下进行宫颈长度测量。超声医师将声学探头120放置在合适的位置中,以便观察宫颈。将所采集的B模式图像实时应用于深度学习模块1122。然后,深度学习模块1122除了别的操作以外还能够确定:(1)是否基于在图像中存在或不存在赋予资格解剖界标和取消资格解剖界标而识别出赋予资格的视图;(2)是否施加了正确量的压力;(3)用于进行宫颈长度测量的正确卡尺位置等。
深度学习模块1122的输出可以被呈现为用户接口114上的叠加物。图11图示了用户接口114中的一些复选框,当确定这些项目中的每个项目都可以向超声医师提供反馈时,可以对这些复选框打钩。
在如上所述的扫描会话期间,针对候选宫颈长度测量标记所识别的所有赋予资格的或最佳视图,自动执行候选宫颈长度测量,并且选择所有赋予资格的或最佳视图中的最短的候选宫颈长度测量结果作为针对扫描会话的测量宫颈长度。针对压力测量,深度学习模块1122能够使用宫颈的形状作为解剖界标。
图13图示了用于确定宫颈的宫颈长度的算法1300的示例实施例中的主要操作。
操作1310包括执行对包括宫颈的感兴趣区10的实时(“实况”)2D声学成像扫描。
操作1320包括在实况声学成像扫描会话期间激活自动宫颈长度测量模式,基于系统配置设置,将激活自动CL测量模式。这些设置能够包括(但不限于)组织特异性预设(TSP)设置、指示要执行宫颈测量的意图的用户特异性简档、对经阴道换能器的激活等。
操作1330包括根据在操作1310中当用户或超声医师操纵声学探头120时捕获的一系列2D图像来构建3D体积。任选地,在一些实施例中,用户能够具有执行特定的探头操纵(例如,旋转操纵)以确保捕获额外的3D片段的任务。可以在操作1335中从由IMU 121产生的惯性测量信号获得针对每幅声学图像的姿态信息。IMU 121提供相对于先前测量结果或2D声学图像的姿态测量结果。换句话说,在声学探头120的瞬态运动期间,由IMU 121输出的信号能够用于根据个体2D图像帧来构建3D体积。
操作1340包括识别用于测量宫颈长度的图像平面。特别地,从在操作1330中构建的3D体积来识别适当的图像平面。为了识别适当的图像平面,在操作1345中,可以使每个平面通过如上面关于图11所述的深度学习模块,以识别符合用于正确测量宫颈长度的所有准则的图像平面。利用这种方法,可以识别针对CL测量的赋予资格的多个图像平面。在一些实施例中,可以确定最优图像平面,例如通过对多个赋予资格界标和取消资格界标进行加权并找到最为密切匹配赋予资格界标和最不密切匹配取消资格界标的图像平面来实现这一点。在一些实施例中,最优图像平面可以是3D体积内的倾斜平面。
操作1350包括自动测量宫颈长度。也就是说,一旦在操作1340中识别出用于测量宫颈长度的图像平面,就在该图像平面中识别用于测量候选宫颈长度的正确卡尺点。在一些实施例中,操作1355可以包括处理器112针对赋予资格的图像平面执行图像分割和对象检测以获得候选宫颈长度。
在一些实施例中,处理器112被配置为通过将针对赋予资格的图像平面的图像数据应用于You Only Look Once(YOLO)神经网络来执行图像分割。在一些实施例中,处理器112被配置为通过将针对赋予资格的图像平面的图像数据应用于U-Net卷积网络来针对赋予资格的图像平面执行对象检测。然而,在其他实施例中,也可以采用其他技术。
操作1360包括显示时间图或迹线:在标准临床实践中,在给定的扫描会话中,针对临床诊断获得三个或更多个候选宫颈长度。临床目标是在给定的扫描会话中捕获(来自在该会话中进行的所有测量中的)最短的候选宫颈长度,作为针对该扫描会话的测量宫颈长度。如上所述,进行多次测量的基本原理是:由于多种原因(包括患者运动、呼吸、探头运动等),所估计的宫颈长度能够改变。基于这些临床准则,在操作1360中,执行算法1300的声学成像系统100在赋予资格的帧上显示候选宫颈长度测量结果随时间的迹线,并且经由用户接口114将最佳的最短宫颈长度标记在被显示在显示设备116上的图形上。
图14A图示了图形1410的示例,图形1410可以经由用户接口114被显示在显示设备116上,以示出候选宫颈长度并且指示针对扫描会话的测量宫颈长度。有益地,与宫颈长度测量相对应的声学图像也可以被显示在显示设备116上,以向超声医师或用户提供背景。在操作1365中,可以将结果(包括测量宫颈长度)归档在电子医学记录(EMR)系统的非易失性存储设备或存储器中以用于生成纵向结果,声学成像系统100可以在随访扫描会话中将该纵向结果呈现给超声医师或用户。
在随访扫描会话期间,可以再次执行操作1310-1365以获得新的宫颈长度测量结果。能够从早期扫描会话检索存储的声学图像,并且(任选地)能够利用来自当前实况会话的声学图像来执行图像匹配。这确保了随时间使用相似的图像平面来进行各个宫颈长度测量,以产生一致的结果。
图14B图示了图形1420的示例,图形1420可以经由用户接口114被显示在显示设备116上,以示出在妊娠期间随时间从多个扫描会话测量的宫颈长度的进展。该特征允许临床医生观察针对患者的宫颈长度变化的趋势以及对应的声学图像。当用户点击图形1420中的特定周数时,可以显示针对该特定扫描会话的宫颈长度测量的迹线,其类似于图14A所描绘的示例图形1410。
应当理解,图13中的各个操作的顺序可以改变或者重新排列,并且实际上,一些操作实际上可以与一个或多个其他操作并行执行。在这种意义上,图13可以更好地被视为编号的操作列表而不是有序序列。
图15图示了可以使用如上所述的声学成像系统100执行的确定宫颈的宫颈长度的方法1500的示例实施例的流程图。
操作1510可以包括利用声学探头在扫描会话期间执行对包括宫颈的感兴趣区的实时二维声学成像,包括从声学探头产生声学图像信号以及产生指示声学探头的姿态的惯性测量信号。
操作1520可以包括根据声学图像信号和惯性测量信号来构建感兴趣区的三维体积。
操作1530可以包括将深度学习算法应用于所构建的感兴趣三维体积,以对用于获得针对宫颈的候选宫颈长度的图像平面赋予资格。
操作1540可以包括:针对赋予资格的图像平面执行图像分割和对象检测以获得候选宫颈长度,并且将候选宫颈长度存储在存储器中。
操作1550可以包括确定是否已经处理了扫描会话的最后一个时间段。在一些实施例中,可以建立阈值数量的(例如,三个)候选宫颈长度测量结果,并且最后一个时间段可以被确定为已经达到阈值时的时间段。在其他实施例中,最后一个时间段可以被确定为当超声医师从感兴趣区移除声学探头时,或者按下按钮时,或者以其他方式指示扫描会话完成时。
如果在操作1550中确定最后一个时间段尚未被处理,则该方法前进到操作1560,在操作1560中,收集扫描会话的下一个时间段。然后,该方法返回到操作1520并且继续处理额外的声学图像,以在后续时间段中确定额外的候选宫颈长度。如果在操作1550中确定最后一个时间段已经被处理,则该方法前进到操作1570。
当已经获得了针对扫描会话的所有候选宫颈长度时发生操作1570,并且操作1570可以包括从多个时间帧中选择最短的候选宫颈长度作为针对扫描会话的测量宫颈长度。
操作1580可以包括在显示设备上显示根据声学图像信号产生的在赋予资格的平面中的宫颈的图像以及对针对扫描会话的测量宫颈长度的指示。
应当理解,图15中的各个操作的顺序可以改变或者重新排列,并且实际上,一些操作实际上可以与一个或多个其他操作并行执行。在这种意义上,图15可以更好地被视为编号的操作列表而不是有序序列。
虽然在本文中详细公开了优选实施例,但是在本发明的构思和范围内仍然存在许多可能的变化。在查阅了本文中的说明书、附图和权利要求之后,这样的变化对于本领域技术人员来说将变得清楚。因此,除了在权利要求的范围内以外,本发明不受限制。
Claims (18)
1.一种系统(100),包括:
声学探头(120),所述声学探头具有声学换能器元件的阵列(122);
惯性测量电路(121),所述惯性测量电路被配置为提供指示所述声学探头的姿态的惯性测量信号;以及
声学成像仪器(110),其被连接到所述声学探头,并且被配置为向所述声学换能器元件中的至少一些声学换能器元件提供发射信号以使声学换能器元件的所述阵列将声学探头信号(15)发射到包括宫颈的感兴趣区(10),并且还被配置为响应于由所述声学探头接收到的、来自所述感兴趣区的、响应于所述声学探头信号的声学回波而产生所述感兴趣区的声学图像,所述声学成像仪器包括:
显示设备(116);
通信接口(115),其被配置为:从所述声学探头接收根据来自所述感兴趣区的所述声学回波产生的一个或多个图像信号,并且接收所述惯性测量信号;以及
处理器(112、900)和相关联的存储器(111),所述处理器被配置为:
针对扫描会话中的多个时间帧(1120-1/1120/27/1120-269)中的每个时间帧:
根据所述一个或多个图像信号和接收到的惯性测量信号来构建(1520)所述感兴趣区的三维体积(1220),
将深度学习算法(1122)应用(1530)于所构建的所述感兴趣区的三维体积以对用于获得针对所述宫颈的候选宫颈长度的图像平面赋予资格(1340),并且
针对赋予资格的图像平面执行(1540)图像分割和对象检测以获得(1350)所述候选宫颈长度,并且
从所述多个时间帧中选择(1570)最短的候选宫颈长度作为针对所述扫描会话的测量宫颈长度,
其中,所述处理器被配置为控制所述显示设备以显示与针对所述扫描会话的所述测量宫颈长度相对应的所述宫颈的图像以及对针对所述扫描会话的所述测量宫颈长度的指示。
2.根据权利要求1所述的系统(100),其中,所述处理器被配置为:控制所述显示设备以显示示出所述候选宫颈长度的图形(1410),并且在所述图形上显示对针对所述扫描会话的所述测量宫颈长度的所述指示。
3.根据权利要求1所述的系统(100),其中,所述处理器被配置为在非易失性存储器设备(932、934、935、936)中存储针对所述扫描会话的所述测量宫颈长度以及所述扫描会话的日期。
4.根据权利要求3所述的系统(100),
其中,所述非易失性存储器设备被配置为存储针对在对应时间执行的多个扫描会话的多个测量宫颈长度,并且
其中,所述处理器被配置为使所述显示器显示标绘针对所述扫描会话的所述宫颈长度与所述对应时间的关系的图形。
5.根据权利要求1所述的系统(100),其中,所述处理器被配置为:生成针对所述赋予资格的图像平面的图像数据,并且通过将针对所述赋予资格的图像平面的所述图像数据应用于You Only Look Once(YOLO)神经网络来执行图像分割。
6.根据权利要求1所述的系统(100),其中,所述处理器被配置为:生成针对所述赋予资格的图像平面的图像数据;并且通过将针对所述赋予资格的图像平面的所述图像数据应用于U-Net卷积网络来执行对针对所述赋予资格的图像平面的对象检测。
7.根据权利要求1所述的系统(100),
其中,所述处理器被配置为生成针对所述三维体积的多个图像平面的图像数据,并且
其中,所述深度学习算法采用一个或多个赋予资格解剖界标,所述一个或多个赋予资格解剖界标对所述三维体积的图像平面赋予资格,并且所述深度学习算法采用一个或多个取消资格解剖界标,所述一个或多个取消资格解剖界标对所述三维体积的图像平面取消资格。
8.根据权利要求7所述的系统(100),其中,采用第一宫颈形状作为所述取消资格解剖界标中的一个取消资格解剖界标,并且采用第二宫颈形状作为所述赋予资格解剖界标中的一个赋予资格解剖界标。
9.根据权利要求1所述的系统(100),其中,所述处理器被配置为生成针对所述三维体积的多个图像平面的图像数据,并且其中,所述深度学习算法将所述图像数据应用于以下各项中的一项:卷积神经网络(CNN)、You Only Look Once(YOLO)神经网络或U-Net卷积网络。
10.一种方法(1500),包括:
在扫描会话期间利用声学探头(120)执行(1510)对包括宫颈的感兴趣区(10)的实时二维声学成像,包括产生所述感兴趣区的一个或多个图像信号以及产生指示所述声学探头的姿态的惯性测量信号;
针对所述扫描会话中的多个时间帧中的每个时间帧:
根据所述一个或多个图像信号和所述惯性测量信号来构建(1520)所述感兴趣区的三维体积(1220),
将深度学习算法应用(1530)于所构建的所述感兴趣区的三维体积以对用于获得针对所述宫颈的候选宫颈长度的图像平面赋予资格,并且
针对赋予资格的图像平面执行(1540)图像分割和对象检测以获得所述候选宫颈长度,并且
从所述多个时间帧中选择(1570)最短的候选宫颈长度作为针对所述扫描会话的测量宫颈长度,并且
在显示设备(116)上显示(1570)与针对所述扫描会话的所述测量宫颈长度相对应的所述宫颈的图像以及对针对所述扫描会话的所述测量宫颈长度的指示。
11.根据权利要求10所述的方法(1500),还包括:显示示出所述候选宫颈长度的图形(1410),并且在所述图形上显示对针对所述扫描会话的所述测量宫颈长度的所述指示。
12.根据权利要求10所述的方法(1500),还包括:将针对所述扫描会话的所述测量宫颈长度以及所述扫描会话的日期存储在非易失性存储器设备(932、934、935、936)中。
13.根据权利要求12所述的方法(1500),还包括:
在所述非易失性存储器设备(932、934、935、936)中存储针对在对应时间执行的多个扫描会话的多个测量宫颈长度;并且
在所述显示设备上显示标绘针对所述扫描会话的所述宫颈长度与所述对应时间的关系的图形(1410)。
14.根据权利要求10所述的方法(1500),还包括:生成针对所述赋予资格的图像平面的图像数据,并且通过将针对所述赋予资格的图像平面的所述图像数据应用于You OnlyLook Once(YOLO)神经网络来执行图像分割。
15.根据权利要求10所述的方法(1500),还包括:
生成针对所述赋予资格的图像平面的图像数据;并且
通过将针对所述赋予资格的图像平面的所述图像数据应用于U-Net卷积网络来执行对针对所述赋予资格的图像平面的对象检测。
16.根据权利要求10所述的方法(1500),还包括:
生成针对所述三维体积的多个图像平面的图像数据;
采用一个或多个赋予资格解剖界标,所述一个或多个赋予资格解剖界标对所述三维体积的图像平面赋予资格;并且
采用一个或多个取消资格解剖界标,所述一个或多个取消资格解剖界标按顺序对所述三维体积的图像平面取消资格。
17.根据权利要求16所述的方法(1500),还包括:
采用第一宫颈形状作为所述取消资格解剖界标中的一个取消资格解剖界标;并且
采用第二宫颈形状作为所述赋予资格解剖界标中的一个赋予资格解剖界标。
18.根据权利要求10所述的方法(1500),还包括:
生成针对所述三维体积的多个图像平面的图像数据;并且
将所述图像数据应用于以下各项中的一项以对用于获得所述宫颈的候选宫颈长度的图像平面赋予资格:卷积神经网络(CNN)、You Only Look Once(YOLO)神经网络或U-Net卷积网络。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201962849219P | 2019-05-17 | 2019-05-17 | |
US62/849,219 | 2019-05-17 | ||
PCT/EP2020/063448 WO2020234106A1 (en) | 2019-05-17 | 2020-05-14 | System, device and method for assistance with cervical ultrasound examination |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113891683A true CN113891683A (zh) | 2022-01-04 |
Family
ID=70738561
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202080036618.7A Pending CN113891683A (zh) | 2019-05-17 | 2020-05-14 | 用于辅助宫颈超声检查的系统、设备和方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US20220192625A1 (zh) |
EP (1) | EP3968862B1 (zh) |
JP (1) | JP7183451B2 (zh) |
CN (1) | CN113891683A (zh) |
WO (1) | WO2020234106A1 (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20230110986A (ko) * | 2022-01-17 | 2023-07-25 | 연세대학교 산학협력단 | 자궁 경부에 대한 정보 제공 방법 및 이를 이용한 자궁 경부에 대한 정보 제공용 디바이스 |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050038340A1 (en) * | 1998-09-18 | 2005-02-17 | University Of Washington | Use of contrast agents to increase the effectiveness of high intensity focused ultrasound therapy |
US8055324B1 (en) * | 2004-05-25 | 2011-11-08 | Sonultra Corporation | Rapid reports |
US20160038122A1 (en) * | 2014-08-05 | 2016-02-11 | Samsung Medison Co., Ltd. | Ultrasound diagnosis apparatus |
US20160151041A1 (en) * | 2014-12-01 | 2016-06-02 | Samsung Medison Co., Ltd. | Ultrasound image apparatus and method of operating the same |
US20160166233A1 (en) * | 2014-12-16 | 2016-06-16 | Samsung Medison Co., Ltd. | Ultrasound diagnosis apparatus and method of operating the same |
US20170340354A1 (en) * | 2015-06-05 | 2017-11-30 | Siemens Medical Solutions Usa, Inc. | Image-guided embryo transfer for in vitro fertilization |
US20180103912A1 (en) * | 2016-10-19 | 2018-04-19 | Koninklijke Philips N.V. | Ultrasound system with deep learning network providing real time image identification |
US20180199919A1 (en) * | 2017-01-18 | 2018-07-19 | Samsung Medison Co., Ltd. | Ultrasound imaging apparatus and ultrasound image display method |
US20180284250A1 (en) * | 2017-03-28 | 2018-10-04 | General Electric Company | Method and system for adjusting an acquisition frame rate for mobile medical imaging |
AU2017292642A1 (en) * | 2016-07-08 | 2018-12-13 | Avent, Inc. | System and method for automatic detection, localization, and semantic segmentation of anatomical objects |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20080167581A1 (en) * | 2007-01-10 | 2008-07-10 | Yoav Paltieli | Determining parameters associated with a female pelvis and cervix |
US8167803B2 (en) * | 2007-05-16 | 2012-05-01 | Verathon Inc. | System and method for bladder detection using harmonic imaging |
US20160328998A1 (en) * | 2008-03-17 | 2016-11-10 | Worcester Polytechnic Institute | Virtual interactive system for ultrasound training |
US11096668B2 (en) * | 2013-03-13 | 2021-08-24 | Samsung Electronics Co., Ltd. | Method and ultrasound apparatus for displaying an object |
US20160278740A1 (en) * | 2015-03-23 | 2016-09-29 | Hyland Software, Inc. | Ultrasound imaging system and method |
US10127654B2 (en) * | 2015-10-07 | 2018-11-13 | Toshiba Medical Systems Corporation | Medical image processing apparatus and method |
WO2019016759A1 (en) * | 2017-07-19 | 2019-01-24 | Bloom Technologies NV | MONITORING UTERINE ACTIVITY AND ASSESSING A RISK OF BIRTH BEFORE TERM |
AU2018323621A1 (en) * | 2017-08-31 | 2020-02-06 | Butterfly Network, Inc. | Methods and apparatus for collection of ultrasound data |
US11756160B2 (en) * | 2018-07-27 | 2023-09-12 | Washington University | ML-based methods for pseudo-CT and HR MR image estimation |
WO2020076644A2 (en) * | 2018-10-04 | 2020-04-16 | Duke University | Methods for automated detection of cervical pre-cancers with a low-cost, point-of-care, pocket colposcope |
US10426442B1 (en) * | 2019-06-14 | 2019-10-01 | Cycle Clarity, LLC | Adaptive image processing in assisted reproductive imaging modalities |
-
2020
- 2020-05-14 US US17/611,650 patent/US20220192625A1/en active Pending
- 2020-05-14 CN CN202080036618.7A patent/CN113891683A/zh active Pending
- 2020-05-14 EP EP20726092.8A patent/EP3968862B1/en active Active
- 2020-05-14 WO PCT/EP2020/063448 patent/WO2020234106A1/en active Application Filing
- 2020-05-14 JP JP2021567949A patent/JP7183451B2/ja active Active
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050038340A1 (en) * | 1998-09-18 | 2005-02-17 | University Of Washington | Use of contrast agents to increase the effectiveness of high intensity focused ultrasound therapy |
US8055324B1 (en) * | 2004-05-25 | 2011-11-08 | Sonultra Corporation | Rapid reports |
US20160038122A1 (en) * | 2014-08-05 | 2016-02-11 | Samsung Medison Co., Ltd. | Ultrasound diagnosis apparatus |
US20160151041A1 (en) * | 2014-12-01 | 2016-06-02 | Samsung Medison Co., Ltd. | Ultrasound image apparatus and method of operating the same |
US20160166233A1 (en) * | 2014-12-16 | 2016-06-16 | Samsung Medison Co., Ltd. | Ultrasound diagnosis apparatus and method of operating the same |
US20170340354A1 (en) * | 2015-06-05 | 2017-11-30 | Siemens Medical Solutions Usa, Inc. | Image-guided embryo transfer for in vitro fertilization |
AU2017292642A1 (en) * | 2016-07-08 | 2018-12-13 | Avent, Inc. | System and method for automatic detection, localization, and semantic segmentation of anatomical objects |
US20180103912A1 (en) * | 2016-10-19 | 2018-04-19 | Koninklijke Philips N.V. | Ultrasound system with deep learning network providing real time image identification |
US20180199919A1 (en) * | 2017-01-18 | 2018-07-19 | Samsung Medison Co., Ltd. | Ultrasound imaging apparatus and ultrasound image display method |
US20180284250A1 (en) * | 2017-03-28 | 2018-10-04 | General Electric Company | Method and system for adjusting an acquisition frame rate for mobile medical imaging |
Non-Patent Citations (3)
Title |
---|
ABDELHAFIZ ET AL: "Deep convolutional neural networks for mammography: advances, challenges and applications", BMC BIOINFORMATICS, vol. 20 * |
LIU, SF ET AL: "Deep Learning in Medical Ultrasound Analysis: A Review", ENGINEERING, vol. 5, no. 2, XP055653134, DOI: 10.1016/j.eng.2018.11.020 * |
NIYAZ U , BHAT U: "Advances in Deep Learning Techniques for Medical Image Analysis", 2018 FIFTH INTERNATIONAL CONFERENCE ON PARALLEL, DISTRIBUTED AND GRID COMPUTING (IEEE PDGC), pages 271 - 277 * |
Also Published As
Publication number | Publication date |
---|---|
JP7183451B2 (ja) | 2022-12-05 |
US20220192625A1 (en) | 2022-06-23 |
WO2020234106A1 (en) | 2020-11-26 |
EP3968862A1 (en) | 2022-03-23 |
EP3968862B1 (en) | 2023-07-12 |
JP2022524237A (ja) | 2022-04-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US12029615B2 (en) | Ultrasound diagnosis apparatus and method for generating image from volume data and displaying the same | |
JP5872216B2 (ja) | 超音波診断装置及び超音波画像処理装置 | |
JP2006510413A (ja) | 動脈壁の動きを決定する超音波ドップラシステム | |
JP2014061291A (ja) | 超音波診断装置及び画像処理方法 | |
JP2017109074A (ja) | 超音波画像診断装置 | |
US20150164482A1 (en) | Ultrasound diagnostic apparatus, ultrasound image recording method, and non-transitory computer readable recording medium | |
US10159468B2 (en) | Ultrasound diagnostic apparatus and method and computer readable storage medium | |
CN103442649A (zh) | 使用低成本换能器的自动多普勒速度测量法 | |
JP7204106B2 (ja) | 超音波プローブ用ナビゲートシステム、および、そのナビゲート表示装置 | |
US9947097B2 (en) | Method and system for enhanced fetal visualization by detecting and displaying a fetal head position with cross-plane ultrasound images | |
JP4599197B2 (ja) | 超音波診断装置 | |
JP2001178717A (ja) | 超音波診断装置 | |
CN112998748A (zh) | 用于超声弹性成像的应变自动测量和应变比计算的方法和系统 | |
EP2821015A1 (en) | Ultrasound system and method of providing reference image corresponding to ultrasound image | |
EP3968862B1 (en) | System, device and method for assistance with cervical ultrasound examination | |
CN108778142A (zh) | 颈部褶皱半透明带的自动超声测量 | |
JP2005000390A (ja) | 超音波診断装置 | |
JP2006000456A (ja) | 超音波診断装置 | |
US11766236B2 (en) | Method and apparatus for displaying ultrasound image providing orientation of fetus and computer program product | |
JP2010051380A (ja) | 超音波診断装置 | |
JP4696579B2 (ja) | 超音波診断装置 | |
CN114098687B (zh) | 用于超声运动模式的自动心率测量的方法和系统 | |
JP7457566B2 (ja) | 超音波診断装置、臍帯長測定方法及びプログラム | |
JP6104529B2 (ja) | 超音波診断装置、画像生成装置及び画像表示装置 | |
US20230320694A1 (en) | Graphical user interface for providing ultrasound imaging guidance |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |