JP2023519878A - 複数のイメージングモダリティにおける関心領域を相関させるためのシステムおよび方法 - Google Patents
複数のイメージングモダリティにおける関心領域を相関させるためのシステムおよび方法 Download PDFInfo
- Publication number
- JP2023519878A JP2023519878A JP2022558298A JP2022558298A JP2023519878A JP 2023519878 A JP2023519878 A JP 2023519878A JP 2022558298 A JP2022558298 A JP 2022558298A JP 2022558298 A JP2022558298 A JP 2022558298A JP 2023519878 A JP2023519878 A JP 2023519878A
- Authority
- JP
- Japan
- Prior art keywords
- lesion
- image
- breast
- ultrasound
- imaging
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 105
- 238000000034 method Methods 0.000 title claims abstract description 53
- 230000003902 lesion Effects 0.000 claims abstract description 226
- 238000002604 ultrasonography Methods 0.000 claims abstract description 169
- 210000000481 breast Anatomy 0.000 claims abstract description 139
- 238000012285 ultrasound imaging Methods 0.000 claims abstract description 64
- 238000013473 artificial intelligence Methods 0.000 claims abstract description 32
- 239000000523 sample Substances 0.000 claims description 49
- 230000003287 optical effect Effects 0.000 claims description 23
- 238000004891 communication Methods 0.000 claims description 21
- 238000003860 storage Methods 0.000 claims description 20
- 230000000007 visual effect Effects 0.000 claims description 19
- 238000012545 processing Methods 0.000 claims description 12
- 210000002445 nipple Anatomy 0.000 claims description 6
- 230000000877 morphologic effect Effects 0.000 claims description 3
- 230000005540 biological transmission Effects 0.000 claims description 2
- 238000002595 magnetic resonance imaging Methods 0.000 claims description 2
- 238000001454 recorded image Methods 0.000 claims description 2
- 230000001131 transforming effect Effects 0.000 claims 1
- 238000010801 machine learning Methods 0.000 abstract description 12
- 238000004458 analytical method Methods 0.000 abstract description 7
- 238000002601 radiography Methods 0.000 abstract 1
- 210000001519 tissue Anatomy 0.000 description 25
- 230000006835 compression Effects 0.000 description 15
- 238000007906 compression Methods 0.000 description 15
- 238000010586 diagram Methods 0.000 description 15
- 238000009607 mammography Methods 0.000 description 12
- 238000013507 mapping Methods 0.000 description 9
- 230000000875 corresponding effect Effects 0.000 description 7
- 238000005516 engineering process Methods 0.000 description 7
- 230000004807 localization Effects 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 238000013528 artificial neural network Methods 0.000 description 4
- 238000001574 biopsy Methods 0.000 description 4
- 238000012216 screening Methods 0.000 description 4
- 206010028980 Neoplasm Diseases 0.000 description 3
- 230000009471 action Effects 0.000 description 3
- 230000008901 benefit Effects 0.000 description 3
- 239000003086 colorant Substances 0.000 description 3
- 238000013500 data storage Methods 0.000 description 3
- 238000003745 diagnosis Methods 0.000 description 3
- 239000011159 matrix material Substances 0.000 description 3
- 230000007246 mechanism Effects 0.000 description 3
- 101000607909 Homo sapiens Ubiquitin carboxyl-terminal hydrolase 1 Proteins 0.000 description 2
- 102100039865 Ubiquitin carboxyl-terminal hydrolase 1 Human genes 0.000 description 2
- 201000011510 cancer Diseases 0.000 description 2
- 238000010191 image analysis Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 230000033001 locomotion Effects 0.000 description 2
- 239000003550 marker Substances 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 230000005855 radiation Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 208000024891 symptom Diseases 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 238000012800 visualization Methods 0.000 description 2
- 206010014970 Ephelides Diseases 0.000 description 1
- 208000003351 Melanosis Diseases 0.000 description 1
- 241001201483 Selenia <moth> Species 0.000 description 1
- 210000003484 anatomy Anatomy 0.000 description 1
- 210000001367 artery Anatomy 0.000 description 1
- 239000000090 biomarker Substances 0.000 description 1
- 238000013170 computed tomography imaging Methods 0.000 description 1
- 238000002607 contrast-enhanced ultrasound Methods 0.000 description 1
- 230000001276 controlling effect Effects 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 208000031513 cyst Diseases 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000002059 diagnostic imaging Methods 0.000 description 1
- 201000010099 disease Diseases 0.000 description 1
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000002091 elastography Methods 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000036316 preload Effects 0.000 description 1
- 210000004872 soft tissue Anatomy 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000007480 spreading Effects 0.000 description 1
- 238000003892 spreading Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 230000002463 transducing effect Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
- 210000003462 vein Anatomy 0.000 description 1
- 238000007794 visualization technique Methods 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B6/00—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
- A61B6/50—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment specially adapted for specific body parts; specially adapted for specific clinical applications
- A61B6/502—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment specially adapted for specific body parts; specially adapted for specific clinical applications for diagnosis of breast, i.e. mammography
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
- G06V10/759—Region-based matching
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/05—Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves
- A61B5/055—Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves involving electronic [EMR] or nuclear [NMR] magnetic resonance, e.g. magnetic resonance imaging
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B6/00—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
- A61B6/02—Arrangements for diagnosis sequentially in different planes; Stereoscopic radiation diagnosis
- A61B6/025—Tomosynthesis
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B6/00—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
- A61B6/52—Devices using data or image processing specially adapted for radiation diagnosis
- A61B6/5211—Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data
- A61B6/5217—Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data extracting a diagnostic or physiological parameter from medical diagnostic data
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/08—Detecting organic movements or changes, e.g. tumours, cysts, swellings
- A61B8/0825—Detecting organic movements or changes, e.g. tumours, cysts, swellings for diagnosis of the breast, e.g. mammography
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
- G06T7/0014—Biomedical image inspection using an image reference approach
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B6/00—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
- A61B6/46—Arrangements for interfacing with the operator or the patient
- A61B6/461—Displaying means of special interest
- A61B6/463—Displaying means of special interest characterised by displaying multiple images or images and diagnostic data on one display
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/46—Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient
- A61B8/461—Displaying means of special interest
- A61B8/463—Displaying means of special interest characterised by displaying multiple images or images and diagnostic data on one display
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10072—Tomographic images
- G06T2207/10088—Magnetic resonance imaging [MRI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10072—Tomographic images
- G06T2207/10112—Digital tomosynthesis [DTS]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10132—Ultrasound image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30068—Mammography; Breast
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30096—Tumor; Lesion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/03—Recognition of patterns in medical or anatomical images
- G06V2201/032—Recognition of patterns in medical or anatomical images of protuberances, polyps nodules, etc.
Landscapes
- Health & Medical Sciences (AREA)
- Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Medical Informatics (AREA)
- Physics & Mathematics (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- General Health & Medical Sciences (AREA)
- Radiology & Medical Imaging (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Molecular Biology (AREA)
- Surgery (AREA)
- Animal Behavior & Ethology (AREA)
- Pathology (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Biophysics (AREA)
- High Energy & Nuclear Physics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Optics & Photonics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Quality & Reliability (AREA)
- Physiology (AREA)
- Dentistry (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Databases & Information Systems (AREA)
- Computing Systems (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Software Systems (AREA)
- Multimedia (AREA)
- Human Computer Interaction (AREA)
- Apparatus For Radiation Diagnosis (AREA)
- Ultra Sonic Daignosis Equipment (AREA)
- Magnetic Resonance Imaging Apparatus (AREA)
Abstract
乳房組織の関心領域を識別するための方法及びシステムは、人工知能を利用して、第1のイメージングモダリティ(例えばX線撮像)を用いて乳房組織を撮像する間に識別されたターゲット病変が、第2のイメージングモダリティ(例えば超音波撮像)を用いて識別されていることを確認する。病変マッチングエンジンを動作させるコンピューティングシステムは、さらなる解析のために、病変が識別されたX線画像及び対応する超音波画像の事例で訓練された機械学習分類器アルゴリズムを利用する。病変マッチングエンジンは、X線画像で識別されたターゲット病変と超音波画像で識別された潜在病変を解析し、ターゲット病変と潜在病変が同一である可能性を判定する。病変の一致に対する信頼度レベルのインジケータは、医療従事者が乳房組織内の病変を見つけるのを助けるために、コンピューティングデバイスのディスプレイ上に表示される。
Description
本出願は、PCT国際特許出願として2021年3月25日に出願され、2020年3月27日に出願された米国仮特許出願第63/000,702号に対する優先権の利益を主張し、その開示内容は参照により全体が組み込まれるものとする。
背景
医用画像は、患者の内部構造を視覚化するための非侵襲的な方法を提供する。視覚化方法は、患者の癌のスクリーニング及び診断に使用することができる。例えば、早期スクリーニングは、癌である可能性のある乳房内部の病変を検出することができるので、病気の初期段階で治療を行うことができる。
医用画像は、患者の内部構造を視覚化するための非侵襲的な方法を提供する。視覚化方法は、患者の癌のスクリーニング及び診断に使用することができる。例えば、早期スクリーニングは、癌である可能性のある乳房内部の病変を検出することができるので、病気の初期段階で治療を行うことができる。
マンモグラフィとトモシンセシスは、乳房組織を可視化するためにX線放射を利用する。これらの技術は、潜在的に癌である病変について患者をスクリーニングするためにしばしば使用される。従来のマンモグラムは、様々な角度から乳房の2次元画像を取得することを含む。トモシンセシスは、乳房の厚さ全体を通して、乳房の個別の層またはスライスの複数のX線画像をそれぞれ作成する。トモシンセシスは、乳房の3次元的な視覚化を行う。マンモグラフィとトモシンセシスは、典型的には、患者が立っていて、患者の乳房組織が圧迫されている状態で実行される。
病変が発見された場合、腫瘍があるかどうかを判定するために、次のステップとして診断用超音波が行われることがある。超音波は、典型的には圧電変換器によって生成される音波を用いて、患者の組織を画像化する。超音波画像診断では、組織を異なる角度から見ることができるため、固形の塊を容易に識別することができる。超音波プローブは、円弧状の音波を発生させて音波を収束させ、その音波は体内を伝わり、患者の異なる組織間の層から部分的に反射される。反射した音波はトランスデューサで検出され、電気信号に変換され、超音波スキャナで処理されて組織の超音波画像が形成される。超音波検査は、典型的には、患者が仰臥位で、患者の乳房組織が圧迫されていない状態で行われる。
診断超音波イメージング手順の間、技師及び放射線技師は、しばしば、X線イメージングの間に以前に識別された病変にナビゲートし、その位置を特定することに困難を伴う。前者は患者が直立しており乳房組織が圧迫されている状態で行われ、後者は患者が横になっており乳房組織が圧迫されていない状態で行われるため、X線画像から超音波画像への病変の位置の関連付けは困難である。さらに、超音波画像は、X線画像とは異なるレベルのコントラストを有し、異なる外観を有する。X線画像処理で検出される病変は、技術の向上によりますます小さくなっており、超音波画像で小さな病変の位置を特定することがより困難になってきている。
本開示は、このような背景のもとになされたものである。技術及び改良が本明細書で提供される。
概要
本開示の実施例は、乳房内部の関心領域の位置を特定する方法に関する。乳房内部のターゲット病変の位置の兆候は、コンピューティングデバイスで受信される。ターゲット病変は、第1のイメージングモダリティを用いて乳房の撮像の間に識別される。乳房の画像が第2のイメージングモダリティによって取得され、潜在的病変が画像内で識別される。ターゲット病変を含む第1の画像は、コンピューティングシステム上で動作する病変マッチングエンジンで解析され、人工知能を用いて潜在的病変を含む第2の画像と比較される。潜在的病変がターゲット病変に対応する確率が判定され、信頼度のレベルのインジケータがグラフィカルユーザインターフェースに表示するために出力される。
本開示の実施例は、乳房内部の関心領域の位置を特定する方法に関する。乳房内部のターゲット病変の位置の兆候は、コンピューティングデバイスで受信される。ターゲット病変は、第1のイメージングモダリティを用いて乳房の撮像の間に識別される。乳房の画像が第2のイメージングモダリティによって取得され、潜在的病変が画像内で識別される。ターゲット病変を含む第1の画像は、コンピューティングシステム上で動作する病変マッチングエンジンで解析され、人工知能を用いて潜在的病変を含む第2の画像と比較される。潜在的病変がターゲット病変に対応する確率が判定され、信頼度のレベルのインジケータがグラフィカルユーザインターフェースに表示するために出力される。
別の態様では、病変識別システムは、処理デバイスと、処理デバイスによって実行されると動作の実行を容易にする命令を格納するメモリとを含む。動作は、乳房のX線画像にアクセスすることであって、X線画像は視覚マーカで示された識別された病変を含む、アクセスすることと、乳房の超音波画像を受信することであって、超音波画像は潜在的病変の兆候を含む、受信することと、人工知能病変分類器を用いて潜在的病変及び識別された病変を解析することと、超音波画像における潜在的病変がX線画像における識別された病変に一致する可能性を示す信頼度スコアを生成することと、信頼度スコアと関連付けられる出力をグラフィカルユーザインターフェース上に表示させることと、を含む。
更に別の態様では、非一時的機械可読記憶媒体は、プロセッサによって実行されると、動作の実行を容易にする実行可能命令を格納する。動作は以下を含む。データストアからターゲット病変のデータを取得することであって、データはX線撮像で取得され、少なくともターゲット病変の画像及び乳房内部のターゲット病変の位置の座標を含む、取得することと、超音波撮像で得られる乳房の画像を記録することと、ターゲット病変の座標に基づいて超音波で得られる乳房の記録画像内の概略の関心領域を識別することと、前記概略の関心領域において潜在的病変を識別することと、人工知能病変分類器を用いて前記潜在的病変を解析し、前記潜在的病変を前記ターゲット病変と比較して、前記潜在的病変が前記ターゲット病変に対応するという信頼度のレベルを判定することと、前記信頼度のレベルのインジケータをグラフィカルユーザインターフェース上に出力することと、である。
別の態様では、病変識別システムは、少なくとも一つの光学カメラと、プロジェクタと、処理デバイスと、処理デバイスによって実行されると動作の実行を容易にする命令を記憶するメモリとを含む。動作は、少なくとも一つの光学カメラを用いて患者の乳房の少なくとも一つの光学画像を撮影することと、乳房の少なくとも一つのトモシンセシス画像にアクセスすることと、少なくとも一つのトモシンセシス画像上のターゲット病変の兆候を受信することと、領域マッチング及び非剛体変形モデルのための人工知能アルゴリズムで解析することにより、少なくとも一つの光学画像及び乳房の少なくとも一つのトモシンセシス画像を共整合することと、前記共整合すること及び前記ターゲット病変の兆候に基づいて確率マップを作成することであって、前記マップは前記ターゲット病変が前記乳房上の複数の点の各々に位置する可能性を示す、作成することと、前記確率マップを前記乳房上にプロジェクタで投影することと、を備える。
一つ以上の技法の詳細は、添付の図面及び以下の説明に記載されている。これらの技術の他の特徴、目的、及び利点は、説明、図面、及び特許請求の範囲から明らかになるであろう。
詳細な説明
本開示は、撮像デバイスを用いて乳房組織内部の病変を突き止めるためのシステム及び方法に向けられている。特に、コンピューティングシステムは、機械学習を利用して潜在的病変にナビゲートし、超音波撮像により乳房内で識別された病変とX線撮像により識別された病変との間の相関に対する信頼度レベルのインジケータを提供する。
本開示は、撮像デバイスを用いて乳房組織内部の病変を突き止めるためのシステム及び方法に向けられている。特に、コンピューティングシステムは、機械学習を利用して潜在的病変にナビゲートし、超音波撮像により乳房内で識別された病変とX線撮像により識別された病変との間の相関に対する信頼度レベルのインジケータを提供する。
乳房の健康を評価する重要なステップは、スクリーニングX線イメージング手順(例えば、マンモグラフィ又はトモシンセシス)である。約10-15%の症例において、病変が癌の可能性があるかどうかを判定するための追加の画像診断のために患者を呼び戻す原因となる病変がX線画像により識別される。その際、画像診断が行われ、通常、超音波診断が行われる。超音波画像は、嚢胞と固い塊とをより正確に区別することができ、生検が必要とされる場合には、超音波が好ましい画像様式である。
超音波の利点にもかかわらず、臨床医は、超音波イメージングを実行しながら、X線イメージングで識別された同じ病変を見つけることが困難であると感じることがある。これは、3つの主要な要因によるものである。第1は、X線撮像手順(例えば、マンモグラフィ又はトモシンセシス)と比較して、超音波手順では乳房の位置が異なるということである。通常、X線撮像では、患者は直立姿勢で乳房を圧迫しているが、超音波撮影では、患者は通常仰臥位で乳房は圧迫されていない。この位置のずれは、X線画像で発見された病変を超音波で生成された画像と相関させることを困難にすることがある。
第2の理由は、超音波イメージングモダリティが、異なるコントラストでX線イメージングと異なって見えることである。超音波で識別された病変が、以前にX線画像で識別されたものと同じものであると確信することは困難である場合がある。
第3に、技術が向上し続けるにつれて、X線画像処理で検出できる病変はますます小さくなっている。このため、医療従事者が超音波画像中の病変を見つけることがより困難になる。
本明細書に記載のコンピューティングシステムは、超音波で識別された病変とX線撮像で識別された病変との間の相関関係の信頼度レベルのインジケータを提供するように動作する。コンピューティングシステムは、デジタル乳房トモシンセシス(DBT)症例及び対応する放射線科医相関診断超音波症例のライブラリ上で訓練された人工知能(AI)モデルを使用する。AIモデルは、新しいDBT画像と超音波画像を解析し、ある病変が別の病変と相関しているかどうかを判定する。さらに、AIモデルは、ユーザが同じ病変を発見したかどうかを判定するのを支援するために、信頼度レベルのインジケータをユーザに提供することができる。いくつかの例では、AIモデルは、超音波診断中に標的領域へのナビゲーションを速め、解析されるべき画像セットを減らすために、電磁的又は光学的トラッキング入力と組み合わせて採用され得る。幾つかの例では、AIモデルは、信頼度レベルを計算するために形態因子を利用する。形態因子は、乳房の特定の領域を識別するために使用することができる乳房組織の形態学的特徴を含む。いくつかの例では、形態因子は、ほくろ、そばかす、及びタトゥーなどの乳房の表面上の視覚的特徴である。
図1は、乳房内部の関心領域の位置を特定するための例示的な病変識別システム100を図示している。システム100は、コンピューティングシステム102と、X線イメージングシステム104と、超音波イメージングシステム106とを含む。いくつかの例では、病変識別システム100は、関心領域が最初に識別されたX線撮像手順中に収集されたデータに基づいて、超音波撮像中に医療従事者を乳房内の関心領域に誘導するように動作する。いくつかの例では、病変識別システム100は、超音波画像上で見える病変がX線画像で以前に識別された同じ病変であることを医療従事者が確認するのを支援するために、ディスプレイ上で医療従事者に信頼度レベルのインジケータを提供する。
コンピューティングシステム102は、X線イメージングシステム104及び超音波イメージングシステム106から受信した情報を処理し、保存するように動作する。図1の例では、コンピューティングシステム102は、病変マッチングエンジン110及びデータストア112を含む。いくつかの例では、病変マッチングエンジン110及びデータストア112は、コンピューティングシステム102のメモリ内部に収容される。いくつかの例では、コンピューティングシステム102は、クラウドコンピューティング環境などのリモートサーバから病変マッチングエンジン110及びデータストア112にアクセスする。図1は、システム100の他の構成要素から独立したものとしてコンピューティングシステム102を示しているが、それはまた、X線コンピューティングデバイス116、超音波コンピューティングデバイス118、又は患者のケアに利用される他のコンピューティングデバイスに組み込まれることも可能である。いくつかの例では、コンピューティングシステム102は、二つ以上のコンピューティングデバイスを含む。
病変マッチングエンジン110は、ターゲット病変のX線画像及び潜在的病変の超音波画像を解析して、潜在的病変がターゲット病変と同じであるか否かを判定するように動作する。図1の例では、人工知能ユニット124を学習させるために、DBTトレーニングデータストア122が利用される。DBTトレーニングデータストア122には、病変が識別された複数の事例が、超音波画像とX線画像とが対応付けて格納されている。例題は、医療従事者によって確認されたマッチングである。人工知能ユニット124は、機械学習アルゴリズムを用いてこれらの事例を解析し、超音波画像とX線画像とのマッチングに使用できる特徴を識別する。これらの特徴は、画像分類器を生成するために使用される。
病変分類器を生成するために、様々な機械学習技法を利用することができる。いくつかの例では、機械学習アルゴリズムは、教師あり機械学習アルゴリズムである。他の例では、機械学習アルゴリズムは、教師なし機械学習アルゴリズムである。いくつかの例では、機械学習アルゴリズムは、人工ニューラルネットワークに基づく。いくつかの例では、ニューラルネットワークは、ディープニューラルネットワーク(DNN)である。いくつかの例では、機械学習アルゴリズムは、畳み込みディープニューラルネットワーク(CNN)である。いくつかの例では、分類器を生成するために、二つ以上のネットワークの組み合わせが利用される。いくつかの例では、二つ以上のアルゴリズムが、例示的な事例データから特徴を生成するために利用される。
得られた訓練された機械学習分類器は、X線画像及び超音波画像のセットを比較するために画像アナライザ126によって利用される。乳房内部の形状、色、余白、方向、テクスチャ、パターン、密度、硬さ、サイズ、及び深さを含む様々な指標が、病変を比較するために利用される。いくつかの例では、指標は数値である。信頼度評価器128は、画像アナライザ126と連動して動作し、超音波イメージングで識別された潜在的病変がX線イメージングで識別された病変と同じであるという信頼度のレベルを判定する。いくつかの例では、信頼度評価器128によって信頼度スコアが生成される。いくつかの例では、信頼度レベルは、“高”、“中”、又は“低”などの、信頼度のカテゴリを示し得る。代替の例では、信頼度レベルは、“99%”、“75%”、又は“44%”などのパーセンテージとして提供される。最後に、グラフィカルユーザインターフェース(GUI)130は、コンピューティングデバイスのディスプレイ上に情報を提示するように動作する。いくつかの例では、GUI130は、解析されている組織の一つ又は複数の画像上に信頼度レベルのインジケータを表示する。
いくつかの例では、病変マッチングエンジン110は、二つの異なるタイプの画像上で領域マッチングを実行するように動作する。いくつかの例では、領域マッチングは、乳房組織の形態因子及び他の特徴を使用して、二つの異なるイメージングモダリティ間で乳房の領域をマッチングするために、人工知能アルゴリズムを使用して実行される。幾つかの例では、解析は、共整合技術を使用して、病変が乳房上に位置すると予想される位置に対する確率的な値を提供する。幾つかの例では、人工知能モデルは、非剛体変形可能モデルと共に動作して、ターゲット病変と潜在的病変とが同じである尤度を判定する。
データストア112は、X線イメージングシステム104、超音波イメージングシステム106、及び病変マッチングエンジン110から受信した情報を格納するように動作する。いくつかの例では、データストア112は、実際には二つ以上の別個のデータストアである。例えば、一つのデータストアは、X線撮像システムからの画像を格納するリモートデータストアであり得る。別のデータストアは、コンピューティングシステム102内部にローカルに収容され得る。いくつかの例では、データストア112は、電子医療記録(EMR)システムの一部であり得る。
X線イメージングシステム104は、X線放射を使用して乳房組織の画像を撮影するように動作する。X線イメージングシステム104は、X線イメージングデバイス114と、X線イメージングデバイス114と通信しているX線コンピューティングデバイス116とを含む。いくつかの例では、X線イメージングシステム104は、デジタル乳房トモシンセシス(DBT)を実行する。X線イメージングデバイス114は、図3-5に関連して更に詳細に説明される。X線コンピューティングデバイス116は、医療従事者Hから入力を受け取ってX線イメージングデバイス114を動作し、X線イメージングデバイス114から受け取った画像を表示するように動作する。
超音波イメージングシステム106は、超音波を使用して乳房組織の画像を撮影するように動作する。超音波イメージングシステム106は、図6-7に関連して更に詳細に説明される。超音波イメージングシステム106は、超音波コンピューティングデバイス118と超音波イメージングデバイス120を含む。超音波コンピューティングデバイス118は、医療従事者Hから入力を受け取って超音波イメージングデバイス120を動作させ、超音波イメージングデバイス120から受け取った画像を表示するように動作する。
図1は、X線イメージングシステム104から得られた情報が、超音波イメージングシステム106によってどのように利用され得るかを示す図である。医療従事者Hは、X線コンピューティングデバイス116を動作して、X線イメージングデバイス114を使用して患者Pの乳房のX線画像を撮影する。X線画像は、定期的な健康診断の一部として撮影されることがある。スクリーニングの間、医療従事者Hは、患者Pの乳房において、それらの関心領域内部の病変が潜在的に癌であり生検を必要とするかどうかを判定するために追加の解析を必要とする一つ又は複数の関心領域を識別する。
いくつかの例では、関心領域の座標は、X線コンピューティングデバイス116で記録され、コンピューティングシステム102に伝達され得る。X線コンピューティングデバイス116によって記録された座標は、その全体が参照により組み込まれる、アトーニードケット04576.0112USP1である同時係属米国特許出願に記載されているように、組織変形モデルとして用いて解析される。
いくつかの例では、第1の座標のセットは、乳房が圧迫されている間に識別された病変の、位置を識別する。第1の座標のセットは、乳房が圧迫されていない間に識別される病変の、予測される位置を識別する第2の座標のセットに変換される。第2の座標に対応する、超音波画像中の関心領域が、識別される。これにより、医療従事者は、超音波画像内の潜在的病変を識別することができる。
解析の出力は、イメージング手順が行われた場所とは異なる場所である可能性がある後の画像検査で使用するために超音波コンピューティングデバイス118に伝達することができる予測座標のセットである。超音波コンピューティングデバイス118を動作する医療従事者Hは、予測座標を使用して、超音波イメージングデバイス120を使用して患者Pの乳房上の関心領域にナビゲートする。
いくつかの実施例では、X線画像は、超音波イメージングデバイス120から受信される超音波画像と共に超音波コンピューティングデバイス118のユーザインターフェースに表示される。関心領域の予測座標や患者の乳房の画像上のバイオマーカの兆候など、追加の情報を超音波コンピューティングデバイス118に表示することができる。幾つかの実施例では、画像上にターゲット病変の位置を示す視覚的マーカが表示される。幾つかの例では、ターゲット病変がどこに位置する可能性が最も高いかを示す確率マッピングが画像上に表示され得る。
超音波コンピューティングデバイス118を動作する医療従事者Hは、同じ患者Pに対するX線画像において以前に識別された病変と潜在的に一致する超音波画像中の潜在的病変を探し出す。超音波画像及び潜在的病変の兆候は、解析のためにコンピューティングシステム102に伝達される。いくつかの例では、マンモグラフィ画像、対象関心領域、及びBモード画像は、同じGUI上に表示される。GUI130は、超音波システムのオペレータを関心領域へ視覚的に案内するのに役立つ一方、超音波プローブの位置、向き、及び注釈の文書化を自動化することも可能である。
いくつかの例では、識別された病変を含むX線画像及び潜在的病変を含む超音波画像は、コンピューティングシステム102の病変マッチングエンジン110によって解析される。病変マッチングエンジン110は、潜在的病変に対する信頼度レベルのインジケータを出力し、その信頼度レベルのインジケータを超音波コンピューティングデバイス118に伝達する。信頼度レベルのインジケータは、超音波コンピューティングデバイス118上のGUIに表示される数値、色、又はカテゴリであり得る。例示的なGUIは、図10に記載されている。
いくつかの実施例では、図11-12に記載されているように、病変マッチングエンジン110は、確率マッピングを生成するように動作する。いくつかの実施例では、光学カメラは、超音波によって検査されている乳房の画像を捕捉する。乳房の以前に得られたX線画像は、共整合技術及び人工知能領域マッチングを使用してアクセスされ、解析される。解析から生成された確率マッピングは、医療従事者Hがターゲット病変を見つけるのを助けるために、乳房に視覚的に投影される。確率マッピングを含む例示的なGUI130は、図11に示されている。
図2は、イメージングデータを含むヘルスケアデータを管理するための例示的なシステム150の概略図である。システム150は、通信ネットワーク152を介して互いに通信している複数のコンピューティングコンポーネントを含む。コンピューティングコンポーネントは、図1で説明したコンピューティングシステム102、X線イメージングシステム104、及び超音波イメージングシステム106に加えて、トラッキングシステム154、ナビゲーションシステム156、電子医療記録(EMR)システム158、及びディスプレイシステム160を含むことができる。
「システム」は機能ブロックとして図1に示されているが、異なるシステムが共通のデバイスに統合されてもよく、通信リンクはすべてのシステムより少ないものの間に結合されてもよいことに留意すべきである。例えば、トラッキングシステム154、ナビゲーションシステム156及びディスプレイシステム160は、放射線学スイートにおける画像の取得を制御しうる取得ワークステーション又は技師ワークステーションに含まれてもよい。あるいは、ナビゲーションシステム156及びトラッキングシステム154は、超音波イメージングシステム106に統合されてもよいし、ディスプレイ160、X線イメージングシステム104及び超音波イメージングシステム106への個別の通信リンクを有するスタンドアロンモジュールとして提供されてもよい。同様に、当業者は、通信ネットワーク152が、ローカルエリアネットワーク、ワイドエリアネットワーク、無線ネットワーク、インターネット、イントラネット、又は他の同様の通信ネットワークであり得ることを追加的に理解するであろう。
一実施例では、X線イメージングシステム104は、X線管が乳房上の経路を横切って走査する際に患者の乳房の投影画像のセットを捕捉するトモシンセシス捕捉システムである。一組の投影画像は、その後、任意の平面に沿ったスライス又はスラブとして見ることができる3次元ボリュームに再構築される。3次元ボリュームは、X線イメージングシステム104(X線イメージングデバイス114上又はX線コンピューティングデバイス116上のいずれか)又は通信ネットワーク152を介してX線イメージングシステム104と通信しているデータストア112などのデータストアにローカルに格納されてもよい。いくつかの例では、3次元ボリュームは、電子医療記録(EMR)システム158内部の患者のファイルに格納され得る。例示的なX線撮像システムに関する追加の詳細が、図3-5に関連して説明される。
X線イメージングシステム104は、3次元X線画像ボリュームを通信ネットワーク152を介してナビゲーションシステム156に送信し、そこでかかるX線画像を保存し閲覧することができる。ナビゲーションシステム156は、X線撮像システムによって得られたX線画像を表示する。ナビゲーションシステム156に表示するために再構成されると、X線画像は、任意の平面及び任意のスライス位置又は方向で画像を見るために再フォーマット及び再位置決めすることができる。いくつかの実施例では、ナビゲーションシステム156は、X線画像スライスの代替的な位置又は向きを示す複数のフレーム又はウィンドウを同一画面上に表示する。
熟練者は、X線イメージングシステム104によって得られたX線画像ボリュームは、任意の時点でナビゲーションシステム156に送信することができ、必ずしもX線画像ボリュームを得た直後に送信する必要はなく、代わりにナビゲーションシステム156の要求に応じて送信できることを理解されよう。代替例では、X線画像ボリュームは、フラッシュドライブ、CD-ROM、ディスケット、又は他のそのような搬送可能な媒体デバイスによって、ナビゲーションシステム156に送信される。
超音波イメージングシステム106は、典型的には超音波プローブを使用して、超音波プローブの視野内部にある患者の組織の一部を画像化するために、患者の組織の超音波画像を得る。例えば、超音波イメージングシステム106は、乳房を画像化するために使用されてもよい。超音波イメージングシステム106は、超音波プローブの視野内部の患者の解剖学的構造の超音波画像を取得して表示し、典型的には、患者が画像化されているときにリアルタイムで画像を表示する。いくつかの例では、超音波画像は、さらに、後の時間における再構成又は再生のために、ハードドライブ、CD-ROM、フラッシュドライブ又はディスケットなどの記憶媒体に保存することができる。超音波画像化システムに関する追加の詳細は、図6-7を参照して説明される。
いくつかの実施例では、ナビゲーションシステム156は超音波画像にアクセスすることができ、そのような実施例では、超音波イメージングシステム106はさらに通信ネットワーク152に接続され、超音波イメージングシステム106によって得られた超音波画像のコピーは通信ネットワーク152を介してナビゲーションシステム156に送信されることができる。他の実施例では、ナビゲーションシステム156は、通信ネットワーク152を介して超音波画像に遠隔でアクセスし、コピーすることができる。代替例では、超音波画像のコピーは、通信ネットワーク152を介してナビゲーションシステム156と通信しているデータストア112又はEMRシステム158上に格納され、ナビゲーションシステム156によって遠隔的にアクセスされることができる。
トラッキングシステム154は、通信ネットワーク152を介してナビゲーションシステム156と通信しており、超音波イメージングシステム106が患者の組織をイメージングしている物理的位置を追跡することができる。いくつかの例では、トラッキングシステム154は、直接通信リンク又は無線通信リンクを介してナビゲーションシステム156に直接接続されることができる。トラッキングシステム154は、超音波イメージングシステム106に接続された送信機の位置を追跡し、ナビゲーションシステム156にトラッカー座標空間におけるそれらの座標を表すデータを提供する。いくつかの例では、トラッキングシステム154は、光学カメラ及び光学送信機からなる光学トラッキングシステムであってもよいが、当業者は、空間内の物体の位置を追跡することができる任意のデバイス又はシステムを使用することができることを理解されよう。例えば、当業者は、いくつかの例において、RF受信機及びRF送信機からなる無線周波数(RF)トラッキングシステムを使用することができることを理解するであろう。
超音波イメージングシステム106は、トラッキングシステム154を用いた較正プロセスによって、ナビゲーションシステム156と共に使用するように構成されることができる。超音波イメージングシステム106の超音波プローブに接続される送信機は、その位置をトラッキングシステム154にトラッカー座標空間において送信してもよく、トラッキングシステム154はこの情報をナビゲーションシステム156に提供する。例えば、トラッキングシステム154が超音波プローブの位置及び向きを監視し、この情報をトラッカー座標空間でナビゲーションシステム156に提供できるように、送信機が超音波イメージングシステム106のプローブ上に配置されてもよい。ナビゲーションシステム156は、この追跡された位置を使用して、送信機の追跡された位置に対する、超音波プローブの位置及び向きを判定することができる。いくつかの例では、ナビゲーションシステム156及びトラッキングシステム154は、患者Pの超音波イメージングを行う医療従事者Hにリアルタイムのガイダンスを提供するように動作する。
いくつかの実施例では、構成は構成ツールを用いて行われる。このような例では、構成ツールの位置及び方向は、トラッキングシステム154によって追加的に追跡され得る。構成中、構成ツールは超音波イメージングシステム106の超音波プローブのトランスデューサフェースに接触し、トラッキングシステム154は、トラッカー座標空間における構成ツールの位置及び向きを表す情報をナビゲーションシステム156に送信する。ナビゲーションシステム156は、超音波プローブに接続された送信機の追跡された位置に基づいて、トラッカー座標空間における超音波プローブの視野の位置及び向きを判定するために、使用できる構成マトリックスを判定してもよい。代替例では、様々な超音波プローブの複数のブランド又はモデルの構成データを有するデータベースを使用して、構成中に視野構成をナビゲーションシステム156に予めロードすることができる。
超音波イメージングシステム106がナビゲーションシステム156と共に構成されると、患者の組織が超音波イメージングシステム106で撮像されることができる。超音波撮像中、トラッキングシステム154は、超音波イメージングシステム106の超音波プローブの位置及び向きを監視し、この情報をトラッカー座標空間においてナビゲーションシステム156に提供する。超音波イメージングシステム106は、ナビゲーションシステム156と共に使用するように構成されているので、ナビゲーションシステム156は、超音波イメージングシステム106の超音波プローブの視野の位置及び向きを判定することが可能である。
ナビゲーションシステム156は、超音波画像をX線画像に共整合するように構成することができる。いくつかの例では、ナビゲーションシステム156は、超音波プローブの視野の位置及び向きを、トラッカー座標空間からX線画像内の位置及び向き、例えば、X線システム座標に変換するように構成することができる。これは、超音波プローブの位置及び向きを追跡し、トラッカー座標空間におけるこの位置情報をナビゲーションシステム156に送信し、この位置情報をX線座標系に関連付けることによって、達成することができる。いくつかの実施例では、共整合された画像はGUI130上に表示される。
例えば、ユーザはX線画像内部の解剖学的平面を選択することができ、次にユーザは追跡された超音波プローブの位置及び向きを操作して超音波プローブの視野を選択された解剖学的平面に整列させることができる。アライメントが達成されると、超音波画像の関連する追跡空間座標を捕捉することができる。X線画像とトラッカー座標空間との間の解剖学的軸(上-下(SI)、左-右(LR)及び前-後(AP))の登録は、当業者に周知の技術を使用して、追跡超音波視野方向と選択された解剖学的平面との相対回転差から判定され得る。
この構成は、例えば、ユーザが解剖学的ターゲットを選択することを可能にするインターフェースを用いて、X線画像内部のランドマークを選択することを更に含むことができる。いくつかの例では、ランドマークは、静脈又は動脈などの内部組織ランドマークとすることができ、他の例では、ランドマークは、乳首などのフィデューシャル皮膚マーカ又は外部ランドマークとすることができる。X線画像で選択された同じランドマークを超音波プローブで位置決めすることができ、位置決めの際に、トラッカー座標空間におけるターゲットの表現の座標を取り込むための機構が提供され得る。X線画像におけるターゲットの座標とトラッカー座標空間におけるターゲットの座標の相対的な差は、二つの座標空間の位置合わせに必要な並進パラメータを判定するために使用される。以前に取得した平面方位情報を並進パラメータと組み合わせて、二つの座標空間を共整合することができる完全な4×4変換行列を提供することができる。
次に、ナビゲーションシステム156は、表示されている組織のスライスが超音波イメージングシステム106の超音波プローブの視野と同じ平面及び同じ向きになるように、変換行列を使用して表示されているX線画像を再フォーマットすることができる。一致した超音波画像及びX線画像は、次に、単一の画像表示フレームにおいて並んで表示されてもよく、又は直接重ねられて表示されてもよい。いくつかの例では、ナビゲーションシステム156は、表示画面上の別個のフレーム又は位置で追加のX線画像を表示することができる。例えば、X線画像は、超音波イメージングシステム106の視野のグラフィカル表現と共に表示することができ、視野のグラフィカル表現は、X線画像の3D表現を通してスライスして表示される。他の実施例では、注釈を追加的に表示することができ、これらの注釈は、例えば、生検針、誘導ワイヤ、イメージングプローブ又は他の同様のデバイスなど、超音波イメージングシステム106によってイメージングされた器具の位置を表すものである。
他の実施例では、超音波イメージングシステム106によって表示されている超音波画像は、ユーザがX線画像と超音波画像の両方を同じディスプレイ上に重ねて同時に見ることができるように、ナビゲーションシステム156によって表示されているX線画像のスライス上に重ね合わせることができる。いくつかの例では、ナビゲーションシステム156は、スーパーインポーズされた超音波又はX線画像の特定の態様を強化して、得られる結合された画像の品質を向上させることができる。
図1で説明したように、病変マッチングエンジン110を動作させるコンピューティングシステム102は、X線画像及び超音波画像のセットを解析して、超音波画像で識別された病変がX線画像で識別されたのと同じ病変であるという信頼度レベルを判定する。信頼度レベルのインジケータは、超音波イメージングシステム106を動作するユーザが、X線画像において以前に識別された病変が対応する超音波画像において発見されたかどうかを判定するのを助けるために、コンピューティングデバイス上に表示されることが可能である。
電子医療記録システム158は、複数の電子医療記録(EMR)を格納する。各EMRは、患者の医療及び治療履歴を含む。電子医療記録システム158の例としては、Epic Systems Corporation、Cerner Corporation、Allscripts、Medical Information Technology, Inc.(Meditech)によって開発及び管理されるものが挙げられる。
図3は、例示的なX線イメージングシステム104の概略図である。図4は、X線イメージングシステム104の透視図である。図3及び図4を同時に参照すると、X線イメージングシステム104は、静的乳房支持プラットフォーム206及び可動圧縮パドル208を含む乳房圧縮イモビライザユニット204を介してX線撮像(マンモグラフィ及びトモシンセシスのいずれか又は両方)用に患者の乳房202を固定化する。乳房支持プラットフォーム206及び圧縮パドル208はそれぞれ、乳房202を圧縮して固定化するために互いに向かって移動する圧縮面210及び212を有している。既知のシステムでは、圧縮面210、212は、乳房202に直接接触するように露出している。プラットフォーム206はまた、画像レセプタ216と、任意に傾斜機構218と、任意に散乱防止グリッドを収容する。イモビライザユニット204は、X線源222から発せられるイメージングビーム220の経路内にあり、ビーム220が画像レセプタ216に衝突するようになっている。
イモビライザユニット204は、第1の支持アーム224に支持され、X線源222は第2の支持アーム226に支持される。マンモグラフィの場合、支持アーム224及び226は、システム104が各方向でマンモグラム投影画像を撮影できるように、CC及びMLOなどの異なる撮影方向間で軸228を中心にユニットとして回転することが可能である。動作において、画像が撮影される間、画像レセプタ216はプラットフォーム206に対して所定位置に留まる。イモビライザユニット204は、アーム224、226の異なる撮像方向への移動のために乳房202を解放する。トモシンセシスの場合、支持アーム224は乳房202を固定化して定位置に留まり、少なくとも第2の支持アーム226はX線源222を軸228を中心としてイモビライザユニット204及び圧縮された乳房202に対して相対的に回転させる。システム104は、乳房202に対するビーム220のそれぞれの角度で、乳房202の複数のトモシンセシス投影画像を撮影する。
同時かつ任意に、画像レセプタ216は、乳房支持プラットフォーム206に対して、第2の支持アーム226の回転と同期して傾斜させることができる。傾斜は、X線源222の回転と同じ角度を通ることができるが、ビーム220が複数の画像の各々について画像レセプタ216上の同じ位置に実質的に留まるように選択される異なる角度を通ることもできる。傾斜は、軸230を中心とすることができ、この軸は、画像レセプタ216の画像平面内にあることができるが、そうである必要はない。画像レセプタ216に結合される傾斜機構218は、画像レセプタ216を傾斜動作で駆動することができる。
トモシンセシス撮像及び/又はCT撮像の場合、乳房支持プラットフォーム206は水平にすることができ、又は水平に対して斜めにすることができ、例えばマンモグラフィにおける従来のMLO撮像の場合と同様の向きですることができる。X線イメージングシステム104は、単独でマンモグラフィシステム、CTシステム、又は単独でトモシンセシスシステム、又は複数の形態の撮像を実行できる「コンボ」システムであり得る。このようなコンボシステムの一例は、本発明の譲受人によってSelenia Dimensionsという商品名で提供されてきた。いくつかの例では、初期イメージングが磁気共鳴イメージング(MRI)で行われる。
システムが作動すると、画像レセプタ216は、イメージングビーム220による照明に応答して画像情報を生成し、それを画像プロセッサ232に供給して乳房X線画像を処理し生成させる。ソフトウェアを含むシステム制御及びワークステーションユニット238は、システムの動作を制御し、オペレータと相互作用してコマンドを受け取り、処理されたX線画像を含む情報を提供する。
図5は、左縦斜めMLO(LMLO)撮像方向に対する乳房位置決め状態における例示的なX線イメージングシステム104を示す図である。システム104のチューブヘッド258は、システム104のガントリ256に対して概ね平行になるように、又はそうでなければ乳房が置かれる支持アーム260の平坦部分に対して法線上にないように、向きが設定される。この位置では、技師は、チューブヘッド258の下に潜ったりしゃがんだりすることなく、乳房をより容易に位置決めすることができる。
X線イメージングシステム104は、X線イメージングシステム104を床上に支持するための床マウント又はベース254を含む。ガントリ256は、フロアマウント252から上方に延び、チューブヘッド258及び支持アーム260の両方を回転可能に支持する。チューブヘッド258及び支持アーム260は、互いに離散的に回転するように構成され、また、異なる高さの患者に対応するようにガントリのフェース262に沿って昇降させることができる。本明細書の他の箇所で説明され、ここでは示されていないX線源が、チューブヘッド258内部に配置される。支持アーム260は、その中にX線受容器及び他の構成要素(図示せず)を含む支持プラットフォーム264を含む。圧縮アーム266は、支持アーム260から延び、撮像処置中に患者の乳房を圧縮するための圧縮パドル268を(支持アーム260に対して)直線的に昇降するように構成される。チューブヘッド258及び支持アーム260を合わせてCアームと呼ぶことがある。
X線イメージングシステム104には、多数のインターフェース及び表示画面が配置されている。これらには、フットディスプレイスクリーン270、ガントリインターフェース272、支持アームインターフェース274、及び圧迫アームインターフェース276が含まれる。一般に、様々なインターフェース272、274、及び276は、X線イメージングシステム104とのユーザ対話及び制御を可能にするように、一つ以上の触覚ボタン、ノブ、スイッチ、並びにグラフィックユーザインターフェース(GUI)を有する容量性タッチスクリーンを含む一つ以上のディスプレイ・スクリーンを含んでもよい。例では、インターフェース272、274、276は、図1のX線コンピューティングデバイス116などのシステムコントロール及びワークステーションでも利用可能な制御機能性を含んでもよい。任意の個々のインターフェース272、274、276は、所定の設定、ユーザの好み、または動作要件に少なくとも部分的に基づいて、継続的または選択的に、他のインターフェース272、274、276で利用可能な機能性を含んでもよい。一般的に、および以下に説明するように、フットディスプレイスクリーン270は主に表示画面であるが、必要または所望の場合には静電容量式タッチスクリーンが利用されるかもしれない。
実施例では、ガントリインターフェース272は、撮像方向の選択、患者情報の表示、支持アーム昇降又は支持アーム角度(傾斜又は回転)の調整、安全機能等の機能性を可能にし得る。例では、支持アームインターフェース274は、支持アーム昇降又は支持アーム角度(傾斜又は回転)の調整、圧迫アーム昇降の調整、安全機能等の機能性を可能にすることができる。例では、圧迫アームインターフェース276は、圧迫アーム昇降の調節、安全機能などの機能性を可能にすることができる。更に、圧迫アームインターフェース276に関連する一つ以上のディスプレイは、加えられた圧迫アーム力、選択された撮像方向、患者情報、支持アーム昇降又は角度設定等の、より詳細な情報を表示してもよい。フットディスプレイスクリーン270は、特定の用途に必要又は望まれるように、圧迫アームインターフェース276のディスプレイによって表示されるような情報、又は追加的又は異なる情報を表示することもできる。
図6は、超音波イメージングシステム106の一例を示す図である。超音波イメージングシステム106は、超音波トランスデューサ304を含む超音波プローブ302を含む。超音波トランスデューサ304は、超音波306のアレイを放射するように構成される。超音波トランスデューサ304は、電気信号を超音波306に変換する。超音波トランスデューサ304は、乳房内部の病変などの患者の内部部分から反射された超音波音波などの超音波音波を検出するように構成されることもある。いくつかの例では、超音波トランスデューサ304は、容量性トランスデューサ及び/又は圧電トランスデューサ、並びに他の適切な変換技術を組み込んでもよい。
超音波トランスデューサ304はまた、ディスプレイ310に作動的に(例えば、有線又は無線で)接続される。ディスプレイ310は、超音波画像を生成及び解析するように構成されたプロセッサ及びメモリを含む図2の超音波コンピューティングデバイス118のようなコンピューティングシステムの一部であってよい。ディスプレイ310は、患者の超音波撮像に基づく超音波画像を表示するように構成される。
超音波イメージングシステム106で実行される超音波イメージングは主にBモードイメージングであり、これは患者の内部の一部の断面の2次元超音波画像をもたらす。結果として得られる画像のピクセルの輝度は、一般に、反射された超音波の振幅又は強度に対応する。
他の超音波イメージングモードも利用され得る。例えば、超音波プローブは、乳房の3Dモデルを構築するために乳房に対する複数の角度から超音波画像データを取得する3D超音波モードで動作してよい。
いくつかの例では、超音波画像は、取得プロセス中に表示されないことがある。むしろ、Bモード画像が表示されることなく、超音波データが取得され、乳房の3Dモデルが生成される。
超音波プローブ302はまた、プローブローカライゼーショントランシーバ308を含んでもよい。プローブローカライゼーショントランシーバ308は、超音波プローブ302のローカライゼーション情報を提供する信号を放出するトランシーバである。プローブローカライゼーショントランシーバ308は、情報を送受信するための無線周波数識別(RFID)チップ又はデバイス、並びに加速度計、ジャイロスコープデバイス、又は方向情報を提供することができる他のセンサを含んでもよい。例えば、プローブローカライゼーショントランシーバ308によって発せられた信号は、超音波プローブ302の向き又は位置を判定するために処理されてもよい。超音波プローブ302の向き及び位置は、デカルト座標又は球座標などの3次元成分で判定又は提供されてもよい。また、超音波プローブ302の向き及び位置は、切開器具、マーカ、磁気方向、重力に対する法線など、他の項目との相対的な関係で判定又は提供されてもよい。超音波プローブ302の向き及び位置により、以下でさらに説明するように、患者内部の病変に外科医を誘導するのを支援するために、追加の情報を生成して外科医に提供することができる。トランシーバという用語が本明細書で使用されているが、この用語は、送信機、受信機、及びトランシーバの両方を、それらの任意の組み合わせと共にカバーすることが意図されている。
図7は、患者の乳房312で使用されている超音波イメージングシステム106の一例を描いている。超音波プローブ302は、乳房312の一部と接触している。図7に描かれた位置では、超音波プローブ302は、乳房312の病変314を画像化するために使用されている。病変314を画像化するために、超音波トランスデューサ304は、乳房312の内部に超音波306のアレイを放射する。超音波306の一部は、病変が視野内にある場合、病変314などの乳房の内部構成要素から反射され、反射した超音波316として超音波プローブ302に戻る。反射した超音波316は、超音波トランスデューサ304によって検出されてもよい。例えば、超音波トランスデューサ304は、反射した超音波316を受信し、反射した超音波316を電気信号に変換し、処理及び解析してディスプレイ310上に超音波画像データを生成することができる。
撮像面における病変314等の深さは、超音波プローブ302から超音波306のパルスが発せられ、反射した超音波316が超音波プローブ302によって検出されるまでの時間から判定することができる。例えば、音速は周知であり、軟部組織に基づく音速の影響も判定可能である。従って、超音波306の飛行時間(より具体的には、飛行時間の半分)に基づいて、超音波画像内部のオブジェクトの深さを判定することができる。組織を通る波の屈折及び変速を補償するような、物体深度を判定するための他の補正又は方法もまた、実施されてもよい。当業者であれば、医用超音波イメージング技術における深さ測定の更なる詳細を理解することができる。このような深さ測定及び判定は、乳房312の3Dモデルを構築するために使用されてもよい。
さらに、超音波技術の複数の周波数又はモードが利用されてもよい。例えば、撮像周波数及び捕捉周波数と同様に、局在化周波数のリアルタイム及び同時送受信多重化が実施されてもよい。これらの能力の利用は、ディスプレイ310上での病変及び他の医用画像の視覚化を可能にするために、超音波技術からの複数のデータセットを共整合又は融合するための情報を提供する。撮像周波数及びキャプチャシーケンスは、他の撮像モード及び技術の中でも、Bモード撮像(複合化あり又はなし)、ドップラーモード(例えば、カラー、二重)、高調波モード、せん断波及び他のエラストグラフィモード、並びに造影超音波を含んでもよい。
図8は、コンピューティングデバイス400の物理的構成要素の一例を示すブロック図である。コンピューティングデバイス400は、コンピューティングシステム102、X線コンピューティングデバイス116、及び超音波コンピューティングデバイス118などの、病変識別システム100又は画像データを管理するためのシステム150と組み合わせて利用される任意のコンピューティングデバイスであり得る。
図8に示す例では、コンピューティングデバイス400は、少なくとも一つの中央処理装置(「CPU」)402と、システムメモリ408と、システムメモリ408をCPU402に結合させるシステムバス422と、を含んでいる。システムメモリ408は、ランダムアクセスメモリ(「RAM」)410と、リードオンリーメモリ(「ROM」)412とを含む。起動時など、コンピューティングデバイス400内部の要素間で情報を転送するのに役立つ基本ルーチンを含む基本入出力システムは、ROM412に格納される。コンピューティングシステム400は、さらに、大容量記憶装置414を含む。大容量記憶装置414は、ソフトウェア命令およびデータを格納することができる。
大容量記憶装置414は、システムバス422に接続された大容量記憶コントローラ(図示せず)を介して、CPU402に接続される。大容量記憶装置414およびその関連するコンピュータ可読記憶媒体は、コンピューティングデバイス400のための不揮発性、非一時的データストレージを提供する。本明細書に含まれるコンピュータ可読記憶媒体の説明は、ハードディスクまたはソリッドステートディスクなどの大容量記憶装置に言及しているが、コンピュータ可読データ記憶媒体は、CPU402がデータおよび/または命令を読み取ることができる任意の利用可能な有形、物理デバイスまたは製造物品を含むことができることを当業者は理解するはずである。特定の例では、コンピュータ可読記憶媒体は、完全な非一時的媒体を含む。
コンピュータ可読記憶媒体は、コンピュータ可読ソフトウェア命令、データ構造、プログラムモジュールまたは他のデータなどの情報を記憶するための任意の方法または技術で実装された揮発性および不揮発性、取り外し可能および非取り出し可能な媒体を含む。コンピュータ可読データ記憶媒体の例示的なタイプには、RAM、ROM、EPROM、EEPROM、フラッシュメモリまたは他の固体メモリ技術、CD-ROM、デジタル多用途ディスク(「DVD」)、他の光学記憶媒体、磁気カセット、磁気テープ、磁気ディスクストレージまたは他の磁気記憶装置、または所望の情報を格納するために使用でき、コンピューティングデバイス400によってアクセスできる他の任意の媒体があるが、これだけに限られるわけではない。
いくつかの例によれば、コンピューティングデバイス400は、無線ネットワーク、インターネット、または他のタイプのネットワークなどのネットワーク152を介してリモートネットワークデバイスへの論理接続を使用して、ネットワーク化された環境で動作することができる。コンピューティングデバイス400は、システムバス422に接続されたネットワークインターフェースユニット404を介してネットワーク152に接続することができる。ネットワークインターフェースユニット404は、他のタイプのネットワークおよびリモートコンピューティングシステムに接続するために利用されることもできることを理解されたい。コンピューティングデバイス400はまた、タッチユーザインターフェースディスプレイ画面、または別のタイプの入力デバイスを含む多数の他のデバイスから入力を受信し処理するための入力/出力コントローラ406を含む。同様に、入力/出力コントローラ406は、タッチユーザインターフェースディスプレイ画面、または他のタイプの出力デバイスに出力を提供してもよい。
上で簡単に述べたように、コンピューティングデバイス400の大容量記憶装置414およびRAM410は、ソフトウェア命令およびデータを格納することができる。ソフトウェア命令は、コンピューティングデバイス400の動作を制御するのに適したオペレーティングシステム418を含む。大容量記憶装置414および/またはRAM410はまた、CPU402によって実行されると、コンピューティングデバイス400に本書で論じる機能を提供させる、ソフトウェア命令を格納する。
ここで図9を参照すると、乳房内部の関心領域を位置決めする例示的な方法500が説明されている。いくつかの例では、図1-8に記載されたシステム及びデバイスは、方法500を実施するように用いることができる。特に、図1-2のコンピューティングシステム102は、イメージング手順の間にて乳房内部の関心領域の位置を特定する際に医療従事者を支援するために、方法500のステップを実施するように動作する。
動作502で、X線イメージングモダリティによって得られる第1の画像が受信される。いくつかの例では、図1-2のX線イメージングシステム104のX線イメージングデバイス114は、X線コンピューティングデバイス116で医療従事者Hによって提供された入力の結果としてX線画像を記録するように動作する。幾つかの実施例では、X線画像は、デジタル乳房トモシンセシスを用いて取得される。いくつかの例では、X線画像は、遠隔データストアから取得され得る。このような例では、X線画像は、異なる時間及び場所で記録され、その後、EMR又は他のデータストアに格納され得る。いくつかの例では、第1の画像は、コンピューティングシステム102で受信される。
動作504において、X線画像上のターゲット病変の兆候が受け取られる。いくつかの例では、兆候は、X線コンピューティングデバイス116において医療従事者Hから受信される。コンピューティングデバイス116は、マウス、タッチスクリーン、又はスタイラスなどのX線コンピューティングデバイス116と通信している入力デバイスで提供される入力によって、医療従事者HがX線画像と容易に相互作用してターゲット病変を強調できるようなユーザインターフェースを表示するように動作してもよい。いくつかの例では、ターゲット病変は、視覚マーカで示され得る。ターゲット病変は、追加の解析を必要とするものとして医療従事者Hによって識別される。いくつかの例では、ターゲット病変は、X線画像が撮影された後、臨床医によって後に識別される。いくつかの例では、ターゲット病変は、人工知能システムを使用してX線画像が記録されているときにリアルタイムで識別され得る。
動作506において、ターゲット病変の位置座標が記録される。ターゲット病変の座標は、X線イメージングシステム104を使用したX線撮像プロセス中に記録される。幾つかの実施例では、座標はデカルト座標又は極座標であり得る。幾つかの例では、関心領域は、トモシンセシス画像スタック内部の特定のスライス(z座標)内部で識別され、その位置は、その画像スライス内部のx及びy座標によって更に識別され得る。
動作508で、乳房組織の第2の画像が超音波画像化によって得られる。超音波画像は、ターゲット病変の位置座標に対応する乳房組織の区域を含む。いくつかの実施例では、図1-2の超音波イメージングシステム106の超音波イメージングデバイス120は、超音波コンピューティングデバイス118で医療従事者Hによって提供される入力の結果として超音波画像を記録するように動作する。いくつかの例では、超音波画像は、遠隔データストアから取得され得る。そのような例では、超音波画像は、異なる時間及び場所で記録され、その後、EMR又は他のデータストアに格納され得る。いくつかの例では、第2の画像は、第1の画像と一緒に処理するためにコンピューティングシステム102で受信される。
動作510において、ターゲット病変の位置座標に対応する乳房組織の領域内部で潜在的病変が識別される。いくつかの例では、領域は、X線イメージングの間にターゲット病変に対して保存された座標から超音波用に変換された座標に基づいて識別される。いくつかの例では、位置座標は、乳首に対する時計位置、乳房の表面からの深さ、及び乳首からの距離のうちの少なくとも二つを含む。いくつかの例では、潜在的病変は、超音波コンピューティングデバイス118で医療従事者Hによって強調表示され得る。コンピューティングデバイス118は、マウス、タッチスクリーン、又はスタイラスなどの超音波コンピューティングデバイス118と通信している入力デバイスで提供される入力によって、医療従事者Hが超音波画像と容易に相互作用して潜在的病変を強調できるユーザインターフェースを表示するように動作してもよい。いくつかの実施形態では、GUI130は、DBT画像と超音波画像とを並べて表示する。このGUI130の一例が図10に示されている。医療従事者Hは、X線画像で識別されたターゲット病変と同じである可能性があるとして、潜在的病変を識別する。いくつかの例では、リアルタイムの人工知能システムが、記録されるDBT画像を解析して、潜在的病変を識別することができる。そのようなシステムの一例は、「Real-time AI for Physical Biopsy Marker Detection」と題する同時係属出願(事項番号04576.0110USP1に関するインサート情報)に記載されており、その全体が参照によりここに組み込まれるものとする。
動作512において、潜在的病変は、人工知能を用いて解析され、第2の画像における潜在的病変が第1の画像におけるターゲット病変に対応するという信頼度のレベルを判定する。いくつかの例では、病変マッチングエンジン110は、潜在的病変及びターゲット病変を解析して、二つの病変が一致するかどうかを判定するように動作する。上述したように、機械学習病変分類器は、病変の超音波画像及びX線画像を一致させるために、サイズ、形状、及びテクスチャなどの病変の様々な態様を解析する。いくつかの例では、硬さ及び密度もまた、一致を判定するために比較され得る。
動作514において、信頼度のレベルのインジケータが出力される。いくつかの例では、信頼度レベルのインジケータは、GUI130上に生成される。いくつかの実施例では、GUI130は、信頼度レベルのインジケータと共に超音波画像及びX線画像を含む。いくつかの例では、インジケータは、テキスト、グラフィックス、色、又はシンボルとして表示され得る。GUI130の例に関するより詳細な情報は、図10に提供される。
図10は、図1のGUI130の一実施例を示す。いくつかの例では、GUI130は、図1の超音波コンピューティングデバイス118のようなコンピューティングデバイス上に表示される。図10の例では、GUI130は、乳房202のX線画像602及び超音波画像604を並べて表示する。X線撮像の間に予め識別されたターゲット病変606は、X線画像602において視覚的マーカで示される。乳房202の対応する超音波画像604は、潜在的病変608の兆候を示している。ターゲット病変606と潜在的病変608とが一致する可能性をパーセンテージで提供する信頼度レベルのインジケータ610が表示される。この例では、99.9%の一致がある。
いくつかの例では、潜在的病変608の周りの色付きの円など、信頼度レベルの他のインジケータが提供され得る。異なる色は、異なる信頼度のレベルを表し得る。例えば、信頼度の高いレベルは、緑色の円で示され得る。信頼度の中レベルは、黄色の円で示され得る。信頼度の低いレベルは、赤色の円で示され得る。いくつかの例では、超音波画像604上の視覚的インジケータと、テキストの信頼度レベルのインジケータ610との、両方が使用され得る。
また、GUI130は、超音波画像604が撮影されている乳房202上の位置を示す図612と、ターゲット病変606の位置を示す矢印を含む。さらに、座標614が表示される。この例では、座標614は、右乳房の11時の位置、乳首から2cmの位置にある潜在的病変の位置を示している。図612は、潜在的病変608の対応する視覚的表現を示している。
図11は、病変識別システム700の別の実施形態を示している。病変相関器701は、図1の病変マッチングエンジン110と同様の機能で、コンピューティングデバイス102上で動作する。しかしながら、この例では、病変は確率マッピングを用いて相関付けされる。リアルタイムの超音波画像誘導は、少なくとも二つの光学カメラ702及びプロジェクタ402を使用することによって提供される。光学カメラ702は、患者の胴体の複数の画像を撮影するように動作する。複数の定位光学画像は、コンピューティングデバイス102で以前に取得されたX線画像と組み合わせて解析される。
この例では、AI画像解析器724は、二つの異なるイメージングモダリティ間で乳房の領域を一致させるように構成される。いくつかの例では、深層学習モデルが、一つのタイプの画像において識別されたターゲット病変が、別のタイプの画像上の任意の所与の位置に位置する確率を生成するために利用される。例えば、トモシンセシスビュー710に示されるターゲット病変712は、超音波画像708上のその位置の確率を判定するために解析される。
いくつかの例では、確率マッパ728が、異なるタイプの画像において潜在的病変714がどこに位置する可能性が最も高いかを示す、乳房の確率マッピングを生成する。いくつかの例では、これは、光学カメラ702によって得られた光学画像であり得る。潜在的病変714は、超音波画像上に色勾配で示され、中心は、ターゲット病変がそこに位置する可能性が最も高いことを表している。いくつかの実施例では、確率マッピングは視覚的マップであり、図11のGUI730に示すように、超音波画像又はトモシンセシス画像上に敷設される。他の実施例では、確率マッピングは、プロジェクタ704を用いた超音波検査中に患者の実際の乳房に投影される視覚的マップである。潜在的病変714は、確率マップの着色された領域によって示される。この視覚的確率マップは、超音波プローブ302を使用して超音波画像を得る際に医療従事者Hをガイドするために使用される。
いくつかの実施例では、トラッキングシステム154及びナビゲーションシステム156は、病変相関器701と連動して動作し、超音波画像化セッション中に医療従事者Hを誘導する。超音波プローブ302の現在の位置は、コンピューティングデバイス102に伝達され、プローブの現在の位置は、リアルタイムでGUI730上に提示される画像上に視覚的に示される。
ここで図12を参照すると、乳房内部の関心領域を位置決めする例示的な方法800が説明される。いくつかの例では、図11のシステムは、この方法800を実行するように動作する。
動作802において、少なくとも一つの乳房の一連のステレオ光学画像が捕捉される。これは、典型的には、患者が撮像台又は他の支持体上に横臥しているときに実行される。画像は、患者の上に配置された二つ以上の光学カメラ702で捕捉される。
動作804において、乳房の少なくとも一つのトモシンセシス画像にアクセスする。いくつかの実施形態では、トモシンセシス画像は、ユーザからの入力を受け取ることに応答して、コンピューティングデバイス102でアクセスされる。幾つかの例では、トモシンセシス画像は、撮像される患者に関連する電子医療記録からアクセスされる。幾つかの実施形態では、トモシンセシス画像は、次に、コンピューティングデバイス102のディスプレイ上に提示される。
動作806において、トモシンセシス画像上のターゲット病変の兆候が受信される。いくつかの例では、兆候は、図1のX線コンピューティングデバイスで医療従事者Hから受信される。ターゲット病変の兆候の一例712は、図11のGUI130に示されている。図9に関して上述したように、ターゲット病変が指示され得る他の方法が存在する。
動作808において、光学画像及びトモシンセシス画像の共整合画像解析が実行される。いくつかの実施形態では、領域マッチングのための人工知能アルゴリズムが、光学画像及びトモシンセシス画像の両方が共整合され得る乳房の仮想デフォーマブルを生成するために使用される。いくつかの例では、人工知能アルゴリズムは、深層学習ベースの領域マッチング方法である。
動作810において、画像解析に基づいて確率マッピングが作成される。確率マッピングは、示された病変が乳房の特定の点に位置する尤度を示す。
図11に示す例では、視覚的確率マップは、乳房の様々な位置におけるより高い又はより低い確率を示すために色インジケータを使用する。例えば、赤は最も高い確率を示し、青は最も低い確率を示すことができる。他の例では、黒が最も高い確率を示し、白が最も低い確率を示すグレースケールが使用される。図11に見られるように、確率マップの結果として得られる視覚は、おそらく最も高い確率の領域を含み、病変がある可能性が最も高い場所を示す。この領域は、外側に広がる確率が低下する領域によって囲まれている。例えば、領域は赤色であり、その周囲の色は、オレンジ→黄色→緑色→青色と延びるかもしれない。他の実施例では、視覚的確率マップは、異なるタイプのハッシュまたはシェーディングとして表示される。いくつかの例では、確率マップは、様々な確率に対して異なる数値を提供する。いくつかの実施例では、単一のターゲットが、最も高い確率のポイントに投影される。
動作812において、確率マップは、患者Pに投影される。いくつかの例では、マップは、一つの乳房にのみ投影される。いくつかの実施例では、マップは患者の両方の乳房上に投影される。これにより、超音波イメージングを行う医療従事者Hに、ターゲット病変が最もありそうな場所への視覚的ガイドを提供する。
いくつかの実施例では、超音波プローブ302がターゲット病変の場所に近づいていることを示すために、追加のフィードバックを医療従事者Hに提供することができる。いくつかの実施例では、超音波プローブ302は、確率マップの患者への投影の経路をブロックし、影を作る。視覚的ガイダンスのこの干渉を補償するために、触覚フィードバック又は音声フィードバックのようなフィードバックが、超音波プローブ302がターゲット病変と位置合わせされたときに医療従事者Hが判定するのを助けるために使用され得る。
いくつかの例では、追加のガイダンスが、リアルタイムのナビゲーション補助の形で医療従事者に提供される。超音波プローブのリアルタイム位置は、撮像中に追跡され、位置に関する情報は、医療従事者のためにディスプレイ上に提供される。いくつかの例では、ディスプレイは、患者の乳房の画像に関連する超音波プローブの現在の位置及び向きの兆候を示す。
本明細書に記載の方法及びシステムは、医療従事者が超音波下でマンモグラフィ病変を迅速かつ正確に位置付けるのに役立つナビゲーション及び病変マッチング技術を提供するものである。このシステムは、医療従事者がマンモグラフィの際に関心領域を識別することを可能にする。その後の超音波検査中に、マンモグラフィ、関心領域、及びBモード画像が同時に表示される。これにより、専門家は関心領域へ誘導されると同時に、プローブの位置、方向、注釈の文書化が自動化される。専門家が関心領域までナビゲートすると、システムは自動的に画像を解析し、病変を照合し、視覚的な信頼度のインジケータを提供する。
本明細書で提供されるシステム及び方法は、医療従事者が超音波を使用して目標病変の1cm以内にナビゲートすることを可能にする。人工知能に基づくシステムは、何千もの確認された症例に基づいて構築されている。病変は、医療従事者が自分自身で達成できるよりも高い精度でマッチングさせることができる。さらに、本来はX線画像を使って識別される病変を、超音波を使ってより速く、より簡単に特定することができる。
様々な実施形態及び例が本明細書に記載されているが、当業者であれば、本開示の範囲内でそれらに多くの変更を加えることができることを理解するであろう。従って、提供された例によって本開示の範囲がいかなる形でも限定されることは意図されていない。
Claims (22)
- 乳房内部の病変の位置を特定する方法であって、
コンピューティングシステムにおいて、第1のイメージングモダリティによって得られる乳房の第1の画像上の乳房内部のターゲット病変の位置の兆候を受信するステップと、
コンピューティングシステムにおいて、第2のイメージングモダリティによって得られる乳房の第2の画像を受信するステップと、
コンピューティングシステム上で動作する病変マッチングエンジンを用いて、ターゲット病変を含む第1の画像と潜在的病変を含む第2の画像とを解析し、人工知能を用いて第1の画像と第2の画像とを相関させるステップと、
潜在的病変がターゲット病変に対応する確率を判定するステップと、
グラフィカルユーザインターフェースに表示するために、確率のインジケータを出力するステップと
を含む、方法。 - 更に、
前記第1の画像に示されるターゲット病変の位置座標を記録するステップと、
前記潜在的病変の位置座標を記録するステップと
を含み、
前記第1の画像と前記第2の画像とを解析するステップが、前記ターゲット病変の位置座標と前記潜在的病変の位置座標とを比較することを含む、
請求項1に記載の方法。 - 前記潜在的病変の位置座標が、乳房の乳首に対する時計位置、乳房の表面からの深さ、及び乳首からの距離を含む、
請求項2に記載の方法。 - 前記ターゲット病変及び前記潜在的病変は、前記コンピューティングシステムのディスプレイ上に提示された前記乳房の画像上の選択を受信することによって示される、
請求項1に記載の方法。 - 前記第1のイメージングモダリティが、デジタル乳房トモシンセシスである、
請求項1に記載の方法。 - 前記第1のイメージングモダリティが、磁気共鳴イメージング(MRI)である、
請求項1に記載の方法。 - 第2のイメージングモダリティが、超音波である、
請求項1に記載の方法。 - 前記第1の画像と前記第2の画像とを解析するステップが、デジタル乳房トモシンセシス症例及び対応する診断用超音波症例のライブラリを用いて訓練された人工知能システムを用いて行われる、
請求項1にきさいの方法。 - 前記第1の画像と前記第2の画像とを解析するステップは、領域マッチングを用いて前記画像の共整合を行うように構成された人工知能システムを用いて行われる、
請求項1に記載の方法。 - 潜在的病変を解析することが、ターゲット病変及び潜在的病変の周囲の、乳房組織の形態因子を比較することを含む、
請求項1記載の方法。 - 前記インジケータは、受信した画像上に、形状、色、数値、及び参照のうちの少なくとも一つを表示することを含む、
請求項1に記載の方法。 - 前記インジケータは、前記乳房の上の各位置が前記ターゲット病変に対応する確率の、視覚的兆候からなる確率マップを含む、
請求項1に記載の方法。 - 病変識別システムであって、
処理デバイスと、
前記処理デバイスによって実行されたときに動作の実行を促進する命令を記憶するメモリと
を含み、
前記動作は、
乳房のX線画像にアクセスすることであって、該X線画像は、視覚マーカで示される、識別された病変を含む、アクセスすることと、
乳房の超音波画像を受信することであって、該超音波画像は潜在的病変の兆候を含む、受信することと、
人工知能病変分類器を用いて、潜在的病変と識別された病変とを解析することと、
超音波画像中の潜在的病変がX線画像中の識別された病変と一致する可能性を示す信頼度スコアを生成することと、
信頼度スコアに関連する出力をグラフィカルユーザインターフェースに表示することと
を含む、システム。 - 更に、
前記動作は、
乳房が圧迫されている間に、識別された病変の位置を識別する座標の第1のセットにアクセスすることと、
乳房が圧迫されていない間に、識別された病変の予測される位置を識別する座標の第2のセットに、第1のセットを変換することと、
座標の第2のセットに対応する超音波画像中の関心領域を識別することと、
超音波画像中の潜在的病変を識別することと
を備える、請求項13に記載のシステム。 - 更に、
前記動作は、
超音波プローブからその位置を示す送信を受信することによって、前記座標の第2のセットにナビゲートすることを
含む、請求項14に記載のシステム。 - 更に、
前記動作は、
識別された病変及び潜在的病変の周囲の、乳房組織の形態因子を解析して信頼度スコアを生成することを
含む、請求項14に記載のシステム。 - 前記潜在的病変は、人工知能病変分類器を用いて解析され、
該人工知能病変分類器は、デジタル乳房トモシンセシス画像及び対応する超音波画像で訓練される、
請求項13に記載のシステム。 - 人工知能病変分類器は、乳房内部の密度、硬さ、形状、マージン、向き、テクスチャ、パターン、サイズ、及び深さの、一つ以上における相関について病変を解析する、
請求項16に記載のシステム。 - 超音波画像は超音波システムから受信され、信頼度スコアは超音波システムと通信するディスプレイに通信され、信頼度スコアの視覚的兆候は超音波画像上の視覚的インジケータとして超音波システムと通信するディスプレイに表示される、
請求項13に記載のシステム。 - プロセッサによって実行されるとき動作の実行を容易にする実行可能な命令を含む、非一時的機械可読記憶媒体であって、
前記動作は、
データストアからターゲット病変のデータを取得することであって、データはX線撮像で取得され、少なくとも、ターゲット病変の画像及び乳房内部のターゲット病変の位置の座標を含む、取得することと、
超音波撮像によって得られる乳房の画像を記録することと、
前記ターゲット病変の座標に基づいて、前記超音波撮像によって得られる前記乳房の記録された画像における概略の関心領域を識別することと、
前記概略の関心領域において潜在的病変を識別することと、
人工知能病変分類器を用いて、潜在的病変を解析し、潜在的病変をターゲット病変と比較して潜在的病変がターゲット病変に対応することの信頼度のレベルを判定することと、
信頼度のレベルのインジケータをグラフィカルユーザインターフェースに出力することと
を含む、非一時的機械可読記憶媒体。 - 更に、
前記動作は、
デジタル乳房トモシンセシスを用いて乳房組織の画像を記録することと、
乳房内部のターゲット病変の画像上の兆候を受信することと、
ターゲット病変の位置の座標を判定することと、
ターゲット病変の兆候と座標をデータストアに保存することと
を含む、請求項20に記載の非一時的機械可読記憶媒体。 - 病変識別システムであって、
少なくとも一つの光学カメラと、
プロジェクタと、
処理デバイスと、
該処理デバイスによって実行されたとき動作の実行を促進する命令を記憶するメモリと
を含み、
前記動作は、
少なくとも一つの前記光学カメラを用いて、患者の乳房の少なくとも一つの光学画像を撮影することと、
前記乳房の少なくとも一つのトモシンセシス画像にアクセスすることと、
少なくとも一つの前記トモシンセシス画像におけるターゲット病変の兆候を受信することと、
領域マッチング及び非剛体変形モデルのための人工知能アルゴリズムで解析することにより、少なくとも一つの前記光学画像と少なくとも一つの前記トモシンセシス画像とを共整合することと、
該共整合することと前記ターゲット病変の兆候とに基づいて確率マップを作成することであって、該確率マップは、前記ターゲット病変が前記乳房の複数の点の各々に位置する可能性を示す、確率マップを作成することと、
プロジェクタにより、前記確率マップを前記乳房に投影することと
を含む、システム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US202063000702P | 2020-03-27 | 2020-03-27 | |
US63/000,702 | 2020-03-27 | ||
PCT/US2021/024138 WO2021195370A1 (en) | 2020-03-27 | 2021-03-25 | Systems and methods for correlating regions of interest in multiple imaging modalities |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2023519878A true JP2023519878A (ja) | 2023-05-15 |
Family
ID=75540022
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022558298A Pending JP2023519878A (ja) | 2020-03-27 | 2021-03-25 | 複数のイメージングモダリティにおける関心領域を相関させるためのシステムおよび方法 |
Country Status (7)
Country | Link |
---|---|
US (1) | US20230103969A1 (ja) |
EP (1) | EP4125601A1 (ja) |
JP (1) | JP2023519878A (ja) |
KR (1) | KR20220159402A (ja) |
CN (1) | CN115334973A (ja) |
AU (1) | AU2021242290A1 (ja) |
WO (1) | WO2021195370A1 (ja) |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6388347B2 (ja) | 2013-03-15 | 2018-09-12 | ホロジック, インコーポレイテッドHologic, Inc. | 腹臥位におけるトモシンセシス誘導生検 |
CN111095263A (zh) | 2017-06-26 | 2020-05-01 | 纽约州立大学研究基金会 | 用于虚拟胰造影术的系统、方法和计算机可访问介质 |
US11883206B2 (en) | 2019-07-29 | 2024-01-30 | Hologic, Inc. | Personalized breast imaging system |
JP7465342B2 (ja) | 2019-09-27 | 2024-04-10 | ホロジック, インコーポレイテッド | 2d/3d乳房画像を精査するための読み取り時間および読み取り複雑性を予測するためのaiシステム |
US11481038B2 (en) | 2020-03-27 | 2022-10-25 | Hologic, Inc. | Gesture recognition in controlling medical hardware or software |
EP4214671A1 (en) * | 2020-09-18 | 2023-07-26 | Hologic, Inc. | Correlating regions of interest |
US11633168B2 (en) * | 2021-04-02 | 2023-04-25 | AIX Scan, Inc. | Fast 3D radiography with multiple pulsed X-ray sources by deflecting tube electron beam using electro-magnetic field |
CN116016829A (zh) * | 2022-12-28 | 2023-04-25 | 杭州海康慧影科技有限公司 | 一种图像显示方法、装置及系统 |
EP4414936A1 (en) * | 2023-02-10 | 2024-08-14 | Koninklijke Philips N.V. | Registering 3d image data |
KR102679734B1 (ko) * | 2023-12-04 | 2024-07-01 | 주식회사 메이사 | 수치 표고 모델을 생성하는 전자 장치 |
CN118039088B (zh) * | 2024-04-15 | 2024-06-07 | 达州爱迦飞诗特科技有限公司 | 一种人工智能辅助诊断数据处理系统 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2005079306A2 (en) * | 2004-02-13 | 2005-09-01 | University Of Chicago | Method, system, and computer software product for feature-based correlation of lesions from multiple images |
US20120014578A1 (en) * | 2010-07-19 | 2012-01-19 | Qview Medical, Inc. | Computer Aided Detection Of Abnormalities In Volumetric Breast Ultrasound Scans And User Interface |
US11361868B2 (en) * | 2017-08-16 | 2022-06-14 | The Johns Hopkins University | Abnormal tissue detection via modal upstream data fusion |
JP7431729B2 (ja) * | 2017-11-08 | 2024-02-15 | コーニンクレッカ フィリップス エヌ ヴェ | 超音波胸部画像と他の撮像モダリティの胸部画像とを相関させる超音波システム及び方法 |
-
2021
- 2021-03-25 US US17/910,162 patent/US20230103969A1/en active Pending
- 2021-03-25 CN CN202180024695.5A patent/CN115334973A/zh active Pending
- 2021-03-25 EP EP21719442.2A patent/EP4125601A1/en active Pending
- 2021-03-25 WO PCT/US2021/024138 patent/WO2021195370A1/en active Application Filing
- 2021-03-25 KR KR1020227036012A patent/KR20220159402A/ko unknown
- 2021-03-25 JP JP2022558298A patent/JP2023519878A/ja active Pending
- 2021-03-25 AU AU2021242290A patent/AU2021242290A1/en active Pending
Also Published As
Publication number | Publication date |
---|---|
KR20220159402A (ko) | 2022-12-02 |
EP4125601A1 (en) | 2023-02-08 |
AU2021242290A1 (en) | 2022-09-01 |
US20230103969A1 (en) | 2023-04-06 |
WO2021195370A1 (en) | 2021-09-30 |
CN115334973A (zh) | 2022-11-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20230103969A1 (en) | Systems and methods for correlating regions of interest in multiple imaging modalities | |
US11730442B2 (en) | System and method for fusing three dimensional image data from a plurality of different imaging systems for use in diagnostic imaging | |
JP6974354B2 (ja) | 同期された表面および内部腫瘍検出 | |
US20230098305A1 (en) | Systems and methods to produce tissue imaging biomarkers | |
CN112804944B (zh) | 乳房映射和异常定位 | |
US20230124481A1 (en) | Systems and methods for identifying regions of interest in multiple imaging modalities | |
US20230351600A1 (en) | Correlating regions of interest |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20240307 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20240319 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20241001 |