JP7442449B2 - マルチモーダル融合標的生検中の自動化されたパス補正 - Google Patents

マルチモーダル融合標的生検中の自動化されたパス補正 Download PDF

Info

Publication number
JP7442449B2
JP7442449B2 JP2020539087A JP2020539087A JP7442449B2 JP 7442449 B2 JP7442449 B2 JP 7442449B2 JP 2020539087 A JP2020539087 A JP 2020539087A JP 2020539087 A JP2020539087 A JP 2020539087A JP 7442449 B2 JP7442449 B2 JP 7442449B2
Authority
JP
Japan
Prior art keywords
biopsy
ultrasound
tissue
processor
path
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020539087A
Other languages
English (en)
Other versions
JP2021510584A (ja
JPWO2019141526A5 (ja
Inventor
マラゴーシュ アミール モハマド ターマセービ
プラング アボルマエスミ
パルヴィン ムサビ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips NV filed Critical Koninklijke Philips NV
Publication of JP2021510584A publication Critical patent/JP2021510584A/ja
Publication of JPWO2019141526A5 publication Critical patent/JPWO2019141526A5/ja
Application granted granted Critical
Publication of JP7442449B2 publication Critical patent/JP7442449B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/08Detecting organic movements or changes, e.g. tumours, cysts, swellings
    • A61B8/0833Detecting organic movements or changes, e.g. tumours, cysts, swellings involving detecting or locating foreign bodies or organic structures
    • A61B8/0841Detecting organic movements or changes, e.g. tumours, cysts, swellings involving detecting or locating foreign bodies or organic structures for locating instruments
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/08Detecting organic movements or changes, e.g. tumours, cysts, swellings
    • A61B8/0833Detecting organic movements or changes, e.g. tumours, cysts, swellings involving detecting or locating foreign bodies or organic structures
    • A61B8/085Detecting organic movements or changes, e.g. tumours, cysts, swellings involving detecting or locating foreign bodies or organic structures for locating body or organic structures, e.g. tumours, calculi, blood vessels, nodules
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B10/00Other methods or instruments for diagnosis, e.g. instruments for taking a cell sample, for biopsy, for vaccination diagnosis; Sex determination; Ovulation-period determination; Throat striking implements
    • A61B10/02Instruments for taking cell samples or for biopsy
    • A61B10/0233Pointed or sharp biopsy instruments
    • A61B10/0241Pointed or sharp biopsy instruments for prostate
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/46Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient
    • A61B8/461Displaying means of special interest
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5215Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data
    • A61B8/5223Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for extracting a diagnostic or physiological parameter from medical diagnostic data
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5215Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data
    • A61B8/5238Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for combining image data of patient, e.g. merging several images from different acquisition modes into one image
    • A61B8/5246Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for combining image data of patient, e.g. merging several images from different acquisition modes into one image combining images from the same or different imaging techniques, e.g. color Doppler and B-mode
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • G06T7/0016Biomedical image inspection using an image reference approach involving temporal comparison
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/30ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for calculating health indices; for individual health risk assessment
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2560/00Constructional details of operational features of apparatus; Accessories for medical measuring apparatus
    • A61B2560/04Constructional details of apparatus
    • A61B2560/0487Special user inputs or interfaces
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/12Diagnosis using ultrasonic, sonic or infrasonic waves in body cavities or body tracts, e.g. by using catheters
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10132Ultrasound image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30081Prostate
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30096Tumor; Lesion

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Biomedical Technology (AREA)
  • Public Health (AREA)
  • Molecular Biology (AREA)
  • Physics & Mathematics (AREA)
  • Pathology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Veterinary Medicine (AREA)
  • Biophysics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Physiology (AREA)
  • Vascular Medicine (AREA)
  • Evolutionary Computation (AREA)
  • Computational Linguistics (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Quality & Reliability (AREA)
  • Databases & Information Systems (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)

Description

[001] 本開示は、ニューラルネットワークを使用して癌組織の個別の領域を識別し、組織をサンプリングするためのカスタマイズされた生検パスを決定するための超音波システム及び方法に関する。具体的な実施態様は、組織の超音波スキャン中に生検パスに沿って存在する癌組織の個別のタイプ及び空間的場所をラベリングする組織分布マップを生成するように構成されたシステムを更に伴う。
[002] 前立腺癌は、男性において最も一般的なタイプの癌であり、合衆国における死亡数において、3番目に多い癌関連の原因である。一年に、230,000人を越えるアメリカの男性が前立腺癌を有すると診断され、30,000人近くがこの疾病によって死亡している。泌尿器科医によって、前立腺を撮像し、生検をガイドするため、更には癌組織を治療するためにも経直腸的超音波撮像(TRUS)が使用されている。しかしながら、前立腺は不均一なエコー輝度を有し、超音波画像において癌組織は健康な組織から見分けられない。結果として、既存の技術は、癌組織の存在に基づいて生検ガイダンスを向上させるために、TRUSデータを、マルチパラメトリックな磁気共鳴撮像(mpMRI)を介して集められた術前データと融合させており、これは、癌組織を識別することができる。mpMRIを介して識別された癌の可能性がある場所を、生検標的のための特定のTRUS由来の座標に変換するために、画像位置合わせ技術が使用され得る。
[003] mpMRI-TRUS融合技術の課題の1つは、リアルタイムの2DTRUS画像上での生検の場所の不整合であり、これは、最適以下の生検標的につながる。これは、mpMRIデータとTRUSデータとの間の整列がただ一度だけしか実施されず、これに続いて前立腺の初期TRUS走査が行われるという事実のせいである。画像位置合わせと生検との間の時間において、典型的には、ほぼ数十分程度の間に、前立腺は、3DTRUS走査が取得された初期状態から移動及び/又は変形し得る。故に、mpMRI-TRUSデータの位置合わせからもたらされる変換は、生検が実施されるときには不正確になっている。それ故、生検中に癌組織の個別の領域を認識し、空間的に描写することが可能な新たなシステムが望まれている。
[004] 本開示は、生検平面に沿って存在する身体組織の個別のタイプを識別する(識別された各組織タイプの空間的場所を含む)ための超音波撮像システム及び方法を説明する。開示されるシステムによって描写される組織タイプは、前立腺、胸部、肝臓などの内臓内の様々なグレードの癌組織を含む。例示的なシステムは、例えば、生検の標的とされた領域から時系列的な順次的超音波データフレームを取得することを伴う前立腺の経直腸的生検などの生検処置中に実現される。例示的なシステムは、癌組織の識別及び空間的座標を決定するように訓練されたニューラルネットワークを適用する。この情報は、超音波データがこれに沿って取得された生検平面の組織分布マップを生成するために使用され得る。組織分布マップに基づいて、補正生検パスが求められる。補正生検パスは、2、3の例を挙げるならば、臨床的ガイドライン、個々の優先設定、実現可能性制約及び/又は患者に特有の診断及び治療計画などの観点から、生検のための特定の組織タイプの優先順位付けに関するユーザ入力を組み込んでいる。いくつかの実施形態において、補正生検パスに到達するために必要なやり方で超音波トランスデューサ又は生検ニードルを調節するための命令が生成され、任意的に表示される。
[005] いくつかの実施例によると、超音波撮像システムは、標的領域内の生検平面に沿って送信された超音波パルスに応じてエコー信号を取得するように構成された超音波トランスデューサを含む。超音波トランスデューサと通信する少なくとも1つのプロセッサも含まれる。プロセッサは、エコー信号と関連付けられた時系列的な順次的データフレームを取得し、時系列的な順次的データフレームにニューラルネットワークを適用するように構成され得る。ニューラルネットワークは時系列的な順次的データフレームにおける複数の組織タイプの識別及び空間的場所を決定し得る。ニューラルネットワークを適用すると、プロセッサは更に、プロセッサと通信するユーザインタフェース上に表示されるべき空間分布マップを生成し得、空間分布マップは、標的領域内で識別された複数の組織タイプの座標をラベリングする。また、プロセッサは、ユーザインタフェースを介して、標的生検サンプルを示すユーザ入力を受信し得、標的生検サンプルに基づいて、補正生検パスを生成し得る。
[006] いくつかの実施例において、時系列的な順次的データフレームは、無線周波信号、Bモード信号、ドップラ信号又はこれらの組合せを具現化する。いくつかの実施形態において、超音波トランスデューサは生検ニードルに結合され、プロセッサは更に、生検ニードルを補正生検パスに整列させるように超音波トランスデューサを調節するための命令を生成するように構成される。いくつかの実施例において、複数の組織タイプは、様々なグレードの癌組織を含む。いくつかの実施形態において、標的領域は前立腺を含む。いくつかの実施例において、標的生検サンプルは、最大数の異なる組織タイプ、最大量の単一の組織タイプ、特定の組織タイプ、又はこれらの組合せを指定する。いくつかの実施形態において、ユーザ入力は、事前設定された標的生検サンプルオプションの選択、又は、標的生検サンプルの文章による説明を具現化する。いくつかの実施例において、ユーザインタフェースは、ユーザ入力を受信するように構成されたタッチスクリーンを含み、ユーザ入力は、タッチスクリーンに表示された仮想的ニードルの移動を含む。いくつかの実施形態において、プロセッサは、生検平面から取得されたライブ超音波画像を生成し、ユーザインタフェース上に表示させるように構成される。いくつかの実施例において、プロセッサは更に、ライブ超音波画像に空間分布マップを重畳するように構成される。いくつかの実施形態において、ニューラルネットワークは、既知の入力及び既知の出力のアレイを受信するように構成された訓練アルゴリズムに動作可能に関連付けられ、既知の入力は、超音波画像フレームを含み、超音波画像フレームは、少なくとも1つの組織タイプと、超音波画像フレームに含まれる少なくとも1つの組織タイプと関連付けられた組織病理学的分類とを含む。いくつかの実施例において、超音波パルスは、約5MHzから約9MHzの周波数において送信される。いくつかの実施形態において、空間分布マップは、標的領域のmpMRIデータを使用して生成される。
[007] いくつかの実施例によると、超音波撮像の方法は、標的領域内の生検平面に沿って送信された超音波パルスに応じてエコー信号を取得するステップと、エコー信号と関連付けられた時系列的な順次的データフレームを取得するステップと、時系列的な順次的データフレームにニューラルネットワークを適用するステップであって、ニューラルネットワークは時系列的な順次的データフレームにおける複数の組織タイプの識別及び空間的場所を決定する、ニューラルネットワークを適用するステップと、プロセッサと通信するユーザインタフェース上に表示されるべき空間分布マップを生成するステップであって、空間分布マップは、標的領域内で識別された複数の組織タイプの座標をラベリングする、空間分布マップを生成するステップと、ユーザインタフェースを介して、標的生検サンプルを示すユーザ入力を受信するステップと、標的生検サンプルに基づいて、補正生検パスを生成するステップとを有する。
[008] いくつかの実施例において、複数の組織タイプは、様々なグレードの癌組織を含む。いくつかの実施形態において、方法は、補正生検パスに対して実現可能性制約を適用するステップを更に有し、実現可能性制約は生検の物理的制限に基づく。いくつかの実施形態において、方法は、生検ニードルを補正生検パスに整列させるように超音波トランスデューサを調節するための命令を生成するステップを更に有する。いくつかの実施形態において、方法は、ユーザインタフェース上に表示されたライブ超音波画像に空間分布マップを重畳するステップを更に有する。いくつかの実施例において、補正生検パスは、ユーザインタフェース上に表示された空間分布マップとの直接的なユーザインタラクションによって生成される。いくつかの実施形態において、複数の組織タイプの識別は、複数の組織タイプの各々の組織病理学的分類に固有の超音波シグネチャを認識することによって識別される。
[009] 本開示の原理による、超音波プローブ及びそこに結合された生検ニードルによって実施される経直腸的生検の概略的な図である。 [010] 本開示の原理による、超音波プローブ及びテンプレートに取り付けられた生検ニードルによって実施される経会陰的生検の概略的な図である。 [011] 本開示の原理による、超音波システムのブロック図である。 [012] 本開示の原理による、別の超音波システムのブロック図である。 [013] 本開示の原理による、超音波画像上に重畳された様々な組織タイプを示す組織分布マップの概略的な図である。 [014] 本開示の原理に従って実施される超音波撮像の方法のフロー図である。
[015] 特定の実施形態の以下の説明は、本質的に単なる例示的なものであり、決して本発明又はその適用若しくは使用を限定することを意図するものではない。本システム及び方法の実施形態の以下の詳細な説明において、本明細書の一部をなし、説明されるシステム及び方法が実践される特定の実施形態の例示として図示された添付の図面への参照が行われる。これらの実施形態は、ここに開示されるシステム及び方法を当業者が実践することを可能とするように十分に詳細に説明される。本システムの主旨及び範囲から逸脱することなく、他の実施形態が利用され、構造的及び論理的な変更がなされることを理解されたい。更には、明確化のために、特定の特徴の詳細な説明は、それらが当業者に明らかであるときには、本システムの説明を不明瞭にしないために、論じられない。したがって、以下の詳細の説明は、限定の意味で理解されるべきではなく、本システムの範囲は、添付の特許請求の範囲よってのみ定められる。
[016] 本開示による超音波システムは、超音波撮像が行われる標的領域内に存在する様々な組織タイプ、例えば様々なグレードの癌組織を識別及び差異化するために、ニューラルネットワーク、例えば深層ニューラルネットワーク(DNN)、畳み込みニューラルネットワーク(CNN)などを利用する。ニューラルネットワークは更に、生検平面に沿って識別された各組織タイプの個別のサブ領域を描写し得る。いくつかの実施例において、ニューラルネットワークは、超音波画像フレームの形態の入力データ及び関連付けられた組織病理学的分類を分析すること、及びそこから1つ又は複数の組織タイプ又は微小構造の存在及び空間分布を含む特定の特徴を識別することが可能なニューラルネットワーク(例えば、ノードの機械訓練されたアルゴリズム又はハードウェアベースのシステム)を取得するために、様々な現在知られている又は将来開発される機械学習技術のうちの任意のもの使用して訓練される。ニューラルネットワークは、コンピュータプログラミングアルゴリズムの従来の形態に優る利点を提供し、それらは、専用のコンピュータコードに依存するのではなくデータセットサンプルを分析することによって、データセットの特徴及びそれらの場所を認識するように一般化及び訓練され得る。ニューラルネットワーク訓練アルゴリズムに対して適切な入力及び出力データを提供することによって、本開示による超音波システムのニューラルネットワークは、超音波スキャン中に、リアルタイムで、特定の組織タイプを識別し、識別された組織タイプの生検平面内での空間的場所を特定し、任意選択で、組織分布を示す標的領域のマップを生むように訓練され得る。次いで、ニューラルネットワークに通信可能に結合されたプロセッサは、侵襲性の物体、例えばニードルのための補正生検パスを決定し得る。補正パスは、ユーザ、例えば治療を行う医師によって優先順位付けされた特定の組織タイプ、例えば特定の癌グレード、の収集を確実なものとするように構成される。超音波を使用して標的領域内で特定のグレードの癌組織の空間分布を求め、分布情報に基づいて補正生検パスを決定することは、診断の正確性及び診断に基づいた治療の決定を向上させる。
[017] 本発明の原理による超音波システムは、媒体、例えば人間の身体又はその特定の部位に向かって超音波パルスを送信し、超音波パルスに応じてエコー信号を生成するように構成された超音波トランスデューサを含み、又はこれに動作可能に結合される。超音波システムは、ビーム形成の送信及び/又は受信を実施するように構成されたビーム形成器と、超音波撮像システムによって生成された超音波画像を、いくつかの実施例において、表示するように構成されたディスプレイとを含む。超音波撮像システムは、1つ又は複数のプロセッサと、ニューラルネットワークとを含む。超音波システムは、mpMRIシステムに結合され得、それによって、2つのコンポーネントの間での通信を可能とする。超音波システムは、所定の生検パスに沿った標的とされた組織内に発射するように構成された生検ニードル又は生検ガンニードルにも結合される。
[018] 本開示に従って実現されるニューラルネットワークは、ハードウェアベース(例えば、ニューロンが物理的コンポーネントによって表現される)、又はソフトウェアベース(例えば、ニューロン及び経路がソフトウェアアプリケーションにおいて実現される)であり、所望の出力を生むようにニューラルネットワークを訓練するために、様々なトポロジー及び学習アルゴリズムを使用し得る。例えば、ソフトウェアベースのニューラルネットワークは、命令を実行するように構成されたプロセッサ(例えばシングルコア若しくはマルチコアCPU,単一のGPU若しくはGPUクラスタ、又は並列処理のために構成された複数のプロセッサ)を使用して実現され、命令は、コンピュータ可読媒体に記憶され、実行されたときに、生検平面に沿って撮像された個別の組織タイプを識別、描写及び/又はラベリングするために機械訓練されたアルゴリズムをプロセッサに実施させる。超音波システムは、ライブ超音波画像と、画像内に存在する様々な組織タイプを示す組織分布マップとを表示するように動作可能なディスプレイ及び/又はグラフィックプロセッサを含む。追加的なグラフィカル情報も表示され得、これには、超音波システムのユーザインタフェース上での表示のための表示ウィンドウにおける注釈、ユーザ命令、組織情報、患者情報、インジケータ、及び他のグラフィカルコンポーネントなどがあり、ユーザインタフェースはインタラクティブであり、例えばユーザのタッチに応答する。いくつかの実施形態において、超音波画像並びに癌組織のタイプ及び座標に関する情報などの組織情報は、報告目的のため、又は将来の機械訓練のため(例えば、ニューラルネットワークのパフォーマンスの向上を継続するため)に、医用画像保管電送システム(PACS)などの記憶装置及び/又はメモリデバイスに提供される。いくつかの実施例において、スキャン中に取得された超音波画像は、超音波システムを操作しているユーザに対して表示されず、超音波スキャンが実施されているときにリアルタイムで、癌組織の存在、不在及び/又は分布についてシステムによって分析される。
[019] 図1は、本開示の原理に従って実施される経直腸的生検処置100の実施例を図示する。「フリーハンド」経直腸的生検とも呼ばれる処置100は、生検ニードル104に結合された超音波プローブ102の使用を伴い、生検ニードル104は、プローブに直接的に取り付けられ得、又は、いくつかの実施例において、プローブに結合されたアダプタ装置、例えば、ニードルガイドに取り付けられ得る。同時に、プローブ102及びニードル104は、2つのコンポーネントの遠位端部が前立腺106及び膀胱108に隣接するまで患者の直腸に挿入され得る。この位置において、超音波プローブ102は、超音波パルスを送信し得、前立腺106からパルスに応じたエコー信号を取得し得、ニードル104は、プローブの向きによって決定付けられたパスに沿って組織サンプルを収集し得る。本明細書において開示されるシステム及び方法によると、ニードル104の投影された生検パスは、超音波撮像を介して集められた組織情報に基づいて調節され得、それによって元の生検パスとは異なる補正生検パスを生成する。例えば、プローブ102によって取得される超音波データを受信した後、及び/又はその受信中に、本明細書において開示されるシステムは、プローブによって撮像された生検平面に沿って前立腺106内に存在する様々なタイプの癌性及び良性の組織の空間分布を求め得、表示し得る。次いで、分布情報は、補正生検パスを決定するために使用され得、これは、少なくとも部分的に、生検のための標的とされる特定の組織タイプに関してユーザによって指定された優先設定に基づく。次いで、プローブ102及び生検ニードル104は、ニードルを補正生検パスと整列させるように調節され得、ニードルは、更なる分析のために組織サンプルを収集するためにパスに沿って前立腺106に挿入され得る。図1は経直腸的生検処置を図示しているが、本明細書において説明されるシステム及び方法は前立腺撮像に限定されるものではなく、様々な組織タイプ及び臓器、例えば、胸部、肝臓、腎臓などに対しても実施され得る。
[020] 図2は、本開示の原理に従って実施される経会陰的生検処置200の実施例を図示する。図示されているように、経会陰的生検処置200も、超音波プローブ202及び生検ニードル204の使用を伴う。経直腸的生検処置100とは異なり、経会陰的生検のために使用されるニードル204は、プローブ202に直接的に、又はプローブに結合されたアダプタに取り付けられることはない。代わりに、ニードル204は、ニードルがプローブから独立的に移動され得るように、テンプレート206によって定められる様々なスロットに選択的に挿入される。処置200中に、超音波プローブ202は、プローブの遠位端部が前立腺208に隣接するまで患者の直腸に挿入され得る。プローブ202を使用して収集された超音波画像に基づいて、本明細書において開示されるシステムは、前立腺208内に存在する様々な癌性及び良性の組織タイプの空間分布を決定し得る。システムによって受信されたユーザの優先設定に応じた補正生検パスが求められ得、これは、テンプレート206上でニードル204が挿入される特定のスロットを決定付ける。ニードル204を補正生検パスと整列させた後、ニードルは、テンプレート206及び患者の会陰を通って滑動され得、組織収集のための生検パスに沿って、最終的に前立腺208内に入る。
[021] 図3は、本開示の原理に従って構成された例示的な超音波システム300を図示する。図示されるように、システム300は、超音波データ取得ユニット310を含み得、これは、いくつかの実施形態において、侵襲性デバイス311、例えば生検ニードルに結合され得る。超音波データ取得ユニット310は、対象者の標的領域316内、例えば前立腺内に超音波パルス314を送信し、送信されたパルスに応じたエコー318を受信するように構成された超音波センサアレイ312を備える超音波トランスデューサ又はプローブを含み得る。いくつかの実施例において、超音波データ取得ユニット310は、ビーム形成器320及び信号プロセッサ322も含み、これらは、アレイ312において順次的に受信された複数の超音波画像フレーム324を具現化する時系列データを抽出するように構成される。時系列データを収集するために、ある期間、例えば1秒未満から約2秒、約4秒、約6秒、約8秒、約16秒、約24秒、約48秒、又は約60秒にわたって同一の標的領域316から一連の超音波画像フレームが取得され得る。典型的には通常の呼吸中に発生する標的領域316の運動及び/又は変形を補償するために、撮像中に様々な息こらえ及び/又は画像位置合わせ技術が用いられる。データ取得ユニット310の1つ又は複数のコンポーネントが、異なる実施例において変更され得、又は省略さえもされ得、様々なタイプの超音波データが収集される。例えば、その全体が参照によって本明細書に組み込まれる米国特許出願公開第2010/0063393A1号において説明されるように、超音波データフレームの連続的なセットを使用することによって、標的領域316からの時系列データが生成され得る。いくつかの実施例において、データ取得ユニット310は、特定のフレームレート、例えば約5MHzから約9MHzの無線周波数(RF)データを取得するように構成される。追加的な実施例において、データ取得ユニット310は、処理済み超音波データ、例えば、Bモード、Aモード、Mモード、ドップラ又は3Dデータを生成するように構成される。いくつかの実施例において、信号プロセッサ322は、センサアレイ312によって収容され、又は、これから物理的に分離されるがこれに通信可能に(例えば、有線又は無線接続を介して)結合される。
[022] システム300は、データ取得ユニット310に通信可能に結合された1つ又は複数のプロセッサを更に含み得る。いくつかの実施例において、システムは、ニューラルネットワーク327を実現するように構成されたデータプロセッサ326、例えば計算モジュール又は回路(例えば、特定用途向け集積回路(ASIC))を含み得る。ニューラルネットワーク327は、エコー信号318と関連付けられた時系列的な順次的データフレーム324を備える画像フレーム324を受信し、画像フレーム内に存在する組織タイプ、例えば、様々なグレードの癌組織又は良性の組織を識別するように構成される。ニューラルネットワーク327は、標的領域316内で識別された組織タイプの空間的場所を求め、撮像された領域内に存在する組織タイプの組織分布マップを生成するようにも構成される。
[023] ニューラルネットワーク327を訓練するために、様々なタイプの訓練データ328がネットワークに入力される。訓練データ328は、特定の組織タイプに対応する超音波シグネチャを具現化する画像データを、特定の組織タイプの組織病理学的分類とともに含む。訓練を通じて、ニューラルネットワーク327は、特定の超音波シグネチャを特定の組織病理学的組織分類と関連付けることを学習し得る。訓練のために使用される入力データは、様々なやり方で集められ得る。例えば、大規模な患者集団に含まれる各人間の対象者について、特定の標的領域、例えば前立腺から時系列超音波データが収集され得る。撮像された標的領域の物理的組織サンプルも各対象者から収集され得、次いで、これらは組織病理学ガイドラインに従って分類され得る。こうして、患者集団における各対象者について2つのデータセット、すなわち、標的領域の時系列超音波データを含む第1のデータセット、及び第1のデータセットにおいて表わされた各標的領域に対応する組織病理学的分類を含む第2のデータセットが収集され得る。それ故、患者集団において表された各サンプルについて、グラウンドトルース、すなわち、所与の組織領域が癌性であるか良性であるかが、各サンプル内に存在する任意の癌組織の特定のグレードとともに分かる。癌組織のグレードは、グリーソンスコアリングシステムに基づき、これは、1から5の尺度の数値的スコアを組織サンプルに割り当てる。各数字は癌の悪性度、例えば、低、中、又は高を表す。より低いグリーソンスコアは、典型的には、正常な組織又は僅かに異常な組織を示し、より高いグリーソンスコアは、典型的には、異常な組織、時には癌組織を示す。
[024] 時間及び周波数ドメイン分析が、代表的特徴を抽出するために入力訓練データ328に適用され得る。ニューラルネットワーク327のフレームワーク、抽出された特徴、及び各組織サンプルの知られたグラウンドトルースを使用して、ネットワーク内の分類子レイヤが、組織領域を分離及び解釈し、超音波信号に由来する抽出された特徴に基づいて癌組織のグレードを識別するように訓練され得る。換言すれば、ニューラルネットワーク327は、良性組織から集められた数多くの超音波シグネチャを処理することによって、良性組織超音波信号はどのように見えるかを学習し得る。同様に、ニューラルネットワーク327は、癌組織から集められた数多くの超音波シグネチャを処理することによって、癌組織はどのように見えるかを学習し得る。
[025] 良性組織シグネチャを癌組織シグネチャから区別するように、及び異なる癌組織シグネチャを互いから区別するようにニューラルネットワーク327を訓練した後、ネットワークは、特定の組織タイプ及びリアルタイムに収集された超音波データ内の生検平面に沿ったそれらの空間的座標を特定するように構成される。特定の実施例において、RF時系列データが、超音波撮像中に生成され得、このデータは、データ取得ユニット310によって標的領域316から受信されたエコー318から抽出された信号を具現化する。次いで、データは、訓練済みニューラルネットワーク327に入力され得、これは、データから特定の特徴を抽出するように構成される。特徴は、ニューラルネットワーク327内の分類子レイヤによって精査され得、これは、例えばグリーソンスコアに従って、抽出された特徴に基づいて、組織タイプを識別するように構成される。識別された組織タイプは、標的領域316内の空間的場所にマッピングされ得、組織タイプ分布を示すマップがニューラルネットワーク327から出力され得る。組織分布に関するニューラルネットワーク327からの出力は、組織タイプ分布マップを生成するためにmpMRIデータと融合され得る。いくつかの実施形態において、データプロセッサ326は、mpMRIシステム329に通信可能に結合され得、これは、mpMRIを実施するように、及び/又は、超音波データ取得ユニット310によって撮像された標的領域316に対応する術前mpMRIデータを記憶するように構成される。図3に図示された超音波撮像システム300と併用可能なmpMRIシステムの例としては、Philips Koninklijke Philips N.V.(「Philips」)によるUroNavがある。PhilipsのUroNavは、マルチモーダル融合機能を備えた、前立腺癌のための標的生検プラットフォームである。データプロセッサ326は、ニューラルネットワーク327の適用の前に、又は後に、mpMRIデータを超音波画像データと融合するように構成される。
[026] ニューラルネットワーク327によって出力される組織分布データは、補正生検パスを決定するために、データプロセッサ326によって、又は、1つ又は複数の追加的な又は代替的なプロセッサによって使用され得る。補正生検パスの構成は、ユーザの優先設定に応じて様々であり得、いくつかの場合においては、補正生検パスは、ユーザ入力無しに自動的に求められ得る。自動的な生検パス補正は、例えば標的領域内に存在する異なる癌グレードの数を最大化するなど、最も大きな組織タイプ多様性の生検をもたらすパスを生成するように動作し得る。生検パス補正カスタマイゼーションの追加的な実施例は、図5に関連して以下に詳細に説明される。
[027] 図3において更に図示されるように、システム300は、データプロセッサ326に結合された表示プロセッサ330と、ユーザインタフェース332とをも含み得る。いくつかの実施例において、表示プロセッサ330は、画像フレーム324からのライブ超音波画像334と、組織分布マップ336とを生成するように構成され得る。組織分布マップ336は、元の生検パスの場所の指標を含み、これは、超音波撮像を実施する超音波トランスデューサの角度及び向きに基づく。組織分布マップ336は、システム300によって求められた補正生検パスも含む。加えて、ユーザインタフェース332は、1つ又は複数のメッセージ337を表示するようにも構成され、これは、超音波トランスデューサ312に結合された生検ニードル311を補正生検パスと整列させるために必要なやり方で超音波トランスデューサ312を調節するための命令を含む。いくつかの実施例において、メッセージ337は、警告を含み、これは、ユーザの優先設定に一致した補正生検パスがうまく達成され得ないことをユーザに伝える。ユーザインタフェース332は、超音波スキャンの前、その最中又はその後の任意のときに、ユーザ入力338を受信するようにも構成される。いくつかの実施例において、ユーザ入力338は、補正生検パスに沿って取得されるべき組織タイプを指定する事前設定されたパス補正オプションの選択を含み得る。例示的な事前設定された選択は、「組織多様性を最大化する」「グレード4+5の組織を最大化する」又は「癌組織を最大化する」命令を具現化する。追加的な実施例において、ユーザ入力338は、ユーザによるその場限りの優先設定入力を含み得る。このような実施例によると、システム300は、ユーザによって入力されたテキストを解析及び/又は解釈するように構成された自然言語プロセッサを含む。
[028] 図4は、本開示の原理による別の超音波システムのブロック図である。図4において図示される1つ又は複数のコンポーネントは、標的領域の生検平面に沿って存在する特定の組織タイプを識別し、識別された組織タイプの空間分布を求め、空間分布を描写する組織分布マップを生成し、及び/又はユーザの優先設定に従って標的領域において識別された組織をサンプリングするように構成された補正生検パスを決定するように構成されたシステム内に含まれる。例えば、信号プロセッサ322又はデータプロセッサ326の上述の機能のうちの任意のものが、図4において図示される処理コンポーネントのうちの1つ又は複数によって実現及び/又は制御される。これらの処理コンポーネントとしては、例えば、信号プロセッサ426、Bモードプロセッサ428、スキャンコンバータ430、多平面リフォーマッタ423、ボリュームレンダラ434及び/又は画像プロセッサ436がある。
[029] 図4の超音波撮像システムにおいて、超音波プローブ412は、特徴を含む領域内、例えば前立腺又は他の臓器内に超音波を送信し、送信波に応じたエコー情報を受信するためのトランスデューサアレイ414を含む。様々な実施形態において、トランスデューサアレイ414は、マトリックスアレイ又は1次元的線形アレイである。トランスデューサアレイは、時系列データがプローブ412によって収集されるように、アレイにおけるトランスデューサ要素による信号の送信及び受信を制御するプローブ412におけるマイクロビーム形成器416に結合される。図示された実施例において、マイクロビーム形成器416は、プローブケーブルによって、送信/受信(T/R)スイッチ418に結合され、これは、送信と受信とを切り換えて、主ビーム形成器422を高エネルギー送信信号から保護する。いくつかの実施形態において、システムにおけるT/Rスイッチ418及び他の要素は、別個の超音波システムコンポーネントにではなく、トランスデューサプローブに含まれ得る。マイクロビーム形成器416の制御の下でのトランスデューサアレイ414からの超音波ビームの送信は、T/Rスイッチ418及びビーム形成器422に結合された送信コントローラ420によって指示され、これは、例えばユーザインタフェース又は制御パネル424のユーザ操作からの入力を受信する。送信コントローラ420によって制御される機能は、ビームが操縦される方向である。ビームは、トランスデューサアレイから真っ直ぐ前方に(垂直に)操縦され、又は、より広い視野のために異なる角度に操縦される。マイクロビーム形成器416によって生み出された部分的にビーム形成された信号は、主ビーム形成器422に結合され、そこにおいて、トランスデューサ要素の個々のパッチからの部分的にビーム形成された信号は完全にビーム形成された信号へと合成される。
[030] ビーム形成された信号は、信号プロセッサ426に通信される。信号プロセッサ426は、受信されたエコー信号を、帯域通過フィルタリング、デシメーション、I及びQコンポーネント分離、及び/又は高調波信号分離などの様々なやり方によって処理する。信号プロセッサ426は、スペックル低減、信号合成、及び/又はノイズ除去を介して、追加的な信号増強も実施する。いくつかの実施例において、信号プロセッサ426によって用いられた種々の処理技術によって生成されたデータは、超音波データ内に具現化された固有の超音波信号によって示された個別の組織タイプを識別するために、ニューラルネットワークによって使用される。いくつかの実施例において、処理された信号は、Bモードプロセッサ428に結合される。Bモードプロセッサ428によって生み出された信号は、スキャンコンバータ430及び多平面リフォーマッタ432に結合される。スキャンコンバータ430は、所望の画像フォーマットにおいて、エコー信号をそれらが受信された空間的関係に配置する。例えば、スキャンコンバータ430は、エコー信号を、2次元的(2D)セクタ形状フォーマットに配置する。米国特許第6,443,896号(Detmer)において説明されているように、多平面リフォーマッタ432は、身体のボリューム領域の共通平面におけるポイントから受信されたエコーを、その平面の超音波画像に変換する。いくつかの実施例において、例えば、米国特許第6,530,885号(Entrekinら)において説明されているように、ボリュームレンダラ434は、3Dデータセットのエコー信号を、所与の基準ポイントから見た投影3D画像に変換する。2D又は3D画像は、画像ディスプレイ437上での表示のための更なる増強、バッファリング及び/又は一時的記憶のために、スキャンコンバータ430、多平面リフォーマッタ432、及びボリュームレンダラ434から、画像プロセッサ436へと通信される。これらを表示する前に、プローブ412によって撮像された標的領域内に存在する組織タイプを識別し、このような組織タイプの空間分布を描写するために、ニューラルネットワーク438が実現される。ニューラルネットワーク438は、実施された識別及び空間的描写に基づいて組織分布マップを生み出すようにも構成される。実施形態において、ニューラルネットワーク438は、様々な処理段階において、例えば、画像プロセッサ436、ボリュームレンダラ434、多平面リフォーマッタ432、及び/又はスキャンコンバータ430によって実施される処理の前に、実現される。特定の実施例において、ニューラルネットワーク438は、未加工のRFデータ、すなわち、Bモードプロセッサ428によって実施される処理がなされていないRFデータに適用され得る。グラフィックプロセッサ440は、超音波画像とともに表示するためのグラフィック重畳を生成し得る。これらのグラフィック重畳は、例えば、患者の名前、画像の日付及び時間、撮像パラメータなどの標準的な識別情報を含み、更に、組織分布マップ、元の生検パス、補正生検パス、ユーザに向けられたメッセージ、及び/又は、生検処置中にプローブと連携して使用される超音波プローブ412及び/又は生検ニードルを調節するための命令など、ニューラルネットワーク438によって生成された様々な出力も含む。いくつかの実施例において、グラフィックプロセッサ440は、タイプされた患者名、又はインタフェースに表示された又はインタフェースから発せられた命令がシステム400のユーザによって了解されたことの確認など、ユーザインタフェース424からの入力を受信する。ユーザインタフェース424は、特に標的とされる組織タイプの選択のためのユーザの優先設定を具現化する入力も受信する。ユーザインタフェースにおいて受信された入力は、ニューラルネットワークによって生成された組織分布マップと比較され得、最終的には、選択と一致した補正生検パスを決定するために使用され得る。ユーザインタフェースは、複数の多平面リフォーマット(MPR)された画像の表示の選択及び制御のために多平面リフォーマッタ432にも結合される。
[031] 図5は、本開示の原理による、インタラクティブユーザインタフェース505に表示された超音波画像504に重畳される組織分布マップ502の概略的な図である。本明細書において説明されたニューラルネットワークによって生成された組織分布マップ502は、複数の個別の組織サブ領域502a、502b、502cをハイライトする。図示されるように、マップ502は、臓器506内に限定されている。臓器の境界508は、オフラインで、例えば超音波撮像及び生検の前に、収集されて超音波撮像データと融合されたmpMRIデータによって導出され得る。元の生検パス510が、補正生検パス512とともに図示されている。
[032] この具体的な実施形態において、各サブ領域502a、502b、502cは、グリーソンスコアリングシステムに従って求められたような個別の組織タイプを含む。特に、第1のサブ領域502aは4+5のグリーソンスコアを有する組織を含み、第2のサブ領域502bは3+4のスコアを有する組織を含み、第3のサブ領域502cは3+3のグリーソンスコアを有する組織を含む。故に、第1のサブ領域502aは、最も悪性の成長を示す組織を含み、この組織が癌性である可能性を最も高くしている。元の生検パス510は、マップ502において描写されたサブ領域502a、502b、502cの各々を通過しているが、しかしながら、全てのサブ領域が等しくサンプリングされているわけではない。例えば、第1のサブ領域502aは、元の生検パス510と接するようにしか交差していない。特に、第1のサブ領域502aには最も悪性の組織が潜伏しているので、補正生検パス512に到達するように元の生検パス510を修正することをユーザは選択する。マップ502から明らかであるように、補正生検パス512は各サブ領域502a、502b、502cを真っ直ぐに通過しており、それによって、適切な組織サンプルがそこから収集される可能性を増加させている。
[033] 補正生検パス512は、様々なやり方で求められ、これは、臨床目的の観点から、特定の組織タイプの優先順位を他のものよりも高くしようとするユーザによって入力された優先設定に少なくとも部分的に依存する。例えば、ユーザは、特定の癌グレード、例えば4+5が、撮像された生検平面に沿った標的領域に存在する他の癌組織のグレードにかかわらず、生検されるべきであると指定し得る。このような優先設定は、ユーザインタフェース505において受信され得、優先設定と一致する補正生検パスを決定するために使用され得る。いくつかの実施形態において、優先設定は、ユーザによって選択可能な事前設定されたオプションとして記憶される。事前設定されたオプションは、特定の比率の異なる組織タイプを収集するように、又は特定の臨床的ガイドラインに従った組織タイプを収集するように構成された補正生検パスをシステムが決定する命令を含む。例えば、ユーザは、50%の組織サンプルを第1のサブ領域502aから、30%の組織サンプルを第2のサブ領域502bから、20%の組織サンプルを第3のサブ領域502cから取得するように補正生検パスが構成されなければならない、と指定する。上に述べられたように、ユーザの優先設定は、例えば標的とされる組織タイプの文章による説明を介して、その場限りのやり方で受信もされ得る。事前設定された選択において具現化されるにせよ、又はその場限りの説明において具現化されるにせよ、ユーザの優先設定は、特定の患者に対して正確な臨床的診断をくだすために十分な生検サンプルを取得するために必要なやり方によってカスタマイズされる。ユーザは、様々な時点においてパス収集の優先設定をカスタマイズし得る。いくつかの実施形態において、ユーザは、優先設定を、超音波スキャンに先立って入力し得る。いくつかの実施例において、ユーザは、組織タイプ分布情報が取得された後に、優先設定を修正し得る。追加的に又は代替的に、ユーザは、ユーザインタフェース505を介して組織分布マップ502と直接的に対話することによって、補正生検パスを直接的に指定し得る。このような実施例によると、ユーザは、元の生検パスを表すニードル、ライン、又はアイコンをクリックし(又は、もしもユーザインタフェースがタッチスクリーンを備えているならば、単にタッチし)、これを、ユーザインタフェース上の第2の、補正された場所にドラッグする。いくつかの実施例において、ユーザインタフェース505は、ニューラルネットワークによって出力され、ユーザインタフェース上に表示される空間分布データに応じてシステムが自動的にユーザ入力に適応する「学習モード」において超音波システムを動作させることをユーザが選択し得るように構成され得る。加えて、補正生検パス512は、生検前のmpMRIの場所と超音波を介してリアルタイムで求められた空間的座標との間の任意の不整合を自動的に補正する。
[034] 指定されたユーザ優先設定を満足する補正生検パス512を決定することに従って、システムは、「最大実現可能性」制約を適用し得、これは、生検処置の所与のセットアップについて実際上現実的な補正生検パスの数を制限する幾何学的制約を含む。例えば、最大実現可能性制約を適用することで、物理的に不可能な補正生検パスは、このような特定のパスに沿ってサンプルを取得するために必要な生検収集角度に基づいて、消去される。最大実現可能性制約は、1つ又は複数の補正生検パス512が求められた後で適用されるが、任意選択で、このようなパスがユーザインタフェース505に表示される前に適用される。システムは更に、最大実現可能性制約が補正パス結果に影響を与えるときに、警告を通信するように構成される。いくつかの実施例において、ユーザから受信された優先設定を、組合せにおいて、満足するように構成された複数の補正生検パス512が表示される。複数パスを決定することは、最大実現可能性制約が結果に影響を与えると判定されたとき、及び/又は受信されたユーザの優先設定を任意の所与の生検パスに沿って満足することが不可能であるときに、自動的に行われ、表示される。
[035] 組織分布マップ502の構成は様々であり得る。いくつかの実施形態において、マップ502は、異なる組織タイプを異なる色によってラベリングするように構成されたカラーマップを含み得る。例えば、良性組織は青で示され得る一方、高いグリーソンスコアを有する癌組織は赤又はオレンジで示され得る。追加的に又は代替的に、図示されるように、マップ502は、グリーソンスコアを対応する組織のサブ領域上に直接的に重ね合わせるように構成され得る。いくつかの実施例において、ユーザインタフェースは、その上に表示されたカラーマップ及び生検パスから導出された様々な統計値を表示するようにも構成される。例えば、ユーザインタフェースは、所与の生検パスに含まれた各組織グレードについてカバー範囲のパーセンテージを表示し得る。ユーザインタフェースは、ニューラルネットワークによって識別された全ての組織タイプの空間的座標及び境界を表示し得る。
[036] ユーザインタフェース505は、フリーハンド又は経会陰的生検が行われているか否かに応じて、超音波プローブ及び/又は生検ニードルを補正生検パス512と整列させるために必要なやり方でプローブ/ニードルを調節するための命令を表示するように構成され得る。例えば、ユーザインタフェース505は、「側方に傾ける」「背部へ傾ける」又は「90度回転させる」などと読み取れる命令を表示し得る。命令は、通信の様々なモードに従って伝えられ得る。いくつかの実施例において、命令は、テキストフォーマットで表示される一方、他の実施例においては、命令は、音響的フォーマットにおいて、又はシンボル、グラフィック等を使用して通信される。追加的な実施形態において、命令は、超音波プローブ及び/又は生検ニードルを、手動の介入なしに、例えばプローブ及び/又は生検ニードルに結合されたロボット式電機子を使用して調節するように構成された機構に通信され得る。実施例は、1つ又は複数の超音波撮像モダリティ、例えば、ビーム角度、焦点深度、取得フレームレートなどの自動的調節も含む。
[037] 図6は、本開示の原理に従って実施される超音波撮像の方法のフロー図である。例示的な方法600は、生検平面に沿って組織タイプ及び空間的場所を描写し、空間分布マップを生成し、補正生検パスを決定するために、任意のシーケンスにおいて、本明細書において説明される超音波システム及び/又は装置によって利用されるステップを示す。
[038] 示された実施形態において、方法は、ブロック602において、「標的領域内の生検平面に沿って送信された超音波パルスに応じてエコー信号を取得するステップ」によって始まる。実施されている生検に応じて、標的領域は様々である。いくつかの実施例において、標的領域は前立腺を含み得る。様々なタイプの超音波トランスデューサが、エコー信号を取得するために用いられ得る。トランスデューサは、特には、異なる身体的特徴に適合するように構成され得る。例えば、経直腸的超音波プローブが使用される。
[039] ブロック604において、方法は「エコー信号と関連付けられた時系列的な順次的データフレームを取得するステップ」を有する。時系列的な順次的データフレームは、無線周波信号、Bモード信号、ドップラ信号、又はこれらの組合せを具現化し得る。
[040] ブロック606において、方法は「時系列的な順次的データフレームにニューラルネットワークを適用するステップであって、ニューラルネットワークは時系列的な順次的データフレームにおける複数の組織タイプの識別及び空間的場所を決定する、ニューラルネットワークを適用するステップ」を有する。いくつかの実施例において、複数の組織タイプは、様々なグレードの癌組織、例えば、中程度に悪性、極めて悪性、又は僅かに異常な組織を含む。いくつかの実施例において、癌組織のグレードは、1から5の範囲の数値尺度によるグリーソンスコアに従って定められる。様々な実施形態において、組織タイプは、各組織タイプの組織病理学的分類に固有の超音波シグネチャを認識することによって識別され得る。
[041] ブロック608において、方法は「プロセッサと通信するユーザインタフェース上に表示されるべき空間分布マップを生成するステップであって、空間分布マップは、標的領域内で識別された複数の組織タイプの座標をラベリングする、空間分布マップを生成するステップ」を有する。いくつかの実施形態において、空間分布マップは、ユーザインタフェース上に表示されたライブ超音波画像に重畳され得る。追加的に又は代替的に、空間分布マップはカラーマップであり得る。
[042] ブロック610において、方法は「ユーザインタフェースを介して、標的生検サンプルを示すユーザ入力を受信するステップ」を有する。標的生検サンプルは、ユーザの優先設定により、最大数の異なる組織タイプ、最大量の単一の組織タイプ及び/又は特定の組織タイプがサンプリングされるべきであると指定し得る。
[043] ブロック612において、方法は「標的生検サンプルに基づいて、補正生検パスを生成するステップ」を有する。補正生検パスは、ユーザインタフェース上に表示された空間分布マップとの直接的なユーザインタラクションによって生成され得る。追加的な要因が、補正生検パスに影響を与えることもある。例えば、方法は、補正生検パスに対して実現可能性制約を適用するステップを更に有する。実現可能性制約は、実施されている生検処置の物理的制限に基づく。物理的制限は、例えば、特定の角度における生検ニードルの位置付けの実現性に関連する。体内の身体構造は、超音波トランスデューサ装置の形状及びサイズとともに、その各々が、実現可能性制約に影響を与える。実施形態は、生検ニードルを補正生検パスに整列させるために必要なやり方で超音波トランスデューサを調節するための命令を、実現可能性制約の観点からこのような整列が可能である限りにおいて、生成するステップも有する。
[044] コンピュータベースのシステム又はプログラム可能論理回路などのプログラム可能デバイスを使用して、コンポーネント、システム及び/又は方法が実現される様々な実施形態において、上述のシステム及び方法は、「C」、「C++」、「FORTRAN」、「Pascal」、「VHDL」などの様々な知られた、又は将来開発されるプログラム言語のうちの任意のものを使用して実現され得ることが理解されるべきである。それ故、上述のシステム及び/又は方法を実現するためにコンピュータなどのデバイスに指示を与え得る情報を含み得る磁気的コンピュータディスク、光学的ディスク、電子メモリなどの様々な記憶媒体が用意され得る。適切なデバイスが記憶媒体上に含まれる情報及びプログラムにアクセスすると、記憶媒体は、情報及びプログラムをデバイスに提供し得、それによって、デバイスは、本明細書において説明されるシステム及び/又は方法の機能を実施可能になる。例えば、もしもソースファイル、オブジェクトファイル、実行可能ファイルなどの適切な材料を含むコンピュータディスクがコンピュータに提供されたなら、コンピュータは情報を受け取り得、自分自身を適切に構成し得、様々な機能を実現するために、上記の図及びフローチャートにおいて概略が説明された様々なシステム及び方法の機能を実施し得る。すなわち、コンピュータは、ディスクから、上述のシステム及び/又は方法の種々の要素に関連する情報の様々な部分を受信し得、個々のシステム及び/又は方法を実現し得、上述の個々のシステム及び/又は方法の機能を連携して働かせ得る。
[045] 本開示の観点において、本明細書において説明される様々な方法及びデバイスは、ハードウェア、ソフトウェア、及びファームウェアにおいて実現され得ることが留意される。更に、様々な方法及びパラメータは、例示としてのみ含まれ、限定的意味で含まれるものではない。本開示の観点において、当業者は、本発明の範囲内にとどまりながら、彼ら自身の技術及びこれらの技術に影響を与える必要とされる機器を決定するにあたり、本教示を実現し得る。本明細書において説明される1つ又は複数のプロセッサの機能は、より少ない数の又は単一の処理ユニット(例えば、CPU)に組み込まれてよく、及び、本明細書において説明される機能を実施する実行可能な命令に応じてプログラムされた特定用途向け集積回路(ASIC)又は汎用処理回路を使用して実現されてよい。
[046] 本システムは、超音波撮像システムを具体的に参照して説明されたが、本システムは、1つ又は複数の画像が系統的なやり方で取得される他の医療用撮像システムに拡張され得ることも想定される。それ故、本システムは、限定的にではないが腎臓、精巣、胸部、卵巣、子宮、甲状腺、肝臓、肺、筋骨格、脾臓、心臓、動脈及び血管系に関連する画像情報を取得及び/又は記録するために、並びに超音波によって誘導される介入に関連する他の撮像用途に対して使用される。更に、本システムは、従来の撮像システムが本システムの特徴及び利点を提供するように、従来の撮像システムによって使用される1つ又は複数のプログラムも含む。本開示の特定の追加的な利点及び特徴は、本開示を検討することによって当業者には明らかであり、又は、本開示の新規なシステム及び方法を用いる者によって体験される。本システム及び方法の別の利点は、従来の医療用撮像システムが、本システム、デバイス及び方法の特徴及び利点を組み込むように容易にアップグレードされ得ることである。
[047] 当然のことであるが、本明細書において説明される実施例、実施形態又はプロセスのうちの任意の1つが、本システム、デバイス及び方法に従って、1つ又は複数の他の実施例、実施形態及び/又はプロセスと組み合わされてよいこと、又は、別個のデバイス又はデバイスの部分に分離され及び/又はそれらの間で実施されてよいことを理解されたい。
[048] 最後に、上記の議論は、本システムを単に例示するものであると意図され、添付の特許請求の範囲を任意の特定の実施形態又は実施形態の集合に限定するものと解釈されるべきではない。故に、本システムは、例示的な実施形態を参照して特定の詳細について説明されたが、多くの変更及び代替的な実施形態が、以下の特許請求の範囲において記載されるような本システムのより広範な、意図された主旨及び範囲から逸脱することなく、当業者によって工夫され得ることも理解されるべきである。それ故、明細書及び図面は、例示的であると考えられるべきであり、添付の特許請求の範囲を限定することを意図するものではない。

Claims (15)

  1. 標的領域内の生検平面に沿って送信された超音波パルスに応じてエコー信号を取得する超音波トランスデューサと、
    前記超音波トランスデューサと通信するプロセッサとを備える、超音波撮像システムであって、
    前記プロセッサは、
    前記エコー信号と関連付けられた時系列的な順次的データフレームを取得することであって、前記時系列的な順次的データフレームの取得中、前記超音波トランスデューサの角度及び向きが元の生検パスを規定する、時系列的な順次的データフレームを取得することと、
    前記時系列的な順次的データフレームにニューラルネットワークを適用することであって、前記ニューラルネットワークは前記時系列的な順次的データフレームにおける複数の組織タイプの識別及び空間的場所を決定する、ニューラルネットワークを適用することと、
    前記プロセッサと通信するユーザインタフェース上に表示されるべき空間分布マップを生成することであって、前記空間分布マップは、前記標的領域内で識別された前記複数の組織タイプの座標をラベリングする、空間分布マップを生成することと、
    前記ユーザインタフェースを介して、生検のための標的とされる特定の組織タイプを含む標的生検サンプルを示すユーザ入力を受信することと、
    前記標的生検サンプルに基づいて、前記元の生検パスとは異なる補正された生検パスを生成することと
    を実施する、超音波撮像システム。
  2. 前記時系列的な順次的データフレームは、無線周波信号、Bモード信号、ドップラ信号又はこれらの組合せを具現化する、請求項1に記載の超音波撮像システム。
  3. 前記超音波トランスデューサは生検ニードルに結合され、前記プロセッサは更に、前記生検ニードルを前記補正された生検パスに整列させるように前記超音波トランスデューサを調節するための命令を生成する、請求項1に記載の超音波撮像システム。
  4. 前記複数の組織タイプは、様々なグレードの癌組織を含む、請求項1に記載の超音波撮像システム。
  5. 前記標的生検サンプルは、最大数の異なる組織タイプ、最大量の単一の組織タイプ、特定の組織タイプ、又はこれらの組合せを含む、請求項1に記載の超音波撮像システム。
  6. 前記ユーザ入力は、事前設定された標的生検サンプルオプションの選択、又は、前記標的生検サンプルの文章による説明を含む、請求項1に記載の超音波撮像システム。
  7. 前記ユーザインタフェースは、前記ユーザ入力を受信するタッチスクリーンを備え、前記ユーザ入力は、前記タッチスクリーンに表示された仮想的ニードルの移動を含む、請求項1に記載の超音波撮像システム。
  8. 前記プロセッサは、前記生検平面から取得されたライブ超音波画像を生成し、前記ユーザインタフェース上に表示させ、前記プロセッサは更に、前記ライブ超音波画像に前記空間分布マップを重畳する、請求項1に記載の超音波撮像システム。
  9. 前記ニューラルネットワークは、既知の入力及び既知の出力のアレイを受信する訓練アルゴリズムに動作可能に関連付けられ、前記既知の入力は、超音波画像フレームを含み、前記超音波画像フレームは、少なくとも1つの組織タイプと、前記超音波画像フレームに含まれる前記少なくとも1つの組織タイプと関連付けられた組織病理学的分類とを含む、請求項1に記載の超音波撮像システム。
  10. 前記空間分布マップは、前記標的領域のmpMRIデータを使用して生成される、請求項1に記載の超音波撮像システム。
  11. 超音波撮像システムのプロセッサに
    標的領域内の生検平面に沿って送信された超音波パルスに応じて超音波トランスデューサでエコー信号を取得するステップと、
    前記エコー信号と関連付けられた時系列的な順次的データフレームを取得するステップであって、前記時系列的な順次的データフレームの取得中、前記超音波トランスデューサの角度及び向きが元の生検パスを規定する、時系列的な順次的データフレームを取得するステップと、
    前記時系列的な順次的データフレームにニューラルネットワークを適用するステップであって、前記ニューラルネットワークは前記時系列的な順次的データフレームにおける複数の組織タイプの識別及び空間的場所を決定する、ニューラルネットワークを適用するステップと、
    前記プロセッサと通信するユーザインタフェース上に表示されるべき空間分布マップを生成するステップであって、前記空間分布マップは、前記標的領域内で識別された前記複数の組織タイプの座標をラベリングする、空間分布マップを生成するステップと、
    前記ユーザインタフェースを介して、生検のための標的とされる特定の組織タイプを含む標的生検サンプルを示すユーザ入力を受信するステップと、
    前記標的生検サンプルに基づいて、前記元の生検パスとは異なる補正された生検パスを生成するステップと
    実行させるためのプログラム
  12. 前記プロセッサに、前記補正された生検パスに対して実現可能性制約を適用するステップを更に実行させ、前記実現可能性制約は生検の物理的制限に基づく、請求項11に記載のプログラム
  13. 前記プロセッサに、生検ニードルを前記補正された生検パスに整列させるように超音波トランスデューサを調節するための命令を生成するステップを更に実行させる、請求項11に記載のプログラム
  14. 前記補正された生検パスは、前記ユーザインタフェース上に表示された前記空間分布マップとの直接的なユーザインタラクションによって生成される、請求項11に記載のプログラム
  15. 複数の組織タイプの前記識別は、前記複数の組織タイプの各々の組織病理学的分類に固有の超音波シグネチャを認識することによって識別される、請求項11に記載のプログラム
JP2020539087A 2018-01-19 2019-01-07 マルチモーダル融合標的生検中の自動化されたパス補正 Active JP7442449B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201862619277P 2018-01-19 2018-01-19
US62/619,277 2018-01-19
PCT/EP2019/050191 WO2019141526A1 (en) 2018-01-19 2019-01-07 Automated path correction during multi-modal fusion targeted biopsy

Publications (3)

Publication Number Publication Date
JP2021510584A JP2021510584A (ja) 2021-04-30
JPWO2019141526A5 JPWO2019141526A5 (ja) 2022-01-17
JP7442449B2 true JP7442449B2 (ja) 2024-03-04

Family

ID=65009764

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020539087A Active JP7442449B2 (ja) 2018-01-19 2019-01-07 マルチモーダル融合標的生検中の自動化されたパス補正

Country Status (5)

Country Link
US (1) US20200345325A1 (ja)
EP (1) EP3740132A1 (ja)
JP (1) JP7442449B2 (ja)
CN (1) CN112004478A (ja)
WO (1) WO2019141526A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020056500A1 (en) 2018-09-18 2020-03-26 The University Of British Columbia Ultrasonic analysis of a subject
US11415657B2 (en) * 2019-09-30 2022-08-16 Silicon Laboratories Inc. Angle of arrival using machine learning
US20210153838A1 (en) * 2019-11-21 2021-05-27 Hsiao-Ching Nien Method and Apparatus of Intelligent Analysis for Liver Tumor
JP2023077827A (ja) * 2021-11-25 2023-06-06 富士フイルム株式会社 超音波診断装置および超音波診断装置の制御方法
CN117218433A (zh) * 2023-09-13 2023-12-12 珠海圣美生物诊断技术有限公司 居家多癌种检测装置和多模态融合模型构建方法及装置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014111083A (ja) 2012-11-09 2014-06-19 Toshiba Corp 穿刺支援装置
JP2014147455A (ja) 2013-01-31 2014-08-21 Toshiba Corp 医用画像診断装置及び穿刺術支援装置
JP2016123794A (ja) 2015-01-08 2016-07-11 学校法人早稲田大学 穿刺支援システム
WO2016193025A1 (en) 2015-06-04 2016-12-08 Koninklijke Philips N.V. System and method for precision diagnosis and therapy augmented by cancer grade maps
JP2017118921A (ja) 2015-12-28 2017-07-06 東芝メディカルシステムズ株式会社 超音波診断装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030135115A1 (en) * 1997-11-24 2003-07-17 Burdette Everette C. Method and apparatus for spatial registration and mapping of a biopsy needle during a tissue biopsy
US6238342B1 (en) * 1998-05-26 2001-05-29 Riverside Research Institute Ultrasonic tissue-type classification and imaging methods and apparatus
US6530885B1 (en) 2000-03-17 2003-03-11 Atl Ultrasound, Inc. Spatially compounded three dimensional ultrasonic images
US6443896B1 (en) 2000-08-17 2002-09-03 Koninklijke Philips Electronics N.V. Method for creating multiplanar ultrasonic images of a three dimensional object
CA2539414A1 (en) * 2003-06-03 2004-12-16 Allez Physionix Limited Systems and methods for determining intracranial pressure non-invasively and acoustic transducer assemblies for use in such systems
US10018712B2 (en) 2006-05-26 2018-07-10 Queen's University At Kingston Method for improved ultrasonic detection
US9521961B2 (en) * 2007-11-26 2016-12-20 C. R. Bard, Inc. Systems and methods for guiding a medical instrument
US9392992B2 (en) * 2012-02-28 2016-07-19 Siemens Medical Solutions Usa, Inc. High intensity focused ultrasound registration with imaging
CN102915465B (zh) * 2012-10-24 2015-01-21 河海大学常州校区 一种基于移动生物刺激神经网络的多机器人联合编队方法
CN103371870B (zh) * 2013-07-16 2015-07-29 深圳先进技术研究院 一种基于多模影像的外科手术导航系统

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014111083A (ja) 2012-11-09 2014-06-19 Toshiba Corp 穿刺支援装置
JP2014147455A (ja) 2013-01-31 2014-08-21 Toshiba Corp 医用画像診断装置及び穿刺術支援装置
JP2016123794A (ja) 2015-01-08 2016-07-11 学校法人早稲田大学 穿刺支援システム
WO2016193025A1 (en) 2015-06-04 2016-12-08 Koninklijke Philips N.V. System and method for precision diagnosis and therapy augmented by cancer grade maps
JP2017118921A (ja) 2015-12-28 2017-07-06 東芝メディカルシステムズ株式会社 超音波診断装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
AZIZI Shekoofeh, et al.,Detection and grading of prostate cancer using temporal enhanced ultrasound: combining deep neural networks and tissue mimicking simulations,International Journal of Computer Assisted Radiology and Surgery,米国,Springer Verlag,2017年06月20日,12巻8号,p1293-1305,https://ncbi.nlm.nih.gov/pmc/articles/PMC7900902/

Also Published As

Publication number Publication date
JP2021510584A (ja) 2021-04-30
EP3740132A1 (en) 2020-11-25
CN112004478A (zh) 2020-11-27
WO2019141526A1 (en) 2019-07-25
US20200345325A1 (en) 2020-11-05

Similar Documents

Publication Publication Date Title
JP7442449B2 (ja) マルチモーダル融合標的生検中の自動化されたパス補正
JP7357015B2 (ja) 生検予測及び超音波撮像によるガイド並びに関連するデバイス、システム、及び方法
JP7407790B2 (ja) 誘導肝イメージングのための人工ニューラルネットワークを有する超音波システム
JP7168664B2 (ja) 画像アーチファクトを検出するインテリジェント超音波システム
CN107683113B (zh) 用于通过癌症分级绘图增强的精确诊断和治疗的系统和方法
RU2642929C2 (ru) Автоматический выбор плоскости визуализации для эхокардиографии
JP2021520939A (ja) 適応的超音波スキャニング
JP2020536666A (ja) インテリジェントな超音波に基づく受胎能監視
US20190216423A1 (en) Ultrasound imaging apparatus and method of controlling the same
JP7442548B2 (ja) 誘導式超音波撮像
EP3975867B1 (en) Methods and systems for guiding the acquisition of cranial ultrasound data
JP2021510595A (ja) 超音波画像から解剖学的測定値を取得するための装置及び方法
JP2023502449A (ja) 超音波撮像並びに関連する装置、システム、及び方法のためのインテリジェントな測定支援
CN112494028A (zh) 使用多模态成像的活检工作流程
JP2018501005A (ja) 解剖学的オブジェクトをセグメント化する超音波画像装置及び方法
EP3310437B1 (en) Ultrasound guided radiotherapy system
US10376234B2 (en) Ultrasonic imaging apparatus and a method for imaging a specular object and a target anatomy in a tissue using ultrasound
US20220265242A1 (en) Method of determining scan planes in the acquisition of ultrasound images and ultrasound system for the implementation of the method
US11484286B2 (en) Ultrasound evaluation of anatomical features
JP2023552223A (ja) インターベンショナル医療処置用の再構築画像を生成するシステム及び方法
CN112638274A (zh) 用于智能剪切波弹性成像的超声系统和方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220106

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220106

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20221125

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221128

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20230224

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230525

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230621

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20230911

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231220

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240122

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240220

R150 Certificate of patent or registration of utility model

Ref document number: 7442449

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150