JP2021502164A - 超音波画像生成システム - Google Patents

超音波画像生成システム Download PDF

Info

Publication number
JP2021502164A
JP2021502164A JP2020524882A JP2020524882A JP2021502164A JP 2021502164 A JP2021502164 A JP 2021502164A JP 2020524882 A JP2020524882 A JP 2020524882A JP 2020524882 A JP2020524882 A JP 2020524882A JP 2021502164 A JP2021502164 A JP 2021502164A
Authority
JP
Japan
Prior art keywords
image
ultrasonic
unit
ultrasound
raw data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020524882A
Other languages
English (en)
Other versions
JP6982689B2 (ja
Inventor
ギュンター、マティアス
Original Assignee
フラウンホーファー−ゲゼルシャフト ツール フエルデルング デア アンゲヴァンテン フォルシュング エー.ファオ.
フラウンホーファー−ゲゼルシャフト ツール フエルデルング デア アンゲヴァンテン フォルシュング エー.ファオ.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by フラウンホーファー−ゲゼルシャフト ツール フエルデルング デア アンゲヴァンテン フォルシュング エー.ファオ., フラウンホーファー−ゲゼルシャフト ツール フエルデルング デア アンゲヴァンテン フォルシュング エー.ファオ. filed Critical フラウンホーファー−ゲゼルシャフト ツール フエルデルング デア アンゲヴァンテン フォルシュング エー.ファオ.
Publication of JP2021502164A publication Critical patent/JP2021502164A/ja
Application granted granted Critical
Publication of JP6982689B2 publication Critical patent/JP6982689B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/08Detecting organic movements or changes, e.g. tumours, cysts, swellings
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5207Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of raw data to produce diagnostic data, e.g. for generating an image
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5215Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data
    • A61B8/5238Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for combining image data of patient, e.g. merging several images from different acquisition modes into one image
    • A61B8/5261Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for combining image data of patient, e.g. merging several images from different acquisition modes into one image combining images from different diagnostic modalities, e.g. ultrasound and X-ray
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/003Reconstruction from projections, e.g. tomography
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/20ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/13Tomography
    • A61B8/14Echo-tomography
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5292Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves using additional data, e.g. patient information, image labeling, acquisition parameters
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10132Ultrasound image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Public Health (AREA)
  • Biomedical Technology (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Theoretical Computer Science (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • General Physics & Mathematics (AREA)
  • Pathology (AREA)
  • Primary Health Care (AREA)
  • Epidemiology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Veterinary Medicine (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Quality & Reliability (AREA)
  • Databases & Information Systems (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)
  • Image Analysis (AREA)
  • Magnetic Resonance Imaging Apparatus (AREA)

Abstract

【課題】超音波画像の画質を改善すること。【解決手段】対象の画像を生成するための超音波画像生成システム。超音波画像生成システム(1)は、超音波イメージングモダリティによって取得された対象(2)の超音波ローデータを提供するための超音波データ提供部(4、5)、対象の超音波ローデータに基づき、超音波ローデータの取得のために使用された超音波イメージングモダリティに対応しない該対象の超音波画像を生成するよう適合化された、機械学習によってトレーニングされたユニットを提供するためのトレーニング済ユニット提供部(6)、及び、該対象(2)の提供された超音波ローデータに基づき、提供されたトレーニング済ユニットを用いて該対象(2)の画像を生成するための画像生成部(7)を含む。【選択図】図1

Description

本発明は、超音波ローデータ(生データ)を用いて対象(被検体)の画像を生成するための超音波画像生成(イメージング)システム、超音波画像生成(イメージング)方法及びコンピュータプログラムに関する。
超音波イメージングは医療診断において極めて頻繁に使用される。超音波イメージングは比較的費用がかからず、フレキシブルに使用できる。超音波イメージングは移動式使用が可能であり、例えば毎秒50(枚)までの超音波画像によるリアルタイムイメージングを提供する。しかしながら、超音波イメージングは画質が比較的低いという欠点を有する。
本発明の課題は、画質の改善を可能にする、対象(被検体)の画像を生成するための超音波イメージングシステム、超音波イメージング方法及びコンピュータプログラムを提供することである。
上記の課題は、対象(被検体)の画像を生成するための超音波画像生成システムによって解決される。該超音波画像生成システムは、
・超音波イメージングモダリティによって取得された対象の超音波ローデータを提供するための超音波データ提供部、
・対象の超音波ローデータに基づき、超音波ローデータの取得のために使用された超音波イメージングモダリティに対応しない当該対象の超音波画像を生成するよう適合化された、機械学習によってトレーニングされたユニットを提供するためのトレーニング済ユニット(Trainierte-Einheit:トレーニングされたユニット)提供部、及び、
・該対象の提供された超音波ローデータに基づき、提供されたトレーニング済ユニットを用いて該対象の画像を生成するための画像生成部
を含む。
超音波ローデータ(生データ)は対象について極めて多くの情報を含むが、この情報は既知の超音波再構成法によっては極めて小さい小部分しか使用されない。超音波ローデータに含まれている情報の大部分のこの不考慮は、とりわけ、既知の超音波画像の比較的不良な画質及びコントラスト不足をもたらす。しかしながら、画質を改善するために、これらの付加情報を利用可能にする方法については未だ知られていない。
超音波ローデータに含まれているが従来は考慮されていないこれらの情報は、超音波ローデータの生成のために使用された超音波イメージングモダリティに対応する超音波画像(複数)の再構成に使用されない、ニューラルネットワークのような機械学習によってトレーニングされたユニットを用いて抽出されることができることが、本発明によって認識された(明らかになった)。これは、超音波イメージングモダリティによって「通常」生成されることができる超音波画像(複数)に対応しない超音波画像(複数)が、超音波ローデータに基づき、トレーニング済ユニット(トレーニングされたユニット)を用いて生成されることができることを意味する。その代わりに、トレーニング済ユニットによって生成される超音波画像(複数)は、他のイメージングモダリティに対応する特徴(Charakteristika)を有し、超音波ローデータに含まれている情報はより良好に利用されることができる。例えば、超音波画像生成システムは、トレーニング済ユニットを使用することによって、コンピュータ断層撮影画像(CT画像)、磁気共鳴画像(MR画像)、ポジトロン放出断層撮影画像(PET画像)、単光子放出コンピュータ断層撮影画像(SPECT画像)又は磁気粒子画像(MPI画像)の特徴を有する超音波画像を再構成することができる。超音波イメージングモダリティに対応しない他の断層撮影超音波画像の再構成も可能である。従って、トレーニング済ユニットによって生成される超音波画像は、超音波ローデータの取得に使用された超音波イメージングモダリティによって通常生成される「通常の」超音波画像とは、トレーニング済ユニットによって生成される超音波画像が他のイメージングモダリティの特徴を有するという点において相違する。対象(被検体)についての超音波ローデータに含まれている情報をより良好に利用することによって、画質及び情報量(Informationsgehalt)(「コントラスト」)は改善されることができる。
原理的に、各イメージングモダリティは、当該イメージングモダリティに特徴的な画像を生成する。即ち、各イメージングモダリティに特異的な画像特徴(これは当該イメージングモダリティに画像を関連付ける(割り当てる)ことを可能にする)が存在することは既知である。CT画像は、例えばCT画像特徴を有するが、そのため、該CT画像はCTイメージングモダリティに対応することは当業者には明らかである。超音波ローデータの取得に使用された超音波イメージングモダリティに対応しない超音波画像は、他のイメージングモダリティに対応するこれらの画像特徴を有する超音波画像である。
超音波ローデータの取得のために使用された超音波イメージングモダリティではないイメージングモダリティに対応する対象の画像中の画像特徴は、好ましくは、画像に示される対象の対象特徴であり、該対象特徴は、超音波ローデータの取得に使用された超音波イメージングモダリティによって生成される対象の超音波画像においては視認可能ではないであろう。そのため、提供されたトレーニング済ユニットによって生成される超音波画像には、例えば、MR画像又は他のイメージングモダリティの画像においても視認可能であろうが、超音波ローデータの取得に使用された超音波イメージングモダリティの超音波画像においては視認可能ではない対象の性質(特性)が視認可能であり得る。
トレーニング済ユニット提供部から提供されたトレーニング済ユニットは、入力として、超音波ローデータを使用するが、超音波画像は使用しない。超音波画像の既知の標準的再構成の場合、超音波ローデータに含まれている対象情報の大部分が失われる。この情報喪失(損失)は、とりわけ、提供されたトレーニング済ユニットが入力として超音波ローデータを使用し、既に再構成された超音波画像を使用しないことによって回避することができる。
提供されたトレーニング済ユニットによって再構成された超音波画像は飽くまで(依然として)超音波画像であり、一般的に、スペックルパターン又は深度(距離)分解能低下(Tiefenabfall)のような典型的な超音波画像特徴を有する。尤も、この再構成された超音波画像は、超音波ローデータの取得に使用された超音波イメージングモダリティの「通常の」超音波画像においては視認可能ではないであろうが、例えばMR画像又は他のイメージングモダリティの画像においては視認可能な対象の特徴も示す。超音波ローデータの取得に使用された超音波イメージングモダリティではないイメージングモダリティの何れについて、超音波画像中の特徴が視認可能であるかについては、提供されたユニットのトレーニングのためにその画像が使用されたイメージングモダリティ(方式)に依存する。例えばMR画像がユニットのトレーニングのために使用された場合、トレーニング済ユニットによって再構成された超音波画像はMR画像特徴を有する、即ち、トレーニング済ユニットによって生成された超音波画像においては、通常は超音波画像において視認可能ではないが、MR画像において視認可能な対象の特徴が視認可能である。
トレーニング済ユニットによって生成された超音波画像は、例えばMR画像特徴を有する場合であっても、それにも拘らず、既述のように、深度分解能低下のような通常の超音波画像の性質を有することが可能な超音波画像である。深度(距離)分解能低下(Tiefenabfall)は、例えば、超音波プローブからの距離が増大する程、従って対象内における、例えば患者内における深度が増大する程、超音波信号が、例えば吸収や散乱のために、より弱くなり、そのため、信号対雑音比(SN比)も深度が増大する程低下することに関連する。
超音波画像は例えば2次元又は3次元の画像であることが可能である。超音波データ提供部は、超音波ローデータが記憶されており、記憶されている超音波ローデータを提供することができる記憶部であることが可能である。尤も、超音波データ提供部は、超音波ローデータを受信し、受信した超音波ローデータを提供する受信部であることも可能である。更に、超音波データ提供部は、超音波ローデータの取得に使用される超音波イメージングモダリティであることも可能である。
トレーニング済ユニット提供部は、この場合トレーニング済ユニットを提供する記憶部であることも可能である。尤も、トレーニング済ユニット提供部は、トレーニング済ユニットを受信し、受信したトレーニング済ユニットを提供するよう適合化された(構成された)受信部であることも可能である。
トレーニング済ユニットは、対象の超音波ローデータに基づき、超音波イメージングモダリティに対応しない該対象の超音波画像を生成するよう、機械学習によって適合化された即ちトレーニングされたユニットである。これは、トレーニング済ユニットは、超音波イメージングモダリティの超音波ローデータと他のイメージングモダリティの画像(複数)とによってトレーニングされたユニットであることを意味する。従って、トレーニング済ユニット提供部ないし提供されたトレーニング済ユニットは、トレーニング済ユニットのトレーニングの仕方によっても定義される。トレーニング済ユニット提供部は、a)超音波イメージングモダリティによって取得された超音波ローデータ及びb)他のイメージングモダリティによって取得された画像(複数)によってトレーニングされたトレーニング済ユニットを提供するよう適合化された部である。この他の画像は例えばCT画像、MR画像、PET画像、SPECT画像、MPI画像又は他のイメージングモダリティの画像である。提供されたトレーニング済ユニットは、超音波ローデータが入力されると、他のイメージングモダリティによって生成された画像(複数)を出力するようトレーニングされたものであり、この場合、出力される画像は、上述の通り、超音波画像であり、従って、正確には、他のイメージングモダリティによって生成された画像ではないため、これは、これらの画像を出力する目的でトレーニングが行われるが、これは達成(実現)されないことを意味する。換言すれば、トレーニングは、トレーニングされるべきユニットによって生成される出力画像と対応するトレーニング画像との間の差異(ずれ)が最小化されるよう実行される。
トレーニング中、例えばニューラルネットワークのようなユニットは、従って、超音波イメージングモダリティによって取得された超音波ローデータが入力されると、例えばMRイメージングモダリティのような他のイメージングモダリティの画像に対応する画像を生成する目的でトレーニングされる。尤も、入力として超音波ローデータを使用するトレーニング済ユニットは、出力画像として、既述の通り、正確には、この例で使用されるMR画像を生成しないが、MR画像において視認可能なMR画像特徴を有し、例えばスペックルパターン又は深度分解能低下を有する超音波画像を生成する。その結果、提供されたトレーニング済ユニットは、従って、同様に既述の通り、例えばMR画像を出力するという目的にも拘らず、トレーニングされるべきユニットによって超音波ローデータに基づき生成された超音波画像とこの例ではトレーニングのために使用されたMR画像との間の差異が最小化されるよう、トレーニングされる。
概念「イメージングモダリティ」は、医療診断においてイメージング方法のために使用される相応のクラス(ないし方式)の医用機器を意味し、この場合、同じイメージングモダリティの異なる医用機器はそれらの基礎をなすイメージング技術が互いに同等である。イメージングモダリティの一例は例えばCTである。イメージングモダリティの他の一例は例えばMRである。イメージングモダリティの更なる一例は例えばエコー超音波(Echo-Ultraschall)である。イメージングモダリティの更に他の一例は透過超音波である。更なるイメージングモダリティの一例はPETである。更に、更なるイメージングモダリティの例はSPECT及びMPIである。
超音波データ提供部は、好ましくは、超音波ローデータとして、超音波エコーローデータを提供するよう適合化されている。即ち、超音波ローデータを取得するために、超音波エコーイメージングモダリティが使用されることが好ましい。この超音波エコーイメージングモダリティに対応しない超音波画像は、この場合、超音波エコーイメージングモダリティの従って既知の超音波エコーイメージングモダリティの画像特徴ではない画像特徴を有する超音波画像である。この画像は、例えばCT画像特徴、MR画像特徴、SPECT画像特徴、PET画像特徴、MPI画像特徴又は他のイメージングモダリティの画像特徴を有する。超音波画像は、超音波透過型イメージングモダリティによって生成される画像中に通常含まれている透過超音波画像特徴を有することも可能である。例えば、トレーニング済ユニットによって生成された超音波画像は音速画像(Schallgeschwindigkeitsbild)であることが可能である。この目的のために、トレーニング済ユニットは、超音波透過型イメージングモダリティを用いて取得された音速画像によってトレーニングされることができる。
CT画像特徴を有する超音波画像であることを当業者に直ちに認識(理解)させる画像特徴の一例は、骨と組織の間の特徴的な強いコントラストであり、この場合、骨は相対的に明るく、組織は相対的に暗く表示される。MR画像特徴を有する超音波画像であることを当業者に直ちに認識(理解)させる典型的な画像特徴は組織コントラストに関する。特徴的なMR組織コントラストは、例えば異なる組織種類ないし異なる器官の判別を可能にする。頭部イメージングの場合、MR画像に典型的なMR画像特徴は、脳の白質と脳の灰白質とを極めて良好に区別させることができる。超音波エコー画像特徴を有する超音波画像であることを当業者に直ちに認識させる画像特徴は、例えばスペックルパターン、音波方向に沿ったシェーディング(Abschattungen)及び深度に依存する信号強度である。
超音波ローデータとして超音波エコーローデータが使用される場合、トレーニング済ユニットによって、更に改善された画質及び(更に)改善されたコントラストを有する他のイメージングモダリティの画像特徴を有する超音波画像を生成することができる。
超音波ローデータは、超音波画像を形成しない超音波データである。超音波ローデータは、例えば直接的に測定された超音波データ又は処理された、例えばフィルタ処理された超音波データである(但しこの処理は画像生成を含まない)。とりわけ、超音波ローデータは、0次元、1次元又は2次元であり得る超音波受信アレイの個別要素の測定データである。超音波ローデータは、送信超音波の周波数成分からのみ構成されること又は周波数シフトされた周波数成分(「ドプラシフト」)又は非線形プロセスによって生成されるより高次の高調波周波数成分(「高調波周波数」)から構成されることも可能である。
更に、超音波ローデータは、追加の調整(処理)によって生成可能である。これは、超音波エラストグラフィ(Elastographie)測定のための剪断波の測定又は特別な送信パルス波形及び例えばパルス反転又はパルスコーディングのようなコンビネーションを含む。
トレーニング済ユニット提供部は、好ましくは、対象の超音波ローデータに基づき、超音波ローデータの取得のために使用された超音波イメージングモダリティに対応しない対象の超音波画像を生成するよう適合化されたニューラルネットワークを、機械学習によってトレーニングされたユニットとして提供するよう適合化されている。とりわけ、トレーニング済ユニット提供部は、ニューラルネットワークとして、深層学習(ディープラーニング)ネットワークを提供するよう適合化されている。ニューラル深層学習ネットワークの使用は、更に改善された画質及び画像中のより多くの情報量をもたらすことができる。トレーニング済ユニット提供部は、ニューラルネットワークとして、不完全に(nicht vollstaendig)畳み込むニューラルネットワーク即ち不完全(non-fully)畳み込みニューラルネットワーク(Convolutional Neural Network:CNN)を提供するよう適合化されることも可能である。この種の不完全畳み込みニューラルネットワークの使用により、ニューラルネットワークに基づく超音波画像の生成は、パターン認識に依拠しないか又は少なくともパターン認識のみには依拠しない。これにより、生成される超音波画像の質は更に改善されることができる。不完全畳み込みニューラルネットワークは、畳み込み演算を実行しない少なくとも1つの層(“layer”)を有する。一実施形態では、不完全畳み込みニューラルネットワークは、畳み込み演算を実行するただ1つの層を有する。更なる一実施形態では、不完全畳み込みニューラルネットワークは、畳み込み演算を実行する複数の層を有し、この場合、畳み込み演算を実行する層の数(第1層数)は、畳み込み演算を実行しない層の数(第2層数)より小さい。好ましくは、第1層数は、不完全畳み込みニューラルネットワークの層数の30%以下、更に好ましくは20%以下を含む。これに応じて、第2層数は、不完全畳み込みニューラルネットワークの層数の好ましくは70%以上、更に好ましくは80%以上を含む。更に、好ましい一実施形態では、第1層数は不完全畳み込みニューラルネットワークの1つ又は2つの層のみを含み、第2層数は不完全畳み込みニューラルネットワークの残りの層、即ち不完全畳み込みニューラルネットワークの層の総数マイナス1又はマイナス2を含む。畳み込み演算を実行しない層は、例えば全結合層(英語では“fully connected layers”)及び/又は制限ボルツマンマシン(Restricted Boltzmann Machines:“RBM”)を含むことができる。一実施形態では、畳み込み演算を実行しない層は、全結合層(英語では“fully connected layers”)及び/又は制限ボルツマンマシン(“RBM”)のみから構成される。
超音波画像生成システムは、更に、超音波イメージングモダリティに対応しない対象の更なる画像を提供するための画像提供部を含むことができ、この場合、この更なる画像はトレーニング済ユニットを使用しないで生成されたものである。更に、超音波画像生成システムは、提供された更なる画像とトレーニング済ユニットを用いて生成された超音波画像を一緒に記録するよう適合化された記録部を含むことができる。記録部は、提供された更なる画像がトレーニング済ユニットを用いて生成された超音波画像と一緒に記録されるよう該更なる画像を変換するよう適合化されることも可能である。提供された更なる画像は、好ましくは、予め既に他のイメージングモダリティによって取得され記憶部に格納されている画像であり、この場合、記憶部がこの予め取得されている画像を提供する。この記憶部は、従って、画像提供部として理解されることができるであろう。この予め取得されている画像は、例えば、CT画像、MR画像、PET画像、SPECT画像、MPI画像又は超音波ローデータの取得のために使用された超音波イメージングモダリティとは異なる他のイメージングモダリティの画像である。予め取得されている画像は、これは好ましくは超音波ローデータに基づくものではなく、例えばCTローデータ又はMRローデータに基づくものであるが、超音波ローデータに基づきトレーニング済ユニットを用いて生成された超音波画像よりも、一層改善された画質を有することができる。トレーニング済ユニット及び超音波ローデータを用いて生成された超音波画像と一緒に記録されるよう、提供された更なる画像即ち例えばCT画像又はMR画像を変換することによって、更に改善された画質を有することができる対象の画像を提供することができる。
超音波画像生成システムは、エレメント決定部とインジケータ生成部を含むことができ、この場合、エレメント決定部は、トレーニング済ユニットを用いて生成された画像中におけるエレメントの位置を決定するよう適合化されており、インジケータ生成部は、提供された更なる画像におけるエレメントの位置を表示するインジケータを、記録(Registrierung)と決定された位置とに基づいて生成するよう適合化されている。エレメントは、とりわけ、例えばカテーテル又はニードルのような侵襲型器具であることが可能であり、この場合、提供された更なる画像は、侵襲型器具が身体に導入(挿入)される前に取得された画像であることが可能である。従って、提供された更なる画像は侵襲前画像であることが可能である。身体中における侵襲型器具の位置を確定(決定)するために、エレメント決定部及びインジケータ生成部によって、トレーニング済ユニットと超音波ローデータを用いて生成されかつ侵襲画像であり得る超音波画像中において、当該器具が検出されること、とりわけセグメント化されることが可能であり、かくして、この位置が、例えばCT画像又はMR画像である侵襲前画像中に表示されることができる。これにより、例えば、外科医が侵襲型器具を身体の内部で動かしている最中に、外科医をより良好にガイドすることを可能にすることができる。
記録部は、好ましくは、記録のために弾性変換を実行するよう適合化されている。弾性変換の使用は、トレーニング済ユニットを用いかつ超音波ローデータに基づいて生成された超音波画像の更に改善された記録、とりわけ更に改善された変換をもたらすことができる。これもまた、画質の更なる改善を可能にすることができる。侵襲的介入(手術)中の外科医の上記のガイドも、これによって改善されることができる。
画像提供部と画像生成部は、提供された更なる画像とトレーニング済ユニットを用いて生成された超音波画像とが同じイメージングモダリティに対応するよう適合化されていることが好ましい。これは、トレーニング済ユニットによって生成された超音波画像が、提供された更なる画像の取得に使用されたイメージングモダリティに対応する画像特徴を有することを意味する。換言すれば、この例では、ユニットのトレーニングのために、提供された更なる画像の取得にも使用されたイメージングモダリティの画像が使用されたのである。例えば、ユニットのトレーニングのために、MR画像が使用されたのであり、提供された更なる画像はMR画像なのである。これもまた、改善された記録、従って例えば更に改善された画質及び/又は侵襲的介入(手術)中における外科医の改善されたガイドをもたらすことができる。
超音波画像生成システムは、ユニットをトレーニングするためのトレーニング部を含むことができ、この場合、トレーニング部は、トレーニング済ユニットが対象の提供された超音波ローデータが入力されると提供された画像を出力するよう適合化されている。ここで、出力される画像は、既述の通り、超音波画像であり、従って、正確には、他のイメージングモダリティによって生成された画像ではないため、このことは、提供された画像を出力する目的でトレーニングが行われるが、これは達成(実現)されないことを意味する。換言すれば、トレーニングは、トレーニングされるべきユニットによって生成される出力画像と対応するトレーニング画像との間の差異が最小化されるよう実行される。
超音波画像生成システムは、従って、例えば超音波ローデータに基づいてCT画像特徴又はMR画像特徴を有する画像を生成するために使用されることができるだけではなく、トレーニング済ユニットを更にトレーニングするためにも使用されることができる。この更なるトレーニングは、機械学習によってトレーニングされたユニットの改善をもたらすことができ、従って、例えば超音波ローデータに基づいて生成されCT画像特徴又はMR画像特徴を有する画像の画質の更なる改善ももたらすことができる。
トレーニング部は、従って、トレーニング済ユニットが対象の提供された超音波ローデータが入力されると例えばMR画像のような他のイメージングモダリティの夫々の提供された画像を出力するよう、ユニットをトレーニングすることを試みる。トレーニングはこの目的で実行されるが、既述の通り、トレーニング済ユニットによって生成された超音波画像は、例えばトレーニングのために使用されるMR画像から判別される。この判別は、例えば、トレーニング済ユニットによって生成された超音波画像が上記の深度分解能低下のような超音波画像特徴を有することができることを基礎(基準)とする。トレーニング部は、他のイメージングモダリティのトレーニングのために使用される画像に可及的に良好に対応する超音波画像を生成するために、トレーニング済ユニットによって生成される超音波画像と他のイメージングモダリティのトレーニングのために使用される画像との間の差異が最小化されるよう、ユニットをトレーニングするよう適合化されている。
更に、上記の課題は、機械学習によってユニットをトレーニングするためのトレーニングシステムによって解決される。該トレーニングシステムは、
・超音波イメージングモダリティによって取得された又は超音波イメージングモダリティによる取得のシミュレーションによって生成された対象(被検体)の超音波ローデータを提供するための超音波データ提供部、
・機械学習によってトレーニングされるべきユニットを提供するためのトレーニング予定ユニット(Zu-Trainierende-Einheit:トレーニングされるべきユニット)提供部、
・超音波ローデータの取得に使用された超音波イメージングモダリティによって取得されたものではなくかつ超音波イメージングモダリティによる取得のシミュレーションによって生成されたものではない対象の画像を提供するための画像提供部、
・トレーニング済ユニットが対象の提供された超音波ローデータが入力されると提供された画像を出力するよう、提供されたトレーニング予定ユニットをトレーニングするためのトレーニング部
を含む。ここで、出力される画像は、既述の通り、超音波画像であり、従って、正確には、他のイメージングモダリティによって生成された画像ではないため、このことは、この画像を出力する目的でトレーニングが行われるが、これは達成(実現)されないことを意味する。換言すれば、トレーニングは、トレーニング予定ユニットによって生成される出力画像と対応するトレーニング画像との間の差異が最小化されるよう実行される。
トレーニング部は、従って、既述の通り、トレーニング済ユニットによって生成された超音波画像と例えばMR画像のような提供された画像との間の差異が最小化されるよう、構成されている。このように適正化(最適化)されたトレーニング済ユニットは、次いで、超音波ローデータに基づき、トレーニングのために使用された提供された画像の生成に使用されたイメージングモダリティの特徴を有する超音波画像を生成することになる。
画像提供部は、対象の画像が記憶される、かつ、記憶された画像を提供するよう適合化されている記憶部であることも可能である。画像提供部は、画像を受信するようかつ受信した画像を提供するよう適合化されている受信部であることも可能である。更に、画像提供部は、画像を取得するようかつ取得した画像を提供するよう適合化されている測定ないし取得部であることも可能である。例えば、画像提供部はCTシステム又はMRシステムであることが可能である。提供される画像は、例えば、CT画像、MR画像又は、例えばPET画像、SPECT画像又はMPI画像のような、超音波ローデータの取得に使用されたイメージングモダリティではない他のイメージングモダリティの画像である。
超音波データ提供部と画像提供部は、超音波ローデータ及び提供される画像を対象の同じ領域から、とりわけ同時に、取得するよう適合化されていることが好ましい。超音波ローデータ及び提供される画像の同時取得によって、及び、この同時に取得された超音波ローデータと例えばニューラルネットワークのようなユニットのトレーニングのための画像を使用することによって、対象の運動によるユニットのトレーニングの質の低下を阻止することができる。このため、トレーニング済ユニットが超音波ローデータに基づき例えばMR画像特徴を有する超音波画像を生成するために使用される場合、最終的にトレーニングされたユニットの改善、従って、画質の更なる改善が可能になる。
トレーニング部は、a)まず、提供された超音波ローデータに基づき、対象の超音波画像、とりわけ超音波断層撮影画像を、このためにトレーニング予定ユニットを使用することなく、生成するよう、b)次に、トレーニング済ユニットが対象の提供された超音波ローデータが入力されると生成された超音波画像を出力するようにユニットをトレーニングするよう、c)最後に、トレーニング済ユニットが対象の提供された超音波ローデータが入力されると、画像提供部から提供されたものであり、とりわけ断層撮影画像である提供された画像を出力するようにトレーニング済ユニットを更にトレーニングするよう、適合化されていると更に好ましい。ここで、出力される画像は、既述の通り、超音波画像であり、従って、正確には、他のイメージングモダリティによって生成された画像ではないため、このことは、この画像を出力する目的でトレーニングが行われるが、これは達成(実現)されないことを意味する。換言すれば、トレーニングは、トレーニング予定ユニットによって生成される出力画像と対応するトレーニング画像との間の差異が最小化されるよう、実行される。
従って、ユニットを2段階的にトレーニングするよう構成することが可能であり、この場合、第1段階では、幾何学的マッピング(Abbildung)がトレーニングされ、第2段階では、コントラストマッピング、即ち、他のイメージングモダリティに対する超音波イメージングモダリティのマッピングがトレーニングされる。この2段階プロセスによって、トレーニング済ユニットを更に改善することができ、従って、画像生成のためにトレーニング済ユニットが使用される場合、超音波ローデータに基づいて生成される例えばCT画像特徴又はMR画像特徴を有する超音波画像の質を更に改善することができる。更に、この2段階プロセスによって、トレーニングの成功をより迅速に達成することもできる。
超音波データ提供部は、超音波エコーローデータと超音波透過ローデータを超音波ローデータとして提供するよう、適合化されることも可能である。更に、トレーニング部は、a)まず、提供された超音波透過ローデータに基づき、対象の超音波断層撮影画像を、そのために、トレーニング予定ユニットを使用することなく、生成するよう、b)次に、トレーニング済ユニットが対象の提供された超音波透過ローデータが入力されると生成された超音波断層撮影画像を出力するようにユニットをトレーニングするよう、c)最後に、トレーニング済ユニットが対象の提供された超音波エコーローデータが入力されると、画像提供部から提供された前記提供された画像を出力するようにトレーニング済ユニットを更にトレーニングするよう、適合化されることが可能である。ここで、提供される画像は好ましくは断層撮影画像であり、出力される画像は、既述の通り、超音波画像であり、従って、正確には、他のイメージングモダリティによって生成された画像ではないため、これは、この場合も、この画像を出力する目的でトレーニングが行われるが、これは達成(実現)されないことを意味する。換言すれば、トレーニングは、トレーニング予定ユニットによって生成される出力画像と対応するトレーニング画像との間の差異が最小化されるよう、実行される。
超音波透過ローデータに基づく超音波断層撮影画像の生成は、例えば、とりわけ超音波透過ローデータのみを使用する既知の再構成であることが可能である。尤も、超音波透過ローデータに基づく超音波断層撮影画像の生成は、追加的に超音波エコーローデータを使用する再構成であることも可能であり、この場合、対象の内部における音速、とりわけ音速マップ(Schallgeschwindigkeitskarte)を決定するために、超音波透過ローデータが使用され、そして、超音波断層撮影画像は、既知の方法により、超音波エコーローデータを用いて、決定された音速を考慮して再構成される。
2段階トレーニングの枠内において、第1段階において既に超音波断層撮影画像によって幾何学的マッピングがトレーニングされ、かつ、第2段階中に、提供された断層撮影画像によってコントラスト伝達(Kontrastuebertragung)がトレーニングされると、即ち、これらの2つの段階において断層撮影画像によってトレーニングが行われると、トレーニング済ユニットのトレーニングは更に改善されることができる。このこともまた、改善されたトレーニング済ユニットが超音波ローデータに基づき例えばCT画像特徴又はMR画像特徴を有する超音波画像を生成するために使用される場合、最終的には、画質の更なる改善をもたらすことができる。
更に、上記の課題は、機械学習によってトレーニングされたユニットによって解決される。該ユニットは、対象の超音波ローデータに基づき、超音波ローデータの取得に使用された超音波イメージングモダリティに対応しない該対象の超音波画像を生成するよう適合化されている。
更に、上記の課題は、対象の画像を生成するための超音波画像生成方法によって解決される。該超音波画像生成方法は、
・超音波イメージングモダリティによって取得された対象の超音波ローデータを、超音波データ提供部によって提供すること、
・超音波ローデータの取得に使用された超音波イメージングモダリティに対応しない対象の超音波画像を該対象の超音波ローデータに基づき生成するよう適合化された機械学習によってトレーニングされたユニットを、トレーニング済ユニット提供部によって提供すること、及び、
・該対象の提供された超音波ローデータに基づき、提供されたトレーニングされたユニット(提供されたトレーニング済ユニット)を用いて、該対象の画像を、画像生成部によって生成すること
を含む。
更に、上記の課題は、機械学習によってユニットをトレーニングするためのトレーニング方法によって解決される。該トレーニング方法は、
・超音波イメージングモダリティによって取得された又は超音波イメージングモダリティによる取得のシミュレーションによって生成された対象の超音波ローデータを、超音波データ提供部によって提供すること、
・トレーニングされるべきユニットを、トレーニング済ユニット提供部によって提供すること、
・超音波ローデータの取得に使用された超音波イメージングモダリティによって取得されたものではなくかつ超音波イメージングモダリティによる取得のシミュレーションによって生成されたものではない該対象の画像を、画像提供部によって提供すること、及び、
・トレーニング済ユニットが該対象の提供された超音波ローデータが入力されると提供された画像を出力するよう、提供されたユニットを、トレーニングユニットによってトレーニングすること
を含む。ここで、出力される画像は、既述の通り、超音波画像であり、従って、正確には、他のイメージングモダリティによって生成された画像ではないため、このことは、提供された画像を出力する目的でトレーニングが行われるが、これは達成(実現)されないことを意味する。換言すれば、トレーニングは、トレーニング予定ユニットによって生成される出力画像と対応するトレーニング画像との間の差異が最小化されるように、実行される。
更に、上記の課題は、対象の画像を生成するためのコンピュータプログラムによって解決される。該コンピュータプログラムは、請求項15に記載の超音波画像生成方法が請求項1〜8の何れかに記載の画像を生成するための超音波画像生成システムで実行されるとき、該方法を実行するよう、適合化されている。
更に、上記の課題は、機械学習によってユニットをトレーニングするためのコンピュータプログラムによって解決される。該コンピュータプログラムは、請求項16に記載の機械学習によってユニットをトレーニングするためのトレーニング方法が請求項9〜13の何れかに記載の機械学習によってユニットをトレーニングするためのトレーニングシステムで実行されるとき、該方法を実行するよう、適合化されている。
請求項1に記載の超音波画像生成システム、請求項9に記載のトレーニングシステム、請求項15に記載の超音波画像生成方法、請求項16に記載のトレーニング方法及び請求項17及び18に記載のコンピュータプログラムは、とりわけ従属請求項に記載されているような、類似の及び/又は同一の実施形態を有すると理解されるべきである。
以下に本発明の実施例を添付の図面を参照して説明する。
対象の画像の生成のための超音波画像生成システムの一実施例を模式的かつ例示的に示す。 ニューラルネットワークの一例をトレーニングするためのトレーニングシステムの一実施例を模式的かつ例示的に示す。 トレーニングシステムのローデータ取得部の一例の詳細を模式的かつ例示的に示す。 対象の画像の生成のための超音波画像生成方法の一実施例を説明するフローチャートの一例を示す。 ニューラルネットワークの一例をトレーニングするためのトレーニングシステムの一実施例を説明するフローチャートの一例を示す。
図1には、患者の画像の生成のための超音波画像生成(イメージング)システムの一実施例が模式的かつ例示的に示されている。超音波画像生成システム1は、超音波測定装置4(即ち超音波イメージングモダリティ)と、超音波測定装置4を制御するための制御部5とを含む。超音波測定装置4及び制御部5を用いることによって、例えば、医師は患者台3上に存在する患者2の超音波ローデータを取得することができる。この実施例では、超音波測定装置4及び制御部5は、超音波エコーローデータを取得するために適合化されている。
超音波測定装置4は、例えば、超音波ローデータの取得中に医師が手持ち操作可能な装置(英語の「ハンドヘルド装置(handheld device)」)とすることができる。尤も、超音波測定装置は据置型装置であることも勿論可能である。更に、超音波測定装置は、例えば医師によって患者2に取り付けられたのち手から解放されることが可能であり、そのため、超音波ローデータの取得中に手持ち操作されない。
超音波測定装置4及び制御部5によって超音波ローデータは提供されることができるため、超音波測定装置4及び制御部5は、患者2の超音波ローデータの提供のための超音波データ提供部の構成要素として理解されることができる。
超音波画像生成システム1は、更に、機械学習によって生成されたユニットを、この例では患者の超音波ローデータに基づいて超音波エコーイメージングモダリティ4に対応しない当該患者の画像を生成するよう適合化されたニューラルネットワークを提供するためのトレーニング済ユニット提供部6を含む。従って、トレーニング済ユニット提供部は、この例では、ニューラルネットワーク提供部と称することもできる。この実施例では、トレーニング済ユニット提供部6は、MR画像特徴(Bildcharakteristika)を有する、例えばT1(重み付き)MR画像特徴を有する超音波画像を超音波ローデータに基づいて生成するよう適合化されており、この場合、ニューラルネットワークは深層学習ネットワーク、とりわけ不完全畳み込みニューラルネットワークである。更に、超音波画像生成システム1は、測定された超音波ローデータに基づき提供されたニューラルネットワークを用いて患者2のMR画像特徴を有する超音波画像を生成するための画像生成部7を含む。
超音波画像生成システム1は、好ましくは、超音波エコーイメージングモダリティ4に対応しない患者2の更なる画像を提供するための画像提供部8も含み、この場合、この画像はニューラルネットワークを用いないで生成されたものである。この実施例では、画像提供部8は、患者のMRローデータに基づき既知の再構成アルゴリズムを用いて予め、例えば既に数日前に生成されている患者のMR画像を提供するよう適合化されている。これらの既知の再構成アルゴリズムは、例えばk空間から位置空間(実空間ないし座標空間:Ortsraum)へのフーリエ変換を含む。この予め取得(撮像)されたMR画像は、画像生成部8によって生成された画像と共に、記録部9によって記録されることができ、この場合、予め取得されたMR画像はとりわけ弾性変換によって変換されることができる。従って、予め取得され変換されたMR画像は、画像生成部7によって生成された画像と共に記録されることによって生成されることができる。
更に、超音波画像生成システム1は、ニューラルネットワークを用いて生成されMR画像特徴を有する超音波画像におけるエレメントの位置を決定するよう適合化されたエレメント決定部10を有することができる。このために、エレメント決定部10は、例えば既知のセグメンテーションアルゴリズムを使用することができ、エレメントとは、例えば外科手術中に使用される侵襲型器具である。
この侵襲型器具は、超音波ローデータに基づき生成されMR画像特徴を有する超音波画像において、この画像の内部における該侵襲型器具の位置を確定(決定)するために、検出されることができる。MR画像特徴を有するこの超音波画像を、MRローデータに基づき生成されている予め取得されたMR画像と共に記録することによって、侵襲型器具の位置は予め取得されたMR画像においても示されることができる。予め取得されたMR画像が超音波ローデータに基づき生成されMR画像特徴を有する超音波画像よりも改善された画質を有する場合、MRローデータに基づき生成された「真正な(echt)」MR画像における侵襲型器具の位置の表示は、侵襲型器具を患者2の内部で動かす外科医のガイドを改善することができる。
MRローデータに基づき予め生成されたMR画像における侵襲型器具の位置を表示するために、MRローデータに基づき侵襲前に取得されたものである予め取得されたMR画像における侵襲型器具の位置を表示するインジケータを(上記)記録及び決定された位置に基づき生成するよう適合化されたインジケータ生成部11を使用することができる。
超音波画像生成システム1は、更に、ニューラルネットワークをトレーニングする(ニューラルネットワークに学習させる)ためのトレーニング部12を含み、トレーニング部12は、トレーニング済(トレーニングされた)ニューラルネットワークが患者の提供された超音波ローデータが入力されると画像提供部8によって生成されたMR画像を出力するよう、ニューラルネットワークをトレーニングする。即ち、超音波画像生成システム1は、超音波ローデータに基づきニューラルネットワークを用いて例えばMR画像特徴を有する超音波画像を生成するよう適合化されることができるだけではなく、ニューラルネットワークを更に改善するために当該ニューラルネットワークを更にトレーニングするよう適合化されることもできる。トレーニング部は、超音波ローデータが入力されるとMR画像が出力されるようニューラルネットワークをトレーニングすることを試みる。尤も、ニューラルネットワークによって生成された画像は超音波画像であるため、このことは近似的にのみ可能であることは明らかである。従って、トレーニング部12は、ニューラルネットワークによって生成された超音波画像とMR画像との間の差異が最小化されるようにニューラルネットワークをトレーニングするよう適合化される。従って、「トレーニング済ニューラルネットワークが患者の提供された超音波ローデータが入力されると[...]MR画像を出力するようニューラルネットワークをトレーニングする」という表現は、トレーニング部12が、相応の差異が最小化されることによって、ニューラルネットワークをこの目的でトレーニングするが、最終的にトレーニングされたニューラルネットワークから出力される超音波画像は正確にはMR画像に等しいのではなく、MR画像に可及的良好に対応(相当)することを意味する。
超音波画像生成システム1は、更に、例えばキーボード、コンピュータマウス、タッチパネル式ディスプレイ等のような入力部13と、例えばモニタのような出力部14を含む。超音波画像生成システム1は、とりわけ、画像生成部によって生成された画像を表示するよう適合化される。更に、例えば上記の予め取得され変換されたMR画像のような他の画像も出力部14に示されることができる。侵襲型器具の位置を表示するインジケータを有する予め取得されたMR画像も出力部14に示されることができる。
図2には、ニューラルネットワークのトレーニングのためのトレーニングシステムの一実施例が例示的かつ模式的に示されている。
トレーニングシステム30は、MRローデータ、超音波エコーローデータ及び超音波透過ローデータを取得するためのローデータ取得部20を含む。更に、トレーニングシステム30は、MRローデータの取得を制御するための及びMRローデータに基づきMR画像を再構成するためのMR制御再構成部21を含む。更に、トレーニングシステム30は、超音波エコーローデータ及び超音波透過ローデータの取得を制御するための超音波制御部22と、超音波透過ローデータ及び超音波エコーローデータに基づき超音波断層撮影画像を再構成するための超音波再構成部23を含み、この場合、超音波透過ローデータは患者の内部における音速の決定のために使用され、この音速は、次いで、超音波エコーローデータを用いた超音波断層撮影画像の再構成の際に考慮される。超音波再構成部23は、ニューラルネットワークを使用することなく超音波断層撮影画像を再構成するよう構成されるのが好ましい。超音波再構成部23は、その代わりに、既知の超音波断層撮影再構成アルゴリズムを使用することが好ましい。尤も、超音波再構成部23は、再構成のためにニューラルネットワークを使用するよう適合化されることも可能である。MR制御再構成部21も、MRローデータに基づくMR画像の再構成のために、ニューラルネットワークを使用せず、例えばk空間から位置空間へのフーリエ変換に基づく既知のMR再構成アルゴリズムを使用することが好ましい。尤も、MR制御再構成部21も、再構成のためにニューラルネットワークを使用するよう適合化されることも可能である。
ローデータ取得部20は超音波エコーローデータ及び超音波透過ローデータを取得するよう適合化されており、ローデータのこの取得は超音波制御部22によって制御されるため、ローデータ取得部20及び超音波制御部22は、患者2の超音波ローデータの提供のための超音波データ提供部の構成要素として理解することができる。ローデータ取得部20は更にMRローデータを取得し、MR制御再構成部21はこのMRローデータに基づき患者2のMR画像を再構成するため、ローデータ取得部20及びMR制御再構成部21は、超音波イメージングモダリティに対応しない患者2の画像の提供のための画像提供部の構成要素として理解することができる。ローデータ取得部20、MR制御再構成部21及び超音波制御部22は、MRローデータ、超音波エコーローデータ及び超音波透過ローデータが患者2の同じ領域から同時に取得されるよう適合化される。
トレーニングシステム30は、更に、トレーニングされるべきニューラルネットワークを提供するためのトレーニング予定ユニット提供部24と、提供されたニューラルネットワークをトレーニングするためのトレーニング部25を含む。トレーニング部25は、トレーニング済ニューラルネットワークが患者2の測定された超音波エコーローデータが入力されると再構成されたMR画像を出力するよう、提供されたニューラルネットワークをトレーニングする。ここで説明する例では、トレーニング予定ユニット(トレーニングされるべきユニット)はニューラルネットワークであるため、トレーニング予定ユニット提供部24は、ニューラルネットワーク提供部として理解することもできる。トレーニング部25は、この場合、ニューラルネットワークのこのトレーニングを2段階的に実行するよう適合化されることが好ましい。第1段階では、ニューラルネットワークは、トレーニング済ニューラルネットワークが患者2の超音波透過ローデータが入力されると再構成された超音波断層撮影画像を出力するよう、トレーニングされる。このトレーニングの後、第2段階において、ニューラルネットワークは、ニューラルネットワークが患者2の測定された超音波エコーローデータが入力されるとMR制御再構成部21によって再構成されたMR画像を出力するよう、トレーニングされる。
この場合も、トレーニング部25は、患者2の測定された超音波エコーローデータが入力されると再構成されたMR画像が出力されることを目的として、提供されたニューラルネットワークをトレーニングするが、ニューラルネットワークによって生成された画像は超音波画像でありMR画像ではないため、このことは正確には達成されないことに留意すべきである。尤も、ニューラルネットワークが再構成されたMR画像を出力することを目的としてトレーニングすることによって、トレーニング済ニューラルネットワークによって生成された超音波画像は再構成されたMR画像に可及的に良好に一致し、とりわけ対象(被検体)のMR画像特徴はニューラルネットワークによって生成された超音波画像において視認可能になる。トレーニング部25は、トレーニング済ニューラルネットワークによって生成された超音波画像と再構成されたMR画像との間の差異が最小化されるよう、提供されたニューラルネットワークをトレーニングする。従って、MR画像とトレーニング済ニューラルネットワークによって生成された超音波画像との間の差異を可及的に小さくすることが試みられる。
ニューラルネットワークのトレーニングは極めて多くのトレーニングセットで実行される。この場合、各トレーニングセットは患者の超音波画像ローデータ及びMR画像を有する(含む)。
トレーニングシステム30は、更に、キーボード、コンピュータマウス、タッチパネル式ディスプレイ等のような入力部26と、例えばモニタのような出力部27を含む。
ローデータ取得部20は、例えば超音波エコーローデータ及び超音波透過ローデータを取得するための超音波プローブ(ないしゾンデ)(複数)のための保持器(複数)と、これらの超音波プローブを含む。更に、ローデータ取得部20は、超音波プローブ(複数)を備えた保持器(複数)が結合(固定)されているMRシステムを含む。保持器(複数)は患者台3に結合(固定)されることも可能である。超音波プローブ(の表面)における流体充填マーカーによって、MR画像(複数)における各音波ヘッドの位置及び方向(配向)を測定することができる。かくして、MRシステムと超音波プローブ(複数)の両者の座標系が実現された。代替的に、例えば光学的トラッキングシステムのような他のトラッキング技術に基づく他のトラッキングシステムも使用可能である。
ローデータ取得部20は図3に多少詳しく記載されている。ローデータ取得部20は、超音波ローデータを取得するために、MRローデータ取得部30、超音波送受信器41及び超音波受信器42を含む。超音波透過ローデータを取得するために、超音波送受信器41は超音波送信器として駆動され、送信された超音波は超音波受信器42によって受信される。超音波送受信器41と超音波受信器42は、送信された超音波が患者2を通り抜けた後、超音波受信器42によって受信されるように配置される。この実施例では、超音波送受信器41は保持器40によって患者2の上方に配置され、超音波受信器42は患者台3に組み込まれている。超音波受信器42は、超音波受信器42が患者台3の上面に突出部が形成されないよう患者台3に組み込まれることが好ましい。とりわけ、超音波受信器42は患者台3内に埋め込まれること、例えば患者が視認できないよう(患者台3の)カバーの後(裏)側に配置されることが好ましい。
MRマーカー43は、MRローデータ取得部30によって規定される座標系における超音波送受信器41、42の位置及び方向(配向)を確定(決定)するために、超音波送受信器41と超音波受信器42に配されることができる。これにより、超音波エコーローデータ、超音波透過ローデータ及びMRローデータがすべて患者2の同じ領域に関するものであることが保証されることができる。対応する記録は、例えば超音波制御部22又はMR制御再構成部21によって実行することができる。MRマーカー(複数)43は、これらをMR画像において視認可能にするために、例えば水のような流体が充填されている。
以下に、対象(被検体)の画像を生成するための超音波画像生成方法の一実施例を図4に示されているフローチャートを参照して例示的に説明する。
ステップ101では、患者2の超音波ローデータが超音波データ提供部4、5によって提供される。とりわけ、制御部5によって制御される超音波測定装置4によって超音波エコーローデータが測定される。
ステップ102では、超音波エコーローデータに基づいて超音波イメージングモダリティに対応しない超音波画像が生成されるようトレーニングされたニューラルネットワークが提供される。とりわけ、ニューラルネットワークは、超音波エコーローデータに基づいてMR画像特徴を有する超音波画像が生成されるようトレーニングされたものである。
ステップ103では、ステップ102で提供されたニューラルネットワークを用いて、ステップ101で提供された超音波エコーローデータに基づき、画像生成部7によって、患者2の画像が生成される。これは、とりわけ、超音波測定装置4によって測定された超音波エコーローデータに基づき、ニューラルネットワークを用いて、患者のMR画像特徴を有する超音波画像が生成されることを意味する。ステップ104では、そのようにして生成された画像が出力部14において表示される。
以下に、ニューラルネットワークのトレーニングのためのトレーニング方法の一実施例を図5に示されているフローチャートを用いて例示的に説明する。
ステップ201では、超音波データ提供ユニット20、22によって患者2の超音波ローデータが提供される。とりわけ、超音波エコーローデータと超音波透過ローデータは、超音波制御部22によって制御されるローデータ取得部20によって同時に取得される。ステップ202では、画像提供部20、21によって患者2の画像が提供される。これは、とりわけ、MRローデータがローデータ取得部20によって超音波エコーローデータ及び超音波透過ローデータの測定と同時に測定されることを意味する。MRローデータは、次いで、MR画像に再構成される。
ステップ203では、トレーニング済ユニット提供部24からニューラルネットワークが提供され、ステップ204では、トレーニング部25は、トレーニング済ニューラルネットワークが患者2の提供された超音波ローデータが入力されると提供された画像を出力するよう、提供されたニューラルネットワークをトレーニングする。これは、トレーニング部25は、トレーニング済ニューラルネットワークが患者2の提供された超音波ローデータが入力されると提供された画像を出力する目的で、提供されたニューラルネットワークをトレーニングすることを意味する。尤も、トレーニング済ニューラルネットワークから出力される画像は超音波画像であるため、既述の通り、提供された画像と1対1の関係では等しくならない。それにも拘らず、トレーニング部25は、提供されたニューラルネットワークを上記の目的でトレーニングし、それによって、提供された画像とトレーニング済ニューラルネットワークによって生成された超音波画像との間の差異を最小化することを試みる。このトレーニングは2段階的に実行されることが可能であり、この場合、超音波透過ローデータ及び超音波エコーローデータは、ニューラルネットワークを使用することなく超音波断層撮影画像を再構成するために使用されることができ、そのために、この場合、第1段階では、ニューラルネットワークは、超音波エコーローデータが入力されるとトレーニング済ニューラルネットワークが再構成された超音波断層撮影画像を出力するよう、トレーニングされる。第2段階では、ネットワークは、超音波エコーローデータが入力されると再構成されたMR画像が出力されるよう、更にトレーニングされる。
上記の実施例ではニューラルネットワークによって生成された画像はMR画像特徴を有するが、ニューラルネットワークは、例えばCT画像特徴を有する超音波画像、PET画像特徴を有する超音波画像、SPECT画像特徴を有する超音波画像又はMPI画像特徴を有する超音波画像のような他のイメージングモダリティの画像特徴を有する超音波画像を、超音波ローデータに基づいて生成するよう、トレーニングされることもできる。
超音波ローデータに基づきMR画像特徴を有する超音波画像を生成するよう、ニューラルネットワークが構成されている場合、超音波画像は、所定のMRコントラストの画像特徴を有することができる。これは、ニューラルネットワークは、超音波ローデータに基づき、所望のコントラストを即ちとりわけ所望の組織タイプの(組織特異的)コントラストを有するMR画像特徴を有する超音波画像を生成するよう、トレーニングされることができることを意味する。画像は、例えば、T1画像特徴、T2画像特徴、T2画像特徴、プロトン密度画像、灌流画像特徴、脂肪含有(Fettgehalt)画像特徴、拡散画像特徴、フロー(Fluss)画像特徴、運動画像特徴、磁化移動(Magnetisierungstransfer)画像特徴、化学交換飽和移動(Chemischer-Austausch-Saettigungs-Transfer)画像特徴等を有することができる。
超音波画像生成システムは、異なるイメージングモダリティの画像特徴及び/又は同じイメージングモダリティの異なるコントラストタイプの画像特徴を有する超音波画像を夫々生成するようトレーニングされた複数のニューラルネットワークを提供するよう適合化されることも可能である。超音波画像生成システムは、生成されるべき超音波画像が対応することが望まれるイメージングモダリティの選択をユーザができるようにする選択部も有することができる。かくして、ユーザは、その後超音波ローデータに基づく画像生成のために使用される相応のニューラルネットワークを選択する可能性(手段)を有する。
ニューラルネットワークがトレーニングされたのち、超音波ローデータに基づくだけで、例えばCT画像特徴又はMR画像特徴を有する超音波画像のような超音波画像の極めて迅速な生成が可能になる。更に、超音波ローデータは極めて迅速に、即ち例えば毎秒50画像で、取得されることができるため、超音波画像生成システムは、例えば運動を極めて正確に観察するために、CT画像特徴又はMR画像特徴を有する超音波画像又は超音波ローデータの取得のために使用された超音波イメージングモダリティではない他のイメージングモダリティに対応する超音波画像を、所定の期間にわたって極めて大きな時間分解能で取得するために、使用されることができる。従って、例えばCT画像特徴又はMR画像特徴を有する超音波画像をリアルタイムで提供することが可能になる。
上記の実施例ではニューラルネットワークのトレーニングのために測定データが使用されるが、模擬データ(シミュレーションにより得られたデータ)、とりわけ模擬超音波ローデータ及び/又はシミュレーションに基づく画像もトレーニングのために使用されることができる。これらの模擬データは、例えば、実際の画像が含み得る画像アーチファクトを含まない理想化された画像である。これらの模擬データを使用することによって、ニューラルネットワークのトレーニングの質は一層改善されることができ、その結果、最終的には、例えばCT画像特徴を有する超音波画像又はMR画像特徴を有する超音波画像の生成の更なる改善を、トレーニング済ニューラルネットワークを用いて超音波ローデータに基づき、もたらすことができる。トレーニングのために、測定データと模擬データの組み合わせも使用することができる。
上記の実施例ではトレーニングは2段階的に実行されているが、トレーニングは例えば1段階的に実行することも可能であり、この場合、ニューラルネットワークは、患者の超音波ローデータが入力されるとニューラルネットワークが他のイメージングモダリティの提供画像即ち例えばMR制御再構成部21によって再構成されたMR画像を出力するよう、トレーニングされる。これに応じて、上記の実施例において説明した2段階トレーニングの第1段階は省略されることができる。
上記の実施例は医療用イメージングに関するものであるが、超音波に基づく画像生成及びトレーニングは、例えば材料科学(物性研究)又は超音波顕微鏡のような他の分野でも使用可能である。患者は人間又は動物の患者であることが可能である。更に、超音波に基づく画像生成システム及びトレーニングシステムは技術的(工学的)対象にも適用可能である。
上記の実施例では、トレーニング予定ユニット及びトレーニング済ユニットはニューラルネットワークであるが、これらのユニットは、機械学習(英語の“machine learning”)によってトレーニングされるないしはトレーニングされた他のユニットであることが可能である。これらのユニットは、例えば隠れマルコフ(Hidden Markov)モデル、教師付き(Supervised)辞書学習システム、ヘブ(Hebbian)学習システム又は勾配降下(Gradient Descent)学習システムであることが可能である。
(特許)請求の範囲において、用語「有する(aufweisen)」及び「含む(umfassen)」は(記載されていない)他の要素又はステップを排除せず、不定冠詞“ein”は複数であることを排除しない。
個々のシステム、個々の部又は個々の装置は、(特許)請求の範囲に記載されている複数の要素の機能を実行することができる。個々の機能および要素が異なる従属請求項に記載されているという事実は、これらの機能または要素の組み合わせも有利に使用できないということは意味しない。
1つ又は複数の部又は装置によって実行される超音波ローデータの提供、ニューラルネットワークの提供、画像の生成等のようなプロセスは、(記載されていない)他の数の部又は装置によっても実行されることができる。本発明の超音波画像生成方法によるこれらのプロセス及び/又は超音波画像生成システムの制御及び/又は本発明のトレーニング方法によるトレーニングシステムの制御は、コンピュータプログラムのプログラムコードとして及び/又は相応のハードウェアとして具現化されることができる。
コンピュータプログラムは、例えば、他のハードウェアの部分と一緒に又はその部分として駆動される光学記憶媒体又は固体記憶媒体のような適切な媒体に記憶及び/又は分散されることができる。尤も、コンピュータプログラムは、他の方式で、例えばインターネット又は他の電気通信システムを介して、作動される(実行される)ことも可能である。
(特許)請求の範囲における図面参照符号は、当該図面参照符号によって(特許)請求の範囲の対象及び保護範囲を限定するものとして理解すべきではない。
1 該超音波画像生成システム
2 対象
4、5 超音波データ提供部
6 トレーニング済ユニット提供部
7 画像生成部
8 画像提供部
9 記録部
10 エレメント決定部
11 インジケータ生成部
20、22 超音波データ提供部
20、21 画像提供部
24 トレーニング予定ユニット提供部
25 トレーニング部
30 トレーニングシステム
SANKETH VEDULA et al., "Toward CT-quality Ultrasound Imaging using Deep Learning", ARXIV.ORG, CORNELL UNIVERSITY LIBRARY, 201 OLIN LIBRARY CORNELL UNIVERSITY ITHACA, NY 14853, 17, October 2017, XP080825022
本発明の第1の視点により、対象の画像を生成するための超音波画像生成システムが提供される。該超音波画像生成システムは、
・超音波イメージングモダリティによって取得された対象の超音波ローデータを提供するための超音波データ提供部、
・対象の超音波ローデータに基づき、超音波ローデータの取得のために使用された超音波イメージングモダリティに対応しない該対象の超音波画像を生成するよう適合化された、機械学習によってトレーニングされたユニット(以下「トレーニング済ユニット」という。)を提供するためのトレーニング済ユニット提供部、及び、
・該対象の提供された超音波ローデータに基づき、提供されたトレーニング済ユニットを用いて該対象の画像を生成するための画像生成部
を含むことを特徴とする(形態1)。
本発明の第2の視点により、機械学習によってユニットをトレーニングするためのトレーニングシステムが提供される。該トレーニングシステムは、
・超音波イメージングモダリティによって取得された又は超音波イメージングモダリティによる取得のシミュレーションによって生成された対象の超音波ローデータを提供するための超音波データ提供部、
・機械学習によってトレーニングされるべきユニット(以下「トレーニング予定ユニット」という。)を提供するためのトレーニング予定ユニット提供部、
・超音波ローデータの取得に使用された超音波イメージングモダリティによって取得されたものではなくかつ超音波イメージングモダリティによる取得のシミュレーションによって生成されたものではない対象の画像を提供するための画像提供部、及び、
・トレーニング済ユニットが対象の提供された超音波ローデータが入力されると提供された画像を出力するよう、提供されたトレーニング予定ユニットをトレーニングするためのトレーニング部を含むことを特徴とする(形態9)。
本発明の第3の視点により、機械学習によってトレーニングされたユニットが提供される。該ユニットは、対象の超音波ローデータに基づき、超音波ローデータの取得に使用された超音波イメージングモダリティに対応しない該対象の超音波画像を生成するよう適合化されていることを特徴とする(形態14)。
本発明の第4の視点により、対象の画像を生成するための超音波画像生成方法が提供される。該超音波画像生成方法は、
・超音波イメージングモダリティによって取得された対象の超音波ローデータを、超音波データ提供部によって提供すること、
・超音波ローデータの取得に使用された超音波イメージングモダリティに対応しない対象の超音波画像を該対象の超音波ローデータに基づき生成するよう適合化された機械学習によってトレーニングされたユニットを、トレーニング済ユニット提供部によって提供すること、及び、
・該対象の提供された超音波ローデータに基づき、提供されたトレーニングされたユニットを用いて、該対象の画像を、画像生成部によって生成することを含むことを特徴とする(形態15)。
本発明の第5の視点により、機械学習によってユニットをトレーニングするためのトレーニング方法が提供される。該トレーニング方法は、
・超音波イメージングモダリティによって取得された又は超音波イメージングモダリティによる取得のシミュレーションによって生成された対象の超音波ローデータを、超音波データ提供部によって提供すること、
・トレーニングされるべきユニットを、トレーニング済ユニット提供部によって提供すること、
・超音波ローデータの取得に使用された超音波イメージングモダリティによって取得されたものではなくかつ超音波イメージングモダリティによる取得のシミュレーションによって生成されたものではない該対象の画像を、画像提供部によって提供すること、及び、
・トレーニング済ユニットが該対象の提供された超音波ローデータが入力されると提供された画像を出力するよう、提供されたユニットを、トレーニングユニットによってトレーニングすることを含むことを特徴とする(形態16)。
本発明の第6の視点により、対象の画像を生成するためのコンピュータプログラムが提供される。該コンピュータプログラムは、形態15の超音波画像生成方法が形態1〜8の何れかの画像を生成するための超音波画像生成システムで実行されるとき、該方法を実行するよう、適合化されていることを特徴とする(形態17)。
本発明の第7の視点により、機械学習によってユニットをトレーニングするためのコンピュータプログラムが提供される。該コンピュータプログラムは、形態16の機械学習によってユニットをトレーニングするためのトレーニング方法が形態9〜13の何れかの機械学習によってユニットをトレーニングするためのトレーニングシステムで実行されるとき、該方法を実行するよう、適合化されていることを特徴とする(形態18)
ここに、本発明の好ましい実施の形態を示す。
(形態1)上記第1の視点参照。
(形態2)形態1の超音波画像生成システムにおいて、超音波データ提供部は、超音波エコーイメージングモダリティによって取得された超音波エコーローデータを超音波ローデータとして提供するよう、適合化されていることが好ましい。
(形態3)形態1又は2の超音波画像生成システムにおいて、トレーニング済ユニット提供部は、コンピュータ断層撮影画像特徴、磁気共鳴画像特徴、ポジトロン放出断層撮影画像特徴、単光子放出コンピュータ断層撮影画像特徴及び磁気粒子画像特徴からなる群から選択される画像特徴を有する対象の画像を、該対象の超音波ローデータに基づき生成するよう適合化されたトレーニングされたユニットを、前記トレーニング済ユニットとして提供するよう、適合化されていることが好ましい。
(形態4)形態1〜3の何れかの超音波画像生成システムにおいて、トレーニング済ユニット提供部は、超音波ローデータの取得のために使用された超音波イメージングモダリティに対応しない対象の超音波画像を該対象の超音波ローデータに基づいて生成するよう適合化されたニューラルネットワークを、前記機械学習によってトレーニングされたユニットとして提供するよう、適合化されていることが好ましい。
(形態5)形態4の超音波画像生成システムにおいて、トレーニング済ユニット提供部は、不完全畳み込みニューラルネットワークを前記ニューラルネットワークとして提供するよう、適合化されていることが好ましい。
(形態6)形態1〜5の何れかの超音波画像生成システムにおいて、該超音波画像生成システムは、超音波イメージングモダリティに対応しない対象の更なる画像を提供するための画像提供部を含むこと、この更なる画像はトレーニング済ユニットを用いないで生成されたものであることが好ましい。
(形態7)形態6の超音波画像生成システムにおいて、該超音波画像生成システムは、提供された更なる画像とトレーニング済ユニットを用いて生成された画像とを一緒に記録するための記録部を含むことが好ましい。
(形態8)形態6又は7の超音波画像生成システムにおいて、該超音波画像生成システムは、
・トレーニング済ユニットを用いて生成された画像中におけるエレメントの位置を決定するためのエレメント決定部、及び、
・提供された更なる画像中における該エレメントの位置を表示するインジケータを、記録及び決定された位置に基づいて生成するためのインジケータ生成部
を含むことが好ましい。
(形態9)上記第2の視点参照。
(形態10)形態9のトレーニングシステムにおいて、超音波データ提供部と画像提供部は、超音波ローデータと画像を対象の同じ領域から取得するよう、適合化されていることが好ましい。
(形態11)形態9又は10のトレーニングシステムにおいて、トレーニング部は、a)まず、提供された超音波ローデータに基づき、対象の超音波画像を生成するよう、b)次に、トレーニング済ユニットが対象の提供された超音波ローデータが入力されると生成された超音波画像を出力するようにトレーニング予定ユニットをトレーニングするよう、c)最後に、トレーニング済ユニットが対象の提供された超音波ローデータが入力されると、画像提供部から提供された前記提供された画像を出力するようにユニットをトレーニングするよう、適合化されていることが好ましい。
(形態12)形態9〜11の何れかのトレーニングシステムにおいて、超音波データ提供部は、超音波エコーローデータと超音波透過ローデータを超音波ローデータとして提供するよう、適合化されていることが好ましい。
(形態13)形態12のトレーニングシステムにおいて、トレーニング部は、a)まず、提供された超音波透過ローデータに基づき、対象の超音波断層撮影画像を生成するよう、b)次に、トレーニング済ユニットが対象の提供された超音波エコーローデータが入力されると生成された超音波断層撮影画像を出力するようにユニットをトレーニングするよう、c)最後に、トレーニング済ユニットが対象の提供された超音波エコーローデータが入力されると、画像提供部から提供された前記提供された画像を出力するようにユニットをトレーニングするよう、適合化されていることが好ましい。
(形態14)上記第3の視点参照。
(形態15)上記第4の視点参照。
(形態16)上記第5の視点参照。
(形態17)上記第6の視点参照。
(形態18)上記第7の視点参照。
以下に本発明の実施例を添付の図面を参照して説明する。
以下に本発明の可能な態様を付記する。
[付記1]対象の画像を生成するための超音波画像生成システム。
該超音波画像生成システムは、
・超音波イメージングモダリティによって取得された対象の超音波ローデータを提供するための超音波データ提供部、
・対象の超音波ローデータに基づき、超音波ローデータの取得のために使用された超音波イメージングモダリティに対応しない該対象の超音波画像を生成するよう適合化された、機械学習によってトレーニングされたユニット(以下「トレーニング済ユニット」という。)を提供するためのトレーニング済ユニット提供部、及び、
・該対象の提供された超音波ローデータに基づき、提供されたトレーニング済ユニットを用いて該対象の画像を生成するための画像生成部
を含む。
[付記2]上記の超音波画像生成システムにおいて、超音波データ提供部は、超音波エコーイメージングモダリティによって取得された超音波エコーローデータを超音波ローデータとして提供するよう、適合化されている。
[付記3]上記の超音波画像生成システムにおいて、トレーニング済ユニット提供部は、コンピュータ断層撮影画像特徴、磁気共鳴画像特徴、ポジトロン放出断層撮影画像特徴、単光子放出コンピュータ断層撮影画像特徴及び磁気粒子画像特徴からなる群から選択される画像特徴を有する対象の画像を、該対象の超音波ローデータに基づき生成するよう適合化されたトレーニングされたユニットを、前記トレーニング済ユニットとして提供するよう、適合化されている。
[付記4]上記の超音波画像生成システムにおいて、トレーニング済ユニット提供部は、超音波ローデータの取得のために使用された超音波イメージングモダリティに対応しない対象の超音波画像を該対象の超音波ローデータに基づいて生成するよう適合化されたニューラルネットワークを、前記機械学習によってトレーニングされたユニットとして提供するよう、適合化されている。
[付記5]上記の超音波画像生成システムにおいて、トレーニング済ユニット提供部は、不完全畳み込みニューラルネットワークを前記ニューラルネットワークとして提供するよう、適合化されている。
[付記6]上記の超音波画像生成システムにおいて、該超音波画像生成システムは、超音波イメージングモダリティに対応しない対象の更なる画像を提供するための画像提供部を含むこと、この更なる画像はトレーニング済ユニットを用いないで生成されたものである。
[付記7]上記の超音波画像生成システムにおいて、該超音波画像生成システムは、提供された更なる画像とトレーニング済ユニットを用いて生成された画像とを一緒に記録するための記録部を含む。
[付記8]上記の超音波画像生成システムにおいて、
該超音波画像生成システムは、
・トレーニング済ユニットを用いて生成された画像中におけるエレメントの位置を決定するためのエレメント決定部、及び、
・提供された更なる画像中における該エレメントの位置を表示するインジケータを、記録及び決定された位置に基づいて生成するためのインジケータ生成部
を含む。
[付記9]機械学習によってユニットをトレーニングするためのトレーニングシステム。
該トレーニングシステムは、
・超音波イメージングモダリティによって取得された又は超音波イメージングモダリティによる取得のシミュレーションによって生成された対象の超音波ローデータを提供するための超音波データ提供部、
・機械学習によってトレーニングされるべきユニット(以下「トレーニング予定ユニット」という。)を提供するためのトレーニング予定ユニット提供部、
・超音波ローデータの取得に使用された超音波イメージングモダリティによって取得されたものではなくかつ超音波イメージングモダリティによる取得のシミュレーションによって生成されたものではない対象の画像を提供するための画像提供部、及び、
・トレーニング済ユニットが対象の提供された超音波ローデータが入力されると提供された画像を出力するよう、提供されたトレーニング予定ユニットをトレーニングするためのトレーニング部
を含む。
[付記10]上記のトレーニングシステムにおいて、超音波データ提供部と画像提供部は、超音波ローデータと画像を対象の同じ領域から、とりわけ同時に、取得するよう、適合化されている。
[付記11]上記のトレーニングシステムにおいて、トレーニング部は、a)まず、提供された超音波ローデータに基づき、対象の超音波画像を生成するよう、b)次に、トレーニング済ユニットが対象の提供された超音波ローデータが入力されると生成された超音波画像を出力するようにトレーニング予定ユニットをトレーニングするよう、c)最後に、トレーニング済ユニットが対象の提供された超音波ローデータが入力されると、画像提供部から提供された前記提供された画像を出力するようにユニットをトレーニングするよう、適合化されている。
[付記12]上記のトレーニングシステムにおいて、超音波データ提供部は、超音波エコーローデータと超音波透過ローデータを超音波ローデータとして提供するよう、適合化されている。
[付記13]上記のトレーニングシステムにおいて、トレーニング部は、a)まず、提供された超音波透過ローデータに基づき、対象の超音波断層撮影画像を生成するよう、b)次に、トレーニング済ユニットが対象の提供された超音波透過ローデータが入力されると生成された超音波断層撮影画像を出力するようにユニットをトレーニングするよう、c)最後に、トレーニング済ユニットが対象の提供された超音波エコーローデータが入力されると、画像提供部から提供された前記提供された画像を出力するようにユニットをトレーニングするよう、適合化されている。
[付記14]機械学習によってトレーニングされたユニット。
該ユニットは、対象の超音波ローデータに基づき、超音波ローデータの取得に使用された超音波イメージングモダリティに対応しない該対象の超音波画像を生成するよう適合化されている。
[付記15]対象の画像を生成するための超音波画像生成方法。
該超音波画像生成方法は、
・超音波イメージングモダリティによって取得された対象の超音波ローデータを、超音波データ提供部によって提供すること、
・超音波ローデータの取得に使用された超音波イメージングモダリティに対応しない対象の超音波画像を該対象の超音波ローデータに基づき生成するよう適合化された機械学習によってトレーニングされたユニットを、トレーニング済ユニット提供部によって提供すること、及び、
・該対象の提供された超音波ローデータに基づき、提供されたトレーニングされたユニットを用いて、該対象の画像を、画像生成部によって生成すること
を含む。
[付記16]機械学習によってユニットをトレーニングするためのトレーニング方法。
該トレーニング方法は、
・超音波イメージングモダリティによって取得された又は超音波イメージングモダリティによる取得のシミュレーションによって生成された対象の超音波ローデータを、超音波データ提供部によって提供すること、
・トレーニングされるべきユニットを、トレーニング済ユニット提供部によって提供すること、
・超音波ローデータの取得に使用された超音波イメージングモダリティによって取得されたものではなくかつ超音波イメージングモダリティによる取得のシミュレーションによって生成されたものではない該対象の画像を、画像提供部によって提供すること、及び、
・トレーニング済ユニットが該対象の提供された超音波ローデータが入力されると提供された画像を出力するよう、提供されたユニットを、トレーニングユニットによってトレーニングすること
を含む。
[付記17]対象の画像を生成するためのコンピュータプログラム。
該コンピュータプログラムは、付記15に記載の超音波画像生成方法が付記1〜8の何れかに記載の画像を生成するための超音波画像生成システムで実行されるとき、該方法を実行するよう、適合化されている。
[付記18]機械学習によってユニットをトレーニングするためのコンピュータプログラム。
該コンピュータプログラムは、付記16に記載の機械学習によってユニットをトレーニングするためのトレーニング方法が付記9〜13の何れかに記載の機械学習によってユニットをトレーニングするためのトレーニングシステムで実行されるとき、該方法を実行するよう、適合化されている。

Claims (18)

  1. 対象の画像を生成するための超音波画像生成システムであって、
    該超音波画像生成システム(1)は、
    ・超音波イメージングモダリティによって取得された対象(2)の超音波ローデータを提供するための超音波データ提供部(4、5)、
    ・対象の超音波ローデータに基づき、超音波ローデータの取得のために使用された超音波イメージングモダリティに対応しない該対象の超音波画像を生成するよう適合化された、機械学習によってトレーニングされたユニット(以下「トレーニング済ユニット」という。)を提供するためのトレーニング済ユニット提供部(6)、及び、
    ・該対象(2)の提供された超音波ローデータに基づき、提供されたトレーニング済ユニットを用いて該対象(2)の画像を生成するための画像生成部(7)
    を含むこと
    を特徴とする超音波画像生成システム。
  2. 請求項1に記載の超音波画像生成システムにおいて、
    超音波データ提供部(4、5)は、超音波エコーイメージングモダリティによって取得された超音波エコーローデータを超音波ローデータとして提供するよう、適合化されていること
    を特徴とする超音波画像生成システム。
  3. 請求項1又は2に記載の超音波画像生成システムにおいて、
    トレーニング済ユニット提供部(6)は、コンピュータ断層撮影画像特徴、磁気共鳴画像特徴、ポジトロン放出断層撮影画像特徴、単光子放出コンピュータ断層撮影画像特徴及び磁気粒子画像特徴からなる群から選択される画像特徴を有する対象の画像を、該対象の超音波ローデータに基づき生成するよう適合化されたトレーニングされたユニットを、前記トレーニング済ユニットとして提供するよう、適合化されていること
    を特徴とする超音波画像生成システム。
  4. 請求項1〜3の何れかに記載の超音波画像生成システムにおいて、
    トレーニング済ユニット提供部(6)は、超音波ローデータの取得のために使用された超音波イメージングモダリティに対応しない対象の超音波画像を該対象の超音波ローデータに基づいて生成するよう適合化されたニューラルネットワークを、前記機械学習によってトレーニングされたユニットとして提供するよう、適合化されていること
    を特徴とする超音波画像生成システム。
  5. 請求項4に記載の超音波画像生成システムにおいて、
    トレーニング済ユニット提供部(6)は、不完全畳み込みニューラルネットワークを前記ニューラルネットワークとして提供するよう、適合化されていること
    を特徴とする超音波画像生成システム。
  6. 請求項1〜5の何れかに記載の超音波画像生成システムにおいて、
    該超音波画像生成システム(1)は、超音波イメージングモダリティに対応しない対象(2)の更なる画像を提供するための画像提供部(8)を含むこと、この更なる画像はトレーニング済ユニットを用いないで生成されたものであること
    を特徴とする超音波画像生成システム。
  7. 請求項6に記載の超音波画像生成システムにおいて、
    該超音波画像生成システム(1)は、提供された更なる画像とトレーニング済ユニットを用いて生成された画像とを一緒に記録するための記録部(9)を含むこと
    を特徴とする超音波画像生成システム。
  8. 請求項6又は7に記載の超音波画像生成システムにおいて、
    該超音波画像生成システム(1)は、
    ・トレーニング済ユニットを用いて生成された画像中におけるエレメントの位置を決定するためのエレメント決定部(10)、及び、
    ・提供された更なる画像中における該エレメントの位置を表示するインジケータを、記録及び決定された位置に基づいて生成するためのインジケータ生成部(11)
    を含むこと
    を特徴とする超音波画像生成システム。
  9. 機械学習によってユニットをトレーニングするためのトレーニングシステムであって、
    該トレーニングシステム(30)は、
    ・超音波イメージングモダリティによって取得された又は超音波イメージングモダリティによる取得のシミュレーションによって生成された対象(2)の超音波ローデータを提供するための超音波データ提供部(20、22)、
    ・機械学習によってトレーニングされるべきユニット(以下「トレーニング予定ユニット」という。)を提供するためのトレーニング予定ユニット提供部(24)、
    ・超音波ローデータの取得に使用された超音波イメージングモダリティによって取得されたものではなくかつ超音波イメージングモダリティによる取得のシミュレーションによって生成されたものではない対象(2)の画像を提供するための画像提供部(20、21)、及び、
    ・トレーニング済ユニットが対象(2)の提供された超音波ローデータが入力されると提供された画像を出力するよう、提供されたトレーニング予定ユニットをトレーニングするためのトレーニング部(25)
    を含むこと
    を特徴とするトレーニングシステム。
  10. 請求項9に記載のトレーニングシステムにおいて、
    超音波データ提供部(20、22)と画像提供部(20、21)は、超音波ローデータと画像を対象(2)の同じ領域から、とりわけ同時に、取得するよう、適合化されていること
    を特徴とするトレーニングシステム。
  11. 請求項9又は10に記載のトレーニングシステムにおいて、
    トレーニング部(25)は、a)まず、提供された超音波ローデータに基づき、対象(2)の超音波画像を生成するよう、b)次に、トレーニング済ユニットが対象(2)の提供された超音波ローデータが入力されると生成された超音波画像を出力するようにトレーニング予定ユニットをトレーニングするよう、c)最後に、トレーニング済ユニットが対象(2)の提供された超音波ローデータが入力されると、画像提供部から提供された前記提供された画像を出力するようにユニットをトレーニングするよう、適合化されていること
    を特徴とするトレーニングシステム。
  12. 請求項9〜11の何れかに記載のトレーニングシステムにおいて、
    超音波データ提供部(20、22)は、超音波エコーローデータと超音波透過ローデータを超音波ローデータとして提供するよう、適合化されていること
    を特徴とするトレーニングシステム。
  13. 請求項11及び12に記載のトレーニングシステムにおいて、
    トレーニング部(25)は、a)まず、提供された超音波透過ローデータに基づき、対象(2)の超音波断層撮影画像を生成するよう、b)次に、トレーニング済ユニットが対象(2)の提供された超音波透過ローデータが入力されると生成された超音波断層撮影画像を出力するようにユニットをトレーニングするよう、c)最後に、トレーニング済ユニットが対象(2)の提供された超音波エコーローデータが入力されると、画像提供部から提供された前記提供された画像を出力するようにユニットをトレーニングするよう、適合化されていること
    を特徴とするトレーニングシステム。
  14. 機械学習によってトレーニングされたユニットであって、
    該ユニットは、対象の超音波ローデータに基づき、超音波ローデータの取得に使用された超音波イメージングモダリティに対応しない該対象の超音波画像を生成するよう適合化されていること
    を特徴とするユニット。
  15. 対象の画像を生成するための超音波画像生成方法であって、
    該超音波画像生成方法は、
    ・超音波イメージングモダリティによって取得された対象(2)の超音波ローデータを、超音波データ提供部(4、5)によって提供すること、
    ・超音波ローデータの取得に使用された超音波イメージングモダリティに対応しない対象の超音波画像を該対象の超音波ローデータに基づき生成するよう適合化された機械学習によってトレーニングされたユニットを、トレーニング済ユニット提供部(6)によって提供すること、及び、
    ・該対象(2)の提供された超音波ローデータに基づき、提供されたトレーニングされたユニットを用いて、該対象(2)の画像を、画像生成部(7)によって生成すること
    を含むこと
    を特徴とする超音波画像生成方法。
  16. 機械学習によってユニットをトレーニングするためのトレーニング方法であって、
    該トレーニング方法は、
    ・超音波イメージングモダリティによって取得された又は超音波イメージングモダリティによる取得のシミュレーションによって生成された対象(2)の超音波ローデータを、超音波データ提供部(20、22)によって提供すること、
    ・トレーニングされるべきユニットを、トレーニング済ユニット提供部(24)によって提供すること、
    ・超音波ローデータの取得に使用された超音波イメージングモダリティによって取得されたものではなくかつ超音波イメージングモダリティによる取得のシミュレーションによって生成されたものではない該対象(2)の画像を、画像提供部(20、21)によって提供すること、及び、
    ・トレーニング済ユニットが該対象(2)の提供された超音波ローデータが入力されると提供された画像を出力するよう、提供されたユニットを、トレーニングユニット(25)によってトレーニングすること
    を含むこと
    を特徴とするトレーニング方法。
  17. 対象の画像を生成するためのコンピュータプログラムであって、
    該コンピュータプログラムは、請求項15に記載の超音波画像生成方法が請求項1〜8の何れかに記載の画像を生成するための超音波画像生成システムで実行されるとき、該方法を実行するよう、適合化されていること
    を特徴とするコンピュータプログラム。
  18. 機械学習によってユニットをトレーニングするためのコンピュータプログラムであって、
    該コンピュータプログラムは、請求項16に記載の機械学習によってユニットをトレーニングするためのトレーニング方法が請求項9〜13の何れかに記載の機械学習によってユニットをトレーニングするためのトレーニングシステム(30)で実行されるとき、該方法を実行するよう、適合化されていること
    を特徴とするコンピュータプログラム。
JP2020524882A 2017-11-08 2018-11-07 超音波画像生成システム Active JP6982689B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
DE102017126158.3 2017-11-08
DE102017126158.3A DE102017126158A1 (de) 2017-11-08 2017-11-08 Ultraschall-Bilderzeugungssystem
PCT/EP2018/080495 WO2019092033A1 (de) 2017-11-08 2018-11-07 Ultraschall-bilderzeugungssystem

Publications (2)

Publication Number Publication Date
JP2021502164A true JP2021502164A (ja) 2021-01-28
JP6982689B2 JP6982689B2 (ja) 2021-12-17

Family

ID=64270864

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020524882A Active JP6982689B2 (ja) 2017-11-08 2018-11-07 超音波画像生成システム

Country Status (6)

Country Link
US (1) US11295441B2 (ja)
EP (1) EP3706636B1 (ja)
JP (1) JP6982689B2 (ja)
CN (1) CN111629669B (ja)
DE (1) DE102017126158A1 (ja)
WO (1) WO2019092033A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7242409B2 (ja) * 2019-04-26 2023-03-20 キヤノンメディカルシステムズ株式会社 医用画像処理装置、超音波診断装置及び学習済モデルの作成方法
JP7485512B2 (ja) * 2019-12-26 2024-05-16 キヤノンメディカルシステムズ株式会社 医用情報処理装置、医用情報処理方法、及び医用情報処理プログラム
CN112022348A (zh) * 2020-09-11 2020-12-04 杭州微引科技有限公司 一种在ct和ai双引导下的穿刺消融术中导航系统
CN112465786A (zh) * 2020-12-01 2021-03-09 平安科技(深圳)有限公司 模型训练方法、数据处理方法、装置、客户端及存储介质
CN113112507B (zh) * 2021-03-30 2023-08-22 上海联影智能医疗科技有限公司 灌注影像分析方法、系统、电子设备及存储介质
US11308615B1 (en) 2021-07-01 2022-04-19 Maurice Nessim Systems and processes for improving medical diagnoses
WO2024069156A1 (en) * 2022-09-27 2024-04-04 Cmr Surgical Limited Processing surgical data
GB202214067D0 (en) * 2022-09-27 2022-11-09 Cmr Surgical Ltd Processing surgical data

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010264231A (ja) * 2009-04-14 2010-11-25 Fujifilm Corp 超音波診断装置
JP2011524772A (ja) * 2008-06-20 2011-09-08 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 生検実施のための方法及びシステム

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6569097B1 (en) * 2000-07-21 2003-05-27 Diagnostics Ultrasound Corporation System for remote evaluation of ultrasound information obtained by a programmed application-specific data collection device
US7331925B2 (en) * 2000-07-21 2008-02-19 Verathon, Inc. System for remote evaluation of ultrasound information obtained by a programmed application-specific data collection device
CN100548223C (zh) * 2003-05-08 2009-10-14 株式会社日立医药 超声诊断设备
JP4590256B2 (ja) * 2004-05-20 2010-12-01 富士フイルム株式会社 超音波撮像装置、超音波画像処理方法、及び、超音波画像処理プログラム
DE102005060582A1 (de) * 2005-12-17 2007-07-05 Ndt Systems & Services Ag Verfahren und System zur zerstörungsfreien Prüfung eines metallischen Werkstücks
US20140082542A1 (en) * 2010-07-19 2014-03-20 Qview, Inc. Viewing and correlating between breast ultrasound and mammogram or breast tomosynthesis images
US9513368B2 (en) * 2010-06-30 2016-12-06 General Electric Company Method and system for ultrasound data processing
CA2845044C (en) * 2011-08-12 2023-03-28 Jointvue, Llc 3-d ultrasound imaging device and methods
KR101323330B1 (ko) * 2011-12-28 2013-10-29 삼성메디슨 주식회사 결정 데이터에 기초하여 벡터 도플러 영상을 제공하는 초음파 시스템 및 방법
IN2015DN00764A (ja) * 2012-08-21 2015-07-03 Maui Imaging Inc
KR102248844B1 (ko) * 2013-10-10 2021-05-06 삼성전자주식회사 초음파 영상 생성 방법 및 초음파 진단 장치.
JP2017500943A (ja) * 2013-12-18 2017-01-12 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 超音波血栓溶解処置のための超音波および計算機断層撮影画像の位置合わせのためのシステムおよび方法
KR102328269B1 (ko) 2014-10-23 2021-11-19 삼성전자주식회사 초음파 영상 장치 및 그 제어 방법
US10438380B2 (en) * 2014-12-10 2019-10-08 Koninklijke Philips N.V. Systems and methods for translation of medical imaging using machine learning
US10430688B2 (en) * 2015-05-27 2019-10-01 Siemens Medical Solutions Usa, Inc. Knowledge-based ultrasound image enhancement
JP6736864B2 (ja) * 2015-10-09 2020-08-05 コニカミノルタ株式会社 超音波画像診断装置
CN205563574U (zh) * 2016-01-29 2016-09-07 乐普(北京)医疗器械股份有限公司 一种超声成像系统
CN106373109B (zh) * 2016-08-31 2018-10-26 南方医科大学 一种医学图像模态合成的方法
EP3509696A1 (en) * 2016-09-06 2019-07-17 Elekta, Inc. Neural network for generating synthetic medical images
CN107223035B (zh) * 2017-01-23 2021-01-15 深圳迈瑞生物医疗电子股份有限公司 一种成像系统、方法及超声成像系统

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011524772A (ja) * 2008-06-20 2011-09-08 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 生検実施のための方法及びシステム
JP2010264231A (ja) * 2009-04-14 2010-11-25 Fujifilm Corp 超音波診断装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
SANKETH VEDULA, ET. AL: "TOWARDS CT-QUALITY ULTRASOUND IMAGING USING DEEP LEARNING", CORNELL UNIVERSITY LIBRARY, JPN7021001476, 17 October 2017 (2017-10-17), ISSN: 0004499012 *

Also Published As

Publication number Publication date
US20200286228A1 (en) 2020-09-10
CN111629669B (zh) 2023-07-18
DE102017126158A1 (de) 2019-05-09
WO2019092033A1 (de) 2019-05-16
EP3706636A1 (de) 2020-09-16
CN111629669A (zh) 2020-09-04
JP6982689B2 (ja) 2021-12-17
EP3706636B1 (de) 2024-05-01
US11295441B2 (en) 2022-04-05

Similar Documents

Publication Publication Date Title
JP6982689B2 (ja) 超音波画像生成システム
EP3559903B1 (en) Machine learning of anatomical model parameters
CN110381845B (zh) 具有用于导出成像数据和组织信息的神经网络的超声成像系统
US10957013B2 (en) Method and apparatus for synthesizing medical images
KR102094502B1 (ko) 의료 영상들의 정합 방법 및 장치
CN107205724B (zh) 成像方法以及进行剪切波弹性成像的装置
JP5481069B2 (ja) 対象物の少なくとも一部を細かく再現したものを再構成する再構成ユニット
US11564663B2 (en) Ultrasound imaging apparatus and control method thereof
JP7216131B2 (ja) 超音波画像のシーケンスを視覚化する方法、コンピュータプログラム製品及び超音波システム
US20100324420A1 (en) Method and System for Imaging
US20220051401A1 (en) Providing a scene with synthetic contrast
KR20170086311A (ko) 의료 영상 장치 및 그 동작방법
JP2021519181A (ja) 超音波画像システム及び方法
KR20210075831A (ko) 단일 초음파 프로브를 이용한 정량적 이미징 방법 및 장치
Maneas et al. Deep learning for instrumented ultrasonic tracking: From synthetic training data to in vivo application
US20230320700A1 (en) Apparatus and method for automatic ultrasound segmentation for visualization and measurement
EP2599444B1 (en) Method and device for determining the elastic modulus of a biological tissue
CN113194837A (zh) 用于帧索引和图像复查的系统和方法
US20220156905A1 (en) Provision of an optimum subtraction data set
US20210177380A1 (en) Method and apparatus for quantitative ultrasound imaging using single-ultrasound probe
KR101956460B1 (ko) 초음파 의료영상 장치를 이용한 미세석회화 조직 검출 방법 및 그 초음파 의료영상 장치
CN115551416A (zh) 对髋部进行测量
KR20150059098A (ko) 영상에 복수의 모델을 피팅하는 영상 표시 장치 및 그 방법

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200612

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200612

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201023

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210421

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210511

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20210804

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211011

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211026

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211119

R150 Certificate of patent or registration of utility model

Ref document number: 6982689

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150