JP7139397B2 - ディープニューラルネットワークおよび測定データの再帰的間引きを使用して医用画像を再構築するためのシステムおよび方法 - Google Patents

ディープニューラルネットワークおよび測定データの再帰的間引きを使用して医用画像を再構築するためのシステムおよび方法 Download PDF

Info

Publication number
JP7139397B2
JP7139397B2 JP2020190375A JP2020190375A JP7139397B2 JP 7139397 B2 JP7139397 B2 JP 7139397B2 JP 2020190375 A JP2020190375 A JP 2020190375A JP 2020190375 A JP2020190375 A JP 2020190375A JP 7139397 B2 JP7139397 B2 JP 7139397B2
Authority
JP
Japan
Prior art keywords
decimated
measurement data
data
deep neural
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020190375A
Other languages
English (en)
Other versions
JP2021099794A (ja
Inventor
ハリハラン・ラヴィシャンカール
ダテシュ・ダヤナンド・シャンバグ
Original Assignee
ジーイー・プレシジョン・ヘルスケア・エルエルシー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ジーイー・プレシジョン・ヘルスケア・エルエルシー filed Critical ジーイー・プレシジョン・ヘルスケア・エルエルシー
Publication of JP2021099794A publication Critical patent/JP2021099794A/ja
Application granted granted Critical
Publication of JP7139397B2 publication Critical patent/JP7139397B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/084Backpropagation, e.g. using gradient descent
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/05Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves 
    • A61B5/055Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves  involving electronic [EMR] or nuclear [NMR] magnetic resonance, e.g. magnetic resonance imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/02Arrangements for diagnosis sequentially in different planes; Stereoscopic radiation diagnosis
    • A61B6/03Computed tomography [CT]
    • A61B6/032Transmission computed tomography [CT]
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01RMEASURING ELECTRIC VARIABLES; MEASURING MAGNETIC VARIABLES
    • G01R33/00Arrangements or instruments for measuring magnetic variables
    • G01R33/20Arrangements or instruments for measuring magnetic variables involving magnetic resonance
    • G01R33/44Arrangements or instruments for measuring magnetic variables involving magnetic resonance using nuclear magnetic resonance [NMR]
    • G01R33/48NMR imaging systems
    • G01R33/54Signal processing systems, e.g. using pulse sequences ; Generation or control of pulse sequences; Operator console
    • G01R33/56Image enhancement or correction, e.g. subtraction or averaging techniques, e.g. improvement of signal-to-noise ratio and resolution
    • G01R33/5608Data processing and visualization specially adapted for MR, e.g. for feature analysis and pattern recognition on the basis of measured MR data, segmentation of measured MR data, edge contour detection on the basis of measured MR data, for enhancing measured MR data in terms of signal-to-noise ratio by means of noise filtering or apodization, for enhancing measured MR data in terms of resolution by means for deblurring, windowing, zero filling, or generation of gray-scaled images, colour-coded images or images displaying vectors instead of pixels
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/003Reconstruction from projections, e.g. tomography
    • G06T11/006Inverse problem, transformation from projection-space into object-space, e.g. transform methods, back-projection, algebraic methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/003Reconstruction from projections, e.g. tomography
    • G06T11/008Specific post-processing after tomographic reconstruction, e.g. voxelisation, metal artifact correction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/20ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10081Computed x-ray tomography [CT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10084Hybrid tomography; Concurrent acquisition with multiple different tomographic modalities
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10088Magnetic resonance imaging [MRI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2211/00Image generation
    • G06T2211/40Computed tomography
    • G06T2211/441AI-based methods, deep learning or artificial neural networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Medical Informatics (AREA)
  • Radiology & Medical Imaging (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Public Health (AREA)
  • Artificial Intelligence (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Evolutionary Computation (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Computational Linguistics (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • High Energy & Nuclear Physics (AREA)
  • Surgery (AREA)
  • Veterinary Medicine (AREA)
  • Animal Behavior & Ethology (AREA)
  • Pathology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Optics & Photonics (AREA)
  • Quality & Reliability (AREA)
  • Pulmonology (AREA)
  • Mathematical Analysis (AREA)
  • Signal Processing (AREA)
  • Algebra (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Mathematical Optimization (AREA)
  • Pure & Applied Mathematics (AREA)

Description

本明細書に開示する主題の実施形態は、医用撮像に関し、より詳細には、ディープニューラルネットワークを使用して医用画像を再構築するためのシステムおよび方法に関する。
医用撮像システムは、患者などの被験者の内部の生理学的情報を取得するためにしばしば使用される。例えば、医用撮像システムを使用して、骨構造、脳、心臓、肺、および患者の他の様々な特徴の画像を取得することができる。医用撮像システムは、磁気共鳴撮像(MRI)システム、コンピュータ断層撮影(CT)システム、陽電子放出断層撮影(PET)システム、ハイブリッドPET/MRシステム、X線システム、超音波システム、Cアームシステム、およびその他の様々な撮像様式を含むことができる。
医用撮像システムによって取得された測定データ(例えば、CT撮像のX線投影データ、またはMRIのk空間データ)は、人間が視覚的に分析/診断するのには適しておらず、それは、その中にエンコードされた解剖学的情報が人間の脳によって容易にまたは直感的に処理されない形式であり得るからである。例えば、MRI撮像では、測定データは、K空間データとも呼ばれ、画像データの2次元または3次元のフーリエ変換を含み、K空間の各点は、対応する画像のすべてのピクセル/ボクセルの画像強度に関連しており、したがってK空間データは、人間の心がそこにエンコードされた基礎となる解剖学的特徴に関係するのが非常に困難であり得る。したがって、測定データは従来、人間の検査により適した形で解剖学的構造を示す医用画像を形成するように再構築され、とりわけ、取得された医用画像の専門家による診断を可能にする。
最近、フィルタリング逆伝播(FBP)、ホモダインアルゴリズム、ゼロ充填法、辞書学習、凸集合への投影などの従来の手法に依存せずに、測定データを医用画像データに直接マッピングする、機械学習手法が実装されている。機械学習手法は、より迅速な医用画像再構築を可能にし、スキャン時間の短縮および/またはスキャン放射線の線量の低減を可能にする。しかし、測定データを画像データに直接マッピングできる完全に接続されたディープニューラルネットワークを訓練し実装するために、現在の手法で必要な計算の複雑さ(したがって時間/計算リソース)は、医用画像のマトリックスサイズの4乗で増加する。この「パラメータの急増」は、計算が制限された環境でのこのような手法の実装、あるいは高解像度または3次元(3D)の医用画像での使用を妨げる。したがって、一般に、ディープニューラルネットワークを使用した医用画像再構築の計算の複雑さを軽減するための技法を模索することが望ましい。
一実施形態では、測定データから画像を再構築するための方法は、撮像装置によって取得された測定データを受け取るステップと、間引き戦略を選択するステップと、間引き戦略ならびに1つまたは複数のディープニューラルネットワークを使用して、測定データから再構築画像を生成するステップと、表示装置を介して再構築画像を表示するステップと、を含む。このようにして、測定データは、間引き戦略に従ってダウンサンプリング/間引きされ、それにより、1つまたは複数のディープニューラルネットワークのパラメータの数を大幅に減らすことができる。測定データを間引きして、1つまたは複数の間引きされた測定データ配列を形成することにより、測定データを画像データにマッピングする計算の複雑さを、O(N)からO(M)に低減することができる。ここで、Nは測定データのサイズ、Mは個々の間引きされた測定データ配列のサイズであり、M<Nであって、Mは画像解像度とは無関係に選択することができる。
本説明の上記の利点および他の利点、ならびに特徴は、単独で、または添付の図面と併せて、以下の詳細な説明から容易に明らかになるであろう。上記の概要は、詳細な説明においてさらに説明される概念の選択を簡略化した形で導入するために提供されていることを理解されたい。特許請求される主題の重要なまたは本質的な特徴を特定することは意図されておらず、その主題の範囲は詳細な説明に続く特許請求の範囲によって一義的に定義される。さらに、特許請求される主題は、上記のまたは本開示の任意の部分に記載の欠点を解決する実施態様に限定されない。
この開示の様々な態様は、以下の詳細な説明を読み、図面を参照すると、よりよく理解され得る。
画像再構築システムの例示的な実施形態のブロック図である。 図1の画像再構築システムを実施することができる撮像システムを示す概略図である。 間引き戦略に従って1つまたは複数のディープニューラルネットワークを使用して測定データから医用画像を再構築するための方法を示すフローチャートである。 測定データおよび測定データに対応するグラウンドトゥルース医用画像を含む訓練データペアを使用して、図3の1つまたは複数のディープニューラルネットワークを訓練するための例示的な方法を示すフローチャートである。 本開示の例示的な実施形態による再構築画像と、従来の手法を使用して再構築された医用画像と、の間の比較を示す図である。
図面は、ディープニューラルネットワークと再帰的間引き戦略を使用して画像を再構築するための、記載されたシステムおよび方法の特定の態様を示している。以下の説明と共に、図面は、本明細書で記載された構造、方法、および原理を実証および説明する。図面では、構成要素のサイズは、明確にするために誇張されているか、そうでなければ変更されている場合がある。記載された構成要素、システム、および方法の態様を不明瞭にしないように、周知の構造、材料、または動作は、詳細に示されていないか、または説明されていない。
以下の説明は、ニューラルネットワークを使用して再帰的多様体近似により対応する測定データから医用画像を再構築するシステムおよび方法に関する。この手法は、測定データが、線形変換(例えば、フーリエ変換、ラドン変換など)を介して対応する再構築画像または対応する結果に関連する、画像再構築に適用することができる。本明細書では医用画像の文脈で説明されているが、本開示は、実質的に任意の撮像様式の画像再構築を提供し、医用画像に限定されないことが理解されよう。高次元多様体関係を学習しようとする既存のニューラルネットワークに基づく方法は、測定データサイズの増加に伴うニューラルネットワークのパラメータ数の急増に直接悩まされており、そのような手法は、実際に観察されるデータサイズに対して非現実的である。本開示は、測定データをより小さなサブユニット(ここでは間引きされた測定データ配列と呼ぶ)に再帰的に間引きし、それを第1のニューラルネットワークを介して潜在多様体埋め込み(ここでは間引きされた画像データ配列と呼ぶ)に変換することによって、使用/学習されるニューラルネットワークパラメータの数を減らして、測定データから直接ニューラルネットワークに基づく画像再構築を可能にする。これに続いて、集約ネットワークを使用して間引きされた画像データ配列を再帰的に集約し、再構築された医用画像を生成する。第1のニューラルネットワークと集約ネットワークの両方のパラメータは、教師あり訓練を使用して共同で学習される。
開示されるシステムおよび方法は、サイズN×Nの測定データについて、測定データを画像データにマッピングする計算の複雑さをO(N)からO(M)に低減することを可能にする。ここで、Mは個々の間引きされた測定データ配列のサイズであり、M<Nであって、MはNとは無関係に選択することができる。パラメータのこの削減は、従来の再構築手法と比較して、画像再構成の品質を損なうことはない。さらに、ここで教示されているニューラルネットワークは、従来のニューラルネットワークよりもパラメータが大幅に少ないため、本手法は、画像再構築におけるディープニューラルネットワークの適応の障害として一般的に引用される過剰適合およびデータ記憶に対する耐性がある。
本開示によって提供される計算の複雑さの低減により、MRI、CT、およびPET臨床スキャナで生成された大きな3次元(3D)ボリュームの測定データを使用したニューラルネットワークに基づく画像再構築が可能になる。本開示は、測定データをより小さな、および/またはより低次元の配列に間引きすることにより、測定データの次元削減を可能にし、それは次に、1つまたは複数のより小さなディープニューラルネットワークによって処理され得る。1つまたは複数のディープニューラルネットワークのメモリフットプリントが削減されているため、この手法は、携帯電話またはCPUのみのシステムなど、ハードウェアが妥協された装置に実装することができる。さらに、本開示の手法は、磁気共鳴撮像(MRI)、コンピュータ断層撮影法(CT)、陽電子放出断層撮影法(PET)、PET/MR、およびCアームを含む、様々な撮像様式に適用可能である。本明細書で開示されるシステムおよび方法は、既存のコンピュータプラットフォーム上で、特殊化されたGPUハードウェアを必要とせずに、機械学習に基づく画像再構築の展開を可能にすることができる。
一実施形態では、図1に示す画像再構築システム100は、図2に示す医用撮像システム200によって実施することができ、図3に示す方法300の動作の1つまたは複数に従って測定データから医用画像を再構築する。簡単に言えば、方法300は、患者の解剖学的領域の測定データを受け取るステップと、複数の間引きされた測定データ配列を形成するために、間引き戦略に従って測定データを再帰的に間引くステップと、1つまたは複数の訓練されたディープニューラルネットワークを使用して、複数の間引きされた測定データ配列を複数の間引きされた画像データ配列にマッピングするステップと、再構築された医用画像を形成するために、1つまたは複数の訓練された集約ネットワークを使用して、複数の間引きされた画像データ配列を再帰的に集約するステップと、を含む。図4は、共同訓練手法を使用して、方法300で使用される複数のディープニューラルネットワークならびに1つまたは複数の集約ネットワークを訓練するための方法を示し、ディープニューラルネットワークと集約ネットワークのパラメータは、同じ訓練データセットを使用して一緒に学習される。図5は、方法300のステップを使用して測定データから再構築された第1の医用画像502と、従来の画像再構築手法を使用して生成された第2の医用画像504と、の比較を示す。
図1を参照すると、例示的な画像再構築システム100が示されている。画像再構築システム100は、本開示による画像再構築システムの一実施形態である。特に、画像再構築システム100は、バイナリ間引き戦略の一例を実施し、測定データ102は、第1の間引きされた測定データ配列110と第2の間引きされた測定データ配列112とに分割される。本開示は、様々な間引き戦略を提供し、測定データは、1つまたは複数のサンプリングパターンおよびサンプリング密度に従ってサンプリングされて、実質的に任意の数の間引きされた測定データ配列を生成し得ることが理解されよう。一例として、三値間引き戦略を採用することができ、測定データ配列106は、第1、第2、および第3の間引きされた測定データ配列に分割/間引きされる。
さらに、測定データ102は、人間の脳の2DMRI画像スライスを含む、再構築された医用画像128に対応する2次元(2D)k空間データ(フーリエ平面とも呼ばれる)を含む。しかしながら、本開示の手法は、3D画像、CT画像、PET画像などを含む、様々な撮像様式の様々な画像を再構築するために使用され得ることが理解されよう。
画像再構築システム100は、非一時的データ記憶装置を含む、1つまたは複数の通信可能に結合された装置から測定データ102を受け取ることができる。一実施形態では、画像再構築システム100は、図2を参照して以下でより詳細に説明される、撮像装置240などの撮像装置から測定データ102を受け取る。図1に示す実施形態では、測定データ102は、2D医用画像に対応する128×128の2D配列のk空間データを含み、2D医用画像の強度分布の空間周波数(および位相)が測定データ102内でフーリエ平面としてエンコードされる。本開示は、様々なタイプの測定データからの、および様々な次元(2D、3Dなどを含む)の医用画像の再構築を提供し、測定データは線形変換を介して医用画像データに関連することが理解されよう。
画像再構築システム100による測定データ102の受け取りに続いて、測定データ102は、フラット化104によって示されるように、フラット化動作を介して1次元(1D)の測定データ配列106として再フォーマットされる。フラット化104は、測定データ102のベクトル化を含み、測定データ102の2D配置は、同等のベクトルに変換される。図1に示す一実施形態では、測定データ配列106は、測定データ102に対応する、測定データの16,384行のベクトルを含む。測定データ102をフラット化することにより、2Dまたは3Dデータを同等の1D表現にフラット化することができるので、データをより容易に間引きすることができ、計算が効率的な方法で間引きを行うことができる。一例として、2Dサンプリングパターンは、第1の次元および第2の次元の両方のサンプリング周波数を示すことができ、フラット化された画像データのサンプリングパターンは、単一の1Dサンプリングパターンを使用して2Dサンプリングパターンを表現することができる。計算の節約は、3次元(3D)測定データの場合はさらに大きくなる可能性があり、フラット化104は測定データの次元を3Dから1Dに減らし、1Dサンプリングパターンを含む間引き戦略を採用できるようにする。
いくつかの実施形態では、追加のデータが測定データ配列106と連結されてもよい。一例では、MRIにおいて、複雑なk空間データを含むマルチコイルデータは、関連する感度マップを有することができる。感度マップデータは、測定データ102に関して説明したのと同様の方法でフラット化することができ、フラット化された感度マップデータは、測定データ配列106と連結することができる。これにより、k空間データと感度マップデータの両方の連結されたベクトルが提供される。カラー撮像などの他の実施形態では、測定データ102は、複数のカラーチャネル(例えば、RGBカラーチャネル、またはCMYKカラーチャネルであり、各チャネルは関連する色に対応する強度値を含む)を含むことができる。関連する各色の複数の強度値は、別々にフラット化され、次に連結されて、測定データ配列106を生成することができる。
次に、間引き108によって示されるように、測定データ配列106が間引きされ得る。間引き108は、間引き戦略に従って、測定データ配列を2つ以上の間引きされた測定データ配列に分割することを含み、間引き戦略は、間引き係数、サンプリングパターン、およびサンプリング密度(間引き係数の関数であってもよい)のうちの1つまたは複数を示す。間引き係数に関して、間引き係数は、整数または1より大きい有理数の分数を含んでもよい。間引き係数は、サンプリングレートまたはサンプリング間隔/パターンを決定するために使用することができる。例えば、測定データ配列106が16,384行のベクトルを含み、各行に測定データ102からの個別の強度値が含まれ、測定データ配列106が間引き係数4を使用して間引かれる場合には、4つの間引きされた測定データ配列が生成され、各々が4,096行の強度値を含む。
図1に示す実施形態では、測定データ配列106は、バイナリ間引き戦略を使用して、第1の間引きされた測定データ配列110と第2の間引きされた測定データ配列112とに分割される。一実施形態では、バイナリ間引き戦略は、間引き係数2および均一なサンプリングパターンを含み、測定データ配列106の各奇数行を第1の間引きされた測定データ配列110に割り当てること、および測定データ配列106の各偶数行を第2の間引きされた測定データ配列112に割り当てることを含むことができる。他の実施形態では、不均一なサンプリングパターンが使用されてもよく、サンプリングパターンは、測定データ配列106内の関数位置として変化する。バイナリ、トリナリーなどの間引き戦略は、2つ、3つなどの間引きされた測定データ配列を生成し、それぞれ複数のサンプリングパターン/サンプリング周波数を使用して取得することができ、本開示は複数のサンプリングパターン/周波数の各々を提供する。例として、バイナリ間引き戦略は、測定データ配列106内で1つおきに強度値を選択することによって第1の間引きされた測定データ配列を生成することを含むことができるが、測定データ配列106の2つの連続する強度値を選択して、続いて測定データ配列106の次の2つの連続する値を選択しないなどの他のサンプリングパターンを採用してもよい。別の例では、間引き戦略は、異種サンプリングパターンを含むことができ、第1のサンプリングパターンは測定データ配列106の第1のセクションに使用され、第2のサンプリングパターンは測定データ配列106の第2のセクションに使用される、等々。
第1の間引きされた測定データ配列110および第2の間引きされた測定データ配列112は、各々同じ数のエントリ/強度値を含むことができる。第1の間引きされた測定データ配列および第2の間引きされた測定データ配列におけるエントリ/強度値の合計は、測定データ102および/または測定データ配列106におけるエントリ/強度値の数に等しくてもよい。特に、第1の間引きされた測定データ配列110および第2の間引きされた測定データ配列112は、それぞれ、8,192行のベクトルに配置された8,192の強度値を含む。
第1の間引きされた測定データ配列110は、第1のネットワーク114の入力層によって受け取られる。一実施形態では、第1のネットワーク114は、密集層として実装される1つまたは複数の2D畳み込み層を含み、畳み込み層の並列化を利用することによって行および列にわたる反復を回避する。密集層/全結合層の各々の後に、機械学習の分野で公知の1つまたは複数の活性化関数を使用して、非線形活性化が続くことができる。一例では、現在の層の各出力が次の層の各入力にマッピングされるようにストライドと受容フィールドを設定することにより、密集層/全結合層を2D畳み込み層として実施することができる。全結合層/密集層は、第1の間引きされた測定データ配列110のフーリエ平面強度データを第1の間引きされた画像データ配列118の画像強度データにマッピングする1つまたは複数の学習されたフィルタを含むことができる。
同様に、第2の間引きされた測定データ配列112は、第2のネットワーク116の入力層によって受け取られる。一実施形態では、第2のネットワーク116は、密集層として実装される1つまたは複数の2D畳み込み層を含み、それによって、畳み込み層の並列化を利用することによって行および列にわたる反復を回避する。密集層/全結合層の各々の後に、機械学習の分野で公知の1つまたは複数の活性化関数を使用して、非線形活性化が続くことができる。一例では、密集層/全結合層は、前の層の各出力が後続の層の各入力にマッピングされるようにストライドおよび受容フィールドを設定することにより、2D畳み込み層として実装されてもよい。全結合層/密集層は、第2の間引きされた測定データ配列112のフーリエ平面強度データを第2の間引きされた画像データ配列120の画像強度データにマッピングする1つまたは複数の学習されたフィルタを含むことができる。第1のネットワーク114および第2のネットワーク116の1つまたは複数の全結合層/密集層の1つまたは複数の学習されたフィルタは、図4を参照して以下で説明されるような訓練方法を介して学習され得る。
第1の間引きされた画像データ配列118および第2の間引きされた画像データ配列120は、それぞれ同じ数の画像強度値を含むことができる。図1に示す例では、第1の間引きされた画像データ配列118および第2の間引きされた画像データ配列120は、それぞれ、第1の間引きされた測定データ配列110および第2の間引きされた測定データ配列112の8192個のフーリエ強度値に対応する、8192個の強度値を含む。
第1の間引きされた画像データ配列118および第2の間引きされた画像データ配列120は両方とも、集約ネットワーク122の入力層に入力される。一実施形態では、第1の間引きされた画像データ配列118および第2の間引きされた画像データ配列120は、集約ネットワーク122によって受け取られる前に、行方向に連結される。集約ネットワーク122は、入力データの複数のソースを受け取るように構成され得る。一例では、集約ネットワーク122は、同じ撮像様式(例えば、マルチコイルMRデータ)から、または異なる撮像様式(例えば、PET/CTデータ)から画像データを受け取るように構成されてもよい。
図1に示す実施形態では、集約ネットワーク122は、1つまたは複数の全結合層/密集層を含む1D畳み込みニューラルネットワークであり、1つまたは複数の学習された1D畳み込みフィルタを含む。集約ネットワーク122の1D畳み込みフィルタは、図4を参照して、以下で説明される訓練ルーチンなどの訓練ルーチン中に学習され得る。1D全結合層/密集層は、第1の間引きされた画像データ配列118および第2の間引きされた画像データ配列120を画像データ配列124にマッピングする。
画像データ配列124は、第1の間引きされた画像データ配列118および第2の間引きされた画像データ配列120の画像強度データから合成された画像強度データを含む。図1に示す例では、画像データ配列124は、16,384個の画像強度値に対応する16,384行のベクトルを含む。
画像データ配列124は、再成形126によって示されるように、再構築された医用画像128を生成するように再成形される。再成形126は、画像データ配列124の行を行列に再配置することを含む。一例では、再成形126は、複数の列を生成するために複数の所定の行で画像データ配列124を分割し、行を所定の順序に再配置し、それにより複数の列の数に等しいいくつかの列を有する行列を生成することを含む。
再構築された医用画像128は、測定データ102に対応する、患者の解剖学的構造の医用画像を含む。図1に示す実施形態では、再構築された医用画像128は、患者の脳の128×128ピクセルの2DMR画像を含む。
図1の画像再構築システム100は、所定の間引き戦略に従って測定データを間引くことによって計算の複雑さ/学習されたパラメータの数を低減させながら、1つまたは複数の訓練されたディープニューラルネットワークを使用して、測定データから直接、医用画像の迅速で効率的かつ堅牢な再構築を可能にする。
図2を参照すると、例示的な実施形態による、医用撮像システム200が示されている。医用撮像システム200は、画像処理システム202、表示装置220、ユーザ入力装置230、および撮像装置240を含む。いくつかの実施形態では、画像処理システム202の少なくとも一部は、有線および/または無線接続を介して医用撮像システム200に通信可能に結合された装置(例えば、エッジ装置、サーバーなど)に配置される。いくつかの実施形態では、画像処理システム202の少なくとも一部は、医用撮像システム200によって生成された画像を格納する記憶装置から、医用撮像システム200からの画像を受け取ることができる別個の装置(例えば、ワークステーション)に配置される。
画像処理システム202は、非一時的メモリ206に格納された機械可読命令を実行するように構成されたプロセッサ204を含む。プロセッサ204は、シングルコアまたはマルチコアであってもよく、そこで実行されるプログラムは、並列処理または分散処理のために構成され得る。いくつかの実施形態では、プロセッサ204は、離れて配置され、かつ/または協調処理のために構成され得る、2つ以上の装置全体に分散された個々の構成要素をオプションで含むことができる。いくつかの実施形態では、プロセッサ204の1つまたは複数の態様は、クラウドコンピューティング構成で構成された、リモートアクセス可能なネットワーク化されたコンピューティング装置によって仮想化され実行されてもよい。
非一時的メモリ206は、ディープニューラルネットワークモジュール208、画像再構築モジュール212、および画像データ214を格納することができる。ディープニューラルネットワークモジュール208は、1つまたは複数のディープニューラルネットワークを含むことができ、それは、複数の重みとバイアス、活性化関数、損失関数、ならびに1つまたは複数のディープニューラルネットワークを実装して測定データを画像データにマッピングし、および/または間引きされた画像データを単一の画像データ配列にマッピングするための命令を含む。例えば、ディープニューラルネットワークモジュール208は、以下でより詳細に説明される方法300および400の1つまたは複数のステップに従って、1つまたは複数のニューラルネットワークを実装するための命令を格納することができる。ディープニューラルネットワークモジュール208は、訓練されたおよび/または訓練されていないニューラルネットワークを含むことができ、さらに、訓練データ、訓練ルーチン、あるいはそこに格納された1つまたは複数のニューラルネットワークモデルに関連付けられたパラメータ(例えば重みとバイアス)などの様々なデータをさらに含むことができる。ディープニューラルネットワークモジュール208は、ディープニューラルネットワークの1つまたは複数を訓練するための命令を含むことができる。一実施形態では、ディープニューラルネットワークモジュール208は、勾配降下アルゴリズム、損失関数、および訓練データを生成および/またはフィルタリングするためのルールを含むことができる。ディープニューラルネットワークモジュール208は、プロセッサ204によって実行されると、画像処理システム202に、以下でより詳細に説明する方法400のステップの1つまたは複数を実行させる命令を含むことができる。一例では、ディープニューラルネットワークモジュール208は、画像データ214から訓練データペアを受け取るための命令を含み、訓練データペアは、ディープニューラルネットワークモジュール208に格納されたディープニューラルネットワークの1つまたは複数を訓練するのに使用するための、測定データと対応するグラウンドトゥルース医用画像とのペアを含む。一部の実施形態では、ディープニューラルネットワークモジュール208は、画像処理システム202に配置されない。
ディープニューラルネットワークモジュール208は、訓練されたおよび/または訓練されていないニューラルネットワークを含むことができ、訓練されたおよび/または訓練されていないネットワークに関する様々なディープニューラルネットワークメタデータをさらに含むことができる。一部の実施形態では、ディープニューラルネットワークメタデータは、訓練されたディープニューラルネットワークを訓練するために使用される訓練データの表示、訓練されたディープニューラルネットワークを訓練するために採用される訓練方法、訓練されたディープニューラルネットワークの精度/検証スコア、および訓練されたディープニューラルネットワークが適用され得る撮像様式/撮像プロトコルのタイプを含むことができる。
非一時的メモリ206は、画像再構築モジュール212をさらに含むことができ、これは、ディープニューラルネットワークモジュール208の1つまたは複数のニューラルネットワークと共に、以下の図3に示す方法300のステップの1つまたは複数に従って、1つまたは複数の間引き戦略を実施して、測定データから医用画像を再構築するための命令を含む。
非一時的メモリ206は、画像データ214、例えば、測定データまたは撮像装置240によって取得された対応する再構築された医用画像などをさらに格納することができる。画像データ214に格納された医用画像は、MRIシステム(撮像装置240がMRI撮像装置である実施形態)によって取り込まれたMR画像、CT撮像システム(撮像装置240がCT撮像装置である実施形態)によって取り込まれたCT画像、および/または測定データ/生の撮像データの1つもしくは複数のタイプを含むことができる。例えば、画像データ214は、測定データおよび対応するグラウンドトゥルース医用画像を含むことができ、これらは順序付けられたフォーマットで格納することができ、それにより、被験者の解剖学的領域の測定データは、同じ被験者の同じ解剖学的領域のグラウンドトゥルース医用画像に関連付けられる。
いくつかの実施形態では、非一時的メモリ206は、2つ以上の装置に配置された構成要素を含むことができ、これらは、遠隔的に配置され、および/または協調処理のために構成され得る。いくつかの実施形態では、非一時的メモリ206の1つまたは複数の態様は、クラウドコンピューティング構成で構成されたリモートアクセス可能なネットワーク記憶装置を含むことができる。
医用撮像システム200は、MRI、CT、PET、ハイブリッドPET/MR、超音波などを含む実質的に任意のタイプの医用撮像装置を含むことができる撮像装置240をさらに含む。撮像装置240は、患者の解剖学的領域の測定データを取得することができ、測定データは、解剖学的領域の撮像データの人間が理解できないエンコーディングを含むことができる。測定データ、およびそこから再構築された医用画像は、画像データ214、または医用撮像システム200と通信可能に結合された他の非一時的記憶装置に格納されてもよい。
医用撮像システム200は、ユーザ入力装置230をさらに含むことができる。ユーザ入力装置230は、タッチスクリーン、キーボード、マウス、トラックパッド、モーションセンシングカメラ、またはユーザが画像処理システム202内のデータと対話してそれを操作できるように構成された他の装置のうちの1つまたは複数を含むことができる。
表示装置220は、実質的に任意のタイプの技術を利用する1つまたは複数の表示装置を含むことができる。いくつかの実施形態では、表示装置220は、コンピュータモニタを含むことができ、医用画像および測定データを表示することができる。表示装置220は、共有された筐体内でプロセッサ204、非一時的メモリ206、および/またはユーザ入力装置230と組み合わされてもよく、あるいは周辺表示装置であってもよく、モニタ、タッチスクリーン、プロジェクタ、または当技術分野で公知の他の表示装置を含んでもよく、これにより、ユーザは、撮像装置240によって取得された測定データから再構築された医用画像を閲覧することができ、かつ/または非一時的メモリ206に格納された様々なデータと対話することができる。
図2に示す医用撮像システム200は、例示のためであり、限定のためではないことを理解されたい。別の適切な医用撮像システムは、より多くの、より少ない、または異なる構成要素を含んでもよい。
図3を参照すると、ディープニューラルネットワークおよび間引き戦略を使用して測定データから医用画像を再構築するための例示的な方法300が示されている。方法300は、上述のシステムのうちの1つまたは複数によって実施され得る。一実施形態では、医用撮像システム200は、撮像装置240によって取得された測定データに対応する医用画像を再構築する方法300を実施することができる。
方法300は、医用撮像システムが測定データを受け取る動作302で始まる。一実施形態では、医用撮像システムは、撮像装置240などの撮像装置を使用して、患者の解剖学的領域の医用撮像データを取得することができる。別の実施形態では、医用撮像システムは、インターネット、ローカルエリア接続、または他のデジタル接続を介して医用撮像装置に接続された外部撮像装置など、通信可能に結合された装置から測定データを受け取ることができる。いくつかの実施形態では、動作302で受け取られた測定データは、測定データとしてアダマール変換データを有する、k空間データ、CTサイノグラムデータ、PETサイノグラムデータ、光学撮像装置および分光計(光学、赤外線など)のうちの1つを含むことができる。あるいは、いくつかの実施形態では、測定データは、動作304の前に線形変換空間に変換され得る。一部の実施形態では、データが非デカルト(例えば、放射軌跡または螺旋軌跡)である場合には、方法300が動作304に進む前に、データをデカルトグリッドに再グリッド化することができる。
動作304で、医用撮像システムは間引き戦略を選択する。一実施形態では、ユーザは、ユーザ入力装置を使用して間引き戦略を選択することができる。別の実施形態では、医用撮像システムは、測定データの1つまたは複数の特性に基づいて間引き戦略を自動的に選択することができる。一実施形態では、第1の間引き戦略を、3D測定データを含む測定データに応答して選択することができ、第2の間引き戦略を、2D測定データを含む測定データに応答して選択することができる。一実施形態では、医用撮像システムは、測定データのサイズ、および配列サイズを示す所定の非ゼロの整数値Mに基づいて間引き戦略を選択することができ、間引き戦略は、測定データを、各々がサイズMの複数の間引きされた測定データ配列に間引きすることを含むことができる。いくつかの実施形態では、分離可能な線形変換によって表される撮像様式は、同じ間引き戦略を使用して間引きされてもよい。
動作306で、医用撮像システムは、動作304で選択された間引き戦略に従って測定データを再帰的に間引きして、複数の間引きされた測定データ配列を生成する。一部の実施形態では、間引き戦略は、間引き係数、サンプリングパターン、およびサンプリング周波数を含む(サンプリング周波数は、間引き係数の関数であり得る)。いくつかの実施形態では、測定データを間引きすることは、示されたサンプリングパターンおよびサンプリング周波数を使用して測定データをサンプリングして、複数の間引きされた測定データ配列を生成することを含む。いくつかの実施形態では、間引き戦略に従って測定データを再帰的に間引くことは、測定データからデータの第1の部分をサンプリングし、データの第1の部分を第1の間引きされた測定データ配列に割り当てること、および測定データからデータの第2の部分をサンプリングし、データの第2の部分を第2の間引きされた測定データ配列に割り当てることを含む。いくつかの実施形態では、第1の間引きされた測定データ配列および第2の間引きされた測定データ配列を間引きして、より少ないデータおよび/またはより低次元のデータを含むさらなる間引きされた測定データ配列を生成することができる。このプロセスは、所定のサイズの間引きされた測定データ配列が取得されるまで継続することができる。
一部の実施形態では、ユーザは、間引きされた測定データ配列のサイズMを選択することができ、動作306は、サイズMの複数の配列を生成するために測定データを間引くことを含むことができ、Mは1より大きい整数を含む。一例では、測定データは100行のベクトルを含むことができ、ユーザが20の間引きされた測定データ配列のサイズを選択することに応答して、医用撮像システムは間引き係数5およびサンプリング周波数0.20を設定することができ、100行のベクトルを間引きして、各々が20行を含む5つの間引きされた測定データ配列を生成することができる。
動作308で、医用撮像システムは、複数の訓練されたディープニューラルネットワークを使用して、複数の間引きされた測定データ配列を複数の間引きされた画像データ配列にマッピングする。一実施形態では、複数の間引きされた測定データ配列を複数の間引きされた画像データ配列にマッピングすることは、複数の間引きされた測定データ配列を、1つまたは複数のディープニューラルネットワークの1つまたは複数の全結合層/密集層に通すことを含み、1つまたは複数のディープニューラルネットワークの1つまたは複数の全結合層/密集層は、図4を参照して以下でより詳細に説明するように、訓練フェーズ中に学習された1つまたは複数の学習されたフィルタを含む。
動作310で、医用撮像システムは、1つまたは複数の訓練された集約ネットワークを使用して複数の間引きされた画像データ配列を再帰的に集約して、画像データ配列を生成する。いくつかの実施形態では、複数の間引きされた画像データ配列を集約することは、複数の間引きされた画像データ配列の各々を集約ネットワークの入力層に入力することを含む。次に、集約ネットワークは、1つまたは複数の1次元(1D)畳み込みフィルタを複数の間引きされた画像データ配列に適用して、画像データ配列を生成することができ、画像データ配列は、複数の間引きされた画像データ配列よりも高い解像度を有する。いくつかの実施形態では、間引きされた画像データ配列のペアは、集約ネットワークを使用して集約することができ、複数の間引きされた画像データ配列は、ペアで画像データ配列のより大きなサブユニットに集約することができる。例示的な例では、第1、第2、第3、および第4の間引きされた画像データ配列は、第1および第2の間引きされた画像データ配列を集約ネットワークに入力することによって集約することができ、集約ネットワークは、第1の部分的に集約された画像データ配列(ここでは、画像データ配列サブユニットとも呼ばれる)を出力する。同様に、第3および第4の間引きされた画像データ配列は、集約ネットワークに入力され、第2の部分的に集約された画像データ配列にマッピングすることができる。次に、第1および第2の部分的に集約された画像データ配列は、集約ネットワークに入力され、画像データ配列にマッピングすることができる。前の例では、第1および第2の部分的に集約された画像データ配列の解像度は、第1、第2、第3、または第4の間引きされた画像データ配列の解像度よりも高いが、画像データ配列の解像度よりは低くなっている。いくつかの実施形態では、2つ以上の間引きされた画像データ配列の集約は、間引きされた画像データ配列ベクトルを位置合わせし、チャネル/行によって2つ以上の間引きされた画像データ配列内のデータを連結して、チャネルごとに連結された間引きされた画像データ配列を生成することを含むことができる。次に、チャネルごとに連結された間引きされた画像データ配列を集約ネットワークの入力層に入力し、それによって空間情報を保持し、2つ以上の間引きされた画像データ配列の強度値間の空間関係を集約ネットワークに提供する。
動作312で、医用撮像装置は、画像データ配列を再成形して、再構築された医用画像を生成する。いくつかの実施形態では、再構築された医用画像を形成するために画像データ配列を再成形することは、画像データ配列の行を行列に再配置することを含み、行列の各列は行と同じ数からなる。一例では、動作312は、複数の所定の行で画像データ配列を分割して複数の列を生成すること、および所定の順序に従って列を再配置し、それによって、人間が認識できるフォーマットの画像データ配列の画像データを表現する行列を生成することを含むことができる。
動作314で、医用撮像装置は、表示装置を介して、再構築画像をユーザに表示する。
動作314に続いて、方法300は終了することができる。このようにして、方法300は、従来の手法と比較して、画像解像度を犠牲にすることなく、かつ再構築画像におけるノイズの量を増大させることなく、より計算効率の高い医用画像再構築を可能にすることができる。
測定データを間引きして1つまたは複数の間引きされた測定データ配列を形成することの技術的効果は、測定データを画像データにマッピングする計算の複雑さを、O(N)からO(M)に低減することができることであり、Nは測定データのサイズ、Mは個々の間引きされた測定データ配列のサイズであり、M<Nである。
図4を参照すると、上述のシステムのうちの1つまたは複数によって実行され得る訓練方法400の例が示されている。一実施形態では、方法400は、図1に示されている医用画像再構築システム100などの医用画像再構築システムを訓練するために使用することができる。いくつかの実施形態では、訓練方法400は、方法300で使用される1つまたは複数のディープニューラルネットワークを訓練して、測定データから医用画像を再構築するために使用することができる。一実施形態では、訓練方法400を使用して、間引きされた測定データ配列を間引きされた画像データ配列にマッピングするために使用される複数の畳み込みニューラルネットワークの1つまたは複数で使用される1つまたは複数の畳み込みフィルタを学習することができる。方法400は、訓練データの同じセットを使用して、畳み込みニューラルネットワークと医用画像再構築システムの集約ネットワークの両方の訓練を実質的に同時に可能にし、それにより訓練プロセスの効率を高める。
方法400は、動作402で始まり、ここで、医用撮像システムは、訓練されている現在の医用画像再構築システムに基づいて、測定データおよび対応するグラウンドトゥルース医用画像を含む訓練データペアを選択する。一例では、訓練データペアは、それに関連付けられたメタデータに基づいて、医用撮像システム200の画像データ214などの訓練データのリポジトリから選択することができる。いくつかの実施形態では、各撮像様式について、別個の医用画像再構築システムを訓練することができ、それにより、所与の医用画像再構築システムのディープニューラルネットワークおよび集約ネットワークが、画像データに対する特定の画像様式の測定データに関連する多様体を学習することを可能にする。言い換えれば、単一のタイプの撮像様式の測定データおよび対応するグラウンドトゥルース医用画像を含む訓練データを使用して医用画像再構築システムを選択的に訓練することにより、医用画像再構築システムの性能を向上させることができる。したがって、動作402で、医用撮像システムは、現在の画像再構築システムが訓練されるべき所定の撮像様式に基づいて訓練データペアを選択することができる。訓練データペアに関連付けられたメタデータは、訓練データペアが関連付けられている撮像様式のタイプを示すことができる。
動作404で、医用撮像システムは、訓練されている現在の医用画像再構築システムに基づいて所定の間引き戦略を選択する。いくつかの実施形態では、各間引き戦略について、別個の医用画像再構築システムを訓練することができ、それによって、所与の医用画像再構築システムのディープニューラルネットワークおよび集約ネットワークが、特定サイズの間引きされた測定データ配列から画像データへのマッピングを学習することを可能にする。言い換えれば、単一の間引き戦略を使用して医用画像再構築システムを選択的に訓練することにより、医用画像再構築システムの性能を向上させることができる。したがって、動作404で、医用撮像システムは、訓練されている現在の医用画像再構築システムに基づいて間引き戦略を選択することができ、医用画像再構築は、医用画像再構築システムのディープニューラルネットワークの互換性がある、関連する間引き戦略の指示を含むことができる。
動作406で、医用撮像システムは、選択された間引き戦略に従って測定データを再帰的に間引きして、複数の間引きされた測定データ配列を生成する。いくつかの実施形態では、選択された間引き戦略に従って測定データを再帰的に間引きすることは、動作404で選択された間引き戦略に従って、間引き係数、サンプリングパターン、およびサンプリング密度(間引き係数の関数であってもよい)を設定すること、ならびに、それにより、いくつかの間引きされた測定データ配列を生成することを含むことができる。間引きは、図1の間引き108を参照して、上記でより詳細に説明されている。
動作408で、医用撮像システムは、現在の医用画像再構築システムの複数のディープニューラルネットワークを使用して、複数の間引きされた測定データ配列を複数の間引きされた画像データ配列にマッピングし、複数のディープニューラルネットワークは、1つまたは複数の訓練されていない畳み込みニューラルネットワークを含む。
動作410で、医用撮像システムは、図3の動作310を参照して上でより詳細に説明したように、1つまたは複数の集約ネットワークを使用して複数の間引きされた画像データ配列を再帰的に集約し、予測画像データ配列を生成する。
動作412で、医用撮像システムは、上記の図3の動作312を参照してより詳細に説明するように、予測画像データ配列を再成形して、予測医用画像を生成する。
動作414で、医用撮像システムは、損失関数を使用して予測医用画像とグラウンドトゥルース医用画像とを比較することにより、予測医用画像の誤差を計算する。一実施形態では、ピクセルごとの誤差は、予測画像のピクセル強度(1つまたは複数の色について)およびグラウンドトゥルース医用画像の対応するピクセルのピクセル強度(1つまたは複数の色について)を損失関数に入力することによって決定することができる。各ピクセルの誤差を合計して、予測医用画像の全誤差(本明細書では、より簡単に誤差と呼ぶ)を生成することができる。
動作416で、医用撮像システムは、逆伝播アルゴリズムを使用して1つまたは複数の集約ネットワークおよび複数のディープニューラルネットワークを通じて誤差を逆伝播することにより、1つまたは複数の集約ネットワークおよび複数のディープニューラルネットワークのパラメータを調整する。一実施形態では、動作416は、動作414で計算された誤差に基づいて、1つもしくは複数の集約ネットワークおよび複数のディープニューラルネットワークの重みおよびバイアスを調整する画像処理システムを含む。いくつかの実施形態では、誤差の逆伝播は、勾配降下アルゴリズムに従って発生することができ、誤差関数の勾配(一次導関数、または一次導関数の近似)は、複数のディープニューラルネットワークおよび1つもしくは複数の集約ネットワークの各重みおよび各バイアスについて決定される。次に、複数のディープニューラルネットワークならびに1つまたは複数の集約ネットワークの各重み(およびバイアス)は、以下の式により、重み(またはバイアス)について決定された(または近似された)勾配と所定のステップサイズの積の負の値を加えることによって更新される。
Figure 0007139397000001
ここで、Pi+1は更新されたパラメータ値、Pは以前のパラメータ値、ηはステップサイズであり、
Figure 0007139397000002
は以前のパラメータに対する誤差の偏微分である。
動作416に続いて、方法400は終了することができる。方法400は、1つまたは複数の条件が満たされるまで繰り返すことができることが理解されよう。いくつかの実施形態では、1つまたは複数の条件は、1つまたは複数の集約ネットワークならびに複数のディープニューラルネットワークの重みおよびバイアスが収束する(すなわち、複数のディープニューラルネットワークならびに1つまたは複数の集約ネットワークのパラメータの変化率が、所定のしきい値を下回るまで減少する)ことを含むことができ、動作414で決定された誤差は、所定の非ゼロのしきい値を下回るまで減少する(いくつかの例では、誤差は、訓練データセットとは異なる検証データセットを使用して決定されてもよい)。
このようにして、複数のディープニューラルネットワークならびに1つまたは複数の集約ネットワークの両方を、共同訓練方法を使用して訓練することができ、単一の訓練データセットを使用して、複数のディープニューラルネットワークならびに1つまたは複数の集約ネットワークの両方のパラメータ(例えば、フィルタ/重みとバイアス)を調整することができ、訓練効率を高め、医用画像再構築システムの訓練に必要な時間を短縮することができる。
図5を参照すると、本開示の手法を使用して再構築された医用画像(第1の医用画像502)が、従来の計算コストの高い再構築手法を使用して再構築された医用画像(第2の医用画像504)と比較されている。見て分かるように、第1の医用画像502は、第2の医用画像504に含まれる解剖学的構造に厳密に一致し、同等のレベルの解像度を提供する。
本開示の様々な実施形態の要素を導入する場合に、「1つの(a)」、「1つの(an)」、および「前記(the)」という冠詞は、1つまたは複数の要素があることを意味することが意図される。「第1の」、「第2の」などの用語は、任意の順序、量、または重要性を示すものではなく、ある要素を別の要素と区別するために使用される。「備える(comprising)」、「含む(including)」、および「有する(having)」という用語は、包括的であることを意図し、列挙された要素以外にもさらなる要素が存在してもよいことを意味する。本明細書で「接続される」、「結合される」などの用語が使用される際に、1つの対象物(例えば、材料、要素、構造、部材など)は、1つの対象物が別の対象物に直接接続または直接結合されているかどうか、あるいは1つの対象物と別の対象物との間に1つまたは複数の介在する対象物があるかどうかに関係なく、別の対象物に接続されまたは結合され得る。さらに、本開示の「一実施形態」または「実施形態」への言及は、列挙された特徴も組み込む追加の実施形態の存在を排除するものとして解釈されることを意図しないことを理解されたい。
前述の修正に加えて、当業者は、この説明の趣旨および範囲から逸脱することなく、他の多くの変形および代替的な配置を考案することができ、添付の特許請求の範囲は、そのような修正および配置を包含するものとする。したがって、情報は、現在最も実用的で好ましい態様であると現在考えられているものに関連して特定性および詳細と共に上記で説明されているが、本明細書に記載の原理および概念から逸脱することなく、形態、機能、動作の方法および使用を含むがこれらに限定されない多くの修正を行うことができることは、当業者には明らかであろう。また、本明細書で使用される実施例および実施形態は、あらゆる点で、例示のみを意図しており、いかなる方法でも限定的であると解釈されるべきではない。
100 医用画像再構築システム
102 測定データ
104 フラット化
106 測定データ配列
108 間引き
110 第1の間引きされた測定データ配列
112 第2の間引きされた測定データ配列
114 第1のネットワーク
116 第2のネットワーク
118 第1の間引きされた画像データ配列
120 第2の間引きされた画像データ配列
122 集約ネットワーク
124 画像データ配列
126 再成形
128 再構築された医用画像
200 医用撮像システム
202 画像処理システム
204 プロセッサ
206 非一時的メモリ
208 ディープニューラルネットワークモジュール
212 画像再構築モジュール
214 画像データ
220 表示装置
230 ユーザ入力装置
240 撮像装置
300 方法
302 動作
304 動作
306 動作
308 動作
310 動作
312 動作
314 動作
400 方法
402 動作
404 動作
406 動作
408 動作
410 動作
412 動作
414 動作
416 動作
502 第1の医用画像
504 第2の医用画像

Claims (20)

  1. 撮像装置(240)によって取得された測定データ(102)を受け取るステップ(302)と、
    間引き戦略を選択するステップ(304)と、
    前記間引き戦略ならびに1つまたは複数のディープニューラルネットワークを使用して、前記測定データ(102)から再構築画像(128)を生成するステップと、
    表示装置(220)を介して前記再構築画像(128)を表示するステップ(314)と、
    を含み、
    前記間引き戦略ならびに前記1つまたは複数のディープニューラルネットワークを使用して前記測定データ(102)から前記再構築画像(128)を生成するステップは、少なくとも第1の間引きされた測定データ配列(110)および第2の間引きされた測定データ配列(112)を生成するために、前記間引き戦略に従って前記測定データ(102)を間引きするステップ(306)と、
    第1のディープニューラルネットワーク(114)を使用して、前記第1の間引きされた測定データ配列(110)を第1の間引きされた画像データ配列(118)にマッピングするステップ(308)と、
    第2のディープニューラルネットワーク(116)を使用して、前記第2の間引きされた測定データ配列(112)を第2の間引きされた画像データ配列(120)にマッピングするステップ(308)と、
    画像データ配列(124)を生成するために、集約ネットワーク(122)を使用して前記第1の間引きされた画像データ配列(118)および前記第2の間引きされた画像データ配列(120)を集約するステップ(310)と、
    前記再構築画像(128)を生成するために、前記画像データ配列(124)を再成形するステップ(312)と、
    を含む方法(300)。
  2. 記測定データ(102)は、システム変換を介して前記再構築画像(128)に関連する断層撮影データを含む、請求項1に記載の方法(300)。
  3. 前記測定データ(102)は、撮像測定データを含み、前記撮像装置(240)は、MRIスキャナ、CTスキャナ、PETスキャナ、PET/MRスキャナ、アダマール撮像を備えた光学スキャナ、光学および赤外線アダマール分光計、ならびにCアームスキャナのうちの1つを含む、請求項1または2に記載の方法(300)。
  4. 前記集約ネットワーク(122)は、1次元(1D)畳み込み層を含む、請求項1乃至3のいずれかに記載の方法(300)。
  5. 前記第1のディープニューラルネットワーク(114)は第1の全結合層を含み、前記第2のディープニューラルネットワーク(116)は第2の全結合層を含む、請求項1乃至4のいずれかに記載の方法(300)。
  6. 前記間引き戦略は、間引き係数およびサンプリングパターンを含む、請求項1乃至5のいずれかに記載の方法(300)。
  7. 前記第1の間引きされた測定データ配列(110)および前記第2の間引きされた測定データ配列(112)の各々のサイズは、前記間引き係数に基づいて決定される、請求項
    に記載の方法(300)。
  8. 前記測定データ(102)は第1の測定データであり、前記第1のディープニューラルネットワーク(114)、前記第2のディープニューラルネットワーク(116)、および前記集約ネットワーク(122)は、
    第2の測定データおよび対応するグラウンドトゥルース画像を含む訓練データペアを選択するステップ(402)と、
    複数の間引きされた測定データ配列を生成するために、前記間引き戦略に従って前記第2の測定データを間引くステップ(406)と、
    前記第1のディープニューラルネットワーク(114)および前記第2のディープニューラルネットワーク(116)を使用して、前記複数の間引きされた測定データ配列を複数の間引きされた画像データ配列にマッピングするステップ(408)と、
    予測画像データ配列を生成するために、前記集約ネットワーク(122)を使用して前記複数の間引きされた画像データ配列を集約するステップ(410)と、
    予測画像を生成するために、前記予測画像データ配列を再成形するステップ(412)と、
    損失関数を使用して前記予測画像と前記グラウンドトゥルース画像とを比較することにより、前記予測画像の誤差を計算するステップ(414)と、
    前記誤差に基づいて、前記第1のディープニューラルネットワーク(114)、前記第2のディープニューラルネットワーク(116)、および前記集約ネットワーク(122)のパラメータを調整するステップ(416)と、
    によって訓練される、請求項1乃至7のいずれかに記載の方法(300)。
  9. 前記誤差に基づいて、前記第1のディープニューラルネットワーク(114)、前記第2のディープニューラルネットワーク(116)、および前記集約ネットワーク(122)のパラメータを調整するステップ(416)は、
    前記集約ネットワーク(122)、前記第1のディープニューラルネットワーク(114)、および第2のディープニューラルネットワーク(116)の各レイヤーを介して前記誤差を逆伝播するステップと、
    前記誤差を低減するために、前記集約ネットワーク(122)、前記第1のディープニューラルネットワーク(114)、および前記第2のディープニューラルネットワーク(116)の各層においてパラメータを調整するステップと、
    を含む、請求項に記載の方法(300)。
  10. 患者の解剖学的領域の測定データ(102)を受け取るステップ(302)と、
    複数の間引きされた測定データ配列を形成するために、間引き戦略に従って前記測定データ(102)を再帰的に間引くステップ(306)と、
    1つまたは複数の訓練されたディープニューラルネットワークを使用して、前記複数の間引きされた測定データ配列を複数の間引きされた画像データ配列にマッピングするステップ(308)と、
    再構築画像(128)を形成するために、1つまたは複数の訓練された集約ネットワーク(122)を使用して、前記複数の間引きされた画像データ配列を再帰的に集約するステップ(310)と、
    を含む方法(300)。
  11. 患者の解剖学的領域の測定データ(102)を受け取るステップ(302)と、
    複数の間引きされた測定データ配列を形成するために、間引き戦略に従って前記測定データ(102)を再帰的に間引くステップ(306)と、
    数の訓練されたディープニューラルネットワークを使用して、前記複数の間引きされた測定データ配列を複数の間引きされた画像データ配列にマッピングするステップ(308)と、
    画像データ配列を再成形する画像データ配列を生成して再構築画像(128)を形成するために、数の訓練された集約ネットワーク(122)を使用して、前記複数の間引きされた画像データ配列を再帰的に集約するステップ(310)と、
    表示装置(220)を介して前記再構築画像(128)を表示するステップ(314)と、
    を含む方法(300)。
  12. 前記複数の間引きされた測定データ配列の各々のサイズは、前記間引き戦略に基づいて決定される、請求項10または11に記載の方法(300)。
  13. 前記間引き戦略は、前記測定データ(102)のサイズに基づいて、かつ前記1つまたは複数の訓練されたディープニューラルネットワークの入力層内のニューロンの数にさら
    に基づいて、選択される、請求項10乃至12のいずれかに記載の方法(300)。
  14. 前記測定データ(102)は、フーリエ変換、ラドン変換、またはアダマール変換のうちの1つまたは複数による前記再構築画像(128)に関連する、請求項10乃至13のいずれかに記載の方法(300)。
  15. 前記測定データ(102)は、医用撮像装置(240)からの医用撮像測定データを含み、前記再構築画像(128)は、前記患者の前記解剖学的領域の再構築された医用画像を含む、請求項10乃至14のいずれかに記載の方法(300)。
  16. 前記間引き戦略に従って前記測定データ(102)を再帰的に間引くステップは、前記間引き戦略によって指定されたサンプリング密度で前記測定データ(102)をサンプリングするステップを含み、前記サンプリング密度は前記測定データ(102)の本来のサンプリング密度よりも低い、請求項10乃至15のいずれかに記載の方法(300)。
  17. 撮像システム(200)であって、
    表示装置(220)と、
    撮像装置(240)と、
    1つまたは複数の訓練されたディープニューラルネットワーク、1つまたは複数の集約ネットワーク(122)、ならびに命令を格納するメモリ(206)と、
    前記表示装置(220)、前記撮像装置(240)、および前記メモリに通信可能に結合されたプロセッサ(204)と、を含み、前記プロセッサ(204)は、前記命令を実行する場合に、
    前記撮像装置(240)を使用して患者の解剖学的領域の測定データ(102)を取得し、
    間引き戦略を選択し、
    複数の間引きされた測定データ配列を形成するために、前記間引き戦略に従って前記測定データ(102)を再帰的に間引き、
    前記1つまたは複数の訓練されたディープニューラルネットワークを使用して、前記複数の間引きされた測定データ配列を複数の間引きされた画像データ配列にマッピングし、
    再構築画像(128)を形成するために、1つまたは複数の訓練された集約ネットワーク(122)を使用して、前記複数の間引きされた画像データ配列を再帰的に集約し、前記表示装置(220)を介して前記再構築画像(128)を表示する、ように構成される、撮像システム(200)。
  18. 前記撮像装置(240)は、MRIスキャナ、CTスキャナ、PETスキャナ、PET/MRスキャナ、アダマール撮像を備えた光学スキャナ、光学および赤外線アダマール分光計、ならびにCアームスキャナのうちの1つである、請求項17に記載の撮像システム(200)。
  19. 前記像装置(240)は前記MRIスキャナであり、前記測定データ(102)は、前記MRIスキャナによって取得された前記患者の前記解剖学的領域のk空間データを含む、請求項18に記載の撮像システム(200)。
  20. 前記プロセッサ(204)は、前記間引き戦略に従って前記測定データ(102)を再帰的に間引きし、前記測定データ(102)からの第1の部分のデータをサンプリングして、前記第1の部分のデータを第1の間引きされた測定データ配列(110)に割り当て、第2の部分のデータをサンプリングして、前記第2の部分のデータを第2の間引きされた測定データ配列(112)に割り当てることによって、前記複数の間引きされた測定データ配列を形成するように構成される、請求項17に記載の撮像システム(200)。
JP2020190375A 2019-11-21 2020-11-16 ディープニューラルネットワークおよび測定データの再帰的間引きを使用して医用画像を再構築するためのシステムおよび方法 Active JP7139397B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US16/691,430 US11133100B2 (en) 2019-11-21 2019-11-21 System and methods for reconstructing medical images using deep neural networks and recursive decimation of measurement data
US16/691,430 2019-11-21

Publications (2)

Publication Number Publication Date
JP2021099794A JP2021099794A (ja) 2021-07-01
JP7139397B2 true JP7139397B2 (ja) 2022-09-20

Family

ID=73343983

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020190375A Active JP7139397B2 (ja) 2019-11-21 2020-11-16 ディープニューラルネットワークおよび測定データの再帰的間引きを使用して医用画像を再構築するためのシステムおよび方法

Country Status (4)

Country Link
US (3) US11133100B2 (ja)
EP (1) EP3825712B1 (ja)
JP (1) JP7139397B2 (ja)
CN (1) CN112825271A (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11421465B2 (en) * 2019-04-26 2022-08-23 Strattec Power Access Llc Actuator for powered vehicle closure

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019028073A (ja) 2017-07-25 2019-02-21 同方威視技術股▲分▼有限公司 Ct画像を再構成する方法及びデバイス、並びに記憶媒体
US20190236817A1 (en) 2018-01-30 2019-08-01 The Board Of Trustees Of The Leland Stanford Junior University Generalized Multi-Channel MRI Reconstruction Using Deep Neural Networks
WO2019167884A1 (ja) 2018-02-28 2019-09-06 富士フイルム株式会社 機械学習方法及び装置、プログラム、学習済みモデル、並びに判別装置

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016019484A1 (en) * 2014-08-08 2016-02-11 Xiaoou Tang An apparatus and a method for providing super-resolution of a low-resolution image
US9767385B2 (en) * 2014-08-12 2017-09-19 Siemens Healthcare Gmbh Multi-layer aggregation for object detection
US11024024B2 (en) * 2015-12-15 2021-06-01 The Regents Of The University Of California Systems and methods for analyzing perfusion-weighted medical imaging using deep neural networks
CN106778856A (zh) * 2016-12-08 2017-05-31 深圳大学 一种物体识别方法及装置
US10475214B2 (en) * 2017-04-05 2019-11-12 General Electric Company Tomographic reconstruction based on deep learning
WO2019050808A1 (en) * 2017-09-08 2019-03-14 Pinscreen, Inc. SCANNING AVATAR FROM A SINGLE IMAGE FOR REAL TIME REALIZATION
US11043027B2 (en) * 2017-09-12 2021-06-22 Microsoft Technology Licensing, Llc Three-dimensional graphics image processing
CA3022707A1 (en) * 2017-10-31 2019-04-30 Royal Bank Of Canada Method and device for conducting measurements for an n-dimensional data structure
US10565707B2 (en) * 2017-11-02 2020-02-18 Siemens Healthcare Gmbh 3D anisotropic hybrid network: transferring convolutional features from 2D images to 3D anisotropic volumes
CN108171232B (zh) * 2017-11-15 2021-12-28 中山大学 基于深度学习算法的细菌性与病毒性儿童肺炎的分类方法
US10393842B1 (en) * 2018-02-20 2019-08-27 The Board Of Trustees Of The Leland Stanford Junior University Highly-scalable image reconstruction using deep convolutional neural networks with bandpass filtering
CN108388917A (zh) * 2018-02-26 2018-08-10 东北大学 一种基于改进深度学习模型的高光谱图像分类方法
CN108445751B (zh) * 2018-02-28 2021-03-16 天津大学 融合递归图与深度学习的多目标ssvep意念控制法及应用
CN108416821B (zh) * 2018-03-08 2019-08-02 山东财经大学 一种深度神经网络的ct图像超分辨重建方法
CN109598768B (zh) * 2018-10-11 2023-03-28 天津大学 基于卷积神经网络的电学层析成像图像重建方法
CN109657135B (zh) * 2018-11-13 2023-06-23 华南理工大学 一种基于神经网络的学者用户画像信息抽取方法及模型
CN109741255A (zh) * 2018-12-12 2019-05-10 深圳先进技术研究院 基于决策树的pet图像超分辨重建方法、装置、设备及介质
CN109767386A (zh) * 2018-12-22 2019-05-17 昆明理工大学 一种基于深度学习的快速图像超分辨率重建方法
CN109785279B (zh) * 2018-12-28 2023-02-10 江苏师范大学 一种基于深度学习的图像融合重建方法
CN110175971B (zh) * 2019-05-27 2022-09-16 大连海事大学 一种多光谱单像素成像的深度学习图像重构方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019028073A (ja) 2017-07-25 2019-02-21 同方威視技術股▲分▼有限公司 Ct画像を再構成する方法及びデバイス、並びに記憶媒体
US20190236817A1 (en) 2018-01-30 2019-08-01 The Board Of Trustees Of The Leland Stanford Junior University Generalized Multi-Channel MRI Reconstruction Using Deep Neural Networks
WO2019167884A1 (ja) 2018-02-28 2019-09-06 富士フイルム株式会社 機械学習方法及び装置、プログラム、学習済みモデル、並びに判別装置

Also Published As

Publication number Publication date
US11133100B2 (en) 2021-09-28
EP3825712B1 (en) 2024-05-01
US20210158935A1 (en) 2021-05-27
US20210327566A1 (en) 2021-10-21
CN112825271A (zh) 2021-05-21
US11699515B2 (en) 2023-07-11
EP3825712A1 (en) 2021-05-26
US20230290487A1 (en) 2023-09-14
JP2021099794A (ja) 2021-07-01

Similar Documents

Publication Publication Date Title
US11783451B2 (en) Systems and methods for reducing colored noise in medical images using deep neural network
US20220237748A1 (en) Methods and system for selective removal of streak artifacts and noise from images using deep neural networks
US10810767B2 (en) Machine-learned network for Fourier transform in reconstruction for medical imaging
US8014616B2 (en) System and method for fixed point continuation for total variation based compressed sensing imaging
Zha et al. NAF: neural attenuation fields for sparse-view CBCT reconstruction
CN112396560A (zh) 用于使用深度神经网络对医疗图像进行去模糊的系统和方法
Kiani et al. Quantum medical imaging algorithms
US11869120B2 (en) System and method for image reconstruction
Kelkar et al. Prior image-constrained reconstruction using style-based generative models
Shen et al. Rapid reconstruction of highly undersampled, non‐Cartesian real‐time cine k‐space data using a perceptual complex neural network (PCNN)
KR102644841B1 (ko) 비지도 학습 기반 단일 뉴럴 네트워크를 이용한 다중 초음파 영상 처리 방법 및 그 장치
US20230290487A1 (en) System and methods for reconstructing medical images using deep neural networks and recursive decimation of measurement data
KR101885562B1 (ko) 제1 의료 영상의 관심 영역을 제2 의료 영상 위에 맵핑하는 방법 및 이를 이용한 장치
CN116157826A (zh) 深度无监督的图像质量增强
US11748921B2 (en) Learnable extrapolation for deep learning-based medical image reconstruction
CN116740215A (zh) 四维ct图像重建方法、装置、医疗设备及存储介质
WO2022163402A1 (ja) 学習済みモデルの生成方法、機械学習システム、プログラムおよび医療画像処理装置
US12008690B2 (en) Iterative hierarchal network for regulating medical image reconstruction
JP2024516611A (ja) 反復画像再構成における機械学習ベースの改善
US10347014B2 (en) System and method for image reconstruction
Xie et al. 3D few-view CT image reconstruction with deep learning
Christiansen et al. Sinogram Interpolation Inspired by Single-Image Super Resolution
US11935211B2 (en) Systems and methods for image processing
US20240070936A1 (en) Iterative hierarchal network for regulating image reconstruction
US20240037817A1 (en) Iterative hierarchal network for regulating medical image reconstruction

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210317

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20210526

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20210528

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220316

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220426

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220810

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220907

R150 Certificate of patent or registration of utility model

Ref document number: 7139397

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150