JP2022530108A - 磁気共鳴画像からの合成電子密度画像の生成 - Google Patents

磁気共鳴画像からの合成電子密度画像の生成 Download PDF

Info

Publication number
JP2022530108A
JP2022530108A JP2021563284A JP2021563284A JP2022530108A JP 2022530108 A JP2022530108 A JP 2022530108A JP 2021563284 A JP2021563284 A JP 2021563284A JP 2021563284 A JP2021563284 A JP 2021563284A JP 2022530108 A JP2022530108 A JP 2022530108A
Authority
JP
Japan
Prior art keywords
image
current
coefficient
learning model
machine learning
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021563284A
Other languages
English (en)
Inventor
シヴェアソン カール
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Spectronic AB
Original Assignee
Spectronic AB
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Spectronic AB filed Critical Spectronic AB
Publication of JP2022530108A publication Critical patent/JP2022530108A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
    • A61B6/52Devices using data or image processing specially adapted for radiation diagnosis
    • A61B6/5211Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data
    • A61B6/5229Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data combining image data of a patient, e.g. combining a functional image with an anatomical image
    • A61B6/5235Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data combining image data of a patient, e.g. combining a functional image with an anatomical image combining images from the same or different ionising radiation imaging techniques, e.g. PET and CT
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/05Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves 
    • A61B5/055Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves  involving electronic [EMR] or nuclear [NMR] magnetic resonance, e.g. magnetic resonance imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
    • A61B6/02Devices for diagnosis sequentially in different planes; Stereoscopic radiation diagnosis
    • A61B6/03Computerised tomographs
    • A61B6/032Transmission computed tomography [CT]
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
    • A61B6/52Devices using data or image processing specially adapted for radiation diagnosis
    • A61B6/5205Devices using data or image processing specially adapted for radiation diagnosis involving processing of raw data to produce diagnostic data
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61NELECTROTHERAPY; MAGNETOTHERAPY; RADIATION THERAPY; ULTRASOUND THERAPY
    • A61N5/00Radiation therapy
    • A61N5/10X-ray therapy; Gamma-ray therapy; Particle-irradiation therapy
    • A61N5/103Treatment planning systems
    • A61N5/1039Treatment planning systems using functional images, e.g. PET or MRI
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01RMEASURING ELECTRIC VARIABLES; MEASURING MAGNETIC VARIABLES
    • G01R33/00Arrangements or instruments for measuring magnetic variables
    • G01R33/20Arrangements or instruments for measuring magnetic variables involving magnetic resonance
    • G01R33/44Arrangements or instruments for measuring magnetic variables involving magnetic resonance using nuclear magnetic resonance [NMR]
    • G01R33/48NMR imaging systems
    • G01R33/4808Multimodal MR, e.g. MR combined with positron emission tomography [PET], MR combined with ultrasound or MR combined with computed tomography [CT]
    • G01R33/4812MR combined with X-ray or computed tomography [CT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/001Texturing; Colouring; Generation of texture or colour
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
    • A61B6/52Devices using data or image processing specially adapted for radiation diagnosis
    • A61B6/5211Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data
    • A61B6/5229Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data combining image data of a patient, e.g. combining a functional image with an anatomical image
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
    • A61B6/52Devices using data or image processing specially adapted for radiation diagnosis
    • A61B6/5211Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data
    • A61B6/5229Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data combining image data of a patient, e.g. combining a functional image with an anatomical image
    • A61B6/5247Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data combining image data of a patient, e.g. combining a functional image with an anatomical image combining images from an ionising-radiation diagnostic technique and a non-ionising radiation diagnostic technique, e.g. X-ray and ultrasound
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01RMEASURING ELECTRIC VARIABLES; MEASURING MAGNETIC VARIABLES
    • G01R33/00Arrangements or instruments for measuring magnetic variables
    • G01R33/20Arrangements or instruments for measuring magnetic variables involving magnetic resonance
    • G01R33/44Arrangements or instruments for measuring magnetic variables involving magnetic resonance using nuclear magnetic resonance [NMR]
    • G01R33/48NMR imaging systems
    • G01R33/54Signal processing systems, e.g. using pulse sequences ; Generation or control of pulse sequences; Operator console
    • G01R33/56Image enhancement or correction, e.g. subtraction or averaging techniques, e.g. improvement of signal-to-noise ratio and resolution
    • G01R33/5608Data processing and visualization specially adapted for MR, e.g. for feature analysis and pattern recognition on the basis of measured MR data, segmentation of measured MR data, edge contour detection on the basis of measured MR data, for enhancing measured MR data in terms of signal-to-noise ratio by means of noise filtering or apodization, for enhancing measured MR data in terms of resolution by means for deblurring, windowing, zero filling, or generation of gray-scaled images, colour-coded images or images displaying vectors instead of pixels
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10088Magnetic resonance imaging [MRI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems

Abstract

変換装置(20)は、1つ又は複数の磁気共鳴MR画像に基づいて、解剖学的部位の合成電子密度画像(sCT)を生成する、学習に基づく方法を実施するように、動作可能である。この方法は、処理効率がよく、基礎となるトレーニングセットにおける位置ずれに左右されることなく、高精度のsCT画像を生成することができる。変換装置(20)は、画像伝達関数(24)の係数を予測するようにトレーニングされた機械学習モデル(22)を受け取り、組み込む。次いで、変換装置(20)は、解剖学的部位の現在のMR画像(MRI)セットを受け取り、現在のMR画像(MRI)セットに対し機械学習モデル(22)を作用させることにより、画像伝達関数(24)の現在の係数([C])を計算し、現在のMR画像(MRI)セットに対し画像伝達関数(24)に従って現在の係数([C])を作用させることにより、解剖学的部位の現在のsCT画像を計算する。

Description

本発明は、概して医療用撮像の分野に関し、より詳細には、例えば体外放射線治療のプランニングに使用する目的において、磁気共鳴画像から合成電子密度画像を生成するための技術に関する。
背景技術
例えば癌などの放射線治療の慣用のプランニングの場合、患者の解剖学的部位についてコンピュータ断層撮影(CT)画像が取得され、これが、治療計画を最適化するための基礎として使用される。CT又は「CTスキャン」とは、様々な角度から物体を通過するときの放射線、典型的にはX線の減衰を測定し、測定された減衰に基づいて物体の2D画像又は3D画像(「断層像」)を再構築する医療用撮像技術のことを指す。これにより、結果として得られたCT画像の値は、物体が放射線にどのように反応するかを表しており、また、それらの値を電子密度、例えばいわゆるハウンズフィールド単位(HU)にダイレクトに変換して、放射線の線量を計算するために使用することができる。
治療計画を作成する際には、放射線療法のためのターゲット領域、例えば若干のマージンを加えた1つ又は複数の腫瘍を描出することも必要とされる。最小限の放射線に晒さなければならない敏感で必要不可欠な臓器である、いわゆるリスク臓器(OAR)を描出することが必要とされることも多い。CTの欠点は、軟組織構造をCT画像において分離するのが難しいことである。従って、CT画像のみを使用した描出は、当て推量及び大きいマージンを必然的に伴うこととなる。この問題を軽減するために、現代の放射線療法には、補助としてMRIスキャンが含まれることも多い。MRI(Magnetic Resonance Imaging)とは、強力な磁場、磁場勾配及び電波を用いて、体内の臓器及び構造物の2D又は3Dの断層画像を生成する撮像技術のことを指す。MRIは、電離放射線を含まず、より正確なターゲット及び構造の描出を可能にする上質の軟組織コントラストを提供する。しかし、MR画像は、電子密度情報を含まないので、従来は、放射線治療計画においてCT/MRIを組み合わせたワークフローが用いられていた。CT/MRIを組み合わせたワークフローは、コストが高く、時間がかかり、さらに患者に余計な不快感も与える。しかも、CT自体によって患者にかなりの放射線量が加えられ、これによって、患者にCTを繰り返し使用することが制限される。
これらの欠点を克服するために、MRIのみのワークフローが提案されており、これによれば、MRIデータがアルゴリズムによって処理されて、電子密度画像が人工的に生成され、このことは、「擬似CT」、「代用CT」又は「合成CT(sCT)」として知られているが、これによって、CTスキャンの必要性が排除される。この状況における1つの大きい難題は、MR画像内の個々のピクセル強度と、組織の関連する放射線減衰特性との間の対応関係の欠如である。MRI強度は、むしろ、組織の陽子密度及び磁気緩和と相関している。このことから、MR画像内の複数の組織間に曖昧さがもたらされる。例えば、骨と空気は、著しく異なる放射線減衰特性を有しているにもかかわらず、MR画像においては、それらは両方とも暗く見える。
sCTのための公知の技術をおおまかに3つのカテゴリに分けることができ、即ち、アトラスに基づくアプローチ、セグメンテーションに基づくアプローチ、及び、学習に基づくアプローチに分けることができる。
アトラスに基づくアプローチは、予めマッチングされたMR画像及びCT画像のデータベースを使用し、これは、MRアトラス及びCTアトラス又はMRテンプレート及びCTテンプレートと称される。この場合には、データベースからのMRアトラスが、到来した新たなMR画像により変形されることによって登録され、その後、組み合わせられたCTアトラスに同様の変形が適用されて、sCT画像が生成される。アトラスに基づくアプローチは、一般にかなり時間がかかる。
セグメンテーションに基づくアプローチは、Med.Phys.41,011704(2014)に掲載されたKorhopronenらによる記事“A dual model HU conversion from MRI intensity values within and outside a bone segment for MRI-based radiotherapy treatment planning of prostate cancer”に例示されている。軟組織及び骨組織のための変換モデルは、それぞれ、例えば回帰分析などによって、MR画像及び標準CT画像における明確に定義された関心領域(ROI)内のバルク強度値を比較することにより決定される。その後、到来した新たなMR画像が手動でセグメント化され、個々の変換モデルが個々のセグメントに適用されて、MR画像がsCT画像に変換される。このアプローチは、組織のセグメント化に左右され、これは、MR画像に対し高精度で自動的に実施することが難しい場合がある。さらに解剖学的構造をいくつかの組織タイプに分けると、実際の解剖学的構造の粗い近似がもたらされる。
学習に基づくアプローチは、第1の医療用撮像モダリティから第2の医療用撮像モダリティへダイレクトに変換するために、機械学習法のトレーニング及び使用を伴う。MR画像をsCT画像に変換するために畳み込みニューラルネットワーク(CNN)をトレーニングする技術は、Med.Phys.,44(4),1408~1419頁(2017)に掲載されたXiao Hanによる記事“MR-based synthetic CT generation using a deep convolutional neural network method”に開示されている。画像間のダイレクトなマッピングについての同様の開示は、国際公開第2018/048507号に示されている。実際には、この技術は、2017年以前から科学コミュニティにおいては、よく知られていた。例えば、MR画像をPET画像に変換するために畳み込みニューラルネットワーク(CNN)をトレーニングする技術は、Med Image Comput Comput Assist Interv.2014;17(0 3):305~312に掲載されたLiらによる記事“Deep Learning Based Imaging Data Completion for Improved Brain Disease Diagnosis”に開示されている。また、MR画像を推定CT画像に変換するために機械学習法を使用する方法については、IEEE Trans Med Imaging.2016年1月;35(1):174~183に掲載されたHuynhらによる記事“Estimating CT Image from MRI Data Using Structured Random Forest and Auto-context Model”、及び、Med.Phys.42(8),2015年8月に掲載されたSuらによる記事“Generation of brain pseudo-CTs using an undersampled,single-acquisition UTE-mDixon pulse sequence and unsupervised clustering”に開示されている。
学習に基づくアプローチは、一般に、マッチングされたMR画像及びCT画像の大きいトレーニングセットを使用し、このトレーニングセットによって、人工ニューラルネットワーク(ANN)又はこれに類するものが、到来したMR画像に基づいてsCT画像を生成するようにトレーニングされる。トレーニングにおいてANNは、トレーニングセット全体を基礎として、ピクセル周辺の有限の近傍(受容野)に基づき、ピクセル各々に構造化されていない非線形関数を適合させるようにする。これが意味することは、トレーニングセット内のMR画像とCT画像とのマッチングにおいて小さい誤差があると、sCTにおいて微細なディテールが失われる、ということである。
国際公開第2018/048507号
"A dual model HU conversion from MRI intensity values within and outside a bone segment for MRI-based radiotherapy treatment planning of prostate cancer"、Korhopronenら著、Med.Phys.41,011704(2014) "MR-based synthetic CT generation using a deep convolutional neural network method"、Xiao Han著、Med.Phys.,44(4),1408~1419頁(2017) "Deep Learning Based Imaging Data Completion for Improved Brain Disease Diagnosis"、Liら著、Med Image Comput Comput Assist Interv.2014;17(0 3):305~312 "Estimating CT Image from MRI Data Using Structured Random Forest and Auto-context Model"、Huynhら著、IEEE Trans Med Imaging.2016年1月;35(1):174~183 "Generation of brain pseudo-CTs using an undersampled,single-acquisition UTE-mDixon pulse sequence and unsupervised clustering"、Suら著、Med.Phys.42(8),2015年8月
発明の概要
本発明の課題は、従来技術の1つ又は複数の限界を少なくとも部分的に克服することである。
更なる課題は、解剖学的部位のMR画像に基づき合成電子密度画像を生成する技術を提供することである。
また更なる課題は、自動化可能なかかる技術を提供することである。
他の課題は、高レベルのディテール及び精度で合成電子密度画像を生成可能な技術を提供することである。
これらの課題のうちの1つ又は複数、及び、以下の説明から明らかになる可能性のあるさらなる課題は、独立請求項に記載された、解剖学的部位の合成電子密度画像を生成するためのコンピュータ実装による方法及び装置、機械学習モデル、トレーニング済み機械学習モデルを提供するためのコンピュータ実装による方法、並びに、コンピュータ可読媒体によって、少なくとも部分的に達成され、これらの独立請求項の実施形態は、従属請求項によって特定される。
さらにその他の課題は、同様に本発明の特徴、態様及び技術的効果も、以下の詳細な説明、添付の特許請求の範囲及び図面から明らかになるであろう。
次に、本発明の実施形態について、添付の概略図を参照しながら、さらに詳細に説明する。
例示的なMRIのみの撮像システムのブロック図である。 本開示のいくつかの実施形態による撮像システムのブロック図である。 図2の撮像ステムにおいて使用される機械学習モデルをトレーニングするためのシステムのブロック図である。 図3Aのシステムにおけるトレーニング装置の詳細なブロック図である。 図3Aのシステムにおいて使用するためのトレーニングデータを示す図である。 トレーニングに使用されるMR画像及びCT画像と、従来技術によって生成された結果として生じたsCT画像とについて、簡略化された例を示す図である。 トレーニングに使用されるMR画像及びCT画像と、本開示のいくつかの実施形態による方法によって生成された結果として生じたsCT画像とについて、簡略化された例を示す図である。 トレーニングに使用されるMR画像及びCT画像と、本開示のいくつかの実施形態による方法によって生成された結果として生じたsCT画像とについて、簡略化された例を示す図である。 本開示のいくつかの実施形態による撮像システムのブロック図である。 本開示のいくつか実施形態による、MR画像からsCT画像を生成するための方法のフローチャートである。 図6における方法の1つの実装形態の機能ブロック図である。 図6の方法において後で使用するために機械学習モデルをトレーニングするための方法のフローチャートである。 図8Aにおける方法の実装形態の機能ブロック図である。 図8Aにおける方法の実装形態の機能ブロック図である。 本開示のいくつかの実施形態による、sCT画像の生成方法及び/又は機械学習モデルのトレーニング方法を実装可能な装置のブロック図である。
例示的な実施形態の詳細な説明
次に、本発明の実施形態を、添付の図面を参照しながら、以下においてより詳細に説明する。添付の図面には、本発明のいくつかの実施形態が示されているが、総てが示されているわけではない。実際には、本発明を多くの異なる形態で具現化することができ、本発明が本明細書に記載された実施形態に限定されるものと解釈されるべきではない。むしろそれらの実施形態は、本開示が適用可能な法的要件を満たすことができるように提供されたものである。同一の番号は、全体を通して同一の要素を指す。
同様に理解されるであろうことは、可能である限り、本明細書において記載された及び/又は企図された本発明の実施形態のうちのいずれかの利点、特徴、機能、装置及び/又は動作態様のいずれかは、本明細書において記載された及び/又は企図された本発明の他の実施形態のいずれかに含まれ得るものであり、及び/又は、その逆もあり得るということである。このことに加えて、可能である限り、本明細書において単数形により表現されている任意の用語は、明示的に別段の記載がない限り複数形も含み、その逆もあり得るということを意味している。本明細書においては、「少なくとも1つ」は「1つ又は複数」を意味するものとし、これらの言い回しは、互いに置き換え可能であることを意図している。よって、本明細書においては、「1つ又は複数」又は「少なくとも1つ」という言い回しも使用されているとはいえ、不定冠詞単数形は、「少なくとも1つ」又は「1つ又は複数」を意味するものとする。本明細書においては、言語又は言語外の欠くことのできない意味を表現するために文脈が別段の要求をする場合を除き、用語「含む」又は例えば3人称単数形若しくは現在進行形といったその変形は、包括するという意味合いにおいて、即ち、記載された特徴の存在を明記するために使用されるが、本発明の種々の実施形態におけるさらなる特徴の存在又は追加を排除するために使用されるものではない。本明細書においては、複数の項目から成る「セット」は、1つ又は複数の項目を装備することを含意することを意図している。
さらに、本明細書においては、種々の要素を説明するために、第1、第2などの用語が使用される場合があるが、それらの要素は、これらの用語によって限定されるべきものではないということを理解されたい。これらの用語は、ある要素を他の要素から区別するために用いられるにすぎない。例えば、本発明の範囲を逸脱することなく、第1の要素を第2の要素と称することができ、同様に第2の要素を第1の要素と称することができる。本明細書においては、「及び/又は」という用語は、関連する列挙された項目のうちの1つ又は複数の任意の組合せ及び総ての組合せを含む。
本明細書においては、「合成電子密度画像」とは、電子密度に直接関連する信号値(「強度値」)を含むように計算によって生成される任意の種類の画像のことを指す。かかる画像は、X線放射を含むがこれらに限定されるものではない任意の波長範囲の放射を使用して、コンピュータ断層撮影(CT)により生成された電子密度画像を描写し、置換し又は補完し得るものである。以下の説明においては、簡潔にするために、合成電子密度画像は、「sCT画像」と表記される。
本明細書においては、「MR画像」とは、核磁気共鳴(NMR)信号を検出するように構成された装置、例えば任意の構成のMRスキャナ、によって生成された任意の種類の画像のことを指す。図中において、MR画像は、「MRI」により表されている。
本明細書においては、「画像」を、2次元(2D)又は3次元(3D)とすることができる。3D画像は、空間的に隣接する2D画像のスタックに相当し、断層撮像の分野においては、一般に「画像スタック」と称される。2D画像各々は、撮像される物体の断面スライスに相当する。
本明細書においては、1つの「ピクセル」は、1つの画像要素であり、1つのピクセル値に関連づけられている。2D画像において1つのピクセルのロケーションを、個々の2D画像に関して固定されたロケーションを有する2Dの規則的なグリッドにおいて、例えば(x,y)値によって、定義することができる。3D画像の場合には、ピクセルは、「ボクセル」としても知られており、ピクセルのロケーションを、個々の3D画像に関して固定されたロケーションを有する3Dの規則的なグリッドにおいて、例えば(x,y,z)値によって、定義することができる。本明細書においては、1つのピクセルは、画像内の最小の個々の要素又はかかる要素のグループに対応するものとすることができる。
本明細書においては、「行列」は、任意の次元の配列である。配列は、個々の値を代入可能な要素を含む。例えば、行列は、2次元又は3次元を有することができる。「行列」という用語を、本開示の文脈においては、「テンソル」と称する場合もある。
本明細書においては、「機械学習モデル」とは、数値を予測するようにトレーニング可能な任意の種類の予測モデルのことを指し、以下に限定されるものではないが、これには、ディープラーニングネットワーク、リカレントニューラルネットワーク等といった人工ニューラルネットワーク(ANN)、並びに、サポートベクターマシン(SVM)及びベイジアンネットワーク等が含まれる。
以下の説明においては、機械学習モデルは、MLMによって表され、ここで、トレーニング済みMLMは、添字T(MLM)によって示され、未トレーニングMLMは、アスタリスク(MLM*)によって示される。この文脈において、新しい入力データに対しトレーニング済みMLMを作用させて結果を生成するプロセスは、一般に「推論」と称される。
本発明の実施形態は、概して、1つ又は複数のMR画像から合成電子密度情報を生成する分野に関する。合成電子密度情報の形成は、MRに基づく放射線治療プランニングのために特に有用となる可能性がある。とはいえ、これを他の用途においても同様に使用することができる、ということを認識されたい。例えば合成電子密度情報を、陽電子放射断層撮影(PET)カメラ又は単一光子放射コンピュータ断層撮影(SPECT)カメラのための減衰情報として、使用することができる。合成電子密度は、陽子線治療プランニングにおいて使用するための陽子阻止能情報を構成することもできる。
実施形態は、1つ又は複数のMR画像に対し「最適化された」画像伝達関数を作用させることによって、既存の技術と比較して合成電子密度画像におけるディテール及び精度のレベルを改善することができるであろう、という洞察に基づいている。実施形態は、適当にトレーニングされた機械学習モデルがかかる「最適化された」画像伝達関数を提供することができるという洞察にも基づいており、従って、MR画像セットのパラメータ化された画像伝達関数を作用させることによって合成電子密度画像が得られるよう、到来したMR画像セットについて画像伝達関数をパラメータ化するように、この関数をトレーニングすることができる。
かくして従来の学習に基づくアプローチとは異なり、トレーニング済み機械学習モデルは、合成電子密度画像を直接出力するのではなく、むしろ画像伝達関数をパラメータ化し、画像伝達関数は、これによって、機械学習モデルへの入力に対し作用させられたときに、合成電子密度画像を生成するように調整されている。また、以下においてさらに例示するように、到来したMR画像のセグメント化を必要とせずに、画像伝達関数をパラメータ化するように、機械学習モデルをトレーニング可能であり、これによって、この技術の汎用性が高まり、この技術を自動化することができ、従って、人間による主観的な入力なしで実施することができる。
図1には、患者の解剖学的部位(図示せず)の1つ又は複数のMR画像を生成するように構成されたMRI装置10を含む、MRIのみの撮像システムが概略的に示されている。MRI装置10は、一般にスキャナとして知られており、当該技術分野においては周知であり、この装置についてこれ以上は説明しない。変換装置20は、MR画像を受け取って処理し、sCT画像を生成して出力するように構成されている。この場合には、背景技術のセクションで例示したように、放射線治療のプランニングのためにsCT画像をMR画像と共に分析することができる。選択的に又は付加的に、sCT画像が慣用のCT装置によって取得されていたであろうCT画像に取って代わる他の任意の目的のために、sCT画像を分析することができる。
図2は、1つの実施形態によるMRIのみの撮像システムのさらに詳細な図である。図示の例においては、変換装置20は、MR装置10によって生成された複数のMR画像[MRI]が格納されている記憶装置又はストレージ100からMR画像を取り出すように構成されている。変換装置20は、係数発生器21を含み、この係数発生器21は、トレーニング済み機械学習モデルMLM、22を到来したMR画像に対し作用させ、予め定義された画像伝達関数ITFの現在の係数セット[C]を生成して出力する。ITFは、MR画像内の1つ又は複数のピクセル値を入力(独立変数)として受け取り、sCT画像内のピクセル値(従属変数)を生成するパラメトリック関数である。本明細書においては、「係数」は、独立変数に基づき従属変数を計算できるようITFを完成させるために必要とされる任意の未知の値を表す。換言すれば、係数は、ITFをパラメータ化するために適用される。1つの実施例によれば、ITFは、k・I+mによって定められるアフィン関数であり、ここで、Iは、到来したMR画像におけるピクセル値であり、k,mは、係数である。アフィンITFは、結果として生じるsCT画像の計算の複雑さと精度との間の合理的な妥協点を提供することが判明した。ただし、一般的には、ITFを、以下に限定されるものではないが、任意の次数の多項式関数を含む任意の適当な関数とすることができる。
以下の実施例において前提とすることは、到来したMR画像内の総てのピクセルに対し同一のITFが適用されるが、係数は、MR画像内のピクセルロケーション間において変化してもよいということである。よって、上述のアフィンITFをK・MRI+Mによって表すことができ、ここで、K及びMは、MR画像MRI内の個々のピクセル値に適用される係数を定義する行列である。従って、この実施例の場合、係数セット[C]は、K行列及びM行列を含む。
なお、ここで述べておくと、変換装置20は、sCT画像を生成するために2つ以上のMR画像に対し作用を及ぼすことができる。1つの実施例によれば、患者の種々の組織を強調するために、MR装置10の1つの取得シーケンス中に2つ以上のMR画像を生成することができ、例えば脂肪と水を別々に強調するいわゆるディクソン画像を生成することができる。かかるMR画像は、当該技術分野においては、「マルチチャネル」MR画像として公知である。他の実施例によれば、MR装置10の種々の取得シーケンスは、種々の画像コントラストを有するMR画像を生成することができ、例えばいわゆるT1強調画像及びT2強調画像を生成することができる。1つ又は複数の取得シーケンスからの任意の2つ以上のMR画像を、変換装置20により一緒に処理して、sCT画像を生成することができる。
変換装置20は、さらに、係数発生器21から[C]を受け取り、ITF24をパラメータ化するために[C]を適用するように構成された画像変換器23を含む。画像変換器23は、さらに、現在のMR画像、即ち、係数発生器21によって処理された同一のMR画像を受け取り、現在パラメータ化されているITFをMR画像に適用して、現在のsCT画像を生成するように構成されている。一般に、パラメータ化されたITFによって、画像変換器23は、現在の係数[C]をITFに従って現在のMR画像に適用するものであるとみなすことができる。
図3Aには、図2の変換装置20において使用するためのトレーニング済み機械学習モデルMLMを生成するためのトレーニングシステムが示されている。このトレーニングシステムは、トレーニング済み機械学習モデルMLMを生成する際に使用するために、マッチングされたMR画像及びCT画像を記憶装置200から取り出すように構成されたトレーニング装置30を含む。図示されているように記憶装置200は、MRI装置10によって取得された複数のMR画像[MRI]と、慣用のCT装置12によって取得された対応する複数のリアルCT画像[CT]とを格納する。これらの画像[MRI]、[CT]は、いわゆるトレーニングセットを構成する。図3Cには、かかるトレーニングセット210が例示されており、このトレーニングセット210は、N個のマッチングされたMR画像及びCT画像を含む。ただし、これまで述べてきたことから理解できるように、2つ以上のMR画像、例えばマルチチャネルMR画像がトレーニングセット内のCT画像にマッチングされ、従って、機械学習モデルをトレーニングするために使用される、ということも考えられる。さらに、図3Cには、トレーニングセット210がマッチングされた2D画像を含むように示されているが、トレーニングセット210がマッチングされた3D画像を含むことも同様に可能である。実際に現在のところ、変換装置20(図2)によって生成されたsCT画像のディテール及び精度のレベルに関して、マッチングされた3D画像において機械学習モデルをトレーニングすれば、改善された性能が達成されると考えられており、その理由は、これによって、機械学習モデルは、MR画像及びCT画像のz方向における構造も考慮するようにトレーニングされるからである。かかるトレーニング済み機械学習モデルを作用させる場合には、変換装置20の改善された性能は、2DMR画像又は3DMR画像のいずれかについて達成される。
トレーニング装置30は、1人又は複数人の患者から取得された多数のマッチングされたMR画像及びCT画像に対し作用を及ぼすことができる。典型的には、数10又はそれどころか数100又はそれ以上に及ぶマッチングされた2D画像又は3D画像において、機械学習モデルをトレーニングすることができる。トレーニングセット内の画像を、患者において選択された解剖学的領域、例えば頭部、胴部、腹部、四肢など、について取得することができ、よって機械学習モデルを、選択された解剖学的領域から取得したMR画像に対し特別に作用するようにトレーニングすることができる。
図3Bは、1つの実施形態によるトレーニング装置30のさらに詳細な図である。図示されている実施例によれば、トレーニング装置30は、マッチングされたMR画像及びCT画像から成る現在のデータセットを、例えば記憶装置200(図3A)から取り出すように構成されている。トレーニング装置30は、トレーニングすべき機械学習モデルMLM* 32を有する係数予測器31を含む。係数予測器31は、係数発生器21に相当するものであるが、フィードバックデータFB*(以下を参照)に応答してMLM*のモデルパラメータを修正し、予測された係数セット[C]*を出力するように構成されている。トレーニング装置30は、さらに画像変換器33を含み、これは、画像変換器23に相当するものであり、変換装置20におけるITF24と同一のITF34をパラメータ化するために、[C]*を受け取って適用するように構成されている。画像変換器33は、さらに、現在のデータセットのMR画像を受け取り、現在のところパラメータ化されているITFをMR画像に適用して、図3BにおいてsCT*により表された現在の予測されたsCT画像を生成するように構成されている。予測評価器35は、補正アルゴリズムを適用してフィードバックデータFB*を生成するように構成されている。1つの実施形態によれば、補正アルゴリズムは、現在のデータセットのsCT*画像及びCT画像を入力として受け取る費用関数を最適化するように作用する。後でさらに例示するように、費用関数は、さらなる入力データ、例えば[C]*又はその一部、に対し作用を及ぼすことができる。
図3Bの実施形態によれば、トレーニング装置30は、MLM*のパラメータ又は重みを学習するために、トレーニングセットに基づいてMLM*を自動的にトレーニングする。例えば費用関数によって定義された最適性基準に従って、パラメータを繰り返し学習させることができる。具体的には、参照画像とみなすことができるCT画像とsCT*画像との間において類似基準が満たされるまで、トレーニング装置30は、MLM*をトレーニングするとみなすことができる。その後、トレーニング装置30は、変換装置20(図2)に後で組み込むために、トレーニング済み機械学習モデルMLMを出力することができる(図2)。
1つの非限定的な実施例によれば、機械学習モデルは、ディープラーニングのためのニューラルネットワーク、例えば畳み込みニューラルネットワーク(CNN)、である。かかるニューラルネットワークは、入力を出力に変換するように構成された複数の別個の層から成るスタックを含む。これらの層を、入力サイズ、出力サイズ、及び、層に対する入力と出力との関係について、それぞれ異なるものとすることができる。各層を、複数の層から成るスタック内の1つ又は複数の上流層及び下流層に接続することができる。ディープラーニングの場合、畳み込みニューラルネットワークは、一般に、非線形特徴量変換の2つ以上のステージを有する。
次に図4A乃至図4Cを用いて、上述の記載に従ってパラメータ化されたITFを生成して使用することのいくつかの技術的な利点について、単純化された定性的な説明を行うことにする。
図4Aは、例えば背景技術のセクションで述べたように、トレーニング済みニューラルネットワークによってMR画像からsCT画像へのダイレクトな画像間マッピングの従来技術について示すことを意図したものである。図4Aの最上部には、マッチングされたMR画像とCT画像とが示されており、これらの画像各々は、個々のピクセルp1,p2を含み、そこには、信号値(「強度値」)が例示されている。MR画像及びCT画像は、両方とも逆L字構造を表しており、この逆L字構造によれば、MR画像(左最上部)内においては、ピクセル値0の背景に対しピクセル値1が生じており、CT画像(右最上部)内においては、ピクセル値100の背景に対しピクセル値1000が生じている。MR画像とCT画像との間において、水平方向に1ピクセルのわずかな位置ずれが導入される。例えば、マッチングされたMR画像及びCT画像の3つの付加的なインスタンスによって図4Aに表されているように、小さい位置ずれを含む多数のマッチングされたMR画像及びCT画像に基づいて、ニューラルネットワークがトレーニングされるとするならば、トレーニング済みニューラルネットワークは、左最上部に示されたMR画像に基づいて、図4Aの最下部に示されたsCT画像を生成する可能性がある。sCT画像におけるピクセルp3の信号値から見ると、太い破線によって示されているように、逆L構造は、位置ずれによって著しくぼやけている。
図4B乃至図4Cに示されている1つの実施形態によれば、図4Aに示したタイプの、即ち、互いにわずかな位置ずれを含む、多数のマッチングされたMR画像及びCT画像に基づき、機械学習モデルがトレーニングされて、ITF=K・MRI+Mの係数K,Mが生成された。図4Bによれば、逆L構造を表すMR画像が、トレーニング済み機械学習モデルMLMに入力され、このモデルは、係数行列又はマップ、即ち、K行列及びM行列の形態で[C]を出力する。個々の行列は要素pK,pMを含み、これらの要素は、係数値(「ピクセル係数」)を保持し、MR画像内の個々のピクセルp1に対応する。かくしてMLMは、到来したMR画像内のピクセルp1ごとにK,Mの係数を生成する。図4Cによれば、ITFが、K行列及びM行列によってパラメータ化され、図4Bにおいて入力されたのと同一のMR画像に対し作用させられ、その結果、右側に示されているsCT画像が生成される。K行列及びM行列における対応する要素pK、pMの係数値を、ITFに従ってMR画像内の対応するピクセル値p1に対し作用させることによって、sCT画像内の個々のピクセルp3のピクセル値が計算される。sCT画像内のピクセルp3の信号値から見ると、太い線によって示されているように、逆L構造は、ぼやけることなくsCT画像内に再現されている。ここで明らかなように、sCT画像の生成は、トレーニングセットにおける画像間の位置ずれに対しロバストである。換言すれば、パラメータ化されたITFによって、到来したMR画像からsCT画像へのディテールの伝播が強化される。
図4B乃至図4Cにおける実施例は、到来したMR画像内の総てのピクセルに対し同一の係数値を用いて[C]を生成するように、MLMがトレーニングされている、という点において単純化されたものである。本出願人は、係数値を画像内において空間的に、即ち、[C]における隣接ピクセル間において、変化させることができるようにすることによって、大幅に改善された結果を得ることができることを見出した。これが意味することは、トレーニングにおいて機械学習モデルMLM*は、マッチングされたMR画像及びCT画像における対応するピクセル値に対してITFの係数値を適合させることを可能にさせられるということである。ITFがMR画像からsCT画像へディテールを伝播しようと努めることをさらに刺激する目的で、個々の係数行列内の係数値の局所的ばらつきに対し制約を適用することが有利になり得る。MLM*がかかる制約なくトレーニングされると、個々の係数行列の隣接要素間の係数値が互いにほぼ無関係である限りにおいても、結果として得られたMLMは、高い分散を伴う係数行列を生成する可能性がある。このことは、MR画像が撮影される物理的環境及びMR画像の既知の特性とは矛盾している。周知のようにMR画像は、緩慢に変化する画像不均質性の背景成分(「バイアス磁場」)及びMR画像強度グレースケールの非標準性という形態で、アーチファクトを有する場合がある。非限定的な例を挙げると、緩慢に変化するバイアス磁場は、最大値と最小値との間において約10cmの空間スケールを有する場合がある。従って、アーチファクトによって同一の組織が、MR画像の種々の部分においてそれぞれ異なる強度値を生じさせる可能性がある。トレーニングにおいて局所的ばらつきの制約を適用することにより保証されることは、アーチファクトに起因する到来したMR画像内のピクセルp1間の画像不均質性にほぼ一致して、個々の係数値が個々の係数行列における行列要素間において緩慢に変化するように、MLMが[C]を生成する、ということである。その結果、パラメータ化されたITFは、sCT画像を生成する際、到来したMR画像内の画像不均質性を少なくとも部分的に補償することができる。
例えば局所的ばらつきの制約を、個々の係数行列における係数値のCV(分散係数)が、典型的なMR画像における強度値のCVよりも著しく小さくなるように、設定することができ、ここで、CVは、係数行列/MR画像における個々の要素/ピクセルの周囲の予め定義された範囲の局所領域内において求められる。例えば、この局所領域は、個々の要素/ピクセルから1ピクセルの距離内にある総てのピクセル/要素、例えばx、y、z方向の隣接ピクセルを含み得る。
局所的ばらつきの制約を係数行列間において異なるように設定することができ、1つの係数行列内において異なるものとすることもでき、即ち、この制約を行列要素(ピクセルポジション)間において異なるものとすることができる。さらに、局所的ばらつきの制約を、総ての係数行列に適用しないものとしてもよい。
一般に、パラメータ化されたITFを回帰関数とみなすことができ、この回帰関数は、到来したMR画像内の対応するピクセル値に基づきsCT画像の個々のピクセル値を生成するように、トレーニングセットにおけるMR画像とCT画像との間においてピクセルごとに適合させられたものである。
これまでの説明によって示したことは、本発明の実施形態が、トレーニングセットにおけるMR画像とCT画像との間の位置ずれの影響を低減することができ、それにより、結果として得られたsCT画像において高レベルのディテール及び精度を達成できる、ということである。さらに、MLM*をトレーニングするために使用される画像又はMLMに入力されるMR画像の予備セグメンテーションの必要もなく、従って、トレーニング及びsCTの生成の双方を、精度を犠牲にすることなく完全に自動化することができる。ただし、必要に応じて予備セグメンテーションを用いるものとしてもよい。
他の技術的な利点は、sCT画像を到来するMR画像と同等のピクセル解像度で生成可能である、ということである。ニューラルネットワークを用いてMR画像からsCT画像へのダイレクトな画像間マッピングを実施する従来技術において、ニューラルネットワークを効率的に動作させるためには、標準化ピクセルサイズにリサンプリングされたMR画像及びCT画像において、ニューラルネットワークをトレーニングする必要がある。標準化ピクセルサイズは、トレーニングセットのピクセルサイズによって決定され得るものであり、又は、ハードウェアの制約によって決定され得るものである。それというのも、より小さい標準化ピクセルサイズは、より多くのコンピューティングリソースを必要とすることになり、さらにこれによって、ニューラルネットワークの視野及び/又は深度が制限されることになるからである。従って、従来技術においては、到来したMR画像を、トレーニング済みニューラルネットワークにおける推定の前に、標準化ピクセル解像度になるようにリサンプリングしなければならない場合があり、結果として得られたsCT画像は、標準化ピクセルサイズで生成される。到来したMR画像が、標準化ピクセルサイズよりも小さいピクセルサイズ、即ち、さらなるディテールを有すると、この付加的なディテールレベルは、リサンプリング処理において取り消し不能に失われてしまうことになる。本発明の実施形態によれば、機械学習モデルは、結果として得られるsCT画像とは切り離されたものとされており、その代わりに現在の[C]を生成する。このことによって、パラメータ化されたITFが緩慢に変化する関数である場合には、特に、到来したMR画像のディテールをsCT画像に伝達するパラメータ化されたITFの能力にまったく影響を与えずに又はわずかにしか影響を与えずに、ITFがパラメータ化されて到来したMR画像に適用される前に、現在の[C]のピクセルサイズを例えば内挿によって変更できるようになる。先に挙げたアフィンITFの実施例の場合には、個々の係数行列K、Mにおける既存の要素間に1つ又は複数の要素の値を加えることによって、パラメータ化されたITFのピクセル解像度を高めるように、K、Mを内挿することができる。任意の内挿関数を使用することができ、限定されるものではないが、これには、線形関数が含まれる。本開示においては、ピクセルサイズを大きくする(ひいては、ピクセル解像度を低くする)プロセスを「ダウンサンプリング」と称し、ピクセルサイズを小さくする(ひいては、ピクセル解像度を高くする)プロセスを「アップサンプリング」と称する。
対応する実施形態が図5に例示されており、この場合、到来したMR画像MRIのピクセル解像度は、トレーニング済み機械学習モデルMLMの予め定義されたピクセル解像度よりも高いものとする。到来したMR画像のピクセル解像度を予め定義されたピクセル解像度に適合させるために、係数発生器21の上流にダウンサンプリング装置21Aが配置されている。係数発生器21は、ダウンサンプリングされたMR画像に対し作用し、予め定義された解像度の係数セットを生成する。図5の場合、ダウンサンプリングされたMR画像及び対応する係数セットは、それぞれMRI及び[C]により表されている。[C]の解像度を到来したMR画像のピクセル解像度に適合させるために、画像変換器23の上流にアップサンプリング装置21Bが配置されている。次いで画像変換器23は、アップサンプリングされた係数セット[C]に対し作用し、到来したMR画像と同等のピクセル解像度を有するsCT画像を生成する。
上述のことから理解できるように、係数発生器21によって生成された係数セットを、結果として生じるsCT画像のディテールのレベルに対し実質的に不利になることなく、画像変換器23に入力される前に任意の所望の解像度になるように、アップサンプリング又は内挿することができる。従って、MLMを、予め定義されたピクセルサイズ又は標準化ピクセルサイズに対し作用するように構成することができ、このピクセルサイズは、ニューラルネットワークによる従来のダイレクトな画像間マッピングで使用されるピクセルサイズよりも著しく大きい。より大きいピクセルに対し機械学習モデルをトレーニングして作用させることができるため、コンピューティングリソースが解放される。従って、所与のコンピューティングリソースに対し本発明の実施形態によって、より大きい視野及びより深い層を有する機械学習モデルの配備が可能となり、それによって、sCT画像生成のパフォーマンスがさらに一層向上する。
図5に例示した技術を、同様に図3Bのトレーニング装置30に実装することができ、例えば、係数予測器31の上流にダウンサンプリング装置を配置し、画像変換器33の上流にアップサンプリング装置を配置することによって実装することができ、この場合、画像変換器33は、アップサンプリングされた[C]*に対し作用して、到来したMR画像と同等のピクセル解像度を有するsCT*画像を生成する。
なお、ここで述べておくと、例えば、到来したMR画像の解像度をMLMの解像度にマッチさせるために、このMR画像のアップサンプリングを実施すること、及び、任意の所望の解像度で、例えば到来したMR画像と同等のピクセル解像度で、sCT画像を生成するために、係数セット[C]のダウンサンプリングを実施することも、同様に可能である。一般に、到来したMR画像に対し第1のリサンプリングを実施することができ、係数セットに対し第2のリサンプリングを実施することができ、ここで、第1のリサンプリングと第2のリサンプリングとを、例えばそれぞれ異なる方向において解像度を変更することによって異なるものとすることができる。
図6には、1つの実施形態に従ってsCT画像を生成する例示的な方法が示されている。この方法を、例えば図2又は図5の変換装置20によって実施することができる。ステップ601において、トレーニング済み機械学習モデルMLMを受け取り、例えばコンピュータメモリに組み込む。ステップ602において、現在のMR画像を、例えば、MRI装置(図2の10を参照)から又はストレージ(図2の100を参照)から、受け取る。現在のMR画像を、コンピュータメモリに格納することができる。
任意選択のステップ603において、現在のMR画像を前処理することができる。かかる前処理は、当該技術分野において公知であり、位置合わせ、解像度及び強度値分布のうちいずれか1つに関する正規化を含み得る。選択的に又は付加的に、ステップ603は、予め定義されたピクセル解像度へのMR画像の上述のリサンプリングを含み得る。ステップ603は、MR画像内の特定の部分の除去又はマスキングも含み得る。ステップ604は、現在のMR画像を任意選択的に前処理して、トレーニング済み機械学習モデルMLMに入力し、これによって、トレーニング済み機械学習モデルMLMは、ITFのための係数セット[C]を計算する。従って、図4B乃至図4Cを参照すると、ステップ604は、現在のMR画像内のピクセルに対応する要素における現在のピクセル係数を、係数行列K、Mに代入することができる。その後、係数セット[C]をコンピュータメモリに格納することができる。
任意選択のステップ605において、係数セット[C]は、例えば、上述のアップサンプリングによって及び/又はローパスフィルタリングによって、後処理される。ステップ606において、結果として得られた係数セット[C]を(これによりパラメータ化された)ITFに従って現在のMR画像に適用することによって、現在のsCT画像が計算される。任意選択のステップ607において、現在のsCT画像を、例えば特定の部分の除去又はマスキング、信号強調、ノイズ除去等によって、後処理することができる。ステップ608において、例えば、メモリへの格納のために、及び/又は、表示のために、任意選択的に現在のMR画像と共に、現在のsCT画像が出力される。
既に先に述べたように、MRI装置の種々の設定のために、例えば種々のシーケンス又はコントラストのために、生成可能な2つ以上のMR画像に基づき、現在のsCTを計算することができる。当技術分野において公知のように、複数のMR画像を組み合わせることによって、例えば複数のMR画像間の和又は差を計算することによって、さらに別のMR画像を生成することができる。図7に示されている例示的な実施例によれば、係数発生器21は、4チャネルMR画像のための係数セットを計算するようにトレーニングされた機械学習モデルMLMを含む。図7において、種々のチャネルのMR画像が、A1~A4により表されており、3D画像、即ち、2D画像の個々のスタックとして描かれている。1つの非限定的な実施例によれば、脂肪を強調するためにA1画像を取得することができ、水を強調するためにA2画像を取得することができ、A3画像をA1+A2として計算することができ、A4をA1-A2として計算することができる。図示の実施例によれば、係数発生器21は、チャネルごとに1つのK行列を出力し、総てのチャネルに共通に1つのM行列を出力する。種々のチャネルのK行列がK1-K4により表されている。到来したMR画像は、3D画像であるので、結果として生じるK行列及びM行列も3D行列である。1つの共通のM行列の代わりとして、チャネルごとに1つのM行列を出力するように、係数発生器21を構成することができる。次いで画像変換器23は、アフィンITFに従って画像A1~A4に対しK行列及びM行列を作用させて、やはり3D画像であるsCT画像を生成する。
図7は、非限定的な実施例として挙げたにすぎない。アフィンITFの実施例の場合、トレーニング済み機械学習モデルMLMを一般に、Nin個の到来したMR画像を取り込んでNout個の係数行列
Figure 2022530108000002
を生成する関数として表すことができるが、これは、MR画像のサブセットに係数行列を適用するだけでよい。
このことは、MLMを関数
Figure 2022530108000003
として表すことができることを意味する。
例えば、係数行列に作用するアフィンITFを、
Figure 2022530108000004
として表すことができ、
ここで、
Figure 2022530108000005
は、sCT画像であり、g(m)は、係数行列とMR画像との間のマッピングを定義するマッピング関数であり、さらに
Figure 2022530108000006
は、要素ごとの積を表す。当業者は、非線形ITFに関する相応の方程式を容易に導出することができる。
図8Aには、1つの実施形態による機械学習モデルMLM*の例示的なトレーニング方法が示されている。この方法を、例えば図3A乃至図3Bにおけるトレーニング装置30によって実装することができる。先に述べたことから理解されるように、この方法は、患者の解剖学的領域のシングルチャネル又はマルチチャネルのMR画像と、患者の同一又は類似の解剖学的領域のCTスキャンにより取得された対応するCT画像とを含むトレーニング画像に基づいて、特定のITFに関するMLM*のモデルパラメータを学習するために実施される。この方法の出力は、トレーニング済み機械学習モデルMLMである。
ステップ801において、マッチングされたMR画像及びCT画像から成るトレーニングセット(図3Cの210を参照)が入力され、メモリ(図3Aの200を参照)に格納される。ステップ802においてMLM*が初期化され、これには、反復インデックス、MLM*の開始パラメータの初期化などを含めることができる。ステップ803~808を、予め定義された1つ又は複数の停止基準が満たされるまで(例えば反復プロセスが予め定義された基準に従って収束するまで)、繰り返し実行することができる。ステップ803において、トレーニング画像がトレーニングセットから例えばランダムに選択され、この場合、トレーニング画像は、マッチングされたMR画像及びCT画像を含む。ステップ803は、トレーニング画像の前処理も含み得る。ステップ804は、トレーニング画像に関するMLM*の現在のモデルパラメータに従って、予測された係数セット[C]*を計算する。ステップ805は、[C]*でパラメータ化されトレーニング画像におけるMR画像に対し作用させられたときに、ITFによって定められるsCT*画像を計算する。ステップ806は、費用関数を評価する。例えば、費用関数は、トレーニング画像におけるCT画像とsCT*画像との間の差を求めることができる。かかる差を例えば、2つの画像間のピクセル値における差を示すエラーマップに対応させることができる。この差を任意の既知の回帰損失関数によって定量化することができ、これには、例えば、平均絶対誤差(MAE)、平均二乗誤差(MSE)、Huber損失、Log-cosh損失等の計算が含まれる。ステップ807は、例えば、MLM*のモデルパラメータに関して費用関数を最適化(最小化又は最大化)することにより、ステップ806における評価に基づいて、MLM*のモデルパラメータを決定又は更新する。ニューラルネットワークの実施例の場合には、モデルパラメータは、当技術分野において周知のように、重み及びオフセット値を含み得る。ステップ807は、任意の慣用の更新アルゴリズムを使用することができ、以下に限定されるものではないが、これには、バックプロパゲーション、確率的勾配降下法(SGD)、適応モーメント推定(Adam)、BFGS、Rprop等が含まれる。
ステップ808は、停止基準が満たされたか否かを判定する。予め定められた最大反復回数、又は、例えば費用関数若しくはsCT*画像とCT画像との間の差の他の尺度によって与えられる予め定められた画質尺度など、種々の停止基準を使用することができる。ステップ808において、停止基準が満たされていないと判定された場合には、ステップ803に戻ることができる。そうでなければMLM*がトレーニング済みであるとみなされ、このトレーニング方法は、ステップ809に進み、このステップ809は、図6における生成方法によって後で使用するために、MLMを格納又は出力する。
上述のように、トレーニング中にばらつきの制約を適用して、トレーニング済み機械学習モデルMLMにより生成された個々の係数行列内のピクセルごとの大きい分散を抑制する、ということが有利であると判明した。制約を種々のトレーニング段階で適用することができる。1つの実施例によれば、制約をMLM*に埋め込むことができ、従って、ステップ804中に適用することができる。他の実施例によれば、制約がステップ804において[C]*のローパスフィルタリングとして適用される。さらに他の実施例によれば、制約が費用関数に含まれ、従って、ステップ806において適用される。ここで、よく理解されたいことは、制約は、多くの種々の形態をとることができる、という点である。1つの実施例によれば、制約は、個々の係数行列内の個々のピクセル/要素の周囲の予め定義された範囲の局所領域内において、ばらつきを制限するように作用する。予め定義された範囲を、テストによって決定することができる。
トレーニングは、自律的なプロセスであるため、望ましくない結果を緩和することが望ましく、これは、制約を適用することによって達成される。制約がないと、パラメータ化されたITFを適用することにより生成されたsCT画像内のMR画像からディテールを抑制するように、MLM*がトレーニングされる、というリスクがある。
1つの非限定的な実施例によれば、費用関数における総分散(TV)ペナルティとして制約が実装される。TVペナルティを、係数行列ごとに各次元において計算することができる。局所領域が3D行列Bの各次元において1つのピクセルを拡張する実施例の場合、TVのペナルティを以下のように定義することができる。
Figure 2022530108000007
ここで、γ、γ及びγは、予め定義された重み係数であり、Nx、Ny及びNzは、個々の次元x、y、zにおける要素の数を表す。重み係数を、次元間の解像度の差をオフセットするように調整することができるが、各次元に対しそれぞれ異なる量の平滑性を強制するように設定することもできる。強制された平滑性は、MLM*により生成された[C]*のみに影響を及ぼし、sCT*画像の平滑化を結果として生じさせない、という点に留意されたい。それどころか、トレーニング中に[C]*に対し強制される平滑性によってMLMに、MR画像からsCT画像へと細部を伝播させることになる。
1つの実施例によれば、費用関数にペナルティ項ρを含めることにより、式2において定義されたアフィンITFに関して、MLM*をトレーニングすることができる。
Figure 2022530108000008
ここで、重み行列W及び係数重み値γ(m=0,...,Nout-1)は、任意選択である。重み行列Wを予め定義して、画像の特定の領域を重み付けし、平滑性ペナルティをさらに強調又は緩和することができ、さらに係数重み値γを予め定義して、ペナルティに及ぼされる個々の係数行列の相対的効果を調節することができる。
費用関数がエラーマップについてのMAEの計算を含む実施例の場合、式2と式4とを組み合わせて、以下の費用関数Lを構成することができる。
Figure 2022530108000009
ここで、||・||は、選択されたノルムを表す。
図8Aのトレーニング方法の例示的な実施例が図8Bに示されており、この図には、シングルチャネルの2D MR画像に対し作用し、図3Bに対応して構成されたトレーニング装置が示されている。係数予測器31は、MR画像に対し作用して、予測されたK*行列及びM*行列の形態で[C]*を生成する(ステップ804)。画像変換器33は、K*及びM*によりパラメータ化されたITFをMR画像に対し作用させて、予測されたsCT*画像を生成する(ステップ805)。図3Bおける予測評価器35は、図8Bにおける費用関数計算器35A及びモデルパラメータ更新器35Bに対応する。費用関数計算器35Aは、sCT*画像とCT画像との間の平均絶対誤差(MAE)、K*(TV)のTVペナルティ、及び、M*(TV)のTVペナルティを含む費用関数の項を計算し、MAE、TV及びTVを合成して、費用関数の現在の値となるようにする(ステップ806)。モデルパラメータ更新器35Bは、MLM*のモデルパラメータの更新値を計算して、後続の反復における費用関数の現在の値を低減する(ステップ807)。
図8Cには、トレーニング装置30の選択的な実施形態が示されている。この実施形態が前提としていることは、例えば、マッチングされたMR画像及びCT画像のターゲットセットに対し他の機械学習モデル(図示せず)を作用させることによって、又は、他のタイプの計算プロセス若しくは推定プロセスによって、ターゲット係数セットが事前に計算されている、ということである。ターゲット係数セットは、図8Cにおいて[C]TARにより表されており、例えば、1つ又は複数のターゲットK行列及びターゲットM行列を含み得る。図8Cにおけるターゲット装置30は、MR画像のトレーニングセットに対し作用する。図3Bの実施形態に関連して、ターゲット装置30は、予測された係数セット[C]*を計算する同一の係数予測器31を含むが、画像変換器33を有していない。さらに予測評価器35は、[C]*を[C]TARと比較する費用関数を評価し、評価された費用関数に基づいて、係数予測器31にMLM*のモデルパラメータを更新させるフィードバックデータFB*を生成するように構成されている。図8Aにおける方法と対比すると、図8Cにおけるトレーニング装置30は、対応する方法を実施するが、この方法によればステップ805が省略され、少なくともステップ806~807が変更される。図8Cにおけるトレーニング装置30は、先に述べた制約を例えば費用関数に適用することもできる。
一般に、本明細書において説明した方法のいずれか又はその一部を、ソフトウェアとハードウェア回路との組合せによって、又は、カスタマイズされたハードウェア回路のみによって、処理装置において実装することができる。図9は、かかる処理装置90の例示的な構造のブロック図である。図9によれば、処理装置90は、処理装置90の動作全体を担う制御回路91を含む。図示されているように、制御回路91は、プロセッサ92を含み得るものであり、プロセッサ92は、中央処理ユニット(CPU)、グラフィック処理ユニット(GPU)、マイクロコントローラ、マイクロプロセッサ、ASIC、FPGA、又は、他の任意の専用若しくは汎用の処理装置、又は、これらの任意の組合せを含み得る。プロセッサ92は、処理装置90の動作を制御する目的で、メモリ93などの別個のメモリ及び/又は制御回路91の内部メモリ(図示せず)に格納された命令94を実行することができる。命令94は、プロセッサ92によって実行されるときに、本明細書において説明した方法のいずれか又はその一部を処理装置90に実施させることができる。図9に示されているように、メモリ93は、プロセッサ92によって使用するためのデータ95を格納することもできる。実装に応じて、データ95は、MLM、MLM*、[MRI]、[CT]、[C]PRE等のような、先に述べた及び/又は図面に示したデータ項目のうち1つ又は複数を含み得る。メモリ93は、バッファ、フラッシュメモリ、ハードディスクドライブ、リムーバブルメディア、揮発性メモリ、不揮発性メモリ、ランダムアクセスメモリ(RAM)、又は、他の適当なデバイスのうちの1つ若しくは複数を含み得る。例示的な構成によれば、メモリ93は、長期間にわたりデータを格納するための不揮発性メモリと、制御回路91のためのシステムメモリとして機能する揮発性メモリとを含む。メモリ93は、データバスを介して制御回路91とデータを交換することができる。メモリ93と制御回路91との間に付随する制御ライン及びアドレスバスを設けることもできる。メモリ93は、非一時的コンピュータ可読媒体とみなされる。
図9に示されているように、命令94を、コンピュータ可読媒体90A上において処理装置90に供給可能であり、このコンピュータ可読媒体90Aを、有形(非一時的)製品(例えば磁気媒体、光ディスク、リードオンリメモリ、フラッシュメモリ等)又は伝播信号とすることができる。
本発明を、現時点において最も実際的で好ましい実施形態とみなされる事項と共に説明してきたが、本発明は、開示された実施形態に限定されるものではなく、それどころか、添付の請求項の着想及び範囲内に含まれる種々の変形及び等価の構成を包含することが意図されているということを理解されたい。
さらに、図面には、特定の順序により動作が描写されているが、このことは、図示された特定の順序若しくは逐次的な順序によりかかる動作を実施しなければならないと理解されるべきではなく、又は、所望の結果を達成するためには図示された総ての動作を実施しなければならないと理解されるべきではない。ある特定の環境においては、並列処理が有利となる可能性がある。
さらに、これまでに述べてきた方法、装置、実施形態、実施例及び態様の総てを、MRI以外の他の撮像モダリティ、例えばコーンビームコンピュータ断層撮影(CBCT)、陽電子放射断層撮影(PET)、単一光子放射コンピュータ断層撮影(SPECT)、磁気粒子撮像法(MPI)等を使用する医療用撮像装置により取得された原画像に基づきsCT画像を生成するために、同様に適用可能である。sCT画像を、少なくとも2つの異なる撮像モダリティによって取得可能な2つ以上の原画像に基づき生成することも、同様に考えられる。1つの実施形態によれば、解剖学的部位の合成電子密度画像を生成するためのコンピュータ実装による方法は、以下のステップを含み得る。即ち、画像伝達関数の係数を予測するようにトレーニングされた機械学習モデルを受け取るステップと、解剖学的部位の現在の原画像セットを受け取るステップと、機械学習モデルを現在の原画像セットに対し作用させることにより、画像伝達関数の現在の係数を計算するステップと、現在の原画像セットに対し、画像伝達関数に従って現在の係数を作用させることにより、解剖学的部位の現在の合成電子密度画像を計算するステップとを含み得る。原画像セット内の少なくとも1つの原画像を、MRI以外の撮像モダリティ、例えばCBCT、PET、SPECT及びMPIのいずれか1つを使用することによって取得することができる。
以下においては、上記の記載において開示された本発明のいくつかの態様及び実施形態を要約するために、一連の項目が列挙されている。
項目1:
解剖学的部位の合成電子密度画像(sCT)を生成するためのコンピュータ実装による方法であって、
画像伝達関数の係数を予測するようにトレーニングされた機械学習モデル(MLM)を受け取るステップ(601)と、
前記解剖学的部位の現在の磁気共鳴MR画像セットを受け取るステップ(602)と、
前記機械学習モデル(MLM)を前記現在のMR画像セットに対し作用させることにより、前記画像伝達関数の現在の係数([C])を計算するステップ(604)と、
前記現在のMR画像セットに対し、前記画像伝達関数に従って前記現在の係数([C])を作用させることにより、前記解剖学的部位の現在の合成電子密度画像(sCT)を計算するステップ(606)と、
を含む方法。
項目2:
前記係数を予測するように前記機械学習モデル(MLM)をトレーニングして、参照画像(CT)と、当該参照画像(CT)に対応するMR画像に対し前記画像伝達関数に従って前記係数を作用させることにより生成された合成電子密度画像(sCT)との間の類似基準を達成する、
項目1に記載のコンピュータ実装による方法。
項目3:
前記現在の係数([C])は、前記現在のMR画像セットにおける個々のピクセルロケーションについて、1つ又は複数の現在のピクセル係数を含む、
項目1又は2に記載のコンピュータ実装による方法。
項目4:
前記機械学習モデル(MLM)を、前記1つ又は複数の現在のピクセル係数をピクセルロケーション間において変化させることができるようにトレーニングする、
項目3に記載のコンピュータ実装による方法。
項目5:
前記1つ又は複数の現在のピクセル係数は、ピクセルロケーション間において変化する、
項目3又は4に記載のコンピュータ実装による方法。
項目6:
個々の前記ピクセルロケーションの周囲の予め定義された領域内におけるピクセル係数のばらつきの制約を順守しながら、前記1つ又は複数のピクセル係数を前記ピクセルロケーション間において変化させることができるように、前記機械学習モデル(MLM)をトレーニングする、
項目3から5までのいずれか1項目に記載のコンピュータ実装による方法。
項目7:
前記現在の合成電子密度画像(sCT)を計算するステップ(606)は、前記画像伝達関数に従って、前記現在のMR画像セットにおける個々の前記ピクセルロケーションにある1つ又は複数のピクセル値に対し、前記1つ又は複数の現在のピクセル係数を作用させて、前記現在の合成電子密度画像(sCT)の対応するピクセル値を生成するステップを含む、
項目3から6までのいずれか1項目に記載のコンピュータ実装による方法。
項目8:
前記現在の係数([C])を計算するステップ(604)は、1つ又は複数の係数行列(K,M)に、個々の前記MR画像内のピクセルに対応する行列要素において現在のピクセル係数を代入するステップを含む、
項目3から7までのいずれか1項目に記載のコンピュータ実装による方法。
項目9:
前記現在の合成電子密度画像(sCT)を計算するステップ(606)は、前記画像伝達関数に従って要素ごとに、前記現在のMR画像セットにおけるピクセル値に対し前記1つ又は複数の係数行列(K,M)を作用させるステップを含む、
項目8に記載のコンピュータ実装による方法。
項目10:
前記現在の係数([C])を計算するステップ(604)は、前記機械学習モデル(MLM)を前記現在のMR画像セットに対し作用させる前に、前記現在のMR画像セットの第1のリサンプリングを含み、
当該方法はさらに、受け取った前記現在のMR画像セットにおける前記ピクセル値に対し、前記画像伝達関数に従って要素ごとに、前記1つ又は複数の係数行列(K,M)を作用させる前に、前記1つ又は複数の係数行列(K,M)の第2のリサンプリングを含む、
項目9に記載のコンピュータ実装による方法。
項目11:
前記第1のリサンプリングによって、前記現在のMR画像セットの解像度が、トレーニングされた前記機械学習モデル(MLM)によって予期される解像度に変更され、前記第2のリサンプリングによって、前記1つ又は複数の係数行列(K,M)の解像度が、前記現在のMR画像セットの解像度と等しいターゲット解像度に変更される、
項目10に記載のコンピュータ実装による方法。
項目12:
前記第1のリサンプリングは、ダウンサンプリングであり、前記第2のリサンプリングは、アップサンプリングである、
項目10又は11に記載のコンピュータ実装による方法。
項目13:
前記画像伝達関数は、多項式関数である、
項目1から12までのいずれか1項目に記載のコンピュータ実装による方法。
項目14:
前記画像伝達関数は、アフィン関数である、
項目1から13までのいずれか1項目に記載のコンピュータ実装による方法。
項目15:
前記機械学習モデル(MLM)は、人工ニューラルネットワークANNを含む、
項目1から14までのいずれか1項目に記載のコンピュータ実装による方法。
項目16:
プロセッサ(92)によって実行されるときに、当該プロセッサ(92)に項目1から15までのいずれか1項目に記載の方法を実施させるためのコンピュータ命令(94)を含むコンピュータ可読媒体。
項目17:
解剖学的部位の合成電子密度画像(sCT)を生成するための装置であって、当該装置は、プロセッサ(92)を含み、当該プロセッサ(92)は、
画像伝達関数の係数([C])を予測するようにトレーニングされた機械学習モデル(MLM)を受け取り、
前記解剖学的部位の現在の磁気共鳴MR画像セットを受け取り、
前記機械学習モデル(MLM)を前記現在のMR画像セットに対し作用させることにより、前記画像伝達関数(ITF)の現在の係数([C])を生成し、
前記現在のMR画像セットに対し、前記画像伝達関数に従って前記現在の係数([C])を作用させることにより、前記解剖学的部位の現在の合成電子密度画像(sCT)を生成する
ように構成されている、装置。
項目18:
解剖学的部位の現在のMR画像を生成するように構成されている磁気共鳴撮像装置(10)と、
前記現在のMR画像を受け取るように配置されている項目17に記載の装置と、
を含むシステム。
項目19
画像伝達関数の係数([C])を予測して、参照画像(CT)と、当該参照画像(CT)に対応するMR画像に対し前記画像伝達関数に従って前記係数([C])を作用させることにより生成された合成電子密度画像(sCT)との間の類似基準を達成するように、トレーニングされている機械学習モデル。
項目20:
前記係数([C])は、前記MR画像内の個々のピクセルロケーションについて1つ又は複数のピクセル係数を含み、
当該機械学習モデルは、前記1つ又は複数のピクセル係数をピクセルロケーション間において変化させることができるようにトレーニングされている、
項目19に記載の機械学習モデル。
項目21:
個々の前記ピクセルロケーションの周囲の予め定義された領域内におけるピクセル係数のばらつきの制約を順守しながら、前記1つ又は複数のピクセル係数を個々の前記MR画像内の前記ピクセルロケーション間において変化させることができるように、さらにトレーニングされている、
項目20に記載の機械学習モデル。
項目22:
解剖学的部位の磁気共鳴MR画像セットの関数として前記解剖学的部位の合成電子密度画像(sCT)を生成する際に使用するために、画像伝達関数の係数を予測するようにトレーニングされた機械学習モデル(MLM)を提供するコンピュータ実装による方法であって、
(a)前記機械学習モデル(MLM*)を初期化するステップと、
(b)1つ又は複数のMR画像と1つ又は複数の参照画像(CT)とを含むトレーニングデータを取得するステップと、
(c)前記画像伝達関数の予測された係数([C]*)を生成するために、前記1つ又は複数のMR画像に対し前記機械学習モデル(MLM*)を作用させるステップと、
(d)前記画像伝達関数に従って、前記1つ又は複数のMR画像に対し前記予測された係数([C]*)を作用させて、1つ又は複数の予測された合成電子密度画像(sCT*)を生成するステップと、
(e)少なくとも、前記参照画像(CT)と前記1つ又は複数の予測された合成電子密度画像(sCT*)とに基づいて、予め定義された費用関数を評価するステップと、
(f)前記機械学習モデル(MLM*)のためのモデルパラメータ値を求めるステップと、
(g)予め定義された基準が満たされるまで、前記モデルパラメータ値についてステップ(b)乃至(f)を繰り返すステップと、
(h)前記機械学習モデル(MLM)のためのモデルパラメータ値を出力するステップと、
を含む方法。
項目23:
解剖学的部位の磁気共鳴MR画像セットの関数として前記解剖学的部位の合成電子密度画像(sCT)を生成する際に使用するために、画像伝達関数の係数を予測するようにトレーニングされた機械学習モデル(MLM)を提供する方法であって、
(a)前記機械学習モデル(MLM*)を初期化するステップと、
(b)前記画像伝達関数の予め計算されたターゲット係数([C]TAR)を取得するステップと、
(c)前記画像伝達関数の予測された係数([C]*)を生成するために、1つ又は複数のMR画像に対し前記機械学習モデル(MLM*)を作用させるステップと、
(d)少なくとも、前記予測された係数([C]*)と前記予め計算されたターゲット係数([C]TAR)とに基づいて、予め定義された費用関数を評価するステップと、
(e)前記機械学習モデル(MLM*)のためのモデルパラメータ値を求めるステップと、
(f)予め定義された基準が満たされるまで、前記モデルパラメータ値についてステップ(b)乃至(e)を繰り返すステップと、
(g)前記機械学習モデル(MLM)のためのモデルパラメータ値を出力するステップと、
を含む方法。
項目24:
前記予測された係数([C]*)は、前記1つ又は複数のMR画像内の個々のピクセルロケーションについて、1つ又は複数の予測されたピクセル係数を含み、
当該方法はさらに、前記機械学習モデル(MLM*)が前記ピクセルロケーション間において1つ又は複数のピクセル係数を変化させることができるようにするステップを含む、
項目22又は23に記載のコンピュータ実装による方法。
項目25:
個々の前記ピクセルロケーションの周囲の予め定義された領域内のピクセル係数のばらつきの制約を適用するステップをさらに含む、
項目24に記載のコンピュータ実装による方法。
項目26:
前記ばらつきの制約を、前記機械学習モデル(MLM*)によって、又は、前記予め定義された費用関数によって、又は、前記予測された係数([C]*)を処理することによって適用する、
項目25に記載のコンピュータ実装による方法。
項目27:
プロセッサ(92)によって実行されるときに、当該プロセッサ(92)に項目22から26までのいずれか1項目に記載のコンピュータ実装による方法を実施させるためのコンピュータ命令(94)を含むコンピュータ可読媒体。

Claims (27)

  1. 解剖学的部位の合成電子密度画像(sCT)を生成するためのコンピュータ実装による方法であって、
    画像伝達関数の係数を予測するようにトレーニングされた機械学習モデル(MLM)を受け取るステップ(601)と、
    前記解剖学的部位の現在の磁気共鳴MR画像セットを受け取るステップ(602)と、
    前記機械学習モデル(MLM)を前記現在のMR画像セットに対し作用させることにより、前記画像伝達関数の現在の係数([C])を計算するステップ(604)と、
    前記現在のMR画像セットに対し、前記画像伝達関数に従って前記現在の係数([C])を作用させることにより、前記解剖学的部位の現在の合成電子密度画像(sCT)を計算するステップ(606)と、
    を含む方法。
  2. 前記係数を予測するように前記機械学習モデル(MLM)をトレーニングして、参照画像(CT)と、前記参照画像(CT)に対応するMR画像に対し前記画像伝達関数に従って前記係数を作用させることにより生成された合成電子密度画像(sCT)との間の類似基準を達成する、
    請求項1に記載のコンピュータ実装による方法。
  3. 前記現在の係数([C])は、前記現在のMR画像セットにおける個々のピクセルロケーションについて、1つ又は複数の現在のピクセル係数を含む、
    請求項1又は2に記載のコンピュータ実装による方法。
  4. 前記機械学習モデル(MLM)を、前記1つ又は複数の現在のピクセル係数をピクセルロケーション間において変化させることができるようにトレーニングする、
    請求項3に記載のコンピュータ実装による方法。
  5. 前記1つ又は複数の現在のピクセル係数は、ピクセルロケーション間において変化する、
    請求項3又は4に記載のコンピュータ実装による方法。
  6. 個々の前記ピクセルロケーションの周囲の予め定義された領域内におけるピクセル係数のばらつきの制約を順守しながら、前記1つ又は複数のピクセル係数を前記ピクセルロケーション間において変化させることができるように、前記機械学習モデル(MLM)をトレーニングする、
    請求項3から5までのいずれか1項に記載のコンピュータ実装による方法。
  7. 前記現在の合成電子密度画像(sCT)を計算するステップ(606)は、前記画像伝達関数に従って、前記現在のMR画像セットにおける個々の前記ピクセルロケーションにある1つ又は複数のピクセル値に対し、前記1つ又は複数の現在のピクセル係数を作用させて、前記現在の合成電子密度画像(sCT)の対応するピクセル値を生成するステップを含む、
    請求項3から6までのいずれか1項に記載のコンピュータ実装による方法。
  8. 前記現在の係数([C])を計算するステップ(604)は、1つ又は複数の係数行列(K,M)に、個々の前記MR画像内のピクセルに対応する行列要素において現在のピクセル係数を代入するステップを含む、
    請求項3から7までのいずれか1項に記載のコンピュータ実装による方法。
  9. 前記現在の合成電子密度画像(sCT)を計算するステップ(606)は、前記画像伝達関数に従って要素ごとに、前記現在のMR画像セットにおけるピクセル値に対し前記1つ又は複数の係数行列(K,M)を作用させるステップを含む、
    請求項8に記載のコンピュータ実装による方法。
  10. 前記現在の係数([C])を計算するステップ(604)は、前記機械学習モデル(MLM)を前記現在のMR画像セットに対し作用させる前に、前記現在のMR画像セットの第1のリサンプリングを含み、
    当該方法はさらに、受け取った前記現在のMR画像セットにおける前記ピクセル値に対し、前記画像伝達関数に従って要素ごとに、前記1つ又は複数の係数行列(K,M)を作用させる前に、前記1つ又は複数の係数行列(K,M)の第2のリサンプリングを含む、
    請求項9に記載のコンピュータ実装による方法。
  11. 前記第1のリサンプリングによって、前記現在のMR画像セットの解像度が、トレーニングされた前記機械学習モデル(MLM)によって予期される解像度に変更され、前記第2のリサンプリングによって、前記1つ又は複数の係数行列(K,M)の解像度が、前記現在のMR画像セットの解像度と等しいターゲット解像度に変更される、
    請求項10に記載のコンピュータ実装による方法。
  12. 前記第1のリサンプリングは、ダウンサンプリングであり、前記第2のリサンプリングは、アップサンプリングである、
    請求項10又は11に記載のコンピュータ実装による方法。
  13. 前記画像伝達関数は、多項式関数又はアフィン関数である、
    請求項1から12までのいずれか1項に記載のコンピュータ実装による方法。
  14. 前記機械学習モデル(MLM)は、人工ニューラルネットワークANNを含む、
    請求項1から13までのいずれか1項に記載のコンピュータ実装による方法。
  15. 解剖学的部位の合成電子密度画像(sCT)を生成するためのコンピュータ実装による方法であって、
    画像伝達関数の係数を予測するようにトレーニングされた機械学習モデル(MLM)を受け取るステップ(601)と、
    前記解剖学的部位の現在の原画像セットを受け取るステップ(602)と、
    前記機械学習モデル(MLM)を前記現在の原画像セットに対し作用させることにより、前記画像伝達関数の現在の係数([C])を計算するステップ(604)と、
    前記現在の原画像セットに対し、前記画像伝達関数に従って前記現在の係数([C])を作用させることにより、前記解剖学的部位の現在の合成電子密度画像(sCT)を計算するステップ(606)と、
    を含む方法。
  16. プロセッサ(92)によって実行されるときに、前記プロセッサ(92)に請求項1から15までのいずれか1項に記載の方法を実施させるためのコンピュータ命令(94)を含むコンピュータ可読媒体。
  17. 解剖学的部位の合成電子密度画像(sCT)を生成するための装置であって、当該装置は、プロセッサ(92)を含み、前記プロセッサ(92)は、
    画像伝達関数の係数([C])を予測するようにトレーニングされた機械学習モデル(MLM)を受け取り、
    前記解剖学的部位の現在の磁気共鳴MR画像セットを受け取り、
    前記機械学習モデル(MLM)を前記現在のMR画像セットに対し作用させることにより、前記画像伝達関数(ITF)の現在の係数([C])を生成し、
    前記現在のMR画像セットに対し、前記画像伝達関数に従って前記現在の係数([C])を作用させることにより、前記解剖学的部位の現在の合成電子密度画像(sCT)を生成する
    ように構成されている、装置。
  18. 解剖学的部位の現在のMR画像を生成するように構成されている磁気共鳴撮像装置(10)と、
    前記現在のMR画像を受け取るように配置されている請求項17に記載の装置と、
    を含むシステム。
  19. 画像伝達関数の係数([C])を予測して、参照画像(CT)と、前記参照画像(CT)に対応するMR画像に対し前記画像伝達関数に従って前記係数([C])を作用させることにより生成された合成電子密度画像(sCT)との間の類似基準を達成するように、トレーニングされている機械学習モデル。
  20. 前記係数([C])は、前記MR画像内の個々のピクセルロケーションについて1つ又は複数のピクセル係数を含み、
    当該機械学習モデルは、前記1つ又は複数のピクセル係数をピクセルロケーション間において変化させることができるようにトレーニングされている、
    請求項19に記載の機械学習モデル。
  21. 個々の前記ピクセルロケーションの周囲の予め定義された領域内におけるピクセル係数のばらつきの制約を順守しながら、前記1つ又は複数のピクセル係数を個々の前記MR画像内の前記ピクセルロケーション間において変化させることができるように、さらにトレーニングされている、
    請求項20に記載の機械学習モデル。
  22. 解剖学的部位の磁気共鳴MR画像セットの関数として前記解剖学的部位の合成電子密度画像(sCT)を生成する際に使用するために、画像伝達関数の係数を予測するようにトレーニングされた機械学習モデル(MLM)を提供するコンピュータ実装による方法であって、
    (a)前記機械学習モデル(MLM*)を初期化するステップと、
    (b)1つ又は複数のMR画像と1つ又は複数の参照画像(CT)とを含むトレーニングデータを取得するステップと、
    (c)前記画像伝達関数の予測された係数([C]*)を生成するために、前記1つ又は複数のMR画像に対し前記機械学習モデル(MLM*)を作用させるステップと、
    (d)前記画像伝達関数に従って、前記1つ又は複数のMR画像に対し前記予測された係数([C]*)を作用させて、1つ又は複数の予測された合成電子密度画像(sCT*)を生成するステップと、
    (e)少なくとも、前記参照画像(CT)と前記1つ又は複数の予測された合成電子密度画像(sCT*)とに基づいて、予め定義された費用関数を評価するステップと、
    (f)前記機械学習モデル(MLM*)のためのモデルパラメータ値を求めるステップと、
    (g)予め定義された基準が満たされるまで、前記モデルパラメータ値についてステップ(b)乃至(f)を繰り返すステップと、
    (h)前記機械学習モデル(MLM)のためのモデルパラメータ値を出力するステップと、
    を含む方法。
  23. 解剖学的部位の磁気共鳴MR画像セットの関数として前記解剖学的部位の合成電子密度画像(sCT)を生成する際に使用するために、画像伝達関数の係数を予測するようにトレーニングされた機械学習モデル(MLM)を提供する方法であって、
    (a)前記機械学習モデル(MLM*)を初期化するステップと、
    (b)前記画像伝達関数の予め計算されたターゲット係数([C]TAR)を取得するステップと、
    (c)前記画像伝達関数の予測された係数([C]*)を生成するために、1つ又は複数のMR画像に対し前記機械学習モデル(MLM*)を作用させるステップと、
    (d)少なくとも、前記予測された係数([C]*)と前記予め計算されたターゲット係数([C]TAR)とに基づいて、予め定義された費用関数を評価するステップと、
    (e)前記機械学習モデル(MLM*)のためのモデルパラメータ値を求めるステップと、
    (f)予め定義された基準が満たされるまで、前記モデルパラメータ値についてステップ(b)乃至(e)を繰り返すステップと、
    (g)前記機械学習モデル(MLM)のためのモデルパラメータ値を出力するステップと、
    を含む方法。
  24. 前記予測された係数([C]*)は、前記1つ又は複数のMR画像内の個々のピクセルロケーションについて、1つ又は複数の予測されたピクセル係数を含み、
    当該方法はさらに、前記機械学習モデル(MLM*)が前記ピクセルロケーション間において1つ又は複数のピクセル係数を変化させることができるようにするステップを含む、
    請求項22又は23に記載のコンピュータ実装による方法。
  25. 個々の前記ピクセルロケーションの周囲の予め定義された領域内のピクセル係数のばらつきの制約を適用するステップをさらに含む、
    請求項24に記載のコンピュータ実装による方法。
  26. 前記ばらつきの制約を、前記機械学習モデル(MLM*)によって、又は、前記予め定義された費用関数によって、又は、前記予測された係数([C]*)を処理することによって適用する、
    請求項25に記載のコンピュータ実装による方法。
  27. プロセッサ(92)によって実行されるときに、前記プロセッサ(92)に請求項22から26までのいずれか1項に記載のコンピュータ実装による方法を実施させるためのコンピュータ命令(94)を含むコンピュータ可読媒体。
JP2021563284A 2019-04-26 2020-04-24 磁気共鳴画像からの合成電子密度画像の生成 Pending JP2022530108A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
SE1930141-5 2019-04-26
SE1930141 2019-04-26
PCT/SE2020/050415 WO2020218967A1 (en) 2019-04-26 2020-04-24 Generating synthetic electron density images from magnetic resonance images

Publications (1)

Publication Number Publication Date
JP2022530108A true JP2022530108A (ja) 2022-06-27

Family

ID=72940632

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021563284A Pending JP2022530108A (ja) 2019-04-26 2020-04-24 磁気共鳴画像からの合成電子密度画像の生成

Country Status (4)

Country Link
US (1) US11969283B2 (ja)
EP (1) EP3958965A4 (ja)
JP (1) JP2022530108A (ja)
WO (1) WO2020218967A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20240100360A1 (en) * 2022-09-28 2024-03-28 Siemens Healthineers International Ag Radiation treatment plan optimization apparatus and method
CN116862789B (zh) * 2023-06-29 2024-04-23 广州沙艾生物科技有限公司 一种pet-mr图像校正方法
CN117495434B (zh) * 2023-12-25 2024-04-05 天津大学 电能需求预测方法、模型训练方法、装置及电子设备

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10149987B2 (en) 2014-05-04 2018-12-11 Spectronic Ab Method and system for generating synthetic electron density information for dose calculations based on MRI
US10307108B2 (en) * 2015-10-13 2019-06-04 Elekta, Inc. Pseudo-CT generation from MR data using a feature regression model
US10102451B2 (en) * 2015-10-13 2018-10-16 Elekta, Inc. Pseudo-CT generation from MR data using tissue parameter estimation
US20170337682A1 (en) * 2016-05-18 2017-11-23 Siemens Healthcare Gmbh Method and System for Image Registration Using an Intelligent Artificial Agent
CN109690554B (zh) 2016-07-21 2023-12-05 西门子保健有限责任公司 用于基于人工智能的医学图像分割的方法和系统
CN110234400B (zh) 2016-09-06 2021-09-07 医科达有限公司 用于生成合成医学图像的神经网络
US11478212B2 (en) 2017-02-16 2022-10-25 Siemens Healthcare Gmbh Method for controlling scanner by estimating patient internal anatomical structures from surface data using body-surface and organ-surface latent variables
US10607393B2 (en) * 2017-03-10 2020-03-31 Siemens Healthcare Gmbh Consistent 3D rendering in medical imaging
US11097128B2 (en) * 2019-07-16 2021-08-24 Elekta Ab (Publ) Radiotherapy treatment plans using differentiable dose functions

Also Published As

Publication number Publication date
EP3958965A1 (en) 2022-03-02
US11969283B2 (en) 2024-04-30
EP3958965A4 (en) 2023-01-11
US20220225955A1 (en) 2022-07-21
WO2020218967A1 (en) 2020-10-29

Similar Documents

Publication Publication Date Title
Harms et al. Paired cycle‐GAN‐based image correction for quantitative cone‐beam computed tomography
Wang et al. 3D conditional generative adversarial networks for high-quality PET image estimation at low dose
CN107610193B (zh) 使用深度生成式机器学习模型的图像校正
US11478212B2 (en) Method for controlling scanner by estimating patient internal anatomical structures from surface data using body-surface and organ-surface latent variables
Tourbier et al. An efficient total variation algorithm for super-resolution in fetal brain MRI with adaptive regularization
Kainz et al. Fast volume reconstruction from motion corrupted stacks of 2D slices
EP3123447B1 (en) Systems and methods for data and model-driven image reconstruction and enhancement
Qiao et al. Fast automatic step size estimation for gradient descent optimization of image registration
JP2022530108A (ja) 磁気共鳴画像からの合成電子密度画像の生成
US9317915B2 (en) Computed-tomography system and method for determining volume information for a body
CN109215014B (zh) Ct图像预测模型的训练方法、装置、设备及存储介质
CN111127521B (zh) 用于生成和跟踪目标的形状的系统和方法
Zeng et al. Liver segmentation in magnetic resonance imaging via mean shape fitting with fully convolutional neural networks
WO2015189811A1 (en) Improved image reconstruction for a volume based on projection data sets
CN110270015B (zh) 一种基于多序列MRI的sCT生成方法
WO2020113148A1 (en) Single or a few views computed tomography imaging with deep neural network
Chan et al. An attention-based deep convolutional neural network for ultra-sparse-view CT reconstruction
US20220292673A1 (en) On-Site training of a machine-learning algorithm for generating synthetic imaging data
Chen et al. MedPrompt: Cross-Modal Prompting for Multi-Task Medical Image Translation
Coevoet et al. Introducing interactive inverse FEM simulation and its application for adaptive radiotherapy
Gao et al. Self-Absorption Correction in X-Ray Fluorescence-Computed Tomography With Deep Convolutional Neural Network
Khodadad et al. CT and PET Image Registration: Application to Thorax Area
CN109272486A (zh) Mr图像预测模型的训练方法、装置、设备及存储介质
US20230169659A1 (en) Image segmentation and tracking based on statistical shape model
Upadhyay et al. Quest for medisyn: Quasi-norm based uncertainty estimation for medical image synthesis

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230331

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240319