JP2023154407A - 医用画像処理装置、医用画像処理方法、及びx線診断装置 - Google Patents

医用画像処理装置、医用画像処理方法、及びx線診断装置 Download PDF

Info

Publication number
JP2023154407A
JP2023154407A JP2023056491A JP2023056491A JP2023154407A JP 2023154407 A JP2023154407 A JP 2023154407A JP 2023056491 A JP2023056491 A JP 2023056491A JP 2023056491 A JP2023056491 A JP 2023056491A JP 2023154407 A JP2023154407 A JP 2023154407A
Authority
JP
Japan
Prior art keywords
image data
mask
volume
contrast
blood vessel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2023056491A
Other languages
English (en)
Inventor
マレー・カットフォース
Cutforth Murray
マルコ・ラゼト
Razeto Marco
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Medical Systems Corp
Original Assignee
Canon Medical Systems Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Medical Systems Corp filed Critical Canon Medical Systems Corp
Publication of JP2023154407A publication Critical patent/JP2023154407A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
    • A61B6/40Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment with arrangements for generating radiation specially adapted for radiation diagnosis
    • A61B6/4064Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment with arrangements for generating radiation specially adapted for radiation diagnosis specially adapted for producing a particular type of beam
    • A61B6/4085Cone-beams
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
    • A61B6/44Constructional features of apparatus for radiation diagnosis
    • A61B6/4429Constructional features of apparatus for radiation diagnosis related to the mounting of source units and detector units
    • A61B6/4435Constructional features of apparatus for radiation diagnosis related to the mounting of source units and detector units the source unit and the detector unit being coupled by a rigid structure
    • A61B6/4441Constructional features of apparatus for radiation diagnosis related to the mounting of source units and detector units the source unit and the detector unit being coupled by a rigid structure the rigid structure being a C-arm or U-arm
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/194Segmentation; Edge detection involving foreground-background segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10064Fluorescence image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/100764D tomography; Time-sequential 3D tomography
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10081Computed x-ray tomography [CT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10088Magnetic resonance imaging [MRI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10104Positron emission tomography [PET]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10116X-ray image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10116X-ray image
    • G06T2207/10121Fluoroscopy
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20224Image subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30101Blood vessel; Artery; Vein; Vascular

Abstract

【課題】造影画像から血管画像を抽出する精度を向上させること。【解決手段】実施形態に係る医用画像処理装置は、取得部と、生成部と、を備える。前記取得部は、被検体に関する造影画像データを取得する。前記生成部は、前記造影画像データに基づいてマスク画像データを生成する第1の学習済みモデルに対して、前記造影画像データを入力することにより、マスク画像データを生成し、前記造影画像データに基づいて血管画像データを生成する第2の学習済みモデルに対して、前記造影画像データを入力することにより、血管画像データを生成し、前記マスク画像データと前記血管画像データと、少なくとも1つの制約とに基づいて制約付き血管画像データを生成する。【選択図】図4

Description

本明細書に記載の実施形態は、概して、例えばコントラスト強調データからサブトラクションデータを予測するための方法および装置など、医用画像処理装置、医用画像処理方法、及びX線診断装置に関する。
撮像または診断目的で、多様な撮像モダリティのうちの任意のものを用いて医用撮像データを生成できる医用撮像技術が広く使用されている。
造影剤を患者の血管に導入し、X線撮像を用いて血管を撮像する血管造影プロシージャを行うことが知られている。造影剤は、X線画像に映る血管腔の強度を上げる。
血管造影プロシージャは、例えば、2D蛍光透視または3D回転の血管造影法を含んでよい。血管造影プロシージャは、例えば、手術を計画する際にまたは手術中に行われてよい。
造影剤を用いて得られる撮像データセットは、コントラストボリュームまたはコントラスト強調ボリュームと称されることがある。造影剤なしに得られる撮像データセットはマスクボリュームと称されることがある。造影剤がないため、マスクボリュームではコントラストボリュームに比べて血管が見えにくい。
同一解剖を表すマスクボリュームとコントラストボリュームとをサブトラクションして、サブトラクションボリュームを得てよい。例えばサブトラクションは、マスクボリュームとコントラストボリュームにおける各対応ロケーションで、コントラストボリュームの強度からマスクボリュームの強度をサブトラクションすることを含んでよい。サブトラクション処理は、コントラストボリュームとマスクボリュームとに共通する特徴(例えば、骨と軟組織)を取り除き、造影剤により強調されたコントラストボリュームの部分のみを残してよい。
サブトラクションボリュームは、デジタルサブトラクション血管造影(digital subtraction angiography:DSA)ボリュームとも称されることがある。
図1は、デジタルサブトラクション処理の概略を示すフローチャートである。図1では、ボリュームは、当該ボリュームからレンダリングされた画像により示されている。画像は、各ボリュームがマスクボリュームか、コントラストボリュームか、またはサブトラクションボリュームかを示すように意図され、現実のサブトラクション処理で生成される画像とは対応していない。
コントラストボリューム2とマスクボリューム4は、同一解剖として得られる。レジストレーションおよびサブトラクション処理6が行われ、コントラストボリュームとマスクボリュームを互いにレジストレーションし、サブトラクションを行う。サブトラクションは、コントラストボリュームの強度からマスクボリュームの強度をサブトラクションする。サブトラクション処理6によりDSAボリューム8が生じる。DSAボリューム8からレンダリングされる画像では、骨と軟組織が取り除かれているため、血管の視認性がコントラストボリュームよりも高くなる。
近年、単一のコントラストボリュームからマスクボリュームとDSAボリュームを予測するために機械学習を用いることが提案されている。このような技術は、マスクレス(Maskless)DSAと称されることがある。マスクレスDSAは、マスクボリュームを取得せずにコントラスト強調ボリュームからDSAボリュームを予測することを目的とする。
例えば、1つまたは複数の畳み込みニューラルネットワーク(convolutional neural network:CNN)を、コントラストボリュームからマスクボリュームとDSAボリュームを予測するようにトレーニングしてよい。DSAの強度を直接予測するように深層CNNをトレーニングしてもよい。
図2は、マスクレスDSA法の概略を示すフローチャートである。コントラストボリューム2がCNN10に入力される。CNNはDSAボリューム12を出力する。
深層CNNの出力を臨床医に提示すると状況によっては問題が生じることがわかっている。例えば、状況によっては深層CNNが現実には存在しない画像特徴を作成し得ることがわかっている。存在しない特徴を作成することを、非存在特徴をモデルハルシネーションする、と説明することがある。このような存在しない画像特徴を低減または除去するには、法外な量のモデルテストを必要とするかもしれない。
ある状況では、コントラスト強調ボリュームに存在する特徴が、予測DSAおよびマスクに存在しないことがある。コントラストボリュームに存在する特徴が、CNNにより予測されるDSAにも、CNNにより予測されるマスクにも表れないことがある。このような特徴は、予測DSAおよびマスクから消失したと考えてよい。
ある状況では、CNNにとって、金属オブジェクトと強調された血管とを区別することが非常に困難であり得る。ここで、強調された血管とは、造影剤が存在することで強調されたものである。金属オブジェクトはマスクされるべきであり、強調された血管はマスクされるべきではない。脳血管造影画像に表れ得る金属オブジェクトには、例えば、外科手術中にインプラントされた金属オブジェクト、例えばネジやクリップなどがある。
米国特許出願公開第2020/320751号明細書
本明細書及び図面に開示の実施形態が解決しようとする課題の一つは、造影画像から血管画像を抽出する精度を向上させることである。ただし、本明細書及び図面に開示の実施形態により解決しようとする課題は上記課題に限られない。後述する実施形態に示す各構成による各効果に対応する課題を他の課題として位置づけることもできる。
実施形態に係る医用画像処理装置は、取得部と、生成部と、を備える。前記取得部は、被検体に関する造影画像データを取得する。前記生成部は、前記造影画像データに基づいてマスク画像データを生成する第1の学習済みモデルに対して、前記造影画像データを入力することにより、マスク画像データを生成し、前記造影画像データに基づいて血管画像データを生成する第2の学習済みモデルに対して、前記造影画像データを入力することにより、血管画像データを生成し、前記マスク画像データと前記血管画像データと、少なくとも1つの制約とに基づいて制約付き血管画像データを生成する。
図1は、デジタルサブトラクション法の概略を示すフローチャートである。 図2は、CNNを用いてDSAボリュームを予測する方法の概略を示すフローチャートである。 図3Aは、実施形態に従った装置の概略図である。 図3Bは、実施形態に従ったX線診断装置の概略図である。 図4は、実施形態に従ったマスクレスDSA方法の概略を示すフローチャートである。 図5は、コントラスト画像と、グラウンドトゥルースマスク画像と、CNNを用いて予測されたマスク画像と、予測されたマスク画像に対する制約付き最適化を用いて予測されたマスク画像と、を含む複数の画像を含む図である。
実施形態に従った医用画像処理装置20が、図3Aに概略的に示される。
医用画像処理装置20は、本例ではパーソナルコンピュータ(PC)またはワークステーションであり、データ記憶部30を介してスキャナ24に接続されるコンピューティング装置22を備える。
医用画像処理装置20は、1つまたは複数のディスプレイスクリーン26と、コンピュータキーボードやマウスやトラックボールなどの1つまたは複数の入力装置28と、を更に備える。
本実施形態では、スキャナ24はX線スキャナであり、例えば2D蛍光透視または3D回転の血管造影画像などのX線画像を取得するように構成される。X線スキャナは、コーンビームCアームスキャナであってもよい。スキャナ24は、患者または他の被検体の少なくとも1つの解剖領域を表す画像データを生成するように構成される。画像データは複数のボクセルを備え、各ボクセルは対応するデータ値を有する。本実施形態では、データ値はX線強度を表す。スキャナは、造影剤の存在により血管が強調されるコントラストボリュームを得るために用いられる。
他の実施形態では、スキャナ24は任意の撮像モダリティにおける2次元、3次元、または、4次元の画像データを取得するように構成されてよい。例えば、スキャナ24は、磁気共鳴(magnetic resonance:MR)スキャナ、コンピュータ断層撮影(computed tomography:CT)スキャナ、コーンビームCTスキャナ、陽電子放出断層撮影(positron emission tomography:PET)スキャナ、X線スキャナ、または、超音波スキャナ、を備えてよい。例えば、血管、1つまたは複数の器官、または消化管の少なくとも一部などの解剖領域のサブ領域を強調するために、任意の好適な方法を用いてよい。
本実施形態では、スキャナ24により得られる画像データセットは、データ記憶部30に記憶され、その後コンピューティング装置22に与えられる。代替となる実施形態では、画像データセットは遠隔のデータ記憶部(図示せず)から供給される。データ記憶部30または遠隔のデータ記憶部は、任意の好適な形式のメモリ記憶部を備えてよい。いくつかの実施形態では、医用画像処理装置20はいかなるスキャナにも接続されない。
また、スキャナ24は、X線診断装置1010であってもよい。図3Bは、実施形態に従ったX線診断装置1010の概略図である。
X線診断装置1010は、X線高電圧装置1011と、X線管1012と、X線絞り1013と、天板14と、Cアーム1015と、X線検出器1016と、Cアーム回転・移動機構1017と、天板移動機構1018と、Cアーム・天板機構制御回路1019と、絞り制御回路1020と、処理回路1021と、入力インターフェース1022と、ディスプレイ1023と、記憶回路1024とを有する。X線診断装置1010は、例えば、X線アンギオグラフィ(Angiography)装置である。
X線高電圧装置1011は、処理回路1021による制御の下、高電圧を発生し、発生した高電圧をX線管1012に供給する高電圧電源である。
X線管1012は、X線高電圧装置1011から供給される高電圧を用いて、X線を発生する。X線絞り1013は、絞り制御回路1020による制御の下、X線管1012が発生したX線を、被検体Pの関心領域(ROI)に対して選択的に照射されるように絞り込む。
天板14は、被検体Pを載せるベッドであり、図示しない寝台装置の上に配置される。また、図示しない寝台装置は、X線診断装置1010に含まれるものとしても良いし、X線診断装置1010外としても良い。なお、寝台装置は、X線診断装置1010に含まれない場合でも、システムに含まれるものとしても良い。なお、被検体Pは、X線診断装置1010に含まれない。
X線検出器1016は、例えば、マトリクス状に配列された複数の検出素子を有するX線平面検出器(Flat Panel Detector:FPD)である。なお、X線検出器1016は、シンチレータアレイ及び光センサアレイを有する間接変換型の検出器であってもよいし、入射したX線を電気信号に変換する半導体素子を有する直接変換型の検出器であっても構わない。一例として、X線検出器1016の複数の検出素子の各々は、CMOS(Complementary Metal Oxide Semiconductor)センサと、シンチレータとを有する。各検出素子は、例えば、検出したX線を電荷に変換して蓄積し、蓄積した電荷を電圧または電流に変換して検出信号を生成する。X線検出器1016は、検出信号を、処理回路1021へ出力する。
Cアーム1015は、X線管1012、X線絞り1013およびX線検出器1016を保持する。Cアーム回転・移動機構1017は、支持器に設けられたモータなどを駆動することによって、Cアーム1015を回転および移動させるための機構である。天板移動機構1018は、天板14を移動させるための機構である。例えば、天板移動機構1018は、アクチュエータが発生させた動力を用いて、天板14を移動させる。
Cアーム・天板機構制御回路1019は、処理回路1021による制御の下、Cアーム回転・移動機構1017および天板移動機構1018を制御することで、Cアーム1015の回転や移動、天板14の移動を調整する。絞り制御回路1020は、処理回路1021による制御の下、X線絞り1013が有する絞り羽根の開度を調整することで被検体Pに対して照射されるX線の照射範囲を制御する。
入力インターフェース1022は、トラックボール、スイッチボタン、マウス、キーボード、操作面へ触れることで入力操作を行うタッチパッド、表示画面とタッチパッドとが一体化されたタッチスクリーン、光学センサを用いた非接触入力回路、および音声入力回路等によって実現される。入力インターフェース1022は、処理回路1021に接続されており、ユーザから受け取った入力操作を電気信号へ変換し処理回路1021へと出力する。なお、入力インターフェース1022はマウス、キーボードなどの物理的な操作部品を備えるものだけに限られない。例えば、装置とは別体に設けられた外部の入力機器から入力操作に対応する電気信号を受け取り、この電気信号を処理回路1021へ出力する電気信号の処理回路も入力インターフェース1022の例に含まれる。
ディスプレイ1023は、液晶ディスプレイ(Liquid Crystal Display:LCD)、または有機ELディスプレイ(Organic Electro Luminescence Display:OELD)等であり、各種の情報を表示する。ディスプレイ1023は、例えば、入力インターフェース1022を介してユーザから各種指示や各種設定等を受け付けるためのGUI(Graphical User Interface)を表示する。また、ディスプレイ1023は、処理回路1021によって生成された種々の画像を表示する。ディスプレイ1023は、表示部の一例である。なお、入力インターフェース1022とディスプレイ1023とは、タッチパネルを形成しても良い。
記憶回路1024は、例えば、RAM(Random Access Memory)、フラッシュメモリ等の半導体メモリ素子、ハードディスク、光ディスク等により実現される。例えば、記憶回路1024は、X線診断装置1010に含まれる回路で実行されるプログラムを記憶する。
処理回路1021は、記憶回路1024からプログラムを読み出し、実行することで各プログラムに対応する機能を実現するプロセッサである。また、処理回路1021は、処理装置32が有する画像処理回路34、最適化回路36、及び表示回路38の機能の全部又は一部を有していてもよい。すなわち、処理回路1021は、収集機能、及び生成機能を有していてもよい。収集機能は、被検体に関する造影画像データを収集する。すなわち、収集機能は、被検体をスキャンすることにより、被検体に関する造影画像データを収集する。収集機能は、X線診断装置1010における収集部の一例である。生成機能は、前記造影画像データに基づいてマスク画像データを生成する第1の学習済みモデルに対して、前記造影画像データを入力することにより、マスク画像データを生成し、前記造影画像データに基づいて血管画像データを生成する第2の学習済みモデルに対して、前記造影画像データを入力することにより、血管画像データを生成し、前記マスク画像データと前記血管画像データと、少なくとも1つの制約とに基づいて制約付き血管画像データを生成する。生成機能は、X線診断装置1010における生成部の一例である。
コンピューティング装置22は、データ処理のための処理装置32を備える。処理装置は、中央演算処理装置(central processing unit:CPU)と、グラフィックス・プロセッシング・ユニット(Graphics Processing Unit:GPU)とを備える。処理装置32は、自動的に、または、半自動で医用画像データセットを処理するための処理リソースを提供する。他の実施形態では、処理対象データは、医用画像データではない任意の画像データを含んでよい。
処理装置32は、トレーニングされたモデルを用いて画像データを処理して予測ボリュームを得る画像処理回路34と、予測ボリュームに最適化プロシージャを行って制約付きボリュームを得る最適化回路36と、制約付きボリュームから得られる画像を表示する表示回路38と、を備える。
本実施形態では、画像処理回路34、最適化回路36、表示回路38は、各々、実施形態の方法を実行するために実行可能であるコンピュータが読み出し可能な命令を有するコンピュータプログラムにより、CPUおよび/またはGPUに実装される。他の実施形態では、当該回路が、1つまたは複数の特定用途向け集積回路(Application Specific Integrated Circuit:ASIC)またはフィールドプログラマブルゲートアレイ(Field Programmable Gate Array:FPGA)として実装されてよい。
また、コンピューティング装置22は、ハードドライブと、RAM、ROM、データバス、種々のデバイスドライバを含むオペレーティングシステム、および、グラフィックカードを含むハードウェア装置を含んだPCの他のコンポーネントとを有する。その様なコンポーネントは、明瞭化のために、図3Aには示されない。
図4は、実施形態の方法の概略を示すフローチャートである。医用画像処理装置20は、図4の方法を行うように構成される。他の実施形態では、図4の方法を行うために任意の好適な1つまたは複数の装置を用いてよい。
図4の方法のスタートで、画像処理回路34はコントラストボリューム2を受け取る。コントラストボリューム2は血管造影データを含む。図4の実施形態では、コントラストボリュームは3D回転血管造影から得られるボリューメトリックデータセットであり、患者の頭部を表すデータを含む。造影剤の導入によるコントラストスキャンにおいて、頭部の血管が強調されている。血管は、コントラストボリューム内で強調されたサブ領域を形成する。すなわち、画像処理回路34は、被検体に関するコントラストボリューム2を取得する取得部の一例である。また、コントラストボリューム2は、造影画像データの一例である。
他の実施形態では、血管造影データは2Dデータでもよい。血管造影データは、2D蛍光透視から得られるものであってよい。他の実施形態では、血管造影データはCTデータでもよい。更なる実施形態では、コントラストボリューム2は、任意の好適なコントラスト強調スキャンプロシージャまたは他の強調形式を用いて得られるスキャンデータを含んでよく、または、当該スキャンデータから得られるものであってもよい。例えば、コントラストボリュームは、磁気共鳴血管造影(magnetic resonance angiography:MRA)を用いて得られてもよい。いくつかの実施形態では、例えば血管を示すために血液が強調される。いくつかの実施形態では、造影剤が関心器官に蓄積して、具体的な種類の軟組織を画像化してよい。他の実施形態では、例えばバリウム嚥下において消化管を強調するために、造影剤を用いてよい。
画像処理回路34はコントラストボリューム2をマスクCNN40に入力する。マスクCNN40は、例えばUネット(U-net)、又は3D残差Uネット(3D residual U-net)などの任意の好適なCNNであってよい。マスクCNN40は、コントラストボリュームの入力に与えられるマスクボリュームを予測するようにトレーニングされる。マスクCNN40は予測マスクボリューム42を出力する。予測マスクボリューム42は、コントラストが存在しないときの患者の頭部を表すことを目的としている。コントラストが強調された血管の部分を形成しない頭部の一部は、マスクボリュームに含まれるように意図している。金属オブジェクトが頭部にあれば、マスクボリュームに含まれるように意図している。しかし、予測マスクボリューム42がエラーを含む状況もあり得る。例えば、コントラストボリュームに存在しない特徴がマスクCNNにより予測される、または、マスクボリューム内に含まれるべきコントラストボリュームの特徴をマスクCNNが省略してしまう可能性がある。すなわち、画像処理回路34は、コントラストボリューム2に基づいて予測マスクボリューム42を生成するマスクCNN40に対して、コントラストボリューム2を入力することにより、予測マスクボリューム42を生成する。予測マスクボリューム42は、マスク画像データの一例である。また、マスクCNN40は、第1の学習済みモデルの一例である。
画像処理回路34はコントラストボリューム2をDSA-CNN44に入力する。DSA-CNN44は、例えばUネット(U-net)、又は3D残差Uネットなどの任意の好適なCNNであってよい。図4の実施形態では、DSA-CNN44はマスクCNN40から独立している。DSA-CNN44は、コントラストボリュームの入力に与えられるサブトラクションボリュームを予測するようにトレーニングされる。DSA-CNN44は、予測サブトラクションボリューム46を出力する。予測サブトラクションボリューム46は、骨と軟組織を取り除いて患者頭部のコントラストが強調された血管を表すことを目的としている。予測サブトラクションボリューム46がエラーを含む状況もあり得る。例えば、コントラストボリュームに存在しない特徴がDSA-CNN44により予測される、または、DSAボリューム内に含まれるべきコントラストボリュームの特徴をDSA-CNN44が省略してしまう可能性がある。コントラストボリュームにある1つまたは複数の特徴が、予測マスクボリューム42にも予測サブトラクションボリューム46にも含まれない状況もあり得る。すなわち、画像処理回路34は、コントラストボリューム2に基づいて予測サブトラクションボリューム46を生成するDSA-CNN44に対して、コントラストボリューム2を入力することにより、予測サブトラクションボリューム46を生成する。予測サブトラクションボリューム46は、血管画像データの一例である。また、DSA-CNN44は、第2の学習済みモデルの一例である。
他の実施形態では、コントラストボリューム2から予測マスクボリューム42および予測サブトラクションボリューム46を得るために、任意の好適な方法を用いてよい。予測マスクボリューム42および予測サブトラクションボリューム46を得るために、任意の好適な1つまたは複数のトレーニングされたモデルを用いてよい。いくつかの実施形態では、当該モデルはCNNでなくてもよい。いくつかの実施形態では、当該モデルは発生モデルであってよい。予測マスクボリューム42および予測サブトラクションボリューム46を得るために、例えば条件付き敵対的生成ネットワーク(conditional generative adversarial network)からの生成モデルを用いてよい。生成モデルとは、マスク画像データ又は血管画像データを生成する学習済みモデルである。すなわち、造影画像データに基づいてマスク画像データを生成する第1の学習済みモデルは、条件付き敵対的生成ネットワーク(conditional generative adversarial network)により生成された学習済みモデルであってもよい。また、造影画像データに基づいて血管画像データを生成する第2の学習済みモデルは、条件付き敵対的生成ネットワーク(conditional generative adversarial network)により生成された学習済みモデルであってもよい。
マスクCNN40から得られる予測マスクボリューム42と、DSA-CNN44から得られる予測サブトラクションボリューム46は、初期予測または中間予測として説明されて良い。
予測マスクボリューム42と予測サブトラクションボリューム46は、最適化回路36へ渡される。最適化回路36は、予測マスクボリューム42と予測サブトラクションボリューム46を入力として用いて制約付き最適化プロシージャ48を行う。すなわち、最適化回路36は、予測マスクボリューム42と予測サブトラクションボリューム46と、少なくとも1つの制約とに基づいて制約付きサブトラクションボリューム52を生成する。制約付き最適化プロシージャ48は、少なくとも1つの制約の一例である。制約付きサブトラクションボリューム52は、制約付き血管画像データの一例である。画像処理回路34及び最適化回路36は、生成部の一例である。なお、本実施形態は、画像処理回路34と最適化回路36とは、別々の回路であるが、一つの回路であってもよいし、3つ以上に分かれていてもよい。
本実施形態では、制約付き最適化プロシージャは2つの制約を有する最適化プロシージャを含む。すなわち、最適化回路36は、少なくとも1つの制約を、予測サブトラクションボリューム46と、予測マスクボリューム42とに適用することを含む。言い換えると、最適化回路36は、少なくとも1つの制約を適用することは、予測マスクボリューム42と予測サブトラクションボリューム46に基づいて最適化プロシージャを行うこと含む。
第1の制約は、コントラストボリュームから導かれるマスクボリュームと、コントラストボリュームから導かれるサブトラクションボリュームとを加算すると、オリジナルのコントラストボリュームになるべきこと、である。当該ボリューム内の複数のロケーションのそれぞれにおいて、予測マスクボリュームにおける当該ロケーションの強度と予測サブトラクションボリュームにおける当該ロケーションの強度を加算すると、コントラストボリュームにおける当該ロケーションの強度が得られなければならない。コントラストボリューム2と、予測マスクボリューム42と、予測サブトラクションボリューム46とのそれぞれが、解剖領域内の複数のロケーションに対応する複数のロケーションそれぞれにおいて個別の強度を含む。本実施形態では、第1の制約がボクセルワイズ加算に適用される。コントラストボリュームの所与のボクセルの強度値は、マスクボリュームにおける当該ボクセルの強度値とサブトラクションボリュームにおける当該ボクセルの強度値との合計に等しくなければならない。言い換えると、少なくとも1つの制約は、第1の制約に基づく、制約付きマスクボリューム50の強度と、制約付きサブトラクションボリューム52の強度との合計がコントラストボリューム2の強度に対応することである。第1の制約は、少なくとも1つの制約の一例である。また、制約付きマスクボリューム50は、制約付きマスク画像データの一例である。第1の制約及び第2の制約は、少なくとも1つの制約の一例である。
第2の制約は、当該ボリュームそれぞれにおける全てのロケーションの全強度値が非マイナスであるべきこと、である。第2の制約は、複数のロケーションごとの各強度が非マイナスであることを保証するものである。本実施形態では、マスクボリュームの各ボクセルは非マイナスの強度値を有さなければならなく、サブトラクションボリュームの各ボクセルは非マイナスの強度値を有さなければならない。他の実施形態では、所定の強度値範囲が存在する。ボリュームの強度値は、各ボリュームにおける全ての強度値が当該所定の範囲に収まるように制約されている。最小強度値を定めてもよい、例えば、現実のボリューム取得で取得可能な最小値またはコントラストボリュームに存在する最小値などがある。最大強度値を定めてもよい、例えば、現実のボリューム取得で取得可能な最大値またはコントラストボリュームに存在する最大値などがある。全ての予測強度値が収まらなければならない所定範囲を設定するために、最小強度値と最大強度値を用いてよい。第2の制約は、当該制約に基づく制約付きマスクボリューム50の強度と、制約付きサブトラクションボリューム52の強度と、コントラストボリューム2の強度とが非マイナスであることである。ここで、コントラストボリューム2、予測サブトラクションボリューム46、マスク画像データの一例である予測マスクボリューム42、制約付きマスクボリューム50、及び制約付きサブトラクションボリューム52は、3次元のボリュームデータであってもよいし、ボリュームデータの各ボクセルであってもよい。すなわち、制約付きマスクボリューム50の強度と、制約付きサブトラクションボリューム52の強度と、コントラストボリューム2の強度とは、各ボクセル値の強度(輝度値)のことであってもよい。さらに、コントラストボリューム2、予測サブトラクションボリューム46、マスク画像データの一例である予測マスクボリューム42、制約付きマスクボリューム50、及び制約付きサブトラクションボリューム52の強度は、ボリュームデータをレンダリング処理して得られた2Dデータの各ピクセルの強度であってもよい。即ち、制約付きマスクボリューム50に基づく2Dデータの強度と、制約付きサブトラクションボリューム52に基づく2Dデータの強度と、コントラストボリューム2に基づく2Dデータの強度とは、各2Dデータのピクセルの輝度値であってもよい。また、コントラストボリューム2、予測マスクボリューム42、予測サブトラクションボリューム46は、2次元のX線画像データであってもよい。また、コントラストボリューム2は、Cアーム1015を備えたX線診断装置1010により取得されたX線画像データであってもよい。
制約付き最適化プロシージャ48は、第1および第2の制約を満たしつつ、マスクCNN40により予測される予測マスクボリューム42とDSA-CNN44により予測される予測サブトラクションボリューム46に可能な限り近いマスクおよびサブトラクションボリュームを計算するように設計される。最適化プロシージャは、予測サブトラクションボリューム46に可能な限り最も近いサブトラクションボリュームであって第1の制約及び第2の制約を満たすものをみつけることと、可能な限り最も近いサブトラクションボリュームを制約付きサブトラクションボリューム52として指定すること、を含む。
図4の実施形態に従った制約付き最適化プロシージャを説明する。他の実施形態では、異なる最適化プロシージャを使用してよい。
制約付き最適化プロシージャへの入力は、Cとして示されるコントラストボリューム2、Mとして示される予測マスクボリューム42、Sとして示される予測サブトラクションボリューム46である。典型的には、数式(1)であり、MとSとは対応するサイズである。
Figure 2023154407000002
制約付き最適化への出力として、Mとして示される制約付きマスクボリューム50と、Sとして示される制約付きサブトラクションボリューム52を計算することが望ましい。制約付きマスクボリューム50は、初期の予測マスクボリューム42の改良版を構成するため、改良マスクボリュームとしても説明される。制約付きサブトラクションボリューム52は、初期の予測サブトラクションボリューム46の改良版を構成するため、改良サブトラクションボリュームとしても説明される。制約付きマスクボリューム50と制約付きサブトラクションボリューム52は、最終マスクボリュームと最終サブトラクションボリュームとしても説明されることがある。
第1の制約は、全てのボクセルにおいて、マスクボリュームの最終予測(M)である制約付きマスクボリューム50と、サブトラクションボリュームの最終予測(S)である制約付きサブトラクションボリューム52との合計が、オリジナルのコントラストボリューム2であるCに等しいことである。ボクセルを指定するためにインデックスiが用いられる。
Figure 2023154407000003
制約付きマスクボリューム50と制約付きサブトラクションボリューム52は、制約を適用せずに得られた予測マスクボリューム42と予測サブトラクションボリューム46に可能な限り近いことが望ましい。
変数σが導入される。ここでは、数式(3)である。第1の制約に従う予測を得るために、マスクおよびサブトラクション強度は、新しい変数σに関して次のように記述される。
Figure 2023154407000004
Figure 2023154407000005
Figure 2023154407000006
下記の制約付き最適化問題を記述してよい。制約付き最適化を解くことで、制約に従った、予測マスクボリューム42と予測サブトラクションボリューム46に可能な限り近いマスクボリュームとサブトラクションボリュームが得られる。
Figure 2023154407000007
本実施形態では、2-ノルムが選択されている。他の実施形態では、任意の好適なノルムを用いてよい。最適化プロシージャの目的は、予測マスクボリューム42と制約付きサブトラクションボリューム52との差分、および予測サブトラクションボリューム46と制約付きサブトラクションボリューム52の差分の2-ノルムの最適化を含む。
2-ノルムが選択されているため、当該問題は、σに関するボックス制約をもつ下記の二次式のミニマイザを求めることに帰着する。
Figure 2023154407000008
当該二次式の主係数数式(8)であるため、ミニマイザは一意であり、存在することが保証されている。解析解を導いてもよい。σについて微分係数を取る。
Figure 2023154407000009
Figure 2023154407000010
数式(9)をゼロに設定し、簡単化し、制約を適用すると次の数式(10)が与えられる。
Figure 2023154407000011
数式(10)を数式(5)に代入し、最終の制約付きサブトラクション予測と制約付きマスク予測を得る。
図4の実施形態では、σの値はボクセルごとに異なる。σの値は全て、独立している。他の実施形態では、σの値は独立していなくてもよい。決定されたσの値に対して、例えば出力の鮮鋭化または視覚の改良などの後処理を行ってよい。
上に具体的なアルゴリズムを記載したが、他の実施形態では、上述のアルゴリズムとは異なるアルゴリズムであってよい。任意の好適なアルゴリズムを用いてよい。
最適化回路36は、上述した最適化プロシージャを用いて得られた制約付きマスクボリューム50であるMを出力する。最適化回路36は、上述した最適化プロシージャを用いて得られた制約付きサブトラクションボリューム52であるSを出力する。すなわち、最適化回路36は、制約付きサブトラクションボリューム52を得るように更に構成される。
コントラストボリューム2と、制約付きマスクボリューム50と、制約付きサブトラクションボリューム52とが、表示回路38に与えられる。表示回路38は、コントラストボリューム2から得られる画像をユーザに表示する第1の表示タスク54を行う。例えば、任意の好適なレンダリング方法を用いてコントラストボリューム2のデータをレンダリングし、ディスプレイスクリーン26上でユーザに表示してよい。
表示回路38は、制約付きマスクボリューム50から得られる画像をユーザに表示する第2の表示タスク56を行う。例えば、任意の好適なレンダリング方法を用いて制約付きマスクボリューム50のデータをレンダリングし、ディスプレイスクリーン26上でユーザに表示してよい。
表示回路38は、制約付きサブトラクションボリューム52から得られる画像をユーザに表示する第3の表示タスク58を行う。例えば、任意の好適なレンダリング方法を用いて制約付きサブトラクションボリューム52のデータをレンダリングし、ディスプレイスクリーン26上でユーザに表示してよい。
他の実施形態では、レンダリング画像の任意の好適な組み合わせをユーザに表示してよい。
図4の方法は、マスクレスDSA方法を提供する。コントラストボリュームは、回転血管造影を用いて得られる。2つのトレーニングされたモデルと、最適化プロシージャを用いて回転血管造影データからDSAデータを予測し、血管病変を可視化するためにDSAデータを用いてよい。DSAはマスクを取得せずにコントラスト強調ボリュームから予測される。これにより、ワークフローが迅速化し、コントラストデータと非コントラストデータの両方を取得する伝統的なサブトラクション法と比較して放射線量を半減し得る。DSAはボリューム間のレジストレーションを必要とせずにコントラストボリュームから予測されるため、DSAにおけるミスレジストレーション・アーチファクトが阻止され得る。モーション・アーチファクトがなくなり得る。
サブトラクションを使用してコントラストおよびマスクボリュームからDSAボリュームを生成する代わりに、単一のコントラストボリュームからマスクおよびDSAボリュームを予測するようにCNNがトレーニングされる。マスクボリュームとコントラストボリュームは、別々に予測される。その後、制約付き最適化を解くことにより、2つの予測を組み合わせる。制約付き最適化プロシージャは、最終の予測マスクおよび最終の予測DSAが加算されると、オリジナルの測定されたコントラストとなることを保証するように意図されている。
図4の最適化プロシージャは、最適化を行わずにマスクCNN40,DSA-CNN44の出力を提示する場合に比べて、数多くの改良点をもたらすだろう。最適化なしのマスクCNN40,DSA-CNN44の出力は、マスクCNN40,DSA-CNN44の生の出力として記載されることがあり、図4の実施形態では予測マスクボリューム42と予測サブトラクションボリューム46を含む。
最適化がある1つのモデルからのエラーを修正するため、精度が向上するだろう。2つの独立したCNNを組み合わせることにより、一方のCNNによる誤りが他方のCNNにより修正されるため、精度が向上するだろう。
結果により解釈が容易になるだろう。CNNが存在しない画像構造をサブトラクションボリュームまたはマスクボリュームに導入する可能性が、低減または除去され得る。最適化は、コントラストボリュームで観測される減衰係数が保存されることを保証してよい。臨床医は、CNN単独の出力(例えば、図2に示す方法の出力)よりも図4の方法の出力をより厚く信頼することができる。
CNNが誤りを犯した場合、臨床医は結果を確認することでそのような誤りを容易に解釈および理解し得る。例えば、制約付きDSAにおいて血管の一部が欠落していれば、欠落部分は制約付きマスクにある。
図4の実施形態では、制約付き最適化問題に閉形式解を使用するため、極めて迅速に、例えば1秒かからずに計算し得る。
図5は、異なるボリュームからレンダリングされた複数の体軸、冠状、矢状の最大値投影(maximum intensity projection:MIP)図を示す。画像60,62,64の第1のセットは、コントラストボリュームである入力ボリュームの体軸、冠状、矢状図をそれぞれ含む。入力ボリュームは、解剖領域のコントラスト強調スキャンから得られる。画像70,72,74の第2のセットは、同一解剖領域の非コントラストスキャンから得られる現実の(グラウンドトゥルース)マスクボリュームの体軸、冠状、矢状図をそれぞれ含む。画像72の円76,78は、現実のマスクボリュームにおける2つの関心領域をハイライトしている。
画像80,82,84の第3のセットは、予測マスクボリュームの体軸、冠状、矢状図をそれぞれ含む。画像60,62,64を得るために使用されるコントラスト強調ボリュームからマスクボリュームを予測するために、3D残差Uネットが使用された。画像82の円86,88は、画像72の円76,78により示されるものと同一の関心領域をハイライトしている。コントラストが強調された血管のうち数か所のセクションが、間違って画像82の円86,88に示されていることがわかるだろう。コントラストが強調された血管が現実のマスクボリュームに存在することはあり得ないため、コントラストが強調された血管が予測マスクボリュームに存在することは明らかにエラーである。
画像90,92,94の第4のセットは、図4を参照して上述した最適化プロシージャの出力である制約付きマスクボリュームの体軸、冠状、矢状図をそれぞれ含む。画像80,82,84を得るために使用される予測マスクボリュームは、制約付き最適化において独立したDSA予測(図5に図示せず)と組み合わされた。画像92の円96,98は、画像72の円76,78により示されるものと同一の関心領域をハイライトしている。画像92の円96,98によりハイライトされた部分は、画像82よりも画像72に類似することがわかるだろう。制約付き最適化の出力は、最適化なしのCNNの出力よりも現実のデータに類似している。制約付き最適化は、予測マスクボリュームのエラーを低減または除去し得る。
図4の実施形態では、制約は最適化プロシージャの一部として数学的に実装される。他の実施形態では、予測サブトラクションボリュームおよび/または予測マスクボリュームに関する制約を任意の好適な方法で実装して良い。例えば、いくつかの実施形態では、制約を機械学習アーキテクチャの一部として実装して良い。画像処理回路34は、少なくとも1つの制約を適用することを、予測マスクボリューム42の生成、および/または予測サブトラクションボリューム46の生成の一部として行う。
ある実施形態では、サブトラクションデータとマスクデータは、複数の層を含むCNNにより予測される。1つまたは複数の制約がCNNの1つまたは複数の層に実装され、CNNは制約が既に適用されたサブトラクションデータとマスクデータを出力する。CNNにより出力されるサブトラクションデータとマスクデータは、既に制約に適合しており、後続処理を必要としないかもしれない。画像処理回路34は、マスクCNN40内で第1の制約又は第2の制約を適用すること含む。画像処理回路34は、DSA-CNN44内で第1の制約又は第2の制約を適用すること含む。
他の実施形態では、サブトラクションデータおよび/またはマスクデータを予測するために任意の1つまたは複数のトレーニングされたモデルを使用してよく、1つまたは複数の制約を当該1つまたは複数のトレーニングされたモデルに任意の好適な方法で実装してよい。
図4の実施形態では、マスクボリュームを予測するためにマスクCNNを使用し、サブトラクションボリュームを予測するためにDSA-CNNが使用される。マスクCNNとDSA-CNNは、互いに独立している。マスクCNN40は、第1の畳み込みニューラルネットワーク(convolutional neural network:CNN)を含み、DSA-CNN44は第2の独立したCNNを含む。
他の実施形態では、マスクボリュームとサブトラクションボリュームの両方を予測するために、例えばマルチヘッドCNNなどの単一のトレーニングされたモデルを使用する。そのような実施形態のいくつかにおいて、マスクボリュームとサブトラクションボリュームに関する1つまたは複数の制約が、マルチヘッドCNNに組み込まれる。CNNの更なる出力を与えるように、CNN内で変数σの値を予測してよい。
いくつかの実施形態では、サブトラクションボリュームを予測するために、2つ以上のトレーニングされたモデルを使用する。当該トレーニングされたモデルは、異なるタイプのトレーニングされたモデルであってよく、例えば、異なるタイプのCNNであってよい。モデルは、異なるトレーニングデータセットでトレーニングされてよい。最適化回路36は、当該2つ以上のトレーニングされたモデルからの出力を組み合わせるように構成される。制約付き最適化プロシージャは、当該2つ以上のトレーニングされたモデルから、サブトラクションボリュームの2つ以上の初期予測を受け付けるように修正される。同様に、いくつかの実施形態では、マスクボリュームを予測するために、2つ以上のトレーニングされたモデルを使用してよい。制約付き最適化プロシージャは、マスクボリュームを予測するようにトレーニングされている当該2つ以上のトレーニングされたモデルから、マスクボリュームの2つ以上の初期予測を受け付けるように修正される。
状況によっては、あるトレーニングされたモデルは、マスクすべき金属オブジェクトと、マスクすべきではない強調された血管との区別が困難である場合がある。典型的には金属オブジェクトは、コントラストボリュームにおいて暗く見える。トレーニングされたモデルは、全ての暗い領域を血管に分類するようにトレーニングされることがあり、これは金属オブジェクトも間違って血管に分類され得ることを意味する。
いくつかの実施形態では、画像処理回路34は追加のトレーニングされたモデルを使用して、コントラストボリューム内の金属オブジェクトをセグメンテーションする。セグメンテーションされた金属オブジェクトのボクセルは金属としてラベル付けられる。その後、最適化回路36は、金属オブジェクトが制約付きマスクボリュームに表れ、制約付きサブトラクションボリュームには表れないことを保証する。例えば、最適化回路36は、金属としてラベル付けられた各ボクセルのσを0に設定してよい。これは、金属としてラベル付けられたボクセルは、予測マスクボリュームに対してのみ寄与し、予測サブトラクションボリュームに対しては寄与しないことを意味する。画像処理回路34はコントラストボリューム2内の少なくとも1つの金属オブジェクトのセグメンテーションを得るために、追加のトレーニングされたモデルをコントラストボリューム2に適用し、少なくとも1つの金属オブジェクトが予測マスクボリューム42において表現されることを保証するように、セグメンテーションを用いる。
上述の実施形態では、造影剤が解剖領域の血管を強調するように造影剤ありで当該解剖領域をスキャンして、コントラスト強調ボリュームを得る。その後、コントラスト強調スキャンにより得たデータは、造影剤を使用しないマスクボリュームと、コントラスト強調ボリュームと当該マスクボリュームとの差分を表すサブトラクションボリュームとを予測するために用いられる。
他の実施形態では、解剖領域の血液を強調するために、任意の好適な方法を用いてよい。解剖領域のスキャンデータは、血液が強調された状態で得られる。その後、スキャンで得た強調された血液を有するデータは、血液強調を使用しないマスクボリュームと、コントラスト強調ボリュームと当該マスクボリュームとの差分を表すサブトラクションボリュームとを予測するために用いられる。
ある実施形態では、処理回路を備える医用画像処理装置が提供される。当該処理回路は、測定された血管造影データを受け取り;制約なしマスク(非強調)およびサブトラクション(強調された血管のみ)画像を予測し;ボクセル強度が非マイナスであり予測されたマスクおよびサブトラクション強度の合計が対応するボクセルで測定された強度になるように、制約付き最適化問題の解により最終マスクおよびサブトラクション予測を決定する、ように構成される。
サブトラクションおよびマスクの初期予測に、2つのCNNを用いてよい。
サブトラクションおよびマスクの初期予測に、少なくとも2つのCNNを用いてよい。複数の初期予測を受け付けるように制約付き最適化問題を修正してよい。
サブトラクションおよびマスクの初期予測に、マルチヘッドCNNを用いてよい。
最適化目的は、予測された制約付きマスクおよびサブトラクションの差分の2-ノルムであってよい。
撮像モダリティは、3D回転血管造影法であってよい。
撮像モダリティは、2D蛍光透視法であってよい。
コントラスト強調ボリューム内の金属オブジェクトをセグメンテーションするために追加のCNNを適用し、金属オブジェクトがマスクボリュームに置かれることを保証してよい。
ある実施形態では、医用画像処理方法は、造影剤を含むボリュームを表すスキャンデータを含む、または、当該スキャンデータから得られる血管造影データセットを受け取ることと、トレーニングされたモデルを用いて、当該血管造影データセットからマスク画像データを予測することと、当該トレーニングされたモデルまたは更なるトレーニングされたモデルを用いて、同一の血管造影データセットからサブトラクション画像データを予測することと、当該マスク画像データと当該サブトラクション画像データを、少なくとも1つの制約に従う最適化プロシージャに基づいてリファインすること、を含む
当該少なくとも1つの制約は、ボクセル強度が非マイナスであることを保証することを含んでよい。当該少なくとも1つの制約は、各画像ロケーションにおいて、予測されたサブトラクション画像データと、予測されたマスク画像データの強度の合計が、血管造影データにおける対応ロケーションの強度に対応することを保証することを含んでよい。
当該マスク画像データは、造影剤なしの当該ボリュームの少なくとも一部を表してよい。当該マスク画像データは、造影剤を含む当該ボリュームを表すスキャンデータを含む血管造影データセットから予測されてよい。当該サブトラクション画像データは、造影剤を含まない画像データからの、造影剤を含むマスク画像データのサブトラクションを表し、当該サブトラクション画像データはまた、造影剤を含む当該ボリュームを表すスキャンデータを含む血管造影データセットから予測されてよい。
当該マスク画像データを予測するために第1の畳み込みニューラルネットワーク(convolutional neural network:CNN)を用いてよく、当該サブトラクション画像データを予測するために第2のCNNを用いてよい。
最適化プロシージャは、複数の初期予測を受け付けるように構成されてよい。
当該サブトラクションデータおよび当該マスクデータの初期予測に、マルチヘッドCNNを用いてよい。
当該最適化プロシージャの目的は、予測された制約付きマスクデータおよびサブトラクションデータの差分の2-ノルムの最適化を含んでよい。
スキャンデータは、3D回転血管造影データを含んでよい。
スキャンデータは、2D蛍光透視データを含んでよい。
スキャンデータは、MRデータを含んでよい。
金属オブジェクトをセグメンテーションするために追加のCNNを適用し、金属オブジェクトがマスクデータにおいて表されることを保証してよい。
特定の回路が本明細書において説明されているが、代替の実施形態において、これらの回路の内の1つまたは複数の機能を、1つの処理リソースまたは他のコンポーネントによって提供することができ、または、1つの回路によって提供される機能を、2つまたはそれより多くの処理リソースまたは他のコンポーネントを組み合わせることによって提供することができる。1つの回路への言及は、当該回路の機能を提供する複数のコンポーネントを包含し、そのようなコンポーネントがお互いに隔たっているか否かにかかわらない。複数の回路への言及は、それらの回路の機能を提供する1つのコンポーネントを包含する。
所定の実施形態が説明されているが、これらの実施形態は、例示のためにのみ提示されており、発明の範囲を限定することは意図されない。実際は、本明細書において説明された新規な方法およびシステムは、様々な他の形態で具体化することができる。更に、本明細書において説明された方法およびシステムの形態における様々な省略、置き換え、および、変更が、発明の要旨を逸脱することなくなされてよい。添付の特許請求の範囲の請求項およびそれらに均等な範囲は、発明の範囲にはいるような形態および変更をカバーすると意図される。
また、本開示の実施形態は、以下の付記に記載された通りであってもよい。
(付記1)
処理回路を備える医用画像処理装置であって、前記処理回路は、
サブ領域が強調された解剖領域を表すスキャンデータを含む、または、前記スキャンデータから得られる医用画像データを受け取ることと、
トレーニングされたモデルを用いて、前記医用撮像データからマスクデータを予測することであり、前記マスクデータは前記サブ領域の強調がない前記解剖領域を表し、
前記トレーニングされたモデルまたは更なるトレーニングされたモデルを用いて、前記同一の医用画像データからサブトラクションデータを予測することであり、前記サブトラクションデータは前記同一の解剖領域を表す、
を行うように構成され、
前記処理回路は、制約付きサブトラクションデータを得るために少なくとも1つの制約を適用するように更に構成されてもよい。
(付記2)
前記少なくとも1つの制約を適用することは、前記少なくとも1つの制約を前記予測されたサブトラクションデータと予測されたマスクデータに適用することを含んでもよい。
(付記3)
前記少なくとも1つの制約を適用することは、前記マスクデータと前記サブトラクションデータに基づいて最適化プロシージャを行うこと含んでもよい。
(付記4)
前記処理回路は制約付きマスクデータを得るように更に構成されてもよい。
(付記5)
前記医用画像データと、前記マスクデータと、前記サブトラクションデータとのそれぞれが、前記解剖領域内の複数のロケーションに対応する複数のロケーションそれぞれにおいて個別の強度を含み、
前記少なくとも1つの制約は、前記複数のロケーションごとに、前記サブトラクションデータにおける強度と前記マスクデータにおける強度の合計が前記医用画像データにおける強度に対応することを保証するものであってもよい。
(付記6)
前記医用画像データと、前記マスクデータと、前記サブトラクションデータとのそれぞれが、前記解剖領域内の複数のロケーションに対応する複数のロケーションそれぞれにおいて個別の強度を含み、
前記少なくとも1つの制約は、前記複数のロケーションごとの各強度が非マイナスであることを保証するものであってもよい。
(付記7)
前記医用画像データと、前記マスクデータと、前記サブトラクションデータとのそれぞれが、前記解剖領域内の複数のロケーションに対応する複数のロケーションそれぞれにおいて個別の強度を含み、
前記少なくとも1つの制約は、前記複数のロケーションごとの各強度が所定の強度値範囲内にあることを保証するものであってもよい。
(付記8)
前記少なくとも1つの制約を適用することは、前記トレーニングされたモデル内で前記少なくとも1つの制約を適用すること含んでもよい。
(付記9)
前記トレーニングされたモデルは複数の層を含み、前記少なくとも1つの制約を適用することは、前記少なくとも1つの制約を前記複数の層のうちの少なくとも1つの層を使って適用することを含んでもよい。
(付記10)
前記少なくとも1つの制約を適用することは、前記マスクデータの前記予測および/または前記サブトラクションデータの前記予測の一部として行われてもよい。
(付記11)
前記サブトラクションデータを予測するために、更なるトレーニングされたモデルが用いられてもよい。
(付記12)
前記トレーニングされたモデルは、第1の畳み込みニューラルネットワーク(convolutional neural network:CNN)を含み、前記更なるトレーニングされたモデルは第2の独立したCNNを含んでもよい。
(付記13)
前記マスクデータを予測することは、少なくとも2つの異なるトレーニングされたモデルを用いることを含み、および/または、前記サブトラクションデータを予測することは、少なくとも2つの異なるトレーニングされたモデルを用いることを含んでもよい。
(付記14)
前記トレーニングされたモデルはマルチヘッドCNNを含み、前記トレーニングされたモデルは前記マスクデータと前記サブトラクションデータの両方の前記予測において用いられてもよい。
(付記15)
前記最適化プロシージャは、前記予測されたサブトラクションボリュームに可能な限り最も近いサブトラクションボリュームであって前記少なくとも1つの制約を満たすものをみつけることと、前記可能な限り最も近いサブトラクションボリュームを前記制約付きサブトラクションボリュームとして指定すること、を含んでもよい。
(付記16)
前記最適化プロシージャの目的は、予測されたマスクデータと制約付きマスクデータとの差分および予測されたサブトラクションデータと制約付きサブトラクションデータの差分の2-ノルムの最適化を含んでもよい。
(付記17)
前記処理回路は、
前記医用画像データ内の少なくとも1つの金属オブジェクトのセグメンテーションを得るために、追加のトレーニングされたモデルを前記医用画像データに適用し、
前記少なくとも1つの金属オブジェクトが前記マスクデータにおいて表現されることを保証するように、前記セグメンテーションを用いる、
ように更に構成されてもよい。
(付記18)
前記スキャンデータは、造影剤ありの前記解剖領域を表し、前記サブ領域は前記造影剤の存在により前記医用画像において強調され、前記マスクデータは前記造影剤なしの前記解剖領域を表してもよい。
(付記19)
前記スキャンデータは、3D回転血管造影データと、2D蛍光透視データと、CTデータと、MRデータとのうちの少なくとも1つを含んでもよい。
(付記20)
前記スキャンデータは、コーンビームCアーム取得から得られてもよい。
(付記21)
サブ領域が強調された解剖領域を表すスキャンデータを含む、または、前記スキャンデータから得られる医用画像データを受け取ることと、
トレーニングされたモデルを用いて、前記医用撮像データからマスクデータを予測することであり、前記マスクデータは前記サブ領域の強調がない前記解剖領域を表し、
前記トレーニングされたモデルまたは更なるトレーニングされたモデルを用いて、前記同一の医用画像データからサブトラクションデータを予測することであり、前記サブトラクションデータは前記同一の解剖領域を表し、
制約付きサブトラクションデータを得るために、少なくとも1つの制約を適用すること、
を含む医用画像処理方法。
(付記22)
前記生成部は、前記マスク画像データと、前記血管画像データと、少なくとも一つの制約とに基づいて、制約付き血管画像データと、制約付きマスクデータとを生成する。
(付記23)
前記第1の学習済みモデルと、前記第2の学習済みモデルとは、前記同一の解剖領域の医用画像データを処理対象として学習されている。
(付記24)
前記第1の学習済みモデルは、Uネット、又は3D残差Uネット(3D residual U-net)である。
(付記25)
前記第2の学習済みモデルは、Uネット、又は3D残差Uネット(3D residual U-net)である。
(付記26)
前記第1の学習済みモデルは、条件付き敵対的生成ネットワーク(conditional generative adversarial network)からの生成モデルである。
(付記27)
前記第2の学習済みモデルは、条件付き敵対的生成ネットワーク(conditional generative adversarial network)からの生成モデルである。
(付記28)
少なくとも1つの制約は、造影画像データから導かれるマスク画像データと、造影画像データから導かれる血管画像データとを加算すると、オリジナルの造影画像データになるべきことである。
(付記29)
造影画像データと、マスク画像データと、血管画像データとは、ボリュームデータである。
(付記30)
造影画像データと、マスク画像データと、血管画像データとは、2次元のX線画像データである。
(付記31)
造影画像データは、Cアームを備えたX線診断装置により取得されたX線画像データである。
(付記32)
被検体に関する造影画像データを収集する収集部と、
前記造影画像データに基づいてマスク画像データを生成する第1の学習済みモデルに対して、前記造影画像データを入力することにより、マスク画像データを生成し、
前記造影画像データに基づいて血管画像データを生成する第2の学習済みモデルに対して、前記造影画像データを入力することにより、血管画像データを生成し、
前記マスク画像データと前記血管画像データと、少なくとも1つの制約とに基づいて制約付き血管画像データを生成する生成部と、
を備えるX線診断装置。
2 コントラストボリューム
4 マスクボリューム
6 サブトラクション処理
8 DSAボリューム
10 CNN
12 DSAボリューム
20 医用画像処理装置
22 コンピューティング装置
24 スキャナ
26 ディスプレイスクリーン
28 入力装置
30 データ記憶部
32 処理装置
34 画像処理回路
36 最適化回路
38 表示回路
40 マスクCNN
42 予測マスクボリューム
44 DSA-CNN
46 予測サブトラクションボリューム
48 制約付き最適化プロシージャ
50 制約付きマスクボリューム
52 制約付きサブトラクションボリューム

Claims (16)

  1. 被検体に関する造影画像データを取得する取得部と、
    前記造影画像データに基づいてマスク画像データを生成する第1の学習済みモデルに対して、前記造影画像データを入力することにより、マスク画像データを生成し、
    前記造影画像データに基づいて血管画像データを生成する第2の学習済みモデルに対して、前記造影画像データを入力することにより、血管画像データを生成し、
    前記マスク画像データと前記血管画像データと、少なくとも1つの制約とに基づいて制約付き血管画像データを生成する生成部と、
    を備える医用画像処理装置。
  2. 前記生成部は、前記少なくとも1つの制約を、前記血管画像データと前記マスク画像データとに適用する、
    請求項1に記載の医用画像処理装置。
  3. 前記少なくとも1つの制約は、当該制約に基づく制約付きマスク画像データの強度と、前記制約付き血管画像データの強度との合計が前記造影画像データの強度に対応することである、
    請求項1に記載の医用画像処理装置。
  4. 前記少なくとも1つの制約は、当該制約に基づく制約付きマスク画像データの強度と、前記制約付き血管画像データの強度と、前記造影画像データの強度とが非マイナスであることである、
    請求項1に記載の医用画像処理装置。
  5. 前記生成部は、前記少なくとも1つの制約の適用として、前記マスク画像データと前記血管画像データとに基づいて最適化プロシージャを行う、
    請求項2に記載の医用画像処理装置。
  6. 前記最適化プロシージャは、前記マスク画像データと制約付きマスク画像データとの差分、および前記血管画像データと制約付き血管画像データとの差分の2-ノルムの最適化を含む、
    請求項5に記載の医用画像処理装置。
  7. 前記生成部は、制約付きマスク画像データを生成する、
    請求項1に記載の医用画像処理装置。
  8. 前記造影画像データと、前記マスク画像データと、前記血管画像データとのそれぞれが、解剖領域内の複数のロケーションに対応する複数のロケーションそれぞれにおいて個別の強度を含み、
    前記少なくとも1つの制約は、前記複数のロケーションごとの各強度が非マイナスであることを保証するものである、
    請求項1に記載の医用画像処理装置。
  9. 前記生成部は、前記第1の学習済みモデル内および/または前記第2の学習済みモデル内で前記少なくとも1つの制約を適用する、
    請求項1に記載の医用画像処理装置。
  10. 前記生成部は、前記少なくとも1つの制約を適用することを、前記マスク画像データの生成、および/または前記血管画像データの生成の一部として行う、
    請求項2に記載の医用画像処理装置。
  11. 前記第1の学習済みモデルは、第1の畳み込みニューラルネットワーク(convolutional neural network:CNN)を含み、前記第2の学習済みモデルは第2の独立したCNNを含む、
    請求項1に記載の医用画像処理装置。
  12. 前記最適化プロシージャは、前記血管画像データに可能な限り最も近い血管画像データであって前記少なくとも1つの制約を満たすものをみつけることと、前記可能な限り最も近い血管画像データを前記制約付き血管画像データとして指定すること、を含む、
    請求項5に記載の医用画像処理装置。
  13. 前記生成部は、
    前記造影画像データに基づいて少なくとも1つの金属オブジェクトを表現する前記マスク画像データを得るために、追加の学習をした第1の学習済みモデルに対して前記造影画像データを入力することにより、前記少なくとも1つの金属オブジェクトが表現された前記マスク画像データを生成する、
    請求項1に記載の医用画像処理装置。
  14. 前記造影画像データは、3D回転血管造影データと、2D蛍光透視データと、CTデータと、MRデータとのうちの少なくとも1つを含む、
    請求項1に記載の医用画像処理装置。
  15. 被検体に関する造影画像データを取得し、
    前記造影画像データに基づいてマスク画像データを生成する第1の学習済みモデルに対して、前記造影画像データを入力することにより、マスク画像データを生成し、
    前記造影画像データに基づいて血管画像データを生成する第2の学習済みモデルに対して、前記造影画像データを入力することにより、血管画像データを生成し、
    前記マスク画像データと前記血管画像データと、少なくとも1つの制約とに基づいて制約付き血管画像データを生成する、
    ことを含む医用画像処理方法。
  16. 被検体に関する造影画像データを収集する収集部と、
    前記造影画像データに基づいてマスク画像データを生成する第1の学習済みモデルに対して、前記造影画像データを入力することにより、マスク画像データを生成し、
    前記造影画像データに基づいて血管画像データを生成する第2の学習済みモデルに対して、前記造影画像データを入力することにより、血管画像データを生成し、
    前記マスク画像データと前記血管画像データと、少なくとも1つの制約とに基づいて制約付き血管画像データを生成する生成部と、
    を備えるX線診断装置。
JP2023056491A 2022-04-06 2023-03-30 医用画像処理装置、医用画像処理方法、及びx線診断装置 Pending JP2023154407A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US17/658,096 2022-04-06
US17/658,096 US20230326011A1 (en) 2022-04-06 2022-04-06 Image processing method and apparatus

Publications (1)

Publication Number Publication Date
JP2023154407A true JP2023154407A (ja) 2023-10-19

Family

ID=85873615

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2023056491A Pending JP2023154407A (ja) 2022-04-06 2023-03-30 医用画像処理装置、医用画像処理方法、及びx線診断装置

Country Status (3)

Country Link
US (1) US20230326011A1 (ja)
EP (1) EP4258209A1 (ja)
JP (1) JP2023154407A (ja)

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021257906A1 (en) * 2020-06-17 2021-12-23 Northwestern University Maskless 2d/3d artificial subtraction angiography

Also Published As

Publication number Publication date
US20230326011A1 (en) 2023-10-12
EP4258209A1 (en) 2023-10-11

Similar Documents

Publication Publication Date Title
US11227683B2 (en) Methods and systems for characterizing anatomical features in medical images
JP7194143B2 (ja) 肝臓腫瘍例のレビューを容易にするシステムおよび方法
US9471987B2 (en) Automatic planning for medical imaging
US9684980B2 (en) Prior image based three dimensional imaging
US10098602B2 (en) Apparatus and method for processing a medical image of a body lumen
EP2880594B1 (en) Systems and methods for performing segmentation and visualization of multivariate medical images
US20170042494A1 (en) Computed tomography apparatus and method of reconstructing a computed tomography image by the computed tomography apparatus
CN111540025A (zh) 预测用于图像处理的图像
CN110881992A (zh) 使用双能量计算机断层扫描的针对外伤性出血的检测和量化
JP6747785B2 (ja) 医用画像処理装置及び医用画像処理方法
WO2015083065A1 (en) Bone segmentation from image data
US10043268B2 (en) Medical image processing apparatus and method to generate and display third parameters based on first and second images
US11317875B2 (en) Reconstruction of flow data
JP2023154407A (ja) 医用画像処理装置、医用画像処理方法、及びx線診断装置
Lyu et al. Dual-energy CT imaging from single-energy CT data with material decomposition convolutional neural network
EP4336452A1 (en) Computer-implemented method for processing spectral computed tomography (spectral ct) data, computer program and spectral ct system
US20240029415A1 (en) Simulating pathology images based on anatomy data
US20230165543A1 (en) Method and apparatus for generating a resultant image dataset of a patient
ROMMAN Computer, Physics, and Clinical Applications of Spectral Computed Tomography
JP2023551421A (ja) 医用画像内の標識要素の抑制
Caruso et al. Radiation Dose Optimization: The Role of Artificial Intelligence
JP2023128704A (ja) 画像処理装置、方法、プログラム及び記憶媒体
JP2023080703A (ja) 医用画像処理装置、方法及びプログラム
JP2023058034A (ja) X線診断装置、医用情報処理装置及び医用情報処理方法
JP2020188991A (ja) 医用画像処理装置、医用画像処理プログラム、x線診断装置及びx線診断システム