JP2023073968A - 医用画像処理装置、医用画像処理方法及び医用画像処理プログラム - Google Patents
医用画像処理装置、医用画像処理方法及び医用画像処理プログラム Download PDFInfo
- Publication number
- JP2023073968A JP2023073968A JP2022166028A JP2022166028A JP2023073968A JP 2023073968 A JP2023073968 A JP 2023073968A JP 2022166028 A JP2022166028 A JP 2022166028A JP 2022166028 A JP2022166028 A JP 2022166028A JP 2023073968 A JP2023073968 A JP 2023073968A
- Authority
- JP
- Japan
- Prior art keywords
- processing
- medical image
- control unit
- segmentation
- image data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 688
- 238000003672 processing method Methods 0.000 title claims description 8
- 238000000034 method Methods 0.000 claims abstract description 223
- 230000008569 process Effects 0.000 claims abstract description 200
- 230000000877 morphologic effect Effects 0.000 claims abstract description 37
- 230000006870 function Effects 0.000 claims description 129
- 230000011218 segmentation Effects 0.000 claims description 129
- 238000001514 detection method Methods 0.000 claims description 82
- 238000013528 artificial neural network Methods 0.000 claims description 41
- 210000003709 heart valve Anatomy 0.000 claims description 39
- 238000013135 deep learning Methods 0.000 claims description 26
- 238000012937 correction Methods 0.000 claims description 22
- 210000001765 aortic valve Anatomy 0.000 claims description 21
- 238000005728 strengthening Methods 0.000 claims description 8
- 230000009466 transformation Effects 0.000 claims description 8
- 238000011282 treatment Methods 0.000 claims description 4
- 230000002708 enhancing effect Effects 0.000 claims description 3
- 238000005259 measurement Methods 0.000 abstract description 26
- 210000004072 lung Anatomy 0.000 description 23
- 238000010586 diagram Methods 0.000 description 21
- 230000017531 blood circulation Effects 0.000 description 17
- 210000004115 mitral valve Anatomy 0.000 description 16
- 230000015654 memory Effects 0.000 description 15
- 238000012986 modification Methods 0.000 description 15
- 230000004048 modification Effects 0.000 description 15
- 239000000284 extract Substances 0.000 description 13
- 210000005240 left ventricle Anatomy 0.000 description 11
- 210000004351 coronary vessel Anatomy 0.000 description 7
- 238000000605 extraction Methods 0.000 description 7
- 210000000709 aorta Anatomy 0.000 description 6
- 230000000694 effects Effects 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 6
- 239000012530 fluid Substances 0.000 description 6
- 238000002591 computed tomography Methods 0.000 description 5
- 210000005246 left atrium Anatomy 0.000 description 5
- 210000003484 anatomy Anatomy 0.000 description 4
- 210000000621 bronchi Anatomy 0.000 description 4
- 238000002595 magnetic resonance imaging Methods 0.000 description 4
- 230000002123 temporal effect Effects 0.000 description 4
- 238000012549 training Methods 0.000 description 4
- 239000008280 blood Substances 0.000 description 3
- 210000004369 blood Anatomy 0.000 description 3
- 230000000747 cardiac effect Effects 0.000 description 3
- 238000007796 conventional method Methods 0.000 description 3
- 201000010099 disease Diseases 0.000 description 3
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 3
- 210000001147 pulmonary artery Anatomy 0.000 description 3
- 239000000523 sample Substances 0.000 description 3
- 210000003291 sinus of valsalva Anatomy 0.000 description 3
- 230000002861 ventricular Effects 0.000 description 3
- 210000003123 bronchiole Anatomy 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 210000002837 heart atrium Anatomy 0.000 description 2
- 230000001965 increasing effect Effects 0.000 description 2
- 238000003780 insertion Methods 0.000 description 2
- 230000037431 insertion Effects 0.000 description 2
- 210000000056 organ Anatomy 0.000 description 2
- 230000008685 targeting Effects 0.000 description 2
- 238000000844 transformation Methods 0.000 description 2
- 210000000591 tricuspid valve Anatomy 0.000 description 2
- 238000002604 ultrasonography Methods 0.000 description 2
- 208000004434 Calcinosis Diseases 0.000 description 1
- 206010058968 Heart valve calcification Diseases 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 210000001367 artery Anatomy 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 210000004204 blood vessel Anatomy 0.000 description 1
- 230000002308 calcification Effects 0.000 description 1
- 238000010968 computed tomography angiography Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000002526 effect on cardiovascular system Effects 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 238000005206 flow analysis Methods 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 238000002513 implantation Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 230000000873 masking effect Effects 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 230000003562 morphometric effect Effects 0.000 description 1
- 238000013425 morphometry Methods 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 230000002685 pulmonary effect Effects 0.000 description 1
- 210000003102 pulmonary valve Anatomy 0.000 description 1
- 238000012958 reprocessing Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 238000003860 storage Methods 0.000 description 1
Images
Landscapes
- Apparatus For Radiation Diagnosis (AREA)
- Magnetic Resonance Imaging Apparatus (AREA)
Abstract
【課題】より精確な形態学的計測結果を得ること。【解決手段】実施形態に係る医用画像処理装置は、制御部を備える。制御部は、医用画像データに対して少なくとも二つの異なる種類の処理を含む第1の処理を実行する。また、制御部は、記第1の処理の処理結果に基づいて空間的に絞り込まれた範囲に対して更に第1の処理を実行する。【選択図】図3
Description
本明細書及び図面に開示の実施形態は、医用画像処理装置、医用画像処理方法及び医用画像処理プログラムに関する。
心臓弁は、心臓の基礎である重要な構造であり、心房と心室との間の弁、又は、心室と動脈との間の弁を指す。心臓弁の主な機能は、血液の逆流を阻止して、血液が心房から心室へ、又は、心室から大動脈/肺動脈へ流れるように保証することであり、重度の弁膜疾患は死亡の原因になり得る。
例えば、経カテーテル大動脈弁置換術(Transcatheter Aortic Valve Implantation:TAVI)等のような弁膜疾患の治療では、弁の精確な形態学的情報が非常に重要である。TAVIにおける重要な臨床決定の一つは、置換デバイス及び対応する寸法を精確に選択することであり、これらの選択の精確性は、弁の交連点、最下点、大動脈基部、大動脈弁尖等のような重要な解剖点及び構造の精確な抽出に大きく依存する。しかしながら、心臓弁は心臓の内部にあり、サイズが小さく、また、正常な場合は常に開閉の運動状態にあり、その形状や形態の変化が大きいため、形態学的情報を精確に抽出することは非常に困難である。また、例えば、石灰化した弁や不完全弁等のように不健全な状態の心臓弁は、形状が不規則になる等の理由により、形態学的情報の抽出がより困難となる。このため、弁の形態学的情報をより精確に抽出するための解決策が求められている。
ここで、弁の形状及び形態は疾患の違いや個体差によって大きく異なるため、弁の形態学的情報を精確に抽出することは非常に難しい処理となる。従来のアルゴリズムのほとんどは、元のボリューム領域から直接、対象情報を一回で抽出するものであり、粗から精への繰返しによって実現されるものではなく、何らかの補助的な情報を用いて精細化処理を行うものでもない。また、従来の自動弁情報抽出のほとんどは、1種類の形態学的情報のみのための単一のタスクである。例えば、いくつかの自動アルゴリズムは、解剖学的ランドマーク(landmark)の検出のみを行うか、又は、大動脈基部又は大動脈弁尖のセグメンテーションのみを行う。したがって、これらの従来技術では、精確な形態学的情報を得ることができず、特に、石灰化弁や弁欠損等の複雑な状況に対して精確な形態学的情報を得ることができない。また、従来技術の中には、セグメンテーション又は検出を粗から精へ実行することを提案しているものもあるが、それらの技術は、一つのセグメンテーション又は検出アルゴリズムのみを行うものであり、複数のタスクを一つの処理フローに統合するようなものはない。
このような従来技術の課題の一部の原因は、例えば、ランドマーク検出処理とセグメンテーション処理とが別々に行われる点、及び、検出されたランドマーク処理とセグメンテーション処理との関係が考慮されていない点にあると考えられる。したがって、ランドマーク検出処理とセグメンテーション処理とを組み合わせて、より多くの有用な補助情報を生成したり、より精確な形態学的情報を提供したりすることができれば、治療計画における精確な弁計測に大きく寄与すると考えられる。
なお、上述した課題は、心臓弁を対象とする場合に限って生じるものではなく、他の複雑な人体器官又は器官内の複雑な部位を対象とする場合にも同様に生じ得るものである。
"3D Automatic Segmentation of Aortic Computed Tomography Angiography Combining Multi-View 2D Convolutional Neural Networks"、Cardiovascular Engineering and Technology、Vol.11、No.5、October 2020
本明細書及び図面に開示の実施形態が解決しようとする課題の一つは、より精確な形態学的計測結果を得ることである。ただし、本明細書及び図面に開示の実施形態により解決しようとする課題は上記課題に限られない。後述する実施形態に示す各構成による各効果に対応する課題を他の課題として位置付けることもできる。
実施形態に係る医用画像処理装置は、制御部を備える。制御部は、医用画像データに対して少なくとも二つの異なる種類の処理を含む第1の処理を実行する。また、制御部は、記第1の処理の処理結果に基づいて空間的に絞り込まれた範囲に対して更に第1の処理を実行する。
以下、添付図面を参照して、本願に係る医用画像処理装置、医用画像処理方法及び医用画像処理プログラムの実施形態を詳細に説明する。なお、本願に係る医用画像処理装置、医用画像処理方法及び医用画像処理プログラムは、以下に示す実施形態によって限定されるものではない。また、以下の説明では、同様の構成要素には共通の符号を付与することとし、重複する説明を省略する。
(第1の実施形態)
まず、第1の実施形態に係る医用画像処理装置について説明する。なお、本実施形態に係る医用画像処理装置は、超音波診断装置、MRI(Magnetic Resonance Imaging)装置等の医用画像診断装置に含まれて実現されてもよいし、ワークステーション等のように独立した装置として実現されてもよい。
まず、第1の実施形態に係る医用画像処理装置について説明する。なお、本実施形態に係る医用画像処理装置は、超音波診断装置、MRI(Magnetic Resonance Imaging)装置等の医用画像診断装置に含まれて実現されてもよいし、ワークステーション等のように独立した装置として実現されてもよい。
図1は、第1の実施形態に係る医用画像処理装置の構成の一例を示すブロック図である。
図1に示すように、本実施形態に係る医用画像処理装置1は、主に、制御部10と、メモリ20とを備える。例えば、医用画像処理装置1が超音波診断装置に含まれて実現される場合、医用画像処理装置1は、図示を省略した超音波プローブ、ディスプレイ、入出力インターフェース及び装置本体等をさらに備え、制御部10及びメモリ20は、これらの超音波プローブ、ディスプレイ、入出力インターフェース及び装置本体等と通信可能に接続されている。ここで、超音波プローブ、ディスプレイ、入出力インターフェース及び装置本体の構成及び機能等は当業者に周知であるため、詳細な説明を省略する。
メモリ20には、医用画像処理装置1が処理を実行するために必要な各種のデータ、例えば、処理対象となる医用画像データ、超音波診断装置が使用及び生成した各種のデータ、表示用の画像データ等が記憶される。
制御部10は、医用画像処理装置1の全体を制御するとともに、医用画像処理装置1が実行しようとする各種の処理を実行する。
制御部10は、処理対象となる医用画像データに対して、少なくとも二つの異なる種類の処理を含む第1の処理を実行する第1の処理機能100と、第1の処理機能100が実行する第1の処理のパラメータを設定するパラメータ設定機能300とを有する。具体的には、制御部10は、第1の処理機能100により、医用画像データに対して、少なくとも二つの異なる種類の処理を含む第1の処理を実行し、第1の処理の処理結果に対して、空間的に処理の範囲を絞り込むように調整された第1の処理を実行することにより、医用画像データにおける対象領域を表す画像を取得する。ここで、空間的に処理の範囲を絞り込む調整は、例えば、パラメータ設定機能300がパラメータを調整することによって実現される。
また、制御部10は、さらに第2の処理機能200を有してもよい。制御部10は、調整された第1の処理を実行する前に、第2の処理機能200により、実行済みの第1の処理の処理結果に対して、第2の処理を実行し、第2の処理の処理結果に対して、調整された第1の処理を実行し、当該調整された第1の処理の処理結果に基づいて、医用画像データにおける対象領域を表す画像を取得する。
以下、図2を用いて、本実施形態に係る医用画像処理装置1が実行する処理について詳細に説明する。
図2は、第1の実施形態に係る医用画像処理装置1が実行する処理を示すフローチャートである。
図2に示すように、まず、ステップS1において、処理対象となる医用画像データが医用画像処理装置1に入力される。
続いて、ステップS100において、制御部10は、第1の処理機能100により、医用画像データに対して、少なくとも二つの異なる種類の処理を含む第1の処理を実行する。なお、図示されていないが、ステップS100において、制御部10は、第1の処理を実行する前に、パラメータ設定機能300により、第1の処理のパラメータを設定してもよい。図2では、上述した「少なくとも二つの異なる種類の処理を含む第1の処理」の例として、処理A~処理Nで構成された、医用画像データに対する複数の種類の処理を示している。ここで、処理A~処理Nの順序は固定であるが、処理A~処理Nの処理内容や処理A~処理Nの数はいずれも一例であり、処理A~処理Nの一部が全く同じ処理であってもよいし、パラメータの異なる同種の処理を含んでもよい。すなわち、本実施形態における第1の処理は、医用画像処理に対する少なくとも二つの異なる種類の処理を含んでいれば、他の処理であってもよい。
続いて、ステップS200において、制御部10は、第2の処理機能200により、第1の処理の処理結果に対して、第2の処理を実行する。なお、図2では、第2の処理として、情報の増強及び融合を行う情報増強処理を示しているが、情報増強処理はあくまで一例であり、本実施形態における第2の処理は、他の処理であってもよい。
ここで、図2に示す例は好ましい実施形態であり、ステップS200を実行するが、ステップS200は必須の処理ではなく、省略されてもよい。すなわち、ステップS100が実行された後に、続いて、ステップS300が実行されてもよい。その場合には、ステップS300において、制御部10は、第1の処理機能100により、第1の処理の処理結果に対して、空間的に処理の範囲を絞り込むように調整された第1の処理を実行する。ここで、第1の処理の調整は、例えば、パラメータ設定機能300がパラメータの調整を行うことによって実現される。こうして調整された第1の処理は、具体的には、調整される前の第1の処理より精確な結果が得られるように、空間的に処理の範囲を絞り込むように調整されたものとなる。図2では、調整された第1の処理を処理A’~処理N’として示している。ここで、処理A’~処理N’は、処理A~処理Nと比べて、空間的に処理の範囲が縮小されるように調整されたものである。この調整は、パラメータの調整によって実現されてもよいし、アルゴリズムに関する調整や入力データの更新等によって実現されてもよい。また、処理A’~処理N’の処理順序は、処理A~処理Nの処理順序と同じである。
一方、ステップS200を実行する好ましい実施形態の場合には、ステップS300において、制御部10は、第1の処理機能100により、第2の処理の処理結果に対して、空間的に処理の範囲を絞り込むように調整された第1の処理を実行する。すなわち、制御部10は、まず、ステップS200において、第2の処理機能200により、第1の処理の処理結果に対して、情報増強処理を実行し、その後、ステップS300において、第1の処理機能100により、情報増強処理された第1の処理の処理結果に対して、空間的に処理の範囲を絞り込むように調整された第1の処理を実行する。
そして、ステップS300の後に、制御部10は、調整された第1の処理の処理結果に基づいて、医用画像データにおける対象領域を表す画像を取得する。ここで、処理A~処理N(又は、処理A’~処理N’)は、複数の種類の処理で構成された組み合わせ処理に該当し、上述したように、ステップS100及びS300によって、複数の種類の処理で構成された組み合わせ処理が2回、粗から精へ実行される。これにより、より精確な形態学的計測結果が得られる。
続いて、ステップS400において、制御部10は、さらに第2の処理機能200を動作させることにより、ステップS300の処理結果に対して、再度、情報増強処理を実行し、さらに第1の処理機能100を動作させることにより、再度実行された情報増強処理の処理結果に対して、再度、調整された第1の処理を実行するようにしてもよい。ここで、再度実行される第1の処理は、例えば、処理A’’~処理N’’として表すことができ、前の2回の第1の処理と比べて、空間的に処理の範囲がさらに縮小されるように調整されたものである。この調整は、例えば、再度実行された第2の処理の処理結果等に基づいて、同様にパラメータの調整を行うことによって実現されてもよい。なお、ステップS400に示す第2の処理及び調整された第1の処理を順次に繰り返し実行する手順は、より精確な形態学的計測結果を得るために、必要に応じて複数回繰り返して反復されてもよい。そのため、図2では、ステップS400に対応する処理手順を省略符号で示している。
なお、第1の処理に対するパラメータの設定については、粗から精へ実行される処理の処理結果に対する要求に応じて、事前に行われた実験やフィードバック等に基づいて行われてもよいし、例えば、第2の処理及び第1の処理を繰り返し実行する繰り返し回数等の他の要因に応じて適宜に調整されてもよい。また、第1の処理の調整は、パラメータの調整によって実現されてもよいが、例えば、アルゴリズムに関する調整や入力データの更新によって実現されてもよいし、これらの任意の組み合わせによって実現されてもよい。
また、上述したように、ステップS100~S300によれば、複数の種類の処理で構成された組み合わせ処理が2回、粗から精へ実行されることで、より精確な形態学的計測結果が得られる。そのため、ステップS400は必須の処理ではなく、省略されてもよい。
続いて、ステップS500において、制御部10は、上述した各ステップで取得された情報を用いて、取得された対象領域を表す画像に対して修正処理を実行するようにしてもよい。なお、この修正処理は、取得された画像が後続の処理により適するようにするためのものであり、本実施形態において必須の処理ではない。
続いて、ステップS600において、制御部10は、修正処理によって修正された画像を用いて、形態学的計測を実行する。
本実施形態によれば、医用画像データに対して、複数の種類の処理で構成された組み合わせ処理を粗から精へ実行することで、より精確な形態学的計測結果が得られる。
以下、図3~図7Cを用いて、本実施形態に係る医用画像処理装置1が実行する処理について、心臓弁を例にして詳細に説明する。
図3は、第1の実施形態に係る医用画像処理装置1が実行する心臓弁検出処理の一例の処理フロー及び処理結果を示す図である。
図3に示すように、まず、ステップS1において、処理対象となる心臓の医用画像データにおける元のボリューム領域が医用画像処理装置1に入力される。
続いて、ステップS100において、制御部10は、第1の処理機能100により、第1の処理として、二つの異なる種類の処理で構成された組み合わせ処理を実行する。すなわち、制御部10は、第1の処理機能100により、第1の処理として、医用画像データに対してランドマーク(landmark)検出処理を実行し(ステップS101)、ランドマーク検出処理の処理結果に基づいて、対象領域のセグメンテーション(segmentation)処理を実行する(ステップS102)。
具体的には、ステップS101において、制御部10は、第1の処理機能100により、心臓の医用画像データにおける元のボリューム領域に対して、ランドマーク粗検出処理を実行する。例えば、制御部10は、第1の処理機能100により、交連点、尖底、左冠動脈入口点(left coronary ostium)及び右冠動脈入口点(right coronary ostium)のような、ユーザが定義した解剖学的ランドマークを大まかに位置決めして検出する。
また、ステップS102において、制御部10は、第1の処理機能100により、ステップS101で検出されたランドマークを用いて、処理対象のセグメンテーション処理を実行する。例えば、制御部10は、第1の処理機能100により、ステップS101で検出された大まかに位置決めされた解剖学的ランドマークを用いて、大動脈基部のセグメンテーション処理を実行することにより、大動脈基部のマスク(mask)画像を取得する。このマスク画像は、例えば、バルサルバ(Valsalva)洞(Sinus Of Valsalva:SOV)、左室流出路(Left Ventricular Outflow Tract:LVOT)、上行大動脈(Ascending AOrta:AAO)及び関連する交連点を含む。
なお、ステップS101における具体的な解剖学的ランドマーク、及び、ステップS102における大動脈基部のマスク画像は、一例であり、固定されたものではなく、必要に応じて変更されてもよい。
続いて、ステップS200において、制御部10は、第2の処理機能200により、第2の処理として、第1の処理の処理結果に対して情報増強処理を実行する。すなわち、制御部10は、第2の処理機能200により、第2の処理として、ステップS101で検出された大まかに位置決めされた解剖学的ランドマーク及びステップS102で取得された大動脈基部のセグメンテーション結果に基づいて領域制限を行うことで、より精確な関心ボリューム(Volume Of Interest:VOI)を取得する。ここで、領域制限は、情報増強処理の一例であり、例えば、ステップS100で取得されたセグメンテーション結果画像に対してクロッピング処理を実行することである。しかしながら、情報増強処理はクロッピング処理に限定されるものではなく、情報報増強処理の詳細については、図6A及び図6Bを用いて後述する。
なお、ステップS200において、例えば、取得されたランドマーク及びマスク画像が一致するか否かのチェックのような、より多くの処理を行ってもよい。ここで、上述したように、ステップS200は必須の処理ではなく、省略されてもよい。
続いて、ステップS300において、制御部10は、第1の処理機能100により、第2の処理の処理結果に対して、空間的に処理の範囲を絞り込むように調整された第1の処理を実行し、調整された第1の処理の処理結果に基づいて、医用画像データにおける対象領域である心臓弁を示す画像を取得する。すなわち、制御部10は、第1の処理機能100により、再度実行される調整された第1の処理として、第2の処理の処理結果である情報増強処理された医用画像データに対してランドマーク精検出処理を実行し(ステップS301)、ランドマーク精検出処理の処理結果に基づいて、より精確なセグメンテーション、例えば、大動脈弁のセグメンテーション処理を実行する(ステップS302)。
具体的には、ステップS301において、制御部10は、第1の処理機能100により、ステップS200で情報増強処理された新たな形態学的情報を用いて、より精確な解剖学的ランドマークを位置決めして検出し、ステップ302において、ステップS200で情報増強処理された新たな形態学的情報及びステップS301で取得された精確な解剖学的ランドマークを用いて、例えば、大動脈弁のセグメンテーション処理を実行することにより、3枚の弁尖を含む大動脈弁のマスク画像を取得する。
上述したように、ステップS300で実行される処理は、処理の内容は第1の処理と同様であるが、処理のパラメータが、ステップS100の処理より精確な結果が得られるように、第2の処理の処理結果に基づいて、空間的に処理の範囲を絞り込むように調整されたものである。なお、ステップS100及びステップS300の処理手順の詳細については、図4A~図4Cを用いて後述する。
以上、本実施形態に係る医用画像処理装置1によれば、ステップS100~S300により、ランドマーク検出処理とセグメンテーション処理とで構成された組み合わせ処理が2回、粗から精へ実行されることで、大動脈弁のより精確なセグメンテーション画像及びより精確な形態学的計測結果が得られる。
なお、図3でも、図2と同じく、ステップS300の後に好ましい実施形態として実行されるステップS400を省略符号で示している。すなわち、ステップS300の後に、ステップS400において、制御部10は、第2の処理機能200により、第2の処理として、再度、情報増強処理を実行し、再度実行された情報増強処理の処理結果に対して、再度、第1の処理として、ランドマーク検出処理及びセグメンテーション処理の組み合わせを実行するようにしてもよい。こうした再度の処理の実行は複数回繰り返されてもよく、より精細な処理を繰り返すことで、より精確な対象領域を表す画像が得られる。
続いて、ステップS500において、制御部10は、上述した各ステップで得られた情報を用いて、取得された心臓弁の画像に対して修正処理を実行する。なお、ここでいう修正処理は、取得された心臓弁の画像が後続の処理、例えば、計測処理により適するようにするためのものであり、本実施形態において必須の処理ではない。なお、修正処理の詳細については、図7A~図7Cを用いて後述する。
続いて、ステップS600において、制御部10は、修正処理によって修正された心臓弁の画像を用いて、例えば、弁尖の自由端の長さ/弁と血管壁との接続箇所の幾何学的な長さ/高さ等のような、TAVIの手術計画に必要ないくつかの重要な項目を計測することで、TAVI用の形態学的計測を実行する。
以下、図4A~図4Cを用いて、上述したステップS100、ステップS200、ステップS300の処理手順の詳細について説明する。
図4Aは、第1の実施形態に係る医用画像処理装置1における第1の処理機能100がステップS100において実行する第1の処理の一例を説明するための図である。
まず、ステップS101において、第1の処理機能100は、ランドマーク粗検出処理を実行する。この処理は、例えば、従来の深層学習ニューラルネットワーク(例えば、3D空間構成ネットワーク(SCN))を利用して、実現することができる。この深層学習ニューラルネットワークの入力は、例えば、心臓全体の画像を含む元のボリューム領域(図4A中の(a))であり、出力は、例えば、心臓の解剖形態学における臨床上で重要なランドマーク(図4A中の(b))である。例えば、対象領域が大動脈弁である場合に、出力は、左冠尖最下点(LCC nadir point)、右冠尖最下点(RCC nadir point)、無冠尖最下点(NCC nadir point)、無冠尖-左冠尖の交連点(N-L commissure point)、右冠尖-左冠尖の交連点(R-L commissure point)、無冠尖-右冠尖の交連点(N-R commissure point)、右冠動脈入口点(Right coronary ostium)、左冠動脈入口点(Left coronary ostium)という八つの特徴点のうちの少なくとも一つである。このステップで実行されるランドマーク粗検出は、心臓弁の構造を含む領域を大まかに位置決めして検出するものである。そのため、このステップで用いられる深層学習ニューラルネットワークのパラメータ等の設定には、高い検出精度は要求されないが、速さという時間的性能が必要となる。それにより、VOIを迅速に絞込み、次の処理のための準備を行うことができる。当然ながら、上述したランドマーク検出処理は一例であり、対象となる画像データから所定のランドマークを検出できれば、どのような方法であってもよい。例えば、ユーザがGUI(Graphical User Interface)を用いて手動でランドマークの位置を指定する方法であってもよい。
続いて、ステップS102において、第1の処理機能100は、ランドマークを用いて、大動脈基部のセグメンテーション処理を実行する。この処理は、例えば、従来の深層学習ニューラルネットワーク(例えば、3D UNET)を利用して、実現することができる。この深層学習ニューラルネットワークによって、入力データにおける対象領域と対象領域以外の領域とを分割することができる。本実施形態では、入力される画像データを構成する各画素を、大動脈基部に対応する画素と、それ以外の画素とに分割する。本実施形態では、ステップS101におけるランドマーク粗検出によって、より精確かつより小さなVOI領域を位置決めして検出することができ、その上でセグメンテーション処理を行うことによって、セグメンテーションの性能を向上させることができる。ここで、ステップS102における深層学習ニューラルネットワークの入力は、ランドマーク粗検出処理によって得られた医用画像データであり、出力は、VOI領域内部の大動脈基部のマスク画像である(図4A中の(d))。当然ながら、上述したセグメンテーション処理は一例であり、対象となる画像データから所定の領域をセグメンテーションすることができれば、どのような方法であってもよい。例えば、ユーザがGUIを用いて手動で大動脈基部に対応する全ての画素を指定する方法であってもよいし、二値化処理やグラフカット(graph cut)処理のような既知のセグメンテーション処理が用いられてもよい。
ここで、本実施形態では、図4A中の(b)に示すステップS101のランドマーク粗検出処理と、図4A中の(d)に示すステップS102の大動脈基部のセグメンテーション処理との間で、図4A中の(c)に示す強化処理が実行されてもよい。つまり、本実施形態では、第1の処理機能100は、ランドマーク検出処理の処理結果に基づいて、医用画像データに対して強化処理を実行した後に、セグメンテーション処理を実行するようにしてもよい。
図4A中の(c)は、強化処理として、ランドマーク検出処理によって検出されたランドマークに基づいて、医用画像データに対してクロッピング処理を実行する場合の例を示している。図4Aに示す例では、ステップS102における深層学習ニューラルネットワークの入力は、大まかなランドマークによって定義された境界枠に基づいてクロッピング処理が行われた医用画像データであり、出力は、クロッピング処理によりクロッピングされたVOI領域内部の大動脈基部のマスク画像である。
なお、図4Aでは、第1の処理におけるランドマーク検出処理とセグメンテーション処理との間に行われる強化処理について、クロッピング処理を例として示しているが、強化処理はクロッピング処理に限定されるものではなく、強化処理の詳細については、図5を用いて後述する。
図4Bは、第1の実施形態に係る医用画像処理装置1における第2の処理機能200がステップS200において実行する情報増強処理の一例を説明するための図である。
ステップS200において、第2の処理機能200は、ステップS100における大まかなランドマーク検出結果又は大動脈基部セグメンテーション結果に基づいて、情報増強処理を実行する。例えば、第2の処理機能200は、情報増強処理として、ROI(region of interest:関心領域)の面積制限(以下、ROI制限と呼ぶ)を行うことで、ステップS100の処理結果におけるより精確なVOI領域を取得する。図4B中の(a)は、大まかなランドマーク検出結果に基づいてROI制限を行うことで、大まかな解剖学的ランドマークに基づいて境界枠を算出し、当該境界枠に基づいてステップS100の処理結果に対してクロッピング処理を行う例を示している。また、図4B中の(b)は、大動脈基部セグメンテーション結果に基づいてROI制限を行い、大動脈基部のマスク画像に基づいて境界枠を算出し、当該境界枠に基づいて画像に対してクロッピング処理を行う例を示している。
ここで、大動脈基部マスク画像の境界はいくつかの解剖学的ランドマークに近いため、大動脈基部のマスク画像の境界枠を利用する場合には、それらのランドマークの情報が失われることを防ぐため、外側により大きな領域となるように拡張しておくのが好ましい。しかし、大動脈基部のマスク画像の範囲は小さいため、大まかな解剖学的ランドマークに基づいて算出された境界枠を用いたクロッピング処理よりも、大動脈基部のマスク画像に基づいて算出された境界枠を用いたクロッピング処理の方がより好ましい。
なお、図4Bは、第2の処理機能200が実行する情報増強処理について、ROI制限を例として示しているが、情報増強処理はROI制限に限定されるものではなく、情報増強処理の詳細については、図6A及び図6Bを用いて後述する。
図4Cは、第1の実施形態に係る医用画像処理装置1における第1の処理機能100がステップS300において実行する調整された第1の処理の一例を説明するための図である。
まず、ステップS301において、第1の処理機能100は、ランドマーク精検出処理を実行する。この処理は、ステップS101におけるランドマーク粗検出処理と同様のニューラルネットワークを用いて実現することができるが、その入力は、空間的に処理の範囲を絞り込むように、かつ、より精確なランドマーク検出が行われるように更新されたVOI領域であり、モデルパラメータは、パラメータ設定機能300により更新されたものであってもよい。例えば、このニューラルネットワークの入力は、ステップS200で取得された精確なVOI領域を利用してクロッピングされたサブボリューム領域の画像である。図4Bの例では、この入力は、大まかなランドマーク検出結果に基づいてROI制限を行った結果、又は、大動脈基部セグメンテーション結果に基づいてROI制限を行った結果となる。また、このニューラルネットワークの出力は、例えば、ステップS101と同様に、上述した心臓の解剖形態学における臨床上で重要なランドマーク(図4C中の(b))である。ステップ301におけるランドマーク精検出は、より精確なボリューム領域及び更新されたモデルパラメータを用いることによって、ランドマークとなる心臓弁の構造を含む領域をより精確に位置決めして検出することができる。
続いて、ステップS302において、第1の処理機能100は、精確なランドマークを用いて、心臓弁のセグメンテーション処理を実行する。この処理は、ステップS102における大動脈基部セグメンテーション処理と同様のニューラルネットワークを用いて実現することができるが、その入力は、空間的に処理の範囲を絞り込むように、かつ、より精確な心臓弁のセグメンテーションが行われるように更新されたVOI領域であり、モデルパラメータは、パラメータ設定機能300により更新されたものであってもよい。また、このニューラルネットワークの出力は、例えば、VOI領域内部の心臓弁のマスク画像である(図4C中の(d))。なお、ステップS102では、入力される画像データを構成する各画素を、大動脈基部に対応する画素と、それ以外の画素との二つに分割することとしたが、ステップS302では、入力される画像データを構成する各画素を、右冠尖に対応する画素と、左冠尖に対応する画素と、無冠尖に対応する画素と、それら以外の画素との四つに分割する。
ここで、本実施形態では、ステップS100におけるランドマーク粗検出処理と大動脈基部セグメンテーション処理との間で強化処理が実行されてもよいことと同様に、ステップS300におけるランドマーク精検出処理と心臓弁セグメンテーション処理との間で強化処理が実行されてもよい(図4C中の(c))。この強化処理は、ステップS100における強化処理をそのまま適用することができるため、その詳細については説明を省略する。
以下、図5A及び図5Bを用いて、上述した強化処理の変形例について説明する。
図5A及び図5Bは、第1の実施形態に係る医用画像処理装置1における第1の処理機能100が実行する強化処理の変形例を説明するための図である。
具体的には、強化処理は、ステップS101又はS301で検出されたランドマークに基づいて、セグメンテーション処理のニューラルネットワーク(以下、セグメンテーションニューラルネットワークと呼ぶ)で処理すべき画像のクロッピング処理のための境界枠を提供するだけではなく、他の側面から、セグメンテーション処理の性能を向上させるために利用されてもよい。例えば、図5Aに示すように、ランドマーク検出処理によって検出されたランドマークのヒートマップを生成し、当該ヒートマップを、セグメンテーションニューラルネットワークの別の入力チャネルとして、セグメンテーションニューラルネットワークで処理すべき画像と共にセグメンテーションニューラルネットワークに入力するようにしてもよい。ここで、図5Aに示す変形例は、主に、セグメンテーションニューラルネットワークの深層学習の推論過程に適用される。こうして、セグメンテーションニューラルネットワークのチャネルを増やすことによって、セグメンテーションニューラルネットワークに入力される解剖学的ランドマークの情報を増やすことができる。これにより、より多くの解剖学的ランドマークの情報をセグメンテーション処理の結果に含めることができるようになり、セグメンテーション処理の性能を向上させることができる。
また、図5Bに示すように、ランドマーク検出処理によって検出されたランドマークのヒートマップを生成した後に、当該ヒートマップを、セグメンテーションニューラルネットワークの内部損失関数とするようにしてもよい。これにより、例えば、ランドマークの領域の近傍に他の領域より大きな重みを与えてアンダーセグメンテーション(under-segmentation)を低減させることによって、セグメンテーション処理の性能を向上させることができる。ここで、図5Bに示す変形例は、主に、セグメンテーションニューラルネットワークの深層学習のトレーニング過程に適用される。
なお、上述した強化処理は必須の処理ではない。また、本実施形態では、強化処理として、図4Aに示すクロッピング処理と図5A及び図5Bに示す変形例とを任意に選択して使用してもよいし、組み合わせて使用してもよい。すなわち、本実施形態では、強化処理は、ランドマーク検出処理によって検出されたランドマークに基づいて、医用画像データに対してクロッピング処理を行うこと、ランドマーク検出処理によって検出されたランドマークのヒートマップを、チャネルとしてセグメンテーションニューラルネットワークに入力すること、ランドマーク検出処理によって検出されたランドマークのヒートマップをセグメンテーションニューラルネットワークの損失関数とすることの少なくとも一つを含む。
以下、図6A及び図6Bを用いて、上述した情報増強処理の変形例について説明する。
図6A及び図6Bは、第1の実施形態に係る医用画像処理装置1における第2の処理機能200が実行する情報増強処理の変形例を説明するための図である。
本実施形態における情報増強処理によれば、幾何学的変換又は幾何学的制約を適用して処理対象をより認識しやすくすることができる。図6Aは、断面変換を例にして、幾何学的変換によって、大動脈弁のセグメンテーション結果に対して情報増強処理を行った例を示している。図6Aに示すように、心臓弁の独特な形態学的特徴に対して、例えば、大動脈弁がその断面方向にみて三つの弁尖を有する形状であることを考慮すると、例えば、既存のアキシャル断面像又はサジタル断面像又はコロナル断面像がクロッピング処理された結果では対象を認識しにくい場合があり得る。その場合に、例えば、取得されたランドマークを用いて、幾何学的変換として断面変換を行うことで、既存のアキシャル断面像又はサジタル断面像又はコロナル断面像を、弁をより容易に認識可能な断面像、例えば大動脈の断面像に変換することによって、情報増強の效果を得ることができる。
また、図6Bは、形状制限を例にして、幾何学的制約によって、大動脈弁のセグメンテーション結果に対して情報増強処理を行った例を示している。図6Bに示すように、心臓弁の独特な形態学的特徴に対して、例えば、正常弁、石灰化弁、収縮/拡張のみがある単一時相の弁のそれぞれの形態学的特徴を考慮すると、弁ラベル等により図6Bの左側、中間、右側に示すような正常弁、石灰化弁、単一時相弁の形状制限をそれぞれ反映するテンプレート画像を事前に取得し、処理すべき対象が正常弁、石灰化弁、単一時相弁のいずれであるかに基づいて、対応する形状制約テンプレート画像をネットワークモデルに入力することで、トレーニング性能を向上させて、必要以上なオーバーセグメンテーションを回避することができる。このような形状制限を、例えば、ステップS100の結果に適用することによって、情報増強の效果を得ることができ、後続の処理、例えば、ステップS300の処理のための準備を行うことができる。
また、ステップS200における情報増強処理として、従来のグレースケール情報による制約、形態学的制約等を採用してもよい。例えば、情報増強処理は、ステップS100で取得された既存の特徴を利用して情報の抽出、増強及び融合を行うことによって、ステップS200で処理された形態学的情報が、後続の処理、例えば、ステップS300の処理の精確性を向上させることができるようにするものであればよい。要するに、ステップS200の情報増強処理は、ROI制限、幾何学的変換、幾何学的制約、グレースケール情報による制約、形態学的制約等により実現され得る。
また、本実施形態では、図4BにおけるROI制限と図6A、図6Bにおける情報増強処理の変形例とを任意に選択して使用してもよいし、組み合わせて使用してもよい。すなわち、本実施形態では、第2の処理機能200は、ROI制限、幾何学的変換、幾何学的制約、グレースケール情報による制約、形態学的制約の少なくとも一つを行うことにより、情報増強処理を実行する。
以下、図7A~図7Cを用いて、上述した修正処理の詳細について説明する。
図7Aは、第1の実施形態に係る医用画像処理装置1が実行する修正処理の一例を説明するためのフローチャートである。また、図7B及び図7Cは、第1の実施形態に係る医用画像処理装置1が実行する修正処理の処理手順を説明するための模式図である。
本実施形態では、例えば、ステップS300のランドマーク検出及び心臓弁セグメンテーションが完了した後に、精確なランドマーク、大動脈基部のマスク画像、及び、例えば、三つの弁尖を有する大動脈弁のマスク画像が得られる。本実施形態では、続いて、これらの情報を利用してステップS500の修正処理を実行することによって、例えば、心臓弁の形態を修正することができる。
図7Aに示すように、本実施形態における修正処理は、例えば、次の三つのステップを含んでもよい。まず、ステップS501において、制御部10は、セグメンテーション結果から最大連結成分を抽出し、後続の処理のための準備を行う。後続の処理は、抽出された最大連結成分を処理対象とする。ここで、セグメンテーション結果の画像の内部、特に、心臓弁の近傍には穴が存在する可能性がある。そのため、ステップS502において、制御部10は、最大連結成分における心臓弁上の穴を充填する。また、ステップS100及びS300では2回に分けてセグメンテーション処理が行われるため、大動脈基部と心臓弁とのセグメンテーション結果が一致しない可能性がある。例えば、心臓弁の縁部(挿入領域)にアンダーセグメンテーションが発生し得るため、例えば、バルサルバ洞の内部及び心臓弁の縁部(挿入領域)が血管壁に繋がっていない可能性があり、このような弁縁部と血管壁との離脱は明らかに臨床知識に合致しない。そのため、ステップS503において、制御部10は、大動脈基部及び弁のセグメンテーション結果の画像を一致させるように、弁縁部を血管壁まで拡張する。
また、図7B及び図7Cは、ステップS502における穴の充填及びステップS503における縁部の拡張の手順を、それぞれ、アキシャル断面図、サジタル断面図、コロナル断面図で示している。
なお、上述した修正処理における最大連結成分の抽出は、従来の最大連結成分を探索する方法で実現することができる。また、穴の充填及びセグメンテーション結果の画像の拡張についても、従来の画像処理方法で実現することができる。そのため、これらの処理については、ここでは詳細な説明を省略する。
上述したように、第1の実施形態に係る医用画像処理装置1によれば、医用画像データに対して、複数の種類の処理で構成された組み合わせ処理を繰り返し実行することにより、各処理単位において、一つ前の特徴抽出が少なくとも何等かの点で次の特徴抽出をガイド及び補助することができ、その結果、より良好な性能が得られる。このように、複数回の特徴抽出を繰り返し適用することによって、精確な形態学的情報を粗から精へ段階的に生成することができ、特に、心臓弁のような複雑な対象、及び、心臓弁の石灰化の形態構造及び不完全な形態構造等の複雑な状況において、より良好な性能が得られる。
また、二つの処理単位の間に情報増強処理を行って形態学的情報を修正することにより、処理の精度を粗から精へ徐々に向上させるように担保することができる。
以上、第1の実施形態を説明したが、本願が開示する技術は、上述した第1の実施形態以外にも、種々の異なる形態にて実施することが可能である。
(第2の実施形態)
例えば、上述した第1の実施形態では、第1の処理機能100が実行する第1の処理にランドマーク検出処理及びセグメンテーション処理という二つ種類の処理が含まれている場合の例を説明したが、実施形態はこれに限られない。例えば、第1の処理に、三つ以上の種類の処理が含まれていてもよい。以下、図8を用いて、第1の処理が三つの種類の処理を含む場合の例を第2の実施形態として説明する。
例えば、上述した第1の実施形態では、第1の処理機能100が実行する第1の処理にランドマーク検出処理及びセグメンテーション処理という二つ種類の処理が含まれている場合の例を説明したが、実施形態はこれに限られない。例えば、第1の処理に、三つ以上の種類の処理が含まれていてもよい。以下、図8を用いて、第1の処理が三つの種類の処理を含む場合の例を第2の実施形態として説明する。
図8は、第2の実施形態に係る医用画像処理装置1が実行する心臓弁検出処理の一例を示すフローチャートである。なお、第2の実施形態の説明では、上述した第1の実施形態との相違点を中心に説明することとし、第1の実施形態と重複する内容については詳細な説明を省略する。
図8に示すように、第2の実施形態に係る医用画像処理装置1では、制御部10は、第1の処理機能100により、ランドマーク検出処理(ステップS101、S301)及びセグメンテーション処理(ステップS102、S302)に加え、石灰化弁分類処理(ステップS103、S303)を含む第1の処理(ステップS100、S300)を実行する。つまり、本実施形態では、第1の処理機能100が実行する第1の処理は、ランドマーク検出、石灰化弁分類、セグメンテーションという三つ種類の処理で構成された組み合わせ処理である。
第2の実施形態の処理フローは、第1の実施形態と比較して、石灰化弁分類処理が追加されており、制御部10は、第1の処理機能100により、セグメンテーション処理に先立って、ランドマーク検出処理の処理結果に基づいて処理対象が石灰化弁であるか正常弁であるかを分類する。この追加された処理手順は、より精確なセグメンテーションに寄与する。例えば、ユーザは、石灰化弁及び正常弁に対する二つの個別のセグメンテーションモデルをトレーニングし、分類結果に基づいて、それぞれのデータを異なるセグメンテーションモデルに入力することができる。これにより、第2の実施形態は、第1の実施形態の効果に加えて、トレーニング中に生じるデータのアンバランス問題を防止し、より良好なセグメンテーション効果を得ることができるという有益な技術的効果を奏する。
なお、図8では、第1の実施形態のステップS400に対応する繰り返し実行されるステップが示されていないが、第2の実施形態の処理フローでも、第1の実施形態と同様に、ステップS300の後に、1回又は複数回の粗から精への第2の処理及び第1の処理をさらに繰り返すことによって、より良好な結果を得ることができることは明らかである。
(第3の実施形態)
また、例えば、上述した第1の実施形態では、第1の処理機能100がランドマーク検出処理及びセグメンテーション処理という二つ種類の処理で構成された組み合わせ処理を実行する場合の例を説明したが、実施形態はこれに限られない。例えば、第1の処理機能100は、ランドマーク検出及びセグメンテーション以外の他の処理で構成された組み合わせ処理を実行するようにしてもよい。以下、図9を用いて、第1の処理機能100がランドマーク検出及びセグメンテーション以外の他の組み合わせ処理を実行する場合の例を第3の実施形態として説明する。
また、例えば、上述した第1の実施形態では、第1の処理機能100がランドマーク検出処理及びセグメンテーション処理という二つ種類の処理で構成された組み合わせ処理を実行する場合の例を説明したが、実施形態はこれに限られない。例えば、第1の処理機能100は、ランドマーク検出及びセグメンテーション以外の他の処理で構成された組み合わせ処理を実行するようにしてもよい。以下、図9を用いて、第1の処理機能100がランドマーク検出及びセグメンテーション以外の他の組み合わせ処理を実行する場合の例を第3の実施形態として説明する。
図9は、第3の実施形態に係る医用画像処理装置1が実行する心臓弁検出処理の一例を示すフローチャートである。なお、第3の実施形態の説明では、上述した第1、第2の実施形態との相違点を中心として説明することとし、第1、第2の実施形態と重複する内容については詳細な説明を省略する。
図9に示すように、第3の実施形態に係る医用画像処理装置1では、制御部10は、第1の処理機能100により、セグメンテーション処理(ステップS104、S304)及び血流推定処理(ステップS105、S305)を含む第1の処理(ステップS100、S300)を実行する。例えば、左心室と左心房との間の房室弁である僧帽弁に対して画像処理を行う場合、第3の実施形態に係る医用画像処理装置1では、まず、ステップS10において、1心拍周期分の動画像データが入力される。続いて、制御部10は、第1の処理機能100により、ステップS100の第1の処理として、まず、ステップS104において、入力された動画像データに対して、左心室のセグメンテーション処理を実行し、1心拍周期分の左心室のマスク画像をセグメンテーションし、その後、ステップS105において、血流推定処理を実行する。例えば、僧帽弁は、左心室と左心房との間に位置し、僧帽弁の近傍の血流速度は大きく変化する特徴を有するため、血流速度を推定することによって、僧帽弁が位置する領域を位置決めして検出することができる。ここで、ステップS105の血流推定処理は、処理の時間的性能が確保されるように、大まかな推定であってもよく、例えば、心室拡張期の左心室全体の血流速度のみを推定してもよい。例えば、拡張期では、僧帽弁が開き、血流は左心房から左心室へ流れるため、僧帽弁の周囲の血流速度の変化が大きくなるが、血流速度を推定することによって、僧帽弁が位置する領域をより速く位置決めして検出することができる。
続いて、第3の実施形態に係る医用画像処理装置1では、ステップS202において、制御部10は、第2の処理機能200により、第2の処理として、位置決め処理を実行する。具体的には、制御部10は、第2の処理機能200により、ステップS105における血流速度推定の結果に基づいて、左心室のセグメンテーション結果における左心室の中で血流速度の変化が最も大きな領域を位置決めして検出し、当該領域を、僧帽弁構造を含む領域とみなす。
そして、再度実行される調整された第1の処理(ステップS300)においても、同様に、セグメンテーション処理と血流推定処理との組み合わせ処理が実行されるが、ステップS100の処理と比べて、空間的に処理の範囲が絞り込まれた、より精確な処理が実行される。具体的には、まず、ステップS304において、制御部10は、第1の処理機能100により、ステップS202の位置決めによって範囲が絞り込まれた画像データに対して、僧帽弁のセグメンテーション処理を実行する。このとき、例えば、制御部10は、第1の処理機能100により、全ての時相に対して僧帽弁セグメンテーションを行ってもよい。その後、ステップS305において、制御部10は、第1の処理機能100により、ステップS105における左心室全体の大まかな血流速度推定とは異なり、僧帽弁のセグメンテーションの結果に基づいて、僧帽弁の近傍の血流速度のみについて精確な推定を行い、血流速度推定の結果基づいて、僧帽弁が位置する領域をより精確に位置決めして検出する。
なお、血流速度推定の方法は、これに限られるものではなく、既知の任意の手法で実現されてもよい。例えば、入力される医用画像データが超音波画像である場合は、ドップラー法に基づいて、超音波画像から血流の流体情報を取得するようにしてもよい。また、入力される医用画像データがMRI画像である場合は、MRI画像に対して既知の4次元流体解析(4次元フロー解析)を行うことによって、流体情報を取得するようにしてもよい。また、入力される医用画像データが複数時相の造影CT(Computed Tomography)画像である場合は、複数時相の造影CT画像で各位置におけるCT値の変化を解析することによって、流体情報を取得するようにしてもよい。また、例えば、既知のウインドケッセルモデルや脈波伝搬モデルに基づいて構築された生体(例えば、人体)の循環動態を模擬する電気回路モデルを用いて、ステップS105において、左心室や左心房の形態情報に基づいて流体情報を取得し、ステップS305において、左心室や左心房に加えて僧帽弁の形態情報に基づいて流体情報を取得するようにしてもよい。
上述した第3の実施形態によれば、医用画像データに対して、セグメンテーション処理及び血流推定処理で構成された組み合わせ処理を粗から精へ実行することによって、第1の実施形態と同様に、より精確な形態学的計測結果を得ることができる。
なお、図9では、第1の実施形態のステップS400に対応する繰り返し実行されるステップ、ステップS500に対応する修正ステップ及びステップS600に対応する計測ステップが示されていないが、第3の実施形態の処理フローでも、第1の実施形態と同様に、これらのステップを実行することによって、より良好な性能及び計測結果を得ることができることは明らかである。
(第4の実施形態)
また、例えば、上述した第1~第3の実施形態では、心臓、大動脈弁、僧帽弁を対象とした場合の例を説明したが、実施形態はこれに限られない。例えば、三尖弁等の他の心臓弁や、心臓以外の例えば肺が対象とされてもよい。以下、図10を用いて、肺を処理対象とした場合の例を第4の実施形態として説明する。
また、例えば、上述した第1~第3の実施形態では、心臓、大動脈弁、僧帽弁を対象とした場合の例を説明したが、実施形態はこれに限られない。例えば、三尖弁等の他の心臓弁や、心臓以外の例えば肺が対象とされてもよい。以下、図10を用いて、肺を処理対象とした場合の例を第4の実施形態として説明する。
図10は、第4の実施形態に係る医用画像処理装置1が実行する肺部検出処理の一例を示すフローチャートである。なお、第4の実施形態の説明では、上述した第1~第3の実施形態との相違点を中心に説明することとし、第1~第3の実施形態と重複する内容については詳細な説明を省略する。
図10に示すように、第4の実施形態に係る医用画像処理装置1では、制御部10は、第1の処理機能100により、ランドマーク検出処理(ステップS106、S306)及びセグメンテーション処理(ステップS107、S307)を含む第1の処理(ステップS100、S300)を実行する。ここで、本実施形態では、制御部10は、肺部の解剖形態学的特徴に基づいて、2回の第1の処理(ステップS100、S300)の後に、さらに、第2の処理及び第1の処理を順次に繰り返す(ステップS400)という3回の反復処理によって、さらに精確な形態学的計測結果を得る。
まず、ステップS30において、処理対象となる肺の医用画像データにおける元のボリューム領域が医用画像処理装置1に入力される。
続いて、ステップS100において、制御部10は、第1の処理機能100により、第1の処理として、医用画像データに対して主気管支のランドマーク検出処理を実行する(ステップS106)。その後、制御部10は、第1の処理機能100により、ステップS106で検出された主気管支のランドマークに基づいて、肺の粗セグメンテーション処理、例えば、左肺及び右肺のセグメンテーション処理を実行する(ステップS107)。ここで、主気管支は、第1レベルの気道に由来し、左肺の部分と右肺の部分とに分けられるため、第1の処理として主気管支のランドマーク検出処理及びセグメンテーション処理を行うことによって、左肺及び右肺を迅速に位置決めして検出することができる。
続いて、ステップS203において、制御部10は、第2の処理機能200により、第2の処理として、肺実質領域の位置決め及び情報増強処理を実行することで、後続の精確な処理のためにより精確なVOI領域を取得する。なお、ステップS203の処理は、ステップS200と同様の処理を採用することができるため、ここでは詳細な説明を省略する。
続いて、ステップS300において、制御部10は、第1の処理機能100により、再度実行される調整された第1の処理として、ステップS100、ステップS203の処理結果に基づいて、空間的に処理の範囲が絞り込まれた、精確なランドマーク検出処理及びセグメンテーション処理、例えば、主気管支と肺部領域とを組み合わせて、第2レベル以上の気道に由来する細気管支のランドマーク検出処理を実行する(ステップS306)。その後、制御部10は、第1の処理機能100により、ステップS306で検出された細気管支のランドマークに基づいて、精確なセグメンテーションを実行し、五つの肺葉のマスク画像を取得する(ステップS307)。
続いて、制御部10は、第2の処理及び第1の処理を順次に繰り返す(ステップS400)。
具体的には、ステップS204において、制御部10は、第2の処理機能200により、再度実行される第2の処理として、肺の解剖形態学に基づいて、肺葉領域の位置決め及び情報増強処理を行う。ここで、例えば、制御部10は、臨床特徴に基づいて、位置決めした肺葉領域を修正してもよい。例えば、制御部10は、一つの肺葉に属する細気管支を他の肺葉にセグメンテーションすることができないという特徴に応じて、肺葉領域を修正してもよい。
続いて、ステップS110において、制御部10は、第1の処理機能100により、再度実行される再調整された第1の処理として、ステップS100、ステップS203、ステップS300、ステップS204の処理結果に基づいて、空間的に処理の範囲が絞り込まれた、より精確なランドマーク検出処理及びセグメンテーション処理を実行する。例えば、各肺葉は独立したシステムであることを考慮すると、一つの肺葉の肺血管は、他の肺葉では検出されない。そのため、制御部10は、第1の処理機能100により、まず、ステップS111において、ステップS204で得られた各肺葉領域に基づいて肺血管のランドマークを検出し、その後、ステップS112において、検出された肺血管のランドマークに基づいて、肺セグメントのセグメンテーション処理を実行する。
続いて、ステップS500において、制御部10は、上述した各ステップで取得された情報を用いて、取得された肺セグメントの画像に対して修正処理を実行する。なお、この修正処理は、第1の実施形態と同様に、取得された肺セグメントの画像が後続の処理、例えば、計測処理(図10には図示せず)により適するようにするためのものであり、本実施形態において必須の処理ではない。
上述した第4の実施形態によれば、肺を対象とし、医用画像データに対して、複数の処理で構成された組み合わせ処理を粗から精へ実行することによって、第1の実施形態と同様に、より精確な形態学的計測結果を得ることができる。
(第5の実施形態)
また、例えば、上述した第1~第4の実施形態では、制御部10は、医用画像データに対して、少なくとも二つの異なる種類の処理を含む第1の処理を実行し、第1の処理の処理結果に対して、空間的に処理の範囲を絞り込むように調整された第1の処理を実行することとしたが、本願が開示する技術の実施形態はこれに限られない。
また、例えば、上述した第1~第4の実施形態では、制御部10は、医用画像データに対して、少なくとも二つの異なる種類の処理を含む第1の処理を実行し、第1の処理の処理結果に対して、空間的に処理の範囲を絞り込むように調整された第1の処理を実行することとしたが、本願が開示する技術の実施形態はこれに限られない。
例えば、制御部10は、第1の種類の処理を、空間的に処理の範囲を絞り込むように調整しながら複数回実行した後に、その処理結果に基づいて、第1の種類とは異なる第2の種類の処理を実行し、当該第2の種類の処理の処理結果に基づいて、空間的に処理の範囲をさらに絞り込むように調整された第1の種類の処理を実行するようにしてもよい。
以下、このような場合の例を第5の実施形態として説明する。なお、第5の実施形態の説明では、上述した実施形態との相違点を中心として説明することとし、上述した実施形態と重複する内容については詳細な説明を省略する。
本実施形態では、制御部10は、上述した実施形態と同様に、第1の処理機能100と、第2の処理機能200と、パラメータ設定機能300とを有する。
具体的には、制御部10は、第1の処理機能100により、医用画像データに対して第1の種類の処理を実行し、第1の種類の処理の処理結果に基づいて空間的に絞り込まれた範囲に対して更に第1の種類の処理を実行する。さらに、制御部10は、第1の処理機能100により、空間的に絞り込まれた範囲に対する第1の種類の処理の処理結果に対して第1の種類と異なる第2の種類の処理を実行し、空間的に絞り込まれた範囲に対する第1の種類の処理結果及び第2の種類の処理の処理結果に基づいて空間的に更に絞り込まれた範囲に対して更に第1の種類の処理を実行することにより、対象領域を抽出する。
図11は、第5の実施形態に係る医用画像処理装置1が実行する処理の一例の処理フロー及び処理結果を示す図である。
なお、ここでは、第1の種類の処理が、セグメンテーション処理であり、第2の種類の処理が、ランドマーク検出処理である場合の例を説明する。また、ここでは、医用画像データが、心臓の医用画像データであり、対象領域が、大動脈弁である場合の例を説明する。
図11に示すように、まず、ステップS1において、処理対象となる心臓の医用画像データが医用画像処理装置1に入力される。例えば、医用画像データとして、心臓のCT画像が医用画像処理装置1に入力される。
続いて、ステップS121において、制御部10は、第1の処理機能100により、ステップS1で入力された心臓の医用画像データに対して、大動脈基部(Aortic Root)のセグメンテーション処理を実行する。なお、図示されていないが、ステップS121において、制御部10は、セグメンテーション処理を実行する前に、パラメータ設定機能300により、セグメンテーション処理のパラメータを設定してもよい。
このとき、制御部10は、第1の処理機能100により、心臓の医用画像データに対してセグメンテーション処理を実行することで、大動脈基部の領域を大まかに抽出する。
例えば、制御部10は、第1の処理機能100により、深層学習ニューラルネットワークを利用して、大動脈基部のセグメンテーション処理を実行する。この深層学習ニューラルネットワークの入力は、例えば、心臓の全体を含む医用画像データであり、出力は、例えば、大動脈基部の大まかな領域に対応する画素の座標群である。ここで、深層学習ニューラルネットワークとしては、例えば、nnUNetフレームワークに基づくUNetベースの処理を用いることができる。
続いて、ステップS122において、制御部10は、第1の処理機能100により、ステップS121で実行されたセグメンテーション処理の処理結果に基づいて、空間的に処理の範囲を絞り込むように調整されたセグメンテーション処理を実行する。ここで、セグメンテーション処理の調整は、例えば、パラメータ設定機能300がパラメータの調整を行うことによって実現される。
このとき、制御部10は、第1の処理機能100により、空間的に処理の範囲を絞り込むように調整されたセグメンテーション処理を実行することによって、ステップS121で実行されたセグメンテーション処理と比べて、大動脈基部の領域を精密に抽出する。
具体的には、制御部10は、第1の処理機能100により、ステップS121で抽出された大動脈基部の大まかな領域に基づいて、医用画像データにおける大動脈基部の領域の周囲のみを切り取り、切り取った領域に対してセグメンテーション処理を実行することで、大動脈基部の領域をより精密に抽出する。
例えば、制御部10は、第1の処理機能100により、深層学習ニューラルネットワークを利用して、大動脈基部のセグメンテーション処理を実行する。この深層学習ニューラルネットワークの入力は、例えば、心臓の医用画像データにおける大動脈基部の領域の周囲のみが切り取られた画像であり、出力は、例えば、大動脈基部の領域に対応する画素の座標群である。ここで、深層学習ニューラルネットワークとしては、例えば、nnUNetフレームワークに基づくUNetベースの処理を用いることができる。
続いて、ステップS221において、制御部10は、第2の処理機能200により、ステップS122で実行されたセグメンテーション処理の処理結果に対して補正処理を実行する。
具体的には、制御部10は、第2の処理機能200により、ステップS122で抽出された大動脈基部の領域を画像処理によって補正する補正処理を実行する。なお、この補正処理は、セグメンテーション処理の処理結果が後続の処理により適するようにするためのものであり、本実施形態において必須の処理ではない。
続いて、ステップS123において、制御部10は、第1の処理機能100により、ステップS122で実行されたセグメンテーション処理の処理結果に対して、ランドマーク検出処理を実行する。
具体的には、制御部10は、第1の処理機能100により、ステップS221で補正された大動脈基部の領域に基づいて、医用画像データにおける大動脈基部の領域の周囲のみを切り取り、切り取った領域に対してランドマーク検出処理を実行することで、大動脈の解剖形態学における臨床上で重要なランドマークを検出する。
例えば、制御部10は、第1の処理機能100により、ランドマーク検出処理を実行することで、左冠尖最下点(LCC nadir point)、右冠尖最下点(RCC nadir point)、無冠尖最下点(NCC nadir point)、無冠尖-左冠尖の交連点(N-L commissure point)、右冠尖-左冠尖の交連点(R-L commissure point)、無冠尖-右冠尖の交連点(N-R commissure point)、右冠動脈入口点(Right coronary ostium)、左冠動脈入口点(Left coronary ostium)の八つの特徴点をそれぞれランドマークとして検出する。
ここで、最下点(Nadir点)とは、左室流出路(Left Ventricular Outflow Tract:LVOT)に最も近い位置に位置する弁尖上の点を意味する。また、交連点(commissure point)とは、各弁尖同士の交連部の位置の点を意味する。また、冠動脈入口点(coronary ostium point)点とは、右冠動脈 (Right Coronary Artery:RCA)と左冠動脈 (Left Coronary Artery:LCA)との夫々の入口部における最も左心室側(proximal side)に位置する点を意味する。
例えば、制御部10は、第1の処理機能100により、深層学習ニューラルネットワークを利用して、ランドマーク検出処理を実行する。この深層学習ニューラルネットワークの入力は、例えば、大動脈基部の領域の画像であり、出力は、例えば、左冠尖最下点、右冠尖最下点、無冠尖最下点、無冠尖-左冠尖の交連点、右冠尖-左冠尖の交連点、無冠尖-右冠尖の交連点、右冠動脈入口点、左冠動脈入口点の座標である。ここで、深層学習ニューラルネットワークとしては、例えば、Spatial Configuration-Net(SCN)を用いることができる。
続いて、ステップS124において、制御部10は、第1の処理機能100により、ステップS123で実行されたランドマーク検出処理の処理結果に基づいて、ステップS122で実行されたセグメンテーション処理の処理結果に対して、空間的に処理の範囲をさらに絞り込むように調整されたセグメンテーション処理を実行することにより、大動脈弁尖の領域を抽出する。ここで、セグメンテーション処理の調整は、例えば、パラメータ設定機能300がパラメータの調整を行うことによって実現される。
このとき、制御部10は、第1の処理機能100により、ステップS123で抽出されたランドマークに基づいて、空間的に処理の範囲をさらに絞り込むように調整されたセグメンテーション処理を実行することによって、ステップS122で抽出された大動脈基部の領域から大動脈弁尖の領域を抽出する。
具体的には、制御部10は、第1の処理機能100により、ステップS221で補正された大動脈基部の領域に基づいて、医用画像データにおける大動脈基部の領域の周囲のみを切り取り、切り取った領域に対してセグメンテーション処理を実行することで、大動脈弁尖の領域を抽出する。
例えば、制御部10は、第1の処理機能100により、セグメンテーション処理を実行することで、右冠尖(Right Coronary Cusp:RCC)、左冠尖(Left Coronary Cusp:LCC)、無冠尖(Non Coronary Cusp:NCC)の各領域を抽出する。
例えば、制御部10は、第1の処理機能100により、深層学習ニューラルネットワークを利用して、セグメンテーション処理を実行する。この深層学習ニューラルネットワークの入力は、例えば、心臓の医用画像データにおける大動脈基部の領域の周囲のみが切り取られた画像であり、出力は、例えば、右冠尖、左冠尖、無冠尖の各領域に対応する画素の座標群である。ここで、深層学習ニューラルネットワークとしては、例えば、nnUNetフレームワークに基づくUNetベースの処理を用いることができる。
続いて、ステップS222において、制御部10は、第2の処理機能200により、ステップS122、S124で実行されたセグメンテーション処理の処理結果、及び、ステップS123で実行されたランドマーク検出処理の処理結果に対して補正処理を実行する。
具体的には、制御部10は、第2の処理機能200により、ステップS122で抽出された大動脈基部の領域、ステップS124で抽出された大動脈弁尖の領域、ステップS123で検出されたランドマークの位置を画像処理によって補正する補正処理を行う。なお、この補正処理は、セグメンテーション処理及びランドマーク検出処理の処理結果が後続の処理、例えば、計測処理により適するようにするためのものであり、本実施形態において必須の処理ではない。
続いて、ステップS600において、制御部10は、セグメンテーション処理の処理結果及びランドマーク検出処理の処理結果に基づいて、形態学的計測を実行する。
具体的には、制御部10は、ステップS222で修正された大動脈基部の領域、大動脈弁尖の領域、ランドマークの位置に基づいて、上述した実施形態と同様に、形態学的計測を実行する。
なお、上述した例では、ステップS121において、医用画像データに対してセグメンテーション処理を実行した後に、ステップS122において、空間的に処理の範囲を絞り込むように調整されたセグメンテーション処理を1回実行することとしたが、本実施形態はこれに限られない。例えば、制御部10は、ステップS122において、順次、直前に実行されたセグメンテーション処理の処理結果に対して、空間的に処理の範囲を絞り込むように調整しながら、セグメンテーション処理を複数回実行してもよい。これにより、より精度の高い形態学的計測結果を得られるようになる。
なお、上述した例では、ステップS123及びS124において、ランドマーク検出処理及びセグメンテーション処理をそれぞれ1回実行することとしたが、本実施形態はこれに限られない。例えば、制御部10は、第1の処理機能100により、ランドマーク検出処理及び空間的に更に絞り込まれた範囲に対するセグメンテーション処理を順次に繰り返し実行することにより、大動脈弁尖の領域を抽出してもよい。これにより、より精度が高い形態学的計測結果を得られるようになる。
また、上述した例では、ステップS123におけるランドマーク処理によって、左冠尖最下点、右冠尖最下点、無冠尖最下点、無冠尖-左冠尖の交連点、右冠尖-左冠尖の交連点、無冠尖-右冠尖の交連点、右冠動脈入口点、左冠動脈入口点の八つの特徴点をそれぞれランドマークとして検出することとしたが、本実施形態はこれに限られない。例えば、ステップS123では、必ずしもこれらの八つの特徴点の全てがランドマークとして検出されなくてもよく、少なくとも、後続のセグメンテーション処理及び計測に必要な特徴点がランドマークとして検出されればよい。すなわち、制御部10は、第1の処理機能100により、ランドマーク検出処理を実行することで、左冠尖最下点、右冠尖最下点、無冠尖最下点、無冠尖-左冠尖の交連点、右冠尖-左冠尖の交連点、無冠尖-右冠尖の交連点、右冠動脈入口点、左冠動脈入口点のうちの少なくとも一つをランドマークとして検出してもよい。
また、上述した例では、ステップS121、S122及びS124におけるセグメンテーション処理によって、大動脈基部、右冠尖、左冠尖、無冠尖の各領域を抽出することとしたが、本実施形態はこれに限られない。例えば、ステップS121、S122及びS124では、必ずしもこれらの四つの領域の全てが抽出されなくてもよく、少なくとも、後続のセグメンテーション処理及び計測に必要な領域が抽出されればよい。すなわち、制御部10は、第1の処理機能100により、セグメンテーション処理を実行することで、大動脈基部、右冠尖、左冠尖、無冠尖のうちの少なくとも一つの領域を抽出してもよい。
また、上述した例では、対象領域が大動脈弁である場合の例を説明したが、本実施形態はこれに限られるものではなく、例えば、僧帽弁、三尖弁、肺動脈弁のように他の心臓弁を対象領域とする場合でも同様に適用することが可能である。さらに、本実施形態は、例えば、肺等のように、心臓弁以外を対象領域とする場合でも同様に適用することが可能である。
また、上述した例では、第2の種類の処理が、ランドマーク検出処理であり、第1の種類の処理が、セグメンテーション処理であることとしたが、本実施形態はこれに限られない。例えば、第3の実施形態と同様に、対象領域が僧帽弁である場合に、第2の種類の処理は、血流推定処理であり、第1の種類の処理は、左心室や僧帽弁のセグメンテーション処理であってもよい。
上述したように、第5の実施形態に係る医用画像処理装置1によれば、第1の種類の処理を、空間的に処理の範囲を絞り込むように調整しながら複数回実行した後に、その処理結果に基づいて、第1の種類とは異なる第2の種類の処理を実行し、当該第2の種類の処理の処理結果に基づいて、空間的に処理の範囲をさらに絞り込むように調整された第1の種類の処理を実行することによって、精確な形態学的情報を粗から精へ段階的に生成することができ、特に、心臓弁のような複雑な対象、及び、心臓弁の石灰化の形態構造及び不完全な形態構造等の複雑な状況において、より良好な性能が得られる。したがって、第5の実施形態によれば、より精確な形態学的計測結果を得ることができる。
なお、上述した実施形態で説明した画像処理、ランドマーク検出、セグメンテーション、深層学習ニューラルネットワークのトレーニング及び推論等は、いずれも従来技術の方法で実現することができるため、ここでは詳細な説明を省略する。
また、上述した第1~第4の実施形態は、対象の空間的な位置の特定を目的として記載したが、本願が開示する技術はこれに限らず、時間情報の特定や濃度情報の特定に用いられてもよい。例えば、特定の心位相を特定する際には、第1の処理として、弁の動きに基づいてターゲット位相を特定する処理と、血流の状態に基づいてターゲット位相を特定する処理とを実行してもよい。
また、上述した第5の実施形態についても、対象の空間的な位置の特定を目的として記載したが、本願が開示する技術はこれに限らず、時間情報の特定や濃度情報の特定に用いられてもよい。例えば、特定の心位相を特定する際には、第1の種類の処理として、弁の動きに基づいてターゲット位相を特定する処理を実行し、第2の種類の処理として、血流の状態に基づいてターゲット位相を特定する処理を実行してもよい。
なお、上述した実施形態で説明した制御部10は、例えば、プロセッサにより実現される。その場合に、制御部10が有する処理機能は、例えば、コンピュータによって実行可能なプログラムの形態でメモリ20に記憶される。そして、制御部10は、メモリ20に記憶された各プログラムを読み出して実行することにより、各プログラムに対応する処理機能を実現する。換言すると、制御部10は、各プログラムを読み出した状態で、図1に示す各処理機能を有することとなる。
また、上述した実施形態で説明した制御部10は、単一のプロセッサによって実現されるものに限られず、複数の独立したプロセッサを組み合わせて構成され、各プロセッサがプログラムを実行することによって各処理機能を実現するものであってもよい。また、制御部10が有する各処理機能は、単一又は複数の処理回路に適宜に分散又は統合されて実現されてもよい。また、制御部10が有する各処理機能は、回路等のハードウェアのみ、ソフトウェアのみ、又は、ハードウェアとソフトウェアとの混合によって実現されても構わない。また、ここでは、各処理機能に対応するプログラムが単一のメモリ20に記憶される場合の例を説明したが、実施形態はこれに限られない。例えば、各処理機能に対応するプログラムが複数のメモリに分散して記憶され、制御部10が、各メモリから各プログラムを読み出して実行する構成としても構わない。
なお、本願が開示する技術は、上述した医用画像処理装置として実現されてもよいし、医用画像処理方法、医用画像処理プログラムとして実現されてもよい。
また、本願に係る医用画像処理装置は、医用画像診断装置に組み込まれてもよいし、医用画像処理装置が単独で処理を実行してもよい。かかる場合には、医用画像処理装置は、上述した第1の処理機能、第2の処理機能及パラメータ設定機能と同様の処理を実行する処理回路と、各機能に対応するプログラムや各種の情報等を記憶するメモリとを有する。そして、処理回路は、ネットワークを経由して、超音波診断装置等の医用画像診断装置或いは画像保管装置から、3次元の医用画像データを取得し、取得した医用画像データを用いて上述した処理を実行する。ここで、処理回路は、例えば、メモリからプログラムを読み出して実行することで各プログラムに対応する機能を実現するプロセッサである。
また、本明細書で用いられている「プロセッサ」という文言は、例えば、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、又は、特定用途向け集積回路(Application Specific Integrated Circuit:ASIC)、プログラマブル論理デバイス(例えば、単純プログラマブル論理デバイス(Simple Programmable Logic Device:SPLD)、複合プログラマブル論理デバイス(Complex Programmable Logic Device:CPLD)、及びフィールドプログラマブルゲートアレイ(Field Programmable Gate Array:FPGA))等の回路を意味する。ここで、記憶回路にプログラムを保存する代わりに、プロセッサの回路内にプログラムを直接組み込むように構成しても構わない。この場合、プロセッサは、回路内に組み込まれたプログラムを読み出し実行することで機能を実現する。また、本実施形態の各プロセッサは、プロセッサごとに単一の回路として構成される場合に限らず、複数の独立した回路を組み合わせて一つのプロセッサとして構成され、その機能を実現するようにしてもよい。
また、上記の実施形態の説明で図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部又は一部を、各種の負荷や使用状況等に応じて、任意の単位で機能的又は物理的に分散・統合して構成することができる。更に、各装置にて行なわれる各処理機能は、その全部又は任意の一部が、CPU及び当該CPUにて解析実行されるプログラムにて実現され、或いは、ワイヤードロジックによるハードウェアとして実現され得る。
また、上述した実施形態で説明した処理方法は、あらかじめ用意された処理プログラムをパーソナルコンピュータやワークステーション等のコンピュータで実行することによって実現することができる。この処理プログラムは、例えば、インターネット等のネットワークを介して配布されてもよい。また、この処理プログラムは、例えば、ハードディスク、フレキシブルディスク(Flexible Disk:FD)、CD(Compact Disk)-ROM(Read Only Memory)、MO(Magnetooptic Disk)、DVD(Digital Versatile Disk)、USB(Universal Serial Bus)メモリやSD(Secure Digital)カードメモリ等のFlashメモリ等のコンピュータ読み取り可能な非一時的な記録媒体に記録され、コンピュータによって非一時的な記録媒体から読み出されることによって実行されてもよい。
また、上述した実施形態で説明した各処理のうち、自動的に行なわれるものとして説明した処理の全部又は一部を手動的に行なうこともでき、或いは、手動的に行なわれるものとして説明した処理の全部又は一部を公知の方法で自動的に行なうこともできる。この他、上記文書中や図面中で示した処理手順、制御手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。
なお、本明細書において扱う各種データは、典型的にはデジタルデータである。
以上説明した少なくとも一つの実施形態によれば、より精確な形態学的計測結果を得ることができる。
いくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更、実施形態同士の組み合わせを行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
以上の実施形態に関し、発明の一側面及び選択的な特徴として以下の付記を開示する。
(付記1)
医用画像データに対して第1の種類の処理を実行し、
前記第1の種類の処理の処理結果に基づいて空間的に絞り込まれた範囲に対して更に前記第1の種類の処理を実行し、
前記空間的に絞り込まれた範囲に対する前記第1の種類の処理の処理結果に対して前記第1の種類と異なる第2の種類の処理を実行し、
前記空間的に絞り込まれた範囲に対する前記第1の種類の処理結果及び前記第2の種類の処理の処理結果に基づいて空間的に更に絞り込まれた範囲に対して更に前記第1の種類の処理を実行することにより、対象領域を抽出する
制御部を備える、医用画像処理装置。
(付記2)
前記第1の種類の処理は、セグメンテーション処理であり、
前記第2の種類の処理は、ランドマーク検出処理であってもよい。
(付記3)
前記制御部は、深層学習ニューラルネットワークを利用して、前記ランドマーク検出処理及び前記セグメンテーション処理を実行してもよい。
(付記4)
前記制御部は、
前記第2の種類の処理を実行する前に、前記空間的に絞り込まれた範囲に対する前記第1の種類の処理の処理結果に対して補正処理を実行してもよい。
(付記5)
前記医用画像データは、心臓の医用画像データであり、
前記対象領域は、心臓弁であってもよい。
(付記6)
前記対象領域は、大動脈弁であり、
前記制御部は、
前記セグメンテーション処理を実行することで、大動脈基部、右冠尖、左冠尖、無冠尖のうちの少なくとも一つの領域を抽出し、
前記ランドマーク検出処理を実行することで、左冠尖最下点、右冠尖最下点、無冠尖最下点、無冠尖-左冠尖の交連点、右冠尖-左冠尖の交連点、無冠尖-右冠尖の交連点、右冠動脈入口点、左冠動脈入口点のうちの少なくとも一つをランドマークとして検出してもよい。
(付記7)
前記制御部は、前記第2の種類の処理及び前記空間的に更に絞り込まれた範囲に対する前記第1の種類の処理を順次に繰り返し実行することにより、前記対象領域を抽出してもよい。
(付記8)
制御部が、
医用画像データに対して第1の種類の処理を実行するステップと、
前記第1の種類の処理の処理結果に基づいて空間的に絞り込まれた範囲に対して更に前記第1の種類の処理を実行するステップと、
前記空間的に絞り込まれた範囲に対する前記第1の種類の処理の処理結果に対して前記第1の種類と異なる第2の種類の処理を実行するステップと、
前記空間的に絞り込まれた範囲に対する前記第1の種類の処理結果及び前記第2の種類の処理の処理結果に基づいて空間的に更に絞り込まれた範囲に対して更に前記第1の種類の処理を実行することにより、対象領域を抽出するステップと
を含む、医用画像処理方法。
(付記9)
医用画像データに対して第1の種類の処理を実行するする手順と、
前記第1の種類の処理の処理結果に基づいて空間的に絞り込まれた範囲に対して更に前記第1の種類の処理を実行する手順と、
前記空間的に絞り込まれた範囲に対する前記第1の種類の処理の処理結果に対して前記第1の種類と異なる第2の種類の処理を実行する手順と、
前記空間的に絞り込まれた範囲に対する前記第1の種類の処理結果及び前記第2の種類の処理の処理結果に基づいて空間的に更に絞り込まれた範囲に対して更に前記第1の種類の処理を実行することにより、対象領域を抽出する手順と
をコンピュータに実行させる、医用画像処理プログラム。
(付記10)
医用画像データに対して第1の種類の処理を実行し、
前記第1の種類の処理の処理結果に基づいて絞り込まれた範囲に対して更に前記第1の種類の処理を実行し、
前記絞り込まれた範囲に対する前記第1の種類の処理の処理結果に対して前記第1の種類と異なる第2の種類の処理を実行し、
前記絞り込まれた範囲に対する前記第1の種類の処理結果及び前記第2の種類の処理の処理結果に基づいて更に絞り込まれた範囲に対して更に前記第1の種類の処理を実行することにより、対象領域を抽出する
制御部を備える、医用画像処理装置。
医用画像データに対して第1の種類の処理を実行し、
前記第1の種類の処理の処理結果に基づいて空間的に絞り込まれた範囲に対して更に前記第1の種類の処理を実行し、
前記空間的に絞り込まれた範囲に対する前記第1の種類の処理の処理結果に対して前記第1の種類と異なる第2の種類の処理を実行し、
前記空間的に絞り込まれた範囲に対する前記第1の種類の処理結果及び前記第2の種類の処理の処理結果に基づいて空間的に更に絞り込まれた範囲に対して更に前記第1の種類の処理を実行することにより、対象領域を抽出する
制御部を備える、医用画像処理装置。
(付記2)
前記第1の種類の処理は、セグメンテーション処理であり、
前記第2の種類の処理は、ランドマーク検出処理であってもよい。
(付記3)
前記制御部は、深層学習ニューラルネットワークを利用して、前記ランドマーク検出処理及び前記セグメンテーション処理を実行してもよい。
(付記4)
前記制御部は、
前記第2の種類の処理を実行する前に、前記空間的に絞り込まれた範囲に対する前記第1の種類の処理の処理結果に対して補正処理を実行してもよい。
(付記5)
前記医用画像データは、心臓の医用画像データであり、
前記対象領域は、心臓弁であってもよい。
(付記6)
前記対象領域は、大動脈弁であり、
前記制御部は、
前記セグメンテーション処理を実行することで、大動脈基部、右冠尖、左冠尖、無冠尖のうちの少なくとも一つの領域を抽出し、
前記ランドマーク検出処理を実行することで、左冠尖最下点、右冠尖最下点、無冠尖最下点、無冠尖-左冠尖の交連点、右冠尖-左冠尖の交連点、無冠尖-右冠尖の交連点、右冠動脈入口点、左冠動脈入口点のうちの少なくとも一つをランドマークとして検出してもよい。
(付記7)
前記制御部は、前記第2の種類の処理及び前記空間的に更に絞り込まれた範囲に対する前記第1の種類の処理を順次に繰り返し実行することにより、前記対象領域を抽出してもよい。
(付記8)
制御部が、
医用画像データに対して第1の種類の処理を実行するステップと、
前記第1の種類の処理の処理結果に基づいて空間的に絞り込まれた範囲に対して更に前記第1の種類の処理を実行するステップと、
前記空間的に絞り込まれた範囲に対する前記第1の種類の処理の処理結果に対して前記第1の種類と異なる第2の種類の処理を実行するステップと、
前記空間的に絞り込まれた範囲に対する前記第1の種類の処理結果及び前記第2の種類の処理の処理結果に基づいて空間的に更に絞り込まれた範囲に対して更に前記第1の種類の処理を実行することにより、対象領域を抽出するステップと
を含む、医用画像処理方法。
(付記9)
医用画像データに対して第1の種類の処理を実行するする手順と、
前記第1の種類の処理の処理結果に基づいて空間的に絞り込まれた範囲に対して更に前記第1の種類の処理を実行する手順と、
前記空間的に絞り込まれた範囲に対する前記第1の種類の処理の処理結果に対して前記第1の種類と異なる第2の種類の処理を実行する手順と、
前記空間的に絞り込まれた範囲に対する前記第1の種類の処理結果及び前記第2の種類の処理の処理結果に基づいて空間的に更に絞り込まれた範囲に対して更に前記第1の種類の処理を実行することにより、対象領域を抽出する手順と
をコンピュータに実行させる、医用画像処理プログラム。
(付記10)
医用画像データに対して第1の種類の処理を実行し、
前記第1の種類の処理の処理結果に基づいて絞り込まれた範囲に対して更に前記第1の種類の処理を実行し、
前記絞り込まれた範囲に対する前記第1の種類の処理の処理結果に対して前記第1の種類と異なる第2の種類の処理を実行し、
前記絞り込まれた範囲に対する前記第1の種類の処理結果及び前記第2の種類の処理の処理結果に基づいて更に絞り込まれた範囲に対して更に前記第1の種類の処理を実行することにより、対象領域を抽出する
制御部を備える、医用画像処理装置。
1 医用画像処理装置
10 制御部
100 第1の処理機能
200 第2の処理機能
10 制御部
100 第1の処理機能
200 第2の処理機能
Claims (14)
- 医用画像データに対して少なくとも二つの異なる種類の処理を含む第1の処理を実行し、
前記第1の処理の処理結果に基づいて空間的に絞り込まれた範囲に対して更に第1の処理を実行する
制御部を備える、医用画像処理装置。 - 前記制御部は、
前記医用画像データに対する前記第1の処理を実行した後に、当該第1の処理の処理結果に対して第2の処理を実行し、
前記第2の処理の処理結果に対して、前記空間的に絞り込まれた範囲に対する前記第1の処理を実行し、当該第1の処理の処理結果に基づいて、前記医用画像データにおける対象領域を表す画像を取得する、
請求項1に記載の医用画像処理装置。 - 前記空間的に絞り込まれた範囲に対する前記第1の処理における前記異なる種類の処理の処理順序は、前記医用画像データに対する前記第1の処理における前記異なる種類の処理の処理順序と同じである、
請求項1又は2に記載の医用画像処理装置。 - 前記制御部は、
前記第1の処理として、前記医用画像データに対してランドマーク検出処理を実行し、前記ランドマーク検出処理の処理結果に基づいて、前記対象領域のセグメンテーション処理を実行し、
前記第2の処理として、前記第1の処理の処理結果に対して情報増強処理を実行する、 請求項2に記載の医用画像処理装置。 - 前記制御部は、前記空間的に絞り込まれた範囲に対する前記第1の処理を実行した後に、さらに、前記第2の処理及び前記空間的に絞り込まれた範囲に対する前記第1の処理を順次に繰り返し実行することにより、前記対象領域を表す画像を取得する、
請求項2に記載の医用画像処理装置。 - 前記制御部は、さらに、前記対象領域を表す画像に対して修正処理を実行する、
請求項2に記載の医用画像処理装置。 - 前記制御部は、ROI(region of interest:関心領域)の面積制限、幾何学的変換、幾何学的制約、グレースケール情報による制約、形態学的制約の少なくとも一つを行うことにより、前記情報増強処理を実行する、
請求項4に記載の医用画像処理装置。 - 前記制御部は、深層学習ニューラルネットワークを利用して、前記ランドマーク検出処理及び前記セグメンテーション処理を実行する、
請求項4に記載の医用画像処理装置。 - 前記制御部は、前記ランドマーク検出処理の処理結果に基づいて、前記医用画像データに対して強化処理を実行した後に、前記セグメンテーション処理を実行し、
前記強化処理は、
前記ランドマーク検出処理によって検出されたランドマークに基づいて、前記医用画像データに対してクロッピング処理を実行すること、
前記ランドマーク検出処理によって検出されたランドマークのヒートマップを、チャネルとして前記深層学習ニューラルネットワークに入力すること、
前記ランドマーク検出処理により検出されたランドマークのヒートマップを、前記深層学習ニューラルネットワークの損失関数とすること
の少なくとも一つを含む、
請求項8に記載の医用画像処理装置。 - 前記医用画像データは、心臓の医用画像データであり、
前記対象領域は、心臓弁である、
請求項4に記載の医用画像処理装置。 - 前記対象領域は、大動脈弁であり、
前記ランドマーク検出処理は、左冠尖最下点、右冠尖最下点、無冠尖最下点、無冠尖-左冠尖の交連点、右冠尖-左冠尖の交連点、無冠尖-右冠尖の交連点、右冠動脈入口点、左冠動脈入口点のうちの少なくとも一つをランドマークとして検出する、
請求項10に記載の医用画像処理装置。 - 制御部が、
医用画像データに対して少なくとも二つの異なる種類の処理を含む第1の処理を実行するステップと、
前記第1の処理の処理結果に基づいて空間的に絞り込まれた範囲に対して更に第1の処理を実行するステップと
を含む、医用画像処理方法。 - 医用画像データに対して少なくとも二つの異なる種類の処理を含む第1の処理を実行する手順と、
前記第1の処理の処理結果に基づいて空間的に絞り込まれた範囲に対して更に第1の処理を実行する手順と
をコンピュータに実行させる、医用画像処理プログラム。 - 医用画像データに対して少なくとも二つの異なる種類の処理を含む第1の処理を実行し、
前記第1の処理の処理結果に基づいて絞り込まれた範囲に対して更に第1の処理を実行する
制御部を備える、医用画像処理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211432902.3A CN116137026A (zh) | 2021-11-16 | 2022-11-16 | 医用图像处理装置、医用图像处理方法及存储介质 |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111351852 | 2021-11-16 | ||
CN202111351852.1 | 2021-11-16 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2023073968A true JP2023073968A (ja) | 2023-05-26 |
Family
ID=86425596
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022166028A Pending JP2023073968A (ja) | 2021-11-16 | 2022-10-17 | 医用画像処理装置、医用画像処理方法及び医用画像処理プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2023073968A (ja) |
-
2022
- 2022-10-17 JP JP2022166028A patent/JP2023073968A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3081161B1 (en) | Method and system for advanced transcatheter aortic valve implantation planning | |
Tobon-Gomez et al. | Benchmark for algorithms segmenting the left atrium from 3D CT and MRI datasets | |
Li et al. | Optimal surface segmentation in volumetric images-a graph-theoretic approach | |
US9155470B2 (en) | Method and system for model based fusion on pre-operative computed tomography and intra-operative fluoroscopy using transesophageal echocardiography | |
US8358819B2 (en) | System and methods for image segmentation in N-dimensional space | |
US8571278B2 (en) | System and methods for multi-object multi-surface segmentation | |
US8218845B2 (en) | Dynamic pulmonary trunk modeling in computed tomography and magnetic resonance imaging based on the detection of bounding boxes, anatomical landmarks, and ribs of a pulmonary artery | |
US9292917B2 (en) | Method and system for model-based fusion of computed tomography and non-contrasted C-arm computed tomography | |
US20150223773A1 (en) | Method and Apparatus for Image Fusion Based Planning of C-Arm Angulation for Structural Heart Disease | |
US9230331B2 (en) | Systems and methods for registration of ultrasound and CT images | |
CN103294883B (zh) | 用于针对经导管主动脉瓣植入进行介入规划的方法和系统 | |
US9002078B2 (en) | Method and system for shape-constrained aortic valve landmark detection | |
US20110052026A1 (en) | Method and Apparatus for Determining Angulation of C-Arm Image Acquisition System for Aortic Valve Implantation | |
US9129392B2 (en) | Automatic quantification of mitral valve dynamics with real-time 3D ultrasound | |
CN106716488A (zh) | 分析主动脉瓣钙化 | |
Tautz et al. | Extraction of open-state mitral valve geometry from CT volumes | |
Tahoces et al. | Deep learning method for aortic root detection | |
CN116137026A (zh) | 医用图像处理装置、医用图像处理方法及存储介质 | |
EP2956065B1 (en) | Apparatus for image fusion based planning of c-arm angulation for structural heart disease | |
JP2023073968A (ja) | 医用画像処理装置、医用画像処理方法及び医用画像処理プログラム | |
EP4075390B1 (en) | Method for modelling a heart valve | |
JP2012217780A (ja) | 医用画像データをセグメント化するための方法及び装置 | |
JP2024151459A (ja) | 情報処理装置、情報処理方法、およびプログラム | |
KR20230021544A (ko) | Cta 영상에서 계층적 변형을 이용한 심혈관 비강체 정합 방법, 이를 수행하기 위한 기록매체 및 장치 | |
García Tahoces et al. | Deep learning method for aortic root detection |