JP2017225670A - 画像処理装置およびその制御方法 - Google Patents
画像処理装置およびその制御方法 Download PDFInfo
- Publication number
- JP2017225670A JP2017225670A JP2016124371A JP2016124371A JP2017225670A JP 2017225670 A JP2017225670 A JP 2017225670A JP 2016124371 A JP2016124371 A JP 2016124371A JP 2016124371 A JP2016124371 A JP 2016124371A JP 2017225670 A JP2017225670 A JP 2017225670A
- Authority
- JP
- Japan
- Prior art keywords
- image data
- image processing
- interest
- region
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Image Processing (AREA)
- Image Analysis (AREA)
- Magnetic Resonance Imaging Apparatus (AREA)
- Ultra Sonic Daignosis Equipment (AREA)
Abstract
【課題】複数の被検体画像間における注目領域の対比を良好に行うための技術を提供する。【解決手段】被検体の第1および第2の画像データを取得するデータ取得部と、第1および第2の画像データの対応関係を示す情報を生成して出力する画像処理部を有し、画像処理部は、第1および第2の画像データにおける被検体の基準位置を示す第1および第2の基準位置と、第1および第2の画像データにおける被検体の注目領域を示す第1および第2の注目領域と、第1および第2の画像データにおける被検体の輪郭を示す第1および第2の輪郭形状を取得することで対応関係を取得することを特徴とする画像処理装置。【選択図】図1
Description
本発明は、画像処理装置およびその制御方法に関する。
医療の分野において、医師や技師等の検査者が、複数のモダリティで撮像した被検体の三次元画像(ボリューム画像)それぞれをモニタに表示して対比することで検査や診断を行う場合がある。医療以外の分野においても、三次元画像を用いて物体の内部状態を検査するときに同様の作業が実施される場合がある。
しかし、被検体が生体の場合、複数のモダリティによる撮像の間で被検体の姿勢や形状を完全に一致させることは難しい。そのため、モダリティ間で注目領域の姿勢(位置、角度、変形の程度など)が互いに異なる場合が生じる。すると、モニタに表示される断面画像上に表れる注目領域の姿勢もモダリティ間で異なる。その結果、注目領域の同定や対比が難しくなるという課題がある。
ここで、複数の画像間での被検体の変形を推定し、一方の画像に変形を施して形状を他方と類似させた画像を生成し、画像間の対比を行う変形位置合わせという手法がある。一般に、変形位置合わせの処理は、複数の画像間で対応する位置(被検体の同じ部位を表す位置)を局所領域間の画像類似度に基づいて対応付け、得られた対応関係に基づいて行うことができる。
ここで、二つの局所領域間の画像類似度を求めるためには、局所領域間の姿勢の違いを考慮する必要がある。すなわち、局所領域間で対応した姿勢を探索する処理(例えば、一方の局所領域に様々な回転を与えながら他方の局所領域との画像類似度を求める処理)が必要となる。この処理には、計算時間の増大や、画像にノイズがある場合の姿勢探索精度の低下という課題がある。
このような課題に対する解決策として、非特許文献1には、画像上の特徴点(注目領域)の周囲の画素値の勾配方向に基づいて、特徴点の姿勢を定義する技術が開示されている。これによると、画像間で対応する特徴点の姿勢を揃えることができる。しかしながら、撮像に利用したモダリティが異なる場合や、同一モダリティであってもノイズが無視できない場合には、画像間で対応する特徴点周囲の画素値の勾配方向が必ずしも一致しない。その場合、姿勢を制御する際の精度が低下するという課題があった。
David G. Lowe, "Distinctive Image Features from Scale-Invariant Keypoints," International Journal of Computer Vision, Vol.60, No.2, pp.91-110, 2004.
以上のように、複数の画像間で注目領域を対比する場合に、注目領域同士を対応付けたり、各注目領域の姿勢を揃えて表示したりする技術が必要とされている。
本発明は上記課題に鑑みてなされたものである。本発明は、複数の被検体画像間における注目領域の対比を良好に行うための技術を提供することを目的とする。
被検体に撮像を行って得られた第1の画像データと、前記被検体に前記第1の画像データの撮像とは異なる撮像を行って得られた第2の画像データとを取得するデータ取得部と、
前記第1の画像データと前記第2の画像データの対応関係を示す情報を生成して出力する画像処理部と、
を有し、
前記画像処理部は、
前記第1の画像データにおける前記被検体の基準位置を示す第1の基準位置と、前記第2の画像データにおける前記基準位置を示す第2の基準位置とを取得し、
前記第1の画像データにおける前記被検体の注目領域を示す第1の注目領域と、前記第2の画像データにおける前記注目領域を示す第2の注目領域とを取得し、
前記第1の画像データにおける前記被検体の輪郭を示す第1の輪郭形状と、前記第2の画像データにおける前記輪郭を示す第2の輪郭形状を取得し、
前記第1の基準位置および前記第2の基準位置、前記第1の注目領域および前記第2の注目領域、ならびに、前記第1の輪郭形状および前記第2の輪郭形状に基づいて、前記対応関係を取得する
ことを特徴とする画像処理装置である。
前記第1の画像データと前記第2の画像データの対応関係を示す情報を生成して出力する画像処理部と、
を有し、
前記画像処理部は、
前記第1の画像データにおける前記被検体の基準位置を示す第1の基準位置と、前記第2の画像データにおける前記基準位置を示す第2の基準位置とを取得し、
前記第1の画像データにおける前記被検体の注目領域を示す第1の注目領域と、前記第2の画像データにおける前記注目領域を示す第2の注目領域とを取得し、
前記第1の画像データにおける前記被検体の輪郭を示す第1の輪郭形状と、前記第2の画像データにおける前記輪郭を示す第2の輪郭形状を取得し、
前記第1の基準位置および前記第2の基準位置、前記第1の注目領域および前記第2の注目領域、ならびに、前記第1の輪郭形状および前記第2の輪郭形状に基づいて、前記対応関係を取得する
ことを特徴とする画像処理装置である。
本発明はまた、以下の構成を採用する。すなわち、
データ取得部が、被検体に撮像を行って得られた第1の画像データと、前記被検体に前記第1の画像データの撮像とは異なる撮像を行って得られた第2の画像データとを取得するデータ取得ステップと、
画像処理部が、前記第1の画像データと前記第2の画像データの対応関係を示す情報を生成して出力する画像処理ステップと、
を有し、
前記画像処理ステップでは、
前記第1の画像データにおける前記被検体の基準位置を示す第1の基準位置と、前記第2の画像データにおける前記基準位置を示す第2の基準位置とを取得し、
前記第1の画像データにおける前記被検体の注目領域を示す第1の注目領域と、前記第2の画像データにおける前記注目領域を示す第2の注目領域とを取得し、
前記第1の画像データにおける前記被検体の輪郭を示す第1の輪郭形状と、前記第2の画像データにおける前記輪郭を示す第2の輪郭形状を取得し、
前記第1の基準位置および前記第2の基準位置、前記第1の注目領域および前記第2の注目領域、ならびに、前記第1の輪郭形状および前記第2の輪郭形状に基づいて、前記対応関係を取得する
ことを特徴とする画像処理装置の制御方法である。
データ取得部が、被検体に撮像を行って得られた第1の画像データと、前記被検体に前記第1の画像データの撮像とは異なる撮像を行って得られた第2の画像データとを取得するデータ取得ステップと、
画像処理部が、前記第1の画像データと前記第2の画像データの対応関係を示す情報を生成して出力する画像処理ステップと、
を有し、
前記画像処理ステップでは、
前記第1の画像データにおける前記被検体の基準位置を示す第1の基準位置と、前記第2の画像データにおける前記基準位置を示す第2の基準位置とを取得し、
前記第1の画像データにおける前記被検体の注目領域を示す第1の注目領域と、前記第2の画像データにおける前記注目領域を示す第2の注目領域とを取得し、
前記第1の画像データにおける前記被検体の輪郭を示す第1の輪郭形状と、前記第2の画像データにおける前記輪郭を示す第2の輪郭形状を取得し、
前記第1の基準位置および前記第2の基準位置、前記第1の注目領域および前記第2の注目領域、ならびに、前記第1の輪郭形状および前記第2の輪郭形状に基づいて、前記対応関係を取得する
ことを特徴とする画像処理装置の制御方法である。
本発明によれば、複数の被検体画像間における注目領域の対比を良好に行うための技術を提供できる。
以下に図面を参照しつつ、本発明の好適な実施の形態について説明する。ただし、以下に記載されている構成部品の寸法、材質、形状およびそれらの相対配置などは、発明が適用される装置の構成や各種条件により適宜変更されるべきものである。よって、この発明の範囲を以下の記載に限定する趣旨のものではない。
本発明は、被検体を撮像し、その被検体の注目領域を画像化して表示する技術に関する。よって本発明は、画像処理装置またはその制御方法、あるいは画像取得方法や信号処理方法や情報処理方法として捉えられる。本発明はまた、被検体情報取得装置もしくはその制御方法、または被検体情報取得方法としても捉えられる。本発明はまた、上記の各方法をCPUやメモリ等のハードウェア資源を備える情報処理装置に実行させるプログラムや、そのプログラムを格納したコンピュータにより読み取り可能な非一時的な記憶媒体としても捉えられる。
本発明に係る装置は、被検体の画像データを取得する機能を備えていても良いし、他の装置が取得した画像データを処理する機能のみを備えていても良い。被検体の画像データは、各位置の特性情報に基づいて、二次元または三次元の特性情報分布として得られる。特性情報は、数値データとしてではなく、被検体内の各位置の分布情報として求めてもよい。
本発明の処理対象となる被検体の三次元画像データ源としては、種々の画像撮像装置(モダリティ)を利用可能である。例えば、光音響トモグラフィ装置(PAT)、核磁気共鳴映像装置(MRI)、X線コンピュータ断層撮影装置(CT)、超音波エコー装置(US)、陽電子放射断層撮像装置(PET)、単光子放出断層撮像装置(SPECT)、光干渉断層撮像装置(OCT)がある。各モダリティでの撮像(測定)によって、被検体の三次元領域において、それぞれのモダリティに応じた特性情報の分布情報を示す画像データが得られる。
本発明は典型的には、光音響トモグラフィ装置と核磁気共鳴映像装置のそれぞれで得られた画像データを対比するときに利用される。光音響トモグラフィ装置は、被検体に光を照射することにより被検体内で発生した音響波を受信して、被検体の特性情報を画像データとして取得する装置である。特性情報として、被検体内の初期音圧、光吸収係数、構成物質濃度、酸素飽和度などを取得できる。核磁気共鳴映像装置は、被検体に高周波の磁場を与えて発生する核磁気共鳴現象を利用して被検体内部を撮像する装置である。核磁気共鳴映像装置では主に被検体内部の水素に関する情報を描出できる。ただしモダリティの組み合わせはこれに限られない。また、本発明は、同一モダリティで取得した画像データの対比にも利用される。
以下の説明では被検体の例として乳房を用いる。ただし、本発明の被検体はこれに限られない。手、足、胴体など生体の他の部位や、マウスのようなヒト以外の動物、変形しやすい非生物なども測定対象となり得る。
<第1実施形態>(画像間で注目領域の姿勢を揃えて表示)
本実施形態に係る画像処理装置は、複数の三次元画像(第1の三次元画像と第2の三次元画像)の画像データを処理する装置である。画像処理装置は、三次元画像それぞれの注目領域を、画像間で姿勢を揃えて表示する機能を持つ。本実施形態の画像処理装置は、第1の三次元画像中の第1の注目領域を含む第1の断面画像と、第2の三次元画像中の第2
の注目領域を含む第2の断面画像を生成する。
本実施形態に係る画像処理装置は、複数の三次元画像(第1の三次元画像と第2の三次元画像)の画像データを処理する装置である。画像処理装置は、三次元画像それぞれの注目領域を、画像間で姿勢を揃えて表示する機能を持つ。本実施形態の画像処理装置は、第1の三次元画像中の第1の注目領域を含む第1の断面画像と、第2の三次元画像中の第2
の注目領域を含む第2の断面画像を生成する。
ここで、被検体中の注目領域と、該注目領域の近傍の体表と、乳頭等の解剖学的な特徴点との位置関係は、被検体の体位の変化による影響を受けづらく略一定であることが知られている。本発明の画像処理装置はこの特徴を利用して、注目領域に対して、被検体の変形に略不変な姿勢を定義する。そして、該姿勢に基づいて、第1の断面画像中の注目領域の姿勢と第2の断面画像中の注目領域の姿勢が一致するようにして、第1の断面画像と第2の断面画像を生成する。これにより、ユーザは、注目領域の姿勢を揃えた状態で、2つの断面画像を観察できる。
(システム構成)
図1は、本実施形態に係る画像処理装置100を含む画像診断システムの構成を示す。同図に示すように、本実施形態における画像処理装置100は、データサーバ130および表示部140と接続されている。また、画像処理装置100は、第1画像撮像装置110および第2画像撮像装置120と、データサーバ130を介して接続されている。
図1は、本実施形態に係る画像処理装置100を含む画像診断システムの構成を示す。同図に示すように、本実施形態における画像処理装置100は、データサーバ130および表示部140と接続されている。また、画像処理装置100は、第1画像撮像装置110および第2画像撮像装置120と、データサーバ130を介して接続されている。
第1画像撮像装置110は光音響トモグラフィ装置(PAT装置)であり、被検体を撮像して第1の三次元画像(PAT画像)を得る。また、第2画像撮像装置120はMRI装置であり、被検体を撮像して第2の三次元画像を得る。これらの三次元画像は、データサーバ130に格納される。なお、上述したように、三次元画像を撮像するモダリティはこれらに限られない。また、第1の三次元画像と第2の三次元画像は、経過観察のために同一患者を同一モダリティで異なる日時に撮像した画像のように、同一のモダリティによって撮像されたものであってもよい。また、同一または異なるモダリティで、異なる体位で撮像された画像を対象としてもよい。
第1画像撮像装置110および第2画像撮像装置120から出力される画像データについて、後述する情報処理が可能であればその形式は問わない。医用画像の標準規格であるDICOMを利用すれば、通信や画像処理における煩雑さを低減し、異なるモダリティの画像を簡易に比較できる。
データサーバ130や画像処理装置100としては、プロセッサや記憶手段や通信手段などを備え、プログラムに従って動作して情報処理を行う情報処理装置(PCやワークステーションなど)を利用できる。画像処理装置100内の各ブロックは、それぞれ所定の機能を実現するプログラムモジュールにより実装できる。データサーバ130と画像処理装置100を同じ情報処理装置で実装しても良いし、複数の情報処理装置が協働して機能を実現してもよい。画像処理装置100は、本発明の画像処理部に相当する。
表示部140は、画像処理装置100が生成する画像を表示するモニタである。表示部140としては、液晶ディスプレイやプラズマディスプレイなど、任意の表示装置を利用できる。
(画像処理装置)
画像処理装置100は、以下の構成要素を有する。データ取得部1010は、画像処理装置100に入力される第1の三次元画像と第2の三次元画像を取得する。基準部位取得部1020は、第1の三次元画像と第2の三次元画像に共通して描出されている被検体の解剖学的な特徴点(以下、基準部位)の各三次元画像上での位置を、第1の基準位置および第2の基準位置として取得する。注目領域取得部1030は、第1の三次元画像における第1の注目領域と、第2の三次元画像における第2の注目領域を取得する。輪郭取得部1040は、第1の三次元画像における被検体の第1の輪郭形状と、第2の三次元画像における被検体の第2の輪郭形状を取得する。
画像処理装置100は、以下の構成要素を有する。データ取得部1010は、画像処理装置100に入力される第1の三次元画像と第2の三次元画像を取得する。基準部位取得部1020は、第1の三次元画像と第2の三次元画像に共通して描出されている被検体の解剖学的な特徴点(以下、基準部位)の各三次元画像上での位置を、第1の基準位置および第2の基準位置として取得する。注目領域取得部1030は、第1の三次元画像における第1の注目領域と、第2の三次元画像における第2の注目領域を取得する。輪郭取得部1040は、第1の三次元画像における被検体の第1の輪郭形状と、第2の三次元画像における被検体の第2の輪郭形状を取得する。
姿勢算出部1050は、第1の基準位置と第1の輪郭形状に基づいて、第1の注目領域の姿勢を表す第1の姿勢を算出する。また同様に、第2の基準位置と第2の輪郭形状に基づいて、第2の注目領域の姿勢を表す第2の姿勢を算出する。断面画像生成部1060は、第1の姿勢に基づいて第1の三次元画像から断面画像を切り出して第1の断面画像を生成する。また同様に、第2の姿勢に基づいて第2の三次元画像から断面画像を切り出して第2の断面画像を生成する。表示制御部1070は、第1の断面画像と第2の断面画像を並べて表示部140に表示させる表示制御を行う。
(全体の処理フロー)
図2は、画像処理装置100が行う全体の処理手順をフローチャートで示している。
図2は、画像処理装置100が行う全体の処理手順をフローチャートで示している。
(S2000)(データの取得)
ステップS2000において、データ取得部1010は、画像処理装置100に入力される第1および第2の三次元画像を取得する。そして、取得した三次元画像を、基準部位取得部1020および注目領域取得部1030、輪郭取得部1040、断面画像生成部1060へと出力する。
ステップS2000において、データ取得部1010は、画像処理装置100に入力される第1および第2の三次元画像を取得する。そして、取得した三次元画像を、基準部位取得部1020および注目領域取得部1030、輪郭取得部1040、断面画像生成部1060へと出力する。
図3(a)の3000は、第1画像撮像装置110から取得した第1の三次元画像(PAT画像)、図3(b)の3030は、第2画像撮像装置120から取得した第2の三次元画像(MRI画像)を示している。第1の三次元画像3000および第2の三次元画像3030は三次元画像であるが、説明を簡易にするために、三次元画像からx−y平面に平行に切り出された1断面の画像を示している。
また、図3(a)の3010、図3(b)の3040はそれぞれ、第1の三次元画像上の被検体の領域、第2の三次元画像上の被検体の領域を示している。図3の例は、第1の三次元画像と第2の三次元画像の間で被検体が大きく変形している状況を表している。また、被検体の輪郭付近に存在する画像間で対応する組織(血管)3020と3050が、被検体の変形に伴って回転・変形している状況を表している。
(S2010)(基準位置の取得)
ステップS2010において、基準部位取得部1020は、第1の三次元画像上における基準部位の位置(第1の基準位置)と、第2の三次元画像上における基準部位の位置(第2の基準位置)を取得する。そして、取得した第1の基準位置と第2の基準位置の情報を、姿勢算出部1050へと出力する。
ステップS2010において、基準部位取得部1020は、第1の三次元画像上における基準部位の位置(第1の基準位置)と、第2の三次元画像上における基準部位の位置(第2の基準位置)を取得する。そして、取得した第1の基準位置と第2の基準位置の情報を、姿勢算出部1050へと出力する。
基準部位としては、被検体上の解剖学的な意味を有する組織の中から、変形の基準として振舞うような部位、言い換えると、その位置を中心に放射的に変形が発生する位置が好ましい。かつ、画像間で同定可能な部位が好ましい。例えば、乳頭の基底部の中心や病変部の重心等を基準部位として使用できる。なお、複数の部位を基準部位と定義して、それぞれの基準部位の位置を取得してもよい。
なお、ユーザが基準部位の位置を入力しても良い。例えば、ユーザが入力手段を用いて、表示部140にスライス表示された各三次元画像から基準部位を指定する方法がある。入力手段として、情報処理装置のユーザインタフェース(マウス、キーボード、タッチパネルなど)を利用できる。あるいは、基準部位取得部1020は、公知の画像特徴を抽出する画像処理技術により基準位置を取得してもよい。また、三次元画像に付随する情報として予めデータサーバ130に保持させた基準部位の位置情報を、基準部位取得部1020が読み込むようにしてもよい。
(S2020)(輪郭形状の取得)
ステップS2020において、輪郭取得部1040は、第1の三次元画像上における被検体の第1の輪郭形状と、第2の三次元画像上における被検体の第2の輪郭形状を取得する。そして、取得した第1の輪郭形状と第2の輪郭形状の情報を、姿勢算出部1050へと出力する。
ステップS2020において、輪郭取得部1040は、第1の三次元画像上における被検体の第1の輪郭形状と、第2の三次元画像上における被検体の第2の輪郭形状を取得する。そして、取得した第1の輪郭形状と第2の輪郭形状の情報を、姿勢算出部1050へと出力する。
本実施形態において、輪郭形状は被検体の体表面を表している。体表面を表す輪郭形状は、点群でもよいし、メッシュやラベル画像でもよい。また、体表面は被検体の体表面すべてではなく、少なくとも注目領域の近傍の一部のみが取得されればよい。
輪郭取得部1040による輪郭形状の取得方法は問わない。例えば、表示部140に各三次元画像をスライス表示し、入力手段を用いたユーザ入力を受け付けても良い。あるいは、三次元画像に対する閾値処理やエッジ検出などの、公知の画像処理手法を用いてもよい。また、三次元画像に付随する情報として予めデータサーバ130に保持させた輪郭形状の情報を、輪郭取得部1040が読み込んでもよい。被検体が乳房の場合、カップ形状の保持部材に乳房を満たして各モダリティによる測定を行う場合がある。
(S2030)(注目領域の取得)
ステップS2030において、注目領域取得部1030は、第1の三次元画像における第1の注目領域と、第2の三次元画像における第2の注目領域を取得する。そして、取得した第1の注目領域と第2の注目領域に関する情報を、姿勢算出部1050へと出力する。
ステップS2030において、注目領域取得部1030は、第1の三次元画像における第1の注目領域と、第2の三次元画像における第2の注目領域を取得する。そして、取得した第1の注目領域と第2の注目領域に関する情報を、姿勢算出部1050へと出力する。
本実施形態において、注目領域は、直方体や球等、任意の形状である。注目領域は一つ以上の点で構成される。ここで、注目領域の情報は、それぞれの三次元画像を表示部140へとスライス表示して、ユーザの指示を受け付けることで取得できる。ユーザは、画像化したい関心領域を注目領域として指定できる。入力の際には例えば、入力手段を用いて注目領域の代表位置をスライス画像上で指定する。
(S2040)(姿勢の算出)
ステップS2040において、姿勢算出部1050は、第1の注目領域の第1の姿勢と第2の注目領域の第2の姿勢をそれぞれ算出する。注目領域が三次元領域の場合、姿勢の変化とは、第1および第2の注目領域の間の位置の違い、角度のずれ、形状の変化の有無や程度などを指す。そして、算出した第1の姿勢と第2の姿勢を、断面画像生成部1060へと出力する。本実施形態において、姿勢は、注目領域の座標系を表す三つの軸で表されるものとする。例えば、ステップS2030で得た注目領域の代表位置を原点、ステップS2040で得た姿勢を座標軸とすることで、それぞれの注目領域の座標系が定義される。姿勢算出処理の詳細は、図5に示すフローチャートを用いて後述する。
ステップS2040において、姿勢算出部1050は、第1の注目領域の第1の姿勢と第2の注目領域の第2の姿勢をそれぞれ算出する。注目領域が三次元領域の場合、姿勢の変化とは、第1および第2の注目領域の間の位置の違い、角度のずれ、形状の変化の有無や程度などを指す。そして、算出した第1の姿勢と第2の姿勢を、断面画像生成部1060へと出力する。本実施形態において、姿勢は、注目領域の座標系を表す三つの軸で表されるものとする。例えば、ステップS2030で得た注目領域の代表位置を原点、ステップS2040で得た姿勢を座標軸とすることで、それぞれの注目領域の座標系が定義される。姿勢算出処理の詳細は、図5に示すフローチャートを用いて後述する。
(S2050)(断面画像の生成)
ステップS2050において、断面画像生成部1060は、第1の姿勢に基づいて、第1の三次元画像から第1の注目領域を含む第1の断面画像を生成する。さらに、第2の姿勢に基づいて、第2の三次元画像から第2の注目領域を含む第2の断面画像を生成する。なお、ここでは注目領域を含む断面画像とは、注目領域の一部を切り取るような画像を指す。断面画像生成部1060は、生成した第1の断面画像と第2の断面画像を、表示制御部1070へと出力する。
ステップS2050において、断面画像生成部1060は、第1の姿勢に基づいて、第1の三次元画像から第1の注目領域を含む第1の断面画像を生成する。さらに、第2の姿勢に基づいて、第2の三次元画像から第2の注目領域を含む第2の断面画像を生成する。なお、ここでは注目領域を含む断面画像とは、注目領域の一部を切り取るような画像を指す。断面画像生成部1060は、生成した第1の断面画像と第2の断面画像を、表示制御部1070へと出力する。
まず、断面画像生成部1060は、第1の注目領域の座標系で定義される所定の断面(第1の所定の断面)を第1の三次元画像から切り出した、第1の断面画像を生成する。ここで、第1の所定の断面とは、第1の注目領域の座標系における所定の向きを有し、第1
の注目領域の座標系における所定の位置を中心に含む断面である。例えば、所定の断面として、注目領域の座標系のx−y面を、所定の向きとして、x軸を右から左、y軸を上から下に向かう向きを用いることができる。また、所定の位置として、第1の注目領域の座標系の原点を用いることができる。
の注目領域の座標系における所定の位置を中心に含む断面である。例えば、所定の断面として、注目領域の座標系のx−y面を、所定の向きとして、x軸を右から左、y軸を上から下に向かう向きを用いることができる。また、所定の位置として、第1の注目領域の座標系の原点を用いることができる。
なお、第1の注目領域の座標系上において、第1の所定の断面の向きや位置を変更するユーザからの指示(ページング等)を受け付け、その指示に応じて更新された所定の断面の断面画像を生成するようにしてもよい。また、第1の注目領域の座標系に従う方法であれば、直交3断面や他の任意断面、スラブMIPのような公知のいずれの断面画像生成法を用いてもよい。
また同様に、断面画像生成部1060は、第2の注目領域の座標系で定義される所定の断面(第2の所定の断面)を第2の三次元画像から切り出した、第2の断面画像を生成する。ここで、第1の所定の断面と第2の所定の断面は、それぞれを定義する座標系から見た位置や姿勢が同じになるように設定される。換言すると、第1の断面画像と第2の断面画像は、第1の注目領域の座標系と第2の注目領域の座標系を位置合わせしたときに同一断面になるような画像を表している。これにより、ユーザが第1の所定の断面を操作すると第2の所定の断面が連動して変化するようになる。その結果、二つの注目領域の姿勢を一致させたまま、周辺領域を対比できる。
(S2060)(断面画像の表示)
ステップS2060において、表示制御部1070は、第1の断面画像と第2の断面画像を表示部140に表示させる。ここで、図4(a)の4000と図4(b)の4010は、第1の姿勢と第2の姿勢に関する被検体や座標系を模式的に表すものである。このとき、図4(c)の4020で示される表示部140は、姿勢が揃った状態の第1の注目領域を含む第1の断面画像4030と、第2の注目領域を含む第2の断面画像4040を表示する。これにより、ユーザは、二つの断面画像をモニタ上で確認して、注目領域の同定や対比を行える。
ステップS2060において、表示制御部1070は、第1の断面画像と第2の断面画像を表示部140に表示させる。ここで、図4(a)の4000と図4(b)の4010は、第1の姿勢と第2の姿勢に関する被検体や座標系を模式的に表すものである。このとき、図4(c)の4020で示される表示部140は、姿勢が揃った状態の第1の注目領域を含む第1の断面画像4030と、第2の注目領域を含む第2の断面画像4040を表示する。これにより、ユーザは、二つの断面画像をモニタ上で確認して、注目領域の同定や対比を行える。
表示方法は任意である。例えば、一つの画面を縦または横に分割して第1および第2の断面画像をそれぞれ並べて表示してもよい。また、二つの画面に第1および第2の断面画像をそれぞれ表示してもよい。また、第1および第2の断面画像を異なる色で描画して重ね合わせて表示してもよい。また、第1および第2の断面画像のいずれか一方のみを選択可能になるように表示してもよい。この場合は、同一位置において第1と第2の断面画像の切り替え表示を可能にするGUIを設けると良い。また、一方の画像の解像度に合わせ、他方の画像を拡大または縮小して表示してもよい。また、基準位置、注目領域、輪郭形状間の距離が合うように、他方の画像を拡大または縮小して表示してもよい。
(S2070)(注目領域を変更する?)
ステップS2070において、注目領域取得部1030は、第1の注目領域または第2の注目領域を変更するか否かの判定を行う。すなわち、ステップS2060により表示された二つの断面画像を確認したユーザが、第1の注目領域と第2の注目領域が解剖学的に対応していないと判断した場合、第1の注目領域または第2の注目領域を再取得する旨の入力を行う。そして、第1の注目領域または第2の注目領域を再入力する指示を取得した場合、ステップS2030へと処理を戻す。一方、指示を取得しなかった場合はステップS2080へと処理を進める。この変更判定は、既知の画像認識技術を用いた情報処理によって行ってもよい。
ステップS2070において、注目領域取得部1030は、第1の注目領域または第2の注目領域を変更するか否かの判定を行う。すなわち、ステップS2060により表示された二つの断面画像を確認したユーザが、第1の注目領域と第2の注目領域が解剖学的に対応していないと判断した場合、第1の注目領域または第2の注目領域を再取得する旨の入力を行う。そして、第1の注目領域または第2の注目領域を再入力する指示を取得した場合、ステップS2030へと処理を戻す。一方、指示を取得しなかった場合はステップS2080へと処理を進める。この変更判定は、既知の画像認識技術を用いた情報処理によって行ってもよい。
(S2080)(終了?)
ステップS2080において、画像処理装置100は、本装置の処理を終了するか否か
の判定を行う。処理を終了させる指示を不図示のUIを介して取得した場合には、本装置の処理を終了させる。一方、指示を取得しなかった場合はステップS2050に処理を戻す。そして、断面の切り替え指示に応じて断面画像の更新を実行する。
以上によって、画像処理装置100の処理が実行される。
ステップS2080において、画像処理装置100は、本装置の処理を終了するか否か
の判定を行う。処理を終了させる指示を不図示のUIを介して取得した場合には、本装置の処理を終了させる。一方、指示を取得しなかった場合はステップS2050に処理を戻す。そして、断面の切り替え指示に応じて断面画像の更新を実行する。
以上によって、画像処理装置100の処理が実行される。
(姿勢算出処理フロー)
次に、ステップS2040で姿勢算出部1050が行う姿勢算出処理の詳細を、図5に示すフローチャートを用いて説明する。
次に、ステップS2040で姿勢算出部1050が行う姿勢算出処理の詳細を、図5に示すフローチャートを用いて説明する。
(S5000)(輪郭方位の算出)
ステップS5000において、姿勢算出部1050は、注目領域と輪郭形状の情報に基づいて、注目領域の姿勢を定義するための1つ目の軸となる輪郭方位(第1の注目領域における第1の輪郭方位と、第2の注目領域における第2の輪郭方位)を算出する。ここで、輪郭方位とは、注目領域に対して被検体の輪郭形状がどちらの方向にあるかを示す情報である。
ステップS5000において、姿勢算出部1050は、注目領域と輪郭形状の情報に基づいて、注目領域の姿勢を定義するための1つ目の軸となる輪郭方位(第1の注目領域における第1の輪郭方位と、第2の注目領域における第2の輪郭方位)を算出する。ここで、輪郭方位とは、注目領域に対して被検体の輪郭形状がどちらの方向にあるかを示す情報である。
まず、姿勢算出部1050は、注目領域中の代表点(重心位置、最先鋭位置、最大または最小画素値の位置等)を注目点として取得する。そして、注目点の近傍にある輪郭形状中の一点を、輪郭点として取得する。図6(a)と(b)の例において、6000および6030は、それぞれ第1の三次元画像中の第1の注目点、第2の三次元画像中の第2の注目点を示している。また、図6(a)の6010および図6(b)の6040は、それぞれ第1の注目領域における第1の輪郭点、第2の注目領域における第2の輪郭点を示している。
本実施形態において、輪郭点は、注目領域に対して所定の関係を満たす被検体の体表上の点である。輪郭点としては、注目点から最近傍にある輪郭形状上の点を使用できる。また、最近傍点以外にも例えば、注目点から所定の範囲内にある輪郭形状の点の代表点(重心位置等)を用いてもよい。なお、図6では、図示を簡単化するために注目点6000と輪郭点6010を同一のx−y平面上に記載している。しかし、実際の三次元画像上においては、これらの点が必ずしも同一のx−y平面上には存在するとは限らない。
次に、姿勢算出部1050は、それぞれの注目領域における輪郭方位を、輪郭点の情報に基づいて算出する。例えば、注目点から輪郭点に向かうベクトルを輪郭方位とする。図6の例において、点線6020は第1の注目領域における第1の輪郭方位、点線6050は第2の注目領域における第2の輪郭方位を示している。なお、輪郭方位の算出は、上記以外の他の方法で行ってもよい。例えば、輪郭点における輪郭形状の面(体表面)の法線ベクトルを輪郭方位としてもよい。また、輪郭点から所定の範囲内の輪郭形状の各点における輪郭形状の面(体表面)の法線群の平均でもよい。後者の場合には、輪郭点からの所定の範囲内の輪郭形状を用いる代わりに、注目点から所定の範囲内の輪郭形状を用いてもよい。この場合には、輪郭点の明示的な算出は不要となる。
(S5010)(基準方位の算出)
ステップS5010において、姿勢算出部1050は、基準位置と輪郭方位の情報に基づいて、注目領域の姿勢を定義するための2つ目の軸となる基準方位(第1の注目領域における第1の基準方位と、第2の注目領域における第2の基準方位)を算出する。ここで、基準方位とは、注目領域に対して被検体の基準部位がどちらの方向にあるかを示す情報である。
ステップS5010において、姿勢算出部1050は、基準位置と輪郭方位の情報に基づいて、注目領域の姿勢を定義するための2つ目の軸となる基準方位(第1の注目領域における第1の基準方位と、第2の注目領域における第2の基準方位)を算出する。ここで、基準方位とは、注目領域に対して被検体の基準部位がどちらの方向にあるかを示す情報である。
姿勢算出部1050は、基準位置から輪郭方位の軸に下ろした垂線の足を起点として基準位置に向かうベクトル(すなわち、輪郭方位と垂直に交差し基準位置を通過する軸)を
、基準方位として算出する。図6(a)において、第1の輪郭方位6020に垂直であり、かつ、第1の基準位置6022を通過する点線6024は、第1の注目領域における第1の基準方位を表している。同様に図6(b)において、第2の輪郭方位6050に垂直であり、かつ、第2の基準位置6060を通過する点線6070は、第2の注目領域における第2の基準方位を示している。なお、図6では、輪郭点と同様に、図示を簡単化するために注目点6000と基準位置6022を同一のx−y平面上に記載している。しかし実際の三次元画像上においては、これらの点が必ずしも同一のx−y平面上には存在するとは限らない。
、基準方位として算出する。図6(a)において、第1の輪郭方位6020に垂直であり、かつ、第1の基準位置6022を通過する点線6024は、第1の注目領域における第1の基準方位を表している。同様に図6(b)において、第2の輪郭方位6050に垂直であり、かつ、第2の基準位置6060を通過する点線6070は、第2の注目領域における第2の基準方位を示している。なお、図6では、輪郭点と同様に、図示を簡単化するために注目点6000と基準位置6022を同一のx−y平面上に記載している。しかし実際の三次元画像上においては、これらの点が必ずしも同一のx−y平面上には存在するとは限らない。
なお、ステップS2010において複数の基準部位を取得している場合には、第1の三次元画像中において第1の注目領域と最近傍の位置関係にある基準部位を、注目基準部位として選択する。そして、第1の三次元画像中における該注目基準部位の位置を第1の基準位置とする。さらに、第2の三次元画像中における当該注目基準部位の位置を第2の基準位置とする。そして、これらの基準位置に基づいて、基準方位を算出する。これにより、注目領域毎に適切な基準位置を選択できる。
(S5020)(姿勢の算出)
ステップS5020において、姿勢算出部1050は、輪郭方位と基準方位に基づいてそれぞれの注目領域の姿勢を算出する。例えば、第1の基準方位をX軸、第1の輪郭方位をY軸、二つの軸の外積をZ軸として、第1の注目領域の姿勢(第1の姿勢)を算出する。さらに、第1の姿勢と同様に、第2の輪郭方位と第2の基準方位に基づいて、第2の注目領域の姿勢(第2の姿勢)を算出する。
以上によって、ステップS2040の姿勢算出処理が実行される。
ステップS5020において、姿勢算出部1050は、輪郭方位と基準方位に基づいてそれぞれの注目領域の姿勢を算出する。例えば、第1の基準方位をX軸、第1の輪郭方位をY軸、二つの軸の外積をZ軸として、第1の注目領域の姿勢(第1の姿勢)を算出する。さらに、第1の姿勢と同様に、第2の輪郭方位と第2の基準方位に基づいて、第2の注目領域の姿勢(第2の姿勢)を算出する。
以上によって、ステップS2040の姿勢算出処理が実行される。
以上述べたように本実施形態によれば、基準部位、注目領域、輪郭形状の位置関係に基づいて注目領域の姿勢を定義できる。そして、複数の三次元画像間で注目領域の姿勢を揃えた画像を生成し、観察できるようになる。その結果、ユーザは複数の被検体画像間における注目領域の対比を良好に行える。すなわち画像処理装置は、複数の画像間での体位や被検体形状の差異を吸収して、ユーザに対して診断に適した画像を提示できる。注目領域の姿勢の算出方法が画像の輝度分布の性質に依存しないため、異なるモダリティから取得した画像間を対比する際に、特に有効である。
(変形例1−1)
本実施形態では、ステップS5000において、注目点から輪郭点に向かうベクトルを輪郭方位として算出したが、輪郭方位の算出方法はこれに限らない。例えば、注目点と輪郭点の代表点を取得せずに、注目領域の形状と輪郭形状から輪郭方位を算出してもよい。具体的には、注目領域の外形を表す注目点群と輪郭形状を表す輪郭点群を取得し、点群間において各点の最近傍の点を結ぶベクトル群を取得する。そして、ベクトル群の平均ベクトルを輪郭方位とする。このように、代表点を取得せず点群から求めたベクトル群を利用し、統計的な情報として輪郭方位を算出することにより、注目領域の近傍の輪郭が局所的に変形していた場合でもロバストに輪郭方位を算出することが可能となる。
本実施形態では、ステップS5000において、注目点から輪郭点に向かうベクトルを輪郭方位として算出したが、輪郭方位の算出方法はこれに限らない。例えば、注目点と輪郭点の代表点を取得せずに、注目領域の形状と輪郭形状から輪郭方位を算出してもよい。具体的には、注目領域の外形を表す注目点群と輪郭形状を表す輪郭点群を取得し、点群間において各点の最近傍の点を結ぶベクトル群を取得する。そして、ベクトル群の平均ベクトルを輪郭方位とする。このように、代表点を取得せず点群から求めたベクトル群を利用し、統計的な情報として輪郭方位を算出することにより、注目領域の近傍の輪郭が局所的に変形していた場合でもロバストに輪郭方位を算出することが可能となる。
<第2実施形態>
本実施形態に係る画像処理装置は、複数の三次元画像(第1の三次元画像と第2の三次元画像)の位置合わせを行う。本実施形態の画像処理装置は、第1の三次元画像中の第1の注目領域と、第2の三次元画像中の第2の注目領域の姿勢を揃えた状態で、局所領域間の画像類似度を求める。そして、画像類似度に基づいて画像間で対応する位置を対応付け、得られた対応関係を利用して第1の三次元画像と第2の三次元画像を変形して位置合わせを行う。このとき、画像類似度を求めるための領域(計算領域)は、姿勢情報に基づいて定義する。これにより、局所領域間で対応した姿勢の違いを探索することなく、変形位
置合わせを実行できる。
本実施形態に係る画像処理装置は、複数の三次元画像(第1の三次元画像と第2の三次元画像)の位置合わせを行う。本実施形態の画像処理装置は、第1の三次元画像中の第1の注目領域と、第2の三次元画像中の第2の注目領域の姿勢を揃えた状態で、局所領域間の画像類似度を求める。そして、画像類似度に基づいて画像間で対応する位置を対応付け、得られた対応関係を利用して第1の三次元画像と第2の三次元画像を変形して位置合わせを行う。このとき、画像類似度を求めるための領域(計算領域)は、姿勢情報に基づいて定義する。これにより、局所領域間で対応した姿勢の違いを探索することなく、変形位
置合わせを実行できる。
なお、本実施形態では、第1実施形態と同様に乳房を被検体の例として以下の説明を行う。ただし被検体はこれに限られない。以下、図7と図8を用いて本実施形態の構成および処理を説明する。また、本実施形態に係る画像処理装置について、第1の実施形態との相違部分についてのみ説明する。
(システム構成)
図7は、本実施形態に係る画像処理装置100を含む画像診断システムの構成を示す。ここで、第1画像装置110、第2画像装置120、データサーバ130、データ取得部1010、基準部位取得部1020、輪郭取得部1040、表示制御部1070、表示部140は、第1の実施形態と同じ機能であるため説明を省略する。
図7は、本実施形態に係る画像処理装置100を含む画像診断システムの構成を示す。ここで、第1画像装置110、第2画像装置120、データサーバ130、データ取得部1010、基準部位取得部1020、輪郭取得部1040、表示制御部1070、表示部140は、第1の実施形態と同じ機能であるため説明を省略する。
画像処理装置700は、以下の構成要素を有する。本実施形態においては、注目領域取得部1030は、第1の三次元画像における第1の注目領域群と第2の三次元画像における第2の注目領域群を取得する。姿勢算出部1050は、第1の基準位置と第1の輪郭形状に基づいて、第1の注目領域群中の第1の注目領域の姿勢を表す第1の姿勢を算出する。また同様に、第2の基準位置と第2の輪郭形状に基づいて、第2の注目領域群中の第2の注目領域の姿勢を表す第2の姿勢を算出する。
変形推定部1710は、姿勢算出部1050により算出された第1の三次元画像中の第1の注目領域の第1の姿勢と、第2の三次元画像中の第2の注目領域の第2の姿勢を用いて、注目領域を比較し、注目領域間の対応関係を取得し、画像間の変形を推定する。変形画像生成部1720は、変形推定部1710により推定された変形を第2の三次元画像に適用し、変形三次元画像を生成する。
(全体の処理フロー)
図8は、画像処理装置700が行う全体の処理手順をフローチャートで示している。ステップS8010とS8020は、それぞれ第1の実施形態におけるステップS2010、ステップS2020と同様の処理を行うため、説明を省略する。
図8は、画像処理装置700が行う全体の処理手順をフローチャートで示している。ステップS8010とS8020は、それぞれ第1の実施形態におけるステップS2010、ステップS2020と同様の処理を行うため、説明を省略する。
(S8000)(データの取得)
ステップS8000において、データ取得部1010は、画像処理装置100に入力される第1の三次元画像と第2の三次元画像を取得する。そして、基準部位取得部1020および注目領域取得部1030、輪郭取得部1040、変形推定部1710、変形画像生成部1720、断面画像生成部1060へと出力する。
ステップS8000において、データ取得部1010は、画像処理装置100に入力される第1の三次元画像と第2の三次元画像を取得する。そして、基準部位取得部1020および注目領域取得部1030、輪郭取得部1040、変形推定部1710、変形画像生成部1720、断面画像生成部1060へと出力する。
(S8030)(注目領域群を取得)
ステップS8030において、注目領域取得部1030は、第1の三次元画像から、一つ以上の注目領域を第1の注目領域群として取得する。また、第2の三次元画像から、一つ以上の注目領域を第2の注目領域群として取得する。そして、取得した第1の注目領域群と第2の注目領域群の情報を、姿勢算出部1050へと出力する。
ステップS8030において、注目領域取得部1030は、第1の三次元画像から、一つ以上の注目領域を第1の注目領域群として取得する。また、第2の三次元画像から、一つ以上の注目領域を第2の注目領域群として取得する。そして、取得した第1の注目領域群と第2の注目領域群の情報を、姿勢算出部1050へと出力する。
注目領域群の取得は、公知の画像処理手法により、それぞれの三次元画像から特徴的な構造を検出することによって行う。また、それぞれの三次元画像を表示部140へとスライス表示して、ユーザによる入力手段(マウスやキーボードなど)による入力を受け付けて注目領域群を取得してもよい。また、三次元画像に付随する情報として予めデータサーバ130に保持させた注目領域群の情報を、注目領域取得部1040が読み込むようにしてもよい。注目領域群に含まれる注目領域の数については、所定の上限数を設定して入力手段を用いたユーザ指定を受け付けても良い。また、画像解析により所定の条件を満たす
と判断された注目領域を全て注目領域群に含めてもよい。
と判断された注目領域を全て注目領域群に含めてもよい。
(S8040)(姿勢の算出)
ステップS8040において、姿勢算出部1050は、第1の注目領域群に含まれる第1の注目領域の第1の姿勢をそれぞれ求め、第1の姿勢群として算出する。また同様に、第2の注目領域群に含まれる第2の注目領域の第2の姿勢をそれぞれ求め、第2の姿勢群として算出する。そして、取得した第1の姿勢群と第2の姿勢群を、変形推定部1720へと出力する。なお、各注目領域の姿勢を算出する方法は、第1の実施形態におけるステップS2040と同様のため、説明を省略する。
ステップS8040において、姿勢算出部1050は、第1の注目領域群に含まれる第1の注目領域の第1の姿勢をそれぞれ求め、第1の姿勢群として算出する。また同様に、第2の注目領域群に含まれる第2の注目領域の第2の姿勢をそれぞれ求め、第2の姿勢群として算出する。そして、取得した第1の姿勢群と第2の姿勢群を、変形推定部1720へと出力する。なお、各注目領域の姿勢を算出する方法は、第1の実施形態におけるステップS2040と同様のため、説明を省略する。
(S8050)(計算領域の取得)
ステップS8050において、変形推定部1720は、第1の注目領域と第2の注目領域のそれぞれについて、画像間の局所領域における画像類似度を求めるために用いる計算領域を、ステップS8040で取得したそれぞれの注目領域の姿勢に基づいて取得する。計算領域は、第1の注目領域と第2の注目領域が完全には対応しないことを想定して、位置合わせをスムーズに行うために設定される領域である。
ステップS8050において、変形推定部1720は、第1の注目領域と第2の注目領域のそれぞれについて、画像間の局所領域における画像類似度を求めるために用いる計算領域を、ステップS8040で取得したそれぞれの注目領域の姿勢に基づいて取得する。計算領域は、第1の注目領域と第2の注目領域が完全には対応しないことを想定して、位置合わせをスムーズに行うために設定される領域である。
本実施形態において、第1の注目領域の計算領域は、該注目領域を含み、かつ、該注目領域の座標系で表現できる領域とする。例えば、三つの軸それぞれと平行な辺を持つ直方体の内部の領域でもよいし、三つの軸の原点を中心とした球の内部の領域でもよい。第2の注目領域の計算領域も同様である。これにより、第1の注目領域と第2の注目領域の姿勢を揃えた状態で、画像間の局所領域の画像類似度を求めることができる。
(S8060)(注目領域の対応付け)
ステップS8060において、変形推定部1720は、第1の注目領域群と第2の注目領域群の間での、注目領域の対応付けを行う。より具体的には、第1の注目領域群と第2の注目領域群から選択した第1の注目領域と第2の注目領域の組み合わせのそれぞれに関して、ステップS8050で算出した第1の計算領域と第2の計算領域との画像類似度を算出する。そして、得られた画像類似度に基づいて第1の注目領域群と第2の注目領域群から対応した注目領域の組み合わせを探索し、対応付けを行う。そして、取得した対応関係の情報を、変形画像生成部1720へと出力する。
ステップS8060において、変形推定部1720は、第1の注目領域群と第2の注目領域群の間での、注目領域の対応付けを行う。より具体的には、第1の注目領域群と第2の注目領域群から選択した第1の注目領域と第2の注目領域の組み合わせのそれぞれに関して、ステップS8050で算出した第1の計算領域と第2の計算領域との画像類似度を算出する。そして、得られた画像類似度に基づいて第1の注目領域群と第2の注目領域群から対応した注目領域の組み合わせを探索し、対応付けを行う。そして、取得した対応関係の情報を、変形画像生成部1720へと出力する。
本実施形態では、第1の注目領域群と第2の注目領域群間のすべての組み合わせで画像類似度を求める。具体的には、第1の注目領域群から選択した一つの第1の注目領域と、第2の注目領域群に含まれる第2の注目領域の組み合わせのそれぞれに関して、第1の計算領域と第2の計算領域の画像類似度を求める。そして、最も高い画像類似度を示した第1の注目領域と第2の注目領域とが画像間で対応した位置と判断し、対応付ける。これを、第1の注目領域群に含まれるすべての第1の注目領域に対して行う。
画像類似度を求める尺度としては、一般的に用いられているSum of Squared Difference(SSD)や相互情報量、相互相関係数などの公知の方法を利用できる。比較する計算領域の姿勢が予め揃っているので、画像間における局所領域の姿勢の変化の影響を受けずに対応付けを実行できる。
(S8070)(変形の推定)
ステップS8070において、変形推定部1720は、ステップS8060で取得した第1の注目領域と第2の注目領域間の対応関係に基づいて、第1の三次元画像と第2の三次元画像間の変形を推定する。そして、断面画像生成部1060へと出力する。
ステップS8070において、変形推定部1720は、ステップS8060で取得した第1の注目領域と第2の注目領域間の対応関係に基づいて、第1の三次元画像と第2の三次元画像間の変形を推定する。そして、断面画像生成部1060へと出力する。
本実施形態においては、第2の注目領域群中の第2の注目領域における第2の注目点が
、それぞれの第2の注目領域と対応付いた第1の注目領域中の第1の注目点と略一致するように変形を推定する。画像の変形モデルには、Thin Plate Spline(TPS)などの放射基底関数に基づく変形モデルやFree Form Deformation(FFD)等の公知の変形モデルを利用できる。
、それぞれの第2の注目領域と対応付いた第1の注目領域中の第1の注目点と略一致するように変形を推定する。画像の変形モデルには、Thin Plate Spline(TPS)などの放射基底関数に基づく変形モデルやFree Form Deformation(FFD)等の公知の変形モデルを利用できる。
(S8080)(変形画像の生成)
ステップS8080において、変形画像生成部1730は、ステップS8070で推定された二つの画像間の変形情報に基づいて、第2の三次元画像を第1の三次元画像と被検体の形状が略一致するように変形させた変形三次元画像を生成する。そして、得られた変形三次元画像をデータサーバ130へと保存する。また、必要に応じて、表示制御部1070を介して変形三次元画像を表示部140に表示する制御を行う。なお、いずれか一方の三次元画像を他方に対応付けるように変形してもよいし、両者を変形させて中間的な画像を生成してもよい。また、第2の三次元画像を変形させた変形三次元画像と第1の三次元画像との間の差分画像を生成してもよい。
以上によって、画像処理装置700の処理が実施される。
ステップS8080において、変形画像生成部1730は、ステップS8070で推定された二つの画像間の変形情報に基づいて、第2の三次元画像を第1の三次元画像と被検体の形状が略一致するように変形させた変形三次元画像を生成する。そして、得られた変形三次元画像をデータサーバ130へと保存する。また、必要に応じて、表示制御部1070を介して変形三次元画像を表示部140に表示する制御を行う。なお、いずれか一方の三次元画像を他方に対応付けるように変形してもよいし、両者を変形させて中間的な画像を生成してもよい。また、第2の三次元画像を変形させた変形三次元画像と第1の三次元画像との間の差分画像を生成してもよい。
以上によって、画像処理装置700の処理が実施される。
以上の手順により、基準位置、注目領域、輪郭形状の位置関係に基づいて画像間の注目領域の姿勢を揃えた状態で求めた画像類似度により、画像間で対応した位置を対応付け、対応関係に基づく画像間の位置合わせを行うことができる。その結果、ユーザが複数の画像に基づいて診断を行うときの精度が向上する。
(変形例2−1)(探索的に計算領域を変更)
本実施形態では、ステップS8060において、ステップS8050で取得した計算領域に基づいて対応付けを行っているが、探索的に計算領域を変えてもよい。この場合、一つの第2の注目領域に、形状や位置が互いに異なる複数の第2の計算領域を設定する。そして、一つの第1の注目領域における一つの第1の計算領域と、それぞれの第2の計算領域との間で画像類似度を求める。そして、最も高い画像類似度を、その注目領域の組の画像類似度とする。この方法であれば、ステップS8050を計算領域の初期位置として、より適切な計算領域を探索することができる。
本実施形態では、ステップS8060において、ステップS8050で取得した計算領域に基づいて対応付けを行っているが、探索的に計算領域を変えてもよい。この場合、一つの第2の注目領域に、形状や位置が互いに異なる複数の第2の計算領域を設定する。そして、一つの第1の注目領域における一つの第1の計算領域と、それぞれの第2の計算領域との間で画像類似度を求める。そして、最も高い画像類似度を、その注目領域の組の画像類似度とする。この方法であれば、ステップS8050を計算領域の初期位置として、より適切な計算領域を探索することができる。
このとき、注目領域と輪郭形状との距離に応じて計算領域の探索範囲を変えるようにしてもよい。ここで、複数の注目領域に関する輪郭方位を比較する。一般的に、注目領域と輪郭形状との距離が近いほど被検体の体位の変化による影響が少なくなるため、輪郭方位の一致度は高まる。よって、注目領域と輪郭形状との距離が近いほど、計算領域の探索範囲を減らすことができる。これにより、画像類似度を求めるための計算量を削減できる。
(変形例2−2)(注目領域の位置に応じて姿勢の探索範囲を変更)
本実施形態では、ステップS8060において、ステップS8040で算出した姿勢に基づいて対応付けの処理を行っているが、対応付けに利用する姿勢はこれに限らない。例えば、ステップS8040で算出した姿勢を初期姿勢として、画像間の画像類似度が高くなる姿勢を探索してもよい。
本実施形態では、ステップS8060において、ステップS8040で算出した姿勢に基づいて対応付けの処理を行っているが、対応付けに利用する姿勢はこれに限らない。例えば、ステップS8040で算出した姿勢を初期姿勢として、画像間の画像類似度が高くなる姿勢を探索してもよい。
ところで、輪郭方位は、注目領域と輪郭形状との距離が近いほど被検体の体位の変化による影響を受けにくいという特徴がある。よって、注目領域と輪郭形状との距離が近いほど、変形画像間での輪郭方位の一致度は高まる。そこで、姿勢を探索する場合に、注目領域と輪郭形状との距離に応じて、姿勢を探索する範囲を動的に変えるようにしてもよい。
より具体的には、それぞれの第1の注目領域ごとに、輪郭形状が近い場合には探索の範囲を小さく、輪郭形状が遠い場合には探索の範囲を大きく設定する。これにより、輪郭形状近傍の注目領域では、姿勢の探索範囲が小さくなる。その結果、計算量の削減や姿勢の
安定性の向上が実現できる。また、輪郭形状から遠い注目領域であっても、姿勢を全くの未知ではなく、ある程度絞り込んで探索できる。
安定性の向上が実現できる。また、輪郭形状から遠い注目領域であっても、姿勢を全くの未知ではなく、ある程度絞り込んで探索できる。
なお、探索範囲を、注目領域と輪郭形状との距離だけでなく、注目領域と基準位置との距離に基づいて変動させてもよい。例えば、基準位置が近い場合には探索の範囲を小さく、基準位置が遠い場合には探索の範囲を大きく設定する。輪郭形状と基準位置の両方を考慮してもよい。例えば、輪郭形状と基準位置それぞれに基づいて求めた探索範囲の最大値を用いる方法である。
(変形例2−3)(注目領域の位置に応じて対応付け時に類似度に信頼度を付加)
本実施形態では、ステップS8060において、ステップS8040で算出した姿勢に基づいて取得した計算領域の画像類似度を取得しているが、注目領域の位置に応じて画像類似度に信頼度を付加してもよい。ここで、信頼度とは、画像類似度にかかる重み係数のことである。具体的には、画像間で正しい位置を対応付ける処理における判断基準として、画像類似度に加えて他の指標も考慮する場合の、他の指標と比較して画像類似度が判断基準に与える影響の大きさを表している。他の指標として例えば、基準位置と注目領域までの距離がある。
本実施形態では、ステップS8060において、ステップS8040で算出した姿勢に基づいて取得した計算領域の画像類似度を取得しているが、注目領域の位置に応じて画像類似度に信頼度を付加してもよい。ここで、信頼度とは、画像類似度にかかる重み係数のことである。具体的には、画像間で正しい位置を対応付ける処理における判断基準として、画像類似度に加えて他の指標も考慮する場合の、他の指標と比較して画像類似度が判断基準に与える影響の大きさを表している。他の指標として例えば、基準位置と注目領域までの距離がある。
ここで、姿勢のずれが少ない輪郭形状近傍にある注目領域では画像類似度の信頼度を高くし、輪郭形状から離れた注目領域における画像類似度の信頼度は低くするとよい。これにより、注目領域の位置に応じた適切な信頼度を利用できる。
(変形例2−4)
本実施形態の画像処理装置では、画像類似度に基づいて局所領域の対応付けを行い、対応付け結果に基づいて画像間の変形を推定する方法を用いた。しかし、本実施形態で示した局所領域間の姿勢を揃えて画像類似度を求める方法は、局所領域の画像類似度を算出するような様々な画像位置合わせ方法に適用可能である。また、本実施形態で示した局所領域間の姿勢を揃えて画像類似度を求める方法は、画像位置合わせ以外の目的であっても、画像間の局所領域の画像類似度を求める様々な場合に適用可能である。また、本実施形態で示した局所領域間の姿勢を揃えて画像類似度を求める方法は、異なる画像間での局所領域の比較に留まらず、同一画像中の自己類似度を算出する目的にも適用可能である。
本実施形態の画像処理装置では、画像類似度に基づいて局所領域の対応付けを行い、対応付け結果に基づいて画像間の変形を推定する方法を用いた。しかし、本実施形態で示した局所領域間の姿勢を揃えて画像類似度を求める方法は、局所領域の画像類似度を算出するような様々な画像位置合わせ方法に適用可能である。また、本実施形態で示した局所領域間の姿勢を揃えて画像類似度を求める方法は、画像位置合わせ以外の目的であっても、画像間の局所領域の画像類似度を求める様々な場合に適用可能である。また、本実施形態で示した局所領域間の姿勢を揃えて画像類似度を求める方法は、異なる画像間での局所領域の比較に留まらず、同一画像中の自己類似度を算出する目的にも適用可能である。
以上述べたように、本発明によれば、被検体の解剖学的な特徴を利用することにより、三次元画像中における注目領域の姿勢を定義する方法を提供できる。また、これにより複数の三次元画像間で注目領域の姿勢を揃えることができる。
<その他の実施形態>
記憶装置に記録されたプログラムを読み込み実行することで前述した実施形態の機能を実現するシステムや装置のコンピュータ(又はCPU、MPU等のデバイス)によっても、本発明を実施することができる。また、例えば、記憶装置に記録されたプログラムを読み込み実行することで前述した実施形態の機能を実現するシステムや装置のコンピュータによって実行されるステップからなる方法によっても、本発明を実施することができる。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。この目的のために、上記プログラムは、例えば、ネットワークを通じて、又は、上記記憶装置となり得る様々なタイプの記録媒体(つまり、非一時的にデータを保持するコンピュータ読取可能な記録媒体)から、上記コンピュータに提供される。したがって、上記コンピュータ(CPU、MPU等のデバイスを含む)、上記方法、上記プログラム(プログラムコード、プログラムプロダクトを含む)、上記プログラムを非一時的に保持するコンピュータ読取可能な記録媒体は、いずれも本発明の範疇に含まれる。
記憶装置に記録されたプログラムを読み込み実行することで前述した実施形態の機能を実現するシステムや装置のコンピュータ(又はCPU、MPU等のデバイス)によっても、本発明を実施することができる。また、例えば、記憶装置に記録されたプログラムを読み込み実行することで前述した実施形態の機能を実現するシステムや装置のコンピュータによって実行されるステップからなる方法によっても、本発明を実施することができる。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。この目的のために、上記プログラムは、例えば、ネットワークを通じて、又は、上記記憶装置となり得る様々なタイプの記録媒体(つまり、非一時的にデータを保持するコンピュータ読取可能な記録媒体)から、上記コンピュータに提供される。したがって、上記コンピュータ(CPU、MPU等のデバイスを含む)、上記方法、上記プログラム(プログラムコード、プログラムプロダクトを含む)、上記プログラムを非一時的に保持するコンピュータ読取可能な記録媒体は、いずれも本発明の範疇に含まれる。
100:画像処理装置、1010:データ取得部、1020:基準部位取得部、1030:注目領域取得部、1040:輪郭取得部、1070:表示制御部
Claims (18)
- 被検体に撮像を行って得られた第1の画像データと、前記被検体に前記第1の画像データの撮像とは異なる撮像を行って得られた第2の画像データとを取得するデータ取得部と、
前記第1の画像データと前記第2の画像データの対応関係を示す情報を生成して出力する画像処理部と、
を有し、
前記画像処理部は、
前記第1の画像データにおける前記被検体の基準位置を示す第1の基準位置と、前記第2の画像データにおける前記基準位置を示す第2の基準位置とを取得し、
前記第1の画像データにおける前記被検体の注目領域を示す第1の注目領域と、前記第2の画像データにおける前記注目領域を示す第2の注目領域とを取得し、
前記第1の画像データにおける前記被検体の輪郭を示す第1の輪郭形状と、前記第2の画像データにおける前記輪郭を示す第2の輪郭形状を取得し、
前記第1の基準位置および前記第2の基準位置、前記第1の注目領域および前記第2の注目領域、ならびに、前記第1の輪郭形状および前記第2の輪郭形状に基づいて、前記対応関係を取得する
ことを特徴とする画像処理装置。 - 前記画像処理部は、
前記第1の基準位置、前記第1の注目領域および前記第1の輪郭形状に基づき前記第1の注目領域の姿勢を示す第1の姿勢を取得し、
前記第2の基準位置、前記第2の注目領域および前記第2の輪郭形状に基づき前記第2の注目領域の姿勢を示す第2の姿勢を取得し、
前記第1の姿勢および前記第2の姿勢に基づいて、前記対応関係を示す画像データを取得するための前記第1の画像データおよび前記第2の画像データの処理を行う
ことを特徴とする請求項1に記載の画像処理装置。 - 前記注目領域の姿勢は、前記被検体における前記注目領域の位置、角度、および、変形の程度の少なくともいずれかで表される
ことを特徴とする請求項2に記載の画像処理装置。 - 前記画像処理部は、前記第1の姿勢と前記第2の姿勢の間の、位置の変化、角度のずれ、変形の有無、および、変形の程度の、少なくともいずれかに基づいて、前記第1の画像データが撮像されたときと前記第2の画像データが撮像されたときの間の前記被検体の変形を表す変形情報を取得する
ことを特徴とする請求項3に記載の画像処理装置。 - 前記画像処理部は、
前記第1の注目領域の代表点と、前記第1の輪郭形状の代表点の位置関係に基づいて第1の輪郭方位を取得し、前記第1の輪郭方位を用いて前記第1の姿勢を取得し、
前記第2の注目領域の代表点と、前記第2の輪郭形状の代表点の位置関係に基づいて第2の輪郭方位を取得し、前記第2の輪郭方位を用いて前記第2の姿勢を取得する
ことを特徴とする請求項2ないし4のいずれか1項に記載の画像処理装置。 - 前記画像処理部は、
前記第1の注目領域の形状と、前記第1の輪郭形状に基づいて第1の輪郭方位を取得し、前記第1の輪郭方位を用いて前記第1の姿勢を取得し、
前記第2の注目領域の形状と、前記第2の輪郭形状に基づいて第2の輪郭方位を取得
し、前記第2の輪郭方位を用いて前記第2の姿勢を取得する
ことを特徴とする請求項2ないし4のいずれか1項に記載の画像処理装置。 - 前記画像処理部は、
前記第1の基準位置と、前記第1の輪郭方位を用いて第1の基準方位を取得し、前記第1の輪郭方位と前記第2の基準方位を用いて前記第1の姿勢を取得し、
前記第2の基準位置と、前記第2の輪郭方位を用いて第2の基準方位を取得し、前記第2の輪郭方位と前記第2の基準方位を用いて前記第2の姿勢を取得する
ことを特徴とする請求項5または6に記載の画像処理装置。 - 前記第1の輪郭形状の代表点は、前記第1の輪郭形状において前記第1の注目領域の近傍にある点、または、前記第1の輪郭形状において第1の所定の範囲内にある点の代表点であり、前記第2の輪郭形状の代表点は、前記第2の輪郭形状において前記第2の注目領域の近傍にある点、または、前記第2の輪郭形状において第2の所定の範囲内にある点の代表点である
ことを特徴とする請求項5に記載の画像処理装置。 - 前記第1の注目領域の代表点は、前記第1の注目領域の形状または画素値に基づいて取得する位置であり、前記第2の注目領域の代表点は、前記第2の注目領域の形状または画素値に基づいて取得する位置である
ことを特徴とする請求項5に記載の画像処理装置。 - 前記第1の基準位置および前記第2の基準位置は、前記被検体における解剖学的な特徴点である
ことを特徴とする請求項5ないし9のいずれか1項に記載の画像処理装置。 - 前記画像処理部が出力した前記第1の画像データと前記第2の画像データの対応関係を示す情報に基づいて、表示部に表示させるための画像データを生成する表示制御部をさらに有する
ことを特徴とする請求項1ないし10のいずれか1項に記載の画像処理装置。 - 前記表示制御部は、前記第1の注目領域を表す画像と前記第2の注目領域を表す画像を前記表示部に並べて、または重ねて、または選択可能に表示させる
ことを特徴とする請求項11に記載の画像処理装置。 - 前記画像処理部は、前記第1の画像データが撮像されたときと前記第2の画像データが撮像されたときの間の前記被検体の変形を表す変形情報を取得し、
前記表示制御部は、前記変形情報に基づいて、前記第2の注目領域を表す画像データを前記第1の注目領域を表す画像データへ対応付けるように変形させる
ことを特徴とする請求項11または12に記載の画像処理装置。 - 前記画像処理部は、前記第2の画像データにおいて前記第2の注目領域を含むような計算領域を設定し、前記第1の注目領域を表す画像データと類似する画像データを前記計算領域において探索する
ことを特徴とする請求項13に記載の画像処理装置。 - 前記画像処理部は、前記第2の注目領域と前記第2の輪郭形状の距離に応じて前記計算領域の探索範囲を変更する
ことを特徴とする請求項14に記載の画像処理装置。 - 前記第1の画像データと前記第2の画像データは、前記被検体をそれぞれ異なるモダリティで撮像して得られた画像データである
ことを特徴とする請求項1ないし15のいずれか1項に記載の画像処理装置。 - 前記第1の画像データと前記第2の画像データは、前記被検体をそれぞれ異なるときに撮像して得られた画像データである
ことを特徴とする請求項1ないし16のいずれか1項に記載の画像処理装置。 - データ取得部が、被検体に撮像を行って得られた第1の画像データと、前記被検体に前記第1の画像データの撮像とは異なる撮像を行って得られた第2の画像データとを取得するデータ取得ステップと、
画像処理部が、前記第1の画像データと前記第2の画像データの対応関係を示す情報を生成して出力する画像処理ステップと、
を有し、
前記画像処理ステップでは、
前記第1の画像データにおける前記被検体の基準位置を示す第1の基準位置と、前記第2の画像データにおける前記基準位置を示す第2の基準位置とを取得し、
前記第1の画像データにおける前記被検体の注目領域を示す第1の注目領域と、前記第2の画像データにおける前記注目領域を示す第2の注目領域とを取得し、
前記第1の画像データにおける前記被検体の輪郭を示す第1の輪郭形状と、前記第2の画像データにおける前記輪郭を示す第2の輪郭形状を取得し、
前記第1の基準位置および前記第2の基準位置、前記第1の注目領域および前記第2の注目領域、ならびに、前記第1の輪郭形状および前記第2の輪郭形状に基づいて、前記対応関係を取得する
ことを特徴とする画像処理装置の制御方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016124371A JP2017225670A (ja) | 2016-06-23 | 2016-06-23 | 画像処理装置およびその制御方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016124371A JP2017225670A (ja) | 2016-06-23 | 2016-06-23 | 画像処理装置およびその制御方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2017225670A true JP2017225670A (ja) | 2017-12-28 |
Family
ID=60888896
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016124371A Pending JP2017225670A (ja) | 2016-06-23 | 2016-06-23 | 画像処理装置およびその制御方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2017225670A (ja) |
-
2016
- 2016-06-23 JP JP2016124371A patent/JP2017225670A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9129362B2 (en) | Semantic navigation and lesion mapping from digital breast tomosynthesis | |
US9480456B2 (en) | Image processing apparatus that simultaneously displays two regions of interest on a body mark, processing method thereof and storage medium | |
US10424067B2 (en) | Image processing apparatus, image processing method and storage medium | |
JP5812841B2 (ja) | 画像診断支援装置、画像診断支援方法、画像診断支援プログラム | |
US9355448B2 (en) | Method and apparatus for image registration | |
KR101504162B1 (ko) | 의료 화상용 정보처리장치, 의료 화상용 촬영 시스템 및 의료 화상용 정보처리방법 | |
JP6541334B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
JP2022167972A (ja) | 医用画像処理方法、医用画像処理装置、医用画像処理システム及び医用画像処理プログラム | |
JP2017108769A (ja) | 画像処理装置、画像処理方法、および、画像処理装置を備える超音波診断装置 | |
JP2016116774A (ja) | 画像処理装置、画像処理方法、画像処理システム、及びプログラム | |
US20190012805A1 (en) | Automatic detection of an artifact in patient image data | |
CN114092475B (zh) | 病灶长径确定方法、图像标注方法、装置及计算机设备 | |
JP2017534316A (ja) | 画像レポート注釈同定 | |
CN111080583A (zh) | 医学图像检测方法、计算机设备和可读存储介质 | |
JP2016047217A (ja) | 画像処理方法および装置並びにプログラム | |
CN106687048A (zh) | 医学成像装置 | |
JP2019046057A (ja) | 画像処理装置、画像処理方法およびプログラム | |
US10249050B2 (en) | Image processing apparatus and image processing method | |
JP2019162314A (ja) | 情報処理装置、情報処理方法、及びプログラム | |
JP2017225670A (ja) | 画像処理装置およびその制御方法 | |
JP2023019113A (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP2015217039A (ja) | 画像処理装置、方法およびプログラム | |
WO2022054530A1 (ja) | 超音波撮影装置、方法およびプログラム | |
CN110709888B (zh) | 信息处理装置和用于控制信息处理装置的方法 | |
US20220076796A1 (en) | Medical document creation apparatus, method and program, learning device, method and program, and trained model |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20181116 |