JP6934734B2 - 画像処理装置、画像処理装置の制御方法およびプログラム - Google Patents

画像処理装置、画像処理装置の制御方法およびプログラム Download PDF

Info

Publication number
JP6934734B2
JP6934734B2 JP2017053140A JP2017053140A JP6934734B2 JP 6934734 B2 JP6934734 B2 JP 6934734B2 JP 2017053140 A JP2017053140 A JP 2017053140A JP 2017053140 A JP2017053140 A JP 2017053140A JP 6934734 B2 JP6934734 B2 JP 6934734B2
Authority
JP
Japan
Prior art keywords
image
deformation
corresponding point
acquiring
points
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017053140A
Other languages
English (en)
Other versions
JP2018153455A (ja
Inventor
和大 宮狭
和大 宮狭
佐藤 清秀
清秀 佐藤
亮 石川
亮 石川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2017053140A priority Critical patent/JP6934734B2/ja
Priority to US15/914,314 priority patent/US11010899B2/en
Publication of JP2018153455A publication Critical patent/JP2018153455A/ja
Application granted granted Critical
Publication of JP6934734B2 publication Critical patent/JP6934734B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • G06T7/0016Biomedical image inspection using an image reference approach involving temporal comparison
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/14Transformations for image registration, e.g. adjusting or mapping for alignment of images
    • G06T3/153Transformations for image registration, e.g. adjusting or mapping for alignment of images using elastic snapping
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/97Determining parameters from multiple pictures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30068Mammography; Breast

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Quality & Reliability (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Magnetic Resonance Imaging Apparatus (AREA)
  • Image Processing (AREA)

Description

本発明は、画像処理装置、画像処理装置の制御方法およびプログラムに関し、特に、核磁気共鳴映像装置(MRI)、X線コンピュータ断層撮影装置(X線CT)、超音波画像診断装置(US)など、種々の撮像装置(モダリティ)で撮像した3次元画像を処理する装置に関する。MRIはMagnetic Resonance Imaging、CTはComputed Tomography、USはUltraSonographyの略である。
医療の分野において、複数のモダリティで撮像された医用画像や、異なる日時、異なる体位、異なる撮影モードで撮像された医用画像を診断に利用するためには、被検体内の注目点を夫々の医用画像間で同定する(対応付ける)ことが重要である。注目点には、画像処理による自動同定が可能なものがある一方で、モダリティの違いや被検体の変形等の影響で自動同定が困難なものも存在する。そのため、医師等は、画像を見ながら同定作業を目視で行うことが一般的である。
また、同種の目的のために、複数の画像を位置合わせして表示することや、位置合わせした画像間の差分画像を表示することが試みられている。このとき、高精度な位置合わせを実現するために、ユーザが目視で同定した対応点を取得して位置合わせ処理に用いることがしばしばなされている。
非特許文献1には、位置合わせ対象のデータだけでなく、ユーザが目視で同定した特徴点の組(対応点)を位置合わせ処理に用いている。より具体的には、医用画像などに含まれる解剖構造の形状間において、夫々の形状の一致度とユーザが同定した対応点の一致度の両方の拘束条件を考慮したコスト関数を、非線形最適化手法で最適化することで位置合わせする手法が開示されている。このとき、物理的に不自然な変形になることを抑制するための正則化項をコスト関数に付加することが、一般的に行われている。
Xiaolei Huang,Nikos Paragios,and Dimitris N.Metaxas,"Shape Registration in Implicit Spaces Using Information Theory and Free Form Deformations",IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MACHINE INTELLIGENCE,VOL.28,NO.8,AUGUST 2006.
しかし、非特許文献1の技術では、対応点の一致度以外の拘束条件の働きにより対応点位置における位置合わせ精度が不十分であるという課題があった。
本発明は、上記の課題に鑑みてなされたものであり、2つの画像データの間で、対応点を高精度に一致させつつ、全体として所望の位置合わせを行うための技術を提供することを目的とする。
上記の目的を達成する本発明に係る画像処理装置は、以下の構成を備える。即ち、
第1の画像と第2の画像との間で被検体の特徴点を対応付けた対応点を取得する対応点取得手段と、
前記対応点に基づく第1の変形を取得する第1の変形取得手段と、
前記第1の画像と前記第2の画像との間で画像の輝度情報を一致させることを含む第2の変形を取得する第2の変形取得手段と、
前記第1の画像と前記第2の画像との少なくとも一方の画像上の各位置について、前記対応点から該位置への距離に基づいて、前記第1の変形と前記第2の変形とを合成する合成手段と、
を備えることを特徴とする。
本発明によれば、2つの画像データの間で、対応点を高精度に一致させつつ、全体として所望の位置合わせを行うことが可能となる。
第1の実施形態に係る画像処理装置の機器構成を示す図である。 第1の実施形態における全体の処理手順を示すフローチャートである。 位置合わせ対象である第1の画像と第2の画像の一例を示す図である。 第1の画像と第2の画像の間の対応点の一例を示す図である。 画像上の所定位置における第1の変位場の合成比率のグラフを示す図である。 第2の実施形態における全体の処理手順を示すフローチャートである。 第3の実施形態における全体の処理手順を示すフローチャートである。 第4の実施形態に係る画像処理装置の機器構成を示す図である。 第4の実施形態における全体の処理手順を示すフローチャートである。
以下、図面を参照しながら実施形態を説明する。なお、以下の実施形態において示す構成は一例に過ぎず、本発明は図示された構成に限定されるものではない。
(第1の実施形態)
<概要>
本実施形態に係る画像処理装置は、3次元画像である第1の画像と第2の画像の変形位置合わせを行う。このとき、画像間で対応付けられた対応点を高精度に一致させる第1の変形と、所望の拘束条件に基づく位置合わせを行う第2の変形とを、対応点からの距離に応じた割合で合成する。より具体的には、対応点に近い位置ほど第1の変形の変位場の合成比率が高くなり(特に対応点上では合成比率=1.0)、対応点からの距離が離れるにつれ、第2の変形の変位場の合成比率が高くなるように、2つの変位場を合成する。これにより、対応点に近いほど、対応点を高精度に一致させる第1の変形がより大きく影響し、対応点から離れるにつれて所望の拘束条件の第2の変形がより大きく影響する変形結果を取得できる。そのため、画像間で対応点は高精度に一致させつつ、全体として所望の位置合わせを行うことができる。なお、第1の変形は必ずしも対応点を一致させる変形である必要はなく、第2の変形よりも相対的に対応点の一致度が高い変形であればよい。また、第2の変形は、全体としての精度の期待値が第1の変形よりも高い変形であれば、いずれの変形であってもよい。
<構成>
以下、図1乃至図6を用いて、本実施形態の構成及び処理を説明する。
図1は、本実施形態に係る画像処理システム及び画像処理装置の構成例を示す。同図に示すように、本実施形態における画像処理システムは、画像処理装置1000、データサーバ110、および表示部120を備えている。画像処理装置1000は、データサーバ110および表示部120と接続されている。
データサーバ110は第1および第2の画像を保持する。ここで、第1および第2の画像は、異なる条件(異なるモダリティ、撮像モード、日時、体位等)で被検体を予め撮像して得られた3次元断層画像(ボリュームデータ)である。3次元断層画像を撮像するモダリティは、MRI装置、X線CT装置、3次元超音波撮影装置、光音響トモグラフィ装置、PET/SPECT、OCT装置などであってもよい。PETは、Positron Emission Tomographyの略であり、SPECTはSingle Photon Emission Computed Tomographyの略である。OCTはOptical Coherence Tomographyの略である。第1および第2の画像は、例えば、異なるモダリティや異なる撮像モードで同時期に撮像されたものであってもよい。また、経過観察のために同一患者を同一モダリティ、同一体位で異なる日時に撮像した画像であってもよい。第1および第2の画像は、データ取得部1010を介して画像処理装置1000に入力される。
表示部120は液晶モニタ等であり、画像処理装置1000が生成する表示画像等の各種の情報を表示する。また、表示部120には、ユーザからの指示を取得するためのGUI(Graphical User Interface)も配置されている。
画像処理装置1000は、データ取得部1010と、対応点取得部1020と、第1の変形取得部1030と、第2の変形取得部1040と、変形合成部1050と、画像生成部1060と、表示制御部1070とを備えている。
データ取得部1010は、画像処理装置1000へと入力される第1および第2の画像を取得する。対応点取得部1020は、第1および第2の画像上で対応する対応点の位置情報を取得する。第1の変形取得部1030は、第1の画像と第2の画像との間で対応点を高精度に一致させる第1の変形位置合わせを行い、第1の画像と第2の画像との間の変形を表す第1の変位場を取得する。第2の変形取得部1040は、所定の拘束条件に基づく第2の変形位置合わせを行い、第1の画像と第2の画像との間の変形を表す第2の変位場を取得する。変形合成部1050は、第1の変位場と第2の変位場とを対応点からの距離に応じた比率で合成した合成変位場を生成する。画像生成部1060は、第1の画像を合成変位場に基づいて変形させた変形画像や、第2の画像と変形画像との差分画像などを生成する。表示制御部1070は、第1の画像、第2の画像、変形画像、差分画像の断層画像などの情報を表示部120に表示させる制御を行う。
ここで、本実施形態において画像処理装置1000で行われる画像の変形とその際に用いる変位場について説明する。本実施形態では、画像間で位置合わせする際の変形をΦと表記する。さらに、本実施形態では、変形Φによる位置合わせの適切さを評価する評価関数(コスト関数)を定義し、該評価関数を最小化するような変形Φを推定する。このとき推定された変形Φは変位場によって表現される。ここで、変位場の形態は、画像上の各位置を変位させる変位ベクトルからなる変位ベクトル場であってもよいし、空間的な場で表現されておらずとも、画像上の任意の位置を変位可能な所定の変換モデルが有する変換パラメータの形で表わされていてもよい。また、本実施形態では、変形Φとして、第1の画像を変形させて第2の画像に位置合わせするための変位場を推定するものとする。
このとき、第1の画像を変形させる変位場として、第1の画像の各座標において第2の画像へ向かう方向の変位量を有する変位場(この方向の変位場をΦとする)を算出すると、必ずしも変形先である第2の画像上の全ての座標に対応する変位量が取得されない。従って、この変位場Φを用いて第1の画像上の各画素値を第2の画像上にマッピングすると、穴あきの変形画像が生成されてしまう。そこで、本実施形態では、第1の画像を変形させる変位場として、第2の画像上の各座標において第2の画像から第1の画像へ向かう方向の変位量を有する変位場(上述の逆の方向の変位場Φ−1)を算出する。これにより、逆の変位場Φ−1を用いて第2の画像上の各座標に対応する第1の画像上の位置の画素値を参照して持ってきて、第2の画像上にマッピングすることで、穴のない第1の画像の変形画像を生成できる。すなわち、本実施形態では、第1の画像を第2の画像に位置合わせするための変形Φを表す変位場として、逆方向の変位場Φ−1を求めるものとする。
<処理>
図2は、本実施形態に係る画像処理装置1000が行う全体の処理手順を示すフローチャートである。
(S2010:データの取得)
ステップS2010において、データ取得部1010は、データサーバ110から、第1の画像と第2の画像を取得する。そして、第1および第2の画像を、対応点取得部1020、第2の変形取得部1040、画像生成部1060、および表示制御部1070へと出力する。
図3は、位置合わせ対象である第1の画像と第2の画像の一例を示す図である。図3の3010は第1の画像、3020は第2の画像を示している。それぞれの画像は例えばCTやMRI、3D超音波画像などの3次元のボリュームデータを表すが、3010、3020は、紙面が2次元である都合上、ボリュームデータからx−y平面に平行に切り出された断面画像の形式で示されている。また、3030、3040は、それぞれ、第1の画像上の被検体の領域、第2の画像上の被検体の領域を示している。図3の例では、第1の画像と第2の画像は異なる種類のモダリティの撮像画像であり、被検体が人体における乳房である場合を示している。図3の例では、第1の画像と第2の画像の間で、被検体の領域(乳房)は大きく変形している。
(S2020:対応点の取得)
ステップS2010において、対応点取得部1020は、第1の画像と第2の画像の間における解剖学的に対応する特徴点(対応点)の位置情報を取得する。そして、取得した対応点の位置情報を第1の変形取得部1030、第2の変形取得部1040、そして、変形合成部1050へと出力する。
図4は、第1の画像と第2の画像の間の対応点の一例を示す図である。図4において、第1の画像3010上の点A1〜A3、および第2の画像3020上の点B1〜B3は、2つの画像間の対応点(乳頭や血管分岐部)であり、点A1〜A3は夫々点B1〜B3と対応している。なお、図4では、図示を簡潔にするため夫々の対応点が同一平面(断面)上に存在しているように図示しているが、実際の対応点は夫々の画像(第1の画像および第2の画像)が定義する3次元空間中に分布している。このような対応点の取得方法として、例えば、まず第1の画像、第2の画像に、それぞれインタレストオペレータ等の公知の画像特徴点抽出処理を施して、それぞれの画像から乳頭や血管分岐等の解剖学的な特徴点を抽出する。その後、抽出されたそれぞれの特徴点の間で、1対1に対応付けすることによって対応点の組を生成する処理を行う。これは、各画像上の特徴点ごとに特徴点近傍に関心領域を設定し、画像間で関心領域の画像類似度が高くなる特徴点同士を対応付けすることで行う。
なお、対応点の取得方法は、上記の方法に限られるものではなく、表示部120上に第1の画像と第2の画像を表示させ、ユーザが不図示の操作部を用いて手動で対応点を入力することで取得するようにしてもよい。また、第1の画像および第2の画像の付帯情報としてデータサーバ110が画像間の対応点群の座標情報を予め保持している場合には、これをデータサーバ110から入力する構成であってもよい。
(S2030:対応点を一致させる第1の変形の取得)
ステップS2030において、第1の変形取得部1030は、対応点取得部1020から取得した対応点を用いて、これらの対応点を高精度に一致させる第1の変形位置合わせ(第2の画像から第1の画像への変形を表す第1の変位場の推定)を実行する。このとき、第1の変形位置合わせによって推定された変形Φを、第1の変位場Φ −1と定義する。そして、生成した第1の変位場Φ −1を変形合成部1050へと出力する。
ここで、本ステップで定義する評価関数を、第1の評価関数E1(Φ)と称する。本実施形態では、画像間で対応点を一致させるために、第1の評価関数を構成する指標として、次式で表わされる、第1の画像と第2の画像の間における対応点の位置の乖離度項L(Φ)を適用する。
Figure 0006934734
ここで、Φ −1(x)は、第1の変形Φを表現する変位場Φ −1によって第2の画像上の座標xを第1の画像に向けて変位させた座標を表す。また、(xAi,xBi)は、第1の画像と第2の画像上におけるi番目の対応点AiとBiの座標の組を表す。また、Nは対応点の数を表す。
第1の変形取得部1030は、第1の評価関数E1を最小化するように、変形Φを表現する所定の変換モデルの変換パラメータを最適化する。これにより、画像内の被検体全体の位置合わせとして、対応点を一致させるという点で最適な変形が推定される。本実施形態では、変形Φを表現する所定の変換モデルとして、評価関数E1の最適化により対応点を一致させる変形を導出可能な変換モデルを用いる。例えば、第2の画像上の夫々の対応点位置(すなわち、xBi)を基準点とした放射基底関数で構成される変換モデルを適用する。ここで、放射基底関数とは、所定の基準点からの距離のみに依存して値が定まる関数を意味しており、Radial Basis Function(RBF)とも表記する。放射基底関数に基づく変形推定手法は、(1)式の評価関数E1を最適化することで、理論上は画像間で対応点を完全に一致させられる(E1=0にできる)という特徴を有している。実際には、計算上の誤差により完全には一致しないが、対応点間の位置誤差を限りなく0に近づけられるため、高精度に対応点を一致させることができる。本実施形態では、放射基底関数として、変形の曲げエネルギーを最小化できる、つまり滑らかな変形が得られるThin Plate Spline(TPS)を適用する。但し、放射基底関数はこれに限らず、ガウス関数など、どのような放射基底関数であってもよい。さらに、適用する変換モデルは、対応点を一致させる評価関数E1を最適化可能であり、かつ高精度に対応点を一致させられる手法であれば、放射基底関数に限らず、どのような手法を用いてもよい。例えば、Free Form Deformation(FFD)や、Large Deformation Diffeomorphic Metric Mapping(LDDMM)など、変形を表現できる公知の何れの変換モデルであってもよい。なお、第1の変形は必ずしも対応点を一致させる変形である必要はなく、後述する第2の変形よりも相対的に対応点の一致度が高い変形であればよい。例えば、第2の変形よりも正則化項の重みを小さくした第2の変形と同様な変形モデルによる変形を用いてもよい。
(S2040:所望の拘束条件に基づく第2の変形の取得)
ステップS2040において、第2の変形取得部1040は、対応点取得部1020から取得した対応点を用いて、所望の拘束条件に基づく第2の変形位置合わせ(第2の画像から第1の画像への変形を表す第2の変位場の推定)を実行する。このとき、第2の変形位置合わせによって推定された変形Φを、第2の変位場Φ −1と定義する。そして、生成した第2の変位場Φ −1を変形合成部1050へと出力する。
ここで、本ステップで定義する評価関数を、第2の評価関数E2(Φ)と称する。本実施形態では、変形における所望の拘束条件を、ステップS2030における対応点を一致させる拘束条件(評価関数E1(Φ))に加え、画像間で画像全体の輝度情報を一致させ、かつ物理的に不自然な変形にならないこととする。このような拘束条件を満たすために、第2の評価関数を構成する指標として、次式で表わされる、対応点の乖離度項L(Φ)(=E1(Φ))、画像類似度項S(Φ)および正則化項R(Φ)からなる式を適用する。
Figure 0006934734
ここで、画像類似度項をS(Φ)=S(Φ(I),I)と定義する。ただし、Iは第1の画像、Iは第2の画像を表す。また、Φ(I)は、変位場Φ−1を用いて画像Iを変形させた変形画像を表す。画像類似度を計算する尺度としては、一般的に用いられているSum of Squared Difference(SSD)や相互情報量、相互相関係数などの公知の手法を用いるものとする。本実施形態では、例えば、相互情報量を適用する。また、R(Φ)は、変形Φが物理的に不自然にならないように、変形が所定の物理モデルから逸脱することに対してペナルティを与える正則化項である。正則化項としては、一般的に用いられている曲げエネルギー正則化や、体積保存正則化を用いるものとする。本実施形態では、例えば、体積保存正則化を適用する。また、λとλは夫々、類似度項S(Φ)と正則化項R(Φ)の重みを表し、本実施形態では、例えば、λ=1.0、λ=1.0を適用する。
なお、本実施形態における評価関数E2は、(2)式の形に限定されるものではなく、L(Φ)・S(Φ)・R(Φ)の何れかの項がなくてもよい。また、R(Φ)は例えば曲げエネルギー正則化と体積保存正則化など複数の正則化からなるものであってもよい。また、評価関数E2はユーザが所望する拘束条件を表現できるものであれば、どのような評価関数であってもよい。例えば、被検体の表面形状を一致させる形状項などを含むようにしてもよい。但し、後述するステップS2050において2種類の変位場を合成する性質上、評価関数E2は、評価関数E1すなわち対応点の乖離度項L(Φ)を含むものであることが望ましい(詳細な理由は後述する)。
第2の変形取得部1030は、第2の評価関数E2を最小化するように、変形Φを表現する所定の変換モデルの変換パラメータを最適化する。これにより、画像内の被検体全体の位置合わせとして、所望の拘束条件を満たすという点で最適な変形が推定される。本実施形態では、任意の評価関数に基づいて変形推定が可能な手法であるFFDを変換モデルとして適用し、非線形最適化処理によって評価関数の最適化を行う。
なお,適用する変換モデルやその最適化手法は、所望の拘束条件を付加した評価関数に基づいて変形推定が可能なモデルや手法であれば、何れのモデルや手法であってもよい。また、第2の変形は、全体としての精度の期待値が第1の変形よりも高い変形であれば、いずれの変形であってもよい。
(S2050:対応点からの距離に基づく第1と第2の変形の合成)
ステップS2050において、変形合成部1050は、対応点取得部1020から取得した対応点からの距離に基づき、第1の変位場Φ −1と第2の変位場Φ −1を合成した合成変位場Φ1+2 −1を生成する。そして、生成した合成変位場Φ1+2 −1を画像生成部1060へと出力する。
以下に、具体的な処理を説明する。変形合成部1050は、第2の画像上の各座標において、第2の画像上の対応点からの距離に基づいて、第1の変位場Φ −1と第2の変位場Φ −1を合成する。このとき、第1の変位場Φ −1と第2の変位場Φ −1は夫々、上述のとおり第2の画像上の各座標において、第1の画像へと向かう逆方向の変位場として取得されている。従って、以下の式のように、第2の画像上の各座標xにおいて、単純に第1の変位場Φ −1と第2の変位場Φ −1の変位量を所定の合成比率で重み付けして足し合わせるだけで、第2の画像上の各座標において合成された変位量を有する合成変位場を取得できる。
Figure 0006934734
ここで、w(x)およびw(x)は夫々、第2の画像上の座標xにおいて第1の変位場および第2の変位場を合成する合成比率を表している。両者はw(x)+w(x)=1.0の関係を満たしている。なお、合成比率w(x)およびw(x)は、次式のように、注目する座標xに対して、第2の画像上の各対応点Bi(1≦i≦N)からの距離に基づいて算出される。
Figure 0006934734
Figure 0006934734
ここで、xBiは第2の画像上のi番目の対応点の座標を表わす。(4)式におけるg(x|μ,σ)は、座標μを平均、σを分散とする正規化係数を除いたガウス関数であり、座標μにおいて最大値1をとり、μから離れるにつれμを中心に放射的に値が小さくなり0に近づく関数である。このガウス関数は、放射基底関数の一種である。ここで、放射基底関数は、ステップS2030に記載した通り所定の基準点からの距離のみに依存して値が定まる関数である。
従って、(4)式のg(x|xBi,σ)ように、平均μが対応点座標xBiの場合は、対応点座標xBiで最大値1をとり、対応点座標xBiから離れるにつれ値が小さくなり0に近づいていく放射基底関数となる。本実施形態では、例えばσ=1.0を適用する。さらに、1−g(x|xBi,σ)のように、この放射基底関数を1から減算することで、対応点座標xBiで最小値0をとり、点xBiから離れるにつれ値が大きくなり最大値1に近づいていく放射基底関数となる。これを放射基底関数r(x|xBi)と定義する。そして、(4)式のように合成比率w(x)として、放射基底関数r(x|xBi)を対応点の数Nだけ乗算することによって統合すると、全ての対応点の位置において必ず最小値0をとり、何れの対応点からも離れるにつれて最大値1に近づくような関数(合成比率関数)が得られる。これは、ある座標xにおいて複数の関数を掛け合わせるとき、何れか一つでも関数の値が0であれば結果も必ず0になり、複数の関数全ての最大値が1であれば、それらを掛け合わせた関数の最大値も1になるという性質があるためである。このようにして得られた合成比率w(x)は、対応点からの距離のみに応じて値が決まる夫々の放射基底関数r(x|xBi)を乗算した関数なので、w(x)も夫々の対応点からの距離に応じて値が決まる関数といえる。
なお、本実施形態では、(4)式において関数gとしてガウス関数を用いたが、これに限られるものではなく、対応点上で最大値1をとり、対応点からの距離が離れるにつれ値が減少する放射基底関数であれば何であってもよい。また、w(x)は、全ての対応点の位置において必ず0をとり、何れの対応点からも離れるにつれて1に近づく関数であれば何でもよく、必ずしも(4)式で表現される必要はない。最後に、(5)式のように合成比率w(x)として、1から合成比率w(x)を減算することで、全ての対応点の位置において必ず1をとり、何れの対応点からも離れるにつれて0に近づくような関数が得られる。従って、w(x)も放射基底関数であり、夫々の対応点からの距離に応じて値が決まる関数である。
なお、本実施形態では、合成比率関数は、各放射基底関数の乗算で表される関数としたが、これに限られるものではなく、放射基底関数を統合して得られるものであれば何であってもよい。例えば、各対応点上で全ての放射基底関数を重み付けした上で加算したときの和の値が0をとるような関数を適用することができる。これは、以下のようにして求めることができる。まず、各放射基底関数を加算する際の重みを未知の値、全ての放射基底関数の重み付け和によって表される合成比率関数の対応点上の値を既知の値0とする。そして、(対応点における全ての放射基底関数の重み付け和)=0となるような連立方程式を対応点の数だけ立てて解くことで、未知数である全ての放射基底関数の重みを算出することができる。そして、合成比率関数は、このようにして算出された重みを有する放射基底関数の和で表すことができ、対応点上で値0をとる。なお、このまま合成比率関数を採用すると、放射基底関数の和で表されるため、対応点から離れた場所では値が1を超えてしまう。そこで最後に、合成比率関数全体を放射基底関数の数(対応点の数)Nで割って正規化することで、合成比率関数の最大値を1とすることができる。なお、対応点上では合成比率関数の値は0であるため、正規化後も値は0となることは保障される。
図5は、画像上の所定位置における第1の変位場の合成比率のグラフを示す図である。図5において、5010は、第2の画像3020上のあるy,z座標におけるx方向の第1の変位場の合成比率w(x)を表わすグラフである。5020は、グラフ5010に対応する、あるy,z座標におけるx方向のラインを表わす。さらに、グラフ5010上の曲線5030は、合成比率w(x)の関数の形状を表わす。そして、曲線5030上の点b1・b2・b3は夫々、x座標が対応点B1・B2・B3に対応する合成比率w(x)の値を表わす。この図において、曲線5030上の点b2に関して、対応する点B2がちょうどライン5020上に位置するため、点B2に対応する放射基底関数r(x|xB2)が値0となり、w(xB2)も0となる。従って、点b2における値がw(xB2)=1.0をとっていることが分かる。また、点b3に関しては、対応する点B3がライン5020上にはないが近くに位置する。そのため、ライン5020上の位置が点B3に対応する放射基底関数r(x|xB3)から受ける影響が比較的大きくなり、点b3における値w(xB3)も大きな値をとっていることが分かる。一方、点b1に関しては、対応する点B1がライン5020から遠く離れている。そのため、ライン5020上の位置が点B1に対応する放射基底関数r(x|xB1)から受ける影響は多少はあるが小さくなり、点b1における値w(xB1)も小さな値をとっていることが分かる。このように、ライン5020上の位置において、何れかの対応点に近い位置ほど(点B2付近など)第1の変位場の合成割合が大きくなり、何れの対応点からも離れた位置ほど(ライン5020の中央付近など)第2の変位場の合成割合が大きくなることが分かる。実際には、通常対応点は3次元の画像空間中に疎に分布しているため、対応点近傍は対応点を高精度に一致させる第1の変位場の影響が大きく、それ以外の大部分の領域は所望の拘束条件に基づく第2の変位場の影響が大きくなる。従って、対応点は高精度に一致させ、画像全体としては所望の位置合わせを実現することができる。
なお、第2の変位場は、所望の拘束条件に基づくものであるため、位置合わせのための評価関数E2はステップS2020の(2)式となるように必ずしも対応点の乖離度項L(Φ)を含まなくともよい。しかしながら、下記の理由から、L(Φ)を含むようにした方がより適切な位置合わせを実現できる。すなわち、評価関数E2が対応点の乖離度項L(Φ)を含まない場合、第2の変位場による変形は対応点の残差が大きく発生する可能性がある。従って、第2の変位場と対応点を高精度で一致させる第1の変位場との間で、対応点の周辺における変位場の相違が大きく発生してしまう。その結果、両者を合成した合成変位場は、対応点の周辺での変位場の変化が激しくなり、不自然な変形結果になってしまう可能性がある。評価関数E2にもL(Φ)を含むようにすることで、第2の変位場は、対応点間の残差は発生するものの、対応点が概ね一致するような変位場にすることができる。従って、対応点近傍における第1の変位場との変位場の違いがあまり発生しないため、2つの変位場を合成した結果、より自然な位置合わせを行うことができる。
(S2060:画像の生成)
ステップS2060において、画像生成部1060は、変形合成部1050から取得した合成変位場に基づいて、データ取得部1010から取得した第1の画像を変形させた変形画像を生成する。また、データ取得部1010から取得した第2の画像と生成した変形画像との間で減算を行った差分画像を生成する。本実施形態では、差分画像は、第2の画像から変形画像を減算することで生成する。なお、必要に応じて、第1の画像の形状に一致するように第2の画像を変形させた変形画像(逆変形画像)を、合成変位場に基づいて生成することもできる。また、減算する方向はその逆であってもよい。また、変形画像と差分画像の何れか一方を生成しなくてもよい。そして、画像生成部1060は、生成した変形画像と差分画像とを表示制御部1070へと出力する。また、生成した画像をデータサーバ110へと出力して保存する。
(S2070:画像の表示)
ステップS2070において、表示制御部1070は、ユーザによる不図示のUIの操作に応じて、取得した画像を表示部120へと表示する制御を行う。具体的には、データ取得部1010から取得した第1の画像と第2の画像、および画像生成部1060から取得した変形画像と差分画像の断面画像を表示する制御を行う。このとき、第1の画像を変形させた変形画像と、第2の画像とを並べて表示するように構成することができる。さらに、第1の画像を加えて、第2の画像および変形画像とともに並べて表示する構成であってもよい。また、変形画像と差分画像は、ユーザの操作に応じて、1つの表示画面領域内で切り替えて表示できるような構成であってもよい。なお、変形画像や差分画像の表示を行わない構成であってもよい。以上によって、画像処理装置1000の処理が実施される。
以上説明したように、本実施形態によれば、対応点に近いほど、対応点を高精度に一致させる第1の変形がより大きく影響し、対応点から離れるにつれて所望の拘束条件の第2の変形がより大きく影響した変形結果を取得できる。そのため、画像間で対応点は高精度に一致させつつ、画像全体として所望の拘束条件に従った位置合わせを行うことができる。
(変形例1−1:第1の画像上の対応点からの距離に基づいて変位場を合成してもよい)
第1の実施形態では、ステップS2050において、第2の画像上の対応点からの距離に基づいて、第1の変位場と第2の変位場を合成していた。しかし、第1の画像上の対応点からの距離に基づいて、2つの変位場を合成するようにしてもよい。ここで、本実施形態における変形Φは、ステップS2020に記載したとおり第2の画像上の各座標について第2の画像から第1の画像へと向かう方向の変位量を有する逆方向の変位場Φ−1で表わされる。そこで、この変位場Φ−1を用いて第2の画像上の各座標に対応する第1の画像上の位置を参照することで、合成比率を算出する。すなわち、以下の式のように変位場Φ−1を介して第2の画像上の座標に対応する第1の画像上の各参照位置における第1の画像上の各対応点Ai(1≦i≦N)からの距離に基づいた比率を算出できる。
Figure 0006934734
ここで、w(x)は、第1実施形態の(4)式の代わりに、第2の画像上の座標xにおいて第2の変位場を合成する合成比率を表している。また、Φ−1(x)は、変位場Φ−1を用いて第2の画像上の座標xを第1の画像に向けて変位させた座標を表す。ここで、座標xを第1の画像上の座標Φ−1(x)に変換するために、変位場Φ−1として何らかの変位場を与える必要があるが、当然、合成比率を算出する前の段階では、目的とする合成変位場は取得されていない。従って、ここでは、Φ−1(x)として、第1の変位場Φ −1(x)を適用する。但し、Φ−1(x)はこれに限られるものではなく、第2の変位場Φ −1(x)であってもよい。さらに、第1の変位場Φ −1(x)と第2の変位場Φ −1(x)とを決まった比率(例:同じ比率)で合成した変位場であってもよい。
さらに、第1の画像上の対応点からの距離と、第2の画像上の対応点からの距離との両方に基づいて、変位場を合成してもよい。このとき、合成比率は以下の式で算出できる。
Figure 0006934734
ここで、w(x)は、第1実施形態の(4)式や上述の(6)式の代わりに、第2の画像上の座標xにおいて第2の変位場を合成する合成比率を表している。また、aは、第1の画像上の対応点からの距離を利用する比率、bは、第2の画像上の対応点からの距離を利用する比率を表しており、a+b=1.0を満たす。ここでは、例えば、a=0.5、b=0.5を適用する。
以上説明したように、本変形例によれば、第1の画像上の対応点からの距離に基づいて変位場を合成することで、第1の画像上の対応点の位置関係を考慮した合成変位場を取得できる。
(変形例1−2:対応点の信頼度に基づいて合成比率を算出してもよい)
第1の実施形態では、対応点上で必ずw(x)=1となるように合成比率を算出する、つまり、対応点が必ず合致するように2つの変位場を合成していた。しかし、対応点上で必ずしもw(x)=1とならないように合成比率を算出してもよい。例えば、対応点ごとに、その対応関係に関する信頼度を設定し、信頼度に応じて合成比率を算出してもよい。より具体的には、対応点の信頼度が高ければ、w(x)の値を1に近付けることでより対応点が一致するように2つの変位場を合成する。一方、対応点の信頼度が低ければ、w(x)の値を0に近付けることで、より対応点が一致しなくてもいいように2つの変位場を合成する。このとき、合成比率は以下の式で表わされる。
Figure 0006934734
ここで、w(x)は、第1実施形態の(4)式の代わりに、第2の画像上の座標xにおいて第2の変位場を合成する合成比率を表している。また、Ciは、0≦Ci≦1.0を満たす比率であり、対応点ごとの信頼度を表わしている(1≦i≦N)。(8)式において、対応点上で最大値1.0をとるガウス関数g(x|xBi,σ)に信頼度Ciを掛け合わせた関数は、対応点上で最大値Ciをとるような放射基底関数となる。従って、信頼度Ciが低くなると、第2の変形の合成比率w(x)のi番目の対応点周辺の最小値が0.0よりも増加するようになる、つまり、第1の変形の合成比率w(x)のi番目の対応点周辺の最大値が1.0よりも減少するようになる。このように、対応点ごとにその信頼度に応じた合成比率を設定することができる。
信頼度Ciは、例えばユーザが指定した対応点ならば高く設定し、ステップS2020に記載したようにコンピュータが自動検出した対応点ならば低く設定する。例えば、ユーザが指定した点ならばCi=1.0、コンピュータが自動検出した点ならば0≦Ci≦1.0を設定する。さらに、コンピュータが自動検出した点は、ステップS2020で特徴点間を対応点として対応付ける際に算出した、画像間の特徴点近傍の関心領域の画像類似度の大きさに応じて値を決めることができる。例えば、特徴点ごとの画像間の画像類似度をSi(0≦Si≦1.0)と定義すると、Ci=Siとして信頼度Ciを算出する。また、信頼度Ciは、例えば、画像間で取得されている対応点の信頼性が被検体の表面形状から離れるにつれて低下するような場合に、被検体の表面形状からの距離に応じて算出してもよい。その場合、信頼度Ciは、非検体の表面形状からの距離に反比例する値にすることで、表面形状に近いほど信頼度Ciが高く、遠いほど信頼度Ciが低くなるように値を設定することができる。また、ユーザが対応点を指定する場合において、夫々の対応点の対応の確信度を不図示のUIを介してユーザが指定できるようにして、該確信度に基づきCiを定めるようにしてもよい。確信度の与え方は、例えば、0〜1の値を無段階で与える形式を用いることができる。この場合、確信度をそのままCiとして用いることができる。このとき、確信度が一定以下の対応点については、式(8)の積の対象から除外するようにしてもよい(Ci=0とするのと同値となる)。また、「確実に一致させる」「概ね一致させる」といったラベルのみを不図示のUIを介してユーザが夫々の対応点に対して指定し、「確実に一致させる」対応点はCi=1.0、「概ね一致させる」対応点は0≦Ci≦1.0の所定の値を与えるようにしてもよい。
以上説明したように、本変形例によれば、対応点の信頼度に応じて合成比率を算出することで、信頼性が高い対応点の周辺は対応点を一致させる変形に近づけ、信頼性が低い対応点の周辺は所望の拘束条件に基づく変形に近づけることができ、適切な位置あわせが実現できる。
(第2の実施形態)
<概要>
第1の実施形態では、ステップS2050において、第2の画像上の各座標において、第2の画像上の全ての対応点からの距離に基づいて変位場の合成比率を算出していた。このような場合、以下のような問題が生じることがある。すなわち、画像間で対応点の数が多数ある場合には、(3)式における放射基底関数r(x|xBi)の数が増えることで、それを乗算した関数w(x)が、各対応点の近傍において値0を中心に非常に急峻に1まで変化してしまう。つまり、各対応点のごく近傍で合成比率が急激に変化するため、合成される変位場も急激に変化してしまい、各対応点の近傍で不自然な変形が生じる可能性がある。
そこで、本実施形態では、第2の画像上の各座標において、その座標の近傍に存在する第2の画像上の対応点からの距離のみに基づいて変位場の合成比率を算出する。これにより、画像間で対応点の数が多くとも、画像上の各位置において合成比率の算出に利用される対応点はその近傍に存在する点に限られるため、合成比率の関数は急峻になることなく、2つの変位場が滑らかに合成されて自然な変形位置合わせが実現できる。
<構成>
以下、本実施形態に係る画像処理装置について、第1の実施形態との相違部分についてのみ説明する。
本実施形態に係る画像処理装置1000の構成は、第1の実施形態と同様であるため、説明を省略する。しかし、変形合成部1050に関しては、第1の実施形態と機能が異なるため、以下でその機能を説明する。その他の構成については第1の実施形態と機能が同じであるため、同じ機能に関しては説明を省略する。
変形合成部1050は、第2の画像上の各座標において、第1の変位場と第2の変位場をその座標の近傍に存在する対応点からの距離のみに応じた比率で合成した合成変位場を生成する。
<処理>
図6は、本実施形態に係る画像処理装置1000が行う全体の処理手順を示すフローチャートである。但し、図6において、ステップS6010からS6040、およびS6060からS6070の処理はそれぞれ、図2のフローチャートにおけるステップS2010からS2040、およびS2060からS2070の処理と同じであるため説明は省略する。以下、図2のフローチャートとの相違部分についてのみ説明する。
(S6050:各座標の近傍の対応点からの距離のみに基づく第1と第2の変形の合成)
ステップS6050において、変形合成部1050は、対応点取得部1020から取得した対応点からの距離に基づき、第1の変位場Φ −1と第2の変位場Φ −1を合成した合成変位場Φ1+2 −1を生成する。但し、本ステップでは、以下の点で、第1の実施形態のステップS2050とは異なる。ステップS2050では、変位場を合成する座標である第2の画像上の各座標において、全ての対応点からの距離に基づいて変位場の合成比率を算出していた。一方、本ステップでは、第2の画像上の各座標において、その座標の近傍に存在する第2の画像上の対応点を選択し、当該対応点からの距離のみに基づいて変位場の合成比率を算出する。そして、生成した合成変位場Φ1+2 −1を画像生成部1060へと出力する。
以下、第1の実施形態のステップS2050と相違する点について、具体的な処理を説明する。本ステップでは、第2の画像上の各座標xにおける近傍K個の(K近傍の)対応点からの距離のみに基づいて合成比率を算出する。具体的には、以下の式によって、合成比率を算出する。
Figure 0006934734
ここで、w(x)は、第1実施形態の(4)式の代わりに、第2の画像上の座標xにおいて第2の変位場を合成する合成比率を表している。また、座標xのK近傍の対応点を点Bk(x)(1≦k≦K)と表記し、xBk(x)は点Bk(x)の座標を表す。本実施形態では例えば、K=5を適用する。
なお、第2の画像上の各座標xの近傍の対応点からの距離に基づく合成比率の算出方法は、上記の方法に限らず、例えば、座標xを中心とする一定範囲内(例:半径5mmなど)に存在する対応点からの距離のみに基づいて算出するようにしてもよい。あるいは、座標xから一定範囲内にあり、かつ、所定の数の近傍対応点を用いて算出してもよい。これにより、合成比率w(x)は、画像間の全体の対応点の数に左右されずに、座標xの近傍の対応点からの距離のみに基づいて算出することができる。以上によって、本実施形態における画像処理装置1000の処理が実施される。
以上説明したように、本実施形態によれば、画像間の対応点の数が多くとも、画像上の各位置において合成比率の算出に利用される対応点はその近傍に存在する点に限られる。そのため、合成比率の関数は急峻になることなく、2つの変位場が滑らかに合成されてより自然な変形位置合わせが実現できる。
(第3の実施形態)
<概要>
第1の実施形態では、ステップS2050において、分散が所定の値σに固定されたガウス関数に基づいて変位場の合成比率を算出していた。このような場合、以下のような問題が生じることがある。すなわち、第2の変形を表す第2の変位場において対応点残差が大きく発生した場合、第1の変形では高精度に対応点を一致させるため、対応点の周辺での変位場の相違が大きく発生してしまう。このとき、第1の実施形態では所定の分散σに固定されたガウス関数に基づいて合成比率を算出すると、対応点を中心とする合成比率の関数の広がりが固定されている。従って、固定されたσの値が小さい場合は、相違が大きい2つの変位場を、空間的に狭い範囲内で比率が急激に変化するように合成した結果、対応点の周辺での変位場の変化が大きくなってしまい、不自然な変形結果になる可能性がある。一方、固定されたσの値が大きい場合は、たとえ2つの変位場の相違が小さくても、空間的に広い範囲内で比率が変化するように合成した結果、不必要に広い範囲にまで第1の変位場の影響を大きくしてしまう可能性がある。つまり、所望の拘束条件に基づく第2の変位場の影響が小さくなってしまう可能性がある。
そこで、本実施形態では、第2の変位場における夫々の対応点残差の大きさに応じて、それらの対応点に対応するガウス関数のσの大きさを変えて、合成比率を算出する。これにより、対応点残差が大きい対応点周辺は比較的なだらかに広範囲で比率が変化するように変位場を合成し、対応点残差が小さい対応点周辺は比較的急峻に狭い範囲で比率が変化するように変位場を合成でき、より自然な変形結果を得ることができる。
<構成>
以下、本実施形態に係る画像処理装置について、第1の実施形態との相違部分についてのみ説明する。
本実施形態に係る画像処理装置の構成は、第1の実施形態と同様であるため、説明を省略する。しかし、第2の変形取得部1040および変形合成部1050に関しては、第1の実施形態と機能が異なるため、以下でその機能を説明する。その他の構成については第1の実施形態と機能が同じであるため、同じ機能に関しては説明を省略する。
第2の変形取得部1040は、第1の実施形態と同様に、第1の画像を変形させるための第2の変位場を取得する。さらに、本実施形態における第2の変形取得部1040は、第2の変位場における対応点残差を取得する(対応点残差取得処理)。変形合成部1050は、第1の変位場と第2の変位場を対応点からの距離と対応点残差の大きさに応じた比率で合成した合成変位場を生成する。
<処理>
図7は、本実施形態に係る画像処理装置1000が行う全体の処理手順を示すフローチャートである。但し、図7において、ステップS7010からS7040、およびS7060からS7070の処理はそれぞれ、図2のフローチャートにおけるステップS2010からS2040、およびS2060からS2070の処理と同じであるため説明は省略する。以下、図2のフローチャートとの相違部分についてのみ説明する。
(S7045:第2の変形における対応点残差の取得)
ステップS7045において、第2の変形取得部1040は、ステップS7040で取得した第2の変位場Φ −1における対応点残差を算出する。そして、算出した対応点残差を変形合成部1050へと出力する。
以下に、具体的な処理を説明する。第2の変位場Φ −1における各対応点の対応点残差E(i)(1≦i≦N)を、以下の式に基づいて算出する。
Figure 0006934734
ここで、Φ −1(x)は、第2の変形Φによって第2の画像上の座標xを第1の画像に向けて変位させた座標を表す。従って、各対応点の対応点残差E(i)は、第2の画像上の各対応点座標xBiを第2の変位場Φ −1を用いて第1の画像上の座標に変換した座標Φ −1(xBi)と、第1の画像上の各対応点座標xAiとの間の距離を表す。
(S7050:対応点からの距離と対応点残差に基づく 第1と第2の変形の合成 )
ステップS7050において、変形合成部1050は、対応点取得部1020から取得した対応点からの距離と、対応点残差E(i)とに基づき、第1の変位場Φ −1と第2の変位場Φ −1を合成した合成変位場Φ1+2 −1を生成する。そして、生成した合成変位場Φ1+2 −1を画像生成部1060へと出力する。
以下、第1の実施形態のステップS2050と相違する点について、具体的な処理を説明する。本実施形態では、第2の変位場における夫々の対応点残差E(i)の大きさに応じて、それらの対応点に対応するガウス関数のσの大きさを変えて、合成比率を算出する。このとき、合成比率は以下の式ように算出される。
Figure 0006934734
Figure 0006934734
ここで、w(x)は、第1実施形態の(4)式の代わりに、第2の画像上の座標xにおいて第2の変位場を合成する合成比率を表している。(11)式におけるσ(i)は、対応点残差E(i)の値に応じて決まる変数であり、(12)式のように、対応点残差E(i)に比例する。(11)式において、αは定数であり、本実施形態では例えばα=5.0を適用する。これにより、対応点残差E(i)が大きいときは、ガウス関数gの分散σ(i)も大きくなり、対応点残差E(i)が小さいときは、ガウス関数gの分散σ(i)も小さくなる。従って、対応点残差E(i)の大きさに応じて、合成比率w(x)の各対応点周辺の関数の空間的な広がりが異なるようになる。具体的には、対応点残差E(i)が大きい対応点周辺では合成比率w(x)の空間的広がりの度合いが大きく決定され、対応点残差E(i)が小さい対応点周辺では合成比率w(x)の空間的広がりの度合いが小さく決定される。以上によって、本実施形態における画像処理装置1000の処理が実施される。
以上説明したように、本実施形態によれば、対応点残差が大きい対応点周辺では、2つの変位場の相違が大きいため、比較的なだらかに広範囲で比率が変化するように変位場を合成する。一方、対応点残差が小さい対応点周辺では、2つの変位場の相違が小さいため、比較的急峻に狭い範囲で比率が変化するように変位場を合成する。これにより、より自然な変形結果を得ることができる。
(第4の実施形態)
<概要>
第1の実施形態では、対応点からの距離に応じた比率で、第1の変形と第2の変形を合成していた。しかしながら、距離に応じて第1の変形と第2の変形を合成するための基準は対応点に限られるものではない。本実施形態では、画像上の被検体の表面形状からの距離に応じた比率で第1の変形と第2の変形を合成する。これにより、画像間で取得されている対応点の信頼性が被検体の表面形状から離れるにつれて低下するような場合に、以下のような効果が得られる。すなわち、被検体の表面形状からの距離が大きくなるにつれ、対応点を高精度に一致させる変形よりも所望の拘束条件に基づく変形の比率が大きくなるように合成することで、対応点の信頼性に応じた適切な変形位置合わせを行うことができる。また、対応点が被検体の表面形状の近傍に主に分布する場合には、体表形状からの距離に応じて2つの変形の合成比率を変えることは、対応点からの距離に応じて合成比率を変えることと同様の効果を得ることができる。従って、画像上の各位置における表面形状からの距離さえ分かっていれば、第1の実施形態のような複数の対応点における放射基底関数を統合した(4)式よりも、表面形状からの距離に基づく単純な式に基づいて計算可能である。すなわち、より高速に合成変位場の計算が可能となる。
<構成>
以下、本実施形態に係る画像処理装置について、第1の実施形態との相違部分についてのみ説明する。
図8は、本実施形態に係る画像処理装置8000の構成を示す図であり、新たに形状取得部8010が追加された点以外は、第1の実施形態における画像処理装置1000と同様である。また、変形合成部1050に関しては、第1の実施形態と機能が異なるため以下でその機能を説明する。その他の構成については第1の実施形態と機能が同じであるため、同じ機能に関しては説明を省略する。
形状取得部8010は、画像から被検体の表面形状を抽出する。変形合成部1050は、第1の変位場と第2の変位場を被検体の表面形状からの距離に応じた比率で合成した合成変位場を生成する。
<処理>
図9は、本実施形態に係る画像処理装置8000が行う全体の処理手順を示すフローチャートである。但し、図9において、ステップS9010からS9040、およびS9060からS9070の処理はそれぞれ、図2のフローチャートにおけるステップS2010からS2040、およびS2060からS2070の処理と同じであるため説明は省略する。以下、図2のフローチャートとの相違部分についてのみ説明する。
(S9045:被検体の表面形状の取得)
ステップS9045において、形状取得部8010は、画像から被検体の表面形状を抽出する。そして、抽出した被検体の表面形状のデータを変形合成部1050へと出力する。以下に具体的な処理を説明する。本ステップにおいて、形状取得部8010は、第2の画像から公知の形状抽出手法を用いて被検体の表面形状を抽出する。本実施形態では、例えば、動的輪郭法の一手法であるSNAKESを用いて被検体の表面形状を抽出する。但し、表面形状の抽出手法はこれに限られるものではなく、画像の輝度の閾値で領域分割する手法や、Region Grouing法、Level Set法、Graph Cut法など公知の何れの手法を用いてもよい。また、上述のような自動抽出手法ではなく、ユーザが不図示のUIを操作して手動で抽出してもよい。
(S9050:表面形状からの距離に基づく第1と第2の変形の合成)
ステップS9050において、変形合成部1050は、対応点取得部1020から取得した対応点からの距離と、形状取得部8010から取得した被検体の表面形状からの距離とに基づき、第1の変位場Φ −1と第2の変位場Φ −1を合成する。そして、生成した合成変位場Φ1+2 −1を画像生成部1060へと出力する。
以下、第1の実施形態のステップS2050と相違する点について、具体的な処理を説明する。本ステップでは、第2の画像上の各座標xにおける、第2の画像の被検体の表面形状から距離に基づいて合成比率を算出する。具体的には、以下の式によって、合成比率を算出する。
Figure 0006934734
Figure 0006934734
ここで、w(x)は、第1実施形態の(5)式の代わりに、第2の画像上の座標xにおいて第1の変位場を合成する合成比率を表している。w(x)は、第2の画像の被検体の表面形状からの距離に応じて決まる比率(0≦w(x)≦1)であり、(13)式のように、第2の画像上の被検体の表面形状から座標xまでの距離をdS2(x)と定義したとき、距離dS2(x)にほぼ反比例する。また、(13)式において、βは定数であり、本実施形態では、例えばβ=1.0を適用する。合成比率w(x)は、座標xが表面形状上に位置する、つまり距離dS2(x)=0.0のときに値1.0をとり、表面形状からの距離が無限遠に近付く、つまり距離dS2(x)≒∞のときに、値0.0に限りなく近づく。すなわち、合成比率w(x)は、表面形状からの距離が遠ざかるにつれ、値が1.0から減少する。また、(14)式より、w(x)は表面形状からの距離が遠ざかるにつれ、値が0.0から増加する。これにより、被検体の表面形状からの距離が大きくなるにつれ、対応点上における第1の変形の合成比率を減少させ、第2の変形の合成比率を増加させる効果がある。このように、合成比率は、第1の実施形態のような複数の対応点における放射基底関数を統合した(4)式及び(5)式よりも、(13)式及び(14)式による表面形状からの距離に基づく単純な式に基づいて計算可能である。以上によって、本実施形態における画像処理装置8000の処理が実施される。
このような処理を行うことで、以下のような場合に効果を得ることができる。本実施形態における第2の画像が例えば光音響トモグラフィ画像の場合、撮像の際の光音響信号は、被検体の表面形状から体内の深部に向かうにつれ減衰する。そのため、画像化されたときに描出される解剖構造の輝度情報が表面形状から遠ざかるにつれ弱くなる傾向がある。ここで、図4の第2の画像3020が、本実施形態の第2の画像である光音響トモグラフィ画像を表しているものとする。図4の対応点B2は、表面形状の近くに位置することから、周辺の血管像が明瞭に描出されているが、対応点B3は、点B2よりも表面形状から離れているため、周辺の血管像がやや不明瞭に描出されていることが分かる。従って、これらの対応点をステップS9020で取得する際、自動抽出で取得する場合は血管を表す輝度が低下するため、抽出精度が低下する可能性があり、手動で抽出する場合でも、見えづらさから抽出精度が低下する可能性がある。このような場合に、本実施形態の処理を適用することで、対応点の抽出精度の信頼性が高い表面形状に近い領域は、対応点周辺において高精度に対応点を一致させる。一方、抽出精度の信頼性が低い表面形状から遠い領域は、対応点周辺において、所望の拘束条件に基づいて変形させる。これにより、適切な変形位置合わせを行うことができる。
さらに、光音響トモグラフィ画像で描出される血管構造は、体表に近いほど細かい血管(毛細血管)となり、特徴点である血管分岐部の数が多くなるため、対応点の数も多くなる傾向にある。さらに、上述のとおり、光音響信号は、体内の深部に向かうにつれ減衰するため、可視化される血管構造が少なくなり、対応点の数も少なくなる傾向にある。従って、光音響トモグラフィ画像では、対応点は被検体の表面形状の近傍に主に分布することになる。このことから、第1の実施形態における変形の合成方法と同様の効果を得ることができ、かつ第1の実施形態よりも高速に結果を取得できる。
以上説明したように、本実施形態によれば、被検体の表面形状からの距離が大きくなるにつれ、対応点を高精度に一致させる変形よりも所望の拘束条件に基づく変形に近付くようにすることで、対応点の信頼性に応じた適切な変形位置合わせを行うことができる。さらに、対応点が被検体の表面形状の近傍に主に分布する場合には、第1の実施形態の対応点からの距離に応じて2つの変形の合成比率を変えることと同様の効果を得ることができ、かつ第1の実施形態よりも高速に結果を取得できる。
(変形例4−1:第1の画像上の表面形状からの距離に基づいて変位場を合成してもよい)
第4の実施形態では、ステップS9050において、第2の画像上の被検体の表面形状からの距離に基づいて、第1の変位場と第2の変位場を合成していた。しかし、第1の画像上の被検体の表面形状からの距離に基づいて、2つの変位場を合成するようにしてもよい。この場合、ステップS9045において、形状取得部8010は、被検体の表面形状を第1の画像から抽出する。ここでは、第1の画像上で表面形状からの距離を算出するために、第1の実施形態の変形例1−1と同様、変位場Φ−1を用いて第2の画像上の各座標に対応する第1の画像上の位置を参照することで、合成比率を算出する。すなわち、以下の式のように変位場Φ−1を介して第2の画像上の座標に対応する第1の画像上の各参照位置における第1の画像上の表面形状からの距離に基づいた比率を算出できる。
Figure 0006934734
ここで、w(x)は、第4実施形態の(13)式の代わりに、第2の画像上の座標xにおいて第1の変位場を合成する合成比率を表している。以下に、第1の実施形態の変形例1−1と相違する点のみ説明する。(15)式において、Φ−1(x)は、変位場Φ−1を用いて第2の画像上の座標xを第1の画像に向けて変位させた座標を表す。この変位場の算出方法は、第1の実施形態の変形例1−1と同様であるため、説明を省略する。また、w(x)は、第1の画像の被検体の表面形状からの距離に応じて決まる比率(0≦w(x)≦1)である。(15)式のように、第1の画像上の被検体の表面形状から第1の画像上の座標Φ−1(x)までの距離をdS1(Φ−1(x))と定義したとき、距離dS1(Φ−1(x))に反比例する。具体的な説明については、(13)式において、dS2(x)をdS1(Φ−1(x))に置き換え、説明における第2の画像を第1の画像に読み替えればよいため、省略する。
さらに、第1の画像上の表面形状からの距離と、第2の画像上の表面形状からの距離との両方に基づいて、変位場を合成してもよい。この場合、ステップS9045において、形状取得部8010は、第1の画像と第2の画像の両方から夫々被検体の表面形状を抽出する。このとき、合成比率は以下の式で算出できる。
Figure 0006934734
ここで、w(x)は、第4の実施形態の(13)式や上述の(15)式の代わりに、第2の画像上の座標xにおいて第1の変位場を合成する合成比率を表している。具体的な説明は、第1の実施形態の変形例1−1と同様であるため、省略する。
以上説明したように、本変形例によれば、第1の画像上の被検体の表面形状からの距離に基づいて変位場を合成することで、第1の画像上の表面形状を考慮した合成変位場を取得できる。
(その他の実施形態)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
110:データサーバ、120:表示部、1000:画像処理装置、1010:データ取得部、1020:対応点取得部、1030:第1の変形取得部、1040:第2の変形取得部、1050:変形合成部、1060:画像生成部、1070:表示制御部、8000:画像処理装置、8010:形状取得部

Claims (18)

  1. 第1の画像と第2の画像との間で被検体の特徴点を対応付けた対応点を取得する対応点取得手段と、
    前記対応点に基づく第1の変形を取得する第1の変形取得手段と、
    前記第1の画像と前記第2の画像との間で画像の輝度情報を一致させることを含む第2の変形を取得する第2の変形取得手段と、
    前記第1の画像と前記第2の画像との少なくとも一方の画像上の各位置について、前記対応点から該位置への距離に基づいて、前記第1の変形と前記第2の変形とを合成する合成手段と、
    を備えることを特徴とする画像処理装置。
  2. 前記合成手段は、前記対応点に近い位置ほど前記第1の変形の変位場の合成比率が高くなり、前記対応点から遠い位置ほど前記第2の変形の変位場の合成比率が高くなるように、前記第1の変形と前記第2の変形とを合成することを特徴とする請求項1に記載の画像処理装置。
  3. 前記合成手段は、対応点ごとに、対応関係に関する信頼度を設定し、各対応点の信頼度に応じた合成比率に基づいて、前記第1の変形と前記第2の変形とを合成することを特徴とする請求項1又は2に記載の画像処理装置。
  4. 前記合成手段は、前記画像上の各位置について、該位置の近傍に存在する対応点を前記対応点の中から選択し、該選択した対応点から該位置への距離に基づいて算出した合成比率を用いて、前記第1の変形と前記第2の変形とを合成することを特徴とする請求項1乃至3の何れか1項に記載の画像処理装置。
  5. 前記対応点取得手段は、複数の対応点を取得し、
    前記合成手段は、前記画像上の各位置について、前記複数の対応点の夫々に対応する、該対応点からの距離に基づく放射基底関数を統合することで得られる合成比率関数を用いて、前記第1の変形と前記第2の変形とを合成することを特徴とする請求項1乃至3の何れか1項に記載の画像処理装置。
  6. 前記放射基底関数は、前記対応点上で最小値0をとり、最大値が1であることを特徴とする請求項5に記載の画像処理装置。
  7. 前記合成比率関数は、前記複数の対応点の夫々に対応する前記放射基底関数を乗算によって統合した関数であることを特徴とする請求項5又は6に記載の画像処理装置。
  8. 前記合成比率関数は、前記複数の対応点の夫々に対応する前記放射基底関数を加算によって統合した関数であることを特徴とする請求項5又は6に記載の画像処理装置。
  9. 前記第2の変形における対応点間の位置のずれを表す対応点残差を取得する対応点残差取得手段を更に備え、
    前記合成手段は、前記対応点残差に基づいて前記放射基底関数の空間的な広がりの度合いを決定することを特徴とする請求項5に記載の画像処理装置。
  10. 前記第1の画像を、前記合成手段により合成された変形に基づいて変形させた変形画像を生成する画像生成手段を更に備えることを特徴とする請求項1乃至9の何れか1項に記載の画像処理装置。
  11. 前記画像生成手段は、前記第2の画像と前記変形画像との差分画像を更に生成することを特徴とする請求項10に記載の画像処理装置。
  12. 前記第1の変形は、前記第1の画像と前記第2の画像との間で対応点を一致させる変形であることを特徴とする請求項1乃至11の何れか1項に記載の画像処理装置。
  13. 第1の画像と第2の画像の間で被検体の特徴点を対応付けた対応点を取得する対応点取得手段と、
    前記対応点に基づく第1の変形を取得する第1の変形取得手段と、
    前記第1の画像と前記第2の画像との間で画像の輝度情報を一致させることを含む第2の変形を取得する第2の変形取得手段と、
    前記第1の画像と前記第2の画像との少なくとも一方の画像における前記被検体の表面形状を取得する形状取得手段と、
    前記第1の画像と前記第2の画像との少なくとも一方の画像上の各位置について、前記表面形状から該位置への距離に基づいて、前記第1の変形と前記第2の変形とを合成する合成手段と、
    を備えることを特徴とする画像処理装置。
  14. 第1の画像と第2の画像との間で被検体の特徴点を対応付けた対応点を取得する対応点取得手段と、
    前記対応点に基づく第1の変形を取得する第1の変形取得手段と、
    前記第1の画像と前記第2の画像の輝度情報に関する画像類似度項と、変形が所定の物理モデルから逸脱することに対してペナルティを与える正則化項との少なくとも一つを含む評価関数を用いて第2の変形を取得する第2の変形取得手段と、
    前記第1の画像と前記第2の画像との少なくとも一方の画像上の各位置について、前記対応点から該位置への距離に基づいて、前記第1の変形と前記第2の変形とを合成する合成手段と、
    を備えることを特徴とする画像処理装置。
  15. 画像処理装置の制御方法であって、
    第1の画像と第2の画像との間で被検体の特徴点を対応付けた対応点を取得する対応点取得工程と、
    前記対応点に基づく第1の変形を取得する第1の変形取得工程と、
    前記第1の画像と前記第2の画像との間で画像の輝度情報を一致させることを含む第2の変形を取得する第2の変形取得工程と、
    前記第1の画像と前記第2の画像との少なくとも一方の画像上の各位置について、前記対応点から該位置への距離に基づいて、前記第1の変形と前記第2の変形とを合成する合成工程と、
    を有することを特徴とする画像処理装置の制御方法。
  16. 画像処理装置の制御方法であって、
    第1の画像と第2の画像の間で被検体の特徴点を対応付けた対応点を取得する対応点取得工程と、
    前記対応点に基づく第1の変形を取得する第1の変形取得工程と、
    前記第1の画像と前記第2の画像との間で画像の輝度情報を一致させることを含む第2の変形を取得する第2の変形取得工程と、
    前記第1の画像と前記第2の画像との少なくとも一方の画像における前記被検体の表面形状を取得する形状取得工程と、
    前記第1の画像と前記第2の画像との少なくとも一方の画像上の各位置について、前記表面形状から該位置への距離に基づいて、前記第1の変形と前記第2の変形とを合成する合成工程と、
    を有することを特徴とする画像処理装置の制御方法。
  17. 画像処理装置の制御方法であって、
    第1の画像と第2の画像との間で被検体の特徴点を対応付けた対応点を取得する対応点取得工程と、
    前記対応点に基づく第1の変形を取得する第1の変形取得工程と、
    前記第1の画像と前記第2の画像の輝度情報に関する画像類似度項と、変形が所定の物理モデルから逸脱することに対してペナルティを与える正則化項との少なくとも一つを含む評価関数を用いて第2の変形を取得する第2の変形取得工程と、
    前記第1の画像と前記第2の画像との少なくとも一方の画像上の各位置について、前記対応点から該位置への距離に基づいて、前記第1の変形と前記第2の変形とを合成する合成工程と、
    を有することを特徴とする画像処理装置の制御方法。
  18. コンピュータを、請求項1乃至14の何れか1項に記載の画像処理装置の各手段として機能させるためのプログラム。
JP2017053140A 2017-03-17 2017-03-17 画像処理装置、画像処理装置の制御方法およびプログラム Active JP6934734B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2017053140A JP6934734B2 (ja) 2017-03-17 2017-03-17 画像処理装置、画像処理装置の制御方法およびプログラム
US15/914,314 US11010899B2 (en) 2017-03-17 2018-03-07 Image processing apparatus, control method of image processing apparatus, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017053140A JP6934734B2 (ja) 2017-03-17 2017-03-17 画像処理装置、画像処理装置の制御方法およびプログラム

Publications (2)

Publication Number Publication Date
JP2018153455A JP2018153455A (ja) 2018-10-04
JP6934734B2 true JP6934734B2 (ja) 2021-09-15

Family

ID=63520233

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017053140A Active JP6934734B2 (ja) 2017-03-17 2017-03-17 画像処理装置、画像処理装置の制御方法およびプログラム

Country Status (2)

Country Link
US (1) US11010899B2 (ja)
JP (1) JP6934734B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106361366B (zh) * 2016-11-02 2019-05-03 上海联影医疗科技有限公司 多模态图像配准方法及系统
JP6885896B2 (ja) * 2017-04-10 2021-06-16 富士フイルム株式会社 自動レイアウト装置および自動レイアウト方法並びに自動レイアウトプログラム
US11571185B2 (en) 2019-11-08 2023-02-07 Samsung Medison Co., Ltd. Medical image displaying apparatus and method of displaying medical image using the same

Family Cites Families (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3805231B2 (ja) 2001-10-26 2006-08-02 キヤノン株式会社 画像表示装置及びその方法並びに記憶媒体
JP3796449B2 (ja) 2002-01-31 2006-07-12 キヤノン株式会社 位置姿勢決定方法および装置並びにコンピュータプログラム
EP1349114A3 (en) 2002-03-19 2011-06-15 Canon Kabushiki Kaisha Sensor calibration apparatus, sensor calibration method, program, storage medium, information processing method, and information processing apparatus
JP4136859B2 (ja) 2003-01-10 2008-08-20 キヤノン株式会社 位置姿勢計測方法
JP4537104B2 (ja) 2004-03-31 2010-09-01 キヤノン株式会社 マーカ検出方法、マーカ検出装置、位置姿勢推定方法、及び複合現実空間提示方法
JP4914039B2 (ja) 2005-07-27 2012-04-11 キヤノン株式会社 情報処理方法および装置
JP5335280B2 (ja) * 2008-05-13 2013-11-06 キヤノン株式会社 位置合わせ処理装置、位置合わせ方法、プログラム、及び記憶媒体
JP5661382B2 (ja) 2010-08-31 2015-01-28 キヤノン株式会社 画像表示装置
DE112012004053T5 (de) 2011-09-28 2014-07-31 Canon K.K. Bildverarbeitungsgerät, Bildverarbeitungsverfahren und Programm
JP5745444B2 (ja) * 2012-03-05 2015-07-08 富士フイルム株式会社 医用画像表示装置および医用画像表示方法、並びに、医用画像表示プログラム
US9384555B2 (en) * 2012-07-02 2016-07-05 Kabushiki Kaisha Toshiba Motion correction apparatus and method
JP6397269B2 (ja) 2013-09-06 2018-09-26 キヤノン株式会社 画像処理装置、画像処理方法
JP6182045B2 (ja) 2013-10-11 2017-08-16 キヤノン株式会社 画像処理装置およびその方法
BR112015018561A2 (pt) * 2013-10-18 2017-07-18 Koninklijke Philips Nv dispositivo de processamento de imagens que pode registrar ao menos duas imagens de um objeto, método para o registro de pelo menos duas imagens de um objeto, e, equipamento de imageamento médico
JP6237353B2 (ja) * 2014-03-07 2017-11-29 コニカミノルタ株式会社 画像処理装置、画像撮影システム及び画像処理プログラム
JP6383189B2 (ja) * 2014-06-16 2018-08-29 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
JP6393106B2 (ja) 2014-07-24 2018-09-19 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
US9808213B2 (en) 2014-08-11 2017-11-07 Canon Kabushiki Kaisha Image processing apparatus, image processing method, medical image diagnostic system, and storage medium
JP6482250B2 (ja) * 2014-11-20 2019-03-13 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム
JP6491466B2 (ja) * 2014-12-04 2019-03-27 キヤノン株式会社 画像処理装置、画像処理装置の制御方法およびプログラム
JP6467221B2 (ja) * 2014-12-22 2019-02-06 キヤノン株式会社 画像処理装置および方法
JP6971544B2 (ja) 2015-08-06 2021-11-24 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム
EP3444781B1 (en) 2016-01-15 2020-03-18 Canon Kabushiki Kaisha Image processing apparatus and image processing method
US10163211B2 (en) * 2016-01-26 2018-12-25 General Electric Company System and method for enhanced visualization of multiple low contrast objects within an imaged subject
JP6840481B2 (ja) 2016-07-19 2021-03-10 キヤノン株式会社 画像処理装置および画像処理方法
JP6711715B2 (ja) 2016-07-19 2020-06-17 キヤノン株式会社 画像処理装置および画像処理方法

Also Published As

Publication number Publication date
US20180268547A1 (en) 2018-09-20
JP2018153455A (ja) 2018-10-04
US11010899B2 (en) 2021-05-18

Similar Documents

Publication Publication Date Title
EP3100236B1 (en) Method and system for constructing personalized avatars using a parameterized deformable mesh
CN109074639B (zh) 医学成像系统中的图像配准系统和方法
EP3625768B1 (en) Determining a clinical target volume
EP3444781B1 (en) Image processing apparatus and image processing method
JP6448356B2 (ja) 画像処理装置、画像処理方法、画像処理システム、及びプログラム
US10949698B2 (en) Image processing apparatus, image processing system, image processing method, and storage medium
JP6905323B2 (ja) 画像処理装置、画像処理方法、およびプログラム
JP6541334B2 (ja) 画像処理装置、画像処理方法、およびプログラム
JP6458166B2 (ja) 医用画像処理方法及び装置及びシステム及びプログラム
JP6934734B2 (ja) 画像処理装置、画像処理装置の制御方法およびプログラム
JP2017136354A (ja) 画像処理装置、画像処理方法、画像処理システム、及びプログラム。
EP2601637B1 (en) System and method for multi-modality segmentation of internal tissue with live feedback
CN109313803B (zh) 一种用于映射对象的身体的至少部分的图像中的结构的至少部分的方法和装置
US20070092124A1 (en) System for and method of displaying subtraction image and computer program for the system
JP6564075B2 (ja) 医用画像を表示するための伝達関数の選択
JP2016041245A (ja) 医用画像処理装置及び医用画像処理方法
JP2017189394A (ja) 情報処理装置および情報処理システム
US11501442B2 (en) Comparison of a region of interest along a time series of images
US11138736B2 (en) Information processing apparatus and information processing method
JP2022052210A (ja) 情報処理装置、情報処理方法及びプログラム
EP2889001B1 (en) Shape data-generating program, shape data-generating method and shape data-generating device
JP2019500114A (ja) 位置合わせ精度の決定
US20230187052A1 (en) Automatic myocardial aneurysm assessment
JP7419037B2 (ja) 画像処理装置、画像処理方法、及びプログラム
US20230298186A1 (en) Combining angiographic information with fluoroscopic images

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200218

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20210103

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210113

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210212

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210219

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210401

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210726

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210824

R151 Written notification of patent or utility model registration

Ref document number: 6934734

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151