JP6156855B2 - 分類装置、分類プログラムおよび分類装置の動作方法 - Google Patents

分類装置、分類プログラムおよび分類装置の動作方法 Download PDF

Info

Publication number
JP6156855B2
JP6156855B2 JP2016040144A JP2016040144A JP6156855B2 JP 6156855 B2 JP6156855 B2 JP 6156855B2 JP 2016040144 A JP2016040144 A JP 2016040144A JP 2016040144 A JP2016040144 A JP 2016040144A JP 6156855 B2 JP6156855 B2 JP 6156855B2
Authority
JP
Japan
Prior art keywords
vertex
label
layer
energy
virtual
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016040144A
Other languages
English (en)
Other versions
JP2016122465A (ja
Inventor
嘉郎 北村
嘉郎 北村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2016040144A priority Critical patent/JP6156855B2/ja
Publication of JP2016122465A publication Critical patent/JP2016122465A/ja
Application granted granted Critical
Publication of JP6156855B2 publication Critical patent/JP6156855B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Measuring And Recording Apparatus For Diagnosis (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Image Analysis (AREA)

Description

本発明は、グラフカットの手法を用いて3クラス以上の領域に画像を分類する分類装置、分類プログラムおよび分類方法に関する。
近年, グラフの最小切断(グラフカット)アルゴリズムを使ったエネルギー最小化が、画像処理に盛んに応用されるようになってきた。特に画像のセグメンテーション(領域分割)の問題をエネルギー最小化問題として効率的に解く方法が提案されている。
Ishikawaは、2次のエネルギー関数を最小化することで対象画像を2クラスに分離するグラフカットの手法を基本として、順序を持った多クラスに分離できるようにグラフカットの手法を拡張している(非特許文献1)。
さらに、Kolmogorovらは、2クラスに分離する際に3次のエネルギーを最小化する方法を提案している。また、多クラスに分離する際に3次のエネルギー用いる方法も紹介している。この方法は2クラスの問題を解くことを繰り返しながら多クラスのラベル付けをすることにより、順序を持った多クラスでなくとも解くことが可能である(非特許文献2)。
H. Ishikawa, Exact Optimization for Markov Random Fields with Convex Priors, IEEE PAMI, 25(10), 2003. V. Kolmogorov and R. Zabih, What energy functions can be minimized via Graph Cuts?, IEEE PAMI, 26(2), 2004.
非特許文献1に紹介された方法では、3次のエネルギーを扱っていないため、3次以上のエネルギーを用いて多クラスに分離する問題には対応することができない。
また、非特許文献2に紹介された方法では、順序を持った多クラスでなくとも解くことが可能であるが、求まる解は近似解であり、計算コストが多くなる。
そこで、本発明では、グラフカットの手法を用いて、高速に順序を持った多クラスに分類することが可能な分類装置、分類プログラムおよび分類装置の動作方法を提供することを目的とする。
本発明の分類装置は、画像データを構成する各ピクセルを、0からN−1までの順序を持ったN(>2)個のラベルのいずれかに分類する分類装置であって、
頂点sと頂点tの間に各ラベルの境となるk(=N−1)段の層を設け、各層α(α=1, . . . ,k)上に前記画像の各ピクセルの場所vに対応する頂点wα (α=1, . . . ,k)を設け、前記頂点t、前記頂点sおよび前記頂点wα のうちの2つの頂点を結ぶ辺を有するグラフを用いて、前記辺のうち切断する辺をグラフカット処理により決定して各ピクセルにN個のラベルのいずれかを割り当てるラベリング手段を備え、
前記ラベリング手段が、
前記N個のラベルのうちラベルi−1とラベルiを分ける第i番目の層iごとに、該層iの各頂点w が対応する場所vにi以上のラベルが割り当てられることを仮想ラベル1に、i−1以下のラベルに割り当てられることを仮想ラベル0にそれぞれ対応させて、前記仮想ラベル0に対応する前記頂点s、前記仮想ラベル1に対応する前記頂点tおよび前記各頂点w のうちの2つの頂点を結ぶ辺を有する2値化グラフを設定する2値化グラフ設定手段と、
前記各頂点が仮想ラベル0に属する場合と前記仮想ラベル1に属する場合に応じたエネルギーを、各層の前記2値化グラフの辺に設定するエネルギー設定手段と、
前記層ごとの2値化グラフにエネルギーが設定されたグラフ全体にグラフカット処理を実行することより、前記各層の2値化グラフの辺のうち切断する辺を決定して、該層の前記頂点w に仮想ラベル0および仮想ラベル1のいずれかを割り当てる層別ラベリング手段と、
前記1番目からk番目の層の同じ場所vに対する各頂点w (i=1, . . . ,k)が、仮想ラベル0または仮想ラベル1のいずれが割り当てられたかに応じて、場所vのピクセルがN個のラベルのいずれに属するかを決定するラベル決定手段とを有することを特徴とするものである。
本発明の分類プログラムは、コンピュータを、
画像データを構成する各ピクセルを、0からN−1までの順序を持ったN(>2)個のラベルのいずれかに分類する分類装置として機能させるための分類プログラムであって、
前記コンピュータを、
頂点sと頂点tの間に各ラベルの境となるk(=N−1)段の層を設け、各層α(α=1, . . . ,k)上に前記画像の各ピクセルの場所vに対応する頂点wα (α=1, . . . ,k)を設け、前記頂点t、前記頂点sおよび前記頂点wα のうちの2つの頂点を結ぶ辺を有するグラフを用いて、前記辺のうち切断する辺をグラフカット処理により決定して各ピクセルにN個のラベルのいずれかを割り当てるラベリング手段として機能させるものであり、
前記ラベリング手段が、
前記N個のラベルのうちラベルi−1とラベルiを分ける第i番目の層iごとに、該層iの各頂点w が対応する場所vにi以上のラベルが割り当てられることを仮想ラベル1に、i−1以下のラベルに割り当てられることを仮想ラベル0にそれぞれ対応させて、前記仮想ラベル0に対応する前記頂点s、前記仮想ラベル1に対応する前記頂点tおよび前記各頂点w のうちの2つの頂点を結ぶ辺を有する2値化グラフを設定する2値化グラフ設定手段と、
前記各頂点が仮想ラベル0に属する場合と前記仮想ラベル1に属する場合に応じたエネルギーを、各層の前記2値化グラフの辺に設定するエネルギー設定手段と、
前記層ごとの2値化グラフにエネルギーが設定されたグラフ全体にグラフカット処理を実行することより、前記各層の2値化グラフの辺のうち切断する辺を決定して、該層の前記頂点w に仮想ラベル0および仮想ラベル1のいずれかを割り当てる層別ラベリング手段と、
前記1番目からk番目の層の同じ場所vに対する各頂点w (i=1, . . . ,k)が、仮想ラベル0または仮想ラベル1のいずれが割り当てられたかに応じて、場所vのピクセルがN個のラベルのいずれに属するかを決定するラベル決定手段とを有することを特徴とするものである。
本発明の分類装置の動作方法は、画像データを構成する各ピクセルを、0からN−1までの順序を持ったN(>2)個のラベルのいずれかに分類するために、ラベリング手段を備えた分類装置の動作方法であって、
前記ラベリング手段により、頂点sと頂点tの間に各ラベルの境となるk(=N−1)段の層を設け、各層α(α=1, . . . ,k)上に前記画像の各ピクセルの場所vに対応する頂点wα (α=1, . . . ,k)を設け、前記頂点t、前記頂点sおよび前記頂点wα のうちの2つの頂点を結ぶ辺を有するグラフを用いて、前記辺のうち切断する辺をグラフカット処理により決定して各ピクセルにN個のラベルのいずれかを割り当てるラベリングステップを備え、
前記ラベリングステップが、
前記N個のラベルのうちラベルi−1とラベルiを分ける第i番目の層iごとに、該層iの各頂点w が対応する場所vにi以上のラベルが割り当てられることを仮想ラベル1に、i−1以下のラベルに割り当てられることを仮想ラベル0にそれぞれ対応させて、前記仮想ラベル0に対応する前記頂点s、前記仮想ラベル1に対応する前記頂点tおよび前記各頂点w のうちの2つの頂点を結ぶ辺を有する2値化グラフを設定する2値化グラフ設定ステップと、
前記各頂点が仮想ラベル0に属する場合と前記仮想ラベル1に属する場合に応じたエネルギーを、各層の前記2値化グラフの辺に設定するエネルギー設定ステップと、
前記層ごとの2値化グラフにエネルギーが設定されたグラフ全体にグラフカット処理を実行することより、前記各層の2値化グラフの辺のうち切断する辺を決定して、該層の前記頂点w に仮想ラベル0および仮想ラベル1のいずれかを割り当てる層別ラベリングステップと、
前記1番目からk番目の層の同じ場所vに対する各頂点w (i=1, . . . ,k)が、仮想ラベル0または仮想ラベル1のいずれが割り当てられたかに応じて、場所vのピクセルがN個のラベルのいずれに属するかを決定するラベル決定ステップとを有することを特徴とするものである。
「順序を持ったN個のラベル」とは、複数のラベルが序列をもち、一列に並ぶ関係を指す。ここで、例えば序列が上のラベルの集合は、序列がそれより下のラベルの集合に内包される関係にある。
また、前記2値化グラフが、前記同一の層i内の隣接するw 間を結ぶ辺と、仮想頂点sと頂点w を結ぶ辺(s, w )と、頂点w と仮想頂点tを結ぶ辺(w ,t) とを有するものであり、
前記ラベル決定手段が、同じ場所vに対する全ての層の頂点w が全て仮想ラベル0に属する場合は該頂点w に対応するピクセルをラベル0に決定し、全ての層iの頂点w が全て仮想ラベル1に属する場合は該頂点w に対応するピクセルをラベルN−1と決定し、第1層から第p層までが仮想ラベル0に属し第p+1層から第N−1層までが仮想ラベル1に属する場合は該頂点w に対応するピクセルをクラスpと決定するものが望ましい。
また、前記エネルギー設定手段が、
頂点sと頂点w を結ぶ辺(s, w )および頂点w と頂点tを結ぶ辺(w ,t)に対応する1次のエネルギーを設定するものであり、同一の層内の2つのw v、 u間を結ぶ辺に対して2次のエネルギーを設定するものが望ましい。
また、前記1次のエネルギーは、前記頂点w に対応するピクセルの画素値が仮想ラベル0となる尤度が高い場合には辺(s, w )に対する1次のエネルギーを辺(w ,t)に対する1次のエネルギーより大きくし、前記頂点w に対応するピクセルの画素値が仮想ラベル1となる尤度が高い場合には辺(s, w )に対する1次のエネルギーを辺(w ,t)に対する1次のエネルギーより小さくするように決定されるものであり、
前記2次のエネルギーは、頂点w のピクセルとそれに隣接する頂点w uのピクセルが異なる仮想ラベルに属する可能性が高いほど辺(w , w u)に対する2次のエネルギーが小さい値になるように決定されるものであってもよい。
さらに、前記エネルギー設定手段が、
同一の層内の任意の3つの頂点w に対応するピクセルそれぞれが仮想ラベル0および仮想ラベル1のいずれに属するかに応じて決定される3次のエネルギーを、各層毎に仮想頂点vを経由して3つの頂点w と頂点sまたは頂点tを結ぶ辺に対応して設定するものであってもよい。
さらにまた、前記エネルギー設定手段が、
同一の層内の任意の4つ以上の頂点の全てが仮想ラベル0または仮想ラベル1に属するかに応じて決定される4次以上のエネルギーを、各層毎に仮想頂点vを経由して4つの頂点w と頂点sまたは頂点tを結ぶ辺に対応して設定するものであってもよい。
また、本発明の他の分類装置は、画像データを構成する各ピクセルを、0からN−1までの順序を持ったN(>2)個のラベルのいずれかに分類する分類装置であって、
前記画像の3つピクセルの場所vi,vj,vkのラベルに応じた3次のエネルギーE ijk
をグラフカット手法を用いて最小化することにより、各ピクセルのラベルを決定するラベリング手段を備えたことを特徴とするものである。
本発明の他の分類プログラムは、コンピュータを、
画像データを構成する各ピクセルを、0からN−1までの順序を持ったN(>2)個のラベルのいずれかに分類する分類装置として機能させるための分類プログラムであって、
前記コンピュータを、
前記画像の3つピクセルの場所vi,vj,vkのラベルに応じた3次のエネルギーE ijk
をグラフカット手法を用いて最小化することにより、各ピクセルのラベルを決定するラベリング手段として機能させることを特徴とするものである。
本発明の他の分類装置の動作方法は、画像データを構成する各ピクセルを、0からN−1までの順序を持ったN(>2)個のラベルのいずれかに分類するラベリング手段を備えた分類装置の動作方法であって、
前記ラベリング手段により、前記画像の3つピクセルの場所vi,vj,vkのラベルに応じた3次のエネルギーE ijk
をグラフカット手法を用いて最小化することにより、各ピクセルのラベルを決定するラベリングステップを備えたことを特徴とするものである。
本発明の分類装置によれば、画像データを構成する各ピクセルを順序を持ったN個のラベルにグラフカットの手法を用いて分類する際に、仮想ラベル0および仮想ラベル1に分類するN−1個の2値化グラフに置き換えて、N-1個の2値化グラフをグラフカットして得られた仮想ラベルの結果からN個のラベルを割り振るようにして、正確な最小解を高速に得ることができる。
また、3次のエネルギーを2値化グラフを用いて設定することにより、順序を持つラベルであれば、仮想ラベル0および仮想ラベル1のいずれに属するかに応じて決定される3次のエネルギーの解を正確に得ることができ高精度なラベリングが可能である。
さらに、任意の4つ以上のピクセルの全てが仮想ラベル0およびまたは仮想ラベル1に属するかに応じて決定される4次以上のエネルギーを2値化グラフを用いて設定することにより、4以上のピクセルが同じラベルを持つように分離するものに適用して、解を正確に得ることが可能である。
分類装置の構成を示したブロック図 画像のピクセルの並びを示す図 画像を2値の領域に分離した一例 2クラスに分類する場合のグラフの一例 2次のエネルギーをグラフに変換する方法を説明するための図 4クラスに分類する場合のグラフの一例 2値化グラフを説明するための図 2値化グラフを用いたクラスタリングを説明するための図 3次のエネルギーをグラフに変換する方法を説明するための図(その1) 3次のエネルギーを変換したグラフの一例(その1) 3次のエネルギーをグラフに変換する方法を説明するための図(その2) 3次のエネルギーを変換したグラフの一例(その2) 3クラスに分類する場合のグラフの一例 3クラスに分類する場合の3次元のエネルギーのグラフを説明するための図 冠動脈の狭窄率を計算する処理の流れを示すフローチャート 冠状動脈の血管、プラーク、背景を説明するための図 冠状動脈の輝度値の出現頻度の分布を示す図 4次のエネルギーを用いた分離を説明するための図 同じクラスとなる4つのピクセルを示す図 4次のエネルギーをグラフに変換する方法を説明するための図 3クラスに分類する場合の4次元のエネルギーのグラフを説明するための図
以下、図面により、本発明の実施形態を詳細に説明する。本発明の分類装置は、分類プログラムがコンピュータにロードされて実行されることにより実現する。また、分類プログラムはCD−ROM等の記憶媒体に記憶されて配布され、CD−ROM等の記憶媒体からコンピュータにインストールされる。あるいは、インターネット等のネットワークを介してプログラムが配布されて、コンピュータにインストールされる。
まず、本発明に係る第1の実施の形態の分類装置を説明する。図1は、本発明に係る分類装置1の構成を示したブロック図である。本発明の実施形態では、グラフカットの手法を用いて画像中の各ピクセルをラベリングして画像を複数のクラスの領域に分割する手法について説明する。
図1に示すように、分類装置1は、画像データ入力受付手段11と、画像データP中の各ピクセルをラベリングするラベリング手段12と、表示手段17とを備えている。
さらに、ラベリング手段12は、2値化グラフ設定手段13、エネルギー設定手段14と、層別ラベリング手段15と、ラベル決定手段16とを備えている。
画像データ入力受付手段11は、画像処理対象の画像データPの入力を受け付け、記憶装置に一旦記憶する。画像データPは、単純X線撮影画像や、CT装置やMRI装置で撮影された断層画像等である。画像データPには複数の臓器や組織あるいは病変部が撮影されている。
ラベリング手段12は、グラフカットの手法を用いてエネルギーを最小化することで、画像データP内の各画素(ピクセル)に対してラベルを割り当てて、同じ臓器や組織あるいは病変部が1つの領域となるように画像を分割する。例えば、冠状動脈が撮影された画像データPを、冠状動脈と冠状動脈内のプラークと背景の領域に分割する。
まず、グラフカットを用いて画像データの各ピクセルに有限個のラベルを1つずつ割り振るために、各ピクセルの値に応じて決められる1次のエネルギーEと、隣接する2つのピクセルの関係によって決められる2次のエネルギーEijを用いてラベリングする手法について説明する。グラフカットに用いるエネルギー関数Eを次の式(1)のように定義する。
Vは画像データのピクセルの場所(以下、サイトと呼ぶ)を表す集合であり、Wは、サイト間の隣接関係を表す集合である。つまり、(i,j) ∈ Wのときサイトiとjは隣接している。式(1)の1項目の和は、各サイトに割り当てられるラベルのみに依存する値であり、Ei(xi) を足し合わせたものであり、各サイトにどのラベルを割り当てたかによって決まる直接的な影響が現れる。第2項目の和は、隣接するサイト間、つまり、隣接するピクセルに与えられるラベルがどのような関係にあるべきかという事前知識を反映するようにエネルギーを定義したものである。
まず、各ピクセルXiが「0」または「1」の2値の画像である場合について説明する。入力された画像データは、図2に示すように点(白丸)で構成され、各白丸がピクセルに1対1で対応する。グラフカットの手法を用いて、図3に示すように、各画素が1(黒丸)または0(白丸)の2値のいずれの領域に属するかを判別する。
この場合、各サイトに割り当てられるラベルLは{0,1}の二つである。そこで、図4に示すような有向グラフを作る。まず、グラフは各サイトi(j)それぞれに対応する頂点wi(wj)と、さらに2つの頂点sと頂点tを持つ。まず各サイトiに対応する頂点wiそれぞれについて、sから頂点wiへ向かう辺(以下、エッジという)と頂点wiからtへ向かうエッジをそれぞれ一本ずつ作る。次に、隣接するサイトに対応する頂点間にもエッジを作る。
このグラフのs,tは、各ピクセルXiの値を次の式(2)のように対応させる。
つまり、グラフの頂点wiの切断がs側にあるならばサイトiに1を割り当て(s側が切断されるとtに属する)、t側にあるならばサイトiに0のラベルを割り当てる。グラフの最小切断を行ったときに、各サイトiが頂点sと頂点tのどちらにつながっているかによって各サイトのラベルが決定される。
有向グラフのsから頂点wiへ向かうエッジと頂点wiからtへ向かうエッジに対して、1次のエネルギーE(w)を定義し、隣接するサイトに対応する頂点を結ぶエッジに対しては、2次のエネルギーEij(w,w)を定義する。
式(1)であらわされるエネルギーE(x)の最小化により各サイトに対するラベルを得るためには、最小エネルギーを与えるラベルと最小切断が対応するように各エッジのエネルギー(重み)を定めればよい。例えば、1次のエネルギーE(w)は、サイトiのラベルが1をとる可能性が高い場合には、頂点wiと頂点tを結ぶエッジの1次のエネルギーE(w)より、頂点wiと頂点sを結ぶエッジの1次のエネルギーE(w)を小さくし、サイトiのラベルが0をとる可能性が高い場合には、頂点wiと頂点sを結ぶエッジの1次のエネルギーE(w)より、頂点wiと頂点tを結ぶエッジの1次のエネルギーE(w)を小さくする。また、隣接する頂点wiと頂点wに同じラベルが割り当てられる可能性が高い場合には、頂点wiと頂点wの間のエッジは大きな値とし、隣接する頂点wiと頂点wに異なるラベルが割り当てられる可能性が高い場合には、頂点wiと頂点wの間のエッジは小さな値とする。
ところで、グラフの最小切断は最大流アルゴリズムを使って効率よく求められることが知られている。以下、2次のエネルギーをグラフに変換する手法について説明する。
頂点w、wがともにSに属する場合の2次のエネルギーEij(0,0)=Aとし、頂点wがSに属し、頂点wがTに属する場合の2次のエネルギーEij(0,1)=Bとし、頂点wがTに属し、頂点wがSに属する場合の2次のエネルギーEij(1,0)=Cとし、頂点w、頂点wがともにTに属する場合の2次のエネルギーEij(1,1)=Dとする。エネルギーA,B,C,Dは、頂点w、wに対応するピクセルの画素値に応じて、事前知識を反映するようにエネルギーを定義したものである。
2次のエネルギーは、表1に示すように表すことができる。
さらに、表1は表2のように書き直すことができる。
表2とエッジの関係について検討する。表2の第1項は定数である。次の2つの項(第2項〜第3項)はx、xのうちの1つの変数に依存し、(w、s)、(w、t)のエッジに対応する。最後の項(第4項目)はx、xの2つの変数に依存し、(w、wj)のエッジに対応する。図5に表2の変換後のエネルギー(重み)をあらわすグラフを示す。このとき、グラフカットで最小解を得るには、各エッジの重みが負にならないようにする必要がある。この条件(B+C−A−D≧0)は劣モジュラ性と呼ばれる。
このように、2次のエネルギーを図5に示すグラフに変換して頂点sと頂点tを分離する最小切断を求めることにより、解を高速に得ることができる。
次に、各サイトに割り当てられるラベルが2クラスよりも多いN(>2)個のクラスに分類する場合のグラフカットについて説明する。ここでは、ラベルが一列に並んで順序がある場合について説明する。
2つのクラスに分類する場合と同様にN個のクラスに分類する場合も、図6に示すように、頂点sと頂点tを持つグラフを定義する。図6は、便宜上、4つのラベルに分類する場合のグラフを示す。頂点sと頂点tの間に各ラベルの境となるk(=N−1)段の層を設け、各層α(α=1, . . . ,k)上に画像データPの各ピクセルのサイトvに対応する一連の頂点{w , . . . , w }を設ける。さらに、頂点sと頂点tと一連の頂点{w , . . . , w }を結ぶグラフを作ってグラフカット処理を行う。
非特許文献1では、図6に示すように、各層α=0,1, . . ,i,i+1, . . ,kのそれぞれの頂点を結ぶエッジ(w , wi+1 )と、逆向きに、α=1, . . ,i,i+1, . .,k−1のそれぞれの頂点を結ぶエッジ(wi+1 ,w )(図の点線矢印)を作ってグラフカット処理を行っている(簡単のため、w はsを示し, wk+1 はtを示すものとする。)。s =w ,w ,・ ・ ・,wk−1 ,w =tの並びのうち一度はSからTに変わらなければならない。そこで、後者のエッジ(wi+1 ,w )の重みは無限大に設定することによって、s=w ->w ->・ ・ ・->wk−1 ->w =tの一列のエッジのうち、一つだけが切断されることを保証している。
図6のグラフは、図7に示すように、各層の仮想平面を境とした2つのクラスを分ける2値のラベルリング処理に置き換えて、各層i毎に頂点w が2値の仮想ラベルのいずれに属するかを判定した後に、全ての層のラベリング結果からN個のラベルのいずれに該当するかを決定することができる。ただし、N個のラベルには順序があるものを対象とする。例えば、ラベルを分ける条件が画素値である場合には、ラベル0が割り当てられるピクセルの画素値の範囲が0〜20、ラベル1が割り当てられるピクセルの画素値の範囲が15〜35、ラベル2が割り当てられるピクセルの画素値の範囲が35〜55、・・・というように、画素値の範囲の順に対応してラベルが順番に振られるものを対象とする。
そこで、2値化グラフ設定手段13は、各層i毎に、N個のラベルのうちラベルi−1とラベルiを分ける第i番目の層iを境に、層iの各頂点wi がi以上のラベルに割り当てられるクラスを仮想ラベル0に対応させ、この層iの各頂点wi がi−1以下のラベルに割り当てられるクラスを仮想ラベル1に対応させて、仮想ラベル0に対応する頂点sと、仮想ラベル1に対応する頂点tと層iの各頂点wi を使って2値化グラフを設定する。
エネルギー設定手段14は、仮想ラベル0に属する前記ピクセルの画素値と仮想ラベル1に属する前記ピクセルの画素値に応じたエネルギーを各層の2値化グラフのエッジに対応して設定する。
1次のエネルギーは、頂点w に対応するピクセルの画素値が仮想ラベル0の画素値の範囲である場合には、エッジ(s, w )に対する1次のエネルギーをエッジ(w ,t)に対する1次のエネルギーより大きくし、頂点w に対応するピクセルの画素値が仮想ラベル1の画素値の範囲である場合には、エッジ(s, w )に対する1次のエネルギーをエッジ(w ,t)に対する1次のエネルギーより小さくするように決定される。
また、2次のエネルギーは、同じ層iの仮想平面上の隣接する頂点w と頂点w jの2つのピクセルそれぞれが同じ仮想ラベルに属する時の2次のエネルギーより、隣接する頂点w と頂点w jの2つのピクセルそれぞれが異なる仮想ラベルに属する時の2次のエネルギーが小さい値になるように決定される。
図7と図8を用いて2値化グラフとエネルギーについて具体的に説明する。
図7(A)に示すように、第1層目の仮想平面に含まれる各頂点w と頂点tを結ぶエッジと、各頂点w と頂点sを結ぶエッジに1次のエネルギーEi 1(F(i,1))を設定する。さらに、頂点t、頂点sと第1層目の仮想平面に含まれる隣接する2つの頂点w 、頂点w を使って2次のエネルギーEij (F(i,1)、F(j,1))を表すグラフを設定する。ここで、F(i,1)は、0または1の2値をとるものとし、サイトwにラベル0が割り当てられる(頂点sに属する)場合には、仮想ラベルF(i,1)=0とし、サイトwに0以外のラベルが割り当てられる場合には、仮想ラベルF(i,1)=1とする。
図7(B)に示すように、第2層目の仮想平面に含まれる各頂点w viと頂点tを結ぶエッジと、各頂点w と頂点sを結ぶエッジに1次のエネルギーEi (F(i,2)を設定する。さらに、頂点t、頂点sと、仮想平面に含まれる隣接する2つの頂点w 、頂点w を使って2次のエネルギーEij (F(i,2)、F(j,2)) を表すグラフを設定する。ここで、F(i,2)は、0または1の2値をとるものとし、サイトwにラベル1以下が割り当てられる場合には、仮想ラベルF(i,2)=0とし、サイトwに2以上のラベルが割り当てられる場合には、仮想ラベルF(i,2)=1とする。
図7(C)に示すように、第3層目の仮想平面に含まれる各頂点w と頂点tを結ぶエッジと、各頂点w と頂点sを結ぶエッジに1次のエネルギーEi (F(i,3))を設定する。さらに、頂点t、頂点sと、仮想平面に含まれる隣接する2つの頂点w と頂点w を使って2次のエネルギーEij (F(i,3)、F(j,3)) を表すグラフを設定する。ここで、F(i,3)は、0または1の2値をとるものとし、サイトiにラベル2以下が割り当てられる場合には、仮想ラベルF(i,3)=0とし、サイトiにラベル3が割り当てられる場合には、仮想ラベルF(i,3)=1とする。
以上の手順で構築したグラフのエネルギーEは、各層の2値化グラフの切断のエネルギーを加算したものであり、次の式(3)のように表される。次の式のlは層の番号を表す。
2次のエネルギーは、表2および図5に示す2次のエネルギーをグラフに変換する手法を用いて、各層i毎に2次のエネルギーを2つの頂点wi 、wi と頂点s、tを結ぶ2値化グラフに変換して最小切断を求める。図8に、第1層の2次のエネルギーを表す2値化グラフを示す。
層別ラベリング手段15は、各層の2値化グラフの各場所vのピクセルの画素値に応じたエネルギーに基づいてグラフカット処理を実行することにより、各層の2値化グラフのエッジのうち切断するエッジを決定して、各層の頂点w に仮想ラベル0および仮想ラベル1のいずれかを割り当てる。
さらに、ラベル決定手段16は、1番目からk番目の層の同じ場所vに対する各頂点wl (l=1, . . . ,k)が、仮想ラベル0または仮想ラベル1のいずれが割り当てられたかに応じて、サイトvのピクセルがN個のラベルのいずれに属するかを決定する。
ここでラベルは順序を持っており、同じサイトの異なる層を結ぶエッジは、逆向きに無限大(逆向きにはエッジが切断されない程度の、計算上十分に大きい値)の重みが設定されている(図6参照)。そのため、切断は各サイトの複数の層の間で必ず1回行われる。この切断の位置が、そのサイトに割り当てられたクラスである。このように、層ごとに独立してエネルギーを設定しても順序が保たれるように切断が求められる。
図8に示すように、第1層の仮想頂点w iの仮想ラベルが1で、第2層と第3層の頂点w i、w iの仮想ラベルが0の場合は、サイトiのラベルは1に決定される。第1層と第2層の仮想頂点w 、w iの仮想ラベルが1で、第3層の仮想頂点w iの仮想ラベルが0の場合は、サイトjのラベルは2に決定される。
上述のように、2次のエネルギーを用いることにより、画像データの各ピクセルの値だけでなく、隣接するピクセルとの関係を加味することで、血管の領域の中に現れたプラークに近い画素値を持つものも血管にクラス分けすることが可能になる。
表示手段17は、各クラスに分けられた領域が認識できる状態で表示する。具体的には、各クラス毎に色を変えて表示したり、ボリュームレンダリング処理などの画像処理を行って血管のみを表示したり、血管内のプラークが確認できるようにクラス別の表示を行う。
次に、第2の実施の形態で、画像データの各ピクセルに有限個のラベルを割り振るために3次のエネルギーを用いたグラフカットの手法について説明する。分類装置1の構成は、第1の実施の形態と略同様であるため、ラベリング手段12についてのみ詳細に説明する。
ラベリング手段12は、3次のエネルギーを用いてエネルギーを最小化する。エネルギー関数Eは、次の式(4)に示すように、各ピクセルの値に応じて決められる1次のエネルギーEと、隣接する2つのピクセルの関係によって決められる2次のエネルギーEijと、連続した3つのピクセルの関係によって決められる3次のエネルギーEijkを加算したものである。
ここで、まず、各ピクセルXiが「0」または「1」の2値の画像である場合に、3次のエネルギーをグラフに変換する方法について説明する。1次のエネルギーと2次のエネルギーは、上述と同じため詳細な説明は省略する。
頂点w、w、wがともにSに属する場合の3次のエネルギーをEijk(0,0,0)=Aとし、頂点w、wがSに属し、頂点wがTに属する場合の3次のエネルギーをEijk(0,0,1)=Bとし、頂点w、wがTに属し、頂点wjがSに属する場合の3次のエネルギーをEij(0,1,0)=Cとし、頂点wがSに属し、頂点w、wがともにTに属する場合の3次のエネルギーをEijk(0,1,1)=Dとし、頂点wがTに属し、頂点w、wがともにSに属する場合の3次のエネルギーをEijk(1,0,0)=Eとし、頂点w、wがTに属し、頂点wがSに属する場合の3次のエネルギーをEij(1,0,1)=Fとし、頂点w、wがTに属し、頂点wがSに属する場合の3次のエネルギーをEijk(1,1,0)=Gとし、頂点w、w、wがともにTに属する場合の3次のエネルギーをEijk(1,1,1)=Hとする。エネルギーA,B,C,D,E,F,G,Hは、頂点w、w、wに対応するピクセルの画素値に応じて、事前知識を反映するようにエネルギーを定義したものである。
3次のエネルギーは、表3に示すように表すことができる。
ここで、P = A+D+F+G−B−C−E−Hとおく。
(1)まず、0≦Pの場合の3次のエネルギーのグラフの変換について説明する。
P1 = F―B
P2 = G−E
P3 = D−C
P12 = C+E−A−G
P23 = B+C−A−D
P31 = B+E−A−F
とおくと、表3は表4のように書き直すことができる。またこのエネルギーは、(i,j)、(j,k)、(k,i)の全ての組み合わせについて劣モジュラであるならば、P23、P31、P12は負ではない。
表4とエッジの関係について検討する。表4の第1項と最後の項は定数であり、対応するエッジはない。次の3つの項(第2項〜第4項)はx、x、xのうちの1つの変数に依存し、それぞれ重さP、P、Pを持った(w、s)(w、s)(w、s)のエッジに対応する。それに続く3つの項(第5項〜第7項目)はx、x、xのうちの2つの変数に依存し、それぞれ重さP23、P31、P12を持った(w、w)(w、w)(w、w)のエッジに対応する。
第8項は、図9に示すように、補助頂点vijkを追加し、補助頂点vijkと各頂点を結ぶ重さPを持つ4つのエッジ(w、vijk)(w、vijk)(w、vijk)(vijk、t)に対応する。補助頂点とこれら4つのエッジが第8項を満足する(詳細については、非特許文献2を参照)。図10に全ての重みとエッジの関係を表すグラフを示す。
(2)次に、0>Pのときの3次のエネルギーのグラフの変換について説明する。
P1 = C−G;
P2 = B−D;
P3 = E−F;
P32 = F+G−E−H;
P13 = D+G−C−H;
P21 = D+F−B−H;
とおくと、下の表5のように書き直すことができる。
表5の第8項は、図11に示すように補助頂点vijkを追加し、補助頂点vijkと各頂点を結ぶ重さPを持つ4つのエッジ(w、vijk)(w、vijk)(w、vijk)(vijk、s)に対応する(詳細については、非特許文献2を参照)。(1)と同様にエッジと重みを対応させると、全ての重みとエッジの関係を表すグラフは図12に示すようになる。
このように、3次のエネルギーを図10、図12に示すグラフに変換して頂点sと頂点tを分離する最小切断を求めることにより、解を高速に得ることができる。
次に、各サイトに割り当てられるラベルが2クラスよりも多いN(>2)個のクラスに分類する場合の3次元のエネルギーについて説明する。図13に、3つのラベルに分類する場合のグラフを示す。
図13のグラフを、図14に示すように、2つの層の仮想平面を境に2つのクラスを分ける2値のラベルリング処理に置き換えて、各層i毎に頂点w の2値のラベルを判定した後に、各層のラベリング結果からN個のラベルのいずれに該当するかを決定するように置き換えることができる。
そこで、2値化グラフ設定手段13は、各層i毎に、N個のラベルのうちラベルi−1とラベルiを分ける第i番目の層iを境に、層iの各頂点wi がi以上のラベルに割り当てられるクラスを仮想ラベル0に対応させ、この層iの各頂点wi がi−1以下のラベルに割り当てられるクラスを仮想ラベル1を対応させて、仮想ラベル0に対応する頂点sと、仮想ラベル1に対応する頂点tと、層iの頂点w のうちの3つの連続した頂点w 、w 、w を使って、3次のエネルギーを表すグラフを作成する。表5および図12に示す3次のエネルギーをグラフに変換した手法を用いて、各層i毎に補助頂点v ijkを追加して3次のエネルギーのグラフを作成すると図14に示すようになる。
上述の方法で作成したグラフのエネルギーEは、各層の2値化グラフの切断のエネルギーを加算したものであり、次の式(4)のように定義する。次の式のlは層の番号を表す。
エネルギー設定手段14は、3次のエネルギーを、同じ層iの仮想平面上の隣り合う3つの頂点w と頂点w jと頂点w のピクセルが表す画像の特徴に対応するように決定したものを設定する。具体的には、画像上で縦方向、横方向、斜め方向に並ぶ3つのピクセルに対応する頂点を選ぶ。1層と2層のそれぞれで、隣り合う3つの頂点を選び、これら3つの頂点に対応するピクセルの画素値に基づき2通りのエネルギーを決定する。
通りのエネルギーとは、表3に示すmatrixの要素(A,B,C,D,E,F,G,H)を指す。各画素の仮想ラベル0と仮想ラベル1に属するピクセルの画素値の分布と、画像上の実際のピクセルの画素値とを照らしあわせて、とりうる可能性が高いラベルの組み合わせに対するエネルギーを相対的に小さくする。また、3次のエネルギーは、0と1の画像上での配置も重要である。例えば、010や101のように隣接する画素でラベルが大きく変動することは起きにくいため、そのような組み合わせのエネルギーは大きく設定する。その他、3つの頂点の画素値の2次微分等に基づいて、同時に0または1をとる可能性が高い場合にエネルギーを小さく設定することができる。
2値化グラフ設定手段13およびエネルギー設定手段14で設定される1次のエネルギーおよび2次のエネルギーのグラフとエネルギーは、第1の実施形態と同様であるため詳細な説明は省略する。
そこで、層別ラベリング手段15では、各層の2値化グラフの各サイトvのピクセルの画素値に応じたエネルギーに基づいてグラフカット処理を実行することにより、各層の2値化グラフのエッジのうち切断するエッジを決定して、各層の頂点w に仮想ラベル0および仮想ラベル1のいずれかを割り当てる。
さらに、ラベル決定手段16で、1番目からk番目の層の同じサイトvに対する各頂点w (i=1, . . . ,k)が、仮想ラベル0または仮想ラベル1のいずれが割り当てられたかに応じて、サイトvのピクセルがN個のラベルのいずれに属するかを決定する。
表示手段17では、各クラス毎に色を変えて表示したり、ボリュームレンダリング処理などの画像処理を行ってクラス別の表示を行う。
次に、3次のエネルギーを用いて、心臓の造影CT画像から冠動脈の狭窄率を計算する処理について説明する。図15は分類装置1で狭窄率を計算する処理の流れを示すフローチャートである。図16に示すように、冠状動脈の画像は内径、外径、背景の3クラスの領域に分類することができる。ここでは、内径は(プラークを含まない)血流が正常な領域を指し、外径はプラークを含む血管領域を指すものとする。狭窄率は内径/外径で計算され、狭窄率が高いほど重篤であることを示す。
まず、画像データ入力受付手段11で、冠状動脈の画像をあらわす画像データPの入力を受け付ける。入力された画像データPは、分類装置1に設けられた記憶装置に記憶される(S1)。
次に、前処理として、既知の冠動脈抽出処理を用いて、画像データPから冠動脈の中心線や中心座標を求める(S2)。与えられた中心座標をもとに血管の断面画像を取得する(S3)。得られた断面画像を背景、内径、外径の3つに領域分割する。血管の内径は外径に内包され、外径は背景に内包される領域であるから、3つのクラスは一列に並ぶ。ここで背景領域をクラス0、外径をクラス1、内径をクラス2とする。
ラベリング手段12で画像データ内のピクセルに対応する頂点wl 、w を第1層と第2層の仮想平面上に設ける。さらに、2値化グラフ設定手段13は、1層目の仮想平面上の各頂点wl と仮想ラベル0と仮想ラベル1からなる2値化グラフと、2層目の仮想平面上の各頂点w と仮想ラベル0と仮想ラベル1からなる2値化グラフを設定する(S4)。
さらに、1層目と2層目の各2値化グラフに1次、2次、3次のエネルギーを設定する(S5)。
各2値化グラフの1次のエネルギーは各サイトのピクセルの輝度値(画素値)に応じて決められる。図17に示すように輝度値が分布する場合、断面画像の血管の周辺の背景部分の輝度値の平均値を背景クラスの推定値A1とし、血管の中心部分の輝度値の平均値を内径クラスの推定値A2とする。
クラス0とクラス1の間の第1層目の2値化グラフは、背景領域のクラス0とそれ以外のクラス1,2に分けるので、エネルギー設定手段14は、頂点wl に対応するピクセルの輝度値が背景クラスの推定値A1に近いほど小さい値の1次のエネルギーを1層目の頂点wl と頂点sを結ぶ辺に対応させて設定し、1層目の頂点wl と頂点tを結ぶ辺には大きい値のエネルギーを設定する。
クラス1とクラス2の第2層目の2値化グラフは、内径のクラス2とそれ以外のクラス0,1に分けるので、エネルギー設定手段14は、頂点w に対応するピクセルの輝度値が内径のクラスの推定値A2に近いほど小さい値の1次のエネルギーを2層目の頂点w と頂点tを結ぶ辺に対応させて設定し、2層目の頂点w と頂点sを結ぶ辺には大きい値のエネルギーを設定する。頂点w に対応するピクセルの輝度値が内径のクラスの推定値A2から離れている場合には逆にする。
次に、2次のエネルギーの設定について説明する。第1層目の2値化グラフは、背景クラスと外形クラスの境となる推定値B1と比べて、隣り合う2つの頂点w の輝度値が背景クラス側の値と外形クラスの値に分かれるときには2次元のエネルギーに小さい値を設定し、推定値B1と比較して、隣り合う2つの頂点w の輝度値がどちらも背景クラス側、あるいは、隣り合う2つの頂点w の輝度値がどちらも外径クラス側にあるときは2次のエネルギーに大きい値を設定する。これら2つの頂点に対応するピクセルの輝度値に基づき2通りのエネルギーを決定し、第1層目の2値化グラフの各辺に2次のエネルギーを設定する。
同様に、第2層目の2値化グラフは、外径クラスと内形クラスの境となる推定値B2と比べて、隣り合う2つの頂点w の輝度値が内形クラス側の値と外径クラス側の値に別れるときは2次元のエネルギーに小さい値を設定し、推定値B2と比較して、隣り合う2つの頂点w の輝度値がどちらも内径クラス側、あるいは、隣り合う2つの頂点w の輝度値がどちらも外径クラス側にあるときは2次のエネルギーに大きい値を設定する。また、これら2つの頂点に対応するピクセルの輝度値に基づき2通りのエネルギー(表1参照)を決定し、この2通りのエネルギーに従って、第2層目の2値化グラフの各辺に2次のエネルギーを設定する。
次に3次のエネルギーの設定について説明する。第1層と第2層のそれぞれで、隣り合う3つの頂点を選び(縦方向、横方向、斜め方向に3つ選ぶ)、これら3つの頂点に対応するピクセルの輝度値に基づき2通りのエネルギー(表3参照)を決定する。各クラスの輝度値の分布が事前に推定されている場合には、各画素の値と輝度値とを照らしあわせて、実際の画素値がそれらの中間の輝度値をとるとき、そこでクラスが変わる可能性が高い。そこで、クラスが変わる位置が、あらかじめ推定したクラスの中間の位置に近いほど小さな値を設定する。前述のとおり、3次のエネルギーは0と1の画像上での配置も重要である。例えば010や101のように隣接する画素でラベルが大きく変動することは起きにくいため、そのような組み合わせのエネルギーは大きく設定する。また、3つの頂点の画素値の2次微分等に基づいて、同時に0または1をとる可能性が高い場合にエネルギーを小さく設定することができる。このようにして決められた2通りのエネルギーに従って、第1層目と2層目の2値化グラフの各辺に3次のエネルギーを設定する。
層別ラベリング手段15で、各層毎に最大流最小切断のアルゴリズムを実行して各層毎の各頂点を仮想ラベル0と仮想ラベル1にラベリングした後(S6)、ラベル決定手段16で、第1層の頂点wl と第2層の頂点w に割り振られた仮想ラベルから各サイトのラベルを決定することで、領域分割が完了する(S7)。
さらに、領域分割で得られた外径と内径から、狭窄率(=内径/外径)を計算する(S8)。表示手段17では、ボリュームレンダリング処理を行った画像とともに狭窄率を表示する(S9)。
以上詳細に説明したとおり、本手法で設定したエネルギー関数はサブモジュラ条件を満たすため、最小解を高速に得ることができる。また、3次のエネルギーを設定することからより高精度な領域分割が可能である。
次に、第3の実施の形態では、画像データの各ピクセルに有限個のラベルを割り振るために4次のエネルギーを用いたグラフカットの手法について説明する。分類装置1の構成は、第1の実施の形態と略同様であるため、ラベリング手段12についてのみ詳細に説明する。
ラベリング手段12は、4次のエネルギーを用いてエネルギーを最小化する。エネルギー関数Eは、次の式(6)に示すように、各ピクセルの値に応じて決められる1次のエネルギーEと、隣接する2つのピクセルの関係によって決められる2次のエネルギーEijと、連続した4つのピクセルの関係によって決められる4次のエネルギーEijklを加算したものである。
ここで、まず、各ピクセルXiが「0」または「1」の2値の画像である場合に、4次のエネルギーをグラフに変換する方法について説明する。1次のエネルギーと2次のエネルギーは、上述と同じため詳細な説明は省略する。
4次のエネルギーは、選択した4つのピクセルが同じクラスになるように分類する場合に利用することができる。例えば、直線的な構造を持つものに利用する。動脈や静脈などの血管は直線的に伸びていることが多く、図18に示すように、ある程度の長さの直線の上に並ぶ画素がすべて同じクラスとなることが好ましい。すなわち、図19に示すような4つのピクセルが(x,x,x,x)=(0,0,0,0)または(1,1,1,1)となる場合には、4次のエネルギーEjikl(x,x,x,x)は小さい。そこで、Ejikl(0,0,0,0)またはEjikl(1,1,1,1)となる場合の4次のエネルギーEjiklを0とし、それ以外のケースに一定の重みa(>0)を与える。
このエネルギーEijklを擬ブール式で書くと、
ijkl=a(1−x・x・x・x−(1−x)(1−x)(1−x)(1−x))
となる(擬ブール式については、特開2010−287091等を参照)。上記の式において、第1項は定数である。第2項は3次以上の項であるが、上記文献で知られているように次の式によって2次に変換できる。ここでwは新たに付加した2値の変数である。変換後の関数で最小値を与えるx、x、xは、変換前の関数でも最小値を与える。4次ならば次の式(7)で変換する。

同様に、次の式(8)に示すように、付加変数一つで何次でも対応することができる。
次に、上式の第3項は、次の式(9)によって2次に変換することができる。
さらに、4次ならば次の式(10)に変換することができる。
同様に、次の式(11)に示すように、付加変数一つで何次でも対応することができる。
これをグラフで表現すると、図20に示すように、4つの画素に対応する頂点x,x,x,xと頂点sの間、4つの画素に対応する頂点x,x,x,xと頂点tの間のそれぞれに仮想頂点v,vを追加して、頂点x,x,x,xと仮想頂点vを結ぶエッジと、頂点x,x,x,xと仮想頂点vを結ぶエッジと、仮想頂点vと頂点sを結んだエッジ、仮想頂点vと頂点tを結んだエッジで構成されるグラフで表すことができる。また、各エッジは重みがaである。
このように、4次のエネルギーを図20に示すグラフに変換して頂点sと頂点tを分離する最小切断を求めることにより、解を高速に得ることができる。
さらに、4つ以上のピクセルが同じクラスになるように分類する場合には、2クラスよりも多いN(>2)個のクラスに分類する場合であっても、前述の3次のエネルギーを設定した場合と同様に、2値のラベルリング処理に置き換えて、N個のラベルのいずれに該当するかを決定することができる。
2値化グラフ設定手段13は、各層i毎に、N個のラベルのうちラベルi−1とラベルiを分ける第i番目の層iを境に、層iの各頂点wi がi以上のラベルに割り当てられるクラスを仮想ラベル0に対応させ、この層iの各頂点wi がi−1以下のラベルに割り当てられるクラスを仮想ラベル1に対応させて、仮想ラベル0に対応する頂点sと、仮想ラベル1に対応する頂点tと、層iの頂点w のうちの4つの頂点w 、w 、w 、w lを使って、4次のエネルギーを表すグラフを作成する。
図21に示すように、同一の層内の任意の4つ以上の頂点の全てが仮想ラベル0または仮想ラベル1に属するかに応じて決定される4次以上のエネルギーを、各層毎に仮想頂点v 、v を経由して4つの頂点w 、w 、w 、w lと頂点sまたは頂点tを結ぶ辺を設定する。図21には、便宜上1層目の4次のグラフをあらわすが、同様に2層目に付いても同様に4次のグラフを作成する。
上述の方法で作成したグラフのエネルギーEは、各層の2値化グラフの切断のエネルギーを加算したものであり、次の式(12)のように定義する。次の式のLは層の番号を表す。
エネルギー設定手段14は、4次のエネルギーを、同じ層iの仮想平面上の並んだ4つの頂点w 、頂点w j、頂点w 、頂点w lのピクセルが表す画像の特徴に対応するように決定したものを設定する。具体的には、画像上で縦方向、横方向、斜め方向に並ぶ4つのピクセルに対応する頂点を選ぶ。1層と2層のそれぞれで、4つの頂点を選び、これら4つの頂点に対応して表6のようにエネルギーを決定する。
2値化グラフ設定手段13およびエネルギー設定手段14で設定される1次のエネルギーおよび2次のエネルギーのグラフとエネルギーは、第1の実施形態と同様であるため詳細な説明は省略する。
以下、前述の実施の形態と同様に 層別ラベリング手段15で、各層毎に最大流最小切断のアルゴリズムを実行して各層毎の各頂点を仮想ラベル0と仮想ラベル1にラベリングした後、ラベル決定手段16で、第1層の頂点wl と第2層の頂点w に割り振られた仮想ラベルから各サイトのラベルを決定することで、領域分割が完了する。
上述では4次のエネルギーについて説明したが、4つ以上のN個のピクセルが同じクラスになるように分類する場合には、4次以上のN次のエネルギーを用いることができる。N次のエネルギーは、図20と同様に、Nのピクセルに対応する頂点w と仮想頂点v 、v を結ぶエッジと、仮想頂点v 、v と頂点tを結ぶエッジ、仮想頂点と頂点sを結ぶエッジで構成されるグラフで表すことができる。
さらに、4次以上の高次のエネルギーを用いて2次以上の多クラスに分類する場合には、図21に示すように、N次のエネルギーを各層i毎に仮想頂点v 、v を経由して前記N個の頂点w と頂点sまたは頂点tを結ぶ辺に対応して設定した2値化グラフを用いて、多クラスに分類することが可能である。
上述では、4つのピクセルが直線状に並んでいる場合について説明したが、4つ以上のN個のピクセルが特定の形状をあらわすように選択することにより、特定の形状を持つ構造を同じクラスに分類することが可能になる。例えば、曲線、平面、曲面、円および球などの様々な形状をあらわすようにピクセルを選ぶことで、その形状を持つ構造物を画像から分離することが可能である
上述では、画像を構成するピクセルの画素値(あるいは、輝度値)に応じてクラス分けする場合について説明したが、周辺の画素値に依存してエネルギーを決定してもよく、画素値以外の情報に依存してエネルギーを決定してクラス分けをするようにしてもよい。例えば、選んだ3つ(以上)の画素が直線的に並んでいるかに依存してエネルギーを設定しても良い。また、別途設定される基準点との距離に応じてエネルギーを設定しても良い。この基準点は、例えば、血管領域をセグメンテーションする場合に、対象とする血管の中心座標にすることができる。
また、上述では2次のエネルギーを隣接する2つのピクセル間の関係に対応するように決定する場合について説明したが、隣接するピクセルではなく任意の2つのピクセル間の関係に対応するように2次のエネルギーを決定してもよい。例えば、2つのピクセルの間に他のピクセルがあるものでもよく、2つの画像の特定の位置に対応するように選んでもよい。
また、上述では3次のエネルギーを隣接する3つのピクセル間の関係に対応するように決定する場合について説明したが、隣接するピクセルではなく任意の3つのピクセル間の関係に対応するように3次のエネルギーを決定してもよい。例えば、3つのピクセルが1つおきに並んでいてもよく、3つのピクセルが三角などの特定の形状を表すものでもよい。
1 分類装置
11 画像データ入力受付手段
12 ラベリング手段
13 2値化グラフ設定手段
14 エネルギー設定手段
15 層別ラベリング手段
16 ラベル決定手段
17 表示手段

Claims (7)

  1. 画像データを構成する各ピクセルを、0からN−1までの順序を持ったN(>2)個のラベルのいずれかに分類する分類装置であって、
    頂点sと頂点tの間に各ラベルの境となるk(=N−1)段の層を設け、各層α(α=1, . . . ,k)上に前記画像の各ピクセルの場所vに対応する頂点wα (α=1, . . . ,k)を設け、前記頂点t、前記頂点sおよび前記頂点wα のうちの2つの頂点を結ぶ辺を有するグラフを用いて、前記辺のうち切断する辺をグラフカット処理により決定して各ピクセルにN個のラベルのいずれかを割り当てるラベリング手段を備え、
    前記ラベリング手段が、
    前記N個のラベルのうちラベルi−1とラベルiを分ける第i番目の層iごとに、該層iの各頂点w が対応する場所vにi以上のラベルが割り当てられることを仮想ラベル1に、i−1以下のラベルに割り当てられることを仮想ラベル0にそれぞれ対応させて、前記仮想ラベル0に対応する前記頂点s、前記仮想ラベル1に対応する前記頂点tおよび前記各頂点w のうちの2つの頂点を結ぶ辺を有する2値化グラフを設定する2値化グラフ設定手段と、
    前記各頂点が仮想ラベル0に属する場合と前記仮想ラベル1に属する場合に応じたエネルギーを、各層の前記2値化グラフの辺に設定するエネルギー設定手段と、
    前記層ごとの2値化グラフにエネルギーが設定されたグラフ全体にグラフカット処理を実行することより、前記各層の2値化グラフの辺のうち切断する辺を決定して、該層の前記頂点w に仮想ラベル0および仮想ラベル1のいずれかを割り当てる層別ラベリング手段と、
    前記1番目からk番目の層の同じ場所vに対する各頂点w (i=1, . . . ,k)が、仮想ラベル0または仮想ラベル1のいずれが割り当てられたかに応じて、場所vのピクセルがN個のラベルのいずれに属するかを決定するラベル決定手段とを有し、
    前記2値化グラフが、前記同一の層i内の2つの頂点間を結ぶ辺と、頂点sと頂点w を結ぶ辺(s, w )と、頂点w と頂点tを結ぶ辺(w ,t) とを有するものであり、
    前記ラベル決定手段が、同じ場所vに対する全ての層の頂点w が全て仮想ラベル0に属する場合は該頂点w に対応するピクセルをラベル0に決定し、全ての層iの頂点w が全て仮想ラベル1に属する場合は該頂点w に対応するピクセルをラベルN−1と決定し、第1層から第p層までが仮想ラベル0に属し第p+1層から第N−1層までが仮想ラベル1に属する場合は該頂点w に対応するピクセルをクラスpと決定するものであり、
    前記エネルギー設定手段が、
    前記同一の層内の任意の4つ以上の頂点の全てが仮想ラベル0または仮想ラベル1に属するかに応じて決定される4次以上のエネルギーを、各層毎に仮想頂点vを経由して前記4つの頂点w と前記頂点sまたは前記頂点tを結ぶ辺に対応して設定するものであることを特徴とする分類装置。
  2. 前記エネルギー設定手段が、
    前記頂点sと頂点w を結ぶ辺(s, w )および前記頂点w と頂点tを結ぶ辺(w ,t)に対応して1次のエネルギーを設定するものであり、
    前記同一の層内の2つのw v、 u間を結ぶ辺に対して2次のエネルギーを設定するものであることを特徴とする請求項1記載の分類装置。
  3. 前記1次のエネルギーは、前記頂点w に対応するピクセルの画素値が仮想ラベル0となる尤度が高い場合には辺(s, w )に対する1次のエネルギーを辺(w ,t)に対する1次のエネルギーより大きくし、前記頂点w に対応するピクセルの画素値が仮想ラベル1となる尤度が高い場合には辺(s, w )に対する1次のエネルギーを辺(w ,t)に対する1次のエネルギーより小さくするように決定されるものであり、
    前記2次のエネルギーは、頂点w のピクセルとそれに隣接する頂点w uのピクセルが異なる仮想ラベルに属する可能性が高いほど辺(w , w u)に対する2次のエネルギーが小さい値になるように決定されるものであることを特徴とする請求項2記載の分類装置。
  4. 4つ以上の前記ピクセルを所定の形状をあらわすように選択する選択部をさらに備えた請求項1〜3のいずれか1項記載の分類装置。
  5. 前記画像データには血管が含まれるものであり、
    前記各ピクセルを、前記血管以外の背景と、前記血管の内径と、前記血管の外径との3個のラベルに分類する請求項1〜4のいずれか1項記載の分類装置。
  6. コンピュータを、
    画像データを構成する各ピクセルを、0からN−1までの順序を持ったN(>2)個のラベルのいずれかに分類する分類装置として機能させるための分類プログラムであって、
    前記コンピュータを、
    頂点sと頂点tの間に各ラベルの境となるk(=N−1)段の層を設け、各層α(α=1, . . . ,k)上に前記画像の各ピクセルの場所vに対応する頂点wα (α=1, . . . ,k)を設け、前記頂点t、前記頂点sおよび前記頂点wα のうちの2つの頂点を結ぶ辺を有するグラフを用いて、前記辺のうち切断する辺をグラフカット処理により決定して各ピクセルにN個のラベルのいずれかを割り当てるラベリング手段として機能させるものであり、
    前記ラベリング手段が、
    前記N個のラベルのうちラベルi−1とラベルiを分ける第i番目の層iごとに、該層iの各頂点w が対応する場所vにi以上のラベルが割り当てられることを仮想ラベル1に、i−1以下のラベルに割り当てられることを仮想ラベル0にそれぞれ対応させて、前記仮想ラベル0に対応する前記頂点s、前記仮想ラベル1に対応する前記頂点tおよび前記各頂点w のうちの2つの頂点を結ぶ辺を有する2値化グラフを設定する2値化グラフ設定手段と、
    前記各頂点が仮想ラベル0に属する場合と前記仮想ラベル1に属する場合に応じたエネルギーを、各層の前記2値化グラフの辺に設定するエネルギー設定手段と、
    前記層ごとの2値化グラフにエネルギーが設定されたグラフ全体にグラフカット処理を実行することより、前記各層の2値化グラフの辺のうち切断する辺を決定して、該層の前記頂点w に仮想ラベル0および仮想ラベル1のいずれかを割り当てる層別ラベリング手段と、
    前記1番目からk番目の層の同じ場所vに対する各頂点w (i=1, . . . ,k)が、仮想ラベル0または仮想ラベル1のいずれが割り当てられたかに応じて、場所vのピクセルがN個のラベルのいずれに属するかを決定するラベル決定手段とを有し、
    前記2値化グラフが、前記同一の層i内の2つの頂点間を結ぶ辺と、頂点sと頂点w を結ぶ辺(s, w )と、頂点w と頂点tを結ぶ辺(w ,t) とを有するものであり、
    前記ラベル決定手段が、同じ場所vに対する全ての層の頂点w が全て仮想ラベル0に属する場合は該頂点w に対応するピクセルをラベル0に決定し、全ての層iの頂点w が全て仮想ラベル1に属する場合は該頂点w に対応するピクセルをラベルN−1と決定し、第1層から第p層までが仮想ラベル0に属し第p+1層から第N−1層までが仮想ラベル1に属する場合は該頂点w に対応するピクセルをクラスpと決定するものであり、
    前記エネルギー設定手段が、
    前記同一の層内の任意の4つ以上の頂点の全てが仮想ラベル0または仮想ラベル1に属するかに応じて決定される4次以上のエネルギーを、各層毎に仮想頂点vを経由して前記4つの頂点w と前記頂点sまたは前記頂点tを結ぶ辺に対応して設定するものであることを特徴とする分類プログラム。
  7. 画像データを構成する各ピクセルを、0からN−1までの順序を持ったN(>2)個のラベルのいずれかに分類するラベリング手段を備えた分類装置の動作方法であって、
    前記ラベリング手段により、頂点sと頂点tの間に各ラベルの境となるk(=N−1)段の層を設け、各層α(α=1, . . . ,k)上に前記画像の各ピクセルの場所vに対応する頂点wα (α=1, . . . ,k)を設け、前記頂点t、前記頂点sおよび前記頂点wα のうちの2つの頂点を結ぶ辺を有するグラフを用いて、前記辺のうち切断する辺をグラフカット処理により決定して各ピクセルにN個のラベルのいずれかを割り当てるラベリングステップを備え、
    前記ラベリングステップが、
    前記N個のラベルのうちラベルi−1とラベルiを分ける第i番目の層iごとに、該層iの各頂点w が対応する場所vにi以上のラベルが割り当てられることを仮想ラベル1に、i−1以下のラベルに割り当てられることを仮想ラベル0にそれぞれ対応させて、前記仮想ラベル0に対応する前記頂点s、前記仮想ラベル1に対応する前記頂点tおよび前記各頂点w のうちの2つの頂点を結ぶ辺を有する2値化グラフを設定する2値化グラフ設定ステップと、
    前記各頂点が仮想ラベル0に属する場合と前記仮想ラベル1に属する場合に応じたエネルギーを、各層の前記2値化グラフの辺に設定するエネルギー設定ステップと、
    前記層ごとの2値化グラフにエネルギーが設定されたグラフ全体にグラフカット処理を実行することより、前記各層の2値化グラフの辺のうち切断する辺を決定して、該層の前記頂点w に仮想ラベル0および仮想ラベル1のいずれかを割り当てる層別ラベリングステップと、
    前記1番目からk番目の層の同じ場所vに対する各頂点w (i=1, . . . ,k)が、仮想ラベル0または仮想ラベル1のいずれが割り当てられたかに応じて、場所vのピクセルがN個のラベルのいずれに属するかを決定するラベル決定ステップとを有し、
    前記2値化グラフが、前記同一の層i内の2つの頂点間を結ぶ辺と、頂点sと頂点w を結ぶ辺(s, w )と、頂点w と頂点tを結ぶ辺(w ,t) とを有するものであり、
    前記ラベル決定ステップが、同じ場所vに対する全ての層の頂点w が全て仮想ラベル0に属する場合は該頂点w に対応するピクセルをラベル0に決定し、全ての層iの頂点w が全て仮想ラベル1に属する場合は該頂点w に対応するピクセルをラベルN−1と決定し、第1層から第p層までが仮想ラベル0に属し第p+1層から第N−1層までが仮想ラベル1に属する場合は該頂点w に対応するピクセルをクラスpと決定するものであり、
    前記エネルギー設定ステップが、
    前記同一の層内の任意の4つ以上の頂点の全てが仮想ラベル0または仮想ラベル1に属するかに応じて決定される4次以上のエネルギーを、各層毎に仮想頂点vを経由して前記4つの頂点w と前記頂点sまたは前記頂点tを結ぶ辺に対応して設定するものであることを特徴とする分類装置の動作方法。
JP2016040144A 2016-03-02 2016-03-02 分類装置、分類プログラムおよび分類装置の動作方法 Active JP6156855B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016040144A JP6156855B2 (ja) 2016-03-02 2016-03-02 分類装置、分類プログラムおよび分類装置の動作方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016040144A JP6156855B2 (ja) 2016-03-02 2016-03-02 分類装置、分類プログラムおよび分類装置の動作方法

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2012217956A Division JP5897445B2 (ja) 2012-09-28 2012-09-28 分類装置、分類プログラムおよび分類装置の動作方法

Publications (2)

Publication Number Publication Date
JP2016122465A JP2016122465A (ja) 2016-07-07
JP6156855B2 true JP6156855B2 (ja) 2017-07-05

Family

ID=56327458

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016040144A Active JP6156855B2 (ja) 2016-03-02 2016-03-02 分類装置、分類プログラムおよび分類装置の動作方法

Country Status (1)

Country Link
JP (1) JP6156855B2 (ja)

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4909378B2 (ja) * 2009-06-02 2012-04-04 キヤノン株式会社 画像処理装置及びその制御方法、コンピュータプログラム
KR100967379B1 (ko) * 2009-11-04 2010-07-05 (주)올라웍스 그래프 컷의 초기값을 설정하는 방법, 단말 장치, 및 컴퓨터 판독 가능한 기록 매체

Also Published As

Publication number Publication date
JP2016122465A (ja) 2016-07-07

Similar Documents

Publication Publication Date Title
JP3554930B2 (ja) 色−テクスチャ距離の測定方法及び装置並びにこれらを用いた映像の領域区分方法及び装置
CN110309860B (zh) 基于卷积神经网络对肺结节的恶性程度进行分类的方法
US8787642B2 (en) Method, device and computer-readable recording medium containing program for extracting object region of interest
EP2377096B1 (en) Image segmentation
US7724256B2 (en) Fast graph cuts: a weak shape assumption provides a fast exact method for graph cuts segmentation
US12106482B2 (en) Learning-based active surface model for medical image segmentation
KR20220154100A (ko) 이미지 처리에 기초한 종양의 자동화된 검출
CN105513070A (zh) 一种基于前景背景优化的rgb-d显著物体检测方法
CN111597920B (zh) 一种自然场景下的全卷积单阶段的人体实例分割方法
US20160005226A1 (en) Classifying contiguous objects from polygonal meshes with spatially grid-like topology
CN110363776B (zh) 图像处理方法及电子设备
JP5879291B2 (ja) 画像処理装置、画像処理プログラムおよび画像処理装置の作動方法
JP5897445B2 (ja) 分類装置、分類プログラムおよび分類装置の動作方法
JP6787844B2 (ja) オブジェクト抽出装置およびそのスーパーピクセルラベリング方法
EP2902970B1 (en) Image processing device, image processing program, and operating method for image processing device
JP2008084076A (ja) 画像処理装置、方法およびプログラム
JP2014236912A (ja) 画像処理装置およびその方法
JP6156855B2 (ja) 分類装置、分類プログラムおよび分類装置の動作方法
JP5564643B2 (ja) 情報処理方法および情報処理装置
JP6546385B2 (ja) 画像処理装置及びその制御方法、プログラム
US20150262026A1 (en) Image processing apparatus, and operation method and program therefor
JP5716170B2 (ja) 情報処理方法および情報処理装置
CN106447681B (zh) 一种非均一严重运动退化图像的对象分割方法
Zhang et al. Dp2 block: An improved multi-scale block for pulmonary nodule detection
JP7462188B2 (ja) 医用画像処理装置、医用画像処理方法、およびプログラム

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170323

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170509

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20170522

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170531

R150 Certificate of patent or registration of utility model

Ref document number: 6156855

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250