JP2005034211A - 画像判別装置、方法およびプログラム - Google Patents
画像判別装置、方法およびプログラム Download PDFInfo
- Publication number
- JP2005034211A JP2005034211A JP2003197512A JP2003197512A JP2005034211A JP 2005034211 A JP2005034211 A JP 2005034211A JP 2003197512 A JP2003197512 A JP 2003197512A JP 2003197512 A JP2003197512 A JP 2003197512A JP 2005034211 A JP2005034211 A JP 2005034211A
- Authority
- JP
- Japan
- Prior art keywords
- image
- density distribution
- learning
- partial image
- histogram
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 238000000034 method Methods 0.000 title description 21
- 230000002159 abnormal effect Effects 0.000 claims abstract description 74
- 239000013598 vector Substances 0.000 claims abstract description 68
- 238000000605 extraction Methods 0.000 claims description 22
- 238000004364 calculation method Methods 0.000 claims description 8
- 238000012850 discrimination method Methods 0.000 claims description 2
- 230000035807 sensation Effects 0.000 abstract description 4
- 230000000007 visual effect Effects 0.000 abstract description 2
- 206010028980 Neoplasm Diseases 0.000 description 21
- 241000270295 Serpentes Species 0.000 description 16
- 238000010586 diagram Methods 0.000 description 15
- 230000003211 malignant effect Effects 0.000 description 11
- 239000000284 extract Substances 0.000 description 10
- 238000012545 processing Methods 0.000 description 6
- 238000004195 computer-aided diagnosis Methods 0.000 description 5
- 238000003745 diagnosis Methods 0.000 description 5
- 201000011510 cancer Diseases 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 230000003044 adaptive effect Effects 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 3
- 238000013459 approach Methods 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 3
- 238000001514 detection method Methods 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 238000002372 labelling Methods 0.000 description 2
- 229930091051 Arenine Natural products 0.000 description 1
- ZAKOWWREFLAJOT-CEFNRUSXSA-N D-alpha-tocopherylacetate Chemical compound CC(=O)OC1=C(C)C(C)=C2O[C@@](CCC[C@H](C)CCC[C@H](C)CCCC(C)C)(C)CCC2=C1C ZAKOWWREFLAJOT-CEFNRUSXSA-N 0.000 description 1
- 208000027418 Wounds and injury Diseases 0.000 description 1
- 244000273928 Zingiber officinale Species 0.000 description 1
- 235000006886 Zingiber officinale Nutrition 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 210000004204 blood vessel Anatomy 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000007621 cluster analysis Methods 0.000 description 1
- 230000008602 contraction Effects 0.000 description 1
- 230000006378 damage Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000002059 diagnostic imaging Methods 0.000 description 1
- 201000010099 disease Diseases 0.000 description 1
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 235000008397 ginger Nutrition 0.000 description 1
- 208000014674 injury Diseases 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 208000024891 symptom Diseases 0.000 description 1
Images
Landscapes
- Measuring And Recording Apparatus For Diagnosis (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
- Apparatus For Radiation Diagnosis (AREA)
Abstract
【課題】画像の濃淡値から得られる医用画像に固有のイメージパターンに基づいて、異常陰影候補の判定を人の視覚で捉えた感覚に近い感覚で判別を行う。
【解決手段】画像データから注目部分画像を抽出し、抽出された注目部分画像の単位画素群の各画素について濃度分布パターン記憶手段に記憶されている濃度分布パターンのいずれに類似するかを判定し、各濃度分布パターンが注目部分画像中に出現する出現頻度を各濃度分布パターン毎にカウントしてパターンヒストグラムXを算出する。SOMにパターンヒストグラムXを繰り返し提示し、入力ノードiと出力ノードjとを結ぶ重みWjを学習して、出力ノードjと各入力ノードiとを結ぶ学習された学習済重みベクトルWjを画像タイプを代表するパターンヒストグラムとして得る。所定の注目部分画像のパターンヒストグラムXと学習済重みベクトルWjとに基づいて注目部分画像の画像タイプを判別する。
【選択図】 図13
【解決手段】画像データから注目部分画像を抽出し、抽出された注目部分画像の単位画素群の各画素について濃度分布パターン記憶手段に記憶されている濃度分布パターンのいずれに類似するかを判定し、各濃度分布パターンが注目部分画像中に出現する出現頻度を各濃度分布パターン毎にカウントしてパターンヒストグラムXを算出する。SOMにパターンヒストグラムXを繰り返し提示し、入力ノードiと出力ノードjとを結ぶ重みWjを学習して、出力ノードjと各入力ノードiとを結ぶ学習された学習済重みベクトルWjを画像タイプを代表するパターンヒストグラムとして得る。所定の注目部分画像のパターンヒストグラムXと学習済重みベクトルWjとに基づいて注目部分画像の画像タイプを判別する。
【選択図】 図13
Description
【0001】
【発明の属する技術分野】
本発明は、画像中の視覚的に捉えられる特徴を用いて対象となる画像のタイプを判別する画像判別装置に関するものである。
【0002】
【従来の技術】
従来、種々の画像取得方法により得られた画像に対して、階調処理や周波数処理等の画像処理を施し、画像の観察読影性能を向上させることが行われている。特に人体を被写体とした放射線画像のような医用画像の分野においては、医師等の専門家が、得られた画像に基づいて患者の疾病や傷害の有無を的確に診断する必要があり、その画像の読影性能を向上させる画像処理は不可欠なものとなっている。そのため、このような画像処理を用いることで、観察者の経験や画像読影能力の高低によって左右されず客観的に腫瘤陰影を判断できるように様々な方法が提案されている。
【0003】
放射線画像等に撮影された癌化した部分の腫瘤陰影は、おおむね丸味をおびた輪郭を持ち、かつ、画像上では周囲に比べて画素値が大きな領域として観測される。このような腫瘤陰影は、半球状で同じ濃度が同心円状に広がる形状の領域(以降、円形凸領域と呼ぶ)で、濃度値の分布が周縁部から中心部に向かうにしたがって濃度値が低くなるという濃度値の勾配が認められる。その勾配線は腫瘤の中心方向に向かって集中するもので、濃度値の勾配を勾配ベクトルとして算出し、その勾配ベクトルの集中度から腫瘤陰影を検出することができることが知られている(例えば、非特許文献1、非特許文献2参照)。
【0004】
また、このような集中度を評価するものの中には、腫瘤の大きさや形状に左右されない検出力を達成するために、フィルタの大きさと形状とを工夫したものがあり、代表的なものとして、アイリスフィルタや適応リングフィルタが挙げられる。このアリスフィルタの出力値は、円形凸領域の輪郭で最大値を与えるものであり(例えば、特許文献1参照)、一方、適応リングフィルタの出力は、円形凸領域の中心付近で極大値をとるものである(例えば、非特許文献2参照)。
【0005】
そこで、アイリスフィルタ等を用いて異常陰影の候補領域を検出し、検出された異常陰影の候補領域に基づいて候補領域内部の濃度ヒストグラムを求め、このヒストグラムに基づく複数の特徴量、すなわち分散値、コントラスト、角モーメント等を算出し、さらに各特徴量を所定の重み付け関数で定義して新たな評価関数値を算出し、算出された評価関数値に基づいて候補領域が悪性陰影であるか否かを判定し、悪性陰影のみを異常陰影候補として検出する方法が提案されている(例えば、特許文献2)。
【0006】
また、予め実験的に得られている候補領域内部の濃度ヒストグラムに基づく複数の特徴量から正常陰影と異常陰影のクラスターに分類し、医用画像データに現われた候補領域に対して、正常陰影を示すパターンクラスからのマハラノビス距離Dm1と異常陰影を示すパターンクラスからのマハラノビス距離Dm2を算出して異常陰影に該当するものか否かを検出するものがある(例えば、特許文献2、特許文献3参照)。
【0007】
さらに、以上の手法を組み合わせて、読影者の負担の軽減と、質の向上を図ったコンピュータ診断支援(CAD:Computer aided diagnosis)システムがある。このCADシステムの流れは以下のようになる。
(1) まず、原画像に適応リングフィルタを利用して円形凸領域を強調する。
(2) 次に、フィルタ出力値の極大点を抽出し、大きいものからいくつか(例えば、7個)を腫瘤候補点として抽出する。
(3) 腫瘤候補点から、腫瘤候補領域を抽出するために、アイリスフィルタとSnakes法を適用する。Snakes法は、エネルギー最小化原理に基づいた最適解としての輪郭を抽出する方法であり、Snakesエネルギーとしてアイリスフィルタの出力を用いる。Snakesのアルゴリズムによる候補領域決定の詳細は、非特許文献3に述べられている。
(4) さらに、決定された各候補領域から特徴量を算出して、マハラノビス距離に基づいて、候補領域を悪性腫瘤影と良性腫瘤影の2つのクラスターに判別する。
このように、形状抽出結果に基づいて腫瘤が悪性腫瘤であるか良性腫瘤であるかを判別するものがある(例えば、非特許文献4参照)。
【0008】
また、近年、読影する医用画像の視覚的な特徴が類似する類似画像を過去症例のデータベースから検索するCADが提案されている(例えば、非特許文献5参照)。
【0009】
【特許文献1】
特開平8−294479号公報
【0010】
【特許文献2】
特開平9−167238号公報
【0011】
【特許文献3】
特開2002−74325号公報
【0012】
【非特許文献1】
魏 軍、荻原 義裕、清水 明伸、小畑 秀文、“こう配ベクトルの点集中性フィルタの特性解析”、電子情報通信学会論文誌(D−II) Vol.J84−D−II No.7,pp.1289−1298,2001.
【0013】
【非特許文献2】
魏 軍、荻原 義裕、小畑 秀文、“がん陰影候補抽出のための勾配ベクトル集中フィルタ”、電子情報通信学会論文誌(D−II) Vol.J83−D−II No.1,pp.118−125,Jan.2000.
【0014】
【非特許文献3】
H.Kobata,M.Murakami,et al,”Computerized detection of malignant tumors on digital mammograms,”IEEE Trans on Med,Imag,Vol.18,No.5,pp.369−378,1999.
【0015】
【非特許文献4】
古屋早知子、魏 軍、荻原 義裕、清水 明伸、小畑 秀文、縄野 繁、“準最適特徴量組み合わせによる乳房X線像上の腫瘤影判別性能向上”、電子情報通信学会 Vol.100 No.434,pp.93−100,2001.
【0016】
【非特許文献5】
“M.Ginger,Z.Huo,C.Vybomy,L.Lan,I.Bonta,K.Horsch,R.Nishikawa,I.Rosenborough,Intelligent CAD workstation for breast imaging using similarity to known lesions and multiple visual prompt aids, PROCEEDINGS OF SPIE, Medical Imaging 2002,February 2002,San Diego”
【0017】
【発明が解決しようとする課題】
上記のような診断支援技術は、候補領域の形状、大きさ、濃度のコントラスト等の抽象化された特徴量を用いて判断するため、必ずしも人間の視覚で捉えた感覚とは一致せずズレが生じる。そのため、類似すると判定された腫瘤であっても実際の画像を視覚的に比較した場合には類似しない場合があった。例えば、類似画像を過去症例のデータベースから検索するような場合に、質問腫瘤画像とは類似しない腫瘤画像が検索される場合があった。
【0018】
また、腫瘤等の異常陰影は視覚的に捕らえられるいくつかの代表的なタイプに分類することがよく行われるが、ある異常陰影がどのタイプに属する画像であるかを明確に判定することは困難な場合が多く、いくつかのタイプの特徴を兼ね備えたものもある。
【0019】
そこで、本発明は、この課題に鑑みて、画像の濃淡値などから様々な画像に固有のイメージパターンに基づいて、腫瘤のような注目部分の画像を人の視覚で捉えた感覚に近い感覚で分析を行い、さらに、どのようなタイプの画像の特徴を持ったものであるかを判別することが可能な画像判別装置を提供することを目的とするものである。
【0020】
【課題を解決するための手段】
本発明の画像判別装置は、画像データから注目部分画像を抽出する抽出手段と、
該抽出手段で抽出される注目部分画像を構成する単位画素群の各画素に出現する可能性のある多数の濃度分布パターンを記憶する濃度分布パターン記憶手段と、
前記抽出手段により抽出された前記注目部分画像の単位画素群の各画素について前記濃度分布パターンのいずれに類似するかを判定し、前記各濃度分布パターンが前記注目部分画像中に出現する出現頻度を前記各濃度分布パターン毎にカウントしてN次元のパターンヒストグラムを算出する出現頻度算出手段と、
N個の入力ノードとM個の出力ノードを有する教師なし学習を行う学習手段であって、該N個の入力ノードに前記N次元のパターンヒストグラムを繰り返し提示し、前記N個の入力ノードと前記M個の出力ノードとを結ぶ重みを学習して、前記M個のうちの1つの出力ノードと前記N個の入力ノードとを結ぶ学習されたN個の重みをN次元の学習済重みベクトルとし、該N次元の学習済重みベクトルが前記各出力ノード毎に対応する画像タイプを代表するものとして学習済重みベクトルを得る学習手段と、
所定の注目部分画像のN次元のパターンヒストグラムを前記出現頻度算出手段を用いて求め、該N次元のパターンヒストグラムと前記学習手段により得られた前記学習済重みベクトルとに基づいて該注目部分画像の画像タイプを判別する判別手段とを備えたことを特徴とするものである。
【0021】
また、本発明の画像判別方法は、画像データから注目部分画像を抽出するステップと、
前記抽出された前記注目部分画像の単位画素群の各画素について、注目部分画像を構成する単位画素群の各画素に出現する可能性のある多数の濃度分布パターンを記憶する記憶手段に記憶されている濃度分布パターンのいずれに類似するかを判定し、前記各濃度分布パターンが前記注目部分画像中に出現する出現頻度を前記各濃度分布パターン毎にカウントしてN次元のパターンヒストグラムを算出するステップと、
N個の入力ノードとM個の出力ノードを有する教師なし学習を行う学習手段を用いて、該N個の入力ノードに前記N次元のパターンヒストグラムを繰り返し提示し、前記N個の入力ノードと前記M個の出力ノードとを結ぶ重みを学習して、前記M個のうちの1つの出力ノードと前記N個の入力ノードとを結ぶ学習されたN個の重みをN次元の学習済重みベクトルとし、該N次元の学習済重みベクトルが前記各出力ノード毎に対応する画像タイプを代表するものとして学習済重みベクトルを得るステップと、
所定の注目部分画像のN次元のパターンヒストグラムを前記記憶手段に記憶されている濃度分布パターンに基づいて求め、該N次元のパターンヒストグラムと前記学習済重みベクトルとに基づいて該注目部分画像の画像タイプを判別する判別ステップとを備えたことを特徴とするものである。
【0022】
また、本発明のプログラムは、コンピュータを、
画像データから注目部分画像を抽出する抽出手段と、
該抽出手段で抽出される注目部分画像を構成する単位画素群の各画素に出現する可能性のある多数の濃度分布パターンを記憶する濃度分布パターン記憶手段と、
前記抽出手段により抽出された前記注目部分画像の単位画素群の各画素について前記濃度分布パターンのいずれに類似するかを判定し、前記各濃度分布パターンが前記注目部分画像中に出現する出現頻度を前記各濃度分布パターン毎にカウントしてN次元のパターンヒストグラムを算出する出現頻度算出手段と、
N個の入力ノードとM個の出力ノードを有する教師なし学習を行う学習手段であって、該N個の入力ノードに前記N次元のパターンヒストグラムを繰り返し提示し、前記N個の入力ノードと前記M個の出力ノードとを結ぶ重みを学習して、前記M個のうちの1つの出力ノードと前記N個の入力ノードとを結ぶ学習されたN個の重みをN次元の学習済重みベクトルとし、該N次元の学習済重みベクトルが前記各出力ノード毎に対応する画像タイプを代表するものとして学習済重みベクトルを得る学習手段と、
所定の注目部分画像のN次元のパターンヒストグラムを前記出現頻度算出手段を用いて求め、該N次元のパターンヒストグラムと前記学習手段により得られた前記学習済重みベクトルとに基づいて該注目部分画像の画像タイプを判別する判別手段として機能させることを特徴とするものである。
【0023】
「注目部分画像」は、画像タイプ等の判別の対象となる部分の画像であり、画像データの一部を抽出した部分画像でもあっても、画像データの全体であってもよい。
【0024】
「単位画素群」は、画像上の小領域の画素群で、画像を分析する単位となる画素群である。例えば、20×20画素というような小領域である。
【0025】
「濃度分布パターン」とは、注目部分画像に出現する可能性がある単位画素群の濃度分布を表したパターンである。
【0026】
「N次元のパターンヒストグラム」とは、N種類の濃度分布パターンが注目部分画像に出現する出現頻度を求めたヒストグラムである。
【0027】
また、「注目部分画像」は、小領域である単位画素群が多数並んで構成され、「濃度分布パターンが注目部分画像中に出現する出現頻度を濃度分布パターン毎にカウントしてN次元のパターンヒストグラムを算出する」には、例えば、注目部分画像を構成する各単位画素群を、その単位画素群がN種類の濃度分布パターンのうちいずれの濃度分布パターンに類似するかを判別し、類似する濃度分布パターンにカウントしてN次元のヒストグラムを算出する。また、濃度分布パターンにカウントする際、単位画素群と濃度分布パターンとの類似度が高い濃度分布パターンにのみカウントするようにし、いずれの濃度分布パターンにも類似しない場合にはカウントしないようにしてヒストグラムを算出したものであってもよい。
【0028】
「画像タイプ」は、学習手段の出力ノードに対応して分類される。例えば、出力ノードがM個の場合には、M種類の画像タイプに分類される。
【0029】
「N次元の学習済重みベクトル」とは、学習が終了した時点における各出力ノードとN個の入力ノードとを結ぶN個の重みであり、出力ノードに対応するM種類の画像タイプに分類される場合には、N次元の学習済重みベクトルもM通り存在する。また、このN次元の学習済重みベクトルは各出力ノードの「画像タイプ」を代表するN次元のパターンヒストグラムを表すものである。
【0030】
「画像タイプを代表するもの」には、ある画像タイプに分類されるN次元のパターンヒストグラムの平均的なものや、ある画像タイプに分類されるN次元のパターンヒストグラムの出現する頻度が高いもの等がある。
【0031】
また、学習手段としてSOM(コホーネンの自己組織化)を用いたものが望ましい。
【0032】
また、判別手段は、所定の注目部分画像のN次元のパターンヒストグラムと学習済重みベクトルとの相関値を求め、相関値を特徴量として判別するようにしたものの方がよい。
【0033】
この「相関値」は、N次元のパターンヒストグラムと学習済重みベクトルとの最小二乗距離や内積などから求めることができる。
【0034】
また、画像データは医用画像であり、注目部分画像が異常陰影候補の画像であってもよい。
【0035】
「異常陰影候補」は、例えば医療用のX線画像やマンモグラム等における、血管等の正常陰影や、腫瘍、腫瘤、癌等種々の症状を示す異常陰影の候補となる陰影をいい、乳房や胸部等の様々な部位で観察されるものである。
【0036】
さらに、前記抽出手段が、
前記異常陰影候補を抽出する候補抽出手段と、
該候補領域抽出手段で抽出した前記異常陰影候補の輪郭周辺の輪郭内外画像を抽出する輪郭内外画像抽出手段とを備え、注目部分画像は、前記輪郭内外画像であることが望ましい。
【0037】
「陰影の候補領域の抽出」は、陰影は背景の画像とは異なる濃度を示すことに注目して陰影の候補領域の抽出ができる。
【0038】
具体的には、画像中から腫瘤候補となる領域をアイリスフィルタ等を用いて抽出することができる。あるいは、アイリスフィルタ等を用いて抽出した異常陰影候補となる領域(あるいは、候補点)に基づいてSnakes法等を用いてより正確に候補領域を抽出するようにしてもよい。また、アイリスフィルタは濃度の勾配値に注目して濃度勾配の集中度の値が高い領域を抽出するものであるが、アイリスフィルタ以外のフィルタを用いて、丸くて濃度の低い(白い)領域を抽出することもできる。
【0039】
また、「輪郭内外画像」とは、候補領域の輪郭周辺の画像で、輪郭から所定の範囲にある画像である。
【0040】
【発明の効果】
本発明の画像処理装置によれば、画像データから注目部分画像を抽出して、抽出された注目部分画像に出現する単位画素群の濃度分布パターンの出現頻度をカウントしてパターンヒストグラムを求め、SOM等の教師なし学習を用いてパターンヒストグラムをいくつかの画像タイプに分類し、さらに、学習結果から画像タイプを代表するパターンヒストグラム得て注目部分画像を判別することにより、人が視覚で捕らえた感覚に近い状態で分類することができる。また、注目部分画像がいずれかの画像タイプに属するものであるかを判定するだけではなく、どのような画像タイプの特徴を備えているかを分析することが可能となる。
【0041】
また、判別対象となる注目部分画像のパターンヒストグラムと各画像タイプを代表するパターンヒストグラムとの相関値を求めるようにすれば、どの画像タイプにどの程度類似しているかを求めて、より正確な判別を行うことが可能になる。
【0042】
また、画像データが医用画像であり、注目部分画像が異常陰影候補の画像である場合には、異常陰影候補が異常陰影であるか、正常陰影であるか、さらに異常陰影のうち良性であるか、悪性であるか等の画像タイプに分類した上で、さらに詳しくどの画像タイプに近い症例であるかを判定することが可能になる。
【0043】
さらに、異常陰影候補を抽出し、抽出した異常陰影候補の輪郭周辺の輪郭内外画像を注目部分画像として判別を行うことにより、異常陰影候補の形状によらず画像タイプを判定することができる。
【0044】
【発明の実施の形態】
以下、本発明の画像判別装置について、図面を参照して詳細に説明する。図1は、本発明の画像判別装置1の概要を示す図である。
【0045】
画像判別装置1は、画像データ10から注目部分画像20を抽出する抽出手段2と、注目部分画像20を構成する単位画素群の各画素に出現する可能性のある濃度分布パターンを記憶する濃度分布パターン記憶手段3と、抽出手段2で抽出された注目部分画像20を構成する単位画素群がどの濃度分布パターンに類似するかを判断して、その単位画素群を類似する濃度分布パターンにカウントし、注目部分画像20に各濃度分布パターンの単位画素群が出現する出現頻度を表すパターンヒストグラムを算出する出現頻度算出手段4と、N個の入力ノードとM個の出力ノードを有する教師なし学習手段を用いて出力ノードに対応するM個の画像タイプに分類し、さらに、各出力ノードと入力ノードを結ぶN次元の学習済重みベクトルがその出力ノードの画像タイプを代表するパターンヒストグラムとして学習済重みベクトル記憶手段50に記憶する学習手段5と、所定の注目部分画像20のN次元のパターンヒストグラムを出現頻度算出手段4で求め、このN次元のパターンヒストグラムと学習済重みベクトル記憶手段50に記憶されているN次元の学習済重みベクトルとに基づいて所定の注目部分画像20の画像タイプを判別する判別手段6とを備えている。
【0046】
単位画素群は、画像を分析する単位となる小領域(例えば、20×20画素)であり、濃度分布パターン記憶手段3には、単位画素群の各画素に出現する可能性のある濃度分布パターンが多数記憶されている。
【0047】
注目部分画像20は、画像タイプの判別の対象となる部分であり、注目部分画像20は単位画素群が多数並んで構成された画像である。
【0048】
例えば、画像データ10が医用画像の場合は、画像タイプは異常陰影候補が異常陰影であるか、正常陰影であるか、さらに異常陰影のうち良性であるか、悪性であるか等を表すものである。
【0049】
そこで、本実施の形態では、画像データが医用画像の場合に異常陰影候補の画像タイプの判別を行う場合について以下説明をする。
【0050】
この場合、抽出手段2は、図2に示すように、異常陰影候補を抽出する候補抽出手段21と、抽出した異常陰影候補の輪郭周辺の輪郭内外画像Dを抽出する輪郭内外画像抽出手段22とを備え、注目部分画像20を輪郭内外画像Dとして、輪郭内外画像Dに基づいて異常陰影候補の画像タイプの判別を行う。また、濃度分布パターン記憶手段3には、輪郭内外画像Dに出現する可能性のある単位画素群の濃度分布パターンが記憶される。
【0051】
次に、画像判別装置1の作用について説明をする。
【0052】
候補抽出手段21は、医用画像データSより異常陰影候補を抽出する。例えば、濃度値の勾配に注目して異常陰影候補を抽出するアイリスフィルタ等で、画像中から濃度勾配の集中度の値が高い領域を抽出する。あるいは、アイリスフィルタ以外の手法を用いて、丸くて濃度の低い(白い)領域を異常陰影候補として抽出してもよい。また、Snakes法を用いてより正確な異常陰影候補の形状を抽出することも可能である。
【0053】
本実施の形態ではSnakes法を用いて異常陰影候補の領域を抽出する場合について説明する。Snakes法を用いて異常陰影候補の領域を抽出するには、例えば、異常陰影候補内にある集中度の高い点を中心とした一定の半径の曲線をSnakesの初期値として与え、医用画像データSから得られるエネルギーを異常陰影候補の輪郭周辺(エッジ)で極小になるように定義し、Snakes上のエネルギーが最小に近づくようにSnakesの曲線を徐々に変化させ、エネルギーが最小値に収束した時点の曲線が異常陰影候補の輪郭に一致したものとして、曲線で囲まれた領域を異常陰影候補として抽出する。
【0054】
図3に示すように、Snakesを閉曲線v(s)として与え、下式(1)のようにエネルギーEを定義し、エネルギーEが最小値になるように閉曲線v(s)を少しずつ動かすと、異常陰影候補(斜線部)の輪郭に閉曲線v(s)が徐々に近づいて行き、エネルギーEが最小値に収束した時点で閉曲線v(s)が輪郭に一致する。
【0055】
Snakes法で用いるエネルギーは、一般に内部エネルギーEint、画像エネルギーEimage、外部エネルギーEconが用いられ、式(1)で与えられる。
【0056】
【数1】
但し、sは閉曲線上のパラメータで、s=0の位置が始点でs=1の位置は終点を表す(閉曲線の場合には、s=0の位置とs=1の位置は一致する)。
【0057】
画像エネルギーEimageは、画像の特徴に依存するエネルギーであり、例えば、異常陰影候補の輪郭周辺上で最大値となるアイリスフィルタの出力値を負の値にしたものを用いて異常陰影候補の輪郭周辺で極小になるような画像エネルギーを定義することができる。
【0058】
また、内部エネルギーはSnakesを動かす際の伸縮を調整するエネルギーで、外部エネルギーはSnakesの振る舞いや質を意図的に変えるために与えるエネルギーである(詳細は、非特許文献3を参照)。
【0059】
輪郭内外画像抽出手段22は、抽出した形状の輪郭v(s)からの所定の範囲内にある画像を輪郭内外画像Dとして抽出する。輪郭内外画像Dは輪郭の形状に依存しないで特徴を観測できるように、輪郭v(s)を基準に統一した形状に変換する方が望ましい。例えば、図4に示すように、抽出した輪郭v(s)が直線になるように輪郭内外画像Dを変換して、抽出した輪郭v(s)をx方向に一致させ、輪郭v(s)に垂直な方向t(t1、t2、t3、t4、t5、t6)をy方向と一致するような矩形形状に変換する。
【0060】
これにより、図5に示すように、(a)と(b)の陰影の輪郭の形状は相違するが、変換後の輪郭内外画像Dは(c)に示すように同じ形状に変換され、画像の比較が容易になる。
【0061】
例えば、図6に示すように、陰影の辺縁部に現れるスピキュラSP等が出現するような陰影(a)、(b)を統一した形状(c)に変換すると、スピキュラSP等の輪郭に対して垂直な方向に特徴がある濃度分布パターンが多く出現するようになり、画像の特徴が陰影の輪郭の形状に依存せずに得られる。
【0062】
濃度分布パターン記憶手段3には、予め輪郭内外画像Dに出現する可能性のある濃度分布パターンが記憶されている。例えば、濃度分布パターンは、パターン分析の手法を用いて様々な症例の輪郭内外画像Dからランダムに切り出した単位画素群R(例えば、20×20画素、図4(b)参照)から輪郭内外画像Dに出現する可能性のある濃度分布パターンを抽出し、抽出された濃度分布パターンを濃度分布パターン記憶手段3に記憶しておく。図7に、64個の濃度分布パターンが抽出された一例を示す。あるいは、濃度分布パターンは、輪郭内外画像Dに出現する可能性のある単位画素群Rを想定して、分類に必要な濃度分布パターンを人工的に作成したものを記憶しておいてもよい。
【0063】
そこで、出現頻度算出手段4は、濃度分布パターン記憶手段3に記憶している濃度分布パターンが輪郭内外画像Dに出現する出現頻度を濃度分布パターン毎にカウントしてN次元のパターンヒストグラムを求める。例えば、図8に示すように、上述の輪郭内外画像D(例えば、180×80画素)内に並んでいる単位画素群R(例えば、20×20画素)を1つずつ上下左右に動かし、各単位画素群が該当する濃度分布パターンにカウントして、各濃度分布パターンが輪郭内外画像D内に出現する出現頻度を求める。
【0064】
輪郭内外画像D上の単位画素群Rがどの濃度分布パターンに該当するかは、例えば、単位画素群Rと濃度分布パターンの各画素を比較して最も類似するものが該当する濃度分布パターンであるとする。具体的には、対応する画素間の最小二乗距離等の相関をみて判定する。
【0065】
このとき、単位画素群Rとの類似度が高い濃度分布パターンにのみカウントするようにし、いずれの濃度分布パターンにも類似しない場合にはカウントしないようにしてパターンヒストグラムを求めるようにしてもよい。例えば、最小二乗距離等の相関値が所定値以下の場合にその濃度分布パターンにカウントし、最小二乗距離等の相関値が所定値以下の濃度分布パターンがない場合にはカウントしないようにする。
【0066】
また、異常陰影候補の特徴は、陰影の種類によって輪郭辺縁、輪郭内側、輪郭外側に現れる特徴が違ってくる。そこで、輪郭内外画像Dは、図9に示すように、輪郭辺縁、輪郭内側、輪郭外側の各領域に分けて濃度分布パターンのヒストグラムから画像タイプを分類するものが異常陰影候補の画像タイプを判別する場合には好ましい。
【0067】
図10は、各領域に応じて濃度分布パターンの出現頻度をカウントした結果の一例を表すもので、図7の64個の濃度分布パターンを用いて各領域毎のヒストグラムを求めたもので、aは輪郭内側のヒストグラム、bは輪郭辺縁のヒストグラム、cは輪郭外側のヒストグラムを表している(但し、縦軸はカウントした単位画素群の総数で割ったときの割合で表されている)。このように輪郭辺縁、輪郭内側、輪郭外側の各領域に分けた濃度分布パターンのヒストグラムを得て、192次元(64×3次元)のパターンヒストグラムを得る。
【0068】
上述ように、輪郭内側、輪郭辺縁上、輪郭外側に分けて出現頻度をカウントすると、輪郭のはっきりした良性の腫瘤の異常陰影候補では、図11に示すように(便宜上、横軸上に濃度分布パターンを高いものから低いものへ移るように並べているものとする)、輪郭外側cには濃度の高い濃度分布パターンが多く現れ、輪郭内側aには濃度の低い濃度分布パターンが多く現れ、輪郭辺縁上bでも濃度の高い濃度分布パターンと濃度の低い濃度分布パターンにピークがあるような分布を示す。一方、輪郭がはっきりせず輪郭周辺がぼやけているような悪性の腫瘤の異常陰影候補では、輪郭外側cには濃度の高い濃度分布パターンが多く現れ、輪郭内側aには濃度の低い濃度分布パターンが多く現れるが、輪郭辺縁上bでは特にピークが現れず全体に一様に分布する。このように、特徴の表れる領域に分けてパターンヒストグラムを求めることにより画像タイプを正確に分類することが可能になる。
【0069】
上述では、輪郭内外画像Dを、輪郭辺縁、輪郭内側、輪郭外側の3つの領域分ける場合について説明したが、この3つの領域煮に限らず特徴の表れる領域に分けるようにしたものであればよく、輪郭内側と輪郭外側の2つの領域に分けるようにしてもよいし、輪郭辺縁と輪郭内側、輪郭辺縁と輪郭外側とは重なり合わないような領域を設定してもよい。
【0070】
そこで、学習手段5では、輪郭内外画像Dがどの画像タイプに対応するかを前述のパターンヒストグラムに基づいて画像タイプを分類する。上述の出現頻度算出手段4を用いて求めたパターンヒストグラムをSOMのような教師なし学習を行う学習手段5に繰り返し提示して学習し、例えば、図12に示すように、異常陰影のうち悪性腫瘤、異常陰影のうち良性腫瘤、正常陰影等の画像タイプに分類することができ、類似した画像タイプ同士が近い位置となるような異常陰影候補マップMapを得るように学習する。
【0071】
ここで、SOMを用いた具体的な学習方法について説明する。図13にSOMの一例を示す。SOMのネットワークは、図13(a)に示すように、平面上に格子状に出力ノードが並べられ、出力ノードj(例えば、M個)と入力ノードi(例えば、N個)とが全て接続され、入力ノードiと出力ノードjとは重みwijで結合される。このとき、入力ノードに入力する入力データをX=(x1、x2、・・・、xi、・・・、xN)とし、出力ノードjと各入力ノードiとを結ぶ重みベクトルを図13(b)に示すようにWj=(w1j、w2j、・・・、wij、・・・、wNj)として表すと、出力ノードjへの入力Ejは、
Ej=Σj(wij・xi)
と表される。
【0072】
SOMの入力ノード(N個)に入力データとしてN次元のパターンヒストグラムが提示されると、入力ノードiと出力ノードjが持つ重みベクトルのうち、入力データとして提示されたN次元のパターンヒストグラムXと最も一致度の高い(即ち、最適マッチングした)出力ノードjが選らばれ、その近傍にある出力ノードj*(j*は出力ノードjを含む近傍のノードを表す)の重みベクトルWj*が入力データのN次元のパターンヒストグラムに近づくように出力ノードj*の重みベクトルWj*を更新して学習していく。従って、学習が進むと出力ノードjの重みベクトルWjが、出力ノードjに対応する画像タイプを代表するN次元のパターンヒストグラムと一致するように最適化される。また、学習が進むに従って、重みベクトルWj*を更新する出力ノードj*の範囲を狭めて行き、最終的には最適マッチングした出力ノードjのみの重みベクトルWjを更新するようにする。例えば、図14に示すように、始めの段階では、広い範囲の重みベクトルを更新するように、出力ノードjから2ノード以内の25個の出力ノードを更新する出力ノードj*(網掛け部分内のノード)とし(図14(a))、次の段階では、更新する出力ノードj*を出力ノードjから1ノード以内の9個の出力ノードとし(図14(b))、最終的に、最適マッチングした出力ノードjの1個みを更新する出力ノードj*とする(図14(c))。
【0073】
学習は決められた回数行うか、重みの更新量が一定の値以下になるまで繰り返し学習を行い、学習が終了すると平面上の出力ノードにラベル付けを行ってM種類の画像タイプに分類する。この平面上の出力ノードにラベル付けされたものが前述の異常陰影候補マップMapとなる(図12参照)。
【0074】
そこで、学習用に7×7=49(=M)個の出力ノードと192(=N)個の入力ノードを持つSOMを用いて、前述の192次元のパターンヒストグラムを繰り返し提示して学習し、異常陰影候補を49種類の画像タイプに分類する場合の学習について具体的に説明する。ここで、時刻tにおける入力ノードiから出力ノードjを結合する重みをwij(t)とし、学習が1回進んだ状態をwij(t+1)とし、192次元のパターンヒストグラムをXph=(xph 1、xph 2、・・・、xph i、・・・、xph 192)として説明する。
【0075】
(1) まず、重みの初期値として適当な値を与える。例えば、ランダムな値を与えて初期化する。また、更新の対象とする重みベクトルWj*の初期範囲は初め大きく設定し、例えば、最適マッチングした出力ノードjから2ノード以内の矩形内にある25個の出力ノードj*の重みベクトルWj *を更新するものとする(図14(a)参照)。
【0076】
(2) 次に、パターンヒストグラムを正規化する(つまり、Σxph i 2=1となるようにする)。
【0077】
(3) 正規化された192次元のパターンヒストグラムXphを入力ノードに提示して、次のように重みを更新する。
まず、入力ノードに提示されたパターンヒストグラムXphと出力ノードjの重みベクトルWjとの最小二乗距離djを以下の式で計算する。
dj=Σi(xph i(t)−wij(t))2
この最小二乗距離djが最小となる出力ノードjを捜して最適マッチングした出力ノードとし、その出力ノードjの近傍の出力ノードj*(25個)の重みベクトルWj *を更新の対象とする。
更新対象の出力ノードj*の重みベクトルを入力された192次元のパターンヒストグラムXphに近づけるように重みを次のように更新する。
wij *(t+1)=wij *(t)+a×(xph i(t)−wij *(t))
ここで、 wij(t+1):更新対象出力ノードの更新後の重み
wij(t) :更新対象出力ノードの更新前の重み
a :学習係数(0<a<1)
i :1〜192
【0078】
(4) 上記、(1) から(3) を重みの更新量が一定の値以下になるまで繰り返し行う。あるいは、所定の回数学習を行うと終了とする。また、更新対象とする近傍領域は前述のように、2ノード以内(図14(a)参照)、1ノード以内(図14(b)参照)、最適マッチングした出力ノードのみ(図14(c)参照)というように徐々に狭めた範囲の重みベクトルWj *を更新する。
【0079】
例えば、輪郭内外画像から得られた192次元のパターンヒストグラムを1000回ほどSOMに提示したものを1回の学習とし、これを10回繰り返して学習を終了する場合には、計1万回繰り返して192次元のパターンヒストグラムをSOMに提示して学習することになるが、この場合において更新する重みベクトルWj *は、1〜5000回繰り返すときに、最適マッチングした出力ノードjから2ノード以内の近傍の出力ノードj*の重みベクトルWj *を更新し、5001〜7500回繰り返すときに、1ノード以内の近傍の出力ノードj*の重みベクトルWj *を更新し、7501〜10000回繰り返すときには、最適マッチングした出力ノードjの重みベクトルWj *のみを更新するようにする。
【0080】
このようにして得られたマップ上にラベル付けを行い異常陰影候補マップMapを得る。得られた49個の各出力ノードjの重みベクトルWj=(w1j、w2j、・・・、wij、・・・、w192j)は、各出力ノードjにラベル付けされた画像タイプを代表する192次元のパターンヒストグラムとなり、重みベクトルWjは、各画像タイプに分類されるパターンヒストグラムの平均的な値を持つパターンヒストグラムか、各画像タイプに分類されるパターンヒストグラムに多く出現するパターンヒストグラムに近いものとなる。
【0081】
このようにして得られた49個の画像タイプに対応する重みベクトルW1、W2、W3、・・・、W49は、学習済重みベクトル記憶手段50に記憶される。
【0082】
上述のようにして得られた異常陰影候補マップMapは、異常陰影のみならず正常陰影を提示して学習することで、異常陰影候補の画像が正常陰影か異常陰影かの判定を行うことも可能となる。さらに、様々な症例に対応するものを入力して様々な症例に分類することも可能である。
【0083】
そこで、所定の異常陰影候補Aの画像タイプの判別を行う場合について図15のフローチャートに従って説明する。まず、候補抽出手段21で医用画像データSから所定の異常陰影候補Aの輪郭を抽出し(S100)、抽出した輪郭を基準に輪郭内外画像抽出手段22で異常陰影候補Aの輪郭内外画像Dを抽出した後(S101)、出現頻度算出手段4で異常陰影候補Aの輪郭内外画像Dの192(N)次元のパターンヒストグラムXph(A)を求める(S102)。そこで、判別手段6で、所定の異常陰影候補Aの輪郭内外画像Dから得られたパターンヒストグラムXph(A)と、学習済重みベクトル記憶手段50に記憶されている49個の学習済重みベクトルW1、W2、W3、・・・、W49との相関値を求めて判別を行う(S103)。
【0084】
例えば、相関値として、異常陰影候補Aの輪郭内外画像DのパターンヒストグラムXph(A)と49個の学習済重みベクトルとの最小二乗距離|W1−Xph(A)|2、|W2−Xph(A)|2、|W3−Xph(A)|2、・・・、|Wj−Xph(A)|2、・・・、|W49−Xph(A)|2(但し、|Wj−Xph(A)|2=Σi(xph(A) i(t)−wij(t))2)を求め、画像の判別をおこなう。
【0085】
異常陰影候補には、異常陰影(例えば、図12の悪性腫瘤タイプ1・悪性腫瘤タイプ2・良性腫瘤タイプ等)の特徴と正常陰影(例えば、図12の正常陰影タイプ等)の特徴を併せ持つ場合がある。そこで、例えば、この49個の相関値を特徴量として用いてクラスター分析を行い、正常陰影を示すパターンクラスからのマハラノビス距離Dm1と異常陰影を示すパターンクラスからのマハラノビス距離Dm2求めて異常陰影であるか正常陰影であるかの判別を行うこと等ができる。
【0086】
また、異常陰影候補は相関値の高い複数の画像タイプの特徴を持っている場合もある。例えば、悪性腫瘤タイプ1と悪性腫瘤タイプ2の両方と高い相関が見られる場合には、悪性腫瘤タイプ1と悪性腫瘤タイプ2の両方の特徴を持っていると考えられる。そこで、複数の画像タイプを組み合わせに対応した診断・治療情報(確定診断結果、検査方針、治療方針等)を取得できるようなデータベースを用意して、複数の画像タイプと相関の高い場合には、組み合わせに対応した診断・治療情報を取得して、診断や治療方針を表示することが可能なように画像判別装置を構成してもよい。
【0087】
前述では、相関値としては最小二乗距離を用いる場合について説明したが、相関値として49個の学習済重みベクトルWjとパターンヒストグラムXph(A)との内積を用いてもよい。内積の値は、学習済重みベクトルWjとパターンヒストグラムXph(A)が正規化されている場合には、相関が高いほど内積は1に近い値となり、相関が低いと0に近いとなる。
【0088】
上述の実施の形態では、輪郭内外画像Dに基づいて異常陰影候補の判定を行う場合について説明したが、抽出した異常陰影候補の輪郭を基準にして異常陰影候補の領域に含まれている濃度分布パターンの出現頻度に基づいて判定を行うことも可能である。
【0089】
また、単位画素群の濃度分布パターンの抽出の具体的な方法として、SOMを用いて濃度分布パターンを抽出する方法があげられる。様々な症例の輪郭内外画像Dからランダムに切り出した単位画素群を繰り返しSOMに提示して濃度分布パターンを抽出し、抽出した濃度分布パターンを濃度分布パターン記憶手段3に予め記憶するようにしてもよい。
【0090】
また、学習済重みベクトルを得るための学習方法として、SOMを用いて具体的に説明したが、他の教師無しの学習方法を用いることも可能である。
【0091】
以上、医用画像の異常陰影候補の場合について具体的に説明したが、医用画像に限らず撮影して得られた写真画像等から対象物を抽出して、対象物の特徴を表す質感(例えば、テクスチャー等)から画像を判別することも可能である。
【0092】
以上詳細に説明したように、人間の視覚で捉えた感覚に近い状態で画像タイプ分類して、判別の対象とする画像がいずれかの画像タイプの特徴を備えているかを分析することが可能となる。
【図面の簡単な説明】
【図1】画像判別装置の概要を表す図
【図2】抽出手段の構成図
【図3】Snakesの動きを表す図
【図4】輪郭内外画像の変換を説明するための図(その1)
【図5】輪郭内外画像の変換を説明するための図(その2)
【図6】輪郭内外画像の変換を説明するための図(その3)
【図7】濃度パターンの抽出結果の一例を表す図
【図8】濃度パターンの出現頻度のカウント方法を説明するための図
【図9】輪郭内外画像を輪郭辺縁、輪郭内側、輪郭外側の各領域に分けた図
【図10】濃度パターンのヒストグラムの一例を表す図
【図11】濃度パターンのヒストグラムの現れ方の違いを説明するための図
【図12】マップにラベル付けを行なった一例を表す図
【図13】SOMを説明するための図
【図14】重みベクトルを更新する領域を説明するための図
【図15】所定の異常陰影候補の画像タイプの判別を行う場合の流れを説明するフローチャート
【符号の説明】
1 画像判別装置
2 抽出手段
3 濃度分布パターン記憶手段
4 出現頻度算出手段
5 学習手段
6 判別手段
50 学習済重みベクトル記憶手段
D 輪郭内外画像
SP スピキュラ
Map 異常陰影候補マップ
R 単位画素群
【発明の属する技術分野】
本発明は、画像中の視覚的に捉えられる特徴を用いて対象となる画像のタイプを判別する画像判別装置に関するものである。
【0002】
【従来の技術】
従来、種々の画像取得方法により得られた画像に対して、階調処理や周波数処理等の画像処理を施し、画像の観察読影性能を向上させることが行われている。特に人体を被写体とした放射線画像のような医用画像の分野においては、医師等の専門家が、得られた画像に基づいて患者の疾病や傷害の有無を的確に診断する必要があり、その画像の読影性能を向上させる画像処理は不可欠なものとなっている。そのため、このような画像処理を用いることで、観察者の経験や画像読影能力の高低によって左右されず客観的に腫瘤陰影を判断できるように様々な方法が提案されている。
【0003】
放射線画像等に撮影された癌化した部分の腫瘤陰影は、おおむね丸味をおびた輪郭を持ち、かつ、画像上では周囲に比べて画素値が大きな領域として観測される。このような腫瘤陰影は、半球状で同じ濃度が同心円状に広がる形状の領域(以降、円形凸領域と呼ぶ)で、濃度値の分布が周縁部から中心部に向かうにしたがって濃度値が低くなるという濃度値の勾配が認められる。その勾配線は腫瘤の中心方向に向かって集中するもので、濃度値の勾配を勾配ベクトルとして算出し、その勾配ベクトルの集中度から腫瘤陰影を検出することができることが知られている(例えば、非特許文献1、非特許文献2参照)。
【0004】
また、このような集中度を評価するものの中には、腫瘤の大きさや形状に左右されない検出力を達成するために、フィルタの大きさと形状とを工夫したものがあり、代表的なものとして、アイリスフィルタや適応リングフィルタが挙げられる。このアリスフィルタの出力値は、円形凸領域の輪郭で最大値を与えるものであり(例えば、特許文献1参照)、一方、適応リングフィルタの出力は、円形凸領域の中心付近で極大値をとるものである(例えば、非特許文献2参照)。
【0005】
そこで、アイリスフィルタ等を用いて異常陰影の候補領域を検出し、検出された異常陰影の候補領域に基づいて候補領域内部の濃度ヒストグラムを求め、このヒストグラムに基づく複数の特徴量、すなわち分散値、コントラスト、角モーメント等を算出し、さらに各特徴量を所定の重み付け関数で定義して新たな評価関数値を算出し、算出された評価関数値に基づいて候補領域が悪性陰影であるか否かを判定し、悪性陰影のみを異常陰影候補として検出する方法が提案されている(例えば、特許文献2)。
【0006】
また、予め実験的に得られている候補領域内部の濃度ヒストグラムに基づく複数の特徴量から正常陰影と異常陰影のクラスターに分類し、医用画像データに現われた候補領域に対して、正常陰影を示すパターンクラスからのマハラノビス距離Dm1と異常陰影を示すパターンクラスからのマハラノビス距離Dm2を算出して異常陰影に該当するものか否かを検出するものがある(例えば、特許文献2、特許文献3参照)。
【0007】
さらに、以上の手法を組み合わせて、読影者の負担の軽減と、質の向上を図ったコンピュータ診断支援(CAD:Computer aided diagnosis)システムがある。このCADシステムの流れは以下のようになる。
(1) まず、原画像に適応リングフィルタを利用して円形凸領域を強調する。
(2) 次に、フィルタ出力値の極大点を抽出し、大きいものからいくつか(例えば、7個)を腫瘤候補点として抽出する。
(3) 腫瘤候補点から、腫瘤候補領域を抽出するために、アイリスフィルタとSnakes法を適用する。Snakes法は、エネルギー最小化原理に基づいた最適解としての輪郭を抽出する方法であり、Snakesエネルギーとしてアイリスフィルタの出力を用いる。Snakesのアルゴリズムによる候補領域決定の詳細は、非特許文献3に述べられている。
(4) さらに、決定された各候補領域から特徴量を算出して、マハラノビス距離に基づいて、候補領域を悪性腫瘤影と良性腫瘤影の2つのクラスターに判別する。
このように、形状抽出結果に基づいて腫瘤が悪性腫瘤であるか良性腫瘤であるかを判別するものがある(例えば、非特許文献4参照)。
【0008】
また、近年、読影する医用画像の視覚的な特徴が類似する類似画像を過去症例のデータベースから検索するCADが提案されている(例えば、非特許文献5参照)。
【0009】
【特許文献1】
特開平8−294479号公報
【0010】
【特許文献2】
特開平9−167238号公報
【0011】
【特許文献3】
特開2002−74325号公報
【0012】
【非特許文献1】
魏 軍、荻原 義裕、清水 明伸、小畑 秀文、“こう配ベクトルの点集中性フィルタの特性解析”、電子情報通信学会論文誌(D−II) Vol.J84−D−II No.7,pp.1289−1298,2001.
【0013】
【非特許文献2】
魏 軍、荻原 義裕、小畑 秀文、“がん陰影候補抽出のための勾配ベクトル集中フィルタ”、電子情報通信学会論文誌(D−II) Vol.J83−D−II No.1,pp.118−125,Jan.2000.
【0014】
【非特許文献3】
H.Kobata,M.Murakami,et al,”Computerized detection of malignant tumors on digital mammograms,”IEEE Trans on Med,Imag,Vol.18,No.5,pp.369−378,1999.
【0015】
【非特許文献4】
古屋早知子、魏 軍、荻原 義裕、清水 明伸、小畑 秀文、縄野 繁、“準最適特徴量組み合わせによる乳房X線像上の腫瘤影判別性能向上”、電子情報通信学会 Vol.100 No.434,pp.93−100,2001.
【0016】
【非特許文献5】
“M.Ginger,Z.Huo,C.Vybomy,L.Lan,I.Bonta,K.Horsch,R.Nishikawa,I.Rosenborough,Intelligent CAD workstation for breast imaging using similarity to known lesions and multiple visual prompt aids, PROCEEDINGS OF SPIE, Medical Imaging 2002,February 2002,San Diego”
【0017】
【発明が解決しようとする課題】
上記のような診断支援技術は、候補領域の形状、大きさ、濃度のコントラスト等の抽象化された特徴量を用いて判断するため、必ずしも人間の視覚で捉えた感覚とは一致せずズレが生じる。そのため、類似すると判定された腫瘤であっても実際の画像を視覚的に比較した場合には類似しない場合があった。例えば、類似画像を過去症例のデータベースから検索するような場合に、質問腫瘤画像とは類似しない腫瘤画像が検索される場合があった。
【0018】
また、腫瘤等の異常陰影は視覚的に捕らえられるいくつかの代表的なタイプに分類することがよく行われるが、ある異常陰影がどのタイプに属する画像であるかを明確に判定することは困難な場合が多く、いくつかのタイプの特徴を兼ね備えたものもある。
【0019】
そこで、本発明は、この課題に鑑みて、画像の濃淡値などから様々な画像に固有のイメージパターンに基づいて、腫瘤のような注目部分の画像を人の視覚で捉えた感覚に近い感覚で分析を行い、さらに、どのようなタイプの画像の特徴を持ったものであるかを判別することが可能な画像判別装置を提供することを目的とするものである。
【0020】
【課題を解決するための手段】
本発明の画像判別装置は、画像データから注目部分画像を抽出する抽出手段と、
該抽出手段で抽出される注目部分画像を構成する単位画素群の各画素に出現する可能性のある多数の濃度分布パターンを記憶する濃度分布パターン記憶手段と、
前記抽出手段により抽出された前記注目部分画像の単位画素群の各画素について前記濃度分布パターンのいずれに類似するかを判定し、前記各濃度分布パターンが前記注目部分画像中に出現する出現頻度を前記各濃度分布パターン毎にカウントしてN次元のパターンヒストグラムを算出する出現頻度算出手段と、
N個の入力ノードとM個の出力ノードを有する教師なし学習を行う学習手段であって、該N個の入力ノードに前記N次元のパターンヒストグラムを繰り返し提示し、前記N個の入力ノードと前記M個の出力ノードとを結ぶ重みを学習して、前記M個のうちの1つの出力ノードと前記N個の入力ノードとを結ぶ学習されたN個の重みをN次元の学習済重みベクトルとし、該N次元の学習済重みベクトルが前記各出力ノード毎に対応する画像タイプを代表するものとして学習済重みベクトルを得る学習手段と、
所定の注目部分画像のN次元のパターンヒストグラムを前記出現頻度算出手段を用いて求め、該N次元のパターンヒストグラムと前記学習手段により得られた前記学習済重みベクトルとに基づいて該注目部分画像の画像タイプを判別する判別手段とを備えたことを特徴とするものである。
【0021】
また、本発明の画像判別方法は、画像データから注目部分画像を抽出するステップと、
前記抽出された前記注目部分画像の単位画素群の各画素について、注目部分画像を構成する単位画素群の各画素に出現する可能性のある多数の濃度分布パターンを記憶する記憶手段に記憶されている濃度分布パターンのいずれに類似するかを判定し、前記各濃度分布パターンが前記注目部分画像中に出現する出現頻度を前記各濃度分布パターン毎にカウントしてN次元のパターンヒストグラムを算出するステップと、
N個の入力ノードとM個の出力ノードを有する教師なし学習を行う学習手段を用いて、該N個の入力ノードに前記N次元のパターンヒストグラムを繰り返し提示し、前記N個の入力ノードと前記M個の出力ノードとを結ぶ重みを学習して、前記M個のうちの1つの出力ノードと前記N個の入力ノードとを結ぶ学習されたN個の重みをN次元の学習済重みベクトルとし、該N次元の学習済重みベクトルが前記各出力ノード毎に対応する画像タイプを代表するものとして学習済重みベクトルを得るステップと、
所定の注目部分画像のN次元のパターンヒストグラムを前記記憶手段に記憶されている濃度分布パターンに基づいて求め、該N次元のパターンヒストグラムと前記学習済重みベクトルとに基づいて該注目部分画像の画像タイプを判別する判別ステップとを備えたことを特徴とするものである。
【0022】
また、本発明のプログラムは、コンピュータを、
画像データから注目部分画像を抽出する抽出手段と、
該抽出手段で抽出される注目部分画像を構成する単位画素群の各画素に出現する可能性のある多数の濃度分布パターンを記憶する濃度分布パターン記憶手段と、
前記抽出手段により抽出された前記注目部分画像の単位画素群の各画素について前記濃度分布パターンのいずれに類似するかを判定し、前記各濃度分布パターンが前記注目部分画像中に出現する出現頻度を前記各濃度分布パターン毎にカウントしてN次元のパターンヒストグラムを算出する出現頻度算出手段と、
N個の入力ノードとM個の出力ノードを有する教師なし学習を行う学習手段であって、該N個の入力ノードに前記N次元のパターンヒストグラムを繰り返し提示し、前記N個の入力ノードと前記M個の出力ノードとを結ぶ重みを学習して、前記M個のうちの1つの出力ノードと前記N個の入力ノードとを結ぶ学習されたN個の重みをN次元の学習済重みベクトルとし、該N次元の学習済重みベクトルが前記各出力ノード毎に対応する画像タイプを代表するものとして学習済重みベクトルを得る学習手段と、
所定の注目部分画像のN次元のパターンヒストグラムを前記出現頻度算出手段を用いて求め、該N次元のパターンヒストグラムと前記学習手段により得られた前記学習済重みベクトルとに基づいて該注目部分画像の画像タイプを判別する判別手段として機能させることを特徴とするものである。
【0023】
「注目部分画像」は、画像タイプ等の判別の対象となる部分の画像であり、画像データの一部を抽出した部分画像でもあっても、画像データの全体であってもよい。
【0024】
「単位画素群」は、画像上の小領域の画素群で、画像を分析する単位となる画素群である。例えば、20×20画素というような小領域である。
【0025】
「濃度分布パターン」とは、注目部分画像に出現する可能性がある単位画素群の濃度分布を表したパターンである。
【0026】
「N次元のパターンヒストグラム」とは、N種類の濃度分布パターンが注目部分画像に出現する出現頻度を求めたヒストグラムである。
【0027】
また、「注目部分画像」は、小領域である単位画素群が多数並んで構成され、「濃度分布パターンが注目部分画像中に出現する出現頻度を濃度分布パターン毎にカウントしてN次元のパターンヒストグラムを算出する」には、例えば、注目部分画像を構成する各単位画素群を、その単位画素群がN種類の濃度分布パターンのうちいずれの濃度分布パターンに類似するかを判別し、類似する濃度分布パターンにカウントしてN次元のヒストグラムを算出する。また、濃度分布パターンにカウントする際、単位画素群と濃度分布パターンとの類似度が高い濃度分布パターンにのみカウントするようにし、いずれの濃度分布パターンにも類似しない場合にはカウントしないようにしてヒストグラムを算出したものであってもよい。
【0028】
「画像タイプ」は、学習手段の出力ノードに対応して分類される。例えば、出力ノードがM個の場合には、M種類の画像タイプに分類される。
【0029】
「N次元の学習済重みベクトル」とは、学習が終了した時点における各出力ノードとN個の入力ノードとを結ぶN個の重みであり、出力ノードに対応するM種類の画像タイプに分類される場合には、N次元の学習済重みベクトルもM通り存在する。また、このN次元の学習済重みベクトルは各出力ノードの「画像タイプ」を代表するN次元のパターンヒストグラムを表すものである。
【0030】
「画像タイプを代表するもの」には、ある画像タイプに分類されるN次元のパターンヒストグラムの平均的なものや、ある画像タイプに分類されるN次元のパターンヒストグラムの出現する頻度が高いもの等がある。
【0031】
また、学習手段としてSOM(コホーネンの自己組織化)を用いたものが望ましい。
【0032】
また、判別手段は、所定の注目部分画像のN次元のパターンヒストグラムと学習済重みベクトルとの相関値を求め、相関値を特徴量として判別するようにしたものの方がよい。
【0033】
この「相関値」は、N次元のパターンヒストグラムと学習済重みベクトルとの最小二乗距離や内積などから求めることができる。
【0034】
また、画像データは医用画像であり、注目部分画像が異常陰影候補の画像であってもよい。
【0035】
「異常陰影候補」は、例えば医療用のX線画像やマンモグラム等における、血管等の正常陰影や、腫瘍、腫瘤、癌等種々の症状を示す異常陰影の候補となる陰影をいい、乳房や胸部等の様々な部位で観察されるものである。
【0036】
さらに、前記抽出手段が、
前記異常陰影候補を抽出する候補抽出手段と、
該候補領域抽出手段で抽出した前記異常陰影候補の輪郭周辺の輪郭内外画像を抽出する輪郭内外画像抽出手段とを備え、注目部分画像は、前記輪郭内外画像であることが望ましい。
【0037】
「陰影の候補領域の抽出」は、陰影は背景の画像とは異なる濃度を示すことに注目して陰影の候補領域の抽出ができる。
【0038】
具体的には、画像中から腫瘤候補となる領域をアイリスフィルタ等を用いて抽出することができる。あるいは、アイリスフィルタ等を用いて抽出した異常陰影候補となる領域(あるいは、候補点)に基づいてSnakes法等を用いてより正確に候補領域を抽出するようにしてもよい。また、アイリスフィルタは濃度の勾配値に注目して濃度勾配の集中度の値が高い領域を抽出するものであるが、アイリスフィルタ以外のフィルタを用いて、丸くて濃度の低い(白い)領域を抽出することもできる。
【0039】
また、「輪郭内外画像」とは、候補領域の輪郭周辺の画像で、輪郭から所定の範囲にある画像である。
【0040】
【発明の効果】
本発明の画像処理装置によれば、画像データから注目部分画像を抽出して、抽出された注目部分画像に出現する単位画素群の濃度分布パターンの出現頻度をカウントしてパターンヒストグラムを求め、SOM等の教師なし学習を用いてパターンヒストグラムをいくつかの画像タイプに分類し、さらに、学習結果から画像タイプを代表するパターンヒストグラム得て注目部分画像を判別することにより、人が視覚で捕らえた感覚に近い状態で分類することができる。また、注目部分画像がいずれかの画像タイプに属するものであるかを判定するだけではなく、どのような画像タイプの特徴を備えているかを分析することが可能となる。
【0041】
また、判別対象となる注目部分画像のパターンヒストグラムと各画像タイプを代表するパターンヒストグラムとの相関値を求めるようにすれば、どの画像タイプにどの程度類似しているかを求めて、より正確な判別を行うことが可能になる。
【0042】
また、画像データが医用画像であり、注目部分画像が異常陰影候補の画像である場合には、異常陰影候補が異常陰影であるか、正常陰影であるか、さらに異常陰影のうち良性であるか、悪性であるか等の画像タイプに分類した上で、さらに詳しくどの画像タイプに近い症例であるかを判定することが可能になる。
【0043】
さらに、異常陰影候補を抽出し、抽出した異常陰影候補の輪郭周辺の輪郭内外画像を注目部分画像として判別を行うことにより、異常陰影候補の形状によらず画像タイプを判定することができる。
【0044】
【発明の実施の形態】
以下、本発明の画像判別装置について、図面を参照して詳細に説明する。図1は、本発明の画像判別装置1の概要を示す図である。
【0045】
画像判別装置1は、画像データ10から注目部分画像20を抽出する抽出手段2と、注目部分画像20を構成する単位画素群の各画素に出現する可能性のある濃度分布パターンを記憶する濃度分布パターン記憶手段3と、抽出手段2で抽出された注目部分画像20を構成する単位画素群がどの濃度分布パターンに類似するかを判断して、その単位画素群を類似する濃度分布パターンにカウントし、注目部分画像20に各濃度分布パターンの単位画素群が出現する出現頻度を表すパターンヒストグラムを算出する出現頻度算出手段4と、N個の入力ノードとM個の出力ノードを有する教師なし学習手段を用いて出力ノードに対応するM個の画像タイプに分類し、さらに、各出力ノードと入力ノードを結ぶN次元の学習済重みベクトルがその出力ノードの画像タイプを代表するパターンヒストグラムとして学習済重みベクトル記憶手段50に記憶する学習手段5と、所定の注目部分画像20のN次元のパターンヒストグラムを出現頻度算出手段4で求め、このN次元のパターンヒストグラムと学習済重みベクトル記憶手段50に記憶されているN次元の学習済重みベクトルとに基づいて所定の注目部分画像20の画像タイプを判別する判別手段6とを備えている。
【0046】
単位画素群は、画像を分析する単位となる小領域(例えば、20×20画素)であり、濃度分布パターン記憶手段3には、単位画素群の各画素に出現する可能性のある濃度分布パターンが多数記憶されている。
【0047】
注目部分画像20は、画像タイプの判別の対象となる部分であり、注目部分画像20は単位画素群が多数並んで構成された画像である。
【0048】
例えば、画像データ10が医用画像の場合は、画像タイプは異常陰影候補が異常陰影であるか、正常陰影であるか、さらに異常陰影のうち良性であるか、悪性であるか等を表すものである。
【0049】
そこで、本実施の形態では、画像データが医用画像の場合に異常陰影候補の画像タイプの判別を行う場合について以下説明をする。
【0050】
この場合、抽出手段2は、図2に示すように、異常陰影候補を抽出する候補抽出手段21と、抽出した異常陰影候補の輪郭周辺の輪郭内外画像Dを抽出する輪郭内外画像抽出手段22とを備え、注目部分画像20を輪郭内外画像Dとして、輪郭内外画像Dに基づいて異常陰影候補の画像タイプの判別を行う。また、濃度分布パターン記憶手段3には、輪郭内外画像Dに出現する可能性のある単位画素群の濃度分布パターンが記憶される。
【0051】
次に、画像判別装置1の作用について説明をする。
【0052】
候補抽出手段21は、医用画像データSより異常陰影候補を抽出する。例えば、濃度値の勾配に注目して異常陰影候補を抽出するアイリスフィルタ等で、画像中から濃度勾配の集中度の値が高い領域を抽出する。あるいは、アイリスフィルタ以外の手法を用いて、丸くて濃度の低い(白い)領域を異常陰影候補として抽出してもよい。また、Snakes法を用いてより正確な異常陰影候補の形状を抽出することも可能である。
【0053】
本実施の形態ではSnakes法を用いて異常陰影候補の領域を抽出する場合について説明する。Snakes法を用いて異常陰影候補の領域を抽出するには、例えば、異常陰影候補内にある集中度の高い点を中心とした一定の半径の曲線をSnakesの初期値として与え、医用画像データSから得られるエネルギーを異常陰影候補の輪郭周辺(エッジ)で極小になるように定義し、Snakes上のエネルギーが最小に近づくようにSnakesの曲線を徐々に変化させ、エネルギーが最小値に収束した時点の曲線が異常陰影候補の輪郭に一致したものとして、曲線で囲まれた領域を異常陰影候補として抽出する。
【0054】
図3に示すように、Snakesを閉曲線v(s)として与え、下式(1)のようにエネルギーEを定義し、エネルギーEが最小値になるように閉曲線v(s)を少しずつ動かすと、異常陰影候補(斜線部)の輪郭に閉曲線v(s)が徐々に近づいて行き、エネルギーEが最小値に収束した時点で閉曲線v(s)が輪郭に一致する。
【0055】
Snakes法で用いるエネルギーは、一般に内部エネルギーEint、画像エネルギーEimage、外部エネルギーEconが用いられ、式(1)で与えられる。
【0056】
【数1】
但し、sは閉曲線上のパラメータで、s=0の位置が始点でs=1の位置は終点を表す(閉曲線の場合には、s=0の位置とs=1の位置は一致する)。
【0057】
画像エネルギーEimageは、画像の特徴に依存するエネルギーであり、例えば、異常陰影候補の輪郭周辺上で最大値となるアイリスフィルタの出力値を負の値にしたものを用いて異常陰影候補の輪郭周辺で極小になるような画像エネルギーを定義することができる。
【0058】
また、内部エネルギーはSnakesを動かす際の伸縮を調整するエネルギーで、外部エネルギーはSnakesの振る舞いや質を意図的に変えるために与えるエネルギーである(詳細は、非特許文献3を参照)。
【0059】
輪郭内外画像抽出手段22は、抽出した形状の輪郭v(s)からの所定の範囲内にある画像を輪郭内外画像Dとして抽出する。輪郭内外画像Dは輪郭の形状に依存しないで特徴を観測できるように、輪郭v(s)を基準に統一した形状に変換する方が望ましい。例えば、図4に示すように、抽出した輪郭v(s)が直線になるように輪郭内外画像Dを変換して、抽出した輪郭v(s)をx方向に一致させ、輪郭v(s)に垂直な方向t(t1、t2、t3、t4、t5、t6)をy方向と一致するような矩形形状に変換する。
【0060】
これにより、図5に示すように、(a)と(b)の陰影の輪郭の形状は相違するが、変換後の輪郭内外画像Dは(c)に示すように同じ形状に変換され、画像の比較が容易になる。
【0061】
例えば、図6に示すように、陰影の辺縁部に現れるスピキュラSP等が出現するような陰影(a)、(b)を統一した形状(c)に変換すると、スピキュラSP等の輪郭に対して垂直な方向に特徴がある濃度分布パターンが多く出現するようになり、画像の特徴が陰影の輪郭の形状に依存せずに得られる。
【0062】
濃度分布パターン記憶手段3には、予め輪郭内外画像Dに出現する可能性のある濃度分布パターンが記憶されている。例えば、濃度分布パターンは、パターン分析の手法を用いて様々な症例の輪郭内外画像Dからランダムに切り出した単位画素群R(例えば、20×20画素、図4(b)参照)から輪郭内外画像Dに出現する可能性のある濃度分布パターンを抽出し、抽出された濃度分布パターンを濃度分布パターン記憶手段3に記憶しておく。図7に、64個の濃度分布パターンが抽出された一例を示す。あるいは、濃度分布パターンは、輪郭内外画像Dに出現する可能性のある単位画素群Rを想定して、分類に必要な濃度分布パターンを人工的に作成したものを記憶しておいてもよい。
【0063】
そこで、出現頻度算出手段4は、濃度分布パターン記憶手段3に記憶している濃度分布パターンが輪郭内外画像Dに出現する出現頻度を濃度分布パターン毎にカウントしてN次元のパターンヒストグラムを求める。例えば、図8に示すように、上述の輪郭内外画像D(例えば、180×80画素)内に並んでいる単位画素群R(例えば、20×20画素)を1つずつ上下左右に動かし、各単位画素群が該当する濃度分布パターンにカウントして、各濃度分布パターンが輪郭内外画像D内に出現する出現頻度を求める。
【0064】
輪郭内外画像D上の単位画素群Rがどの濃度分布パターンに該当するかは、例えば、単位画素群Rと濃度分布パターンの各画素を比較して最も類似するものが該当する濃度分布パターンであるとする。具体的には、対応する画素間の最小二乗距離等の相関をみて判定する。
【0065】
このとき、単位画素群Rとの類似度が高い濃度分布パターンにのみカウントするようにし、いずれの濃度分布パターンにも類似しない場合にはカウントしないようにしてパターンヒストグラムを求めるようにしてもよい。例えば、最小二乗距離等の相関値が所定値以下の場合にその濃度分布パターンにカウントし、最小二乗距離等の相関値が所定値以下の濃度分布パターンがない場合にはカウントしないようにする。
【0066】
また、異常陰影候補の特徴は、陰影の種類によって輪郭辺縁、輪郭内側、輪郭外側に現れる特徴が違ってくる。そこで、輪郭内外画像Dは、図9に示すように、輪郭辺縁、輪郭内側、輪郭外側の各領域に分けて濃度分布パターンのヒストグラムから画像タイプを分類するものが異常陰影候補の画像タイプを判別する場合には好ましい。
【0067】
図10は、各領域に応じて濃度分布パターンの出現頻度をカウントした結果の一例を表すもので、図7の64個の濃度分布パターンを用いて各領域毎のヒストグラムを求めたもので、aは輪郭内側のヒストグラム、bは輪郭辺縁のヒストグラム、cは輪郭外側のヒストグラムを表している(但し、縦軸はカウントした単位画素群の総数で割ったときの割合で表されている)。このように輪郭辺縁、輪郭内側、輪郭外側の各領域に分けた濃度分布パターンのヒストグラムを得て、192次元(64×3次元)のパターンヒストグラムを得る。
【0068】
上述ように、輪郭内側、輪郭辺縁上、輪郭外側に分けて出現頻度をカウントすると、輪郭のはっきりした良性の腫瘤の異常陰影候補では、図11に示すように(便宜上、横軸上に濃度分布パターンを高いものから低いものへ移るように並べているものとする)、輪郭外側cには濃度の高い濃度分布パターンが多く現れ、輪郭内側aには濃度の低い濃度分布パターンが多く現れ、輪郭辺縁上bでも濃度の高い濃度分布パターンと濃度の低い濃度分布パターンにピークがあるような分布を示す。一方、輪郭がはっきりせず輪郭周辺がぼやけているような悪性の腫瘤の異常陰影候補では、輪郭外側cには濃度の高い濃度分布パターンが多く現れ、輪郭内側aには濃度の低い濃度分布パターンが多く現れるが、輪郭辺縁上bでは特にピークが現れず全体に一様に分布する。このように、特徴の表れる領域に分けてパターンヒストグラムを求めることにより画像タイプを正確に分類することが可能になる。
【0069】
上述では、輪郭内外画像Dを、輪郭辺縁、輪郭内側、輪郭外側の3つの領域分ける場合について説明したが、この3つの領域煮に限らず特徴の表れる領域に分けるようにしたものであればよく、輪郭内側と輪郭外側の2つの領域に分けるようにしてもよいし、輪郭辺縁と輪郭内側、輪郭辺縁と輪郭外側とは重なり合わないような領域を設定してもよい。
【0070】
そこで、学習手段5では、輪郭内外画像Dがどの画像タイプに対応するかを前述のパターンヒストグラムに基づいて画像タイプを分類する。上述の出現頻度算出手段4を用いて求めたパターンヒストグラムをSOMのような教師なし学習を行う学習手段5に繰り返し提示して学習し、例えば、図12に示すように、異常陰影のうち悪性腫瘤、異常陰影のうち良性腫瘤、正常陰影等の画像タイプに分類することができ、類似した画像タイプ同士が近い位置となるような異常陰影候補マップMapを得るように学習する。
【0071】
ここで、SOMを用いた具体的な学習方法について説明する。図13にSOMの一例を示す。SOMのネットワークは、図13(a)に示すように、平面上に格子状に出力ノードが並べられ、出力ノードj(例えば、M個)と入力ノードi(例えば、N個)とが全て接続され、入力ノードiと出力ノードjとは重みwijで結合される。このとき、入力ノードに入力する入力データをX=(x1、x2、・・・、xi、・・・、xN)とし、出力ノードjと各入力ノードiとを結ぶ重みベクトルを図13(b)に示すようにWj=(w1j、w2j、・・・、wij、・・・、wNj)として表すと、出力ノードjへの入力Ejは、
Ej=Σj(wij・xi)
と表される。
【0072】
SOMの入力ノード(N個)に入力データとしてN次元のパターンヒストグラムが提示されると、入力ノードiと出力ノードjが持つ重みベクトルのうち、入力データとして提示されたN次元のパターンヒストグラムXと最も一致度の高い(即ち、最適マッチングした)出力ノードjが選らばれ、その近傍にある出力ノードj*(j*は出力ノードjを含む近傍のノードを表す)の重みベクトルWj*が入力データのN次元のパターンヒストグラムに近づくように出力ノードj*の重みベクトルWj*を更新して学習していく。従って、学習が進むと出力ノードjの重みベクトルWjが、出力ノードjに対応する画像タイプを代表するN次元のパターンヒストグラムと一致するように最適化される。また、学習が進むに従って、重みベクトルWj*を更新する出力ノードj*の範囲を狭めて行き、最終的には最適マッチングした出力ノードjのみの重みベクトルWjを更新するようにする。例えば、図14に示すように、始めの段階では、広い範囲の重みベクトルを更新するように、出力ノードjから2ノード以内の25個の出力ノードを更新する出力ノードj*(網掛け部分内のノード)とし(図14(a))、次の段階では、更新する出力ノードj*を出力ノードjから1ノード以内の9個の出力ノードとし(図14(b))、最終的に、最適マッチングした出力ノードjの1個みを更新する出力ノードj*とする(図14(c))。
【0073】
学習は決められた回数行うか、重みの更新量が一定の値以下になるまで繰り返し学習を行い、学習が終了すると平面上の出力ノードにラベル付けを行ってM種類の画像タイプに分類する。この平面上の出力ノードにラベル付けされたものが前述の異常陰影候補マップMapとなる(図12参照)。
【0074】
そこで、学習用に7×7=49(=M)個の出力ノードと192(=N)個の入力ノードを持つSOMを用いて、前述の192次元のパターンヒストグラムを繰り返し提示して学習し、異常陰影候補を49種類の画像タイプに分類する場合の学習について具体的に説明する。ここで、時刻tにおける入力ノードiから出力ノードjを結合する重みをwij(t)とし、学習が1回進んだ状態をwij(t+1)とし、192次元のパターンヒストグラムをXph=(xph 1、xph 2、・・・、xph i、・・・、xph 192)として説明する。
【0075】
(1) まず、重みの初期値として適当な値を与える。例えば、ランダムな値を与えて初期化する。また、更新の対象とする重みベクトルWj*の初期範囲は初め大きく設定し、例えば、最適マッチングした出力ノードjから2ノード以内の矩形内にある25個の出力ノードj*の重みベクトルWj *を更新するものとする(図14(a)参照)。
【0076】
(2) 次に、パターンヒストグラムを正規化する(つまり、Σxph i 2=1となるようにする)。
【0077】
(3) 正規化された192次元のパターンヒストグラムXphを入力ノードに提示して、次のように重みを更新する。
まず、入力ノードに提示されたパターンヒストグラムXphと出力ノードjの重みベクトルWjとの最小二乗距離djを以下の式で計算する。
dj=Σi(xph i(t)−wij(t))2
この最小二乗距離djが最小となる出力ノードjを捜して最適マッチングした出力ノードとし、その出力ノードjの近傍の出力ノードj*(25個)の重みベクトルWj *を更新の対象とする。
更新対象の出力ノードj*の重みベクトルを入力された192次元のパターンヒストグラムXphに近づけるように重みを次のように更新する。
wij *(t+1)=wij *(t)+a×(xph i(t)−wij *(t))
ここで、 wij(t+1):更新対象出力ノードの更新後の重み
wij(t) :更新対象出力ノードの更新前の重み
a :学習係数(0<a<1)
i :1〜192
【0078】
(4) 上記、(1) から(3) を重みの更新量が一定の値以下になるまで繰り返し行う。あるいは、所定の回数学習を行うと終了とする。また、更新対象とする近傍領域は前述のように、2ノード以内(図14(a)参照)、1ノード以内(図14(b)参照)、最適マッチングした出力ノードのみ(図14(c)参照)というように徐々に狭めた範囲の重みベクトルWj *を更新する。
【0079】
例えば、輪郭内外画像から得られた192次元のパターンヒストグラムを1000回ほどSOMに提示したものを1回の学習とし、これを10回繰り返して学習を終了する場合には、計1万回繰り返して192次元のパターンヒストグラムをSOMに提示して学習することになるが、この場合において更新する重みベクトルWj *は、1〜5000回繰り返すときに、最適マッチングした出力ノードjから2ノード以内の近傍の出力ノードj*の重みベクトルWj *を更新し、5001〜7500回繰り返すときに、1ノード以内の近傍の出力ノードj*の重みベクトルWj *を更新し、7501〜10000回繰り返すときには、最適マッチングした出力ノードjの重みベクトルWj *のみを更新するようにする。
【0080】
このようにして得られたマップ上にラベル付けを行い異常陰影候補マップMapを得る。得られた49個の各出力ノードjの重みベクトルWj=(w1j、w2j、・・・、wij、・・・、w192j)は、各出力ノードjにラベル付けされた画像タイプを代表する192次元のパターンヒストグラムとなり、重みベクトルWjは、各画像タイプに分類されるパターンヒストグラムの平均的な値を持つパターンヒストグラムか、各画像タイプに分類されるパターンヒストグラムに多く出現するパターンヒストグラムに近いものとなる。
【0081】
このようにして得られた49個の画像タイプに対応する重みベクトルW1、W2、W3、・・・、W49は、学習済重みベクトル記憶手段50に記憶される。
【0082】
上述のようにして得られた異常陰影候補マップMapは、異常陰影のみならず正常陰影を提示して学習することで、異常陰影候補の画像が正常陰影か異常陰影かの判定を行うことも可能となる。さらに、様々な症例に対応するものを入力して様々な症例に分類することも可能である。
【0083】
そこで、所定の異常陰影候補Aの画像タイプの判別を行う場合について図15のフローチャートに従って説明する。まず、候補抽出手段21で医用画像データSから所定の異常陰影候補Aの輪郭を抽出し(S100)、抽出した輪郭を基準に輪郭内外画像抽出手段22で異常陰影候補Aの輪郭内外画像Dを抽出した後(S101)、出現頻度算出手段4で異常陰影候補Aの輪郭内外画像Dの192(N)次元のパターンヒストグラムXph(A)を求める(S102)。そこで、判別手段6で、所定の異常陰影候補Aの輪郭内外画像Dから得られたパターンヒストグラムXph(A)と、学習済重みベクトル記憶手段50に記憶されている49個の学習済重みベクトルW1、W2、W3、・・・、W49との相関値を求めて判別を行う(S103)。
【0084】
例えば、相関値として、異常陰影候補Aの輪郭内外画像DのパターンヒストグラムXph(A)と49個の学習済重みベクトルとの最小二乗距離|W1−Xph(A)|2、|W2−Xph(A)|2、|W3−Xph(A)|2、・・・、|Wj−Xph(A)|2、・・・、|W49−Xph(A)|2(但し、|Wj−Xph(A)|2=Σi(xph(A) i(t)−wij(t))2)を求め、画像の判別をおこなう。
【0085】
異常陰影候補には、異常陰影(例えば、図12の悪性腫瘤タイプ1・悪性腫瘤タイプ2・良性腫瘤タイプ等)の特徴と正常陰影(例えば、図12の正常陰影タイプ等)の特徴を併せ持つ場合がある。そこで、例えば、この49個の相関値を特徴量として用いてクラスター分析を行い、正常陰影を示すパターンクラスからのマハラノビス距離Dm1と異常陰影を示すパターンクラスからのマハラノビス距離Dm2求めて異常陰影であるか正常陰影であるかの判別を行うこと等ができる。
【0086】
また、異常陰影候補は相関値の高い複数の画像タイプの特徴を持っている場合もある。例えば、悪性腫瘤タイプ1と悪性腫瘤タイプ2の両方と高い相関が見られる場合には、悪性腫瘤タイプ1と悪性腫瘤タイプ2の両方の特徴を持っていると考えられる。そこで、複数の画像タイプを組み合わせに対応した診断・治療情報(確定診断結果、検査方針、治療方針等)を取得できるようなデータベースを用意して、複数の画像タイプと相関の高い場合には、組み合わせに対応した診断・治療情報を取得して、診断や治療方針を表示することが可能なように画像判別装置を構成してもよい。
【0087】
前述では、相関値としては最小二乗距離を用いる場合について説明したが、相関値として49個の学習済重みベクトルWjとパターンヒストグラムXph(A)との内積を用いてもよい。内積の値は、学習済重みベクトルWjとパターンヒストグラムXph(A)が正規化されている場合には、相関が高いほど内積は1に近い値となり、相関が低いと0に近いとなる。
【0088】
上述の実施の形態では、輪郭内外画像Dに基づいて異常陰影候補の判定を行う場合について説明したが、抽出した異常陰影候補の輪郭を基準にして異常陰影候補の領域に含まれている濃度分布パターンの出現頻度に基づいて判定を行うことも可能である。
【0089】
また、単位画素群の濃度分布パターンの抽出の具体的な方法として、SOMを用いて濃度分布パターンを抽出する方法があげられる。様々な症例の輪郭内外画像Dからランダムに切り出した単位画素群を繰り返しSOMに提示して濃度分布パターンを抽出し、抽出した濃度分布パターンを濃度分布パターン記憶手段3に予め記憶するようにしてもよい。
【0090】
また、学習済重みベクトルを得るための学習方法として、SOMを用いて具体的に説明したが、他の教師無しの学習方法を用いることも可能である。
【0091】
以上、医用画像の異常陰影候補の場合について具体的に説明したが、医用画像に限らず撮影して得られた写真画像等から対象物を抽出して、対象物の特徴を表す質感(例えば、テクスチャー等)から画像を判別することも可能である。
【0092】
以上詳細に説明したように、人間の視覚で捉えた感覚に近い状態で画像タイプ分類して、判別の対象とする画像がいずれかの画像タイプの特徴を備えているかを分析することが可能となる。
【図面の簡単な説明】
【図1】画像判別装置の概要を表す図
【図2】抽出手段の構成図
【図3】Snakesの動きを表す図
【図4】輪郭内外画像の変換を説明するための図(その1)
【図5】輪郭内外画像の変換を説明するための図(その2)
【図6】輪郭内外画像の変換を説明するための図(その3)
【図7】濃度パターンの抽出結果の一例を表す図
【図8】濃度パターンの出現頻度のカウント方法を説明するための図
【図9】輪郭内外画像を輪郭辺縁、輪郭内側、輪郭外側の各領域に分けた図
【図10】濃度パターンのヒストグラムの一例を表す図
【図11】濃度パターンのヒストグラムの現れ方の違いを説明するための図
【図12】マップにラベル付けを行なった一例を表す図
【図13】SOMを説明するための図
【図14】重みベクトルを更新する領域を説明するための図
【図15】所定の異常陰影候補の画像タイプの判別を行う場合の流れを説明するフローチャート
【符号の説明】
1 画像判別装置
2 抽出手段
3 濃度分布パターン記憶手段
4 出現頻度算出手段
5 学習手段
6 判別手段
50 学習済重みベクトル記憶手段
D 輪郭内外画像
SP スピキュラ
Map 異常陰影候補マップ
R 単位画素群
Claims (7)
- 画像データから注目部分画像を抽出する抽出手段と、
該抽出手段で抽出される注目部分画像を構成する単位画素群の各画素に出現する可能性のある多数の濃度分布パターンを記憶する濃度分布パターン記憶手段と、
前記抽出手段により抽出された前記注目部分画像の単位画素群の各画素について前記濃度分布パターンのいずれに類似するかを判定し、前記各濃度分布パターンが前記注目部分画像中に出現する出現頻度を前記各濃度分布パターン毎にカウントしてN次元のパターンヒストグラムを算出する出現頻度算出手段と、
N個の入力ノードとM個の出力ノードを有する教師なし学習を行う学習手段であって、該N個の入力ノードに前記N次元のパターンヒストグラムを繰り返し提示し、前記N個の入力ノードと前記M個の出力ノードとを結ぶ重みを学習して、前記M個のうちの1つの出力ノードと前記N個の入力ノードとを結ぶ学習されたN個の重みをN次元の学習済重みベクトルとし、該N次元の学習済重みベクトルが前記各出力ノード毎に対応する画像タイプを代表するものとして学習済重みベクトルを得る学習手段と、
所定の注目部分画像のN次元のパターンヒストグラムを前記出現頻度算出手段を用いて求め、該N次元のパターンヒストグラムと前記学習手段により得られた前記学習済重みベクトルとに基づいて該注目部分画像の画像タイプを判別する判別手段とを備えたことを特徴とする画像判別装置。 - 前記学習手段が、SOMであることを特徴とする請求項1記載の画像判別装置。
- 前記判別手段が、前記所定の注目部分画像のN次元のパターンヒストグラムと前記学習済重みベクトルとの相関値を求め、該相関値を特徴量として判別することを特徴とする請求項1または2記載の画像判別装置。
- 前記画像データが医用画像であり、前記注目部分画像が異常陰影候補の画像であることを特徴とする請求項1から3いずれか記載の画像判別装置。
- 前記抽出手段が、
前記異常陰影候補を抽出する候補抽出手段と、
該候補領域抽出手段で抽出した前記異常陰影候補の輪郭周辺の輪郭内外画像を抽出する輪郭内外画像抽出手段とを備え、
前記注目部分画像が、前記輪郭内外画像であることを特徴とする請求項4記載の画像判別装置。 - 画像データから注目部分画像を抽出するステップと、
前記抽出された前記注目部分画像の単位画素群の各画素について、注目部分画像を構成する単位画素群の各画素に出現する可能性のある多数の濃度分布パターンを記憶する記憶手段に記憶されている濃度分布パターンのいずれに類似するかを判定し、前記各濃度分布パターンが前記注目部分画像中に出現する出現頻度を前記各濃度分布パターン毎にカウントしてN次元のパターンヒストグラムを算出するステップと、
N個の入力ノードとM個の出力ノードを有する教師なし学習を行う学習手段を用いて、該N個の入力ノードに前記N次元のパターンヒストグラムを繰り返し提示し、前記N個の入力ノードと前記M個の出力ノードとを結ぶ重みを学習して、前記M個のうちの1つの出力ノードと前記N個の入力ノードとを結ぶ学習されたN個の重みをN次元の学習済重みベクトルとし、該N次元の学習済重みベクトルが前記各出力ノード毎に対応する画像タイプを代表するものとして学習済重みベクトルを得るステップと、
所定の注目部分画像のN次元のパターンヒストグラムを前記記憶手段に記憶されている濃度分布パターンに基づいて求め、該N次元のパターンヒストグラムと前記学習済重みベクトルとに基づいて該注目部分画像の画像タイプを判別する判別ステップとを備えたことを特徴とする画像判別方法。 - コンピュータを、
画像データから注目部分画像を抽出する抽出手段と、
該抽出手段で抽出される注目部分画像を構成する単位画素群の各画素に出現する可能性のある多数の濃度分布パターンを記憶する濃度分布パターン記憶手段と、
前記抽出手段により抽出された前記注目部分画像の単位画素群の各画素について前記濃度分布パターンのいずれに類似するかを判定し、前記各濃度分布パターンが前記注目部分画像中に出現する出現頻度を前記各濃度分布パターン毎にカウントしてN次元のパターンヒストグラムを算出する出現頻度算出手段と、
N個の入力ノードとM個の出力ノードを有する教師なし学習を行う学習手段であって、該N個の入力ノードに前記N次元のパターンヒストグラムを繰り返し提示し、前記N個の入力ノードと前記M個の出力ノードとを結ぶ重みを学習して、前記M個のうちの1つの出力ノードと前記N個の入力ノードとを結ぶ学習されたN個の重みをN次元の学習済重みベクトルとし、該N次元の学習済重みベクトルが前記各出力ノード毎に対応する画像タイプを代表するものとして学習済重みベクトルを得る学習手段と、
所定の注目部分画像のN次元のパターンヒストグラムを前記出現頻度算出手段を用いて求め、該N次元のパターンヒストグラムと前記学習手段により得られた前記学習済重みベクトルとに基づいて該注目部分画像の画像タイプを判別する判別手段として機能させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003197512A JP2005034211A (ja) | 2003-07-16 | 2003-07-16 | 画像判別装置、方法およびプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003197512A JP2005034211A (ja) | 2003-07-16 | 2003-07-16 | 画像判別装置、方法およびプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2005034211A true JP2005034211A (ja) | 2005-02-10 |
Family
ID=34207614
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003197512A Withdrawn JP2005034211A (ja) | 2003-07-16 | 2003-07-16 | 画像判別装置、方法およびプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2005034211A (ja) |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007307358A (ja) * | 2006-04-17 | 2007-11-29 | Fujifilm Corp | 画像処理方法および装置ならびにプログラム |
WO2010035519A1 (ja) * | 2008-09-25 | 2010-04-01 | コニカミノルタエムジー株式会社 | 医用画像処理装置及びプログラム |
WO2013008526A1 (ja) | 2011-07-12 | 2013-01-17 | オリンパスメディカルシステムズ株式会社 | 画像処理装置 |
JP2013525011A (ja) * | 2010-04-30 | 2013-06-20 | ヴィユーコンプ インク | 放射線画像における突起形成を伴う悪性質量の検出および分類 |
KR101481008B1 (ko) | 2012-12-17 | 2015-01-14 | 한국과학기술원 | 기울기 검사 기반 영상 특징 검출방법 |
JP2019055230A (ja) * | 2013-12-06 | 2019-04-11 | キヤノンメディカルシステムズ株式会社 | 医用画像における構造物をセグメンテーションする医用画像処理装置、医用画像をセグメンテーションするための方法及び医用画像をセグメンテーションするコンピュータプログラムを記憶する記憶媒体 |
WO2019087790A1 (ja) | 2017-10-31 | 2019-05-09 | 富士フイルム株式会社 | 検査支援装置、内視鏡装置、検査支援方法、及び検査支援プログラム |
CN112534472A (zh) * | 2018-12-27 | 2021-03-19 | 欧姆龙株式会社 | 图像判定装置、图像判定方法及图像判定程序 |
KR20210087063A (ko) | 2019-01-22 | 2021-07-09 | 주식회사 히타치하이테크 | 화상 평가 장치 및 방법 |
JP7483591B2 (ja) | 2020-10-30 | 2024-05-15 | キヤノン株式会社 | 医用画像処理装置、医用画像処理方法及びプログラム |
-
2003
- 2003-07-16 JP JP2003197512A patent/JP2005034211A/ja not_active Withdrawn
Cited By (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007307358A (ja) * | 2006-04-17 | 2007-11-29 | Fujifilm Corp | 画像処理方法および装置ならびにプログラム |
WO2010035519A1 (ja) * | 2008-09-25 | 2010-04-01 | コニカミノルタエムジー株式会社 | 医用画像処理装置及びプログラム |
JPWO2010035519A1 (ja) * | 2008-09-25 | 2012-02-23 | コニカミノルタエムジー株式会社 | 医用画像処理装置及びプログラム |
JP5343973B2 (ja) * | 2008-09-25 | 2013-11-13 | コニカミノルタ株式会社 | 医用画像処理装置及びプログラム |
JP2013525011A (ja) * | 2010-04-30 | 2013-06-20 | ヴィユーコンプ インク | 放射線画像における突起形成を伴う悪性質量の検出および分類 |
WO2013008526A1 (ja) | 2011-07-12 | 2013-01-17 | オリンパスメディカルシステムズ株式会社 | 画像処理装置 |
US8666135B2 (en) | 2011-07-12 | 2014-03-04 | Olympus Medical Systems Corp. | Image processing apparatus |
KR101481008B1 (ko) | 2012-12-17 | 2015-01-14 | 한국과학기술원 | 기울기 검사 기반 영상 특징 검출방법 |
JP2019055230A (ja) * | 2013-12-06 | 2019-04-11 | キヤノンメディカルシステムズ株式会社 | 医用画像における構造物をセグメンテーションする医用画像処理装置、医用画像をセグメンテーションするための方法及び医用画像をセグメンテーションするコンピュータプログラムを記憶する記憶媒体 |
WO2019087790A1 (ja) | 2017-10-31 | 2019-05-09 | 富士フイルム株式会社 | 検査支援装置、内視鏡装置、検査支援方法、及び検査支援プログラム |
US11302092B2 (en) | 2017-10-31 | 2022-04-12 | Fujifilm Corporation | Inspection support device, endoscope device, inspection support method, and inspection support program |
CN112534472A (zh) * | 2018-12-27 | 2021-03-19 | 欧姆龙株式会社 | 图像判定装置、图像判定方法及图像判定程序 |
US11922680B2 (en) | 2018-12-27 | 2024-03-05 | Omron Corporation | Image determination device, image determination method, and non-transitory computer readable medium storing program |
CN112534472B (zh) * | 2018-12-27 | 2024-04-30 | 欧姆龙株式会社 | 图像判定装置、图像判定方法及其程序的记录介质 |
KR20210087063A (ko) | 2019-01-22 | 2021-07-09 | 주식회사 히타치하이테크 | 화상 평가 장치 및 방법 |
JP7483591B2 (ja) | 2020-10-30 | 2024-05-15 | キヤノン株式会社 | 医用画像処理装置、医用画像処理方法及びプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4184842B2 (ja) | 画像判別装置、方法およびプログラム | |
US11004196B2 (en) | Advanced computer-aided diagnosis of lung nodules | |
CN109635846B (zh) | 一种多类医学图像判断方法和系统 | |
CN106682435B (zh) | 一种多模型融合自动检测医学图像中病变的系统及方法 | |
JP5864542B2 (ja) | 画像の異常を検出するための画像データの処理方法、システムおよびプログラム | |
CA2214101A1 (en) | Method and system for the detection of lesions in medical images | |
WO2005083635A1 (en) | Method and system for detection of bone fractures | |
EP1324267A2 (en) | Automatic detection of regions of interest in digital images of biological tissue | |
Farag et al. | Automatic detection and recognition of lung abnormalities in helical CT images using deformable templates | |
JP2006034585A (ja) | 画像表示装置、画像表示方法およびそのプログラム | |
Zhao et al. | Down syndrome detection from facial photographs using machine learning techniques | |
Kanadam et al. | Mammogram classification using sparse-ROI: A novel representation to arbitrary shaped masses | |
JP2006325937A (ja) | 画像判定装置、画像判定方法およびそのプログラム | |
JP2006006359A (ja) | 画像生成装置、画像生成装置方法、およびそのプログラム | |
Jayaraj et al. | Random forest based classification model for lung cancer prediction on computer tomography images | |
JP2023517058A (ja) | 画像処理に基づく腫瘍の自動検出 | |
Saki et al. | A novel opposition-based classifier for mass diagnosis in mammography images | |
Jaffar et al. | An ensemble shape gradient features descriptor based nodule detection paradigm: a novel model to augment complex diagnostic decisions assistance | |
JP2005034211A (ja) | 画像判別装置、方法およびプログラム | |
Wei et al. | A novel method for segmentation of CT head images | |
EP1194880A1 (en) | Computer aided detection of masses and clustered microcalcification strategies | |
JP5106047B2 (ja) | 画像処理方法及び装置 | |
Surya et al. | Efficient feature extraction on mammogram images using enhanced grey level co-occurrence matrix | |
Nguyen et al. | Combination of gabor filter and convolutional neural network for suspicious mass classification | |
JP2004187998A (ja) | 異常陰影形状抽出装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20061003 |