JP7082287B2 - 画像検索プログラム、画像検索装置、及び画像検索方法 - Google Patents

画像検索プログラム、画像検索装置、及び画像検索方法 Download PDF

Info

Publication number
JP7082287B2
JP7082287B2 JP2018192435A JP2018192435A JP7082287B2 JP 7082287 B2 JP7082287 B2 JP 7082287B2 JP 2018192435 A JP2018192435 A JP 2018192435A JP 2018192435 A JP2018192435 A JP 2018192435A JP 7082287 B2 JP7082287 B2 JP 7082287B2
Authority
JP
Japan
Prior art keywords
image
feature amount
vector
similarity
distribution
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018192435A
Other languages
English (en)
Other versions
JP2020061000A (ja
Inventor
浩明 武部
康貴 森脇
正樹 石原
昌彦 杉村
孝之 馬場
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2018192435A priority Critical patent/JP7082287B2/ja
Publication of JP2020061000A publication Critical patent/JP2020061000A/ja
Application granted granted Critical
Publication of JP7082287B2 publication Critical patent/JP7082287B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Image Analysis (AREA)
  • Medical Treatment And Welfare Office Work (AREA)

Description

本発明は、画像検索プログラム、画像検索装置、及び画像検索方法に関する。
従来から、医療分野においては、過去の類似症例を検索し、検索結果を参照して、医師の診断を支援する画像検索装置がある。例えば、データベースに過去の症例を表す画像が記憶され、画像検索装置において、処理対象である画像の画像特徴が類似した画像をデータベースから検索し、検索した画像を順番に表示する、などである。このような画像は、例えば、CT(Computed Tomography:コンピュータ断層撮影)画像が用いられる。
医療分野における症例の一つに、びまん性肺疾患がある。びまん性肺疾患は、例えば、肺における病気の総称であり、肺胞蛋白症やリンパ脈管筋腫症など、100種類程度の病気が含まれる。びまん性肺疾患は、例えば、肺において広範囲にわたって機能が損なわれ、異常陰影などの症状を呈する。
びまん性肺疾患の患者のCT画像には、形状及び分布が多岐にわたる異常陰影が含まれる。そのため、びまん性肺疾患は、孤立性肺結節の癌等と比較して、画像検索による診断が非常に難しい。従って、豊富な知識を持つ医師でも、診断に時間がかかる場合がある。
画像の特徴量をヒストグラムとして表す場合がある。ヒストグラムは、例えば、棒状グラフである。画像の特徴量が棒状グラフとして表されることで、例えば、特徴量の分布を視覚的に把握することが可能となる。
2つの画像についてその特徴量がヒストグラムとして表された場合、2つのヒストグラム間の類似度としてEMD(Earth Mover’s Distance)が用いられる場合がある。
図12は、EMDの計算例を表す図である。EMDは、例えば、2つの画像が持つ距離に基づいて画像間の類似度を判断する手法である。距離については、例えば、土盛りと穴の比喩を用いて簡単に説明することができる。
例えば、Pを土盛りの集合、Qを穴の集合とする。m、nは自然数であり、異なっていてもよい。p,qは、例えば、任意の距離が定義された空間内の点とする。点pには体積がwPiの土が盛られ、点qには容積がwQjの穴が掘られているとする。例えば、dijをp,q間の距離、fijをpからqへ運ばれる土の量とする。このとき、全部の穴を埋めるためのコスト
Figure 0007082287000001
を最小にするfijを算出し、P,Q間のEMDを
Figure 0007082287000002
と定義する。
EMDにより、例えば、データベースに登録された過去の症例を表す画像のヒストグラム(例えば集合P)と、処理対象の画像のヒストグラム(例えば集合Q)がどれだけ類似しているかを容易に把握することが可能となる。
類似度の計算については、例えば、以下のような技術がある。すなわち、スキャナから取り込まれた第1の文書画像と文書データベースから抽出された第2の文書画像の解像度をそれぞれ低解像度に変換後、複数の部分領域に分割し、部分領域ごとに相互相関計算を行って領域毎の類似度を計算し、画像全体の類似度を計算する照合装置がある。
この技術によれば、照合する2つの文書画像が拡大または縮小の関係にある場合やスキューの関係にある場合でも、高速に類似度を計算することができる、とされる。
また、比較対象マルチメディアデータそれぞれのベクトル集合から特徴ベクトルを1つずつ抽出してベクトルペアを生成し、ベクトルペア毎に特徴ベクトル間の類似度を示す距離を合算して比較対象マルチメディアデータ間の類似度を算出する類似度判定装置がある。
この技術によれば、マルチメディアデータ間の類似、非類似の判断における識別性を高めることができる、とされる。
特開2015-191308号公報 特開2005-234994号公報
EMDによる類似度の計算では、例えば、異なる特徴量を持つヒストグラム間でも、類似度が「100%」となる場合がある。
例えば、ある画像の特徴量を表すヒストグラム(例えば集合P)が他の画像の特徴量を表すヒストグラム(例えば集合Q)に含まれる場合がある。土盛りと穴の比喩では、土盛りの集合Pと穴の集合Qについて、土盛りの集合Pが穴の集合Qに含まれる場合である。この場合、点pの土の量wP1を、点qの容積wQ1の穴に全て埋め、点pの土の量wP2を、点qの容積wQ2の穴に全て埋め、など、各点pの土の量を最短距離(dij=0)で各点qの穴に埋めることができる場合がある。この場合、式(1)のコストは「0」となり、式(2)のEMDが「0」となる。このように、土の量と穴の量が異なる、すなわち、2つの画像間のヒストグラムが異なる場合であっても、類似度が「100%」となる場合がある。
従って、EMDを類似度として用いる場合、類似度の精度は低くなり、このような類似度を用いて画像検索装置による症例検索を行っても、精度の高い症例検索を行うことができない場合がある。
上述した、2つの画像を低解像度に変換後に部分領域毎に相互相関計算を行って類似度を計算する技術は、2つの画像を低解像度に変換後に類似度を計算している。従って、形状及び分布が多岐にわたる異常陰影を含むCT画像に対して、低解像度に変換すると、精度の高い類似度を算出することができない場合がある。このような類似度を用いた画像検索では、精度の高い症例検索を行うことができない。
また、上述した、ベクトルペア毎に特徴ベクトル間の類似度を示す距離を合算して類似度を算出する技術は、ベクトル集合から特徴ベクトルを抽出する処理が行われる。この場合、抽出した特徴ベクトルの精度が低いとき、特徴ベクトル間の距離を計算して類似度を算出しても、類似度の精度が低くなる場合がある。従って、かかる技術も、類似度の精度が低い場合がある。
そこで、一開示は、画像検索の精度を向上させることが可能な画像検索プログラム、画像検索装置、及び画像検索方法を提供することにある。
また、一開示は、類似度を高精度に算出することが可能な画像検索プログラム、画像検索装置、及び画像検索方法を提供することにある。
一開示は、第1の画像から前記第1の画像に類似する第2の画像を検索する画像検索装置におけるコンピュータに実行させる画像検索プログラムであって、前記第1の画像の画像データと前記第2の画像の画像データとに基づいて、前記第1の画像における第1の特徴量の分布と前記第2の画像における第2の特徴量の分布をそれぞれ抽出し、前記第1の特徴量と前記第2の特徴量とを正規化し、正規化した前記第1の特徴量と正規化した前記第2の特徴量とに基づいて、前記第1の特徴量と前記第2の特徴量の分布の類似度を算出し、前記分布の類似度を、前記第1の特徴量の分布に対応する第1のベクトルと前記第2の特徴量の分布に対応する第2のベクトルとのなす角度とし、前記第1の特徴量を前記第1のベクトルの大きさ、前記第2の特徴量を前記第2のベクトルの大きさとし、前記第1のベクトルと前記第2のベクトルとの間の距離に基づいて、類似度を算出し、算出した前記類似度に基づいて、前記第1の画像から前記第2の画像を検索する処理を前記コンピュータに実行させるプログラムにある。
一開示によれば、画像検索の精度を向上させることが可能である。また、一開示によれば、類似度を高精度に算出することが可能である。
図1は画像検索システムの構成例を表す図である。 図2(A)はCT画像の例、図2(B)はヒストグラムの例を夫々表す図である。 図3(A)から図3(F)はヒストグラムの例を表す図である。 図4は類似度の例を表す図である。 図5(A)から図5(D)はヒストグラムの例、図5(E)は類似度の例を夫々表す図である。 図6(A)と図6(B)はヒストグラムの例、図6(C)は類似度の例を夫々表す図である。 図7は特徴抽出処理の例を表すフローチャートである。 図8は検索処理の例を表すフローチャートである。 図9は照合処理の例を表すフローチャートである。 図10(A)と図10(B)は変換処理の例を表す図である。 図11は画像検索装置のハードウェア構成例を表す図である。 図12はEMDの計算例を表す図である。
以下、本発明を実施するための形態について説明する。なお、以下の実施の形態は開示の技術を限定するものではない。そして、各実施の形態は、処理内容を矛盾させない範囲で適宜組み合わせることが可能である。
[第1の実施の形態]
<画像検索システムの構成例>
図1は画像検索システム10の構成例を表す図である。
画像検索システム10は、画像検索装置100と、画像データベース(以下、「画像DB」(DB:Data Base)と称する場合がある。)200、及びCT画像撮像装置300を備える。
画像検索装置100は、CT画像撮像装置300で撮影された看者のCT画像に対して、画像DB200に登録された過去の症例を表すCT画像と類似するCT画像を検索する。そして、画像検索装置100は、検索したCT画像を、UI(User Interface)140により表示する。医師は、表示されたCT画像に基づいて、患者の診断を行う。画像検索装置100は、例えば、類似症例検索装置でもある。
なお、以下では、画像DB200から読み出されたCT画像を「CT画像」、CT画像撮像装置300から出力されたCT画像を「クエリ画像」とそれぞれ称する場合がある。
画像検索装置100は、辞書登録モジュール(又は辞書登録部)110、特徴量辞書データベース(又は特徴量辞書DB(Data Base))120、検索モジュール(又は検索部)130、及びUI140を備える。
なお、「モジュール」は、例えば、プログラム内において、ある機能を実現するサブプログラムを表す。ただし、以下では、そのような機能を実現する処理ブロックを「モジュール」として表している。従って、「辞書登録モジュール」110は、例えば、CT画像の特徴量を特徴量辞書DB120へ登録するなどの機能を有する処理ブロックであり、「検索モジュール」130は、例えば、クエリ画像に類似するCT画像を検索するなどの機能を有する処理ブロックである。
辞書登録モジュール110は、画像DB200から、過去の症例を表すCT画像を読み出し、読み出したCT画像のCT値(又は画像データ)に基づいて、特徴量抽出処理を行い、CT画像の特徴量を抽出する。特徴量抽出処理の例は、動作例で説明する。そして、辞書登録モジュール110は、抽出した特徴量と、特徴量を抽出したCT画像のIDなどを、特徴量辞書DB120へ登録(又は記憶)する。特徴量は、例えば、CT画像を格子状に分割した各格子領域において、異常陰影と判定された格子領域の数である。詳細は後述する。辞書登録モジュール110は、ヒストグラムを特徴量辞書DB120へ登録してもよい。ヒストグラムは、例えば、特徴量の分布を表す棒状グラフである。なお、以下では、特徴量とヒストグラムとを区別しないで用いる場合がある。
ここで、特徴量とヒストグラムの例について説明する。図2(A)はCT画像の例を表し、図2(B)はヒストグラムの例を表す。
図2(A)に示すように、本第1の実施の形態では、CT画像として、肺をスライスした断面の画像が用いられる。辞書登録モジュール110では、各CT画像を、グリッド状の格子領域に分割し、格子領域毎に異常陰影か正常陰影かを識別する。また、辞書登録モジュール110では、各CT画像を、肺の中枢(例えば、体の中心部分)と末梢(例えば、体の中心部分以外の部分)に関する領域の3次元モデルに基づいて、中枢部分と末梢部分とに分割し、中枢部分毎、末梢部分毎に、異常陰影と識別した格子領域の数をカウントする。
図2(B)の例では、辞書登録モジュール110は、さらに、3次元モデルに基づいて、左肺の中枢部分と末梢部分、右肺の中枢部分と末梢部分とに分割し、それぞれの部分で、異常陰影と識別した格子領域の数をカウントしている。辞書登録モジュール110は、例えば、1人分の複数枚のCT画像に対して、図2(B)に示す1つのヒストグラムを作成する。
図2(B)に示すヒストグラムでは、図面上、上側が「頭」の方向であり、下側が「足」の方向である。また、図2(B)において、横方向は、例えば、その位置において異常陰影と識別された格子領域の数を表している。
図2(A)と図2(B)の例では、特徴量は、例えば、異常陰影と識別された格子領域の数であり、ヒストグラムは、例えば、その分布を表している。本第1の実施の形態では、このような例でヒストグラムと特徴量を説明する。
本第1の実施の形態における画像検索装置100では、例えば、肺の中枢領域が肺門部を中心に3次元的に広がっているという医学的事実に着目して、肺の中枢と末梢に関する領域の3次元モデルを構築し、このモデルを用いた画像検索を行うことが可能である。
図1に戻り、特徴量辞書DB120は、例えば、メモリであり、特徴量やヒストグラムなどを記憶する。
検索モジュール130は、CT画像撮像装置300から出力されたクエリ画像のCT値(又は画像データ)に基づいて、特徴量算出処理を行い、クエリ画像の特徴量を算出する。検索モジュール130は、特徴量辞書DB120からCT画像の特徴量を読み出し、読み出した特徴量と、クエリ画像の特徴量とに基づいて、類似度Rを算出する。そして、検索モジュール130は、算出した類似度Rに基づいて、クエリ画像に類似するCT画像を検索する。類似度Rの算出処理などについては、動作例で説明する。検索モジュール130は、検索結果をUI140へ出力する。
UI140は、例えば、モニタ141やキーボード142などであって、ユーザ(例えば医師)と画像検索装置100との間で情報をやりとりするためのインタフェースである。UI140は、例えば、モニタ141などを介して、検索結果を表示する。この場合、UI140は、検索結果に対応するCT画像を画像DB200から読み出して表示してもよい。また、UI140は、例えば、検索キーを検索モジュール130へ出力し、CT画像撮像装置300で撮影されたCT画像の閲覧や、検索処理対象となるクエリ画像の選択、などを行うことも可能である。
画像DB200は、例えば、メモリや記憶装置であって、過去の症例を表すCT画像を記憶する。なお、画像DB200は、各CT画像のファイル名や各CT画像のID(Identification)なども記憶してもよい。辞書登録モジュール110は、CT画像とそのファイル名などを画像DB200から読み出し、対応するCT画像のファイル名などを特徴量とともに、特徴量辞書DB120に記憶してもよい。
CT画像撮像装置300は、例えば、照射器を回転させて人体にX線などの放射線を照射し、検出器により照射された放射線を検出することで、各画素においてCT値を有するCT画像を得る。CT画像撮像装置300は、撮影したCT画像をクエリ画像として、画像検索装置100へ出力する。
<類似度について>
次に、本第1の実施の形態において用いられる類似度について説明する。
異常陰影の分布のヒストグラムは、症例によって、その総和(又は量)が大きく異なる場合がある。
図3(A)は、クエリ画像のヒストグラムとCT画像のヒストグラムの例を表す図である。特徴量は、いずれも、図2(B)と同様に、例えば、異常陰影と判定された格子領域の数である。
例えば、CT画像とクエリ画像は、異なる症例の画像であるものとする。この場合、EMDを類似度として利用する場合、図3(A)の例では、上述したように、点pの土の量wP1を、点qの容積wQ1の穴に全て埋め、点pの土の量wP2を、点qの容積wQ2の穴に全て埋め、など、各点pの土の量を最短距離(dij=0)で各点qの穴に埋めることができる。従って、図3(A)の例では、輸送コスト=0となり、式(2)によるEMDは「100%」となる。
クエリ画像のヒストグラムがCT画像のヒストグラムに含まれる場合、EMDが「100%」となるため、クエリ画像の症例とは異なる症例のCT画像が検索される場合がある。
そこで、画像検索装置100では、量の類似度と分布の類似度とを別々に算出し、2つの類似度の重み付き和を類似度として用いる場合がある。式で表すと、例えば、以下となる。
Figure 0007082287000003
Figure 0007082287000004
なお、正規化する対象は、例えば、ヒストグラムに含まれる特徴量であるが、以下では、ヒストグラムを正規化することと、特徴量を正規化することとは同じ意味で用いる場合がある。
Figure 0007082287000005
Figure 0007082287000006
図3(C)に示すように、異常陰影が明瞭に現れている分布のヒストグラムhに対して図3(D)は、全体にわたってノイズが少量しか出ていない分布のヒストグラムhとなっている。ノイズのヒストグラムhを正規化することで、図3(F)及び図3(E)に示すように、CT画像のヒストグラムhを正規化したものと、その分布が類似する場合がある。そして、式(3)において、α>>βなど、分布の類似度に対する重み係数αを、量の類似度に対する重み係数βよりも十分大きくとった場合、分布の類似度が量の類似度よりも大きく評価されるため、分布の類似度が閾値より高いとき、2つのヒストグラムは類似する、と判定される場合がある。すなわち、異常陰影が明瞭に現れている分布のヒストグラム(例えば図3(C))と、ノイズが少量しか出ていない分布のヒストグラム(例えば図3(D))とが、類似すると判定される場合がある。
そこで、本第1の実施の形態では、類似度を以下のようにして算出する。すなわち、ヒストグラムを特徴空間の点と考え、ヒストグラムの正規化はベクトルの大きさの正規化であり、ヒストグラムの分布の類似度は同じ大きさのベクトル間の角度に相当するものと定義する。そして、画像検索装置100は、ヒストグラムの分布の類似度と、ヒストグラムの大きさとを用いて、ヒストグラムを特徴空間の点として表し、その空間上で距離を測定する。
図4は、本第1の実施の形態で用いる類似度の例を表す図である。具体的には、例えば、画像検索装置100は、以下のようにして類似度を算出する。
Figure 0007082287000007
また、画像検索装置100は、2つのヒストグラムh,hの大きさ(又は量)|h|,|h|をそれぞれ計算する。そして、画像検索装置100は、一方のヒストグラムhを、極座標(|h|,0)へ、他方のヒストグラムhを、極座標(|h|,θ)へ、それぞれ写像する。
Figure 0007082287000008
Figure 0007082287000009
Figure 0007082287000010
Figure 0007082287000011
Figure 0007082287000012
Figure 0007082287000013
このように、本第1の実施の形態においては、類似度Rは、例えば、分布の類似度に基づく角度θと、量の類似度に基づくヒストグラムh,hの大きさ|h|,|h|とに基づいて算出される。従って、ヒストグラムh,hの分布が類似しても、量が大きく異なると、類似度Rは閾値よりも低くなり、画像検索装置100は、両者は類似していないと判定することが可能となる。よって、図3(C)と図3(D)に示すように、異常陰影が明瞭に現れている分布のヒストグラムと、ノイズが少量しか出ていない分布のヒストグラムとが、画像検索装置100において、類似すると判定することもなくなり、画像検索の精度を向上させることができる。
また、図3(A)と図3(B)に示すように、EMDを類似度として用いた場合、クエリ画像のヒストグラムがCT画像のヒストグラムに含まれるとき、類似度が「100%」となる場合があることを説明した。しかし、本第1の実施の形態における類似度Rは、ヒストグラムh,hの分布が類似しても、量が大きく異なると、類似度Rは閾値よりも低くなり、両者は類似していないと判定することが可能となる。従って、類似度Rも、EMDを類似度として用いた場合と比較して、類似度としての精度を向上させることが可能となる。
なお、ヒストグラムh,hの分布が類似し、かつ、量も類似していると、類似度Rは閾値よりも高くなり、画像検索装置100は、両者は類似していると判定することが可能となる。
<動作例>
<1.特徴抽出処理>
図7は、画像検索装置100における特徴抽出処理の例を表すフローチャートである。
画像検索装置100は、特徴抽出処理により、画像データに基づいて、画像の特徴量を算出する。例えば、辞書登録モジュール110が、画像DB200から読み出したCT画像に対して、特徴抽出処理を行って特徴量を抽出する。また、例えば、検索モジュール130が、CT画像撮像装置300から出力されたクエリ画像に対して、特徴量抽出処理を行って特徴量を抽出する。ここでは、辞書登録モジュール110で行われる場合を例にして、図7を説明する。
辞書登録モジュール110は、特徴抽出処理を開始すると(S10)、CT画像を読み出して、CT画像から肺野領域を抽出する(S11)。例えば、辞書登録モジュール110は、CT画像の各画素におけるCT値(又は画像データ)と閾値とを比較して、図2(A)に示すCT画像に写っている、楕円形状となっている肺野領域を抽出する。この場合、辞書登録モジュール110は、スライス形状となっている、一人分の全CT画像に対して肺野領域を抽出してもよいし、一定枚数ごとに対象スライスのCT画像を選択して、その選択したCT画像の肺野領域を抽出してもよい。
この場合、辞書登録モジュール110は、例えば、内部メモリに肺の中枢と末梢に関する領域の3次元モデルに関するデータを保持し、CT画像の画像データと比較して、肺野領域のうち、左肺の中枢部分、左肺の末梢部分、右肺の中枢部分、右肺の末梢部分などと、各部分に分割することができる。
次に、辞書登録モジュール110は、CT画像に対して陰影識別を行う(S12)。例えば、辞書登録モジュール110は、CT画像を所定画素範囲毎に格子領域に分割し、格子領域毎に、正常な画像か、異常な画像かを識別する。辞書登録モジュール110は、例えば、SVM(Support Vector Machine)を用いて、正常か異常かを識別してもよい。
SVMは、例えば、教師あり学習を用いるパターン認識モデルの1つである。例えば、辞書登録モジュール110は、正常な格子の画像と、異常な格子の画像とを教師データとして、内部メモリに保持し、入力した格子状のCT画像について、教師データを用いて正常か否かを判定する。辞書登録モジュール110は、公知の手法によるSVMを用いて、正常か異常かを判定する。
なお、辞書登録モジュール110は、肺野領域抽出(S11)で抽出した肺野領域(又は肺野領域の左右の肺の中枢部分と末梢部分の領域)における格子領域の画像に対して正常か異常かを識別してもよい。
次に、辞書登録モジュール110は、肺野領域の分布特徴を抽出する(S13)。辞書登録モジュール110は、分布特徴として、ヒストグラムを作成(又は抽出)する。例えば、辞書登録モジュール110は、一人分のCT画像において、肺野領域(又は肺野領域の左右の肺の中枢部分と末梢部分の領域)における格子領域の画像に対して、異常と識別した格子領域の数を、特徴量とするヒストグラムを作成する。ヒストグラムの例としては、図2(B)や図3(A)などがある。
そして、辞書登録モジュール110は、特徴抽出処理を終了する(S14)。
辞書登録モジュール110は、作成したヒストグラムを、特徴量辞書DB120へ記憶する。
<2.検索処理>
図8は、検索処理の例を表すフローチャートである。
検索モジュール130は、処理を開始すると(S20)、クエリ画像をCT画像撮像装置300から入力する(S21)。
次に、検索モジュール130は、特徴抽出処理を行う(S10)。特徴抽出処理は、図7に示す特徴抽出処理である。検索モジュール130は、辞書登録モジュール110における特徴抽出処理と同一の処理を行い、クエリ画像に対して、ヒストグラムを作成する。
図8に戻り、次に、検索モジュール130は、照合処理を行う(S22)。
図9は、照合処理の例を表すフローチャートである。
検索モジュール130は、処理を開始すると(S220)、ヒストグラムh,hを入力する(S221)。例えば、検索モジュール130は、CT画像のヒストグラムhを、特徴量辞書DB120から読み出すことで、ヒストグラムhを入力し、特徴抽出処理(S10)により、クエリ画像のヒストグラムhを得る。
Figure 0007082287000014
Figure 0007082287000015
Figure 0007082287000016
Figure 0007082287000017
Figure 0007082287000018
Figure 0007082287000019
図10(A)は変換処理の例を表す図である。
Figure 0007082287000020
図10(A)に示すように、EMDの値がαのとき、(α,0)となる点を考える。この(α,0)と、(0,1)との線分と、(0,0.5)を中心にした半径1/2の円との交点を(β,γ)とする。
例えば、図10(B)に示すように、EMDが十分大きな値のとき、(α,0)は、図10(B)の横軸方向において原点から十分距離がある点となる。この場合、交点(β,r)の「γ」は、「γ1」となり、(0,1)に近い点となる。この(α,0)を更に十分大きな値となったとき、交点(β,γ)の「γ」は、ほぼ「1」となる。
一方、EMDが「0」に近いとき、交点(β,γ)の「γ」は、「γ2」となり、原点に近い点となる。すなわち、EMDがほぼ「0」になるとき、「γ」はほぼ「0」になる。
すなわち、EMDの値域[-1,1]に対して、交点(β,γ)の「γ」の値域は[1,0]となり得る。
例えば、図10(A)の横軸をx、縦軸をyとし、以下の連立方程式を、yについて解く。
Figure 0007082287000021
Figure 0007082287000022
連立方程式の解であるy、すなわち、γは、以下により得ることができる。
Figure 0007082287000023
例えば、検索モジュール130は、式(8)を内部メモリから読み出して、計算したEMD=αとして、式(8)に代入することで、値域が[1,0]であるγを得る。そして、検索モジュール130は、例えば、以下の式(9)を内部メモリから読み出して、γを式(9)に代入することで、値域が[-1,1]であるzを得る。
Figure 0007082287000024
Figure 0007082287000025
Figure 0007082287000026
そして、検索モジュール130は、以下の変換式を用いて、角度θを算出する(S224)。
Figure 0007082287000027
Figure 0007082287000028
なお、式(10)の右辺は、例えば、cos-1zとしてもよい。
角度θは、例えば、図4に示すように、2つのヒストグラムh,hにおける分布の類似度(例えばEMD)に基づいて算出した値を表している。
図9に戻り、次に、検索モジュール130は、2つのヒストグラムh,hを特徴空間に写像する(S225)。すなわち、検索モジュール130は、一方のヒストグラムhを特徴空間におけるある1点に写像し、それを基準にして、他方のヒストグラムhを特徴空間に写像する。
Figure 0007082287000029
Figure 0007082287000030
2点U,Vを極座標系からx,y座標系へ変換すると、
U=(|h|cos0,|h|sin0)=(|h|,0)
V=(|h|cosθ,|h|sinθ)
となる。
従って、2点U,V間の距離D(H,H)は、
Figure 0007082287000031
となる。
例えば、検索モジュール130は、式(11)を内部メモリから読み出して、ヒストグラムh,hの大きさ|h|,|h|を算出し、S224で算出した角度θと大きさ|h|,|h|とを式(10)に代入することで、距離D(H,H)を算出する。そして、検索モジュール130は、算出した距離D(H,H)の逆数を計算し、計算結果を類似度Rとする。この場合、検索モジュール130は、距離D(H,H)の逆数に比例する値を、類似度Rとしてもよい。
そして、検索モジュール130は、照合処理を終了する(S227)。
検索モジュール130は、照合処理(S22)において、例えば、以下の処理を行っている。すなわち、検索モジュール130は、CT画像の特徴量の分布とクエリ画像の特徴量の分布とを正規化し、正規化した第1及び第2の特徴量の分布に基づいて、CT画像の特徴量とクエリ画像の特徴量の分布の類似度を算出する(S221~S223)。検索モジュール130は、算出した分布の類似度を、CT画像の特徴量の分布に対応する第1のベクトルと、クエリ画像の特徴量の分布に対応する第2のベクトルとのなす角度θとする(S224)。また、検索モジュール130は、CT画像の特徴量を第1のベクトルの大きさ、クエリ画像の特徴量を第2のベクトルの大きさとする。そして、検索モジュール130は、第1のベクトルと第2のベクトルとの間の距離に基づいて類似度Rを算出する(S225~S226)。
以上、照合処理(S22)の例について説明した。
図8に戻り、次に、画像検索装置100は、検索結果を表示する(S23)。例えば、画像検索装置100は、以下の処理を行う。
すなわち、検索モジュール130は、クエリ画像のヒストグラムに対して、特徴量辞書DB120に登録された全CT画像のヒストグラムとの間で照合処理を行う。そして、検索モジュール130は、類似度Rに基づいて、全CT画像のヒストグラムの中から、クエリ画像のヒストグラムと類似しているヒストグラムを検索する。検索モジュール130は、類似度Rが高い順に、CT画像のヒストグラムをソートし、予め決められた個数のCT画像のヒストグラムを検索する。そして、検索モジュール130は、検索したヒストグラムに対応するCT画像のID、類似度RなどをUI140へ出力する。UI140は、検索結果として、類似度Rが高い順に、CT画像のIDなどを表示する。
そして、画像検索装置100は、検索処理を終了する(S24)。
上述したように、本第1の実施の形態における画像検索装置100では、類似度Rを用いて、画像検索を行っているため、画像検索の精度向上を図り、類似度の精度も向上させることができる。
この場合、例えば、びまん性肺疾患のCT画像のように、症例診断が難しいとされる画像検索においても、画像検索の精度向上を図ることができるため、画像検索装置100では、患者のCT画像(クエリ画像)に対して、びまん性肺疾患のCT画像を検索することも可能となる。よって、医師は、診断に時間をかけることなく、このような症例判断な困難な症例を検索することも可能となる。
[その他の実施の形態]
図11は、画像検索装置100のハードウェア構成例を表す図である。
画像検索装置100は、CPU(Central Processing Unit)160、IF(Interface)161、ROM(Read Only Memory)162、RAM(Random Access Memory)163、メモリ164、モニタ165、及びキーボード166を備える。
CPU160は、例えば、ROM162に記憶されたプログラムを読み出して、RAM163にロードし、ロードしたプログラムを実行することで、辞書登録モジュール110と検索モジュール130の機能を実現する。CPU160は、例えば、辞書登録モジュール110と検索モジュール130に対応する。
なお、CPU160に代えて、MPU(Micro Processing Unit)やDSP(Digital Signal Processor)、FPGA(Field Programmable Gate Array)などのプロセッサやコントローラなどが用いられてもよい。
IF161は、画像DB200からCT画像の画像データを入力し、入力した画像データをCPU160へ出力する。また、IF161は、CT画像撮像装置300からクエリ画像の画像データを入力し、入力した画像データをCPU160へ出力する。IF161は、例えば、辞書登録モジュール110と検索モジュール130に対応する。
メモリ164は、例えば、特徴量辞書DB120に対応する。また、モニタ165とキーボード166は、例えば、UI140に対応する。
上述した第1の実施の形態においては、分布の類似度Sの値域を[-1,1]へ変換後、角度θを算出する(図9のS224)際に、逆余弦関数を用いて角度θを算出する例について説明した。例えば、逆余弦関数に代えて、逆正弦関数(逆サイン関数)を用いてもよいし、値域が[-1,1]となっている値を角度θへ変換する他の関数を用いてよい。
以上まとめると、付記のようになる。
(付記1)
第1の画像から前記第1の画像に類似する第2の画像を検索する画像検索装置におけるコンピュータに実行させる画像検索プログラムであって、
前記第1の画像の画像データと前記第2の画像の画像データとに基づいて、前記第1の画像における第1の特徴量の分布と前記第2の画像における第2の特徴量の分布をそれぞれ抽出し、
前記第1の特徴量と前記第2の特徴量とを正規化し、正規化した前記第1の特徴量と正規化した前記第2の特徴量とに基づいて、前記第1の特徴量と前記第2の特徴量の分布の類似度を算出し、
前記分布の類似度を、前記第1の特徴量の分布に対応する第1のベクトルと前記第2の特徴量の分布に対応する第2のベクトルとのなす角度とし、前記第1の特徴量を前記第1のベクトルの大きさ、前記第2の特徴量を前記第2のベクトルの大きさとし、前記第1のベクトルと前記第2のベクトルとの間の距離に基づいて、類似度を算出し、
算出した前記類似度に基づいて、前記第1の画像から前記第2の画像を検索する
処理を前記コンピュータに実行させることを特徴とする画像検索プログラム。
(付記2)
前記第1の特徴量の分布に含まれる前記第1の特徴量に対して、該第1の特徴量の大きさを|h|、定数をCとすると、C/|h|を乗算することで、該第1の特徴量を正規化し、前記第2の特徴量の分布に含まれる前記第2の特徴量に対して、該第2の特徴量の大きさを|h|とすると、C/|h|を乗算することで、該第2の特徴量を正規化することを特徴とする付記1記載の画像検索プログラム。
(付記3)
正規化した前記第1の特徴量と正規化した前記第2の特徴量とに基づいて、EMD(Earth Mover’s Distance)を用いて、前記分布の類似度を算出することを特徴とする付記1記載の画像検索プログラム。
(付記4)
前記分布の類似度の値がαのとき、(α,0)と(0,1)とを結んだ線分と、中心が(0,0.5)の半径が1/2の円との交点を(β,γ)とすると、メモリから読み出した以下の式(12)に類似度の値αを代入することで、値γを算出し、メモリから読み出した以下の式(13)にγを代入することで、分布の類似度の値域が-1から1までの値zに変換し、値zに対して、メモリから読み出した式(14)に代入することで、前記第1のベクトルと前記第2のベクトルのなす角度θを算出することを特徴とする付記1記載の画像検索プログラム。
Figure 0007082287000032
Figure 0007082287000033
Figure 0007082287000034
(付記5)
前記第1の特徴量の分布に含まれる前記第1の特徴量の大きさを|h|、前記第2の特徴量の分布に含まれる前記第2の特徴量の大きさを|h|、前記第1のベクトルと前記第2のベクトルとのなす角度をθとすると、前記第1のベクトルを極座標(|h|,0)、前記第2のベクトルを極座標(|h|,θ)とし、極座標(|h|,0)と極座標(|h|,θ)との間の距離に基づいて、前記類似度を算出することを特徴とする付記1記載の画像検索プログラム。
(付記6)
極座標(|h|,0)と極座標(|h|,θ)との間の距離の逆数に比例する値を、前記類似度とすることを特徴とする付記5記載の画像検索プログラム。
(付記7)
前記類似度が高い順に複数の前記第2の画像を検索することを特徴とする付記1記載の画像検索プログラム。
(付記8)
前記第1及び第2の特徴量は、前記第1及び第2の画像において複数画素からなる格子領域に対して、異常陰影と判定した前記格子領域の数であることを特徴とする付記1記載の画像検索プログラム。
(付記9)
前記格子領域に対して、SVM(Support Vector Machine)を用いて、異常陰影か否かを判定することを特徴とする付記8記載の画像検索プログラム。
(付記10)
前記第1及び第2の画像は、人の肺の画像であり、前記特徴量は、肺の中枢部分の特徴量と末梢部分の特徴量を含むことを特徴とする付記1記載の画像検索プログラム。
(付記11)
前記第1及び第2の画像は、CT(Computed Tomography)画像であり、前記第1及び第2の画像データは、CT値で表されることを特徴とする付記1記載の画像検索プログラム。
(付記12)
第1の画像から前記第1の画像に類似する第2の画像を検索する画像検索装置において、
前記第1の画像の画像データに基づいて、前記第1の画像における第1の特徴量の分布を抽出する検索部と、
前記第2の画像の画像データに基づいて、前記第2の画像における第2の特徴量の分布を抽出する辞書登録部とを備え、
前記検索部は、
前記第1の特徴量と前記第2の特徴量とを正規化し、正規化した前記第1の特徴量と正規化した前記第2の特徴量とに基づいて、前記第1の特徴量と前記第2の特徴量の分布の類似度を算出し、
前記分布の類似度を、前記第1の特徴量の分布に対応する第1のベクトルと前記第2の特徴量の分布に対応する第2のベクトルとのなす角度とし、前記第1の特徴量を前記第1のベクトルの大きさ、前記第2の特徴量を前記第2のベクトルの大きさとし、前記第1のベクトルと前記第2のベクトルとの間の距離に基づいて、類似度を算出し、
算出した前記類似度に基づいて、前記第1の画像から前記第2の画像を検索する
ことを特徴とする画像検索装置。
(付記13)
第1の画像から前記第1の画像に類似する第2の画像を検索する画像検索装置における画像検索方法であって、
前記第1の画像の画像データと前記第2の画像の画像データとに基づいて、前記第1の画像における第1の特徴量の分布と前記第2の画像における第2の特徴量の分布をそれぞれ抽出し、
前記第1の特徴量と前記第2の特徴量とを正規化し、正規化した前記第1の特徴量と正規化した前記第2の特徴量とに基づいて、前記第1の特徴量と前記第2の特徴量の分布の類似度を算出し、
前記分布の類似度を、前記第1の特徴量の分布に対応する第1のベクトルと前記第2の特徴量の分布に対応する第2のベクトルとのなす角度とし、前記第1の特徴量を前記第1のベクトルの大きさ、前記第2の特徴量を前記第2のベクトルの大きさとし、前記第1のベクトルと前記第2のベクトルとの間の距離に基づいて、類似度を算出し、
算出した前記類似度に基づいて、前記第1の画像から前記第2の画像を検索する
ことを特徴とする画像検索方法。
10:画像検索システム 100:画像検索装置
110:辞書登録モジュール 120:特徴量辞書DB
130:検索モジュール 140:UI
160:CPU 200:画像DB
300:CT画像撮像装置

Claims (6)

  1. 第1の画像から前記第1の画像に類似する第2の画像を検索する画像検索装置におけるコンピュータに実行させる画像検索プログラムであって、
    前記第1の画像の画像データと前記第2の画像の画像データとに基づいて、前記第1の画像における第1の特徴量の分布と前記第2の画像における第2の特徴量の分布をそれぞれ抽出し、
    前記第1の特徴量と前記第2の特徴量とを正規化し、正規化した前記第1の特徴量と正規化した前記第2の特徴量とに基づいて、前記第1の特徴量と前記第2の特徴量の分布の類似度を算出し、
    前記分布の類似度を、前記第1の特徴量の分布に対応する第1のベクトルと前記第2の特徴量の分布に対応する第2のベクトルとのなす角度とし、前記第1の特徴量を前記第1のベクトルの大きさ、前記第2の特徴量を前記第2のベクトルの大きさとし、前記第1のベクトルと前記第2のベクトルとの間の距離に基づいて、類似度を算出し、
    算出した前記類似度に基づいて、前記第1の画像から前記第2の画像を検索する
    処理を前記コンピュータに実行させることを特徴とする画像検索プログラム。
  2. 前記分布の類似度の値がαのとき、(α,0)と(0,1)とを結んだ線分と、中心が(0,0.5)の半径が1/2の円との交点を(β,γ)とすると、メモリから読み出した以下の式(1)に類似度の値αを代入することで、値γを算出し、メモリから読み出した以下の式(2)にγを代入することで、分布の類似度の値域が-1から1までの値zに変換し、値zに対して、メモリから読み出した式(3)に代入することで、前記第1のベクトルと前記第2のベクトルのなす角度θを算出することを特徴とする請求項1記載の画像検索プログラム。
    Figure 0007082287000035
    Figure 0007082287000036
    Figure 0007082287000037
  3. 前記第1の特徴量の分布に含まれる前記第1の特徴量の大きさを|h|、前記第2の特徴量の分布に含まれる前記第2の特徴量の大きさを|h|、前記第1のベクトルと前記第2のベクトルとのなす角度をθとすると、前記第1のベクトルを極座標(|h|,0)、前記第2のベクトルを極座標(|h|,θ)とし、極座標(|h|,0)と極座標(|h|,θ)との間の距離に基づいて、前記類似度を算出することを特徴とする請求項1記載の画像検索プログラム。
  4. 前記第1及び第2の画像は、人の肺の画像であり、前記特徴量は、肺の中枢部分の特徴量と末梢部分の特徴量を含むことを特徴とする請求項1記載の画像検索プログラム。
  5. 第1の画像から前記第1の画像に類似する第2の画像を検索する画像検索装置において、
    前記第1の画像の画像データに基づいて、前記第1の画像における第1の特徴量の分布を抽出する検索部と、
    前記第2の画像の画像データに基づいて、前記第2の画像における第2の特徴量の分布を抽出する辞書登録部とを備え、
    前記検索部は、
    前記第1の特徴量と前記第2の特徴量とを正規化し、正規化した前記第1の特徴量と正規化した前記第2の特徴量とに基づいて、前記第1の特徴量と前記第2の特徴量の分布の類似度を算出し、
    前記分布の類似度を、前記第1の特徴量の分布に対応する第1のベクトルと前記第2の特徴量の分布に対応する第2のベクトルとのなす角度とし、前記第1の特徴量を前記第1のベクトルの大きさ、前記第2の特徴量を前記第2のベクトルの大きさとし、前記第1のベクトルと前記第2のベクトルとの間の距離に基づいて、類似度を算出し、
    算出した前記類似度に基づいて、前記第1の画像から前記第2の画像を検索する
    ことを特徴とする画像検索装置。
  6. 第1の画像から前記第1の画像に類似する第2の画像を検索する画像検索装置における画像検索方法であって、
    前記第1の画像の画像データと前記第2の画像の画像データとに基づいて、前記第1の画像における第1の特徴量の分布と前記第2の画像における第2の特徴量の分布をそれぞれ抽出し、
    前記第1の特徴量と前記第2の特徴量とを正規化し、正規化した前記第1の特徴量と正規化した前記第2の特徴量とに基づいて、前記第1の特徴量と前記第2の特徴量の分布の類似度を算出し、
    前記分布の類似度を、前記第1の特徴量の分布に対応する第1のベクトルと前記第2の特徴量の分布に対応する第2のベクトルとのなす角度とし、前記第1の特徴量を前記第1のベクトルの大きさ、前記第2の特徴量を前記第2のベクトルの大きさとし、前記第1のベクトルと前記第2のベクトルとの間の距離に基づいて、類似度を算出し、
    算出した前記類似度に基づいて、前記第1の画像から前記第2の画像を検索する
    ことを特徴とする画像検索方法。
JP2018192435A 2018-10-11 2018-10-11 画像検索プログラム、画像検索装置、及び画像検索方法 Active JP7082287B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018192435A JP7082287B2 (ja) 2018-10-11 2018-10-11 画像検索プログラム、画像検索装置、及び画像検索方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018192435A JP7082287B2 (ja) 2018-10-11 2018-10-11 画像検索プログラム、画像検索装置、及び画像検索方法

Publications (2)

Publication Number Publication Date
JP2020061000A JP2020061000A (ja) 2020-04-16
JP7082287B2 true JP7082287B2 (ja) 2022-06-08

Family

ID=70219029

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018192435A Active JP7082287B2 (ja) 2018-10-11 2018-10-11 画像検索プログラム、画像検索装置、及び画像検索方法

Country Status (1)

Country Link
JP (1) JP7082287B2 (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017215876A (ja) 2016-06-01 2017-12-07 富士通株式会社 類似画像検索プログラム、類似画像検索方法、及び類似画像検索装置
JP2018151791A (ja) 2017-03-10 2018-09-27 富士通株式会社 類似症例画像検索プログラム、類似症例画像検索装置及び類似症例画像検索方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1139332A (ja) * 1997-07-22 1999-02-12 Hitachi Ltd 画像検索方法およびその装置およびこれを利用した検索サービス
US20140343889A1 (en) * 2012-01-13 2014-11-20 Enhanced Surface Dynamics, Inc. System and methods for risk management analysis of a pressure sensing system
JP6314071B2 (ja) * 2014-10-07 2018-04-18 株式会社Nttドコモ 情報処理装置、情報処理方法及びプログラム
JP6656570B2 (ja) * 2015-07-13 2020-03-04 国立大学法人 筑波大学 クロスモーダル感覚分析システム、提示情報決定システム、情報提示システム、クロスモーダル感覚分析プログラム、提示情報決定プログラムおよび情報提示プログラム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017215876A (ja) 2016-06-01 2017-12-07 富士通株式会社 類似画像検索プログラム、類似画像検索方法、及び類似画像検索装置
JP2018151791A (ja) 2017-03-10 2018-09-27 富士通株式会社 類似症例画像検索プログラム、類似症例画像検索装置及び類似症例画像検索方法

Also Published As

Publication number Publication date
JP2020061000A (ja) 2020-04-16

Similar Documents

Publication Publication Date Title
US8218849B2 (en) Method and system for automatic landmark detection using discriminative joint context
US8867802B2 (en) Automatic organ localization
US20110188715A1 (en) Automatic Identification of Image Features
US8363918B2 (en) Method and system for anatomic landmark detection using constrained marginal space learning and geometric inference
EP2846310A2 (en) Method and apparatus for registering medical images
WO2022088581A1 (zh) 图像检测模型的训练方法及相关装置、设备、存储介质
CN109564773B (zh) 用于自动检测关键图像的系统和方法
JP2012155723A (ja) 三次元医療映像から最適の二次元医療映像を自動的に生成する方法及び装置
JP5982726B2 (ja) ボリュームデータ解析システム及びその方法
JP7467348B2 (ja) 医用画像データの表示
Xu et al. Quantifying the margin sharpness of lesions on radiological images for content‐based image retrieval
GB2577656A (en) Method and apparatus for generating a derived image using images of different types
WO2020106925A1 (en) Medical imaging based on calibrated post contrast timing
US20190392552A1 (en) Spine image registration method
Wang et al. Improved classifier for computer‐aided polyp detection in CT Colonography by nonlinear dimensionality reduction
JP5364009B2 (ja) 画像生成装置、画像生成方法、及びそのプログラム
JP2023516651A (ja) 訓練データにおける欠落したアノテーションに対処するためのクラス別損失関数
Li et al. Deformation and refined features based lesion detection on chest X-ray
JP7082287B2 (ja) 画像検索プログラム、画像検索装置、及び画像検索方法
Zeng et al. A 2.5 D deep learning-based method for drowning diagnosis using post-mortem computed tomography
Yang et al. 3D multi‐view squeeze‐and‐excitation convolutional neural network for lung nodule classification
Bergamasco et al. A new local feature extraction approach for content-based 3D medical model retrieval using shape descriptor
US11341661B2 (en) Method and apparatus for registering live medical image with anatomical model
US20210192717A1 (en) Systems and methods for identifying atheromatous plaques in medical images
Liu et al. Automatic localization of the fetal cerebellum on 3D ultrasound volumes

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210709

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220418

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220426

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220509

R150 Certificate of patent or registration of utility model

Ref document number: 7082287

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150