JP2016045662A - 類似画像検索装置、類似画像検索装置の作動方法、および類似画像検索プログラム - Google Patents

類似画像検索装置、類似画像検索装置の作動方法、および類似画像検索プログラム Download PDF

Info

Publication number
JP2016045662A
JP2016045662A JP2014168818A JP2014168818A JP2016045662A JP 2016045662 A JP2016045662 A JP 2016045662A JP 2014168818 A JP2014168818 A JP 2014168818A JP 2014168818 A JP2014168818 A JP 2014168818A JP 2016045662 A JP2016045662 A JP 2016045662A
Authority
JP
Japan
Prior art keywords
image
probability
search
similarity
coexistence
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014168818A
Other languages
English (en)
Other versions
JP6027065B2 (ja
Inventor
昭治 金田
Shoji Kaneda
昭治 金田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2014168818A priority Critical patent/JP6027065B2/ja
Priority to CN201510430487.1A priority patent/CN105389320B/zh
Priority to US14/807,892 priority patent/US9720938B2/en
Publication of JP2016045662A publication Critical patent/JP2016045662A/ja
Application granted granted Critical
Publication of JP6027065B2 publication Critical patent/JP6027065B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/51Indexing; Data structures therefor; Storage structures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/53Querying
    • G06F16/532Query formulation, e.g. graphical querying
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2413Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2415Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/03Recognition of patterns in medical or anatomical images

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Medical Informatics (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Quality & Reliability (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Library & Information Science (AREA)
  • Multimedia (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Probability & Statistics with Applications (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Processing Or Creating Images (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)
  • Medical Treatment And Welfare Office Work (AREA)

Abstract

【課題】信頼性が置け、人間の見た目の類似性と合致した納得感のある類似画像を検索することができる類似画像検索装置、類似画像検索装置の作動方法、および類似画像検索プログラムを提供する。【解決手段】特徴量算出部61は、検査画像19を解析して、病変のパターンに対応する特徴量Zxを算出する。確率算出部62は、計算式66を用いて、検査画像19内に病変のパターンが存在する確率である第1存在確率Pxを算出する。計算式66は、人間が視覚的に判断した学習用画像内の病変のパターンの有無と特徴量の関係に基づいて、統計的な手法により予め作成したものである。類似度算出部63は、第1存在確率Pxと、第1存在確率Pxと同様に統計的な手法により算出された、症例画像21内に病変のパターンが存在する確率である第2存在確率Pyとに基づいて、検査画像19と症例画像21の類似度Sを算出する。【選択図】図6

Description

本発明は、類似画像検索装置、類似画像検索装置の作動方法、および類似画像検索プログラムに関する。
従来、複数の事例画像の中から検索画像に類似する類似画像を検索する類似画像検索が行われている。類似画像検索では、画像内で人間が視覚的に注目する特定のパターンに対応する特徴量を、検索画像および事例画像についてそれぞれ算出し、算出した特徴量に基づいて検索画像と事例画像の類似性を判断している。
類似画像検索は、特に医療分野において大いに活用されている。具体的には、CT(Computed tomography)装置やMRI(Magnetic Resonance Imaging)装置、一般X線撮影装置等で患者を撮影した検査画像に映った病変を元に、医師が疾患の特定といった診断を行う際に、類似画像検索が利用される。
特許文献1には、類似画像検索を活用して、事例画像に相当する過去の複数の症例画像の中から、検索画像に相当する患者の診断に用いる検査画像の類似画像を検索して、検索した類似画像を医師に提供する類似画像検索装置が記載されている。
検査画像に映る病変には、すりガラス陰影や浸潤影、蜂窩肺等の複数の種類があり、1枚の検査画像に映る病変は必ずしも1種類とは限らない。病変が複数種類ある場合は病変毎の微妙な違いを医師が識別する必要があり、また、病気の進行により病変の種類も変化するため、検査画像の読影のみで何の手助けもなく医師が診断を下すためには、医師にある程度の経験が必要であった。そこで、特許文献1のように類似画像検索を活用することで、類似画像をヒントに検査画像の病変の種類を特定したりすることができ、経験の浅い医師でもより確度の高い診断が可能となる。
特許文献1の類似画像検索装置は、各種病変をパターンとして、検索画像である検査画像と事例画像である症例画像からそれぞれ特徴量を算出している。特徴量には、画素値の平均、分散、最大値、最小値、ヒストグラムといった画素値に関するもの、位置、輪郭といった形状に関するもの、半径、体積、面積といった大きさに関するもの等、複数の種類がある。
特許文献1の類似画像検索装置では、段落[0050]の[数1]に示すように、検査画像から算出した複数種類の特徴量Mi(i=1、2、・・・、n)と、症例画像から算出した複数種類の特徴量mi(i=1、2、・・・、n)の各々の差分|Mi−mi|をとり、各差分に適当な重み付け係数wi(i=1、2、・・・、n)を掛けたものの総和(Σwi|Mi−mi|)を、検査画像と症例画像の類似度として算出している。
こうして算出した類似度は、特徴量Mi、miをそれぞれ要素とする2つのn次元ベクトル(しばしば特徴ベクトルと呼ばれる)のn次元ベクトル空間における距離を表している。特徴量Mi、miの差分が小さい程(特徴量Mi、miをそれぞれ要素とする2つのn次元ベクトルの距離が近い程)類似度は小さくなり、検査画像と症例画像は類似性が高いと判断される。一方、特徴量Mi、miの差分が大きい程(特徴量Mi、miをそれぞれ要素とする2つのn次元ベクトルの距離が遠い程)類似度は大きくなり、検査画像と症例画像は類似性が低いと判断される。
特開2011−118543号公報
特許文献1の類似画像検索装置のように、特徴量に基づき検査画像と症例画像の類似度を算出した場合、類似度の信頼性は、特徴量の算出精度に左右されてしまっていた。また、特徴量は所詮数値であり、人間の見た目を完全に再現したものではないため、特徴量に基づき算出した類似度と人間の見た目に乖離が生じることがあった。特に特徴量が複数種類ある場合は、種類によってその算出精度も異なり、また、種類によって人間の見た目との乖離の程度も異なるので、類似度の信頼性がより左右されやすかった。
そのうえ、特許文献1の類似画像検索装置のように、特徴量に基づき検査画像と症例画像の類似度を算出した場合は、検査画像と症例画像の特徴量がともに大きい値でだいたい一致した場合と、検査画像と症例画像の特徴量がともに低い値でだいたい一致した場合とで、類似度が同等となってしまう。
一般的にあるパターンに対応する特徴量は、値が大きい程画像内でそのパターンの存在確率が高いことを示す。このため、検査画像の類似画像を得たいという類似画像検索の目的からすると、検査画像と症例画像の特徴量がともに低い値でだいたい一致した場合よりも、検査画像と症例画像の特徴量がともに大きい値でだいたい一致した場合の類似度を高くすべきである。しかしながら、特許文献1ではこの点を考慮していない。したがって、必ずしも納得感のある類似画像を検索することができなかった。
本発明は、上記課題に鑑みてなされたもので、信頼性が置け、人間の見た目の類似性と合致した納得感のある類似画像を検索することができる類似画像検索装置、類似画像検索装置の作動方法、および類似画像検索プログラムを提供することを目的とする。
上記目的を達成するために、本発明の類似画像検索装置は、複数の事例画像の中から検索画像に類似する類似画像を検索する類似画像検索装置において、検索画像を解析して、予め登録されたパターンに対応する特徴量を算出する特徴量算出部と、特徴量算出部で算出した特徴量に基づいて、検索画像内にパターンが存在する第1存在確率を統計的な手法により算出する確率算出部と、確率算出部で算出した第1存在確率と、複数の事例画像について算出された、事例画像内にパターンが存在する第2存在確率とに基づいて、検索画像と複数の事例画像のそれぞれとの類似度を算出する類似度算出部とを備える。
確率算出部は、人間が視覚的に判断した学習用画像内のパターンの有無と特徴量の関係に基づいて、統計的な手法により予め作成した、特徴量を変数として第1存在確率を求める計算式を用いることが好ましい。
類似度算出部は、第1存在確率および第2存在確率に基づいて、パターンが事例画像および検索画像の両方に存在する併存確率、またはパターンが事例画像および検索画像のうちの一方にのみ独立して存在する非併存確率のうちの少なくとも1つを算出することが好ましい。
類似度算出部は、例えば、併存確率、または非併存確率を類似度として算出し、併存確率が高いほど事例画像と検索画像の類似性が高いと判断、または非併存確率が高いほど事例画像と検索画像の類似性が低いと判断する。
類似度算出部は、例えば、併存確率と非併存確率の比を類似度として算出し、比が高いほど事例画像と検索画像の類似性が高いと判断する。
パターンが複数種類ある場合、類似度算出部は、複数種類のパターンの各々の併存確率、または非併存確率を算出し、算出した併存確率の総乗または併存確率の対数の総和、もしくは非併存確率の総乗または非併存確率の対数の総和を類似度として算出し、併存確率の総乗または併存確率の対数の総和が高いほど事例画像と検索画像の類似性が高いと判断、または非併存確率の総乗または非併存確率の対数の総和が高いほど事例画像と検索画像の類似性が低いと判断してもよい。
また、パターンが複数種類ある場合、類似度算出部は、複数種類のパターンの各々の併存確率と非併存確率の比を算出し、算出した比の総乗または比の対数の総和を類似度として算出し、比の総乗または比の対数の総和が高いほど事例画像と検索画像の類似性が高いと判断してもよい。
第1存在確率をPx、第2存在確率をPy、併存確率をPxyとした場合、Pxy=Px×Pyであることが好ましい。
第1存在確率をPx、第2存在確率をPy、非併存確率をNPxyとした場合、NPxy=Px×(1−Py)+(1−Px)×Pyであることが好ましい。
第1存在確率をPx、第2存在確率をPy、Px、Pyのうちの最小値をmin(Px、Py)、併存確率をPxyとした場合、Pxy=Px×min(Px、Py)であってもよい。
第1存在確率をPx、第2存在確率をPy、Px、Pyのうちの最小値をmin(Px、Py)、Px、Pyのうちの最大値をmax(Px、Py)、非併存確率をNPxyとした場合、Px>0.5の場合、NPxy=Px×{1−min(Px、Py)}+(1−Px)×Py、Px≦0.5の場合、NPxy=Px×(1−Py)+(1−Px)×max(Px、Py)であってもよい。
第2存在確率の除外範囲と第2存在確率とを比較し、第2存在確率が除外範囲である事例画像を、類似度算出部で類似度を算出する候補から除外するフィルター処理部を備えることが好ましい。フィルター処理部は、第1存在確率を変数とする、第1存在確率と第2存在確率の関係式から除外範囲を算出することが好ましい。
特徴量算出部は、例えば、検索画像の一部の領域の特徴量を算出する。
特徴量算出部は、事例画像の特徴量も算出してもよい。また、確率算出部は、第2存在確率も算出してもよい。
類似画像の検索結果として、類似画像と類似度の組を出力する検索結果出力部を備えることが好ましい。検索結果出力部は、複数の類似画像と類似度の組を類似度順にソートしたリストを出力してもよい。
例えば、検索画像は患者の診断に用いる検査画像であり、事例画像は過去に診断に利用された検査画像である症例画像であり、パターンは患者の疾患の症状を表す病変のパターンである。
本発明の類似画像検索装置の作動方法は、複数の事例画像の中から検索画像に類似する類似画像を検索する類似画像検索装置の作動方法において、特徴量算出部により、検索画像を解析して、予め登録されたパターンに対応する特徴量を算出する特徴量算出ステップと、確率算出部により、特徴量算出ステップで算出した特徴量に基づいて、検索画像内にパターンが存在する第1存在確率を統計的な手法により算出する確率算出ステップと、類似度算出部により、確率算出ステップで算出した第1存在確率と、複数の事例画像について算出された、事例画像内にパターンが存在する第2存在確率とに基づいて、検索画像と複数の事例画像のそれぞれとの類似度を算出する類似度算出ステップとを備える。
本発明の類似画像検索プログラムは、複数の事例画像の中から検索画像に類似する類似画像を検索する類似画像検索プログラムにおいて、検索画像を解析して、予め登録されたパターンに対応する特徴量を算出する特徴量算出機能と、特徴量算出機能で算出した特徴量に基づいて、検索画像内にパターンが存在する第1存在確率を統計的な手法により算出する確率算出機能と、確率算出機能で算出した第1存在確率と、複数の事例画像について算出された、事例画像内にパターンが存在する第2存在確率とに基づいて、検索画像と複数の事例画像のそれぞれとの類似度を算出する類似度算出機能とを、コンピュータに実行させる。
本発明によれば、検索画像を解析して算出した、予め登録されたパターンに対応する特徴量に基づいて、検索画像内にパターンが存在する第1存在確率を統計的な手法により算出し、この第1存在確率と、事例画像内にパターンが存在する第2存在確率とに基づいて、検索画像と複数の事例画像のそれぞれとの類似度を算出するので、類似度の信頼性が特徴量の算出精度に左右されることがなく、また、類似度と人間の見た目に乖離が生じることもない。さらに、検索画像と事例画像の特徴量がともに大きい値でだいたい一致した場合と、検索画像と事例画像の特徴量がともに低い値でだいたい一致した場合とで、類似度が同等となってしまうこともない。したがって、信頼性が置け、人間の見た目の類似性と合致した納得感のある類似画像を検索することができる類似画像検索装置、類似画像検索装置の作動方法、および類似画像検索プログラムを提供することができる。
類似画像検索サーバを含む医療情報システムを示す構成図である。 医療検査から確定診断に至るまでの流れを示す説明図である。 類似画像の取得要求の内容を示す図である。 検査画像を表示して関心領域ROIの指定を受け付ける検査画像表示ウィンドウを示す図である。 類似画像検索サーバを構成するコンピュータを示すブロック図である。 類似画像検索サーバのCPUの機能を示すブロック図である。 特徴量算出部の詳細な構成および機能を示すブロック図である。 特徴量と病変のパターンの対応関係を示す図である。 第1存在確率Pxを計算するための計算式の作成方法を示す説明図である。 特徴量Zと第1存在確率Pの関係を示すグラフである。 類似度算出部の構成および機能を示すブロック図である。 類似度算出部の詳細な構成および機能を示すブロック図である。 リストの内容を示す図である。 類似画像の検索結果を表示する検索結果表示ウィンドウを示す図である。 類似画像検索サーバのCPUの処理手順を示すフローチャートである。 類似度算出の処理手順を示すフローチャートである。 式(2−A)を用いた場合の併存確率Pxyの算出結果を示す説明図である。 式(2−B)を用いた場合の併存確率Pxyの算出結果を示す説明図である。 式(3−A)を用いた場合の非併存確率NPxyの算出結果を示す説明図である。 式(3−B)を用いた場合の非併存確率NPxyの算出結果を示す説明図である。 式(3−A)を用いた場合の非併存確率NPxyの算出結果を示す説明図である。 式(3−C)を用いた場合の非併存確率NPxyの算出結果を示す説明図である。 フィルター処理部が構築された第3実施形態の類似画像検索サーバのCPUの機能を示すブロック図である。
[第1実施形態]
図1において、医療情報システム2は、診療科10や検査科11を有する病院等の医療施設に構築され、診療科10に設置された診療科端末12と、検査科11に設置されたモダリティ13およびオーダ管理端末14と、検査画像データベース(以下、DB(Data Base)と略す)サーバ15と、症例画像DBサーバ16と、類似画像検索サーバ17とで構成される。これらは医療施設内に敷設されたLAN(Local Area Network)等のネットワーク18を介して相互接続されている。
診療科端末12は、診療科10の医師による電子カルテの入力や閲覧の他、医師が検査科11に対して各種医療検査を依頼するための検査オーダの発行に利用される。また、診療科端末12は、モダリティ13で撮影された検査画像19や、類似画像検索サーバ17で検索された類似画像を閲覧するための画像表示端末としても機能する。
モダリティ13は、検査画像19として断層画像を撮影するCT装置やMRI装置、検査画像19として単純X線透視画像を撮影する一般X線撮影装置等の検査画像19の撮影装置である。オーダ管理端末14は、診療科端末12で発行された検査オーダを受け付けて、受け付けた検査オーダを管理する。検査オーダは、例えば、個々の検査オーダを識別するためのオーダID(Identification data)、当該検査オーダを発行した診療科端末12のIDまたは医師の医師ID、当該検査オーダによる撮影の対象の患者の患者ID、経過観察等の検査目的、頭部、胸部等の撮影部位、仰向け、うつ伏せ等の向きといった各種項目を有する。検査科11の技師は、オーダ管理端末14で検査オーダの内容を確認し、確認した検査オーダに応じた撮影条件をモダリティ13に設定して検査画像19の撮影を行う。
モダリティ13で検査画像19の撮影を行う場合には、撮影の対象の患者の患者ID、撮影を担当する技師の技師IDといった情報が技師により入力される。入力された情報は、検査画像19に付帯情報として関連付けられる。
検査画像19は、例えばDICOM(Digital Imaging and Communications in Medicine)規格のデータファイル形式で作成される。DICOM規格のデータファイルには、検査画像19本体のデータを格納する領域の他に、付帯情報を格納する領域が設けられている。付帯情報には、患者ID、患者名、患者の性別、年齢、身長、体重といった患者情報や、オーダID、医師ID、検査日時、検査目的、撮影部位および向き、撮影条件、技師ID、医療検査の種類(CT、MRI等のモダリティ13の種類)といった検査情報、並びに個々の検査画像19を識別するための画像IDが含まれる。画像IDは、検査画像19の撮影時にモダリティ13により自動的に付される。モダリティ13は、検査画像19を検査画像DBサーバ15に送信する。
検査画像DBサーバ15は、いわゆるPACS(Picture Archiving and Communication System)サーバであり、モダリティ13からの検査画像19を複数格納する検査画像DB20を有する。検査画像DBサーバ15は、診療科端末12からの検査画像19の取得要求を受け付け、取得要求に対応した検査画像19を検査画像DB20から検索する。そして、検索した検査画像19を、取得要求を送信した診療科端末12に送信する。取得要求は検査画像19の付帯情報の各種項目、例えばオーダIDや画像IDを含み、検査画像DBサーバ15は取得要求のオーダIDや画像IDに一致する検査画像19を検索結果として出力する。
症例画像DBサーバ16は、検査画像DBサーバ15と同じPACSサーバであり、症例画像21を複数格納する症例画像DB22を有する。症例画像21は、過去に診断に利用された検査画像19であり、事例画像に相当する。症例画像DBサーバ16も検査画像DBサーバ15と同様に、類似画像検索サーバ17からの症例画像21の取得要求を受け付け、取得要求に対応した症例画像21を症例画像DB22から検索して、検索した症例画像21を類似画像検索サーバ17に送信する。
症例画像21には、検査画像19と同様の付帯情報に加えて、過去の診断において指定された関心領域ROI(Region of Interest、図4参照)の情報である領域情報25(図3参照)、症例画像21を読影して作成した読影レポートのレポートID、および過去の診断において算出された、疾患の症状を現す病変のパターンが症例画像21内に存在する確率である第2存在確率Py(図6参照)が付帯情報として関連付けられている。読影レポートは、図示しないレポートDBサーバのレポートDBに格納されている。レポートDBサーバは、各DBサーバ15、16と同様に、診療科端末12等からの取得要求に対応した読影レポートを検索して送信することが可能である。領域情報25および第2存在確率Pyは、類似画像検索サーバ17で検査画像19と症例画像21の類似度Sを算出し、その結果を出力する際に利用される。以下、第2存在確率Pyのように、症例画像21に関するものには添え字「y」を付ける。
類似画像検索サーバ17は本発明の類似画像検索装置に相当する。類似画像検索サーバ17は、診療科端末12からの類似画像の取得要求を受け付ける。取得要求には検査画像19が含まれる。類似画像検索サーバ17は、受け付けた検査画像19に類似する類似画像を、症例画像DB22に格納された複数の症例画像21の中から検索する。すなわち検査画像19は検索画像に相当する。類似画像検索サーバ17は、類似画像の検索結果を診療科端末12に送信する。
図2において、モダリティ13による撮影が終了して検査画像19が検査画像DB20に格納されると、ステップS1に示すように、オーダ管理端末14は、検査オーダを発行した診療科端末12に検査終了通知を発行する。検査終了通知には、検査画像19の画像IDやオーダIDが付されている。
医師は、診療科端末12を通じて検査終了通知を確認し、検査終了通知に付された画像IDやオーダIDを含む検査画像19の取得要求を、診療科端末12を通じて検査画像DBサーバ15に送信する(ステップS2)。この取得要求に応じて検査画像DBサーバ15から診療科端末12に検査画像19が送信される(ステップS3)。
医師は、診療科端末12を通じて検査画像DBサーバ15からの検査画像19を閲覧する。患者が何らかの疾患に罹っている場合、検査画像19には疾患の症状を現す病変が映っている。医師は、病変が映っている検査画像19の類似画像を取得するために、診療科端末12を通じて、病変が映っている検査画像19を含む類似画像の取得要求を類似画像検索サーバ17に送信する(ステップS4)。
類似画像の取得要求を受け付けた場合、類似画像検索サーバ17は、症例画像21の取得要求を症例画像DBサーバ16に送信する(ステップS5)。この取得要求に応じて症例画像DBサーバ16から類似画像検索サーバ17に症例画像21が送信される(ステップS6)。類似画像検索サーバ17は、症例画像21の中から検査画像19に類似する類似画像を検索し、その検索結果を診療科端末12に送信する(ステップS7)。
医師は、診療科端末12を通じて、類似画像検索サーバ17からの類似画像の検索結果を閲覧する。また、必要に応じて、類似画像に関連付けられた読影レポートをレポートDBサーバから受け取り、診療科端末12を通じて読影レポートを閲覧する。医師は、類似画像の検索結果、読影レポート、自らの経験等に基づき、患者の疾患を特定する確定診断を下す(ステップS8)。
図3において、診療科端末12から類似画像検索サーバ17に送信される類似画像の取得要求には、検索画像としての検査画像19の他に、医師により指定される検査画像19の関心領域ROIの情報(以下、領域情報という)25が添付される。領域情報25は、例えば、検査画像19を構成する画素の位置を二次元座標で表現した座標情報であり、類似画像検索サーバ17で病変のパターンに対応する特徴量Zx(図6参照)を算出する際に利用される。以下、特徴量Zxのように、検査画像19に関するものには添え字「x」を付け、添え字「y」を付けた症例画像21に関するものと区別する。また、検査画像19および症例画像21の両方に関するものには添え字「xy」を付ける。
医師による関心領域ROIの指定は、例えば図4に示す検査画像表示ウィンドウ30によって行われる。検査画像表示ウィンドウ30は、検査画像DBサーバ15からの検査画像19を医師が閲覧するためのもので、診療科端末12のディスプレイに表示される。
検査画像表示ウィンドウ30には、検査終了通知に付された画像IDやオーダIDを入力するための入力ボックス31、検査画像DBサーバ15からの検査画像19を表示する画像表示領域32、およびボタン群33等が設けられている。
入力ボックス31の横には検索ボタン34が設けられている。入力ボックス31に所望の画像IDやオーダIDを入力して検索ボタン34をカーソル35で選択すると、検査画像19の取得要求が検査画像DBサーバ15に送信される。画像表示領域32には、取得要求に対応する検査画像19と画像IDが表示される。画像表示領域32は、例えばスクロール操作やコマ送り操作により、検査画像19の表示を切り替えることが可能である。
ボタン群33は、領域指定ボタン36、指定クリアボタン37、および類似画像検索ボタン38を有する。領域指定ボタン36は関心領域ROIを指定するための操作ボタンであり、指定クリアボタン37は指定した関心領域ROIを取り消すための操作ボタンである。領域指定ボタン36をカーソル35で選択すると、検査画像19の任意の領域を指定する領域指定操作が可能となる。領域指定操作は、例えば、カーソル35により検査画像19内の病変を含む領域の外周を囲むように複数の制御点を指定することで行われる。この複数の制御点を通る滑らかな曲線を描くスプライン(一点鎖線で示す)の内側が、関心領域ROIとして指定される。
スプラインによる関心領域ROIの指定後、類似画像検索ボタン38をカーソル35で選択すると、そのとき画像表示領域32に表示されている検索画像19と、スプラインで指定された関心領域ROIの情報、すなわち領域情報25とが、類似画像の取得要求として類似画像検索サーバ17に送信される。
図5において、類似画像検索サーバ17を構成するコンピュータは、ストレージデバイス45、メモリ46、CPU(Central Processing Unit)47、通信部48、ディスプレイ49、および入力デバイス50を備えている。これらはデータバス51を介して相互接続されている。
ストレージデバイス45は、類似画像検索サーバ17を構成するコンピュータに内蔵、またはケーブルやネットワークを通じて接続されたハードディスクドライブ、もしくはハードディスクドライブを複数台連装したディスクアレイである。ストレージデバイス45には、オペレーティングシステム等の制御プログラムや、類似画像検索プログラム52を含む各種アプリケーションプログラム、およびこれらのプログラムに付随する各種操作画面の表示データ等が記憶されている。類似画像検索プログラム52は、類似画像検索サーバ17を構成するコンピュータを、類似画像検索装置として機能させるためのプログラムである。
メモリ46は、CPU47が処理を実行するためのワークメモリである。CPU47は、ストレージデバイス45に記憶されたプログラムをメモリ46へロードして、プログラムにしたがった処理を実行することにより、コンピュータの各部を統括的に制御する。
通信部48は、ネットワーク18を介した診療科端末12等との各種情報の伝送制御を行うネットワークインターフェースである。通信部48は、症例画像DBサーバ16から症例画像21を、診療科端末12から類似画像の取得要求をそれぞれ受信し、症例画像DBサーバ16に症例画像21の取得要求を、診療科端末12に類似画像の検索結果をそれぞれ送信する。
ディスプレイ49は、マウスやキーボード等の入力デバイス50の操作に応じた各種操作画面を表示する。操作画面にはGUI(Graphical User Interface)が配される。類似画像検索サーバ17はこのGUIを通じて入力デバイス50からの操作指示の入力を受け付ける。
図6において、CPU47は、類似画像検索プログラム52を起動すると、メモリ46と協働して、要求受付部60、特徴量算出部61、確率算出部62、類似度算出部63、検索結果出力部64、および出力制御部65として機能する。
要求受付部60は、診療科端末12から送信されて通信部48で受信した類似画像の取得要求を受け付ける要求受付機能を担う。要求受付部60は、受け付けた類似画像の取得要求の検査画像19および領域情報25をストレージデバイス45に記憶する。
特徴量算出部61は、検査画像19を解析して、特徴量Zxを算出する特徴量算出機能を担う。特徴量算出部61は、ストレージデバイス45から検査画像19および領域情報25を読み出し、領域情報25に基づいて検査画像19に指定された関心領域ROIを特定する。そして、特定した関心領域ROIの特徴量Zxを算出する。特徴量算出部61は、算出した特徴量Zxを確率算出部62に出力する。
確率算出部62は、特徴量算出部61からの特徴量Zxに基づいて、第1存在確率Pxを算出する確率算出機能を担う。第1存在確率Pxは、検査画像19の関心領域ROI内に病変のパターンが存在する確率である。確率算出部62は、計算式66を用いて第1存在確率Pxの算出を行う。確率算出部62は、算出した第1存在確率Pxを類似度算出部63に出力する。
ここで、特徴量算出部61で算出する特徴量Zxも、後述するように検査画像19の関心領域ROIに病変のパターンが存在する度合いを示すという意味では、検査画像19の関心領域ROI内に病変のパターンが存在する確率である第1存在確率Pxと類似する。しかしながら、特徴量Zxは、パターンマッチングに基づく検査画像19の画像解析により算出されるもので、医師等の人間が実際に目で見た病変のパターンの有無の判断を反映させたものではない。対して第1存在確率Pxは、人間の視覚の印象に基づく統計的な手法により算出されるものであり、この点で特徴量Zxと第1存在確率Pxは本質的に異なる。
具体的には、第1存在確率Pxを算出する計算式66は、人間が視覚的に判断した学習用画像内の病変のパターンの有無と学習用画像の特徴量Zの関係に基づいて、統計的な手法により予め作成されるもので、特徴量Zxを変数とする。このため、第1存在確率Pxは、検査画像19の画像解析の結果である特徴量Zxの値に対して、その値を有する検査画像19を実際に人間が見た場合にどの位の頻度で病変のパターンがある、あるいはないと判断するかを示すもので、特徴量Zxと違って人間が実際に目で見た病変のパターンの有無の判断が反映されている。
類似度算出部63は、検査画像19と、症例画像DB22に格納された全症例画像21のそれぞれとの類似度Sを算出する類似度算出機能を担う。類似度算出部63は、確率算出部62からの第1存在確率Pxと、症例画像21に付された第2存在確率Pyとに基づいて、類似度Sの算出を行う。類似度算出部63は、算出した類似度Sを検索結果出力部64に出力する。
検索結果出力部64は、類似画像と類似度Sの組を検索結果として出力する検索結果出力機能を担う。より具体的には、検索結果出力部64は、類似画像と類似度Sの組を類似度S順にソートしたリスト67(図13も参照)を類似画像の検索結果として出力する。
出力制御部65は、検索結果出力部64からリスト67を受け取る。出力制御部65は、受け取ったリスト67に基づいて、検索結果表示ウィンドウ68(図14も参照)を作成する。検索結果表示ウィンドウ68は、例えば、XML(Extensible Markup Language)等のマークアップ言語によって作成されるWEB配信用のXMLデータである。出力制御部65は、作成した検索結果表示ウィンドウ68を、類似画像の取得要求をした診療科端末12の情報(例えば診療科端末12のIP(Internet Protocol)アドレスの情報)とともに通信部48に出力する。通信部48は、類似画像の取得要求をした診療科端末12に検索結果表示ウィンドウ68を送信する。
図7において、特徴量算出部61は、検査画像19の関心領域ROIについて、計8種類の第1特徴量ZxA、第2特徴量ZxB、第3特徴量ZxC、第4特徴量ZxD、第5特徴量ZxE、第6特徴量ZxF、第7特徴量ZxG、第8特徴量ZxHをそれぞれ算出する第1特徴量算出器61A、第2特徴量算出器61B、第3特徴量算出器61C、第4特徴量算出器61D、第5特徴量算出器61E、第6特徴量算出器61F、第7特徴量算出器61G、第8特徴量算出器61Hを有する。「−0.21」や「+5.63」等の数値で例示するように、各特徴量ZxA〜ZxHは、正負いずれの値もとり得る。これら8種類の各特徴量ZxA〜ZxHを要素とする8次元ベクトルは、特徴ベクトルと呼ばれる。以下、各特徴量算出器61A〜61Hのように、第1特徴量ZxAに関するものには「A」、第2特徴量ZxBに関するものには「B」等と、各特徴量ZxA〜ZxHに関するものに、対応するアルファベットの添え字「A」〜「H」を付けて区別する。
図8において、各特徴量ZxA〜ZxHは、予め登録された典型的な複数種類の病変のパターンに対応する。具体的には、第1特徴量ZxAは低呼吸域の異常影(気腫、気胸、ブラ等)、第2特徴量ZxBは空洞、第3特徴量ZxCは気管支の異常影(気管支壁肥厚、気管支拡張、牽引性気管支拡張、気管支透亮像等)、第4特徴量ZxDは蜂窩肺、第5特徴量ZxEはすりガラス状陰影、第6特徴量ZxFは点状影(粒状影、TIB(Tree-in-Bud)等)、第7特徴量ZxGは高吸収域の異常影(コンソリデーション、ノジュール、気管支粘液腺等)、第8特徴量ZxHは線状・網状影の各種病変のパターンにそれぞれ対応する。
各特徴量ZxA〜ZxHは、対応する各種病変のパターンらしさを表すもので、関心領域ROIに病変のパターンが存在する度合いを表す値である。そのため、各特徴量ZxA〜ZxHが大きいほど、関心領域ROIに対応する病変のパターンが存在する度合いが高いことを示し、各特徴量ZxA〜ZxHが小さいほど、関心領域ROIに対応する病変のパターンが存在する度合いが低いことを示す。さらにいえば、各特徴量ZxA〜ZxHが正の値である場合、対応する病変のパターンが関心領域ROIに高い確率で存在することを示し、負の値である場合、対応する病変のパターンが高い確率で関心領域ROIに存在しないことを示す。そして、正の値でかつその値が大きいほど、対応する病変のパターンが関心領域ROIに存在する度合いが高いことを示す。
ただし、前述したように、特徴量Zxは、人間が実際に目で見た病変のパターンの有無の判断を反映させたものではないので、特徴量Zxが正の値である場合に病変のパターンが関心領域ROIに実際に存在しているとは限らず、同様に特徴量Zxが負の値である場合に病変のパターンが関心領域ROIに実際に存在していないとも限らない。
図7の例では、空洞のパターンに対応する第2特徴量ZxBと、高吸収域の異常影のパターンに対応する第7特徴量ZxGとが正の値を示し、その他の各特徴量ZxA、ZxC〜ZxF、ZxHは負の値を示している。そして、第2特徴量ZxBが「+5.63」と、第7特徴量ZxGの「+0.80」よりも大きい値であるため、関心領域ROIには空洞と高吸収域の異常影が存在し、中でも空洞が支配的であることが分かる。
各特徴量算出器61A〜61Hは、例えば、「資料名:Computer Vision and Image Understanding 88巻119頁〜151頁,発行年2002年12月 Using Human Perceptual Categories for Content-Based Retrieval from a Medical Image Database 著者 Chi-Ren Shyu, Christina Pavlopoulou Avinash C.kak,and Cala E.Brodley」等に記載されているような周知の特徴量を用いて、「AdaBoost(Adaptive Boosting)」等の機械学習アルゴリズムにより作成することができる。
なお、本実施形態では8種類の病変のパターンに対応する8種類の特徴量ZxA〜ZxHを例示しているが、特徴量Zxは8種類より少なくても多くてもよい。さらに言えば特徴量Zxは1つでもよい。また、1つの病変のパターンに対応する特徴量Zxを1つとしたが、1つの病変のパターンに対応する特徴量Zxを複数としてもよい。
図9において、確率算出部62が第1存在確率Pxの算出に用いる計算式66は、視覚判断データ75に基づいて作成される。視覚判断データ75はストレージデバイス45に記憶されている。視覚判断データ75は、複数の学習用画像1、2、・・・について、学習用画像内に病変のパターンが存在するか否かを、医師等の人間が視覚的に判断した結果であるパターンの有無と、特徴量算出部61で学習用画像の関心領域ROIに対して算出した特徴量Zとを、病変のパターン毎に記憶したものである。視覚判断データ75は、例えば、診療科端末12を通じて定期的に学習用画像として症例画像21を医師に閲覧させ、医師に自らが判断したパターンの有無を入力させることで作成される。パターンの有無を判断する医師としては、例えば、検査画像19の遠隔読影の依頼を受ける読影センターの読影医等、他の医療施設の医師であってもよい。なお、図9では、病変のパターンとしてすりガラス状陰影と点状影を例示し、他の病変のパターンはスペースの制約上省略している。
特徴量Zが同じ値の複数の学習用画像のパターンの有無を医師に判断させた場合、特徴量Zは前述のように人間が実際に目で見た病変のパターンの有無の判断を反映させたものではないため、特徴量Zが同じ値でも、病変のパターンありと判断する場合と、なしと判断する場合とがある。この複数の学習用画像に対して、医師が病変のパターンありと判断した学習用画像の占める割合が、その特徴量Zに関する第1存在確率Pとなる。例えば特徴量Zが同じ値の複数の学習用画像が100枚で、100枚全てに病変のパターンありと判断した場合は、第1存在確率P=1(100%)、100枚のうちの50枚に病変のパターンありと判断した場合は第1存在確率P=0.5(50%)、100枚全てに病変のパターンなしと判断した場合は第1存在確率P=0(0%)である。
こうした医師の判断結果に基づき各特徴量Zに対する第1存在確率Pを求め、その結果を、特徴量Zを横軸、第1存在確率Pを縦軸とするグラフにプロットすると、例えば図10に示すように、特徴量Zと第1存在確率Pの関係は略S字の曲線Cとなる。この曲線Cはロジスティック曲線と呼ばれ、特徴量Zと第1存在確率Pの関係はロジスティック関数と呼ばれる特徴量Zを変数とする式(P=1/{1+exp(−A0−A1×Z)})で表すことができる。つまり第1存在確率Pおよび特徴量Zは、統計学でいうところの目的変数および説明変数にそれぞれ該当する。ここでA0、A1は係数であり、これらの係数をロジスティック回帰分析で求めることで、計算式66を得ることができる。
具体的には、計算式66は次式(1−A)で表せる。
Px=1/{1+exp(−A0−A1×Zx)}・・・(1−A)
A0、A1は前述のようにロジスティック回帰分析で求める。計算式66は、病変のパターン毎に作成される。図9では、すりガラス状陰影のパターンが検査画像19の関心領域ROIに存在する第1存在確率PxEを算出するための計算式66E(PxE=1/{1+exp(−AE0−AE1×ZxE)})、および点状影のパターンが検査画像19の関心領域ROIに存在する第1存在確率PxFを算出するための計算式66F(PxF=1/{1+exp(−AF0−AF1×ZxF)})を例示し、他の病変のパターン用の計算式66は図示を省略している。
例えばAE0=0.038、AE1=2.08で、第5特徴量ZxEが+1.31であった場合、すりガラス状陰影のパターンが検査画像19の関心領域ROIに存在する第1存在確率PxEは、
PxE=1/{1+exp(−0.038−2.08×1.31)}≒0.94
となる。また、AF0=0.102、AF1=3.21で、第6特徴量ZxFが−1.16であった場合、点状影のパターンが検査画像19の関心領域ROIに存在する第1存在確率PxFは、
PxF=1/{1+exp(−0.102+3.21×1.16)}≒0.03
となる。確率算出部62は、このように計算式66を用いて各種病変のパターンの第1存在確率PxA〜PxHを算出する。
なお、特徴量Zと第1存在確率Pの関係が略直線であった場合は、ロジスティック回帰分析のような非線形回帰分析ではなく、線形回帰分析を用いて計算式66を作成してもよい。
また、1つの病変のパターンに対応する特徴量Zxが複数あった場合、計算式66は、複数の特徴量ZxをZx1、Zx2、Zx3、・・・とした場合、次式(1−B)で表せる。
Px=1/{1+exp(−A0−A1×Zx1−A2×Zx2−A3×Zx3−・・・)}・・・(1−B)
A0、A1、A2、A3、・・・は係数であり、式(1−A)と同様に、ロジスティック回帰分析で求められる。
第2存在確率Pyについても、過去の診断において、症例画像21の関心領域ROIの特徴量ZyA〜ZyHが特徴量算出部61で算出され、この特徴量ZyA〜ZyHに基づいて、各種病変のパターンの第2存在確率PyA〜PyHが、視覚判断データ75に基づいて作成された計算式66を用いた統計的な手法により確率算出部62で算出される。
図11および図12において、類似度算出部63は、併存確率算出器80、非併存確率算出器81、比算出器82、および乗算器83を有する。併存確率算出器80は、各存在確率Px、Pyに基づいて、病変のパターンが検査画像19および症例画像21の関心領域ROIの両方に存在する確率である併存確率Pxyを算出する。具体的には、併存確率Pxyを次式(2−A)により算出する。
Pxy=Px×Py・・・(2−A)
非併存確率算出器81は、各存在確率Px、Pyに基づいて、病変のパターンが検査画像19および症例画像21の関心領域ROIのうちの一方にのみ独立して存在する確率である非併存確率NPxyを算出する。具体的には、非併存確率NPxyを次式(3−A)により算出する。
NPxy=Px×(1−Py)+(1−Px)×Py・・・(3−A)
各算出部80、81は、算出した各確率Pxy、NPxyを比算出器82に出力する。
比算出器82は、併存確率Pxyと非併存確率NPxyの比Pxy/NPxyを算出し、算出した比Pxy/NPxyを乗算器83に出力する。
図12に詳細に示すように、併存確率算出器80は、8種類の病変のパターンの各々の第1併存確率PxyA〜第8併存確率PxyHを算出するために、第1併存確率算出器80A〜第8併存確率算出器80Hの計8個設けられている(第5併存確率算出器80E〜第8併存確率算出器80Hは不図示)。非併存確率算出器81も同様に、第1非併存確率NPxyA〜第8併存確率NPxyHを算出するために、第1非併存確率算出器81A〜第8非併存確率算出器81Hが設けられている(第5非併存確率算出器81E〜第8非併存確率算出器81Hは不図示)。また、比算出器82も同様に第1比算出器82A〜第8比算出器82Hが設けられている(第5比算出器82E〜第8比算出器82Hは不図示)。
乗算器83は、第1比算出器82A〜第8比算出器82Hからの第1併存確率PxyA〜第8併存確率PxyHと第1非併存確率NPxyA〜第8非併存確率NPxyHのそれぞれの比PxyA/NPxyA〜PxyH/NPxyHを総乗する。類似度算出部63は、この乗算器83による比PxyA/NPxyA〜PxyH/NPxyHの総乗の算出結果を、類似度Sとして出力する。すなわち、類似度Sは次式(4−A)で表せる。
S=ΠPxy/NPxy=(PxyA/NPxyA)×(PxyB/NPxyB)×(PxyC/NPxyC)×(PxyD/NPxyD)×(PxyE/NPxyE)×(PxyF/NPxyF)×(PxyG/NPxyG)×(PxyH/NPxyH)・・・(4−A)
併存確率Pxyは、各種病変のパターン毎の検査画像19と症例画像21の類似性を示す指標であり、併存確率Pxyが高いほど検査画像19と症例画像21の類似性が高いといえる。逆に非併存確率NPxyは、各種病変のパターン毎の検査画像19と症例画像21の非類似性を示す指標であり、非併存確率NPxyが高いほど検査画像19と症例画像21の類似性が低いといえる。また、これらの比Pxy/NPxyは、分子の併存確率Pxyが分母の非併存確率NPxyに比べて大きいほど値が高くなり、値が高いほど検査画像19と症例画像21の類似性が高いといえる。そして、比PxyA/NPxyA〜PxyH/NPxyHの総乗である類似度Sは、各種病変のパターンの検査画像19と症例画像21間の併存確率Pxyおよび非併存確率NPxyを総合的に勘案した値であるため、検査画像19と症例画像21の総合的な類似性を示す指標である。類似度Sが高いほど検査画像19と症例画像21が総合的に類似性が高いといえる。
図13において、リスト67は、順位の項目を筆頭に、症例画像21の画像IDと類似度Sの項目を有する。リスト67の各件には、類似画像として、症例画像21の関心領域ROIを切り出したROI画像が添付される。リスト67は類似画像と類似度Sの組を類似度S順にソートしたものであるため、当然ながら順位が1位の画像ID「F0044」の症例画像21の類似度Sが全症例画像21の中で最も高いものとなり、順位が下がるに連れて類似度Sも小さくなる。
図14において、検索結果表示ウィンドウ68は、検索画像である検査画像19および検査画像表示ウィンドウ30で指定された関心領域ROIを表示する画像表示領域90と、検索結果表示領域91と、詳細表示ボタン92とを有する。検索結果表示領域91にはリスト67の内容の一部(例えば上位5位までの件)が表示され、必要に応じて表示領域をスクロールバー93で上下に移動させることが可能である。
検索結果表示領域91には、リスト67の各件を選択するためのチェックボックス94が設けられている。このチェックボックス94を選択し、詳細表示ボタン92を選択すると、選択されたリスト67についての詳細な情報、例えばROI画像ではなく症例画像21の全体画像や、症例画像21の付帯情報、特に症例画像21を読影して作成した読影レポートのレポートID等が、検索結果表示ウィンドウ68とは別ウィンドウで表示される。この別ウィンドウの作成および診療科端末12への送信も、検索結果表示ウィンドウ68と同様に出力制御部65が行う。症例画像21の全体画像や付帯情報は、画像IDに基づき症例画像DBサーバ16から類似画像検索サーバ17に取り込むことができる。
以下、上記構成による類似画像検索サーバ17の作用について、図15および図16を参照して説明する。まず、入力デバイス50が操作されて、類似画像検索プログラム52が起動される。これにより、CPU47に要求受付部60、特徴量算出部61、確率算出部62、類似度算出部63、検索結果出力部64、および出力制御部65が構築され、類似画像検索サーバ17を構成するコンピュータは、類似画像検索装置として機能する。
医師は、検査画像表示ウィンドウ30で検査画像19を閲覧し、検査画像19の類似画像を取得したい場合は関心領域ROIを指定して類似画像検索ボタン38を選択する。これにより検査画像19を含み領域情報25が添付された類似画像の取得要求が類似画像検索サーバ17に送信される。
図15のステップS100に示すように、類似画像検索サーバ17において、診療科端末12からの類似画像の取得要求は通信部48で受信され、要求受付部60で受け付けられる。受け付けられた類似画像の取得要求の検査画像19および領域情報25は、要求受付部60によりストレージデバイス45に記憶される。
ストレージデバイス45の検査画像19および領域情報25は、特徴量算出部61に読み出される。そして、領域情報25に基づいて特定された関心領域ROIの特徴量Zxが特徴量算出部61により算出される(ステップS110)。特徴量Zxは、特徴量算出部61から確率算出部62に出力される。
特徴量Zxを算出する領域を関心領域ROIのような検査画像19の一部の領域に限るため、検査画像19の全体を特徴量Zxの算出対象とする場合よりも特徴量Zxの算出に処理負荷が掛からない。また、関心領域ROIには病変が映った領域が指定されるため、病変以外の領域も含めて特徴量Zxを算出する場合よりも、病変の特徴をより表した特徴量Zxを算出することができる。
確率算出部62により、特徴量算出部61からの特徴量Zxに基づいて、検査画像19の関心領域ROI内に病変のパターンが存在する確率である第1存在確率Pxが算出される(ステップS120)。この際、視覚判断データ75に基づいて統計的な手法により作成された計算式66が用いられる。第1存在確率Pxは、確率算出部62から類似度算出部63に出力される。
類似度算出部63により、確率算出部62からの第1存在確率Pxと症例画像21に付された第2存在確率Pyとに基づいて、検査画像19と症例画像21の類似度Sが算出される(ステップS130)。
第2存在確率Pyは、過去の診断において、症例画像21の関心領域ROIの特徴量Zyが特徴量算出部61で算出され、この特徴量Zyに基づいて、計算式66を用いた統計的な手法により確率算出部62で事前に算出されたものである。このため、類似度Sを算出する際に特徴量Zyおよび第2存在確率Pyを算出する手間が省け、類似度Sの算出処理を高速化することができる。
類似度Sの算出手順を示す図16において、ステップS131に示すように、類似度算出部63では、併存確率算出器80により、各存在確率Px、Pyに基づいて、式(2−A)を用いて併存確率Pxyが算出される。また、非併存確率算出器81により、各存在確率Px、Pyに基づいて、式(3−A)を用いて非併存確率NPxyが算出される。これら併存確率Pxyおよび非併存確率NPxyは比算出器82に出力される。
比算出器82により、併存確率Pxyと非併存確率NPxyの比Pxy/NPxyが算出される(ステップS132)。比Pxy/NPxyは乗算器83に出力される。
乗算器83により、式(4−A)を用いて比Pxy/NPxyの総乗が類似度Sとして算出される(ステップS133)。類似度Sは、症例画像DB22に格納された全症例画像21について算出される。類似度Sは、類似度算出部63から検索結果出力部64に出力される。
視覚判断データ75に基づいて統計的な手法により作成された計算式66を用いて第1存在確率Pxを算出し、この第1存在確率Pxと、同様に統計的な手法で算出された第2存在確率Pyとに基づいて類似度Sを算出するので、従来のように特徴量Zx、Zyの算出精度に類似度Sの信頼性が左右されることがない。また、視覚判断データ75は、病変のパターンが存在するか否かを、医師等の人間が視覚的に判断した結果を示すものであるため、類似度Sが人間の見た目と乖離が生じるおそれもない。特に本実施形態のように特徴量Zx、Zyが複数種類ある場合は、種類によってその算出精度も異なり、また、種類によって人間の見た目との乖離の程度も異なるので、特徴量Zx、Zyの算出精度に類似度Sの信頼性がより左右されやすかったが、そうした懸念を払拭することができる。したがって、信頼性が置ける類似画像を医師に提供することができる。
さらに、従来のように、特徴量Zx、Zyがともに大きい値でだいたい一致した場合と、特徴量Zx、Zyがともに低い値でだいたい一致した場合とで、類似度Sが同等となってしまうことがない。具体的には、特徴量Zx、Zyがともに大きい値でだいたい一致した場合は、併存確率Pxyが高くなり非併存確率NPxyが低くなるため類似度Sは高くなる。一方、特徴量Zx、Zyがともに低い値でだいたい一致した場合は、併存確率Pxyが低くなり非併存確率NPxyが高くなるため類似度Sは低くなる。このため、検査画像19の類似画像を得たいという類似画像検索の目的に合致した類似度Sを算出することができ、納得感のある類似画像を医師に提供することができる。
併存確率Pxy、非併存確率NPxy、およびこれらの比Pxy/NPxyを算出し、さらに比Pxy/NPxyの総乗を算出してその算出結果を類似度Sとするので、類似度Sは併存確率Pxyと非併存確率NPxyを両方絡めたものとなり、検査画像19と症例画像21の類似性を示す指標として類似度Sの信頼性をより高めることができる。
図15において、検索結果出力部64により、類似画像と類似度Sの組を類似度S順にソートしたリスト67が作成され、作成されたリスト67が検索結果出力部64から出力制御部65に出力される(ステップS140)。
出力制御部65により、リスト67に基づいて検索結果表示ウィンドウ68が作成され、この検索結果表示ウィンドウ68と類似画像の取得要求をした診療科端末12の情報とが通信部48に出力される(ステップS150)。これにより、通信部48を介して、類似画像の取得要求をした診療科端末12に検索結果表示ウィンドウ68が送信される。医師は、検索結果表示ウィンドウ68を閲覧し、これを参考にして確定診断を下す。
リスト67を作成してこれに基づき検索結果表示ウィンドウ68を作成し、検索結果表示ウィンドウ68を医師の閲覧に供するので、医師が確定診断を下すための有力な手掛かりを提供することができ、経験の浅い医師でもより確度の高い診断が可能となる。
なお、特徴量Zxが1つである場合は、乗算器83は必要なく、類似度算出部63は併存確率Pxyと非併存確率NPxyの比Pxy/NPxyを類似度Sとして出力する。あるいは、併存確率Pxy、または非併存確率NPxyのいずれかを類似度Sとして出力してもよい。この場合は併存確率算出器80、または非併存確率算出器81のいずれか、および比算出器82が必要なくなる。
特徴量Zxが複数種類である場合も、併存確率Pxyと非併存確率NPxyの比Pxy/NPxyの総乗ではなく、併存確率Pxyの総乗(ΠPxy)、または非併存確率NPxyの総乗(ΠNPxy)のいずれかを類似度Sとして出力してもよい。
上記第1実施形態を例に説明すると、併存確率Pxyの総乗を類似度Sとする場合は次式(4−B)、非併存確率NPxyの総乗を類似度Sとする場合は次式(4−C)を用いて類似度Sを算出する。
S=ΠPxy=PxyA×PxyB×PxyC×PxyD×PxyE×PxyF×PxyG×PxyH・・・(4−B)
S=ΠNPxy=NPxyA×NPxyB×NPxyC×NPxyD×NPxyE×NPxyF×NPxyG×NPxyH・・・(4−C)
併存確率Pxyおよび非併存確率NPxyは、検査画像19と症例画像21の類似性および非類似性を示す指標であるため、これらそのものまたはこれらの総乗を併存確率Pxyと非併存確率NPxyの比Pxy/NPxyの総乗の代わりに類似度Sとしても差し支えはない。併存確率Pxyと非併存確率NPxyの比Pxy/NPxyを類似度Sとした場合も同様である。なお、非併存確率NPxyやその総乗を類似度Sとした場合は、併存確率Pxyやその総乗、比Pxy/NPxyやその総乗を類似度Sとした場合とは逆に、値が低いほど検査画像19と症例画像21の類似性が高いことを示す。
また、併存確率Pxyの総乗、非併存確率NPxyの総乗、または併存確率Pxyと非併存確率NPxyの比Pxy/NPxyの総乗の代わりに、併存確率Pxyの対数の総和(ΣlogPxy)、非併存確率NPxyの対数の総和(ΣlogNPxy)、または併存確率Pxyと非併存確率NPxyの比Pxy/NPxyの対数の総和(Σlog(Pxy/NPxy))を類似度Sとして出力してもよい。この場合は乗算器83の代わりに対数加算器を設ける。
再び上記第1実施形態を例に説明すると、併存確率Pxyの対数の総和を類似度Sとする場合は次式(4−D)、非併存確率NPxyの対数の総和を類似度Sとする場合は次式(4−E)、併存確率Pxyと非併存確率NPxyの比Pxy/NPxyの対数の総和を類似度Sとする場合は次式(4−F)をそれぞれ用いて類似度Sを算出する。
S=ΣlogPxy=logPxyA+logPxyB+logPxyC+logPxyD+logPxyE+logPxyF+logPxyG+logPxyH・・・(4−D)
S=ΣlogNPxy=logNPxyA+logNPxyB+logNPxyC+logNPxyD+logNPxyE+logNPxyF+logNPxyG+logNPxyH・・・(4−E)
S=Σlog(Pxy/NPxy)=Σ(logPxy−logNPxy)=(logPxyA−logNPxyA)+(logPxyB−logNPxyB)+(logPxyC−logNPxyC)+(logPxyD−logNPxyD)+(logPxyE−logNPxyE)+(logPxyF−logNPxyF)+(logPxyG−logNPxyG)+(logPxyH−logNPxyH)・・・(4−F)
併存確率Pxyの対数の総和、非併存確率NPxyの対数の総和、および併存確率Pxyと非併存確率NPxyの比Pxy/NPxyの対数の総和は、総乗の場合と同様に検査画像19と症例画像21の類似性を示す指標であり、併存確率Pxyの対数の総和、および併存確率Pxyと非併存確率NPxyの比Pxy/NPxyの対数の総和の場合は値が高いほど検査画像19と症例画像21の類似性が高いといえ、非併存確率NPxyの対数の総和の場合は逆に値が低いほど検査画像19と症例画像21の類似性が高いといえる。
上記第1実施形態では、症例画像21の特徴量Zyおよび第2存在確率Pyを、事前に特徴量算出部61および確率算出部62で算出すると説明したが、類似画像検索サーバ17とは別の装置で症例画像21の特徴量Zyまたは第2存在確率Pyを算出してもよい。この場合、第1存在確率Pxと同様の統計的な手法により第2存在確率Pyを算出してもよいし、第1存在確率Pxとは別の統計的な手法により第2存在確率Pyを算出してもよい。また、事前に算出した第2存在確率Pyを、症例画像21の付帯情報として症例画像DB22に格納すると説明したが、類似度Sを算出する都度、第2存在確率Pyを算出してもよい。こうすれば第2存在確率Pyを症例画像DB22に格納する必要がないため、その分症例画像DB22の容量に余裕ができ、より多くの症例画像21を記憶することができる。
[第2実施形態]
上記第1実施形態のように、併存確率Pxyの算出に式(2−A)を用いた場合、第1存在確率Pxを例えば0.8としたときの各第2存在確率Pyに対する併存確率Pxyは、図17Aに示すようになる。すなわち、第2存在確率Pyが高いほど併存確率Pxyは高くなり、検査画像19と症例画像21の類似性も高くなる。
ここで、各存在確率Px、Pyは、統計的な手法により同じように算出するものであるため、各存在確率Px、Pyの値が近いほうが、検査画像19と症例画像21の類似性が高いといえる。さらにいえば、各存在確率Px、Pyの値がともに高くかつ同じであれば、検査画像19と症例画像21はほぼ一致しているといえる。各存在確率Px、Pyの元となっている各特徴量Zx、Zyに関しても略同様のことがいえる。すなわち、各特徴量Zx、Zyの値やその範囲によっては、各特徴量Zx、Zyの値が近いほうが検査画像19と症例画像21の類似性が高いといえる場合がある。特に各特徴量Zx、Zyの値がともに大きくかつ近い場合は、検査画像19と症例画像21の類似性が高い可能性が大きい。このように、各存在確率Px、Pyおよびこれらの元の各特徴量Zx、Zyの値の近さを考慮して検査画像19と症例画像21の類似性を判断すれば、より適切な類似画像の検索が可能となる。しかしながら、図17Aに示す例では、各存在確率Px、Pyおよび各特徴量Zx、Zyの値の近さを考慮して検査画像19と症例画像21の類似性を判断していないため、第2存在確率Pyが第1存在確率Pxと同じ0.8の場合の併存確率Pxyは0.64で、第2存在確率Pyが1.0の場合の併存確率Pxy(0.8)、および第2存在確率Pyが0.9の場合の併存確率Pxy(0.72)よりも値が低くなっている。このため、第2存在確率Pyが0.8の場合のほうが、検査画像19と症例画像21の類似性がより高いにも関わらず、第2存在確率Pyが1.0、0.9の場合よりも類似性が低いと判断されてしまう。
そこで、本実施形態では、各存在確率Px、Pyの値の近さを考慮して検査画像19と症例画像21の類似性を判断し、検査画像19との類似性がより高い症例画像21が正当に判断されるよう併存確率Pxyを算出する。具体的には、併存確率Pxyを次式(2−B)により算出する。
Pxy=Px×min(Px、Py)・・・(2−B)
式(2−B)の右辺のmin(Px、Py)は、各存在確率Px、Pyのうちの最小値(minimum)、つまり各存在確率Px、Pyのうち値が低いほうという意味である。各存在確率Px、Pyが同じ値の場合は、min(Px、Py)=Px=Pyである。この式(2−B)を用いた場合、図17Aと同じく第1存在確率Pxを0.8としたときの各第2存在確率Pyに対する併存確率Pxyは、図17Bに示すようになる。すなわち、第2存在確率Pyが0.8の場合と、第2存在確率Pyが1.0、0.9の場合とで、併存確率Pxyが0.64と同じ値となる。したがって、各存在確率Px、Pyが同じ値の場合に、検査画像19と症例画像21が、第1存在確率Pxよりも第2存在確率Pyが高い場合と同じ類似性をもつと判断することができる。
併存確率Pxyと同様に、非併存確率NPxyについても、各存在確率Px、Pyが同じ値の場合に検査画像19と症例画像21の類似性がより高いと判断可能にするため、次式(3−B)、(3−C)により算出する。
Px>0.5の場合、NPxy=Px×{1−min(Px、Py)}+(1−Px)×Py・・・(3−B)
Px≦0.5の場合、NPxy=Px×(1−Py)+(1−Px)×max(Px、Py)・・・(3−C)
式(3−C)の右辺のmax(Px、Py)は、各存在確率Px、Pyのうちの最大値(maximum)、つまり各存在確率Px、Pyのうち値が高いほうという意味である。各存在確率Px、Pyが同じ値の場合は、max(Px、Py)=Px=Pyである。
図18Aは、上記第1実施形態の式(3−A)を用いた場合、図18Bは、式(3−B)を用いた場合の、第1存在確率Pxを0.8(Px>0.5の場合に該当)としたときの各第2存在確率Pyに対する非併存確率NPxyをそれぞれ示す。式(3−A)を用いた図18Aでは、非併存確率NPxyは、第2存在確率Pyが1.0の場合が最も低く、検査画像19と症例画像21の類似性も最も高くなっている。対して、式(3−B)を用いた図18Bでは、非併存確率NPxyは、第2存在確率Pyが第1存在確率Pxと同じ0.8の場合に最も低くなり、検査画像19と症例画像21の類似性も最も高くなる。
また、図19Aは、上記第1実施形態の式(3−A)を用いた場合、図19Bは、式(3−C)を用いた場合の、第1存在確率Pxを0.3(Px≦0.5の場合に該当)としたときの各第2存在確率Pyに対する非併存確率NPxyをそれぞれ示す。式(3−A)を用いた図19Aでは、非併存確率NPxyは、第2存在確率Pyが0.1の場合が最も低く、検査画像19と症例画像21の類似性も最も高くなっている。対して、式(3−C)を用いた図19Bでは、非併存確率NPxyは、第2存在確率Pyが第1存在確率Pxと同じ0.3の場合に最も低くなり、検査画像19と症例画像21の類似性も最も高くなる。したがって、各存在確率Px、Pyが同じ値の場合に、検査画像19と症例画像21が最も類似性が高いと判断することができる。
[第3実施形態]
上記第1実施形態では、検査画像19と、症例画像DB22に格納された全症例画像21のそれぞれとの類似度Sを算出している。このため、症例画像21が比較的大量にある場合は検索結果を出力するまでに多大な時間が掛かってしまう。
そこで、本実施形態では、検査画像19と明らかに類似性がない症例画像21を類似度Sの算出対象から除外し、検索結果の出力に掛かる時間を短縮する。
図20において、本実施形態の類似画像検索サーバ17のCPU100には、上記第1実施形態の各部60〜65(確率算出部62および類似度算出部63以外は不図示)に加えて、フィルター処理部101が構築される。フィルター処理部101は、除外範囲算出器102と比較・判定器103とを有する。除外範囲算出器102は、関係式104および閾値ρから、第2存在確率Pyの除外範囲を算出する。除外範囲算出器102は、算出した除外範囲を比較・判定器103に出力する。
比較・判定器103は、除外範囲算出器102からの除外範囲と、症例画像DBサーバ16からの症例画像21に付された第2存在確率Pyとを比較する。比較・判定器103は、第2存在確率Pyが除外範囲である症例画像21を、類似度算出部63で類似度Sを算出する候補から除外する。具体的には、比較・判定器103は、第2存在確率Pyが除外範囲である症例画像21の画像ID等の情報を判定結果として類似度算出部63に出力する。類似度算出部63は、比較・判定器103からの判定結果に基づいて、第2存在確率Pyが除外範囲である症例画像21を除外して類似度Sを算出する。
除外範囲算出部102に与える関係式104は、例えば以下に示すものである。
併存確率Pxyと非併存確率NPxyの差分NPxy−Pxyは、検査画像19と症例画像21の非類似性を示す。式(5)に示すように、この差分が閾値ρよりも大きい場合、つまり検査画像19と症例画像21の非類似性が比較的高い場合、類似度Sを算出するまでもなく検査画像19と症例画像21の類似性が低いと判断することができる。
NPxy−Pxy>ρ・・・(5)
式(5)に、式(2−A)および式(3−A)を代入し、第2存在確率Pyについて解くと、次式(6)となる。
Py>(ρ−Px)/(1−3Px)・・・(6)
式(6)はPx=1/3のとき不定となり、Px<1/3のとき右辺の分母が正、Px>1/3のとき右辺の分母が負となるので、Px<1/3のときとPx>1/3のときとで場合分けして、次式(7−A)、(7−B)とする。
Px<1/3の場合、Py>(ρ−Px)/(1−3Px)・・・(7−A)
Px>1/3の場合、Py<(ρ−Px)/(1−3Px)・・・(7−B)
これらの式(7−A)、(7−B)を関係式104として採用する。
除外範囲算出部102は、式(7−A)、(7−B)に閾値ρと第1存在確率Pxの値を代入することで除外範囲を求める。閾値ρは予め設定されているか、入力デバイス50を介して入力される。第1存在確率Pxは確率算出部62から与えられる。例えば、閾値ρ=0.6、第1存在確率Px=0.8(Px>1/3の場合に該当)の場合、式(7−B)より、第2存在確率Pyの除外範囲は以下となる。
Py<(0.6−0.8)/(1−3・0.8)≒0.143
この場合、比較・判定器103は、第2存在確率Pyが0.143より低い症例画像21を類似度Sの算出候補から除外する。
また、閾値ρ=0.6、第1存在確率Px=0.1(Px<1/3の場合に該当)の場合、式(7−A)より、第2存在確率Pyの除外範囲は以下となる。
Py>(0.6−0.1)/(1−3・0.1)≒0.714
この場合、比較・判定器103は、第2存在確率Pyが0.714より高い症例画像21を類似度Sの算出候補から除外する。
なお、図示は省略するが、除外範囲算出器102および比較・判定器103は、各特徴量算出器61A〜61H、各併存確率算出器80A〜80H、各非併存確率算出器81A〜81H、各比算出器82A〜82Hと同様に、複数種類の病変に対応して複数設けられている。除外範囲算出部102は、各種病変のパターンに対応する第2存在確率PyA、PyB、PyC、・・・の除外範囲を算出し、比較・判定器103は、各種病変のパターンに対応する除外範囲と、各種病変のパターンに対応する第2存在確率PyA、PyB、PyC、・・・とを比較する。比較・判定器103は、各種病変のパターンに対応する第2存在確率PyA、PyB、PyC、・・・が、1つでも除外範囲であった場合、その症例画像21を類似度Sの算出候補から除外する。
除外範囲算出部102に与える関係式104は1種類であり、代入する第1存在確率Pxの値が病変のパターンの種類に応じて異なるだけである。また、閾値ρは病変のパターンの種類に関わらず同じ値でもよいし、病変のパターンの種類に応じて変更してもよい。
第2存在確率Pyが除外範囲である症例画像21を、類似度Sの算出候補から除外するので、類似度Sの算出処理を高速化することができる。
式(5)に式(2−A)および式(3−A)を代入して求めた式(7−A)、(7−B)を関係式104として除外範囲算出器102に与えているが、式(5)に式(2−B)および式(3−B)、(3−C)を代入して求めた関係式を除外範囲算出器102に与えてもよい。また、単純に第1存在確率Pxと第2存在確率Pyの差分の絶対値|Px−Py|に対して除外範囲を設定してもよい。例えば、|Px−Py|>0.5を満たす第2存在確率Pyの症例画像21を類似度Sの算出候補から除外する。
上記各実施形態では、本発明の類似画像検索装置を、診療科端末12からの類似画像の取得要求に基づいて類似画像検索を行う類似画像検索サーバ17の形態で説明したが、類似画像検索サーバ17を廃して、診療科端末12に類似画像検索装置の機能を担わせてもよい。この場合、診療科端末12のCPUに、要求受付部60以外の上記各部61〜65を構築し、診療科端末12が症例画像DBサーバ16等にアクセスして類似画像の検索処理を行う。
検査画像DBサーバ15、症例画像DBサーバ16、および類似画像検索サーバ17は、上記各実施形態のように別々のサーバで構成してもよいし、1つのサーバに統合してもよい。
コンピュータシステムのハードウェア構成は種々の変形が可能である。例えば、類似画像検索サーバ17を、処理能力や信頼性の向上を目的として、ハードウェアとして分離された複数台のサーバコンピュータで構成することも可能である。具体的には、特徴量算出部61と確率算出部62と類似度算出部63を3台のサーバコンピュータに分散して担わせる。このように、コンピュータシステムのハードウェア構成は、処理能力、安全性、信頼性等の要求される性能に応じて適宜変更することができる。さらに、ハードウェアに限らず、類似画像検索プログラム52等のアプリケーションプログラムについても、安全性や信頼性の確保を目的として、二重化したり、あるいは、複数のストレージデバイスに分散して格納することももちろん可能である。
上記各実施形態では、医療施設に構築された医療情報システム2を例示し、類似画像検索サーバ17を1つの医療施設内で利用する形態で説明したが、類似画像検索サーバ17を複数の医療施設が利用可能な形態としてもよい。
上記各実施形態では、類似画像検索サーバ17は、1つの医療施設内に設置される診療科端末12等のクライアント端末がLANを介して通信可能に接続され、クライアント端末からの要求に応じて類似画像検索というアプリケーションサービスを提供する形態である。これを複数の医療施設で利用可能とするためには、類似画像検索サーバ17を、例えば、インターネットや公衆通信網等のWAN(Wide Area Network)を介して、複数の医療施設に設置される各クライアント端末と通信可能に接続する。そして、複数の医療施設の各クライアント端末からの要求を、インターネットや公衆通信網等のWANを介して類似画像検索サーバ17で受け付けて、各クライアント端末に対して類似画像検索のアプリケーションサービスを提供する。なお、WANを利用する場合には、情報セキュリティを考慮して、VPN(Virtual Private Network)を構築したり、HTTPS(Hypertext Transfer Protocol Secure)等のセキュリティレベルの高い通信プロトコルを使用することが好ましい。
この場合の類似画像検索サーバ17の設置場所および運営主体は、例えば医療施設とは別の会社が運営するデータセンタでもよいし、複数の医療施設のうちの1つでもよい。
本発明は、上記各実施形態に限らず、本発明の要旨を逸脱しない限り種々の構成を採用し得ることはもちろんである。例えば、類似画像の取得要求に検索画像として含まれる検査画像19は、1つでもよいし複数でもよい。複数の場合は検査画像19毎に領域情報25が添付される。
関心領域ROIは、1つの検査画像19や症例画像21に対して複数指定してもよい。この場合は指定された複数の関心領域ROIに対して各特徴量Zx、Zy、各存在確率Px、Py、および類似度Sがそれぞれ算出され、検索結果も複数の関心領域ROI毎に区別して出力される。また、関心領域ROIは、上記各実施形態のように医師が手動で指定してもよいし、検査画像19を画像解析して関心領域ROIを自動的に指定してもよい。
さらに、検査画像としては超音波プローブや電子内視鏡、マンモグラフィーといった他のモダリティで撮影したものでもよい。
上記各実施形態では、類似画像検索サーバ17で検査画像19の全体画像と領域情報25を含む類似画像の取得要求を受け付けているが、検査画像19の全体画像と領域情報25の代わりに、検査画像19の関心領域ROIを切り出したROI画像を含む類似画像の取得要求を診療科端末12から類似画像検索サーバ17に送信してもよい。この場合は領域情報25を類似画像の取得要求に含める必要はない。このように、検索画像は、検査画像19の全体画像でもよいし、検査画像19の一部の領域を切り出した画像でもよい。
上記各実施形態では、検索画像として検査画像19、事例画像として症例画像21、パターンとして病変のパターンを例示しているが、本発明はこれに限定されない。検索画像および事例画像は、デジタルカメラで撮影した画像等の任意の画像でよいし、パターンは顔のパーツ等の任意のパターンでよい。
上述の種々の実施形態や種々の変形例を適宜組み合わせることも可能である。また、本発明は、プログラムに加えて、プログラムを記憶する記憶媒体にも及ぶ。
17 類似画像検索サーバ(類似画像検索装置)
19 検査画像
21 症例画像
47 CPU
52 類似画像検索プログラム
61 特徴量算出部
62 確率算出部
63 類似度算出部
64 検索結果出力部
66 計算式
67 リスト
80 併存確率算出器
81 非併存確率算出器
82 比算出器
83 乗算器
100 フィルター処理部
102 除外範囲算出器
103 比較・判定器
104 関係式
Zx 特徴量
Px 第1存在確率
Py 第2存在確率
S 類似度
Pxy 併存確率
NPxy 非併存確率

Claims (21)

  1. 複数の事例画像の中から検索画像に類似する類似画像を検索する類似画像検索装置において、
    前記検索画像を解析して、予め登録されたパターンに対応する特徴量を算出する特徴量算出部と、
    前記特徴量算出部で算出した前記特徴量に基づいて、前記検索画像内に前記パターンが存在する第1存在確率を統計的な手法により算出する確率算出部と、
    前記確率算出部で算出した前記第1存在確率と、前記複数の事例画像について算出された、前記事例画像内に前記パターンが存在する第2存在確率とに基づいて、前記検索画像と前記複数の事例画像のそれぞれとの類似度を算出する類似度算出部とを備えることを特徴とする類似画像検索装置。
  2. 前記確率算出部は、人間が視覚的に判断した学習用画像内の前記パターンの有無と前記特徴量の関係に基づいて、前記統計的な手法により予め作成した、前記特徴量を変数として前記第1存在確率を求める計算式を用いることを特徴する請求項1に記載の類似画像検索装置。
  3. 前記類似度算出部は、前記第1存在確率および前記第2存在確率に基づいて、前記パターンが前記事例画像および前記検索画像の両方に存在する併存確率、または前記パターンが前記事例画像および前記検索画像のうちの一方にのみ独立して存在する非併存確率のうちの少なくとも1つを算出することを特徴とする請求項1または2に記載の類似画像検索装置。
  4. 前記類似度算出部は、前記併存確率、または前記非併存確率を前記類似度として算出し、
    前記併存確率が高いほど前記事例画像と前記検索画像の類似性が高いと判断、または前記非併存確率が高いほど前記事例画像と前記検索画像の類似性が低いと判断することを特徴とする請求項3に記載の類似画像検索装置。
  5. 前記類似度算出部は、前記併存確率と前記非併存確率の比を前記類似度として算出し、
    前記比が高いほど前記事例画像と前記検索画像の類似性が高いと判断することを特徴とする請求項3に記載の類似画像検索装置。
  6. 前記パターンは複数種類あり、
    前記類似度算出部は、複数種類の前記パターンの各々の前記併存確率、または前記非併存確率を算出し、
    算出した前記併存確率の総乗または前記併存確率の対数の総和、もしくは前記非併存確率の総乗または前記非併存確率の対数の総和を前記類似度として算出し、
    前記併存確率の総乗または前記併存確率の対数の総和が高いほど前記事例画像と前記検索画像の類似性が高いと判断、または前記非併存確率の総乗または前記非併存確率の対数の総和が高いほど前記事例画像と前記検索画像の類似性が低いと判断することを特徴とする請求項3に記載の類似画像検索装置。
  7. 前記パターンは複数種類あり、
    前記類似度算出部は、複数種類の前記パターンの各々の前記併存確率と前記非併存確率の比を算出し、
    算出した前記比の総乗または前記比の対数の総和を前記類似度として算出し、
    前記比の総乗または前記比の対数の総和が高いほど前記事例画像と前記検索画像の類似性が高いと判断することを特徴とする請求項3に記載の類似画像検索装置。
  8. 前記第1存在確率をPx、前記第2存在確率をPy、前記併存確率をPxyとした場合、
    Pxy=Px×Py
    であることを特徴とする請求項3ないし7のいずれか1項に記載の類似画像検索装置。
  9. 前記第1存在確率をPx、前記第2存在確率をPy、前記非併存確率をNPxyとした場合、
    NPxy=Px×(1−Py)+(1−Px)×Py
    であることを特徴とする請求項3ないし8のいずれか1項に記載の類似画像検索装置。
  10. 前記第1存在確率をPx、前記第2存在確率をPy、Px、Pyのうちの最小値をmin(Px、Py)、前記併存確率をPxyとした場合、
    Pxy=Px×min(Px、Py)
    であることを特徴とする請求項3ないし7のいずれか1項に記載の類似画像検索装置。
  11. 前記第1存在確率をPx、前記第2存在確率をPy、Px、Pyのうちの最小値をmin(Px、Py)、Px、Pyのうちの最大値をmax(Px、Py)、前記非併存確率をNPxyとした場合、
    Px>0.5の場合、NPxy=Px×{1−min(Px、Py)}+(1−Px)×Py、
    Px≦0.5の場合、NPxy=Px×(1−Py)+(1−Px)×max(Px、Py)
    であることを特徴とする請求項3ないし7、10のいずれか1項に記載の類似画像検索装置。
  12. 前記第2存在確率の除外範囲と前記第2存在確率とを比較し、前記第2存在確率が前記除外範囲である前記事例画像を、前記類似度算出部で前記類似度を算出する候補から除外するフィルター処理部を備えることを特徴とする請求項1ないし11のいずれか1項に記載の類似画像検索装置。
  13. 前記フィルター処理部は、前記第1存在確率を変数とする、前記第1存在確率と前記第2存在確率の関係式から前記除外範囲を算出することを特徴とする請求項12に記載の類似画像検索装置。
  14. 前記特徴量算出部は、前記検索画像の一部の領域の前記特徴量を算出することを特徴とする請求項1ないし13のいずれか1項に記載の類似画像検索装置。
  15. 前記特徴量算出部は、前記事例画像の特徴量も算出することを特徴とする請求項1ないし14のいずれか1項に記載の類似画像検索装置。
  16. 前記確率算出部は、前記第2存在確率も算出することを特徴とする請求項1ないし15のいずれか1項に記載の類似画像検索装置。
  17. 前記類似画像の検索結果として、前記類似画像と前記類似度の組を出力する検索結果出力部を備えることを特徴とする請求項1ないし16のいずれか1項に記載の類似画像検索装置。
  18. 前記検索結果出力部は、複数の前記類似画像と前記類似度の組を前記類似度順にソートしたリストを出力することを特徴とする請求項17に記載の類似画像検索装置。
  19. 前記検索画像は患者の診断に用いる検査画像であり、前記事例画像は過去に診断に利用された前記検査画像である症例画像であり、前記パターンは前記患者の疾患の症状を表す病変のパターンであることを特徴とする請求項1ないし18のいずれか1項に記載の類似画像検索装置。
  20. 複数の事例画像の中から検索画像に類似する類似画像を検索する類似画像検索装置の作動方法において、
    特徴量算出部により、前記検索画像を解析して、予め登録されたパターンに対応する特徴量を算出する特徴量算出ステップと、
    確率算出部により、前記特徴量算出ステップで算出した前記特徴量に基づいて、前記検索画像内に前記パターンが存在する第1存在確率を統計的な手法により算出する確率算出ステップと、
    類似度算出部により、前記確率算出ステップで算出した前記第1存在確率と、前記複数の事例画像について算出された、前記事例画像内に前記パターンが存在する第2存在確率とに基づいて、前記検索画像と前記複数の事例画像のそれぞれとの類似度を算出する類似度算出ステップとを備えることを特徴とする類似画像検索装置の作動方法。
  21. 複数の事例画像の中から検索画像に類似する類似画像を検索する類似画像検索プログラムにおいて、
    前記検索画像を解析して、予め登録されたパターンに対応する特徴量を算出する特徴量算出機能と、
    前記特徴量算出機能で算出した前記特徴量に基づいて、前記検索画像内に前記パターンが存在する第1存在確率を統計的な手法により算出する確率算出機能と、
    前記確率算出機能で算出した前記第1存在確率と、前記複数の事例画像について算出された、前記事例画像内に前記パターンが存在する第2存在確率とに基づいて、前記検索画像と前記複数の事例画像のそれぞれとの類似度を算出する類似度算出機能とを、コンピュータに実行させることを特徴とする類似画像検索プログラム。
JP2014168818A 2014-08-21 2014-08-21 類似画像検索装置、類似画像検索装置の作動方法、および類似画像検索プログラム Active JP6027065B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2014168818A JP6027065B2 (ja) 2014-08-21 2014-08-21 類似画像検索装置、類似画像検索装置の作動方法、および類似画像検索プログラム
CN201510430487.1A CN105389320B (zh) 2014-08-21 2015-07-21 相似图像检索装置及其工作方法以及存储介质
US14/807,892 US9720938B2 (en) 2014-08-21 2015-07-24 Similar image retrieval device, method of operating similar image retrieval device, and similar image retrieval program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014168818A JP6027065B2 (ja) 2014-08-21 2014-08-21 類似画像検索装置、類似画像検索装置の作動方法、および類似画像検索プログラム

Publications (2)

Publication Number Publication Date
JP2016045662A true JP2016045662A (ja) 2016-04-04
JP6027065B2 JP6027065B2 (ja) 2016-11-16

Family

ID=55348574

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014168818A Active JP6027065B2 (ja) 2014-08-21 2014-08-21 類似画像検索装置、類似画像検索装置の作動方法、および類似画像検索プログラム

Country Status (3)

Country Link
US (1) US9720938B2 (ja)
JP (1) JP6027065B2 (ja)
CN (1) CN105389320B (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018116727A1 (ja) 2016-12-19 2018-06-28 富士フイルム株式会社 類似症例検索装置とその作動方法および作動プログラム、並びに類似症例検索システム
WO2018179421A1 (ja) * 2017-03-31 2018-10-04 株式会社オプティム コンピュータシステム、人工物診断方法及びプログラム
WO2020027228A1 (ja) 2018-07-31 2020-02-06 株式会社Lily MedTech 診断支援システム及び診断支援方法
US10559379B2 (en) 2016-12-09 2020-02-11 Fujifilm Corporation Diagnosis support apparatus, operation method for the same, and diagnosis support system
JPWO2019008941A1 (ja) * 2017-07-03 2020-05-07 富士フイルム株式会社 医療画像処理装置、内視鏡装置、診断支援装置、医療業務支援装置、及び、レポート作成支援装置
JP2020089711A (ja) * 2018-12-04 2020-06-11 Hoya株式会社 モデルの生成方法およびプログラム
JP2021530787A (ja) * 2018-07-11 2021-11-11 グーグル エルエルシーGoogle LLC 放射線医学のための類似画像の検索
KR20210157795A (ko) * 2020-06-22 2021-12-29 주식회사 뷰노 모델 학습 방법

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6711676B2 (ja) * 2016-04-13 2020-06-17 キヤノン株式会社 医用レポート作成装置及びその制御方法、医用レポート作成システム、並びに、プログラム
JP6883761B2 (ja) * 2016-10-17 2021-06-09 パナソニックIpマネジメント株式会社 プログラム生成方法、プログラム生成装置および制御プログラム
JP6906946B2 (ja) * 2016-12-22 2021-07-21 キヤノン株式会社 情報処理装置、その制御方法、及びプログラム
EP3603481B1 (en) * 2017-03-30 2023-05-03 FUJIFILM Corporation Medical image processing device, endoscope system, and method for operating medical image processing device
KR102192164B1 (ko) * 2018-08-08 2020-12-16 주식회사 딥바이오 생체 이미지 진단 시스템, 생체 이미지 진단 방법, 및 이를 수행하기 위한 단말
EP3629335A1 (de) * 2018-09-26 2020-04-01 Siemens Healthcare GmbH Verfahren zum automatischen auswählen von bildgebungsparametern für bildgebungsverfahren
CN109965829B (zh) * 2019-03-06 2022-05-06 重庆金山医疗技术研究院有限公司 成像优化方法、图像处理装置、成像装置及内窥镜系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003000575A (ja) * 2001-06-14 2003-01-07 Ge Medical Systems Global Technology Co Llc 画像診断支援システム
JP2003524492A (ja) * 2000-02-04 2003-08-19 ザ・ユニバーシティー・オブ・シカゴ 医学的画像のコンピュータ支援解釈用知的探索ワークステーションのための方法、システム、及びコンピュータ読取り型媒体
JP2010079398A (ja) * 2008-09-24 2010-04-08 Fuji Xerox Co Ltd 類似画像提示装置及びプログラム
JP2013529334A (ja) * 2010-04-30 2013-07-18 ヴィユーコンプ インク 確率密度関数推定器

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001216317A (ja) * 2000-02-02 2001-08-10 Canon Inc 画像処理装置およびその方法
US7298877B1 (en) * 2001-11-20 2007-11-20 Icad, Inc. Information fusion with Bayes networks in computer-aided detection systems
KR100750424B1 (ko) * 2004-03-03 2007-08-21 닛본 덴끼 가부시끼가이샤 화상 유사도 산출 시스템, 화상 검색 시스템, 화상 유사도산출 방법 및 화상 유사도 산출용 프로그램
US8965070B2 (en) * 2004-03-05 2015-02-24 Koninklijke Philips N.V. Interactive computer-aided diagnosis
TW200818058A (en) * 2006-05-29 2008-04-16 Univ Wollongong Content based image retrieval
US8019164B2 (en) * 2007-01-29 2011-09-13 Hitachi High-Technologies Corporation Apparatus, method and program product for matching with a template
JP2011118543A (ja) 2009-12-01 2011-06-16 Shizuoka Prefecture 症例画像検索装置、方法およびプログラム
JP5450556B2 (ja) * 2011-10-14 2014-03-26 富士フイルム株式会社 診療情報処理装置および方法並びにプログラム
WO2013065090A1 (ja) * 2011-11-04 2013-05-10 パナソニック株式会社 類似症例検索装置および類似症例検索方法
US9239848B2 (en) * 2012-02-06 2016-01-19 Microsoft Technology Licensing, Llc System and method for semantically annotating images
CN103870837B (zh) * 2014-02-25 2017-08-04 奇瑞汽车股份有限公司 一种检测待检测区域内是否存在车辆的方法和装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003524492A (ja) * 2000-02-04 2003-08-19 ザ・ユニバーシティー・オブ・シカゴ 医学的画像のコンピュータ支援解釈用知的探索ワークステーションのための方法、システム、及びコンピュータ読取り型媒体
JP2003000575A (ja) * 2001-06-14 2003-01-07 Ge Medical Systems Global Technology Co Llc 画像診断支援システム
JP2010079398A (ja) * 2008-09-24 2010-04-08 Fuji Xerox Co Ltd 類似画像提示装置及びプログラム
JP2013529334A (ja) * 2010-04-30 2013-07-18 ヴィユーコンプ インク 確率密度関数推定器

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10559379B2 (en) 2016-12-09 2020-02-11 Fujifilm Corporation Diagnosis support apparatus, operation method for the same, and diagnosis support system
WO2018116727A1 (ja) 2016-12-19 2018-06-28 富士フイルム株式会社 類似症例検索装置とその作動方法および作動プログラム、並びに類似症例検索システム
WO2018179421A1 (ja) * 2017-03-31 2018-10-04 株式会社オプティム コンピュータシステム、人工物診断方法及びプログラム
JPWO2019008941A1 (ja) * 2017-07-03 2020-05-07 富士フイルム株式会社 医療画像処理装置、内視鏡装置、診断支援装置、医療業務支援装置、及び、レポート作成支援装置
US11450425B2 (en) 2017-07-03 2022-09-20 Fujifilm Corporation Medical image processing apparatus, endoscope apparatus, diagnostic support apparatus, medical service support apparatus, and report creation support apparatus
JP2021530787A (ja) * 2018-07-11 2021-11-11 グーグル エルエルシーGoogle LLC 放射線医学のための類似画像の検索
JP7157232B2 (ja) 2018-07-11 2022-10-19 グーグル エルエルシー 放射線医学のための類似画像の検索
WO2020027228A1 (ja) 2018-07-31 2020-02-06 株式会社Lily MedTech 診断支援システム及び診断支援方法
JP2020089711A (ja) * 2018-12-04 2020-06-11 Hoya株式会社 モデルの生成方法およびプログラム
JP7015275B2 (ja) 2018-12-04 2022-02-02 Hoya株式会社 モデルの生成方法、教師データの生成方法、および、プログラム
KR20210157795A (ko) * 2020-06-22 2021-12-29 주식회사 뷰노 모델 학습 방법
KR102449240B1 (ko) 2020-06-22 2022-09-29 주식회사 뷰노 모델 학습 방법

Also Published As

Publication number Publication date
US9720938B2 (en) 2017-08-01
US20160055394A1 (en) 2016-02-25
CN105389320B (zh) 2020-04-14
JP6027065B2 (ja) 2016-11-16
CN105389320A (zh) 2016-03-09

Similar Documents

Publication Publication Date Title
JP6027065B2 (ja) 類似画像検索装置、類似画像検索装置の作動方法、および類似画像検索プログラム
JP5383431B2 (ja) 情報処理装置、情報処理方法及びプログラム
US10839511B2 (en) Similar case search device, similar case search method, and non-transitory computer readable medium
US20200176123A1 (en) Method and recording medium
JP5661890B2 (ja) 情報処理装置、情報処理方法及びプログラム
WO2010082246A1 (ja) 情報処理装置および情報処理方法
JP6074455B2 (ja) 診断支援装置、診断支援装置の制御方法、プログラム、及び診断支援システム
US10930396B2 (en) Similar case search apparatus, method for operating similar case search apparatus, and similar case search system
CN109074869B (zh) 医疗诊断支持装置、信息处理方法以及医疗诊断支持系统
US20170011186A1 (en) Similar case search device, similar case search method, and non-transitory computer readable medium
US20170011199A1 (en) Similar case search device, similar case search method, and non-transitory computer readable medium
JP5431924B2 (ja) 臨床医駆動の例示ベースのコンピュータ支援診断
JP7395695B2 (ja) 診断支援装置、診断支援システム、診断支援方法、及び診断支援プログラム
US10950019B2 (en) Automatic layout apparatus, automatic layout method, and automatic layout program
JP2023503610A (ja) 医療スキャン映像の相互位置合わせおよびそれとともに使用する方法
WO2019193982A1 (ja) 医療文書作成支援装置、医療文書作成支援方法、及び医療文書作成支援プログラム
JP2017099907A (ja) 診断支援装置および診断支援方法
US10282516B2 (en) Medical imaging reference retrieval
JP2023021231A (ja) 情報処理装置、医用画像表示装置及びプログラム
JP2018130408A (ja) 情報端末の制御方法
CN111226287A (zh) 用于分析医学成像数据集的方法、用于分析医学成像数据集的系统、计算机程序产品以及计算机可读介质
JP2006130049A (ja) 画像読影支援方法、およびシステム、ならびにプログラム
US20220391599A1 (en) Information saving apparatus, method, and program and analysis record generation apparatus, method, and program
EP4339882A1 (en) System for medical data analysis

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160921

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160928

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20161013

R150 Certificate of patent or registration of utility model

Ref document number: 6027065

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250