JP2018041434A - 診断支援装置、及び診断支援装置における画像処理方法、並びにプログラム - Google Patents

診断支援装置、及び診断支援装置における画像処理方法、並びにプログラム Download PDF

Info

Publication number
JP2018041434A
JP2018041434A JP2017081415A JP2017081415A JP2018041434A JP 2018041434 A JP2018041434 A JP 2018041434A JP 2017081415 A JP2017081415 A JP 2017081415A JP 2017081415 A JP2017081415 A JP 2017081415A JP 2018041434 A JP2018041434 A JP 2018041434A
Authority
JP
Japan
Prior art keywords
image
feature vector
captured
query
geometric deformation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017081415A
Other languages
English (en)
Other versions
JP6390746B2 (ja
Inventor
松永 和久
Kazuhisa Matsunaga
和久 松永
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to AU2017204494A priority Critical patent/AU2017204494B2/en
Priority to EP17179754.1A priority patent/EP3291174A1/en
Priority to EP18192773.2A priority patent/EP3432268B1/en
Priority to US15/642,275 priority patent/US10586331B2/en
Priority to EP23201534.7A priority patent/EP4283560A3/en
Priority to CN201710610753.8A priority patent/CN107798673B/zh
Priority to CA2974814A priority patent/CA2974814A1/en
Publication of JP2018041434A publication Critical patent/JP2018041434A/ja
Application granted granted Critical
Publication of JP6390746B2 publication Critical patent/JP6390746B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Measuring And Recording Apparatus For Diagnosis (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

【課題】疾患部の違いを把握することを容易にして精度の高い診断支援を行う診断支援装置、及び診断支援装置における画像処理方法、並びにプログラムを提供する。【解決手段】撮影画像から病変を診断するための診断支援装置における画像処理方法は、病変に係る既知の第1撮影画像に対応するリファレンス画像がデータベースに登録されており、病変に係る未知の第2撮影画像に対応するクエリ画像をデータベースのリファレンス画像と対比することにより診断支援を行うに際し、リファレンス画像から幾何変形が施されたリファレンス画像を作成し、またはクエリ画像から幾何変形が施されたクエリ画像を作成する。【選択図】図1

Description

本発明は、診断支援装置、及び診断支援装置における画像処理方法、並びにプログラムに関する。
皮膚病変の診断として視診は必ず行われ、多くの情報を得ることができる。しかしながら、肉眼やルーペだけでは、ホクロとしみの判別さえ難しく、良性腫瘍と悪性腫瘍の鑑別も難しい。そこで、ダーモスコープ付きカメラを用いて病変を撮影するダーモスコピー診断が行われているが、画像の観察による症例の識別は医師のスキルに依存しているのが現状である。
このため、例えば、特許文献1に、撮影され保存された患者の撮影画像からHDR(High Dynamic Range Imaging)変換したハイダイナミックレンジ合成画像を生成して比較可能な医用撮影装置の技術が記載されている。特許文献1に記載された技術によれば、診断スキルの有無に依存することなく容易にダーモスコピー画像の所見を得ることができる。
しかしながら、特許文献1に記載された技術によれば、医師が目視による所見を得るときに、ダーモスコピー画像を複数並べた場合、疾患部の配置、方向、大きさ等が異なると、異なる点にのみ注目してしまい、疾患部の違いを把握することが困難になる。したがって、精度の高い診断は困難であった。
特開2015−164512号公報
本発明は上記した課題を解決するためになされたものであり、疾患部の違いを把握することを容易にし、精度の高い診断支援を行うことができる、診断支援装置、及び診断支援装置における画像処理方法、並びにプログラムを提供することを目的とする。
上記した課題を解決するために本発明の一態様は、撮影画像から病変を診断するための診断支援装置における画像処理方法であって、病変に係る既知の第1撮影画像に対応するリファレンス画像がデータベースに登録されており、病変に係る未知の第2撮影画像に対応するクエリ画像を前記データベースのリファレンス画像と対比することにより診断支援を行うに際し、前記リファレンス画像から幾何変形が施されたリファレンス画像を作成し、または前記クエリ画像から幾何変形が施されたクエリ画像を作成することを特徴とする。
また、本発明の他の態様は、撮影画像から病変を診断するための診断支援装置であって、病変に係る既知の第1撮影画像に対応するリファレンス画像が登録されているデータベースを備え、病変に係る未知の第2撮影画像に対応するクエリ画像を前記データベースのリファレンス画像と対比することにより診断支援が行われるに際し、前記リファレンス画像から幾何変形を施されたリファレンス画像を作成し、または前記クエリ画像から幾何変形を施されたクエリ画像を作成する増量手段を備えることを特徴とする。
本発明の他の特徴は、本明細書及び添付図面の記載により明らかにする。
本発明によれば、疾患部の違いを把握することを容易にし、精度の高い診断支援を行うことができる、診断支援装置、及び診断支援装置における画像処理方法、並びにプログラムを提供することができる。
本発明の第1実施形態に係る診断支援装置の構成を示すブロック図である。 本発明の第1実施形態に係る診断支援装置による特徴ベクトルデータベース生成処理の手順を示すフローチャートである。 本発明の第1実施形態に係る診断支援装置による画像検索処理の手順を示すフローチャートである。 図2の第1リサイズ増量倍率決定処理におけるリサイズ増量方針を説明する図である。 図2の入力画像外挿処理における第1外挿画像と第1切出し画像の一例を示す図である。 本発明の第1実施形態に係る診断支援装置による幾何変形処理の拡張例を説明するために引用した図である。 本発明の第2実施形態に係る診断支援装置の構成を示すブロック図である。 本発明の第2実施形態のアンサンブル識別器(ニューラルネットワーク)の構成を示すブロック図である。 本発明の第2実施形態の画像事前増量を示すフローチャートである。 本発明の第2実施形態の画像事前増量のための幾何変形のパターンの一例を説明する図である。 本発明の第2実施形態の機械学習識別器生成処理の流れを示すフローチャートである。 本発明の第2実施形態の被検画像(未知の画像識別)識別処理の流れを示すフローチャートである。
以下、添付図面を参照して、本発明を実施するための形態(以下、実施形態)について詳細に説明する。以降の図においては、実施形態の説明の全体を通して同じ要素には同じ番号又は符号を付している。
(第1実施形態の構成)
図1は、第1実施形態に係る診断支援装置1の構成を示すブロック図である。図1に示すように、本実施態に係る診断支援装置1には、ダーモスコープ付撮影装置20が接続されている。
ダーモスコープ付撮影装置20は、診断支援装置1の装置本体10からの指示により撮影を行い、撮影画像(ダーモスコピー画像)を画像記憶部15に記憶するとともに表示装置40上に表示する。また、撮影画像は、装置本体10により画像処理が施されて画像記憶部15に記憶するとともに表示装置40上に表示される。
入力装置30は、ダーモスコピー画像の撮影開始指示や、後述するダーモスコピー画像中の部位選択操作等を行う。なお、表示装置40は、例えば、LCD(Liquid Crystal Display)モニタ等により構成され、入力装置30は、マウス等により構成されている。
装置本体10は、撮影画像取得部11と、リファレンス画像特徴ベクトル抽出部12と、クエリ画像特徴ベクトル抽出部13と、検索手段14と、画像記憶部15と、データ記憶部16と、を含む。
撮影画像取得部11は、ダーモスコープ付撮影装置20により撮影された撮影画像を取り込んでリファレンス画像特徴ベクトル抽出部12、及びクエリ画像特徴ベクトル抽出部13へ出力する。リファレンス画像特徴ベクトル抽出部12は、病変に係る既知の撮影画像(第1撮影画像)に基づいて形成されるリファレンス画像について画像特徴ベクトル(第1画像特徴ベクトル)を抽出してデータ記憶部16の一部領域に割り当てられる特徴ベクトルデータベース(以下、特徴ベクトルDB160という)に登録する。なお、リファレンス画像は、第1撮影画像に幾何変形を施して増量することによって形成されており、幾何変形を施されたリファレンス画像が提示されることにより診断支援が行われる。以下では、リファレンス画像を予め増量しておく例について説明するが、増量計算は、クエリ画像との比較時に行ってもよい。また、クエリ画像のほうを増量してもよい。提示とは、表示して医師の支援をしてもよいし、比較して機械の支援をしてもよい。
このため、リファレンス画像特徴ベクトル抽出部12は、幾何変形処理部121(増量手段を含む)と、画像切出し部122と、DB登録部123と、を含み、構成されている。
幾何変形処理部121は、病変に係る既知の撮影画像(第1撮影画像)の第1短辺実寸長を算出し、算出した第1短辺実寸長を用いて第1撮影画像の第1リサイズ増量倍率を決定し、第1撮影画像に外挿処理を施して第1外挿画像とし、第1外挿画像に回転、反転及び第1リサイズ増量倍率に基づくリサイズによって幾何変形処理を施すことにより増量して第1幾何変形画像とする。このとき、第1リサイズ増量倍率は、第1短辺実寸長を踏まえ、第1短辺実寸長の全体平均よりも小さいものは大きくなる方向に、第1短辺実寸長の全体平均よりも大きいものは小さくなる方向に設定される。
画像切出し部122は、幾何変形処理部121から出力される第1幾何変形画像から中央正方形領域をクロップすることにより第1切出し画像を得、第1切出し画像からリファレンス画像の画像特徴ベクトル(第1画像特徴ベクトル)を抽出する。DB登録部123は、画像切出し部122により抽出されたリファレンス画像の第1特徴ベクトルをデータ記憶部16の特徴ベクトルDB160に登録する。
クエリ画像特徴ベクトル抽出部13は、病変に係る未知の撮影画像(第2撮影画像)に基づいて形成されるクエリ画像について画像特徴ベクトル(第2画像特徴ベクトル)を抽出して検索手段14へ引き渡す。
検索手段14は、特徴ベクトルDB160を参照してリファレンス画像の特徴ベクトル(第1画像特徴ベクトル)とクエリ画像の特徴ベクトル(第2特徴ベクトル)とを対比し、リファレンス画像の中からクエリ画像に類似する少なくとも1つの候補を検索して表示装置40へ出力する。このため、検索手段14は、クエリ画像の特徴ベクトルと、特徴ベクトルDB160に登録されてある全てのリファレンス画像の特徴ベクトルとの間の距離(ユークリッド距離)を算出するベクトル間距離算出部141を含む。
画像記憶部15は、ダーモスコープ付撮影装置20により撮影される患部のダーモスコピー画像を記憶する他に、第1実施形態に係るプログラムの実行途中で生成される画像他、各種データを記憶する。データ記憶部16は、リファレンス画像特徴ベクトル抽出部12により生成される特徴ベクトルDB160を記憶する。画像記憶部15とデータ記憶部16はともに、半導体、磁気、光等のうち、いずれかの記憶素子が実装されている。
(第1実施形態の動作)
以下、図2,図3のフローチャートを参照しながら、図1に示す第1実施形態に係る診断支援装置1の処理手順について詳細に説明する。最初に図2のフローチャートを参照しながら第1実施形態に係る診断支援装置1の特徴ベクトル生成処理の手順から説明する。なお、特徴ベクトルの生成処理はオフラインで実行される。
具体的に、まず、医師が、入力装置30を操作することによる指示の下、ダーモスコープ付撮影装置20により患部の撮影を行うと、装置本体10は、撮影画像取得部11が変換対象となる撮影後のダーモスコピー画像を取り込み、画像記憶部15へ記憶するとともに、リファレンス画像特徴ベクトル抽出部12へ出力する(ステップS201)。これを受けてリファレンス画像特徴ベクトル抽出部12は、幾何変形処理部121が、画像の第1短辺実寸長を算出する(ステップS202)。
ダーモスコープ付撮影装置20の接眼アダプタにより撮影距離は固定されており、このため、幾何変形処理部121は、撮影画像(第1撮影画像)のEXIF(Exchange Image File Format)画像ファイルから機種情報と焦点距離設定を読み出して演算することにより、撮影画像の短辺実寸を求めることができる。
続いて、幾何変形処理部121は、算出された撮影画像の第1短辺実寸長にしたがい画像増量の倍率(第1リサイズ増量倍率)を設定する(ステップS203)。図4に、縦軸にサンプル数、横軸に第1短辺実寸長(mm)をとった統計グラフが示されている。図4によれば、bin11(短辺10〜11mm)に第1短辺実寸長が平均的に分布している。ここでは、データ群を3グループに分類してそれぞれに第1リサイズ増量倍率を設定することとした。幾何変形処理部121で設定される第1リサイズ増量倍率は、算出された第1短辺実寸長を踏まえ、第1短辺実寸長の全体平均よりも小さいものは大きくなる方向に、第1短辺実寸長の全体平均よりも大きいものは小さくなる方向に設定される。
ステップS203の第1リサイズ増量倍率設定処理にあたり、幾何変形処理部121は、例えば、第1短辺実寸長が全体平均に近い場合(9mm以上23mm未満)、0.8,1.0,1.2倍の3パターン設定し、第1短辺実寸長が全体平均より小さい場合(9mm未満)、0.6,0.8,1.0倍の大き目のサイズの3パターン設定し、第1短辺実寸長が全体平均より大きい場合(12mm以上)、1.0,1.2,1.4倍の小さ目のサイズの3パターン設定することとした。
次に、幾何変形処理部121は、撮影画像の外挿処理を実行する(ステップS204)。すなわち、ズームアウトのリサイズ等を行うと、元の撮影画像が存在しない領域が有効領域に含まれるようになり、その際、元の撮影画像が存在しない領域が画像特徴とならないように第1外挿画像を作成する必要がある。図5に、第1外挿画像の一例が示されている。
続いて、幾何変形処理部121は、第1外挿画像の回転と反転とリサイズ幾何変形処理を実行する(ステップS205:第1外挿画像回転+反転+リサイズ幾何変形処理)。ここでは、例えば、360/16刻みの回転と、反転のあり/なしと、ステップS203で決定された3パターンの第1リサイズ増量倍率にしたがい、16[回転]×2[反転]×3[倍率]=96種類の幾何変形処理を実行して画像切出し部122に制御を移す。
画像切出し部122は、第1外挿画像の幾何変形処理画像をステップS205の幾何変形処理後の画像と同一画素サイズで取得し、例えば、図5に示すように、中央正方形領域をクロップして第1切出し画像とする(ステップS206)。そして、クロップされた画像から所望の画像特徴ベクトル(第1画像特徴ベクトル)を抽出し、DB登録部123に出力する。DB登録部123は、抽出した第1画像特徴ベクトルをデータ記憶部16の一部領域に割り当てられる特徴ベクトルDB160に登録する(ステップS207:画像特徴ベクトル抽出+データベース登録)。
上記した、第1外挿画像回転+反転+リサイズ幾何変形処理(ステップS205),幾何変形処理後の中央領域のクロップ処理(ステップS206),画像特徴ベクトル抽出+データベース登録(ステップS207)の処理は、前述したような全96パターンの幾何変形処理後の画像に対して終了するまで(ステップS209“YES”)、繰り返し実行される。
次に、図3のフローチャートを参照しながら第1実施形態に係る診断支援装置1の画像検索の処理動作を説明する。ここでは、図2のフローチャートにしたがい生成されデータ記憶部16の一部領域に割り当てられ記憶された特徴ベクトルDB160を用いて未知のクエリ画像の画像検索をオンラインで実行する。
まず、医師が入力装置30を操作することによる指示の下、ダーモスコープ付撮影装置20により患部の撮影を行うと、装置本体10は、撮影画像取得部11が検索クエリとなる撮影後のダーモスコピー画像(第2撮影画像)を取り込み、クエリ画像特徴ベクトル抽出部13へ出力する(ステップS301)。クエリ画像特徴ベクトル抽出部13は、図2のフローチャートを用いて説明したリファレンス画像の特徴ベクトル生成処理と同様、画像の第2短辺実寸長算出、第2リサイズ増量倍率決定、撮影画像外挿処理後、第2外挿画像回転+反転+リサイズ幾何変形処理,幾何変形処理後の中央領域のクロップ処理,画像特徴ベクトル抽出の処理を実行することにより、クエリ画像の特徴ベクトル(第2画像特徴ベクトル)を抽出して検索手段14に出力する(ステップS302)。
検索手段14は、ベクトル間距離算出部141が、クエリ画像と、データ記憶部16の特徴ベクトルDB160に登録されたリファレンス画像とのベクトル間距離を算出する(ステップS303)。ここでは、ベクトル間距離算出部141は、特徴ベクトルDB160に登録済みの幾何変形処理を施して増量された1サンプルあたり96個のリファレンス画像について個別にユークリッド距離を算出する。そして、サンプルごとに各ユークリッド距離を求め、これら96個のリファレンス画像中の最短距離のサンプルのみを残す(ステップS304)。
続いて、ベクトル間距離算出部141は、各サンプルの最短距離を短い順に並べ替えて検索候補順位とし(ステップS305)、表示装置40に対し、検索候補順位順に各サンプルの候補提示を行う(ステップS306)。
(第1実施形態の効果)
第1実施形態に係る診断支援装置1によれば、装置本体10(リファレンス画像特徴ベクトル抽出部12)が、病変に係る既知の撮影画像(第1撮影画像)に幾何変形処理を施して増量することによって形成されるリファレンス画像から画像特徴ベクトル(第1画像特徴ベクトル)を抽出してデータ記憶部16上に特徴ベクトルDB160を構築する。そして、装置本体10(クエリ画像特徴ベクトル抽出部13)が、病変に係る未知の撮影画像(第2撮影画像)に基づいて形成されるクエリ画像について画像特徴ベクトル(第2特徴ベクトル)を抽出し、検索手段14が、データ記憶部16の特徴ベクトルDB160を参照してリファレンス画像の画像特徴ベクトルとクエリ画像の画像特徴ベクトルとを対比し、リファレンス画像の中からクエリ画像に類似する少なくとも1つの候補を検索して表示装置40へ出力することにより、医師が、画像を複数並べて目視したときに、疾患部の違いを俯瞰的に把握することを容易にし、その結果、精度の高い診断支援を行うことができる。なお、画像は1画像ずつ表示させて見比べるようにしてもよい(以下同じ。)
なお、装置本体10(リファレンス画像特徴ベクトル抽出部12,クエリ画像特徴ベクトル抽出部13)が、撮影画像(第1、第2撮影画像)に幾何変形を施して増量する際、第1又は第2リサイズ増量倍率は、算出された第1又は第2短辺実寸長を踏まえ、第1又は第2短辺実寸長の全体平均よりも小さいものは大きくなる方向に、第1又は第2短辺実寸長の全体平均よりも大きいものは小さくなる方向に設定することで、撮影構図等、撮影対象とは無関係な、類似度検索に本質でない点の影響を低減することができる。したがって、検索された候補を表示するときにクエリ画像と同じ構図で表示することができ、目視による参照比較が容易になる。したがって、第1実施形態に係る診断支援装置1によれば、画像を複数並べたときに疾患部の違いを俯瞰的に把握することを容易にし、精度の高い診断支援を行うことができる。
なお、第1実施形態に係る診断支援装置1によれば、例えば、図5に示すように、第1外挿画像をクロップして得られる第1切出し画像を1種類としたが、例えば、図6に示すように、切出し位置をオフセット設定することにより、幾何増量パターンを拡張することができる。具体的に、画像の切出し位置(中心)を7箇所シフトさせることで、7種類の第1外挿画像の第1幾何変形画像を得ることができ、その結果、幾何変形増量パターンを増やすことができ、その結果、検索精度が向上する。ここで述べた点は、クエリ画像に係る第2外挿画像、第2切出し画像及び第2幾何変形画像についても、当てはまる。
また、上記した第1実施形態に係る診断支援装置1は、スタンドアロン構成で説明したが、例えば、装置本体10をサーバで実現し、入力装置30と表示装置40をサーバにIP(Internet Protocol)網等のネットワーク経由で接続される端末で実現し、サーバが、端末から検索クエリを受信することにより特徴ベクトルDB160に蓄積された特徴ベクトルと比較し、クエリ画像に類似する少なくとも1つの候補を検索して要求のあった端末に出力するクライアントサーバシステムで実現してもよい。
なお、第1実施形態に係る画像処理方法は、例えば、図1に示すように、撮影画像から病変を診断するための診断支援装置1における画像処理方法である。そして、その画像処理方法は、例えば、病変に係る既知の第1撮影画像に基づいて形成されるリファレンス画像について第1画像特徴ベクトルを抽出して登録するデータベースを生成するステップ(A)と、病変に係る未知の第2撮影画像に基づいて形成されるクエリ画像について第2画像特徴ベクトルを抽出してデータベースを参照して第1画像特徴ベクトルと対比し、リファレンス画像の中からクエリ画像に類似する少なくとも1つの候補を検索するステップ(B)と、を備え、データベース生成ステップ(A)において、リファレンス画像が、第1撮影画像に幾何変形を施して増量することによって形成されていることを特徴とする。
ここで、ステップ(A)とは、例えは、図2のフローチャートに示すステップS201〜S209をいい、ステップ(B)とは、例えば、図3のフローチャートのステップS301〜S306をいう。
また、第1実施形態に係る画像処理方法において、データベース生成ステップ(A)は、第1撮影画像を入力するステップ(A2)と、第1撮影画像の第1短辺実寸長を算出するステップ(A3)と、第1短辺実寸長を用いて第1撮影画像の第1リサイズ増量倍率を決定するステップ(A4)と、第1撮影画像に外挿処理を施して第1外挿画像とするステップ(A5)と、第1外挿画像に回転、反転及び前記第1リサイズ増量倍率に基づくリサイズによって幾何変形処理を施すことにより増量して第1幾何変形画像とするステップ(A6)と、第1幾何変形画像から中央正方形領域をクロップすることにより第1切出し画像を得るステップ(A7)と、第1切出し画像において第1画像特徴ベクトルを抽出して登録するステップ(A8)と、を備えてもよい。
ここで、ステップ(A2)は図2中のステップS201、ステップ(A3)は図2中のステップS202、ステップ(A4)は図2中のステップS203、ステップ(A5)は図2中のステップS204、ステップ(A6)は図2中のステップS205、ステップ(A7)は図2中のステップS206、ステップ(A8)は図2中のステップS207、のそれぞれをいう。
検索ステップ(B)は、第2撮影画像を入力するステップ(B2)と、第2撮影画像の第2短辺実寸長を算出するステップ(B3)と、第2短辺実寸長を用いて第2撮影画像の第2リサイズ増量倍率を決定するステップ(B4)と、第2撮影画像に外挿処理を施して第2外挿画像とするステップ(B5)と、第2外挿画像に回転、反転及び前記第2リサイズ増量倍率に基づくリサイズによって幾何変形処理を施すことにより増量して第2幾何変形画像とするステップ(B6)と、第2幾何変形画像から中央正方形領域をクロップすることにより第2切出し画像を得るステップ(B7)と、第2切出し画像において第2画像特徴ベクトルを抽出するステップ(B8)と、第2画像特徴ベクトルと第1画像特徴ベクトルとのベクトル間距離を算出するステップ(B9)と、第1画像特徴ベクトルのサンプルごとにベクトル間距離を求め、最短距離のサンプルのみを残すステップ(B10)と、各サンプルの最短距離を短い順に並べ替えて検索候補順位とするステップ(B11)と、検索候補順位順に各サンプルの候補提示を行うステップ(B12)と、を備えてもよい。
ここで、ステップ(B2)〜ステップ(B8)は、ステップ(A2)〜ステップ(A8)に対応しており、図3中において、ステップ(B2)はステップS301、ステップ(B3)〜ステップ(B8)はステップS302、のそれぞれをいう。また、ステップ(B9)は図3中のステップS303、ステップ(B10)は図3中のステップS304、ステップ(B11)は図3中のステップS305、ステップ(B12)は図3中のステップS306、のそれぞれをいう。
第1実施形態に係る画像処理方法によれば、画像を複数並べて目視による所見を得る場合に、疾患部の違いを俯瞰的に把握することを容易にし、精度の高い診断支援を行うことができる。
なお、第1実施形態に係るプログラムは、例えば、図1に示すように、撮影画像から病変を診断するための診断支援装置1における画像処理方法のプログラムである。そしてそのプログラムは、コンピュータ(装置本体10)に、上記した第1実施形態に係る画像処理方法における各ステップと同様の処理を実行させるものであり、重複を回避する意味で各処理の説明を省略する。
第1実施形態に係るプログラムによれば、装置本体10が、上記した第1実施形態に係るプログラムを読み出し実行することにより、画像を複数並べて目視による所見を得る場合に、疾患部の違いを俯瞰的に把握することを容易にするため、精度の高い診断支援を行うことができる。なお、第1実施形態に係るプログラムは、装置本体10内の図示省略したプログラムメモリに記憶される。
(第2実施形態)
次に、第2実施形態について説明する。従来の正方形画像入力の機械学習では、長方形画像を正方形にリサイズしたり、事前にサイドカットして正方形にしたりして得た低解像度画像から、幾何増量を行っていたので、画質劣化の問題があった。そこで、第2実施形態は、ニューラルネットワークから構成される識別器を用いて低解像度正方形画像入力の機械学習を行うのに際し、高解像度長方形画像から、回転角、倍率を複数パターン変えた低解像度正方形画像を事前に用意し、機械学習の学習時には、事前に用意した画像に対して劣化しない90度回転と反転に留めたオンライン幾何増量を行い、画像の情報量低下を最小限に留め精度の高い学習を行う。そして、識別器の推論時にも、同様な幾何増量を行い、増量分の複数の推論値を平均して最終推論値とする。
図7は、本発明の第2実施形態に係る診断装置100Aの構成を示すブロック図である。図7に示すように、本発明の第2実施形態に係る診断装置100Aには、ダーモスコープ付き撮影装置20が接続されている。
ダーモスコープ付き撮影装置20は、診断装置100Aからの指示により撮影を行ない、撮影画像(ダーモスコピー画像)を画像記憶部15に格納すると共に、表示装置40上に表示する。また、撮影画像は、診断装置本体10により画像処理が施されて画像記憶部15に保存されると共に表示装置40上に表示される。
入力装置30は、ダーモスコープ画像の撮影開始指示や、後述するダーモスコピー画像中の部位選択操作等を行う。なお、表示装置40、例えば、LCD(Liquid Crystal Display)モニタ等により構成され、入力装置30は、マウス等により構成されている。
データ記憶部16には、学習用に付された疾患の識別名称と既知の皮膚画像データを関連付けて記録される皮膚画像データベースを兼ねる。
診断装置本体10aは、リファレンス画像特徴ベクトル抽出部12と、クエリ画像特徴ベクトル抽出部13と、アンサンブル識別器14aと、取得部11とを含む。リファレンス画像特徴ベクトル抽出部12と、クエリ画像特徴ベクトル抽出部13は、前述の第1実施形態と同様の構成を有しているのでそれらの詳細は省略するが、第2実施形態では、幾何変形処理部121において、後述するアンサンブル識別器14aの機械学習に入力するため、高解像度長方形画像から、回転角、倍率を複数パターン変えた低解像度正方形画像を事前に用意する。
この事前に用意された低解像度正方形画像は、アンサンブル識別器14aに入力される。アンサンブル識別器14aは、前処理された診断されるべき対象に係わる複数の未知の皮膚画像データに基づいて疾患であるか否かを識別する。このアンサンブル識別器14aは、対象に係る原画像データ、原画像データから変換された(第1の変換画像データ)及び同じく(第2の変換画像データ)のうち少なくとも2つを含む複数の皮膚画像データに対応するように、少なくとも2つの単位識別器142(CNN1),143(CNN2)……と、単位識別器142,143によって各別に得られた識別値を統合し、最終判定値を得る判定手段144と、を含む。
単位識別器142,143……は、疾患に係る複数の既知の皮膚画像データに基づいて学習する畳み込みニューラルネットワーク(CNN:Convolution Neural Network)を有し、幾何変形処理部121によって生成される変換画像データを、この畳み込みニューラルネットワークに入力することにより予め学習に付され、診断されるべき疾患の識別が可能なように分類情報を生成する識別器として機能する。
なお、単位識別器142,143……は、例えば、診断装置100Aが製造工場から出荷される前に製造段階で予め学習に付されていてもよいし、出荷された後に病院側などで予め学習に付されることとしてもよい。ここで、「予め」とは、診断されるべき疾患を識別するよりも前にという意味である。
図8に、畳み込みニューラルネットワーク(CNN)の代表的構成を示す。図8によれば、畳み込みニューラルネットワークは、学習段階では複数の既知の皮膚画像データ(変換画像データ)が、被検段階では複数の未知の皮膚画像データ(変換画像データ)が入力される入力層111aと、畳み込み層とプーリング層から構成されたセットを複数有し、複数の既知の皮膚画像データ又は複数の未知の皮膚画像データから特徴を抽出する中間層111bと、抽出された特徴に基づき診断対象の分類ごとに識別値を出力する出力層111cと、を備える。
上記した畳み込みニューラルネットワークの処理は、多段接続された複数の処理ユニットaを介して行われる。各処理ユニットaの入出力は、入力画像から抽出される複数の特徴である特徴マップbで示される複数の二次元画像である。この場合、入力画像も1枚の特徴量マップとみなされる。ここでは、畳み込み演算とプーリングのユニットのペアが処理ユニットaとして多段接続され、特徴量ベクトルを算出する。この特徴量ベクトルに対し、後述する判定手段144で識別処理が行われ、出力クラスを得る構成になっている。
判定手段144は、抽出された特徴を入力して識別を行う。畳み込みニューラルネットワークの学習は、誤差逆転伝搬法による学習により各層の重みを更新する。識別処理として多層パーセプトロンが用いられる。多層パーセプトロンは、入力層111a、中間層111b、出力層111cで構成される非線形のクラス識別器である。各階層間の重みは、誤差伝搬法による確率的勾配降下法で求める。識別時は、特徴量を順次伝搬し、出力層の各ユニットの出力を各クラスの事後確率として画像を分類する。ここでは、各単位識別器に142,143よって各別に得られた識別値を、例えば、平均することにより統合し、最終判定値を得る。
畳み込みニューラルネットワークは、高い精度で画像を分類するのに一般的な手法であり、例えば、インターネットURL(http://en.wikipedia.org/wiki/Convolutional neural network)等に詳細に記載されている。畳み込みニューラルネットワーク(CNN)は、脳の神経回路網を模したニューラルネットワークを多層にして学習するディープラーニング(ディープニューラルネットワーク;Deep Neural Network)の一種であり、画像解析に好適に用いることができる。なお、ディープラーニングの他の手法を採用したり、他の手法と組み合わせたりすることも可能である。
なお、取得部11は、複数の未知の皮膚画像データを取得可能であって、構造明瞭、部位強調等の画像変換のためにクエリ画像特徴ベクトル抽出部13へ出力する。
(第2実施形態の動作)
以下、図9から図12のフローチャートを参照しながら、本発明の第2実施形態に係る診断装置100Aの動作について詳細に説明する。図9は画像事前増量処理のシーケンスを、図10は画像事前増量のための幾何変形のパターンの一例を説明する図、図11は事前画像増量処理を用いてアンサンブル識別器14aに機械学習(ニューラルネットワーク)を行わせる学習手順を、図12は学習済みのアンサンブル識別器14aを用いた推論手順を、それぞれ示している。なお、以下の動作は、コンピュータに実行させる学習処理プログラムとして構成することができる。
図9に示すように、まず、撮影画像の事前増量を行う。すなわち、一般的な撮影画像である長方形の高解像度の画像を診断支援装置100Aに入力する(ステップS10)。そして、画像を幾何変形の上、所定の低解像度の正方形画像(例:224x224)を複数パターンで生成する(ステップS20)。すなわち、前もって正方形画像(224x224)を用意し、アンサンブル識別器14aのニューラルネットワーク内では、画像劣化しない90xL度回転、反転の増量のみを行う。ここで、Lは0〜3の整数であり、90xL度は、0度、90度、180度、270度を表す。
幾何変形の具体例を図10に示す。幾何変形は、画像の回転及び短辺長の伸縮によって行われる。図10の上段に示したパターン1では、1つの単位識別器向けに、画像を0度又は90度回転し、その後、双方の元画像の短辺側が224x0.9画素となるような変形を行う。中段に示したパターン2では、他の単位識別器向けに、画像を0度、45度、−11度又は22度回転し、その後、それぞれの元画像の短辺側が224x0.9画素、224x0.9画素、224x1.1画素、224x1.2画素となるような変形を行う。下段に示したパターン3では、さらに他の単位識別器向けに、画像を0度、45度、11度又は−23度回転し、その後、それぞれの元画像の短辺側が224x0.9画素、224x1.0画素、224x1.12画素、224x1.25画素となるような変形を行う。なお、短辺側を0.9倍とすると、元画像が224画素の中に収まらないので、適切な外挿処理を行う。また、図10では単位識別器が3つ設けられた例を示しているが、少なくとも2つの単位識別器が設けられていればよく、要するに、各単位識別器向けに異なるパターンで幾何変形が行われる。
アンサンブル識別器14aによる機械学習は、図11に示した次のような手順による。まず、機械学習用に複数枚(M枚)の学習画像(リファレンス画像)を用意する(ステップS31)。次に、図9の手順にて、学習画像をN通りの事前増量し、MxN枚とする(ステップS32)。これらのMxN枚の学習画像の中から所定の画像を取り出し、90xL度回転と、反転する/しない、をランダムに行う(ステップS33)。そして、これらの増量した画像をニューラルネットワークに入力し学習を行う(ステップS34)。学習に必要な回数に達したかどうかを判定し(ステップS35)、ステップS33及びステップS34の手順を繰り返す。必要な回数を終了すると、学習済みのアンサンブル識別器14aが生成される(ステップS36)。ここで、M及びNは2以上の整数である。
図11で示した手順によって生成された学習済みのアンサンブル識別器14aを用いて、未知の撮影画像(クエリ画像)の識別(推論)を図12に示した次のような手順で行う。まず、予測対象の未知の画像を1枚入力する(ステップS41)。次に、図9の手順にて、未知の撮影画像をN通りの事前増量し、N枚とする(ステップS42)。これらのN枚の画像それぞれについて、90xL度回転と、反転する/しない、の組み合わせで、8通りの幾何変形画像を行い、8xN枚の画像を生成する(ステップS43)。そして、これら各8xN枚の画像を学習済みアンサンブル識別器14aに個別に入力し、8xN個の推論値を得る(ステップS44)。最後に、8xN個の推論値を平均して、最終推論値とする(ステップS45)。以上により、推論を終了する(ステップS46)。
なお、第2実施形態の拡大適用として、例えば、図10のパターン1で学習・推論した値と、バターン2又はパターン3で学習・推論した値を平均して最終推論値としてもよい。
(第2実施形態の効果)
事前に高解像度画像から、回転・リサイズを行った画像を用意しておくことにより、拡大などによる画質劣化、回転による見切れ部の発生などを抑制することができ、元画像の情報損失を最小限に抑える効果がある。
以上、実施形態を用いて本発明を説明したが、本発明の技術的範囲は上記実施形態に記載の範囲には限定されないことは言うまでもない。上記実施形態に、多様な変更又は改良を加えることが可能であることが当業者に明らかである。またその様な変更又は改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。具体的には、上記実施形態は皮膚における病変を対象として説明したが、本発明は皮膚以外にも、例えば、眼底や子宮などの臓器における病変にも適用が可能である。
以下に、この出願の願書に最初に添付した特許請求の範囲に記載した発明を付記する。付記に記載した請求項の項番は、この出願の願書に最初に添付した特許請求の範囲のとおりである。
[請求項1]
撮影画像から病変を診断するための診断支援装置における画像処理方法であって、
病変に係る既知の第1撮影画像に対応するリファレンス画像がデータベースに登録されており、病変に係る未知の第2撮影画像に対応するクエリ画像を前記データベースのリファレンス画像と対比することにより診断支援を行うに際し、
前記リファレンス画像から幾何変形が施されたリファレンス画像を作成し、または前記クエリ画像から幾何変形が施されたクエリ画像を作成することを特徴とする方法。
[請求項2]
(a)前記病変に係る既知の第1撮影画像に基づいて形成されるリファレンス画像について、その第1画像特徴ベクトルを抽出し、
(b)前記抽出された第1画像特徴ベクトルを登録し、
(c)前記リファレンス画像が、前記既知の第1撮影画像に幾何変形を施して増量することによって形成されており、前記幾何変形を施されたリファレンス画像により診断支援が行われることを特徴とする請求項1に記載の方法。
[請求項3]
前記第1画像特徴ベクトルの抽出において、
前記第1撮影画像の第1短辺実寸長を算出し、
前記第1短辺実寸長を用いて前記第1撮影画像の第1リサイズ増量倍率を決定し、
前記第1撮影画像に外挿処理を施して第1外挿画像とし、
前記第1外挿画像に回転、反転及び前記第1リサイズ増量倍率に基づくリサイズによって幾何変形処理を施すことにより増量して第1幾何変形画像とし、
前記第1幾何変形画像から中央正方形領域をクロップすることにより第1切出し画像を得、前記第1切出し画像において前記第1画像特徴ベクトルを抽出することを特徴とする請求項2に記載の方法。
[請求項4]
前記第1リサイズ増量倍率が、前記第1短辺実寸長を踏まえ、前記第1短辺実寸長の全体平均よりも小さいものは大きくなる方向に、前記第1短辺実寸長の全体平均よりも大きいものは小さくなる方向に設定されることを特徴とする請求項3に記載の方法。
[請求項5]
(d)病変に係る未知の第2撮影画像に基づいて形成されるクエリ画像について第2画像特徴ベクトルを抽出し、
(e)前記第2画像特徴ベクトルを前記第1画像特徴ベクトルと対比し、前記リファレンス画像の中から前記クエリ画像に類似する少なくとも1つの候補を検索することを特徴とする請求項2から4のいずれか1項に記載の方法。
[請求項6]
前記第2画像特徴ベクトルの抽出において、
前記第2撮影画像の第2短辺実寸長を算出し、
前記第2短辺実寸長を用いて前記第2撮影画像の第2リサイズ増量倍率を決定し、
前記第2撮影画像に外挿処理を施して第2外挿画像とし、
前記第2外挿画像に回転、反転及び前記第2リサイズ増量倍率に基づくリサイズによって幾何変形処理を施すことにより増量して第2幾何変形画像とし、
前記第2幾何変形画像から中央正方形領域をクロップすることにより第2切出し画像を得、前記第2切出し画像において前記第2画像特徴ベクトルを抽出することを特徴とする請求項5に記載の方法。
[請求項7]
前記第2リサイズ増量倍率が、前記第2短辺実寸長を踏まえ、前記第2短辺実寸長の全体平均よりも小さいものは大きくなる方向に、前記第2短辺実寸長の全体平均よりも大きいものは小さくなる方向に設定されることを特徴とする請求項6に記載の方法。
[請求項8]
前記病変に係る既知の前記第1撮影画像に基づいて形成される前記リファレンス画像について第1画像特徴ベクトルを抽出して登録するデータベースを生成するステップ(A)を備え、
前記ステップ(A)が、
前記第1撮影画像を入力するステップ(A2)と、
前記第1撮影画像の第1短辺実寸長を算出するステップ(A3)と、
前記第1短辺実寸長を用いて前記第1撮影画像の第1リサイズ増量倍率を決定するステップ(A4)と、
前記第1撮影画像に外挿処理を施して第1外挿画像とするステップ(A5)と、
前記第1外挿画像に回転、反転及び前記第1リサイズ増量倍率に基づくリサイズによって幾何変形処理を施すことにより増量して第1幾何変形画像とするステップ(A6)と、
前記第1幾何変形画像から中央正方形領域をクロップすることにより第1切出し画像を得るステップ(A7)と、
前記第1切出し画像において前記第1画像特徴ベクトルを抽出して登録するステップ(A8)と、を備えることを特徴とする請求項1に記載の方法。
[請求項9]
前記病変に係る未知の前記第2撮影画像に基づいて形成される前記クエリ画像について第2画像特徴ベクトルを抽出して、病変に係る既知の前記第1撮影画像に基づいて形成される前記リファレンス画像について抽出された第1画像特徴ベクトルと対比し、前記リファレンス画像の中から前記クエリ画像に類似する少なくとも1つの候補を検索するステップ(B)を備え、
前記ステップ(B)が、
前記第2撮影画像を入力するステップ(B2)と、
前記第2撮影画像の第2短辺実寸長を算出するステップ(B3)と、
前記第2短辺実寸長を用いて前記第2撮影画像の第2リサイズ増量倍率を決定するステップ(B4)と、
前記第2撮影画像に外挿処理を施して第2外挿画像とするステップ(B5)と、
前記第2外挿画像に回転、反転及び前記第2リサイズ増量倍率に基づくリサイズによって幾何変形処理を施すことにより増量して第2幾何変形画像とするステップ(B6)と、
前記第2幾何変形画像から中央正方形領域をクロップすることにより第2切出し画像を得るステップ(B7)と、
前記第2切出し画像において前記第2画像特徴ベクトルを抽出するステップ(B8)と、
前記第2画像特徴ベクトルと前記第1画像特徴ベクトルとのベクトル間距離を算出するステップ(B9)と、
前記第1画像特徴ベクトルのサンプルごとに前記ベクトル間距離を求め、最短距離のサンプルのみを残すステップ(B10)と、
各サンプルの最短距離を短い順に並べ替えて検索候補順位とするステップ(B11)と、
検索候補順位順に各サンプルの候補提示を行うステップ(B12)と、を備えることを特徴とする請求項1に記載の方法。
[請求項10]
前記幾何変形が施されたリファレンス画像をニューラルネットワークに入力して機械学習しアンサンブル識別器を生成し、前記幾何変形が施されたクエリ画像を機械学習済みの前記アンサンブル識別器に入力して前記クエリ画像の識別を行うことを特徴とする請求項1に記載の方法。
[請求項11]
前記リファレンス画像の幾何変形において前記第1撮影画像としての高解像度長方形画像から低解像度正方形画像を事前に用意し、その低解像度正方形画像を幾何増量してニューラルネットワークに入力して機械学習しアンサンブル識別器を生成することを特徴とする請求項1から9のいずれか1項に記載の方法。
[請求項12]
前記クエリ画像の幾何変形において前記第2撮影画像としての高解像度長方形画像から低解像度正方形画像を事前に用意し、その低解像度正方形画像を幾何増量して機械学習済みの前記アンサンブル識別器に入力して前記クエリ画像の識別を行うことを特徴とする請求項1から9のいずれか1項に記載の方法。
[請求項13]
前記アンサンブル識別器が複数の単位識別器を含み、前記リファレンス画像及び/又は前記クエリ画像が、各単位識別器向けに異なるパターンによって幾何変形されることを特徴とする請求項10から12のいずれか1項に記載の方法。
[請求項14]
前記リファレンス画像について、
機械学習用にM枚の前記第1撮影画像を用意し、
前記第1撮影画像をN通りの事前増量をしてM×N枚とし、
M×N枚の前記学習画像の中から所定の画像を取り出し、90×L度の回転、反転する/しないをランダムに幾何変形し、
幾何変形した前記第1撮影画像をニューラルネットワークに入力して機械学習を行い、
必要な回数に達するまで、幾何変形及び機械学習を繰り返し、
識別器を生成することを特徴とする請求項1から9のいずれか1項に記載の方法。
ここで、M及びNは2以上の整数、Lは0〜3の整数である。
[請求項15]
前記第1撮影画像として高解像度長方形画像を入力し、前記高解像度長方形画像から低解像度正方形画像を事前に用意することを特徴とする請求項14に記載の方法。
[請求項16]
前記クエリ画像について、
予測対象の前記第2撮影画像を1枚入力し、
前記第2撮影画像をN通りの事前増量をしてN枚とし、
N枚の前記第2撮影画像それぞれについて、90×L度の回転、反転する/しないの組み合わせで8通りに幾何変形し、
幾何変形した8×N枚の前記第2撮影画像を機械学習済みの前記識別器に個別に入力し、8×N個の推論値を得、
8×N個の推論値を平均して最終推論値とすることを特徴とする請求項1から9のいずれか1項に記載の方法。
ここで、Nは2以上の整数、Lは0〜3の整数である。
[請求項17]
前記第2撮影画像として高解像度長方形画像を入力し、前記高解像度長方形画像から低解像度正方形画像を事前に用意することを特徴とする請求項16に記載の方法。
[請求項18]
撮影画像から病変を診断するための診断支援装置であって、
病変に係る既知の第1撮影画像に対応するリファレンス画像が登録されているデータベースを備え、
病変に係る未知の第2撮影画像に対応するクエリ画像を前記データベースのリファレンス画像と対比することにより診断支援が行われるに際し、
前記リファレンス画像から幾何変形を施されたリファレンス画像を作成し、または前記クエリ画像から幾何変形を施されたクエリ画像を作成する増量手段を備えることを特徴とする診断支援装置。
[請求項19]
コンピュータに請求項1から17のいずれか1項に記載の画像処理方法を実行させるプログラム。
1…診断支援装置、10…装置本体、11…撮影画像取得部、12…リファレンス画像特徴ベクトル抽出部、13…クエリ画像特徴ベクトル抽出部、14…検索手段、14a…アンサンブル識別器、15…画像記憶部、16…データ記憶部、20…ダーモスコープ付撮影装置、30…入力装置、40…表示装置、121…幾何変形処理部、122…画像切出し部、123…DB登録部、141…ベクトル間距離算出部、142,143…単位識別器、144…判定手段、160…特徴ベクトルDB

Claims (19)

  1. 撮影画像から病変を診断するための診断支援装置における画像処理方法であって、
    病変に係る既知の第1撮影画像に対応するリファレンス画像がデータベースに登録されており、病変に係る未知の第2撮影画像に対応するクエリ画像を前記データベースのリファレンス画像と対比することにより診断支援を行うに際し、
    前記リファレンス画像から幾何変形が施されたリファレンス画像を作成し、または前記クエリ画像から幾何変形が施されたクエリ画像を作成することを特徴とする方法。
  2. (a)前記病変に係る既知の第1撮影画像に基づいて形成されるリファレンス画像について、その第1画像特徴ベクトルを抽出し、
    (b)前記抽出された第1画像特徴ベクトルを登録し、
    (c)前記リファレンス画像が、前記既知の第1撮影画像に幾何変形を施して増量することによって形成されており、前記幾何変形を施されたリファレンス画像により診断支援が行われることを特徴とする請求項1に記載の方法。
  3. 前記第1画像特徴ベクトルの抽出において、
    前記第1撮影画像の第1短辺実寸長を算出し、
    前記第1短辺実寸長を用いて前記第1撮影画像の第1リサイズ増量倍率を決定し、
    前記第1撮影画像に外挿処理を施して第1外挿画像とし、
    前記第1外挿画像に回転、反転及び前記第1リサイズ増量倍率に基づくリサイズによって幾何変形処理を施すことにより増量して第1幾何変形画像とし、
    前記第1幾何変形画像から中央正方形領域をクロップすることにより第1切出し画像を得、前記第1切出し画像において前記第1画像特徴ベクトルを抽出することを特徴とする請求項2に記載の方法。
  4. 前記第1リサイズ増量倍率が、前記第1短辺実寸長を踏まえ、前記第1短辺実寸長の全体平均よりも小さいものは大きくなる方向に、前記第1短辺実寸長の全体平均よりも大きいものは小さくなる方向に設定されることを特徴とする請求項3に記載の方法。
  5. (d)病変に係る未知の第2撮影画像に基づいて形成されるクエリ画像について第2画像特徴ベクトルを抽出し、
    (e)前記第2画像特徴ベクトルを前記第1画像特徴ベクトルと対比し、前記リファレンス画像の中から前記クエリ画像に類似する少なくとも1つの候補を検索することを特徴とする請求項2から4のいずれか1項に記載の方法。
  6. 前記第2画像特徴ベクトルの抽出において、
    前記第2撮影画像の第2短辺実寸長を算出し、
    前記第2短辺実寸長を用いて前記第2撮影画像の第2リサイズ増量倍率を決定し、
    前記第2撮影画像に外挿処理を施して第2外挿画像とし、
    前記第2外挿画像に回転、反転及び前記第2リサイズ増量倍率に基づくリサイズによって幾何変形処理を施すことにより増量して第2幾何変形画像とし、
    前記第2幾何変形画像から中央正方形領域をクロップすることにより第2切出し画像を得、前記第2切出し画像において前記第2画像特徴ベクトルを抽出することを特徴とする請求項5に記載の方法。
  7. 前記第2リサイズ増量倍率が、前記第2短辺実寸長を踏まえ、前記第2短辺実寸長の全体平均よりも小さいものは大きくなる方向に、前記第2短辺実寸長の全体平均よりも大きいものは小さくなる方向に設定されることを特徴とする請求項6に記載の方法。
  8. 前記病変に係る既知の前記第1撮影画像に基づいて形成される前記リファレンス画像について第1画像特徴ベクトルを抽出して登録するデータベースを生成するステップ(A)を備え、
    前記ステップ(A)が、
    前記第1撮影画像を入力するステップ(A2)と、
    前記第1撮影画像の第1短辺実寸長を算出するステップ(A3)と、
    前記第1短辺実寸長を用いて前記第1撮影画像の第1リサイズ増量倍率を決定するステップ(A4)と、
    前記第1撮影画像に外挿処理を施して第1外挿画像とするステップ(A5)と、
    前記第1外挿画像に回転、反転及び前記第1リサイズ増量倍率に基づくリサイズによって幾何変形処理を施すことにより増量して第1幾何変形画像とするステップ(A6)と、
    前記第1幾何変形画像から中央正方形領域をクロップすることにより第1切出し画像を得るステップ(A7)と、
    前記第1切出し画像において前記第1画像特徴ベクトルを抽出して登録するステップ(A8)と、を備えることを特徴とする請求項1に記載の方法。
  9. 前記病変に係る未知の前記第2撮影画像に基づいて形成される前記クエリ画像について第2画像特徴ベクトルを抽出して、病変に係る既知の前記第1撮影画像に基づいて形成される前記リファレンス画像について抽出された第1画像特徴ベクトルと対比し、前記リファレンス画像の中から前記クエリ画像に類似する少なくとも1つの候補を検索するステップ(B)を備え、
    前記ステップ(B)が、
    前記第2撮影画像を入力するステップ(B2)と、
    前記第2撮影画像の第2短辺実寸長を算出するステップ(B3)と、
    前記第2短辺実寸長を用いて前記第2撮影画像の第2リサイズ増量倍率を決定するステップ(B4)と、
    前記第2撮影画像に外挿処理を施して第2外挿画像とするステップ(B5)と、
    前記第2外挿画像に回転、反転及び前記第2リサイズ増量倍率に基づくリサイズによって幾何変形処理を施すことにより増量して第2幾何変形画像とするステップ(B6)と、
    前記第2幾何変形画像から中央正方形領域をクロップすることにより第2切出し画像を得るステップ(B7)と、
    前記第2切出し画像において前記第2画像特徴ベクトルを抽出するステップ(B8)と、
    前記第2画像特徴ベクトルと前記第1画像特徴ベクトルとのベクトル間距離を算出するステップ(B9)と、
    前記第1画像特徴ベクトルのサンプルごとに前記ベクトル間距離を求め、最短距離のサンプルのみを残すステップ(B10)と、
    各サンプルの最短距離を短い順に並べ替えて検索候補順位とするステップ(B11)と、
    検索候補順位順に各サンプルの候補提示を行うステップ(B12)と、を備えることを特徴とする請求項1に記載の方法。
  10. 前記幾何変形が施されたリファレンス画像をニューラルネットワークに入力して機械学習しアンサンブル識別器を生成し、前記幾何変形が施されたクエリ画像を機械学習済みの前記アンサンブル識別器に入力して前記クエリ画像の識別を行うことを特徴とする請求項1に記載の方法。
  11. 前記リファレンス画像の幾何変形において前記第1撮影画像としての高解像度長方形画像から低解像度正方形画像を事前に用意し、その低解像度正方形画像を幾何増量してニューラルネットワークに入力して機械学習しアンサンブル識別器を生成することを特徴とする請求項1から9のいずれか1項に記載の方法。
  12. 前記クエリ画像の幾何変形において前記第2撮影画像としての高解像度長方形画像から低解像度正方形画像を事前に用意し、その低解像度正方形画像を幾何増量して機械学習済みの前記アンサンブル識別器に入力して前記クエリ画像の識別を行うことを特徴とする請求項1から9のいずれか1項に記載の方法。
  13. 前記アンサンブル識別器が複数の単位識別器を含み、前記リファレンス画像及び/又は前記クエリ画像が、各単位識別器向けに異なるパターンによって幾何変形されることを特徴とする請求項10から12のいずれか1項に記載の方法。
  14. 前記リファレンス画像について、
    機械学習用にM枚の前記第1撮影画像を用意し、
    前記第1撮影画像をN通りの事前増量をしてM×N枚とし、
    M×N枚の前記学習画像の中から所定の画像を取り出し、90×L度の回転、反転する/しないをランダムに幾何変形し、
    幾何変形した前記第1撮影画像をニューラルネットワークに入力して機械学習を行い、
    必要な回数に達するまで、幾何変形及び機械学習を繰り返し、
    識別器を生成することを特徴とする請求項1から9のいずれか1項に記載の方法。
    ここで、M及びNは2以上の整数、Lは0〜3の整数である。
  15. 前記第1撮影画像として高解像度長方形画像を入力し、前記高解像度長方形画像から低解像度正方形画像を事前に用意することを特徴とする請求項14に記載の方法。
  16. 前記クエリ画像について、
    予測対象の前記第2撮影画像を1枚入力し、
    前記第2撮影画像をN通りの事前増量をしてN枚とし、
    N枚の前記第2撮影画像それぞれについて、90×L度の回転、反転する/しないの組み合わせで8通りに幾何変形し、
    幾何変形した8×N枚の前記第2撮影画像を機械学習済みの前記識別器に個別に入力し、8×N個の推論値を得、
    8×N個の推論値を平均して最終推論値とすることを特徴とする請求項1から9のいずれか1項に記載の方法。
    ここで、Nは2以上の整数、Lは0〜3の整数である。
  17. 前記第2撮影画像として高解像度長方形画像を入力し、前記高解像度長方形画像から低解像度正方形画像を事前に用意することを特徴とする請求項16に記載の方法。
  18. 撮影画像から病変を診断するための診断支援装置であって、
    病変に係る既知の第1撮影画像に対応するリファレンス画像が登録されているデータベースを備え、
    病変に係る未知の第2撮影画像に対応するクエリ画像を前記データベースのリファレンス画像と対比することにより診断支援が行われるに際し、
    前記リファレンス画像から幾何変形を施されたリファレンス画像を作成し、または前記クエリ画像から幾何変形を施されたクエリ画像を作成する増量手段を備えることを特徴とする診断支援装置。
  19. コンピュータに請求項1から17のいずれか1項に記載の画像処理方法を実行させるプログラム。
JP2017081415A 2016-09-01 2017-04-17 診断支援装置、及び診断支援装置における画像処理方法、並びにプログラム Active JP6390746B2 (ja)

Priority Applications (7)

Application Number Priority Date Filing Date Title
AU2017204494A AU2017204494B2 (en) 2016-09-01 2017-06-30 Diagnosis assisting device, image processing method in diagnosis assisting device, and non-transitory storage medium having stored therein program
EP18192773.2A EP3432268B1 (en) 2016-09-01 2017-07-05 Diagnosis assisting device, image processing method in diagnosis assisting device, and computer program
US15/642,275 US10586331B2 (en) 2016-09-01 2017-07-05 Diagnosis assisting device, image processing method in diagnosis assisting device, and non-transitory storage medium having stored therein program
EP23201534.7A EP4283560A3 (en) 2016-09-01 2017-07-05 Diagnosis assisting device, image processing method in diagnosis assisting device, and computer program
EP17179754.1A EP3291174A1 (en) 2016-09-01 2017-07-05 Diagnosis assisting device, image processing method in diagnosis assisting device, and computer program
CN201710610753.8A CN107798673B (zh) 2016-09-01 2017-07-25 诊断支援装置、诊断支援装置的图像处理方法、以及存储程序的存储介质
CA2974814A CA2974814A1 (en) 2016-09-01 2017-07-31 Diagnosis assisting device, image processing method in diagnosis assisting device, and non-transitory storage medium having stored therein program

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2016170477 2016-09-01
JP2016170477 2016-09-01

Publications (2)

Publication Number Publication Date
JP2018041434A true JP2018041434A (ja) 2018-03-15
JP6390746B2 JP6390746B2 (ja) 2018-09-19

Family

ID=61626184

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017081415A Active JP6390746B2 (ja) 2016-09-01 2017-04-17 診断支援装置、及び診断支援装置における画像処理方法、並びにプログラム

Country Status (1)

Country Link
JP (1) JP6390746B2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20200093631A (ko) * 2018-04-19 2020-08-05 선전 센스타임 테크놀로지 컴퍼니 리미티드 이미지 검색 방법 및 장치
WO2021149875A1 (ko) * 2020-01-20 2021-07-29 주식회사 아이도트 뇌동맥류 파열 예측 시스템
JP2021523785A (ja) * 2018-05-17 2021-09-09 ザ プロクター アンド ギャンブル カンパニーThe Procter & Gamble Company 毛髪被覆率分析のためのシステム及び方法
JP2022069143A (ja) * 2020-10-23 2022-05-11 株式会社アドイン研究所 Aiを用いる診断装置、学習データ生成装置、データ要求装置、診断システム、及び、プログラム
US11633148B2 (en) 2018-05-17 2023-04-25 The Procter & Gamble Company Systems and methods for hair analysis
JP7446559B2 (ja) 2020-01-28 2024-03-11 オムロン株式会社 画像処理装置、画像処理方法、及び画像処理プログラム

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09328404A (ja) * 1996-06-07 1997-12-22 Iwao Hishida 殺菌、抗菌および不活化剤
JPH11328404A (ja) * 1998-05-08 1999-11-30 Matsushita Electric Ind Co Ltd 画像認識装置および画像認識方法
JP2003317098A (ja) * 2002-04-19 2003-11-07 Ricoh Co Ltd 画像認識装置およびプログラム
JP2006350704A (ja) * 2005-06-16 2006-12-28 Fujifilm Holdings Corp 判別器の学習方法、顔判別方法および装置並びにプログラム
JP2008245719A (ja) * 2007-03-29 2008-10-16 Fujifilm Corp 対象領域抽出方法および装置ならびにプログラム
JP2010061285A (ja) * 2008-09-02 2010-03-18 Yahoo Japan Corp 画像検索装置
JP2012043379A (ja) * 2010-08-23 2012-03-01 Nikon Corp 信号処理装置、欠陥検出装置、信号処理方法、欠陥検出方法およびプログラム
JP2015191286A (ja) * 2014-03-27 2015-11-02 富士フイルム株式会社 類似症例検索装置、類似症例検索方法、及び類似症例検索プログラム
JP2016106310A (ja) * 2016-01-22 2016-06-16 株式会社日立製作所 個人認証装置

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09328404A (ja) * 1996-06-07 1997-12-22 Iwao Hishida 殺菌、抗菌および不活化剤
JPH11328404A (ja) * 1998-05-08 1999-11-30 Matsushita Electric Ind Co Ltd 画像認識装置および画像認識方法
JP2003317098A (ja) * 2002-04-19 2003-11-07 Ricoh Co Ltd 画像認識装置およびプログラム
JP2006350704A (ja) * 2005-06-16 2006-12-28 Fujifilm Holdings Corp 判別器の学習方法、顔判別方法および装置並びにプログラム
JP2008245719A (ja) * 2007-03-29 2008-10-16 Fujifilm Corp 対象領域抽出方法および装置ならびにプログラム
JP2010061285A (ja) * 2008-09-02 2010-03-18 Yahoo Japan Corp 画像検索装置
JP2012043379A (ja) * 2010-08-23 2012-03-01 Nikon Corp 信号処理装置、欠陥検出装置、信号処理方法、欠陥検出方法およびプログラム
JP2015191286A (ja) * 2014-03-27 2015-11-02 富士フイルム株式会社 類似症例検索装置、類似症例検索方法、及び類似症例検索プログラム
JP2016106310A (ja) * 2016-01-22 2016-06-16 株式会社日立製作所 個人認証装置

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20200093631A (ko) * 2018-04-19 2020-08-05 선전 센스타임 테크놀로지 컴퍼니 리미티드 이미지 검색 방법 및 장치
US11328171B2 (en) 2018-04-19 2022-05-10 Shenzhen Sensetime Technology Co., Ltd. Image retrieval method and apparatus
KR102460065B1 (ko) * 2018-04-19 2022-10-27 선전 센스타임 테크놀로지 컴퍼니 리미티드 이미지 검색 방법 및 장치
JP2021523785A (ja) * 2018-05-17 2021-09-09 ザ プロクター アンド ギャンブル カンパニーThe Procter & Gamble Company 毛髪被覆率分析のためのシステム及び方法
US11282190B2 (en) 2018-05-17 2022-03-22 The Procter And Gamble Company Systems and methods for hair coverage analysis
JP7140848B2 (ja) 2018-05-17 2022-09-21 ザ プロクター アンド ギャンブル カンパニー 毛髪被覆率分析のためのシステム及び方法
US11633148B2 (en) 2018-05-17 2023-04-25 The Procter & Gamble Company Systems and methods for hair analysis
WO2021149875A1 (ko) * 2020-01-20 2021-07-29 주식회사 아이도트 뇌동맥류 파열 예측 시스템
JP7446559B2 (ja) 2020-01-28 2024-03-11 オムロン株式会社 画像処理装置、画像処理方法、及び画像処理プログラム
JP2022069143A (ja) * 2020-10-23 2022-05-11 株式会社アドイン研究所 Aiを用いる診断装置、学習データ生成装置、データ要求装置、診断システム、及び、プログラム

Also Published As

Publication number Publication date
JP6390746B2 (ja) 2018-09-19

Similar Documents

Publication Publication Date Title
JP6390746B2 (ja) 診断支援装置、及び診断支援装置における画像処理方法、並びにプログラム
CN107798673B (zh) 诊断支援装置、诊断支援装置的图像处理方法、以及存储程序的存储介质
KR101374041B1 (ko) 화상 처리 장치
JP6039156B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP2010142428A (ja) 撮影装置及び撮影方法、プログラム、記録媒体
CN110619318B (zh) 基于人工智能的图像处理方法、显微镜、系统和介质
WO2023138544A1 (zh) 胶囊内窥镜肠道图像的识别定位方法、存储介质和设备
CN105979847A (zh) 内窥镜图像诊断辅助系统
WO2019142910A1 (ja) 診断支援装置、学習装置、診断支援方法、学習方法及びプログラム
JP2015091564A (ja) 撮影装置及び撮影方法、プログラム、記録媒体
JP2019180545A (ja) 予測装置、予測方法、及び予測プログラム
JP5967197B2 (ja) 情報処理装置、情報処理方法、プログラム及び顕微鏡システム
JP7439990B2 (ja) 医療画像処理装置、医療画像処理プログラム、および医療画像処理方法
JP7086630B2 (ja) 情報処理装置、情報処理方法、及びプログラム
JP6720267B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP6419115B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP6927715B2 (ja) 眼科画像表示装置、眼科画像表示方法及びプログラム
JP2024025181A (ja) 情報処理装置、情報処理方法、およびプログラム
JP6131149B2 (ja) 画像処理装置、方法およびプログラム
JP2018077155A (ja) 生体組織画像解析システム、画像処理システム及びプログラム
JP5874540B2 (ja) 情報処理装置、情報処理方法、プログラム及び顕微鏡システム
CN117710233A (zh) 一种内窥图像的景深扩展方法及装置
Qidwai et al. Image stitching system with scanning microscopy for histopathological applications
JP2018202237A (ja) 画像処理装置およびその制御方法

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171212

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180208

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180522

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180614

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180724

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180806

R150 Certificate of patent or registration of utility model

Ref document number: 6390746

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150