以下、実施形態について、図面を用いて説明する。以下では、画像そのもの、および画像を表示するための画像データは、特に区別せずに、画像と称される。
図1は、画像表示プログラム、画像表示装置および画像表示方法の一実施形態を示す。図1に示す画像表示装置200は、例えば、検査員等のオペレータが画像IMGの種別(例えば、良品、不良品等)を示すラベルを画像IMGに付与する際に、過去のラベル付け結果との矛盾の発生を抑止するための画像表示処理を実行する。ラベルは、画像IMGの種別を示す情報の一例である。画像表示装置200は、ハードウェアのみで実現されてもよく、ハードウェアをソフトウェアで制御することにより実現されてもよい。図1に示す例では、画像表示装置200は、コンピュータ10が画像表示プログラムDPRGを実行することにより、実現される。
例えば、コンピュータ10は、CPU(Central Processing Unit)等のプロセッサ20、メモリ30、ハードディスク装置40、入力インタフェース50、出力インタフェース60およびドライブ装置70を有する。プロセッサ20、メモリ30、ハードディスク装置40、入力インタフェース50、出力インタフェース60およびドライブ装置70は、バス80に接続される。プロセッサ20は、メモリ30やハードディスク装置40等に格納されるプログラムを実行する。入力インタフェース50は、デジタルカメラ等の撮像装置90から受ける画像IMG、キーボード等の入力装置100から受ける情報等をプロセッサ20等に転送する。また、出力インタフェース60は、プロセッサ20によるプログラムの実行結果等を、ディスプレイ等の表示装置110に出力する。ドライブ装置70は、コンピュータ10により読み取り可能な記録媒体であるリムーバブルメディア120を装着可能であり、装着したリムーバブルメディア120に記録された情報の読み出しおよび記録を実行する。
画像表示装置200は、メモリ30に格納される画像表示プログラムDPRGをプロセッサ20が実行することにより、実現される。画像表示装置200は、撮像装置90で撮像された画像IMG等の入力画像IMGiにラベルを付与する際、入力画像IMGiと一緒に表示装置110に表示する参照画像IMGrを既にラベルを付与した画像IMGから選択する。ラベル付けされた画像IMGは、例えば、メモリ30に格納される。また、メモリ30は、画像IMGの種別を示す情報と画像IMGの特徴を表す複数種類の特徴量とを画像IMGに対応付けて記憶する。メモリ30は、記憶部の一例である。なお、ラベル付けされた画像IMG等は、ハードディスク装置40に記憶されてもよい。この場合、ハードディスク装置40も、記憶部の一例である。
例えば、画像表示装置200は、特徴量算出部210、第1画像特定部220、第2画像特定部230および表示部240を有する。
特徴量算出部210は、例えば、撮像装置90から入力インタフェース50を介して入力画像IMGiを受ける。あるいは、特徴量算出部210は、メモリ30等から入力画像IMGiを受けてもよい。そして、特徴量算出部210は、入力画像IMGiと予め撮像された背景画像との異なる部分を抽出する背景差分法等により入力画像IMGiから検査対象となる物体を抽出し、抽出した物体の特徴を表す複数種類の特徴量を抽出する。背景画像は、検査対象となる物体のない状態の画像である。このように、特徴量算出部210は、入力画像IMGiから複数種類の特徴量を算出する。
特徴量算出部210が入力画像IMGiから抽出する複数種類の特徴量は、例えば、「高木幹雄、下田陽久:新編 画像解析ハンドブック、東京大学出版会、2004.」などに記載されている形状特徴、テクスチャ特徴、色特徴等であり、予め決められている。形状特徴は、面積、周囲長、円形度、最大長、幅等であり、テクスチャ特徴は、輝度ヒストグラム、エッジ密度、同時生起行列の統計量、フーリエ変換のパワースペクトル等であり、色特徴は、色ヒストグラム等である。なお、入力画像IMGiから抽出する特徴量の種類は、上述の例に限定されない。また、入力画像IMGiから物体を抽出する方法は、背景差分法に限定されない。
第1画像特定部220は、画像IMGの種別を示すラベルと画像IMGから算出した複数種類の特徴量とを既にラベル付けされた画像IMGに対応付けて記憶するメモリ30を参照して、入力画像IMGiと既にラベル付けされた画像IMGとの類似度を算出する。例えば、第1画像特定部220は、入力画像IMGiから算出した特徴量と既にラベル付けされた画像IMGの特徴量とを比較して、入力画像IMGiと既にラベル付けされた画像IMGとの類似度を算出する。そして、第1画像特定部220は、画像IMGの複数の種別の1つを第1の種別として選択し、選択した第1の種別を示すラベルが付与された画像IMGのうち、入力画像IMGiに特徴が最も類似する第1の画像IMGを特定する。
このように、第1画像特定部220は、画像IMGの種別のうちの第1の種別と対応付けられた画像IMGのうち、入力画像IMGiに最も類似する第1の画像IMGを特定する。第1の画像IMGの特定および後述する第2の画像IMGの特定は、画像IMGの種別毎に実行される。
第2画像特定部230は、メモリ30に記憶されている複数の画像IMGのうち、第1の種別と対応付けられており、特徴空間上において入力画像IMGiおよび第1の画像IMGと所定の位置関係にある第2の画像IMGを特定する。特徴空間は、特徴量算出部210で算出される特徴量の各種類を軸とする座標空間である。例えば、特徴量の種類が大きさと明るさの2つの場合、特徴空間は、2次元であり、図2の括弧内に示すように、大きさを示す横軸および明るさを示す縦軸を有する。このように、特徴空間は、特徴量の種類によって定められる。なお、第2画像特定部230の動作の詳細は、図2で説明する。第1の画像IMGおよび第2の画像IMGは、入力画像IMGiと一緒に表示装置110に表示する参照画像IMGrである。以下、第1の画像IMGおよび第2の画像IMGは、参照画像IMGrと同じ符号が使用される場合もある。また、第1の画像IMGおよび第2の画像IMGは、参照画像IMGrと称される場合もある。
表示部240は、第1の種別を示す情報と第1の画像IMGと第2の画像IMGと入力画像IMGiとを含む画面を表示装置110に表示する。例えば、表示部240は、入力画像IMGiと参照画像IMGrと参照画像IMGrのラベルとを含む情報PINFを、出力インタフェース60を介して表示装置110に出力する。これにより、入力画像IMGi、参照画像IMGr、参照画像IMGrのラベルが表示装置110に表示される。
なお、画像表示装置200およびコンピュータ10の構成は、図1に示す例に限定されない。例えば、画像表示プログラムDPRGは、CD−ROM(Compact Disc Read only memory)、DVD(Digital Versatile Disc)、USB(Universal Serial Bus)メモリ等のリムーバブルメディア120に格納されてもよい。この場合、リムーバブルメディア120に格納された画像表示プログラムDPRGは、ドライブ装置70を介してリムーバブルメディア120からメモリ30に転送される。また、画像表示プログラムDPRGは、リムーバブルメディア120からハードディスク装置40に転送された後、メモリ30に転送されてもよい。
あるいは、コンピュータ10は、画像表示プログラムDPRG等のアプリケーションプログラムを、インターネット等のネットワークに接続する通信装置(図示せず)を介してダウンロードし、メモリ30やハードディスク装置40に格納してもよい。また、コンピュータ10は、ネットワークに接続する通信装置を介して撮像装置90から画像IMGを取得してもよい。また、例えば、コンピュータ10は、ドライブ装置70が省かれてもよい。また、例えば、コンピュータ10は、ハードディスク装置40の代わりにSSD(Solid State Drive)等を有してもよい。
図2は、図1に示した画像表示装置200の動作の一例を示す。なお、図2は、特徴量の種類が大きさと明るさの2種類の場合の画像表示装置200の動作の一例を示す。図2に示す動作は、コンピュータ10により実行される画像表示方法の一態様である。また、図2に示す動作をコンピュータ10に実行させるためのプログラムは、画像表示プログラムの一態様である。なお、図2に示す動作は、ハードウェアのみで実現されてもよい。ステップS100からステップS700までの一連の処理は、画像表示装置200が入力画像IMGiを受ける度に実行される。また、図2の括弧内に示すグラフは、第1の画像IMGおよび第2の画像IMGを特定する処理(ステップS400、S500の処理)の概要を示す。図2に示すグラフの横軸は、物体の大きさを示し、縦軸は、物体の明るさを示す。また、図2に示す網掛けの四角形は、種別a(例えば、良品)を示すラベルが既に付与された画像IMGaを示し、三角形は、種別b(例えば、不良品)を示すラベルが既に付与された画像IMGbを示し、星形は、ラベルの付与対象である入力画像IMGiを示す。なお、画像IMGの種別の数および特徴量の種類は2つに限定されない。画像IMGa、IMGbは、例えば、メモリ30に記憶される。
ステップS100では、特徴量算出部210は、図1で説明したように、入力画像IMGiの特徴量(図2に示す例では、大きさおよび明るさ)を算出する。これにより、入力画像IMGiは、図2の括弧内に示すように、大きさを示す横軸および明るさを示す縦軸を有する特徴空間上に配置される。
次に、ステップS200では、第1画像特定部220は、入力画像IMGiの特徴量と他の画像IMGa、IMGbの特徴量とを比較して、入力画像IMGiと他の画像IMGa、IMGbとの類似度を他の画像IMGa、IMGb毎に算出する。類似度は、特徴量間の距離で表される。図2に示すベクトルV(Va1、Va2、Vaj)は、特徴空間上における入力画像IMGiの位置を始点とした場合の対象の画像IMG(IMGa1、IMGa2、IMGaj)の位置を示す。したがって、入力画像IMGiの特徴量と対象の画像IMGの特徴量との間の距離は、ベクトルVの大きさで表される。例えば、入力画像IMGiの特徴量と画像IMGa1の特徴量との間の距離は、ベクトルVa1の大きさ(=|Va1|)で表される。
次に、ステップS300では、第1画像特定部220は、画像IMGの複数の種別の1つを第1の種別に設定する。例えば、第1画像特定部220は、種別aおよび種別bの一方を第1の種別に設定する。
次に、ステップS400では、第1画像特定部220は、第1の種別と対応付けられた画像IMGのうち、入力画像IMGiに最も類似する第1の画像IMGを特定する。2つの画像IMGの類似度は、2つの画像IMGの特徴量間の距離が短いほど高い。したがって、図2に示す例では、ステップS300で設定された第1の種別が種別aの場合、第1画像特定部220は、種別aの画像IMGaのうち、ベクトルVaの大きさが最も小さい画像IMGa1を、第1の画像IMGに特定する。
次に、ステップS500では、第2画像特定部230は、第1の種別と対応付けられた画像IMGのうち、入力画像IMGiおよび第1の画像IMGと所定の位置関係にある第2の画像IMGを特定する。図2に示す例では、所定の位置関係は、特徴空間上における入力画像IMGiの位置を始点とした場合の第1の画像IMGの位置を示すベクトルVに直交またはほぼ直交するベクトルVで示される位置関係である。
例えば、第2画像特定部230は、始点が入力画像IMGiで終点が第1の画像IMGa1であるベクトルVa1に直交するベクトルVa2で示される画像IMGa2を、第2の画像IMGに特定する。なお、第2画像特定部230は、ベクトルVa1に直交するベクトルVaで示される画像IMGaを複数抽出した場合、抽出した複数の画像IMGaのうち、入力画像IMGiに最も近い位置の画像IMGaを第2の画像IMGに特定する。
なお、所定の位置関係は、第1の画像IMGの位置を示すベクトルVに直交またはほぼ直交するベクトルVで示される位置関係に限定されない。例えば、所定の位置関係は、特徴空間上における第1の画像IMGとの距離が所定の第1の距離以上でもよい。この場合、第2画像特定部230は、特徴空間上における第1の画像IMGとの距離が所定の第1の距離以上の画像IMGのうち、入力画像IMGiに最も近い位置の画像IMGを第2の画像IMGに特定する。
ステップS400、S500の処理により、ステップS300で設定した第1の種別に対応付けられた画像IMGのうち、入力画像IMGiと一緒に表示装置110に表示する参照画像IMGr(第1の画像IMGおよび第2の画像IMG)が特定される。
次に、ステップS600では、画像表示装置200は、画像IMGの全ての種別を探索したか否かを判定する。画像IMGの全ての種別を探索した場合、画像表示装置200の動作は、ステップS700に移る。
一方、探索されていない種別が存在する場合、画像表示装置200の動作は、ステップS300に戻る。例えば、種別aおよび種別bのうちの種別bでの参照画像IMGrの探索が実行されていない場合、画像表示装置200は、ステップS300において、種別bを第1の種別に設定する。これにより、種別bの画像IMGbに対してステップS400、S500の処理が実行され、画像IMGb1、IMGb2が参照画像IMGrとして特定される。
ステップS700では、表示部240は、第1の種別(種別aおよび種別b)、第1の画像IMGa1、IMGb1、第2の画像IMGa2、IMGb2および入力画像IMGiを含む画面を表示装置110に表示する。なお、画像IMGa1、IMGa2、IMGb1、IMGb2は、それぞれがどの種別の画像IMGかを識別できるように表示される。ステップS700の処理の終了により、1つの入力画像IMGiに対する画像表示装置200の動作は終了する。
このように、図2に示す動作では、画像IMGajは、画像IMGa2に比べて入力画像IMGiに類似するが、入力画像IMGiおよび第1の画像IMGとの位置関係が所定の位置関係を満たしていないため、参照画像IMGrとして選択されない。画像IMGajが画像IMGa1に類似する画像IMGaであるため、画像IMGa1を表示した場合、オペレータがラベルを入力画像IMGiに付与する際に判断するための情報は、画像IMGajを表示しても表示しなくてもほとんど変わらない。
これに対し、画像表示装置200は、画像IMGajの代わりに、所定の位置関係を満たす画像IMGa2を入力画像IMGiと一緒に表示する。例えば、特徴空間上において互いに直交するベクトルVaを有する画像IMGa1、IMGa2が参照画像IMGrとして選択されるため、各参照画像IMGr(第1の画像IMGおよび第2の画像IMG)間では、入力画像IMGiに類似する特徴量が異なる。
これにより、例えば、画像IMGa1、IMGaj、IMGb1、IMGb2を参照画像IMGrとして選択する場合に比べて、各参照画像IMGr間で入力画像IMGiに類似する特徴量のバリエーションを増加させることができる。各参照画像IMGr間で入力画像IMGiに類似する特徴量のバリエーションが増加するほど、オペレータは、過去のラベル付け画像IMGと入力画像IMGiとを容易に比較できる。例えば、各参照画像IMGr間で入力画像IMGiに類似する特徴量のバリエーションが増加するほど、オペレータは、各参照画像IMGrと入力画像IMGiとの比較を異なる観点で実行できる。すなわち、画像表示装置200は、画像IMGa2を選択することで、画像IMGa1、IMGaj、IMGb1、IMGb2を入力画像IMGiと一緒に表示する場合に比べて、オペレータがラベルを入力画像IMGiに付与するための有益な情報を提供できる。この結果、画像表示装置200は、画像IMGa1、IMGaj、IMGb1、IMGb2を入力画像IMGiと一緒に表示する場合に比べて、過去のラベル付け結果との矛盾の発生を抑止できる。
なお、画像表示装置200の動作は、図2に示す例に限定されない。例えば、画像表示装置200は、各種別の第2の画像IMGを複数選択してもよい。この場合、第2画像特定部230は、入力画像IMGi、第1の画像IMGおよび既に特定した第2の画像IMGと所定の位置関係にある画像IMGのうち、入力画像IMGiに最も類似する画像IMGを第2の画像IMGに特定する処理を繰り返してもよい。所定の位置関係が第1の画像IMGの位置を示すベクトルVに直交またはほぼ直交するベクトルVで示される位置関係である場合、第2の画像IMGを特定する処理は、特徴量の種類の数より1つ少ない数だけ繰り返されてもよい。また、所定の位置関係が特徴空間上における第1の画像IMGとの距離が所定の第1の距離以上である場合、第2の画像IMGを特定する処理は、所定数だけ繰り返されてもよい。
以上、図1および図2に示す実施形態では、画像表示装置200は、入力画像IMGiから複数種類の特徴量を算出する。また、画像表示装置200は、画像IMGの種別を示す情報と画像IMGから算出した複数種類の特徴量とを画像IMGに対応付けて記憶するメモリ30等を参照する。そして、画像表示装置200は、画像IMGの種別のうち第1の種別と対応付けられた画像IMGのうち、入力画像IMGiに最も類似する第1の画像IMGを特定する。画像表示装置200は、特徴量の種類によって定められる特徴空間上において、メモリ30等に記憶されている複数の画像IMGのうち、第1の種別の画像IMGで、入力画像IMGiおよび第1の画像IMGと所定の位置関係にある第2の画像IMGを特定する。そして、画像表示装置200は、第1の種別を示す情報と第1の画像IMGと第2の画像IMGと入力画像IMGiとを含む画面を表示する。
これにより、入力画像IMGiとの比較を互いに異なる観点で実行可能な第1の画像IMGおよび第2の画像IMGが入力画像IMGiと一緒に表示装置110に表示される。この結果、画像IMGにラベルを付与する際に、過去のラベル付け結果(既にラベル付けされた画像IMGのラベル付け結果)との矛盾の発生を抑止することができる。
図3は、画像表示プログラム、画像表示装置および画像表示方法の別の実施形態を示す。図1および図2で説明した要素と同一または同様の要素については、同一または同様の符号を付し、これ等については、詳細な説明を省略する。図3に示す画像表示装置202は、例えば、オペレータが画像IMGの種別を示すラベルを画像IMGに付与する際に、過去のラベル付け結果との矛盾の発生を抑止するための画像表示処理を実行する。画像表示装置202は、ハードウェアのみで実現されてもよく、ハードウェアをソフトウェアで制御することにより実現されてもよい。図3に示す例では、画像表示装置202は、コンピュータ10が画像表示プログラムDPRGを実行することにより、実現される。例えば、コンピュータ10は、プロセッサ20、メモリ30、ハードディスク装置40、入力インタフェース50、出力インタフェース60およびドライブ装置70を有する。メモリ30およびハードディスク装置40は、記憶部の一例である。
画像表示装置202は、例えば、メモリ30に格納される画像表示プログラムDPRGをプロセッサ20が実行することにより、実現される。例えば、ラベルを画像IMGに付与する処理装置は、画像表示装置202を実現するプロセッサ20、メモリ30、ハードディスク装置40、入力インタフェース50および出力インタフェース60を有する。
画像表示装置202は、図1に示した第1画像特定部220および第2画像特定部230の代わりに第1画像特定部222および第2画像特定部232を有する。さらに、画像表示装置202では、類似度算出部212および登録部250が図1に示した画像表示装置200に追加される。画像表示装置202のその他の構成は、図1に示した画像表示装置200と同一または同様である。
例えば、画像表示装置202は、特徴量算出部210、類似度算出部212、第1画像特定部222、第2画像特定部232、表示部240および登録部250を有する。特徴量算出部210は、図1に示した特徴量算出部210と同一または同様である。例えば、特徴量算出部210は、入力画像IMGiから複数種類の特徴量を算出する。
類似度算出部212は、既にラベル付けされた画像IMGの特徴量およびラベルが画像IMGに対応付けられて登録される特徴量データベースCDBを参照して、入力画像IMGiと既にラベル付けされた画像IMGとの類似度を算出する。特徴量データベースCDBは、例えば、メモリ30に保持される。また、メモリ30は、画像IMGが登録される画像データベースIDBを保持する。なお、特徴量データベースCDB、画像データベースIDB等は、ハードディスク装置40に保持されてもよい。
例えば、類似度算出部212は、入力画像IMGiから算出した特徴量と特徴量データベースCDBに登録された特徴量とを比較して、入力画像IMGiと画像データベースIDBに登録された画像IMG(既にラベル付けされた画像IMG)との類似度を算出する。そして、類似度算出部212は、算出した類似度をメモリ30等に記憶する。
第1画像特定部222は、入力画像IMGiと既にラベル付けされた画像IMGとの類似度の算出が類似度算出部212で実行されることを除いて、図1に示した第1画像特定部220と同一または同様である。例えば、第1画像特定部222は、類似度算出部212が算出した類似度に基づいて、画像データベースIDBに登録された画像IMGのうち、入力画像IMGiに特徴が最も類似する第1の画像IMGを画像IMGの種別毎(ラベルの種類毎)に特定する。このように、第1画像特定部222は、画像IMGの種別のうちの第1の種別と対応付けられた画像IMGのうち、入力画像IMGiに最も類似する第1の画像IMGを特定する。類似度算出部212および第1画像特定部222は、画像IMGの特徴量およびラベル等を記憶する記憶部を参照して、第1の種別と対応付けられた画像IMGのうち入力画像IMGiに最も類似する第1の画像IMGを特定する第1画像特定部の一例である。
第2画像特定部232は、図1に示した第2画像特定部230と同一または同様である。例えば、第2画像特定部232は、画像データベースIDBに登録された複数の画像IMGのうち、第1の種別と対応付けられており、特徴空間上において入力画像IMGiおよび第1の画像IMGと所定の位置関係にある第2の画像IMGを特定する。なお、第2画像特定部232の動作の詳細は、図6で説明する。
表示部240は、図1に示した表示部240と同一または同様である。例えば、表示部240は、入力画像IMGiと参照画像IMGr(第1の画像IMG、第2の画像IMG)と参照画像IMGrのラベルとを含む情報PINFを、出力インタフェース60を介して表示装置110に出力する。これにより、入力画像IMGi、参照画像IMGr、参照画像IMGrのラベルが表示装置110に表示される。
このように、画像表示装置202は、撮像装置90で撮像された画像IMG等の入力画像IMGiにラベルを付与する際、入力画像IMGiと一緒に表示装置110に表示する参照画像IMGrを既にラベル付けされた画像IMGから選択する。そして、オペレータは、表示装置110に表示された画像IMGを参照して、入力画像IMGiにラベルを付与する。ラベル付けされた画像IMGの特徴量等の情報は、例えば、特徴量データベースCDBに登録される。
例えば、登録部250は、オペレータによりラベル付けされた入力画像IMGiのラベルを示す情報を、入力インタフェース50を介して受ける。そして、登録部250は、入力画像IMGiの特徴量およびラベルを入力画像IMGiに対応付けて特徴量データベースCDBに登録する。なお、入力画像IMGiは、例えば、画像表示装置202が入力画像IMGiを受ける際に、画像データベースIDBに登録される。入力画像IMGiの画像データベースIDBへの登録は、登録部250により実行されてもよいし、登録部250以外のモジュールにより実行されてもよい。
なお、画像表示装置202およびコンピュータ10の構成は、図3に示す例に限定されない。例えば、画像表示装置202は、登録部250を除いて定義されてもよい。この場合、例えば、ラベルを画像IMGに付与する処理装置は、登録部250を除いた画像表示装置202、登録部250、メモリ30、ハードディスク装置40、入力インタフェース50および出力インタフェース60を有する。
図4は、図3に示した特徴量データベースCDBの一例を示す。特徴量データベースCDBには、検査対象の物体の特徴を表す特徴量が抽出された画像IMG毎に、ラベル番号、画像ファイル名および特徴量をそれぞれ示すデータが登録される。
ラベル番号は、画像IMGの種別を示すラベルに対応する番号である。例えば、同一のラベル番号は、同一の種別を示す。画像ファイル名は、特徴量の抽出に使用した画像IMGのファイル名であり、画像データベースIDBに登録される画像IMGのファイル名と対応付けられる。特徴量は、画像ファイル名が示す画像IMGから抽出した物体の特徴を表す特徴量である。
図4に示す例では、形状特徴(物体の面積、周囲長等)およびテクスチャ特徴(エッジ密度、輝度ヒストグラム等)等が特徴量として特徴量データベースCDBに登録される。
面積、周囲長、エッジ密度等は、それぞれ1つの要素を有する1次元の特徴量であり、輝度ヒストグラムは、複数の階級(要素)を有する多次元の特徴量である。画像表示装置202は、多次元の特徴量の各次元のデータ(例えば、度数)を1つの特徴量として扱う。図4に示す例では、輝度ヒストグラムは256次元の特徴量であり、各階級(1、2、3、・・・、256)の値が1つの特徴量として扱われる。なお、輝度ヒストグラムの階級の数は、256に限定されない。また、特徴量データベースCDBに登録される項目は、図4に示す例に限定されない。
図5は、図3に示した類似度算出部212の動作の一例を示す。なお、図5は、特徴量の種類が特徴量1(例えば、エッジ密度)と特徴量2(例えば、面積)の2つの場合の類似度算出部212の動作の一例を示す。この場合、特徴空間は、2次元であり、特徴量1を示す横軸および特徴量2を示す縦軸を有する。図5に示す網掛けの四角形は、種別a(例えば、良品)を示すラベルが既に付与された画像IMGaを示し、三角形は、種別b(例えば、不良品)を示すラベルが既に付与された画像IMGbを示し、星形は、ラベルの付与対象である入力画像IMGiを示す。図5では、入力画像IMGiに付与されるラベルが種別aを示すラベルか種別bを示すラベルかのいずれかである場合を例にして、類似度算出部212の動作を説明する。なお、画像IMGの種別の数および特徴量の種類は2つに限定されない。
類似度算出部212は、入力画像IMGiの特徴量(特徴量算出部210が算出した特徴量)と特徴量データベースCDBに登録された特徴量との類似度を、画像データベースIDBに登録された画像IMG(既にラベル付けされた画像IMG)毎に算出する。類似度は、特徴空間上における入力画像IMGiと類似度の算出対象の画像IMG(IMGa、IMGb)との距離DISより表される。
距離DISは、特徴空間上における入力画像IMGiの座標(o1、o2)および類似度の算出対象の画像IMGの座標(c1、c2)を用いて、式(1)で表される。なお、符号o1は、入力画像IMGiの特徴量1の値であり、符号o2は、入力画像IMGiの特徴量2の値である。同様に、符号c1は、類似度の算出対象の画像IMGの特徴量1の値であり、符号c2は、類似度の算出対象の画像IMGの特徴量2の値である。また、符号^はべき乗を示す。
DIS=√((o1−c1)^2+(o2−c2)^2) ‥(1)
なお、距離DISは、値が小さくなるほど(特徴空間上における画像IMG間の距離が短くなるほど)、類似度が高いことを示す。したがって、複数の画像IMGのうち、入力画像IMGiに最も類似する画像IMGは、距離DISが最小の画像IMGである。
また、画像IMGの特徴量の種類がm個(mは3以上の整数)の場合、距離DISは、入力画像IMGiの複数の特徴量の値o1、o2、…、omおよび類似度の算出対象の画像IMGの複数の特徴量の値c1、c2、…、cmを用いて、式(2)で表される。
DIS=√((o1−c1)^2+(o2−c2)^2+…+(om−cm)^2) ‥(2)
なお、この場合、特徴空間上における入力画像IMGiの位置は、座標(o1、o2、…、om)で表され、類似度の算出対象の画像IMGの位置は、座標(c1、c2、…、cm)で表される。このように、類似度算出部212は、特徴量の種類(多次元の特徴量を含む場合は、各次元を1つの種類として扱う)を軸とする特徴空間上における画像IMG間の距離DISを、類似度として算出する。なお、式(1)または式(2)を用いた距離DISの算出では、各特徴量の重要性に応じた重みを特徴量の値(特徴空間における各軸の座標値)に付け、重みを付けた特徴量の値を、式(1)または式(2)に代入してもよい。
図6は、図3に示した第1画像特定部222および第2画像特定部232の動作の一例を示す。なお、図6は、特徴量の種類が特徴量1と特徴量2の2つで、画像IMGの種別の数が種別aと種別bの2つの場合の第1画像特定部222および第2画像特定部232の動作の一例を示す。画像IMGの種別の数および特徴量の種類は2つに限定されない。図6に示す特徴空間は、図5に示した特徴空間と同じである。また、図6に示す網掛けの四角形、三角形、星形の意味は、図5と同じである。また、図6に示すベクトルV(Va1、Va2、Vaj、Vak、Vb1、Vb2、Vbj)は、特徴空間上における入力画像IMGiの位置を始点とした場合の各画像IMGの位置を示す。したがって、ベクトルVの大きさ(|Va1|等)は、特徴空間上における入力画像IMGiと各画像IMGとの距離DISを示す。また、図6に示す角度θ(θa、θb、θj)は、第2の画像IMGを特定する際に探索される画像IMGの位置を示すベクトルVと第1の画像IMGの位置を示すベクトルVとのなす角を示す。
図6では、特徴空間上における入力画像IMGiの位置を始点とした場合の第1の画像IMGの位置を示すベクトルVに直交するベクトルVで示される位置関係を所定の位置関係として、第1画像特定部222および第2画像特定部232の動作を説明する。
処理P1では、第1画像特定部222は、特徴空間に分布する種別aの複数の画像IMGa(図6に示す網掛けの四角形)のうち、入力画像IMGi(図6に示す星形)に最も近い画像IMGa1を、種別aの第1の画像IMGに特定する。図6に示す例では、ベクトルVa1の大きさ|Va1|は、ベクトルVa2の大きさ|Va2|およびベクトルVajの大きさ|Vaj|より小さく、種別aの複数の画像IMGaにそれぞれ対応するベクトルVaの大きさのうち、最小である。すなわち、画像IMGa1は、特徴空間に分布する種別aの複数の画像IMGaのうち、入力画像IMGiに最も類似する画像IMGである。
次に、処理P2では、第2画像特定部232は、種別aの複数の画像IMGaのうち、第1の画像IMGa1の位置を示すベクトルVa1に直交するベクトルVa2、Vakで示される画像IMGa2、IMGakを抽出する。そして、第2画像特定部232は、ベクトルVa1に直交するベクトルVa2、Vakで示される複数の画像IMGa2、IMGakのうち、入力画像IMGiに最も近い画像IMGa2を、種別aの第2の画像IMGに特定する。ベクトルVa2の大きさ|Va2|は、ベクトルVakの大きさ|Vak|より小さい。すなわち、画像IMGa2は、画像IMGakより、入力画像IMGiに特徴が類似する。
このように、第2画像特定部232は、種別aの複数の画像IMGaのうち、第1の画像IMGa1の位置を示すベクトルVa1とのなす角が90度のベクトルVa2、Vakで示される画像IMGa2、IMGakを抽出する。そして、第2画像特定部232は、抽出した複数の画像IMGa2、IMGakのうち、入力画像IMGiに最も類似する画像IMGa2を種別aの第2の画像IMGに特定する。
ここで、2つのベクトルVのなす角が90度か否か、すなわち、2つのベクトルVが直交するか否かは、2つのベクトルVの内積が0になるか否かを判定することにより判定される。図6に示す例では、ベクトルVa1、Va2のなす角θaおよびベクトルVa1、Vakのなす角θaが90度であるため、ベクトルVa1、Va2の内積Va1・Va2およびベクトルVa1、Vakの内積Va1・Vakが0である。このため、第2画像特定部232は、上述したように、第1の画像IMGa1の位置を示すベクトルVa1に直交するベクトルVaで示される画像IMGとして、画像IMGa2、IMGakを抽出する。なお、2つのベクトルVの内積は、後述する式(5)を用いて算出される。
このように、処理P2により、第2画像特定部232は、種別aに対応付けられた画像IMGaのうち、特徴空間上において入力画像IMGiおよび第1の画像IMGa1と所定の位置関係にある画像IMGa2を、第2の画像IMGに特定する。図6に示す例では、画像IMGajは、画像IMGa2に比べて入力画像IMGiに類似するが、入力画像IMGiおよび第1の画像IMGa1との位置関係が所定の位置関係を満たしていないため、参照画像IMGrとして選択されない。
第1の画像IMGa1および第2の画像IMGa2を含む参照画像IMGrが、特徴量の種類と同じ数(特徴空間の軸の数)だけ選択されたため、種別aの画像IMGaに対する参照画像IMGrの探索は、終了する。次に、処理P3、P4において、種別bの画像IMGbに対する参照画像IMGrの探索が、種別aの画像IMGaに対する参照画像IMGrの探索と同様に実行される。
処理P3では、第1画像特定部222は、特徴空間に分布する種別bの複数の画像IMGa(図6に示す三角形)のうち、入力画像IMGi(図6に示す星形)に最も近い画像IMGb1を、種別bの第1の画像IMGに特定する。
次に、処理P4では、第2画像特定部232は、種別bの複数の画像IMGbのうち、第1の画像IMGb1の位置を示すベクトルVb1に直交するベクトルVb2で示される画像IMGb2を、種別bの第2の画像IMGに特定する。
図6に示す例では、ベクトルVb1、Vb2のなす角θbが90度であるため、ベクトルVb1、Vb2の内積Vb1・Vb2は、0である。このため、第2画像特定部232は、上述したように、第1の画像IMGb1の位置を示すベクトルVb1に直交するベクトルVb2で示される画像IMGb2を、第2の画像IMGに特定する。なお、画像IMGbjの位置を示すベクトルVbjとベクトルVb1とのなす角θjが90度でないため、ベクトルVb1、Vbjの内積Vb1・Vbjは0でない。すなわち、入力画像IMGiおよび第1の画像IMGb1と画像IMGbjとの位置関係は所定の位置関係を満たさない。このため、画像IMGbjは、画像IMGb2に比べて入力画像IMGiに類似するが、参照画像IMGrとして選択されない。
第1の画像IMGb1および第2の画像IMGb2を含む参照画像IMGrが、特徴量の種類と同じ数(特徴空間の軸の数)だけ選択されたため、種別bの画像IMGbに対する参照画像IMGrの探索は、終了する。また、全ての種別に対して参照画像IMGrが選択されたため、第1画像特定部222および第2画像特定部232による参照画像IMGrの探索は、終了する。
このように、入力画像IMGiに付与するラベルを、種別aを示すラベルか種別bを示すラベルかのいずれかに決定する際に、図5および図6に示す動作により、入力画像IMGiと一緒に表示装置110に表示する参照画像IMGrが選択される。図6に示す動作では、画像IMGの種別毎に、入力画像IMGiに最も類似する画像IMGを第1の画像IMGに特定し、第1の画像IMGの位置を示すベクトルVに直交するベクトルVで示される画像IMGを第2の画像IMGに特定する。これにより、第1の画像IMGに類似する画像IMGを第2の画像IMGに特定する場合に比べて、複数の参照画像IMGr(第1の画像IMG、第2の画像IMG)間で入力画像IMGiに類似する特徴量のバリエーションを増加させることができる。この結果、図6に示す動作では、第1の画像IMGに類似する画像IMGを第2の画像IMGに特定する場合に比べて、オペレータがラベルを入力画像IMGiに付与するための有益な情報を提供できる。
なお、第1画像特定部222および第2画像特定部232の動作は、図6に示す例に限定されない。例えば、第2の画像IMGを特定する際の所定の位置関係は、第1の画像IMGの位置を示すベクトルVとのなす角が90度を含む所定の第1の範囲内のベクトルVで示される位置関係でもよい。第1の範囲は、例えば、90度に対して±45度(90度と0度の中間の角度)の範囲でもよいし、ほぼ90度と見なせる範囲でもよい。
例えば、第1の画像IMGの位置を示すベクトルVをVfとし、判定対象の画像IMGの位置を示すベクトルVをVtとした場合、2つのベクトルVf、Vtのなす角θが90度±de1の範囲内か否かは、下記の式(3)および式(4)に基づいて判定される。
cosθ=(Vf・Vt)/(|Vf|×|Vt|) ‥(3)
cos(90+de1)≦cosθ≦cos(90−de1) ‥(4)
式(3)のVf・Vtは、ベクトルVf、Vtの内積であり、特徴空間上における入力画像IMGiの座標(o1、o2)、第1の画像IMGの座標(f1、f2)および判定対象の画像IMGの座標(t1、t2)を用いて、式(5)で表される。また、ベクトルVf、Vtのそれぞれの大きさ|Vf|、|Vt|は、特徴空間上における入力画像IMGiとの各画像IMGとの距離DISであるため、図5で説明した式(1)を用いて算出される。
Vf・Vt=(f1−o1)×(t1−o1)+(f2−o2)×(t2−o2) ‥(5)
式(3)および式(5)等を用いて算出したcosθが式(4)を満たす場合、第2画像特定部232は、第1の画像IMGの位置を示すベクトルVfと判定対象の画像IMGの位置を示すベクトルVtとのなす角が90度±de1の範囲内であると判定する。すなわち、第2画像特定部232は、入力画像IMGiおよび第1の画像IMGと、ベクトルVtで示される画像IMGとの位置関係が所定の位置関係を満たすと判定する。
また、画像IMGの特徴量の種類がm個(mは3以上の整数)の場合、ベクトルVf、Vtの内積Vf・Vtは、式(5)を特徴量の種類の数(m個)に応じて拡張した式(6)で表される。また、ベクトルVf、Vtのそれぞれの大きさ|Vf|、|Vt|は、図5で説明した式(2)を用いて算出される。
Vf・Vt=(f1−o1)×(t1−o1)+…+(fm−om)×(tm−om) ‥(6)
なお、式(6)の値o1、…、omは、入力画像IMGiのm種類の特徴量のそれぞれの値を示し、値f1、…、fmは、第1の画像IMGのm種類の特徴量のそれぞれの値を示す。また、式(6)の値t1、…、tmは、判定対象の画像IMGのm種類の特徴量のそれぞれの値を示す。この場合、特徴空間上における入力画像IMGiの位置は、座標(o1、…、om)で表され、第1の画像IMGの位置は、座標(f1、…、fm)で表され、判定対象の画像IMGの位置は、座標(t1、…、tm)で表される。
図7は、図3に示した表示部240の動作の一例を示す。なお、図7は、画像IMGの種別が4つの場合の表示部240の動作の一例を示す。画像IMGの種別の数は、4つに限定されない。
表示部240は、第1画像特定部222および第2画像特定部232により特定された参照画像IMGr(第1の画像IMG、第2の画像IMG)を、表示装置110に表示する。例えば、表示部240は、表示画面の中心に入力画像IMGiを配置し、入力画像IMGiの周囲に参照画像IMGrをラベル毎にまとめて表示する。これにより、オペレータは、入力画像IMGiに付与しようとしているラベル以外のラベルが付与された画像IMG群の中に類似した画像IMGがないかを容易に確認できる。この結果、画像IMGにラベルを付与する際に、過去のラベル付け結果(既にラベル付けされた画像IMGのラベル付け結果)との矛盾の発生を抑止することができる。
図8は、図3に示した画像表示装置202の動作の一例を示す。図8に示す動作は、コンピュータ10により実行される画像表示方法の一態様である。また、図8に示す動作をコンピュータ10に実行させるためのプログラムは、画像表示プログラムの一態様である。なお、図8に示す動作は、ハードウェアのみで実現されてもよい。図2で説明した動作と同一または同様の動作については、詳細な説明を省略する。図8に示す動作では、所定の位置関係は、特徴空間上における入力画像IMGiの位置を始点とした場合の第1の画像IMGの位置を示すベクトルVに直交するベクトルVで示される位置関係である。
ステップS10では、画像表示装置202は、ラベル付与の対象となる入力画像IMGiが存在するか否かを判定する。例えば、画像表示装置202は、入力画像IMGiを撮像装置90から受信したか否かを判定する。入力画像IMGiが存在する場合、画像表示装置202の動作は、ステップS100に移る。一方、入力画像IMGiが存在しない場合、画像表示装置202の動作は、ステップS10に戻る。
ステップS100では、特徴量算出部210は、図1で説明したように、入力画像IMGiの特徴量を算出する。これにより、入力画像IMGiは、複数種類の特徴量のそれぞれに対応する複数の軸を有する特徴空間上に配置される。
次に、ステップS200では、類似度算出部212は、図5で説明したように、入力画像IMGiの特徴量と特徴空間に分布する他の画像IMGの特徴量とを比較して、入力画像IMGiと他の画像IMGとの類似度を他の画像IMG毎に算出する。
次に、ステップS310では、第1画像特定部222は、ラベル番号を示す変数Lを0に設定する(L=0)。
次に、ステップS320では、第1画像特定部222は、変数Lを1増加させる(L=L+1)。
次に、ステップS330では、第1画像特定部222は、ラベル番号Lの画像IMGを、探索対象に設定する。これにより、ステップS410、S510において、画像IMGの複数の種別のうち、ラベル番号Lが示す種別の画像IMGから、参照画像IMGr(第1の画像IMG、第2の画像IMG)が特定される。すなわち、ステップS330では、第1画像特定部222は、画像IMGの複数の種別のうち、ラベル番号Lが示す種別を第1の種別に設定する。
次に、ステップS410では、第1画像特定部222は、変数Nを1に設定する(N=1)。さらに、図6で説明したように、第1画像特定部222は、ステップS330で設定した探索対象の画像IMG(ラベル番号Lが示す種別の画像IMG)のうち、類似度が最大の画像IMGを1個目の参照画像IMGr(第1の画像IMG)に特定する。類似度が最大の画像IMGは、式(1)または式(2)で表される距離DISが最小の画像IMGである。ステップS410の処理により、1個目の参照画像IMGrが特定された後、画像表示装置202の動作は、ステップS510に移る。
ステップS510では、第2画像特定部232は、ステップS330で設定された探索対象の画像IMGから、特徴空間上におけるN個の参照画像IMGrの位置をそれぞれ示すN個のベクトルVの全てに直交するベクトルVで示される画像IMGを抽出する。そして、第2画像特定部232は、抽出した画像IMGのうち、類似度が最大の画像IMGを(N+1)個目の参照画像IMGrに特定する。すなわち、第2画像特定部232は、探索対象の画像IMGで、N個の参照画像IMGrの位置をそれぞれ示すN個のベクトルVの全てに直交するベクトルVで示される画像IMGのうち、類似度が最大の画像IMGを(N+1)個目の参照画像IMGrに特定する。
例えば、変数Nが1の場合、既に特定されたN個の参照画像IMGrは、ステップS410で特定された1個目の参照画像IMGr(第1の画像IMG)である。また、(N+1)個目の参照画像IMGr、すなわち、2個目の参照画像IMGrは、1個目の第2の画像IMGである。この場合、第2画像特定部232は、図6で説明したように、探索対象の画像IMGのうち、第1の画像IMGの位置を示すベクトルVに直交するベクトルVで示される画像IMGから、類似度が最大の画像IMGを1個目の第2の画像IMGに特定する。
また、後述するステップS520、S530により、変数Nが2に更新され、ステップS510の処理が再度実行される場合、既に特定されたN個(2個)の参照画像IMGrの1つは、ステップS410で特定された第1の画像IMGである。そして、既に特定されたN個(2個)の参照画像IMGrの残りの1つは、1回目のステップS510で特定された1個目の第2の画像IMGである。なお、(N+1)個目の参照画像IMGr、すなわち、3個目の参照画像IMGrは、2個目の第2の画像IMGである。この場合、第2画像特定部232は、第1の画像IMGの位置を示すベクトルVに直交し、かつ1個目の第2の画像IMG(既に特定した第2の画像IMG)の位置を示すベクトルVに直交するベクトルVで示される画像IMGを探索対象の画像IMGから抽出する。そして、第2画像特定部232は、探索対象の画像IMGから抽出した画像IMGのうち、類似度が最大の画像IMGを、2個目の第2の画像IMGに特定する。
なお、第2画像特定部232は、N個の参照画像IMGrの位置をそれぞれ示すN個のベクトルVの全てに直交するベクトルVで示される画像IMGを抽出するまで、探索対象の画像IMGから、類似度の高い順に画像IMGを抽出してもよい。この場合、第2画像特定部232は、例えば、最後に抽出した画像IMGを(N+1)個目の参照画像IMGrに特定する。
ステップS510の処理により、(N+1)個目の参照画像IMGrが特定された後、画像表示装置202の動作は、ステップS520に移る。なお、例えば、所定の位置関係を満たす画像IMGが探索対象の画像IMGの中に存在しない場合、すなわち、第2の画像IMGが特定されない場合、図示していないが、画像表示装置202の動作は、ステップS610に移る。
ステップS520では、第2画像特定部232は、変数Nを1増加させる(N=N+1)。
次に、ステップS530では、第2画像特定部232は、変数Nが所定値以上か否かを判定する。所定値は、例えば、特徴空間の軸の数、すなわち、特徴量の種類の数と同じ値に設定される。なお、所定値は、特徴空間の軸の数より小さい値でもよい。変数Nが所定値以上である場合、画像表示装置202の動作は、ステップS610に移る。
一方、変数Nが所定値未満である場合、画像表示装置202の動作は、ステップS510に戻る。これにより、ステップS510の処理が繰り返され、ラベル番号L(Lは、ステップS320で設定された値)の第2の画像IMGが複数特定される。
ステップS610では、画像表示装置202は、全てのラベルを探索したか否かを判定する。例えば、画像表示装置202は、特徴量データベースCDBに登録されたラベル番号の最大値と変数Lの値とが一致した場合、全てのラベルを探索したと判定する。全てのラベルを探索した場合、画像表示装置202の動作は、ステップS710に移る。一方、探索されていないラベルが存在する場合、画像表示装置202の動作は、ステップS320に戻る。
ステップS710では、表示部240は、図7で説明したように、入力画像IMGiと各ラベルの参照画像IMGrとを表示装置110に表示する。すなわち、表示部240は、第1の種別、第1の画像IMG、第2の画像IMGおよび入力画像IMGiを含む画面を表示装置110に表示する。これにより、例えば、オペレータは、表示装置110に表示された画像IMGを参照して、入力画像IMGiにラベルを付与する。
次に、ステップS800では、画像表示装置202は、入力画像IMGiにラベルが付与されたか否かを判定する。例えば、オペレータが入力画像IMGiにラベルを付与した場合、画像表示装置202は、オペレータによりラベル付けされた入力画像IMGiのラベルを示す情報を、入力インタフェース50を介して受ける。この場合、画像表示装置202は、入力画像IMGiにラベルが付与されたと判定する。入力画像IMGiにラベルが付与された場合、画像表示装置202の動作は、ステップS900に移る。一方、入力画像IMGiにラベルが付与されていない場合、画像表示装置202の動作は、ステップS800に戻る。例えば、画像表示装置202は、入力画像IMGiのラベルを示す情報を受信するまで、ステップS900の処理の実行を待機する。
ステップS900では、登録部250は、特徴量データベースCDBの内容を更新する。例えば、登録部250は、入力インタフェース50から受ける入力画像IMGiのラベルを示す情報(例えば、ラベル番号)とステップS100で算出した入力画像IMGiの特徴量とを入力画像IMGiに対応付けて特徴量データベースCDBに登録する。これにより、1つの入力画像IMGiにラベルを付与する際の画像表示装置202の動作は終了する。したがって、特徴量データベースCDBの内容を更新した後、画像表示装置202の動作は、ステップS10に戻る。
なお、画像表示装置202の動作は、図8に示す例に限定されない。例えば、ステップS510では、探索対象の画像IMGのうち、特徴空間上におけるN個の参照画像IMGrの位置をそれぞれ示すN個のベクトルVの各々とのなす角が全て第1の範囲内であるベクトルVで示される画像IMGが抽出されてもよい。すなわち、第2画像特定部232は、探索対象の画像IMGのうち、特徴空間上におけるN個の参照画像IMGrの位置をそれぞれ示すN個のベクトルVの各々とのなす角が全て第1の範囲内であるベクトルVで示される画像IMGを抽出してもよい。そして、第2画像特定部232は、抽出した画像IMGのうち、類似度が最大の画像IMGを(N+1)個目の参照画像IMGrに特定してもよい。第1の範囲は、例えば、図6で説明したように、90度に対して±45度の範囲でもよいし、ほぼ90度と見なせる範囲でもよい。
また、第2画像特定部232は、特徴空間上におけるN個の参照画像IMGrの位置をそれぞれ示すN個のベクトルVの全てに直交するベクトルVで示される画像IMGが探索対象の画像IMGに存在しない場合に第1の範囲を用いて画像IMGを抽出してもよい。
また、画像表示プログラムDPRGは、ステップS10からステップS710までの一連の処理をコンピュータ10に実行させるためのプログラムでもよい。この場合、画像表示プログラムDPRGとは別のプログラムがステップS800からステップS900までの一連の処理をコンピュータ10に実行させてもよい。
以上、図3から図8に示す実施形態においても、図1および図2に示した実施形態と同様の効果を得ることができる。画像表示装置202は、探索対象である第1の種別に対応付けられた画像IMGのうち、特徴空間上における入力画像IMGiの位置を始点とした場合の第1の画像IMGの位置を示すベクトルVとのなす角が90度のベクトルVで示される画像IMGを抽出する。あるいは、画像表示装置202は、探索対象の種別に対応付けられた画像IMGのうち、特徴空間上における第1の画像IMGの位置を示すベクトルVとのなす角が90度を含む第1の範囲内のベクトルVで示される画像IMGを抽出する。そして、画像表示装置202は、抽出した画像IMGのうち、入力画像IMGiに最も類似する画像IMGを第2の画像IMGに特定する。
さらに、複数の第2の画像IMGを特定する場合には、第1の画像IMGの位置を示すベクトルVの他に、既に特定した第2の画像IMGの位置を示すベクトルVとのなす角も評価される。例えば、画像表示装置202は、第1の画像IMGの位置を示すベクトルVの他に、既に特定した第2の画像IMGの位置を示すベクトルVとのなす角も90度あるいは第1の範囲内であるベクトルVで示される画像IMGを抽出する。そして、画像表示装置202は、抽出した画像IMGのうち、入力画像IMGiに最も類似する画像IMGを第2の画像IMGに特定して参照画像IMGrに追加する。
また、画像表示装置202は、入力画像IMGiと一緒に、第1の画像IMGおよび第2の画像IMGを含む参照画像IMGrをラベル毎にまとめて表示する。これにより、入力画像IMGiとの比較を互いに異なる観点で実行可能な第1の画像IMGと第2の画像IMGとが参照画像IMGrとして入力画像IMGiと一緒に表示される。このため、画像IMGにラベルを付与する際に、過去のラベル付け結果(既にラベル付けされた画像IMGのラベル付け結果)との矛盾の発生を抑止することができる。
図9は、画像表示プログラム、画像表示装置および画像表示方法の別の実施形態を示す。図1から図8で説明した要素と同一または同様の要素については、同一または同様の符号を付し、これ等については、詳細な説明を省略する。図9に示す画像表示装置204は、例えば、オペレータが画像IMGの種別を示すラベルを画像IMGに付与する際に、過去のラベル付け結果との矛盾の発生を抑止するための画像表示処理を実行する。画像表示装置204は、ハードウェアのみで実現されてもよく、ハードウェアをソフトウェアで制御することにより実現されてもよい。図9に示す例では、画像表示装置204は、コンピュータ10が画像表示プログラムDPRGを実行することにより、実現される。例えば、コンピュータ10は、プロセッサ20、メモリ30、ハードディスク装置40、入力インタフェース50、出力インタフェース60およびドライブ装置70を有する。メモリ30およびハードディスク装置40は、記憶部の一例である。
画像表示装置204は、図3に示した第2画像特定部232の代わりに第2画像特定部234を有することを除いて、図3に示した画像表示装置202と同一または同様である。例えば、画像表示装置204は、特徴量算出部210、類似度算出部212、第1画像特定部222、第2画像特定部234、表示部240および登録部250を有する。特徴量算出部210、類似度算出部212、第1画像特定部222、表示部240および登録部250は、図3に示した特徴量算出部210、類似度算出部212、第1画像特定部222、表示部240および登録部250と同一または同様である。
第2画像特定部234は、探索対象である第1の種別に対応付けられた画像IMGのうち、特徴空間上における第1の画像IMGとの距離が所定の第1の距離以上の画像IMGを抽出する。そして、第2画像特定部234は、抽出した画像IMGのうち、入力画像IMGiに最も類似する画像IMGを、第2の画像IMGとして特定する。これにより、入力画像IMGiと一緒に表示される参照画像IMGrとして、入力画像IMGiとの比較を互いに異なる観点で実行可能な第1の画像IMGと第2の画像IMGとが特定される。
なお、画像表示装置204およびコンピュータ10の構成は、図9に示す例に限定されない。例えば、画像表示装置204は、登録部250を除いて定義されてもよい。この場合、例えば、ラベルを画像IMGに付与する処理装置は、登録部250を除いた画像表示装置204、登録部250、メモリ30、ハードディスク装置40、入力インタフェース50および出力インタフェース60を有する。
図10は、図9に示した第2画像特定部234の動作の一例を示す。なお、図10は、特徴量の種類が特徴量1と特徴量2の2つで、画像IMGの種別の数が種別aと種別bの2つの場合の第2画像特定部234の動作の一例を示す。画像IMGの種別の数および特徴量の種類は2つに限定されない。図10に示す特徴空間は、図6に示した特徴空間と同じである。また、図10に示す網掛けの四角形、三角形、星形の意味は、図6と同じである。また、図10に示す距離DIS(DIS2、DISp、DISq)は、特徴空間上における入力画像IMGiと各画像IMGとの距離を示す。図10では、特徴空間上における第1の画像IMGとの距離が所定の第1の距離D1以上である位置関係を所定の位置関係として、第2画像特定部234の動作を説明する。
第2画像特定部234は、種別aの複数の画像IMGaのうち、特徴空間上における第1の画像IMGa1との距離が所定の第1の距離D1以上の画像IMGa(図10に示した破線の円の外側の画像IMGa)を抽出する。そして、第2画像特定部234は、特徴空間上における第1の画像IMGとの距離が第1の距離D1以上の複数の画像IMGaのうち、入力画像IMGiに最も近い画像IMGa2を、種別aの第2の画像IMGに特定する。なお、第2画像特定部234は、種別bの画像IMGbに対する第2の画像IMGの探索も、種別aの画像IMGaに対する第2の画像IMGの探索と同様に実行する。
図10に示す例では、画像IMGajは、画像IMGa1との距離が第1の距離D1未満であり、画像IMGa2、IMGap、IMGaq等は、画像IMGa1との距離が第1の距離D1以上である。このため、第2画像特定部234は、種別aの複数の画像IMGaから画像IMGa1および画像IMGajを除いた画像IMGaを抽出する。また、画像IMGa2は、図10に示した破線の円の外側の画像IMGaのうち、入力画像IMGiに最も近い。例えば、画像IMGa2と入力画像IMGiとの距離DIS2は、画像IMGapと入力画像IMGiとの距離DISpおよび画像IMGaqと入力画像IMGiとの距離DISqの両方より短い。このため、第2画像特定部234は、上述したように、特徴空間上における第1の画像IMGとの距離が第1の距離D1以上の複数の画像IMGaのうち、入力画像IMGiに最も近い画像IMGa2を、種別aの第2の画像IMGに特定する。
ここで、第1の画像IMGと抽出対象の画像IMGとの距離は、図5で説明した式(1)または式(2)を用いて算出される。この場合、式(1)または式(2)の説明において、入力画像IMGiの座標および類似度の算出対象の画像IMGの座標は、第1の画像IMGの座標および抽出対象の画像IMGの座標にそれぞれ読み替えられる。なお、距離の算出では、各特徴量の重要性に応じた重みを特徴量の値(特徴空間における各軸の座標値)に付け、重みを付けた特徴量の値を、式(1)または式(2)に代入してもよい。
このように、第2画像特定部234は、種別aに対応付けられた画像IMGaのうち、特徴空間上において入力画像IMGiおよび第1の画像IMGa1と所定の位置関係にある画像IMGa2を、第2の画像IMGに特定する。図10に示す例では、画像IMGajは、画像IMGa2に比べて入力画像IMGiに類似するが、入力画像IMGiおよび第1の画像IMGa1との位置関係が所定の位置関係を満たしていないため、参照画像IMGrとして選択されない。
これにより、第1の画像IMGに類似する画像IMGを第2の画像IMGに特定する場合に比べて、複数の参照画像IMGr(第1の画像IMG、第2の画像IMG)間で入力画像IMGiに類似する特徴量のバリエーションを増加させることができる。この結果、図10に示す動作では、第1の画像IMGに類似する画像IMGを第2の画像IMGに特定する場合に比べて、オペレータがラベルを入力画像IMGiに付与するための有益な情報を提供できる。
図11は、図9に示した画像表示装置204の動作の一例を示す。図11に示す動作は、コンピュータ10により実行される画像表示方法の一態様である。また、図11に示す動作をコンピュータ10に実行させるためのプログラムは、画像表示プログラムの一態様である。なお、図11に示す動作は、ハードウェアのみで実現されてもよい。図8で説明した動作と同一または同様の動作については、詳細な説明を省略する。図11に示す動作では、所定の位置関係は、特徴空間上における第1の画像IMGとの距離が所定の第1の距離D1以上である位置関係である。図11に示す動作は、図8に示したステップS510の処理の代わりにステップS512の処理が実行されることを除いて、図8に示した動作と同一または同様である。なお、ステップS530の所定値は、特徴空間の軸の数より大きい値でもよい。ステップS512の処理は、ステップS410の処理が実行された後、または、ステップS530で変数Nが所定値以上と判定された場合、実行される。
ステップS512では、第2画像特定部234は、ステップS330で設定された探索対象の画像IMGのうち、特徴空間上におけるN個の参照画像IMGrのそれぞれとの距離が第1の距離D1以上の画像IMGを抽出する。そして、第2画像特定部234は、抽出した画像IMGのうち、類似度が最大の画像IMGを(N+1)個目の参照画像IMGrに特定する。すなわち、第2画像特定部234は、探索対象の画像IMGで、特徴空間上におけるN個の参照画像IMGrのそれぞれとの距離が第1の距離D1以上の画像IMGのうち、類似度が最大の画像IMGを(N+1)個目の参照画像IMGrに特定する。
例えば、変数Nが1の場合、既に特定されたN個の参照画像IMGrは、ステップS410で特定された1個目の参照画像IMGr(第1の画像IMG)である。また、(N+1)個目の参照画像IMGr、すなわち、2個目の参照画像IMGrは、1個目の第2の画像IMGである。この場合、第2画像特定部234は、図10で説明したように、探索対象の画像IMGのうち、第1の画像IMGとの距離が第1の距離D1以上の画像IMGから、類似度が最大の画像IMGを1個目の第2の画像IMGに特定する。
また、ステップS520、S530により、変数Nが2に更新され、ステップS512の処理が再度実行される場合、既に特定されたN個(2個)の参照画像IMGrは、ステップS410で特定された第1の画像IMGと、1個目の第2の画像IMGである。なお、(N+1)個目の参照画像IMGr、すなわち、3個目の参照画像IMGrは、2個目の第2の画像IMGである。この場合、第2画像特定部234は、第1の画像IMGとの距離が第1の距離D1以上で、かつ、1個目の第2の画像IMG(既に特定した第2の画像IMG)との距離が第1の距離D1以上の画像IMGを、探索対象の画像IMGから抽出する。そして、第2画像特定部234は、探索対象の画像IMGから抽出した画像IMGのうち、類似度が最大の画像IMGを、2個目の第2の画像IMGに特定する。
なお、第2画像特定部234は、N個の参照画像IMGrのそれぞれとの距離が第1の距離D1以上の画像IMGを抽出するまで、探索対象の画像IMGから、類似度の高い順に画像IMGを抽出してもよい。この場合、第2画像特定部234は、例えば、最後に抽出した画像IMGを(N+1)個目の参照画像IMGrに特定する。
ステップS512の処理により、(N+1)個目の参照画像IMGrが特定された後、画像表示装置204の動作は、ステップS520に移る。なお、例えば、所定の位置関係を満たす画像IMGが探索対象の画像IMGの中に存在しない場合、すなわち、第2の画像IMGが特定されない場合、図示していないが、画像表示装置204の動作は、ステップS610に移る。
このように、図11に示す動作では、既に特定した参照画像IMGrとの距離が第1の距離D1未満の画像IMGは、新たな参照画像IMGrとして選択されない。これにより、第1の画像IMGに類似する画像IMGを第2の画像IMGに特定する場合に比べて、複数の参照画像IMGr(第1の画像IMG、第2の画像IMG)間で入力画像IMGiに類似する特徴量のバリエーションを増加させることができる。
なお、画像表示装置204の動作は、図11に示す例に限定されない。例えば、画像表示装置204は、ステップS530において、変数Nが所定値以上か否かを判定する代わりに、既に特定した参照画像IMGrとの距離が第1の距離D1以上の画像IMGが探索対象の画像IMGの中に存在するか否かを判定してもよい。そして、画像表示装置204は、既に特定した参照画像IMGrとの距離が第1の距離D1以上の画像IMGが探索対象の画像IMGの中に存在する場合、動作をステップS512に戻す。また、画像表示装置204は、既に特定した参照画像IMGrとの距離が第1の距離D1以上の画像IMGが探索対象の画像IMGの中に存在しない場合、動作をステップS610に移す。また、例えば、画像表示装置204は、変数Nが2以上の場合、入力画像IMGiとの距離DISが所定の距離(例えば、第1の距離D1の2倍の距離等)以上の画像IMGを、第2の画像IMGを特定する際の探索対象から除外してもよい。
以上、図9から図11に示す実施形態においても、図1から図8に示した実施形態と同様の効果を得ることができる。例えば、画像表示装置204は、第1の種別と対応付けられており、特徴空間上における第1の画像IMGとの距離が第1の距離D1以上の画像IMGのうち、入力画像IMGiに最も近い画像IMGを第2の画像IMGに特定する。これにより、画像表示装置204は、入力画像IMGiと一緒に表示する複数の参照画像IMGr(第1の画像IMG、第2の画像IMG)間の特徴空間上における距離を第1の距離D1以上にできる。すなわち、入力画像IMGiとの比較を互いに異なる観点で実行可能な複数の参照画像IMGr(第1の画像IMGと第2の画像IMG)が入力画像IMGiと一緒に表示される。このため、画像IMGにラベルを付与する際に、過去のラベル付け結果(既にラベル付けされた画像IMGのラベル付け結果)との矛盾の発生を抑止することができる。
図12は、画像表示プログラム、画像表示装置および画像表示方法の別の実施形態を示す。図1から図11で説明した要素と同一または同様の要素については、同一または同様の符号を付し、これ等については、詳細な説明を省略する。図12に示す画像表示装置206は、例えば、オペレータが画像IMGの種別を示すラベルを画像IMGに付与する際に、過去のラベル付け結果との矛盾の発生を抑止するための画像表示処理を実行する。画像表示装置206は、ハードウェアのみで実現されてもよく、ハードウェアをソフトウェアで制御することにより実現されてもよい。図12に示す例では、画像表示装置206は、コンピュータ10が画像表示プログラムDPRGを実行することにより、実現される。例えば、コンピュータ10は、プロセッサ20、メモリ30、ハードディスク装置40、入力インタフェース50、出力インタフェース60およびドライブ装置70を有する。メモリ30およびハードディスク装置40は、記憶部の一例である。
画像表示装置206は、図9に示した第2画像特定部234の代わりに第2画像特定部236を有することを除いて、図9に示した画像表示装置204と同一または同様である。例えば、画像表示装置206は、特徴量算出部210、類似度算出部212、第1画像特定部222、第2画像特定部236、表示部240および登録部250を有する。特徴量算出部210、類似度算出部212、第1画像特定部222、表示部240および登録部250は、図9に示した特徴量算出部210、類似度算出部212、第1画像特定部222、表示部240および登録部250と同一または同様である。
第2画像特定部236は、入力画像IMGiとの距離DISが所定の第2の距離以上の画像IMGを、第2の画像IMGを特定する際の探索対象から除外することを除いて、図9に示した第2画像特定部234と同一または同様である。例えば、第2画像特定部236は、第1の種別の画像IMGで、既に特定した第1の画像IMG等との距離が第1の距離D1以上で、入力画像IMGiとの距離DISが第2の距離未満の画像IMGのうち、入力画像IMGiに最も類似する画像IMGを選択する。そして、第2画像特定部236は、選択した画像IMGを第2の画像IMGに特定する。第2の距離は、例えば、第1の距離D1より大きい値であり、予め設定される。
なお、画像表示装置206およびコンピュータ10の構成は、図12に示す例に限定されない。例えば、画像表示装置206は、登録部250を除いて定義されてもよい。この場合、例えば、ラベルを画像IMGに付与する処理装置は、登録部250を除いた画像表示装置206、登録部250、メモリ30、ハードディスク装置40、入力インタフェース50および出力インタフェース60を有する。
図13は、図12に示した第2画像特定部236の動作の一例を示す。なお、図13は、特徴量の種類が特徴量1と特徴量2の2つで、画像IMGの種別の数が種別aと種別bの2つの場合の第2画像特定部236の動作の一例を示す。画像IMGの種別の数および特徴量の種類は2つに限定されない。図13に示す特徴空間は、図10に示した特徴空間と同じである。また、図13に示す網掛けの四角形、三角形、星形、距離DIS(DIS2、DISp、DISq)の意味は、図10と同じである。図13では、特徴空間上における第1の画像IMGとの距離が所定の第1の距離D1以上である位置関係を所定の位置関係として、第2画像特定部236の動作を説明する。
第2画像特定部236は、入力画像IMGiとの距離DISが所定の第2の距離D2以上の画像IMG(図13に示した点線の円の外側の画像IMG)を、第2の画像IMGを特定する際の探索対象から除外する。第2画像特定部236のその他の動作は、図10、図11等で説明した第2画像特定部234の動作と同一または同様である。
図13に示す例では、画像IMGarが、種別aの第2の画像IMGを特定する際の探索対象から除外される。これにより、入力画像IMGiに類似していない画像IMGが第2の画像IMGとして特定されることを抑止することができる。すなわち、入力画像IMGiに類似していない画像IMGが、入力画像IMGiと一緒に表示されることを抑止することができる。
また、画像表示装置206の動作は、図11に示したステップS512において、入力画像IMGiとの距離DISが所定の第2の距離D2以上の画像IMGが探索対象の画像IMGから除外されることを除いて、図11に示した動作と同一または同様である。
なお、第2画像特定部236および画像表示装置206の動作は、図13に示す例に限定されない。例えば、画像表示装置206は、変数Nが1の場合、入力画像IMGiとの距離DISが所定の第2の距離D2以上の画像IMGを探索対象に含めてもよい。また、例えば、画像表示装置206は、図11に示したステップS530において、既に特定した参照画像IMGrとの距離が第1の距離D1以上の画像IMGが探索対象の画像IMGの中に存在するか否かを判定してもよい。
以上、図12から図13に示す実施形態においても、図1から図11に示した実施形態と同様の効果を得ることができる。例えば、画像表示装置206は、第1の種別と対応付けられており、特徴空間上における入力画像IMGiとの距離が第2の距離D2未満の画像IMGを探索対象とする。そして、画像表示装置206は、探索対象の画像IMGで、特徴空間上における第1の画像IMGとの距離が第1の距離D1以上の画像IMGのうち、入力画像IMGiに最も近い画像IMGを第2の画像IMGに特定する。これにより、画像表示装置206は、入力画像IMGiと一緒に表示する複数の参照画像IMGr(第1の画像IMG、第2の画像IMG)間の特徴空間上における距離を第1の距離D1以上にできる。すなわち、入力画像IMGiとの比較を互いに異なる観点で実行可能な複数の参照画像IMGr(第1の画像IMGと第2の画像IMG)が入力画像IMGiと一緒に表示される。このため、画像IMGにラベルを付与する際に、過去のラベル付け結果(既にラベル付けされた画像IMGのラベル付け結果)との矛盾の発生を抑止することができる。
さらに、入力画像IMGiとの距離DISが第2の距離D2以上の画像IMGが第2の画像IMGとして特定されないため、入力画像IMGiに類似していない画像IMGが、入力画像IMGiと一緒に表示されることを抑止することができる。
図14は、画像表示プログラム、画像表示装置および画像表示方法の別の実施形態を示す。図1から図13で説明した要素と同一または同様の要素については、同一または同様の符号を付し、これ等については、詳細な説明を省略する。図14に示す画像表示装置208は、例えば、オペレータが画像IMGの種別を示すラベルを画像IMGに付与する際に、過去のラベル付け結果との矛盾の発生を抑止するための画像表示処理を実行する。画像表示装置208は、ハードウェアのみで実現されてもよく、ハードウェアをソフトウェアで制御することにより実現されてもよい。図14に示す例では、画像表示装置208は、コンピュータ10が画像表示プログラムDPRGを実行することにより、実現される。例えば、コンピュータ10は、プロセッサ20、メモリ30、ハードディスク装置40、入力インタフェース50、出力インタフェース60およびドライブ装置70を有する。メモリ30およびハードディスク装置40は、記憶部の一例である。
画像表示装置208は、図3に示した表示部240の代わりに表示部242を有し、図3に示した画像表示装置202に第3画像特定部238が追加されることを除いて、図3に示した画像表示装置202と同一または同様である。例えば、画像表示装置208は、特徴量算出部210、類似度算出部212、第1画像特定部222、第2画像特定部232、第3画像特定部238、表示部242および登録部250を有する。特徴量算出部210、類似度算出部212、第1画像特定部222、第2画像特定部232および登録部250は、図3に示した特徴量算出部210、類似度算出部212、第1画像特定部222、第2画像特定部232および登録部250と同一または同様である。
第3画像特定部238は、特徴空間上における対象の参照画像IMGrと入力画像IMGiとを通る直線上に位置し、対象の参照画像IMGrと異なる種別の画像を、第3の画像IMGに特定する。対象の参照画像IMGrは、例えば、第1の画像IMGおよび第2の画像IMGのうちの1つの画像IMGである。なお、第3画像特定部238の動作の詳細は、図15で説明する。
表示部242は、第1の画像IMGおよび第2の画像IMGの他に、第3の画像IMGも参照画像IMGrとして、入力画像IMGiと一緒に表示装置110に表示することを除いて、図3に示した表示部240と同一または同様である。例えば、表示部242は、第1の種別を示す情報と第3の画像IMGの種別を示す情報と第1の画像IMGと第2の画像IMGと第3の画像IMGと入力画像IMGiとを含む画面を表示する。
なお、画像表示装置208およびコンピュータ10の構成は、図14に示す例に限定されない。例えば、画像表示装置208は、第2画像特定部232の代わりに、図9に示した第2画像特定部234を有してもよいし、図12に示した第2画像特定部236を有してもよい。また、例えば、画像表示装置208は、登録部250を除いて定義されてもよい。この場合、例えば、ラベルを画像IMGに付与する処理装置は、登録部250を除いた画像表示装置206、登録部250、メモリ30、ハードディスク装置40、入力インタフェース50および出力インタフェース60を有する。
図15は、図14に示した第3画像特定部238の動作の一例を示す。なお、図15は、特徴量の種類が特徴量1と特徴量2の2つで、画像IMGの種別の数が種別aと種別bの2つの場合の第3画像特定部238の動作の一例を示す。画像IMGの種別の数および特徴量の種類は2つに限定されない。図15に示す特徴空間は、図6に示した特徴空間と同じである。また、図15に示す網掛けの四角形、三角形、星形の意味は、図6と同じである。図15では、図6に示した動作により種別aの第1の画像IMGa1および第2の画像IMGa2と種別bの第1の画像IMGb1および第2の画像IMGb2とが特定されたものとして、第3画像特定部238の動作を説明する。
第3画像特定部238は、種別aの第1の画像IMGa1と入力画像IMGiとを結んだ直線上に位置する種別bの画像IMGb31(種別aと異なる種別の画像IMG)を、第3の画像IMGに特定する。これにより、第3の画像IMGb31が、種別aの第1の画像IMGa1と同一の観点を有する参照画像IMGrとして追加される。
さらに、第3画像特定部238は、種別aの第2の画像IMGa2と入力画像IMGiとを結んだ直線上に位置する種別bの画像IMGb32(種別aと異なる種別の画像IMG)を、第3の画像IMGに特定する。これにより、第3の画像IMGb32が、種別aの第2の画像IMGa2と同一の観点を有する参照画像IMGrとして追加される。
同様に、第3画像特定部238は、第3の画像IMGa31を種別bの第1の画像IMGb1と同一の観点を有する参照画像IMGrとして特定し、第3の画像IMGa32を種別bの第2の画像IMGb2と同一の観点を有する参照画像IMGrとして特定する。このように、第3画像特定部238は、第1画像特定部222および第2画像特定部232で特定した参照画像IMGr毎に、各参照画像IMGrと同一の観点を有する異なる種別の参照画像IMGrを追加する。
第1の画像IMG、第2の画像IMGおよび第3の画像IMGが参照画像IMGrとして入力画像IMGiと一緒に表示される。これにより、例えば、図15に示す点線の軸上の観点で入力画像IMGiが種別aの画像IMGaと種別bの画像IMGbのどちらに近いかを確認可能な情報を提供することができる。
なお、第3画像特定部238の動作は、図15に示す例に限定されない。例えば、第1の画像IMGおよび第2の画像IMGの各々と入力画像IMGiとを通る直線(図15の点線)は、所定の幅を有してもよい。例えば、第1の画像IMGおよび第2の画像IMGの各々と入力画像IMGiとを通る直線が図15に示す点線の直線より広い幅を有する場合、図15に示す点線の直線付近の画像IMGを第3の画像IMGとして抽出できる。これにより、第1の画像IMGまたは第2の画像IMGと異なる種別の画像IMGが図15に示す点線の直線上に存在しない場合でも、直線付近に位置する異なる種別の画像IMGを、第3の画像IMGに特定することができる。
また、第3画像特定部238は、特徴空間上における対象の参照画像IMGrの位置を示すベクトルVとのなす角が所定の角度以上で180度以下のベクトルVで示され、対象の参照画像IMGrと異なる種別の画像IMGを、第3の画像IMGに特定してもよい。対象の参照画像IMGrは、例えば、第1の画像IMGおよび第2の画像IMGのうちの1つの画像IMGである。
図16は、図14に示した表示部242の動作の一例を示す。なお、図16は、画像IMGの種別が2つの場合の表示部242の動作の一例を示す。画像IMGの種別の数は、2つに限定されない。画像IMGa1、IMGb1、IMGa2、IMGb2、IMGa31、IMGa32、IMGb31、IMGb32は、例えば、図15で説明した参照画像IMGr(第1の画像IMG、第2の画像IMG、第3の画像IMG)である。
表示部242は、第1画像特定部222、第2画像特定部232および第3画像特定部238により特定された参照画像IMGrを、表示装置110に表示する。例えば、表示部242は、表示画面の中心に入力画像IMGiを配置し、入力画像IMGiの左右に参照画像IMGrをラベル毎にまとめて表示する。
図16に示す例では、ラベルaの画像IMGaのうちで入力画像IMGiに類似した画像IMGa1、IMGa2が、ラベルaの画像IMGaの表示領域内の上から1つ目と2つ目に表示される。そして、ラベルbの画像IMGbの表示領域では、画像IMGa1と同一の観点を有する画像IMGb31が上から1つ目に表示され、画像IMGa2と同一の観点を有する画像IMGb32が上から2つ目に表示される。このため、ラベルbの画像IMGbのうちで入力画像IMGiに類似した画像IMGb1、IMGb2は、ラベルbの画像IMGbの表示領域における上から3つ目および4つ目にそれぞれ表示される。したがって、ラベルaの画像IMGaの表示領域では、画像IMGb1と同一の観点を有する画像IMGa31が上から3つ目に表示され、画像IMGb2と同一の観点を有する画像IMGa32が上から4つ目に表示される。
このように、表示部242は、特徴量の観点が揃った画像IMG(特徴空間上で入力画像IMGiを通る同一の線上に位置する画像IMG)を同じ行に表示する。これにより、例えば、オペレータは、入力画像IMGiに付与しようとしているラベル以外のラベルの中に、入力画像IMGiに類似した画像IMGが存在した場合、同じ観点で見た時の正解と考えるラベル内の画像IMGを容易に確認できる。すなわち、入力画像IMGiがどのラベルにより近い画像IMGであるかを容易に確認することが可能になる。この結果、画像IMGにラベルを付与する際に、過去のラベル付け結果(既にラベル付けされた画像IMGのラベル付け結果)との矛盾の発生を抑止することができる。
図17は、図14に示した画像表示装置208の動作の一例を示す。図17に示す動作は、コンピュータ10により実行される画像表示方法の一態様である。また、図17に示す動作をコンピュータ10に実行させるためのプログラムは、画像表示プログラムの一態様である。なお、図17に示す動作は、ハードウェアのみで実現されてもよい。図8で説明した動作と同一または同様の動作については、詳細な説明を省略する。図17に示す動作は、ステップS620の処理が図8に示した動作に追加され、図8に示したステップS710の処理の代わりにステップS712の処理が実行されることを除いて、図8に示した動作と同一または同様である。ステップS620の処理は、ステップS610で全てのラベルを探索したと判定された場合に実行される。
ステップS620では、第3画像特定部238は、図15で説明したように、第3の画像IMGを参照画像IMGrとして追加する。例えば、第3画像特定部238は、ステップS410およびステップS510で特定した参照画像IMGr(第1の画像IMG、第2の画像IMG)毎に、参照画像IMGrと同じ観点を有する異なるラベルの画像IMGを第3の画像IMGに特定する。これにより、第3の画像IMGは、後述するステップS712において、入力画像IMGi等と一緒に表示装置110に表示される。ステップS620の処理が実行された後、画像表示装置208の動作は、ステップS712に移る。
ステップS712では、表示部242は、図16で説明したように、入力画像IMGiと各ラベルの参照画像IMGrとを表示装置110に表示する。すなわち、表示部242は、第1の種別、第3の画像IMGの種別を示す情報、第1の画像IMG、第2の画像IMG、第3の画像IMGおよび入力画像IMGiを含む画面を表示装置110に表示する。これにより、全てのラベルにおいて参照画像IMGrの観点が揃った画像IMGが表示されるため、ある観点における入力画像IMGiと各ラベルの参照画像IMGrとの距離感を把握しやすくすることができる。ステップS712の処理が実行された後、画像表示装置208の動作は、ステップS800に移る。
なお、画像表示装置208の動作は、図17に示す例に限定されない。例えば、画像表示装置208は、ステップS510の処理の代わりに、図11に示したステップS512の処理等を実行してもよい。
以上、図14から図17に示す実施形態においても、図1から図13に示した実施形態と同様の効果を得ることができる。例えば、画像表示装置208は、探索対象の画像IMGで、特徴空間上における第1の画像IMGの位置を示すベクトルVとのなす角が90度のベクトルVで示される画像IMGのうち、入力画像IMGiに最も類似する画像IMGを第2の画像IMGに特定する。
さらに、画像表示装置208は、第1の画像IMGおよび第2の画像IMGのうちの1つの画像IMGと同じ観点を有する異なるラベルの画像IMGを第3の画像IMGに特定する処理を、第1の画像IMGおよび第2の画像IMGの各々に対して実行する。そして、画像表示装置208は、入力画像IMGiと各ラベルの参照画像IMGr(第1の画像IMG、第2の画像IMG、第3の画像IMG)とを表示装置110に表示する。
これにより、全てのラベルにおいて参照画像IMGrの観点が揃った画像IMGが表示されるため、ある観点における入力画像IMGiと各ラベルの参照画像IMGrとの距離感を把握しやすくすることができる。この結果、画像IMGにラベルを付与する際に、過去のラベル付け結果(既にラベル付けされた画像IMGのラベル付け結果)との矛盾の発生を抑止することができる。
以上の実施形態において説明した発明を整理して、付記として以下の通り開示する。
(付記1)
入力画像から複数種類の特徴量を算出し、
画像に対応付けて前記画像の種別を示す情報と前記画像から算出した複数種類の特徴量とを記憶する記憶部を参照して、前記種別のうち第1の種別と対応付けられた画像のうち前記入力画像に最も類似する第1の画像を特定し、
特徴量の種類によって定められる特徴空間上において、前記記憶部に記憶されている複数の画像のうち、前記第1の種別と対応付けられており、前記入力画像および前記第1の画像と所定の位置関係にある第2の画像を特定し、
前記第1の種別を示す情報と前記第1の画像と前記第2の画像と前記入力画像とを含む画面を表示する
処理をコンピュータに実行させるための画像表示プログラム。
(付記2)
付記1に記載の画像表示プログラムにおいて、
前記第1の種別と対応付けられた画像のうち、前記特徴空間上における前記入力画像の位置を始点とした場合の前記第1の画像の位置を示すベクトルとのなす角が90度のベクトルで示される画像を、前記第2の画像に特定する
処理をコンピュータに実行させるための画像表示プログラム。
(付記3)
付記2に記載の画像表示プログラムにおいて、
前記第1の画像の位置を示すベクトルとのなす角が90度のベクトルで示される画像を複数抽出した場合、抽出した複数の画像のうち、前記入力画像に最も類似する画像を前記第2の画像に特定する
処理をコンピュータに実行させるための画像表示プログラム。
(付記4)
付記3に記載の画像表示プログラムにおいて、
さらに、複数の前記第2の画像を特定する場合、前記第1の種別と対応付けられており、前記特徴空間上における前記入力画像の位置を始点とした場合の前記第1の画像の位置を示すベクトルおよび既に特定した前記第2の画像の位置を示すベクトルの各々とのなす角が全て90度であるベクトルで示される画像のうち、前記入力画像に最も類似する画像を前記第2の画像に特定する
処理をコンピュータに実行させるための画像表示プログラム。
(付記5)
付記1に記載の画像表示プログラムにおいて、
前記第1の種別と対応付けられており、前記特徴空間上における前記入力画像の位置を始点とした場合の前記第1の画像の位置を示すベクトルとのなす角が90度を含む所定の第1の範囲内のベクトルで示される画像のうち、前記入力画像に最も類似する画像を前記第2の画像に特定し、
さらに、複数の前記第2の画像を特定する場合、前記第1の種別と対応付けられており、前記特徴空間上における前記入力画像の位置を始点とした場合の前記第1の画像の位置を示すベクトルおよび既に特定した前記第2の画像の位置を示すベクトルの各々とのなす角が全て前記第1の範囲内であるベクトルで示される画像のうち、前記入力画像に最も類似する画像を前記第2の画像に特定する
処理をコンピュータに実行させるための画像表示プログラム。
(付記6)
付記1に記載の画像表示プログラムにおいて、
前記第1の種別と対応付けられており、前記特徴空間上における前記第1の画像との距離が所定の第1の距離以上の画像のうち、前記入力画像に最も類似する画像を前記第2の画像に特定する
処理をコンピュータに実行させるための画像表示プログラム。
(付記7)
付記6に記載の画像表示プログラムにおいて、
さらに、複数の前記第2の画像を特定する場合、前記第1の種別と対応付けられており、前記特徴空間上における前記第1の画像および既に特定した前記第2の画像の各々との距離が前記第1の距離以上の画像のうち、前記入力画像に最も類似する画像を前記第2の画像に特定する
処理をコンピュータに実行させるための画像表示プログラム。
(付記8)
付記6または付記7に記載の画像表示プログラムにおいて、
前記入力画像との距離が所定の第2の距離以上の画像を、前記第2の画像を特定する際の探索対象から除外する
処理をコンピュータに実行させるための画像表示プログラム。
(付記9)
付記1ないし付記8のいずれか1項に記載の画像表示プログラムにおいて、
前記特徴空間上における前記第1の画像および前記第2の画像のうちの1つの画像と前記入力画像とを通る直線上に位置し、前記1つの画像と異なる種別の画像を、第3の画像に特定し、
前記第1の種別を示す情報と前記第3の画像の種別を示す情報と前記第1の画像と前記第2の画像と前記第3の画像と前記入力画像とを含む画面を表示する
処理をコンピュータに実行させるための画像表示プログラム。
(付記10)
付記9に記載の画像表示プログラムにおいて、
前記直線は、所定の幅を有する
ことを特徴とする画像表示プログラム。
(付記11)
付記1ないし付記8のいずれか1項に記載の画像表示プログラムにおいて、
前記特徴空間上における前記入力画像の位置を始点とした場合の前記第1の画像および前記第2の画像のうちの1つの画像の位置を示すベクトルとのなす角が所定の角度以上で180度以下のベクトルで示され、前記1つの画像と異なる種別の画像を、第3の画像に特定し、
前記第1の種別を示す情報と前記第3の画像の種別を示す情報と前記第1の画像と前記第2の画像と前記第3の画像と前記入力画像とを含む画面を表示する
処理をコンピュータに実行させるための画像表示プログラム。
(付記12)
付記1ないし付記11のいずれか1項に記載の画像表示プログラムにおいて、
前記第1の種別を前記種別のうちの他の種別に変更して、前記第1の画像の特定および前記第2の画像の特定を前記種別毎に実行する
処理をコンピュータに実行させるための画像表示プログラム。
(付記13)
入力画像から複数種類の特徴量を算出する特徴量算出部と、
画像に対応付けて前記画像の種別を示す情報と前記画像から算出した複数種類の特徴量とを記憶する記憶部を参照して、前記種別のうち第1の種別と対応付けられた画像のうち前記入力画像に最も類似する第1の画像を特定する第1画像特定部と、
特徴量の種類によって定められる特徴空間上において、前記記憶部に記憶されている複数の画像のうち、前記第1の種別と対応付けられており、前記入力画像および前記第1の画像と所定の位置関係にある第2の画像を特定する第2画像特定部と、
前記第1の種別を示す情報と前記第1の画像と前記第2の画像と前記入力画像とを含む画面を表示する表示部とを有する
ことを特徴とする画像表示装置。
(付記14)
コンピュータにより実行される画像表示方法であって、
前記コンピュータが、
入力画像から複数種類の特徴量を算出し、
画像に対応付けて前記画像の種別を示す情報と前記画像から算出した複数種類の特徴量とを記憶する記憶部を参照して、前記種別のうち第1の種別と対応付けられた画像のうち前記入力画像に最も類似する第1の画像を特定し、
特徴量の種類によって定められる特徴空間上において、前記記憶部に記憶されている複数の画像のうち、前記第1の種別と対応付けられており、前記入力画像および前記第1の画像と所定の位置関係にある第2の画像を特定し、
前記第1の種別を示す情報と前記第1の画像と前記第2の画像と前記入力画像とを含む画面を表示する
ことを特徴とする画像表示方法。
(付記15)
入力画像から複数種類の特徴量を算出し、
画像に対応付けて前記画像の種別を示す情報と前記画像から算出した複数種類の特徴量とを記憶する記憶部を参照して、前記種別のうち第1の種別と対応付けられた画像のうち前記入力画像に最も類似する第1の画像を特定し、
特徴量の種類によって定められる特徴空間上において、前記記憶部に記憶されている複数の画像のうち、前記第1の種別と対応付けられており、前記入力画像および前記第1の画像と所定の位置関係にある第2の画像を特定し、
前記第1の種別を示す情報と前記第1の画像と前記第2の画像と前記入力画像とを含む画面を表示する
処理をコンピュータに実行させるための画像表示プログラムを記録したことを特徴とするコンピュータが読み取り可能な記録媒体。
以上の詳細な説明により、実施形態の特徴点および利点は明らかになるであろう。これは、特許請求の範囲がその精神および権利範囲を逸脱しない範囲で前述のような実施形態の特徴点および利点にまで及ぶことを意図するものである。また、当該技術分野において通常の知識を有する者であれば、あらゆる改良および変更に容易に想到できるはずである。したがって、発明性を有する実施形態の範囲を前述したものに限定する意図はなく、実施形態に開示された範囲に含まれる適当な改良物および均等物に拠ることも可能である。