JP2000132554A - 画像検索装置および画像検索方法 - Google Patents

画像検索装置および画像検索方法

Info

Publication number
JP2000132554A
JP2000132554A JP10300089A JP30008998A JP2000132554A JP 2000132554 A JP2000132554 A JP 2000132554A JP 10300089 A JP10300089 A JP 10300089A JP 30008998 A JP30008998 A JP 30008998A JP 2000132554 A JP2000132554 A JP 2000132554A
Authority
JP
Japan
Prior art keywords
image
search
counter
filter
feature amount
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP10300089A
Other languages
English (en)
Inventor
Tatsuya Nomura
竜也 野村
Naoki Urano
直樹 浦野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP10300089A priority Critical patent/JP2000132554A/ja
Publication of JP2000132554A publication Critical patent/JP2000132554A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Complex Calculations (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Image Analysis (AREA)

Abstract

(57)【要約】 【課題】 使用者が検索したい画像の物理的特徴を意識
することなく、使用者の所望画像の類似度に関する曖昧
な感覚を反映した検索を可能とする。 【解決手段】 例/反例画像選択部5で、使用者が検索
したいと考える画像(例画像)と検索したくないと考え
る画像(反例画像)とを選択する。画像特徴量抽出部1
2で、例画像と反例画像とにウェーブレット変換を施
し、ウェーブレット変換係数のうち値の大きいものを画
像特徴量として抽出する。この画像特徴量に基づいて、
例画像に対しては肯定の応答を、反例画像に対しては否
定の応答を行うようにニューラルネットワーク11に教
師信号を与え、画像検索フィルタ8を学習する。学習し
た画像検索フィルタ8により、画像データ記憶部2の画
像に対して肯定/否定の判別を行い、検索結果として検
索入出力部3に提示する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、複数の画像データ
から使用者の所望画像を検索する画像検索装置および画
像検索方法に関するものである。
【0002】
【従来の技術】従来の画像データベース検索システムで
は、事前に各画像に付加したキーワードを用いて検索を
行っていた。しかし、この方式では、扱う画像が多くな
るにつれキーワードを各画像に付加する労力が大きくな
ると同時に、曖昧な内容の画像に明確なキーワードを付
加しなければならないという問題がある。また、検索時
においても、使用者が明確なキーワードをシステムに与
え、それを元に検索を行うため、使用者が所望する画像
に対して曖昧な知識しか持っていない場合は、検索が困
難であるという問題がある。
【0003】これらの問題点を克服する方法として、事
前にキーワードを付加することなく、画像の内容におけ
る物理的情報そのものを元に検索する手法が提案されて
いる。
【0004】例えば、Hirata and Kato,“Rough Sketch
-Based Image Information Retrieval",NEC Research a
nd Development,Vol.34,No.2,pp.263-273,1993(以下、
「文献1」と記す。)、M.Flickner,et.al.,“Query by
Image and Video Content:The QBIC System",Compute
r,Vol.28,No.9,pp.23-32,1995(以下、「文献2」と記
す。)、大河内他, “感性画像検索技術の開発−色彩と
形状を同時に考慮した類似画像検索について−", OMRON
TECHNICS,Vol.38,No.1,pp.56-60,1998 (以下、「文献
3」と記す。)には、各画像の色彩の分布、物体の形状
などの情報を画像の特徴量として抽出し、使用者が与え
る画像の特徴もしくは例画像との特徴量空間上での距離
に基づく類似度を計算することによって、検索を行う手
法が開示されている。
【0005】さらに、C.E.Jacobs,et.al.,“Fast Multi
resolution Image Querying",Proc.SIGGRAPH'95,pp.277
-286,1995 (以下、「文献4」と記す。)では、画像に
対して2次元ウェーブレット変換を施して量子化した係
数を特徴量として、使用者が検索したいと考える画像
(例画像)との類似度を元に検索を行う手法が開示され
ている。
【0006】また、検索時にキーワードを直接指定せ
ず、肯定例および否定例を提示することにより検索する
手法が提案されている。
【0007】例えば、文字情報検索において、キーワー
ドを直接指定することなく、肯定例および否定例を提示
することで、各情報に対するフィルタリングを通して検
索を行い、検索結果を元に肯定例および否定例を更新す
る形で情報フィルタを学習する手法が、特開平5−20
4975号公報に記載されている。
【0008】また、画像検索においても、数値的検索属
性を直接指定することなく、例画像および反例画像およ
びを提示することで、検索に必要な画像特徴量の条件を
自動的に選定する手法が、特開平8−249353号公
報に記載されている。
【0009】
【発明が解決しようとする課題】しかし、上記文献1〜
4に開示されている手法では、画像の物理的特徴量を直
接比較しているため、使用者が検索したい画像の色彩や
形状などの検索属性を数値で直接指定もしくはスケッチ
画像を描画することで指定するか、検索したい画像に類
似した画像を提示しなければならない。
【0010】そのため、上記従来の手法では、使用者が
検索の際に用いる色彩や物体形状などの特徴を明確に意
識する必要があり、曖昧な嗜好に基づいて検索を行いた
い場合には、使用者に負担がかかり、満足な検索結果が
得られない可能性があるという問題がある。
【0011】一方、特開平5−204975号公報に記
載の情報検索方法は、特許検索などの文字情報データベ
ースを対象としており、フィルタリングが各情報から得
られた文字組の間の一致度を元に行われるため、画像検
索へ直接的適用することは困難である。
【0012】また、特開平8−249353号公報に記
載の画像検索方式では、上記文献1〜4と同様に、画像
特徴量の座標空間上での特徴量ベクトルの間の距離に基
づいて所望画像の探索が行われるため、検索を行う使用
者が感覚として持つ画像の類似度と特徴量空間上での画
像の物理的距離との間に必ずしも対応がなく、検索にお
いて使用者の感覚が直接反映されないという問題があ
る。
【0013】本発明は、上記の問題点を解決するために
なされたもので、その目的は、使用者が検索したい画像
の物理的特徴を意識することなく、使用者の所望画像の
類似度に関する曖昧な感覚を反映した検索を可能とする
画像検索装置および画像検索方法を提供することにあ
る。
【0014】
【課題を解決するための手段】請求項1の画像検索装置
は、上記の課題を解決するために、複数の画像を格納し
ている画像データ記憶部と、該画像データ記憶部に格納
されている各画像が所望の画像かどうかを判別する画像
検索フィルタと、該画像検索フィルタに対して検索対象
の画像に類似のサンプル画像である例画像および非類似
のサンプル画像である反例画像をそれぞれ設定する例/
反例画像選択部と、該画像検索フィルタが該画像データ
記憶部に格納されている各画像を判別できるように、該
例/反例画像選択部によって設定された該例画像および
該反例画像に基づいて該画像検索フィルタを学習させる
フィルタ学習部とを備えていることを特徴としている。
【0015】上記の構成により、まず例/反例画像選択
部によって、画像検索フィルタに対して検索対象の画像
の例画像および反例画像が設定される。つぎにフィルタ
学習部によって、画像検索フィルタが例画像に対しては
肯定の応答を、反例画像に対しては否定の応答を行うよ
うに、画像検索フィルタが学習される。そして学習され
た画像検索フィルタによって、画像データ記憶部に記憶
されている各画像に対して、学習結果に基づいて肯定あ
るいは否定のいずれかの応答が発せられる。
【0016】よって、例画像および反例画像に基づいて
使用者が所望する画像の画像特徴量の関係を学習するこ
とにより、使用者は検索を所望する画像の色彩、物体形
状などの厳密な物理的特徴を意識することなく、所望す
る画像の類似度に関する曖昧な感覚を反映しながら検索
することが可能となる。すなわち、使用者が曖昧な感覚
に基づいてサンプル画像である例画像および反例画像を
示すだけで、所望する画像を検索することができる。し
かも、使用者の所望画像の類似関係についての曖昧な感
覚を、フィルタ学習を通して検索に反映させることがで
きる。
【0017】請求項2の画像検索装置は、上記の課題を
解決するために、請求項1の構成に加えて、上記のフィ
ルタ学習部および画像検索フィルタは、画像の2次元離
散ウェーブレット変換係数を演算することによって該画
像の画像特徴量を抽出する画像特徴量抽出部をともに備
え、かつ、該フィルタ学習部は、上記の例画像および反
例画像より該画像特徴量抽出部によって抽出された画像
特徴量に基づいて、該例画像に対しては肯定の出力を、
該反例画像に対しては否定の出力をするように、該画像
検索フィルタに設けられたニューラルネットワークを学
習させる特徴量学習部を備え、かつ、該画像検索フィル
タは、上記画像データ記憶部に格納されている各画像よ
り該画像特徴量抽出部によって抽出された画像特徴量に
基づいて、該画像を判別する画像フィルタリング部を備
えていることを特徴としている。
【0018】上記の構成により、請求項1の構成による
作用に加えて、まず画像特徴量抽出部によって、例/反
例画像選択部で設定された例画像および反例画像に対し
てウェーブレット変換が施され、画像特徴量としてそれ
ぞれ抽出される。つぎに特徴量学習部によって、画像特
徴量抽出部で抽出された各画像特徴量に対して、例画像
ならば肯定の応答を、反例画像ならば否定の応答を対応
づける教師信号が画像検索フィルタに設けられたニュー
ラルネットワークに与えられ、ニューラルネットワーク
の学習が行われる。そして、画像特徴量抽出部によっ
て、画像データ記憶部に格納されている各画像の画像特
徴量が抽出された後、画像検索フィルタによって、画像
フィルタリング部におけるニューラルネットワークにお
いて各画像特徴量に対して肯定あるいは否定の応答が行
われる。
【0019】よって、ウェーブレット変換を用いて、高
速かつ簡便に画像特徴量を抽出することが可能となる。
同時に、ニューラルネットワークを用いることで画像特
徴量の物理的距離に依存せず、使用者の所望画像の類似
関係についての曖昧な感覚を直接反映した画像検索が可
能となる。すなわち、使用者の曖昧な嗜好に基づいた画
像のフィルタリングが、高速かつ簡便に実現することが
できる。
【0020】請求項3の画像検索装置は、上記の課題を
解決するために、請求項1または2の構成に加えて、上
記画像検索フィルタを複数備えていることを特徴として
いる。
【0021】上記の構成により、請求項1または2の構
成による作用に加えて、別々に学習された複数の画像検
索フィルタを併用した検索や、複数の画像検索フィルタ
を同時に学習させることが可能となる。したがって、過
去の学習結果を再利用することができるともに、柔軟で
幅広い検索を行うことができる。
【0022】請求項4の画像検索装置は、上記の課題を
解決するために、請求項1から3の何れかの構成に加え
て、上記例/反例画像選択部は、画像検索フィルタによ
って検索された画像を、上記の例画像あるいは反例画像
として設定することを特徴としている。
【0023】上記の構成により、請求項1から3の何れ
かの構成による作用に加えて、検索結果において所望し
ない画像が得られた場合や、得られるべき画像が得られ
なかった場合に、例/反例画像選択部によって検索結果
の画像を例画像あるいは反例画像として改めて設定し
て、フィルタ学習部に画像検索フィルタを追加学習させ
ることが可能となる。したがって、検索対象を絞り込み
ながら検索することができるとともに、検索性能の向上
を図ることができる。
【0024】請求項5の画像検索方法は、上記の課題を
解決するために、画像データ記憶部に格納されている各
画像が所望の画像かどうかを判別する画像検索フィルタ
に対して、検索対象の画像に類似のサンプル画像である
例画像および非類似のサンプル画像である反例画像をそ
れぞれ設定する例/反例画像選択処理と、該例画像およ
び該反例画像の画像特徴量を抽出する例/反例画像特徴
量抽出処理と、該画像検索フィルタが該画像データ記憶
部に格納されている各画像を判別できるように、該例画
像および該反例画像の画像特徴量に基づいて該画像検索
フィルタを学習させる特徴量学習処理と、該画像データ
記憶部に格納されている各画像の画像特徴量を抽出する
画像特徴量抽出処理と、該画像データ記憶部に格納され
ている各画像を該画像検索フィルタによって画像特徴量
に基づいて判別する画像フィルタリング処理とを含んで
いることを特徴としている。
【0025】上記の構成により、まず例/反例画像選択
処理によって、画像検索フィルタに対して、例画像およ
び反例画像をそれぞれ設定する。つぎに例/反例画像特
徴量抽出処理によって、例画像および反例画像の画像特
徴量を抽出する。そして特徴量学習処理によって、画像
検索フィルタが画像データ記憶部に格納されている各画
像を判別できるように、例画像および反例画像の画像特
徴量に基づいて画像検索フィルタを学習させる。つづい
て画像特徴量抽出処理によって、画像データ記憶部に格
納されている各画像の画像特徴量を抽出した後、画像フ
ィルタリング処理によって、画像検索フィルタを用いて
画像データ記憶部に格納されている各画像を画像特徴量
に基づいて判別する。
【0026】よって、例画像および反例画像に基づいて
使用者が所望する画像の画像特徴量の関係を学習するこ
とにより、使用者は検索を所望する画像の色彩、物体形
状などの厳密な物理的特徴を意識することなく、所望す
る画像の類似度に関する曖昧な感覚を反映しながら検索
することが可能となる。すなわち、使用者が曖昧な感覚
に基づいてサンプル画像である例画像および反例画像を
示すだけで、所望する画像を検索することができる。し
かも、使用者の所望画像の類似関係についての曖昧な感
覚を、フィルタ学習を通して検索に反映させることがで
きる。
【0027】請求項6の記録媒体は、上記の課題を解決
するために、画像データ記憶部に格納されている各画像
が所望の画像かどうかを判別する画像検索フィルタに対
して、検索対象の画像に類似のサンプル画像である例画
像および非類似のサンプル画像である反例画像をそれぞ
れ設定する例/反例画像選択処理と、該例画像および該
反例画像の画像特徴量を抽出する例/反例画像特徴量抽
出処理と、該画像検索フィルタが該画像データ記憶部に
格納されている各画像を判別できるように、該例画像お
よび該反例画像の画像特徴量に基づいて該画像検索フィ
ルタを学習させる特徴量学習処理と、該画像データ記憶
部に格納されている各画像の画像特徴量を抽出する画像
特徴量抽出処理と、該画像データ記憶部に格納されてい
る各画像を該画像検索フィルタによって画像特徴量に基
づいて判別する画像フィルタリング処理とを、コンピュ
ータに実行させるためのプログラムを記録していること
を特徴としている。
【0028】上記の構成により、上記請求項5と同様の
機能を実現することができる。
【0029】
【発明の実施の形態】〔実施の形態1〕本発明の一実施
の形態について図1から図11に基づいて説明すれば、
以下のとおりである。
【0030】本実施の形態にかかる画像検索フィルタリ
ング装置(画像検索装置)1は、使用者が検索したいと
考える画像(例画像)と検索したくないと考える画像
(反例画像)とに対してウェーブレット変換を施し、ウ
ェーブレット変換係数のうち値の大きいものを画像特徴
量として抽出する。そして、抽出した各画像特徴量に基
づいて、例画像に対しては肯定の応答を、反例画像に対
しては否定の応答を行うように、それぞれ対応づける教
師信号をニューラルネットワークに与え、画像検索フィ
ルタを学習する。最後に、学習した画像検索フィルタに
より、画像データベースの各画像に対して肯定あるいは
否定の判別を行い、肯定された画像を検索結果として使
用者に提示する。
【0031】図2の機能ブロック図に示すように、本実
施の形態にかかる画像検索フィルタリング装置1は、画
像データ記憶部2と、検索入出力部3と、処理部4とを
備えて構成されている。さらに、上記処理部4は、例/
反例画像選択部5と、フィルタ学習部7および画像検索
フィルタ8を含む画像検索フィルタリング部6とを備え
て構成されている。
【0032】また、図3の物理ブロック図に示すよう
に、上記画像検索フィルタリング装置1は、図2の機能
ブロックを実現するために、CPU(central processi
ng unit )21と、プログラムメモリ22と、RAM
(random access memory)23と、キーボード24と、
ポインティングデバイス25と、ハードディスク26お
よびハードディスクコントローラ27と、ネットワーク
コントローラ29と、表示装置30と、表示制御部31
と、VRAM(video random access memory)32とを
備えて構成されている。そして、これらの構成部材はシ
ステムバス33を介して通信可能に接続されている。
【0033】上記画像データ記憶部2(図2)は、画像
データを記憶する。すなわち、ハードディスク26がハ
ードディスクコントローラ27の制御の下に、画像デー
タ記憶部2として画像データと各種データの記憶および
読み出しを行う。また、遠隔地データベース28も、各
種通信ネットワークを介して、画像検索フィルタリング
装置1のインタフェースであるネットワークコントロー
ラ29に接続されて、ネットワークコントローラ29の
制御の下に、画像データと各種データの記憶および読み
出しを行う。
【0034】上記検索入出力部3(図2)は、使用者か
らの検索入力を受けるとともに、検索結果を出力する。
すなわち、検索入出力部3には、入力手段として、キー
ボード24、マウスなどのポインティングデバイス25
が備えられている。また、検索入出力部3の出力手段で
あるCRTや液晶などの表示装置30は、表示制御部3
1の制御の下に、表示するイメージデータをVRAM3
2に記憶することにより、使用者ヘのメッセージや検索
結果などを表示する。このように、表示装置30、表示
制御部31、VRAM32、キーボード24、ポインテ
ィングデバイス25が、検索入出力部3として機能す
る。
【0035】上記処理部4(図2)は、CPU21がプ
ログラムメモリ22に格納されている各種制御プログラ
ムに従って、画像検索フィルタリング装置1の動作を制
御する。そして、CPU21は、RAM23を一時的に
各種データを記憶するワークメモリとして使用すること
により、各種制御プログラムを実行する。また、ハード
ディスク26はハードディスクコントローラ27の制御
の下に、各種データの記憶および読み出しを行う。つま
り、ハードディスク26は、画像データ記憶部2に加え
て、処理部4としても機能する。
【0036】したがって、処理部4に含まれる例/反例
画像選択部5および画像検索フィルタリング部6(フィ
ルタ学習部7、画像検索フィルタ8)の機能は、CPU
21およびRAM23によって、プログラムメモリ22
に格納されているそれぞれの制御プログラムが実行され
ることにより達成される。
【0037】ここで、図1を参照しながら、上記処理部
4(図2)の機能ブロックの構成を具体的に説明する。
なお、上述したように処理部4は、例/反例画像選択部
5と、画像検索フィルタリング部6とを備えて構成され
ている。
【0038】上記例/反例画像選択部5(図2)は、使
用者が所望する画像に対する例画像および反例画像を、
検索入出力部3を介して使用者に選定させることによっ
て決定する。
【0039】上記画像検索フィルタリング部6は、フィ
ルタ学習部7と、画像検索フィルタ8とを備えて構成さ
れている。そして、上記フィルタ学習部7は、画像特徴
量抽出部12と、ニューラルネットワーク11を含む特
徴量学習部9とを備えて構成されている。一方、上記画
像検索フィルタ8は、画像特徴量抽出部12と、ニュー
ラルネットワーク11を含む画像フィルタリング部10
とを備えて構成されている。すなわち、画像特徴量抽出
部12およびニューラルネットワーク11は、フィルタ
学習部7と画像検索フィルタ8とに共有されている。
【0040】ここで、上記画像特徴量抽出部12は、内
蔵するウェーブレット変換部13において、入力された
画像データに対して2次元離散ウェーブレット変換を施
すことにより、画像特徴量を抽出する。また、上記ニュ
ーラルネットワーク11は、フィルタ学習部7の特徴量
学習部9における例画像および反例画像の学習結果に基
づき、画像判別を行う。
【0041】そして、上記フィルタ学習部7は、例/反
例画像選択部5から所望画像の例画像および反例画像の
情報を入力とし、これらに基づいて画像検索フィルタ8
を学習する。すなわち、特徴量学習部9において、例/
反例画像選択部5からの情報に基づき、ニューラルネッ
トワーク11を学習する。
【0042】上記画像検索フィルタ8は、画像データ記
憶部2から与えられる画像データが所望の画像データか
否かを判別する。すなわち、画像フィルタリング部10
において、学習済みのニューラルネットワーク11によ
って、画像判別を行う。
【0043】つぎに、図4から図7を用いて、上記画像
検索フィルタリング装置1の動作の概略について説明す
る。なお、以下では、図4に示すフローチャートに従っ
て、説明を行う。また、画像特徴量の抽出、および画像
検索フィルタ8の学習については後述する。
【0044】ステップS1(図4)では、使用者が例画
像および反例画像を選択するための候補となるサンプル
画像を表示する。すなわち、例/反例画像選択部5が、
画像データ記憶部2から例画像および反例画像の選択候
補となるサンプル画像を読み出し、検索入出力部3によ
りサンプル画像表示領域41に読み出したサンプル画像
を表示する(図5)。
【0045】ステップS2(例/反例画像選択処理)
(図4)では、使用者が検索の例画像および反例画像を
選択する。すなわち、使用者は検索入出力部3のキーボ
ード24もしくはマウスなどのポインティングデバイス
25を用いて、サンプル画像表示領域41に表示されて
いるサンプル画像を選択し、学習例画像表示領域42の
例画像領域42aあるいは反例画像領域42bに配置す
る(図5)。つまり、使用者は、サンプル画像表示領域
41に表示されたサンプル画像のうち、例画像とするサ
ンプル画像を学習例画像表示領域42の例画像領域42
aへ配置するとともに、反例画像とするサンプル画像を
学習例画像表示領域42の反例画像領域42bへ配置す
る。なお、図5中では、学習例画像表示領域42内で例
画像領域42aの外側領域が、反例画像領域42bであ
る。
【0046】ステップS3(図4)では、画像検索フィ
ルタ8を学習する。すなわち、例/反例画像選択部5
は、使用者によって選択された例画像および反例画像の
情報をフィルタ学習部7に送り、フィルタ学習部7はそ
れをもとに画像検索フィルタ8を学習する(図6)。
【0047】ステップS4(図4)では、学習された画
像検索フィルタ8により画像データ記憶部2から所望の
画像を検索する。すなわち、学習が終了した画像検索フ
ィルタ8が、画像データ記憶部2から画像データを読み
出し、学習結果に応じて肯定/否定を判別する(図
6)。
【0048】ステップS5(図4)では、ステップS4
で得られた画像検索の結果を表示する。すなわち、検索
入出力部3の表示装置30において、肯定の判別を受け
た画像(肯定画像)が検索結果表示領域43の肯定画像
表示領域43aに、否定の判別を受けた画像(否定画
像)が否定画像表示領域43bに表示される(図6)。
なお、図6中では、検索結果表示領域43内で肯定画像
表示領域43aの外側領域が、否定画像表示領域43b
である。
【0049】ステップS6(図4)では、ステップS5
で表示された検索結果をもとに、使用者が追加学習を行
うか否かを決定する。ここで、追加学習が指示された場
合(YES)にはステップS7へ進み、指示されなかっ
た場合(NO)には検索処理を終了する。
【0050】ステップS7(図4)では、ステップS6
で使用者が追加学習を指示した場合、ステップSlと同
様に、例画像および反例画像を選択するための選択候補
となるサンプル画像を表示すると同時に、ステップS4
で得られた検索結果を表示して、ステップS2へ進む。
【0051】すなわち、図7に示すように、ステップS
lと同様に、例/反例画像選択部5が、画像データ記憶
部2から例画像および反例画像の選択候補となるサンプ
ル画像を読み出し、検索入出力部3によりサンプル画像
表示領域41に読み出したサンプル画像を表示する。こ
れと同時に、ステップS5と同様に、ステップS4の検
索結果である肯定画像および否定画像を肯定画像表示領
域43aおよび否定画像表示領域43bにそれぞれ配置
した検索結果表示領域43を表示する。
【0052】その後、ステップS2と同様に、使用者が
キーボード24もしくはマウスなどのポインティングデ
バイス25を用いて、サンプル画像表示領域41および
検索結果表示領域43に表示されている画像を選択し、
学習例画像表示領域42の例画像領域42aあるいは反
例画像領域42bに配置する。
【0053】これにより、サンプル画像に検索結果を加
えて画像検索フィルタ8を学習することができる。すな
わち、検索結果をサンプル画像に加えて改めて例画像お
よび反例画像を設定し、画像検索フィルタ8を追加学習
することによって、より精度を高めた再検索を行うこと
ができる。
【0054】つぎに、図8から図11を用いて、上記画
像検索フィルタリング部6の処理内容について、具体的
に説明する。
【0055】まず、図8を参照しながら、上記画像特徴
量抽出部12の処理内容を説明する。
【0056】画像特徴量抽出部12には、様々な大きさ
の画像データが入力されるが、入力された画像データは
縦横を拡大・縮小して共通の大きさに一旦統一される。
【0057】例えば、縦Nピクセル×横Mピクセルの画
像データIが入力されると、まずR×Rピクセルの画像
にスケーリングされる。ここで、Rは2のべき乗の正の
整数2D (D>b)である。
【0058】つぎに、各ピクセルの色データは、三つの
色空間(例えば、RGB空間、YIQ空間など)の画像
データに分解される。すなわち、各色空間に対してR×
Rピクセルの画像データ{Im(k,x,y):x=
1,…,R;y=1,…,R}(k=1,2,3)が得
られる。ここで、各画像データIm(k,x,y)はい
ずれも実数値である。
【0059】各色空間に分割された画像データIm
(k,x,y)に対して、以下の式で定義される2次元
離散ウェーブレット変換を適用し、ウェーブレット係数
を算出する。なお、この演算はウェーブレット変換部1
3において行われる。
【0060】
【数1】
【0061】ここで、上記の式(2)の関数は、Har
r基底関数である。よって、式(1)は、2次元信号で
ある画像データIm(k,x,y)に対するHarr基
底による2次元離散ウェーブレット変換を表わしてい
る。
【0062】こうして得られた各色空間でのウェーブレ
ット係数{W(k,u,v):u,v=1,…,R}
(k=1,2,3)のうち、絶対値の大きい順で上位L
個の係数とそのインデックスの集合(次式(3))を選
択する。
【0063】
【数2】
【0064】そして、以下の式(4)で表される3×3
×L次元実数値ベクトルを、画像の特徴量である画像特
徴量ベクトルFとして、ニューラルネットワーク11へ
出力する。
【0065】
【数3】
【0066】このように、各色空間で絶対値の上位L個
のウェーブレット係数を選択することにより、画像平面
上での色の平均値、および色変化の最も激しい領域の大
きさや位置、色の変化値を示す情報が得られる。したが
って、絶対値の上位L個のウェーブレット係数と対応す
るインデックスとからなるベクトルによって、画像に含
まれる物体のエッジの位置や大きさ、色に関する情報を
圧縮して表現することができる。
【0067】つづいて、図9を参照しながら、上記の画
像フィルタリング部10および特徴量学習部9の処理内
容を説明する。
【0068】まず、画像フィルタリング部10では、画
像特徴量抽出部12において、上述した演算(式(1)
〜式(4))により、画像データに対してウェーブレッ
ト変換を施して抽出した画像特徴量ベクトルFを、以下
の式(5)で定義される入力層(3×3×L次元)、中
間層(S次元)、出力層(2次元)の3層型ニューラル
ネットワーク11によって処理する。
【0069】
【数4】
【0070】ここで、NO(i,F)(i=1,2)は
ニューラルネットワーク11の出力層の出力値、NMn
(F)は中間層の出力値、実数w(2,0,0)in
(i=1,2;n=1,…,S)は出力層と中間層との
間の結合係数、実数w(1,k,p)nj(k,p=
1,2,3;n=1,…,S;j=1,…,L)は中間
層と入力層との間の結合係数である。また、bi(i=
1,2)およびcn(n=1,…,S)は、それぞれ出
力層および中間層のバイアス項である。
【0071】画像特徴量ベクトルFに対応する画像が所
望の画像であるか否かは、ニューラルネットワーク11
の出力層の出力値に基づいて、以下の条件式(6)に従
って判別される。
【0072】
【数5】
【0073】一方、上記特徴量学習部9では、まず、例
/反例画像選択部5から与えられる例画像の集合{IM
i:i=1,…,A}と反例画像の集合{NIMj:j
=1,…,B}とに対して、上述した演算(式(1)〜
式(4))により、画像特徴量抽出部12を介して、例
画像の画像特徴量ベクトルの集合{Fd:d=1,…,
A}と反例画像の画像特徴量ベクトルの集合{Fd:d
=A+1,…,A+B}とを得る。
【0074】つぎに、上記の式(5)で定義されたニュ
ーラルネットワーク11に対して、例画像の画像特徴量
ベクトルに対しては出力層において肯定の出力(1,
0)が、反例画像の画像特徴量ベクトルに対しては否定
の出力(0,1)が実現されるように、以下の誤差逆伝
搬学習則により結合係数w(2,0,0)in,w
(1,k,p)nj、およびバイアス項bi、cnを更
新する。
【0075】
【数6】
【0076】ここで、αは学習更新係数であり、正の実
数である。また、T(d,i)(d=1,…,A+B;
i=1,2)は、各画像特徴量ベクトルに対する教師信
号であり、例画像の画像特徴量ベクトルFd(d=1,
…,A)に対しては出力層において肯定の出力(1,
0)が、反例画像の画像特徴量ベクトルFd(d=A+
1,…,A+B)に対しては否定の出力(0,1)が実
現されるように設定される。また、Eは画像特徴量ベク
トルに付するニューラルネットワーク11の出力と教師
信号との自乗誤差であり、結合係数およびバイアス項の
更新は、この自乗誤差に対する最急降下法により行われ
る。そして、上記の式(7)の係数更新は、平均自乗誤
差E/(A+B)が規定の誤差許容値εを下回るか、規
定の最大更新回数Tに達するまで繰り返される。
【0077】すなわち、上記の式(7)に示したよう
に、ニューラルネットワーク11では、例画像に対して
は(1,0)を、反例画像に対しては(0,1)を教師
信号として与えることにより、例画像および反例画像が
ニューラルネットワーク11の出力の範囲[1,0]×
[0,1]の両極にそれぞれ配置されるようになってい
る。
【0078】つぎに、図10のフローチャートを参照し
ながら、画像検索フィルタリング部6のフィルタ学習部
7の動作を説明する。なお、図10の処理は、図4のス
テップS3に相当する。また、以下のステップS13か
らS20が、特徴量学習処理に相当する。
【0079】ステップS11では、例/反例画像選択部
5からフィルタ学習部7に、例画像の集合{IMi:i
=1,…,A}と反例画像の集合{NIMj:j=1,
…,B}とが与えられる。
【0080】ステップS12(例/反例画像特徴量抽出
処理)では、上述した演算(式(1)〜式(4))によ
り、画像特徴量抽出部12において、例画像の画像特徴
量ベクトルの集合{Fd:d=1,…,A}、および反
例画像の画像特徴量ベクトルの集合{Fd:d=A+
1,…,A+B}を生成する。
【0081】ステップS13では、各画像特徴量ベクト
ルに対して、ニューラルネットワーク11に与える教師
信号{T(d,i):d=1,…,A+B;i=1,
2}(式(7))を設定する。
【0082】ステップS14では、結合係数の更新回数
をカウントするカウンタtを1に初期化する。
【0083】ステップS15では、各画像特徴量ベクト
ルに対して、ニューラルネットワーク11の出力{NO
(i,Fd):d=1,…,A+B;i=1,2}(式
(5))を計算する。
【0084】ステップS16では、ニューラルネットワ
ーク11の出力と教師信号との自乗誤差Eを計算する
(式(7))。
【0085】ステップS17では、平均自乗誤差E/
(A+B)と規定の誤差許容値εとを比較し、平均自乗
誤差E/(A+B)が誤差許容値εを下回る場合(YE
S)には処理を終了し、そうでない場合(NO)にはス
テップS18へ進む。
【0086】ステップS18では、カウンタtと規定の
最大更新回数Tとを比較し、結合係数の更新回数が最大
更新回数を上回る場合(YES)には処理を終了し、そ
うでない場合(NO)にはステップS19へ進む。
【0087】ステップS19では、ニューラルネットワ
ーク11の結合係数およびバイアス項{w(2,0,
0)in,w(1,k,p)nj,bi,cn:i=
1,2;n=1,…,S;k,p=1,2,3;j=
1,…,L}を、上記の式(7)に従って1回更新す
る。
【0088】ステップS20では、カウンタtを1つイ
ンクリメントし、その後ステップS15へ戻り、上述の
ステップを継続する。
【0089】つぎに、図11のフローチャートを参照し
ながら、画像検索フィルタリング部6の画像検索フィル
タ8の動作を説明する。なお、図11の処理は、図4の
ステップS4に相当する。また、以下のステップS23
からS25が、画像フィルタリング処理に相当する。
【0090】ステップS21では、画像データ記憶部2
に未だ判別の判定を受けていない画像データが存在する
か否かが判断される。存在しない場合(NO)には処理
を終了し、そうでない場合(YES)にはステップS2
2へ進む。
【0091】ステップS22(画像特徴量抽出処理)で
は、上述した演算(式(1)〜式(4))により、画像
特徴量抽出部12において、当該未判別画像の画像特徴
量ベクトルFを生成する。
【0092】ステップS23では、当該の未判別画像の
画像特徴量ベクトルFに対して、ニューラルネットワー
ク11の出力NO(1,F)、NO(2,F)を計算す
る(式(5))。
【0093】ステップS24では、ニューラルネットワ
ーク11の出力NO(1,F)とNO(2,F)とを比
較し、NO(1,F)がNO(2,F)を上回る場合
(YES)にはステップS25へ進み、そうでない場合
(NO)にはステップS26へ進む。
【0094】ステップS25では、当該の画像は画像検
索フィルタ8の肯定画像として判別される。その後、ス
テップS21に戻り、上述の処理を継続する。一方、ス
テップS26では、当該の画像は画像検索フィルタ8の
否定画像として判別される。その後、ステップS21へ
戻り、上述の処理を継続する。
【0095】なお、ステップS24,S25,S26
は、上記の式(6)に示される画像の判別処理に相当す
る。
【0096】〔実施の形態2〕本発明の他の実施の形態
について図12から図14に基づいて説明すれば、以下
のとおりである。なお、説明の便宜上、前記の実施の形
態1において示した部材と同一の機能を有する部材に
は、同一の符号を付し、その説明を省略する。
【0097】本実施の形態にかかる画像検索フィルタリ
ング装置1は、図2において画像検索フィルタ8を複数
有する場合である。したがって、実施の形態1の画像検
索フィルタリング装置1とは、基本的に同じ機能ブロッ
ク(図1および図2)および物理ブロック(図3)で構
成されている。
【0098】図12から図14を用いて、上記画像検索
フィルタリング装置1における複数の画像検索フィルタ
8を用いた検索処理について説明する。具体的には、新
たに2つの画像検索フィルタ8(以下では、8a,8
b)を学習した後、学習済みの画像検索フィルタ8(以
下では、8c)を追加して、3つの画像検索フィルタ8
(8a,8b,8c)用いて画像検索する場合について
説明する。なお、図12に示すフローチャートに従っ
て、説明を行う。
【0099】ステップS31(図12)では、使用者が
新たに画像検索フィルタ8を学習するか否かを決定す
る。ここで、新たな画像検索フィルタ8(8a,8b)
の学習が指示された場合(YES)にはステップS32
へ進み、指示されなかった場合(NO)にはステップS
36へ進む。なお、複数の画像検索フィルタ8を新たに
学習して追加することが可能である。
【0100】ステップS32(図12)では、使用者が
例画像および反例画像を選択するための選択候補となる
サンプル画像を表示する。すなわち、例/反例画像選択
部5が、画像データ記憶部2から例画像および反例画像
の選択候補となるサンプル画像を読み出し、検索入出力
部3によりサンプル画像表示領域41に読み出したサン
プル画像を表示する(図13)。
【0101】ステップS33(例/反例画像選択処理)
(図12)では、使用者が検索の例画像および反例画像
を、新たに学習する画像検索フィルタ8(第一画像検索
フィルタ8a,第二画像検索フィルタ8b)に対して選
択する。すなわち、使用者は検索入出力部3のキーボー
ド24もしくはマウスなどのポインティングデバイス2
5を用いて、サンプル画像表示領域41に表示されてい
るサンプル画像を選択し、学習例画像表示領域52内の
各領域に配置する(図13)。
【0102】ここで、図13には、学習例画像表示領域
52内に、第一画像検索フィルタ8aの例画像を配置す
る第一例画像領域52aと、第二画像検索フィルタ8b
の例画像を配置する第二例画像領域52bとが表示され
ている。このとき、使用者は、サンプル画像表示領域4
1に表示されているサンプル画像を選択し、それを第一
画像検索フィルタ8aの例画像とする場合には第一例画
像領域52aの内側に、第二画像検索フィルタ8bの例
画像とする場合には第二例画像領域52bの内側に配置
する。さらに、サンプル画像を、両方のフィルタの例画
像とする場合には第一例画像領域52aと第二例画像領
域52bとの交わりの領域52cに配置し、両方のフィ
ルタの反例画像とする場合には第一例画像領域52aお
よび第二例画像領域52bの外側(反例画像領域52
d)に配置する。
【0103】ステップS34(図12)では、それぞれ
の画像検索フィルタ8(8a,8b)を学習する。この
処理は実施の形態1において説明したフィルタ学習部7
によって行われる。すなわち、例/反例画像選択部5
は、使用者によって選択された例画像および反例画像の
情報をフィルタ学習部7に送り、フィルタ学習部7はそ
れをもとに画像検索フィルタ8(8a,8b)を学習す
る(図6,図10)。
【0104】このとき、フィルタ学習部7は第一画像検
索フィルタ8aに対しては第一例画像領域52aの画像
のみを例画像とし、それ以外の画像はすべて反例画像と
して学習する。同様に、フィルタ学習部7は第二画像検
索フィルタ8bに対しては第二例画像領域52bの画像
のみを例画像とし、それ以外の画像はすべて反例画像と
して学習する。
【0105】ステップS35(図12)では、使用者が
既に学習されている他の画像検索フィルタ8を検索のた
めに追加するか否かを決定する。ここで、学習済みの画
像検索フィルタ8の追加が指示された場合(YES)に
はステップS36へ進み、指示されなかった場合(N
O)にはステップS37へ進む。
【0106】ステップS36(図12)では、既に学習
されている画像検索フィルタ8(第三画像検索フィルタ
8c)を検索のために選択する。ここで、学習済みの画
像検索フィルタ8を複数選択することができる。なお、
学習済みの画像検索フィルタ8は、画像データ記憶部2
(図2)に保存されている。
【0107】ステップS37(図12)では、新たに学
習された画像検索フィルタ8(8a,8b)および学習
済みの画像検索フィルタ8(8c)により、それぞれ画
像データ記憶部2から所望の画像を検索する。すなわ
ち、新たに学習された第一画像検索フィルタ8aおよび
第二画像検索フィルタ8bと、追加された第三画像検索
フィルタ8cとは、それぞれ画像データ記憶部2から画
像データを読み出し、検索対象として肯定/否定を判別
する(図14)。なお、この処理の内容は、実施の形態
1において説明したとおりである(図7,図11)。
【0108】ステップS38(図12)では、ステップ
S37で得られた画像検索の結果をまとめて表示する。
すなわち、検索入出力部3の表示装置30において、第
一画像検索フィルタ8a,第二画像検索フィルタ8b,
第三画像検索フィルタ8cによって肯定の判別を受けた
画像(肯定画像)が、検索結果表示領域53の第一肯定
画像表示領域53a,第二肯定画像表示領域53b,第
三肯定画像表示領域53cにそれぞれ表示される(図1
4)。このとき、複数の画像検索フィルタ8によって肯
定された肯定画像は、対応する肯定画像表示領域の交わ
りの領域53dに表示される。また、すべての画像検索
フィルタ8によって否定の判別を受けた画像(否定画
像)は、検索結果表示領域53内ですべての肯定画像表
示領域53a,53b,53cの外側領域(否定画像表
示領域53e)に表示される。
【0109】以上のように、実施の形態1および2にか
かる画像検索フィルタリング装置は、複数の画像データ
を記憶している画像データ記憶部から所望の画像データ
を検索する装置であって、使用者が検索を所望する画像
のサンプルである例画像と、所望しない画像のサンプル
である反例画像とを選択する例/反例画像選択部と、画
像データ記憶部に記憶されている各画像が所望の画像か
どうかを判別する画像検索フィルタとを備え、さらに、
例/反例画像選択部によって選択された例画像および反
例画像に基づいて、所望の画像データを判別できるよう
に画像検索フィルタを学習させるフィルタ学習部と、使
用者に検索結果を提示するとともに、使用者が検索結果
に基づいて新たに例画像および反例画像を例/反例画像
選択部に入力する検索入出力部とを備えている。
【0110】これにより、まず使用者が検索入出力部を
通じて、例/反例画像選択部を用いて例画像および反例
画像を選択する。つぎに例/反例画像選択部から例画像
および反例画像がフィルタ学習部に入力される。フィル
タ学習部は画像検索フィルタが例画像に対しては肯定の
応答を、反例画像に対しては否定の応答を行うように、
画像検索フィルタを学習する。学習された画像検索フィ
ルタは、画像データ記憶部に記憶されている各画像に対
して、学習結果に基づいて肯定/否定のいずれかの応答
を発する。肯定された画像が検索結果として検索入出力
部を通じて使用者に提示される。
【0111】このような過程により、使用者は検索を所
望する画像の色彩、物体形状などの厳密な物理的特徴を
意識することなく、所望する画像を検索することができ
る。すなわち、使用者が曖昧な感覚に基づいてサンプル
画像である例画像および反例画像を示すだけで、所望画
像を検索することが可能となる。しかも、使用者の所望
画像の類似関係に対する曖昧な感覚が学習を通して検索
に反映される。
【0112】また、検索結果において所望しない画像が
得られた場合や、得られるべき画像が得られなかった場
合には、検索結果の画像を例画像あるいは反例画像とし
て例/反例画像選択部に再提示して、フィルタ学習部に
画像検索フィルタを追加学習させることができ、検索性
能の向上を図ることが可能となる。
【0113】また、上記画像検索フィルタリング装置
は、ウェーブレット変換により画像の特徴量を抽出する
画像特徴量抽出部と、画像特徴量抽出部によって抽出さ
れた画像特徴量を入力として、画像特徴量に基づいて画
像が所望の画像であるか否かを判定するニューラルネッ
トワークとを備え、さらに、ニューラルネットワークに
より上記画像検索フィルタを実現する画像フィルタリン
グ部と、上記例/反例画像選択部によって選択された例
画像および反例画像から画像特徴量抽出部によって抽出
された画像特徴量とニューラルネットワークの学習によ
り、上記フィルタ学習部を実現する特徴量学習部とを備
えている。
【0114】これにより、まず画像特徴量抽出部におい
て、例/反例画像選択部から入力された例画像および反
例画像に対してウェーブレット変換が施され、ウェーブ
レット変換係数のうち値の大きいものが画像特徴量とし
て抽出される。つぎに特徴量学習部において、画像特徴
量抽出部によって抽出された各画像特徴量に対して、例
画像ならば肯定の応答を、反例画像ならば否定の応答を
対応づける教師信号を画像フィルタリング部におけるニ
ューラルネットワークに与える。フィルタ学習部では、
特徴量学習部が教師信号に従ってニューラルネットワー
クの学習が行われる。その後、画像検索フィルタでは、
画像データ記憶部に記憶されている各画像に対して、画
像特徴量抽出部から特徴量が抽出され、画像フィルタリ
ング部におけるニューラルネットワークにおいて各画像
特徴量に対して肯定あるいは否定の応答が行われる。
【0115】このような過程により、ウェーブレット変
換を用いて、高速かつ簡便に画像の特徴量抽出が可能と
なると同時に、ニューラルネットワークを用いることで
画像特徴量の物理的距離に依存せず、使用者の所望画像
の類似関係に対する曖昧な感覚を直接反映した画像検索
が可能となる。すなわち、上記画像検索フィルタリング
装置1では、使用者の曖昧な嗜好に基づいた画像のフィ
ルタリングを、高速かつ簡便に実現することができる。
【0116】例えば、上記のニューラルネットワーク1
1は、サンプル画像の向きが不統一であっても、画像の
向きを考慮したフィルタリングを行うように学習が行わ
れる。すなわち、使用者がサンプル画像として向きが不
統一な画像を与えても、ニューラルネットワーク11の
学習によって、画像の向きの不統一を吸収することがで
きる。そして、フィルタ学習部に画像検索フィルタを追
加学習させることにより、検索性能の向上を図ることが
できる。
【0117】さらに、実施の形態2にかかる上記画像検
索フィルタリング装置は、複数の画像検索フィルタの併
用して、画像検索を行う。
【0118】これにより、別々に学習された複数の画像
検索フィルタを併用したり、新たに複数の画像検索フィ
ルタを同時に学習することにより、過去の学習結果の再
利用が可能となるとともに、柔軟で幅広い検索が可能と
なる。
【0119】なお、第一例画像領域52aと第二例画像
領域52bとの交わりの領域52c(図13)に配置さ
れたサンプル画像を、ニューラルネットワーク11に二
重に与えることによって、重み付けをして検索すること
も可能である。
【0120】最後に、上述した実施の形態1および2
は、本発明の範囲を限定するものではなく、本発明の範
囲内で種々の変更が可能である。例えば、以下のように
構成することができる。
【0121】本発明は、複数の機器(例えば、ホストコ
ンピュータ,インタフェース機器,スキャナ,プリンタ
など)から構成されるシステムに適用しても、一つの機
器からなる装置(例えば、ワープロ装置、データベース
装置など)に適用してもよい。
【0122】また、本発明の目的は、上述した機能を実
現するソフトウェアであるプログラムコードをコンピュ
ータで読み取り可能に記録した記録媒体を、システムあ
るいは装置に供給し、そのシステムあるいは装置のコン
ピュータ(またはCPUやMPU)が記憶媒体に格納さ
れたプログラムコードを読出し実行することによって
も、達成可能である。この場合、記憶媒体から読出され
たプログラムコード自体が上述した機能を実現すること
になり、そのプログラムコードを記憶した記憶媒体は本
発明を構成することになる。なお、プログラムコードを
供給するための記憶媒体としては、例えば、フロッピデ
ィスク,ハードディスク,磁気テープ,光ディスク,光
磁気ディスク,CD−ROM,CD−R,MDなどのメ
ディア、および不揮発性のメモリカード,ROM,RA
Mなどのメモリを用いることができる。
【0123】また、上述した機能は、コンピュータが読
出した上記プログラムコードを実行することによっても
実現されるだけでなく、そのプログラムコードの指示に
基づき、コンピュータ上で稼働しているOSなどが実際
の処理の一部または全部を行い、その処理によっても実
現される。
【0124】さらに、上述した機能は、上記記憶媒体か
ら読出された上記プログラムコードが、コンピュータに
内蔵された機能拡張ボードやコンピュータに接続された
機能拡張ユニットに備わるメモリに書込まれた後、その
プログラムコードの指示に基づき、その機能拡張ボード
や機能拡張ユニットに備わるCPUなどが実際の処理の
一部または全部を行い、その処理によっても実現され
る。
【0125】
【発明の効果】請求項1の発明の画像検索装置は、以上
のように、複数の画像を格納している画像データ記憶部
と、該画像データ記憶部に格納されている各画像が所望
の画像かどうかを判別する画像検索フィルタと、該画像
検索フィルタに対して検索対象の画像に類似のサンプル
画像である例画像および非類似のサンプル画像である反
例画像をそれぞれ設定する例/反例画像選択部と、該画
像検索フィルタが該画像データ記憶部に格納されている
各画像を判別できるように、該例/反例画像選択部によ
って設定された該例画像および該反例画像に基づいて該
画像検索フィルタを学習させるフィルタ学習部とを備え
ている構成である。
【0126】それゆえ、例画像および反例画像に基づい
て使用者が所望する画像の画像特徴量の関係を学習する
ことにより、使用者は検索を所望する画像の色彩、物体
形状などの厳密な物理的特徴を意識することなく、所望
する画像の類似度に関する曖昧な感覚を反映しながら検
索することが可能となるという効果を奏する。すなわ
ち、使用者が曖昧な感覚に基づいてサンプル画像である
例画像および反例画像を示すだけで、所望する画像を検
索することができるという効果を奏する。しかも、使用
者の所望画像の類似関係についての曖昧な感覚を、フィ
ルタ学習を通して検索に反映させることができるという
効果を奏する。
【0127】請求項2の発明の画像検索装置は、以上の
ように、請求項1の構成に加えて、上記のフィルタ学習
部および画像検索フィルタは、画像の2次元離散ウェー
ブレット変換係数を演算することによって該画像の画像
特徴量を抽出する画像特徴量抽出部をともに備え、か
つ、該フィルタ学習部は、上記の例画像および反例画像
より該画像特徴量抽出部によって抽出された画像特徴量
に基づいて、該例画像に対しては肯定の出力を、該反例
画像に対しては否定の出力をするように、該画像検索フ
ィルタに設けられたニューラルネットワークを学習させ
る特徴量学習部を備え、かつ、該画像検索フィルタは、
上記画像データ記憶部に格納されている各画像より該画
像特徴量抽出部によって抽出された画像特徴量に基づい
て、該画像を判別する画像フィルタリング部を備えてい
る構成である。
【0128】それゆえ、請求項1の構成による効果に加
えて、ウェーブレット変換を用いて、高速かつ簡便に画
像特徴量を抽出することが可能となるという効果を奏す
る。同時に、ニューラルネットワークを用いることで画
像特徴量の物理的距離に依存せず、使用者の所望画像の
類似関係についての曖昧な感覚を直接反映した画像検索
が可能となるという効果を奏する。すなわち、使用者の
曖昧な嗜好に基づいた画像のフィルタリングが、高速か
つ簡便に実現することができるという効果を奏する。
【0129】請求項3の発明の画像検索装置は、以上の
ように、請求項1または2の構成に加えて、上記画像検
索フィルタを複数備えている構成である。
【0130】それゆえ、請求項1または2の構成による
効果に加えて、別々に学習された複数の画像検索フィル
タを併用した検索や、複数の画像検索フィルタを同時に
学習させることが可能となるという効果を奏する。した
がって、過去の学習結果を再利用することができるとも
に、柔軟で幅広い検索を行うことができるという効果を
奏する。
【0131】請求項4の発明の画像検索装置は、以上の
ように、請求項1から3の何れかの構成に加えて、上記
例/反例画像選択部は、画像検索フィルタによって検索
された画像を、上記の例画像あるいは反例画像として設
定する構成である。
【0132】それゆえ、請求項1から3の何れかの構成
による効果に加えて、検索結果において所望しない画像
が得られた場合や、得られるべき画像が得られなかった
場合に、例/反例画像選択部によって検索結果の画像を
例画像あるいは反例画像として改めて設定して、フィル
タ学習部に画像検索フィルタを追加学習させることが可
能となるという効果を奏する。したがって、検索対象を
絞り込みながら検索することができるとともに、検索性
能の向上を図ることができるという効果を奏する。
【0133】請求項5の発明の画像検索方法は、以上の
ように、画像データ記憶部に格納されている各画像が所
望の画像かどうかを判別する画像検索フィルタに対し
て、検索対象の画像に類似のサンプル画像である例画像
および非類似のサンプル画像である反例画像をそれぞれ
設定する例/反例画像選択処理と、該例画像および該反
例画像の画像特徴量を抽出する例/反例画像特徴量抽出
処理と、該画像検索フィルタが該画像データ記憶部に格
納されている各画像を判別できるように、該例画像およ
び該反例画像の画像特徴量に基づいて該画像検索フィル
タを学習させる特徴量学習処理と、該画像データ記憶部
に格納されている各画像の画像特徴量を抽出する画像特
徴量抽出処理と、該画像データ記憶部に格納されている
各画像を該画像検索フィルタによって画像特徴量に基づ
いて判別する画像フィルタリング処理とを含んでいる構
成である。
【0134】それゆえ、例画像および反例画像に基づい
て使用者が所望する画像の画像特徴量の関係を学習する
ことにより、使用者は検索を所望する画像の色彩、物体
形状などの厳密な物理的特徴を意識することなく、所望
する画像の類似度に関する曖昧な感覚を反映しながら検
索することが可能となるという効果を奏する。すなわ
ち、使用者が曖昧な感覚に基づいてサンプル画像である
例画像および反例画像を示すだけで、所望する画像を検
索することができるという効果を奏する。しかも、使用
者の所望画像の類似関係についての曖昧な感覚を、フィ
ルタ学習を通して検索に反映させることができるという
効果を奏する。
【0135】請求項6の発明の記録媒体は、以上のよう
に、画像データ記憶部に格納されている各画像が所望の
画像かどうかを判別する画像検索フィルタに対して、検
索対象の画像に類似のサンプル画像である例画像および
非類似のサンプル画像である反例画像をそれぞれ設定す
る例/反例画像選択処理と、該例画像および該反例画像
の画像特徴量を抽出する例/反例画像特徴量抽出処理
と、該画像検索フィルタが該画像データ記憶部に格納さ
れている各画像を判別できるように、該例画像および該
反例画像の画像特徴量に基づいて該画像検索フィルタを
学習させる特徴量学習処理と、該画像データ記憶部に格
納されている各画像の画像特徴量を抽出する画像特徴量
抽出処理と、該画像データ記憶部に格納されている各画
像を該画像検索フィルタによって画像特徴量に基づいて
判別する画像フィルタリング処理とを、コンピュータに
実行させるためのプログラムを記録している構成であ
る。
【0136】それゆえ、上記請求項5と同様の効果を奏
することができる。
【図面の簡単な説明】
【図1】図2に示す画像検索フィルタリング装置の処理
部の構成の概略を示す機能ブロック図である。
【図2】本発明の一実施の形態にかかる画像検索フィル
タリング装置の構成の概略を示す機能ブロック図であ
る。
【図3】図2に示す画像検索フィルタリング装置の構成
の概略を示す物理ブロック図である。
【図4】図2に示す画像検索フィルタリング装置の画像
検索処理の概略を示すフローチャートである。
【図5】図2に示す画像検索フィルタリング装置の画像
検索処理のうち、例画像および反例画像の選択処理を示
す説明図である。
【図6】図2に示す画像検索フィルタリング装置の画像
検索処理のうち、検索処理および結果表示処理を示す説
明図である。
【図7】図2に示す画像検索フィルタリング装置の画像
検索処理のうち、追加学習処理を示す説明図である。
【図8】図2に示す画像検索フィルタリング装置の画像
検索処理において行われるウェーブレット変換および画
像特徴量ベクトルの抽出を示す説明図である。
【図9】図2に示す画像検索フィルタリング装置の画像
検索処理において行われる画像検索フィルタの学習を示
す説明図である。
【図10】図2に示す画像検索フィルタリング装置の画
像検索処理において行われる画像検索フィルタのニュー
ラルネットワークの学習の手順を示すフローチャートで
ある。
【図11】図2に示す画像検索フィルタリング装置の画
像検索処理において行われる画像検索フィルタのニュー
ラルネットワークによる検索の手順を示すフローチャー
トである。
【図12】本発明の他の実施の形態にかかる画像検索フ
ィルタリング装置の画像検索処理の概略を示すフローチ
ャートである。
【図13】図12に示す画像検索フィルタリング装置の
画像検索処理のうち、例画像および反例画像の選択処理
を示す説明図である。
【図14】図12に示す画像検索フィルタリング装置の
画像検索処理のうち、検索処理および結果表示処理を示
す説明図である。
【符号の説明】
1 画像検索フィルタリング装置(画像検索装置) 2 画像データ記憶部 5 例/反例画像選択部 7 フィルタ学習部 8 画像検索フィルタ 9 特徴量学習部 10 画像フィルタリング部 11 ニューラルネットワーク 12 画像特徴量抽出部 S2,S33 例/反例画像選択処理 S12 例/反例画像特徴量抽出処理 S13〜S20 特徴量学習処理 S22 画像特徴量抽出処理 S23〜S25 画像フィルタリング処理
───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.7 識別記号 FI テーマコート゛(参考) G06F 15/70 465 Fターム(参考) 5B056 AA04 AA08 BB11 BB28 BB31 BB71 BB74 FF05 HH03 5B075 ND16 NK10 PQ02 PR06 QM07 QP00 QS03 QT04 UU40 5L096 AA02 EA24 FA26 GA55 HA08 HA11 JA09 JA11 KA04 KA09

Claims (6)

    【特許請求の範囲】
  1. 【請求項1】複数の画像を格納している画像データ記憶
    部と、 該画像データ記憶部に格納されている各画像が所望の画
    像かどうかを判別する画像検索フィルタと、 該画像検索フィルタに対して検索対象の画像に類似のサ
    ンプル画像である例画像および非類似のサンプル画像で
    ある反例画像をそれぞれ設定する例/反例画像選択部
    と、 該画像検索フィルタが該画像データ記憶部に格納されて
    いる各画像を判別できるように、該例/反例画像選択部
    によって設定された該例画像および該反例画像に基づい
    て該画像検索フィルタを学習させるフィルタ学習部とを
    備えていることを特徴とする画像検索装置。
  2. 【請求項2】上記のフィルタ学習部および画像検索フィ
    ルタは、画像の2次元離散ウェーブレット変換係数を演
    算することによって該画像の画像特徴量を抽出する画像
    特徴量抽出部をともに備え、 かつ、該フィルタ学習部は、上記の例画像および反例画
    像より該画像特徴量抽出部によって抽出された画像特徴
    量に基づいて、該例画像に対しては肯定の出力を、該反
    例画像に対しては否定の出力をするように、該画像検索
    フィルタに設けられたニューラルネットワークを学習さ
    せる特徴量学習部を備え、 かつ、該画像検索フィルタは、上記画像データ記憶部に
    格納されている各画像より該画像特徴量抽出部によって
    抽出された画像特徴量に基づいて、該画像を判別する画
    像フィルタリング部を備えていることを特徴とする請求
    項1記載の画像検索装置。
  3. 【請求項3】上記画像検索フィルタを複数備えているこ
    とを特徴とする請求項1または2記載の画像検索装置。
  4. 【請求項4】上記例/反例画像選択部は、画像検索フィ
    ルタによって検索された画像を、上記の例画像あるいは
    反例画像として設定することを特徴とする請求項1から
    3の何れかに記載の画像検索装置。
  5. 【請求項5】画像データ記憶部に格納されている各画像
    が所望の画像かどうかを判別する画像検索フィルタに対
    して、検索対象の画像に類似のサンプル画像である例画
    像および非類似のサンプル画像である反例画像をそれぞ
    れ設定する例/反例画像選択処理と、 該例画像および該反例画像の画像特徴量を抽出する例/
    反例画像特徴量抽出処理と、 該画像検索フィルタが該画像データ記憶部に格納されて
    いる各画像を判別できるように、該例画像および該反例
    画像の画像特徴量に基づいて該画像検索フィルタを学習
    させる特徴量学習処理と、 該画像データ記憶部に格納されている各画像の画像特徴
    量を抽出する画像特徴量抽出処理と、 該画像データ記憶部に格納されている各画像を該画像検
    索フィルタによって画像特徴量に基づいて判別する画像
    フィルタリング処理とを含んでいることを特徴とする画
    像検索方法。
  6. 【請求項6】画像データ記憶部に格納されている各画像
    が所望の画像かどうかを判別する画像検索フィルタに対
    して、検索対象の画像に類似のサンプル画像である例画
    像および非類似のサンプル画像である反例画像をそれぞ
    れ設定する例/反例画像選択処理と、 該例画像および該反例画像の画像特徴量を抽出する例/
    反例画像特徴量抽出処理と、 該画像検索フィルタが該画像データ記憶部に格納されて
    いる各画像を判別できるように、該例画像および該反例
    画像の画像特徴量に基づいて該画像検索フィルタを学習
    させる特徴量学習処理と、 該画像データ記憶部に格納されている各画像の画像特徴
    量を抽出する画像特徴量抽出処理と、 該画像データ記憶部に格納されている各画像を該画像検
    索フィルタによって画像特徴量に基づいて判別する画像
    フィルタリング処理とを、コンピュータに実行させるた
    めのプログラムを記録したコンピュータ読み取り可能な
    記録媒体。
JP10300089A 1998-10-21 1998-10-21 画像検索装置および画像検索方法 Pending JP2000132554A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP10300089A JP2000132554A (ja) 1998-10-21 1998-10-21 画像検索装置および画像検索方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP10300089A JP2000132554A (ja) 1998-10-21 1998-10-21 画像検索装置および画像検索方法

Publications (1)

Publication Number Publication Date
JP2000132554A true JP2000132554A (ja) 2000-05-12

Family

ID=17880584

Family Applications (1)

Application Number Title Priority Date Filing Date
JP10300089A Pending JP2000132554A (ja) 1998-10-21 1998-10-21 画像検索装置および画像検索方法

Country Status (1)

Country Link
JP (1) JP2000132554A (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002091977A (ja) * 2000-09-20 2002-03-29 Kitagawa Ind Co Ltd コンピュータ、情報システム
JP2003076717A (ja) * 2001-09-04 2003-03-14 Nippon Telegr & Teleph Corp <Ntt> 情報検索方法及び装置と、情報検索プログラム及びそのプログラムの記録媒体
JP2012530925A (ja) * 2009-06-25 2012-12-06 エレクトリスィテ ド フランス 電気化学デバイスの欠陥の検出
JP2013004093A (ja) * 2011-06-16 2013-01-07 Fujitsu Ltd マルチインスタンス学習による検索方法及びシステム
WO2014156559A1 (ja) * 2013-03-28 2014-10-02 富士フイルム株式会社 画像検索装置およびその動作制御方法ならびに画像検索サーバ
WO2016125476A1 (ja) * 2015-02-06 2016-08-11 パナソニックIpマネジメント株式会社 決定方法およびプログラム
WO2020171066A1 (ja) * 2019-02-20 2020-08-27 株式会社日立産業制御ソリューションズ 画像検索装置および教師データ抽出方法
US11468323B2 (en) 2017-10-19 2022-10-11 Koninklijke Philips N.V. Using a neural network

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002091977A (ja) * 2000-09-20 2002-03-29 Kitagawa Ind Co Ltd コンピュータ、情報システム
JP2003076717A (ja) * 2001-09-04 2003-03-14 Nippon Telegr & Teleph Corp <Ntt> 情報検索方法及び装置と、情報検索プログラム及びそのプログラムの記録媒体
JP2012530925A (ja) * 2009-06-25 2012-12-06 エレクトリスィテ ド フランス 電気化学デバイスの欠陥の検出
JP2013004093A (ja) * 2011-06-16 2013-01-07 Fujitsu Ltd マルチインスタンス学習による検索方法及びシステム
US9805253B2 (en) 2013-03-28 2017-10-31 Fujifilm Corporation Image search apparatus, method of controlling operation of same, and image search server
JP2014191701A (ja) * 2013-03-28 2014-10-06 Fujifilm Corp 画像検索装置およびその動作制御方法ならびに画像検索サーバ
CN105074771A (zh) * 2013-03-28 2015-11-18 富士胶片株式会社 图像检索装置及其动作控制方法、以及图像检索服务器
WO2014156559A1 (ja) * 2013-03-28 2014-10-02 富士フイルム株式会社 画像検索装置およびその動作制御方法ならびに画像検索サーバ
US9959456B2 (en) 2013-03-28 2018-05-01 Fujifilm Corporation Image search server, image search apparatus, and method of controlling operation of same
CN105074771B (zh) * 2013-03-28 2018-11-27 富士胶片株式会社 图像检索装置及其动作控制方法、以及图像检索服务器
WO2016125476A1 (ja) * 2015-02-06 2016-08-11 パナソニックIpマネジメント株式会社 決定方法およびプログラム
US11468323B2 (en) 2017-10-19 2022-10-11 Koninklijke Philips N.V. Using a neural network
WO2020171066A1 (ja) * 2019-02-20 2020-08-27 株式会社日立産業制御ソリューションズ 画像検索装置および教師データ抽出方法
JP2020135494A (ja) * 2019-02-20 2020-08-31 株式会社 日立産業制御ソリューションズ 画像検索装置および教師データ抽出方法
CN113474769A (zh) * 2019-02-20 2021-10-01 日立产业控制解决方案有限公司 图像检索装置以及监督数据提取方法
JP7018408B2 (ja) 2019-02-20 2022-02-10 株式会社 日立産業制御ソリューションズ 画像検索装置および教師データ抽出方法

Similar Documents

Publication Publication Date Title
US7392233B2 (en) Image searching system, image searching method, and a recording medium storing an image searching program
US5644765A (en) Image retrieving method and apparatus that calculates characteristic amounts of data correlated with and identifying an image
JP3234064B2 (ja) 画像検索方法並びにその装置
JP2004234228A (ja) 画像検索装置、画像検索装置におけるキーワード付与方法、及びプログラム
JP2002288219A (ja) 情報検索システムおよび方法
CN102902807A (zh) 使用多个视觉输入模态的视觉搜索
JP3572215B2 (ja) 検索画像の空間表示方法及び装置及びこの方法のプログラムを記憶した記憶媒体
JP4253498B2 (ja) 画像検索プログラム、そのプログラムを記憶した記憶媒体、画像検索装置及び画像検索方法
JP2000132554A (ja) 画像検索装置および画像検索方法
WO2020255307A1 (ja) 情報処理装置、情報処理方法、および記録媒体
JPH11218806A (ja) データ処理装置及びその方法、及びそのプログラムを記憶した記憶媒体
JP4148642B2 (ja) 類似画像検索装置、及びコンピュータ読み取り可能な記録媒体
JPH0934909A (ja) 情報検索装置
JP2000076270A (ja) 画像検索システム及びその制御方法、画像検索装置及びその制御方法、コンピュータ可読メモリ
JP2000112959A (ja) 情報検索装置及び方法
JP2004240751A (ja) 画像検索装置
US11100448B1 (en) Intelligent secure networked systems and methods
JPH08263522A (ja) 画像検索方法
JPH1139338A (ja) 文書検索装置、文書検索方法及び文書検索のためのプログラムを記録した媒体
JP4086377B2 (ja) 情報検索装置及び方法
JPH0668171A (ja) 画像データベース、画像データベース作成方法、画像検索方法およびそれらの装置
JP2001134765A (ja) 画像検索方法及び装置
JPH11219365A (ja) 画像検索装置
JPH10340272A (ja) 類似画像検索装置及び方法
JPH07239856A (ja) 画像検索方法および装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040811

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071211

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080212

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20080212

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20080401

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080530

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20080619

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20080801