JP2000207420A - 類似画像検索システム,類似画像検索方法および類似画像検索プログラムを記録した記録媒体 - Google Patents
類似画像検索システム,類似画像検索方法および類似画像検索プログラムを記録した記録媒体Info
- Publication number
- JP2000207420A JP2000207420A JP11310519A JP31051999A JP2000207420A JP 2000207420 A JP2000207420 A JP 2000207420A JP 11310519 A JP11310519 A JP 11310519A JP 31051999 A JP31051999 A JP 31051999A JP 2000207420 A JP2000207420 A JP 2000207420A
- Authority
- JP
- Japan
- Prior art keywords
- search
- image
- area
- subset
- similar image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Abstract
観的で負担の少ない手順で検索条件を指示することがで
き,同時に背景の影響を受けない類似検索を可能にす
る。 【解決手段】 オブジェクト格納部13に予め検索対象の
画像から抽出したオブジェクトを格納して管理する。検
索領域指定部121 は,例示画像10を表示し,その画像上
で検索領域をユーザに直接指定させる。オブジェクト検
索部121 は,オブジェクト格納部13から指定された検索
領域に含まれるオブジェクト集合を検索し,そのオブジ
ェクト集合を検索キーに選択する。類似画像検索部17
は,選択された検索キーを用いて類似画像の検索を行
う。検索領域指定部121 において,ユーザは検索したく
ない領域を指定することもできる。
Description
テムに関し,特に画像の部分的な特徴量をキーとして類
似画像を検索するシステムにおける検索条件の生成およ
び表示方法の技術に関するものである。
明する。図10に,一般的な従来の部分画による類似検
索の処理の流れを示す。まず,ステップS100では,
例示画像中の検索したい領域をユーザに指定させ,画像
中の検索領域を検索キーとして入力する。領域の指定方
法には大きく分けて二つあるが,それぞれについては後
で述べる。次に,ステップS101では,選んだ検索領
域の色分布などを多次元ベクトルで算出する。算出した
結果をこの領域の特徴量と呼ぶ。この特徴量を検索キー
として,次のステップS102,S103では,データ
ベース内の検索対象である画像の部分領域の特徴量との
類似度計算を行い,類似度の高い順に画像を出力する。
ル間の距離として算出され,代表的な距離計算法として
はユークリッド距離がある。これは,二つのベクトルv
={v1 ,v2 },u={u1 ,u2 }の距離を, distance(v,u)=(Σi (vi −ui )2 )1/2 のように算出するものである。
めるための部分領域のとり方には,画像を均等な矩形領
域に分割するもの(Columbia大学のVisualseek),エッ
ジの強さにより部分領域に分けるもの(NTT社の ExS
ight:情報処理学会研究報告,97-DBS-113, Vol.97, N
o.64, pp.155-160, 1997 )などがある。
る検索領域の指定方法について説明する。これまでの画
像検索システムでは,Informix社のVIRに見られるよ
うに,検索のキーを与える手段として画像の部分領域を
矩形などの形状で選択するものがある。選択された領域
から検索キーとなる特徴量を算出し,これを検索キーと
して特徴量の類似する画像を検索する。このような検索
キーの指定方法を,領域指定法と呼ぶ。
からオブジェクトを抽出しデータベースに格納すること
を特徴とする類似画像検索システムであり,画像中の一
つのオブジェクトをユーザが選び,そのオブジェクトを
検索キーとして類似する画像を検索する。さらに ExSig
htでは,複数のオブジェクトを組み合わせた検索も可能
で,複数個の検索キーを用いて検索を行い,それぞれの
類似検索の結果の積集合をとることで,複数個のオブジ
ェクトのそれぞれに類似するものが同時に含まれる画像
の検索を行うことができる。このような検索条件の指定
方法を,オブジェクト指定法と呼ぶ。また,複数の検索
キーの組合せを検索条件と呼ぶ。
領域およびオブジェクトが一つの検索キーに対応する。
オブジェクト指定法においては複数の検索キーを指定す
る場合には,それぞれに対応するオブジェクトを一つ一
つ選択する必要がある。
題点を説明するための図であって,図11(イ)は指定
された検索領域,図11(ロ)は領域指定法の場合に選
択されたキー,図11(ハ)はオブジェクト指定法の場
合のキーを示す。
る検索領域を単純に矩形で指定する方法は,ユーザの指
定方法は直観的で分かりやすいが,図11(ロ)に示さ
れるように検索したい対象以外にも,背景領域も検索キ
ーとして選ばれてしまうため,背景の影響を受けやす
い。これは検索精度を悪くする原因となる。
中のオブジェクトをデータベースに格納しておき,ユー
ザは検索領域を指定する代わりにオブジェクトを選ぶこ
とで,背景を含まない検索キーを指定することができ
る。しかし,データベースには,有意なオブジェクトと
ともにそうでないオブジェクトも多く格納されているた
め,例えば図11(ハ)に示されるように,指定したオ
ブジェクトが必ずしもユーザが指定したかった領域と一
致しているとは限らない。双方にギャップがある場合に
は,ユーザに対し,ユーザが指定したかった領域が選べ
ていないような違和感を与えてしまう。
顔はヒゲの部分で上下に分かれているので, ExSight等
のオブジェクト抽出法によりオブジェクトを抽出した場
合,二つの顔オブジェクトA,CとヒゲオブジェクトB
として抽出される。これは顔に関する特別な知識を使わ
ない限り,現状の画像処理で一つにまとめることは難し
い。このとき,顔を検索キーに選ぼうとすると上記の三
つのオブジェクトの中から選ばなければならないため,
ユーザ要求との不一致が生じる。
がある場合,どのオブジェクトによって検索するべきか
はユーザが指示しなければならず,さらに,オブジェク
トの組合せで検索する場合には,その組合せの候補もユ
ーザが指示しなければならない。そのため,検索条件を
指定するまでのユーザの負担が大きい。図12を例に挙
げると,三つのオブジェクトに対しては7通りの選び方
(A,B,C,AB,AC,BC,ABC)が存在す
る。
つ一つ指定していかなければならないので,複数の検索
キーからなる検索条件を作る場合には,ユーザの負担が
大きくなる。
ト指定法それぞれの欠点を解決し,ユーザにとって直観
的で負担の少ない手順で検索条件を指示することがで
き,同時に類似検索は背景の影響を受けないオブジェク
トに基づく検索条件によって行われるようにすることで
ある。
題を解決するものである。図1に,この本発明の構成図
を示す。
手段として,予め検索対象の画像からオブジェクトを抽
出し,データベースに格納,管理するオブジェクト格納
部13と,例示画像10を表示し,その画像上でユーザ
が検索したい領域をユーザに直接指定させる検索領域指
定部121と,この検索領域指定部121によって指定
された検索領域を入力として,オブジェクト格納部13
から上記領域に含まれるオブジェクト集合を検索し,検
索キーに選択するオブジェクト検索部122とを持つこ
とを特徴とする。
21において,ユーザが検索したくない領域を,ユーザ
に直接指定させることにより,オブジェクト検索部12
2において,検索したくない領域に含まれるオブジェク
ト集合をオブジェクト格納部13から検索し,選択され
ている検索キーから除く手段を持つことを特徴とする。
び第2の発明の検索キー選択方法を繰り返すことによ
り,ユーザが検索キーの選択,および排除を何度も試行
できるようにしたことを特徴とする。
索キー選択方法において検索キーとして不適切なオブジ
ェクトに関する条件を,オブジェクト条件保持部14に
保持して管理し,上記検索キー選択方法により得られた
オブジェクト集合を入力とし,条件を満たすものをオブ
ジェクト集合から除くオブジェクトフィルタリング部1
23を持つことを特徴とする。
域の類似検索を行うにあたって,上記第1〜第4の発明
の検索キー選択方法によって選択された検索キーの集合
を入力とし,それらから算出される複数組の特徴量によ
って類似検索されるオブジェクトを少なくとも一つ含む
ような画像を検索する類似画像検索部17を持つことを
特徴とする。
域の類似検索を行うにあたって,上記第1〜第4の発明
の検索キー選択方法によって選択された検索キーの集合
を入力とし,それらから算出される複数組の特徴量のそ
れぞれに類似検索されるオブジェクトをすべて含むよう
な画像を検索することを特徴とする。
域について上記第1〜第4の発明の検索キー選択方法に
よって選択された検索キーの集合を入力とし,その部分
集合すべてを数えあげる部分集合生成部171を持ち,
この部分集合生成部171によって生成された部分集合
に対し,個々の部分集合内の類似検索は,上記第5また
は第6の発明の類似画像検索手段を用い,部分集合間で
は部分集合の検索結果の和集合または積集合をとるよう
に画像を検索する手段を持つことを特徴とする。
索キー選択方法により選択された検索キーのオブジェク
トの集合を分類するための類似基準として与えられた条
件を,クラスタリング条件保持部20に保持して管理
し,オブジェクトの画像データおよびオブジェクトの
色,形,配置等の特徴量およびそれらから算出される統
計量を入力として,オブジェクトの集合を類似基準に従
って分類する検索キークラスタリング手段175を持
ち,それぞれのクラスタを一つの単位として,第7の発
明における部分集合生成部171の処理を行い,出力さ
れるオブジェクトの部分集合に対して上記類似画像検索
を行えるようにしたことを特徴とする。
ブジェクトの集合の条件を,部分集合条件保持部18に
保持して管理し,部分集合生成部171によって生成さ
れる部分集合を入力とし,上記オブジェクト集合条件に
よって不適切な部分集合を除いた集合を出力とする部分
集合フィルタリング部172を持ち,この出力されたオ
ブジェクトの部分集合によって,上記第7の発明におけ
る類似画像検索を行うことを特徴とする。また,この部
分集合フィルタリング部172は,上記第8の発明を利
用する場合には,クラスタを一つの単位として,不適切
な部分集合の除去を行う。
画像10上において,第1〜第4の発明の検索キー選択
方法によって選択されたオブジェクト集合のオブジェク
トを,検索領域に重ねて表示する検索キー表示部16を
持つことを特徴とする。
画像10上において,第7〜第9の発明において得られ
た部分集合を入力として,一つまたは複数の部分集合に
含まれるオブジェクトを検索領域に重ねて表示する検索
キー表示部16を持つことを特徴とする。
の発明において,表示されるオブジェクトまたはオブジ
ェクト集合を入力とし,オブジェクトの個数,特徴量に
関する条件に変換し,上記第4の発明におけるオブジェ
クトフィルタリング部123または第9の発明における
部分集合フィルタリング部172が使用するオブジェク
ト条件保持部14または部分集合条件保持部18の条件
に設定,追加することを特徴とする。
記第1の発明によれば,ユーザは検索キーを指定する場
合には,例示画像10上で直接領域を囲むだけで済み,
その検索領域の類似検索はその領域に含まれるオブジェ
クトの集合により行われるので,背景に影響されずに類
似検索を行うことができる。
一つまたは複数を,第1の発明と組み合わせることによ
り,複数の検索領域を選択したり,離れた領域を検索領
域として指定したり,中空きの領域を指定することがで
きる。
は画像上で直接検索領域を指定できるので直観的な指定
ができる。また,検索領域を条件にしてオブジェクト集
合を一括して検索キーに選択するので,ユーザはオブジ
ェクトを意識する必要がなくなる。さらに,第4の発明
を組み合わせることにより,オブジェクトを選び過ぎな
いようにオブジェクトフィルタリング部123に適切な
条件を与えておくことで,例えば面積の小さいオブジェ
クトをオブジェクト選択から外すことができる。
しない特徴量を検索キーに使えるので,より正確な検索
条件によって類似画像検索を実施できる。
った二つの類似画像検索方法について述べている。第5
の発明は,指定した検索キーのうちどれか一つに類似す
る画像を検索する方法であり,例えば図10の例の場
合,顔に対応するオブジェクトとしてAまたはCの二つ
を検索キーに選んで,どちらかに似たオブジェクトを持
つような検索方法である。一方,第6の発明は,指定し
た検索キーのすべてに類似する画像を検索する方法であ
り,例えば図10の例の場合には,顔に対応するオブジ
ェクトとしてA(顔のオブジェクト)とB(ヒゲのオブ
ジェクト)を検索キーに選び,それぞれに類似するオブ
ジェクトを両方含むような検索方法である。意味的に言
い換えるとヒゲを生えている顔を探す類似検索になる。
似検索において,可能性のあるオブジェクトの組合せを
システム側で自動的に生成し類似検索を実行すること
で,オブジェクト指定法で問題となっていた検索キーの
組合せの指定を不要にする。例えば図12の例におい
て,顔に対応するオブジェクトの集合として,ユーザが
領域を指定し,検索キーとしてA,B,Cが選択された
とする。このとき,本発明により,集合{A,B,C}
から得られる空でない部分集合{A},{B},
{C},{A,B},{A,C},{B,C},{A,
B,C}による類似検索に置き換えることで,洩れのな
い検索を実施することができる。
トの集合をクラスタリング条件として与えられた類似基
準に従って分類することで,検索に有効なクラスタを一
単位とした部分集合を生成することができる。
記の部分集合において不要な組合せを除いた類似検索に
置き換えることができる。例えば,先ほどの例で二つ以
上のオブジェクトの組合せとして検索したい場合を考え
る。部分集合の条件として要素数が1のとき,true
になる条件を部分集合フィルタリング部172に持たせ
ておくことで,先ほど生成した部分集合のうちこの条件
を満たすものを除いた{A,B},{A,C},{B,
C},{A,B,C}によって類似検索を行うようにな
る。また,第8の発明におけるクラスタを一単位として
効率的に検索対象となる部分集合を絞り込むこともでき
る。
第1,第2,第3,第4,第7,第8および第9の発明
によって,検索の行われるオブジェクトの集合を,ユー
ザが例示画像10上で指定した領域上に重ねて表示する
ことで,類似検索のキーとなっているオブジェクトの集
合をユーザが把握することを可能にする。さらに,第1
2の発明を組み合わせることで,表示されているオブジ
ェクトまたはオブジェクト集合を入力として,ユーザが
検索に不適切なオブジェクトまたはオブジェクト集合の
条件を生成し,オブジェクト条件保持部14または部分
集合条件保持部18の条件に設定または追加することが
できる。これにより,以降の類似検索において不要なオ
ブジェクトまたはオブジェクトの組合せを省くことがで
きる。
ア・プログラムによって実現することができる。以上の
各処理手段を実現するためのプログラムは,計算機が読
み取り可能な可搬媒体メモリ,半導体メモリ,ハードデ
ィスクなどの適当な記録媒体に格納することができる。
ついて,具体的な実施の形態に従ってさらに詳しく説明
する。
を指定するための画像である。フィルタリング条件生成
部11は,例示画像10上に表示されるオブジェクトま
たはオブジェクト集合を入力とし,オブジェクトの個
数,特徴量に関する条件に変換して,オブジェクト条件
保持部14または部分集合条件保持部18に設定,追加
する手段である。
指定された検索領域から検索キーを選択するもので,検
索領域指定部121,オブジェクト検索部122,オブ
ジェクトフィルタリング部123からなる。検索領域指
定部121は,例示画像10を表示し,その画像上でユ
ーザが検索したい領域をユーザに直接指定させる手段で
ある。オブジェクト検索部122は,検索領域指定部1
21によって指定された検索領域を入力として,オブジ
ェクト格納部13から検索領域に含まれるオブジェクト
集合を検索し,それを検索キーに選択する手段である。
オブジェクトフィルタリング部123は,オブジェクト
検索部122が検索したオブジェクト集合を入力とし,
オブジェクト条件保持部14が保持する条件を満たすも
のをオブジェクト集合から除く手段である。
の画像から抽出されたオブジェクトをデータベースに格
納して管理するものである。オブジェクト条件保持部1
4は,オブジェクトフィルタリング部123が使用する
条件を,システム開発者,管理者もしくはユーザの設定
により,またはフィルタリング条件生成部11の設定に
より保持するものである。
12によって選択された検索キーとなるオブジェクトの
集合であり,類似画像検索部17の入力となる。検索キ
ー表示部16は,オブジェクト集合15または後述する
検索キーの部分集合173を,例示画像10上において
指定された検索領域に重ねて表示する手段である。
15の検索キーを用いて類似画像の検索を行うものであ
り,部分集合生成部171,部分集合フィルタリング部
172,類似検索エンジン174からなる。
合15を入力とし,その検索キーの部分集合のすべてを
生成する手段である。部分集合フィルタリング部172
は,部分集合生成部171が生成した部分集合につい
て,部分集合条件保持部18が保持する条件を満たすも
のを部分集合から取り除く手段である。検索キーの部分
集合173は,部分集合フィルタリング部172の出力
であり,類似検索エンジン174が類似検索をするとき
に用いる検索キー群である。類似検索エンジン174
は,画像中の部分的な領域の色,形等の状態に関する特
徴量を示す検索キーの部分集合173をもとに,それら
と類似するオブジェクトを含む画像を検索するものであ
る。この類似検索エンジン174が行う個々の検索キー
をもとにした類似画像の検索自体は,従来のオブジェク
ト指定法で行っていた処理と同様である。
ジェクトの画像データおよび色,形,配置等の特徴量お
よびそれらから算出される統計量により,オブジェクト
の集合を類似基準に従って分類する手段である。
ルタリング部172が使用する条件を,システム開発
者,管理者もしくはユーザの設定により,またはフィル
タリング条件生成部11の設定により保持するものであ
る。検索結果画像19は,類似画像検索部17によって
検索された結果の画像である。
ークラスタリング部175が類似基準として使用するク
ラスタリング条件を,システム開発者,管理者もしくは
ユーザの設定により保持するものである。
例に従って説明する。〔検索領域の指定〕例示画像10
上での領域指定を矩形で指定する場合の例を,図2に示
す。検索領域指定部12により,複数の矩形を指定する
場合,検索したい領域かそうでないかを同時に指定する
ことにより,離れた領域を同時に検索領域に指定した
り,中空きの領域を検索領域に指定することができる。
索領域を指定した場合であり,この場合には,一つの検
索領域に含まれるオブジェクト集合が検索キーの対象と
なる。図2(ロ)は,例示画像上で二つの検索領域を指
定した場合であり,この二つの検索領域に含まれるオブ
ジェクト集合が検索キーの対象となる。また,図2
(ハ)は,ユーザが二つの検索領域を指定し,内側の矩
形領域は検索したくない領域に指定した場合である。こ
の場合,中空きの領域が検索領域として指定されたこと
になる。
矩形で検索領域が指定された場合の,オブジェクト検索
部122によるオブジェクトの検索は,指定された矩形
と,オブジェクト格納部13のデータベースに格納され
ているオブジェクトの外接矩形との包含関係を調べるこ
とにより,検索領域の内部に含まれる外接矩形を持つオ
ブジェクトを選択することで実施される。
合として,図3を例に考える。それぞれのオブジェクト
の外接矩形を左上,右下の座標を並べて次のように表
す。
の場合には,オブジェクトaのみが選択され,検索領域
が(10,10,100,110)の場合には,オブジ
ェクトa,bが選択される。
12において,複数の検索領域を連続して選択した場合
の複数の検索領域によって選ばれるオブジェクト集合に
ついて,図3の例示画像10を例にとり図4に従って説
明する。
を選び,次に検索領域(25,50,80,120)を
検索したくない領域に指定したとする。この検索領域を
指定した結果を図4(イ)に示す。図4(ロ)に示すよ
うに,最初の領域指定により,オブジェクトa,b,c
が選択され,検索条件とするオブジェクト集合の中に入
れる。次の領域指定によりオブジェクトbが選択され,
最初に選択されたオブジェクト集合から除かれる(図4
(ハ))。よって,この二つの検索領域により,最終的
に検索条件となるオブジェクト集合内にa,cが残り,
図4(ニ)に示すようにオブジェクトa,cが選択され
ることになる。
ェクトフィルタリング部123の機能について説明す
る。例えば,検索領域により選択されるオブジェクトの
うち,オブジェクトの面積が小さいものを除くため,オ
ブジェクト条件として「getPixelArea(オブジェクト)
≦200」の条件をフィルタリング条件生成部11によ
って生成し,この条件をオブジェクト条件保持部14に
持たせておく。これはオブジェクトの面積をピクセル数
で見たときに,200ピクセルより小さい場合にtru
eとなる条件である。選択されているオブジェクト集合
を{A,B,C}とし, Aのピクセル数=300 Bのピクセル数=200 Cのピクセル数=150 とすると,オブジェクトB,Cは上記の条件を成立させ
るためオブジェクト集合から除かれる。結果として,
{A}がオブジェクト集合として残る。
選択部12において,複数の検索領域を連続して選択す
るときの処理の流れを,図5に示す。
使われるオブジェクト集合を保持する変数をresultSet
とし,ある検索領域に含まれるオブジェクト集合を保持
する変数をcurrentSetとし,変数resultSet を空集合に
初期化する。
テップS13〜S18による領域指定を続ける(ステッ
プS12)。まず,ステップS13では,検索領域指定
部121によって,ユーザの入力により検索領域を指定
する。すでにオブジェクトが選択されている場合には,
新しく指定した領域を加えるのか除くのかをユーザから
の入力により指定する。
122によって,検索領域に包含されるようなオブジェ
クトを,オブジェクト格納部13から取り出し,curren
tSetに代入する。
指定が「加える」である場合,ステップS16を実行
し,検索領域の指定が「除く」である場合,ステップS
17を実行する。ステップS16では,resultSet とcu
rrentSetのそれぞれに含まれるオブジェクトの和集合を
とり,resultSet に入れる。ステップS17では,resu
ltSet 内のオブジェクトのうち,currentSetに含まれる
ものを取り除く。
フィルタリング部123によって,オブジェクト条件保
持部14にオブジェクトに関する条件が設定されている
場合,resultSet の各オブジェクトに対して,条件を満
たすかどうかをテストし,満たす場合にはresultSet か
ら取り除く。
し,領域指定が終了したならば,ステップS19へ進
み,resultSet に入っているオブジェクトを,選択され
たオブジェクト集合15とする。
2によって検索キーとして選択されたオブジェクトを
a,bとする。それぞれをキーに類似画像検索した結果
が,次のようになる場合を考える。
度順に並べたものとする。
集合のOR(論理和)集合をとり,適当な基準でソート
した結果を返す。ソートする基準には,例えばそれぞれ
の類似検索における類似度順にソートするなどの方法が
ある。上記の場合には,例えば次のような結果が得られ
る。
る。上記第1の類似検索の例と同じ例を用いると,第2
の類似検索では,それぞれの結果集合のAND(論理
積)集合をとり,適当な基準でソートした結果を返す。
ソートする基準には,例えばそれぞれの類似検索におけ
る類似度順にソートするなどの方法がある。上記の場合
には,例えば次のような結果が得られる。
の例で説明したように,各検索キーについての検索結果
について,OR集合またはAND集合をとる検索でもよ
いが,検索漏れを少なくするために,検索キーの部分集
合を作り,これについて次のように検索結果を求めても
よい。このための部分集合生成部171の機能について
説明する。図3の例示画像10から検索キーとしてa,
b,cが選択されたとする。部分集合生成部171は,
この検索キーの集合から,次の7個の部分集合を作り,
各部分集合の類似検索を実施し,その結果をまとめる。
のない類似検索を少ない手順で実施することができる。
ィルタリング部172の機能について説明する。これ
は,部分集合生成部171において,ユーザが予めフィ
ルタリング条件生成部11により不要な検索キーの組合
せの条件を与え,部分集合条件保持部18に格納してお
いたときに,生成する部分集合を制限するものである。
説明する。例えば,不要な組合せの条件として,「キー
の個数が2でない場合にtrue」という条件を与える
と,このとき,この条件を満たす組合せは除かれて,次
の三つの部分集合によって,類似検索が行われる。
処理の流れを,図6に示す。
クト集合15を保持する集合型変数をinputSet,検索結
果を保持するリスト型変数をresult,検索に含まない部
分集合の条件を保持する集合型変数をnogoodConditionS
et,検索すべきキーの組合せを保持する集合型変数をca
ndidateSetとし,resultの初期値を空リストとする。そ
して,部分集合生成部171により,inputSetの集合の
空集合でない部分集合をすべて列挙し,これをcandidat
eSetに入れる。
ング部172によって,nogoodConditionSetに条件が設
定されているかどうかを調べ,条件が設定されていれ
ば,candidateSetの各部分集合に対してnogoodConditio
nSetの条件を適用する。もし,nogoodConditionSetの条
件を満たす部分集合があれば,その部分集合をcandidat
eSetから取り除く。
分集合に対し,類似検索エンジン174を用いてステッ
プS23〜S29の類似検索を行う。まず,ステップS
23では,candidateSetの保持する未処理の部分集合を
一つ取り出す。ステップS24では,この部分集合内の
各検索キーについて類似検索を実行し,類似オブジェク
トIDと類似度,およびそれを含む画像IDの組(画像
ID,類似オブジェクトID,類似度)の結果リストを
作る。ステップS24の処理を部分集合内のすべての検
索キーについて繰り返す(ステップS25)。
ての類似検索が終了したならば,ステップS26では,
同じ画像に含まれるオブジェクトの組を得るために,そ
れぞれの結果リストに共通して現れる画像IDの集合を
求める(AND処理)。ステップS27では,結果リス
ト内のすべての組に対し,ステップS26で求めた共通
画像IDを持つ組を取り出し,resultに追加する。
ateSetの保持する全部分集合について実行したならば
(ステップS28),次のステップS29へ進み。resu
lt内の組を類似度でソートする。この結果を検索結果画
像19とする。
の検索を,部分集合内ではAND検索,部分集合間では
OR検索を実施する場合について述べたが,部分集合内
でOR検索,部分集合間でAND検索を行うような実施
も可能である。
り替え表示」に対応して,切り替え表示された部分集合
の検索キーを用いた検索結果を,それぞれの切り替え表
示ごとに検索結果画像19として出力してもよい。
成部171において検索キーの部分集合を作る際に,す
べての部分集合を作るのではなく,真に検索に有効な部
分集合を作り出すために,検索キークラスタリング部1
75を設けてもよい。以下,検索キークラスタリング部
175の機能について説明する。図7のような画像全体
で検索する場合を例に取り上げる。図7(A)に示す画
像中には,検索キーとして5つのオブジェクトa,b,
c,d,eが存在するとする。また,これらのオブジェ
クトの色特徴量は,次のようなベクトル値をとるものと
する。
ラスタリング条件が保持されているとする。 『クラスタリング条件:オブジェクト数が5以上のとき
に,オブジェクトの色特徴量のユークリッド距離を求め
て,閾値10を基準に距離が10以内のオブジェクトを
一つのグループに分類する。』 図7(A)に示す5つのオブジェクトが検索キーとして
選択されたとき,上記のクラスタリング条件が有効にな
り,検索キーのクラスタリングが行われる。計算した上
記5つのオブジェクトのユークリッド距離を図8に示
す。図8に示すそれぞれの距離が10以下のオブジェク
ト対をグルーピングしていくと,次の3つのグループに
分類される。
合フィルタリング部172により,部分集合に対し照合
が行われ,不適切な部分集合は取り除かれる。グループ
単位で照合が行われるか,あるいはグループ内のオブジ
ェクトに対し照合が行われるかは,部分集合条件保持部
18に保持されているフィルタリング条件に依存する。
例えば「オブジェクト数が1のものは取り除く」という
条件が設定されている場合には,グループG1,G3が
除かれる。
索キーの部分集合が得られる。 {{b,c,d}} {{a},{b,c,d}} {{a},{e}} {{b,c,d},{e}} {{a},{b,c,d}{e}} この部分集合に対して,AND検索またはOR検索によ
る類似画像検索が行われる。ここでは,オブジェクトの
色特徴量に基づくクラスタリングの例を取り上げたが,
同様にオブジェクトの形に関する分類,面積に関する分
類,位置に関する分類などを用いることもできる。
よる検索キーの表示機能について説明する。これは,前
述した検索キー選択部12によって選択されたオブジェ
クト集合15を,ユーザが例示画像10上で指定した検
索領域上に重ねて表示するものである。
の表示例を示している。ここでは,顔のオブジェクトa
とヒゲのオブジェクトbの二つのオブジェクトが選択さ
れているので,それをこの例では外接矩形に内接する楕
円として表示している。別の処理方法としては,矩形や
オブジェクトの輪郭などを表示するなどが考えられる。
索キー表示部16により検索キーの部分集合173を表
示することもできる。例えば,前述した部分集合のフィ
ルタリングの例では,フィルタリングの結果,三つの部
分集合が存在するので,3通りの表示を切替えることが
できる。部分集合は,類似検索の最小単位を表し,ユー
ザはこの機能によりそれを確認することができる。な
お,表示するオブジェクトは,類似検索エンジン174
による類似検索後に行うこともできる。
ング条件生成部11の機能について説明する。これは,
検索キー表示部16で表示したオブジェクトまたはオブ
ジェクト集合について,検索条件を入力し,それをオブ
ジェクト条件保持部14または部分集合条件保持部18
の条件に設定または追加するものである。例えば,上記
部分集合の生成の説明で用いた例を使うと,部分集合a
を表示し,これを使って,要素数が1のときにtrue
となる条件を入力する。これを部分集合条件保持部18
に設定することにより,次回の検索より,部分集合フィ
ルタリング部172によって,要素数が1の部分集合の
生成が抑制されるようになる。
ユーザは検索キーを指定するためには,画像上で直接領
域を囲むだけで済む。また,複数の領域を選択し,それ
らの間の論理演算として和(検索領域を加える)と差
(検索領域を削る)を指定することで,離れた領域を検
索領域として指定したり,中空きの領域を指定すること
ができる。
は画像上で直接検索領域を指定できるので直観的な指定
ができる。また,検索領域を条件にしてオブジェクト集
合を一括して検索キーに選択するので,ユーザはオブジ
ェクトを意識する必要がなくなる。また,オブジェクト
を選び過ぎないようにオブジェクトフィルタリング手段
に適切な条件を与えておくことで,例えば面積の小さい
オブジェクトをオブジェクト選択から外すことができ
る。
参照される特徴量は背景に依存しない検索を行うことが
できる。
ト指定法でユーザに委ねられていたオブジェクトおよび
オブジェクトの組合せの多様性をシステム側で扱えるよ
うにし,必要な組合せは自動的に生成して検索すること
が可能になるので,オブジェクト指定法で問題となって
いたキー指定のユーザの負担はなくなる。
件をユーザが把握することが可能となり,どのようなオ
ブジェクトの組合せによって検索が行われるかを知るこ
とができる。不要な組合せが見つかった場合には,部分
集合フィルタリング部がフィルタリングに使用する条件
に追加することにより,以降の検索においては不要なオ
ブジェクトの組合せを抑制することができる。
である。
図である。
集合の例を示す図である。
して選択するときの処理の流れを示す図である。
である。
算結果の例を示す図である。
である。
の流れを示す図である。
例を示す図である。
Claims (14)
- 【請求項1】 画像中の部分的な領域の状態に関する特
徴量を検索キーとして類似する部分を含む画像を検索す
るシステムにおいて,予め検索対象の画像からオブジェ
クトを抽出し,データベースに格納して管理するオブジ
ェクト格納手段と,例示画像を表示し,その画像上でユ
ーザが検索したい領域をユーザに直接指定させる検索領
域指定手段と,上記検索領域指定手段によって指定され
た検索領域を入力として,上記オブジェクト格納手段か
ら上記検索領域に含まれるオブジェクト集合を検索し,
そのオブジェクト集合を検索キーに選択するオブジェク
ト検索手段と,上記オブジェクト検索手段によって選択
された検索キーを用いて類似画像の検索を行う類似画像
検索手段とを備えることを特徴とする類似画像検索シス
テム。 - 【請求項2】 請求項1記載の類似画像検索システムに
おいて,上記検索領域指定手段は,ユーザが検索したく
ない領域をユーザに直接指定させる手段を持ち,上記オ
ブジェクト検索手段は,上記検索領域指定手段によって
指定された検索したくない領域に含まれるオブジェクト
集合を上記オブジェクト格納手段から検索し,選択され
ている検索キーから除く手段を持つことを特徴とする類
似画像検索システム。 - 【請求項3】 請求項1または請求項2記載の類似画像
検索システムにおいて,上記検索領域指定手段および上
記オブジェクト検索手段は,検索領域の指定およびオブ
ジェクトの検索の処理を繰り返す機能を持ち,ユーザに
対し検索キーの選択または排除を何度も試行させること
を特徴とする類似画像検索システム。 - 【請求項4】 請求項1ないし請求項3のいずれかに記
載の類似画像検索システムにおいて,検索キーとして不
適切なオブジェクトに関する条件を管理し,上記検索領
域指定手段および上記オブジェクト検索手段によって得
られたオブジェクト集合を入力とし,条件を満たすもの
を上記オブジェクト集合から除くオブジェクトフィルタ
リング手段を備えることを特徴とする類似画像検索シス
テム。 - 【請求項5】 請求項1ないし請求項4のいずれかに記
載の類似画像検索システムにおいて,上記類似画像検索
手段は,上記選択された検索キーの集合を入力として,
それらから算出される複数組の特徴量によって類似検索
されるオブジェクトを少なくとも一つ含むような画像を
検索することを特徴とする類似画像検索システム。 - 【請求項6】 請求項1ないし請求項4のいずれかに記
載の類似画像検索システムにおいて,上記類似画像検索
手段は,上記選択された検索キーの集合を入力として,
それらから算出される複数組の特徴量のそれぞれに類似
検索されるオブジェクトをすべて含むような画像を検索
することを特徴とする類似画像検索システム。 - 【請求項7】 請求項1ないし請求項4のいずれかに記
載の類似画像検索システムにおいて,上記類似画像検索
手段は,上記選択された検索キーの集合を入力として,
その部分集合を生成する部分集合生成手段を備え,この
部分集合生成手段によって生成された部分集合に対し,
個々の部分集合内の類似検索は,各部分集合に含まれる
検索キーから算出される複数組の特徴量によって類似検
索されるオブジェクトを少なくとも一つ含むような画像
を検索するか,または複数組の特徴量のそれぞれに類似
検索されるオブジェクトをすべて含むような画像を検索
することによって行い,部分集合間では上記各部分集合
の検索結果の和集合または積集合をとるように画像を検
索することを特徴とする類似画像検索システム。 - 【請求項8】 請求項7記載の類似画像検索システムに
おいて,上記類似画像検索手段は,オブジェクトの画像
データおよびオブジェクトの状態の特徴量およびそれら
から算出される統計量を入力として,オブジェクトの集
合を所定の類似基準に従って分類する検索キークラスタ
リング手段を備え,上記選択された検索キーの集合を該
検索キークラスタリング手段によって複数のクラスタに
分類し,それぞれのクラスタを一つの単位として上記部
分集合生成手段における部分集合の生成を行うことを特
徴とする類似画像検索システム。 - 【請求項9】 請求項7または請求項8記載の類似画像
検索システムにおいて,上記類似画像検索手段は,検索
キーとして不適切なオブジェクトの集合の条件を管理
し,上記部分集合生成手段によって生成される部分集合
を入力として,上記オブジェクト集合条件によって不適
切な部分集合を除いた集合を出力とする部分集合フィル
タリング手段を備え,この出力されたオブジェクトの部
分集合に対して上記類似画像検索を行うことを特徴とす
る類似画像検索システム。 - 【請求項10】 請求項1ないし請求項9のいずれかに
記載の類似画像検索システムにおいて,上記検索領域指
定手段と上記オブジェクト検索手段,またはこれらと上
記オブジェクトフィルタリング手段によって選択された
オブジェクト集合を,検索領域を指定した画像上におい
て,検索領域に重ねて表示する検索キー表示手段を備え
ることを特徴とする類似画像検索システム。 - 【請求項11】 請求項7,請求項8または請求項9記
載の類似画像検索システムにおいて,上記部分集合生成
手段によって生成された部分集合,またはこの部分集合
からさらに上記部分集合フィルタリング手段によって不
適切な部分集合を除いた部分集合を入力として,検索領
域を指定した画像上において,一つまたは複数の部分集
合に含まれるオブジェクトを検索領域に重ねて表示する
検索キー表示手段を備えることを特徴とする類似画像検
索システム。 - 【請求項12】 請求項10または請求項11記載の類
似画像検索システムにおいて,上記検索キー表示手段に
よって検索領域を指定した画像上に表示されるオブジェ
クトまたはオブジェクト集合を入力とし,オブジェクト
の個数または特徴量に関する条件に変換するフィルタリ
ング条件生成手段を持ち,生成されたフィルタリング条
件を,上記検索領域指定手段および上記オブジェクト検
索手段によって得られたオブジェクト集合から検索キー
として不適切なオブジェクトを取り除く,または上記オ
ブジェクト集合から生成される部分集合から不適切な部
分集合を取り除くための条件とすることを特徴とする類
似画像検索システム。 - 【請求項13】 画像中の部分的な領域の状態に関する
特徴量を検索キーとして類似する部分を含む画像を検索
するシステムにおける類似画像検索方法において,予め
検索対象の画像からオブジェクトを抽出し,データベー
スに格納して管理する第1の過程と,例示画像を表示
し,その画像上でユーザが検索したい領域をユーザに直
接指定させ,検索領域を入力する第2の過程と,上記第
2の過程によって得られた検索領域をもとに,上記デー
タベースから上記検索領域に含まれるオブジェクト集合
を検索し,そのオブジェクト集合を検索キーに選択する
第3の過程と,上記第3の過程によって選択された検索
キーを用いて類似画像の検索を行う第4の過程とを有す
ることを特徴とする類似画像検索方法。 - 【請求項14】 画像中の部分的な領域の状態に関する
特徴量を検索キーとして類似する部分を含む画像を検索
する類似画像検索システムを計算機によって実現するた
めのプログラムを記録した記録媒体であって,例示画像
を表示し,その画像上でユーザが検索したい領域をユー
ザに直接指定させ,検索領域を入力する処理と,入力し
た検索領域をもとに,予め検索対象の画像から抽出され
たオブジェクトを格納するデータベースから,上記検索
領域に含まれるオブジェクト集合を検索し,そのオブジ
ェクト集合を検索キーに選択する処理と,選択された検
索キーを用いて類似画像の検索を行う処理とを計算機に
実行させるプログラムを記録したことを特徴とする類似
画像検索プログラムを記録した記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP31051999A JP3683758B2 (ja) | 1998-11-12 | 1999-11-01 | 類似画像検索システム,類似画像検索方法および類似画像検索プログラムを記録した記録媒体 |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP32250198 | 1998-11-12 | ||
JP10-322501 | 1998-11-12 | ||
JP31051999A JP3683758B2 (ja) | 1998-11-12 | 1999-11-01 | 類似画像検索システム,類似画像検索方法および類似画像検索プログラムを記録した記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2000207420A true JP2000207420A (ja) | 2000-07-28 |
JP3683758B2 JP3683758B2 (ja) | 2005-08-17 |
Family
ID=26566354
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP31051999A Expired - Fee Related JP3683758B2 (ja) | 1998-11-12 | 1999-11-01 | 類似画像検索システム,類似画像検索方法および類似画像検索プログラムを記録した記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3683758B2 (ja) |
Cited By (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2007026951A1 (ja) * | 2005-08-31 | 2007-03-08 | Toyota Jidosha Kabushiki Kaisha | 画像検索方法及び装置 |
JP2007323319A (ja) * | 2006-05-31 | 2007-12-13 | Nippon Telegr & Teleph Corp <Ntt> | 類似検索処理方法及び装置及びプログラム |
JP2008269557A (ja) * | 2007-03-26 | 2008-11-06 | Seiko Epson Corp | 画像検索装置、および画像検索方法 |
US7574051B2 (en) | 2005-06-10 | 2009-08-11 | British Telecommunications Plc | Comparison of patterns |
US7593602B2 (en) | 2002-12-19 | 2009-09-22 | British Telecommunications Plc | Searching images |
US7724944B2 (en) | 2004-08-19 | 2010-05-25 | Mitsubishi Electric Corporation | Image retrieval method and image retrieval device |
JP2010128925A (ja) * | 2008-11-28 | 2010-06-10 | Canon Inc | 画像処理装置、画像処理方法及びプログラム |
JP2010146581A (ja) * | 2010-01-13 | 2010-07-01 | Fujifilm Corp | 人物画像検索装置 |
JP2011059733A (ja) * | 2009-09-04 | 2011-03-24 | Canon Inc | 画像検索装置及び画像検索方法 |
US8040428B2 (en) | 2005-12-19 | 2011-10-18 | British Telecommunications Public Limited Company | Method for focus control |
US8135210B2 (en) | 2005-07-28 | 2012-03-13 | British Telecommunications Public Limited Company | Image analysis relating to extracting three dimensional information from a two dimensional image |
JP2012053776A (ja) * | 2010-09-02 | 2012-03-15 | Ntt Comware Corp | 表示画像検索装置、表示装置、表示画像検索システム、および、表示画像検索方法 |
JP2012203645A (ja) * | 2011-03-25 | 2012-10-22 | Canon Inc | 情報処理装置、情報処理方法及びプログラム |
WO2015146521A1 (ja) * | 2014-03-27 | 2015-10-01 | 富士フイルム株式会社 | 類似症例検索装置、類似症例検索方法、及び類似症例検索プログラム |
JP2017076425A (ja) * | 2009-12-24 | 2017-04-20 | 株式会社ニコン | 検索支援システム、検索支援方法及び検索支援プログラム |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05242160A (ja) * | 1992-02-27 | 1993-09-21 | Matsushita Electric Ind Co Ltd | 画像特徴抽出装置、画像照合装置および画像検索装置 |
JPH09204440A (ja) * | 1996-01-29 | 1997-08-05 | Fujitsu Ltd | 画像検索システム、画像検索方法、及び記録媒体 |
JPH10254901A (ja) * | 1997-03-14 | 1998-09-25 | Omron Corp | 画像検索方法および装置 |
-
1999
- 1999-11-01 JP JP31051999A patent/JP3683758B2/ja not_active Expired - Fee Related
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05242160A (ja) * | 1992-02-27 | 1993-09-21 | Matsushita Electric Ind Co Ltd | 画像特徴抽出装置、画像照合装置および画像検索装置 |
JPH09204440A (ja) * | 1996-01-29 | 1997-08-05 | Fujitsu Ltd | 画像検索システム、画像検索方法、及び記録媒体 |
JPH10254901A (ja) * | 1997-03-14 | 1998-09-25 | Omron Corp | 画像検索方法および装置 |
Cited By (21)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7593602B2 (en) | 2002-12-19 | 2009-09-22 | British Telecommunications Plc | Searching images |
US7724944B2 (en) | 2004-08-19 | 2010-05-25 | Mitsubishi Electric Corporation | Image retrieval method and image retrieval device |
US7574051B2 (en) | 2005-06-10 | 2009-08-11 | British Telecommunications Plc | Comparison of patterns |
US8135210B2 (en) | 2005-07-28 | 2012-03-13 | British Telecommunications Public Limited Company | Image analysis relating to extracting three dimensional information from a two dimensional image |
WO2007026951A1 (ja) * | 2005-08-31 | 2007-03-08 | Toyota Jidosha Kabushiki Kaisha | 画像検索方法及び装置 |
JP2007066019A (ja) * | 2005-08-31 | 2007-03-15 | Toyota Motor Corp | 画像検索方法及び装置 |
US8306332B2 (en) | 2005-08-31 | 2012-11-06 | Toyota Jidosha Kabushiki Kaisha | Image search method and device |
US8040428B2 (en) | 2005-12-19 | 2011-10-18 | British Telecommunications Public Limited Company | Method for focus control |
JP2007323319A (ja) * | 2006-05-31 | 2007-12-13 | Nippon Telegr & Teleph Corp <Ntt> | 類似検索処理方法及び装置及びプログラム |
JP2008269557A (ja) * | 2007-03-26 | 2008-11-06 | Seiko Epson Corp | 画像検索装置、および画像検索方法 |
JP2010128925A (ja) * | 2008-11-28 | 2010-06-10 | Canon Inc | 画像処理装置、画像処理方法及びプログラム |
JP2011059733A (ja) * | 2009-09-04 | 2011-03-24 | Canon Inc | 画像検索装置及び画像検索方法 |
US9075827B2 (en) | 2009-09-04 | 2015-07-07 | Canon Kabushiki Kaisha | Image retrieval apparatus, image retrieval method, and storage medium |
JP2017076425A (ja) * | 2009-12-24 | 2017-04-20 | 株式会社ニコン | 検索支援システム、検索支援方法及び検索支援プログラム |
JP2019003672A (ja) * | 2009-12-24 | 2019-01-10 | 株式会社ニコン | 検索支援システム、検索支援方法及び検索支援プログラム |
US11250047B2 (en) | 2009-12-24 | 2022-02-15 | Nikon Corporation | Retrieval support system, retrieval support method and retrieval support program |
JP2010146581A (ja) * | 2010-01-13 | 2010-07-01 | Fujifilm Corp | 人物画像検索装置 |
JP2012053776A (ja) * | 2010-09-02 | 2012-03-15 | Ntt Comware Corp | 表示画像検索装置、表示装置、表示画像検索システム、および、表示画像検索方法 |
JP2012203645A (ja) * | 2011-03-25 | 2012-10-22 | Canon Inc | 情報処理装置、情報処理方法及びプログラム |
WO2015146521A1 (ja) * | 2014-03-27 | 2015-10-01 | 富士フイルム株式会社 | 類似症例検索装置、類似症例検索方法、及び類似症例検索プログラム |
JP2015191287A (ja) * | 2014-03-27 | 2015-11-02 | 富士フイルム株式会社 | 類似症例検索装置、類似症例検索方法、及び類似症例検索プログラム |
Also Published As
Publication number | Publication date |
---|---|
JP3683758B2 (ja) | 2005-08-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4540970B2 (ja) | 情報検索装置及びその方法 | |
US6556710B2 (en) | Image searching techniques | |
US6522782B2 (en) | Image and text searching techniques | |
JP3683758B2 (ja) | 類似画像検索システム,類似画像検索方法および類似画像検索プログラムを記録した記録媒体 | |
US7065521B2 (en) | Method for fuzzy logic rule based multimedia information retrival with text and perceptual features | |
JP4569955B2 (ja) | 情報格納及び検索方法 | |
US6654742B1 (en) | Method and system for document collection final search result by arithmetical operations between search results sorted by multiple ranking metrics | |
US6385602B1 (en) | Presentation of search results using dynamic categorization | |
JP4451598B2 (ja) | グループの計算によるナビゲーション方法、この方法を実施する受信器、及び、この方法を表示するグラフィックインタフェース | |
CN109063198B (zh) | 融媒体资源的多维可视化搜索推荐系统 | |
JP3199976B2 (ja) | 画像データベース装置 | |
JP4374902B2 (ja) | 類似画像検索装置、類似画像検索方法、および類似画像検索プログラム | |
JP2004178604A (ja) | 情報検索装置及びその方法 | |
US6522780B1 (en) | Indexing of images and/or text | |
US6470337B1 (en) | Information retrieval system using a hierarchical index for narrowing a retrieval result and its method and storing medium with information retrieval program stored therein | |
CN109543077B (zh) | 社区搜索方法 | |
JPH10162020A (ja) | 画像データベースのブラウジング方法 | |
US6522779B2 (en) | Representing an image with a posterized joint histogram | |
JP2004192555A (ja) | 情報管理方法、情報管理装置及び情報管理プログラム | |
CN107480155A (zh) | 一种视频搜索系统 | |
KR20030062585A (ko) | 멀티미디어 객체의 특징 기술정보 생성방법 | |
JP2000035965A (ja) | 類似特徴量の検索方法及び装置及び類似特徴量の検索プログラムを格納した記憶媒体 | |
JPH11338873A (ja) | 再検索方法及び装置及び再検索プログラムを格納した記憶媒体及び追加検索語候補提示方法及び装置及び追加検索語候補提示プログラムを格納した記憶媒体 | |
US6671402B1 (en) | Representing an image with weighted joint histogram | |
JP2000331009A (ja) | 映像検索方法および装置と映像検索プログラムを記録した記録媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050201 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050401 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20050524 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20050526 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: R3D02 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090603 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090603 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100603 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100603 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110603 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120603 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130603 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140603 Year of fee payment: 9 |
|
LAPS | Cancellation because of no payment of annual fees |