JP3996723B2 - 画像表示方法および装置およびこれを利用した検索サービス - Google Patents

画像表示方法および装置およびこれを利用した検索サービス Download PDF

Info

Publication number
JP3996723B2
JP3996723B2 JP17360599A JP17360599A JP3996723B2 JP 3996723 B2 JP3996723 B2 JP 3996723B2 JP 17360599 A JP17360599 A JP 17360599A JP 17360599 A JP17360599 A JP 17360599A JP 3996723 B2 JP3996723 B2 JP 3996723B2
Authority
JP
Japan
Prior art keywords
image
keyword
search
display
group
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP17360599A
Other languages
English (en)
Other versions
JP2001005822A5 (ja
JP2001005822A (ja
Inventor
義則 武者
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP17360599A priority Critical patent/JP3996723B2/ja
Publication of JP2001005822A publication Critical patent/JP2001005822A/ja
Publication of JP2001005822A5 publication Critical patent/JP2001005822A5/ja
Application granted granted Critical
Publication of JP3996723B2 publication Critical patent/JP3996723B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • User Interface Of Digital Computer (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、画像群を検索結果として出力する任意の検索システムにおいて、画像表示方法および装置およびこれを利用した検索サービスに関する。
【0002】
【従来の技術】
近年、マルチメディアコンテンツの増大に伴い、キーワードや画像特徴量などさまざまなデータによって画像データベースにアクセスして画像検索をする技術が出現してきた。
【0003】
しかし、その検索が、検索者の意図が正確にシステムに伝えられ検索結果に反映されたものとなるとは限らないため、少数の検索結果の表示では検索者の望む画像に辿り着けるとは限らない。また、検索意図があいまいな検索者がさまざまな画像にアクセスしつつ検索意図を固めていくという過程も必要な場合がある。そのような状況の下では、検索結果の画像をなるべく多く検索者へ提示し、検索者が検索意図に対応した画像に容易に到達できるようにすることが検索者によって望まれている。
【0004】
たとえば、整然と検索結果の画像の一覧を効果的に検索者へ提示する方法として、特開平5−266092や特開平6−96185などがある。これらは、ページめくりの時間や画像サイズを検索結果数などに応じて変更する方法である。しかしながら、検索結果の多くの画像を単純に一覧表示しようとすると、ページ数が増えたりあるいは1ページに秩序なく非常に多くの画像が一覧されたりすることによって、検索者が検索結果の個々の画像を把握することが困難になり、一覧の効果が薄れてくる。
【0005】
そこで、検索された画像自身の性質に従ってその配置を決めることにより、検索結果の画像群の特徴あるいは傾向を把握しやすくする方法が考えられる。このような工夫のなされたものとして、例えば、特開平5−282375、特開平8−249352がある。前者は、画像特徴量のうち2次元の属性情報を持つ情報を選択し、選択した2次元情報の範囲を指定することで検索を行い、その2軸上で構成される空間上において特徴量に従った座標値に画像を配置して表示するものである。このアイデアは、画像の配置自体は改善されたものとなるが、2次元情報を持った特徴量によってのみ表示するため、表示に使用できる特徴量の制約が非常に大きい。後者は、画像から直接抽出される物理特徴量や人間の感性を学習させた感性特徴量から2次元を選択し、距離の近いものから順に出力することで検索を行い、その2軸の特徴量に従って軸に沿って、画像を整然と重なり合うことなく密に並べて一覧表示するものである。これは、2軸の特徴量傾向は把握できるが、画像間の特徴量の量的な関係を無視している。しかも、結局整然とした一覧表示しているため似た傾向の画像が多く検索されてしまうと、一覧表示の画面の多くの面積を似た画像が占めることになって、効果的な表示が行えない。
【0006】
またいずれの方法も、検索に用いた特徴量を直接表示にも用いているため、データベース内におけるその検索結果の画像群の傾向を把握するのには効果的ではあっても、画像群内における個々の画像の違いを表現した表示になっているとは限らない。そもそも、検索によって得られた画像群は、当然、似た傾向あるいは共通点を持った画像が集められているわけであるから、検索に用いた特徴量を直接表示に用いるのでは区別しずらい些細な違いで個々の画像を配置することになる。
【0007】
【発明が解決しようとする課題】
一方、本願の発明者等は、検索結果の画像群内における個々の画像の違いを効果的に表現する方法として、特願平9−336751を提案した。これによれば、検索結果の画像群に対して検索毎にダイナミックに統計処理することによって、検索画像の違いを効果的に表現する特徴量へ変換して、その軸によってつくられる空間上に画像を配置して表示することができる。
【0008】
しかしながら、特開平5−282375や特開平8−249352による表示が、人にとって理解しやすい特徴量を用意しておけば、表示の際の軸の意味が理解しやすかったのに対し、特願平9−336751の方法は、計算機内部で、画像の違いを効果的に表現する特徴量を統計処理によって導出し、この特徴量を軸として画像を配置して表示するため、必ずしも軸の意味が人にとって理解しやすいものとは限らなくなる。さらに、画像検索の方法と検索結果の表示方法の面で見ると、特開平5−282375、特開平8−249352および特願平9−336751は、両者が密接に関係しているため、検索の実行に際して、これらの表示方法によるメリットを得ようとすると画像検索の方法が拘束されてしまうことになる。
【0009】
任意の検索方法による画像検索の大量の結果を検索者へ把握しやすいように一覧表示する方法に関して、既に述べたように、従来技術には一長一短がある。これら従来技術の問題点を整理し、効果的な一覧表示方法であるための主な条件をまとめると以下のようになる。
(1)多くの検索結果を検索者へ提示できること。
(2)検索画像群の特徴量の量的な関係が表示にも反映されていること。
(3)任意の検索方法によって検索された画像群に対し、画像群内の個々の画像の違いを効果的に表現する表示方法であること。
(4)表示に用いられた軸が人にとって理解しやすいものであること。
【0010】
本発明の目的は上記の課題を同時に満すような画像表示方法および装置およびこれを利用した検索サービスを提案することである。
【0011】
【課題を解決するための手段】
本発明は、あらかじめキーワードあるいはシンボルと画像特徴量との対応付けを統計処理によって行っておき、任意の画像検索方法による画像検索において、個々の画像の違いを効果的に表現するキーワードあるいはシンボルの特徴量を検索毎にダイナミックに自動選択し表示の軸に用いるとともにそのキーワードあるいはシンボルを検索者へ提示する。また、その軸によって作られる表示空間上の特徴量に応じた座標へ検索結果の画像群の画像を配置する。さらに、自動選択され表示の軸に用いられる座標のキーワードあるいはシンボルを検索者が選択可能とする。
【0012】
【発明の実施の形態】
以下に、本発明の好適な実施例を添付図を参照して詳細に説明する。
【0013】
図1は本発明の実施例のグラフィック・ユーザ・インターフェース(以下、GUIと略する)を示した一模式図である。図は、検索結果の画像群を出力する任意の検索システムから出力された画像群に対し、検索結果画像群の全体を代表するいくつかのキーワード108と、画像群の表示された個々の画像間の違いを最もよく表現するキーワード群のいくつかのキーワード105,107をパネル上に表示し、後者のキーワード群105,107からユーザが2つのキーワードを選んで、そのキーワード特徴量によって張られる表示空間106上に、散布図として画像群を表現したものである。
【0014】
表示空間106は、たとえば計算機の出力装置としての表示装置の一部であり、2次元面上に散布図として画像群を表示する部分である。キーワード群105,107は、それぞれ、表示空間が2次元空間である場合は、X軸、Y軸として選択されるべきキーワードであり、たとえば計算機の出力装置としての表示装置の一部に表示され、このキーワードの領域がボタンとして機能するものとされ、クリックされる等で一つのキーワードが選択される。図では、X軸で”SEA”、Y軸で”SKY”が選択されている状態を、それぞれのキーワードを太線の枠で囲って示している。その表示空間106は、それぞれのキーワードの特徴量ベクトルによって張られる空間であり、参照符号102で代表して示す複数の画像のそれぞれは、それぞれの画像にキーワードが付与されるか否かを画像特徴量から予測した予測値の大きさに対応した位置に配置される。キーワード群105,107はの両側には、表示すべきキーワードを選択するための矢印ボタン111−114が表示されており、これらをクリックする等で、画像群の表示された画像間の違いを表現するためのキーワードを変更することができる。X軸、Y軸のキーワードの選択による変更は、それぞれの画像の配置される位置が変更されるのみである。
【0015】
パネルの右側には検索された画像群全体を代表するキーワード群108が示されている。上段に位置するものほど、より適切に画像群を説明するだろうと予測されたキーワードが表示されている。
【0016】
また、表示空間106は、スクロールバー101によって、そのスケールを変更することができ、画像群の分布全体を把握したり、一部領域を拡大して詳細に見たりする場合に使用できる。また、矢印ボタン103によって、表示空間の表示領域を移動することができる。つまり、例えば右矢印をクリックすると、表示領域の右外の領域が中央方向に移動する。”CENTER”ボタン104は、これをクリックすると、表示空間の中央部が表示領域106の中央へ一致するようにリセットされる。
【0017】
上述したGUIの各機能により、検索者は検索結果としての表示された画像群を、表示のためのキーワード、あるいはキーワード群を変更したり、表示空間を移動したり、拡大・縮小したりして評価することができ、より満足する検索結果に到達することが可能になる。
【0018】
図2は本発明の実施例のデータの流れを示した模式図である。202、203、204および205はそれぞれキーワードデータベース、文章データベース、音声データベースおよび画像特徴量データベースである。227は画像データベースであり、検索結果に応じて表示されるべき表示空間106に表示される画像が画像データと画像データ名あるいは画像番号の対として格納されている。データベース201−205は、この画像データベース227の画像データ名あるいは画像番号とそれぞれのデータとが対になった形で格納されている。たとえば、後述する画像特徴量によるキーワードの選択および表示の例に対応させて、画像特徴量データベース205について説明すると、縦軸に画像データ名あるいは画像番号を、横軸に後述する計算の数式の特徴量ベクトルxikを、それぞれ配列したようなデータベースである。さらに、217はキーワード特徴量データベースである。このデータベースは、本発明を特徴付けるものであり、上述した画像データベース227の内容とは無関係に構成される。たとえば、画像とその画像に付されたキーワード、あるいは画像を説明する簡単な文章を持つデータ群から予め作製される。画像を説明する簡単な文章が有れば、これを形態素解析することで適当な単語に分解できるから、画像とキーワードの関係のデータとして利用できる。一方、画像は画像を解析して画像特徴量として評価するいくつかの方法が知られているから、これらにより、画像特徴量を媒介として画像に対応する適当なキーワードの有無が予測できるようにあらかじめ統計処理することができる。このように統計処理された適当数のキーワードと画像特徴量の対が格納されている。このキーワード特徴量データベース217の特徴量は後述する計算の数式の特徴量ベクトルb0、bk等bに関するデータとして利用される。また(数2)で示されるような演算はキーワードの統計処理の一例と言える。
【0019】
ユーザがキーワード、文章、音声、画像などをクエリとして検索要求201を出したとき、検索要求に対応する検索方法206によって対応するデータベース202−205からデータを読みとり検索を行う。207、208、209、210は、それぞれ検索する際のキーワード、文章、音声、画像あるいはそれらを変換して格納されていた特徴量の流れを示している。本発明では、検索方法はユーザが使用したいものを使用すれば良いから、206はさまざまな画像検索システムとするのみで、具体的な説明はしない。もちろん、キーワード、文章、音声のデータベースが備えられなければならないと言うものでもない。検索結果は画像データベース227の画像のデータ名あるいは画像データベース内の画像を特定できる番号などの形で出力される。また、それぞれの検索結果は、それぞれキーワード、文章、音声、画像であるが、前者3つに対応するデータベース内の各データと画像特徴量データベース205の画像があらかじめ対応付けられたものとしておき、結局、検索結果を画像特徴量データベース205を基礎としたキーワードとの対応として、画像を表示させることができる。
【0020】
画像データ名あるいは画像番号などの形で出力された検索結果211aは、検索結果の画像群に対する平均値や分散値、複数ある特徴量同士の共分散値を算出する機能213に送られる。またこの機能213には、その画像データ名あるいは画像番号に対応する画像特徴量xに関するデータが、212に示すように、画像特徴量データベース205から送られる。機能213から検索結果の画像群に対する平均値データ214、分散共分散値データ215が得られる。
【0021】
キーワード特徴量データベース217は、前述したように、画像特徴量と画像に対応する適当なキーワードの有無が予測できるようにあらかじめ統計処理された各キーワードの画像特徴量が格納されている。キーワード特徴量データベース217の各キーワードにおけるbに関するデータは、216に示すように、検索結果の画像群に対する平均値データ214、分散共分散値データ215とともに、内積等を演算する機能218へ送られる。機能218による演算結果として、検索結果の画像群に対するキーワード予測値の平均値219と、分散値220が対応するキーワードとともに出力される。
【0022】
221は選択機能であり、機能218によるキーワード予測値の平均値219と、分散値220の平均値の演算結果の大きいものから指定個数個が選出される。キーワード予測値の平均値219に基いて選出されたキーワードが、222に示すように、指定個数個(図3ではS個)代表キーワード提示機能224に転送される。また分散値220に基いて選出されたキーワードが、223に示すように、指定個数個(図3ではT個)検索結果表示機能225に転送される。代表キーワード提示機能224は、キーワード予測値の平均値219を持つキーワードを検索結果の画像群を代表するキーワード108としてGUI上に表示するから、ユーザは検索結果の画像群を代表する意味情報として把握することができる(228)。これらは、また、その分散値に基いて選出されたキーワード(223)、検索結果表示機能225では、分散値220に基いて選出されたキーワードを画像群内の違いを把握するキーワード105および107としてGUI上に表示する。また、検索結果表示機能225では、検索結果211bおよび画像特徴量データベース205から、233で示すように転送される特徴量ベクトルxikと、選択されたキーワードの2つおよびこれに応じて、231で示すように転送されるキーワード特徴量b0、bk等bに関するデータとから、検索結果211bの画像のそれぞれをX軸、Y軸の座標値を計算して画像を配置する。ユーザは、検索された画像群の違いを意味軸上で表示された散布図として見ることができる(229)なお、検索結果211a、検索結果211bは、同一内容であるが、説明の便宜上異なる参照符号とした。
【0023】
図3は本発明の実施例の処理手続きを示したPAD図である。1回の検索および検索された画像間関係の表示における処理を説明している。
【0024】
まず、ユーザから検索要求を受け付け(301)、任意の方法により画像検索を行い、その画像データ名を出力する(302)。
【0025】
次に、画像データ名に対応する画像特徴量ベクトルを画像特徴量データベース205から取得する(309)。その1検索結果に対する特徴量ベクトルから、特徴量ベクトルの各要素における平均値と分散共分散行列を更新する(310)。この309、310の処理を検索結果の画像数だけ繰り返す(303)ことにより、検索結果における平均値214と分散共分散行列215を得る。
【0026】
更に、キーワード特徴量データベース217からキーワード特徴量ベクトルを1つ取り出す(311)。それと画像特徴量ベクトルの各要素の平均からキーワード予測値の平均値219を計算する(312)。現時点で保存しているS個の最小値と比較しそれより大きければその最小値を捨てて、今計算したキーワードにおける平均値を保存しておく。これによって、現時点での最大値からS個のキーワードが保存されることになる(313)。キーワード予測値の分散についても、画像特徴量ベクトルの各要素の分散共分散より計算する(314)。313と同様にして、最大値からT個のキーワードにおける分散値220を保存しておく。これらの処理をキーワードの数だけ繰り返す(304)。これを終了すると全キーワードにおいて、キーワード予測値の平均値が大きいものからS個、分散値が大きいものからT個得ることができる。
【0027】
そして、キーワード予測値の平均に基くキーワードをユーザへ提示する(305)。これは、検索結果の画像群を代表するキーワード108となる。
【0028】
また、キーワード予測値の分散に基くキーワードを、選択可能なインターフェイスとして、最初から最大U個をユーザへ提示する(306)。次にユーザに提示されているキーワードが変更されたかどうかのチェック(308)が行われるが、初回はここをYesとして扱い、ユーザに提示されているキーワードのうち、1番目をX軸、2番目をY軸に初期値として指定する(316)。そして指示されたキーワード特徴量ベクトルによって張られる空間上に、検索結果の画像特徴量ベクトルを射影し散布図として表示する(317)。初期値の指定(316)により、ユーザの特別の操作によること無く、検索直後から何らかの表示表示を行うことができ、ユーザの次の操作を促すことになる。次にユーザからの指示を得るための待機状態となる(318)。
【0029】
GUIを通して、何かのイベントを受信すると、まず、そのイベントが319にて判別される。それが表示のキーワードボタン105あるいは107の変更であれば、押されたボタンの軸に対し押されたキーワードを指定する(320)。それがキーワードのシフトボタン111−114のいずれかであれば、指定されたシフトボタンの軸において、ユーザに提示するキーワードをボタンの矢印の向きに従って、次あるいは後の最大U個に変更する。なければ、それぞれ最初、最後の最大U個に変更する(321)。また、それが、表示空間の移動ボタンやスクロールバーであれば、それぞれに従って、表示空間を移動したり、表示領域の拡大縮小を行う(322)。
【0030】
これらを、次の検索まで繰り返す(307)ことによって、同じ検索結果に対して、ユーザは多様な観点からの表示を得ることが出来、検索結果を有用に利用することが出来る。
【0031】
ステップ306の分散に基づくキーワードは、検索結果の画像群内の違いをより反映したものと推測されるキーワードであり、このキーワード特徴量によって張られる空間に検索結果を配置することによって、選択したキーワードの有無に対応した異なる画像が分類されて表示されることが期待される。
【0032】
以上の処理は、検索1回における処理であり、検索を繰り返す度に実行される。
【0033】
ここで、図3におけるステップ312,314の処理にかかわる演算について説明する。本発明の実施例として、重回帰分析を画像特徴量からキーワードを予測する方法として使用している。その場合の予測式は(数1)のようになる。
【0034】
【数1】
Figure 0003996723
【0035】
(数1)は線形なのでキーワードによっては予測不可能な場合もありえるが、あらかじめ予測可能なキーワードだけを採用するように処理することができる。ここで、予測係数bkをあらかじめキーワード毎に求めておくことが重要となる。それは重回帰分析において(数2)によって求められる。
【0036】
【数2】
Figure 0003996723
【0037】
また画像特徴量ベクトルの全ての要素を使用すると、そのキーワードの予測に寄与しない要素だった場合、予測性能が低下してしまう。そこで、予測性能が高くなるように特徴量ベクトルの要素を取捨選択する方法がある。F検定や情報量規準AICなどによって要素を選択する方法であるが、具体的な方法は、たとえば、(株)現代数学社の「多変量解析ハンドブック」などに説明されているので、ここでは説明しない。いずれにしても、取り除かれた要素については予測係数bk=0とすることにすれば、キーワード毎で採用する画像特徴量ベクトルの要素数が変わらないのでプログラム上、扱い易い。
【0038】
さて、検索結果の画像群を代表するキーワードを決める場合には、(数3)の式を用いる。検索結果におけるキーワード予測値の平均が(数3)によって求められる。
【0039】
【数3】
Figure 0003996723
【0040】
ここで、平均値の変数についているダッシュは、平均するデータ数が(数2)の場合に全データnだったのに対し、(数3)では検索結果数mであるため両者を区別するために使用している。
【0041】
また、検索結果の画像群の違いをより反映したキーワードを決める場合には、(数4)の式を用いる。検索結果におけるキーワード予測値の分散が(数4)によって求められる。
【0042】
【数4】
Figure 0003996723
【0043】
(数4)は、(数3)に比べ計算量が大きいのが分る。もし計算機の能力や特徴量ベクトルの要素数などによって、計算量が大きいのが気になる場合には、近似的な方法として、(数3)の値が1/2に近いものを採用するという方法がある。今、ある変数が0か1の2値を取る場合、その分散は出現頻度をPとするとP(1−P)になる。これはP=1/2のときに最大となるので、分散が最大となるものを選ぶにはP=1/2のものを選ぶとよい。全ての検索結果についてキーワード予測がうまくいっている場合には、この方法が効果的である。しかも(数3)で既に計算した値を使え、新たに計算する必要がなくなるので計算量削減に大変役立つ。
【0044】
また、ここでは統計処理として重回帰分析を用いた例を示したが、統計処理として、2次の判別分析を用いることや、3階層以上のニューラルネットワークの学習などを用いることを妨げるものではない。これらは非線形な処理を行うために、線形な処理で予測を行う重回帰分析を用いた場合に予測できなかったキーワードをも予測できるようになる可能性がある。
【0045】
図4は、本発明による表示をネットワークシステムを利用して行う場合の一実施例としてクライアント側とサーバ側とのそれぞれの構成および連係関係を示した模式図である。画像検索クライアントシステム407と画像検索サーバシステム408がネットワーク402で接続された構成をしている。装置401は、図1で説明したようなGUIなどを実装する表示及び入力装置である。GUIにて表示キーワードの選択や表示領域の移動などの入力を行う。また、さまざまな画像検索の検索要求を受けつける入力機能も備えている。装置406は、ネットワークサーバ403とネットワーク402を介して通信を行うネットワーククライアントである。装置403へユーザの検索要求を送信したり、受診した画像データやキーワード、各画像の座標情報に従って画面を構成したり、装置401からの情報に従って、画像配置を変更したり、表示領域を移動したりする機能を備えている。装置403は、ネットワーク402を介してデータの送受信を行うネットワークサーバである。具体的には、ここ403で検索要求を受信したり、検索されたの画像、表示のための各座標の座標情報やキーワードなどを送信する機能を備えている。画像データベース405には画像自体と画像からあらかじめ抽出しておいた画像毎の特徴量、およびさまざまな検索を行うためのタグ情報(キーワードや文章、音声など)が格納されており、検索時に画像検索装置404に利用される。図2のようにデータベースを検索方法毎などに分離して格納することもできるが、装置としては1つのデータベースに全てを格納することも可能である。装置404は、検索要求に従って検索を行う画像検索装置である。画像データベース405にアクセスして、検索結果をネットワークサーバ403へ渡す。また、検索だけの機能に限らず、代表キーワードや画像群内の違いを表現するキーワードの選出などもここで行われる。
【0046】
図5は、検索結果画像間関係の表示クライアント・サーバシステムの通信手順を説明したNSチャートである。
【0047】
まず、サーバシステム(以下、Sシステム)の起動521が行なわれる。Sシステムが初期化されて(522)、設定ファイルの読み込みなど準備される。次にクライアントシステムからの通信を待機する状態となる(523)。
【0048】
そして、クライアントシステム(以下、Cシステム)の起動が行われる(501)と、Sシステムと同様にして初期化がなされる(502)。通信接続処理503にて通信待機中のSシステムへ通信接続要求を送信する。Sシステムでは、通信接続処理において、通信接続要求のあったCシステムとの間に通信接続を確立する(523)。この中では、接続要求があるまで通信待機したり、Cシステムとの情報のやりとりやGUIのためのプログラムの送信などが行われることもある。Cシステムの通信接続処理503では、さらに、受信した情報を設定したり、GUIのプログラムを実行したりする。以上で画像検索の準備が完了する。以下からCシステムではGUIが起動しはじめ、SシステムではCシステムの要求に対して反応し処理を実行するようになる。
【0049】
最初に、Cシステムの処理で、ユーザからのさまざまな画像検索がある中で特定の検索を実行するための検索要求を受けつける(504)。この検索要求をSシステムへ送信する(505)。このデータをC1とする。通信待機中のSシステムが通信を受信すると、まず受信内容の判定を行う(524)。通信内容が、C1であるなら、「Y」分岐へ行き画像検索を実行する(526)。「N」分岐の場合、通信待機524へ戻る(527)。このとき、Cシステムへエラー情報を送信してもよいし、送信しなくても、Cシステム側でタイムアウト処理を行うことで通信接続処理503へ戻ってもよい。
【0050】
Sシステムで「Y」分岐へ行って画像検索を行った後、代表・表示キーワードの演算と選出、および選出された各表示キーワード毎に、検索結果画像の座標を計算する(528)。次に、検索結果の画像自身を送信する(529)。
【0051】
Cシステムの通信待機処理506で検索結果の画像を受信すると、次に代表・表示キーワードの要求(C2)を送信する(507)。そしてCシステムは代表・表示キーワードの通信待機状態となる(508)。Sシステムから、代表・表示キーワードを受信すると、次に各表示キーワードにおける各画像の座標の要求(C3)を送信し(509)、通信待機になる(510)。更に、それらのデータを受信すると(510)、Sシステムへデータ受信確認(C4)を送信する(511)。そして、通信切断処理に入る(512)。
【0052】
Sシステムでは通信待機(530)状態において通信を受信すると、その内容が判定され、それがC2の場合、代表・表示キーワードを送信し、C3の場合各表示キーワードにおける各検索画像の座標を送信し、それぞれの終了後、通信待機(530)状態へ戻る。C4であればそのまま通信切断処理(535)へ移り、1回の検索における後始末を行い、最初の通信待機(523)へ戻る。これをシステム終了まで繰り返す(536)。システム終了時になれば終了処理を行う(537)。
【0053】
Cシステムでは、代表・表示キーワードをユーザに提示して、表示軸のキーワード指定を受け付け(513)、そのキーワードの軸に対応する各検索画像の座標を使って、画像を配置し表示を行う(514)。処理514では、表示領域の移動などの処理も行う。そして表示が終れば、最初の通信接続処理(503)へ戻る。これを検索終了まで繰り返す(515)。検索終了になれば終了処理を行う(516)。
【0054】
なお、本実施例では、2次元の表示面に2軸の表示空間として検索結果を表示するものとしたが、表示空間は1軸または3軸とすることもできる。しかも、これを検索者が任意に選ぶものとすることは容易である。
【0055】
【発明の効果】
本発明は、検索結果の画像群を出力する任意の検索システムの出力結果を、ユーザにとって意味を把握しやすい、キーワードあるいはシンボルを使って、2次元面に表示することができ、検索結果の素早く一覧したりや次の検索要求を容易に準備することができるから、デザインを利用することを頻繁に行う広告業界や放送業界、あるいはデザインを売ることを目的としたコンテンツサービス業界等において、有効に利用できるのみならず、PC上で動作する個人ベースでホームページやその他のデザインを作成するなどの創造支援アプリケーションにも利用できる。
【図面の簡単な説明】
【図1】本発明の実施例のグラフィック・ユーザ・インターフェースを示す模式図。
【図2】本発明の実施例のデータの流れを示した模式図。
【図3】本発明の実施例の処理手続きを示したPAD図。
【図4】本発明による検索結果画像間関係の表示をネットワークシステムを利用して行う場合の一実施例としてクライアント側とサーバ側とのそれぞれの構成および連係関係を示した模式図。
【図5】検索画像間関係の表示クライアント・サーバシステムの通信手順の説明図。
【符号の説明】
101:表示空間のスケールを変更するスクロールバー、102:検索された画像、103:表示空間の表示領域を移動させるボタン、104:表示空間の表示領域の中央に戻ってくるボタン、105:表示のY軸に使用するキーワードを選択するボタン、106:表示空間を表示する部分、107:表示のX軸に使用するキーワードを選択するボタン、108:画像群を代表するキーワード群を表示する部分、201:ユーザからの検索要求、202:キーワードデータベース、203:文章データベース、204:音声データベース、205:画像特徴量データベース、206:さまざまな画像検索の方法、207:キーワードあるいはキーワードから作られる特徴量の流れ、208:文章あるいは文章から作られる特徴量の流れ、209:音声あるいは音声から作られる特徴量の流れ、210:画像特徴量の流れ、211:検索結果の画像データ名あるいは画像を特定する番号、212:検索結果に対応した画像の特徴量の流れ、213:検索結果における特徴量ベクトルの各要素の平均、分散共分散の計算、214:特徴量ベクトルの各要素の平均値の流れ、215:特徴量ベクトルの各要素の分散共分散の流れ、216:各キーワードにおける画像特徴量の流れ、217:キーワード特徴量データベース、218:各キーワード予測値の平均値と分散値の計算、219:各キーワード予測値の検索結果における平均値、220:各キーワード予測値の検索結果における分散値、221:平均値や分散値に基いて最大値から指定個数個選出する処理、222:平均値に基いて選出されたキーワード、223:分散値に基いて選出されたキーワードと特徴量、224:代表キーワードの提示、225:表示キーワードの表示と検索結果の表示のGUI、226:検索結果の画像自身の流れ、227:画像データベース、228:検索結果の画像群全体の意味情報、229:検索結果の画像群内の違いを表す意味情報、233:転送される特徴量ベクトルxik、301:ユーザからの検索要求の受け付け、302:画像検索と検索結果のデータ名の出力、303:検索結果数だけ反復、304:キーワード数だけ反復、305:平均値に基くキーワードを最大値からS個ユーザへ提示、306:分散値に基くキーワードを最大値からT個ユーザへ提示、307:ユーザからの表示キーワードの指示、308:検索結果の画像の表示、309:画像特徴量ベクトルの取得、310:画像特徴量ベクトルの各要素の平均と分散共分散の集計、311:キーワード特徴量ベクトルの取得、312:キーワード予測値の平均の計算、313:最大値からS個のキーワードを保存、314:キーワード予測値の分散の計算、315:最大値からT個のキーワードを保存。

Claims (1)

  1. 予めキーワードが付された画像の検索システムから出力された検索結果の画像群を表示する表示方法において、
    任意の画像に対しその画像特徴量から付与すべきキーワードを予測するために画像特徴量とキーワード予測値との対応関係を格納したデータベースを作成しておき
    検索結果の画像群の全体を代表する第1のキーワード群と、表示された画像群の個々の画像間の違いを表現する第2のキーワード群をパネル上に表示し、
    上記第2のキーワード群からユーザによって選択された2つのキーワードによって構成される表示空間に検索結果の画像群を画像特徴量により散布図として配置し表示するものであって、
    上記第1のキーワード群は、上記検索システムが、上記検索結果の画像群の画像特徴量を基に上記データベースを参照し、該画像群に付与すべきキーワード予測値の平均値を演算し、演算結果から指定個数選出することで決定し、
    上記第2のキーワード群は、上記検索システムが、上記検索結果の画像群の画像特徴量を基に上記データベースを参照し、該画像群に付与すべきキーワード予測値の分散値を演算し、演算結果から指定個数選出することで決定することを特徴とする検索画像表示方法。
JP17360599A 1999-06-21 1999-06-21 画像表示方法および装置およびこれを利用した検索サービス Expired - Lifetime JP3996723B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP17360599A JP3996723B2 (ja) 1999-06-21 1999-06-21 画像表示方法および装置およびこれを利用した検索サービス

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP17360599A JP3996723B2 (ja) 1999-06-21 1999-06-21 画像表示方法および装置およびこれを利用した検索サービス

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2007070424A Division JP4521008B2 (ja) 2007-03-19 2007-03-19 画像検索システム

Publications (3)

Publication Number Publication Date
JP2001005822A JP2001005822A (ja) 2001-01-12
JP2001005822A5 JP2001005822A5 (ja) 2004-10-28
JP3996723B2 true JP3996723B2 (ja) 2007-10-24

Family

ID=15963715

Family Applications (1)

Application Number Title Priority Date Filing Date
JP17360599A Expired - Lifetime JP3996723B2 (ja) 1999-06-21 1999-06-21 画像表示方法および装置およびこれを利用した検索サービス

Country Status (1)

Country Link
JP (1) JP3996723B2 (ja)

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4629280B2 (ja) * 2001-08-24 2011-02-09 富士通株式会社 知識発見支援装置および支援方法
US7606819B2 (en) 2001-10-15 2009-10-20 Maya-Systems Inc. Multi-dimensional locating system and method
JP2003216650A (ja) 2002-01-28 2003-07-31 Sony Corp 情報媒介システムのためのグラフィカルユーザインターフェイス
JP2003271665A (ja) * 2002-03-15 2003-09-26 Fuji Photo Film Co Ltd 検索用グラフィカル・ユーザ・インターフェイス
US20080058106A1 (en) 2002-10-07 2008-03-06 Maya-Systems Inc. Multi-dimensional locating game system and method
JP4206918B2 (ja) * 2002-12-20 2009-01-14 セイコーエプソン株式会社 画像印刷システム、画像印刷方法及び画像印刷プログラム
WO2006095599A1 (ja) * 2005-03-08 2006-09-14 Pioneer Corporation 情報処理装置及び情報処理方法
JP4616337B2 (ja) * 2005-03-31 2011-01-19 パイオニア株式会社 再生順変更支援ユニット、楽曲情報再生装置及び再生順変更支援方法
JP4754986B2 (ja) * 2006-02-21 2011-08-24 三菱電機株式会社 画像ブラウザシステム
JP5153179B2 (ja) * 2007-03-27 2013-02-27 キヤノン株式会社 情報処理装置および情報処理方法
JP4469868B2 (ja) 2007-03-27 2010-06-02 株式会社東芝 説明表現付加装置、プログラムおよび説明表現付加方法
US8069404B2 (en) 2007-08-22 2011-11-29 Maya-Systems Inc. Method of managing expected documents and system providing same
US8601392B2 (en) 2007-08-22 2013-12-03 9224-5489 Quebec Inc. Timeline for presenting information
US8739050B2 (en) 2008-03-07 2014-05-27 9224-5489 Quebec Inc. Documents discrimination system and method thereof
US8607155B2 (en) 2008-09-12 2013-12-10 9224-5489 Quebec Inc. Method of managing groups of arrays of documents
JP4787887B2 (ja) * 2009-04-13 2011-10-05 株式会社Tbsテレビ デジタルコンテンツを検索するためのシステム及びこれを用いた検索方法
US9384216B2 (en) 2010-11-16 2016-07-05 Microsoft Technology Licensing, Llc Browsing related image search result sets
US9058093B2 (en) 2011-02-01 2015-06-16 9224-5489 Quebec Inc. Active element
CA2790799C (en) 2011-09-25 2023-03-21 Mathieu Audet Method and apparatus of navigating information element axes
US9519693B2 (en) 2012-06-11 2016-12-13 9224-5489 Quebec Inc. Method and apparatus for displaying data element axes
US9646080B2 (en) 2012-06-12 2017-05-09 9224-5489 Quebec Inc. Multi-functions axis-based interface
CA3007166C (en) 2017-06-05 2024-04-30 9224-5489 Quebec Inc. Method and apparatus of aligning information element axes

Also Published As

Publication number Publication date
JP2001005822A (ja) 2001-01-12

Similar Documents

Publication Publication Date Title
JP3996723B2 (ja) 画像表示方法および装置およびこれを利用した検索サービス
KR102301899B1 (ko) 정보 검색 방법, 장치 및 시스템
US9384245B2 (en) Method and system for assessing relevant properties of work contexts for use by information services
US7565627B2 (en) Query graphs indicating related queries
JP3586549B2 (ja) 画像検索方法およびその装置
AU2011202345A1 (en) Methods and systems for improving a search ranking using related queries
AU2008330082A1 (en) Using reputation measures to improve search relevance
JP2010146089A (ja) アイテム検索システム
US20150169708A1 (en) Providing recently selected images
Schleußinger Information retrieval interfaces in virtual reality—A scoping review focused on current generation technology
Wang et al. Interactive browsing via diversified visual summarization for image search results
JP2010205224A (ja) 商品情報提供装置、商品情報の提供方法及びプログラム
Alfimtsev et al. Formalization of expert knowledge about the usability of web pages based on user criteria aggregation
JP4521008B2 (ja) 画像検索システム
US20130332440A1 (en) Refinements in Document Analysis
JP5368900B2 (ja) 情報提示装置、情報提示方法およびプログラム
JP3984263B2 (ja) 地図情報システム連動サーチエンジンサーバーシステム。
Stefaner et al. User interface design
JP2012243126A (ja) 商品情報検索システム、商品情報検索方法及び商品情報検索プログラム
JP2002189845A (ja) 評価システム及び評価方法
JP2004287532A (ja) 統合型メタ検索装置および方法
JP5103590B2 (ja) 情報処理装置および情報処理方法
Hill et al. Using mobile preference-based searching to improve tourism decision support
JP2004246709A (ja) 情報可視化装置、方法およびプログラム
Silva et al. DAOLOT: A Semantic Browser

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060926

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20061127

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20061127

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070116

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070319

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070710

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070803

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100810

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 3996723

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100810

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100810

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313114

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100810

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100810

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110810

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110810

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120810

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120810

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130810

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

EXPY Cancellation because of completion of term