JP4014390B2 - マルチメディアオブジェクト検索システム - Google Patents
マルチメディアオブジェクト検索システム Download PDFInfo
- Publication number
- JP4014390B2 JP4014390B2 JP2001331347A JP2001331347A JP4014390B2 JP 4014390 B2 JP4014390 B2 JP 4014390B2 JP 2001331347 A JP2001331347 A JP 2001331347A JP 2001331347 A JP2001331347 A JP 2001331347A JP 4014390 B2 JP4014390 B2 JP 4014390B2
- Authority
- JP
- Japan
- Prior art keywords
- similarity
- search
- building material
- similar
- rank
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
- G06F16/583—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/60—Information retrieval; Database structures therefor; File system structures therefor of audio data
- G06F16/68—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
- G06F16/683—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y10—TECHNICAL SUBJECTS COVERED BY FORMER USPC
- Y10S—TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y10S707/00—Data processing: database and file management or data structures
- Y10S707/99931—Database or file accessing
- Y10S707/99933—Query processing, i.e. searching
Landscapes
- Engineering & Computer Science (AREA)
- Library & Information Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Description
【発明の属する技術分野】
本発明は、マルチメディアオブジェクト検索システムに係り、特に、マルチメディアオブジェクトの特徴量から類似なマルチメディアオブジェクトを検索するマルチメディアオブジェクト検索システムに関する。
【0002】
【従来の技術】
近年、デジタルデータとしての静止画や動画、音声、音楽といったマルチメディアオブジェクトデータが様々な場面で利用されている。
【0003】
例えば、三次元オブジェクトを表現するデータに関しても、従来からのCADデータに加え、商品の三次元オブジェクトデータ、また、考古学的遺産、美術・芸術品の三次元オブジェクトデータ化のよるデジタルアーカイブ等、盛んに利用されている。
【0004】
また、多数のデジタル画像データやデジタル音楽データがインターネットを介してやりとりされている。
【0005】
これらのデータは増大する一方であり、データの効率的な管理や、利用者の要求するデータを効率よく検索する要求が高まっている。
【0006】
このような要求に答えるべく、様々な技術が提案されており、類似オブジェクトの検索技術に関しても、マルチメディアオブジェクトの持つ特徴を数値で表現される特徴量として算出し、これらの特徴量で構成される多次元ベクトルを利用した検索方法が数多く提案されている。
【0007】
特徴量による類似オブジェクト検索では、使用者が検索結果として希望するオブジェクトを指定し、このオブジェクトの特徴量とデータベースに登録されたオブジェクトの特徴量とを比較することにより、類似なオブジェクトを検索することができる。
【0008】
この際、各特徴量の重要性を表現する重み係数を設定することが、一般的に行われている。
【0009】
すなわち、使用者の意図や嗜好を反映するように、重み係数を適切に設定することによって、例えば、色は異なるが、形状が類似なオブジェクトを検索することができる。
【0010】
この重み係数を適切に設定することによって、効率的な検索を行う方法が提案されている。
【0011】
例えば、特開平7−21198号公報には、必要とする画像に類似した画像と、類似していない画像とを各々、複数指定することにより、類似度算出の際に各特徴量の重み係数を調整可能とした画像検索方法が開示されている。
【0012】
また、特開平9−101970号公報には、希望画像に類似する画像と、類似しない画像とを各々、複数指定することにより、類似度算出の際に各特徴量の重み係数を調整可能とした画像検索方法および画像検索装置が開示されている。
【0013】
さらに、この画像検索方法および画像検索装置では、類似画像検索の結果として表示された画像の中から、再度、希望画像に類似する画像と、類似しない画像とを各々、複数指定することができる。
【0014】
このように、類似画像検索の結果を新たな入力とする操作を繰り返すことにより、より適切な重み係数になるように調整することが可能になる。
【0015】
また、特開平10−154149号公報には、出力されたサンプルオブジェクト群から利用者が指定した参照オブジェクトに類似していると思われるものを追加する手段を有し、より適切な重み係数になるように調整可能な類似オブジェクト検索方法および装置が開示されている。
【0016】
【発明が解決しようとする課題】
上述したような従来の方法では、対象となるオブジェクトを希望するオブジェクトに類似しているか否かという2種類のみに分類する必要がある。
【0017】
しかし、多くのオブジェクトは希望するオブジェクトに類似している部分もあれば、類似していない部分もあるという存在であるために、類似している、もしくは類似していないと明確に分類することは困難である。
【0018】
例えば、上記特開平7−21198号公報による「画像検索方法」では、予め提示されている画像を、必要とする画像に類似している画像または類似していない画像として指定することができる。
【0019】
しかし、よほど希望する画像に似ている、もしくは似ていない限り、単独の画像毎に必要とする画像に似ているか否かを判断することは容易ではない。
【0020】
また、上記特開平9−101970号公報による「画像検索方法および画像検索装置」、上記特開平10−154149号公報による「類似オブジェクト検索方法および装置」においても、画像もしくはオブジェクトが希望するものに類似しているか否かを判断する過程において、全く同様な困難さが存在する。
【0021】
一方、例えば、2つのオブジェクトを比較して、どちらが希望するものに類似かという観点で判断することは、それほど困難ではない。
【0022】
これは、単独のオブジェクトの絶対的な類似度を判断するのではなく、2つのオブジェクトの相対的な類似度のみを判断すればよいからである。
【0023】
本発明は、この点に着目し、検索結果として順位付けされたオブジェクトの類似度順位を相対的に変更することにより、使用者の意図を重み係数へと変換し、希望するオブジェクト群を効率良く検索することが可能なマルチメディアオブジェクト検索システムを提供することを目的とする。
【0024】
【課題を解決するための手段】
本発明によると、上記課題を解決するために、
(1) マルチメディアオブジェクトを入力またはデータベースに予め蓄積されたマルチメディアオブジェクトを指定する入力/指定手段と、
上記入力/指定手段によって入力または指定されたマルチメディアオブジェクトの特徴量を演算する特徴量演算手段と、
上記特徴量演算手段によって演算されたマルチメディアオブジェクトの特徴量重み係数を演算する重み係数演算手段と、
上記特徴量演算手段によって演算された特徴量および上記重み係数演算手段によって演算された特徴量重み係数を用いて上記データベースに予め蓄積されたマルチメディアオブジェクトの類似度検索を行う類似度検索手段と、
上記類似度検索手段による類似度検索の結果に基づき上記入力/指定手段によって指定されたマルチメディアオブジェクトと類似するオブジェクトを類似度順位の決定結果に対応して表示する表示手段と、
上記表示手段によって表示されたマルチメディアオブジェクトの類似度順位をドラッグアンドドロップ動作によって変更する類似度順位変更手段と、
上記類似度順位変更手段によって変更された類似度順位に基づき上記ドラッグアンドドロップ動作によって類似度順位を変更したオブジェクト及び当該オブジェクトの類似度順位より類似度が一つ低い位置と類似度が一つ高い位置に存在するオブジェクトの3つのオブジェクトのみに対して特徴量を求め、この求めた演算結果からそれぞれの類似度に関する拘束条件を定義し、さらにこの定義に基づき上記マルチメディアオブジェクトの特徴量重み係数の再計算を行い、この特徴量重み係数を用いて類似度の再計算を行う類似度計算手段と、
を有することを特徴とするマルチメディアオブジェクト検索システムが提供される。
【0025】
(対応する発明の実施の形態)
この発明に関する実施の形態は、後述する第1の実施の形態が対応する。
【0027】
そして、上記構成要素中の類似度再計算手段は、この第1の実施の形態では図1の検索部9が該当するが、図1の演算部1とは別にネットワーク上に分散した機能として存在している場合を含む。具体的な特徴量重み係数の再計算のための計算手法は、この実施の形態で述べた最適化手法に限定されるものではなく、一般によく知られた他の計算手法も含む。
【0028】
また、具体的な計算手法は、この実施の形態の式(1)で述べる類似度定義に限定されるものではなく、特徴量から計算される距離を対数化したものやマハラノビス距離を用いるものも含む。
【0029】
また、上記構成要素中のマルチメディアオブジェクトは、広くデジタルデータ全般を指し、デジタルデータとしての静止画や動画、音声、音楽を含むものである。
【0030】
ここで、動画は、ビデオ映像のみならず、画像データとアニメーションデータとの複合データをも含む。
【0031】
また、CADデータ等の2次元および3次元データや、シルエット法やスリット法等の一般に良く知られた手法で計測することにより生成される距離画像や3次元データをも含む。
【0032】
また、アナログデータをデジタルデータに変換した形態のものも含む。
【0033】
また、上記各種のデータを複数組み合わせた複合データも含む。
【0034】
(作用)
本発明では、検索結果として出力された任意のオブジェクトの類似度順位を変更することにより、特徴量の重み係数を再計算し、類似度を再計算する。
【0035】
あるオブジェクトが希望するオブジェクトに類似か否かを判断するためには、どの程度の差異までを類似と許容するかについて判断しなければならないので、この境界を使用者が明確に認識することが困難である。
【0036】
本発明では、使用者はオブジェクトの相対的な順位のみに着目して、該類似度順位を変更できるので、あるオブジェクトが希望するオブジェクトに類似であるか否かを容易に判断することができる。
【0037】
本発明では、使用者が行った類似度順位変更操作の結果から、自動的に特徴量の重み係数を再計算し、類似度を再計算するので、類似度順位変更操作の意図を反映した新しい検索結果を提示することができる。
【0038】
この際、局所的な操作である類似度順位変更操作によって特徴量の重み係数を変更しているので、該操作による類似度判断を全オブジェクトに適応することができる。
【0039】
この結果、使用者は局所的な操作であるにもかかわらず、同様の傾向を持つ全オブジェクトの類似度順位を変更したことと同様の結果を得ることができるため、希望するオブジェクト群を効率良く得られる。
【0081】
【発明の実施の形態】
以下図面を参照して本発明の実施の形態について説明する。
【0082】
(第1の実施の形態)
図1は、この発明によるマルチメディアオブジェクト検索方法およびシステムの第1の実施の形態が適用される構成を示すブロック図である。
【0083】
すなわち、図1において、演算装置1は、CRT、LCDディスプレイ、3次元表示装置等のオブジェクトデータ表示装置2およびキーボード、マウス、タブレット等のデータ入力、または操作入力を行う入力装置3に接続されている。
【0084】
ここで、演算装置1の内部は、以下のように構成されている。
【0085】
オブジェクト指定部4は、特徴量決定部5に接続されている。
【0086】
特徴量決定部5は、重み係数決定部7に接続されている。
【0087】
また、特徴量決定部5は、特徴量データベース8にネットワークを介して接続されている。
【0088】
重み係数決定部7は、検索部9に接続されている。
【0089】
検索部9は、特徴量データベース8および原オブジェクトデータベース10にネットワークを介して接続されている。
【0090】
また、検索部9は、類似度順位変更部6に接続されている。
【0091】
類似度順位変更部6は、重み係数決定部7に接続されている。
【0092】
原オブジェクトデータベース10には、マルチメディアオブジェクトとして、例えば、椅子、テーブル、等のインテリア用品の3次元形状のデータが登録されている。
【0093】
特徴量データベース8には、原オブジェクトデータベース10に登録されているマルチメディアオブジェクトの特徴量が登録されている。
【0094】
ここで、特徴量としては、3次元オブジェクトのテクスチャに対して算出できるRGB、HSV、Lab等の各色情報毎の値を量子化したヒストグラム、エッジ微分を量子化した形状ヒストグラム、3次元オブジェクトの体積や表面積等が用いられる。
【0095】
これらの特徴量は、様々な部位に沿って取り出して、それぞれ別々の特徴量としてもよい。
【0096】
図2および図3は、オブジェクトデータ表示装置2に表示される表示例を示している。
【0097】
通常、オブジェクトデータ表示装置2の画面上には原オブジェクトデータベース10に登録されているオブジェクトを表示するウィンドウや、検索結果として希望するオブジェクトを指定するウィンドウが表示されている。
図2には、この希望するオブジェクトを指定するでの指定結果に基づいて検索を行い、その検索結果を表示するウィンドウ11が示されている。
また、図3には、ウィンドウ11に表示された検索結果に対して類似度順位を変更した後、再度類似度の計算をした結果(再検索結果)を表示したウィンドウ12が示されている。
【0098】
次に、この発明の第1の実施の形態の作用について説明する。
【0099】
図4は、この発明の第1の実施の形態の作用を説明するための操作の手順を示すフローチャートである。
【0100】
まず、ステップS101では、使用者が検索結果として希望するオブジェクトを指定する。
【0101】
このステップS101は、図1のオブジェクト指定部4にて処理される。
【0102】
オブジェクトの指定は、原オブジェクトデータベース10に登録されているオブジェクトを指定することや、本装置で取り扱い可能なオブジェクトを、アプリケーションのオープンメニューから選択することにより行うことができる。
【0103】
次に、ステップS102では、先のステップS101で指定されたオブジェクトから、これらを代表するオブジェクト特徴量を決定する。
【0104】
このステップS102は、図1の特徴量決定部5にて処理される。
【0105】
この場合、ステップS101で指定されたオブジェクトのうち、特徴量データベース8上に特徴量が存在するものについては、特徴量データベース8から特徴量を読み込む。
【0106】
また、ステップS101で指定されたオブジェクトのうち、特徴量データベース8上に特徴量が存在しないものについては、特徴量を算出する。
【0107】
この特徴量算出の形態は、特徴量データベース8を構築する際の演算と共通である。
【0108】
ステップS101で指定されたオブジェクトを代表する特徴量は、指定された各オブジェクトの特徴量の平均値とする。
【0109】
次に、ステップS103では、先のステップS102にて決定されたオブジェクトの各特徴量に対して重み係数を決定する。
【0110】
このステップS103は、図1の重み係数決定部7にて処理される。
【0111】
図5は、ステップS103での処理の詳細を示すフローチャートである。
【0112】
まず、ステップS201では、類似度順位を変更したオブジェクトが存在しているか否かを判断する。
【0113】
ここで、類似度順位を変更したオブジェクトが存在していない場合には、まだ一度も検索を実行していない状態に対応する。
【0114】
この場合、ステップS202で、重み係数が初期値に設定される。
【0115】
なお、本実施の形態では、重み係数の初期値を全ての特徴量に対して1.0としている。
【0116】
本実施の形態では、後述する式(1)に示すように、オブジェクトkの類似特徴量の各成分Fiと重み係数の各成分Wiとの積の二乗和を類似度Skとして採用していることにより、類似度Skが小さいほど、類似度順位が高くなる。
【0117】
なお、類似特徴量とは、特徴量データベース8に登録されている特徴量と、先のステップS102にて決定された希望するオブジェクトを代表するオブジェクトの特徴量との差分である。
【0118】
すなわち、類似度Skは
Sk=(F0W0)^2+(F1W1)^2+
…+(FnWn)^2 …(1)
として表される。
【0119】
この式(1)は、オブジェクトkの類似特徴量の各成分Fiを二乗した値からなるベクトルFSと、重み係数の各成分Wiを二乗した値からなるベクトルWSとの内積として解釈することが可能である。
【0120】
本実施の形態では、前記ベクトルFSと、ベクトルWSとによる最適化を行い、類似度順位変更操作による使用者の意図を反映した重み係数を算出する。
【0121】
ステップS203では、現在設定されてい重み係数るw0,w1,…,wnを取得し、最適化計算のためのパラメータである基準重みベクトルWSTを式(2)に示すように設定する。
【0122】
WST=(w0^2,w1^2,…,wn^2) …(2)
次に、ステップS204では、式(3),(4)に示す最適化計算を行う上での基本的な拘束条件を生成する。
【0123】
本実施の形態では、類似特徴量の各成分を二乗した値からなるベクトルFSと重み係数の各成分を二乗した値からなるベクトルWSと基準重みベクトルWSTとから最適化計算を行い、最適な重み係数と関連付けられた最適重みベクトルWSOを算出する。
【0124】
しかるに、これらのベクトルの成分が二乗された値であることからも明かなように、式(3)に示すように、最適重みベクトルWSOの各要素は正でなければならない。
【0125】
WSOi>=0.0(i=0,1,…,n) …(3)
また、重み係数の値の上限値を1.0としているので、式(4)に示すように、最適重みベクトルWSOの各要素は1.0以下でなければならない。
【0126】
WSOi<=1.0(i=0,1,…,n) …(4)
なお、最適な重み係数WOiと最適重みベクトルWSOの関係は、式5に示すようになっている。
【0127】
WSO=(WO1^2,WO2^2,…,WOn^2) …(5)
次に、ステップS205では、類似度順位を変更したオブジェクトの類似特徴量の各要素を二乗した類似特徴ベクトルFSbjと該オブジェクトのよりも一つ類似度順位が高い位置に存在するオブジェクトの類似特徴量の各要素を二乗した類似特徴ベクトルFSajとから、式6に示す拘束条件を生成する。
【0128】
WSO・FSaj<WSO・FSbj …(6)
次に、ステップS206では、先のステップS205と同様に、類似度順位を変更したオブジェクトの類似特徴量の各要素を二乗した類似特徴ベクトルFSbjと該オブジェクトのよりも一つ類似度順位が低い位置に存在するオブジェクトの類似特徴量の各要素を二乗した類似特徴ベクトルFScjとから、式7に示す拘束条件を生成する。
【0129】
WSO・FSbj<WSO・FScj …(7)
次に、ステップS207では、類似度順位を変更したオブジェクトが他に存在するか否かを判断する。
【0130】
ここで、まだ、類似度順位を変更したオブジェクトが存在する場合には、先のステップS205およびステップS206の処理に戻り、式(6)および式(7)に示す拘束条件を生成する。
【0131】
この繰り返しにより、式(6)および式(7)に示す拘束条件は、各々類似度順位を変更したオブジェクトの数だけ生成されることになる。
【0132】
また、類似度順位を変更したオブジェクトが存在しない場合には、ステップS208にて重み係数の算出を行う。
【0133】
次に、ステップS208では式(3),(4),(6),(7)が拘束条件であり、例えば、式(8)を評価関数とする最小値問題として後述するような最適化計算が行われることにより、最適重みベクトルWSOが算出される。
f(WSO)=−WSO・WST/(|WSO||WST|) …(8)
【0134】
そして、算出した最適重みベクトルWSOと式(5)から、最適な重み係数WOiを算出する。
【0135】
具体的な最適化計算の手法として、本実施の形態で設定した制約条件付き非線型計画最小値問題の解法として一般によく知られている罰金法の代表的な手法であるSUMT法(無制約逐次最小化技術法)を用いることにより、拘束条件付き非線型計画最小値問題を制約条件無し非線型計画最小値問題へと変換する。
【0136】
なお、最小点の算出には、共役勾配法が用いられ、共役勾配法における1次の非線型計画最小値問題には黄金分割法が用いられる。
【0137】
次に、図4に戻って、ステップS104では、先のステップS102で決定した特徴量と、先のステップS103で決定した重み係数および特徴量データベース8に登録されている全オブジェクトの特徴量とを用いて類似検索を行う。
【0138】
具体的な類似検索の方法としては、ステップS207の作用の中で説明した式(1)を計算し、オブジェクトkの類似度を表現する式(1)の値Skが小さい順にソートすることにより、類似度順位を決定する。
【0139】
次に、ステップS105では、先のステップS104で行った類似検索の結果をオブジェクトデータの表示装置2上に表示する。
【0140】
次に、ステップS106では、使用者がオブジェクトの類似度順位をドラッグ&ドロップにより変更する。
【0141】
例えば、使用者は、図2の検索結果画面11に示すような座面が丸い椅子20を、別の座面が丸い椅子21と座面が四角い椅子22との間にドラッグ&ドロップすることができる。
【0142】
このようにして、使用者の意図する類似度順位になるように、複数回操作を繰り返すことができる。
【0143】
全操作が終了した後、メニューから”重み係数再計算”を選択することにより、ステップS103へと処理が続く。
【0144】
ステップS106で行った類似度順位変更の内容は、ステップS103で最適な重み係数を算出するための条件となる。
【0145】
そして、先のステップS103で最適な重み係数を再計算した結果を用いて、先のステップS104にて類似検索を再度行った結果を表示したウィンドウを図3の12に示す。
【0146】
図3に示す検索結果画面12では、座面が丸い椅子20の類似度を変更した結果、同様の特徴を持つ椅子23、24が座面が四角い椅子22よりも上位になっている。
【0147】
次に、この発明の実施の形態の効果について説明する。
【0148】
ステップS106で行う類似度順位変更操作は、類似度順位を変更するよう指定したオブジェクトと、類似度順位変更先に位置するオブジェクトとの相対的な類似度のみに注目して行うことができる。
【0149】
ところで、希望するオブジェクトに似ているか否かという基準で判断する場合、どこまでを似ているという評価と、似ていないという評価との境界に位置するオブジェクトを使用者自身で認識することが困難である。
【0150】
しかるに、本実施の形態のように、あるオブジェクトとまた別のオブジェクトとの相対的な類似性を判断することは容易である。
【0151】
この結果、使用者は、容易に自分の意図した類似度順位変更操作を行うことができ、効率良く希望するオブジェクトに類似なオブジェクト群を検索することができる。
【0152】
そして、ステップS103で行う重み係数決定処理では、ステップS106で使用者により局所的に行われた類似度順位変更操作から全体の重み係数を最適化計算により決定する。
【0153】
この結果、例えば、使用者が、図2の検索結果画面11に示す座面が丸い椅子20を別の座面が丸い椅子21と座面が四角い椅子22との間に類似度順位を変更した場合、図3の検索結果画面12に示すように、座面が丸い椅子20と同様の特徴を持つ椅子23、24が、座面が四角い椅子22よりも類似度順位が上位になる。
【0154】
このように、一部のオブジェクトの類似度を変更し、重み係数を最適化計算により再決定することにより、該オブジェクトと同様の特徴を持つオブジェクトの類似度も同様に類似度順位が変更される。
【0155】
この結果、使用者は、ある一部のオブジェクトの類似度順位を変更する操作によって、自分の意図を容易に全体へ反映させることが可能となり、効率良く、効率良く希望するオブジェクトに類似なオブジェクト群を検索することができるようになる。
【0156】
なお、特徴量データベース8および原オブジェクトデータベース10は、ネットワークを介した接続に限定されるものでなく、演算装置1の内部に含まれていても良い。
【0157】
また、演算装置1の内部の構成については、ネットワーク上に分散した形態であっても良い。
【0158】
さらに、特徴量データベース8に登録されている特徴量データは、正規化されている形態に限定されるものではなく、特徴量決定時もしくは類似検索実行時に動的に正規化される形態であっても良い。
【0159】
また、ステップS103の重み係数決定処理で行う最適化計算は、本実施の形態で述べた手法に限定されるものではなく、一般によく知られた他の最適化計算の手法であっても良い。
【0160】
また、ステップS106での類似度順位変更操作は、複数回の操作を行った後に重み係数再計算を指示する形態ではなく、類似度順位変更操作が行われる度に自動的に重み係数を再計算し、類似検索を行う形態であっても良い。
【0161】
本実施の形態が対象とするマルチメディアオブジェクトは、3次元オブジェクトに限定されるものではなく、例えば、動画であっても良い。
【0162】
動画を時間方向の各レイヤとして積層化することにより、3次元ボリュームデータと同等の情報となる。
【0163】
また、音楽データであっても良く、音楽データをフーリェ変換することにより、周波数領域での特徴量が得られる。
【0164】
また、時間領域での振幅の変化等も特徴量となる。
【0165】
また、グラフィックスイコライザーのように音楽データを可視化するツールで生成した画像または映像から特徴量を算出することもできる。
【0166】
(第2の実施の形態)
この発明によるマルチメディアオブジェクト検索方法および装置の第2の実施の形態は、家を建築する場合やリフォームする場合等に利用できる建材検索システムに適用される場合である。
【0167】
すなわち、この第2の実施の形態は、建材検索システムとしてドアや窓枠等、様々な建材を選択する際に、類似な建材を検索することが可能である。
【0168】
図6は、この発明によるマルチメディアオブジェクト検索方法および装置の第2の実施の形態が適用される構成を示すブロック図である。
【0169】
この第2の実施の形態では、図6に示すように、使用者が直接操作するWebブラウザ301が設けられており、このWebブラウザ301は、ADSL回線によりインターネット300に接続されている。
【0170】
このWebブラウザ301の接続先には、Webサーバ302が存在する。
【0171】
このWebサーバ302は、Webアプリケーションとして動作する類似建材検索システム303に接続されている。
【0172】
そして、この類似建材検索システム303は、建材データベース304に接続されている。
【0173】
この類似建材検索システム303は、Java2EE等の分散ネットワーク技術により、1台もしくは複数台のハードウェアから構成されている。
【0174】
前記建材データベース304には、ドア、窓枠、壁紙等の家の構成要素となる建材のメーカー名、型番、価格等の情報および建材の画像データと3次元データ、該3次元データおよび建材の画像データから算出した各種の特徴量データとが格納されている。
【0175】
ここで、特徴量としては、3次元オブジェクトのテクスチャに対して算出できるRGB、HSV、Lab等の各色情報毎の値を量子化したヒストグラム、エッジ微分を量子化した形状ヒストグラム、3次元オブジェクトの体積や表面積等が用いられる。
【0176】
これらの特徴量は、さまざまな部位に渡つて取り出して、それぞれ別々の特徴量としてもよい。
【0177】
なお、建材データベース304に登録されている特徴量は、各特徴量のスケールに応じて正規化されている。
【0178】
前記Webブラウザ301には、希望する建材を指定するためのユーザーインターフェースを実現するオブジェクト指定部305が含まれている。
【0179】
このオブジェクト指定部305は、Webブラウザ301およびWebサーバ302を介して、類似建材検索システム303に含まれる検索部307に接続されている。
【0180】
この検索部307は、Webサーバ302およびWebブラウザ301を介して、Webブラウザ301において検索結果としての建材を表示し、類似度順位を変更するためのインターフェースを実現する類似度順位変更部308に接続されている。
【0181】
また、この検索部307は、建材データベース304に接続されている。
【0182】
前記類似度順位変更部308は、Webブラウザ301およびWebサーバ302を介して類似建材検索システム303に含まれる重み係数決定部309に接続されている。
【0183】
この重み係数決定部309は、検索部307に接続されている。
【0184】
図7および図8は、Webブラウザ301の図示しないディスプレイに表示される表示例を示している。
【0185】
図7のWebブラウザ301のウィンドウ401は、図6のオブジェクト指定部305が機能している状態を示している。
【0186】
そして、Webブラウザ301のウィンドウ401には、建材のジャンルをツリー状に表示するカタログメニュー部402が含まれている。
【0187】
また、Webブラウザ301のウィンドウ401には、選択されたジャンルに属する建材を表示する建材表示部403が含まれている。
【0188】
また、Webブラウザ301のウィンドウ401には、使用者が選択した希望する建材と類似な建材の検索を開始するためのボタンと最大出力数を指定するフィールドから構成される検索指示部404が含まれている。
【0189】
図8のWebブラウザ301のウィンドウ501は、図6の類似度順位変更部308が機能している状態を示している。
【0190】
このWebブラウザ301のウィンドウ501には、建材のジャンルをツリー状に表示するカタログメニュー部502が含まれている。
【0191】
また、Webブラウザ301のウィンドウ501には、類似検索の結果を表示し、類似度順位変更のためのユーザーインターフェースを提供する建材表示部503が含まれている。
【0192】
また、Webブラウザ301のウィンドウ501には、類似度順位変更操作による重み係数最適化処理を開始するためのボタン504が含まれている。
【0193】
また、Webブラウザ301のウィンドウ501には、使用者が選択した希望する建材と類似な建材の検索を開始するためのボタンと最大出力数を指定するフィールドとから構成される検索指示部505が含まれている。
【0194】
次に、この発明による第2の実施の形態の作用を説明する。
【0195】
使用者は、まず、図7に示すウィンドウ401上で操作を行う。
【0196】
使用者は、ウィンドウ401のカタログメニュー部402にあるジャンル名をクリックすることにより、希望する建材のジャンルを選択する。
【0197】
このウンンドウ401の建材表示部403には、カタログメニュー部402で選択されたジャンルに含まれる建材が一覧表示される。
【0198】
図7のウィンドウ401は、カタログメニュー部402でドアが選択された状態を示している。
【0199】
使用者は、建材表示部403に表示された各建材の画像の下にあるチェックボックスをクリックすることにより、希望する建材を選択する。
【0200】
使用者が、希望する建材に似た一つ、または複数の建材を選択した後、検索指示部404の検索開始ボタンをクリックすることにより、インターネット300上に存在する類似建材検索システム303に対して、検索を開始する指示が送られる。
【0201】
使用者は、検索指示部464の最大出力数フィールドを操作することにより、検索結果の最大出力数を指定することができる。
【0202】
そして、検索部307は、オブジェクト指定部305が機能しているウィンドウ401から送られた希望建材IDを受け取る。
【0203】
この検索部307は、受け取った希望建材IDに基づき、建材データベース304から特徴量を読み込む。
【0204】
また、検索部307は、検索に必要な全建材の特徴量を建材データベース304から読み込む。
【0205】
そして、検索部307では、希望建材の特徴量と検索対象となっている全建材の特徴量とから類似検索を行う。
【0206】
図9は、検索部307における類似計算の手順を説明するために示すフローチャートである。
【0207】
まず、ステップS601では、希望建材のうちのーつに対する類似特徴量を算出する。
【0208】
ここで、類似特徴量とは、式(9)に示すように希望するオブジェクトkの特徴量をベクトルで表現したFOkと検索対象となっているオブジェクトiの特徴量をベクトルで表現したFOiとの差分Fikである。
【0209】
Fik=FOi−FOk …(9)
つまり、検索対象となっている全建材について、各建材の特徴量ベクトルから、希望する建材kの特徴量ベクトルを引いた類似特徴量ベクトルの集合を算出することになる。
【0210】
次に、ステップS602では、類似特徴量ベクトルに重み係数をかけ、各成分の二乗和を計算することにより式(1)に示す類似度を算出する。
【0211】
ここで、類似度とは、式(10)に示すように、ステップS601で算出した希望するオブジェクトkに対する検索対象オブジェクトiの類似特徴量ベクトルFikと重み係数をベクトルで表現したWとの内積Sikである。
【0212】
なお、重み係数ベクトルWの各成分の初期値は1.0となっている。
【0213】
Sik=Fik・W …(10)
次に、ステップS604では、類似度の算出に関して、未計算の希望建材が存在するか否かを判断している。
【0214】
ここで、未計算の希望建材が存在する場合には、再びステップS601に戻り、未計算の希望建材のうちの一つについて、類似度の算出を行う。
【0215】
この場合、希望建材のIDを表す添字はkからlへと進められ、希望建材lに対する検索対象オブジェクトiの類似度Silが更に求められることになる。
【0216】
また、類似度の算出に関して、未計算の希望建材が存在しない場合には、ステップS603へと進む。
【0217】
ステップS603では、式(11)に示すように、各々の希望建材について算出した類似度Sikの和を計算することにより、検索対象オブジェクト毎の総合類似度Siを算出する。
【0218】
Si=Sik+Sil+…+Siz …(11)
なお、添字k,l,zは、各希望建材のIDを表わしている。
【0219】
そして、検索部307は、画像データおよび/または3次元データを含む各建材データを、算出した各検索対象建材の総合類似度Siに従ってソートし、検索結果データとして、類似度順位変更部308が機能する図8のウィンドウ501ヘ送信する。
【0220】
この類似度順位変更部308は、検索部307より送信された検索結果データに従って、図8に示すウィンドウ501に含まれる建材表示部503の内容を描画する。
【0221】
また、類似度順位変更部308は、カタログメニュー部502、最適化実行ボタン504および検索指示部505も描画し、ウィンドウ501を表示する。
【0222】
使用者は、建材表示部503に表示された建材を表す画像をドラッグ&ドロップにより、移動させることができる。
【0223】
例えば、使用者が、類似度順位8の建材506を図8中の矢印507に従って類似度順位3の建材と類似度順位4の建材との間へドラッグ&ドロップした場合、建材506が類似度順位4となり、類似度順位が4から7であった建材は、類似度順位が5から8へと変化する。
【0224】
このとき、類似度順位変更部308は、類似度順位変更建材として建材506のIDを記憶する。
【0225】
使用者は、自分の類似度順位評価に近い状態になるまで、上記操作を繰り返し行うことができる。
【0226】
そして、類似度順位変更部308は、繰り返し行われる各操作毎に類似度順位変更建材のIDを追加的に記憶する。
【0227】
なお、Webブラウザ301におけるドラッグ&ドロップ等、上記ユーザーインターフェースの実現には、Flash技術が用いられている。
【0228】
類似度順位変更操作終了後、使用者が最適化実行ボタン504をクリックすることにより、類似度順位変更部308は、類似度順位変更建材として記憶している建材のIDおよび各建材の類似度順位の前後に位置する建材のIDを、重み係数決定部309へ送信する。
【0229】
また、使用者は、建材表示部503に表示された各建材に対応するチェックボックスをチェックし、検索指示部505に含まれる検索開始ボタンをクリックすることにより、新規に検索を行うことができる。
【0230】
そして、重み係数決定部309では、図5に示したフローチャートに従って重み係数決定のための処理が行われる。
【0231】
各ステップの処理内容は、第1の実施の形態と同様である。
【0232】
すなわち、重み係数決定部309は、決定した最適な重み係数を検索部307へ送信する。
【0233】
この検索部307では、図9に示したフローチャートに従って類似検索が再び行われる。
【0234】
但し、検索部307では、類似度算出の際に用いる重み係数ベクトルWとして、重み係数決定部309にて決定した最適な重み係数を用いて類似検索を行う。
【0235】
そして、検索部307は、最適な重み係数を用いて行った類似検索の結果データを、再び類似度順位変更部308へ送信する。
【0236】
使用者は、ウィンドウ501に表示された建材に対して、再び類似度順位変更操作を行うことができる。
【0237】
使用者は、上記操作を繰り返し、希望する建材に類似な建材を検索する。
【0238】
次に、この発明の第2の実施の形態の効果を説明する。
【0239】
類似度順位変更操作部308にて行う類似度順位変更操作は、類似度順位を変更するよう指定した建材と、類似度順位変更先に位置する建材との相対的な類似度のみに注目して行うことができる。
【0240】
希望する建材に似ているか否かという基準で判断する場合、どこまでを似ていると評価し、どこからを似ていないと評価するかの境界に位置する建材を使用者自身で認識することが困難である。
【0241】
しかし、本実施の形態のように、ある建材とまた別の建材との相対的な類似性を判断することは容易である。
【0242】
この結果、使用者は、容易に自分の意図を反映した類似度順位変更操作を行うことができ、効率良く希望する建材に類似なものを検索することができる。
【0243】
重み係数決定部309にて行う重み係数決定処理では、類似度順位変更操作部308にて使用者により局所的に行われた類似度順位変更操作から、最適化計算により全体の重み係数を決定する。
【0244】
この結果、例えば、使用者が、図8に示す幅の狭いドア506を矢印507に従って移動させた場合、使用者が手動で類似度順位を変更しなくとも、同様に幅が狭いという特徴を持つ、ドアが上位に集合する結果を得ることができる。
【0245】
このように、一部の建材の類似度を変更し、重み係数を最適化計算により決定することにより、該建材と同様の特徴を持つ他の建材も同様に類似度順位が変更される。
【0246】
この結果、使用者はある一部の建材の類似度順位を変更する操作によって、自分の意図を容易に全体へ反映させることが可能となり、少ない操作で効率良く希望する建材に類似なものを検索することができる。
【0247】
なお、使用者が直接操作するWebブラウザ301のインターネット300への接続形態は、ADSL回線に限定されるものではなく、他のあらゆる接続形態を含むものとする。
【0248】
また、Webブラウザ301とWebサーバ302との間にインターネット300を介さず、LAN内部もしくは同ハードウェア内部で接続されているようにしても良い。
【0249】
また、類似建材検索システム303内部にWebサーバの機能を取り込んだ形態であっても良い。
【0250】
また、検索対象は建材に限定されるものではなく、インテリア等の3次元オブジェクトや動画映像、静止画、音楽、音声といったデジタルデータであるマルチメディアオブジェクトを含む。
【0251】
また、建材データベース304に登録されている特徴量データは、正規化されている形態に限定されるものではなく、類似検索実行時に動的に正規化される形態であっても良い。
【0252】
さらに、類似順位変更操作部308で行う類似度順位変更操作は、使用者が、複数回の操作を行った後に最適化実行ボタン504をクリックして類似度順位変更建材のID等を送信する形態ではなく、類似度順位変更操作が行われる度に自動的に類似度順位変更建材のID等を送信し、重み係数最適化および類似検索を行う形態であっても良い。
【0253】
また、データベース304は、図6の配置に限定されるものではなく、各機能配置を変更するようにしても良いと共に、各機能の一部の配置を変更するようにしてもよい。
【0254】
例えば、建材データベース304は、検索部307の内部に含まれるような形態としても良い。
【0255】
また、重み係数決定部309による計算部分の一部をWebブラウザ301に配置するようにしても良い。
【0256】
【発明の効果】
従って、以上説明したように、本発明によれば、検索結果として順位付けされたオブジェクトの類似度順位を相対的に変更することにより、使用者の意図を重み係数へと変換し、希望するオブジェクト群を効率良く検索することが可能なマルチメディアオブジェクト検索システムを提供することができる。
【図面の簡単な説明】
【図1】 図1は、この発明によるマルチメディアオブジェクト検索システムの第1の実施の形態が適用される構成を示すブロック図である。
【図2】 図2は、図1のオブジェクトデータ表示装置2に表示される表示例を示す図である。
【図3】 図3は、図1のオブジェクトデータ表示装置2に表示される表示例を示す図である。
【図4】 図4は、この発明の第1の実施の形態の作用を説明するための操作の手順を示すフローチャートである。
【図5】 図5は、図4におけるステップS103での処理の詳細を示すフローチャートである。
【図6】 図6は、この発明によるマルチメディアオブジェクト検索方法および装置の第2の実施の形態が適用される構成を示すブロック図である。
【図7】 図7は、図6におけるWebブラウザ301の表示例を示す図である。
【図8】 図7は、図6におけるWebブラウザ301の表示例を示す図である。
【図9】 図9は、図6の検索部307における類似計算の手順を説明するために示すフローチャートである。
【符号の説明】
1…演算装置、
2…オブジェクトデータ表示装置、
3…入力装置、
4…オブジェクト指定部、
5…特徴量決定部、
6…類似度順位変更部、
7…重み係数決定部、
8…特徴量データベース、
9…検索部、
10…原オブジェクトデータベース、
11,12…ウィンドウ、
301…Webブラウザ、
300…インターネット、
302…Webサーバ、
303…類似建材検索システム、
304…建材データベース、
305…オブジェクト指定部、
307…検索部、
308…類似度順位変更部、
309…重み係数決定部、
401,511…ウィンドウ、
402,502…カタログメニュー部、
403,503…建材表示部、
404…検索指示部、
504…最適化実行ボタン、
505…検索指示部、
506…建材、
507…矢印。
Claims (1)
- マルチメディアオブジェクトを入力またはデータベースに予め蓄積されたマルチメディアオブジェクトを指定する入力/指定手段と、
上記入力/指定手段によって入力または指定されたマルチメディアオブジェクトの特徴量を演算する特徴量演算手段と、
上記特徴量演算手段によって演算されたマルチメディアオブジェクトの特徴量重み係数を演算する重み係数演算手段と、
上記特徴量演算手段によって演算された特徴量および上記重み係数演算手段によって演算された特徴量重み係数を用いて上記データベースに予め蓄積されたマルチメディアオブジェクトの類似度検索を行う類似度検索手段と、
上記類似度検索手段による類似度検索の結果に基づき上記入力/指定手段によって指定されたマルチメディアオブジェクトと類似するオブジェクトを類似度順位の決定結果に対応して表示する表示手段と、
上記表示手段によって表示されたマルチメディアオブジェクトの類似度順位をドラッグアンドドロップ動作によって変更する類似度順位変更手段と、
上記類似度順位変更手段によって変更された類似度順位に基づき上記ドラッグアンドドロップ動作によって類似度順位を変更したオブジェクト及び当該オブジェクトの類似度順位より類似度が一つ低い位置と類似度が一つ高い位置に存在するオブジェクトの3つのオブジェクトのみに対して特徴量を求め、この求めた演算結果からそれぞれの類似度に関する拘束条件を定義し、さらにこの定義に基づき上記マルチメディアオブジェクトの特徴量重み係数の再計算を行い、この特徴量重み係数を用いて類似度の再計算を行う類似度計算手段と、
を有することを特徴とするマルチメディアオブジェクト検索システム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001331347A JP4014390B2 (ja) | 2001-10-29 | 2001-10-29 | マルチメディアオブジェクト検索システム |
US10/278,358 US7310630B2 (en) | 2001-10-29 | 2002-10-23 | Multimedia-object-retrieving method and system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001331347A JP4014390B2 (ja) | 2001-10-29 | 2001-10-29 | マルチメディアオブジェクト検索システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2003141161A JP2003141161A (ja) | 2003-05-16 |
JP4014390B2 true JP4014390B2 (ja) | 2007-11-28 |
Family
ID=19146944
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2001331347A Expired - Fee Related JP4014390B2 (ja) | 2001-10-29 | 2001-10-29 | マルチメディアオブジェクト検索システム |
Country Status (2)
Country | Link |
---|---|
US (1) | US7310630B2 (ja) |
JP (1) | JP4014390B2 (ja) |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005011180A (ja) * | 2003-06-20 | 2005-01-13 | Nec Corp | Url検索システム及びそれに使用するサーバ並びにurl検索方法 |
US20040267746A1 (en) * | 2003-06-26 | 2004-12-30 | Cezary Marcjan | User interface for controlling access to computer objects |
JP2005316699A (ja) * | 2004-04-28 | 2005-11-10 | Hitachi Ltd | コンテンツ公開システム、コンテンツ公開方法、及びコンテンツ公開プログラム |
US7557818B1 (en) * | 2004-10-06 | 2009-07-07 | Apple Inc. | Viewing digital images using a floating controller |
US7471825B2 (en) * | 2005-08-04 | 2008-12-30 | Sony Corporation | System and method for utilizing a graphic equalizer in performing image search procedures |
CA2597200A1 (en) * | 2007-08-13 | 2009-02-13 | Semiconductor Insights Inc. | Method and apparatus for organizing claim elements |
JP2010250630A (ja) * | 2009-04-17 | 2010-11-04 | Seiko Epson Corp | 画像サーバー、画像検索システムおよび画像検索方法 |
CN102474586B (zh) | 2010-06-16 | 2015-10-21 | 松下电器(美国)知识产权公司 | 影像检索装置、影像检索方法、记录介质、程序、集成电路 |
JP5742472B2 (ja) * | 2011-05-26 | 2015-07-01 | ヤマハ株式会社 | データ検索装置およびプログラム |
EP2860940B1 (en) * | 2013-09-27 | 2016-09-14 | Alcatel Lucent | Method for caching |
JP2019125333A (ja) * | 2018-01-12 | 2019-07-25 | 富士通株式会社 | 間取り抽出プログラム、間取り抽出方法及び情報処理装置 |
CN111492424A (zh) * | 2018-10-19 | 2020-08-04 | 索尼公司 | 信息处理设备、信息处理方法以及信息处理程序 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0721198A (ja) | 1993-06-17 | 1995-01-24 | Nippon Telegr & Teleph Corp <Ntt> | 画像検索方法 |
JPH09101970A (ja) | 1995-10-06 | 1997-04-15 | Omron Corp | 画像検索方法および画像検索装置 |
JP3609225B2 (ja) | 1996-11-25 | 2005-01-12 | 日本電信電話株式会社 | 類似オブジェクト検索装置 |
US6097389A (en) * | 1997-10-24 | 2000-08-01 | Pictra, Inc. | Methods and apparatuses for presenting a collection of digital media in a media container |
WO2000045341A1 (en) * | 1999-01-29 | 2000-08-03 | Lg Electronics Inc. | Method of searching or browsing multimedia data and data structure |
US20020165814A1 (en) * | 2001-05-04 | 2002-11-07 | Juhnyoung Lee | System and method for ranking objects having multiple attributes |
-
2001
- 2001-10-29 JP JP2001331347A patent/JP4014390B2/ja not_active Expired - Fee Related
-
2002
- 2002-10-23 US US10/278,358 patent/US7310630B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
US20030084064A1 (en) | 2003-05-01 |
US7310630B2 (en) | 2007-12-18 |
JP2003141161A (ja) | 2003-05-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5344715B2 (ja) | コンテンツ検索装置およびコンテンツ検索プログラム | |
JP4014390B2 (ja) | マルチメディアオブジェクト検索システム | |
US8965907B2 (en) | Assisted filtering of multi-dimensional data | |
US7296021B2 (en) | Method, system, and article to specify compound query, displaying visual indication includes a series of graphical bars specify weight relevance, ordered segments of unique colors where each segment length indicative of the extent of match of each object with one of search parameters | |
US20010023418A1 (en) | Method and apparatus for estimating product cost | |
US7333991B2 (en) | Digital design and maintenance system and method | |
JP2017500664A (ja) | 多ディメンション・データー構造に対する実行のためのクエリー構築 | |
JP2008546106A (ja) | セグメンテーション定義の作成 | |
WO2009035998A1 (en) | Sharing quantity takeoff data between computer aided design projects | |
US20230325544A1 (en) | Methods and apparatus for artificial intelligence conversion of a two-dimensional reference into a takeoff | |
US20230065307A1 (en) | Methods and apparatus for quantifying requirements in construction of a building | |
US20120265654A1 (en) | System and method for creating a build set and bill of materials from a master source model | |
JP3881510B2 (ja) | 曲面モデルの同定方法及びプログラム | |
Maietti et al. | Accessing and understanding heritage buildings through ICT. The INCEPTION methodology applied to the Istituto degli Innocenti | |
CN108090110A (zh) | 推荐软件动作以创建图像和推荐图像以示范软件动作的效果 | |
JP2002304555A (ja) | 製品提案方法及びシステム | |
JP3599405B2 (ja) | データ表示方法及びそのシステム | |
US20060080279A1 (en) | Customized and customizable engineering calculation and project detailing system | |
JP3466729B2 (ja) | 情報提示方法 | |
JP3492991B2 (ja) | 画像処理装置及び画像処理方法並びに記録媒体 | |
JP2002215686A (ja) | 建築見積システムおよびその処理プログラムを記録したコンピュータ読み取り可能な記録媒体 | |
KR100375926B1 (ko) | 인터넷 기반의 가중치 속성을 사용한 정보 검색 방법 | |
JP3660156B2 (ja) | 設計支援装置、設計情報管理装置、設計情報編集方法、設計支援システムおよび設計情報編集プログラムを格納する記録媒体 | |
US20240203042A1 (en) | User-Context Aware Rendering Dataset Selection | |
Nuriyev et al. | Z-Numbers-based approach to hotel service quality assessment |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20040928 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070109 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070305 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20070417 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070614 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20070704 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070904 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070911 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100921 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100921 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110921 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120921 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130921 Year of fee payment: 6 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |