JP5511292B2 - 表示方法、システムおよびプログラム - Google Patents

表示方法、システムおよびプログラム Download PDF

Info

Publication number
JP5511292B2
JP5511292B2 JP2009229691A JP2009229691A JP5511292B2 JP 5511292 B2 JP5511292 B2 JP 5511292B2 JP 2009229691 A JP2009229691 A JP 2009229691A JP 2009229691 A JP2009229691 A JP 2009229691A JP 5511292 B2 JP5511292 B2 JP 5511292B2
Authority
JP
Japan
Prior art keywords
image
text
article
metadata
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009229691A
Other languages
English (en)
Other versions
JP2010092476A (ja
Inventor
アール.オースティン ポール
イー.ゴーキャス デール
ロイ バックリー ロバート
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Intel Corp
Original Assignee
Intel Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Intel Corp filed Critical Intel Corp
Publication of JP2010092476A publication Critical patent/JP2010092476A/ja
Application granted granted Critical
Publication of JP5511292B2 publication Critical patent/JP5511292B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/40Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
    • G06F16/48Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually

Description

本発明は一般的に、文書および画像を扱う作業を行う際にユーザ経験を増強するための方法およびシステムに関する。より具体的には、閲覧中の単語、句、文などをユーザが理解し、思い出すのを助け、および/またはユーザの楽しみを増すために、ポインティングデバイスを単語や句の上に置くと、その単語、句、文などに関わる写真、図形、画像などが提供される。
不案内な場所や文化などを図示する写真や地図のような関連情報によって、文書の読解が向上することがしばしばある。
米国特許第7,395,500号明細書
従って、本発明の実施形態は、グラフィカルユーザインタフェースのポインタの位置に応じて様々なコレクションからの画像を、文書中の(あるいはウェブページ上の)単語の傍あるいは上に表示するシステムおよび方法を提供する。この画像は、文書をさらに説明する画像の集合体へリンクすることができる。ユーザが単語の上にポインタを置くと、その単語に関連する写真が提供される。またユーザが写真の上にポインタを置くと、その写真に関連する記事の識別子が提供される。さらに、本実施形態では、文書の検索を利用して、画像に関連するメタデータの増強を行い、画像の説明のさらなる充実を図る。テキスト文書と画像との間のそのようなメタデータの相互関係の集積が、学習に大変よく似た行動結果となって、将来のさらなる関係付けを可能とする。
特に、以下に示すのは文書および画像を扱う作業をする際のユーザの経験を増強する方法である。1つの実施形態においては、本方法が、グラフィカルユーザインタフェースの少なくとも1つの入力を監視し、グラフィカルユーザインタフェースのディスプレイ内のポインタの位置を特定する。ディスプレイに表示されている少なくとも1つの単語の上にポインタが置かれると(たとえば、その上で止めたり、その上を行ったり来たりしたり、あるいはその上でクリックすると)、本方法がこの単語に見合う少なくとも1つの画像を画像データベースの中から検索する。データベース内の画像は、単語に見合う前記相応する画像の検索を可能とするテキストメタデータを含むことができる。
同様に、ディスプレイ上に表示された少なくとも1つの画像上にポインタが置かれている場合に、本方法は表示された画像に見合う少なくとも1つのテキスト記事をテキスト記事データベースの中から検索する。表示された画像は、表示された画像に見合うテキスト記事の検索を可能とするテキストメタデータを含むことができる。
上記の相応検索プロセスのいずれか(あるいは両方)が実行されると、ディスプレイ上の単語の傍に相応する画像を表示する(そして恐らくは後で印刷する)か、あるいは表示された画像の傍のディスプレイ上に相応するテキスト記事の少なくとも1つの識別子(標題、要約、など)を表示するかして、本方法がユーザに出力を提供できる。
このように本発明の実施形態は、ポインタが単語や句の上に置かれると、その単語、句、文、などに関連する写真、図形、画像、映像、音声などを提供して、ユーザが読んでいる単語、句、文などを理解したり思い出したりするのを助け、および/またはユーザの楽しみを増やすことができる。同様に、本発明の実施形態は、ポインタが写真、図形、画像などの上に置かれると、その写真、図形、画像などに関連する記事の標題、要旨やその他の識別子を提供して、ユーザが写真、図形、画像などを理解したり思い出したりするのを助け、および/またはユーザの楽しみを増やすことができる。このように、ユーザが単語の上にポインタを置くと、その単語に関連する写真が提供される。またユーザが写真の上にポインタを置くと、その写真に関連する記事の識別子が提供される。
相応する画像や記事の識別子はそれぞれ、ディスプレイ中のハイパーリンクを含んでいるか、ハイパーリンクに関連付けられている。ユーザがグラフィカルユーザインタフェースを介してそのハイパーリンクを選択すると、本方法により相応する画像のテキストメタデータおよび記事のメタデータが更新される。より具体的には、ポインタが指している表示されたテキスト記事のキーワードに従って、および/またはポインタが指している画像のテキストメタデータのキーワードに従って、相応する画像のテキストメタデータおよび記事のメタデータが更新される。
また、グラフィカルユーザインタフェースを介したユーザのハイパーリンク選択に基づいて、本方法が画像データベース中の画像をランク付けし、また記事データベース中のテキスト記事をランク付けする。これにより、単語に見合う画像を検索するプロセスは高位にランク付けされた画像を優先することができる。同様に、表示された画像に見合うテキスト記事を検索するプロセスは、記事データベース中のテキスト記事のランクに基づいて高位にランク付けされたテキスト記事を優先することが可能となる。
単語の相応検索および表示された画像の相応検索は、さらに、単語とテキストメタデータ間の分類上の関係、テキスト記事と表示画像のテキストメタデータ間の分類上の関係、およびユーザの好み、などの項目にも基づいている。
また、本実施形態は画像データベースを格納する少なくとも1つの(コンピュータ可読の)コンピュータ記憶媒体を備えるシステムを含む。プロセッサはこのコンピュータ記憶媒体と操作可能に接続される。プロセッサはコンピュータ記憶媒体に格納されたデータを読み、命令を実行することができる。グラフィカルユーザインタフェースもまたこのプロセッサと操作可能に接続される。グラフィカルユーザインタフェースは少なくとも1つの入力および少なくとも1つのディスプレイを有する。
プロセッサがグラフィカルユーザインタフェースの入力を監視して、グラフィカルユーザインタフェースのディスプレイ中のポインタ位置を特定する。上記のように、ポインタがディスプレイ上に表示された少なくとも1つの単語の上に置かれている場合に、プロセッサがその単語に見合う少なくとも1つの画像を画像データベースの中から検索する。同様に、ディスプレイ上に表示された少なくとも1つの画像の上にポインタが置かれている場合に、プロセッサは表示された画像に見合う少なくとも1つのテキスト記事をテキスト記事データベースの中から検索する。ディスプレイは、相応する画像(あるいはテキスト記事)をディスプレイ上のその単語の傍に出力(表示)する。
ユーザがグラフィカルユーザインタフェースを介してハイパーリンクを選択すると、プロセッサにより、相応する画像のテキストメタデータおよび記事のメタデータが更新される。また、ポインタが指している表示されたテキスト記事のキーワードに従って、および/またはポインタが指している画像のテキストメタデータのキーワードに従って、テキストメタデータおよび記事のメタデータが更新される。
また、グラフィカルユーザインタフェースを介するユーザのハイパーリンク選択に基づいて、本プロセッサが画像データベース中の画像をランク付けし、また記事データベース中のテキスト記事をランク付けする。これによりプロセッサは、データベース中のランクに基づいて高位にランク付けされた画像もしくは高位にランク付けされたテキスト記事を優先することができる。
またプロセッサは、画像データベース中の画像ファイルの中にテキストメタデータを保持するのではなく、画像データベース中の関係テーブル内に画像のテキストメタデータを保持することができる。同様にこの実施形態では、記事データベースのテキスト記事ファイル中に記事メタデータを保持するのではなく、記事データベースの関係テーブル内にテキスト記事ファイルの記事メタデータを保持することができる。
本実施形態を示すフロー図である。 本実施形態によるシステムの概略図である。 本実施形態による表示画面の概略図である。 本実施形態による表示画面の概略図である。 本実施形態による表示画面の概略図である。
本実施形態は、画像の主題、撮影場所などを記述したメタデータを伴った大規模なコーパスを索引の代わりに利用する。そうして対応する画像を用いて文書に注釈を付け、および/または文書への参照を付して画像に注釈を付ける。
図1のフローチャートに示すように、本発明の1実施例の方法が、グラフィカルユーザインタフェースの少なくとも1つの入力を監視し、グラフィカルユーザインタフェースのディスプレイ内の(グラフィカル)ポインタの位置を特定する(参照符号100)。ディスプレイ上に表示されている少なくとも1つの単語の上にポインタが置かれると(たとえば、その上で止めたり、その上を行ったり来たりしたり、あるいはその上でクリックすると)、本方法がこの単語に見合う少なくとも1つの画像を画像データベース102の中から検索する。データベース内の画像は、単語に相応する画像の検索を可能とするテキストメタデータを含むことができる。
ユーザインタフェースの対象をこのように指し示すことは、マウスオーバイベント、マウスオーバ、ロールオーバイベント、ロールオーバ、ホバーイベント、ホバリング、などと呼ばれることがある。ポインタをコンテンツの記述の上に配置すると、他にユーザが操作すべき個別のアイコンやボタンが表示されていない場合には、一般的に、ただし必ずしもそうではないこともあるが、このコンテンツの記述に下線が付けられて、このコンテンツの記述がアクション可能なユーザインタフェースオブジェクトであり、関連事項へのリンクが張られていることをユーザに知らせている。アクション可能なユーザインタフェースオブジェクトは、たとえばコンテンツの記述により示されたリンク上をポインタでクリックするなどの、別のイベントを行うことによって作動させることができる。コンテンツの記述として表示されたテキストを作動させると、ウェブブラウザが起動される。そしてウェブサーバに要求を送って、ハイパーマークアップ言語(HTML)による文書を受け取り、これが処理されてコンテンツ/ウェブページが表示される。
同様に、ディスプレイ上に表示された少なくとも1つの画像上にポインタが配置されると、本方法が104において、表示された画像に見合う少なくとも1つのテキスト記事を記事データベースの中から検索する。表示された画像には、表示された画像に見合うテキスト記事の検索を可能とするテキストメタデータを含むことができる。
上記の相応検索プロセスのいずれか(あるいは両方)が実行されると、本方法がディスプレイ上のその単語の傍に相応する画像を表示する(そして可能性として後で印刷する)か、あるいは表示された画像の傍の(完全あるいは部分的にその上の、あるいはその横の)ディスプレイ上に相応するテキスト記事の少なくとも1つの識別子(標題、要約、など)を表示するかして、ユーザに出力を提供できる(項目106)。グラフィカルユーザインタフェースディスプレイ上に表示された項目は所望により印刷することも可能であり、項目106は所望により可能な印刷プロセスも説明する。“自動的”ということは、現在閲覧している文書に画像の注釈を加えるために、その単語上にホバリングする以外のアクションを何も必要としないということである。
このように本発明の実施形態は、ポインタを単語や句の上に置くと、その単語、句、文、などに関連する写真、図形、画像、映像、音声などを提供し、ユーザが読んでいる単語、句、文などを理解したり思い出したりするのを助け、および/またはユーザの楽しみを増やす。同様に、本発明の実施形態は、ポインタを写真、図形、画像などの上に置くと、その写真、図形、画像などに関連する記事の標題、要旨やその他の識別子を提供し、ユーザが写真、図形、画像などを理解したり思い出したりするのを助け、および/またはユーザの楽しみを増やす。このように、ユーザが単語の上にポインタを置くと、その単語に関連する写真が提供される。またユーザが写真の上にポインタを置くと、その写真に関連する記事の識別子が提供される。
さらに、本実施形態はホバリングされた単語あるいは句を評価して、その単語あるいは句が関連するデータベース中に保持されている場合にのみ相応検索プロセス(102、104)を遂行する。相応する単語や句を制限することにより、ここでの実施形態は(過度の情報が供給された場合に起きうる)読者の混乱を防ぐ。そして、(過度の要求がグラフィカルユーザインタフェースに対してなされたときに起きうる)グラフィカルユーザインタフェースの性能の容認水準以下への低下も防ぐ。
相応する画像や記事の識別子はそれぞれ、ディスプレイ中のハイパーリンクを含んでいるか、ハイパーリンクに関連付けられている。このようなハイパーリンクは、より大きな画像、類似の画像の集合、および文書などを示すことができる。項目108に示すように、ユーザがグラフィカルユーザインタフェースを介してそのハイパーリンクを選択することに応じて、本方法により、相応する画像のテキストメタデータおよび記事のメタデータが更新される。計算機利用技術においては、ハイパーリンクはその文書の別の部分への、あるいは別の文書への参照もしくは案内要素である。
画像や文書ファイル中に保持されるメタデータ記述は、画像の電子的探索および検索を行う上で重要である。しかし、そのようなメタデータを入力することは退屈な仕事でありしばしば省略されてしまう。図書館においては、所蔵されている書籍の内容がデータであり、書籍に関するメタデータとしては通常、内容の説明、著者、出版日、保管場所などが含まれる。情報システムの関連では、コンピュータファイルの内容がデータであり、個々のデータに関するメタデータには通常フィールドの名前および長さが含まれる。データ項目の集成物、すなわちコンピュータファイルに関するメタデータには、ファイル名、ファイルの種類、およびデータ管理者の名前が通常含まれる。
博物館や図書館のようなよく統制された組織においてもメタデータには、その事項に関連するキーワードのごく一部分しか含まれていない。従って、本発明の実施形態は、ポインタが指している表示されたテキスト記事のキーワードに従って、および/またはポインタが指している画像のテキストメタデータのキーワードに従って、テキストメタデータおよび記事のメタデータを更新する。
1つの単語がホバリングされると、代表的な画像がハイパーリンクのサムネイルとして使用され、その結果その用語に同様に関連するコーパスへのリンクを提供することができる。画像メタデータの索引で十分に文書の注釈が可能である。本発明の実施形態はテキストと画像に関するリンクを格納し、画像に関するテキストを提供することによって画像のメタデータ記述を増強する。つまり本発明の実施形態は、ユーザ履歴の統計を通じて画像のメタデータを増強するばかりではなく、1つの画像から1つまたは複数の文書へユーザがリンクする履歴を統計的に追跡することにより、画像および文書の両方のメタデータをさらに増強するのである。このように、本実施形態は画像とその画像に関連する文書との両者間の双方向の関係を利用して、画像メタデータの品質の向上を図る。
このように形成される新規の双方向の関係を用いて、本発明の実施形態では、1つの画像からスタートしてその画像の主題について言及している文書へ遡及してゆくことが可能であり、それらの文書から画像の主題に関する追加情報を入手することが可能である。この追加の情報を画像のメタデータの索引に組み込むことができ、画像に対するテキスト文書の注釈を将来さらに増やすことができる。画像と文書との間の関連性が増大すれば、学習するのと同じようにして将来さらに注釈を増やす結果となる。
従って参照符号108において本実施形態が画像のメタデータを更新する場合、本方法によりユーザがハイパーリンクを選択する度に見ているテキスト記事のキーワードに関する統計を取る。このように、ユーザが相応する画像をハイパーリンクとしてクリックして選択する場合、ユーザが閲覧中の(そして、相応する画像をテキスト記事に注釈として呼び出すもととなる単語を含んでいる)テキスト記事を本実施形態がスキャンして、現在閲覧している記事の中にさらにキーワードとなり得る潜在的な単語がないかどうかを判定する。たとえば、そのような潜在的なキーワードは、前後の段落から得られたり、あるいはその記事に関連する明示的キーワードのメタデータから得られたりする。
本実施形態によって閲覧している記事に加えられた画像をユーザがクリックしない場合には、その画像は閲覧中の記事との関連があまりないかもしれない。その反対に、本実施形態により閲覧している記事に加えられた画像をユーザがクリックする場合には、選択された画像は閲覧中の記事への関連性が高いと考えられる。従って、注釈画像のハイパーリンクをユーザが起動するときに、閲覧中の記事の中にあるキーワードに関する統計を取り、より関連するキーワードを追加し、あまり関連のないキーワードをメタデータから除外することによって、選択画像のメタデータのキーワードが精選される。
キーワードの関連性の高低の判断に利用される基準には多くの異なるものがある。複数のユーザの、複数の閲覧記事からの、複数の画像選択に関する統計に基づいて、たとえば、ユーザが1つの画像を選択するときに閲覧中の記事にあるキーワードが高い割合で出現する場合には、それはより関連性の高いキーワードであるとみなされ、それが選択画像のメタデータ中に保持ないしは追加される。同様に、ユーザが1つの画像を選択するときに、あるキーワードが閲覧中の記事に出現する割合が低い場合には、それはより関連性の低いキーワードであるとみなされ、選択画像のメタデータから除去される。
従って、文書に注釈として付けられた画像をユーザがハイパーリンク選択をする度に(ポインタの位置に従って)閲覧中の記事の大量のキーワードを追跡することによって、本発明の実施形態が様々な画像のメタデータを精選する。こうして精選されたメタデータにより、より関連性の高い画像が提示され、この注釈の有効性が増してゆく。
同様にして、ユーザがグラフィカルユーザインタフェースディスプレイ内のある画像の上にポインタを置く度に、本実施形態が、画像に注釈として与えられた選択記事の識別子に対応するテキスト記事のキーワードを追跡する。従って、本実施形態が画像上にホバリングされたポインタに応答して記事識別子を提供する際、記事識別子でリンクされた選択テキスト内におけるキーワードの出現の統計に基づいて、種々のキーワードが画像との関連が高いかそうでないかを本方法が確証する。また、結果的にそのような画像のメタデータは精選されて、最も関連の高いキーワードのみがその画像のメタデータの中に含まれ保持される。同様にして、画像とテキスト記事との間にユーザ選択の高い相関性があることが統計的に示される場合には、画像からのメタデータがテキスト記事のメタデータへインポートされて、テキスト記事のメタデータが精選、補足される。
本実施形態は、画像を参照する他の類似の文書を利用して追加画像を有するキーワードインデックスを展開するために、抽出/データマイニング手法を利用することができる。注釈の付けられた文書は、アクティブビューア(たとえばJava(登録商標)scriptが可能なブラウザ)で提示されるか、脚注ないしは行間に注釈を組み込んだ印刷フォーマットで提示される。
また参照符号110に示すように、グラフィカルユーザインタフェースを介する複数ユーザのハイパーリンク選択に基づいて、本方法は画像データベース中の画像をランク付けし、また記事データベース中のテキスト記事をランク付けする。これにより、単語に見合う画像を検索するプロセス104は高位にランク付けされた画像を優先することができる。同様に、表示された画像に見合うテキスト記事を検索するプロセス104は、記事データベース中のテキスト記事のランクに基づいて高位にランク付けされたテキスト記事を優先することが可能となる。
こうして、そのような関係の大きな集合が画定されると、本実施形態が最も関連の高い代表的な画像に有利となるような採点方式を導入する。引用回数の計数あるいは自然言語処理の確率論的方法と同じようなこの方式は採点に好適である。たとえば“アブラハム・リンカーンがゲティスバーグで演説する”というような主題の文書において存在論的な関係がある場合に、ある場所におけるある人というような多数の主題を含む画像が好ましい。
単語の相応検索および表示された画像の相応検索104は、単語とテキストメタデータ間の分類上の関係およびテキスト記事と表示画像のテキストメタデータとの分類上の関係、およびユーザの好み、などの項目にもさらに基づいている。このように双方向の関係では、記述を精選するために関係を分類する、1つまたは複数の識別名が含まれてもよい。人、場所、ものからなる分類されてない関係が、画像に“出現する”ものとして解釈される場合に、強化された関係においてはあるイベントで“演説した”人の画像、あるいはある場所で“脱線した”汽車の画像として解釈されるかもしれない。分類された関係があれば、本実施形態はよりよく表現された注釈画像を文書に対して提供することが可能である。
追加分類により実現されるさらに別の強化点は、単純な閲覧者嗜好モデルであり、これを利用して閲覧者の興味によりよく合うように注釈を個人仕様化することができる。この単純モデルでは、たとえば閲覧者が興味のある情報分類の簡単なチェックリストを作ることから始まり、さらに進んだモデルでは閲覧者の運用行動を観察することによりチェックリストを精選することが可能である。
本実施形態は、図2に概略的に示すシステムも含む。このシステム例は、画像データベースを格納する、少なくとも1つの(コンピュータ/プロセッサ可読の)コンピュータ記憶媒体206を含む。記憶媒体206は、インターネットなどの任意のネットワークで入手可能な任意の記憶媒体であってよい。こうして、ここで記述する“データベース”は、インターネットのようなネットワークの多くの場所および多くのソースで区分することが可能である。プロセッサ202はこのコンピュータ記憶媒体206と操作可能に接続することができる。プロセッサ202はコンピュータ記憶媒体206に格納されたデータを読み、命令を実行して、ここに記述された方法の実施形態を遂行する。グラフィカルユーザインタフェースもまたこのプロセッサ202と操作可能に接続することができる。グラフィカルユーザインタフェースは、マウス、キーボード、トラックボール、タッチパッドなどの少なくとも1つの入力装置208と、スクリーン、プロジェクタなどの少なくとも1つのディスプレイ200を有する。システムはプリンタ204を含むことが可能であり、1つまたは複数のネットワーク210に接続することが可能である。
プロセッサ202がグラフィカルユーザインタフェースの入力208をモニタして、グラフィカルユーザインタフェースのディスプレイ200の中のポインタの位置を特定する。上記のように、ポインタがディスプレイ200上に表示された少なくとも1つの単語の上に置かれている場合に、プロセッサ202がその単語に見合う少なくとも1つの画像を画像データベースの中から検索する。同様に、ディスプレイ200上に表示された少なくとも1つの画像の上にポインタが置かれている場合に、プロセッサ202が、表示された画像に見合う少なくとも1つのテキスト記事をテキスト記事データベースの中から検索する。
ユーザがグラフィカルユーザインタフェースを介してそのハイパーリンクを選択すると、プロセッサ202により相応する画像のテキストメタデータおよび記事のメタデータが更新される。また、ポインタが指している表示されたテキスト記事のキーワードに従って、および/またはポインタが指している画像のテキストメタデータのキーワードに従って、テキストメタデータおよび記事のメタデータが更新される。
また、グラフィカルユーザインタフェースを介するユーザのハイパーリンク選択に基づいて、本プロセッサ202が、画像データベース中の画像をランク付けし、また記事データベース中のテキスト記事をランク付けする。これによりプロセッサ202は、データベース中のランクに基づいて高位にランク付けされた画像もしくは高位にランク付けされたテキスト記事を優先することができる。
またプロセッサ202は、画像データベース206中の画像ファイルの中のテキストメタデータを保持するのではなく、画像データベース206中の関係テーブル内にある画像のテキストメタデータを保持することができる。同様に、この実施形態では、記事データベースのテキスト記事ファイル中に記事メタデータを保持するのではなく、記事データベースの関係テーブル内にテキスト記事ファイルの記事メタデータを保持することができる。
このように、双方向の関係が画像の追加メタデータとして格納されるとか、あるいは画像に取り込まれて格納されるとかの必要はない。その代わり、別の関係テーブルとして格納されることが可能で、画像あるいは文書の単語のいずれかの好適な識別子でアクセスすることができる。このインスタンス化の例としては、言語を用いたウェブサービスがあり、また個別の識別子としてのユニバーサルリソースロケータ(URL)がある。
本実施形態の操作の一例として、本実施形態の操作によるグラフィカルユーザインタフェースのディスプレイ200上の出力変化を図3〜5に示す。特に具体的には、図3はグラフィカルユーザインタフェースのディスプレイ200上のテキスト記事302を示す。参照符号304はグラフィカルユーザインタフェースのディスプレイ200内でのポインタを表す。
図4に示すように、ポインタ304がテキスト記事302内の1つまたは複数の単語(たとえば“DocuColor”)の上を指すと、単語あるいは単語群がハイライトされるか、あるいは下線を付されるなどして、ポインタ304の動きを止めることによりユーザがその単語あるいは単語群の上でホバリングしている、ということを示す。前に述べたように、ポインタ304が単語あるいは単語群の上でホバリングすると、本実施形態は図4に示すように1つまたは複数の画像400を自動的に表示する。1つまたは複数の画像400は単語あるいはテキスト記事302の傍に配置することができる。もしくは単語やテキスト記事302に部分的にかかるか、あるいは完全にその上を覆って配置することができる。さらに、画像は少し透明にすることができ、その下にある単語を完全に隠すことなしに画像を見ることができる。
同様に図5に示すように、ポインタ304がグラフィカルユーザインタフェースディスプレイ200内の画像400の上に置かれると、この画像400の傍に、あるいは画像400を部分的もしくは完全に覆って、本実施例が記事識別子500を自動的に表示する。前に述べたように、画像あるいは複数の画像400および記事識別子500は、大きな画像や類似画像の集合、テキスト記事などを指し示すハイパーリンクを含み、ユーザがそのようなハイパーリンクを選択して、データベース206内に保管されている様々な画像のメタデータやテキスト記事などをさらに精選しようとするアクションを本実施形態が追跡する。
図4および5には写真画像400が示されているが、ここで“画像”というのは、写真、コンピュータグラフィックス、スキャン画像、地図、イラスト、記号などの任意の図形アイテムを含む。従って、本実施形態は図4および5に示された写真に限定されるものではなく、任意の形態の図形アイテムに適用可能である。
200 ディスプレイ
302 表示画面
304 ポインタ
400 画像
500 記事識別子

Claims (16)

  1. プロセッサが、前記プロセッサと操作可能に接続されたグラフィカルユーザインタフェースの少なくとも1つのディスプレイ内のグラフィカルポインタ位置を特定するために、該グラフィカルユーザインタフェースの少なくとも1つの入力を監視し、
    前記プロセッサが、前記ディスプレイ上に表示された少なくとも1つの単語の上に前記グラフィカルポインタが置かれている場合に、該単語に見合う少なくとも1つの画像を画像データベースの中から検索し、
    前記ディスプレイが、前記少なくとも1つの画像を前記ディスプレイ上の前記単語に近接する位置に表示
    前記データベース内の前記画像が、前記単語に見合う前記画像の検索を可能とするテキストのメタデータを含み、前記画像は、前記ディスプレイ中のハイパーリンクを含み、前記単語は、テキスト記事の一部であり、
    前記プロセッサが、前記グラフィカルユーザインタフェースを介した前記ハイパーリンクの少なくとも1つのユーザ選択で、前記テキスト記事のキーワードに基づいて前記画像の前記テキストのメタデータを更新する、方法。
  2. 前記プロセッサは、前記グラフィカルユーザインタフェースを介して前記ハイパーリンクの少なくとも1つのユーザ選択に基づいて前記画像データベース内の画像をランク付けし、
    前記単語に見合う少なくとも1つの画像を検索することは、前記画像データベース内の画像のランク付けに基づく高位にランク付けされた画像を優先することを含む、請求項1に記載の方法。
  3. 前記プロセッサは、前記画像データベース中の画像ファイルの内にテキストデータを保持するのではなく、前記画像データベースの関係テーブル内に前記テキストのメタデータを保持する、請求項1または請求項2に記載の方法。
  4. 前記プロセッサは、前記単語と前記テキストのメタデータとの間の分類上の関係、およびユーザの好みの少なくとも1つに基づいて、前記単語に見合う少なくとも1つの画像を検索する、請求項1から請求項3のいずれか1つに記載の方法。
  5. プロセッサが、前記プロセッサと操作可能に接続されたグラフィカルユーザインタフェースの少なくとも1つのディスプレイ内のグラフィカルポインタ位置を特定するために、該グラフィカルユーザインタフェースの少なくとも1つの入力を監視し、
    前記プロセッサが、前記ディスプレイ上に表示された少なくとも1つの画像の上に前記グラフィカルポインタが置かれている場合に、前記画像に見合う少なくとも1つのテキスト記事をテキスト記事データベースの中から検索し、
    前記ディスプレイが、前記少なくとも1つのテキスト記事の少なくとも1つの記事識別子を前記ディスプレイ上の前記画像に近接する位置に表示
    前記画像が、前記画像に見合う前記テキスト記事の検索を可能とするテキストのメタデータを含み、前記記事識別子は、前記ディスプレイ中のハイパーリンクを含み、前記テキスト記事は、記事のメタデータを含み、
    前記プロセッサが、前記画像の前記テキストのメタデータのキーワードに基づいて、前記グラフィカルユーザインタフェースを介した前記ハイパーリンクの少なくとも1つのユーザ選択で、前記テキスト記事の前記記事のメタデータを更新する、方法。
  6. 前記プロセッサは、前記グラフィカルユーザインタフェースを介して前記ハイパーリンクの少なくとも1つに基づいて前記テキスト記事データベース内の前記テキスト記事をランク付けし、
    前記画像に見合う前記少なくとも1つのテキスト記事を検索することは、前記テキスト記事データベース内の前記テキスト記事のランク付けに基づく高位にランク付けされたテキスト記事を優先することを含む、請求項5に記載の方法。
  7. 前記プロセッサは、前記テキスト記事データベース中のテキスト記事ファイルの内に記事を保持するのではなく、前記テキスト記事データベースの関係テーブル内に前記記事のメタデータを保持する、請求項5または請求項6に記載の方法。
  8. 前記プロセッサは、前記テキスト記事と前記画像の前記テキストのメタデータとの間の分類上の関係、およびユーザの好みの少なくとも1つに基づいて、前記画像に見合う少なくとも1つのテキスト記事を検索する、請求項1から請求項3のいずれか1つに記載の方法。
  9. プロセッサが、前記プロセッサと操作可能に接続されたグラフィカルユーザインタフェースの少なくとも1つのディスプレイ内のグラフィカルポインタ位置を特定するために、該グラフィカルユーザインタフェースの少なくとも1つの入力を監視し、
    前記プロセッサが、前記ディスプレイ上に表示された少なくとも1つの単語の上に前記グラフィカルポインタが置かれている場合に、該単語に見合う少なくとも1つの相応する画像を画像データベースの中から検索し、
    前記プロセッサが、前記ディスプレイ上に表示された少なくとも1つの画像の上に前記グラフィカルポインタが置かれている場合に、表示された該画像に見合う少なくとも1つのテキスト記事をテキスト記事データベースの中から検索し、
    前記ディスプレイが、前記ディスプレイ上の前記単語に近接する位置の前記少なくとも1つの相応する画像と、前記ディスプレイ上の前記表示された画像に近接する位置における少なくとも1つのテキスト記事の少なくとも1つの記事識別子と、の一つを表示
    前記画像データベース内の前記画像が、前記単語に見合う前記画像の検索を可能とするテキストのメタデータを含み、
    表示された前記画像が、表示された該画像に見合う前記テキスト記事の検索を可能とするテキストのメタデータを含
    前記少なくとも1つの相応する画像および前記少なくとも1つの記事識別子は、前記ディスプレイ中のハイパーリンクを含み、前記単語は、表示されたテキスト記事の一部分であり、該テキスト記事は、記事のメタデータを含み、
    前記プロセッサが、前記グラフィカルユーザインタフェースを介した少なくとも1つのユーザ選択で、前記少なくとも1つの相応する画像の前記テキストのメタデータおよび前記記事のメタデータのうちの1つを更新し、
    前記テキストのメタデータの更新は、前記表示されたテキスト記事のキーワードに基づき、
    前記記事のメタデータの更新は、前記画像の前記テキストのメタデータに基づく、
    方法。
  10. 前記プロセッサは、前記グラフィカルユーザインタフェースを介して前記ハイパーリンクの少なくとも1つのユーザ選択に基づいて、前記画像データベース内の画像および前記テキスト記事データベース内の前記テキスト記事をランク付けし、
    前記画像に見合う少なくとも1つの画像を検索することは、前記画像データベース内の画像のランク付けに基づく高位にランク付けされた画像を優先することを含み、
    前記画像に見合う前記少なくとも1つのテキスト記事を検索することは、前記テキスト記事データベース内の前記テキスト記事のランク付けに基づく高位にランク付けされたテキスト記事を優先することを含む、請求項9に記載の方法。
  11. 前記プロセッサは、前記画像データベース中の画像ファイルの内にテキストデータを保持するのではなく、前記画像データベースの関係テーブル内に前記テキストのメタデータを保持し、
    前記プロセッサは、前記テキスト記事データベース中のテキスト記事ファイルの内に記事を保持するのではなく、前記テキスト記事データベースの関係テーブル内に前記記事のメタデータを保持する、請求項9または請求項10に記載の方法。
  12. 前記プロセッサは、前記単語と前記テキストのメタデータとの間の分類上の関係、およびユーザの好みの少なくとも1つに基づいて、前記単語に見合う少なくとも1つの画像を検索し、
    前記プロセッサは、前記テキスト記事と前記画像の前記テキストのメタデータとの間の分類上の関係、およびユーザの好みの少なくとも1つに基づいて、前記画像に見合う少なくとも1つのテキスト記事を検索する、請求項9から請求項11のいずれか1つに記載の方法。
  13. 請求項1から請求項12のいずれか1つに記載の方法をコンピュータに実行させるためのプログラム。
  14. 画像データベースを格納し、コンピュータ可読なコンピュータ格納媒体と、
    前記コンピュータ格納媒体と操作可能に接続されたプロセッサであって、該コンピュータ格納媒体に格納されたデータを読み出し、命令を実行するプロセッサと、
    前記プロセッサと操作可能に接続されたグラフィカルユーザインタフェースであって、少なくとも1つの入力と少なくとも1つのディスプレイとを有するグラフィカルユーザインタフェースと、
    を有するシステムであって、
    前記グラフィカルユーザインタフェースの前記ディスプレイの中のグラフィカルポインタの位置を特定するために、前記プロセッサが該グラフィカルユーザインタフェースの前記入力を監視し、
    前記ディスプレイ上に表示された少なくとも1つの単語の上に前記グラフィカルポインタが置かれている場合に、前記プロセッサが、該単語に見合う少なくとも1つの画像を前記画像データベースの中から検索し、前記データベース内の前記画像が、前記単語に見合う前記画像の検索を可能とするテキストメタデータを含み、
    前記ディスプレイが前記少なくとも1つの画像を該ディスプレイ上の前記単語に近接する位置に表示
    前記画像は、前記ディスプレイ中のハイパーリンクを含み、前記単語は、テキスト記事の一部分であり、
    前記プロセッサが、前記テキスト記事のキーワードに基づいて、前記グラフィカルユーザインタフェースを介した前記ハイパーリンクの少なくとも1つのユーザ選択で、前記画像の前記テキストメタデータを更新する、
    システム。
  15. テキスト記事データベースを格納し、コンピュータ可読なコンピュータ格納媒体と、
    前記コンピュータ格納媒体と操作可能に接続されたプロセッサであって、該コンピュータ格納媒体に格納されたデータを読み出し、命令を実行するプロセッサと、
    前記プロセッサと操作可能に接続されたグラフィカルユーザインタフェースであって、少なくとも1つの入力と少なくとも1つのディスプレイとを有するグラフィカルユーザインタフェースと、
    を有するシステムであって、
    前記グラフィカルユーザインタフェースの前記ディスプレイ内のグラフィカルポインタ位置を特定するために、前記プロセッサが該グラフィカルユーザインタフェースの少なくとも1つの入力を監視し、
    前記ディスプレイ上に表示された少なくとも1つの画像の上に前記グラフィカルポインタが置かれている場合に、前記プロセッサが、前記画像に見合う少なくとも1つのテキスト記事をテキスト記事データベースの中から検索し、
    前記ディスプレイが前記少なくとも1つのテキスト記事の少なくとも1つの記事識別子を前記ディスプレイ上の前記画像に近接する位置に表示し、
    前記画像が、前記画像に見合う前記テキスト記事の検索を可能とするテキストのメタデータを含み、前記記事識別子は、前記ディスプレイ中のハイパーリンクを含み、前記テキスト記事は、記事のメタデータを含み、
    前記画像の前記テキストのメタデータのキーワードに基づいて、前記グラフィカルユーザインタフェースを介した前記ハイパーリンクの少なくとも1つのユーザ選択で、前記テキスト記事の前記記事のメタデータを更新する、
    システム。
  16. 画像データベースおよびテキスト記事データベースを格納し、コンピュータ可読なコンピュータ格納媒体と、
    前記コンピュータ格納媒体と操作可能に接続されたプロセッサであって、該コンピュータ格納媒体に格納されたデータを読み出し、命令を実行するプロセッサと、
    前記プロセッサと操作可能に接続されたグラフィカルユーザインタフェースであって、少なくとも1つの入力と少なくとも1つのディスプレイとを有するグラフィカルユーザインタフェースと、
    を有するシステムであって、
    前記プロセッサが、前記グラフィカルユーザインタフェースの少なくとも1つのディスプレイ内のグラフィカルポインタ位置を特定するために、該グラフィカルユーザインタフェースの少なくとも1つの入力を監視し、
    前記プロセッサが、前記ディスプレイ上に表示された少なくとも1つの単語の上に前記グラフィカルポインタが置かれている場合に、該単語に見合う少なくとも1つの相応する画像を画像データベースの中から検索し、
    前記プロセッサが、前記ディスプレイ上に表示された少なくとも1つの画像の上に前記グラフィカルポインタが置かれている場合に、表示された該画像に見合う少なくとも1つのテキスト記事をテキスト記事データベースの中から検索し、
    前記ディスプレイが、前記ディスプレイ上の前記単語に近接する位置の前記少なくとも1つの相応する画像と、前記ディスプレイ上の前記表示された画像に近接する位置における少なくとも1つのテキスト記事の少なくとも1つの記事識別子と、の一つを表示し、
    前記画像データベース内の前記画像が、前記単語に見合う前記画像の検索を可能とするテキストのメタデータを含み、
    表示された前記画像が、表示された該画像に見合う前記テキスト記事の検索を可能とするテキストのメタデータを
    前記少なくとも1つの相応する画像および前記少なくとも1つの記事識別子は、前記ディスプレイ中のハイパーリンクを含み、前記単語は、表示されたテキスト記事の一部分であり、該テキスト記事は、記事のメタデータを含み、
    前記プロセッサが、前記グラフィカルユーザインタフェースを介した少なくとも1つのユーザ選択で、前記少なくとも1つの相応する画像の前記テキストのメタデータおよび前記記事のメタデータのうちの1つを更新し、
    前記テキストのメタデータの更新は、前記表示されたテキスト記事のキーワードに基づき、
    前記記事のメタデータの更新は、前記画像の前記テキストのメタデータに基づく、
    システム。
JP2009229691A 2008-10-09 2009-10-01 表示方法、システムおよびプログラム Expired - Fee Related JP5511292B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US12/248,064 US8131734B2 (en) 2008-10-09 2008-10-09 Image based annotation and metadata generation system with experience based learning
US12/248,064 2008-10-09

Publications (2)

Publication Number Publication Date
JP2010092476A JP2010092476A (ja) 2010-04-22
JP5511292B2 true JP5511292B2 (ja) 2014-06-04

Family

ID=42100003

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009229691A Expired - Fee Related JP5511292B2 (ja) 2008-10-09 2009-10-01 表示方法、システムおよびプログラム

Country Status (2)

Country Link
US (1) US8131734B2 (ja)
JP (1) JP5511292B2 (ja)

Families Citing this family (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7822746B2 (en) 2005-11-18 2010-10-26 Qurio Holdings, Inc. System and method for tagging images based on positional information
CN101504649B (zh) * 2008-11-14 2011-11-30 北京搜狗科技发展有限公司 一种页面资源的处理方法及装置
US10567823B2 (en) 2008-11-26 2020-02-18 Free Stream Media Corp. Relevant advertisement generation based on a user operating a client device communicatively coupled with a networked media device
US9026668B2 (en) 2012-05-26 2015-05-05 Free Stream Media Corp. Real-time and retargeted advertising on multiple screens of a user watching television
US9154942B2 (en) 2008-11-26 2015-10-06 Free Stream Media Corp. Zero configuration communication between a browser and a networked media device
US8180891B1 (en) 2008-11-26 2012-05-15 Free Stream Media Corp. Discovery, access control, and communication with networked services from within a security sandbox
US10419541B2 (en) 2008-11-26 2019-09-17 Free Stream Media Corp. Remotely control devices over a network without authentication or registration
US9519772B2 (en) 2008-11-26 2016-12-13 Free Stream Media Corp. Relevancy improvement through targeting of information based on data gathered from a networked device associated with a security sandbox of a client device
US9986279B2 (en) 2008-11-26 2018-05-29 Free Stream Media Corp. Discovery, access control, and communication with networked services
US9961388B2 (en) 2008-11-26 2018-05-01 David Harrison Exposure of public internet protocol addresses in an advertising exchange server to improve relevancy of advertisements
US9386356B2 (en) 2008-11-26 2016-07-05 Free Stream Media Corp. Targeting with television audience data across multiple screens
US10880340B2 (en) 2008-11-26 2020-12-29 Free Stream Media Corp. Relevancy improvement through targeting of information based on data gathered from a networked device associated with a security sandbox of a client device
US10631068B2 (en) 2008-11-26 2020-04-21 Free Stream Media Corp. Content exposure attribution based on renderings of related content across multiple devices
US10334324B2 (en) 2008-11-26 2019-06-25 Free Stream Media Corp. Relevant advertisement generation based on a user operating a client device communicatively coupled with a networked media device
US10977693B2 (en) 2008-11-26 2021-04-13 Free Stream Media Corp. Association of content identifier of audio-visual data with additional data through capture infrastructure
US20110010656A1 (en) * 2009-07-13 2011-01-13 Ta Keo Ltd Apparatus and method for improved user interface
US20110113023A1 (en) * 2009-11-07 2011-05-12 Jurgen Van Gucht System method and software application for implementing a google like search in a software
US20130097522A1 (en) * 2011-10-15 2013-04-18 Derek A. Devries Method and system of generating composite web page elements with an annotating proxy server
US20130346874A1 (en) * 2012-03-30 2013-12-26 Keys To Medicine, Llc User configurable electronic textbook
US11250203B2 (en) * 2013-08-12 2022-02-15 Microsoft Technology Licensing, Llc Browsing images via mined hyperlinked text snippets
US20170004859A1 (en) * 2015-06-30 2017-01-05 Coursera, Inc. User created textbook
CN106547443A (zh) * 2015-09-21 2017-03-29 宇龙计算机通信科技(深圳)有限公司 一种文本内容显示方法及装置
US20190146742A1 (en) * 2017-11-15 2019-05-16 Futurewei Technologies, Inc. Providing enriched e-reading experience in multi-display environments
US11675828B2 (en) 2019-11-05 2023-06-13 International Business Machines Corporation Visual representation coherence preservation
JP2021117373A (ja) * 2020-01-27 2021-08-10 アイビーリサーチ株式会社 表示制御装置及びプログラム

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7051019B1 (en) * 1999-08-17 2006-05-23 Corbis Corporation Method and system for obtaining images from a database having images that are relevant to indicated text
US7028253B1 (en) * 2000-10-10 2006-04-11 Eastman Kodak Company Agent for integrated annotation and retrieval of images
JP2003067397A (ja) * 2001-06-11 2003-03-07 Matsushita Electric Ind Co Ltd コンテンツ管理システム
JP2003047701A (ja) * 2001-08-07 2003-02-18 Heiwa Corp パチンコ機の部品特定方法およびシステム
US7395500B2 (en) 2003-08-29 2008-07-01 Yahoo! Inc. Space-optimizing content display
JP2005115721A (ja) * 2003-10-09 2005-04-28 Nippon Telegr & Teleph Corp <Ntt> 画像検索方法、画像検索装置及び画像検索プログラム
US20060112067A1 (en) * 2004-11-24 2006-05-25 Morris Robert P Interactive system for collecting metadata
US7849116B2 (en) * 2005-05-23 2010-12-07 Picateer, Inc. System and method for automated layout of collaboratively selected images
JP2007279901A (ja) * 2006-04-04 2007-10-25 Yafoo Japan Corp ドキュメントに関連するデータを送信する方法
US8341112B2 (en) * 2006-05-19 2012-12-25 Microsoft Corporation Annotation by search
US8954886B2 (en) * 2006-08-02 2015-02-10 Ebay Inc. System to present additional item information
JP5098253B2 (ja) * 2006-08-25 2012-12-12 コニカミノルタエムジー株式会社 データベースシステム、プログラム、及びレポート検索方法
JP2008226110A (ja) * 2007-03-15 2008-09-25 Seiko Epson Corp 情報処理装置、情報処理方法および制御プログラム

Also Published As

Publication number Publication date
US8131734B2 (en) 2012-03-06
JP2010092476A (ja) 2010-04-22
US20100095194A1 (en) 2010-04-15

Similar Documents

Publication Publication Date Title
JP5511292B2 (ja) 表示方法、システムおよびプログラム
US11977554B2 (en) Methods of and systems for searching by incorporating user-entered information
US9323827B2 (en) Identifying key terms related to similar passages
Hider Information resource description: creating and managing metadata
US20180004850A1 (en) Method for inputting and processing feature word of file content
US7783644B1 (en) Query-independent entity importance in books
US20020038299A1 (en) Interface for presenting information
US20100281417A1 (en) Providing a search-result filters toolbar
Won et al. Contextual web history: using visual and contextual cues to improve web browser history
US8392429B1 (en) Informational book query
JP2003114906A (ja) ユーザ定義可能なパーソナリティを備えたメタ文書管理システム
CN109952571B (zh) 基于上下文的图像搜索结果
RU2698405C2 (ru) Способ поиска в базе данных
Petrelli et al. Analysing user's queries for cross‐language image retrieval from digital library collections
Bier et al. A document corpus browser for in-depth reading
WO2014012443A1 (zh) 参考文件导引信息的输入和处理方法
JP2012212191A (ja) 情報処理装置及び情報処理方法
JP3887685B2 (ja) プレゼンテーション資料検索システムおよびその方法並びにプログラム
JP2008112310A (ja) 検索装置、情報検索システム、検索方法、検索プログラム、及び記録媒体
Suh Image management using pattern recognition systems
KR20100084265A (ko) 사용자 피드백을 이용하여 평가된 컨텐츠로부터 정보를 추출하고 이를 이용하기 위한 방법 및 장치
Cataldi et al. Immex: Immersive text documents exploration system
Ioannides A study of information fragment association in information management and retrieval applications
Lau Structuring free-form tagging in online news
Papakonstantinou et al. Tag based meta-search for browsing the web: The tictag application

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20121001

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20130225

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130422

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130625

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130919

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140225

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140325

R150 Certificate of patent or registration of utility model

Ref document number: 5511292

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees