JP2007018166A - 情報検索装置、情報検索システム、情報検索方法及び情報検索プログラム - Google Patents

情報検索装置、情報検索システム、情報検索方法及び情報検索プログラム Download PDF

Info

Publication number
JP2007018166A
JP2007018166A JP2005197665A JP2005197665A JP2007018166A JP 2007018166 A JP2007018166 A JP 2007018166A JP 2005197665 A JP2005197665 A JP 2005197665A JP 2005197665 A JP2005197665 A JP 2005197665A JP 2007018166 A JP2007018166 A JP 2007018166A
Authority
JP
Japan
Prior art keywords
information
related information
display image
acquired
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2005197665A
Other languages
English (en)
Inventor
Atsushi Watanabe
淳 渡辺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2005197665A priority Critical patent/JP2007018166A/ja
Publication of JP2007018166A publication Critical patent/JP2007018166A/ja
Pending legal-status Critical Current

Links

Images

Abstract

【課題】 画面上に表示された表示画像に関連する関連情報を迅速、且つ、効率的に取得することを可能とする情報検索システムを提供する。
【解決手段】 画面上に表示された表示画像に関連する関連情報を検索する移動体通信端末装置(1)と、関連情報を管理する関連情報管理装置(2)と、がネットワーク(3)を介して接続されて構成される。そして、移動体通信端末装置(1)は、移動体通信端末装置(1)の具備する記憶部を検索し、表示画像に関連する関連情報を取得し、該取得した関連情報を画面上に表示することになる。また、移動体通信端末装置(1)の具備する記憶部を検索し、表示画像に関連する関連情報を取得できない場合には、関連情報の取得要求を関連情報管理装置(2)に送信し、関連情報管理装置(2)から表示画像に関連する関連情報を取得し、該取得した関連情報を画面上に表示することになる。
【選択図】 図1

Description

本発明は、画面上に表示された表示画像に関連する関連情報を検索する情報検索装置、情報検索システム、情報検索方法及び情報検索プログラムに関するものである。
例えば、書籍などを読んでいる際に、漢字の読み・意味が解らない状況が生じた場合には、その解らない情報を辞書等で能動的に検索しなければならず、煩わしさを伴っていたのが現状である。
このようなことから、本発明より先に出願された技術文献として、媒介情報と関連情報とを関連づける情報閲覧装置であって、前記媒介情報を取得する手段と、該取得した媒介情報から媒介情報の識別情報を取得する手段と、該識別情報をコンピュータネットワーク経由で送信する手段と、コンピュータネットワーク経由で関連情報を受信する手段と、受信した関連情報を出力する手段を備え、画面上に表示された媒介情報に関連する関連情報を入手可能とする情報閲覧装置が開示された文献がある(例えば、特許文献1参照)。
また、文字認識機能を有するサーバに通信ネットワークを介してアクセスする携帯端末装置において、文字が含まれている画像データを取得する取得手段と、前記取得手段により取得された画像データを表示する表示手段と、表示された画像データに含まれる文字領域の範囲を指定する範囲指定手段と、前記画像データ及び前記範囲指定手段により指定された文字領域の範囲情報を前記サーバに送信する送信手段と、前記サーバが有する文字認識機能により認識された文字をテキストデータとして該サーバから受信する受信手段と、を備え、文字情報を取得するのに便利であり、かつ取得した文字情報を素早く活用できる携帯端末装置が開示された文献がある(例えば、特許文献2参照)。
特開2002−334092号公報 特開2002−352190号公報
なお、上記特許文献1は、コンピュータネットワーク経由で関連情報を受信することで、画面上に表示された媒介情報に関連する関連情報を入手可能とする技術が開示されているが、上記特許文献1に開示された技術では、常に、コンピュータネットワーク経由で関連情報を入手することになるため、関連情報を入手するまでには所定の時間を要することになる。
また、上記特許文献2は、文字認識機能を有するサーバに通信ネットワークを介してアクセスし、文字をテキストデータとして受信することになるため、上記特許文献1と同様に、常に、ネットワーク経由で文字を入手することになるため、文字を取得するまでには所定の時間を要することになる。
本発明は、上記事情に鑑みてなされたものであり、画面上に表示された表示画像に関連する関連情報を迅速、且つ、効率的に取得することを可能とする情報検索装置、情報検索システム、情報検索方法及び情報検索プログラムを提供することを目的とするものである。
かかる目的を達成するために、本発明は以下の特徴を有することとする。
本発明にかかる情報検索装置は、画面上に表示された表示画像に関連する関連情報を検索する情報検索装置であって、情報検索装置は、表示画像に関連する関連情報を管理する関連情報管理装置とネットワークを介して接続されており、表示画像に関連する関連情報を記憶する関連情報記憶手段と、関連情報記憶手段を検索し、表示画像に関連する関連情報を取得し、該取得した関連情報を画面上に表示する第1の関連情報取得手段と、第1の関連情報取得手段により、表示画像に関連する関連情報を取得できない場合に、関連情報の取得要求を関連情報管理装置に送信し、関連情報管理装置から表示画像に関連する関連情報を取得し、該取得した関連情報を画面上に表示する第2の関連情報取得手段と、を有することを特徴とするものである。
また、本発明にかかる情報検索装置は、画面上に表示された表示画面の中から特定の表示領域を指定する表示領域指定手段と、表示領域指定手段により指定された表示領域を解析し、画面上に表示された表示画像を特定する表示画像特定手段と、を有し、第1の関連情報取得手段は、表示画像特定手段により特定された表示画像を基に、関連情報記憶手段を検索し、表示画像に関連する関連情報を取得し、第2の関連情報取得手段は、第1の関連情報取得手段により、表示画像に関連する関連情報を取得できない場合に、関連情報の取得要求を関連情報管理装置に送信し、関連情報管理装置から表示画像に関連する関連情報を取得することを特徴とするものである。
また、本発明にかかる情報検索装置は、音声情報を出力する音声情報出力手段を有し、第1の関連情報取得手段、または、第2の関連情報取得手段により取得した関連情報が画像情報の場合には、表示画像に関連づけて画面上に画像情報を表示し、取得した関連情報が音声情報の場合には、音声情報出力手段から音声情報を出力し、取得した関連情報が、画像情報と音声情報とを含む情報の場合には、表示画像に関連づけて画面上に画像情報を表示し、音声情報出力手段から音声情報を出力することを特徴とするものである。
また、本発明にかかる情報検索装置において、関連情報記憶手段は、表示画像を識別する表示画像識別情報に関連づけて関連情報を記憶しており、関連情報管理装置は、表示画像識別情報に関連づけて関連情報を管理しており、第1の関連情報取得手段は、表示画像識別情報を基に、関連情報記憶手段を検索し、表示画像識別情報に関連づけられた関連情報を取得し、第2の関連情報取得手段は、第1の関連情報取得手段により、表示画像識別情報に関連づけられた関連情報を取得できない場合に、関連情報の取得要求を表示画像識別情報と共に、関連情報管理装置に送信し、関連情報管理装置から表示画像識別情報に関連づけられた関連情報を取得することを特徴とするものである。
また、本発明にかかる情報検索装置において、表示領域指定手段は、ポインティングデバイスまたはトラックボールであることを特徴とするものである。
また、本発明にかかる情報検索システムは、画面上に表示された表示画像に関連する関連情報を検索する情報検索装置と、関連情報を管理する関連情報管理装置と、を有する情報検索システムであって、情報検索装置は、表示画像に関連する関連情報を記憶する関連情報記憶手段と、関連情報記憶手段を検索し、表示画像に関連する関連情報を取得し、該取得した関連情報を画面上に表示する第1の関連情報取得手段と、第1の関連情報取得手段により、表示画像に関連する関連情報を取得できない場合に、関連情報の取得要求を関連情報管理装置に送信し、関連情報管理装置から表示画像に関連する関連情報を取得し、該取得した関連情報を画面上に表示する第2の関連情報取得手段と、を有し、関連情報管理装置は、関連情報の取得要求を情報検索装置から受信した際に、該取得要求に該当する関連情報を関連情報管理装置の具備する格納部から取得し、該取得した関連情報を情報検索装置に提供する関連情報提供手段と、を有することを特徴とするものである。
また、本発明にかかる情報検索システムにおいて、情報検索装置は、画面上に表示された表示画面の中から特定の表示領域を指定する表示領域指定手段と、表示領域指定手段により指定された表示領域を解析し、画面上に表示された表示画像を特定する表示画像特定手段と、を有し、第1の関連情報取得手段は、表示画像特定手段により特定された表示画像を基に、関連情報記憶手段を検索し、表示画像に関連する関連情報を取得し、第2の関連情報取得手段は、第1の関連情報取得手段により、表示画像に関連する関連情報を取得できない場合に、関連情報の取得要求を関連情報管理装置に送信し、関連情報管理装置から表示画像に関連する関連情報を取得することを特徴とするものである。
また、本発明にかかる情報検索システムにおいて、情報検索装置は、音声情報を出力する音声情報出力手段を有し、第1の関連情報取得手段、または、第2の関連情報取得手段により取得した関連情報が画像情報の場合には、表示画像に関連づけて画面上に画像情報を表示し、取得した関連情報が音声情報の場合には、音声情報出力手段から音声情報を出力し、取得した関連情報が、画像情報と音声情報とを含む情報の場合には、表示画像に関連づけて画面上に画像情報を表示し、音声情報出力手段から音声情報を出力することを特徴とするものである。
また、本発明にかかる情報検索システムにおいて、情報検索装置は、表示画像を識別する表示画像識別情報に関連づけて関連情報を記憶しており、関連情報管理装置は、表示画像識別情報に関連づけて関連情報を管理しており、第1の関連情報取得手段は、表示画像識別情報を基に、関連情報記憶手段を検索し、表示画像識別情報に関連づけられた関連情報を取得し、第2の関連情報取得手段は、第1の関連情報取得手段により、表示画像識別情報に関連づけられた関連情報を取得できない場合に、関連情報の取得要求を表示画像識別情報と共に、関連情報管理装置に送信し、関連情報管理装置から表示画像識別情報に関連づけられた関連情報を取得することを特徴とするものである。
また、本発明にかかる情報検索システムにおいて、表示領域指定手段は、ポインティングデバイスまたはトラックボールであることを特徴とするものである。
また、本発明にかかる情報検索方法は、画面上に表示された表示画像に関連する関連情報を検索する情報検索装置で行う情報検索方法あって、情報検索装置は、表示画像に関連する関連情報を管理する関連情報管理装置とネットワークを介して接続されており、情報検索装置の具備する記憶部を検索し、表示画像に関連する関連情報を取得し、該取得した関連情報を画面上に表示する第1の関連情報取得工程と、第1の関連情報取得工程により、表示画像に関連する関連情報を取得できない場合に、関連情報の取得要求を関連情報管理装置に送信し、関連情報管理装置から表示画像に関連する関連情報を取得し、該取得した関連情報を画面上に表示する第2の関連情報取得工程と、を、情報検索装置が行うことを特徴とするものである。
また、本発明にかかる情報検索方法は、画面上に表示された表示画面の中から特定の表示領域を指定する表示領域指定工程と、表示領域指定工程により指定された表示領域を解析し、画面上に表示された表示画像を特定する表示画像特定工程と、を、情報検索装置が行い、第1の関連情報取得工程は、表示画像特定工程により特定された表示画像を基に、情報検索装置の具備する記憶部を検索し、表示画像に関連する関連情報を取得し、第2の関連情報取得工程は、第1の関連情報取得工程により、表示画像に関連する関連情報を取得できない場合に、関連情報の取得要求を関連情報管理装置に送信し、関連情報管理装置から表示画像に関連する関連情報を取得することを特徴とするものである。
また、本発明にかかる情報検索方法において、情報検索装置は、音声情報を出力する音声情報出力手段を有し、第1の関連情報取得工程、または、第2の関連情報取得工程により取得した関連情報が画像情報の場合には、表示画像に関連づけて画面上に画像情報を表示し、取得した関連情報が音声情報の場合には、音声情報出力手段から音声情報を出力し、取得した関連情報が、画像情報と音声情報とを含む情報の場合には、表示画像に関連づけて画面上に画像情報を表示し、音声情報出力手段から音声情報を出力することを特徴とするものである。
また、本発明にかかる情報検索方法において、情報検索装置は、表示画像を識別する表示画像識別情報に関連づけて関連情報を記憶部に記憶しており、関連情報管理装置は、表示画像識別情報に関連づけて関連情報を管理しており、第1の関連情報取得工程は、表示画像識別情報を基に、記憶部を検索し、表示画像識別情報に関連づけられた関連情報を取得し、第2の関連情報取得工程は、第1の関連情報取得工程により、表示画像識別情報に関連づけられた関連情報を取得できない場合に、関連情報の取得要求を関連情報管理装置に送信し、関連情報管理装置から表示画像識別情報に関連づけられた関連情報を取得することを特徴とするものである。
また、本発明にかかる情報検索方法において、表示領域指定工程は、ポインティングデバイスまたはトラックボールにより表示領域を指定することを特徴とするものである。
また、本発明にかかる情報検索プログラムは、画面上に表示された表示画像に関連する関連情報を検索する情報検索装置において実行させる情報検索プログラムあって、情報検索装置は、表示画像に関連する関連情報を管理する関連情報管理装置とネットワークを介して接続されており、情報検索装置の具備する記憶部を検索し、表示画像に関連する関連情報を取得し、該取得した関連情報を画面上に表示する第1の関連情報取得処理と、第1の関連情報取得処理により、表示画像に関連する関連情報を取得できない場合に、関連情報の取得要求を関連情報管理装置に送信し、関連情報管理装置から表示画像に関連する関連情報を取得し、該取得した関連情報を画面上に表示する第2の関連情報取得処理と、を、情報検索装置に実行させることを特徴とするものである。
また、本発明にかかる情報検索プログラムは、画面上に表示された表示画面の中から特定の表示領域を指定する表示領域指定処理と、表示領域指定処理により指定された表示領域を解析し、画面上に表示された表示画像を特定する表示画像特定処理と、を、情報検索装置に実行させ、第1の関連情報取得処理は、表示画像特定処理により特定された表示画像を基に、情報検索装置の具備する記憶部を検索し、表示画像に関連する関連情報を取得し、第2の関連情報取得処理は、第1の関連情報取得処理により、表示画像に関連する関連情報を取得できない場合に、関連情報の取得要求を関連情報管理装置に送信し、関連情報管理装置から表示画像に関連する関連情報を取得することを特徴とするものである。
また、本発明にかかる情報検索プログラムにおいて、情報検索装置は、音声情報を出力する音声情報出力手段を有し、第1の関連情報取得処理、または、第2の関連情報取得処理により取得した関連情報が画像情報の場合には、表示画像に関連づけて画面上に画像情報を表示し、取得した関連情報が音声情報の場合には、音声情報出力手段から音声情報を出力し、取得した関連情報が、画像情報と音声情報とを含む情報の場合には、表示画像に関連づけて画面上に画像情報を表示し、音声情報出力手段から音声情報を出力することを特徴とするものである。
また、本発明にかかる情報検索プログラムにおいて、情報検索装置は、示画像を識別する表示画像識別情報に関連づけて関連情報を記憶部に記憶しており、関連情報管理装置は、表示画像識別情報に関連づけて関連情報を管理しており、第1の関連情報取得処理は、表示画像識別情報を基に、記憶部を検索し、表示画像識別情報に関連づけられた関連情報を取得し、第2の関連情報取得処理は、第1の関連情報取得処理により、表示画像識別情報に関連づけられた関連情報を取得できない場合に、関連情報の取得要求を関連情報管理装置に送信し、関連情報管理装置から表示画像識別情報に関連づけられた関連情報を取得することを特徴とするものである。
また、本発明にかかる情報検索プログラムにおいて、表示領域指定処理は、ポインティングデバイスまたはトラックボールにより表示領域を指定することを特徴とするものである。
本発明によれば、画面上に表示された表示画像に関連する関連情報を記憶する関連情報記憶手段を検索し、表示画像に関連する関連情報を取得し、該取得した関連情報を画面上に表示する工程と、表示画像に関連する関連情報を関連情報記憶手段から取得できない場合に、関連情報の取得要求を関連情報管理装置に送信し、関連情報管理装置から表示画像に関連する関連情報を取得し、該取得した関連情報を画面上に表示する工程と、を行うことで、画面上に表示された表示画像に関連する関連情報を迅速、且つ、効率的に取得することが可能となる。
まず、図1を参照しながら、本実施形態における情報検索システムの特徴について説明する。
本実施形態における情報検索システムは、画面上に表示された表示画像に関連する関連情報を検索する情報検索装置(1)と、関連情報を管理する関連情報管理装置(2)と、がネットワーク(3)を介して接続されて構成される。そして、情報検索装置(1)は、情報検索装置(1)の具備する記憶部を検索し、表示画像に関連する関連情報を取得し、該取得した関連情報を画面上に表示することになる。また、記憶部を検索し、表示画像に関連する関連情報を取得できない場合には、関連情報の取得要求を関連情報管理装置(2)に送信し、関連情報管理装置(2)から表示画像に関連する関連情報を取得し、該取得した関連情報を画面上に表示することになる。
このように、本実施形態における情報検索システムは、画面上に表示された表示画像に関連する関連情報を2段階で検索取得するように構成することで、画面上に表示された表示画像に関連する関連情報を迅速、且つ、効率的に取得することが可能となる。
また、本実施形態における情報検索システムは、画面上に表示された表示画面の中から特定の表示領域を指定し、該指定した表示領域を解析し、該解析した解析結果を基に、画面上に表示された表示画像を特定し、該特定した表示画像に関連する関連情報を取得することになるため、関連情報を取得する際の制約を低減させて、関連情報を取得することが可能となるため、関連情報を迅速、且つ、効率的に取得することが可能となる。以下、添付図面を参照しながら、本実施形態における情報検索システムについて説明する。なお、以下の実施形態においては、情報検索装置(1)を、移動体通信端末装置として説明するが、情報を検索可能な通信装置であれば、あらゆる機器を情報検索装置として適用することは可能である。
(第1の実施形態)
まず、図1を参照しながら、本実施形態の情報検索システムのシステム構成について説明する。
本実施形態における情報検索システムは、移動体通信端末装置(1)と、関連情報管理装置(2)と、がネットワーク(3)を介して接続されて構成される。
なお、本実施形態における情報検索システムは、移動体通信端末装置(1)と、関連情報管理装置(2)と、の接続は、ネットワーク(3)に限定せず、有線、無線を問わず、移動体通信端末装置(1)と、関連情報管理装置(2)と、の装置間で情報が送受信可能であればあらゆる通信形態を適用することが可能である。
<移動体通信端末装置1>
移動体通信端末装置(1)は、移動体通信端末装置(1)の具備する表示部上に表示した表示画像に関連する関連情報を検索する端末装置である。なお、移動体通信端末装置(1)としては、携帯電話機、PHS、PDAなどの通信端末装置が適用可能である。以下、図2、図3を参照しながら、移動体通信端末装置(1)の構成について説明する。なお、図2は、本実施形態における移動体通信端末装置(1)の外部構成を示す図であり、図3は、移動体通信端末装置(1)の内部構成を示す図である。
本実施形態における移動体通信端末装置(1)は、図2に示すように、上側筐体(10)と、下側筐体(11)と、がヒンジ部(12)を介して回動可能となる折畳み型の移動体通信端末装置である。
なお、本実施形態における移動体通信端末装置(1)は、上側筐体(10)には、カメラ(104)と、表示部(102a、102b)と、を有し、下側筐体(11)には、移動検出部(109)となるポインティングデバイス(PD)と、操作部(103)と、を有して構成される。
次に、図3を参照しながら、本実施形態における移動体通信端末装置(1)の内部構成について説明する。
この図2に示す移動体通信端末装置(1)は、図3に示すように、アンテナ(100)と、無線通信部(101)と、表示部(102a、102b)と、操作部(103)と、カメラ(104)と、音声処理部(105)と、送話部(106)と、受話部(107)と、スピーカ(108)と、移動検出部(109)と、メモリ(110)と、画像認識部(111)と、制御部(112)と、を有して構成される。
無線通信部(101)は、アンテナ(100)を介して無線基地局(図示せず)との間で無線信号を送受信するものである。
表示部(102a)は、図2に示す上側筐体(10)の内面側に配設され、画像、図形、文字、記号などの各種情報を表示する主表示部である。表示部(102b)は、図2に示す上側筐体(10)の外面側に配設され、表示部(102a)と同様に、各種情報の表示を行う副表示部である。
操作部(103)は、図2に示す下側筐体(11)の内面側に配設され、各種情報の入力、カーソルの移動操作等を行うものである。なお、本実施形態における操作部(103)は、テンキー、スクロール/決定キー(ポインティングデバイス)から構成するものとする。
カメラ(104)は、図2に示す上側筐体(11)の外面側に配設され、画像の読み取り(撮影)を行うものである。なお、本実施形態におけるカメラ(104)は、移動体通信端末装置(1)の開/閉状態に係わらず、画像の読み取り(撮影)を行うことが可能となるように構築されている。
音声処理部(105)は、音声処理を行うものである。送話部(106)は、音声情報を取得し、該取得した音声情報を音声処理部(105)に入力するものである。送話部(106)は、音声処理部(105)において音声処理が行なわれた音声情報を外部に出力するものである。スピーカ(108)は、音声情報を出力するものである。
移動検出部(109)は、表示部(102a)上に表示した表示画像のカーソル移動操作を行うものである。なお、本実施形態における移動体通信端末装置(1)は、移動検出部(109)として、ポインティングデバイス(PD)を適用する。
メモリ(110)は、電話帳情報、送受信メール情報、発着呼情報、画像・音楽情報(コンテンツ)、ソフトウェアプログラム情報、辞書情報、移動体通信端末装置(1)の各種設定情報を格納するものである。
画像認識部(111)は、表示部(102a)上に表示した文字、画像、図形、記号等の表示画像を解析し、表示部(102a)上に表示した表示画像を特定するものである。
制御部(112)は、移動体通信端末装置(1)の各種制御を行い、電話機能、メール機能、インターネット接続機能、カメラ機能、文字認識機能等の制御を行うものである。
<関連情報管理装置2>
関連情報管理装置(2)は、移動体通信端末装置(1)の具備するメモリ(110)に格納される情報以外の情報を格納管理する情報処理装置であり、移動体通信端末装置(1)の外部データベースとして機能することになる。この関連情報管理装置(2)により、移動体通信端末装置(1)の具備するメモリ(110)から取得できなかった情報を、関連情報管理装置(2)の具備するデータベースから取得し、移動体通信端末装置(1)に提供することが可能となる。
次に、図3、図4を参照しながら、本実施形態における情報検索システムにおける処理動作について説明する。
まず、移動体通信端末装置(1)の具備する操作部(103)を用いて所定の操作を行い、文字認識モード(文字・画像読取状態)を開始することになる。制御部(112)は、文字認識モードが開始されたと判断した際に(ステップS101/YES)、カメラ(104)にて撮像した撮像画像を表示部(102a)上に表示することになる。
次に、制御部(112)は、移動検出部(109)となるポインティングデバイス(PD)の操作制御により、表示部(102a)上に表示される撮像画像をカーソル移動し、表示部(102a)上に表示された撮像画像の中から、画像認識部(111)において認識させたい表示領域を指定することになる(ステップS102)。
次に、制御部(112)は、ポインティングデバイス(PD)の操作制御により、表示部(102a)上に表示された撮像画像の中から表示領域を指定した後に、表示部(102a)上に表示された撮像画像が所定時間固定されたと判断した場合に(ステップS103/Yes)、制御部(112)は、表示部(102a)上に表示された撮像画像の中から指定した表示領域の画像認識を画像認識部(111)において実行させることになる(ステップS104)。
このように、本実施形態における移動体通信端末装置(1)は、操作者の知りたい情報をカメラ(104)にて撮像し、該撮像した撮像画像を表示部(102a)上に表示させ、該表示させた撮像画像の中から、ポインティングデバイス(109)を用いて、画像認識部(111)において認識させたい表示領域を指定し、該指定した表示領域を画像認識部(111)において解析し、ポインティングデバイス(109)を用いて指定した表示領域の画像を認識させることになる。
次に、制御部(112)は、ポインティングデバイス(109)を用いて指定した表示領域の画像の認識が完了したか否かを判定し(ステップS105)、表示領域の画像の認識が完了したと判定した場合は(ステップS105/Yes)、画像認識部(111)において認識した認識情報(文字、図形、画像等)を基に、移動体通信端末装置(1)に内蔵されたメモリ(110)を検索し、画像認識部(111)において認識した認識情報に関連づけられた関連情報をメモリ(110)から取得することになる(ステップS106)。
次に、制御部(112)は、画像認識部(111)において認識した認識情報に関連づけられた関連情報をメモリ(110)から取得したか否かを判断し(ステップS107)、画像認識部(111)において認識した認識情報に関連づけられた関連情報をメモリ(110)から取得したと判断した場合は(ステップS107/Yes)、制御部(112)は、メモリ(110)から取得した関連情報を、表示部(102a)上に表示することになる(ステップS108)。
なお、メモリ(110)から取得した関連情報が画像データの場合には、上述したように表示部(102a)上に表示することになる。また、メモリ(110)から取得した関連情報が、音声情報の場合には、スピーカ(108)から音声情報を出力することになる(ステップS108)。また、メモリ(110)から取得した関連情報が、音声情報と画像データとを含む情報の場合には、画像データを表示部(102a)上に表示し、音声情報をスピーカ(108)から出力することになる。
次に、制御部(112)は、画像認識部(111)において認識した認識情報に関連づけられた関連情報をメモリ(110)から取得することができないと判断した場合は(ステップS107/No)、関連情報管理装置(2)に対し、認識情報に関連づけられた関連情報の取得要求を送信することになる(ステップS109)。
関連情報管理装置(2)は、移動体通信端末装置(1)から、認識情報に関連づけられた関連情報の取得要求を受信した際に、関連情報管理装置(2)の具備するデータベースを検索し、認証情報に関連づけられた関連情報を取得することになる。
関連情報管理装置(2)は、認証情報に関連づけられた関連情報をデータベースから取得できたと判断した場合には、その取得した関連情報を移動体通信端末装置(1)に送信することになる。
これにより、移動体通信端末装置(1)は、関連情報管理装置(2)から関連情報を取得することが可能となり、該取得した関連情報を、表示部(102a)上に表示したり、スピーカ(108)から出力したりすることになる(ステップS110)。
このように、本実施形態における情報検索システムは、利用者の知りたい情報『テキスト・画像』を移動体通信端末装置(1)の具備するカメラ(104)にて撮像し、該撮像した撮像画像を表示部(102a)上に表示し、表示部(102a)上に表示した表示画像の中から、ポインティングデバイス(109)を用いて特定の表示領域を指定し、該指定した表示領域を画像認識部(111)にて解析し、解析結果を基に、表示画像を特定することになる。そして、その特定した表示画像に関連する関連情報をメモリ(110)から取得し、該取得した関連情報を表示部(102a)上に表示させることで、利用者の知りたい情報に関連する『関連情報』を、図5に示すように、『検索対象』となる表示画像に関連づけて表示部(102a)上に表示することが可能となる。また、表示画像に関連する関連情報が移動体通信端末装置(1)の具備するメモリ(110)から取得できない場合には、関連情報管理装置(2)から関連情報を取得することで、移動体通信端末装置(1)のメモリ(110)からでは取得出来なかった『関連情報』を、図5に示すように、『検索対象』となる表示画像に関連づけて表示部(102a)上に表示することが可能となる。これにより、移動体通信端末装置(1)の利用者は、利用者の所望する情報を即時に入手することが可能となる。また、情報提供者は、関連情報管理装置(2)の具備するデータベースに登録することで、様々な情報を利用者に提供することが可能となる。これにより、通信事業者は、ARPU(Average Revenue Per User:通信事業での加入者一人あたりの月間売上高平均値)の向上を図ることが可能となる。
なお、本実施形態における情報検索システムは、移動体通信端末装置(1)の具備するメモリ(110)や、関連情報管理装置(2)の具備するデータベースに格納管理する情報としては、辞書情報等が挙げられる。
例えば、本などを読みながら、漢字の『読み』・『意味』がわからない場合、図5に示すように、その本をカメラ(104)で撮影し、表示部(102a)上にテキストデータを表示し、該表示したテキストデータの中から画像認識部(111)において単語や文章を抽出する。そして、その抽出した単語や文章の中からポインティングデバイス(109)を用いて検索対象となる漢字をカーソル等で特定し、該特定した漢字を画像認識部(111)にて認識し、該認識した漢字に関連する関連情報となる『読み』・『意味』を、移動体通信端末装置(1)の具備するメモリ(110)、または、関連情報管理装置(2)から取得し、該取得した『読み』・『意味』を、漢字に関連づけて表示部(102b)上に表示することになる。なお、ポインティングデバイス(109)を用いて検索対象となる漢字を特定する際には、例えば、所定の枠内に文字列が入るように設計し、検索対象となる漢字を特定するように構築することも可能である。
また、検索対象となる漢字を特定する際に、所定の枠内に入る文字列を1行とする等の制限情報を付加させることも可能である。また、取得した関連情報が複数ある場合には、該取得した関連情報を切り替えて表示部(102b)上に表示するように構築することも可能である。例えば、メモリ(110)、または、関連情報管理装置(2)から取得した関連情報が『読み』・『意味』の2種類の関連情報の場合には、『読み』・『意味』を、切り替えて検索対象となる漢字に関連づけて表示部(102b)上に表示するように構築することも可能である。
また、操作者が今まで検索した履歴情報を移動体通信端末装置(1)の具備するメモリ(110)に格納し、そのメモリ(110)に格納した履歴情報を基に、移動体通信端末装置(1)が統計処理を行い、操作者が頻繁に検索する分野に特化した辞書情報を関連情報管理装置(2)から事前に取得し、メモリ(110)に格納し、移動体通信端末装置(1)のメモリ(110)の辞書機能を強化するように構築することも可能である。
(第2の実施形態)
次に、第2の実施形態について説明する。
第1の実施形態における情報検索システムを構成する移動体通信端末装置(1)は、表示部(102a)上に表示された表示画面の中から特定の表示領域を指定する際に、ポインティングデバイス(PD)を用いて行うこととしたが、第2の実施形態における移動体通信端末装置(1)は、表示部(102a)上に表示された表示画面の中から特定の表示領域を指定する際に、図6に示すトラックボール(109)を用いて行うことを特徴とするものである。以下、図6、図7を参照しながら、第2の実施形態における情報検索システムについて説明する。
まず、第2の実施形態における情報検索システムを構成する移動体通信端末装置(1)について説明する。
第2の実施形態における移動体通信端末装置(1)は、図6に示すように、下側筐体(11)に、移動検出部(109)となるトラックボールを設けたことを特徴とするものである。第2の実施形態における移動体通信端末装置(1)は、このトラックボール(109)を用いて、移動体通信端末装置(1)自体を移動させ、表示部(102a)上に表示された表示画像の中から特定の表示領域を指定することになる。
次に、図7を参照しながら、第2の実施形態における情報検索システムにおける処理動作について説明する。
第2の実施形態における情報検索システムの処理動作は、制御部(112)が、文字認識モードが開始されたと判断した際に(ステップS201/YES)、カメラ(104)にて撮像した撮像画像を表示部(102a)上に表示し、移動検出部(109)となるトラックボールの操作制御により、表示部(102a)上に表示する撮像画像をカーソル移動し、表示部(102a)上に表示する撮像画像の中から、画像認識部(111)において認識させたい表示領域を指定することになる(ステップS202)。そして、第1の実施形態と同様に、画像認識部(111)において認識した認識情報に関連づけられた関連情報をメモリ(110)、または、関連情報管理装置(2)から取得し、該取得した関連情報を表示部(102a)上に表示することになる(ステップS203〜S210)。
このように、第2の実施形態における情報検索システムは、移動体通信端末装置(1)に搭載されたトラックボール(109)を用いて、移動体通信端末装置(1)自体を移動させ、表示部(102a)上に表示された表示画像の中から特定の表示領域を指定することで、第1の実施形態と同様な検索処理を行うことが可能となる。なお、表示部(102a)上に表示された表示画像の中から特定の表示領域を指定する際には、ポインティングデバイス(PD)を用いるか、または、トラックボールを用いるかを任意に変更するように構築することも可能である。これにより、表示部(102a)上に表示された表示画像の中から特定の表示領域を指定する際の操作を、状況に応じて変更して行うことが可能となる。
(本実施形態の情報検索システムを適用したサービス)
次に、上述した本実施形態における情報検索システムを適用したサービス提供方法について以下に説明する。
(第1のサービス提供例)
例えば、テレビ画面に表示されているタレントの名前やそのタレントに関する情報を知りたいと思った場合、そのテレビ画面を移動体通信端末装置(1)の具備するカメラ(104)にて撮像し、表示部(102a)上に表示する。そして、表示部(102a)上の所定の枠内に、カメラ(104)にて撮像したタレントの画像データが入るように表示画像を特定し、該特定した表示画像を基に、画像認識部(111)において特徴点抽出処理を行い、カメラ(104)にて撮像したタレントの認識情報を生成する。そして、画像認識部(111)において生成した認識情報を基に、移動体通信端末装置(1)の具備するメモリ(110)、または、関連情報管理装置(2)から、認識情報に関連する関連情報を取得し、該取得した関連情報を表示部(102a)上に表示する。これにより、テレビ画面に表示されているタレントの名前やそのタレントに関する関連情報を移動体通信端末装置(1)の具備するメモリ(110)、または、関連情報管理装置(2)から取得することが可能となる。
なお、メモリ(110)、または、関連情報管理装置(2)から、画像認識部(111)において生成した認識情報に関連する関連情報を取得する際は、画像認識部(111)において生成した認識情報に対し、所定の割合以上該当すると判断した認識情報に関連する関連情報を取得するように構築することも可能である。即ち、メモリ(110)、または、関連情報管理装置(2)から認識情報に関連する関連情報を取得する際の検索条件の精度を調整するように構築することも可能である。
また、メモリ(110)、または、関連情報管理装置(2)から、認識情報に関連する関連情報を取得する際に、操作部(103)、または、送話部(106)を用いて所定の検索条件を移動体通信端末装置(1)に入力し、関連情報を取得する際の検索条件の精度を高め、認識情報に関連する関連情報を取得するように構築することも可能である。
(第2のサービス提供例)
まず、タレントの顔画像データを本実施形態の移動体通信端末装置(1)の具備するカメラ(104)にて撮像し、表示部(102a)上に表示する。そして、表示部(102a)上の所定の枠内に、カメラ(104)にて撮像したタレントの顔画像データが入るように自動的に表示画像を特定し、該特定した表示画像を基に、画像認識部(111)において特徴点抽出処理を行い、カメラ(104)にて撮像したタレントの顔画像データの認識情報を生成する。そして、その生成した認識情報を基に、移動体通信端末装置(1)の具備するメモリ(110)、または、関連情報管理装置(2)を検索し、メモリ(110)、または、関連情報管理装置(2)の具備するデータベースに格納管理されている3次元あるいは2次元の顔画像データの中から、最も類似度の高いタレントの顔画像データ、または、類似度が所定の割合以上のタレントの顔画像データを取得し、該取得したタレントの顔画像データを表示部(102a)上に表示する。そして、操作部(103)を用いて所定の操作を行い、表示部(102a)上に表示したタレントの顔画像データの中から任意のタレントの顔画像データを選択し、該選択したタレントに関連するサイトに接続し、該接続したサイトからタレントに関する情報(名前・出身地・画像・生年月日・サムネイル画像等)を取得し、表示部(102a)上に表示させるように構築することも可能である。なお、サイト側は、移動体通信端末装置(1)に対して提供するタレントに関する情報に対し、有料・無料等の情報を設定し、課金処理を行うように構築することも可能である。
(第3のサービス提供例)
まず、雑誌などに掲載されている写真と同じ画像データを壁紙として取得したい場合に、その写真を本実施形態の移動体通信端末装置(1)の具備するカメラ(104)にて撮像し、表示部(102a)上に表示する。そして、表示部(102a)上の所定の枠内に、写真の画像データが入るように表示画像を特定し、該特定した表示画像を基に、画像認識部(111)において認識処理を行い、カメラ(104)にて撮像した写真データの認識情報を生成する。そして、画像認識部(111)において生成した認識情報を基に、移動体通信端末装置(1)の具備するメモリ(110)、または、関連情報管理装置(2)の具備するデータベースに格納管理されている壁紙となる写真データの中から、画像認識部(111)において生成した認識情報に該当する写真データを取得し、該取得した写真データを表示部(102a)上に表示する。
なお、壁紙として取得したい写真データの認識情報を画像認識部(111)において生成する際に、画像認識部(111)において認識する所定の枠内に、写真データの所定の特徴部分が含まれるように表示画像を特定する条件を課し、また、メモリ(110)、または、関連情報管理装置(2)の具備するデータベースに格納管理される壁紙となる写真データにも所定の特徴部分を含めて格納管理し、メモリ(110)、または、関連情報管理装置(2)の具備するデータベースから取得する際に、所定の特徴部分を基に、画像認識部(111)において生成した認識情報に該当する写真データを取得するように構築することも可能である。
また、画像認識部(111)において生成した認識情報を基に、メモリ(110)、または、関連情報管理装置(2)の具備するデータベースの中から、壁紙として取得したい写真データを取得する際に、移動体通信端末装置(1)の具備する操作部(103)を用いて、壁紙として取得したい写真データのジャンル(例えば、世界遺産等)を別途指定し、該指定したジャンルと、認識情報と、を基に、メモリ(110)、または、関連情報管理装置(2)の具備するデータベースの中から、壁紙として取得したい写真データを取得するように構築することも可能である。
(第4のサービス提供例)
まず、雑誌などに掲載されている写真を本実施形態の移動体通信端末装置(1)の具備するカメラ(104)にて撮像し、表示部(102a)上に表示する。そして、表示部(102a)上の所定の枠内に、カメラ(104)にて撮像した写真の画像データが入るように表示画像を特定し、操作者の所望する画像データ(景色・グラフィック等)を抽出する。そして、その抽出した画像データを基に、画像認識部(111)において認識処理を行い、抽出した画像データの認識情報を生成する。そして、その生成した認識情報を基に、移動体通信端末装置(1)の具備するメモリ(110)、または、関連情報管理装置(2)の具備するデータベースを検索し、メモリ(110)、または、関連情報管理装置(2)の具備するデータベースに格納管理されている景色、グラフィック等の画像データの中から、最も整合度の高い画像データを取得し、該取得した画像データを表示部(102a)上に表示する。そして、操作部(103)を用いて所定の操作を行い、表示部(102a)上に表示した画像データを提供するサイトに接続し、該接続したサイトに対し、操作者の所望する画像データの取得要求を行い、サイトから画像データを取得し、表示部(102a)上に表示させるように構築することも可能である。なお、サイトから取得した画像データは、移動体通信端末装置(1)の具備する表示部(102a)上に表示する画面サイズにリサイズし、表示部(102a)上に表示することになる。なお、サイト側は、移動体通信端末装置(1)に対して提供する画像データに対し、有料・無料等の情報を設定し、課金処理を行うよう構築することも可能である。また、サイト側から画像データを取得した後、その取得した画像データのジャンル(景色、エーゲ海、等)に関連したサイトを表示部(102a)上に表示するように設計し、更なる画像データの取得機会を操作者側に与え、ARPU(Average Revenue Per User:通信事業での加入者一人あたりの月間売上高平均値)の向上を実現するように構築することも可能である。
(第5のサービス提供例)
まず、海外のレストラン等で、メニューが読めず、メニューの内容が解らない場合、その解らないメニューを本実施形態の移動体通信端末装置(1)の具備するカメラ(104)にて撮像し、表示部(102a)上に表示する。そして、表示部(102a)上に表示した画像データの中から文字情報を抽出する。そして、その抽出した文字情報の中から検索対象となる文字をカーソル等で特定し、該特定した文字を画像認識部(111)にて認識し、該認識した文字に関連する関連情報を、移動体通信端末装置(1)の具備するメモリ(110)、または、関連情報管理装置(2)から取得し、該取得した関連情報を、表示部(102a)上に表示することになる。なお、この場合、移動体通信端末装置(1)の具備する操作部(103)を用いて、検索対象となる文字の翻訳要求を行い、移動体通信端末装置(1)の具備するメモリ(110)、または、関連情報管理装置(2)の具備するデータベースから文字の翻訳結果を取得し、該取得した翻訳結果を文字に関連づけて表示部(102a)上に表示するように構築することも可能である。
(第6のサービス提供例)
まず、メニューを移動体通信端末装置(1)の具備するカメラ(104)にて撮影し、メニューの画像データを表示部(102a)上に表示する。次に、表示部(102a)上に表示したメニューの画像データの中から、操作者の知りたい料理部分のメニューの画像データを特定し、該特定したメニューの画像データを基に、画像認識部(111)において認識処理を行い、カメラ(104)にて撮像したメニューの画像データの認識情報を生成する。そして、画像認識部(111)において生成した認識情報を基に、移動体通信端末装置(1)の具備するメモリ(110)、または、関連情報管理装置(2)から、認識情報に関連する関連情報を取得し、該取得した関連情報を表示部(102a)上に表示する。これにより、メニューの画像データに関する関連情報を移動体通信端末装置(1)の具備するメモリ(110)、または、関連情報管理装置(2)から取得することが可能となる。
なお、メモリ(110)、または、関連情報管理装置(2)から、画像認識部(111)において生成した認識情報に関連する関連情報を取得する際に、移動体通信端末装置(1)の具備する操作部(103)を用いて翻訳要求を行い、移動体通信端末装置(1)の具備するメモリ(110)、または、関連情報管理装置(2)の具備するデータベースから関連情報の翻訳結果を取得し、該取得した関連情報の翻訳結果をカメラ(104)にて撮像したメニューの画像データに関連づけて表示部(102a)上に表示するように構築することも可能である。
また、移動体通信端末装置(1)の具備する操作部(103)を用いてメニューの種類を特定し、該特定したメニューの種類を基に、メニューの画像データに関する関連情報を移動体通信端末装置(1)の具備するメモリ(110)、または、関連情報管理装置(2)から取得し、表示部(102a)上に表示するように構築することも可能である。
また、メモリ(110)、または、関連情報管理装置(2)から取得したメニューの画像データに関する関連情報を表示部(102a)上に表示し、操作部(103)を用いて所定の操作を行い、表示部(102a)上に表示した関連情報を提供するサイトに接続し、該接続したサイトに対し、関連情報の取得要求と共に、翻訳要求を行い、関連情報の翻訳結果を取得し、該取得した関連情報の翻訳結果を表示部(102a)上に表示させるように構築することも可能である。なお、関連情報の取得要求と共に、翻訳要求を行う場合には、日本語で提供するサイトに接続し、関連情報の翻訳結果を取得し、また、翻訳要求を行わない場合には、日本語で提供するサイトに限らず、関連情報が取得可能な全てのサイトに接続し、関連情報を取得することになる。なお、サイト側は、移動体通信端末装置(1)に対して提供する関連情報に対し、有料・無料等の情報を設定し、課金処理を行うように構築することも可能である。また、サイト側から関連情報を取得した後、その取得した関連情報に関するお得な情報を表示部(102a)上に表示するように設計し、更なる関連情報の取得機会を操作者側に与え、ARPU(Average Revenue Per User:通信事業での加入者一人あたりの月間売上高平均値)の向上を実現するように構築することも可能である。
(第7のサービス提供例)
まず、CDのジャケットを見ながら、そのCDを作曲したアーティストに関するアルバムを知りたい場合、そのジャケットを本実施形態の移動体通信端末装置(1)の具備するカメラ(104)にて撮像し、表示部(102a)上に表示する。そして、表示部(102a)上の所定の枠内に、カメラ(104)にて撮像したジャケットが入るように表示画像を特定し、該特定した表示画像を基に、操作者の所望するアーティストを特定し、該特定したアーティストを基に、画像認識部(111)において認識処理を行い、カメラ(104)にて撮像したアーティストの認識情報を生成する。そして、画像認識部(111)において生成した認識情報を基に、移動体通信端末装置(1)の具備するメモリ(110)、または、関連情報管理装置(2)の具備するデータベースに格納管理されているアーティストに関連する関連情報(CDのアルバム情報、アーティストの名前等)を取得し、該取得した関連情報を表示部(102a)上に表示することになる。なお、画像認識部(111)において生成した認識情報を基に、移動体通信端末装置(1)の具備するメモリ(110)、または、関連情報管理装置(2)から関連情報を取得する際に、検索条件を別途指定するように構築することも可能である。
(第8のサービス提供例)
まず、CDのジャケットを移動体通信端末装置(1)の具備するカメラ(104)にて撮影し、表示部(102a)上に表示する。そして、表示部(102a)上の所定の枠内に、カメラ(104)にて撮像したジャケットが入るように表示画像を特定し、操作者の所望するアーティストを特定し、該特定したアーティストを基に、画像認識部(111)において認識処理を行い、カメラ(104)にて撮像したアーティストの認識情報を生成する。そして、画像認識部(111)において生成した認識情報を基に、移動体通信端末装置(1)の具備するメモリ(110)、または、関連情報管理装置(2)の具備するデータベースに格納管理されているアーティストに関連する関連情報(CDのアルバム情報、アーティストの名前等)の中から最も整合度の高いアーティストに関連する関連情報を取得し、該取得した関連情報を表示部(102a)上に表示することになる。次に、移動体通信端末装置(1)の具備する操作部(103)を用いて、表示部(102a)上に表示したアーティストに関するサイトに接続し、該接続したサイトからアーティストに関する情報(ディスコグラフィ・着歌・ストリーミング視聴等)を取得し、該取得した情報を表示部(102a)上に表示させるように構築することも可能である。なお、サイト側は、移動体通信端末装置(1)に対して提供する関連情報に対し、有料・無料等の情報を設定し、課金処理を行うように構築することも可能である。
(第9のサービス提供例)
まず、年賀状などを書いている際に、相手先の郵便番号が判らない場合、その書いた住所を本実施形態の移動体通信端末装置(1)の具備するカメラ(104)にて撮像し、表示部(102a)上に表示する。そして、表示部(102a)上に表示した表示画像の中から、画像認識部(111)において文字情報を抽出し、文字情報に関連する認識情報を生成する。そして、その生成した認識情報を基に、移動体通信端末装置(1)の具備するメモリ(110)、または、関連情報管理装置(2)の具備するデータベースから認識情報に関連する関連情報(郵便番号)を取得し、該取得した関連情報を表示部(102a)上に表示することになる。
なお、上述する実施形態は、本発明の好適な実施形態であり、上記実施形態のみに本発明の範囲を限定するものではなく、本発明の要旨を逸脱しない範囲において種々の変更を施した形態での実施が可能である。例えば、上述した移動体通信端末装置における処理動作は、ハード構成ではなく、コンピュータプログラム等のソフトウェアにより実行することも可能であり、また、上記のプログラムは、光記録媒体、磁気記録媒体、光磁気記録媒体、または半導体等の記録媒体に記録し、その記録媒体からプログラムを移動体通信端末装置に読み込ませることで、上述した処理動作を移動体通信端末装置において実行させることも可能である。また、所定のネットワークを介して接続されている外部機器からプログラムを移動体通信端末装置に読み込ませることで、上述した処理動作を移動体通信端末装置において実行させることも可能である。
本実施形態における情報検索装置、情報検索システム、情報検索方法及び情報検索プログラムは、携帯電話機、PHS、PDAなどの通信端末装置に適用可能である。
本実施形態における情報検索システムのシステム構成を示す図である。 図1に示す情報検索システムを構成する移動体通信端末装置(1)の外観図である。 図1に示す情報検索システムを構成する移動体通信端末装置(1)の内部構成を示す図である。 第1の実施形態における情報検索システムの処理動作を示すフロチャートである。 第1の実施形態における情報検索システムを適用した場合の一例を示す図である。 第2の実施形態における移動体通信端末装置(1)の外観図である。 第2の実施形態における情報検索システムの処理動作を示すフロチャートである。
符号の説明
1 移動体通信端末装置(情報検索装置)
2 関連情報管理装置
3 ネットワーク
10 上側筐体
11 下側筐体
12 ヒンジ部
100 アンテナ
101 無線通信部
102a、102b 表示部
103 操作部
104 カメラ
105 音声処理部
106 送話部
107 受話部
108 スピーカ
109 移動検出部
110 メモリ
111 画像認識部
112 制御部

Claims (20)

  1. 画面上に表示された表示画像に関連する関連情報を検索する情報検索装置であって、
    前記情報検索装置は、前記表示画像に関連する関連情報を管理する関連情報管理装置とネットワークを介して接続されており、
    前記表示画像に関連する関連情報を記憶する関連情報記憶手段と、
    前記関連情報記憶手段を検索し、前記表示画像に関連する関連情報を取得し、該取得した関連情報を前記画面上に表示する第1の関連情報取得手段と、
    前記第1の関連情報取得手段により、前記表示画像に関連する関連情報を取得できない場合に、前記関連情報の取得要求を前記関連情報管理装置に送信し、前記関連情報管理装置から前記表示画像に関連する関連情報を取得し、該取得した関連情報を前記画面上に表示する第2の関連情報取得手段と、
    を有することを特徴とする情報検索装置。
  2. 前記画面上に表示された表示画面の中から特定の表示領域を指定する表示領域指定手段と、
    前記表示領域指定手段により指定された表示領域を解析し、前記画面上に表示された表示画像を特定する表示画像特定手段と、
    を有し、
    前記第1の関連情報取得手段は、
    前記表示画像特定手段により特定された表示画像を基に、前記関連情報記憶手段を検索し、前記表示画像に関連する関連情報を取得し、
    前記第2の関連情報取得手段は、
    前記第1の関連情報取得手段により、前記表示画像に関連する関連情報を取得できない場合に、前記関連情報の取得要求を前記関連情報管理装置に送信し、前記関連情報管理装置から前記表示画像に関連する関連情報を取得することを特徴とする請求項1記載の情報検索装置。
  3. 音声情報を出力する音声情報出力手段を有し、
    前記第1の関連情報取得手段、または、前記第2の関連情報取得手段により取得した関連情報が画像情報の場合には、前記表示画像に関連づけて前記画面上に前記画像情報を表示し、
    前記取得した関連情報が音声情報の場合には、前記音声情報出力手段から前記音声情報を出力し、
    前記取得した関連情報が、画像情報と音声情報とを含む情報の場合には、前記表示画像に関連づけて前記画面上に前記画像情報を表示し、前記音声情報出力手段から前記音声情報を出力することを特徴とする請求項1または2記載の情報検索装置。
  4. 前記関連情報記憶手段は、前記表示画像を識別する表示画像識別情報に関連づけて前記関連情報を記憶しており、
    前記関連情報管理装置は、前記表示画像識別情報に関連づけて前記関連情報を管理しており、
    前記第1の関連情報取得手段は、
    前記表示画像識別情報を基に、前記関連情報記憶手段を検索し、前記表示画像識別情報に関連づけられた関連情報を取得し、
    前記第2の関連情報取得手段は、
    前記第1の関連情報取得手段により、前記表示画像識別情報に関連づけられた関連情報を取得できない場合に、前記関連情報の取得要求を前記表示画像識別情報と共に、前記関連情報管理装置に送信し、前記関連情報管理装置から前記表示画像識別情報に関連づけられた関連情報を取得することを特徴とする請求項1記載の情報検索装置。
  5. 前記表示領域指定手段は、ポインティングデバイスまたはトラックボールであることを特徴とする請求項2記載の情報検索装置。
  6. 画面上に表示された表示画像に関連する関連情報を検索する情報検索装置と、前記関連情報を管理する関連情報管理装置と、を有する情報検索システムであって、
    前記情報検索装置は、
    前記表示画像に関連する関連情報を記憶する関連情報記憶手段と、
    前記関連情報記憶手段を検索し、前記表示画像に関連する関連情報を取得し、該取得した関連情報を前記画面上に表示する第1の関連情報取得手段と、
    前記第1の関連情報取得手段により、前記表示画像に関連する関連情報を取得できない場合に、前記関連情報の取得要求を前記関連情報管理装置に送信し、前記関連情報管理装置から前記表示画像に関連する関連情報を取得し、該取得した関連情報を前記画面上に表示する第2の関連情報取得手段と、
    を有し、
    前記関連情報管理装置は、
    前記関連情報の取得要求を前記情報検索装置から受信した際に、該取得要求に該当する関連情報を前記関連情報管理装置の具備する格納部から取得し、該取得した関連情報を前記情報検索装置に提供する関連情報提供手段と、
    を有することを特徴とする情報検索システム。
  7. 前記情報検索装置は、
    画面上に表示された表示画面の中から特定の表示領域を指定する表示領域指定手段と、
    前記表示領域指定手段により指定された表示領域を解析し、前記画面上に表示された表示画像を特定する表示画像特定手段と、
    を有し、
    前記第1の関連情報取得手段は、
    前記表示画像特定手段により特定された表示画像を基に、前記関連情報記憶手段を検索し、前記表示画像に関連する関連情報を取得し、
    前記第2の関連情報取得手段は、
    前記第1の関連情報取得手段により、前記表示画像に関連する関連情報を取得できない場合に、前記関連情報の取得要求を前記関連情報管理装置に送信し、前記関連情報管理装置から前記表示画像に関連する関連情報を取得することを特徴とする請求項6記載の情報検索システム。
  8. 前記情報検索装置は、音声情報を出力する音声情報出力手段を有し、
    前記第1の関連情報取得手段、または、前記第2の関連情報取得手段により取得した関連情報が画像情報の場合には、前記表示画像に関連づけて前記画面上に前記画像情報を表示し、
    前記取得した関連情報が音声情報の場合には、前記音声情報出力手段から前記音声情報を出力し、
    前記取得した関連情報が、画像情報と音声情報とを含む情報の場合には、前記表示画像に関連づけて前記画面上に前記画像情報を表示し、前記音声情報出力手段から前記音声情報を出力することを特徴とする請求項6または7記載の情報検索システム。
  9. 前記情報検索装置は、
    前記表示画像を識別する表示画像識別情報に関連づけて前記関連情報を記憶しており、
    前記関連情報管理装置は、
    前記表示画像識別情報に関連づけて前記関連情報を管理しており、
    前記第1の関連情報取得手段は、
    前記表示画像識別情報を基に、前記関連情報記憶手段を検索し、前記表示画像識別情報に関連づけられた関連情報を取得し、
    前記第2の関連情報取得手段は、
    前記第1の関連情報取得手段により、前記表示画像識別情報に関連づけられた関連情報を取得できない場合に、前記関連情報の取得要求を前記表示画像識別情報と共に、前記関連情報管理装置に送信し、前記関連情報管理装置から前記表示画像識別情報に関連づけられた関連情報を取得することを特徴とする請求項6記載の情報検索システム。
  10. 前記表示領域指定手段は、ポインティングデバイスまたはトラックボールであることを特徴とする請求項7記載の情報検索システム。
  11. 画面上に表示された表示画像に関連する関連情報を検索する情報検索装置で行う情報検索方法あって、
    前記情報検索装置は、前記表示画像に関連する関連情報を管理する関連情報管理装置とネットワークを介して接続されており、
    前記情報検索装置の具備する記憶部を検索し、前記表示画像に関連する関連情報を取得し、該取得した関連情報を前記画面上に表示する第1の関連情報取得工程と、
    前記第1の関連情報取得工程により、前記表示画像に関連する関連情報を取得できない場合に、前記関連情報の取得要求を前記関連情報管理装置に送信し、前記関連情報管理装置から前記表示画像に関連する関連情報を取得し、該取得した関連情報を前記画面上に表示する第2の関連情報取得工程と、
    を、前記情報検索装置が行うことを特徴とする情報検索方法。
  12. 画面上に表示された表示画面の中から特定の表示領域を指定する表示領域指定工程と、
    前記表示領域指定工程により指定された表示領域を解析し、前記画面上に表示された表示画像を特定する表示画像特定工程と、
    を、前記情報検索装置が行い、
    前記第1の関連情報取得工程は、
    前記表示画像特定工程により特定された表示画像を基に、前記情報検索装置の具備する記憶部を検索し、前記表示画像に関連する関連情報を取得し、
    前記第2の関連情報取得工程は、
    前記第1の関連情報取得工程により、前記表示画像に関連する関連情報を取得できない場合に、前記関連情報の取得要求を前記関連情報管理装置に送信し、前記関連情報管理装置から前記表示画像に関連する関連情報を取得することを特徴とする請求項11記載の情報検索方法。
  13. 前記情報検索装置は、音声情報を出力する音声情報出力手段を有し、
    前記第1の関連情報取得工程、または、前記第2の関連情報取得工程により取得した関連情報が画像情報の場合には、前記表示画像に関連づけて前記画面上に前記画像情報を表示し、
    前記取得した関連情報が音声情報の場合には、前記音声情報出力手段から前記音声情報を出力し、
    前記取得した関連情報が、画像情報と音声情報とを含む情報の場合には、前記表示画像に関連づけて前記画面上に前記画像情報を表示し、前記音声情報出力手段から前記音声情報を出力することを特徴とする請求項11または12記載の情報検索方法。
  14. 前記情報検索装置は、
    前記表示画像を識別する表示画像識別情報に関連づけて前記関連情報を前記記憶部に記憶しており、
    前記関連情報管理装置は、
    前記表示画像識別情報に関連づけて前記関連情報を管理しており、
    前記第1の関連情報取得工程は、
    前記表示画像識別情報を基に、前記記憶部を検索し、前記表示画像識別情報に関連づけられた関連情報を取得し、
    前記第2の関連情報取得工程は、
    前記第1の関連情報取得工程により、前記表示画像識別情報に関連づけられた関連情報を取得できない場合に、前記関連情報の取得要求を前記関連情報管理装置に送信し、前記関連情報管理装置から前記表示画像識別情報に関連づけられた関連情報を取得することを特徴とする請求項11記載の情報検索方法。
  15. 前記表示領域指定工程は、ポインティングデバイスまたはトラックボールにより前記表示領域を指定することを特徴とする請求項12記載の情報検索方法。
  16. 画面上に表示された表示画像に関連する関連情報を検索する情報検索装置において実行させる情報検索プログラムあって、
    前記情報検索装置は、前記表示画像に関連する関連情報を管理する関連情報管理装置とネットワークを介して接続されており、
    前記情報検索装置の具備する記憶部を検索し、前記表示画像に関連する関連情報を取得し、該取得した関連情報を前記画面上に表示する第1の関連情報取得処理と、
    前記第1の関連情報取得処理により、前記表示画像に関連する関連情報を取得できない場合に、前記関連情報の取得要求を前記関連情報管理装置に送信し、前記関連情報管理装置から前記表示画像に関連する関連情報を取得し、該取得した関連情報を前記画面上に表示する第2の関連情報取得処理と、
    を、前記情報検索装置に実行させることを特徴とする情報検索プログラム。
  17. 画面上に表示された表示画面の中から特定の表示領域を指定する表示領域指定処理と、
    前記表示領域指定処理により指定された表示領域を解析し、前記画面上に表示された表示画像を特定する表示画像特定処理と、
    を、前記情報検索装置に実行させ、
    前記第1の関連情報取得処理は、
    前記表示画像特定処理により特定された表示画像を基に、前記情報検索装置の具備する記憶部を検索し、前記表示画像に関連する関連情報を取得し、
    前記第2の関連情報取得処理は、
    前記第1の関連情報取得処理により、前記表示画像に関連する関連情報を取得できない場合に、前記関連情報の取得要求を前記関連情報管理装置に送信し、前記関連情報管理装置から前記表示画像に関連する関連情報を取得することを特徴とする請求項16記載の情報検索プログラム。
  18. 前記情報検索装置は、音声情報を出力する音声情報出力手段を有し、
    前記第1の関連情報取得処理、または、前記第2の関連情報取得処理により取得した関連情報が画像情報の場合には、前記表示画像に関連づけて前記画面上に前記画像情報を表示し、
    前記取得した関連情報が音声情報の場合には、前記音声情報出力手段から前記音声情報を出力し、
    前記取得した関連情報が、画像情報と音声情報とを含む情報の場合には、前記表示画像に関連づけて前記画面上に前記画像情報を表示し、前記音声情報出力手段から前記音声情報を出力することを特徴とする請求項16または17記載の情報検索プログラム。
  19. 前記情報検索装置は、
    前記示画像を識別する表示画像識別情報に関連づけて前記関連情報を前記記憶部に記憶しており、
    前記関連情報管理装置は、
    前記表示画像識別情報に関連づけて前記関連情報を管理しており、
    前記第1の関連情報取得処理は、
    前記表示画像識別情報を基に、前記記憶部を検索し、前記表示画像識別情報に関連づけられた関連情報を取得し、
    前記第2の関連情報取得処理は、
    前記第1の関連情報取得処理により、前記表示画像識別情報に関連づけられた関連情報を取得できない場合に、前記関連情報の取得要求を前記関連情報管理装置に送信し、前記関連情報管理装置から前記表示画像識別情報に関連づけられた関連情報を取得することを特徴とする請求項16記載の情報検索プログラム。
  20. 前記表示領域指定処理は、ポインティングデバイスまたはトラックボールにより前記表示領域を指定することを特徴とする請求項17記載の情報検索プログラム。
JP2005197665A 2005-07-06 2005-07-06 情報検索装置、情報検索システム、情報検索方法及び情報検索プログラム Pending JP2007018166A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005197665A JP2007018166A (ja) 2005-07-06 2005-07-06 情報検索装置、情報検索システム、情報検索方法及び情報検索プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005197665A JP2007018166A (ja) 2005-07-06 2005-07-06 情報検索装置、情報検索システム、情報検索方法及び情報検索プログラム

Publications (1)

Publication Number Publication Date
JP2007018166A true JP2007018166A (ja) 2007-01-25

Family

ID=37755300

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005197665A Pending JP2007018166A (ja) 2005-07-06 2005-07-06 情報検索装置、情報検索システム、情報検索方法及び情報検索プログラム

Country Status (1)

Country Link
JP (1) JP2007018166A (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011065065A1 (ja) * 2009-11-25 2011-06-03 シャープ株式会社 情報処理装置、および情報処理装置の制御方法
JP2013501976A (ja) * 2009-08-07 2013-01-17 グーグル インコーポレイテッド 視覚クエリの複数の領域についての検索結果を提示するためのユーザインターフェイス
CN103765929A (zh) * 2011-09-01 2014-04-30 高通股份有限公司 使用移动装置的涉及增强菜单的系统和方法
JPWO2013089146A1 (ja) * 2011-12-16 2015-04-27 日本電気株式会社 情報処理システム、情報処理方法、通信端末およびその制御方法と制御プログラム
US9087059B2 (en) 2009-08-07 2015-07-21 Google Inc. User interface for presenting search results for multiple regions of a visual query
JP2017525026A (ja) * 2014-06-18 2017-08-31 グーグル インコーポレイテッド 文脈検索の提示の生成
JP2019537103A (ja) * 2016-09-28 2019-12-19 シストラン インターナショナル カンパニー.,リミテッド.Systran International Co.,Ltd. 文字を翻訳する方法及びその装置
US10534808B2 (en) 2009-08-07 2020-01-14 Google Llc Architecture for responding to visual query

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10134004A (ja) * 1996-10-28 1998-05-22 Casio Comput Co Ltd 画像データ処理システム
JPH10312381A (ja) * 1997-05-12 1998-11-24 Nippon Hoso Kyokai <Nhk> 翻訳方法および装置
JP2000075887A (ja) * 1998-08-31 2000-03-14 Sony Corp パターン認識装置、方法及びシステム
JP2003029911A (ja) * 2001-07-11 2003-01-31 Sony Corp 情報処理装置および情報処理方法、記録媒体、並びにプログラム
JP2004233459A (ja) * 2003-01-28 2004-08-19 Sony Corp 電子機器システム及び電子機器
JP2005044052A (ja) * 2003-07-25 2005-02-17 Hitachi Ltd 携帯型文字認識装置
JP2005109981A (ja) * 2003-09-30 2005-04-21 Canon Inc 撮影機能付き情報処理装置
JP2005135210A (ja) * 2003-10-31 2005-05-26 Hitachi Ltd 文字認識機能を有する携帯機器

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10134004A (ja) * 1996-10-28 1998-05-22 Casio Comput Co Ltd 画像データ処理システム
JPH10312381A (ja) * 1997-05-12 1998-11-24 Nippon Hoso Kyokai <Nhk> 翻訳方法および装置
JP2000075887A (ja) * 1998-08-31 2000-03-14 Sony Corp パターン認識装置、方法及びシステム
JP2003029911A (ja) * 2001-07-11 2003-01-31 Sony Corp 情報処理装置および情報処理方法、記録媒体、並びにプログラム
JP2004233459A (ja) * 2003-01-28 2004-08-19 Sony Corp 電子機器システム及び電子機器
JP2005044052A (ja) * 2003-07-25 2005-02-17 Hitachi Ltd 携帯型文字認識装置
JP2005109981A (ja) * 2003-09-30 2005-04-21 Canon Inc 撮影機能付き情報処理装置
JP2005135210A (ja) * 2003-10-31 2005-05-26 Hitachi Ltd 文字認識機能を有する携帯機器

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9087059B2 (en) 2009-08-07 2015-07-21 Google Inc. User interface for presenting search results for multiple regions of a visual query
JP2013501976A (ja) * 2009-08-07 2013-01-17 グーグル インコーポレイテッド 視覚クエリの複数の領域についての検索結果を提示するためのユーザインターフェイス
US10534808B2 (en) 2009-08-07 2020-01-14 Google Llc Architecture for responding to visual query
JP2011113214A (ja) * 2009-11-25 2011-06-09 Sharp Corp 情報処理装置、および情報処理装置の制御方法
CN102667813A (zh) * 2009-11-25 2012-09-12 夏普株式会社 信息处理装置、以及信息处理装置的控制方法
WO2011065065A1 (ja) * 2009-11-25 2011-06-03 シャープ株式会社 情報処理装置、および情報処理装置の制御方法
US8867840B2 (en) 2009-11-25 2014-10-21 Sharp Kabushiki Kaisha Information processing device and method for controlling an information processing device
CN103765929A (zh) * 2011-09-01 2014-04-30 高通股份有限公司 使用移动装置的涉及增强菜单的系统和方法
US9179278B2 (en) 2011-09-01 2015-11-03 Qualcomm Incorporated Systems and methods involving augmented menu using mobile device
KR101619252B1 (ko) 2011-09-01 2016-05-10 퀄컴 인코포레이티드 모바일 디바이스를 사용한 증강 메뉴를 수반하는 시스템들 및 방법들
JP2016173847A (ja) * 2011-09-01 2016-09-29 クアルコム,インコーポレイテッド モバイルデバイスを使用した拡張メニューを伴うシステムおよび方法
JP2014529249A (ja) * 2011-09-01 2014-10-30 クアルコム,インコーポレイテッド モバイルデバイスを使用した拡張メニューを伴うシステムおよび方法
JPWO2013089146A1 (ja) * 2011-12-16 2015-04-27 日本電気株式会社 情報処理システム、情報処理方法、通信端末およびその制御方法と制御プログラム
US10115127B2 (en) 2011-12-16 2018-10-30 Nec Corporation Information processing system, information processing method, communications terminals and control method and control program thereof
JP2017525026A (ja) * 2014-06-18 2017-08-31 グーグル インコーポレイテッド 文脈検索の提示の生成
US10394841B2 (en) 2014-06-18 2019-08-27 Google Llc Generating contextual search presentations
JP2019537103A (ja) * 2016-09-28 2019-12-19 シストラン インターナショナル カンパニー.,リミテッド.Systran International Co.,Ltd. 文字を翻訳する方法及びその装置

Similar Documents

Publication Publication Date Title
CN108496150B (zh) 一种屏幕截图和读取的方法及终端
US20060218191A1 (en) Method and System for Managing Multimedia Documents
US8799254B2 (en) Method and apparatus for improved searching of database content
US8775976B2 (en) Method for setting background screen and mobile terminal using the same
JP2007018166A (ja) 情報検索装置、情報検索システム、情報検索方法及び情報検索プログラム
US20090063129A1 (en) Method and system for instantly translating text within image
JP2007028077A (ja) 携帯端末
KR20060083102A (ko) 위치정보를 가지는 이미지파일 관리시스템 및 그 방법,휴대용 단말기
JP5283947B2 (ja) 携帯端末の音声認識装置、音声認識方法、音声認識プログラム
KR20140132427A (ko) 호 기록을 제공하기 위한 방법 및 장치
KR20060050746A (ko) 카메라로 촬영된 문서 영상 처리 방법
EP2028588A2 (en) Method and apparatus for forwarding media objects to a cellular telephone user
US8260268B2 (en) Method for transmitting and receiving data in mobile terminal and mobile terminal using the same
KR101871779B1 (ko) 사진 촬영 및 관리 어플리케이션을 구비한 단말기
JP2004005314A (ja) データ検索システム及び、それに関する、装置または方法または記録媒体またはプログラム
US20110305406A1 (en) Business card recognition system
KR101451562B1 (ko) 휴대용 단말기의 데이터 저장 방법 및 장치
KR100920442B1 (ko) 휴대 단말기에서 정보 검색 방법
CN106572230A (zh) 一种通话记录装置及其方法
JP5242202B2 (ja) 携帯通信端末
CN104252475A (zh) 定位图片中文本信息的方法及装置
JP6035787B2 (ja) データ保存装置、データ保存方法及びプログラム
JP5428911B2 (ja) 携帯端末装置、電話帳検索方法及び電話帳検索プログラム
EP2033121A2 (en) A method and electronic device for enabling multimedia searching
JP2003152829A (ja) 通信機

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080611

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101019

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20110301