JP5947131B2 - 領域選択方式による検索の入力方法及びそのシステム - Google Patents

領域選択方式による検索の入力方法及びそのシステム Download PDF

Info

Publication number
JP5947131B2
JP5947131B2 JP2012154618A JP2012154618A JP5947131B2 JP 5947131 B2 JP5947131 B2 JP 5947131B2 JP 2012154618 A JP2012154618 A JP 2012154618A JP 2012154618 A JP2012154618 A JP 2012154618A JP 5947131 B2 JP5947131 B2 JP 5947131B2
Authority
JP
Japan
Prior art keywords
information
search
character
image
closed region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012154618A
Other languages
English (en)
Other versions
JP2013109748A (ja
Inventor
陳良圃
楊秉哲
谷▲セン▼
謝文泰
Original Assignee
財團法人資訊工業策進會
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 財團法人資訊工業策進會 filed Critical 財團法人資訊工業策進會
Publication of JP2013109748A publication Critical patent/JP2013109748A/ja
Application granted granted Critical
Publication of JP5947131B2 publication Critical patent/JP5947131B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33Querying
    • G06F16/332Query formulation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • User Interface Of Digital Computer (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Description

本発明は、領域選択方式による検索の入力方法、システム及びその装置に関し、特に検索しようとする文字及び/又は画像を直接に領域選択して検索を行うことができる入力方法、システム及びその装置に関する。
近年、電子装置(例えば、コンピューターや携帯型装置)がますます便利になるにつれ、これらの装置はすでに人々の生活になくてはならないものの1つになってきている。その他、ネットワークアーキテクチャの普及により、電子装置とネットワークを結びつけた応用も徐々に重視されてきている。
例を挙げると、ネットワークサービス供給者は、検索エンジンを提供して使用者のキーワードを受信し、これらのキーワードに基づいて関連するネットワーク検索を行うことができる。一般に、どのような検索を行っても、文字の入力又は知られている画像によって検索を行い、電子装置を介して対応する検索エンジンのネットワーク位置に入って検索エンジンに接続することが必要である。その後、使用者は、手動で検索しようとするキーワードを検索エンジンに入力して、検索を行う必要がある。
現在、電子装置に利用されている検索方法については、概ね以下の3種類に分けられる。
1.文字又は画像を検索キーワードとして検索エンジンで検索する。
2.光学式ピックアップレンズを情報入力装置の媒体とする。
3.タッチ面積を情報入力の方法とする。
しかしながら、上述した検索方法には、いずれも不便なところがあり、従来の技術の欠点は、以下の通りである。
1.入力媒体として、キーボード又はマウスを使用することが必要である。しかし、新世代の携帯型装置においては使いにくく、使用者は手書きによって文字を入力したり、バーチャルキーボードを用いて入力を操作したりする必要がある。
2.従来の技術は、入力の特性が直感的ではなく、入力時の簡便さに欠ける。特に携帯型装置においては、他の操作インターフェイスに切り換えたり、他の操作インターフェイスを起動したりし、手書き又は操作を行う必要が多々あり、使用者が勉強しなければ使用できない。
3.従来の技術は、同時に画像と文字の特徴に基づいて検索を行うことができず、文字検索エンジンにより操作インターフェイスを提供して文字を入力し、画像検索エンジンにより別の操作インターフェイスを提供して画像ファイルを選択/入力することになっているので、検索した結果に関連性がない。
4.従来の技術は、一部の画像の特徴を用いて検索を行うことに長けていない。通常、画像ファイル全体を選択し検索の入力条件とすることはできるが、使用者は、画像における一部の特徴だけに対して検索を行おうとする場合がよくある。画像ファイル全体を用いた検索結果は使用者からすれば十分に精確とは言えない。
本発明は、直接に領域選択する方式で検索しようとする文字及び/又は画像を領域選択することによって、使用者が電子装置を用いて文字及び/又は画像の検索を行うときの利便性を向上させる領域選択方式による検索の入力方法、システム及びその装置を提供する。
本発明は、電子装置に適用される領域選択方式による検索の入力方法を提案し、この入力方法は以下の通りである。まず、選択モジュールにより電子情報に少なくとも1つの閉領域の軌跡を形成する。閉領域の軌跡内の文字情報と画像情報の少なくとも一方を一時記憶メモリに記憶し、文字情報と画像情報の少なくとも一方に基づいて、文字検索情報と画像検索情報の少なくとも一方を生成し、文字情報は文字検索転換モジュールに転送されて文字検索情報を生成し、画像情報は画像検索転換モジュールに転送されて画像検索情報を生成し、最後に、処理ユニットによって文字検索情報又は画像検索情報を少なくとも1つの検索エンジンに転送して検索を行う。
本発明は、表示ユニットと、タッチパネルと、一時記憶メモリと、転換モジュールと、処理ユニットとを備える領域選択方式による検索の入力装置を提案する。表示ユニットは、電子情報を表示し、タッチパネルは、表示ユニットに設けられ、オブジェクトがその上を滑走し、電子情報に少なくとも1つの閉領域の軌跡を形成し、一時記憶メモリは、タッチパネルに接続され、少なくとも1つの閉領域の軌跡内の文字情報と画像情報との少なくとも一方を記憶し、転換モジュールは、一時記憶メモリに接続されて、文字情報と画像情報との少なくとも一方に基づいて、文字検索情報と画像検索情報の少なくとも一方を生成し、処理ユニットは、表示ユニット、タッチパネル、一時記憶メモリ及び転換モジュールに接続され、文字検索情報と画像検索情報の少なくとも一方を少なくとも1つの検索エンジンに転送する。
本発明は、電子情報に少なくとも1つの閉領域の軌跡を形成する選択モジュールと、該電子情報に形成された少なくとも1つの該閉領域の軌跡内の文字情報と画像情報の少なくとも一方を記憶する一時記憶メモリと、文字検索転換モジュールと画像検索転換モジュールを含み、文字検索情報と画像検索情報の少なくとも一方を生成し、文字検索転換モジュールが文字情報に基づいて文字検索情報を生成し、画像検索転換モジュールが画像情報に基づいて画像検索情報を生成する転換モジュールと、文字検索情報と画像検索情報の少なくとも一方を少なくとも1つの検索エンジンに転送する処理ユニットとを備える電子装置に適用される領域選択方式による検索の入力システムを提案する。
本発明の一実施例において、上述した方法、装置及びシステムでは、マウスの移動軌跡を検出して少なくとも1つの閉領域の軌跡にでき、マウスによってクリックした後で生成したウインドウ範囲を検出して少なくとも1つの閉領域の軌跡とできる、又はタッチパネルを介してオブジェクトの移動軌跡を検出し、軌跡信号を出力して少なくとも1つの閉領域の軌跡とすることもできる。
本発明の一実施例において、上述した方法、装置及びシステムでは、電子装置は、コンピューター、ノートパソコン、タブレット型コンピューター、スマートフォン、個人用携帯型情報端末、対話型マルチメディアキオスク端末及び携帯型電子装置等のいずれか1つである。
本発明の一実施例において、上述した方法、装置及びシステムでは、更に生成した軌跡信号が少なくとも1つの閉領域を形成したかどうかを判断でき、少なくとも1つの閉領域の軌跡を形成した場合に、電子情報及び少なくとも1つの閉領域の軌跡に基づいて、電子情報における少なくとも1つの閉領域の内部に対応する文字情報と画像情報の少なくとも一方をキャプチャーする。
本発明の一実施例において、上述した方法、装置及びシステムでは、更に電子情報から少なくとも1つの閉領域の内部に対応する文字情報と画像情報とを同時にキャプチャーした場合に、文字情報と画像情報を分割し、文字検索情報と画像検索情報とを生成することができる。
本発明の一実施例において、上述した方法、装置及びシステムでは、更に文字情報と画像情報を分割した後、画像情報を画像検索情報とし、画像情報に基づいて、文字情報から一部の文字をキャプチャーし、文字検索情報とすることができる。
本発明の一実施例において、上述した方法、装置及びシステムでは、更に、文字情報から一部の文字をキャプチャーすることについて、文字情報に対して単語抽出処理を行い、少なくとも1つの単語を取り出し、画像情報との関連性を判断して、関連性が閾値よりも高い単語を文字検索情報とすることができる。
図1は、本発明の領域選択方式による検索の一実施例の入力システムの各要素のブロック図である。 図2は、図1に対応する領域選択方式による検索のステップの流れ図である。 図3は、本発明の領域選択方式による検索のもう1つの実施例の入力システムの各要素のブロック図である。 図4は、本発明の文字検索実施例のステップの流れ図である。 図5は、本発明の画像検索実施例のステップの流れ図である。 図6は、本発明の文字と画像を同時に領域選択して検索入力を行うステップの流れ図である。
本発明の特徴と長所をより分かりやすくするために、以下、特に実施例を挙げて、添付図面を参照しながら、下記に詳しく説明する。本発明は、一般のコンピューター、ノートパソコン、タブレット型コンピューター、スマートフォン、個人用携帯型情報端末(PDA)、対話型マルチメディアキオスク端末(KIOSK)及び携帯型電子装置等のようなウインドウ操作インターフェイスを提供できる電子装置に適用され、特に、タッチパネルを有する、もしくは搭載する電子装置に適用される。上述したタッチパネルとは、手指又はオブジェクトでタッチ操作を行うことができるスクリーンであり、通常、半反射式液晶パネルに圧力に高い感度を有する1層の接触制御圧力板を覆い、物体が圧力をその上に加えると、電流信号を生成して圧力源の位置を確定して、動態的な追跡を行う。
図1と図2を同時に参照する。図1は、領域選択方式による検索の一実施例の入力システムの素子のブロック図であり、図2は、図1に対応する領域選択方式による検索のステップの流れ図である。図1において、領域選択方式による検索の入力システムは、電子装置100に設けられており、主に、選択モジュール110と、一時記憶メモリ120と、転換モジュール130と、処理ユニット140とを備える。処理ユニット140は、選択モジュール110、一時記憶メモリ120、転換モジュール130に電気的に接続される。電子装置100は、更にディスプレイ(図1に示されておらず、ディスプレイが一般のスクリーン又はタッチパネルであってもよい)を介して電子情報150を表示することができ、使用者に閲覧される。電子情報150は、ウェブページ、電子ブック又は他のアプリケーションプログラム/ビジネスソフトウェアによって提供される情報/表示画面/操作インターフェイス/ウインドウ等でよい。
選択モジュール110は、電子情報150に少なくとも1つの閉領域の軌跡を形成する(ステップS210)。また、選択モジュール110は、マウスの移動軌跡を検出して少なくとも1つの閉領域の軌跡とすることができ或いはマウスによってクリックして、ドラッグした後で生成したウインドウ範囲を検出して少なくとも1つの閉領域の軌跡としてもよい。他の実施例においては、タッチパネルの接触制御操作を介し、接触制御軌跡を検出して少なくとも1つの閉領域の軌跡としてもよい。少なくとも1つの閉領域の軌跡とは、1つの閉領域の軌跡、又は複数のそれぞれが閉鎖されて独立した閉領域の軌跡である。使用者は、複数の閉鎖軌跡を領域選択したときに、各閉領域の軌跡の間が他の閉領域の軌跡と重なっているかどうかを問わず、それぞれ以下のステップに進み、データ処理を行う。即ち、各閉領域の軌跡をそれぞれ電子情報150と比較して、該閉領域の軌跡内に対応する情報を取り出す。
一時記憶メモリ120は、電子情報150に形成された少なくとも1つの閉領域の軌跡内の文字情報と画像情報の少なくとも一方を記憶する(ステップS220)。一時記憶メモリは、例えばSRAM、DRAM、DDR2 SDRAM、DDR3 SDRAM又は他のメモリのような、一般に市販によって得られる製品でよい。
本実施例において、各閉領域内の文字情報と画像情報の一方を取得するステップにおいて、文字情報を取得したり、画像情報を取得したり、文字情報と画像情報を同時に取得したりするようにしてもよい。文字情報と画像情報を同時に取得した場合に、更に文字情報と画像情報を分割するステップを行ってよく、文字検索情報と画像検索情報を生成する。また、画像情報は、電子情報150における画像ファイルの一部でも、画像ファイル全体でもよい。他の実施例において、このステップでは複数の文字情報又は複数の画像情報を同時に取得するようにしてもよく、同時に検索条件として入力を行う。
転換モジュール130は、文字検索転換モジュール160と、画像検索転換モジュール170とを備え、文字検索情報と画像検索情報の少なくとも一方を生成し(ステップS230)、中でも文字検索転換モジュール160は文字情報に基づいて文字検索情報を生成し、画像検索転換モジュール170は画像情報に基づいて画像検索情報を生成する。
このステップにおいて、ステップS220で文字情報しか取得しなかった場合に、取得された文字情報に基づいて文字検索情報を生成することができ、ステップS220で画像情報しか取得しなかった場合に、取得された画像情報に基づいて画像検索情報を生成することができる。ステップS220で文字情報と画像情報を同時に取得した場合に、取得された文字情報に基づいて文字検索情報を生成し、且つ取得された画像情報に基づいて画像検索情報を生成することができる。他の実施例において、複数の文字情報又は複数の画像情報を同時に取得してもよく、1つ又は複数の文字検索情報、或いは1つ又は複数の画像検索情報を生成する。
処理ユニット140は、文字検索情報と画像検索情報の少なくとも一方を少なくとも1つの検索エンジン200に転送する(ステップS240)。
このステップにおいて、少なくとも1つの検索エンジンは、文字検索エンジン及び/又は図形検索エンジンでよい。他のいくつかの実施例においても、検索エンジンは文字検索機能と図形検索機能を同時に有する検索エンジンであってもよい。
本実施例において、電子装置100は、通信ネットワークを介して検索エンジン200に接続してもよく、検索情報を検索エンジン200に転送し、検索エンジン200から転送されてきた検索結果を受信する。他の実施例において、少なくとも1つの検索エンジン200は、電子装置100に設けられてもよく、検索情報を直接検索エンジン200に転送し、検索エンジン200の検索結果を受信する処理ユニット140に電気的に接続される。
本実施例において、処理ユニット140は、更にステップS210で、選択モジュール110の生成した軌跡信号が少なくとも1つの閉領域を形成したかどうかを判断することができ、少なくとも1つの閉領域の軌跡を形成した場合に、電子情報150及び少なくとも1つの閉領域の軌跡に基づいて、電子情報150における少なくとも1つの閉領域の内部に対応する文字情報と画像情報の少なくとも一方をキャプチャーする。
更に、処理ユニット140は、更にステップS120の前に、形成された閉領域の軌跡中の内部情報が文字と画像を含むかどうかを先に判断することができる。文字を含むと判断した場合に、それを取り出して文字情報とし、画像を含むと判断した場合に、それを取り出して画像情報とする。
処理ユニット140は、更に文字情報と画像情報を分割した後、分割された画像情報を画像検索情報とし、分割された文字情報から、一部の文字をキャプチャーして文字検索情報とする。更に、処理ユニット140が文字情報から一部の文字をキャプチャーすることについては、文字情報に対して単語抽出処理を行い、少なくとも1つの単語を取り出して、画像情報との関連性を判断し、関連性が閾値よりも高い単語を文字検索情報とする。文字情報と画像情報の分割は、従来の画像文字分割技術を用いて行い、以下でより詳しく説明する。
図3は、本発明のもう1つの実施例の領域選択方式による検索の入力システムの各要素のブロック図である。図3において、領域選択方式による検索の入力システムは、電子装置100に設けられており、表示ユニット210と、タッチパネル220と、一時記憶メモリ120と、転換モジュール130と、処理ユニット140とを備える。処理ユニット140は、表示ユニット210、タッチパネル220、一時記憶メモリ120、転換モジュール130に電気的に接続される。
表示ユニット210は、電子情報150を表示し、タッチパネル220は、表示ユニット210に設けられており、オブジェクトがその上を滑走し、電子情報150に少なくとも1つの閉領域の軌跡を形成することに用いられる。本実施例において、タッチパネル220は、図1の選択モジュールであり、接触制御圧力板と接触制御軌跡検出モジュールからなり、接触制御圧力板が表示ユニット210に設けられており、オブジェクトの接触制御圧力板における移動軌跡を検出し、接触制御軌跡検出モジュールを介して軌跡信号を出力して、少なくとも1つの閉領域の軌跡とする。中でも、軌跡検出技術は主に、接触制御軌跡検出モジュールを用いて選択モジュールのタッチパネルにおける移動軌跡を検出し、軌跡信号を出力することに使用される。
一時記憶メモリ120は、タッチパネル220に接続され、少なくとも1つの閉領域の軌跡内の文字情報、画像情報、及び文字情報と画像情報を記憶することに用いられる。転換モジュール130は、一時記憶メモリ120に接続されて、文字情報と画像情報の少なくとも一方に基づいて、文字検索情報と画像検索情報の少なくとも一方を生成する。処理ユニット140は、表示ユニット210、タッチパネル220、一時記憶メモリ120及び転換モジュール130に接続され、文字検索情報と画像検索情報の少なくとも一方を少なくとも1つの検索エンジン200に転送することに用いられる。
一実施例において、電子装置100は、通信ユニット(図3に示されていない)を更に含んでもよく、有線又は無線の通信ネットワークを介して検索エンジン200にリンクされる。もう1つの実施例において、電子装置100は、検索エンジン200を更に含んでもよく、処理ユニット140に電気的に接続される。
図4は、本発明の実施例の文字検索の各ステップの流れ図であり、図4において、図3のシステムの各要素を同時に参照する。主なステップは、以下の通りである。
ステップS410:表示ユニット210に電子情報150を表示する。
ステップS420:オブジェクトを用いて表示ユニット210におけるタッチパネル220を滑走し、電子情報150に少なくとも1つの閉領域を形成する。
ステップS430:各閉領域内の文字情報を取得する。
ステップS440:文字情報を一時記憶メモリ120に記憶する。
ステップS450:文字情報を転換モジュール130の文字検索転換モジュール160に転送して、文字検索情報を生成する。
ステップS460:処理ユニット140によって文字検索情報を検索エンジンに転送して、検索を行う。
図5は、本発明の実施例の画像検索の各ステップの流れ図であり、図5において、図1のシステムの各要素を同時に参照する。主なステップは、以下の通りである。
ステップS510:選択モジュール110によって電子情報150に少なくとも1つの閉領域の軌跡を形成する。
ステップS520:電子情報150に形成された少なくとも1つの閉領域の軌跡内の画像情報を一時記憶メモリ120に記憶する。
このステップにおいて、画像情報が画像ファイル全体であってもよく、又は例えば一枚の写真の中の1人の顔のような画像ファイルの一部であってもよい。
ステップS530:画像情報を画像検索転換モジュール170に転送して、画像検索情報を生成する。
ステップS540:処理ユニット140によって画像検索情報を検索エンジンに転送して、検索を行う。
図4及び図5の実施例において、使用者が電子情報においてそれぞれ文字又は画像を領域選択したときの処理ステップを説明する。以下、もう1つの実施例で使用者が領域選択した閉領域内に文字と画像を同時に含むときの処理ステップを説明する。
本発明の文字と画像を同時に領域選択して検索入力を行うステップの流れ図である図6を参照する。その主なステップは、以下の通りである。
ステップS610:選択モジュールによって電子情報に少なくとも1つの閉領域の軌跡を形成する。
ステップS620:電子情報に形成された少なくとも1つの閉領域の軌跡内の情報を取得する。
ステップS630:閉領域内の情報を文字情報と画像情報に分割して、文字検索情報と画像検索情報を生成する。
更に、処理モジュールは、更に文字情報と画像情報の分割後、分割して取得された画像情報を画像検索情報とし、分割して取得された文字情報から文字の全部又は一部をキャプチャーして文字検索情報とするようにしてもよい。
一般に、領域選択方式を用いて画像を領域選択するときに、例えば一枚の画像には複数の顔を含む可能性があり、使用者がその中の1つの顔を領域選択して入力したいときに、顔の範囲よりもやや大きい画像範囲を領域選択することになる可能性がある。1つの実施例として、領域選択軌跡範囲内の全ての画像を直接画像検索情報とすることができる。もう1つの実施例として、先に画像処理技術、顔識別技術又は他の従来の背景フィルタリング技術を用いて領域選択軌跡範囲内の画像に対して背景フィルタリングを行い、顔部分を取得して画像検索情報としてもよい。更に、画像情報が1つの顔であるときに、領域選択された文字情報が人名を含む複数の文字である可能性があり、この場合、自然言語処理技術(Natural Language Processing;NLP、自動的な単語分割/単語抽出、品詞のタグ付け、構文解析、自然言語の生成、文字分類、情報検索、情報抽出、文字チェック等の各種の技術を含んでよい)によって、領域選択軌跡範囲内の複数の文字から、例えば人名のような特別な意味を有する実体名詞を取り出して、文字検索情報としてもよい。
更に、上述した自然言語処理技術は、文字情報に対して単語抽出処理を行うことができ、少なくとも1つの単語を取り出して、画像情報との関連性を判断して、関連性が閾値よりも高い単語を文字検索情報とする。
ステップS630において、閉領域内の情報を文字情報と画像情報に分割して、文字検索情報と画像検索情報を生成し、中でも情報分割は、従来の画像文字分割技術を用いて行うことができる。一実施例において、閉領域内の情報は、文字が画像を取り囲む方式で現れるときに、画像の縁によって閉領域内の情報を二部分に分けることができ、一部が画像であり、他の一部が文字である。もう1つの実施例において、従来の他の画像文字分割法を用いて複雑な画像文字を分割することもでき、例えば、(a)クラスタ分析、(b)図形・文字ブロック検索、(c)文字前景分離及び(d)図形背景補間等の複数のステップを経て、文字と図形を分割する。また1つの実施例において、閉領域内の情報は、図形と文字を組み合わせた後の映像データである場合に、(a)図形・文字ブロック検索、(b)映像におけるカラー数、投影ヒストグラム、フラクタル次元等の3特徴パラメーターの抽出及び(c)3パラメーターを求める等のステップを経て、ファジールールを用いて映像における図形部分と文字部分を分離させて、画像文字を分割することができる。
ステップS641:文字情報を文字検索転換モジュールに転送して、文字検索情報を生成する。文字検索転換モジュールが文字検索情報を生成する関連技術として、上述した自然言語処理技術によって実現できる。更に、文字検索情報は、1つ又は1つ以上のキーワードである可能性がある。
ステップS642:画像情報を画像検索転換モジュールに転送して、画像検索情報を生成する。画像検索転換モジュールが画像検索情報を生成する関連技術として、上述した画像処理技術又は他の識別技術を用いてよい。
ステップS650:処理ユニットによって文字検索情報と画像検索情報を検索エンジンに転送して検索を行う。
このステップにおいて、文字検索情報を文字検索エンジンに転送して検索を行うようにでき、画像検索情報を画像検索エンジンに転送して検索を行うようにできる。更に、文字検索エンジンと画像検索エンジンは、それぞれ検索結果を生成したときに、文字検索結果と画像検索結果を処理ユニットに返すことができる。処理ユニットは、更に、文字検索結果と画像検索結果をまとめてから表示することができる。
本実施例において、電子装置は、コンピューター、ノートパソコン、タブレット型コンピューター、スマートフォン、個人用携帯型情報端末、対話型マルチメディアキオスク端末及び携帯型電子装置等のいずれか1つでよい。
本実施例において、電子装置がタッチパネルを有したり、タッチパネルに接続されたりする装置である場合に、領域選択方式による検索の入力システムは、更に、オブジェクトのタッチパネルにおける移動軌跡を検出して軌跡信号を出力する接触制御軌跡検出モジュールを含む。処理ユニットは、軌跡信号に基づいて演算してオブジェクトのタッチパネルにおける移動軌跡が閉領域を形成したかどうかを判断する。少なくとも1つの閉領域の軌跡を形成した場合に、電子情報と少なくとも1つの閉領域の軌跡に基づいて、電子情報における少なくとも1つの閉領域の内部に対応する文字情報と画像情報の少なくとも一方をキャプチャーする。
以上を纏めれば、本発明は、以下のような長所を有するべきである。
1.本発明は、領域選択の方式を用いて検索の検索ワードを生成し、直接且つ迅速に検索ワードを入力することができる。
2.本発明は、便利に画像文字情報を入力でき、且つ情報を閲覧しているときに迅速且つ便利に関連情報検索を行うことができる。
3.本発明は、便利に画像又は画像の情報の一部を用いて検索を行うことができ、画像本体以外の背景が複雑すぎることで、分析結果と本体との関連度が低下し過ぎることがない。
4.本発明は、キーボードを主な入力装置としなくてもよい。
本発明は、前記実施例で以上のように開示したが、本発明を限定するためのものではなく、いかなる当業者が本発明の精神と範囲から逸脱することなく行った変更や追加のような効果が同等な置き換えであっても、本発明の特許請求の範囲内に含まれる。
100 電子装置
110 選択モジュール
120 一時記憶メモリ
130 転換モジュール
140 処理ユニット
150 電子情報
160 文字検索転換モジュール
170 画像検索転換モジュール
200 検索エンジン
210 表示ユニット
220 タッチパネル
S210〜S240 流れ図の各ステップ
S410〜S460 流れ図の各ステップ
S510〜S540 流れ図の各ステップ
S610〜S650 流れ図の各ステップ

Claims (13)

  1. 選択モジュールによって電子情報に少なくとも1つの閉領域の軌跡を形成するステップと、
    前記電子情報に形成された少なくとも1つの前記閉領域の軌跡内の文字情報と画像情報との少なくとも一方を一時記憶メモリに記憶するステップと、
    前記文字情報と前記画像情報との少なくとも一方に基づいて、文字検索情報と画像検索情報との少なくとも一方を生成し、前記文字情報が文字検索転換モジュールに転送されて前記文字検索情報を生成し、前記画像情報が画像検索転換モジュールに転送されて前記画像検索情報を生成するステップと、
    処理ユニットによって前記文字検索情報と前記画像検索情報との少なくとも一方を少なくとも1つの検索エンジンに転送して検索を行うステップと、
    を含み、
    前記処理ユニットが1つの閉領域の前記文字情報から一部の文字をキャプチャーし、前記文字情報に対して単語抽出処理を行い、少なくとも1つの単語を取り出して、前記1つの閉領域の前記画像情報との関連性を判断し、前記関連性が閾値よりも高い単語を前記文字検索情報とするステップを含む、電子装置に適用される領域選択方式による検索の入力方法。
  2. 前記電子装置に、タッチパネルが更に設けられて、前記選択モジュールによって表示ユニットにおける前記タッチパネルを滑走し、前記電子情報に少なくとも1つの閉領域を形成するステップにおいて、接触制御軌跡検出モジュールで前記選択モジュールの前記タッチパネルにおける移動軌跡を検出して、軌跡信号を出力する軌跡検出技術を更に含む、請求項1に記載の領域選択方式による検索の入力方法。
  3. 各前記閉領域内の文字情報と画像情報の一方を取得するステップにおいて、文字情報を取得したり、画像情報を取得したり、文字情報と画像情報を同時に取得したりする、請求項1に記載の領域選択方式による検索の入力方法。
  4. 前記閉領域内に文字情報と画像情報が同時に存在する場合に、前記文字情報と前記画像情報を分割するステップを更に含む、請求項3に記載の領域選択方式による検索の入力方法。
  5. 電子情報に少なくとも1つの閉領域の軌跡を形成する選択モジュールと、
    前記電子情報に形成された少なくとも1つの前記閉領域の軌跡内の文字情報と画像情報の少なくとも一方を記憶する一時記憶メモリと、
    文字検索情報と画像検索情報の少なくとも一方を生成する文字検索転換モジュールと画像検索転換モジュールを含み、前記文字検索転換モジュールが前記文字情報に基づいて前記文字検索情報を生成し、前記画像検索転換モジュールが前記画像情報に基づいて前記画像検索情報を生成する転換モジュールと、
    前記文字検索情報と前記画像検索情報の少なくとも一方を少なくとも1つの検索エンジンに転送する処理ユニットと、
    を備え、
    前記処理ユニットが1つの閉領域の前記文字情報から一部の文字をキャプチャーし、前記文字情報に対して単語抽出処理を行い、少なくとも1つの単語を取り出して、前記1つの閉領域の前記画像情報との関連性を判断し、前記関連性が閾値よりも高い単語を前記文字検索情報とする、電子装置に適用される領域選択方式による検索の入力システム
  6. 前記選択モジュールは、マウスの移動軌跡を検出して前記少なくとも1つの閉領域の軌跡とする、請求項5に記載の領域選択方式による検索の入力システム。
  7. 前記選択モジュールは、マウスによってクリックした後で生成したウインドウ範囲を検出して前記少なくとも1つの閉領域の軌跡とする、請求項5に記載の領域選択方式による検索の入力システム。
  8. 前記選択モジュールは、接触制御圧力板と接触制御軌跡検出モジュールであり、前記接触制御圧力板が前記表示ユニットに設けられており、オブジェクトの前記接触制御圧力板における移動軌跡を検出し、前記接触制御軌跡検出モジュールを介して軌跡信号を出力して、前記少なくとも1つの閉領域の軌跡とする、請求項5に記載の領域選択方式による検索の入力システム。
  9. 前記電子装置は、コンピューター、ノートパソコン、タブレット型コンピューター、スマートフォン、個人用携帯型情報端末、対話型マルチメディアキオスク端末、携帯型電子装置等のいずれか1つである、請求項5に記載の領域選択方式による検索の入力システム。
  10. 前記処理ユニットは、前記選択モジュールの生成した軌跡信号が前記少なくとも1つの閉領域を形成したかどうかを判断し、前記少なくとも1つの閉領域の軌跡を形成した場合に、前記電子情報及び前記少なくとも1つの閉領域の軌跡に基づいて、前記電子情報における前記少なくとも1つの閉領域の内部に対応する前記文字情報と前記画像情報の少なくとも一方をキャプチャーする、請求項5に記載の領域選択方式による検索の入力システム。
  11. 前記画像情報が前記電子情報における画像ファイルの一部である、請求項5に記載の領域選択方式による検索の入力システム。
  12. 前記処理ユニットは、前記電子情報から前記少なくとも1つの閉領域の内部に対応して前記文字情報と前記画像情報を同時にキャプチャーした場合に、前記文字情報と前記画像情報を分割して、前記画像情報を前記画像検索情報とし、前記文字情報から全部又は一部の文字をキャプチャーして、前記文字検索情報とする、請求項5に記載の領域選択方式による検索の入力システム。
  13. 電子情報を表示するための表示ユニットと、
    表示ユニットに設けられ、オブジェクトがその上を滑走し、電子情報に少なくとも1つの閉領域の軌跡を形成することに用いられるタッチパネルと、
    前記タッチパネルに接続され、前記少なくとも1つの閉領域の軌跡内の文字情報と画像情報の少なくとも一方を記憶するための一時記憶メモリと、
    前記一時記憶メモリに接続されて、前記文字情報と前記画像情報の少なくとも一方に基づいて、文字検索情報と画像検索情報の少なくとも一方を生成する転換モジュールと、
    前記表示ユニット、前記タッチパネル、前記一時記憶メモリ及び前記転換モジュールに接続され、前記文字検索情報と前記画像検索情報の少なくとも一方を少なくとも1つの検索エンジンに転送するための処理ユニットと、
    を備え、
    前記処理ユニットが1つの閉領域の前記文字情報から一部の文字をキャプチャーし、前記文字情報に対して単語抽出処理を行い、少なくとも1つの単語を取り出して、前記1つの閉領域の前記画像情報との関連性を判断し、前記関連性が閾値よりも高い単語を前記文字検索情報とする、領域選択方式による検索の入力装置
JP2012154618A 2011-11-22 2012-07-10 領域選択方式による検索の入力方法及びそのシステム Active JP5947131B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
TW100142757A TWI544350B (zh) 2011-11-22 2011-11-22 Input method and system for searching by way of circle
TW100142757 2011-11-22

Publications (2)

Publication Number Publication Date
JP2013109748A JP2013109748A (ja) 2013-06-06
JP5947131B2 true JP5947131B2 (ja) 2016-07-06

Family

ID=48427921

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012154618A Active JP5947131B2 (ja) 2011-11-22 2012-07-10 領域選択方式による検索の入力方法及びそのシステム

Country Status (4)

Country Link
US (1) US20130132361A1 (ja)
JP (1) JP5947131B2 (ja)
CN (1) CN103135884A (ja)
TW (1) TWI544350B (ja)

Families Citing this family (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150205870A1 (en) * 2013-01-29 2015-07-23 Michael William Casey Method, system and program product for interactive information services
TW201500968A (zh) * 2013-06-21 2015-01-01 Utechzone Co Ltd 三維互動系統及其互動感測方法
TWI598808B (zh) * 2013-06-26 2017-09-11 宏碁股份有限公司 電子裝置控制方法及電子裝置
CN104252492A (zh) * 2013-06-28 2014-12-31 宏碁股份有限公司 数据搜寻方法与其电子装置
CN104346335A (zh) * 2013-07-23 2015-02-11 上海化工宝电子商务有限公司 资讯中心互动网页
TWI496017B (zh) * 2013-08-29 2015-08-11 Htc Corp 相關影像搜尋方法以及使用者介面控制方法
CN104424262B (zh) * 2013-08-29 2018-04-06 宏达国际电子股份有限公司 相关影像搜寻方法以及使用者界面控制方法
US9201900B2 (en) 2013-08-29 2015-12-01 Htc Corporation Related image searching method and user interface controlling method
CN103455590B (zh) 2013-08-29 2017-05-31 百度在线网络技术(北京)有限公司 在触屏设备中进行检索的方法和装置
CN109902687B (zh) * 2013-09-05 2023-12-08 华为终端有限公司 一种图像识别方法及用户终端
CN103559248A (zh) * 2013-10-30 2014-02-05 广东明创软件科技有限公司 基于移动终端相册图片的搜索方法及其移动终端
CN104731798B (zh) * 2013-12-19 2018-08-31 鸿合科技股份有限公司 一种文字检索方法和装置
US9830391B1 (en) 2014-06-24 2017-11-28 Google Inc. Query modification based on non-textual resource context
US9811592B1 (en) 2014-06-24 2017-11-07 Google Inc. Query modification based on textual resource context
CN105868385B (zh) * 2014-12-12 2020-02-07 北京奇虎科技有限公司 基于终端界面触控操作进行搜索的方法及系统
CN104462437B (zh) * 2014-12-15 2018-06-08 北京奇虎科技有限公司 基于终端界面多次触控操作进行识别搜索的方法及系统
CN105786930B (zh) * 2014-12-26 2019-11-26 北京奇虎科技有限公司 基于触摸交互的搜索方法及装置
CN104866564B (zh) * 2015-05-21 2019-03-15 百度在线网络技术(北京)有限公司 图片搜索方法及装置
TWI563445B (en) * 2015-06-01 2016-12-21 Compal Electronics Inc Data processing method
JP6677527B2 (ja) * 2016-02-23 2020-04-08 株式会社 ミックウェア サーバ装置、およびプログラム
US11003667B1 (en) 2016-05-27 2021-05-11 Google Llc Contextual information for a displayed resource
US10152521B2 (en) 2016-06-22 2018-12-11 Google Llc Resource recommendations for a displayed resource
US10802671B2 (en) 2016-07-11 2020-10-13 Google Llc Contextual information for a displayed resource that includes an image
US10489459B1 (en) 2016-07-21 2019-11-26 Google Llc Query recommendations for a displayed resource
US10051108B2 (en) 2016-07-21 2018-08-14 Google Llc Contextual information for a notification
US10467300B1 (en) 2016-07-21 2019-11-05 Google Llc Topical resource recommendations for a displayed resource
CN106325741A (zh) * 2016-08-15 2017-01-11 广东小天才科技有限公司 信息选取方法及装置
US10212113B2 (en) 2016-09-19 2019-02-19 Google Llc Uniform resource identifier and image sharing for contextual information display
US10679068B2 (en) 2017-06-13 2020-06-09 Google Llc Media contextual information from buffered media data
TWI649691B (zh) * 2017-11-16 2019-02-01 創利空間股份有限公司 編輯裝置以及互動多媒體系統
TWI689202B (zh) * 2017-11-16 2020-03-21 創利空間股份有限公司 多媒體互動系統及多媒體互動方法
US11100160B2 (en) * 2018-07-31 2021-08-24 International Business Machines Corporation Intelligent image note processing

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6026409A (en) * 1996-09-26 2000-02-15 Blumenthal; Joshua O. System and method for search and retrieval of digital information by making and scaled viewing
US5852823A (en) * 1996-10-16 1998-12-22 Microsoft Image classification and retrieval system using a query-by-example paradigm
US6397213B1 (en) * 1999-05-12 2002-05-28 Ricoh Company Ltd. Search and retrieval using document decomposition
US6892193B2 (en) * 2001-05-10 2005-05-10 International Business Machines Corporation Method and apparatus for inducing classifiers for multimedia based on unified representation of features reflecting disparate modalities
JP2003076990A (ja) * 2001-09-03 2003-03-14 Minolta Co Ltd 顔画像検索装置
AUPS020302A0 (en) * 2002-01-31 2002-02-21 Silverbrook Research Pty. Ltd. Methods and systems (npw007)
US7707140B2 (en) * 2002-10-09 2010-04-27 Yahoo! Inc. Information retrieval system and method employing spatially selective features
US7657126B2 (en) * 2005-05-09 2010-02-02 Like.Com System and method for search portions of objects in images and features thereof
JP2007323554A (ja) * 2006-06-05 2007-12-13 Ron:Kk ネットワーク検索方法,クライアント,サーバ,システム
JP2008041007A (ja) * 2006-08-10 2008-02-21 At Office:Kk 検索装置、検索画面及び検索方法並びに制御プログラム
CN101150529B (zh) * 2006-09-21 2011-07-27 腾讯科技(深圳)有限公司 一种搜索邮件的方法及系统
US7693842B2 (en) * 2007-04-09 2010-04-06 Microsoft Corporation In situ search for active note taking
US20090058820A1 (en) * 2007-09-04 2009-03-05 Microsoft Corporation Flick-based in situ search from ink, text, or an empty selection region
US8386485B2 (en) * 2008-07-31 2013-02-26 George Mason Intellectual Properties, Inc. Case-based framework for collaborative semantic search
US8811742B2 (en) * 2009-12-02 2014-08-19 Google Inc. Identifying matching canonical documents consistent with visual query structural information
US9323784B2 (en) * 2009-12-09 2016-04-26 Google Inc. Image search using text-based elements within the contents of images
US20110193795A1 (en) * 2010-02-09 2011-08-11 Yahoo! Inc. Haptic search feature for touch screens
AU2011292026B2 (en) * 2010-08-17 2014-08-07 Google Llc Touch-based gesture detection for a touch-sensitive device
US20120083294A1 (en) * 2010-09-30 2012-04-05 Apple Inc. Integrated image detection and contextual commands
US10409851B2 (en) * 2011-01-31 2019-09-10 Microsoft Technology Licensing, Llc Gesture-based search

Also Published As

Publication number Publication date
TWI544350B (zh) 2016-08-01
TW201322014A (zh) 2013-06-01
US20130132361A1 (en) 2013-05-23
JP2013109748A (ja) 2013-06-06
CN103135884A (zh) 2013-06-05

Similar Documents

Publication Publication Date Title
JP5947131B2 (ja) 領域選択方式による検索の入力方法及びそのシステム
EP3407221B1 (en) Methods and devices for searching and displaying information on a terminal
US20190340209A1 (en) Method for searching and device thereof
US10282374B2 (en) System and method for feature recognition and document searching based on feature recognition
CN108846091B (zh) 资讯推荐方法、装置及设备
WO2016176062A1 (en) Entity action suggestion on a mobile device
US20150339348A1 (en) Search method and device
WO2014075582A1 (en) Method and apparatus for storing webpage access records
KR101855147B1 (ko) 사용자 선호도 분석 방법 및 그를 위한 디바이스
US10380164B2 (en) System and method for using on-image gestures and multimedia content elements as search queries
US9201900B2 (en) Related image searching method and user interface controlling method
TW201415347A (zh) 縮放螢幕畫面的方法、電子裝置及電腦程式產品
US20220237249A1 (en) Method for searching and device thereof
WO2017107855A1 (zh) 一种图片搜索方法及装置
EP3910496A1 (en) Search method and device
JP2015094978A (ja) 電子機器および方法
JP2019197534A (ja) 文書及びテーブルの周囲の人物の検出に基づく文書及び人物を検索するためのシステム、方法並びにプログラム
JP6157965B2 (ja) 電子機器、方法、およびプログラム
KR20150135059A (ko) 검색을 수행하는 방법 및 장치
US20190114131A1 (en) Context based operation execution
WO2016101768A1 (zh) 终端以及基于触摸操作的搜索方法和装置
EP2821934B1 (en) System and method for optical character recognition and document searching based on optical character recognition
TW201828118A (zh) 圖片搜索方法及裝置
CN112989122A (zh) 视频查找方法及装置
CN113920496A (zh) 一种数据挖掘方法、装置、计算机设备及存储介质

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130927

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131008

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20140107

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20140110

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140129

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20140701

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20160201

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160219

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160401

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160602

R150 Certificate of patent or registration of utility model

Ref document number: 5947131

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250