JP5606385B2 - サーバ装置、サーバ装置の制御方法、及び、プログラム - Google Patents

サーバ装置、サーバ装置の制御方法、及び、プログラム Download PDF

Info

Publication number
JP5606385B2
JP5606385B2 JP2011101534A JP2011101534A JP5606385B2 JP 5606385 B2 JP5606385 B2 JP 5606385B2 JP 2011101534 A JP2011101534 A JP 2011101534A JP 2011101534 A JP2011101534 A JP 2011101534A JP 5606385 B2 JP5606385 B2 JP 5606385B2
Authority
JP
Japan
Prior art keywords
image
specified
character string
area
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2011101534A
Other languages
English (en)
Other versions
JP2012234287A (ja
JP2012234287A5 (ja
Inventor
宗 益子
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Rakuten Group Inc
Original Assignee
Rakuten Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2011101534A priority Critical patent/JP5606385B2/ja
Application filed by Rakuten Inc filed Critical Rakuten Inc
Priority to PCT/JP2012/061186 priority patent/WO2012147839A1/ja
Priority to EP12777354.7A priority patent/EP2704014B1/en
Priority to ES12777354T priority patent/ES2725556T3/es
Priority to CN201280020699.7A priority patent/CN103502962B/zh
Priority to US14/114,047 priority patent/US9396392B2/en
Priority to TW101115283A priority patent/TWI595368B/zh
Publication of JP2012234287A publication Critical patent/JP2012234287A/ja
Publication of JP2012234287A5 publication Critical patent/JP2012234287A5/ja
Application granted granted Critical
Publication of JP5606385B2 publication Critical patent/JP5606385B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04842Selection of displayed objects or displayed text elements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/95Retrieval from the web
    • G06F16/957Browsing optimisation, e.g. caching or content distillation
    • G06F16/9577Optimising the visualization of content, e.g. distillation of HTML documents
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/40Processing or translation of natural language
    • G06F40/58Use of machine translation, e.g. for multi-lingual retrieval, for server-side translation for client devices or for real-time translation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/14Image acquisition
    • G06V30/142Image acquisition using hand-held instruments; Constructional details of the instruments
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/08Feature extraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • Human Computer Interaction (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Artificial Intelligence (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Information Transfer Between Computers (AREA)
  • Character Discrimination (AREA)

Description

本発明は、サーバ装置、サーバ装置の制御方法、プログラム、及び、記録媒体に関し、特に、画像内の文字列の翻訳に関するものである。
従来から、様々な翻訳ツールが知られているが、それらの翻訳ツールを用いて、文字が含まれた画像を含むWEBページの翻訳が要求されることがある。画像に含まれる文字を翻訳するためには、まず、画像に含まれる文字について文字認識を行う必要がある。そして、文字認識により文字が特定された後、当該文字を目的の言語へ翻訳する。しかし、文字認識の処理には、ある程度の時間を要するため、リアルタイムでの翻訳は難しいという問題があった。このような問題に対応するため、種々の手法が提案されている。例えば、特許文献1には、文字を含む画像と、翻訳用の文字列とを対応付けて記憶しておき、文字を含む画像を翻訳する際に、当該文字列の翻訳結果を提示する機械翻訳システムが開示されている。
特許4658236号公報
一方、翻訳用の文字列を用意せず、できるだけ、画像内の文字をそのまま翻訳したいという要望もある。
本発明は、上記のような課題を解決するもので、WEBページ内の画像の文字をリアルタイムで翻訳するのに好適なサーバ装置、サーバ装置の制御方法、プログラム、及び、記録媒体を提供することを目的とする。
本発明の第1の観点に係るサーバ装置は、
画像の識別情報と、画像処理に対するパラメータと、が指定された要求を、端末から受信する要求受信部、
前記受信された要求に指定された識別情報に基づいて画像を取得し、前記取得された画像に対して、前記受信された要求に指定されたパラメータを用いて前記画像処理を適用することにより、当該画像内から抽出された抽出情報を出力する画像処理部、
前記画像処理部により出力された抽出情報が指定される応答を、前記端末へ送信する応答送信部
を備え、
前記画像処理部は、前記抽出情報が抽出されると、当該抽出情報に対する画像の識別情報ならびにパラメータに対応付けて、当該抽出された抽出情報をキャッシュし、
前記受信された要求に指定される識別情報ならびにパラメータに対応付けられる抽出情報がキャッシュされている場合、前記画像処理部は、前記画像の取得ならびに前記画像処理の適用にかえて、前記キャッシュされている抽出情報を得て、当該得られた抽出情報を出力する
ことを特徴とする。
上記観点に係るサーバ装置において、
前記要求に指定されるパラメータは、指定領域を含み、
前記画像処理部による画像処理には、前記画像内の前記パラメータに含まれる指定領域について文字認識を行うことにより、当該画像内の当該指定領域から認識された認識済文字列を出力する抽出処理が含まれ、
前記画像処理部は、前記認識済文字列が抽出されると、当該認識済文字列に対する画像の識別情報ならびに指定領域に対応付けて、当該認識済文字列をキャッシュし、
前記受信された要求に指定される識別情報ならびにパラメータに含まれる指定領域に対応付けられる認識済文字列がキャッシュされている場合、前記画像処理部は、前記文字認識にかえて、前記キャッシュされている認識済文字列を得て、当該得られた認識済文字列を出力し、
前記抽出情報は、前記認識済文字列を含む
ことを特徴とする。
また、上記観点に係るサーバ装置において、
前記画像処理部は、前記認識済文字列がキャッシュされた際に対応付けられた識別情報と、前記受信された要求に指定された識別情報と、が一致し、前記認識済文字列がキャッシュされた際に対応付けられた指定領域と、前記受信された要求に指定されるパラメータに含まれる指定領域と、が、重複する場合、前記受信された要求に指定される識別情報ならびにパラメータに含まれる指定領域に対応付けられる抽出情報がキャッシュされていると判定する
ことを特徴とする。
また、上記観点に係るサーバ装置において、
前記画像処理部は、前記認識済文字列が抽出されると、前記指定領域を前記指定領域内において当該認識済文字列が認識された認識領域に補正してから、当該認識済文字列をキャッシュする
ことを特徴とする。
また、上記観点に係るサーバ装置において、
前記要求に指定されるパラメータは、認識用言語を含み、
前記画像処理部による文字認識は、認識用言語により行われる
ことを特徴とする。
また、上記観点に係るサーバ装置において、
前記要求に指定されるパラメータは、変換情報を含み、
前記画像処理部による画像処理には、前記出力された認識済文字列に対して、前記受信された要求に指定されたパラメータに含まれる変換情報を用いて変換処理を行うことにより、当該認識済文字列から変換された変換済文字列を出力する変換処理が含まれ、
前記抽出情報は、前記変換済文字列を含む
ことを特徴とする。
また、上記観点に係るサーバ装置において、
前記画像処理部は、前記変換済文字列が抽出されると、当該変換済文字列に対する画像の識別情報、指定領域、認識用言語、認識済文字列、ならびに、変換情報に対応付けて、当該変換済文字列をキャッシュし、
前記受信された要求に指定される識別情報、指定領域、認識用言語、ならびに、変換情報に対する変換済文字列がキャッシュされている場合、前記画像処理部は、前記変換処理にかえて、前記キャッシュされている変換済文字列を得て、当該得られた変換済文字列を出力する
ことを特徴とする。
また、上記観点に係るサーバ装置において、
前記変換処理は、前記変換情報に指定される翻訳先言語に前記認識済文字列を翻訳することにより、前記変換済文字列を得る
ことを特徴とする。
また、上記観点に係るサーバ装置において、
画像の識別情報が指定された問合せを、前記端末から受信する問合受信部、
前記受信された問合せに指定される識別情報に対応付けられる抽出情報がキャッシュされていない場合、画像の識別情報と、画像処理のパラメータと、が指定された要求の送信を促すメッセージが指定された回答を、前記端末へ送信し、前記受信された問合せに指定される識別情報に対応付けられる抽出情報がキャッシュされている場合、当該抽出情報が指定された回答を、前記端末へ送信する回答送信部
をさらに備えることを特徴とする。
また、上記観点に係るサーバ装置において、
画像の識別情報と、当該画像内の位置と、が指定された問合せを、前記端末から受信する問合受信部、
前記受信された問合せに指定される識別情報、ならびに、前記受信された問合せに指定される位置を含む指定領域に対応付けられる認識済文字列が、前記画像処理部によりキャッシュされている場合、当該キャッシュされている認識済文字列が指定された回答を、前記端末へ送信する回答送信部
をさらに備えることを特徴とする。
また、上記観点に係るサーバ装置において、
画像の識別情報と、当該画像内の位置と、変換情報と、が指定された問合せを、前記端末から受信する問合受信部、
前記受信された問合せに指定される識別情報、変換情報、ならびに、前記受信された問合せに指定される位置を含む指定領域に対応付けられる変換済文字列が、前記画像処理部によりキャッシュされている場合、前記回答に当該キャッシュされている変換済文字列が指定された回答を、前記端末へ送信する回答送信部
をさらに備えることを特徴とする。
識別情報により識別される画像を画面に表示する表示部を備え、上記観点に係るサーバ装置と通信可能なコンピュータが実行するプログラムであって、当該プログラムは、当該コンピュータを、
前記画面に表示された画像内の位置の選択を検出する位置検出部、
前記位置の選択が検出されると、前記識別情報と、当該選択された位置と、が指定された問合せを、前記サーバ装置へ送信する問合送信部、
前記サーバ装置から、回答を受信する回答受信部
として機能させ、当該プログラムは、当該コンピュータを、
前記表示部が、前記受信された回答に指定される抽出情報を、前記画面にさらに表示する
ように機能させ、当該プログラムは、当該コンピュータを、
前記画面に表示された画像内の領域の選択を検出する領域検出部、
画像処理用のパラメータの設定を促す設定部、
前記領域の選択が検出されると、前記識別情報と、前記設定されたパラメータと、当該選択された領域と、が指定された要求を、前記サーバ装置へ送信する要求送信部、
前記サーバ装置から、応答を受信する応答受信部
として機能させ、当該プログラムは、当該コンピュータを、
前記表示部が、前記受信された応答に指定される抽出情報を、前記画面にさらに表示する
ように機能させることを特徴とする。
本発明の第2の観点に係るサーバ装置の制御方法は、
要求受信部と、画像処理部と、応答送信部と、を備えるサーバ装置が実行する制御方法であって、
前記要求受信部が、画像の識別情報と、画像処理に対するパラメータと、が指定された要求を、端末から受信する要求受信工程、
前記画像処理部が、前記受信された要求に指定された識別情報に基づいて画像を取得し、前記取得された画像に対して、前記受信された要求に指定されたパラメータを用いて前記画像処理を適用することにより、当該画像内から抽出された抽出情報を出力する画像処理工程、
前記応答送信部が、前記画像処理部により出力された抽出情報が指定される応答を、前記端末へ送信する応答送信工程
を備え、
前記画像処理工程において、
前記画像処理部は、前記抽出情報が抽出されると、当該抽出情報に対する画像の識別情報ならびにパラメータに対応付けて、当該抽出された抽出情報をキャッシュし、
前記受信された要求に指定される識別情報ならびにパラメータに対応付けられる抽出情報がキャッシュされている場合、前記画像処理部は、前記画像の取得ならびに前記画像処理の適用にかえて、前記キャッシュされている抽出情報を得て、当該得られた抽出情報を出力する
ことを特徴とする。
本発明の第3の観点に係るプログラムは、
コンピュータを、
画像の識別情報と、画像処理に対するパラメータと、が指定された要求を、端末から受信する要求受信部、
前記受信された要求に指定された識別情報に基づいて画像を取得し、前記取得された画像に対して、前記受信された要求に指定されたパラメータを用いて前記画像処理を適用することにより、当該画像内から抽出された抽出情報を出力する画像処理部、
前記画像処理部により出力された抽出情報が指定される応答を、前記端末へ送信する応答送信部
として機能させ、
前記画像処理部は、前記抽出情報が抽出されると、当該抽出情報に対する画像の識別情報ならびにパラメータに対応付けて、当該抽出された抽出情報をキャッシュし、
前記受信された要求に指定される識別情報ならびにパラメータに対応付けられる抽出情報がキャッシュされている場合、前記画像処理部は、前記画像の取得ならびに前記画像処理の適用にかえて、前記キャッシュされている抽出情報を得て、当該得られた抽出情報を出力する
ように機能させることを特徴とする。
本発明の第4の観点に係るコンピュータ読み取り可能な記録媒体は、
コンピュータを、
画像の識別情報と、画像処理に対するパラメータと、が指定された要求を、端末から受信する要求受信部、
前記受信された要求に指定された識別情報に基づいて画像を取得し、前記取得された画像に対して、前記受信された要求に指定されたパラメータを用いて前記画像処理を適用することにより、当該画像内から抽出された抽出情報を出力する画像処理部、
前記画像処理部により出力された抽出情報が指定される応答を、前記端末へ送信する応答送信部
として機能させ、
前記画像処理部は、前記抽出情報が抽出されると、当該抽出情報に対する画像の識別情報ならびにパラメータに対応付けて、当該抽出された抽出情報をキャッシュし、
前記受信された要求に指定される識別情報ならびにパラメータに対応付けられる抽出情報がキャッシュされている場合、前記画像処理部は、前記画像の取得ならびに前記画像処理の適用にかえて、前記キャッシュされている抽出情報を得て、当該得られた抽出情報を出力する
ように機能させることを特徴とするプログラムを記録する。
上記プログラムは、プログラムが実行されるコンピュータとは独立して、コンピュータ通信網を介して配布・販売することができる。また、上記記録媒体は、コンピュータとは独立して配布・販売することができる。
本発明によれば、WEBページ内の画像の文字をリアルタイムで翻訳するのに好適なサーバ装置、サーバ装置の制御方法、プログラム、及び、記録媒体を提供することができる。
本発明の実施形態に係るサーバ装置と、WEBサーバ装置と、端末装置との関係を示す図である。 本発明の実施形態に係るサーバ装置又は端末装置が実現される典型的な情報処理装置の概要構成を示す図である。 端末装置が表示するWEBページの例を説明するための図である。 実施形態1のサーバ装置の概要構成を説明するための図である。 WEBページ内の画像の例を説明するための図である。 抽出情報テーブルを説明するための図である。 WEBページ内の画像の例を説明するための図である。 実施形態1に係るサーバ装置の各部が行う制御処理を説明するためのフローチャート図である。 指定領域を説明するための図である。 抽出情報テーブルを説明するための図である。 認識領域を説明するための図である。 抽出情報テーブルを説明するための図である。 指定領域の重複を説明するための図である。 実施形態2に係るサーバ装置の各部が行う制御処理を説明するためのフローチャート図である。 WEBページ内の画像の例を説明するための図である。 抽出情報テーブルを説明するための図である。 WEBページ内の画像の例を説明するための図である。 実施形態3に係るサーバ装置の各部が行う制御処理を説明するためのフローチャート図である。 実施形態4のサーバ装置の概要構成を説明するための図である。 WEBページ内の画像の例を説明するための図である。 実施形態4に係るサーバ装置の各部が行う制御処理を説明するためのフローチャート図である。 WEBページ内の画像の例を説明するための図である。 実施形態5に係るサーバ装置の各部が行う制御処理を説明するためのフローチャート図である。 抽出情報テーブルを説明するための図である。 WEBページ内の画像の例を説明するための図である。 実施形態6に係るサーバ装置の各部が行う制御処理を説明するためのフローチャート図である。 実施形態7のプログラムが動作する端末装置の概要構成を説明するための図である。 実施形態7に係る端末装置の各部が行う制御処理を説明するためのフローチャート図である。
本発明の実施形態に係るサーバ装置100は、図1に示すように、インターネット300に接続される。インターネット300には、ユーザが操作する複数の端末装置211、212〜21n(以下、これらを総称して「端末装置200」という。)と、WEBサーバ400とが接続されている。WEBサーバ400は、端末装置200からの要求に応じて、所定のWEBページを端末装置200に提供するものである。そして、サーバ装置100は、端末装置200の要求に応じて、WEBページの翻訳を行い、翻訳結果を端末装置200に提供するものである。なお、以下に示す実施形態では、サーバ装置100とWEBサーバ装置400とは、図1に示すようにインターネット300を解して接続されるが、この例に限らない。例えば、サーバ装置100とWEBサーバ装置とが同じ装置により実現されてもよい。あるいは、サーバ装置100とWEBサーバ装置400とは直接接続されてもよい。
以下、本発明の実施形態に係るサーバ装置100又は端末装置200が実現される典型的な情報処理装置500について説明する。
(1.情報処理装置の概要構成)
情報処理装置500は、図2に示すように、CPU(Central Processing Unit)501と、ROM(Read only Memory)502と、RAM(Random Access Memory)503と、NIC(Network Interface Card)504と、画像処理部505と、音声処理部506と、DVD−ROM(Digital Versatile Disc ROM)ドライブ507と、インターフェース508と、外部メモリ509と、コントローラ510と、モニタ511と、スピーカ512と、を備える。
CPU 501は、情報処理装置500全体の動作を制御し、各構成要素と接続され制御信号やデータをやりとりする。
ROM 502には、電源投入直後に実行されるIPL(Initial Program Loader)が記録され、これが実行されることにより、所定のプログラムをRAM 503に読み出してCPU 501による当該プログラムの実行が開始される。また、ROM 502には、情報処理装置500全体の動作制御に必要なオペレーティングシステムのプログラムや各種のデータが記録される。
RAM 503は、データやプログラムを一時的に記憶するためのもので、DVD−ROMから読み出したプログラムやデータ、その他、通信に必要なデータ等が保持される。
NIC 504は、情報処理装置500をインターネット300等のコンピュータ通信網に接続するためのものであり、LAN(Local Area Network)を構成する際に用いられる10BASE−T/100BASE−T規格にしたがうものや、電話回線を用いてインターネットに接続するためのアナログモデム、ISDN(Integrated Services Digital Network)モデム、ADSL(Asymmetric Digital Subscriber Line)モデム、ケーブルテレビジョン回線を用いてインターネットに接続するためのケーブルモデム等と、これらとCPU 501との仲立ちを行うインターフェース(図示せず)により構成される。
画像処理部505は、DVD−ROM等から読み出されたデータをCPU 501や画像処理部505が備える画像演算プロセッサ(図示せず)によって加工処理した後、これを画像処理部505が備えるフレームメモリ(図示せず)に記録する。フレームメモリに記録された画像情報は、所定の同期タイミングでビデオ信号に変換され、モニタ511に出力される。これにより、各種のページ表示が可能となる。
音声処理部506は、DVD−ROM等から読み出した音声データをアナログ音声信号に変換し、これに接続されたスピーカ512から出力させる。また、CPU 501の制御の下、情報処理装置500が行う処理の進行の中で発生させるべき音を生成し、これに対応した音声をスピーカ512から出力させる。
DVD−ROMドライブ507に装着されるDVD−ROMには、例えば、実施形態に係るサーバ装置100を実現するためのプログラムが記憶される。CPU 501の制御によって、DVD−ROMドライブ507は、これに装着されたDVD−ROMに対する読み出し処理を行って、必要なプログラムやデータを読み出し、これらはRAM 503等に一時的に記憶される。
インターフェース508には、外部メモリ509、コントローラ510、モニタ511、及びスピーカ512が、着脱可能に接続される。
外部メモリ509には、ユーザの個人情報に関するデータなどが書き換え可能に記憶される。
コントローラ510は、情報処理装置500の各種の設定時などに行われる操作入力を受け付ける。情報処理装置500のユーザは、コントローラ510を介して指示入力を行うことにより、これらのデータを適宜外部メモリ509に記録することができる。
モニタ511は、画像処理部505により出力されたデータを情報処理装置500のユーザに提示する。
スピーカ512は、音声処理部506により出力された音声データを情報処理装置500のユーザに提示する。
この他、情報処理装置500は、ハードディスク等の大容量外部記憶装置を用いて、ROM 502、RAM 503、外部メモリ509、DVD−ROMドライブ507に装着されるDVD−ROM等と同じ機能を果たすように構成してもよい。
以下、上記情報処理装置500において実現される実施形態に係るサーバ装置100又は端末装置200について、図1乃至28を参照して説明する。情報処理装置500の電源を投入することにより、実施形態に係るサーバ装置100又は端末装置200として機能させるプログラムが実行され、実施形態に係るサーバ装置100又は端末装置200が実現される。
以下の実施形態において、WEBサーバ装置400により端末装置200に提供されるWEBページの例を図3に示す。WEBページ600は、画像601、602、603と、テキスト604、605、606と、から構成される。画像601、603は、文字を含む画像であり、画像602は、文字を含まない画像であるとする。また、画像601、602、603の画像URLを、“http://xxx.601.jpg”、“http://xxx.602.jpg”、“http://xxx.603.jpg”、であるとする。
(2.実施形態1のサーバ装置の概要構成)
実施形態1のサーバ装置100は、画像内に含まれる文字列の翻訳に際し、当該画像について既に文字認識の処理が行われている場合、画像の取得及び文字認識の処理を省略することを可能にするものである。
本実施形態に係るサーバ装置100は、図4に示すように、要求受信部101と、画像処理部102と、応答送信部103と、から構成される。
要求受信部101は、画像の識別情報と、画像処理に対するパラメータと、が指定された要求を、端末装置200から受信する。
画像の識別情報とは、例えば、画像URLである。また、画像処理とは、例えば、画像内の文字を認識するための文字認識の処理である。そして、画像処理に対するパラメータとは、例えば、画像内の文字がどの言語であるかを示す認識用言語である。画像内の文字は、指定された認識用言語であるとして、文字認識が行われる。
以下、ユーザがWEBページ600の画像601について、サーバ装置100に翻訳を求める場合を例に説明する。例えば、ユーザが、端末装置200において表示された画像601にカーソル701を重ねると(マウスオーバすると)、図5(a)に示すように、認識用言語の指定を求めるポップアップ801が表示される。図5(b)に示すように、ユーザがカーソル701でボタン802をクリックすると、プルダウンメニューが表示される。ユーザは、メニューの中から画像601内の文字列の言語(認識用言語)を選択する。そして、図5(c)に示すように、認識用言語“英語”が指定されると、画像601の画像URL“http://xxx.601.jpg”と、認識用言語“英語”とが指定された要求が、サーバ装置100に送信される。サーバ装置100の要求受信部101は、当該要求を受信する。
本実施形態では、CPU 501及びNIC 504が協働して、要求受信部101として機能する。なお、以下の実施形態2乃至6においても同様である。
画像処理部102は、受信された要求に指定された識別情報に基づいて画像を取得し、取得された画像に対して、受信された要求に指定されたパラメータを用いて画像処理を適用することにより、当該画像内から抽出された抽出情報を出力する。
ここで、抽出情報とは、例えば、文字認識の結果、得られる画像内の文字列(以下、「認識済文字列」という)である。例えば、画像URL“http://xxx.601.jpg”及び認識用言語“英語”が指定された要求が受信されたとすると、画像処理部102は、まず当該画像URLに基づいて、WEBサーバ400から画像601を取得する。そして、画像処理部102は、取得した画像601内に含まれる文字は、英語であるとして、文字認識を行う。文字認識の結果、画像601内の文字が、“Sale Water Best bang for the buck”であると判断されると、画像処理部102は、これらの文字列を画像601内から抽出された認識済文字列として出力する。
また、画像処理部102は、抽出情報が抽出されると、当該抽出情報に対する画像の識別情報ならびにパラメータに対応付けて、当該抽出された抽出情報をキャッシュする。
例えば、RAM 503には、図6に示すような抽出情報テーブル101aが格納されているとする。抽出情報テーブル101には、画像の識別情報(画像URL)101a1と、パラメータ(認識用言語)101a2と、抽出情報(認識済文字列)101a3と、が対応付けて登録される。画像処理部102は、文字認識により認識済文字列“Sale Water Best bang for the buck”を得ると、当該認識済文字列と、画像601の画像URL“http://xxx.601.jpg”と、認識用言語“英語”と、を対応付けて、抽出情報テーブル101aに登録する。
本実施形態では、CPU 501及び画像処理部505が協働して、画像処理部102として機能する。なお、以下の実施形態2乃至6においても同様である。
応答送信部103は、画像処理部102により出力された抽出情報が指定される応答を、端末装置200へ送信する。
例えば、応答送信部103は、認識済文字列“Sale Water Best bang for the buck”が指定された応答を、端末装置200へ送信する。ここで、当該応答は、例えば、端末装置200に表示されているWEBページ内の文字認識が終了した画像に、任意の図形を重ねて表示させるためのタグを追加する命令も含むものであるとする。例えば、端末装置200が当該応答を受信すると、図7に示すように、文字認識が終了した画像601に半透明の矩形901が重ねて表示される。
本実施形態では、CPU 501及びNIC 504が協働して、応答送信部103として機能する。なお、以下の実施形態2乃至6においても同様である。
そして、画像処理部102は、受信された要求に指定される識別情報ならびにパラメータに対応付けられる抽出情報がキャッシュされている場合、画像の取得ならびに画像処理の適用にかえて、キャッシュされている抽出情報を得て、当該得られた抽出情報を出力する。
例えば、要求受信部101が、画像601の画像URLと認識用言語“英語”とを指定された要求を受信すると、画像処理部102は、図6の抽出情報テーブル101aを参照する。画像601の識別情報及び認識用言語“英語”に対応する認識済文字列“Sale Water Best bang for the buck”が登録されているので、画像処理部102は、画像601の取得及び文字認識の処理を省略して、当該認識済文字列を応答送信部103へ出力する。
(3.実施形態1のサーバ装置の動作)
次に、本実施形態のサーバ装置100の各部が行う動作について図8のフローチャートを用いて説明する。サーバ装置100に電源が入れられると、CPU 501は図8のフローチャートに示す制御処理を開始する。
要求受信部101は、画像の識別情報(画像URL)と、画像処理に対するパラメータ(認識用言語)と、が指定された要求を、端末装置200から受信する(ステップS101)。例えば、ユーザが、画像601にカーソル701を重ね、図5(a)〜(c)に示す手順で認識用言語“英語”を指定すると、要求受信部101は、画像URL“http://xxx.601.jpg”と、認識用言語“英語”とが指定された要求を受信する。
画像処理部102は、受信された要求に指定される識別情報ならびに認識用言語に対応付けられる抽出情報(認識済文字列)がキャッシュされているか否かを判断する(ステップS102)。
画像処理部102は、当該認識済文字列がキャッシュされていると判断した場合(ステップS102;Yes)、キャッシュされている認識済文字列を出力する(ステップS103)。例えば、図6に示す抽出情報テーブル101aがRAM 503に格納されている場合、画像処理部102は、画像URL“http://xxx.601.jpg”と、認識用言語“英語”とに対応付けられた認識済文字列“Sale Water Best bang for the buck”を応答送信部103に出力する。
一方、画像処理部102は、当該認識済文字列がキャッシュされていないと判断した場合(ステップS102;No)、受信された要求に指定される画像URLの画像を取得する(ステップS105)。例えば、画像URL“http://xxx.601.jpg”と、認識用言語“英語”とに対応付けられた認識済文字列の情報が抽出情報テーブル101aに登録されていなかった場合、画像処理部102は、WEBサーバ400にアクセスし、画像URL“http://xxx.601.jpg”に対応する画像601を取得する。
画像処理部102は、画像を取得すると、次に、要求に指定された認識用言語を用いて文字認識を行い、画像内から文字列(認識済文字列)を抽出する(ステップS106)。例えば、画像処理部102は、画像601内の文字は“英語”であるとして、画像601に対して文字認識を行い、“Sale Water Best bang for the buck”の認識済文字列を得る。
画像処理部102は、画像の識別情報と、認識用言語と、認識済文字列を対応付けてキャッシュする(ステップS107)。例えば、画像処理部102は、図6に示すように、画像URL“http://xxx.601.jpg”と、認識用言語“英語”と、認識済文字列“Sale Water Best bang for the buck”と、を対応付けて、抽出情報テーブル101aに登録する。
そして、画像処理部102は、抽出された認識済文字列を出力する(ステップS108)。例えば、画像処理部102は、文字認識の結果として認識済文字列“Sale Water Best bang for the buck”を応答送信部103へ出力する。
応答送信部103は、ステップS103又はステップS108において出力された認識済文字列が指定される応答を、端末装置200へ送信する(ステップS104)。例えば、応答送信部103は、認識済文字列“Sale Water Best bang for the buck”が指定された応答を端末装置200へ送信する。
本実施形態によれば、画像について、既に文字認識の結果が得られている場合、画像の取得及び文字認識の処理を省略することができる。そして、文字認識の結果得られた文字列について翻訳することにより、画像内の文字列の翻訳に要する時間を短縮することができる。
(4.実施形態2のサーバ装置の概要構成)
実施形態2のサーバ装置100は、画像内に含まれる文字列の翻訳に際し、当該画像内の指定された領域について既に文字認識の処理が行われている場合、画像の取得及び文字認識の処理を省略することを可能にするものである。
本実施形態に係るサーバ装置100は、実施形態1と同様に、要求受信部101と、画像処理部102と、応答送信部103と、から構成されるが(図4)、各部の機能や扱う情報は、実施形態1と異なる。以下、詳細に説明する。
要求受信部101は、画像の識別情報と、当該画像内の指定領域とが指定された要求を、端末装置200から受信する。
ここで、指定領域とは、例えば、端末装置200を操作するユーザにより指定される、WEBページの画像内の領域である。例えば、指定領域は長方形により定められ、長方形の左上の角及び右下の角の座標により特定されるものとする。
例えば、図9(a)に示すように、ユーザが、端末装置200において、カーソル701をドラッグして画像601内の領域902を選択したとする。ここで、画像601の左上の角911の座標(“(縦座標、横座標)”とする)が“(0、0)”、右下の角912の座標が(200、300)と設定されているとする。また、領域902の左上の角の座標が(5、100)、右下の角の座標が(48、200)であるとする。ユーザにより領域902が指定されると、端末装置200は、画像601の画像URL“http://xxx.601.jpg”と、指定領域“(5、100):(48、200)”とが指定された要求をサーバ装置100に送信する。サーバ装置100の要求受信部101は、当該要求を受信する。
なお、指定領域を指定する手法は、上記に限られない。例えば、図9(b)に示すように、画像内にカーソル701を重ねると、カーソル701を中心として所定の大きさの長方形903が表示され、長方形903の領域を指定領域とするようにしてもよい。また、指定領域は長方形に限らず、円形等であってもよい。
画像処理部102は、受信された要求に指定された識別情報に基づいて画像を取得し、取得された画像内の指定領域について文字認識を行うことにより、当該画像内の当該指定領域から認識された認識済文字列を出力する。
画像処理部102は、例えば、画像URL“http://xxx.601.jpg”、及び、指定領域“(5、100):(48、200)”が指定された要求が受信されたとすると、画像処理部102は、まず当該画像URLに基づいて、WEBサーバ400から画像601を取得する。次に、画像処理部102は、文字認識のための認識用言語を推定する。例えば、WEBページ600のURLに、国を示すドメインコードが含まれる場合、当該ドメインコードから画像内に含まれる文字の言語を推定する。例えば、ドメインコードに“.UK”が含まれれば、認識用言語を“英語”と推定する。あるいは、html内に言語を指定するタグが存在するか判断し、存在する場合はその言語を認識用言語とする。例えば、html内に“<html lang=“en”>”のタグが存在した場合、認識用言語を“英語”とする。本実施形態では、認識用言語は“英語”と推定されたとする。画像処理部102は、取得した画像601の指定領域“(5、100):(48、200)”に含まれる文字は、“英語”であるとして、文字認識を行う。文字認識の結果、当該指定領域内の文字が、“Sale”であると判断されると、画像処理部102は、この文字列を認識済文字列として出力する。
画像処理部102は、認識済文字列が抽出されると、当該認識済文字列に対する画像の識別情報ならびに指定領域に対応付けて、当該認識済文字列をキャッシュする。
例えば、画像処理部102は、図10に示すように、画像601の画像URL“http://xxx.601.jpg”と、認識用言語“英語”と、指定領域“(5、100):(48、200)”と認識済文字列“Sale”と、を対応付けて、抽出情報テーブル101aに登録する。
ここで、画像処理部102は、認識済文字列が抽出されると、指定領域を指定領域内において当該認識済文字列が認識された認識領域に補正してから、当該認識済文字列をキャッシュするようにしてもよい。
認識領域とは、例えば、認識済文字列を含む長方形であって、長方形の縦方向及び横方向の長さを最小にした長方形により特定される領域であるとする。例えば、 “Sale”の認識領域(図11の領域921)は、“(8、110):(45、170)”、“Water”の認識領域(図11の領域922)は、“(60、120):(90、180)”、“Best bang for the buck”の認識領域(図11の領域923)は、“(110、25):(190、270)”とする。
例えば、図9(a)に示すように、領域902が指定領域として指定され、指定領域“(5、100):(48、200)”と指定された要求が受信されたとする。この場合、画像処理部102は、当該指定領域について文字認識をし、“Sale”の文字列を抽出した後、当該文字列が含まれる認識領域を求める。そして、画像処理部102は、図12に示すように、画像URL“http://xxx.601.jpg”と、認識用言語“英語”と、指定領域(認識領域)“(8、110):(45、170)”と、認識済文字列“Sale”と、を対応付けて抽出情報テーブル101aに登録する。
また、例えば、図9(c)に示すように、画像601からはみ出した領域904が指定領域として指定され、指定領域“(52、−20):(98、320)”と指定された要求が受信されたとする。この場合、画像処理部102は、図12に示すように、画像601の画像URL“http://xxx.601.jpg”と、認識用言語“英語”と、指定領域(認識領域)“(60、120):(90、180)”と、認識済文字列“Water”とを対応付けて、抽出情報テーブル101aに登録する。
また、例えば、図9(d)に示すように、画像601内の文字列を横切るような領域905が指定領域として指定され、指定領域“(85、15):(210、285)”と指定された要求が受信されたとする。この場合、画像処理部102は、図12に示すように、画像601の画像URL“http://xxx.601.jpg”と、認識用言語“英語”と、指定領域(認識領域)“(110、25):(190、270)”と、認識済文字列“Best bang for the buck”と、を対応付けて、抽出情報テーブル101aに登録する。
応答送信部103は、画像処理部102により出力された認識済文字列が指定される応答を、端末装置200へ送信する。
例えば、認識済文字列“Sale”が指定された応答が端末装置200に受信されると、図13(a)に示すように、文字認識が終了した認識済文字列“Sale”の認識領域に半透明の矩形931が重ねて表示される。同様に、図13(b)乃至図13(d)に示すように、認識領域に半透明の矩形932、933が重ねて表示される。
そして、画像処理部102は、受信された要求に指定される識別情報ならびにパラメータに含まれる指定領域に対応付けられる認識済文字列がキャッシュされている場合、画像処理部102は、画像の取得及び文字認識にかえて、キャッシュされている認識済文字列を得て、当該得られた認識済文字列を出力する。
ここで、画像処理部102は、認識済文字列がキャッシュされた際に対応付けられた識別情報と、受信された要求に指定された識別情報と、が一致し、認識済文字列がキャッシュされた際に対応付けられた指定領域と、受信された要求に指定され指定領域と、が、重複する場合、受信された要求に指定される識別情報ならびにパラメータに含まれる指定領域に対応付けられる抽出情報がキャッシュされていると判定する。
例えば、ユーザが、図13(a)に示すように、領域906を指定すると、要求受信部101が、画像601の画像URLと、指定領域“(5、35):(52、200)”とを指定した要求を受信する。当該要求が受信されると、画像処理部102は、図12の抽出情報テーブル101aを参照する。抽出情報テーブル101aには、画像601の画像URLは一致し、要求に指定された指定領域“(5、35):(52、200)”とキャッシュされている指定領域“(8、110):(45、170)”とが重複する認識済文字列が登録されている。したがって、画像処理部102は、画像の取得及び文字認識の処理を省略して、認識済文字列“Sale”を応答送信部103に出力する。
なお、要求に指定された指定領域とキャッシュされた指定領域とが重複するか否かの判断は、適宜設定することができる。
例えば、図13(a)及び図13(b)に示すように、要求に指定された指定領域(領域906、907)がキャッシュされた指定領域(認識領域、矩形931、932)の全部を含む場合は、重複すると判断する。一方、図13(c)に示すように、要求に指定された指定領域(領域908)とキャッシュされた指定領域(認識領域、矩形933)とが一部のみ重なる場合、重複しないと判断するようにしてもよい。あるいは、認識領域と要求に指定された指定領域とが認識領域の面積の所定の割合だけ重なる場合、重複すると判断するようにしてもよい。また、あるいは、図13(d)に示すように、認識領域(矩形933)にカーソル701が重なった場合に、重複すると判断するようにしてもよい。
(5.実施形態2のサーバ装置の動作)
次に、本実施形態のサーバ装置100の各部が行う動作について図14のフローチャートを用いて説明する。サーバ装置100に電源が入れられると、CPU 501は図14のフローチャートに示す制御処理を開始する。
要求受信部101は、画像の識別情報と、指定領域と、が指定された要求を、端末装置200から受信する(ステップS201)。例えば、ユーザが図9(a)の領域902を指定すると、要求受信部101は、画像URL“http://xxx.601.jpg”と、指定領域“(5、100):(48、200)”とが指定された要求を受信する。
画像処理部102は、受信された要求に指定される識別情報(画像URL)ならびに指定領域に対応付けられる抽出情報(認識済文字列)がキャッシュされているか否かを判断する(ステップS202)。
画像処理部102は、当該認識済文字列がキャッシュされていると判断した場合(ステップS202;Yes)、キャッシュされている認識済文字列を出力する(ステップS203)。例えば、画像処理部102は、図12に示す抽出情報テーブル101aを参照して、画像URLは一致し、要求に指定された指定領域“(5、100):(48、200)”とキャッシュされた指定領域(認識領域)“(8、110):(45、170)”とが重複すると判断する。この場合、画像処理部102は、画像URL及び認識領域に対応付けられた認識済文字列“Sale”を応答送信部103に出力する。
一方、画像処理部102は、当該認識済文字列がキャッシュされていないと判断した場合(ステップS202;No)、受信された要求に指定される画像URLの画像を取得する(ステップS205)。例えば、画像URL“http://xxx.601.jpg”が一致しない場合、あるいは、要求に指定された指定領域とキャッシュされた指定領域が重複しなかった場合、画像処理部102は、WEBサーバ400にアクセスし、画像URL“http://xxx.601.jpg”に対応する画像601を取得する。
画像処理部102は、画像を取得すると、次に、認識用言語を推定し、当該認識用言語を用いて文字認識を行って、画像内から認識済文字列を抽出する(ステップS206)。例えば、画像処理部102は、画像601の指定領域(領域902)の文字は英語であるとして、領域902に対して文字認識を行い、“Sale”の認識済文字列を得る。
画像処理部102は、画像の識別情報と、認識用言語と、指定領域と、認識済文字列とを対応付けてキャッシュする(ステップS207)。例えば、画像処理部102は、図10に示すように、画像URL“http://xxx.601.jpg”と、認識用言語“英語”と、指定領域“(5、100):(48、200)”と、認識済文字列“Sale”と、を対応付けて、抽出情報テーブル101aに登録する。なお、登録する前に、当該指定領域を認識領域“(8、110):(45、170)”に補正して、図12に示すように登録してもよい。
そして、画像処理部102は、抽出された認識済文字列を出力する(ステップS208)。例えば、画像処理部102は、文字認識の結果として認識済文字列“Sale”を応答送信部103へ出力する。
応答送信部103は、ステップS203又はステップS208において出力された認識済文字列が指定される応答を、端末装置200へ送信する(ステップS204)。例えば、応答送信部103は、認識済文字列“Sale”が指定された応答を端末装置200へ送信する。
本実施形態によれば、ユーザが指定した画像内の領域について、既に文字認識の結果が得られている場合、画像の取得及び文字認識の処理を省略することができる。そして、文字認識の結果得られた文字列について翻訳することにより、画像内の文字列の翻訳に要する時間を短縮することができる。
(6.実施形態3のサーバ装置の概要構成)
実施形態3のサーバ装置100は、画像内に含まれる文字列の翻訳に際し、当該画像内の指定された領域について既に文字認識及び翻訳の処理が行われている場合、画像の取得、文字認識及び翻訳の処理の省略を可能にするものである。
本実施形態に係るサーバ装置100は、実施形態2と同様に、要求受信部101と、画像処理部102と、応答送信部103と、から構成されるが(図4)、各部の機能や扱う情報は、実施形態2と異なる。以下、詳細に説明する。
要求受信部101は、画像の識別情報と、認識用言語と、指定領域と、変換情報と、が指定された要求を、端末装置200から受信する。
変換情報とは、例えば、画像に含まれる文字列の翻訳後の言語(以下、「翻訳先言語」という)である。認識用言語を用いて画像内から抽出された認識済文字列は、翻訳先言語に翻訳される。
以下、ユーザがWEBページ600の画像601内の指定領域(領域909、座標は“(100、20):(200、280)”とする)について、サーバ装置100に翻訳を求める場合を例に説明する。例えば、ユーザが、端末装置200においてカーソル701をドラッグして画像601内の領域909を選択すると、図15(a)に示すように、認識用言語及び翻訳先言語の指定を求めるポップアップ803が表示される。図15(b)に示すように、ユーザがカーソル701でボタン804をクリックすると、プルダウンメニューが表示される。ユーザは、メニューの中から領域909内の文字列の言語(認識用言語)を選択する。同様に、翻訳先言語についてボタン805をクリックして、メニューの中から領域909内の文字列を何語(翻訳先言語)に翻訳するかを選択する。図15(c)に示すように、認識用言語“英語”及び翻訳先言語“日本語”が指定されると、画像601の画像URL“http://xxx.601.jpg”と、指定領域“(100、20):(200、280)”と、認識用言語“英語”と、翻訳先言語“日本語”と、が指定された要求が、サーバ装置100に送信される。サーバ装置100の要求受信部101は、当該要求を受信する。
画像処理部102は、受信された要求に指定された識別情報に基づいて画像を取得し、取得された画像内の指定領域について文字認識を行うことにより、当該画像内の当該指定領域から認識された認識済文字列を出力する。そして、画像処理部102は、出力された認識済文字列に対して、受信された要求に指定された変換情報(翻訳先言語)を用いて変換処理を行うことにより、当該認識済文字列から変換された変換済文字列を出力する。
例えば、画像処理部102は、要求に指定された画像URL“http://xxx.601.jpg”に対応する画像601をWEBサーバ400から取得する。次に、画像処理部102は、指定領域“(100、20):(200、280)”について認識用言語“英語”を用いて認識済文字列“Best bang for the buck”を抽出する。そして、画像処理部102は、当該認識済文字列を、翻訳先言語“日本語”に変換し、変換済文字列“お買い得”を応答送信部103へ出力する。
画像処理部102は、変換済文字列が抽出されると、当該変換済文字列に対する画像の識別情報、指定領域、認識用言語、認識済文字列、ならびに、変換情報に対応付けて、当該変換済文字列をキャッシュする。なお、本実施形態では、キャッシュされる指定領域は、認識領域とする。
例えば、画像処理部102は、図16に示すように、画像601の画像URL“http://xxx.601.jpg”と、認識用言語“英語”と、指定領域“(110、25):(190、270)”と、翻訳先言語“日本語”と、認識済文字列“Best bang for the buck”と、変換済文字列“お買い得”と、を対応付けて、抽出情報テーブル101aに登録する。なお、登録する情報はこれらの組み合わせに限らず、例えば、翻訳先言語及び変換済文字列を登録しないことも可能である。
そして、画像処理部102は、受信された要求に指定される識別情報(画像URL)、指定領域、認識用言語、ならびに、変換情報(翻訳先言語)に対する変換済文字列がキャッシュされている場合、画像処理部102は、変換処理にかえて、キャッシュされている変換済文字列を得て、当該得られた変換済文字列を出力する。
例えば、ユーザが図17(a)に示すように、領域910(座標を“(90、0):(200、290)”とする)を指定し、ポップアップ806において、認識用言語“英語”と、翻訳先言語“日本語”とを選択したとする。この場合、要求受信部101は、画像601の画像URLと、指定領域“(90、0):(200、290)”と、認識用言語“英語”と、翻訳先言語“日本語”と、を指定した要求を受信する。画像処理部102は、図16の抽出情報テーブル101aを参照し、当該要求に指定された画像URL、認識用言語、及び翻訳先言語と、キャッシュされたこれらの情報とは一致し、要求に指定された指定領域“(90、0):(200、290)”とキャッシュされている指定領域“(110、25):(190、270)”とは重複すると判断する。したがって、画像処理部102は、画像の取得、文字認識、及び、変換処理の処理を省略して、変換済文字列“お買い得”を応答送信部103へ出力する。
なお、画像URL及び認識用言語が一致し、要求に指定された指定領域とキャッシュされている指定領域が重複した場合、画像処理部102は、画像の取得及び文字認識の処理のみを省略して、抽出情報テーブル101aに登録された認識済文字列を用いて翻訳先言語に変換し、変換済文字列を得るようにしてもよい。例えば、要求受信部101が、画像601の画像URLと、指定領域“(90、0):(200、290)”と、認識用言語“英語”と、翻訳先言語“ドイツ語”と、を指定した要求を受信する。この場合、図16の抽出情報テーブル101aには、対応する変換済文字列は登録されていないので、認識済文字列“Best bang for the buck”をドイツ語に翻訳する変換処理を行い、変換済文字列を出力する。
応答送信部103は、画像処理部102により出力された変換済文字列が指定された応答を、端末装置200へ送信する。
例えば、変換済文字列“お買い得”が指定された応答が端末装置200に受信されると、図17(c)に示すように、変換済文字列“お買い得”が記されたポップアップ807がWEBページ600内に表示される。あるいは、図17(d)に示すように、認識領域に変換済文字列が記された矩形941を重ねて表示するようにしてもよい。
(7.実施形態3のサーバ装置の動作)
次に、本実施形態のサーバ装置100の各部が行う動作について図18のフローチャートを用いて説明する。サーバ装置100に電源が入れられると、CPU 501は図18のフローチャートに示す制御処理を開始する。
要求受信部101は、画像の識別情報(画像URL)と、指定領域と、認識用言語と、変換情報(翻訳先言語)と、が指定された要求を、端末装置200から受信する(ステップS301)。例えば、ユーザが、図15(a)の領域909を指定し、図15(c)に示すようにポップアップ803で認識用言語及び翻訳先言語を指定すると、要求受信部101は、画像URL“http://xxx.601.jpg”と、指定領域“(100、20):(200、280)”と、認識用言語“英語”と、翻訳先言語“日本語”とが指定された要求を受信する。
画像処理部102は、受信された要求に指定される識別情報と、指定領域と、認識用言語と、翻訳先言語とに対応付けられる変換済文字列がキャッシュされているか否かを判断する(ステップS302)。
画像処理部102は、当該変換済文字列がキャッシュされていると判断した場合(ステップS302;Yes)、キャッシュされている変換済文字列を出力する(ステップS303)。例えば、画像処理部102は、図16に示す抽出情報テーブル101aを参照して、画像URL、認識用言語、及び翻訳先言語は一致し、要求に指定された指定領域“(100、20):(200、280)”とキャッシュされた指定領域(認識領域)“(110、25):(190、270)”とが重複すると判断する。この場合、画像処理部102は、画像URL、指定領域、認識用言語、及び翻訳先言語に対応付けられた変換済文字列“お買い得”を応答送信部103に出力する。
一方、画像処理部102は、当該変換済文字列がキャッシュされていないと判断した場合(ステップS302;No)、画像URLと、指定領域と、認識用言語とに対応付けられる認識済文字列がキャッシュされているか否かを判断する(ステップS305)。
画像処理部102は、当該認識済文字列がキャッシュされていると判断した場合(ステップS305;Yes)、キャッシュされている認識済文字列を翻訳先言語に変換して、変換済文字列を取得する(ステップS306)。例えば、図16の抽出情報テーブル101aにおいて、翻訳先言語“日本語”及び変換済文字列“お買い得”が登録されていなかった場合、画像処理部102は、認識済文字列“Best bang for the buck”を翻訳先言語“日本語”に変換し、変換済文字列“お買い得”を得る。
一方、画像処理部102は、当該認識済文字列がキャッシュされていないと判断した場合(ステップS305;No)、受信された要求に指定される画像URLの画像を取得する(ステップS309)。そして、画像処理部102は、当該画像内の指定領域について文字認識を行い、認識済文字列を抽出する(ステップS310)。例えば、画像URL“http://xxx.601.jpg”が一致しない場合、あるいは、要求に指定された指定領域とキャッシュされた指定領域が重複しなかった場合、画像処理部102は、WEBサーバ400にアクセスし、画像URL“http://xxx.601.jpg”に対応する画像601を取得する。そして、要求に指定される認識用言語“英語”を用いて指定領域について文字認識を行い、認識済文字列“Best bang for the buck”を抽出する。
ステップS310において、認識済文字列が抽出されると、画像処理部102は当該認識済文字列に対して変換処理を行う(ステップS306)。
画像処理部102は、画像の識別情報と、認識用言語と、翻訳先言語と、指定領域と、認識済文字列と、変換済文字列と、を対応付けてキャッシュする(ステップS307)。そして、取得した変換済文字列を応答送信部103へ出力する(ステップS308)。例えば、画像処理部102は、図16に示すように、画像URL“http://xxx.601.jpg”と、認識用言語“英語”と、翻訳先言語“日本語”と、指定領域(認識領域)“(110、25):(190、270)”と、認識済文字列“Best bang for the buck”と、変換済文字列“お買い得”と、を対応付けて、抽出情報テーブル101aに登録する。そして、変換済文字列“お買い得”を応答送信部103へ出力する。
そして、画像処理部102は、ステップS303又はステップS308において出力された変換済文字列が指定される応答を、端末装置200へ送信する(ステップS304)。例えば、応答送信部103は、変換済文字列“お買い得”が指定された応答を端末装置200へ送信する。
本実施形態によれば、ユーザが指定した画像内の領域について、既に変換処理の結果(翻訳結果)が得られている場合、画像の取得、文字認識の処理、及び、変換処理を省略することができる。これにより、画像内の文字列の翻訳に要する時間を短縮することができる。
(8.実施形態4のサーバ装置の概要構成)
実施形態4のサーバ装置100は、画像について文字認識の処理が終了しているか否かをユーザに提示するものである。
本実施形態に係るサーバ装置100は、図19に示すように、要求受信部101と、画像処理部102と、応答送信部103と、問合受信部104と、回答送信部105と、から構成される。本実施形態の要求受信部101、画像処理部102、及び、応答送信部103は、実施形態1と同様の機能を有する。以下、異なる機能を有する問合受信部104及び回答送信部105について説明する。
問合受信部104は、画像の識別情報が指定された問合せを、端末装置200から受信する。
例えば、図20(a)に示すように、ユーザが画像601内にカーソル701を重ねると(マウスオーバをすると)、端末装置200は、画像601の画像URLが指定された問合せをサーバ装置100に送信する。サーバ装置100の問合受信部104は、当該問合せを受信する。
本実施形態では、CPU 501及びNIC 504が協働して、問合受信部104として機能する。なお、以下の実施形態5及び6においても同様である。
回答送信部105は、受信された問合せに指定される識別情報に対応付けられる抽出情報がキャッシュされていない場合、画像の識別情報と、画像処理のパラメータと、が指定された要求の送信を促すメッセージが指定された回答を、端末装置200へ送信し、受信された問合せに指定される識別情報に対応付けられる抽出情報がキャッシュされている場合、当該抽出情報が指定された回答を、端末装置200へ送信する。
ここで、画像処理のパラメータとは、文字認識のための認識用言語であり、抽出情報とは、認識済文字列であるとする。サーバ装置100には、図6に示す抽出情報テーブル101aが格納されているとする。当該抽出情報テーブル101aには、要求に指定された画像601の画像URL“http://xxx.601.jpg”に対応する認識済文字列“Sale Water Best bang for the buck”が登録されている。したがって、回答送信部105は、認識済文字列が指定された回答を端末装置200に送信する。端末装置200が当該回答を受信すると、端末装置200に表示されるWEBページには、図20(a)に示すように、認識済文字列を含むポップアップ809が表示される。
なお、認識済文字列がキャッシュされている場合に送信される回答には、認識済文字列が得られている旨のメッセージが指定されるようにしてもよい。端末装置200が当該回答を受信すると、図20(b)に示すように、認識済文字列が得られている旨のメッセージを含むポップアップ810が表示される。
一方、サーバ装置100に、画像601の画像URLに対応する認識済文字列がキャッシュされていない場合、回答送信部105は、画像601の画像URL及び認識用言語が指定された要求を送信するよう促すメッセージが指定された回答を、端末装置200に送信する。端末装置200が当該回答を受信すると、端末装置200に表示されるWEBページには、図5(a)に示すように、認識用言語の入力を求めるポップアップ801が表示される。
本実施形態では、CPU 501及びNIC 504が協働して、回答送信部105として機能する。なお、以下の実施形態5及び6においても同様である。
(9.実施形態4のサーバ装置の動作)
次に、本実施形態のサーバ装置100の各部が行う動作について図21のフローチャートを用いて説明する。サーバ装置100に電源が入れられると、CPU 501は図21のフローチャートに示す制御処理を開始する。
問合受信部104は、画像の識別情報が指定された問合せを、端末装置200から受信する(ステップS401)。例えば、画像601の画像URLが指定された問合せを受信する。
回答送信部105は、当該問合せに指定される識別情報に対応付けられる認識済文字列がキャッシュされているか否かを判断する(ステップS402)。
回答送信部105は、当該認識済文字列がキャッシュされていると判断すると(ステップS402;Yes)、キャッシュされている認識済文字列が指定された回答を、端末装置200に送信する(ステップS403)。例えば、画像601の画像URLに対応する認識済文字列“Sale Water Best bang for the buck”が、サーバ装置100に格納される抽出情報テーブル101aに登録されている場合(図6)、回答送信部104は、端末装置200に、当該認識済文字列を指定した回答を端末装置200に送信する。
一方、回答送信部105は、当該認識済文字列がキャッシュされていないと判断すると(ステップS402;No)、認識用言語の指定を促すメッセージが指定された回答を、端末装置200に送信する(ステップS404)。例えば、画像601の画像URLに対応する認識済文字列が、サーバ装置100に格納される抽出情報テーブル101aに登録されていない場合、回答送信部104は、画像601の画像URL及び認識用言語が指定された要求を送信するよう促すメッセージが指定された回答を、端末装置200に送信する。
この後、端末装置200から画像601の画像URL及び認識用言語が指定された要求を受け付けると、サーバ装置100は、例えば、図8のフローチャートに示す制御処理を開始する。
本実施形態によれば、画像にマウスオーバ等するだけで、ユーザに、画像について文字認識の処理が終了しているか否かを知らせることができる。
(10.実施形態5のサーバ装置の概要構成)
実施形態5のサーバ装置100は、画像内の領域について文字認識の処理が終了しているか否かをユーザに提示するものである。
本実施形態に係るサーバ装置100は、図19に示すように、要求受信部101と、画像処理部102と、応答送信部103と、問合受信部104と、回答送信部105と、から構成される。本実施形態の要求受信部101、画像処理部102、及び、応答送信部103は、実施形態2と同様の機能を有する。以下、異なる機能を有する問合受信部104及び回答送信部105について説明する。
問合受信部104は、画像の識別情報と、当該画像内の位置と、が指定された問合せを、端末装置200から受信する。
例えば、図22(a)に示すように、ユーザが画像601内にカーソル701を重ねると(マウスオーバをすると)、端末装置200は、画像601の画像URLと、当該カーソル701の位置の座標(“(75:175)”とする)とが指定された問合せをサーバ装置100に送信する。サーバ装置100の問合受信部104は、当該問合せを受信する。
回答送信部105は、受信された問合せに指定される識別情報、ならびに、受信された問合せに指定される位置を含む指定領域に対応付けられる認識済文字列が、画像処理部102によりキャッシュされている場合、当該キャッシュされている認識済文字列が指定された回答を、端末装置200へ送信する。
例えば、サーバ装置100には、図12に示す抽出情報テーブル101aが格納されているとする。図22(a)に示すように、要求に指定された位置の座標“(75:175)”は、認識領域922に含まれる。当該抽出情報テーブル101aには、要求に指定された画像601の画像URL“http://xxx.601.jpg”と、要求に指定された位置の座標を含む指定領域(認識領域922)とに対応する認識済文字列“Water”が登録されている。したがって、回答送信部105は、当該認識済文字列が指定された回答を端末装置200に送信する。端末装置200が当該回答を受信すると、端末装置200に表示されるWEBページには、図22(a)に示すように、認識済文字列“Water”を含むポップアップ811が表示される。
なお、認識済文字列がキャッシュされている場合に送信される回答には、翻訳先言語が指定された要求の送信を促すメッセージが指定されるようにしてもよい。端末装置200が当該回答を受信すると、図22(b)に示すように、翻訳先言語の指定を求めるポップアップ812が表示される。
一方、サーバ装置100に、画像601の画像URL及び指定された位置が含まれる指定領域に対応する認識済文字列がキャッシュされていない場合、回答送信部105は、当該指定領域について画像601の画像URL、画像内の位置及び認識用言語が指定された要求を送信するよう促すメッセージが指定された回答を、端末装置200に送信する。端末装置200が当該回答を受信すると、端末装置200に表示されるWEBページには、例えば、図22(c)に示すように、認識用言語の入力を求めるポップアップ813が表示される。
(11.実施形態5のサーバ装置の動作)
次に、本実施形態のサーバ装置100の各部が行う動作について図23のフローチャートを用いて説明する。サーバ装置100に電源が入れられると、CPU 501は図23のフローチャートに示す制御処理を開始する。
問合受信部104は、画像の識別情報と、当該画像内の位置と、が指定された問合せを、端末装置200から受信する(ステップS501)。例えば、画像601の画像URL及び位置“(75:175)”が指定された問合せを受信する。
回答送信部105は、当該問合せに指定される識別情報及び位置を含む指定領域に対応付けられる認識済文字列がキャッシュされているか否かを判断する(ステップS502)。
回答送信部105は、当該認識済文字列がキャッシュされていると判断すると(ステップS502;Yes)、キャッシュされている認識済文字列が指定された回答を、端末装置200に送信する(ステップS503)。例えば、画像601の画像URL及び指定された位置“(75:175)”を含む指定領域に対応する認識済文字列“Water”が、サーバ装置100に格納される抽出情報テーブル101aに登録されている場合(図12)、回答送信部104は、端末装置200に、当該認識済文字列を指定した回答を端末装置200に送信する。
一方、回答送信部105は、当該認識済文字列がキャッシュされていないと判断すると(ステップS502;No)、当該画像の指定領域について認識用言語の指定を促すメッセージが指定された回答を、端末装置200に送信する(ステップS504)。例えば、画像601の画像URL及び指定された位置を含む指定領域に対応する認識済文字列が、サーバ装置100に格納される抽出情報テーブル101aに登録されていない場合、回答送信部104は、画像601の画像URL、当該指定領域及び認識用言語が指定された要求を送信するよう促すメッセージが指定された回答を、端末装置200に送信する。
本実施形態によれば、画像内の領域にマウスオーバ等するだけで、ユーザに、当該領域について文字認識の処理が終了しているか否かを知らせることができる。
(12.実施形態6のサーバ装置の概要構成)
実施形態6のサーバ装置100は、画像内の領域について変換処理が終了しているか否かをユーザに提示するものである。
本実施形態に係るサーバ装置100は、図19に示すように、要求受信部101と、画像処理部102と、応答送信部103と、問合受信部104と、回答送信部105と、から構成される。本実施形態の要求受信部101、画像処理部102、及び、応答送信部103は、実施形態3と同様の機能を有する。以下、異なる機能を有する問合受信部104及び回答送信部105について説明する。
問合受信部104は、画像の識別情報と、当該画像内の位置と、変換情報と、が指定された問合せを、端末装置200から受信する。
例えば、図22(a)に示すように、ユーザが画像601内にカーソル701を重ねると、図22(b)に示すように、翻訳先言語(変換情報)の指定を求めるポップアップ812が表示される。そして、ユーザが任意の翻訳先言語(例えば“スペイン語”)を選択すると、端末装置200は、画像601の画像URLと、当該カーソル701の位置の座標“(75:175)”と、翻訳先言語“スペイン語”が指定された問合せをサーバ装置100に送信する。サーバ装置100の問合受信部104は、当該問合せを受信する。
回答送信部105は、受信された問合せに指定される識別情報、変換情報、ならびに、前記受信された問合せに指定される位置を含む指定領域に対応付けられる変換済文字列が、前記画像処理部によりキャッシュされている場合、前記回答に当該キャッシュされている変換済文字列が指定された回答を送信する。
例えば、サーバ装置100には、図24に示す抽出情報テーブル101aが格納されているとする。当該抽出情報テーブル101aには、要求に指定された画像601の画像URL“http://xxx.601.jpg”と、要求に指定された位置の座標を含む指定領域(認識領域922)と、翻訳先言語“スペイン語”に対応する変換済文字列“Agua”が登録されている。したがって、回答送信部105は、当該変換済文字列が指定された回答を端末装置200に送信する。端末装置200が当該回答を受信すると、端末装置200に表示されるWEBページには、図25(a)に示すように、変換済文字列“Agua”を含むポップアップ814が表示される。
一方、サーバ装置100に、画像601の画像URL、指定された位置が含まれる指定領域、及び翻訳先言語に対応する変換済文字列がキャッシュされていない場合、回答送信部105は、当該変換済文字列がキャッシュされていない旨のメッセージが指定された回答を、端末装置200に送信する。端末装置200が当該回答を受信すると、端末装置200に表示されるWEBページには、例えば、図25(b)に示すように、変換済文字列がキャッシュされていない旨のメッセージを含むポップアップ815が表示される。
(13.実施形態6のサーバ装置の動作)
次に、本実施形態のサーバ装置100の各部が行う動作について図26のフローチャートを用いて説明する。サーバ装置100に電源が入れられると、CPU 501は図26のフローチャートに示す制御処理を開始する。
問合受信部104は、画像の識別情報と、当該画像内の位置と、変換情報と、が指定された問合せを、端末装置200から受信する(ステップS601)。例えば、画像601の画像URL、位置“(75:175)”、及び翻訳先言語“スペイン語”が指定された問合せを受信する。
回答送信部105は、当該問合せに指定される識別情報、位置を含む指定領域、及び翻訳先言語に対応付けられる変換済文字列がキャッシュされているか否かを判断する(ステップS602)。
回答送信部105は、当該変換済文字列がキャッシュされていると判断すると(ステップS602;Yes)、キャッシュされている変換済文字列が指定された回答を、端末装置200に送信する(ステップS603)。例えば、画像601の画像URL、指定された位置“(75:175)”を含む指定領域、及び翻訳先言語“スペイン語”に対応する変換済文字列“Agua”が、サーバ装置100に格納される抽出情報テーブル101aに登録されている場合(図24)、回答送信部104は、端末装置200に、当該変換済文字列を指定した回答を端末装置200に送信する。
一方、回答送信部105は、当該変換済文字列がキャッシュされていないと判断すると(ステップS602;No)、当該変換済文字列がキャッシュされていない旨のメッセージが指定された回答を、端末装置200に送信する(ステップS604)。例えば、画像601の画像URL、指定された位置を含む指定領域、及び翻訳先言語“スペイン語”に対応する変換済文字列が、サーバ装置100に格納される抽出情報テーブル101aに登録されていない場合、回答送信部104は、当該変換済文字列がキャッシュされていない旨のメッセージが指定された回答を、端末装置200に送信する。
なお、本実施形態において、問合受信部104は、画像URL及び位置が指定された問合せを受信し、回答送信部105は、当該画像URL及び当該位置が含まれる指定領域に対応する変換済文字列が指定された回答を送信するようにしてもよい。
例えば、画像601の画像URL及び指定された位置“(75:175)”が指定された問合せを受信した場合、回答送信部105は、図24の抽出情報テーブル101aを参照し、当該画像URL及び当該位置が含まれる指定領域に対応する変換済文字列“水”、“Agua”、“L’eau”を取得する。そして、回答送信部105は、これらすべての変換済文字列が指定された回答を端末装置200に送信する。当該回答を端末装置200が受信すると、端末装置200において、例えば、図25(c)に示すようなポップアップ816が表示される。あるいは、回答送信部105は、これまでに要求において指定された頻度の最も高い翻訳先言語に対応する変換済文字列を選択し、当該変換済文字列を指定した回答を送信するようにしてもよい。また、あるいは、回答送信部105は、抽出情報テーブル101aに登録されている変換済文字列からランダムに選択して、当該変換済文字列を指定した回答を送信するようにしてもよい。
本実施形態によれば、画像内の領域にマウスオーバ等するだけで、ユーザに、当該領域について変換処理(翻訳処理)が終了しているか否かを知らせることができる。
(14.実施形態7の端末装置の概要構成)
実施形態7のプログラムは、サーバ装置と通信可能な端末装置に、サーバ装置で行った文字認識又は変換処理の結果を表示させるように機能させるものである。
本実施形態に係るプログラムが動作する端末装置200は、図27に示すように、表示部201と、位置検出部202と、問合送信部203と、回答受信部204と、領域検出部205と、設定部206と、要求送信部207と、応答受信部208と、から構成される。
表示部201は、識別情報により識別される画像を画面に表示する。
例えば、表示部201は、図22(a)に示すように、画像URL“http://xxx.601.jpg”と指定される画像601を表示する。
本実施形態では、CPU 501及び画像処理部505が協働して、表示部201として機能する。
位置検出部202は、画面に表示された画像内の位置の選択を検出する。
例えば、位置検出部202は、図22(a)に示すように、画像内にカーソル701を重ねると、当該カーソル701の位置の座標を検出する。
本実施形態では、CPU 501及び画像処理部505が協働して、位置検出部202として機能する。
問合送信部203は、位置の選択が検出されると、識別情報と、当該選択された位置と、が指定された問合せを、サーバ装置100へ送信する。
例えば、図22(a)の場合、問合送信部203は、画像601の画像URLと、位置の座標“(75:175)”とが指定された問合せをサーバ装置100に送信する。
本実施形態では、CPU 501及びNIC 504が協働して、問合送信部203として機能する。
回答受信部204は、サーバ装置100から、回答を受信する。そして、表示部201が、受信された回答に指定される抽出情報を、画面にさらに表示する。
例えば、回答受信部204は、認識済文字列“Water”が指定された回答を受信する。この場合、表示部201は、図22(a)に示すように、当該認識済文字列が含まれるポップアップ811を表示する。
本実施形態では、CPU 501及びNIC 504が協働して、回答受信部204として機能する。
領域検出部205は、画面に表示された画像内の領域の選択を検出する。
例えば、領域検出部205は、図9(a)に示すように、画像内でカーソル701がドラッグされると、ドラッグされた領域(領域902)の座標を検出する。
本実施形態では、CPU 501及び画像処理部505が協働して、領域検出部205として機能する。
設定部206は、画像処理用のパラメータの設定を促す。
例えば、設定部206は、文字認識に使用する認識用言語の設定を促す。
本実施形態では、CPU 501が設定部206として機能する。
要求送信部207は、領域の選択が検出されると、識別情報と、設定されたパラメータと、当該選択された領域と、が指定された要求を、サーバ装置100へ送信する。
例えば、図9(a)のように領域が指定されて、当該領域の座標が検出されると、要求送信部207は、画像URL“http://xxx.601.jpg”と、認識用言語“英語”と、選択された領域の座標“(5、100):(48、200)”と、が指定された要求を、サーバ装置100へ送信する。
本実施形態では、CPU 501及びNIC 504が協働して、要求送信部207として機能する。
応答受信部208は、サーバ装置100から、応答を受信する。そして、表示部201が、受信された応答に指定される抽出情報を、画面にさらに表示する。
例えば、応答受信部208は、認識済文字列“Sale”が指定された応答を受信する。この場合、表示部201は、例えば、図13(a)に示すように、認識済文字列“Sale”に半透明の矩形931が重ねて表示する。
本実施形態では、CPU 501及びNIC 504が協働して、応答受信部208として機能する。
(15.実施形態7の端末装置の動作)
次に、本実施形態の端末装置200の各部が行う動作について図28のフローチャートを用いて説明する。端末装置200に電源が入れられると、CPU 501は図28のフローチャートに示す制御処理を開始する。
表示部201は、識別情報により識別される画像を画面に表示する(ステップS701)。位置検出部202は、当該画面に表示された画像内の位置の選択を検出したか否かを判断する(ステップS702)。
例えば、表示部201は、画像URL“http://xxx.601.jpg”と指定される画像601を表示し、画像601にカーソル701を重ねると、位置検出部202は、カーソル701の位置の座標“(75:175)”を検出する(図22(a))。
位置検出部202により、位置の選択を検出したと判断されると(ステップS702;Yes)、問合送信部203は、識別情報と、当該選択された位置と、が指定された問合せを、サーバ装置100へ送信する(ステップS703)。そして、回答受信部204は、サーバ装置100から、応答に対する回答を受信する(ステップS704)。表示部201は、受信された回答に指定される抽出情報を、画面にさらに表示する(ステップS705)。
例えば、問合送信部203は、画像601の画像URLと、位置の座標“(75:175)”とが指定された問合せをサーバ装置100に送信する。そして、回答受信部204は、当該位置の座標が含まれる領域において、文字認識により得られた認識済文字列“Water”が指定された回答を受信する。当該回答を受信すると、表示部201は、図22(a)に示すように、当該認識済文字列が含まれるポップアップ811を表示する。
一方、位置検出部202により、位置の選択を検出したと判断されなかった場合(ステップS702;No)、領域検出部205は、画面に表示された画像内の領域の選択を検出したか否かを判断する(ステップS706)。
例えば、ユーザにより、図9(a)に示すように、画像内でカーソル701がドラッグされると、領域検出部205は、ドラッグされた領域(領域902)の座標“(5、100):(48、200)”を検出する。
領域検出部205により、領域の選択を検出したと判断されると(ステップS706;Yes)、設定部206は、画像処理用のパラメータの設定を促す(ステップS707)。要求送信部207は、識別情報と、設定されたパラメータと、当該選択された領域と、が指定された要求を、サーバ装置100へ送信する(ステップS708)。そして、応答受信部208は、サーバ装置100から、当該要求に対応する応答を受信する(ステップS709)。表示部201は、受信された応答に指定される抽出情報を、画面にさらに表示する(ステップS710)。
例えば、設定部206は、文字認識に使用する認識用言語の設定を促し、認識用言語“英語”が設定されると、要求送信部207は、画像601の画像URLと、認識用言語“英語”と、領域の座標“(5、100):(48、200)”と、が指定された要求を、サーバ装置100へ送信する。そして、応答受信部208は、当該領域と重複する領域において、文字認識により得られた認識済文字列“Sale”が指定された応答を受信する。当該応答を受信すると、表示部201は、例えば、図13(a)に示すように、認識済文字列“Sale”に半透明の矩形931が重ねて表示する。
一方、領域検出部205により、領域の選択を検出したと判断されなかった場合(ステップS706;No)、あるいは、ステップS705、S710の処理が終了すると、ステップS701に戻る。
なお、本実施形態において、回答受信部204が受信する回答には、抽出情報が画像のどの領域から抽出されたかを示す領域情報がさらに指定されるようにしてもよい。そして、本実施形態のプログラムは、画像の識別情報と、抽出情報と、領域情報と、を対応付けて端末装置200にキャッシュさせるようにしてもよい。この場合、ユーザが、当該画像と識別情報が同じ画像に対して、キャッシュされた領域情報に含まれる領域にマウスオーバすると、表示部201は、当該領域情報に対応する抽出情報を画面に表示する。
また、応答受信部208が受信する応答には、抽出情報が画像のどの領域から抽出されたかを示す領域情報がさらに指定されるようにしてもよい。そして、本実施形態のプログラムは、画像の識別情報と、抽出情報と、領域情報と、を対応付けて端末装置200にキャッシュさせるようにしてもよい。この場合、ユーザが、当該画像と識別情報が同じ画像に対して、キャッシュされた領域情報が示す領域と重複するように領域を選択すると、表示部201は当該領域情報に対応する抽出情報を画面に表示する。領域が重複するか否かの判断は、例えば、実施形態2の場合と同様に行うことができる。
また、本実施形態のプログラムは、ブラウザが実行する各種のスクリプト言語等により記述される。
本実施形態によれば、サーバ装置と通信可能な端末装置に、サーバ装置で行った文字認識や変換処理の結果を表示させることができ、端末装置においてWEBページ内の画像の文字をリアルタイムで表示させることができる。
本発明によれば、WEBページ内の画像の文字をリアルタイムで翻訳するのに好適なサーバ装置、サーバ装置の制御方法、プログラム、及び、記録媒体を提供することができる。
100 サーバ装置
101 要求受信部
102 画像処理部
103 応答送信部
104 問合受信部
105 回答送信部
211、212〜21n、200 端末装置
201 表示部
202 位置検出部
203 問合送信部
204 回答受信部
205 領域検出部
206 設定部
207 要求送信部
208 応答受信部
300 インターネット
400 WEBサーバ装置
500 情報処理装置
501 CPU
502 ROM
503 RAM
504 NIC
505 画像処理部
506 音声処理部
507 DVD−ROMドライブ
508 インターフェース
509 外部メモリ
510 コントローラ
511 モニタ
512 スピーカ
600 WEBページ
601、602、603 画像
604、605、606 テキスト
701 カーソル
801、803、806、807、809、810、811、812、813、814、815、816 ポップアップ
802、804、805 ボタン
901、931、932、933、941 矩形
902、903、904、905、906、907、908、909、910 領域
911、912 角
921、922、923 認識領域

Claims (9)

  1. 画像の識別情報と当該画像内の領域を指定する指定領域とが指定された変換要求を端末から受信する要求受信部、
    前記受信された変換要求に指定された識別情報に基づいて画像を取得し、前記取得された画像内の前記指定領域によって特定された領域に対して文字認識処理を適用することにより得られた認識済文字列を示す抽出情報を出力する画像処理部、
    前記画像処理部により出力された抽出情報が示す認識済文字列に変換処理を適用することにより得られた変換済文字列を、前記端末へ送信する応答送信部
    を備え、
    前記画像処理部は、前記抽出情報が出力されると、当該抽出情報に対する画像の識別情報及び前記指定領域に基づいて設定された領域に対応付けて、当該出力された抽出情報をキャッシュし、
    前記要求受信部によって受信された変換要求に指定される識別情報及び指定領域と、キャッシュされた識別情報及び領域とが対応しているか否か判定し、対応していると判定された場合、前記画像処理部は、前記画像の取得ならびに前記文字認識処理の適用にかえて、前記キャッシュされている抽出情報を利用する
    ことを特徴とするサーバ装置。
  2. 請求項に記載のサーバ装置であって、
    前記画像処理部は、前記認識済文字列がキャッシュされた際に対応付けられた識別情報と、前記受信された変換要求に指定された識別情報と、が一致し、前記認識済文字列がキャッシュされた際に対応付けられた領域と、前記受信された変換要求に指定される指定領域と、が、重複する場合、前記受信された変換要求に指定される識別情報及び指定領域と、キャッシュされた識別情報及び領域とが対応していると判定する
    ことを特徴とするサーバ装置。
  3. 請求項またはに記載のサーバ装置であって、
    前記画像処理部は、前記指定領域を前記指定領域内において当該認識済文字列が認識された認識領域に補正し、当該認識領域を前記指定領域に基づいて設定された領域として前記抽出情報と対応付けてキャッシュする
    ことを特徴とするサーバ装置。
  4. 請求項からのいずれか1項に記載のサーバ装置であって、
    前記変換要求には更に認識用言語が指定され
    前記画像処理部による文字認識処理は、前記認識用言語により行われる
    ことを特徴とするサーバ装置。
  5. 請求項からのいずれか1項に記載のサーバ装置であって、
    前記変換要求には、更に翻訳先言語が指定され
    前記画像処理部は、前記得られた認識済文字列に対して、前記受信された変換要求に指定された翻訳先言語を用いて変換処理を行うことにより、前記変換済文字列を得る
    ことを特徴とするサーバ装置。
  6. 請求項からのいずれか1項に記載のサーバ装置であって、
    画像の識別情報と、当該画像内の位置と、が指定された問合せを、前記端末から受信する問合受信部、
    前記受信された問合せに指定される識別情報、ならびに、前記受信された問合せに指定される位置を含む指定領域に対応付けられる認識済文字列が、前記画像処理部によりキャッシュされている場合、当該キャッシュされている認識済文字列が指定された回答を、前記端末へ送信する回答送信部
    をさらに備えることを特徴とするサーバ装置。
  7. 識別情報により識別される画像を画面に表示する表示部を備え、請求項に記載のサーバ装置と通信可能なコンピュータが実行するプログラムであって、当該プログラムは、当該コンピュータを、
    前記画面に表示された画像内の位置の選択を検出する位置検出部、
    前記位置の選択が検出されると、前記識別情報と、当該選択された位置と、が指定された問合せを、前記サーバ装置へ送信する問合送信部、
    前記サーバ装置から、回答を受信する回答受信部
    として機能させ、当該プログラムは、当該コンピュータを、
    前記表示部が、前記受信された回答に指定される抽出情報を、前記画面にさらに表示する
    ように機能させ、当該プログラムは、当該コンピュータを、
    前記画面に表示された画像内の領域の選択を検出する領域検出部、
    画像処理用のパラメータの設定を促す設定部、
    前記領域の選択が検出されると、前記識別情報と、前記設定されたパラメータと、当該選択された領域と、が指定された要求を、前記サーバ装置へ送信する要求送信部、
    前記サーバ装置から、応答を受信する応答受信部
    として機能させ、当該プログラムは、当該コンピュータを、
    前記表示部が、前記受信された応答に指定される抽出情報を、前記画面にさらに表示する
    ように機能させることを特徴とするプログラム。
  8. 要求受信部と、画像処理部と、応答送信部と、を備えるサーバ装置が実行する制御方法であって、
    前記要求受信部が、画像の識別情報と当該画像内の領域を指定する指定領域とが指定された変換要求を端末から受信する要求受信工程、
    前記画像処理部が、前記受信された変換要求に指定された識別情報に基づいて画像を取得し、前記取得された画像内の前記指定領域によって特定された領域に対して文字認識処理を適用することにより得られた認識済文字列を示す抽出情報を出力する画像処理工程、
    前記応答送信部が、前記画像処理部により出力された抽出情報が示す認識済文字列に変換処理を適用することにより得られた変換済文字列を、前記端末へ送信する応答送信工程
    を備え、
    前記画像処理工程において、
    前記画像処理部は、前記抽出情報が出力されると、当該抽出情報に対する画像の識別情報及び前記指定領域に基づいて設定された領域に対応付けて、当該出力された抽出情報をキャッシュし、
    前記要求受信部によって受信された変換要求に指定される識別情報及び指定領域と、キャッシュされた識別情報及び領域とが対応しているか否か判定し、対応していると判定された場合、前記画像処理部は、前記画像の取得ならびに前記文字認識処理の適用にかえて、前記キャッシュされている抽出情報を利用する
    ことを特徴とするサーバ装置の制御方法。
  9. コンピュータを、
    画像の識別情報と当該画像内の領域を指定する指定領域とが指定された変換要求を端末から受信する要求受信部、
    前記受信された変換要求に指定された識別情報に基づいて画像を取得し、前記取得された画像内の前記指定領域によって特定された領域に対して文字認識処理を適用することにより得られた認識済文字列を示す抽出情報を出力する画像処理部、
    前記画像処理部により出力された抽出情報が示す認識済文字列に変換処理を適用することにより得られた変換済文字列を、前記端末へ送信する応答送信部
    として機能させ、
    前記画像処理部は、前記抽出情報が出力されると、当該抽出情報に対する画像の識別情報及び前記指定領域に基づいて設定された領域に対応付けて、当該出力された抽出情報をキャッシュし、
    前記要求受信部によって受信された変換要求に指定される識別情報及び指定領域と、キャッシュされた識別情報及び領域とが対応しているか否か判定し、対応していると判定された場合、前記画像処理部は、前記画像の取得ならびに前記文字認識処理の適用にかえて、前記キャッシュされている抽出情報を利用する
    ように機能させることを特徴とするプログラム。
JP2011101534A 2011-04-28 2011-04-28 サーバ装置、サーバ装置の制御方法、及び、プログラム Active JP5606385B2 (ja)

Priority Applications (7)

Application Number Priority Date Filing Date Title
JP2011101534A JP5606385B2 (ja) 2011-04-28 2011-04-28 サーバ装置、サーバ装置の制御方法、及び、プログラム
EP12777354.7A EP2704014B1 (en) 2011-04-28 2012-04-26 Server, server control method, program and recording medium
ES12777354T ES2725556T3 (es) 2011-04-28 2012-04-26 Servidor, método de control de servidor, programa y medio de grabación
CN201280020699.7A CN103502962B (zh) 2011-04-28 2012-04-26 服务器装置和服务器装置的控制方法
PCT/JP2012/061186 WO2012147839A1 (ja) 2011-04-28 2012-04-26 サーバ装置、サーバ装置の制御方法、プログラム、及び、記録媒体
US14/114,047 US9396392B2 (en) 2011-04-28 2012-04-26 Server, server control method, program and recording medium
TW101115283A TWI595368B (zh) 2011-04-28 2012-04-27 Server device, server device control method, program, and recording medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011101534A JP5606385B2 (ja) 2011-04-28 2011-04-28 サーバ装置、サーバ装置の制御方法、及び、プログラム

Publications (3)

Publication Number Publication Date
JP2012234287A JP2012234287A (ja) 2012-11-29
JP2012234287A5 JP2012234287A5 (ja) 2014-02-20
JP5606385B2 true JP5606385B2 (ja) 2014-10-15

Family

ID=47072354

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011101534A Active JP5606385B2 (ja) 2011-04-28 2011-04-28 サーバ装置、サーバ装置の制御方法、及び、プログラム

Country Status (7)

Country Link
US (1) US9396392B2 (ja)
EP (1) EP2704014B1 (ja)
JP (1) JP5606385B2 (ja)
CN (1) CN103502962B (ja)
ES (1) ES2725556T3 (ja)
TW (1) TWI595368B (ja)
WO (1) WO2012147839A1 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5606385B2 (ja) * 2011-04-28 2014-10-15 楽天株式会社 サーバ装置、サーバ装置の制御方法、及び、プログラム
JP5339316B1 (ja) * 2012-05-31 2013-11-13 楽天株式会社 識別情報管理システム、識別情報管理システムの制御方法、情報処理装置、及びプログラム
US9690783B2 (en) 2013-03-29 2017-06-27 Rakuten, Inc. Image conversion and method for converting text in an image into a targeted language
WO2014155742A1 (ja) * 2013-03-29 2014-10-02 楽天株式会社 情報処理システム、情報処理システムの制御方法、情報処理装置、情報処理装置の制御方法、情報記憶媒体、及びプログラム
US9189622B2 (en) * 2013-04-30 2015-11-17 Vmware, Inc. Static redirection for objective C
KR102135358B1 (ko) * 2013-11-05 2020-07-17 엘지전자 주식회사 이동 단말기 및 이의 제어방법
JP6920996B2 (ja) * 2015-10-08 2021-08-18 株式会社ナイトレイ 外国人観光客の行動情報を生成するための装置、方法、及びプログラム
US20180033175A1 (en) * 2016-07-28 2018-02-01 Sharp Kabushiki Kaisha Image display device and image display system
JP6862952B2 (ja) * 2017-03-16 2021-04-21 株式会社リコー 情報処理システム、情報処理装置、情報処理プログラム及び情報処理方法
CN107729897B (zh) * 2017-11-03 2020-09-15 北京字节跳动网络技术有限公司 一种文本操作方法、装置及终端

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5761655A (en) * 1990-06-06 1998-06-02 Alphatronix, Inc. Image file storage and retrieval system
JPH10312381A (ja) * 1997-05-12 1998-11-24 Nippon Hoso Kyokai <Nhk> 翻訳方法および装置
JP4065473B2 (ja) * 1999-05-14 2008-03-26 キヤノン株式会社 画像処理装置及び方法及び記憶媒体及びシステム
JP2000330992A (ja) * 1999-05-17 2000-11-30 Nec Software Shikoku Ltd 多国言語対応wwwサーバシステム及びその処理方法
JP4073635B2 (ja) * 2000-02-29 2008-04-09 富士通株式会社 中継装置、サーバ装置、端末装置、及びこれを利用した翻訳サーバシステム
US7216072B2 (en) 2000-02-29 2007-05-08 Fujitsu Limited Relay device, server device, terminal device, and translation server system utilizing these devices
JP2003122751A (ja) * 2001-10-12 2003-04-25 Alps Electric Co Ltd 翻訳装置
US20030115552A1 (en) 2001-11-27 2003-06-19 Jorg Jahnke Method and system for automatic creation of multilingual immutable image files
JP2003178067A (ja) 2001-12-10 2003-06-27 Mitsubishi Electric Corp 携帯端末型画像処理システム、携帯端末およびサーバ
JP3737779B2 (ja) * 2002-05-29 2006-01-25 富士通株式会社 翻訳サーバ、翻訳方法及びプログラム
CA2499724A1 (en) * 2002-11-29 2004-06-17 Eun Young Chung System and method for providing integrated communication id
US7496230B2 (en) 2003-06-05 2009-02-24 International Business Machines Corporation System and method for automatic natural language translation of embedded text regions in images during information transfer
JP2007079978A (ja) * 2005-09-14 2007-03-29 Fuji Xerox Co Ltd 翻訳システムおよび翻訳方法
TWI333365B (en) * 2006-11-22 2010-11-11 Ind Tech Res Inst Rending and translating text-image method and system thereof
TW200825855A (en) 2006-12-06 2008-06-16 Ind Tech Res Inst A method and system for converting text image into character code are provided for mobile communication device
US7698344B2 (en) 2007-04-02 2010-04-13 Microsoft Corporation Search macro suggestions relevant to search queries
CN101833648B (zh) * 2009-03-13 2012-05-02 汉王科技股份有限公司 文本图像的校正方法
JP2010277168A (ja) * 2009-05-26 2010-12-09 Fuji Xerox Co Ltd データ入力システム、データ入力受付装置及びプログラム
CN101881999B (zh) * 2010-06-21 2012-11-21 安阳师范学院 甲骨文视频输入系统及实现方法
CA2803861C (en) 2010-06-25 2016-01-12 Rakuten, Inc. Machine translation system and method of machine translation
US9250834B2 (en) * 2010-12-01 2016-02-02 Xerox Corporation Method and apparatus for reading and replacing control and/or identification data in a print image to support document tracking, flow control, and security
JP5606385B2 (ja) * 2011-04-28 2014-10-15 楽天株式会社 サーバ装置、サーバ装置の制御方法、及び、プログラム

Also Published As

Publication number Publication date
US20140056525A1 (en) 2014-02-27
TWI595368B (zh) 2017-08-11
US9396392B2 (en) 2016-07-19
EP2704014B1 (en) 2019-03-27
JP2012234287A (ja) 2012-11-29
CN103502962A (zh) 2014-01-08
EP2704014A4 (en) 2015-03-11
TW201250499A (en) 2012-12-16
ES2725556T3 (es) 2019-09-24
WO2012147839A1 (ja) 2012-11-01
CN103502962B (zh) 2016-06-22
EP2704014A1 (en) 2014-03-05

Similar Documents

Publication Publication Date Title
JP5606385B2 (ja) サーバ装置、サーバ装置の制御方法、及び、プログラム
JP4625847B2 (ja) 入力ボタンに対応する数字及び文字列を表示することにより、選択されるサービスを提供する方法及びそのシステム
JP5575511B2 (ja) ウェブサイト閲覧システム、サーバ及びクライアント端末
JP2011186913A (ja) ウェブサイト閲覧システム及びサーバ
JP2012234287A5 (ja)
JP2008199151A (ja) 画像形成装置およびWebページ印刷制御方法
CN109918685A (zh) 计算机辅助翻译方法、装置、计算机设备及存储介质
JP2003256422A (ja) コンピュータ装置、サーバ、翻訳処理方法およびプログラム
JP6704278B2 (ja) メニュー情報提供システム、メニュー情報提供制御プログラム及びその方法
KR101537555B1 (ko) 인스턴트 메신저 상의 메시지 바로 검색 지원 방법
US20140164891A1 (en) Method and system for navigating a hard copy of a web page
JP2008217696A (ja) コミックwebページデータ、および、コミック編集システム
TWI717725B (zh) 菜單產生系統,菜單產生方法及儲存菜單產生程式之非暫時性電腦可讀儲存媒體
JP5959460B2 (ja) データ処理装置、データ処理方法及びプログラム
JP6973466B2 (ja) メニュー情報提供システム、メニュー情報提供制御プログラム及びその方法
JPWO2017026064A1 (ja) サーバの制御方法及び制御プログラム
JP2011141615A (ja) webページ閲覧システム及び中継サーバ
JP2007172168A (ja) 情報提示装置
JP2021113963A (ja) 学習プログラム
JP2012108749A (ja) 文書画像表示制御装置および携帯型端末装置ならびにそれらの動作制御方法およびその動作制御プログラム
JP2006106947A (ja) 辞書検索システム、携帯情報端末および辞書検索方法
JPH11338886A (ja) 情報処理装置と受信データの処理方法、及び記憶媒体、並びに情報処理システム
CN114138871A (zh) 对象的收藏方法、装置、电子设备以及存储介质
KR20190099299A (ko) 서버의 제어 방법, 서버, 및 서버의 제어 프로그램
JP2001042984A (ja) 情報提示装置、情報提示方法およびプログラム記録媒体、ならびに音声認識装置、音声認識方法およびプログラム記録媒体

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131226

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20131226

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20131226

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20140122

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140401

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140602

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140826

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140826

R150 Certificate of patent or registration of utility model

Ref document number: 5606385

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250