JP3994962B2 - Image data storage system or portable terminal device - Google Patents

Image data storage system or portable terminal device Download PDF

Info

Publication number
JP3994962B2
JP3994962B2 JP2003396839A JP2003396839A JP3994962B2 JP 3994962 B2 JP3994962 B2 JP 3994962B2 JP 2003396839 A JP2003396839 A JP 2003396839A JP 2003396839 A JP2003396839 A JP 2003396839A JP 3994962 B2 JP3994962 B2 JP 3994962B2
Authority
JP
Japan
Prior art keywords
image data
portable terminal
designation
terminal
terminal device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2003396839A
Other languages
Japanese (ja)
Other versions
JP2004201295A (en
Inventor
徹 山北
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2003396839A priority Critical patent/JP3994962B2/en
Publication of JP2004201295A publication Critical patent/JP2004201295A/en
Application granted granted Critical
Publication of JP3994962B2 publication Critical patent/JP3994962B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Description

本発明は、入力されたデータに対して所定の処理を施す画像データ格納システムに係わり、特に、携帯端末装置を用いて入力された画像データをホスト装置に処理させるシステムに関する。   The present invention relates to an image data storage system that performs predetermined processing on input data, and more particularly to a system that causes a host device to process image data input using a portable terminal device.

ホスト装置に画像データを格納する際は、電子カメラなどの携帯端末装置で撮影された画像データを、電子カメラとケーブルなどで接続されたパーソナルコンピュータに一旦記憶させ、その後、携帯端末装置とは無関係に、パーソナルコンピュータを用いて通信ネットワークを介してホスト装置にアクセスしていた。   When storing image data in the host device, the image data taken by a portable terminal device such as an electronic camera is temporarily stored in a personal computer connected to the electronic camera via a cable, and then has no relation to the portable terminal device. In addition, the host device is accessed via a communication network using a personal computer.

ホスト装置は、携帯端末装置とは無関係に、アクセスされたパーソナルコンピュータからの要求に応じて画像データを格納していた。 The host device stores image data in response to a request from the accessed personal computer regardless of the portable terminal device.

ところが、上述のような処理に際してより簡単なユーザインタフェイスが求められる場合もある。たとえば、携帯端末装置で撮影した画像データを直ちにホスト装置に格納したいと考えるユーザも多い。ホスト装置に格納するにあたつて、パーソナルコンピュータを用いてアクセスする場合のように、複雑な操作手順を要するのは面倒である。また、携帯端末装置を用いて上述のような画像データの格納処理を「何時でも何処でも」行いたいと考えるユーザも多い。
本発明の課題は、携帯端末装置を用いたホスト装置に対する画像データの格納におけるユーザインタフェイスの向上を計ることである。
However, there is a case where a simpler user interface is required for the processing as described above. For example, there are many users who want to immediately store image data captured by a mobile terminal device in a host device. When storing in the host device, it is troublesome to require a complicated operation procedure as in the case of accessing using a personal computer. In addition, there are many users who want to perform the above-described image data storage process “anytime and anywhere” using a mobile terminal device.
An object of the present invention is to improve the user interface in storing image data in a host device using a portable terminal device.

本発明の画像データ格納システムは、撮影により画像データを取得する撮影手段と、この撮影された画像データを携帯端末装置に保存する指定、またはホスト装置に格納する指定を行なう指定画面を表示する手段と、前記指定画面により携帯端末装置に格納する指定操作が行われた際に、前記撮影手段で撮影された画像データを当該携帯端末装置に保存する手段と、前記指定画面によりホスト装置に格納する指定操作が行われた際に、この指定操作に対応したサービスコード、前記撮影手段で撮影された画像データおよびこの画像データを撮影した当該携帯端末装置の端末識別情報よりなる送信データを生成する手段と、前記生成された送信データを通信ネットワークを介してホスト装置へ送信する送信手段とを有する携帯端末装置と、
前記携帯端末装置から通信ネットワークを介して送信された前記送信データを受信する受信手段と、この受信手段で受信したデータに、ホスト装置への画像データの格納を示すサービスコードが含まれているかを判断する判断手段と、前記サービスコードが含まれていることが判断された際に、前記受信したデータの画像データを前記受信したデータの端末識別情報に対応付けて格納する格納手段とを有するホスト装置とよりなる。
An image data storage system according to the present invention is a means for displaying a designation screen for obtaining image data obtained by photographing and designation for storing the photographed image data in a portable terminal device or designation for storage in a host device. And when the designation operation for storing in the portable terminal device is performed on the designation screen, the image data photographed by the photographing means is stored in the portable terminal device, and stored in the host device by the designation screen. Means for generating transmission data comprising a service code corresponding to the designation operation, image data photographed by the photographing means, and terminal identification information of the mobile terminal device photographing the image data when the designation operation is performed A portable terminal device having transmission means for transmitting the generated transmission data to a host device via a communication network;
Receiving means for receiving the transmission data transmitted from the portable terminal device via a communication network, and whether the data received by the receiving means includes a service code indicating storage of image data in the host device A host having determination means for determining, and storage means for storing image data of the received data in association with terminal identification information of the received data when it is determined that the service code is included It consists of a device.

本発明の携帯端末装置は、撮影により画像データを取得する撮影手段と、この撮影された画像データを携帯端末装置に保存する指定、またはホスト装置に格納する指定を行なう指定画面を表示する手段と、前記指定画面により携帯端末装置に格納する指定操作が行われた際に、前記撮影手段で撮影された画像データを当該携帯端末装置に保存する手段と、前記指定画面によりホスト装置に格納する指定操作が行われた際に、この指定操作に対応したサービスコード、前記撮影手段で撮影された画像データおよびこの画像データを撮影した当該携帯端末装置の端末識別情報よりなる送信データを生成する手段と、前記生成された送信データを通信ネットワークを介してホスト装置へ送信する送信手段とを有する。   The portable terminal device of the present invention includes a photographing unit that acquires image data by photographing, a unit that displays a designation screen for performing designation for storing the photographed image data in the portable terminal device or for storing in the host device. When the designation operation for storing in the portable terminal device is performed on the designation screen, the unit stores the image data captured by the photographing unit in the portable terminal device, and the designation stored in the host device by the designation screen Means for generating transmission data comprising a service code corresponding to the designation operation, image data photographed by the photographing means, and terminal identification information of the mobile terminal device photographing the image data when the operation is performed; And transmitting means for transmitting the generated transmission data to a host device via a communication network.

本発明によれば、携帯端末装置は撮影した画像データを携帯端末装置に保存するのかホスト装置に格納するのか必要に応じて選択でき、ホスト装置への格納が指定された場合は、画像データを含む送信データが生成されてホスト装置へ送信されるので、送信のための複雑な操作は不要である。   According to the present invention, the mobile terminal device can select whether the captured image data is stored in the mobile terminal device or stored in the host device as necessary. When storage to the host device is designated, the mobile terminal device stores the image data. Since the included transmission data is generated and transmitted to the host device, a complicated operation for transmission is unnecessary.

以下、本発明の実施形態について図面を参照しながら説明する。図1は、本実施形態のシステム構成図である。携帯端末1は、通信機能を備えており、ネットワーク2に接続された他の装置にデータ処理を依頼して、その結果を受け取って表示することができる。携帯端末1は、最寄りの基地局を介して無線でデータを送受信する方式、通信機能を持った装置(光リンクユニット)との間でIr(赤外線)通信などでデータを送受信する方式、または有線でデータを送受信する方式でネットワーク2に接続される。   Hereinafter, embodiments of the present invention will be described with reference to the drawings. FIG. 1 is a system configuration diagram of this embodiment. The portable terminal 1 has a communication function, and can request data processing from another device connected to the network 2 and receive and display the result. The mobile terminal 1 wirelessly transmits / receives data via the nearest base station, transmits / receives data to / from an apparatus (optical link unit) having a communication function by Ir (infrared) communication, or wired And connected to the network 2 by a method of transmitting and receiving data.

ネットワーク2には、ホスト端末3が収容されている。ホスト端末3は、サーバマシンであり、携帯端末1から転送されてくる依頼に従ってデータ処理を実行する。また、ホスト端末3は、必要に応じて、他のサーバ(翻訳サーバ4、検索サーバ5など)に処理を依頼する。そして、ホスト端末3は、処理結果を所定の端末(主に、処理依頼を発行した携帯端末1)に転送したり、あるいはその処理結果をホスト端末3内に蓄積する。なお、ネットワーク2には、他にも多数の端末(個人用PC6など)が収容されており、ホスト端末3は、これら他の端末からもアクセス可能である。   The network 2 accommodates a host terminal 3. The host terminal 3 is a server machine and executes data processing according to the request transferred from the mobile terminal 1. Further, the host terminal 3 requests processing from other servers (translation server 4, search server 5, etc.) as necessary. Then, the host terminal 3 transfers the processing result to a predetermined terminal (mainly, the mobile terminal 1 that has issued the processing request) or stores the processing result in the host terminal 3. The network 2 accommodates many other terminals (such as personal PCs 6), and the host terminal 3 can be accessed from these other terminals.

図2は、本実施形態のシステムの全体フローチャートである。本実施形態のシステムは、携帯端末1においてカメラを用いて取り込んだ画像データをホスト端末3に転送して解析(パターン認識、文字認識)させ、その解析結果に所定のサービスを提供して携帯端末1に返送するものである。   FIG. 2 is an overall flowchart of the system according to this embodiment. The system of the present embodiment transfers image data captured using a camera in the mobile terminal 1 to the host terminal 3 for analysis (pattern recognition, character recognition), and provides a predetermined service to the analysis result to provide the mobile terminal. 1 is returned.

ステップS1では、携帯端末1に内蔵された(あるいは携帯端末1に接続された)カメラを用いて画像データを読み取る。ここでは、紙面に手書きされたメモ等、もしくは印刷された文書の一部を読み取るものとする。ステップS2では、サービスを指定する。サービスとしては、たとえば、ステップS1で読みとった画像データに含まれる文字(単語、フレーズ、文章)の翻訳、その文字をキーワードとしたデータベース検索などを指定する。ステップS3では、ステップS1で読み取った画像データをホスト端末3へ送信し、ステップS2で指定したサービスを要求する。   In step S1, image data is read using a camera built in the portable terminal 1 (or connected to the portable terminal 1). Here, it is assumed that a memo handwritten on paper or a part of a printed document is read. In step S2, a service is designated. As the service, for example, translation of characters (words, phrases, sentences) included in the image data read in step S1, database search using the characters as keywords, and the like are designated. In step S3, the image data read in step S1 is transmitted to the host terminal 3, and the service designated in step S2 is requested.

ホスト端末3は、ステップS4で携帯端末1から画像データとサービス要求を受信すると、ステップS5において、受信した画像データを処理するためのアプリケーションプログラムを起動する。ステップS6では、受信した画像データに対してパターン認識処理を実行してその中に含まれる文字を認識する。ステップS7では、携帯端末1において指定されたサービスを実行する。すなわち、ホスト端末3は、必要に応じて翻訳サーバ4や検索サーバ5に処理を依頼しながら、画像データに含まれている文字を翻訳したり、あるいはその文字をキーワードとしてデータベースを検索したりする。ステップS8では、ホスト端末3は、ステップS7による処理結果を携帯端末1に送信する。   When the host terminal 3 receives the image data and the service request from the portable terminal 1 in step S4, the host terminal 3 starts an application program for processing the received image data in step S5. In step S6, pattern recognition processing is executed on the received image data to recognize characters included therein. In step S7, the service designated in the portable terminal 1 is executed. That is, the host terminal 3 translates the characters included in the image data or searches the database using the characters as keywords while requesting the translation server 4 and the search server 5 to perform processing as necessary. . In step S <b> 8, the host terminal 3 transmits the processing result in step S <b> 7 to the mobile terminal 1.

携帯端末1は、ステップS9でホスト端末3から処理結果を受信すると、ステップS10においてその処理結果を自己の表示部に表示する。このように、本実施形態のシステムでは、翻訳または検索等を行いたいときには、所望の文字(処理対象の文字)を含む記録面をカメラで撮影して画像データとしてホスト端末3に送信するだけでよい。したがって、ユーザは、所望の文字を紙などにメモ書きしてそれをカメラで撮影するだけで翻訳サービスや検索サービスを受けることができる。また、携帯端末1は、上述のようなサービスを受けるための構成用件として、画像データを取り込む機能、通信機能、およびデータを表示する機能を備えればよいので、軽量化、低コスト化が計れる。   When the portable terminal 1 receives the processing result from the host terminal 3 in step S9, the portable terminal 1 displays the processing result on its display unit in step S10. As described above, in the system of this embodiment, when it is desired to perform translation or search, a recording surface including a desired character (character to be processed) is simply photographed by the camera and transmitted to the host terminal 3 as image data. Good. Therefore, the user can receive a translation service and a search service simply by taking a note of a desired character on paper or the like and photographing it with a camera. Moreover, since the portable terminal 1 should just be provided with the function to take in image data, the communication function, and the function to display data as composition requirements for receiving the above services, weight reduction and cost reduction are achieved. I can measure.

図3は、携帯端末1の外観図である。携帯端末1は、LCD表示部11、カメラ12、ICカード用スロット13、無線通信用アンテナ14を備えている。また、他の通信方式をサポートするために、Ir通信のためのソケットや、有線通信用のソケットなども備えている。LCD表示部11は、タッチパネル構成であり、携帯端末1は手書き入力情報を処理することができる。   FIG. 3 is an external view of the mobile terminal 1. The mobile terminal 1 includes an LCD display unit 11, a camera 12, an IC card slot 13, and a wireless communication antenna 14. In order to support other communication methods, a socket for Ir communication, a socket for wired communication, and the like are also provided. The LCD display unit 11 has a touch panel configuration, and the mobile terminal 1 can process handwritten input information.

図4は、携帯端末1の構成図である。CPU21は、記憶装置22(ROMおよびRAM)に格納されているプログラムを実行する。CPU21と記憶装置22とはバス23を介して互いに接続されている。   FIG. 4 is a configuration diagram of the mobile terminal 1. The CPU 21 executes a program stored in the storage device 22 (ROM and RAM). The CPU 21 and the storage device 22 are connected to each other via a bus 23.

記憶装置22は、半導体メモリ、磁気的記録媒体、あるいは光学的記録媒体で構成され、プログラムおよびデータ等を格納している。記憶装置22は、携帯端末1に固定的に設けたものであってもよいし、着脱自在に装着するものであってもよい。   The storage device 22 includes a semiconductor memory, a magnetic recording medium, or an optical recording medium, and stores programs, data, and the like. The storage device 22 may be fixed to the mobile terminal 1 or may be detachably mounted.

記録媒体ドライバ24は、バス23に接続されており、可搬性記録媒体(半導体メモリ、磁気ディスク、光ディスク、光磁気ディスクを含む)25に格納されているデータを読み出したり、あるいは可搬性記録媒体25にデータを書き込む装置である。可搬性記録媒体25の一例としては、ICカードを想定する。CPU21は、可搬性記録媒体25に格納されているプログラムを実行することもできる。   The recording medium driver 24 is connected to the bus 23 and reads data stored in a portable recording medium (including a semiconductor memory, a magnetic disk, an optical disk, and a magneto-optical disk) 25 or a portable recording medium 25. It is a device that writes data to the. As an example of the portable recording medium 25, an IC card is assumed. The CPU 21 can also execute a program stored in the portable recording medium 25.

なお、記憶装置22に記録するプログラムおよびデータ等は、通信回線などを介して接続された他の機器から受信して記録する構成にしてもよく、さらに、CPU21が他の機器側に設けられた記憶装置に格納されているプログラムおよびデータ等を通信回線などを介して使用するようにしてもよい。   The program and data to be recorded in the storage device 22 may be configured to be received and recorded from another device connected via a communication line or the like, and the CPU 21 is provided on the other device side. You may make it use the program, data, etc. which are stored in the memory | storage device via a communication line etc.

LCD表示部11に対応するユニットは、液晶ディスプレイ(LCD)31、液晶ディスプレイ31に表示すべき情報を格納するメモリ32、LCD制御部34の制御に従ってメモリ32に格納されている情報を液晶ディスプレイ31に出力するLCDドライバ33、メモリ32およびLCDドライバ33を制御するLCD制御部34、タッチパネル部35、およびタッチパネル部35が検出した入力情報をCPU21に通知するタッチパネル制御部36から構成される。   The unit corresponding to the LCD display unit 11 includes a liquid crystal display (LCD) 31, a memory 32 for storing information to be displayed on the liquid crystal display 31, and information stored in the memory 32 according to control of the LCD control unit 34. The LCD driver 33 that outputs to the memory, the LCD 32 that controls the memory 32 and the LCD driver 33, the touch panel unit 35, and the touch panel control unit 36 that notifies the CPU 21 of input information detected by the touch panel unit 35.

カメラ12は、たとえばCCDカメラであり、その出力はA/Dコンバータ37によってビットマップ形式のデジタルデータに変換されてメモリ38に書き込まれる。カメラ制御部39は、CPU21の指示に従って、メモリ38に保持されている画像データをバス23に出力する。   The camera 12 is, for example, a CCD camera, and its output is converted into digital data in a bitmap format by the A / D converter 37 and written into the memory 38. The camera control unit 39 outputs the image data held in the memory 38 to the bus 23 in accordance with an instruction from the CPU 21.

通信制御部40は、携帯端末1からデータを送出する際には、CPU21の指示に従って送信パケットを生成して無線トランシーバ41、42または有線トランシーバ43に渡す。また、データを受信する際には、無線トランシーバ41、42、または有線トランシーバ43を介して受信したパケットに格納されているデータをバス24上に出力する。無線トランシーバ41は、図3に示した無線通信用アンテナ14に接続されており、無線基地局4との間で無線データを授受する。無線トランシーバ42は、Ir通信を行うための送受信機であり、また、有線トランシーバ43は例えばモデムである。無線トランシーバ42および有線トランシーバ43は、オプションで着脱される。なお、携帯端末1は、さらに時計44を備えている。   When transmitting data from the mobile terminal 1, the communication control unit 40 generates a transmission packet according to an instruction from the CPU 21 and passes it to the wireless transceivers 41 and 42 or the wired transceiver 43. When data is received, the data stored in the packet received via the wireless transceivers 41 and 42 or the wired transceiver 43 is output onto the bus 24. The wireless transceiver 41 is connected to the wireless communication antenna 14 shown in FIG. 3 and exchanges wireless data with the wireless base station 4. The wireless transceiver 42 is a transceiver for performing Ir communication, and the wired transceiver 43 is a modem, for example. The wireless transceiver 42 and the wired transceiver 43 are optionally attached and detached. Note that the mobile terminal 1 further includes a clock 44.

図5は、携帯端末1においてカメラ撮影により取り込んだ画像データをホスト端末3に転送して所望のサービスを要求する処理のフローチャートであり、図2のステップS1〜S3の詳細を示すものである。このフローチャートで示す各機能を実現するプログラムは、CPU21が読み取り可能なプログラムコードの形態で記憶装置22に格納されている。   FIG. 5 is a flowchart of a process for requesting a desired service by transferring the image data captured by the camera shooting in the portable terminal 1 to the host terminal 3, and shows details of steps S1 to S3 in FIG. A program for realizing each function shown in the flowchart is stored in the storage device 22 in the form of a program code readable by the CPU 21.

以下のフローチャートは、携帯端末1が入力待ち状態において何らかの入力を検出した後の処理を示している。また、この実施例では、ユーザがメモ書きした文字をカメラ撮影する例を説明する。   The following flowchart shows processing after the mobile terminal 1 detects some input in the input waiting state. In this embodiment, an example will be described in which characters taken by a user are taken with a camera.

ステップS11では、検出した入力がカメラ12からの入力であるか調べ、カメラ12からの入力であればステップS12以降の処理を実行し、他の入力であれば、ステップS23においてその入力に対応する他の処理を実行する。このように、ユーザが携帯端末1のカメラ12を用いて撮影すると、ステップS12以降の処理が開始される。なお、カメラ入力があったときには、時計44の出力である時刻情報を保持しておく。   In step S11, it is checked whether or not the detected input is an input from the camera 12. If the input is from the camera 12, the processing from step S12 is executed, and if it is another input, the input corresponds to the input in step S23. Perform other processing. As described above, when the user captures an image using the camera 12 of the mobile terminal 1, the processing after step S12 is started. When there is a camera input, the time information that is the output of the clock 44 is held.

ステップS12では、カメラ12によって取り込まれた画像データをLCD表示部11に表示する。すなわち、カメラ12によって取り込まれた画像データをLCD表示部11のメモリ32に書き込み、その画像データを液晶ディスプレイ31に表示する。このことにより、ユーザは、撮影した画像をその場で見ることができる。図6(a) は、ユーザがカメラ撮影により取り込んだ画像データの表示例である。ここでは、ユーザが紙などに「PHS」および「ISDN」とメモ書きしてそれをカメラ撮影した場合の例を示している。尚、表示画面の右下に「修正終了」とあるのは、入力指示のためのボタンである。   In step S 12, the image data captured by the camera 12 is displayed on the LCD display unit 11. That is, the image data captured by the camera 12 is written into the memory 32 of the LCD display unit 11 and the image data is displayed on the liquid crystal display 31. As a result, the user can view the captured image on the spot. FIG. 6A is a display example of image data captured by the user through camera photography. Here, an example is shown in which the user writes down “PHS” and “ISDN” on paper or the like and shoots them with a camera. Note that “end of correction” at the lower right of the display screen is a button for an input instruction.

ここで、ステップS12の処理によって図6(a) に示す画面が表示された際のユーザの動作例を説明する。ユーザは、表示画面の内容を修正したい場合には、手書きペンを用いてLCD表示部11上で修正内容を手書き入力する。例えば、「PHS」という用語のみを処理対象とする場合には、図6(b) に示すように、LCD表示部11上で手書きペンを用いて「PHS」を囲むような枠を手書き入力する。あるいは、図6(c) に示すように、不要な表示(「PHS」を処理対象とする場合には、「ISDN」が不要である)に対して手書きペンを用いて削除マークを手書きする。なお、処理対象とは、翻訳の対象となる文字列、または検索に際してのキーワードとなる文字列等を言う。ユーザは、修正が終了すると、修正終了ボタンを手書きペンで押圧する。   Here, an example of the user's operation when the screen shown in FIG. 6A is displayed by the process of step S12 will be described. When the user wants to correct the contents of the display screen, the user inputs the correction contents by handwriting on the LCD display unit 11 using a handwriting pen. For example, when only the term “PHS” is to be processed, a frame surrounding “PHS” is handwritten on the LCD display unit 11 using a handwriting pen as shown in FIG. . Alternatively, as shown in FIG. 6 (c), a deletion mark is handwritten with a handwriting pen for an unnecessary display (“ISDN” is unnecessary when “PHS” is a processing target). The processing target refers to a character string to be translated or a character string to be a keyword for search. When the correction is completed, the user presses the correction end button with the handwriting pen.

上記ユーザの動作に伴ってステップS13およびS14が実行される。ステップS13において修正終了ボタンが押圧されたことを検出すると、ステップS14へ進む。なお、ユーザがLCD表示部11に表示されている画像データを修正することなく修正終了ボタンを押圧したときには、ステップS14がスキップされてステップS15へ進む。   Steps S13 and S14 are executed in accordance with the user's operation. If it is detected in step S13 that the correction end button has been pressed, the process proceeds to step S14. When the user presses the correction end button without correcting the image data displayed on the LCD display unit 11, step S14 is skipped and the process proceeds to step S15.

ステップS14では、ユーザによるペン入力指示に従って画像データを更新する。すなわち、ペン入力によってLCD表示部11上で押圧された軌跡パターンをビットマップ形式のデータとしてメモリ32に上書きする。このとき、メモリ32には現在LCD表示部11に表示されている画像データが格納されているので、カメラ撮影によって取り込まれた画像データとペン入力によって書き込まれた軌跡パターンとが合成される。   In step S14, the image data is updated in accordance with a pen input instruction from the user. That is, the locus pattern pressed on the LCD display unit 11 by pen input is overwritten in the memory 32 as bitmap format data. At this time, since the image data currently displayed on the LCD display unit 11 is stored in the memory 32, the image data captured by the camera photographing and the locus pattern written by the pen input are combined.

ステップS15では、ユーザに所望のサービスを指定させるための画面をLCD表示部11に表示する。このとき、メモリ32に格納されている画像データを記憶装置22のRAMに待避する。そして、ユーザに所望のサービスを指定させるための画面の画像データを記憶装置22のROMから読み出してメモり32に書き込む。ユーザに所望のサービスを指定させるための画面の一例を図7(a) に示す。携帯端末1は、この後ユーザからの指示を待つ状態に遷る。   In step S15, a screen for allowing the user to specify a desired service is displayed on the LCD display unit 11. At this time, the image data stored in the memory 32 is saved in the RAM of the storage device 22. Then, screen image data for allowing the user to specify a desired service is read from the ROM of the storage device 22 and written to the memory 32. An example of a screen for allowing the user to specify a desired service is shown in FIG. The portable terminal 1 then transitions to a state of waiting for an instruction from the user.

ここで、ユーザがサービスを指定する手順を説明する。サービス指定画面は、図7(a) に示すように、6つのボタンを有している。これら6つのボタンは、図6に表示されていた画像データに対する処理を指定させるものである。   Here, a procedure for a user to specify a service will be described. The service designation screen has six buttons as shown in FIG. 7 (a). These six buttons are used to designate processing for the image data displayed in FIG.

「翻訳」は、画像データに含まれている文字などを所定の言語に翻訳するサービスを指定するためのボタンである。「検索」は、画像データに含まれている文字などをキーワードとしてデータベース検索などを行うサービスを指定するためのボタンである。「認識」は、画像データを解析して文字認識を行うサービスを指定するためのボタンである。翻訳サービスおよび検索サービスは、認識サービスを含んでいる。「イメージ」は、携帯端末1で取り込んだ画像データをホスト端末3に格納しておくサービスを指定するためのボタンである。「保存」は、携帯端末1で取り込んだ画像データを携帯端末1側で保存することを指定するためのボタンである。「キャンセル」は、画像データを廃棄することを指定するためのボタンである。ユーザは、上記6つのボタンの中の1つを押圧する。   “Translation” is a button for designating a service for translating characters and the like included in image data into a predetermined language. “Search” is a button for designating a service for performing a database search or the like using characters or the like included in image data as keywords. “Recognition” is a button for designating a service for performing character recognition by analyzing image data. Translation services and search services include recognition services. “Image” is a button for designating a service for storing image data captured by the mobile terminal 1 in the host terminal 3. “Save” is a button for designating that the image data captured by the portable terminal 1 is saved on the portable terminal 1 side. “Cancel” is a button for designating discarding of image data. The user presses one of the six buttons.

翻訳ボタンが押圧されたときには、図7(b) に示す言語指定画面がLCD表示部11に表示される。ユーザが所望の翻訳言語を指定すると、図7(c) に示す表示指定画面が表示される。表示指定画面は、ホスト端末3に依頼する翻訳結果を携帯端末1に表示させるか否かをユーザに指定させるための画面である。   When the translation button is pressed, a language designation screen shown in FIG. 7B is displayed on the LCD display unit 11. When the user designates a desired translation language, a display designation screen shown in FIG. 7 (c) is displayed. The display designation screen is a screen for allowing the user to designate whether or not to display the translation result requested of the host terminal 3 on the portable terminal 1.

検索ボタンが押圧されたときには、図7(d) に示す検索先指定画面がLCD表示部11に表示される。この状態でユーザが所望の検索先を指定すると、この場合も図7(c) に示す表示指定画面が表示される。   When the search button is pressed, a search destination designation screen shown in FIG. 7 (d) is displayed on the LCD display unit 11. When the user designates a desired search destination in this state, the display designation screen shown in FIG. 7C is also displayed in this case.

このように、ユーザは、LCD表示部11の表示画面に従ってサービスを指定する。上述のようにしてユーザがサービスを指定すると、ステップS16以下の処理が実行される。まず、ステップS16では、サービスコードを認識する。この処理は、図7(a) のサービス指定画面でユーザがどのボタンを押圧したかを検出するものである。ステップS17では、指定されたサービスコードが「翻訳」「検索」「認識」または「イメージ格納」であるかを判断する。これら4つのサービスは、ホスト端末3に処理を依頼するものであるので、ステップS17は、実質的には、ホスト端末3に処理を依頼する必要があるのか否かを判断するステップである。   Thus, the user designates a service according to the display screen of the LCD display unit 11. When the user designates a service as described above, the processing in step S16 and subsequent steps is executed. First, in step S16, the service code is recognized. This process is to detect which button the user has pressed on the service designation screen of FIG. In step S17, it is determined whether the designated service code is “translation”, “search”, “recognition”, or “image storage”. Since these four services are requests for processing from the host terminal 3, step S17 is substantially a step of determining whether or not it is necessary to request processing from the host terminal 3.

ホスト端末3に処理を依頼する必要があれば(ステップS17:Yes)、ステップS18でパケットを作成し、ステップS19でそのパケットをホスト端末3に送出する。ホスト端末3に処理を依頼する必要がなければ(ステップS17:No)、ステップS20において、ユーザが保存ボタンを押圧したかを判断する。ユーザが保存ボタンを押圧したのであれば、ステップS21で携帯端末1側で画像データを保存する。一方、ユーザが保存ボタンを押圧したのでなければ、ユーザがキャンセルボタンを押圧したものと見なし、ステップS22で画像データを廃棄する。   If it is necessary to request processing from the host terminal 3 (step S17: Yes), a packet is created in step S18, and the packet is sent to the host terminal 3 in step S19. If it is not necessary to request processing from the host terminal 3 (step S17: No), it is determined in step S20 whether the user has pressed the save button. If the user presses the save button, the image data is saved on the portable terminal 1 side in step S21. On the other hand, if the user has not pressed the save button, it is assumed that the user has pressed the cancel button, and the image data is discarded in step S22.

図8は、携帯端末1から送出されるパケットの構造を示す図である。このパケットは、図5に示すステップS18において作成される。各パケットは、ヘッダ部およびデータ部から構成される。ヘッダ部は、送信元アドレスおよび着信先アドレスなどを格納する。送信元アドレスおよび着信先アドレスとしてどのようなアドレス体系のアドレスを格納するのかは、本実施形態が適用されるネットワーク構成によって決まり、たとえば、TCP/IP通信では、IPアドレスが格納される。   FIG. 8 is a diagram illustrating a structure of a packet transmitted from the mobile terminal 1. This packet is created in step S18 shown in FIG. Each packet is composed of a header part and a data part. The header part stores a source address, a destination address, and the like. The address system of which address system is stored as the source address and the destination address depends on the network configuration to which this embodiment is applied. For example, in TCP / IP communication, an IP address is stored.

データ部には、アプリケーション識別情報、端末ID、画像データ、サービスコード、付加情報、表示フラグ、時刻情報などが格納される。アプリケーション識別情報は、着信先の端末(ここでは、ホスト端末3)において起動すべきアプリケーションプログラムを識別する情報である。本実施形態においては、画像データ解析・認識プログラムを識別する情報が設定される。なお、アプリケーション識別情報は、TCP/IP通信では、ポート番号として指定される。   The data portion stores application identification information, terminal ID, image data, service code, additional information, display flag, time information, and the like. The application identification information is information for identifying an application program to be started in the terminal of the destination (here, the host terminal 3). In the present embodiment, information for identifying an image data analysis / recognition program is set. The application identification information is specified as a port number in TCP / IP communication.

端末IDは、携帯端末1の識別番号である。画像データは、カメラ撮影によって取り込んだ画像データであり、パケットに格納されるときには圧縮される。なお、図6(b) または(c) のように手書きペンによる書込みがあった場合には、そのペン入力の軌跡パターンも画像データとして合成されている。   The terminal ID is an identification number of the mobile terminal 1. The image data is image data captured by camera shooting, and is compressed when stored in a packet. When writing is performed with a handwritten pen as shown in FIG. 6B or 6C, the trace pattern of the pen input is also synthesized as image data.

サービスコードは、例えば図9(a) および(b) に示すような8ビットの情報であり、「翻訳」「検索」「認識」または「イメージ格納」を識別する。付加情報は、図9(a) 、(c) および(d) に示すように、各サービスの内容を詳細に指定する情報である。たとえば、翻訳サービスであれば、翻訳言語を識別する。また、検索サービスであれば、検索先を識別する。検索先としては、公衆に公開されている各種データベースの他に、各ユーザが作成する個人データベースにもアクセスできる。表示フラグは、ホスト端末3における処理結果を携帯端末1に表示させるか否かを指定する1ビットの情報であり、例えば、図7(c) の画面上で「はい」が選択されると、「1」が設定される。時刻情報は、ホスト端末3へ送出される画像データがカメラ撮影された時刻を表す情報である。   The service code is 8-bit information as shown in FIGS. 9A and 9B, for example, and identifies “translation”, “search”, “recognition”, or “image storage”. The additional information is information for specifying the details of each service in detail as shown in FIGS. 9 (a), (c) and (d). For example, in the case of a translation service, the translation language is identified. In the case of a search service, the search destination is identified. As a search destination, in addition to various databases open to the public, a personal database created by each user can also be accessed. The display flag is 1-bit information for designating whether or not the processing result in the host terminal 3 is displayed on the portable terminal 1. For example, when “Yes” is selected on the screen of FIG. “1” is set. The time information is information representing the time when the image data sent to the host terminal 3 was captured by the camera.

図10は、図5に示すステップS18のパケット作成処理の詳細フローチャートである。ステップS31では、ホスト端末3へ転送する画像データを圧縮し、データ部に格納する。ステップS32では、上記画像データをカメラ撮影した時刻を表す時刻情報を設定する。ステップS33〜35では、図9に示すように、サービスコード、付加情報および表示フラグをそれぞれデータ部の所定領域に設定する。ステップS36では、アプリケーション識別情報として、画像データ解析・認識プログラムを識別する情報を設定する。ステップS37では、携帯端末1を識別する情報(自機を識別する情報)として端末IDを設定する。さらに、ステップS38においてヘッダ部を作成する。ヘッダ部には、少なくとも、送信元アドレスとして携帯端末1のアドレス(自機のアドレス)、および着信先アドレスとしてホスト端末3のアドレスを設定する。   FIG. 10 is a detailed flowchart of the packet creation processing in step S18 shown in FIG. In step S31, the image data transferred to the host terminal 3 is compressed and stored in the data portion. In step S32, time information representing the time at which the image data was captured by the camera is set. In steps S33 to S35, as shown in FIG. 9, the service code, the additional information, and the display flag are set in predetermined areas of the data part. In step S36, information for identifying the image data analysis / recognition program is set as the application identification information. In step S37, the terminal ID is set as information for identifying the portable terminal 1 (information for identifying the own device). Furthermore, a header part is created in step S38. In the header part, at least the address of the portable terminal 1 (the address of the own device) is set as the source address, and the address of the host terminal 3 is set as the destination address.

上述のようにして作成されたパケットは、ネットワーク2に送出される。ネットワーク2は、パケットの着信先アドレスに従ってそのパケットをホスト端末3へ転送する。以下では、このパケットを受信して処理するホスト端末3について説明する。   The packet created as described above is sent to the network 2. The network 2 transfers the packet to the host terminal 3 according to the destination address of the packet. Below, the host terminal 3 which receives and processes this packet is demonstrated.

図11は、ホスト端末3の構成図である。記憶装置51は、半導体メモリ、磁気的記録媒体、あるいは光学的記録媒体で構成され、プログラムおよびデータ等を格納している。記憶装置51は、ホスト端末3に固定的に設けたものであってもよいし、着脱自在に装着するものであってもよい。   FIG. 11 is a configuration diagram of the host terminal 3. The storage device 51 is composed of a semiconductor memory, a magnetic recording medium, or an optical recording medium, and stores programs, data, and the like. The storage device 51 may be fixedly provided on the host terminal 3 or may be detachably mounted.

記録媒体ドライバ52は、可搬性記録媒体(半導体メモリ、磁気ディスク、光ディスク、光磁気ディスク等を含む)53に格納されているデータを読み出したり、あるいは可搬性記録媒体53にデータを書き込む装置である。通信制御部54は、ネットワークとの間でのデータの授受を制御するユニットである。各携帯端末との間のパケットの送受信もここで制御される。   The recording medium driver 52 is a device that reads data stored in a portable recording medium (including a semiconductor memory, magnetic disk, optical disk, magneto-optical disk, etc.) 53 or writes data to the portable recording medium 53. . The communication control unit 54 is a unit that controls data exchange with the network. Transmission and reception of packets with each portable terminal is also controlled here.

CPU55は、記憶装置51または可搬性記録媒体53からプログラム等をメモリ56にロードして実行する。なお、記憶装置51に記録するプログラムおよびデータ等は、可搬性記録媒体53に格納されていたものを書き込んだものであってもよく、また、通信回線などを介してネットワーク上の他の機器から受信して記録する構成にしてもよい。さらに、CPU55は、ネットワーク上に設けられた他の記憶装置に格納されているプログラムおよびデータ等を通信回線などを介して使用するようにしてもよい。   The CPU 55 loads a program or the like from the storage device 51 or the portable recording medium 53 to the memory 56 and executes it. Note that the program, data, and the like recorded in the storage device 51 may be those written in the portable recording medium 53, or from other devices on the network via a communication line or the like. You may make it the structure which receives and records. Further, the CPU 55 may use a program and data stored in another storage device provided on the network via a communication line or the like.

図12は、ホスト端末3の処理を説明するフローチャートであり、図2のステップS4〜S8の詳細を示すものである。ここでは、ホスト端末3が携帯端末1から送出されたパケット(図5のフローチャートの処理によって作成されたパケット)を受信し、そのデータ部に設定されている情報に従って画像データを処理する動作を説明する。   FIG. 12 is a flowchart for explaining the processing of the host terminal 3, and shows details of steps S4 to S8 in FIG. Here, an operation will be described in which the host terminal 3 receives a packet transmitted from the portable terminal 1 (a packet created by the process of the flowchart of FIG. 5) and processes the image data according to the information set in the data portion thereof. To do.

ステップS41でパケットを受信すると、ステップS42でそのパケットに設定されている端末IDを調べることによってそのパケットを送出した端末を認識する。ここでは、携帯端末1が認識されるものとする。続いて、ステップS43では、受信したパケットに設定されているアプリケーション指定情報に従ってアプリケーションプログラムを起動する。このことにより、画像データを解析・認識するプログラムが起動される。   When the packet is received at step S41, the terminal ID set in the packet is checked at step S42 to recognize the terminal that sent the packet. Here, it is assumed that the mobile terminal 1 is recognized. Subsequently, in step S43, the application program is started according to the application designation information set in the received packet. As a result, a program for analyzing and recognizing image data is started.

ステップS44以降は、画像データ解析・認識プログラムによる処理である。ステップS44では、受信したパケットに設定されているサービスコードを認識する。続いて、ステップS45では、そのサービスコードが「翻訳」、「検索」または「認識」であるかを調べる。サービスコードが「翻訳」、「検索」または「認識」であればステップS46以降の処理を実行し、そうでなければステップS54へ進む。   Step S44 and subsequent steps are processing by an image data analysis / recognition program. In step S44, the service code set in the received packet is recognized. In step S45, it is checked whether the service code is “translation”, “search”, or “recognition”. If the service code is “translation”, “search”, or “recognition”, the process from step S46 is executed, and if not, the process proceeds to step S54.

ステップS46では、受信したパケットに格納されていた画像データを解凍する。ステップS47では、解凍した画像データに対してパターン認識処理を施してその中に含まれている文字を認識する。ステップS48では、ステップS47で認識した文字を文字コードに変換する。   In step S46, the image data stored in the received packet is decompressed. In step S47, pattern recognition processing is performed on the decompressed image data to recognize characters contained therein. In step S48, the character recognized in step S47 is converted into a character code.

ステップS49では、サービスコードが「翻訳」であるかを調べ、「翻訳」であれば図13に示す翻訳処理を実行し、「翻訳」でなければステップS50へ進む。ステップS50では、サービスコードが「検索」であるかを調べ、「検索」であれば図14に示す検索処理を実行し、「検索」でなければステップS51へ進む。ステップS51では、サービスコードが「認識」であるか調べ、「認識」であればステップS52においてステップS47およびS48による処理結果を端末IDに対応づけて記憶装置51の所定領域に格納し、「認識」でなければステップS53へ進んでエラー処理を実行する。   In step S49, it is checked whether the service code is “translation”. If it is “translation”, the translation processing shown in FIG. 13 is executed. In step S50, it is checked whether the service code is “search”. If “search”, the search process shown in FIG. 14 is executed. If not “search”, the process proceeds to step S51. In step S51, it is checked whether the service code is “recognition”. If it is “recognition”, the processing results in steps S47 and S48 are stored in a predetermined area of the storage device 51 in association with the terminal ID in step S52. If not, the process proceeds to step S53 to execute error processing.

ステップS54では、サービスコードが「イメージ格納」であるか調べ、「イメージ格納」であればステップS55においてパケットに格納されていた画像データを端末IDに対応づけて記憶装置51の所定領域に格納する。一方、「イメージ格納」でなければステップS56へ進んで設定されていたサービスコードに対応する処理を実行する。   In step S54, it is checked whether the service code is “image storage”. If it is “image storage”, the image data stored in the packet in step S55 is stored in a predetermined area of the storage device 51 in association with the terminal ID. . On the other hand, if it is not “image storage”, the process proceeds to step S56 to execute processing corresponding to the set service code.

図13は、翻訳処理のフローチャートである。ステップS61では、ホスト端末3は、ステップS48で得られた文字コードおよび受信パケットに設定されていた付加情報(翻訳タイプ)を翻訳サーバ4に転送することによって翻訳処理を依頼する。以下のステップS62〜S65は、翻訳サーバ4の処理である。   FIG. 13 is a flowchart of the translation process. In step S61, the host terminal 3 requests translation processing by transferring the character code obtained in step S48 and the additional information (translation type) set in the received packet to the translation server 4. The following steps S62 to S65 are processes of the translation server 4.

ステップS62では、付加情報から翻訳タイプを認識する。すなわち、翻訳元の言語および翻訳先の言語を認識する。続いて、ステップS63で1つ以上の文字コード(文字列)から単語を切り出し、ステップS64において、公知の手法により翻訳を実行する。そして、ステップS65では、翻訳結果をホスト端末3へ渡す。   In step S62, the translation type is recognized from the additional information. That is, the source language and the target language are recognized. Subsequently, in step S63, words are cut out from one or more character codes (character strings), and in step S64, translation is performed by a known method. In step S65, the translation result is passed to the host terminal 3.

ステップS66において、ホスト端末3は、受信パケットに設定されている表示フラグを調べる。表示フラグが「表示する」に設定されていれば、ステップS67で翻訳結果をパケットに格納し、ステップS68でそのパケットを携帯端末1に送出する。このことにより、携帯端末1は、携帯端末1に内蔵されるカメラ12で撮影した画像データに含まれていた文字の翻訳結果を受け取る。携帯端末1は、この翻訳結果をLCD表示部11に表示する。一方、表示フラグが「表示せず」に設定されていれば、ステップS69において、翻訳結果を端末IDに対応づけて記憶装置51の所定領域に格納する。   In step S66, the host terminal 3 checks the display flag set in the received packet. If the display flag is set to “display”, the translation result is stored in a packet in step S67, and the packet is sent to the portable terminal 1 in step S68. Thereby, the mobile terminal 1 receives the translation result of the characters included in the image data captured by the camera 12 built in the mobile terminal 1. The portable terminal 1 displays the translation result on the LCD display unit 11. On the other hand, if the display flag is set to “not display”, the translation result is stored in a predetermined area of the storage device 51 in association with the terminal ID in step S69.

図14は、検索処理のフローチャートである。ステップS71では、ホスト端末3は、ステップS48で得られた文字コードおよび受信パケットに設定されていた付加情報(検索先)を検索サーバ5に転送することによって検索処理を依頼する。以下のステップS72〜S74は、検索サーバ5の処理である。   FIG. 14 is a flowchart of the search process. In step S71, the host terminal 3 requests the search process by transferring the character code obtained in step S48 and the additional information (search destination) set in the received packet to the search server 5. The following steps S72 to S74 are processing of the search server 5.

ステップS72では、付加情報から検索先のデータベースを認識する。すなわち、どのデータベースにアクセスするのかを認識する。続いて、ステップS73では、受け取った文字列をキーワードとして公知の手法によりデータベース検索を実行する。そして、ステップS74で検索結果をホスト端末3へ渡す。   In step S72, the search destination database is recognized from the additional information. That is, it recognizes which database is accessed. Subsequently, in step S73, a database search is executed by a known method using the received character string as a keyword. In step S74, the search result is passed to the host terminal 3.

ステップS75において、ホスト端末3は、受信パケットに設定されている表示フラグを調べる。表示フラグが「表示する」に設定されていれば、ステップS76で検索結果をパケットに格納し、ステップS77でそのパケットを携帯端末1に送出する。このことにより、携帯端末1は、携帯端末1に内蔵されるカメラ12で撮影した画像データに含まれていた文字をキーワードとしたデータベース検索の検索結果を受け取る。携帯端末1は、この検索結果をLCD表示部11に表示する。一方、表示フラグが「表示せず」に設定されていれば、ステップS78において、検索結果を端末IDに対応づけて記憶装置51の所定領域に格納する。   In step S75, the host terminal 3 checks the display flag set in the received packet. If the display flag is set to “display”, the search result is stored in a packet in step S76, and the packet is sent to the portable terminal 1 in step S77. As a result, the mobile terminal 1 receives the search result of the database search using the characters included in the image data captured by the camera 12 built in the mobile terminal 1 as keywords. The mobile terminal 1 displays the search result on the LCD display unit 11. On the other hand, if the display flag is set to “not display”, the search result is stored in a predetermined area of the storage device 51 in association with the terminal ID in step S78.

なお、図12に示したステップS47のパターン認識処理は、公知の手法を用いるが、図6(b) に示すように、手書きペンで書き込まれた枠状のパターンの内側の領域に存在する文字のみを処理対象とする方式の場合には、パターン認識処理として図15に示すフローチャートの処理が実行される。   The pattern recognition process in step S47 shown in FIG. 12 uses a known method, but as shown in FIG. 6B, characters existing in the area inside the frame-like pattern written with the handwriting pen. In the case of a method that targets only processing, the processing of the flowchart shown in FIG. 15 is executed as the pattern recognition processing.

ステップS81では、受信パケットに格納されていた画像データにおいて所定の領域を取り囲む枠状のパターンをサーチする。ステップS82では、枠状のパターンが存在するか否かを判断する。存在するのであれば、ステップS83において、その枠状のパターン内の画像データのみに対して画像認識処理を実行して文字を認識する。一方、枠状のパターンが存在しないのであれば、すべての画像データに対して認識処理を実行する。上記方式を採用することにより、カメラ撮影で取り込まれた画像データの中から翻訳処理または検索処理などに不要な文字を簡単に除外できる。さらに、削除マークの場合は、削除マークを検出し、この削除マークに該当する文字を除いて文字認識する。なお、認識対象から除外する処理をホスト側で行っているが、端末側でこれらの処理を行い、認識すべきデータをホスト側へ送信するようにしてもよい。   In step S81, a frame-like pattern surrounding a predetermined area is searched for in the image data stored in the received packet. In step S82, it is determined whether or not a frame-like pattern exists. If it exists, in step S83, image recognition processing is executed only for the image data in the frame-like pattern to recognize characters. On the other hand, if there is no frame-like pattern, recognition processing is executed for all image data. By adopting the above method, characters unnecessary for translation processing or search processing can be easily excluded from image data captured by camera photography. Further, in the case of a deletion mark, the deletion mark is detected and characters are recognized except for the character corresponding to the deletion mark. In addition, although the process which excludes from recognition object is performed on the host side, these processes may be performed on the terminal side and the data which should be recognized may be transmitted to the host side.

図16は、端末ID毎に格納されるデータを模式的に示す図である。これらのデータは、図12のステップS52、S55、図13のステップS69、および図14のステップS78によって記憶装置51の所定領域に格納される。このとき、受信パケットに設定されていた時刻情報を用いて撮影時刻順にデータを格納してもよい。上記データは、携帯端末1からアクセスできるだけでなく、ネットワーク2に接続される他の端末(個人用PC6など)からもアクセスできるように構成されている。   FIG. 16 is a diagram schematically illustrating data stored for each terminal ID. These data are stored in a predetermined area of the storage device 51 through steps S52 and S55 in FIG. 12, step S69 in FIG. 13, and step S78 in FIG. At this time, the data may be stored in order of photographing time using the time information set in the received packet. The data can be accessed not only from the mobile terminal 1 but also from other terminals (such as personal PC 6) connected to the network 2.

ところで、上記実施形態では、携帯端末として、図3に示すような手書き入力機能を持った手帳型のものを採り上げて説明したが、本発明は、この形態に限定されるものではなく、たとえば図17に示すような腕時計型の端末装置であってもよい。   By the way, although the said embodiment picked up and demonstrated the notebook type thing with a handwriting input function as shown in FIG. 3 as a portable terminal, this invention is not limited to this form, For example, FIG. A wristwatch type terminal device as shown in FIG.

図17に示すように、携帯端末61は、カメラ62を備え、たとえば紙面63上にペン64で手書きされたメモ等もしくは印刷された文書の一部を画像データとして取り込むことができる。また、この携帯端末61は、通信機能を備えており、図1に示すネットワーク2を介してホスト端末3とデータを送受信する。なお、形態端末61の構成は、基本的に図4に示したものと同じである。   As shown in FIG. 17, the portable terminal 61 includes a camera 62 and can take, for example, a memo handwritten with a pen 64 on a paper surface 63 or a part of a printed document as image data. The portable terminal 61 has a communication function, and transmits / receives data to / from the host terminal 3 via the network 2 shown in FIG. The configuration of the form terminal 61 is basically the same as that shown in FIG.

携帯端末61は、そのサイズを考えると、図3に示す携帯端末1のようなペン入力機能等を持たせることは困難である。このため、手帳型の携帯端末1では、サービスの指定(カメラ撮影によって取り込んだ画像データにどのような処理を施すのかについての指定)を図7のような画面を表示して入力させていたが、携帯端末61では、同様の手順でサービスを指定することが難しい。この点を考慮し、携帯端末61では、翻訳または検索対象の文字等といっしょにホスト端末3に依頼するサービス種別も画像データとしてカメラ62で取り込み、ホスト端末3で画像データのパターン認識をする際にホスト端末3がユーザの指定するサービス種別を認識する方式とする。   Considering its size, it is difficult for the portable terminal 61 to have a pen input function or the like as in the portable terminal 1 shown in FIG. For this reason, in the notebook-type portable terminal 1, the designation of the service (designation of what kind of processing is to be performed on the image data captured by the camera shooting) is displayed on the screen as shown in FIG. In the portable terminal 61, it is difficult to specify a service in the same procedure. In consideration of this point, in the portable terminal 61, the service type requested to the host terminal 3 together with the characters to be translated or searched is captured by the camera 62 as image data, and the host terminal 3 recognizes the pattern of the image data. The host terminal 3 recognizes the service type designated by the user.

図18は、サービス指定方法の例を示す図である。ここでは、「同報通信」という言葉をホスト端末3に翻訳させる例を説明する。図18(a) に示す手法においては、ユーザが紙面63に「同報通信」と書くとともに、ホスト端末3に依頼するサービス種別として「翻訳」と書く。さらに、翻訳対象文字とサービス種別文字とを識別するために、サービス種別を指定する文字の両端を[ ] などの記号で囲む。そして、カメラ62を用いてこれらの文字および記号をまとめて画像データとして取り込んでホスト端末3へ転送する。   FIG. 18 is a diagram illustrating an example of a service designation method. Here, an example in which the word “broadcast communication” is translated into the host terminal 3 will be described. In the method shown in FIG. 18A, the user writes “broadcast communication” on the paper 63 and “translation” as the service type requested to the host terminal 3. Further, in order to distinguish between the character to be translated and the service type character, both ends of the character specifying the service type are surrounded by symbols such as []. Then, these characters and symbols are collected together as image data using the camera 62 and transferred to the host terminal 3.

図18(b) に示す手法では、この場合も紙面63に「同報通信」及び「翻訳」と書くが、翻訳対象文字とサービス種別文字とを識別するために、色情報を利用する。すなわち、ここでは、サービス種別は赤色等で記入し、翻訳対象を黒色で記入する。この場合も、カメラ62を用いてこれらの文字等をまとめて画像データとして取り込んでホスト端末3へ転送する。   In the method shown in FIG. 18B, “broadcast communication” and “translation” are written on the paper 63 in this case as well, but color information is used to identify the character to be translated and the service type character. That is, here, the service type is entered in red or the like, and the translation target is entered in black. Also in this case, these characters and the like are collected together as image data using the camera 62 and transferred to the host terminal 3.

図19は、携帯端末61の動作フローチャートである。ここでは、画像データを取り込んでホスト端末3に処理を依頼(サービスを要求)する際の最低限の機能を示す。なお、このフローチャートで示す各機能を実現するプログラムは、CPU21が読み取り可能なプログラムコードの形態で記憶装置22に格納されている。   FIG. 19 is an operation flowchart of the mobile terminal 61. Here, the minimum functions for capturing image data and requesting processing (requesting a service) from the host terminal 3 are shown. A program for realizing each function shown in this flowchart is stored in the storage device 22 in the form of a program code readable by the CPU 21.

入力待ち状態において入力を検出すると、ステップS91でカメラ62からの入力であるかを調べ、カメラ入力であればステップS92でパケットを作成してステップS93でそのパケットをホスト端末3に送出する。一方、カメラ入力以外の入力であれば、ステップS94でその入力に対応する処理を実行する。ステップS92で作成するパケットは、基本的に図8に示すものと同じであるが、サービスコード等は画像データの中に含まれている。   When an input is detected in the input waiting state, it is checked in step S91 whether the input is from the camera 62, and if it is a camera input, a packet is created in step S92, and the packet is sent to the host terminal 3 in step S93. On the other hand, if the input is other than the camera input, a process corresponding to the input is executed in step S94. The packet created in step S92 is basically the same as that shown in FIG. 8, but the service code and the like are included in the image data.

図20は、携帯端末側で図18(a) もしくは図18(b) に示す手法でサービス種別を指定した際のホスト端末3の処理を説明するフローチャートである。ここでは、ホスト端末3が携帯端末61から送出されたパケット(図19のフローチャートの処理によって作成されたパケット)を受信し、そのデータ部に設定されている情報に従って画像データを処理する動作を説明する。   FIG. 20 is a flowchart for explaining the processing of the host terminal 3 when the service type is designated by the method shown in FIG. 18A or 18B on the mobile terminal side. Here, an operation will be described in which the host terminal 3 receives a packet transmitted from the portable terminal 61 (a packet created by the processing of the flowchart of FIG. 19) and processes the image data according to the information set in the data portion. To do.

ステップS101〜S103は、図12に示すステップS41〜S43と同じである。ステップS104では、受信パケットのデータ部に格納されている画像データに対してパターン認識処理を実行し、その中から特定の記号もしくは色を検出する。ステップS105では、検出した記号の内側の領域の画像データもしくは特定の色に対して文字認識処理を実行し、ユーザが指定したサービスを認識する。図18(a) もしくは図18(b) に示した例では、「翻訳」という文字を検出し、ユーザが翻訳サービスを要求していることを認識する。   Steps S101 to S103 are the same as steps S41 to S43 shown in FIG. In step S104, pattern recognition processing is executed on the image data stored in the data portion of the received packet, and a specific symbol or color is detected from the pattern recognition processing. In step S105, a character recognition process is executed for the image data or a specific color in the area inside the detected symbol, and the service designated by the user is recognized. In the example shown in FIG. 18 (a) or FIG. 18 (b), the character “translation” is detected to recognize that the user is requesting the translation service.

ステップS106では、認識されたサービスに従った処理を実行する。なお、ステップS106の処理は、図12〜図14のステップS48以降の処理に相当する。この結果、たとえば、携帯端末61において取り込んだ画像データが図18(a) もしくは図18(b) に示す文字等であった場合、「同報通信」が“multi-cast communication”に翻訳される。そして、ステップS107において、処理結果をパケットに格納して携帯端末61に送出する。   In step S106, processing according to the recognized service is executed. Note that the processing in step S106 corresponds to the processing in and after step S48 in FIGS. As a result, for example, when the image data captured by the portable terminal 61 is the character shown in FIG. 18 (a) or FIG. 18 (b), “broadcast communication” is translated into “multi-cast communication”. . In step S107, the processing result is stored in a packet and sent to the portable terminal 61.

携帯端末61は、ホスト端末3による処理結果が格納されたパケットを受信すると、その処理結果を表示する。このように、携帯端末61は、カメラ62で撮影した画像データに所定のサービスを施した結果(この例では、翻訳結果)を表示することができる。   When the portable terminal 61 receives a packet in which the processing result by the host terminal 3 is stored, the portable terminal 61 displays the processing result. As described above, the portable terminal 61 can display a result (in this example, a translation result) obtained by applying a predetermined service to the image data captured by the camera 62.

なお、上記実施形態において、ホスト端末3において実行される処理プログラム、すなわち、図12〜図15、図20のフローチャートで示す各機能を実現するプログラム、および携帯端末1または61から転送されてくるコマンドを解釈して処理するプログラム等は、CPU55が読み取り可能なプログラムコードの形態で記憶装置51あるいは可搬性記録媒体53に格納されている。あるいは、ネットワークを介して接続される他の装置に格納されているものを利用する。   In the above embodiment, a processing program executed in the host terminal 3, that is, a program for realizing each function shown in the flowcharts of FIGS. 12 to 15 and 20, and a command transferred from the portable terminal 1 or 61 Is stored in the storage device 51 or the portable recording medium 53 in the form of a program code that can be read by the CPU 55. Or what is stored in the other apparatus connected via a network is utilized.

なお、上記実施形態では、カメラを用いて画像データを取り込む構成を示したが、本発明はこの構成に限定されず、たとえば、イメージスキャナを用いて読み込んだ画像データをホスト端末に転送するようにしてもよい。   In the above embodiment, a configuration has been described in which image data is captured using a camera. However, the present invention is not limited to this configuration, and for example, image data read using an image scanner may be transferred to a host terminal. May be.

このように、本実施形態の画像データ処理システムは、携帯端末で取り込んだ画像データをホスト端末へ転送し、ホスト端末がその画像データに含まれている文字を認識して処理する構成である。このため、携帯端末には、画像データなどを取り込んでホスト端末へ転送する機能、ホスト端末3に処理を依頼する機能、およびホスト端末から転送されてくるデータを表示する機能のみを持たせればよい。すなわち、携帯端末は、高速処理が要求される高精度のパターン認識処理や各種処理を実行する必用がない。このため、携帯端末は、大容量のメモリや高性能プロセッサを設けることなく、高度な画像処理結果を得ることができる。   As described above, the image data processing system of this embodiment is configured to transfer image data captured by a portable terminal to a host terminal, and the host terminal recognizes and processes characters included in the image data. For this reason, the portable terminal only needs to have a function of capturing image data and transferring it to the host terminal, a function of requesting processing to the host terminal 3, and a function of displaying data transferred from the host terminal. . That is, the mobile terminal does not need to perform high-precision pattern recognition processing and various types of processing that require high-speed processing. For this reason, the portable terminal can obtain an advanced image processing result without providing a large-capacity memory or a high-performance processor.

本実施形態のシステム構成図である。It is a system configuration figure of this embodiment. 本実施形態のシステムの全体フローチャートである。It is a whole flowchart of the system of this embodiment. 携帯端末の外観図である。It is an external view of a portable terminal. 携帯端末の構成図である。It is a block diagram of a portable terminal. 携帯端末においてカメラ撮影により取り込んだ画像データをホスト端末に転送して所望のサービスを要求する処理のフローチャートである。10 is a flowchart of processing for requesting a desired service by transferring image data captured by camera photographing in a portable terminal to a host terminal. (a) は、カメラ撮影した画像データを携帯端末の表示部に表示した例であり、(b) および(c) は、携帯端末上で画像データを修正する動作例を説明する図である。(a) is an example in which image data captured by a camera is displayed on a display unit of a mobile terminal, and (b) and (c) are diagrams for explaining an operation example for correcting image data on the mobile terminal. ユーザに所望のサービスを指定させるための画面例を示す図である。It is a figure which shows the example of a screen for making a user designate desired service. 携帯端末から送出されるパケットの構造を示す図である。It is a figure which shows the structure of the packet transmitted from a portable terminal. パケットに設定される各種情報を説明する図である。It is a figure explaining the various information set to a packet. パケット作成処理の詳細フローチャートである。It is a detailed flowchart of a packet creation process. ホスト端末の構成図である。It is a block diagram of a host terminal. ホスト端末の処理を説明するフローチャートである。It is a flowchart explaining the process of a host terminal. 翻訳処理のフローチャートである。It is a flowchart of a translation process. 検索処理のフローチャートである。It is a flowchart of a search process. パターン認識処理の一実施例のフローチャートである。It is a flowchart of one Example of a pattern recognition process. 端末ID毎に格納されるデータを模式的に示す図である。It is a figure which shows typically the data stored for every terminal ID. 腕時計型の携帯端末の外観図である。It is an external view of a wristwatch type portable terminal. サービス指定方法の例を示す図である。It is a figure which shows the example of the service designation | designated method. 図17に示す携帯端末の動作フローチャートである。It is an operation | movement flowchart of the portable terminal shown in FIG. 図18(a) もしくは図18(b) に示すサービス指定方法に対応するホスト端末の処理を説明するフローチャートである。19 is a flowchart for explaining processing of a host terminal corresponding to the service designation method shown in FIG. 18 (a) or FIG. 18 (b).

符号の説明Explanation of symbols

1、61 携帯端末
2 ネットワーク
3 ホスト端末
4 翻訳サーバ
5 検索サーバ
11 LCD表示部
12、62 カメラ
21 CPU
22 記憶装置
23 バス
24 記録媒体ドライバ
25 可搬性記録媒体
31 液晶ディスプレイ
35 タッチパネル部
40 通信制御部
41、42 無線トランシーバ
43 有線トランシーバ
44 時計
51 記憶装置
52 記録媒体ドライバ
53 可搬性記録媒体
54 通信制御部
55 CPU
56 メモリ
DESCRIPTION OF SYMBOLS 1,61 Portable terminal 2 Network 3 Host terminal 4 Translation server 5 Search server 11 LCD display part 12, 62 Camera 21 CPU
DESCRIPTION OF SYMBOLS 22 Memory | storage device 23 Bus 24 Recording medium driver 25 Portable recording medium 31 Liquid crystal display 35 Touch panel part 40 Communication control part 41, 42 Wireless transceiver 43 Wired transceiver 44 Clock 51 Storage device 52 Recording medium driver 53 Portable recording medium 54 Communication control part 55 CPU
56 memory

Claims (2)

撮影により画像データを取得する撮影手段と、
この撮影された画像データを携帯端末装置に保存する指定、またはホスト装置に格納する指定を行なう指定画面を表示する手段と、
前記指定画面により携帯端末装置に格納する指定操作が行われた際に、前記撮影手段で撮影された画像データを当該携帯端末装置に保存する手段と、
前記指定画面によりホスト装置に格納する指定操作が行われた際に、この指定操作に対応したサービスコード、前記撮影手段で撮影された画像データおよびこの画像データを撮影した当該携帯端末装置の端末識別情報よりなる送信データを生成する手段と、
前記生成された送信データを通信ネットワークを介してホスト装置へ送信する送信手段と
を有する携帯端末装置と、
前記携帯端末装置から通信ネットワークを介して送信された前記送信データを受信する受信手段と、
この受信手段で受信したデータに、ホスト装置への画像データの格納を示すサービスコードが含まれているかを判断する判断手段と、
前記サービスコードが含まれていることが判断された際に、前記受信したデータの画像データを前記受信したデータの端末識別情報に対応付けて格納する格納手段と
を有するホスト装置と
よりなる画像データ格納システム。
Photographing means for acquiring image data by photographing;
Means for displaying a designation screen for performing designation for saving the captured image data in the portable terminal device or designation for storage in the host device;
Means for storing, in the portable terminal device, image data taken by the photographing means when a designation operation for storing in the portable terminal device is performed by the designation screen;
When a designation operation for storing in the host device is performed on the designation screen, a service code corresponding to the designation operation, image data photographed by the photographing means, and terminal identification of the mobile terminal device that photographed the image data Means for generating transmission data comprising information;
A portable terminal device comprising: transmission means for transmitting the generated transmission data to a host device via a communication network;
Receiving means for receiving the transmission data transmitted from the portable terminal device via a communication network;
Determining means for determining whether the data received by the receiving means includes a service code indicating storage of image data in the host device;
When it is determined that the service code is included, image data formed by a host device having storage means for storing image data of the received data in association with terminal identification information of the received data Storage system.
撮影により画像データを取得する撮影手段と、
この撮影された画像データを携帯端末装置に保存する指定、またはホスト装置に格納する指定を行なう指定画面を表示する手段と、
前記指定画面により携帯端末装置に格納する指定操作が行われた際に、前記撮影手段で撮影された画像データを当該携帯端末装置に保存する手段と、
前記指定画面によりホスト装置に格納する指定操作が行われた際に、この指定操作に対応したサービスコード、前記撮影手段で撮影された画像データおよびこの画像データを撮影した当該携帯端末装置の端末識別情報よりなる送信データを生成する手段と、
前記生成された送信データを通信ネットワークを介してホスト装置へ送信する送信手段と
を有する携帯端末装置。
Photographing means for acquiring image data by photographing;
Means for displaying a designation screen for performing designation for saving the captured image data in the portable terminal device or designation for storage in the host device;
Means for storing, in the portable terminal device, image data taken by the photographing means when a designation operation for storing in the portable terminal device is performed by the designation screen;
When a designation operation for storing in the host device is performed on the designation screen, a service code corresponding to the designation operation, image data photographed by the photographing means, and terminal identification of the mobile terminal device that photographed the image data Means for generating transmission data comprising information;
A portable terminal device comprising: a transmission unit configured to transmit the generated transmission data to a host device via a communication network.
JP2003396839A 2003-11-27 2003-11-27 Image data storage system or portable terminal device Expired - Lifetime JP3994962B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003396839A JP3994962B2 (en) 2003-11-27 2003-11-27 Image data storage system or portable terminal device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003396839A JP3994962B2 (en) 2003-11-27 2003-11-27 Image data storage system or portable terminal device

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP8285620A Division JPH10134004A (en) 1996-10-28 1996-10-28 Image data processing system

Publications (2)

Publication Number Publication Date
JP2004201295A JP2004201295A (en) 2004-07-15
JP3994962B2 true JP3994962B2 (en) 2007-10-24

Family

ID=32768057

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003396839A Expired - Lifetime JP3994962B2 (en) 2003-11-27 2003-11-27 Image data storage system or portable terminal device

Country Status (1)

Country Link
JP (1) JP3994962B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4842860B2 (en) * 2007-03-09 2011-12-21 ソニー・エリクソン・モバイルコミュニケーションズ株式会社 Portable information terminal, image management method and program

Also Published As

Publication number Publication date
JP2004201295A (en) 2004-07-15

Similar Documents

Publication Publication Date Title
KR100308543B1 (en) Data transmission / reception device based on character recognition
US6178426B1 (en) Apparatus with extended markup language data capture capability
US8169651B2 (en) Data processing apparatus for recognizing and processing content recorded on a recording medium
US20020051262A1 (en) Image capture device with handwritten annotation
US6650794B1 (en) Digital multifunctional apparatus and data terminal apparatus connected therewith
JP4237215B2 (en) Image reading system, server device, image reading device, and terminal device
JPH10134004A (en) Image data processing system
JP2002163604A (en) System and method for acquiring url, and storage medium stored with program for executing processing therefor
US20050237566A1 (en) Image supplying apparatus, image storing apparatus, automatic storing system, and image storing method
CN108874283A (en) Image identification method, mobile terminal and computer readable storage medium
JP4660537B2 (en) Information management system and document information management method
JPH10260916A (en) Image data processing system
JPH11167532A (en) System, device, and method for data processing and recording medium
JPH11191081A (en) Information data transfer remote control system
JP3994962B2 (en) Image data storage system or portable terminal device
JP4766135B2 (en) Information providing apparatus, information providing method, and information providing program
JP2004173289A (en) Mobile terminal device or host device
US7418654B2 (en) Communication terminal, storage medium and communication system
JPH10255063A (en) Image processing system
RU2346319C2 (en) Method for provision of multimedia data for direct printing, direct printing method and means
JPH10254989A (en) System and method for processing image
JP6980167B1 (en) Printing methods, electronic devices, programs, servers and image forming devices
JP2009157587A (en) Information management device, information management method, and program thereof
JP2016014978A (en) Air tag registration management system, air tag registration management method, air tag registration program, air tag management program, air tag provision device, air tag provision method, and air tag provision program
JP2006106947A (en) Dictionary retrieval system, portable information terminal and method of retrieving dictionary

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070117

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070227

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070427

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070605

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070608

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070710

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070723

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100810

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100810

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100810

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110810

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120810

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120810

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130810

Year of fee payment: 6

EXPY Cancellation because of completion of term