JP2012128789A - Electronic apparatus comprising dictionary function, and program - Google Patents

Electronic apparatus comprising dictionary function, and program Download PDF

Info

Publication number
JP2012128789A
JP2012128789A JP2010281721A JP2010281721A JP2012128789A JP 2012128789 A JP2012128789 A JP 2012128789A JP 2010281721 A JP2010281721 A JP 2010281721A JP 2010281721 A JP2010281721 A JP 2010281721A JP 2012128789 A JP2012128789 A JP 2012128789A
Authority
JP
Japan
Prior art keywords
image
dictionary
displayed
character
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010281721A
Other languages
Japanese (ja)
Other versions
JP5605208B2 (en
Inventor
Toru Teduka
亨 手塚
Takashi Katsuta
孝 勝田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2010281721A priority Critical patent/JP5605208B2/en
Publication of JP2012128789A publication Critical patent/JP2012128789A/en
Application granted granted Critical
Publication of JP5605208B2 publication Critical patent/JP5605208B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Character Discrimination (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide an electronic apparatus comprising a dictionary function capable of correctly recognizing a character and retrieving dictionary information corresponding to the character even when the character included in an image which a user wants to check is written in a special style or out of shape.SOLUTION: An electronic apparatus comprising a dictionary function displays image data G of, for example, a notebook, a guide board or the like imaged by a user on a touch panel display part (a main screen) 16. With regard to an arbitrary character string "Ko-sei" meaning a star in Japanese included in the image data G, even when a part of the character string "Ko" meaning constant in Japanese is falsely recognized as "Mei" meaning brightness in Japanese due to dirt or loss of shape thereof, an image of the falsely recognized character "Ko" is displayed on a handwriting input part (a sub screen) 15 to correctly re-recognize the character overwritten by hand, then a built-in dictionary easily performs a headword search and explanation information H of the headword can be displayed.

Description

本発明は、ユーザ入力された検索語と一致する見出し語を検索し当該見出し語の説明情報を表示する辞書機能を備えた電子機器およびその制御プログラムに関する。   The present invention relates to an electronic device having a dictionary function for searching for a headword that matches a search word input by a user and displaying explanation information of the headword and a control program therefor.

外出先の案内板や手書きのノートなどを撮影し、後にその撮影画像を見て同案内板やノートに書かれた内容を調べようとすることがある。   There is a case where a user takes a picture of a signboard or a handwritten notebook, and then looks at the photographed image to examine the contents written on the guide board or notebook.

撮影された画像に含まれる文字を文字認識によりテキスト化し、この文字と一致する見出し語を内蔵の辞書から検索してその意味を表示する携帯情報機器が考えられている(例えば、特許文献1参照。)。   A portable information device has been considered in which characters included in a photographed image are converted into text by character recognition, a headword that matches the characters is searched from a built-in dictionary, and the meaning is displayed (for example, see Patent Document 1). .)

さらに、撮影された画像を画像認識し、当該画像に対応する文字に変換して表示すること、例えば富士山の写真画像を「富士山」の文字に変換することが可能なカメラ付き携帯情報端末も考えられている(例えば、特許文献2参照。)。   Furthermore, a portable information terminal with a camera capable of recognizing a captured image, converting it into characters corresponding to the image, and displaying it, for example, converting a photographic image of Mt. Fuji to characters of “Mt. Fuji” is also considered. (For example, see Patent Document 2).

特開2005−301914号公報JP 2005-301914 A 特開2005−316912号公報JP 2005-316912 A

しかしながら、撮影の対象となる前記案内板やノート等に書かれている文字が、一般的でない特殊な態様で書かれていたり、汚れや劣化などにより字形が崩れていたりした場合、撮影画像から当該文字を上手く認識することができず、その文字に対応する辞書情報を検索できない。   However, if the characters written on the information board, notebook, etc. to be photographed are written in a special way that is not common, or the shape of the character is broken due to dirt, deterioration, etc. A character cannot be recognized well, and dictionary information corresponding to the character cannot be searched.

本発明は、このような課題に鑑みなされたもので、撮影画像に含まれる調べたい文字が、特殊な態様で書かれていたり字形が崩れていたりした場合でも、正しく文字認識させて同文字に対応する辞書情報を検索することが可能になる辞書機能を備えた電子機器およびその制御プログラムを提供することを目的とする。   The present invention has been made in view of such a problem, and even when a character to be examined included in a photographed image is written in a special form or the character shape is broken, the character is correctly recognized and converted into the same character. It is an object of the present invention to provide an electronic device having a dictionary function that enables retrieval of corresponding dictionary information and a control program thereof.

請求項1に記載の辞書機能を備えた電子機器は、タッチパネル式の表示画面を有し辞書機能を備えた電子機器であって、画像データを取り込む画像取り込み手段と、この画像取り込み手段により取り込まれた画像データを前記タッチパネル式の第1の表示画面に表示させる画像表示手段と、この画像表示手段により表示された画像上の任意の画像パターンを選択する選択手段と、この選択手段により選択された前記画像内の画像パターンを前記タッチパネル式の第2の表示画面に表示させる選択画像表示手段と、この選択画像表示手段により前記タッチパネル式の第2の表示画面に前記選択された画像パターンが表示された状態で、当該第2の表示画面上でのタッチ位置の変化に応じた手書き文字を認識する文字認識手段と、この文字認識手段により認識された文字に基づき辞書の見出し語を検索しその説明情報を表示させる辞書検索手段と、を備えたことを特徴としている。   An electronic device having a dictionary function according to claim 1 is an electronic device having a touch panel display screen and a dictionary function, and is captured by an image capturing unit that captures image data, and the image capturing unit. Image display means for displaying the obtained image data on the first display screen of the touch panel type, selection means for selecting an arbitrary image pattern on the image displayed by the image display means, and selection by the selection means Selected image display means for displaying an image pattern in the image on the touch panel type second display screen, and the selected image pattern is displayed on the touch panel type second display screen by the selected image display means. A character recognizing means for recognizing a handwritten character corresponding to a change in the touch position on the second display screen, and the character recognizing hand It is characterized and dictionary search means for searching for headwords in the dictionary based on the recognized character display the description information, further comprising a by.

請求項2に記載の辞書機能を備えた電子機器は、前記請求項1に記載の辞書機能を備えた電子機器において、前記辞書検索手段による辞書の検索情報を前記画像表示手段により表示された画像における前記選択手段により選択された画像パターンの位置情報と対応付けて登録する検索履歴登録手段と、前記画像表示手段により前記取り込まれた画像データを前記タッチパネル式の第1の表示画面に表示させた際に、当該画像データに対応付けて前記検索履歴登録手段により辞書の検索情報が登録されているかを判断する履歴有り判断手段と、この履歴有り判断手段により前記画像表示手段により表示された画像データに対応付けて辞書の検索情報が登録されていると判断された場合に、当該表示された画像上の前記選択された画像パターンの位置情報に対応する位置に履歴有りマークを表示させるマーク表示手段と、このマーク表示手段により表示された履歴有りマークの位置がタッチされた際に、当該タッチ位置に対応付けて登録された前記辞書の検索情報に基づく見出し語の説明情報を、前記タッチパネル式の第2の表示画面に表示させる説明情報表示手段と、を備えたことを特徴としている。   An electronic device having the dictionary function according to claim 2 is an image in which dictionary search information by the dictionary search unit is displayed by the image display unit in the electronic device having the dictionary function according to claim 1. The search history registration means for registering the image pattern in association with the position information of the image pattern selected by the selection means, and the captured image data by the image display means are displayed on the touch panel type first display screen. A history presence determination means for determining whether or not dictionary search information is registered by the search history registration means in association with the image data, and image data displayed by the image display means by the history presence determination means. When it is determined that dictionary search information is registered in association with the image, the selected image pattern of the displayed image is displayed. Mark display means for displaying a history mark at a position corresponding to the position information, and the dictionary registered in association with the touch position when the position of the history mark displayed by the mark display means is touched And an explanation information display means for displaying the explanation information of the headword based on the search information on the touch panel type second display screen.

請求項3に記載の辞書機能を備えた電子機器は、前記請求項2に記載の辞書機能を備えた電子機器において、前記検索履歴登録手段は、前記辞書検索手段による辞書の検索情報を前記画像表示手段により表示された画像における前記選択手段により選択された画像パターンの位置情報および前記文字認識手段により認識した手書き文字と対応付けて登録し、前記履歴有り判断手段により前記画像表示手段により表示された画像データに対応付けて辞書の検索情報が登録されていると判断された場合に、当該表示された画像上の前記選択された画像パターンを、当該画像パターンの位置情報に対応付けて登録された前記手書き文字に置き換えて表示させる置き換え表示手段をさらに備えたことを特徴としている。   The electronic device having the dictionary function according to claim 3 is the electronic device having the dictionary function according to claim 2, wherein the search history registering unit obtains dictionary search information by the dictionary searching unit as the image Registered in association with the position information of the image pattern selected by the selection unit and the handwritten character recognized by the character recognition unit in the image displayed by the display unit, and displayed by the image display unit by the history determination unit If it is determined that dictionary search information is registered in association with the image data, the selected image pattern on the displayed image is registered in association with the position information of the image pattern. Further, it is characterized by further comprising replacement display means for replacing the handwritten characters and displaying them.

請求項4に記載の辞書機能を備えた電子機器は、前記請求項1ないし請求項3の何れか1項に記載の辞書機能を備えた電子機器において、前記タッチパネル式の第1の表示画面と第2の表示画面とは、それぞれ独立した表示部として構成されることを特徴としている。   The electronic device with the dictionary function according to claim 4 is the electronic device with the dictionary function according to any one of claims 1 to 3, wherein the touch panel type first display screen and The second display screen is configured as an independent display unit.

請求項5に記載のプログラムは、タッチパネル式の表示画面を有し辞書機能を備えた電子機器のコンピュータを制御するためのプログラムであって、前記コンピュータを、画像データを取り込む画像取り込み手段、この画像取り込み手段により取り込まれた画像データを前記タッチパネル式の第1の表示画面に表示させる画像表示手段、この画像表示手段により表示された画像上の任意の画像パターンを選択する選択手段、この選択手段により選択された前記画像内の画像パターンを前記タッチパネル式の第2の表示画面に表示させる選択画像表示手段、この選択画像表示手段により前記タッチパネル式の第2の表示画面に前記選択された画像パターンが表示された状態で、当該第2の表示画面上でのタッチ位置の変化に応じた手書き文字を認識する文字認識手段、この文字認識手段により認識された文字に基づき辞書の見出し語を検索しその説明情報を表示させる辞書検索手段、として機能させることを特徴としている。   The program according to claim 5 is a program for controlling a computer of an electronic device having a touch panel type display screen and having a dictionary function, the image capturing means for capturing image data into the computer, and the image Image display means for displaying the image data captured by the capture means on the touch panel type first display screen, selection means for selecting an arbitrary image pattern on the image displayed by the image display means, and the selection means Selection image display means for displaying the image pattern in the selected image on the touch panel type second display screen, and the selected image pattern is displayed on the touch panel type second display screen by the selection image display means. In the displayed state, handwritten characters corresponding to the change of the touch position on the second display screen are displayed. Character recognition means for identification, is characterized in that to function as dictionary search means for searching vocabulary entry and displays the explanatory information of the dictionary on the basis of recognized characters by the character recognition means.

本発明によれば、撮影画像に含まれる調べたい文字が、特殊な態様で書かれていたり字形が崩れていたりした場合でも、正しく文字認識させて同文字に対応する辞書情報を検索することが可能になる辞書機能を備えた電子機器およびその制御プログラムを提供できる。   According to the present invention, even if the character to be examined included in the photographed image is written in a special manner or the shape of the character is broken, the dictionary information corresponding to the same character can be retrieved by correctly recognizing the character. It is possible to provide an electronic device having a dictionary function and a control program thereof.

本発明の辞書機能を備えた電子機器の実施形態に係るカメラ付き電子辞書装置10の外観構成を示す正面図。The front view which shows the external appearance structure of the electronic dictionary apparatus 10 with a camera which concerns on embodiment of the electronic device provided with the dictionary function of this invention. 前記電子辞書装置10の電子回路の構成を示すブロック図。2 is a block diagram showing a configuration of an electronic circuit of the electronic dictionary device 10. FIG. 前記電子辞書装置10の履歴データメモリ22dに登録された検索履歴データの内容を示す図。The figure which shows the content of the search log | history data registered into the log | history data memory 22d of the said electronic dictionary apparatus 10. FIG. 前記電子辞書装置10による画像取り込み処理を示すフローチャート。5 is a flowchart showing image capture processing by the electronic dictionary device 10; 前記電子辞書装置10による画像読み出し処理を示すフローチャート。5 is a flowchart showing image reading processing by the electronic dictionary device 10; 前記電子辞書装置10の画像読み出し処理に伴う辞書表示処理を示すフローチャート。7 is a flowchart showing dictionary display processing accompanying image reading processing of the electronic dictionary device 10. 前記電子辞書装置10の辞書表示処理に伴うタッチパネル式表示部(メイン画面)16および手書き入力部(サブ画面)15での表示動作(その1)を示す図。The figure which shows the display operation (the 1) in the touchscreen type display part (main screen) 16 and the handwriting input part (subscreen) 15 accompanying the dictionary display process of the said electronic dictionary apparatus 10. FIG. 前記電子辞書装置10の辞書表示処理に伴うタッチパネル式表示部(メイン画面)16および手書き入力部(サブ画面)15での表示動作(その2)を示す図。The figure which shows the display operation (the 2) in the touchscreen type display part (main screen) 16 and the handwriting input part (subscreen) 15 accompanying the dictionary display process of the said electronic dictionary apparatus 10. FIG. 前記電子辞書装置10の辞書表示処理に伴うタッチパネル式表示部(メイン画面)16および手書き入力部(サブ画面)15での表示動作(その3)を示す図。The figure which shows the display operation (the 3) in the touchscreen type display part (main screen) 16 and the handwriting input part (subscreen) 15 accompanying the dictionary display process of the said electronic dictionary apparatus 10. FIG. 前記電子辞書装置10の画像読み出し処理に伴う画像表示処理を示すフローチャート。5 is a flowchart showing image display processing accompanying image reading processing of the electronic dictionary device 10. 前記電子辞書装置10の画像表示処理に伴うタッチパネル式表示部(メイン画面)16および手書き入力部(サブ画面)15での表示動作を示す図。The figure which shows the display operation in the touchscreen type display part (main screen) 16 and the handwriting input part (subscreen) 15 accompanying the image display process of the said electronic dictionary apparatus 10. FIG.

以下図面により本発明の実施の形態について説明する。   Embodiments of the present invention will be described below with reference to the drawings.

図1は、本発明の辞書機能を備えた電子機器の実施形態に係るカメラ付き電子辞書装置10の外観構成を示す正面図である。   FIG. 1 is a front view showing an external configuration of an electronic dictionary device 10 with a camera according to an embodiment of an electronic device having a dictionary function of the present invention.

この電子辞書装置10は、以下に説明する電子辞書専用の携帯機器として構成されるか、辞書機能を備えたPDA(personal digital assistants)、PC(personal computer)、携帯電話、電子ブック、携帯ゲーム機等として構成される。   The electronic dictionary device 10 is configured as a portable device dedicated to the electronic dictionary described below, or a PDA (personal digital assistants), a PC (personal computer), a mobile phone, an electronic book, and a portable game machine having a dictionary function. And so on.

この電子辞書装置10は、その本体ケース11と蓋体ケース12とがヒンジ部13を介して展開/閉塞可能な折り畳み型ケースを備えて構成される。この折り畳み型ケースを展開した本体ケース11の表面には、文字入力キー14a、辞書指定キー14b、[訳/決定]キー14c、[戻る]キー14d、カーソルキー14e、[撮影]キー14f、[画像]キー14g、[辞書]キー14hなどを備えたキー入力部(キーボード)14、および手書き入力部(サブ画面)15が備えられる。   The electronic dictionary device 10 includes a foldable case in which a main body case 11 and a lid case 12 can be expanded / closed via a hinge portion 13. On the surface of the body case 11 where the folding case is developed, a character input key 14a, a dictionary designation key 14b, a [translation / decision] key 14c, a [return] key 14d, a cursor key 14e, a [shooting] key 14f, [ A key input unit (keyboard) 14 provided with an [image] key 14g, a [dictionary] key 14h, and the like, and a handwriting input unit (sub-screen) 15 are provided.

この手書き入力部(サブ画面)15は、ユーザがペンや指等でタッチした位置を検出するタッチ位置検出装置と表示装置が一体となった構造であり、キー入力部14の中央手前側において例えば256×64ドットのカラー液晶表示画面15dに透明タッチパネル15tを重ねて構成される。この手書き入力部15の入力領域は、必要に応じて、手書き文字を入力するための手書き文字入力領域W(図8・図9参照)や各種機能のボタン入力領域、あるいは当該各入力領域が混在する領域に切り替えられる。   The handwriting input unit (sub-screen) 15 has a structure in which a touch position detection device that detects a position touched by a user with a pen, a finger, or the like and a display device are integrated. A transparent touch panel 15t is superimposed on a 256 × 64 dot color liquid crystal display screen 15d. The input area of the handwriting input unit 15 includes a handwritten character input area W (see FIGS. 8 and 9) for inputting handwritten characters, button input areas for various functions, or the input areas as necessary. It is switched to the area to do.

そして、前記手書き入力部15が手書き文字入力領域に切り替えられた状態での手書き入力に伴う軌跡はそのカラー液晶表示画面15dにエコーバックして表示される。   And the locus | trajectory accompanying the handwriting input in the state in which the said handwriting input part 15 was switched to the handwritten character input area is echoed back and displayed on the color liquid crystal display screen 15d.

また、前記本体ケース11の裏面には撮像部17が設けられ、この撮像部17は、前記[撮影]キー14fの操作に応じて撮像動作する。   An imaging unit 17 is provided on the back surface of the main body case 11, and the imaging unit 17 performs an imaging operation according to an operation of the [shooting] key 14f.

一方、前記蓋体ケース12の表面には、そのほぼ全面を対象に例えば480×320ドットのバックライト付きのタッチパネル式表示部(メイン画面)16が設けられる。このタッチパネル式表示部(メイン画面)16も、前記手書き入力部(サブ画面)15と同様に、ユーザがペンや指等でタッチした位置を検出するタッチ位置検出装置と表示装置が一体となった構造であり、そのカラー液晶表示画面16dに透明タッチパネル16tを重ねて構成される。   On the other hand, on the surface of the lid case 12, a touch panel type display unit (main screen) 16 with a backlight of, for example, 480 × 320 dots is provided for almost the entire surface. Similarly to the handwriting input unit (sub-screen) 15, the touch-panel display unit (main screen) 16 is integrated with a touch position detection device that detects a position touched by a user with a pen, a finger, or the like and a display device. The structure is configured by overlapping a transparent touch panel 16t on the color liquid crystal display screen 16d.

図2は、前記電子辞書装置10の電子回路の構成を示すブロック図である。   FIG. 2 is a block diagram showing the configuration of the electronic circuit of the electronic dictionary device 10.

この電子辞書装置10は、各種の記憶媒体に記録されたプログラムを読み込んで、その読み込んだプログラムによって動作が制御されるコンピュータによって構成され、その電子回路には、CPU(central processing unit)21が備えられる。   The electronic dictionary device 10 is configured by a computer that reads programs recorded in various storage media and whose operation is controlled by the read programs. The electronic circuit includes a CPU (central processing unit) 21. It is done.

CPU21は、主記憶装置22内に予め記憶された装置制御プログラム22a、あるいはROMカードなどの外部記憶媒体23から記憶媒体読み書き部24を介して前記主記憶装置22に読み込まれた装置制御プログラム22a、あるいはインターネットN上のWebサーバ(この場合はプログラムサーバ)30から外部インターフェイス25を介して前記主記憶装置22に読み込まれた装置制御プログラム22aに応じて、RAM26を作業用メモリとして回路各部の動作を制御する。   The CPU 21 is a device control program 22a stored in the main storage device 22 in advance, or a device control program 22a read from the external storage medium 23 such as a ROM card into the main storage device 22 via the storage medium read / write unit 24, Alternatively, according to the device control program 22a read from the Web server 30 (in this case, the program server) 30 on the Internet N via the external interface 25, the operation of each part of the circuit is performed using the RAM 26 as a working memory. Control.

主記憶装置22には、前記装置制御プログラム22a、辞書データベース22bが記憶され、画像データメモリ22c、履歴データメモリ22d、手書きデータメモリ22eなどが確保される。   The main storage device 22 stores the device control program 22a and the dictionary database 22b, and secures an image data memory 22c, a history data memory 22d, a handwritten data memory 22e, and the like.

主記憶装置22に記憶された装置制御プログラム22aは、キー入力部14、手書き入力部15、タッチパネル式表示部16からのユーザ操作に応じた入力信号、あるいは外部インターフェイス25を介して接続されるインターネットN上の各Webサーバ30…との通信信号に応じて起動される。   The device control program 22a stored in the main storage device 22 is connected via an input signal corresponding to a user operation from the key input unit 14, the handwriting input unit 15, and the touch panel display unit 16, or via the external interface 25. It is started in response to a communication signal with each Web server 30 on N.

前記装置制御プログラム22aとしては、当該電子辞書装置10の全体の動作を司るシステムプログラムや外部インターフェイス25を介してインターネットN上の各Webサーバ30…や図示しないユーザPC(Personal Computer)などとデータ通信するための通信プログラムが記憶される。   As the device control program 22a, data communication with a system program that controls the overall operation of the electronic dictionary device 10 and each Web server 30 on the Internet N or a user PC (Personal Computer) (not shown) via the external interface 25. A communication program is stored.

また他に、辞書機能における見出し語検索処理、検索見出し語の一覧表示処理、ユーザ指定の見出し語に対応する訳語・意味内容・例文(用例)などの各種説明情報の読み出し表示処理など、辞書データベース22bに基づく検索・表示処理全般を制御するための辞書検索プログラムが記憶される。   In addition, the dictionary database includes a headword search process in the dictionary function, a list display process of search headwords, and reading and displaying various explanatory information such as translations, meaning contents, and example sentences (examples) corresponding to user-specified headwords. A dictionary search program for controlling the overall search / display processing based on 22b is stored.

さらに、前記装置制御プログラム22aとしては、前記[撮影]キー14fの入力に応じて撮像部17により撮影された画像データを保存するための画像取り込みプログラム(図4参照)、保存された複数の画像データの中から任意に選択した画像データを読み出してタッチパネル式表示部(メイン画面)16に表示させるための画像読み出しプログラム(図5参照)、前記タッチパネル式表示部(メイン画面)16に表示された画像データの中から任意に選択した文字の画像を文字認識し、認識された文字を検索語として辞書から検索した情報を手書き入力部(サブ画面)15に表示させるための辞書表示プログラム(図6参照)、この辞書表示プログラムに従い辞書検索した履歴のある画像データを前記タッチパネル式表示部(メイン画面)16に表示させた場合に、検索済みの辞書情報を読み出して手書き入力部(サブ画面)15に表示させるための画像表示プログラム(図10参照)も記憶される。   Further, as the device control program 22a, an image capturing program (see FIG. 4) for storing image data captured by the imaging unit 17 in response to an input of the [shooting] key 14f, a plurality of stored images An image reading program (see FIG. 5) for reading out image data arbitrarily selected from the data and displaying it on the touch panel display unit (main screen) 16, and displayed on the touch panel display unit (main screen) 16 A dictionary display program for recognizing an image of a character arbitrarily selected from image data and displaying information retrieved from the dictionary using the recognized character as a search word on the handwriting input unit (sub-screen) 15 (FIG. 6). The image data having a history of dictionary search according to the dictionary display program is displayed on the touch panel display unit (main screen). ) When is displayed in 16, the image display program for displaying handwriting input unit reads out the already retrieved dictionary information (the sub-screen) 15 (see FIG. 10) is also stored.

辞書データベース22bには、例えば日本語の見出し語に対応付けて日本語の説明情報が記述された[国語辞書]、英語の見出し語に対応付けて日本語の説明情報が記述された[英和辞書]、日本語の見出し語に対応付けて英語の説明情報が記述された[和英辞書]など、複数種類の辞書データが予め記憶されるかあるいはダウンロードされて記憶される。   In the dictionary database 22b, for example, [Japanese language dictionary] in which Japanese explanation information is described in association with Japanese headwords, and [English-Japanese dictionary in which Japanese explanation information is described in association with English headwords] ], A plurality of types of dictionary data such as [Japanese-English dictionary] in which English explanatory information is described in association with Japanese headwords are stored in advance or downloaded and stored.

画像データメモリ22cには、撮像部17により撮像された画像データや外部から読み込まれた画像データが記憶される。   The image data memory 22c stores image data captured by the imaging unit 17 and image data read from the outside.

履歴データメモリ22dには、前記画像読み出しプログラム(図5参照)および前記辞書表示プログラム(図6参照)に従い、前記画像データメモリ22cから読み出された画像データの中で任意に選択した文字の画像を文字認識し、認識された文字を検索語として辞書情報を検索し表示させた際に、当該画像データの選択された文字の位置と対応付けてその検索履歴が登録される。   In the history data memory 22d, according to the image reading program (see FIG. 5) and the dictionary display program (see FIG. 6), an image of a character arbitrarily selected from the image data read out from the image data memory 22c. When the dictionary information is searched and displayed using the recognized character as a search word, the search history is registered in association with the position of the selected character in the image data.

手書きデータメモリ22eには、前記画像データからの選択された文字の文字認識における誤認識または認識不可に応じて、同選択された文字を手書き入力し再認識した際に、当該画像データの選択された文字の位置と対応付けてその手書き文字が登録される。   In the handwritten data memory 22e, when the selected character is input by handwriting and re-recognized according to the recognition error or the recognition failure in the character recognition of the selected character from the image data, the image data is selected. The handwritten character is registered in association with the position of the character.

RAM26には、タッチパネル式表示部(メイン画面)16および手書き入力部(サブ画面)15それぞれのフレームバッファとして機能する表示データメモリ26aが備えられる。   The RAM 26 includes a display data memory 26 a that functions as a frame buffer for each of the touch panel display unit (main screen) 16 and the handwriting input unit (sub-screen) 15.

このように、前記CPU21には、前記主記憶装置22、記憶媒体読み書き部24、外部インターフェイス25、RAM26、キー入力部14、手書き入力部15、タッチパネル式表示部16、撮像部17が接続される。   As described above, the CPU 21 is connected to the main storage device 22, the storage medium read / write unit 24, the external interface 25, the RAM 26, the key input unit 14, the handwriting input unit 15, the touch panel display unit 16, and the imaging unit 17. .

図3は、前記電子辞書装置10の履歴データメモリ22dに登録された検索履歴データの内容を示す図である。   FIG. 3 is a diagram showing the contents of the search history data registered in the history data memory 22d of the electronic dictionary device 10. As shown in FIG.

すなわち、前記履歴データメモリ22dに登録される検索履歴データとしては、辞書情報の検索対象とした文字を含む画像データのIDと同画像データの中での検索文字の位置情報、検索に使用した辞書の種類と見出し語、検索対象とした文字を手書き文字にして再認識している場合の同手書き文字の登録先が記憶される。   That is, as the search history data registered in the history data memory 22d, the ID of the image data including the character to be searched for dictionary information, the position information of the search character in the same image data, and the dictionary used for the search Type and headword, and the registration destination of the handwritten character when the character to be searched is re-recognized as a handwritten character.

このように構成されたカメラ付き電子辞書装置10は、CPU21が前記装置制御プログラム22a(画像取り込みプログラム/画像読み出しプログラム/辞書表示プログラム/画像表示プログラムを含む)に記述された命令に従い回路各部の動作を制御し、ソフトウエアとハードウエアとが協働して動作することにより、以下の動作説明で述べる機能を実現する。   In the electronic dictionary device with camera 10 configured as described above, the CPU 21 operates the circuit components in accordance with instructions described in the device control program 22a (including an image capturing program / image reading program / dictionary display program / image display program). And the software and hardware operate in cooperation to realize the function described in the following operation description.

次に、前記構成のカメラ付き電子辞書装置10の動作について説明する。   Next, the operation of the electronic dictionary device with a camera 10 having the above configuration will be described.

図4は、前記電子辞書装置10による画像取り込み処理を示すフローチャートである。   FIG. 4 is a flowchart showing image capture processing by the electronic dictionary device 10.

[撮影]キー14fが長押しされるとカメラモードになり、撮像部17により撮像される画像がタッチパネル式表示部(メイン画面)16に表示される。   When the [Shooting] key 14f is pressed and held, the camera mode is set, and an image captured by the imaging unit 17 is displayed on the touch panel display unit (main screen) 16.

ここで、前記[撮影]キー14fが押されると、そのキー押下の都度、前記撮像部17により撮像されている被写体が撮影され(ステップA1)、撮影された画像データが画像データメモリ22cに記憶されて保存される(ステップA2)。   When the [Shoot] key 14f is pressed, the subject imaged by the imaging unit 17 is photographed each time the key is depressed (Step A1), and the photographed image data is stored in the image data memory 22c. And stored (step A2).

本実施形態において、電子辞書装置10のユーザは、例えば手書きのノートの重要な部分や歴史案内板の興味ある案内文を撮影して保存する。   In the present embodiment, the user of the electronic dictionary device 10 captures and stores an important part of a handwritten note or an interesting guide sentence on a history guide board, for example.

図5は、前記電子辞書装置10による画像読み出し処理を示すフローチャートである。   FIG. 5 is a flowchart showing image reading processing by the electronic dictionary device 10.

図6は、前記電子辞書装置10の画像読み出し処理に伴う辞書表示処理を示すフローチャートである。   FIG. 6 is a flowchart showing a dictionary display process accompanying the image reading process of the electronic dictionary device 10.

図7は、前記電子辞書装置10の辞書表示処理に伴うタッチパネル式表示部(メイン画面)16および手書き入力部(サブ画面)15での表示動作(その1)を示す図である。   FIG. 7 is a diagram showing a display operation (part 1) on the touch panel display unit (main screen) 16 and the handwriting input unit (sub screen) 15 associated with the dictionary display process of the electronic dictionary device 10.

[画像]キー14gが押下されると、図5における画像読み出し処理が起動され、画像データメモリ22cに保存されている各画像データが、例えばインデックス表示、サムネイル表示、カーソルキー14eの押下に応じた切り替え表示により選択可能な状態になる(ステップB1)。   When the [Image] key 14g is pressed, the image reading process in FIG. 5 is activated, and each image data stored in the image data memory 22c is displayed in accordance with, for example, index display, thumbnail display, or the cursor key 14e being pressed. It becomes a selectable state by the switching display (step B1).

ここで、任意の画像が選択されて[訳/決定]キー14cが押下されると、例えば図7に示すように、選択された画像データGがタッチパネル式表示部(メイン画面)16に表示される(ステップB2)。   Here, when an arbitrary image is selected and the [translation / decision] key 14c is pressed, the selected image data G is displayed on the touch panel display unit (main screen) 16 as shown in FIG. (Step B2).

すると、表示された画像データGに対応付けられた検索履歴データが履歴データメモリ22dに登録されているか否か判断され(ステップB3)、履歴データの登録ありと判断された場合には(ステップB3(Yes))、図10を参照して後述する画像表示処理へ移行される(ステップBC)。   Then, it is determined whether or not search history data associated with the displayed image data G is registered in the history data memory 22d (step B3). If it is determined that history data is registered (step B3). (Yes)), the process proceeds to an image display process described later with reference to FIG. 10 (step BC).

一方、前記表示された画像データGについて履歴データの登録なしと判断された場合には(ステップB3(No))、[辞書]キー14hが押下されたか否かが判断される(ステップB4)。   On the other hand, when it is determined that no history data is registered for the displayed image data G (step B3 (No)), it is determined whether or not the [Dictionary] key 14h is pressed (step B4).

以下、図7に示す手書きノートの画像を表示させた状態から、ノートに記載された文字を辞書で調べることを例として説明する。ユーザは前記表示された画像データGに含まれる所望の文字(例えば「恒星」)について辞書で調べたい場合には[辞書]キー14hを押下する。そして、[辞書]キー14hが押下されたと判断されると(ステップB4(Yes))、図6における辞書表示処理へ移行される(ステップBS)。   In the following, an example will be described in which a character written in a note is checked with a dictionary from a state in which an image of a handwritten note shown in FIG. 7 is displayed. The user presses the [Dictionary] key 14h when he wants to look up a desired character (for example, “star”) included in the displayed image data G in the dictionary. If it is determined that the [Dictionary] key 14h is pressed (Step B4 (Yes)), the process proceeds to the dictionary display process in FIG. 6 (Step BS).

辞書表示処理が起動されると、前記タッチパネル式表示部(メイン画面)16に表示されている画像データG上に、当該画像データG内の所望の文字を選択するための矩形の選択枠Sが表示される(ステップS1)。   When the dictionary display process is activated, a rectangular selection frame S for selecting a desired character in the image data G is displayed on the image data G displayed on the touch panel display unit (main screen) 16. It is displayed (step S1).

また、手書き入力部(サブ画面)15に対して、検索に使用する辞書の種類を指定するための辞書一覧Ldが表示される(ステップS2)。なお、この辞書一覧Ldは、同手書き入力部(サブ画面)15の右端に表示されたカーソルボタンBcのタッチに応じてスクロール可能であり、表示しきれない他の辞書の選択を可能にする。   In addition, a dictionary list Ld for designating the type of dictionary used for the search is displayed on the handwriting input unit (sub-screen) 15 (step S2). The dictionary list Ld can be scrolled in accordance with the touch of the cursor button Bc displayed at the right end of the handwriting input unit (sub-screen) 15, and allows selection of other dictionaries that cannot be displayed.

図8は、前記電子辞書装置10の辞書表示処理に伴うタッチパネル式表示部(メイン画面)16および手書き入力部(サブ画面)15での表示動作(その2)を示す図である。   FIG. 8 is a diagram showing a display operation (part 2) on the touch panel display unit (main screen) 16 and the handwriting input unit (sub screen) 15 accompanying the dictionary display process of the electronic dictionary device 10.

図9は、前記電子辞書装置10の辞書表示処理に伴うタッチパネル式表示部(メイン画面)16および手書き入力部(サブ画面)15での表示動作(その3)を示す図である。   FIG. 9 is a diagram showing a display operation (part 3) on the touch panel display unit (main screen) 16 and the handwriting input unit (sub screen) 15 accompanying the dictionary display process of the electronic dictionary device 10.

前記タッチパネル式表示部(メイン画面)16の画像データG上に表示された選択枠Sは、タッチ操作により同画面内で移動可能であると共に、矩形サイズを変更可能であり、ユーザは、同選択枠Sを、図8(A)(あるいは図9(A))に示すように、前記所望の文字「恒星」の位置に移動させて同文字「恒星」を囲んで選択する(ステップS3)。なお、画面上での文字部分の選択は、ユーザが直接ペン等により対象部分を囲むように線を引くことで行ってもよい。   The selection frame S displayed on the image data G of the touch panel display unit (main screen) 16 can be moved within the same screen by a touch operation, and the rectangular size can be changed. As shown in FIG. 8A (or FIG. 9A), the frame S is moved to the position of the desired character “constant” and is selected by surrounding the character “constant” (step S3). The selection of the character part on the screen may be performed by the user drawing a line so as to surround the target part directly with a pen or the like.

文字の選択後、前記手書き入力部(サブ画面)15に表示された辞書一覧Ldをタッチすることで、検索に使用する辞書の種類(例えば[百科辞典])が指定されると(ステップS4)、前記選択枠Sにより選択された文字「恒星」の画像パターンを対象に文字認識が実行され(ステップS5)、文字認識不可能か否(認識可能)か判断される(ステップS6)。   After the character is selected, the type of dictionary used for the search (for example, [Encyclopedia]) is specified by touching the dictionary list Ld displayed on the handwriting input unit (sub-screen) 15 (step S4). Then, character recognition is executed for the image pattern of the character “fixed star” selected by the selection frame S (step S5), and it is determined whether or not the character recognition is impossible (recognition is possible) (step S6).

そして、前記選択された文字「恒星」の画像パターンについて文字認識不可能ではない、つまり認識可能と判断されると(ステップS6(No))、当該文字認識された文字「恒星」と先頭一致する見出し語が、前記ステップS4にて指定された辞書[百科辞典]から検索され、図8(B)に示すように、手書き入力部(サブ画面)15に見出し語一覧Lmとして表示される(ステップS7)。   Then, when it is determined that the image pattern of the selected character “constant” is not character recognizable, that is, is recognizable (step S6 (No)), it matches the character recognized “stellar” at the head. A headword is retrieved from the dictionary [encyclopedia] designated in step S4 and displayed as a headword list Lm on the handwriting input unit (sub-screen) 15 as shown in FIG. S7).

ここで、見出し語一覧Lm[恒星/恒星雲/恒星磁場/…]から、ユーザ所望の見出し語「恒星磁場」がタッチされて選択されると、再認識の必要なしと判断され(ステップS8(No))、図8(C)に示すように、当該選択された見出し語「恒星磁場」の説明情報Hが前記指定の辞書[百科辞典]から読み出され手書き入力部(サブ画面)15に表示される(ステップS9)。   Here, when a user-desired headword “stellar magnetic field” is touched and selected from the headword list Lm [star / stellar cloud / stellar magnetic field /...], It is determined that re-recognition is not necessary (step S8 ( No)), as shown in FIG. 8C, the description information H of the selected headword “stellar magnetic field” is read from the designated dictionary [encyclopedia] and is written in the handwriting input unit (sub-screen) 15. It is displayed (step S9).

すると、前記タッチパネル式表示部(メイン画面)16に表示された画像データGのIDと同画像データG上での検索対象文字「恒星」の位置情報、指定の辞書の種類[百科辞典]と選択された見出し語「恒星磁場」が対応付けられた検索履歴が生成され、履歴データメモリ22dに登録される(ステップS10)。   Then, the ID of the image data G displayed on the touch panel display unit (main screen) 16, the position information of the search target character “constant” on the image data G, the type of the designated dictionary [encyclopedia] and selection A search history associated with the entered headword “stellar magnetic field” is generated and registered in the history data memory 22d (step S10).

これにより、ユーザが撮影した例えばノートや案内板などの画像データGに含まれる任意の文字について、容易に辞書で見出し語検索しその説明情報を表示させることができる。そして、前記画像データG上で検索対象として選択された文字の位置に対応付けて、辞書検索した情報からなる検索履歴を登録することができる。   As a result, for any character included in the image data G such as a notebook or a guide board photographed by the user, it is possible to easily search for an entry word in the dictionary and display the explanation information. Then, it is possible to register a search history made up of dictionary searched information in association with the position of the character selected as the search target on the image data G.

一方、前記画像データG上で選択された文字「恒星」の画像パターンが、汚れなどによりその一部が欠けていたり字形が崩れたりしていて、「恒」の画像パターンが「明」と誤認識された場合には、図8(D)に示すように、見出し語一覧Lm[明星/明星学園/明星製菓/…]が表示される(ステップS7)。ユーザは見出し語一覧を見ることで誤認識されたことを知るので、再認識の指令を入力する。再認識の指令は、例えば見出し語表示中に行われる「辞書」キー14hの操作とする。そして、再認識の指令があった場合には、その後、当該誤認識された画像データG上の文字「恒」がタッチされて指定される(ステップS8(Yes)→S11)。   On the other hand, the image pattern of the character “constant star” selected on the image data G is partially missing or distorted due to dirt or the like, and the image pattern of “constant” is erroneously described as “bright”. If it is recognized, a headword list Lm [Meisei / Meisei Gakuen / Meisei Seika / ...] is displayed as shown in FIG. 8D (step S7). Since the user knows that the recognition error has occurred by looking at the headword list, the user inputs a re-recognition command. The re-recognition command is, for example, an operation of the “dictionary” key 14h performed during the headword display. If there is a re-recognition command, then the character “constant” on the erroneously recognized image data G is touched and specified (step S8 (Yes) → S11).

すると、図8(E)に示すように、前記画像データG上で指定された一部欠落した文字「恒」の画像が手書き入力部(サブ画面)15の手書き文字入力領域Wに表示される(ステップS12)。   Then, as shown in FIG. 8 (E), an image of a partially missing character “constant” designated on the image data G is displayed in the handwritten character input area W of the handwriting input unit (sub-screen) 15. (Step S12).

この際、前記手書き入力部(サブ画面)15の手書き文字入力領域Wの左側には、同手書き文字入力領域Wに手書きされた文字の文字認識を指示するための[認識]ボタンBnと、手書きされた文字を消去して訂正するための[訂正]ボタンBtが表示される。   At this time, on the left side of the handwritten character input area W of the handwritten input section (sub-screen) 15, a [recognition] button Bn for instructing character recognition of characters handwritten in the handwritten character input area W, and handwriting A [correction] button Bt for erasing and correcting the displayed character is displayed.

ここで、前記手書き入力部(サブ画面)15の手書き文字入力領域Wに表示された一部が欠けている文字「恒」の画像パターンに対して、図8(F)に示すように、ユーザにより上書きにより「恒」の文字が書き直され前記[認識]ボタンBnがタッチされると(ステップS13)、入力された手書き文字「恒」が手書き文字認識される(ステップS14)。   Here, as shown in FIG. 8 (F), for the image pattern of the character “constant” lacking a part displayed in the handwritten character input area W of the handwriting input unit (sub-screen) 15, as shown in FIG. As a result of the overwriting, the character “HUN” is rewritten and the [recognition] button Bn is touched (step S13), and the input handwritten character “HUN” is recognized (step S14).

すると、この再認識された手書き文字「恒」によって訂正された認識文字「恒星」と先頭一致する見出し語が、前記ステップS4にて指定された辞書[百科辞典]から検索され、図8(B)に示すように、手書き入力部(サブ画面)15に見出し語一覧Lm[恒星/恒星雲/恒星磁場/…]として表示される(ステップS15)。   Then, the headword that first matches the recognized character “constant” corrected by the re-recognized handwritten character “constant” is searched from the dictionary [encyclopedia] designated in step S4, and FIG. ), The headword list Lm [Star / Star Cloud / Star Field / ...] is displayed on the handwriting input unit (sub-screen) 15 (step S15).

そして、手書き入力部(サブ画面)15に表示された見出し語一覧Lmにおいて、ユーザ所望の見出し語「恒星磁場」がタッチされて選択されると、図8(C)に示すように、当該選択された見出し語「恒星磁場」の説明情報Hが前記指定の辞書[百科辞典]から読み出され同手書き入力部(サブ画面)15に表示される(ステップS16)。   Then, in the headword list Lm displayed on the handwriting input unit (sub-screen) 15, when the headword “stellar magnetic field” desired by the user is touched and selected, as shown in FIG. The explanation information H of the headword “stellar magnetic field” is read from the designated dictionary [encyclopedia] and displayed on the handwriting input unit (sub-screen) 15 (step S16).

ここで、前記ステップS14にて再認識した手書き文字「恒」を登録するか否かのユーザ判断を促すメッセージが表示され(ステップS17)、手書き文字の登録が指示されると(ステップS17(Yes))、当該手書き文字「恒」が手書きデータメモリ22eに登録される(ステップS18)。   Here, a message prompting the user to determine whether or not to register the handwritten character “constant” re-recognized in step S14 is displayed (step S17), and when registration of the handwritten character is instructed (step S17 (Yes) )), And the handwritten character “HUN” is registered in the handwritten data memory 22e (step S18).

そして、前記タッチパネル式表示部(メイン画面)16に表示された画像データGのIDと同画像データG上での検索対象文字「恒星」の位置情報、指定の辞書の種類[百科辞典]と選択された見出し語「恒星磁場」、前記手書き文字「恒」の登録先が対応付けられた検索履歴が生成され、履歴データメモリ22dに登録される(ステップS10)。   Then, the ID of the image data G displayed on the touch panel display unit (main screen) 16, the position information of the search target character “constant” on the image data G, the type of the specified dictionary [encyclopedia] and selection A search history in which the registered headword “constant magnetic field” and the registration destination of the handwritten character “constant” are associated is generated and registered in the history data memory 22d (step S10).

これにより、ユーザが撮影した例えばノートや案内板などの画像データGに含まれる任意の文字列について、その一部の文字が汚れや字形の崩れにより誤認識された場合でも、当該誤認識された文字を手書き入力して手書き認識により正しく再認識させ、容易に辞書で見出し語検索しその説明情報を表示させることができる。そして、前記画像データG上で検索対象として選択された文字の位置に対応付けて、辞書検索した情報と書き直した手書き文字の情報とからなる検索履歴を登録することができる。   Thereby, even if some characters included in the image data G taken by the user, for example, image data G such as a notebook or a guide board, are misrecognized even if some of the characters are misrecognized due to dirt or shape collapse. It is possible to input characters by handwriting and re-recognize correctly by handwriting recognition, easily search for a headword in the dictionary, and display the explanation information. Then, in association with the position of the character selected as the search target on the image data G, a search history composed of the dictionary searched information and the rewritten handwritten character information can be registered.

一方、前記画像データG上で選択された文字「恒星」の画像パターンについて、全体的な汚れや掠れなどによりその全体にわたり欠けがあったり全体の字形が特殊であったり、崩れたりしていて文字認識不可能と判断されると(ステップS6(Yes))、図9(B)に示すように、前記画像データG上で選択されている不鮮明な文字「恒星」の画像が手書き入力部(サブ画面)15の手書き文字入力領域Wに表示される(ステップS19)。   On the other hand, the image pattern of the character “stellar” selected on the image data G has a lack of the whole character due to the overall dirt or drowning, the whole character shape is special, or the character pattern is broken. If it is determined that recognition is not possible (step S6 (Yes)), as shown in FIG. 9B, the image of the unclear character “constant” selected on the image data G is input to the handwriting input unit (sub Is displayed in the handwritten character input area W of the screen 15 (step S19).

ここで、前記手書き入力部(サブ画面)15の手書き文字入力領域Wに表示された不鮮明な文字「恒星」の画像パターンに対して、図9(C)に示すように、上書きにより「恒星」の文字が書き直され前記[認識]ボタンBnがタッチされると(ステップS20)、入力された手書き文字「恒星」が手書き文字認識される(ステップS21)。   Here, as shown in FIG. 9C, the “stellar” is overwritten on the image pattern of the unclear character “constant” displayed in the handwritten character input area W of the handwriting input unit (sub-screen) 15. When the [recognition] button Bn is touched (step S20), the input handwritten character “fixed star” is recognized (step S21).

すると、この再認識された認識文字「恒星」と先頭一致する見出し語が、前記ステップS4にて指定された辞書[百科辞典]から検索され、図9(D)に示すように、手書き入力部(サブ画面)15に見出し語一覧Lm[恒星/恒星雲/恒星磁場/…]として表示される(ステップS22)。   Then, the headword that first matches the re-recognized recognized character “constant star” is searched from the dictionary [encyclopedia] designated in step S4, and as shown in FIG. (Sub-screen) 15 is displayed as a headword list Lm [star / stellar cloud / stellar magnetic field / ...] (step S22).

そして、手書き入力部(サブ画面)15に表示された見出し語一覧Lmにおいて、ユーザ所望の見出し語「恒星磁場」がタッチされて選択されると、図9(E)に示すように、当該選択された見出し語「恒星磁場」の説明情報Hが前記指定の辞書[百科辞典]から読み出され同手書き入力部(サブ画面)15に表示される(ステップS23)。   Then, in the headword list Lm displayed on the handwriting input unit (sub-screen) 15, when the user-desired headword “stellar magnetic field” is touched and selected, as shown in FIG. The explanation information H of the headword “stellar magnetic field” is read from the designated dictionary [encyclopedia] and displayed on the handwriting input unit (sub-screen) 15 (step S23).

ここで、前記ステップS21にて再認識した手書き文字「恒星」を登録するか否かのユーザ判断を促すメッセージが表示され(ステップS24)、手書き文字の登録が指示されると(ステップS24(Yes))、当該手書き文字「恒星」が手書きデータメモリ22eに登録される(ステップS25)。   Here, a message prompting the user to determine whether or not to register the handwritten character “fixed star” re-recognized in step S21 is displayed (step S24), and when registration of the handwritten character is instructed (step S24 (Yes) )), The handwritten character “constant star” is registered in the handwritten data memory 22e (step S25).

そして、前記タッチパネル式表示部(メイン画面)16に表示された画像データGのIDと同画像データG上での検索対象文字「恒星」の位置情報、指定の辞書の種類[百科辞典]と選択された見出し語「恒星磁場」、前記手書き文字「恒星」の登録先が対応付けられた検索履歴が生成され、履歴データメモリ22dに登録される(ステップS10)。   Then, the ID of the image data G displayed on the touch panel display unit (main screen) 16, the position information of the search target character “constant” on the image data G, the type of the specified dictionary [encyclopedia] and selection A search history in which the registered headword “stellar magnetic field” and the handwritten character “stellar” are registered is generated and registered in the history data memory 22d (step S10).

これにより、ユーザが撮影した例えばノートや案内板などの画像データGに含まれる任意の文字列について、その全体が不鮮明で文字認識不可能と判断された場合でも、当該不鮮明な文字列を手書き入力して正しく再認識させ、容易に辞書で見出し語検索しその説明情報を表示させることができる。そして、前記画像データG上で検索対象として選択された文字の位置に対応付けて、辞書検索した情報と書き直した手書き文字の情報とからなる検索履歴を登録することができる。   As a result, even if it is determined that the entire character string included in the image data G taken by the user, such as a notebook or a guide board, is unclear and character recognition is impossible, the unclear character string is input by handwriting. Thus, it is possible to re-recognize correctly and to easily search for a headword in the dictionary and display the explanation information. Then, in association with the position of the character selected as the search target on the image data G, a search history composed of the dictionary searched information and the rewritten handwritten character information can be registered.

図10は、前記電子辞書装置10の画像読み出し処理に伴う画像表示処理を示すフローチャートである。   FIG. 10 is a flowchart showing an image display process accompanying the image reading process of the electronic dictionary device 10.

図11は、前記電子辞書装置10の画像表示処理に伴うタッチパネル式表示部(メイン画面)16および手書き入力部(サブ画面)15での表示動作を示す図である。   FIG. 11 is a diagram illustrating a display operation on the touch panel display unit (main screen) 16 and the handwriting input unit (sub screen) 15 accompanying the image display process of the electronic dictionary device 10.

前記図5における画像読み出し処理に従い、画像データメモリ22cから選択的に読み出された画像データGが、例えば図11に示すように、タッチパネル式表示部(メイン画面)16に表示された際に(ステップB1,B2)、表示された画像データGのIDを有する検索履歴データが履歴データメモリ22dに登録されていると判断されると(ステップB3(Yes))、図10における画像表示処理へ移行される(ステップBC)。   When the image data G selectively read from the image data memory 22c is displayed on the touch panel display unit (main screen) 16 as shown in FIG. If it is determined that the search history data having the ID of the displayed image data G is registered in the history data memory 22d (step B3 (Yes)), the process proceeds to the image display process in FIG. (Step BC).

画像表示処理が起動されると、前記タッチパネル式表示部(メイン画面)16に表示された画像データGのIDを有する検索履歴データ(図3参照)が履歴データメモリ22dから読み出される(ステップC1)。そして、読み出された検索履歴データに手書き文字の登録先が含まれるか否か判断される(ステップC2)。   When the image display process is activated, search history data (see FIG. 3) having the ID of the image data G displayed on the touch panel display unit (main screen) 16 is read from the history data memory 22d (step C1). . Then, it is determined whether or not the retrieved search history data includes a handwritten character registration destination (step C2).

ここで、前記画像データGの検索履歴データに手書き文字の登録先が含まれると判断された場合は(ステップC2(Yes))、当該登録先で示される手書きデータメモリ22eのアドレスから手書き文字(この場合は「恒」または「恒星」)が読み出される。そして、同検索履歴データに含まれる画像データG上での検索対象文字の位置情報に従い、該当する位置の文字(「恒」または「恒星」)の画像が、前記読み出された手書き文字に置き換えられて表示される(ステップC3)。   If it is determined that the search history data of the image data G includes a registration destination for handwritten characters (step C2 (Yes)), a handwritten character (from the address of the handwriting data memory 22e indicated by the registration destination ( In this case, “constant” or “constant star”) is read out. Then, according to the position information of the character to be searched on the image data G included in the search history data, the image of the character (“constant” or “constant”) at the corresponding position is replaced with the read handwritten character. Is displayed (step C3).

また、同検索履歴データに含まれる画像データG上での検索対象文字「恒星」の位置に対応させて、検索履歴が有ることを示す履歴有りマークMが表示される(ステップC4)。   In addition, a history mark M indicating that there is a search history is displayed in correspondence with the position of the search target character “fixed star” on the image data G included in the search history data (step C4).

ここで、前記画像データG上に表示された履歴有りマークMがタッチされて指示されると(ステップC5(Yes))、前記検索履歴データとして登録された辞書の種類[百科辞典]と見出し語「恒星磁場」に従いその説明情報Hが読み出され、手書き入力部(サブ画面)15に表示される(ステップC6)。   Here, when the history mark M displayed on the image data G is touched and instructed (step C5 (Yes)), the type of dictionary [encyclopedia] and headword registered as the search history data The explanation information H is read in accordance with the “stellar magnetic field” and displayed on the handwriting input unit (sub-screen) 15 (step C6).

これにより、検索履歴データが登録されている画像データGをタッチパネル式表示部(メイン画面)16に読み出して表示させた場合には、元の画像でかすれて読み辛い文字をユーザにより手書きされた文字に置き換えて表示することができ、また当該画像データG上に表示された履歴有りマークMをタッチするだけで、この履歴有りマークMにより示される文字に応じて過去に辞書検索された説明情報を直ちに読み出して手書き入力部(サブ画面)15に表示させることができる。このため、ノートや教科書、文献等の画像データGを、その重要な記述の説明情報を付加価値として付けて保存することができ、これを反復学習する際の自己テストに使用できるなど、効果的に見返し学習するための資料とすることができる。   Thus, when the image data G in which the search history data is registered is read and displayed on the touch panel display unit (main screen) 16, the characters that are difficult to read in the original image are handwritten by the user. By simply touching the history mark M displayed on the image data G, the description information retrieved from the dictionary in the past according to the character indicated by the history mark M can be displayed. It can be read immediately and displayed on the handwriting input unit (sub-screen) 15. For this reason, image data G such as notes, textbooks, and literature can be stored with added explanatory information as an added value, and can be used for self-tests when iteratively learning. It can be used as material for learning in return.

なお、前記実施形態では、画像データメモリ22cから選択的に読み出された画像データGをタッチパネル式表示部(メイン画面)16に表示させ、辞書一覧Ldや見出し語一覧Lm、再認識の対象となる前記画像データG内の文字の画像、見出し語検索された説明情報Hを、何れも手書き入力部(サブ画面)15に表示させる構成とした。これに対し、前記手書き入力部(サブ画面)15として機能する画面は、前記タッチパネル式表示部(メイン画面)16の画面内にウインドウとして表示させる構成としてもよい。   In the embodiment, the image data G selectively read from the image data memory 22c is displayed on the touch panel display unit (main screen) 16, and the dictionary list Ld, the headword list Lm, and the re-recognition target are displayed. The character image in the image data G and the description information H searched for the headword are both displayed on the handwriting input unit (sub-screen) 15. On the other hand, the screen functioning as the handwriting input unit (subscreen) 15 may be configured to be displayed as a window in the screen of the touch panel display unit (main screen) 16.

また、前記実施形態における画像データGは、撮像部17により撮影された画像として説明したが、外部から取り込まれて画像データメモリ22cに記憶させた画像でも勿論よい。   The image data G in the embodiment has been described as an image photographed by the imaging unit 17, but may of course be an image captured from the outside and stored in the image data memory 22c.

なお、前記各実施形態において記載したカメラ付き電子辞書装置10による各処理の手法、すなわち、図4のフローチャートに示す画像取り込み処理、図5のフローチャートに示す画像読み出し処理、図6のフローチャートに示す前記画像読み出し処理に伴う辞書表示処理、図10のフローチャートに示す前記画像読み出し処理に伴う画像表示処理などの各手法、及び各種の辞書データ(22b)は、何れもコンピュータに実行させることができるプログラムとして、メモリ・カード(ROMカード、RAMカード等)、磁気ディスク(フロッピディスク、ハードディスク等)、光ディスク(CD−ROM、DVD等)、半導体メモリ等の外部記憶媒体23に格納して配布することができる。そして、電子機器のコンピュータは、この外部記憶媒体23に記憶されたプログラムを記憶装置(22)に読み込み、この読み込んだプログラムによって動作が制御されることにより、前記各実施形態において説明した撮影画像からの文字認識・辞書検索・検索履歴登録機能を実現し、前述した手法による同様の処理を実行することができる。   It should be noted that each processing method performed by the electronic dictionary device with camera 10 described in each of the embodiments, that is, the image capturing process shown in the flowchart of FIG. 4, the image reading process shown in the flowchart of FIG. Each method such as dictionary display processing accompanying image readout processing, image display processing accompanying the image readout processing shown in the flowchart of FIG. 10, and various dictionary data (22b) are programs that can be executed by a computer. It can be stored and distributed in an external storage medium 23 such as a memory card (ROM card, RAM card, etc.), magnetic disk (floppy disk, hard disk, etc.), optical disk (CD-ROM, DVD, etc.), semiconductor memory, etc. . The computer of the electronic device reads the program stored in the external storage medium 23 into the storage device (22), and the operation is controlled by the read program, so that the captured image described in each of the embodiments is used. The character recognition / dictionary search / search history registration function can be realized, and the same processing as described above can be executed.

また、前記各手法を実現するためのプログラムのデータは、プログラムコードの形態としてネットワークN上を伝送させることができ、このプログラムデータを、ネットワークNに接続された電子機器のコンピュータに通信制御部(25)によって取り込むことで、前述した撮影画像からの文字認識・辞書検索・検索履歴登録機能を実現することもできる。   Further, program data for realizing each of the above methods can be transmitted on the network N in the form of a program code, and this program data is transmitted to a computer of an electronic device connected to the network N by a communication control unit ( 25), it is possible to realize the above-described function for character recognition / dictionary search / search history registration from captured images.

なお、本願発明は、前記各実施形態に限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で種々に変形することが可能である。さらに、前記各実施形態には種々の段階の発明が含まれており、開示される複数の構成要件における適宜な組み合わせにより種々の発明が抽出され得る。例えば、各実施形態に示される全構成要件から幾つかの構成要件が削除されたり、幾つかの構成要件が異なる形態にして組み合わされても、発明が解決しようとする課題の欄で述べた課題が解決でき、発明の効果の欄で述べられている効果が得られる場合には、この構成要件が削除されたり組み合わされた構成が発明として抽出され得るものである。   Note that the present invention is not limited to the above-described embodiments, and various modifications can be made without departing from the scope of the invention at the stage of implementation. Further, each of the embodiments includes inventions at various stages, and various inventions can be extracted by appropriately combining a plurality of disclosed constituent elements. For example, even if some constituent elements are deleted from all the constituent elements shown in each embodiment or some constituent elements are combined in different forms, the problems described in the column of the problem to be solved by the invention If the effects described in the column “Effects of the Invention” can be obtained, a configuration in which these constituent requirements are deleted or combined can be extracted as an invention.

10 …電子辞書装置
11 …本体ケース
12 …蓋体ケース
13 …ヒンジ部
14 …キー入力部(キーボード)
14a…文字入力キー
14b…辞書指定キー
14c…[訳/決定]キー
14d…[戻る]キー
14e…カーソルキー
14f…[撮影]キー
14g…[画像]キー
14h…[辞書]キー
15 …手書き入力部(サブ画面)
15d…カラー液晶表示部
15t…透明タッチパネル
16 …タッチパネル式表示部(メイン画面)
16d…カラー液晶表示部
16t…透明タッチパネル
17 …撮像部
21 …CPU
22 …主記憶装置
22a…装置制御プログラム
22b…辞書データベース
22c…画像データメモリ
22d…履歴データメモリ
22e…手書きデータメモリ
23 …外部記憶媒体
24 …記憶媒体読み書き部
25 …外部インターフェイス
26 …RAM
26a…表示データメモリ
30 …Webサーバ
G …画像データ
S …選択枠
Ld…辞書一覧
Lm…見出し語一覧
W …手書き文字入力領域
Bc…カーソルボタン
Bn…認識ボタン
Bt…訂正ボタン
H …説明情報
M …履歴有りマーク
DESCRIPTION OF SYMBOLS 10 ... Electronic dictionary apparatus 11 ... Main body case 12 ... Cover body case 13 ... Hinge part 14 ... Key input part (keyboard)
14a ... Character input key 14b ... Dictionary designation key 14c ... [Translation / Determination] key 14d ... [Back] key 14e ... Cursor key 14f ... [Shoot] key 14g ... [Image] key 14h ... [Dictionary] key 15 ... Handwritten input (Sub screen)
15d ... Color liquid crystal display unit 15t ... Transparent touch panel 16 ... Touch panel type display unit (main screen)
16d ... Color liquid crystal display unit 16t ... Transparent touch panel 17 ... Imaging unit 21 ... CPU
22 ... Main storage device 22a ... Device control program 22b ... Dictionary database 22c ... Image data memory 22d ... History data memory 22e ... Handwritten data memory 23 ... External storage medium 24 ... Storage medium read / write unit 25 ... External interface 26 ... RAM
26a ... display data memory 30 ... Web server G ... image data S ... selection frame Ld ... dictionary list Lm ... entry word list W ... handwritten character input area Bc ... cursor button Bn ... recognition button Bt ... correction button H ... description information M ... Mark with history

Claims (5)

タッチパネル式の表示画面を有し辞書機能を備えた電子機器であって、
画像データを取り込む画像取り込み手段と、
この画像取り込み手段により取り込まれた画像データを前記タッチパネル式の第1の表示画面に表示させる画像表示手段と、
この画像表示手段により表示された画像上の任意の画像パターンを選択する選択手段と、
この選択手段により選択された前記画像内の画像パターンを前記タッチパネル式の第2の表示画面に表示させる選択画像表示手段と、
この選択画像表示手段により前記タッチパネル式の第2の表示画面に前記選択された画像パターンが表示された状態で、当該第2の表示画面上でのタッチ位置の変化に応じた手書き文字を認識する文字認識手段と、
この文字認識手段により認識された文字に基づき辞書の見出し語を検索しその説明情報を表示させる辞書検索手段と、
を備えたことを特徴とする辞書機能を備えた電子機器。
An electronic device having a touch panel display screen and a dictionary function,
Image capturing means for capturing image data;
Image display means for displaying the image data captured by the image capturing means on the first display screen of the touch panel type;
Selection means for selecting an arbitrary image pattern on the image displayed by the image display means;
Selection image display means for displaying an image pattern in the image selected by the selection means on the second display screen of the touch panel type;
In the state where the selected image pattern is displayed on the touch panel type second display screen by the selected image display means, a handwritten character corresponding to a change in the touch position on the second display screen is recognized. Character recognition means;
A dictionary search means for searching a dictionary entry word based on the characters recognized by the character recognition means and displaying the explanation information;
An electronic device having a dictionary function characterized by comprising
前記辞書検索手段による辞書の検索情報を前記画像表示手段により表示された画像における前記選択手段により選択された画像パターンの位置情報と対応付けて登録する検索履歴登録手段と、
前記画像表示手段により前記取り込まれた画像データを前記タッチパネル式の第1の表示画面に表示させた際に、当該画像データに対応付けて前記検索履歴登録手段により辞書の検索情報が登録されているかを判断する履歴有り判断手段と、
この履歴有り判断手段により前記画像表示手段により表示された画像データに対応付けて辞書の検索情報が登録されていると判断された場合に、当該表示された画像上の前記選択された画像パターンの位置情報に対応する位置に履歴有りマークを表示させるマーク表示手段と、
このマーク表示手段により表示された履歴有りマークの位置がタッチされた際に、当該タッチ位置に対応付けて登録された前記辞書の検索情報に基づく見出し語の説明情報を、前記タッチパネル式の第2の表示画面に表示させる説明情報表示手段と、
を備えたことを特徴とする請求項1に記載の辞書機能を備えた電子機器。
Search history registration means for registering the dictionary search information by the dictionary search means in association with the position information of the image pattern selected by the selection means in the image displayed by the image display means;
Whether the search information in the dictionary is registered by the search history registration unit in association with the image data when the image data captured by the image display unit is displayed on the first display screen of the touch panel type. A means for determining whether there is a history, and
When it is determined by the history determination unit that dictionary search information is registered in association with the image data displayed by the image display unit, the selected image pattern on the displayed image is displayed. Mark display means for displaying a history mark at a position corresponding to the position information;
When the position of the history mark displayed by the mark display means is touched, the description information of the headword based on the search information of the dictionary registered in association with the touch position is used as the touch panel type second information. Explanation information display means to be displayed on the display screen,
An electronic apparatus having a dictionary function according to claim 1.
前記検索履歴登録手段は、前記辞書検索手段による辞書の検索情報を前記画像表示手段により表示された画像における前記選択手段により選択された画像パターンの位置情報および前記文字認識手段により認識した手書き文字と対応付けて登録し、
前記履歴有り判断手段により前記画像表示手段により表示された画像データに対応付けて辞書の検索情報が登録されていると判断された場合に、当該表示された画像上の前記選択された画像パターンを、当該画像パターンの位置情報に対応付けて登録された前記手書き文字に置き換えて表示させる置き換え表示手段をさらに備えたことを特徴とする請求項2に記載の辞書機能を備えた電子機器。
The search history registration means includes the dictionary search information by the dictionary search means, the position information of the image pattern selected by the selection means in the image displayed by the image display means, and the handwritten character recognized by the character recognition means Register in association,
When it is determined by the history determination unit that dictionary search information is registered in association with the image data displayed by the image display unit, the selected image pattern on the displayed image is displayed. 3. The electronic apparatus having a dictionary function according to claim 2, further comprising replacement display means for replacing the handwritten characters registered in association with the position information of the image pattern for display.
前記タッチパネル式の第1の表示画面と第2の表示画面とは、それぞれ独立した表示部として構成されることを特徴とする請求項1ないし請求項3の何れか1項に記載の辞書機能を備えた電子機器。   The dictionary function according to any one of claims 1 to 3, wherein the touch-panel first display screen and the second display screen are configured as independent display units. Electronic equipment provided. タッチパネル式の表示画面を有し辞書機能を備えた電子機器のコンピュータを制御するためのプログラムであって、
前記コンピュータを、
画像データを取り込む画像取り込み手段、
この画像取り込み手段により取り込まれた画像データを前記タッチパネル式の第1の表示画面に表示させる画像表示手段、
この画像表示手段により表示された画像上の任意の画像パターンを選択する選択手段、
この選択手段により選択された前記画像内の画像パターンを前記タッチパネル式の第2の表示画面に表示させる選択画像表示手段、
この選択画像表示手段により前記タッチパネル式の第2の表示画面に前記選択された画像パターンが表示された状態で、当該第2の表示画面上でのタッチ位置の変化に応じた手書き文字を認識する文字認識手段、
この文字認識手段により認識された文字に基づき辞書の見出し語を検索しその説明情報を表示させる辞書検索手段、
として機能させるためのプログラム。
A program for controlling a computer of an electronic device having a touch panel display screen and a dictionary function,
The computer,
Image capturing means for capturing image data;
Image display means for displaying the image data captured by the image capture means on the touch panel type first display screen;
Selection means for selecting an arbitrary image pattern on the image displayed by the image display means;
Selection image display means for displaying an image pattern in the image selected by the selection means on the second display screen of the touch panel type;
In the state where the selected image pattern is displayed on the touch panel type second display screen by the selected image display means, a handwritten character corresponding to a change in the touch position on the second display screen is recognized. Character recognition means,
A dictionary search means for searching for a dictionary entry based on the characters recognized by the character recognition means and displaying the explanation information;
Program to function as.
JP2010281721A 2010-12-17 2010-12-17 Electronic device and program with dictionary function Active JP5605208B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010281721A JP5605208B2 (en) 2010-12-17 2010-12-17 Electronic device and program with dictionary function

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010281721A JP5605208B2 (en) 2010-12-17 2010-12-17 Electronic device and program with dictionary function

Publications (2)

Publication Number Publication Date
JP2012128789A true JP2012128789A (en) 2012-07-05
JP5605208B2 JP5605208B2 (en) 2014-10-15

Family

ID=46645708

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010281721A Active JP5605208B2 (en) 2010-12-17 2010-12-17 Electronic device and program with dictionary function

Country Status (1)

Country Link
JP (1) JP5605208B2 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018156403A (en) * 2017-03-17 2018-10-04 富士ゼロックス株式会社 Retrieving apparatus, retrieving program, and retrieving system
CN110533611A (en) * 2019-08-26 2019-12-03 维沃移动通信有限公司 Image processing method and terminal device

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04340681A (en) * 1991-05-17 1992-11-27 Toshiba Corp Character recognition system
JP2008090574A (en) * 2006-10-02 2008-04-17 Fuji Xerox Co Ltd Image processing system and program
JP2008225676A (en) * 2007-03-09 2008-09-25 Casio Comput Co Ltd Dictionary retrieving device and its control program
JP2010211660A (en) * 2009-03-12 2010-09-24 Casio Computer Co Ltd Electronic device and information display program

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04340681A (en) * 1991-05-17 1992-11-27 Toshiba Corp Character recognition system
JP2008090574A (en) * 2006-10-02 2008-04-17 Fuji Xerox Co Ltd Image processing system and program
JP2008225676A (en) * 2007-03-09 2008-09-25 Casio Comput Co Ltd Dictionary retrieving device and its control program
JP2010211660A (en) * 2009-03-12 2010-09-24 Casio Computer Co Ltd Electronic device and information display program

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018156403A (en) * 2017-03-17 2018-10-04 富士ゼロックス株式会社 Retrieving apparatus, retrieving program, and retrieving system
JP7017027B2 (en) 2017-03-17 2022-02-08 富士フイルムビジネスイノベーション株式会社 Search device, search program, and search system
CN110533611A (en) * 2019-08-26 2019-12-03 维沃移动通信有限公司 Image processing method and terminal device

Also Published As

Publication number Publication date
JP5605208B2 (en) 2014-10-15

Similar Documents

Publication Publication Date Title
KR100931466B1 (en) Electronic dictionary device and dictionary search method of electronic dictionary device
US9019308B2 (en) Display apparatus and computer-readable medium
JP4277903B2 (en) Electronic device and program with dictionary function
JP5012981B2 (en) Electronic dictionary device and program
JP2012113352A (en) Electronic dictionary device and program
US8027987B2 (en) Electronic device having a handwriting input function, and non-transitory medium storing a control program therefor
JP5509976B2 (en) Information display control device and control program thereof
US20130082985A1 (en) Content display apparatus, and content display method
JP5605208B2 (en) Electronic device and program with dictionary function
US9208143B2 (en) Electronic device and dictionary data display method
KR101239577B1 (en) Electronic dictionary apparatus and recording medium for recording program
US8489389B2 (en) Electronic apparatus with dictionary function and computer-readable medium
JP2000048215A (en) Data processor and medium recording control program for the same
JP5652251B2 (en) Information display device and program
JP2009026007A (en) Electronic equipment with dictionary function and control program
JP6036911B2 (en) Information display control device, information display control method, and program
US20100312544A1 (en) Electronic apparatus with dictionary function background
JP5741542B2 (en) Information display control device, information display control method, and program
CN110990419A (en) Electronic dictionary device and electronic dictionary search method
JP2004046388A (en) Information processing system and character correction method
JP2010122966A (en) Character recognition processor and program
JP5338252B2 (en) Electronic device with dictionary function
JP7293782B2 (en) ELECTRONIC DEVICE, TEXT DISPLAY METHOD AND PROGRAM
JP2013149083A (en) Information display control device and program
JP2016062442A (en) Information display device, information display program and information display method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20131206

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140425

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140513

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140707

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140729

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140811

R150 Certificate of patent or registration of utility model

Ref document number: 5605208

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150