JP2014085790A - Recognition processor, recognition processing method and recognition processing program - Google Patents

Recognition processor, recognition processing method and recognition processing program Download PDF

Info

Publication number
JP2014085790A
JP2014085790A JP2012233646A JP2012233646A JP2014085790A JP 2014085790 A JP2014085790 A JP 2014085790A JP 2012233646 A JP2012233646 A JP 2012233646A JP 2012233646 A JP2012233646 A JP 2012233646A JP 2014085790 A JP2014085790 A JP 2014085790A
Authority
JP
Japan
Prior art keywords
recognition processing
image
recognition
symbol
acquired
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2012233646A
Other languages
Japanese (ja)
Inventor
Shuji Kaya
周治 加悦
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2012233646A priority Critical patent/JP2014085790A/en
Publication of JP2014085790A publication Critical patent/JP2014085790A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Character Discrimination (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide a recognition processor, a recognition processing method and a recognition processing program capable of improving the operability of a user by allowing a recognition processor such as a smart phone to automatically recognize a chance to acquire an input pattern on the basis of, for example, the operation of a familiar computer.SOLUTION: A recognition processor is configured to successively acquire images by imaging, and to detect a difference between the current image and the previous image, and to, when detecting a change of a significant image (S201 to S203), create the binary data of the image (S204), and to execute recognition processing to the binary data (S205). Then, the recognition processor executes processing of acquiring numbers or symbols for operation input to the computer on the basis of the result of the recognition processing (S206), and allows a display part to display a result of indication of the acquired numbers or symbols (S207).

Description

撮像により取得した画像に対して認識処理を行う認識処理装置、そのような認識処理装置を用いた認識処理方法、及びそのような認識処理装置を実現するための認識処理プログラムに関する。   The present invention relates to a recognition processing device that performs recognition processing on an image acquired by imaging, a recognition processing method using such a recognition processing device, and a recognition processing program for realizing such a recognition processing device.

受験に際して電子卓上計算機(以下、電卓という)を使用する国家試験等の各種試験では、計算以外の機能を有する電卓の使用が認められていない場合が多い。このような試験を通って業務に就く者が操作に慣れている電卓とは、計算機能のみを有する電卓であることが多い。計算機能のみを有する電卓をコンピュータ上で実現するアプリケーションソフトウェア等のプログラムも提供されているが、操作に用いるキーボードの配列が電卓とは異なる等の理由により、通常の電卓と同じ操作感を得ることはできない。   In various tests such as national tests that use an electronic desk calculator (hereinafter referred to as a calculator) when taking an examination, it is often not permitted to use a calculator having a function other than calculation. Calculators that are used to operations by those who have gone through such tests are often calculators that have only a calculation function. Programs such as application software that realizes a calculator with only a calculation function on a computer are also provided, but the same operation feeling as a normal calculator can be obtained because the keyboard layout used for the operation is different from that of the calculator. I can't.

そこで、例えば特許文献1には、文字認識により得られた数字データにより任意の演算を行うことが可能な文字認識機能付き携帯電話が開示されている。   Thus, for example, Patent Document 1 discloses a mobile phone with a character recognition function capable of performing arbitrary computations using numeric data obtained by character recognition.

特開2004−318434号公報JP 2004-318434 A

しかしながら、特許文献1に開示された文字認識機能付き携帯電話では、表示された数字に対して認識させる契機をユーザが指定する必要があるため、電卓に対して連続して入力する場合には操作性が悪いという問題がある。   However, in the mobile phone with a character recognition function disclosed in Patent Document 1, it is necessary for the user to specify a trigger for recognizing the displayed number. There is a problem that the nature is bad.

本発明には、このような状況に鑑みてなされたものであり、続けて撮像した画像の変化を検出した場合に、認識処理を実行することにより、操作性の高い認識処理装置の提供を目的とする。   The present invention has been made in view of such a situation, and an object of the present invention is to provide a recognition processing device with high operability by executing recognition processing when a change in an image captured continuously is detected. And

また、本発明は、本発明に係る認識処理装置と計算機とを用いた認識処理方法を提供することにより、計算機の操作性を損ねることなく、認識処理装置により認識させることを他の目的とする。   Another object of the present invention is to provide a recognition processing method using the recognition processing apparatus according to the present invention and a computer so that the recognition processing apparatus can recognize without impairing the operability of the computer. .

また、本発明は、本発明に係る認識処理装置を実現する認識処理プログラムを提供することにより、操作性の高い認識処理装置を実現させることを他の目的とする。   Another object of the present invention is to realize a recognition processing device with high operability by providing a recognition processing program for realizing the recognition processing device according to the present invention.

上記課題を解決するために、本発明に係る認識処理装置は、撮像により続けて取得した画像に対して認識処理を実行し、認識処理に基づく結果を表示させる認識処理装置であって、画像の変化の有無を検出する変化検出手段と、前記変化検出手段が、画像の変化を検出した場合に、取得した画像に対する認識処理により数字、又は演算に関する記号を取得する認識手段と、前記認識手段にて取得した数字及び記号を示した結果を表示させる表示処理手段とを備えることを特徴とする。   In order to solve the above-described problem, a recognition processing device according to the present invention is a recognition processing device that executes recognition processing on an image continuously acquired by imaging and displays a result based on the recognition processing. A change detecting means for detecting presence / absence of a change; a recognition means for acquiring a number or a symbol relating to an operation by a recognition process for the acquired image when the change detecting means detects a change in the image; and Display processing means for displaying the result indicating the numbers and symbols acquired in this manner.

したがって、本発明では、画像の変化の検出を契機として認識処理を実行することにより、認識処理を実行させるための操作が不要となる。   Therefore, in the present invention, an operation for executing the recognition process becomes unnecessary by executing the recognition process triggered by detection of a change in the image.

また、前記認識手段は、複数の数字又は記号を続けて取得した場合で、取得すべき記号を取得することができなかったときに、取得すべき記号の候補を複数選択する選択手段と、前記選択手段による選択後の取得に基づいて、選択した複数の記号の候補のうちから、取得すべき記号を特定する特定手段とを含み、特定した記号を、取得した記号とすることを特徴とする。   The recognizing means is a selecting means for selecting a plurality of symbol candidates to be acquired when a plurality of numbers or symbols are continuously acquired and the symbol to be acquired cannot be acquired; Including a specifying unit for specifying a symbol to be acquired from a plurality of selected symbol candidates based on acquisition after selection by the selection unit, wherein the specified symbol is an acquired symbol. .

したがって、本発明では、演算に要する記号を認識することができない場合に、記号の候補を複数選択し、特定することができる。   Therefore, in the present invention, when a symbol required for calculation cannot be recognized, a plurality of symbol candidates can be selected and specified.

また、前記特定手段により取得すべき記号を特定することができなかった場合又は前記特定手段が特定した記号が複数である場合に、前記認識手段は、前記選択手段が選択した複数の記号又は前記特定手段が特定した複数の記号を取得した記号とすることを特徴とする。   Further, when the symbol to be acquired by the specifying unit cannot be specified or when there are a plurality of symbols specified by the specifying unit, the recognizing unit is configured to select a plurality of symbols selected by the selecting unit or the A plurality of symbols specified by the specifying means are used as acquired symbols.

したがって、本発明では、記号の候補を1つに特定することができない場合に、複数の記号を取得したものとして扱うことができる。   Therefore, in the present invention, when a single symbol candidate cannot be specified, it can be handled as having acquired a plurality of symbols.

また、前記変化検出手段は、取得した複数の画像から、画像内で認識の対象となる区域を特定する手段を有し、前記認識手段は、特定した区域内での変化に基づいて、各画像に対する認識処理行うことを特徴とする。   In addition, the change detection unit includes a unit that identifies an area to be recognized in the image from the plurality of acquired images, and the recognition unit detects each image based on a change in the identified area. Recognition processing is performed.

したがって、本発明では、認識の対象とすべき区域を自動的に特定することができる。   Therefore, in the present invention, an area to be recognized can be automatically specified.

本発明に係る認識処理方法は、撮像により続けて取得した画像に対して認識処理を実行し、認識処理に基づく結果を表示させる認識処理装置を用いた認識処理方法であって、前記認識処理装置は、画像の変化の有無を検出する変化検出ステップと、前記変化検出手段が、画像の変化を検出した場合に、取得した画像に対する認識処理により数字、又は演算に関する記号を取得する認識ステップと、前記認識手段にて取得した数字及び記号を示した結果を表示させる表示処理ステップとを実行することを特徴とする。   The recognition processing method according to the present invention is a recognition processing method using a recognition processing device that executes recognition processing on an image acquired continuously by imaging and displays a result based on the recognition processing, the recognition processing device A change detecting step for detecting the presence or absence of a change in the image; and a recognition step for acquiring a number or a symbol relating to a calculation by a recognition process for the acquired image when the change detecting unit detects a change in the image; And a display processing step of displaying a result indicating the numbers and symbols acquired by the recognition means.

したがって、本発明では、画像の変化の検出を契機として認識処理を実行することにより、認識処理を実行させるための操作が不要となる。   Therefore, in the present invention, an operation for executing the recognition process becomes unnecessary by executing the recognition process triggered by detection of a change in the image.

本発明に係る演算表示システムは、数字及び演算に関する記号の入力を受け付ける入力部と、入力された数字及び記号に基づく表示を行う表示部とを備える計算機と、前記認識処理装置とを備え、前記認識処理装置は、前記表示部の撮像により取得した画像に基づいて認識処理を実行することを特徴とする。   An arithmetic display system according to the present invention includes an input unit that receives input of numerals and symbols related to arithmetic, a computer that includes a display unit that performs display based on the input numerals and symbols, and the recognition processing device, The recognition processing apparatus performs recognition processing based on an image acquired by imaging of the display unit.

したがって、本発明では、計算装置を操作するだけで、認識処理装置は、その操作の内容を自動的に認識することができる。   Therefore, in the present invention, the recognition processing device can automatically recognize the contents of the operation only by operating the computing device.

本発明に係る認識処理プログラムは、撮像部及び表示部を備えるコンピュータに、前記撮像部の撮像により続けて取得した画像に対して認識処理を実行し、認識処理に基づく結果を前記表示部に表示させる認識処理プログラムであって、コンピュータに、画像の変化の有無を検出する手順と、画像の変化を検出した場合に、取得した画像に対する認識処理により数字、又は演算に関する記号を取得する手順と、取得した数字及び記号を示した結果を表示させる手順とを実行させることを特徴とする。   A recognition processing program according to the present invention executes a recognition process on an image acquired by imaging performed by the imaging unit on a computer including an imaging unit and a display unit, and displays a result based on the recognition process on the display unit. A recognition processing program for causing a computer to detect the presence or absence of a change in an image, and a procedure for acquiring a number or a symbol relating to a calculation by a recognition process for the acquired image when a change in the image is detected; And a procedure for displaying a result indicating the acquired numbers and symbols.

したがって、本発明では、コンピュータにて実行することにより、コンピュータが本発明の認識処理装置として機能するので、画像の変化の検出を契機として認識処理を実行することにより、認識処理を実行させるための操作が不要となる。   Therefore, in the present invention, since the computer functions as the recognition processing apparatus of the present invention when executed by the computer, the recognition processing is executed by executing the recognition processing triggered by the detection of the image change. No operation is required.

本発明に係る認識処理装置、認識処理方法及び認識処理プログラムでは、例えば、電子卓上計算機等の計算機を続けて撮像した画像を取得し、画像の変化を検出した場合に、認識処理を実行する。これにより、計算機を操作するユーザは、計算機に対する操作を行うだけで、その操作の内容を認識処理装置が認識するので、操作性を向上させることができ、高い利便性を提供することが可能である等、優れた効果を奏する。   In the recognition processing device, the recognition processing method, and the recognition processing program according to the present invention, for example, an image captured continuously by a computer such as an electronic desk calculator is acquired, and recognition processing is executed when a change in the image is detected. As a result, the user who operates the computer simply performs an operation on the computer, and the recognition processing device recognizes the content of the operation. Therefore, the operability can be improved and high convenience can be provided. There are excellent effects.

本願に記載の演算表示システムの一例を示す概略斜視図である。It is a schematic perspective view which shows an example of the calculation display system described in this application. 本願に記載の演算表示システムにて用いられる計算機の表示部に表示された画像の一例を示す説明図である。It is explanatory drawing which shows an example of the image displayed on the display part of the computer used with the calculation display system described in this application. 本願に記載の演算表示システムにて用いられる認識処理装置の表示部に表示された画像の一例を示す説明図である。It is explanatory drawing which shows an example of the image displayed on the display part of the recognition processing apparatus used with the calculation display system described in this application. 本願に記載の演算表示システムにて用いられる計算機の表示部に表示された画像の一例を示す説明図である。It is explanatory drawing which shows an example of the image displayed on the display part of the computer used with the calculation display system described in this application. 本願に記載の演算表示システムにて用いられる認識処理装置の表示部に表示された画像の一例を示す説明図である。It is explanatory drawing which shows an example of the image displayed on the display part of the recognition processing apparatus used with the calculation display system described in this application. 本願に記載の演算表示システムにて用いられる計算機の表示部に表示された画像の一例を示す説明図である。It is explanatory drawing which shows an example of the image displayed on the display part of the computer used with the calculation display system described in this application. 本願に記載の演算表示システムにて用いられる認識処理装置の表示部に表示された画像の一例を示す説明図である。It is explanatory drawing which shows an example of the image displayed on the display part of the recognition processing apparatus used with the calculation display system described in this application. 本願に記載の演算表示システムにて用いられる計算機の表示部に表示された画像の一例を示す説明図である。It is explanatory drawing which shows an example of the image displayed on the display part of the computer used with the calculation display system described in this application. 本願に記載の演算表示システムにて用いられる認識処理装置の表示部に表示された画像の一例を示す説明図である。It is explanatory drawing which shows an example of the image displayed on the display part of the recognition processing apparatus used with the calculation display system described in this application. 本願に記載の演算表示システムにて用いられる計算機の表示部に表示された画像の一例を示す説明図である。It is explanatory drawing which shows an example of the image displayed on the display part of the computer used with the calculation display system described in this application. 本願に記載の演算表示システムにて用いられる認識処理装置の表示部に表示された画像の一例を示す説明図である。It is explanatory drawing which shows an example of the image displayed on the display part of the recognition processing apparatus used with the calculation display system described in this application. 本願に記載の演算表示システムにて用いられる計算機の表示部に表示された画像の一例を示す説明図である。It is explanatory drawing which shows an example of the image displayed on the display part of the computer used with the calculation display system described in this application. 本願に記載の演算表示システムにて用いられる認識処理装置の表示部に表示された画像の一例を示す説明図である。It is explanatory drawing which shows an example of the image displayed on the display part of the recognition processing apparatus used with the calculation display system described in this application. 本願に記載の演算表示システムにて用いられる計算機の表示部に表示された画像の一例を示す説明図である。It is explanatory drawing which shows an example of the image displayed on the display part of the computer used with the calculation display system described in this application. 本願に記載の演算表示システムにて用いられる認識処理装置の表示部に表示された画像の一例を示す説明図である。It is explanatory drawing which shows an example of the image displayed on the display part of the recognition processing apparatus used with the calculation display system described in this application. 本願に記載の演算表示システムにて用いられる計算機の表示部に表示された画像の一例を示す説明図である。It is explanatory drawing which shows an example of the image displayed on the display part of the computer used with the calculation display system described in this application. 本願に記載の演算表示システムにて用いられる認識処理装置の表示部に表示された画像の一例を示す説明図である。It is explanatory drawing which shows an example of the image displayed on the display part of the recognition processing apparatus used with the calculation display system described in this application. 本願に記載の演算表示システムにて用いられる認識処理装置の表示部に表示された画像の一例を示す説明図である。It is explanatory drawing which shows an example of the image displayed on the display part of the recognition processing apparatus used with the calculation display system described in this application. 本願に記載の演算表示システムにて用いられる認識処理装置のハードウェア構成の一例を示すブロック図である。It is a block diagram which shows an example of the hardware constitutions of the recognition processing apparatus used with the calculation display system as described in this application. 本願に記載の演算表示システムにて用いられる計算機のハードウェア構成の一例を示すブロック図である。It is a block diagram which shows an example of the hardware constitutions of the computer used with the calculation display system described in this application. 本願に記載の演算表示システムにて用いられる認識処理装置の演算表示処理の一例を示すフローチャートである。It is a flowchart which shows an example of the calculation display process of the recognition processing apparatus used with the calculation display system described in this application. 本願に記載の演算表示システムにて用いられる認識処理装置の認識処理及び結果表示処理の一例を示すフローチャートである。It is a flowchart which shows an example of the recognition process of the recognition processing apparatus used with the calculation display system as described in this application, and a result display process. 本願に記載の演算表示システムにて用いられる認識処理装置の画像の2値化データ作成処理の一例を示すフローチャートである。It is a flowchart which shows an example of the binarized data creation process of the image of the recognition processing apparatus used with the calculation display system described in this application. 本願に記載の演算表示システムにおける認識処理装置の2値化の前処理の概要の一例を示す説明図である。It is explanatory drawing which shows an example of the outline | summary of the pre-processing of binarization of the recognition processing apparatus in the calculation display system described in this application. 本願に記載の演算表示システムにおける認識処理装置の2値化の前処理の概要の一例を示す説明図である。It is explanatory drawing which shows an example of the outline | summary of the pre-processing of binarization of the recognition processing apparatus in the calculation display system described in this application. 本願に記載の演算表示システムにおける認識処理装置の2値化の前処理の概要の一例を示す説明図である。It is explanatory drawing which shows an example of the outline | summary of the pre-processing of binarization of the recognition processing apparatus in the calculation display system described in this application. 本願に記載の演算表示システムにおける認識処理装置の2値化の前処理の概要の一例を示す説明図である。It is explanatory drawing which shows an example of the outline | summary of the pre-processing of binarization of the recognition processing apparatus in the calculation display system described in this application. 本願に記載の演算表示システムにおいて、計算機に入力された内容及び認識処理装置が認識した内容の一例を示す図表である。It is a graph which shows an example of the content inputted into the computer, and the content recognized by the recognition processing apparatus in the calculation display system described in this application. 本願に記載の演算表示システムにおいて、計算機に入力された内容及び認識処理装置が認識した内容の一例を示す図表である。It is a graph which shows an example of the content inputted into the computer, and the content recognized by the recognition processing apparatus in the calculation display system described in this application. 本願に記載の演算表示システムにおいて、計算機に入力された内容及び認識処理装置が認識した内容の一例を示す図表である。It is a graph which shows an example of the content inputted into the computer, and the content recognized by the recognition processing apparatus in the calculation display system described in this application. 本願に記載の演算表示システムにおいて、計算機に入力された内容及び認識処理装置が認識した内容の一例を示す図表である。It is a graph which shows an example of the content inputted into the computer, and the content recognized by the recognition processing apparatus in the calculation display system described in this application. 本願に記載の演算表示システムにて用いられる認識処理装置の数字又は演算用記号取得処理の一例を示すフローチャートである。It is a flowchart which shows an example of the number acquisition symbol acquisition process of the recognition processing apparatus used with the calculation display system described in this application. 本願に記載の演算表示システムにて用いられる認識処理装置の数字又は演算用記号取得処理の一例を示すフローチャートである。It is a flowchart which shows an example of the number acquisition symbol acquisition process of the recognition processing apparatus used with the calculation display system described in this application.

以下、本発明の実施の形態について図面を参照しながら説明する。なお、以下の実施の形態は、本発明を具現化した一例であって、本発明の技術的範囲を限定する性格のものではない。   Hereinafter, embodiments of the present invention will be described with reference to the drawings. The following embodiment is an example embodying the present invention, and is not intended to limit the technical scope of the present invention.

本願に記載の演算表示システムは、電子卓上計算機等の計算機に表示された内容を、電話通信機能付き携帯型コンピュータ、所謂スマートフォン等のコンピュータを用いた認識処理装置にて撮像し、計算機に対して行われた操作に係る状況を表示するものである。   The calculation display system described in the present application captures content displayed on a computer such as an electronic desk calculator with a recognition processing device using a portable computer with a telephone communication function, a computer such as a so-called smartphone, The status related to the performed operation is displayed.

まず、本願に記載の演算表示システムの全体構成について説明する。図1は、本願に記載の演算表示システムの一例を示す概略斜視図である。本願に記載の演算表示システムは、所謂スマートフォン等のコンピュータを用いた認識処理装置1と、計算機2とを備えている。   First, the overall configuration of the calculation display system described in the present application will be described. FIG. 1 is a schematic perspective view showing an example of the calculation display system described in the present application. The calculation display system described in the present application includes a recognition processing device 1 using a computer such as a so-called smartphone and a computer 2.

計算機2には、長尺状をなす支柱3の一端が固定され、支柱3は、略垂直方向に立設されており、支柱3の他端には、認識処理装置1が固定されている。認識処理装置1の固定方法は、容易に取り外しできるものであれば、特に限定するものではなく、例えば、市販のクリップアーム等の固定具であってもよい。また、計算機2に対し、支柱3を直接固定することは必ずしも必要ではなく、支柱3が立設された載置台を設け、載置台に計算機2を載置して用いるようにしてもよい。   One end of an elongated column 3 is fixed to the computer 2, the column 3 is erected in a substantially vertical direction, and the recognition processing device 1 is fixed to the other end of the column 3. The fixing method of the recognition processing apparatus 1 is not particularly limited as long as it can be easily removed. For example, a fixing tool such as a commercially available clip arm may be used. Further, it is not always necessary to directly fix the support column 3 to the computer 2. A mounting table on which the support column 3 is erected may be provided, and the computer 2 may be mounted on the mounting table.

計算機2は、数字キー、演算子キー、機能キー等の入力部21を備えており、ユーザは、入力部21として設けられた各種キーを押下することにより、計算機2に対する操作を行うことができる。数字キーとは、「0」、「1」、「2」等の数字を入力するためのキー入力手段である。演算子キーとは、「+」、「−」等の演算に係る演算子を入力するためのキー入力手段である。機能キーとは、「CE」、「M+」等の演算に係る機能を実行させるためのキー入力手段である。さらに、計算機2は、操作の内容及び演算結果を表示する液晶パネル等の表示部22を備えている。   The computer 2 includes an input unit 21 such as numeric keys, operator keys, and function keys, and the user can operate the computer 2 by pressing various keys provided as the input unit 21. . The numeric keys are key input means for inputting numbers such as “0”, “1”, “2”, and the like. The operator key is a key input means for inputting an operator related to operations such as “+” and “−”. The function key is a key input means for executing a function related to calculation such as “CE”, “M +”, and the like. Further, the computer 2 includes a display unit 22 such as a liquid crystal panel for displaying the contents of the operation and the calculation result.

認識処理装置1は、CCD(Charge Coupled Device )カメラ等の撮像部11と、液晶タッチパネル等の表示入力部12とを備えている。認識処理装置1の撮像部11は、計算機2の表示部22に対向するように配置され、表示部22に表示された数字、及び演算子等の演算用記号を撮像することができる。表示入力部12は、矩形薄膜状の液晶パネル等の表示部120と、矩形薄膜状のタッチパネル等の入力部121とを重畳して形成されている。   The recognition processing apparatus 1 includes an imaging unit 11 such as a CCD (Charge Coupled Device) camera and a display input unit 12 such as a liquid crystal touch panel. The imaging unit 11 of the recognition processing apparatus 1 is arranged so as to face the display unit 22 of the computer 2, and can capture the numbers displayed on the display unit 22 and symbols for calculation such as operators. The display input unit 12 is formed by overlapping a display unit 120 such as a rectangular thin film liquid crystal panel and an input unit 121 such as a rectangular thin film touch panel.

次に本願に記載の演算表示システムの実施の概要について説明する。図2Aは、本願に記載の演算表示システムにて用いられる計算機2の表示部22に表示された画像の一例を示す説明図であり、図2Bは、本願に記載の演算表示システムにて用いられる認識処理装置1の表示部120に表示された画像の一例を示す説明図である。図2A及び図2Bは、本願に記載の演算表示システムの設置に際して、認識処理装置1及び計算機2の配置位置を調整する場合に表示される画像を示している。図2Aに示すように、計算機2の表示部22に数字等の表示内容を表示させた状態で、図2Bに示すように、認識処理装置1の表示部120に、計算機2を撮像した画像を表示させ、配置位置を調整するのである。図2Aに示すように、認識処理装置1の表示部120には、計算機2の表示部120を撮像した画像が表示されており、その右下には、認識処理を開始する際に指示すべき「開始」と示されたアイコン画像、即ち開始アイコンが表示されている。   Next, an outline of implementation of the calculation display system described in the present application will be described. FIG. 2A is an explanatory diagram illustrating an example of an image displayed on the display unit 22 of the computer 2 used in the calculation display system described in the present application, and FIG. 2B is used in the calculation display system described in the present application. It is explanatory drawing which shows an example of the image displayed on the display part 120 of the recognition processing apparatus. 2A and 2B show images displayed when the arrangement positions of the recognition processing device 1 and the computer 2 are adjusted when the calculation display system described in the present application is installed. As shown in FIG. 2A, in a state where display contents such as numbers are displayed on the display unit 22 of the computer 2, an image obtained by capturing the computer 2 is displayed on the display unit 120 of the recognition processing apparatus 1 as shown in FIG. 2B. It is displayed and the arrangement position is adjusted. As shown in FIG. 2A, an image obtained by imaging the display unit 120 of the computer 2 is displayed on the display unit 120 of the recognition processing apparatus 1, and the lower right thereof should be instructed when starting the recognition process. An icon image indicated as “start”, that is, a start icon is displayed.

図3A、図4A、…、図8Aは、本願に記載の演算表示システムにて用いられる計算機2の表示部22に表示された画像の一例を示す説明図であり、図3B、図4B、…、図8Bは、本願に記載の演算表示システムにて用いられる認識処理装置1の表示部120に表示された画像の一例を示す説明図である。図3A、図4A、…、図8A及び図3B、図4B、…、図8Bは、計算機2に「123+456−789=」との入力を行った場合に、認識処理装置1及び計算機2に表示される画像を経時的に示している。   3A, FIG. 4A,..., FIG. 8A are explanatory diagrams showing examples of images displayed on the display unit 22 of the computer 2 used in the calculation display system described in the present application. FIG. 8B is an explanatory diagram illustrating an example of an image displayed on the display unit 120 of the recognition processing device 1 used in the calculation display system described in the present application. 8A and 3B, FIG. 4B,..., FIG. 8B are displayed on the recognition processing apparatus 1 and the computer 2 when “123 + 456-789 =” is input to the computer 2. The resulting images are shown over time.

図3Aは、認識処理装置1にて認識処理を開始後、ユーザが機能キー「AC(オールクリア)」を押下した場合に計算機2に表示される画像であり、「0」を示している。また、図3Bは、図3Aの画像が表示された場合に認識処理装置1に表示される画像であり、何も表示されていない。認識処理装置1は、続けて撮像した画像の差分に基づいて認識処理を実行するため、最初の画像では表示無しとなる。なお、図3B及び以降の画像に表示される「終了」と示す画像、即ち終了アイコンは、認識処理を終了する際に指示すべきアイコン画像である。   FIG. 3A shows an image displayed on the computer 2 when the user presses the function key “AC (all clear)” after the recognition processing is started in the recognition processing apparatus 1, and indicates “0”. 3B is an image displayed on the recognition processing apparatus 1 when the image of FIG. 3A is displayed, and nothing is displayed. Since the recognition processing apparatus 1 performs the recognition processing based on the difference between the captured images, the first image is not displayed. Note that an image indicating “end” displayed in FIG. 3B and the subsequent images, that is, an end icon, is an icon image to be instructed when the recognition process ends.

図4Aは、計算機2が、数字キー「1」、「2」及び「3」の入力を受け付けた場合に表示する画像であり、「123」と表示している。また、図4Bは、図4Aの画像が表示された場合に認識処理装置1が表示する画像であり、「123」と表示している。   FIG. 4A is an image displayed when the computer 2 receives input of the numeric keys “1”, “2”, and “3”, and displays “123”. 4B is an image displayed by the recognition processing apparatus 1 when the image of FIG. 4A is displayed, and “123” is displayed.

図5Aは、計算機2が、数字キーにて「123」の入力を受け付けた後、演算子キー「+」の入力を受け付けた場合に表示する画像であり、演算子キー「+」が押下されたことを示す演算用記号(シンボル)「+」を表示部22の左端に表示している。また、図5Bは、図5Aの画像が表示された場合に認識処理装置1が表示する画像であり、「123+」と表示している。これは、認識処理装置1は、計算機2に入力された内容を入力された順に入力パターンとして表示するように設定されていることによる。   FIG. 5A is an image displayed when the calculator 2 accepts an input of the operator key “+” after accepting an input of “123” using the numeric key, and the operator key “+” is pressed. An operation symbol (symbol) “+” indicating this is displayed at the left end of the display unit 22. 5B is an image displayed by the recognition processing apparatus 1 when the image of FIG. 5A is displayed, and “123+” is displayed. This is because the recognition processing device 1 is set to display the contents input to the computer 2 as an input pattern in the order of input.

図6Aは、計算機2が、演算子キー「+」の入力を受け付けた後、数字キー「4」の入力を受け付けた場合に表示する画像であり、それまで表示していた「123」を消去し、「+」と「4」とを表示している。また、図6Bは、図6Aの画像が表示された場合に認識処理装置1が入力パターンとして表示する画像であり、「123+4」と表示している。   FIG. 6A is an image displayed when the computer 2 accepts the input of the numeric key “4” after accepting the input of the operator key “+”, and erases “123” displayed so far. “+” And “4” are displayed. FIG. 6B is an image displayed as an input pattern by the recognition processing apparatus 1 when the image of FIG. 6A is displayed, and “123 + 4” is displayed.

図7Aは、計算機2が、「123+456−」まで入力を受け付けた場合に表示する画像であり、「123+456」の演算結果である「579」及び演算子キー「−」が押下されたことを示す演算用記号「−」を表示部22に表示している。また、図7Bは、図7Aの画像が表示された場合に認識処理装置1が表示する画像であり、「123+456−」と表示している。   FIG. 7A is an image displayed when the computer 2 accepts input up to “123 + 456”, and shows that “579”, which is the operation result of “123 + 456”, and the operator key “−” are pressed. The calculation symbol “−” is displayed on the display unit 22. 7B is an image displayed by the recognition processing apparatus 1 when the image of FIG. 7A is displayed, and “123 + 456-” is displayed.

図8Aは、計算機2が、「123+456−789=」まで入力を受け付けた場合に表示する画像であり、演算結果である「−210」及び演算子キー「=」が押下されたことを示す演算用記号「=」を表示部22に表示している。また、図8Bは、図8Aの画像が表示された場合に認識処理装置1が表示する画像であり、「123+456−789=」と表示している。なお、図8Bに示す画像は、終了アイコンが指示されることにより、認識処理が終了し、次の認識処理を開始するために開始アイコンが表示されたことを示している。   FIG. 8A is an image that is displayed when the computer 2 accepts input up to “123 + 456-789 =”, and shows that the calculation result “−210” and the operator key “=” are pressed. The symbol “=” is displayed on the display unit 22. 8B is an image displayed by the recognition processing apparatus 1 when the image of FIG. 8A is displayed, and “123 + 456-789 =” is displayed. Note that the image shown in FIG. 8B indicates that when the end icon is instructed, the recognition process is ended, and the start icon is displayed to start the next recognition process.

なお、図3A、図4A、…、図8Aに示した画像は、演算用記号を表示部22に表示する計算機2を用いた場合の表示例であり、図3B、図4B、…、図8Bに示す画像も、そのような計算機2に対応した画像である。しかしながら、演算用記号を表示部22に表示しない計算機2も存在する。そのような計算機2に対し、認識処理装置1は、計算機2に表示された数字及び数字の順序に基づいて、入力された演算子を特定する。例えば、図5Aに示すように演算用記号「+」が表示されていない場合であっても、その後、図7Aに示すように数字「579」が表示されたことから、演算子キー「+」が押下されたと特定することができる。   The images shown in FIGS. 3A, 4A,..., 8A are display examples when the computer 2 that displays the calculation symbols on the display unit 22 is used, and FIGS. 3B, 4B,. The image shown in FIG. 6 is also an image corresponding to such a computer 2. However, there is a computer 2 that does not display the calculation symbol on the display unit 22. For such a computer 2, the recognition processing device 1 identifies the input operator based on the numbers displayed on the computer 2 and the order of the numbers. For example, even when the calculation symbol “+” is not displayed as shown in FIG. 5A, since the number “579” is displayed as shown in FIG. 7A, the operator key “+” is displayed. Can be identified as having been pressed.

ところが、例えば、「1.25+5=」という演算については、入力を受け付けた演算子キーが「+」の場合でも「×」の場合でも同様の表示となる。このような場合、認識処理装置1は、特定される複数の演算子を含む表示を行う。   However, for example, the operation “1.25 + 5 =” is displayed in the same manner regardless of whether the operator key that has accepted the input is “+” or “x”. In such a case, the recognition processing apparatus 1 performs display including a plurality of specified operators.

図9Aは、本願に記載の演算表示システムにて用いられる計算機2の表示部22に表示された画像の一例を示す説明図であり、図9Bは、本願に記載の演算表示システムにて用いられる認識処理装置1の表示部120に表示された画像の一例を示す説明図である。図9Aは、演算用記号を表示しない計算機2が、「1.25+5=」という入力を受け付けた場合に表示する画像であり、演算結果である「6.25」を表示部22に表示している。また、図9Bは、図9Aの画像が表示された場合に認識処理装置1が表示する画像であり、「1.25+(×)5=」と表示している。図9Bに示す表示は、「1.25+5=」と「1.25×5=」との双方の可能性があることを示す表示である。   FIG. 9A is an explanatory diagram illustrating an example of an image displayed on the display unit 22 of the computer 2 used in the calculation display system described in the present application, and FIG. 9B is used in the calculation display system described in the present application. It is explanatory drawing which shows an example of the image displayed on the display part 120 of the recognition processing apparatus. FIG. 9A is an image displayed when the computer 2 that does not display a calculation symbol receives an input “1.25 + 5 =”, and displays “6.25” as a calculation result on the display unit 22. Yes. FIG. 9B is an image displayed by the recognition processing apparatus 1 when the image of FIG. 9A is displayed, and “1.25+ (×) 5 =” is displayed. The display shown in FIG. 9B is a display indicating that there is a possibility of both “1.25 + 5 =” and “1.25 × 5 =”.

なお、特定された演算用記号が複数である場合にどのように処理するかは、適宜設定することができる。図10は、本願に記載の演算表示システムにて用いられる認識処理装置1の表示部120に表示された画像の一例を示す説明図である。図10に示すように、認識処理装置1は、演算用記号の候補が複数である場合に、加算減算に係る記号「+−」と乗算除算に係る記号「×÷」のいずれを優先するかを設定することができる。また、第2候補の表示の有無を設定することができる。   Note that it is possible to appropriately set how to perform processing when there are a plurality of specified calculation symbols. FIG. 10 is an explanatory diagram illustrating an example of an image displayed on the display unit 120 of the recognition processing device 1 used in the calculation display system described in the present application. As shown in FIG. 10, when there are a plurality of calculation symbol candidates, the recognition processing device 1 gives priority to the symbol “+ −” related to addition / subtraction or the symbol “× ÷” related to multiplication / division. Can be set. In addition, whether or not the second candidate is displayed can be set.

次に本願に記載の演算表示システムの各種装置のハードウェア構成を説明する。図11は、本願に記載の演算表示システムにて用いられる認識処理装置1のハードウェア構成の一例を示すブロック図である。認識処理装置1は、制御部10、撮像部11、表示入力部12、操作部13、通信部14、記録部15、記憶部16等の各種機構を備えている。   Next, the hardware configuration of various devices of the calculation display system described in the present application will be described. FIG. 11 is a block diagram illustrating an example of a hardware configuration of the recognition processing device 1 used in the calculation display system described in the present application. The recognition processing apparatus 1 includes various mechanisms such as a control unit 10, an imaging unit 11, a display input unit 12, an operation unit 13, a communication unit 14, a recording unit 15, and a storage unit 16.

制御部10は、CPU(Central Processing Unit )等の情報処理回路、計時回路、レジスタ回路等の各種回路を備え、装置内の各部を制御する処理を実行する機構である。   The control unit 10 includes various circuits such as an information processing circuit such as a CPU (Central Processing Unit), a timing circuit, and a register circuit, and is a mechanism that executes processing for controlling each unit in the apparatus.

撮像部11はCCDカメラ等の機構であり、続けて撮像する機能を有する。表示入力部12は、表示部120及び入力部121を備えている。   The imaging unit 11 is a mechanism such as a CCD camera and has a function of continuously capturing images. The display input unit 12 includes a display unit 120 and an input unit 121.

操作部13は、ユーザの操作を受け付ける物理的に配置されたキー等の機構である。   The operation unit 13 is a mechanism such as a physically arranged key that accepts a user operation.

通信部14は、データ通信、電話通信等の各種通信を行うための機構である。   The communication unit 14 is a mechanism for performing various types of communication such as data communication and telephone communication.

記録部15は、不揮発性メモリとして構成されたメモリ機構であり、本発明に係る認識処理プログラムPRG等の各種プログラム及びデータ等の情報が記録されている。   The recording unit 15 is a memory mechanism configured as a nonvolatile memory, and records various programs such as a recognition processing program PRG according to the present invention and information such as data.

記憶部16は、揮発性メモリとして構成されたメモリ機構であり、制御部10の制御に基づく処理により、一時的に発生する各種情報を記録する。   The storage unit 16 is a memory mechanism configured as a volatile memory, and records various types of information generated temporarily by processing based on the control of the control unit 10.

そして、記録部15に記録されている認識処理プログラムPRG等の各種プログラムを読み取り、記憶部16に記憶させて、制御部10の制御にて、認識処理プログラムPRGに含まれる各種手順を実行することにより、スマートフォン等のコンピュータは、本発明の認識処理装置1として動作する。   Then, various programs such as the recognition processing program PRG recorded in the recording unit 15 are read, stored in the storage unit 16, and various procedures included in the recognition processing program PRG are executed under the control of the control unit 10. Thus, a computer such as a smartphone operates as the recognition processing device 1 of the present invention.

図12は、本願に記載の演算表示システムにて用いられる計算機2のハードウェア構成の一例を示すブロック図である。計算機2は、演算部20、入力部21及び表示部22を備えている。そして、入力部21から受け付けた演算に係る内容を、演算部20の処理にて演算し、演算の結果を表示部22に表示する。演算部20は、各種演算回路及び計算途中の数値を記録するメモリ等の機構を備えている。   FIG. 12 is a block diagram illustrating an example of a hardware configuration of the computer 2 used in the calculation display system described in the present application. The computer 2 includes a calculation unit 20, an input unit 21, and a display unit 22. Then, the contents related to the calculation received from the input unit 21 are calculated by the processing of the calculation unit 20, and the calculation result is displayed on the display unit 22. The arithmetic unit 20 includes various arithmetic circuits and a mechanism such as a memory for recording numerical values during calculation.

次に本願に記載の演算表示システムにて用いられる認識処理装置1の処理について説明する。図13は、本願に記載の演算表示システムにて用いられる認識処理装置1の演算表示処理の一例を示すフローチャートである。図13に示す演算表示処理は、認識処理プログラムPRGを実行する認識処理装置1の基幹となる処理である。認識処理装置1は、認識処理プログラムPRGを実行する制御部10の制御により、以下に示す演算表示処理を実行する。   Next, processing of the recognition processing device 1 used in the calculation display system described in the present application will be described. FIG. 13 is a flowchart showing an example of the calculation display process of the recognition processing device 1 used in the calculation display system described in the present application. The calculation display process shown in FIG. 13 is a process that is the basis of the recognition processing apparatus 1 that executes the recognition processing program PRG. The recognition processing device 1 executes the following calculation display processing under the control of the control unit 10 that executes the recognition processing program PRG.

制御部10は、開始アイコンを含む初期画面を表示部120に表示し(S101)、入力部121が開始の指示を受け付けたか否かを判別する(S102)。ステップS102の開始の指示とは、開始アイコンを指示する入力を示す。   The control unit 10 displays an initial screen including a start icon on the display unit 120 (S101), and determines whether or not the input unit 121 has received a start instruction (S102). The start instruction in step S102 indicates an input for instructing a start icon.

ステップS102において、開始の指示を受け付けたと判別した場合(S102:YES)、制御部10は、演算表示処理を開始する開始画面を表示部120に表示し(S103)、撮像部11による連続撮像を開始する(S104)。ステップS104の連続撮像とは、続けて撮像を行い連続画像を取得する処理であってもよく、また、動画としての撮像を行い、得られた動画を構成する画像を取得する処理であってもよい。   If it is determined in step S102 that a start instruction has been received (S102: YES), the control unit 10 displays a start screen for starting the calculation display process on the display unit 120 (S103), and continuous imaging by the imaging unit 11 is performed. Start (S104). The continuous imaging in step S104 may be a process of continuously capturing and acquiring a continuous image, or a process of capturing an image as a moving image and acquiring an image constituting the obtained moving image. Good.

なお、ステップS102において、開始の指示を受け付けていないと判別した場合(S102:NO)、制御部10は、ステップS101へ戻り、以降の処理を繰り返す。   If it is determined in step S102 that a start instruction has not been received (S102: NO), the control unit 10 returns to step S101 and repeats the subsequent processing.

制御部10は、撮像により続けて取得した画像に対して認識処理を行い、認識処理に基づく結果を表示部120に表示する認識処理及び結果表示処理を実行する(S105)。ステップS105の認識処理及び結果表示処理とは、図3B、図4B、…、図9Bを用いて説明した画像を表示させるための処理である。なお、認識処理及び結果表示処理の詳細については後述する。   The control unit 10 performs a recognition process on an image acquired continuously by imaging, and executes a recognition process and a result display process for displaying a result based on the recognition process on the display unit 120 (S105). The recognition process and the result display process in step S105 are processes for displaying the image described with reference to FIGS. 3B, 4B,. Details of the recognition process and the result display process will be described later.

認識処理及び結果表示処理の実行後、制御部10は、入力部121が終了の指示を受け付けたか否かを判別する(S106)。ステップS106の終了の指示とは、終了アイコンを指示する入力を示す。   After executing the recognition process and the result display process, the control unit 10 determines whether or not the input unit 121 has received an end instruction (S106). The end instruction in step S106 indicates an input for instructing an end icon.

ステップS106において、終了の指示を受け付けたと判別した場合(S106:YES)、制御部10は、撮像部11による撮像を終了する(S107)。   If it is determined in step S106 that an end instruction has been received (S106: YES), the control unit 10 ends the imaging by the imaging unit 11 (S107).

ステップS106において、終了の指示を受け付けていないと判別した場合(S106:NO)、制御部10は、ステップS105へ戻り、以降の処理を繰り返す。   If it is determined in step S106 that an end instruction has not been received (S106: NO), the control unit 10 returns to step S105 and repeats the subsequent processing.

そして、制御部10は、撮像終了後、認識処理の結果を全て表示する(S108)。ステップS108では、ステップS105にて実行した認識処理及び結果表示処理による結果を全て表示することを示す。ただし、設定により必要な結果のみを表示するようにしてもよい。   And the control part 10 displays all the results of recognition processing after completion | finish of imaging (S108). Step S108 indicates that all the results of the recognition process and the result display process executed in step S105 are displayed. However, only necessary results may be displayed depending on the setting.

制御部10は、入力部121が開始の指示を受け付けたか否かを判別する(S109)。   The control unit 10 determines whether or not the input unit 121 has received a start instruction (S109).

ステップS109において、開始の指示を受け付けたと判別した場合(S109:YES)、制御部10は、認識処理の結果を記録部15に記録し、表示部120の表示内容を消去して(S110)、ステップS103へ戻り、以降の処理を繰り返す。即ち、次の認識処理及び結果表示処理を実行するのである。   If it is determined in step S109 that a start instruction has been received (S109: YES), the control unit 10 records the recognition processing result in the recording unit 15 and erases the display content of the display unit 120 (S110). Returning to step S103, the subsequent processing is repeated. That is, the following recognition process and result display process are executed.

ステップS109において、開始の指示を受け付けていないと判別した場合(S109:NO)、制御部10は、ステップS108へ戻り、以降の処理を繰り返す。   If it is determined in step S109 that a start instruction has not been received (S109: NO), the control unit 10 returns to step S108 and repeats the subsequent processing.

ステップS110において、記録部15に記録された認識処理の結果は、入力パターンとして、適宜、表示部120への表示、通信部14から他の装置への送信、他のアプリケーションソフトウェアによる処理等の各種処理の対象とすることができる。   In step S110, the result of the recognition process recorded in the recording unit 15 is displayed as various input patterns such as display on the display unit 120, transmission from the communication unit 14 to another device, and processing by other application software. It can be the target of processing.

このようにして、認識処理装置1は、演算表示処理を実行する。なお、演算表示処理そのものを停止する場合には、所定の操作を行い、認識処理プログラムPRGの実行を停止させる。   In this way, the recognition processing device 1 executes the calculation display process. When stopping the calculation display process itself, a predetermined operation is performed to stop the execution of the recognition process program PRG.

認識処理及び結果表示処理について説明する。図14は、本願に記載の演算表示システムにて用いられる認識処理装置1の認識処理及び結果表示処理の一例を示すフローチャートである。図14に例示した認識処理及び結果表示処理は、図13に例示した演算表示処理のステップS105にて実行される処理である。   The recognition process and the result display process will be described. FIG. 14 is a flowchart showing an example of recognition processing and result display processing of the recognition processing device 1 used in the calculation display system described in the present application. The recognition process and the result display process illustrated in FIG. 14 are processes executed in step S105 of the calculation display process illustrated in FIG.

制御部10は、対象となる画像について、直前の画像との差分を検出する(S201)。   The control unit 10 detects the difference between the target image and the previous image (S201).

制御部10は、検出した差分が予め設定されている表示変化可能最大値より大きいか否かを判別する(S202)。ステップS202において、表示変化可能最大値より大きい場合、表示の変化ではなく、撮像対象のぶれによる変化であると判断する。   The control unit 10 determines whether or not the detected difference is larger than a preset display changeable maximum value (S202). In step S202, when it is larger than the display changeable maximum value, it is determined that the change is not due to display change but due to blurring of the imaging target.

ステップS202において、差分が表示変化可能最大値より大きくないと判別した場合(S202:NO)、制御部10は、検出した差分が表示変化可能最小値より小さいか否かを判別する(S203)。ステップS203において、表示変化可能最小値より小さい場合、キー入力に基づく表示の変化はないと判断する。このようにステップS201〜S203の処理により、有意な画像の変化の有無を検出する。そして、有意な画像の変化を検出した場合に、ステップS204に以降に示す認識処理等の処理を実施する。   When it is determined in step S202 that the difference is not larger than the maximum display changeable value (S202: NO), the control unit 10 determines whether or not the detected difference is smaller than the minimum display changeable value (S203). If it is smaller than the minimum display changeable value in step S203, it is determined that there is no change in display based on key input. In this way, the presence or absence of a significant image change is detected by the processing of steps S201 to S203. When a significant image change is detected, a process such as a recognition process described below is performed in step S204.

ステップS203において、差分が表示変化可能最小値より小さくないと判別した場合(S203:NO)、制御部10は、画像の2値化データ作成処理を実行する(S204)。画像の2値化データ作成処理とは、画像を1(例えば黒)又は0(例えば白)の2値のデータに変換する処理であり、表示部22に表示された数字等の表示内容が、例えば「1」として示されるように変換する。2値化データ作成処理の詳細な説明については後述する。   If it is determined in step S203 that the difference is not smaller than the display changeable minimum value (S203: NO), the control unit 10 executes binarized data creation processing for the image (S204). The binarized data creation process of an image is a process of converting an image into binary data of 1 (for example, black) or 0 (for example, white), and display contents such as numbers displayed on the display unit 22 are For example, conversion is performed as shown as “1”. Detailed description of the binarized data creation process will be described later.

制御部10は、2値化データに対する認識処理を実行する(S205)。ステップS205の認識処理は、画像の2値化データに対する認識処理であれば、実用化又は提案されている様々な処理を適用することが可能である。   The control unit 10 executes a recognition process for the binarized data (S205). If the recognition process in step S205 is a recognition process for binarized data of an image, various processes that have been put to practical use or have been proposed can be applied.

制御部10は、認識処理の結果に基づいて、数字又は演算用記号取得処理を実行する(S206)。数字又は演算用記号取得処理とは、認識した結果に基づいて、計算機2に入力された数字キーに基づく数字、又は演算子キー若しくは機能キーに基づく演算用記号を取得する処理である。即ち、入力されたキーの内容を、推定も含めて特定する処理である。数字又は演算用記号取得処理の詳細な説明については後述する。   Based on the result of the recognition process, the control unit 10 executes a number or calculation symbol acquisition process (S206). The number or calculation symbol acquisition process is a process of acquiring a number based on a numeric key input to the calculator 2 or a calculation symbol based on an operator key or a function key based on the recognized result. That is, it is a process for specifying the contents of the input key including estimation. Detailed description of the number or calculation symbol acquisition processing will be described later.

制御部10は、ステップS206にて取得した数字及び記号を示した結果を表示部120に表示する(S207)。ステップS207では、取得した数字及び記号を、例えば数式として示した結果を入力パターンとして表示する。なお、記号については、必ずしも一つの記号に特定することができない場合があるので、その場合には、特定の候補となる記号を配列した数式として結果を表示する。   The control unit 10 displays the result indicating the numbers and symbols acquired in step S206 on the display unit 120 (S207). In step S207, the obtained numbers and symbols are displayed as input patterns, for example. Note that the symbol may not necessarily be identified as one symbol, and in this case, the result is displayed as a mathematical expression in which symbols as specific candidates are arranged.

制御部10は、次の画像の有無を判別する(S208)。   The control unit 10 determines whether there is a next image (S208).

ステップS208において、次の画像があると判別した場合(S208:YES)、制御部10は、次の画像を認識対象画像に設定し(S209)、ステップS201へ戻り、以降の処理を繰り返す。   If it is determined in step S208 that there is a next image (S208: YES), the control unit 10 sets the next image as a recognition target image (S209), returns to step S201, and repeats the subsequent processing.

ステップS208において、次の画像がないと判別した場合(S208:NO)、制御部10は、認識処理及び結果表示処理を終了し、演算表示処理の次のステップに係る処理を実行する。   If it is determined in step S208 that there is no next image (S208: NO), the control unit 10 ends the recognition process and the result display process, and executes a process related to the next step of the calculation display process.

ステップS202において、差分が表示変化可能最大値より大きいと判別した場合(S202:YES)、又はステップS203において、差分が表示変化可能最小値より小さいと判別した場合(S203:YES)、制御部10は、ステップS208へ進み、以降の処理を実行する。即ち、有意な画像の変化はないと判断し、次の画像を処理の対象とするのである。   When it is determined in step S202 that the difference is larger than the maximum display changeable value (S202: YES), or when it is determined in step S203 that the difference is smaller than the minimum display changeable value (S203: YES), the control unit 10 Advances to step S208 to execute the subsequent processing. That is, it is determined that there is no significant image change, and the next image is set as a processing target.

このようにして、認識処理装置1は、認識処理及び結果表示処理を実行する。   In this way, the recognition processing device 1 executes recognition processing and result display processing.

画像の2値化データ作成処理について説明する。図15は、本願に記載の演算表示システムにて用いられる認識処理装置1の画像の2値化データ作成処理の一例を示すフローチャートである。図15に例示した画像の2値化データ作成処理は、図14に例示した認識処理及び結果表示処理のステップS204にて実行される処理である。   Image binarization data creation processing will be described. FIG. 15 is a flowchart showing an example of binarized data creation processing of an image of the recognition processing device 1 used in the calculation display system described in the present application. The binarized data creation process of the image illustrated in FIG. 15 is a process executed in step S204 of the recognition process and the result display process illustrated in FIG.

制御部10は、対象画像の差分の2値化データを作成する(S301)。ステップS301では、対象となる画像について、直前の画像からの変化に基づく2値化データを作成する。ステップS301にて作成される2値化データは、認識に用いられる2値化データとは異なり、前段階としての2値化データである。具体的には、白(表示無し)から黒(表示有り)に変化したセグメントを「1」とし、それ以外の箇所を「0」としている。黒から白に変化したセグメントも「0」となる。   The control unit 10 creates binary data of the difference between the target images (S301). In step S301, binarized data based on a change from the immediately preceding image is created for the target image. Unlike the binarized data used for recognition, the binarized data created in step S301 is binarized data as a previous stage. Specifically, a segment that has changed from white (without display) to black (with display) is set to “1”, and other portions are set to “0”. The segment changed from black to white is also “0”.

制御部10は、以前の全画像の2値化データについての累積論理和データを作成する(S302)。ステップS301では、処理の対象となる画像と、直前の画像との差分のみに基づいて2値化データを作成している。従って、撮像を続ける限り、複数の2値化データが作成されることになる。ステップS302では、対象となる画像以前に作成した全ての2値化データをも含めて、論理和を求める論理演算を行い、論理演算の結果を累積論理和データとして作成する。   The control unit 10 creates cumulative OR data for the binarized data of all previous images (S302). In step S301, binarized data is created based only on the difference between the image to be processed and the previous image. Therefore, as long as imaging is continued, a plurality of binarized data are created. In step S302, a logical operation for obtaining a logical sum including all binarized data created before the target image is performed, and the result of the logical operation is created as cumulative logical sum data.

制御部10は、累積論理和データに基づき認識対象区域を特定する(S303)。ステップS303では、累積論理和データが「1」である区域を含む矩形状の区域を認識対象区域とする。ステップS303では、取得した複数の画像から、画像内で認識の対象となる区域を特定する処理である。ステップS303にて特定される認識対象区域は、撮像により取得した画像内で、計算機2の表示部22が含まれている区域であると判断することができる。特定した認識対象区域を、論理和が「1」となる区域の色としたデータは、2値化データを作成する上でのマスクデータとして用いられる。論理和が「1」となる区域の色とは、例えば、セグメントが点灯した状態に表示される黒色等の色である。従って、色としているが、明度を示すデータであってもよい。   The control unit 10 identifies a recognition target area based on the cumulative OR data (S303). In step S303, a rectangular area including an area whose cumulative OR data is “1” is set as a recognition target area. Step S303 is a process of identifying an area to be recognized in the image from the plurality of acquired images. The recognition target area specified in step S303 can be determined to be an area including the display unit 22 of the computer 2 in the image acquired by imaging. The data in which the identified recognition target area is the color of the area where the logical sum is “1” is used as mask data in creating the binarized data. The color of the area in which the logical sum is “1” is, for example, a color such as black displayed when the segment is lit. Therefore, although it is a color, it may be data indicating brightness.

制御部10は、認識対象区域と対象画像の論理積とに基づき画像の2値化データを作成する(S304)。ステップS304では、ステップS303にて特定した認識対象区域を論理和が「1」となる色としたマスクデータと、対象画像との論理積に基づく2値化データを作成する。即ち、マスクデータとして区分される認識対象区域内で、マスクデータの色に合致する箇所を「1」とし、その他の箇所を「0」とした2値化データを作成する。作成された2値化データは、計算機2の表示部22に、黒等の色で表示された画像を示すことになる。   The control unit 10 creates binarized data of the image based on the recognition target area and the logical product of the target images (S304). In step S304, binarized data based on the logical product of the mask data in which the recognition target area identified in step S303 is a color with a logical sum of “1” and the target image is created. That is, binarized data is created in which the location matching the color of the mask data is set to “1” and the other locations are set to “0” in the recognition target area classified as mask data. The created binarized data indicates an image displayed in a color such as black on the display unit 22 of the computer 2.

そして、認識処理装置1は、ステップS304にて作成した2値化データを用いて、認識処理及び結果表示処理におけるステップS205以降の処理を実行する。   And the recognition processing apparatus 1 performs the process after step S205 in a recognition process and a result display process using the binarized data produced in step S304.

図15に例示した画像の2値化データ作成処理の具体的を説明する。図15を用いて説明したように、画像の2値化データ作成処理としては、先ず、2値化の対象となる画像が表示されている区域を特定し、2値化の基準となる色又は明度を決定する前処理を実行する。図16A、図16B、図16C及び図16Dは、本願に記載の演算表示システムにおける認識処理装置1の2値化の前処理の概要の一例を示す説明図である。図16A、図16B、図16C及び図16Dは、計算機2が「123」との入力を受け付けた場合に表示部22に表示される画像に対する処理を例示したものである。   A specific example of the binarized data creation processing of the image illustrated in FIG. 15 will be described. As described with reference to FIG. 15, in the binarized data creation processing of an image, first, an area in which an image to be binarized is displayed is specified, and a color or a reference color for binarization is selected. Perform pre-processing to determine brightness. FIG. 16A, FIG. 16B, FIG. 16C, and FIG. 16D are explanatory diagrams illustrating an example of an outline of binarization preprocessing of the recognition processing device 1 in the calculation display system described in the present application. FIGS. 16A, 16B, 16C, and 16D illustrate processing for an image displayed on the display unit 22 when the computer 2 receives an input of “123”.

図16Aは、対象となる画像の直前の画像を示し、図16Bは、対象となる画像を示している。図16Aは、「12」まで表示した段階の画像であり、図16Bは、「123」と表示された段階の画像である。画像の2値化データ作成処理においては、前後の画像の差分から前処理用の2値化データを作成する。   FIG. 16A shows an image immediately before the target image, and FIG. 16B shows the target image. FIG. 16A is an image at a stage where “12” is displayed, and FIG. 16B is an image at a stage where “123” is displayed. In the binarized data creation process of the image, binarized data for preprocessing is created from the difference between the previous and next images.

図16Cは、差分に基づいて作成した前処理用の2値化データであり、図15のステップS301にて作成される2値化データである。図16Cに示す2値化データは、図16Aに示す画像及び図16Bに示す画像の差分を示したものであり、白(表示無し)から黒(表示有り)に変化したセグメントを「1」とし、その他の箇所を「0」としている。なお、黒から白に変化したセグメントも「0」となるが、図16Cでは、理解を容易にするため、黒から白に変化したセグメントを、外枠を破線とした白抜きで示している。   FIG. 16C is binarized data for preprocessing created based on the difference, and is binarized data created in step S301 in FIG. The binarized data shown in FIG. 16C shows the difference between the image shown in FIG. 16A and the image shown in FIG. 16B, and the segment changed from white (no display) to black (display) is set to “1”. Other portions are set to “0”. The segment changed from black to white is also “0”, but in FIG. 16C, the segment changed from black to white is indicated by a white outline with a broken line as an outer frame for easy understanding.

図16Dは、以前の全画像の2値化データについての累積論理和を示している。図16Dは、図15のステップS303にて作成される累積論理和データである。そして、図16Dに示す2値化データを含む矩形状の区域を認識対象区域とし、表示されたセグメントの色に係るマスクデータを作成して、2値化データを作成する。   FIG. 16D shows cumulative OR for the binarized data of all previous images. FIG. 16D is the cumulative OR data created in step S303 of FIG. Then, a rectangular area including the binarized data shown in FIG. 16D is set as a recognition target area, mask data relating to the color of the displayed segment is created, and binarized data is created.

このようにして、認識処理装置1は、画像の2値化データ作成処理を実行する。   In this way, the recognition processing apparatus 1 executes the binarized data creation process of the image.

数字又は演算用記号取得処理について説明する。数字又は演算用記号取得処理とは、図14に例示した認識処理及び結果表示処理のステップS207にて実行される処理である。   The number or calculation symbol acquisition process will be described. The number or calculation symbol acquisition process is a process executed in step S207 of the recognition process and the result display process illustrated in FIG.

認識処理装置1は、計算機2の表示部22に表示された数字又は演算用記号の認識により、数字又は演算用記号を取得して、計算機2に対して入力された内容を示す入力パターンを作成する。計算機2の表示部22には、数字キーが押下された場合、入力された数字が表示される。しかしながら、「+」、「−」等の演算子キー又は「CE」、「M+」等の機能キーが押下された場合、必ずしもそのことを示す表示がなされるとは限らない。演算子キーが押下された場合、演算子キーが押下されたことを示す「+」等の演算用記号がシンボルとして表示される機種も存在するが、演算用記号が表示されない機種も存在する。さらに、演算に係る記号として演算子を示す演算用記号を表示する機種であっても、機能キーが押下された場合、当該機能キーが押下されたことを示す演算に係る記号を表示しない設計の機種も存在する。そこで、数字又は演算用記号取得処理では、演算用記号を表示しない計算機2に対しても、押下された演算子キー又は機能キーを推定し、入力内容を特定して、入力パターンを作成する処理を実行する。なお、ここで演算用記号とは、計算機2の表示部22にシンボルとして表示される演算子を示す演算に係る記号、機能キーの押下に基づき表示される演算に係る記号をいうものとする。   The recognition processing device 1 obtains a number or a calculation symbol by recognizing a number or a calculation symbol displayed on the display unit 22 of the computer 2 and creates an input pattern indicating the contents input to the computer 2 To do. When the number key is pressed, the input number is displayed on the display unit 22 of the computer 2. However, when an operator key such as “+” or “−” or a function key such as “CE” or “M +” is pressed, a display indicating that is not always performed. When the operator key is pressed, some models display a calculation symbol such as “+” indicating that the operator key is pressed as a symbol, but some models do not display the calculation symbol. Furthermore, even in a model that displays an operation symbol indicating an operator as a symbol related to an operation, when a function key is pressed, a symbol related to an operation indicating that the function key is pressed is not displayed. There are also models. Therefore, in the number or calculation symbol acquisition processing, processing for estimating the pressed operator key or function key, specifying the input content, and creating the input pattern even for the computer 2 that does not display the calculation symbol Execute. Here, the symbol for calculation refers to a symbol related to calculation indicating an operator displayed as a symbol on the display unit 22 of the computer 2, and a symbol related to calculation displayed when a function key is pressed.

図17Aは、本願に記載の演算表示システムにおいて、計算機2に入力された内容及び認識処理装置1が認識した内容の一例を示す図表である。図17Aは、演算用記号が表示される計算機2を用いた場合において、計算機2に実際に入力された内容、計算機2に表示された内容、及び認識処理装置1が認識して作成した入力パターンを示している。   FIG. 17A is a chart showing an example of contents input to the computer 2 and contents recognized by the recognition processing device 1 in the calculation display system described in the present application. FIG. 17A shows the content actually input to the computer 2, the content displayed on the computer 2, and the input pattern recognized and created by the recognition processing device 1 when the computer 2 on which the calculation symbol is displayed is used. Is shown.

1行目に示すように、計算機2は、「123」との入力を受け付けると、「123」との表示を行う。認識処理装置1は、「123」が入力されたことを認識し、入力パターン「123」を作成する。   As shown in the first line, when the computer 2 receives an input of “123”, the computer 2 displays “123”. The recognition processing apparatus 1 recognizes that “123” has been input, and creates an input pattern “123”.

2行目に示すように、計算機2は、「123」の入力後、「+」の入力を受け付けると、「123」と演算用記号「+」との表示を行う。認識処理装置1は、「+」が入力されたことを認識し、入力パターン「123+」を作成する。   As shown in the second row, when the computer 2 receives “+” after inputting “123”, the computer 2 displays “123” and a calculation symbol “+”. The recognition processing apparatus 1 recognizes that “+” has been input, and creates an input pattern “123+”.

3行目に示すように、計算機2は、「123+」の入力後、「4」の入力を受け付けると、「4」と演算用記号「+」との表示を行う。認識処理装置1は、「4」が入力されたことを認識し、入力パターン「123+4」を作成する。   As shown in the third line, when the computer 2 accepts the input of “4” after the input of “123+”, the computer 2 displays “4” and a calculation symbol “+”. The recognition processing apparatus 1 recognizes that “4” has been input, and creates an input pattern “123 + 4”.

4行目に示すように、計算機2は、「123+4」の入力後、「56−」の入力、即ち「123+456−」との入力を受け付けると、加算の演算結果「579」と演算記号「−」との表示を行う。認識処理装置1は、「56−」が入力されたことを認識し、入力パターン「123+456−」を作成する。   As shown in the fourth line, after accepting the input of “56−”, that is, the input of “123 + 456” after inputting “123 + 4”, the calculator 2 adds the operation result “579” and the operation symbol “−”. "Is displayed. The recognition processing apparatus 1 recognizes that “56−” has been input, and creates an input pattern “123 + 456-”.

5行目に示すように、計算機2は、「123+456−」の入力後、「789=」の入力、即ち「123+456−789=」との入力を受け付けると、加減算の演算結果「−210」と演算用記号「=」との表示を行う。認識処理装置1は、「789=」が入力されたことを認識し、入力パターン「123+456−789=」を作成する。   As shown in the fifth row, when the computer 2 receives the input of “789 =” after inputting “123 + 456”, that is, the input of “123 + 456-789 =”, the addition / subtraction operation result “−210” is obtained. The calculation symbol “=” is displayed. The recognition processing apparatus 1 recognizes that “789 =” has been input, and creates an input pattern “123 + 456-789 =”.

図17Bは、本願に記載の演算表示システムにおいて、計算機2に入力された内容及び認識処理装置1が認識した内容の一例を示す図表である。図17Bは、演算用記号が表示されない計算機2を用いた場合において、計算機2に実際に入力された内容、計算機2に表示された内容、及び認識処理装置1が認識して作成した入力パターンを示している。なお、入力された内容は、図17Aと同様である。   FIG. 17B is a chart showing an example of contents input to the computer 2 and contents recognized by the recognition processing device 1 in the calculation display system described in the present application. FIG. 17B shows the content actually input to the computer 2, the content displayed on the computer 2, and the input pattern recognized and created by the recognition processing device 1 when the computer 2 that does not display the calculation symbol is used. Show. Note that the input contents are the same as in FIG. 17A.

1行目に示すように、計算機2は、「123」との入力を受け付けると、「123」との表示を行う。認識処理装置1は、「123」が入力されたことを認識し、入力パターン「123」を作成する。   As shown in the first line, when the computer 2 receives an input of “123”, the computer 2 displays “123”. The recognition processing apparatus 1 recognizes that “123” has been input, and creates an input pattern “123”.

2行目に示すように、計算機2は、「123+」との入力を受け付けると、演算用記号は表示せず「123」のみの表示を行う。この場合、表示は変わらないので、認識処理装置1は、「+」が入力されたことを認識することはできず、入力パターンは「123」から変化しない。   As shown in the second line, when the computer 2 accepts an input of “123+”, it displays only “123” without displaying the calculation symbol. In this case, since the display does not change, the recognition processing apparatus 1 cannot recognize that “+” is input, and the input pattern does not change from “123”.

3行目に示すように、計算機2は、「123+4」との入力を受け付けると、「4」の表示を行う。認識処理装置1は、「4」が入力されたことと「4」の直前に何らかの入力がなされたことを認識するが、入力された内容を一つに特定することはできない。ただし、入力された候補となる候補キーとして、「+」、「−」、「×」、「÷」、「=」、「M+」及び「M-」を選択することができる。なお、「M+」とは、メモリに加算することを示す演算用記号であり、「M-」とは、メモリから減算することを示す演算用記号である。そこで、「123+456[+,−,×,÷,=,M+,M-]」との入力パターンを作成する。記号「[ ]」は、特定した候補キーが複数である場合に、複数の候補キーを並べて表示していることを示す記号であり、本願では、未特定配列記号と呼ぶこととし、また、未特定配列記号内の候補キーの配列を選択記号配列と呼ぶこととする。   As shown in the third line, when accepting an input of “123 + 4”, the computer 2 displays “4”. The recognition processing apparatus 1 recognizes that “4” has been input and that some input has been made immediately before “4”, but the input content cannot be specified as one. However, “+”, “−”, “×”, “÷”, “=”, “M +”, and “M−” can be selected as candidate keys to be input candidates. “M +” is an arithmetic symbol indicating addition to the memory, and “M−” is an arithmetic symbol indicating subtraction from the memory. Therefore, an input pattern of “123 + 456 [+, −, ×, ÷, =, M +, M−]” is created. The symbol “[]” is a symbol indicating that a plurality of candidate keys are displayed side by side when there are a plurality of identified candidate keys. In the present application, the symbol “[]” is referred to as an unspecified sequence symbol. An array of candidate keys in the specific sequence symbol is called a selection symbol sequence.

4行目に示すように、計算機2は、「123+456−」との入力を受け付けると、加算の演算結果「579」を表示する。認識処理装置1は、「4」の直前の入力は、選択した複数の候補キーのうち「+」であると特定することができるが、今回入力された内容を一つに特定することはできない。ただし、入力された候補となる候補キーとして、「+」、「−」、「×」、「÷」、「=」、「M+」及び「M-」を選択することができる。そこで、入力パターン「123+456[+,−,×,÷,=,M+,M-]」を作成する。   As shown in the fourth line, when accepting the input of “123 + 456”, the computer 2 displays the addition operation result “579”. The recognition processing apparatus 1 can specify that the input immediately before “4” is “+” among the plurality of selected candidate keys, but cannot specify the content input this time as one. . However, “+”, “−”, “×”, “÷”, “=”, “M +”, and “M−” can be selected as candidate keys to be input candidates. Therefore, an input pattern “123 + 456 [+, −, ×, ÷, =, M +, M−]” is created.

5行目に示すように、計算機2は、「123+456−789=」との入力を受け付けると、加減算の演算結果「−210」を表示する。認識処理装置1は、「7」の直前の入力は、選択した複数の候補キーのうち「−」であると特定することができるが、今回入力された内容を一つに特定することはできない。ただし、入力された候補となる候補キーとして、「+」、「−」、「×」、「÷」、「=」、「M+」及び「M-」を選択することができる。そこで、入力パターン「123+456−789[+,−,×,÷,=,M+,M-]」を作成する。   As shown in the fifth line, when accepting an input of “123 + 456-789 =”, the computer 2 displays the addition / subtraction operation result “−210”. The recognition processing apparatus 1 can specify that the input immediately before “7” is “−” among a plurality of selected candidate keys, but cannot specify the content input this time as one. . However, “+”, “−”, “×”, “÷”, “=”, “M +”, and “M−” can be selected as candidate keys to be input candidates. Therefore, an input pattern “123 + 456-789 [+, −, ×, ÷, =, M +, M−]” is created.

他の例について説明する。図18Aは、本願に記載の演算表示システムにおいて、計算機2に入力された内容及び認識処理装置1が認識した内容の一例を示す図表である。図18Aは、演算用記号が表示される計算機2を用いた場合において、計算機2に実際に入力された内容、計算機2に表示された内容、及び認識処理装置1が認識して作成した入力パターンを示している。   Another example will be described. FIG. 18A is a chart showing an example of contents input to the computer 2 and contents recognized by the recognition processing device 1 in the calculation display system described in the present application. FIG. 18A shows the content actually input to the computer 2, the content displayed on the computer 2, and the input pattern recognized and created by the recognition processing device 1 when the computer 2 on which the calculation symbol is displayed is used. Is shown.

1行目に示すように、計算機2は、「123[M+]」との入力を受け付けると、「123」と演算用記号「= M」との表示を行う。演算用記号が表示される計算機2を用いた場合であっても、認識処理装置1は、「123」の後に入力された内容を一つに特定することはできない。ただし、入力された候補となる候補キーとして、「=」、「M+」及び「M-」を選択することができる。そこで、入力パターン「123[=,M+,M-]」を作成する。なお、図及び上記の記載において、[M+]と示しているのは、押下されたキーが一つのキーであることを示す便宜上の理由による。   As shown in the first line, when the computer 2 receives an input of “123 [M +]”, the computer 2 displays “123” and a calculation symbol “= M”. Even in the case of using the computer 2 on which the calculation symbol is displayed, the recognition processing device 1 cannot specify the content input after “123” as one. However, “=”, “M +”, and “M−” can be selected as candidate keys that are input candidates. Therefore, an input pattern “123 [=, M +, M−]” is created. In the drawings and the above description, [M +] is indicated for reasons of convenience indicating that the pressed key is one key.

2行目に示すように、計算機2は、「123[M+]456+」との入力を受け付けると、「456」と演算用記号「+ M」との表示を行う。認識処理装置1は、「+」が入力されたことを認識することができるが、以前の候補キーについては特定することができない。そこで、入力パターン「123[=,M+,M-]+」を作成する。   As shown in the second line, when accepting an input of “123 [M +] 456+”, the computer 2 displays “456” and a calculation symbol “+ M”. The recognition processing apparatus 1 can recognize that “+” has been input, but cannot identify the previous candidate key. Therefore, an input pattern “123 [=, M +, M −] +” is created.

3行目に示すように、計算機2は、「123[M+]456+[RM]」との入力を受け付けると、メモリから読み出した「123」と演算用記号「+ M」との表示を行う。なお、「RM」とは、メモリの内容を読み出すことを示す演算用記号である。認識処理装置1は、「4」の直前の入力は、選択した複数の候補キーのうち「M+」であると特定することができる。また、「+」の直後の入力は、[RM]であると特定することができる。そこで、入力パターン「123M+456+RM」を作成する。   As shown in the third line, when accepting an input of “123 [M +] 456+ [RM]”, the computer 2 displays “123” read from the memory and a calculation symbol “+ M”. Note that “RM” is an arithmetic symbol indicating that the contents of the memory are read out. The recognition processing apparatus 1 can specify that the input immediately before “4” is “M +” among the selected candidate keys. The input immediately after “+” can be specified as [RM]. Therefore, an input pattern “123M + 456 + RM” is created.

4行目に示すように、計算機2は、「123[M+]456+[RM]=」との入力を受け付けると、加減算の演算結果「579」と演算用記号「= M」との表示を行う。認識処理装置1は、入力パターン「123M+456+RM=」を作成する。   As shown in the fourth line, when accepting the input of “123 [M +] 456 + [RM] =”, the computer 2 displays the addition / subtraction calculation result “579” and the calculation symbol “= M”. . The recognition processing apparatus 1 creates an input pattern “123M + 456 + RM =”.

図18Bは、本願に記載の演算表示システムにおいて、計算機2に入力された内容及び認識処理装置1が認識した内容の一例を示す図表である。図18B、演算用記号が表示されない計算機2を用いた場合において、計算機2に実際に入力された内容、計算機2に表示された内容、及び認識処理装置1が認識して作成した入力パターンを示している。なお、入力された内容は、図18Aと同様である。   FIG. 18B is a chart showing an example of contents input to the computer 2 and contents recognized by the recognition processing device 1 in the calculation display system described in the present application. FIG. 18B shows the content actually input to the computer 2, the content displayed on the computer 2, and the input pattern recognized and created by the recognition processing device 1 when the computer 2 that does not display the calculation symbol is used. ing. Note that the input content is the same as in FIG. 18A.

1行目に示すように、計算機2は、「123[M+]」との入力を受け付けると、「123」と演算用記号「M」との表示を行う。認識処理装置1は、「123」が入力されたことのみを認識し、入力パターン「123」を作成する。   As shown in the first line, when the computer 2 accepts an input of “123 [M +]”, it displays “123” and a calculation symbol “M”. The recognition processing apparatus 1 recognizes only that “123” has been input, and creates an input pattern “123”.

2行目に示すように、計算機2は、「123[M+]456+」との入力を受け付けると、「456」と演算用記号「M」との表示を行う。認識処理装置1は、入力パターン「123[+,−,×,÷,=,M+,M-]456」を作成する。   As shown in the second line, when the computer 2 accepts an input of “123 [M +] 456+”, it displays “456” and a calculation symbol “M”. The recognition processing apparatus 1 creates an input pattern “123 [+, −, ×, ÷, =, M +, M−] 456”.

3行目に示すように、計算機2は、「123[M+]456+[RM]」との入力を受け付けると、メモリから読み出した「123」と演算用記号「M」との表示を行う。認識処理装置1は、入力パターン「123M+456[無し,+,−,×,÷,=,M+,M-]RM」を作成する。ここで、「無し」とは、「456」と「RM」との間に何の入力もされなかったことを示す候補キーである。   As shown in the third line, when accepting an input of “123 [M +] 456 + [RM]”, the computer 2 displays “123” read from the memory and a calculation symbol “M”. The recognition processing apparatus 1 creates an input pattern “123M + 456 [none, +, −, ×, ÷, =, M +, M−] RM”. Here, “None” is a candidate key indicating that no input has been made between “456” and “RM”.

4行目に示すように、計算機2は、「123[M+]456+[RM]=」との入力を受け付けると、加減算の演算結果「579」と演算用記号「M」との表示を行う。認識処理装置1は、入力パターン「123M+456+RM[+,−,×,÷,=,M+,M-]」を作成する。   As shown in the fourth line, when accepting the input of “123 [M +] 456 + [RM] =”, the computer 2 displays the addition / subtraction calculation result “579” and the calculation symbol “M”. The recognition processing apparatus 1 creates an input pattern “123M + 456 + RM [+, −, ×, ÷, =, M +, M−]”.

なお、演算用記号が表示されない計算機2を用いた場合、最後に押下されたキーが、例えば「=」である場合であっても、認識することができない。そこで、終了の指示を受け付けた場合に、「=」が押下されたとみなして入力パターンを作成するようにしてもよい。   When the computer 2 that does not display a calculation symbol is used, even if the last pressed key is “=”, for example, it cannot be recognized. Therefore, when an end instruction is received, an input pattern may be created assuming that “=” is pressed.

具体例を示した数字又は演算用記号取得処理を実現するための処理について説明する。図19及び図20は、本願に記載の演算表示システムにて用いられる認識処理装置1の数字又は演算用記号取得処理の一例を示すフローチャートである。なお、フローチャート及び以下の説明において「表示内容を作成する」との表現は、認識処理装置1内部に認識する計算機2と全く同一の電卓実行処理を持ち、ここにキー入力パターンを順番に入力した結果、表示される内容を得る事を示す。   A process for realizing a specific example or a calculation symbol acquisition process will be described. 19 and 20 are flowcharts showing an example of the number or calculation symbol acquisition process of the recognition processing device 1 used in the calculation display system described in the present application. In the flowchart and the following description, the expression “create display contents” has exactly the same calculator execution processing as that of the computer 2 recognized in the recognition processing apparatus 1, and key input patterns are sequentially input here. As a result, it shows that the displayed contents are obtained.

制御部10は、演算用記号表示の有無を判別する(S401)。   The control unit 10 determines whether or not the calculation symbol is displayed (S401).

ステップS401において、演算用記号の表示が無いと判別した場合(S401:NO)、制御部10は、直前の入力パターンに係る表示内容を作成する(S402)。ステップS402は、直前の入力パターンで入力がなされた場合に、計算機2の表示部22に表示される内容を作成する処理である。   In step S401, when it is determined that there is no display of the calculation symbol (S401: NO), the control unit 10 creates display contents related to the immediately preceding input pattern (S402). Step S <b> 402 is processing for creating contents displayed on the display unit 22 of the computer 2 when an input is made with the immediately preceding input pattern.

制御部10は、直前の入力パターンに候補キーを追加した追加パターンを作成する(S403)。ステップS403では、複数の候補キーのうちの一つを追加した追加パターンを作成する。なお、作成の対象となる候補キーの順序は適宜設定される。   The control unit 10 creates an additional pattern obtained by adding a candidate key to the immediately preceding input pattern (S403). In step S403, an additional pattern in which one of a plurality of candidate keys is added is created. Note that the order of candidate keys to be created is set as appropriate.

制御部10は、候補キーの追加パターンにおける表示内容を作成する(S404)。ステップS404は、計算機2が、作成の対象となる候補キーの入力を受け付けた場合に表示された内容を作成する処理である。   The control unit 10 creates display contents in the candidate key addition pattern (S404). Step S404 is processing for creating the content displayed when the computer 2 accepts input of a candidate key to be created.

制御部10は、入力パターンから追加パターンに状態が遷移した場合において、表示内容が変化していないか否かを判別する(S405)。   The control unit 10 determines whether or not the display content has changed when the state transitions from the input pattern to the additional pattern (S405).

ステップS405において、表示内容が変化していないと判別した場合(S405:YES)、制御部10は、当該候補キーが押下された可能性があると判断し、当該候補キーを選択し、選択記号配列として保持する(S406)。ステップS406の保持は、記憶部16に一時記憶することにより実行される。   If it is determined in step S405 that the display content has not changed (S405: YES), the control unit 10 determines that the candidate key may have been pressed, selects the candidate key, and selects the selection symbol. This is held as an array (S406). The holding of step S406 is executed by temporarily storing it in the storage unit 16.

ステップS405において、表示内容が変化していると判別した場合(S405:NO)、ステップS406の選択記号配列として保持する処理は行われない。   If it is determined in step S405 that the display content has changed (S405: NO), the process of holding the selected symbol array in step S406 is not performed.

制御部10は、全ての候補キーに対する処理が終了したか否かを判別する(S407)。   The control unit 10 determines whether or not the processing for all candidate keys has been completed (S407).

ステップS407において、処理が終了していないと判別した場合(S407:NO)、制御部10は、直前の入力パターンに次の候補キーを追加した追加パターンを作成し(S408)、ステップS404へ戻り、以降の処理を繰り返す。即ち、ステップS403を実行後、ステップS404〜S408の処理を繰り返すことにより、全ての候補キーについて適否が判断され、認識により取得すべき候補となる一又は複数の記号キーが選択される。   If it is determined in step S407 that the processing has not ended (S407: NO), the control unit 10 creates an additional pattern in which the next candidate key is added to the immediately preceding input pattern (S408), and the process returns to step S404. The subsequent processing is repeated. That is, after executing step S403, the process of steps S404 to S408 is repeated to determine suitability for all candidate keys, and one or more symbol keys that are candidates to be acquired by recognition are selected.

ステップS407において、全ての候補キーに対する処理が終了したと判別した場合(S407:YES)、制御部10は、選択記号配列に候補キーが保持されているか否かを判別する(S409)。ステップS409では、記憶部16に選択記号配列として保持した候補キーの有無を判別する。   If it is determined in step S407 that the processing for all candidate keys has been completed (S407: YES), the control unit 10 determines whether or not the candidate keys are held in the selected symbol array (S409). In step S409, it is determined whether or not there is a candidate key held in the storage unit 16 as a selected symbol array.

ステップS409において、選択記号配列として保持した候補キーが有ると判別した場合(S409:YES)、制御部10は、選択記号配列の候補キーを未特定配列記号内に並べて入力パターンに追加する(S410)。   If it is determined in step S409 that there is a candidate key held as the selected symbol array (S409: YES), the control unit 10 arranges the candidate key of the selected symbol array in the unspecified array symbol and adds it to the input pattern (S410). ).

ステップS409において、選択記号配列として保持した候補キーが無いと判別した場合(S409:NO)、ステップS410の未特定配列記号内に並べて入力パターンに追加する処理は行われない。   If it is determined in step S409 that there is no candidate key held as a selected symbol array (S409: NO), the process of arranging in the unspecified array symbol in step S410 and adding it to the input pattern is not performed.

なお、ステップS401において、演算用記号の表示が有ると判別した場合(S401:YES)、ステップS402〜S410の処理は実行されない。   Note that if it is determined in step S401 that a calculation symbol is displayed (S401: YES), the processes in steps S402 to S410 are not executed.

制御部10は、直前の入力パターンに候補キーを追加した追加パターンを作成する(S411)。ステップS411では、複数の候補キーのうちの一つを追加した追加パターンを作成する。   The control unit 10 creates an additional pattern in which a candidate key is added to the immediately preceding input pattern (S411). In step S411, an additional pattern is created by adding one of a plurality of candidate keys.

制御部10は、候補キーの追加パターンにおける表示内容を作成する(S412)。   The control unit 10 creates display contents in the candidate key addition pattern (S412).

制御部10は、表示認識結果と候補キーの追加パターンにおける表示内容とが合致するか否かを判別する(S413)。   The control unit 10 determines whether or not the display recognition result matches the display content in the candidate key addition pattern (S413).

ステップS413において、表示認識結果と表示内容とが合致すると判別した場合(S413:YES)、制御部10は、当該候補キーが押下された可能性があると判断し、当該候補キーを選択し、選択記号配列として保持する(S414)。なお、ステップS414にて保持する選択記号配列は、ステップS406の選択記号配列とは異なる情報として保持される。従って、この場合、ステップS406に係る選択記号配列を消去するようにしてもよい。   If it is determined in step S413 that the display recognition result matches the display content (S413: YES), the control unit 10 determines that the candidate key may have been pressed, selects the candidate key, This is held as a selection symbol array (S414). Note that the selection symbol array held in step S414 is stored as information different from the selection symbol array in step S406. Therefore, in this case, the selection symbol arrangement according to step S406 may be deleted.

ステップS413において、表示認識結果と表示内容とが合致しないと判別した場合(S413:NO)、制御部10は、当該候補キーが押下された可能性はないと判断し、ステップS414の選択記号配列として保持する処理は行わない。   If it is determined in step S413 that the display recognition result does not match the display content (S413: NO), the control unit 10 determines that there is no possibility that the candidate key has been pressed, and selects the symbol arrangement in step S414. Is not performed.

制御部10は、全ての候補キーに対する処理が終了したか否かを判別する(S415)。   The control unit 10 determines whether or not the processing for all candidate keys has been completed (S415).

ステップS415において、処理が終了していないと判別した場合(S415:NO)、制御部10は、直前の入力パターンに次の候補キーを追加した追加パターンを作成し(S416)、ステップS412へ戻り、以降の処理を繰り返す。即ち、ステップS411の処理を実行後、ステップS412〜S416の処理を繰り返すことにより、全ての候補キーについて適否が判断され、認識により取得すべき候補となる一又は複数の記号キーが選択される。   If it is determined in step S415 that the process has not ended (S415: NO), the control unit 10 creates an additional pattern in which the next candidate key is added to the immediately preceding input pattern (S416), and the process returns to step S412. The subsequent processing is repeated. That is, after executing the process of step S411, the process of steps S412 to S416 is repeated to determine suitability for all candidate keys, and one or more symbol keys that are candidates to be acquired by recognition are selected.

ステップS415において、処理が終了していると判別した場合(S415:YES)、制御部10は、直前の入力パターンに未特定配列記号が含まれるか否かを判別する(S417)。   If it is determined in step S415 that the processing has been completed (S415: YES), the control unit 10 determines whether or not an unspecified array symbol is included in the immediately preceding input pattern (S417).

ステップS417において、直前の入力パターンに未特定配列記号が含まれていると判別した場合(S417:YES)、制御部10は、選択記号配列に含まれる候補キーのうちで未特定配列記号内に含まれていない候補キーを削除する(S418)。ステップS418は、直前の入力パターンにおいて、押下された可能性があるとして未特定配列記号内に含めていた候補キーのうちで、今回のキー入力により、該当しないことが明らかとなった候補キーを選択から除外する処理である。   When it is determined in step S417 that the unspecified sequence symbol is included in the immediately preceding input pattern (S417: YES), the control unit 10 includes the unspecified sequence symbol in the candidate keys included in the selected symbol sequence. Candidate keys not included are deleted (S418). In step S418, among the candidate keys included in the unspecified sequence symbol that may have been pressed in the immediately preceding input pattern, the candidate keys that are determined not to be applicable by the current key input are displayed. It is processing to be excluded from selection.

制御部10は、未特定配列記号内に含まれる候補キーが一つであるか否かを判別する(S419)。   The control unit 10 determines whether or not there is one candidate key included in the unspecified sequence symbol (S419).

ステップS419において、未特定配列記号内に含まれる候補キーが一つであると判別した場合(S419:YES)、制御部10は、未特定配列記号を削除する(S420)。これにより、未特定配列記号内に含まれていた候補キーが独立して入力パターンに示されることになる。即ち、ステップS420は、候補キーの選択後の認識に係る取得に基づいて、選択した複数の候補キーのうちから取得すべき候補キーを一つに特定する処理である。   If it is determined in step S419 that there is only one candidate key included in the unspecified sequence symbol (S419: YES), the control unit 10 deletes the unspecified sequence symbol (S420). Thereby, the candidate keys included in the unspecified sequence symbol are independently shown in the input pattern. That is, step S420 is processing for specifying one candidate key to be acquired from among the plurality of selected candidate keys based on acquisition related to recognition after selection of candidate keys.

ステップS417において、直前の入力パターンに未特定配列記号が含まれていないと判別した場合(S417:NO)、ステップS418〜S420の処理は行われない。また、ステップS419において、未特定配列記号内に含まれる候補キーが一つではないと判別した場合(S419:NO)、ステップS420の処理は行われない。   If it is determined in step S417 that the unspecified sequence symbol is not included in the immediately preceding input pattern (S417: NO), the processes in steps S418 to S420 are not performed. If it is determined in step S419 that there is not one candidate key included in the unspecified sequence symbol (S419: NO), the process of step S420 is not performed.

制御部10は、選択記号配列に含まれる候補キーが一つであるか否かを判別する(S421)。   The control unit 10 determines whether or not there is one candidate key included in the selected symbol array (S421).

ステップS421において、選択記号配列に含まれる候補キーが一つであると判別した場合(S421:YES)、制御部10は、選択記号配列内の候補キーを入力パターンに追加し(S422)、数字又は演算用記号特定処理を終了する。ステップS422は、選択した候補キーのうちから取得すべき候補キーが特定されていると判断し、当該候補キーを取得した記号として扱うための処理である。   If it is determined in step S421 that there is only one candidate key included in the selected symbol array (S421: YES), the control unit 10 adds the candidate key in the selected symbol array to the input pattern (S422), Alternatively, the calculation symbol specifying process is terminated. Step S422 is processing for determining that a candidate key to be acquired is specified from the selected candidate keys and treating the candidate key as an acquired symbol.

ステップS421において、選択記号配列に含まれる候補キーが一つではないと判別した場合(S421:NO)、制御部10は、選択記号配列の候補キーを未特定配列記号内に並べて入力パターンに追加し(S422)、数字又は演算用記号特定処理を終了する。   If it is determined in step S421 that there is not one candidate key included in the selected symbol array (S421: NO), the control unit 10 arranges the candidate keys of the selected symbol array in the unspecified array symbols and adds them to the input pattern. (S422), the number or calculation symbol specifying process is terminated.

そして、認識処理装置1は、認識処理及び結果表示処理のステップS208以降の処理を実行する。数字又は演算用記号特定処理において作成された入力パターンが認識処理に結果に基づき表示される。   And the recognition processing apparatus 1 performs the process after step S208 of a recognition process and a result display process. The input pattern created in the numeral or calculation symbol specifying process is displayed in the recognition process based on the result.

なお、例えば、「M+」「M-」と連続して押下された場合のように、キーが複数回押下されたことを想定するようにしてもよい。ただし、このようなケースを想定すると、候補キーの数は無限になるので、選択する数、選択するパターン等の項目に制限を設けるようにしてもよい。また、例えば、図10に例示したような設定画面から予め優先すべき設定を行うことにより、未特定配列記号内に選択記号配列として表示される候補キーを適宜削減することができる。   Note that, for example, it may be assumed that the key is pressed a plurality of times, such as when “M +” and “M−” are continuously pressed. However, assuming such a case, since the number of candidate keys is infinite, restrictions may be placed on items such as the number to be selected and the pattern to be selected. Further, for example, by performing a setting that should be prioritized from the setting screen illustrated in FIG. 10, the candidate keys displayed as the selected symbol array in the unspecified array symbol can be appropriately reduced.

また、入力パターンは、候補キーを追加するだけでなく、例えば、「CE」キーが押下された場合のように、一度入力パターンに追加された数字を削除する処理をも考慮して、候補キーの選択がなされる。   The input pattern not only adds candidate keys, but also considers the process of deleting numbers once added to the input pattern, such as when the “CE” key is pressed. Selection is made.

以上詳述したように本発明に係る認識処理装置等は、続けて撮像した画像から有意な変化を検出した場合に、認識処理等の処理を開始する。従って、ユーザは、計算機を操作する都度、認識処理装置に対して認識処理等を開始させる操作を行う必要が無いので、操作性を向上させ、利便性を高めることが可能である等、優れた効果を奏する。   As described above in detail, the recognition processing device or the like according to the present invention starts a process such as a recognition process when a significant change is detected from continuously captured images. Therefore, each time the user operates the computer, there is no need to perform an operation for starting the recognition processing or the like on the recognition processing device. Therefore, it is possible to improve operability and improve convenience. There is an effect.

しかも、画像の2値化処理においても、マスクデータを自動的に作成して2値化データを作成することにより、計算機毎に設定を調整する必要が無く、ユーザの利便性を向上させることが可能である等、優れた効果を奏する。   Moreover, even in the binarization processing of the image, it is not necessary to adjust the setting for each computer by automatically creating mask data and creating binarized data, thereby improving user convenience. It has excellent effects such as being possible.

さらに、演算記号がシンボルとして表示されない計算機に対しても自動的に対応することができるため、ユーザの利便性を向上させることが可能である等、優れた効果を奏する。   Further, since it is possible to automatically cope with a computer in which the operation symbol is not displayed as a symbol, it is possible to improve the convenience of the user, and the excellent effects are obtained.

前記実施の形態は、本発明の無数に存在する実施例の一部を開示したに過ぎず、目的、用途、仕様、設定等の様々な要因を加味して適宜設計することが可能である。   The above embodiment only discloses a part of the infinite number of embodiments of the present invention, and can be appropriately designed in consideration of various factors such as purpose, application, specification, setting, and the like.

たとえば、認識処理装置は、スマートフォン以外のコンピュータ、又は携帯電話であってもよい。さらに、選択された候補キーが複数である場合に、入力終了後、その旨を表示し、ユーザに選択された候補キーのうちから適切な候補キーを特定させるようにしてもよい。   For example, the recognition processing device may be a computer other than a smartphone or a mobile phone. Further, when there are a plurality of selected candidate keys, after completion of the input, a message to that effect may be displayed, and an appropriate candidate key may be specified from among the selected candidate keys.

以上詳述したように、本発明に係る認識処理装置1は、撮像により続けて取得した画像に対して認識処理を実行し、認識処理に基づく結果を表示させる認識処理装置1であって、画像の変化の有無を検出する変化検出手段と、前記変化検出手段が、画像の変化を検出した場合に、取得した画像に対する認識処理により数字、又は演算に関する記号を取得する認識手段と、前記認識手段にて取得した数字及び記号を示した結果を表示させる表示処理手段とを備えることを特徴とする。   As described above in detail, the recognition processing device 1 according to the present invention is a recognition processing device 1 that performs recognition processing on an image acquired continuously by imaging and displays a result based on the recognition processing. A change detecting means for detecting the presence or absence of a change, a recognition means for acquiring a number or a symbol relating to an operation by a recognition process for the acquired image when the change detecting means detects a change in the image, and the recognition means And display processing means for displaying the results indicating the numbers and symbols acquired in (1).

したがって、本発明では、画像の変化の検出を契機として認識処理を実行することにより、認識処理を実行させるための操作が不要となる。   Therefore, in the present invention, an operation for executing the recognition process becomes unnecessary by executing the recognition process triggered by detection of a change in the image.

また、前記認識手段は、複数の数字又は記号を続けて取得した場合で、取得すべき記号を取得することができなかったときに、取得すべき記号の候補を複数選択する選択手段と、前記選択手段による選択後の取得に基づいて、選択した複数の記号の候補のうちから、取得すべき記号を特定する特定手段とを含み、特定した記号を、取得した記号とすることを特徴とする。   The recognizing means is a selecting means for selecting a plurality of symbol candidates to be acquired when a plurality of numbers or symbols are continuously acquired and the symbol to be acquired cannot be acquired; Including a specifying unit for specifying a symbol to be acquired from a plurality of selected symbol candidates based on acquisition after selection by the selection unit, wherein the specified symbol is an acquired symbol. .

したがって、本発明では、演算に要する記号を認識することができない場合に、記号の候補を複数選択し、特定することができる。   Therefore, in the present invention, when a symbol required for calculation cannot be recognized, a plurality of symbol candidates can be selected and specified.

また、前記特定手段により取得すべき記号を特定することができなかった場合又は前記特定手段が特定した記号が複数である場合に、前記認識手段は、前記選択手段が選択した複数の記号又は前記特定手段が特定した複数の記号を取得した記号とすることを特徴とする。   Further, when the symbol to be acquired by the specifying unit cannot be specified or when there are a plurality of symbols specified by the specifying unit, the recognizing unit is configured to select a plurality of symbols selected by the selecting unit or the A plurality of symbols specified by the specifying means are used as acquired symbols.

したがって、本発明では、記号の候補を1つに特定することができない場合に、複数の記号を取得したものとして扱うことができる。   Therefore, in the present invention, when a single symbol candidate cannot be specified, it can be handled as having acquired a plurality of symbols.

また、前記変化検出手段は、取得した複数の画像から、画像内で認識の対象となる区域を特定する手段を有し、前記認識手段は、特定した区域内での変化に基づいて、各画像に対する認識処理行うことを特徴とする。   In addition, the change detection unit includes a unit that identifies an area to be recognized in the image from the plurality of acquired images, and the recognition unit detects each image based on a change in the identified area. Recognition processing is performed.

したがって、本発明では、認識の対象とすべき区域を自動的に特定することができる。   Therefore, in the present invention, an area to be recognized can be automatically specified.

本発明に係る認識処理方法は、撮像により続けて取得した画像に対して認識処理を実行し、認識処理に基づく結果を表示させる認識処理装置1を用いた認識処理方法であって、前記認識処理装置1は、画像の変化の有無を検出する変化検出ステップと、前記変化検出手段が、画像の変化を検出した場合に、取得した画像に対する認識処理により数字、又は演算に関する記号を取得する認識ステップと、前記認識手段にて取得した数字及び記号を示した結果を表示させる表示処理ステップとを実行することを特徴とする。   The recognition processing method according to the present invention is a recognition processing method using the recognition processing device 1 that executes recognition processing on an image acquired continuously by imaging and displays a result based on the recognition processing. The apparatus 1 includes a change detection step for detecting presence / absence of a change in an image, and a recognition step for acquiring a number or a symbol relating to an operation by a recognition process for the acquired image when the change detection unit detects a change in the image. And a display processing step of displaying a result indicating the numbers and symbols acquired by the recognition means.

したがって、本発明では、画像の変化の検出を契機として認識処理を実行することにより、認識処理を実行させるための操作が不要となる。   Therefore, in the present invention, an operation for executing the recognition process becomes unnecessary by executing the recognition process triggered by detection of a change in the image.

本願に記載の演算表示システムは、数字及び演算に関する記号の入力を受け付ける入力部21と、入力された数字及び記号に基づく表示を行う表示部22とを備える計算機2と、認識処理装置1とを備え、認識処理装置1は、表示部22の撮像により取得した画像に基づいて認識処理を実行することを特徴とする。   The calculation display system described in the present application includes a computer 2 including an input unit 21 that receives input of numerals and symbols related to calculations, a display unit 22 that performs display based on the input numbers and symbols, and the recognition processing device 1. The recognition processing apparatus 1 is characterized in that the recognition processing is executed based on an image acquired by imaging of the display unit 22.

したがって、本発明では、計算装置2を操作するだけで、認識処理装置1は、その操作の内容を自動的に認識することができる。   Therefore, in the present invention, the recognition processing device 1 can automatically recognize the contents of the operation only by operating the computing device 2.

本発明に係る認識処理プログラムPRGは、撮像部11及び表示部120を備えるコンピュータに、撮像部11の撮像により続けて取得した画像に対して認識処理を実行し、認識処理に基づく結果を表示部120に表示させる認識処理プログラムPRGであって、コンピュータに、画像の変化の有無を検出する手順と、画像の変化を検出した場合に、取得した画像に対する認識処理により数字、又は演算に関する記号を取得する手順と、取得した数字及び記号を示した結果を表示させる手順とを実行させることを特徴とする。   The recognition processing program PRG according to the present invention executes recognition processing on an image obtained by imaging by the imaging unit 11 in a computer including the imaging unit 11 and the display unit 120, and displays a result based on the recognition processing on the display unit. 120, a recognition processing program PRG to be displayed on the computer, a procedure for detecting the presence or absence of a change in an image on a computer, and, when a change in the image is detected, a number or a symbol relating to an operation is obtained by a recognition process for the acquired image And a procedure for displaying a result indicating the acquired numbers and symbols.

したがって、本発明では、コンピュータにて実行することにより、コンピュータが本発明の認識処理装置1として機能するので、画像の変化の検出を契機として認識処理を実行することにより、認識処理を実行させるための操作が不要となる。   Therefore, in the present invention, since the computer functions as the recognition processing apparatus 1 of the present invention by being executed by the computer, the recognition processing is executed by executing the recognition processing triggered by the detection of the change in the image. Is no longer necessary.

1 認識処理装置
10 制御部
11 撮像部
12 表示入力部
120 表示部
121 入力部
13 操作部
14 通信部
15 記録部
16 記憶部
2 計算機
20 演算部
21 入力部
22 表示部
PRG 認識処理プログラム
DESCRIPTION OF SYMBOLS 1 Recognition processing apparatus 10 Control part 11 Imaging part 12 Display input part 120 Display part 121 Input part 13 Operation part 14 Communication part 15 Recording part 16 Storage part 2 Computer 20 Calculation part 21 Input part 22 Display part PRG Recognition processing program

Claims (5)

撮像により続けて取得した画像に対して認識処理を実行し、認識処理に基づく結果を表示させる認識処理装置であって、
画像の変化の有無を検出する変化検出手段と、
前記変化検出手段が、画像の変化を検出した場合に、取得した画像に対する認識処理により数字、又は演算に関する記号を取得する認識手段と、
前記認識手段にて取得した数字及び記号を示した結果を表示させる表示処理手段と
を備えることを特徴とする認識処理装置。
A recognition processing device that executes recognition processing on an image acquired continuously by imaging and displays a result based on the recognition processing,
Change detection means for detecting the presence or absence of a change in the image;
A recognizing unit that acquires a number or a symbol relating to an operation by a recognizing process for the acquired image when the change detecting unit detects a change in the image;
And a display processing means for displaying a result indicating the numbers and symbols acquired by the recognition means.
請求項1に記載の認識処理装置であって、
前記認識手段は、
複数の数字又は記号を続けて取得した場合で、取得すべき記号を取得することができなかったときに、取得すべき記号の候補を複数選択する選択手段と、
前記選択手段による選択後の取得に基づいて、選択した複数の記号の候補のうちから、取得すべき記号を特定する特定手段と
を含み、
特定した記号を、取得した記号とする
ことを特徴とする認識処理装置。
The recognition processing device according to claim 1,
The recognition means is
A selection means for selecting a plurality of symbol candidates to be acquired when a plurality of numbers or symbols are continuously acquired and the symbol to be acquired cannot be acquired;
A specifying unit for specifying a symbol to be acquired from a plurality of selected symbol candidates based on acquisition after selection by the selection unit; and
A recognition processing device characterized in that the specified symbol is the acquired symbol.
請求項2に記載の認識処理装置であって、
前記特定手段により取得すべき記号を特定することができなかった場合又は前記特定手段が特定した記号が複数である場合に、前記認識手段は、前記選択手段が選択した複数の記号又は前記特定手段が特定した複数の記号を取得した記号とする
ことを特徴とする認識処理装置。
The recognition processing device according to claim 2,
When the symbol to be acquired by the specifying unit cannot be specified, or when there are a plurality of symbols specified by the specifying unit, the recognizing unit selects the plurality of symbols selected by the selecting unit or the specifying unit. A recognition processing apparatus characterized in that a plurality of symbols specified by is used as acquired symbols.
撮像により続けて取得した画像に対して認識処理を実行し、認識処理に基づく結果を表示させる認識処理装置を用いた認識処理方法であって、
前記認識処理装置は、
画像の変化の有無を検出する変化検出ステップと、
前記変化検出手段が、画像の変化を検出した場合に、取得した画像に対する認識処理により数字、又は演算に関する記号を取得する認識ステップと、
前記認識手段にて取得した数字及び記号を示した結果を表示させる表示処理ステップと
を実行することを特徴とする認識処理方法。
A recognition processing method using a recognition processing device that executes recognition processing on an image acquired continuously by imaging and displays a result based on the recognition processing,
The recognition processing device includes:
A change detection step for detecting the presence or absence of a change in the image;
A recognition step of acquiring a number or a symbol relating to an operation by a recognition process for the acquired image when the change detection unit detects a change in the image;
And a display processing step of displaying a result indicating the numbers and symbols acquired by the recognition means.
撮像部及び表示部を備えるコンピュータに、前記撮像部の撮像により続けて取得した画像に対して認識処理を実行し、認識処理に基づく結果を前記表示部に表示させる認識処理プログラムであって、
コンピュータに、
画像の変化の有無を検出する手順と、
画像の変化を検出した場合に、取得した画像に対する認識処理により数字、又は演算に関する記号を取得する手順と、
取得した数字及び記号を示した結果を表示させる手順と
を実行させることを特徴とする認識処理プログラム。
A recognition processing program for executing recognition processing on an image continuously acquired by imaging of the imaging unit on a computer including an imaging unit and a display unit, and causing the display unit to display a result based on the recognition processing,
On the computer,
A procedure to detect the presence or absence of image changes;
When detecting a change in an image, a procedure for acquiring a number or a symbol related to an operation by a recognition process for the acquired image;
A recognition processing program that executes a procedure for displaying a result indicating an acquired number and symbol.
JP2012233646A 2012-10-23 2012-10-23 Recognition processor, recognition processing method and recognition processing program Pending JP2014085790A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012233646A JP2014085790A (en) 2012-10-23 2012-10-23 Recognition processor, recognition processing method and recognition processing program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012233646A JP2014085790A (en) 2012-10-23 2012-10-23 Recognition processor, recognition processing method and recognition processing program

Publications (1)

Publication Number Publication Date
JP2014085790A true JP2014085790A (en) 2014-05-12

Family

ID=50788808

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012233646A Pending JP2014085790A (en) 2012-10-23 2012-10-23 Recognition processor, recognition processing method and recognition processing program

Country Status (1)

Country Link
JP (1) JP2014085790A (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5655172B1 (en) * 2014-10-03 2015-01-14 株式会社日立パワーソリューションズ Protection relay replacement support device and replacement support method thereof

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5655172B1 (en) * 2014-10-03 2015-01-14 株式会社日立パワーソリューションズ Protection relay replacement support device and replacement support method thereof

Similar Documents

Publication Publication Date Title
US9805484B2 (en) Graph display control device, electronic device, graph display method and storage medium recording graph display control processing program
AU2014203137B2 (en) Electronic apparatus and graph display method
JP2005044026A (en) Instruction execution method, instruction execution program and instruction execution device
JP3714660B2 (en) Mobile phone inspection equipment
JP2010250464A (en) Apparatus and method for processing information, and program
JP5397707B2 (en) Touch display device and program
EP2426911A1 (en) Image processing methods and systems for handheld devices
US10684772B2 (en) Document viewing apparatus and program
US20110037731A1 (en) Electronic device and operating method thereof
US20190220254A1 (en) Programming support device, programming support method, and non-transitory recording medium
JP2009037464A (en) Image display device and computer program
US10114518B2 (en) Information processing system, information processing device, and screen display method
CN110136233B (en) Method, terminal and storage medium for generating nail effect map
CN116645672A (en) Method, system, terminal and medium based on image frame selection recognition and automatic input
JP2014085790A (en) Recognition processor, recognition processing method and recognition processing program
JP2014204169A (en) Display control device and control method thereof
JP5834253B2 (en) Image processing apparatus, image processing method, and image processing program
CN112148171B (en) Interface switching method and device and electronic equipment
JP6704608B2 (en) Terminal device, diagnostic system and program
KR101069843B1 (en) Method and apparatus for calculating formula
US11009991B2 (en) Display control apparatus and control method for the display control apparatus
JP2017130084A (en) Electronic device and display program
JP5957026B2 (en) Input region generation method, generation device, and generation program
JP6264423B2 (en) Touch processing apparatus and program
JP2013134565A (en) Individual authentication device