JP2017016370A - Terminal, image determination system, image determination method, and program - Google Patents

Terminal, image determination system, image determination method, and program Download PDF

Info

Publication number
JP2017016370A
JP2017016370A JP2015132064A JP2015132064A JP2017016370A JP 2017016370 A JP2017016370 A JP 2017016370A JP 2015132064 A JP2015132064 A JP 2015132064A JP 2015132064 A JP2015132064 A JP 2015132064A JP 2017016370 A JP2017016370 A JP 2017016370A
Authority
JP
Japan
Prior art keywords
image
display
template
operation guide
composite
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015132064A
Other languages
Japanese (ja)
Other versions
JP6512964B2 (en
Inventor
祥 佐々木
Sho Sasaki
祥 佐々木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
KDDI Corp
Original Assignee
KDDI Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by KDDI Corp filed Critical KDDI Corp
Priority to JP2015132064A priority Critical patent/JP6512964B2/en
Publication of JP2017016370A publication Critical patent/JP2017016370A/en
Application granted granted Critical
Publication of JP6512964B2 publication Critical patent/JP6512964B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • User Interface Of Digital Computer (AREA)

Abstract

PROBLEM TO BE SOLVED: To acquire, for an existing application, specific process timing by comparison of display images without adding to increasingly complicated application code, and also present operation guide information with acquired timing when appropriate timing with which to provide operation guide information is acquired.SOLUTION: According to the present invention, a display image acquisition unit acquires the display image of a displayed existing application, and a synthesized image creation unit synthesizes a template image stored in a template image storage unit and the display image acquired by the display image acquisition unit and creates a synthesized image. An image comparison unit compares the display image acquired by the display image acquisition unit and the synthesized image created by the synthesized image creation unit, and when there is a synthesized image that completely matches the display image as compared by the image comparison unit, a control unit reads an operation guide image that corresponds to the template image that is the source of the synthesized image from an operation guide image storage unit, and displays the read operation guide image by superposition on the display image.SELECTED DRAWING: Figure 4

Description

本発明は、端末、画像判定システム、画像判定方法およびプログラムに関する。   The present invention relates to a terminal, an image determination system, an image determination method, and a program.

例えば、スマートフォン等のタッチパネルディスプレイによるユーザインタラクションごとにアプリケーションの起動や表示・状況切り替えが行われる端末においては、現在の端末の表示状況に応じて、例えば、ホーム画面のショートカット位置を変更したり、ホームアプリケーションを異なるものに切り替えたり等、操作方法が多様に変化する。加えて、近年の端末は、クラウドサービスとの連携を前提としており、IDの新規登録作業やログイン作業、ウェブ上のインタラクティブなUI操作等、刻々とUI仕様が切り替わる操作が増えてきている。   For example, in a terminal where application activation or display / situation switching is performed for each user interaction using a touch panel display such as a smartphone, the shortcut position on the home screen is changed, for example, depending on the current terminal display state, The operation method changes variously, such as switching to a different application. In addition, recent terminals are premised on cooperation with cloud services, and operations for switching UI specifications are increasing every moment, such as new ID registration work, login work, and interactive UI operations on the web.

そのため、従来の非タッチパネルディスプレイにおいて可能であった、例えば、ホーム画面等の端末標準開始位置から、説明書の表記を参照する等して、所定のハードウェアキーを順々に押していく方法による操作ナビゲーションが困難となっている。特に高齢者においては、ある目的に対して、同一の操作方法を記憶している利用者が多いため、上記の課題がスマートフォンの操作の困難性を高めている。そのような課題に対して、操作アプリケーション内で操作説明(いわゆるヘルプ機能)を提示することが求められるが、操作説明を提示すべき場面を予め想定することが難しく、また、ヘルプ機能を追加するためにアプリケーションを改修することは開発者にとって、大きなコスト増となる。   For this reason, operations that are possible with conventional non-touch panel displays, for example, by referring to the description in the manual from the terminal standard start position such as the home screen, etc. Navigation has become difficult. In particular, since elderly people have many users who store the same operation method for a certain purpose, the above problem increases the difficulty of operating a smartphone. For such a problem, it is required to present an operation description (so-called help function) in the operation application, but it is difficult to presume a scene where the operation description should be presented, and a help function is added. Therefore, renovating the application is a significant cost increase for the developer.

こうしたことから、特許文献1〜3では、次の操作方法を示したり、よく実施するアプリケーションを表示したり、操作レベルに適したUIを提供したりする工夫がなされている。また、特許文献4では、操作フローを目視で確認できるようになっている。さらに、特許文献5によると、主要アプリケーションによって生成されたアプリケーションインターフェースにおいて、ユーザの注意力を過度にそらさないようにヘルプ機能を表示する方法として、主要アプリケーションの上に透過する操作ガイド画面を重ねて情報提示する方法が提案されている。   For these reasons, Patent Documents 1 to 3 devise ways to show the next operation method, display frequently executed applications, and provide a UI suitable for the operation level. In Patent Document 4, the operation flow can be visually confirmed. Furthermore, according to Patent Document 5, as a method for displaying a help function so as not to distract the user's attention excessively in an application interface generated by a main application, an operation guide screen that is transparent on the main application is overlaid. A method for presenting information has been proposed.

特許第5302712号公報Japanese Patent No. 5302712 特開2011−170672号公報JP 2011-170672 A 特開2011−066850号公報JP 2011-0666850 A 特許第5081934号公報Japanese Patent No. 5081934 特許第4772380号公報Japanese Patent No. 477380

しかしながら、特許文献1から3に記載の技術では、目的達成までの操作を誘導することが可能となるが、その一方で、利用者の操作習熟度が高まらず、端末の利用満足度を必ずしも高められない。また、予測が誤ってしまったときに、誘導に頼っているユーザはその後操作できない状況に陥ってしまう。加えて、アプリケーション内に操作説明する機能を導入する必要があるという問題は解決できないという問題がある。   However, in the techniques described in Patent Documents 1 to 3, it is possible to guide the operation until the purpose is achieved, but on the other hand, the user's operation proficiency is not increased, and the use satisfaction of the terminal is not necessarily increased. I can't. Moreover, when the prediction is wrong, the user who relies on guidance falls into a situation where it cannot be operated thereafter. In addition, there is a problem that the problem that it is necessary to introduce a function for explaining operations in the application cannot be solved.

また、特許文献4に記載の技術では、操作説明機能をアプリ内に導入する必要があるという問題は解決できないという問題がある。さらに、特許文献5に記載の技術では、ヘルプ表示を行うトリガについては、ユーザの各種操作が必要であるため、特に、初心者やシニアといったユーザがそもそも何をしてよいかがわからない場合、必要に応じたヘルプの起動が困難であるという問題がある。また、ヘルプ表示の機能は、主要アプリケーションによって管理されるため、ヘルプ機能の追加や修正は主要アプリケーションの開発に依る必要があり、外部アプリケーションからの修正が検討されていないという問題がある。   Further, the technique described in Patent Document 4 has a problem that the problem that the operation explanation function needs to be introduced into the application cannot be solved. Furthermore, in the technique described in Patent Document 5, the trigger for displaying the help requires various user operations. Therefore, if the user such as a beginner or senior is not sure what to do in the first place, it is necessary if necessary. There is a problem that starting help is difficult. Further, since the help display function is managed by the main application, it is necessary to add or modify the help function depending on the development of the main application, and there is a problem that correction from an external application is not considered.

そこで、本発明は、上述の課題に鑑みてなされたものであり、既存アプリケーションに対して、複雑化したアプリコードに手を加えずに、表示画像の比較によって特定の処理のタイミングを取得することを目的とする。また、本発明は、既存アプリケーションに対して、複雑化したアプリコードに手を加えずに、操作ガイド情報を提供すべき適切なタイミングを取得すると、取得したタイミングで操作ガイド情報を提示することも目的とする。   Therefore, the present invention has been made in view of the above-described problems, and obtains a specific processing timing by comparing display images without modifying a complicated application code for an existing application. With the goal. In addition, the present invention may present the operation guide information at the acquired timing when the appropriate timing for providing the operation guide information is acquired without modifying the complicated application code for the existing application. Objective.

本発明は、上述の課題を解決するために、以下の事項を提案している。   The present invention proposes the following items in order to solve the above-described problems.

(1)本発明は、表示されている既存アプリケーションの表示画像を取得する表示画像取得手段と、複数の既存アプリケーション画像における固定表示部分と前記固定表示部分以外の透明画素部分とから構成されるテンプレート画像を予め格納するテンプレート画像格納手段と、前記テンプレート画像格納手段に格納されている前記テンプレート画像と前記表示画像取得手段が取得した前記表示画像とを合成して合成画像を作成する合成画像作成手段と、前記表示画像取得手段において取得された前記表示画像と前記合成画像作成手段において作成された前記合成画像とを比較する画像比較手段と、を備え、前記画像比較手段において、前記表示画像と前記合成画像が完全一致するかを判定することを特徴とする端末を提案している。   (1) The present invention is a template comprising display image acquisition means for acquiring a display image of an existing application being displayed, a fixed display portion in a plurality of existing application images, and a transparent pixel portion other than the fixed display portion. Template image storage means for storing images in advance, and composite image creation means for creating a composite image by combining the template image stored in the template image storage means and the display image acquired by the display image acquisition means And an image comparison means for comparing the display image acquired by the display image acquisition means with the composite image created by the composite image creation means, and in the image comparison means, the display image and the A terminal characterized by determining whether or not a composite image completely matches is proposed.

(2)本発明は、(1)の端末について、前記合成画像作成手段が、前記固定表示部分に対応する前記テンプレート画像の画素と前記透明画素部分に対応する前記表示画像の画素とを合成することを特徴とする端末を提案している。   (2) In the present invention, for the terminal of (1), the composite image creation means combines the pixel of the template image corresponding to the fixed display portion and the pixel of the display image corresponding to the transparent pixel portion. We have proposed a terminal characterized by this.

(3)本発明は、(1)または(2)の端末について、前記合成画像は、前記表示画像を下部とし、前記テンプレート画像を上部として合成することを特徴とする端末を提案している。   (3) The present invention proposes a terminal characterized in that, for the terminal of (1) or (2), the synthesized image is synthesized with the display image as a lower part and the template image as an upper part.

(4)本発明は、(1)から(3)のいずれか1つの端末について、前記テンプレート画像に対応する操作ガイド画像を格納する操作ガイド画像格納手段と、前記画像比較手段において、前記表示画像と完全一致する前記合成画像があったときに、前記操作ガイド画像格納手段から前記合成画像元の前記テンプレート画像に対応する操作ガイド画像を読みだして、前記表示画像に前記読みだした前記操作ガイド画像を重ね合わせて表示する表示制御手段と、をさらに備えたことを特徴とする端末を提案している。   (4) The present invention provides an operation guide image storage unit that stores an operation guide image corresponding to the template image and the display image in any one of the terminals of (1) to (3). The operation guide image corresponding to the template image that is the original of the composite image is read from the operation guide image storage means and the read operation guide is read into the display image There has been proposed a terminal characterized by further comprising display control means for displaying images superimposed.

(5)本発明は、(1)から(4)のいずれか1つの端末について、前記表示画像取得手段は、特定の既存アプリケーションが起動すると、表示されている前記表示画像を定期的に取得し、特定の既存アプリケーションが起動を終了すると、表示されている前記表示画像の取得を停止することを特徴とする端末を提案している。   (5) In the present invention, for any one of the terminals (1) to (4), the display image acquisition unit periodically acquires the displayed display image when a specific existing application is activated. A terminal is proposed in which acquisition of the displayed display image is stopped when a specific existing application finishes starting.

(6)本発明は、端末と表示装置とからなり、特定の既存アプリケーションに対する操作ガイドを提示する画像判定システムであって、前記端末が、表示されている既存アプリケーションの表示画像を取得する表示画像取得手段と、複数の既存アプリケーション画像における固定表示部分と前記固定表示部分以外の透明画素部分とから構成されるテンプレート画像を予め格納するテンプレート画像格納手段と、前記テンプレート画像に対応する操作ガイド画像を格納する操作ガイド画像格納手段と、前記テンプレート画像格納手段に格納されている前記テンプレート画像と前記表示画像取得手段が取得した前記表示画像とを合成して合成画像を作成する合成画像作成手段と、前記表示画像取得手段において取得された前記表示画像と前記合成画像作成手段において作成された前記合成画像とを比較する画像比較手段と、前記画像比較手段において、前記表示画像と完全一致する前記合成画像があったときに、前記操作ガイド画像格納手段から前記合成画像元の前記テンプレート画像に対応する操作ガイド画像を読みだして、前記表示画像に前記読みだした前記操作ガイド画像を重ね合わせた画像を生成する画像生成手段と、該生成した重ね合わせ画像を前記表示装置に送信する送信手段と、を備え、前記表示装置が、前記端末の送信手段から、前記重ね合わせ画像を受信する受信手段と、該受信した重ね合わせ画像を表示する表示手段と、を備えたことを特徴とする画像判定システムを提案している。   (6) The present invention is an image determination system that includes a terminal and a display device and presents an operation guide for a specific existing application, in which the terminal acquires a display image of the existing application being displayed. An acquisition unit; a template image storage unit that stores in advance a template image composed of a fixed display portion in a plurality of existing application images and a transparent pixel portion other than the fixed display portion; and an operation guide image corresponding to the template image. An operation guide image storage means for storing; a composite image creation means for creating a composite image by combining the template image stored in the template image storage means and the display image acquired by the display image acquisition means; The display image acquired by the display image acquisition means and the composition An image comparison unit that compares the composite image created by the image creation unit, and the composite image that completely matches the display image in the image comparison unit when there is the composite image from the operation guide image storage unit An image generation means for reading an operation guide image corresponding to the template image of the original image, and generating an image obtained by superimposing the read operation guide image on the display image; and Transmitting means for transmitting to a display device, wherein the display device comprises receiving means for receiving the superimposed image from the transmitting means of the terminal, and display means for displaying the received superimposed image. We have proposed an image determination system characterized by this.

(7)本発明は、端末と表示装置とからなり、特定の既存アプリケーションに対する操作ガイドを提示する画像判定システムであって、前記端末が、表示されている既存アプリケーションの表示画像を取得する表示画像取得手段と、複数の既存アプリケーション画像における固定表示部分と前記固定表示部分以外の透明画素部分とから構成されるテンプレート画像を予め格納するテンプレート画像格納手段と、前記テンプレート画像に対応する操作ガイド画像を格納する操作ガイド画像格納手段と、前記テンプレート画像格納手段に格納されている前記テンプレート画像と前記表示画像取得手段が取得した前記表示画像とを合成して合成画像を作成する合成画像作成手段と、前記表示画像取得手段において取得された前記表示画像と前記合成画像作成手段において作成された前記合成画像とを比較する画像比較手段と、前記画像比較手段において、前記表示画像と完全一致する前記合成画像があったときに、前記操作ガイド画像格納手段から前記合成画像元の前記テンプレート画像に対応する操作ガイド画像を読みだして、前記表示装置に送信する送信手段と、を備え、前記表示装置が、前記端末の送信手段から、前記合成画像元の前記テンプレート画像に対応する操作ガイド画像を受信する受信手段と、該受信した前記合成画像元の前記テンプレート画像に対応する操作ガイド画像を表示する表示手段と、を備えたことを特徴とする画像判定システムを提案している。   (7) The present invention is an image determination system that includes a terminal and a display device and presents an operation guide for a specific existing application, in which the terminal acquires a display image of the existing application being displayed. An acquisition unit; a template image storage unit that stores in advance a template image composed of a fixed display portion in a plurality of existing application images and a transparent pixel portion other than the fixed display portion; and an operation guide image corresponding to the template image. An operation guide image storage means for storing; a composite image creation means for creating a composite image by combining the template image stored in the template image storage means and the display image acquired by the display image acquisition means; The display image acquired by the display image acquisition means and the composition An image comparison unit that compares the composite image created by the image creation unit, and the composite image that completely matches the display image in the image comparison unit when there is the composite image from the operation guide image storage unit A transmission unit that reads an operation guide image corresponding to the template image of the image source and transmits the operation guide image to the display device, and the display device receives the template image of the composite image source from the transmission unit of the terminal. Providing an image determination system comprising: a receiving unit that receives an operation guide image corresponding to the image; and a display unit that displays an operation guide image corresponding to the received template image of the synthesized image doing.

(8)本発明は、表示画像取得手段と、複数の既存アプリケーション画像における固定表示部分と前記固定表示部分以外の透明画素部分とから構成されるテンプレート画像を予め格納するテンプレート画像格納手段と、合成画像作成手段と、画像比較手段とを備えた端末における画像判定方法であって、前記表示画像取得手段が、表示されている既存アプリケーションの表示画像を取得する第1のステップと、前記合成画像作成手段が、前記テンプレート画像格納手段に格納されている前記テンプレート画像と前記表示画像取得手段が取得した前記表示画像とを合成して合成画像を作成する第2のステップと、前記画像比較手段が、前記表示画像取得手段において取得された前記表示画像と前記合成画像作成手段において作成された前記合成画像とを比較して、前記表示画像と前記合成画像とが完全一致するかを判定する第3のステップと、を備えることを特徴とする画像判定方法を提案している。   (8) The present invention provides a display image acquisition means, a template image storage means for preliminarily storing a template image composed of a fixed display portion and a transparent pixel portion other than the fixed display portion in a plurality of existing application images, and a composition An image determination method in a terminal comprising an image creation means and an image comparison means, wherein the display image obtaining means obtains a display image of an existing application being displayed, and the composite image creation A second step of creating a composite image by combining the template image stored in the template image storage means and the display image acquired by the display image acquisition means; and the image comparison means, The display image acquired by the display image acquisition means and the composite created by the composite image creation means By comparing the image, it has proposed an image determination method characterized by and a third step of determining whether said displayed image and the composite image is an exact match.

(9)本発明は、表示画像取得手段と、複数の既存アプリケーション画像における固定表示部分と前記固定表示部分以外の透明画素部分とから構成されるテンプレート画像を予め格納するテンプレート画像格納手段と、合成画像作成手段と、画像比較手段とを備えた端末における画像判定方法をコンピュータに実行させるためのプログラムであって、前記表示画像取得手段が、表示されている既存アプリケーションの表示画像を取得する第1のステップと、前記合成画像作成手段が、前記テンプレート画像格納手段に格納されている前記テンプレート画像と前記表示画像取得手段が取得した前記表示画像とを合成して合成画像を作成する第2のステップと、前記画像比較手段が、前記表示画像取得手段において取得された前記表示画像と前記合成画像作成手段において作成された前記合成画像とを比較して、前記表示画像と前記合成画像とが完全一致するかを判定する第3のステップと、をコンピュータに実行させるためのプログラムを提案している。   (9) The present invention provides a display image acquisition means, a template image storage means for preliminarily storing a template image composed of a fixed display portion and a transparent pixel portion other than the fixed display portion in a plurality of existing application images, and a composition A program for causing a computer to execute an image determination method in a terminal including an image creation unit and an image comparison unit, wherein the display image acquisition unit acquires a display image of an existing application being displayed. And a second step in which the composite image creation means creates a composite image by combining the template image stored in the template image storage means and the display image acquired by the display image acquisition means. And the image comparison means includes the display image acquired by the display image acquisition means and the display image acquisition means. Proposing a program for causing a computer to execute a third step of comparing the composite image created by the composite image creation means and determining whether the display image and the composite image completely match each other. ing.

本発明によれば、画面の内容に即した特定の処理のタイミングを取得する判定を、表示中の画像の完全一致比較で行うため、作成済みの既存アプリケーションを改修することなく、かつ、端末や起動中の既存アプリケーションに対する負担を与えることがないという効果がある。また、既存アプリケーションに対して、複雑化したアプリコードに手を加えずに、操作ガイド情報を提供すべき適切なタイミングを取得すると、取得したタイミングで操作ガイド情報を提示できる効果がある。   According to the present invention, the determination to acquire the timing of the specific processing in accordance with the contents of the screen is performed by the complete match comparison of the image being displayed. Therefore, without modifying the existing application that has already been created, There is an effect that it does not impose a burden on the existing application being started. In addition, when an appropriate timing for providing the operation guide information is acquired without modifying the complicated application code for the existing application, there is an effect that the operation guide information can be presented at the acquired timing.

本発明の第1の実施形態に係る装置構成図である。It is an apparatus block diagram concerning the 1st Embodiment of this invention. 本発明の第1の実施形態に係る各種画像を示す図である。It is a figure which shows the various images which concern on the 1st Embodiment of this invention. 本発明の第1の実施形態に係る表示画像とテンプレート画像の一致判定処理に関するフロー図である。It is a flowchart regarding the matching determination process of the display image and template image which concern on the 1st Embodiment of this invention. 本発明の第1の実施形態に係る処理フロー図である。It is a processing flow figure concerning a 1st embodiment of the present invention. 本発明の第2の実施形態に係るシステム構成図である。It is a system configuration figure concerning a 2nd embodiment of the present invention.

以下、図面を用いて、本発明の実施形態について詳細に説明する。なお、以下の実施形態における構成要素は適宜、既存の構成要素等との置き換えが可能であり、また、他の既存の構成要素との組み合わせを含む様々なバリエーションが可能である。したがって、以下の実施形態の記載をもって、特許請求の範囲に記載された発明の内容を限定するものではない。   Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings. Note that the constituent elements in the following embodiments can be appropriately replaced with existing constituent elements or the like, and various variations including combinations with other existing constituent elements are possible. Accordingly, the description of the following embodiments does not limit the contents of the invention described in the claims.

<第1の実施形態>
以下、図1から図3を用いて、本発明の第1の実施形態について説明する。
<First Embodiment>
Hereinafter, a first embodiment of the present invention will be described with reference to FIGS. 1 to 3.

<端末の構成>
本実施形態に係る端末100は、図1に示すように、表示画像取得部110と、表示用メモリ120と、テンプレート画像格納部130と、操作ガイド画像格納部140と、合成画像作成部150と、画像比較部160と、表示部170と、制御部180とから構成されている。
<Terminal configuration>
As shown in FIG. 1, the terminal 100 according to the present embodiment includes a display image acquisition unit 110, a display memory 120, a template image storage unit 130, an operation guide image storage unit 140, and a composite image creation unit 150. , An image comparison unit 160, a display unit 170, and a control unit 180.

表示画像取得部110は、画面表示されている既存アプリケーションの表示画像データ(例えば、図2(A)のスクリーンキャプチャーS)を取得する。ここで、表示画像とは、オーバレイ画像を除く表示中の画像をいうが、現在の表示中のオーバレイ画像を含めた処理を除外するものではない。具体的には、表示画像取得部110は、制御部180に対して、表示画像取得要求信号を出力し、制御部180から表示画像データを受け取る。このとき、制御部180は、表示画像取得部110からの表示画像取得要求信号に対して、表示用メモリ120から直近のタイムスタンプを有する表示画像データあるいは、時系列管理がなされている場合には、直近の表示画像データを取得し、表示画像取得部110に出力する。より具体的には、制御部180は、端末のスクリーンキャプチャー機能を利用して、表示画像データを取得するよう制御を行う。なお、別の事例として、制御部180は、通信路から直接、表示画像データを取得するようにしてもよい。また、表示画像取得部110は、予め定められたタイミングで制御部180に対して、表示画像取得要求信号を出力する。   The display image acquisition unit 110 acquires display image data (for example, screen capture S in FIG. 2A) of an existing application displayed on the screen. Here, the display image means a displayed image excluding the overlay image, but does not exclude processing including the currently displayed overlay image. Specifically, the display image acquisition unit 110 outputs a display image acquisition request signal to the control unit 180 and receives display image data from the control unit 180. At this time, the control unit 180 responds to the display image acquisition request signal from the display image acquisition unit 110 when the display image data having the latest time stamp from the display memory 120 or when time series management is performed. The latest display image data is acquired and output to the display image acquisition unit 110. More specifically, the control unit 180 performs control to acquire display image data using a screen capture function of the terminal. As another example, the control unit 180 may acquire display image data directly from the communication path. The display image acquisition unit 110 outputs a display image acquisition request signal to the control unit 180 at a predetermined timing.

表示用メモリ120は、表示画像データを一時的に格納する。なお、当該表示画像データには、タイムスタンプが付されている。あるいは、表示用メモリ120が格納領域等により、データを時系列管理している。テンプレート画像格納部130は、複数の既存アプリケーション画像に対応するテンプレート画像データ(例えば、図2(B)のテンプレート画像T)を格納している。   The display memory 120 temporarily stores display image data. The display image data is given a time stamp. Alternatively, the display memory 120 manages the data in time series using a storage area or the like. The template image storage unit 130 stores template image data (for example, the template image T in FIG. 2B) corresponding to a plurality of existing application images.

ここで、テンプレート画像は、既存アプリケーション画像における固定表示部分と、固定表示部分以外の透明画素部分と、から構成されるものである。操作ガイド画像格納部140は、テンプレート画像に対応する操作ガイド画像(例えば、図2(C)のオーバレイ画像O)を格納する。ここで、操作ガイド画像とは、アプリケーションを利用するための補助的な情報を表示する画像であり、例えば、情報入力に関する表示やアイコンの機能説明表示等がなされた画像である。また、操作ガイド画像は、テンプレート画像と同様に透明画素部分を有する。   Here, the template image is composed of a fixed display portion in the existing application image and a transparent pixel portion other than the fixed display portion. The operation guide image storage unit 140 stores an operation guide image corresponding to the template image (for example, the overlay image O in FIG. 2C). Here, the operation guide image is an image that displays auxiliary information for using the application. For example, the operation guide image is an image on which information input display, icon function explanation display, or the like is made. Further, the operation guide image has a transparent pixel portion as in the template image.

ここで、透明画素とは、上部から下部に画像を重ね合わせたときに、下部画像(本実施形態では表示画像)の画素が透けて見えるように設定されている上部画像の画素をさしており、具体的には、PNG(ポータブル・ネットワーク・グラフィクス)形式や透過GIF(グラフィクス・インターチェンジ・フォーマット)形式での不透明度(アルファ値)が0%(PNG形式であればアルファ値が0)をさす。あるいは、予め指定されたある単色(青背景等)や色範囲(色相、彩度が一定数値範囲内である等)を透明画素とみなす方法(クロマキー処理)も考えられる。   Here, the transparent pixel means a pixel of the upper image set so that the pixel of the lower image (display image in this embodiment) can be seen through when the image is superimposed from the upper part to the lower part. Specifically, the opacity (alpha value) in the PNG (Portable Network Graphics) format and the transparent GIF (Graphics Interchange Format) format is 0% (the alpha value is 0 in the PNG format). Alternatively, a method (chroma key processing) in which a predetermined single color (blue background or the like) or color range (hue, saturation is within a certain numerical range, etc.) is considered as a transparent pixel is also conceivable.

合成画像作成部150は、テンプレート画像格納部130に格納されているテンプレート画像と表示画像取得部110が取得した画像とを合成して合成画像を作成する。なお、合成画像において、テンプレート画像Tの透明画素部分は、スクリーンキャプチャーSに上書きされず、スクリーンキャプチャーSのそのままの画素が残る。   The composite image creation unit 150 creates a composite image by combining the template image stored in the template image storage unit 130 and the image acquired by the display image acquisition unit 110. In the composite image, the transparent pixel portion of the template image T is not overwritten on the screen capture S, and the pixels of the screen capture S remain as they are.

画像比較部160は、表示画像取得部110において取得された表示画像と合成画像作成部150において作成された合成画像とを比較する。この比較処理フローについて、以下、図3を用いて説明する。   The image comparison unit 160 compares the display image acquired by the display image acquisition unit 110 with the composite image created by the composite image creation unit 150. This comparison processing flow will be described below with reference to FIG.

まず、一致中フラグを「False」とし、Num(テンプレート画像格納部130に複数格納されているそれぞれに付されているテンプレート画像のナンバー)を「0」とする初期化を行なう(ステップS1)。初期化処理後に、表示画像の取得を行なう(ステップS2)。   First, initialization is performed in which the matching flag is set to “False”, and Num (the number of template images assigned to each of the plurality stored in the template image storage unit 130) is set to “0” (step S1). After the initialization process, a display image is acquired (step S2).

次に、取得した表示画像に一致中フラグがあるか否かを判断し(ステップS3)、一致中フラグが「True」である場合には、表示画像とステップS8において一致したと判断した時の、番号Numのテンプレート画像とが一致するか否かを判断する(ステップS4)。ステップS4は、直近で一致したテンプレート画像から、表示画像が変更されているかどうかのみを判定するため、表示画像と複数枚のテンプレート画像との比較をせずにすみ、処理効率を高めている。なお、一致判定の具体例については、後述する。一致判定の結果、一致と判定された場合には、オーバレイ画像を表示させ続ける。   Next, it is determined whether or not there is a matching flag in the acquired display image (step S3). When the matching flag is “True”, it is determined that the display image matches with the display image in step S8. Then, it is determined whether or not the template image with the number Num matches (step S4). In step S4, since it is determined only whether the display image has been changed from the most recently matched template image, it is not necessary to compare the display image with a plurality of template images, and the processing efficiency is improved. A specific example of matching determination will be described later. As a result of the coincidence determination, when it is determined as coincidence, the overlay image is continuously displayed.

一方で、ステップS4において、一致判定の結果、不一致と判定された場合には、現在表示中のオーバレイ画像を削除し、一致中フラグを「False」とし(ステップS5)、ステップS11に進む。   On the other hand, if it is determined in step S4 that the images do not match, the overlay image currently displayed is deleted, the matching flag is set to “False” (step S5), and the process proceeds to step S11.

また、ステップS3において、一致フラグが「False」である場合には、ステップS6に移る。ステップS6〜S10では、表示画像が格納されたテンプレート画像のいずれかに一致するかを比較するステップである。ステップS6では、現在の番号を示す数Numとテンプレート画像の格納枚数とを比較し(ステップS6)、Numの値がテンプレート画像の格納枚数よりも小さいときは、現在の番号Numに対応するテンプレート画像の取得を行ない(ステップS7)、表示画像とテンプレート画像とが一致するか否かを判断する(ステップS8)。一致判定の結果、一致していると判定された場合には、オーバレイ画像を表示するとともに、一致中フラグを「True」とし、ステップS2に移る(ステップS9)。   If the match flag is “False” in step S3, the process proceeds to step S6. Steps S6 to S10 are steps for comparing whether the display image matches any of the stored template images. In step S6, the number Num indicating the current number is compared with the number of stored template images (step S6). If the value of Num is smaller than the number of stored template images, the template image corresponding to the current number Num. Is acquired (step S7), and it is determined whether or not the display image matches the template image (step S8). If it is determined as a result of the match determination, an overlay image is displayed, the matching flag is set to “True”, and the process proceeds to step S2 (step S9).

一方で、ステップS8において、一致判定の結果、一致していないと判定された場合には、Numの数を+1加算し(ステップS10)、ステップS6に戻る。また、ステップS6において、Numの値がテンプレート画像の格納枚数よりも大きいときは、ステップS11に進む。ステップS11では、Numを「0」にクリアし、ステップS2に戻る。   On the other hand, if it is determined in step S8 that the result of coincidence is not coincident, the number of Num is incremented by 1 (step S10), and the process returns to step S6. In step S6, when the value of Num is larger than the number of stored template images, the process proceeds to step S11. In step S11, Num is cleared to “0”, and the process returns to step S2.

一致判定の具体例について以下に示す。   A specific example of coincidence determination is shown below.

まず、スクリーンキャプチャー(S)の各画素をS[x、y]、テンプレート画像(T)の各画素をT[x、y]、合成画像(C)の各画素をC[x、y]とする。ただし、x、yは、画素の座標位置を示す整数である。   First, each pixel of the screen capture (S) is S [x, y], each pixel of the template image (T) is T [x, y], and each pixel of the composite image (C) is C [x, y]. To do. However, x and y are integers indicating the coordinate position of the pixel.

このとき、合成画像(C)の各画素は下記のようになる。
C[x、y]=S[x、y](if T[x、y]=透明画素値)
=T[x、y](if T[x、y]≠透明画素値)
つまり、このとき、C[x、y]=S[x、y]がすべての画素値で成り立つときは、T[x、y]≠透明画素値となるすべての[x、y]において、T[x、y]=S[x、y]を満たすこととなり、スクリーンキャプチャー(S)がテンプレート画像(T)と同一の画面になったことを意味する。
At this time, each pixel of the composite image (C) is as follows.
C [x, y] = S [x, y] (if T [x, y] = transparent pixel value)
= T [x, y] (if T [x, y] ≠ transparent pixel value)
That is, at this time, when C [x, y] = S [x, y] is satisfied by all pixel values, T [x, y] is not equal to the transparent pixel value. [x, y] = S [x, y] is satisfied, which means that the screen capture (S) has the same screen as the template image (T).

実際のソフトウェア実装では、以下の2つの処理で実現することができる。   The actual software implementation can be realized by the following two processes.

「合成画像の生成」
スクリーンキャプチャーSの画像データに、テンプレート画像Tの画像データを重ねる。具体的には、各OSにおいて用意されている重ね合わせの画像処理コマンドを利用する方法、例えば、android(登録商標)では、スクリーンキャプチャーSの画像データをBitmapデータとして描写したキャンバスに、同じくBitmapデータとして用意したテンプレート画像Tを加える方法等がある。
"Generate composite image"
The image data of the template image T is superimposed on the image data of the screen capture S. Specifically, in a method of using a superimposing image processing command prepared in each OS, for example, android (registered trademark), the bitmap data is similarly displayed on the canvas depicting the image data of the screen capture S as the bitmap data. There is a method of adding a template image T prepared as follows.

「画像一致比較」
生成した合成画像の画像データとスクリーンキャプチャーSの画像データとが一致しているかどうかを確認する。具体的には、各OSにおいて用意されている画像一致比較コマンドを利用する方法、例えば、android(登録商標)では、双方のBitmapデータが同じかどうかを確認するsameAsというコマンドを利用する方法等がある。
“Image Match Comparison”
It is confirmed whether the image data of the generated composite image matches the image data of the screen capture S. Specifically, there is a method of using an image matching comparison command prepared in each OS, for example, a method of using a command “sameAs” for checking whether or not both bitmap data are the same in Android (registered trademark). is there.

上記の処理内容をプログラムで示すと以下のようになる。
Bitmap S=screenshot();# (スクリーンキャプチャーの取得)
Bitmap C=S.copy(Bitmap.Config.ARGB_8888, true);# (Sを複製したCを用意)
Canvas canvas=new Canvas(C);# (C(=S)が描写されたキャンバスを用意する)
canvas.drawBitmap(T、0、0、null);# (C(=S)にTを書き加える)
If(C.sameAs(S)){
#一致処理
}else{
#不一致処理

ただし、Tは予め用意された、テンプレート画像を意味するビットマップである。
The above processing contents are shown in a program as follows.
Bitmap S = screenshot (); # (get screen capture)
Bitmap C = S.copy (Bitmap.Config.ARGB — 8888, true); # (Prepare C that replicates S)
Canvas canvas = new Canvas (C); # (Prepare a canvas on which C (= S) is drawn)
canvas.drawBitmap (T, 0, 0, null); # (add T to C (= S))
If (C.sameAs (S)) {
# Match processing} else {
#Disagreement processing}
However, T is a bitmap prepared in advance that means a template image.

上記の方法以外にも、画素データの座標の位置と、画像をデータ列として見たときのビット列の位置との間に関係性がある場合には、画像としてではなく、データ列として処理する方法も、さらなる処理の軽減方法として望ましい。この方法の具体例を以下に示す。   In addition to the above method, if there is a relationship between the position of the coordinates of the pixel data and the position of the bit string when the image is viewed as a data string, a method of processing as a data string instead of as an image Is also desirable as a way to reduce further processing. A specific example of this method is shown below.

「合成画像の生成」
スクリーンキャプチャーSを示すビット列に、テンプレート画像Tを示すビット列をビット演算により、加算する。
"Generate composite image"
A bit string indicating the template image T is added to the bit string indicating the screen capture S by a bit operation.

「画像一致比較」
合成画像を示すビット列CとスクリーンキャプチャーSを示すビット列Sとが完全に一致するか否かを判定する。
“Image Match Comparison”
It is determined whether or not the bit string C indicating the composite image and the bit string S indicating the screen capture S completely match.

上記の処理内容をプログラムで示すと以下のようになる。
Byte[] S=screenshot().toByteArray();# (スクリーンキャプチャーの取得、ビット列化)
Byte[] C;# (Cを用意)
C = S|T; (ビットOR演算を行う)
If(C==S){
#一致処理
}else{
#不一致処理

ただし、Tは予め用意された、テンプレート画像を示すビット列である。
The above processing contents are shown in a program as follows.
Byte [] S = screenshot (). ToByteArray (); # (Acquisition of screen capture, conversion to bit string)
Byte [] C; # (C prepared)
C = S | T; (bit OR operation)
If (C == S) {
# Match processing} else {
#Disagreement processing}
Here, T is a bit string indicating a template image prepared in advance.

表示部170は、例えば、液晶ディスプレイ等で構成され、アプリケーションの表示画像等を表示する。制御部180は、予め格納されているプログラムにより端末全体の動作、処理を制御する。本実施形態においては、例えば、画像比較部160において、表示画像と完全一致する合成画像があったときに、操作ガイド画像格納部140から合成画像元のテンプレート画像に対応する操作ガイド画像を読みだして、表示画面に読みだした操作ガイド画像を重ね合わせて表示する制御を行う(例えば、図2(D)の表示)。また、表示画像取得部110が、特定の既存アプリケーションが起動すると、表示されている表示画像を定期的に取得し、特定の既存アプリケーションの起動が終了すると、表示されている表示画像の取得を停止するように制御する。   The display unit 170 is composed of, for example, a liquid crystal display and displays a display image of the application. The control unit 180 controls the operation and processing of the entire terminal by a program stored in advance. In the present embodiment, for example, when there is a composite image that completely matches the display image in the image comparison unit 160, the operation guide image corresponding to the template image of the composite image is read from the operation guide image storage unit 140. Then, control is performed to display the operation guide image read on the display screen in a superimposed manner (for example, the display in FIG. 2D). The display image acquisition unit 110 periodically acquires a displayed display image when a specific existing application is started, and stops acquiring the displayed display image when the specific existing application is started. Control to do.

<端末の処理>
図3を用いて、本実施形態に係る端末の処理について説明する。
まず、表示画像取得部が、表示されている既存アプリケーションの表示画像を取得する(ステップS110)。なお、同表示画像の取得においては、後述の操作ガイド画像を重ね合わせる前の、もとの表示画像を取得するように行うことが望ましい。合成画像作成部150は、テンプレート画像格納部130に格納されているテンプレート画像と表示画像取得部110が取得した画像とを合成して合成画像を作成する(ステップS120)。
<Terminal processing>
Processing of the terminal according to the present embodiment will be described using FIG.
First, the display image acquisition unit acquires a display image of the existing application being displayed (step S110). The display image is preferably acquired so as to acquire the original display image before the operation guide images described later are superimposed. The composite image creation unit 150 creates a composite image by combining the template image stored in the template image storage unit 130 and the image acquired by the display image acquisition unit 110 (step S120).

画像比較部160は、表示画像取得部110において取得された表示画像と合成画像作成部150において作成された合成画像とを比較する(ステップS130)。そして、制御部180は、画像比較部160において、表示画像と完全一致する合成画像があったときに、操作ガイド画像格納部140から合成画像元のテンプレート画像に対応する操作ガイド画像を読みだして、表示画面に読みだした操作ガイド画像を重ね合わせて表示する(ステップS140)。   The image comparison unit 160 compares the display image acquired by the display image acquisition unit 110 with the composite image created by the composite image creation unit 150 (step S130). Then, when there is a composite image that completely matches the display image in the image comparison unit 160, the control unit 180 reads the operation guide image corresponding to the template image of the composite image source from the operation guide image storage unit 140. Then, the operation guide image read out is superimposed and displayed on the display screen (step S140).

なお、上記の操作ガイド表示処理は、例えば、現在の表示画面にオーバレイすることにより、操作ガイドとなる文字や図形、キャラクターを表示する機能(オーバレイ表示(重ね合わせ画像表示)切替機能)として実装することも望ましい。このオーバレイ表示切替機能では、画面比較機能においての一致判定に応じて、対応するオーバレイ表示を行う。また、一致していない場合にオーバレイ表示を削除するようにすることも好ましい。   The above-described operation guide display process is implemented as a function (overlay display (superimposed image display) switching function) for displaying characters, figures, and characters serving as operation guides by overlaying the current display screen, for example. It is also desirable. In this overlay display switching function, a corresponding overlay display is performed according to the coincidence determination in the screen comparison function. It is also preferable to delete the overlay display when they do not match.

以上、説明したように、本実施形態によれば、既存のアプリケーションに対して、複雑化したアプリコードに手を加えずに、表示画面の比較によって情報提示のタイミングを得ることができる。また、表示画面の比較が、軽量で簡単な「画像の上書き」および「完全一致比較」で実現可能であるため実用的である。   As described above, according to the present embodiment, the timing of information presentation can be obtained by comparing display screens without modifying a complicated application code for an existing application. Further, the comparison of the display screens is practical because it can be realized by light and simple “image overwriting” and “perfect match comparison”.

<第2の実施形態>
以下、図4を用いて、本発明の第2の実施形態について説明する。
<Second Embodiment>
Hereinafter, a second embodiment of the present invention will be described with reference to FIG.

本実施形態に係る画像判定システムは、図4に示すように、端末100と表示装置200とからなり、端末100は、表示画像取得部110と、表示用メモリ120と、テンプレート画像格納部130と、操作ガイド画像格納部140と、合成画像作成部150と、画像比較部160と、制御部181と、画像生成部191と、送信部192とから構成され、表示装置200は、受信部210と、表示部220と、制御部230とから構成されている。なお、第1の実施形態と同一の符号を付す構成要素については、同様の機能を有することから、その詳細な説明は省略する。   As shown in FIG. 4, the image determination system according to the present embodiment includes a terminal 100 and a display device 200. The terminal 100 includes a display image acquisition unit 110, a display memory 120, a template image storage unit 130, and the like. The operation guide image storage unit 140, the composite image creation unit 150, the image comparison unit 160, the control unit 181, the image generation unit 191, and the transmission unit 192, and the display device 200 includes the reception unit 210. The display unit 220 and the control unit 230 are included. In addition, about the component which attaches | subjects the same code | symbol as 1st Embodiment, since it has the same function, the detailed description is abbreviate | omitted.

画像生成部191は、画像比較部160において、表示画像と完全一致する合成画像があったときに、操作ガイド画像格納部140から合成画像元のテンプレート画像に対応する操作ガイド画像を読みだして、表示画面に読みだした操作ガイド画像を重ね合わせた画像を生成する。   The image generation unit 191 reads an operation guide image corresponding to the template image of the composite image source from the operation guide image storage unit 140 when the image comparison unit 160 has a composite image that completely matches the display image. An image in which the operation guide image read out on the display screen is superimposed is generated.

送信部192は、生成した重ね合わせ画像を表示装置200に送信する。制御部181は、例えば、画像比較部160において、表示画像と完全一致する合成画像があったときに、操作ガイド画像格納部140から合成画像元のテンプレート画像に対応する操作ガイド画像を読みだして、表示画面に読みだした操作ガイド画像を重ね合わせた画像を生成し、生成した重ね合わせ画像を表示装置200に送信するよう制御を行う。   The transmission unit 192 transmits the generated superimposed image to the display device 200. For example, when there is a composite image that completely matches the display image in the image comparison unit 160, the control unit 181 reads an operation guide image corresponding to the template image that is the composite image source from the operation guide image storage unit 140. Then, control is performed so as to generate an image in which the operation guide images read on the display screen are superimposed, and to transmit the generated superimposed image to the display device 200.

表示装置200の受信部210は、端末の送信部192から、重ね合わせ画像を受信する。表示部220は、受信した重ね合わせ画像を表示する。制御部230は、例えば、重ね合わせ画像を受信し、受信した重ね合わせ画像を表示するよう制御を行う。また、受信部210は、端末100の送信部192から、合成画像元のテンプレート画像に対応する操作ガイド画像を受信する。表示部220は、受信した操作ガイド画像を表示する。制御部230は、例えば、操作ガイド画像を受信し、受信した操作ガイド画像の表示制御を行う。   The reception unit 210 of the display device 200 receives the superimposed image from the transmission unit 192 of the terminal. The display unit 220 displays the received superimposed image. For example, the control unit 230 receives a superimposed image and performs control to display the received superimposed image. In addition, the receiving unit 210 receives an operation guide image corresponding to the template image of the synthesized image source from the transmitting unit 192 of the terminal 100. The display unit 220 displays the received operation guide image. For example, the control unit 230 receives an operation guide image and performs display control of the received operation guide image.

なお、表示画像の取得(スクリーンキャプチャー)は、端末において現在稼働中のプロセスを確認し、所定のプロセス(パッケージネーム)が存在するときに機能するようにしてもよい。また、表示画像の取得(スクリーンキャプチャー)は、対象アプリケーションの起動元(例えば、ホームアプリケーションや専用アプリケーション)によって機能するかどうかを判定するようにしてもよい。例えば、通常起動であれば重ねあわせ(オーバレイ)を行わず、説明書要らずのアプリケーションのような特定モードからの起動であれば重ねあわせ(オーバレイ)を行うようにしてもよい。   Note that display image acquisition (screen capture) may function when a process currently in operation on the terminal is confirmed and a predetermined process (package name) exists. Further, it may be determined whether the display image acquisition (screen capture) functions depending on the start source (for example, a home application or a dedicated application) of the target application. For example, overlaying (overlay) may not be performed for normal activation, and overlaying (overlay) may be performed for activation from a specific mode such as an application that does not require a manual.

また、表示画像の取得(スクリーンキャプチャー)は、ヘルプボタンのようなものとし、端末の特定のハードウェアボタン、あるいは、端末画面内のソフトウェアボタンを押下することで機能するようにしてもよい。また、表示中内容において比較対象がない場合に、同表示画像の取得からはじまる一連の機能を実行しない、ヘルプボタンを表示しない、あるいは、ヘルプボタンを無効表示状態(例えば、ボタンをグレースケール化)するようにしてもよい。   The display image acquisition (screen capture) may be a help button, and may function by pressing a specific hardware button on the terminal or a software button in the terminal screen. In addition, when there is no comparison target in the displayed content, a series of functions starting from acquisition of the display image is not executed, the help button is not displayed, or the help button is disabled (for example, the button is gray scaled) You may make it do.

また、重ね合わせ画像の代わりに、テンプレート画像に対応する説明音声を用意し、操作ガイド表示は、音声による操作方法の説明を再生するようにしてもよい。また、重ね合わせ画像(オーバレイ画像)の代わりに、テンプレート画像に対応する操作説明動画像を用意し、操作ガイド表示は、操作説明動画像を再生するようにしてもよい。また、アニメーションを伴う画像のような動画像を重ね合わせ画像(オーバレイ画像)として重ね合わせて表示させてもよい。また、表示画像とテンプレート画像とが一致したときに、これをアプリケーションの利用状況ログとして、サーバに送信して保存することにより、このログをアプリケーションの機能改善のために利用してもよい。   Further, instead of the superimposed image, an explanation voice corresponding to the template image may be prepared, and the manipulation guide display may reproduce the explanation of the manipulation method by voice. Further, instead of the superimposed image (overlay image), an operation explanation moving image corresponding to the template image may be prepared, and the operation guide display may reproduce the operation explanation moving image. Also, a moving image such as an image with an animation may be displayed as a superimposed image (overlay image). Further, when the display image and the template image coincide with each other, the log may be used for improving the function of the application by transmitting it to the server and storing it as an application usage status log.

また、画像判定システムにおいて、端末は外部への通信機能を持ち、テンプレート画像および対応する操作ガイド情報を外部から取得するようにしてもよい。また、テンプレート画像および対応する操作ガイド情報の取得タイミングは、所定アプリの起動時、あるいは、定期タイミングであってもよい。また、所定アプリのアップデート時であってもよい。また、画像判定システムにおいて、表示装置は、アプリケーションごとにテンプレート画像、オーバレイ画像のセットを保持しており、画像セットを追加および更新する機能を有するようにしてもよい。また、判定に基づいて、アプリケーション中の表示を消す、あるいは、インストールや購入ボタン押下等操作をさせなくするようにしてもよい。例えば、表示に不適切な画像を見せないようにしたり、購入を防いだりするようにしてもよい。   In the image determination system, the terminal may have a communication function to the outside, and may acquire a template image and corresponding operation guide information from the outside. The acquisition timing of the template image and the corresponding operation guide information may be when a predetermined application is activated or at a regular timing. Further, it may be when a predetermined application is updated. In the image determination system, the display device may hold a set of template images and overlay images for each application, and may have a function of adding and updating an image set. Further, based on the determination, the display in the application may be erased, or an operation such as installation or purchase button pressing may not be performed. For example, an image inappropriate for display may not be shown, or purchase may be prevented.

本実施形態において、表示画像と合成画像とが完全一致するか否かの判定処理を以下の技術に応用してもよい。例えば、ユーザが携帯端末でネットのショッピングサイトを閲覧して、商品を購入する場合に、ユーザが「購入する」のボタンを押すと、予め通信会社とサービスプロバイダが取り決めた「決済処理マーク」が画面表示され、このマークがテンプレート画像と一致すると、一致判定処理によりオフラインでの画面遷移に切り替わり、決済処理に必要な決済金額確認画面やクレカ番号記入画面等の画面遷移が行われるようにしてもよい。また、フィッシングサイトに特有の画像マークをテンプレート画像として登録しておき、一致するとフィッシングサイトから強制的に安全なページへ遷移させるようにしてもよい。   In the present embodiment, the process for determining whether or not the display image and the composite image completely match may be applied to the following technique. For example, when a user browses an online shopping site on a mobile terminal and purchases a product, when the user presses a “Purchase” button, a “settlement processing mark” previously determined by a communication company and a service provider is displayed. When this mark matches the template image, it is switched to offline screen transition by the match determination process, and screen transition such as a settlement amount confirmation screen and a credit card number entry screen necessary for settlement processing is performed. Good. Alternatively, an image mark specific to a phishing site may be registered as a template image, and if they match, the phishing site may be forcibly shifted to a safe page.

なお、端末および画像判定システムの処理をコンピュータシステムが読み取り可能な記録媒体に記録し、この記録媒体に記録された端末および画像判定システムに読み込ませ、実行することによって本発明の端末および画像判定システムを実現することができる。ここでいうコンピュータシステムとは、OSや周辺装置等のハードウェアを含む。   The terminal and the image determination system of the present invention are recorded by recording the processing of the terminal and the image determination system on a recording medium readable by the computer system, causing the terminal and the image determination system recorded on the recording medium to read and execute the processing. Can be realized. The computer system here includes an OS and hardware such as peripheral devices.

また、「コンピュータシステム」は、WWW(World Wide Web)システムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)や電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。   Further, the “computer system” includes a homepage providing environment (or display environment) if a WWW (World Wide Web) system is used. The program may be transmitted from a computer system storing the program in a storage device or the like to another computer system via a transmission medium or by a transmission wave in the transmission medium. Here, the “transmission medium” for transmitting the program refers to a medium having a function of transmitting information, such as a network (communication network) such as the Internet or a communication line (communication line) such as a telephone line.

また、上記プログラムは、前述した機能の一部を実現するためのものであってもよい。さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であってもよい。   The program may be for realizing a part of the functions described above. Furthermore, what can implement | achieve the function mentioned above in combination with the program already recorded on the computer system, what is called a difference file (difference program) may be sufficient.

以上、この発明の実施形態につき、図面を参照して詳述してきたが、具体的な構成は以上の実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。   Although the embodiments of the present invention have been described in detail with reference to the drawings, the specific configuration is not limited to the above embodiments, and includes a design and the like within a scope not departing from the gist of the present invention. .

100;端末
110;表示画像取得部
120;表示用メモリ
130;テンプレート画像格納部
140;操作ガイド画像格納部
150;合成画像作成部
160;画像比較部
170;表示部
180;制御部
181;制御部
191;画像生成部
192;送信部
200;表示装置
210;受信部
220;表示部
230;制御部
DESCRIPTION OF SYMBOLS 100; Terminal 110; Display image acquisition part 120; Display memory 130; Template image storage part 140; Operation guide image storage part 150; Composite image creation part 160; Image comparison part 170; Display part 180; Control part 181; 191; Image generation unit 192; Transmission unit 200; Display device 210; Reception unit 220; Display unit 230;

Claims (9)

表示されている既存アプリケーションの表示画像を取得する表示画像取得手段と、
複数の既存アプリケーション画像における固定表示部分と前記固定表示部分以外の透明画素部分とから構成されるテンプレート画像を予め格納するテンプレート画像格納手段と、
前記テンプレート画像格納手段に格納されている前記テンプレート画像と前記表示画像取得手段が取得した前記表示画像とを合成して合成画像を作成する合成画像作成手段と、
前記表示画像取得手段において取得された前記表示画像と前記合成画像作成手段において作成された前記合成画像とを比較する画像比較手段と、
を備え、
前記画像比較手段において、前記表示画像と前記合成画像が完全一致するかを判定する
ことを特徴とする端末。
Display image acquisition means for acquiring a display image of an existing application being displayed;
Template image storage means for storing in advance a template image composed of a fixed display portion in a plurality of existing application images and a transparent pixel portion other than the fixed display portion;
Composite image creation means for creating a composite image by combining the template image stored in the template image storage means and the display image acquired by the display image acquisition means;
Image comparison means for comparing the display image acquired in the display image acquisition means with the composite image created in the composite image creation means;
With
In the image comparison means, it is determined whether or not the display image and the composite image completely match.
前記合成画像作成手段が、前記固定表示部分に対応する前記テンプレート画像の画素と前記透明画素部分に対応する前記表示画像の画素とを合成することを特徴とする請求項1に記載の端末。   The terminal according to claim 1, wherein the synthesized image creating unit synthesizes the pixel of the template image corresponding to the fixed display portion and the pixel of the display image corresponding to the transparent pixel portion. 前記合成画像は、前記表示画像を下部とし、前記テンプレート画像を上部として合成することを特徴とする請求項1または2に記載の端末。   The terminal according to claim 1, wherein the synthesized image is synthesized with the display image as a lower part and the template image as an upper part. 前記テンプレート画像に対応する操作ガイド画像を格納する操作ガイド画像格納手段と、
前記画像比較手段において、前記表示画像と完全一致する前記合成画像があったときに、前記操作ガイド画像格納手段から前記合成画像元の前記テンプレート画像に対応する操作ガイド画像を読みだして、前記表示画像に前記読みだした前記操作ガイド画像を重ね合わせて表示する表示制御手段と、
をさらに備えたことを特徴とする請求項1から3のいずれか1項に記載の端末。
Operation guide image storage means for storing an operation guide image corresponding to the template image;
In the image comparison means, when there is the composite image that completely matches the display image, the operation guide image corresponding to the template image of the composite image source is read from the operation guide image storage means, and the display Display control means for superimposing and displaying the read operation guide image on an image;
The terminal according to any one of claims 1 to 3, further comprising:
前記表示画像取得手段は、特定の既存アプリケーションが起動すると、表示されている前記表示画像を定期的に取得し、特定の既存アプリケーションが起動を終了すると、表示されている前記表示画像の取得を停止することを特徴とする請求項1から4のいずれか1項に記載の端末。   The display image acquisition means periodically acquires the displayed display image when a specific existing application is started, and stops acquiring the displayed display image when the specific existing application is started. The terminal according to any one of claims 1 to 4, wherein: 端末と表示装置とからなり、特定の既存アプリケーションに対する操作ガイドを提示する画像判定システムであって、
前記端末が、
表示されている既存アプリケーションの表示画像を取得する表示画像取得手段と、
複数の既存アプリケーション画像における固定表示部分と前記固定表示部分以外の透明画素部分とから構成されるテンプレート画像を予め格納するテンプレート画像格納手段と、
前記テンプレート画像に対応する操作ガイド画像を格納する操作ガイド画像格納手段と、
前記テンプレート画像格納手段に格納されている前記テンプレート画像と前記表示画像取得手段が取得した前記表示画像とを合成して合成画像を作成する合成画像作成手段と、
前記表示画像取得手段において取得された前記表示画像と前記合成画像作成手段において作成された前記合成画像とを比較する画像比較手段と、
前記画像比較手段において、前記表示画像と完全一致する前記合成画像があったときに、前記操作ガイド画像格納手段から前記合成画像元の前記テンプレート画像に対応する操作ガイド画像を読みだして、前記表示画像に前記読みだした前記操作ガイド画像を重ね合わせた画像を生成する画像生成手段と、
該生成した重ね合わせ画像を前記表示装置に送信する送信手段と、
を備え、
前記表示装置が、
前記端末の送信手段から、前記重ね合わせ画像を受信する受信手段と、
該受信した重ね合わせ画像を表示する表示手段と、
を備えたことを特徴とする画像判定システム。
An image determination system that includes a terminal and a display device and presents an operation guide for a specific existing application,
The terminal is
Display image acquisition means for acquiring a display image of an existing application being displayed;
Template image storage means for storing in advance a template image composed of a fixed display portion in a plurality of existing application images and a transparent pixel portion other than the fixed display portion;
Operation guide image storage means for storing an operation guide image corresponding to the template image;
Composite image creation means for creating a composite image by combining the template image stored in the template image storage means and the display image acquired by the display image acquisition means;
Image comparison means for comparing the display image acquired in the display image acquisition means with the composite image created in the composite image creation means;
In the image comparison means, when there is the composite image that completely matches the display image, the operation guide image corresponding to the template image of the composite image source is read from the operation guide image storage means, and the display Image generating means for generating an image in which the read operation guide image is superimposed on an image;
Transmitting means for transmitting the generated superimposed image to the display device;
With
The display device
Receiving means for receiving the superimposed image from the transmitting means of the terminal;
Display means for displaying the received superimposed image;
An image determination system comprising:
端末と表示装置とからなり、特定の既存アプリケーションに対する操作ガイドを提示する画像判定システムであって、
前記端末が、
表示されている既存アプリケーションの表示画像を取得する表示画像取得手段と、
複数の既存アプリケーション画像における固定表示部分と前記固定表示部分以外の透明画素部分とから構成されるテンプレート画像を予め格納するテンプレート画像格納手段と、
前記テンプレート画像に対応する操作ガイド画像を格納する操作ガイド画像格納手段と、
前記テンプレート画像格納手段に格納されている前記テンプレート画像と前記表示画像取得手段が取得した前記表示画像とを合成して合成画像を作成する合成画像作成手段と、
前記表示画像取得手段において取得された前記表示画像と前記合成画像作成手段において作成された前記合成画像とを比較する画像比較手段と、
前記画像比較手段において、前記表示画像と完全一致する前記合成画像があったときに、前記操作ガイド画像格納手段から前記合成画像元の前記テンプレート画像に対応する操作ガイド画像を読みだして、前記表示装置に送信する送信手段と、
を備え、
前記表示装置が、
前記端末の送信手段から、前記合成画像元の前記テンプレート画像に対応する操作ガイド画像を受信する受信手段と、
該受信した前記合成画像元の前記テンプレート画像に対応する操作ガイド画像を表示する表示手段と、
を備えたことを特徴とする画像判定システム。
An image determination system that includes a terminal and a display device and presents an operation guide for a specific existing application,
The terminal is
Display image acquisition means for acquiring a display image of an existing application being displayed;
Template image storage means for storing in advance a template image composed of a fixed display portion in a plurality of existing application images and a transparent pixel portion other than the fixed display portion;
Operation guide image storage means for storing an operation guide image corresponding to the template image;
Composite image creation means for creating a composite image by combining the template image stored in the template image storage means and the display image acquired by the display image acquisition means;
Image comparison means for comparing the display image acquired in the display image acquisition means with the composite image created in the composite image creation means;
In the image comparison means, when there is the composite image that completely matches the display image, the operation guide image corresponding to the template image of the composite image source is read from the operation guide image storage means, and the display Transmitting means for transmitting to the device;
With
The display device
Receiving means for receiving an operation guide image corresponding to the template image of the synthesized image source from the transmitting means of the terminal;
Display means for displaying an operation guide image corresponding to the received template image of the composite image;
An image determination system comprising:
表示画像取得手段と、複数の既存アプリケーション画像における固定表示部分と前記固定表示部分以外の透明画素部分とから構成されるテンプレート画像を予め格納するテンプレート画像格納手段と、合成画像作成手段と、画像比較手段とを備えた端末における画像判定方法であって、
前記表示画像取得手段が、表示されている既存アプリケーションの表示画像を取得する第1のステップと、
前記合成画像作成手段が、前記テンプレート画像格納手段に格納されている前記テンプレート画像と前記表示画像取得手段が取得した前記表示画像とを合成して合成画像を作成する第2のステップと、
前記画像比較手段が、前記表示画像取得手段において取得された前記表示画像と前記合成画像作成手段において作成された前記合成画像とを比較して、前記表示画像と前記合成画像とが完全一致するかを判定する第3のステップと、
を備えることを特徴とする画像判定方法。
Display image acquisition means, template image storage means for preliminarily storing a template image composed of a fixed display portion in a plurality of existing application images and a transparent pixel portion other than the fixed display portion, a composite image creation means, and an image comparison An image determination method in a terminal comprising means,
A first step in which the display image acquisition means acquires a display image of an existing application being displayed;
A second step in which the synthesized image creating means creates a synthesized image by synthesizing the template image stored in the template image storing means and the display image acquired by the display image acquiring means;
The image comparison unit compares the display image acquired by the display image acquisition unit with the composite image generated by the composite image generation unit, and whether the display image and the composite image completely match each other A third step of determining
An image determination method comprising:
表示画像取得手段と、複数の既存アプリケーション画像における固定表示部分と前記固定表示部分以外の透明画素部分とから構成されるテンプレート画像を予め格納するテンプレート画像格納手段と、合成画像作成手段と、画像比較手段とを備えた端末における画像判定方法をコンピュータに実行させるためのプログラムであって、
前記表示画像取得手段が、表示されている既存アプリケーションの表示画像を取得する第1のステップと、
前記合成画像作成手段が、前記テンプレート画像格納手段に格納されている前記テンプレート画像と前記表示画像取得手段が取得した前記表示画像とを合成して合成画像を作成する第2のステップと、
前記画像比較手段が、前記表示画像取得手段において取得された前記表示画像と前記合成画像作成手段において作成された前記合成画像とを比較して、前記表示画像と前記合成画像とが完全一致するかを判定する第3のステップと、
をコンピュータに実行させるためのプログラム。
Display image acquisition means, template image storage means for preliminarily storing a template image composed of a fixed display portion in a plurality of existing application images and a transparent pixel portion other than the fixed display portion, a composite image creation means, and an image comparison A program for causing a computer to execute an image determination method in a terminal comprising means,
A first step in which the display image acquisition means acquires a display image of an existing application being displayed;
A second step in which the synthesized image creating means creates a synthesized image by synthesizing the template image stored in the template image storing means and the display image acquired by the display image acquiring means;
The image comparison unit compares the display image acquired by the display image acquisition unit with the composite image generated by the composite image generation unit, and whether the display image and the composite image completely match each other A third step of determining
A program that causes a computer to execute.
JP2015132064A 2015-06-30 2015-06-30 Terminal, image determination system, image determination method and program Active JP6512964B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015132064A JP6512964B2 (en) 2015-06-30 2015-06-30 Terminal, image determination system, image determination method and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015132064A JP6512964B2 (en) 2015-06-30 2015-06-30 Terminal, image determination system, image determination method and program

Publications (2)

Publication Number Publication Date
JP2017016370A true JP2017016370A (en) 2017-01-19
JP6512964B2 JP6512964B2 (en) 2019-05-15

Family

ID=57829173

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015132064A Active JP6512964B2 (en) 2015-06-30 2015-06-30 Terminal, image determination system, image determination method and program

Country Status (1)

Country Link
JP (1) JP6512964B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10635182B2 (en) 2017-09-12 2020-04-28 Seiko Epson Corporation Head mounted display device and control method for head mounted display device

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002544584A (en) * 1999-05-07 2002-12-24 エム − ペン、インコーポレイテッド System and method for dynamic assistance in a software application using behavioral and host application models
JP2004355400A (en) * 2003-05-29 2004-12-16 Matsushita Electric Ind Co Ltd User interface screen provision system, user support management server device and application server device
JP2005339560A (en) * 2004-05-28 2005-12-08 Microsoft Corp Technique for providing just-in-time user assistance
JP2012111330A (en) * 2010-11-24 2012-06-14 Denso Corp On-vehicle system
JP2013257694A (en) * 2012-06-12 2013-12-26 Kyocera Corp Device, method, and program
JP2014215845A (en) * 2013-04-26 2014-11-17 株式会社デンソーアイティーラボラトリ Operation support method, operation support system, operation support server, and operation support program

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002544584A (en) * 1999-05-07 2002-12-24 エム − ペン、インコーポレイテッド System and method for dynamic assistance in a software application using behavioral and host application models
JP2004355400A (en) * 2003-05-29 2004-12-16 Matsushita Electric Ind Co Ltd User interface screen provision system, user support management server device and application server device
JP2005339560A (en) * 2004-05-28 2005-12-08 Microsoft Corp Technique for providing just-in-time user assistance
JP2012111330A (en) * 2010-11-24 2012-06-14 Denso Corp On-vehicle system
JP2013257694A (en) * 2012-06-12 2013-12-26 Kyocera Corp Device, method, and program
JP2014215845A (en) * 2013-04-26 2014-11-17 株式会社デンソーアイティーラボラトリ Operation support method, operation support system, operation support server, and operation support program

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10635182B2 (en) 2017-09-12 2020-04-28 Seiko Epson Corporation Head mounted display device and control method for head mounted display device

Also Published As

Publication number Publication date
JP6512964B2 (en) 2019-05-15

Similar Documents

Publication Publication Date Title
US20230108680A1 (en) Screen Projection Method and Terminal Device
EP4002107A1 (en) Data binding method, apparatus, and device of mini program, and storage medium
US10592580B2 (en) Web UI builder application
US9813517B2 (en) Feedback layer for native content display in virtual desktop infrastructure
US8633895B2 (en) Apparatus and method for improving character input function in mobile terminal
JP2011243146A (en) Relay server and its program, web site browsing system, web site browsing method, and application program
US9712690B2 (en) Information processing apparatus, information processing system, information processing method, and a computer program product
JP2016148720A (en) Projector and control method
WO2022111394A1 (en) Information processing method and apparatus, and electronic devices
WO2017051687A1 (en) Digital blackboard, digital blackboard image processing method, and recording medium whereupon digital blackboard program is recorded
US9632696B2 (en) Presentation system to facilitate the association of handwriting input by a participant user with a page of a presentation
CN111290722A (en) Screen sharing method, device and system, electronic equipment and storage medium
WO2023241563A1 (en) Data processing method and electronic device
CN113010242B (en) Auxiliary information prompting method, device, terminal equipment and computer storage medium
CN112099678B (en) Text processing method and device and computer readable storage medium
JP6512964B2 (en) Terminal, image determination system, image determination method and program
JP2015198387A (en) Moving image processing program, moving image processing method, and moving image processing device
US20200064993A1 (en) Input device, mobile terminal, input device control method, and input device control program
JP2016051229A (en) Information processing apparatus, control method of information processing apparatus, and program
CN114578898A (en) Display method, electronic device and readable storage medium
CN113495708A (en) Output device, output system, format information changing method, recording medium, and controller
EP2573665A1 (en) User interface feature generation
US10915753B2 (en) Operation assistance apparatus, operation assistance method, and computer readable recording medium
JP5002498B2 (en) Information processing apparatus, display control method, and program
CN111522520B (en) Method, device, equipment and storage medium for processing software imitation paper

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180226

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181129

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181225

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190225

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190319

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190409

R150 Certificate of patent or registration of utility model

Ref document number: 6512964

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150