JP6608402B2 - Program, control method, and terminal device - Google Patents

Program, control method, and terminal device Download PDF

Info

Publication number
JP6608402B2
JP6608402B2 JP2017100400A JP2017100400A JP6608402B2 JP 6608402 B2 JP6608402 B2 JP 6608402B2 JP 2017100400 A JP2017100400 A JP 2017100400A JP 2017100400 A JP2017100400 A JP 2017100400A JP 6608402 B2 JP6608402 B2 JP 6608402B2
Authority
JP
Japan
Prior art keywords
application program
execution screen
target object
operation target
displayed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017100400A
Other languages
Japanese (ja)
Other versions
JP2018195220A (en
Inventor
達郎 五十嵐
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SoftBank Corp
Original Assignee
SoftBank Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SoftBank Corp filed Critical SoftBank Corp
Priority to JP2017100400A priority Critical patent/JP6608402B2/en
Publication of JP2018195220A publication Critical patent/JP2018195220A/en
Application granted granted Critical
Publication of JP6608402B2 publication Critical patent/JP6608402B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、プログラム、制御方法及び端末装置に関する。   The present invention relates to a program, a control method, and a terminal device.

従来から、携帯電話機等の端末装置の操作マニュアルとして、紙媒体による操作マニュアルだけでなく、電子媒体による操作マニュアルが作成されている。電子媒体による操作マニュアルは、端末装置のメモリ等に格納され、又は、端末装置と通信可能なサーバ装置によって管理され、ユーザによる端末装置の操作に応じて、操作マニュアルは端末装置の表示装置に表示される。また、近年では、操作マニュアルを表示するだけでなく、操作方法を練習するためのアプリケーションプログラムがインストールされた端末装置が知られている。   Conventionally, as an operation manual for a terminal device such as a mobile phone, an operation manual using an electronic medium as well as an operation manual using a paper medium has been created. An operation manual using an electronic medium is stored in a memory or the like of the terminal device or managed by a server device that can communicate with the terminal device. The operation manual is displayed on the display device of the terminal device according to the operation of the terminal device by the user. Is done. In recent years, a terminal device in which an application program for practicing an operation method as well as displaying an operation manual is installed is known.

例えば、特許文献1には、子供又は高齢者等の端末装置の操作に不慣れなユーザ向けに、各種アプリケーションブログラムや設定機能等の操作を練習させるための操作練習情報を表示する携帯電話機が記載されている。この携帯電話機では、ユーザによる所定の練習キーの押下に応じて練習モードが設定された場合に操作練習情報が表示され、ユーザは操作練習情報を見ながら操作キー等の練習を行うことが可能になる。   For example, Patent Document 1 describes a mobile phone that displays operation practice information for practicing operations such as various application programs and setting functions for a user who is not familiar with the operation of a terminal device such as a child or an elderly person. Has been. In this mobile phone, operation practice information is displayed when a practice mode is set in response to a user pressing a predetermined practice key, and the user can practice operation keys and the like while viewing the operation practice information. Become.

特開2006−54739号公報JP 2006-54739 A

しかしながら、近年の端末装置では、入力装置として、タッチパネル等のポインタデバイスが採用されている場合があり、このような端末装置において、ユーザによる入力装置の操作に連動した操作練習画面を表示する必要があった。また、ユーザの端末装置の操作練習中、ユーザの誤操作によって不要な通信が発生した場合、通信費用がかかることがあり、操作練習のアプリケーションに対してユーザが不信感を持つことがあった。   However, in recent terminal devices, a pointer device such as a touch panel may be employed as an input device. In such a terminal device, it is necessary to display an operation practice screen that is linked to the operation of the input device by the user. there were. In addition, when unnecessary communication occurs due to an erroneous operation of the user during the operation of the user's terminal device, communication costs may be incurred, and the user may be distrusted with the operation practice application.

本発明は、このような従来の課題を解決すべくなされたものであり、端末装置の操作に不慣れなユーザであっても簡単に操作ができる、端末装置の操作練習用のユーザインターフェースを提供することを可能とするプログラム、制御方法及び端末装置を提供することを目的とする。   The present invention has been made to solve such conventional problems, and provides a user interface for practice of operating a terminal device that can be easily operated even by a user who is unfamiliar with the operation of the terminal device. It is an object of the present invention to provide a program, a control method, and a terminal device that make it possible.

本発明に係るプログラムは、表示部、記憶部、及び、プロセッサを有し、アプリケーションプログラムを実行する端末装置に、アプリケーションプログラムの画面操作方法を説明させるためのプログラムであって、アプリケーションプログラムにおいて、所定の操作手順で操作した場合に遷移する一連の画像の情報と、一連の画像に含まれる操作対象である操作対象オブジェクトの位置及びサイズと、を記憶部に記憶し、表示部に表示されるアプリケーションプログラムに関する画像の設定表示倍率を取得し、ユーザの操作に応じて、一連の画像のうちの所定の画像を、設定表示倍率に基づいて表示部に表示し、所定の画像に含まれる操作対象オブジェクトに対応する枠画像を、設定表示倍率に基づいて変更した操作対象オブジェクトの位置及びサイズで作成し、所定の画像に重畳させるようにして表示部に表示し、ユーザからの操作対象オブジェクトの選択指示に応じて、所定の画像から、一連の画像のうちの次の画像へ切り換えを行う、ことをプロセッサに実行させる。   A program according to the present invention is a program that includes a display unit, a storage unit, and a processor, and causes a terminal device that executes the application program to explain a screen operation method of the application program. An application that stores information on a series of images that are transitioned when operated in accordance with the operation procedure and the position and size of an operation target object that is an operation target included in the series of images in a storage unit and is displayed on a display unit The setting display magnification of the image related to the program is acquired, and a predetermined image of the series of images is displayed on the display unit based on the setting display magnification according to a user operation, and the operation target object included in the predetermined image The position of the operation target object in which the frame image corresponding to is changed based on the setting display magnification The image is displayed on the display unit so as to be superimposed on a predetermined image, and is switched from the predetermined image to the next image in the series according to the selection instruction of the operation target object from the user. To cause the processor to execute.

また、本発明に係るプログラムにおいて、アプリケーションプログラムの実行画面に含まれる各操作対象オブジェクトの位置及びサイズを、所定の操作手順の順番に記憶部に記憶し、ユーザからのアプリケーションプログラムの練習指示を取得した場合、アプリケーションプログラムを実行させ、アプリケーションプログラムの実行画面に含まれる操作対象オブジェクトに対応する枠画像を実行画面に重畳して表示し、ユーザから枠画像に対応する操作対象オブジェクトの選択指示を取得した場合、当該操作対象オブジェクトに関連付けられた所定の処理を実行し、次の実行画面に含まれる操作対象オブジェクトに対応する枠画像を次の実行画面に重畳して表示し、次の実行画面に含まれる、枠画像に対応する操作対象オブジェクトに関連付けられた所定の処理が、他の装置との通信処理を含む場合、ユーザから枠画像に対応する操作対象オブジェクトの選択指示を取得しても、当該操作対象オブジェクトに関連付けられた所定の処理を実行させずに、所定の画像を表示する処理を実行することが好ましい。   In the program according to the present invention, the position and size of each operation target object included in the execution screen of the application program are stored in the storage unit in the order of a predetermined operation procedure, and a practice instruction for the application program from the user is acquired. If the application program is executed, the frame image corresponding to the operation target object included in the execution screen of the application program is displayed superimposed on the execution screen, and the operation target object selection instruction corresponding to the frame image is obtained from the user. In such a case, a predetermined process associated with the operation target object is executed, and a frame image corresponding to the operation target object included in the next execution screen is displayed superimposed on the next execution screen, and displayed on the next execution screen. Associated with the operation target object corresponding to the frame image included If the predetermined processing includes communication processing with another device, the predetermined processing associated with the operation target object is executed even if the operation target object selection instruction corresponding to the frame image is acquired from the user. It is preferable to execute a process of displaying a predetermined image without doing so.

また、本発明に係るプログラムにおいて、表示部にアプリケーションプログラムのアイコン画像を含むホーム画面が表示されている場合において、ユーザからアプリケーションプログラムのアイコン画像の提示指示を取得すると、ホーム画面の画像データを取得し、取得した画像データの中から、アプリケーションプログラムのアイコン画像の位置及びサイズを特定し、特定した位置及びサイズに対応する枠画像を、表示されているホーム画面に重畳して表示し、ユーザから枠画像に対応するアイコン画像の選択指示を取得した場合、アプリケーションプログラムの練習指示を取得する処理を実行することが好ましい。   Further, in the program according to the present invention, when the home screen including the icon image of the application program is displayed on the display unit, when the presentation instruction of the icon image of the application program is acquired from the user, the image data of the home screen is acquired. Then, the position and size of the icon image of the application program is specified from the acquired image data, and the frame image corresponding to the specified position and size is displayed superimposed on the displayed home screen, and is displayed by the user. When an instruction to select an icon image corresponding to the frame image is acquired, it is preferable to execute processing for acquiring an instruction instruction for an application program.

本発明に係る制御方法は、表示部、記憶部、及び、プロセッサを有し、アプリケーションプログラムを実行し且つアプリケーションプログラムの画面操作方法を説明する端末装置の制御方法であって、アプリケーションプログラムにおいて、所定の操作手順で操作した場合に遷移する一連の画像の情報と、一連の画像に含まれる操作対象である操作対象オブジェクトの位置及びサイズと、を記憶部に記憶し、表示部に表示されるアプリケーションプログラムに関する画像の設定表示倍率を取得し、ユーザの操作に応じて、一連の画像のうちの所定の画像を、設定表示倍率に基づいて表示部に表示し、所定の画像に含まれる操作対象オブジェクトを、設定表示倍率に基づいて操作対象オブジェクトの位置及びサイズを変更して所定の画像に重畳させるようにして表示部に表示し、ユーザからの操作対象オブジェクトの選択指示に応じて、所定の画像から、一連の画像のうちの次の画像へ切り換えを行う、ことを含む。   A control method according to the present invention is a control method for a terminal device that includes a display unit, a storage unit, and a processor, executes an application program, and explains a screen operation method of the application program. An application that stores information on a series of images that are transitioned when operated in accordance with the operation procedure and the position and size of an operation target object that is an operation target included in the series of images in a storage unit and is displayed on a display unit The setting display magnification of the image related to the program is acquired, and a predetermined image of the series of images is displayed on the display unit based on the setting display magnification according to a user operation, and the operation target object included in the predetermined image Is superimposed on a predetermined image by changing the position and size of the operation target object based on the set display magnification. It displayed on the display unit to way, in accordance with a selection instruction of the operation target object from a user, from a given image, to switch to the next image of the series of images, comprising.

本発明に係る端末装置は、アプリケーションプログラムを実行し且つアプリケーションプログラムの画面操作方法を説明する端末装置であって、表示部と、アプリケーションプログラムにおいて、所定の操作手順で操作した場合に遷移する一連の画像の情報と、一連の画像に含まれる操作対象である操作対象オブジェクトの位置及びサイズと、を記憶する記憶部と、表示部に表示されるアプリケーションプログラムに関する画像の設定表示倍率を取得する取得部と、ユーザの操作に応じて、一連の画像のうちの所定の画像を、設定表示倍率に基づいて表示部に表示し、所定の画像に含まれる操作対象オブジェクトを、設定表示倍率に基づいて操作対象オブジェクトの位置及びサイズを変更して所定の画像に重畳させるようにして表示部に表示し、ユーザからの操作対象オブジェクトの選択指示に応じて、所定の画像から、一連の画像のうちの次の画像へ切り換えを行う表示処理部と、を備える。   A terminal device according to the present invention is a terminal device that executes an application program and explains a screen operation method of the application program, and a series of transitions when operated in a predetermined operation procedure in the display unit and the application program A storage unit that stores image information and a position and size of an operation target object that is an operation target included in the series of images, and an acquisition unit that acquires a setting display magnification of an image related to an application program displayed on the display unit In response to a user operation, a predetermined image of the series of images is displayed on the display unit based on the set display magnification, and an operation target object included in the predetermined image is operated based on the set display magnification. Change the position and size of the target object and display it on the display unit so that it is superimposed on a predetermined image , In accordance with the selective operation of the operation target object from a user, comprising a predetermined image, and a display processing unit that performs switching to the next image of the series of images, a.

本発明に係るプログラム、制御方法及び端末装置によって、端末装置の操作に不慣れなユーザであっても簡単に操作可能な、端末装置の操作練習用のユーザインターフェースを提供することが可能となる。   With the program, the control method, and the terminal device according to the present invention, it is possible to provide a user interface for operating the terminal device that can be easily operated even by a user unfamiliar with the operation of the terminal device.

端末装置1の概要を説明するための模式図である。2 is a schematic diagram for explaining an outline of a terminal device 1; FIG. 端末装置1の概要を説明するための模式図である。2 is a schematic diagram for explaining an outline of a terminal device 1; FIG. 端末装置1の概要を説明するための模式図である。2 is a schematic diagram for explaining an outline of a terminal device 1; FIG. 端末装置1の概略構成の一例を示す図である。2 is a diagram illustrating an example of a schematic configuration of a terminal device 1. FIG. 端末装置1の端末表示部14に表示される各画面の一例を示す図である。It is a figure which shows an example of each screen displayed on the terminal display part 14 of the terminal device 1. FIG. 端末装置1の端末表示部14に表示される各画面の一例を示す図である。It is a figure which shows an example of each screen displayed on the terminal display part 14 of the terminal device 1. FIG. 端末装置1の端末表示部14に表示される各画面の一例を示す図である。It is a figure which shows an example of each screen displayed on the terminal display part 14 of the terminal device 1. FIG. 端末装置1の端末表示部14に表示される各画面の一例を示す図である。It is a figure which shows an example of each screen displayed on the terminal display part 14 of the terminal device 1. FIG. 端末装置1の端末表示部14に表示される各画面の一例を示す図である。It is a figure which shows an example of each screen displayed on the terminal display part 14 of the terminal device 1. FIG. 端末装置1の端末表示部14に表示される各画面の一例を示す図である。It is a figure which shows an example of each screen displayed on the terminal display part 14 of the terminal device 1. FIG. 端末装置1の端末表示部14に表示される各画面の一例を示す図である。It is a figure which shows an example of each screen displayed on the terminal display part 14 of the terminal device 1. FIG. (a)は、第1操作手順テーブルT1のデータ構造の一例を示す図であり、(b)は、第2操作手順テーブルT2のデータ構造の一例を示す図である。(A) is a figure which shows an example of the data structure of 1st operation procedure table T1, (b) is a figure which shows an example of the data structure of 2nd operation procedure table T2. アイコン画像提示処理の動作フローの一例を示す図であるIt is a figure which shows an example of the operation | movement flow of an icon image presentation process. 練習情報表示処理の動作フローの一例を示す図である。It is a figure which shows an example of the operation | movement flow of practice information display processing.

以下、図面を参照しつつ、本発明の様々な実施形態について説明する。ただし、本発明の技術的範囲はそれらの実施形態に限定されず、特許請求の範囲に記載された発明とその均等物に及ぶ点に留意されたい。   Hereinafter, various embodiments of the present invention will be described with reference to the drawings. However, it should be noted that the technical scope of the present invention is not limited to these embodiments, and extends to the invention described in the claims and equivalents thereof.

(端末装置1の概要)
図1〜3は、本実施形態における端末装置1の概要を説明するための模式図である。
(Overview of terminal device 1)
1-3 is a schematic diagram for demonstrating the outline | summary of the terminal device 1 in this embodiment.

本実施形態の端末装置1は、アプリケーションプログラムがインストールされた多機能携帯電話(所謂「スマートフォン」)等であり、インストールされたアプリケーションプログラムを実行することが可能である。以降、端末装置1にインストールされたアプリケーションプログラムを、単に「アプリケーションプログラム」と称する場合がある。   The terminal device 1 according to the present embodiment is a multi-function mobile phone (so-called “smart phone”) or the like in which an application program is installed, and can execute the installed application program. Hereinafter, the application program installed in the terminal device 1 may be simply referred to as “application program”.

アプリケーションプログラムは、端末装置1に特定の情報処理を実行させるための命令列であり、例えば、電子メールプログラム、ウェブブラウザプログラム、カメラ制御プログラム、電子ゲームプログラム、スケジュール管理プログラム等である。   The application program is an instruction sequence for causing the terminal device 1 to execute specific information processing, and is, for example, an e-mail program, a web browser program, a camera control program, an electronic game program, a schedule management program, or the like.

また、端末装置1は、複数のアプリケーションプログラムのそれぞれの画面操作方法を説明するためのガイド情報を記憶する。ガイド情報は、アプリケーションプログラムの実行中における各種画面の操作方法を説明するマニュアルのデータ、又は、各種画面の操作方法を練習するためのデータ等である。なお、各種画面の操作方法を練習するためのデータは、例えば、HTML(HyperText Markup Language)、XML(Extensible Markup Language)又はJSON(JavaScript Object Notation)等の所定の言語で記述される。なお、ガイド情報は、アプリケーションプログラムの画面操作方法を説明するための情報であれば、画像データ、文書データ及び音声データ等のどのようなデータでもよい。   Further, the terminal device 1 stores guide information for explaining each screen operation method of the plurality of application programs. The guide information is manual data for explaining how to operate various screens during execution of the application program, data for practicing various screen operating methods, or the like. Note that data for practicing various screen operation methods is described in a predetermined language such as HTML (HyperText Markup Language), XML (Extensible Markup Language), or JSON (JavaScript Object Notation). The guide information may be any data such as image data, document data, and audio data as long as it is information for explaining the screen operation method of the application program.

以下、端末装置1が、アプリケーションプログラムの実行中において所定の操作手順で操作した場合に遷移する一連の画面の操作方法をユーザに練習させる場合を例にして説明する。   Hereinafter, a case will be described as an example in which the terminal device 1 allows the user to practice a series of screen operation methods that transition when operated by a predetermined operation procedure during execution of the application program.

端末装置1は、操作方法をユーザに練習させるアプリケーションの実行画面をキャプチャした画像の情報を記憶する。図1に示す例では、電子メールプログラムの実行中において所定の操作手順で操作した場合に遷移する一連の実行画面のそれぞれをキャプチャした画像の情報が端末装置1に記憶される。すなわち、電子メールプログラムの複数の実行画面の画像が、所定の操作手順の順番に従って記憶される。なお、実行画面の画像は、ガイド情報の作成者によって予め作成されたものである。   The terminal device 1 stores information of an image obtained by capturing an execution screen of an application that allows a user to practice an operation method. In the example illustrated in FIG. 1, information of an image obtained by capturing each of a series of execution screens that transition when operated by a predetermined operation procedure during execution of an e-mail program is stored in the terminal device 1. That is, images of a plurality of execution screens of the e-mail program are stored in the order of a predetermined operation procedure. The execution screen image is created in advance by the creator of the guide information.

また、端末装置1は、記憶した一連の画像に含まれ且つ所定の操作手順における操作対象である操作対象オブジェクトの位置及びサイズを記憶する。なお、操作対象オブジェクトは、所定の処理を実行するためのボタンオブジェクト、所定の文字列を入力するためのテキストボックス、又は、他の画面に遷移するためのリンク情報が付加されたテキスト若しくは画像等である。また、操作対象オブジェクトの位置は、端末装置1の表示画面の所定位置(例えば、表示画面の上端且つ左端の位置)を原点とした2次元座標情報であり、各座標は、例えば、表示画面の表示領域の縦幅及び横幅に対する割合で示される。操作対象オブジェクトのサイズは、操作対象オブジェクトの高さ及び幅を示す値であり、例えば、表示画面の表示領域の縦幅及び横幅に対する割合で示される。   Further, the terminal device 1 stores the position and size of the operation target object that is included in the stored series of images and that is the operation target in a predetermined operation procedure. The operation target object is a button object for executing a predetermined process, a text box for inputting a predetermined character string, or a text or image with link information for transitioning to another screen, etc. It is. Further, the position of the operation target object is two-dimensional coordinate information whose origin is a predetermined position on the display screen of the terminal device 1 (for example, the position of the upper end and the left end of the display screen). It is shown as a ratio to the vertical and horizontal widths of the display area. The size of the operation target object is a value indicating the height and width of the operation target object, and is indicated by, for example, a ratio to the vertical width and horizontal width of the display area of the display screen.

図1に示す例では、端末装置1は、操作対象オブジェクト「送信ボタン」の位置及びサイズに対応する枠画像を作成し、当該枠画像に対応する操作対象オブジェクトを含む画像を表示するとともに、作成した枠画像を当該画像に重畳して表示する(図1の(1))。   In the example illustrated in FIG. 1, the terminal device 1 creates a frame image corresponding to the position and size of the operation target object “send button”, displays an image including the operation target object corresponding to the frame image, and creates the frame image. The frame image thus displayed is superimposed on the image and displayed ((1) in FIG. 1).

ユーザのタップ操作等によって、表示された画像に含まれる操作対象オブエジェクの表示領域(すなわち、枠画像内)が選択指示された場合(図1の(2))、端末装置1は、記憶した一連の画像のうちの、現在表示されている画像の次の画像を表示する(図1の(3)及び(4))。   When the display area of the operation target object included in the displayed image (that is, within the frame image) is instructed by the user's tap operation or the like ((2) in FIG. 1), the terminal device 1 stores the stored series Next, the next image after the currently displayed image is displayed ((3) and (4) in FIG. 1).

このように、端末装置1は、アプリケーションプログラムを起動しなくても、当該アプリケーションプログラムの実行画面の操作方法をユーザに練習させることができる。これにより、操作練習中においてユーザが操作を誤っても、端末装置1は、操作方法の練習を逸脱した処理を行うことがない。このように、端末装置1は、端末装置の操作に不慣れなユーザであっても操作方法の習得に集中することができ且つ簡易なユーザインターフェースを提供することが可能となる。   As described above, the terminal device 1 allows the user to practice the operation method of the execution screen of the application program without starting the application program. Thereby, even if the user makes an operation mistake during the operation practice, the terminal device 1 does not perform a process that deviates from the practice of the operation method. As described above, the terminal device 1 can concentrate on learning the operation method even if the user is unfamiliar with the operation of the terminal device, and can provide a simple user interface.

次に、端末装置1が、表示画面に含まれる各オブジェクト(テキスト、アイコン、ボタン等)を表示する所定の表示倍率を設定している場合について説明する。以降、設定された表示倍率を設定表示倍率と称する場合がある。   Next, the case where the terminal device 1 has set a predetermined display magnification for displaying each object (text, icon, button, etc.) included in the display screen will be described. Hereinafter, the set display magnification may be referred to as a set display magnification.

図2に示す例では、設定表示倍率として「1.2倍」がユーザによって設定されている。この場合、端末装置1は、通常の表示画面200(又は設定表示倍率「1倍」における表示画像)に含まれる各オブジェクトを「1.2倍」に拡大した表示画面210を表示する。   In the example shown in FIG. 2, “1.2 times” is set as the setting display magnification by the user. In this case, the terminal device 1 displays a display screen 210 in which each object included in the normal display screen 200 (or a display image at the set display magnification “1”) is enlarged to “1.2 times”.

通常の表示画面200は、第1OS(Operating System)表示領域201、第2OS表示領域202及びアプリケーション表示領域203によって構成される。例えば、第1OS表示領域201には、端末装置1のステータス情報がアイコン等によって表示される。また、第2OS表示領域202には、端末装置1のアプリケーションプログラムの切換え等の操作メニューがアイコン等によって表示される。また、アプリケーション表示領域203には、アプリケーションプログラムの実行画面が表示される。   The normal display screen 200 includes a first OS (Operating System) display area 201, a second OS display area 202, and an application display area 203. For example, in the first OS display area 201, status information of the terminal device 1 is displayed by an icon or the like. In the second OS display area 202, an operation menu for switching application programs of the terminal device 1 is displayed by icons or the like. An application program execution screen is displayed in the application display area 203.

拡大した表示画面210は、第1OS表示領域211、第2OS表示領域212及びアプリケーション表示領域213によって構成される。例えば、第1OS表示領域211及び第2OS表示領域212には、第1OS表示領域201及び第2OS表示領域202と同じアイコンが「1.2倍」に拡大されて表示される。また、アプリケーション表示領域213には、アプリケーションプログラムの実行画面が表示される。   The enlarged display screen 210 includes a first OS display area 211, a second OS display area 212, and an application display area 213. For example, the same icons as the first OS display area 201 and the second OS display area 202 are enlarged and displayed in the first OS display area 211 and the second OS display area 212 by “1.2 times”. In the application display area 213, an application program execution screen is displayed.

図2に示すように、第1OS表示領域211及び第2OS表示領域212に含まれるアイコンは、第1OS表示領域201及び第2OS表示領域202に含まれるアイコンよりも大きく(1.2倍に)表示される。そのため、第1OS表示領域211及び第2OS表示領域212の縦方向のサイズは、第1OS表示領域201及び第2OS表示領域202よりも長い。したがって、アプリケーション表示領域213とアプリケーション表示領域203とでは、アスペクト比(縦横比)が異なる。   As shown in FIG. 2, the icons included in the first OS display area 211 and the second OS display area 212 are displayed larger (1.2 times) than the icons included in the first OS display area 201 and the second OS display area 202. Is done. Therefore, the vertical size of the first OS display area 211 and the second OS display area 212 is longer than that of the first OS display area 201 and the second OS display area 202. Therefore, the application display area 213 and the application display area 203 have different aspect ratios (aspect ratios).

以下、設定表示倍率に基づく表示枠の表示処理について説明する。図3に示す例では、端末装置1は、図2で説明した拡大した表示画面210において、アプリケーションの実行画面をキャプチャした表示画像300を表示する。表示画像300は、通常の表示画面200におけるアプリケーションプログラムの実行画面をキャプチャした画像である。   The display frame display process based on the set display magnification will be described below. In the example illustrated in FIG. 3, the terminal device 1 displays the display image 300 obtained by capturing the execution screen of the application on the enlarged display screen 210 described with reference to FIG. 2. The display image 300 is an image obtained by capturing an application program execution screen on the normal display screen 200.

端末装置1は、設定表示倍率に基づいて、表示画像300に含まれる操作対象オブジェクト「送信ボタン」の位置及びサイズを変更する。位置の変更処理では、例えば、まず、端末装置1は、通常の表示画面200における、操作対象オブジェクトの上端且つ左端の位置を特定する。次に、端末装置1は、特定した操作対象オブジェクトの位置に設定表示倍率に基づいて変更されたアプリケーション表示領域203の縦方向の縮小比率を乗じた位置を操作対象オブジェクトの相対位置として算出する。そして、端末装置1は、相対位置に表示画像300の上端及び左端の位置を加算して、枠画像の位置を算出する。   The terminal device 1 changes the position and size of the operation target object “send button” included in the display image 300 based on the set display magnification. In the position changing process, for example, first, the terminal device 1 specifies the positions of the upper end and the left end of the operation target object on the normal display screen 200. Next, the terminal device 1 calculates a position obtained by multiplying the position of the identified operation target object by the vertical reduction ratio of the application display area 203 changed based on the set display magnification as the relative position of the operation target object. Then, the terminal device 1 calculates the position of the frame image by adding the upper end position and the left end position of the display image 300 to the relative position.

また、サイズの変更処理では、端末装置1は、サイズ(高さ及び幅)に、アプリケーション表示領域203の縦方向の縮小比率を乗じた数値を、設定表示倍率が設定された後の枠画像のサイズとする。   Further, in the size changing process, the terminal device 1 uses a numerical value obtained by multiplying the size (height and width) by the vertical reduction ratio of the application display area 203 to the frame image after the set display magnification is set. Size.

例えば、操作対象オブジェクトの位置が(10,160)であり、アプリケーション表示領域203の縦方向の縮小比率が90%である場合、相対位置は、(10,160)の90%(アプリケーション表示領域203の縦方向の縮小比率)の(9,144)である。なお、各位置は、通常の表示画面の上端且つ左端の位置を原点(0,0)とし、縦方向(下方向)及び横方向(右方向)の座標で示される。そして、枠画像の位置は、相対位置(9,144)に、表示画像300の上端及び左端の位置(0,10)を加算した、(9,154)となる。また、操作対象オブジェクトのサイズが(20,30)であり且つアプリケーション表示領域203の縦方向の縮小比率が90%である場合、枠画像のサイズは(9,27)となる。なお、縮小比率は、上述した90%に限定されない。例えば、縮小比率は、設定表示倍率に基づくアプリケーション表示領域213に、通常の表示画面200におけるアプリケーションプログラムの実行画面をキャプチャした表示画像300が全面表示されるように設定された比率でもよく、また、その他の比率でもよい。また、携帯端末1は、アプリケーション表示領域213に対して、所定の拡大比率を乗じた表示画像300を表示してもよい。この場合、次に、端末装置1は、特定した操作対象オブジェクトの位置に所定の拡大比率を乗じた位置を操作対象オブジェクトの相対位置として算出する。そして、端末装置1は、相対位置に表示画像300の上端及び左端の位置を加算して、枠画像の位置を算出する。また、サイズの変更処理では、端末装置1は、サイズ(高さ及び幅)に、所定の拡大比率を乗じた数値を、設定表示倍率が設定された後の枠画像のサイズとする。   For example, when the position of the operation target object is (10, 160) and the vertical reduction ratio of the application display area 203 is 90%, the relative position is 90% (application display area 203) of (10, 160). (9,144) of the vertical reduction ratio). Each position is indicated by coordinates in the vertical direction (downward direction) and the horizontal direction (rightward direction), with the upper end and the left end position of the normal display screen being the origin (0, 0). The position of the frame image is (9, 154) obtained by adding the upper end and left end positions (0, 10) of the display image 300 to the relative position (9, 144). When the size of the operation target object is (20, 30) and the vertical reduction ratio of the application display area 203 is 90%, the size of the frame image is (9, 27). Note that the reduction ratio is not limited to 90% described above. For example, the reduction ratio may be a ratio set so that the display image 300 obtained by capturing the execution screen of the application program on the normal display screen 200 is displayed in the application display area 213 based on the set display magnification. Other ratios may be used. The mobile terminal 1 may display a display image 300 obtained by multiplying the application display area 213 by a predetermined enlargement ratio. In this case, next, the terminal device 1 calculates a position obtained by multiplying the position of the specified operation target object by a predetermined enlargement ratio as a relative position of the operation target object. Then, the terminal device 1 calculates the position of the frame image by adding the upper end position and the left end position of the display image 300 to the relative position. In the size changing process, the terminal device 1 uses a value obtained by multiplying the size (height and width) by a predetermined enlargement ratio as the size of the frame image after the set display magnification is set.

端末装置1は、算出した枠画像の位置及びサイズに基づいて、表示画像300に重畳させるようにして枠画像を表示する。これにより、端末装置1は、設定表示倍率が設定されたとしても、表示画像300に含まれる操作対象オブジェクトの位置及びサイズに対応する枠画像を表示することが可能になる。   The terminal device 1 displays the frame image so as to be superimposed on the display image 300 based on the calculated position and size of the frame image. Accordingly, the terminal device 1 can display a frame image corresponding to the position and size of the operation target object included in the display image 300 even if the set display magnification is set.

そして、設定表示倍率に基づいて表示された画像に含まれる操作対象オブエジェクの表示領域(すなわち、枠画像内)が、ユーザのタップ操作等によって選択指示された場合、端末装置1は、記憶した一連の画像のうちの、現在表示されている画像の次の画像を設定表示倍率に基づいて表示する。   When the display area of the operation target object included in the image displayed based on the set display magnification (that is, within the frame image) is instructed to be selected by the user's tap operation or the like, the terminal device 1 stores the stored series. The next image after the currently displayed image is displayed based on the set display magnification.

上述のとおり、端末装置1では、表示される画像に設定表示倍率が設定されていても、表示される画像の操作対象オブジェクトに対応する枠画像をユーザに案内することが可能となる。したがって、端末装置1によって、端末装置の操作に不慣れなユーザであっても簡単に操作可能な、端末装置の操作練習用のユーザインターフェースを提供することが可能となる。   As described above, the terminal device 1 can guide the frame image corresponding to the operation target object of the displayed image to the user even if the set display magnification is set for the displayed image. Therefore, the terminal device 1 can provide a user interface for practice of operating the terminal device that can be easily operated even by a user who is unfamiliar with the operation of the terminal device.

なお、上述した図1〜3の説明は、本発明の内容への理解を深めるための説明にすぎない。本発明は、具体的には、次に説明する各実施形態において実施され、且つ、本発明の原則を実質的に超えずに、さまざまな変形例によって実施されてもよい。このような変形例はすべて、本発明及び本明細書の開示範囲に含まれる。   The description of FIGS. 1 to 3 described above is merely an explanation for deepening the understanding of the contents of the present invention. Specifically, the present invention may be implemented in various embodiments described below, and may be implemented in various modifications without substantially exceeding the principle of the present invention. All such variations are within the scope of the present disclosure and the specification.

(端末装置1)
図4は、端末装置1の概略構成の一例を示す図である。
(Terminal device 1)
FIG. 4 is a diagram illustrating an example of a schematic configuration of the terminal device 1.

端末装置1は、端末装置1にインストールされたアプリケーションプログラムに対応するガイド情報を表示する機能を有する。そのために、端末装置1は、端末通信部11と、端末記憶部12と、端末操作部13と、端末表示部14と、端末処理部15とを備える。   The terminal device 1 has a function of displaying guide information corresponding to an application program installed in the terminal device 1. For this purpose, the terminal device 1 includes a terminal communication unit 11, a terminal storage unit 12, a terminal operation unit 13, a terminal display unit 14, and a terminal processing unit 15.

なお、本実施形態では、端末装置1として、多機能携帯電話を想定するが、本発明はこれに限定されるものではない。端末装置1は、本発明が適用可能であればよく、例えば、携帯電話(所謂「フィーチャーフォン」)や携帯情報端末(Personal Digital Assistant, PDA)、携帯ゲーム機、携帯音楽プレーヤ、タブレット端末、タブレットPC(Personal Computer)、ノートPC等でもよい。   In the present embodiment, a multifunction mobile phone is assumed as the terminal device 1, but the present invention is not limited to this. The terminal device 1 only needs to be applicable to the present invention. For example, a mobile phone (so-called “feature phone”), a portable information terminal (Personal Digital Assistant, PDA), a portable game machine, a portable music player, a tablet terminal, a tablet A PC (Personal Computer), a notebook PC, or the like may be used.

端末通信部11は、所定の周波数帯を感受帯域とするアンテナを含む、通信インターフェース回路を備え、端末装置1をインターネット等のネットワークに接続する。端末通信部11は、基地局(図示せず)により割り当てられるチャネルを介して、基地局との間でCDMA(Code Division Multiple Access)方式等による無線信号回線を確立し、基地局との間で通信を行う。そして、端末通信部11は、端末処理部15から供給されたデータをサーバ等の外部装置に送信する。また、端末通信部11は、外部装置から受信したデータを端末処理部15に供給する。   The terminal communication unit 11 includes a communication interface circuit including an antenna whose sensitivity band is a predetermined frequency band, and connects the terminal device 1 to a network such as the Internet. The terminal communication unit 11 establishes a radio signal line by a CDMA (Code Division Multiple Access) method or the like with a base station via a channel assigned by a base station (not shown), and communicates with the base station. Communicate. Then, the terminal communication unit 11 transmits the data supplied from the terminal processing unit 15 to an external device such as a server. In addition, the terminal communication unit 11 supplies data received from the external device to the terminal processing unit 15.

端末記憶部12は、例えば、半導体メモリ装置を備える。端末記憶部12は、端末処理部15での処理に用いられるオペレーティングシステム(Operating System)プログラム、ドライバプログラム、アプリケーションプログラム、データ等を記憶する。例えば、端末記憶部12は、ドライバプログラムとして、端末操作部13を制御する入力デバイスドライバプログラムや、端末表示部14を制御する出力デバイスドライバプログラム等を記憶する。また、端末記憶部12は、アプリケーションプログラムとして、表示データの取得及び表示を行うプログラム等を記憶する。また、端末記憶部12は、データとして、複数のアプリケーションプログラムのそれぞれに対応するガイド情報(各操作手順に対応するアプリケーションプログラムの実行画面をキャプチャした画像等)、ユーザによって設定された設定表示倍率、アプリケーションプログラムのアイコン画像、第1操作手順テーブルT1及び第2操作手順テーブルT2等を記憶する。なお、設定表示倍率がユーザによって設定されていない場合、設定表示倍率の初期値(1倍)が記憶される。また、ガイド情報として、各操作手順に対応するアプリケーションプログラムの実行画面をキャプチャした画像が記憶されている場合、各当該画像に関連付けて画像IDが記憶される。また、端末記憶部12は、所定の処理に係る一時的なデータを一時的に記憶してもよい。なお、第1操作手順テーブルT1及び第2操作手順テーブルT2の詳細は後述する。   The terminal storage unit 12 includes, for example, a semiconductor memory device. The terminal storage unit 12 stores an operating system program, a driver program, an application program, data, and the like used for processing in the terminal processing unit 15. For example, the terminal storage unit 12 stores, as a driver program, an input device driver program that controls the terminal operation unit 13, an output device driver program that controls the terminal display unit 14, and the like. The terminal storage unit 12 stores a program for acquiring and displaying display data as an application program. In addition, the terminal storage unit 12 includes, as data, guide information corresponding to each of a plurality of application programs (an image obtained by capturing an execution screen of an application program corresponding to each operation procedure), a setting display magnification set by a user, An icon image of the application program, the first operation procedure table T1, the second operation procedure table T2, and the like are stored. When the setting display magnification is not set by the user, the initial value (1 time) of the setting display magnification is stored. Further, when an image obtained by capturing an execution screen of an application program corresponding to each operation procedure is stored as guide information, an image ID is stored in association with each image. Further, the terminal storage unit 12 may temporarily store temporary data related to a predetermined process. Details of the first operation procedure table T1 and the second operation procedure table T2 will be described later.

端末操作部13は、端末装置1の操作が可能であればどのようなデバイスでもよく、例えば、タッチパネル等である。ユーザは、端末操作部13を用いて、文字や数字、記号等を入力することができる。端末操作部13は、ユーザにより操作されると、その操作に対応する信号を発生する。そして、発生した信号は、ユーザの指示として、端末処理部15に供給される。   The terminal operation unit 13 may be any device as long as the terminal device 1 can be operated, for example, a touch panel. The user can input characters, numbers, symbols, and the like using the terminal operation unit 13. When operated by the user, the terminal operation unit 13 generates a signal corresponding to the operation. The generated signal is supplied to the terminal processing unit 15 as a user instruction.

端末表示部14は、動画像、静止画像等の出力が可能であればどのようなデバイスでもよく、例えば、タッチパネル式の表示装置、液晶ディスプレイ、有機EL(Electro−Luminescence)ディスプレイ等である。端末表示部14は、端末処理部15から供給される動画像データに応じた動画像、静止画像データに応じた静止画像等を表示する。   The terminal display unit 14 may be any device as long as it can output a moving image, a still image, and the like, such as a touch panel display device, a liquid crystal display, an organic EL (Electro-Luminescence) display, and the like. The terminal display unit 14 displays a moving image corresponding to the moving image data supplied from the terminal processing unit 15, a still image corresponding to the still image data, and the like.

端末処理部15は、一又は複数個のプロセッサ及びその周辺回路を備える。端末処理部15は、端末装置1の全体的な動作を統括的に制御するものであり、例えば、CPU(Central Processing Unit)である。端末処理部15は、端末装置1の各種処理が端末記憶部12に記憶されているプログラムや端末操作部13の操作等に基づいて適切な手順で実行されるように、端末通信部11や端末表示部14等の動作を制御する。端末処理部15は、端末記憶部12に記憶されているプログラム(オペレーティングシステムプログラムやドライバプログラム、アプリケーションプログラム等)に基づいて処理を実行する。また、端末処理部15は、複数のプログラム(アプリケーションプログラム等)を並列に実行することができる。   The terminal processing unit 15 includes one or a plurality of processors and their peripheral circuits. The terminal processing unit 15 controls the overall operation of the terminal device 1 and is, for example, a CPU (Central Processing Unit). The terminal processing unit 15 includes a terminal communication unit 11 and a terminal so that various processes of the terminal device 1 are executed in an appropriate procedure based on a program stored in the terminal storage unit 12, an operation of the terminal operation unit 13, and the like. The operation of the display unit 14 and the like is controlled. The terminal processing unit 15 executes processing based on programs (operating system program, driver program, application program, etc.) stored in the terminal storage unit 12. Further, the terminal processing unit 15 can execute a plurality of programs (such as application programs) in parallel.

端末処理部15は、端末制御部151と、取得部152と、表示処理部153とを有する。端末処理部15が有するこれらの各部は、端末処理部15が備えるプロセッサで実行されるプログラムにより実現される機能モジュールである。あるいは、端末処理部15が有するこれらの各部は、ファームウェアとして端末装置1に実装されてもよい。   The terminal processing unit 15 includes a terminal control unit 151, an acquisition unit 152, and a display processing unit 153. Each of these units included in the terminal processing unit 15 is a functional module realized by a program executed by a processor included in the terminal processing unit 15. Alternatively, these units included in the terminal processing unit 15 may be implemented in the terminal device 1 as firmware.

以下、図5〜11を参照して、端末装置1の端末表示部14に表示される各画面の一例について説明する。   Hereinafter, an example of each screen displayed on the terminal display unit 14 of the terminal device 1 will be described with reference to FIGS.

図5(a)は、端末装置1の端末表示部14に表示されるホーム画面500の一例を示す図である。   FIG. 5A is a diagram illustrating an example of a home screen 500 displayed on the terminal display unit 14 of the terminal device 1.

ホーム画面500には、端末装置1が実行可能なアプリケーションプログラムのアイコン画像501が表示される。なお、ホーム画面500は、端末装置1が起動したとき等に表示される画面である。   On the home screen 500, an icon image 501 of an application program executable by the terminal device 1 is displayed. The home screen 500 is a screen displayed when the terminal device 1 is activated.

ユーザによる端末操作部13の操作に応じて、操作方法を練習したいアプリケーションプログラムが指定された場合、表示されたアイコン画像501の中から、指定されたアプリケーションプログラムのアイコン画像501aの位置及びサイズに対応する枠画像が表示される。例えば、端末装置1は、アプリケーションプログラムごとにアイコン画像502を記憶し、操作方法を練習したいアプリケーションプログラムが指定された場合、指定されたアプリケーションプログラムのアイコン画像502を端末記憶部12から読み出す。次に、端末装置1は、現在のホーム画面500をキャプチャした画像を取得する。次に、端末装置1は、公知の類似画像検索処理によって、取得した画像の中から、読み出したアイコン画像502と合致するアイコン画像501aを抽出し、抽出したアイコン画像501aの位置及びサイズを算出する。そして、端末装置1は、算出した位置及びサイズに対応する枠画像をホーム画面に重畳して表示する。   When an application program for which an operation method is to be practiced is designated in accordance with the operation of the terminal operation unit 13 by the user, the position and size of the icon image 501a of the designated application program are displayed from the displayed icon images 501. A frame image to be displayed is displayed. For example, the terminal device 1 stores an icon image 502 for each application program. When an application program for which an operation method is desired to be practiced is specified, the icon image 502 of the specified application program is read from the terminal storage unit 12. Next, the terminal device 1 acquires an image obtained by capturing the current home screen 500. Next, the terminal device 1 extracts an icon image 501a that matches the read icon image 502 from the acquired images by a known similar image search process, and calculates the position and size of the extracted icon image 501a. . Then, the terminal device 1 displays a frame image corresponding to the calculated position and size superimposed on the home screen.

図5(b)は、端末装置1の端末表示部14に表示される、枠画像511が表示されたホーム画面510の一例を示す図である。   FIG. 5B is a diagram illustrating an example of the home screen 510 displayed on the terminal display unit 14 of the terminal device 1 and displaying the frame image 511.

ホーム画面510には、ホーム画面500と同様に、アプリケーションプログラムのアイコン画像501が表示されている。また、ユーザによって指定されたアプリケーションプログラムのアイコン画像501aに対応する枠画像511がホーム画面510に重畳して表示される。なお、ホーム画面510に、枠画像511内をタップ操作させるための情報(例えば、「枠内のアイコンをタップしましょう。」等の文字列情報)が表示されてもよい。   Similar to the home screen 500, an icon image 501 of an application program is displayed on the home screen 510. A frame image 511 corresponding to the icon image 501a of the application program designated by the user is displayed superimposed on the home screen 510. Note that information for tapping the inside of the frame image 511 (for example, character string information such as “Let's tap an icon in the frame”) may be displayed on the home screen 510.

図6(a)は、端末装置1の端末表示部14に表示される実行画面600の一例を示す図である。実行画面600は、ホーム画面510に表示されたアイコン画像501aをユーザがタップ操作した場合において、アイコン画像501aのアプリケーションプログラムが起動したときに表示される。   FIG. 6A is a diagram illustrating an example of an execution screen 600 displayed on the terminal display unit 14 of the terminal device 1. The execution screen 600 is displayed when the application program of the icon image 501a is started when the user taps the icon image 501a displayed on the home screen 510.

図6(a)に示す例では、実行画面600として、電子メールプログラムが実行した場合の実行画面が表示される。なお、図6(b)は、端末装置1の端末表示部14に表示された実行画面600に枠画像610を重畳して表示した画面の一例を示す図である。実行画面600には、枠画像610とともに操作方法情報611が重畳されて表示される。   In the example shown in FIG. 6A, an execution screen when the e-mail program is executed is displayed as the execution screen 600. FIG. 6B is a diagram illustrating an example of a screen displayed by superimposing a frame image 610 on the execution screen 600 displayed on the terminal display unit 14 of the terminal device 1. On the execution screen 600, operation method information 611 is superimposed and displayed together with the frame image 610.

枠画像610は、表示された実行画面600における操作対象である操作対象オブジェクト「新規ボタン」の位置及びサイズに対応する枠画像である。操作方法情報611には、ユーザに、表示された枠画像610に対応する操作対象オブジェクトを操作するように促す文字列情報等が表示される。   The frame image 610 is a frame image corresponding to the position and size of the operation target object “new button” that is the operation target on the displayed execution screen 600. In the operation method information 611, character string information or the like that prompts the user to operate the operation target object corresponding to the displayed frame image 610 is displayed.

図7(a)は、端末装置1の端末表示部14に表示される実行画面700の一例を示す図である。   FIG. 7A is a diagram illustrating an example of an execution screen 700 displayed on the terminal display unit 14 of the terminal device 1.

実行画面700は、実行画面600に表示された枠画像610に対応する操作対象オブジェクトをユーザがタップ操作した場合における電子メールプログラムの実行画面である。図6(b)及び図7(a)に示す例では、操作対象オブジェクト「新規ボタン」がユーザによってタップ操作されることに応じて、実行画面700として新規メール作成画面が表示される。   The execution screen 700 is an execution screen for an e-mail program when the user taps an operation target object corresponding to the frame image 610 displayed on the execution screen 600. In the example illustrated in FIG. 6B and FIG. 7A, a new mail creation screen is displayed as the execution screen 700 in response to the operation target object “new button” being tapped by the user.

実行画面700には、枠画像701及び操作方法情報702が重畳されて表示される。枠画像701は、表示された実行画面700における操作対象である操作対象オブジェクト「宛先入力ボックス」の位置及びサイズに対応する枠画像である。操作方法情報702には、ユーザに、表示された枠画像701に対応する操作対象オブジェクトを操作するように促す文字列情報等が表示される。   A frame image 701 and operation method information 702 are superimposed on the execution screen 700 and displayed. The frame image 701 is a frame image corresponding to the position and size of the operation target object “destination input box” that is the operation target on the displayed execution screen 700. In the operation method information 702, character string information or the like that prompts the user to operate an operation target object corresponding to the displayed frame image 701 is displayed.

図7(b)は、端末装置1の端末表示部14に表示された実行画面700に、次の操作対象である操作対象オブジェクトに対応する枠画像710を重畳して表示した画面の一例を示す図である。実行画面700には、図7(a)に示される枠画像701とともに、新たに枠画像710及び操作方法情報711が重畳されて表示される。図7(a)及び図7(b)に示す例では、枠画像701に対応する操作対象オブジェクト「宛先入力ボックス」がユーザによってタップ操作されたことに応じて、カーソルを「宛先入力ボックス」内に表示する処理が実行され、且つ、実行画面700に、枠画像710及び操作方法情報711が重畳されて表示される。   FIG. 7B shows an example of a screen displayed by superimposing a frame image 710 corresponding to the operation target object that is the next operation target on the execution screen 700 displayed on the terminal display unit 14 of the terminal device 1. FIG. A new frame image 710 and operation method information 711 are superimposed on the execution screen 700 and displayed together with the frame image 701 shown in FIG. In the example shown in FIG. 7A and FIG. 7B, the cursor is moved in the “destination input box” in response to a tap operation performed on the operation target object “destination input box” corresponding to the frame image 701 by the user. The frame image 710 and the operation method information 711 are superimposed on the execution screen 700 and displayed.

枠画像710は、表示された実行画面700における、次の操作対象である操作対象オブジェクト「文字入力ボタン」の位置及びサイズに対応する枠画像である。操作方法情報711には、ユーザに、表示された枠画像710に対応する操作対象オブジェクトを操作するように促す文字列情報等が表示される。   The frame image 710 is a frame image corresponding to the position and size of the operation target object “character input button” which is the next operation target on the displayed execution screen 700. The operation method information 711 displays character string information that prompts the user to operate an operation target object corresponding to the displayed frame image 710.

図8(a)は、端末装置1の端末表示部14に表示された実行画面700に、次の操作対象である操作対象オブジェクトに対応する枠画像800を重畳して表示した画面の一例を示す図である。実行画面700には、図7(a)に示される枠画像701とともに、新たに枠画像800及び操作方法情報801が重畳されて表示される。図7(b)及び図8(a)に示す例では、枠画像710に対応する操作対象オブジェクト「文字入力ボタン」がユーザによってタップ操作されたことに応じて、「a」の文字を「宛先入力ボックス」内に表示する処理が実行され、且つ、実行画面700に、枠画像800及び操作方法情報801が重畳されて表示される。   FIG. 8A shows an example of a screen displayed by superimposing a frame image 800 corresponding to the operation target object that is the next operation target on the execution screen 700 displayed on the terminal display unit 14 of the terminal device 1. FIG. On the execution screen 700, a frame image 800 and operation method information 801 are newly superimposed and displayed together with the frame image 701 shown in FIG. In the example shown in FIG. 7B and FIG. 8A, the character “a” is changed to “destination” in response to the operation of the operation target object “character input button” corresponding to the frame image 710 being tapped by the user. The processing to be displayed in the “input box” is executed, and the frame image 800 and the operation method information 801 are superimposed on the execution screen 700 and displayed.

枠画像800は、表示された実行画面700における、次の操作対象である操作対象オブジェクト「文字入力ボタン」の位置及びサイズに対応する枠画像である。操作方法情報801には、ユーザに、表示された枠画像800に対応する操作対象オブジェクトを操作するように促す文字列情報等が表示される。   The frame image 800 is a frame image corresponding to the position and size of the operation target object “character input button” that is the next operation target on the displayed execution screen 700. In the operation method information 801, character string information or the like that prompts the user to operate an operation target object corresponding to the displayed frame image 800 is displayed.

図8(b)は、端末装置1の端末表示部14に表示された実行画面700に、次の操作対象である操作対象オブジェクトに対応する枠画像810を重畳して表示した画面の一例を示す図である。実行画面700には、図7(a)に示される枠画像701とともに、新たに枠画像810及び操作方法情報811が重畳されて表示される。図8(a)及び図8(b)に示す例では、枠画像800に対応する操作対象オブジェクト「文字入力ボタン」がユーザによってタップ操作されたことに応じて、「e」の文字を「宛先入力ボックス」内に表示する処理が実行され、且つ、実行画面700に、枠画像810及び操作方法情報811が重畳されて表示される。   FIG. 8B illustrates an example of a screen in which a frame image 810 corresponding to the operation target object that is the next operation target is superimposed on the execution screen 700 displayed on the terminal display unit 14 of the terminal device 1. FIG. On the execution screen 700, a frame image 810 and operation method information 811 are newly superimposed and displayed together with the frame image 701 shown in FIG. In the example shown in FIG. 8A and FIG. 8B, the character “e” is changed to “destination” in response to the operation of the operation target object “character input button” corresponding to the frame image 800 being tapped by the user. The processing to be displayed in the “input box” is executed, and the frame image 810 and the operation method information 811 are superimposed on the execution screen 700 and displayed.

枠画像810は、表示された実行画面700における、次の操作対象である操作対象オブジェクト「文字入力ボタン」の位置及びサイズに対応する枠画像である。操作方法情報811には、ユーザに、表示された枠画像810に対応する操作対象オブジェクトを操作するように促す文字列情報等が表示される。   The frame image 810 is a frame image corresponding to the position and size of the operation target object “character input button” that is the next operation target on the displayed execution screen 700. In the operation method information 811, character string information or the like that prompts the user to operate an operation target object corresponding to the displayed frame image 810 is displayed.

図9(a)は、枠画像701に対応する「宛先入力ボックス」に所定の文字列が全て入力された後に、端末装置1の端末表示部14に表示された実行画面700に、次の操作対象である操作対象オブジェクト「件名入力ボックス」に対応する枠画像900及び操作対象オブジェクト「文字切替ボタン」に対応する枠画像901を重畳して表示した画面の一例を示す図である。   FIG. 9A illustrates the following operation on the execution screen 700 displayed on the terminal display unit 14 of the terminal device 1 after all the predetermined character strings are input to the “destination input box” corresponding to the frame image 701. It is a figure which shows an example of the screen which superimposed and displayed the frame image 900 corresponding to the operation target object "subject input box" and the frame image 901 corresponding to the operation target object "character switching button".

枠画像701に対応する「宛先入力ボックス」に所定の文字列が全て入力されると、枠画像900が表示されるとともに、枠画像900に対応する「件名入力ボックス」内にカーソルを表示する処理が実行され、且つ、実行画面700に、枠画像901及び操作方法情報902が重畳されて表示される。   When all the predetermined character strings are input to the “destination input box” corresponding to the frame image 701, the frame image 900 is displayed, and the cursor is displayed in the “subject input box” corresponding to the frame image 900 And the frame image 901 and the operation method information 902 are superimposed on the execution screen 700 and displayed.

枠画像901は、表示された実行画面700における、次の操作対象である操作対象オブジェクト「文字切替ボタン」の位置及びサイズに対応する枠画像である。操作方法情報902には、ユーザに、表示された枠画像901に対応する操作対象オブジェクトを操作するように促す文字列情報等が表示される。   The frame image 901 is a frame image corresponding to the position and size of the operation target object “character switching button” which is the next operation target on the displayed execution screen 700. In the operation method information 902, character string information that prompts the user to operate the operation target object corresponding to the displayed frame image 901 is displayed.

図9(b)は、端末装置1の端末表示部14に表示された実行画面700に、次の操作対象である操作対象オブジェクトに対応する枠画像910を重畳して表示した画面の一例を示す図である。実行画面700には、図9(a)に示される枠画像901とともに、新たに枠画像910及び操作方法情報911が重畳されて表示される。図9(a)及び図9(b)に示す例では、枠画像901に対応する操作対象オブジェクト「文字切替ボタン」がユーザによってタップ操作されたことに応じて、文字入力ボタンの入力モードが、英数字入力モードから、かな入力モードに変更する処理が実行され、且つ、実行画面700に、枠画像910及び操作方法情報911が重畳されて表示される。   FIG. 9B shows an example of a screen displayed by superimposing a frame image 910 corresponding to the operation target object that is the next operation target on the execution screen 700 displayed on the terminal display unit 14 of the terminal device 1. FIG. On the execution screen 700, a frame image 910 and operation method information 911 are newly superimposed and displayed together with the frame image 901 shown in FIG. In the example shown in FIG. 9A and FIG. 9B, the input mode of the character input button is changed in response to the operation target object “character switching button” corresponding to the frame image 901 being tapped by the user. A process for changing from the alphanumeric input mode to the kana input mode is executed, and the frame image 910 and the operation method information 911 are superimposed on the execution screen 700 and displayed.

枠画像910は、表示された実行画面700における、次の操作対象である操作対象オブジェクト「文字入力ボタン」の位置及びサイズに対応する枠画像である。操作方法情報911には、ユーザに、表示された枠画像910に対応する操作対象オブジェクトを操作するように促す文字列情報等が表示される。   The frame image 910 is a frame image corresponding to the position and size of the operation target object “character input button” that is the next operation target on the displayed execution screen 700. In the operation method information 911, character string information that prompts the user to operate the operation target object corresponding to the displayed frame image 910 is displayed.

図10(a)は、枠画像901に対応する「件名入力ボックス」に所定の文字列が全て入力された後に、端末装置1の端末表示部14に表示された実行画面700に、次の操作対象である操作対象オブジェクト「本文入力ボックス」に対応する枠画像1000及び操作対象オブジェクト「文字入力ボタン」に対応する枠画像1001を重畳して表示した画面の一例を示す図である。   FIG. 10A shows the next operation on the execution screen 700 displayed on the terminal display unit 14 of the terminal device 1 after all predetermined character strings have been input in the “subject input box” corresponding to the frame image 901. It is a figure which shows an example of the screen which superimposed and displayed the frame image 1000 corresponding to the operation target object "text input box" which is the object, and the frame image 1001 corresponding to the operation target object "character input button".

枠画像901に対応する「件名入力ボックス」に所定の文字列が全て入力されると、枠画像1000が表示されるとともに、枠画像1000に対応する「本文入力ボックス」内にカーソルを表示する処理が実行され、且つ、実行画面700に、枠画像1001及び操作方法情報1002が重畳されて表示される。   When all the predetermined character strings are input in the “subject input box” corresponding to the frame image 901, the frame image 1000 is displayed, and a process of displaying a cursor in the “text input box” corresponding to the frame image 1000 And the frame image 1001 and the operation method information 1002 are superimposed on the execution screen 700 and displayed.

枠画像1001は、表示された実行画面700における、次の操作対象である操作対象オブジェクト「文字入力ボタン」の位置及びサイズに対応する枠画像である。操作方法情報1002には、ユーザに、表示された枠画像1001に対応する操作対象オブジェクトを操作するように促す文字列情報等が表示される。   The frame image 1001 is a frame image corresponding to the position and size of the operation target object “character input button” that is the next operation target on the displayed execution screen 700. In the operation method information 1002, character string information or the like that prompts the user to operate an operation target object corresponding to the displayed frame image 1001 is displayed.

図10(b)は、枠画像1000に対応する「本文入力ボックス」に所定の文字列の最後の文字を入力するための画面の一例を示す図である。端末装置1の端末表示部14に表示された実行画面700に、次の操作対象である操作対象オブジェクト「本文入力ボックス」に対応する枠画像1010及び操作方法情報1011が重畳されて表示される。   FIG. 10B is a diagram illustrating an example of a screen for inputting the last character of a predetermined character string in the “text input box” corresponding to the frame image 1000. On the execution screen 700 displayed on the terminal display unit 14 of the terminal device 1, the frame image 1010 and the operation method information 1011 corresponding to the operation target object “text input box” that is the next operation target are superimposed and displayed.

枠画像1010は、表示された実行画面700における、次の操作対象である操作対象オブジェクト「文字入力ボタン」の位置及びサイズに対応する枠画像である。操作方法情報1011には、ユーザに、表示された枠画像1010に対応する操作対象オブジェクトを操作するように促す文字列情報等が表示される。   The frame image 1010 is a frame image corresponding to the position and size of the operation target object “character input button” which is the next operation target on the displayed execution screen 700. The operation method information 1011 displays character string information that prompts the user to operate the operation target object corresponding to the displayed frame image 1010.

ユーザによって、枠画像1010に対応する操作対象オブジェクトが選択されたことに応じて、「。」の文字を「本文入力ボックス」内に表示する処理が実行され、その後、電子メールプログラムの実行が終了する。そして、後述する画像表示画面1100が表示される。   In response to selection of the operation target object corresponding to the frame image 1010 by the user, processing for displaying the character “.” In the “text entry box” is executed, and then the execution of the e-mail program is terminated. To do. Then, an image display screen 1100 described later is displayed.

図11(a)は、端末装置1の端末表示部14に表示される画像表示画面1100の一例を示す図である。画像表示画面1100には、実行画面の画像1101、枠画像1102、操作方法情報1103等が表示される。画像表示画面1100は、図10(b)に示される実行画面700において、枠画像1010に対応する操作対象オブジェクトが選択された場合に表示される。   FIG. 11A is a diagram illustrating an example of an image display screen 1100 displayed on the terminal display unit 14 of the terminal device 1. On the image display screen 1100, an execution screen image 1101, a frame image 1102, operation method information 1103, and the like are displayed. The image display screen 1100 is displayed when an operation target object corresponding to the frame image 1010 is selected on the execution screen 700 shown in FIG.

実行画面の画像1101は、枠画像1010に対応する操作対象オブジェクトが選択された場合に表示された実行画面をキャプチャした画像である。枠画像1102は、実行画面の画像1101における操作対象である操作対象オブジェクトの画像領域の位置及びサイズに対応する枠画像である。操作方法情報1103は、ユーザに、表示された枠画像1102に対応する操作対象オブジェクトの画像領域を操作するように促す文字列情報等が表示される。   The execution screen image 1101 is an image obtained by capturing the execution screen displayed when the operation target object corresponding to the frame image 1010 is selected. The frame image 1102 is a frame image corresponding to the position and size of the image area of the operation target object that is the operation target in the image 1101 on the execution screen. In the operation method information 1103, character string information or the like that prompts the user to operate the image area of the operation target object corresponding to the displayed frame image 1102 is displayed.

なお、画像1101に対応する実行画面は、当該画像1101に含まれる枠画像1010に対応する操作対象オブジェクトに関連付けられた所定の処理が他の装置との通信処理を含む場合の実行画面等である。これにより、ユーザが、操作練習中においてユーザが操作を誤っても、無用な通信費用がかかることがないため、ユーザは操作方法の習得に集中することが可能になる。   The execution screen corresponding to the image 1101 is an execution screen or the like when a predetermined process associated with the operation target object corresponding to the frame image 1010 included in the image 1101 includes a communication process with another apparatus. . Accordingly, even if the user makes an operation mistake during the operation practice, unnecessary communication costs are not incurred, so that the user can concentrate on learning the operation method.

図11(b)は、端末装置1の端末表示部14に表示される画像表示画面1110の一例を示す図である。画像表示画面1110には、実行画面の画像1111、操作方法情報1112、終了ボタン1113等が表示される。画像表示画面1110は、図11(a)に示される画像表示画面1100において、枠画像1102に対応する操作対象オブジェクトの画像領域が選択された場合に表示される。   FIG. 11B is a diagram illustrating an example of an image display screen 1110 displayed on the terminal display unit 14 of the terminal device 1. On the image display screen 1110, an image 1111 of the execution screen, operation method information 1112, an end button 1113, and the like are displayed. The image display screen 1110 is displayed when the image area of the operation target object corresponding to the frame image 1102 is selected on the image display screen 1100 shown in FIG.

実行画面の画像1111は、枠画像1102に対応する操作対象オブジェクトが選択された場合に表示された実行画面をキャプチャした画像である。操作方法情報1112は、ユーザに練習させる所定の操作手順が終了したことを示す文字列情報等が表示される。ユーザによって、終了ボタン1113が選択されると、画像表示画面1110の表示が終了し、操作方法の練習が終了する。   The execution screen image 1111 is an image obtained by capturing the execution screen displayed when the operation target object corresponding to the frame image 1102 is selected. The operation method information 1112 displays character string information indicating that a predetermined operation procedure to be practiced by the user is completed. When the end button 1113 is selected by the user, the display of the image display screen 1110 is ended, and the practice of the operation method is ended.

(各種テーブル)
以下、端末記憶部12に記憶される各種テーブルについて説明する。図12(a)は、第1操作手順テーブルT1のデータ構造の一例を示す図であり、図12(b)は、第2操作手順テーブルT2のデータ構造の一例を示す図である。なお、端末記憶部12に記憶される各種テーブルの全て又は一部は、端末記憶部12とは異なる一又は複数の装置によって記憶されてもよい。この場合、端末装置1は、無線又は有線の通信ネットワークを介して、各種テーブルを記憶する一又は複数の装置と接続し、一又は複数の装置から各種テーブルに含まれる情報を受信し、又は、一又は複数の装置に各種テーブルに記憶する情報を送信する。
(Various tables)
Hereinafter, various tables stored in the terminal storage unit 12 will be described. FIG. 12A is a diagram illustrating an example of a data structure of the first operation procedure table T1, and FIG. 12B is a diagram illustrating an example of a data structure of the second operation procedure table T2. Note that all or some of the various tables stored in the terminal storage unit 12 may be stored by one or a plurality of devices different from the terminal storage unit 12. In this case, the terminal device 1 is connected to one or a plurality of devices that store various tables via a wireless or wired communication network, and receives information included in the various tables from one or more devices, or Information stored in various tables is transmitted to one or a plurality of devices.

図12(a)に示す第1操作手順テーブルT1は、アプリケーションプログラムの実行画面における操作対象である操作対象オブジェクトに対応する枠画像の位置及びサイズ、並びに、実行画面をキャプチャした画像に遷移する手順を管理するためのテーブルである。第1操作手順テーブルT1は、各アプリケーションプログラムにおいて、ユーザに練習させたい機能ごとに作成される。第1操作手順テーブルT1には、ユーザに練習させる所定の操作手順のそれぞれについて、各操作手順の手順ID(Identification)、位置、サイズ、画像練習指示等が互いに関連付けて所定の操作手順の順番に従って記憶される。   The first operation procedure table T1 shown in FIG. 12A is a procedure for transitioning to the position and size of the frame image corresponding to the operation target object that is the operation target on the execution screen of the application program, and an image obtained by capturing the execution screen. It is a table for managing. The first operation procedure table T1 is created for each function that the user wants to practice in each application program. In the first operation procedure table T1, for each predetermined operation procedure to be practiced by the user, the procedure ID (Identification), position, size, image practice instruction, etc. of each operation procedure are associated with each other according to the order of the predetermined operation procedure. Remembered.

手順IDは、各操作手順を一意に識別するための識別情報の一例である。また、位置には、各操作手順に対応するアプリケーションプログラムの実行画面における操作対象である操作対象オブジェクトの位置を示す情報が記憶される。また、サイズには、各操作手順に対応するアプリケーションプログラムの実行画面における操作対象である操作対象オブジェクトのサイズを示す情報が記憶される。画像練習指示には、各操作手順に対応するアプリケーションプログラムの実行画面における操作対象である操作対象オブジェクトが選択された場合に遷移する実行画面をキャプチャした画像に係る、後述する第2操作手順テーブルT2の手順IDが記憶される。なお、画像練習指示に情報が記憶されていない場合、実行画面をキャプチャした画像に遷移しない。   The procedure ID is an example of identification information for uniquely identifying each operation procedure. Further, information indicating the position of the operation target object that is the operation target on the execution screen of the application program corresponding to each operation procedure is stored in the position. The size stores information indicating the size of the operation target object that is the operation target on the execution screen of the application program corresponding to each operation procedure. In the image practice instruction, a second operation procedure table T2 (to be described later) related to an image obtained by capturing an execution screen that transitions when an operation target object that is an operation target on the execution screen of the application program corresponding to each operation procedure is selected. The procedure ID is stored. If no information is stored in the image practice instruction, the execution screen does not transition to the captured image.

図12(b)に示す第2操作手順テーブルT2は、アプリケーションプログラムの実行画面をキャプチャした画像、並びに、当該画像に含まれる操作対象オブジェクトに対応する枠画像の位置及びサイズを管理するためのテーブルである。第2操作手順テーブルT2は、各アプリケーションプログラムにおいて、ユーザに練習させたい機能ごとに作成される。第2操作手順テーブルT2には、ユーザに練習させる所定の操作手順のそれぞれについて、各操作手順の手順ID、画像ID,位置、サイズ等が互いに関連付けて所定の操作手順の順番に従って記憶される。   The second operation procedure table T2 shown in FIG. 12B is a table for managing the position and size of the frame image corresponding to the operation target object included in the image captured from the execution screen of the application program. It is. The second operation procedure table T2 is created for each function that the user wants to practice in each application program. The second operation procedure table T2 stores the procedure ID, image ID, position, size, and the like of each operation procedure in association with each other according to the order of the predetermined operation procedure for each of the predetermined operation procedures to be practiced by the user.

手順IDは、各操作手順を一意に識別するための識別情報の一例である。また、画像IDには、各操作手順に対応するアプリケーションプログラムの実行画面をキャプチャした画像を識別するための識別情報が記憶される。また、位置には、各操作手順に対応するアプリケーションプログラムの実行画面における操作対象である操作対象オブジェクトの位置を示す情報が記憶される。また、サイズには、各操作手順に対応するアプリケーションプログラムの実行画面における操作対象である操作対象オブジェクトのサイズを示す情報が記憶される。   The procedure ID is an example of identification information for uniquely identifying each operation procedure. The image ID stores identification information for identifying an image obtained by capturing an execution screen of the application program corresponding to each operation procedure. Further, information indicating the position of the operation target object that is the operation target on the execution screen of the application program corresponding to each operation procedure is stored in the position. The size stores information indicating the size of the operation target object that is the operation target on the execution screen of the application program corresponding to each operation procedure.

(アイコン画像提示処理の動作フロー)
図13は、取得部152、表示処理部153によって実行されるガイド画面表示処理の動作フローの一例を示す図である。
(Operation flow of icon image presentation processing)
FIG. 13 is a diagram illustrating an example of an operation flow of guide screen display processing executed by the acquisition unit 152 and the display processing unit 153.

まず、取得部152は、端末制御部151から、アイコン画像提示指示を取得する(ステップS101)。すなわち、端末制御部151は、図示しない練習開始画面に表示された複数のアプリケーションプログラムの中からユーザによって練習したいアプリケーションプログラムが選択され、且つ、選択されたアプリケーションプログラムのうちの練習したい機能がユーザによって指定されたことを検知した場合に、取得部152にアイコン画像提示指示を供給する。なお、アイコン画像提示指示には、選択されたアプリケーションプログラムを示す情報及び練習したい機能を示す情報が含まれる。   First, the acquisition unit 152 acquires an icon image presentation instruction from the terminal control unit 151 (step S101). That is, the terminal control unit 151 selects an application program to be practiced by the user from among a plurality of application programs displayed on an unillustrated practice start screen, and the function to be practiced among the selected application programs is selected by the user. When the designation is detected, an icon image presentation instruction is supplied to the acquisition unit 152. Note that the icon image presentation instruction includes information indicating the selected application program and information indicating a function to be practiced.

次に、取得部152は、端末装置1の現在のホーム画面をキャプチャした画像を取得する(ステップS102)。   Next, the acquisition part 152 acquires the image which captured the present home screen of the terminal device 1 (step S102).

次に、表示処理部153は、アイコン画像提示指示に含まれるアプリケーションプログラムを示す情報に基づいて、アプリケーションプログラムのアイコン画像を端末記憶部12から読み出す。そして、表示処理部153は、ステップS102で取得した画像の中から、読み出したアイコン画像と合致するアイコン画像を抽出する(ステップS103)。   Next, the display processing unit 153 reads the icon image of the application program from the terminal storage unit 12 based on information indicating the application program included in the icon image presentation instruction. Then, the display processing unit 153 extracts an icon image that matches the read icon image from the images acquired in step S102 (step S103).

次に、表示処理部153は、抽出したアイコン画像の位置及びサイズを算出する(ステップS104)。すなわち、キャプチャした画像の上端且つ左端の位置を原点(0,0)とし、且つ、キャプチャした画像の縦方向の高さ及び画像の横方向のサイズに基づいて、抽出したアイコン画像の上端且つ左端の位置及びサイズを算出する。   Next, the display processing unit 153 calculates the position and size of the extracted icon image (step S104). That is, the upper end and the left end of the captured image are set to the origin (0, 0), and the upper end and the left end of the extracted icon image are based on the vertical height and the horizontal size of the captured image. Calculate the position and size.

そして、表示処理部153は、算出した枠画像の位置及びサイズに対応する枠画像を生成し、ホーム画像に重畳させるようにして、生成した枠画像を表示し(ステップS105)、一連のステップを終了する。   Then, the display processing unit 153 generates a frame image corresponding to the calculated position and size of the frame image, displays the generated frame image so as to be superimposed on the home image (step S105), and performs a series of steps. finish.

なお、上述したステップS103〜S104をサーバ等の外部装置が実行してもよい。この場合、例えば、取得部152は、アイコン画像提示指示及び取得した画像を、端末通信部11を介して外部装置に送信する。外部装置は、各アプリケーションプログラムのアイコン画像を記憶しており、端末装置1から送信されたアイコン画像提示指示及び画像を受信すると、ステップS103〜S104の各処理を実行する。そして、外部装置は、ステップS103〜S104の各処理の実行結果を端末装置1に送信する。   Note that steps S103 to S104 described above may be executed by an external device such as a server. In this case, for example, the acquisition unit 152 transmits an icon image presentation instruction and the acquired image to the external device via the terminal communication unit 11. The external device stores the icon image of each application program. When the external device receives the icon image presentation instruction and the image transmitted from the terminal device 1, each process of steps S103 to S104 is executed. Then, the external device transmits the execution results of the processes in steps S103 to S104 to the terminal device 1.

これにより、端末装置1は、端末記憶部12の記憶容量を消費せずに、ホーム画面に枠画像を表示することが可能になる。
(練習情報表示処理の動作フロー)
図14は、端末制御部151、取得部152、表示処理部153によって実行される練習情報表示処理の動作フローの一例を示す図である。練習情報表示処理は、ユーザによる端末操作部13による操作に応じて、ホーム画面に表示された枠画像に対応するアイコン画像が選択された場合に、実行される。
Thereby, the terminal device 1 can display the frame image on the home screen without consuming the storage capacity of the terminal storage unit 12.
(Practice information display process flow)
FIG. 14 is a diagram illustrating an example of an operation flow of practice information display processing executed by the terminal control unit 151, the acquisition unit 152, and the display processing unit 153. The practice information display process is executed when an icon image corresponding to the frame image displayed on the home screen is selected in response to an operation by the user through the terminal operation unit 13.

まず、端末制御部151は、選択されたアイコン画像に対応するアプリケーションプログラムを起動させ、表示処理部153は、アプリケーションプログラムの最初の実行画面を表示し、第1操作手順テーブルT1を参照し、最初の操作手順の手順IDに関連図けられた位置及びサイズに対応する枠画像を表示する(ステップS201)。   First, the terminal control unit 151 activates the application program corresponding to the selected icon image, the display processing unit 153 displays the first execution screen of the application program, refers to the first operation procedure table T1, A frame image corresponding to the position and size related to the procedure ID of the operation procedure is displayed (step S201).

次に、表示処理部153は、選択指示を取得したか否かを判定する(ステップS202)。なお、ステップS201で表示された実行画面における操作対象の操作対象オブジェクトが選択された場合、端末制御部151は、表示処理部153に選択指示を供給し、表示処理部153は、端末制御部151から供給された選択指示を所得する。   Next, the display processing unit 153 determines whether a selection instruction has been acquired (step S202). When an operation target object to be operated on the execution screen displayed in step S201 is selected, the terminal control unit 151 supplies a selection instruction to the display processing unit 153, and the display processing unit 153 includes the terminal control unit 151. Earn selection instructions supplied by.

表示処理部153は、選択指示を取得していないと判定した場合(ステップS202−No)、端末制御部151から選択指示を取得するまでステップS202を実行する。   If the display processing unit 153 determines that the selection instruction has not been acquired (step S202—No), the display processing unit 153 executes step S202 until the selection instruction is acquired from the terminal control unit 151.

次に、表示処理部153は、選択指示を取得したと判定した場合(ステップS202−Yes)、現在の操作手順の手順IDに、画像練習指示が記憶されているか否かを判定する(ステップS203)。   Next, when it is determined that the selection instruction has been acquired (step S202—Yes), the display processing unit 153 determines whether an image practice instruction is stored in the procedure ID of the current operation procedure (step S203). ).

表示処理部153によって画像練習指示が記憶されていると判定された場合(ステップS203−Yes)、端末制御部151は、実行中(練習中)のアプリケーションプログラムの実行を終了し、後述するステップS206に処理を進める。   If it is determined by the display processing unit 153 that an image practice instruction is stored (step S203—Yes), the terminal control unit 151 ends the execution of the application program being executed (during practice), and will be described later in step S206. Proceed with the process.

また、表示処理部153は、画像練習指示画像練習指示が記憶されていないと判定した場合(ステップS203−No)、端末制御部151は、ステップS202において選択されたと判定された操作対象オブジェクトに関連付けられた所定の処理を実行する(ステップS204)。なお、所定の処理は、例えば、操作対象オブジェクトがメールの新規作成を指示するボタンである場合、メール作成画面(「次の実行画面」の一例)を表示する処理であり、また、例えば、操作対象オブジェクトが文字入力を指示するボタンである場合、カーソルが表示された入力ボックスに文字を表示する処理である。   Further, when the display processing unit 153 determines that the image practice instruction image practice instruction is not stored (step S203—No), the terminal control unit 151 associates with the operation target object determined to be selected in step S202. The predetermined processing is executed (step S204). The predetermined process is a process for displaying a mail creation screen (an example of a “next execution screen”), for example, when the operation target object is a button for instructing a new mail creation. When the target object is a button for instructing character input, the character object is displayed in the input box where the cursor is displayed.

次に、表示処理部153は、ステップS202において選択されたと判定された操作対象オブジェクトに対応する操作手順の次の操作手順の手順IDを特定し、第1操作手順テーブルT1を参照して、特定した手順IDに関連付けられた位置及びサイズを抽出する。次に、表示処理部153は、抽出した位置及びサイズに対応する枠画像を表示し、ステップS202に処理を戻す(ステップS205)。   Next, the display processing unit 153 specifies the procedure ID of the operation procedure next to the operation procedure corresponding to the operation target object determined to be selected in step S202, and specifies the procedure ID by referring to the first operation procedure table T1. The position and size associated with the performed procedure ID are extracted. Next, the display processing unit 153 displays a frame image corresponding to the extracted position and size, and returns the process to step S202 (step S205).

表示処理部153は、端末記憶部12に記憶された設定表示倍率を取得する(ステップS206)。   The display processing unit 153 acquires the setting display magnification stored in the terminal storage unit 12 (step S206).

次に、表示処理部153は、ステップS203において記憶されたと判定した画像練習指示に含まれる手順IDを抽出して、第2操作手順テーブルT2を参照して、抽出した手順IDに関連付けられた画像ID、位置及びサイズを抽出する。次に、表示処理部153は、抽出した画像IDに関連付けられた画像(実行画面をキャプチャした画像)を設定表示倍率に基づいて表示し、抽出した位置及びサイズに対応する枠画像を設定表示倍率に基づいて表示する(ステップS207)。   Next, the display processing unit 153 extracts the procedure ID included in the image practice instruction determined to be stored in step S203, refers to the second operation procedure table T2, and associates the image associated with the extracted procedure ID. Extract ID, position and size. Next, the display processing unit 153 displays an image associated with the extracted image ID (an image obtained by capturing the execution screen) based on the setting display magnification, and sets a frame image corresponding to the extracted position and size as the setting display magnification. (Step S207).

次に、表示処理部153は、選択指示を取得したか否かを判定する(ステップS208)。すなわち、表示されている画像に含まれる、操作対象の操作対象オブジェクトの画像領域が選択された場合、端末制御部151は、表示処理部153に選択指示を供給し、表示処理部153は、端末制御部151から供給された選択指示を所得する。   Next, the display processing unit 153 determines whether a selection instruction has been acquired (step S208). That is, when the image area of the operation target object included in the displayed image is selected, the terminal control unit 151 supplies a selection instruction to the display processing unit 153, and the display processing unit 153 The selection instruction supplied from the control unit 151 is obtained.

表示処理部153は、選択指示を取得しない場合(ステップS208−No)、端末制御部151から選択指示を取得するまでステップS208を実行する。   When the display processing unit 153 does not acquire the selection instruction (No at Step S208), the display processing unit 153 executes Step S208 until the selection instruction is acquired from the terminal control unit 151.

次に、表示処理部153は、ステップS208で選択指示が取得されたと判定された場合(ステップS208−Yes)、当該選択指示が取得されたと判定された際の操作対象オブジェクトが終了ボタンであるか否かを判定する(ステップS209)。   Next, if it is determined that the selection instruction is acquired in step S208 (step S208-Yes), the display processing unit 153 determines whether the operation target object when it is determined that the selection instruction is acquired is an end button. It is determined whether or not (step S209).

表示処理部153は、ステップS208で選択指示が取得されたと判定された際の操作対象オブジェクトが終了ボタンでないと判定した場合(ステップS209−No)、ステップS208で選択指示が取得されたと判定された際の操作対象オブジェクトに対応する操作手順の次の操作手順の手順IDを特定し、第2操作手順テーブルT2を参照して、特定した画像ID、位置及びサイズを抽出する。次に、表示処理部153は、抽出した画像IDに関連付けられた画像を表示し、抽出した位置及びサイズに対応する枠画像を表示し(ステップS210)、ステップS208に処理を戻す。   When the display processing unit 153 determines that the operation target object is not the end button when it is determined in step S208 that the selection instruction has been acquired (No in step S209), the display processing unit 153 determines that the selection instruction has been acquired in step S208. The procedure ID of the operation procedure next to the operation procedure corresponding to the operation target object at that time is specified, and the specified image ID, position, and size are extracted with reference to the second operation procedure table T2. Next, the display processing unit 153 displays an image associated with the extracted image ID, displays a frame image corresponding to the extracted position and size (step S210), and returns the process to step S208.

また、表示処理部153は、ステップS208で選択指示が取得されたと判定された際の操作対象オブジェクトが終了ボタンであると判定した場合(ステップS209−Yes)、一連のステップを終了する。   If the display processing unit 153 determines that the operation target object when it is determined in step S208 that the selection instruction has been acquired is an end button (step S209—Yes), the display processing unit 153 ends the series of steps.

(変形例1)
なお、本発明は、上述した実施形態に限定されるものではない。例えば、操作方法情報611は、文字列情報に限らず、表示された枠画像に対応する操作対象オブジェクトを操作するように促す情報であれば、どのような情報でもよく、例えば、画像情報(枠画像を指し示す矢印画像等)、音声情報等であってもよい。
(Modification 1)
In addition, this invention is not limited to embodiment mentioned above. For example, the operation method information 611 is not limited to character string information, and may be any information as long as it is information that prompts the user to operate the operation target object corresponding to the displayed frame image. It may be an arrow image pointing to an image), audio information, or the like.

(変形例2)
また、端末装置1の各画面において枠画像が表示されている場合、ユーザによる端末操作部13の操作に応じて、枠画像以外の表示領域が指定された場合、端末制御部151は、当該指定された情報を無効にしてもよい。これにより、ユーザが、誤操作によって枠画像以外の表示領域を指定したとしても、当該誤操作が実行中のアプリケーションに反映されないため、ユーザの操作練習が中断することなく、端末装置1によって、効率的な画面操作練習を提供することが可能になる。
(Modification 2)
In addition, when a frame image is displayed on each screen of the terminal device 1, when a display area other than the frame image is designated according to the operation of the terminal operation unit 13 by the user, the terminal control unit 151 performs the designation. The information may be invalidated. As a result, even if the user designates a display area other than the frame image by an erroneous operation, the erroneous operation is not reflected in the application being executed. It becomes possible to provide screen operation practice.

なお、上述した変形例1及び変形例2は、少なくとも2以上の変形例が組み合わされて本実施形態の端末装置1に組み込まれてもよい。   Note that the first and second modifications described above may be combined into at least the two or more modifications and incorporated into the terminal device 1 of the present embodiment.

当業者は、本発明の精神及び範囲から外れることなく、様々な変更、置換、及び修正をこれに加えることが可能であることを理解されたい。   It should be understood by those skilled in the art that various changes, substitutions, and modifications can be made thereto without departing from the spirit and scope of the present invention.

1 端末装置
11 端末通信部
12 端末記憶部
13 端末操作部
14 端末表示部
15 端末処理部
151 端末制御部
152 取得部
153 表示処理部
DESCRIPTION OF SYMBOLS 1 Terminal device 11 Terminal communication part 12 Terminal memory | storage part 13 Terminal operation part 14 Terminal display part 15 Terminal processing part 151 Terminal control part 152 Acquisition part 153 Display processing part

Claims (4)

表示部、記憶部、及び、プロセッサを有し、アプリケーションプログラムを実行する端末装置に、前記アプリケーションプログラムの画面操作方法を説明させるためのプログラムであって、
前記アプリケーションプログラムにおいて、所定の操作手順で操作した場合に遷移する一連の前記アプリケーションプログラムの実行画面の情報を前記記憶部に記憶するとともに、前記一連のアプリケーションプログラムの実行画面に含まれる操作対象である操作対象オブジェクトの位置及びサイズを前記所定の操作手順の順番に前記記憶部に記憶し、
前記表示部に表示される前記アプリケーションプログラムの実行画面の設定表示倍率を取得し、
ユーザからの前記アプリケーションプログラムの練習指示を取得した場合前記アプリケーションプログラムを実行させ、前記一連のアプリケーションプログラムの実行画面のうちの所定の実行画面を、前記設定表示倍率に基づいて前記表示部に表示し、
前記所定の実行画面に含まれる前記操作対象オブジェクトに対応する枠画像を、前記設定表示倍率に基づいて変更した前記操作対象オブジェクトの位置及びサイズで作成し、前記所定の実行画面に重畳させるようにして前記表示部に表示し、
前記枠画像に対応する操作対象オブジェクトに関連付けられた処理が、他の装置との通信処理を含む場合、ユーザからの前記枠画像に対応する操作対象オブジェクトの選択指示に応じて、前記アプリケーションプログラムに当該通信処理を実行させずに当該操作対象オブジェクトに関連付けられた所定の処理を実行させ、前記所定の画像から、前記一連のアプリケーションプログラムの実行画面のうちの次の実行画面へ切り換えを行い、前記次の実行画面に含まれる操作対象オブジェクトに対応する枠画像を前記次の実行画面に重畳して表示する、
ことを前記プロセッサに実行させるプログラム。
A program having a display unit, a storage unit, and a processor for causing a terminal device that executes an application program to explain a screen operation method of the application program,
In the application program, information on a series of execution screens of the application program that transitions when operated by a predetermined operation procedure is stored in the storage unit, and is an operation target included in the execution screen of the series of application programs Storing the position and size of the operation target object in the storage unit in the order of the predetermined operation procedure ;
Obtaining a setting display magnification of the execution screen of the application program displayed on the display unit;
If you get the practice instruction of the application program from the user, to execute the application program, displays a predetermined execution screen of the execution screen of the set of application programs, the display unit based on the set display magnification And
A frame image corresponding to the operation target object included in the predetermined execution screen is created with the position and size of the operation target object changed based on the setting display magnification, and is superimposed on the predetermined execution screen. Displayed on the display unit,
When the process associated with the operation target object corresponding to the frame image includes a communication process with another device, the application program is selected according to a selection instruction of the operation target object corresponding to the frame image from the user. to execute the predetermined processing associated with the operation target object without executing the communication process, from the predetermined image, have the following line switching to the execution screen of the execution screen of the set of application programs, Displaying a frame image corresponding to the operation target object included in the next execution screen so as to be superimposed on the next execution screen;
A program that causes the processor to execute the above.
前記表示部に前記アプリケーションプログラムのアイコン画像を含むホーム画面が表示されている場合において、ユーザから前記アプリケーションプログラムのアイコン画像の提示指示を取得すると、前記ホーム画面の画像データを取得し、
前記取得した画像データの中から、前記アプリケーションプログラムのアイコン画像の位置及びサイズを特定し、
前記特定した位置及びサイズに対応する枠画像を、前記表示されているホーム画面に重畳して表示し、
ユーザから前記枠画像に対応するアイコン画像の選択指示を取得した場合、前記アプリケーションプログラムの練習指示を取得する処理を実行する、請求項に記載のプログラム。
When a home screen including an icon image of the application program is displayed on the display unit, when obtaining a presentation instruction for the icon image of the application program from a user, the image data of the home screen is acquired,
From the acquired image data, specify the position and size of the icon image of the application program,
A frame image corresponding to the specified position and size is displayed superimposed on the displayed home screen,
If you get the selection instruction of the icon image corresponding to the frame image from the user, it executes the process of acquiring the training instruction of the application program, the program according to claim 1.
表示部、記憶部、及び、プロセッサを有し、アプリケーションプログラムを実行し且つ前記アプリケーションプログラムの画面操作方法を説明する端末装置の制御方法であって、
前記アプリケーションプログラムにおいて、所定の操作手順で操作した場合に遷移する一連の前記アプリケーションプログラムの実行画面の情報を前記記憶部に記憶するとともに、前記一連のアプリケーションプログラムの実行画面に含まれる操作対象である操作対象オブジェクトの位置及びサイズを前記所定の操作手順の順番に前記記憶部に記憶し、
前記表示部に表示される前記アプリケーションプログラムの実行画面の設定表示倍率を取得し、
ユーザからの前記アプリケーションプログラムの練習指示を取得した場合前記アプリケーションプログラムを実行させ、前記一連のアプリケーションプログラムの実行画面のうちの所定の実行画面を、前記設定表示倍率に基づいて前記表示部に表示し、
前記所定の実行画面に含まれる前記操作対象オブジェクトに対応する枠画像を、前記設定表示倍率に基づいて変更した前記操作対象オブジェクトの位置及びサイズで作成し、前記所定の実行画面に重畳させるようにして前記表示部に表示し、
前記枠画像に対応する操作対象オブジェクトに関連付けられた処理が、他の装置との通信処理を含む場合、ユーザからの前記枠画像に対応する操作対象オブジェクトの選択指示に応じて、前記アプリケーションプログラムに当該通信処理を実行させずに当該操作対象オブジェクトに関連付けられた所定の処理を実行させ、前記所定の画像から、前記一連のアプリケーションプログラムの実行画面のうちの次の実行画面へ切り換えを行い、前記次の実行画面に含まれる操作対象オブジェクトに対応する枠画像を前記次の実行画面に重畳して表示する、
ことを含むことを特徴とする制御方法。
A control method for a terminal device that includes a display unit, a storage unit, and a processor, executes an application program, and explains a screen operation method of the application program,
In the application program, information on a series of execution screens of the application program that transitions when operated by a predetermined operation procedure is stored in the storage unit, and is an operation target included in the execution screen of the series of application programs Storing the position and size of the operation target object in the storage unit in the order of the predetermined operation procedure ;
Obtaining a setting display magnification of the execution screen of the application program displayed on the display unit;
If you get the practice instruction of the application program from the user, to execute the application program, displays a predetermined execution screen of the execution screen of the set of application programs, the display unit based on the set display magnification And
A frame image corresponding to the operation target object included in the predetermined execution screen is created with the position and size of the operation target object changed based on the setting display magnification, and is superimposed on the predetermined execution screen. Displayed on the display unit,
When the process associated with the operation target object corresponding to the frame image includes a communication process with another device, the application program is selected according to a selection instruction of the operation target object corresponding to the frame image from the user. to execute the predetermined processing associated with the operation target object without executing the communication process, from the predetermined image, have the following line switching to the execution screen of the execution screen of the set of application programs, Displaying a frame image corresponding to the operation target object included in the next execution screen so as to be superimposed on the next execution screen;
A control method comprising:
アプリケーションプログラムを実行し且つ前記アプリケーションプログラムの画面操作方法を説明する端末装置であって、
表示部と、
前記アプリケーションプログラムにおいて、所定の操作手順で操作した場合に遷移する一連の前記アプリケーションプログラムの実行画面の情報を記憶するとともに、前記一連のアプリケーションプログラムの実行画面に含まれる操作対象である操作対象オブジェクトの位置及びサイズを前記所定の操作手順の順番に記憶する記憶部と、
前記表示部に表示される前記アプリケーションプログラムの実行画面の設定表示倍率を取得する取得部と、
ユーザからの前記アプリケーションプログラムの練習指示を取得した場合前記アプリケーションプログラムを実行させ、前記一連のアプリケーションプログラムの実行画面のうちの所定の実行画面を、前記設定表示倍率に基づいて前記表示部に表示し、
前記所定の実行画面に含まれる前記操作対象オブジェクトに対応する枠画像を、前記設定表示倍率に基づいて変更した前記操作対象オブジェクトの位置及びサイズで作成し、前記所定の実行画面に重畳させるようにして前記表示部に表示し、
前記枠画像に対応する操作対象オブジェクトに関連付けられた処理が、他の装置との通信処理を含む場合、ユーザからの前記枠画像に対応する操作対象オブジェクトの選択指示に応じて、前記アプリケーションプログラムに当該通信処理を実行させずに当該操作対象オブジェクトに関連付けられた所定の処理を実行させ、前記所定の画像から、前記一連のアプリケーションプログラムの実行画面のうちの次の実行画面へ切り換えを行い、前記次の実行画面に含まれる操作対象オブジェクトに対応する枠画像を前記次の実行画面に重畳して表示する表示処理部と、
を備えることを特徴とする端末装置。
A terminal device for executing an application program and explaining a screen operation method of the application program,
A display unit;
In the application program, information on a series of execution screens of the application program that transition when operated in a predetermined operation procedure is stored , and an operation target object that is an operation target included in the execution screen of the series of application programs is stored . A storage unit for storing the position and size in the order of the predetermined operation procedure ;
An acquisition unit for acquiring a setting display magnification of an execution screen of the application program displayed on the display unit;
If you get the practice instruction of the application program from the user, to execute the application program, displays a predetermined execution screen of the execution screen of the set of application programs, the display unit based on the set display magnification And
A frame image corresponding to the operation target object included in the predetermined execution screen is created with the position and size of the operation target object changed based on the setting display magnification, and is superimposed on the predetermined execution screen. Displayed on the display unit,
When the process associated with the operation target object corresponding to the frame image includes a communication process with another device, the application program receives the instruction to select the operation target object corresponding to the frame image from the user. to execute the predetermined processing associated with the operation target object without executing the communication process, from the predetermined image, have the following line switching to the execution screen of the execution screen of the set of application programs, A display processing unit for displaying a frame image corresponding to the operation target object included in the next execution screen in a superimposed manner on the next execution screen ;
A terminal device comprising:
JP2017100400A 2017-05-19 2017-05-19 Program, control method, and terminal device Active JP6608402B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017100400A JP6608402B2 (en) 2017-05-19 2017-05-19 Program, control method, and terminal device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017100400A JP6608402B2 (en) 2017-05-19 2017-05-19 Program, control method, and terminal device

Publications (2)

Publication Number Publication Date
JP2018195220A JP2018195220A (en) 2018-12-06
JP6608402B2 true JP6608402B2 (en) 2019-11-20

Family

ID=64571670

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017100400A Active JP6608402B2 (en) 2017-05-19 2017-05-19 Program, control method, and terminal device

Country Status (1)

Country Link
JP (1) JP6608402B2 (en)

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5731224B2 (en) * 2011-02-15 2015-06-10 矢崎総業株式会社 Combined connector and combined connector system

Also Published As

Publication number Publication date
JP2018195220A (en) 2018-12-06

Similar Documents

Publication Publication Date Title
KR101185634B1 (en) Terminal device, link selection method, and computer-readable recording medium stored thereon display program
CN112099686B (en) Icon display control method and device and electronic equipment
JP6071948B2 (en) Information processing apparatus, display method, and control program
CN105843492A (en) Method and apparatus for editing home screen in touch device
JP2013200265A (en) Electronic apparatus in which navigation application is installed, control method of electronic apparatus and computer program
JP2015007949A (en) Display device, display controlling method, and computer program
JP5925046B2 (en) Information processing apparatus, information processing apparatus control method, and program
JP2008243128A (en) Touch panel device
JP5963291B2 (en) Method and apparatus for inputting symbols from a touch sensitive screen
JP4757785B2 (en) Selection device, control method, selection device control program, and recording medium
JP6608402B2 (en) Program, control method, and terminal device
JP2017016594A (en) Information processing apparatus, information display program, and information display method
TWI473491B (en) Mobile communication device and method of controlling the same
JPWO2014024281A1 (en) Electronic device, display control method and program
JP6591481B2 (en) Program, control method, and terminal device
JP6421604B2 (en) Information processing apparatus, recording system, and program
JP6154654B2 (en) Program and information processing apparatus
JP6722239B2 (en) Information processing device, input method, and program
JP6786197B2 (en) Information processing equipment, information processing methods and information processing programs
JP6603797B2 (en) Information processing apparatus, information processing apparatus control method, and control program
JP6194383B2 (en) Information processing apparatus, information display program, and information display method
JP6213597B2 (en) Display control apparatus, display control method, and program
JP2023038531A (en) Display control program
KR101212943B1 (en) Method for providing top page according to occurrence of key event in browser
JP6592960B2 (en) Information processing apparatus, information processing method, and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180117

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190402

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190531

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20190618

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190902

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20190909

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190924

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191023

R150 Certificate of patent or registration of utility model

Ref document number: 6608402

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250