JP6376163B2 - Information processing apparatus, information processing method, and program - Google Patents

Information processing apparatus, information processing method, and program Download PDF

Info

Publication number
JP6376163B2
JP6376163B2 JP2016068475A JP2016068475A JP6376163B2 JP 6376163 B2 JP6376163 B2 JP 6376163B2 JP 2016068475 A JP2016068475 A JP 2016068475A JP 2016068475 A JP2016068475 A JP 2016068475A JP 6376163 B2 JP6376163 B2 JP 6376163B2
Authority
JP
Japan
Prior art keywords
information
function
time
screen
identification information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016068475A
Other languages
Japanese (ja)
Other versions
JP2017182440A (en
Inventor
克朗 須田
克朗 須田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Brother Industries Ltd
Original Assignee
Brother Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Brother Industries Ltd filed Critical Brother Industries Ltd
Priority to JP2016068475A priority Critical patent/JP6376163B2/en
Publication of JP2017182440A publication Critical patent/JP2017182440A/en
Application granted granted Critical
Publication of JP6376163B2 publication Critical patent/JP6376163B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、クライアント装置に入力されたユーザ操作をクライアント装置がネットワークを介してサーバ装置等の情報処理装置へ通知し、情報処理装置がユーザ操作に応じた処理を実行する通信システムの技術分野に関する。   The present invention relates to a technical field of a communication system in which a client device notifies a user operation input to the client device to an information processing device such as a server device via a network, and the information processing device executes processing according to the user operation. .

従来、ユーザが利用するアプリケーションプログラムをサーバ装置側に記憶しておき、シンクライアント等のクライアント装置に入力されたユーザ操作に応じた機能をサーバ装置が実行するシステムが知られている。クライアント装置は、入力されたユーザ操作をサーバへ通知する。サーバ装置は、アプリケーションプログラムに従って、通知されたユーザ操作に応じた機能を実行する。サーバ装置は、機能の実行結果等に基づいて、画面を示す情報をクライアント装置へ送信する。クライアント装置は、サーバ装置から受信した情報に基づいて、画面をディスプレイに表示する。   2. Description of the Related Art Conventionally, a system is known in which an application program used by a user is stored on the server device side, and the server device executes a function corresponding to a user operation input to a client device such as a thin client. The client device notifies the server of the input user operation. The server device executes a function corresponding to the notified user operation according to the application program. The server device transmits information indicating the screen to the client device based on the execution result of the function. The client device displays a screen on the display based on the information received from the server device.

ユーザ操作に関連して、特許文献1には、機器の有する機能をユーザが円滑に利用することを目的とした技術が開示されている。具体的には、複写機が、操作画面上に表示された操作アイテムとは別の操作アイテムを表示するための表示変更アイテムの操作により表示された操作アイテムが利用されなかった場合、表示変更アイテムの操作を余分な操作として検出する。複写機は、目的の操作までに計数された余分な操作の回数が閾値を超える場合、その目的の操作に対応する操作アイテムに対応するアイコンをショートカットキー領域に登録する。複写機は、表示変更アイテムに対する第1の操作から同一又は別の表示変更アイテムに対する第2の操作までに要した時間を取得する。複写機は、取得した時間が閾値以下である場合、ユーザは操作方法を迷ったのではなく、第1の操作が操作ミスであると判定し、第1の操作を余分な操作から除外する。   In relation to the user operation, Patent Document 1 discloses a technique aimed at allowing a user to smoothly use the functions of a device. Specifically, when the operation item displayed by the operation of the display change item for displaying the operation item different from the operation item displayed on the operation screen is not used, the display change item Is detected as an extra operation. When the number of extra operations counted up to the target operation exceeds the threshold, the copying machine registers an icon corresponding to the operation item corresponding to the target operation in the shortcut key area. The copying machine acquires the time required from the first operation for the display change item to the second operation for the same or another display change item. When the acquired time is equal to or less than the threshold value, the copying machine determines that the first operation is an operation error and excludes the first operation from the extra operation.

特開2007−164655号公報JP 2007-164655 A

アプリケーションプログラムで実行可能な機能の中には、ユーザが操作を行うまでに時間を要する機能も存在する場合がある。例えば、ユーザが操作を迷ったり、ユーザが慎重に操作を行ったり、複数段階の操作が必要であったりする場合、ユーザ操作に時間を要する。そのため、ユーザは効率的に機能を利用することができない場合がある。特許文献1には、1つの機器に対する操作のみを分析して、余分な操作の回数が閾値を超える目的の操作を特定する点は開示されている。しかしながら、特許文献1には、複数のクライアント装置がサーバ装置と接続する環境において、複数のクライアント装置におけるユーザ操作全体を分析することは開示されていない。また、特許文献1に記載の技術は、第1の操作から第2の操作までに要した時間を取得するものの、この時間は、第1の操作が操作ミスであるか否かの判定に用いられるに過ぎない。   Among the functions that can be executed by the application program, there may be a function that takes time until the user performs an operation. For example, when the user gets lost, the user carefully performs an operation, or a multi-step operation is required, the user operation takes time. Therefore, the user may not be able to use the function efficiently. Patent Document 1 discloses that only an operation on one device is analyzed to specify a target operation in which the number of extra operations exceeds a threshold value. However, Patent Document 1 does not disclose analyzing an entire user operation in a plurality of client devices in an environment in which the plurality of client devices are connected to a server device. Moreover, although the technique described in Patent Document 1 acquires the time required from the first operation to the second operation, this time is used to determine whether or not the first operation is an operation error. It is only done.

本発明は、以上の点に鑑みてなされたものであり、複数のクライアント装置におけるユーザ操作を総合的に勘案して、ユーザ操作に時間を要する機能を容易に実行することを可能とする情報処理装置、情報処理方法、及びプログラムを提供することを課題とする。   The present invention has been made in view of the above points, and information processing that enables easy execution of functions that require time for user operations by comprehensively considering user operations on a plurality of client devices. It is an object to provide an apparatus, an information processing method, and a program.

上記課題を解決するために、請求項1に記載の発明は、複数のクライアント装置とネットワークを介して接続される情報処理装置において、前記複数のクライアント装置が利用可能な機能を前記情報処理装置により実行させるアプリケーションプログラムを記憶するプログラム記憶手段と、前記複数のクライアント装置の何れかのクライアント装置から、前記プログラム記憶手段に記憶された前記アプリケーションプログラムの起動が要求された場合、前記アプリケーションプログラムに従って実行可能な複数の機能に対応する複数のオブジェクトのうち少なくとも1つを含む操作画面を示す画面情報を、前記クライアント装置へ送信する第1送信手段と、前記第1送信手段により送信された前記画面情報が示す前記操作画面に含まれる何れかのオブジェクトを決定するユーザ操作が前記クライアント装置により受け付けられた場合、前記ユーザ操作を示す操作情報を前記クライアント装置から受信する受信手段と、前記アプリケーションプログラムに従って、前記受信手段により受信された前記操作情報に基づいて、決定された前記オブジェクトに対応する機能を実行する実行手段と、前記アプリケーションプログラムに従って、前記実行手段による前記機能の実行の結果に応じた操作画面を示す画面情報を前記クライアント装置へ送信する第2送信手段と、前記受信手段により受信された前記操作情報が示す前記ユーザ操作が行われるまでに要した所要時間を取得する時間取得手段と、複数のクライアント装置について、ユーザ操作が行われるまでの所要時間と、前記アプリケーションプログラムに従って実行された機能を識別する機能識別情報とを対応付けて記憶する時間記憶手段に、前記時間取得手段により取得された前記所要時間と、前記実行手段により実行された前記機能を識別する機能識別情報とを対応付けて記憶させる時間記憶制御手段と、前記複数の機能のそれぞれについて、前記機能を識別する機能識別情報に対応付けて前記時間記憶手段に記憶された所要時間の代表値を取得する代表値取得手段と、前記複数の機能の中から、前記代表値取得手段により取得された代表値が大きい順に、所定数の機能を決定する決定手段と、前記決定手段により決定された機能ごとに、前記機能を識別する機能識別情報と、操作可能な所定の操作要素を識別する操作要素識別情報とを対応付けて、割当情報記憶手段に記憶させる割当情報記憶制御手段と、前記割当情報記憶手段に記憶された前記機能識別情報が示す機能と、前記機能識別情報に対応する前記操作要素識別情報が示す前記操作要素とを関連付けて示すショートカット情報を、前記第1送信手段及び前記第2送信手段それぞれにより送信される前記画面情報が示す前記操作画面に含ませる画面制御手段と、前記受信手段により受信された前記操作情報が、前記割当情報記憶手段に記憶された操作要素識別情報が示す操作要素が操作されたことを示す場合、前記操作要素識別情報に対応する前記機能識別情報が示す機能を前記実行手段により実行させる実行制御手段と、を備えることを特徴とする。   In order to solve the above-described problem, the invention according to claim 1 is an information processing apparatus connected to a plurality of client apparatuses via a network. Functions that can be used by the plurality of client apparatuses are controlled by the information processing apparatus. Execution according to the application program when a program storage means for storing the application program to be executed and a client device of any of the plurality of client devices request activation of the application program stored in the program storage means A first transmission unit that transmits to the client device screen information indicating an operation screen that includes at least one of a plurality of objects corresponding to a plurality of functions, and the screen information transmitted by the first transmission unit includes: Which is included in the operation screen When a user operation for determining the object is accepted by the client device, the operation information received by the receiving device in accordance with the receiving means that receives operation information indicating the user operation from the client device, and the application program The execution unit that executes the function corresponding to the determined object is transmitted to the client apparatus according to the application program, and screen information indicating an operation screen according to the execution result of the function by the execution unit is transmitted according to the application program. User operation is performed with respect to a plurality of client devices, a second transmission unit that performs time acquisition unit that acquires a time required until the user operation indicated by the operation information received by the reception unit is performed Time required until The time storage means that stores the function identification information for identifying the function executed according to the execution program in association with each other, and identifies the required time acquired by the time acquisition means and the function executed by the execution means Time storage control means for storing function identification information in association with each other, and for each of the plurality of functions, a representative value of the required time stored in the time storage means in association with function identification information for identifying the function Representative value acquisition means to be acquired; determination means for determining a predetermined number of functions in descending order of representative values acquired by the representative value acquisition means from the plurality of functions; and functions determined by the determination means For each, the function identification information for identifying the function and the operation element identification information for identifying the predetermined operable operation element are associated with each other in the allocation information storage means. Shortcut associated with the assignment information storage control means to be stored, the function indicated by the function identification information stored in the assignment information storage means, and the operation element indicated by the operation element identification information corresponding to the function identification information Screen control means for including information in the operation screen indicated by the screen information transmitted by each of the first transmission means and the second transmission means; and the operation information received by the reception means is the allocation information. An execution control means for causing the execution means to execute a function indicated by the function identification information corresponding to the operation element identification information when the operation element indicated by the operation element identification information stored in the storage means is operated; It is characterized by providing.

請求項2に記載の発明は、前記第1送信手段は、前記割当情報記憶手段に記憶された前記機能識別情報が示す機能に対応するオブジェクトと、前記機能識別情報に対応する前記ショートカット情報との間で、外観上の所定属性が一致する前記操作画面を示す画面情報を送信することを特徴とする。   According to a second aspect of the present invention, the first transmission unit includes an object corresponding to a function indicated by the function identification information stored in the allocation information storage unit, and the shortcut information corresponding to the function identification information. The screen information indicating the operation screen with the same predetermined attribute on the appearance is transmitted.

請求項3に記載の発明は、前記第1送信手段は、前記割当情報記憶手段に記憶された前記機能識別情報が示す機能に対応するオブジェクトを特定可能な情報を含む前記ショートカット情報を含む前記操作画面を示す前記画面情報を送信することを特徴とする。   According to a third aspect of the present invention, the first transmission unit includes the shortcut information including information that can specify an object corresponding to the function indicated by the function identification information stored in the allocation information storage unit. The screen information indicating a screen is transmitted.

請求項4に記載の発明は、前記受信手段は、前記操作画面内に表示されるマークを移動させる第1のユーザ操作が受け付けられた場合、前記第1のユーザ操作を示す操作情報を受信し、且つ、前記操作画面における前記マークの位置にあるオブジェクトを決定する第2のユーザ操作が受け付けられた場合、前記第2のユーザ操作を示す操作情報を受信し、前記受信手段により受信された前記操作情報に基づいて特定される前記マークの前記操作画面における位置を特定可能な位置情報と、前記ユーザ操作が行われた時刻を示す時刻情報とを対応付けて記憶する位置情報記憶手段を更に備え、前記実行手段は、前記受信手段により前記第1のユーザ操作を示す操作情報が受信された場合、前記操作画面における前記マークの位置を変更し、前記決定手段は、前記受信手段により前記第2のユーザ操作を示す操作情報が受信された場合、前記位置情報記憶手段に記憶された時刻情報が示す時刻が新しい順に、前記時刻情報に対応する位置情報により特定される前記マークの位置と、前記第2のユーザ操作が行われたときの前記マークの位置との差を計算し、所定距離を超える差が計算される直前に計算された差の計算に用いられた位置情報に対応する時刻情報が示す時刻から、前記第2のユーザ操作が行われた時刻までの時間を、前記所要時間に決定することを特徴とする。   According to a fourth aspect of the present invention, when the first user operation for moving the mark displayed in the operation screen is received, the receiving unit receives operation information indicating the first user operation. And, when a second user operation for determining an object at the position of the mark on the operation screen is received, operation information indicating the second user operation is received, and the reception unit receives the operation information. Position information storage means for storing the position information capable of specifying the position of the mark specified on the basis of the operation information on the operation screen and the time information indicating the time when the user operation is performed in association with each other. The execution means changes the position of the mark on the operation screen when the operation information indicating the first user operation is received by the receiving means, When the operation information indicating the second user operation is received by the reception unit, the determination unit is configured to receive the position information corresponding to the time information in order from the newest time indicated by the time information stored in the position information storage unit. The difference between the position of the mark specified by the above and the position of the mark when the second user operation is performed is calculated, and the difference calculated immediately before the difference exceeding the predetermined distance is calculated The time from the time indicated by the time information corresponding to the position information used to the time when the second user operation is performed is determined as the required time.

請求項5に記載の発明は、前記プログラム記憶手段は、前記受信手段により受信された前記操作情報を前記アプリケーションプログラムに引き渡すためのクライアント仮想化プログラムを更に記憶し、前記割当情報記憶制御手段、前記画面制御手段及び前記実行制御手段は、前記アプリケーションプログラムに従って機能することを特徴とする。   According to a fifth aspect of the present invention, the program storage means further stores a client virtualization program for handing over the operation information received by the receiving means to the application program, the assignment information storage control means, The screen control means and the execution control means function according to the application program.

請求項6に記載の発明は、前記プログラム記憶手段は、前記受信手段により受信された前記操作情報を前記アプリケーションプログラムに引き渡すためのクライアント仮想化プログラムを更に記憶し、前記割当情報記憶制御手段、前記画面制御手段及び前記実行制御手段は、前記クライアント仮想化プログラムに従って機能し、前記実行制御手段は、前記受信手段により受信された前記操作情報が、前記割当情報記憶手段に記憶された操作要素識別情報が示す操作要素が操作されたことを示す場合、前記操作要素識別情報に対応する前記機能識別情報が示す機能を実行するためのユーザ操作を示す操作情報を前記アプリケーションプログラムに引き渡すことを特徴とする。   The program storage means further stores a client virtualization program for handing over the operation information received by the receiving means to the application program, the allocation information storage control means, The screen control means and the execution control means function in accordance with the client virtualization program, and the execution control means is configured such that the operation information received by the receiving means is operation element identification information stored in the allocation information storage means. When the operation element indicated by indicates that the operation element is operated, operation information indicating a user operation for executing a function indicated by the function identification information corresponding to the operation element identification information is delivered to the application program. .

請求項7に記載の発明は、複数のクライアント装置とネットワークを介して接続される情報処理装置により実行される情報処理方法において、前記複数のクライアント装置の何れかのクライアント装置から、前記複数のクライアント装置が利用可能な機能を前記情報処理装置により実行させるアプリケーションプログラムを記憶するプログラム記憶手段に記憶された前記アプリケーションプログラムの起動が要求された場合、前記アプリケーションプログラムに従って実行可能な複数の機能に対応する複数のオブジェクトのうち少なくとも1つを含む操作画面を示す画面情報を、前記クライアント装置へ送信する第1送信ステップと、前記第1送信ステップにより送信された前記画面情報が示す前記操作画面に含まれる何れかのオブジェクトを決定するユーザ操作が前記クライアント装置により受け付けられた場合、前記ユーザ操作を示す操作情報を前記クライアント装置から受信する受信ステップと、前記アプリケーションプログラムに従って、前記受信ステップにより受信された前記操作情報に基づいて、決定された前記オブジェクトに対応する機能を実行する実行ステップと、前記アプリケーションプログラムに従って、前記実行ステップによる前記機能の実行の結果に応じた操作画面を示す画面情報を前記クライアント装置へ送信する第2送信ステップと、前記受信ステップにより受信された前記操作情報が示す前記ユーザ操作が行われるまでに要した所要時間を取得する時間取得ステップと、複数のクライアント装置について、ユーザ操作が行われるまでの所要時間と、前記アプリケーションプログラムに従って実行された機能を識別する機能識別情報とを対応付けて記憶する時間記憶手段に、前記時間取得ステップにより取得された前記所要時間と、前記実行ステップにより実行された前記機能を識別する機能識別情報とを対応付けて記憶させる時間記憶制御ステップと、前記複数の機能のそれぞれについて、前記機能を識別する機能識別情報に対応付けて前記時間記憶手段に記憶された所要時間の代表値を取得する代表値取得ステップと、前記複数の機能の中から、前記代表値取得ステップにより取得された代表値が大きい順に、所定数の機能を決定する決定ステップと、前記決定ステップにより決定された機能ごとに、前記機能を識別する機能識別情報と、操作可能な所定の操作要素を識別する操作要素識別情報とを対応付けて、割当情報記憶手段に記憶させる割当情報記憶制御ステップと、前記割当情報記憶手段に記憶された前記機能識別情報が示す機能と、前記機能識別情報に対応する前記操作要素識別情報が示す前記操作要素とを関連付けて示すショートカット情報を、前記第1送信ステップ及び前記第2送信ステップそれぞれにより送信される前記画面情報が示す前記操作画面に含ませる画面制御ステップと、前記受信ステップにより受信された前記操作情報が、前記割当情報記憶手段に記憶された操作要素識別情報が示す操作要素が操作されたことを示す場合、前記操作要素識別情報に対応する前記機能識別情報が示す機能を前記実行ステップにより実行させる実行制御ステップと、を含むことを特徴とする。   The invention according to claim 7 is an information processing method executed by an information processing apparatus connected to a plurality of client apparatuses via a network, from any one of the plurality of client apparatuses to the plurality of clients. When activation of the application program stored in a program storage unit that stores an application program that causes the information processing apparatus to execute a function that can be used by the apparatus is requested, it corresponds to a plurality of functions that can be executed according to the application program Screen information indicating an operation screen including at least one of a plurality of objects is included in the operation screen indicated by the first transmission step of transmitting to the client device and the screen information transmitted by the first transmission step. Any object When the user operation to be determined is accepted by the client device, the operation information indicating the user operation is received from the client device, and the operation program received based on the operation information received by the reception step according to the application program An execution step of executing a function corresponding to the determined object; and a screen information indicating an operation screen corresponding to a result of the execution of the function by the execution step according to the application program. A transmission step; a time acquisition step for acquiring a time required until the user operation indicated by the operation information received in the reception step is performed; and a requirement for a user operation for a plurality of client devices. Time, The time storage means for storing the function identification information for identifying the function executed according to the application program in association with each other identifies the required time acquired by the time acquisition step and the function executed by the execution step A time storage control step for storing the function identification information in association with each other, and for each of the plurality of functions, a representative value of the required time stored in the time storage means in association with the function identification information for identifying the function A representative value acquisition step of acquiring a predetermined number of functions in descending order of the representative value acquired by the representative value acquisition step from the plurality of functions, and the determination step For each function, function identification information for identifying the function and an operation element identification for identifying a predetermined operable operation element. An allocation information storage control step for associating different information with each other and storing it in an allocation information storage means, a function indicated by the function identification information stored in the allocation information storage means, and the operation element corresponding to the function identification information Screen control step for including shortcut information in association with the operation element indicated by the identification information in the operation screen indicated by the screen information transmitted in each of the first transmission step and the second transmission step; and the reception When the operation information received by the step indicates that the operation element indicated by the operation element identification information stored in the allocation information storage means has been operated, the function identification information corresponding to the operation element identification information indicates An execution control step for executing the function by the execution step.

請求項8に記載の発明は、複数のクライアント装置とネットワークを介して接続される情報処理装置のコンピュータに、前記複数のクライアント装置の何れかのクライアント装置から、前記複数のクライアント装置が利用可能な機能を前記情報処理装置により実行させるアプリケーションプログラムを記憶するプログラム記憶手段に記憶された前記アプリケーションプログラムの起動が要求された場合、前記アプリケーションプログラムに従って実行可能な複数の機能に対応する複数のオブジェクトのうち少なくとも1つを含む操作画面を示す画面情報を、前記クライアント装置へ送信する第1送信ステップと、前記第1送信ステップにより送信された前記画面情報が示す前記操作画面に含まれる何れかのオブジェクトを決定するユーザ操作が前記クライアント装置により受け付けられた場合、前記ユーザ操作を示す操作情報を前記クライアント装置から受信する受信ステップと、前記アプリケーションプログラムに従って、前記受信ステップにより受信された前記操作情報に基づいて、決定された前記オブジェクトに対応する機能を実行する実行ステップと、前記アプリケーションプログラムに従って、前記実行ステップによる前記機能の実行の結果に応じた操作画面を示す画面情報を前記クライアント装置へ送信する第2送信ステップと、前記受信ステップにより受信された前記操作情報が示す前記ユーザ操作が行われるまでに要した所要時間を取得する時間取得ステップと、複数のクライアント装置について、ユーザ操作が行われるまでの所要時間と、前記アプリケーションプログラムに従って実行された機能を識別する機能識別情報とを対応付けて記憶する時間記憶手段に、前記時間取得ステップにより取得された前記所要時間と、前記実行ステップにより実行された前記機能を識別する機能識別情報とを対応付けて記憶させる時間記憶制御ステップと、前記複数の機能のそれぞれについて、前記機能を識別する機能識別情報に対応付けて前記時間記憶手段に記憶された所要時間の代表値を取得する代表値取得ステップと、前記複数の機能の中から、前記代表値取得ステップにより取得された代表値が大きい順に、所定数の機能を決定する決定ステップと、前記決定ステップにより決定された機能ごとに、前記機能を識別する機能識別情報と、操作可能な所定の操作要素を識別する操作要素識別情報とを対応付けて、割当情報記憶手段に記憶させる割当情報記憶制御ステップと、前記割当情報記憶手段に記憶された前記機能識別情報が示す機能と、前記機能識別情報に対応する前記操作要素識別情報が示す前記操作要素とを関連付けて示すショートカット情報を、前記第1送信ステップ及び前記第2送信ステップそれぞれにより送信される前記画面情報が示す前記操作画面に含ませる画面制御ステップと、前記受信ステップにより受信された前記操作情報が、前記割当情報記憶手段に記憶された操作要素識別情報が示す操作要素が操作されたことを示す場合、前記操作要素識別情報に対応する前記機能識別情報が示す機能を前記実行ステップにより実行させる実行制御ステップと、を実行させることを特徴とする。   According to an eighth aspect of the present invention, the plurality of client devices can be used from any one of the plurality of client devices to a computer of an information processing device connected to the plurality of client devices via a network. When activation of the application program stored in a program storage unit that stores an application program that causes a function to be executed by the information processing apparatus is requested, among a plurality of objects corresponding to a plurality of functions that can be executed according to the application program A first transmission step of transmitting screen information indicating an operation screen including at least one to the client device; and any object included in the operation screen indicated by the screen information transmitted in the first transmission step. User operation to decide When received by the client device, the receiving step of receiving operation information indicating the user operation from the client device, and in accordance with the application program, determined based on the operation information received by the receiving step An execution step of executing a function corresponding to an object; a second transmission step of transmitting screen information indicating an operation screen according to a result of execution of the function by the execution step to the client device according to the application program; A time acquisition step for acquiring a time required until the user operation indicated by the operation information received in the reception step is performed; a time required until a user operation is performed for a plurality of client devices; and the application A function for identifying the required time acquired by the time acquisition step and the function executed by the execution step in time storage means for storing function identification information for identifying the function executed according to the program in association with each other Time storage control step for storing identification information in association with each other, and for each of the plurality of functions, obtaining a representative value of the required time stored in the time storage means in association with the function identification information for identifying the function A representative value acquisition step, a determination step for determining a predetermined number of functions in descending order of the representative value acquired by the representative value acquisition step, and a function determined by the determination step. The function identification information for identifying the function is associated with the operation element identification information for identifying the predetermined operation element that can be operated. An allocation information storage control step to be stored in the allocation information storage means; a function indicated by the function identification information stored in the allocation information storage means; and the operation element indicated by the operation element identification information corresponding to the function identification information And the shortcut control information included in the operation screen indicated by the screen information transmitted by each of the first transmission step and the second transmission step, and the operation received by the reception step. When the information indicates that the operation element indicated by the operation element identification information stored in the allocation information storage means has been operated, the function indicated by the function identification information corresponding to the operation element identification information is executed by the execution step. And an execution control step.

請求項1、7又は8に記載の発明によれば、情報処理装置は、複数のクライアント装置について、操作画面内の何れかのオブジェクトを決定するユーザ操作が行われるまでに要した所要時間と、そのオブジェクトに対応してアプリケーションプログラムに従って実行された機能を識別する機能識別情報とを対応付けて記憶する。情報処理装置は、機能ごとに、所要時間の代表値を取得する。情報処理装置は、複数の機能の中から、所要時間の代表値が大きい順に所定数の機能を、所定のショートカット用の操作要素に割り当てる機能に決定する。情報処理装置は、決定した機能と割り当てられた操作要素とを関連付けて示すショートカット情報を含む操作画面をクライアント装置に表示させる。クライアント装置においてショートカット用の操作要素が操作された場合、情報処理装置は、その操作要素に割り当てられた機能を実行する。従って、ユーザ操作に時間を要する機能を、複数のクライアント装置におけるユーザ操作を総合的に勘案して決定することができる。また、所要時間の代表値が相対的に大きい機能にショートカット用の操作要素が割り当てられるので、ユーザ操作に時間を要する機能を容易に実行することが可能となる。   According to the invention described in claim 1, 7 or 8, the information processing apparatus, for a plurality of client apparatuses, a time required for a user operation to determine any object in the operation screen, The function identification information for identifying the function executed according to the application program corresponding to the object is stored in association with the object. The information processing apparatus acquires a representative value of the required time for each function. The information processing apparatus determines a predetermined number of functions as a function to be assigned to a predetermined shortcut operation element from the plurality of functions in descending order of the representative value of the required time. The information processing apparatus causes the client apparatus to display an operation screen including shortcut information indicating the determined function and the assigned operation element in association with each other. When a shortcut operation element is operated on the client device, the information processing apparatus executes a function assigned to the operation element. Therefore, it is possible to determine a function that requires time for user operation by comprehensively considering user operations in a plurality of client devices. In addition, since a shortcut operation element is assigned to a function having a relatively large representative value of the required time, it is possible to easily execute a function that requires time for a user operation.

請求項2に記載の発明によれば、操作画面において、ショートカット用の操作要素のショートカット情報の外観上の所定属性と、その操作要素が割り当てられた機能に対応するオブジェクトの外観上の所定属性とが一致する。従って、ユーザは、どのオブジェクトに対応する機能に操作要素が割り当てられているかを容易に認識することができる。   According to the second aspect of the present invention, on the operation screen, the predetermined attribute on the appearance of the shortcut information of the operation element for shortcut, and the predetermined attribute on the appearance of the object corresponding to the function to which the operation element is assigned, Match. Therefore, the user can easily recognize which operation element is assigned to the function corresponding to which object.

請求項3に記載の発明によれば、ショートカット用の操作要素のショートカット情報が、その操作要素が割り当てられた機能に対応するオブジェクトを特定可能な情報を含む。従って、ユーザは、どのオブジェクトに対応する機能に操作要素が割り当てられているかを、たとえ対象のオブジェクトが現在表示されていなかったとしても容易に認識することができる。   According to the third aspect of the present invention, the shortcut information of the operation element for shortcut includes information that can identify the object corresponding to the function to which the operation element is assigned. Therefore, the user can easily recognize to which function the operation element is assigned to which object even if the target object is not currently displayed.

請求項4に記載の発明によれば、情報処理装置は、マークを移動させる第1のユーザ操作を示す操作情報と、マークの位置にあるオブジェクトを決定する第2のユーザ操作を示す操作情報とを受信する。情報処理装置は、操作情報を受信するごとに、マークの位置を特定可能な情報とユーザ操作が行われた時刻とを記憶させる。情報処理装置は、第2のユーザ操作が行われたときのマークの位置からマークが所定距離以内に入った時刻から、第2のユーザ操作が行われた時刻までの時間を、所要時間に決定する。従って、ユーザが、オブジェクトを決定する第2のユーザ操作を行うために要した所要時間を適切に決定することができる。   According to the invention described in claim 4, the information processing apparatus includes operation information indicating a first user operation for moving the mark, and operation information indicating a second user operation for determining an object at the position of the mark. Receive. Each time the operation information is received, the information processing apparatus stores information that can identify the position of the mark and the time when the user operation is performed. The information processing apparatus determines, as a required time, the time from the time when the mark is within a predetermined distance from the position of the mark when the second user operation is performed to the time when the second user operation is performed To do. Therefore, the time required for the user to perform the second user operation for determining the object can be appropriately determined.

請求項5に記載の発明によれば、アプリケーションプログラム側で、ショートカット用の操作要素の割り当て、ショートカット情報の表示の制御、操作要素の操作に対応する機能の実行制御が行われる。そのため、アプリケーションプログラム開発者は、割り当てる操作要素、ショートカット情報の表示方法等のショートカットに関する仕様を自由に決定することができる。   According to the invention described in claim 5, on the application program side, assignment of operation elements for shortcuts, display control of shortcut information, and execution control of functions corresponding to operation of operation elements are performed. Therefore, the application program developer can freely determine specifications related to shortcuts such as operation elements to be assigned and shortcut information display methods.

請求項6に記載の発明によれば、クライアント仮想化プログラム側で、ショートカット用の操作要素の割り当て、ショートカット情報の表示の制御、操作要素の操作に対応する機能の実行制御が行われる。そのため、アプリケーションプログラムごとに、ショートカットに関する仕様を決定する必要がない。   According to the sixth aspect of the invention, on the client virtualization program side, assignment of operation elements for shortcuts, display control of shortcut information, and execution control of functions corresponding to operation of operation elements are performed. Therefore, it is not necessary to determine the specifications regarding shortcuts for each application program.

(A)は、一実施形態の通信システムSの概要構成例を示す図である。(B)は、一実施形態のサーバ装置1の概要構成例を示す図である。(C)は、一実施形態のクライアント装置2の概要構成例を示す図である。(A) is a figure showing an example of outline composition of communications system S of one embodiment. (B) is a figure showing an example of outline composition of server device 1 of one embodiment. (C) is a diagram illustrating a schematic configuration example of a client device 2 according to an embodiment. 時短キー情報を含む操作画面の一例を示す図である。It is a figure which shows an example of the operation screen containing time-short key information. サーバ装置1におけるアプリケーション処理の一例を示す図である。6 is a diagram illustrating an example of application processing in the server device 1. FIG. サーバ装置1における仮想クライアント処理の一例を示す図である。6 is a diagram illustrating an example of a virtual client process in the server device 1. FIG. サーバ装置1における決定時間算出処理の一例を示す図である。It is a figure which shows an example of the determination time calculation process in the server apparatus.

以下、本発明の実施形態を図面に基づいて説明する。   Hereinafter, embodiments of the present invention will be described with reference to the drawings.

[1.通信システムの構成]
図1(A)は、本実施形態の通信システムSの概要構成例を示す図である。図1(A)に示すように、通信システムSは、サーバ装置1、及び複数のクライアント装置2を含んで構成される。サーバ装置1は、本発明の情報処理装置の一例である。サーバ装置1、及びクライアント装置2は、それぞれネットワーク10に接続される。ネットワーク10は、例えば、インターネット等により構成される。
[1. Configuration of communication system]
FIG. 1A is a diagram illustrating a schematic configuration example of the communication system S of the present embodiment. As shown in FIG. 1A, the communication system S includes a server device 1 and a plurality of client devices 2. The server apparatus 1 is an example of an information processing apparatus according to the present invention. The server device 1 and the client device 2 are each connected to the network 10. The network 10 is configured by, for example, the Internet.

サーバ装置1は、クライアント装置2からの要求に応じてアプリケーションプログラムを実行する。アプリケーションプログラムの例として、近隣案内、お絵描き、カラオケ、ゲーム、情報検索、オンラインショッピング等のアプリケーションプログラムが挙げられる。サーバ装置1は、クライアント装置2から送信される操作情報に応じた処理を、アプリケーションプログラムに従って実行する。操作情報は、クライアント装置2に対してユーザにより行われたユーザ操作を示す情報である。操作情報は、少なくとも操作対象IDを含む。操作対象IDは、ユーザにより操作されたハードウェア要素を識別する識別情報である。操作されるハードウェア要素の例として、ボタン、キー、タッチパネル、タッチパッド、移動対象としてのマウス等が挙げられる。ハードウェア要素を移動させる操作又はハードウェア要素に接触した物体を移動させる操作が行われた場合、操作情報は、更にその移動方向及び移動距離を示すベクトル情報を含んでもよい。ベクトル情報は、本発明の位置情報の一例である。このような操作が可能なハードウェアの例として、タッチパネル、タッチパッド、マウス等のポインティングデバイスが挙げられる。   The server device 1 executes an application program in response to a request from the client device 2. Examples of application programs include application programs such as neighborhood guidance, drawing, karaoke, games, information retrieval, and online shopping. The server device 1 executes processing according to the operation information transmitted from the client device 2 according to the application program. The operation information is information indicating a user operation performed on the client device 2 by the user. The operation information includes at least an operation target ID. The operation target ID is identification information for identifying a hardware element operated by the user. Examples of hardware elements to be operated include buttons, keys, a touch panel, a touch pad, a mouse as a movement target, and the like. When an operation for moving a hardware element or an operation for moving an object in contact with the hardware element is performed, the operation information may further include vector information indicating the moving direction and the moving distance. Vector information is an example of position information of the present invention. Examples of hardware capable of such an operation include a pointing device such as a touch panel, a touch pad, and a mouse.

サーバ装置1は、実行するアプリケーションプログラムに対応する操作画面をクライアント装置2に表示させる。具体的には、サーバ装置1は、アプリケーションプログラムの実行に応じた動画であって、操作画面を示す動画を、UDPを用いたストリーミングでクライアント装置2へ送信する。この動画は、本発明の画面情報の一例である。なお、サーバ装置1は、動画を送信する代わりに、操作画面を示す静止画やウェブページ等をクライアント装置2へ送信してもよい。操作画面には1又は複数のオブジェクトが表示される。オブジェクトの例として、画面に表示されるアイコン、ボタン、メニュー項目、リスト項目、スクロールバー等が挙げられる。各オブジェクトは、アプリケーションプログラムに従って実行可能な機能に対応する。或るオブジェクトを決定するユーザ操作が行われると、サーバ装置1は、そのオブジェクトに対応する機能を、アプリケーションプログラムに従って実行する。実行可能な複数の機能が、アプリケーションプログラムにより定められている。オブジェクトを決定するためのユーザ操作を、オブジェクト決定操作という。オブジェクト決定操作は、本発明の第2のユーザ操作の一例である。オブジェクトを決定するユーザ操作以外のユーザ操作を、非オブジェクト決定操作という。操作画面には、更にカーソルが表示されてもよいし、表示されなくてもよい。カーソルは、ユーザ操作に従って操作画面内を移動するマークである。カーソルを移動させるユーザ操作は、非オブジェクト決定操作の1つである。カーソルを移動させるユーザ操作は、本発明の第1のユーザ操作の一例である。例えば画素単位でカーソルを移動させることが可能であってもよい。カーソルを移動させるユーザ操作の例として、マウス等を動かす操作、カーソルキーを押す操作等が挙げられる。カーソルキーの場合、カーソルは例えば画素単位ではなくオブジェクト単位で移動してもよい。例えば、カーソルキーが押された場合、カーソルの現在の位置から、押されたカーソルキーに対応する方向にあるオブジェクトのうち、カーソルの現在の位置に最も近いオブジェクトにカーソルが移動してもよい。ユーザは、操作画面において、カーソルの位置にあるオブジェクトを決定するオブジェクト決定操作を行うことができる。オブジェクト決定操作の例として、マウスの所定のボタンを押す操作、所定のキーを押す操作等が挙げられる。タッチパネルの場合、オブジェクト決定操作は、例えばユーザの指等で直接オブジェクトを選択する操作である。この場合、画面にカーソルは表示されなくてもよい。ユーザがカーソル又は指でオブジェクトを正確に指定することができず、それにより結果的にオブジェクトが決定さなかった場合であっても、オブジェクトを決定しようとしたユーザ操作は、オブジェクト決定操作に含まれてもよい。アプリケーションプログラムの実行中、ユーザ操作に応じて操作画面の切り替えやスクロールが可能であってもよいし、可能ではなくてもよい。   The server device 1 causes the client device 2 to display an operation screen corresponding to the application program to be executed. Specifically, the server device 1 transmits a moving image indicating the operation screen, which is a moving image according to the execution of the application program, to the client device 2 by streaming using UDP. This moving image is an example of the screen information of the present invention. Note that the server device 1 may transmit a still image, a web page, or the like indicating an operation screen to the client device 2 instead of transmitting a moving image. One or more objects are displayed on the operation screen. Examples of objects include icons, buttons, menu items, list items, scroll bars, etc. displayed on the screen. Each object corresponds to a function that can be executed according to the application program. When a user operation for determining a certain object is performed, the server apparatus 1 executes a function corresponding to the object according to the application program. A plurality of executable functions are defined by the application program. A user operation for determining an object is called an object determination operation. The object determination operation is an example of a second user operation of the present invention. User operations other than user operations for determining objects are referred to as non-object determination operations. A cursor may be further displayed on the operation screen, or may not be displayed. The cursor is a mark that moves in the operation screen in accordance with a user operation. The user operation for moving the cursor is one of the non-object determination operations. The user operation for moving the cursor is an example of the first user operation of the present invention. For example, it may be possible to move the cursor in pixel units. Examples of user operations for moving the cursor include an operation of moving a mouse or the like, an operation of pressing a cursor key, and the like. In the case of the cursor key, the cursor may be moved not in units of pixels but in units of objects. For example, when a cursor key is pressed, the cursor may move from the current position of the cursor to an object closest to the current position of the cursor among objects in the direction corresponding to the pressed cursor key. The user can perform an object determination operation for determining the object at the cursor position on the operation screen. Examples of the object determination operation include an operation of pressing a predetermined button of a mouse, an operation of pressing a predetermined key, and the like. In the case of a touch panel, the object determination operation is an operation for directly selecting an object with, for example, a user's finger. In this case, the cursor may not be displayed on the screen. Even when the user cannot accurately specify the object with the cursor or the finger and consequently the object is not determined, the user operation to determine the object is included in the object determination operation. May be. During the execution of the application program, the operation screen may be switched or scrolled according to a user operation, or may not be possible.

サーバ装置1は、アプリケーションDB(DataBase)3及び決定時間DB4にアクセス可能に構成されている。例えば、サーバ装置1と、アプリケーションDB3及び決定時間DB4とがLAN(Local Area Network)等のネットワークにより接続されてもよい。或いは、サーバ装置1が、アプリケーションDB3及び決定時間DB4を備えてもよい。アプリケーションDB3は、複数のクライアント装置2が利用可能な機能をサーバ装置1に実行させる1又は複数のアプリケーションプログラムが記憶されている。決定時間DB4には、決定時間が記憶される。決定時間は、本発明の所要時間の一例である。決定時間は、操作画面において、オブジェクト決定操作が行われるまでに要した時間である。具体的には、決定時間DB4には、複数のクライアント装置2について、アプリケーションID、機能ID及び決定時間が対応付けて記憶される。複数のクライアント装置2の何れにおいてオブジェクト決定操作が行われた場合であっても、決定時間DB4にアプリケーションID、機能ID及び決定時間が記憶される。アプリケーションIDは、アプリケーションプログラムを識別する識別情報である。機能IDは、実行された機能を識別する識別情報である。複数のクライアント装置2の何れかにおいて、ユーザによりオブジェクト決定操作が行われて、サーバ装置1が対応する機能を実行するごとに、サーバ装置1は決定時間DB4に決定時間を記憶させる。なお、アプリケーションDB3にアプリケーションプログラムが1つのみ記憶されている場合、決定時間DB4には、機能ID及び決定時間のみが記憶されればよい。   The server device 1 is configured to be accessible to an application DB (DataBase) 3 and a determination time DB 4. For example, the server apparatus 1 and the application DB 3 and the determination time DB 4 may be connected by a network such as a LAN (Local Area Network). Alternatively, the server device 1 may include an application DB 3 and a determination time DB 4. The application DB 3 stores one or a plurality of application programs that cause the server apparatus 1 to execute functions that can be used by the plurality of client apparatuses 2. The determination time DB4 stores the determination time. The determination time is an example of the time required for the present invention. The determination time is the time required until the object determination operation is performed on the operation screen. Specifically, the determination time DB 4 stores an application ID, a function ID, and a determination time in association with each other for a plurality of client devices 2. Even if the object determination operation is performed in any of the plurality of client devices 2, the application ID, the function ID, and the determination time are stored in the determination time DB 4. The application ID is identification information that identifies an application program. The function ID is identification information for identifying the executed function. Each time the object determination operation is performed by the user in any of the plurality of client devices 2 and the server device 1 executes the corresponding function, the server device 1 stores the determination time in the determination time DB 4. Note that when only one application program is stored in the application DB 3, only the function ID and the determination time need be stored in the determination time DB 4.

クライアント装置2は、ユーザによる操作を受け付ける。クライアント装置2は、受け付けたユーザ操作を示す操作情報を、ネットワーク10を介してサーバ装置1へ送信する。クライアント装置2は、全てのユーザ操作について操作情報をサーバ装置1へ送信してもよい。或いは、クライアント装置2は、オブジェクト決定操作についてのみ、操作情報をサーバ装置1へ送信してもよい。この場合、クライアント装置2は、非オブジェクト決定操作を受け付けたとき、クライアント装置2は、非オブジェクト決定操作に応じて、表示される操作画面を更新する。また、クライアント装置2は、サーバ装置1から、アプリケーションプログラムの実行に応じた操作画面を示す動画を受信する。クライアント装置2は、受信した操作画面を示す動画をディスプレイに表示する。クライアント装置2の例として、パーソナルコンピュータ、携帯電話機、スマートフォン、カラオケ装置等が挙げられる。なお、本実施形態において、クライアント装置2は、キーボード及びマウスを少なくとも備え、又はキーボード及びマウスと接続可能である。クライアント装置2はシンクライアントであってもよい。クライアント装置2は、基本的に、ユーザからのユーザ操作の受け付け、操作情報のサーバ装置1への送信、及びサーバ装置1から送信された動画の表示を実行する。更にクライアント装置2は、非オブジェクト決定操作に応じた操作画面の更新を実行してもよい。サーバ装置1は、その他の大部分の処理を実行する。   The client device 2 accepts user operations. The client device 2 transmits operation information indicating the received user operation to the server device 1 via the network 10. The client device 2 may transmit operation information for all user operations to the server device 1. Alternatively, the client device 2 may transmit operation information to the server device 1 only for the object determination operation. In this case, when the client device 2 receives the non-object determination operation, the client device 2 updates the displayed operation screen according to the non-object determination operation. In addition, the client device 2 receives a moving image indicating an operation screen corresponding to the execution of the application program from the server device 1. The client device 2 displays a moving image indicating the received operation screen on the display. Examples of the client device 2 include a personal computer, a mobile phone, a smartphone, a karaoke device, and the like. In the present embodiment, the client device 2 includes at least a keyboard and a mouse, or can be connected to the keyboard and the mouse. The client device 2 may be a thin client. The client device 2 basically receives a user operation from the user, transmits operation information to the server device 1, and displays a moving image transmitted from the server device 1. Further, the client device 2 may update the operation screen according to the non-object determination operation. The server device 1 executes most other processes.

[2.サーバ装置1の構成]
次に、図1(B)を参照して、サーバ装置1の構成について説明する。図1(B)は、本実施形態のサーバ装置1の概要構成例を示す図である。図1(B)に示すように、サーバ装置1は、CPU(Central Processing Unit)11、ROM(Read Only Memory)12、RAM(Random Access Memory)13、記憶部14及び通信部15等を備えて構成される。これらの構成要素は、バス16に接続されている。RAM13は、本発明の割当情報記憶手段、及び位置情報記憶手段の一例である。通信部15は、ネットワーク10に接続される。記憶部14は、例えばハードディスクドライブにより構成される。記憶部14は、本発明のプログラム記憶手段、及び時間記憶手段の一例である。記憶部14には、アプリケーションDB3及び決定時間DB4の少なくとも何れか一方が記憶されていてもよい。また、記憶部14には、OS、クライアント仮想化プログラム等が記憶されている。クライアント仮想化プログラムは、クライアント仮想化を実現するためのプログラムである。クライアント仮想化プログラムは、コンピュータとしてのCPU11に、アプリケーションプログラムの起動、クライアント装置2から受信された操作情報のアプリケーションプログラムへの引き渡し、アプリケーションプログラムにより生成された操作画面を示す動画のエンコード及び送信を実行させる。CPU11は、サーバ装置1にアクセスするクライアント装置2ごとにクライアント仮想化プログラムを起動する。従って、サーバ装置1にアクセスしているクライアント装置2の数に相当する数のクライアント仮想化プログラムのプロセスがRAM13に生成される。クライアント仮想化プログラム等は、例えばネットワーク10等を介して他のサーバ等からダウンロードされてもよい。或いは、クライアント仮想化プログラム等は、例えば光ディスク、磁気テープ、メモリカード等の記録媒体に記録されてドライブ装置を介して記憶部14に読み込まれてもよい。
[2. Configuration of Server Device 1]
Next, the configuration of the server device 1 will be described with reference to FIG. FIG. 1B is a diagram illustrating a schematic configuration example of the server device 1 of the present embodiment. As shown in FIG. 1B, the server device 1 includes a CPU (Central Processing Unit) 11, a ROM (Read Only Memory) 12, a RAM (Random Access Memory) 13, a storage unit 14, a communication unit 15, and the like. Composed. These components are connected to the bus 16. The RAM 13 is an example of allocation information storage means and position information storage means of the present invention. The communication unit 15 is connected to the network 10. The storage unit 14 is configured by, for example, a hard disk drive. The storage unit 14 is an example of a program storage unit and a time storage unit of the present invention. The storage unit 14 may store at least one of the application DB 3 and the determination time DB 4. The storage unit 14 stores an OS, a client virtualization program, and the like. The client virtualization program is a program for realizing client virtualization. The client virtualization program executes application program activation, transfer of operation information received from the client device 2 to the application program, and encoding and transmission of a moving image indicating an operation screen generated by the application program to the CPU 11 as a computer. Let The CPU 11 starts a client virtualization program for each client device 2 that accesses the server device 1. Accordingly, the number of client virtualization program processes corresponding to the number of client devices 2 accessing the server device 1 is generated in the RAM 13. The client virtualization program or the like may be downloaded from another server or the like via the network 10 or the like, for example. Alternatively, the client virtualization program or the like may be recorded on a recording medium such as an optical disk, a magnetic tape, or a memory card and read into the storage unit 14 via a drive device.

[3.クライアント装置2の構成]
次に、図1(C)を参照して、クライアント装置2の構成について説明する。図1(C)は、本実施形態のクライアント装置2の概要構成例を示す図である。図1(C)に示すように、クライアント装置2は、CPU21、ROM22、RAM23、記憶部24、通信部25、入力部26、及び表示部27等を備えて構成される。これらの構成要素は、バス28に接続されている。通信部25は、ネットワーク10に接続される。入力部26は、ユーザ操作を入力するための入力デバイスである。入力部26は、例えばボタン、キー、タッチパネル、タッチパッド、マウス、キーボード等の少なくとも1つにより構成されてもよい。クライアント装置2は入力部26と接続可能であってもよい。この場合、クライアント装置2自体は入力部26を備えていなくてもよい。表示部27は、例えば液晶パネル、有機ELパネル等により構成されるディスプレイである。記憶部24は、例えばフラッシュメモリ又はハードディスクドライブ等により構成される。記憶部24には、OS、及びクライアントプログラム等が記憶されている。クライアントプログラムは、コンピュータとしてのCPU21に、操作画面の表示、ユーザの操作に応じた処理の実行、サーバ装置1への操作情報の送信等の処理を実行させるプログラムである。クライアントプログラム等は、例えばネットワーク10等を介してサーバ装置1等のサーバ装置からダウンロードされてもよい。或いは、クライアントプログラム等は、例えば光ディスク、磁気テープ、メモリカード等の記録媒体に記録されてドライブ装置を介して記憶部24に読み込まれてもよい。或いは、クライアントプログラム等は、クライアント装置2に予めインストールされていてもよい。
[3. Configuration of Client Device 2]
Next, the configuration of the client device 2 will be described with reference to FIG. FIG. 1C is a diagram illustrating a schematic configuration example of the client device 2 of the present embodiment. As illustrated in FIG. 1C, the client device 2 includes a CPU 21, a ROM 22, a RAM 23, a storage unit 24, a communication unit 25, an input unit 26, a display unit 27, and the like. These components are connected to the bus 28. The communication unit 25 is connected to the network 10. The input unit 26 is an input device for inputting a user operation. The input unit 26 may be configured by at least one of a button, a key, a touch panel, a touch pad, a mouse, a keyboard, and the like, for example. The client device 2 may be connectable to the input unit 26. In this case, the client device 2 itself may not include the input unit 26. The display unit 27 is a display configured by, for example, a liquid crystal panel, an organic EL panel, or the like. The storage unit 24 is configured by, for example, a flash memory or a hard disk drive. The storage unit 24 stores an OS, a client program, and the like. The client program is a program that causes the CPU 21 as a computer to execute processing such as display of an operation screen, execution of processing according to a user operation, transmission of operation information to the server device 1, and the like. The client program or the like may be downloaded from a server device such as the server device 1 via the network 10 or the like, for example. Alternatively, the client program or the like may be recorded on a recording medium such as an optical disk, a magnetic tape, or a memory card and read into the storage unit 24 via a drive device. Alternatively, the client program or the like may be installed in the client device 2 in advance.

[4.機能に対する時短キーの割り当て]
アプリケーションプログラムに従って実行可能な機能に対応付けられたオブジェクトを決定するためのユーザ操作を行うために、ユーザは時間を要する場合がある。例えば、ユーザは、操作画面内の複数のオブジェクトの中の何れが目的のオブジェクトであるかを迷う場合がある。或いは、ユーザは、何れのオブジェクトを選択してよいか迷う場合がある。或いは、複数のオブジェクトが密集しているために、目的とするオブジェクト以外のオブジェクトを操作してしまわないように、ユーザは慎重に操作を行う場合がある。或いは、目的のオブジェクトが比較的小さいため、そのオブジェクトを正確に選択するためにユーザは時間を要する場合がある。或いは、目的とするオブジェクトを決定するためのユーザ操作を行うまでに、複数段階の操作が必要であり、これにより時間を要する場合がある。例えば、操作画面を切り替えたり、操作画面をスクロールしたり、メニューを表示させたりする操作が必要な場合がある。そこで、サーバ装置1は、ユーザ操作に時間を要する機能に時短キーを割り当てる。時短キーは、本発明の所定の操作要素の一例である。時短キーは予め定められたキーである。時短キーは、ハードウェアキーであってもよいし、ソフトウェア的なキーであってもよい。ハードウェアとしての時短キーは、例えばハードウェアキーボード上の所定のキー、ボタン等であってもよい。ソフトウェア的な時短キーは、例えば操作画面上に表示される所定のキー、ボタン等であってもよい。サーバ装置1は、時短キーを示す時短キー情報を含む操作画面をクライアント装置2に表示させる。時短キー情報は、本発明のショートカット情報の一例である。サーバ装置は1は、ユーザにより時短キーの操作が行われた場合、時短キーに割り当てられた機能を実行する。ユーザが時短キーを操作することで、ユーザ操作に時間を要する機能を容易に実行することが可能となる。また、ポインティングデバイス等で操作画面内のカーソルを目的のオブジェクトまで移動させる非オブジェクト決定操作を行った後で、目的のオブジェクトに対するオブジェクト決定操作を行うようにデザインされているアプリケーションがある。この場合、ユーザがカーソルを移動させるユーザ操作を行うたびにクライアント装置2は操作情報をサーバ装置1へ送信する。また、時短キーが割り当てられた機能を実行するために、ユーザは、カーソルを移動させてオブジェクトを決定する操作を行う代わりに、時短キーを直接押せばよい。従って、ユーザがカーソルを移動させる操作を行わない分、クライアント装置2は操作情報を送信しなくてもよい。そのため、クライアント装置2とサーバ装置1間の通信回数、及びサーバ装置1の処理負荷を低減させることができる。
[4. Assigning short-time keys to functions]
The user may take time to perform a user operation for determining an object associated with a function that can be executed according to an application program. For example, the user may be wondering which of the plurality of objects in the operation screen is the target object. Alternatively, the user may be wondering which object to select. Alternatively, since a plurality of objects are densely packed, the user may carefully perform an operation so as not to operate an object other than the target object. Alternatively, since the target object is relatively small, the user may take time to select the object accurately. Alternatively, a multi-step operation is required until a user operation for determining a target object is performed, which may require time. For example, there are cases where operations such as switching the operation screen, scrolling the operation screen, or displaying a menu are required. Therefore, the server device 1 assigns a time reduction key to a function that requires time for user operation. The time-short key is an example of a predetermined operation element of the present invention. The time reduction key is a predetermined key. The time-short key may be a hardware key or a software key. The time-short key as hardware may be, for example, a predetermined key or button on a hardware keyboard. The software time-short key may be, for example, a predetermined key or button displayed on the operation screen. The server device 1 causes the client device 2 to display an operation screen including time-short key information indicating the time-short key. The time-short key information is an example of shortcut information according to the present invention. The server device 1 executes a function assigned to the time-short key when the user operates the time-short key. When the user operates the time-short key, it is possible to easily execute a function that requires time for the user operation. In addition, there is an application designed to perform an object determination operation for a target object after performing a non-object determination operation for moving the cursor in the operation screen to the target object with a pointing device or the like. In this case, every time the user performs a user operation to move the cursor, the client device 2 transmits operation information to the server device 1. Further, in order to execute the function to which the time-short key is assigned, the user may directly press the time-short key instead of performing an operation of determining the object by moving the cursor. Therefore, the client device 2 does not need to transmit operation information as much as the user does not perform an operation of moving the cursor. Therefore, the number of communications between the client device 2 and the server device 1 and the processing load on the server device 1 can be reduced.

具体的には、サーバ装置1は、クライアント装置2から受信した操作情報に応じてアプリケーションプログラムに従って何れかの機能を実行したとき、その機能に対応付けられたオブジェクトを決定するためのユーザ操作が行われるまでに要した決定時間を取得する。サーバ装置1は、決定時間と、実行された機能の機能IDとアプリケーションIDとを対応付けて決定時間DBに記憶させる。決定時間の算出方法の例として、サーバ装置1は、直前の機能が実行された時刻から今回の機能が実行された時刻までの時間を、決定時間として算出することが挙げられる。   Specifically, when the server device 1 executes any function in accordance with the application program in accordance with the operation information received from the client device 2, a user operation for determining an object associated with the function is performed. Get the decision time required until The server apparatus 1 stores the determination time, the function ID of the executed function, and the application ID in the determination time DB in association with each other. As an example of the calculation method of the determination time, the server device 1 may calculate the time from the time when the immediately preceding function is executed to the time when the current function is executed as the determination time.

或いは、サーバ装置1は、オブジェクト決定操作が行われたときのカーソルの位置から所定距離以内の範囲にカーソルが入った時刻から、オブジェクト決定操作が行われた時刻までの時間を決定時間として算出してもよい。目的のオブジェクトにカーソルが或る程度近付いてから、ユーザは操作を迷う場合がある。また例えば、複数のオブジェクトが密集していたり、オブジェクトが小さかったりする場合、目的のオブジェクトにカーソルが或る程度近付いてから、目的のオブジェクトを決定するまでに時間を要する場合がある。すなわち、目的のオブジェクトにカーソルが或る程度近付く前よりも、或る程度近付いてからそのオブジェクトにユーザがカーソルを移動させるまでの間の方が、カーソルの移動に時間を要する場合がある。このような場合に、サーバ装置1は、オブジェクト決定操作が行われるまでにユーザが要した時間を適切に算出することができる。具体的には、クライアント装置2は、ユーザ操作が行われた時刻を取得してもよい。クライアント装置2は、取得した時刻を操作情報に付加して、操作情報をサーバ装置1へ送信する。或いは、サーバ装置1は、クライアント装置2から非オブジェクト決定操作を示す操作情報を受信した時刻を、ユーザ操作が行われた時刻として取得してもよい。サーバ装置1は、クライアント装置2から非オブジェクト決定操作を示す操作情報を受信したとき、操作情報と時刻を対応付けてRAM13に記憶させる。サーバ装置1は、オブジェクト決定操作を示す操作情報を受信したとき、又はこの操作情報を受信することにより何らかの機能が実行されたとき、決定時間算出処理を実行する。決定時間算出処理において、サーバ装置1は、RAM13に記憶された時刻が新しい順に、時刻に対応する操作情報に含まれるベクトル情報に基づいて特定されるカーソルの位置と、オブジェクト決定操作が行われた時のカーソルの位置との差を計算する。サーバ装置1は、所定距離を超える差が計算された場合、所定距離を超える差が計算される直前に計算された差の計算に用いられた操作情報に対応する時刻を特定する。サーバ装置1は、特定した時刻からオブジェクト決定操作が行われた時刻までの時間を、決定時間に決定する。   Alternatively, the server device 1 calculates the time from the time when the cursor enters within a predetermined distance from the cursor position when the object determination operation is performed to the time when the object determination operation is performed as the determination time. May be. The user may get lost after the cursor has approached the target object to some extent. Further, for example, when a plurality of objects are dense or the objects are small, it may take time until the target object is determined after the cursor has approached the target object to some extent. That is, it may take more time for the cursor to move from when the cursor is moved closer to the target object until the user moves the cursor to the object. In such a case, the server device 1 can appropriately calculate the time required by the user until the object determination operation is performed. Specifically, the client device 2 may acquire the time when the user operation is performed. The client device 2 adds the acquired time to the operation information and transmits the operation information to the server device 1. Alternatively, the server device 1 may acquire the time when the operation information indicating the non-object determination operation is received from the client device 2 as the time when the user operation is performed. When the server apparatus 1 receives operation information indicating a non-object determination operation from the client apparatus 2, the server apparatus 1 stores the operation information and time in association with each other in the RAM 13. The server device 1 executes a determination time calculation process when it receives operation information indicating an object determination operation or when some function is executed by receiving this operation information. In the determination time calculation process, the server apparatus 1 performs the object determination operation and the position of the cursor specified based on the vector information included in the operation information corresponding to the time, in the order from the latest time stored in the RAM 13. Calculate the difference from the cursor position at the time. When the difference exceeding the predetermined distance is calculated, the server device 1 specifies the time corresponding to the operation information used for calculating the difference calculated immediately before the difference exceeding the predetermined distance is calculated. The server device 1 determines the time from the specified time to the time when the object determination operation is performed as the determination time.

なお、クライアント装置2が決定時間を算出し、サーバ装置1は、クライアント装置2から決定時間を受信してもよい。例えば、クライアント装置2は、オブジェクトを決定するためのユーザ操作を受け付けたとき、決定時間を算出する。クライアント装置2は、例えば操作情報とともに、算出した決定時間をサーバ装置1へ送信する。サーバ装置1は、受信した操作情報に応じて機能を実行したとき、その機能の機能IDと決定時間とを決定時間DB4に記憶させる。ユーザはオブジェクトを決定するためのユーザ操作を行ったが、実際にはオブジェクトを決定することができない場合がある。この場合、サーバ装置1は、受信した操作情報に応じては何らの機能も実行しない。従って、サーバ装置1は、決定時間を決定時間DB4に記憶させない。   Note that the client device 2 may calculate the determination time, and the server device 1 may receive the determination time from the client device 2. For example, the client device 2 calculates a determination time when receiving a user operation for determining an object. The client device 2 transmits the calculated determination time to the server device 1 together with, for example, operation information. When the server apparatus 1 executes a function according to the received operation information, the server apparatus 1 stores the function ID and the determination time of the function in the determination time DB 4. Although the user has performed a user operation for determining an object, there are cases where the object cannot actually be determined. In this case, the server device 1 does not perform any function according to the received operation information. Therefore, the server device 1 does not store the determination time in the determination time DB 4.

サーバ装置1は、クライアント装置2からの要求に応じてアプリケーションプログラムを起動するときこのアプリケーションプログラムに従って実行可能な複数の機能のそれぞれについて、決定時間の代表値を算出する。代表値は、例えば平均値、中央値、最頻値、最小値等であってもよい。具体的には、サーバ装置1は、起動するアプリケーションプログラムのアプリケーションIDに対応する決定時間を、機能ID別に決定時間DB4から取得する。サーバ装置1は、機能IDごとに、決定時間の代表値を決定する。サーバ装置1は、複数の機能の中から、決定時間の代表値が大きい順に所定数の機能を、時短キーを割り当てる機能に決定する。本実施形態において、サーバ装置1は、3個の機能を決定する。しかしながら、サーバ装置1は、1又は2個の機能を決定してもよいし、4個以上の機能を決定してもよい。サーバ装置1は、決定時間DB4に記憶されている決定時間の数が所定値未満である機能は、時短キーを割り当てる機能から除外してもよい。例えば、ユーザがクライアント装置2から離れていたり、操作画面を見ていなかったりすることにより、実際にユーザ操作に要した時間よりも大幅に決定時間が長くなる場合がある。決定時間DB4に記憶されている決定時間の数が所定値以上である機能の中から、時短キーを割り当てる機能を決定することにより、代表値に対するこのような決定時間の影響を低減させることができる。従って、時短キーを割り当てる機能を適切に決定することができる。   When the server apparatus 1 starts an application program in response to a request from the client apparatus 2, the server apparatus 1 calculates a representative value of the determination time for each of a plurality of functions that can be executed according to the application program. The representative value may be, for example, an average value, a median value, a mode value, a minimum value, or the like. Specifically, the server device 1 acquires the determination time corresponding to the application ID of the application program to be activated from the determination time DB 4 for each function ID. The server device 1 determines a representative value of the determination time for each function ID. The server device 1 determines a predetermined number of functions from among a plurality of functions in order of increasing representative value of the determination time as a function to which a short time key is assigned. In the present embodiment, the server device 1 determines three functions. However, the server apparatus 1 may determine 1 or 2 functions, and may determine 4 or more functions. The server device 1 may exclude the function in which the number of determination times stored in the determination time DB 4 is less than a predetermined value from the function of assigning the time-saving key. For example, when the user is away from the client device 2 or is not looking at the operation screen, the determination time may be significantly longer than the time actually required for the user operation. By determining the function to which the short time key is assigned from the functions in which the number of determination times stored in the determination time DB 4 is equal to or greater than a predetermined value, the influence of such determination time on the representative value can be reduced. . Therefore, it is possible to appropriately determine the function for assigning the time-saving key.

時短キーを割り当てる機能を決定すると、サーバ装置1は、決定した機能ごとに、その機能の機能IDと、時短キーを識別する操作対象IDとを対応付けてRAM13に記憶させる。   When the function to which the time key is assigned is determined, the server device 1 stores the function ID of the function and the operation target ID for identifying the time key in the RAM 13 in association with each determined function.

サーバ装置1は、RAM13に記憶された機能IDが示す機能と、この機能IDに対応する操作対象IDが示す時短キーとを関連付けて示す時短キー情報を、アプリケーションプログラムに従って生成された操作画面に含ませる。そして、サーバ装置1は、時短キー情報を含む操作画面を示す動画を、クライアント仮想化プログラムに従ってクライアント装置2へ送信する。   The server device 1 includes time-short key information indicating the function indicated by the function ID stored in the RAM 13 and the time-short key indicated by the operation target ID corresponding to the function ID in an operation screen generated according to the application program. Make it. And the server apparatus 1 transmits the moving image which shows the operation screen containing time-short key information to the client apparatus 2 according to a client virtualization program.

図2は、時短キー情報を含む操作画面の一例を示す図である。図2は、近隣案内のアプリケーションプログラムの操作画面の例を示す。近隣案内のアプリケーションプログラムは、地図上に建造物や場所などのスポットを表示し、選択されたスポットの案内情報を表示するためのプログラムである。近隣案内のアプリケーションプログラムにおいては、例えば操作画面において地図のスクロールが可能であってもよい。図2に示すように、操作画面には、オブジェクトOB1〜OB13が表示される。オブジェクトOB1〜OB12は、スポットを示すアイコンである。オブジェクトOB13は、アプリケーションプログラムを終了させるためのボタンである。また、操作画面にはカーソルCSが表示される。また、操作画面には、時短キー情報SK1〜SK3が表示される。時短キー情報SK1は、ファンクションキー1を示す。ファンクションキー1は、オブジェクトOB5が示すスポットの案内情報を表示する機能に割り当てられている。時短キー情報SK1は、文字「F1」を含む。時短キー情報SK2は、ファンクションキー2を示す。ファンクションキー2は、オブジェクトOB6が示す工場の案内情報を表示する機能に割り当てられている。時短キー情報SK2は、文字「F2」を含む。時短キー情報SK3は、ファンクションキー3を示す。ファンクションキー3は、オブジェクトOB11が示す郵便局の案内情報を表示する機能に割り当てられている。時短キー情報SK3は、文字「F3」を含む。ユーザは、キーボード上の、ファンクションキー1〜3の何れかを押すことで、対応する機能をサーバ装置1に実行させることができる。或いは、ユーザは、カーソルCSを移動させて時短キー情報SK1〜SK3の何れかを決定する操作を行うことで、対応する機能をサーバ装置1に実行させることができるように、アプリケーションプログラムのユーザインターフェースが設計されてもよい。   FIG. 2 is a diagram illustrating an example of an operation screen including time-short key information. FIG. 2 shows an example of the operation screen of the neighborhood guidance application program. The neighborhood guidance application program is a program for displaying spots such as buildings and places on a map and displaying guidance information of selected spots. In the neighborhood guidance application program, for example, the map may be scrollable on the operation screen. As shown in FIG. 2, objects OB1 to OB13 are displayed on the operation screen. Objects OB1 to OB12 are icons indicating spots. The object OB13 is a button for ending the application program. A cursor CS is displayed on the operation screen. In addition, time-short key information SK1 to SK3 is displayed on the operation screen. The time-short key information SK1 indicates the function key 1. The function key 1 is assigned to a function for displaying spot guidance information indicated by the object OB5. The time-short key information SK1 includes the character “F1”. The time-short key information SK2 indicates the function key 2. The function key 2 is assigned to a function for displaying factory guide information indicated by the object OB6. The time-short key information SK2 includes the character “F2”. The time-short key information SK3 indicates the function key 3. The function key 3 is assigned to a function for displaying post office guidance information indicated by the object OB11. The time-short key information SK3 includes the character “F3”. The user can cause the server device 1 to execute a corresponding function by pressing any one of the function keys 1 to 3 on the keyboard. Alternatively, the user interface of the application program is configured so that the user can cause the server device 1 to execute a corresponding function by moving the cursor CS and performing an operation of determining any of the time-short key information SK1 to SK3. May be designed.

サーバ装置1は、操作画面において、時短キーが割り当てられた機能に対応するオブジェクトと、その時短キーの時短キー情報との間で、外観上の所定属性を一致させてもよい。オブジェクトと時短キー情報との間で一致させる属性は、例えばオブジェクトと時短キー情報の色、模様、形状等であってもよい。オブジェクトの外観上の属性は、オブジェクト自身の外観上の属性であってもよい。或いは、オブジェクト上又はオブジェクトの近隣に、時短キーが割り当てられたことを示す画像、マーク等が表示されてもよい。この場合、オブジェクトの外観上の属性は、この画像、マーク等の属性であってもよい。これにより、時短キーとオブジェクトとが関連付けて示される。また、ユーザは、どのオブジェクトに対応する機能に時短キーが割り当てられているかを容易に認識することができる。図2において、オブジェクトOB5は枠FR1で囲まれている。時短キー情報SK1の枠の模様と枠FR1の模様とが一致する。オブジェクトOB6は枠FR2で囲まれている。時短キー情報SK2の枠の模様と枠FR2の模様とが一致する。オブジェクトOB11は枠FR3で囲まれている。時短キー情報SK3の枠の模様と枠FR3の模様とが一致する。時短キー情報SK1〜SK3の間では枠の模様は異なる。   The server device 1 may match a predetermined attribute on the appearance between the object corresponding to the function to which the short time key is assigned and the short time key information of the short time key on the operation screen. The attribute to be matched between the object and the time key information may be, for example, the color, pattern, shape, or the like of the object and the time key information. The appearance attribute of the object may be an appearance attribute of the object itself. Alternatively, an image, a mark, or the like indicating that the time key is assigned may be displayed on the object or in the vicinity of the object. In this case, the appearance attribute of the object may be an attribute such as an image or a mark. Thereby, the time-short key and the object are shown in association with each other. In addition, the user can easily recognize which time key is assigned to the function corresponding to which object. In FIG. 2, an object OB5 is surrounded by a frame FR1. The frame pattern of the time-short key information SK1 matches the pattern of the frame FR1. The object OB6 is surrounded by a frame FR2. The frame pattern of the time-short key information SK2 matches the pattern of the frame FR2. The object OB11 is surrounded by a frame FR3. The frame pattern of the time-short key information SK3 matches the pattern of the frame FR3. The frame pattern differs between the time-short key information SK1 to SK3.

外観上の所定属性を一致させる代わりに、又は外観上の所定属性を一致させることに加えて、サーバ装置1は、時短キー情報に、時短キーが割り当てられた機能に対応するオブジェクトを特定可能な情報を含めてもよい。オブジェクトを特定可能な情報として、例えばオブジェクトを識別する情報又はそのオブジェクトが示す対象を識別する情報が挙げられる。識別する情報として、オブジェクト又は対象の名称が挙げられる。近隣案内のアプリケーションプログラムの場合、オブジェクトを特定可能な情報は、例えばオブジェクトが示すスポットの緯度及び経度を示す情報であってもよい。これにより、時短キーとオブジェクトとが関連付けて示される。また、ユーザは、どのオブジェクトに対応する機能に時短キーが割り当てられているかを、たとえ対応するオブジェクトが現在表示されていなかったとしても容易に認識することができる。   Instead of matching the predetermined attributes on the appearance, or in addition to matching the predetermined attributes on the appearance, the server device 1 can specify the object corresponding to the function to which the time key is assigned in the time key information. Information may be included. As information that can specify an object, for example, information for identifying an object or information for identifying a target indicated by the object can be cited. The information to be identified includes the name of the object or the target. In the case of the neighborhood guidance application program, the information that can identify the object may be information indicating the latitude and longitude of the spot indicated by the object, for example. Thereby, the time-short key and the object are shown in association with each other. Further, the user can easily recognize to which function the time-short key is assigned to which object even if the corresponding object is not currently displayed.

サーバ装置1は、クライアント装置2から受信された操作情報が、RAM13に記憶された操作対象IDが示す時短キーが操作されたことを示す場合、この操作対象IDに対応する機能IDが示す機能を、アプリケーションプログラムにより実行させる。   When the operation information received from the client device 2 indicates that the time-short key indicated by the operation target ID stored in the RAM 13 is operated, the server device 1 displays the function indicated by the function ID corresponding to the operation target ID. And executed by an application program.

サーバ装置1がアプリケーションプログラムに従って、機能に対する時短キーの割り当て、時短キー情報の表示制御、及び時短キーの操作に応じた機能の実行制御を行うように、アプリケーションプログラムが作成されてもよい。これにより、アプリケーションプログラム開発者は、時短キーとして割り当てるキー、時短キー情報の表示方法等の時短キーに関する仕様を自由に決定することができる。この場合、アプリケーションプログラムに従って、サーバ装置1は、時短キー情報を含む操作画面の映像を生成する。また、クライアント装置2からサーバ装置1が受信する操作情報は、クライアント仮想化プログラムからアプリケーションプログラムにそのまま引き渡される。時短キーがハードウェアキーである場合、アプリケーションプログラムに従って、サーバ装置1は、操作情報に含まれる操作対象IDとRAM13に記憶された操作対象IDとを比較して、時短キーが押されたか否かを判定する。サーバ装置1は、操作情報に含まれる操作対象IDに一致する操作対象IDがRAM13に記憶されている場合、この操作対象IDに対応する機能IDを、実行する機能の機能IDとしてRAM13から取得する。時短キーがソフトウェア的なキーである場合、アプリケーションプログラムに従って、サーバ装置1は、操作情報が、オブジェクト決定操作を示す場合、操作画面において現在のカーソルの位置にあるオブジェクトを特定する。サーバ装置1は、特定したオブジェクトが時短キー情報である場合、この時短キー情報の操作対象IDに対応する機能IDを、実行する機能の機能IDとしてRAM13から取得する。   The application program may be created so that the server apparatus 1 performs time-short key assignment to a function, display control of time-short key information, and function execution control according to the operation of the time-short key according to the application program. Thereby, the application program developer can freely determine the specifications relating to the time-short key such as the key to be assigned as the time-short key and the display method of the time-short key information. In this case, according to the application program, the server device 1 generates an image of the operation screen including time-short key information. Further, the operation information received by the server device 1 from the client device 2 is transferred as it is from the client virtualization program to the application program. When the time key is a hardware key, according to the application program, the server device 1 compares the operation target ID included in the operation information with the operation target ID stored in the RAM 13, and determines whether or not the time key is pressed. Determine. When the operation target ID that matches the operation target ID included in the operation information is stored in the RAM 13, the server device 1 acquires the function ID corresponding to the operation target ID from the RAM 13 as the function ID of the function to be executed. . When the time key is a software key, according to the application program, the server device 1 specifies the object at the current cursor position on the operation screen when the operation information indicates an object determination operation. When the identified object is time-short key information, the server device 1 acquires the function ID corresponding to the operation target ID of the time-short key information from the RAM 13 as the function ID of the function to be executed.

或いは、サーバ装置1がクライアント仮想化プログラムに従って、機能に対する時短キーの割り当て、時短キー情報の表示制御、及び時短キーの操作に応じた機能の実行制御を行うように、アプリケーションプログラムが作成されていてもよい。これにより、アプリケーションプログラムごとに、時短キーに関する仕様を決定する必要がない。この場合、サーバ装置1は、アプリケーションプログラムに従って生成された操作画面の映像に、時短キー情報の映像を重畳させる合成処理を、クライアント仮想化プログラムに従って行う。また、クライアント装置2から受信された操作情報が、時短キーが操作されたことを示す場合、クライアント仮想化プログラムに従って、サーバ装置1は、この時短キーの操作対象IDに対応する機能IDが示す機能を実行するためのユーザ操作を示す操作情報を、アプリケーションプログラムに引き渡す。このとき、サーバ装置1は、その機能を実行するために複数段階のユーザ操作が必要である場合、複数の操作情報を取得又は生成し、ユーザ操作の順序に従って複数の操作情報をアプリケーションプログラムに引き渡す。サーバ装置1の記憶部14には、アプリケーションプログラムと機能IDとの組み合わせごとに、アプリケーションID、機能ID、1又は複数の操作情報、及び操作情報が示すユーザ操作の順序とが予め対応付けられて記憶されてもよい。サーバ装置1は、クライアント装置2から受信された操作情報に基づいて時短キーが操作されたと判定した場合、その時短キーの操作対象IDに対応する機能IDを取得する。サーバ装置1は、取得した機能IDに対応付けて予め記憶部14に記憶されている1又は複数の操作情報を取得する。時短キーが操作されたか否かの判定方法は、アプリケーションプログラムに従って判定を行う場合の方法と同様であってもよい。   Alternatively, an application program is created so that the server device 1 performs time-short key assignment to functions, display control of time-short key information, and function execution control in accordance with time-short key operations according to the client virtualization program. Also good. Thereby, it is not necessary to determine the specification regarding the time-short key for each application program. In this case, the server apparatus 1 performs a composition process for superimposing the video of the time-short key information on the video of the operation screen generated according to the application program according to the client virtualization program. When the operation information received from the client device 2 indicates that the time-short key has been operated, the server device 1 performs the function indicated by the function ID corresponding to the operation target ID of this time-key according to the client virtualization program. The operation information indicating the user operation for executing is delivered to the application program. At this time, when a plurality of stages of user operations are necessary to execute the function, the server device 1 acquires or generates a plurality of pieces of operation information and delivers the plurality of pieces of operation information to the application program according to the order of the user operations. . In the storage unit 14 of the server device 1, for each combination of an application program and a function ID, an application ID, a function ID, one or a plurality of operation information, and an order of user operations indicated by the operation information are associated in advance. It may be stored. When the server device 1 determines that the time-short key is operated based on the operation information received from the client device 2, the server device 1 acquires a function ID corresponding to the operation target ID of the time-short key. The server device 1 acquires one or more pieces of operation information stored in advance in the storage unit 14 in association with the acquired function ID. The method for determining whether or not the time-short key has been operated may be the same as the method for determining according to the application program.

[5.通信システムSの動作]
次に、図3乃至図5を参照して、本実施形態の通信システムSの動作について説明する。以下に説明する例は、ユーザは、マウス等のポインティングデバイスを用いてカーソルを動かして、マウスボタン等のハードウェア要素を押すことにより、オブジェクトを決定する場合の処理例である。また、以下に説明する例は、ハードウェアキーボード上の所定のキーが時短キーとして割り当てられる場合の処理例である。また、以下に説明する例は、アプリケーションプログラムに従って、機能に対する時短キーの割り当て、時短キー情報の表示制御、及び時短キーの操作に応じた機能の実行制御が行われる場合の処理例である。
[5. Operation of communication system S]
Next, the operation of the communication system S of the present embodiment will be described with reference to FIGS. The example described below is a processing example in the case where the user determines an object by moving a cursor using a pointing device such as a mouse and pressing a hardware element such as a mouse button. The example described below is a processing example when a predetermined key on the hardware keyboard is assigned as a time-short key. In addition, the example described below is a processing example in a case where time-short key assignment to a function, time-short key information display control, and function execution control according to a time-short key operation are performed according to an application program.

図3は、サーバ装置1におけるアプリケーション処理の一例を示す図である。例えば、ユーザの操作に基づいてクライアント装置2は、アプリケーション起動要求をサーバ装置1へ送信する。アプリケーション起動要求は、アプリケーションプログラムの起動の要求を示す。アプリケーション起動要求は、起動されるアプリケーションプログラムのアプリケーションIDを含んでもよい。サーバ装置1のCPU11は、アプリケーション起動要求に含まれるアプリケーションIDに対応するアプリケーションプログラムをアプリケーションDB3から読み出す。CPU11は、読み出したアプリケーションプログラムのプロセスをRAM13に生成して、アプリケーションプログラムを起動する。CPU11は、起動されたアプリケーションプログラムに従って、アプリケーション処理を実行する。   FIG. 3 is a diagram illustrating an example of application processing in the server device 1. For example, the client device 2 transmits an application activation request to the server device 1 based on a user operation. The application activation request indicates a request for activation of the application program. The application activation request may include the application ID of the application program to be activated. The CPU 11 of the server device 1 reads an application program corresponding to the application ID included in the application activation request from the application DB 3. The CPU 11 generates a process of the read application program in the RAM 13 and starts the application program. The CPU 11 executes application processing according to the activated application program.

図3に示すように、CPU11は、アプリケーションプログラムを起動したクライアント仮想化プログラムへ、機能ID要求を送信する(ステップS1)。機能ID要求は、時短キーが割り当てられた機能の機能IDの要求を示すメッセージである。   As shown in FIG. 3, the CPU 11 transmits a function ID request to the client virtualization program that has started the application program (step S1). The function ID request is a message indicating a request for a function ID of a function to which a short time key is assigned.

次いで、CPU11は、機能ID要求の送信に応じてクライアント仮想化プログラムから送信されてきた所定数の機能IDを受信する。CPU11は、受信した機能IDごとに、機能IDと、アプリケーションプログラムで予め定義された時短キーの対象識別IDとを対応付けてRAM13に記憶させる。これにより、CPU11は、時短キーを機能に割り当てる。また、CPU11は、時短キー情報を含む操作画面の映像を生成する(ステップS2)。例えば、CPU11は、割り当てた時短キーの名称を含み、且つこの時短キーに対応した色又は模様を有する時短キー情報を生成する。また、CPU11は、操作画面の映像において、時短キーが割り当てられた機能に対応するオブジェクトの色又は模様を、この時短キーに応じた色又は模様に変更する。或いは、CPU11は、時短キーが割り当てられた機能に対応するオブジェクトの周囲に、時短キーに応じた色又は模様を有する枠を描画する。CPU11は、操作画面の映像と時短キー情報とを合成する。また、CPU11は、カーソルの位置を初期設定し、操作画面の映像に、決定した位置でカーソルの映像を合成する。CPU11は、生成した操作画面の映像をクライアント仮想化プログラムへ引き渡す。クライアント仮想化プログラムに従って、CPU11は、引き渡された映像をエンコードして、動画データとしてクライアント装置2へ送信する。なお、RAM13に記憶された機能ID及び対象識別IDは、他のプロセスからはアクセスすることができないようになっている。   Next, the CPU 11 receives a predetermined number of function IDs transmitted from the client virtualization program in response to the transmission of the function ID request. For each received function ID, the CPU 11 stores the function ID and the target identification ID of the time-short key defined in advance in the application program in the RAM 13 in association with each other. Thereby, CPU11 assigns a time-short key to a function. Further, the CPU 11 generates an image of the operation screen including the time-short key information (step S2). For example, the CPU 11 generates time-short key information including the name of the assigned time-short key and having a color or pattern corresponding to the time-short key. Further, the CPU 11 changes the color or pattern of the object corresponding to the function to which the time-short key is assigned in the video of the operation screen to the color or pattern corresponding to the time-short key. Alternatively, the CPU 11 draws a frame having a color or pattern corresponding to the time-short key around the object corresponding to the function to which the time-short key is assigned. The CPU 11 synthesizes the video on the operation screen and the time-short key information. Further, the CPU 11 initializes the position of the cursor, and synthesizes the video of the cursor at the determined position with the video of the operation screen. The CPU 11 delivers the generated operation screen image to the client virtualization program. In accordance with the client virtualization program, the CPU 11 encodes the delivered video and transmits it as moving image data to the client device 2. The function ID and target identification ID stored in the RAM 13 cannot be accessed from other processes.

次いで、CPU11は、アプリケーション起動要求を送信してきたクライアント装置2から操作情報が送信されてきた場合、クライアント仮想化プログラムから操作情報を受信する(ステップS3)。次いで、CPU11は、時短キーが押されたか否かを判定する(ステップS4)。例えば、CPU11は、操作情報に含まれる操作対象IDと一致する操作対象IDがRAM13に記憶されているか否かを判定する。操作情報に含まれる操作対象IDと一致する操作対象IDがRAM13に記憶されている場合、CPU11は、時短キーが押されたと判定する(ステップS4:YES)。この場合、CPU11は、ステップS7に進む。一方、操作情報に含まれる操作対象IDと一致する操作対象IDがRAM13に記憶されていない場合、CPU11は、時短キーが押されていないと判定する(ステップS4:NO)。この場合、CPU11は、ステップS5に進む。   Next, when the operation information is transmitted from the client device 2 that has transmitted the application activation request, the CPU 11 receives the operation information from the client virtualization program (step S3). Next, the CPU 11 determines whether or not the time-short key has been pressed (step S4). For example, the CPU 11 determines whether or not an operation target ID that matches the operation target ID included in the operation information is stored in the RAM 13. When the operation target ID that matches the operation target ID included in the operation information is stored in the RAM 13, the CPU 11 determines that the time-short key has been pressed (step S4: YES). In this case, the CPU 11 proceeds to step S7. On the other hand, when the operation target ID that matches the operation target ID included in the operation information is not stored in the RAM 13, the CPU 11 determines that the time reduction key is not pressed (step S4: NO). In this case, the CPU 11 proceeds to step S5.

ステップS5において、CPU11は、操作情報に対応する処理を実行する。例えば、CPU11は、操作情報に含まれる操作対象IDがマウス等の移動を示す場合、操作対象IDに含まれるベクトル情報に基づいて、操作画面におけるカーソルの位置を変更する。そして、CPU11は、変更したカーソルの位置に基づいて、カーソル及び時短キー情報を含む操作画面の映像を生成する。操作画面の映像の生成方法は、ステップS2と基本的に同様である。CPU11は、クライアント仮想化プログラムに従って、生成された映像をエンコードして、動画データとしてクライアント装置2へ送信する。   In step S5, the CPU 11 executes processing corresponding to the operation information. For example, when the operation target ID included in the operation information indicates movement of a mouse or the like, the CPU 11 changes the position of the cursor on the operation screen based on the vector information included in the operation target ID. And CPU11 produces | generates the image | video of the operation screen containing a cursor and time-short key information based on the position of the changed cursor. The operation screen image generation method is basically the same as in step S2. The CPU 11 encodes the generated video according to the client virtualization program, and transmits the encoded video to the client device 2 as moving image data.

次いで、CPU11は、アプリケーションプログラムで定義されている複数の機能のうちの何れかの機能を実行するか否かを判定する(ステップS6)。例えば、CPU11は、操作情報に含まれる操作対象IDがマウスボタン等を示さない場合、機能を実行しないと判定する。一方、CPU11は、操作情報に含まれる操作対象IDがマウスボタン等を示す場合、操作画面においてカーソルの現在位置に、機能に対応付けられたオブジェクトが存在するか否かを判定する。カーソルの現在位置に、機能に対応付けられたオブジェクトが存在しない場合、CPU11は、機能を実行しないと判定する。CPU11は、機能を実行しないと判定した場合(ステップS6:NO)、ステップS3に進む。一方、カーソルの現在位置に、機能に対応付けられたオブジェクトが存在する場合、CPU11は、機能を実行すると判定する(ステップS6:YES)。この場合、CPU11は、ステップS7に進む。   Next, the CPU 11 determines whether or not to execute any one of a plurality of functions defined in the application program (step S6). For example, the CPU 11 determines that the function is not executed when the operation target ID included in the operation information does not indicate a mouse button or the like. On the other hand, when the operation target ID included in the operation information indicates a mouse button or the like, the CPU 11 determines whether or not an object associated with the function exists at the current position of the cursor on the operation screen. If there is no object associated with the function at the current position of the cursor, the CPU 11 determines that the function is not executed. If the CPU 11 determines not to execute the function (step S6: NO), the CPU 11 proceeds to step S3. On the other hand, if there is an object associated with the function at the current position of the cursor, the CPU 11 determines to execute the function (step S6: YES). In this case, the CPU 11 proceeds to step S7.

ステップS7において、CPU11は、機能を実行する。ステップS4において時短キーが押されたと判定された場合、CPU11は、操作情報に含まれる操作対象IDと一致する操作対象IDに対応する機能IDをRAM13から取得する。ステップS6において機能を実行すると判定された場合、CPU11は、カーソルの現在位置にあるオブジェクトに対応する機能の機能IDを取得する。CPU11は、取得した機能IDに対応する機能を実行する。例えば、近隣案内の場合、CPU11は、オブジェクトに対応する案内情報の映像を生成する。CPU11は、生成した案内情報を含む操作画面の映像を生成する。操作画面の映像の生成方法は、基本的にステップS2と同様である。CPU11は、クライアント仮想化プログラムに従って、生成された映像をエンコードして、動画データとしてクライアント装置2へ送信する。機能を実行すると、CPU11は、取得した機能IDをクライアント仮想化プログラムへ送信する(ステップS8)。次いで、CPU11は、ステップS3に進む。   In step S7, the CPU 11 executes a function. When it is determined in step S4 that the time-short key has been pressed, the CPU 11 acquires from the RAM 13 a function ID corresponding to the operation target ID that matches the operation target ID included in the operation information. If it is determined in step S6 that the function is to be executed, the CPU 11 acquires the function ID of the function corresponding to the object at the current position of the cursor. The CPU 11 executes a function corresponding to the acquired function ID. For example, in the case of neighborhood guidance, the CPU 11 generates a video of guidance information corresponding to an object. CPU11 produces | generates the image | video of the operation screen containing the produced | generated guidance information. The operation screen image generation method is basically the same as in step S2. The CPU 11 encodes the generated video according to the client virtualization program, and transmits the encoded video to the client device 2 as moving image data. When the function is executed, the CPU 11 transmits the acquired function ID to the client virtualization program (step S8). Next, the CPU 11 proceeds to step S3.

図4は、サーバ装置1における仮想クライアント処理の一例を示す図である。クライアント装置2からアプリケーション起動要求を受信したとき、CPU11は、クライアント仮想化プログラムのプロセスをRAM13に生成して、クライアント仮想化プログラムを起動する。CPU11は、起動されたクライアント仮想化プログラムに従って仮想クライアント処理を実行する。   FIG. 4 is a diagram illustrating an example of the virtual client process in the server device 1. When receiving an application activation request from the client device 2, the CPU 11 generates a client virtualization program process in the RAM 13 and activates the client virtualization program. The CPU 11 executes virtual client processing according to the activated client virtualization program.

図4に示すように、CPU11は、初期化処理を実行する(ステップS11)。例えば、CPU11は、アプリケーション起動要求に含まれるアプリケーションIDが示すアプリケーションプログラムを起動する。   As shown in FIG. 4, the CPU 11 executes an initialization process (step S11). For example, the CPU 11 activates the application program indicated by the application ID included in the application activation request.

次いで、CPU11は、アプリケーション起動要求を送信してきたクライアント装置2から、操作情報を受信したか否かを判定する(ステップS12)。このとき、CPU11は、操作情報を受信したと判定した場合には(ステップS12:YES)、ステップS13に進む。一方、CPU11は、操作情報を受信していないと判定した場合には(ステップS12:NO)、ステップS15に進む。   Next, the CPU 11 determines whether or not operation information has been received from the client device 2 that has transmitted the application activation request (step S12). At this time, if the CPU 11 determines that the operation information has been received (step S12: YES), the CPU 11 proceeds to step S13. On the other hand, when the CPU 11 determines that the operation information has not been received (step S12: NO), the CPU 11 proceeds to step S15.

ステップS13において、CPU11は、受信した操作情報と、操作情報に付加された時刻とを対応付けてRAM13に記憶させる。なお、RAM13に記憶された操作情報及び時刻は、他のプロセスからはアクセスすることができないようになっている。次いで、CPU11は、起動したアプリケーションプログラムへ、クライアント装置2から受信した操作情報を送信する(ステップS14)。次いで、CPU11は、ステップS12に進む。   In step S <b> 13, the CPU 11 stores the received operation information in association with the time added to the operation information in the RAM 13. The operation information and time stored in the RAM 13 cannot be accessed from other processes. Next, the CPU 11 transmits the operation information received from the client device 2 to the activated application program (step S14). Next, the CPU 11 proceeds to step S12.

ステップS15において、CPU11は、起動したアプリケーションプログラムから機能IDを受信したか否かを判定する。このとき、CPU11は、機能IDを受信したと判定した場合には(ステップS15:YES)、ステップS16に進む。一方、CPU11は、機能IDを受信していないと判定した場合には(ステップS15:NO)、ステップS18に進む。   In step S15, the CPU 11 determines whether a function ID is received from the activated application program. At this time, if the CPU 11 determines that the function ID has been received (step S15: YES), the CPU 11 proceeds to step S16. On the other hand, if the CPU 11 determines that the function ID has not been received (step S15: NO), the CPU 11 proceeds to step S18.

ステップS16において、CPU11は、決定時間算出処理を実行する。図5は、サーバ装置1における決定時間算出処理の一例を示す図である。図5に示すように、CPU11は、順序番号iを1に設定する(ステップS21)。次いで、CPU11は、RAM13に記憶された時刻のうち、i番目に新しい時刻を特定する。CPU11は、カーソルの現在位置から、i番目に新しい時刻におけるカーソルの位置までの距離を画素数で算出する(ステップS22)。例えば、CPU11は、1番目に新しい時刻に対応する操作情報からi番目に新しい時刻に対応する操作情報までの各操作情報からベクトル情報を取得する。CPU11は、取得したベクトル情報に基づいて、現在のカーソルの位置を原点として、i番目に新しい時刻におけるカーソルの位置の座標を算出する。CPU11は、原点からi番目に新しい時刻におけるカーソルの位置の座標までの距離を計算する。   In step S16, the CPU 11 executes a determination time calculation process. FIG. 5 is a diagram illustrating an example of a determination time calculation process in the server device 1. As shown in FIG. 5, the CPU 11 sets the sequence number i to 1 (step S21). Next, the CPU 11 specifies the i-th newest time among the times stored in the RAM 13. The CPU 11 calculates the distance from the current cursor position to the cursor position at the i-th new time in terms of the number of pixels (step S22). For example, the CPU 11 acquires vector information from each operation information from the operation information corresponding to the first new time to the operation information corresponding to the i th new time. Based on the acquired vector information, the CPU 11 calculates the coordinates of the cursor position at the i-th new time with the current cursor position as the origin. The CPU 11 calculates the distance from the origin to the coordinates of the cursor position at the i-th newest time.

次いで、CPU11は、算出した距離が100画素を超えるか否かを判定する(ステップS23)。このとき、CPU11は、算出した距離が100画素を超えないと判定した場合には(ステップS23:NO)、ステップS24に進む。一方、CPU11は、算出した距離が100画素を超えると判定した場合には(ステップS23:YES)、ステップS26に進む。   Next, the CPU 11 determines whether or not the calculated distance exceeds 100 pixels (step S23). At this time, if the CPU 11 determines that the calculated distance does not exceed 100 pixels (step S23: NO), the CPU 11 proceeds to step S24. On the other hand, if the CPU 11 determines that the calculated distance exceeds 100 pixels (step S23: YES), the CPU 11 proceeds to step S26.

ステップS24において、CPU11は、計算した距離をRAM13に記憶させる。次いで、CPU11は、順序番号iを1増加させて(ステップS25)、ステップS22に進む。   In step S <b> 24, the CPU 11 stores the calculated distance in the RAM 13. Next, the CPU 11 increments the sequence number i by 1 (step S25) and proceeds to step S22.

ステップS26において、CPU11は、は、現在時刻から、ステップS24において最後に記憶された時刻を減算することにより、決定時間を算出する。そして、CPU11は、決定時間算出処理を終了させる。   In step S26, the CPU 11 calculates the determination time by subtracting the time stored last in step S24 from the current time. Then, the CPU 11 ends the determination time calculation process.

決定時間算出処理を終えると、CPU11は、図4に示すように、算出された決定時間、アプリケーション起動要求に含まれるアプリケーションID、及びアプリケーションプログラムから受信した機能IDを対応付けて決定時間データベース4に記憶させる(ステップS17)。次いで、CPU11は、ステップS12に進む。   When the determination time calculation process is completed, the CPU 11 associates the calculated determination time, the application ID included in the application activation request, and the function ID received from the application program with each other in the determination time database 4 as shown in FIG. Store (step S17). Next, the CPU 11 proceeds to step S12.

ステップS18において、CPU11は、起動したアプリケーションプログラムから機能ID要求を受信したか否かを判定する。このとき、CPU11は、機能ID要求を受信したと判定した場合には(ステップS18:YES)、ステップS19に進む。一方、CPU11は、機能ID要求を受信していないと判定した場合には(ステップS18:NO)、ステップS12に進む。   In step S18, the CPU 11 determines whether a function ID request has been received from the activated application program. At this time, if the CPU 11 determines that the function ID request has been received (step S18: YES), the CPU 11 proceeds to step S19. On the other hand, when determining that the function ID request has not been received (step S18: NO), the CPU 11 proceeds to step S12.

ステップS19において、CPU11は、決定時間データベースから、アプリケーション起動要求に含まれるアプリケーションIDに対応する機能ID及び決定時間の組み合わせを全て取得する。CPU11は、取得した機能ID及び決定時間の組み合わせを、機能IDでグループ分けする。次いで、CPU11は、グループごとに、グループに含まれる決定時間の代表値を計算する。例えば、CPU11は、決定時間の平均値を計算してもよい。CPU11は、決定時間の代表値が大きい順に所定数の機能IDを決定する。例えば、CPU11は、代表値が1番目に大きい機能IDから3番目に大きい機能IDまでを決定してもよい。CPU11は、決定した機能IDを、アプリケーションプログラムへ送信して、ステップS12に進む。   In step S <b> 19, the CPU 11 acquires all combinations of function IDs and determination times corresponding to application IDs included in the application activation request from the determination time database. The CPU 11 groups the combinations of acquired function IDs and determination times by function ID. Next, the CPU 11 calculates, for each group, a representative value of determination times included in the group. For example, the CPU 11 may calculate an average value of determination times. The CPU 11 determines a predetermined number of function IDs in descending order of representative value of the determination time. For example, the CPU 11 may determine from the function ID having the largest representative value to the function ID having the third largest value. The CPU 11 transmits the determined function ID to the application program, and proceeds to step S12.

以上説明したように、上記実施形態によれば、サーバ装置1が、アプリケーションプログラムの起動が要求された場合、アプリケーションプログラムに従って実行可能な複数の機能に対応する複数のオブジェクトのうち少なくとも1つを含む操作画面を示す動画データを、クライアント装置2へ送信する。また、サーバ装置1が、操作画面に含まれる何れかのオブジェクトを決定するユーザ操作がクライアント装置2により受け付けられた場合、操作情報をクライアント装置2から受信する。また、サーバ装置1が、受信された操作情報に基づいて、決定されたオブジェクトに対応する機能を実行する。また、サーバ装置1が、機能の実行の結果に応じた操作画面を示す動画データをクライアント装置2へ送信する。また、サーバ装置1が、操作情報が示すユーザ操作が行われるまでに要した決定時間を取得する。また、サーバ装置1が、取得された決定時間と、実行された機能の機能IDとを対応付けて記憶させる。また、サーバ装置1が、複数の機能のそれぞれについて、決定時間の代表値を取得する。また、サーバ装置1が、複数の機能の中から代表値が大きい順に所定数の機能を決定する。また、サーバ装置1が、決定された機能ごとに、機能IDと時短キーの対象識別IDとを対応付けて、RAM13に記憶させる。また、サーバ装置1が、記憶された機能IDが示す機能と、対応する対象識別IDが示す時短キーとを関連付けて示す時短キー情報を操作画面に含ませる。また、サーバ装置1が、受信された操作情報が、RAM13に記憶された対象識別IDが示す時短キーが操作されたことを示す場合、対象識別IDに対応する機能IDが示す機能を実行させる。従って、ユーザ操作に時間を要する機能を、複数のクライアント装置におけるユーザ操作を総合的に勘案して決定することができる。また、決定時間の代表値が相対的に大きい機能に時短キーが割り当てられるので、ユーザ操作に時間を要する機能を容易に実行することが可能となる。   As described above, according to the above embodiment, the server device 1 includes at least one of a plurality of objects corresponding to a plurality of functions that can be executed according to the application program when the activation of the application program is requested. The moving image data indicating the operation screen is transmitted to the client device 2. In addition, when the client apparatus 2 receives a user operation for determining any object included in the operation screen, the server apparatus 1 receives operation information from the client apparatus 2. Further, the server device 1 executes a function corresponding to the determined object based on the received operation information. Further, the server device 1 transmits moving image data indicating an operation screen corresponding to the result of the function execution to the client device 2. Further, the server device 1 acquires a determination time required until a user operation indicated by the operation information is performed. In addition, the server device 1 stores the acquired determination time and the function ID of the executed function in association with each other. Moreover, the server apparatus 1 acquires the representative value of determination time about each of several functions. Further, the server device 1 determines a predetermined number of functions in descending order of the representative value from among a plurality of functions. Further, the server device 1 stores the function ID and the target identification ID of the time-short key in the RAM 13 in association with each determined function. In addition, the server device 1 includes time-short key information indicating the function indicated by the stored function ID and the time-short key indicated by the corresponding target identification ID in association with each other on the operation screen. Further, when the received operation information indicates that the time-short key indicated by the target identification ID stored in the RAM 13 is operated, the server device 1 executes the function indicated by the function ID corresponding to the target identification ID. Therefore, it is possible to determine a function that requires time for user operation by comprehensively considering user operations in a plurality of client devices. In addition, since the time reduction key is assigned to a function having a relatively large representative time, a function that requires time for user operation can be easily executed.

1 サーバ装置
2 クライアント装置
3 アプリケーションDB
4 決定時間DB
10 ネットワーク
11、21 CPU
12、22 ROM
13、23 RAM
14、24 記憶部
15、25 通信部
26 入力部
27 表示部
S 通信システム
1 Server device 2 Client device 3 Application DB
4 decision time DB
10 Network 11, 21 CPU
12, 22 ROM
13, 23 RAM
14, 24 Storage unit 15, 25 Communication unit 26 Input unit 27 Display unit S Communication system

Claims (8)

複数のクライアント装置とネットワークを介して接続される情報処理装置において、
前記複数のクライアント装置が利用可能な機能を前記情報処理装置により実行させるアプリケーションプログラムを記憶するプログラム記憶手段と、
前記複数のクライアント装置の何れかのクライアント装置から、前記プログラム記憶手段に記憶された前記アプリケーションプログラムの起動が要求された場合、前記アプリケーションプログラムに従って実行可能な複数の機能に対応する複数のオブジェクトのうち少なくとも1つを含む操作画面を示す画面情報を、前記クライアント装置へ送信する第1送信手段と、
前記第1送信手段により送信された前記画面情報が示す前記操作画面に含まれる何れかのオブジェクトを決定するユーザ操作が前記クライアント装置により受け付けられた場合、前記ユーザ操作を示す操作情報を前記クライアント装置から受信する受信手段と、
前記アプリケーションプログラムに従って、前記受信手段により受信された前記操作情報に基づいて、決定された前記オブジェクトに対応する機能を実行する実行手段と、
前記アプリケーションプログラムに従って、前記実行手段による前記機能の実行の結果に応じた操作画面を示す画面情報を前記クライアント装置へ送信する第2送信手段と、
前記受信手段により受信された前記操作情報が示す前記ユーザ操作が行われるまでに要した所要時間を取得する時間取得手段と、
複数のクライアント装置について、ユーザ操作が行われるまでの所要時間と、前記アプリケーションプログラムに従って実行された機能を識別する機能識別情報とを対応付けて記憶する時間記憶手段に、前記時間取得手段により取得された前記所要時間と、前記実行手段により実行された前記機能を識別する機能識別情報とを対応付けて記憶させる時間記憶制御手段と、
前記複数の機能のそれぞれについて、前記機能を識別する機能識別情報に対応付けて前記時間記憶手段に記憶された所要時間の代表値を取得する代表値取得手段と、
前記複数の機能の中から、前記代表値取得手段により取得された代表値が大きい順に、所定数の機能を決定する決定手段と、
前記決定手段により決定された機能ごとに、前記機能を識別する機能識別情報と、操作可能な所定の操作要素を識別する操作要素識別情報とを対応付けて、割当情報記憶手段に記憶させる割当情報記憶制御手段と、
前記割当情報記憶手段に記憶された前記機能識別情報が示す機能と、前記機能識別情報に対応する前記操作要素識別情報が示す前記操作要素とを関連付けて示すショートカット情報を、前記第1送信手段及び前記第2送信手段それぞれにより送信される前記画面情報が示す前記操作画面に含ませる画面制御手段と、
前記受信手段により受信された前記操作情報が、前記割当情報記憶手段に記憶された操作要素識別情報が示す操作要素が操作されたことを示す場合、前記操作要素識別情報に対応する前記機能識別情報が示す機能を前記実行手段により実行させる実行制御手段と、
を備えることを特徴とする情報処理装置。
In an information processing apparatus connected to a plurality of client apparatuses via a network,
Program storage means for storing an application program for causing the information processing apparatus to execute functions usable by the plurality of client apparatuses;
Among a plurality of objects corresponding to a plurality of functions that can be executed in accordance with the application program, when any one of the plurality of client devices requests activation of the application program stored in the program storage unit First transmission means for transmitting screen information indicating an operation screen including at least one to the client device;
When a user operation for determining any object included in the operation screen indicated by the screen information transmitted by the first transmission unit is received by the client device, the operation information indicating the user operation is transmitted to the client device. Receiving means for receiving from,
Execution means for executing a function corresponding to the determined object based on the operation information received by the receiving means according to the application program;
Second transmission means for transmitting screen information indicating an operation screen according to a result of execution of the function by the execution means to the client device according to the application program;
Time acquisition means for acquiring a time required until the user operation indicated by the operation information received by the reception means is performed;
For a plurality of client devices, the time acquisition unit acquires the time required until a user operation is performed and the function storage information for identifying the function executed according to the application program in association with each other. Time storage control means for storing the required time and function identification information for identifying the function executed by the execution means in association with each other;
For each of the plurality of functions, representative value acquisition means for acquiring a representative value of the required time stored in the time storage means in association with function identification information for identifying the function;
A determining unit that determines a predetermined number of functions in descending order of the representative value acquired by the representative value acquiring unit from the plurality of functions;
Allocation information for storing the function identification information for identifying the function and the operation element identification information for identifying the predetermined operation element that can be operated in association with each function determined by the determination unit in the allocation information storage unit Memory control means;
Shortcut information indicating the function indicated by the function identification information stored in the allocation information storage means and the operation element indicated by the operation element identification information corresponding to the function identification information, the first transmission means, Screen control means included in the operation screen indicated by the screen information transmitted by each of the second transmission means;
When the operation information received by the receiving means indicates that the operation element indicated by the operation element identification information stored in the allocation information storage means has been operated, the function identification information corresponding to the operation element identification information Execution control means for causing the execution means to execute the function indicated by:
An information processing apparatus comprising:
前記第1送信手段は、前記割当情報記憶手段に記憶された前記機能識別情報が示す機能に対応するオブジェクトと、前記機能識別情報に対応する前記ショートカット情報との間で、外観上の所定属性が一致する前記操作画面を示す画面情報を送信することを特徴とする請求項1に記載の情報処理装置。   The first transmission means has a predetermined external attribute between an object corresponding to the function indicated by the function identification information stored in the allocation information storage means and the shortcut information corresponding to the function identification information. The information processing apparatus according to claim 1, wherein screen information indicating the matching operation screen is transmitted. 前記第1送信手段は、前記割当情報記憶手段に記憶された前記機能識別情報が示す機能に対応するオブジェクトを特定可能な情報を含む前記ショートカット情報を含む前記操作画面を示す前記画面情報を送信することを特徴とする請求項1又は2に記載の情報処理装置。   The first transmission unit transmits the screen information indicating the operation screen including the shortcut information including information capable of specifying an object corresponding to the function indicated by the function identification information stored in the allocation information storage unit. The information processing apparatus according to claim 1 or 2. 前記受信手段は、前記操作画面内に表示されるマークを移動させる第1のユーザ操作が受け付けられた場合、前記第1のユーザ操作を示す操作情報を受信し、且つ、前記操作画面における前記マークの位置にあるオブジェクトを決定する第2のユーザ操作が受け付けられた場合、前記第2のユーザ操作を示す操作情報を受信し、
前記受信手段により受信された前記操作情報に基づいて特定される前記マークの前記操作画面における位置を特定可能な位置情報と、前記ユーザ操作が行われた時刻を示す時刻情報とを対応付けて記憶する位置情報記憶手段を更に備え、
前記実行手段は、前記受信手段により前記第1のユーザ操作を示す操作情報が受信された場合、前記操作画面における前記マークの位置を変更し、
前記決定手段は、前記受信手段により前記第2のユーザ操作を示す操作情報が受信された場合、前記位置情報記憶手段に記憶された時刻情報が示す時刻が新しい順に、前記時刻情報に対応する位置情報により特定される前記マークの位置と、前記第2のユーザ操作が行われたときの前記マークの位置との差を計算し、所定距離を超える差が計算される直前に計算された差の計算に用いられた位置情報に対応する時刻情報が示す時刻から、前記第2のユーザ操作が行われた時刻までの時間を、前記所要時間に決定することを特徴とする請求項1乃至3の何れか1項に記載の情報処理装置。
The receiving means receives operation information indicating the first user operation when a first user operation for moving a mark displayed in the operation screen is received, and the mark on the operation screen When a second user operation for determining an object at the position is received, operation information indicating the second user operation is received,
Position information capable of specifying the position of the mark specified on the basis of the operation information received by the receiving means on the operation screen is associated with time information indicating the time when the user operation was performed. Further comprising position information storage means,
The execution unit changes the position of the mark on the operation screen when the operation information indicating the first user operation is received by the reception unit,
In the case where operation information indicating the second user operation is received by the receiving unit, the determining unit corresponds to the time information corresponding to the time information in order from the latest time indicated by the time information stored in the position information storage unit. The difference between the position of the mark specified by the information and the position of the mark when the second user operation is performed is calculated, and the difference calculated immediately before the difference exceeding the predetermined distance is calculated. The time from the time indicated by the time information corresponding to the position information used for the calculation to the time when the second user operation is performed is determined as the required time. The information processing apparatus according to any one of claims.
前記プログラム記憶手段は、前記受信手段により受信された前記操作情報を前記アプリケーションプログラムに引き渡すためのクライアント仮想化プログラムを更に記憶し、
前記割当情報記憶制御手段、前記画面制御手段及び前記実行制御手段は、前記アプリケーションプログラムに従って機能することを特徴とする請求項1乃至4の何れか1項に記載の情報処理装置。
The program storage means further stores a client virtualization program for handing over the operation information received by the receiving means to the application program,
5. The information processing apparatus according to claim 1, wherein the allocation information storage control unit, the screen control unit, and the execution control unit function according to the application program.
前記プログラム記憶手段は、前記受信手段により受信された前記操作情報を前記アプリケーションプログラムに引き渡すためのクライアント仮想化プログラムを更に記憶し、
前記割当情報記憶制御手段、前記画面制御手段及び前記実行制御手段は、前記クライアント仮想化プログラムに従って機能し、
前記実行制御手段は、前記受信手段により受信された前記操作情報が、前記割当情報記憶手段に記憶された操作要素識別情報が示す操作要素が操作されたことを示す場合、前記操作要素識別情報に対応する前記機能識別情報が示す機能を実行するためのユーザ操作を示す操作情報を前記アプリケーションプログラムに引き渡すことを特徴とする請求項1乃至4の何れか1項に記載の情報処理装置。
The program storage means further stores a client virtualization program for handing over the operation information received by the receiving means to the application program,
The allocation information storage control means, the screen control means and the execution control means function according to the client virtualization program,
When the operation information received by the receiving means indicates that the operation element indicated by the operation element identification information stored in the allocation information storage means has been operated, the execution control means includes the operation element identification information. The information processing apparatus according to claim 1, wherein operation information indicating a user operation for executing a function indicated by the corresponding function identification information is delivered to the application program.
複数のクライアント装置とネットワークを介して接続される情報処理装置により実行される情報処理方法において、
前記複数のクライアント装置の何れかのクライアント装置から、前記複数のクライアント装置が利用可能な機能を前記情報処理装置により実行させるアプリケーションプログラムを記憶するプログラム記憶手段に記憶された前記アプリケーションプログラムの起動が要求された場合、前記アプリケーションプログラムに従って実行可能な複数の機能に対応する複数のオブジェクトのうち少なくとも1つを含む操作画面を示す画面情報を、前記クライアント装置へ送信する第1送信ステップと、
前記第1送信ステップにより送信された前記画面情報が示す前記操作画面に含まれる何れかのオブジェクトを決定するユーザ操作が前記クライアント装置により受け付けられた場合、前記ユーザ操作を示す操作情報を前記クライアント装置から受信する受信ステップと、
前記アプリケーションプログラムに従って、前記受信ステップにより受信された前記操作情報に基づいて、決定された前記オブジェクトに対応する機能を実行する実行ステップと、
前記アプリケーションプログラムに従って、前記実行ステップによる前記機能の実行の結果に応じた操作画面を示す画面情報を前記クライアント装置へ送信する第2送信ステップと、
前記受信ステップにより受信された前記操作情報が示す前記ユーザ操作が行われるまでに要した所要時間を取得する時間取得ステップと、
複数のクライアント装置について、ユーザ操作が行われるまでの所要時間と、前記アプリケーションプログラムに従って実行された機能を識別する機能識別情報とを対応付けて記憶する時間記憶手段に、前記時間取得ステップにより取得された前記所要時間と、前記実行ステップにより実行された前記機能を識別する機能識別情報とを対応付けて記憶させる時間記憶制御ステップと、
前記複数の機能のそれぞれについて、前記機能を識別する機能識別情報に対応付けて前記時間記憶手段に記憶された所要時間の代表値を取得する代表値取得ステップと、
前記複数の機能の中から、前記代表値取得ステップにより取得された代表値が大きい順に、所定数の機能を決定する決定ステップと、
前記決定ステップにより決定された機能ごとに、前記機能を識別する機能識別情報と、操作可能な所定の操作要素を識別する操作要素識別情報とを対応付けて、割当情報記憶手段に記憶させる割当情報記憶制御ステップと、
前記割当情報記憶手段に記憶された前記機能識別情報が示す機能と、前記機能識別情報に対応する前記操作要素識別情報が示す前記操作要素とを関連付けて示すショートカット情報を、前記第1送信ステップ及び前記第2送信ステップそれぞれにより送信される前記画面情報が示す前記操作画面に含ませる画面制御ステップと、
前記受信ステップにより受信された前記操作情報が、前記割当情報記憶手段に記憶された操作要素識別情報が示す操作要素が操作されたことを示す場合、前記操作要素識別情報に対応する前記機能識別情報が示す機能を前記実行ステップにより実行させる実行制御ステップと、
を含むことを特徴とする情報処理方法。
In an information processing method executed by an information processing apparatus connected to a plurality of client apparatuses via a network,
Request for activation of the application program stored in a program storage means for storing an application program for causing the information processing apparatus to execute functions usable by the plurality of client apparatuses from any one of the plurality of client apparatuses. A first transmission step of transmitting screen information indicating an operation screen including at least one of a plurality of objects corresponding to a plurality of functions executable according to the application program to the client device;
When a user operation for determining any object included in the operation screen indicated by the screen information transmitted in the first transmission step is accepted by the client device, the operation information indicating the user operation is transmitted to the client device. Receiving step to receive from,
An executing step of executing a function corresponding to the determined object based on the operation information received by the receiving step according to the application program;
A second transmission step of transmitting screen information indicating an operation screen according to a result of execution of the function by the execution step to the client device according to the application program;
A time acquisition step of acquiring a time required until the user operation indicated by the operation information received by the reception step is performed;
Acquired by the time acquisition step in a time storage means for storing a time required until a user operation is performed and function identification information for identifying a function executed according to the application program in association with each other for a plurality of client devices. A time storage control step for storing the required time and function identification information for identifying the function executed in the execution step in association with each other;
For each of the plurality of functions, a representative value acquisition step of acquiring a representative value of the required time stored in the time storage means in association with function identification information for identifying the function;
A determining step of determining a predetermined number of functions in descending order of the representative value acquired by the representative value acquiring step from the plurality of functions;
Allocation information stored in the allocation information storage unit in association with function identification information for identifying the function and operation element identification information for identifying a predetermined operable element for each function determined by the determination step A memory control step;
Shortcut information indicating the function indicated by the function identification information stored in the allocation information storage means and the operation element indicated by the operation element identification information corresponding to the function identification information, the first transmission step, A screen control step included in the operation screen indicated by the screen information transmitted by each of the second transmission steps;
When the operation information received in the receiving step indicates that the operation element indicated by the operation element identification information stored in the allocation information storage means has been operated, the function identification information corresponding to the operation element identification information An execution control step for executing the function indicated by
An information processing method comprising:
複数のクライアント装置とネットワークを介して接続される情報処理装置のコンピュータに、
前記複数のクライアント装置の何れかのクライアント装置から、前記複数のクライアント装置が利用可能な機能を前記情報処理装置により実行させるアプリケーションプログラムを記憶するプログラム記憶手段に記憶された前記アプリケーションプログラムの起動が要求された場合、前記アプリケーションプログラムに従って実行可能な複数の機能に対応する複数のオブジェクトのうち少なくとも1つを含む操作画面を示す画面情報を、前記クライアント装置へ送信する第1送信ステップと、
前記第1送信ステップにより送信された前記画面情報が示す前記操作画面に含まれる何れかのオブジェクトを決定するユーザ操作が前記クライアント装置により受け付けられた場合、前記ユーザ操作を示す操作情報を前記クライアント装置から受信する受信ステップと、
前記アプリケーションプログラムに従って、前記受信ステップにより受信された前記操作情報に基づいて、決定された前記オブジェクトに対応する機能を実行する実行ステップと、
前記アプリケーションプログラムに従って、前記実行ステップによる前記機能の実行の結果に応じた操作画面を示す画面情報を前記クライアント装置へ送信する第2送信ステップと、
前記受信ステップにより受信された前記操作情報が示す前記ユーザ操作が行われるまでに要した所要時間を取得する時間取得ステップと、
複数のクライアント装置について、ユーザ操作が行われるまでの所要時間と、前記アプリケーションプログラムに従って実行された機能を識別する機能識別情報とを対応付けて記憶する時間記憶手段に、前記時間取得ステップにより取得された前記所要時間と、前記実行ステップにより実行された前記機能を識別する機能識別情報とを対応付けて記憶させる時間記憶制御ステップと、
前記複数の機能のそれぞれについて、前記機能を識別する機能識別情報に対応付けて前記時間記憶手段に記憶された所要時間の代表値を取得する代表値取得ステップと、
前記複数の機能の中から、前記代表値取得ステップにより取得された代表値が大きい順に、所定数の機能を決定する決定ステップと、
前記決定ステップにより決定された機能ごとに、前記機能を識別する機能識別情報と、操作可能な所定の操作要素を識別する操作要素識別情報とを対応付けて、割当情報記憶手段に記憶させる割当情報記憶制御ステップと、
前記割当情報記憶手段に記憶された前記機能識別情報が示す機能と、前記機能識別情報に対応する前記操作要素識別情報が示す前記操作要素とを関連付けて示すショートカット情報を、前記第1送信ステップ及び前記第2送信ステップそれぞれにより送信される前記画面情報が示す前記操作画面に含ませる画面制御ステップと、
前記受信ステップにより受信された前記操作情報が、前記割当情報記憶手段に記憶された操作要素識別情報が示す操作要素が操作されたことを示す場合、前記操作要素識別情報に対応する前記機能識別情報が示す機能を前記実行ステップにより実行させる実行制御ステップと、
を実行させることを特徴とするプログラム。
To a computer of an information processing device connected to a plurality of client devices via a network,
Request for activation of the application program stored in a program storage means for storing an application program for causing the information processing apparatus to execute functions usable by the plurality of client apparatuses from any one of the plurality of client apparatuses. A first transmission step of transmitting screen information indicating an operation screen including at least one of a plurality of objects corresponding to a plurality of functions executable according to the application program to the client device;
When a user operation for determining any object included in the operation screen indicated by the screen information transmitted in the first transmission step is accepted by the client device, the operation information indicating the user operation is transmitted to the client device. Receiving step to receive from,
An executing step of executing a function corresponding to the determined object based on the operation information received by the receiving step according to the application program;
A second transmission step of transmitting screen information indicating an operation screen according to a result of execution of the function by the execution step to the client device according to the application program;
A time acquisition step of acquiring a time required until the user operation indicated by the operation information received by the reception step is performed;
Acquired by the time acquisition step in a time storage means for storing a time required until a user operation is performed and function identification information for identifying a function executed according to the application program in association with each other for a plurality of client devices. A time storage control step for storing the required time and function identification information for identifying the function executed in the execution step in association with each other;
For each of the plurality of functions, a representative value acquisition step of acquiring a representative value of the required time stored in the time storage means in association with function identification information for identifying the function;
A determining step of determining a predetermined number of functions in descending order of the representative value acquired by the representative value acquiring step from the plurality of functions;
Allocation information stored in the allocation information storage unit in association with function identification information for identifying the function and operation element identification information for identifying a predetermined operable element for each function determined by the determination step A memory control step;
Shortcut information indicating the function indicated by the function identification information stored in the allocation information storage means and the operation element indicated by the operation element identification information corresponding to the function identification information, the first transmission step, A screen control step included in the operation screen indicated by the screen information transmitted by each of the second transmission steps;
When the operation information received in the receiving step indicates that the operation element indicated by the operation element identification information stored in the allocation information storage means has been operated, the function identification information corresponding to the operation element identification information An execution control step for executing the function indicated by
A program characterized by having executed.
JP2016068475A 2016-03-30 2016-03-30 Information processing apparatus, information processing method, and program Active JP6376163B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016068475A JP6376163B2 (en) 2016-03-30 2016-03-30 Information processing apparatus, information processing method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016068475A JP6376163B2 (en) 2016-03-30 2016-03-30 Information processing apparatus, information processing method, and program

Publications (2)

Publication Number Publication Date
JP2017182440A JP2017182440A (en) 2017-10-05
JP6376163B2 true JP6376163B2 (en) 2018-08-22

Family

ID=60007461

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016068475A Active JP6376163B2 (en) 2016-03-30 2016-03-30 Information processing apparatus, information processing method, and program

Country Status (1)

Country Link
JP (1) JP6376163B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111736938B (en) * 2020-06-19 2024-03-22 海尔优家智能科技(北京)有限公司 Information display method and device, storage medium and electronic device

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4783139B2 (en) * 2005-12-16 2011-09-28 京セラミタ株式会社 Operation setting device, operation setting method, and operation setting program
JP4819718B2 (en) * 2007-03-05 2011-11-24 三菱電機株式会社 Information processing apparatus, information processing method, and information processing program
US9250854B2 (en) * 2011-08-25 2016-02-02 Vmware, Inc. User interface virtualization for remote devices
JP5938384B2 (en) * 2013-10-31 2016-06-22 京セラドキュメントソリューションズ株式会社 Electronics

Also Published As

Publication number Publication date
JP2017182440A (en) 2017-10-05

Similar Documents

Publication Publication Date Title
US10452249B2 (en) Tooltip feedback for zoom using scroll wheel
KR102108583B1 (en) Instantiable gesture objects
US9052806B2 (en) User interface for presenting media items of social networking service in media reel
US9524089B1 (en) Common web component
US11347264B2 (en) Device for handheld operation and method thereof
US8977966B1 (en) Keyboard navigation
JP6376163B2 (en) Information processing apparatus, information processing method, and program
KR20140104773A (en) Display apparatus and control method thereof
JP5612796B1 (en) Information processing apparatus, information processing method, and information processing program
US20150325254A1 (en) Method and apparatus for displaying speech recognition information
US10114518B2 (en) Information processing system, information processing device, and screen display method
US20140143303A1 (en) Information processing system, information processing device, information processing method, and storage medium having stored therein computer program
KR101685676B1 (en) Terminal apparatus and method for showing image, and web server and method for providing web page
JP7075513B2 (en) Computer programs, information processing equipment and information processing methods
US20180136818A1 (en) User interface method, information processing system, and user interface program medium
CN111135557B (en) Interaction method and device for multiple screens
CN114265655A (en) Cloud application data processing method, device and system and storage medium
US20160019867A1 (en) Method of providing map service, display control method, and computer programs for performing the methods
JP2017102847A (en) Information processing system, relay device, method, and program
JP5263848B2 (en) Document management apparatus, and control method and program therefor.
JP6122082B1 (en) Program, system and method
JP7220241B2 (en) Information processing device, information processing method and program
JP7466123B2 (en) Computer program, server device, terminal device, program generation method, and method
KR102242455B1 (en) System for providing wireless keyboard for computer using smart-phone typing keyboard
KR101456935B1 (en) Method and system for sharing seamless partial content on web

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170901

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180615

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180626

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180709

R150 Certificate of patent or registration of utility model

Ref document number: 6376163

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150