JP2017182440A - 情報処理装置、情報処理方法及びプログラム - Google Patents

情報処理装置、情報処理方法及びプログラム Download PDF

Info

Publication number
JP2017182440A
JP2017182440A JP2016068475A JP2016068475A JP2017182440A JP 2017182440 A JP2017182440 A JP 2017182440A JP 2016068475 A JP2016068475 A JP 2016068475A JP 2016068475 A JP2016068475 A JP 2016068475A JP 2017182440 A JP2017182440 A JP 2017182440A
Authority
JP
Japan
Prior art keywords
information
function
time
screen
identification information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016068475A
Other languages
English (en)
Other versions
JP6376163B2 (ja
Inventor
克朗 須田
Katsuro Suda
克朗 須田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Brother Industries Ltd
Original Assignee
Brother Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Brother Industries Ltd filed Critical Brother Industries Ltd
Priority to JP2016068475A priority Critical patent/JP6376163B2/ja
Publication of JP2017182440A publication Critical patent/JP2017182440A/ja
Application granted granted Critical
Publication of JP6376163B2 publication Critical patent/JP6376163B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Information Transfer Between Computers (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】複数のクライアント装置におけるユーザ操作を総合的に勘案して、ユーザ操作に時間を要する機能を容易に実行することを可能とする。
【解決手段】情報処理装置は、クライアント装置から受信された操作情報が示すユーザ操作が行われるまでに要した所要時間と、実行された機能を識別する機能識別情報とを対応付けて記憶部に記憶させ、複数の機能のそれぞれについて、機能識別情報に対応する所要時間の代表値を取得し、複数の機能の中から代表値が大きい順に、所定数の機能を決定し、決定された機能と、対応する所定の操作要素とを関連付けて示すショートカット情報を操作画面に含ませ、クライアント装置から受信された操作情報が、所定の操作要素が操作されたことを示す場合、対応する機能を実行させる。
【選択図】図4

Description

本発明は、クライアント装置に入力されたユーザ操作をクライアント装置がネットワークを介してサーバ装置等の情報処理装置へ通知し、情報処理装置がユーザ操作に応じた処理を実行する通信システムの技術分野に関する。
従来、ユーザが利用するアプリケーションプログラムをサーバ装置側に記憶しておき、シンクライアント等のクライアント装置に入力されたユーザ操作に応じた機能をサーバ装置が実行するシステムが知られている。クライアント装置は、入力されたユーザ操作をサーバへ通知する。サーバ装置は、アプリケーションプログラムに従って、通知されたユーザ操作に応じた機能を実行する。サーバ装置は、機能の実行結果等に基づいて、画面を示す情報をクライアント装置へ送信する。クライアント装置は、サーバ装置から受信した情報に基づいて、画面をディスプレイに表示する。
ユーザ操作に関連して、特許文献1には、機器の有する機能をユーザが円滑に利用することを目的とした技術が開示されている。具体的には、複写機が、操作画面上に表示された操作アイテムとは別の操作アイテムを表示するための表示変更アイテムの操作により表示された操作アイテムが利用されなかった場合、表示変更アイテムの操作を余分な操作として検出する。複写機は、目的の操作までに計数された余分な操作の回数が閾値を超える場合、その目的の操作に対応する操作アイテムに対応するアイコンをショートカットキー領域に登録する。複写機は、表示変更アイテムに対する第1の操作から同一又は別の表示変更アイテムに対する第2の操作までに要した時間を取得する。複写機は、取得した時間が閾値以下である場合、ユーザは操作方法を迷ったのではなく、第1の操作が操作ミスであると判定し、第1の操作を余分な操作から除外する。
特開2007−164655号公報
アプリケーションプログラムで実行可能な機能の中には、ユーザが操作を行うまでに時間を要する機能も存在する場合がある。例えば、ユーザが操作を迷ったり、ユーザが慎重に操作を行ったり、複数段階の操作が必要であったりする場合、ユーザ操作に時間を要する。そのため、ユーザは効率的に機能を利用することができない場合がある。特許文献1には、1つの機器に対する操作のみを分析して、余分な操作の回数が閾値を超える目的の操作を特定する点は開示されている。しかしながら、特許文献1には、複数のクライアント装置がサーバ装置と接続する環境において、複数のクライアント装置におけるユーザ操作全体を分析することは開示されていない。また、特許文献1に記載の技術は、第1の操作から第2の操作までに要した時間を取得するものの、この時間は、第1の操作が操作ミスであるか否かの判定に用いられるに過ぎない。
本発明は、以上の点に鑑みてなされたものであり、複数のクライアント装置におけるユーザ操作を総合的に勘案して、ユーザ操作に時間を要する機能を容易に実行することを可能とする情報処理装置、情報処理方法、及びプログラムを提供することを課題とする。
上記課題を解決するために、請求項1に記載の発明は、複数のクライアント装置とネットワークを介して接続される情報処理装置において、前記複数のクライアント装置が利用可能な機能を前記情報処理装置により実行させるアプリケーションプログラムを記憶するプログラム記憶手段と、前記複数のクライアント装置の何れかのクライアント装置から、前記プログラム記憶手段に記憶された前記アプリケーションプログラムの起動が要求された場合、前記アプリケーションプログラムに従って実行可能な複数の機能に対応する複数のオブジェクトのうち少なくとも1つを含む操作画面を示す画面情報を、前記クライアント装置へ送信する第1送信手段と、前記第1送信手段により送信された前記画面情報が示す前記操作画面に含まれる何れかのオブジェクトを決定するユーザ操作が前記クライアント装置により受け付けられた場合、前記ユーザ操作を示す操作情報を前記クライアント装置から受信する受信手段と、前記アプリケーションプログラムに従って、前記受信手段により受信された前記操作情報に基づいて、決定された前記オブジェクトに対応する機能を実行する実行手段と、前記アプリケーションプログラムに従って、前記実行手段による前記機能の実行の結果に応じた操作画面を示す画面情報を前記クライアント装置へ送信する第2送信手段と、前記受信手段により受信された前記操作情報が示す前記ユーザ操作が行われるまでに要した所要時間を取得する時間取得手段と、複数のクライアント装置について、ユーザ操作が行われるまでの所要時間と、前記アプリケーションプログラムに従って実行された機能を識別する機能識別情報とを対応付けて記憶する時間記憶手段に、前記時間取得手段により取得された前記所要時間と、前記実行手段により実行された前記機能を識別する機能識別情報とを対応付けて記憶させる時間記憶制御手段と、前記複数の機能のそれぞれについて、前記機能を識別する機能識別情報に対応付けて前記時間記憶手段に記憶された所要時間の代表値を取得する代表値取得手段と、前記複数の機能の中から、前記代表値取得手段により取得された代表値が大きい順に、所定数の機能を決定する決定手段と、前記決定手段により決定された機能ごとに、前記機能を識別する機能識別情報と、操作可能な所定の操作要素を識別する操作要素識別情報とを対応付けて、割当情報記憶手段に記憶させる割当情報記憶制御手段と、前記割当情報記憶手段に記憶された前記機能識別情報が示す機能と、前記機能識別情報に対応する前記操作要素識別情報が示す前記操作要素とを関連付けて示すショートカット情報を、前記第1送信手段及び前記第2送信手段それぞれにより送信される前記画面情報が示す前記操作画面に含ませる画面制御手段と、前記受信手段により受信された前記操作情報が、前記割当情報記憶手段に記憶された操作要素識別情報が示す操作要素が操作されたことを示す場合、前記操作要素識別情報に対応する前記機能識別情報が示す機能を前記実行手段により実行させる実行制御手段と、を備えることを特徴とする。
請求項2に記載の発明は、前記第1送信手段は、前記割当情報記憶手段に記憶された前記機能識別情報が示す機能に対応するオブジェクトと、前記機能識別情報に対応する前記ショートカット情報との間で、外観上の所定属性が一致する前記操作画面を示す画面情報を送信することを特徴とする。
請求項3に記載の発明は、前記第1送信手段は、前記割当情報記憶手段に記憶された前記機能識別情報が示す機能に対応するオブジェクトを特定可能な情報を含む前記ショートカット情報を含む前記操作画面を示す前記画面情報を送信することを特徴とする。
請求項4に記載の発明は、前記受信手段は、前記操作画面内に表示されるマークを移動させる第1のユーザ操作が受け付けられた場合、前記第1のユーザ操作を示す操作情報を受信し、且つ、前記操作画面における前記マークの位置にあるオブジェクトを決定する第2のユーザ操作が受け付けられた場合、前記第2のユーザ操作を示す操作情報を受信し、前記受信手段により受信された前記操作情報に基づいて特定される前記マークの前記操作画面における位置を特定可能な位置情報と、前記ユーザ操作が行われた時刻を示す時刻情報とを対応付けて記憶する位置情報記憶手段を更に備え、前記実行手段は、前記受信手段により前記第1のユーザ操作を示す操作情報が受信された場合、前記操作画面における前記マークの位置を変更し、前記決定手段は、前記受信手段により前記第2のユーザ操作を示す操作情報が受信された場合、前記位置情報記憶手段に記憶された時刻情報が示す時刻が新しい順に、前記時刻情報に対応する位置情報により特定される前記マークの位置と、前記第2のユーザ操作が行われたときの前記マークの位置との差を計算し、所定距離を超える差が計算される直前に計算された差の計算に用いられた位置情報に対応する時刻情報が示す時刻から、前記第2のユーザ操作が行われた時刻までの時間を、前記所要時間に決定することを特徴とする。
請求項5に記載の発明は、前記プログラム記憶手段は、前記受信手段により受信された前記操作情報を前記アプリケーションプログラムに引き渡すためのクライアント仮想化プログラムを更に記憶し、前記割当情報記憶制御手段、前記画面制御手段及び前記実行制御手段は、前記アプリケーションプログラムに従って機能することを特徴とする。
請求項6に記載の発明は、前記プログラム記憶手段は、前記受信手段により受信された前記操作情報を前記アプリケーションプログラムに引き渡すためのクライアント仮想化プログラムを更に記憶し、前記割当情報記憶制御手段、前記画面制御手段及び前記実行制御手段は、前記クライアント仮想化プログラムに従って機能し、前記実行制御手段は、前記受信手段により受信された前記操作情報が、前記割当情報記憶手段に記憶された操作要素識別情報が示す操作要素が操作されたことを示す場合、前記操作要素識別情報に対応する前記機能識別情報が示す機能を実行するためのユーザ操作を示す操作情報を前記アプリケーションプログラムに引き渡すことを特徴とする。
請求項7に記載の発明は、複数のクライアント装置とネットワークを介して接続される情報処理装置により実行される情報処理方法において、前記複数のクライアント装置の何れかのクライアント装置から、前記複数のクライアント装置が利用可能な機能を前記情報処理装置により実行させるアプリケーションプログラムを記憶するプログラム記憶手段に記憶された前記アプリケーションプログラムの起動が要求された場合、前記アプリケーションプログラムに従って実行可能な複数の機能に対応する複数のオブジェクトのうち少なくとも1つを含む操作画面を示す画面情報を、前記クライアント装置へ送信する第1送信ステップと、前記第1送信ステップにより送信された前記画面情報が示す前記操作画面に含まれる何れかのオブジェクトを決定するユーザ操作が前記クライアント装置により受け付けられた場合、前記ユーザ操作を示す操作情報を前記クライアント装置から受信する受信ステップと、前記アプリケーションプログラムに従って、前記受信ステップにより受信された前記操作情報に基づいて、決定された前記オブジェクトに対応する機能を実行する実行ステップと、前記アプリケーションプログラムに従って、前記実行ステップによる前記機能の実行の結果に応じた操作画面を示す画面情報を前記クライアント装置へ送信する第2送信ステップと、前記受信ステップにより受信された前記操作情報が示す前記ユーザ操作が行われるまでに要した所要時間を取得する時間取得ステップと、複数のクライアント装置について、ユーザ操作が行われるまでの所要時間と、前記アプリケーションプログラムに従って実行された機能を識別する機能識別情報とを対応付けて記憶する時間記憶手段に、前記時間取得ステップにより取得された前記所要時間と、前記実行ステップにより実行された前記機能を識別する機能識別情報とを対応付けて記憶させる時間記憶制御ステップと、前記複数の機能のそれぞれについて、前記機能を識別する機能識別情報に対応付けて前記時間記憶手段に記憶された所要時間の代表値を取得する代表値取得ステップと、前記複数の機能の中から、前記代表値取得ステップにより取得された代表値が大きい順に、所定数の機能を決定する決定ステップと、前記決定ステップにより決定された機能ごとに、前記機能を識別する機能識別情報と、操作可能な所定の操作要素を識別する操作要素識別情報とを対応付けて、割当情報記憶手段に記憶させる割当情報記憶制御ステップと、前記割当情報記憶手段に記憶された前記機能識別情報が示す機能と、前記機能識別情報に対応する前記操作要素識別情報が示す前記操作要素とを関連付けて示すショートカット情報を、前記第1送信ステップ及び前記第2送信ステップそれぞれにより送信される前記画面情報が示す前記操作画面に含ませる画面制御ステップと、前記受信ステップにより受信された前記操作情報が、前記割当情報記憶手段に記憶された操作要素識別情報が示す操作要素が操作されたことを示す場合、前記操作要素識別情報に対応する前記機能識別情報が示す機能を前記実行ステップにより実行させる実行制御ステップと、を含むことを特徴とする。
請求項8に記載の発明は、複数のクライアント装置とネットワークを介して接続される情報処理装置のコンピュータに、前記複数のクライアント装置の何れかのクライアント装置から、前記複数のクライアント装置が利用可能な機能を前記情報処理装置により実行させるアプリケーションプログラムを記憶するプログラム記憶手段に記憶された前記アプリケーションプログラムの起動が要求された場合、前記アプリケーションプログラムに従って実行可能な複数の機能に対応する複数のオブジェクトのうち少なくとも1つを含む操作画面を示す画面情報を、前記クライアント装置へ送信する第1送信ステップと、前記第1送信ステップにより送信された前記画面情報が示す前記操作画面に含まれる何れかのオブジェクトを決定するユーザ操作が前記クライアント装置により受け付けられた場合、前記ユーザ操作を示す操作情報を前記クライアント装置から受信する受信ステップと、前記アプリケーションプログラムに従って、前記受信ステップにより受信された前記操作情報に基づいて、決定された前記オブジェクトに対応する機能を実行する実行ステップと、前記アプリケーションプログラムに従って、前記実行ステップによる前記機能の実行の結果に応じた操作画面を示す画面情報を前記クライアント装置へ送信する第2送信ステップと、前記受信ステップにより受信された前記操作情報が示す前記ユーザ操作が行われるまでに要した所要時間を取得する時間取得ステップと、複数のクライアント装置について、ユーザ操作が行われるまでの所要時間と、前記アプリケーションプログラムに従って実行された機能を識別する機能識別情報とを対応付けて記憶する時間記憶手段に、前記時間取得ステップにより取得された前記所要時間と、前記実行ステップにより実行された前記機能を識別する機能識別情報とを対応付けて記憶させる時間記憶制御ステップと、前記複数の機能のそれぞれについて、前記機能を識別する機能識別情報に対応付けて前記時間記憶手段に記憶された所要時間の代表値を取得する代表値取得ステップと、前記複数の機能の中から、前記代表値取得ステップにより取得された代表値が大きい順に、所定数の機能を決定する決定ステップと、前記決定ステップにより決定された機能ごとに、前記機能を識別する機能識別情報と、操作可能な所定の操作要素を識別する操作要素識別情報とを対応付けて、割当情報記憶手段に記憶させる割当情報記憶制御ステップと、前記割当情報記憶手段に記憶された前記機能識別情報が示す機能と、前記機能識別情報に対応する前記操作要素識別情報が示す前記操作要素とを関連付けて示すショートカット情報を、前記第1送信ステップ及び前記第2送信ステップそれぞれにより送信される前記画面情報が示す前記操作画面に含ませる画面制御ステップと、前記受信ステップにより受信された前記操作情報が、前記割当情報記憶手段に記憶された操作要素識別情報が示す操作要素が操作されたことを示す場合、前記操作要素識別情報に対応する前記機能識別情報が示す機能を前記実行ステップにより実行させる実行制御ステップと、を実行させることを特徴とする。
請求項1、7又は8に記載の発明によれば、情報処理装置は、複数のクライアント装置について、操作画面内の何れかのオブジェクトを決定するユーザ操作が行われるまでに要した所要時間と、そのオブジェクトに対応してアプリケーションプログラムに従って実行された機能を識別する機能識別情報とを対応付けて記憶する。情報処理装置は、機能ごとに、所要時間の代表値を取得する。情報処理装置は、複数の機能の中から、所要時間の代表値が大きい順に所定数の機能を、所定のショートカット用の操作要素に割り当てる機能に決定する。情報処理装置は、決定した機能と割り当てられた操作要素とを関連付けて示すショートカット情報を含む操作画面をクライアント装置に表示させる。クライアント装置においてショートカット用の操作要素が操作された場合、情報処理装置は、その操作要素に割り当てられた機能を実行する。従って、ユーザ操作に時間を要する機能を、複数のクライアント装置におけるユーザ操作を総合的に勘案して決定することができる。また、所要時間の代表値が相対的に大きい機能にショートカット用の操作要素が割り当てられるので、ユーザ操作に時間を要する機能を容易に実行することが可能となる。
請求項2に記載の発明によれば、操作画面において、ショートカット用の操作要素のショートカット情報の外観上の所定属性と、その操作要素が割り当てられた機能に対応するオブジェクトの外観上の所定属性とが一致する。従って、ユーザは、どのオブジェクトに対応する機能に操作要素が割り当てられているかを容易に認識することができる。
請求項3に記載の発明によれば、ショートカット用の操作要素のショートカット情報が、その操作要素が割り当てられた機能に対応するオブジェクトを特定可能な情報を含む。従って、ユーザは、どのオブジェクトに対応する機能に操作要素が割り当てられているかを、たとえ対象のオブジェクトが現在表示されていなかったとしても容易に認識することができる。
請求項4に記載の発明によれば、情報処理装置は、マークを移動させる第1のユーザ操作を示す操作情報と、マークの位置にあるオブジェクトを決定する第2のユーザ操作を示す操作情報とを受信する。情報処理装置は、操作情報を受信するごとに、マークの位置を特定可能な情報とユーザ操作が行われた時刻とを記憶させる。情報処理装置は、第2のユーザ操作が行われたときのマークの位置からマークが所定距離以内に入った時刻から、第2のユーザ操作が行われた時刻までの時間を、所要時間に決定する。従って、ユーザが、オブジェクトを決定する第2のユーザ操作を行うために要した所要時間を適切に決定することができる。
請求項5に記載の発明によれば、アプリケーションプログラム側で、ショートカット用の操作要素の割り当て、ショートカット情報の表示の制御、操作要素の操作に対応する機能の実行制御が行われる。そのため、アプリケーションプログラム開発者は、割り当てる操作要素、ショートカット情報の表示方法等のショートカットに関する仕様を自由に決定することができる。
請求項6に記載の発明によれば、クライアント仮想化プログラム側で、ショートカット用の操作要素の割り当て、ショートカット情報の表示の制御、操作要素の操作に対応する機能の実行制御が行われる。そのため、アプリケーションプログラムごとに、ショートカットに関する仕様を決定する必要がない。
(A)は、一実施形態の通信システムSの概要構成例を示す図である。(B)は、一実施形態のサーバ装置1の概要構成例を示す図である。(C)は、一実施形態のクライアント装置2の概要構成例を示す図である。 時短キー情報を含む操作画面の一例を示す図である。 サーバ装置1におけるアプリケーション処理の一例を示す図である。 サーバ装置1における仮想クライアント処理の一例を示す図である。 サーバ装置1における決定時間算出処理の一例を示す図である。
以下、本発明の実施形態を図面に基づいて説明する。
[1.通信システムの構成]
図1(A)は、本実施形態の通信システムSの概要構成例を示す図である。図1(A)に示すように、通信システムSは、サーバ装置1、及び複数のクライアント装置2を含んで構成される。サーバ装置1は、本発明の情報処理装置の一例である。サーバ装置1、及びクライアント装置2は、それぞれネットワーク10に接続される。ネットワーク10は、例えば、インターネット等により構成される。
サーバ装置1は、クライアント装置2からの要求に応じてアプリケーションプログラムを実行する。アプリケーションプログラムの例として、近隣案内、お絵描き、カラオケ、ゲーム、情報検索、オンラインショッピング等のアプリケーションプログラムが挙げられる。サーバ装置1は、クライアント装置2から送信される操作情報に応じた処理を、アプリケーションプログラムに従って実行する。操作情報は、クライアント装置2に対してユーザにより行われたユーザ操作を示す情報である。操作情報は、少なくとも操作対象IDを含む。操作対象IDは、ユーザにより操作されたハードウェア要素を識別する識別情報である。操作されるハードウェア要素の例として、ボタン、キー、タッチパネル、タッチパッド、移動対象としてのマウス等が挙げられる。ハードウェア要素を移動させる操作又はハードウェア要素に接触した物体を移動させる操作が行われた場合、操作情報は、更にその移動方向及び移動距離を示すベクトル情報を含んでもよい。ベクトル情報は、本発明の位置情報の一例である。このような操作が可能なハードウェアの例として、タッチパネル、タッチパッド、マウス等のポインティングデバイスが挙げられる。
サーバ装置1は、実行するアプリケーションプログラムに対応する操作画面をクライアント装置2に表示させる。具体的には、サーバ装置1は、アプリケーションプログラムの実行に応じた動画であって、操作画面を示す動画を、UDPを用いたストリーミングでクライアント装置2へ送信する。この動画は、本発明の画面情報の一例である。なお、サーバ装置1は、動画を送信する代わりに、操作画面を示す静止画やウェブページ等をクライアント装置2へ送信してもよい。操作画面には1又は複数のオブジェクトが表示される。オブジェクトの例として、画面に表示されるアイコン、ボタン、メニュー項目、リスト項目、スクロールバー等が挙げられる。各オブジェクトは、アプリケーションプログラムに従って実行可能な機能に対応する。或るオブジェクトを決定するユーザ操作が行われると、サーバ装置1は、そのオブジェクトに対応する機能を、アプリケーションプログラムに従って実行する。実行可能な複数の機能が、アプリケーションプログラムにより定められている。オブジェクトを決定するためのユーザ操作を、オブジェクト決定操作という。オブジェクト決定操作は、本発明の第2のユーザ操作の一例である。オブジェクトを決定するユーザ操作以外のユーザ操作を、非オブジェクト決定操作という。操作画面には、更にカーソルが表示されてもよいし、表示されなくてもよい。カーソルは、ユーザ操作に従って操作画面内を移動するマークである。カーソルを移動させるユーザ操作は、非オブジェクト決定操作の1つである。カーソルを移動させるユーザ操作は、本発明の第1のユーザ操作の一例である。例えば画素単位でカーソルを移動させることが可能であってもよい。カーソルを移動させるユーザ操作の例として、マウス等を動かす操作、カーソルキーを押す操作等が挙げられる。カーソルキーの場合、カーソルは例えば画素単位ではなくオブジェクト単位で移動してもよい。例えば、カーソルキーが押された場合、カーソルの現在の位置から、押されたカーソルキーに対応する方向にあるオブジェクトのうち、カーソルの現在の位置に最も近いオブジェクトにカーソルが移動してもよい。ユーザは、操作画面において、カーソルの位置にあるオブジェクトを決定するオブジェクト決定操作を行うことができる。オブジェクト決定操作の例として、マウスの所定のボタンを押す操作、所定のキーを押す操作等が挙げられる。タッチパネルの場合、オブジェクト決定操作は、例えばユーザの指等で直接オブジェクトを選択する操作である。この場合、画面にカーソルは表示されなくてもよい。ユーザがカーソル又は指でオブジェクトを正確に指定することができず、それにより結果的にオブジェクトが決定さなかった場合であっても、オブジェクトを決定しようとしたユーザ操作は、オブジェクト決定操作に含まれてもよい。アプリケーションプログラムの実行中、ユーザ操作に応じて操作画面の切り替えやスクロールが可能であってもよいし、可能ではなくてもよい。
サーバ装置1は、アプリケーションDB(DataBase)3及び決定時間DB4にアクセス可能に構成されている。例えば、サーバ装置1と、アプリケーションDB3及び決定時間DB4とがLAN(Local Area Network)等のネットワークにより接続されてもよい。或いは、サーバ装置1が、アプリケーションDB3及び決定時間DB4を備えてもよい。アプリケーションDB3は、複数のクライアント装置2が利用可能な機能をサーバ装置1に実行させる1又は複数のアプリケーションプログラムが記憶されている。決定時間DB4には、決定時間が記憶される。決定時間は、本発明の所要時間の一例である。決定時間は、操作画面において、オブジェクト決定操作が行われるまでに要した時間である。具体的には、決定時間DB4には、複数のクライアント装置2について、アプリケーションID、機能ID及び決定時間が対応付けて記憶される。複数のクライアント装置2の何れにおいてオブジェクト決定操作が行われた場合であっても、決定時間DB4にアプリケーションID、機能ID及び決定時間が記憶される。アプリケーションIDは、アプリケーションプログラムを識別する識別情報である。機能IDは、実行された機能を識別する識別情報である。複数のクライアント装置2の何れかにおいて、ユーザによりオブジェクト決定操作が行われて、サーバ装置1が対応する機能を実行するごとに、サーバ装置1は決定時間DB4に決定時間を記憶させる。なお、アプリケーションDB3にアプリケーションプログラムが1つのみ記憶されている場合、決定時間DB4には、機能ID及び決定時間のみが記憶されればよい。
クライアント装置2は、ユーザによる操作を受け付ける。クライアント装置2は、受け付けたユーザ操作を示す操作情報を、ネットワーク10を介してサーバ装置1へ送信する。クライアント装置2は、全てのユーザ操作について操作情報をサーバ装置1へ送信してもよい。或いは、クライアント装置2は、オブジェクト決定操作についてのみ、操作情報をサーバ装置1へ送信してもよい。この場合、クライアント装置2は、非オブジェクト決定操作を受け付けたとき、クライアント装置2は、非オブジェクト決定操作に応じて、表示される操作画面を更新する。また、クライアント装置2は、サーバ装置1から、アプリケーションプログラムの実行に応じた操作画面を示す動画を受信する。クライアント装置2は、受信した操作画面を示す動画をディスプレイに表示する。クライアント装置2の例として、パーソナルコンピュータ、携帯電話機、スマートフォン、カラオケ装置等が挙げられる。なお、本実施形態において、クライアント装置2は、キーボード及びマウスを少なくとも備え、又はキーボード及びマウスと接続可能である。クライアント装置2はシンクライアントであってもよい。クライアント装置2は、基本的に、ユーザからのユーザ操作の受け付け、操作情報のサーバ装置1への送信、及びサーバ装置1から送信された動画の表示を実行する。更にクライアント装置2は、非オブジェクト決定操作に応じた操作画面の更新を実行してもよい。サーバ装置1は、その他の大部分の処理を実行する。
[2.サーバ装置1の構成]
次に、図1(B)を参照して、サーバ装置1の構成について説明する。図1(B)は、本実施形態のサーバ装置1の概要構成例を示す図である。図1(B)に示すように、サーバ装置1は、CPU(Central Processing Unit)11、ROM(Read Only Memory)12、RAM(Random Access Memory)13、記憶部14及び通信部15等を備えて構成される。これらの構成要素は、バス16に接続されている。RAM13は、本発明の割当情報記憶手段、及び位置情報記憶手段の一例である。通信部15は、ネットワーク10に接続される。記憶部14は、例えばハードディスクドライブにより構成される。記憶部14は、本発明のプログラム記憶手段、及び時間記憶手段の一例である。記憶部14には、アプリケーションDB3及び決定時間DB4の少なくとも何れか一方が記憶されていてもよい。また、記憶部14には、OS、クライアント仮想化プログラム等が記憶されている。クライアント仮想化プログラムは、クライアント仮想化を実現するためのプログラムである。クライアント仮想化プログラムは、コンピュータとしてのCPU11に、アプリケーションプログラムの起動、クライアント装置2から受信された操作情報のアプリケーションプログラムへの引き渡し、アプリケーションプログラムにより生成された操作画面を示す動画のエンコード及び送信を実行させる。CPU11は、サーバ装置1にアクセスするクライアント装置2ごとにクライアント仮想化プログラムを起動する。従って、サーバ装置1にアクセスしているクライアント装置2の数に相当する数のクライアント仮想化プログラムのプロセスがRAM13に生成される。クライアント仮想化プログラム等は、例えばネットワーク10等を介して他のサーバ等からダウンロードされてもよい。或いは、クライアント仮想化プログラム等は、例えば光ディスク、磁気テープ、メモリカード等の記録媒体に記録されてドライブ装置を介して記憶部14に読み込まれてもよい。
[3.クライアント装置2の構成]
次に、図1(C)を参照して、クライアント装置2の構成について説明する。図1(C)は、本実施形態のクライアント装置2の概要構成例を示す図である。図1(C)に示すように、クライアント装置2は、CPU21、ROM22、RAM23、記憶部24、通信部25、入力部26、及び表示部27等を備えて構成される。これらの構成要素は、バス28に接続されている。通信部25は、ネットワーク10に接続される。入力部26は、ユーザ操作を入力するための入力デバイスである。入力部26は、例えばボタン、キー、タッチパネル、タッチパッド、マウス、キーボード等の少なくとも1つにより構成されてもよい。クライアント装置2は入力部26と接続可能であってもよい。この場合、クライアント装置2自体は入力部26を備えていなくてもよい。表示部27は、例えば液晶パネル、有機ELパネル等により構成されるディスプレイである。記憶部24は、例えばフラッシュメモリ又はハードディスクドライブ等により構成される。記憶部24には、OS、及びクライアントプログラム等が記憶されている。クライアントプログラムは、コンピュータとしてのCPU21に、操作画面の表示、ユーザの操作に応じた処理の実行、サーバ装置1への操作情報の送信等の処理を実行させるプログラムである。クライアントプログラム等は、例えばネットワーク10等を介してサーバ装置1等のサーバ装置からダウンロードされてもよい。或いは、クライアントプログラム等は、例えば光ディスク、磁気テープ、メモリカード等の記録媒体に記録されてドライブ装置を介して記憶部24に読み込まれてもよい。或いは、クライアントプログラム等は、クライアント装置2に予めインストールされていてもよい。
[4.機能に対する時短キーの割り当て]
アプリケーションプログラムに従って実行可能な機能に対応付けられたオブジェクトを決定するためのユーザ操作を行うために、ユーザは時間を要する場合がある。例えば、ユーザは、操作画面内の複数のオブジェクトの中の何れが目的のオブジェクトであるかを迷う場合がある。或いは、ユーザは、何れのオブジェクトを選択してよいか迷う場合がある。或いは、複数のオブジェクトが密集しているために、目的とするオブジェクト以外のオブジェクトを操作してしまわないように、ユーザは慎重に操作を行う場合がある。或いは、目的のオブジェクトが比較的小さいため、そのオブジェクトを正確に選択するためにユーザは時間を要する場合がある。或いは、目的とするオブジェクトを決定するためのユーザ操作を行うまでに、複数段階の操作が必要であり、これにより時間を要する場合がある。例えば、操作画面を切り替えたり、操作画面をスクロールしたり、メニューを表示させたりする操作が必要な場合がある。そこで、サーバ装置1は、ユーザ操作に時間を要する機能に時短キーを割り当てる。時短キーは、本発明の所定の操作要素の一例である。時短キーは予め定められたキーである。時短キーは、ハードウェアキーであってもよいし、ソフトウェア的なキーであってもよい。ハードウェアとしての時短キーは、例えばハードウェアキーボード上の所定のキー、ボタン等であってもよい。ソフトウェア的な時短キーは、例えば操作画面上に表示される所定のキー、ボタン等であってもよい。サーバ装置1は、時短キーを示す時短キー情報を含む操作画面をクライアント装置2に表示させる。時短キー情報は、本発明のショートカット情報の一例である。サーバ装置は1は、ユーザにより時短キーの操作が行われた場合、時短キーに割り当てられた機能を実行する。ユーザが時短キーを操作することで、ユーザ操作に時間を要する機能を容易に実行することが可能となる。また、ポインティングデバイス等で操作画面内のカーソルを目的のオブジェクトまで移動させる非オブジェクト決定操作を行った後で、目的のオブジェクトに対するオブジェクト決定操作を行うようにデザインされているアプリケーションがある。この場合、ユーザがカーソルを移動させるユーザ操作を行うたびにクライアント装置2は操作情報をサーバ装置1へ送信する。また、時短キーが割り当てられた機能を実行するために、ユーザは、カーソルを移動させてオブジェクトを決定する操作を行う代わりに、時短キーを直接押せばよい。従って、ユーザがカーソルを移動させる操作を行わない分、クライアント装置2は操作情報を送信しなくてもよい。そのため、クライアント装置2とサーバ装置1間の通信回数、及びサーバ装置1の処理負荷を低減させることができる。
具体的には、サーバ装置1は、クライアント装置2から受信した操作情報に応じてアプリケーションプログラムに従って何れかの機能を実行したとき、その機能に対応付けられたオブジェクトを決定するためのユーザ操作が行われるまでに要した決定時間を取得する。サーバ装置1は、決定時間と、実行された機能の機能IDとアプリケーションIDとを対応付けて決定時間DBに記憶させる。決定時間の算出方法の例として、サーバ装置1は、直前の機能が実行された時刻から今回の機能が実行された時刻までの時間を、決定時間として算出することが挙げられる。
或いは、サーバ装置1は、オブジェクト決定操作が行われたときのカーソルの位置から所定距離以内の範囲にカーソルが入った時刻から、オブジェクト決定操作が行われた時刻までの時間を決定時間として算出してもよい。目的のオブジェクトにカーソルが或る程度近付いてから、ユーザは操作を迷う場合がある。また例えば、複数のオブジェクトが密集していたり、オブジェクトが小さかったりする場合、目的のオブジェクトにカーソルが或る程度近付いてから、目的のオブジェクトを決定するまでに時間を要する場合がある。すなわち、目的のオブジェクトにカーソルが或る程度近付く前よりも、或る程度近付いてからそのオブジェクトにユーザがカーソルを移動させるまでの間の方が、カーソルの移動に時間を要する場合がある。このような場合に、サーバ装置1は、オブジェクト決定操作が行われるまでにユーザが要した時間を適切に算出することができる。具体的には、クライアント装置2は、ユーザ操作が行われた時刻を取得してもよい。クライアント装置2は、取得した時刻を操作情報に付加して、操作情報をサーバ装置1へ送信する。或いは、サーバ装置1は、クライアント装置2から非オブジェクト決定操作を示す操作情報を受信した時刻を、ユーザ操作が行われた時刻として取得してもよい。サーバ装置1は、クライアント装置2から非オブジェクト決定操作を示す操作情報を受信したとき、操作情報と時刻を対応付けてRAM13に記憶させる。サーバ装置1は、オブジェクト決定操作を示す操作情報を受信したとき、又はこの操作情報を受信することにより何らかの機能が実行されたとき、決定時間算出処理を実行する。決定時間算出処理において、サーバ装置1は、RAM13に記憶された時刻が新しい順に、時刻に対応する操作情報に含まれるベクトル情報に基づいて特定されるカーソルの位置と、オブジェクト決定操作が行われた時のカーソルの位置との差を計算する。サーバ装置1は、所定距離を超える差が計算された場合、所定距離を超える差が計算される直前に計算された差の計算に用いられた操作情報に対応する時刻を特定する。サーバ装置1は、特定した時刻からオブジェクト決定操作が行われた時刻までの時間を、決定時間に決定する。
なお、クライアント装置2が決定時間を算出し、サーバ装置1は、クライアント装置2から決定時間を受信してもよい。例えば、クライアント装置2は、オブジェクトを決定するためのユーザ操作を受け付けたとき、決定時間を算出する。クライアント装置2は、例えば操作情報とともに、算出した決定時間をサーバ装置1へ送信する。サーバ装置1は、受信した操作情報に応じて機能を実行したとき、その機能の機能IDと決定時間とを決定時間DB4に記憶させる。ユーザはオブジェクトを決定するためのユーザ操作を行ったが、実際にはオブジェクトを決定することができない場合がある。この場合、サーバ装置1は、受信した操作情報に応じては何らの機能も実行しない。従って、サーバ装置1は、決定時間を決定時間DB4に記憶させない。
サーバ装置1は、クライアント装置2からの要求に応じてアプリケーションプログラムを起動するときこのアプリケーションプログラムに従って実行可能な複数の機能のそれぞれについて、決定時間の代表値を算出する。代表値は、例えば平均値、中央値、最頻値、最小値等であってもよい。具体的には、サーバ装置1は、起動するアプリケーションプログラムのアプリケーションIDに対応する決定時間を、機能ID別に決定時間DB4から取得する。サーバ装置1は、機能IDごとに、決定時間の代表値を決定する。サーバ装置1は、複数の機能の中から、決定時間の代表値が大きい順に所定数の機能を、時短キーを割り当てる機能に決定する。本実施形態において、サーバ装置1は、3個の機能を決定する。しかしながら、サーバ装置1は、1又は2個の機能を決定してもよいし、4個以上の機能を決定してもよい。サーバ装置1は、決定時間DB4に記憶されている決定時間の数が所定値未満である機能は、時短キーを割り当てる機能から除外してもよい。例えば、ユーザがクライアント装置2から離れていたり、操作画面を見ていなかったりすることにより、実際にユーザ操作に要した時間よりも大幅に決定時間が長くなる場合がある。決定時間DB4に記憶されている決定時間の数が所定値以上である機能の中から、時短キーを割り当てる機能を決定することにより、代表値に対するこのような決定時間の影響を低減させることができる。従って、時短キーを割り当てる機能を適切に決定することができる。
時短キーを割り当てる機能を決定すると、サーバ装置1は、決定した機能ごとに、その機能の機能IDと、時短キーを識別する操作対象IDとを対応付けてRAM13に記憶させる。
サーバ装置1は、RAM13に記憶された機能IDが示す機能と、この機能IDに対応する操作対象IDが示す時短キーとを関連付けて示す時短キー情報を、アプリケーションプログラムに従って生成された操作画面に含ませる。そして、サーバ装置1は、時短キー情報を含む操作画面を示す動画を、クライアント仮想化プログラムに従ってクライアント装置2へ送信する。
図2は、時短キー情報を含む操作画面の一例を示す図である。図2は、近隣案内のアプリケーションプログラムの操作画面の例を示す。近隣案内のアプリケーションプログラムは、地図上に建造物や場所などのスポットを表示し、選択されたスポットの案内情報を表示するためのプログラムである。近隣案内のアプリケーションプログラムにおいては、例えば操作画面において地図のスクロールが可能であってもよい。図2に示すように、操作画面には、オブジェクトOB1〜OB13が表示される。オブジェクトOB1〜OB12は、スポットを示すアイコンである。オブジェクトOB13は、アプリケーションプログラムを終了させるためのボタンである。また、操作画面にはカーソルCSが表示される。また、操作画面には、時短キー情報SK1〜SK3が表示される。時短キー情報SK1は、ファンクションキー1を示す。ファンクションキー1は、オブジェクトOB5が示すスポットの案内情報を表示する機能に割り当てられている。時短キー情報SK1は、文字「F1」を含む。時短キー情報SK2は、ファンクションキー2を示す。ファンクションキー2は、オブジェクトOB6が示す工場の案内情報を表示する機能に割り当てられている。時短キー情報SK2は、文字「F2」を含む。時短キー情報SK3は、ファンクションキー3を示す。ファンクションキー3は、オブジェクトOB11が示す郵便局の案内情報を表示する機能に割り当てられている。時短キー情報SK3は、文字「F3」を含む。ユーザは、キーボード上の、ファンクションキー1〜3の何れかを押すことで、対応する機能をサーバ装置1に実行させることができる。或いは、ユーザは、カーソルCSを移動させて時短キー情報SK1〜SK3の何れかを決定する操作を行うことで、対応する機能をサーバ装置1に実行させることができるように、アプリケーションプログラムのユーザインターフェースが設計されてもよい。
サーバ装置1は、操作画面において、時短キーが割り当てられた機能に対応するオブジェクトと、その時短キーの時短キー情報との間で、外観上の所定属性を一致させてもよい。オブジェクトと時短キー情報との間で一致させる属性は、例えばオブジェクトと時短キー情報の色、模様、形状等であってもよい。オブジェクトの外観上の属性は、オブジェクト自身の外観上の属性であってもよい。或いは、オブジェクト上又はオブジェクトの近隣に、時短キーが割り当てられたことを示す画像、マーク等が表示されてもよい。この場合、オブジェクトの外観上の属性は、この画像、マーク等の属性であってもよい。これにより、時短キーとオブジェクトとが関連付けて示される。また、ユーザは、どのオブジェクトに対応する機能に時短キーが割り当てられているかを容易に認識することができる。図2において、オブジェクトOB5は枠FR1で囲まれている。時短キー情報SK1の枠の模様と枠FR1の模様とが一致する。オブジェクトOB6は枠FR2で囲まれている。時短キー情報SK2の枠の模様と枠FR2の模様とが一致する。オブジェクトOB11は枠FR3で囲まれている。時短キー情報SK3の枠の模様と枠FR3の模様とが一致する。時短キー情報SK1〜SK3の間では枠の模様は異なる。
外観上の所定属性を一致させる代わりに、又は外観上の所定属性を一致させることに加えて、サーバ装置1は、時短キー情報に、時短キーが割り当てられた機能に対応するオブジェクトを特定可能な情報を含めてもよい。オブジェクトを特定可能な情報として、例えばオブジェクトを識別する情報又はそのオブジェクトが示す対象を識別する情報が挙げられる。識別する情報として、オブジェクト又は対象の名称が挙げられる。近隣案内のアプリケーションプログラムの場合、オブジェクトを特定可能な情報は、例えばオブジェクトが示すスポットの緯度及び経度を示す情報であってもよい。これにより、時短キーとオブジェクトとが関連付けて示される。また、ユーザは、どのオブジェクトに対応する機能に時短キーが割り当てられているかを、たとえ対応するオブジェクトが現在表示されていなかったとしても容易に認識することができる。
サーバ装置1は、クライアント装置2から受信された操作情報が、RAM13に記憶された操作対象IDが示す時短キーが操作されたことを示す場合、この操作対象IDに対応する機能IDが示す機能を、アプリケーションプログラムにより実行させる。
サーバ装置1がアプリケーションプログラムに従って、機能に対する時短キーの割り当て、時短キー情報の表示制御、及び時短キーの操作に応じた機能の実行制御を行うように、アプリケーションプログラムが作成されてもよい。これにより、アプリケーションプログラム開発者は、時短キーとして割り当てるキー、時短キー情報の表示方法等の時短キーに関する仕様を自由に決定することができる。この場合、アプリケーションプログラムに従って、サーバ装置1は、時短キー情報を含む操作画面の映像を生成する。また、クライアント装置2からサーバ装置1が受信する操作情報は、クライアント仮想化プログラムからアプリケーションプログラムにそのまま引き渡される。時短キーがハードウェアキーである場合、アプリケーションプログラムに従って、サーバ装置1は、操作情報に含まれる操作対象IDとRAM13に記憶された操作対象IDとを比較して、時短キーが押されたか否かを判定する。サーバ装置1は、操作情報に含まれる操作対象IDに一致する操作対象IDがRAM13に記憶されている場合、この操作対象IDに対応する機能IDを、実行する機能の機能IDとしてRAM13から取得する。時短キーがソフトウェア的なキーである場合、アプリケーションプログラムに従って、サーバ装置1は、操作情報が、オブジェクト決定操作を示す場合、操作画面において現在のカーソルの位置にあるオブジェクトを特定する。サーバ装置1は、特定したオブジェクトが時短キー情報である場合、この時短キー情報の操作対象IDに対応する機能IDを、実行する機能の機能IDとしてRAM13から取得する。
或いは、サーバ装置1がクライアント仮想化プログラムに従って、機能に対する時短キーの割り当て、時短キー情報の表示制御、及び時短キーの操作に応じた機能の実行制御を行うように、アプリケーションプログラムが作成されていてもよい。これにより、アプリケーションプログラムごとに、時短キーに関する仕様を決定する必要がない。この場合、サーバ装置1は、アプリケーションプログラムに従って生成された操作画面の映像に、時短キー情報の映像を重畳させる合成処理を、クライアント仮想化プログラムに従って行う。また、クライアント装置2から受信された操作情報が、時短キーが操作されたことを示す場合、クライアント仮想化プログラムに従って、サーバ装置1は、この時短キーの操作対象IDに対応する機能IDが示す機能を実行するためのユーザ操作を示す操作情報を、アプリケーションプログラムに引き渡す。このとき、サーバ装置1は、その機能を実行するために複数段階のユーザ操作が必要である場合、複数の操作情報を取得又は生成し、ユーザ操作の順序に従って複数の操作情報をアプリケーションプログラムに引き渡す。サーバ装置1の記憶部14には、アプリケーションプログラムと機能IDとの組み合わせごとに、アプリケーションID、機能ID、1又は複数の操作情報、及び操作情報が示すユーザ操作の順序とが予め対応付けられて記憶されてもよい。サーバ装置1は、クライアント装置2から受信された操作情報に基づいて時短キーが操作されたと判定した場合、その時短キーの操作対象IDに対応する機能IDを取得する。サーバ装置1は、取得した機能IDに対応付けて予め記憶部14に記憶されている1又は複数の操作情報を取得する。時短キーが操作されたか否かの判定方法は、アプリケーションプログラムに従って判定を行う場合の方法と同様であってもよい。
[5.通信システムSの動作]
次に、図3乃至図5を参照して、本実施形態の通信システムSの動作について説明する。以下に説明する例は、ユーザは、マウス等のポインティングデバイスを用いてカーソルを動かして、マウスボタン等のハードウェア要素を押すことにより、オブジェクトを決定する場合の処理例である。また、以下に説明する例は、ハードウェアキーボード上の所定のキーが時短キーとして割り当てられる場合の処理例である。また、以下に説明する例は、アプリケーションプログラムに従って、機能に対する時短キーの割り当て、時短キー情報の表示制御、及び時短キーの操作に応じた機能の実行制御が行われる場合の処理例である。
図3は、サーバ装置1におけるアプリケーション処理の一例を示す図である。例えば、ユーザの操作に基づいてクライアント装置2は、アプリケーション起動要求をサーバ装置1へ送信する。アプリケーション起動要求は、アプリケーションプログラムの起動の要求を示す。アプリケーション起動要求は、起動されるアプリケーションプログラムのアプリケーションIDを含んでもよい。サーバ装置1のCPU11は、アプリケーション起動要求に含まれるアプリケーションIDに対応するアプリケーションプログラムをアプリケーションDB3から読み出す。CPU11は、読み出したアプリケーションプログラムのプロセスをRAM13に生成して、アプリケーションプログラムを起動する。CPU11は、起動されたアプリケーションプログラムに従って、アプリケーション処理を実行する。
図3に示すように、CPU11は、アプリケーションプログラムを起動したクライアント仮想化プログラムへ、機能ID要求を送信する(ステップS1)。機能ID要求は、時短キーが割り当てられた機能の機能IDの要求を示すメッセージである。
次いで、CPU11は、機能ID要求の送信に応じてクライアント仮想化プログラムから送信されてきた所定数の機能IDを受信する。CPU11は、受信した機能IDごとに、機能IDと、アプリケーションプログラムで予め定義された時短キーの対象識別IDとを対応付けてRAM13に記憶させる。これにより、CPU11は、時短キーを機能に割り当てる。また、CPU11は、時短キー情報を含む操作画面の映像を生成する(ステップS2)。例えば、CPU11は、割り当てた時短キーの名称を含み、且つこの時短キーに対応した色又は模様を有する時短キー情報を生成する。また、CPU11は、操作画面の映像において、時短キーが割り当てられた機能に対応するオブジェクトの色又は模様を、この時短キーに応じた色又は模様に変更する。或いは、CPU11は、時短キーが割り当てられた機能に対応するオブジェクトの周囲に、時短キーに応じた色又は模様を有する枠を描画する。CPU11は、操作画面の映像と時短キー情報とを合成する。また、CPU11は、カーソルの位置を初期設定し、操作画面の映像に、決定した位置でカーソルの映像を合成する。CPU11は、生成した操作画面の映像をクライアント仮想化プログラムへ引き渡す。クライアント仮想化プログラムに従って、CPU11は、引き渡された映像をエンコードして、動画データとしてクライアント装置2へ送信する。なお、RAM13に記憶された機能ID及び対象識別IDは、他のプロセスからはアクセスすることができないようになっている。
次いで、CPU11は、アプリケーション起動要求を送信してきたクライアント装置2から操作情報が送信されてきた場合、クライアント仮想化プログラムから操作情報を受信する(ステップS3)。次いで、CPU11は、時短キーが押されたか否かを判定する(ステップS4)。例えば、CPU11は、操作情報に含まれる操作対象IDと一致する操作対象IDがRAM13に記憶されているか否かを判定する。操作情報に含まれる操作対象IDと一致する操作対象IDがRAM13に記憶されている場合、CPU11は、時短キーが押されたと判定する(ステップS4:YES)。この場合、CPU11は、ステップS7に進む。一方、操作情報に含まれる操作対象IDと一致する操作対象IDがRAM13に記憶されていない場合、CPU11は、時短キーが押されていないと判定する(ステップS4:NO)。この場合、CPU11は、ステップS5に進む。
ステップS5において、CPU11は、操作情報に対応する処理を実行する。例えば、CPU11は、操作情報に含まれる操作対象IDがマウス等の移動を示す場合、操作対象IDに含まれるベクトル情報に基づいて、操作画面におけるカーソルの位置を変更する。そして、CPU11は、変更したカーソルの位置に基づいて、カーソル及び時短キー情報を含む操作画面の映像を生成する。操作画面の映像の生成方法は、ステップS2と基本的に同様である。CPU11は、クライアント仮想化プログラムに従って、生成された映像をエンコードして、動画データとしてクライアント装置2へ送信する。
次いで、CPU11は、アプリケーションプログラムで定義されている複数の機能のうちの何れかの機能を実行するか否かを判定する(ステップS6)。例えば、CPU11は、操作情報に含まれる操作対象IDがマウスボタン等を示さない場合、機能を実行しないと判定する。一方、CPU11は、操作情報に含まれる操作対象IDがマウスボタン等を示す場合、操作画面においてカーソルの現在位置に、機能に対応付けられたオブジェクトが存在するか否かを判定する。カーソルの現在位置に、機能に対応付けられたオブジェクトが存在しない場合、CPU11は、機能を実行しないと判定する。CPU11は、機能を実行しないと判定した場合(ステップS6:NO)、ステップS3に進む。一方、カーソルの現在位置に、機能に対応付けられたオブジェクトが存在する場合、CPU11は、機能を実行すると判定する(ステップS6:YES)。この場合、CPU11は、ステップS7に進む。
ステップS7において、CPU11は、機能を実行する。ステップS4において時短キーが押されたと判定された場合、CPU11は、操作情報に含まれる操作対象IDと一致する操作対象IDに対応する機能IDをRAM13から取得する。ステップS6において機能を実行すると判定された場合、CPU11は、カーソルの現在位置にあるオブジェクトに対応する機能の機能IDを取得する。CPU11は、取得した機能IDに対応する機能を実行する。例えば、近隣案内の場合、CPU11は、オブジェクトに対応する案内情報の映像を生成する。CPU11は、生成した案内情報を含む操作画面の映像を生成する。操作画面の映像の生成方法は、基本的にステップS2と同様である。CPU11は、クライアント仮想化プログラムに従って、生成された映像をエンコードして、動画データとしてクライアント装置2へ送信する。機能を実行すると、CPU11は、取得した機能IDをクライアント仮想化プログラムへ送信する(ステップS8)。次いで、CPU11は、ステップS3に進む。
図4は、サーバ装置1における仮想クライアント処理の一例を示す図である。クライアント装置2からアプリケーション起動要求を受信したとき、CPU11は、クライアント仮想化プログラムのプロセスをRAM13に生成して、クライアント仮想化プログラムを起動する。CPU11は、起動されたクライアント仮想化プログラムに従って仮想クライアント処理を実行する。
図4に示すように、CPU11は、初期化処理を実行する(ステップS11)。例えば、CPU11は、アプリケーション起動要求に含まれるアプリケーションIDが示すアプリケーションプログラムを起動する。
次いで、CPU11は、アプリケーション起動要求を送信してきたクライアント装置2から、操作情報を受信したか否かを判定する(ステップS12)。このとき、CPU11は、操作情報を受信したと判定した場合には(ステップS12:YES)、ステップS13に進む。一方、CPU11は、操作情報を受信していないと判定した場合には(ステップS12:NO)、ステップS15に進む。
ステップS13において、CPU11は、受信した操作情報と、操作情報に付加された時刻とを対応付けてRAM13に記憶させる。なお、RAM13に記憶された操作情報及び時刻は、他のプロセスからはアクセスすることができないようになっている。次いで、CPU11は、起動したアプリケーションプログラムへ、クライアント装置2から受信した操作情報を送信する(ステップS14)。次いで、CPU11は、ステップS12に進む。
ステップS15において、CPU11は、起動したアプリケーションプログラムから機能IDを受信したか否かを判定する。このとき、CPU11は、機能IDを受信したと判定した場合には(ステップS15:YES)、ステップS16に進む。一方、CPU11は、機能IDを受信していないと判定した場合には(ステップS15:NO)、ステップS18に進む。
ステップS16において、CPU11は、決定時間算出処理を実行する。図5は、サーバ装置1における決定時間算出処理の一例を示す図である。図5に示すように、CPU11は、順序番号iを1に設定する(ステップS21)。次いで、CPU11は、RAM13に記憶された時刻のうち、i番目に新しい時刻を特定する。CPU11は、カーソルの現在位置から、i番目に新しい時刻におけるカーソルの位置までの距離を画素数で算出する(ステップS22)。例えば、CPU11は、1番目に新しい時刻に対応する操作情報からi番目に新しい時刻に対応する操作情報までの各操作情報からベクトル情報を取得する。CPU11は、取得したベクトル情報に基づいて、現在のカーソルの位置を原点として、i番目に新しい時刻におけるカーソルの位置の座標を算出する。CPU11は、原点からi番目に新しい時刻におけるカーソルの位置の座標までの距離を計算する。
次いで、CPU11は、算出した距離が100画素を超えるか否かを判定する(ステップS23)。このとき、CPU11は、算出した距離が100画素を超えないと判定した場合には(ステップS23:NO)、ステップS24に進む。一方、CPU11は、算出した距離が100画素を超えると判定した場合には(ステップS23:YES)、ステップS26に進む。
ステップS24において、CPU11は、計算した距離をRAM13に記憶させる。次いで、CPU11は、順序番号iを1増加させて(ステップS25)、ステップS22に進む。
ステップS26において、CPU11は、は、現在時刻から、ステップS24において最後に記憶された時刻を減算することにより、決定時間を算出する。そして、CPU11は、決定時間算出処理を終了させる。
決定時間算出処理を終えると、CPU11は、図4に示すように、算出された決定時間、アプリケーション起動要求に含まれるアプリケーションID、及びアプリケーションプログラムから受信した機能IDを対応付けて決定時間データベース4に記憶させる(ステップS17)。次いで、CPU11は、ステップS12に進む。
ステップS18において、CPU11は、起動したアプリケーションプログラムから機能ID要求を受信したか否かを判定する。このとき、CPU11は、機能ID要求を受信したと判定した場合には(ステップS18:YES)、ステップS19に進む。一方、CPU11は、機能ID要求を受信していないと判定した場合には(ステップS18:NO)、ステップS12に進む。
ステップS19において、CPU11は、決定時間データベースから、アプリケーション起動要求に含まれるアプリケーションIDに対応する機能ID及び決定時間の組み合わせを全て取得する。CPU11は、取得した機能ID及び決定時間の組み合わせを、機能IDでグループ分けする。次いで、CPU11は、グループごとに、グループに含まれる決定時間の代表値を計算する。例えば、CPU11は、決定時間の平均値を計算してもよい。CPU11は、決定時間の代表値が大きい順に所定数の機能IDを決定する。例えば、CPU11は、代表値が1番目に大きい機能IDから3番目に大きい機能IDまでを決定してもよい。CPU11は、決定した機能IDを、アプリケーションプログラムへ送信して、ステップS12に進む。
以上説明したように、上記実施形態によれば、サーバ装置1が、アプリケーションプログラムの起動が要求された場合、アプリケーションプログラムに従って実行可能な複数の機能に対応する複数のオブジェクトのうち少なくとも1つを含む操作画面を示す動画データを、クライアント装置2へ送信する。また、サーバ装置1が、操作画面に含まれる何れかのオブジェクトを決定するユーザ操作がクライアント装置2により受け付けられた場合、操作情報をクライアント装置2から受信する。また、サーバ装置1が、受信された操作情報に基づいて、決定されたオブジェクトに対応する機能を実行する。また、サーバ装置1が、機能の実行の結果に応じた操作画面を示す動画データをクライアント装置2へ送信する。また、サーバ装置1が、操作情報が示すユーザ操作が行われるまでに要した決定時間を取得する。また、サーバ装置1が、取得された決定時間と、実行された機能の機能IDとを対応付けて記憶させる。また、サーバ装置1が、複数の機能のそれぞれについて、決定時間の代表値を取得する。また、サーバ装置1が、複数の機能の中から代表値が大きい順に所定数の機能を決定する。また、サーバ装置1が、決定された機能ごとに、機能IDと時短キーの対象識別IDとを対応付けて、RAM13に記憶させる。また、サーバ装置1が、記憶された機能IDが示す機能と、対応する対象識別IDが示す時短キーとを関連付けて示す時短キー情報を操作画面に含ませる。また、サーバ装置1が、受信された操作情報が、RAM13に記憶された対象識別IDが示す時短キーが操作されたことを示す場合、対象識別IDに対応する機能IDが示す機能を実行させる。従って、ユーザ操作に時間を要する機能を、複数のクライアント装置におけるユーザ操作を総合的に勘案して決定することができる。また、決定時間の代表値が相対的に大きい機能に時短キーが割り当てられるので、ユーザ操作に時間を要する機能を容易に実行することが可能となる。
1 サーバ装置
2 クライアント装置
3 アプリケーションDB
4 決定時間DB
10 ネットワーク
11、21 CPU
12、22 ROM
13、23 RAM
14、24 記憶部
15、25 通信部
26 入力部
27 表示部
S 通信システム

Claims (8)

  1. 複数のクライアント装置とネットワークを介して接続される情報処理装置において、
    前記複数のクライアント装置が利用可能な機能を前記情報処理装置により実行させるアプリケーションプログラムを記憶するプログラム記憶手段と、
    前記複数のクライアント装置の何れかのクライアント装置から、前記プログラム記憶手段に記憶された前記アプリケーションプログラムの起動が要求された場合、前記アプリケーションプログラムに従って実行可能な複数の機能に対応する複数のオブジェクトのうち少なくとも1つを含む操作画面を示す画面情報を、前記クライアント装置へ送信する第1送信手段と、
    前記第1送信手段により送信された前記画面情報が示す前記操作画面に含まれる何れかのオブジェクトを決定するユーザ操作が前記クライアント装置により受け付けられた場合、前記ユーザ操作を示す操作情報を前記クライアント装置から受信する受信手段と、
    前記アプリケーションプログラムに従って、前記受信手段により受信された前記操作情報に基づいて、決定された前記オブジェクトに対応する機能を実行する実行手段と、
    前記アプリケーションプログラムに従って、前記実行手段による前記機能の実行の結果に応じた操作画面を示す画面情報を前記クライアント装置へ送信する第2送信手段と、
    前記受信手段により受信された前記操作情報が示す前記ユーザ操作が行われるまでに要した所要時間を取得する時間取得手段と、
    複数のクライアント装置について、ユーザ操作が行われるまでの所要時間と、前記アプリケーションプログラムに従って実行された機能を識別する機能識別情報とを対応付けて記憶する時間記憶手段に、前記時間取得手段により取得された前記所要時間と、前記実行手段により実行された前記機能を識別する機能識別情報とを対応付けて記憶させる時間記憶制御手段と、
    前記複数の機能のそれぞれについて、前記機能を識別する機能識別情報に対応付けて前記時間記憶手段に記憶された所要時間の代表値を取得する代表値取得手段と、
    前記複数の機能の中から、前記代表値取得手段により取得された代表値が大きい順に、所定数の機能を決定する決定手段と、
    前記決定手段により決定された機能ごとに、前記機能を識別する機能識別情報と、操作可能な所定の操作要素を識別する操作要素識別情報とを対応付けて、割当情報記憶手段に記憶させる割当情報記憶制御手段と、
    前記割当情報記憶手段に記憶された前記機能識別情報が示す機能と、前記機能識別情報に対応する前記操作要素識別情報が示す前記操作要素とを関連付けて示すショートカット情報を、前記第1送信手段及び前記第2送信手段それぞれにより送信される前記画面情報が示す前記操作画面に含ませる画面制御手段と、
    前記受信手段により受信された前記操作情報が、前記割当情報記憶手段に記憶された操作要素識別情報が示す操作要素が操作されたことを示す場合、前記操作要素識別情報に対応する前記機能識別情報が示す機能を前記実行手段により実行させる実行制御手段と、
    を備えることを特徴とする情報処理装置。
  2. 前記第1送信手段は、前記割当情報記憶手段に記憶された前記機能識別情報が示す機能に対応するオブジェクトと、前記機能識別情報に対応する前記ショートカット情報との間で、外観上の所定属性が一致する前記操作画面を示す画面情報を送信することを特徴とする請求項1に記載の情報処理装置。
  3. 前記第1送信手段は、前記割当情報記憶手段に記憶された前記機能識別情報が示す機能に対応するオブジェクトを特定可能な情報を含む前記ショートカット情報を含む前記操作画面を示す前記画面情報を送信することを特徴とする請求項1又は2に記載の情報処理装置。
  4. 前記受信手段は、前記操作画面内に表示されるマークを移動させる第1のユーザ操作が受け付けられた場合、前記第1のユーザ操作を示す操作情報を受信し、且つ、前記操作画面における前記マークの位置にあるオブジェクトを決定する第2のユーザ操作が受け付けられた場合、前記第2のユーザ操作を示す操作情報を受信し、
    前記受信手段により受信された前記操作情報に基づいて特定される前記マークの前記操作画面における位置を特定可能な位置情報と、前記ユーザ操作が行われた時刻を示す時刻情報とを対応付けて記憶する位置情報記憶手段を更に備え、
    前記実行手段は、前記受信手段により前記第1のユーザ操作を示す操作情報が受信された場合、前記操作画面における前記マークの位置を変更し、
    前記決定手段は、前記受信手段により前記第2のユーザ操作を示す操作情報が受信された場合、前記位置情報記憶手段に記憶された時刻情報が示す時刻が新しい順に、前記時刻情報に対応する位置情報により特定される前記マークの位置と、前記第2のユーザ操作が行われたときの前記マークの位置との差を計算し、所定距離を超える差が計算される直前に計算された差の計算に用いられた位置情報に対応する時刻情報が示す時刻から、前記第2のユーザ操作が行われた時刻までの時間を、前記所要時間に決定することを特徴とする請求項1乃至3の何れか1項に記載の情報処理装置。
  5. 前記プログラム記憶手段は、前記受信手段により受信された前記操作情報を前記アプリケーションプログラムに引き渡すためのクライアント仮想化プログラムを更に記憶し、
    前記割当情報記憶制御手段、前記画面制御手段及び前記実行制御手段は、前記アプリケーションプログラムに従って機能することを特徴とする請求項1乃至4の何れか1項に記載の情報処理装置。
  6. 前記プログラム記憶手段は、前記受信手段により受信された前記操作情報を前記アプリケーションプログラムに引き渡すためのクライアント仮想化プログラムを更に記憶し、
    前記割当情報記憶制御手段、前記画面制御手段及び前記実行制御手段は、前記クライアント仮想化プログラムに従って機能し、
    前記実行制御手段は、前記受信手段により受信された前記操作情報が、前記割当情報記憶手段に記憶された操作要素識別情報が示す操作要素が操作されたことを示す場合、前記操作要素識別情報に対応する前記機能識別情報が示す機能を実行するためのユーザ操作を示す操作情報を前記アプリケーションプログラムに引き渡すことを特徴とする請求項1乃至4の何れか1項に記載の情報処理装置。
  7. 複数のクライアント装置とネットワークを介して接続される情報処理装置により実行される情報処理方法において、
    前記複数のクライアント装置の何れかのクライアント装置から、前記複数のクライアント装置が利用可能な機能を前記情報処理装置により実行させるアプリケーションプログラムを記憶するプログラム記憶手段に記憶された前記アプリケーションプログラムの起動が要求された場合、前記アプリケーションプログラムに従って実行可能な複数の機能に対応する複数のオブジェクトのうち少なくとも1つを含む操作画面を示す画面情報を、前記クライアント装置へ送信する第1送信ステップと、
    前記第1送信ステップにより送信された前記画面情報が示す前記操作画面に含まれる何れかのオブジェクトを決定するユーザ操作が前記クライアント装置により受け付けられた場合、前記ユーザ操作を示す操作情報を前記クライアント装置から受信する受信ステップと、
    前記アプリケーションプログラムに従って、前記受信ステップにより受信された前記操作情報に基づいて、決定された前記オブジェクトに対応する機能を実行する実行ステップと、
    前記アプリケーションプログラムに従って、前記実行ステップによる前記機能の実行の結果に応じた操作画面を示す画面情報を前記クライアント装置へ送信する第2送信ステップと、
    前記受信ステップにより受信された前記操作情報が示す前記ユーザ操作が行われるまでに要した所要時間を取得する時間取得ステップと、
    複数のクライアント装置について、ユーザ操作が行われるまでの所要時間と、前記アプリケーションプログラムに従って実行された機能を識別する機能識別情報とを対応付けて記憶する時間記憶手段に、前記時間取得ステップにより取得された前記所要時間と、前記実行ステップにより実行された前記機能を識別する機能識別情報とを対応付けて記憶させる時間記憶制御ステップと、
    前記複数の機能のそれぞれについて、前記機能を識別する機能識別情報に対応付けて前記時間記憶手段に記憶された所要時間の代表値を取得する代表値取得ステップと、
    前記複数の機能の中から、前記代表値取得ステップにより取得された代表値が大きい順に、所定数の機能を決定する決定ステップと、
    前記決定ステップにより決定された機能ごとに、前記機能を識別する機能識別情報と、操作可能な所定の操作要素を識別する操作要素識別情報とを対応付けて、割当情報記憶手段に記憶させる割当情報記憶制御ステップと、
    前記割当情報記憶手段に記憶された前記機能識別情報が示す機能と、前記機能識別情報に対応する前記操作要素識別情報が示す前記操作要素とを関連付けて示すショートカット情報を、前記第1送信ステップ及び前記第2送信ステップそれぞれにより送信される前記画面情報が示す前記操作画面に含ませる画面制御ステップと、
    前記受信ステップにより受信された前記操作情報が、前記割当情報記憶手段に記憶された操作要素識別情報が示す操作要素が操作されたことを示す場合、前記操作要素識別情報に対応する前記機能識別情報が示す機能を前記実行ステップにより実行させる実行制御ステップと、
    を含むことを特徴とする情報処理方法。
  8. 複数のクライアント装置とネットワークを介して接続される情報処理装置のコンピュータに、
    前記複数のクライアント装置の何れかのクライアント装置から、前記複数のクライアント装置が利用可能な機能を前記情報処理装置により実行させるアプリケーションプログラムを記憶するプログラム記憶手段に記憶された前記アプリケーションプログラムの起動が要求された場合、前記アプリケーションプログラムに従って実行可能な複数の機能に対応する複数のオブジェクトのうち少なくとも1つを含む操作画面を示す画面情報を、前記クライアント装置へ送信する第1送信ステップと、
    前記第1送信ステップにより送信された前記画面情報が示す前記操作画面に含まれる何れかのオブジェクトを決定するユーザ操作が前記クライアント装置により受け付けられた場合、前記ユーザ操作を示す操作情報を前記クライアント装置から受信する受信ステップと、
    前記アプリケーションプログラムに従って、前記受信ステップにより受信された前記操作情報に基づいて、決定された前記オブジェクトに対応する機能を実行する実行ステップと、
    前記アプリケーションプログラムに従って、前記実行ステップによる前記機能の実行の結果に応じた操作画面を示す画面情報を前記クライアント装置へ送信する第2送信ステップと、
    前記受信ステップにより受信された前記操作情報が示す前記ユーザ操作が行われるまでに要した所要時間を取得する時間取得ステップと、
    複数のクライアント装置について、ユーザ操作が行われるまでの所要時間と、前記アプリケーションプログラムに従って実行された機能を識別する機能識別情報とを対応付けて記憶する時間記憶手段に、前記時間取得ステップにより取得された前記所要時間と、前記実行ステップにより実行された前記機能を識別する機能識別情報とを対応付けて記憶させる時間記憶制御ステップと、
    前記複数の機能のそれぞれについて、前記機能を識別する機能識別情報に対応付けて前記時間記憶手段に記憶された所要時間の代表値を取得する代表値取得ステップと、
    前記複数の機能の中から、前記代表値取得ステップにより取得された代表値が大きい順に、所定数の機能を決定する決定ステップと、
    前記決定ステップにより決定された機能ごとに、前記機能を識別する機能識別情報と、操作可能な所定の操作要素を識別する操作要素識別情報とを対応付けて、割当情報記憶手段に記憶させる割当情報記憶制御ステップと、
    前記割当情報記憶手段に記憶された前記機能識別情報が示す機能と、前記機能識別情報に対応する前記操作要素識別情報が示す前記操作要素とを関連付けて示すショートカット情報を、前記第1送信ステップ及び前記第2送信ステップそれぞれにより送信される前記画面情報が示す前記操作画面に含ませる画面制御ステップと、
    前記受信ステップにより受信された前記操作情報が、前記割当情報記憶手段に記憶された操作要素識別情報が示す操作要素が操作されたことを示す場合、前記操作要素識別情報に対応する前記機能識別情報が示す機能を前記実行ステップにより実行させる実行制御ステップと、
    を実行させることを特徴とするプログラム。
JP2016068475A 2016-03-30 2016-03-30 情報処理装置、情報処理方法及びプログラム Active JP6376163B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016068475A JP6376163B2 (ja) 2016-03-30 2016-03-30 情報処理装置、情報処理方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016068475A JP6376163B2 (ja) 2016-03-30 2016-03-30 情報処理装置、情報処理方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2017182440A true JP2017182440A (ja) 2017-10-05
JP6376163B2 JP6376163B2 (ja) 2018-08-22

Family

ID=60007461

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016068475A Active JP6376163B2 (ja) 2016-03-30 2016-03-30 情報処理装置、情報処理方法及びプログラム

Country Status (1)

Country Link
JP (1) JP6376163B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111736938A (zh) * 2020-06-19 2020-10-02 海尔优家智能科技(北京)有限公司 信息的显示方法及装置、存储介质和电子装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007164655A (ja) * 2005-12-16 2007-06-28 Kyocera Mita Corp 操作設定装置、操作設定方法および操作設定プログラム
JP2008217417A (ja) * 2007-03-05 2008-09-18 Mitsubishi Electric Corp 情報処理装置、情報処理方法および情報処理プログラム
JP2013229028A (ja) * 2012-04-25 2013-11-07 Vmware Inc リモートデバイスのためのユーザインターフェイス仮想化
JP2015087999A (ja) * 2013-10-31 2015-05-07 京セラドキュメントソリューションズ株式会社 電子機器

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007164655A (ja) * 2005-12-16 2007-06-28 Kyocera Mita Corp 操作設定装置、操作設定方法および操作設定プログラム
JP2008217417A (ja) * 2007-03-05 2008-09-18 Mitsubishi Electric Corp 情報処理装置、情報処理方法および情報処理プログラム
JP2013229028A (ja) * 2012-04-25 2013-11-07 Vmware Inc リモートデバイスのためのユーザインターフェイス仮想化
JP2015087999A (ja) * 2013-10-31 2015-05-07 京セラドキュメントソリューションズ株式会社 電子機器

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111736938A (zh) * 2020-06-19 2020-10-02 海尔优家智能科技(北京)有限公司 信息的显示方法及装置、存储介质和电子装置
CN111736938B (zh) * 2020-06-19 2024-03-22 海尔优家智能科技(北京)有限公司 信息的显示方法及装置、存储介质和电子装置

Also Published As

Publication number Publication date
JP6376163B2 (ja) 2018-08-22

Similar Documents

Publication Publication Date Title
US10452249B2 (en) Tooltip feedback for zoom using scroll wheel
EP3623942A1 (en) Message processing method and apparatus, storage medium, and computer device
US20160231906A1 (en) System and methods for card exchange and user interface presentation
CN104978267B (zh) 网页测试方法、终端及服务器
JP6640893B2 (ja) 文字を入力する方法及び装置
US20200264665A1 (en) Device for handheld operation and method thereof
US10747388B2 (en) Electronic device and control method therefor
US8977966B1 (en) Keyboard navigation
CN112419693A (zh) 设备控制方法、装置、显示设备及计算机可读存储介质
US10152496B2 (en) User interface device, search method, and program
JP5612796B1 (ja) 情報処理装置、情報処理方法及び情報処理プログラム
JP6376163B2 (ja) 情報処理装置、情報処理方法及びプログラム
KR20140104773A (ko) 디스플레이장치 및 그 제어방법
US20150325254A1 (en) Method and apparatus for displaying speech recognition information
US10114518B2 (en) Information processing system, information processing device, and screen display method
US20140143303A1 (en) Information processing system, information processing device, information processing method, and storage medium having stored therein computer program
JP7075513B2 (ja) コンピュータプログラム、情報処理装置および情報処理方法
CN111135557B (zh) 用于多屏的交互方法和装置
CN114265655A (zh) 云应用数据处理方法及装置、系统和存储介质
JP5928548B2 (ja) 制御装置及びプログラム
US20160019867A1 (en) Method of providing map service, display control method, and computer programs for performing the methods
JP2018074429A (ja) 情報処理装置、情報処理方法、プログラム
JP6174706B2 (ja) 装置上のフォルダの内容を動的に更新するシステム及び方法
JP2017102847A (ja) 情報処理システム、中継装置、方法およびプログラム
JP7220241B2 (ja) 情報処理装置、情報処理方法およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170901

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180615

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180626

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180709

R150 Certificate of patent or registration of utility model

Ref document number: 6376163

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150