JP6059699B2 - 端末装置、操作受付方法、及びプログラム - Google Patents

端末装置、操作受付方法、及びプログラム Download PDF

Info

Publication number
JP6059699B2
JP6059699B2 JP2014201957A JP2014201957A JP6059699B2 JP 6059699 B2 JP6059699 B2 JP 6059699B2 JP 2014201957 A JP2014201957 A JP 2014201957A JP 2014201957 A JP2014201957 A JP 2014201957A JP 6059699 B2 JP6059699 B2 JP 6059699B2
Authority
JP
Japan
Prior art keywords
image
terminal device
display
displayed
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2014201957A
Other languages
English (en)
Other versions
JP2016071723A (ja
Inventor
晃浩 新藤
晃浩 新藤
野村 和史
和史 野村
尚樹 今井
尚樹 今井
淳悟 知識
淳悟 知識
聡 早瀬
聡 早瀬
和之 田坂
和之 田坂
千春 橘
千春 橘
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
KDDI Corp
Original Assignee
KDDI Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by KDDI Corp filed Critical KDDI Corp
Priority to JP2014201957A priority Critical patent/JP6059699B2/ja
Publication of JP2016071723A publication Critical patent/JP2016071723A/ja
Application granted granted Critical
Publication of JP6059699B2 publication Critical patent/JP6059699B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Information Transfer Between Computers (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本発明の実施形態は、端末装置、操作受付方法、及びプログラムに関する。
従来、音声データ及び画像データを携帯用端末装置間において相互に送受信することにより、これらの携帯用端末装置を利用する通話者の間で同じ画像をリアルタイムに相互に加工することが可能なデータ通信システムが知られている(例えば、特許文献1を参照)。
特開2000−261574号公報
上述したようなデータ通信システムにおいては、携帯用端末装置間において、各端末装置により表示される複数の画像データが送受信される場合がある。しかしながら、上述したようなデータ通信システムにおいては、端末装置が互いに送受信される複数の画像データを重畳して表示する場合に、いずれの画像が操作対象であるのかが、端末装置のユーザにとって分かりにくいことがあった。従って、端末装置の操作性が低下してしまう場合があった。
本発明は、画像データを送受信する端末装置の操作性を向上させることができる端末装置、操作受付方法、及びプログラムを提供することを目的とする。
本発明の一実施形態は、表示部と、自装置と他装置との間で共有される第1画像の表示を制御する第1表示制御部と、前記第1画像の共有を行うか否かの操作メニューを表示するための第1操作ボタン画像の表示を制御する第2表示制御部と、自装置と他装置との間で共有される前記第1画像に重畳して表示される第2画像の表示を制御する第3表示制御部と、前記第2画像に重畳して、又は前記第2画像と同一階層上に表示される第2操作ボタン画像との表示を制御する第4表示制御部と、前記表示部に対する操作を受け付ける操作受付部と、を備え、前記操作受付部は、前記第2操作ボタン画像への操作を、前記第1操作ボタン画像への操作として受け付けることを特徴とする端末装置である。
また、本発明の一実施形態の端末間通信システムにおいて、前記第4表示制御部は、前記第1操作ボタン画像に重畳して前記第2操作ボタン画像を表示することにより、前記第1操作ボタン画像を表示させないことを特徴とする。
また、本発明の一実施形態は、表示部と、自装置と他装置との間で共有される第1画像の表示を制御する第1表示制御部と、前記第1画像の共有を行うか否かの操作メニューを表示するための第1操作ボタン画像の表示を制御する第2表示制御部と、自装置と他装置との間で共有される前記第1画像に重畳して表示される第2画像の表示を制御する第3表示制御部と、前記表示部に対する操作を受け付ける操作受付部と、を備え、前記第2表示制御部は、前記第1操作ボタン画像を前記第2画像に重畳して、又は前記第2画像と同一階層上に表示し、前記操作受付部は、前記第1操作ボタン画像に対する操作を受け付けることを特徴とする端末装置である。
また、本発明の一実施形態の端末間通信システムにおいて、前記第2画像とは、前記操作受付部が受け付ける操作の軌跡に応じて描画される画像であることを特徴とする。
また、本発明の一実施形態は、表示部と、自装置と他装置との間で共有される第1画像の表示を制御する第1表示制御部と、前記第1画像の共有を行うか否かの操作メニューを表示するための第1操作ボタン画像の表示を制御する第2表示制御部と、自装置と他装置との間で共有される前記第1画像に重畳して表示される第2画像の表示を制御する第3表示制御部と、前記表示部に対する操作を受け付ける操作受付部と、を備える端末装置における操作受付方法であって、前記第2表示制御部が、前記第1操作ボタン画像を前記第2画像に重畳して、又は前記第2画像と同一階層上に表示する第1ステップと、前記操作受付部が、前記第1操作ボタン画像に対する操作を受け付ける第2ステップと、を含むことを特徴とする操作受付方法である。
また、本発明の一実施形態は、表示部と、自装置と他装置との間で共有される第1画像の表示を制御する第1表示制御部と、前記第1画像の共有を行うか否かの操作メニューを表示するための第1操作ボタン画像の表示を制御する第2表示制御部と、自装置と他装置との間で共有される前記第1画像に重畳して表示される第2画像の表示を制御する第3表示制御部と、表示部に対する操作を受け付ける操作受付部と、を備える端末装置に、前記第2表示制御部が、前記第1操作ボタン画像を前記第2画像に重畳して、又は前記第2画像と同一階層上に表示する第1ステップ、前記操作受付部が、前記第1操作ボタン画像に対する操作を受け付ける第2ステップ、を実行させるためのプログラムである。
本発明によれば、画像データを送受信する端末装置の操作性を向上させることができる端末間通信システムを提供できる。
本実施形態の端末装置の構成の一例を示す模式図である。 本実施形態の端末装置の表示部に表示される共有メニューボタンの一例を示す模式図である。 本実施形態の端末間通信システムが提供する情報共有機能の概要の一例を示す模式図である。 本実施形態の端末間通信システムが提供する情報共有機能の選択操作の一例を示す模式図である。 本実施形態の端末間通信システムの構成の一例を示す概要図である。 本実施形態のシグナリングサーバが記憶するレジストレーション情報の一例を示す表である。 本実施形態の端末装置が表示する画像を説明するための図である。 本実施形態の複数の画像と、画像に対して行われる操作との関係を示す第1の模式図である。 本実施形態の操作の振り分け規則を示す振り分けテーブルの一例を示す図である。 本実施形態の複数の画像と、画像に対して行われる操作との関係を示す第2の模式図である。
[実施形態]
以下、図を参照して本実施形態による端末間通信システム1の実施形態について説明する。
本実施形態の端末間通信システム1は、複数の端末装置10の間における情報共有機能を提供する。ここでいう端末装置10とは、音声や文字により装置間で相互に通信が可能な通信装置であり、例えば、携帯電話やスマートフォンである。この端末装置10は、音声情報と、画像情報とを同一の回線で送受信可能な、高速データ通信回線に接続が可能である。この高速データ通信回線とは、例えば、LTE(Long Term Evolution)通信網である。この高速データ通信回線は、画像や文字などのデジタル情報の送受信に加えて、音声通話を可能にするサービス(VoLTE;Voice over LTE)を提供する。
この情報共有機能とは、複数の端末装置10の間において、画像情報又は音声情報を共有する機能である。より具体的には、ある端末装置10は、他の端末装置10に対して、画像情報又は音声情報を送信する。これにより、端末間通信システム1は、送信側の端末装置10に表示されている画像、又は再生されている音声を、受信側の端末装置10に表示又は再生させる。また、端末間通信システム1は、ある端末装置10から他の端末装置10に対する一方向の情報共有機能のみならず、端末装置10間の双方向の情報共有機能を提供する。
端末間通信システム1は、一例として、表示中の画像を共有する機能(表示画面共有機能)と、手書き画像を共有する機能(手書き共有機能)とを含む複数の画像情報共有機能を提供する。表示画面共有機能の詳細と、手書き共有機能の詳細とについては、後述する。また、端末間通信システム1は、これら複数の画像情報共有機能を、同時に提供することができる。以下では、一例として、端末装置10が、表示画面共有機能により共有される画像の手前側に、手書き共有機能により共有される画像を重畳して表示することにより、複数の画像情報の共有を同時に行う場合について説明する。
また、端末間通信システム1において、端末装置10は、上述の各種情報共有機能をユーザに制御させるための共有機能操作用のボタン画像を、自装置が備える表示部100(図1)に表示させることにより、情報共有機能を提供する。つまり、端末装置10は、上述した表示画面共有機能により共有される画像と、手書き共有機能により共有される画像とに加え、共有機能操作用のボタン画像を、同時に表示しうる。この場合、端末装置10は、情報共有機能の提供中は、共有機能操作用のボタン画像を常に操作可能とする。これにより、端末装置10は、ユーザがどのような共有機能を利用している場合であっても、任意の情報共有機能の開始、一時停止、終了などを、ユーザが操作可能にすることができる。
この端末間通信システム1には、複数の端末装置10が含まれる。以下の説明において、複数の端末装置10のそれぞれを区別する場合には、例えば、端末装置10−1、端末装置10−2と記載する。また、以下の説明において、これら複数の端末装置10のそれぞれを区別しない場合には、単に端末装置10と記載する。この端末装置10の構成について図1を参照して説明する。
[端末装置の構成]
図1は、本実施形態の端末装置10の構成の一例を示す模式図である。端末装置10は、表示部100と、操作検出部(操作受付部)110と、通信部150と、制御部160とを備えている。
表示部100は、液晶ディスプレイを備えており、文字や写真などの画像を表示する。この表示部100が表示する画像には、着信を待ち受けている場合に表示される待ち受け画像、端末装置において動作するアプリケーションが提供するアプリ画像、端末装置が提供する各種の機能をユーザが選択するためのメニュー画像などが含まれる。
このアプリ画像には、電話(音声通信)アプリケーションが提供するダイヤラ画像、氏名や電話番号、メールアドレスを管理するアドレス帳アプリケーションが提供するアドレス帳の画像が含まれる。また、このアプリ画像には、動画再生アプリケーションが提供する動画像、ウェブブラウザアプリケーションが提供するウェブ画像、地図アプリケーションが提供する地図画像、写真アルバムアプリケーションが提供する写真の画像が含まれる。また、このアプリ画像には、電子メールアプリケーションが提供するメール文面の画像や、テキストチャットアプリケーションが提供するチャットの画像など、種々の画像が含まれる。
また、表示部100が表示するメニュー画像のうち、情報共有機能を選択するためのメニュー画像を、特に情報共有メニュー画像という。また、この情報共有メニュー画像を、共有メニューボール画像、又は共有メニューボタン画像ともいう。また、以下の説明において、この共有メニューボール画像を、単に「共有メニューボール」ともいい、共有メニューボタン画像を、単に「共有メニューボタン」ともいう。つまり、この共有メニューボタン画像は、上述した共有機能操作用のボタン画像であり、表示画面共有機能や手書き共有機能などにより、複数の端末装置10間で共有される画像を共有するか否かの操作メニューを表示するための画像である。この共有メニューボタンの一例を図2に示す。
図2は、端末装置10の表示部100に表示される共有メニューボタンの一例を示す模式図である。この一例において、共有メニューボタンの画像PMBは、表示部100の任意の位置に、アプリ画像PAPと重ねるようにして表示される。
図1に戻り、操作検出部110は、表示部100を覆う透明なタッチパネルセンサを備えており、ユーザの操作を検出する。ユーザの操作には、様々な種類がある。操作の種類の一例には、タップ操作と、ドラッグ操作と、ピンチ操作とがある。タップ操作とは、ユーザが、タッチパネルのある位置に指を触れた後、すぐに指を離す操作である。ドラッグ操作とは、ユーザが、タッチパネルに触れた指を、タッチパネルに触れた状態のままある方向に移動させる操作である。ピンチ操作とは、ユーザが、タッチパネルに触れた2本の指の間隔を変化させる操作である。また、タップ操作には、1回だけ触れるシングルタップ操作と、シングルタップ操作をすばやく2回繰り返すダブルタップ操作とが含まれる。また、ドラッグ操作には、移動速度がドラッグ操作に比べて速いスワイプ操作と、さらに速いフリック操作とが含まれる。また、ピンチ操作には、タッチパネルに触れた2本の指の間隔を広げるピンチアウト操作と、タッチパネルに触れた2本の指の間隔を狭めるピンチイン操作とが含まれる。
なお、ここでは、ユーザが、指によってタッチパネルセンサに触れることにより操作する場合を一例にして説明したが、これに限られない。例えば、ユーザは、指に代えて、操作用の指示棒などを用いて操作してもよい。すなわち、操作検出部110は、指や、指以外の物体(例えば、指示棒)による操作を、ユーザの操作として検出する。
より具体的には、操作検出部110は、ユーザの指や指示棒などのタッチパネルに接触した位置を検出する。ここでいう位置とは、表示部100における位置である。例えば、表示部100が矩形の表示領域を有する場合、この位置は、図1に示すように表示部100の左上の点を原点OとするXY二次元直交座標系において、当該矩形の上辺に平行なX軸における座標値と、当該矩形の左辺に平行なY軸における座標値との2つの座標値により表される。
通信部150は、通信制御用IC(Integrated Circuit)を備え、他の装置との通信を行う。端末装置10は、この通信部150による通信動作によって、他の装置と通信を行う。以下の説明において、通信部150の構成及び動作の説明は省略する。
制御部160は、CPU(Central Processing Unit)を備え、端末装置10が備える各部を制御する。端末装置10は、この制御部160による各部の制御によって、表示部100への表示、操作検出部110による操作の検出、通信部150による他の装置との通信等の動作を行う。以下の説明において、制御部160の構成及び動作の説明は省略する。
[情報共有機能の概要]
次に、端末間通信システム1が提供する情報共有機能の概要について図3を参照して説明する。
図3は、端末間通信システム1が提供する情報共有機能の概要の一例を示す模式図である。
表示中の画像を共有する機能による表示画像の一例を、図3(A)に示す。手書き画像を共有する機能による表示画像の一例を、図3(B)に示す。
これらの情報共有機能は、端末装置10上で動作する情報共有機能アプリケーションによって提供される。以下の説明において、この情報共有機能アプリケーションを、情報共有アプリケーションとも記載する。情報共有アプリケーションは、端末装置10内の基本ソフトウエア、及び他のアプリケーションと連携して動作することにより、情報共有機能を提供する。ここで、情報共有アプリケーションが連携する端末装置10内の基本ソフトウエアには、端末装置10が他の装置と通信を行うための通信ソフトウエアが含まれる。
なお、情報共有アプリケーションには、後述するメニュー制御アプリケーションとショートカットアプリケーションとが含まれる。また、情報共有アプリケーションが連携する他のアプリケーションには、写真アルバムアプリケーションと手書きツールアプリケーションとが含まれる。
ここで、情報共有機能を説明するにあたり、本実施形態の説明中における端末装置10の表記の方法について説明する。端末装置10の動作状態には、次の2つの区別がある。
第1の区別は、情報共有を要求する側の端末装置10と、情報共有を要求される側の端末装置10との区別である。以下の説明において、複数の端末装置10のうち、情報共有を要求する側の端末装置10を、要求側の端末装置10とも記載し、情報共有を要求される側の端末装置10を、被要求側の端末装置10とも記載する。要求側の端末装置10は、被要求側の端末装置10に対して、情報共有の要求を行う。被要求側の端末装置10は、要求側の端末装置10から情報共有の要求があった場合に、その要求を承諾することにより、要求側の端末装置10との情報共有を開始する。なお、以下の説明において、複数の端末装置10のうち、要求側の端末装置10を、端末装置10−1とも記載し、被要求側の端末装置10を、端末装置10−2とも記載する。
第2の区別は、情報共有対象の情報を発信する側の端末装置10と、情報共有対象の情報を受信する側の端末装置10との区別である。以下の説明において、複数の端末装置10のうち、情報共有対象の情報を発信する側の端末装置10を、情報発信側の端末装置10又は端末装置10−Sとも記載する。また、情報共有対象の情報を受信する側の端末装置10を、情報受信側の端末装置10、又は端末装置10−Rとも記載する。
なお、要求側の端末装置10と、被要求側の端末装置10とのうち、いずれが情報共有対象の情報を発信し、いずれがこの情報を受信するのかは、各情報共有機能間の機能の違いや、端末装置10の動作状態などに依存する。すなわち、この端末間通信システム1においては、要求側の端末装置10が情報共有対象の情報を発信する場合と、被要求側の端末装置10が情報共有対象の情報を発信する場合とがある。
また、以下の説明において、上述した第1の区別及び第2の区別を組み合わせて、端末装置10について説明する場合がある。この場合、要求側かつ情報発信側の端末装置10を、端末装置10−1Sとも記載する。要求側かつ情報受信側の端末装置10を、端末装置10−1Rとも記載する。被要求側かつ情報発信側の端末装置10を、端末装置10−2Sとも記載する。被要求側かつ情報受信側の端末装置10を、端末装置10−2Rとも記載する。
[情報共有機能1:表示中の画像の共有(表示画面共有機能)]
次に、図3を参照して、各情報共有機能の概要について説明する。端末間通信システム1が提供する情報共有機能のうち、まず、表示中の画像の共有について説明する。
端末間通信システム1は、表示画面共有機能を提供する。この表示画面共有機能とは、端末装置10の表示部100に表示されている画像P1を、他の端末装置10の表示部100に画像P2として表示させることにより、端末装置10の間において画像を共有する機能である。この表示画面共有機能により端末装置10に表示される画面の一例を図3(A)に示す。ここでいう表示部100に表示されている画像には、上述した待ち受け画像、アプリ画像、及び、メニュー画像が含まれる。
ある端末装置10−1において、この表示画面共有機能が選択されると、端末間通信システム1は、この端末装置10−1の表示部100に表示されている画像P1を、共有先である他の端末装置10−2の表示部100に画像P2として表示させる。
この表示画面共有機能の具体例について説明する。例えば、端末装置10−1において、写真アルバムアプリケーションが起動されており、この写真アルバムアプリケーションが写真の画像(図3(A)に示す画像P1)を表示部100に表示している場合について説明する。この場合、端末間通信システム1は、端末装置10−1の表示部100に表示されている写真の画像P1を、共有先である他の端末装置10−2の表示部100に画像P2として表示させる。このようにして2台の端末装置10のそれぞれの表示部100に、同一の写真の画像P1が表示されることにより、写真の画像P1が共有される。
次に、表示画面共有機能の他の具体例について説明する。例えば、端末装置10−1において、動画アプリケーションが起動されており、この動画アプリケーションが音声付の動画像を表示部100に表示している場合について説明する。この場合、端末間通信システム1は、端末装置10−1の表示部100に表示されている動画像を、共有先である他の端末装置10−2の表示部100に表示させる。このようにして2台の端末装置10のそれぞれの表示部100に、同一の動画像が表示されることにより、動画像が共有される。また、画像の共有と同時に端末間通信システム1は、端末装置10−1の音再生部130から再生されている音を、共有先である他の端末装置10−2の音再生部130から再生させる。このようにして2台の端末装置10のそれぞれの音再生部130から、同一の音が再生されることにより、動画像に付されている音声が共有される。このようにして、2台の端末装置10間において、音声付の動画像が共有される。すなわち、端末間通信システム1によれば、画像情報と音情報とのいずれの情報も共有が可能である。
[情報共有機能2:手書き画像の共有(手書き共有機能)]
次に、端末間通信システム1が提供する情報共有機能のうち、手書き画像の共有について、図3(B)を参照して説明する。
端末間通信システム1は、手書き図形の画像を共有する手書き共有機能を提供する。ここで、手書き図形の画像とは、端末装置10の操作検出部110を指などでドラッグ操作することにより、表示部100に表示されたドラッグ操作の軌跡の画像である。すなわち、手書き共有機能とは、端末装置10の操作検出部110を指などでドラッグ操作して表示部100に表示された手書きの図形の画像P3を、他の端末装置10の表示部100に画像P4として表示させることにより、端末装置10の間において画像を共有する機能である。
この手書き共有機能の具体例について説明する。例えば、端末装置10−1において、手書きツールアプリケーションが起動されており、この手書きツールアプリケーションが手書き図形の画像(図3(B)に示す画像P3)を表示部100に表示している場合について説明する。この場合、端末間通信システム1は、端末装置10−1の表示部100に表示されている手書き図形の画像P3を、共有先である他の端末装置10−2の表示部100に画像P4として表示させる。このようにして2台の端末装置10のそれぞれの表示部100に、同一の手書き図形の画像が表示されることにより、手書き図形の画像が共有される。
[画像のレイヤ表示]
なお、端末装置10の表示部100は、写真アルバムアプリケーションが表示する写真(例えば、図3(B)の画像P5)と、手書きツールアプリケーションが表示する手書き図形の画像(例えば、図3(B)の画像P3)とを重ねて表示することができる。すなわち、端末装置10の表示部100は、複数の画像を積層させて表示することができる。この場合、表示部100は、アプリケーションごとに設定されているレイヤによって、画像を表示する。このレイヤとは、積層されて表示される画像の論理的な階層である。例えば、表示部100は、下位のレイヤである第1レイヤに画像P5を、第1レイヤよりも上位のレイヤである第2レイヤに画像P3を、それぞれ表示する。ここで、上位のレイヤとは、積層された複数のレイヤのうち、手前側(ユーザに近い側)に画像を表示するレイヤである。また、下位のレイヤとは、積層された複数のレイヤのうち、奥側(ユーザから遠い側)に画像を表示するレイヤである。これらのレイヤに表示される画像には、不透明度を例えば0%から100%の間で設定することができる。上位のレイヤに表示される画像の不透明度が100%の場合には、上位の画像が不透明になり、下位のレイヤの画像が隠されるため、下位のレイヤの画像は表示されない。また、上位のレイヤに表示される画像の不透明度が0%の場合には、上位の画像が透明になり、下位のレイヤの画像が隠されずに透過して表示される。
なお、あるレイヤ内に複数の領域がある場合には、この不透明度は、これらの領域毎に設定することができる。例えば、手書きツールアプリケーションが画像を表示するレイヤに、手書き図形の画像が表示される領域と、何も表示されない領域とがある場合に、これらの領域の不透明度を、領域毎に設定することができる。
また、操作検出部110は、最も上位のレイヤに対する操作を検出する。この一例では、手書きツールアプリケーションが、手書き図形の画像P3を、最も上位の第2レイヤに表示している場合について説明する。この場合には、操作検出部110は、タッチパネルによって検出した操作(例えば、ドラッグ操作)を、最も上位のレイヤに画像を表示している手書きツールアプリケーションに出力する。手書きツールアプリケーションは、操作検出部110が出力したドラッグ操作に基づいて、このドラッグ操作の軌跡を示す画像を、手書き図形の画像として、表示部100に表示する。
ここで、別の一例として、第2レイヤよりも上位の第3レイヤに、メニュー制御ソフトウエアがメニュー画面を表示している場合について説明する。この場合、操作検出部110は、最も上位のレイヤ、すなわち第3レイヤに対する操作を検出する。操作検出部110は、共有メニューボタン画像が表示されている位置に対する操作(例えば、タップ操作)を、タッチパネルによって検出する。操作検出部110は、検出した操作(例えば、タップ操作)を、最も上位のレイヤに画像を表示しているメニュー制御ソフトウエアに出力する。メニュー制御ソフトウエアは、操作検出部110が出力した操作に基づいて、このタップ操作の位置に対応する機能を選択して、選択した機能を提供する。
つまり、操作検出部110は、表示部100に表示される画像の複数のレイヤのうち、最上位のレイヤに対する操作を検出する。従って、図3(B)に示す例において、手書き図形の画像P3が、写真の画像P5よりも下位側のレイヤに表示される場合には、ユーザが表示部100のタッチパネルを操作しても、この操作に応じた手書き図形の画像は描画されない。
なお、メニュー制御ソフトウエアとは、共有メニューボタン画像への操作に応じた処理を実行するアプリケーションである。具体的には、メニュー制御ソフトウエアは、共有メニューボタン画像PMBへの操作に応じて、端末装置10が実行可能な情報共有機能を表示により選択可能に提示する。また、メニュー制御ソフトウエアは、情報共有機能以外の機能を提示してもよい。具体的には、例えば、メニュー制御ソフトウエアは、複数のレイヤに画像が表示されている場合に、各画像が表示されるレイヤを切り替えるための画像を表示してもよい。より具体的には、メニュー制御ソフトウエアは、例えば、手書きツールアプリケーションと写真アルバムアプリケーションとが実行されている場合に、共有メニューボタン画像PMBへの操作に応じて、手書きツールアプリケーションと写真アルバムアプリケーションとがそれぞれ表示する画像のレイヤを切替可能としてもよい。また、メニュー制御ソフトウエアは、例えば、端末装置10において実行されているアプリケーションの種類に応じて、提示する機能を変更してもよい。
なお、手書き共有機能において、端末間通信システム1は、複数の端末装置10の間で手書き図形の画像を双方向に共有することも可能である。具体的には、端末間通信システム1は、端末装置10−1の表示部100に表示されている手書き図形の画像P3を、共有先である他の端末装置10−2の表示部100に画像P4として表示させる。この場合において、端末間通信システム1は、端末装置10−2の表示部100に表示されている手書き図形の画像P6を、共有先である他の端末装置10−1の表示部100に画像P7表示させる。このようにして2台の端末装置10のそれぞれの表示部100に、手書き図形の画像が表示されることにより、手書き図形の画像が双方向に共有される。
なお、手書き共有機能において、端末間通信システム1が画像を共有する仕組みと、上述した表示画像共有機能において、端末間通信システム1が画像を共有する仕組みとは、次の点で相違する。すなわち、表示画像共有機能においては、端末間通信システム1は、表示部100に表示されている画像をキャプチャしたデータを、端末装置10間において共有することにより、画像を共有する。一方、手書き共有機能においては、端末間通信システム1は、画像をキャプチャしたデータではなく、画像を描画するためのデータを共有することにより、画像を共有する。具体的には、手書き共有機能においては、情報発信側の端末装置10−Sは、端末装置10−Sの操作検出部110が検出した手書き図形の座標データ、及び線の色、太さなどのデータ(すなわち、画像を描画するためのデータ)を、情報受信側の端末装置10−Rに対して送信する。情報受信側の端末装置10−Rは、受信した手書き図形の座標データ、及び線の色、太さなどのデータに基づいて、端末装置10−Rの表示部100に画像を表示する。
なお、手書きツールアプリケーションは、複数のレイヤに手書き画像を表示してよい。この場合、手書きツールアプリケーションの実行において、操作検出部110がユーザから複数の手書き画像の入力を受け付け、制御部160は、受け付けた複数の手書き画像を互いに異なるレイヤに表示する。また、手書き画像は、端末装置10において、実行されているアプリケーションに対応付けられていていてもよい。ここで、端末装置10において、写真アルバムアプリケーションとアドレス帳アプリケーションとが実行されている場合について説明する。例えば、写真アルバムアプリケーションが手書き画像の一つ下位のレイヤに画像を表示している場合に操作検出部110が手書き画像の入力を受け付けると、制御部160は、受け付けた手書き画像を写真アルバムアプリケーションと対応付けて記憶する。また、アドレス帳アプリケーションが手書き画像の一つ下位のレイヤに画像を表示している場合に操作検出部110が手書き画像の入力を受け付けると、制御部160は、受け付けた手書き画像をアドレス帳アプリケーションと対応付けて記憶する。これにより、端末装置10は、手書き画像を、他のレイヤに表示される画像と対応付けて保存することができる。
ここで、端末装置10の制御部160が行う、画像を表示するレイヤの割り当ての制御について説明する。この画像を表示するレイヤの割り当て制御とは、表示部100のある表示領域内に、複数の画像が表示される場合に、これら複数の画像のうち、どの画像を上位のレイヤに表示し、どの画像を下位のレイヤに表示するかを定めることである。上述したように、端末装置10の操作検出部110は、最も上位のレイヤに対する操作を検出する。具体的には、複数の操作ボタンの画像が上位のレイヤ、及び下位のレイヤにそれぞれ表示されている場合に、操作検出部110は、上位のレイヤに表示されている操作ボタンの画像に対する操作を検出する。また、この場合、操作検出部110は、下位のレイヤに表示されている操作ボタンの画像に対する操作は検出しない。従って、操作ボタンの画像は、上位のレイヤに表示されていることが好ましい。しかしながら、表示部100の表示面積は限られているため、すべての操作ボタンの画像を上位レイヤに表示することはできない場合がある。この場合には、制御部160は、ボタン画像を表示するレイヤを次のようにして割り当てる。
ここでは、すべてのボタン画像が最上位レイヤに表示されるように予め割り当てられており、一部のボタン画像の表示領域が互いに重なっている場合を一例として説明する。この場合、制御部160は、ボタン画像に対して、このボタン画像ごとに予め定められている優先度に基づいて、ボタン画像を表示するレイヤを割り当てる。制御部160は、ボタン画像が表示される領域が、他のボタン画像と重ならない場合には、このボタン画像の表示レイヤを最上位レイヤに割り当てる。また、制御部160は、ボタン画像が表示される領域が、他のボタン画像と重なる場合には、これらのボタン画像のうち、優先度が最も高いボタン画像の表示レイヤを、最上位レイヤに割り当てる。これにより、制御部160は、操作検出部110が、優先度が高いボタン画像への操作を検出し、優先度が低いボタン画像への操作を検出しないようにして、ボタン画像を表示させることができる。
ここで、最上位レイヤを、操作可能なレイヤとも称する。また、最上位レイヤよりも下位のレイヤを、操作不可能なレイヤとも称する。
すなわち、制御部160は、レイヤの割り当ての制御により、操作可能なレイヤに表示されている画像を、操作不可能なレイヤに表示する。また、制御部160は、レイヤの割り当ての制御により、操作不可能なレイヤに表示されている画像を、操作可能なレイヤに表示する。なお、ここでは、ボタン画像を一例にして説明したが、制御部160は、他の画像に対しても同様の処理を実行してよい。
このようにして制御部160は、画像を表示するレイヤの割り当ての制御を行う。
[情報共有機能の選択操作の概要]
次に、ユーザが情報共有機能を起動する操作の概要について、図4を参照して説明する。
図4は、本実施形態の端末間通信システム1が提供する情報共有機能の選択操作の一例を示す模式図である。
ここでは、ユーザA(Aさん)と、ユーザB(Bさん)とが、それぞれ端末装置10を使用して表示画面共有を利用する場合を一例にして説明する。また、この一例の説明において、ユーザAが利用する端末装置10が、要求側かつ情報発信側の端末装置10、すなわち端末装置10−1Sである。また、この一例の説明において、端末装置10−2が、被要求側かつ情報受信側の端末装置10、すなわち端末装置10−2Rである。また、端末装置10によっては表示画面共有機能に対応していない端末装置10もあり得る。この一例の説明においては、各端末装置10が、表示画面共有機能に対応している場合について説明する。
ユーザAと、ユーザBとは、図4(A)から図4(E)に示す操作を順に行うことにより、表示画面共有機能を利用する。このユーザAと、ユーザBとは、LTE通信網を経由した音声通話を行っている。このユーザAと、ユーザBとが、LTE通信網を経由した音声通話を行っている場合の、各端末装置10に表示される画像の一例を、図4(A)に示す。
このとき、ユーザAの端末装置10−1Sの表示部100、及びユーザBの表示部100には、いずれも共有メニューボタンの画像PMBが表示されている。この共有メニューボタンの画像PMBの表示は、通信の相手側の端末装置10が、上述した情報共有機能のうち、いずれかの情報共有機能に対応していることを示す。この一例では、共有メニューボタンの画像PMBの表示は、端末装置10−1Sと、端末装置10−2Rとが、いずれも表示画面共有機能に対応していることを示す。
ユーザAは、端末装置10−1Sの表示部100に表示されている共有メニューボタンの画像PMBをタップ操作する。このタップ操作を端末装置10−1Sの操作検出部110が検出すると、ランチャー画像P20が表示される(図4(B)を参照)。このランチャー画像P20とは、上述したメニュー画像の一例である。この一例においては、ランチャー画像P20は、表示画面共有機能、手書き共有機能、位置情報共有機能、及びカメラ共有機能のアイコン画像を示す。このアイコン画像が表示されている表示部100上の位置を、ユーザがタップ操作することにより、アイコン画像に対応付けられた機能が起動する。ここでは、ユーザAが、ランチャー画像P20に表示される各情報共有機能のうち、表示画面共有機能のアイコン画像P21をタップ操作する場合について説明する。
このタップ操作を端末装置10−1Sの操作検出部110が検出すると、表示画面共有機能の機能説明画像P22が表示される(図4(C)を参照)。また、このタップ操作を端末装置10−1Sの操作検出部110が検出すると、共有先の端末装置10−2Rの表示部100に画面共有開始の承諾画像P23が表示される。この承諾画像P23とは、情報共有の被要求側の端末装置10に表示される画像であり、要求側の端末装置10による情報共有の要求を承諾するか否かを示す操作を、ユーザに促す画像である。この一例においては、承諾画像P23とは、ユーザAからの画面共有の要求を承諾するか否かを示すタップ操作をユーザBに対して促す画像である。
次に、ユーザBは、承諾画像P23の承諾ボタンの画像P24をタップ操作する。このタップ操作を端末装置10−2Rの操作検出部110が検出すると、端末装置10−2R及び端末装置10−1Sの各表示部100に、接続中を示す画像P25が表示される(図4(D)を参照)。このとき、端末装置10−1Sと端末装置10−2Rとの間において、表示画面共有のための端末間通信のセションが構築される。
次に、端末装置10−1Sと端末装置10−2Rとの間において、表示画面共有のための端末間通信のセションが確立すると、端末装置10−1Sの表示部100に表示されている画像P26が、端末装置10−2Rの表示部100に画像P27として表示される(図4(E)を参照)。すなわち、端末装置10−1Sと端末装置10−2Rとの間において、表示画面共有が開始される。
[端末間通信システムの構成]
次に、上述した情報共有機能を提供する端末間通信システム1の構成について、図5を参照して説明する。
図5は、本実施形態の端末間通信システム1の構成の一例を示す概要図である。端末間通信システム1は、複数の端末装置10(この一例では、端末装置10−1S及び端末装置10−2R)の他に、次の装置を備える。すなわち、端末間通信システム1は、シグナリングサーバ20と、認証サーバ30と、プッシュサーバ40と、中継サーバ50とを備えている。
シグナリングサーバ20は、端末装置10の間において行われる情報共有通信のセションを管理する。具体的には、シグナリングサーバ20は、複数の端末装置10、認証サーバ30、及びプッシュサーバ40との間において通信が可能である。シグナリングサーバ20は、端末装置10が情報共有機能に対応している場合、その端末装置10の情報のレジストレーション(初期登録)を行う。また、シグナリングサーバ20は、端末装置10から情報共有の要求があった場合に、共有先の端末装置10との間の通信のセションを構築するためのシグナリング処理を行う。また、シグナリングサーバ20は、端末装置10から情報共有の要求があった場合に、共有の要求先の端末装置10が情報共有機能に対応しているか否かの返答を、要求側の端末装置10に対して行う。
また、シグナリングサーバ20は、セションの構築開始時に端末装置10が正規の装置であるか否かを判定する。端末装置10が正規の装置であるか否かは、様々な手段によって判定することができる。この一例においては、シグナリングサーバ20は、端末装置10から送信される電話番号及びIPアドレスに基づいて、端末装置10が正規の装置であるか否かを判定する。より具体的には、シグナリングサーバ20は、端末装置10から送信される電話番号及びIPアドレスと、この端末装置10に予め割り当てられている電話番号及びIPアドレスとが一致するか否かに基づいて、端末装置10が正規の装置であるか否かを判定する。以下の説明において、シグナリングサーバ20が行う、端末装置10が正規の装置であるか否かの判定を、セキュア判定とも記載する。
また、シグナリングサーバ20は、レジストレーション情報を記憶する。シグナリングサーバ20は、このレジストレーション情報を利用して、セションの構築、及びセキュア判定を行う。このシグナリングサーバ20が記憶するレジストレーション情報について、図6を参照して説明する。
図6は、本実施形態のシグナリングサーバ20が記憶するレジストレーション情報の一例を示す表である。シグナリングサーバ20は、レジストレーション情報として、端末装置10の電話番号と、端末モデル名と、プッシュIDと、アプリケーションバージョンとを記憶する。ここで、プッシュIDとは、端末装置10上で動作する情報共有機能対応のアプリケーションについて、このアプリケーションを識別する識別情報である。
図5に戻り、シグナリングサーバ20は、セションが確立された後には、所定の頻度で端末装置10が正規の装置であるか否かを判定する。シグナリングサーバ20は、端末装置10が正規の装置であると判定した場合に限り、セションを構築し、又は確立されたセションを維持する。具体的には、シグナリングサーバ20は、端末装置10が正規の装置であると判定した場合には、端末装置10に対してトークンを発行する。このトークンとは、高速通信回線を経由して端末装置10どうしが通信を行うための許可情報である。このトークンには、発行の時点からの有効期限が設定されている。端末装置10は、この有効なトークンが発行されている場合に、他の端末装置10との画面情報共有を行うことができる。また、端末装置1は、トークンが発行されていない場合、及び発行されているトークンの有効期限が途過している場合には、他の端末装置10との画面情報共有を行うことができない。このようにして、シグナリングサーバ20は、端末装置10の間のセションを管理する。
認証サーバ30は、端末装置10の電話番号と、インターネットプロトコルアドレス(IPアドレス)とを関連付けて記憶している。認証サーバ30は、シグナリングサーバ20から、電話番号に対応するIPアドレスの要求があった場合に、端末装置10の電話番号に対応するIPアドレスを、シグナリングサーバ20に返答する。
なお、ある端末装置10についての電話番号とIPアドレスとの組み合わせが、認証サーバ30に記憶されている電話番号とIPアドレスとの組み合わせと一致しない場合には、この端末装置10が正規の装置でない可能性がある。シグナリングサーバ20は、ある端末装置10から電話番号及びIPアドレスを取得し、認証サーバに記憶されている電話番号及びIPアドレスと比較して、電話番号とIPアドレスとの組み合わせが一致するか否かを判定する。この比較の結果、電話番号とIPアドレスとの組み合わせが一致すると判定した場合、シグナリングサーバ20は、端末装置10に対してトークンを発行する。また、この比較の結果、電話番号とIPアドレスとの組み合わせが一致しないと判定した場合、シグナリングサーバ20は、端末装置10に対してトークンを発行しない。
プッシュサーバ40は、複数のプッシュIDを記憶する。このプッシュサーバ40に記憶されるプッシュIDと、端末装置10上で動作するアプリケーションとは、シグナリングサーバ20によって対応付けられている。具体的には、端末装置10において、ダウンロードされた新たなアプリケーションが初めて起動されると、この端末装置10は、プッシュサーバ40に対してプッシュIDの発行を要求する。プッシュサーバ40は、この要求に基づいて端末装置10の新たなアプリケーションに対するプッシュIDを発行して、発行したプッシュIDを端末装置10に送信する。端末装置10は、この新たなアプリケーションと、発行されたプッシュIDとを関連付けた情報を、シグナリングサーバ20に対してレジストレーション情報として送信する。シグナリングサーバ20は、端末装置10から送信されたレジストレーション情報を記憶する。これにより、プッシュサーバ40に記憶されるプッシュIDと、端末装置10上で動作するアプリケーションとが、シグナリングサーバ20によって対応付けられる。
また、プッシュサーバ40は、端末装置10においてアプリケーションがバージョンアップされると、このバージョンアップに伴って新たなプッシュIDを発行する。つまり、プッシュサーバ40は、端末装置10において動作するアプリケーションの、アプリケーションバージョンの更新に伴い、更新される。
また、プッシュサーバ40は、被要求側の端末装置10に対してシグナリングサーバ20がセション構築開始の要求を行う際に、要求側の端末装置10の電話番号をプッシュ技術により被要求側の端末装置10に対して送信する。このプッシュ技術とは、端末装置10に対する通信リクエストを、サーバ装置側(この例の場合には、シグナリングサーバ20、及びプッシュサーバ40側)から開始する技術である。なお、以下の説明において、プッシュ技術によって情報を送信することを、単に、情報をプッシュするとも記載する。
中継サーバ50は、複数の端末装置10の間の情報共有通信においてピア・トゥー・ピア接続ができない場合に、複数の端末装置10の間の情報共有通信を行う中継サーバである。ピア・トゥー・ピア接続は、P2P接続とも称する。複数の端末装置10の間の情報共有通信のP2Pセションが、所定の時間を超えても確立できない場合に、中継サーバ50を介したセションが構築される。
[複数の画像の表示]
本実施形態の端末間通信システム1において、端末装置10は、複数の画像を同時に共有することができる。ここで、図7を参照して、端末装置10が複数の画像を表示する場合の表示態様について説明する。
図7(A)〜(D)は、本実施形態の端末装置が表示する画像を説明するための図である。図7(A)〜(D)に示される例において、端末装置10には写真アルバムアプリケーションと、メニュー制御ソフトウエアと、手書きツールアプリケーションとの3つのアプリケーションがインストールされている。また、図7(C)、(D)に示される例の一態様において、端末装置10には、後述するショートカットアプリケーションがインストールされている。また、写真アルバムアプリケーションと、メニュー制御ソフトウエアと、手書きツールアプリケーションとは、それぞれ1つ以上の画像を表示する。端末装置10の制御部160は、これらの画像を重ねて表示部100に表示させる。
また、図7(A)〜(D)に示される例において、上述の3つのアプリケーションのうち、メニュー制御ソフトウエアと、手書きツールアプリケーションとの2つのアプリケーションが、ユーザの操作対象のアプリケーションである。そして、メニュー制御ソフトウエアと、手書きツールアプリケーションとが表示する画像は、ユーザの操作を受け付け可能にする操作用画像である。以下では、まず、図7(A)、(B)を参照して、複数の画像情報に基づいて表示を行った場合に生じうる問題を説明する。その後、図7(C)、(D)を参照して、本実施形態の端末装置10が複数の画像情報に基づいて行う表示の例について説明する。
図7(A)は、3つの画像情報に基づく端末装置10の表示の一例を示す。図7(A)において、端末装置10は、3つのアプリケーションがそれぞれ表示する画像PAP11と、画像PMBと、画像PDAとに基づいて表示を行っている。画像PAP11は、写真アルバムアプリケーションが表示する写真画像である。画像PMBは、メニュー制御ソフトウエアが表示する共有メニューボタン画像である。画像PDAは、手書きツールアプリケーションが表示する手書きツール画像である。手書きツール画像PDAには、手書き画像PD1と、手書きパレット画像PD2とが含まれる。手書き画像PD1は、操作検出部110がユーザから受け付けた手書き入力に基づいて、制御部160が表示する画像である。手書きパレット画像PD2は、手書き画像の線の太さ、色彩、線種などを操作するためのボタンを表す画像である。図7(A)において、これらの画像のうち、写真画像PAP11と、手書き画像PD1とが情報共有機能により、複数の端末装置10において共有されている。
図7(A)において、最下位のレイヤである第1レイヤには、写真画像PAP11が表示されている。また、第1レイヤの上位のレイヤである第2レイヤには、共有メニューボタン画像PMBが表示されている。また、第2レイヤのさらに上位のレイヤである第3レイヤには、手書きツール画像PDAが表示されている。そして、表示部100は、これらの画像を合成した画像PL1を表示している。つまり、画像PL1は、写真画像PAP11に共有機能画像PMBを重畳し、さらにその上に手書きツール画像PDAを重畳した画像である。上述したように操作検出部110は、最上位のレイヤに対する操作を検出する。図7(A)において、最上位のレイヤには、手書きツール画像PDAが表示されているため、操作検出部110が受け付けた入力は、手書きツール画像PDAを表示する手書きツールアプリケーションに振り分けられる。これに対して、共有メニューボタン画像は、最上位のレイヤに表示されない。従って、表示部100は、共有メニューボタン画像PMBを表示しているが、当該共有メニューボタン画像PMBに対してユーザがタップ操作を行った場合であっても、タップ操作は、メニュー制御ソフトウエアには振り分けられない。このように、ユーザは、共有メニューボタン画像PMBを操作しようとして、手書きツールアプリケーションを誤操作してしまう可能性がある。
図7(B)は、手書きツールアプリケーションが表示する画像PWを説明するための図である。画像PWは、手書きツールアプリケーションが提供する手書き機能において、不透明度100%の白地のキャンバスを表すキャンバス画像である。このキャンバス画像PWは、手書きツール画像PDAとは異なるレイヤに表示される。
図7(B)において、第1レイヤと第2レイヤとに表示される画像は、図7(A)と同様である。ただし、図7(B)では、第2レイヤのさらに上位のレイヤである第3レイヤに、キャンバス画像PWが表示されていることが、図7(A)とは異なる。また、第3レイヤのさらに上位のレイヤである第4レイヤには、手書きツール画像PDAが表示されている。そして、表示部100は、これらの画像を合成した画像PL2を表示している。つまり、画像PL2は、キャンバス画像PWに、手書きツール画像PDAを重畳した画像である。これにより、端末装置10は、手書き画像を見やすく表示することができる。しかしながら、このように不透明度100%の画像が、共有メニューボタン画像PMBの上位のレイヤに表示されることにより、共有メニューボタン画像PMBが表示部100に表示されなくなる。そのため、ユーザは、共有メニューボタン画像PMBを操作することができない。
図7(C)は、本実施形態に係る端末装置10による複数画像の表示の例を示す図である。本実施形態に係る端末装置10は、操作対象の複数のアプリケーションを操作するための画像を、それぞれ最上位のレイヤに表示する。具体的には、図7(C)において、最下位の第1レイヤには、写真画像PAP11が表示されている。また、第1レイヤの上位レイヤである第2レイヤには、共有メニューボタン画像PMB1又はPMB2と、手書きツール画像PDBとが表示されている。そして、表示部100は、これらの画像を合成した画像PL3を表示している。つまり、画像PL3は、写真画像PAP11に、共有メニューボタン画像PMB1又はPMB2と、手書きツール画像PDBとを重畳した画像である。
ここで共有メニューボタン画像PMB1、PMB2は、それぞれメニュー制御ソフトウエアに対応する画像である。共有メニューボタン画像PMB1は、メニュー制御ソフトウエアにより表示される画像である。共有メニューボタン画像PMB2は、共有メニューボタン画像PMBへのショートカットを表す画像である。これらの共有メニューボタン画像PMB1及びPMB2は、例えば、手書きツールアプリケーションが実行されていない場合にメニュー制御ソフトウエアが表示する共有メニューボタン画像PMB(以下、「共有メニューボタン画像PMB0」と称する。)とは異なり、手書きパレット画像PD3と統一性を有するデザインの画像である。具体的には、共有メニューボタン画像PMB1及びPMB2は、例えば、手書きパレット画像PD3に表示される各種ツールの画像と同サイズの矩形により区切られた外縁を有する画像である。このように、端末装置10は、最上位レイヤに画像を表示する手書きツールアプリケーションの実行時と不実行時とにおいて、共有メニューボタン画像のデザインを変更する。これにより、ユーザは、手書きツールアプリケーションが実行されていることと、メニュー制御ソフトウエアと手書きツールアプリケーションとの両方を操作可能であることとを知ることができる。
共有メニューボタン画像PMB2を表示する場合、メニュー制御ソフトウエアは、共有メニューボタン画像PMB2の他に、共有メニューボタン画像PMB0(不図示)を、最上位レイヤ以外のレイヤに表示する。そして、この場合は、当該共有メニューボタン画像PMB0は、共有メニューボタン画像PMB2の奥側に表示される。すなわち、共有メニューボタン画像PMB2は、当該共有ボタン画像PMB0へのショートカットを提供する共有メニューボタン画像PMB2の背後に隠されている。そして、共有メニューボタン画像PMB0は、共有メニューボタン画像PMB2が移動した場合には、当該移動に連動してその背後に移動する。また、共有メニューボタン画像PMB2が表示される場合、共有機能画像ボタンPMB0は、最下位のレイヤに表示されていてもよい。
また、共有メニューボタン画像PMB1及びPMB2は、例えば、共有メニューボタン画像PMB0に比して表示面積の小さい画像である。これにより、端末装置10は、手書きツールアプリケーションへのユーザの操作を妨げずに、メニュー制御ソフトウエアへのユーザの操作を受け付けることができる。
また、共有メニューボタン画像PMB1、PMB2は、所定の位置に表示される。具体的には、図7(C)に示される例において、表示部100は、共有メニューボタン画像PMB1、PMB2を、表示部100の左上の領域に表示する。これにより、ユーザは、端末装置10が手書きツールアプリケーションを実行している場合であっても、メニュー制御ソフトウエアを迷わずに操作することができる。
なお、操作検出部110が手書きツールアプリケーションを終了する操作を受け付けた場合、制御部160は、共有メニューボタン画像PMBを、手書きツールアプリケーションが起動される前に表示していた位置に表示してもよい。この場合、メニュー制御ソフトウエアは、共有メニューボタン画像PMB0の表示位置を記憶している。手書きツールアプリケーションが起動されると、上述したように共有メニューボタン画像PMB1又はPMB2が表示部100の所定の位置に表示される。そして、手書きツールアプリケーションが終了されると、メニュー制御ソフトウエアは、操作検出部110が手書きツールアプリケーションを起動する操作を受け付けた時点における共有メニューボタン画像PMB0の表示位置に、共有メニューボタン画像PMB0を表示する。
手書きツール画像PDBは、手書きツールアプリケーションが表示する画像である。手書きツール画像PDBは、手書き画像PD1と、手書きパレット画像PD3とを含む。手書きパレット画像は、メニュー制御ソフトウエアが実行されている場合と、メニュー制御ソフトウエアが実行されていない場合とで、互いに異なるデザインで表示される。
上述したように手書きツールアプリケーションは、手書きツール画像の他に、キャンバス画像PWを表示可能である。キャンバス画像PWを表示する場合、表示部100は、下位のレイヤである第1レイヤに写真画像PAP11を、第1レイヤの上位レイヤである第2レイヤにキャンバス画像PWを、第2レイヤのさらに上位レイヤである第3レイヤに共有メニューボタン画像PMB1又はPMB2と、手書きツール画像PDBとを表示する。これにより、共有メニューボタン画像PMB1、PMB2と手書きツール画像PDBとが、キャンバス画像により隠されずに表示される。従って、ユーザは、共有メニューボタン画像PMB1、PMB2の操作方法を認識することができる。
図7(D)は、端末装置10の操作検出部110が、図7(C)において例示した共有メニューボタン画像PMB1又はPMB2への操作を受け付けた場合の表示部100による表示例を示す図である。図7(D)において、最上位レイヤには、ランチャー画像P20が表示されている。そして、表示部100は、画像PL3とランチャー画像P20とを合成した画像PL4を表示する。つまり、画像PL4は、画像PL3に、ランチャー画像P20を重畳した画像である。
なお、ランチャー画像P20は、操作検出部110が共有メニューボタン画像PMB1、PMB2への操作を検出することに応じてメニュー制御ソフトウエアが表示する画像である。
次に、図8〜10を参照して、図7(C)を参照して説明した画像に対するユーザの操作の振り分けについて説明する。以下では、複数のアプリケーションを操作可能にする2つの方法について説明する。
[第1の受け付け方法(第1例)]
第1の受け付け方法は、各アプリケーションが、操作検出部110から操作を取得するための画像を表示して、最上位レイヤに表示する方法である。
図8は、第1の受け付け方法において、複数の画像と、画像に対して行われる操作との関係を示す模式図である。
図8において、制御部160は、写真アルバムアプリケーションAP11と、メニュー制御ソフトウエアAP12と、手書きツールアプリケーションAP13とを実行している。ここで、写真アルバムアプリケーションAP11、メニュー制御ソフトウエアAP12、及び手書きツールアプリケーションAP13とは、それぞれ、以上で説明してきた写真アルバムアプリケーション、メニュー制御ソフトウエア、及び手書きツールアプリケーションである。制御部160は、写真アルバムアプリケーションが表示する写真画像PAP11を下位の第1レイヤに表示する。また、制御部160は、手書きツールアプリケーションAP13が表示するキャンバス画像PWを第1レイヤの上位のレイヤである第2レイヤに表示する。また、制御部160は、メニュー制御ソフトウエアAP12が表示する共有機能アプリケーション画像PMB1と、手書きツールアプリケーションAP13が表示する手書きツール画像PDBとを第2レイヤのさらに上位のレイヤである第3レイヤに表示する。
操作検出部110は、最上位レイヤである第3レイヤに対するユーザの操作を検出する。具体的には、操作検出部110は、表示部100におけるユーザの操作位置を検出する。次に、操作検出部110は、表示部100におけるユーザの操作位置に表示されている画像を表示しているアプリケーションに、入力された操作を振り分ける。図8に示される例において、第3レイヤには、共有メニューボタンPMB1と、手書きツール画像PDBとが表示されている。従って、操作検出部110は、表示部100において、共有メニューボタンPMB1が表示されている領域に対するユーザの操作を受け付けると、共有メニューボタンPMB1を表示するメニュー制御ソフトウエアAP12に受け付けた操作を出力する。そして、メニュー制御ソフトウエアAP12は、操作検出部110から取得した操作に応じた処理を行う。
また、表示部100において、手書きツール画像PDBが表示されている領域に対するユーザの操作を受け付けると、手書きツール画像PDBを表示する手書きツールアプリケーションAP13に受け付けた操作を出力する。そして、手書きツールアプリケーションAP13は、操作検出部110から取得した操作に応じた処理を行う。これにより、端末装置10は、メニュー制御ソフトウエアAP12と、手書きツールアプリケーションAP13との2つのアプリケーションに対する操作を受け付けることができる。
ここで、図9を参照して、操作検出部110が検出したユーザの操作のアプリケーションへの振り分け方法について説明する。
図9は、操作検出部110が検出した操作の振り分け規則を示す振り分けテーブルの一例である。この振り分けテーブルは、端末装置10が備える記憶部に記憶されている。
図示するように、振り分けテーブルは、行と列からなる二次元の表形式のデータであり、アプリケーション識別情報(アプリケーション名称)と、画像識別情報(画像ID)と、左上座標情報(左上座標)と、右下座標情報(右下座標)と、レイヤ情報(レイヤ)との各項目の列を有している。振り分けテーブルの各行は、画像ごとに存在する。ここでは一例として、図9に示される振り分けテーブルが扱う画像が矩形の画像である場合について説明する。
アプリケーション識別情報は、アプリケーションを識別する識別情報である。振り分けテーブルにおいて、アプリケーション識別情報は、画像を表示するアプリケーションを示す情報である。
画像識別情報は、画像を識別する識別情報である。
左上座標情報と、右下座標情報とは、表示部100における画像の位置を表す情報である。左上座標情報と、右下座標情報とは、それぞれ、表示部100のXY二次元座標系における座標値により表される。左上座標情報は、画像の左上の点の座標値を表す。右下座標情報は、画像の右下の点の座標値を表す。つまり、左上座標情報と右下座標情報とにより特定される矩形の領域は、レイヤにおいて画像が占める領域を表す。
レイヤ情報は、画像が表示されるレイヤを示す情報である。
操作検出部110は、タッチパネルにより、ユーザの指又は指示棒の接触が行われた位置を検出すると、振り分けテーブルを参照して、検出した位置を示す位置情報をアプリケーションに振り分ける。具体的には、まず、操作検出部110は、振り分けテーブルのレイヤ情報に基づいて、最上位レイヤの画像を検索する。次に、操作検出部110は、検索された画像の左上座標情報及び右下座標情報と、位置情報とを比較して、検出した位置に表示されている画像を識別する画像識別情報を検索する。次に、操作検出部110は、検索した画像識別情報に対応付けられているアプリケーション識別情報を取得する。換言すると、操作検出部110は、検出した位置に表示されている画像を表示するアプリケーションを検索する。そして、操作検出部110は、取得したアプリケーション識別情報が示すアプリケーションに、位置情報を出力する。これにより、操作検出部110は、操作位置に応じて、操作をアプリケーションに振り分けることができる。
なお、上述の例では、操作検出部110は、タッチパネルにより検出した位置情報をアプリケーションに振り分ける態様について説明したが、操作の振り分け方法はこれには限られない。ここで、別の態様として、アプリケーションが、操作検出部110が検出した位置情報が示す位置において、自アプリケーションが表示する画像が最上位レイヤに表示されているか否かを判定する態様について説明する。まず、操作検出部110は、検出した位置情報を端末装置10において実行されている複数のアプリケーションに出力する。次に、アプリケーションは、取得した位置情報が示す位置において、自アプリケーションが表示する画像が最上位レイヤに表示されているか否かを判定する。そして、アプリケーションは、自アプリケーションが表示した画像が最上位レイヤに表示されている場合に、操作に応じた処理を実行する。
[第2の受け付け方法]
第2の受け付け方法は、最上位のレイヤに表示される画像を表示するアプリケーションが操作検出部110から取得した操作を、下位のレイヤに表示される画像を表示するアプリケーションに受け渡す方法である。
図10は、第2の受け付け方法において、複数の画像と、画像に対して行われる操作との関係を示す模式図である。
図10において、制御部160は、写真アルバムアプリケーションAP11と、メニュー制御ソフトウエアAP12と、手書きツールアプリケーションAP13と、ショートカットアプリケーションAP14と、を実行している。ここで、ショートカットアプリケーションAP14とは、共有メニューボタン画像PMB2を表示するアプリケーションである。共有メニューボタン画像PMB2は、共有メニューボタン画像PMB0へのショートカットを提供する。換言すると、ショートカットアプリケーションAP14は、自アプリケーションが取得した操作をメニュー制御ソフトウエアへと出力する。
制御部160は、写真アルバムアプリケーションが表示する写真画像PAP11を下位の第1レイヤに表示する。また、制御部160は、メニュー制御ソフトウエアAP12が表示する共有メニューボタンPMB0を第1レイヤの上位レイヤである第2レイヤに表示する。また、手書きツールアプリケーションAP13が表示するキャンバス画像PWを第2レイヤの上位のレイヤである第3レイヤに表示する。また、制御部160は、ショートカットアプリケーションAP14が表示する共有機能アプリケーション画像PMB2と、手書きツールアプリケーションAP13が表示する手書きツール画像PDBとを第3レイヤのさらに上位のレイヤである第4レイヤに表示する。
操作検出部110は、最上位レイヤである第4レイヤに対するユーザの操作を検出する。具体的には、操作検出部110は、表示部100におけるユーザの操作位置を検出する。次に、操作検出部110は、表示部100におけるユーザの操作位置に表示されている画像を表示しているアプリケーションに、入力された操作を振り分ける。図10に示される例において、第4レイヤには、共有メニューボタンPMB2と、手書きツール画像PDBとが表示されている。従って、操作検出部110は、表示部100において、共有メニューボタンPMB2が表示されている領域に対するユーザの操作を受け付けると、共有メニューボタンPMB2を表示するショートカットアプリケーションAP14に受け付けた操作を出力する。次に、ショートカットアプリケーションAP14は、操作検出部110から取得した操作を、メニュー制御ソフトウエアAP12に出力する。そして、メニュー制御ソフトウエアAP12は、ショートカットアプリケーションAP14から取得した操作に応じた処理を行う。例えば、メニュー制御ソフトウエアAP14は、ランチャー画像P20を表示し、最上位レイヤに表示させる。
また、表示部100において、手書きツール画像PDBが表示されている領域に対するユーザの操作を受け付けると、手書きツール画像PDBを表示する手書きツールアプリケーションAP12に受け付けた操作を出力する。そして、手書きツールアプリケーションAP13は、操作検出部110から取得した操作に応じた処理を行う。これにより、端末装置10は、メニュー制御ソフトウエアAP12と、手書きツールアプリケーションAP13との2つのアプリケーションに対する操作を受け付けることができる。
[変形例:タブレット型端末]
なお、これまで端末装置10が、携帯電話やスマートフォンなどである場合を一例にして説明したが、これに限られない。例えば、端末装置10は、タブレットなどの装置であってもよい。ここで、携帯電話やスマートフォンは、耳あて通話用スピーカ131を備えており、耳あて通話が可能である。一方、タブレットは、耳あて通話用スピーカ131を備えていない。すなわち、端末装置10は、耳あて通話用スピーカ131を備えない装置であってもよい。端末装置10がタブレットである場合には、スピーカモードによって通話が行われてもよい。
以上、本発明の実施形態及びその変形を説明したが、これらの実施形態及びその変形は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態及びその変形は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態及びその変形は、発明の範囲や要旨に含まれると同時に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
なお、上述の各装置は内部にコンピュータを有している。そして、上述した各装置の各処理の過程は、プログラムの形式でコンピュータ読み取り可能な記録媒体に記憶されており、このプログラムをコンピュータが読み出して実行することによって、上記処理が行われる。ここでコンピュータ読み取り可能な記録媒体とは、磁気ディスク、光磁気ディスク、CD−ROM、DVD−ROM、半導体メモリ等をいう。また、このコンピュータプログラムを通信回線によってコンピュータに配信し、この配信を受けたコンピュータが当該プログラムを実行するようにしてもよい。
また、上記プログラムは、前述した機能の一部を実現するためのものであってもよい。
さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であってもよい。
1…端末間通信システム、10…端末装置、20…シグナリングサーバ、30…認証サーバ、40…プッシュサーバ、50…中継サーバ、60…中継サーバ

Claims (6)

  1. 表示部と、
    自装置と他装置との間で共有される第1画像の表示を制御する第1表示制御部と、
    前記第1画像の共有を行うか否かの操作メニューを表示するための第1操作ボタン画像の表示を制御する第2表示制御部と、
    自装置と他装置との間で共有される前記第1画像に重畳して表示される第2画像の表示を制御する第3表示制御部と、
    前記第2画像に重畳して、又は前記第2画像と同一階層上に表示される第2操作ボタン画像との表示を制御する第4表示制御部と、
    前記表示部に対する操作を受け付ける操作受付部と、
    を備え、
    前記操作受付部は、前記第2操作ボタン画像への操作を、前記第1操作ボタン画像への操作として受け付ける
    ことを特徴とする端末装置。
  2. 前記第4表示制御部は、前記第1操作ボタン画像に重畳して前記第2操作ボタン画像を表示することにより、前記第1操作ボタン画像を表示させない
    ことを特徴とする請求項1に記載の端末装置。
  3. 表示部と、
    1画像の表示を制御する第1表示制御部と、
    前記第1画像を他装置と共有するか否かの操作メニューを表示するための第1操作ボタン画像の表示を制御する第2表示制御部と、
    記第1画像に重畳して表示される第2画像の表示を制御する第3表示制御部と、
    前記表示部に対する操作を受け付ける操作受付部と、
    を備え、
    前記第2表示制御部は、前記第1操作ボタン画像を前記第2画像に重畳して、又は前記第2画像と同一階層上に表示し、
    前記操作受付部は、前記第1操作ボタン画像に対する操作を受け付ける
    ことを特徴とする端末装置。
  4. 前記第2画像とは、前記操作受付部が受け付ける操作の軌跡に応じて描画される画像である
    ことを特徴とする請求項1から請求項3のいずれか一項に記載の端末装置。
  5. 表示部と、第1画像の表示を制御する第1表示制御部と、前記第1画像を他装置と共有するか否かの操作メニューを表示するための第1操作ボタン画像の表示を制御する第2表示制御部と、前記第1画像に重畳して表示される第2画像の表示を制御する第3表示制御部と、前記表示部に対する操作を受け付ける操作受付部と、を備える端末装置における操作受付方法であって、
    前記第2表示制御部が、前記第1操作ボタン画像を前記第2画像に重畳して、又は前記第2画像と同一階層上に表示する第1ステップと、
    前記操作受付部が、前記第1操作ボタン画像に対する操作を受け付ける第2ステップと、
    を含むことを特徴とする操作受付方法。
  6. 表示部と、第1画像の表示を制御する第1表示制御部と、前記第1画像を他装置と共有するか否かの操作メニューを表示するための第1操作ボタン画像の表示を制御する第2表示制御部と、前記第1画像に重畳して表示される第2画像の表示を制御する第3表示制御部と、前記表示部に対する操作を受け付ける操作受付部と、を備える端末装置に、
    前記第2表示制御部が、前記第1操作ボタン画像を前記第2画像に重畳して、又は前記第2画像と同一階層上に表示する第1ステップ、
    前記操作受付部が、前記第1操作ボタン画像に対する操作を受け付ける第2ステップ、
    を実行させるためのプログラム。
JP2014201957A 2014-09-30 2014-09-30 端末装置、操作受付方法、及びプログラム Expired - Fee Related JP6059699B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014201957A JP6059699B2 (ja) 2014-09-30 2014-09-30 端末装置、操作受付方法、及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014201957A JP6059699B2 (ja) 2014-09-30 2014-09-30 端末装置、操作受付方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2016071723A JP2016071723A (ja) 2016-05-09
JP6059699B2 true JP6059699B2 (ja) 2017-01-11

Family

ID=55866980

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014201957A Expired - Fee Related JP6059699B2 (ja) 2014-09-30 2014-09-30 端末装置、操作受付方法、及びプログラム

Country Status (1)

Country Link
JP (1) JP6059699B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6809296B2 (ja) * 2017-03-02 2021-01-06 沖電気工業株式会社 情報処理装置、情報処理システム及びプログラム

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4087203B2 (ja) * 2002-09-20 2008-05-21 株式会社リコー 画面データ管理装置、画面データ管理システム、画面データ管理方法、および画面データ管理プログラム
JP2006164177A (ja) * 2004-12-10 2006-06-22 Ricoh Co Ltd 電子会議システム
JP2009230579A (ja) * 2008-03-24 2009-10-08 Pioneer Electronic Corp 画面共有システム、画面共有方法、サーバ端末制御プログラム、クライアント端末制御プログラムおよび記録媒体
JP5305894B2 (ja) * 2008-12-26 2013-10-02 株式会社東芝 画面共有システム、設定変更方法、クライアント装置、およびプログラム
JP2013239147A (ja) * 2012-04-20 2013-11-28 Ricoh Co Ltd 表示制御装置
KR101973641B1 (ko) * 2012-07-26 2019-04-29 엘지전자 주식회사 이동 단말기 및 이동 단말기의 제어 방법
JP6079069B2 (ja) * 2012-09-05 2017-02-15 コニカミノルタ株式会社 文書表示装置、文書表示端末および文書表示プログラム
JP5838185B2 (ja) * 2013-07-16 2016-01-06 アンデックス株式会社 画像通信プログラム、画像通信方法、および電子機器
JP2015102925A (ja) * 2013-11-22 2015-06-04 シャープ株式会社 手書き画像表示システム、手書き画像表示方法、および、手書き画像表示プログラム

Also Published As

Publication number Publication date
JP2016071723A (ja) 2016-05-09

Similar Documents

Publication Publication Date Title
US11782595B2 (en) User terminal device and control method thereof
US11024003B2 (en) Method and mobile device for displaying image
US9910499B2 (en) System and method for detecting three dimensional gestures to initiate and complete the transfer of application data between networked devices
TWI544428B (zh) 訊息服務系統及用於擴充人員新增操作之方法
JP6092241B2 (ja) ユーザデバイスの間でデータをワイヤレスに共有するためのシステムおよび方法
EP2306307A2 (en) Terminal apparatus, server apparatus, display control method, and program
US10705702B2 (en) Information processing device, information processing method, and computer program
KR102049789B1 (ko) 휴대단말기의 정보 전송장치 및 방법
CN109643288B (zh) 信息处理系统、信息处理方法以及存储介质
JP2014228989A (ja) 携帯端末、表示制御プログラムおよび表示制御方法
KR20120023264A (ko) 휴대단말의 콜 기능 운용 방법 및 장치
EP2660680A1 (en) System and method for enabling collaborative gesture-based sharing of ressources between devices
JP6059699B2 (ja) 端末装置、操作受付方法、及びプログラム
JP6409092B2 (ja) 端末装置、端末間通信方法、および端末装置用プログラム
JP6254067B2 (ja) 端末間通信システム、サーバ、及び端末間通信方法
JP6396754B2 (ja) 端末装置、端末間通信方法、および端末装置用プログラム
JP6081973B2 (ja) 端末間通信システム、端末間通信方法、及び端末間通信プログラム
JP2016072875A (ja) 位置表示システム及び位置表示方法
JP6509917B2 (ja) 端末間通信システム、端末間通信方法、端末間通信プログラム、及び通信サーバ
JP5810824B2 (ja) プログラム、方法、および情報処理装置
JP6499094B2 (ja) 端末装置、情報提供方法、及びコンピュータプログラム
JP6216704B2 (ja) 端末装置、通信方法、及びプログラム
JP2018117394A (ja) 端末間通信システム、サーバ装置、および方法
JP6560134B2 (ja) 端末装置、通信方法、及びプログラム
JP2016072874A (ja) 端末間通信システム、端末間通信方法、および端末装置

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160607

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160804

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20160805

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20161122

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20161209

R150 Certificate of patent or registration of utility model

Ref document number: 6059699

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees