JP2016197325A - コンテンツ表示制御方法、コンテンツ表示制御装置およびコンテンツ表示制御プログラム - Google Patents

コンテンツ表示制御方法、コンテンツ表示制御装置およびコンテンツ表示制御プログラム Download PDF

Info

Publication number
JP2016197325A
JP2016197325A JP2015076822A JP2015076822A JP2016197325A JP 2016197325 A JP2016197325 A JP 2016197325A JP 2015076822 A JP2015076822 A JP 2015076822A JP 2015076822 A JP2015076822 A JP 2015076822A JP 2016197325 A JP2016197325 A JP 2016197325A
Authority
JP
Japan
Prior art keywords
display control
content display
window frame
control method
content
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015076822A
Other languages
English (en)
Other versions
JP6524762B2 (ja
Inventor
桂樹 岡林
Keiju Okabayashi
桂樹 岡林
彬 陳
Akira Chin
彬 陳
賀彦 村川
Yoshihiko Murakawa
賀彦 村川
安川 裕介
Yusuke Yasukawa
裕介 安川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2015076822A priority Critical patent/JP6524762B2/ja
Priority to US15/085,667 priority patent/US20160291804A1/en
Publication of JP2016197325A publication Critical patent/JP2016197325A/ja
Application granted granted Critical
Publication of JP6524762B2 publication Critical patent/JP6524762B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/30Authentication, i.e. establishing the identity or authorisation of security principals
    • G06F21/31User authentication
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04845Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range for image manipulation, e.g. dragging, rotation, expansion or change of colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • G06V40/28Recognition of hand or arm movements, e.g. recognition of deaf sign language
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/048Indexing scheme relating to G06F3/048
    • G06F2203/04803Split screen, i.e. subdividing the display area or the window area into separate subareas
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/451Execution arrangements for user interfaces
    • G06F9/452Remote windowing, e.g. X-Window System, desktop virtualisation
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2354/00Aspects of interface with display user
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/14Display of multiple viewports

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Computer Security & Cryptography (AREA)
  • Social Psychology (AREA)
  • Psychiatry (AREA)
  • Multimedia (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Hardware Design (AREA)
  • Software Systems (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】クライアント端末とディスプレイとのコンテンツ表示連携におけるユーザビリティを向上させる。
【解決手段】コンテンツ表示制御装置が、コンテンツの配信元のクライアント端末を検出し、ディスプレイ上におけるユーザのタッチ操作を検出し、検出した前記タッチ操作の軌跡に基づいてウィンドウ枠を推定し、推定した前記ウィンドウ枠をユーザ操作に基づいて前記クライアント端末と対応付け、前記ウィンドウ枠に前記クライアント端末から配信されるコンテンツを表示する処理を実行する。
【選択図】図1

Description

本発明は、コンテンツ表示制御方法、コンテンツ表示制御装置およびコンテンツ表示制御プログラムに関する。
一般のウィンドウシステムでは、ユーザがアプリケーション(アプリケーションプログラム、アプリ)の開始を指示すると、画面上の既定の位置にウィンドウが表示され、アプリケーションのコンテンツが表示される。
近年、プロジェクタやディスプレイの性能向上により、空間のあらゆる場所がディスプレイとして使用されるようになりつつあり、そのような環境においては、どのディスプレイのどの位置にどのくらいの大きさのウィンドウを表示するかが重要となる。
例えば、ユーザが、手持ちのスマートフォン等のクライアント端末のアプリケーションから、部屋内に予め設置された複数のディスプレイの一つにアプリ画面を表示したいとする。この場合、デフォルトとしてあるディスプレイのある位置が選択されてしまうと、ユーザの意図するよりも遠いディスプレイにウィンドウが表示されてしまうかもしれない。この場合、ユーザは遠くのディスプレイから、意図するディスプレイの意図する位置にウィンドウを移動させる操作を行う必要がある。ウィンドウの大きさについても、ウィンドウの端をドラッグしてサイズを調整するなどの操作を行う必要がある。
このような煩わしい操作を避けるため、ユーザの意図するウィンドウの領域をシステムが推定することが望まれるが、ユーザの意図を自動的に推定することは一般には難しい。
特開2013−130915号公報 特開2001−5599号公報
上述したように、ウィンドウを表示可能な領域の自由度が高い場合、システムはウィンドウを表示する適切な領域を推定することが望まれるが、従来、ユーザビリティの良い手法は存在しなかった。
そこで、開示の形態は、一側面として、クライアント端末とディスプレイとのコンテンツ表示連携におけるユーザビリティの向上を目的とする。
開示の形態は、コンテンツ表示制御装置が、コンテンツの配信元のクライアント端末を検出し、ディスプレイ上におけるユーザのタッチ操作を検出し、検出した前記タッチ操作の軌跡に基づいてウィンドウ枠を推定し、推定した前記ウィンドウ枠をユーザ操作に基づいて前記クライアント端末と対応付け、前記ウィンドウ枠に前記クライアント端末から配信されるコンテンツを表示する処理を実行する。
開示の形態は、クライアント端末とディスプレイとのコンテンツ表示連携におけるユーザビリティの向上を図ることができる。
一実施形態にかかるシステムの構成例を示す図である。 ディスプレイの構成例を示す図である。 操作検出部の構成例を示す図である。 全体的な処理例を示すフローチャートである。 操作検出部の第1の処理例のフローチャートである。 操作および表示の例を示す図である。 ウィンドウ枠の推定の処理例を示す図である。 操作検出部の第2の処理例のフローチャートである。 手書きのサインの例を示す図である。 操作検出部の第3の処理例のフローチャートである。 開始円の表示の変化の例を示す図である。 軌跡の評価、開始円の調整の処理例を示すフローチャートである。 シンボルの例を示す図である。 枠らしさおよび開始円の大きさの計算の例を示す図である。 操作検出部の第4の処理例のフローチャートである。 図形の推定と決定の例を示す図である。 図形の推定の処理例を示す図である。 操作検出部の第5の処理例のフローチャートである。 図形の推定と決定の例を示す図である。 操作検出部の第6の処理例のフローチャートである。 キャンセル領域の例を示す図である。 キャンセルの他の例を示す図である。 承認とキャンセルを選択させる例を示す図である。 終了時の速度によりキャンセルを判断する例を示す図である。
以下、本発明の好適な実施形態につき説明する。
<構成>
図1は一実施形態にかかるシステムの構成例を示す図である。図1において、会議室等の施設の壁面等には、ディスプレイ1が設けられている。図示の例では、ディスプレイ1を3個としているが、1個以上の任意の数とすることができる。ディスプレイ1は、映像信号を入力して画面表示を行うとともに、ユーザの指やペンなどによるタッチ操作を検出してタッチされた座標を含むセンサ信号を出力する機能を有している。
図2はディスプレイ1の構成例を示す図である。図2(a)は、表示パネル11の前面にタッチパネル12が設けられるタイプを示しており、表示パネル11は映像信号を入力して画面表示を行い、タッチパネル12はユーザによるタッチ操作を検出してセンサ信号を出力する。図2(b)は、プロジェクタ14とセンサ15が設けられるタイプを示しており、プロジェクタ14は映像信号を入力してスクリーン13に映像投影を行い、センサ15はユーザの指などによるスクリーン13へのタッチ操作を検出してセンサ信号を出力する。
図1に戻り、ディスプレイ1には、このディスプレイ1の画面表示を制御する制御装置2が接続されている。また、制御装置2はアクセスポイント3に接続されている。
制御装置2は、表示制御部21と操作検出部22と対応付け処理部23と端末管理・通信部24とを備えている。表示制御部21は、ディスプレイ1に映像信号を出力し、画面表示を制御する機能を有している。特に、表示制御部21は、ユーザによりディスプレイ1上で指示されたウィンドウ枠に、ウィンドウIDと端末IDとの対応付けに従い、クライアント端末4から配信されるコンテンツを表示する制御を行う。
操作検出部22は、ディスプレイ1からのセンサ信号に基づき、ユーザのタッチ操作を検出し、ユーザ操作(指示)を検出する機能を有している。特に、操作検出部22は、ユーザによるディスプレイ1上でのウィンドウ枠の位置・大きさ等の指示を検出する。対応付け処理部23は、操作検出部22により検出されたユーザ指示のウィンドウ枠について、端末管理・通信部24により近傍に存在することが確認されているクライアント端末4と対応付けを行う機能を有している。端末管理・通信部24は、アクセスポイント3を介してクライアント端末4の存在を検出し、必要に応じてチェックイン(ログイン)等の処理を行い、クライアント端末4との間で通信を行う機能を有している。
クライアント端末4は、アプリケーション部41と特定操作イベント送信部42とコンテンツ送信部43とを備えている。アプリケーション部41は、任意のアプリケーション(アプリケーションプログラム、アプリ)を実行する機能を有している。特定操作イベント送信部42は、ユーザ指示のウィンドウ枠とクライアント端末4とを対応付けるのに特定の操作(例えば、クライアント端末4をシェイクする操作。シェイクとは、クライアント端末4を手で振ること。)を用いる場合に、その特定の操作が行われたことを制御装置2に対してイベントとして送信する機能を有している。コンテンツ送信部43は、ディスプレイ1のウィンドウに表示するコンテンツを制御装置2に対して送信する機能を有している。
なお、クライアント端末4から制御装置2にコンテンツを送信するのに代え、クライアント端末4のアプリケーションを制御装置2に転送し、制御装置2でアプリケーションをクライアント端末4側と同期実行させ、直接にコンテンツを得ることができる。この場合、アクセスポイント3を介したコンテンツの伝送が不要となるため、遅延なく表示を行うことができる。
なお、制御装置2およびクライアント端末4は一般的なコンピュータ装置のハードウェア構成を有している。すなわち、制御装置2およびクライアント端末4は、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)、NVRAM(Non-Volatile Random Access Memory)、補助記憶装置、無線インタフェース等を備えている。
図3は制御装置2の操作検出部22の構成例を示す図である。図3において、操作検出部22は、タッチ位置検出部221とタッチ運動計測部222とタッチ運動解析・描画指示部223とを備えている。
タッチ位置検出部221は、ディスプレイ1からのセンサ信号に基づいてタッチ位置(座標)を検出する機能を有している。タッチ運動計測部222は、タッチ位置検出部221により検出されたタッチ位置からタッチ運動(軌跡等)を計測する機能を有している。タッチ運動解析・描画指示部223は、タッチ運動計測部222により計測されたタッチ運動を解析し、表示制御部21に対して、描画指示を与えるとともに、ウィンドウ枠の指示の操作である場合にウィンドウ描画イベントを与える機能を有している。また、タッチ運動解析・描画指示部223は、対応付け処理部23に対してウィンドウ描画イベントの発生を通知する。
<全体的な処理>
図4は上記の実施形態における全体的な処理例を示すフローチャートである。図4において、制御装置2の端末管理・通信部24は、アクセスポイント3を介してクライアント端末4を検出すると(ステップS1のyes)、チェックイン済でない場合(ステップS2のno)、ユーザID、パスワード等の提示を求めるチェックイン処理を行う(ステップS3)。
その後、制御装置2の対応付け処理部23は、操作検出部22からウィンドウ描画イベントの発生の通知を受けると(ステップS4のyes)、予め設定された所定時間内にクライアント端末4の特定操作イベント送信部42から端末管理・通信部24を介して所定の操作(例えば、シェイク)が行われたか否か確認する(ステップS5)。
所定の操作が行われた場合(ステップS5のyes)、対応付け処理部23は、ウィンドウ描画イベントにかかるウィンドウIDと、所定の操作が行われたクライアント端末4の端末IDを対応付け、表示制御部21に設定する(ステップS6)。これにより、表示制御部21は、クライアント端末4のコンテンツ送信部43から受信したコンテンツを該当するウィンドウIDのウィンドウに表示する。
また、ウィンドウ枠の指示の操作における手書きの図形の角や辺の数を予めユーザと対応付けて登録しておくことで、シェイク等の特定の操作を行わずに対応付けを行うこともできる。
この場合、制御装置2の対応付け処理部23は、操作検出部22からウィンドウ描画イベントの発生の通知を受けると(ステップS7のyes)、軌跡から取得した角または辺の数に基づき、手書きの図形の角や辺の数に対応するユーザのクライアント端末4がチェックイン済であるか否か確認する(ステップS8)。
チェックイン済である場合(ステップS8のyes)、対応付け処理部23は、ウィンドウ描画イベントにかかるウィンドウIDと、角または辺の数に対応するユーザがチェックインしているクライアント端末4の端末IDを対応付け、表示制御部21に設定する(ステップS9)。これにより、表示制御部21は、クライアント端末4のコンテンツ送信部43から受信したコンテンツを該当するウィンドウIDのウィンドウに表示する。
また、ユーザの手書きのサイン(署名)の軌跡を予め登録しておき、ウィンドウ枠の指示の操作においてユーザにより描画されたサインを用いてユーザを認証することもできる。この場合、予めユーザの使用するクライアント端末4の端末IDを登録しておくか、シェイク等の所定の操作を行わせることにより、サインインと、ウィンドウIDと端末IDの対応付けとを同時に行うことができる。
<操作検出部の処理>
[第1の処理例]
図5は制御装置2の操作検出部22の第1の処理例のフローチャートである。図5において、操作検出部22は、処理を開始すると、ディスプレイ1のセンサ信号からタッチ位置を取り込み(ステップS101)、座標の変化によりユーザがドラッグ(タッチ位置を滑らす操作)を開始したか否か判断する(ステップS102)。
ドラッグを開始したと判断した場合(ステップS102のyes)、操作検出部22は、ドラッグを開始した位置を中心とした開始円を描画する(ステップS103)。この開始円は、ドラッグのゴールをユーザに示すものであり、円に限らず、任意の閉じた図形であればよい。また、このような図形が表示されることで、他のポインティング操作とウィンドウ表示指示操作とを区別することができる。図6(a)は、ドラッグ開始位置101を中心に開始円102が描画された状態の例を示している。
次いで、図5に戻り、操作検出部22は、ディスプレイ1のセンサ信号からタッチ位置を取り込み(ステップS104)、軌跡を描画する(ステップS105)。なお、軌跡の描画は行わなくてもよい。図6(b)は、軌跡が描画された状態の例を示している。
次いで、図5に戻り、操作検出部22は、ドラッグを継続しているか否か判断し(ステップS106)、ドラッグを継続していると判断した場合(ステップS106のyes)はタッチ位置の取り込み(ステップS104)に戻る。
ドラッグを継続していないと判断した場合(ステップS106のno)、操作検出部22は、ドラッグが途切れた場所を確認し(ステップS107)、開始円に入っているか否か判断する(ステップS108)。
開始円に入っていると判断した場合(ステップS108のyes)、操作検出部22は、ウィンドウ枠の推定を行う(ステップS109)。図6(c)は、ドラッグが途切れた位置104が開始円102に入っている状態の例を示している。
図7はウィンドウ枠の推定の処理例を示す図であり、ウィンドウ枠を上下辺が水平な矩形に限定し、ユーザがドラッグした軌跡に最も近い矩形をウィンドウ枠と推定するようにしたものである。図7(a)に示すような軌跡103で推定を開始したとすると、図7(b)に示すように、軌跡103とのズレ(各辺と直角方向のズレ)の二乗和が最小となるような矩形105を算出し、図7(c)のような図形を推定する。なお、最小二乗法による推定について説明したが、その他に、軌跡とのズレの総和が最小となるような矩形を求めてもよい。また、軌跡に内接する矩形と外接する矩形とを求め、その中間の矩形に推定することもできる。更に、ユーザがドラッグした軌跡に最も近い幾何学形状(多角形、円等)の図形を推定し、それから矩形を推定することもできるし、ウィンドウ枠として許容する場合は、幾何学形状の図形をそのままウィンドウ枠として推定してもよい。ドラッグした図形の角や辺の数からユーザを識別する場合には、ユーザがドラッグした軌跡から、許容される図形を推定する際に角や辺の数を取得する。
図5に戻り、操作検出部22は、ウィンドウ枠の推定を行うと、ウィンドウ描画イベントを上位の表示制御部21に通知し(ステップS110)、開始円および軌跡(描画した場合)を消去し(ステップS111)、処理を終了する。
ドラッグが途切れた場所が開始円に入っていないと判断した場合(ステップS108のno)、推定等は行わず、開始円および軌跡(描画した場合)を消去し(ステップS111)、処理を終了する。従って、ドラッグが開始円に到達する前にウィンドウ枠の指示を変更したい場合、ドラッグを中断することで実質的にキャンセルが行われ、続けてドラッグを行えば、ステップS101から処理が再び行われる。図6(d)は、破線で示した開始円と軌跡が消去され、新たに開始円102と軌跡103が描画された状態の例を示している。
[第2の処理例]
この処理例は、ユーザがウィンドウ枠を指示する操作を行う際に、ユーザを識別・認証するためのサインの入力を行えるようにしたものである。その他は第1の処理例と同様である。
図8は制御装置2の操作検出部22の第2の処理例のフローチャートである。図8において、操作検出部22は、処理を開始すると、ディスプレイ1のセンサ信号からタッチ位置を取り込み(ステップS201)、座標の変化によりユーザがドラッグ(タッチ位置を滑らす操作)を開始したか否か判断する(ステップS202)。
ドラッグを開始したと判断した場合(ステップS202のyes)、操作検出部22は、ドラッグを開始した位置を中心とした開始円を描画する(ステップS203)。
次いで、操作検出部22は、ディスプレイ1のセンサ信号からタッチ位置を取り込み(ステップS204)、軌跡を描画する(ステップS205)。なお、軌跡の描画は行わなくてもよい。
次いで、操作検出部22は、ドラッグを継続しているか否か判断し(ステップS206)、ドラッグを継続していると判断した場合(ステップS206のyes)はタッチ位置の取り込み(ステップS204)に戻る。
ドラッグを継続していないと判断した場合(ステップS206のno)、操作検出部22は、ドラッグが途切れた場所を確認し(ステップS207)、開始円に入っているか否か判断する(ステップS208)。
開始円に入っていると判断した場合(ステップS208のyes)、操作検出部22は、タイマを起動し(ステップS209)、所定時間が経過するまで待機する(ステップS210)。なお、この所定時間はユーザがウィンドウ枠の中にサインをするために設けた時間であり、サインの軌跡を取得するためにタッチ位置の取り込みおよび軌跡の描画は継続する。
所定時間が経過した場合(ステップS210のyes)、操作検出部22は、ウィンドウ枠の推定を行い(ステップS211)、ウィンドウ描画イベントを表示制御部21に通知する(ステップS212)。この際、サインの有無と、サインがある場合はサインの軌跡を通知に含める。表示制御部21に通知されたサインの軌跡は、予めユーザに対応付けて登録されたサインの軌跡と照合され、認証に用いられる。図9は手書きのサインの例を示す図であり、軌跡が開始円に入って途切れた後に、枠の中にサインが描画された状態の例を示している。
次いで、図8に戻り、操作検出部22は、開始円、軌跡(描画した場合)、サイン(サインされた場合)を消去し(ステップS213)、処理を終了する。ドラッグが途切れた場所が開始円に入っていないと判断した場合(ステップS208のno)、推定等は行わず、描画内容を消去し(ステップS213)、処理を終了する。
[第3の処理例]
この処理例は、ユーザがドラッグした軌跡からウィンドウ枠が推定できる「枠らしさ」(所定の図形と把握される可能性)を評価し、その評価に応じて開始円の大きさを調整するものである。すなわち、軌跡の描画が進んでウィンドウ枠が推定できる状態になった場合は、当初の大きさの開始円までドラッグを続けなくても操作を完了できるようにして、時間を節約できるようにしたものである。その他は第1の処理例と同様である。
図10は制御装置2の操作検出部22の第3の処理例のフローチャートである。図10において、操作検出部22は、処理を開始すると、ディスプレイ1のセンサ信号からタッチ位置を取り込み(ステップS301)、座標の変化によりユーザがドラッグ(タッチ位置を滑らす操作)を開始したか否か判断する(ステップS302)。
ドラッグを開始したと判断した場合(ステップS302のyes)、操作検出部22は、ドラッグを開始した位置を中心とした開始円を描画する(ステップS303)。
次いで、操作検出部22は、ディスプレイ1のセンサ信号からタッチ位置を取り込み(ステップS304)、軌跡を描画する(ステップS305)。なお、軌跡の描画は行わなくてもよい。
次いで、操作検出部22は、軌跡の評価を行い、開始円の大きさの調整を行う(ステップS306)。図11は開始円の表示の変化の例を示す図であり、図11(a)はドラッグを開始した直後であるが、例えば矩形に推定する場合、3辺を描画したことで枠らしさの評価が大きくなって、図11(b)のように開始円が大きくなり、更に描画を進めることで図11(c)のように開始円が更に大きくなる。なお、軌跡の評価および開始円の大きさの調整の詳細については後述する。
次いで、図10に戻り、操作検出部22は、ドラッグを継続しているか否か判断し(ステップS307)、ドラッグを継続していると判断した場合(ステップS307のyes)はタッチ位置の取り込み(ステップS304)に戻る。
ドラッグを継続していないと判断した場合(ステップS307のno)、操作検出部22は、ドラッグが途切れた場所を確認し(ステップS308)、開始円に入っているか否か判断する(ステップS309)。
開始円に入っていると判断した場合(ステップS309のyes)、操作検出部22は、ウィンドウ枠の推定を行う(ステップS310)。
次いで、操作検出部22は、ウィンドウ描画イベントを表示制御部21に通知し(ステップS311)、開始円および軌跡(描画した場合)を消去し(ステップS312)、処理を終了する。
ドラッグが途切れた場所が開始円に入っていないと判断した場合(ステップS309のno)、推定等は行わず、開始円および軌跡(描画した場合)を消去する(ステップS312)。
図12は軌跡の評価、開始円の調整の処理例を示すフローチャートである。図12において、操作検出部22は、これまでの軌跡から観測シンボルを生成する(ステップS321)。図13(a)は観測シンボルの例を示しており、[d,o,o,o]が観測シンボル列となる。dはドラッグの開始点(pen down)を示している。o,o,oは、図13(d)に示すような軌跡の移動方向に応じて定められたシンボルである。すなわち、oは右方向、oは下方向、oは左方向に対応する。
次いで、図12に戻り、操作検出部22は、これからの軌跡を予測して予測シンボルを生成する(ステップS322)。より具体的には、例えば、最後に観測されたシンボルの若干うしろから始点に向けて直線でつなぎ、その直線上に予測シンボルを生成する。図13(b)は予測シンボルの例を示しており、[o,u]が予測シンボル列となる。uはドラッグの終了点(pen up)を示している。oは、図13(d)の定義に従うものであり、左斜め上方向に対応する。
次いで、図12に戻り、操作検出部22は、観測シンボルと予測シンボルから補完シンボルを生成する(ステップS323)。図13(c)に補完シンボル列の例を示しており、図13(a)(b)の例からは[d,o,o,o,o,u]が補完シンボル列となる。
次いで、図12に戻り、操作検出部22は、補完シンボルを用いて、HMM(Hidden Markov Model、隠れマルコフモデル)に基づいて枠らしさを計算する(ステップS324)。図14は枠らしさおよび開始円の大きさの計算の例を示す図である。図14(a)において、vl(i)は、i番目のシンボルを観測したときに状態がl(エル)にいる確率を示している。状態は、推定する図形が矩形で左上から右回りにドラッグする場合(sは軌跡の起点、eは軌跡の終点)、図14(c)に示すように、上辺にいる状態がπ、右辺にいる状態がπ、下辺にいる状態がπ、左辺にいる状態がπとなる。また、図14(a)において、el(xi)は、状態lにいるときにシンボルxiが観測される確率であり、観測確率表として予め設定されたものとして与えられる。aklは、状態kから状態lへの遷移確率であり、状態遷移確率表として予め設定されたものとして与えられる。max[]は、括弧内の要素について最大の要素の値を抽出することを示す。枠らしさは、vl(i)について、i=0からi=Nまで再帰的計算をすることにより求まるvu(N)となる。
次いで、図12に戻り、操作検出部22は、枠らしさに基づいて開始円の大きさを調整する(ステップS325)。図14(b)は開始円の半径rの計算式の例を示しており、図14(a)で求めたvu(N)の対数と、運用で定める値THの対数との比を、最大半径rmaxに乗じることで求めている。
[第3の処理例の変形例]
上述した第3の処理例では、「枠らしさ」の評価により開始円(開始閉図形)の大きさを調整したが、その他に次のような変形が可能である。
一例として、描かれている軌跡を連続的に評価し、軌跡の進む方向が開始閉図形に向いた場合に、現在の軌跡の位置と開始閉図形との間の距離に応じて開始閉図形の大きさを調整する。これにより、枠の作図の時間を短縮することができる。
また、他の例として、描かれている図形について角の数をカウントし、角の数に応じて開始閉図形の大きさを調整する。すなわち、軌跡の角の数が増えるに従って推定できる可能性が高まるため、開始閉図形を大きくして、軌跡の描画を早期に終了させることができる。
[第4の処理例]
この処理例は、ユーザがドラッグを開始(描画開始)した際に開始円等の閉図形を表示せず、ドラッグの過程でウィンドウ枠の図形を推定できるか確認し、推定できる場合に候補図形を表示し、ユーザの確認を経て確定させるようにしたものである。
図15は制御装置2の操作検出部22の第4の処理例のフローチャートである。図15において、操作検出部22は、処理を開始すると、取り込んだタッチ位置の座標の変化によりユーザが描画を開始したか否か判断する(ステップS401)。
描画を開始したと判断した場合(ステップS401のyes)、操作検出部22は、描画点を蓄積し(ステップS402)、蓄積された描画点から図形を推定できるか否か判断する(ステップS403)。図形を推定できるか否か判断は、例えば、図12〜図14に示した枠らしさの評価と同様の手法を用いることができる。なお、図形が推定できる場合であっても、図形の面積が所定値より小さい場合には、描画のミスと考えられるため、推定できないと判断することができる。
図形を推定できないと判断した場合(ステップS403のno)、操作検出部22は、描画点の蓄積(ステップS402)に戻る。
図形を推定できると判断した場合(ステップS403のyes)、操作検出部22は、蓄積された描画点から図形を推定して描画する(ステップS404)。図16(a)はユーザが描画をしている状態を示し、図16(b)は図形を推定して候補図形を描画した状態を示している。また、図17は図形の推定手法の例を示しており、図17(a)は候補図形と軌跡とのズレdの総和が最小となる候補図形に推定する例である。図17(b)は軌跡に内接する矩形と外接する矩形とを求め、その中間の矩形に推定する例である。
次いで、図15に戻り、操作検出部22は、描画された候補図形についてユーザが決定したかどうか判断する(ステップS405)。ユーザの決定は、例えば、タッチの解除(ディスプレイから指等を離す)がある。
描画された候補図形についてユーザが決定したと判断した場合(ステップS405のyes)、操作検出部22は、ウィンドウ描画イベントを表示制御部21に通知し、描画内容の消去等を行い(ステップS406)、処理を終了する。なお、候補図形についてはウィンドウが描画されるまで表示したままとしてもよい。図16(c)は候補図形が表示されている状態を示している。
[第5の処理例]
この処理例は、ユーザが描画を終了しない場合、図形の推定を続けるようにしたものである。その他は第4の処理例と同様である。
図18は制御装置2の操作検出部22の第5の処理例のフローチャートである。図18において、操作検出部22は、処理を開始すると、取り込んだタッチ位置の座標の変化によりユーザが描画を開始したか否か判断する(ステップS501)。
描画を開始したと判断した場合(ステップS501のyes)、操作検出部22は、描画点を蓄積し(ステップS502)、蓄積された描画点から図形を推定できるか否か判断する(ステップS503)。
図形を推定できないと判断した場合(ステップS503のno)、操作検出部22は、描画点の蓄積(ステップS502)に戻る。
図形を推定できると判断した場合(ステップS503のyes)、操作検出部22は、蓄積された描画点から図形を推定して候補図形を描画する(ステップS504)。
次いで、操作検出部22は、ユーザが描画を終了したかどうか判断する(ステップS505)。
描画が終了していないと判断した場合(ステップS505のno)、操作検出部22は、描画点の蓄積(ステップS502)に戻る。図19(a)はユーザが描画をしている状態を示し、図19(b)は図形を推定し候補図形を描画した状態を示している。また、図19(c)は描画が終了していない場合に、ユーザの描画に応じて推定をやり直し、候補図形が変化した状態を示している。
図18に戻り、描画が終了したと判断した場合(ステップS505のyes)、操作検出部22は、ウィンドウ描画イベントを表示制御部21に通知し、描画内容の消去等を行い(ステップS506)、処理を終了する。
[第6の処理例]
この処理例は、推定された図形についてユーザが納得しなかった場合にキャンセルできるようにしたものである。その他は第5の処理例と同様である。
図20は制御装置2の操作検出部22の第6の処理例のフローチャートである。図20において、操作検出部22は、処理を開始すると、取り込んだタッチ位置の座標の変化によりユーザが描画を開始したか否か判断する(ステップS601)。
描画を開始したと判断した場合(ステップS601のyes)、操作検出部22は、描画点を蓄積し(ステップS602)、蓄積された描画点から図形を推定できるか否か判断する(ステップS603)。
図形を推定できないと判断した場合(ステップS603のno)、操作検出部22は、描画点の蓄積(ステップS602)に戻る。
図形を推定できると判断した場合(ステップS603のyes)、操作検出部22は、蓄積された描画点から図形を推定して候補図形を描画する(ステップS604)。
次いで、操作検出部22は、ユーザが描画を終了したかどうか判断する(ステップS605)。
描画が終了していないと判断した場合(ステップS605のno)、操作検出部22は、描画点の蓄積(ステップS602)に戻る。
描画が終了したと判断した場合(ステップS605のyes)、操作検出部22は、終了位置がキャンセル領域であるか否か判断する(ステップS606)。図21(a)は推定された図形の中央部に「キャンセル」領域が表示された状態を示しており、図21(b)は描画を「キャンセル」領域で終了した状態を示している。
次いで、図20に戻り、終了位置がキャンセル領域でないと判断した場合(ステップS606のno)、操作検出部22は、ウィンドウ描画イベントを表示制御部21に通知し、描画内容の消去を行い(ステップS607)、処理を終了する。
終了位置がキャンセル領域であると判断した場合(ステップS606のyes)、操作検出部22は、描画内容の消去等を行い(ステップS608)、処理を終了する。
図22はキャンセルの他の例を示す図である。図22(a)に示すように軌跡が交差する場合、図22(b)に示すように推定した図形または外接図形を4分割した領域のいずれで交差が生じているか判断する。そして、それが始点と異なる分割領域である場合(始点から遠いところで交差している場合)にキャンセルが行われたと判断する。ユーザはキャンセルしようとした場合、図形をグジャグジャと描く、あるいはバツを描くことが心理的に推定される。この際、描画済みの軌跡が描画開始位置と離れたところで交差することが予想され、ユーザの直感に近い操作法により、タッチを離さずに簡易にキャンセル操作を行うことができる。
図23は承認とキャンセルを選択させる例を示す図である。図23(a)はユーザが描画をしている状態を示し、図23(b)は図形を推定し候補図形を描画した状態を示している。この際、図23(c)に示すように、「承認」ボタンと「キャンセル」ボタンを表示し、ユーザが選択できるようにする。
図24は終了時の速度によりキャンセルを判断する例を示す図である。すなわち、ユーザが描画を終了した時点の軌跡の速度を求め、それが所定値を超える場合にキャンセルと判断する。
<総括>
以上説明したように、本実施形態によれば、クライアント端末とディスプレイとのコンテンツ表示連携におけるユーザビリティの向上を図ることができる。
以上、好適な実施の形態により説明した。ここでは特定の具体例を示して説明したが、特許請求の範囲に定義された広範な趣旨および範囲から逸脱することなく、これら具体例に様々な修正および変更を加えることができることは明らかである。すなわち、具体例の詳細および添付の図面により限定されるものと解釈してはならない。
制御装置2はコンテンツ表示制御装置の一例である。端末管理・通信部24はクライアント端末を検出する手段の一例である。操作検出部22はタッチ操作を検出する手段の一例である。操作検出部22はウィンドウ枠を推定する手段の一例である。対応付け処理部23はクライアント端末と対応付ける手段の一例である。表示制御部21はコンテンツを表示する手段の一例である。
以上の説明に関し、更に以下の項を開示する。
(付記1) コンテンツ表示制御装置が、
コンテンツの配信元のクライアント端末を検出し、
ディスプレイ上におけるユーザのタッチ操作を検出し、
検出した前記タッチ操作の軌跡に基づいてウィンドウ枠を推定し、
推定した前記ウィンドウ枠をユーザ操作に基づいて前記クライアント端末と対応付け、
前記ウィンドウ枠に前記クライアント端末から配信されるコンテンツを表示する
処理を実行することを特徴とするコンテンツ表示制御方法。
(付記2) 付記1に記載のコンテンツ表示制御方法において、
前記コンテンツ表示制御装置が、
前記タッチ操作によりドラッグが開始された場合に、該ドラッグの開始位置に閉図形を表示し、
前記タッチ操作によるドラッグが途切れずに前記閉図形内で終了した場合に、前記ウィンドウ枠を推定する
処理を実行することを特徴とするコンテンツ表示制御方法。
(付記3) 付記2に記載のコンテンツ表示制御方法において、
前記コンテンツ表示制御装置が、
前記タッチ操作の軌跡から角または辺の数を取得し、
取得した角または辺の数に基づいて前記ユーザを識別する
処理を実行することを特徴とするコンテンツ表示制御方法。
(付記4) 付記2に記載のコンテンツ表示制御方法において、
前記コンテンツ表示制御装置が、
前記タッチ操作によるドラッグが途切れずに前記閉図形内で終了した場合に、所定時間の待機を行い、
待機の後に、サインの有無の確認およびサインがある場合のサインの軌跡の取得を行い、
取得したサインの軌跡に基づいて前記ユーザを識別する
処理を実行することを特徴とするコンテンツ表示制御方法。
(付記5) 付記2乃至4のいずれか一項に記載のコンテンツ表示制御方法において、
前記コンテンツ表示制御装置が、
前記ドラッグの開始から前記閉図形内で軌跡が終了するまでの間、所定の図形と把握される可能性を評価し、
該評価に基づいて前記閉図形の大きさを調整する
処理を実行することを特徴とするコンテンツ表示制御方法。
(付記6) 付記2乃至4のいずれか一項に記載のコンテンツ表示制御方法において、
前記コンテンツ表示制御装置が、
前記ドラッグの開始から前記閉図形内で軌跡が終了するまでの間、軌跡を連続的に評価し、軌跡の進む方向が前記閉図形に向いた場合に、前記閉図形との距離に応じて前記閉図形の大きさを調整する
処理を実行することを特徴とするコンテンツ表示制御方法。
(付記7) 付記2乃至4のいずれか一項に記載のコンテンツ表示制御方法において、
前記コンテンツ表示制御装置が、
前記ドラッグの開始から前記閉図形内で軌跡が終了するまでの間、軌跡の角の数をカウントし、角の数に応じて前記閉図形の大きさを調整する
処理を実行することを特徴とするコンテンツ表示制御方法。
(付記8) 付記1に記載のコンテンツ表示制御方法において、
前記コンテンツ表示制御装置が、
前記タッチ操作に基づいてウィンドウ枠を推定できた時点で推定したウィンドウ枠を表示し、
ユーザの決定操作によりウィンドウ枠を確定する
処理を実行することを特徴とするコンテンツ表示制御方法。
(付記9) 付記8に記載のコンテンツ表示制御方法において、
前記コンテンツ表示制御装置が、
前記決定操作が行われるまで、前記タッチ操作に基づくウィンドウ枠の推定を継続する
処理を実行することを特徴とするコンテンツ表示制御方法。
(付記10) 付記8または9のいずれか一項に記載のコンテンツ表示制御方法において、
前記コンテンツ表示制御装置が、
前記ドラッグが終了した位置がキャンセル領域である場合に、推定をキャンセルしてウィンドウ枠を消去する
処理を実行することを特徴とするコンテンツ表示制御方法。
(付記11) 付記8または9のいずれか一項に記載のコンテンツ表示制御方法において、
前記コンテンツ表示制御装置が、
前記ドラッグが交差した位置がドラッグの開始位置から離れた位置である場合に、推定をキャンセルしてウィンドウ枠を消去する
処理を実行することを特徴とするコンテンツ表示制御方法。
(付記12) 付記8または9のいずれか一項に記載のコンテンツ表示制御方法において、
前記コンテンツ表示制御装置が、
前記ドラッグが終了した時点で承認またはキャンセルの選択肢を表示し、承認が選択された場合はウィンドウ枠を確定し、キャンセルが選択された場合は推定をキャンセルしてウィンドウ枠を消去する
処理を実行することを特徴とするコンテンツ表示制御方法。
(付記13) 付記8または9のいずれか一項に記載のコンテンツ表示制御方法において、
前記コンテンツ表示制御装置が、
前記ドラッグが終了した際の描画の速度が所定値よりも速い場合に、推定をキャンセルしてウィンドウ枠を消去する
処理を実行することを特徴とするコンテンツ表示制御方法。
(付記14) コンテンツの配信元のクライアント端末を検出する手段と、
ディスプレイ上におけるユーザのタッチ操作を検出する手段と、
検出した前記タッチ操作の軌跡に基づいてウィンドウ枠を推定する手段と、
推定した前記ウィンドウ枠をユーザ操作に基づいて前記クライアント端末と対応付ける手段と、
前記ウィンドウ枠に前記クライアント端末から配信されるコンテンツを表示する手段と
を備えたことを特徴とするコンテンツ表示制御装置。
(付記15) 付記14に記載のコンテンツ表示制御装置において、
前記タッチ操作によりドラッグが開始された場合に、該ドラッグの開始位置に閉図形を表示する手段と、
前記タッチ操作によるドラッグが途切れずに前記閉図形内で終了した場合に、前記ウィンドウ枠を推定する手段と
を備えたことを特徴とするコンテンツ表示制御装置。
(付記16) 付記15に記載のコンテンツ表示制御装置において、
前記タッチ操作の軌跡から角または辺の数を取得する手段と、
取得した角または辺の数に基づいて前記ユーザを識別する手段と
を備えたことを特徴とするコンテンツ表示制御装置。
(付記17) 付記15に記載のコンテンツ表示制御装置において、
前記タッチ操作によるドラッグが途切れずに前記閉図形内で終了した場合に、所定時間の待機を行う手段と、
待機の後に、サインの有無の確認およびサインがある場合のサインの軌跡の取得を行う手段と、
取得したサインの軌跡に基づいて前記ユーザを識別する手段と
を備えたことを特徴とするコンテンツ表示制御装置。
(付記18) 付記15乃至17のいずれか一項に記載のコンテンツ表示制御装置において、
前記ドラッグの開始から前記閉図形内で軌跡が終了するまでの間、所定の図形と把握される可能性を評価する手段と、
該評価に基づいて前記閉図形の大きさを調整する手段と
を備えたことを特徴とするコンテンツ表示制御装置。
(付記19) 付記15乃至17のいずれか一項に記載のコンテンツ表示制御装置において、
前記ドラッグの開始から前記閉図形内で軌跡が終了するまでの間、軌跡を連続的に評価し、軌跡の進む方向が前記閉図形に向いた場合に、前記閉図形との距離に応じて前記閉図形の大きさを調整する手段
を備えたことを特徴とするコンテンツ表示制御装置。
(付記20) 付記15乃至17のいずれか一項に記載のコンテンツ表示制御装置において、
前記ドラッグの開始から前記閉図形内で軌跡が終了するまでの間、軌跡の角の数をカウントし、角の数に応じて前記閉図形の大きさを調整する手段
を備えたことを特徴とするコンテンツ表示制御装置。
(付記21) 付記14に記載のコンテンツ表示制御装置において、
前記タッチ操作に基づいてウィンドウ枠を推定できた時点で推定したウィンドウ枠を表示する手段と、
ユーザの決定操作によりウィンドウ枠を確定する手段と
を備えたことを特徴とするコンテンツ表示制御装置。
(付記22) 付記21に記載のコンテンツ表示制御装置において、
前記決定操作が行われるまで、前記タッチ操作に基づくウィンドウ枠の推定を継続する手段
を備えたことを特徴とするコンテンツ表示制御装置。
(付記23) 付記21または22のいずれか一項に記載のコンテンツ表示制御装置において、
前記ドラッグが終了した位置がキャンセル領域である場合に、推定をキャンセルしてウィンドウ枠を消去する手段
を備えたことを特徴とするコンテンツ表示制御装置。
(付記24) 付記21または22のいずれか一項に記載のコンテンツ表示制御装置において、
前記ドラッグが交差した位置がドラッグの開始位置から離れた位置である場合に、推定をキャンセルしてウィンドウ枠を消去する手段
を備えたことを特徴とするコンテンツ表示制御装置。
(付記25) 付記21または22のいずれか一項に記載のコンテンツ表示制御装置において、
前記ドラッグが終了した時点で承認またはキャンセルの選択肢を表示し、承認が選択された場合はウィンドウ枠を確定し、キャンセルが選択された場合は推定をキャンセルしてウィンドウ枠を消去する手段
を備えたことを特徴とするコンテンツ表示制御装置。
(付記26) 付記21または22のいずれか一項に記載のコンテンツ表示制御装置において、
前記ドラッグが終了した際の描画の速度が所定値よりも速い場合に、推定をキャンセルしてウィンドウ枠を消去する手段
を備えたことを特徴とするコンテンツ表示制御装置。
(付記27) コンピュータに、
コンテンツの配信元のクライアント端末を検出し、
ディスプレイ上におけるユーザのタッチ操作を検出し、
検出した前記タッチ操作の軌跡に基づいてウィンドウ枠を推定し、
推定した前記ウィンドウ枠をユーザ操作に基づいて前記クライアント端末と対応付け、
前記ウィンドウ枠に前記クライアント端末から配信されるコンテンツを表示する
処理を実行させるコンテンツ表示制御プログラム。
(付記28) 付記27に記載のコンテンツ表示制御プログラムにおいて、
前記コンピュータに、
前記タッチ操作によりドラッグが開始された場合に、該ドラッグの開始位置に閉図形を表示し、
前記タッチ操作によるドラッグが途切れずに前記閉図形内で終了した場合に、前記ウィンドウ枠を推定する
処理を実行させるコンテンツ表示制御プログラム。
(付記29) 付記28に記載のコンテンツ表示制御プログラムにおいて、
前記コンピュータに、
前記タッチ操作の軌跡から角または辺の数を取得し、
取得した角または辺の数に基づいて前記ユーザを識別する
処理を実行させるコンテンツ表示制御プログラム。
(付記30) 付記28に記載のコンテンツ表示制御プログラムにおいて、
前記コンピュータに、
前記タッチ操作によるドラッグが途切れずに前記閉図形内で終了した場合に、所定時間の待機を行い、
待機の後に、サインの有無の確認およびサインがある場合のサインの軌跡の取得を行い、
取得したサインの軌跡に基づいて前記ユーザを識別する
処理を実行させるコンテンツ表示制御プログラム。
(付記31) 付記28乃至30のいずれか一項に記載のコンテンツ表示制御プログラムにおいて、
前記コンピュータに、
前記ドラッグの開始から前記閉図形内で軌跡が終了するまでの間、所定の図形と把握される可能性を評価し、
該評価に基づいて前記閉図形の大きさを調整する
処理を実行させるコンテンツ表示制御プログラム。
(付記32) 付記28乃至30のいずれか一項に記載のコンテンツ表示制御プログラムにおいて、
前記コンピュータに、
前記ドラッグの開始から前記閉図形内で軌跡が終了するまでの間、軌跡を連続的に評価し、軌跡の進む方向が前記閉図形に向いた場合に、前記閉図形との距離に応じて前記閉図形の大きさを調整する
処理を実行させるコンテンツ表示制御プログラム。
(付記33) 付記28乃至30のいずれか一項に記載のコンテンツ表示制御プログラムにおいて、
前記コンピュータに、
前記ドラッグの開始から前記閉図形内で軌跡が終了するまでの間、軌跡の角の数をカウントし、角の数に応じて前記閉図形の大きさを調整する
処理を実行させるコンテンツ表示制御プログラム。
(付記34) 付記27に記載のコンテンツ表示制御プログラムにおいて、
前記コンピュータに、
前記タッチ操作に基づいてウィンドウ枠を推定できた時点で推定したウィンドウ枠を表示し、
ユーザの決定操作によりウィンドウ枠を確定する
処理を実行させるコンテンツ表示制御プログラム。
(付記35) 付記34に記載のコンテンツ表示制御プログラムにおいて、
前記コンピュータに、
前記決定操作が行われるまで、前記タッチ操作に基づくウィンドウ枠の推定を継続する
処理を実行させるコンテンツ表示制御プログラム。
(付記36) 付記34または35のいずれか一項に記載のコンテンツ表示制御プログラムにおいて、
前記コンピュータに、
前記ドラッグが終了した位置がキャンセル領域である場合に、推定をキャンセルしてウィンドウ枠を消去する
処理を実行させるコンテンツ表示制御プログラム。
(付記37) 付記34または35のいずれか一項に記載のコンテンツ表示制御プログラムにおいて、
前記コンピュータに、
前記ドラッグが交差した位置がドラッグの開始位置から離れた位置である場合に、推定をキャンセルしてウィンドウ枠を消去する
処理を実行させるコンテンツ表示制御プログラム。
(付記38) 付記34または35のいずれか一項に記載のコンテンツ表示制御プログラムにおいて、
前記コンピュータに、
前記ドラッグが終了した時点で承認またはキャンセルの選択肢を表示し、承認が選択された場合はウィンドウ枠を確定し、キャンセルが選択された場合は推定をキャンセルしてウィンドウ枠を消去する
処理を実行させるコンテンツ表示制御プログラム。
(付記39) 付記34または35のいずれか一項に記載のコンテンツ表示制御プログラムにおいて、
前記コンピュータに、
前記ドラッグが終了した際の描画の速度が所定値よりも速い場合に、推定をキャンセルしてウィンドウ枠を消去する
処理を実行させるコンテンツ表示制御プログラム。
1 ディスプレイ
11 表示パネル
12 タッチパネル
13 スクリーン
14 プロジェクタ
15 センサ
2 制御装置
21 表示制御部
22 操作検出部
221 タッチ位置検出部
222 タッチ運動計測部
223 タッチ運動解析・描画指示部
23 対応付け処理部
24 端末管理・通信部
3 アクセスポイント
4 クライアント端末
41 アプリケーション部
42 特定操作イベント送信部
43 コンテンツ送信部

Claims (15)

  1. コンテンツ表示制御装置が、
    コンテンツの配信元のクライアント端末を検出し、
    ディスプレイ上におけるユーザのタッチ操作を検出し、
    検出した前記タッチ操作の軌跡に基づいてウィンドウ枠を推定し、
    推定した前記ウィンドウ枠をユーザ操作に基づいて前記クライアント端末と対応付け、
    前記ウィンドウ枠に前記クライアント端末から配信されるコンテンツを表示する
    処理を実行することを特徴とするコンテンツ表示制御方法。
  2. 請求項1に記載のコンテンツ表示制御方法において、
    前記コンテンツ表示制御装置が、
    前記タッチ操作によりドラッグが開始された場合に、該ドラッグの開始位置に閉図形を表示し、
    前記タッチ操作によるドラッグが途切れずに前記閉図形内で終了した場合に、前記ウィンドウ枠を推定する
    処理を実行することを特徴とするコンテンツ表示制御方法。
  3. 請求項2に記載のコンテンツ表示制御方法において、
    前記コンテンツ表示制御装置が、
    前記タッチ操作の軌跡から角または辺の数を取得し、
    取得した角または辺の数に基づいて前記ユーザを識別する
    処理を実行することを特徴とするコンテンツ表示制御方法。
  4. 請求項2に記載のコンテンツ表示制御方法において、
    前記コンテンツ表示制御装置が、
    前記タッチ操作によるドラッグが途切れずに前記閉図形内で終了した場合に、所定時間の待機を行い、
    待機の後に、サインの有無の確認およびサインがある場合のサインの軌跡の取得を行い、
    取得したサインの軌跡に基づいて前記ユーザを識別する
    処理を実行することを特徴とするコンテンツ表示制御方法。
  5. 請求項2乃至4のいずれか一項に記載のコンテンツ表示制御方法において、
    前記コンテンツ表示制御装置が、
    前記ドラッグの開始から前記閉図形内で軌跡が終了するまでの間、所定の図形と把握される可能性を評価し、
    該評価に基づいて前記閉図形の大きさを調整する
    処理を実行することを特徴とするコンテンツ表示制御方法。
  6. 請求項2乃至4のいずれか一項に記載のコンテンツ表示制御方法において、
    前記コンテンツ表示制御装置が、
    前記ドラッグの開始から前記閉図形内で軌跡が終了するまでの間、軌跡を連続的に評価し、軌跡の進む方向が前記閉図形に向いた場合に、前記閉図形との距離に応じて前記閉図形の大きさを調整する
    処理を実行することを特徴とするコンテンツ表示制御方法。
  7. 請求項2乃至4のいずれか一項に記載のコンテンツ表示制御方法において、
    前記コンテンツ表示制御装置が、
    前記ドラッグの開始から前記閉図形内で軌跡が終了するまでの間、軌跡の角の数をカウントし、角の数に応じて前記閉図形の大きさを調整する
    処理を実行することを特徴とするコンテンツ表示制御方法。
  8. 請求項1に記載のコンテンツ表示制御方法において、
    前記コンテンツ表示制御装置が、
    前記タッチ操作に基づいてウィンドウ枠を推定できた時点で推定したウィンドウ枠を表示し、
    ユーザの決定操作によりウィンドウ枠を確定する
    処理を実行することを特徴とするコンテンツ表示制御方法。
  9. 請求項8に記載のコンテンツ表示制御方法において、
    前記コンテンツ表示制御装置が、
    前記決定操作が行われるまで、前記タッチ操作に基づくウィンドウ枠の推定を継続する
    処理を実行することを特徴とするコンテンツ表示制御方法。
  10. 請求項8または9のいずれか一項に記載のコンテンツ表示制御方法において、
    前記コンテンツ表示制御装置が、
    前記ドラッグが終了した位置がキャンセル領域である場合に、推定をキャンセルしてウィンドウ枠を消去する
    処理を実行することを特徴とするコンテンツ表示制御方法。
  11. 請求項8または9のいずれか一項に記載のコンテンツ表示制御方法において、
    前記コンテンツ表示制御装置が、
    前記ドラッグが交差した位置がドラッグの開始位置から離れた位置である場合に、推定をキャンセルしてウィンドウ枠を消去する
    処理を実行することを特徴とするコンテンツ表示制御方法。
  12. 請求項8または9のいずれか一項に記載のコンテンツ表示制御方法において、
    前記コンテンツ表示制御装置が、
    前記ドラッグが終了した時点で承認またはキャンセルの選択肢を表示し、承認が選択された場合はウィンドウ枠を確定し、キャンセルが選択された場合は推定をキャンセルしてウィンドウ枠を消去する
    処理を実行することを特徴とするコンテンツ表示制御方法。
  13. 請求項8または9のいずれか一項に記載のコンテンツ表示制御方法において、
    前記コンテンツ表示制御装置が、
    前記ドラッグが終了した際の描画の速度が所定値よりも速い場合に、推定をキャンセルしてウィンドウ枠を消去する
    処理を実行することを特徴とするコンテンツ表示制御方法。
  14. コンテンツの配信元のクライアント端末を検出する手段と、
    ディスプレイ上におけるユーザのタッチ操作を検出する手段と、
    検出した前記タッチ操作の軌跡に基づいてウィンドウ枠を推定する手段と、
    推定した前記ウィンドウ枠をユーザ操作に基づいて前記クライアント端末と対応付ける手段と、
    前記ウィンドウ枠に前記クライアント端末から配信されるコンテンツを表示する手段と
    を備えたことを特徴とするコンテンツ表示制御装置。
  15. コンピュータに、
    コンテンツの配信元のクライアント端末を検出し、
    ディスプレイ上におけるユーザのタッチ操作を検出し、
    検出した前記タッチ操作の軌跡に基づいてウィンドウ枠を推定し、
    推定した前記ウィンドウ枠をユーザ操作に基づいて前記クライアント端末と対応付け、
    前記ウィンドウ枠に前記クライアント端末から配信されるコンテンツを表示する
    処理を実行させるコンテンツ表示制御プログラム。
JP2015076822A 2015-04-03 2015-04-03 コンテンツ表示制御方法、コンテンツ表示制御装置およびコンテンツ表示制御プログラム Active JP6524762B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2015076822A JP6524762B2 (ja) 2015-04-03 2015-04-03 コンテンツ表示制御方法、コンテンツ表示制御装置およびコンテンツ表示制御プログラム
US15/085,667 US20160291804A1 (en) 2015-04-03 2016-03-30 Display control method and display control device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015076822A JP6524762B2 (ja) 2015-04-03 2015-04-03 コンテンツ表示制御方法、コンテンツ表示制御装置およびコンテンツ表示制御プログラム

Publications (2)

Publication Number Publication Date
JP2016197325A true JP2016197325A (ja) 2016-11-24
JP6524762B2 JP6524762B2 (ja) 2019-06-05

Family

ID=57017189

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015076822A Active JP6524762B2 (ja) 2015-04-03 2015-04-03 コンテンツ表示制御方法、コンテンツ表示制御装置およびコンテンツ表示制御プログラム

Country Status (2)

Country Link
US (1) US20160291804A1 (ja)
JP (1) JP6524762B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021077181A (ja) * 2019-11-12 2021-05-20 富士ゼロックス株式会社 情報処理装置及びプログラム

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI627561B (zh) * 2017-08-03 2018-06-21 Window frame measuring method
JP7354702B2 (ja) * 2019-09-05 2023-10-03 富士通株式会社 表示制御方法、表示制御プログラムおよび情報処理装置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004272835A (ja) * 2003-03-12 2004-09-30 Nippon Telegr & Teleph Corp <Ntt> 画面表示方法,画面表示装置,画面表示プログラム,および画面表示プログラムを記録した記録媒体
JP2010044600A (ja) * 2008-08-13 2010-02-25 Konami Digital Entertainment Co Ltd ユーザ識別装置、ユーザ識別方法、ならびに、プログラム
JP2011108103A (ja) * 2009-11-19 2011-06-02 Tokai Rika Co Ltd 表示装置
JP2013235366A (ja) * 2012-05-08 2013-11-21 Nippon Telegr & Teleph Corp <Ntt> 一筆書き図形方向検出装置
JP2014143660A (ja) * 2012-12-26 2014-08-07 Sharp Corp 携帯端末、表示装置、テレビジョン受像機、無線通信システム

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7886236B2 (en) * 2003-03-28 2011-02-08 Microsoft Corporation Dynamic feedback for gestures
US7454717B2 (en) * 2004-10-20 2008-11-18 Microsoft Corporation Delimiters for selection-action pen gesture phrases
US7636794B2 (en) * 2005-10-31 2009-12-22 Microsoft Corporation Distributed sensing techniques for mobile devices
US20090106667A1 (en) * 2007-10-19 2009-04-23 International Business Machines Corporation Dividing a surface of a surface-based computing device into private, user-specific areas
US8024775B2 (en) * 2008-02-20 2011-09-20 Microsoft Corporation Sketch-based password authentication
US20090262069A1 (en) * 2008-04-22 2009-10-22 Opentv, Inc. Gesture signatures
US20090300554A1 (en) * 2008-06-03 2009-12-03 Nokia Corporation Gesture Recognition for Display Zoom Feature
US9292731B2 (en) * 2009-12-30 2016-03-22 Intel Corporation Gesture-based signature authentication
WO2012040827A2 (en) * 2010-10-01 2012-04-05 Smart Technologies Ulc Interactive input system having a 3d input space
US9164648B2 (en) * 2011-09-21 2015-10-20 Sony Corporation Method and apparatus for establishing user-specific windows on a multi-user interactive table
TW201415291A (zh) * 2012-10-08 2014-04-16 Pixart Imaging Inc 基於物件追蹤的手勢辨識方法及系統
US8914751B2 (en) * 2012-10-16 2014-12-16 Google Inc. Character deletion during keyboard gesture
EP2979477B1 (en) * 2013-03-29 2020-07-08 Orange Method to unlock a screen using a touch input
US9612740B2 (en) * 2013-05-06 2017-04-04 Barnes & Noble College Booksellers, Inc. Swipe-based delete confirmation for touch sensitive devices
KR20150080995A (ko) * 2014-01-03 2015-07-13 삼성전자주식회사 외부 입력 장치를 갖는 전자장치에서 윈도우 제공 방법 및 장치
US9449166B2 (en) * 2014-12-05 2016-09-20 Intel Corporation Performing authentication based on user shape manipulation

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004272835A (ja) * 2003-03-12 2004-09-30 Nippon Telegr & Teleph Corp <Ntt> 画面表示方法,画面表示装置,画面表示プログラム,および画面表示プログラムを記録した記録媒体
JP2010044600A (ja) * 2008-08-13 2010-02-25 Konami Digital Entertainment Co Ltd ユーザ識別装置、ユーザ識別方法、ならびに、プログラム
JP2011108103A (ja) * 2009-11-19 2011-06-02 Tokai Rika Co Ltd 表示装置
JP2013235366A (ja) * 2012-05-08 2013-11-21 Nippon Telegr & Teleph Corp <Ntt> 一筆書き図形方向検出装置
JP2014143660A (ja) * 2012-12-26 2014-08-07 Sharp Corp 携帯端末、表示装置、テレビジョン受像機、無線通信システム

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021077181A (ja) * 2019-11-12 2021-05-20 富士ゼロックス株式会社 情報処理装置及びプログラム
CN112925464A (zh) * 2019-11-12 2021-06-08 富士胶片商业创新有限公司 信息处理装置、记录介质及信息处理方法
JP7380103B2 (ja) 2019-11-12 2023-11-15 富士フイルムビジネスイノベーション株式会社 情報処理装置及びプログラム

Also Published As

Publication number Publication date
JP6524762B2 (ja) 2019-06-05
US20160291804A1 (en) 2016-10-06

Similar Documents

Publication Publication Date Title
JP5906345B1 (ja) 操作履歴に基づいてタッチ対象を予測するプログラム、電子装置、システム及び制御方法
US9547391B2 (en) Method for processing input and electronic device thereof
JP5779641B2 (ja) 情報処理装置、方法およびプログラム
US20180314294A1 (en) Information processing apparatus, information processing method, and program
JP6332833B2 (ja) 画像処理システム、画像処理方法、及びプログラム
JP5921835B2 (ja) 入力装置
US20150253925A1 (en) Display control device, display control method and program
JP2005321964A (ja) タッチパネル付き入力装置
JP2012027515A (ja) 入力方法及び入力装置
WO2017185459A1 (zh) 一种图标移动方法以及装置
JP6524762B2 (ja) コンテンツ表示制御方法、コンテンツ表示制御装置およびコンテンツ表示制御プログラム
JP2007172303A (ja) 情報入力システム
JP5618554B2 (ja) 情報入力装置、情報入力方法及びプログラム
US20140365931A1 (en) Mouse cursor control method and apparatus
US10901549B2 (en) Program, computer apparatus, program execution method, and system
US20140168106A1 (en) Apparatus and method for processing handwriting input
CN105607832B (zh) 一种信息处理方法及电子设备
CN104991726A (zh) 一种对长图片进行移动操作的控制方法及控制装置
JP2013109538A (ja) 入力方法及び入力装置
JP6042753B2 (ja) 端末装置及び操作ロック解除方法
JP7102996B2 (ja) プログラム、情報処理装置及び筆跡入力判定方法
JP5676959B2 (ja) 情報処理装置及びその制御方法
US10466799B2 (en) Information processing apparatus, information processing method, and program
US20170131824A1 (en) Information processing apparatus, information processing method, and information processing program
US20240143084A1 (en) Control apparatus and control method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180115

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180925

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180919

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181119

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20181211

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190307

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20190314

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190409

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190422

R150 Certificate of patent or registration of utility model

Ref document number: 6524762

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150