JP2014123929A - 無線による画面表示制御方法及びシステム - Google Patents

無線による画面表示制御方法及びシステム Download PDF

Info

Publication number
JP2014123929A
JP2014123929A JP2012280370A JP2012280370A JP2014123929A JP 2014123929 A JP2014123929 A JP 2014123929A JP 2012280370 A JP2012280370 A JP 2012280370A JP 2012280370 A JP2012280370 A JP 2012280370A JP 2014123929 A JP2014123929 A JP 2014123929A
Authority
JP
Japan
Prior art keywords
touch position
position coordinates
display control
previous
operated device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012280370A
Other languages
English (en)
Other versions
JP5331935B1 (ja
Inventor
Junya Enomoto
淳也 榎本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Individual
Original Assignee
Individual
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Individual filed Critical Individual
Priority to JP2012280370A priority Critical patent/JP5331935B1/ja
Priority to PCT/JP2013/052283 priority patent/WO2014097650A1/ja
Application granted granted Critical
Publication of JP5331935B1 publication Critical patent/JP5331935B1/ja
Publication of JP2014123929A publication Critical patent/JP2014123929A/ja
Priority to US14/591,247 priority patent/US20150149957A1/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/0485Scrolling or panning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/038Control and interface arrangements therefor, e.g. drivers or device-embedded control circuitry
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/038Indexing scheme relating to G06F3/038
    • G06F2203/0384Wireless input, i.e. hardware and software details of wireless interface arrangements for pointing devices

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Details Of Television Systems (AREA)
  • Selective Calling Equipment (AREA)
  • Telephone Function (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】無線通信環境において、操作装置で発生した操作イベントに基づいて、被操作装置における画面表示制御を行わせる場合に、操作装置における操作と被操作装置における表示との間の遅延を減少させる。
【解決手段】操作装置で行われた操作に基づくデータを無線通信で被操作装置に送信することにより当該被操作装置の画面表示制御を行う方法において、操作装置のタッチパネルで行われる1回のフリック操作により発生する複数の操作イベントから一定時間N毎にタッチ位置座標を抜き出して被操作装置に送信するステップと、被操作装置が、操作装置から一定時間N毎に受信するタッチ位置座標に基づいて画面のスクロール表示制御を実行するステップとを備える。
【選択図】図1

Description

本発明は、操作装置が無線通信により被操作装置の画面表示を操作する方法に関する。
特許文献1には、無線LANを通じて、携帯電話(操作装置)から液晶テレビ(被操作装置)を操作する技術が記載されている(同文献の段落0035)。この場合、ユーザの感覚としては、操作装置に対して行った操作が即、被操作装置の動作に反映されることが望まれる。操作装置における操作と、被操作装置における動作との間に知覚できるタイムラグが存在すれば、ユーザは、操作性の悪さを実感することになる。
一方近年、入力インターフェースとしてタッチパネル(タッチスクリーン)を備えた電子機器が急速に普及し、当該タッチパネルに特有の操作として、フリック操作が可能となっている。フリック操作とは、タッチパネル上で、指やタッチペン等をスライドさせる操作であり、タッチパネル上にタップダウン(タッチダウン)した指等をスライドさせた後タップアップ(タッチアップ)する操作である。当該フリック操作は、タッチパネルの表示をスクロールさせる場合等に行われる。
例えば、操作装置においてタッチパネルに表示された画面をスクロールさせるためにフリック操作を行うと、当該操作装置のプログラム処理において多数のタッチイベントが発生する。この操作装置側のタッチイベントに基づいて、被操作装置の画面でも同様の画面スクロールを生じるように表示制御をするとき、操作装置で生じたタッチイベントのすべてをそのまま被操作装置に送信すると、通信及び情報処理のデータ量が増加し、被操作装置側の表示制御にユーザが知覚可能な遅延を生じる。また、無線通信環境では、通信中にデータをロストする可能性も比較的高く、当該ロストにより被操作装置側の表示制御に遅延を生じる場合がある。
特開2011−86232号公報
本発明は、かかる従来例の有する不都合を改善し、特に、無線通信環境において、操作装置で発生した操作イベントに基づいて、被操作装置における画面表示制御を行わせる場合に、操作装置における操作と被操作装置における表示との間の遅延を減少させることを課題とする。
上記課題を解決するため、本発明は以下の構成を採る。
(1)操作装置で行われた操作に基づくデータを無線通信で被操作装置に送信することにより当該被操作装置の画面表示制御を行う方法において、
前記操作装置のタッチパネルで行われる1回のフリック操作により発生する複数の操作イベントから一定時間N毎にタッチ位置座標を抜き出して前記被操作装置に送信するステップと、
前記被操作装置が、前記操作装置から一定時間N毎に受信するタッチ位置座標に基づいて画面のスクロール表示制御を実行するステップとを備えた、
無線による画面表示制御方法。
(2)前記被操作装置は、前記タッチ位置座標を前記一定時間N毎に受信できなかった場合、当該受信できなかった今回のタッチ位置座標を、前回以前のタッチ位置座標に基づいて予測する(1)に記載の無線による画面表示制御方法。
本発明によれば、無線通信環境において、操作装置で発生した操作イベントに基づいて、被操作装置における画面表示制御を行わせる場合に、1回のフリック操作により発生する複数の操作イベントから一定時間N毎にタッチ位置座標を抜き出して前記被操作装置に送信するので、操作装置における操作と被操作装置における表示との間の遅延を減少させることができる。
本発明の実施形態を示すシステム構成図 図1に示す操作アプリのフローチャート 図1に示す表示制御アプリのフローチャート 図2及び図3に示す動作の説明図 実施形態の適用例を示すシステム構成図 図5に示すシステムの説明図 図5及び図6に示す操作装置SPのブロック構成図 図5及び図6に示す視聴装置SKのブロック構成図
以下、本発明の実施形態を図面を参照して説明する。図1において、操作装置SPは、無線ネットワークとしてのWi-Fiネットワークを通じて被操作装置SKと通信する。
操作装置SPは、プログラムを実行することにより種々の処理を実行する処理装置(プロセッサ)と、当該処理装置が処理に用いる情報の書き込みと読み出しを行う記憶装置と、無線ネットワークを介して被操作装置SKとの通信を行う通信装置とを備えている。また、操作装置SPは、タッチパネル式の表示装置及び入力装置を備えている。
同様に、被操作装置SKも、プログラムを実行することにより種々の処理を実行する処理装置(プロセッサ)と、当該処理装置が処理に用いる情報の書き込みと読み出しを行う記憶装置と、無線ネットワークを介して操作装置SPとの通信を行う通信装置とを備えている。また、被操作装置SKは、液晶テレビ等の表示装置MONを接続するための表示I/Fを備えている。
操作装置SPの処理装置は、操作アプリ(操作用アプリケーションプログラム)を実行することにより、タッチパネルから入力されたフリック操作に応じて当該タッチパネルの表示に対し所定の画面スクロール表示制御を実行すると共に、当該フリック操作に対応したデータを被操作装置SKに送信する。
一方、被操作装置SKの処理装置は、表示制御アプリ(表示制御用アプリケーションプログラム)を実行することにより、上記フリック操作に対応したデータを操作装置SPから受信し、当該データに基づいて操作装置SPにおける上記の画面スクロール表示制御と同等の画面スクロール表示制御を表示装置MONの表示に対して実行する。
操作装置SPの操作アプリと、被操作装置SKの表示制御アプリは、Wi-Fiネットワーク(IPネットワーク)上で制御ラインとデータラインの2つの通信パスを用いて通信を行う。各通信パスは、TCP(Transmission Control Protocol)のコネクション又はUDP(User Datagram Protocol)のポートを用いて確立する。制御ラインとデータラインの両方をTCPの2つのコネクションで確立してもよいし、制御ラインとデータラインの両方を2つのUDPポートにより確立してもよい。又は、制御ラインをTCPで確立し、データラインをUDPで確立することにより、送信速度の向上を図ることができる。
図2は、操作装置SPにおいて実行される操作アプリのフローチャートである。操作アプリの処理を開始すると、操作装置SPの処理装置は、タッチパネル上におけるタップダウンの操作、即ち、タッチパネル上を指等でタッチする操作を監視する(S1)。タップダウンを検出した場合、タップダウンに対応する制御コマンドを制御ラインを通じて被操作装置SKの表示制御アプリに送信する(S2)。表示制御アプリに表示制御処理を開始させるためである。続いて、操作装置SPの処理装置は、一定時間N毎にタッチ位置座標(x,y)を取得する(S3)。タッチ位置座標とは、タッチパネル上で指又はタッチペン等のポインタが配置されているスクリーン座標系上の座標である。タッチ位置座標は、指等をスライドさせる操作により刻々と変化する。
ここで、一定時間N毎にタッチ位置座標(x,y)を取得する、という処理について、図4を参照して説明する。いま、点線で示す曲線に沿って、タップダウンされた指等がスライドしたとする。このとき、時間Nにおけるタッチ位置座標を(x(N),y(N))とし、タップダウン時点のタッチ位置座標を(x(0),y(0))とすると、最初のN経過後のタッチ位置座標は(x(N),y(N)),さらにN経過後のタッチ位置座標は(x(2N),y(2N))、というように、一定時間N毎にタッチ位置座標を取得することができる。ここで、Nは、通常人が認識するのが困難な時間幅とし、約1ミリ秒〜300ミリ秒ほどの極く短い時間を想定している。フリック操作における指等の移動は連続的であり、当該操作により時間Nの間に取得可能なタッチ位置座標は多数となるが、当該複数のタッチ位置座標のすべてを被操作装置SKに送信するのではなく、一定時間N毎にタッチ位置座標を離散的に取得する処理となっている。
図2に戻る。続いて、操作装置SPの処理装置は、S3で取得したタッチ位置座標(x,y)をデータラインを通じて被操作装置SKの表示制御アプリに送信する(S4)。続いて、操作装置SPの処理装置は、タッチパネル上におけるタップアップの操作、即ち、タッチパネル上から指等を離す操作が行われたか否かを判定する(S5)。タップアップが行われていない場合、フリック操作が継続されているため、S3からの処理を繰り返す。一方、タップアップを検出した場合、タップアップに対応する制御コマンドを制御ラインを通じて被操作装置SKの表示制御アプリに送信する(S6)。表示制御アプリに実行中の表示制御処理を中止させるためである。その後、操作装置SPの処理装置は、S1からの処理を繰り返す。以上が本実施形態での操作アプリによる操作装置SPの動作である。
次に、表示制御アプリを実行する被操作装置SKの動作を説明する。図3は、被操作装置SKにおいて実行される表示制御アプリのフローチャートである。表示制御アプリの処理を開始すると、被操作装置SKの処理装置は、タップダウンに対応する制御コマンドの操作装置SPからの受信を監視する(S11)。制御コマンドは制御ラインを通じて受信する。タップダウンに対応する制御コマンドを受信すると、以下の表示制御処理を開始する(S12)。
被操作装置SKの処理装置は、一定時間N毎にタッチ位置座標(x,y)を受信できたか判定する(S13)。タッチ位置座標(x,y)は、操作装置SPが図2のS4で送信するものであり、無線伝送中のデータロスト(パケットロス、パケットロスト)が無ければ、一定時間N毎にデータラインを通じて被操作装置SKに受信される。
タッチ位置座標(x,y)を受信できた場合、フリック操作における指等の移動方向が変更されたか否かを判定する(S14)。指等の移動方向が変更されたか否かを判定する方法として、例えば図4において、今回受信したタッチ位置座標を(x(2N),y(2N))、前回受信したタッチ位置座標を(x(N),y(N))、前々回受信したタッチ位置座標を(x(0),y(0))とすると、今回の移動方向を表すベクトル(x(2N)−x(N),y(2N)−y(N))と、前回の移動方向を表すベクトル(x(N)−x(0),y(N)−y(0))とが成す角θが、予め設定した閾値を超えた場合に、指等の移動方向が変更されたと判断する方法が考えられる。前回及び前々回に受信したタッチ位置座標は、後述するS19の処理において記憶装置に保存されるようになっている。
ここで、本実施形態では以上の移動方向変更判定処理を被操作装置SK側で実行しているが、同様の処理を操作装置SPの処理装置に実行させ、移動方向が変更されたか否かの判定結果を操作装置SPから被操作装置SKに送信するようにしてもよい。この場合、当該判定結果を制御ラインを通じて操作装置SPから被操作装置SKへ送信し、被操作装置SKは、受信した当該判定結果に基づいてS16の判断を行うとよい。
一方、S13で一定時間N毎のタッチ位置座標(x,y)を受信できなかった場合、被操作装置SKの処理装置は、移動位置予測処理を実行する(S15)。移動位置予測処理とは、今回受信するはずだったタッチ位置座標を前回以前のタッチ位置座標に基づいて予測する処理である。本実施形態において、被操作装置SKの処理装置は、2種類の予測処理を実行する。
以下、前回のタッチ位置座標を(x1,y1)、前々回のタッチ位置座標を(x2,y2)、前前々回のタッチ位置座標を(x3,y3)とする。ここで、各タッチ位置座標は、S13で受信したタッチ位置座標又はS15で予測したタッチ位置座標であり、各タッチ位置座標は、後述するS19の処理において記憶装置に保存されるようになっている。
被操作装置SKの処理装置は、前回及び前々回のタッチ位置座標が記憶装置に保存されており、前前々回のタッチ位置座標の値が記憶装置に保存されていない場合、第1の予測処理を実行する。第1の予測処理では、前々回のタッチ位置座標(x2,y2)から前回のタッチ位置座標(x1,y1)に向かうベクトルと同じ方向及び同じ距離のベクトルを前回のタッチ位置座標(x1,y1)から伸ばした先の座標を今回のタッチ位置座標(x,y)とする。即ち、(x1−x2,y1−y2)=(x−x1,y−y1)となるタッチ位置座標(x,y)を求める。x=2・x1−x2、y=2・y1−y2となる。
また、被操作装置SKの処理装置は、前回、前々回及び前前々回のタッチ位置座標が記憶装置に保存されている場合、第2の予測処理を実行する。第2の予測処理では、前々回の移動((x3,y3)から(x2,y2)への移動)を表すベクトルと、前回の移動((x2,y2)から(x1,y1)への移動)を表すベクトルとの間の加速度を求め、同じ方向及び同じ加速度のベクトルを前回のタッチ位置座標(x1,y1)から伸ばした先の座標を今回のタッチ位置座標(x,y)とする。即ち、x軸については、
前前々回座標x3から前々回座標x2への移動速度が、
(x2−x3)/N
前々回座標x2から前回座標x1への移動速度は、
(x1−x2)/N
その間の加速度は、
{(x1−x2)−(x2−x3)}/N
等加速度で移動する場合、
{(x−x1)−(x1−x2)}/N={(x1−x2)−(x2−x3)}/N
よって、以下を満たすxを求める。y軸についても同様である。
x=3・x1−3・x2+x3
y=3・y1−3・y2+y3
被操作装置SKの処理装置は、S14の移動方向変更判定処理の結果、移動方向は変更されていないと判断した場合(S16)、又は、S15の移動位置予測処理を実行した場合、解像度適合処理を実行する(S17)。操作装置SPのタッチパネルの画面解像度と、被操作装置SKに接続された表示装置MONの画面解像度は異なる。そこで、解像度適合処理では、両者の画面解像度の比率に応じて、操作装置SPの画面解像度におけるタッチ位置座標(x,y)を、被操作装置SKに接続された表示装置MONの画面解像度に対応するタッチ位置座標(x',y')に変換する。
そして、被操作装置SKの処理装置は、表示I/Fに接続された表示装置MONの画面解像度に適合するように変換されたタッチ位置座標(x',y')に基づいて表示中の画面のスクロール表示制御を実行する(S18)。当該スクロール表示制御は、一定時間N毎に実行される。
続いて、被操作装置SKの処理装置は、タッチ位置座標の履歴を記憶装置に保存する(S19)。前々回のタッチ位置座標(x2,y2)を前前々回のタッチ位置座標(x3,y3)とし、前回のタッチ位置座標(x1,y1)を前々回のタッチ位置座標(x2,y2)とし、今回受信又は予測したタッチ位置座標(x、y)を前回のタッチ位置座標(x1,y1)として、記憶装置のデータを更新する。
続いて、被操作装置SKの処理装置は、操作装置SPからタップアップに対応する制御コマンドを受信したか否かを判断する(S21)。タップアップに対応する制御コマンドは、前述した図2のS6において送信される。
被操作装置SKの処理装置は、S21でタップアップに対応する制御コマンドを受信した場合、又は、S16で移動方向が変更されたと判断した場合、タッチ位置座標の履歴等の変数をリセットし、S11からの処理を繰り返す。
以上説明した本実施形態によると、操作装置SPでのフリック操作により発生する操作イベント(から取得可能なタッチ位置座標)のすべてを被操作装置SKに送信するのではなく、一定時間N毎にタッチ位置座標を取得して被操作装置SKに送信するので、スマートフォン等のタッチパネル付きの操作装置SPから、リモコンが無い被操作装置SKへ無線通信により操作内容をエミュレーションする場合に、通信遅延やパケットロストが発生しやすい状況であっても、操作から表示制御までの間の遅延を比較的少なく抑えることができる。
また、パケットロスト等の原因により、被操作装置SKが操作装置SPからタッチ位置座標を受信できなかった場合でも、タッチ位置座標の履歴に基づいてタッチ位置の移動先を予測するので、通信遅延やパケットロストが発生しやすい状況においても、操作装置SPで行われた操作に応じたスムーズな画面表示制御を被操作装置SK側で実現することができる。
以上の本発明は、次に説明するコンテンツ視聴システムに搭載することができる。図5は、コンテンツ視聴システムの構成図である。上記実施形態と同一の要素に対しては同一の符号を付する。表示装置としてのテレビモニタMONには、被操作装置としての視聴装置SKが接続されている。視聴装置SKは、テレビモニタMONに映像信号と音声信号を出力する。この視聴装置SKは、無線LAN(Local Area Network)のアクセスポイントAPを介して操作装置SPとWi-Fi(Wireless Fidelity)に準拠した無線通信を行う。
アクセスポイントAPは、有線でWAN(Wide Area Network)に接続されている。WANにはコンテンツサーバCSが設けられ、操作装置SPはAPを介してコンテンツサーバCSと通信する。また、視聴装置SKもAPを介してコンテンツサーバCSと通信する。
操作装置SPと視聴装置SKとの間の通信は、当該装置間が信頼済みであることを確認した上で許可され、論理通信パスを介して行われる。また、操作装置SPとコンテンツサーバCSとの通信及び視聴装置SKとコンテンツサーバCSとの通信も、論理通信パスを介して行われる。操作装置SPは、無線通信により、視聴装置SKの動作を制御する。
図5では、操作装置SPを1つ、視聴装置SKを1つ図示しているが、実際には、アクセスポイントAPを通じた通信可能範囲内に、複数の操作装置SPが存在し、また、複数の視聴装置SKが存在し得る。このとき、図6に示すように、操作装置SP1が視聴装置SK1を操作することもあれば、操作装置SP1が視聴装置SK2を操作することも考えられる。同様に、操作装置SP2が視聴装置SK1を操作することもあれば、操作装置SP2が視聴装置SK1を操作することもあり得る。このとき、操作装置SPが、本来操作すべき視聴装置SK以外の他の視聴装置を誤操作することを防止するため、信頼済みの操作装置SPと視聴装置SKとの組み合わせ(ペア)を予め登録しておく。
本実施形態において、操作装置SPは、Wi-Fiインターフェースを備えたスマートフォンに所定のアプリケーション(アプリ)をインストールしたものである。また、視聴装置SKは、市販のUSBメモリと同程度の大きさのスティック状の筺体に収められている。当該スティックの幅は23mm程度、長さは65mm程度である。この筺体に、Wi-Fiインターフェースを内蔵すると共に、映像音声出力用のHDMI(High-Definition Multimedia Interface)端子を備えている。
操作装置SPは図7に示す構成となっている。本実施形態において、操作装置(スマートフォン)SPは、コンピュータの構成要素を備え、種々のハードウェア(H/W)上でOS(Operating System)を実行し、更にOS上で種々のアプリケーションプログラム(アプリ)を実行する。
操作装置SPは、ハードウェアとして、プログラムの実行により種々の機能を実現する処理装置と、処理装置によって処理される情報を記憶する記憶装置とを備えている。また、ユーザが情報を入力するための入力装置と、ユーザに情報を表示する表示装置とを有する。更に、視聴装置SKと通信するための通信装置を備えている。本実施形態において、入力装置及び表示装置はタッチパネルである。通信装置は前述のようにWi-Fiインターフェースである。
OS上では、操作アプリ及びその他のアプリが起動される。処理装置が、操作アプリを実行することにより、操作装置SPの種々の動作が実行される。
続いて、視聴装置SKの構成を図8に示す。本実施形態において、視聴装置SKもコンピュータの構成要素を備え、種々のハードウェア(H/W)上でOS(Operating System)を実行し、更にOS上で種々のアプリケーションプログラム(アプリ)を実行する。
ハードウェアとしては、プログラムの実行により種々の機能を実現する処理装置と、処理装置によって処理される情報を記憶する記憶装置とを備えている。また、入力装置を接続するための入力インターフェース(入力I/F)と、表示装置MONを接続するための表示インターフェース(表示I/F)とを有する。更に、操作装置SPと通信するための通信装置を備えている。本実施形態において、入力I/FはUSB端子であり、主にメンテナンス時にUSB機器を接続する目的で設けられている。また前述のように、表示I/FはHDMI端子であり、通信装置はWi-Fiインターフェースである。
OS上では、表示制御アプリ及びその他のアプリが起動される。処理装置が表示制御視聴アプリ等を実行することにより、視聴装置SKの種々の動作が実行される。
以上の構成において、視聴装置SKは、コンテンツサーバCSから購入可能なコンテンツの選択制御、当該選択したコンテンツの購入制御、当該購入したコンテンツの再生制御などを行う。ユーザは、これらの制御を視聴装置SKに行わせるために、操作装置SPを操作し、コマンドやデータを操作装置SPから視聴装置SKに送信する。当該操作には、操作装置SPと視聴装置SKに同じ画面を表示させ、操作装置SPのタッチパネル操作によって操作装置SPに生じる画面表示制御に同期するように、視聴装置SKの画面表示を制御するものが含まれる。このとき、上述した本発明を搭載することにより、画面のスクロール表示制御を同期させることができる。
ここで、本発明の範囲は、上述した実施形態の範囲に限られず、特許請求の範囲に記載した発明の範囲である。
AP アクセスポイント
CS コンテンツサーバ
MON 表示装置
SK 被操作装置(視聴装置)
SP 操作装置

Claims (5)

  1. 操作装置で行われた操作に基づくデータを無線通信で被操作装置に送信することにより当該被操作装置の画面表示制御を行う方法において、
    前記操作装置のタッチパネルで行われる1回のフリック操作により発生する複数の操作イベントから一定時間N毎にタッチ位置座標を抜き出して前記被操作装置に送信するステップと、
    前記被操作装置が、前記操作装置から一定時間N毎に受信するタッチ位置座標に基づいて画面のスクロール表示制御を実行するステップとを備えた、
    無線による画面表示制御方法。
  2. 前記被操作装置は、前記タッチ位置座標を前記一定時間N毎に受信できなかった場合、当該受信できなかった今回のタッチ位置座標を、前回以前のタッチ位置座標に基づいて予測する請求項1に記載の無線による画面表示制御方法。
  3. 前記タッチ位置座標の前記予測では、前々回のタッチ位置座標から前回のタッチ位置座標へ至るベクトルと同じベクトルを前回のタッチ位置座標から伸ばした先の座標を今回のタッチ位置座標であると予測する請求項2に記載の無線による画面表示制御方法。
  4. 前記タッチ位置座標の前記予測では、前前々回のタッチ位置座標から前々回のタッチ位置座標へ至る前々回のベクトルと、前々回のタッチ位置座標から前回のタッチ位置座標へ至る前回のベクトルとの間の加速度を求め、当該加速度と同一の加速度で前回のベクトルと同じ方向を持つベクトルを前回のタッチ位置座標から伸ばした先の座標を今回のタッチ位置座標であると予測する請求項2に記載の無線による画面表示制御方法。
  5. 操作装置で行われた操作に基づくデータを無線通信で被操作装置に送信することにより当該被操作装置の画面表示制御を行うシステムにおいて、
    前記操作装置のタッチパネルで行われる1回のフリック操作により発生する複数の操作イベントから一定時間N毎にタッチ位置座標を抜き出して前記被操作装置に送信する前記操作装置と、
    当該操作装置から一定時間N毎に受信するタッチ位置座標に基づいて画面のスクロール表示制御を実行する前記被操作装置とを備えた、
    無線による画面表示制御システム。
JP2012280370A 2012-12-22 2012-12-22 無線による画面表示制御方法及びシステム Expired - Fee Related JP5331935B1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2012280370A JP5331935B1 (ja) 2012-12-22 2012-12-22 無線による画面表示制御方法及びシステム
PCT/JP2013/052283 WO2014097650A1 (ja) 2012-12-22 2013-01-31 無線による画面表示制御方法及びシステム
US14/591,247 US20150149957A1 (en) 2012-12-22 2015-01-07 Method and system for wirelessly controlling image display

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012280370A JP5331935B1 (ja) 2012-12-22 2012-12-22 無線による画面表示制御方法及びシステム

Publications (2)

Publication Number Publication Date
JP5331935B1 JP5331935B1 (ja) 2013-10-30
JP2014123929A true JP2014123929A (ja) 2014-07-03

Family

ID=49596000

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012280370A Expired - Fee Related JP5331935B1 (ja) 2012-12-22 2012-12-22 無線による画面表示制御方法及びシステム

Country Status (3)

Country Link
US (1) US20150149957A1 (ja)
JP (1) JP5331935B1 (ja)
WO (1) WO2014097650A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105988703A (zh) * 2015-03-03 2016-10-05 阿里巴巴集团控股有限公司 一种业务对象的展示方法和装置
KR20180112058A (ko) * 2016-03-02 2018-10-11 텐센트 테크놀로지(센젠) 컴퍼니 리미티드 데이터 처리 방법 및 장치

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102043148B1 (ko) * 2013-02-19 2019-11-11 엘지전자 주식회사 이동 단말기 및 그의 터치 좌표 예측 방법
JP6047822B2 (ja) 2013-03-14 2016-12-21 シャープ株式会社 情報処理装置、情報処理方法及びプログラム
JP6015637B2 (ja) * 2013-11-29 2016-10-26 コニカミノルタ株式会社 情報処理装置、情報処理装置を制御するための方法、および、当該方法をコンピュータに実行させるためのプログラム
JP6222190B2 (ja) * 2015-09-03 2017-11-01 コニカミノルタ株式会社 文書処理装置およびその通信制御方法
US10623460B2 (en) 2016-11-18 2020-04-14 Google Llc Streaming application environment with remote device input synchronization
US11366586B2 (en) * 2016-11-18 2022-06-21 Google Llc Streaming application environment with recovery of lost or delayed input events
CN107450841B (zh) * 2017-08-08 2019-05-07 腾讯科技(深圳)有限公司 交互对象控制方法及装置

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10260771A (ja) * 1997-03-19 1998-09-29 Pfu Ltd タッチパネルのデータ転送装置
TWI236239B (en) * 2004-05-25 2005-07-11 Elan Microelectronics Corp Remote controller
JP2008191791A (ja) * 2007-02-01 2008-08-21 Sharp Corp 座標入力装置、座標入力方法、制御プログラム、およびコンピュータ読み取り可能な記録媒体
JP4946915B2 (ja) * 2008-02-27 2012-06-06 コニカミノルタホールディングス株式会社 情報入力表示装置
JP2011035636A (ja) 2009-07-31 2011-02-17 Casio Computer Co Ltd 画像処理装置及び方法
US8193934B2 (en) * 2009-09-30 2012-06-05 Motorola Solutions, Inc. Method for using recording rules and previous value selection rules for presence information in a communications system
JP2012181644A (ja) * 2011-03-01 2012-09-20 Sharp Corp タッチセンサを十字に配置したなぞり動作検出装置

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105988703A (zh) * 2015-03-03 2016-10-05 阿里巴巴集团控股有限公司 一种业务对象的展示方法和装置
KR20180112058A (ko) * 2016-03-02 2018-10-11 텐센트 테크놀로지(센젠) 컴퍼니 리미티드 데이터 처리 방법 및 장치
JP2019511774A (ja) * 2016-03-02 2019-04-25 テンセント・テクノロジー・(シェンジェン)・カンパニー・リミテッド データ処理方法及びデータ処理装置
US10558351B2 (en) 2016-03-02 2020-02-11 Tencent Technology (Shenzhen) Company Limited Data processing method and apparatus
KR102155229B1 (ko) * 2016-03-02 2020-09-11 텐센트 테크놀로지(센젠) 컴퍼니 리미티드 데이터 처리 방법 및 장치

Also Published As

Publication number Publication date
JP5331935B1 (ja) 2013-10-30
WO2014097650A1 (ja) 2014-06-26
US20150149957A1 (en) 2015-05-28

Similar Documents

Publication Publication Date Title
JP5331935B1 (ja) 無線による画面表示制御方法及びシステム
US9491501B2 (en) Mobile terminal, television broadcast receiver, and device linkage method
US10679586B2 (en) Information processing device, communication system, and information processing method
US9690465B2 (en) Control of remote applications using companion device
EP2671148B1 (en) Apparatus, systems and methods for presenting displayed image information of a mobile media device on a large display and control of the mobile media device therefrom
US20150156283A1 (en) System and method for controlling a networked display
US20130106700A1 (en) Electronic apparatus and input method
US9838874B2 (en) Terminal device and remote control method thereof, mobile device and remote control method thereof
US20150339026A1 (en) User terminal device, method for controlling user terminal device, and multimedia system thereof
US20130222229A1 (en) Display control apparatus, display control method, and control method for electronic device
KR101325026B1 (ko) 스마트 단말을 이용한 안드로이드 플랫폼 기반의 애플리케이션 실행 단말 제어방법 및 이를 위한 컴퓨터로 판독가능한 기록매체
EP2963935A1 (en) Multi screen display controlled by a plurality of remote controls
US10785441B2 (en) Running touch screen applications on display device not having touch capability using remote controller having at least a touch sensitive surface
US20140320405A1 (en) Method for controlling portable terminal by touch device
US20130212629A1 (en) Television system operated with remote touch control
WO2013060022A1 (en) Method of internet browser-based remote user interface virtual mouse cursor positioning
EP2605527B1 (en) A method and system for mapping visual display screens to touch screens
KR102310106B1 (ko) 서비스 화면을 표시하기 위한 전자 장치 및 방법
CN107172472B (zh) 使用遥控器在无触摸能力的显示设备上运行触摸屏应用
TWI540864B (zh) 資訊傳輸方法與無線顯示系統
WO2021039680A1 (ja) 情報処理システム及び情報処理方法

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130729

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R314533

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees