JP6271960B2 - 情報処理システム - Google Patents

情報処理システム Download PDF

Info

Publication number
JP6271960B2
JP6271960B2 JP2013236737A JP2013236737A JP6271960B2 JP 6271960 B2 JP6271960 B2 JP 6271960B2 JP 2013236737 A JP2013236737 A JP 2013236737A JP 2013236737 A JP2013236737 A JP 2013236737A JP 6271960 B2 JP6271960 B2 JP 6271960B2
Authority
JP
Japan
Prior art keywords
screen
information
information processing
processing apparatus
transmission
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013236737A
Other languages
English (en)
Other versions
JP2014123349A5 (ja
JP2014123349A (ja
Inventor
正行 石澤
正行 石澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2013236737A priority Critical patent/JP6271960B2/ja
Priority to EP13193688.2A priority patent/EP2735961B1/en
Priority to US14/088,940 priority patent/US9269331B2/en
Priority to CN201310665294.5A priority patent/CN103838541B/zh
Publication of JP2014123349A publication Critical patent/JP2014123349A/ja
Publication of JP2014123349A5 publication Critical patent/JP2014123349A5/ja
Application granted granted Critical
Publication of JP6271960B2 publication Critical patent/JP6271960B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/12Synchronisation between the display unit and other units, e.g. other display units, video-disc players
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/1633Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
    • G06F1/1684Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675
    • G06F1/1694Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675 the I/O peripheral being a single or a set of motion sensors for pointer control or gesture input obtained by sensing movements of the portable computer
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/1633Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
    • G06F1/1684Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675
    • G06F1/1698Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675 the I/O peripheral being a sending/receiving arrangement to establish a cordless communication link, e.g. radio or infrared link, integrated cellular phone
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1423Digital output to display device ; Cooperation and interconnection of the display device with other functional units controlling a plurality of local displays, e.g. CRT and flat panel display
    • G06F3/1446Digital output to display device ; Cooperation and interconnection of the display device with other functional units controlling a plurality of local displays, e.g. CRT and flat panel display display composed of modules, e.g. video walls
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/003Details of a display terminal, the details relating to the control arrangement of the display terminal and to the interfaces thereto
    • G09G5/006Details of the interface to the display terminal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/06Protocols specially adapted for file transfer, e.g. file transfer protocol [FTP]
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2354/00Aspects of interface with display user
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2356/00Detection of the display position w.r.t. other display screens

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • User Interface Of Digital Computer (AREA)
  • Controls And Circuits For Display Device (AREA)

Description

本発明は、複数の情報処理装置の表示内容を連携させる技術に関する。
複数のディスプレイを連携させてあたかも一つの大きなディスプレイのように利用するための技術がある。例えば、複数のディスプレイを一つのPCのディスプレイとして利用する場合、予めPC上でディスプレイがどのように配置されているかを設定して、設定された配置情報に合わせて各ディスプレイへの表示出力を制御している。
また、近年では、タブレットPCのような情報処理装置が普及している。非特許文献1では、2つの情報処理装置の画面を同じ空間上の画面と仮定して、表示画像の内容を連携させる技術が開示されている。そこでは、2つの情報処理装置に対して、ディスプレイ間をまたいだピンチ操作を入力することによって各情報処理装置が配置された位置の関係を設定し、各装置の表示画像の連携を実現している。
情報処理学会 インタラクション2012 「スマートフォンを利用した複数画面の連携表示と動的なレイアウト変更によるアプリケーション」
非特許文献1では、少なくとも一方の情報処理装置の姿勢が変わるごとに、ディスプレイ間をまたいだピンチ操作を入力する手間が生じる。
本発明はこのような問題を鑑みてなされたものであり、オブジェクトを送受信する複数の情報処理装置において、装置間で簡単な情報のやり取りを行うことによって、互いの装置における表示内容を連携させる技術を提供することを目的とする。
上記課題を解決する為、本願発明は、画面に表示されたオブジェクトが移動された方位に関する情報を送信する他装置から、前記情報を受信する情報処理装置であって、観測点における水平面内の方向を、基準となる一定の方向との関係で表した、前記方位に関する情報を受信する受信手段と、前記情報処理装置の前記画面に定義された座標軸上の方向を方位に変換した情報から前記画面が向けられた方位を示す情報を取得する取得手段と、前記受信手段が受信した前記方位に関する情報と、前記取得手段が取得した前記情報処理装置の画面が向けられた方位を示す情報とに基づいて、前記情報処理装置の画面において、前記他装置の画面に表示されたオブジェクトが移動された方位とは逆の方位から、前記他装置の画面に表示されたオブジェクトと同じオブジェクトを出現させる表示制御手段を備えることを特徴とする。
本発明によれば、オブジェクトを送受信する複数の情報処理装置において、装置間で簡単な情報のやり取りを行うことによって、互いの装置における表示内容を連携させる技術を提供することができる。
情報処理装置の構成の一例を示す図 情報処理装置がオブジェクトを送信する処理の流れの一例を示すフローチャート 情報処理装置がオブジェクトを受信する処理の流れの一例を示すフローチャート 操作方向を決定する処理と出現位置を決定する処理の一例を示す図 2つの情報処理装置を上下を揃えて真横に並べた状態で、オブジェクトを送受信する操作例を示す図 2つの情報処理装置でオブジェクトを送受信する操作例を示す図 2つの情報処理装置でオブジェクトを送受信する操作例を示す図 受信側装置における表示制御処理の一例を示す図 受信側装置における表示制御処理の一例を示す図 情報処理装置の機能構成の一例を示す図。 情報処理装置がオブジェクトを送信する処理の流れの一例を示すフローチャート 情報処理装置がオブジェクトを受信する処理の流れの一例を示すフローチャート 180度の相対角度を持って配置された2つの情報処理装置の一例を示す図 任意の相対角度を持って配置された2つの情報処理装置の一例を示す図
以下、図面を参照しながら本発明の好適な実施形態について説明する。ただし、この実施の形態に記載されている構成要素はあくまでも例示であり、本発明の範囲をそれらのみに限定する趣旨のものではない。
<第1の実施形態>
図1は本実施形態に係る情報処理装置100の構成を示す図である。本実施形態は、操作対象を送信する送信側装置と、送信された操作対象を受信する受信側装置のどちらにもなり得る複数の情報処理装置100の情報処理システムを例に説明する。
図1(a)は、本実施形態に係る情報処理装置100のハードウェア構成の一例を示す図である。CPU101は、CPU(Central Processing Unit)であり、各種処理のための演算や論理判断などを行い、システムバス107に接続された各構成要素を制御する。この情報処理装置100には、プログラムメモリとデータメモリを含むメモリが搭載されている。ROM(Read−Only Memory)102は、プログラムメモリであって、後述する各種処理手順を含むCPUによる制御のためのプログラムを格納する。RAM(Random Access Memory)103は、データメモリであり、CPU101の上記プログラムのワーク領域、エラー処理時のデータの退避領域、上記制御プログラムのロード領域などを有する。なお、情報処理装置100に接続された外部記憶装置などからRAM103にプログラムをロードすることで、プログラムメモリを実現しても構わない。HD104は、本実施形態に係る複数の電子データやプログラムを記憶しておくためのハードディスクである。同様の役割を果たすものとして外部記憶装置を用いてもよい。ここで、外部記憶装置は、例えば、メディア(記録媒体)と、当該メディアへのアクセスを実現するための外部記憶ドライブとで実現することができる。このようなメディアとしては、例えば、フレキシブルディスク(FD)、CD−ROM、DVD、USBメモリ、MO、フラッシュメモリ等が知られている。また、外部記憶装置は、ネットワークで接続されたサーバ装置などであってもよい。タッチパネルディスプレイ105は、入力領域122におけるユーザの操作情報を取り込むためのタッチセンサ等と表示出力を行う表示画面を兼ねるデバイスである。通信インタフェース106は、公知の通信技術によって、他の情報処理装置や外部記憶装置との有線あるいは無線で接続し、双方向に情報の送受信を行うことを可能とする。他の情報処理装置とは、直接通信するだけでなく、中継装置を利用した間接的な通信を利用することもできる。
図1(b)は、本実施形態に係る情報処理装置100の機能構成の一例を示すブロック図である。情報処理装置100は、検出部111、判定部113、方向決定部114、管理部115、位置決定部118、表示制御部119を有する。これらの各機能部は、CPU101が、ROM102に格納されたプログラムをRAM103に展開し、後述する各フローチャートに従った処理を実行することで実現されている。送信部116、受信部117は、同様にCPU101、ROM102、RAM103と、さらに通信インタフェース106の連動によって実現される。本実施形態の情報処理装置100が有する保持部112はRAM103の機能部である。ただし、本発明は、これらの機能部をハードウェアで実現する情報処理装置によっても同様に実現可能である。以下、各要素について説明する。
検出部111は、タッチパネル上でユーザがタッチしたタッチ位置を検出する。その際、本実施形態では、入力部であるタッチパネルディスプレイ105において検出されているタッチ位置の情報を一定の間隔で取得する毎に、順次検出部111に通知する。本実施形態では、タッチ位置は特定された一点を示す座標として通知され、検出部111は、通知を受ける毎に、タッチパネルディスプレイ105の画面におけるタッチ位置を示す座標情報を保持部112に保持する。さらに検出部111は、検出したタッチ位置の移動による座標の変化に基づいて、ドラッグ(タッチしたまま指をずらす操作)およびフリック(タッチした指を高速ではじくようにタッチパネルから離す操作)を検出することができる。
判定部113は、検出部113が検出した最新のタッチ位置の情報に基づいて、方向決定部114、管理部115、送信部116の各機能部の処理を実行させるか否かを制御する。
方向決定部114は、保持部112に保持されているタッチ位置の座標情報の遷移に基づき、ユーザのタッチ操作によって指示された操作方向を決定し、決定した操作方向を示す情報を保持部112に保持する。
管理部115は、送信部116に送信させる情報を管理する。その際、保持部112に保持されている情報のうち前回の処理において決定された方向情報と、方向決定部114が決定した最新の方向情報とを比較した結果に基づいて、同じ方向への送信操作が繰り返されたか否かを判定する。そして、判定結果に基づいて、送信部116に送信させる情報を決定する。
送信部116は、管理部115の決定に基づいて、方向決定部114が決定した操作方向に基づく方向情報を、他の情報処理装置(受信側装置)に向けて送信する。本実施形態では、操作方向に基づく方向情報は、方向決定部114が決定した操作方向を角度で示す情報か、または、方向決定部114が決定した操作方向が前回の処理と同じ方向であることを示すフラグ情報である。さらに、送信部116は、送受信処理の対象となるオブジェクトに関する情報を他の情報処理装置(受信側装置)に向けて送信する。オブジェクトに関する情報とは、オブジェクトを描画するために必要な画像情報や、当該オブジェクトに対応する電子データ、あるいはその識別情報や閲覧権限に関する情報等である。
本実施形態では、一例として、送受信される操作対象のオブジェクトは、画像データのサムネイル画像であるものとして説明する。送信側装置と受信側装置は、サムネイル画像を送受信することによって、後述するように、タッチ操作に応じた表示内容の連携を実行する。このとき、サムネイル画像に対応する画像データは、情報処理装置100の記憶手段に記憶されているものであって、サムネイル画像の表示制御処理が行われているのと同時に送受信される例を説明する。本実施形態では、このように、ユーザ操作に対する速やかな応答として、複数の情報処理装置での表示内容の連携を実現しつつ、サムネイル画像に対応する画像データそのものも送受信するので、電子データの動きが直感的に把握できる。ただし、サムネイル画像に対応する画像データは、情報処理装置100とネットワークで接続された外部記憶装置に記憶されているものであって、サムネイル画像の受信完了後に外部記憶装置から受信側装置にダウンロードされても構わない。あるいは、サムネイル画像が受信されたことに応じて、外部記憶装置にある画像データの閲覧権限が受信側装置に与えられてもよい。このようにすることで、送受信される情報量を削減することができる。ただし、オブジェクトは画像データのサムネイル画像に限らず、例えば、アプリケーションファイル(電子データ)に対応するアイコン画像をオブジェクトとして、送受信させることもできる。このように、オブジェクト及びオブジェクトに対応する電子データは限定されず、様々な操作対象について本実施形態を適応可能である。
受信部117は、他の情報処理装置(送信側装置)の送信部116が送信した情報を受信する。
位置決定部118は、受信部117が受信した操作方向を示す情報に基づいて、自装置(受信側装置)と、受信した情報を送信した情報処理装置(送信側装置)の位置関係を推定する。そして、オブジェクトが、送信側装置と受信側装置の画面の境界を越えて連続移動しているように表示するために、受信側装置の画面におけるオブジェクトの出現位置を決定する。
表示制御部119は、タッチパネルディスプレイ105に出力する表示画像を生成し、表示内容を制御する。本実施形態の表示制御部119では、画面にオブジェクトが表示された状態で、オブジェクト上で検出されたタッチ位置が移動した場合には、タッチ位置の移動に追従したオブジェクトを移動させるように表示させる。また、判定部113が、方向決定部114、管理部115、送信部116の各機能部の処理を実行させた場合には、表示されているオブジェクトを、画面内から方向決定部114が決定した方向に沿って消失するように表示させる。また、他の情報処理装置からオブジェクトを受信した場合には、位置決定部118が決定した位置から、方向決定部114が決定した方向に沿って画面内に出現するように、受信したオブジェクトを表示させる。
図1(c)は、本実施形態における情報処理装置100の外観の一例を示す図である。画面121は、タッチパネルディスプレイ105の表示領域に相当し、同時にユーザのタッチ入力を検出可能な入力領域を示す。画面121には、オブジェクト122が表示され、ユーザはオブジェクト122に対してタッチ操作を行うことができる。本実施形態では、画面121について、向かって左下を原点とし、図1(c)に示すようなX軸、Y軸を定義した座標平面に基づいて、タッチ位置を扱う。一例として画面121の画面解像度が、幅がWt[dot]、高さがHt[dot]であるとすると、検出部111は、画面の左下を原点とし、画面全体をX座標が0〜Wt[dot]、Y座標が0〜Ht[dot]で表される座標平面として、座標情報を取得する。
本実施形態では、オブジェクトの送受信を実行する複数の情報処理装置は、同じアプリケーションを実行中であることにより、互いを識別して通信を行うことが可能な状態となっている。ユーザは、当該アプリケーションの送信モードにおいて、画面に表示されているオブジェクトをタッチして、送信先の装置(受信側装置)が存在する方向にドラッグすることによって、当該オブジェクトに対応するオブジェクトの送信指示操作を入力する。また、同じアプリケーションの受信モードを実行している受信側装置では、受信側装置の画面に対して送信側装置が存在する方向から、受信したオブジェクトが出現するような表示制御が行われる。従って、あたかも2つの表示画面が連結して1つの表示画面を形成し、オブジェクトは、連結した画面内を連続的に移動するように表示制御される。これにより、ユーザはオブジェクトに対応するオブジェクトの装置間の移動を直感的に把握できるようになる。なお、送信モードと受信モードは区別されなくてもよい。
通信を行う相手となる情報処理装置を決定する方法については、NFCやTransferJetなどの技術を利用し、装置同士を接触することで行ってもよいし、予め、双方の機器において通信相手を決めておいてもよい。また、2つの装置が同時に振られたことを検出したことに応じて、互いを通信相手として認識する等、その他どのような方法をとることもできる。
ただし、第1の実施形態では、送信モードを実行している送信側装置と受信モードを実行している受信側装置とが、それぞれの画面における表示上の上下左右を一致させるように配置された状態で、オブジェクトの送受信が行われる。
次に、図2及び図3のフローチャートを参照して、本実施形態において、送信側装置及び受信側装置のそれぞれで実行される具体的な処理の流れを説明する。ここで、本実施形態では、オブジェクトの送受信を実行する複数の情報処理装置は、同じアプリケーションを実行中であることにより、予め互いを識別して通信を行うことが可能な状態にあって、オブジェクトの送受信操作を待機していることを想定している。
図2は本実施形態の情報処理装置100において実行される、オブジェクトを送信する処理の流れの一例を示すフローチャートである。情報処理装置100では、送信モードが設定され、画面の中心部に少なくとも1つのオブジェクトが表示されている状態で、ユーザがオブジェクト上をタッチしたことがタッチパネルディスプレイ105から通知されると、図2のフローチャートが起動される。
ステップS201において、検出部111が、最新のタッチ位置の情報を取得する。ここでは少なくとも、タッチが検出されているかまたはリリースされたかをしめすタッチイベントと、タッチイベントが発行されたときのタッチ位置の座標情報とを取得して、保持部112に座標情報を保持する。なお、保持部112では、タッチが検出されてからリリースされるまで、タッチ位置を示す座標を保持部112に保持された情報に追加していく。タッチがリリースされたことを示すイベントが検出された場合には、保持された情報は初期化される。
ステップS202では、検出部111が、ドラッグ操作が入力されたか否かを判定する。本実施形態では、タッチ位置がリリースされることなく所定の距離以上移動した場合、ドラッグ操作が入力されたと判定する。従って、検出部111が、タッチ位置が最初に検出された座標と、最新の検出において取得された座標との間隔から、タッチ位置の移動距離を求め、所定の値と比較する。なお、ここで所定の値を0[dot]とすれば、タッチ位置の移動が検出された時点でドラッグ操作の入力として認識することになる。ドラッグ操作が入力されたと判定された場合には(ステップS202でYES)、ステップS202に進む。一方、ドラッグ操作が入力されていないと判定された場合には(ステップS202でNO)、ステップS201に戻る。
ステップS203では、表示制御部119が、検出されたタッチ位置の移動に応じて、表示されているオブジェクト122の表示位置を移動させる制御を行う。具体的には、タッチ位置に追従してオブジェクト122が移動するような表示画像を生成し、タッチパネルディスプレイ105に出力する。
ステップS204では、判定部113が、オブジェクトの送信指示が入力されたか否かを判定する。本実施形態では、ユーザがタッチ位置を、画面の縁に達するまでドラッグ操作を継続した場合に、オブジェクトの送信指示が入力されたと判定する。具体的には、ステップS201において取得した最新のタッチ位置を示す座標が、所定の条件を満たすか否かを判定する。例えば、最新のタッチ位置のX軸座標をX、Y軸座標をYで示すと、例えば以下の式のいずれかを満たすか否かを判定する。そして、満たさない場合に、ユーザがタッチ位置を画面の縁に達するまでドラッグ操作を継続したとみなし、オブジェクトの送信指示が入力されたと判定する。一方で、最新のタッチ位置の座標(X,Y)が以下の式を満たす場合には、ユーザがタッチ位置を画面の縁に達していないため、オブジェクトの送信指示が入力されていないと判定する。なお、本実施形態では、タッチ位置が以下の式を満たした状態で、かつ、タッチ位置がリリースされた場合も、オブジェクトの送信指示が入力されていない場合に含まれる。
0 < X < Wt ・・・(式1)
0 < Y < Ht ・・・(式2)
なお、判定の条件を示す(式1)及び(式2)は一例であって、判定条件はこれに限らない。例えば、画面の縁からD[dot]の範囲にタッチ位置が進入した場合に、タッチ位置が画面の縁に達したと判定するような条件を設定することもできる。また、例えば、オブジェクト122の表示位置がドラッグ操作に応じて移動されたことにより、少なくとも一部が画面121からはみ出した場合に、送信指示が入力されたと判定するなど、座標以外の情報に基づく判定条件を利用してもよい。
以上のような判定を行うことで、タッチ位置が画面の縁に達したか否かによって、送信操作の実行が指示されたか、あるいは送信側装置内に閉じたドラッグ操作が行われているのかを区別することができる。オブジェクトの送信指示が入力されたと判定された場合には(ステップS204でYES)ステップS205に進む。オブジェクトの送信指示が入力されていないと判定された場合には(ステップS204でNO)、ステップS204までの処理を繰り返して待機する。ステップS204でYESの判定がなされた以降は、タッチが継続されているかリリースされたかに関わらず、ステップS205以降の処理が実行される。
ステップS205では、方向決定部114が、保持部112から、ドラッグ操作中の座標情報を取得する。本実施形態では、タッチ位置が検出されてから、画面の縁に達するまでに検出された一連の座標情報を取得する。
ステップS206では、方向決定部114が、操作方向を決定する。そして、決定した操作方向を管理部115に通知する。ここで、操作方向とは、オブジェクトの送信のためにユーザが入力したタッチ操作によって指示された方向である。本実施形態では、ユーザは、画面中心に表示されたオブジェクト122をタッチした指を、画面121の縁に達するまで移動させるドラッグ操作によって送信の開始指示を入力する。従って、操作方向は、送信側装置の画面121上で、タッチが開始された位置から、受信側装置が存在する位置に向かう方向に相当する。方向決定部114は、ステップS205で取得された一連の座標情報のうち、最初の座標から、最後の座標に向かう方向を示す情報を、操作方向を示す情報として決定する。ただし、方向の定め方はこれに限定されない。例えば、画面の中心点の座標から、ドラッグ操作の最後の座標に向かう方向を操作方向として定めてもよい。
本実施形態では、操作方向を示す情報は、Y軸方向を基準とした角度を示す0[度]から359[度]までの数値を利用する。360度以上あるいは0度以下の角度が求められた場合には、範囲内に納まるように値を変換するものとする。従って、画面121の中心からY軸方向に沿った真上の方向は0[度]、真下に向かう方向は180[度]として扱うこととなる。ただし、方向を示す情報は角度を示す値に限らず、上下や左右、右上、右下といったように、粒度を落とした情報を利用してもよい。
ステップS207では、管理部115が、今回の送信操作の操作方向は、は、前回送信指示が入力されたときに決定された操作方向と同じか否かを判定する。管理部115は、保持部112に保持されている前回送信指示が入力されたときに決定された操作方向と、方向決定部114から通知された操作方向とを比較して判定を行う。操作方向は、前回送信指示が入力されたときに決定された操作方向と同じと判定された場合には(ステップS207でYES)、ステップS208に進む。操作方向は、前回送信指示が入力されたときに決定された操作方向とは異なると判定された場合には(ステップS207でNO)、ステップS210に進む。なお、比較の結果、同じ方向であると判定する条件は、角度の値の差異が±5度の誤差の範囲内に収まることであるとする。ただし、もちろん度数を示す数値が一致していることであってもよく、また、画面121の中心を基準に360度の方向を8分割した際に同じ区分に含まれれば同じ方向であると判定してもかまわない。
ステップS208では、送信部116が、受信側装置に対し、操作方向は、前回の送信操作と同じ方向であることを示す情報を送信する。本実施形態で送信する情報は、予め定められているフラグ情報であり、操作方向が前回の送信操作と同じ方向であることを示すtrueという値を送信する。
次に、ステップS209では、送信部116が、受信側装置に対し、送信操作の対象であるオブジェクトに関する情報を送信する。本実施形態では、オブジェクト122(サムネイル画像)の画像情報を優先して送信する。本実施形態ではさらに、サムネイル画像に対応する画像データを送信する。
一方、ステップS210では、方向決定部114が、今回の処理で決定した操作方向の処理を、保持部112に保持する。これにより、保持部112に保持されている操作方向を示す情報が更新される。なお、本実施形態では、保持部112に保持されている操作方向を示す情報は、アプリケーションの開始時に初期化されるもとする。ただし、初期化のタイミングはこれに限定されない。例えば、ユーザ操作によって初期化が指示されるまで保持し続けていても良い。
ステップS211では、送信部116が、受信側装置に対し、操作方向は、前回の送信操作と異なる方向であることを示す情報を送信する。本実施形態では、ここで送信する情報もステップS208と同様にフラグの情報であり、前回と異なる方向であることを示すfalseという値を送信する。
次に、ステップS212では、送信部116が、受信側装置に対し、ステップS206で決定した操作方向を示す情報と、オブジェクト122(サムネイル画像)の画像情報を送信する。本実施形態ではさらに、サムネイル画像に対応する画像データを送信する。
次に、ステップS213では、表示制御部119が、オブジェクト122が操作方向に沿って、画面121から消失するように表示制御を行う。本実施形態では、決定された操作方向に沿って、オブジェクト122が画面外に徐々に出て行くようなアニメーションを使って表示する。そのため、表示制御部119が描画処理を行い、画面内に表示されるオブジェクト122の部分が徐々に減少し、残りの部分が画面外に出て行くような表示画像によるアニメーションを生成し、ディスプレイ105に出力する。
以上が、本実施形態において、送信側装置として機能する情報処理装置100が実行するオブジェクト送信処理の流れである。これにより送信側装置のユーザは、実世界においてオブジェクトを送信したい相手(受信側装置)が存在する位置に向けて、オブジェクトをドラッグするという直感的な操作で、送信対象の指定と送信開始の指示を入力することができる。このとき、情報処理装置同士の姿勢や位置関係が変化しても、送信側装置のユーザは、送信操作を行う時点で受信側装置が存在する位置に向けて、オブジェクトをドラッグする操作を行えば良い。従って、別途画面を連結させるための操作を必要とせずに効率的に複数の機器における表示内容を連携させることができる。
ただし、ステップS209及びステップS212では、上述したように、画像データそのものではなく、外部記憶装置に記憶されている画像データの識別情報や、閲覧権限に関する情報を送信することにより、送受信される情報量を削減することができる。また、このとき、ユーザのドラッグ操作のスピードや、オブジェクト122の画面外に出た部分の大きさを示す情報を受信側装置に送信することで、受信側装置でのオブジェクト122の表示量を抑制し、より両装置での表示状態の同期性を高めることもできる。
また、上述した(式1)及び(式2)で示す判定の条件は一例であって、送信操作の実行が指示されたか、あるいは送信側装置内に閉じたドラッグ操作が行われているのかを判定する条件はこれに限らない。例えば、画面の縁からD[dot]の範囲にタッチ位置が進入した場合に、タッチ位置が画面の縁に達したと判定するような条件を設定することもできる。また、例えば、オブジェクト122の表示位置がドラッグ操作に応じて移動されたことにより、少なくとも一部が画面121から消失した(はみ出した)場合に、送信指示が入力されたと判定するなど、座標以外の情報に基づく判定条件を利用してもよい。この場合は、オブジェクト全体の面積に対して、画面121上に残って表示されている面積の割合に所定の閾値を設け、画面121上に残っている面積の割合が所定の閾値を下回る場合に、送信指示が入力されたと判断することができる。あるいは、オブジェクト全体の面積に対して、画面121上から消失した面積の割合に所定の閾値を設け、画面121上から消失した面積の割合が所定の閾値を上回る場合に、送信指示が入力されたと判断するようにしてもよい。いずれの場合においても、設定される閾値は、オブジェクト122の内容のメインとなる部分が、視認によって把握できない程度に隠れてしまい、かつ、ドラッグ操作を行うためにユーザが指で触るには十分の面積を残すように設定される。このようにすることで、送信側の装置を操作するユーザが、オブジェクト122の内容の視認性よりも優先して、オブジェクト122を画面外に送りだす操作を行った、と確実に判断した時に、送信を開始することができるという効果がある。本実施形態では、送信側装置が、オブジェクトの、画面外にはみ出された部分を示す情報を、操作方向に関する情報と共に送ることで、送信側装置において画面からはみ出された部分が、受信側装置の画面に表示されるように制御することが可能である。従って、画面内に残っている面積(あるいは画面からはみ出された部分の面積)に応じて送信指示の入力を判断する場合、受信側装置では、受信を開始できる段階で、送信側装置の画面からはみ出された部分に相当するオブジェクト122を表示できる。従って、受信側装置の画面では、受信が開始されるときには、オブジェクトの内容を把握でき、かつドラッグ操作を行うのに十分な面積のオブジェクト122が表示できるという効果もある。なお、このとき、受信側装置において、ユーザが出現したオブジェクト122を押し戻したり、所定時間放置したりした場合には、オブジェクトおよび電子データの受け取りが拒否されたと判断し、送信を中止してもよい。なぜなら、画面に、オブジェクト122の内容が十分把握可能な表示がなされている状態で、押し戻したり放置したりすることは、すなわち、当該オブジェクト122を不要だと判断したユーザの直感的な行動であるとみなせるためである。
送信指示の入力は、他に、ユーザのタッチ操作によって判断されることもできる。例えば、オブジェクト122の外縁が画面121の縁に達した後、さらに押し出すように、より強いドラッグ操作が入力された場合に、画面外にはみ出すように表示制御を開始すると共に、送信指示が入力されたと判断するように変形することができる。この場合、オブジェクト122の外縁が画面121の縁に達した後、押し出すようなドラッグ操作が入力無ければ、オブジェクト122は、そのままの位置に表示され続ける。このようにすることで、送信側装置の画面121におけるドラッグ操作で、オブジェクト122が誤って画面121の縁に達してしまった場合でも、オブジェクト122が誤送信される危険性を低減することができる。また、オブジェクト122を画面の外に押し出すように強くドラッグすることは、ユーザが当該オブジェクト122をドラッグ方向に送信したいという目的に沿った自然な動きである。従って、ユーザには目的に沿った直感的な動きを行うだけで、よりセキュアなデータの送受信を可能とすることができるようになる。
また、オブジェクト122がドラッグ操作によって移動された場合に限らず、オブジェクト122に対する拡大操作が入力され、画面121外へオブジェクト122の一部が消失し、はみ出したように表示される場合にも、送信指示が入力されたと判断するように変形してもよい。拡大操作の例としては、2本の指を閉じた状態でオブジェクト122にタッチし、タッチした状態で指を広げるピンチアウトのような操作が考えられる。このようにすることで、送信側装置の画面においても受信側装置の画面においても、ある程度の面積のオブジェクト122が表示されることとなり、ユーザが互いにオブジェクトの内容を把握しながら送受信操作を行うことができる。この場合にも、受信側装置において、ユーザが出現したオブジェクト122を押し戻したり、所定時間放置したりした場合には、電子データの受け取りが拒否されたと判断し、送信を中止してもよい。また、このようにドラッグ操作だけでなく、様々なタッチ操作に応じてオブジェクト122が送信画面外へはみ出す場合、一様に送信指示が入力されたと一貫して判断することで、ユーザが覚えやすい操作を実現できるという効果がある。
前述した変形例は、これらのいずれかであっても効果があるが、組み合わせて利用してもよい。その際、画面の大きさに適した方法が選択されたり、あるいはユーザが任意に設定できるなどの構成とすることで、異なる大きさの画面を有したり、処理機能に違いのある様々な機器に適応可能となる。
次に、図3は、本実施形態の情報処理装置100において実行される、オブジェクトを受信する処理の流れの一例を示すフローチャートである。本実施形態では、上述したように、送受信を行う複数の情報処理装置では、同じアプリケーションを実行することにより、予め互いを識別して通信を行うことが可能な状態となっている。情報処理装置100では、当該アプリケーションにおいて受信モードが設定されたことにより、図3のフローチャートが起動され、受信側装置として機能する。
まず、ステップS301では、受信部117が、送信側装置から送信された情報を受信したか否かを判定する。本実施形態において、受信部117は、少なくとも送信側装置の送信部116が最初に送信したフラグの情報と、オブジェクト122(サムネイル画像)の画像情報の受信が完了したことに応じて、ステップS301の判定を行う。これにより、速やかにオブジェクト122の描画処理を開始できる。送信側装置から送信された情報を受信したと判定された場合には(ステップS301でYES)、ステップS302に進む。送信側装置から送信された情報を受信していないと判定された場合には(ステップS301でNO)、受信するまで待機する。なお、本実施形態では、オブジェクト122に対応する画像データは、以下に続くステップによる表示制御処理と同時に非同期で裏で引き続き受信されている。
ステップS302では、位置決定部118が、ステップS301で受信した情報に基づいて、操作方向は前回の送信操作と同じであるか否かを判定する。本実施形態では、ステップS301で受信したフラグの情報の値に応じて判定を行う。すなわち、フラグの値がtrueであれば、操作方向は前回の送信操作と同じであると判定し(ステップS302でYES)、ステップS306に進む。一方、フラグの値がfalseであれば、操作方向は前回の送信操作とは異なると判定し(ステップS302でNO)、ステップS303に進む。
ステップS303では、受信部117が、送信側装置の送信部116が送信した、操作方向を示す情報を保持部112に保持させる。
ステップS304では、位置決定部118が、操作方向を示す情報に基づいて、送信側装置と受信側装置の位置関係を推定する。具体的には、受信側装置の画面121に対して送信側装置が存在する方向を推定する。そして、画面121において、操作対象のオブジェクト122を、推定された位置から出現するように表示するため、オブジェクト122を出現させる画面上の位置(以下、出現位置)を決定する。本実施形態では、送信側装置と受信側装置は、それぞれの画面121における表示上の上下左右を一致させるように配置された状態で操作される。このとき、オブジェクト122が両装置の画面を連続的に移動するように表示制御を行うためには、送信側装置でのオブジェクト122の移動操作の最終位置は、受信側装置でのオブジェクト122の出現位置と連続している必要がある。
本実施形態では、送信側装置のユーザは、送信側装置の画面に対して受信側装置が存在する方向に向かうドラッグ操作によって送信操作を入力し、その方向が操作方向として受信側装置に送信される。従って、受信側装置の画面から見れば、受信側装置の画面の中心から、操作方向の逆向きの方向に向かう方向の先に、送信側装置が存在すると推定することができる。
従って、位置決定部118は、画面の中心を始点とし、かつ操作方向を180度反転させた方向を持つベクトルを生成し、このベクトルと画面の縁とが交差する位置を、オブジェクトの出現位置として決定する。これは、このベクトルと画面の縁とが交差する位置の周辺が、受信側装置の画面の縁のうち、送信側装置への距離が近い部分であると考えるためである。本実施形態では、送信側装置と受信側装置の画面は表示上の上下左右が一致した状態で配置されているため、矩形の表示画面121の場合、それぞれの画面が隣接するのは、互いに対角関係にある辺あるいは頂点同士である可能性が高い。例えば、送信側装置でのドラッグ操作の最終位置が、送信側装置の画面121の左端だった場合、送信側装置が向かって右、受信側装置が向かって左という位置関係であって、それぞれ左辺側と右辺側のどこかが隣接するように配置されている可能性が高い。従って、送信側装置の画面の左端の最終位置の、画面121の中心の座標について点対称となる点、すなわち受信側装置の画面121の右端に存在する点を出現位置として決定することで、2つの装置の画面の境界において連続するように表示制御を行いやすくなる。本実施形態では、上述したように、操作方向を180度反転させた方向を持つベクトルを利用して出現位置の座標を決定する。従って、送信側装置と受信側装置の画面サイズや解像度に差異があった場合でも、最終位置に対して点対称な点を、妥当な出現位置として決定することができる。
次に、ステップS305では、位置決定部118が、ステップS304で決定した出現位置の情報を保持部112に保持させる。
一方、ステップS306では、位置決定部118が保持部112に保持されている情報のうち、前回ステップS304の処理が行われたときに決定した出現位置、及び操作方向の情報を読み出す。
ステップS307では、表示制御部119が、画面121において、位置決定部118が決定した出現位置からオブジェクト122が出現するように表示制御を実行する。本実施形態では、送信側装置で決定された操作方向に沿って、オブジェクト122が出現位置から出現するようなアニメーションを使って表示する。これは、送信側装置の画面におけるオブジェクトの移動方向と、受信側装置の画面における同じオブジェクトの移動方向は平行であるとみなすことができるからである。そのため、表示制御部119が、受信された画像情報を利用して描画処理を行い、出現位置の座標を中央として、オブジェクト122が出現するように位置を合わせた表示画像によるアニメーションを生成し、ディスプレイ105に出力する。ただし、オブジェクトを出現位置から出現させるように表示させる方法は、このようなアニメーションを使用するやり方に限らない。例えば、出現位置付近に、オブジェクト122の一部のみが表示され、オブジェクト122の残りの部分が画面121の外にはみ出しているような静止画像を生成し、ディスプレイ105に出力してもよい。
さらに、ユーザが出現したオブジェクト122をタッチしたことが検出された場合には、ユーザがタッチ位置を移動させるのに応じて、オブジェクト122の表示位置を制御する。さらに、ユーザがタッチを止めた時には、オブジェクト122の表示位置が画面121の中央になるように制御する。また、送信側装置から、送信操作時のドラッグスピードや、オブジェクト122の画面外に出た部分の面積の大きさを示す情報を受信した場合、送信側装置において画面外に出た部分が受信側装置の画面に出現するように同期した表示制御を行うこともできる。なお、ユーザが出現したオブジェクトをタッチしない場合に、電子データの受け取りが拒否されたとして、電子データの受信を中止したり、受信した電子データや閲覧権限を削除したりしてもよい。
以上が、本実施形態において、受信側装置として機能する情報処理装置100が実行する、オブジェクトの受信処理の流れである。このように複数の情報処理装置が互いの位置情報を精度よく取得する手段を有さない場合でも、受信側装置において送信側装置から受信した、方向の情報に基づく処理を行うことにより、互いに連携した表示制御が可能になる。受信側装置のユーザは、送信側装置と連携した表示制御により、オブジェクトを受信したことと、当該オブジェクトを送信した相手の位置を直感的に把握できる。
なお、ステップS304において受信側装置が実行する出現位置の決定方法は、操作方向に基づくベクトルによる方法に限らない。例えば、送信側装置の画面におけるドラッグ操作での、最終的なタッチ位置の座標を基に、出現位置を決定しても良い。この場合、送信側装置では、ステップS209及びS212において、ステップS201で最後に検出されたタッチ位置の座標を、最終位置として受信側装置に送信する。そして、受信部117は、送信された最終位置の情報を、操作方向の情報とともに保持部112に保持する。そして、位置決定部118は、保持部112に保持されている最終位置の、画面の中心点について点対称となる点を出現位置の座標として決定する。この場合、本実施形態のように、送信側装置と受信側装置が同じ大きさで、画面解像度も等しいディスプレイを有する装置であれば、もともと画面の外周に相当する座標に、対応する対角の座標を保持させておくことも可能である。このように事前に情報を取得しておくことにより、ベクトルを生成するよりも速やかに出現位置を決定できる場合もある。
ここで、図4を参照し、ステップS206において実行される操作方向を決定処理と、ステップ304において実行される操作方向に基づく出現位置の決定処理について詳述する。
図4(a)は、上下を揃えて真横に並べられた2つの情報処理装置100において、本実施形態によるオブジェクトの送受信操作を行う操作例を示している。ここでは送信側装置401aから受信側装置401bに、オブジェクト403を送信する例を説明する。
まず、送信側装置401aにおいて、操作方向が決定される処理(ステップS206)を説明する。今、送信側装置401aから見て、受信側装置401bは左側に存在するため、ユーザは、オブジェクト403を左側に移動させるようにドラッグ操作を入力する。
図4(a)において、Pa、Pb、Pc、Pd、Peは、ユーザがオブジェクト403に対してドラッグ操作を行っている間に、検出部111によって検出されたタッチ位置を示す。つまり、Paで最初にタッチ位置が検出されてから、画面402aの端に到達するまでに5回検出部111によってタッチ位置が検出されている。図4(b)は、ステップS201において検出部111が保持部112に保持した情報を一例として示すテーブルである。本実施形態では、図4(a)と対応するように、Pa、Pb、Pc、Pd、Peの各タッチ位置について、検出された時刻(Time)と、座標(coordinatedata of Drag)とが関連付けられている。このように、本実施形態では、図4(b)のようにタッチ操作が開始されてからの一連の座標情報を保持している。この場合、最終位置はPe(Xe,Ye) である。
操作方向は、保持されている情報の少なくとも一部を用いて、例えば下記のような式で取得することができる。
操作方向 = atan((Ye − Ya)/(Xe − Xa)) ・・・(式3)
図4(a)の例において、求められる操作方向は矢印404に示されるように、左方向となり、角度を示す値270が操作方向を示す情報として、受信側装置401bに送信される。
ただし、保持部112には、必ずしも図4(b)のようにドラッグ操作中に検出される全ての情報を保持しなくてもよい。例えば、タッチ開始時のタッチ位置と、最新の検出時のタッチ位置の2箇所を保持することでも、(式3)によって操作方向を取得することができる。このように、保持部112に保持するタッチ位置の情報を限定することで、必要な記憶領域を削減することもできる。
なお、操作方向を取得する方法は、保持された座標情報と(式3)を利用する例に限らず、方向の取得方法はどのような方法をとってもよい。例えば、最終位置が画面402aの周囲四辺のうち、いずれの辺に近接するかに従って、操作方向を上下左右のいずれかに決定することもできる。その場合、角度を求める計算処理が不要となり、負荷をかけずに本実施形態を実現することができる。さらに4辺を任意の数に分割し、左上・右下などのように方向情報の粒度を調整することもできる。また、利用される計算式も(式3)に限定されず、例えば保持部112に保持されている複数の座標情報の分散を利用して特定される直線と、座標軸とのなす角度を求めることもできる。
次に、受信側装置401bにおいて、受信した操作方向を示す情報に基づいて、操作対象のオブジェクト403の出現位置を決定する処理(ステップS304)を説明する。
本実施形態では、受信した操作方向を示す情報に基づいて、画面402bの中心から送信側装置401a側に向かう方向を有するベクトルを生成する。図4(a)の例では、矢印407に示されるように、画面402bの中心406を始点とし、操作方向(y軸から時計回りに270度)を、180度反転させた方向(y軸から時計回りに90度)を有するベクトルが生成される。そして、矢印407と画面402bが交差する点408が、出現位置として決定され、座標が取得される。
従って、受信側装置401bでは、出現位置として決定された点408から、オブジェクト403が出現するような表示制御が行われる。具体的には、点408が、オブジェクト403の左側の短辺の中点と一致する状態から、挿入が開始されるような表示画像が生成され、ディスプレイ105に出力される。
以上説明したように、本実施形態では、複数の情報処理装置が互いの位置情報を精度よく取得する手段を有さない場合でも、簡単な情報をやり取りすることで送信側装置、および受信側装置の画面において、オブジェクトの表示状態を連携させることができる。
なお、本実施形態では、送信側装置において、ドラッグ操作に基づいて決定した操作方向に基づく情報を受信側装置に送信し、当該情報を受信した受信側装置は、操作方向を使用して、オブジェクトを画面上に出現させる出現位置を決定した。このように操作方向に基づいて出現位置を決定することで、例えば、送信側装置と受信側装置の画面サイズや解像度に差異があった場合でも、最終位置に対して点対称な点を、妥当な出現位置として決定することができる。ただし、受信側装置においてオブジェクトの表示位置の制御に使用される情報として送信側装置が決定する情報は、操作方向に限らない。例えば、送信側装置において、受信側装置の画面におけるオブジェクトの出現位置を決定して、出現位置を示す情報を送信しても構わない。また、送信側装置において、受信側装置の画面に出力される表示画像を生成して、その描画のために使用される情報を送信しても構わない。また、送信時と受信時のオブジェクトの画面に対する出入りを表すアニメーション等が、予め複数の操作方向に対応するように複数用意され、各装置の記憶部あるいは外部装置にされていてもよい。この場合、送信側装置はユーザのドラッグ操作に基づいて、いずれのアニメーションを用いるかを決定することで、オブジェクトが画面外に向かって消失するように表示する。そして、オブジェクトの表示位置の制御に使用される情報として、受信側装置が用いるアニメーションを指定する情報を送信する。受信側装置では、受信した情報が示すアニメーションを使用して、オブジェクトが画面内に出現するように表示する。
また、上記では、操作対象を送信する送信側装置と、送信された操作対象を受信する受信側装置のどちらにもなり得る情報処理装置を説明したが、本実施形態では、送信専用装置と受信専用装置によっても実現される。
[操作例1]
次に、具体的な操作例を挙げて、本実施形態で実行される一連の処理を説明する。
図5は、図4(a)と同様に、上下を揃えて真横に並べられた情報処理装置100において、本実施形態によるオブジェクトの送受信操作を行う操作例を示している。ここでは、送信側装置501aから受信側装置501bに、オブジェクト503を送信する。送信側装置501bのユーザは、ドラッグ操作でオブジェクト503の表示位置を移動させ、受信側装置501bが存在する左側に向かって画面502aの外に送りだすようにする。なお、図5で説明する操作例1は、初めて行われる操作であって、送信側装置501aの保持部112には前回の操作方向を示す情報は保持されていないものとする。
図5(a)は、送信側装置501aの画面502aの中心にオブジェクト503が表示されている状態において、ユーザがオブジェクト上でドラッグ操作を開始した様子を示す。タッチ位置504は、ステップS201で取得される最新のタッチ位置であって、矢印方向にドラッグ操作が行われている(ステップS202でYES)。従って、タッチ位置504が移動されるのに追従して、オブジェクト503の表示位置を移動させる表示制御が実行される(ステップS203)。本実施形態では、タッチ位置504が画面502aの端に到達したとみなせるように、(式1)及び(式2)の条件を設定する。よって、図5(a)の状態では、オブジェクトの送信指示が入力されたとは判定されず(ステップS204でNO)、送信側装置501a内に閉じたドラッグ操作であるとして扱われる。
図5(b)は、ドラッグ操作が進められて、タッチ位置504が画面502aの端に到達した様子を示す。この場合、タッチパネル上の左下を座標平面の原点とすると、タッチ位置504のドラッグ地点が示すドラッグ入力のX軸方向の座標値が0になり、(式1)を満たさなくなる。そのため、オブジェクトの送信指示が入力されたと判定される(ステップS204でYES)。次に、ステップS205において、操作方向が決定される。図5(b)では、オブジェクト503は、図4(a)と同様に、画面に向かって左方向にドラッグ操作で移動されているため、操作方向を示す角度の情報は、270[度]という値として決定される。今、保持部112には前回の操作方向を示す情報は保持されていないため、決定された操作方向は、前回の送信操作の操作方向と同じではないと判定される(ステップS207でNO)。従って、操作方向を示す情報が保持部112に保持され(ステップS210)、操作方向は前回と異なることを示すフラグ情報falseが受信側装置501bに送信される(ステップS211)。さらに、操作方向を示す情報として、270[度]という角度を示す値、オブジェクト503の画像情報が、受信側装置501bに向け、送信される(ステップS212)。そして、画面502aでは、操作方向に沿って、すなわち左に向かって、オブジェクト503が画面502aから消失するように表示制御される(ステップS213)。
図5(c)は、受信側装置501bが送信側装置501aから送信された情報を受信した(ステップS301)ことにより、表示制御処理が開始された様子を示す。まず、受信側装置501bでは、送信側装置501aから送信されたfalseというフラグ情報に基づいて、操作方向が前回とは異なると判定される(ステップS302でNO)。従って、受信した操作方向を示す情報として、270[度]の値を保持部112に保持する(ステップS303)。そして、画面502bの中心を始点とし、270[度]を180度反転させた90[度]という方向を持つベクトルを生成し、画面502bの端と交差する点505を出現位置として決定する(ステップS304)。受信側装置501bにおいては、出現位置505から出現したオブジェクト503が操作方向に沿って移動するように表示する(ステップ307)。本実施形態では、画面502aと画面502bの表示上の上下左右が一致するように配置されているため、このような表示制御により、オブジェクト503が画面502aと画面502bの境界を超えて、連続的に移動しているように表示される。従って、各装置が互いの位置情報を精度よく取得する手段を有さない場合でも、ユーザはオブジェクトの装置間の移動を直感的に把握できる。
[操作例2]
図6は、上下にずれた位置関係にある2つの情報処理装置100において、本実施形態によるオブジェクトの送受信操作を行う操作例を示している。ただし、この場合にも、それぞれの装置の画面における表示上の上下左右は一致しているものとする。
ここでは、送信側装置601aから受信側装置601bに、オブジェクト603に対応する画像データを送信する。送信側装置601bのユーザは、ドラッグ操作でオブジェクト603の表示位置を移動させ、受信側装置601bが存在する方向(画面602aに向かって左上)に送りだす。ただし、図6で説明する操作例2においては、操作例1における操作方向が送信側装置601aの保持部112に保持されているものとする。
図6(a)は、送信側装置601aの画面602aの中心にオブジェクト603が表示されている状態において、ユーザがオブジェクト上でドラッグ操作を開始した様子を示す。このとき、タッチ位置604が矢印方向にドラッグ操作で移動されるのに追従して、オブジェクト603の表示位置を移動させる表示制御が実行される(ステップS203)。図6(a)の状態では、タッチ位置604が(式1)(式2)を満たすため、オブジェクトの送信指示が入力されたとは判定されず(ステップS204でNO)、送信側装置601a内に閉じたドラッグ操作であるとして扱われる。
図6(b)は、ドラッグ操作が進められて、タッチ位置604が画面602aの端に到達した様子を示す。この場合、タッチ位置604のドラッグ地点が示すドラッグ入力のX軸方向の座標値が0になり、(式1)を満たさなくなる。そのため、オブジェクトの送信指示が入力されたと判定される(ステップS204でYES)。次に、ステップS205において、操作方向が決定される。図6(b)では、操作方向を示す角度の情報は、300[度]という値として決定されるとする。300[度]は、保持部112に保持されている前回の操作方向を示す情報270[度]とは異なるため、決定された操作方向は、前回の送信操作の操作方向と同じではないと判定される(ステップS207でNO)。従って、操作方向を示す情報が保持部112に保持され(ステップS210)、操作方向は前回と異なることを示すフラグ情報falseが受信側装置601bに送信される(ステップS211)。さらに、オブジェクト603の画像情報と、操作方向を示す情報として300[度]という角度を示す値と、オブジェクト603に対応する画像データとが、受信側装置601bに向け、送信される(ステップS212)。そして、画面602aでは、操作方向に沿って、すなわち左に向かって、オブジェクト603が画面602aから左上に消失するように表示制御される(ステップS213)。
図6(c)は、受信側装置601bが送信側装置601aから送信された情報を受信した(ステップS301)ことにより、表示制御処理が開始された様子を示す。まず、受信側装置601bでは、送信側装置601aから送信されたfalseというフラグ情報に基づいて、操作方向が前回とは異なると判定される(ステップS302でNO)。従って、受信した操作方向を示す情報として、300[度]の値を保持部112に保持する(ステップS303)。そして、画面602bの中心を始点とし、300[度]を180度反転させた120[度]という方向を持つベクトルを生成し、画面602bの端と交差する点605を出現位置として決定する(ステップS204)。受信側装置601bにおいては、出現位置605から出現したオブジェクト603が操作方向に沿って移動するように表示する(ステップ307)。本実施形態では、画面602aと画面602bの表示上の上下左右が一致するように配置されているため、このような表示制御により、オブジェクト603が画面602aと画面602bの境界を超えて、連続的に移動しているように表示される。従って、各装置が互いの位置情報を精度よく取得する手段を有さない場合でも、ユーザはオブジェクトの装置間の移動を直感的に把握できる。
[操作例3]
図7は、操作例1と同様に、上下を揃えて真横に並べられた2つの情報処理装置100において、2つ以上のオブジェクトに対して連続して送受信操作を行う操作例を示している。ただし、この場合にも、それぞれの装置の画面における表示上の上下左右は一致しているものとする。
図7(a)は、既にオブジェクト703aが送信側装置701aから、受信側装置701bに送信された状態を示している。送信側装置701aの画面702aには、さらにオブジェクト703bとオブジェクト703cが表示されており、ユーザがオブジェクト703bの送受信される操作例を説明する。ここで、前回オブジェクト703aが送信されたときに決定された操作方向を示す情報は、270[度]であったとする。ここでは、タッチ位置704が、矢印方向にドラッグ操作で移動されるのに追従して、オブジェクト703bの表示位置を移動させる表示制御が実行される(ステップS203)。図7(a)の状態では、オブジェクトの送信指示が入力されたとは判定されず(ステップS204でNO)、送信側装置701a内に閉じたドラッグ操作であるとして扱われる。
図7(b)は、ドラッグ操作が進められて、タッチ位置704が画面702aの端に到達した様子を示す。この場合、タッチ位置704のドラッグ地点が示すドラッグ入力のX軸方向の座標値が0になり、(式1)を満たさなくなる。そのため、オブジェクトの送信指示が入力されたと判定される(ステップS204でYES)。次に、ステップS205において、操作方向が決定される。図7(b)においても、操作方向を示す角度の情報は、270[度]と決定される。270[度]は、保持部112に保持されている前回の操作方向を示す情報270[度]と同じであると判定される(ステップS207でYES)。従って、受信側装置701bに対して、操作方向が前回と同じ方向であることを示すフラグ情報trueが送信される(ステップS208)。さらに、オブジェクト703bの画像情報と、オブジェクト703bに対応する画像データが受信側装置701bに対して送信される(ステップS209)。そして、画面702aでは、操作方向に沿って、すなわち左に向かって、オブジェクト703bが画面702aから左に消失するように表示制御される(ステップS213)。
図7(c)は、受信側装置701bが送信側装置701aから送信された情報を受信した(ステップS301)ことにより、表示制御処理が開始された様子を示す。まず、受信側装置701bでは、送信側装置701aから送信されたtrueというフラグ情報に基づいて、操作方向が前回とは同じであると判定される(ステップS302でYES)。従って、保持部112に保持されている、前回の処理における操作方向を示す情報270[度]と、出現位置705の座標情報を読み出す(ステップs306)。そして、画面702bにおいて、出現位置705から出現したオブジェクト703bが操作方向に沿って移動するように表示する(ステップ307)。本実施形態では、画面702aと画面702bの表示上の上下左右が一致するように配置されているため、このような表示制御により、オブジェクト703bが画面702aと画面702bの境界を超えて、連続的に移動しているように表示される。従って、各装置が互いの位置情報を精度よく取得する手段を有さない場合でも、ユーザはオブジェクトの装置間の移動を直感的に把握できる。
このように、2つ以上のオブジェクトを連続して送受信する場合には、操作方向が前回の送受信操作と同じか否かを示すフラグ情報を利用した判定を行うことにより、送信される情報量を減少させることができ、通信処理の負荷の低減につながる。さらに、受信側装置において座標を求める計算処理を省略することができるので、情報処理装置100の処理負荷を低減することができる。
<第1の実施形態の変形例>
これまで説明した第1の実施形態では、送信側装置の画面の中心に表示されているオブジェクトに対して行われるドラッグ操作で、オブジェクトの送信指示が入力されることを想定していた。すなわち、操作方向は、画面の中心付近から放射状に広がる方向のいずれかであるとみなしていた。従って、受信側装置において出現位置を決定するために生成するベクトルは画面の中心を始点とし、送受信の操作対象であるオブジェクトは常に画面の中心に向かって出現するように表示制御が行われた。
ここで、第1の実施形態の変形例として、受信側装置において出現位置を決定する際に、送信側装置から送信された操作方向に加えて、最終位置を利用する例を説明する。ここで、最終位置とは、送信側装置において、オブジェクトの送信指示が入力されたか否かを判定するのに利用された、最新のタッチ位置である。
これにより、変形例では、送信側装置において、オブジェクトの送信指示が入力されるまでに、送信側装置内に閉じたドラッグ操作で操作対象のオブジェクトが任意の位置に移動されていた場合でも、違和感なく両装置での表示内容を連携させることができる。
図8は、第1の実施形態の変形例における出現位置の決定方法を示す概要図である。図8(a)は、情報処理装置100の画面801の周囲の辺のうち、2本の長辺を三分割することにより、画面801の周囲に802〜809の8つの分割領域を設定した様子を示している。図8(b)は、送信側装置の画面において、最終位置がこれらのうちのいずれの領域に含まれるかによって、受信側装置の画面において出現位置がこれらのうちのいずれの領域内に決定されるかという対応関係を示すテーブルである。第1の実施形態の変形例では、このテーブルがROM102に記憶されているものとする。なお、ここでは、「出現位置1」と「出現位置2」の2パターンの決定方法を示している。「出現位置1」に従う場合、2本の長辺付近の最終位置と、それに対応する出現位置の位置関係は、第1の実施形態と同様に、画面の中心に対して点対称となる。一方、「出現位置2」に従う場合、2本の長辺付近の最終位置と、それに対応する出現位置の位置関係は、画面の中央を縦断する直線に対して対象となる。それぞれの場合の表示状態については後述する。
第1の実施形態の変形例において、送信側装置及び受信側装置で実行される処理の具体的な内容は上述した図2及び図3のフローチャートの処理ステップに準じる。以下では、第1の実施形態と異なる点を説明する。
第1の実施形態の変形例では、送信側装置で実行されるステップS206において、方向決定部114が操作方向を決定する際に、保持部112に保持されている複数のタッチ位置の座標情報のうち、直近の所定回数の検出処理で取得された座標情報を利用する。それにより、送信側装置において、オブジェクトを画面外に送りだす直前のドラッグ操作の方向を求め、操作方向として決定する。例えば、保持部112に保持されているドラッグ操作中のタッチ位置の移動軌跡のうち、直近の5つのタッチ位置に基づいて求められる直線と、Y軸のなす角度を操作方向として決定する。これにより、ドラッグ操作開始時にオブジェクトの表示位置に関わらず、ユーザが当該オブジェクトを送信する指示を入力した時に、オブジェクトが移動されていた方向を操作方向として決定する。そして、ステップS208またはステップS211において、表示制御部119が、操作方向が前回と同じか否かを示すフラグ情報とともに、最終位置の情報を受信側装置に送信する。ここで、最終位置の情報は、最終位置の座標情報か、あるいは最終位置が領域802〜809のいずれに含まれるかを示す識別情報であってもよい。
そして、第1の実施形態の変形例では、受信側装置で実行されるステップS304において、位置決定部118が、受信した最終位置の情報に基づいて出現位置を決定する。まず、受信した情報が示す最終位置が、上述した領域802〜809のいずれに含まれるかを判定し、図8(b)のテーブルを参照する。位置決定部118は、図8(b)のテーブルに基づいて、最終位置が含まれる領域に対して、出現位置が含まれる領域として対応付けられている領域を特定する。そして、操作対象のオブジェクトがその領域部分から受信側装置の画面内に出現するように、出現位置の座標を定める。第1の実施形態の変形例では、各領域の長手方向の辺のうち、より画面の外側に位置する辺の中心座標を出現位置として決定する。そして、ステップS307では、表示制御部119が、決定された出現位置から、操作対象のオブジェクトが出現するように表示制御を実行する。
図9は、2つの情報処理装置100において、第1の実施形態の変形例によるオブジェクトの送受信操作を行う操作例を示している。ここでは送信側装置901aから受信側装置901bに、オブジェクト903を送信する例を説明する。図9(a)は、受信側装置901bにおいて、図8(b)のテーブルの「出現位置1」に従って、出現位置が決定された場合を示す。図9(b)は、受信側装置901bにおいて、図8(b)のテーブルの「出現位置2」に従って、出現位置が決定された場合を示す。
図9(a)は、送信側装置901aにおいて、最終位置が領域808に含まれていたため、図8(b)のテーブルの「出現位置1」に従って、出現位置が領域804内に決定された様子を示している。各装置のユーザが、各情報処理装置を手に保持して利用する際には、このように画面の上下方向のずれが生じる場合が多い。従って、送信側装置901aのユーザが、あえてオブジェクト903を画面の左上寄りの位置に移動させるドラッグ操作を行った場合には、受信側装置901bが送信側装置901aよりも左上寄りに配置されている可能性がある。従って、「出現位置1」に従う変形例では、第1の実施形態と同様に、2本の長辺付近の最終位置と、それに対応する出現位置の位置関係は、第1の実施形態と同様に、画面の中心に対して点対称となるように対応関係を設定する。
一方、図9(b)は、送信側装置901aにおいて、最終位置が領域808に含まれていたため、図8(b)のテーブルの「出現位置2」に従って、出現位置が領域802内に決定された様子を示している。送信側装置901aのユーザが、あえてオブジェクト903を画面の左上寄りの位置にスライドする場合には、オブジェクトが送信側装置901a内に閉じたドラッグ操作によって、既に画面の上側に寄った位置に表示されている場合も考えられる。この場合、装置同士に画面上下方向のずれが無かったとしてもユーザがオブジェクトを横方向にドラッグすることによって送信指示を入力したため、最終位置は左上に寄っている可能性がる。従って、「出現位置2」に従う変形例では、2本の長辺付近の最終位置と、それに対応する出現位置の位置関係は、画面の中央を縦断する直線に対して対象となる。それぞれの場合の表示状態については後述する。
いずれの場合も、送信側装置において入力されたドラッグ操作の最終位置を利用して受信側装置におけるオブジェクトの出現位置を決定することにより、オブジェクト903が画面902aと画面902bの境界を超えて、連続的に移動しているように表示される。従って、各装置が互いの位置情報を精度よく取得する手段を有さない場合でも、ユーザはオブジェクトの装置間の移動を直感的に把握できる。さらに、送信側装置において、オブジェクトの送信指示が入力されるまでに、送信側装置内に閉じたドラッグ操作で操作対象のオブジェクトが任意の位置に移動されていた場合でも、違和感なく両装置での表示内容を連携させることができる。
なお、「出現位置1」に従うか、「出現位置2」に従うかは、操作環境に応じて設定することができるものとする。また、第1の実施形態と、第1の実施形態の変形例も、設定によって使い分けることができてもよい。また、第1の実施形態において、決定された操作方向が所定の条件を満たす場合に、第1の実施形態の変形例の処理に移行するなど、装置内の判断によって使い分けることもできる。
<第2の実施形態>
第1の実施形態では、送信側装置と受信側装置とが、それぞれの画面における表示上の上下左右を一致させるように配置された状態を想定していた。そのため、それぞれの画面上で定義された座標軸に基づく角度情報を利用した表示制御を行うことによって、表示オブジェクトの2つの情報処理装置をまたぐ平行移動を実現した。それに対し、第2の実施形態では、2つの情報処理装置の姿勢が反転しているようなケースにおいても、画面間の境界を超えてオブジェクトが連続的に移動しているように表示する実施形態を説明する。
図10は本実施形態に係る情報処理装置100の構成を示す図である。本実施形態では、情報処理装置100は、操作対象を送信する送信側装置と、送信された操作対象を受信する受信側装置のどちらにもなり得る。尚、第1の実施形態と同様の処理を行う部分については、同一の符号を付記して、その詳細な説明を省略する。
図10(a)は、本実施形態に係る情報処理装置100のハードウェア構成の一例を示すブロック図である。第1の実施形態と異なる点は、方位取得センサ1007が加わったことである。方位取得センサ1007は、GPS(Global Positioning System)センサ、地磁気センサ、加速度センサ等により、方位に対する情報処理装置100の向き(姿勢)を検知するデバイスである。ここで、方位とは、東西南北で示される方位であって、情報処理装置100やその周囲の環境に依存しない絶対的な基準としての方位情報である。
図10(b)は、本実施形態に係る情報処理装置100の機能構成の一例を示すブロック図である。第1の実施形態と異なる点は、方位検知部1011、第1の変換部1012、第2の変換部1013が加わったことである。
方位検知部1011は、CPU101、ROM102、RAM103、方位取得センサ1007によって構成され、方位に対する情報処理装置100の表示画面上の座標軸(座標軸の向きは第1の実施形態に順ずる)の方向を示す情報を取得する。第2の実施形態においても、方向決定部114は情報処理装置100の画面上に対して定義された座標軸に基づく角度の情報として、操作方向を決定する。
第1の変換部1012は、CPU101、ROM102、RAM103等によって構成され、方位検知部1011が取得した方位との関係を利用して、画面上で定義された角度情報を、方位に対する角度情報に変換する。そして、変換後の方位に対する角度情報を、操作方向を示す情報として送信管理部115に通知するとともに保持部112に保持する。通知を受けた管理部115は、第1の実施形態と同様に、前回決定された操作方向を示す情報と、今回決定された操作方向を示す情報との比較結果に基づいて、送信部116に送信させる情報を決定する。
第2の変換部1013は、受信部117が受信した情報のうち、操作方向を示す方位に対する角度情報を、画面上で定義された角度情報に変換して、変換後の角度情報を保持部112に保持するとともに、位置決定部118に通知する。位置決定部118は、第1の実施形態と同様に、操作方向を示す情報を利用して、出現位置を決定する。そして、表示制御部119では、決定された出現位置から、画面上で定義された角度情報に変換された操作方向に沿って、オブジェクトが出現するように表示制御を実行する。
次に、図11及び図12のフローチャートを参照して、本実施形態において、送信側装置及び受信側装置のそれぞれで実行される具体的な処理の流れを説明する。ただし、図2及び図3と同番号を付した処理ステップでは、同じ内容の処理が実行される。従って詳細な説明は省略し、第1の実施形態と異なる点を説明する。
図11は本実施形態の情報処理装置100において実行される、オブジェクトを送信する処理の流れの一例を示すフローチャートである。情報処理装置100では、送信モードが設定され、画面の中心部に少なくとも1つのオブジェクトが表示されている状態で、ユーザがオブジェクト上をタッチしたことが入力インタフェース105から通知されると、図11のフローチャートが起動される。
第2の実施形態では、ステップS206において、方向決定部114が操作方向を決定したら、ステップS1101に進む。ただしステップS206において、方向決定部114は、送信側装置の画面上に定義された座標軸に基づいて、ユーザ操作によるドラッグ方向の、y軸に対する角度の値を、操作方向を示す情報として決定する。
ステップS1101では、方位検知部1011が、送信側装置の画面に定義された座標軸と方位の関係を取得する。本実施形態では、図1(c)と同じように画面に対してx軸とy軸が定義されており、画面の奥行き方向(z軸方向)は考えない。本実施形態のステップS1101では、方位検知部1011は、y軸が真北に対してなす角度を示す値を取得する。ここで、角度を表す値は、真北方向を基準とし、0[度]から359[度]までの数値とし、360度以上あるいは0度以下の角度が求められた場合には、範囲内に納まるように値を変換するものとする。従って、真南に向く方向は180[度]、真西に向く方向は270[度]として扱うこととなる。ただし、方向を示す情報は角度を示す値に限らず、東西南北といったように、粒度を落とした情報を利用してもよい。
ステップS1102では、第1の変換部1012が、ステップS1101で取得された座標軸と方位の関係を利用して、ステップS206において決定された操作方向を、方位で示される情報に変換する。本実施形態では、y軸が方位の真北方向に対してなす角度の情報を利用して、y軸に対する角度で定義されていた操作方向を、真北に対する角度を示す情報に変換する。
ステップS207以降で実行される処理は、第1の実施形態に準じる。ただし、各処理で利用される操作方向の情報は、ステップS1102において第1の変換部1012による変換が行われた後の、真北に対する角度を示す情報で示された操作方向の情報である。
以上が、第2の実施形態において、送信側装置として機能する情報処理装置100が実行するオブジェクト送信処理の流れである。本実施形態でも、送信側装置のユーザは、送信したい相手(受信側装置)が存在する位置に向けて、オブジェクトをドラッグするという直感的な操作で、送信操作の対象の指定と送信開始の指示を入力することができる。
次に、図12は、第2実施形態の情報処理装置100において実行される、オブジェクトを受信する処理の流れの一例を示すフローチャートである。本実施形態においても、送受信を行う複数の情報処理装置では、同じアプリケーションを実行することにより、予め互いを識別して通信を行うことが可能な状態となっている。情報処理装置100では、当該アプリケーションにおいて受信モードが設定されたことにより、図12のフローチャートが起動され、受信側装置として機能する。
第2の実施形態では、ステップS302において、位置決定部118が、送信側装置から送信されたフラグ情報に基づいて、操作方向は前回の送信操作と同じではないと判定したら、ステップS1201に進む。
ステップS1201では、方位検知部1011が、送信側装置の画面に定義された座標軸と方位との関係を取得する。本実施形態の方位検知部1011は、受信側装置の表示画面上で定義されるy軸が真北に対してなす角度を示す値を取得する。
ステップS1202では、第2の変換部1013が、ステップS1201で取得された座標軸と方位との関係を利用して、受信部117が受信した、方位で示されている操作方向の情報を、受信側粗装置の画面上で定義された角度の情報に変換する。本実施形態では、Y軸が方位の真北方向に対してなす角度の情報を利用して、真北に対する角度を示す情報を、Y軸に対する角度で定義された操作方向を示す情報に変換する。
ステップS303以降で実行される処理は、第1の実施形態に準じる。ただし、以降の処理において扱われる操作方向を示す情報は、受信装置の画面上で定義された座標軸に基づく角度で示される情報である。
以上が、本実施形態において、受信側装置として機能する情報処理装置100が実行する、オブジェクトの受信処理の流れである。本実施形態においても、受信側装置において送信側装置から受信した操作方向の情報に基づく処理を行うことにより、互いに連携した表示制御が可能になる。受信側装置のユーザは、送信側装置と連携した表示制御により、オブジェクトを受信したことと、当該オブジェクトを送信した相手の位置を直感的に把握できる。なお、本実施形態では、送信側装置から受信側装置に送信される方向情報を、方位を利用して示したが、方位に限らず、各装置の向き(姿勢)に依存しない外部の基準を利用することで、本実施形態は実現される。
以上説明したように、第2の実施形態では、複数の情報処理装置間で、方位など、装置の状態に依存しない基準を利用した方向の情報を送受信する。従って、各情報処理装置の向き(姿勢)に影響を受けずに、複数の情報処理装置を連携させた表示制御を行うことができる。ただし、第2の実施形態においても、送信する情報は方向情報に限定されない。例えば、受信側装置の画面における出現位置を方位を利用して指定する情報を送信することもできる。
[操作例4]
次に、具体的な操作例を挙げて、本実施形態で実行される一連の処理を説明する。
図13は、2つの情報処理装置100を、片方を表示画面の長手方向を反転させて並べ、本実施形態によるオブジェクトの送受信操作を行う操作例を示している。ここでは、送信側装置1301aから受信側装置1301bに、オブジェクト1303を送信する。送信側装置1301aのユーザは、ドラッグ操作でオブジェクト1303の表示位置を移動させ、受信側装置1301bが存在する左側向かって画面1302aの外に送りだすようにする。各装置の画面には、図示されるようにそれぞれ左下を原点としてX軸とY軸が定義されている。また、図13の操作例では、送信側装置1301aのY軸が、真北の方向を向いているとする。
なお、図13で説明する操作例4は、初めて行われる操作であって、送信側装置1301aの保持部112には前回の操作方向を示す情報は保持されていないものとする。
図13(a)は、送信側装置1301aの画面1302aの中心にオブジェクト1303が表示されている状態において、ユーザがオブジェクト上でドラッグ操作を開始した様子を示す。タッチ位置1304は、ステップS201で取得される最新のタッチ位置であって、矢印方向にドラッグ操作が行われている(ステップS202でYES)。従って、タッチ位置1304が移動されるのに追従して、オブジェクト1303の表示位置を移動させる表示制御が実行される(ステップS203)。本実施形態では、図13(a)の状態では、オブジェクトの送信指示が入力されたとは判定されず(ステップS204でNO)、送信側装置501a内に閉じたドラッグ操作であるとして扱われる。
図13(b)は、ドラッグ操作が進められて、タッチ位置1304が画面1302aの端に到達した様子を示す。この場合、タッチパネル上の左下を座標平面の原点とすると、タッチ位置1304のドラッグ地点が示すドラッグ入力のX軸方向の座標値が0になり、(式1)を満たさなくなる。そのため、オブジェクトの送信指示が入力されたと判定される(ステップS204でYES)。次に、ステップS205において、操作方向が決定される。図13(b)では、オブジェクト1303は、画面に向かって左方向にドラッグ操作で移動されているため、操作方向を示す角度の情報は、270[度]という値として決定される。次に、方位検知部1011が、送信側装置1301aのY軸が、真北方向に対してなす角度を示す値を取得する(ステップS1101)。図13では、送信側装置1301aのY軸は、真北方向に平行であるため、方位検知部1011は0[度]という値を取得する。次に、第1の変換部1012は、操作方向を、真北を基準とした方位で示される角度情報に変換する。図13の例は、Y軸と真北が平行であったため、送信方を示す情報は、真北に対して270[度]という値として出力される(ステップS1102)。今、保持部112には前回の操作方向を示す情報は保持されていないため、操作方向は、前回の送信操作の操作方向と同じではないと判定される(ステップS207でNO)。従って、操作方向を示す情報が、保持部112に保持され(ステップS210)、操作方向は前回と異なることを示すフラグ情報falseが受信側装置1301bに送信される(ステップS211)。さらに、オブジェクト1303の画像情報と、270[度]という操作方向を示す値と、オブジェクト1303に対応する画像データとが、受信側装置1301bに向け、送信される(ステップS212)。そして、画面1302aでは、操作方向に沿って、すなわち左に向かって、オブジェクト1303が画面1302aから消失するように表示制御される(ステップS213)。
図13(c)は、受信側装置1301bが送信側装置1301aから送信された情報を受信した(ステップS301)ことにより、表示制御処理が開始された様子を示す。まず、受信側装置1301bでは、送信側装置1301aから送信されたfalseというフラグ情報に基づいて、操作方向が前回とは異なると判定される(ステップS302でNO)。そして、方位検知部1011が、送信側装置1301aのY軸が、真北方向に対してなす角度を示す値を取得する。図13の例の場合、受信側装置のY軸は、真南方向を向いているため、方位検知部1011は180[度]という値を取得する(ステップS1201)。次に、第2の変換部1013が、送信側装置から受信した270[度]という操作方向の情報を、受信側装置の画面に対して定義された角度情報に変換する。図13の例の場合、受信側装置ではY軸が真北に対して180[度]回転しているため、操作方向は90[度]であると変換される。これは例えば、270[度]から180[度]減じることで求められる。位置決定部118は、操作方向を示す情報として、90[度]の値を保持部112に保持する(ステップS303)。そして、画面1302bの中心を始点とし、90[度]を180度反転させた270[度]という方向を持つベクトルを生成し、画面1302bの端と交差する点1305を出現位置として決定する(ステップS204)。受信側装置1301bにおいては、出現位置1305から出現したオブジェクト1303が操作方向に沿って移動するように表示する(ステップ307)。このような表示制御により、オブジェクト1303が画面1302aと画面1302bの境界を超えて、連続的に平行移動しているように表示される。従って、情報処理装置の向き(姿勢)に影響を受けることなく、ユーザは、オブジェクトの装置間の移動を直感的に把握できる。
[操作例5]
次に、図12は送信側装置1401aと、受信側装置1401bとが、任意の相対角度を持って横に並べられ、本実施形態によるオブジェクトの送受信操作を行う操作例を示している。各装置の画面には、図示されるようにそれぞれ左下を原点としてX軸とY軸が定義されている。また、図示されるように、紙面に向かって上が真北の方向であるとし、送信側装置1401aは真北に対して反時計回りに30度、受信側装置1401bは真北に対して時計回りに25度、傾けられている。以下、図13の操作例4と動作が共通するステップは省略して説明する。
図14(a)は、送信側装置1401aの画面1402aの中心にオブジェクト1403が表示されている状態において、ユーザがオブジェクト上でドラッグ操作を開始した様子を示す。タッチ位置1404は、ステップS201で取得される最新のタッチ位置であって、矢印方向にドラッグ操作が行われている(ステップS202でYES)。
図14(b)は、さらにドラッグ操作が進められて、タッチ位置1404が画面1402aの端に到達した様子を示す。ステップS205において、方向決定部114により操作方向が決定される。図14(b)では、操作方向を示す角度の情報は、300[度]という値として決定されるとする。そして、図13では、送信側装置1301aのY軸は、真北方向に対して反時計回りに30度傾いているため、方位検知部1011は330[度]という値を取得する(ステップS1101)。次に、第1の変換部1012は、300[度]という角度で示された操作方向を、方位を基準とした角度情報270[度]に変換する(ステップS1101)。これは例えば、300[度]と330[度]を足し合わせてから、360[度]以内に収まるように、360[度]を減じることで求められる。(300+330−360=270)さらオブジェクト1403の画像情報と、270[度]という操作方向を示す方位に基づく値と、オブジェクト1403に対応する画像データとが、受信側装置1401bに向け、送信される(ステップS212)。
図14(c)は、受信側装置1401bが送信側装置1401aから送信された情報を受信した(ステップS301)ことにより、表示制御処理が開始された様子を示す。操作方向が前回とは異なると判定された場合(ステップS302でNO)、方位検知部1011が、送信側装置1401aのY軸が、真北方向に対してなす角度を示す値25[度]を取得する(ステップS1201)。次に、第2の変換部1013が、送信側装置から受信した270[度]という操作方向の情報を、受信側装置の画面に対して定義された角度情報に変換する(ステップS1202)。図14の例の場合、受信側装置ではY軸が真北に対して25[度]回転しているため、操作方向は245[度]であると変換される。これは例えば、270[度]から25[度]減じることで求められる。位置決定部118は、245[度]を180度反転させた65[度]という方向を持つベクトルを生成し、画面1402bの端と交差する点1405を出現位置として決定する(ステップS204)。受信側装置1401bにおいては、出現位置1405から出現したオブジェクト1403が操作方向に沿って移動するように表示する(ステップ307)。このような表示制御により、オブジェクト1403が画面1402aと画面1402bの境界を超えて、連続的に平行移動しているように表示される。従って、情報処理装置の向き(姿勢)に影響を受けることなく、ユーザは、オブジェクトの装置間の移動を直感的に把握できる。
以上のような処理によって、本実施形態では、任意の相対角度を持って並べられた複数の情報処理装置にける表示内容を連携させることができる。
<その他の実施形態>
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。

Claims (21)

  1. 画面に表示されたオブジェクトが移動された方位に関する情報を送信する他装置から、前記情報を受信する情報処理装置であって、
    観測点における水平面内の方向を、基準となる一定の方向との関係で表した、前記方位に関する情報を受信する受信手段と、
    前記情報処理装置の前記画面に定義された座標軸上の方向を方位に変換した情報から前記画面が向けられた方位を示す情報を取得する取得手段と、前記受信手段が受信した前記方位に関する情報と、前記取得手段が取得した前記情報処理装置の画面が向けられた方位を示す情報とに基づいて、前記情報処理装置の画面において、前記他装置の画面に表示されたオブジェクトが移動された方位とは逆の方位から、前記他装置の画面に表示されたオブジェクトと同じオブジェクトを出現させる表示制御手段を備えることを特徴とする情報処理装置。
  2. 地磁気を検知する検知手段を更に備え、
    前記方位とは、前記検知手段によって検知された地磁気の情報に基づいて特定される絶対的な方位であることを特徴とする請求項1に記載の情報処理装置。
  3. 前記取得手段が取得した前記情報処理装置の画面が向けられた方位を示す情報に基づいて、前記受信手段が受信した前記方位に関する情報を、当該画面上で定義される角度の情報に変換する変換手段を更に備え、
    前記表示制御手段は、前記変換手段によって変換された角度の情報に従って、前記情報処理装置の画面において、前記他装置の画面に表示されたオブジェクトと同じオブジェクトを出現させることを特徴とする請求項1または2に記載の情報処理装置。
  4. 前記表示制御手段は、前記受信手段が受信した前記方位に関する情報と、前記情報処理装置の画面の中心に基づいて、前記他装置の画面に表示されたオブジェクトと同じオブジェクトを出現させる位置を決定することを特徴とする請求項1乃至3のいずれか1項に記載の情報処理装置。
  5. 前記表示制御手段は、前記他装置の画面において表示されていたオブジェクトが消失した位置の対角に相当する位置を、前記情報処理装置の画面において前記オブジェクトが出現する位置として決定することを特徴とする請求項1乃至4のいずれか1項に記載の情報処理装置。
  6. 前記表示制御手段が、前記他装置の画面に表示されたオブジェクトと同じオブジェクトを出現させた方位を示す情報を保持する保持手段を更に備え、
    前記表示制御手段は、前記受信手段が受信した前記方位に関する情報が、前記他装置の有する画面に表示されたオブジェクトが移動された方位が、前回と同じであったことを示す場合、前記保持手段が保持している情報が示す方位から、前記情報処理装置の画面に前記オブジェクトを出現させることを特徴とする請求項1乃至5のいずれか1項に記載の情報処理装置。
  7. 前記オブジェクトとは、画像データに対応するサムネイル画像であって、
    前記受信手段は、更に、前記他装置の画面に表示されたサムネイル画像に対応する画像データを受信することを特徴とする請求項1乃至6のいずれか1項に記載の情報処理装置。
  8. 前記受信手段は、前記表示制御手段が、前記情報処理装置の画面に出現させたサムネイル画像に対し、ユーザ操作が入力されない場合には、前記サムネイル画像に対応する画像データを受信しないことを特徴とする請求項7に記載の情報処理装置。
  9. 画面に表示されたオブジェクトが移動された方位に関する情報であって、観測点における水平面内の方向を、基準となる一定の方向との関係で表した前記方位に関する情報を受信する他装置へ、前記情報を送信する情報処理装置であって、
    前記情報処理装置の画面上で指示される指示位置を取得する位置取得手段と、前記位置取得手段が取得する指示位置の変化に基づいて、前記情報処理装置の画面に表示されたオブジェクトが移動された操作方向を決定する決定手段と、
    前記情報処理装置の前記画面に定義された座標軸上の方向を方位に変換した情報から前記画面が向けられた方位を示す情報を取得する方位取得手段と、前記決定手段が決定した前記操作方向と、前記方位取得手段が取得した前記情報処理装置の画面が向けられた方位を示す情報とに基づいて、前記画面に表示されたオブジェクトが移動された方位に関する情報を特定し、前記他装置に送信する送信手段と、
    前記情報処理装置の画面に、前記決定手段が決定した操作方向に沿って該画面の外に向かって消失するように移動する前記オブジェクトを表示させる表示制御手段とを備える。
  10. 前記送信手段は、前記位置取得手段が取得する指示位置が変化することで、所定の条件を満たすようになった場合に、前記方位に関する情報を送信することを特徴とする請求項9に記載の情報処理装置。
  11. 前記オブジェクトとは、画像データに対応するサムネイル画像であって、
    前記送信手段は、更に、前記情報処理装置の画面に表示されたサムネイル画像に対応する画像データを送信することを特徴とする請求項9または10に記載の情報処理装置。
  12. 前記位置取得手段は、前記画面がタッチされた指示位置を取得し、
    前記表示制御手段は、前記位置取得手段が取得する指示位置の変化に基づくドラッグ操作に従って、前記画面に表示されたオブジェクトを移動させることを特徴とする請求項9乃至11のいずれか1項に記載の情報処理装置。
  13. 前記送信手段は、前記ドラッグ操作によって、前記オブジェクトのうち前記情報処理装置の画面に表示されている部分の面積が、所定の面積を下回るまで移動された場合に、前記方位に関する情報を送信することを特徴とする請求項12に記載の情報処理装置。
  14. 前記送信手段は、前記ドラッグ操作によって、前記オブジェクトが前記情報処理装置の画面の縁まで移動された後、さらに押し出すようなドラッグ操作が入力された結果、前記表示されている部分の面積が前記所定の面積を下回るまで移動された場合に、前記方位に関する情報を送信することを特徴とする請求項13に記載の情報処理装置。
  15. 画面に表示されたオブジェクトを移動させる操作に応じて、前記オブジェクトを送受信する送信側装置と受信側装置とから成る情報処理システムであって、
    前記送信側装置は、
    前記送信側装置の画面において指示されている指示位置を取得する位置取得手段と、前記位置取得手段が取得する指示位置の変化に基づいて、前記送信側装置の画面に表示されたオブジェクトが移動される操作方向を決定する決定手段と、
    前記送信側装置の前記画面に定義された座標軸上の方向を、観測点における水平面内の方向を基準となる一定の方向との関係で表した方位に変換した情報から前記画面が向けられた方位を示す情報を取得する第1方位取得手段と、前記決定手段が決定した前記操作方向と、前記第1方位取得手段が取得した前記送信側装置の画面が向けられた方位を示す情報とに基づいて、前記画面に表示されたオブジェクトが移動された方位に関する情報を特定し、前記受信側装置に送信する送信手段と、前記送信側装置の画面に、前記決定手段が決定した操作方向に沿って該画面の外に向かって消失するように移動する前記オブジェクトを表示させる表示制御手段とを備え、前記受信側装置は、
    前記送信側装置から送信された、前記方位に関する情報を受信する受信手段と、前記受信側装置の画面が向けられた方位を示す情報を取得する第2方位取得手段と、前記受信手段が受信した前記方位に関する情報と、前記第2方位取得手段が取得した前記受信側装置の画面が向けられた方位を示す情報とに基づいて、前記受信側装置の画面において、前記送信側装置の画面に表示されたオブジェクトが移動された方位とは逆の方位から、前記送信側装置の画面に表示されたオブジェクトと同じオブジェクトを出現させる表示制御手段とを備える
    ことを特徴とする情報処理システム。
  16. 前記送信側装置の送信手段は、さらに前記送信側装置の画面に表示されたオブジェクトのうち、該オブジェクトが移動されたことによって前記送信側装置の画面から消失した部分を示す情報を送信し、
    前記受信側装置の受信手段は、前記オブジェクトのうち前記送信側装置の画面から消失した部分を示す情報を受信し、
    前記受信側装置の表示制御手段は、前記受信側装置の画面に、前記オブジェクトの前記送信側装置の画面から消失した部分を出現させることを特徴とする請求項15に記載の情報処理システム。
  17. 前記受信側装置の画面において、前記送信側装置の画面に表示されていたオブジェクトが出現する位置は、前記送信側装置の画面において当該オブジェクトが消失した位置の対角に相当することを特徴とする請求項15または16に記載の情報処理システム。
  18. 画面に表示されたオブジェクトが移動された方位に関する情報を送信する他装置から、前記情報を受信する情報処理装置の制御方法であって、
    受信手段により、観測点における水平面内の方向を、基準となる一定の方向との関係で表した、前記方位に関する情報を受信する受信工程と、
    取得手段により、前記情報処理装置の前記画面に定義された座標軸上の方向を方位に変換した情報から前記画面が向けられた方位を示す情報を取得する取得工程と、
    受信された前記方位に関する情報と、取得された前記情報処理装置の画面が向けられた方位を示す情報とに基づいて、表示制御手段により、前記情報処理装置の画面において、前記他装置の画面に表示されたオブジェクトが移動された方位とは逆の方位から、前記他装置の画面に表示されたオブジェクトと同じオブジェクトを出現させる表示制御工程と、を有することを特徴とする情報処理装置の制御方法。
  19. 画面に表示されたオブジェクトが移動された方位に関する情報であって、観測点における水平面内の方向を、基準となる一定の方向との関係で表した前記方位に関する情報を受信する他装置へ、前記情報を送信する情報処理装置の制御方法であって、
    位置取得手段により、前記情報処理装置の画面上で指示される指示位置を取得する位置取得工程と、
    決定手段により、前記指示位置の変化に基づいて、前記情報処理装置の画面に表示されたオブジェクトが移動された操作方向を決定する決定工程と、
    前記情報処理装置の前記画面に定義された座標軸上の方向を方位に変換した情報から前記画面が向けられた方位を示す情報を取得する方位取得工程と、決定された前記操作方向と、取得された前記情報処理装置の画面が向けられた方位を示す情報とに基づいて、送信手段により、前記画面に表示されたオブジェクトが移動された方位に関する情報を特定し、前記他装置に送信する送信工程と、
    表示制御手段により、前記情報処理装置の画面に、決定された前記操作方向に沿って該画面の外に向かって消失するように移動する前記オブジェクトを表示させる表示制御工程と、
    を有することを特徴とする情報処理装置の制御方法。
  20. コンピュータに読み込ませ実行させることで、前記コンピュータを請求項1乃至14のいずれか1項に記載された情報処理装置として動作させるためのプログラム。
  21. 請求項20に記載されたプログラムを記憶したコンピュータが読み取り可能なプログラムの記憶媒体。
JP2013236737A 2012-11-26 2013-11-15 情報処理システム Expired - Fee Related JP6271960B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2013236737A JP6271960B2 (ja) 2012-11-26 2013-11-15 情報処理システム
EP13193688.2A EP2735961B1 (en) 2012-11-26 2013-11-20 Information processing apparatus which cooperate with another apparatus, and information processing system in which a plurality of information processing apparatus cooperate
US14/088,940 US9269331B2 (en) 2012-11-26 2013-11-25 Information processing apparatus which cooperates with other apparatus, and information processing system in which a plurality of information processing apparatuses cooperates
CN201310665294.5A CN103838541B (zh) 2012-11-26 2013-11-26 信息处理装置及信息处理系统

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2012257555 2012-11-26
JP2012257555 2012-11-26
JP2013236737A JP6271960B2 (ja) 2012-11-26 2013-11-15 情報処理システム

Publications (3)

Publication Number Publication Date
JP2014123349A JP2014123349A (ja) 2014-07-03
JP2014123349A5 JP2014123349A5 (ja) 2016-12-28
JP6271960B2 true JP6271960B2 (ja) 2018-01-31

Family

ID=49641573

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013236737A Expired - Fee Related JP6271960B2 (ja) 2012-11-26 2013-11-15 情報処理システム

Country Status (4)

Country Link
US (1) US9269331B2 (ja)
EP (1) EP2735961B1 (ja)
JP (1) JP6271960B2 (ja)
CN (1) CN103838541B (ja)

Families Citing this family (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
USD760726S1 (en) * 2013-05-15 2016-07-05 Tencent Technology (Shenzhen) Company Limited Pair of display screens with animated graphical user interface
KR20200108110A (ko) * 2013-07-25 2020-09-16 인터디지털 씨이 페이튼트 홀딩스 객체들을 디스플레이하기 위한 방법 및 디바이스
JP6255826B2 (ja) * 2013-09-13 2018-01-10 株式会社リコー システム、情報処理装置、画像表示方法、プログラム、記憶媒体
JP6119570B2 (ja) * 2013-11-19 2017-04-26 ソニー株式会社 表示装置、表示方法およびプログラム
US20150186029A1 (en) * 2013-12-30 2015-07-02 Samsung Electronics Co., Ltd. Multiscreen touch gesture to determine relative placement of touch screens
KR20150081522A (ko) * 2014-01-06 2015-07-15 삼성전자주식회사 동작 인식을 이용한 복수의 단말기 제어 방법 및 장치
KR20150144641A (ko) * 2014-06-17 2015-12-28 삼성전자주식회사 사용자 단말 장치 및 그 제어 방법
US20160027214A1 (en) * 2014-07-25 2016-01-28 Robert Memmott Mouse sharing between a desktop and a virtual world
US9766460B2 (en) 2014-07-25 2017-09-19 Microsoft Technology Licensing, Llc Ground plane adjustment in a virtual reality environment
US10311638B2 (en) 2014-07-25 2019-06-04 Microsoft Technology Licensing, Llc Anti-trip when immersed in a virtual reality environment
US9858720B2 (en) 2014-07-25 2018-01-02 Microsoft Technology Licensing, Llc Three-dimensional mixed-reality viewport
US10416760B2 (en) 2014-07-25 2019-09-17 Microsoft Technology Licensing, Llc Gaze-based object placement within a virtual reality environment
US10451875B2 (en) 2014-07-25 2019-10-22 Microsoft Technology Licensing, Llc Smart transparency for virtual objects
CN105472768B (zh) * 2014-09-10 2019-10-01 华为技术有限公司 无线通信连接的建立方法及终端设备
KR102444181B1 (ko) * 2015-05-14 2022-09-19 엘지전자 주식회사 디스플레이 장치 및 그의 동작 방법
JP2017041249A (ja) * 2015-08-17 2017-02-23 テンテン テクノロジーズ リミテッドTenten Technologies Limited タッチスクリーンデバイスの直接接続を介した電子データのソーシャル共有のための改良されたユーザ体験
CN106850719B (zh) * 2015-12-04 2021-02-05 珠海金山办公软件有限公司 一种数据传输方法及装置
USD943624S1 (en) 2016-10-27 2022-02-15 Apple Inc. Electronic device with pair of display screens or portions thereof each with animated graphical user interface
USD842892S1 (en) 2016-10-27 2019-03-12 Apple Inc. Electronic device with pair of display screens or portions thereof each with graphical user interface
USD927529S1 (en) 2019-01-11 2021-08-10 Apple Inc. Electronic device with pair of display screens or portions thereof each with graphical user interface
CN109254672B (zh) * 2017-07-12 2022-07-15 英业达科技有限公司 游标控制方法及游标控制系统
JP7013808B2 (ja) * 2017-11-15 2022-02-01 富士フイルムビジネスイノベーション株式会社 情報処理装置およびプログラム
JP2021519482A (ja) * 2018-03-27 2021-08-10 ヴィゼット インコーポレイテッド マルチ画面ディスプレイと操作(interaction)のためのシステムと方法
USD884018S1 (en) 2018-04-10 2020-05-12 Spatial Systems Inc. Display screen or portion thereof with animated graphical user interface with augmented reality
JP2020204840A (ja) 2019-06-14 2020-12-24 キヤノン株式会社 情報処理装置、制御方法及びプログラム
USD965021S1 (en) * 2019-12-24 2022-09-27 Samsung Electronics Co., Ltd. Display screen or portion thereof with transitional graphical user interface

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7532196B2 (en) * 2003-10-30 2009-05-12 Microsoft Corporation Distributed sensing techniques for mobile devices
US20050219211A1 (en) * 2004-03-31 2005-10-06 Kotzin Michael D Method and apparatus for content management and control
US20060241864A1 (en) * 2005-04-22 2006-10-26 Outland Research, Llc Method and apparatus for point-and-send data transfer within an ubiquitous computing environment
US8863038B2 (en) * 2008-09-08 2014-10-14 Qualcomm Incorporated Multi-panel electronic device
EP2226713A1 (en) * 2009-03-05 2010-09-08 TELEFONAKTIEBOLAGET LM ERICSSON (publ) Cooperative drag and drop
JP5157971B2 (ja) * 2009-03-09 2013-03-06 ソニー株式会社 情報処理装置、情報処理方法およびプログラム
JP4904375B2 (ja) * 2009-03-31 2012-03-28 京セラ株式会社 ユーザインタフェース装置及び携帯端末装置
JP5384186B2 (ja) 2009-04-24 2014-01-08 京セラ株式会社 携帯端末装置
JP5177071B2 (ja) * 2009-04-30 2013-04-03 ソニー株式会社 送信装置および方法、受信装置および方法、並びに送受信システム
JP2011065518A (ja) * 2009-09-18 2011-03-31 Brother Industries Ltd 画像表示装置、画像表示方法、及び画像表示プログラム
CN102088299B (zh) * 2009-12-08 2015-03-25 赛恩倍吉科技顾问(深圳)有限公司 具有文件传送功能的移动电子装置及其传送方法
US20110163944A1 (en) * 2010-01-05 2011-07-07 Apple Inc. Intuitive, gesture-based communications with physics metaphors
JP5535751B2 (ja) * 2010-04-30 2014-07-02 Necカシオモバイルコミュニケーションズ株式会社 入力装置、入力プログラム、及び入力方法
JP5486540B2 (ja) * 2011-03-31 2014-05-07 株式会社Nttドコモ 携帯端末、データ送信システムおよびデータ送信方法
JP2012064232A (ja) * 2011-11-07 2012-03-29 Toshiba Corp 情報処理装置およびドラッグ制御方法
CN102646117B (zh) * 2012-02-20 2015-07-08 华为技术有限公司 文件数据传送的方法与装置

Also Published As

Publication number Publication date
US9269331B2 (en) 2016-02-23
CN103838541A (zh) 2014-06-04
EP2735961B1 (en) 2018-02-21
CN103838541B (zh) 2017-03-01
US20140145988A1 (en) 2014-05-29
JP2014123349A (ja) 2014-07-03
EP2735961A1 (en) 2014-05-28

Similar Documents

Publication Publication Date Title
JP6271960B2 (ja) 情報処理システム
JP6215534B2 (ja) 情報処理装置及び情報処理方法、並びにコンピューター・プログラム
US20170123573A1 (en) Electronic device, information processing method, program, and electronic device system
JP6054892B2 (ja) 複数のディスプレイに対するアプリケーション画像の表示方法、電子機器およびコンピュータ・プログラム
US9894115B2 (en) Collaborative data editing and processing system
US11042294B2 (en) Display device and method of displaying screen on said display device
EP2846242B1 (en) Method of adjusting screen magnification of electronic device, machine-readable storage medium, and electronic device
JP5807686B2 (ja) 画像処理装置、画像処理方法及びプログラム
US9678574B2 (en) Computing system utilizing three-dimensional manipulation command gestures
KR20100041006A (ko) 3차원 멀티 터치를 이용한 사용자 인터페이스 제어방법
US20150138089A1 (en) Input devices and methods
EP2778880B1 (en) Method for controlling display function and an electronic device thereof
CN108024127B (zh) 图像显示装置、移动设备及其操作方法
US9513795B2 (en) System and method for graphic object management in a large-display area computing device
JP5974685B2 (ja) 表示装置およびプログラム
CN110494915B (zh) 电子装置及其控制方法和计算机可读介质
US20150062038A1 (en) Electronic device, control method, and computer program product
JP2016224595A (ja) システム、方法、およびプログラム
CN107077276B (zh) 用于提供用户界面的方法和装置
JP6050616B2 (ja) 地図表示装置、地図表示方法および地図表示用プログラム
WO2012174016A1 (en) Move-it: monitoring, operating, visualizing, editing integration toolkit for reconfigurable physical computing
EP2738669A1 (en) System and method for graphic object management in a large display area computing device

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161111

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20161111

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170821

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170919

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171116

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171205

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171228

R151 Written notification of patent or utility model registration

Ref document number: 6271960

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees