JP6742871B2 - 情報処理システム、装置、情報処理方法、コンピュータプログラム、及び記憶媒体 - Google Patents

情報処理システム、装置、情報処理方法、コンピュータプログラム、及び記憶媒体 Download PDF

Info

Publication number
JP6742871B2
JP6742871B2 JP2016181767A JP2016181767A JP6742871B2 JP 6742871 B2 JP6742871 B2 JP 6742871B2 JP 2016181767 A JP2016181767 A JP 2016181767A JP 2016181767 A JP2016181767 A JP 2016181767A JP 6742871 B2 JP6742871 B2 JP 6742871B2
Authority
JP
Japan
Prior art keywords
image
display
displayed
unit
notification
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016181767A
Other languages
English (en)
Other versions
JP2018045596A (ja
JP2018045596A5 (ja
Inventor
匠 宮川
匠 宮川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2016181767A priority Critical patent/JP6742871B2/ja
Publication of JP2018045596A publication Critical patent/JP2018045596A/ja
Publication of JP2018045596A5 publication Critical patent/JP2018045596A5/ja
Application granted granted Critical
Publication of JP6742871B2 publication Critical patent/JP6742871B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Digital Computer Display Output (AREA)
  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本発明は、透過型ディスプレイ及び表示装置を用いた画像表示技術に関する。
透過型ディスプレイを搭載したメガネ型ディスプレイとスマートフォン等の情報処理装置とを組み合わせた画像表示システムがある。メガネ型ディスプレイには、地図ソフト等のアプリケーションの実行画面や写真等の画像が表示される。情報処理装置がメガネ型ディスプレイに画像を表示させる場合、メガネ型ディスプレイの意図した位置に画像を表示させることが重要である。メガネ型ディスプレイは、その形状から入力装置の配置場所が限られる。例えば、入力装置は、メガネの縁にタッチパネルとして設けられる。このようなタッチパネルは、大きさが限られるために操作しづらい。そのために、ユーザが画像の表示位置を指定することが困難である。特許文献1は、タッチパッドを入力装置に用いたメガネ型ディスプレイを開示する。特許文献2は、メガネ型ディスプレイ又は携帯端末への操作により、メガネ型ディスプレイの表示領域を固定する発明を開示する。
特開2012−164033号公報 特開2011−186856号公報
ディスプレイを備える情報処理装置と透過型ディスプレイを備えるメガネ型ディスプレイとを組みあわせた画像表示システムでは、一方のディスプレイから他方のディスプレイに画像を移動させる場合がある。例えば、情報処理装置のディスプレイに表示されるオブジェクトをメガネ型ディスプレイに移動させて表示する。この場合、移動したオブジェクトをメガネ型ディスプレイのユーザが意図した位置に意図したサイズで表示させる必要がある。
特許文献1のようにタッチパッドを入力装置に用いたメガネ型ディスプレイの場合、タッチパッドによりオブジェクトの表示位置の位置合わせを行う手間が発生する。特許文献2では、メガネ型ディスプレイの表示領域と情報処理装置の表示領域とが重畳した範囲をオブジェクトの表示が可能な領域に設定する。しかしながら、メガネ型ディスプレイの視野内のオブジェクトの表示位置及び表示サイズの指定についてはなんら開示されていない。このように、情報処理装置とメガネ型ディスプレイとの間でオブジェクト等の画像を移動させる場合、画像の表示位置及び表示サイズを簡単に指定することは困難である。
本発明は、上記課題に鑑みてなされたものであり、ディスプレイ間の画像の移動を簡単な操作で行う情報処理システムを提供することを目的とする。
本発明の情報処理システムは、相互に通信可能な第1装置及び第2装置を有し、前記第1装置は、画像を表示する第1表示手段と、前記第1表示手段の表示画面上で指示されたタッチ位置を検知するタッチ位置検知手段と、前記タッチ位置検知手段で検知した前記タッチ位置に表示される画像を前記第2装置に移動させる第1画像に特定して、前記第2装置に移動通知を送信する第1制御手段と、を備え、前記第2装置は、透過型ディスプレイを有する第2表示手段と、前記第2表示手段の視野を撮像範囲として、前記第2表示手段に表示される画像を含んで撮像する撮像手段と、前記撮像手段で撮像した撮像画像に前記第1表示手段が含まれ且つ前記第1装置から前記移動通知があるときに、前記第1装置から前記第1画像を取得し、前記撮像画像の前記第1画像が表示される位置及びサイズに応じた位置及びサイズで、前記第2表示手段に前記第1画像を表示させる第2制御手段と、を備えることを特徴とする。
本発明によれば、撮像画像に基づいて移動する画像を特定し、該画像の位置及びサイズを決定することが可能である。ユーザは、第1装置を撮像範囲に移動させ、第1装置が表示する画像を指示するという簡単な操作で、容易に該画像を移動させることができる。
情報処理システムのハードウェア構成図。 情報処理システムの機能ブロック図。 第1装置によるオブジェクト移動に関する処理を表すフローチャート。 第2装置によるオブジェクト移動に関する処理を表すフローチャート。 第2装置から第1装置へオブジェクトを移動させる場合の具体例の説明図。 第2装置から第1装置へオブジェクトを移動させる場合の具体例の説明図。 第2装置から第1装置へオブジェクトを移動させる場合の具体例の説明図。 第2装置から第1装置へオブジェクトを移動させる場合の具体例の説明図。 第2装置から第1装置へオブジェクトを移動させる場合の具体例の説明図。 第2装置から第1装置へオブジェクトを移動させる場合の具体例の説明図。 第2装置から第1装置へオブジェクトを移動させる場合の具体例の説明図。 第2装置から第1装置へオブジェクトを移動させる場合の具体例の説明図。 第1装置から第2装置へオブジェクトを移動させる場合の具体例の説明図。 第1装置から第2装置へオブジェクトを移動させる場合の具体例の説明図。 第1装置から第2装置へオブジェクトを移動させる場合の具体例の説明図。 第1装置から第2装置へオブジェクトを移動させる場合の具体例の説明図。
以下、実施の形態を図面を参照しつつ詳細に説明する。
(構成)
図1は、本実施形態の情報処理システムのハードウェア構成図である。情報処理システム100は、第1装置101及び第2装置102を備える。第1装置101及び第2装置102は、通信路103を介して相互に通信可能に接続される。通信路103は、無線LAN(Local Area Network)や近距離無線通信(例えば、ブルートゥース(登録商標))等の無線通信により実現される。第1装置101は、例えばスマートフォン等のディスプレイを備える情報処理装置である。第2装置102は、例えば透過型ディスプレイを搭載した装置である。本実施形態では第2装置120をメガネ型ディスプレイとして説明するが、透過型ディスプレイを搭載した装置であればこれに限られない。
第1装置101は、CPU(Central Processing Unit)104、ROM(Read Only Memory)107、及びRAM(Random Access Memory)108により動作が制御されるコンピュータである。CPU104は、ROM107に格納されるコンピュータプログラムを読み出し、RAM108を作業領域に用いて実行することで第1装置101の動作を制御する。ROM107は、第1装置101のOS(Operation System)やアプリケーションのコンピュータプログラムを格納する。
第1装置101は、第1表示デバイス105、入出力I/F(インタフェース)106、及び通信I/F(インタフェース)109を備える。CPU104、第1表示デバイス105、入出力I/F106、ROM107、RAM108、及び通信I/F109は、バスにより相互に通信可能に接続される。
第1表示デバイス105は、液晶ディスプレイやLED(Light Emitting Diode)表示装置等のディスプレイと、入力装置であるタッチパッドと、が組み合わされたタッチパネルである。タッチパッドは、例えばユーザが指やスタイラスペン等の指示体でタッチすることで指示する第1表示デバイス105の表示画面上のタッチ位置を検知するタッチ位置検知デバイスである。タッチパッドにより、ユーザによるディスプレイの表示画面上のタッチ位置が検知される。第1表示デバイス105は、例えば第1装置101の本体に一体に構成される。第1表示デバイス105のディスプレイに表示されるオブジェクト等の画像へのタッチイベントは、CPU104に入力される。
入出力I/F106は、メモリカードやハードディスク等の外部記憶装置とのインタフェース制御を行う。CPU104は、入出力I/F106を介して外部記憶装置にデータの書き込み、及び外部記憶装置からのデータの読み出しを行う。なお、OSやアプリケ−ションのコンピュータプログラムは、外部記憶装置に格納されていてもよい。この場合、CPU104は、外部記憶装置からコンピュータプログラムを読み出して実行することになる。通信I/F109は、通信路103を介した他の装置(ここでは第2装置102)との間の通信制御を行う。
第2装置102は、CPU111、ROM115、及びRAM116により動作が制御されるコンピュータである。CPU111は、ROM115に格納されるコンピュータプログラムを読み出し、RAM116を作業領域に用いて実行することで第2装置102の動作を制御する。ROM115は、第2装置102のOS(Operation System)やアプリケーションのコンピュータプログラムを格納する。
第2装置102は、第2表示デバイス112、入出力I/F(インタフェース)113、カメラ114、及び通信I/F(インタフェース)117を備える。CPU111、第2表示デバイス112、入出力I/F113、カメラ114、ROM115、RAM116、及び通信I/F117は、バスにより相互に通信可能に接続される。
第2表示デバイス112は透過型ディスプレイであり、表示したオブジェクト等の画像の奥に現実の空間が透けて見える構成である。したがって、第2表示デバイス112に表示された画像は現実空間の物体に重畳表示される。またユーザは、第2表示デバイス112及び第1表示デバイス105にそれぞれ画像を表示することで、各ディスプレイの画像が重畳された画像を視認することができる。第2表示デバイス112に用いられる透過型ディスプレイには、液晶ディスプレイ方式や眼球への直接投影方式等を用いることができる。
カメラ114は、第2表示デバイス112を通して見える視野範囲を撮像範囲として撮像する光学特性を持つ撮像装置である。第2装置102は、メガネ型であるために使用時にユーザの頭部に装着される。ユーザが第2装置102を頭部に装着した状態で第2表示デバイス112を通して見ることができる範囲が視野範囲(撮像範囲)となる。
入出力I/F113は、メモリカードやハードディスク等の外部記憶装置とのインタフェース制御を行う。CPU111は、入出力I/F113を介して外部記憶装置にデータの書き込み、及び外部記憶装置からのデータの読み出しを行う。なお、OSやアプリケ−ションのコンピュータプログラムは、外部記憶装置に格納されていてもよい。この場合、CPU111は、外部記憶装置からコンピュータプログラムを読み出して実行することになる。通信I/F117は、通信路103を介した他の装置(ここでは第1装置101)との間の通信制御を行う。
図2は、このような構成の情報処理システム100の機能ブロック図である。この機能ブロック図は、第1装置101と第2装置102との間でアプリケーションの実行画面やオブジェクト等の画像を移動させるための機能を表す。本実施形態では、第1装置101と第2装置102とでオブジェクトを移動させる場合について説明する。
第1装置101は、CPU104がコンピュータプログラムを実行することで、オブジェクト状態判定部201、描画部202、第1制御部203、及び通信部204として機能する。
オブジェクト状態判定部201は、移動対象となるオブジェクトの状態を判定する。描画部202は、第1表示デバイス105へのオブジェクトの描画を行う。第1表示デバイス105は、描画部202によりオブジェクトが表示されることになる。第1制御部203は、第1装置101によるオブジェクトの表示、移動等に関する各種の判断等の処理を実行することで、第1装置101の動作を制御する。第1制御部203により、オブジェクトの移動処理や、オブジェクトの表示位置、表示サイズ等の決定処理が行われる。通信部204は、通信I/F109を用いて、通信路103を介した第2装置102との間の通信制御を行う。通信部204は、例えば第2装置102との間でオブジェクトの移動に関する各種の情報、データの交換を行う。
第2装置102は、CPU111がコンピュータプログラムを実行することで、撮像部211、識別部212、オブジェクト状態判定部213、描画部214、第2制御部215、及び通信部216として機能する。
撮像部211は、カメラ114の動作を制御して、カメラ114が撮像した撮像画像を取得する。識別部212は、撮像部211が取得した撮像画像に第1装置101が含まれるか否かの判定を行う。撮像部211は、識別部212が判定を行う際にカメラ114に撮像させる。
オブジェクト状態判定部213は、移動対象となるオブジェクトの状態及び撮像部211で取得した撮像画像に含まれるオブジェクトの状態を判定する。描画部214は、第2表示デバイス112へのオブジェクトの描画を行う。第2表示デバイス112は、描画部214によりオブジェクトが表示されることになる。第2制御部215は、第2装置102によるオブジェクトの表示、移動等に関する各種の判断等の処理を実行することで、第2装置102の動作を制御する。第2制御部215により、オブジェクトの移動処理や、オブジェクトの表示位置、表示サイズ等の決定が行われる。通信部216は、通信I/F117を用いて、通信路103を介した第1装置101との間の通信制御を行う。通信部216は、例えば第1装置101との間でオブジェクトの移動に関する各種の情報、データの交換を行う。
(運用形態)
このような構成の情報処理システム100により、第1装置101と第2装置102との間でオブジェクトを移動させる際の処理について説明する。第1装置101と第2装置102とが協働してこの処理を行う。この処理の開始時に第1装置101と第2装置102とは通信路103により通信可能に接続され、第1制御部203と第2制御部215との間のペアリング処理が完了している。
図3は、第1装置101によるオブジェクト移動に関する処理を表すフローチャートである。
第1装置101の第1制御部203は、第2装置102からのオブジェクトの移動通知判定を行う(S301)。第1制御部203は、例えば第2装置102から通信部204を介してオブジェクトの移動通知を取得したか否かにより、オブジェクトの移動通知判定を行う。移動通知は、例えば第2装置102が後述する判定オブジェクトプロパティ送信により送信するプロパティ情報であってもよい。プロパティ情報は、オブジェクトを第1装置101の第1表示デバイス105に表示する際の表示位置、表示サイズ、属性等を表す。プロパティ情報を取得した場合、つまり第2装置102からのオブジェクトの移動通知がある場合(S301:Y)、第1制御部203は、第2装置102から第1装置101へのオブジェクト移動のための処理を行う。プロパティ情報を取得していない場合、つまり第2装置102からのオブジェクトの移動通知がない場合(S301:N)、第1制御部203は、第1装置101から第2装置102へのオブジェクトの移動のための処理を行う。
・第2装置102から第1装置101へのオブジェクトの移動
第2装置102からのオブジェクトの移動通知がある場合、第1制御部203は、通信部204を介して第2装置102から移動対象となるオブジェクトのプロパティ情報を取得する(S302)。なお、S301の処理においてプロパティ情報の取得により移動通知の取得を判定する場合、第1制御部203は、S302の処理で改めてプロパティ情報を取得する必要はない。第1制御部203は、描画部202により、取得したプロパティ情報に基づくオブジェクトの表示位置に、プロパティ情報を表示する(S303)。オブジェクトを通信路103を介して取得するために、オブジェクトの実体の取得には遅延が発生する。そのために第1装置101は、ユーザの操作感を損なわないように、伝送時間が比較的短いプロパティ情報を事前に第1表示デバイス105に表示する。
第1制御部203は、プロパティ情報の取得に引き続いて、通信部204を介して第2装置102からオブジェクトの実体を取得する。第1制御部203は、取得したオブジェクトをプロパティ情報に基づいて、描画部202により第1表示デバイス105に表示する(S304)。第1制御部203は、オブジェクト状態判定部201が通信部を介して第2装置102から遺失通知を受信したか否かを判定する(S305)。遺失通知は、第2装置102に表示され且つ第1装置101と重畳状態にあると判定されたオブジェクトが、重畳状態から外れたことを表す通知である。遺失通知を受信していない場合(S305:N)、第1制御部203は、オブジェクト状態判定部201により、ユーザが第1表示デバイス105に表示されたオブジェクトをタッチしたかを判定する(S306)。オブジェクト状態判定部201は、第1表示デバイス105のタッチパッドへのユーザのタッチ位置と、オブジェクトの表示位置とから、該オブジェクトへのタッチ状態を判定する。
遺失通知を受信した場合(S305:N)、第1制御部203は、描画部202によるプロパティ情報及びオブジェクトの表示を停止する(S307)。また、遺失通知を受信していない場合であっても、所定時間の間にユーザがオブジェクトをタッチしない場合(S306:N)、第1制御部203は、描画部202によるプロパティ情報及びオブジェクトの表示を停止する(S307)。オブジェクトの表示を停止した第1制御部203は、S301の処理に戻り、第2装置102からの次のオブジェクトの移動通知判定を行う。
遺失通知を受信せず、且つ所定時間の間にユーザがオブジェクトをタッチした場合(S306:Y)、第1制御部203は、通信部204を介して、第2装置102にオブジェクトがタッチ状態にあることを通知する(S308)。
ユーザは、オブジェクトをタッチしたまま第1装置101を第2装置102の第2表示デバイス112の視野外に移動させた後に、オブジェクトのタッチを解除する。第1制御部203は、オブジェクト状態判定部201によりユーザによるオブジェクトのタッチ解除を判定する(S309)。第1制御部203は、オブジェクトのタッチ状態が解除されたことを検知すると、通信部204を介して第2装置102にタッチ状態の解除を通知する(S310)。タッチ状態が解除された通知を受信した第2装置102は、後述の処理によりオブジェクトの移譲通知又は移譲不可通知を第1装置101へ送信する。
第1制御部203は、通信部204を介して第2装置102からオブジェクトの移譲通知又は移譲不可通知を受信する。第1制御部203は、オブジェクト状態判定部201により、第2装置102から受信した通知がオブジェクトの移譲通知及び移譲不可通知のいずれであるかを判定する(S311)。移譲通知を受信した場合(S311:Y)、第1制御部203は、RAM108又は外部記憶装置に、第2装置102から取得したオブジェクトをインストールする(S312)。移譲不可通知を受信した場合(S311:N)、第1制御部203は、取得したオブジェクトをインストールせずに、そのまま処理を終了する。以上により第2装置102から第1装置101へのオブジェクトの移動処理が終了する。
・第1装置101から第2装置102へのオブジェクトの移動
第2装置102からのオブジェクトの移動通知がない場合、第1制御部203は、オブジェクト状態判定部201により、既に第1表示デバイス105に表示されているオブジェクトのタッチ状態を判定する(S320)。オブジェクト状態判定部201は、表示中のオブジェクトの表示位置と、第1表示デバイス105のタッチパッドが検知したタッチ位置とから、オブジェクトのタッチ状態を判定する。タッチされているオブジェクトがない場合(S320:N)、第1制御部203は、S301の処理に戻り、第2装置102からの次のオブジェクトの移動通知判定を行う。
タッチされているオブジェクトがある場合(S320:Y)、第1制御部203は、当該オブジェクトのプロパティ情報を通信部204を介して第2装置102へ通知する(S321)。プロパティ情報の通知後に第1制御部203は、当該オブジェクトの実体を通信部204を介して第2装置102へ送信する(S322)。
第1制御部203は、オブジェクト状態判定部201により、ユーザによるオブジェクトのタッチ解除を判定する(S323)。オブジェクトのタッチ状態が解除されない場合(S323:N)、第1制御部203は、S321の処理に戻り、プロパティ情報を送信する。これは、プロパティ情報の更新を第2装置102に通知するための処理である。オブジェクトのタッチ状態が解除されたことを検知した場合(S323:Y)、第1制御部203は、通信部204を介して第2装置102にタッチ状態の解除を通知する(S324)。タッチ状態が解除された通知を受信した第2装置102は、後述の処理によりオブジェクトの移動済み通知を第1装置101へ送信する。
タッチ状態の解除を通知した後に、第1制御部203は、第2装置102からのオブジェクトの移動済み通知の受信を待機する。第2装置102から移動済み通知を受信した場合(S325:Y)、第1制御部203は、当該オブジェクトをアンインストールする(S326)。移動済み通知は、第2装置102へのオブジェクトの移動が正常に終了したことを表す。そのために第1制御部203は、移動済みのオブジェクトをアンストールして第1表示デバイス105から当該オブジェクトを消去する。
一定時間経過しても移動済み通知を受信しない場合(S325:N)、第1制御部203は、オブジェクトのアンインストールを行わずに、そのまま処理を終了する。移動済み通知を受信しない場合、第2装置102へのオブジェクトの移動が正常に終了していないことを表す。オブジェクトの移動が正常に終了しない場合とは、例えば、S321〜S323の処理において、ユーザがオブジェクトのタッチ状態を解除するタイミングがオブジェクトの実体の送信完了よりも早い場合である。そのために第1制御部203は、オブジェクトの表示をそのままにして処理を終了する。以上により第1装置101から第2装置102へのオブジェクトの移動処理が終了する。
図4は、第2装置102によるオブジェクト移動に関する処理を表すフローチャートである。
第2装置102の第2制御部215は、第1装置101からのオブジェクトの移動通知判定を行う(S401)。第2制御部215は、例えば第1装置101から通信部216を介してオブジェクトの移動通知を取得したか否かにより、オブジェクトの移動通知判定を行う。移動通知は、例えば第1装置101がS321の処理(図3参照)により送信するプロパティ情報であってもよい。プロパティ情報は、オブジェクトの種別、サムネイル画像、及びオブジェクトの状態等を含む。プロパティ情報を取得した場合、第2制御部215は、第1装置101からのオブジェクトの移動通知があると判定する。また、第2制御部215は、第1装置101の第1表示デバイス105が第2表示デバイス112の視野内にあるかを、識別部212により、撮像部211がカメラ114から取得した撮像画像に基づいて判定する(S402)。識別部212は、撮像画像に第1装置101の第1表示デバイス105が写り込んでいる場合に、第1表示デバイス105が第2表示デバイス112の視野内にあると判定する。第1表示デバイス105が第2表示デバイス112の視野内にある場合を「重畳状態」にあるという。
第1装置101からのオブジェクトの移動通知判定及び第1装置101の第1表示デバイス105が第2表示デバイス112の視野内にあるか否かにより、第2制御部215は、オブジェクトの移動を判定する。移動通知があり且つ第1表示デバイス105が重畳状態にある場合(S402:重畳且つ移動)、第2制御部215は、第1装置101から第2装置102へのオブジェクトの移動のための処理を行う。移動通知がなく且つ第1表示デバイス105が重畳状態にある場合(S402:重畳のみ)、第2制御部215は、第2装置102から第1装置101へのオブジェクトの移動のための処理を行う。移動通知がなく且つ第1表示デバイス105が重畳状態にない場合、第2制御部215は、オブジェクトの移動を行わずに処理を終了する。
・第1装置101から第2装置102へのオブジェクトの移動
移動通知があり且つ第1表示デバイス105が重畳状態にある場合、第2制御部215は、通信部216を介して第1装置101から移動対象となるオブジェクトのプロパティ情報を取得する(S410)。なお、S401の処理においてプロパティ情報の取得により移動通知の取得を判定する場合、第2制御部215は、S410の処理で改めてプロパティ情報を取得する必要はない。第2制御部215は、プロパティ情報の取得に応じて、描画部214により、第2表示デバイス112にオブジェクトが移動中であることを表す効果画像を表示する(S411)。
第2制御部215は、プロパティ情報の取得に引き続いて、通信部216を介してS322の処理(図3参照)で送信される第1装置101からオブジェクトの実体を取得する(S412)。第2制御部215は、通信部216を介して第1装置101からS324の処理(図3参照)で通知されるタッチ状態の解除通知を受信することで、タッチ解除を判定する(S413)。なお、第2制御部215は、オブジェクトの取得後にタッチ状態の解除通知の受信まで待機する。タッチ状態の解除通知を受信した第2制御部215は、再度、第1装置の第1表示デバイス105が重畳状態にあるかを、識別部212により、撮像部211がカメラ114から取得した撮像画像に基づいて判定する(S414)。第1装置の第1表示デバイス105が第2表示デバイス112の視野内にない、すなわち重畳状態にない場合(S414:N)、第2制御部215は、オブジェクトの移動を中止して処理を終了する。
第1装置の第1表示デバイス105が第2表示デバイス112の視野内にある、すなわち重畳状態にある場合(S414:Y)、第2制御部215は、通信部216を介して第1装置101へオブジェクトの移動済み通知を送信する(S415)。オブジェクトの移動済み通知は、オブジェクトの移動が完了したことを表す通知である。第2制御部215は、識別部212により、取得したオブジェクトの重畳位置及びサイズを撮像部211で取得した撮像画像に基づいて判定する(S416)。識別部212は、例えば撮像画像とプロパティ情報とにより、オブジェクトの重畳位置及びサイズを判定する。第2制御部215は、RAM116又は外部記憶装置に、第1装置101から取得したオブジェクトをインストールする(S417)。第2制御部215は、描画部214により、インストールしたオブジェクトを、重畳位置及びサイズに応じて第2表示デバイス112に表示して処理を終了する。以上により第1装置101から第2装置102へのオブジェクトの移動処理が終了する。
・第2装置102から第1装置101へのオブジェクトの移動
移動通知がなく且つ第1表示デバイス105が重畳状態にある場合、第2制御部215は、識別部212により、第1表示デバイス105に重畳表示されるオブジェクトを判定する(S420)。識別部212は、撮像部211で取得した撮像画像に基づいて、第2表示デバイス112が表示し、且つ第1表示デバイス105に重畳表示されるオブジェクトを判定する。重畳表示されるオブジェクトがない場合(S420:N)、第2制御部215は、オブジェクトの移動を行わずに処理を終了する。
重畳表示されるオブジェクトがある場合(S420:Y)、第2制御部215は、重畳表示されるオブジェクトの第1表示デバイス105上の表示位置、表示サイズ等を表すプロパティ情報を生成し、通信部216を介して第1装置101に送信する(S421)。これが上述の「判定オブジェクトプロパティ送信」である。第1装置101は、このプロパティ情報に基づいてS301(図3参照)の処理を行うことになる。第2制御部215は、プロパティ情報に続いて、重畳表示されるオブジェクトの実体を通信部216を介して第1装置101へ送信する(S422)。オブジェクトの実体を送信した第2制御部215は、描画部214により、当該オブジェクトの第2表示デバイス121への表示状態を変更して、透過度を上昇する(S423)。これにより第2装置102は、ユーザに対して、第2表示デバイス122に表示された該オブジェクトのコントロールが、第1装置101へ移動していることを示す。
第2制御部215は、S308(図3参照)の処理の結果として、オブジェクトがタッチ状態にあることの通知を第1装置101から取得したかを判定する(S424)。該通知を取得していない場合(S424:N)、第2制御部215は、識別部212により、S420の処理で重畳判定されたオブジェクトが依然として第1表示デバイス105に重畳表示されているかを判定する(S450)。S420の処理で重畳判定されたオブジェクトが依然として第1表示デバイス105に重畳表示されている場合(S450:Y)、第2制御部215は、S421の処理に戻ってプロパティ情報を送信する。S421〜S424の処理は、第2制御部215が第1装置101からオブジェクトがタッチ状態にあることの通知を取得するまで繰り返し実行される。これにより、第1装置101の第1表示デバイス105には、第2装置102の第2表示デバイス112に表示されていたときのオブジェクトの大きさと位置が維持されて表示される。
S420の処理で重畳判定されたオブジェクトが第1表示デバイス105に重畳表示されていない場合(S450:N)、第2制御部215は、オブジェクト状態判定部213により、通信部216を介して第1装置101に遺失通知を送信する(S451)。オブジェクト状態判定部213は、重畳状態にあったオブジェクトが重畳状態から外れたために遺失通知を送信する。第2制御部215は、重畳状態から外れたために、描画部214により、第2表示デバイス112に表示しているオブジェクトの透過度を元に戻す(S452)。第2制御部215は、その後、一定時間待機してS420の処理に戻る(S453)。これは、一時的な視線移動や手の揺れ等により重畳状態が崩れた意図しない重畳状態の解除の場合、すぐに再度重畳状態になることが見込めるため一定時間の作業猶予を与えるものである。
S308(図3参照)の処理により第1装置101からオブジェクトがタッチ状態にあることの通知を取得した場合(S424:Y)、第2制御部215は、該オブジェクトの表示位置、表示サイズ等のプロパティ情報を更新する(S426)。また、第2制御部215は、描画部214により、表示中のオブジェクトの表示状態を更新する(S427)。第2制御部215は、S324(図3参照)の処理結果として、第1装置101からタッチ解除の通知を取得するまで待機する(S428)。
タッチ解除の通知を取得した場合(S428:Y)、第2制御部215は、識別部212により、第2表示デバイス112の視野内に第1表示デバイス105に表示されたオブジェクトが存在するかを判定する(S429)。識別部212は、撮像部211で取得した撮像画像によりこの判定を行う。
オブジェクトが視野内に存在する場合(S429:Y)、第2制御部215は、オブジェクト状態判定部213により、通信部216を介して第1装置101にオブジェクトの移譲不可通知を送信する(S430)。移譲不可通知は、第1装置101へのオブジェクトの移動が正常に終了していないことを表す。移譲不可通知の送信後に第2制御部215は、描画部214により、当該オブジェクトの表示を更新させて処理を終了する(S440)。描画部214は、例えばS423の処理で変更したオブジェクトの透過度を元に戻す。
オブジェクトが視野内に存在しない場合(S429:N)、第2制御部215は、オブジェクト状態判定部213により、通信部216を介して第1装置101にオブジェクトの移譲通知を送信する(S431)。移譲通知は、第1装置101へのオブジェクトの移動が正常に終了したことを表す。移譲通知の送信後に第2制御部215は、当該オブジェクトをアンインストールし、移動済みのオブジェクトをアンストールして第2表示デバイス112から当該オブジェクトを消去する(S440)。以上により第2装置102から第1装置101へのオブジェクトの移動処理が終了する。
(実施例1)
図5〜図9は、第2装置102から第1装置101へオブジェクトを移動させる場合の具体例の説明図である。第1装置101はスマートフォンであり、第2装置102はメガネ型ディスプレイである。メガネ型ディスプレイの第2表示デバイス112は、透過型ディスプレイである。第2装置102から第1装置101へオブジェクトを移動させるために、図3のS302以降の処理及び図4の420以降の処理が行われる。
図5に示すように、メガネ型ディスプレイを通して見える視野501には、実際の背景である山や樹木502と、メガネ型ディスプレイの透過型ディスプレイに表示されるオブジェクト503、504、505と、が含まれる。第1装置101であるスマートフォンは、視野501に含まれていない。第2装置102であるメガネ型ディスプレイが有するカメラ114が撮像した撮像画像は、視野501に含まれる画像と同様の画像である。スマートフォンとメガネ型ディスプレイとは、通信路103を介して通信可能である。
図6は、図5の状態からスマートフォンを視野501内に移動させた状態を示す。メガネ型ディスプレイは、スマートフォンからオブジェクトの移動通知を取得しておらず、且つスマートフォンが重畳状態にあると判定する。そのためにメガネ型ディスプレイは、図4のS420以降の処理を行うことになる。メガネ型ディスプレイは、第2表示デバイス112に表示されるオブジェクト504が、スマートフォンの第1表示デバイス105上に重畳表示されていると判定する(S420:Y)。メガネ型ディスプレイは、重畳表示されているオブジェクト504のプロパティ情報をスマートフォンへ送信する(S421)。プロパティ情報は、スマートフォンの第1表示デバイス105内のオブジェクトの位置及びサイズを含む。メガネ型ディスプレイは、スマートフォンへオブジェクトの実体である画像情報を送信する(S422)。スマートフォンへ画像情報を送信開始した時点で、メガネ型ディスプレイは、第2表示デバイス112に表示するオブジェクト504を非表示または透過度を上げる等の処理を行う(S423)。これによってメガネ型ディスプレイは、ユーザに対して、オブジェクト504がスマートフォンで操作することができる対象であることを示す。
スマートフォンは、以上のようなメガネ型ディスプレイの処理を受けて、メガネ型ディスプレイからオブジェクトの移動通知を取得したと判定し(S301)、プロパティ情報取得からオブジェクト表示までの処理を行う(S302〜S304)。スマートフォンは、S302の処理で取得したプロパティ情報から、オブジェクトの表示位置及び表示サイズを設定する。
以上の処理により、メガネ型ディスプレイの視野501でスマートフォン上に表示されるオブジェクト504は、スマートフォンの第1表示デバイス105に表示される。つまり図5の状態から図6の状態に遷移することで、オブジェクト602が、メガネ型ディスプレイの第2表示デバイス112からスマートフォンの第1表示デバイス105に移動を開始する。
図7は、図6の状態から、スマートフォンをメガネ型ディスプレイ側に引き寄せた状態を示す。スマートフォンがメガネ型ディスプレイに接近するために、スマートフォンが視野501に対して図6より大きくなる。これによりオブジェクト602のスマートフォンへの表示サイズが変更されている。すなわち、スマートフォンの第1表示デバイス105に対して、オブジェクト602の表示が小さくなる。
メガネ型ディスプレイは、図6の処理が終わると、スマートフォンからのタッチ状態の通知を待機する(S424)。図7では、メガネ型ディスプレイは、待機中にスマートフォンが接近したために、スマートフォンの第1表示デバイス105に対するオブジェクト602のプロパティ情報を変更する。すなわち、視野501内のオブジェクトの表示サイズはメガネ型ディスプレイに表示されていたときの表示サイズを維持しており、メガネ型ディスプレイはS421のプロパティ情報の送信処理を繰り返しスマートフォンに対して行っている。ユーザはこの特性を用い、スマートフォンに移動したいオブジェクトの表示位置と表示サイズを特定する。
図8は、オブジェクト602の移動を確定するために、ユーザがオブジェクト602をタッチしたときの状態を示す。スマートフォンは、ユーザによるオブジェクト602のタッチ状態を検知して、オブジェクト602がタッチ状態にあることをメガネ型ディスプレイに通知する(S306、S308)。
メガネ型ディスプレイは、スマートフォンからオブジェクト602がタッチ状態であることの通知を取得し、オブジェクトのプロパティ情報を更新する(S424、S426)。図8の点線803は、オブジェクト602がタッチ状態であることを表している。メガネ型ディスプレイは、タッチ状態の解除通知をスマートフォンから取得するまで、オブジェクト602の視野501内における表示位置及び表示サイズを取得して、表示状態を更新する(S427、S428)。表示状態は、S423の処理のように透過度等を変更して行われる。
メガネ型ディスプレイは、この時点でタッチ状態の解除通知を取得した場合に、移動不可通知をスマートフォンに送信するとともに、第2表示デバイス112にオブジェクト504を表示する(S430、S440)
なお、オブジェクト503は、重畳状態にあると判定されていないため、スマートフォンには表示されず、メガネ型ディスプレイに表示される。ユーザからは、オブジェクト503がスマートフォンの筐体上に表示されて見える。
図9は、ユーザがスマートフォンをメガネ型ディスプレイの視野501の外に移動させ、オブジェクトのタッチを解除した状態を示す。スマートフォンは、オブジェクトのタッチ状態が解除されたことを検知して、メガネ型ディスプレイにタッチ状態の解除を通知する(S309、S310)。
メガネ型ディスプレイは、タッチ状態の解除通知をスマートフォンから取得して、視野501内にオブジェクト602が存在しないことを判定する(S428、S429)。メガネ型ディスプレイは、判定結果に応じてオブジェクト602の移譲通知をスマートフォンに送信する(S431)。メガネ型ディスプレイは、移譲通知の送信後にオブジェクト602をアンインストールすることで削除し、表示対象から取り除く(S432)。
スマートフォンは、メガネ型ディスプレイからオブジェクト602の移譲通知を取得して、オブジェクト602のインストールを行う(S312)。これにより、オブジェクト602のメガネ型ディスプレイからスマートフォンへの移動が完了する。
(実施例2)
図10〜図12は、第2装置102から第1装置101へオブジェクトを移動させる場合の別の具体例の説明図である。第1装置101はスマートフォンであり、第2装置102はメガネ型ディスプレイである。メガネ型ディスプレイの第2表示デバイス112は、透過型ディスプレイである。ここでは、実施例1の場合よりもメガネ型ディスプレイにおける移動対象のオブジェクトの特定を、より簡便にする処理について説明する。第2装置102から第1装置101へオブジェクトを移動させるために、図3のS302以降の処理及び図4の420以降の処理が行われる。
図10に示すように、メガネ型ディスプレイを通して見える視野1400には、メガネ型ディスプレイが第2表示デバイス112に表示するオブジェクト1406、1407、1408と、実際の背景1405とが含まれる。メガネ型ディスプレイを通して見える視野1400は、第1分割エリア1401〜第3分割エリア1403の複数のエリア(ここでは3エリア)に分割される。第1分割エリア1401にはオブジェクト1406が表示される。第2分割エリア1402にはオブジェクト1407が表示される。第3分割エリア1403にはオブジェクト1408が表示される。
図11は、図10の状態からメガネ型ディスプレイの視野1400内にスマートフォンを移動させた状態を示す。メガネ型ディスプレイは、オブジェクト1406〜1408のいずれかが、スマートフォンの第1表示デバイス105上に重畳表示されているかの判定を行う(S420)。これによりメガネ型ディスプレイは、スマートフォンが第2分割エリア1402内に大部分が含まれることがわかる。
メガネ型ディスプレイは、撮像部211で取得した撮像画像から、スマートフォンの大部分が第2分割エリア1402内に含まれることを判定し、第2分割エリア1402のオブジェクト1407を移動対象であると判定する。このときメガネ型ディスプレイは、どの分割エリアにスマートフォンが位置しているかを視覚的に見せる効果として、第2分割エリア1402の色を変えたり、枠1503で囲う等を行ってもよい。メガネ型ディスプレイは、第2分割エリア1402を重畳状態エリアとしてS423の処理を行い、スマートフォンからのタッチ状態の通知を待機する(S424)。
スマートフォンにはS304までの処理により、第2分割エリア1402のオブジェクト1407の移動が開始される。この後、ユーザがスマートフォンに表示されたオブジェクトをタッチすることで、スマートフォンは、該オブジェクトを選択状態とする。スマートフォンは、メガネ型ディスプレイに 該オブジェクトがタッチされたことを通知する(S308)。これ以降の処理は図8、図9で説明した処理と同様である。
図12は、ユーザがスマートフォンをメガネ型ディスプレイの視野501の外に移動させ、オブジェクトのタッチを解除した状態を示す。スマートフォンは、オブジェクトのタッチ状態が解除されたことを検知して、メガネ型ディスプレイにタッチ状態の解除を通知する(S309、S310)。スマートフォンには、メガネ型ディスプレイから移動したオブジェクト1601が表示される。オブジェクト1601は、第2分割エリア1402に表示されていたオブジェクト1407と同じオブジェクトである。これにより、オブジェクト1407のメガネ型ディスプレイからスマートフォンへの移動が完了する。
(実施例3)
図13〜図16は、第1装置101から第2装置102へオブジェクトを移動させる場合の具体例の説明図である。第1装置101はスマートフォンであり、第2装置102はメガネ型ディスプレイである。メガネ型ディスプレイの第2表示デバイス112は、透過型ディスプレイである。第1装置101から第2装置102へオブジェクトを移動させるために、図3のS320以降の処理及び図4のS410以降の処理が行われる。
図13に示すように、メガネ型ディスプレイを通して見える視野1000には、実際の背景1001のみが含まれる。メガネ型ディスプレイは、オブジェクトを表示しておらず、スマートフォンも視野1000に含まれていない。スマートフォンは、オブジェクト1003、1004、1005を表示する。
図14は、図13の状態から、ユーザがスマートフォンに表示されるオブジェクト1004をタッチすることで選択した状態を示す。スマートフォンは、これによりS322の処理まで実行する。スマートフォンの第1制御部203は、このときタッチされたオブジェクト1004がタッチ状態であることを強調するために、点線枠1101のような強調表示を描画部202により行う。
図15は、図14の状態から、ユーザがメガネ型ディスプレイの視野1000内にスマートフォンが移動させた状態を示す。これによりメガネ型ディスプレイは、S410〜S412の処理を実行し、タッチされたオブジェクト1004のプロパティ情報及びオブジェクト1004の実体を取得する。このときオブジェクト1004は、まだスマートフォン側に表示されている。メガネ型ディスプレイは、プロパティ情報に含まれる表示位置に、プロパティ情報で取得したサムネイル等を表示してもよい。タッチされたオブジェクト1004を囲う二重破線1201は、メガネ型ディスプレイに表示された移動先の表示位置をガイドする。
図16は、図15の状態から、ユーザがタッチを解除してスマートフォンをメガネ型ディスプレイの視野1000から外れた位置に再度移動させた状態を示す。スマートフォンは、タッチ解除を判定して、メガネ型ディスプレイにタッチ状態の解除を通知する(S323、S324)。
メガネ型ディスプレイは、タッチ状態の解除通知を受信することで、タッチ解除を判定する(S413)。メガネ型ディスプレイは、スマートフォンが重畳状態であるかを判定する(S414)。ここではタッチ状態の解除時に、スマートフォンが重畳状態である場合の例を説明する。重畳状態でのタッチ解除により、メガネ型ディスプレイは、オブジェクトの移動済み通知をスマートフォンに送信する(S415)。その後、メガネ型ディスプレイは、表示位置および表示サイズを判定し(S416)、オブジェクト1301のインストールを行う(S417)。図16の視野1000は、オブジェクト1301のインストール後のメガネ型ディスプレイの表示状態である。
スマートフォンは、オブジェクトの移動済み通知を受信し(S325)、オブジェクト1004をアンインストールする(S326)。オブジェクト1004のアンインストール後のスマートフォンの表示は、スマートフォン画面1304のようになる。すなわちオブジェクト1004が消去される。これにより、オブジェクト1104のスマートフォンからメガネ型ディスプレイへの移動が完了する。
以上のような本実施形態の情報処理システムは、複数のディスプレイ間の画像の移動を簡易な操作で実現することができる。特に、移動する画像の表示位置及び表示サイズを簡単に指定することができる。ユーザは、第1装置101の移動及び移動させる画像のタッチを行うだけで、第1装置101と第2装置102との間の画像の移動を行うことができる。
例えば、実施例1では、ユーザは、第1装置101を第2装置102が備えるカメラ114の撮像領域内(第2表示デバイス112の視野内)に移動させる。これによりユーザは、第1装置101の第1表示デバイス105の表示領域内に、第2表示デバイス112が表示する画像を重畳させる。ユーザは、重畳した画像が、第1表示デバイス105の表示領域内の表示させたい位置に、表示させたいサイズになるように、第1装置101の位置を調整する。ユーザは、重畳した画像をタッチすることで、当該画像の移動を実行する。これにより、第1装置101の第1表示デバイス105の表示領域のユーザが希望する位置に、希望する大きさで、当該画像が表示される。
実施例2では、ユーザは、第1装置101を第2装置102が備えるカメラ114の撮像領域(第2表示デバイス112の視野)の分割エリアのいずれかに移動させる。これによりユーザは、移動させたい画像を特定することができる。ユーザは、特定した画像が、第1表示デバイス105の表示領域内の表示させたい位置に、表示させたいサイズになるように、第1装置101の位置を調整する。ユーザは、特定した画像をタッチすることで、当該画像の移動を実行する。これにより、第1装置101の第1表示デバイス105の表示領域のユーザが希望する位置に、希望する大きさで、当該画像が表示される。この場合、ユーザのタッチ操作は不要となる。
実施例3では、ユーザは、第1装置101の第1表示デバイス105上で移動させる画像をタッチすることで特定する。ユーザは、画像をタッチしたまま、第1装置101を第2装置102が備えるカメラ114の撮像領域(第2表示デバイス112の視野)の分割エリアのいずれかに移動させる。ユーザは、特定した画像が、第2表示デバイス112の表示領域内の表示させたい位置に、表示させたいサイズになるように、第1装置101の位置を調整する。ユーザは、特定した画像のタッチ状態を解除することで、当該画像の移動を実行する。これにより、第2装置102の第2表示デバイス112の表示領域のユーザが希望する位置に、希望する大きさで、当該画像が表示される。
以上の説明では、移動対象をオブジェクトの画像として説明したが、移動対象は地図アプリケーションやSNSアプリケーション等の実行画面であってもよい。その場合、プロパティ情報の更新により処理のマイグレーションを行ってもよい。また、メガネ型ディスプレイとして説明した第2装置102は透過型ディスプレイを備えるものとして説明したが、カメラのモニタのように撮像中の画像をライブで表示できる装置であってもよい。また、第1装置101にて移動対象となるオブジェクトを特定する行為を第1表示デバイス105へのタッチ操作として説明したが、オブジェクトを特定する方法はこの限りでない。例えば視線によるオブジェクト特定や、アプリケーション処理によるオブジェクト特定等、オブジェクト特定を指示できる方式であればいずれでもよい。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。

Claims (15)

  1. 相互に通信可能な第1装置及び第2装置を有し、
    前記第1装置は、
    画像を表示する第1表示手段と、
    前記第1表示手段の表示画面上で指示されたタッチ位置を検知するタッチ位置検知手段と、
    前記タッチ位置検知手段で検知した前記タッチ位置に表示される画像を前記第2装置に移動させる第1画像に特定して、前記第2装置に移動通知を送信する第1制御手段と、を備え、
    前記第2装置は、
    透過型ディスプレイを有する第2表示手段と、
    前記第2表示手段の視野を撮像範囲として、前記第2表示手段に表示される画像を含んで撮像する撮像手段と、
    前記撮像手段で撮像した撮像画像に前記第1表示手段が含まれ且つ前記第1装置から前記移動通知があるときに、前記第1装置から前記第1画像を取得し、前記撮像画像の前記第1画像が表示される位置及びサイズに応じた位置及びサイズで、前記第2表示手段に前記第1画像を表示させる第2制御手段と、を備えることを特徴とする、
    情報処理システム。
  2. 前記第1制御手段は、前記第1画像のプロパティ情報を前記移動通知として前記第2装置に送信し、
    前記第2制御手段は、前記プロパティ情報の取得に応じて、前記第2表示手段に、前記第1画像が移動中であることを表す効果画像を表示させることを特徴とする、
    請求項1記載の情報処理システム。
  3. 前記第1制御手段は、前記タッチ位置検知手段がタッチ解除を検知したときにタッチ状態の解除通知を前記第2装置に送信し、
    前記第2制御手段は、前記解除通知を取得した後の前記撮像画像に前記第1表示手段が含まれないときに、前記第1画像の移動を中止し、前記解除通知を取得した後の前記撮像画像に前記第1表示手段が含まれるときに、前記第1装置に移動済み通知を送信し、
    前記第1制御手段は、前記移動済み通知を受信したときに前記第1画像をアンインストールすることを特徴とする、
    請求項1又は2記載の情報処理システム。
  4. 相互に通信可能な第1装置及び第2装置を有し、
    前記第1装置は、
    画像を表示する第1表示手段と、
    第1制御手段と、を備え、
    前記第2装置は、
    透過型ディスプレイを有する第2表示手段と、
    前記透過型ディスプレイの視野を撮像範囲として、前記第2表示手段に表示される画像を含んで撮像する撮像手段と、
    前記撮像手段で撮像した撮像画像に含まれる前記第2表示手段に表示された画像の前記第1装置に対する位置に応じて、該画像を前記第1装置に移動させる第1画像に特定するかを判定し、移動させる場合に、前記第1画像の前記第1装置に対する位置及び前記第1画像の前記第1装置に対するサイズに応じた表示位置及び表示サイズを表すプロパティ情報を、前記第1画像とともに前記第1装置へ送信する第2制御手段と、を備え、
    前記第1制御手段は、前記第2装置から取得した前記第1画像を、取得した前記プロパティ情報が表す前記表示位置及び前記表示サイズで、前記第1表示手段に表示させることを特徴とする、
    情報処理システム。
  5. 前記第2制御手段は、前記撮像画像に含まれる前記第2表示手段に表示された画像が前記第1表示手段に重畳するときに、該画像を前記第1装置に移動させる前記第1画像と判定し、前記第1画像の前記第1表示手段に重畳する位置及びサイズに応じて前記プロパティ情報を生成することを特徴とする、
    請求項4記載の情報処理システム。
  6. 前記第1装置は、前記第1表示手段の表示画面上で指示された位置を検知するタッチ位置検知手段を備えており、
    前記第1制御手段は、前記タッチ位置検知手段により、前記第1表示手段に表示される前記第2装置から取得した前記第1画像の表示位置がタッチされたことを検知すると、前記第2装置に前記第1画像がタッチされたことを通知し、タッチが解除されると、前記第2装置にタッチ状態の解除を通知し
    前記第2制御手段は、前記タッチされたことの通知を取得した後に前記タッチ状態の解除の通知を取得したときに、前記撮像画像に前記第1装置が含まれなければ、前記第1画像をアンインストールすることを特徴とする、
    請求項4又は5記載の情報処理システム。
  7. 第1表示手段を有する第1装置との通信を制御する通信手段と、
    透過型ディスプレイを有する第2表示手段と、
    前記透過型ディスプレイの視野を撮像範囲として、前記第2表示手段に表示される画像を含んで撮像する撮像手段と、
    前記撮像手段で撮像した撮像画像に含まれる前記第2表示手段に表示された画像の前記第1装置に対する位置に応じて、該画像を前記第1装置に移動させる第1画像に特定するかを判定し、移動させる場合に、前記第1画像の前記第1装置に対する位置及び前記第1画像の前記第1装置に対するサイズに応じた表示位置及び表示サイズを表すプロパティ情報を、前記第1画像とともに前記第1装置へ送信する制御手段と、を備えることを特徴とする、
    装置。
  8. 前記制御手段は、前記撮像画像に含まれる前記第2表示手段に表示された画像が、前記第1表示手段の表示画面上に重畳されれば、該画像を前記第1画像に特定し、前記第1画像が重畳される前記第1表示手段の表示画面の位置に、前記第1画像が重畳されるサイズで、前記第1画像を表示させることを特徴とする、
    請求項7記載の装置。
  9. 前記第2表示手段は、表示画面が、それぞれに画像が表示される複数のエリアに分割されており、
    前記制御手段は、前記撮像画像の前記第1装置が含まれるエリアに表示される画像を前記第1装置に移動させる前記第1画像に特定することを特徴とする、
    請求項7記載の装置。
  10. 前記制御手段は、前記撮像手段で撮像した撮像画像に前記第1表示手段が含まれ且つ前記第1装置から第2画像の移動通知があるときに、前記第1装置から前記第2画像を取得し、前記撮像画像の前記第2画像が表示される位置及びサイズに応じた位置及びサイズで、前記第2表示手段に前記第2画像を表示させることを特徴とする、
    請求項7〜9のいずれか1項記載の装置。
  11. 前記第2表示手段は、メガネ型ディスプレイであり、
    前記撮像手段は、前記透過型ディスプレイの視野を撮像範囲として撮像することを特徴とする、
    請求項7〜10のいずれか1項記載の装置。
  12. 画像を表示する第1表示手段及び前記第1表示手段の表示画面上で指示されたタッチ位置を検知するタッチ位置検知手段を備える第1装置と、透過型ディスプレイを有する第2表示手段及び前記第2表示手段の視野を撮像範囲として、前記第2表示手段に表示される画像を含んで撮像する撮像手段を備える第2装置とを有し、前記第1装置と前記第2装置とが通信可能な情報処理システムにより実行される方法であって、
    前記第1装置が、前記タッチ位置検知手段で検知した前記タッチ位置に表示される画像を前記第2装置に移動させる第1画像に特定して、前記第2装置に移動通知を送信し、
    前記第2装置が、前記撮像手段で撮像した撮像画像に前記第1表示手段が含まれ且つ前記第1装置から前記移動通知があるときに、前記第1装置から前記第1画像を取得し、前記撮像画像の前記第1画像が表示される位置及びサイズに応じた位置及びサイズで、前記第2表示手段に前記第1画像を表示させることを特徴とする、
    情報処理方法。
  13. 画像を表示する第1表示手段を備える第1装置と、透過型ディスプレイを有する第2表示手段及び前記第2表示手段の視野を撮像範囲として、前記第2表示手段に表示される画像を含んで撮像する撮像手段を備える第2装置とを有し、前記第1装置と前記第2装置とが通信可能な情報処理システムにより実行される方法であって、
    前記第2装置が、前記撮像手段で撮像した撮像画像に含まれる前記第2表示手段に表示された画像の前記第1装置に対する位置に応じて、該画像を前記第1装置に移動させる第1画像に特定するかを判定し、移動させる場合に、前記第1画像の前記第1装置に対する位置及び前記第1画像の前記第1装置に対するサイズに応じた表示位置及び表示サイズを表すプロパティ情報を、前記第1画像とともに前記第1装置へ送信し、
    前記第1装置が、前記第2装置から取得した前記第1画像を、取得した前記プロパティ情報が表す前記表示位置及び前記表示サイズで、前記第1表示手段に表示させることを特徴とする、
    情報処理方法。
  14. 第1表示手段を有する第1装置との通信を制御する通信手段と、透過型ディスプレイを有する第2表示手段と、前記透過型ディスプレイの視野を撮像範囲として、前記第2表示手段に表示される画像を含んで撮像する撮像手段と、を備えるコンピュータを、
    前記撮像手段で撮像した撮像画像に含まれる前記第2表示手段に表示された画像の前記第1装置に対する位置に応じて、該画像を前記第1装置に移動させるかを判定し、移動させる場合に、該画像の前記第1装置に対する位置及び該画像の前記第1装置に対するサイズに応じた表示位置及び表示サイズを表すプロパティ情報を、該画像とともに前記第1装置へ送信する制御手段、
    として機能させるためのコンピュータプログラム。
  15. 請求項14記載のコンピュータプログラムを記憶するコンピュータにより読み取り可能な記憶媒体。
JP2016181767A 2016-09-16 2016-09-16 情報処理システム、装置、情報処理方法、コンピュータプログラム、及び記憶媒体 Active JP6742871B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016181767A JP6742871B2 (ja) 2016-09-16 2016-09-16 情報処理システム、装置、情報処理方法、コンピュータプログラム、及び記憶媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016181767A JP6742871B2 (ja) 2016-09-16 2016-09-16 情報処理システム、装置、情報処理方法、コンピュータプログラム、及び記憶媒体

Publications (3)

Publication Number Publication Date
JP2018045596A JP2018045596A (ja) 2018-03-22
JP2018045596A5 JP2018045596A5 (ja) 2019-10-17
JP6742871B2 true JP6742871B2 (ja) 2020-08-19

Family

ID=61693199

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016181767A Active JP6742871B2 (ja) 2016-09-16 2016-09-16 情報処理システム、装置、情報処理方法、コンピュータプログラム、及び記憶媒体

Country Status (1)

Country Link
JP (1) JP6742871B2 (ja)

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013200775A (ja) * 2012-03-26 2013-10-03 Sony Corp 情報処理装置、情報処理方法およびプログラム
JP6136667B2 (ja) * 2013-07-08 2017-05-31 コニカミノルタ株式会社 画像処理システム、画像形成装置、表示装置、および制御プログラム
JP2015115046A (ja) * 2013-12-16 2015-06-22 ソニー株式会社 情報処理装置、プログラム、情報処理方法及び情報処理システム
JP5929933B2 (ja) * 2014-01-16 2016-06-08 カシオ計算機株式会社 表示システム、表示端末、表示方法及びプログラム
JP6300705B2 (ja) * 2014-11-19 2018-03-28 キヤノン株式会社 装置連携による認証管理方法、情報処理装置、ウェアラブルデバイス、コンピュータプログラム

Also Published As

Publication number Publication date
JP2018045596A (ja) 2018-03-22

Similar Documents

Publication Publication Date Title
US8106884B2 (en) Pointing input device, method, and system using image pattern
US10277544B2 (en) Information processing apparatus which cooperate with other apparatus, and method for controlling the same
US9304728B2 (en) Generating a map of image forming devices on a mobile device
JP6179653B1 (ja) 情報処理装置及びプログラム
EP3112993B1 (en) Information processing apparatus, setting condition specification method for image forming apparatus
JP2008217590A (ja) 情報共有支援システム、情報処理装置及び制御プログラム
US20170038912A1 (en) Information providing device
JP6295995B2 (ja) 情報処理装置、画像処理装置へのジョブ指示方法
JP2014157530A (ja) 情報処理端末、情報処理装置、情報処理システム及びプログラム
EP3716031A1 (en) Rendering device and rendering method
EP3041218B1 (en) Information processing device, imaging device, imaging system, information processing device control method, imaging device control method and program
JP2013105203A (ja) 情報処理装置、情報処理装置の制御方法、及び情報処理システム
CN107391061B (zh) 信息处理装置及信息处理方法
JP2017084100A (ja) 情報通信端末、共有管理装置、情報共有方法、コンピュータプログラム
JP6136667B2 (ja) 画像処理システム、画像形成装置、表示装置、および制御プログラム
JP6742871B2 (ja) 情報処理システム、装置、情報処理方法、コンピュータプログラム、及び記憶媒体
US9036194B2 (en) Operation input apparatus, image forming system, and storage medium for operation input program
CN107924272B (zh) 信息处理装置、信息处理方法和程序
US20210386178A1 (en) Storage medium, computer control method, and information processing apparatus
JP7210229B2 (ja) 表示制御装置、表示制御装置の制御方法及びプログラム
JP6155593B2 (ja) システム、装置及び方法
JP2011128563A (ja) 表示装置、表示システム、及び表示制御方法
JP2014174643A (ja) 画像処理システム、その制御方法、画像処理装置、及び画像処理方法
JP6455551B2 (ja) 情報処理装置及びプログラム
JP2021012482A (ja) プログラム及び画像表示システム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190902

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190902

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200514

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200602

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200617

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200630

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200729

R151 Written notification of patent or utility model registration

Ref document number: 6742871

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151