JP7453369B2 - 情報処理システムおよび情報処理方法 - Google Patents

情報処理システムおよび情報処理方法 Download PDF

Info

Publication number
JP7453369B2
JP7453369B2 JP2022529165A JP2022529165A JP7453369B2 JP 7453369 B2 JP7453369 B2 JP 7453369B2 JP 2022529165 A JP2022529165 A JP 2022529165A JP 2022529165 A JP2022529165 A JP 2022529165A JP 7453369 B2 JP7453369 B2 JP 7453369B2
Authority
JP
Japan
Prior art keywords
information terminal
application
operation mode
cooperation
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022529165A
Other languages
English (en)
Other versions
JPWO2021245773A1 (ja
Inventor
尚久 高見澤
康宣 橋本
和彦 吉澤
義憲 岡田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Maxell Ltd
Original Assignee
Maxell Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Maxell Ltd filed Critical Maxell Ltd
Publication of JPWO2021245773A1 publication Critical patent/JPWO2021245773A1/ja
Application granted granted Critical
Publication of JP7453369B2 publication Critical patent/JP7453369B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/54Interprogram communication
    • G06F9/543User-generated data transfer, e.g. clipboards, dynamic data exchange [DDE], object linking and embedding [OLE]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04842Selection of displayed objects or displayed text elements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F13/00Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/016Input arrangements with force or tactile feedback as computer generated output to the user
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04817Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance using icons
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0482Interaction with lists of selectable items, e.g. menus
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/72409User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality by interfacing with external accessories
    • H04M1/72412User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality by interfacing with external accessories using two-way short-range wireless interfaces
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/72442User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality for playing music files

Description

本発明は、複数の情報端末間でのアプリケーション(以下、アプリと呼ぶ。)の起動を制御する技術に関する。
ヘッドマウントディスプレイ(Head Mounted Display:HMD)は、表示範囲が狭いため、他の情報端末と連携して用いられることがある。例えば、特許文献1には、「連携先デバイスと接続するために用いる情報および当該連携先デバイスに登録されたアプリが用いるデータに関する情報を含むデバイス情報を管理する第1の管理部と、連携元デバイスからの連携要求に対し、前記デバイス情報を参照して、連携が可能な連携先デバイスおよびアプリを示す連携候補を取得する第2の管理部と、前記連携候補に示されるアプリを起動し、連携を行うデバイスおよび当該デバイスに登録された連携が可能なアプリを連携先に確定する連携制御部とを含む(要約抜粋)」アプリ連携装置が開示されている。
特開2017-142693号公報
特許文献1の技術によれば、他の情報端末を用いて所望アプリの選択指定を行うことにより、操作性が向上する。しかし、特許文献1の技術では、アプリが登録された全ての情報端末でアプリが起動する。このため、当該アプリが意図しない情報端末でも実行され、当該情報端末において他のアプリの動作が停止するなど、作業を妨げることがある。
本発明は、上記事情に鑑みてなされたもので、同じアプリまたは対応するアプリを搭載した複数の情報端末間で、ユーザの負担を増加させることなく、容易に所望のデバイスでアプリを起動、実行させる、使い勝手のよい情報処理技術を提供することを目的とする。
本発明は、複数の端末間で連携して、各端末が共通に備えるアプリケーションを実行する情報処理システムであって、前記複数の端末として第一情報端末と第二情報端末とを備え、前記第二情報端末は、前記アプリケーションの起動指示を受け付ける受付部と、単独動作モードおよび連携動作モードのいずれかで当該第二情報端末を動作させる連携制御部と、を備え、前記第一情報端末は、前記連携動作モード時に実行された前記アプリケーションの実行結果を出力する出力部を備え、前記単独動作モードは、前記アプリケーションを前記第二情報端末で単独に実行する動作モードであり、前記連携動作モードは、前記アプリケーションを前記第一情報端末および前記第二情報端末で連携して実行する動作モードであり、前記第二情報端末が前記連携動作モードで動作可能な状態である連携状態は、前記第一情報端末と前記第二情報端末との配置によって定まり、前記第一情報端末は、前記連携状態か否かを判断する連携判断部をさらに備え、前記第二情報端末の前記連携制御部は、前記連携判断部が前記連携状態と判断した場合、前記連携動作モードで動作させ、前記第二情報端末の前記受付部は、前記第二情報端末が備える第二ディスプレイに前記起動指示を受け付けるアイコンを表示し、当該アイコンを介して前記起動指示を受け付け、前記第一情報端末の前記連携判断部は、前記第一情報端末のディスプレイの予め定めた連携視野内に、前記第二ディスプレイに表示される前記アイコンが含まれる場合、前記連携状態であると判断することを特徴とする。
本発明によれば、同じアプリまたは対応するアプリを搭載した複数の情報端末間で、ユーザの負担を増加させることなく、容易に所望のデバイスでアプリを起動、実行させる、使い勝手のよい情報処理技術を提供できる。上記した以外の課題、構成および効果は、以下の実施形態の説明により明らかにされる。
第一実施形態の情報処理システムの概要を説明するための説明図である。 (a)および(b)は、第一実施形態の連携状態を説明するための説明図である。 (a)および(b)は、第一実施形態の非連携状態を説明するための説明図である。 第一実施形態のヘッドマウントディスプレイのハードウェア構成図である。 第一実施形態のスマートフォンのハードウェア構成図である。 (a)および(b)は、それぞれ、第一実施形態の、ヘッドマウントディスプレイおよびスマートフォンの機能構成図である。 第一実施形態のアプリ連携処理のフローチャートの例である。 第二実施形態のアプリ連携処理のフローチャートの例である。 第三実施形態の連携状態判断手法を説明するための説明図である。 第三実施形態のアプリ連携処理のフローチャートの例である。 (a)および(b)は、第四実施形態のスマートフォンのディスプレイの表示内容を説明するための説明図である。 第四実施形態のアプリ連携処理のフローチャートの例である。 第五実施形態のアプリ連携処理のフローチャートの例である。 第六実施形態のアプリ連携処理のフローチャートの例である。 第七実施形態の情報処理システムの概要を説明するための説明図である。 (a)および(b)は、第七実施形態の連携状態を説明するための説明図である。 第七実施形態のスマートウォッチのハードウェア構成図である。 第七実施形態のスマートウォッチの機能ブロック図である。 第七実施形態のアプリ連携処理のフローチャートの例である。 (a)および(b)は、本発明の変形例の情報処理システムの概要を説明するための説明図である。 (a)~(e)は、本発明の変形例のアイコン表示態様を説明するための説明図である。
<<第一実施形態>>
本発明の第一実施形態を、図面を用いて説明する。本実施形態では、第一の情報処理端末(第一情報端末)と第二の情報処理端末(第二情報端末)とが共通して有するアプリケーション(アプリ)を、連携して実行する。
以下、本実施形態を、例えば、第一情報端末としてヘッドマウントディスプレイ(以下、HMDと呼ぶ。)を、第二情報端末としてスマートフォン(以下、スマホと呼ぶ。)を用いる場合を例にあげて説明する。
図1は、本実施形態の情報処理システム500の全体を、模式的に示す図である。本図に示すように、本実施形態の情報処理システム500は、ユーザ501の頭部に装着された第一情報端末であるHMD100と、ユーザ501が手に持つ第二情報端末であるスマホ200と、を備える。
HMD100は、現実に似せた仮想世界を作り出しあたかもそこにいるような感覚を体験できる仮想現実(Virtual Reality:VR)技術や、現実世界にデジタル情報を付与しCG(Computer Graphics)などで作った仮想空間(仮想オブジェクト)を現実世界に反映し拡張していく拡張現実(Augmented Reality:AR)技術を具現化する情報端末であって、ユーザ501が頭部に装着して利用する。しかしながら、構造上の制約があって表示範囲が狭く、また、細かい操作がしにくい。
スマホ200は、単独での通話や通信の機能を備える。スマホ200は、アイコンをわかりやすくディスプレイに表示し、タッチ操作性に好適なものである。なお、アイコンは、ユーザ501の指やタッチペンなどによる接近又は接触操作により、アプリの起動が可能な図形記号である。
本実施形態では、HMD100と、スマホ200とが連携し、HMD100にインストールされているアプリケーション(以下、アプリと呼ぶ)の起動指示を、スマホ200側で行い、アプリはHMD100で実行する。本実施形態では、この状態を連携状態と呼ぶ。なお、以下、HMD100とスマホ200とを区別する必要がない場合は、情報端末と呼ぶ。
第一実施形態は、HMD100とスマホ200とが連携状態であるか否かを、HMD100側で判断する。連携状態であるか否かは、両者の配置状態で判断する。具体的には、図2(a)に示すように、HMD100のディスプレイ131(131a、131b)の予め定めた連携視野101a内に、スマホ200のディスプレイ231に表示されているアプリのアイコン420(421、422、423)が存在する場合、連携状態と判断する。
なお、図2(a)では、連携視野101a内に入っているアプリケーションA(アプリA)のアイコン421が、選択されている様子である。以下、このように、起動を所望するアプリケーションのアイコン420が連携視野101a内であるHMD100とスマホ200との配置状態を、所定配置状態と呼ぶ。
HMD100とスマホ200とが、所定配置状態にある場合、連携状態と判断される。ユーザ501がHMD100のディスプレイ131越しに、スマホ200上に表示されるアイコン421をタッチする等の動作で選択すると(図2(a))、例えば、スマホ200側で、選択されたアイコン421に対応するアプリの起動指示を行い、HMD100側でアプリを実行する(図2(b))。図2(b)には、HMD100において、アプリが実行され、当該アプリのアイコン411が表示される状態を示す。
本実施形態では、連携状態で、ユーザ501がアプリAのアイコン421にタッチするなど、スマホ200側でユーザ501による選択を受け付けると、スマホ200と、HMD100との間で、通信がなされ、ユーザ501によるタッチ情報がスマホ200からHMD100に送信される。
HMD100では、アイコン421へのタッチ情報を受信すると、それを、起動指示とし、HMD100内のアプリAを起動する。
なお、図3(a)に示すように、HMD100の連携視野101a内に、スマホ200のディスプレイ231に表示されるアイコン420が入っていない配置状態を、非所定配置状態と呼ぶ。
非所定配置状態で、ユーザ501がアプリAのアイコン421にタッチするなどの動作で、スマホ200側でアプリAの選択を受け付けると、そのままスマホ200で、アプリAを起動させる。
このように、本実施形態では、HMD100を装着していても、スマホ200上でアプリを実行させたい場合は、アイコン421を、連携視野101aの範囲外にすればよい。
なお、本実施形態では、HMD100と、スマホ200とは、音楽・画像の再生や書類作成など特定の作業を行うために使用される同一のアプリ、または、対応するアプリを各々搭載する。また、HMD100とスマホ200との間は、端末間の無線通信または有線通信により情報の送受信が行われる。
[ハードウェア構成]
以下、上記処理を実現する本実施形態の情報処理システム500を構成するHMD100、スマホ200それぞれについて、ハードウェア構成を説明する。
図4および図5は、各々、HMD100およびスマホ200の構成例を示すブロック図である。これらの図では、図1~図3に示した構成と同一のものには同一の符号を付す。
図4は、本実施形態のHMD100のハードウェア構成図である。本図に示すように、本実施形態のHMD100は、メインプロセッサ111と、システムバス112と、記憶装置110と、操作受付装置120と、画像処理装置130と、音声処理装置140と、センサ150と、通信装置160と、拡張インタフェース(I/F)部105と、タイマ106と、振動発生装置107と、を備える。
メインプロセッサ111は、所定のプログラムに従ってHMD100全体を制御する主制御部である。メインプロセッサ111は、CPU(Centoral Processor Unit)またはマイクロプロセッサユニット(MPU)で実現される。メインプロセッサ111は、記憶装置110に記憶されるオペレーティングシステム(Operating System:OS)や各種の動作制御用アプリケーションなどのプログラムを実行することによって、HMD100全体の動作制御処理を行う。また、メインプロセッサ111は、各種のアプリの起動動作を制御する。メインプロセッサ111は、タイマ106が計測し、出力するクロック信号に従って、処理を行う。
システムバス112は、メインプロセッサ111とHMD100内の各部との間でデータ送受信を行うためのデータ通信路である。
記憶装置110は、RAM103とROM104とを備える。記憶装置110には、オペレーティングシステムや、音楽、画像、文書等の各種の動作制御用アプリなどのプログラムが記憶される。また、オペレーティングシステムなどによる基本動作に必要なベースデータや、各種アプリなどで起動されるファイルデータなどの情報データが格納される。例えば、HMD100に搭載されている音楽アプリが起動し音楽のファイルデータが選択されると、HMD100では選択された音楽のファイルデータが再生されて、所望の音楽を聴くことができる。
RAM103は、基本動作プログラムやその他のアプリケーションプログラム実行時のプログラム領域である。また、RAM103は、各種アプリケーションプログラム実行時に、必要に応じてデータを一時的に保持する一時記憶領域である。RAM103は、メインプロセッサ111と一体構成であっても良い。
ROM104は、HMD100の各動作設定値やHMD100の使用者の情報等を記憶する。ROM104は、HMD100で撮影した静止画像データや動画像データ等を記憶してもよい。また、HMD100は、アプリケーションサーバから、インターネットを介して、新規アプリケーションプログラムをダウンロードすることにより、機能拡張が可能であるものとする。この際、ダウンロードした新規アプリケーションプログラムは、ROM104に記憶される。メインプロセッサ111が、ROM104に記憶された新規アプリケーションプログラムをRAM103に展開し、実行することにより、HMD100は、多種の機能を実現できる。
ROM104は、HMD100に電源が供給されていない状態であっても記憶している情報を保持できるものであればよく、データを読み出すことは出来るが書き込むことは出来ないマスクROMに限定されない。ROM104には、例えばフラッシュROMやSSD(Solid State Drive)、HDD(Hard Disc Drive)等のデバイスが用いられる。
操作受付装置120は、HMD100に対する操作指示の入力を受け付ける。本実施形態では、操作キー121と、タッチセンサ122と、を備える。操作キー121は、電源キー、音量キー、ホームキー等である。また、タッチセンサ122は、タッチパッドによる操作指示を受け付ける。なお、本実施形態のHMD100は、必ずしも、これらの全ての操作受付装置120を備えなくてもよい。また、有線通信または無線通信により接続された別体の情報処理端末機器を介してHMD100の操作を受け付けてもよい。
操作受付装置120は、HMD100内でユーザが入力操作を行いやすい位置や形態に設ければよい。なお、HMD100の本体から分離し有線や無線で接続された形態でもよい。また、ユーザ501の視線を利用するものであってもよい。視線を利用するものは、例えば、ディスプレイ131内に入力操作画面を表示させ、インカメラ134で検出したユーザ501の視線が向いている入力操作画面上の位置により入力操作情報を取り込む。ポインタを入力操作画面上に表示させ、ポインタを操作して入力操作情報を取り込んでもよい。また、ユーザ501が入力操作を示す音声を発声し、後述するマイク143で集音して入力操作情報を取り込んでもよい。
画像処理装置130は、イメージ(ビデオ)プロセッサであり、ディスプレイ131と、アウトカメラ133と、インカメラ134と、を備える。
ディスプレイ131は、例えば液晶パネル等の表示デバイス(ディスプレイ)であり、画像信号処理部で処理された画像データをHMD100の使用者に提示する。ディスプレイ131は、左目用ディスプレイ131aと、右目用ディスプレイ131bと、を備える。ディスプレイ131は、光学透過型ディスプレイまたはビデオ透過型ディスプレイであってもよい。
光学透過型ディスプレイは、起動アプリによる再生情報やユーザ501への通知情報など各種の情報を投影する投影部と投影された各種の情報を目の前で結像表示させる透明なハーフミラーを備える。また、ビデオ透過型ディスプレイは、アウトカメラ133で撮影された目の前の現実空間物体と各種の情報とを合わせて表示する液晶パネル等を備える。ディスプレイ131により、ユーザ501は、目の前の視界視野内の画像に加え、起動アプリによる音楽、画像、文書などの再生情報を合わせて視認する。
本実施形態では、ディスプレイ131に、アプリの実行状態等が表示される。
なお、画像信号処理部は、アウトカメラ133およびインカメラ134から入力された画像を処理する、イメージ(ビデオ)シグナルプロセッサである。また、画像信号処理部は、メインプロセッサ111等により作成したオブジェクトを入力画像に重畳してディスプレイ131に出力する。画像信号処理部は、メインプロセッサ111により実現されてもよいし、メインプロセッサ111とは別に、画像専用のプロセッサを備え、それにより実現されてもよい。
アウトカメラ133は、HMD100の周囲の画像を取得する。アウトカメラ133は、HMD100の前面に設置され、前方の視界視野状態を撮影する。なお、HMD100には、ハーフミラー等を用いて必要な各種の情報を投影表示しながら目の前の現実空間物体を直視する光学透過型と、アウトカメラ133で撮影された目の前の現実空間物体と各種の情報とを合わせて液晶パネル等のディスプレイ131に映し出すビデオ透過型と、があるが、両者ともアウトカメラ133により撮影された、目の前の視野視界状態を撮影して取り込むものである。
インカメラ134は、アウトカメラ133とは異なる領域の画像を取得する。例えば、ユーザの眼を撮影する。なお、本実施形態では、インカメラ134は、視線特定処理を行う処理部とともに、視線検出センサとして機能する。
視線検出センサは、右目視線検出部と、左目視線検出部とを備え、それぞれ右目、左目の視線を検出する。なお、視線を検出する処理は、アイトラッキング処理として一般的に用いられている周知技術を利用すればよい。例えば、角膜反射を利用した方法では、赤外線LED(Light Emitting Diode)を顔に照射し、赤外線カメラで撮影し、赤外線LED照射でできた反射光の角膜上の位置(角膜反射)を基準点とし、角膜反射の位置に対する瞳孔の位置に基づいて視線を検出する。この場合、赤外線カメラ、赤外線LEDを備える。
音声処理装置140は、音声を処理するオーディオプロセッサである。スピーカ141と、マイク143と、を備える。
スピーカ141は、音声信号処理部で処理した音声信号を外部に出力する。音声信号処理部は、オーディオシグナルプロセッサである。HMD100では、例えば、ヘッドフォン等が用いられる。
マイク143はマ、ユーザの声などを音声データに変換して入力する。例えば、外周音マイクと、発声音マイクとを備えてもよい。これらのマイクは、各々、外部からの音声、ユーザ501自身の発声を集音する。なお、ヘッドフォンが接続されてもよい。ヘッドフォンは、ユーザ501の耳部に装着されユーザ501への音声を聞き取る。
センサ150は、HMD100の状態を検出するためのセンサ群である。本実施形態では、GPS(Global Positioning System)受信部151と、ジャイロセンサ152と、地磁気センサ153と、加速度センサ154と、深度センサ155とを備える。これらのセンサ群により、HMD100の位置、動き、傾き、方角等を検出する。また、深度センサ155は、HMD100から対象物までの距離情報を取得する。なお、その他のセンサを、さらに、備えていても良い。
加速度センサ154は、単位時間当たりの速度の変化である加速度を検出するセンサであり、動き・振動・衝撃などを捉えることができる。また、ジャイロセンサ152は、回転方向の角速度を検出するセンサであり、縦・横・斜めの姿勢の状態を捉えることができる。HMD100に搭載されている加速度センサ154およびジャイロセンサ152を用いて、HMD100の動きを検出することができる。
地磁気センサ153は、地球の磁力を検出するセンサであり、HMD100の向いている方向を検出するものである。前後方向と左右方向に加え上下方向の地磁気も検出する3軸タイプを用い、HMD100の動きに対する地磁気変化を捉まえることにより、HMD100の動きを検出することも可能である。これらにより、HMD100越しにスマホ200のディスプレイ231上のアイコン420が見える状態かを検出判別してもよい。
深度センサ155は、人や物などの対象物の形状を立体として捉えることができるセンサである。赤外線などのレーザー光を対象物に照射し、はね返ってくる散乱光を測定し遠距離にある対象物までの距離やその対象物の状態を分析検出するLiDAR(Light Detection and Ranging)や、被写体に照射したパルス光の反射時間を画素ごとに計測して測距を行うTOF(Time Of Flight)センサ、ミリ波の電波を発射しその反射波を捉まえて反射している対象物までの距離や対の象物の状態を検出するミリ波レーダーなどが用いられる。深度センサ155により、例えばスマホ200までの距離を測定する。
通信装置160は、近距離無線通信、無線LAN或いは基地局通信により、近傍にあるスマホ200や後述するSW300など、他の情報端末と無線通信を行う通信インタフェースである。無線通信に際しては送受信アンテナを介して、スマホ200でのアイコンタッチ情報や起動するアプリを示すアプリ情報、また起動アプリで再生するファイルデータなどの送受信を行う。
通信装置160は、LAN(Local Area Network)通信インタフェース(I/F)161と、電話網通信I/F162と、BT(Bluetooth(登録商標))通信I/F163と、を備える。LAN通信I/F161は、インターネットの無線通信用アクセスポイントと無線通信により接続してデータの送受信を行う。電話網通信I/F162は、移動体電話通信網の基地局との無線通信により、電話通信(通話)およびデータの送受信を行う。BT通信I/F163は、Bluetooth規格により外部装置と通信を行うためのインタフェースである。LAN通信I/F161、電話網通信I/F162、BT通信I/F163は、それぞれ符号化回路や復号回路、アンテナ等を備える。通信装置160は、さらに、赤外線通信I/F等を備えていても良い。
なお、近距離無線通信として、Bluetooth(登録商標)だけでなく、IrDA(Infrared Data Association、登録商標)、Zigbee(登録商標)、HomeRF(Home Radio Frequency、登録商標)などを用いて行ってもよい。または、Wi-Fi(登録商標)などの無線LANを用いて行なってもよい。また、基地局通信としては、W-CDMA(Wideband Code Division Multiple Access)やGSM(登録商標)(Global System for Mobile communications)などの遠距離の無線通信を用いればよい。なお、超広帯域無線システム(Ultra Wide Band:UWB)を使用して情報端末間の位置関係や向きを検出してもよい。これにより、HMD100越しにスマホ200の表示画面上のアイコン420が見えるような状態かを検出判別してもよい。
なお、通信装置160は、無線通信の手段として光通信音波による通信等、他の方法を使用してもよい。その場合、送受信アンテナの代わりにそれぞれ光発光/受光部、音波出力/音波入力部を用いる。
拡張インタフェース部105は、HMD100の機能を拡張するためのインタフェース群であり、本実施形態では、充電端子、映像/音声インタフェース、USB(Universal Serial Bus)インタフェース、メモリインタフェース等を備える。映像/音声インタフェースは、外部映像/音声出力機器からの映像信号/音声信号の入力、外部映像/音声入力機器への映像信号/音声信号の出力、等を行う。USBインタフェースはSB機器の接続を行う。メモリインタフェースはメモリカードやその他のメモリ媒体を接続してデータの送受信を行う。
振動発生装置107は、メインプロセッサ111からの制御によって振動を発生させるバイブレータである。振動発生装置107は、ユーザ501への通知情報を振動に変換する。振動発生装置107は、HMD100を密接装着するユーザ501の頭部で振動を発生させることにより、通知を、ユーザ501に確実に伝えることができる。
図5は、本実施形態のスマホ200のハードウェア構成図である。本図に示すように、本実施形態のスマホ200は、メインプロセッサ201と、システムバス202と、記憶装置210と、操作受付装置220と、画像処理装置230と、音声処理装置240と、センサ250と、通信装置260と、拡張インタフェース(I/F)部205と、タイマ206と、振動発生装置207と、を備える。
各装置の詳細は、HMD100の同名のものと基本的に同様である。ただし、スマホ200は、操作受付装置220として、さらに、タッチパネル223を備える。タッチパネル223は、ディスプレイ231に重ねて配置されるタッチパネル123、を備える。また、拡張インタフェース部205に接続したキーボード等を介して指示の入力を受け付けてもよい。
ディスプレイ231は、液晶パネルなどにより構成され、バッテリ容量の残量、各種アラーム、時刻などユーザ501への通知情報を表示するとともに、ディスプレイ231内に起動するアプリのアイコンやアプリの実行状態等を表示する。操作受付装置220は、例えば静電容量式などのタッチパッド方式の入力手段であり、指やタッチペンなどによる接近又は接触操作(タッチ操作)を操作入力として検出するものである。ユーザ501が入力したい情報を設定入力したり、ディスプレイ231にあるアプリやファイルのアイコンをタッチ操作により容易に選択指定したりする。
[機能ブロック]
次に、本実施形態のHMD100およびスマホ200それぞれの機能構成について説明する。図6(a)および図6(b)は、それぞれ、本実施形態のHMD100およびスマホ200の、本実施形態に関係する機能の機能ブロック図である。
図6(a)に示すように、HMD100は、主制御部170と、受付部171と、送受信部172と、連携判断部173と、アプリ実行部174と、出力部175と、アプリケーションプログラム記憶部176と、アイコンデータ記憶部177と、を備える。
主制御部170は、HMD100の各部の動作を制御する。
受付部171は、ユーザ501からの指示を受け付ける。本実施形態では、メインプロセッサ111が操作受付装置120を動作させることにより実現される。本実施形態では、例えば、アプリケーションの起動指示等を受け付ける。
送受信部172は、外部装置とのデータの送受信を行う。本実施形態では、メインプロセッサ111が通信装置160を動作させることにより実現される。本実施形態では、送受信部172を介してスマホ200とデータの送受信を行う。
連携判断部173は、スマホ200との連携処理を実現する。また、本実施形態では、スマホ200が後述する連携動作モードで動作可能な状態である連携状態であるか否かを判断する。本実施形態では、図2(a)に示すように、ディスプレイ131に連携視野101aを表示させるとともに、アウトカメラ133が撮影した撮影画像を解析し、その表示内容で、所定配置状態であるか否かを判断する。
連携視野101aは、ユーザ501がHMD100の開口部分(レンズ部分)、またはディスプレイ131の表示領域を通して見ることができる視野範囲の一部の領域に設定される。なお、機器の構成、設定値の変更等によりユーザ501がHMD100を通して見ることのできる視野範囲全てを連携視野101aにしてもよい。
連携判断部173は、図2(a)に示すように、撮影画像にスマホ200のディスプレイ上の所定のアプリのアイコン420が写っている場合、所定配置状態にあると判断する。所定のアプリは、例えば、スマホ200から、通知を受けたアプリである。後述するように、スマホ200では、ユーザ501が所定のアイコン420を選択したことを受け付けた場合、当該アイコン420に対応付けられたアプリを特定する情報(アプリ特定情報)をHMD100に送信する。HMD100では、このアプリ特定情報に基づき、受信したアプリ特定情報で特定されるアプリに対応付けられたアイコン420を特定する。
連携判断部173は、所定配置状態である場合、スマホ200から通知を受けたアプリのプログラムが、自身にインストールされているか否かを判断する。そして、インストールされていれば、連携状態であると判断する。すなわち、本実施形態の連携判断部173は、所定配置状態であり、かつ、ユーザ501が操作したアイコンに対応するアプリのプログラムが自装置にインストールされている場合、連携状態と判断する。
連携判断部173は、連携状態と判断した場合、連携状態であることを示す情報、すなわち連携状態信号をスマホ200に送信する。一方、連携状態と判断しなかった場合は、非連携状態であることを示す非連携状態信号をスマホ200に送信する。なお、非連携状態信号は、送信しなくてもよい。
HMD100は、自端末にインストールされているアプリケーションのアイコン420の形状データを予めアイコンデータとしてアイコンデータ記憶部177に記憶する。アイコンデータ記憶部177には、アプリ特定情報に対応づけて、アイコン420の形状情報が格納される。連携判断部173は、アイコンデータ記憶部177を参照し、受信したアプリ特定情報に対応付けられた形状データが格納されているか否かを判別する。格納されている場合、その形状データを抽出し、連携視野101aに対応する領域内に当該形状データにマッチする画像領域があるか否かを判別する。
連携判断部173は、アイコンデータ記憶部177に、受信したアプリ特定情報に対応付けられた形状データが格納されていない場合、非連携状態と判断する。また、形状データが格納されていたとしても、撮影画像の連携視野101aに対応する領域に抽出した形状データにマッチする画像領域がない場合、非連携状態と判断する。一方、形状データが格納され、かつ、抽出した形状データにマッチする画像領域がある場合、連携状態と判断する。
撮影画像内に、スマホ200のディスプレイに対応する形状およびアイコン420の形状があるか否かの判断は、パターンマッチング等により行う。
アプリ実行部174は、受付部171がアプリ起動指示を受け付けると、アプリを起動させて実行するアプリケーション実行部である。なお、実行するアプリのプログラムは、アプリケーションプログラム記憶部176に記憶される。
出力部175は、実行されたアプリの実行結果を出力する。本実施形態では例えば、ディスプレイ131に表示したり、スピーカ141に音声出力したりする。
アプリケーションプログラム記憶部176には、アプリケーションプログラムが記憶される。
アイコンデータ記憶部177には、各アプリケーションプログラムの実行指示を受け付けるアイコン420の形状データがアイコンデータとして記憶される。アイコンデータは、アプリケーションに対応づけて記憶される。なお、形状データは物理的な形状(絵柄)、画像に限らず、テキストデータ等でもよい。連携判断部173は、アイコンの絵柄でアプリケーションを判断できない場合、付随するテキストデータで対応アプリを特定すればよい。
上記各機能は、メインプロセッサ111が、ROM114に記憶されたプログラムをRAM113にロードして実行することにより実現される。また、アプリケーションプログラム記憶部176およびアイコンデータ記憶部177は、記憶装置110に構築される。
次に、本実施形態のスマホ200の機能を説明する。図6(b)は、スマホ200の機能ブロックである。
本図に示すように、本実施形態のスマホ200は、主制御部270と、受付部271と、送受信部272と、連携制御部273と、アプリ実行部274と、出力部275と、アイコンデータ記憶部277と、アプリケーションプログラム記憶部276と、を備える。
主制御部270は、スマホ200の各部の動作を制御する。
受付部271は、ユーザ501からの指示を受け付ける。本実施形態では、メインプロセッサ211が操作受付装置220を動作させることにより実現される。本実施形態では、例えば、アプリの起動指示等各種操作指示を受け付ける。
送受信部272は、外部装置とのデータの送受信を行う。本実施形態では、メインプロセッサ211が通信装置260を動作させることにより実現される。本実施形態では、送受信部272を介してHMD100とデータの送受信を行う。
連携制御部273は、スマホ200の動作モードを決定し、決定した動作モードでスマホ200を動作させる。本実施形態では、動作モードとして、スマホ200単独でアプリを実行する単独動作モードと、HMD100と連携してアプリを実行する連携動作モードとの2種を備える。
連携動作モードは、連携状態の場合に実行される動作モードである。連携制御部273は、連携動作モード時に、アプリを実行する端末である実行デバイス(実行端末)を決定する。ただし、本実施形態では、連携動作モード時は、HMD100を実行デバイスと決定する。
すなわち、連携動作モードでは、スマホ200は、ユーザ501からアイコン420のタッチ等により、アプリの起動の指示を受け付けると、当該起動指示を、連携中のHMD100に送信する。本実施形態では、自装置では、アプリは実行しない。
連携制御部273は、本実施形態では、HMD100から連携状態信号を受信した場合、連携状態と判断し、連携動作モードで動作させる。一方、非連携状態信号を受信した場合、単独動作モードで動作させる。
単独動作モードは、ユーザ501からアプリの起動の指示を受け付けると、自装置でそのアプリを起動させ、実行する動作モードである。
アプリ実行部274は、スマホ200上でアプリを実行する第二アプリケーション実行部である。本実施形態では、受付部171がアプリの起動指示を受け付け、かつ、連携制御部273が、単独動作モードと判別した場合、実行する。実行するアプリのプログラムは、アプリケーションプログラム記憶部276に記憶される。
出力部275は、アプリ実行部274が実行したアプリの実行結果を出力する。本実施形態では、実行結果は、例えば、ディスプレイ231、スピーカ241に出力される。
アプリケーションプログラム記憶部276には、アプリケーションプログラムが記憶される。アイコンデータ記憶部277には、各アプリケーションプログラムの実行指示を受け付けるアイコンが記憶される。アイコンは、アプリケーションに対応づけて記憶される。
上記各機能は、メインプロセッサ211が、ROM214に記憶されたプログラムをRAM213にロードして実行することにより実現される。また、アプリケーションプログラム記憶部276およびアイコンデータ記憶部277は、記憶装置210に構築される。
[処理フロー]
次に、本実施形態の情報処理システム500のアプリ連携処理の流れを説明する。本実施形態では、HMD100とスマホ200とが連携し、HMD100のアプリを起動させる。図7は、アプリ連携処理の流れを説明する図である。
本処理は、HMD100とスマホ200とが、例えば、近距離通信が可能な状態になったことを契機に開始される。以下、処理フローの記載では、HMD100の主制御部170およびスマホ200の主制御部270を、それぞれ、HMD100およびスマホ200と記載する。
スマホ200とHMD100とは、まず互いに通信を確立する(S1101、S1201)。本実施形態では、それぞれの送受信部172、272に例えば、BT通信I/F163、263を介してデータの送受信を行わせることにより、通信を確立する。
スマホ200は、ディスプレイ231にスマホ200で起動可能なアプリのアイコン420を表示させる。スマホ200は、ユーザ501の選択指示を受け付ける(ステップS1202)。スマホ200の受付部271は、ディスプレイ231に表示される、選択されたアプリに対応付けられたアイコン420に対するタッチ操作を、タッチパネル223を介して検出する。ここでは、例えば、アプリAが選択されたものとする。
スマホ200の送受信部272は、BT通信I/F263を介して、HMD100にアプリAが選択されたこと(選択情報)を通知する(ステップS1203)。選択情報には、選択されたアプリケーション(ここでは、アプリA)を特定するアプリ特定情報が含まれる。
HMD100の連携判断部173は、送受信部172を介して、スマホ200からアプリAの選択情報を受領すると(ステップS1102)、自端末(HMD100)と送信元の端末(スマホ200)とが連携状態であるか否かを判断する(ステップS1103)。ここでは、アプリAのプログラムが自装置内にインストールされているか否かと、両端末の配置状態が所定配置状態であるか否かと、について判別する。判別はいずれを先に行ってもよい。そして、選択されたアプリAのプログラムがインストールされ、かつ、所定配置状態である場合、連携状態と判断する。一方、それ以外の場合、非連携状態と判断する。
HMD100は、連携状態であるか、非連携状態であるかの判断結果、すなわち連携信号および非連携信号のいずれかを、スマホ200に返信する(ステップS1104)。
スマホ200の連携制御部273は、送受信部272を介して判断結果を受信すると(ステップS1204)、判断結果に応じて実行デバイスを決定する(ステップS1205)。ここでは、連携状態との判断結果であれば、実行デバイスは、HMD100と、非連携状態との判断結果であれば、実行デバイスは、スマホ200と決定する。
スマホ200の連携制御部273は、送受信部272を介してHMD100に決定結果を通知する(ステップS1206)。また、HMD100は、決定結果を受信する(ステップS1105)。
その後、決定結果に応じてスマホ200およびHMD100は、それぞれ、アプリAを実行する。
スマホ200のアプリ実行部274は、実行デバイスがスマホ200と決定された場合(ステップS1207)、スマホ200内のアプリAを起動させ(ステップS1208)、アプリAが終了するまで、アプリAを実行し(ステップS1209、S1210)、処理を終了する。例えば、アプリAが音楽等の再生アプリであれば、再生情報を最後まで再生した場合、終了する。また、受付部271を介して終了指示を受け付けた場合、処理を終了させてもよい。
一方、実行デバイスがスマホ200と決定されなかった場合は、そのまま処理を終了する。
同様に、HMD100のアプリ実行部174は、実行デバイスがHMD100と決定された場合(ステップS1106)、HMD100内のアプリAを起動させ(ステップS1107)、アプリAが終了するまで、アプリAを実行し(ステップS1108、S1109)、処理を終了する。なお、アプリAの終了指示等は、通常はHMD100側で行う。
一方、実行デバイスがHMD100と決定されなかった場合は、そのまま処理を終了する。
HMD100でアプリAを実行する場合、例えば、アプリAが、音楽、画像、文書等を再生するアプリであれば、HMD100で、アプリAを起動させて実行し、ディスプレイ131、スピーカ141等を使用して、音楽、画像、文書などの再生情報を再生する。操作受付装置120を介して再生終了を指示する操作があった場合は、処理を終了する。また、再生情報を最後まで再生した場合に処理を終了するようにしてもよい。
なお、HMD100でアプリAを実行する場合、アプリA終了の指示は、スマホ200で受け付け、HMD100に送信されてもよい。例えば、スマホ200側では、選択されたアイコン420を表示し続ける。そして、スマホ200は、S1206の決定結果の通知後、当該アイコン420にタッチ操作があった場合、終了の指示を受け付けたものと判断し、HMD100に終了指示を送信する。
以上説明したように、本実施形態の情報処理システム500は、複数の端末間で連携して、各端末が共通に備えるアプリを実行する情報処理システム500である。そして、複数の端末として第一情報端末(HMD100)と第二情報端末(スマホ200)とを備える。スマホ200は、アプリの起動指示を受け付ける受付部271と、単独動作モードおよび連携動作モードのいずれかでスマホ200を動作させる連携制御部273と、を備える。また、HMD100は、スマホ200が連携動作モードで動作可能な状態である連携状態か否かを判断する連携判断部173と、連携動作モード時に実行されたアプリの実行結果を出力する出力部175を備える。なお、単独動作モードは、アプリをスマホ200で単独に実行する動作モードである。連携動作モードは、アプリをHMD100とスマホ200とで連携して実行する動作モードである。そして、スマホ200の連携制御部273は、HMD100の連携判断部173が連携状態と判断した場合、連携動作モードで動作させる。
スマホ200が連携動作モードで動作可能な状態である連携状態は、HMD100と、スマホ200との配置によって定まる。すなわち、スマホ200の受付部271は、スマホ200が備えるディスプレイ231(第二ディスプレイ)に起動指示を受け付けるアイコン420を表示し、当該アイコン420を介して起動指示を受け付ける。HMD100の連携判断部173は、HMD100のディスプレイ131の予め定めた連携視野101a内に、ディスプレイ231に表示されたアイコン420が含まれる場合、連携状態であると判断する。
このように、本実施形態では、HMD100、スマホ200で例示される第一情報端末、第二情報端末で同じアプリまたは対応するアプリが搭載されて起動可能な場合に、スマホ200に例示される操作性の良い第二情報端末のディスプレイ231に表示されたアプリのアイコン420がタッチ操作されたとき、第一情報端末と第二情報端末との配置状態に応じて、アプリを起動する情報端末が自動的に決定する。
具体的には、HMD100内のアプリの起動に際し、HMD100越しにスマホ200のアイコンを見るというユーザ501にとってわかりやすい配置状態にすることにより、連携状態が形成される。連携状態においては、操作性のよいスマホ200で行う容易なアイコンタッチ操作により、HMD100で所望のアプリを起動することができる。すなわち、HMD100で起動したいアプリを、一覧性が高く、操作が容易なスマホ200の画面で選ぶことができる。したがって、本実施形態によれば、HMD100の操作性、使い勝手を、大幅に向上することができる。
また、本実施形態によれば、HMD100でのアプリの起動に際し、操作性のよいスマホ200を用いる。HMD100の視野越しにスマホ200のアプリ・アイコンが見えるような所定配置状態に持っていき、この状態でスマホ200のアプリ・アイコンをタッチするだけで、通信を介して、HMD100で同一アプリまたは対応するアプリを起動させることができる。
これにより、HMD100から所望のアプリのアイコンに対するタッチ操作を行うスマホ200が見えるため、ユーザ501は、タッチ操作を視認できるため、確実に、アプリの起動を行うことができる。
例えば、連携視野101aを、ディスプレイ131の表示範囲の中央部に設定すれば、さらに、ユーザ501にとって確実性および利便性が高い。
一方、本実施形態によれば、HMD100の視野越しにスマホ200のアプリ・アイコンが見えない所定配置状態外にすれば、HMD100を装着していても、スマホ200自身に搭載しているアプリがそのまま立ち上がる。例えば、ユーザ501の視野内に入っているが所定配置状態と判断されない部分(連携視野101a外の部分)でアイコン420を視認してタッチすることで、HMD100を掛けたままでもスマホ200側でアプリを起動することが出来る。さらに、HMD100を装着していない状態や装着していても電源がOFFの状態など、HMD100とスマホ200とが連携していない状態においても、スマホ200でそのままアプリを立ち上げることができる。このように、本実施形態によれば、ユーザ501は、所望のアプリを起動させる端末を、容易に定めることができる。
本実施形態によれば、スマホ200とHMD100との配置状態を変更するだけで、スマホ200とHMD100とを連携させてスマホ200をHMD100の操作装置として用いる連携動作モードで実行するか、スマホ200を単独で用いる単独動作モードで実行するかを定めることができる。したがって、ユーザ501の負担が少なく、柔軟性が高く、かつ、操作性の良い情報処理システム500を提供できる。
なお、第二情報端末としては、スマホ200以外に、アプリやファイルのアイコンを表示できてアイコンを選択できる情報端末であれば、例えば、タブレット、スマートウォッチ、PC等でもよい。
なお、以上の説明では実行されるアプリとして音楽アプリや動画アプリを例にとり説明を行ったが、これらに限定されない。
<<第二実施形態>>
次に、本発明の第二実施形態を説明する。第一実施形態では、HMD100側でHMD100とスマホ200とが連携状態にあるか否かを判断し、スマホ200側で実行デバイスを決定している。本実施形態では、実行デバイスの決定までHMD100側で行う。
以下、本実施形態について、第一実施形態と異なる構成に主眼をおいて説明する。
HMD100およびスマホ200のハードウェア構成は、第一実施形態と同じである。また、機能構成についても、同様である。ただし、連携判断部173および連携制御部273の処理が異なる。
本実施形態のHMD100の連携判断部173は、第一実施形態のように、HMD100とスマホ200とが連携状態であるか非連携状態であるかを判断する。本実施形態では、その後、アプリAの実行デバイスを決定する。
具体的には、連携判断部173は、連携状態であると判断した場合、実行デバイスをHMD100と決定し、非連携状態であると判断した場合、実行デバイスをスマホ200と決定する。
連携判断部173は、実行デバイスをHMD100と決定した場合、スマホ200に対し、連携動作モードで実行することを意味する信号(動作モード指示信号)を送信する。一方、実行デバイスをスマホ200と決定した場合、スマホ200に対し、単独動作モードで実行することを意味する動作モード指示信号を送信する。
また、本実施形態のスマホ200の連携制御部273は、第一実施形態同様、スマホ200を決定した動作モードで動作させる。ただし、本実施形態では、第一実施形態のように、動作モードの決定は行わない。HMD100から送信される動作モード指示信号で特定される動作モードで動作させる。
[処理フロー]
以下、本実施形態の情報処理システム500のアプリ連携処理の流れを、図8に従って説明する。第一実施形態のアプリ連携処理と同じ処理については、同じ符号を付し、再度の説明は省略する。
本実施形態のHMD100の連携判断部173は、第一実施形態同様、HMD100とスマホ200とが連携状態であるか否かを判断する(ステップS1103)。その後、連携判断部173がアプリAの実行デバイスを決定する(ステップS2101)。ここでは、連携状態と判断した場合、実行デバイスをHMD100と決定し、非連携状態と判断した場合、実行デバイスをスマホ200と決定する。
そして、連携判断部173は、決定結果を判断結果とともに、スマホ200に送信する(ステップS2102)。すなわち、動作モード決定信号をスマホ200に送信する。その後は、決定結果に応じて、ステップS1106の処理を実行する。
スマホ200側の連携制御部273は、決定結果を受信すると(ステップS2201)、動作モードに従って、ステップS1207以降の処理を実行する。
以上説明したように、本実施形態の情報処理システム500では、HMD100の連携判断部173は、連携状態と判断した場合、スマホ200に対し、連携動作モードで動作するよう指示を行う。
このように、本実施形態の情報処理システム500によれば、第一実施形態と同様に、ユーザ501の負担を増加させることなく、HMD100とスマホ200との連携をスムーズに行うことができる、使い勝手のよいシステムを提供できる。
<<第三実施形態>>
次に、本発明の第三実施形態を説明する。本実施形態では、連携状態であるか否か、および、実行デバイスをスマホ200側で決定する。
以下、本実施形態について、第一実施形態と異なる構成に主眼をおいて説明する。
HMD100およびスマホ200のハードウェア構成は、第一実施形態と同じである。また、機能構成についても、同様である。ただし、連携判断部173および連携制御部273の処理が異なる。
本実施形態のHMD100の連携判断部173は、スマホ200からアプリAを選択したことを意味するアプリA選択情報を受信すると、自装置にアプリAがインストールされているか否かを判別し、判別結果をスマホ200に送信する。
また、本実施形態のスマホ200の連携制御部273は、アプリAがインストールされているか否かの判別結果をHMD100から受信すると、当該HMD100と自装置とが連携状態であるか否かを判断し、実行デバイスを決定する。
連携制御部273は、まず、HMD100とスマホ200とが、所定配置状態であるか否かを判別する。例えば、図9に示すように、スマホ200のインカメラ234の撮影範囲201a内に、HMD100が存在する場合、所定配置状態と判断する。スマホ200側では、HMD100の形状を予めパターンとして保持しておき、インカメラ234で撮影した画像を解析し、撮影範囲201aに相当する画像内に当該パターンが存在する場合、所定配置状態と判断する。なお、HMD100の形状データは、通信時にHMD100側からスマホ200に送信して使用してもよい。
連携制御部273は、HMD100とスマホ200とが所定配置状態であると判別した場合、次に、HMD100からのアプリAのインストールの判別結果を参照する。そして、インストールされているとの結果を受信している場合は、連携状態と判断する。一方、所定配置状態に無い場合、または、所定配置状態であっても、アプリAがHMD100にインストールされていない場合は、非連携状態と判断する。
そして、連携制御部273は、実行デバイスを決定し、配置状態の判断結果とともに、HMD100に決定結果を送信する。連携制御部273は、例えば、連携状態と判断した場合は、実行デバイスをHMD100と決定し、非連携状態と判断した場合は、実行デバイスをスマホ200と決定する。
[処理フロー]
以下、本実施形態の情報処理システム500のアプリ連携処理の流れを、図10に従って説明する。第一実施形態のアプリ連携処理と同じ処理については、同じ符号を付し、再度の説明は省略する。
本実施形態のHMD100の連携判断部173は、スマホ200からアプリAを選択したことを意味するアプリA選択情報を受信すると(ステップS1102)、自装置にアプリAがインストールされているか否かを判別し、判別結果をスマホ200に送信する(ステップS3101)。
スマホ200の連携制御部273は、HMD100から判別結果を受信すると(ステップS3201)、連携状態の判断を行う(ステップS3202)。ここでは、上述のように、両装置が所定配置状態にあるか否かの判別結果と、HMD100から受信した判別結果とに応じて判断する(ステップS3202)。
そして、連携制御部273は、連携状態の判断結果に応じて、実行デバイスを決定し(ステップS3203)、連携状態の判断結果ととともに、決定結果をHMD100に送信する。
その後は、決定結果に応じて、ステップS1207以降の処理を実行する。
また、HMD100側では、スマホ200から、判断結果と決定結果とを受信する(ステップS3102)と、決定結果に応じて、ステップS1106以降の処理を実行する。
以上説明したように、本実施形態の情報処理システム500では、スマホ200の連携制御部273は、スマホ200が連携動作モードで動作可能な状態である連携状態か否か判断する。そして、連携状態と判断した場合、スマホ200を連携動作モードで動作させる。
このように、本実施形態の情報処理システムによれば、第一実施形態と同様に、ユーザ501の負担を増加させることなく、HMD100とスマホ200との連携をスムーズに行うことができる、使い勝手のよい情報処理システムを提供できる。
<<第四実施形態>>
次に、本発明の第四実施形態を説明する。本実施形態では、選択されたアプリAの実行デバイスがHMD100と判断された場合であっても、スマホ200側でもアプリAを実行し、ユーザ501からの、アプリAに対する操作を受け付け可能な状態にする。
以下、本実施形態について、第一実施形態と異なる構成に主眼をおいて説明する。
HMD100およびスマホ200のハードウェア構成は、第一実施形態と同じである。また、機能構成についても、同様である。ただし、連携判断部173および連携制御部273の処理が異なる。
スマホ200側の連携制御部273は、連携状態にあると判断された場合、実行デバイスがHMD100と決定された場合であっても、スマホ200側でもアプリAを、HMD100と同期させて実行させる。
例えば、図11(a)に示すように、アプリAのアイコン421が選択された場合、連携制御部273は、起動指示をHMD100に送信するとともに、スマホ200側でも、アプリAを実行させる。そして、図11(b)に示すように、スマホ200のディスプレイ231にも、アプリAの実行中の操作画面を表示させる。ここでは、一例としてアプリAが音楽再生アプリである場合を示す。
本実施形態の連携制御部273は、実行デバイスがHMD100と決定されている状態で、スマホ200のディスプレイ231を介して、一時停止、スキップ、バック、停止等のアプリAに対する操作を受け付けると、受け付けた操作を意味する信号(操作信号)を、HMD100に送信する。
HMD100の連携判断部173は、アプリAを実行中に、送受信部172を介してスマホ200から操作信号を受信すると、当該操作信号に従って、アプリAの動作を制御する。
[処理フロー]
以下、本実施形態の情報処理システム500のアプリ連携処理の流れを、図12に従って説明する。第一実施形態のアプリ連携処理と同じ処理については、同じ符号を付し、再度の説明は省略する。
また、本実施形態では、HMD100と、スマホ200とが連携状態にあるか否かを判断し、それに応じて実行デバイスを決定する処理については、第一~第三のいずれの実施形態の手法を用いてもよい。ここでは、本処理を、実行デバイス決定処理と呼ぶ。
スマホ200の連携制御部273は、ステップS4400において、実行デバイス決定処理がなされ、実行デバイスが決定されると、アプリAを起動するようアプリ実行部274に指示を行う。これを受け、アプリ実行部274は、アプリAを起動する(ステップS4201)。
そして、実行デバイスがスマホであるか否かにより(ステップS1207)、処理を行う。すなわち、実行デバイスがスマホ200と決定された場合は、第一~第三実施形態同様、ステップS1209以降の処理を行う。
一方、実行デバイスがHMD100と決定された場合、スマホ200側でも、アプリ実行部274はアプリAを、HMD100と同期させて実行する(ステップS4202)。そして、受付部271がディスプレイ231等を介してアプリAに対する操作を受け付けると(ステップS4203)、当該操作に応じた操作信号を送受信部272がHMD100に送信する。これを、アプリAの終了まで継続する。図12では、一例として、アプリAの終了操作を受け付けた場合を例示する。
また、HMD100側では、アプリAの実行中であっても、送受信部172を介してスマホ200から操作信号を受信すると、アプリ実行部174は、アプリAへの操作信号として処理を行う。例えば、図12に示すように終了を指示する操作信号を受信すると(ステップS4101)、アプリAを終了し(ステップS4102)、処理を終了する。
以上説明したように、本実施形態の情報処理システム500では、連携動作モードであっても、スマホ200側でも同期してアプリを実行する。このため、HMD100でアプリ動作中、いつでも、スマホ200において、アプリに対する操作を受け付けることができる。
すなわち、本実施形態によれば、スマホ200とHMD100とが所定配置状態である場合に、スマホ200のアプリAのアイコンをタッチすると、HMD100でアプリAが実行される。このとき、スマホ200ではアプリAの操作画面に遷移し、HMD100で実行されているアプリAの操作を受け付ける。例えば、スマホ200上で、表示されている操作画面の一時停止ボタンをタッチすると、HMD100で実行しているアプリAの再生が一時停止する。
このように、本実施形態の情報処理システムによれば、第一実施形態と同様に、ユーザ501の負担を増加させることなく、HMD100とスマホ200との連携をスムーズに行うことができる、使い勝手のよい情報処理システムを提供できる。さらに、本実施形態によれば、HMD100でアプリを実行中であっても、当該アプリに対する操作をスマホ200でできるため、さらに使い勝手がよく、利便性が向上する。
なお、スマホ200側では、アプリ全体を動作させる必要はない。例えば、スマホ200側では、I/F部分のみ動作させて、受け付けた操作に対する操作信号をHMD100へ送信し、その後の処理はHMD100側で行うよう構成してもよい。例えば、スマホ200側で、操作ボタンを表示し、当該操作ボタンを介して操作の入力を受け付け、操作信号をHMD100に送信する。そして、HMD100のアプリが、操作信号に従って再生を行う。これにより、スマホ200の資源を無駄にせず、スマホ200の使いやすい画面でHMD100のアプリを操作することができる。
<<第五実施形態>>
次に、本発明の第五実施形態を説明する。本実施形態では、連携状態時にHMD100が実行デバイスと決定された場合、スマホ200は、アプリAの実行に必要なデータをHMD100においてアプリAを起動する前にHMD100に送信する。本実施形態は、例えば、アプリAがファイル再生等のアプリである場合の実施形態である。
以下、本実施形態について、第一実施形態と異なる構成に主眼をおいて説明する。
HMD100およびスマホ200のハードウェア構成は、第一実施形態と同じである。また、機能構成についても、同様である。ただし、連携判断部173および連携制御部273の処理が異なる。
本実施形態のスマホ200の連携制御部273は、連携状態において実行デバイスがHMD100と決定された場合、すなわち、連携動作モード時、選択されたアプリAの実行に必要なデータを、HMD100に送信する。
HMD100の連携判断部173は、スマホ200から送信されたデータを受信後、HMD100においてアプリAを起動させて実行させる。
[処理フロー]
以下、本実施形態の情報処理システム500のアプリ連携処理の流れを、図13に従って説明する。第一実施形態のアプリ連携処理と同じ処理については、同じ符号を付し、再度の説明は省略する。
また、本実施形態では、HMD100と、スマホ200とが連携状態にあるか否かを判断し、それに応じて実行デバイスを決定する処理については、第一~第三のいずれの実施形態の手法を用いてもよい。ここでは、本処理を、実行デバイス決定処理と呼ぶ。
スマホ200の連携制御部273は、ステップS4400において、実行デバイス決定処理がなされ、実行デバイスが決定されると、それに従って、スマホ200の動作を制御する。
すなわち、実行デバイスがHMD100と決定された場合、連携制御部273は、送受信部272にアプリAの処理に必要なデータを、HMD100に転送させ(ステップS5201)、処理を終了する。一方、実行デバイスがスマホ200と決定された場合は、ステップS1208以降の処理を実行する。
また、HMD100側では、実行デバイスがHMD100と決定された場合、スマホ200からデータを受信すると(ステップS5101)、連携判断部173は、アプリ実行部174にアプリAを起動させ(ステップS1107)、ステップS1108以降の処理を実行する。
以上説明したように、本実施形態の情報処理システム500において、スマホ200の連携制御部273は、連携動作モードで動作させる場合、アプリの実行に必要なデータをHMD100に送信し、HMD100では、スマホ200から受信したデータを用いてアプリを実行する。
このように、本実施形態の情報処理システムによれば、第一実施形態と同様に、ユーザ501の負担を増加させることなく、HMD100とスマホ200との連携をスムーズに行うことができる、使い勝手のよい情報処理システムを提供できる。
また、本実施形態では、アプリの実行に必要なデータは、スマホ200に保存され、メモリ等のストレージ容量の軽減が望ましいHMD100には常時保存する必要がない。したがって、HMD100では、記憶容量を抑えつつ、アプリを実行できる。
また、例えば、アプリが音楽、画像文書等の再生アプリの場合、スマホ200に保存されたデータを、HMD100搭載の再生アプリを用いてHMD100で再生できる。すなわち、より身近な装置でこれらのデータを再生することができ、より利便性が高い。
なお、本実施形態では、実行するアプリを先に特定し、そのファイルデータを転送する場合を例にあげて説明したが、これに限定されない。実行するアプリは限定せず、ファイルデータのみを転送してもよい。この場合、HMD100側では、受信したファイルデータを確認し、当該ファイルデータを処理するアプリを起動させる。
また、スマホ200とHMD100とに同じファイルが格納されている場合は、ファイルのデータ転送は行わずファイルの指定情報のみを送信し、HMD100内のファイルをHMD100で再生するよう構成してもよい。これにより、データ転送に伴う再生の遅れの防止、電源消費の低減を図ることが出来る。
<<第六実施形態>>
次に、本発明の第六実施形態を説明する。本実施形態では、連携状態時であっても、アプリはスマホ200側で実行し、実行結果のみHMD100に送信する。
以下、本実施形態について、第一実施形態と異なる構成に主眼をおいて説明する。
HMD100およびスマホ200のハードウェア構成は、第一実施形態と同じである。また、機能構成についても、同様である。ただし、連携判断部173および連携制御部273の処理が異なる。
スマホ200の連携制御部273は、連携状態において、実行デバイスがHMD100と決定された場合であっても、スマホ200側でアプリAを実行する。ただし、HMD100が実行デバイスである場合、実行結果を自装置に出力するのではなく、HMD100に送信する。
HMD100の連携判断部173は、出力デバイスがHMD100と決定された場合、送受信部172を介して受信する、アプリAの実行結果(出力情報)を、出力部175に出力させるよう制御する。なお、実行結果の出力に、アプリA特有の画面、処理等が必要な場合は、HMD100でもアプリAを起動して処理を行う。
[処理フロー]
以下、本実施形態の情報処理システム500のアプリ連携処理の流れを、図14に従って説明する。第一実施形態のアプリ連携処理と同じ処理については、同じ符号を付し、再度の説明は省略する。
また、本実施形態では、HMD100と、スマホ200とが連携状態にあるか否かを判断し、それに応じて、アプリAの出力先である出力デバイスを決定する。この出力デバイス決定処理は、第一~第三のいずれかの実施形態の、実行デバイスを決定する処理である実行デバイス決定処理と同じ処理で、実行デバイスの代わりに出力デバイスを決定する。
スマホ200の連携制御部273は、ステップS6400において、出力デバイス決定処理がなされ、出力デバイスが決定されると、アプリAを起動するようアプリ実行部274に指示を行う。これを受け、アプリ実行部274は、アプリAを起動する(ステップS1208)。そして、連携制御部273は、アプリ実行部274に、アプリAを実行させる(ステップS1209)。
そして、出力する際、出力デバイス決定処理において決定した出力デバイスがスマホ200であるかHMD100であるかを判断する(ステップS6201)。そして、出力デバイスがスマホ200である場合、連携制御部273は、出力部275に、そのまま自装置のディスプレイ231、スピーカ241等に出力させる(ステップS6202)。このステップS1209~S6202の処理を、アプリAが終了するまで継続し、処理を終了する。
一方、出力デバイスがHMD100と判断された場合、出力する際、連携制御部273は、送受信部272に、出力する情報である出力情報を、HMD100に送信させる(ステップS6203)。
HMD100側では、出力デバイスがスマホ200と決定された場合は、そのまま処理を終了し(ステップS6101)、HMD100と決定された場合は、連携判断部173は、送受信部172に、出力情報を受信するよう指示する出力情報受入準備を行う(ステップS6102)。
そして、スマホ200から出力情報を受信すると(ステップS6103)、連携判断部173は、出力部175に、受信した出力情報を出力させる(ステップS6104)。連携判断部173は、S6103とS6104との処理を、出力情報の受信が終了するまで実行し(ステップS6105)、処理を終了する。なお、出力が終了したか否かについては、例えば、出力情報終了信号を受信する、出力情報が受信できなくなってから指定時間経過する、スマホとの通信が途切れる、などにより判別してもよい。
以上説明したように、本実施形態の情報処理システム500では、スマホ200の連携制御部273は、スマホ200を連携動作モードで動作させる場合、選択されたアプリを実行し、実行結果をHMD100に送信する。
このように、本実施形態の情報処理システムによれば、第一実施形態と同様に、ユーザ501の負担を増加させることなく、HMD100とスマホ200との連携をスムーズに行うことができる、使い勝手のよい情報処理システムを提供できる。
特に、本実施形態によれば、例えば、HMD100越しにスマホ200を見るといった所定配置状態で、ユーザ501が音楽アプリのアイコン420をタッチした場合、音楽ソフトをスマホ200で実行し、音声再生情報のみHMD100に送信し、HMD100のスピーカ(ヘッドフォン)で聴くことが可能となる。このため、HMD100で映像や音楽などの大容量コンテンツデータ等のための余分な情報データ用メモリやアプリ自体を搭載する必要がない。つまり、搭載容量の軽減を図りつつ、あたかも、HMD100で音楽等のアプリが起動再生したかのように動作が可能となる。
HMD100側のストレージ容量を軽減でき、また、必要とする処理能力も軽減できる。これにより、HMD100の小型化、軽量化を図ることができる。さらに、本実施形態によれば、HMD100で実行中であっても、スマホ200にて操作ができるため、使い勝手もよい。
<<第七実施形態>>
次に、本発明の第七実施形態を説明する。本実施形態の情報処理システム500は、図15に示すように、第一情報端末と、第二情報端末と、第三情報端末とを備え、この3つの情報端末で連携し、アプリを実行する。
以下、本実施形態について、第一情報端末がスマートウォッチ(SW300)、第二情報端末がスマホ200、第三情報端末がHMD100である場合を例に、説明する。
本実施形態では、HMD100で、スマホ200とSW300とが連携可能な配置状態であるか否かを判断する。そして、その結果を受け、スマホ200は、選択されたアプリAを自装置で実行するか、SW300で実行するか、すなわち連携動作モードで動作させるか単独動作モードで動作させるかを決定する。なお、スマホ200が動作モードを決定する際、SW300に、前もって、SW300に選択されたアプリAがインストールされているか確認する。
以下、本実施形態の各装置の構成を説明する。HMD100およびスマホ200のハードウェア構成は、第一実施形態と同じである。また、機能構成についても、同様である。ただし、連携判断部173および連携制御部273の処理が異なる。
本実施形態のHMD100およびスマホ200のハードウェア構成および機能ブロックは、基本的に第一実施形態と同様である。ただし、連携判断部173と、連携制御部273の処理が異なる。
本実施形態のHMD100は、第三情報端末として、連携可能な配置状態であるか否かの判断を行うのみである。すなわち、本実施形態の連携判断部173は、スマホ200と、SW300とが連携可能な配置状態であるか否かを判断する。
具体的には、図16(a)に示すように、ディスプレイ131の連携視野101a内に、スマホ200の、アイコン420が表示された画面と、SW300とが両方存在する配置状態の場合、スマホ200とSW300とが連携可能な状態であると判断する。そして、アイコン420に対応するアプリのプログラムがSW300にインストールされている場合、図16(b)に示すように、SW300で、選択されたアプリを実行させる。
本実施形態のSW300のハードウェア構成を、図17に示す。本図に示すように、本実施形態のSW300は、メインプロセッサ311と、システムバス312と、記憶装置310と、操作受付装置320と、画像処理装置330と、音声処理装置340と、センサ350と、通信装置360と、拡張インタフェース(I/F)部305と、タイマ306と、振動発生装置307を備える。
各装置の詳細は、HMD100の同名のものと基本的に同様である。ただし、SW300は、操作受付装置320として、さらに、タッチパネル323を備える。タッチパネル323は、ディスプレイ331に重ねて配置されるタッチパネル323、を備える。
[機能ブロック]
次に、SW300の機能ブロックを、図18に示す。本図に示すように、主制御部370と、受付部371と、送受信部372と、連携制御部373と、アプリ実行部374と、出力部375と、アイコンデータ記憶部377と、アプリケーションプログラム記憶部376と、を備える。
各機能ブロックは、HMD100の同名の構成と同じ機能を備える。なお、SW300の連携制御部373は、スマホ200の連携制御部273同様、SW300が、他の情報端末とともに連携してアプリを実行する連携動作モードで動作するか、否かを判断する。連携動作モードと判断した場合、他の情報端末からの起動指示に応じて、アプリ実行部374にアプリを起動させる。
[処理フロー]
以下、本実施形態の情報処理システム500のアプリ連携処理の流れを説明する。図19は、本実施形態のアプリ連携処理の処理フローである。第一実施形態と同じ処理については同じ符号を付し、詳細な説明を省略する。
HMD100とスマホ200、および、SW300とスマホ200とは、まず、互いに通信を確立する(ステップS1101、S1201、S1301)。第一実施形態同様、それぞれの送受信部172、272、372が、データ通信を行い、通信を確立する。
スマホ200は、アプリAの選択指示を受け付ける(ステップS1202)。
スマホ200は、アプリAの選択情報を、HMD100とSW300とに通知する(ステップS1203)。
HMD100の連携判断部173は、上記手法で、スマホ200とSW300とが連携可能な配置状態にあるか否かを判断し(ステップS7101)、判断結果を、スマホ200に送信する(ステップS7102)。なお、HMD100とSW300との間も通信を確立し、SW300にも判断結果を送信してもよい。
また、スマホ200からアプリA選択情報の通知を受けたSW300の連携制御部373は、自装置にアプリAがインストールされているか否かを判別し、その結果をアプリA情報としてスマホ200に送信する(ステップS7303)。
HMD100から配置状態の判断結果を、SW300から、アプリA情報を受信した(ステップS7201)スマホ200の連携制御部273は、これらの情報を用いて、自装置とSW300とが連携状態であるか否かを判断し、アプリAを実行する実行デバイスを決定する(ステップS7202)。本実施形態では、連携可能な配置状態であり、かつ、SW300にアプリAがインストールされているとの情報を得た場合、実行デバイスをSW300と決定する。その他の場合、実行デバイスをスマホ200と決定する。
スマホ200の連携制御部273は、決定結果をHMD100とSW300とに通知する(ステップS7203)。HMD100は、決定結果を受領すると、処理を終了する。
その後、スマホ200は、ステップS1207以降の処理を実行する。
また、SW300は、実行デバイスがSW300と決定された場合(ステップS7305)、SW300内のアプリAを起動させ(ステップS7306)、アプリAが終了するまで、アプリAを実行し(ステップS7307、S7308)、処理を終了する。
一方、実行デバイスがSW300に決定されなかった場合は、そのまま処理を終了する。
以上説明したように、本実施形態の情報処理システム500は、複数の端末としてHMD100と、スマホ200と、SW300と、を備える。HMD100は、スマホ200が連携動作モードで動作可能な状態である連携状態か否かを判断する。そして、スマホ200は、連携状態と判断されると、連携動作モードで動作し、選択されたアプリの起動指示をSW300に送信する。SW300では、起動指示を受け、アプリを起動、実行する。
以上説明したように、本実施形態によれば、SW300でのアプリの起動を、操作性の良いスマホ200により行うことができる。また、両者の連携を、第三の情報端末であるHMD100の視野越しに両者の位置関係を判断することにより、実現する。SW300においてアプリを実行するにあたり、操作性を向上させることができる。すなわち、本実施形態では、ユーザ501の負担無しに、利便性の高い、情報端末の連携技術を実現できる。
また、本実施形態によれば、アプリ起動に際し、操作性のよいスマホ200を用い、HMD100の視野越しにスマホ200のアイコンとSW300が見えるような配置状態にあれば、この状態でスマホ200のアイコンをタッチすることによって、SW300で所望のアプリを起動させることができる。このため、SW300の表示部および操作部は簡易なものでよい。つまり、SW300の構成を簡素化できる。
なお、本実施形態において、スマホ200がHMD100の連携視野101a内に入っている所定配置状態であり、かつ、SW300がHMD100の連携視野101a内に入っていない配置状態の場合、第一実施形態同様、実行デバイスをHMD100と決定してもよい。この場合、スマホ200から起動指示をHMD100に送信し、HMD100内でアプリAを起動する。
また、本実施形態において、第一情報端末は、SW300に限定されない。アプリを起動でき、使用位置を手軽に最適な状態にできる情報端末であれば、例えば、タブレット、PC、第2情報端末と異なる他のスマホ200等でもよい。
また、本実施形態において、SW300においては、上記第四実施形態のように、スマホ200で、SW300と同期してアプリを実行し、操作はスマホ200で受け付けてもよい。また、第五実施形態のように、SW300は、アプリ実行前に、スマホ200からデータ転送を受けてもよい。さらに、第六実施形態のように、スマホ200側でアプリを実行し、実行結果のみ受信し、出力するよう構成してもよい。
スマホ200に格納されているファイルのデータをSW300に転送し、SW300に搭載されているファイル再生用アプリでデータを再生することにより、SW300では常にすべてのファイルデータを保有する必要がなく、SW300のような小型多機能な腕時計型の情報端末にとって重要なデータ容量の軽量化を実現できる。
<変形例1>
なお、上記各実施形態では、2つの情報端末間が所定配置状態であるか否かは、2つの情報端末が所定の位置関係にあるか否かで判断している。すなわち、HMD100の連携視野101a内に、スマホ200のディスプレイ231上のアイコン420が存在するような配置状態であるか否かで判断している。しかしながら、判断手法は、これに限定されない。
例えば、超広帯域無線システム(Ultra Wide Band:UWB)を使用して情報端末間の位置関係や向きを検出し、その結果によってスマホ200とHMD100とが所定配置状態であるか否かを識別判定してもよい。また、スマホ200とHMD100とにそれぞれ搭載されている各種のセンサ150、250の出力情報から各情報端末の動きを判断し、端末間の位置関係や向きを検出して所定配置状態であるか否かの識別判断に使用してもよい。
さらに、所定配置状態であるか否かは、例えば、2つの情報端末間の距離で判断してもよい。例えば、HMD100と、スマホ200との距離で判断してもよい。すなわち、両者の距離が予め定めた距離閾値未満である場合は、所定配置状態と判断する。
両者間の距離は、例えば、第一、第二、第七実施形態では、HMD100の深度センサ155で計測する。また、第三実施形態では、スマホ200の深度センサ255で計測する。
特に、所定配置状態であるか否かを両者間の距離で判断する場合、処理が単純である。すなわち、スマホ200がHMD100の連携視野101aに入っているかどうかを気にせずに、一定範囲の周辺にあるスマホ200を用いてアイコンタッチを行うことにより、HMD100で所望アプリを起動することができる。また、スマホ200を意図的に一定距離以上離すことにより、スマホ200側でアプリ起動させることができる。このため、利便性がさらに向上する。また、連携視野101aを用いて判断する処理に比べ、視野から外したつもりが外れていなかった等の誤操作が減る。
また、連携視野101aを定めず、ユーザ501の視線方向を検出し、ディスプレイ131上の視線方向との交点を含む所定領域にスマホ200のアイコン420が重なる場合、所定配置状態としてもよい。
この場合、HMD100を装着した状態で、ディスプレイ131にスマホ200のアイコン420が見えていても、ユーザ501が視線を合わせていない限り、HMD100側ではアプリが起動しない。したがって、より操作性の高い装置を提供できる。
さらに、連携視野101aを設定し、連携視野101aの範囲にアイコン420が入り、かつ、ユーザ501がアイコン420に視線を合わせている場合、所定配置状態と判断するよう構成してもよい。
<変形例2>
また、上記実施形態では、連携状態にあると判断された場合、それぞれ、予め定めた情報端末でアプリを起動している。しかし、アプリの実行デバイスの決定手法は、これに限定されない。
例えば、連携状態にあると判断された後、スマホ200に表示されたアイコン420に対する選択操作の態様に応じて、アプリを実行するデバイスを決定してもよい。例えば、アイコン420をシングルタップした場合はスマホ200で、ダブルタップした場合はHMD100で、起動する等である。
また、連携状態であるか否かは別の手法で判断し、実行デバイスのみユーザ501の視線方向で決定してもよい。ユーザ501の視線方向を検出し、視線がアイコン420またはスマホ200のディスプレイ231上にない場合、連携状態であってもHMD100ではアプリを起動しないようにしてもよい。
これにより、スマホ200を視野内に入れながら視線をスマホ200から外してアイコンを操作することで、意図してHMD100ではなくスマホ200でアプリ起動することが出来る。
また、視線方向だけでなく、ユーザ501の目の開閉により実行デバイスを決定してもよい。この場合、インカメラ134で取得した所定期間の画像を解析し、まばたきとは異なる、意図して目を閉じたかどうかを判別可能な一定の指定時間、目を閉じた状態か否かを識別する。例えば、一定の指定時間目を閉じた状態でアイコン420をタッチするとスマホ200でアプリを起動するよう決定する。
また、アイコンにタップして指を離す時に意図して目が閉じられた場合にはスマホ200で起動するようにしてもよい。この場合、HMD100を常時使用している状態で意図して明示的にスマホ200で起動させたい場合に有効である。
また、片目が閉じていればスマホ200で起動するようにしてもよい。この場合、もう一方の片目でアイコン420を見ながら所望動作を容易に行うことが可能となる。
<変形例3>
上記各実施形態において、各情報端末の間のデータの送受信は、相互の直接の無線通信に限定されない。例えば、図20(a)および図20(b)に示すように、サーバ610を経由してもよい。
同様に、アプリおよびファイル、データをサーバ610上に格納して、スマホ200からの指示により、適宜各情報端末に通信により転送して使用してもよい。スマホ200からの指示により、サーバ610上でアプリを起動して再生情報を各実施形態により決定した情報端末に転送して視聴してもよい。
なお、サーバ610は、各情報端末と通信を介して接続して必要な情報の送受信が出来ればよく、例えば、ローカルサーバ、クラウドサーバ、エッジサーバ、ネットサービス等であり、その形態は問わない。
また、スマホ200から大容量コンテンツデータをHMD100に転送する場合以外に、クラウドネットワークからコンテンツデータをHMD100にダウンロードしてもよい。特に、高精細映像などを扱う画像アプリの場合には、使うデータ量は飛躍的に多い。このため、HMD100での容量低減効果が大きい。この場合、データ通信には5G、(5th Generation:第5世代移動通信システム)ローカル5Gなどの高速大容量通信網を使用すれば、さらに使い勝手を向上できる。
<変形例4>
また、ユーザ501がタッチするアイコン420の表示画面内に、どの情報端末でアプリやファイルが起動可能であるかを示す小さな図形として端末マーク(以下、小アイコンと称す)を所定位置に付加してもよい。小アイコンを備えるアイコンの例を、図21(a)~図21(c)に示す。ここでは、一例として音楽再生アプリをアプリAとしてそのアイコン430を示す。
図21(a)は、アイコン430が、アイコン430内にHMD100でこのアプリを起動可能であることを示す小アイコン431を備える場合の例である。また、図21(b)は、アイコン430が、SW300でこのアプリAを移動可能であることを示す小アイコン432を備える場合の例である。
図21(c)は、スマホ200だけで起動可能なアプリの例である。ここでは、一例として表作成アプリのアイコン440を示す。表計算アプリのアイコン440内の所定位置には小アイコンが表示されない。
これにより、スマホ200でのアイコンタッチ操作に際して、ユーザはタッチしようとしているアイコン内にある図21(a)、図21(b)、図21(c)で示すような小アイコンの有無含めた状態を視認しながら、このアイコンをタッチするとどの情報端末で起動が可能なのかを前もって知ることができ、容易に使い勝手の向上を図ることができる。
なお、図21(a)、図21(b)、図21(c)で説明した小アイコンは、情報端末間が所定配置状態にあるかないかにかかわらず、所定配置状態になった場合に起動可能な情報端末を示すものである。
また、本実施形態の連携制御部273は、HMD100またはSW300から、それぞれの情報端末がアプリAを備えるとの情報を受信した場合、小アイコン431をアイコン430の所定位置に表示させる。または、予め、HMD100、SW300と、スマホ200との間で、アプリケーションプログラムがインストールされているか否か情報をやり取りし、小アイコン431を表示させてもよい。
小アイコン431の他の例を、図21(d)および図21(e)に示す。小アイコン431は、アイコン420をタッチした際に、連携する情報端末間でアプリやファイルが起動する情報端末を識別可能な態様で表示してもよい。すなわち、連携状態であるか否かによって、小アイコン431の表示態様を変更してもよい。
例えば、スマホ200とHMD100とが連携状態にあり、アイコン420をタッチするとHMD100でアプリやファイルが起動する場合、図21(d)に示すように、ハイライトした(網掛け付)の小アイコン432を表示する。一方、連携状態になくスマホ200でアプリが起動する場合は、図21(e)に示すようにハイライト(網掛け)無しの小アイコン433を表示する。
このように、小アイコン431を表示することにより、ユーザ501は、起動可能な情報端末を容易に把握することができる。これにより、起動する情報端末をユーザ501の意思で明確に選ぶことができる。
なお、小アイコン431の表示以外の識別通知方法として、どの情報端末でアプリの起動が可能かを音声情報にして、スピーカ141(ヘッドフォン)でユーザ501に通知してもよい。
また、HMD100がどの情報端末でアプリの起動が可能かを振動の大きさや種類等によって識別した振動情報にして、振動発生装置107によりユーザ501に通知してもよい。ユーザ501にとって一層高い利便性を得ることができる。
なお、小アイコンを表示するか否かについては、アプリごとに初期設定として、そのアプリのインストール時に指定してもよい。また、ユーザ501がその初期設定を変更可能にしてもよい。また、アプリ単位でなく端末単位で、すべてのアプリについての表示の判断を(OS等が制御することにより)まとめて、ユーザ501の指示により切替可能としてもよい。
<変形例5>
なお、上記各実施形態および変形例では、アイコンタッチの検出方法として、スマホ200の操作受付装置120でアイコンタッチ操作を検出する方法を示した。しかし、これに限定されない。例えば、HMD100のアウトカメラ133でスマホ200上でのアイコンタッチ操作を撮影し、撮影画像を解析することにより検出してもよい。また、アイコン位置特定方法として、HMD100からスマホ200に向けて、HMD100のアウトカメラ133で撮影したスマホ200のディスプレイ231上の座標を送り、スマホ200でその座標にあるアプリを特定してHMD100に知らせてもよい。
<変形例6>
また、上記各実施形態では、情報端末として、HMD100とスマホ200との例を挙げたが、複数の情報端末間の配置情報を取得できる情報端末であれよい。例えば、両方ともスマホであってもよい。この場合、アイコン420を表示してタッチを受け付けるスマホ200Aを、別のスマホ200Bのカメラで撮影しながらアイコンタッチすることで、別のスマホ200Bでアプリが起動するようにしてもよい。
また、各情報端末間で同じアプリを、連係して動作させてもよい。例えば、スマホ200とHMD100とで同じ地図アプリを使用する際、両端末が所定配置状態にある場合には、スマホ200では詳細な地図を表示し、HMD100では簡素化された地図を表示する、等連携して動作させることで、使い勝手を向上させることが出来る。
<変形例7>
また、同じアプリまたは対応するアプリの搭載に際し、情報端末の片方にインストールしたら他方の情報端末にもインストールする等、同期してインストールしてもよい。片方の情報端末で選択したアプリと同じアプリまたは対応するアプリが他方の情報端末にない場合は、サーバや、他の情報端末内等からダウンロードしてインストールして使用できるようにしてもよい。また、情報端末間の紐づけ(ペアリング、グループ設定等)は事前に行ってもよい。紐づけを行っていない情報端末と通信が確立した場合には、紐づけを行うかどうかをユーザ501に問い合わせて、ユーザ501が紐づけを行う意思を示したらその時点で紐づけを行ってもよい。
なお、本発明は上記した実施例に限定されるものではなく、様々な変形例が含まれる。例えば、上記した実施例は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施例の構成の一部を他の実施例の構成に置き換えることが可能であり、また、ある実施例の構成に他の実施例の構成を加えることも可能である。また、各実施例の構成の一部について、他の構成の追加・削除・置換をすることが可能である。
また、上記の各構成、機能、処理部、処理手段等は、それらの一部又は全部を、例えば集積回路で設計する等によりハードウェアで実現してもよい。また、上記の各構成、機能等は、プロセッサがそれぞれの機能を実現するプログラムを解釈し、実行することによりソフトウエアで実現してもよい。各機能を実現するプログラム、テーブル、ファイル等の情報は、メモリや、ハードディスク、SSD(Solid State Drive)等の記録装置、または、ICカード、SDカード、DVD等の記録媒体に置くことができる。
また、制御線や情報線は説明上必要と考えられるものを示しており、製品上必ずしも全ての制御線や情報線を示しているとは限らない。実際には殆ど全ての構成が相互に接続されていると考えてもよい。
100:HMD、101a:連携視野、103:RAM、104:ROM、105:拡張インタフェース部、106:タイマ、107:振動発生装置、110:記憶装置、111:メインプロセッサ、112:システムバス、113:RAM、114:ROM、120:操作受付装置、121:操作キー、122:タッチセンサ、123:タッチパネル、130:画像処理装置、131:ディスプレイ、131a:左目用ディスプレイ、131b:右目用ディスプレイ、133:アウトカメラ、134:インカメラ、140:音声処理装置、141:スピーカ、143:マイク、150:センサ、151:受信部、152:ジャイロセンサ、153:地磁気センサ、154:加速度センサ、155:深度センサ、160:通信装置、161:LAN通信I/F、162:電話網通信I/F、163:BT通信I/F、170:主制御部、171:受付部、172:送受信部、173:連携判断部、174:アプリ実行部、175:出力部、176:アプリケーションプログラム記憶部、177:アイコンデータ記憶部、
200:スマホ、200A:スマホ、200B:スマホ、201:メインプロセッサ、201a:撮影範囲、202:システムバス、205:拡張インタフェース部、206:タイマ、207:振動発生装置、210:記憶装置、211:メインプロセッサ、213:RAM、214:ROM、220:操作受付装置、223:タッチパネル、230:画像処理装置、231:ディスプレイ、234:インカメラ、240:音声処理装置、241:スピーカ、250:センサ、255:深度センサ、260:通信装置、263:BT通信I/F、270:主制御部、271:受付部、272:送受信部、273:連携制御部、274:アプリ実行部、275:出力部、276:アプリケーションプログラム記憶部、277:アイコンデータ記憶部、
300:スマートウォッチ、305:拡張インタフェース部、306:タイマ、307:振動発生装置、310:記憶装置、311:メインプロセッサ、312:システムバス、320:操作受付装置、323:タッチパネル、330:画像処理装置、331:ディスプレイ、340:音声処理装置、350:センサ、360:通信装置、370:主制御部、371:受付部、372:送受信部、373:連携制御部、374:アプリ実行部、375:出力部、376:アプリケーションプログラム記憶部、377:アイコンデータ記憶部、
411:アイコン、420:アイコン、421:アイコン、430:アイコン、431:小アイコン、432:小アイコン、433:小アイコン、440:アイコン、500:情報処理システム、501:ユーザ、610:サーバ

Claims (15)

  1. 複数の端末間で連携して、各端末が共通に備えるアプリケーションを実行する情報処理システムであって、
    前記複数の端末として第一情報端末と第二情報端末とを備え、
    前記第二情報端末は、
    前記アプリケーションの起動指示を受け付ける受付部と、
    単独動作モードおよび連携動作モードのいずれかで当該第二情報端末を動作させる連携制御部と、を備え、
    前記第一情報端末は、
    前記連携動作モード時に実行された前記アプリケーションの実行結果を出力する出力部を備え、
    前記単独動作モードは、前記アプリケーションを前記第二情報端末で単独に実行する動作モードであり、前記連携動作モードは、前記アプリケーションを前記第一情報端末および前記第二情報端末で連携して実行する動作モードであり、
    前記第二情報端末が前記連携動作モードで動作可能な状態である連携状態は、前記第一情報端末と前記第二情報端末との配置によって定まり、
    前記第一情報端末は、
    前記連携状態か否かを判断する連携判断部をさらに備え、
    前記第二情報端末の前記連携制御部は、
    前記連携判断部が前記連携状態と判断した場合、前記連携動作モードで動作させ、
    前記第二情報端末の前記受付部は、前記第二情報端末が備える第二ディスプレイに前記起動指示を受け付けるアイコンを表示し、当該アイコンを介して前記起動指示を受け付け、
    前記第一情報端末の前記連携判断部は、前記第一情報端末のディスプレイの予め定めた連携視野内に、前記第二ディスプレイに表示される前記アイコンが含まれる場合、前記連携状態であると判断すること
    を特徴とする情報処理システム。
  2. 複数の端末間で連携して、各端末が共通に備えるアプリケーションを実行する情報処理システムであって、
    前記複数の端末として第一情報端末と第二情報端末とを備え、
    前記第二情報端末は、
    前記アプリケーションの起動指示を受け付ける受付部と、
    単独動作モードおよび連携動作モードのいずれかで当該第二情報端末を動作させる連携制御部と、を備え、
    前記第一情報端末は、
    前記連携動作モード時に実行された前記アプリケーションの実行結果を出力する出力部を備え、
    前記単独動作モードは、前記アプリケーションを前記第二情報端末で単独に実行する動作モードであり、前記連携動作モードは、前記アプリケーションを前記第一情報端末および前記第二情報端末で連携して実行する動作モードであり、
    前記第二情報端末が前記連携動作モードで動作可能な状態である連携状態は、前記第一情報端末と前記第二情報端末との配置によって定まり、
    前記第一情報端末は、
    前記連携状態か否かを判断する連携判断部をさらに備え、
    前記連携判断部は、
    前記連携状態と判断した場合、前記第二情報端末に前記連携動作モードで動作するよう指示を行い、
    前記第二情報端末の前記受付部は、前記第二情報端末が備える第二ディスプレイに前記起動指示を受け付けるアイコンを表示し、当該アイコンを介して前記起動指示を受け付け、
    前記第一情報端末の前記連携判断部は、前記第一情報端末のディスプレイの予め定めた連携視野内に、前記第二ディスプレイに表示される前記アイコンが含まれる場合、前記連携状態であると判断すること
    を特徴とする情報処理システム。
  3. 複数の端末間で連携して、各端末が共通に備えるアプリケーションを実行する情報処理システムであって、
    前記複数の端末として第一情報端末と第二情報端末とを備え、
    前記第二情報端末は、
    前記アプリケーションの起動指示を受け付ける受付部と、
    単独動作モードおよび連携動作モードのいずれかで当該第二情報端末を動作させる連携制御部と、を備え、
    前記第一情報端末は、
    前記連携動作モード時に実行された前記アプリケーションの実行結果を出力する出力部を備え、
    前記単独動作モードは、前記アプリケーションを前記第二情報端末で単独に実行する動作モードであり、前記連携動作モードは、前記アプリケーションを前記第一情報端末および前記第二情報端末で連携して実行する動作モードであり、
    前記第二情報端末が前記連携動作モードで動作可能な状態である連携状態は、前記第一情報端末と前記第二情報端末との配置によって定まり、
    前記複数の端末として第三情報端末をさらに備え、
    前記第三情報端末は、前記第二情報端末が前記連携動作モードで動作可能な配置状態であるか否かを判断する連携判断部を備え、
    前記第二情報端末の前記連携制御部は、
    前記連携判断部が前記動作可能な配置状態と判断した場合、前記連携動作モードで動作させ、
    前記第二情報端末の前記受付部は、前記第二情報端末が備える第二ディスプレイに前記起動指示を受け付けるアイコンを表示し、当該アイコンを介して前記起動指示を受け付け、
    前記第三情報端末の前記連携判断部は、前記第一情報端末のディスプレイの予め定めた連携視野内に、前記第二ディスプレイに表示される前記アイコンが含まれる場合、前記連携状態であると判断すること
    を特徴とする情報処理システム。
  4. 複数の端末間で連携して、各端末が共通に備えるアプリケーションを実行する情報処理システムであって、
    前記複数の端末として第一情報端末と第二情報端末とを備え、
    前記第二情報端末は、
    前記アプリケーションの起動指示を受け付ける受付部と、
    単独動作モードおよび連携動作モードのいずれかで当該第二情報端末を動作させる連携制御部と、を備え、
    前記第一情報端末は、
    前記連携動作モード時に実行された前記アプリケーションの実行結果を出力する出力部を備え、
    前記単独動作モードは、前記アプリケーションを前記第二情報端末で単独に実行する動作モードであり、前記連携動作モードは、前記アプリケーションを前記第一情報端末および前記第二情報端末で連携して実行する動作モードであり、
    前記第二情報端末が前記連携動作モードで動作可能な状態である連携状態は、前記第一情報端末と前記第二情報端末との配置によって定まり、
    前記受付部は、前記第二情報端末が備えるディスプレイに前記起動指示を受け付けるアイコンを表示し、当該アイコンを介して前記起動指示を受け付け、
    前記アイコンは、当該アイコンが対応づけられたアプリケーションを起動可能な前記端末の種別を特定する情報である端末マークを備えること
    を特徴とする情報処理システム。
  5. 請求項に記載の情報処理システムであって、
    前記端末マークは、当該端末マークで特定される前記端末で当該アプリケーションが実行されている場合、表示態様が変更されること
    を特徴とする情報処理システム。
  6. 請求項4、又は5に記載の情報処理システムであって、
    前記第二情報端末の前記連携制御部は、当該第二情報端末が前記連携状態か否か判断し、前記連携状態と判断した場合、前記連携動作モードで動作させること
    を特徴とする情報処理システム。
  7. 請求項1、2、3、4、又は5に記載の情報処理システムであって、
    前記第二情報端末の前記連携制御部は、前記連携動作モードで動作させる場合、前記アプリケーションの起動指示を、前記第一情報端末に送信し、
    前記第一情報端末は、前記第二情報端末から前記アプリケーションの起動指示を受信すると、前記アプリケーションを実行するアプリケーション実行部をさらに備えること
    を特徴とする情報処理システム。
  8. 請求項記載の情報処理システムであって、
    前記第二情報端末は、前記起動指示を受け付けると前記アプリケーションを実行する第二アプリケーション実行部と、
    前記アプリケーションの実行状態を表示するディスプレイと、をさらに備え、
    前記第二アプリケーション実行部は、前記アプリケーション実行部と同期して前記アプリケーションを実行すること
    を特徴とする情報処理システム。
  9. 請求項1、2、3、4、又は5に記載の情報処理システムであって、
    前記第二情報端末の前記連携制御部は、前記連携動作モードで動作させる場合、前記アプリケーションの実行に必要なデータを前記第一情報端末に送信し、
    前記第一情報端末は、前記第二情報端末から前記アプリケーションの実行に必要な前記データを受信すると、当該データを用いて前記アプリケーションを実行するアプリケーション実行部を備えること
    を特徴とする情報処理システム。
  10. 請求項1、2、3、4、又は5に記載の情報処理システムであって、
    前記第二情報端末の前記連携制御部は、前記連携動作モードで動作させる場合、前記アプリケーションを実行し、前記実行結果を前記第一情報端末に送信すること
    を特徴とする情報処理システム。
  11. 請求項1、2、3、4、又は5に記載の情報処理システムであって、
    前記連携状態であるか否かは、前記第二情報端末と前記第一情報端末との距離により判断されること
    を特徴とする情報処理システム。
  12. 複数の端末間で連携して、各端末が共通に備えるアプリケーションを実行する情報処理方法であって、
    前記複数の端末として第一情報端末と第二情報端末とを備え、
    前記第二情報端末において、前記アプリケーションの起動指示を受け付ける受付ステップと、
    前記第一情報端末において、連携状態か否かを判断する連携判断ステップと、
    前記第二情報端末において、単独動作モードおよび連携動作モードのいずれかで当該第二情報端末を動作させる連携制御ステップと、
    前記第一情報端末において、前記連携動作モード時に実行された前記アプリケーションの実行結果を出力する出力ステップと、を含み、
    前記単独動作モードは、前記アプリケーションを前記第二情報端末で単独に実行する動作モードであり、前記連携動作モードは、前記アプリケーションを前記第一情報端末および前記第二情報端末で連携して実行する動作モードであり、
    前記第二情報端末が前記連携動作モードで動作可能な状態である連携状態は、前記第一情報端末と前記第二情報端末との配置によって定まり、
    前記受付ステップにおいて、前記第二情報端末が備える第二ディスプレイに前記起動指示を受け付けるアイコンを表示し、当該アイコンを介して前記起動指示を受け付け、
    前記連携判断ステップにおいて、前記第一情報端末のディスプレイの予め定めた連携視野内に、前記第二ディスプレイに表示される前記アイコンが含まれる場合、前記第一情報端末は、前記連携状態であると判断し、
    前記連携制御ステップにおいて前記連携状態と判断されると、前記連携動作モードで動作させること
    を特徴とする情報処理方法。
  13. 複数の端末間で連携して、各端末が共通に備えるアプリケーションを実行する情報処理方法であって、
    前記複数の端末として第一情報端末と第二情報端末とを備え、
    前記第二情報端末において、前記アプリケーションの起動指示を受け付ける受付ステップと、
    前記第一情報端末において、連携状態か否かを判断する連携判断ステップと、
    前記第二情報端末において、単独動作モードおよび連携動作モードのいずれかで当該第二情報端末を動作させる連携制御ステップと、
    前記第一情報端末において、前記連携動作モード時に実行された前記アプリケーションの実行結果を出力する出力ステップと、を含み、
    前記単独動作モードは、前記アプリケーションを前記第二情報端末で単独に実行する動作モードであり、前記連携動作モードは、前記アプリケーションを前記第一情報端末および前記第二情報端末で連携して実行する動作モードであり、
    前記第二情報端末が前記連携動作モードで動作可能な状態である連携状態は、前記第一情報端末と前記第二情報端末との配置によって定まり、
    前記受付ステップにおいて、前記第二情報端末が備える第二ディスプレイに前記起動指示を受け付けるアイコンを表示し、当該アイコンを介して前記起動指示を受け付け、
    前記連携判断ステップにおいて、前記第一情報端末のディスプレイの予め定めた連携視野内に、前記第二ディスプレイに表示される前記アイコンが含まれる場合、前記連携状態であると判断し、
    前記連携判断ステップにおいて、前記連携状態と判断された場合、前記連携制御ステップにおいて、前記第二情報端末に前記連携動作モードで動作するよう指示を行うこと
    を特徴とする情報処理方法。
  14. 複数の端末間で連携して、各端末が共通に備えるアプリケーションを実行する情報処理方法であって、
    前記複数の端末として第一情報端末と第二情報端末と第三情報端末とを備え、
    前記第二情報端末において、前記アプリケーションの起動指示を受け付ける受付ステップと、
    前記第二情報端末において、単独動作モードおよび連携動作モードのいずれかで当該第二情報端末を動作させる連携制御ステップと、
    前記第三情報端末において、前記第二情報端末が前記連携動作モードで動作可能な配置状態であるか否かを判断する連携判断ステップと、
    前記第一情報端末において、前記連携動作モード時に実行された前記アプリケーションの実行結果を出力する出力ステップと、を含み、
    前記単独動作モードは、前記アプリケーションを前記第二情報端末で単独に実行する動作モードであり、前記連携動作モードは、前記アプリケーションを前記第一情報端末および前記第二情報端末で連携して実行する動作モードであり、
    前記第二情報端末が前記連携動作モードで動作可能な状態である連携状態は、前記第一情報端末と前記第二情報端末との配置によって定まり、
    前記受付ステップにおいて、前記第二情報端末が備える第二ディスプレイに前記起動指示を受け付けるアイコンを表示し、当該アイコンを介して前記起動指示を受け付け、
    前記連携判断ステップにおいて、前記第一情報端末のディスプレイの予め定めた連携視野内に、前記第二ディスプレイに表示される前記アイコンが含まれる場合、前記連携状態であると判断し、
    前記連携判断ステップにおいて、前記動作可能な配置状態と判断された場合、前記連携制御ステップにおいて、前記第二情報端末は、前記連携動作モードで動作すること
    を特徴とする情報処理方法
  15. 複数の端末間で連携して、各端末が共通に備えるアプリケーションを実行する情報処理方法であって、
    前記複数の端末として第一情報端末と第二情報端末とを備え、
    前記第二情報端末において、前記アプリケーションの起動指示を受け付ける受付ステップと、
    前記第二情報端末において、単独動作モードおよび連携動作モードのいずれかで当該第二情報端末を動作させる連携制御ステップと、
    記第一情報端末において、前記連携動作モード時に実行された前記アプリケーションの実行結果を出力する出力ステップと、を含み、
    前記単独動作モードは、前記アプリケーションを前記第二情報端末で単独に実行する動作モードであり、前記連携動作モードは、前記アプリケーションを前記第一情報端末および前記第二情報端末で連携して実行する動作モードであり、
    前記第二情報端末が前記連携動作モードで動作可能な状態である連携状態は、前記第一情報端末と前記第二情報端末との配置によって定まり、
    前記受付ステップにおいて、前記第二情報端末が備えるディスプレイに前記起動指示を受け付けるアイコンを表示し、当該アイコンを介して前記起動指示を受け付け、
    前記アイコンは、当該アイコンが対応づけられたアプリケーションを起動可能な前記端末の種別を特定する情報である端末マークを備えること
    を特徴とする情報処理方法。
JP2022529165A 2020-06-02 2020-06-02 情報処理システムおよび情報処理方法 Active JP7453369B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2020/021710 WO2021245773A1 (ja) 2020-06-02 2020-06-02 情報処理システム、情報処理方法および情報処理端末

Publications (2)

Publication Number Publication Date
JPWO2021245773A1 JPWO2021245773A1 (ja) 2021-12-09
JP7453369B2 true JP7453369B2 (ja) 2024-03-19

Family

ID=78830217

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022529165A Active JP7453369B2 (ja) 2020-06-02 2020-06-02 情報処理システムおよび情報処理方法

Country Status (4)

Country Link
US (1) US20230297447A1 (ja)
JP (1) JP7453369B2 (ja)
CN (1) CN115698967A (ja)
WO (1) WO2021245773A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023119528A1 (ja) * 2021-12-22 2023-06-29 マクセル株式会社 ヘッドマウントディスプレイ装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013210730A (ja) 2012-03-30 2013-10-10 Rakuten Inc 表示システム、表示システムの制御方法、制御装置、制御装置の制御方法、プログラム、及び情報記憶媒体
JP2015167326A (ja) 2014-03-04 2015-09-24 コニカミノルタ株式会社 連携システム、画像形成装置、携帯情報装置、遠隔制御方法、遠隔操作方法、遠隔制御プログラムおよび遠隔操作プログラム
JP2017175507A (ja) 2016-03-25 2017-09-28 カシオ計算機株式会社 画像処理装置、画像処理方法及びプログラム
WO2020003361A1 (ja) 2018-06-25 2020-01-02 マクセル株式会社 ヘッドマウントディスプレイ、ヘッドマウントディスプレイ連携システム及びその方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5305493B2 (ja) * 2010-11-12 2013-10-02 パナソニック株式会社 サーバ、通信端末、およびそれらを備えた機器連携システム
JP2013152642A (ja) * 2012-01-25 2013-08-08 Sharp Corp 端末装置、表示システム、端末装置の制御方法、端末装置の制御プログラム、および、該制御プログラムを記録した記録媒体
JP6148170B2 (ja) * 2013-12-27 2017-06-14 日立マクセル株式会社 携帯情報端末

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013210730A (ja) 2012-03-30 2013-10-10 Rakuten Inc 表示システム、表示システムの制御方法、制御装置、制御装置の制御方法、プログラム、及び情報記憶媒体
JP2015167326A (ja) 2014-03-04 2015-09-24 コニカミノルタ株式会社 連携システム、画像形成装置、携帯情報装置、遠隔制御方法、遠隔操作方法、遠隔制御プログラムおよび遠隔操作プログラム
JP2017175507A (ja) 2016-03-25 2017-09-28 カシオ計算機株式会社 画像処理装置、画像処理方法及びプログラム
WO2020003361A1 (ja) 2018-06-25 2020-01-02 マクセル株式会社 ヘッドマウントディスプレイ、ヘッドマウントディスプレイ連携システム及びその方法

Also Published As

Publication number Publication date
US20230297447A1 (en) 2023-09-21
CN115698967A (zh) 2023-02-03
JPWO2021245773A1 (ja) 2021-12-09
WO2021245773A1 (ja) 2021-12-09

Similar Documents

Publication Publication Date Title
CN105259654B (zh) 眼镜式终端及其控制方法
US20170236330A1 (en) Novel dual hmd and vr device with novel control methods and software
CN109426478B (zh) 用于使用多个控制器控制电子设备的显示器的方法和设备
KR20160113903A (ko) 이동 단말기 및 그것의 제어방법
KR20150026336A (ko) 웨어러블 디바이스 및 그 컨텐트 출력 방법
US20170289533A1 (en) Head mounted display, control method thereof, and computer program
KR20150146295A (ko) 헤드 마운티드 디스플레이 및 그것의 제어방법
CN112286362A (zh) 真实环境画面中虚拟道具的显示方法、系统及存储介质
CN112835445B (zh) 虚拟现实场景中的交互方法、装置及系统
JP6740584B2 (ja) 表示システム、表示装置の制御方法、及び、プログラム
JP2018124721A (ja) 頭部装着型表示装置、及び頭部装着型表示装置の制御方法
EP3086216A1 (en) Mobile terminal and controlling method thereof
KR20170059760A (ko) 이동단말기 및 그 제어방법
CN114648623A (zh) 信息处理装置、信息处理方法以及计算机可读介质
KR20180010845A (ko) Hmd 및 그 hmd의 제어 방법
JP7453369B2 (ja) 情報処理システムおよび情報処理方法
JP2024050643A (ja) ヘッドマウント情報処理装置およびヘッドマウント情報処理装置の制御方法
KR20170060473A (ko) 이동 단말기 및 그 이동 단말기의 제어 방법
KR20170055867A (ko) 이동단말기 및 그 제어방법
KR20160019279A (ko) 이동단말기 및 그 제어방법
KR101695695B1 (ko) 이동단말기 및 그 제어방법
CN111415421A (zh) 虚拟物体控制方法、装置、存储介质及增强现实设备
US20230409192A1 (en) Device Interaction Method, Electronic Device, and Interaction System
KR102211476B1 (ko) 전자 디바이스 및 그 제어방법
WO2022003912A1 (ja) 情報処理システムおよび情報処理端末

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220930

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230718

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20230915

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231106

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240206

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240307

R150 Certificate of patent or registration of utility model

Ref document number: 7453369

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150