JP7286760B2 - ヘッドマウント情報処理装置 - Google Patents

ヘッドマウント情報処理装置 Download PDF

Info

Publication number
JP7286760B2
JP7286760B2 JP2021513070A JP2021513070A JP7286760B2 JP 7286760 B2 JP7286760 B2 JP 7286760B2 JP 2021513070 A JP2021513070 A JP 2021513070A JP 2021513070 A JP2021513070 A JP 2021513070A JP 7286760 B2 JP7286760 B2 JP 7286760B2
Authority
JP
Japan
Prior art keywords
content
key
head
information processing
processing device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021513070A
Other languages
English (en)
Other versions
JPWO2020208717A1 (ja
Inventor
尚久 高見澤
仁 秋山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Maxell Ltd
Original Assignee
Maxell Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Maxell Ltd filed Critical Maxell Ltd
Publication of JPWO2020208717A1 publication Critical patent/JPWO2020208717A1/ja
Priority to JP2023085365A priority Critical patent/JP7425245B2/ja
Application granted granted Critical
Publication of JP7286760B2 publication Critical patent/JP7286760B2/ja
Priority to JP2024006036A priority patent/JP2024050643A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012Head tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/015Input arrangements based on nervous system activity detection, e.g. brain waves [EEG] detection, electromyograms [EMG] detection, electrodermal response detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/147Digital output to display device ; Cooperation and interconnection of the display device with other functional units using display panels
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/39Control of the bit-mapped memory
    • G09G5/393Arrangements for updating the contents of the bit-mapped memory
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/39Control of the bit-mapped memory
    • G09G5/395Arrangements specially adapted for transferring the contents of the bit-mapped memory to the screen
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/66Transforming electric information into light information
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2354/00Aspects of interface with display user

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Hardware Design (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Dermatology (AREA)
  • General Health & Medical Sciences (AREA)
  • Neurology (AREA)
  • Neurosurgery (AREA)
  • User Interface Of Digital Computer (AREA)
  • Processing Or Creating Images (AREA)
  • Position Input By Displaying (AREA)
  • Controls And Circuits For Display Device (AREA)

Description

本発明は、ユーザの頭部に装着された状態でユーザに各種情報を視覚または聴覚を介して提供するヘッドマウント情報処理装置に関する。
特許文献1には、車両の周囲を撮像する複数のカメラで撮像された映像を表示するヘッドマウントディスプレイ装置において、ヘッドマウントディスプレイ装置を装着した乗員の頭部の動きに応じて表示する映像を切り替える方式が示される。
特開2018-129732号公報
ヘッドマウント情報処理装置は、HMD(Head Mounted Display)とも呼ばれ、ユーザの頭部に装着された状態で表示部に拡張現実(AR)の情報や仮想現実(VR)の情報を表示することができる。ヘッドマウント情報処理装置では、近年、現実世界と仮想世界をリアルタイムかつシームレスに融合させて、ユーザに、あたかもその場に仮想の物体が存在するかのような体験を行わせることが可能になってきている。また、このようなヘッドマウント情報処理装置は、ARやVRを利用したコンテンツを代表に、多くのコンテンツを搭載している。
ユーザは、ヘッドマウント情報処理装置に搭載される各種コンテンツを選択する場合、ヘッドマウント情報処理装置を装着した後に、表示部に表示されるメニュー等を見ながらリモコン等を用いて選択操作を行う必要がある。その結果、リモコンを探す手間、および、選択操作を行う手間が生じるため、ユーザの利便性が低下する恐れがある。特に、メニューの階層が深いような場合、目的のコンテンツを探す必要性が生じ得るため、利便性がより低下する。また、このような選択操作を行うと、その行為自体により、ユーザのコンテンツへの没入感が薄れる恐れがある。
本発明は、このようなことに鑑みてなされたものであり、その目的の一つは、ユーザの利便性を向上させることが可能なヘッドマウント情報処理装置を提供することにある。
本発明の前記ならびにその他の目的と新規な特徴については、本明細書の記述および添付図面から明らかになるであろう。
本願において開示される発明のうち、代表的なものの概要を簡単に説明すれば、次のとおりである。
代表的なヘッドマウント情報処理装置は、ユーザの頭部に装着された状態でユーザに各種情報を視覚または聴覚を介して提供する装置であり、所定の画像を表示する表示部と、装置外部の画像を撮像するカメラと、メモリと、コンテンツを実行するコンテンツ実行部と、コンテンツ実行部を制御するコンテンツ制御部とを備える。コンテンツ制御部は、キーコンテンツペア情報登録部と、キーコンテンツペア復元部とを備える。キーコンテンツペア情報登録部は、ユーザからの指示を受けた時または装置終了時であるイベント発生時、イベント発生時のコンテンツの状態を、イベント発生時のカメラの画像から得られる登録キーに対応付け、キーコンテンツペア情報としてメモリに保存する。キーコンテンツペア復元部は、装置起動時、キーコンテンツペア情報に基づいて、装置起動時のカメラの画像と登録キーとの適合有無を判別し、適合有りの場合、適合した登録キーに対応するコンテンツの状態を復元する。
本願において開示される発明のうち、代表的なものによって得られる効果を簡単に説明すれば、ヘッドマウント情報処理装置において、ユーザの利便性を向上させることが可能になる。

本発明の実施の形態1によるヘッドマウント情報処理装置の概略構成例を示すブロック図である。 図1におけるCPU周りの主要部の構成例を示すブロック図である。 図2におけるキーコンテンツペア情報登録部の動作例を示すフロー図である。 図2におけるキーコンテンツペア復元部の動作例を示すフロー図である。 図2におけるキーコンテンツペア情報の構成例を示す概略図である。 (a)、(b)および(c)は、図5に対応するヘッドマウント情報処理装置の使用状況の一例を示す模式図である。 (a)、(b)および(c)は、図5に対応するヘッドマウント情報処理装置の使用状況の他の一例を示す模式図である。 (a)および(b)は、図2におけるキーコンテンツペア情報の他の構成例を示す概略図である。 (a)および(b)は、図2において、ユーザによる登録キーの使用例を説明する図である。 (a)は、図2において、ユーザによる登録キーの他の使用例を説明する図であり、(b)は、(a)に対応するキーコンテンツペア情報の構成例を示す概略図である。 本発明の実施の形態2によるヘッドマウント情報処理装置において、図2のキーコンテンツペア復元部の動作例を説明する図である。 (a)、(b)、(c)および(d)は、本発明の実施の形態3によるヘッドマウント情報処理装置において、図2のキーコンテンツペア復元部の動作例を説明する図である。 (a)、(b)、(c)および(d)は、本発明の実施の形態3によるヘッドマウント情報処理装置において、図2のキーコンテンツペア復元部の他の動作例を説明する図である。 本発明の実施の形態5によるヘッドマウント情報処理装置周りの概略構成例を示すブロック図である。

以下、本発明の実施の形態を図面に基づいて詳細に説明する。なお、実施の形態を説明するための全図において、同一の部材には原則として同一の符号を付し、その繰り返しの説明は省略する。
(実施の形態1)
《ヘッドマウント情報処理装置の概略》
図1は、本発明の実施の形態1によるヘッドマウント情報処理装置の概略構成例を示すブロック図である。図1のヘッドマウント情報処理装置100は、ユーザの頭部に装着された状態でユーザに各種情報を視覚または聴覚を介して提供する。明細書では、ヘッドマウント情報処理装置100をHMD100とも呼ぶ。HMD100は、カメラ111、外周音マイク116、発声音マイク117、ヘッドフォン118、操作入力インタフェース119、ディスプレイ(表示部)120、CPU(Central Processing Unit)125、メモリ128、アンテナ150および通信インタフェース151を備える。
また、当該HMD100は、振動発生器114、刺激発生器115および各種センサを備える。各種センサの中には、右目視線検出器112、左目視線検出器113、近接センサ132、深度センサ121、加速度センサ122、ジャイロセンサ123、地磁気センサ124および生体センサ129等が含まれる。これらの各構成部は、それぞれバス140を介して相互に接続される。
ディスプレイ(表示部)120は、例えば、液晶パネル等であり、ARまたはVRの画像等を代表に、所定の画像を表示する。カメラ111は、例えば、ユーザの両眼の前方に設置され、装置外部の画像(例えばユーザ前方の風景)を撮像する。撮像された画像は、現実空間の画像としてディスプレイ120に表示される。右目視線センサ112および左目視線センサ113は、それぞれ右目および左目の視線を検知する。ユーザの視線を検知する技術は、アイトラッキングとして一般的に知られている。例えば、角膜反射を利用したアイトラッキングでは、赤外線LED(Light Emitting Diode)を顔に照射し赤外線カメラで撮影し、赤外線LEDの照射で生じた反射光の角膜上の位置(角膜反射)を基準点とし、角膜反射の位置に対する瞳孔の位置に基づいて視線を検知する。
振動発生器114は、CPU125からの指示に応じて振動を発生する。振動発生器114は、例えば、CPU125で生成されたユーザへの通知情報を振動に変換することで、ユーザへ、より認識度が高い通知を行う。刺激発生器115は、例えば電気刺激などを代表に所定の刺激を発生する。外周音マイク116は、例えば、ユーザの耳部近傍に装着され、装置外部で生じた周囲音を集音して音声信号に変換する。発声音マイク117は、ユーザからの発声音声を集音して音声信号に変換する。ヘッドフォン118は、装置内部の音声信号を音声(音波)に変換してユーザへ放音する。ヘッドフォン118は、気導音型でも骨導音(骨伝導)型でもよい。
操作入力インタフェース119は、代表的には、リモコン等であり、ユーザによる各種操作入力信号を受信する。操作入力インタフェース119は、各種操作入力信号を通信インタフェース151を介して受信可能なものであってもよい。近接センサ132は、例えば、照射した赤外線が対象物に反射して戻ってくる時間で距離を判断したり、対象物との間の電磁誘導や、または対象物との間の容量変化等を利用して対象物との距離を判断してHMD100に近接する対象物を検出する。深度センサ121は、物体までの距離を面で測定する。深度センサ部121には、例えば、赤外線やレーザなどの反射を利用したものがあるが、取り付け位置の異なる複数のカメラにて撮影した画像の視差から距離情報を得るなど、他の方式で実現してもよい。
加速度センサ122は、HMD100の加速度を検知することで、HMD100の動き・振動・衝撃などを検知する。ジャイロセンサ123は、回転方向の角速度を検知することで、HMD100の縦・横・斜めの姿勢を検知する。地磁気センサ124は、地球の磁力を検知することで、HMD100の向いている方向を検知する。したがって、ジャイロセンサ123または地磁気センサ124を用いると、さらに、場合によっては、加速度センサ122を併用すると、HMD100(ひいては、それを装着しているユーザ)の姿勢を検知することができる。生体センサ129は、例えば、虹彩または網膜等を代表とするユーザの生体情報を検知することで各ユーザを判別する。
メモリ128は、例えば、フラッシュメモリおよびワーク用のRAM等であり、プログラム126および各種情報データ127を記憶する。プログラム126には、OS(Operating System)および当該OS上で動作する各種コンテンツ用プログラム等が含まれる。情報データ127には、プログラム126で使用する各種パラメータなどが含まれる。CPU125は、メモリ128に記憶されるプログラム126を実行することで、ユーザに所望のコンテンツを提供し、また、HMD100全体の動作を制御する。CPU125は、GPU(Graphics Processing Unit)等の各種演算処理専用プロセッサを含んでもよい。
通信インタフェース151は、例えば、アンテナ150を介して近距離無線通信を行う。近距離無線通信の方式として、例えば、電子タグ、Bluetooth(登録商標)、IrDA(Infrared Data Association)、Zigbee(登録商標)、HomeRF(Home Radio Frequency、登録商標)、無線LAN(IEEE802.11a、IEEE802.11b、IEEE802.11g)などが挙げられる。
《CPU周りの主要部の詳細》
図2は、図1におけるCPU周りの主要部の構成例を示すブロック図である。図2において、CPU125は、コンテンツ制御部205と、コンテンツ実行部206とを備える。コンテンツ制御部205およびコンテンツ実行部206は、CPU125がメモリ128に記憶されるプログラム126を実行することでCPU125上に実装される。コンテンツ実行部206は、ユーザの要求等に応じて各種コンテンツを実行する。コンテンツ制御部205は、コンテンツ実行部206を制御する。なお、コンテンツ制御部205およびコンテンツ実行部206は、CPU125によるプログラム処理(ソフトウエア)に限らず、場合によっては、FPGA(Field Programmable Gate Array)、各種アクセラレータ等のハードウエアや、または、ハードウエアとソフトウエアの組み合わせで実装されてもよい。
コンテンツ制御部205は、候補キー抽出部210と、キーコンテンツペア情報登録部211と、キーコンテンツペア復元部212とを備える。候補キー抽出部210は、カメラ111の画像、各種センサ201の検知結果、通信インタフェース151の受信データの中の少なくともいずれか一つに基づいて候補キーを抽出する。この際に、カメラ111の画像、各種センサ201の検知結果、通信インタフェース151の受信データの中のどれを候補キーとするかは、予めメモリ128内のキー設定情報215で定められる。なお、各種センサの中には、右目視線検出器112、左目視線検出器113、近接センサ132、深度センサ121、加速度センサ122、ジャイロセンサ123、地磁気センサ124および生体センサ129等が含まれる。
キーコンテンツペア情報登録部211は、イベント発生時に、候補キー抽出部210に候補キーを抽出させ、当該候補キーの中からイベント発生時のキーを定める。カメラ画像を例とすると、候補キーとは、例えば、カメラ画像に含まれる単数または複数のオブジェクトに該当する。キーコンテンツペア情報登録部211は、その単数または複数のオブジェクトの中の1個のオブジェクト(単数または複数の候補キーの中の1個のキー)をイベント発生時のキーに定める。
そして、キーコンテンツペア情報登録部211は、イベント発生時のコンテンツ実行部206におけるコンテンツの状態を、イベント発生時のキーに対応付け、キーコンテンツペア情報216としてメモリ128に保存する。明細書では、このキーコンテンツペア情報登録部211によって定められたイベント発生時のキーであり、キーコンテンツペア情報216として保存されたキーを登録キーと呼ぶ。イベント発生時とは、装置終了信号(例えば、電源オフ信号等)POFFを受けた時である装置終了時、または、ユーザ入力信号CMDを介してユーザからの所定の指示を受けた時である。
一方、キーコンテンツペア復元部212は、装置起動信号(例えば、電源オン信号等)PONを受けた時である装置起動時に、候補キー抽出部210に候補キーを抽出させる。そして、キーコンテンツペア復元部212は、キーコンテンツペア情報216に基づいて、抽出された候補キーと登録キーとの適合有無を判別し、適合有りの場合、当該登録キーに対応するコンテンツの状態を復元する。
ここで、HMD100の装置終了時として、代表的には、(A)ユーザが頭からHMD100を外す時、(B)ユーザが頭にHMD100を装着した状態で電源をオフにする時、(C)ユーザが頭からHMD100を外した後にどこかに置いて電源をオフにする時等が挙げられる。電源のオフは、必ずしも電源遮断を意味せず、スリープモードへの移行を意味する場合もある。(A)は、例えば、HMD100の顔側の近接センサを用いることで検知される。HMD100が頭から外された場合、HMD100によっては、自動的に電源がオフになる場合や、または、自動的にスリープモードへ移行する場合がある。(C)は、(A)の場合と異なり、自動的に電源がオフとならない(またはスリープモードへ移行しない)HMD100が対象となる。
ユーザ入力信号CMDは、例えば、リモコン等の中断ボタン、または、画面上のメニューを介した中断指示等に応じて発行され、ブックマーク、しおり、復元ポイントのような役割を担う。また、コンテンツの状態とは、コンテンツの種別、または、当該コンテンツの種別に加えてコンテンツ上の実行状態を表す。コンテンツの種別とは、例えば、映画等の動作再生コンテンツ、ロールプレイング等のゲームコンテンツ、観光等の体験コンテンツ、書類作成コンテンツ、チャットルームコンテンツ等を区別する情報である。この場合、キーコンテンツペア情報登録部211は、キーコンテンツペア情報216におけるコンテンツの状態として、例えば、コンテンツへのファイルパス等を保存すればよい。キーコンテンツペア復元部212は、当該ファイルパス等に基づきコンテンツを起動すればよい。
一方、コンテンツ上の実行状態とは、例えば、動作再生コンテンツ上の再生箇所、ゲームコンテンツや体験コンテンツ上の進捗箇所、書類作成コンテンツ上の書類ファイル名、チャットルームコンテンツにおける参加者の環境などを表す。この場合、キーコンテンツペア情報登録部211は、キーコンテンツペア情報216におけるコンテンツの状態として、例えば、コンテンツへのファイルパス、各種設定ファイルへのファイルパス、書類ファイルへのファイルパス、または、CPUのパラメータ値(レジスタ値、カウンタ値)等を適宜保存すればよい。キーコンテンツペア復元部212は、当該保存された各種情報に基づき、コンテンツを起動することに加えて、当該コンテンツ上の実行状態を復元すればよい。
《キーコンテンツペア情報登録部およびキーコンテンツペア復元部の詳細》
図3は、図2におけるキーコンテンツペア情報登録部の動作例を示すフロー図である。図4は、図2におけるキーコンテンツペア復元部の動作例を示すフロー図である。ここでは、キー(候補キーおよび登録キー)がカメラ111の画像である場合を例として説明する。図3において、キーコンテンツペア情報登録部211は、イベント信号(装置終了信号POFFまたはユーザ入力信号CMD)を受信すると(ステップS101)、ステップS102の処理を実行する。ステップS102において、キーコンテンツペア情報登録部211は、コンテンツ実行部206からイベント発生時のコンテンツの状態(e)を取得する。
次いで、キーコンテンツペア情報登録部211は、イベント発生時のカメラ111の画像に基づき、候補キー抽出部210に候補キーを抽出させ、その中から登録キー(E)を定める(ステップS103)。続いて、キーコンテンツペア情報登録部211は、ステップS102で取得したコンテンツの状態(e)を、ステップS103で定めた登録キー(E)に対応付け、キーコンテンツペア情報216としてメモリ128に保存し(ステップS104)、処理を終了する。
一方、図4において、キーコンテンツペア復元部212は、装置起動信号を受信すると(ステップS201)、ステップS202の処理を実行する。ステップS202において、キーコンテンツペア復元部212は、メモリ128にキーコンテンツペア情報216が保存されているか否かを判別する。キーコンテンツペア情報216が保存されていない場合、キーコンテンツペア復元部212は、ディスプレイ120に、装置起動後の規定の初期画面(例えばメニュー画面等)を表示し(ステップS211)、処理を終了する。
一方、ステップS202においてキーコンテンツペア情報216が保存されている場合、キーコンテンツペア復元部212は、装置起動時のカメラ111の画像に基づき、候補キー抽出部210に候補キー(E’)を抽出させる(ステップS203)。続いて、キーコンテンツペア復元部212は、メモリ128から、キーコンテンツペア情報216内の登録キー(E)を順次読み出しながら(ステップS204)、当該登録キー(E)とステップS203で抽出された候補キー(E’)(言い換えればカメラ画像)との適合有無を判別する(ステップS205)。
ステップS205において適合無しの場合、キーコンテンツペア復元部212は、ステップS211において規定の初期画面を表示し、処理を終了する。一方、ステップS205において適合有りの場合、キーコンテンツペア復元部212は、キーコンテンツペア情報216に基づき、適合した登録キー(E)に対応するコンテンツの状態を取得する(ステップS206)。そして、キーコンテンツペア復元部212は、装置終了時設定や初期設定に基づいて(ステップS207,S208)、対応するコンテンツを起動するか(ステップS209)、または、加えて当該コンテンツ上の実行状態を復元し(ステップS210)、処理を終了する。
この例では、図2の説明で述べたようなコンテンツの種別を復元するか、またはコンテンツ上の実行状態を復元するかを、装置終了時にユーザに任意に選択させるか(ステップS207)、または、コンテンツ毎に初期設定で固定的に定めることが可能となっている(ステップS208)。これらの装置終了時の情報または初期設定時の情報は、メモリ128に保存される。例えば、動画再生コンテンツの場合、動画を最初から再生させるか、動画を中断箇所から再生させるかを、装置終了時にユーザが任意に選択することも、初期設定で固定的に定めることも可能となっている。なお、この定め方は、特に、装置終了時のユーザ設定、または初期設定に限定されず、様々な方法を用いることができる。
図5は、図2におけるキーコンテンツペア情報の構成例を示す概略図である。図6(a)、図6(b)および図6(c)は、図5に対応するヘッドマウント情報処理装置の使用状況の一例を示す模式図であり、図7(a)、図7(b)および図7(c)は、図5に対応するヘッドマウント情報処理装置の使用状況の他の一例を示す模式図である。
図6(a)において、HMD100を装着したユーザ601は、図6(c)に示されるように、HMD100の動画再生コンテンツ604を用いて映画「山登り」を鑑賞し、その途中である再生時間「1:10:15」で時計602方向を向きながらHMD100に装置終了を指示する(例えば電源をオフにする)。この際に、カメラ111は、図6(b)に示されるように、時計602を撮像している。一方、図7(a)において、HMD100を装着したユーザ601は、HMD100の書類作成コンテンツ605を用いて書類作成を行い、その書類ファイルをセーブしたのちカレンダー603方向を向きながらHMD100に装置終了を指示する。この際に、カメラ111は、図7(b)に示されるように、カレンダー603を撮像している。
その結果、図5のキーコンテンツペア情報216aは、コンテンツの状態(コンテンツ上の実行状態)である映画「山登り」における再生時間「1:10:15」を、登録キーである時計602に対応付けて保存する。また、図5のキーコンテンツペア情報216aは、コンテンツの状態(コンテンツ上の実行状態)である書類作成コンテンツ605上の書類ファイルを、登録キーであるカレンダー603に対応付けて保存する。
これにより、その後、ユーザ601が、HMD100を装着し、時計602の方向を向きながら装置起動を指示すると(例えば電源をオンにすると)、HMD100は、映画「山登り」を再生時間「1:10:15」から自動的に再生する。その結果、ユーザ601は、特に選択操作を行うことなく、映画鑑賞を前回の続きから再開することができる。また、ユーザ601が、HMD100を装着し、カレンダー603の方向を向きながら装置起動を指示すると、HMD100は、書類作成コンテンツ605上の所定の書類ファイルを自動的に起動する。その結果、ユーザ601は、特に選択操作を行うことなく、書類作成を前回の続きから再開することができる。
なお、ここでは、説明の簡素化のため、時計602およびカレンダー603が登録キーに定められたが、実用上は、例えば、リビングに設けられるソファーや書斎に設けられる本棚等が登録キーに定められてもよい。具体的な使用例として、ユーザが、リビングでHMD100を用いて映画を途中まで鑑賞し、その後、書斎でHMD100を用いて書類作成を途中まで行った場合を想定する。この場合、その後、ユーザが、リビングでソファーを見ながらHMD100を起動した場合、映画の続きが自動的に再生され、書斎で本棚を見ながらHMD100を起動した場合、続きの書類作成を行える環境が自動的に構築される。
ここで、キーコンテンツペア情報登録部211によって定められる登録キーとして、例えば、カメラ111の画像全体をそのまま用いる方式や、または、カメラ111の画像の中心部に含まれる1個のオブジェクトを検出して用いる方式等が挙げられる。前述した図5、図6、図7の例では、後者の方式が用いられる。後者の方式の場合、キーコンテンツペア情報登録部211は、例えば、候補キー抽出部210に、装置終了時のカメラ画像全体の中から単数または複数のオブジェクトを候補キーとして抽出させる。そして、キーコンテンツペア情報登録部211は、抽出された単数または複数のオブジェクト(候補キー)の中からカメラ画像の中心部に含まれる1個のオブジェクトを登録キーに定め、キーコンテンツペア情報216として保存する。
この際に、候補キー抽出部210は、エッジ検出、コーナー検出を代表とする画像処理や、または人工知能(AI)を用いた画像処理等を行うことで、カメラ画像全体に含まれる単数または複数のオブジェクトの情報(例えば、その形状、種類、特徴点等)を抽出する。この抽出された単数または複数のオブジェクトの情報(形状、種類、特徴点等)の中の1個のオブジェクトの情報が登録キーとなる。また、後者の方式の場合、キーコンテンツペア復元部212は、例えば、候補キー抽出部210に、装置起動時のカメラ画像全体の中から単数または複数の候補キー(この例ではオブジェクトの情報)を抽出させる。そして、キーコンテンツペア復元部212は、例えば、抽出された単数または複数の候補キー(言い換えればカメラ画像)の中に登録キーが含まれる場合には適合有りと判別し、登録キーが含まれない場合には適合無しと判別する。
一方、前者の方式の場合、キーコンテンツペア復元部212は、例えば、登録キーとして保存されたカメラ画像全体と、装置起動時に撮像されたカメラ画像全体(言い換えれば1個の候補キー)とを比較し、その一致率が基準値以上か否かによって候補キーと登録キーとの適合有無を判別する。この場合、処理の容易化等が図れるが、特にカメラ画像の縮尺等の影響で適合有無の判別結果の精度が低下する恐れがある。したがって、適合有無の判別結果の精度の観点では、後者の方式を用いる方が望ましい。
《キーの各種変形例》
図8(a)および図8(b)は、図2におけるキーコンテンツペア情報の他の構成例を示す概略図である。図8(a)には、登録キーとして、カメラ111の画像の代わりに図2の各種センサ201の検出結果を用いる例が示される。図8(b)には、登録キーとして、カメラ111の画像と各種センサ201の検出結果との組み合わせを用いる例が示される。
図8(a)に示すキーコンテンツペア情報216bでは、頭から外した状態での電源のオン/オフが可能なHMD100を例として、登録キーが、図2のキー設定情報215に基づきHMD100の姿勢(例えば、裏返し、右下置等)に設定される。例えば、ユーザは、HMD100を裏返しにした状態で電源をオンにすると、HMD100は、映画「山登り」を自動的に再生する。HMD100の姿勢は、例えば、ジャイロセンサ123、地磁気センサ124等によって検知され、その検知結果となるセンサ出力値等がキー(候補キーおよび登録キー)となる。
図8(b)に示すキーコンテンツペア情報216cでは、登録キーが、HMD100の姿勢(例えば、裏返し)とカメラ画像(例えば、時計)との組み合わせに設定される。例えば、ユーザは、HMD100を裏返しにし、この状態でカメラ111の方向を時計に向けて電源をオンにすると、HMD100は、映画「山登り」を自動的に再生する。一方、ユーザは、HMD100の右側に下にし、この状態でカメラ111の方向を時計に向けて電源をオンにすると、HMD100は、書類ファイルを自動的に起動する。このように、カメラ画像とセンサ検出結果との組み合わせを用いると、使用可能な登録キーの数を増やすことや、または、キーの適合有無の判別に伴う確実性(精度)を高めることが可能になる。
図9(a)および図9(b)は、図2において、ユーザによる登録キーの使用例を説明する図である。特に、ユーザ601がHMD100上でVRのコンテンツを使用する場合、現実の視野が全て遮断されるため、HMD100を外した際にどこを向いていたかが印象に残り難い場合がある。そこで、例えば、装置終了時にユーザ601が向いていた壁の方向を登録キーとすることで、登録キーの有効範囲を拡大することができる。
図9(a)および図9(b)の例では、部屋の4面の壁のいずれかが登録キーに定められる。これにより、ユーザ601は、細かい方向を気にせずに、4面の壁のいずれかを大まかに向いた状態でHMD100を外し、その壁の方向を記憶することで、登録キーを定めることができる。その結果、ユーザ601による登録キーの取り扱いが容易となる。また、4面の壁のそれぞれを上半分、下半分等で細分化すれば、扱い易さを保ちつつ、キーの数を増やすことも可能である。
なお、このような方式を用いる場合、登録キーは、例えば、地磁気センサ124等の検知結果となるセンサ出力値に基づいて定められる。ただし、この際には、例えば、北東~北西の範囲(すなわち所定のセンサ出力値範囲)が壁V、北西~南西の範囲が壁Wといったように、登録キーは、ある程度の有効範囲を有する。装置起動時に、候補キー抽出部210を介してセンサ出力値(候補キー)が得られると、このセンサ出力値(候補キー)とセンサ出力値範囲(登録キー)との適合有無が判別される。センサ出力値範囲(登録キー)内にセンサ出力値(候補キー)が含まれる場合、当該センサ出力値範囲(登録キー)が適合有りとなる。
図10(a)は、図2において、ユーザによる登録キーの他の使用例を説明する図であり、図10(b)は、図10(a)に対応するキーコンテンツペア情報の構成例を示す概略図である。図10(a)および図10(b)の例では、登録キーとして、カメラ画像の代わりに、図2の通信インタフェース151による受信データが用いられる。具体的には、当該受信データは、例えば、ビーコンの識別情報である。通信インタフェース151は、前述したように近距離無線通信を行う。
一般的に、近距離無線通信を行う装置は、自装置の識別情報を含むビーコンを定期的に出力する。例えば、無線LANのアクセスポイント装置は、ビーコンの識別情報としてSSID(Service Set IDentifier)を定期的に出力する。そこで、HMD100は、通信インタフェース151を介してビーコンの識別情報を受信することで、当該ビーコンの識別情報を用いて登録キーを定めることができる。
図10(a)において、ユーザ601は、アクセスポイント装置1001からのSSID#1の受信エリア内で、HMD100を用いてコンテンツAを実行し、その途中でHMD100に対して装置終了を指示する。その後、ユーザ601は、場所を移動し、アクセスポイント装置1002からのSSID#2の受信エリア内で、HMD100を用いてコンテンツBを実行し、その途中でHMD100に対して装置終了を指示する。
その結果、図10(b)のキーコンテンツペア情報216dは、コンテンツAと登録キーであるSSID#1との対応関係と、コンテンツBと登録キーであるSSID#2との対応関係を含む。その後、ユーザ601がSSID#1の受信エリア内でHMD100を起動すると、キーコンテンツペア復元部212は、候補キー抽出部210によって抽出される候補キー(ここでは、通信インタフェース151による受信データ“SSID#1”)と図10(b)に保存される登録キーとの適合有無を判別する。この場合、登録キー“SSID#1”が適合有りとなるため、キーコンテンツペア復元部212は、対応するコンテンツAを自動的に起動する。同様に、ユーザ601がSSID#2の受信エリア内でHMD100を起動すると、キーコンテンツペア復元部212は、コンテンツBを自動的に起動する。
このように、場所毎にそれぞれ異なるビーコン発信機(図10(a)の例ではアクセスポイント装置)が設置される場合、ユーザ601は、HMD100を起動した場所に応じて、異なるコンテンツの状態を復元されることができる。場所の単位としては、例えば、部屋単位や、建物単位や、地区単位等が挙げられる。また、このように場所毎にビーコン発信機が設置される場合の他に、ユーザ自身がビーコン発信機を持ち運ぶ場合にも適用できる。この場合、ビーコン発信機を所持したユーザが、あるコンテンツの状態でHMDを終了した場合、その後、同じビーコン発信機を所持した同じまたは異なるユーザがHMDを起動すると、当該終了時のコンテンツの状態が復元される。
また、ここでは、登録キーとして、通信インタフェース151による受信データを用いたが、場合によっては、それにカメラ111の画像や、または各種センサ201の検知結果を組み合わせることも可能である。例えば、カメラ111の画像を組み合わせる場合、同じような内装の部屋であっても、部屋自体が異なればビーコンの識別情報によって登録キーを区別することができ、その上で、部屋毎に、カメラ111の画像によって登録キーを区別することができる。
その他の登録キーの使用例として、ユーザが、再生するコンテンツのパッケージをカメラによって撮像した状態でHMDに装置終了を指示し、次回、当該パッケージをカメラによって撮像できる状態でHMDに装置起動を指示する方法が挙げられる。また、右目視線検出器112および左目視線検出器113で検知した視線の位置を登録キーにする方法が挙げられる。例えば、ユーザは、所定のコンテンツを再生中に画面右上を見た状態で装置終了を指示した場合、次回、画面右上を見た状態で装置起動を指示すれば当該所定のコンテンツを自動的に再生できる。さらに、HMD100がGPS受信機を備える場合、GPS情報を登録キーに定めることも可能である。
《HMDを複数ユーザで使用する場合の対処》
HMD100を複数ユーザで使用する場合、例えば、カメラ111の画像と各種センサ201の検知結果との組み合わせを登録キーとすることで、ユーザ毎に独立して登録キーを定めることができる。具体的には、各種センサ201として、例えば、虹彩または網膜等を代表とするユーザの生体情報を検知する生体センサ129を用いればよい。また、場合によっては、生体センサ129で取得した血流、脈波等のパターンからユーザを区別したり、加速度センサ122またはジャイロセンサ123によって検知可能な装着時の癖によってユーザを区別することも可能である。
《実施の形態1の主要な効果》
以上、実施の形態1のヘッドマウント情報処理装置(HMD)を用いることで、代表的には、ユーザの利便性を向上させることが可能になる。具体的には、ユーザは、リモコン等による選択操作の手間を経ずに、HMDを前回の終了時の状態から引き継いで使用することが可能になる。また、この際に、HMDは、例えば、映画鑑賞、書類作成の後に書類作成を引き継ぐといったように、前回の終了時の状態をそのまま引き継ぐのではなく、映画鑑賞、書類作成の後に映画鑑賞を引き継ぐといったように、登録キーによってコンテンツを区別しながら前回の終了時の状態を引き継ぐことができる。さらに、ユーザは、選択操作といった余計な操作を行うことなく前回の終了時の状態を引き継げるため、コンテンツへの没入感を持続することが可能になる。
(実施の形態2)
《所望のコンテンツが起動されない場合の対処》
図11は、本発明の実施の形態2によるヘッドマウント情報処理装置において、図2のキーコンテンツペア復元部の動作例を説明する図である。前述した実施の形態1では、登録キーが適合有りの場合、所望のコンテンツが起動されることを前提としたが、キーの適合有無の判別精度や、ユーザによる登録キーの勘違い等に応じて、場合によっては、間違ったコンテンツが起動される場合がある。そこで、キーコンテンツペア復元部212は、コンテンツの状態を復元したのち、所定期間内にユーザからキャンセル指示を受けたか否かを判別し、キャンセル指示を受けた場合には、現在のコンテンツを終了して、ディスプレイ(表示部)120に装置起動後の規定の初期画面を表示する。
図11の例では、HMD100は、装置起動時に、ユーザ601によってコンテンツ1の起動が期待された状態で、コンテンツ2を起動している。そこで、ユーザ601は、その後の所定期間内に、例えば、首を横に振ること等によってキャンセル指示を発行する。キーコンテンツペア復元部212は、このキャンセル指示を受けて、ディスプレイ(表示部)120に、装置起動後の規定の初期画面(例えば、メニュー画面等)を表示する。なお、首を横に振る動作は、ジャイロセンサ123によって検知される。
キャンセル指示の方法は、勿論、これに限らず、例えば、リモコンのキャンセルボタン等を含めて様々な方法を用いることができる。また、キーコンテンツペア復元部212は、ここでは、規定の初期画面を表示したが、場合によっては、キーコンテンツペア情報216に登録されているコンテンツを順番に再生し、その都度、ユーザによるキャンセル指示の有無を判別するような方法を用いてもよい。
《実施の形態2の主要な効果》
以上、実施の形態2のヘッドマウント情報処理装置(HMD)を用いることで、実施の形態1で述べた各種効果に加えて、間違ったコンテンツが起動された場合にも対処することができ、ユーザの利便性を向上させることが可能になる。
(実施の形態3)
《複数の登録キーが適合した場合の対処》
図12(a)、図12(b)、図12(c)および図12(d)は、本発明の実施の形態3によるヘッドマウント情報処理装置において、図2のキーコンテンツペア復元部の動作例を説明する図である。ここでは、メモリ128に、図5に示したようなキーコンテンツペア情報216aが保存されている場合を想定する。図12(a)および図12(b)において、HMD100を装置したユーザ601は、カメラ111によって時計602およびカレンダー603の両方が撮像される状態で装置起動を指示している。
この場合、キーコンテンツペア復元部212は、候補キー抽出部210を用いて、時計602とカレンダー603の両方のオブジェクトを候補キーとして抽出する。この両方の候補キーは、図5のキーコンテンツペア情報216aに示されるように、登録キーとしてメモリ128に保存されている。このように、装置起動時のカメラ111の画像の中に登録キーが複数含まれる場合、キーコンテンツペア復元部212は、図12(c)または図12(d)に示されるように、ディスプレイ(表示部)120に、コンテンツの選択画面を表示する。この選択画面は、複数の登録キーに対応する複数のコンテンツの状態の中のいずれか一つをユーザに選択させるための画面であり、例えば、各コンテンツのサムネイル等を表示する画面である。
これにより、装置終了時のカメラ画像と装置起動時のカメラ画像との間に、位置ズレまたは縮尺ズレ等がある程度生じた場合であっても、ユーザ601は、所望のコンテンツを確実に起動することができる。なお、選択画面におけるユーザの選択方法として、リモコン等で操作を行う方法の他に、例えば、頭または目線を指定時間向ける方法や、あるいは、頭または目線を向けながらリモコン等の決定ボタン等を押す方法等が挙げられる。頭または目線の方向は、ジャイロセンサ123、地磁気センサ124や、または各視線検出器(112,113)によって検知される。
また、図12の方式によって、ユーザ601が登録キーを明確に憶えていないような場合に対処することも可能になる。具体的には、例えば、選択画面上でユーザ601による選択操作が行われない場合、キーコンテンツペア復元部212は、ユーザ601による周辺を見回す動作(ひいてはカメラ画像の変化)に連動して、各カメラ画像と登録キーとの適合有無を逐次判別する。そして、キーコンテンツペア復元部212は、カメラ画像毎に、図12(d)に示されるような選択画面を逐次表示する。なお、場合によっては、図12の方式を利用して、例えば、装置起動時にコンテンツを自動的に起動するのではなく、常に、図12(d)に示されるような選択画面を表示し、ユーザに選択させるような方式を用いてもよい。
図13(a)、図13(b)、図13(c)および図13(d)は、本発明の実施の形態3によるヘッドマウント情報処理装置において、図2のキーコンテンツペア復元部の他の動作例を説明する図である。図13(c)および図13(d)では、図12(c)および図12(d)の場合と異なり、選択画面上の各コンテンツのサムネイルに重み付けがなされている。
具体的には、キーコンテンツペア復元部212は、装置起動時のカメラ111の画像の中で、より中心部に近い登録キーに大きな重み付けを行うことで、重み付けが行われた選択画面を表示する。重み付けの方法としては、図13(c)に示されるように、重み付けが大きい登録キーほど、対応するサムネイルを大きく表示する方法や、図13(d)に示されるように、重み付けが大きい登録キーほど対応するサムネイルを前面に表示する方法等が挙げられる。
《実施の形態3の主要な効果》
以上、実施の形態3のヘッドマウント情報処理装置(HMD)を用いることで、実施の形態1で述べた各種効果に加えて、複数の登録キーが適合した場合にも対処することができ、ユーザの利便性を向上させることが可能になる。また、ユーザは、ある程度近接したオブジェクトを登録キーに定めることができるため、登録キーを定める際の制約を緩和でき、ユーザの利便性を向上させることが可能になる。
(実施の形態4)
《登録キーの記憶補助》
特に、非透過型のVR用のHMD100を用いた場合、ユーザは、装置終了時にどの方向を向いているか(言い換えれば、カメラ111の撮像方向)を記憶し難い場合がある。そこで、図2のキーコンテンツペア情報登録部211は、装置終了時に、カメラ111の画像を、一定時間、ディスプレイ120に表示してもよい。これにより、ユーザは、登録キーを鮮明に記憶できるようになる。
具体的には、キーコンテンツペア情報登録部211は、例えば、ディスプレイ120に、コンテンツ実行部206による画像とカメラ111の画像とを交互に数回表示する等、双方の画像を短期間に連続して表示する。これにより、ユーザは、双方の画像の関連性について強い印象を持ち、登録キーをより鮮明に記憶できるようになる。また、この際に、ユーザは、ディスプレイ120にカメラ111の画像が表示された後に、頭を動かすことで、登録キーに定めるオブジェクトを明確に選択することができる。
《実施の形態4の主要な効果》
以上、実施の形態4のヘッドマウント情報処理装置(HMD)を用いることで、実施の形態1で述べた各種効果に加えて、ユーザが登録キーを記憶する際の補助を行えるようになるため、ユーザの利便性を向上させることが可能になる。
(実施の形態5)
《ヘッドマウント情報処理装置の概略》
図14は、本発明の実施の形態5によるヘッドマウント情報処理装置周りの概略構成例を示すブロック図である。図14には、図1に示したようなヘッドマウント情報処理装置(HMD)100に加えて、当該HMD100に通信ネットワーク910を介して接続されるサーバ装置902が示される。サーバ装置902は、バス920を介して相互に接続される通信インタフェース903、CPU905およびメモリ908を備える。通信インタフェース903は、アンテナ904および通信ネットワーク910を介してHMD100の通信インタフェース151と通信を行う。メモリ908には、プログラム906および情報データ907が保存される。
ここで、図2に示したHMD100内のキーコンテンツペア情報登録部211は、イベント発生時に、生成したキーコンテンツペア情報216を通信インタフェース151を介して装置外部のサーバ装置902へ送信し、サーバ装置902のメモリ908に保存する。一方、キーコンテンツペア復元部212は、装置起動時に、通信インタフェース151を介してサーバ装置902からキーコンテンツペア情報216を取得し、自装置のメモリ128に保存する。
《実施の形態5の主要な効果》
以上、実施の形態5のヘッドマウント情報処理装置(HMD)を用いることで、実施の形態1で述べた各種効果に加えて、ユーザの利便性を更に向上させることが可能になる。具体的には、キーコンテンツペア情報216がサーバ装置902上に保存されているため、ユーザは、例えば、同一機種の別のHMD100を用いた場合であっても、登録キーを使用することが可能になる。
なお、HMD100の各種コンテンツに対応するプログラムの保存先は、自装置のメモリ128に限らず、サーバ装置902のメモリ908であってもよい。この場合、HMD100は、所望のプログラム906を、適宜、ストリーミングやダウンロードによってサーバ装置902から取得する。これにより、例えば、HMD100のメモリ容量を削減すること等が可能になる。
なお、本発明は上記した実施の形態に限定されるものではなく、様々な変形例が含まれる。例えば、上記した実施の形態は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施の形態の構成の一部を他の実施の形態の構成に置き換えることが可能であり、また、ある実施の形態の構成に他の実施の形態の構成を加えることも可能である。また、各実施の形態の構成の一部について、他の構成の追加・削除・置換をすることが可能である。
また、上記の各構成、機能、処理部、処理手段等は、それらの一部又は全部を、例えば集積回路で設計する等によりハードウエアで実現してもよい。また、上記の各構成、機能等は、プロセッサがそれぞれの機能を実現するプログラムを解釈し、実行することによりソフトウエアで実現してもよい。各機能を実現するプログラム、テーブル、ファイル等の情報は、メモリや、ハードディスク、SSD(Solid State Drive)等の記録装置、または、ICカード、SDカード、DVD等の記録媒体に置くことができる。
また、制御線や情報線は説明上必要と考えられるものを示しており、製品上必ずしも全ての制御線や情報線を示しているとは限らない。実際には殆ど全ての構成が相互に接続されていると考えてもよい。
100:ヘッドマウント情報処理装置(HMD)、111:カメラ、112:右目視線検出器、113:左目視線検出器、114:振動発生器、115:刺激発生器、116:外周音マイク、117:発生音マイク、118:ヘッドフォン、119:操作入力インタフェース、120:ディスプレイ(表示部)、121:深度センサ、122:加速度センサ、123:ジャイロセンサ、124:地磁気センサ、125:CPU、126:プログラム、127:情報データ、128:メモリ、129:生体センサ、132:近接センサ、140:バス、150:アンテナ、151:通信インタフェース、201:各種センサ、205:コンテンツ制御部、206:コンテンツ実行部、210:候補キー抽出部、211:キーコンテンツペア情報登録部、212:キーコンテンツペア復元部、215:キー設定情報、216:キーコンテンツペア情報、601:ユーザ、602:時計、603:カレンダー、604:動作再生コンテンツ、605:書類作成コンテンツ、902:サーバ装置、903:通信インタフェース、904:アンテナ、905:CPU、906:プログラム、907:情報データ、908:メモリ、910:通信ネットワーク、920:バス、1001,1002:アクセスポイント装置。

Claims (17)

  1. ユーザの頭部に装着された状態でユーザに各種情報を視覚を介して提供するヘッドマウント情報処理装置であって
    置外部の画像を撮像するカメラと、
    メモリと、
    コンテンツを実行するコンテンツ実行部と
    前記コンテンツ実行部で実行されたコンテンツに伴う画像を表示する表示部と、
    記コンテンツ実行部を制御するコンテンツ制御部と、
    を備え、
    前記コンテンツ制御部は、
    前記ユーザからの指示を受けた時または装置終了時であるイベント発生時、前記イベント発生時の前記コンテンツの状態を、前記イベント発生時の前記カメラの画像から得られる登録キーに対応付け、キーコンテンツペア情報として前記メモリに保存するキーコンテンツペア情報登録部と、
    装置起動時、前記キーコンテンツペア情報に基づいて、前記装置起動時の前記カメラの画像と前記登録キーとの適合有無を判別し、適合有りの場合、適合した前記登録キーに対応する前記コンテンツの状態を復元するキーコンテンツペア復元部と、
    を有する、
    ヘッドマウント情報処理装置。
  2. 請求項1記載のヘッドマウント情報処理装置において、
    前記キーコンテンツペア情報登録部は、前記イベント発生時の前記コンテンツの状態として、前記イベント発生時に実行している前記コンテンツの種別を前記メモリに保存し、
    前記キーコンテンツペア復元部は、前記登録キーに対応する前記コンテンツを起動する、
    ヘッドマウント情報処理装置。
  3. 請求項2記載のヘッドマウント情報処理装置において、
    前記キーコンテンツペア情報登録部は、前記イベント発生時の前記コンテンツの状態として、前記イベント発生時に実行している前記コンテンツの種別に加えて前記コンテンツ上の実行状態を前記メモリに保存し、
    前記キーコンテンツペア復元部は、前記登録キーに対応する前記コンテンツを起動することに加えて前記コンテンツ上の実行状態を復元する、
    ヘッドマウント情報処理装置。
  4. 請求項1記載のヘッドマウント情報処理装置において、
    前記キーコンテンツペア復元部は、前記コンテンツの状態を復元したのち所定期間内に前記ユーザからのキャンセル指示を受けた場合、前記表示部に、装置起動後の規定の初期画面を表示する、
    ヘッドマウント情報処理装置。
  5. 請求項1記載のヘッドマウント情報処理装置において、
    前記キーコンテンツペア情報登録部は、前記登録キーとして、前記イベント発生時の前記カメラの画像の中心部に含まれる1個のオブジェクトの情報を前記メモリに保存し、
    前記キーコンテンツペア復元部は、前記装置起動時の前記カメラの画像の中に前記登録キーが複数含まれる場合、前記表示部に、前記複数の登録キーに対応する複数の前記コンテンツの状態の中のいずれか一つを前記ユーザに選択させるための選択画面を表示する、
    ヘッドマウント情報処理装置。
  6. 請求項5記載のヘッドマウント情報処理装置において、
    前記キーコンテンツペア復元部は、前記装置起動時の前記カメラの画像の中で、より中心部に近い前記登録キーに大きな重み付けを行うことで、重み付けが行われた前記選択画面を表示する、
    ヘッドマウント情報処理装置。
  7. 請求項1記載のヘッドマウント情報処理装置において、
    さらに、各種状態を検知するセンサを備え、
    前記コンテンツ制御部は、前記登録キーとして、前記カメラの画像と前記センサの検出結果との組み合わせを用いる、
    ヘッドマウント情報処理装置。
  8. 請求項7記載のヘッドマウント情報処理装置において、
    前記センサは、前記ユーザの生体情報を検知する生体センサである、
    ヘッドマウント情報処理装置。
  9. 請求項7記載のヘッドマウント情報処理装置において、
    前記センサは、前記ヘッドマウント情報処理装置の姿勢を検知するセンサである、
    ヘッドマウント情報処理装置。
  10. 請求項1記載のヘッドマウント情報処理装置において、
    さらに、装置外部と無線通信を行う通信インタフェースを備え、
    前記キーコンテンツペア情報登録部は、前記イベント発生時に前記キーコンテンツペア情報を前記通信インタフェースを介して装置外部のサーバ装置に保存し、
    前記キーコンテンツペア復元部は、前記装置起動時に、前記通信インタフェースを介して前記サーバ装置から前記キーコンテンツペア情報を取得する、
    ヘッドマウント情報処理装置。
  11. ユーザの頭部に装着された状態でユーザに各種情報を視覚を介して提供するヘッドマウント情報処理装置であって
    種状態を検知するセンサと、
    メモリと、
    コンテンツを実行するコンテンツ実行部と、
    前記コンテンツ実行部で実行されたコンテンツに伴う画像を表示する表示部と、
    記コンテンツ実行部を制御するコンテンツ制御部と、
    を備え、
    前記コンテンツ制御部は、
    前記ユーザからの指示を受けた時または装置終了時であるイベント発生時、前記イベント発生時の前記コンテンツの状態を、前記イベント発生時の前記センサの検出結果から得られる登録キーに対応付け、キーコンテンツペア情報として前記メモリに保存するキーコンテンツペア情報登録部と、
    装置起動時、前記キーコンテンツペア情報に基づいて、前記装置起動時の前記センサの検出結果と前記登録キーとの適合有無を判別し、適合有りの場合、適合した前記登録キーに対応する前記コンテンツの状態を復元するキーコンテンツペア復元部と、
    を有し、
    前記センサは、前記ヘッドマウント情報処理装置の姿勢を検知するセンサである、
    ヘッドマウント情報処理装置。
  12. 請求項11記載のヘッドマウント情報処理装置において、
    前記キーコンテンツペア情報登録部は、前記イベント発生時の前記コンテンツの状態として、前記イベント発生時に実行している前記コンテンツの種別を前記メモリに保存し、
    前記キーコンテンツペア復元部は、前記登録キーに対応する前記コンテンツを起動する、
    ヘッドマウント情報処理装置。
  13. 請求項12記載のヘッドマウント情報処理装置において、
    前記キーコンテンツペア情報登録部は、前記イベント発生時の前記コンテンツの状態として、前記イベント発生時に実行している前記コンテンツの種別に加えて前記コンテンツ上の実行状態を前記メモリに保存し、
    前記キーコンテンツペア復元部は、前記登録キーに対応する前記コンテンツを起動することに加えて前記コンテンツ上の実行状態を復元する、
    ヘッドマウント情報処理装置。
  14. ユーザの頭部に装着された状態でユーザに各種情報を視覚を介して提供するヘッドマウント情報処理装置であって
    装置外部の画像を撮像するカメラと、
    モリと、
    装置外部と無線通信を行う通信インタフェースと、
    コンテンツを実行するコンテンツ実行部と、
    前記コンテンツ実行部で実行されたコンテンツに伴う画像を表示する表示部と、
    前記コンテンツ実行部を制御するコンテンツ制御部と、
    を備え、
    前記コンテンツ制御部は、
    前記ユーザからの指示を受けた時または装置終了時であるイベント発生時、前記イベント発生時の前記コンテンツの状態を、前記イベント発生時の前記通信インタフェースによる受信データから得られる登録キーに対応付け、キーコンテンツペア情報として前記メモリに保存するキーコンテンツペア情報登録部と、
    装置起動時、前記キーコンテンツペア情報に基づいて、前記装置起動時の前記通信インタフェースによる受信データと前記登録キーとの適合有無を判別し、適合有りの場合、適合した前記登録キーに対応する前記コンテンツの状態を復元するキーコンテンツペア復元部と、
    を有し、
    前記登録キーとして、前記通信インタフェースによる受信データと前記カメラの画像との組み合わせを用いる、
    ヘッドマウント情報処理装置。
  15. 請求項14記載のヘッドマウント情報処理装置において、
    前記キーコンテンツペア情報登録部は、前記イベント発生時の前記コンテンツの状態として、前記イベント発生時に実行している前記コンテンツの種別を前記メモリに保存し、
    前記キーコンテンツペア復元部は、前記登録キーに対応する前記コンテンツを起動する、
    ヘッドマウント情報処理装置。
  16. 請求項15記載のヘッドマウント情報処理装置において、
    前記キーコンテンツペア情報登録部は、前記イベント発生時の前記コンテンツの状態として、前記イベント発生時に実行している前記コンテンツの種別に加えて前記コンテンツ上の実行状態を前記メモリに保存し、
    前記キーコンテンツペア復元部は、前記登録キーに対応する前記コンテンツを起動することに加えて前記コンテンツ上の実行状態を復元する、
    ヘッドマウント情報処理装置。
  17. 請求項14記載のヘッドマウント情報処理装置において、
    前記通信インタフェースによる受信データは、ビーコンの識別情報である、
    ヘッドマウント情報処理装置。
JP2021513070A 2019-04-09 2019-04-09 ヘッドマウント情報処理装置 Active JP7286760B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2023085365A JP7425245B2 (ja) 2019-04-09 2023-05-24 ヘッドマウント情報処理装置およびヘッドマウント情報処理装置の制御方法
JP2024006036A JP2024050643A (ja) 2019-04-09 2024-01-18 ヘッドマウント情報処理装置およびヘッドマウント情報処理装置の制御方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2019/015501 WO2020208717A1 (ja) 2019-04-09 2019-04-09 ヘッドマウント情報処理装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2023085365A Division JP7425245B2 (ja) 2019-04-09 2023-05-24 ヘッドマウント情報処理装置およびヘッドマウント情報処理装置の制御方法

Publications (2)

Publication Number Publication Date
JPWO2020208717A1 JPWO2020208717A1 (ja) 2020-10-15
JP7286760B2 true JP7286760B2 (ja) 2023-06-05

Family

ID=72751889

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2021513070A Active JP7286760B2 (ja) 2019-04-09 2019-04-09 ヘッドマウント情報処理装置
JP2023085365A Active JP7425245B2 (ja) 2019-04-09 2023-05-24 ヘッドマウント情報処理装置およびヘッドマウント情報処理装置の制御方法
JP2024006036A Pending JP2024050643A (ja) 2019-04-09 2024-01-18 ヘッドマウント情報処理装置およびヘッドマウント情報処理装置の制御方法

Family Applications After (2)

Application Number Title Priority Date Filing Date
JP2023085365A Active JP7425245B2 (ja) 2019-04-09 2023-05-24 ヘッドマウント情報処理装置およびヘッドマウント情報処理装置の制御方法
JP2024006036A Pending JP2024050643A (ja) 2019-04-09 2024-01-18 ヘッドマウント情報処理装置およびヘッドマウント情報処理装置の制御方法

Country Status (4)

Country Link
US (2) US12019937B2 (ja)
JP (3) JP7286760B2 (ja)
CN (1) CN113728621A (ja)
WO (1) WO2020208717A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114999030A (zh) * 2022-05-25 2022-09-02 杭州萤石软件有限公司 解锁方法、系统、电子设备及存储介质

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007037148A1 (ja) 2005-09-29 2007-04-05 Nikon Corporation コンテンツ再生システム
JP2007259343A (ja) 2006-03-24 2007-10-04 Toshiba Corp 再生制御装置および再生制御方法
JP2009182473A (ja) 2008-01-29 2009-08-13 Kyocera Corp コンテンツ再生装置
JP2009229859A (ja) 2008-03-24 2009-10-08 Nikon Corp ヘッドマウントディスプレイ装置
JP2010062903A (ja) 2008-09-04 2010-03-18 Casio Comput Co Ltd 画像再生装置、撮像装置及びプログラム
JP2016115329A (ja) 2015-05-22 2016-06-23 株式会社コロプラ ヘッドマウントディスプレイシステム、ヘッドマウントディスプレイへ表示するための方法、及びプログラム
JP2018195110A (ja) 2017-05-18 2018-12-06 株式会社プランネット・アソシエイツ アプリケーション層マルチキャスト配信方法

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000023065A (ja) 1998-06-29 2000-01-21 Dainippon Printing Co Ltd 視線入力付きゴーグル型ディスプレイ
JP2005065214A (ja) 2003-07-30 2005-03-10 Sanyo Electric Co Ltd コンテンツ再生装置
US7599789B2 (en) * 2006-05-24 2009-10-06 Raytheon Company Beacon-augmented pose estimation
US20120212406A1 (en) * 2010-02-28 2012-08-23 Osterhout Group, Inc. Ar glasses with event and sensor triggered ar eyepiece command and control facility of the ar eyepiece
US20110239142A1 (en) * 2010-03-25 2011-09-29 Nokia Corporation Method and apparatus for providing content over multiple displays
JP6115728B2 (ja) 2011-01-06 2017-04-19 ティヴォ ソリューションズ インコーポレイテッド ジェスチャに基づく制御方法および装置
KR102247817B1 (ko) * 2014-09-11 2021-05-04 삼성전자 주식회사 락스크린 제공 방법 및 장치
JP5767386B1 (ja) * 2014-12-15 2015-08-19 株式会社コロプラ ヘッドマウントディスプレイシステム、ヘッドマウントディスプレイへ表示するための方法、及びプログラム
KR20170051013A (ko) 2015-11-02 2017-05-11 엘지전자 주식회사 테더링 형 hmd 및 그 hmd의 제어 방법
KR20170059163A (ko) * 2015-11-20 2017-05-30 삼성전자주식회사 전자 장치 및 그의 동작 방법
KR20170060485A (ko) * 2015-11-24 2017-06-01 삼성전자주식회사 표시 모드에 따른 콘텐트를 표시하기 위한 전자 장치 및 방법
US10665020B2 (en) * 2016-02-15 2020-05-26 Meta View, Inc. Apparatuses, methods and systems for tethering 3-D virtual elements to digital content
US10754416B2 (en) * 2016-11-14 2020-08-25 Logitech Europe S.A. Systems and methods for a peripheral-centric augmented/virtual reality environment
US11487353B2 (en) * 2016-11-14 2022-11-01 Logitech Europe S.A. Systems and methods for configuring a hub-centric virtual/augmented reality environment
JP2018129732A (ja) 2017-02-09 2018-08-16 三菱自動車工業株式会社 車両用映像表示装置
KR102330829B1 (ko) * 2017-03-27 2021-11-24 삼성전자주식회사 전자 장치에서 증강현실 기능 제공 방법 및 장치
AU2018261328B2 (en) * 2017-05-01 2022-08-25 Magic Leap, Inc. Matching content to a spatial 3D environment
WO2019079790A1 (en) * 2017-10-21 2019-04-25 Eyecam, Inc ADAPTIVE GRAPHIC USER INTERFACE SYSTEM
JP2019105885A (ja) * 2017-12-08 2019-06-27 セイコーエプソン株式会社 頭部装着型表示装置、情報処理装置、情報処理システム、及び頭部装着型表示装置の制御方法
WO2019143117A1 (en) * 2018-01-18 2019-07-25 Samsung Electronics Co., Ltd. Method and apparatus for adjusting augmented reality content
US11748679B2 (en) * 2019-05-10 2023-09-05 Accenture Global Solutions Limited Extended reality based immersive project workspace creation

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007037148A1 (ja) 2005-09-29 2007-04-05 Nikon Corporation コンテンツ再生システム
JP2007259343A (ja) 2006-03-24 2007-10-04 Toshiba Corp 再生制御装置および再生制御方法
JP2009182473A (ja) 2008-01-29 2009-08-13 Kyocera Corp コンテンツ再生装置
JP2009229859A (ja) 2008-03-24 2009-10-08 Nikon Corp ヘッドマウントディスプレイ装置
JP2010062903A (ja) 2008-09-04 2010-03-18 Casio Comput Co Ltd 画像再生装置、撮像装置及びプログラム
JP2016115329A (ja) 2015-05-22 2016-06-23 株式会社コロプラ ヘッドマウントディスプレイシステム、ヘッドマウントディスプレイへ表示するための方法、及びプログラム
JP2018195110A (ja) 2017-05-18 2018-12-06 株式会社プランネット・アソシエイツ アプリケーション層マルチキャスト配信方法

Also Published As

Publication number Publication date
JP7425245B2 (ja) 2024-01-30
CN113728621A (zh) 2021-11-30
WO2020208717A1 (ja) 2020-10-15
US12019937B2 (en) 2024-06-25
US20240303018A1 (en) 2024-09-12
JP2024050643A (ja) 2024-04-10
JPWO2020208717A1 (ja) 2020-10-15
JP2023111925A (ja) 2023-08-10
US20220137908A1 (en) 2022-05-05

Similar Documents

Publication Publication Date Title
KR102316327B1 (ko) 가상 공간의 캡쳐 방법 및 그 전자장치
CN110544280B (zh) Ar系统及方法
CN110506249B (zh) 信息处理设备、信息处理方法和记录介质
CN112911182B (zh) 游戏互动方法、装置、终端及存储介质
US20240303018A1 (en) Head mounted processing apparatus
JP2021520540A (ja) カメラの位置決め方法および装置、端末並びにコンピュータプログラム
JP6275891B1 (ja) 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置
CN112154047A (zh) 远程操作系统、信息处理方法以及程序
JP7279646B2 (ja) 情報処理装置、情報処理方法及びプログラム
US20210303258A1 (en) Information processing device, information processing method, and recording medium
JP2022505457A (ja) 仮想環境において建築物を建設する方法、装置、機器及びプログラム
JP6627775B2 (ja) 情報処理装置、情報処理方法およびプログラム
CN118103799A (zh) 与远程设备的用户交互
CN109361727B (zh) 信息共享方法、装置、存储介质及穿戴式设备
JP7156301B2 (ja) 情報処理装置、情報処理方法およびプログラム
JP2023065528A (ja) ヘッドマウント情報処理装置およびヘッドマウントディスプレイシステム
WO2021176947A1 (ja) 情報処理装置、及び情報処理方法
WO2019054037A1 (ja) 情報処理装置、情報処理方法、およびプログラム
JP7453369B2 (ja) 情報処理システムおよび情報処理方法
CN111344776B (zh) 信息处理装置、信息处理方法和程序
CN111325083B (zh) 记录考勤信息的方法和装置
WO2018211798A1 (ja) 情報処理装置、情報処理方法およびプログラム
WO2023233488A1 (ja) 情報処理装置および情報処理方法
JP2021140195A (ja) 情報処理装置、情報処理方法およびプログラム
JP7538886B2 (ja) 画像表示装置および画像表示方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210914

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20211022

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220830

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20221026

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221228

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230425

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230524

R150 Certificate of patent or registration of utility model

Ref document number: 7286760

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150