JP2019012536A - 情報提供方法、プログラム、および、情報提供装置 - Google Patents

情報提供方法、プログラム、および、情報提供装置 Download PDF

Info

Publication number
JP2019012536A
JP2019012536A JP2018153740A JP2018153740A JP2019012536A JP 2019012536 A JP2019012536 A JP 2019012536A JP 2018153740 A JP2018153740 A JP 2018153740A JP 2018153740 A JP2018153740 A JP 2018153740A JP 2019012536 A JP2019012536 A JP 2019012536A
Authority
JP
Japan
Prior art keywords
hmd
user
content
image
tag information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2018153740A
Other languages
English (en)
Inventor
元 紅林
Hajime Kurebayashi
元 紅林
星爾 佐竹
Seiji Satake
星爾 佐竹
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Colopl Inc
Original Assignee
Colopl Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Colopl Inc filed Critical Colopl Inc
Priority to JP2018153740A priority Critical patent/JP2019012536A/ja
Publication of JP2019012536A publication Critical patent/JP2019012536A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • User Interface Of Digital Computer (AREA)
  • Processing Or Creating Images (AREA)

Abstract

【課題】ユーザに、検索のための煩雑な操作を実行させることなく、記憶装置に格納されている過去のコンテンツを活用させる技術を提供すること。【解決手段】ユーザAは、ユーザBに以前会ったことがあるような気がするが、そのときの状況を正確には思い出せない。そこで、ユーザAは、HMD400のカメラでユーザBを撮影する(ステップ1)。HMD400は、撮影された画像IMG01に対して顔画像認証処理を実行し、画像IMG01からユーザBの顔画像を識別し、識別結果である「Bさん」を画像IMG01にタグ情報として付与する(ステップ2)。HMD400は、ステップ1で撮影された画像(画像IMG01)に関連付けられたタグ情報「Bさん」を検索キーとしてデータベースを検索し(ステップ3)、検索の結果を報知する(ステップ4)。【選択図】図1

Description

本開示は、情報提供方法、プログラム、および、情報提供装置に関し、より特定的には、タグ情報に関連付けられたコンテンツを扱う情報提供方法、プログラム、および、情報提供装置に関する。
従来、いわゆるライフログの一種として、ユーザが携帯するデジタルカメラが、自動的に、画像等のコンテンツを記憶装置に格納する技術がある。たとえば、非特許文献1は、「散策モード」として、旅先などでユーザが立ち止ったときの風景を自動で撮影する機能を備える製品「ロボホン」(登録商標)を開示している。
「日常のワンシーン、旅や思い出もおまかせ。」、[online]、シャープ株式会社、[平成28年11月4日検索]、インターネット<https://robohon.com/product/point.php?hash=9>
近年、ユーザが使用可能な記憶装置の容量が増えたこと、クラウド技術の進展によってユーザ端末で取得されたデータをサーバ上で保存することが普及したことなどにより、ライフログとして記録される画像等のコンテンツの数が膨大になってきている。スマートフォンのみならず、衣服のポケットに収納可能な大きさのロボット型の携帯端末が様々な事業者により提供されつつあり、コンテンツを生成する端末のバリエーションも増加し続けている。これらロボット型の携帯端末は、携帯端末に搭載されるカメラの撮影画像を画像認識することで人物を特定したうえで、ロボット型の携帯端末からユーザに向けて音声で撮影を呼びかけることでコンテンツを自動的に生成するものもありうる。そのため、携帯端末のユーザ自身が画像に含まれるコンテンツが、今後ますます生成されることが見込まれている。
また、SNS(Social Networking Service)が多数のユーザに使用されている。ユーザは、スマートフォンなどで画像等を撮影してコンテンツを生成し、生成したコンテンツをSNSに投稿する。SNSでは、画像認識により画像中の人物の顔部分などを抽出して、抽出結果と、SNSを利用するユーザのプロフィール画像等とを照合することにより、画像中に含まれているユーザが特定される。SNSを利用するユーザは、このようにして画像に含まれるユーザが画像認識により特定されている場合に、特定されたユーザを示す情報を画像と関連付けてSNSにより他のユーザと共有することもできる。このようにして、ユーザが自分で操作して記録する手動記録により生成されるコンテンツも、ユーザの生活を記録するライフログといえ、ライフログとしてSNSに投稿されるコンテンツの数も増加し続けている。
このことから、ユーザは、記録されている膨大な数のコンテンツから所望のコンテンツを探し当てるまでに煩雑な検索操作を必要とされるため、ライフログを持て余す事態が想定される。したがって、ライフログとして記録されているコンテンツを、ユーザによる煩雑な操作を必要とすることなく、ユーザに活用させる技術が求められている。
本開示は、係る実情に鑑み考え出されたものであり、その目的は、ユーザが、煩雑な操作を必要とされることなく過去のコンテンツを活用できるための技術を提供することである。
ある実施の形態に従うと、コンピュータによって実行される情報提供方法が提供される。当該方法において、コンピュータは、第1のタグ情報に関連付けられた第1のコンテンツを取得するステップと、タグ情報に関連付けられたコンテンツのデータベースから、第1のタグ情報に対応する第2のタグ情報に関連付けられた第2のコンテンツを検索するステップと、検索の結果の報知を実行するステップとを実行する。
本開示に従った方法によれば、コンピュータは、ログ情報に関連付けられたコンテンツを取得すると、当該タグ情報に対応するタグ情報に関連付けられたコンテンツを検索し、当該検索の結果を報知する。これにより、新たに取得したコンテンツが、たとえばライフログとして取得されている過去のコンテンツに関連するものである場合、ユーザは、そのことを認識し得る。また、ライフログ内のコンテンツが、新たに取得したコンテンツに関連するコンテンツを含まない場合、ユーザは、そのことを認識し得る。したがって、コンピュータは、ユーザにライフログ内の過去のコンテンツの検索のための煩雑な操作をさせることなく、取得されたコンテンツに関連する情報を提供する。これにより、ユーザは、煩雑な操作を必要とされることなく、過去のコンテンツを活用することができる。
ある実施の形態に従った情報提供方法の具体例を示す図である。 情報提供装置の一実施の形態であるHMD(ヘッドマウントデバイス)を含むネットワークシステムの構成を概略的に示す図である。 図2に示されたネットワークシステムのハードウェア構成を説明するための図である。 ライフログとして格納されたコンテンツに関連付けられた情報を模式的に示す図である。 HMDがコンテンツを取得したときの検索結果を報知するために実行する処理のフローチャートである。 ある実施の形態に従った情報提供方法の具体例を示す図である。 ある実施の形態に従うHMDシステムの構成の概略を表す図である。 一局面に従うコンピュータのハードウェア構成の一例を表すブロック図である。 ある実施の形態に従うHMDに設定されるuvw視野座標系を概念的に表す図である。 ある実施の形態に従う仮想空間を表現する一態様を概念的に表す図である。 ある実施の形態に従うHMDを装着するユーザの頭部を上から表した図である。 仮想空間において視界領域をX方向から見たYZ断面を表す図である。 仮想空間において視界領域をY方向から見たXZ断面を表す図である。 ある実施の形態に従うコントローラの概略構成を表す図である。 ある実施の形態に従うコンピュータをモジュール構成として表わすブロック図である。 ある実施の形態に従うHMDシステムにおいて実行される処理の一部を表わすシーケンスチャートである。 再生用コンテンツに関連付けられた情報の一例を模式的に示す図である。 ライフログを構成するコンテンツに関連付けられた情報の一例を模式的に示す図である。 ある実施の形態においてコンピュータが再生中のコンテンツについて情報を報知するための処理のフローチャートである。
以下に、図面を参照しつつ、情報提供方法および情報提供装置の実施の形態について説明する。以下の説明では、同一の部品および構成要素には同一の符号を付してある。それらの名称および機能も同じである。したがって、これらの説明は繰り返さない。
<開示の要約>
図1および図2を参照して、本開示に示すある実施の形態の要約を説明する。
図1は、ある実施の形態に従った情報提供方法の具体例を示す図である。図1には、4つのステップが示されている。
場面SC01は、ステップ1が生ずる場面を示す。場面SC01は、現実空間において、ユーザAがユーザBと対面している状況を表わす。ユーザAは、ウェアラブルグラス型のヘッドマウントデバイス(HMD:Head-Mounted Device)400を装着している。HMD400は、情報提供装置の一実施の形態である。図1に示された例では、HMD400は、カメラを内蔵している。HMD400は、図2に示すように、ネットワーク19を介してサーバ150と通信可能に構成されている。HMD400は、例えば、スマートフォン(図示しない)など移動体通信システムに対応した携帯端末と、無線LAN(Local Area Network)規格、Bluetooth(登録商標)などの通信規格に従って通信接続し、この携帯端末を介して、サーバ150と通信してもよい。ここで、サーバ150には、ユーザの首からぶら下げる携帯端末、ユーザの頭部に装着するHMD400、ロボット型の携帯端末など様々な端末により自動的に生成される画像などのコンテンツと、ユーザがスマートフォン等を自分で操作して記録する手動記録により生成される画像などのコンテンツが蓄積されている。サーバ150は、例えばSNS機能をユーザに提供しており、ユーザの端末において自動的に、または、手動で生成されるコンテンツの投稿を受け付ける。サーバ150は、例えば各ユーザが設定するプロフィール画像、有名な人物、建築物、場所を示す画像のデータベースを有している。サーバ150は、ユーザから受け付けた画像などのコンテンツを、例えば画像認識することで、画像に含まれる人物がどのユーザであるか、画像に含まれる建築物が何であるか等を特定し、特定した情報を画像と対応付けて記憶することができる。また、サーバ150は、SNS機能を提供する外部の別のSNSサーバ装置と通信して、当該別のSNSサーバ装置から、ユーザが当該別のSNSサーバ装置に蓄積させるデータを取得する構成であってもよい。例えば、当該別のSNSサーバ装置が、API(Application Programming Interface)を提供して、ユーザのログイン情報を受け付けることで、サーバ150に対し、当該ユーザが当該別のSNSサーバ装置に蓄積させるデータを利用可能とするものがある。
ステップ1にて、ユーザAは、ユーザBに以前会ったことがあるような気がするが、そのときの状況を正確には思い出せない。HMD400は、例えば、HMD400のカメラにより、逐次、画像を生成している。また、ユーザAがHMD400のカメラでユーザBを撮影する操作により、画像を生成してもよい。撮影される画像の一例は、図1において画像IMG01として示されている。
ステップ2にて、HMD400は、HMD400のカメラにより撮影された画像IMG01をサーバ150へ送信する。サーバ150は、HMD400から送信される画像IMG01に対し、顔画像処理を実行することで、画像IMG01に含まれる人物の顔を特定し、特定された人物の顔が、ユーザBの顔画像であると識別する。また、HMD400が、撮影された画像IMG01に対して顔画像認証処理を実行し、画像IMG01からユーザBの顔画像を識別し、識別結果である「Bさん」を画像IMG01にタグ情報として付与することとしてもよい。これにより、画像IMG01にタグ情報「Bさん」が関連付けられる。
ステップ3にて、サーバ150は、ステップ1でHMD400により撮影された画像(画像IMG01)に関連付けられた、人物を示すタグ情報「Bさん」を検索キーとして、データベースを検索する。サーバ150は、データベースの検索結果を、HMD400へ送信する。データベースは、たとえば、Aさんのライフログのデータベースである。一例では、サーバ150は、検索において、検索キーと同一のタグ情報に関連付けられているコンテンツを探す。なお、検索キー(第2のタグ情報)は、ステップS10において撮影された画像に関連付けられたタグ情報(第1のタグ情報)と同一であってもよいし、取得されたタグ情報に対して一定の関係を有するタグ情報であってもよい。ある実施の形態において、あるタグ情報と同一または一定の関係を有するタグ情報が、「対応する」タグ情報の一例である。また、HMD400が、ステップ1で撮影された画像IMG01に関連付けられたタグ情報を検索キーとして、データベースを検索することとしてもよい。
ステップ4にて、HMD400は、ステップ3における検索の結果を報知する。一例では、HMD400は、そのレンズと一体的に設けられたディスプレイに、検索結果として取得された画像を表示する。検索結果の一例は、画像IMG02として示されている。
画像IMG02は、3種類のタグ情報に関連付けられている。1つ目の種類は、「日時」である。当該種類のタグ情報は、「2016年4月1日9時30分」である。2つ目の種類は、「場所」である。当該種類のタグ情報は、「X(エックス)山」である。3つ目の種類は、「人物」である。当該種類のタグ情報は、「Aさん」「Bさん」「Cさん」および「Dさん」である。画像IMG01のタグ情報と画像IMG02のタグ情報は、「Bさん」で共通する。これにより、HMD400は、検索結果として画像IMG02を取得する。
HMD400は、スピーカを内蔵していてもよい。ステップ4において、HMD400は、当該スピーカから音声で検索結果を報知してもよい。出力される音声の一例は、「Bさんです。2016年4月1日9時30分、CさんとDさんと一緒に、X山で写真を撮りました。」である。
出力される音声のうち、「Bさんです。」は、たとえば、画像IMG01に対する顔画像認識処理の結果に「Bさん」が含まれていたことに基づく。「2016年4月1日9時30分」は、検索結果である画像IMG02の「日時」のタグ情報に基づく。「CさんとDさんと一緒に」は、検索結果である画像IMG02の「人物」のタグ情報に基づく。この例では、HMD400は、「人物」のタグ情報のうち、当該HMD400のユーザである「Aさん」と、画像IMG01において顔画像を抽出された「Bさん」とを除いた残りの人物(「Cさん」と「Dさん」)を特定する情報を音声として出力する。「X山で」は、画像IMG02の「場所」のタグ情報(「X山」)に基づく。「写真を撮りました。」は、画像IMG02が写真データであることに基づく。より具体的には、画像IMG02には、当該画像IMG02を撮影したカメラを特定する情報が関連付けられている(図示略)。これにより、HMD400は、画像IMG02が写真データであることを特定できる。
ステップ4における報知によって、ユーザAは、目の前のユーザBと、以前、一緒にX山に行ったことを思い出す。
このように構成されることで、ユーザは、リアルタイムの状況に関連するライフログを容易に参照することができる。(1)リアルタイムの状況とは、例えば、ユーザがリアルタイムに接している人物であり、HMD400のカメラの撮影画像等に基づいて、ユーザがリアルタイムに接している人物を特定し、特定された人物に関連するライフログをユーザが容易に参照することができる。例えば、ユーザが、以前接したことがあるが記憶があいまいな人物と再会した際に、過去の記憶を、ライフログを通じて容易に参照することができる。(2)また、リアルタイムの状況とは、例えば、ユーザがリアルタイムに位置している場所であり、HMD400のカメラの撮影画像に含まれる建築物、または、HMD400のGPS(Global Positioning System)の出力等に基づいて、ユーザがリアルタイムに位置している場所を特定し、特定された場所に関連するライフログをユーザが容易に参照することができる。例えば、ユーザが、以前来訪したことがあるが記憶があいまいな場所を再訪した際に、どのような要件で来訪したかといった過去の記憶を、ライフログを通じて容易に参照することができる。ユーザにとって、思い出となる映像と音声を、リアルタイムの状況に応じて報知することで、タイムマシンのように、ユーザが過去の記憶を呼び戻すことを支援することができる。
なお、HMD400として、ウェアラブルグラス型の装置がカメラにより撮影画像を生成し、生成された撮影画像にタグ情報を付加し、タグ情報を検索キーとしてユーザのライフログを検索し、検索結果をウェアラブルグラス型の装置により出力する例を説明したが、これに限られない。例えば、ユーザのリアルタイムの状況を検知するための入力デバイスとしてHMD400を使用し、ライフログの検索結果を出力するための出力デバイスとして、ロボット型の携帯端末により音声を出力するといったように、入力デバイスと出力デバイスとが異なる構成であってもよい。
<ネットワークシステムの概略構成>
図2は、情報提供装置の一実施の形態であるHMDを含むネットワークシステムの構成を概略的に示す図である。ネットワークシステム1Xは、HMD400とサーバ150とを含む。HMD400とサーバ150とは、ネットワーク19を介して通信可能である。
HMD400は、プロセッサ401と、透過型のディスプレイ404と、カメラ405と、注視センサ406と、マイク407と、動きセンサ408と、生体センサ409と、スピーカ410とを含む。
プロセッサ401は、CPU(Central Processing Unit)、MPU(Micro Processing Unit)、FPGA(Filed-Programmable Gate Array)、その他のデバイスとして実現され、HMD400の動作を全体的に制御する。
ディスプレイ404は、たとえば透視型有機発光ダイオード(OLED)ディスプレイなどによって構成されるレンズ450を含む。一例では、ディスプレイ404は、レンズ450内に配置された画像生成要素を含む。他の例では、ディスプレイ404は、レンズ450の端に光変調器を含む。この例では、レンズ450は、光変調器から光をユーザの視覚に送達するための光導波路として機能し得る。このような光導波路によって、ユーザは、現実空間の映像とプロセッサ401によって再生されるコンテンツとを見ることができる。
カメラ405は、画像を撮影し、撮影された画像をプロセッサ401へ出力する。
注視センサ406は、たとえばアイトラッキング機能を有するセンサによって実現され、HMD400を装着するユーザの右目および左目の視線が向けられる方向(視線方向)を検出し、当該検出の結果をプロセッサ401へ出力する。
マイク407は、音声を取得して、プロセッサ401へ出力する。
動きセンサ408は、角速度センサ、地磁気センサ、加速度センサ、および/または、ジャイロセンサによって構成され、HMD400の動きを検出し、当該検出の結果をプロセッサ401へ出力する。
生体センサ409は、脈波センサおよび/または心拍数計によって実現され、HMD400を装着しているユーザの生体情報を検出し、当該検出の結果をプロセッサ401へ出力する。
スピーカ410は、プロセッサ401の制御に従って音声を出力する。
<ハードウェア構成>
図3は、図2に示されたネットワークシステムのハードウェア構成を説明するための図である。図3を参照して、サーバ150とHMD400の双方の構成を説明する。
(サーバ150)
サーバ150は、主たる構成要素として、プロセッサ510と、メモリ511と、ストレージ512と、通信インターフェース514とを備える。各構成要素は、それぞれ、バス515に接続されている。
プロセッサ510は、サーバ150に与えられる信号に基づいて、あるいは、予め定められた条件が成立したことに基づいて、メモリ511またはストレージ512に格納されているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ510は、CPU、MPU、FPGA、その他のデバイスとして実現される。
メモリ511は、プログラムおよびデータを格納する。プログラムは、例えば、ストレージ512からロードされる。データは、サーバ150に入力されたデータと、プロセッサ510によって生成されたデータとを含む。メモリ511は、RAM(Random Access Memory)その他の揮発性メモリとしても実現される。
ストレージ512は、プログラムおよびデータを永続的に保持する。ストレージ512は、例えば、ROM(Read Only Memory)、ハードディスク装置、フラッシュメモリ、その他の不揮発性記憶装置として実現される。ストレージ512は、コンテンツをタグ情報に関連付けて格納するコンテンツ格納部512Aを含む。
通信インターフェース514は、ネットワーク19を介して他のコンピュータ(例えば、HMD400)と通信する。ある局面において、通信インターフェース514は、例えば、LAN(Local Area Network)その他の有線通信インターフェイス、あるいは、WiFi(Wireless Fidelity)、Bluetooth(登録商標)、NFC(Near Field Communication)、その他の無線通信インターフェイスとして実現される。ただし、通信インターフェース514は上述のものに限られない。
(HMD400)
HMD400は、図2に示された要素に加えて、メモリ403と、タイマ412と、通信インターフェース411と、GPS(Global Positioning System)モジュール413とを含む。メモリ403は、プロセッサ401のワークエリアとして機能する。タイマ412は、時間を計測し、当該計測の結果をプロセッサ401へ出力する。
通信インターフェース411は、ネットワーク19を介して他のコンピュータ(例えば、サーバ150)と通信する。ある局面において、通信インターフェース411は、例えば、LANその他の有線通信インターフェイス、あるいは、WiFi、Bluetooth(登録商標)、NFC、その他の無線通信インターフェイスとして実現される。ただし、通信インターフェース411は上述のものに限られない。
GPS(Global Positioning System)モジュール413は、HMD400の位置情報を取得し、取得した位置情報をプロセッサ401へ出力する。
<コンテンツに関連付けられる情報>
図4は、ライフログとして格納されたコンテンツに関連付けられた情報を模式的に示す図である。ライフログのコンテンツおよび図4に示された情報は、たとえばコンテンツ格納部512Aに格納される。図4に示されるように、各コンテンツは、コンテンツ名、ファイル名、格納場所、タグ情報(時間)、タグ情報(位置)、および、タグ情報(人物)に関連付けられている。図4の例では、あるコンテンツについて、コンテンツ名「写真(1)」、ファイル名「写真(1)」、格納場所「X\images」、タグ情報(時間)「2016.4.1 9:30」、タグ情報(位置)「X山」、および、タグ情報(人物)「A,B,C,D」が関連付けられている。
コンテンツ名は、コンテンツの名称である。
ファイル名は、コンテンツを構成するファイルの名称である。1つのコンテンツが単一のファイルのみよって構成される場合もあり得る。
格納場所は、コンテンツを構成するデータの格納場所を表わす。
タグ情報(時間)、タグ情報(位置)、および、タグ情報(人物)は、それぞれ、コンテンツに付されたタグ情報のうち、時間に関するもの、位置に関するもの、および、人物に関するものを表わす。なお、コンテンツに関連付けられるタグ情報の種類は、時間、位置、および、人物に限定されない。
<処理の流れ>
図5は、HMD400において、図1に示されたようにコンテンツを取得したときに、サーバ150にHMD400のユーザのライフログとして格納されているコンテンツの検索を実行し、その結果を報知するために実行される処理のフローチャートである。図5の処理は、たとえば、HMD400のプロセッサ401がストレージ402に格納されたプログラムを実行することによって実現される。
ステップS10にて、プロセッサ401は、画像を撮影する。ステップS10において撮影が開始される条件の一例は、前回の撮影から一定時間が経過したことである。この例では、一定時間ごとに画像が撮影される。
ステップS10の撮影開始条件の他の例は、注視センサ406が一定時間以上継続してユーザの視点が固定されたことである。この例では、たとえばユーザがある位置を凝視したとき、ユーザが凝視した位置を含む画像が撮影される。
ステップS10の撮影開始条件のさらに他の例は、マイク407から所定の音声(たとえば、メッセージ「写真を撮って。」)が入力されたことである。なお、撮影開始のための音声は、このメッセージに限定されない。
ステップS10の撮影開始条件のさらに他の例は、動きセンサ408から予め定められた動きを表わす信号が入力されたことである。この例では、たとえばユーザが予め定められた動き(たとえば、連続して二回頷いた後、頭を静止させる)をすれば、画像が撮影される。
ステップS10の撮影開始条件のさらに他の例は、生体センサ409から予め定められた態様の生体情報(たとえば、「一定時間以上、心拍数が一定値を超えたこと」を示す態様)が入力されたことである。この例では、たとえばユーザが緊張してその心拍数が一定値を超えると、画像が撮影される。
ステップS20にて、プロセッサ401は、ステップS10において撮影された画像に対してタグ情報を取得する。タグ情報の取得方法の一例は、撮影された画像に対する顔画像認証処理である。この例において取得されるタグ情報は、当該画像に含まれる顔画像に対応するユーザを特定する情報である。このようなタグ情報は、人物を特定し、「タグ情報(人物)」と標記され得る。
ステップS20のタグ情報の取得方法の他の例は、タイマ412からの情報の入力である。この例において取得されるタグ情報は、画像の撮影時刻である。このようなタグ情報は、時間を特定し、「タグ情報(時間)」と標記され得る。
ステップS20のタグ情報の取得方法のさらに他の例は、GPSモジュール413からの情報の入力である。この例において取得されるタグ情報は、画像の撮影場所である。このようなタグ情報は、位置を特定し、「タグ情報(位置)」と標記され得る。
ステップS30にて、プロセッサ401は、ステップS20において取得されたタグ情報を検索キーとして、コンテンツ格納部512A(図3)に格納された、HMD400のユーザのコンテンツを検索する。コンテンツ格納部512Aは、ユーザごとに、コンテンツのデータに加えて、当該コンテンツに関する情報を表わすデータベースを格納している。ステップS30の検索において、プロセッサ401は、HMD400のユーザのIDに関連付けられているデータベースを利用する。データベースにおけるデータの格納態様の一例は、図4に示されたものである。
ある実施の形態のステップS30において、プロセッサ401は、ステップS20において取得されたタグ情報と同じに関連付けられたコンテンツだけでなく、当該タグ情報と一定の関係を有するタグ情報に関連付けられたコンテンツを検索してもよい。
一定の関係の一例は、タグ情報(時間)によって特定される時点に対して一定期間内に含まれることである。一定期間の一例は、1年前である。この例では、ステップS20で取得されたタグ情報(時間)で特定される時点から1年前までの時点を規定する「タグ情報(時間)」に関連付けられたコンテンツが検索結果として取得される。たとえば、ステップS20で取得されたタグ情報(時間)が「2016年11月15日」である場合、「2015年11月15日」から「2016年11月15日」までの時点を特定する「タグ情報(時間)」に関連付けられたコンテンツが、検索結果として取得される。一定期間の他の例は、「同じ月」である。この例では、ステップS20で取得されたタグ情報(時間)で特定される時点と同じ月内の時点を規定する「タグ情報(時間)」に関連付けられたコンテンツが、検索結果として取得される。たとえば、ステップS20で取得されたタグ情報(時間)が「2016年11月15日」である場合、「2016年11月1日」から「2016年11月30日」までの時点を特定する「タグ情報(時間)」に関連付けられたコンテンツが、検索結果として取得される。
一定の関係の他の例は、たとえば、ストレージ512に格納された情報においてタグ情報同士が関連付けられていることである。この例では、ストレージ512は、タグ情報同士を関連付ける情報(たとえば、テーブル)を格納している。タグ情報同士の関連付けの一例は、複数の人物を関連付けることである。たとえば、人物「Bさん」と人物「Eさん」が関連付けられる。これにより、ステップS10で取得されたコンテンツがタグ情報「Bさん」と関連付けられている場合、検索結果は、タグ情報「Bさん」に関連付けられたコンテンツと、タグ情報「Eさん」に関連付けられたコンテンツとを含む。
ステップS30の検索は、複数種類のタグ情報を用いて実行されてもよい。たとえば、ステップS30の検索は、ステップS10で撮影された画像と同じタグ情報(場所)に関連付けられ、かつ、ステップS10で撮影された画像に付されたタグ情報(時間)の日が属する月内のタグ情報(時間)に関連付けられた、コンテンツを探してもよい。これにより、検索結果は、たとえば、ステップS10で撮影された画像と同じ場所で同じ月に撮影された画像を含む。
ステップS40にて、プロセッサ401は、ステップS30における検索の結果を報知する。報知の一例は、図1に示されたような、検索結果として取得されたコンテンツ(IMG02)を出力することである。報知の他の例は、検索結果として取得されたコンテンツに関連付けられたタグ情報を含む音声を出力することである。なお、ステップS30における検索で該当するコンテンツが取得されなかった場合、プロセッサ401は、ステップS40において、「該当データ無し」を出力してもよいし、ステップS40の報知をスキップしてもよい。
<コンテンツの再生に関連した情報の提供>
ある実施の形態に従った情報提供方法では、コンピュータは、図5を参照して説明された撮像画像に付与されたタグ情報を用いた検索の代わりに、または、そのような検索に加えて、再生中のコンテンツのタグ情報を用いた検索を実行する。以下、再生中のコンテンツのタグ情報を用いた検索について説明する。
[情報提供方法の具体例]
図6は、ある実施の形態に従った情報提供方法の具体例を示す図である。図6に示された情報提供方法では、コンピュータが、コンテンツの再生に関連して情報を提供する。図6には、4つのステップが示されている。
ステップ1にて、コンピュータは、コンテンツを再生する。図6の例では、再生されるコンテンツは、画像IMG11を含む。再生されるコンテンツのデータは、当該コンピュータの記憶装置に格納されていてもよいし、サーバ150(図3)等のコンピュータ外の記憶装置に格納されていてもよい。
ステップ2にて、コンピュータは、再生中のコンテンツのタグ情報を取得する。図6の例では、取得されるタグ情報の一例として「ロンドン」が示されている。
ステップ3にて、コンピュータは、取得されたタグ情報と同じタグ情報を検索キーとして、データベースを検索する。たとえば、コンピュータは、検索結果として、タグ情報「ロンドン」に関連付けられた2つのコンテンツを取得する。検索キー(第2のタグ情報)は、取得されたタグ情報(第1のタグ情報)と同じものであってもよいし、取得されたタグ情報に対して一定の関係を有するタグ情報であってもよい。
ステップ4にて、コンピュータは、検索結果を報知する。図6の例では、画像IMG12が検索結果を報知する画面の一例である。画像IMG12では、再生中のコンテンツの画像IMG11に2つの画像IMG21,22が重畳されている。画像IMG21,22は、検索の結果として取得された2つのコンテンツのそれぞれを表わす画像である。
[HMDシステムの構成]
ある実施の形態に従った情報提供方法では、コンピュータは、HMDに、仮想空間を提供するコンテンツを再生させる。ユーザに仮想空間を提供するためのシステムを、「HMD(Head Mount Display)システム」と称する。HMDとは、モニタを備える所謂ヘッドマウントディスプレイと、スマートフォンその他のモニタを有する端末を装着可能なヘッドマウント機器のいずれをも含み得る。HMDシステムは、ヘッドマウントデバイスを含む。ユーザは、ヘッドマウントデバイスを使用することにより仮想空間を提供される。図7を参照して、HMDシステム100の構成について説明する。
図7は、ある実施の形態に従うHMDシステム100の構成の概略を表す図である。ある局面において、HMDシステム100は、家庭用のシステムとしてあるいは業務用のシステムとして提供される。
図7に示されるように、HMDシステム100は、HMD110と、HMDセンサ120と、スピーカ210と、コンピュータ200とを備える。コンピュータ200は、本開示におけるヘッドマウントデバイスを介して仮想空間を提供するためのコンピュータの一例である。HMD110は、モニタ112と、注視センサ140とを含む。ある局面において、コンピュータ200は、ネットワーク19に接続可能であり、ネットワーク19に接続されているサーバ150と通信可能である。別の局面において、HMD110は、HMDセンサ120の代わりに、センサ114を含み得る。
ある実施の形態に従うHMD110は、ユーザの頭部に装着され、動作中に仮想空間をユーザに提供し得る。より具体的には、HMD110は、右目用の画像および左目用の画像をモニタ112にそれぞれ表示する。ユーザの各目がそれぞれの画像を視認すると、ユーザは、両目の視差に基づき当該画像を3次元の画像として認識し得る。
モニタ112は、例えば、非透過型の表示装置として実現される。ある局面において、モニタ112は、ユーザの両目の前方に位置するようにHMD110の本体に配置されている。したがって、ユーザは、モニタ112に表示される3次元画像を視認すると、仮想空間に没入することができる。ある実施の形態において、仮想空間は、例えば、背景、ユーザが操作可能なオブジェクト、ユーザが選択可能なメニューの画像を含む。ある実施の形態において、モニタ112は、所謂スマートフォンその他の情報表示端末が備える液晶モニタまたは有機EL(Electro Luminescence)モニタとして実現され得る。
ある局面において、モニタ112は、右目用の画像を表示するためのサブモニタと、左目用の画像を表示するためのサブモニタとを含み得る。別の局面において、モニタ112は、右目用の画像と左目用の画像とを一体として表示する構成であってもよい。この場合、モニタ112は、高速シャッタを含む。高速シャッタは、画像がいずれか一方の目にのみ認識されるように、右目用の画像と左目用の画像とを交互に表示可能に作動する。
HMDセンサ120は、複数の光源(図示しない)を含む。各光源は例えば、赤外線を発するLED(Light Emitting Diode)により実現される。HMDセンサ120は、HMD110の動きを検出するためのポジショントラッキング機能を有する。HMDセンサ120は、この機能を用いて、現実空間内におけるHMD110の位置および傾きを検出する。
別の局面において、HMDセンサ120は、カメラにより実現されてもよい。この場合、HMDセンサ120は、カメラから出力されるHMD110の画像情報を用いて、画像解析処理を実行することにより、HMD110の位置および傾きを検出することができる。
別の局面において、HMD110は、位置検出器として、HMDセンサ120の代わりに、センサ114を備えてもよい。HMD110は、センサ114を用いて、HMD110自身の位置および傾きを検出し得る。例えば、センサ114が角速度センサ、地磁気センサ、加速度センサ、あるいはジャイロセンサ等である場合、HMD110は、HMDセンサ120の代わりに、これらの各センサのいずれかを用いて、自身の位置および傾きを検出し得る。一例として、センサ114が角速度センサである場合、角速度センサは、現実空間におけるHMD110の3軸周りの角速度を経時的に検出する。HMD110は、各角速度に基づいて、HMD110の3軸周りの角度の時間的変化を算出し、さらに、角度の時間的変化に基づいて、HMD110の傾きを算出する。
注視センサ140は、ユーザ190の右目および左目の視線が向けられる方向(視線方向)を検出する。当該方向の検出は、例えば、公知のアイトラッキング機能によって実現される。注視センサ140は、当該アイトラッキング機能を有するセンサにより実現される。ある局面において、注視センサ140は、右目用のセンサおよび左目用のセンサを含むことが好ましい。注視センサ140は、例えば、ユーザ190の右目および左目に赤外光を照射するとともに、照射光に対する角膜および虹彩からの反射光を受けることにより各眼球の回転角を検出するセンサであってもよい。注視センサ140は、検出した各回転角に基づいて、ユーザ190の視線方向を検知することができる。
スピーカ210は、コンピュータ200に接続され、コンピュータ200による制御に従って音声を出力する。
サーバ150は、コンピュータ200にプログラムを送信し得る。別の局面において、サーバ150は、他のユーザによって使用されるHMDに仮想現実を提供するための他のコンピュータ200と通信し得る。例えば、アミューズメント施設において、複数のユーザが参加型のゲームを行なう場合、各コンピュータ200は、各ユーザの動作に基づく信号を他のコンピュータ200と通信して、同じ仮想空間において複数のユーザが共通のゲームを楽しむことを可能にする。図7のサーバ150のハードウェア構成は、図3に示されたサーバ150のハードウェア構成と同様であってもよい。
ある実施の形態に従うと、HMDシステム100は、コントローラ160をさらに備えてもよい。コントローラ160はモーションセンサ130を含み得る。
コントローラ160は、ユーザ190からコンピュータ200への命令の入力を受け付ける。ある局面において、コントローラ160は、ユーザ190によって把持可能に構成される。別の局面において、コントローラ160は、ユーザ190の身体あるいは衣類の一部に装着可能に構成される。別の局面において、コントローラ160は、コンピュータ200から送られる信号に基づいて、振動、音、光のうちの少なくともいずれかを出力するように構成されてもよい。
モーションセンサ130は、ある局面において、ユーザの手に取り付けられて、ユーザの手の動きを検出する。例えば、モーションセンサ130は、手の回転速度、回転数等を検出する。検出された信号は、コンピュータ200に送られる。モーションセンサ130は、例えば、手袋型のコントローラ160に設けられている。ある実施の形態において、現実空間における安全のため、コントローラ160は、手袋型のようにユーザ190の手に装着されることにより容易に飛んで行かないものに装着されるのが望ましい。別の局面において、ユーザ190に装着されないセンサがユーザ190の手の動きを検出してもよい。例えば、ユーザ190を撮影するカメラの信号が、ユーザ190の動作を表わす信号として、コンピュータ200に入力されてもよい。モーションセンサ130とコンピュータ200とは、有線により、または無線により互いに接続される。無線の場合、通信形態は特に限られず、例えば、Bluetooth(登録商標)その他の公知の通信手法が用いられる。
[コンピュータのハードウェア構成]
図8を参照して、本実施の形態に係るコンピュータ200について説明する。図8は、一局面に従うコンピュータ200のハードウェア構成の一例を表すブロック図である。コンピュータ200は、主たる構成要素として、プロセッサ10と、メモリ11と、ストレージ12と、入出力インターフェイス13と、通信インターフェイス14とを備える。各構成要素は、それぞれ、バス15に接続されている。
プロセッサ10は、コンピュータ200に与えられる信号に基づいて、あるいは、予め定められた条件が成立したことに基づいて、メモリ11またはストレージ12に格納されているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ10は、CPU(Central Processing Unit)、MPU(Micro Processor Unit)、FPGA(Field-Programmable Gate Array)その他のデバイスとして実現される。
メモリ11は、プログラムおよびデータを一時的に保存する。プログラムは、例えば、ストレージ12からロードされる。データは、コンピュータ200に入力されたデータと、プロセッサ10によって生成されたデータとを含む。ある局面において、メモリ11は、RAM(Random Access Memory)その他の揮発メモリとして実現される。
ストレージ12は、プログラムおよびデータを永続的に保持する。ストレージ12は、例えば、ROM(Read-Only Memory)、ハードディスク装置、フラッシュメモリ、その他の不揮発記憶装置として実現される。ストレージ12に格納されるプログラムは、HMDシステム100において仮想空間を提供するためのプログラム、シミュレーションプログラム、ゲームプログラム、ユーザ認証プログラム、他のコンピュータ200との通信を実現するためのプログラムを含む。ストレージ12に格納されるデータは、仮想空間を規定するためのデータおよびオブジェクト等を含む。
別の局面において、ストレージ12は、メモリカードのように着脱可能な記憶装置として実現されてもよい。さらに別の局面において、コンピュータ200に内蔵されたストレージ12の代わりに、外部の記憶装置に保存されているプログラムおよびデータを使用する構成が使用されてもよい。このような構成によれば、例えば、アミューズメント施設のように複数のHMDシステム100が使用される場面において、プログラムやデータの更新を一括して行なうことが可能になる。
ある実施の形態において、入出力インターフェイス13は、HMD110、HMDセンサ120、モーションセンサ130、コントローラ160、および、スピーカ210との間で信号を通信する。ある局面において、入出力インターフェイス13は、USB(Universal Serial Bus)インターフェイス、DVI(Digital Visual Interface)、HDMI(登録商標)(High-Definition Multimedia Interface)その他の端子を用いて実現される。なお、入出力インターフェイス13は上述のものに限られない。
ある実施の形態において、入出力インターフェイス13は、さらに、コントローラ160と通信し得る。例えば、入出力インターフェイス13は、モーションセンサ130から出力された信号の入力を受ける。別の局面において、入出力インターフェイス13は、プロセッサ10から出力された命令を、コントローラ160に送る。当該命令は、振動、音声出力、発光等をコントローラ160に指示する。コントローラ160は、当該命令を受信すると、その命令に応じて、振動、音声出力または発光のいずれかを実行する。
通信インターフェイス14は、ネットワーク19に接続されて、ネットワーク19に接続されている他のコンピュータ(例えば、サーバ150)と通信する。ある局面において、通信インターフェイス14は、例えば、LAN(Local Area Network)その他の有線通信インターフェイス、あるいは、WiFi(Wireless Fidelity)(登録商標)、Bluetooth(登録商標)、NFC(Near Field Communication)その他の無線通信インターフェイスとして実現される。なお、通信インターフェイス14は上述のものに限られない。
ある局面において、プロセッサ10は、ストレージ12に格納されている1つ以上のプログラムをメモリ11にロードし、当該プログラムに含まれる一連の命令を実行する。当該1つ以上のプログラムは、コンピュータ200のオペレーティングシステム、仮想空間を提供するためのアプリケーションプログラム、コントローラ160を用いて仮想空間で実行可能なゲームソフトウェア等を含み得る。プロセッサ10は、入出力インターフェイス13を介して、仮想空間を提供するための信号をHMD110に送る。HMD110は、その信号に基づいてモニタ112に映像を表示する。
図8に示される例では、コンピュータ200は、HMD110の外部に設けられる構成が示されているが、別の局面において、コンピュータ200は、HMD110に内蔵されてもよい。一例として、モニタ112を含む携帯型の情報通信端末(例えば、スマートフォン)がコンピュータ200として機能してもよい。
また、コンピュータ200は、複数のHMD110に共通して用いられる構成であってもよい。このような構成によれば、例えば、複数のユーザに同一の仮想空間を提供することもできるので、各ユーザは同一の仮想空間で他のユーザと同一のアプリケーションを楽しむことができる。
ある実施の形態において、複数のコンピュータ200がネットワーク19上のサーバ150を介してデータを共有することにより、当該複数のコンピュータ200のそれぞれのユーザに同一の仮想空間を提供することができてもよい。
ある実施の形態において、HMDシステム100では、グローバル座標系が予め設定されている。グローバル座標系は、現実空間における鉛直方向、鉛直方向に直交する水平方向、ならびに、鉛直方向および水平方向の双方に直交する前後方向にそれぞれ平行な、3つの基準方向(軸)を有する。本実施の形態では、グローバル座標系は視点座標系の一つである。そこで、グローバル座標系における水平方向、鉛直方向(上下方向)、および前後方向は、それぞれ、x軸、y軸、z軸と規定される。より具体的には、グローバル座標系において、x軸は現実空間の水平方向に平行である。y軸は、現実空間の鉛直方向に平行である。z軸は現実空間の前後方向に平行である。
ある局面において、HMDセンサ120は、赤外線センサを含む。赤外線センサが、HMD110の各光源から発せられた赤外線をそれぞれ検出すると、HMD110の存在を検出する。HMDセンサ120は、さらに、各点の値(グローバル座標系における各座標値)に基づいて、HMD110を装着したユーザ190の動きに応じた、現実空間内におけるHMD110の位置および傾きを検出する。より詳しくは、HMDセンサ120は、経時的に検出された各値を用いて、HMD110の位置および傾きの時間的変化を検出できる。
グローバル座標系は現実空間の座標系と平行である。したがって、HMDセンサ120によって検出されたHMD110の各傾きは、グローバル座標系におけるHMD110の3軸周りの各傾きに相当する。HMDセンサ120は、グローバル座標系におけるHMD110の傾きに基づき、uvw視野座標系をHMD110に設定する。HMD110に設定されるuvw視野座標系は、HMD110を装着したユーザ190が仮想空間において物体を見る際の視点座標系に対応する。
[uvw視野座標系]
図9を参照して、uvw視野座標系について説明する。図9は、ある実施の形態に従うHMD110に設定されるuvw視野座標系を概念的に表す図である。HMDセンサ120は、HMD110の起動時に、グローバル座標系におけるHMD110の位置および傾きを検出する。プロセッサ10は、検出された値に基づいて、uvw視野座標系をHMD110に設定する。
図9に示されるように、HMD110は、HMD110を装着したユーザの頭部を中心(原点)とした3次元のuvw視野座標系を設定する。より具体的には、HMD110は、グローバル座標系を規定する水平方向、鉛直方向、および前後方向(x軸、y軸、z軸)を、グローバル座標系内においてHMD110の各軸周りの傾きだけ各軸周りにそれぞれ傾けることによって新たに得られる3つの方向を、HMD110におけるuvw視野座標系のピッチ方向(u軸)、ヨー方向(v軸)、およびロール方向(w軸)として設定する。
ある局面において、HMD110を装着したユーザ190が直立し、かつ、正面を視認している場合、プロセッサ10は、グローバル座標系に平行なuvw視野座標系をHMD110に設定する。この場合、グローバル座標系における水平方向(x軸)、鉛直方向(y軸)、および前後方向(z軸)は、HMD110におけるuvw視野座標系のピッチ方向(u軸)、ヨー方向(v軸)、およびロール方向(w軸)に一致する。
uvw視野座標系がHMD110に設定された後、HMDセンサ120は、HMD110の動きに基づいて、設定されたuvw視野座標系におけるHMD110の傾き(傾きの変化量)を検出できる。この場合、HMDセンサ120は、HMD110の傾きとして、uvw視野座標系におけるHMD110のピッチ角(θu)、ヨー角(θv)、およびロール角(θw)をそれぞれ検出する。ピッチ角(θu)は、uvw視野座標系におけるピッチ方向周りのHMD110の傾き角度を表す。ヨー角(θv)は、uvw視野座標系におけるヨー方向周りのHMD110の傾き角度を表す。ロール角(θw)は、uvw視野座標系におけるロール方向周りのHMD110の傾き角度を表す。
HMDセンサ120は、検出されたHMD110の傾き角度に基づいて、HMD110が動いた後のHMD110におけるuvw視野座標系を、HMD110に設定する。HMD110と、HMD110のuvw視野座標系との関係は、HMD110の位置および傾きに関わらず、常に一定である。HMD110の位置および傾きが変わると、当該位置および傾きの変化に連動して、グローバル座標系におけるHMD110のuvw視野座標系の位置および傾きが変化する。
ある局面において、HMDセンサ120は、赤外線センサからの出力に基づいて取得される赤外線の光強度および複数の点間の相対的な位置関係(例えば、各点間の距離など)に基づいて、HMD110の現実空間内における位置を、HMDセンサ120に対する相対位置として特定してもよい。また、プロセッサ10は、特定された相対位置に基づいて、現実空間内(グローバル座標系)におけるHMD110のuvw視野座標系の原点を決定してもよい。
[仮想空間]
図10を参照して、仮想空間についてさらに説明する。図10は、ある実施の形態に従う仮想空間2を表現する一態様を概念的に表す図である。仮想空間2は、中心21の360度方向の全体を覆う全天球状の構造を有する。図10では、説明を複雑にしないために、仮想空間2のうちの上半分の天球が例示されている。仮想空間2では各メッシュが規定される。各メッシュの位置は、仮想空間2に規定されるXYZ座標系における座標値として予め規定されている。コンピュータ200は、仮想空間2に展開可能なコンテンツ(静止画、動画等)を構成する各部分画像を、仮想空間2において対応する各メッシュにそれぞれ対応付けて、ユーザによって視認可能な仮想空間画像22が展開される仮想空間2をユーザに提供する。
ある局面において、仮想空間2では、中心21を原点とするXYZ座標系が規定される。XYZ座標系は、例えば、グローバル座標系に平行である。XYZ座標系は視点座標系の一種であるため、XYZ座標系における水平方向、鉛直方向(上下方向)、および前後方向は、それぞれX軸、Y軸、Z軸として規定される。したがって、XYZ座標系のX軸(水平方向)がグローバル座標系のx軸と平行であり、XYZ座標系のY軸(鉛直方向)がグローバル座標系のy軸と平行であり、XYZ座標系のZ軸(前後方向)がグローバル座標系のz軸と平行である。
HMD110の起動時、すなわちHMD110の初期状態において、仮想カメラ1が、仮想空間2の中心21に配置される。仮想カメラ1は、現実空間におけるHMD110の動きに連動して、仮想空間2を同様に移動する。これにより、現実空間におけるHMD110の位置および向きの変化が、仮想空間2において同様に再現される。
仮想カメラ1には、HMD110の場合と同様に、uvw視野座標系が規定される。仮想空間2における仮想カメラのuvw視野座標系は、現実空間(グローバル座標系)におけるHMD110のuvw視野座標系に連動するように規定されている。したがって、HMD110の傾きが変化すると、それに応じて、仮想カメラ1の傾きも変化する。また、仮想カメラ1は、HMD110を装着したユーザの現実空間における移動に連動して、仮想空間2において移動することもできる。
仮想カメラ1の向きは、仮想カメラ1の位置および傾きに応じて決まるので、ユーザが仮想空間画像22を視認する際に基準となる視線(基準視線5)は、仮想カメラ1の向きに応じて決まる。コンピュータ200のプロセッサ10は、基準視線5に基づいて、仮想空間2における視界領域23を規定する。視界領域23は、仮想空間2のうち、HMD110を装着したユーザの視界に対応する。
注視センサ140によって検出されるユーザ190の視線方向は、ユーザ190が物体を視認する際の視点座標系における方向である。HMD110のuvw視野座標系は、ユーザ190がモニタ112を視認する際の視点座標系に等しい。また、仮想カメラ1のuvw視野座標系は、HMD110のuvw視野座標系に連動している。したがって、ある局面に従うHMDシステム100は、注視センサ140によって検出されたユーザ190の視線方向を、仮想カメラ1のuvw視野座標系におけるユーザの視線方向とみなすことができる。
[ユーザの視線]
図11を参照して、ユーザの視線方向の決定について説明する。図11は、ある実施の形態に従うHMD110を装着するユーザ190の頭部を上から表した図である。
ある局面において、注視センサ140は、ユーザ190の右目および左目の各視線を検出する。ある局面において、ユーザ190が近くを見ている場合、注視センサ140は、視線R1およびL1を検出する。別の局面において、ユーザ190が遠くを見ている場合、注視センサ140は、視線R2およびL2を検出する。この場合、ロール方向wに対して視線R2およびL2がなす角度は、ロール方向wに対して視線R1およびL1がなす角度よりも小さい。注視センサ140は、検出結果をコンピュータ200に送信する。
コンピュータ200が、視線の検出結果として、視線R1およびL1の検出値を注視センサ140から受信した場合には、その検出値に基づいて、視線R1およびL1の交点である注視点N1を特定する。一方、コンピュータ200は、視線R2およびL2の検出値を注視センサ140から受信した場合には、視線R2およびL2の交点を注視点として特定する。コンピュータ200は、特定した注視点N1の位置に基づき、ユーザ190の視線方向N0を特定する。コンピュータ200は、例えば、ユーザ190の右目Rと左目Lとを結ぶ直線の中点と、注視点N1とを通る直線の延びる方向を、視線方向N0として検出する。視線方向N0は、ユーザ190が両目により実際に視線を向けている方向である。また、視線方向N0は、視界領域23に対してユーザ190が実際に視線を向けている方向に相当する。
別の局面において、HMDシステム100は、HMDシステム100を構成するいずれかのパーツに、マイクおよびスピーカを備えてもよい。ユーザは、マイクに発話することにより、仮想空間2に対して、音声による指示を与えることができる。
また、別の局面において、HMDシステム100は、テレビジョン放送受信チューナを備えてもよい。このような構成によれば、HMDシステム100は、仮想空間2においてテレビ番組を表示することができる。
さらに別の局面において、HMDシステム100は、インターネットに接続するための通信回路、あるいは、電話回線に接続するための通話機能を備えていてもよい。
[視界領域]
図12および図13を参照して、視界領域23について説明する。図12は、仮想空間2において視界領域23をX方向から見たYZ断面を表す図である。図13は、仮想空間2において視界領域23をY方向から見たXZ断面を表す図である。
図12に示されるように、YZ断面における視界領域23は、領域24を含む。領域24は、仮想カメラ1の基準視線5と仮想空間2のYZ断面とによって定義される。プロセッサ10は、仮想空間における基準視線5を中心として極角αを含む範囲を、領域24として規定する。
図13に示されるように、XZ断面における視界領域23は、領域25を含む。領域25は、基準視線5と仮想空間2のXZ断面とによって定義される。プロセッサ10は、仮想空間2における基準視線5を中心とした方位角βを含む範囲を、領域25として規定する。
ある局面において、HMDシステム100は、コンピュータ200からの信号に基づいて、視界画像26をモニタ112に表示させることにより、ユーザ190に仮想空間を提供する。視界画像26は、仮想空間画像22のうち視界領域23に重畳する部分に相当する。ユーザ190が、頭に装着したHMD110を動かすと、その動きに連動して仮想カメラ1も動く。その結果、仮想空間2における視界領域23の位置が変化する。これにより、モニタ112に表示される視界画像26は、仮想空間画像22のうち、仮想空間2においてユーザが向いた方向の視界領域23に重畳する画像に更新される。ユーザは、仮想空間2における所望の方向を視認することができる。
ユーザ190は、HMD110を装着している間、現実世界を視認することなく、仮想空間2に展開される仮想空間画像22のみを視認できる。そのため、HMDシステム100は、仮想空間2への高い没入感覚をユーザに与えることができる。
ある局面において、プロセッサ10は、HMD110を装着したユーザ190の現実空間における移動に連動して、仮想空間2において仮想カメラ1を移動し得る。この場合、プロセッサ10は、仮想空間2における仮想カメラ1の位置および向きに基づいて、HMD110のモニタ112に投影される画像領域(すなわち、仮想空間2における視界領域23)を特定する。
ある実施の形態に従うと、仮想カメラ1は、二つの仮想カメラ、すなわち、右目用の画像を提供するための仮想カメラと、左目用の画像を提供するための仮想カメラとを含むことが望ましい。また、ユーザ190が3次元の仮想空間2を認識できるように、適切な視差が、二つの仮想カメラに設定されていることが好ましい。本実施の形態においては、仮想カメラ1が二つの仮想カメラを含み、二つの仮想カメラのロール方向が合成されることによって生成されるロール方向(w)がHMD110のロール方向(w)に適合されるように構成されているものとして、本開示に係る技術思想を例示する。
[コントローラ]
図14を参照して、コントローラ160の一例について説明する。図14は、ある実施の形態に従うコントローラ160の概略構成を表す図である。
図14の分図(A)に示されるように、ある局面において、コントローラ160は、右コントローラ800と左コントローラとを含み得る。右コントローラ800は、ユーザ190の右手で操作される。左コントローラは、ユーザ190の左手で操作される。ある局面において、右コントローラ800と左コントローラとは、別個の装置として対称に構成される。したがって、ユーザ190は、右コントローラ800を把持した右手と、左コントローラを把持した左手とをそれぞれ自由に動かすことができる。別の局面において、コントローラ160は両手の操作を受け付ける一体型のコントローラであってもよい。以下、右コントローラ800について説明する。
右コントローラ800は、グリップ30と、プレート31と、天面32とを備える。グリップ30は、ユーザ190の右手によって把持されるように構成されている。例えば、グリップ30は、ユーザ190の右手の掌と3本の指(中指、薬指、小指)とによって保持され得る。
グリップ30は、ボタン33,34と、モーションセンサ130とを含む。ボタン33は、グリップ30の側面に配置され、右手の中指による操作を受け付ける。ボタン34は、グリップ30の前面に配置され、右手の人差し指による操作を受け付ける。ある局面において、ボタン33,34は、トリガー式のボタンとして構成される。モーションセンサ130は、グリップ30の筐体に内蔵されている。なお、ユーザ190の動作がカメラその他の装置によってユーザ190の周りから検出可能である場合には、グリップ30は、モーションセンサ130を備えなくてもよい。
プレート31は、その円周方向に沿って配置された複数の赤外線LED35を含む。赤外線LED35は、コントローラ160を使用するプログラムの実行中に、当該プログラムの進行に合わせて赤外線を発光する。赤外線LED35から発せられた赤外線は、右コントローラ800と左コントローラ(図示しない)との各位置や姿勢(傾き、向き)を検出するために使用され得る。図14に示される例では、二列に配置された赤外線LED35が示されているが、配列の数は図14に示されるものに限られない。一列あるいは3列以上の配列が使用されてもよい。
天面32は、ボタン36,37と、アナログスティック38とを備える。ボタン36,37は、プッシュ式ボタンとして構成される。ボタン36,37は、ユーザ190の右手の親指による操作を受け付ける。アナログスティック38は、ある局面において、初期位置(ニュートラルの位置)から360度任意の方向への操作を受け付ける。当該操作は、例えば、仮想空間2に配置されるオブジェクトを移動するための操作を含む。
ある局面において、右コントローラ800および左コントローラは、赤外線LED35その他の部材を駆動するための電池を含む。電池は、充電式、ボタン型、乾電池型等を含むが、これらに限定されない。別の局面において、右コントローラ800と左コントローラは、例えば、コンピュータ200のUSBインターフェイスに接続され得る。この場合、右コントローラ800および左コントローラは、電池を必要としない。
図14の分図(B)は、右コントローラ800を把持するユーザ190の右手に対応して仮想空間に配置されるハンドオブジェクト810の一例を示す。例えば、ユーザ190の右手に対応するハンドオブジェクト810に対して、ヨー、ロール、ピッチの各方向が規定される。例えば、入力操作が、右コントローラ800のボタン34に対して行なわれると、ハンドオブジェクト810の人差し指を握りこんだ状態とし、入力操作がボタン34に対して行なわれていない場合には、分図(B)に示すように、ハンドオブジェクト810の人差し指を伸ばした状態とすることもできる。例えば、ハンドオブジェクト810において親指と人差し指とが伸びている場合に、親指の伸びる方向がヨー方向、人差し指の伸びる方向がロール方向、ヨー方向の軸およびロール方向の軸によって規定される平面に垂直な方向がピッチ方向としてハンドオブジェクト810に規定される。
[HMDの制御装置]
図15を参照して、HMD110の制御装置について説明する。ある実施の形態において、制御装置は周知の構成を有するコンピュータ200によって実現される。図15は、ある実施の形態に従うコンピュータ200をモジュール構成として表わすブロック図である。
図15に示されるように、コンピュータ200は、表示制御モジュール220と、仮想空間制御モジュール230と、メモリモジュール240と、通信制御モジュール250と、出力音声制御モジュール211とを備える。表示制御モジュール220は、サブモジュールとして、仮想カメラ制御モジュール221と、視界領域決定モジュール222と、視界画像生成モジュール223と、基準視線特定モジュール224とを含む。仮想空間制御モジュール230は、サブモジュールとして、仮想空間定義モジュール231と、仮想オブジェクト生成モジュール232と、手オブジェクト管理モジュール233とを含む。
ある実施の形態において、表示制御モジュール220と仮想空間制御モジュール230とは、プロセッサ10によって実現される。別の実施の形態において、複数のプロセッサ10が表示制御モジュール220と仮想空間制御モジュール230として作動してもよい。メモリモジュール240は、メモリ11またはストレージ12によって実現される。通信制御モジュール250は、通信インターフェイス14によって実現される。
ある局面において、表示制御モジュール220は、HMD110のモニタ112における画像表示を制御する。仮想カメラ制御モジュール221は、仮想空間2に仮想カメラ1を配置し、仮想カメラ1の挙動、向き等を制御する。視界領域決定モジュール222は、視界領域23を規定する。視界画像生成モジュール223は、決定された視界領域23に基づいて、モニタ112に表示される視界画像26を生成する。
基準視線特定モジュール224は、注視センサ140からの信号に基づいて、ユーザ190の視線を特定する。
仮想空間制御モジュール230は、ユーザ190に提供される仮想空間2を制御する。仮想空間定義モジュール231は、仮想空間2を表わす仮想空間データを生成することにより、HMDシステム100における仮想空間2を規定する。
仮想オブジェクト生成モジュール232は、仮想空間2に表示される対象物を生成する。対象物は、一例では、ネットワーク19上の他のHMDシステム100のユーザのアバター、ならびに、イベント会場におけるステージおよびスクリーン等の設置物を含む。対象物は、他の例では、ゲームのストーリーの進行に従って表示される森、山その他を含む風景、動物等を含む。さらに他の例では、戦闘ゲームにおいて表示される、味方および敵の戦士のアバター、建造物、陣営に設置された屏風および椅子などのオブジェクト、ならびに、戦闘に利用される馬および戦車を含む。
手オブジェクト管理モジュール233は、手オブジェクトを仮想空間2に配置する。以下の説明において、仮想空間2に配置された手オブジェクトは、「仮想手」とも称する。手オブジェクトは、例えば、コントローラ160を保持したユーザ190の右手あるいは左手に対応する。ある局面において、手オブジェクト管理モジュール233は、左手オブジェクト910または右手オブジェクト920を仮想空間2に配置するためのデータを生成する。別の局面において、手オブジェクト管理モジュール233は、ユーザ190によるコントローラ160の操作に応じて、左手オブジェクト910または右手オブジェクト920が他のオブジェクト(例えば、オブジェクト900またはオブジェクト1000)を回転させる動作を示すためのデータを生成する。当該動作は、例えば、オブジェクト900として示されるハンドルを握る手が、当該ハンドルを回転させることを含む。
メモリモジュール240は、コンピュータ200が仮想空間2をユーザ190に提供するために使用されるデータを保持している。ある局面において、メモリモジュール240は、空間情報241と、オブジェクト情報242と、ユーザ情報243とを保持している。
空間情報241は、仮想空間2を提供するために規定された1つ以上のテンプレートを保持している。
オブジェクト情報242は、仮想空間2において再生されるコンテンツ、当該コンテンツで使用されるオブジェクトを表示するための情報を保持している。当該コンテンツは、例えば、ゲーム、現実社会と同様の風景を表したコンテンツ等を含み得る。
ユーザ情報243は、HMDシステム100の制御装置としてコンピュータ200を機能させるためのプログラム、オブジェクト情報242に保持される各コンテンツを使用するアプリケーションプログラム等を保持している。メモリモジュール240に格納されているデータおよびプログラムは、HMD110のユーザによって入力される。あるいは、プロセッサ10が、当該コンテンツを提供する事業者が運営するコンピュータ(例えば、サーバ150)からプログラムあるいはデータをダウンロードして、ダウンロードされたプログラムあるいはデータをメモリモジュール240に格納する。
通信制御モジュール250は、ネットワーク19を介して、サーバ150その他の情報通信装置と通信し得る。
出力音声制御モジュール211は、スピーカ210による音声の出力を制御する。
ある局面において、表示制御モジュール220および仮想空間制御モジュール230は、ユニティテクノロジーズ社によって提供されるUnity(登録商標)を用いて実現され得る。
[制御構造]
図16を参照して、HMDシステム100の制御構造について説明する。図16は、ある実施の形態に従うHMDシステム100において実行される処理の一部を表わすシーケンスチャートである。
ステップS1110にて、コンピュータ200のプロセッサ10は、仮想空間定義モジュール231として、仮想空間画像データを特定する。
ステップS1110では、プロセッサ10は、たとえば、サーバ150に対し、イベントへの参加を申請する情報を送信してもよい。これに応じて、サーバ150は、コンピュータ200に、当該イベントの会場を表わす仮想空間の画像データ(仮想空間画像データ)を送信してもよい。
ステップS1120にて、プロセッサ10は、仮想カメラ1を初期化する。例えば、プロセッサ10は、仮想カメラ1を仮想空間2において予め規定された中心点に配置し、仮想カメラ1の視線をユーザ190が向いている方向に向ける。
ステップS1130にて、プロセッサ10は、視界画像生成モジュール223として、初期の視界画像を表示するための視界画像データを生成する。生成された視界画像データは、視界画像生成モジュール223を介して通信制御モジュール250によってHMD110に送られる。
ステップS1132にて、HMD110のモニタ112は、コンピュータ200から受信した信号に基づいて、視界画像を表示する。HMD110を装着したユーザ190は、視界画像を視認すると仮想空間2を認識し得る。
ステップS1134にて、HMDセンサ120は、HMD110から発信される複数の赤外線光に基づいて、HMD110の位置と傾きを検知する。検知結果は、動き検知データとして、コンピュータ200に送られる。
ステップS1140にて、プロセッサ10は、HMD110の位置と傾きとに基づいて、HMD110を装着したユーザ190の視界方向を特定する。プロセッサ10は、アプリケーションプログラムを実行し、アプリケーションプログラムに含まれる命令に基づいて、仮想空間2においてオブジェクトを表示させる。ユーザ190は、そのアプリケーションプログラムの実行により仮想空間2において視認可能なコンテンツを楽しむ。
ある局面において、当該コンテンツは、ユーザにイベント会場を体感させるためのアプリケーション(以下、「イベントアプリケーション」ともいう)を含む。イベントアプリケーションは、ユーザに、仮想空間として、イベント会場内の風景を提供する。プロセッサ10は、HMD110の位置と傾きに応じて、ユーザに視認させる仮想空間画像を変更する。
ステップS1150にて、コントローラ160は、ユーザ190の操作を検出し、検出された操作を示す信号をコンピュータ200に送信する。当該信号は、表示された2つ以上のオブジェクトのうち1つ以上のオブジェクトを指定する操作を含む。より具体的には、当該信号は、仮想手を表示させ、当該仮想手で、表示された2つ以上のオブジェクトのうち1つ以上のオブジェクトに触れる動作を示す操作を示す信号を含む。当該信号は、選択された2以上のメニューから1以上のメニューを選択する操作を示す信号を含む。
ステップS1152にて、プロセッサ10は、コントローラ160から受信した信号に基づいて、ユーザの状態(アプリケーションの状態)を判断する。
ステップS1160で、プロセッサ10は、HMD110の位置および傾き、ユーザ190の操作、ならびに/または、各オブジェクトの設定に従って、視界画像を更新し、更新された視界画像を表示するためのデータ(視界画像データ)をHMD110に送信する。視界画像の更新は、仮想空間内のオブジェクトの透過度の変更、オブジェクトの消去、および、オブジェクトの移動の中のいずれかを含んでもよい。
ステップS1162にて、HMD110のモニタ112は、受信した視界画像データに基づいて視界画像を更新し、更新後の視界画像を表示する。
ステップS1170で、プロセッサ10は、HMD110の位置および傾き、ユーザ190の操作、ならびに/または、各オブジェクトの設定に従って、視界画像を更新し、更新された視界画像を表示するためのデータ(視界画像データ)をHMD110に送信する。視界画像の更新は、仮想空間内のオブジェクトの透過度の変更、オブジェクトの消去、および、オブジェクトの移動の中のいずれかを含んでもよい。
ステップS1162にて、HMD110のモニタ112は、受信した視界画像データに基づいて視界画像を更新し、更新後の視界画像を表示する。
[データ構造]
ある実施の形態において、コンピュータ200は、HMD110にコンテンツを再生させ、再生中のコンテンツに関連付けられたタグ情報を取得する。一方、コンピュータ200は、HMD110のユーザのライフログとして、複数のコンテンツを格納する。コンピュータ200は、ライフログから、再生中のコンテンツのタグ情報と同じまたは一定の関係を有するタグ情報に関連付けられたコンテンツを検索し、その検索結果を報知する。ここで、再生用のコンテンツに関連付けられた情報およびライフログのコンテンツに関連付けられた情報のそれぞれについて、説明する。
(再生用コンテンツに関連付けられた情報)
図17は、再生用コンテンツに関連付けられた情報の一例を模式的に示す図である。図17に示された情報は、たとえばサーバ150のコンテンツ格納部512A(図3)に格納されている。図17に示されるように、各コンテンツは、コンテンツ名、ファイル名、格納場所、タグ情報(時間)、タグ情報(位置)、および、タグ情報(人物)に関連付けられている。
図17に示された例では、あるコンテンツを構成する1つの画像ファイルについて、コンテンツ名「映像(1)」、ファイル名「画像0001」、格納場所「Y\files\01」、タグ情報(時間)「2010.11.1」、および、タグ情報(位置)「ロンドン」が関連付けられている。当該画像ファイルには、タグ情報(人物)は関連付けられていない。図17に示された例における各項目は、図4に示されたそれぞれの項目と同様の意味を有するため、ここでは説明を繰り返さない。
(ライフログに関連付けられた情報)
図18は、ライフログを構成するコンテンツに関連付けられた情報の一例を模式的に示す図である。図18に示された情報は、たとえば、コンピュータ200のストレージ12(図8)に格納されている。図18に示されるように、各コンテンツは、コンテンツ名、ファイル名、格納場所、タグ情報(時間)、タグ情報(位置)、および、タグ情報(人物)に関連付けられている。
図18に示された例では、あるコンテンツについて、コンテンツ名「Image001」、ファイル名「Image001」、格納場所「C\images\01」、タグ情報(時間)「2016.11.1 14:00」、タグ情報(位置)「東京」、および、タグ情報(人物)「A,B,C,D」が関連付けられている。図18に示された例における各項目は、図4に示されたそれぞれの項目と同様の意味を有するため、ここでは説明を繰り返さない。
[処理の流れ]
図19は、ある実施の形態においてコンピュータ200が再生中のコンテンツについて情報を報知するための処理のフローチャートである。図19に示された処理は、たとえば、コンピュータ200のプロセッサ10(図8)がストレージ12に格納されたプログラムを実行することによって実現される。
図19に示された処理は、コンピュータ200がHMD110にコンテンツを再生させているときに実行される。図19の処理は、コンテンツ再生用のアプリケーションの一部として実行されてもよいし、コンテンツ再生用のアプリケーションとは関係無く実行されてもよい。図19の処理は、図5に示された処理に対して、ステップS10の代わりにステップS12の制御を含む。以下、図19の処理の内容について、図5に示された処理との差異を中心に、説明する。ここで、コンピュータ200がHMD110に再生させるコンテンツは、予めコンテンツ制作者によって制作されたコンテンツであってもよいし、遠隔地でカメラにより撮影されてライブ配信される映像コンテンツであってもよい。また、ライブ配信される映像コンテンツは、360度撮影に対応したカメラにより生成される360度動画であってもよい。
ステップS12にて、プロセッサ10は、情報提供のための条件が成立したか否かを判断する。情報提供のための条件の一例は、HMD110から予め定められた情報が入力されたことである。この例では、たとえばHMD110を装着したユーザが特定の動きをすることに応じて、情報提供のための条件が成立する。
情報提供のための条件の他の例は、前回の情報提供のための条件の成立から一定時間が経過したことである。これにより、一定時間が経過するたびに情報提供のための条件が成立する。
情報提供のための条件のさらに他の例は、コンテンツの再生位置が特定の情報を付された位置に到達したことである。コンテンツの制作者は、再生用のコンテンツの意図する再生位置に上記特定の情報を埋め込むことができる。これにより、コンテンツの制作者は、意図する再生位置で、情報提供のための条件を成立させることができる。
ステップS12にて、プロセッサ10は、情報提供のための条件が成立していないと判断すると(ステップS12でNO)、ステップS12に制御を留める。プロセッサ10は、情報提供のための条件が成立したと判断すると(ステップS12でYES)、ステップS20へ制御を進める。また、プロセッサ10は、ステップS12に示される、情報提供のための条件が成立することによってイベントが発生した場合に、当該イベントが発生したことによりステップS20以下の処理を実行することとしてもよい。
ステップS20にて、プロセッサ10は、再生中のコンテンツに関連付けられたタグ情報を取得する。一例では、プロセッサ10は、コンテンツ格納部512Aから、再生中の画像ファイルに関連付けられたタグ情報を読み出すことにより、タグ情報を取得する。なお、再生中のコンテンツが、ライブ配信される映像コンテンツである場合、ライブ配信を行うための配信サーバにより、ライブ配信中の映像コンテンツの画像を逐次画像認識すること等により、ライブ配信がなされている位置、ライブ配信の映像コンテンツに含まれる人物などのタグ情報が映像コンテンツに付加されることとしてもよい。
ステップS30にて、プロセッサ10は、ステップS20で取得されたタグ情報を検索キーとして、検索条件を満たすコンテンツをライフログから検索する。検索条件の一例は、ステップS20で取得されたタグ情報と同じタグ情報に関連付けられていることである。検索条件の他の例は、ステップS20で取得されたタグ情報に対して一定の関係を有するタグ情報に関連付けられていることである。「一定の関係」は、図5の説明において既に言及されているため、その説明は繰り返さない。
ステップS40にて、プロセッサ10は、ステップS30における検索の結果を報知する。報知の一例は、図6において画像IMG12として示されたように、再生中のコンテンツの画像に検索結果として得られたコンテンツを重畳させることである。報知の他の例は、検索結果として得られたコンテンツの、タグ情報を表示することである。報知のさらに他の例は、検索結果として得られたコンテンツの、タグ情報を音声で出力することである。
その後、プロセッサ10は、図19の処理を終了する。
ここで、図17および図18に示されたタグ情報を利用した検索について、より具体的に説明する。図17のファイル名「画像0001」で特定されるファイルは、タグ情報(時間)「2010.11.1」およびタグ情報(位置)「ロンドン」に関連付けられている。ファイル名「画像0001」で特定されるファイルの再生中に情報提供条件が成立すると(ステップS12でYES)、プロセッサ10は、ステップS20においてタグ情報(時間)「2010.11.1」およびタグ情報(位置)「ロンドン」を取得する。
ステップS30にて、プロセッサ10は、図18に示された情報を利用して検索結果を取得する。ステップS30における検索条件が「タグ情報(位置)が一致すること」である場合、プロセッサ10は、タグ情報(位置)「ロンドン」に関連付けられた2つのコンテンツ(ファイル名「Image101」,「Image102」)を検索結果として取得する。図18に示されたコンテンツのうち、ファイル名「Image101」,「Image102」がタグ情報(位置)「ロンドン」に関連付けられているからである。
ステップS40にて、プロセッサ10は、検索結果の報知の一例として、再生中のファイル名「画像0001」の画像にファイル名「Image101」の画像とファイル名「Image102」の画像が重畳された画像(たとえば、図6の画像IMG12)を表示する。
なお、ステップS30における検索条件が「タグ情報(位置)が一定の関係にあること」であり、一定の関係において「ロンドン」と「イギリス」とが関連付けられている場合、プロセッサ10は、タグ情報(位置)「ロンドン」に関連付けられた2つのコンテンツ(ファイル名「Image101」「Image102」)と、タグ情報(位置)「ロンドン」に関連付けられた2つのコンテンツ(ファイル名「Image103」「Image104」)とを検索結果として取得する。図18に示された情報において、ファイル名「Image101」「Image102」がタグ情報(位置)「ロンドン」に関連付けられ、ファイル名「Image103」,「Image104」がタグ情報(位置)「イギリス」に関連付けられているからである。
<開示の要約>
以上開示された技術的特徴は、例えば、以下のように要約され得る。
(1) 本開示によって、コンピュータによって実行される情報提供方法が提供される。一例では、当該方法において、コンピュータ(プロセッサ510,プロセッサ10)は第1のタグ情報に関連付けられた第1のコンテンツを取得する(図5のステップS10,図19のステップS20)。コンテンツの取得は、画像の撮影およびコンテンツの再生以外に、コンテンツ生成用のアプリケーションを利用したコンテンツの生成であってもよい。当該方法において、コンピュータは、タグ情報に関連付けられたコンテンツのデータベース(図4、図18)から、第1のタグ情報(たとえば、撮影された画像に付与されたタグ情報、または、再生中の画像に関連付けられたタグ情報)に対応する第2のタグ情報に関連付けられた第2のコンテンツを検索する(図5および図19のステップS30)。コンピュータは、検索の結果の報知を実行する(図5および図19のステップS40)。
(2) 第1のコンテンツは、第1のコンテンツの少なくとも一部を構成する画像を撮影することによって取得されてもよい(図5のステップS10)。
(3) 第1のコンテンツを取得することは、特定された場所を第1のタグ情報(タグ情報(場所))として第1のコンテンツに関連付けることを含んでもよい。
(4) 第1のコンテンツを取得することは、プロセッサ10が第1のコンテンツを再生するために記録媒体(サーバ150のコンテンツ格納部512A)から当該第1のコンテンツを取得することを含んでもよい(図6のステップ1)。
(5) プロセッサ10は、ヘッドマウントデバイスを用いて第1のコンテンツに対応する仮想空間を提供することにより、第1のコンテンツを再生してもよい(図7〜図16)。
(6) 報知は、第1のタグ情報および第2のタグ情報の少なくとも一方を出力することを含むことによって実現されてもよい(図1の音声「Bさんです。2016年4月1日9時30分、CさんとDさんと一緒に、X山で写真を撮りました。」)。
(7) 報知は、第2のコンテンツを出力することを含んでもよい(図1の画像IMG02、図6の画像IMG21,IMG22)。
(8) 第1のタグ情報は、位置、時間、および、人物のうちの少なくとも一つを特定する情報を含んでもよい(ステップS20において取得される、タグ情報(位置)、タグ情報(時間)、タグ情報(人物))。
今回開示された各実施の形態は全ての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内での全ての変更が含まれることが意図される。また、実施の形態および各変形例において説明された発明は、可能な限り、単独でも、組合わせても、実施されることが意図される。
1 仮想カメラ、1X ネットワークシステム、2 仮想空間、5 基準視線、10,401,510 プロセッサ、19 ネットワーク、21 中心、22 仮想空間画像、23 視界領域、24,25 領域、26 視界画像、30 グリップ、31 プレート、32 天面、38 アナログスティック、100 HMDシステム、112 モニタ、114,120 センサ、130 モーションセンサ、140,406 注視センサ、150 サーバ、160 コントローラ、190 ユーザ、200 コンピュータ、210,410 スピーカ、241 空間情報、242 オブジェクト情報、404 ディスプレイ、405 カメラ、407 マイク、450 レンズ、800 右コントローラ、810 右手、900,1000 オブジェクト、910 左手オブジェクト、920 右手オブジェクト。

Claims (10)

  1. コンピュータによって実行される情報提供方法であって、
    第1のタグ情報に関連付けられた第1のコンテンツを取得するステップと、
    タグ情報に関連付けられたコンテンツのデータベースから、前記第1のタグ情報に対応する第2のタグ情報に関連付けられた第2のコンテンツを検索するステップと、
    前記検索の結果の報知を実行するステップとを備える、情報提供方法。
  2. 前記第1のコンテンツを取得するステップは、前記第1のコンテンツの少なくとも一部を構成する画像を撮影することを含む、請求項1に記載の情報提供方法。
  3. 前記第1のコンテンツを取得するステップは、前記撮影の場所を前記第1のタグ情報として前記第1のコンテンツに関連付けることを含む、請求項2に記載の情報提供方法。
  4. 前記第1のコンテンツを取得するステップは、前記第1のコンテンツを再生するために記録媒体から当該第1のコンテンツを取得することを含む、請求項1〜請求項3のいずれか1項に記載の情報提供方法。
  5. ヘッドマウントデバイスを用いて前記第1のコンテンツを表わす仮想空間を提供することにより、前記第1のコンテンツを再生するステップをさらに備える、請求項4に記載の情報提供方法。
  6. 前記報知を実行するステップは、前記第1のタグ情報および前記第2のタグ情報の少なくとも一方を出力することを含む、請求項1〜請求項5のいずれか1項に記載の情報提供方法。
  7. 前記報知を実行するステップは、前記第2のコンテンツを出力することを含む、請求項1〜請求項6のいずれか1項に記載の情報提供方法。
  8. 前記第1のタグ情報は、位置、時間、および、人物のうちの少なくとも一つを特定する情報を含む、請求項1〜請求項7のいずれか1項に記載の情報提供方法。
  9. 請求項1〜請求項8のいずれか1項に記載の方法をコンピュータに実行させる、プログラム。
  10. 請求項9に記載のプログラムを格納したメモリと、
    前記プログラムを実行するためのプロセッサとを備える、情報提供装置。
JP2018153740A 2018-08-17 2018-08-17 情報提供方法、プログラム、および、情報提供装置 Pending JP2019012536A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018153740A JP2019012536A (ja) 2018-08-17 2018-08-17 情報提供方法、プログラム、および、情報提供装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018153740A JP2019012536A (ja) 2018-08-17 2018-08-17 情報提供方法、プログラム、および、情報提供装置

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2016254840A Division JP2018106579A (ja) 2016-12-28 2016-12-28 情報提供方法、プログラム、および、情報提供装置

Publications (1)

Publication Number Publication Date
JP2019012536A true JP2019012536A (ja) 2019-01-24

Family

ID=65226935

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018153740A Pending JP2019012536A (ja) 2018-08-17 2018-08-17 情報提供方法、プログラム、および、情報提供装置

Country Status (1)

Country Link
JP (1) JP2019012536A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2020189691A1 (ja) * 2019-03-18 2020-09-24

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2020189691A1 (ja) * 2019-03-18 2020-09-24
JP7328322B2 (ja) 2019-03-18 2023-08-16 株式会社ソニー・インタラクティブエンタテインメント 入力デバイス

Similar Documents

Publication Publication Date Title
US10262461B2 (en) Information processing method and apparatus, and program for executing the information processing method on computer
JP6263252B1 (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP6298558B1 (ja) 仮想空間を提供するための方法、および当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置
US10545339B2 (en) Information processing method and information processing system
JP6470356B2 (ja) 仮想空間を提供するコンピュータで実行されるプログラム、方法、および当該プログラムを実行する情報処理装置
US10546407B2 (en) Information processing method and system for executing the information processing method
JP6330089B1 (ja) 仮想空間を提供するためにコンピュータで実行されるプログラム、情報処理装置および仮想空間を提供するための方法
JP6392945B1 (ja) 仮想空間を提供するコンピュータで実行されるプログラム、方法、および当該プログラムを実行する情報処理装置
JP6290467B1 (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるプログラム
JP6242473B1 (ja) 仮想空間を提供するための方法、および当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置
JP6321263B1 (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
US20190005732A1 (en) Program for providing virtual space with head mount display, and method and information processing apparatus for executing the program
JP6470859B1 (ja) ユーザの動きをアバタに反映するためのプログラム、当該プログラムを実行するための情報処理装置、およびアバタを含む映像を配信するための方法
JP2019128721A (ja) ユーザの動きをアバタに反映するためのプログラム、当該プログラムを実行するための情報処理装置、およびアバタを含む映像を配信するための方法
JP2018125003A (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるプログラム
JP2018106579A (ja) 情報提供方法、プログラム、および、情報提供装置
JP2018092416A (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるプログラム
JP2019032844A (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP6382928B2 (ja) 仮想空間における画像の表示を制御するためにコンピュータによって実行される方法、当該方法をコンピュータに実現させるためのプログラム、および、コンピュータ装置
JP2019012536A (ja) 情報提供方法、プログラム、および、情報提供装置
JP2018192238A (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP2019021324A (ja) 仮想空間を提供するコンピュータで実行されるプログラム、方法、および当該プログラムを実行する情報処理装置
JP2018170013A (ja) 仮想空間における画像の表示を制御するためにコンピュータによって実行される方法、当該方法をコンピュータに実現させるためのプログラム、および、コンピュータ装置
JP2018092635A (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP6875029B1 (ja) 方法、プログラム、情報処理装置