JPWO2019102676A1 - 情報処理装置、情報処理方法、およびプログラム - Google Patents

情報処理装置、情報処理方法、およびプログラム Download PDF

Info

Publication number
JPWO2019102676A1
JPWO2019102676A1 JP2019556103A JP2019556103A JPWO2019102676A1 JP WO2019102676 A1 JPWO2019102676 A1 JP WO2019102676A1 JP 2019556103 A JP2019556103 A JP 2019556103A JP 2019556103 A JP2019556103 A JP 2019556103A JP WO2019102676 A1 JPWO2019102676 A1 JP WO2019102676A1
Authority
JP
Japan
Prior art keywords
information
user
dimensional image
information processing
point
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019556103A
Other languages
English (en)
Other versions
JP7196856B2 (ja
Inventor
祐平 滝
祐平 滝
壮一郎 稲谷
壮一郎 稲谷
広 岩瀬
広 岩瀬
山野 郁男
郁男 山野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JPWO2019102676A1 publication Critical patent/JPWO2019102676A1/ja
Application granted granted Critical
Publication of JP7196856B2 publication Critical patent/JP7196856B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/001Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background
    • G09G3/003Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background to produce spatial visual effects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/194Transmission of image signals
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0093Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for monitoring data relating to the user, e.g. head-tracking, eye-tracking
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04815Interaction with a metaphor-based environment or interaction object displayed as three-dimensional, e.g. changing the user viewpoint with respect to the environment or object
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/167Synchronising or controlling image signals
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/02Improving the quality of display appearance
    • G09G2320/0261Improving the quality of display appearance in the context of movement of objects on the screen or movement of the observer relative to the screen
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2354/00Aspects of interface with display user
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2380/00Specific applications
    • G09G2380/10Automotive applications

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Optics & Photonics (AREA)
  • Computer Hardware Design (AREA)
  • Information Transfer Between Computers (AREA)
  • User Interface Of Digital Computer (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

複数ユーザが共有して三次元映像を閲覧する際の快適性を向上させることが可能な情報処理装置、情報処理方法、およびプログラムを提供する。第1のユーザの位置情報および視線情報と、第2のユーザの位置情報および視線情報と、前記第1のユーザと前記第2のユーザが共有して視認する三次元画像情報の表示位置情報とに基づいて、前記3次元画像情報の送信開始点を決定する制御を行う制御部を備える、情報処理装置。

Description

本開示は、情報処理装置、情報処理方法、およびプログラムに関する。
近年、情報処理技術および通信技術の発達により、バーチャルな世界をよりリアルに体感することができるAR(Augmented Reality)やVR(Virtual Reality)環境が提案されている。
例えば、下記特許文献1では、透過型のHMD(Head Mounted Display)を介して視認し得る実空間に重なって表示オブジェクトを重畳表示する所謂ARに関する技術が開示されている。
特開2017−120550号公報
しかしながら、高解像度やアニメーション付きの大容量3Dモデルを閲覧しようとした場合、モデルデータのダウンロードが間に合わず、長い待ち時間が発生して快適な閲覧が困難となる。特に複数ユーザで同時に共通の3Dモデル(三次元映像)を閲覧する場合、ダウンロードを待つ間は3Dモデルに関する自由なコミュニケーションが阻害される。
そこで、本開示では、複数ユーザが共有して三次元映像を閲覧する際の快適性を向上させることが可能な情報処理装置、情報処理方法、およびプログラムを提案する。
本開示によれば、第1のユーザの位置情報および視線情報と、第2のユーザの位置情報および視線情報と、前記第1のユーザと前記第2のユーザが共有して視認する三次元画像情報の表示位置情報とに基づいて、前記3次元画像情報の送信開始点を決定する制御を行う制御部を備える、情報処理装置を提案する。
本開示によれば、プロセッサが、第1のユーザの位置情報および視線情報と、第2のユーザの位置情報および視線情報と、前記第1のユーザと前記第2のユーザが共有して視認する三次元画像情報の表示位置情報とに基づいて、前記3次元画像情報の送信開始点を決定する制御を行うこと、を含む、情報処理方法を提案する。
本開示によれば、コンピュータを、第1のユーザの位置情報および視線情報と、第2のユーザの位置情報および視線情報と、前記第1のユーザと前記第2のユーザが共有して視認する三次元画像情報の表示位置情報とに基づいて、前記3次元画像情報の送信開始点を決定する制御を行う制御部、として機能させるための、プログラムを提案する。
以上説明したように本開示によれば、複数ユーザが共有して三次元映像を閲覧する際の快適性を向上させることが可能となる。
なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握され得る他の効果が奏されてもよい。
本開示の一実施形態による情報処理システムの概要について説明する図である。 本実施形態による情報処理端末の構成の一例を示すブロック図である。 本実施形態によるサーバの構成の一例を示すブロック図である。 本実施形態によるダウンロード開始点の第1の決定手法の概要について説明する図である。 本実施形態による3Dモデルデータのサイズ概要情報について説明する図である。 本実施形態によるダウンロード開始点の第1の決定手法において、サイズ概要図形および基準点を参照して行うダウンロード開始点の決定について説明する図である。 本実施形態によるダウンロード開始点の第2の決定手法において、3Dモデルデータに多数のダウンロード開始可能点が設けられている場合について説明する図である。 ダウンロード開始点の第2の決定手法において、ダウンロード開始可能点を参照して行うダウンロード開始点の決定について説明する図である。 本実施形態によるダウンロード開始可能点を用いたダウンロード進行方向の決定について説明する図である。 本実施形態による高頻度注視点を用いたダウンロード進行方向の決定について説明する図である。 本実施形態による複数のダウンロード開始点の決定について説明する図である。 本実施形態による情報処理システムの処理の流れを示すシーケンス図である。 本開示の一実施形態に係る情報処理装置のハードウェア構成例を示すブロック図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
また、説明は以下の順序で行うものとする。
1.本開示の一実施形態による情報処理システムの概要
2.構成
2−1.情報処理端末1の構成
2−2.サーバ2の構成
3.動作処理
4.ハードウェア構成
5.まとめ
<<1.本開示の一実施形態による情報処理システムの概要>>
図1は、本開示の一実施形態による情報処理システムの概要について説明する図である。図1に示すように、本実施形態による情報処理システムは、サーバ2と、情報処理端末1Aと、情報処理端末1Bとを含む。
情報処理端末1は、例えば仮想オブジェクトを透過型の表示部に表示して実空間に重畳して見えるよう制御し、拡張現実を実現する所謂AR(Augmented Reality)端末、具体的には例えばメガネ型ウェアラブルデバイスである。
(背景)
ここで、情報処理端末1Aを装着するユーザAおよび情報処理端末1Bを装着するユーザBが同じ空間内に存在し、サーバ2から受信したデータに基づいて、同じ仮想オブジェクトを共有して閲覧する場合を想定する。複数ユーザが同時に共通の仮想オブジェクトを閲覧し、その場でコミュニケーションを取る場合、データのダウンロードに時間が掛かると待機時間が生じ、ユーザの自由なコミュニケーションが阻害されてしまう。
特に、3Dモデルデータ(三次元画像情報)等、2Dデータと比較して高精細、大容量のデータの表示を行う場合、データ量が非常に大きいため、単純にサーバ2から全てのデータのダウンロードを完了した後に表示する方法では、ユーザを長時間待たせることになり、快適なAR体験を阻害する恐れがある。
そこで、本実施形態では、複数ユーザの位置および視線方向に基づいて、複数ユーザから見える部分を優先的にダウンロードするよう、ダウンロード開始点を決定することで、複数ユーザの閲覧状況に差分が生じさせずに、待ち時間を削減して快適な閲覧を可能とし、視聴体験を向上させることを可能とする。複数ユーザは、共通して見え始めた部分についてすぐに自由なコミュニケーションを開始することができる。
以上、本開示の一実施形態による情報処理システムについて説明した。続いて、本実施形態による情報処理システムに含まれる各装置の具体的な構成について図面を参照して説明する。
<<2.構成>>
<2−1.情報処理端末1の構成>
図2は、本実施形態による情報処理端末1の構成の一例を示すブロック図である。図2に示すように、情報処理端末1は、センサ部11、制御部12、表示部13、スピーカー14、通信部15、操作入力部16、および記憶部17を有する。
(センサ部11)
センサ部11は、ユーザまたは周辺環境に関する各種情報を取得する機能を有する。例えばセンサ部11は、外向きカメラ110、内向きカメラ111、マイク112、ジャイロセンサ113、加速度センサ114、方位センサ115、位置測位部116、および生体センサ117を含む。なお、ここで挙げるセンサ部11の具体例は一例であって、本実施形態はこれに限定されない。また、各センサはそれぞれ複数であってもよい。
また、図2に示すセンサ部11の具体例は好ましい一例として挙げたものであるが、これら全てを有することを必須とするものではない。例えば、外向きカメラ110、加速度センサ114、および位置測位部116のみ等、図2に示すセンサ部11の具体例のうち一部を有する構成であってもよいし、さらに他のセンサを有する構成であってもよい。
外向きカメラ110および内向きカメラ111は、撮像レンズ、絞り、ズームレンズ、及びフォーカスレンズ等により構成されるレンズ系、レンズ系に対してフォーカス動作やズーム動作を行わせる駆動系、レンズ系で得られる撮像光を光電変換して撮像信号を生成する固体撮像素子アレイ等を各々有する。固体撮像素子アレイは、例えばCCD(Charge Coupled Device)センサアレイや、CMOS(Complementary Metal Oxide Semiconductor)センサアレイにより実現されてもよい。
なお、本実施形態において、外向きカメラ110は、実空間におけるユーザの視界に相当する領域を撮像するように、画角、及び向きが設定されることが望ましい。
マイク112は、ユーザの音声や周囲の環境音を収音し、音声データとして制御部12に出力する。
ジャイロセンサ113は、例えば3軸ジャイロセンサにより実現され、角速度(回転速度)を検出する。
加速度センサ114は、例えば3軸加速度センサ(Gセンサとも称す)により実現され、移動時の加速度を検出する。
方位センサ115は、例えば3軸地磁気センサ(コンパス)により実現され、絶対方向(方位)を検出する。
位置測位部116は、外部からの取得信号に基づいて情報処理端末1の現在位置を検知する機能を有する。具体的には、例えば位置測位部116は、GPS(Global Positioning System)測位部により実現され、GPS衛星からの電波を受信して、情報処理端末1が存在している位置を検知し、検知した位置情報を制御部12に出力する。また、位置測位部116は、GPSの他、例えばWi−Fi(登録商標)、Bluetooth(登録商標)、携帯電話・PHS・スマートフォン等との送受信、または近距離通信等により位置を検知するものであってもよい。
生体センサ117は、ユーザの生体情報を検知する。具体的には、例えば心拍、体温、発汗、血圧、発汗、脈拍、呼吸、瞬目、眼球運動、凝視時間、瞳孔径の大きさ、血圧、脳波、体動、体位、皮膚温度、皮膚電気抵抗、MV(マイクロバイブレーション)、筋電位、またはSPO2(血中酸素飽和度))などを検知し得る。
(制御部12)
制御部12は、演算処理装置および制御装置として機能し、各種プログラムに従って情報処理端末1内の動作全般を制御する。制御部12は、例えばCPU(Central Processing Unit)、マイクロプロセッサ等の電子回路によって実現される。また、制御部12は、使用するプログラムや演算パラメータ等を記憶するROM(Read Only Memory)、及び適宜変化するパラメータ等を一時記憶するRAM(Random Access Memory)を含んでいてもよい。
本実施形態に係る制御部12は、例えば、各構成の起動や停止を制御する。また、制御部12は、制御信号を表示部13やスピーカー14に入力することができる。また、本実施形態による制御部12は、図2に示すように、視線検出部120、自己位置特定部122、シェア制御部124、および表示処理部126として機能してもよい。
視線検出部120は、センサ部11により取得したセンサデータに基づいて、ユーザの視線情報を検出する。具体的には、例えば視線検出部120は、センサ部11に含まれる外向きカメラ110、内向きカメラ111、ジャイロセンサ113、加速度センサ114、または方位センサ115により取得されたセンサデータに基づいて、ユーザの顔の向きや注視位置を解析し、ユーザの視線方向を視線情報として検出する。検出された視線情報は、制御部12により通信部15からサーバ2に送信される。
自己位置特定部122は、センサ部11により取得したセンサデータに基づいて、情報処理端末1の三次元位置、すなわち情報処理端末1を装着しているユーザの三次元位置を特定する。具体的には、例えば自己位置特定部122は、センサ部11に含まれる位置測位部116により取得された位置情報に基づいて、自己位置を特定してもよい。また、自己位置特定部122は、センサ部11により取得されたセンサデータに基づいて3次元空間の認識を行い、自己位置を特定してもよい。特定された自己位置は、制御部12により通信部15からサーバ2に送信される。
シェア制御部124は、同じ3Dモデルデータを共有して閲覧する他の情報処理端末と3Dモデルデータを共有する制御を行う。具体的には、シェア制御部124は、サーバ2から受信した3Dモデルデータを、共有者の情報処理端末に送信する制御を行う。また、シェア制御部124は、共有者の情報処理端末から3Dモデルデータを受信する制御も行い得る。
表示処理部126は、3Dモデルデータを表示部13に表示する処理を行う。具体的には、表示処理部126は、通信部15を介してサーバ2から受信した3Dモデルデータ、および共有者の情報処理端末から受信した3Dモデルデータを、指定の表示位置(実空間の三次元位置)に表示する。
(表示部13)
表示部13は、例えばホログラム光学技術を用いて表示を行うレンズ部(透過型表示部の一例)、液晶ディスプレイ(LCD)装置、OLED(Organic Light Emitting Diode)装置等により実現される。また、表示部13は、透過型、半透過型、または非透過型であってもよい。
(スピーカー14)
スピーカー14は、制御部12の制御に従って、音声信号を再生する。
(通信部15)
通信部15は、有線/無線により他の装置との間でデータの送受信を行うための通信モジュールである。通信部15は、例えば有線LAN(Local Area Network)、無線LAN、Wi−Fi(Wireless Fidelity、登録商標)、赤外線通信、Bluetooth(登録商標)、近距離/非接触通信、携帯通信網(LTE(Long Term Evolution)、3G(第3世代の移動体通信方式))等の方式で、外部機器と直接またはネットワークアクセスポイントを介して無線通信する。
(操作入力部16)
操作入力部16は、スイッチ、ボタン、またはレバー等の物理的な構造を有する操作部材により実現される。
(記憶部17)
記憶部17は、上述した制御部12の処理に用いられるプログラムや演算パラメータ等を記憶するROM(Read Only Memory)、および適宜変化するパラメータ等を一時記憶するRAM(Random Access Memory)により実現される。本実施形態による記憶部17には、例えば各種センサ情報、認識結果、接続情報等が記憶されてもよい。
以上、本実施形態による情報処理端末1の構成について具体的に説明した。なお、図2を用いて説明した上記の構成はあくまで一例であり、本実施形態に係る情報処理端末1の機能構成は係る例に限定されない。
例えば、本実施形態に係る情報処理端末1は、図2に示す構成のすべてを必ずしも備えなくてもよい。情報処理端末1は、例えばマイク112や生体センサ117などを備えない構成をとることもできる。また、情報処理端末1は、複数の装置により構成されていてもよい。例えば、ユーザが装着しているメガネ型ウェアラブル端末と、スマートバンド等のウェアラブル端末と、スマートフォン等により構成されていてもよい。また、センサ部11の少なくとも一部が、周囲の環境センサ(例えば部屋に設置されている監視カメラ、マイク、赤外線センサ、超音波センサ等)であってもよい。
また、例えば情報処理端末1の制御部12が有する少なくとも一部の機能が、通信部15を介して通信接続される他の装置に存在してもよい。例えば、情報処理端末1の制御部12が有する少なくとも一部の機能が、中間サーバまたはインターネット上のクラウドサーバ等に設けられていてもよい。また、制御部12で行う処理のレベルを簡易なものとし、高度な処理は外部装置、例えばユーザ所有のスマートフォン等の他のモバイルデバイス、ホームサーバ、エッジサーバ、中間サーバ、またはクラウドサーバで行う構成としてもよい。複数の装置に処理を分散させることで、負担軽減が図られる。また、情報処理端末1内または通信距離が比較的に情報処理端末1に近い外部装置(例えば他のモバイルデバイス、ホームサーバ、エッジサーバ等)で処理を行うことで、リアルタイム性の向上、およびセキュリティの確保を実現することが可能である。
本実施形態に係る情報処理端末1の機能構成は、仕様や運用に応じて柔軟に変形可能である。
<2−2.サーバ2の構成>
図3は、本実施形態によるサーバ2の構成の一例を示すブロック図である。図3に示すように、サーバ2(情報処理装置)は、制御部20、通信部21、および記憶部22を有する。
(制御部20)
制御部20は、演算処理装置および制御装置として機能し、各種プログラムに従ってサーバ2内の動作全般を制御する。制御部20は、例えばCPU(Central Processing Unit)、マイクロプロセッサ等の電子回路によって実現される。また、制御部20は、使用するプログラムや演算パラメータ等を記憶するROM(Read Only Memory)、及び適宜変化するパラメータ等を一時記憶するRAM(Random Access Memory)を含んでいてもよい。
また、本実施形態による制御部20は、ダウンロード開始点決定部201、送信データ決定部202、およびデータ送信制御部203としても機能する。
ダウンロード開始点決定部201は、情報処理端末1からの3Dモデルデータのダウンロードのリクエストに応じて、当該3Dモデルデータのダウンロード開始点(すなわち、三次元画像情報の送信開始点)を決定する。具体的には、ダウンロード開始点決定部201は、複数の情報処理端末1から受信した複数のユーザの位置および視線情報と、対象の3Dモデルデータの表示位置(実空間における三次元位置)に基づいて、複数のユーザに共通するダウンロード開始点を決定する。例えば、ダウンロード開始点決定部201は、複数のユーザが同じ3Dモデルデータを見た場合のそれぞれの注視点を推定し、各注視点の重心をダウンロード開始点に決定する。注視点は、視線方向がサイズ概要図形32と交差する点である。また、ダウンロード開始点決定部201は、複数のユーザから見える3Dモデルデータの領域の中心をダウンロード開始点に決定してもよい。なお、ダウンロード開始点は、厳密な点に限定されず、例えば面を含んでもよい。本実施形態によるダウンロード開始点決定処理の詳細については、後述する。
送信データ決定部202は、決定されたダウンロード開始点に基づいて、対象の3Dモデルデータのうち、リクエストのあった複数の情報処理端末1へ送信するデータを決定する。例えば、送信データ決定部202は、ダウンロード開始点を中心とする所定の領域内のデータを決定してもよいし、ダウンロード開始点を含むパーツ部分(例えば車の3Dモデルデータの場合は、タイヤ、ボンネット、バンパー等)としてもよい。本実施形態では、決定されたダウンロード開始点から優先的に順次3Dモデルデータを送信するため、送信データ決定部202は、ダウンロードの進行方向を決定し、対象の3Dモデルデータのうち、次に送信する送信データの決定も行う。例えば、送信データ決定部202は、ダウンロード開始点から放射状に均等に送信範囲を広げてもよいし、隣り合うパーツ毎に送信範囲を広げてもよい。送信データ決定部202は、一定時間、一定条件下で順次残りの3Dモデルデータ(ダウンロード開始点の周辺データ)を送信する。例えばユーザが動いて視線方向が大きく変化した場合、ダウンロード開始点が更新されるため、送信データ決定部202は、新たなダウンロード開始点に基づいて、未送信の3Dモデルデータから送信データを決定する。
また、送信データ決定部202は、同じ3Dモデルデータを複数の情報処理端末1でシェアさせる場合、データ量の配分を算出し、各情報処理端末1への送信データをそれぞれ決定する。3Dモデルデータを複数の情報処理端末1でシェアさせることで、同じデータを複数の情報処理端末1に送信することを回避できるため、サーバ2による送信処理の負荷が減り、また、データ帯域の長時間の専有を削減することが可能となる。
データ送信制御部203は、送信データ決定部202により決定されたデータを、通信部21から情報処理端末1に送信する制御を行う。
(通信部21)
通信部21は、有線または無線によりネットワークと接続し、ネットワークを介して各情報処理端末1とデータの送受信を行う。通信部21は、例えば有線/無線LAN(Local Area Network)、またはWi−Fi(Wireless Fidelity、登録商標)等により情報処理端末1と通信接続する。
(記憶部22)
記憶部22は、制御部20の処理に用いられるプログラムや演算パラメータ等を記憶するROM、および適宜変化するパラメータ等を一時記憶するRAMにより実現される。例えば本実施形態による記憶部22は、3Dモデルデータ、およびユーザ情報を記憶する。ユーザ情報には、情報処理端末1から送信された自己位置情報および視線情報が含まれる。また、記憶部22は、3Dモデルデータに関連付けて、当該3Dモデルデータを閲覧したユーザの履歴(閲覧履歴および操作履歴。閲覧履歴には、閲覧時の位置および視線方向の履歴が含まれる)を蓄積してもよい。
以上、本実施形態によるサーバ2の構成について具体的に説明した。なお図3に示すサーバ2の構成は一例であって、本実施形態はこれに限定されない。例えばサーバ2の少なくとも一部の構成が外部装置にあってもよいし、制御部20の各機能の少なくとも一部が情報処理端末1または通信距離が情報処理端末1に比較的近い情報処理装置(例えば、いわゆるエッジサーバなど)により実現されてもよい。サーバ2の構成を適宜分散することで、リアルタイム性の向上や処理負担の軽減を実現することができる。
(3Dモデルデータのダウンロード開始点の決定について)
次いで、上述したダウンロード開始点決定部201によるダウンロード開始点の決定処理について、具体例を用いて説明する。
・第1の決定手法
図4は、本実施形態によるダウンロード開始点の第1の決定手法の概要について説明する図である。図4に示すように、ダウンロード開始点決定部201は、同じ3Dモデルデータ30を共有して閲覧する複数のユーザの位置v1、v2および視線方向と、実空間における3Dモデルデータ30の表示位置とに基づいて、各ユーザの3Dモデル上の注視点41a、41bを推定し、その重心(ユーザ基準点42)をダウンロード開始点としてもよい。この場合、ダウンロード開始点(ユーザ基準点42)の周辺データから優先的にダウンロードされ表示されることで、ユーザAおよびユーザBの見える部分からダウンロードが完了して高精細な3Dモデルデータが表示される。なお、ダウンロード開始点決定部201は、複数のユーザがある程度近い距離に居ることを条件としてもよい。
このような第1の決定手法について図5および図6を参照して詳細に説明する。
まず、図5を参照して本実施形態による3Dモデルデータが有する情報について説明する。図5は、3Dモデルデータのサイズ概要情報について説明する図である。図5に示すように、本実施形態による3Dモデルデータは、3Dモデルデータ30の大まかな形状を表す単純形状のサイズ概要図形32(例えば、円錐、円柱、球体等)の情報(3Dモデルデータの半径や大きさのサイズ情報を含む)を有する。サイズ概要図形32は、高精細な3Dモデルデータ30よりもデータ量が少ない。
また、3Dモデルデータには、ダウンロードの基準点50が設定される。ダウンロードの基準点50は、サイズ概要図形32上であってもよいし、3Dモデルデータ30上であってもよい。基準点50は、3Dモデルデータの重要な部分や、見せたい部分等、所定の優先点であって、3Dモデルデータの制作者によって予め設定され得る。若しくは、基準点50は、3Dモデルデータ30の前方向(方向は制作者が作成時に設定してもよい)であって、自動的に設定されてもよい。また、基準点50は、3Dモデルデータの内部に設けられてもよい。例えば3Dモデルデータが「家」の場合は内部のインテリアが重要な場合もあるため、例えばドアを開けた部分や窓から見える部分等に、ダウンロードの基準点50を設けてもよい。
さらに、3Dモデルデータは、回転可能な否かのフラグを有してもよい。例えば3Dモデルデータが「車」の場合であって、実空間の道路上に表示される場合、「車」が上下左右に回転して表示されると、道路に対する車の表示方向が不自然になってしまうため回転不可能のフラグが設定されることが想定されるが、モデルデータの内容や表示環境によっては、予め制作者等により、表示時における3Dモデルデータの回転表示が許可される場合もある。
本実施形態によるダウンロード開始点決定部201は、以上説明した3Dモデルデータのサイズ概要情報や基準点を参照して、ダウンロード開始点を決定する。図6は、本実施形態によるダウンロード開始点の第1の決定手法において、サイズ概要図形32および基準点50を参照して行うダウンロード開始点の決定について説明する図である。
図6に示すように、ダウンロード開始点決定部201は、複数のユーザの位置および視線方向と、3Dモデルデータ30の表示位置に基づいて、3Dモデルデータ30のサイズ概要図形32上の注視点41a、41bを推定する。なお、3Dモデルデータ30のサイズ概要図形32を情報処理端末1側に送信して注視点41を情報処理端末1側で推定してもよい。
次いで、ダウンロード開始点決定部201は、注視点41a、41bの重心(以下、ユーザ基準点42と称す)を求める。そして、ダウンロード開始点決定部201は、3Dモデルデータに定義された基準点50とユーザ基準点42とが最小距離になるよう3Dモデルデータを回転し、回転した状態で、基準点50、またはユーザ基準点42に最も近い3Dモデルデータ上の頂点をダウンロード開始点に決定する。これにより、視聴体験に重要な部分から優先的に、複数のユーザが共有して快適に閲覧を開始することができる。
なお、3Dモデルデータに回転不可能のフラグが設けられている場合、ダウンロード開始点決定部201は、3Dモデルデータを回転させない状態で、ユーザ基準点42に最も近い3Dモデルデータ上の頂点座標をダウンロード開始点に決定してもよい。これにより、複数のユーザが共有して快適に閲覧を開始することができる。また、回転フラグが設けられていない場合や、回転可能フラグが設けられている場合も、3Dモデルデータを回転させない状態で、ユーザ基準点42に最も近い3Dモデルデータ上の頂点座標をダウンロード開始点に決定してもよい。
・第2の決定手法
続いて、本実施形態によるダウンロード開始点の第2の決定手法について、図7〜図8を参照して説明する。
図7は、ダウンロード開始点の第2の決定手法において、3Dモデルデータに多数のダウンロード開始可能点52が設けられている場合について説明する図である。ダウンロード開始可能点52は、3Dモデルデータ30のサイズ概要図形32上に設けられていてもよいし、内部の3Dモデルデータ30上に設けられていてもよい。ダウンロード開始可能点52は、例えば3Dモデルデータ30上の均等点に設けられてもよいし、3Dモデルデータ30のパーツ毎に設けられてもよい。
図8は、ダウンロード開始点の第2の決定手法において、ダウンロード開始可能点を参照して行うダウンロード開始点の決定について説明する図である。図8に示すように、ダウンロード開始点決定部201は、複数のユーザの位置および視線方向と、3Dモデルデータ30の表示位置に基づいて、3Dモデルデータ30のサイズ概要図形32上の注視点41a、41bを推定する。なお、3Dモデルデータ30のサイズ概要図形32を情報処理端末1側に送信して注視点41を情報処理端末1側で推定してもよい。
次いで、ダウンロード開始点決定部201は、注視点41a、41bの重心(ユーザ基準点42)を求める。そして、ダウンロード開始点決定部201は、3Dモデルデータに定義された多数のダウンロード開始可能点52のうち、ユーザ基準点42と最も近いダウンロード開始可能点52aを、ダウンロード開始点に決定する。これにより、視聴体験に重要な部分から優先的に、複数のユーザが共有して快適に閲覧を開始することができる。
なお、ダウンロード開始点決定部201は、情報処理端末1とのデータ通信における帯域の種別や、送信する3Dモデルデータ量等に応じて、処理負担やダウンロード時間への影響が少なければ、ダウンロード開始可能点52aの周辺の3〜4つのダウンロード開始可能点も、ダウンロード開始点に決定してもよい。この場合、ダウンロード開始可能点52aと周辺の3〜4つのダウンロード開始可能点から優先的にダウンロードが開始される。
(ダウンロード進行方向について)
本実施形態による送信データ決定部202は、決定されたダウンロード開始点から順次送信(ダウンロード)するデータを決定するが、その際のダウンロード進行方向は、例えばダウンロード開始点から放射状に均等に広げる方向であってもよい。
また、3Dモデルデータに多数のダウンロード開始可能点52が設定されている場合、送信データ決定部202は、決定されたダウンロード開始点の周辺のダウンロード開始可能点を含む方向にダウンロード進行方向を決定してもよい。図9は、本実施形態によるダウンロード開始可能点を用いたダウンロード進行方向の決定について説明する図である。
図9に示すように、送信データ決定部202は、決定されたダウンロード開始点(ダウンロード開始可能点52a)から放射状に、周辺のダウンロード開始可能点52b〜52eを含む方向にダウンロード進行方向を決定してもよい。なお、送信データ決定部202は、3Dモデルデータに多数のダウンロード開始可能点52が設定されている場合であっても、決定されたダウンロード開始点から放射状に均等に広げる方向にダウンロード進行方向を決定してもよい。
また、送信データ決定部202は、当該3Dモデルデータに関連付けられる他ユーザの閲覧履歴や操作履歴に基づいて算出した高頻度注視点(例えば閲覧回数が所定値以上の注視点)を参照してダウンロード進行方向を決定してもよい。これにより、ユーザが移動して閲覧する可能性の高い場所も優先的にダウンロードを進めることが可能となる。
図10は、本実施形態による高頻度注視点を用いたダウンロード進行方向の決定について説明する図である。図10に示すように、3Dモデルデータの閲覧履歴に基づき、高頻度注視点52uが算出された場合、送信データ決定部202は、ダウンロード開始点(ダウンロード開始可能点52a)から、高頻度注視点52uを含む方向にダウンロード進行方向を決定してもよい。
操作履歴とは、例えば「車」の3Dモデルデータのドアを開ける、トランクを開ける等の操作や、「ボタン」や「PC」等の3Dモデルデータ(所謂バーチャルボタン、バーチャルPC等)の操作の情報が挙げられる。送信データ決定部202は、ドアやトランクを開ける可能性が高い場合(高頻度注視点がドアやトランクの内部の場合)、ドアやトランクの中身の表示データを優先的に送信するようダウンロード進行方向を決定する。なお、送信データ決定部202は、高頻度注視点の方向、かつ、周辺のダウンロード開始可能点を含む方向に、ダウンロード進行方向を決定してもよい。
また、送信データ決定部202は、ユーザが移動した場合に、ユーザの移動距離が所定の範囲内であれば、ユーザの新しい位置と視線方向に基づいて、視線方向がサイズ概要図形または3Dモデルデータと交差する点(注視点)、または複数ユーザの新たな注視点の重心(ユーザ基準点)に進行する方向に決定してもよい。
また、送信データ決定部202は、3Dモデルデータの表示位置に基づいて、ユーザが移動できない方向からの表示データは送信しない、若しくは最後に送信するよう決定してもよい。例えば、「車」の3Dモデルデータが壁際に表示される場合、ユーザは壁側から見ることは出来ないため、壁側の表示データは不要、若しくは優先度が低くなる。
(複数のダウンロード開始点の決定)
以上、本実施形態によるダウンロード開始点決定部201により、複数ユーザの位置および視線方向と、共有して閲覧する3Dモデルデータの表示位置とに基づいてダウンロード開始点を決定する処理について説明した。かかる処理は、複数のユーザがある程度近い距離に居ること(複数のユーザの距離が一定の範囲内であること)、若しくは各ユーザの注視点が所定の距離内にあること、各ユーザの注視点を含むパーツが同じであること、又は各ユーザの注視点が3Dモデルデータの同方向(前方、側面、又は後方等)にあること等を条件としてもよい。すなわち、例えば図11に示すように、同じ3Dモデルデータ30を共有して閲覧する複数のユーザの位置v1、v2や視線方向が大きく異なる場合、3Dモデルデータの見える範囲に共通部分が無く(若しくは少なく)、複数のユーザの注視点44a、44bの重心をダウンロード開始点としても、共通して見える部分を待ち時間無く快適な閲覧するといった効果は生じ難い。そこで、本実施形態によるダウンロード開始点決定部201は、上記条件を満たさない場合は、図11に示すように、複数のユーザの注視点44a、44bを、それぞれダウンロード開始点に決定してもよい。これにより、各注視点からダウンロードが開始される。
また、送信データ決定部202は、図11に示すように複数のユーザの注視点44a、44bがそれぞれダウンロード開始点に決定された場合、他方のダウンロード開始点に向かう方向にダウンロード方向を決定してもよい。
<<3.動作処理>>
続いて、本実施形態による情報処理システムの動作処理について図12を用いて具体的に説明する。図12は、本実施形態による情報処理システムの処理の流れを示すシーケンス図である。
図12に示すように、まず、情報処理端末1Aおよび情報処理端末1Bは、ユーザの視線検出(ステップS103、S105)、自己位置の特定(ステップS106、S118)、3Dモデル上のユーザの注視点の特定(ステップS109、S121)を、それぞれ行う。なお、ユーザの注視点の特定は、サーバ2側で行ってもよい。
次に、情報処理端末1Aおよび情報処理端末1Bは、3Dモデルデータの表示を要求するリクエストをサーバ2に送信する(ステップS112、S124)。具体的には、情報処理端末1Aおよび情報処理端末1Bは、例えばユーザの視線情報、特定したユーザの位置情報、および注視点情報をサーバ2に送信する。また、情報処理端末1Aおよび情報処理端末1Bは、端末情報を併せて送信してもよい。端末情報には、端末情報の処理能力に関する情報やデータ帯域情報が含まれ、後述するデータ量配分の算出の際に用いられる。
また、情報処理端末1からサーバ2へ送信するリクエストは、下記のように、ダウンロード対象物体(すなわち3Dモデルデータ)からのoffsetと垂直・水平角等のパラメータ(三次元位置情報および視線方向のパラメータ)を含むものであってもよい。
・アクセスURLのフォーマット例
https://・・・?offset x =100 &offset y =200
&angle v =125 &angle h=90 &multipoint=0
次いで、サーバ2は、複数のユーザの注視点情報に基づいて、ユーザ基準点を算出する(ステップS127)。
次に、サーバ2は、3Dモデルデータのダウンロード開始点を算出する(ステップS130)。
次いで、サーバ2は、算出したダウンロード開始点に基づいて、各情報処理端末1A、1Bへ送信するデータ量の配分を算出する(ステップS133)。
続いて、サーバ2は、各情報処理端末1A、1Bに、ダウンロード開始点に基づいて決定した、3Dモデルデータの一部のデータを送信する(ステップS136、S139)。
次に、情報処理端末1A、1Bは、受信したデータのシェア処理を行う(ステップS142、S145)。
次いで、情報処理端末1A、1Bは、3Dモデルデータの表示処理を行う(ステップS148、S151)。情報処理端末1A、1B側では、複数ユーザに共通して見えている部分からデータのダウンロードが開始されるため、待ち時間が短縮され、すぐに3Dモデルデータを閲覧することが可能となる。
一方、サーバ2は、一定時間経過したか、または一定条件を満たしたか否かを判断する(ステップS154)。一定時間とは、例えばデータ送信を開始してから一定の時間(例えば、数秒、数十秒等)である。また、一定条件とは、例えばユーザが動いて大きく視線方向が変化した場合等である。頻繁にダウンロード開始点が更新されることを回避するため、一定時間が経過するか、または一定条件を満たすまでは、上記ステップS133〜S151に示す処理を繰り返し、ダウンロード開始点から優先的に、周辺のデータも順次送信する制御が行われる。
そして、一定時間経過した場合、または一定条件を満たした場合(ステップS154/Yes)、上記ステップS103からの処理が繰り返される。すなわち、新たにダウンロード開始点が算出され、引き続き新たなダウンロード開始点から優先的に、残りの3Dモデルデータの送信制御が行われる。
以上、本実施形態による動作処理の一例を説明した。なお図12に示す動作処理は一例であって、本開示は図12に示す例に限定されない。例えば、本開示は、図12に示すステップの順序に限定されない。少なくともいずれかのステップが並列に処理されてもよいし、逆の順番で処理されてもよい。例えば、ステップS103の処理とステップS106の処理は並列に処理されてもよいし、逆の順番で処理されてもよい。
また、図12に示す全ての処理が必ずしも実行されてなくともよい。例えば、ステップS133に示す配分算出処理とステップS142、S145に示すデータシェアがスキップされてもよい。
また、図12に示す全ての処理が、必ずしも図12で記載された装置で行われなくともよい。例えば、ステップS109、ステップS121の処理が、サーバ2若しくは中間サーバ(不図示)で行われてもよい。
また、ステップS133に示す配分算出を行わず、共有者の情報処理端末1のいずれかにデータ送信を行い、当該情報処理端末1から他の共有者の情報処理端末1にデータシェアを行うようにしてもよい。
また、本実施形態では一例として情報処理端末1A、1Bの2つを用いたが、本実施形態はこれに限定されず、情報処理端末1は3つ以上(すなわち、共有者が3人以上)であってもよい。
<<4.ハードウェア構成>>
次に、本開示の一実施形態に係る情報処理端末1およびサーバ2に共通する情報処理装置のハードウェア構成例について説明する。図13は、本開示の一実施形態に係る情報処理端末1またはサーバ2を実現する情報処理装置のハードウェア構成例を示すブロック図である。図13を参照すると、情報処理装置800は、例えば、CPU871と、ROM872と、RAM873と、ホストバス874と、ブリッジ875と、外部バス876と、インターフェース877と、入力装置878と、出力装置879と、ストレージ880と、ドライブ881と、接続ポート882と、通信装置883と、を有する。なお、ここで示すハードウェア構成は一例であり、構成要素の一部が省略されてもよい。また、ここで示される構成要素以外の構成要素をさらに含んでもよい。
(CPU871)
CPU871は、例えば、演算処理装置又は制御装置として機能し、ROM872、RAM873、ストレージ880、又はリムーバブル記録媒体901に記録された各種プログラムに基づいて各構成要素の動作全般又はその一部を制御する。
具体的には、CPU871は、情報処理端末1内の制御部12の動作を実現する。
(ROM872、RAM873)
ROM872は、CPU871に読み込まれるプログラムや演算に用いるデータ等を格納する手段である。RAM873には、例えば、CPU871に読み込まれるプログラムや、そのプログラムを実行する際に適宜変化する各種パラメータ等が一時的又は永続的に格納される。
(ホストバス874、ブリッジ875、外部バス876、インターフェース877)
CPU871、ROM872、RAM873は、例えば、高速なデータ伝送が可能なホストバス874を介して相互に接続される。一方、ホストバス874は、例えば、ブリッジ875を介して比較的データ伝送速度が低速な外部バス876に接続される。また、外部バス876は、インターフェース877を介して種々の構成要素と接続される。
(入力装置878)
入力装置878には、例えば、マウス、キーボード、タッチパネル、ボタン、スイッチ、及びレバー等が用いられる。さらに、入力装置878としては、赤外線やその他の電波を利用して制御信号を送信することが可能なリモートコントローラ(以下、リモコン)が用いられることもある。また、入力装置878には、マイクロフォンなどの音声入力装置が含まれる。
(出力装置879)
出力装置879は、例えば、CRT(Cathode Ray Tube)、LCD、又は有機EL等のディスプレイ装置、スピーカー、ヘッドホン等のオーディオ出力装置、プリンタ、携帯電話、又はファクシミリ等、取得した情報を利用者に対して視覚的又は聴覚的に通知することが可能な装置である。また、本開示に係る出力装置879は、触覚刺激を出力することが可能な種々の振動デバイスを含む。
(ストレージ880)
ストレージ880は、各種のデータを格納するための装置である。ストレージ880としては、例えば、ハードディスクドライブ(HDD)等の磁気記憶デバイス、半導体記憶デバイス、光記憶デバイス、又は光磁気記憶デバイス等が用いられる。
(ドライブ881)
ドライブ881は、例えば、磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリ等のリムーバブル記録媒体901に記録された情報を読み出し、又はリムーバブル記録媒体901に情報を書き込む装置である。
(リムーバブル記録媒体901)
リムーバブル記録媒体901は、例えば、DVDメディア、Blu−ray(登録商標)メディア、HD DVDメディア、各種の半導体記憶メディア等である。もちろん、リムーバブル記録媒体901は、例えば、非接触型ICチップを搭載したICカード、又は電子機器等であってもよい。
(接続ポート882)
接続ポート882は、例えば、USB(Universal Serial Bus)ポート、IEEE1394ポート、SCSI(Small Computer System Interface)、RS−232Cポート、又は光オーディオ端子等のような外部接続機器902を接続するためのポートである。
(外部接続機器902)
外部接続機器902は、例えば、プリンタ、携帯音楽プレーヤ、デジタルカメラ、デジタルビデオカメラ、又はICレコーダ等である。
(通信装置883)
通信装置883は、ネットワークに接続するための通信デバイスであり、例えば、有線又は無線LAN、Wi−Fi(登録商標)、Bluetooth(登録商標)、又はWUSB(Wireless USB)用の通信カード、光通信用のルータ、ADSL(Asymmetric Digital Subscriber Line)用のルータ、又は各種通信用のモデム等である。
<<5.まとめ>>
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本技術はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
例えば、上述した情報処理端末1に内蔵されるCPU、ROM、およびRAM等のハードウェアに、情報処理端末1の機能を発揮させるためのコンピュータプログラムも作成可能である。また、当該コンピュータプログラムを記憶させたコンピュータ読み取り可能な記憶媒体も提供される。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
なお、本技術は以下のような構成も取ることができる。
(1)
第1のユーザの位置情報および視線情報と、
第2のユーザの位置情報および視線情報と、
前記第1のユーザと前記第2のユーザが共有して視認する三次元画像情報の表示位置情報とに基づいて、
前記3次元画像情報の送信開始点を決定する制御を行う制御部を備える、情報処理装置。
(2)
前記制御部は、
前記決定した前記送信開始点から優先的に前記3次元画像情報を情報処理端末に送信する制御を行う、前記(1)に記載の情報処理装置。
(3)
前記制御部は、
前記第1のユーザの位置情報および視線情報と、前記三次元画像情報の前記表示位置情報とに基づいて、前記三次元画像情報における前記第1のユーザの第1の注視点を推定し、
前記第2のユーザの位置情報および視線情報と、前記三次元画像情報の前記表示位置情報とに基づいて、前記三次元画像情報における前記第2のユーザの第2の注視点を推定し、
前記第1の注視点と前記第2の注視点の重心を、前記送信開始点に決定する、前記(1)または(2)に記載の情報処理装置。
(4)
前記三次元画像情報は、サイズ概要情報を有し、
前記制御部は、
前記第1のユーザの位置情報および視線情報と、前記三次元画像情報の前記表示位置情報とに基づいて、前記サイズ概要情報における前記第1のユーザの第1の注視点を推定し、
前記第2のユーザの位置情報および視線情報と、前記三次元画像情報の前記表示位置情報とに基づいて、前記サイズ概要情報における前記第2のユーザの第2の注視点を推定し、
前記第1の注視点と前記第2の注視点の重心に最も近い前記三次元画像情報の頂点を、前記送信開始点に決定する、前記(1)または(2)に記載の情報処理装置。
(5)
前記三次元画像情報は、予め設定された基準点を有し、
前記制御部は、
前記第1の注視点と前記第2の注視点の重心に、前記基準点が最も近くなるよう前記三次元画像情報を回転させた上で、前記重心を前記送信開始点に決定する、前記(3)または(4)に記載の情報処理装置。
(6)
前記三次元画像情報は、予め設定された複数の送信開始可能点を有し、
前記制御部は、
前記第1のユーザの位置情報および視線情報と、前記三次元画像情報の前記表示位置情報とに基づいて、前記三次元画像情報または前記三次元画像情報のサイズ概要情報における前記第1のユーザの第1の注視点を推定し、
前記第2のユーザの位置情報および視線情報と、前記三次元画像情報の前記表示位置情報とに基づいて、前記三次元画像情報または前記サイズ概要情報における前記第2のユーザの第2の注視点を推定し、
前記複数の送信開始可能点のうち、前記第1の注視点と前記第2の注視点の重心に最も近い送信開始可能点を、前記送信開始点に決定する、前記(1)または(2)に記載の情報処理装置。
(7)
前記制御部は、
前記決定した前記送信開始点から放射状に均等に広げる方向に順次前記3次元画像情報を情報処理端末に送信する制御を行う、前記(1)〜(6)のいずれか1項に記載の情報処理装置。
(8)
前記制御部は、
前記決定した前記送信開始点から、前記三次元画像情報に予め設定された、前記送信開始点の周辺の複数の送信開始可能点を含む方向に順次前記3次元画像情報を情報処理端末に送信する制御を行う、前記(1)〜(6)のいずれか1項に記載の情報処理装置。
(9)
前記制御部は、
前記三次元画像情報に関連する他ユーザの閲覧履歴又は操作履歴の少なくともいずれかに基づいて、前記三次元画像情報における第3の注視点を推定し、
前記決定した前記送信開始点から前記第3の注視点を含む方向に順次前記3次元画像情報を情報処理端末に送信する制御を行う、
前記(1)〜(6)のいずれか1項に記載の情報処理装置。
(10)
前記制御部は、
前記第1のユーザの第1の情報処理端末および前記第2のユーザの第2の情報処理端末に送信するデータの配分を算出し、
前記決定した前記送信開始点から優先的に前記3次元画像情報を前記第1の情報処理端末と前記第2の情報処理端末に送信する際に、それぞれ異なるデータを送信する制御を行う、
前記(1)〜(6)のいずれか1項に記載の情報処理装置。
(11)
前記制御部は、
前記第1のユーザと前記第2のユーザの距離が所定範囲内であるか否かを判断し、
所定距離内である場合、前記第1のユーザの位置情報および視線情報と、前記第2のユーザの位置情報および視線情報と、前記三次元画像情報の表示位置情報とに基づく前記送信開始点の決定制御を行う、前記(1)〜(10)のいずれか1項に記載の情報処理装置。
(12)
プロセッサが、
第1のユーザの位置情報および視線情報と、
第2のユーザの位置情報および視線情報と、
前記第1のユーザと前記第2のユーザが共有して視認する三次元画像情報の表示位置情報とに基づいて、
前記3次元画像情報の送信開始点を決定する制御を行うこと、
を含む、情報処理方法。
(13)
コンピュータを、
第1のユーザの位置情報および視線情報と、
第2のユーザの位置情報および視線情報と、
前記第1のユーザと前記第2のユーザが共有して視認する三次元画像情報の表示位置情報とに基づいて、
前記3次元画像情報の送信開始点を決定する制御を行う制御部、
として機能させるための、プログラム。
1 情報処理端末
2 サーバ
11 センサ部
12 制御部
13 表示部
14 スピーカー
15 通信部
16 操作入力部
17 記憶部
20 制御部
21 通信部
22 記憶部
110 外向きカメラ
111 内向きカメラ
112 マイク
113 ジャイロセンサ
114 加速度センサ
115 方位センサ
116 位置測位部
117 生体センサ
120 視線検出部
122 自己位置特定部
124 シェア制御部
126 表示処理部
201 ダウンロード開始点決定部
202 送信データ決定部
203 データ送信制御部

Claims (13)

  1. 第1のユーザの位置情報および視線情報と、
    第2のユーザの位置情報および視線情報と、
    前記第1のユーザと前記第2のユーザが共有して視認する三次元画像情報の表示位置情報とに基づいて、
    前記3次元画像情報の送信開始点を決定する制御を行う制御部を備える、情報処理装置。
  2. 前記制御部は、
    前記決定した前記送信開始点から優先的に前記3次元画像情報を情報処理端末に送信する制御を行う、請求項1に記載の情報処理装置。
  3. 前記制御部は、
    前記第1のユーザの位置情報および視線情報と、前記三次元画像情報の前記表示位置情報とに基づいて、前記三次元画像情報における前記第1のユーザの第1の注視点を推定し、
    前記第2のユーザの位置情報および視線情報と、前記三次元画像情報の前記表示位置情報とに基づいて、前記三次元画像情報における前記第2のユーザの第2の注視点を推定し、
    前記第1の注視点と前記第2の注視点の重心を、前記送信開始点に決定する、請求項1に記載の情報処理装置。
  4. 前記三次元画像情報は、サイズ概要情報を有し、
    前記制御部は、
    前記第1のユーザの位置情報および視線情報と、前記三次元画像情報の前記表示位置情報とに基づいて、前記サイズ概要情報における前記第1のユーザの第1の注視点を推定し、
    前記第2のユーザの位置情報および視線情報と、前記三次元画像情報の前記表示位置情報とに基づいて、前記サイズ概要情報における前記第2のユーザの第2の注視点を推定し、
    前記第1の注視点と前記第2の注視点の重心に最も近い前記三次元画像情報の頂点を、前記送信開始点に決定する、請求項1に記載の情報処理装置。
  5. 前記三次元画像情報は、予め設定された基準点を有し、
    前記制御部は、
    前記第1の注視点と前記第2の注視点の重心に、前記基準点が最も近くなるよう前記三次元画像情報を回転させた上で、前記重心を前記送信開始点に決定する、請求項3に記載の情報処理装置。
  6. 前記三次元画像情報は、予め設定された複数の送信開始可能点を有し、
    前記制御部は、
    前記第1のユーザの位置情報および視線情報と、前記三次元画像情報の前記表示位置情報とに基づいて、前記三次元画像情報または前記三次元画像情報のサイズ概要情報における前記第1のユーザの第1の注視点を推定し、
    前記第2のユーザの位置情報および視線情報と、前記三次元画像情報の前記表示位置情報とに基づいて、前記三次元画像情報または前記サイズ概要情報における前記第2のユーザの第2の注視点を推定し、
    前記複数の送信開始可能点のうち、前記第1の注視点と前記第2の注視点の重心に最も近い送信開始可能点を、前記送信開始点に決定する、請求項1に記載の情報処理装置。
  7. 前記制御部は、
    前記決定した前記送信開始点から放射状に均等に広げる方向に順次前記3次元画像情報を情報処理端末に送信する制御を行う、請求項1に記載の情報処理装置。
  8. 前記制御部は、
    前記決定した前記送信開始点から、前記三次元画像情報に予め設定された、前記送信開始点の周辺の複数の送信開始可能点を含む方向に順次前記3次元画像情報を情報処理端末に送信する制御を行う、請求項1に記載の情報処理装置。
  9. 前記制御部は、
    前記三次元画像情報に関連する他ユーザの閲覧履歴又は操作履歴の少なくともいずれかに基づいて、前記三次元画像情報における第3の注視点を推定し、
    前記決定した前記送信開始点から前記第3の注視点を含む方向に順次前記3次元画像情報を情報処理端末に送信する制御を行う、
    請求項1に記載の情報処理装置。
  10. 前記制御部は、
    前記第1のユーザの第1の情報処理端末および前記第2のユーザの第2の情報処理端末に送信するデータの配分を算出し、
    前記決定した前記送信開始点から優先的に前記3次元画像情報を前記第1の情報処理端末と前記第2の情報処理端末に送信する際に、それぞれ異なるデータを送信する制御を行う、
    請求項1に記載の情報処理装置。
  11. 前記制御部は、
    前記第1のユーザと前記第2のユーザの距離が所定範囲内であるか否かを判断し、
    所定距離内である場合、前記第1のユーザの位置情報および視線情報と、前記第2のユーザの位置情報および視線情報と、前記三次元画像情報の表示位置情報とに基づく前記送信開始点の決定制御を行う、請求項1に記載の情報処理装置。
  12. プロセッサが、
    第1のユーザの位置情報および視線情報と、
    第2のユーザの位置情報および視線情報と、
    前記第1のユーザと前記第2のユーザが共有して視認する三次元画像情報の表示位置情報とに基づいて、
    前記3次元画像情報の送信開始点を決定する制御を行うこと、
    を含む、情報処理方法。
  13. コンピュータを、
    第1のユーザの位置情報および視線情報と、
    第2のユーザの位置情報および視線情報と、
    前記第1のユーザと前記第2のユーザが共有して視認する三次元画像情報の表示位置情報とに基づいて、
    前記3次元画像情報の送信開始点を決定する制御を行う制御部、
    として機能させるための、プログラム。
JP2019556103A 2017-11-21 2018-08-30 情報処理装置、情報処理方法、およびプログラム Active JP7196856B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2017223491 2017-11-21
JP2017223491 2017-11-21
PCT/JP2018/032247 WO2019102676A1 (ja) 2017-11-21 2018-08-30 情報処理装置、情報処理方法、およびプログラム

Publications (2)

Publication Number Publication Date
JPWO2019102676A1 true JPWO2019102676A1 (ja) 2020-12-24
JP7196856B2 JP7196856B2 (ja) 2022-12-27

Family

ID=66631408

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019556103A Active JP7196856B2 (ja) 2017-11-21 2018-08-30 情報処理装置、情報処理方法、およびプログラム

Country Status (5)

Country Link
US (1) US11240482B2 (ja)
JP (1) JP7196856B2 (ja)
CN (1) CN111344776B (ja)
DE (1) DE112018005954T5 (ja)
WO (1) WO2019102676A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113138734A (zh) * 2020-01-20 2021-07-20 北京芯海视界三维科技有限公司 用于显示的方法、装置和产品

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11237867A (ja) * 1998-02-20 1999-08-31 Shimadzu Corp 仮想空間表示装置
JP2002149581A (ja) * 2000-11-09 2002-05-24 Nippon Telegr & Teleph Corp <Ntt> 複数のユーザによる仮想空間共有システム
JP2002279449A (ja) * 2001-03-19 2002-09-27 Mitsubishi Electric Corp 3次元空間データ送信表示装置、3次元空間データ送信方法、3次元空間データ送信方法をコンピュータに実行させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体
JP2006054830A (ja) * 2004-08-16 2006-02-23 Sony Corp 画像圧縮通信方法及び装置
US20120105473A1 (en) * 2010-10-27 2012-05-03 Avi Bar-Zeev Low-latency fusing of virtual and real content
CN106997281A (zh) * 2017-04-10 2017-08-01 北京小米移动软件有限公司 共享虚拟对象的方法及智能设备
WO2017138458A1 (ja) * 2016-02-09 2017-08-17 株式会社ソニー・インタラクティブエンタテインメント 映像表示システム

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10275247A (ja) * 1997-02-03 1998-10-13 Fujitsu Ltd 仮想世界記述データ表示方法
JP4704558B2 (ja) * 2000-12-25 2011-06-15 三菱電機株式会社 3次元空間データ送信表示システム、3次元空間データ送信方法、3次元空間データ送信方法をコンピュータに実行させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体、3次元空間データ送信表示方法、及び3次元空間データ送信表示方法をコンピュータに実行させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体
JP2005050081A (ja) * 2003-07-28 2005-02-24 Matsushita Electric Ind Co Ltd 3次元仮想空間情報を共有する通信装置
JP2011066507A (ja) * 2009-09-15 2011-03-31 Toshiba Corp 画像処理装置
US10955665B2 (en) * 2013-06-18 2021-03-23 Microsoft Technology Licensing, Llc Concurrent optimal viewing of virtual objects
US10827230B2 (en) * 2014-07-03 2020-11-03 Sony Corporation Information processing apparatus and information processing method
JP6298432B2 (ja) * 2015-10-19 2018-03-20 株式会社コロプラ 画像生成装置、画像生成方法、及び画像生成プログラム
CN106445129A (zh) * 2016-09-14 2017-02-22 乐视控股(北京)有限公司 全景图像信息显示方法、装置及系统

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11237867A (ja) * 1998-02-20 1999-08-31 Shimadzu Corp 仮想空間表示装置
JP2002149581A (ja) * 2000-11-09 2002-05-24 Nippon Telegr & Teleph Corp <Ntt> 複数のユーザによる仮想空間共有システム
JP2002279449A (ja) * 2001-03-19 2002-09-27 Mitsubishi Electric Corp 3次元空間データ送信表示装置、3次元空間データ送信方法、3次元空間データ送信方法をコンピュータに実行させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体
JP2006054830A (ja) * 2004-08-16 2006-02-23 Sony Corp 画像圧縮通信方法及び装置
US20120105473A1 (en) * 2010-10-27 2012-05-03 Avi Bar-Zeev Low-latency fusing of virtual and real content
WO2017138458A1 (ja) * 2016-02-09 2017-08-17 株式会社ソニー・インタラクティブエンタテインメント 映像表示システム
CN106997281A (zh) * 2017-04-10 2017-08-01 北京小米移动软件有限公司 共享虚拟对象的方法及智能设备

Also Published As

Publication number Publication date
US11240482B2 (en) 2022-02-01
JP7196856B2 (ja) 2022-12-27
US20200396438A1 (en) 2020-12-17
CN111344776A (zh) 2020-06-26
DE112018005954T5 (de) 2020-08-20
CN111344776B (zh) 2023-06-02
WO2019102676A1 (ja) 2019-05-31

Similar Documents

Publication Publication Date Title
JP6813501B2 (ja) 拡張現実システムに結合されるプライバシーセンシティブ消費者カメラ
US11024083B2 (en) Server, user terminal device, and control method therefor
JP6798106B2 (ja) 情報処理装置、情報処理方法、およびプログラム
US20150130839A1 (en) Display control device, display control method, and program
JPWO2016203792A1 (ja) 情報処理装置、情報処理方法及びプログラム
CN105051653A (zh) 信息处理装置、通知状态控制方法以及程序
US11151804B2 (en) Information processing device, information processing method, and program
US10771707B2 (en) Information processing device and information processing method
JP2023126474A (ja) 拡張現実のためのシステムおよび方法
CN108293108A (zh) 用于显示并生成全景图像的电子装置和方法
WO2023064719A1 (en) User interactions with remote devices
WO2019102680A1 (ja) 情報処理装置、情報処理方法、およびプログラム
JP7196856B2 (ja) 情報処理装置、情報処理方法、およびプログラム
WO2019021566A1 (ja) 情報処理装置、情報処理方法、及びプログラム
WO2019021573A1 (ja) 情報処理装置、情報処理方法、及びプログラム
CN108140124A (zh) 提示信息确定方法、装置、电子设备和计算机程序产品
WO2019142621A1 (ja) 情報処理装置、情報処理方法、及びプログラム
JPWO2019087513A1 (ja) 情報処理装置、情報処理方法およびプログラム
US20230221566A1 (en) Vr headset with integrated thermal/motion sensors
US20230078189A1 (en) Adaptive rendering of game to capabilities of device
US11176375B2 (en) Smart glasses lost object assistance
US11448884B2 (en) Image based finger tracking plus controller tracking
WO2023179369A1 (zh) 控制装置的定位方法、装置、设备、存储介质及计算机程序产品
US20230343349A1 (en) Digital audio emotional response filter
US20240115942A1 (en) Customizable virtual reality scenes using eye tracking

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210803

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220712

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220906

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221115

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221128

R151 Written notification of patent or utility model registration

Ref document number: 7196856

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151