JP2014525049A5 - - Google Patents
Download PDFInfo
- Publication number
- JP2014525049A5 JP2014525049A5 JP2014515917A JP2014515917A JP2014525049A5 JP 2014525049 A5 JP2014525049 A5 JP 2014525049A5 JP 2014515917 A JP2014515917 A JP 2014515917A JP 2014515917 A JP2014515917 A JP 2014515917A JP 2014525049 A5 JP2014525049 A5 JP 2014525049A5
- Authority
- JP
- Japan
- Prior art keywords
- data
- video
- viewer
- representation
- display system
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000000875 corresponding Effects 0.000 claims 3
- 210000003128 Head Anatomy 0.000 claims 2
- 230000000694 effects Effects 0.000 claims 1
- 230000014759 maintenance of location Effects 0.000 claims 1
Claims (10)
- ロジックサブシステムと;
保管されたインストラクションを含むデータ保持サブシステムと、を含み、
インストラクションが前記ロジックサブシステムによって実行されると:
表現空間におけるヘッドマウントディスプレイシステム上に配置された一つまたはそれ以上の動作センサーと前記ヘッドマウントディスプレイシステム上に配置されたものではない前記表現空間における一つまたはそれ以上の映像センサーとを含んでいる、位置及び向き検知システムから視聴者の位置データ及び視聴者の向きデータを受取り;
前記視聴者の位置データ及び前記視聴者の向きデータから、表現空間の中に視聴者を配置し、前記表現空間において前記視聴者が直面している方向を判断し、かつ、前記表現空間におけるヘッドマウントディスプレイの向きを決定し:
前記視聴者の位置データ及び前記視聴者の向きデータに基づいて、前記視聴者の視野の中にある前記表現空間の領域にマップされた立体映像の領域及び向きを判断することによって、前記ヘッドマウントディスプレイシステムに対して送付する表現映像を決定し、前記表現映像は、前記立体映像における対象物の第1の視点に対応しており、かつ、
前記表現映像を前記ヘッドマウントディスプレイシステムに対して送付し、
前記視聴者の位置データ及び前記視聴者の向きデータにおける変化を検出し、かつ、
前記視聴者の位置データ及び前記視聴者の向きデータにおいて検出された前記変化に基づいて、前記ヘッドマウントディスプレイシステムに送付するための異なる表現映像を決定し、前記異なる表現映像は、前記立体映像における前記対象物の第2の異なる視点に対応している、
ことを特徴とするコンピューターデバイス。 - 前記インストラクションは実行されると、さらに、
前記ヘッドマウントディスプレイシステム上の眼球トラッキング映像センサーから、眼球トラッキングデータを受取り、かつ、前記眼球トラッキングデータに基づいて、前記表現映像を決定する、
請求項1に記載のコンピューターデバイス。 - 前記インストラクションは、さらに、
前記立体映像の入力を受取り、前記立体映像を前記表現空間に対してマップするように構成されている、
請求項1に記載のコンピューターデバイス。 - 前記立体映像データは、複数のアングルからキャプチャーされたシーンのビデオ映像データを含む、
請求項1に記載のコンピューターデバイス。 - 前記インストラクションは実行されると、さらに、
前記向きデータから、前記ヘッドマウントディスプレイシステムのロール、ピッチ、ヨーを検知する、
請求項1に記載のコンピューターデバイス。 - 前記インストラクションは実行されると、さらに、
ユーザーインターフェイスにリクエストしているユーザー入力を検知し;
表示のために前記ヘッドマウントディスプレイシステムに対して送付するユーザーインターフェイス映像を決定し、前記ユーザーインターフェイス映像はユーザーインターフェイスエレメントを含んでおり;
前記ユーザーインターフェイス映像とインタラクションしているユーザージェスチャーを検知し;かつ、
それに応じて、前記ユーザーインターフェイス映像上のユーザージェスチャーの効果を説明する変更されたユーザーインターフェイスを送付する、
請求項1に記載のコンピューターデバイス。 - 前記ユーザーインターフェイスエレメントは、プッシュ可能、及び/又は、プル可能なエレメントである、
請求項6に記載のコンピューターデバイス。 - 前記インストラクションは実行されると、
前記表現空間の中の複数の視聴者を検知し、前記表現空間におけるそれぞれの視聴者の位置に基づいて、前記複数の視聴者それぞれに対して送付する異なった映像を決定する、
請求項1に記載のコンピューターデバイス。 - 前記インストラクションは実行されると、さらに、
音声入力を受取り、前記音声入力における音声コマンドを検知し、かつ、前記音声入力に応じた機能を実行する、
請求項1に記載のコンピューターデバイス。 - 立体ビデオ映像データを表現する方法であって、前記方法は:
前記立体ビデオ映像データを受取るステップと;
前記立体ビデオ映像データのピクセルを表現空間における位置と関連付けることによって、前記立体ビデオ映像データを前記表現空間に対してマッピングするステップと;
複数の映像キャプチャーデバイスから視聴者トラッキング映像データを受取るステップと;
ヘッドマウントディスプレイシステム上に一つまたはそれ以上の動作センサーから動作データを受け取るステップと;
前記視聴者トラッキング映像データを介して前記表現空間の中に視聴者を配置し、前記表現空間の中で前記視聴者が直面している方向を判断するステップと;
前記動作データから、前記表現空間における前記ヘッドマウントディスプレイシステムの向きを決定するステップと;
前記ヘッドマウントディスプレイシステム上の映像センサーから眼球トラッキングデータを受取るステップと;
前記眼球トラッキングデータから、前記視聴者の視界が向けられる方向を決定するステップと;
前記視聴者のトラッキング映像データ、前記動作データ、および、前記眼球トラッキングデータに基づいて、前記視聴者の視野の中にある前記表現空間の領域にマップされた立体映像の領域及び向きを判断することによって、前記ヘッドマウントディスプレイシステムに対して送付する表現映像を決定するステップであり、前記表現映像は、前記立体ビデオ映像データにおける対象物の第1の視点に対応している、ステップと;
前記表現映像を前記ヘッドマウントディスプレイシステムに対して送付するステップと、
前記視聴者のトラッキング映像データ、前記動作データ、および、前記眼球トラッキングデータにおける変化を検出するステップと、
前記視聴者のトラッキング映像データ、前記動作データ、および、前記眼球トラッキングデータにおいて検出された前記変化に基づいて、前記ヘッドマウントディスプレイシステムに送付するための異なる表現映像を決定するステップであり、前記異なる表現映像は、前記立体ビデオ映像データにおける前記対象物の第2の異なる視点に対応している、ステップと、を含む、
ことを特徴とする方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US13/163,407 US8964008B2 (en) | 2011-06-17 | 2011-06-17 | Volumetric video presentation |
US13/163,407 | 2011-06-17 | ||
PCT/US2012/042064 WO2012173998A2 (en) | 2011-06-17 | 2012-06-12 | Volumetric video presentation |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2014525049A JP2014525049A (ja) | 2014-09-25 |
JP2014525049A5 true JP2014525049A5 (ja) | 2015-07-09 |
JP6223965B2 JP6223965B2 (ja) | 2017-11-01 |
Family
ID=47353374
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014515917A Active JP6223965B2 (ja) | 2011-06-17 | 2012-06-12 | 立体ビデオ表現のためのコンピュータ・システム及び方法 |
Country Status (7)
Country | Link |
---|---|
US (1) | US8964008B2 (ja) |
EP (1) | EP2721443A4 (ja) |
JP (1) | JP6223965B2 (ja) |
KR (1) | KR101925658B1 (ja) |
CN (1) | CN103608716B (ja) |
TW (1) | TWI571130B (ja) |
WO (1) | WO2012173998A2 (ja) |
Families Citing this family (61)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10795457B2 (en) | 2006-12-28 | 2020-10-06 | D3D Technologies, Inc. | Interactive 3D cursor |
US11228753B1 (en) | 2006-12-28 | 2022-01-18 | Robert Edwin Douglas | Method and apparatus for performing stereoscopic zooming on a head display unit |
US11275242B1 (en) | 2006-12-28 | 2022-03-15 | Tipping Point Medical Images, Llc | Method and apparatus for performing stereoscopic rotation of a volume on a head display unit |
US11315307B1 (en) | 2006-12-28 | 2022-04-26 | Tipping Point Medical Images, Llc | Method and apparatus for performing rotating viewpoints using a head display unit |
US8941560B2 (en) | 2011-09-21 | 2015-01-27 | Google Inc. | Wearable computer with superimposed controls and instructions for external device |
US20130083252A1 (en) * | 2011-10-04 | 2013-04-04 | David John Boyes | Gesture recognition capable picture video frame |
US20150097772A1 (en) * | 2012-01-06 | 2015-04-09 | Thad Eugene Starner | Gaze Signal Based on Physical Characteristics of the Eye |
KR101958778B1 (ko) * | 2012-08-31 | 2019-03-15 | 엘지전자 주식회사 | 헤드 마운트 디스플레이 및 이를 이용한 디지털 디바이스 제어 방법 |
US8933882B2 (en) | 2012-12-31 | 2015-01-13 | Intentive Inc. | User centric interface for interaction with visual display that recognizes user intentions |
CN104020935A (zh) * | 2013-02-28 | 2014-09-03 | 国际商业机器公司 | 用于控制显示屏上的显示对象的方法和装置 |
US10905943B2 (en) * | 2013-06-07 | 2021-02-02 | Sony Interactive Entertainment LLC | Systems and methods for reducing hops associated with a head mounted system |
US10137361B2 (en) | 2013-06-07 | 2018-11-27 | Sony Interactive Entertainment America Llc | Systems and methods for using reduced hops to generate an augmented virtual reality scene within a head mounted system |
US9908048B2 (en) * | 2013-06-08 | 2018-03-06 | Sony Interactive Entertainment Inc. | Systems and methods for transitioning between transparent mode and non-transparent mode in a head mounted display |
US10304238B2 (en) * | 2013-07-23 | 2019-05-28 | National Ict Australia Limited | Geo-located activity visualisation, editing and sharing |
KR102120764B1 (ko) | 2013-09-16 | 2020-06-09 | 엘지전자 주식회사 | 포터블 디바이스 및 그 제어 방법 |
WO2015037784A1 (en) * | 2013-09-16 | 2015-03-19 | Lg Electronics Inc. | Portable device and control method thereof |
US9083860B2 (en) | 2013-10-09 | 2015-07-14 | Motorola Solutions, Inc. | Method of and apparatus for automatically controlling operation of a user-mounted recording device based on user motion and event context |
US9635424B2 (en) * | 2014-07-18 | 2017-04-25 | Sony Interactive Entertainment America Llc | Virtual high definition video player |
JP2016046642A (ja) * | 2014-08-21 | 2016-04-04 | キヤノン株式会社 | 情報処理システム、情報処理方法及びプログラム |
CN104216533B (zh) * | 2014-08-28 | 2017-06-06 | 东华大学 | 一种基于DirectX9的头戴式虚拟现实显示器 |
WO2016041088A1 (en) * | 2014-09-19 | 2016-03-24 | Sulon Technologies Inc. | System and method for tracking wearable peripherals in augmented reality and virtual reality applications |
TWI530821B (zh) * | 2014-09-25 | 2016-04-21 | 中強光電股份有限公司 | 頭戴式顯示系統及其操作方法 |
KR102309281B1 (ko) * | 2014-11-07 | 2021-10-08 | 삼성전자주식회사 | 오브젝트를 표시하는 방향 기반 전자 장치 및 방법 |
KR20160059765A (ko) * | 2014-11-19 | 2016-05-27 | 삼성전자주식회사 | 전자 장치의 디스플레이 방법 및 장치 |
US20160210780A1 (en) * | 2015-01-20 | 2016-07-21 | Jonathan Paulovich | Applying real world scale to virtual content |
US10013808B2 (en) * | 2015-02-03 | 2018-07-03 | Globus Medical, Inc. | Surgeon head-mounted display apparatuses |
US9897806B2 (en) | 2015-02-10 | 2018-02-20 | Dreamworks Animation L.L.C. | Generation of three-dimensional imagery to supplement existing content |
US9721385B2 (en) * | 2015-02-10 | 2017-08-01 | Dreamworks Animation Llc | Generation of three-dimensional imagery from a two-dimensional image using a depth map |
US20160261908A1 (en) * | 2015-03-05 | 2016-09-08 | Htc Corporation | Media streaming system and control method thereof |
JP6501904B2 (ja) * | 2015-05-27 | 2019-04-17 | グーグル エルエルシー | 球面ビデオのストリーミング |
KR20160139461A (ko) | 2015-05-27 | 2016-12-07 | 엘지전자 주식회사 | 헤드 마운티드 디스플레이 및 그 제어 방법 |
EP3307407B1 (en) | 2015-06-14 | 2020-09-09 | Sony Interactive Entertainment Inc. | Expanded field of view re-rendering for vr spectating |
WO2017143289A1 (en) * | 2016-02-17 | 2017-08-24 | Gopro, Inc. | System and method for presenting and viewing a spherical video segment |
US10245507B2 (en) * | 2016-06-13 | 2019-04-02 | Sony Interactive Entertainment Inc. | Spectator management at view locations in virtual reality environments |
KR101916863B1 (ko) * | 2016-06-13 | 2018-11-08 | 주식회사 네비웍스 | 가상현실게임제어장치 및 그 동작 방법 |
WO2018002882A1 (en) * | 2016-06-30 | 2018-01-04 | Nokia Technologies Oy | Method and apparatus for rotation and switching of video content |
US10652284B2 (en) | 2016-10-12 | 2020-05-12 | Samsung Electronics Co., Ltd. | Method and apparatus for session control support for field of view virtual reality streaming |
WO2018074263A1 (ja) * | 2016-10-20 | 2018-04-26 | ソニー株式会社 | 情報処理装置、情報処理方法、プログラム、およびコミュニケーションシステム |
US10999602B2 (en) | 2016-12-23 | 2021-05-04 | Apple Inc. | Sphere projected motion estimation/compensation and mode decision |
US11259046B2 (en) | 2017-02-15 | 2022-02-22 | Apple Inc. | Processing of equirectangular object data to compensate for distortion by spherical projections |
US10924747B2 (en) | 2017-02-27 | 2021-02-16 | Apple Inc. | Video coding techniques for multi-view video |
GB2561882A (en) * | 2017-04-27 | 2018-10-31 | Nokia Technologies Oy | Virtual reality viewport adaption |
US11093752B2 (en) * | 2017-06-02 | 2021-08-17 | Apple Inc. | Object tracking in multi-view video |
US10706813B1 (en) * | 2018-02-03 | 2020-07-07 | Facebook Technologies, Llc | Apparatus, system, and method for mitigating motion-to-photon latency in head-mounted displays |
CN108337573A (zh) * | 2018-03-26 | 2018-07-27 | 京东方科技集团股份有限公司 | 一种赛事实时解说的实现方法和介质 |
WO2020012071A1 (en) * | 2018-07-10 | 2020-01-16 | Nokia Technologies Oy | A method, an apparatus and a computer program product for volumetric video coding |
US11089281B2 (en) | 2018-11-27 | 2021-08-10 | At&T Intellectual Property I, L.P. | Volumetric video creation from user-generated content |
US11006091B2 (en) | 2018-11-27 | 2021-05-11 | At&T Intellectual Property I, L.P. | Opportunistic volumetric video editing |
US11528538B2 (en) | 2018-12-21 | 2022-12-13 | Koninklijke Kpn N.V. | Streaming volumetric and non-volumetric video |
US11675424B2 (en) | 2019-01-22 | 2023-06-13 | Hewlett-Packard Development Company, L.P. | Mixed reality presentation |
US10970519B2 (en) | 2019-04-16 | 2021-04-06 | At&T Intellectual Property I, L.P. | Validating objects in volumetric video presentations |
US11074697B2 (en) | 2019-04-16 | 2021-07-27 | At&T Intellectual Property I, L.P. | Selecting viewpoints for rendering in volumetric video presentations |
US11153492B2 (en) | 2019-04-16 | 2021-10-19 | At&T Intellectual Property I, L.P. | Selecting spectator viewpoints in volumetric video presentations of live events |
US11012675B2 (en) | 2019-04-16 | 2021-05-18 | At&T Intellectual Property I, L.P. | Automatic selection of viewpoint characteristics and trajectories in volumetric video presentations |
US11023729B1 (en) * | 2019-11-08 | 2021-06-01 | Msg Entertainment Group, Llc | Providing visual guidance for presenting visual content in a venue |
US20230008125A1 (en) * | 2019-12-16 | 2023-01-12 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Augmenting a view of a real-world environment with a view of a volumetric video object |
US11330252B2 (en) * | 2020-02-12 | 2022-05-10 | At&T Intellectual Property I, L.P. | Apparatus and method for providing content with multiplane image transcoding |
US11622100B2 (en) * | 2021-02-17 | 2023-04-04 | flexxCOACH VR | 360-degree virtual-reality system for dynamic events |
JP2023159708A (ja) | 2022-04-20 | 2023-11-01 | キヤノン株式会社 | 撮像システムの制御装置および制御方法 |
US20240071007A1 (en) * | 2022-08-31 | 2024-02-29 | Snap Inc. | Multi-dimensional experience presentation using augmented reality |
US20240073404A1 (en) * | 2022-08-31 | 2024-02-29 | Snap Inc. | Controlling and editing presentation of volumetric content |
Family Cites Families (26)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07325934A (ja) | 1992-07-10 | 1995-12-12 | Walt Disney Co:The | 仮想世界に向上したグラフィックスを提供する方法および装置 |
US6008781A (en) | 1992-10-22 | 1999-12-28 | Board Of Regents Of The University Of Washington | Virtual retinal display |
JPH086708A (ja) * | 1994-04-22 | 1996-01-12 | Canon Inc | 表示装置 |
CA2197175A1 (en) * | 1994-08-10 | 1996-02-22 | Retinal Display Cayman Ltd. | Head mounted display optics |
EP0707288B1 (en) * | 1994-10-14 | 2003-08-27 | Canon Kabushiki Kaisha | Image processing method and apparatus |
JPH08116556A (ja) * | 1994-10-14 | 1996-05-07 | Canon Inc | 画像処理方法および装置 |
US6327381B1 (en) | 1994-12-29 | 2001-12-04 | Worldscape, Llc | Image transformation and synthesis methods |
KR19980023727U (ko) * | 1996-10-31 | 1998-07-25 | 배순훈 | 지문인식을 이용한 자동차 도어 열림장치 |
KR20020025301A (ko) | 2000-09-28 | 2002-04-04 | 오길록 | 다중 사용자를 지원하는 파노라믹 이미지를 이용한증강현실 영상의 제공 장치 및 그 방법 |
JP2003244728A (ja) * | 2002-02-15 | 2003-08-29 | Mitsubishi Heavy Ind Ltd | 仮想映像作成装置及び仮想映像作成方法 |
US7337410B2 (en) | 2002-11-06 | 2008-02-26 | Julius Lin | Virtual workstation |
US7352340B2 (en) | 2002-12-20 | 2008-04-01 | Global Imagination | Display system having a three-dimensional convex display surface |
AU2004237202A1 (en) * | 2003-04-30 | 2004-11-18 | D4D Technologies, Llc | Intra-oral imaging system |
US7190496B2 (en) | 2003-07-24 | 2007-03-13 | Zebra Imaging, Inc. | Enhanced environment visualization using holographic stereograms |
US7814436B2 (en) * | 2003-07-28 | 2010-10-12 | Autodesk, Inc. | 3D scene orientation indicator system with scene orientation change capability |
US8323106B2 (en) * | 2008-05-30 | 2012-12-04 | Sony Computer Entertainment America Llc | Determination of controller three-dimensional location using image analysis and ultrasonic communication |
JP4373286B2 (ja) * | 2004-05-06 | 2009-11-25 | オリンパス株式会社 | 頭部装着型表示装置 |
WO2006086223A2 (en) * | 2005-02-08 | 2006-08-17 | Blue Belt Technologies, Inc. | Augmented reality device and method |
US7925391B2 (en) * | 2005-06-02 | 2011-04-12 | The Boeing Company | Systems and methods for remote display of an enhanced image |
CN1877390A (zh) * | 2005-06-08 | 2006-12-13 | 大学光学科技股份有限公司 | 具有数字内容显示的焦距可调整的头戴式显示系统及用于实现该系统的装置 |
US7843449B2 (en) | 2006-09-20 | 2010-11-30 | Apple Inc. | Three-dimensional display system |
US9323055B2 (en) * | 2006-05-26 | 2016-04-26 | Exelis, Inc. | System and method to display maintenance and operational instructions of an apparatus using augmented reality |
US20100110368A1 (en) | 2008-11-02 | 2010-05-06 | David Chaum | System and apparatus for eyeglass appliance platform |
US20100128112A1 (en) | 2008-11-26 | 2010-05-27 | Samsung Electronics Co., Ltd | Immersive display system for interacting with three-dimensional content |
KR101647722B1 (ko) * | 2009-11-13 | 2016-08-23 | 엘지전자 주식회사 | 영상표시장치 및 그 동작방법 |
US8836771B2 (en) * | 2011-04-26 | 2014-09-16 | Echostar Technologies L.L.C. | Apparatus, systems and methods for shared viewing experience using head mounted displays |
-
2011
- 2011-06-17 US US13/163,407 patent/US8964008B2/en active Active
-
2012
- 2012-04-17 TW TW101113630A patent/TWI571130B/zh not_active IP Right Cessation
- 2012-06-12 CN CN201280029699.3A patent/CN103608716B/zh active Active
- 2012-06-12 WO PCT/US2012/042064 patent/WO2012173998A2/en active Application Filing
- 2012-06-12 JP JP2014515917A patent/JP6223965B2/ja active Active
- 2012-06-12 KR KR1020137033546A patent/KR101925658B1/ko active IP Right Grant
- 2012-06-12 EP EP12800692.1A patent/EP2721443A4/en not_active Ceased
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2014525049A5 (ja) | ||
WO2018057994A3 (en) | Predictive, foveated virtual reality system | |
US10205879B2 (en) | Electronic image stabilization frequency estimator | |
US9076033B1 (en) | Hand-triggered head-mounted photography | |
US9529428B1 (en) | Using head movement to adjust focus on content of a display | |
US10694115B2 (en) | Method, apparatus, and terminal for presenting panoramic visual content | |
WO2012173998A3 (en) | Volumetric video presentation | |
JP2017054201A5 (ja) | ||
RU2016133123A (ru) | Устройство обработки информации, способ обработки информации и программа | |
JP2013105253A5 (ja) | ||
WO2011156146A3 (en) | Video camera providing videos with perceived depth | |
RU2016113960A (ru) | Наголовное устройство отображения и способ управления наголовным устройством отображения | |
JP2016514865A5 (ja) | ||
US20160378177A1 (en) | Visualized content transmission control method, sending method and apparatuses thereof | |
US20140204083A1 (en) | Systems and methods for real-time distortion processing | |
US9837051B2 (en) | Electronic device and method for adjusting images presented by electronic device | |
US20140362211A1 (en) | Mobile terminal device, display control method, and computer program product | |
JP2018073172A5 (ja) | ||
KR102078198B1 (ko) | 전자 장치 및 전자 장치의 3차원 모델링을 위한 촬영방법 | |
KR102561274B1 (ko) | 디스플레이 장치 및 디스플레이 장치의 제어 방법 | |
WO2013104315A1 (zh) | 一种为发射光源的运动轨迹映射其应用轨迹的方法与系统 | |
US20150172550A1 (en) | Display tiling for enhanced view modes | |
US20170223321A1 (en) | Projection of image onto object | |
US20160378178A1 (en) | Visualized content transmission control method, sending method and apparatuses thereof | |
EP3547079B1 (en) | Presenting images on a display device |