JP2014525049A5 - - Google Patents

Download PDF

Info

Publication number
JP2014525049A5
JP2014525049A5 JP2014515917A JP2014515917A JP2014525049A5 JP 2014525049 A5 JP2014525049 A5 JP 2014525049A5 JP 2014515917 A JP2014515917 A JP 2014515917A JP 2014515917 A JP2014515917 A JP 2014515917A JP 2014525049 A5 JP2014525049 A5 JP 2014525049A5
Authority
JP
Japan
Prior art keywords
data
video
viewer
representation
display system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014515917A
Other languages
English (en)
Other versions
JP6223965B2 (ja
JP2014525049A (ja
Filing date
Publication date
Priority claimed from US13/163,407 external-priority patent/US8964008B2/en
Application filed filed Critical
Publication of JP2014525049A publication Critical patent/JP2014525049A/ja
Publication of JP2014525049A5 publication Critical patent/JP2014525049A5/ja
Application granted granted Critical
Publication of JP6223965B2 publication Critical patent/JP6223965B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Claims (10)

  1. ロジックサブシステムと;
    保管されたインストラクションを含むデータ保持サブシステムと、を含み、
    インストラクションが前記ロジックサブシステムによって実行されると:
    表現空間におけるヘッドマウントディスプレイシステム上に配置された一つまたはそれ以上の動作センサーと前記ヘッドマウントディスプレイシステム上に配置されたものではない前記表現空間における一つまたはそれ以上の映像センサーとを含んでいる、位置及び向き検知システムから視聴者の位置データ及び視聴者の向きデータを受取り;
    前記視聴者の位置データ及び前記視聴者の向きデータから、表現空間の中に視聴者を配置し、前記表現空間において前記視聴者が直面している方向を判断し、かつ、前記表現空間におけるヘッドマウントディスプレイの向きを決定し:
    前記視聴者の位置データ及び前記視聴者の向きデータに基づいて、前記視聴者の視野の中にある前記表現空間の領域にマップされた立体映像の領域及び向きを判断することによって、前記ヘッドマウントディスプレイシステムに対して送付する表現映像を決定し、前記表現映像は、前記立体映像における対象物の第1の視点に対応しており、かつ、
    前記表現映像を前記ヘッドマウントディスプレイシステムに対して送付し、
    前記視聴者の位置データ及び前記視聴者の向きデータにおける変化を検出し、かつ、
    前記視聴者の位置データ及び前記視聴者の向きデータにおいて検出された前記変化に基づいて、前記ヘッドマウントディスプレイシステムに送付するための異なる表現映像を決定し、前記異なる表現映像は、前記立体映像における前記対象物の第2の異なる視点に対応している、
    ことを特徴とするコンピューターデバイス。
  2. 前記インストラクションは実行されると、さらに、
    前記ヘッドマウントディスプレイシステム上の眼球トラッキング映像センサーから、眼球トラッキングデータを受取り、かつ、前記眼球トラッキングデータに基づいて、前記表現映像を決定する、
    請求項1に記載のコンピューターデバイス。
  3. 前記インストラクションは、さらに、
    前記立体映像の入力を受取り、前記立体映像を前記表現空間に対してマップするように構成されている、
    請求項1に記載のコンピューターデバイス。
  4. 前記立体映像データは、複数のアングルからキャプチャーされたシーンのビデオ映像データを含む、
    請求項1に記載のコンピューターデバイス。
  5. 前記インストラクションは実行されると、さらに、
    前記向きデータから、前記ヘッドマウントディスプレイシステムのロール、ピッチ、ヨーを検知する、
    請求項1に記載のコンピューターデバイス。
  6. 前記インストラクションは実行されると、さらに、
    ユーザーインターフェイスにリクエストしているユーザー入力を検知し;
    表示のために前記ヘッドマウントディスプレイシステムに対して送付するユーザーインターフェイス映像を決定し、前記ユーザーインターフェイス映像はユーザーインターフェイスエレメントを含んでおり;
    前記ユーザーインターフェイス映像とインタラクションしているユーザージェスチャーを検知し;かつ、
    それに応じて、前記ユーザーインターフェイス映像上のユーザージェスチャーの効果を説明する変更されたユーザーインターフェイスを送付する、
    請求項1に記載のコンピューターデバイス。
  7. 前記ユーザーインターフェイスエレメントは、プッシュ可能、及び/又は、プル可能なエレメントである、
    請求項6に記載のコンピューターデバイス。
  8. 前記インストラクションは実行されると、
    前記表現空間の中の複数の視聴者を検知し、前記表現空間におけるそれぞれの視聴者の位置に基づいて、前記複数の視聴者それぞれに対して送付する異なった映像を決定する、
    請求項1に記載のコンピューターデバイス。
  9. 前記インストラクションは実行されると、さらに、
    音声入力を受取り、前記音声入力における音声コマンドを検知し、かつ、前記音声入力に応じた機能を実行する、
    請求項1に記載のコンピューターデバイス。
  10. 立体ビデオ映像データを表現する方法であって、前記方法は:
    前記立体ビデオ映像データを受取るステップと;
    前記立体ビデオ映像データのピクセルを表現空間における位置と関連付けることによって、前記立体ビデオ映像データを前記表現空間に対してマッピングするステップと;
    複数の映像キャプチャーデバイスから視聴者トラッキング映像データを受取るステップと;
    ヘッドマウントディスプレイシステム上に一つまたはそれ以上の動作センサーから動作データを受け取るステップと;
    前記視聴者トラッキング映像データを介して前記表現空間の中に視聴者を配置し、前記表現空間の中で前記視聴者が直面している方向を判断するステップと
    前記動作データから、前記表現空間における前記ヘッドマウントディスプレイシステムの向きを決定するステップと;
    前記ヘッドマウントディスプレイシステム上の映像センサーから眼球トラッキングデータを受取るステップと;
    前記眼球トラッキングデータから、前記視聴者の視界が向けられる方向を決定するステップと;
    前記視聴者のトラッキング映像データ、前記動作データ、および、前記眼球トラッキングデータに基づいて、前記視聴者の視野の中にある前記表現空間の領域にマップされた立体映像の領域及び向きを判断することによって、前記ヘッドマウントディスプレイシステムに対して送付する表現映像を決定するステップであり、前記表現映像は、前記立体ビデオ映像データにおける対象物の第1の視点に対応している、ステップと;
    前記表現映像を前記ヘッドマウントディスプレイシステムに対して送付するステップと、
    前記視聴者のトラッキング映像データ、前記動作データ、および、前記眼球トラッキングデータにおける変化を検出するステップと、
    前記視聴者のトラッキング映像データ、前記動作データ、および、前記眼球トラッキングデータにおいて検出された前記変化に基づいて、前記ヘッドマウントディスプレイシステムに送付するための異なる表現映像を決定するステップであり、前記異なる表現映像は、前記立体ビデオ映像データにおける前記対象物の第2の異なる視点に対応している、ステップと、を含む、
    ことを特徴とする方法。
JP2014515917A 2011-06-17 2012-06-12 立体ビデオ表現のためのコンピュータ・システム及び方法 Active JP6223965B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US13/163,407 US8964008B2 (en) 2011-06-17 2011-06-17 Volumetric video presentation
US13/163,407 2011-06-17
PCT/US2012/042064 WO2012173998A2 (en) 2011-06-17 2012-06-12 Volumetric video presentation

Publications (3)

Publication Number Publication Date
JP2014525049A JP2014525049A (ja) 2014-09-25
JP2014525049A5 true JP2014525049A5 (ja) 2015-07-09
JP6223965B2 JP6223965B2 (ja) 2017-11-01

Family

ID=47353374

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014515917A Active JP6223965B2 (ja) 2011-06-17 2012-06-12 立体ビデオ表現のためのコンピュータ・システム及び方法

Country Status (7)

Country Link
US (1) US8964008B2 (ja)
EP (1) EP2721443A4 (ja)
JP (1) JP6223965B2 (ja)
KR (1) KR101925658B1 (ja)
CN (1) CN103608716B (ja)
TW (1) TWI571130B (ja)
WO (1) WO2012173998A2 (ja)

Families Citing this family (61)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10795457B2 (en) 2006-12-28 2020-10-06 D3D Technologies, Inc. Interactive 3D cursor
US11228753B1 (en) 2006-12-28 2022-01-18 Robert Edwin Douglas Method and apparatus for performing stereoscopic zooming on a head display unit
US11275242B1 (en) 2006-12-28 2022-03-15 Tipping Point Medical Images, Llc Method and apparatus for performing stereoscopic rotation of a volume on a head display unit
US11315307B1 (en) 2006-12-28 2022-04-26 Tipping Point Medical Images, Llc Method and apparatus for performing rotating viewpoints using a head display unit
US8941560B2 (en) 2011-09-21 2015-01-27 Google Inc. Wearable computer with superimposed controls and instructions for external device
US20130083252A1 (en) * 2011-10-04 2013-04-04 David John Boyes Gesture recognition capable picture video frame
US20150097772A1 (en) * 2012-01-06 2015-04-09 Thad Eugene Starner Gaze Signal Based on Physical Characteristics of the Eye
KR101958778B1 (ko) * 2012-08-31 2019-03-15 엘지전자 주식회사 헤드 마운트 디스플레이 및 이를 이용한 디지털 디바이스 제어 방법
US8933882B2 (en) 2012-12-31 2015-01-13 Intentive Inc. User centric interface for interaction with visual display that recognizes user intentions
CN104020935A (zh) * 2013-02-28 2014-09-03 国际商业机器公司 用于控制显示屏上的显示对象的方法和装置
US10905943B2 (en) * 2013-06-07 2021-02-02 Sony Interactive Entertainment LLC Systems and methods for reducing hops associated with a head mounted system
US10137361B2 (en) 2013-06-07 2018-11-27 Sony Interactive Entertainment America Llc Systems and methods for using reduced hops to generate an augmented virtual reality scene within a head mounted system
US9908048B2 (en) * 2013-06-08 2018-03-06 Sony Interactive Entertainment Inc. Systems and methods for transitioning between transparent mode and non-transparent mode in a head mounted display
US10304238B2 (en) * 2013-07-23 2019-05-28 National Ict Australia Limited Geo-located activity visualisation, editing and sharing
KR102120764B1 (ko) 2013-09-16 2020-06-09 엘지전자 주식회사 포터블 디바이스 및 그 제어 방법
WO2015037784A1 (en) * 2013-09-16 2015-03-19 Lg Electronics Inc. Portable device and control method thereof
US9083860B2 (en) 2013-10-09 2015-07-14 Motorola Solutions, Inc. Method of and apparatus for automatically controlling operation of a user-mounted recording device based on user motion and event context
US9635424B2 (en) * 2014-07-18 2017-04-25 Sony Interactive Entertainment America Llc Virtual high definition video player
JP2016046642A (ja) * 2014-08-21 2016-04-04 キヤノン株式会社 情報処理システム、情報処理方法及びプログラム
CN104216533B (zh) * 2014-08-28 2017-06-06 东华大学 一种基于DirectX9的头戴式虚拟现实显示器
WO2016041088A1 (en) * 2014-09-19 2016-03-24 Sulon Technologies Inc. System and method for tracking wearable peripherals in augmented reality and virtual reality applications
TWI530821B (zh) * 2014-09-25 2016-04-21 中強光電股份有限公司 頭戴式顯示系統及其操作方法
KR102309281B1 (ko) * 2014-11-07 2021-10-08 삼성전자주식회사 오브젝트를 표시하는 방향 기반 전자 장치 및 방법
KR20160059765A (ko) * 2014-11-19 2016-05-27 삼성전자주식회사 전자 장치의 디스플레이 방법 및 장치
US20160210780A1 (en) * 2015-01-20 2016-07-21 Jonathan Paulovich Applying real world scale to virtual content
US10013808B2 (en) * 2015-02-03 2018-07-03 Globus Medical, Inc. Surgeon head-mounted display apparatuses
US9897806B2 (en) 2015-02-10 2018-02-20 Dreamworks Animation L.L.C. Generation of three-dimensional imagery to supplement existing content
US9721385B2 (en) * 2015-02-10 2017-08-01 Dreamworks Animation Llc Generation of three-dimensional imagery from a two-dimensional image using a depth map
US20160261908A1 (en) * 2015-03-05 2016-09-08 Htc Corporation Media streaming system and control method thereof
JP6501904B2 (ja) * 2015-05-27 2019-04-17 グーグル エルエルシー 球面ビデオのストリーミング
KR20160139461A (ko) 2015-05-27 2016-12-07 엘지전자 주식회사 헤드 마운티드 디스플레이 및 그 제어 방법
EP3307407B1 (en) 2015-06-14 2020-09-09 Sony Interactive Entertainment Inc. Expanded field of view re-rendering for vr spectating
WO2017143289A1 (en) * 2016-02-17 2017-08-24 Gopro, Inc. System and method for presenting and viewing a spherical video segment
US10245507B2 (en) * 2016-06-13 2019-04-02 Sony Interactive Entertainment Inc. Spectator management at view locations in virtual reality environments
KR101916863B1 (ko) * 2016-06-13 2018-11-08 주식회사 네비웍스 가상현실게임제어장치 및 그 동작 방법
WO2018002882A1 (en) * 2016-06-30 2018-01-04 Nokia Technologies Oy Method and apparatus for rotation and switching of video content
US10652284B2 (en) 2016-10-12 2020-05-12 Samsung Electronics Co., Ltd. Method and apparatus for session control support for field of view virtual reality streaming
WO2018074263A1 (ja) * 2016-10-20 2018-04-26 ソニー株式会社 情報処理装置、情報処理方法、プログラム、およびコミュニケーションシステム
US10999602B2 (en) 2016-12-23 2021-05-04 Apple Inc. Sphere projected motion estimation/compensation and mode decision
US11259046B2 (en) 2017-02-15 2022-02-22 Apple Inc. Processing of equirectangular object data to compensate for distortion by spherical projections
US10924747B2 (en) 2017-02-27 2021-02-16 Apple Inc. Video coding techniques for multi-view video
GB2561882A (en) * 2017-04-27 2018-10-31 Nokia Technologies Oy Virtual reality viewport adaption
US11093752B2 (en) * 2017-06-02 2021-08-17 Apple Inc. Object tracking in multi-view video
US10706813B1 (en) * 2018-02-03 2020-07-07 Facebook Technologies, Llc Apparatus, system, and method for mitigating motion-to-photon latency in head-mounted displays
CN108337573A (zh) * 2018-03-26 2018-07-27 京东方科技集团股份有限公司 一种赛事实时解说的实现方法和介质
WO2020012071A1 (en) * 2018-07-10 2020-01-16 Nokia Technologies Oy A method, an apparatus and a computer program product for volumetric video coding
US11089281B2 (en) 2018-11-27 2021-08-10 At&T Intellectual Property I, L.P. Volumetric video creation from user-generated content
US11006091B2 (en) 2018-11-27 2021-05-11 At&T Intellectual Property I, L.P. Opportunistic volumetric video editing
US11528538B2 (en) 2018-12-21 2022-12-13 Koninklijke Kpn N.V. Streaming volumetric and non-volumetric video
US11675424B2 (en) 2019-01-22 2023-06-13 Hewlett-Packard Development Company, L.P. Mixed reality presentation
US10970519B2 (en) 2019-04-16 2021-04-06 At&T Intellectual Property I, L.P. Validating objects in volumetric video presentations
US11074697B2 (en) 2019-04-16 2021-07-27 At&T Intellectual Property I, L.P. Selecting viewpoints for rendering in volumetric video presentations
US11153492B2 (en) 2019-04-16 2021-10-19 At&T Intellectual Property I, L.P. Selecting spectator viewpoints in volumetric video presentations of live events
US11012675B2 (en) 2019-04-16 2021-05-18 At&T Intellectual Property I, L.P. Automatic selection of viewpoint characteristics and trajectories in volumetric video presentations
US11023729B1 (en) * 2019-11-08 2021-06-01 Msg Entertainment Group, Llc Providing visual guidance for presenting visual content in a venue
US20230008125A1 (en) * 2019-12-16 2023-01-12 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Augmenting a view of a real-world environment with a view of a volumetric video object
US11330252B2 (en) * 2020-02-12 2022-05-10 At&T Intellectual Property I, L.P. Apparatus and method for providing content with multiplane image transcoding
US11622100B2 (en) * 2021-02-17 2023-04-04 flexxCOACH VR 360-degree virtual-reality system for dynamic events
JP2023159708A (ja) 2022-04-20 2023-11-01 キヤノン株式会社 撮像システムの制御装置および制御方法
US20240071007A1 (en) * 2022-08-31 2024-02-29 Snap Inc. Multi-dimensional experience presentation using augmented reality
US20240073404A1 (en) * 2022-08-31 2024-02-29 Snap Inc. Controlling and editing presentation of volumetric content

Family Cites Families (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07325934A (ja) 1992-07-10 1995-12-12 Walt Disney Co:The 仮想世界に向上したグラフィックスを提供する方法および装置
US6008781A (en) 1992-10-22 1999-12-28 Board Of Regents Of The University Of Washington Virtual retinal display
JPH086708A (ja) * 1994-04-22 1996-01-12 Canon Inc 表示装置
CA2197175A1 (en) * 1994-08-10 1996-02-22 Retinal Display Cayman Ltd. Head mounted display optics
EP0707288B1 (en) * 1994-10-14 2003-08-27 Canon Kabushiki Kaisha Image processing method and apparatus
JPH08116556A (ja) * 1994-10-14 1996-05-07 Canon Inc 画像処理方法および装置
US6327381B1 (en) 1994-12-29 2001-12-04 Worldscape, Llc Image transformation and synthesis methods
KR19980023727U (ko) * 1996-10-31 1998-07-25 배순훈 지문인식을 이용한 자동차 도어 열림장치
KR20020025301A (ko) 2000-09-28 2002-04-04 오길록 다중 사용자를 지원하는 파노라믹 이미지를 이용한증강현실 영상의 제공 장치 및 그 방법
JP2003244728A (ja) * 2002-02-15 2003-08-29 Mitsubishi Heavy Ind Ltd 仮想映像作成装置及び仮想映像作成方法
US7337410B2 (en) 2002-11-06 2008-02-26 Julius Lin Virtual workstation
US7352340B2 (en) 2002-12-20 2008-04-01 Global Imagination Display system having a three-dimensional convex display surface
AU2004237202A1 (en) * 2003-04-30 2004-11-18 D4D Technologies, Llc Intra-oral imaging system
US7190496B2 (en) 2003-07-24 2007-03-13 Zebra Imaging, Inc. Enhanced environment visualization using holographic stereograms
US7814436B2 (en) * 2003-07-28 2010-10-12 Autodesk, Inc. 3D scene orientation indicator system with scene orientation change capability
US8323106B2 (en) * 2008-05-30 2012-12-04 Sony Computer Entertainment America Llc Determination of controller three-dimensional location using image analysis and ultrasonic communication
JP4373286B2 (ja) * 2004-05-06 2009-11-25 オリンパス株式会社 頭部装着型表示装置
WO2006086223A2 (en) * 2005-02-08 2006-08-17 Blue Belt Technologies, Inc. Augmented reality device and method
US7925391B2 (en) * 2005-06-02 2011-04-12 The Boeing Company Systems and methods for remote display of an enhanced image
CN1877390A (zh) * 2005-06-08 2006-12-13 大学光学科技股份有限公司 具有数字内容显示的焦距可调整的头戴式显示系统及用于实现该系统的装置
US7843449B2 (en) 2006-09-20 2010-11-30 Apple Inc. Three-dimensional display system
US9323055B2 (en) * 2006-05-26 2016-04-26 Exelis, Inc. System and method to display maintenance and operational instructions of an apparatus using augmented reality
US20100110368A1 (en) 2008-11-02 2010-05-06 David Chaum System and apparatus for eyeglass appliance platform
US20100128112A1 (en) 2008-11-26 2010-05-27 Samsung Electronics Co., Ltd Immersive display system for interacting with three-dimensional content
KR101647722B1 (ko) * 2009-11-13 2016-08-23 엘지전자 주식회사 영상표시장치 및 그 동작방법
US8836771B2 (en) * 2011-04-26 2014-09-16 Echostar Technologies L.L.C. Apparatus, systems and methods for shared viewing experience using head mounted displays

Similar Documents

Publication Publication Date Title
JP2014525049A5 (ja)
WO2018057994A3 (en) Predictive, foveated virtual reality system
US10205879B2 (en) Electronic image stabilization frequency estimator
US9076033B1 (en) Hand-triggered head-mounted photography
US9529428B1 (en) Using head movement to adjust focus on content of a display
US10694115B2 (en) Method, apparatus, and terminal for presenting panoramic visual content
WO2012173998A3 (en) Volumetric video presentation
JP2017054201A5 (ja)
RU2016133123A (ru) Устройство обработки информации, способ обработки информации и программа
JP2013105253A5 (ja)
WO2011156146A3 (en) Video camera providing videos with perceived depth
RU2016113960A (ru) Наголовное устройство отображения и способ управления наголовным устройством отображения
JP2016514865A5 (ja)
US20160378177A1 (en) Visualized content transmission control method, sending method and apparatuses thereof
US20140204083A1 (en) Systems and methods for real-time distortion processing
US9837051B2 (en) Electronic device and method for adjusting images presented by electronic device
US20140362211A1 (en) Mobile terminal device, display control method, and computer program product
JP2018073172A5 (ja)
KR102078198B1 (ko) 전자 장치 및 전자 장치의 3차원 모델링을 위한 촬영방법
KR102561274B1 (ko) 디스플레이 장치 및 디스플레이 장치의 제어 방법
WO2013104315A1 (zh) 一种为发射光源的运动轨迹映射其应用轨迹的方法与系统
US20150172550A1 (en) Display tiling for enhanced view modes
US20170223321A1 (en) Projection of image onto object
US20160378178A1 (en) Visualized content transmission control method, sending method and apparatuses thereof
EP3547079B1 (en) Presenting images on a display device