JP7401472B2 - シーンの画像を生成するための装置および方法 - Google Patents
シーンの画像を生成するための装置および方法 Download PDFInfo
- Publication number
- JP7401472B2 JP7401472B2 JP2020572436A JP2020572436A JP7401472B2 JP 7401472 B2 JP7401472 B2 JP 7401472B2 JP 2020572436 A JP2020572436 A JP 2020572436A JP 2020572436 A JP2020572436 A JP 2020572436A JP 7401472 B2 JP7401472 B2 JP 7401472B2
- Authority
- JP
- Japan
- Prior art keywords
- pose
- anchor
- viewer
- poses
- rendering
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 34
- 238000009877 rendering Methods 0.000 claims description 102
- 238000013507 mapping Methods 0.000 claims description 76
- 230000008859 change Effects 0.000 claims description 38
- 230000015572 biosynthetic process Effects 0.000 claims description 11
- 238000003786 synthesis reaction Methods 0.000 claims description 11
- 230000004044 response Effects 0.000 claims description 7
- 230000002194 synthesizing effect Effects 0.000 claims description 3
- 238000004590 computer program Methods 0.000 claims 2
- 230000033001 locomotion Effects 0.000 description 60
- 210000003128 head Anatomy 0.000 description 27
- 238000013459 approach Methods 0.000 description 23
- 230000000694 effects Effects 0.000 description 16
- 230000006870 function Effects 0.000 description 15
- 230000001976 improved effect Effects 0.000 description 14
- 230000004886 head movement Effects 0.000 description 7
- 238000012545 processing Methods 0.000 description 6
- 230000008569 process Effects 0.000 description 4
- 230000008901 benefit Effects 0.000 description 3
- 238000004891 communication Methods 0.000 description 3
- 230000009471 action Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 230000000903 blocking effect Effects 0.000 description 2
- 230000001419 dependent effect Effects 0.000 description 2
- 238000007654 immersion Methods 0.000 description 2
- 238000002156 mixing Methods 0.000 description 2
- 230000002123 temporal effect Effects 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 241000473391 Archosargus rhomboidalis Species 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 230000002349 favourable effect Effects 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000001151 other effect Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 238000004148 unit process Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/10—Geometric effects
- G06T15/20—Perspective computation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/012—Head tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/04815—Interaction with a metaphor-based environment or interaction object displayed as three-dimensional, e.g. changing the user viewpoint with respect to the environment or object
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/005—General purpose rendering architectures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
- G06T7/74—Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/111—Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
- H04N13/117—Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation the virtual viewpoint locations being selected by the viewers or determined by viewer tracking
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N2013/0074—Stereoscopic image analysis
- H04N2013/0088—Synthesising a monoscopic image signal from stereoscopic images, e.g. synthesising a panoramic or high resolution monoscopic image
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Computer Graphics (AREA)
- Computing Systems (AREA)
- Geometry (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Processing Or Creating Images (AREA)
- User Interface Of Digital Computer (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
Description
Claims (13)
- シーンの画像を生成するための装置であって、前記装置は、
前記シーンのためのアンカーポーズのセットを保存するための記憶部と、
視聴者の視聴者ポーズを受け取るための受信部と、
前記アンカーポーズのセットから基準アンカーポーズを選択するための選択部と、
前記視聴者ポーズのうち、現在の視聴者ポーズのための前記シーン内の第1のレンダリングポーズを決定するためのレンダリングポーズプロセッサと、
前記基準アンカーポーズのための第1の3次元画像データを取り出す取得部と、
前記第1の3次元画像データに応答して、前記第1のレンダリングポーズのための画像を合成する合成部とを備え、
前記選択部は、前記視聴者ポーズが前記視聴者ポーズの向きと前記基準アンカーポーズの向きとの差を考慮した基準を満たすと、前記基準アンカーポーズを、前記アンカーポーズのセットのうちの第1のアンカーポーズから前記アンカーポーズのセットのうちの第2のアンカーポーズに切り替え、前記レンダリングポーズプロセッサは、視聴者ポーズからレンダリングポーズへのマッピングによって前記第1のレンダリングポーズを決定し、前記マッピングは、前記アンカーポーズのセットのうちのどのアンカーポーズが前記基準アンカーポーズとして選択されるかに依存する、装置。 - 前記マッピングは、前記アンカーポーズのセットのうちのどのアンカーポーズが前記基準アンカーポーズとして選択されるかに応じて、前記レンダリングポーズに対して異なるオフセットを適用することを含む、請求項1に記載の装置。
- 前記レンダリングポーズプロセッサは、前記視聴者ポーズの第1の方向における変化が、前記レンダリングポーズの前記第1の方向における変化にマッピングされるように、同じ基準アンカーポーズについて視聴者ポーズをレンダリングポーズにマッピングする、請求項1または2に記載の装置。
- 前記レンダリングポーズから前記基準アンカーポーズまでの距離が閾値を超えない場合、前記マッピングは一定の線形マッピングである、請求項1から3のいずれか一項に記載の装置。
- 前記線形マッピングは50%以上かつ150%以下のスケールファクタを有する、請求項4に記載の装置。
- 前記選択部は、第1の視聴者ポーズと基準視聴者ポーズとの間の第1の距離が前記閾値を上回るという要件を含む基準を前記第1の視聴者ポーズが満たすことが検出されると、前記基準アンカーポーズを切り替える、請求項4に記載の装置。
- 前記選択部は、前記アンカーポーズのセットのうちのどのアンカーポーズが前記基準アンカーポーズとして選択されるかに応じて、前記基準視聴者ポーズを調整する、請求項6に記載の装置。
- 前記第1の距離は、前記アンカーポーズのセットのうちのどのアンカーポーズが前記基準アンカーポーズとして選択されるかに依存する、請求項6または7に記載の装置。
- 前記第1の距離は、前記第1の視聴者ポーズの位置と前記基準視聴者ポーズの位置との間の距離であり、前記選択部は、前記視聴者ポーズの向きと基準向きとの間の差に基づき前記閾値を調整する、請求項6から8のいずれか一項に記載の装置。
- 前記閾値は前記差の単調増加関数である、請求項9に記載の装置。
- 前記取得部はさらに、前記アンカーポーズのセットのうちの第2のアンカーポーズのための第2の3次元画像データを取り出し、前記合成部は、前記第2の3次元画像データを使用して前記画像を合成し、前記第1の3次元画像データは前記第2の3次元画像データよりも高い品質レベルを有する、請求項1から10のいずれか一項に記載の装置。
- シーンの画像を生成する方法であって、前記方法は、
前記シーンのためのアンカーポーズのセットを保存するステップと、
視聴者の視聴者ポーズを受け取るステップと、
前記アンカーポーズのセットから基準アンカーポーズを選択するステップと、
前記視聴者ポーズのうち、現在の視聴者ポーズのための前記シーン内の第1のレンダリングポーズを決定するステップであって、前記第1のレンダリングポーズは前記基準アンカーポーズに対して決定される、ステップと、
前記基準アンカーポーズのための第1の3次元画像データを取り出すステップと、
前記第1の3次元画像データに応答して、前記第1のレンダリングポーズのための画像を合成するステップとを含み、
前記選択するステップは、前記視聴者ポーズが前記視聴者ポーズの向きと前記基準アンカーポーズの向きとの差を考慮した基準を満たすと、前記基準アンカーポーズを、前記アンカーポーズのセットのうちの第1のアンカーポーズから前記アンカーポーズのセットのうちの第2のアンカーポーズに切り替えることを含む、方法。 - プログラムがコンピュータ上で実行されると、請求項12に記載の全てのステップを実行するコンピュータプログラムコード手段を含む、コンピュータプログラム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP18179841.4 | 2018-06-25 | ||
EP18179841.4A EP3588249A1 (en) | 2018-06-26 | 2018-06-26 | Apparatus and method for generating images of a scene |
PCT/EP2019/066311 WO2020002115A1 (en) | 2018-06-25 | 2019-06-20 | Apparatus and method for generating images of a scene |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022501685A JP2022501685A (ja) | 2022-01-06 |
JP7401472B2 true JP7401472B2 (ja) | 2023-12-19 |
Family
ID=62814818
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020572436A Active JP7401472B2 (ja) | 2018-06-26 | 2019-06-20 | シーンの画像を生成するための装置および方法 |
Country Status (9)
Country | Link |
---|---|
US (1) | US11694390B2 (ja) |
EP (2) | EP3588249A1 (ja) |
JP (1) | JP7401472B2 (ja) |
KR (1) | KR20210024071A (ja) |
CN (1) | CN112602042B (ja) |
BR (1) | BR112021000289A2 (ja) |
CA (1) | CA3105400A1 (ja) |
TW (1) | TWI831796B (ja) |
WO (1) | WO2020002115A1 (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111659117B (zh) * | 2020-07-08 | 2023-03-21 | 腾讯科技(深圳)有限公司 | 虚拟对象展示方法、装置、计算机设备及存储介质 |
BR112023020905A2 (pt) * | 2021-04-20 | 2023-12-12 | Qualcomm Inc | Ancorando uma descrição de cena a um ambiente de usuário para transmissão contínua de conteúdo de mídia imersivo |
KR20220153396A (ko) | 2021-05-11 | 2022-11-18 | 삼성전자주식회사 | Ar 원격 렌더링 프로세스를 위한 방법 및 장치 |
US11615582B2 (en) * | 2021-06-08 | 2023-03-28 | Fyusion, Inc. | Enclosed multi-view visual media representation |
CN117716700A (zh) | 2021-08-23 | 2024-03-15 | 三星电子株式会社 | 场景自动聚焦的方法及电子装置 |
CN114173139B (zh) * | 2021-11-08 | 2023-11-24 | 北京有竹居网络技术有限公司 | 一种直播互动方法、系统及相关装置 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2013187129A1 (ja) | 2012-06-12 | 2013-12-19 | ソニー株式会社 | 情報処理装置、および情報処理方法、並びにプログラム |
WO2017094607A1 (ja) | 2015-12-02 | 2017-06-08 | 株式会社ソニー・インタラクティブエンタテインメント | 表示制御装置及び表示制御方法 |
Family Cites Families (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07284095A (ja) * | 1994-04-12 | 1995-10-27 | Nippon Telegr & Teleph Corp <Ntt> | 視点適応型画像伝送方法および画像伝送装置 |
CN100449572C (zh) | 2003-09-30 | 2009-01-07 | 皇家飞利浦电子股份有限公司 | 图像再现的运动控制 |
US7990394B2 (en) * | 2007-05-25 | 2011-08-02 | Google Inc. | Viewing and navigating within panoramic images, and applications thereof |
CN102113015B (zh) | 2008-07-28 | 2017-04-26 | 皇家飞利浦电子股份有限公司 | 使用修补技术进行图像校正 |
US20100259595A1 (en) * | 2009-04-10 | 2010-10-14 | Nokia Corporation | Methods and Apparatuses for Efficient Streaming of Free View Point Video |
US8896631B2 (en) | 2010-10-25 | 2014-11-25 | Hewlett-Packard Development Company, L.P. | Hyper parallax transformation matrix based on user eye positions |
US9485487B2 (en) | 2011-06-22 | 2016-11-01 | Koninklijke Philips N.V. | Method and apparatus for generating a signal for a display |
US9786097B2 (en) | 2012-06-22 | 2017-10-10 | Matterport, Inc. | Multi-modal method for interacting with 3D models |
EP3266199B1 (en) * | 2015-03-01 | 2019-09-18 | NEXTVR Inc. | Methods and apparatus for supporting content generation, transmission and/or playback |
US10210844B2 (en) * | 2015-06-29 | 2019-02-19 | Microsoft Technology Licensing, Llc | Holographic near-eye display |
CN106919248A (zh) * | 2015-12-26 | 2017-07-04 | 华为技术有限公司 | 应用于虚拟现实的内容传输方法以及设备 |
US10163251B2 (en) * | 2016-03-25 | 2018-12-25 | Outward, Inc. | Arbitrary view generation |
TWI597625B (zh) * | 2016-06-20 | 2017-09-01 | 國立中興大學 | 影像導覽系統之互動結合方法 |
CN106101741B (zh) * | 2016-07-26 | 2020-12-15 | 武汉斗鱼网络科技有限公司 | 在网络视频直播平台上观看全景视频的方法及系统 |
KR102376593B1 (ko) * | 2016-09-29 | 2022-03-21 | 코닌클리케 필립스 엔.브이. | 이미지 처리 |
EP3422708A1 (en) | 2017-06-29 | 2019-01-02 | Koninklijke Philips N.V. | Apparatus and method for generating an image |
EP3511910A1 (en) | 2018-01-12 | 2019-07-17 | Koninklijke Philips N.V. | Apparatus and method for generating view images |
US10403047B1 (en) * | 2018-03-01 | 2019-09-03 | Dell Products L.P. | Information handling system augmented reality through a virtual object anchor |
-
2018
- 2018-06-26 EP EP18179841.4A patent/EP3588249A1/en not_active Withdrawn
-
2019
- 2019-06-20 CA CA3105400A patent/CA3105400A1/en active Pending
- 2019-06-20 JP JP2020572436A patent/JP7401472B2/ja active Active
- 2019-06-20 CN CN201980056114.9A patent/CN112602042B/zh active Active
- 2019-06-20 KR KR1020217002224A patent/KR20210024071A/ko unknown
- 2019-06-20 BR BR112021000289-8A patent/BR112021000289A2/pt unknown
- 2019-06-20 EP EP19730835.6A patent/EP3811185A1/en active Pending
- 2019-06-20 WO PCT/EP2019/066311 patent/WO2020002115A1/en unknown
- 2019-06-20 US US17/254,903 patent/US11694390B2/en active Active
- 2019-06-24 TW TW108121913A patent/TWI831796B/zh active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2013187129A1 (ja) | 2012-06-12 | 2013-12-19 | ソニー株式会社 | 情報処理装置、および情報処理方法、並びにプログラム |
WO2017094607A1 (ja) | 2015-12-02 | 2017-06-08 | 株式会社ソニー・インタラクティブエンタテインメント | 表示制御装置及び表示制御方法 |
Also Published As
Publication number | Publication date |
---|---|
EP3588249A1 (en) | 2020-01-01 |
US11694390B2 (en) | 2023-07-04 |
WO2020002115A1 (en) | 2020-01-02 |
TWI831796B (zh) | 2024-02-11 |
BR112021000289A2 (pt) | 2021-04-06 |
KR20210024071A (ko) | 2021-03-04 |
US20210264658A1 (en) | 2021-08-26 |
JP2022501685A (ja) | 2022-01-06 |
TW202016692A (zh) | 2020-05-01 |
CN112602042A (zh) | 2021-04-02 |
CA3105400A1 (en) | 2020-01-02 |
EP3811185A1 (en) | 2021-04-28 |
CN112602042B (zh) | 2024-04-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7401472B2 (ja) | シーンの画像を生成するための装置および方法 | |
JP7480065B2 (ja) | 画像データストリームを生成するための装置および方法 | |
TWI818899B (zh) | 影像處理設備及用於提供一影像之方法 | |
US20050219239A1 (en) | Method and apparatus for processing three-dimensional images | |
JP7480163B2 (ja) | 画像の奥行きマップの処理 | |
JP6915165B2 (ja) | ビュー画像を生成するための装置および方法 | |
JP7471307B2 (ja) | シーンの画像表現 | |
EP3707580A1 (en) | Content generation apparatus and method | |
JP7377861B2 (ja) | 画像生成装置及び方法 | |
CN117616760A (zh) | 图像生成 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220616 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230630 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230710 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20231002 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20231108 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20231207 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7401472 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |