JP7212519B2 - 画像生成装置および画像を生成する方法 - Google Patents
画像生成装置および画像を生成する方法 Download PDFInfo
- Publication number
- JP7212519B2 JP7212519B2 JP2018245221A JP2018245221A JP7212519B2 JP 7212519 B2 JP7212519 B2 JP 7212519B2 JP 2018245221 A JP2018245221 A JP 2018245221A JP 2018245221 A JP2018245221 A JP 2018245221A JP 7212519 B2 JP7212519 B2 JP 7212519B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- viewpoint
- viewpoints
- candidate
- space
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/111—Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
- H04N13/117—Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation the virtual viewpoint locations being selected by the viewers or determined by viewer tracking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/10—Geometric effects
- G06T15/20—Perspective computation
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
- G02B27/0172—Head mounted characterised by optical features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/012—Head tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/013—Eye tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/04815—Interaction with a metaphor-based environment or interaction object displayed as three-dimensional, e.g. changing the user viewpoint with respect to the environment or object
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/30—Arrangements for executing machine instructions, e.g. instruction decode
- G06F9/30003—Arrangements for executing specific machine instructions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/332—Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
- H04N13/344—Displays for viewing with the aid of special glasses or head-mounted displays [HMD] with head-mounted left-right displays
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Computer Graphics (AREA)
- Software Systems (AREA)
- Geometry (AREA)
- Computing Systems (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Optics & Photonics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computer Hardware Design (AREA)
- Processing Or Creating Images (AREA)
- User Interface Of Digital Computer (AREA)
Description
C=w1c1+w2c2
w1=(1/Δa2)/sum
w2=(1/Δb2)/sum
w1=(Va・Vr)/((Va・Vr)+(Vb・Vr))
w2=(Vb・Vr)/((Va・Vr)+(Vb・Vr))
試験画像を、続いてレンダリングされる、最終的な基準視点に対応する基準画像よりも低い実効解像度を有するボクセルとしてレンダリングすること;
空間内のリストされた位置に対する候補視点の配列を維持し、配列のフィールドが、所与の候補視点のレンダリングが所与のリストされた位置における点を含んでいたかどうかを表すこと;
候補視点ごとに、配列から、空間内の点のカバレッジを示す、候補視点においてレンダリングされたリストされた位置の数を合計し、それぞれの合計数の比較に応じて、空間の比較的カバレッジが低い1つまたは複数の視点を特定すること;および
1つまたは複数の候補基準視点の位置を、所定数の候補基準視点が、相互の閾値許容差内の点のそれぞれのカバレッジを各々有するようになるまで変更すること。
200 画像生成装置
222 CPU
224 GPU
226 メインメモリ
236 出力部
238 入力部
254 オブジェクトモデル記憶部
256 基準画像データ記憶部
260 視点情報取得部
262 空間構築部
264 投影部
266 画素値決定部
268 出力部
300 基準画像生成装置
310 基準視点設定部
314 オブジェクトモデル記憶部
316 空間構築部
318 基準画像データ生成部
320 基準画像データ記憶部
322 基準画像生成部
324 深度画像生成部
Claims (15)
- 表示されるべきオブジェクトを含む空間が複数の候補基準視点のうちの1つから見られたときの画像を各々表す試験画像をレンダリングするレンダリング部と、
前記候補基準視点の重要度値を、少なくとも、前記空間内の点の前記候補基準視点の比較的カバレッジの関数として評価する候補基準視点評価部と、
重要度値が低い1つまたは複数の候補基準視点の位置を変更し、前記候補基準視点評価部から再評価を取得し、前記空間内の点の候補基準視点の比較的カバレッジが増加した場合には、前記候補基準視点の前記位置を元に戻さない更新部と
を含むことを特徴とする、画像生成装置。 - 前記レンダリング部が、試験画像を、続いてレンダリングされる、最終的な基準視点に対応する基準画像よりも低い実効解像度を有するボクセルとしてレンダリングする、
請求項1に記載の画像生成装置。 - 前記候補基準視点評価部が、前記空間内のリストされた位置に対する候補視点の配列を維持し、前記配列のフィールドが、所与の候補視点のレンダリングが所与のリストされた位置における点を含んでいたかどうかを表す、
請求項1または2に記載の画像生成装置。 - 前記候補基準視点評価部が、候補視点ごとに、前記配列から、前記空間内の点の前記カバレッジを示す、前記候補視点においてレンダリングされたリストされた位置の数を合計するように構成され、
それぞれの合計数の比較に応じて、前記空間の比較的カバレッジが低い1つまたは複数の視点を特定するように構成される、
請求項3に記載の画像生成装置。 - 前記候補基準視点評価部が、候補視点ごとに、前記配列から、前記空間内の点の固有のカバレッジを示す、前記候補視点においてのみレンダリングされたリストされた位置の数を合計するように構成され、
それぞれの合計数の比較に応じて、前記空間の固有のカバレッジが高い1つまたは複数の視点を特定するように構成される、
請求項3または4に記載の画像生成装置。 - 重要度が低い前記1つまたは複数の候補基準視点の位置の変化の大きさが、前記候補基準視点の重要度に反比例する、
請求項1から5のいずれか一項に記載の画像生成装置。 - 候補基準視点が最小限の距離だけ離される、
請求項1から6のいずれか一項に記載の画像生成装置。 - 前記更新部が、1つまたは複数の候補基準視点の位置を、所定数の前記候補基準視点が、相互の閾値許容差内の点のそれぞれのカバレッジを各々有するようになるまで変更するように構成される、
請求項1から7のいずれか一項に記載の画像生成装置。 - 表示されるべきオブジェクトの多角形の多角形識別データを格納するオブジェクトデータ記憶部と、
各基準画像に対応する多角形識別データを格納する基準画像データ記憶部と、
視点に関する情報を取得する視点取得部と、
表示画像の平面上に、前記空間が前記視点から見られたときの前記オブジェクトの画像の位置および形状を表す投影部と、
前記複数の基準画像のうちの1つまたは複数における同じ画像を表す画素の値を使用して、前記表示画像において前記オブジェクトの画像を構成する画素の値を決定する画素値決定部と、
前記表示画像のデータを出力する出力部と、
を含み、
対象画素について、前記画素値決定部が、
前記オブジェクト上の前記対象画素の位置に対応する基準画像上の位置を決定し、
前記基準画像上の前記決定された位置に対応する前記多角形識別を取得し、
前記取得された多角形識別を、前記オブジェクト上の前記対象画素の前記位置に対応する多角形の多角形識別と比較し、
前記比較された多角形識別が一致する場合に前記基準画像を選択する、
ように構成される、
ことを特徴とする、請求項1から8のいずれか一項に記載の画像生成装置。 - 表示されるべきオブジェクトを含む空間が複数の候補基準視点のうちの1つから見られたときの画像を各々表す試験画像をレンダリングするステップと、
前記候補基準視点の重要度値を、少なくとも、前記空間内の点の前記候補基準視点の比較的カバレッジの関数として評価するステップと、
重要度値が低い1つまたは複数の候補基準視点の位置を変更し、候補基準視点を評価するステップから再評価を取得し、前記空間内の点の候補基準視点の比較的カバレッジが増加した場合には、前記候補基準視点の前記位置を元に戻さないステップと、
を含む、画像生成方法。 - 試験画像を、続いてレンダリングされる、最終的な基準視点に対応する基準画像よりも低い実効解像度を有するボクセルとしてレンダリングするステップ
を含む、請求項10に記載の画像生成方法。 - 前記空間内のリストされた位置に対する候補視点の配列を維持するステップを含み、前記配列のフィールドが、所与の候補視点のレンダリングが所与のリストされた位置における点を含んでいたかどうかを表す、
請求項10または11に記載の画像生成方法。 - 候補視点ごとに、
前記配列から、前記空間内の点の前記カバレッジを示す、前記候補視点においてレンダリングされたリストされた位置の数を合計するステップと、
それぞれの合計数の比較に応じて、前記空間の比較的カバレッジが低い1つまたは複数の視点を特定するステップと、
を含む、請求項12に記載の画像生成方法。 - 1つまたは複数の候補基準視点の位置を、所定数の前記候補基準視点が、相互の閾値許容差内の点のそれぞれのカバレッジを各々有するようになるまで変更するステップ
を含む、請求項10~13のいずれか一項に記載の画像生成方法。 - コンピュータシステムに、請求項10~14のいずれか一項に記載の方法を行わせるように構成されたコンピュータ実行可能命令を有するコンピュータ可読媒体。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
GB1800195.8 | 2018-01-05 | ||
GB1800195.8A GB2569979B (en) | 2018-01-05 | 2018-01-05 | Rendering a mixed reality scene using a combination of multiple reference viewing points |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019121394A JP2019121394A (ja) | 2019-07-22 |
JP7212519B2 true JP7212519B2 (ja) | 2023-01-25 |
Family
ID=61190470
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018245221A Active JP7212519B2 (ja) | 2018-01-05 | 2018-12-27 | 画像生成装置および画像を生成する方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US10848733B2 (ja) |
EP (1) | EP3509037B1 (ja) |
JP (1) | JP7212519B2 (ja) |
GB (1) | GB2569979B (ja) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7248901B2 (ja) * | 2019-06-28 | 2023-03-30 | サミー株式会社 | 弾球遊技機 |
JP7248898B2 (ja) * | 2019-06-28 | 2023-03-30 | サミー株式会社 | 弾球遊技機 |
GB2586838B (en) * | 2019-09-05 | 2022-07-27 | Sony Interactive Entertainment Inc | Free-viewpoint method and system |
KR102242710B1 (ko) * | 2019-12-31 | 2021-04-22 | 서울과학기술대학교 산학협력단 | 반자유 시점 영상을 제공하는 장치 |
JP6892937B1 (ja) * | 2020-02-03 | 2021-06-23 | 株式会社Cg工房 | 建築物表示システム、建築物表示方法及びプログラム |
GB202109687D0 (en) * | 2021-07-05 | 2021-08-18 | Charcoalblue Llp | Determination of seating arrangements |
CN114463104B (zh) * | 2022-04-12 | 2022-07-26 | 贝壳技术有限公司 | 用于处理vr场景的方法、装置和计算机可读存储介质 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016099665A (ja) | 2014-11-18 | 2016-05-30 | 株式会社東芝 | 視点位置算出装置、画像生成装置、視点位置算出方法、画像生成方法、視点位置算出プログラム、及び、画像生成プログラム |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002042169A (ja) * | 2000-07-06 | 2002-02-08 | Infiniteface.Com Inc | 三次元画像提供システム及び方法並びにモーフィング画像提供システム及び方法 |
US7567248B1 (en) * | 2004-04-28 | 2009-07-28 | Mark William R | System and method for computing intersections between rays and surfaces |
RU2454025C2 (ru) * | 2006-12-19 | 2012-06-20 | Конинклейке Филипс Электроникс Н.В. | Способ и система для преобразования двухмерного видео в трехмерное видео |
KR20140113066A (ko) * | 2013-03-15 | 2014-09-24 | 한국전자통신연구원 | 차폐 영역 정보를 기반으로 하는 다시점 영상 생성 방법 및 장치 |
CN104298758A (zh) * | 2014-10-22 | 2015-01-21 | 天津大学 | 一种多视角目标检索的方法 |
US10102672B2 (en) * | 2015-03-16 | 2018-10-16 | Square Enix Co., Ltd. | Storage medium, information processing apparatus and control method |
JP6097377B1 (ja) * | 2015-11-27 | 2017-03-15 | 株式会社コロプラ | 画像表示方法及びプログラム |
EP3223245B1 (en) * | 2016-03-24 | 2024-04-24 | Ecole Nationale de l'Aviation Civile | Point of view selection in virtual 3d environment |
KR102535031B1 (ko) * | 2017-07-19 | 2023-05-22 | 삼성전자주식회사 | 디스플레이장치, 그 제어방법 및 그 컴퓨터프로그램제품 |
-
2018
- 2018-01-05 GB GB1800195.8A patent/GB2569979B/en active Active
- 2018-11-16 EP EP18275178.4A patent/EP3509037B1/en active Active
- 2018-12-19 US US16/224,991 patent/US10848733B2/en active Active
- 2018-12-27 JP JP2018245221A patent/JP7212519B2/ja active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016099665A (ja) | 2014-11-18 | 2016-05-30 | 株式会社東芝 | 視点位置算出装置、画像生成装置、視点位置算出方法、画像生成方法、視点位置算出プログラム、及び、画像生成プログラム |
Also Published As
Publication number | Publication date |
---|---|
GB201800195D0 (en) | 2018-02-21 |
GB2569979A (en) | 2019-07-10 |
US10848733B2 (en) | 2020-11-24 |
GB2569979B (en) | 2021-05-19 |
EP3509037A1 (en) | 2019-07-10 |
US20190215504A1 (en) | 2019-07-11 |
EP3509037B1 (en) | 2021-10-06 |
JP2019121394A (ja) | 2019-07-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7212519B2 (ja) | 画像生成装置および画像を生成する方法 | |
JP7364809B2 (ja) | レイキャスティングおよびライブ深度を使用したオクルージョンレンダリングの方法 | |
JP6824579B2 (ja) | 画像生成装置および画像生成方法 | |
US11663778B2 (en) | Method and system for generating an image of a subject from a viewpoint of a virtual camera for a head-mountable display | |
CN110889890A (zh) | 图像处理方法及装置、处理器、电子设备及存储介质 | |
US11315309B2 (en) | Determining pixel values using reference images | |
EP3827299A1 (en) | Mixed reality system with virtual content warping and method of generating virtual content using same | |
JP6934957B2 (ja) | 画像生成装置、基準画像データ生成装置、画像生成方法、および基準画像データ生成方法 | |
JP6980031B2 (ja) | 画像生成装置および画像生成方法 | |
JP2020173529A (ja) | 情報処理装置、情報処理方法、及びプログラム | |
US11893705B2 (en) | Reference image generation apparatus, display image generation apparatus, reference image generation method, and display image generation method | |
WO2019193698A1 (ja) | 基準画像生成装置、表示画像生成装置、基準画像生成方法、および表示画像生成方法 | |
WO2019193699A1 (ja) | 基準画像生成装置、表示画像生成装置、基準画像生成方法、および表示画像生成方法 | |
JP2021028853A (ja) | 電子コンテンツのデータ構造 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210930 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220822 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220913 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20221012 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20221227 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230113 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7212519 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |