JP5011224B2 - 任意視点映像生成装置及び任意視点映像生成プログラム - Google Patents
任意視点映像生成装置及び任意視点映像生成プログラム Download PDFInfo
- Publication number
- JP5011224B2 JP5011224B2 JP2008179455A JP2008179455A JP5011224B2 JP 5011224 B2 JP5011224 B2 JP 5011224B2 JP 2008179455 A JP2008179455 A JP 2008179455A JP 2008179455 A JP2008179455 A JP 2008179455A JP 5011224 B2 JP5011224 B2 JP 5011224B2
- Authority
- JP
- Japan
- Prior art keywords
- texture
- blend
- texture image
- image
- virtual viewpoint
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Length Measuring Devices By Optical Means (AREA)
- Processing Or Creating Images (AREA)
- Image Generation (AREA)
Description
前記テクスチャ画像の各撮影点の3次元位置及び視線方向と、前記仮想視点の3次元位置及び視線方向とに基づいて、各テクスチャ画像に優先順位を付与し、該優先順位に従って混合する複数のテクスチャ画像を選択するブレンドテクスチャ画像選択手段と、
該ブレンドテクスチャ画像選択手段により選択された前記複数のテクスチャ画像の各撮影点における3次元位置及び視線方向と、前記仮想視点の3次元位置及び視線方向とに基づいて、混合する各テクスチャ画像のブレンド率を決定し、該ブレンド率に従って前記複数のテクスチャ画像を混合してブレンドテクスチャ画像を生成するブレンドテクスチャ画像生成手段と、
該ブレンドテクスチャ画像生成手段により生成された前記ブレンドテクスチャ画像を3次元モデルにテクスチャマッピングし、前記仮想視点から見える前記対象物の2次元の内挿映像を生成する内挿映像生成手段と、を有することを特徴とする。
前記ブレンドテクスチャ画像選択手段は、前記各撮影点の3次元位置と前記仮想視点の3次元位置との距離が近い順に前記優先順位を付与するか、又は前記各撮影点の視線方向が前記仮想視点の視線方向に近い順に前記優先順位を付与することを特徴とする。
前記ブレンドテクスチャ画像生成手段は、前記撮影点の3次元位置と前記仮想視点の3次元位置との距離が近い程、又は前記撮影点の視線方向が前記仮想視点の視線方向に近い程、混合率を高く決定することを特徴とする。
前記ブレンドテクスチャ画像選択手段は、所定時間が経過するか、又は前記仮想視点の位置が所定距離以上移動したときに、前記ブレンドテクスチャ画像を再選択することを特徴とする。
前記ブレンドテクスチャ画像選択手段は、前記対象物が所定距離以上移動したときに、前記ブレンドテクスチャ画像を再選択することを特徴とする。
前記ブレンドテクスチャ画像選択手段は、前記仮想視点と前記3次元モデルが相対的に所定距離以上移動したときに、前記ブレンドテクスチャ画像を再選択することを特徴とする。
前記3次元モデルを構成する面のテクスチャ描画単位毎に、撮影点からの可視領域を取得する可視領域抽出手段を更に備え、
前記ブレンドテクスチャ画像選択手段は、前記優先順位の高い順から所定数のテクスチャ画像を選択するように設定されており、前記可視領域抽出手段により取得された前記可視領域に含まれるテクスチャ画像の中から前記所定数を選択することを特徴とする。
前記3次元モデルを構成する面のテクスチャ描画単位毎に、撮影点からの可視領域を取得する可視領域抽出手段を更に備え、
前記ブレンドテクスチャ画像生成手段は、選択された前記複数のテクスチャ画像に、前記可視領域抽出手段により取得された前記可視領域内にないテクスチャ画像が含まれているときには、該テクスチャ画像を排除してから前記ブレンド率を決定することを特徴とする。
前記テクスチャ画像の各撮影点の3次元位置及び視線方向と、前記仮想視点の3次元位置及び視線方向とに基づいて、各テクスチャ画像に優先順位を付与し、該優先順位に従って混合する複数のテクスチャ画像を選択するブレンドテクスチャ選択処理と、
該ブレンドテクスチャ選択処理により選択された前記複数のテクスチャ画像の各撮影点における3次元位置及び視線方向と、前記仮想視点の3次元位置及び視線方向とに基づいて、混合する各テクスチャ画像のブレンド率を決定し、該ブレンド率に従って前記複数のテクスチャ画像を混合してブレンドテクスチャ画像を生成するブレンドテクスチャ画像生成処理と、
該ブレンドテクスチャ画像生成処理により生成された前記ブレンドテクスチャ画像を3次元モデルにテクスチャマッピングし、前記仮想視点から見える前記対象物の2次元の内挿映像を生成する内挿映像生成処理と、をコンピュータに実行させることを特徴とする。
(1)式から、カメラCam1が仮想視点VPに接近する程、d1は小さくなるので、カメラCam1の係数(1−d1/(d1+d2))は大きくなり、カメラCam1によるテクスチャ画像の混合比率が高くなることが分かる。同様に、カメラCam2の方が仮想視点VPに接近した場合には、d1が大きくなるので、カメラCam2の係数(d1/(d1+d2))が大きくなり、カメラCam2によるテクスチャ画像の混合比率が高くなることが分かる。
20 3次元形状生成装置
30 可視領域抽出装置
40 ブレンドテクスチャ画像選定手段
50 ブレンドテクスチャ画像生成手段
60 内挿映像生成手段
70 任意視点映像生成装置
80 対象物
90 3次元モデル
100 記録媒体
110 入力装置
120 出力装置
130 ドライブ装置
140 補助記録装置
150 メモリ装置
160 CPU
170 ネットワーク接続装置
Cam カメラ
VCam 仮想カメラ
CS 撮影点
VP 仮想視点
Claims (7)
- 立体形状である対象物を複数の撮影点から撮影して得られたテクスチャ画像を用いて、指定された任意の仮想視点から見える映像を生成する任意視点映像生成装置であって、
前記テクスチャ画像の各撮影点の視線方向と前記仮想視点の視線方向との間でなされる角度が小さい順に各テクスチャ画像に優先順位を付与し、該優先順位に従って混合する複数のテクスチャ画像を選択するブレンドテクスチャ画像選択手段と、
該ブレンドテクスチャ画像選択手段により選択された前記複数のテクスチャ画像の各撮影点における前記角度が小さい程混合率が高くなるように各テクスチャ画像の各ブレンド率を決定し、該各ブレンド率に従って前記複数のテクスチャ画像を混合してブレンドテクスチャ画像を生成するブレンドテクスチャ画像生成手段と、
該ブレンドテクスチャ画像生成手段により生成された前記ブレンドテクスチャ画像を3次元モデルにテクスチャマッピングし、前記仮想視点から見える前記対象物の2次元の内挿映像を生成する内挿映像生成手段と、を有することを特徴とする任意視点映像生成装置。 - 前記ブレンドテクスチャ画像選択手段は、所定時間が経過するか、又は前記仮想視点の位置が所定距離以上移動したときに、前記ブレンドテクスチャ画像を再選択することを特徴とする請求項1に記載の任意視点映像生成装置。
- 前記ブレンドテクスチャ画像選択手段は、前記対象物が所定距離以上移動したときに、前記ブレンドテクスチャ画像を再選択することを特徴とする請求項1又は2に記載の任意視点映像生成装置。
- 前記ブレンドテクスチャ画像選択手段は、前記仮想視点と前記3次元モデルが相対的に所定距離以上移動したときに、前記ブレンドテクスチャ画像を再選択することを特徴とする請求項1乃至3のいずれか一項に記載の任意視点映像生成装置。
- 前記3次元モデルを構成する面のテクスチャ描画単位毎に、撮影点からの可視領域を取得する可視領域抽出手段を更に備え、
前記ブレンドテクスチャ画像選択手段は、前記優先順位の高い順から所定数のテクスチャ画像を選択するように設定されており、前記可視領域抽出手段により取得された前記可視領域に含まれるテクスチャ画像の中から前記所定数を選択することを特徴とする請求項1乃至4のいずれか一項に記載の任意視点映像生成装置。 - 前記3次元モデルを構成する面のテクスチャ描画単位毎に、撮影点からの可視領域を取得する可視領域抽出手段を更に備え、
前記ブレンドテクスチャ画像生成手段は、選択された前記複数のテクスチャ画像に、前記可視領域抽出手段により取得された前記可視領域内にないテクスチャ画像が含まれているときには、該テクスチャ画像を排除してから前記ブレンド率を決定することを特徴とする請求項1乃至5のいずれか一項に記載の任意視点映像生成装置。 - 立体形状である対象物を複数の撮影点から撮影して得られたテクスチャ画像を用いて、指定された任意の仮想視点から見える映像を生成する処理をコンピュータに実行させるための任意視点映像生成プログラムであって、
前記テクスチャ画像の各撮影点の視線方向と前記仮想視点の視線方向との間でなされる角度が小さい順に各テクスチャ画像に優先順位を付与し、該優先順位に従って混合する複数のテクスチャ画像を選択するブレンドテクスチャ選択処理と、
該ブレンドテクスチャ選択処理により選択された前記複数のテクスチャ画像の各撮影点における前記角度が小さい程混合率が高くなるように各テクスチャ画像の各ブレンド率を決定し、該各ブレンド率に従って前記複数のテクスチャ画像を混合してブレンドテクスチャ画像を生成するブレンドテクスチャ画像生成処理と、
該ブレンドテクスチャ画像生成処理により生成された前記ブレンドテクスチャ画像を3次元モデルにテクスチャマッピングし、前記仮想視点から見える前記対象物の2次元の内挿映像を生成する内挿映像生成処理と、をコンピュータに実行させることを特徴とする任意視点映像生成プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008179455A JP5011224B2 (ja) | 2008-07-09 | 2008-07-09 | 任意視点映像生成装置及び任意視点映像生成プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008179455A JP5011224B2 (ja) | 2008-07-09 | 2008-07-09 | 任意視点映像生成装置及び任意視点映像生成プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2010020487A JP2010020487A (ja) | 2010-01-28 |
JP5011224B2 true JP5011224B2 (ja) | 2012-08-29 |
Family
ID=41705322
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008179455A Expired - Fee Related JP5011224B2 (ja) | 2008-07-09 | 2008-07-09 | 任意視点映像生成装置及び任意視点映像生成プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5011224B2 (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104346822A (zh) * | 2013-07-23 | 2015-02-11 | 富士通株式会社 | 纹理贴图方法及装置 |
US10460461B2 (en) | 2016-08-31 | 2019-10-29 | Canon Kabushiki Kaisha | Image processing apparatus and method of controlling the same |
US10628993B2 (en) | 2016-09-30 | 2020-04-21 | Canon Kabushiki Kaisha | Image processing apparatus that generates a virtual view image from multiple images captured from different directions and method controlling the same |
US10728513B2 (en) | 2017-09-27 | 2020-07-28 | Canon Kabushiki Kaisha | Image processing apparatus, image processing method, and storage medium |
US10841555B2 (en) | 2018-05-02 | 2020-11-17 | Canon Kabushiki Kaisha | Image processing apparatus, image processing method, and storage medium |
Families Citing this family (31)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20110200303A1 (en) * | 2010-02-12 | 2011-08-18 | Telefonica, S.A. | Method of Video Playback |
JP5460499B2 (ja) * | 2010-07-12 | 2014-04-02 | 日本放送協会 | 画像処理装置およびコンピュータプログラム |
JP5804760B2 (ja) | 2011-04-26 | 2015-11-04 | 株式会社東芝 | 画像処理システム及び方法 |
KR101779423B1 (ko) * | 2011-06-10 | 2017-10-10 | 엘지전자 주식회사 | 영상처리방법 및 영상처리장치 |
JP6265784B2 (ja) * | 2014-03-06 | 2018-01-24 | 株式会社メガチップス | 姿勢推定システム、プログラムおよび姿勢推定方法 |
US9589362B2 (en) | 2014-07-01 | 2017-03-07 | Qualcomm Incorporated | System and method of three-dimensional model generation |
US9418472B2 (en) * | 2014-07-17 | 2016-08-16 | Google Inc. | Blending between street view and earth view |
US9607388B2 (en) | 2014-09-19 | 2017-03-28 | Qualcomm Incorporated | System and method of pose estimation |
US10373366B2 (en) | 2015-05-14 | 2019-08-06 | Qualcomm Incorporated | Three-dimensional model generation |
US9911242B2 (en) | 2015-05-14 | 2018-03-06 | Qualcomm Incorporated | Three-dimensional model generation |
US10304203B2 (en) | 2015-05-14 | 2019-05-28 | Qualcomm Incorporated | Three-dimensional model generation |
US9773022B2 (en) * | 2015-10-07 | 2017-09-26 | Google Inc. | Displaying objects based on a plurality of models |
JP6808357B2 (ja) * | 2016-05-25 | 2021-01-06 | キヤノン株式会社 | 情報処理装置、制御方法、及び、プログラム |
EP3493164B1 (en) * | 2016-07-29 | 2024-03-27 | Sony Group Corporation | Image processing device and image processing method |
US10341568B2 (en) | 2016-10-10 | 2019-07-02 | Qualcomm Incorporated | User interface to assist three dimensional scanning of objects |
JP6849430B2 (ja) | 2016-12-27 | 2021-03-24 | キヤノン株式会社 | 画像処理装置、画像処理方法、及びプログラム |
JP7109907B2 (ja) | 2017-11-20 | 2022-08-01 | キヤノン株式会社 | 画像処理装置、画像処理方法およびプログラム |
JP2019101563A (ja) * | 2017-11-29 | 2019-06-24 | 大日本印刷株式会社 | 情報処理装置、情報処理システム、情報処理方法及びプログラム |
JP2019135617A (ja) | 2018-02-05 | 2019-08-15 | キヤノン株式会社 | 情報処理装置およびその制御方法、画像処理システム |
JP2019144958A (ja) | 2018-02-22 | 2019-08-29 | キヤノン株式会社 | 画像処理装置、画像処理方法およびプログラム |
CN111937382A (zh) * | 2018-04-10 | 2020-11-13 | 索尼公司 | 图像处理装置、图像处理方法、程序和图像传输系统 |
KR101875047B1 (ko) * | 2018-04-24 | 2018-07-06 | 주식회사 예간아이티 | 사진측량을 이용한 3d 모델링 시스템 및 방법 |
JP7164968B2 (ja) * | 2018-05-07 | 2022-11-02 | キヤノン株式会社 | 画像処理装置、画像処理装置の制御方法及びプログラム |
EP3813024A4 (en) * | 2018-06-25 | 2022-01-05 | Sony Group Corporation | IMAGE PROCESSING DEVICE AND METHOD |
WO2020045186A1 (ja) * | 2018-08-31 | 2020-03-05 | キヤノン株式会社 | 情報処理装置、方法、及びプログラム |
JP7249755B2 (ja) | 2018-10-26 | 2023-03-31 | キヤノン株式会社 | 画像処理システムおよびその制御方法、プログラム |
JP2020098412A (ja) | 2018-12-17 | 2020-06-25 | キヤノン株式会社 | 情報処理装置、情報処理方法、及びプログラム |
EP4050567A4 (en) * | 2019-10-21 | 2023-11-22 | Sony Group Corporation | INFORMATION PROCESSING APPARATUS, 3D DATA GENERATION METHOD, AND PROGRAM |
DE112021002200T5 (de) * | 2020-04-03 | 2023-03-09 | Sony Group Corporation | Informationsverarbeitungsvorrichtung, Erzeugungsverfahren und Rendering-Verfahren |
JPWO2022014341A1 (ja) * | 2020-07-17 | 2022-01-20 | ||
EP4365848A1 (en) * | 2021-07-02 | 2024-05-08 | Sony Group Corporation | Information processing device, information processing method, and program |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3876142B2 (ja) * | 2001-02-26 | 2007-01-31 | 株式会社ナブラ | 画像表示システム |
JP4168103B2 (ja) * | 2002-10-30 | 2008-10-22 | 株式会社インテックシステム研究所 | テクスチャ画像の生成・マッピングシステム |
-
2008
- 2008-07-09 JP JP2008179455A patent/JP5011224B2/ja not_active Expired - Fee Related
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104346822A (zh) * | 2013-07-23 | 2015-02-11 | 富士通株式会社 | 纹理贴图方法及装置 |
US10460461B2 (en) | 2016-08-31 | 2019-10-29 | Canon Kabushiki Kaisha | Image processing apparatus and method of controlling the same |
US10628993B2 (en) | 2016-09-30 | 2020-04-21 | Canon Kabushiki Kaisha | Image processing apparatus that generates a virtual view image from multiple images captured from different directions and method controlling the same |
US11017588B2 (en) | 2016-09-30 | 2021-05-25 | Canon Kabushiki Kaisha | Image processing apparatus that generates a virtual view image from multiple images captured from different directions and method controlling the same |
US10728513B2 (en) | 2017-09-27 | 2020-07-28 | Canon Kabushiki Kaisha | Image processing apparatus, image processing method, and storage medium |
US10841555B2 (en) | 2018-05-02 | 2020-11-17 | Canon Kabushiki Kaisha | Image processing apparatus, image processing method, and storage medium |
Also Published As
Publication number | Publication date |
---|---|
JP2010020487A (ja) | 2010-01-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5011224B2 (ja) | 任意視点映像生成装置及び任意視点映像生成プログラム | |
US10893250B2 (en) | Free-viewpoint photorealistic view synthesis from casually captured video | |
US10818029B2 (en) | Multi-directional structured image array capture on a 2D graph | |
US10127722B2 (en) | Mobile capture visualization incorporating three-dimensional and two-dimensional imagery | |
AU2016336030B2 (en) | Volumetric depth video recording and playback | |
JP5011168B2 (ja) | 仮想視点画像生成方法、仮想視点画像生成装置、仮想視点画像生成プログラムおよびそのプログラムを記録したコンピュータ読み取り可能な記録媒体 | |
US20170148199A1 (en) | System and method for infinite synthetic image generation from multi-directional structured image array | |
JP6669063B2 (ja) | 画像処理装置および方法 | |
US20130321396A1 (en) | Multi-input free viewpoint video processing pipeline | |
KR101212231B1 (ko) | 이동 자유도를 개선한 융합형 가상현실 구현 방법 | |
EP1950704A2 (en) | Methodology for 3D scene reconstruction from 2D image sequences | |
US8624902B2 (en) | Transitioning between top-down maps and local navigation of reconstructed 3-D scenes | |
US10785469B2 (en) | Generation apparatus and method for generating a virtual viewpoint image | |
CN110648274B (zh) | 鱼眼图像的生成方法及装置 | |
JP2015522959A (ja) | 画像において対話式再合焦を提供するためのシステム、方法、及び媒体 | |
CN109906600B (zh) | 模拟景深 | |
US11044398B2 (en) | Panoramic light field capture, processing, and display | |
JP2008140271A (ja) | 対話装置及びその方法 | |
CN111466113B (zh) | 图像捕获的装置和方法 | |
TWI502546B (zh) | 推擠一模型通過二維場景的系統、方法和電腦程式商品 | |
KR20190062102A (ko) | 비디오 영상기반 2d/3d ar 실감체험 방법 및 장치 | |
JP4464773B2 (ja) | 3次元モデル表示装置及び3次元モデル表示プログラム | |
JP2020166652A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2019144958A (ja) | 画像処理装置、画像処理方法およびプログラム | |
Lechlek et al. | Interactive hdr image-based rendering from unstructured ldr photographs |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20101125 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120131 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120323 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120410 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120413 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120508 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120604 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5011224 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150608 Year of fee payment: 3 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |