JP2008015756A - 局所領域分割による自由視点画像の生成方法、装置およびプログラム - Google Patents
局所領域分割による自由視点画像の生成方法、装置およびプログラム Download PDFInfo
- Publication number
- JP2008015756A JP2008015756A JP2006185648A JP2006185648A JP2008015756A JP 2008015756 A JP2008015756 A JP 2008015756A JP 2006185648 A JP2006185648 A JP 2006185648A JP 2006185648 A JP2006185648 A JP 2006185648A JP 2008015756 A JP2008015756 A JP 2008015756A
- Authority
- JP
- Japan
- Prior art keywords
- image
- camera
- local
- free viewpoint
- viewpoint image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Processing Or Creating Images (AREA)
- Image Processing (AREA)
- Image Generation (AREA)
- Image Analysis (AREA)
Abstract
【解決手段】 被写体を取り囲む実空間(例えば、円周上)に、光軸が水平な複数のカメラを配置した環境において、該円周上の任意の視点の画像を生成する。実空間を複数の局所領域に分割し(S3)、局所領域を選択する(S5)。次に、全カメラの光軸が選択した局所領域を向くように、各カメラの画像座標系を回転座標変換する(S6)。次いで、画像上の局所領域のスケールが揃うように、各カメラの画像を拡大または縮小変換する(S7)。次に、イメージ・ベースド・レンダリングの手法などを用いて、局所領域内のみの自由視点画像を生成する(S8)。次に、前記S7,S6の逆変換(S9,S10)する。その後、前記のようにして得た各局所領域の自由視点画像を合成する(S12)。
【選択図】 図3
Description
ステップS8では、該局所領域の画像に、イメージ・ベースド・レンダリングの手法などを用い、補間処理を行うなどをして、該局所領域内のみの自由視点画像を生成する。この処理の詳細は、図11を参照して後述する。
Claims (12)
- 光軸が水平な複数のカメラが、被写体を取り囲むように配置されており、該被写体を撮影した該カメラの画像を用いて、任意の視点の画像を生成する自由視点画像生成方法であって、
実空間を局所領域に分割する第1のステップと、
前記局所領域のそれぞれで、前記カメラのそれぞれの光軸が該局所領域を向くように、該カメラの内部パラメータを用いて、該カメラのそれぞれのカメラ座標系を変換する第2のステップと、
前記局所領域のそれぞれで、前記カメラのそれぞれと被写体との距離の情報を用いて、前記画像上の該局所領域のスケールが揃うように、該画像を拡大または縮小変換する第3のステップと、
前記局所領域のそれぞれで、イメージ・ベースド・レンダリングの手法などを用いて、該局所領域内のみの自由視点画像を生成する第4のステップと、
前記局所領域のそれぞれで、前記自由視点画像を、画像上の該局所領域が当初のスケールとなるように、該自由視点画像を拡大または縮小変換する第5のステップと、
前記局所領域のそれぞれで、前記自由視点画像を、前記カメラのそれぞれの光軸が当初の方向を向くように、該カメラの内部パラメータを用いて、該カメラのそれぞれのカメラ座標系を変換する第6のステップと、
を有することを特徴とする自由視点画像生成方法。 - カメラの光軸が水平でない場合に、前記第1のステップの前段に、カメラの光軸が水平となるように、カメラ内部パラメータを用いて、カメラのカメラ座標系座標を変換するステップを設けることを特徴とする請求項1に記載の自由視点画像生成方法。
- 局所領域の境界によって被写体が分断される場合に、前記第6のステップの後段に、局所領域のそれぞれの自由視点画像を統合するステップを設け、全体的な自由視点画像を生成することを特徴とする請求項1又は2に記載の自由視点画像生成方法。
- 前記局所領域のそれぞれの自由視点画像を統合するステップは、局所領域を統合するに際して、自由視点画像の仮想視点の位置から遠い局所領域から先に描画し、近い局所領域を後から上書き描画することを特徴とする請求項3に記載の自由視点画像生成方法。
- 前記局所領域のそれぞれの自由視点画像を統合するステップは、後から上書きされると予め判っている局所領域は、最初から描画しないことによって、処理を高速化することを特徴とする請求項3に記載の自由視点画像生成方法。
- 前記第4のステップは、イメージ・ベースド・レンダリングの手法として光線空間方式を用いることを特徴とする請求項1に記載の自由視点画像生成方法。
- 前記光線空間方式にあって、光線空間を補間する際に、前記第2のステップにおいてカメラ座標系を変換したことによる影響を補正した補間処理を行うことを特徴とする請求項7に記載の自由視点画像生成方法。
- 前記光線空間方式にあって、、光線空間を補間する際に、補間の精度を向上させるために、画像上の被写体領域を抽出し、視体積交差法を用いて被写体の表面形状を導出する際に、中心射影を用いることを特徴とする請求項7に記載の自由視点画像生成方法。
- 前記中心射影に代えて、計算が単純で高いキャリブレーション精度を要求せず時間がかからない正射影を用いて近似することを特徴とする請求項8に記載の自由視点画像生成方法。
- 前記第1のステップは、各局所領域において中心と境界との距離が一定値以下となるために最適な領域分割にし、局所領域同士をオーバーラップさせることにより、統合した局所領域の間に隙間が生じないようにしたことを特徴とする請求項1ないし9のいずれかに記載の自由視点画像生成方法。
- 光軸が水平な複数のカメラが、被写体を取り囲むように配置されており、該被写体を撮影した該カメラの画像を用いて、任意の視点の画像を生成する自由視点画像生成装置において、
実空間を局所領域に分割する局所領域分割手段と、
前記局所領域のそれぞれで、前記カメラのそれぞれの光軸が該局所領域を向くように、該カメラの内部パラメータを用いて、該カメラのそれぞれのカメラ座標系を変換する視線回転変換手段と、
前記局所領域のそれぞれで、前記カメラのそれぞれと被写体との距離の情報を用いて、前記画像上の該局所領域のスケールが揃うように、該画像を拡大または縮小変換する拡大縮小手段と、
前記局所領域のそれぞれで、イメージ・ベースド・レンダリングの手法などを用いて、該局所領域内のみの自由視点画像を生成する自由視点画像生成手段と、
前記局所領域のそれぞれで、前記自由視点画像を、画像上の該局所領域が当初のスケールとなるように、該自由視点画像を拡大または縮小変換する逆拡大縮小手段と、
前記局所領域のそれぞれで、前記自由視点画像を、前記カメラのそれぞれの光軸が当初の方向を向くように、該カメラの内部パラメータを用いて、該カメラのそれぞれのカメラ座標系を変換する逆視線回転変換手段と、
を具備することを特徴とする自由視点画像生成装置。 - 光軸が水平な複数のカメラが、被写体を取り囲むように配置されており、該被写体を撮影した該カメラの画像を用いて、任意の視点の画像を生成するコンピュータを機能させる自由視点画像生成プログラムであって、
コンピュータを、
実空間を局所領域に分割する局所領域分割手段と、
前記局所領域のそれぞれで、前記カメラのそれぞれの光軸が該局所領域を向くように、該カメラの内部パラメータを用いて、該カメラのそれぞれのカメラ座標系を変換する視線回転変換手段と、
前記局所領域のそれぞれで、前記カメラのそれぞれと被写体との距離の情報を用いて、前記画像上の該局所領域のスケールが揃うように、該画像を拡大または縮小変換する拡大縮小手段と、
前記局所領域のそれぞれで、イメージ・ベースド・レンダリングの手法などを用いて、該局所領域内のみの自由視点画像を生成する自由視点画像生成手段と、
前記局所領域のそれぞれで、前記自由視点画像を、画像上の該局所領域が当初のスケールとなるように、該自由視点画像を拡大または縮小変換する逆拡大縮小手段と、
前記局所領域のそれぞれで、前記自由視点画像を、前記カメラのそれぞれの光軸が当初の方向を向くように、該カメラの内部パラメータを用いて、該カメラのそれぞれのカメラ座標系を変換する逆視線回転変換手段と、
として機能させることを特徴とする自由視点画像生成プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006185648A JP4803594B2 (ja) | 2006-07-05 | 2006-07-05 | 局所領域分割による自由視点画像の生成装置およびプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006185648A JP4803594B2 (ja) | 2006-07-05 | 2006-07-05 | 局所領域分割による自由視点画像の生成装置およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2008015756A true JP2008015756A (ja) | 2008-01-24 |
JP4803594B2 JP4803594B2 (ja) | 2011-10-26 |
Family
ID=39072711
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006185648A Expired - Fee Related JP4803594B2 (ja) | 2006-07-05 | 2006-07-05 | 局所領域分割による自由視点画像の生成装置およびプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4803594B2 (ja) |
Cited By (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008217547A (ja) * | 2007-03-06 | 2008-09-18 | Kddi Corp | 自由視点画像の生成方法 |
JP2010039501A (ja) * | 2008-07-31 | 2010-02-18 | Kddi Corp | 3次元移動の自由視点映像生成方法および記録媒体 |
JP2010072921A (ja) * | 2008-09-18 | 2010-04-02 | Kddi Corp | 画像表示装置、視点誘導方法及びプログラム |
JP2010079505A (ja) * | 2008-09-25 | 2010-04-08 | Kddi Corp | 画像生成装置及びプログラム |
JP2010079506A (ja) * | 2008-09-25 | 2010-04-08 | Kddi Corp | 画像生成装置、方法、通信システム及びプログラム |
JP2010152770A (ja) * | 2008-12-26 | 2010-07-08 | Kddi Corp | 画像処理装置、方法及びプログラム |
JP2010237941A (ja) * | 2009-03-31 | 2010-10-21 | Kddi Corp | マスク画像生成装置、3次元物体モデル情報生成装置及びプログラム |
JP2012048639A (ja) * | 2010-08-30 | 2012-03-08 | Kddi Corp | 自由視点映像生成装置、自由視点映像システムにおいて広告を表示する方法及びプログラム |
US8243122B2 (en) | 2007-07-31 | 2012-08-14 | Kddi Corporation | Video method for generating free viewpoint video image using divided local regions |
US8548227B2 (en) | 2009-04-03 | 2013-10-01 | Kddi Corporation | Image processing apparatus and computer program |
US8687000B2 (en) | 2009-04-03 | 2014-04-01 | Kddi Corporation | Image generating apparatus and computer program |
EP3451681A1 (en) | 2017-08-30 | 2019-03-06 | Canon Kabushiki Kaisha | Information processing device, control method of information processing device, and program |
US10462497B2 (en) | 2015-05-01 | 2019-10-29 | Dentsu Inc. | Free viewpoint picture data distribution system |
US10491887B2 (en) | 2014-04-30 | 2019-11-26 | Intel Corporation | System and method of limiting processing by a 3D reconstruction system of an environment in a 3D reconstruction of an event occurring in an event space |
EP3671638A1 (en) | 2018-12-19 | 2020-06-24 | Canon Kabushiki Kaisha | Image processing apparatus, image processing system, image processing method, and computer program |
US10771761B2 (en) | 2017-12-12 | 2020-09-08 | Canon Kabushiki Kaisha | Information processing apparatus, information processing method and storing unit |
US11172185B2 (en) | 2019-11-25 | 2021-11-09 | Canon Kabushiki Kaisha | Information processing apparatus, information processing method, video processing system, and storage medium |
US11227429B2 (en) | 2018-06-11 | 2022-01-18 | Canon Kabushiki Kaisha | Image processing apparatus, method and storage medium for generating a virtual viewpoint with reduced image data |
US11317073B2 (en) | 2018-09-12 | 2022-04-26 | Canon Kabushiki Kaisha | Information processing apparatus, method of controlling information processing apparatus, and storage medium |
EP4096215A1 (en) | 2021-05-28 | 2022-11-30 | Canon Kabushiki Kaisha | Information processing apparatus, system, information processing method, and program |
US11627256B2 (en) | 2018-08-31 | 2023-04-11 | Canon Kabushiki Kaisha | Information processing apparatus, method, and non-transitory computer-readable storage medium |
US11917117B2 (en) | 2020-09-17 | 2024-02-27 | Canon Kabushiki Kaisha | Processing system, processing method and non-transitory computer-readable storage medium |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10111951A (ja) * | 1996-10-04 | 1998-04-28 | Canon Inc | 画像処理方法および装置および記憶媒体 |
JP2004220312A (ja) * | 2003-01-15 | 2004-08-05 | Japan Science & Technology Agency | 多視点カメラシステム |
JP2004258775A (ja) * | 2003-02-24 | 2004-09-16 | Canon Inc | 光線空間データ処理方法、空間データ処理装置 |
-
2006
- 2006-07-05 JP JP2006185648A patent/JP4803594B2/ja not_active Expired - Fee Related
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10111951A (ja) * | 1996-10-04 | 1998-04-28 | Canon Inc | 画像処理方法および装置および記憶媒体 |
JP2004220312A (ja) * | 2003-01-15 | 2004-08-05 | Japan Science & Technology Agency | 多視点カメラシステム |
JP2004258775A (ja) * | 2003-02-24 | 2004-09-16 | Canon Inc | 光線空間データ処理方法、空間データ処理装置 |
Cited By (28)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008217547A (ja) * | 2007-03-06 | 2008-09-18 | Kddi Corp | 自由視点画像の生成方法 |
US8243122B2 (en) | 2007-07-31 | 2012-08-14 | Kddi Corporation | Video method for generating free viewpoint video image using divided local regions |
JP2010039501A (ja) * | 2008-07-31 | 2010-02-18 | Kddi Corp | 3次元移動の自由視点映像生成方法および記録媒体 |
US8259160B2 (en) | 2008-07-31 | 2012-09-04 | Kddi Corporation | Method for generating free viewpoint video image in three-dimensional movement and recording medium |
JP2010072921A (ja) * | 2008-09-18 | 2010-04-02 | Kddi Corp | 画像表示装置、視点誘導方法及びプログラム |
JP2010079506A (ja) * | 2008-09-25 | 2010-04-08 | Kddi Corp | 画像生成装置、方法、通信システム及びプログラム |
US8811717B2 (en) | 2008-09-25 | 2014-08-19 | Kddi Corporation | Image generating apparatus and computer program |
JP2010079505A (ja) * | 2008-09-25 | 2010-04-08 | Kddi Corp | 画像生成装置及びプログラム |
JP2010152770A (ja) * | 2008-12-26 | 2010-07-08 | Kddi Corp | 画像処理装置、方法及びプログラム |
JP2010237941A (ja) * | 2009-03-31 | 2010-10-21 | Kddi Corp | マスク画像生成装置、3次元物体モデル情報生成装置及びプログラム |
US8548227B2 (en) | 2009-04-03 | 2013-10-01 | Kddi Corporation | Image processing apparatus and computer program |
US8687000B2 (en) | 2009-04-03 | 2014-04-01 | Kddi Corporation | Image generating apparatus and computer program |
JP2012048639A (ja) * | 2010-08-30 | 2012-03-08 | Kddi Corp | 自由視点映像生成装置、自由視点映像システムにおいて広告を表示する方法及びプログラム |
US10728528B2 (en) | 2014-04-30 | 2020-07-28 | Intel Corporation | System for and method of social interaction using user-selectable novel views |
US11463678B2 (en) | 2014-04-30 | 2022-10-04 | Intel Corporation | System for and method of social interaction using user-selectable novel views |
US10491887B2 (en) | 2014-04-30 | 2019-11-26 | Intel Corporation | System and method of limiting processing by a 3D reconstruction system of an environment in a 3D reconstruction of an event occurring in an event space |
US10567740B2 (en) | 2014-04-30 | 2020-02-18 | Intel Corporation | System for and method of generating user-selectable novel views on a viewing device |
US10462497B2 (en) | 2015-05-01 | 2019-10-29 | Dentsu Inc. | Free viewpoint picture data distribution system |
US10771760B2 (en) | 2017-08-30 | 2020-09-08 | Canon Kabushiki Kaisha | Information processing device, control method of information processing device, and storage medium |
EP3451681A1 (en) | 2017-08-30 | 2019-03-06 | Canon Kabushiki Kaisha | Information processing device, control method of information processing device, and program |
US10771761B2 (en) | 2017-12-12 | 2020-09-08 | Canon Kabushiki Kaisha | Information processing apparatus, information processing method and storing unit |
US11227429B2 (en) | 2018-06-11 | 2022-01-18 | Canon Kabushiki Kaisha | Image processing apparatus, method and storage medium for generating a virtual viewpoint with reduced image data |
US11627256B2 (en) | 2018-08-31 | 2023-04-11 | Canon Kabushiki Kaisha | Information processing apparatus, method, and non-transitory computer-readable storage medium |
US11317073B2 (en) | 2018-09-12 | 2022-04-26 | Canon Kabushiki Kaisha | Information processing apparatus, method of controlling information processing apparatus, and storage medium |
EP3671638A1 (en) | 2018-12-19 | 2020-06-24 | Canon Kabushiki Kaisha | Image processing apparatus, image processing system, image processing method, and computer program |
US11172185B2 (en) | 2019-11-25 | 2021-11-09 | Canon Kabushiki Kaisha | Information processing apparatus, information processing method, video processing system, and storage medium |
US11917117B2 (en) | 2020-09-17 | 2024-02-27 | Canon Kabushiki Kaisha | Processing system, processing method and non-transitory computer-readable storage medium |
EP4096215A1 (en) | 2021-05-28 | 2022-11-30 | Canon Kabushiki Kaisha | Information processing apparatus, system, information processing method, and program |
Also Published As
Publication number | Publication date |
---|---|
JP4803594B2 (ja) | 2011-10-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4803594B2 (ja) | 局所領域分割による自由視点画像の生成装置およびプログラム | |
JP4947593B2 (ja) | 局所領域分割による自由視点画像の生成装置およびプログラム | |
KR101923562B1 (ko) | 가변 렌더링 및 래스터화 파라미터 하에서 가변 뷰포트에 대하여 오브젝트를 효율적으로 리렌더링하는 방법 | |
EP3057066B1 (en) | Generation of three-dimensional imagery from a two-dimensional image using a depth map | |
JP5011168B2 (ja) | 仮想視点画像生成方法、仮想視点画像生成装置、仮想視点画像生成プログラムおよびそのプログラムを記録したコンピュータ読み取り可能な記録媒体 | |
EP0794516B1 (en) | Image processing method and apparatus | |
JP2019061558A (ja) | 画像処理装置、画像処理方法およびプログラム | |
Majumder et al. | Immersive teleconferencing: a new algorithm to generate seamless panoramic video imagery | |
US11995793B2 (en) | Generation method for 3D asteroid dynamic map and portable terminal | |
KR20120140515A (ko) | 차량 주변 시각화를 위한 3차원 영상 합성장치 및 그 방법 | |
JPH0950537A (ja) | ボリューム・レンダリング装置及び方法 | |
US20110128286A1 (en) | Image restoration apparatus and method thereof | |
JP2019100995A (ja) | 測量画像表示制御装置、測量画像表示制御方法および測量画像表示制御用プログラム | |
CN113643414B (zh) | 一种三维图像生成方法、装置、电子设备及存储介质 | |
JP5809607B2 (ja) | 画像処理装置、画像処理方法及び画像処理プログラム | |
JP5522794B2 (ja) | 立体像生成装置およびそのプログラム | |
Yu et al. | Multiperspective modeling, rendering, and imaging | |
JP2017158153A (ja) | 画像処理装置および画像処理方法 | |
EP3573018B1 (en) | Image generation device, and image display control device | |
EP0831423B1 (en) | Image generation using a light space | |
EP4075789A1 (en) | Imaging device, imaging method, and program | |
JP7394566B2 (ja) | 画像処理装置、画像処理方法、および画像処理プログラム | |
EP2962290B1 (en) | Relaying 3d information by depth simulation using 2d pixel displacement | |
JP4925112B2 (ja) | 自由視点画像の生成方法 | |
WO2022133569A1 (en) | Methods and system for reconstructing textured meshes from point cloud data |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20090703 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110518 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110711 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20110803 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20110803 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4803594 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140819 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |