JP7046567B2 - 情報処理装置、情報処理方法及びプログラム - Google Patents
情報処理装置、情報処理方法及びプログラム Download PDFInfo
- Publication number
- JP7046567B2 JP7046567B2 JP2017218463A JP2017218463A JP7046567B2 JP 7046567 B2 JP7046567 B2 JP 7046567B2 JP 2017218463 A JP2017218463 A JP 2017218463A JP 2017218463 A JP2017218463 A JP 2017218463A JP 7046567 B2 JP7046567 B2 JP 7046567B2
- Authority
- JP
- Japan
- Prior art keywords
- information
- image pickup
- arrangement
- image
- information processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—Three-dimensional [3D] image rendering
- G06T15/10—Geometric effects
- G06T15/20—Perspective computation
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—Three-dimensional [3D] image rendering
- G06T15/10—Geometric effects
- G06T15/20—Perspective computation
- G06T15/205—Image-based rendering
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30244—Camera pose
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Geometry (AREA)
- Computer Graphics (AREA)
- Computing Systems (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Processing Or Creating Images (AREA)
- Studio Devices (AREA)
- Stereoscopic And Panoramic Photography (AREA)
- Image Analysis (AREA)
- Image Generation (AREA)
Description
本発明の第1の実施形態について説明する。第1の実施形態では、情報処理装置が、良好な品質の仮想視点画像が得られるように、撮像装置の最適な配置を決定し、決定した撮像装置の配置情報をユーザ(設置者)に対して提供する例について説明する。第1の実施形態において、複数の撮像装置の配置に係る配置情報は、撮像装置を設置する位置姿勢(位置及び姿勢(向き))の情報を含む。
<ハードウェア構成>
図1は、本実施形態における情報処理装置100のハードウェア構成の一例を示すブロック図である。情報処理装置100は、ハードウェア構成として、CPU101、ROM102、RAM103、通信インターフェース(通信I/F)104、表示装置105、入力装置106、及びハードディスクドライブ(HDD)107を有する。CPU101、ROM102、RAM103、通信I/F104、表示装置105、入力装置106、及びHDD107は、システムバス108を介して通信可能に接続される。
図2は、本実施形態における情報処理装置100のソフトウェア構成の一例を示すブロック図である。情報処理装置100は、ソフトウェア構成として、環境情報取得部201、制約情報取得部202、評価部203、配置情報取得部204、及び出力部205を有する。
ステップS401では、環境情報取得部201は、環境情報として、静的被写体の3次元情報と、動的被写体の3次元情報及び動き情報とを取得する。
ステップS402では、制約情報取得部202は、制約情報として、撮像装置の設置可能範囲及び設置台数と、仮想視点の可動範囲とを取得する。
配置情報取得処理を開始するとステップS501へ進み、配置情報取得部204は、ステップS501~S505の処理(ループ処理A)を所定の回数繰り返して実行する。
ステップS601では、評価部203は、ステップS402において取得した制約情報に基づいて、評価用の仮想視点を1つ以上生成する。具体的には、評価部203は、制約情報として取得した仮想視点の可動範囲に基づいて、仮想視点の可動範囲内でランダムに仮想視点の位置姿勢及び画角を生成する。
次に、本発明の第2の実施形態について説明する。第2の実施形態では、情報処理装置が、撮像装置の配置情報として、撮像装置の位置姿勢に加えて、撮像装置の設置台数も決定し、決定した撮像装置の配置情報をユーザ(設置者)に対して提供する例について説明する。
ステップS701では、環境情報取得部201は、環境情報として、静的被写体の3次元情報と、動的被写体の3次元情報及び動き情報とを取得する。
ステップS702では、制約情報取得部202は、制約情報として、撮像装置の設置可能範囲と仮想視点の可動範囲とに加えて、撮像装置の設置台数の最大値及び最小値と、評価値の閾値とを取得する。
次に、本発明の第3の実施形態について説明する。第3の実施形態では、すべての撮像装置の配置情報ではなく、一部の撮像装置の配置情報のみを決定し、撮像装置の配置情報をユーザ(設置者)に対して提供する例について説明する。既に設置した撮像装置の配置を変更する場合や、環境情報が不正確で実際に撮像装置を設置する際に設置できない撮像装置があった場合等であっても、一部の撮像装置の配置情報のみ短時間で算出して提示できるため、設置作業の効率を向上させることができる。
次に、本発明の第4の実施形態について説明する。第4の実施形態では、品質を保ちながら、より短時間で仮想視点画像を生成するために、設置済みの撮像装置の中から仮想視点画像の生成に用いる撮像装置を選択する例について説明する。仮想視点画像の生成に用いる撮像装置の数を減らすことで、仮想視点画像の生成処理の高速化を図ることができる。
ステップS705では、配置情報取得部204は、ステップS704において算出した評価値がステップS702において取得した評価値の閾値以下であるか否かを判定する。算出した評価値が閾値以下であると配置情報取得部204が判定した場合、繰り返し処理を抜けてステップS708へ進み、算出した評価値が閾値より大きいと配置情報取得部204が判定した場合、ステップS706へ進む。
撮像装置が設置済みであれば、実際に被写体を撮像した画像を環境情報取得部201が環境情報として取得し、シミュレーション画像でなく実画像を用いて評価部203が撮像装置の配置を評価してもよい。例えば、前述したように前フレームの生成画像や3次元形状と比較して評価値を求めてもよい。また、選択しなかった撮像装置の画像を正解画像として、その選択しなかった撮像装置からの見え方を再現した仮想視点画像と正解画像とを比較して評価値を算出してもよい。
本発明は、前述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読み出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
Claims (17)
- 仮想視点画像を生成するための画像を撮像する複数の撮像装置を配置する際の制約を示す制約情報であって、前記複数の撮像装置の設置が可能な位置候補の範囲を示す情報を含む制約情報を取得する制約情報取得手段と、
前記制約情報取得手段により取得した制約情報に基づく配置情報であって、前記複数の撮像装置の配置位置及び姿勢を示す情報を含む配置情報を取得する配置情報取得手段と、
前記配置情報取得手段が取得した前記複数の撮像装置の配置情報を出力する出力手段とを有することを特徴とする情報処理装置。 - 前記複数の撮像装置の撮影対象である被写体の3次元情報または動き情報を取得する環境情報取得手段を有し、
前記配置情報取得手段は、前記環境情報取得手段及び前記制約情報取得手段により取得した情報に基づく前記配置情報を取得することを特徴とする請求項1に記載の情報処理装置。 - 前記配置情報取得手段が取得する前記複数の撮像装置の配置情報を評価する評価手段を有し、
前記出力手段は、前記評価手段による評価結果に基づいて、前記配置情報を出力することを特徴とする請求項1又は2に記載の情報処理装置。 - 前記評価手段は、前記複数の撮像装置の撮像画像から生成される仮想視点画像の品質を評価することを特徴とする請求項3に記載の情報処理装置。
- 前記評価手段は、前記複数の撮像装置の撮像画像から生成される3次元形状の正確性を評価することを特徴とする請求項3又は4に記載の情報処理装置。
- 前記配置情報は、さらに撮像装置の設置台数を示す情報を含むことを特徴とする請求項1~5の何れか1項に記載の情報処理装置。
- 前記出力手段は、複数生成された前記複数の撮像装置の配置候補の前記評価手段での評価に応じて、生成された配置候補の内の1つの配置候補を前記複数の撮像装置の配置情報として出力することを特徴とする請求項3~5の何れか1項に記載の情報処理装置。
- 前記評価手段は、前記配置候補に従って設置した前記複数の撮像装置で撮像される撮像画像のシミュレーション画像を用いて生成した仮想視点画像と、前記仮想視点画像に対応する仮想視点から撮像されるシミュレーション画像とを比較し、該配置候補の評価値を算出することを特徴とする請求項7に記載の情報処理装置。
- 前記評価手段は、前記配置候補に従って設置した前記複数の撮像装置で撮像される撮像画像のシミュレーション画像から生成された3次元形状と、シミュレーションで用いた3次元形状とを比較し、該配置候補の評価値を算出することを特徴とする請求項7に記載の情報処理装置。
- 前記環境情報取得手段が取得する情報は、静的被写体の3次元情報と、動的被写体の3次元情報及び動き情報とを含むことを特徴とする請求項2に記載の情報処理装置。
- 前記制約情報は、さらに仮想視点画像に対応する仮想視点の可動範囲を示す情報を含むことを特徴とする請求項1~10の何れか1項に記載の情報処理装置。
- 前記制約情報は、さらに前記撮像装置の設置台数を示す情報を含むことを特徴とする請求項1~11の何れか1項に記載の情報処理装置。
- 前記制約情報は、配置が決定している前記撮像装置の配置情報を含むことを特徴とする請求項1~12の何れか1項に記載の情報処理装置。
- 前記配置情報取得手段は、配置が決定している前記撮像装置の配置情報に基づいて、前記複数の撮像装置の内の一部の前記撮像装置の配置を算出することを特徴とする請求項13に記載の情報処理装置。
- 前記配置情報取得手段は、配置が決定している前記撮像装置の配置情報に基づいて、仮想視点画像の生成に用いる撮像装置を選択することを特徴とする請求項13に記載の情報処理装置。
- 情報処理装置が実行する情報処理方法であって、
仮想視点画像を生成するための画像を撮像する複数の撮像装置を配置する際の制約を示す制約情報であって、前記複数の撮像装置の設置が可能な位置候補の範囲を示す情報を含む制約情報を取得する制約情報取得ステップと、
前記制約情報取得ステップにて取得した制約情報に基づく配置情報であって、前記複数の撮像装置の配置位置及び姿勢を示す情報を含む配置情報を取得する配置情報取得ステップと、
前記配置情報取得ステップにて取得した前記複数の撮像装置の配置情報を出力する出力ステップとを有することを特徴とする情報処理方法。 - コンピュータを、請求項1~15の何れか1項に記載の情報処理装置の各手段として機能させるためのプログラム。
Priority Applications (4)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2017218463A JP7046567B2 (ja) | 2017-11-13 | 2017-11-13 | 情報処理装置、情報処理方法及びプログラム |
| PCT/JP2018/041584 WO2019093457A1 (ja) | 2017-11-13 | 2018-11-09 | 情報処理装置、情報処理方法及びプログラム |
| US16/865,858 US11328473B2 (en) | 2017-11-13 | 2020-05-04 | Information processing apparatus, information processing method, and non-transitory computer-readable storage medium |
| JP2022047277A JP7387792B2 (ja) | 2017-11-13 | 2022-03-23 | 情報処理装置、情報処理方法及びプログラム |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2017218463A JP7046567B2 (ja) | 2017-11-13 | 2017-11-13 | 情報処理装置、情報処理方法及びプログラム |
Related Child Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2022047277A Division JP7387792B2 (ja) | 2017-11-13 | 2022-03-23 | 情報処理装置、情報処理方法及びプログラム |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2019092007A JP2019092007A (ja) | 2019-06-13 |
| JP7046567B2 true JP7046567B2 (ja) | 2022-04-04 |
Family
ID=66439240
Family Applications (2)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2017218463A Active JP7046567B2 (ja) | 2017-11-13 | 2017-11-13 | 情報処理装置、情報処理方法及びプログラム |
| JP2022047277A Active JP7387792B2 (ja) | 2017-11-13 | 2022-03-23 | 情報処理装置、情報処理方法及びプログラム |
Family Applications After (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2022047277A Active JP7387792B2 (ja) | 2017-11-13 | 2022-03-23 | 情報処理装置、情報処理方法及びプログラム |
Country Status (3)
| Country | Link |
|---|---|
| US (1) | US11328473B2 (ja) |
| JP (2) | JP7046567B2 (ja) |
| WO (1) | WO2019093457A1 (ja) |
Families Citing this family (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11748870B2 (en) * | 2019-09-27 | 2023-09-05 | Intel Corporation | Video quality measurement for virtual cameras in volumetric immersive media |
| WO2021131365A1 (ja) * | 2019-12-26 | 2021-07-01 | 富士フイルム株式会社 | 情報処理装置、情報処理装置の作動方法、及びプログラム |
| JP2021141533A (ja) | 2020-03-09 | 2021-09-16 | キヤノン株式会社 | 姿勢調整システムおよび姿勢調整方法、画像処理装置およびその制御方法、ならびにプログラム |
| JP2023173764A (ja) | 2022-05-26 | 2023-12-07 | キヤノン株式会社 | 情報処理装置、情報処理方法 |
| JPWO2024080120A1 (ja) * | 2022-10-14 | 2024-04-18 | ||
| WO2024080121A1 (ja) * | 2022-10-14 | 2024-04-18 | ソニーグループ株式会社 | 情報処理装置および方法 |
| JPWO2024181137A1 (ja) * | 2023-02-27 | 2024-09-06 | ||
| JP7726318B1 (ja) | 2024-03-21 | 2025-08-20 | フジテック株式会社 | 表示装置、表示制御方法、および、表示制御プログラム |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2011151666A (ja) | 2010-01-22 | 2011-08-04 | Fujitsu Ten Ltd | パラメータ取得装置、パラメータ取得システム、パラメータ取得方法、及び、プログラム |
| JP2011228845A (ja) | 2010-04-16 | 2011-11-10 | Canon Inc | 画像処理装置および方法 |
| JP2017194935A (ja) | 2016-04-22 | 2017-10-26 | パナソニックIpマネジメント株式会社 | 三次元再構成方法 |
Family Cites Families (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP4671873B2 (ja) | 2006-01-23 | 2011-04-20 | シャープ株式会社 | 合成映像生成システム |
| JP4781981B2 (ja) | 2006-12-05 | 2011-09-28 | 日本電信電話株式会社 | 動画像生成方法及びシステム |
| JP2014215828A (ja) | 2013-04-25 | 2014-11-17 | シャープ株式会社 | 画像データ再生装置、および視点情報生成装置 |
| JP6594129B2 (ja) | 2014-11-28 | 2019-10-23 | キヤノン株式会社 | 情報処理装置、情報処理方法、プログラム |
| US10108882B1 (en) * | 2015-05-16 | 2018-10-23 | Sturfee, Inc. | Method to post and access information onto a map through pictures |
| WO2017149869A1 (ja) | 2016-02-29 | 2017-09-08 | ソニー株式会社 | 情報処理装置、方法、プログラム及びマルチカメラシステム |
| GB2564642A (en) * | 2017-07-10 | 2019-01-23 | Nokia Technologies Oy | Methods and apparatuses for panoramic image processing |
-
2017
- 2017-11-13 JP JP2017218463A patent/JP7046567B2/ja active Active
-
2018
- 2018-11-09 WO PCT/JP2018/041584 patent/WO2019093457A1/ja not_active Ceased
-
2020
- 2020-05-04 US US16/865,858 patent/US11328473B2/en active Active
-
2022
- 2022-03-23 JP JP2022047277A patent/JP7387792B2/ja active Active
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2011151666A (ja) | 2010-01-22 | 2011-08-04 | Fujitsu Ten Ltd | パラメータ取得装置、パラメータ取得システム、パラメータ取得方法、及び、プログラム |
| JP2011228845A (ja) | 2010-04-16 | 2011-11-10 | Canon Inc | 画像処理装置および方法 |
| JP2017194935A (ja) | 2016-04-22 | 2017-10-26 | パナソニックIpマネジメント株式会社 | 三次元再構成方法 |
Non-Patent Citations (1)
| Title |
|---|
| 坂本さやか 他3名,視体積交差におけるカメラパラメータの最適化,電気学会論文誌C (電子・情報・システム部門誌),第125巻, 第7号,日本,一般社団法人電気学会 (IEEJ),2005年10月01日,p. 1024-1029,https://www.jstage.jst.go.jp/article/ieejeiss/125/7/125_7_1024/_article/,Online ISSN 1348-8155, Print ISSN 0385-4221, 特にp. 1025左列第7-36行、右列第1-24,33-40行参照 |
Also Published As
| Publication number | Publication date |
|---|---|
| US20200265634A1 (en) | 2020-08-20 |
| JP2022089839A (ja) | 2022-06-16 |
| WO2019093457A1 (ja) | 2019-05-16 |
| JP2019092007A (ja) | 2019-06-13 |
| JP7387792B2 (ja) | 2023-11-28 |
| US11328473B2 (en) | 2022-05-10 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP7046567B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
| Huang et al. | Leveraging motion capture and 3D scanning for high-fidelity facial performance acquisition | |
| US9177381B2 (en) | Depth estimate determination, systems and methods | |
| US10681269B2 (en) | Computer-readable recording medium, information processing method, and information processing apparatus | |
| JP5067476B2 (ja) | 三次元モデル作成システム | |
| JP5773944B2 (ja) | 情報処理装置および情報処理方法 | |
| US7911503B2 (en) | Information processing apparatus and information processing method | |
| JP6338021B2 (ja) | 画像処理装置、画像処理方法および画像処理プログラム | |
| EP3093822B1 (en) | Displaying a target object imaged in a moving picture | |
| CN106210538A (zh) | 在用户设备上显示基于光场的图像的方法和装置及程序 | |
| JP5067477B2 (ja) | 撮像パラメータ取得装置、撮像パラメータ取得方法、及び、プログラム | |
| CN105103542A (zh) | 手持型便携式光学扫描仪和使用的方法 | |
| US20100250588A1 (en) | Image searching system and image searching method | |
| CA3169005C (en) | Facial mesh deformation exhibiting detailed wrinkles | |
| JP2019190974A (ja) | キャリブレーション装置、キャリブレーション方法、及びプログラム | |
| CN116778094B (zh) | 一种基于优选视角拍摄的建筑物变形监测方法及装置 | |
| JP2015121524A (ja) | 画像処理装置およびその制御方法、撮像装置、プログラム | |
| JP2014102746A (ja) | 被写体認識装置及び被写体認識プログラム | |
| CN111524086A (zh) | 运动物体检测装置、运动物体检测方法、存储介质 | |
| JP2009187316A (ja) | 対応点探索装置および該方法 | |
| JP7003617B2 (ja) | 推定装置、推定方法、及び推定プログラム | |
| JP2006113832A (ja) | ステレオ画像処理装置およびプログラム | |
| JP2015197374A (ja) | 3次元形状推定装置及び3次元形状推定方法 | |
| JP2020187626A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
| JP2018032144A (ja) | 画像処理装置、画像処理方法およびプログラム。 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20201027 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20211207 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220203 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220222 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220323 |
|
| R151 | Written notification of patent or utility model registration |
Ref document number: 7046567 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |