JP2020067815A - 画像処理装置、画像処理方法およびプログラム - Google Patents
画像処理装置、画像処理方法およびプログラム Download PDFInfo
- Publication number
- JP2020067815A JP2020067815A JP2018200042A JP2018200042A JP2020067815A JP 2020067815 A JP2020067815 A JP 2020067815A JP 2018200042 A JP2018200042 A JP 2018200042A JP 2018200042 A JP2018200042 A JP 2018200042A JP 2020067815 A JP2020067815 A JP 2020067815A
- Authority
- JP
- Japan
- Prior art keywords
- image
- foreground
- background
- generation
- generated
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Image Generation (AREA)
- Closed-Circuit Television Systems (AREA)
- Studio Devices (AREA)
- Controls And Circuits For Display Device (AREA)
Abstract
Description
本実施形態では、仮想視点画像の生成に用いられる背景画像を生成する形態を説明する。
図1は、本実施形態に係る画像処理システムの全体構成例を示すブロック図である。
背景生成システム120の合成判断部124は、ユーザによって予め設定された前景生成システム110のいずれの画像データを用いて背景テクスチャ画像を生成するかを取得する(S211)。本実施形態では、前景生成システム110Aおよび110Bのすべての画像データを用いて背景画像データを生成するものとする。
操作部132がユーザにより操作されて、仮想視点画像を生成開始する操作を受け付けると、仮想視点画像の生成開始の操作を受け付けたことを画像処理システム100の各部に対して通知し仮想視点画像生成の開始を指示する(S221)。
仮想視点701は、カメラが設置されていない任意の視点である仮想視点のカメラを表している。この仮想視点701で仮想視点画像としてレンダリングされる範囲を示しているのが仮想視点レンダリング範囲702である。
以上、本実施形態について述べてきたが、本発明はこれに限定されるものではない。
例えば、本実施形態では、背景生成システム120及びレンダリングシステム130は別のシステムとしているが、同一のシステムとしてもよい。
本実施形態に係る画像処理システムについて、図9および図10を参照して説明する。
本実施形態では、背景画像データの合成について述べる。なお、本実施形態では、上述した実施形態の画像処理システムと同一の機器については同一の符号を付記しその説明を省略する。
本実施形態の画像処理システム(仮想視点画像生成システム)900は、上述の実施形態と同様、前景生成システム110A、前景生成システム110B、背景生成システム120、レンダリングシステム130を有する。
図10は、前景生成システム110Aおよび110Bの撮影範囲を示した模式図である。
また、合成の重みについては、単純に平均値や中間値を用いる方法でもよい。
本実施形態に係る画像処理システムについて、図11および図12を参照して説明する。
本実施形態では、背景画像データの生成に於いて、生成範囲を指定する方法について述べる。なお、本実施形態では、上述した実施形態の画像処理システムと同一の機器については同一の符号を付記しその説明を省略する。
本実施形態の画像処理システム(仮想視点画像生成システム)1100は、上述の実施形態と同様、前景生成システム110A、前景生成システム110B、背景生成システム120、レンダリングシステム130を有する。
ユーザ操作によって注視点の選択が行われた場合、重複領域で選択した注視点の撮影範囲を全て選択し、重複している他の注視点については使用しないなどとしてもよい。また、注視点の優先順位をユーザが指定し、指定した優先順位に従って背景画像データの生成範囲を指定してもよい。
また、前景生成サーバ113や背景生成システム120、レンダリングシステム130は、内部に物理的に複数のサーバを有し、論理的に1台となるような構成であってもよい。
110A、110B・・・前景生成システム
120・・・背景生成システム
Claims (20)
- 仮想視点画像を生成する画像処理装置であって、
第一の位置に向けて設置された1以上のカメラで構成される第一のカメラ群によって撮影された画像に基づいて前景画像を生成する第一の前景生成手段と、
前記第一の位置とは異なる第二の位置に向けて設置された1以上のカメラで構成される第二のカメラ群によって撮影された画像に基づいて前景画像を生成する第二の前景生成手段と、
前記第一および前記第二のカメラ群によって撮影された前記画像に基づいて生成される背景モデルに対するテクスチャ画像と、当該背景モデルと、に基づいて前記仮想視点画像の背景画像を生成する背景生成手段と
を有する、ことを特徴とする画像処理装置。 - 前記背景生成手段は、前記第一および前記第二のカメラ群によって撮影された前記画像に基づいて前記背景モデルに対する前記テクスチャ画像を生成し、生成したテクスチャ画像を当該背景モデルに合成することで前記仮想視点画像の前記背景画像を生成する
ことを特徴とする、請求項1に記載の画像処理装置。 - 前記第一および前記第二の前景生成手段のうち何れか一方の前景生成手段を選択する選択手段と、
前記選択手段により選択された前景生成手段によって生成される前景画像と、前記背景生成手段によって生成された前記背景画像とに基づいて前記仮想視点画像を生成する画像生成手段をさらに有する
ことを特徴とする、請求項1または2に記載の画像処理装置。 - 前記画像生成手段は、前記選択手段により選択された前景生成手段によって生成される前景画像と、前記背景生成手段によって生成された前記背景画像とを合成した前記仮想視点画像を生成する
ことを特徴とする、請求項3に記載の画像処理装置。 - 前記選択手段は、仮想視点の位置及び方向に応じて、前記第一および前記第二の前景生成手段のうち何れか一方を選択する
ことを特徴とする、請求項3または4に記載の画像処理装置。 - 前記背景生成手段は、前記選択手段によって選択された前景生成手段に対応するカメラ群の前記画像に基づいて生成される前記テクスチャ画像を、前記選択手段によって選択されなかった前景生成手段に対応するカメラ群の前記画像に基づいて生成される前記テクスチャ画像よりも高い比重で前記背景モデルに合成する
ことを特徴とする、請求項3から5の何れか一項に記載の画像処理装置。 - 前記第一の前景生成手段には前記第一のカメラ群の前記画像、前記第二の前景生成手段には前記第二のカメラ群の前記画像、前記背景生成手段には前記第一および前記第二のカメラ群の前記画像を振り分ける振り分け手段を有することを特徴とする、請求項1から6の何れか一項に記載の画像処理装置。
- 前記第一または前記第二のカメラ群に属するカメラは、撮影した前記画像から前景画像と背景画像を分離して生成する分離手段を有し、
前記背景生成手段は、前記分離手段で生成した前記背景画像に基づいて前記背景モデルに対する前記テクスチャ画像を生成する
ことを特徴とする、請求項1から5の何れか一項に記載の画像処理装置。 - 前記第一および前記第二の位置と異なる第三の位置に向けて設置された1以上のカメラで構成される第三のカメラ群をさらに有し、
前記背景生成手段は、前記第一および前記第二のカメラ群によって撮影された前記画像に加えて、前記第三のカメラ群によって撮影された画像に基づいて生成される前記背景モデルに対する前記テクスチャ画像にさらに基づいて前記背景画像を生成する
ことを特徴とする、請求項1から8の何れか一項に記載の画像処理装置。 - 前記背景生成手段は、前記第三のカメラ群の前記画像に基づいて生成される前記テクスチャ画像を、前記第一および前記第二のカメラ群の前記画像に基づいて生成される前記テクスチャ画像よりも高い比重で前記背景モデルに合成することを特徴とする、請求項9に記載の画像処理装置。
- 前記第三のカメラ群は、前記第一および前記第二のカメラ群によって撮影された前記画像より広い画角の画像を撮影する
ことを特徴とする、請求項9または10に記載の画像処理装置。 - 仮想視点画像を生成する画像処理装置であって、
異なる位置に向けてそれぞれ設置されたカメラで構成されるカメラ群が複数あり、
同一の位置に対応する前記カメラ群によって撮影された画像に基づいて前景画像を生成する前景生成手段と、
前記複数のカメラ群によって撮影された前記画像に基づいて生成される背景モデルに対するテクスチャ画像と、当該背景モデルと、に基づいて前記仮想視点画像の背景画像を生成する背景生成手段と
を有する、ことを特徴とする画像処理装置。 - 前記背景生成手段は、前記複数のカメラ群によって撮影された前記画像に基づいて前記背景モデルに対する前記テクスチャ画像を生成し、生成したテクスチャ画像を当該背景モデルに合成することで前記仮想視点画像の背景画像を生成する
ことを特徴とする、請求項12に記載の画像処理装置。 - 前記前景生成手段は、前記異なる位置に対応して複数有り、
前記複数の前景生成手段のうち何れか一つの前景生成手段を選択する選択手段と、
前記選択手段により選択された前記前景生成手段によって生成される前記前景画像と、前記背景生成手段によって生成された背景画像とに基づいて前記仮想視点画像を生成する画像生成手段をさらに有する
ことを特徴とする、請求項12または13に記載の画像処理装置。 - 前記画像生成手段は、前記選択手段により選択された前記前景生成手段にて生成される前景画像と、前記背景生成手段にて生成された背景画像とを合成した前記仮想視点画像を生成する
ことを特徴とする、請求項14に記載の画像処理装置。 - 前記選択手段は、仮想視点の位置及び方向に応じて、前記複数の前景生成手段のうち何れか一つを選択する
ことを特徴とする、請求項14または15に記載の画像処理装置。 - 仮想視点画像を生成する画像処理方法であって、
第一の位置に向けて設置された1以上のカメラで構成される第一のカメラ群によって撮影された画像に基づいて前景画像を生成する第一の前景生成ステップと、
前記第一の位置とは異なる第二の位置に向けて設置された1以上のカメラで構成される第二のカメラ群によって撮影された画像に基づいて前景画像を生成する第二の前景生成ステップと、
前記第一および前記第二のカメラ群によって撮影された前記画像に基づいて生成される背景モデルに対するテクスチャ画像と、当該背景モデルと、に基づいて前記仮想視点画像の背景画像を生成する背景生成ステップと
を有する、ことを特徴とする画像処理方法。 - 前記背景生成ステップでは、前記第一および前記第二のカメラ群によって撮影された前記画像に基づいて前記背景モデルに対する前記テクスチャ画像を生成し、生成したテクスチャ画像を当該背景モデルに合成することで前記仮想視点画像の前記背景画像を生成する
ことを特徴とする、請求項17に記載の画像処理方法。 - 前記第一および前記第二の前景生成ステップのうち何れか一方の前景生成ステップを選択する選択ステップと、
前記選択ステップにて選択された前記前景生成ステップによって生成される前景画像と、前記背景生成ステップによって生成された前記背景画像とに基づいて前記仮想視点画像を生成する画像生成ステップをさらに有する
ことを特徴とする、請求項18に記載の画像処理方法。 - コンピュータを、請求項1から11の何れか一項に記載の画像処理装置の各手段として機能させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018200042A JP7233881B2 (ja) | 2018-10-24 | 2018-10-24 | 画像処理装置、画像処理方法およびプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018200042A JP7233881B2 (ja) | 2018-10-24 | 2018-10-24 | 画像処理装置、画像処理方法およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020067815A true JP2020067815A (ja) | 2020-04-30 |
JP7233881B2 JP7233881B2 (ja) | 2023-03-07 |
Family
ID=70390415
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018200042A Active JP7233881B2 (ja) | 2018-10-24 | 2018-10-24 | 画像処理装置、画像処理方法およびプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7233881B2 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023015868A1 (zh) * | 2021-08-13 | 2023-02-16 | 华为技术有限公司 | 图像背景生成方法及装置、计算机可读存储介质 |
GB2612418A (en) * | 2021-08-27 | 2023-05-03 | Mo Sys Engineering Ltd | Rendering image content |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017212593A (ja) * | 2016-05-25 | 2017-11-30 | キヤノン株式会社 | 情報処理装置、画像処理システム、情報処理方法、及び、プログラム |
JP2018092580A (ja) * | 2016-11-30 | 2018-06-14 | キヤノン株式会社 | 画像生成装置および方法 |
-
2018
- 2018-10-24 JP JP2018200042A patent/JP7233881B2/ja active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017212593A (ja) * | 2016-05-25 | 2017-11-30 | キヤノン株式会社 | 情報処理装置、画像処理システム、情報処理方法、及び、プログラム |
JP2018092580A (ja) * | 2016-11-30 | 2018-06-14 | キヤノン株式会社 | 画像生成装置および方法 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023015868A1 (zh) * | 2021-08-13 | 2023-02-16 | 华为技术有限公司 | 图像背景生成方法及装置、计算机可读存储介质 |
GB2612418A (en) * | 2021-08-27 | 2023-05-03 | Mo Sys Engineering Ltd | Rendering image content |
Also Published As
Publication number | Publication date |
---|---|
JP7233881B2 (ja) | 2023-03-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20220030215A1 (en) | Information processing apparatus, image generation method, control method, and storage medium | |
KR102153985B1 (ko) | 가상 시점 화상을 생성하는 장치, 시스템, 방법, 및 비일시적 컴퓨터 판독가능 기억 매체 | |
JP6429829B2 (ja) | 画像処理システム、画像処理装置、制御方法、及び、プログラム | |
JP6482498B2 (ja) | 制御装置、制御方法、及び、プログラム | |
US11190673B2 (en) | Control device, control method, and program | |
US10812770B2 (en) | Image processing system, image processing apparatus, image processing method, and program | |
WO2019111817A1 (ja) | 生成装置、生成方法及びプログラム | |
JP7187182B2 (ja) | データ生成装置、方法およびプログラム | |
JP2017211827A (ja) | 情報処理装置、制御方法、及び、プログラム | |
JP7042571B2 (ja) | 画像処理装置およびその制御方法、プログラム | |
US20200058167A1 (en) | Generation device, generation method and storage medium for three-dimensional model | |
JP2020086983A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP2019022151A (ja) | 情報処理装置、画像処理システム、制御方法、及び、プログラム | |
JP6403862B1 (ja) | 3次元モデルの生成装置、生成方法及びプログラム | |
JP7233881B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP2019134428A (ja) | 制御装置、制御方法、及び、プログラム | |
JP2019103126A (ja) | カメラシステム、カメラ制御装置、カメラ制御方法及びプログラム | |
JP2020042407A (ja) | 情報処理装置、情報処理方法及びプログラム | |
CN113963094A (zh) | 深度图及视频处理、重建方法、装置、设备及存储介质 | |
JP2019050593A (ja) | 画像処理システム、画像処理装置、制御方法、及び、プログラム | |
JP2019075740A (ja) | 画像処理システム、画像処理装置、画像伝送方法、及び、プログラム | |
JP6759375B2 (ja) | 仮想視点画像を生成するシステム、方法及びプログラム | |
WO2023131327A1 (zh) | 视频合成方法、装置及系统 | |
JP2019118042A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2023184358A (ja) | 画像処理システム、画像処理システムの制御方法、及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20211021 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220707 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220712 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220906 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230124 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230222 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7233881 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |