JP7265825B2 - 生成装置、生成方法およびプログラム - Google Patents
生成装置、生成方法およびプログラム Download PDFInfo
- Publication number
- JP7265825B2 JP7265825B2 JP2018209196A JP2018209196A JP7265825B2 JP 7265825 B2 JP7265825 B2 JP 7265825B2 JP 2018209196 A JP2018209196 A JP 2018209196A JP 2018209196 A JP2018209196 A JP 2018209196A JP 7265825 B2 JP7265825 B2 JP 7265825B2
- Authority
- JP
- Japan
- Prior art keywords
- area
- image data
- image
- photographing
- acquired
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Image Processing (AREA)
- Image Analysis (AREA)
Description
オブジェクトに対応する3次元形状データを生成する生成装置であって、
複数の撮影装置により取得された複数の撮影画像内の前記オブジェクトの領域を表す画像データ、及び、複数の撮影方向の少なくとも一つの撮影方向からの撮影において前記オブジェクトを遮蔽する可能性のある構造物の領域を表す画像データを取得する取得手段と、
前記オブジェクトに対応する3次元形状データを生成するための3次元空間を構成する要素ごとに、当該要素に対応する画素又は領域を前記オブジェクトの領域に含む撮影画像を取得した撮影装置の数を特定する特定手段と、
前記取得手段により取得された前記オブジェクトの領域を表す画像データと、前記取得手段により取得された前記構造物の領域を表す画像データと、前記特定手段により特定された前記撮影装置の数の情報とに基づき、前記オブジェクトに対応する3次元形状データを生成する生成手段と、
を有することを特徴とする。
第1の実施形態では、対象物体(前景、オブジェクト)の三次元モデル(三次元形状データ)を生成するための判定対象となる空間内の各ボクセル(部分領域)について、撮影画像内における対象のボクセルに対応する位置(画素や領域)が前景の領域を示す前景マスク画像に含まれるようなカメラの数が、閾値以下であるか否かを判定する。そして、当該数が閾値以下である場合にそのボクセル(部分領域)を三次元モデルの候補から除去することで、前景の三次元モデルを生成する例を説明する。
図1(a)は立方体の単一ボクセルを示す。図1(b)は三次元モデル生成の対象空間を表したボクセル集合を示す。図1(b)に示すように、ボクセルは三次元空間を構成する微小な部分領域である。そして、図1(c)は対象空間のボクセル集合である図1(b)の集合から四角錐領域以外のボクセルを除去することで四角錐の三次元モデルのボクセル集合を生成した例を示す。なお、本発明では三次元空間及び三次元モデルが立方体のボクセルで構成される例を説明するが、これに限らず点群などで構成されてもよい。なお、ここでいう三次元モデルとは、三次元の形状を表すデータをいう。
図2は、第1の実施形態に係る三次元モデル生成装置を含む仮想視点画像生成システムの構成例を示すブロック図である。仮想視点画像生成システム1は、複数のカメラ10a-カメラ10zを含むカメラアレイ11、制御装置12、前景背景分離装置13、三次元モデル生成装置14、及びレンダリング装置15を含んで構成されている。
続いて、図4(a)を参照して、本実施形態に係る三次元モデル生成装置の機能構成を説明する。三次元モデル生成装置14は、受信部100、構造物マスク保存部101、カメラパラメータ保持部102、マスク統合部103、座標変換部104、マスク内外判定部105、閾値設定部106、前景モデル生成部107及び出力部108を備えている。各処理部の機能は、図4(b)を参照して後述するCPU1001がROM1002やRAM1003から読み出したコンピュータプログラムを実施することにより実現される。
次に、図4(b)を参照して、本実施形態に係る三次元モデル生成装置のハードウェア構成の一例を説明する。三次元モデル生成装置14は、CPU1001、ROM1002、RAM1003、記憶装置1004、及びバス1005を備え、入力装置1006及び表示装置1007と接続されている。
図5は、本実施形態に係る三次元モデル生成装置が実施する処理の手順を示すフローチャートである。
本実施形態では、画角内外判定の結果に基づいて閾値を設定することにより、注視点から離れた位置にある前景も除去されないように三次元モデルを生成する例を説明する。
図15を参照して、本実施形態に係る三次元モデル生成装置の機能構成を説明する。本実施形態に係る三次元モデル生成装置14は、受信部100、構造物マスク保存部101、カメラパラメータ保持部102、マスク統合部103、座標変換部104、マスク内外判定部105、閾値設定部106、前景モデル生成部107、出力部108に加えて、画角内外判定部109及び閾値算出部110をさらに備えている。各処理部の機能は、第1の実施形態において図4(b)を参照して説明したCPU1001がROM1002やRAM1003から読み出したコンピュータプログラムを実施することにより実現される。また、仮想視点画像生成システムの構成は第1実施形態と同様であるため、説明は省略する。
図16は、本実施形態に係る三次元モデル生成装置が実施する処理の手順を示すフローチャートである。S301~S304の処理は、第1の実施形態で図5を参照しながら説明したS201~S204の処理と同様であるため、説明を省略する。
本実施形態では、対象とするボクセルが構造物マスク画像に含まれるカメラ台数に基づいて重み値を設定する。そして、対象とするボクセルが前景マスク画像に含まれるカメラの数と、対象とするボクセルが構造物マスク画像に含まれるカメラの台数に重み値を乗算した値とを加算した値が、True Countの閾値以下である場合に、当該ボクセルを除去すると判定する。これにより、多数のカメラで構造物により前景が遮られた場合でも欠落のない三次元モデルを生成する例を説明する。
図19を参照して、本実施形態に係る三次元モデル生成装置の機能構成を説明する。本実施形態に係る三次元モデル生成装置14は、第2の実施形態の三次元モデル生成装置の構成に加えて、重み設定部111をさらに備えている。各処理部の機能は、第1の実施形態において図4(b)を参照して説明したCPU1001がROM1002やRAM1003から読み出したコンピュータプログラムを実施することにより実現される。また、仮想視点画像生成システムの構成は第1実施形態と同様であるため、説明は省略する。
図20は、本実施形態に係る三次元モデル生成装置が実施する処理の手順を示すフローチャートである。
本実施形態では、第1の実施形態で用いた前景マスク画像に含まれるカメラ台数(True Count)の代わりに、構造物マスク画像に含まれるカメラ台数を用いる処理について説明する。
図23は、本実施形態における三次元モデル生成装置の構成を示す図である。本実施形態における三次元モデル生成装置14の構成は、第1の実施形態とほぼ同様であり、同じ処理を行うブロックについては説明を省略する。本実施形態に係る三次元モデル生成装置14は、マスク内外判定部105に代えて、マスク内外判定部112を備えている。マスク内外判定部112は、対象となるボクセル空間内の各ボクセルが統合マスク画像及び構造物マスク画像のマスク内外に含まれるカメラ台数をカウントし、閾値判定により、対象となるボクセルを除去するか否かを判定し、前景モデル生成部107に出力する。また、本実施形態の三次元モデル生成装置14のハードウェア構成は、図4(b)と同様であるため、説明は省略する。
図24は、本実施形態における三次元モデル生成装置14が実施する処理の手順を示すフローチャートである。S501~S507及びS510~S512は、第1の実施形態で図5を参照しながら説明したS201~S207及びS210~S212と同様であるため重複箇所については詳細な説明を省略し、主に必要箇所を中心に説明するする。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
Claims (18)
- オブジェクトに対応する3次元形状データを生成する生成装置であって、
複数の撮影装置により取得された複数の撮影画像内の前記オブジェクトの領域を表す画像データ、及び、複数の撮影方向の少なくとも一つの撮影方向からの撮影において前記オブジェクトを遮蔽する可能性のある構造物の領域を表す画像データを取得する取得手段と、
前記オブジェクトに対応する3次元形状データを生成するための3次元空間を構成する要素ごとに、当該要素に対応する画素又は領域を前記オブジェクトの領域に含む撮影画像を取得した撮影装置の数を特定する特定手段と、
前記取得手段により取得された前記オブジェクトの領域を表す画像データと、前記取得手段により取得された前記構造物の領域を表す画像データと、前記特定手段により特定された前記撮影装置の数の情報とに基づき、前記オブジェクトに対応する3次元形状データを生成する生成手段と、
を有することを特徴とする生成装置。 - 前記生成手段は、前記取得手段により取得された前記オブジェクトの領域を表す画像データと前記取得手段により取得された前記構造物の領域を表す画像データとに基づいて生成される3次元形状データと、前記特定手段により特定された前記撮影装置の数の情報とに基づいて、前記オブジェクトに対応する3次元形状データを生成することを特徴とする請求項1に記載の生成装置。
- 前記生成手段は、前記取得手段により取得された前記オブジェクトの領域を表す画像データと前記取得手段により取得された前記構造物の領域を表す画像データとに基づいて生成される3次元形状データから、前記特定手段により特定された前記撮影装置の数が閾値以下である要素に対応するデータを除くことにより、前記オブジェクトに対応する3次元形状データを生成することを特徴とする請求項1又は2に記載の生成装置。
- 前記閾値は、前記複数の撮影方向に基づく値であることを特徴とする請求項3に記載の生成装置。
- 前記閾値は、前記複数の撮影方向からの撮影を行う撮影装置の位置に基づく値であることを特徴とする請求項3に記載の生成装置。
- 前記閾値は、前記複数の撮影方向からの撮影を行う撮影装置の台数より少ない値であることを特徴とする請求項3乃至5の何れか1項に記載の生成装置。
- 前記画像データは、前記オブジェクトの領域を表す第1画像と前記構造物の領域を表す第2画像とが合成された画像データであり、
前記特定手段は、前記撮影装置の数として、前記オブジェクトに対応する3次元形状データを生成するための3次元空間を構成する要素ごとに、当該要素に対応する画素又は領域を前記オブジェクトの領域に含む前記第1画像に対応する撮影装置の数を特定することを特徴とする請求項1乃至6の何れか1項に記載の生成装置。 - 前記画像データは、前記オブジェクトの領域を表す第1画像の画像データと前記構造物の領域を表す第2画像の画像データを含み、
前記特定手段は、前記撮影装置の数として、前記オブジェクトに対応する3次元形状データを生成するための3次元空間を構成する要素ごとに、当該要素に対応する画素又は領域を前記オブジェクトの領域に含む前記第1画像に対応する撮影装置の数を特定することを特徴とする請求項1乃至6の何れか1項に記載の生成装置。 - オブジェクトに対応する3次元形状データを生成する生成装置であって、
複数の撮影装置により取得された複数の撮影画像内の前記オブジェクトの領域を表す画像データ、及び、複数の撮影方向の少なくとも一つの撮影方向からの撮影において前記オブジェクトを遮蔽する可能性のある構造物の領域を表す画像データを取得する取得手段と、
前記オブジェクトに対応する3次元形状データを生成するための3次元空間を構成する要素ごとに、当該要素に対応する画素又は領域を前記構造物の領域に含む撮影画像を取得した撮影装置の数を特定する特定手段と、
前記取得手段により取得された前記オブジェクトの領域を表す画像データと、前記取得手段により取得された前記構造物の領域を表す画像データと、前記特定手段により特定された撮影装置の数の情報とに基づき、前記オブジェクトに対応する3次元形状データを生成する生成手段と、
を有することを特徴とする生成装置。 - 前記生成手段は、前記取得手段により取得された前記オブジェクトの領域を表す画像データと前記取得手段により取得された前記構造物の領域を表す画像データとに基づいて生成される3次元形状データと、前記特定手段により特定された撮影装置の数の情報とに基づいて、前記オブジェクトに対応する3次元形状データを生成することを特徴とする請求項9に記載の生成装置。
- 前記生成手段は、前記取得手段により取得された前記オブジェクトの領域を表す画像データと前記取得手段により取得された前記構造物の領域を表す画像データとに基づいて生成される3次元形状データから、前記特定手段により特定された撮影装置の数が閾値以上である要素に対応するデータを除くことにより、前記オブジェクトに対応する3次元形状データを生成することを特徴とする請求項9又は10に記載の生成装置。
- 前記画像データは、前記オブジェクトの領域を表す第1画像と前記構造物の領域を表す第2画像とが合成された画像データであり、
前記特定手段は、前記撮影装置の数として、前記オブジェクトに対応する3次元形状データを生成するための3次元空間を構成する要素ごとに、当該要素に対応する画素又は領域を前記構造物の領域に含む前記第2画像に対応する撮影装置の数を特定することを特徴とする請求項9乃至11のいずれか1項に記載の生成装置。 - 前記画像データは、前記オブジェクトの領域を表す第1画像の画像データと前記構造物の領域を表す第2画像の画像データを含み、
前記特定手段は、前記撮影装置の数として、前記オブジェクトに対応する3次元形状データを生成するための3次元空間を構成する要素ごとに、当該要素に対応する画素又は領域を前記構造物の領域に含む前記第2画像に対応する撮影装置の数を特定することを特徴とする請求項9乃至11のいずれか1項に記載の生成装置。 - 前記第1画像と前記第2画像は、前記生成装置が有する受信手段を介して取得されることを特徴とする請求項7、8、12及び13の何れか1項に記載の生成装置。
- 前記要素は、前記3次元空間を構成する点又はボクセルであることを特徴とする請求項1乃至14の何れか1項に記載の生成装置。
- オブジェクトに対応する3次元形状データの生成方法であって、
複数の撮影装置により取得された複数の撮影画像内の前記オブジェクトの領域を表す画像データ、及び複数の撮影方向の少なくとも一つの撮影方向からの撮影において前記オブジェクトを遮蔽する可能性のある構造物の領域を表す画像データを取得し、
前記オブジェクトに対応する3次元形状データを生成するための3次元空間を構成する要素ごとに、当該要素に対応する画素又は領域を前記オブジェクトの領域に含む撮影画像を取得した撮影装置の数を特定し、
取得された前記オブジェクトの領域を示す画像データと、取得された前記構造物の領域を表す画像データと、特定された前記撮影装置の数とに基づき、前記オブジェクトに対応する3次元形状データを生成する、
ことを特徴とする生成方法。 - オブジェクトに対応する3次元形状データの生成方法であって、
複数の撮影装置により取得された複数の撮影画像内の前記オブジェクトの領域を表す画像データ、及び、複数の撮影方向の少なくとも一つの撮影方向からの撮影において前記オブジェクトを遮蔽する可能性のある構造物の領域を表す画像データを取得し、
前記オブジェクトに対応する3次元形状データを生成するための3次元空間を構成する要素ごとに、当該要素に対応する画素又は領域を前記構造物の領域に含む撮影画像を取得した撮影装置の数を特定し、
取得された前記オブジェクトの領域を示す画像データと、取得された前記構造物の領域を表す画像データと、特定された前記撮影装置の数とに基づき、前記オブジェクトに対応する3次元形状データを生成する
ことを特徴とする生成方法。 - コンピュータを、請求項1乃至15のいずれか1項に記載の生成装置として機能させるためのプログラム。
Priority Applications (15)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
ES18887303T ES2881320T3 (es) | 2017-12-14 | 2018-12-03 | Dispositivo de generación, procedimiento de generación y programa para modelo tridimensional |
EP18887303.8A EP3608873B1 (en) | 2017-12-14 | 2018-12-03 | Generation device, generation method and program for three-dimensional model |
CA3061699A CA3061699C (en) | 2017-12-14 | 2018-12-03 | Generation device, generation method and non-transitory computer-readable meadium storing a program for generating a three-dimensional model from an image |
EP21173382.9A EP3901910A1 (en) | 2017-12-14 | 2018-12-03 | Generation device, generation method and program for three-dimensional model |
BR112019022798-9A BR112019022798A2 (pt) | 2017-12-14 | 2018-12-03 | Dispositivo de geração, método de geração e programa para modelo tridimensional |
KR1020207032192A KR102254407B1 (ko) | 2017-12-14 | 2018-12-03 | 3차원 모델의 생성 장치, 생성 방법, 및 프로그램 |
CN202110824521.9A CN113593012A (zh) | 2017-12-14 | 2018-12-03 | 三维模型的生成装置、生成方法和存储介质 |
KR1020197032124A KR102178239B1 (ko) | 2017-12-14 | 2018-12-03 | 3차원 모델의 생성 장치, 생성 방법, 및 프로그램 |
RU2019134216A RU2744699C1 (ru) | 2017-12-14 | 2018-12-03 | Устройство формирования, способ формирования и программа для трехмерной модели |
AU2018384159A AU2018384159B2 (en) | 2017-12-14 | 2018-12-03 | Generation device, generation method and program for three-dimensional model |
PCT/JP2018/044373 WO2019116942A1 (ja) | 2017-12-14 | 2018-12-03 | 3次元モデルの生成装置、生成方法、及びプログラム |
CN201880028645.2A CN110622215B (zh) | 2017-12-14 | 2018-12-03 | 三维模型的生成装置、生成方法和程序 |
US16/663,019 US11151787B2 (en) | 2017-12-14 | 2019-10-24 | Generation device, generation method and storage medium for three-dimensional model from object images and structure images |
US17/477,374 US11798233B2 (en) | 2017-12-14 | 2021-09-16 | Generation device, generation method and storage medium for three-dimensional model that remove a portion of the three-dimensional model |
JP2023065897A JP7353527B2 (ja) | 2018-05-07 | 2023-04-13 | 情報処理装置、情報処理装置の制御方法およびプログラム |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018089467 | 2018-05-07 | ||
JP2018089467 | 2018-05-07 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2023065897A Division JP7353527B2 (ja) | 2018-05-07 | 2023-04-13 | 情報処理装置、情報処理装置の制御方法およびプログラム |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2019197523A JP2019197523A (ja) | 2019-11-14 |
JP2019197523A5 JP2019197523A5 (ja) | 2021-12-09 |
JP7265825B2 true JP7265825B2 (ja) | 2023-04-27 |
Family
ID=68537482
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018209196A Active JP7265825B2 (ja) | 2017-12-14 | 2018-11-06 | 生成装置、生成方法およびプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7265825B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022019149A1 (ja) * | 2020-07-21 | 2022-01-27 | ソニーグループ株式会社 | 情報処理装置、3dモデル生成方法、情報処理方法およびプログラム |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005284775A (ja) | 2004-03-30 | 2005-10-13 | Kao Corp | 画像処理装置 |
JP2016162034A (ja) | 2015-02-27 | 2016-09-05 | セイコーエプソン株式会社 | 3次元モデル生成システム、3次元モデル生成装置および3次元モデル生成方法 |
-
2018
- 2018-11-06 JP JP2018209196A patent/JP7265825B2/ja active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005284775A (ja) | 2004-03-30 | 2005-10-13 | Kao Corp | 画像処理装置 |
JP2016162034A (ja) | 2015-02-27 | 2016-09-05 | セイコーエプソン株式会社 | 3次元モデル生成システム、3次元モデル生成装置および3次元モデル生成方法 |
Also Published As
Publication number | Publication date |
---|---|
JP2019197523A (ja) | 2019-11-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109561296B (zh) | 图像处理装置、图像处理方法、图像处理系统和存储介质 | |
US9117310B2 (en) | Virtual camera system | |
JP6948175B2 (ja) | 画像処理装置およびその制御方法 | |
US11151787B2 (en) | Generation device, generation method and storage medium for three-dimensional model from object images and structure images | |
JP7164968B2 (ja) | 画像処理装置、画像処理装置の制御方法及びプログラム | |
US10785469B2 (en) | Generation apparatus and method for generating a virtual viewpoint image | |
US11798233B2 (en) | Generation device, generation method and storage medium for three-dimensional model that remove a portion of the three-dimensional model | |
JP2020008972A (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP2008171280A (ja) | 位置検出装置、位置検出方法、及び位置検出プログラム | |
CN112348958A (zh) | 关键帧图像的采集方法、装置、系统和三维重建方法 | |
JP2018067106A (ja) | 画像処理装置、画像処理プログラム、及び画像処理方法 | |
JP2020173529A (ja) | 情報処理装置、情報処理方法、及びプログラム | |
JP2008217593A (ja) | 被写体領域抽出装置及び被写体領域抽出プログラム | |
JP2019003428A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2019106145A (ja) | 3次元モデルの生成装置、生成方法及びプログラム | |
Nonaka et al. | Fast plane-based free-viewpoint synthesis for real-time live streaming | |
JP7265825B2 (ja) | 生成装置、生成方法およびプログラム | |
JP6799468B2 (ja) | 画像処理装置、画像処理方法及びコンピュータプログラム | |
JP2020135290A (ja) | 画像生成装置、画像生成方法、画像生成システム、及びプログラム | |
JP7353527B2 (ja) | 情報処理装置、情報処理装置の制御方法およびプログラム | |
KR100879802B1 (ko) | 가상 시점에서의 3차원 영상 생성 방법 및 장치 | |
JP6641313B2 (ja) | 領域抽出装置及びプログラム | |
US20230334767A1 (en) | Image processing apparatus, image processing method, and storage medium | |
JP7418107B2 (ja) | 形状推定装置、形状推定方法及びプログラム | |
JP6759300B2 (ja) | 情報処理装置、情報処理方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20210103 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210113 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211101 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20211101 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230105 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230306 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230317 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230413 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7265825 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |