JP2020166498A - 情報処理装置、三次元モデルの生成方法、及びプログラム - Google Patents
情報処理装置、三次元モデルの生成方法、及びプログラム Download PDFInfo
- Publication number
- JP2020166498A JP2020166498A JP2019065691A JP2019065691A JP2020166498A JP 2020166498 A JP2020166498 A JP 2020166498A JP 2019065691 A JP2019065691 A JP 2019065691A JP 2019065691 A JP2019065691 A JP 2019065691A JP 2020166498 A JP2020166498 A JP 2020166498A
- Authority
- JP
- Japan
- Prior art keywords
- image
- mask
- dimensional model
- viewpoint
- captured
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000010365 information processing Effects 0.000 title claims abstract description 25
- 238000000034 method Methods 0.000 title claims description 76
- 230000008569 process Effects 0.000 claims description 43
- 238000011156 evaluation Methods 0.000 claims description 4
- 239000000284 extract Substances 0.000 claims description 4
- 238000012545 processing Methods 0.000 description 79
- 230000006870 function Effects 0.000 description 42
- 238000001914 filtration Methods 0.000 description 16
- 238000003384 imaging method Methods 0.000 description 16
- 230000003287 optical effect Effects 0.000 description 9
- 238000010586 diagram Methods 0.000 description 7
- 230000007246 mechanism Effects 0.000 description 7
- 238000004891 communication Methods 0.000 description 6
- 230000006866 deterioration Effects 0.000 description 5
- 238000012986 modification Methods 0.000 description 5
- 230000004048 modification Effects 0.000 description 5
- 238000012804 iterative process Methods 0.000 description 4
- 230000000873 masking effect Effects 0.000 description 4
- 238000005259 measurement Methods 0.000 description 4
- 230000003252 repetitive effect Effects 0.000 description 4
- 230000008859 change Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000002474 experimental method Methods 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 238000009499 grossing Methods 0.000 description 2
- 238000005286 illumination Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000004088 simulation Methods 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 230000002411 adverse Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000005401 electroluminescence Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000004321 preservation Methods 0.000 description 1
- 238000012827 research and development Methods 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Images
Landscapes
- Processing Or Creating Images (AREA)
- Image Analysis (AREA)
Abstract
Description
図1を参照しながら、本実施形態に係る三次元復元システムについて説明する。図1は、三次元復元システムの構成例を示した模式図である。
以下、上述した仕組みについての処理を実行する情報処理装置101の機能及びその機能を実現可能なハードウェアの例について説明する。
まず、図2を参照しながら、情報処理装置101のハードウェアについて説明する。図2は、情報処理装置の機能を実現可能なハードウェア構成例を示したブロック図である。後述する情報処理装置101の機能は、コンピュータプログラムを用いて図2に示すハードウェアを制御することにより実現されうる。
次に、図3を参照しながら、情報処理装置101の機能について説明する。図3は、情報処理装置が有する機能の一例を示したブロック図である。
記憶部111には、モデル情報111a、深度画像の集合111b、フィルタ情報111c、及びマスク画像の集合111dが格納される。
モデル生成部112は、三次元モデル復元機能112a、及びマスク処理機能112bを有する。三次元モデル復元機能112aは、対象物の三次元形状を復元し、テクスチャを貼り付けて三次元モデルを復元する機能である。マスク処理機能112bは、各視点に対応する撮影画像に対して、その撮影画像に対応するマスク画像を適用する機能である。
マスク生成部113は、深度画像生成機能113a、空間フィルタリング機能113b、及び二値化機能113cを有する。深度画像生成機能113aは、三次元形状から各視点の深度画像を生成する処理を実行する機能である。空間フィルタリング機能113bは、深度画像に空間フィルタリングを適用して、ボケや回折などの光学的な影響を除去するための処理を実行する機能である。二値化機能113cは、空間フィルタリング後の深度画像を二値化する処理を実行する機能である。
本実施形態に係る三次元復元の処理は、同じ対象物の多視点画像について繰り返し実行される。ここでは、図4を参照しながら、この繰り返し処理の流れについて説明する。図4は、三次元モデルの生成方法について説明するための説明図である。なお、以下の繰り返し処理についての説明では、事前に深度画像が得られていない場合(上述したデプスセンサなどによる測定を行っていない場合)を想定する。
ここで、図5を参照しながら、情報処理装置101が実行する処理の流れについて説明する。図5は、三次元モデルの生成に関する処理の流れを示したフロー図である。
20 背景領域
30 撮像装置
101 情報処理装置
102 記憶装置
103 表示装置
111 記憶部
111a モデル情報
111b 深度画像の集合
111c フィルタ情報の集合
111d マスク画像の集合
112 モデル生成部
112a 三次元モデル復元機能
112b マスク処理機能
113 マスク生成部113
113a 深度画像生成機能
113b 空間フィルタ機能
113c 二値化機能
P0、…、P24 撮影画像
dP0、…、dP24 深度画像
mP0、…、mP24 マスク画像
M10a 三次元モデル
Claims (5)
- 複数の異なる視点から対象物を撮影した複数の撮像画像が格納される記憶部と、
前記複数の撮像画像から前記対象物の三次元モデルを生成するモデル生成部と、
各視点から見た前記三次元モデルの深度画像を生成し、前記深度画像に基づいて、画質が低下しやすい特定領域を抽出し、前記各視点に対応する撮像画像から前記特定領域を除去するためのマスク画像を生成するマスク生成部と、を備え、
前記モデル生成部は、前記複数の撮像画像のそれぞれから前記マスク画像に基づいて前記特定領域を除去し、除去後の撮像画像に基づいて前記対象物の三次元モデルを新たに生成する、情報処理装置。 - 前記マスク生成部により、新たに生成された前記三次元モデルについて前記マスク画像を生成する第1の工程と、前記第1の工程で生成された前記マスク画像に基づいて前記除去後の撮像画像を生成する第2の工程と、前記除去後の撮像画像に基づいて前記対象物の三次元モデルを新たに生成する第3の工程と、を繰り返し実行する、
請求項1に記載の情報処理装置。 - 前記深度画像は、深度に対応する階調値で表現され、
前記マスク生成部は、前記深度画像の中で、前記階調値の勾配に基づく評価値が所定の閾値より大きい部分を前記特定領域として判定する、
請求項1又は2に記載の情報処理装置。 - コンピュータが、
複数の異なる視点から対象物を撮影した複数の撮像画像を取得し、
前記複数の撮像画像から前記対象物の三次元モデルを生成し、
各視点から見た前記三次元モデルの深度画像を生成し、前記深度画像に基づいて、画質が低下しやすい特定領域を抽出し、前記各視点に対応する撮像画像から前記特定領域を除去するためのマスク画像を生成し、
前記複数の撮像画像のそれぞれから前記マスク画像に基づいて前記特定領域を除去し、除去後の撮像画像に基づいて前記対象物の三次元モデルを新たに生成する
処理を実行する、三次元モデルの生成方法。 - コンピュータに、
複数の異なる視点から対象物を撮影した複数の撮像画像を取得し、
前記複数の撮像画像から前記対象物の三次元モデルを生成し、
各視点から見た前記三次元モデルの深度画像を生成し、前記深度画像に基づいて、画質が低下しやすい特定領域を抽出し、前記各視点に対応する撮像画像から前記特定領域を除去するためのマスク画像を生成し、
前記複数の撮像画像のそれぞれから前記マスク画像に基づいて前記特定領域を除去し、除去後の撮像画像に基づいて前記対象物の三次元モデルを新たに生成する
処理を実行させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019065691A JP7322460B2 (ja) | 2019-03-29 | 2019-03-29 | 情報処理装置、三次元モデルの生成方法、及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019065691A JP7322460B2 (ja) | 2019-03-29 | 2019-03-29 | 情報処理装置、三次元モデルの生成方法、及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020166498A true JP2020166498A (ja) | 2020-10-08 |
JP7322460B2 JP7322460B2 (ja) | 2023-08-08 |
Family
ID=72717495
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019065691A Active JP7322460B2 (ja) | 2019-03-29 | 2019-03-29 | 情報処理装置、三次元モデルの生成方法、及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7322460B2 (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113763268A (zh) * | 2021-08-26 | 2021-12-07 | 中国科学院自动化研究所 | 人脸图像盲修复方法及系统 |
WO2024034449A1 (ja) * | 2022-08-06 | 2024-02-15 | モルゲンロット株式会社 | 情報処理装置、及び情報処理方法 |
WO2024080120A1 (ja) * | 2022-10-14 | 2024-04-18 | ソニーグループ株式会社 | 情報処理装置および方法、並びに、情報処理システム |
WO2024080121A1 (ja) * | 2022-10-14 | 2024-04-18 | ソニーグループ株式会社 | 情報処理装置および方法 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015224909A (ja) * | 2014-05-27 | 2015-12-14 | シャープ株式会社 | 3次元計測装置及び3次元計測方法 |
WO2019031259A1 (ja) * | 2017-08-08 | 2019-02-14 | ソニー株式会社 | 画像処理装置および方法 |
-
2019
- 2019-03-29 JP JP2019065691A patent/JP7322460B2/ja active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015224909A (ja) * | 2014-05-27 | 2015-12-14 | シャープ株式会社 | 3次元計測装置及び3次元計測方法 |
WO2019031259A1 (ja) * | 2017-08-08 | 2019-02-14 | ソニー株式会社 | 画像処理装置および方法 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113763268A (zh) * | 2021-08-26 | 2021-12-07 | 中国科学院自动化研究所 | 人脸图像盲修复方法及系统 |
WO2024034449A1 (ja) * | 2022-08-06 | 2024-02-15 | モルゲンロット株式会社 | 情報処理装置、及び情報処理方法 |
WO2024080120A1 (ja) * | 2022-10-14 | 2024-04-18 | ソニーグループ株式会社 | 情報処理装置および方法、並びに、情報処理システム |
WO2024080121A1 (ja) * | 2022-10-14 | 2024-04-18 | ソニーグループ株式会社 | 情報処理装置および方法 |
Also Published As
Publication number | Publication date |
---|---|
JP7322460B2 (ja) | 2023-08-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7322460B2 (ja) | 情報処理装置、三次元モデルの生成方法、及びプログラム | |
TWI441095B (zh) | 距離估算方法及其距離估算裝置,及其機器可讀取媒體 | |
US10621729B2 (en) | Adaptive focus sweep techniques for foreground/background separation | |
Levin et al. | Image and depth from a conventional camera with a coded aperture | |
US9843787B2 (en) | Generation and use of a 3D radon image | |
Perra et al. | An analysis of 3D point cloud reconstruction from light field images | |
WO2019119567A1 (en) | Systems and methods for block based edgel detection with false edge elimination | |
Ren et al. | Face video deblurring using 3D facial priors | |
Ruan et al. | Learning to deblur using light field generated and real defocus images | |
JP2009536499A (ja) | 2次元画像から3次元オブジェクトを再構成するシステム及び方法 | |
JP2020010146A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
Rajagopalan et al. | Space-variant approaches to recovery of depth from defocused images | |
CN111028170A (zh) | 图像处理方法、图像处理装置、电子设备和可读存储介质 | |
Alsadik et al. | Efficient use of video for 3D modelling of cultural heritage objects | |
Paramanand et al. | Shape from sharp and motion-blurred image pair | |
CN116012432A (zh) | 立体全景图像的生成方法、装置和计算机设备 | |
JP6867645B2 (ja) | 画像処理装置、方法、及びプログラム | |
Aydin et al. | A New Adaptive Focus Measure for Shape From Focus. | |
KR20180034237A (ko) | 화상 처리장치, 화상 처리방법, 기억매체 및 프로그램 | |
Chlubna et al. | Real-time per-pixel focusing method for light field rendering | |
CN111105370A (zh) | 图像处理方法、图像处理装置、电子设备和可读存储介质 | |
KR102587298B1 (ko) | 멀티뷰 어안 렌즈들을 이용한 실시간 전방위 스테레오 매칭 방법 및 그 시스템 | |
Grossauer | Inpainting of movies using optical flow | |
CN114463405A (zh) | 面扫线激光3d相机加速方法、装置、系统及fpga | |
JP6353415B2 (ja) | 辞書生成方法、辞書生成装置、画像処理方法、画像処理装置及び画像処理プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220224 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230201 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230314 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230418 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230627 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230710 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7322460 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |