JP7246943B2 - 画像処理方法、画像処理装置、画像処理システム、撮像装置、プログラム、および、記憶媒体 - Google Patents
画像処理方法、画像処理装置、画像処理システム、撮像装置、プログラム、および、記憶媒体 Download PDFInfo
- Publication number
- JP7246943B2 JP7246943B2 JP2019010512A JP2019010512A JP7246943B2 JP 7246943 B2 JP7246943 B2 JP 7246943B2 JP 2019010512 A JP2019010512 A JP 2019010512A JP 2019010512 A JP2019010512 A JP 2019010512A JP 7246943 B2 JP7246943 B2 JP 7246943B2
- Authority
- JP
- Japan
- Prior art keywords
- map
- normal map
- image processing
- normal
- learning
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Length Measuring Devices By Optical Means (AREA)
- Image Analysis (AREA)
Description
(その他の実施例)
本発明は、上述の実施例の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
210 中間データ
Claims (19)
- 被写体空間の第1の法線マップと参照データとを入力データとして取得する第1工程と、
あらかじめ学習された学習情報を取得する第2工程と、
前記入力データと前記学習情報とに基づいて、第2の法線マップを推定する第3工程と、を有し、
前記第1の法線マップは、照度差ステレオ法またはシェイプフロムシェーディング法を用いて取得された法線マップ、および距離マップを用いて取得された法線マップのいずれかであり、
前記参照データは、前記被写体空間を撮影した撮影画像を含み、
前記第3工程では、Nを2以上の整数、nを1からNまでの整数とした場合、前記入力データに対して、前記学習情報に基づく第nの線型変換、および第nの非線型変換を、nが1からNになるまで順に実行して中間データを生成する工程と、前記中間データに対して、前記学習情報に基づく第N+1の線型変換を実行する工程と、が実行されることで前記第2の法線マップが推定されることを特徴とする画像処理方法。 - 前記撮影画像は、前記被写体空間を異なる複数の光源環境下で撮影した複数の画像であることを特徴とする請求項1に記載の画像処理方法。
- 前記第1工程では、前記第1の法線マップの部分領域と前記参照データの部分領域とが前記入力データとして取得され、
前記入力データは、前記複数の画像のそれぞれから抽出した同一位置の部分領域を含むことを特徴とする請求項2に記載の画像処理方法。 - 前記参照データは、被写体の特性に基づいて前記撮影画像の各領域をラベル付けしたラベルマップ、前記第1の法線マップに含まれる法線情報の信頼度を表す信頼度マップ、および距離マップのうち少なくとも1つを含むことを特徴とする請求項1から3のいずれか1項に記載の画像処理方法。
- 被写体空間の第1の法線マップと参照データとを入力データとして取得する第1工程と、
あらかじめ学習された学習情報を取得する第2工程と、
前記入力データと前記学習情報とに基づいて、第2の法線マップを推定する第3工程と、を有し、
前記参照データは、被写体の特性に基づいて前記被写体空間を撮影した撮影画像の各領域をラベル付けしたラベルマップ、前記第1の法線マップに含まれる法線情報の信頼度を表す信頼度マップ、および距離マップのうち少なくとも1つを含み、
前記第3工程では、Nを2以上の整数、nを1からNまでの整数とした場合、前記入力データに対して、前記学習情報に基づく第nの線型変換、および第nの非線型変換を、nが1からNになるまで順に実行して中間データを生成する工程と、前記中間データに対して、前記学習情報に基づく第N+1の線型変換を実行する工程と、が実行されることで前記第2の法線マップが推定されることを特徴とする画像処理方法。 - 前記第1工程では、前記第1の法線マップの部分領域と前記参照データの部分領域とが入力データとして取得され、
前記部分領域は、前記ラベルマップ、前記信頼度マップ、および前記距離マップのうち少なくとも1つに基づいて抽出されることを特徴とする請求項4または5に記載の画像処理方法。 - 前記部分領域は、前記ラベルマップのうち前記第1の法線マップにおいて精度が低くなる被写体を表すラベルの領域、または前記信頼度マップの信頼度が低い領域であることを特徴とする請求項6に記載の画像処理方法。
- 前記学習情報は、前記被写体空間とは異なる被写体空間に関する第1の法線マップおよび参照データを含む学習用入力データと、前記学習用入力データに対応する第1の法線マップとは異なる学習用法線マップに基づいて学習された情報であり、
前記学習用入力データは、前記第1の法線マップにおいて精度が低くなる被写体を含むことを特徴とする請求項1から7のいずれか1項に記載の画像処理方法。 - 前記学習用入力データは、鏡面反射する被写体、表面の粗い被写体、金属体、透明体および半透明体のうち少なくとも1つを含むことを特徴とする請求項8に記載の画像処理方法。
- 前記線型変換に対応する前記学習情報は、前記参照データに基づいて決定されることを特徴とする請求項1から9のいずれか1項に記載の画像処理方法。
- 前記線型変換に用いられるフィルタのサイズは、前記参照データに基づいて決定されることを特徴とする請求項10に記載の画像処理方法。
- 前記第1の法線マップは、照度差ステレオ法またはシェイプフロムシェーディング法に基づいて取得された法線マップであることを特徴とする請求項1から11のいずれか1項に記載の画像処理方法。
- 被写体空間の第1の法線マップと参照データとを入力データとして取得するとともに、あらかじめ学習された学習情報を取得する取得部と、
前記入力データと前記学習情報とに基づいて、第2の法線マップを推定する推定部と、を有し、
前記第1の法線マップは、照度差ステレオ法またはシェイプフロムシェーディング法を用いて取得された法線マップ、および距離マップを用いて取得された法線マップのいずれかであり、
前記参照データは、前記被写体空間を撮影した撮影画像を含み、
前記推定部は、Nを2以上の整数、nを1からNまでの整数とした場合、前記入力データに対して、前記学習情報に基づく第nの線型変換、および第nの非線型変換を、nが1からNになるまで順に実行して中間データを生成する工程と、前記中間データに対して、前記学習情報に基づく第N+1の線型変換を実行する工程と、を実行することで前記第2の法線マップを推定することを特徴とする画像処理装置。 - 被写体空間の第1の法線マップと参照データとを入力データとして取得するとともに、あらかじめ学習された学習情報を取得する取得部と、
前記入力データと前記学習情報とに基づいて、第2の法線マップを推定する推定部と、を有し、
前記参照データは、被写体の特性に基づいて前記被写体空間を撮影した撮影画像の各領域をラベル付けしたラベルマップ、前記第1の法線マップに含まれる法線情報の信頼度を表す信頼度マップ、および距離マップのうち少なくとも1つを含み、
前記推定部は、Nを2以上の整数、nを1からNまでの整数とした場合、前記入力データに対して、前記学習情報に基づく第nの線型変換、および第nの非線型変換を、nが1からNになるまで順に実行して中間データを生成する工程と、前記中間データに対して、前記学習情報に基づく第N+1の線型変換を実行する工程と、を実行することで前記第2の法線マップを推定することを特徴とする画像処理装置。 - 前記学習情報を記憶する記憶部を更に有することを特徴とする請求項13または14に記載の画像処理装置。
- 請求項13から15のいずれか1項に記載の画像処理装置と、
被写体空間を撮影した撮影画像を前記画像処理装置に出力する画像出力装置と、を有することを特徴とする画像処理システム。 - 被写体空間の像を撮影画像として取得する撮像部と、
前記撮影画像に対して請求項1から12のいずれか1項に記載の画像処理方法を実行する画像処理部と、を有することを特徴とする撮像装置。 - 請求項1から12のいずれか1項に記載の画像処理方法をコンピュータに実行させるためのプログラム。
- 請求項18に記載のプログラムを記憶したコンピュータが読み取り可能な記憶媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019010512A JP7246943B2 (ja) | 2019-01-24 | 2019-01-24 | 画像処理方法、画像処理装置、画像処理システム、撮像装置、プログラム、および、記憶媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019010512A JP7246943B2 (ja) | 2019-01-24 | 2019-01-24 | 画像処理方法、画像処理装置、画像処理システム、撮像装置、プログラム、および、記憶媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020119333A JP2020119333A (ja) | 2020-08-06 |
JP7246943B2 true JP7246943B2 (ja) | 2023-03-28 |
Family
ID=71890902
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019010512A Active JP7246943B2 (ja) | 2019-01-24 | 2019-01-24 | 画像処理方法、画像処理装置、画像処理システム、撮像装置、プログラム、および、記憶媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7246943B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022124026A1 (ja) * | 2020-12-08 | 2022-06-16 | ソニーグループ株式会社 | 学習済モデルの生成方法および情報処理装置 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017102637A (ja) | 2015-12-01 | 2017-06-08 | キヤノン株式会社 | 処理装置、処理システム、撮像装置、処理方法、プログラム、および記録媒体 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6198312B2 (ja) * | 2013-09-30 | 2017-09-20 | Jukiオートメーションシステムズ株式会社 | 3次元測定装置、3次元測定方法および基板の製造方法 |
-
2019
- 2019-01-24 JP JP2019010512A patent/JP7246943B2/ja active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017102637A (ja) | 2015-12-01 | 2017-06-08 | キヤノン株式会社 | 処理装置、処理システム、撮像装置、処理方法、プログラム、および記録媒体 |
Non-Patent Citations (3)
Title |
---|
David Eigen, 外1名,"Predicting Depth, Surface Normals and Semantic Labels with a Common Multi-scale Convolutional Architecture",2015 IEEE International Conference on Computer Vision (ICCV),米国,IEEE,2015年12月13日,p.2650-2658 |
Xiaojuan Qi, 外4名,"GeoNet: Geometric Neural Network for Joint Depth and Surface Normal Estimation",2018 IEEE/CVF Conference on COmputer Vision and Pattern Recognition,米国,IEEE,2018年06月23日,p.283-291 |
福谷俊行, 外2名,"物体の明度と法線ベクトルの関係学習による3次元形状復元",情報処理学会研究報告,日本,社団法人情報処理学会,2008年03月10日,第2008巻, 第27号,p.549-556 |
Also Published As
Publication number | Publication date |
---|---|
JP2020119333A (ja) | 2020-08-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7282810B2 (ja) | 視線追跡方法およびシステム | |
CN110799991B (zh) | 用于使用卷积图像变换执行同时定位和映射的方法和系统 | |
US10008005B2 (en) | Measurement system and method for measuring multi-dimensions | |
US20190050681A1 (en) | Image processing apparatus, image processing method, and non-transitory computer-readable storage medium | |
US11663691B2 (en) | Method and apparatus for restoring image | |
US7711182B2 (en) | Method and system for sensing 3D shapes of objects with specular and hybrid specular-diffuse surfaces | |
US9344690B2 (en) | Image demosaicing | |
CN110969670B (zh) | 基于显著特征的多光谱相机动态立体标定方法 | |
US20220375045A1 (en) | Learning-Based Lens Flare Removal | |
JPH10124658A (ja) | 神経回路網を利用したカメラの映像歪補正方法 | |
JP2014178265A (ja) | 校正装置、方法及びプログラム | |
CN113689578B (zh) | 一种人体数据集生成方法及装置 | |
CN107240126B (zh) | 阵列图像的校准方法 | |
JP2020197774A (ja) | 画像処理方法、画像処理装置、撮像装置、画像処理プログラム、および、記憶媒体 | |
CN113643414A (zh) | 一种三维图像生成方法、装置、电子设备及存储介质 | |
JP7246943B2 (ja) | 画像処理方法、画像処理装置、画像処理システム、撮像装置、プログラム、および、記憶媒体 | |
JP2019074777A (ja) | 画像処理方法、画像処理装置、および撮像装置 | |
US11790550B2 (en) | Learnable cost volume for determining pixel correspondence | |
JP2017134561A (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
JP7286268B2 (ja) | 画像処理方法、画像処理装置、撮像装置、画像処理プログラム、および、記憶媒体 | |
JP7146461B2 (ja) | 画像処理方法、画像処理装置、撮像装置、プログラム、および、記憶媒体 | |
JP6822086B2 (ja) | シミュレーション装置、シミュレーション方法およびシミュレーションプログラム | |
US11636578B1 (en) | Partial image completion | |
CN112330726B (zh) | 一种图像处理方法及装置 | |
CN110619677A (zh) | 三维流场内粒子重构方法及装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220111 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230117 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230214 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230315 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7246943 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |