JP2020088646A - 三次元形状モデル生成支援装置、三次元形状モデル生成支援方法、及びプログラム - Google Patents
三次元形状モデル生成支援装置、三次元形状モデル生成支援方法、及びプログラム Download PDFInfo
- Publication number
- JP2020088646A JP2020088646A JP2018221539A JP2018221539A JP2020088646A JP 2020088646 A JP2020088646 A JP 2020088646A JP 2018221539 A JP2018221539 A JP 2018221539A JP 2018221539 A JP2018221539 A JP 2018221539A JP 2020088646 A JP2020088646 A JP 2020088646A
- Authority
- JP
- Japan
- Prior art keywords
- image
- preview image
- dimensional shape
- unit
- shape model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 21
- 238000000605 extraction Methods 0.000 claims abstract description 52
- 238000003384 imaging method Methods 0.000 claims abstract description 34
- 239000000284 extract Substances 0.000 claims abstract description 17
- 238000010801 machine learning Methods 0.000 claims description 4
- 238000010586 diagram Methods 0.000 description 11
- 238000012935 Averaging Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 3
- 230000005484 gravity Effects 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 230000010485 coping Effects 0.000 description 2
- 238000005286 illumination Methods 0.000 description 2
- 230000000295 complement effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 210000004709 eyebrow Anatomy 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Landscapes
- Studio Devices (AREA)
- Image Analysis (AREA)
Abstract
Description
例えば、非特許文献1には多視点画像から三次元形状を復元する手法が開示されている。
まず、第1の実施形態について説明する。
図1は、第1の実施形態による三次元形状モデル生成支援システム1における構成の例を示すブロック図である。三次元形状モデル生成支援システム1は、例えば、撮像装置10と三次元形状モデル生成支援装置20とを備える。撮像装置10と三次元形状モデル生成支援装置20とは、例えばUSB(Universal Serial Bus)ケーブル等により通信可能に接続される。
光量調整部13は、撮像部11の撮像における露光の条件として、シャッタースピード、絞り値、照明光(フラッシュ光源)の有無、照明光の強度などを調整する。光量調整部13は、例えば、撮像者により操作される。
画像情報出力部14は、撮像部11からのプレビュー画像、及び撮像後の多視点画像の情報を三次元形状モデル生成支援装置20に出力する。
或いは、判定部23は、プレビュー画像における対象物領域の特徴点の各々における対応点からの移動量の単純加算平均値を、対象物領域の移動量として算出してもよい。
出力部27は、画像情報取得部21により取得されたプレビュー画像、対象物領域抽出部22により特定されたプレビュー画像における対象物領域、及び判定部23により判定された判定結果を示す情報を、表示部26に出力する。また、表示部26は、判定部23により判定された判定結果に応じた音や音声を出力するようにしてもよい。
表示部26は、出力部27からの情報を表示する。表示部26は、画像情報取得部21により取得されたプレビュー画像を表示する。また、表示部26は、対象物領域抽出部22により特定されたプレビュー画像における対象物領域を表示する。また、表示部26は、判定部23により判定された判定結果を表示する。
図3(b)に示すように、判定部23により対象物の移動量が小さすぎると判定された場合、表示部26の表示画面には、「前の画像との共通領域が少ないので、戻ってください」とのメッセージMと共に、プレビュー画像Gと、プレビュー画像Gにおける対象物領域Eが表示される。
図3(c)に示すように、判定部23により対象物の移動量が大きすぎると判定された場合、表示部26の表示画面には、「前の画像との共通領域が多いので、離れてください」とのメッセージMと共に、プレビュー画像Gと、プレビュー画像Gにおける対象物領域Eが表示される。
ステップS10:
三次元形状モデル生成支援装置20は、画像情報取得部21により撮像装置10からプレビュー画像の情報を取得する。
ステップS11:
三次元形状モデル生成支援装置20は、対象物領域抽出部22によりプレビュー画像における対象物領域を抽出する。対象物領域抽出部22は、プレビュー画像における特徴点を抽出し、プレビュー画像における特徴点の各々について、プレビュー画像の前に撮像された参照画像における対応点を特定する。対象物領域抽出部22は対応点を特定できた特徴点について、対応点から特徴点までの移動量を算出し、移動量が相対的に少ない特徴点を含む物体の領域を対象物領域とする。
ステップS12:
三次元形状モデル生成支援装置20は、対象物領域抽出部22により抽出された対象物領域を、プレビュー画像と共に表示部26に表示する。
ステップS13:
三次元形状モデル生成支援装置20は、判定部23によりプレビュー画像における対象物の移動量が適切か否かを判定する。判定部23は、プレビュー画像における対象物の移動量が所定の上限以上、又は所定の下限未満である場合、移動量が適切ではないと判定する。一方、判定部23は、プレビュー画像における対象物の移動量が所定の下限以上、且つ所定の上限未満である場合、移動量が適切であると判定する。
ステップS14:
三次元形状モデル生成支援装置20は、判定部23により判定された判定結果を表示部26に表示する。表示部26は、例えば、判定結果を表示すると共に対処方法を示すメッセージMを表示する。
また、第1の実施形態における三次元形状モデル生成支援装置20では、判定部23はプレビュー画像における対象物の移動量が適切であるか否かを判定することにより、対象物の移動量が適切な画像を撮像することが可能となり、精度よく三次元形状モデルを生成し得る多視点画像を取得することができる。
次に、第2の実施形態について説明する。本実施形態では、三次元形状モデルにおける生成の精度に関する所定条件として、プレビュー画像における対象物領域にブレが生じているか否かを判定する点において、上述した実施形態と相違する。
対象物領域抽出部22は、画像情報取得部21によりプレビュー画像が取得される度に、或いはプレビュー画像の情報が変化する度に、対象物領域を抽出する。
判定部23は、対象物領域抽出部22により対象物領域が抽出される度に、対象物領域における代表点(例えば、重心位置)の画像座標を取得する。判定部23は、今回取得した画像座標と前回取得した画像座標の差分が所定の閾値以上である場合、対象物領域にブレが生じていると判定する。一方、判定部23は、今回取得した画像座標と前回取得した画像座標の差分が所定の閾値未満である場合、対象物領域にブレが生じていないと判定する。
図5に示すように、判定部23により、対象物領域にブレが生じていると判定された場合、表示部26の表示画面には、「画像がブレているので移動速度を落としてください」とのメッセージMと共に、プレビュー画像Gと、プレビュー画像Gにおける対象物領域Eが表示される。
次に、第3の実施形態について説明する。本実施形態では、三次元形状モデルにおける生成の精度に関する所定条件として、プレビュー画像における対象物領域にボケが生じているか否かを判定する点において、上述した実施形態と相違する。
図6に示すように、判定部23により、対象物領域にブレが生じていると判定された場合、表示部26の表示画面には、「対象物領域がボケているのでフォーカスを合わせてください」とのメッセージMと共に、プレビュー画像Gと、プレビュー画像Gにおける対象物領域Eが表示される。
次に、第4の実施形態について説明する。本実施形態では、三次元形状モデルにおける生成の精度に関する所定条件として、プレビュー画像における対象物領域の明度が適切であるか否かを判定し、対象物領域の明度が適切でない場合には当該明度を調整する点において、上述した実施形態と相違する。
判定部23は、対象物領域の明度が適切でない場合において、各輝度値の単純加算平均値が所定の下限未満である場合、対象物領域が暗すぎると判定する。また、判定部23は、対象物領域の明度が適切でない場合において、各輝度値の単純加算平均値が所定の上限以上である場合、対象物領域が明るすぎると判定する。
図8に示すように、判定部23により、対象物領域が暗すぎると判定された場合、表示部26の表示画面には、「対象物領域が暗いので露光調整をしてください」とのメッセージMと共に、プレビュー画像Gと、プレビュー画像Gにおける対象物領域Eが表示される。
10…撮像装置
11…撮像部
12…フォーカス調整部
13…光量調整部
14…画像情報出力部
20…三次元形状モデル生成支援装置
21…画像情報取得部
22…対象物領域抽出部
220…特徴点抽出部
221…対応部
222…領域抽出部
23…判定部
25…画像情報記憶部
26…表示部
27…出力部
28…明度調整部
Claims (10)
- 対象物の三次元形状モデルを生成するために用いられる、視点を移動させながら前記対象物を撮像する多視点画像における、撮像前の前記多視点画像を示すプレビュー画像の情報を取得する画像情報取得部と、
前記画像情報取得部により取得された前記プレビュー画像と、前記プレビュー画像の前に撮像された前記多視点画像である参照画像とを用いて、前記プレビュー画像における前記対象物が撮像された領域である対象物領域を抽出する対象物領域抽出部と、
前記対象物領域抽出部により抽出された前記対象物領域が、前記三次元形状モデルにおける生成の精度に関する所定条件を満たすか否かを判定する判定部と、
前記判定部により判定された判定結果を出力する出力部と、
を備えることを特徴とする三次元形状モデル生成支援装置。 - 前記対象物領域抽出部は、
前記プレビュー画像における特徴点を複数抽出する特徴点抽出部と、
前記プレビュー画像における特徴点の各々について、前記プレビュー画像の特徴点に対応する前記参照画像における特徴点を対応付ける対応部と、
前記対応付けられた、参照画像における特徴点の座標と前記プレビュー画像における特徴点の座標との距離である移動量を用いて、前記プレビュー画像における特徴点の各々の中で当該移動量が相対的に小さい特徴点を含む物体の領域を前記対象物領域として抽出する領域抽出部と、
を有することを特徴とする請求項1に記載の三次元形状モデル生成支援装置。 - 前記判定部は、前記プレビュー画像における前記対象物領域の位置から前記参照画像における前記対象物領域に相当する領域の位置までの距離である前記対象物領域の移動量を所定の閾値と比較することにより、前記精度に関する所定条件として前記対象物領域の移動量が適切であるか否かを判定する、
請求項1又は請求項2に記載の三次元形状モデル生成支援装置。 - 前記判定部は、前記プレビュー画像における前記対象物領域の位置の変化率が所定の閾値以上であるか否かを判定することにより、前記精度に関する所定条件として前記対象物領域にブレが生じているか否かを判定する、
請求項1から請求項3のいずれか一項に記載の三次元形状モデル生成支援装置。 - 前記判定部は、前記プレビュー画像における前記対象物領域から抽出される前記対象物の輪郭線に対応する画素の輝度情報と、当該画素に隣り合う画素の輝度情報との差分が、所定の閾値以上であるか否かを判定することにより、前記精度に関する所定条件として前記対象物領域にボケが生じているか否かを判定する、
請求項1から請求項4のいずれか一項に記載の三次元形状モデル生成支援装置。 - 前記判定部は、画像と当該画像にボケが生じているか否かを対応付けた学習データを用いて機械学習を実行することにより作成された学習済みモデルに、前記プレビュー画像を入力して得られる、前記対象物領域においてボケが生じているか否かを推定した結果を示す出力に基づいて、前記精度に関する所定条件として前記対象物領域にボケが生じているか否かを判定する、
請求項1から請求項5のいずれか一項に記載の三次元形状モデル生成支援装置。 - 前記判定部は、前記プレビュー画像における前記対象物領域に対応する各画素の輝度値の代表値と所定の閾値とを比較することにより、前記精度に関する所定条件として前記対象物領域の明度が適切であるか否かを判定する、
請求項1から請求項6のいずれか一項に記載の三次元形状モデル生成支援装置。 - 前記判定部により前記プレビュー画像における前記対象物の明度が適切でないと判定された場合に、前記プレビュー画像における前記対象物の明度を調整する明度調整部を更に備え、
前記判定部は、前記明度調整部により前記対象物の明度を調整された前記プレビュー画像における前記対象物の明度が適切であるか否かを再度判定する、
請求項7に記載の三次元形状モデル生成支援装置。 - 画像情報取得部が、対象物の三次元形状モデルを生成するために用いられる多視点画像であって、視点を移動させながら前記対象物を撮像する多視点画像における撮像前の前記多視点画像を示すプレビュー画像の情報を取得する画像取得過程と、
対象物領域抽出部が、前記画像情報取得部により取得された前記プレビュー画像と、前記プレビュー画像の前に撮像された前記多視点画像である参照画像とを用いて、前記プレビュー画像における前記対象物が撮像された領域である対象物領域を抽出する対象物領域抽出過程と、
判定部が、前記対象物領域抽出部により抽出された前記対象物領域が、前記三次元形状モデルにおける生成の精度に関する所定条件を満たすか否かを判定する判定過程と、
出力部が、前記判定部により判定された判定結果を出力する出力過程と、
を含むことを特徴とする三次元形状モデル生成支援方法。 - コンピュータを、
対象物の三次元形状モデルを生成するために用いられる多視点画像であって、視点を移動させながら前記対象物を撮像する多視点画像における撮像前の前記多視点画像を示すプレビュー画像の情報を取得する画像情報取得手段、
前記画像情報取得手段により取得された前記プレビュー画像と、前記プレビュー画像の前に撮像された前記多視点画像である参照画像とを用いて、前記プレビュー画像における前記対象物が撮像された領域である対象物領域を抽出する対象物領域抽出手段、
前記対象物領域抽出手段により抽出された前記対象物領域が、前記三次元形状モデルにおける生成の精度に関する所定条件を満たすか否かを判定する判定手段、
前記判定手段により判定された判定結果を出力する出力手段、
として動作させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018221539A JP2020088646A (ja) | 2018-11-27 | 2018-11-27 | 三次元形状モデル生成支援装置、三次元形状モデル生成支援方法、及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018221539A JP2020088646A (ja) | 2018-11-27 | 2018-11-27 | 三次元形状モデル生成支援装置、三次元形状モデル生成支援方法、及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2020088646A true JP2020088646A (ja) | 2020-06-04 |
Family
ID=70910169
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018221539A Pending JP2020088646A (ja) | 2018-11-27 | 2018-11-27 | 三次元形状モデル生成支援装置、三次元形状モデル生成支援方法、及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2020088646A (ja) |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2006046637A1 (ja) * | 2004-10-29 | 2006-05-04 | Olympus Corporation | 画像処理方法及びカプセル型内視鏡装置 |
JP2008022300A (ja) * | 2006-07-13 | 2008-01-31 | Sony Corp | 撮像装置、および撮像装置制御方法、並びにコンピュータ・プログラム |
JP2009130464A (ja) * | 2007-11-20 | 2009-06-11 | Canon Inc | 画像処理装置、画像処理装置の制御方法、及び、コンピュータプログラム |
JP2009200560A (ja) * | 2008-02-19 | 2009-09-03 | Casio Comput Co Ltd | 撮像装置、撮像方法及びプログラム |
WO2012002017A1 (ja) * | 2010-06-30 | 2012-01-05 | 富士フイルム株式会社 | 撮影装置、プログラム、及び撮影方法 |
JP2012015674A (ja) * | 2010-06-30 | 2012-01-19 | Fujifilm Corp | 撮像装置ならびにその動作制御方法およびそのプログラム |
JP2013065005A (ja) * | 2011-09-02 | 2013-04-11 | Nikon Corp | 合焦評価装置、撮像装置およびプログラム |
JP2017060133A (ja) * | 2015-09-18 | 2017-03-23 | カシオ計算機株式会社 | 電子機器、撮像制御方法、画像処理方法及びプログラム |
JP2017069776A (ja) * | 2015-09-30 | 2017-04-06 | カシオ計算機株式会社 | 撮像装置、判定方法及びプログラム |
-
2018
- 2018-11-27 JP JP2018221539A patent/JP2020088646A/ja active Pending
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2006046637A1 (ja) * | 2004-10-29 | 2006-05-04 | Olympus Corporation | 画像処理方法及びカプセル型内視鏡装置 |
JP2008022300A (ja) * | 2006-07-13 | 2008-01-31 | Sony Corp | 撮像装置、および撮像装置制御方法、並びにコンピュータ・プログラム |
JP2009130464A (ja) * | 2007-11-20 | 2009-06-11 | Canon Inc | 画像処理装置、画像処理装置の制御方法、及び、コンピュータプログラム |
JP2009200560A (ja) * | 2008-02-19 | 2009-09-03 | Casio Comput Co Ltd | 撮像装置、撮像方法及びプログラム |
WO2012002017A1 (ja) * | 2010-06-30 | 2012-01-05 | 富士フイルム株式会社 | 撮影装置、プログラム、及び撮影方法 |
JP2012015674A (ja) * | 2010-06-30 | 2012-01-19 | Fujifilm Corp | 撮像装置ならびにその動作制御方法およびそのプログラム |
JP2013065005A (ja) * | 2011-09-02 | 2013-04-11 | Nikon Corp | 合焦評価装置、撮像装置およびプログラム |
JP2017060133A (ja) * | 2015-09-18 | 2017-03-23 | カシオ計算機株式会社 | 電子機器、撮像制御方法、画像処理方法及びプログラム |
JP2017069776A (ja) * | 2015-09-30 | 2017-04-06 | カシオ計算機株式会社 | 撮像装置、判定方法及びプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Wadhwa et al. | Synthetic depth-of-field with a single-camera mobile phone | |
US10997696B2 (en) | Image processing method, apparatus and device | |
JP6347675B2 (ja) | 画像処理装置、撮像装置、画像処理方法、撮像方法及びプログラム | |
WO2018228467A1 (zh) | 图像曝光方法、装置、摄像设备及存储介质 | |
CN107948517B (zh) | 预览画面虚化处理方法、装置及设备 | |
WO2018201809A1 (zh) | 基于双摄像头的图像处理装置及方法 | |
US10303973B2 (en) | Image processing apparatus, image processing method, and storage medium for lighting processing on image using model data | |
CN108076278B (zh) | 一种自动对焦方法、装置及电子设备 | |
EP3190781A1 (en) | Autofocus method, device and electronic apparatus | |
JP2015035658A (ja) | 画像処理装置、画像処理方法、および撮像装置 | |
KR20110124965A (ko) | 아웃 포커싱 촬영에서 빛망울 효과를 생성하기 위한 장치 및 방법 | |
US20150178595A1 (en) | Image processing apparatus, imaging apparatus, image processing method and program | |
JP2020197989A5 (ja) | 画像処理システム、画像処理方法、およびプログラム | |
US20190355101A1 (en) | Image refocusing | |
CN102959942A (zh) | 立体观看用图像拍摄装置及其控制方法 | |
TW201516551A (zh) | 調整對焦方法 | |
JP2012195797A (ja) | パンフォーカス画像生成装置 | |
JP2017060010A (ja) | 撮像装置、撮像装置の制御方法、およびプログラム | |
JP2018182700A (ja) | 画像処理装置およびその制御方法、プログラム、並びに記憶媒体 | |
CN117058183A (zh) | 一种基于双摄像头的图像处理方法、装置、电子设备及存储介质 | |
JP2020088646A (ja) | 三次元形状モデル生成支援装置、三次元形状モデル生成支援方法、及びプログラム | |
WO2018161322A1 (zh) | 基于深度的图像处理方法、处理装置和电子装置 | |
JP2009009206A (ja) | 画像中の輪郭抽出方法及びその画像処理装置 | |
JP7373297B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2014116789A (ja) | 撮影装置、その制御方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20211020 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220713 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220809 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20221004 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230124 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20230718 |