JP6941350B2 - 三次元形状推定システム、三次元形状推定装置、三次元形状推定方法及びプログラム - Google Patents
三次元形状推定システム、三次元形状推定装置、三次元形状推定方法及びプログラム Download PDFInfo
- Publication number
- JP6941350B2 JP6941350B2 JP2017119127A JP2017119127A JP6941350B2 JP 6941350 B2 JP6941350 B2 JP 6941350B2 JP 2017119127 A JP2017119127 A JP 2017119127A JP 2017119127 A JP2017119127 A JP 2017119127A JP 6941350 B2 JP6941350 B2 JP 6941350B2
- Authority
- JP
- Japan
- Prior art keywords
- light
- dimensional shape
- shape estimation
- image
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Length Measuring Devices By Optical Means (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Description
例えば、非特許文献1に記載のSFS(Shape From Silhouette)法では、ターンテーブル上に対象物を載せ、ステッピングモータで一定角度毎に回転させならが、光源からの光が対象物で反射した反射光を用いて光学顕微鏡で対象物を撮影し、得られた撮影画像の各々からシルエット画像を生成し、得られたシルエット画像に基づいて対象物の三次元形状を復元する。
ここで、従来のSFS法では、反射光を用いて対象物の撮影を行う。従って、撮影部を光源からの光が対象物によって遮られる位置に設けることは、従来のSFS法の常識では考えられないものである。
前記光源は、前記対象物によって遮られる波長の光を照射するようにしてもよい。
図1は、本発明の実施形態に係る三次元形状推定システムの機能構成を示す概略ブロック図である。図1に示すように、三次元形状推定システム1は、光源110と、回転部120と、撮影部130と、三次元形状推定装置200とを備える。三次元形状推定装置200は、通信部210と、表示部220と、操作入力部230と、記憶部280と、制御部290とを備える。制御部290は、回転制御部291と、撮影制御部292と、座標決定部293と、形状推定部294とを備える。
光源110は、対象物900に光を照射する。特に、光源110は、対象物900によって遮られる波長の光を照射する。光源110が照射する光は、可視光に限らず紫外光または赤外光であってもよい。例えば、対象物900が光硬化性樹脂でできている場合、光源110として紫外光の光源を用いるようにしてもよい。
但し、光源110が照射する光は、対象物900によって完全に遮られる波長の光に限らず、対象物900のシルエット画像を取得可能な光(対象物900の輪郭を検出可能な光)であればよい。
また、光源110が、平行光を照射するようにしてもよい。
撮影部130は、光源110からの光が対象物900によって遮られる位置に設けられて対象物900を撮影する。
図3の例では、ブレッドボード930上に回転台121が設けられている。回転台121の上には載置台122が設けられ、載置台122の上に対象物900が載置されている。載置台122は、光源110からの光を透過させる素材で構成されている。
回転台121及び載置台122の組み合わせは、回転部120の例に該当する。
また、撮影部130は、撮影部用支持機構920によってブレッドボード930上に支持されている。撮影部130は、線L11に示されるように、対象物900から見て光源110と反対側に設置されている。線L11は、撮影部130の光軸を示しており、この光軸は、対象物900及び光源110の方向に向けられている。
また、回転台121が、三次元形状推定装置200の制御に従って対象物900を回転させる。撮影部130は、回転台121が対象物900を回転させる毎に、三次元形状推定装置200の制御に従って撮影を行う。これにより、撮影部130は、対象物900をいろいろな方向から撮影する。例えば、回転台121が対象物900を10度(°)ずつ回転させる。撮影部130は、対象物900を10度ずつずれた36方向の各々から撮影する。
なお、立方体の撮影において、撮影部130が、対象物900の真横に対して20度上側の向きから撮影を行うなど、比較的上側から撮影を行う方が三次元形状を高精度に推定できるとの結果が得られている。これは、撮影部130が比較的上側から撮影を行うことで、得られる画像における立方体の上面の歪が小さくなるためと考えられる。
撮影部130が背景画像を撮影する場合、三次元形状推定装置200は、撮影部130が対象物900を撮影した画像と背景画像との差分の画像を算出することで、対象物900の輪郭を検出し得る。ここで、光源110が照射した光の対象物900における透過率が高い場合、撮影部130が撮影した画像において、対象物900の像の領域と背景の領域との画素値の相違(例えば画素値の比)が小さくなり、三次元形状推定装置200が対象物900の輪郭を検出する精度が低下してしまう可能性がある。ここでいう背景の領域は、画像のうち対象物900の像の領域以外の領域である。
一方、光源110が照射した光の対象物900における透過率が低い場合、撮影部130が撮影した画像において、対象物900の像の領域と背景の領域との画素値の相違(例えば画素値の比)が比較的大きくなる。この場合、三次元形状推定装置200は、撮影部130が対象物900を撮影した画像と背景画像との差分の画像を生成せずとも、撮影部130が撮影した画像にて対象物900の輪郭を検出することができる。この場合、撮影部130は背景画像の撮影を行う必要がなく、また、三次元形状推定装置200は撮影部130が対象物900を撮影した画像と背景画像との差分の画像を生成する必要がない。この点で、三次元形状推定システム1が行う処理の時間を短くすることができ、かつ、三次元形状推定システム1における処理負荷が低くて済む。このように背景画像の撮影を行なわないで三次元形状推定ができることは、従来の反射型のSFS法ではできなかったことである。
ここで、撮影部130が一般的なレンズ(テレセントリックレンズでないレンズ)を用いて撮影を行う場合、得られる画像の周辺部分で画像の歪が大きくなることが考えられる。この場合、撮影部130が撮影する画像の中心付近に対象物900の像の全体が写るように配置及び画角を調整することで、対象物900の像の歪を小さくすることができるが、対象物900の像の画素数が少なくなってしまう。すなわち、対象物900の像の解像度が低下してしまう。
通信部210は、他の装置と通信を行う。特に、通信部210は、回転制御部291の制御に従って回転部120へ制御信号を送信する。また、通信部210は、撮影制御部292の制御に従って撮影部130へ制御信号を送信し、撮影部130が撮影した画像の画像データを受信する。
操作入力部230は、例えばキーボード及びマウス等の入力デバイスを備え、ユーザ操作を受ける。
制御部290は、三次元形状推定装置200の各部を制御して各種処理を行う。制御部290は、三次元形状推定装置200が備えるCPU(Central Processing Unit、中央処理装置)が、記憶部280からプログラムを読み出して実行することで構成される。
撮影制御部292は、撮影部130による撮影を制御する。具体的には、撮影制御部292は、回転制御部291と同期して、回転制御部291が回転部120を回転させる毎に撮影制御部292に撮影を行わせる。例えば、回転制御部291が回転部120を10度ずつ回転させる場合、撮影制御部292は、撮影部130に、回転制御部291を10度ずつずれた36方向から撮影させる。
座標決定部293が三次元座標系を決定するために、三次元形状推定システム1はキャリブレーションを行う。ここでいうキャリブレーションは、座標決定部293が三次元座標系を決定するために、対象物900の撮影とは別に行われる処理である。キャリブレーションは、例えば対象物900の撮影の前に行われる。キャリブレーションでは、例えば1辺の長さが1ミリメートル(mm)の立方体など、三次元形状が既知の物を載置台122の上に載置し、対象物900を撮影する場合と同じ方向から撮影部130にて撮影を行う。以下では、キャリブレーションに用いられる物を基準物と称する。
座標決定部293は、撮影部130が撮影した画像から、基準物における所定の点を検出する。例えば、基準物が立方体である場合、座標決定部293は、撮影部130が撮影した画像から基準物の頂点を検出する。座標決定部293は、基準物における所定の点の座標を既知であり、この座標に基づいて、撮影部130が撮影した画像と座標系との対応付けを行う。
ビジュアルコーンC11は、光源110の位置を頂点とし、面F11を底面とする多角錐である。図4に示すように、対象物900は、ビジュアルコーンC11の内部に位置する。かつ、対象物900の幾つかの辺など対象物900の一部は、ビジュアルコーンC11の側面に接している。
形状推定部294は、撮影部130が対象物900を撮影した画像の各々についてビジュアルコーン(の座標)を算出する。
なお、光源110が平行光を照射する場合、形状推定部294は、ビジュアルコーンに代えて多角柱を算出する。
ビジュアルハルH11は、ビジュアルコーンC11とビジュアルコーンC12とが重なり合っている領域である。ビジュアルハルH11は、多面体の領域を形成する。対象物900は、ビジュアルコーンC11の内部に位置し、かつ、ビジュアルコーンC12の内部に位置するので、ビジュアルハルH11の内部に位置する。
形状推定部294は、得られた全てのビジュアルコーンが重なり合っている領域(の座標)をビジュアルハルとして算出する。対象物900をいろいろな角度から撮影して得られたビジュアルコーンを重ね合わせることで、ビジュアルコーンのうち対象物900以外の部分が取り除かれ、得られるビジュアルハルが対象物900の形状を近似する形状を有する。
なお、光源110が平行光を照射する場合、形状推定部294は、ビジュアルコーンが重なり合っている領域に代えて、多角柱が重なり合っている領域をビジュアルハルとして算出する。
図6は、三次元形状推定システム1が行う処理の手順の例を示すフローチャートである。図6の処理で、三次元形状推定システム1は、対象物900の三次元形状を推定する前処理としてキャリブレーションを行って三次元座標系を決定する(ステップS111)。
その後、三次元形状推定システム1は、対象物900の三次元形状を推定する処理を行う(ステップS112)。
ステップS112の後、図6の処理を終了する。
図7の処理で、回転部120が基準物である立方体を回転させ、撮影部130が立方体をいろいろな角度から撮影して画像を取得する(ステップS121)。
そして、座標決定部293は、ステップS122で検出した頂点について三次元座標系で予め定められている座標に基づいて、各画像における画素と三次元座標との対応関係を求める(ステップS123)。これにより、座標決定部293は、ステップS121で得られた各画像について三次元座標系を決定する。
ステップS123の後、図7の処理を終了する。
図8の処理では、対象物900が載置台122に載置されており、回転部120が対象物900を回転させ、撮影部130が対象物900をいろいろな角度から撮影して画像を取得する(ステップS131)。ステップS131で、回転部120は、図7のステップS121の場合と同じ回転角度で対象物900を回転させ、撮影部130は、ステップS121の場合と同じ方向から撮影する。
次に、形状推定部294は、ステップS131で得られた各画像から対象物900のシルエット画像を取得する(ステップS132)。
次に、形状推定部294は、ステップS133で得られた各画像から対象物900のシルエット画像を取得する(ステップS134)。
なお、対象物900の裏側の三次元形状が不要の場合は、ステップS133及びS134の処理を行う必要はない。
ステップS135の後、図8の処理を終了する。
このように、撮影部130が、対象物900から見て光源110と反対側に位置して対象物900を撮影することで、得られる画像の背景は、光源110からの光が入射した領域、すなわち、光源110の一部を撮影した領域となる。反射光を用いて対象物を撮影した場合に背景として回転台または載置台の上面が撮影されることと比較して、三次元形状推定システム1によれば、対象物の三次元形状を推定する際に、背景の色の影響を受けにくい。また、反射光を用いて対象物を撮影した場合に、回転台または載置台の上面にできた対象物の影が背景画像に写り込むことがあるのに対し、三次元形状推定システム1では、背景に対象物900の影はできない。三次元形状推定システム1によれば、この点で、三次元形状推定システム1によれば、対象物の三次元形状を推定する際に、背景における対象物の影の影響を受けにくい。
これにより、撮影部130が撮影する画像において、対象物900の像(シルエット画像)と、背景領域とを明確に区別し得る。これにより、形状推定部294は、撮影部130が撮影した画像にて対象物900の輪郭を高精度に検出することができ、この点で、対象物900の三次元形状を高精度に推定し得る。
この場合、撮影部130が背景画像を撮影する必要がない点、及び、形状推定部294が、撮影部130が対象物900を撮影した画像と背景画像との差分の画像を算出する必要がない点で、処理時間が短くて済み、かつ、三次元形状推定装置200の処理負荷が軽くて済む。
これにより、撮影部130は、画像の周辺部分まで対象物900の像がかかるように対象物900を撮影することができる。この点で、撮影部130が撮影した画像における対象物900の解像度が高くなり、形状推定部294は、対象物900の三次元形状を高精度に推定することができる。
この場合、形状推定部294は、ビジュアルコーンが重なり合っている領域に代えて、多角柱が重なり合っている領域をビジュアルハルとして算出する。これにより、形状推定部294がビジュアルハルを算出する処理負荷が比較的軽くなる可能性がある。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
ここで、対象物が透明な場合を例に、本願発明について行った実験について説明する。
図9は、従来と同様に可視光の反射光で対象物を撮影した画像から背景画像を除去したシルエット画像を示す図である。実験では、対象物として光造形法を用いて作製した四角い台座の上に直径がそれぞれ344μm、240μm、145μm、99μmのピラー(円柱状体)を形成したものを用いた。従来と同様に可視光の反射光で対象物を撮影した場合、背景差分を除去してもシルエット画像における形状が図9のように不明確となる。
一方、図10は、本発明において紫外光(図2で説明した波長365nmのもの)で対象物を透過光で撮影した画像を示す図である。ここでいう透過光は、対象物から見て撮影部と反対側に位置する光源からの光である。本発明によれば、図10のように、背景差分処理を行う必要なしにコントラストの高いシルエット画像を得られる。
なお、紫外光での反射も考えられるが、反射率が小さいので、やはりコントラストは高くならない。
110 光源
120 回転部
130 撮影部
200 三次元形状推定装置
210 通信部
220 表示部
230 操作入力部
280 記憶部
290 制御部
291 回転制御部
292 撮影制御部
293 座標決定部
294 形状推定部
Claims (9)
- 対象物に光を照射する光源と、
前記対象物を回転させる回転部と、
前記光源からの光が前記対象物によって遮られる位置に設けられて、前記対象物の回転における複数の回転角度のそれぞれで、前記対象物の回転軸に対して斜めの向きから前記対象物を撮影する撮影部と、
前記撮影部が撮影した画像に基づいて前記対象物の三次元形状を推定する形状推定部と、
を備える三次元形状推定システム。 - 前記撮影部は、前記対象物の回転角に対して直角から20度傾いた向きから前記対象物を撮影する、
請求項1に記載の三次元形状推定システム。 - 前記光源は、前記対象物によって遮られる波長の光を照射する、
請求項1又は請求項2に記載の三次元形状推定システム。 - 前記撮影部は、前記対象物が置かれていない状態の画像である背景画像を撮影しない、 請求項1から3の何れか一項に記載の三次元形状推定システム。
- 前記撮影部は、テレセントリックレンズを用いて前記対象物を撮影する、
請求項1から4の何れか一項に記載の三次元形状推定システム。 - 前記光源は、平行光を照射する、
請求項1から5のいずれか一項に記載の三次元形状推定システム。 - 対象物に光を照射する光源からの光が前記対象物によって遮られる位置に設けられて、前記対象物の回転における複数の回転角度のそれぞれで、前記対象物の回転軸に対して斜めの向きから前記対象物を撮影する撮影部が撮影した画像に基づいて、前記対象物の三次元形状を推定する三次元形状推定装置。
- 光源から対象物に光を照射し、
前記対象物を回転させ、
前記光源からの光が前記対象物によって遮られる位置に設けられた撮影部が、前記対象物の回転における複数の回転角度のそれぞれで、前記対象物の回転軸に対して斜めの向きから前記対象物を撮影し、
前記撮影部が撮影した画像に基づいて前記対象物の三次元形状を推定する、
ことを含む三次元形状推定方法。 - コンピュータに、
対象物に光を照射する光源からの光が前記対象物によって遮られる位置に設けられて、前記対象物の回転における複数の回転角度のそれぞれで、前記対象物の回転軸に対して斜めの向きから前記対象物を撮影する撮影部が撮影した画像に基づいて、前記対象物の三次元形状を推定させる
ためのプログラム。
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2017092645 | 2017-05-08 | ||
| JP2017092645 | 2017-05-08 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2018189623A JP2018189623A (ja) | 2018-11-29 |
| JP6941350B2 true JP6941350B2 (ja) | 2021-09-29 |
Family
ID=64479821
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2017119127A Active JP6941350B2 (ja) | 2017-05-08 | 2017-06-16 | 三次元形状推定システム、三次元形状推定装置、三次元形状推定方法及びプログラム |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP6941350B2 (ja) |
Family Cites Families (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US6455835B1 (en) * | 2001-04-04 | 2002-09-24 | International Business Machines Corporation | System, method, and program product for acquiring accurate object silhouettes for shape recovery |
| JP4094303B2 (ja) * | 2002-02-08 | 2008-06-04 | オリンパス株式会社 | 立体情報取得装置及び立体情報取得方法 |
| JP4575296B2 (ja) * | 2003-10-15 | 2010-11-04 | 株式会社コーセー | 透過光による対象物体内部の評価方法 |
| US7253889B2 (en) * | 2005-12-21 | 2007-08-07 | Seagate Technology Llc | Shaft cone metrology system and method |
| JP6136877B2 (ja) * | 2013-11-19 | 2017-05-31 | 株式会社デンソー | プラグギャップ測定装置、プラグギャップ測定方法、および点火プラグの製造方法 |
-
2017
- 2017-06-16 JP JP2017119127A patent/JP6941350B2/ja active Active
Also Published As
| Publication number | Publication date |
|---|---|
| JP2018189623A (ja) | 2018-11-29 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| KR101858491B1 (ko) | 시야 방향을 결정하기 위한 3-d 이미지 분석기 | |
| JP2019530261A (ja) | 改良されたカメラ較正システム、標的、およびプロセス | |
| JP5465128B2 (ja) | 点群位置データ処理装置、点群位置データ処理システム、点群位置データ処理方法、および点群位置データ処理プログラム | |
| EP3664039B1 (en) | Method for acquiring three-dimensional object by using artificial lighting photograph and device thereof | |
| Nayar et al. | Diffuse structured light | |
| US20090080036A1 (en) | Scanner system and method for scanning | |
| JP2018514237A (ja) | 歯科用3dスキャナ用のテクスチャマッピングの装置及び方法 | |
| JP2016529959A5 (ja) | ||
| JP2017038366A (ja) | ディスプレイ装置のパラメータ推定方法及びその方法を用いた装置 | |
| JP2012088114A (ja) | 光学情報処理装置、光学情報処理方法、光学情報処理システム、光学情報処理プログラム | |
| JP4419570B2 (ja) | 3次元画像撮影装置および方法 | |
| EP3921597B1 (en) | Generation of texture models using a moveable scanner | |
| JP6237032B2 (ja) | 色と三次元形状の計測方法及び装置 | |
| JP5043023B2 (ja) | 画像処理方法および装置 | |
| JP2016100698A (ja) | 校正装置、校正方法、プログラム | |
| JP6541920B1 (ja) | 情報処理装置、プログラム及び情報処理方法 | |
| JP2018081048A (ja) | 三次元形状計測装置 | |
| CA2891159A1 (fr) | Procede de traitement d'informations locales | |
| JP2020008502A (ja) | 偏光ステレオカメラによる深度取得装置及びその方法 | |
| Wilm et al. | Accurate and simple calibration of DLP projector systems | |
| CN110462688B (zh) | 使用基于模型的峰值选择的三维轮廓确定系统及方法 | |
| CN108463793A (zh) | 图像识别装置、图像识别方法以及图像识别单元 | |
| CN204944450U (zh) | 深度数据测量系统 | |
| CN119032380A (zh) | 三维对象扫描设备和方法 | |
| JP6941350B2 (ja) | 三次元形状推定システム、三次元形状推定装置、三次元形状推定方法及びプログラム |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200306 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210107 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210126 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210326 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210824 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210830 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 6941350 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |