JP2019139030A - 3次元計測対象物体の表面に計測結果関連情報を投影する方法および装置 - Google Patents
3次元計測対象物体の表面に計測結果関連情報を投影する方法および装置 Download PDFInfo
- Publication number
- JP2019139030A JP2019139030A JP2018021435A JP2018021435A JP2019139030A JP 2019139030 A JP2019139030 A JP 2019139030A JP 2018021435 A JP2018021435 A JP 2018021435A JP 2018021435 A JP2018021435 A JP 2018021435A JP 2019139030 A JP2019139030 A JP 2019139030A
- Authority
- JP
- Japan
- Prior art keywords
- projector
- projection
- measurement
- coordinate
- camera
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000005259 measurement Methods 0.000 title claims abstract description 138
- 238000000034 method Methods 0.000 title claims abstract description 60
- 238000013507 mapping Methods 0.000 claims abstract description 54
- 238000012545 processing Methods 0.000 claims description 4
- 238000009826 distribution Methods 0.000 description 20
- 239000004973 liquid crystal related substance Substances 0.000 description 15
- 238000006243 chemical reaction Methods 0.000 description 12
- 238000011156 evaluation Methods 0.000 description 11
- 238000003384 imaging method Methods 0.000 description 9
- 230000010363 phase shift Effects 0.000 description 7
- 238000010586 diagram Methods 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 6
- 238000004458 analytical method Methods 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 4
- 230000002950 deficient Effects 0.000 description 3
- 238000005286 illumination Methods 0.000 description 3
- 238000007689 inspection Methods 0.000 description 3
- 239000002184 metal Substances 0.000 description 2
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000009792 diffusion process Methods 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000000691 measurement method Methods 0.000 description 1
- 239000011295 pitch Substances 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Landscapes
- Transforming Electric Information Into Light Information (AREA)
- Controls And Circuits For Display Device (AREA)
- Image Analysis (AREA)
- Length Measuring Devices By Optical Means (AREA)
Abstract
Description
また、非特許文献1に開示される技術は、対象物体の形状データをあらかじめ登録しておく必要があるため、任意形状の物体には適用できない。
計測用プロジェクターと物体の表面の位置に対応した輝度値やカラー情報を物体上に投影する投影用プロジェクターと前記計測用プロジェクターから投影された格子パターンを撮影するカメラと、を備えたプロジェクションマッピング装置において、
前記計測用プロジェクターを用いて前記物体の3次元形状を計測する第1ステップと、
前記第1ステップより前記物体の3次元形状を計測して得られた座標情報を元にして、カメラの画素と前記物体の座標情報に対応してプロジェクターの対応座標が格納されているテーブルを参照する第2ステップと、
前記第2ステップにより、前記カメラの画素に対応する前記投影用プロジェクターの画素の座標を求める第3ステップと、
前記第3ステップにより求められた、前記投影用プロジェクターの画素から、前記物体の表面の位置に対応した輝度値やカラー情報を前記物体の表面に投影する第4ステップと、を含むプロジェクションマッピング方法である。
本発明の他の態様は、
計測用プロジェクターと物体の表面の位置に対応した輝度値やカラー情報を物体上に投影する投影用プロジェクターと前記計測用プロジェクターから投影された格子パターンを撮影するカメラと、を備えたプロジェクションマッピング装置において、
前記計測用プロジェクターを用いて前記物体の3次元形状を計測する3次元形状計測手段と、
前記3次元形状測定手段により前記物体の3次元形状を計測して得られた座標情報を元にして、前記カメラの画素と前記物体の座標情報に対応してプロジェクターの対応座標が格納されているテーブルを参照する参照手段と、
前記参照手段により、前記カメラの画素に対応する前記投影用プロジェクターの画素の座標を求める画素情報取得手段と、
前記画素情報取得手段により求められた、前記投影用プロジェクターの画素から、前記物体の表面の位置に対応した輝度値やカラー情報を前記物体の表面に投影する投影手段を備えたことを特徴とする。前記計測用プロジェクターは赤外光などの非可視光を用いてもよい。
前記プロジェクションマッピング装置において、前記カメラの任意の画素の近傍の画素に対応する投影画像データを用いて補間を行なう手段および前記カメラで撮影された画像に対して、前記投影画像データを増やす処理を行う手段のうちの少なくとも一方を更に備えてもよい。
本発明の他の態様は、
物体の表面の位置に対応した輝度値やカラー情報を物体上に投影するプロジェクション装置において、
前記物体の3次元形状を計測して得られた座標情報を元にして、カメラの画素と前記物体の座標情報に対応してプロジェクターの対応座標が格納されているテーブルを参照することによって、前記カメラの画素に対応する前記プロジェクターの対応画素の座標を求める方法および装置である。そして、その方法を実現する方法および装置である。
1.計測原理
ここでは、3次元計測、および3次元計測マッピングに用いられている計測原理を説明する。3次元計測マッピングでは全空間テーブル化方法を用いて、計測時に用いるプロジェクターと、計測結果や評価結果などの計測結果関連情報を物体上にマッピングするためのプロジェクターの光軸が異なっていても、位相と3次元座標のテーブルを参照することで、複雑な計算をしなくても対応関係を求めることができる。
1.1.1 基準面の撮影
投影する余弦波状の格子パターンに対して、直交する方向をx軸とする。このとき、図1A,図1Bに基準面上の点と投影格子の位相の関係を示す。図1Aは計測用のプロジェクターを用いた投影の場合、図1Bはマッピング用のプロジェクターを用いた投影の場合をそれぞれ表す。
次に、z座標と位相との変換テーブルを作成する。変換テーブル作成の概要を図3に示す。実際に計測された2点間のz座標における位相を線形的に補間し、補間された場所で間隔Δθを一定に保つようにテーブル要素を作成する。要素には位相値の小さいほうから0, 1, 2, …, i…, Nと番号をつけ、それぞれの位相値はθi(i = 0, 1, 2, …, N)とおく。ここで、N+1は作成するテーブルの要素の総数である。NとΔθとの間には、数1式の関係がある。
形状計測の際は、作成した位相と高さの関係テーブルを参照し、これより高さ分布を得る。作成したある1画素における、位相と高さの関係テーブルを図5に示す。ここで、基準面の位相を求めた時と同様にして、計測対象の位相θを求める。数5式に示すようにθをΔθで割った商nはθが参照すべきテーブル要素の番号と一致するため、その画素におけるz座標znが求まる。これを全画素に対して行えば、計測対象の高さ分布が算出できる。
平板に2次元格子パターンを描く手法も有効であるが、基準面上に濃淡のパターンが描かれることによって、格子投影をする場合に、基準面内の位置によって投影格子の位相の精度にばらつきが生じる場合がある。
3次元計測で得られた画像をマッピング用のプロジェクターで投影すると光軸が異なるため、マッピングがずれる。プロジェクションマッピングをするためには、計測したそれぞれの3次元座標(x座標とy座標,z座標)をプロジェクターから投影するための座標に変換する必要がある。上述の校正手法により、マッピング用の座標のip画素,jp画素と,z座標z0, z1, z2…zNの関係が画素ごとに得られる。
以上の説明では、基準面に液晶ディスプレイを用いた場合について示したが、x,y座標を読み取ることができる他の手段を用いたキャリブレーション手法についても適用が可能である。例えば、基準面とする平板に、2次元の格子パターンやドットパターン、チェッカーパターンなどを描いたものについても適用が可能である。
さらに、基準面からはx,y座標の情報は得られないような場合においても、本方法では、カメラの座標(ic,jc)とz座標に対して、マッピング用のプロジェクターの投影格子画像のip座標およびjp座標の関係をテーブル化する。そのため、x,y座標を求めない3次元計測装置(高さ分布計測装置)の場合においても適用可能である。また、x,y座標を簡易的にカメラの座標(ic,jc)から算出する3次元計測装置においても適用可能である。
図17は、計測装置の構成を示す図である。図18はプロジェクターとカメラとLEDデバイスの配置を示す図である。
また、本発明はテーブルを参照することで対応画素の座標を求めているため、非常に短時間に投影する画像を生成することができる。
さらに、本発明は、計測用の投影に近赤外光を用いることで、作業者には3次元計測をするための投影光を見ること無く、計測対象物に投影された計測結果や評価結果だけを視認することができる。これにより作業員や視覚センサを備えたロボットによる作業性が高まる。
さらに、本発明は、リアルタイムに3次元計測結果やそれに応じた評価結果の分布を対応する実物上に投影することができる。
PC パーソナルコンピュータ
Claims (8)
- 計測用プロジェクターと物体の表面の位置に対応した輝度値やカラー情報を物体上に投影する投影用プロジェクターと前記計測用プロジェクターから投影された格子パターンを撮影するカメラと、を備えたプロジェクションマッピング装置において、
前記計測用プロジェクターを用いて前記物体の3次元形状を計測する第1ステップと、
前記第1ステップより前記物体の3次元形状を計測して得られた座標情報を元にして、カメラの画素と前記物体の座標情報に対応してプロジェクターの対応座標が格納されているテーブルを参照する第2ステップと、
前記第2ステップにより、前記カメラの画素に対応する前記投影用プロジェクターの画素の座標を求める第3ステップと、
前記第3ステップにより求められた、前記投影用プロジェクターの画素から、前記物体の表面の位置に対応した輝度値やカラー情報を前記物体の表面に投影する第4ステップと、を含むプロジェクションマッピング方法。 - 計測用プロジェクターと物体の表面の位置に対応した輝度値やカラー情報を物体上に投影する投影用プロジェクターと前記計測用プロジェクターから投影された格子パターンを撮影するカメラと、を備えたプロジェクションマッピング装置において、
前記計測用プロジェクターを用いて前記物体の3次元形状を計測する3次元形状計測手段と、
前記3次元形状測定手段により前記物体の3次元形状を計測して得られた座標情報を元にして、前記カメラの画素と前記物体の座標情報に対応してプロジェクターの対応座標が格納されているテーブルを参照する参照手段と、
前記参照手段により、前記カメラの画素に対応する前記投影用プロジェクターの画素の座標を求める画素情報取得手段と、
前記画素情報取得手段により求められた、前記投影用プロジェクターの画素から、前記物体の表面の位置に対応した輝度値やカラー情報を前記物体の表面に投影する投影手段を備えた、プロジェクションマッピング装置。 - 前記計測用プロジェクターは非可視光を用いる、請求項2に記載のプロジェクションマッピング装置。
- 前記カメラの任意の画素の近傍の画素に対応する投影画像データを用いて補間を行なう手段および前記カメラで撮影された画像に対して、前記投影画像データを増やす処理を行う手段のうちの少なくとも一方を更に備えた、請求項2または3に記載のプロジェクションマッピング装置。
- 物体の表面の位置に対応した輝度値やカラー情報を物体上に投影するプロジェクション装置において、
前記物体の3次元形状を計測して得られた座標情報を元にして、カメラの画素と前記物体の座標情報に対応してプロジェクターの対応座標が格納されているテーブルを参照することによって、前記カメラの画素に対応する前記プロジェクターの対応画素の座標を求める方法。 - 前記請求項5を実現するためのキャリブレーション方法。
- 前記請求項5を実現するための装置。
- 前記請求項5を実電するためのキャリブレーション装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018021435A JP7088530B2 (ja) | 2018-02-08 | 2018-02-08 | 3次元計測対象物体の表面に計測結果関連情報を投影する方法および装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018021435A JP7088530B2 (ja) | 2018-02-08 | 2018-02-08 | 3次元計測対象物体の表面に計測結果関連情報を投影する方法および装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019139030A true JP2019139030A (ja) | 2019-08-22 |
JP7088530B2 JP7088530B2 (ja) | 2022-06-21 |
Family
ID=67693844
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018021435A Active JP7088530B2 (ja) | 2018-02-08 | 2018-02-08 | 3次元計測対象物体の表面に計測結果関連情報を投影する方法および装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7088530B2 (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112229323A (zh) * | 2020-09-29 | 2021-01-15 | 华南农业大学 | 基于手机单目视觉的棋盘格合作目标的六自由度测量方法及其应用 |
US11379946B2 (en) | 2020-05-08 | 2022-07-05 | Seiko Epson Corporation | Image projection system controlling method and image projection system |
CN115842905A (zh) * | 2021-09-21 | 2023-03-24 | 精工爱普生株式会社 | 投射方法以及投射系统 |
US11698575B2 (en) | 2020-11-02 | 2023-07-11 | Seiko Epson Corporation | Projective transformation matrix determination method, projector, and determination system |
US11877104B2 (en) | 2021-08-06 | 2024-01-16 | Seiko Epson Corporation | Display method |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006189712A (ja) * | 2005-01-07 | 2006-07-20 | Nippon Telegr & Teleph Corp <Ntt> | 情報提示装置、情報提示方法及びプログラム |
JP2010283674A (ja) * | 2009-06-05 | 2010-12-16 | Panasonic Electric Works Co Ltd | 投影システム及び投影方法 |
JP2017015872A (ja) * | 2015-06-30 | 2017-01-19 | パナソニックIpマネジメント株式会社 | リアルタイム計測投影装置及び三次元投影計測装置 |
JP2017215374A (ja) * | 2016-05-30 | 2017-12-07 | パナソニックIpマネジメント株式会社 | 画像投影システムおよび画像投影方法 |
-
2018
- 2018-02-08 JP JP2018021435A patent/JP7088530B2/ja active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006189712A (ja) * | 2005-01-07 | 2006-07-20 | Nippon Telegr & Teleph Corp <Ntt> | 情報提示装置、情報提示方法及びプログラム |
JP2010283674A (ja) * | 2009-06-05 | 2010-12-16 | Panasonic Electric Works Co Ltd | 投影システム及び投影方法 |
JP2017015872A (ja) * | 2015-06-30 | 2017-01-19 | パナソニックIpマネジメント株式会社 | リアルタイム計測投影装置及び三次元投影計測装置 |
JP2017215374A (ja) * | 2016-05-30 | 2017-12-07 | パナソニックIpマネジメント株式会社 | 画像投影システムおよび画像投影方法 |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11379946B2 (en) | 2020-05-08 | 2022-07-05 | Seiko Epson Corporation | Image projection system controlling method and image projection system |
CN112229323A (zh) * | 2020-09-29 | 2021-01-15 | 华南农业大学 | 基于手机单目视觉的棋盘格合作目标的六自由度测量方法及其应用 |
US11698575B2 (en) | 2020-11-02 | 2023-07-11 | Seiko Epson Corporation | Projective transformation matrix determination method, projector, and determination system |
US11877104B2 (en) | 2021-08-06 | 2024-01-16 | Seiko Epson Corporation | Display method |
CN115842905A (zh) * | 2021-09-21 | 2023-03-24 | 精工爱普生株式会社 | 投射方法以及投射系统 |
CN115842905B (zh) * | 2021-09-21 | 2024-05-28 | 精工爱普生株式会社 | 投射方法以及投射系统 |
Also Published As
Publication number | Publication date |
---|---|
JP7088530B2 (ja) | 2022-06-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7088530B2 (ja) | 3次元計測対象物体の表面に計測結果関連情報を投影する方法および装置 | |
JP4873485B2 (ja) | 多数の基準面を用いた形状計測方法および形状計測装置 | |
US20200186768A1 (en) | System and Method for Recalibrating a Projector System | |
JP2017110991A (ja) | 計測システム、計測方法、ロボット制御方法、ロボット、ロボットシステムおよびピッキング装置 | |
JP2012058076A (ja) | 3次元計測装置及び3次元計測方法 | |
CN105579809B (zh) | 测量方法、测量装置以及计算机可读记录介质 | |
WO2017175341A1 (ja) | 計測方法、計測装置、計測プログラム及び計測プログラムを記録した、コンピュータ読み取り可能な記録媒体 | |
Nguyen et al. | Accuracy assessment of fringe projection profilometry and digital image correlation techniques for three-dimensional shape measurements | |
JP2015021862A (ja) | 3次元計測装置及び3次元計測方法 | |
JP2007322162A (ja) | 3次元形状測定装置及び3次元形状測定方法 | |
JP5612969B2 (ja) | 外観検査装置及び外観検査方法 | |
JP5657276B2 (ja) | 形状計測装置及び形状計測方法 | |
CN109855559B (zh) | 一种全空间标定系统及方法 | |
JP6035031B2 (ja) | 複数の格子を用いた三次元形状計測装置 | |
JP2011155412A (ja) | 投影システムおよび投影システムにおける歪み修正方法 | |
JP5956296B2 (ja) | 形状計測装置及び形状計測方法 | |
US20210183092A1 (en) | Measuring apparatus, measuring method and microscope system | |
JP2011075336A (ja) | 3次元形状計測装置、3次元形状計測方法 | |
JP2013192240A (ja) | プロジェクター、プログラム、情報記憶媒体および台形歪み補正方法 | |
JP2012237613A (ja) | 形状計測装置及び形状計測方法 | |
JP2015206654A (ja) | 情報処理装置、情報処理方法、プログラム | |
JP2015102532A (ja) | 三次元形状測定装置 | |
JP2011002401A (ja) | 輝度測定装置における補正係数算出方法および輝度測定装置 | |
Ke et al. | A fast and accurate calibration method for the structured light system based on trapezoidal phase-shifting pattern | |
JP4429135B2 (ja) | 三次元形状計測システム及び計測方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A80 | Written request to apply exceptions to lack of novelty of invention |
Free format text: JAPANESE INTERMEDIATE CODE: A80 Effective date: 20180306 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20201203 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210831 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210914 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211111 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20211221 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220322 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20220322 |
|
C60 | Trial request (containing other claim documents, opposition documents) |
Free format text: JAPANESE INTERMEDIATE CODE: C60 Effective date: 20220322 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20220323 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20220413 |
|
C21 | Notice of transfer of a case for reconsideration by examiners before appeal proceedings |
Free format text: JAPANESE INTERMEDIATE CODE: C21 Effective date: 20220419 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220531 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220602 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7088530 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |