JP2022088887A - 調整方法、計測方法、投写システム、情報処理装置、及びプログラム - Google Patents

調整方法、計測方法、投写システム、情報処理装置、及びプログラム Download PDF

Info

Publication number
JP2022088887A
JP2022088887A JP2020201006A JP2020201006A JP2022088887A JP 2022088887 A JP2022088887 A JP 2022088887A JP 2020201006 A JP2020201006 A JP 2020201006A JP 2020201006 A JP2020201006 A JP 2020201006A JP 2022088887 A JP2022088887 A JP 2022088887A
Authority
JP
Japan
Prior art keywords
image
region
brightness
projected
projector
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020201006A
Other languages
English (en)
Other versions
JP2022088887A5 (ja
Inventor
泰介 山内
Taisuke Yamauchi
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2020201006A priority Critical patent/JP2022088887A/ja
Priority to US17/540,855 priority patent/US11898838B2/en
Priority to CN202111462972.9A priority patent/CN114615483B/zh
Publication of JP2022088887A publication Critical patent/JP2022088887A/ja
Publication of JP2022088887A5 publication Critical patent/JP2022088887A5/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/521Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/2513Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object with several lines being projected in more than one direction, e.g. grids, patterns
    • G06T5/94
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/25Image signal generators using stereoscopic image cameras using two or more image sensors with different characteristics other than in their location or field of view, e.g. having different resolutions or colour pickup characteristics; using image signals from one sensor to control the characteristics of another sensor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10152Varying illumination

Abstract

【課題】投写画像を投写されている被投写物の撮像画像における白又は黒つぶれの発生を回避する。【解決手段】特定部321、検出部322、推定部323及び調整部324を有する情報処理装置30を提供する。特定部321は、パターン画像を投写されている被投写物の撮像画像とパターン画像とに基づいてプロジェクター座標系とカメラ座標系との対応関係を特定する。検出部322は、輝度が均一な単色画像を投写されている被投写物の撮像画像における第1領域及び第2領域の輝度を検出する。推定部323は、単色画像において第1領域に対応付けられる第3領域と第2領域に対応付けられる第4領域について、撮像画像における輝度を飽和させない輝度の範囲を推定する。調整部324は、投写画像において第3領域に対応する第5領域及び第4領域に対応する第6領域の輝度を推定部323の推定結果に基づいて調整する。【選択図】図1

Description

本開示は、調整方法、計測方法、投写システム、情報処理装置、及びプログラム、に関する。
特許文献1には、輝度が正弦波状に変化する縞パターンの画像を用いる位相シフト法により、計測対象物の3次元形状を計測する技術が開示されている。
特開2009-115612号公報
位相シフト法では、縞パターンの画像が計測対象物に投写される。そして、縞パターンの画像を投写されている状態の計測対象物を撮像して得られる撮像画像に基づいて計測対象物の3次元形状が計測される。縞パターンの画像を投写されている状態の計測対象物の撮像画像では、計測対象物の反射特性又は周囲の外光等の影響により、同じ撮像画像内であっても領域によって縞パターンの輝度が異なる場合がある。縞パターンの輝度が高すぎる又は低すぎる等、適正な輝度の範囲で縞パターンが撮像されていない領域については、3次元形状の計測精度が低下する虞があった。
上記課題を解決するために、本開示の調整方法は、プロジェクターから被投写物へ投写する投写画像の調整方法において、前記プロジェクターから前記被投写物へ投写される第1画像と、前記第1画像を投写されている状態の前記被投写物を第1カメラにより撮像して得られる第1撮像画像とに基づいて、前記第1画像内の位置を示すプロジェクター座標系と前記第1撮像画像内の位置を示すカメラ座標系との対応関係を特定し、第2画像を前記プロジェクターから投写されている状態の前記被投写物を前記第1カメラにより撮像して得られる第2撮像画像における第1領域の輝度と前記第2撮像画像における第2領域の輝度とを検出し、前記第2画像のうち前記対応関係により前記第1領域に対応付けられる第3領域について、前記第1領域の輝度を上下に飽和させない第1輝度の範囲を、前記第1領域について検出された輝度と前記第3領域の輝度とに基づいて推定し、前記第2画像のうち前記対応関係により前記第2領域に対応付けられる第4領域について、前記第2領域の輝度を上下に飽和させない第2輝度の範囲を、前記第2領域について検出された輝度と前記第4領域の輝度とに基づいて推定し、前記投写画像のうち前記第3領域に対応する第5領域の輝度を前記第1輝度の範囲に収まるように調整し、且つ前記投写画像のうち前記第4領域に対応する第6領域の輝度を前記第2輝度の範囲に収まるように調整する。
また、上記課題を解決するために、本開示の計測方法は、画像内で輝度が周期的に変化する投写画像をプロジェクターから被投写物へ投写し、前記投写画像を投写されている状態の前記被投写物を第1カメラにより撮像して得られる撮像画像と、前記投写画像を投写されている状態の前記被投写物を前記第1カメラとは異なる第2カメラにより撮像して得られる撮像画像と、に基づいて前記被投写物の3次元形状を計測する計測方法において、前記プロジェクターから前記被投写物に対して投写される第1画像と、前記第1画像を投写されている状態の前記被投写物を前記第1カメラにより撮像して得られる第1撮像画像とに基づいて、前記第1画像内の位置を示すプロジェクター座標系と前記第1撮像画像内の位置を示すカメラ座標系との対応関係を特定し、第2画像を前記プロジェクターから投写されている状態の前記被投写物を前記第1カメラにより撮像して得られる第2撮像画像における第1領域の輝度と第2領域の輝度とを検出し、前記第2画像のうち前記対応関係により前記第1領域に対応付けられる第3領域について、前記第1領域の輝度を上下に飽和させない第1輝度の範囲を、前記第1領域について検出された輝度と前記第3領域の輝度とに基づいて推定し、前記第2画像のうち前記対応関係により前記第2領域に対応付けられる第4領域について、前記第2領域の輝度を上下に飽和させない第2輝度の範囲を、前記第2領域について検出された輝度と前記第4領域の輝度とに基づいて推定し、前記投写画像のうち前記第3領域に対応する第5領域の輝度を前記第1輝度の範囲に収まるように調整し、且つ前記投写画像のうち前記第4領域に対応する第6領域の輝度を前記第2輝度の範囲に収まるように調整する。
また、上記課題を解決するために、本開示の計測方法は、画像内で輝度が周期的に変化する投写画像をプロジェクターから被投写物へ投写し、前記投写画像を投写されている状態の前記被投写物を第1カメラにより撮像して得られる撮像画像と、前記投写画像と、に基づいて前記被投写物の3次元形状を計測する計測方法において、第1画像を前記プロジェクターから投写されている状態の前記被投写物を前記第1カメラにより撮像して得られる第1撮像画像と前記第1画像とに基づいて、前記第1画像内の位置を示すプロジェクター座標系と前記第1撮像画像内の位置を示すカメラ座標系との対応関係を特定し、第2画像を前記プロジェクターから投写されている状態の前記被投写物を前記第1カメラにより撮像して得られる第2撮像画像における第1領域の輝度と第2領域の輝度とを検出し、前記第2画像のうち前記対応関係により前記第1領域に対応付けられる第3領域について、前記第1領域の輝度を上下に飽和させない第1輝度の範囲を、前記第1領域について検出された輝度と前記第3領域の輝度とに基づいて推定し、前記第2画像のうち前記対応関係により前記第2領域に対応付けられる第4領域について、前記第2領域の輝度を上下に飽和させない第2輝度の範囲を、前記第2領域について検出された輝度と前記第4領域の輝度とに基づいて推定し、前記投写画像のうち前記第3領域に対応する第5領域の輝度を前記第1輝度の範囲に収まるように調整し、且つ前記投写画像のうち前記第4領域に対応する第6領域の輝度を前記第2輝度の範囲に収まるように調整する。
また、上記課題を解決するために、本開示の投写システムは、投写画像を被投写物へ投写するプロジェクターと、前記被投写物を撮像する第1カメラと、情報処理装置と、を備える。前記情報処理装置は、前記プロジェクターから第1画像を投写されている状態の前記被投写物を前記第1カメラにより撮像して得られる第1撮像画像と前記第1画像とに基づいて、前記第1画像内の位置を示すプロジェクター座標系と前記第1撮像画像内の位置を示すカメラ座標系との対応関係を特定すること、第2画像を前記プロジェクターから投写されている状態の前記被投写物を前記第1カメラにより撮像して得られる第2撮像画像における第1領域の輝度と第2領域の輝度とを検出すること、前記第2画像のうち前記対応関係により前記第1領域に対応付けられる第3領域について、前記第1領域の輝度を上下に飽和させない第1輝度の範囲を、前記第1領域について検出された輝度と前記第3領域の輝度とに基づいて推定すること、前記第2画像のうち前記対応関係により前記第2領域に対応付けられる第4領域について、前記第2領域の輝度を上下に飽和させない第2輝度の範囲を、前記第2領域について検出された輝度と前記第4領域の輝度とに基づいて推定すること、及び、前記投写画像のうち前記第3領域に対応する第5領域の輝度を前記第1輝度の範囲に収まるように調整し、且つ前記投写画像のうち前記第4領域に対応する第6領域の輝度を前記第2輝度の範囲に収まるように調整すること、を実行する。
また、上記課題を解決するために、本開示の情報処理装置は、投写画像を被投写物へ投写するプロジェクターから第1画像を投写されている状態の前記被投写物を第1カメラにより撮像して得られる第1撮像画像と前記第1画像とに基づいて、前記第1画像内の位置を示すプロジェクター座標系と前記第1撮像画像内の位置を示すカメラ座標系との対応関係を特定すること、第2画像を前記プロジェクターから投写されている状態の前記被投写物を前記第1カメラにより撮像して得られる第2撮像画像における第1領域の輝度と第2領域の輝度とを検出すること、前記第2画像のうち前記対応関係により前記第1領域に対応付けられる第3領域について、前記第1領域の輝度を上下に飽和させない第1輝度の範囲を、前記第1領域について検出された輝度と前記第3領域の輝度とに基づいて推定すること、前記第2画像のうち前記対応関係により前記第2領域に対応付けられる第4領域について、前記第2領域の輝度を上下に飽和させない第2輝度の範囲を、前記第2領域について検出された輝度と前記第4領域の輝度とに基づいて推定すること、及び、前記投写画像のうち前記第3領域に対応する第5領域の輝度を前記第1輝度の範囲に収まるように調整し、且つ前記投写画像のうち前記第4領域に対応する第6領域の輝度を前記第2輝度の範囲に収まるように調整すること、を実行する。
また、上記課題を解決するために、本開示のプログラムは、コンピューターに、投写画像を被投写物へ投写するプロジェクターから第1画像を投写されている状態の前記被投写物を第1カメラにより撮像して得られる第1撮像画像と前記第1画像とに基づいて、前記第1画像内の位置を示すプロジェクター座標系と前記第1撮像画像内の位置を示すカメラ座標系との対応関係を特定すること、第2画像を前記プロジェクターから投写されている状態の前記被投写物を前記第1カメラにより撮像して得られる第2撮像画像における第1領域の輝度と第2領域の輝度とを検出すること、前記第2画像のうち前記対応関係により前記第1領域に対応付けられる第3領域について、前記第1領域の輝度を上下に飽和させない第1輝度の範囲を、前記第1領域について検出された輝度と前記第3領域の輝度とに基づいて推定すること、前記第2画像のうち前記対応関係により前記第2領域に対応付けられる第4領域について、前記第2領域の輝度を上下に飽和させない第2輝度の範囲を、前記第2領域について検出された輝度と前記第4領域の輝度とに基づいて推定すること、及び、前記投写画像のうち前記第3領域に対応する第5領域の輝度を前記第1輝度の範囲に収まるように調整し、且つ前記投写画像のうち前記第4領域に対応する第6領域の輝度を前記第2輝度の範囲に収まるように調整すること、を実行させる。
本開示の実施形態に係る情報処理装置30を含む計測システム1の構成例を示すブロック図である。 プロジェクター10から計測対象物SCへ投写するドットパターンの画像の一例を示す図である。 ドットパターンの画像を投写されている状態の計測対象物SCを撮像装置20により撮像して得られる撮像画像の一例を示す図である。 情報処理装置30の処理装置320がプログラム311に従って実行する計測方法の流れを示すフローチャートの一例を示す図である。 本開示の効果を説明するための図である。 本開示の効果を説明するための図である。
以下、図面を参照して本開示の実施形態を説明する。以下に述べる実施形態には技術的に好ましい種々の限定が付されている。しかし、本開示の実施形態は、以下に述べる形態に限られるものではない。
1.実施形態
図1は、本開示の一実施形態に係る計測システム1の構成例を示す図である。図1に示すように計測システム1は、プロジェクター10と、撮像装置20と、情報処理装置30と、を含む。図1に示す計測システム1は、物体の3次元形状を計測するためのシステムである。計測システム1では、情報処理装置30による制御の下、3次元形状の計測対象となる計測対象物SCに対してプロジェクター10から3次元計測のためのパターン画像が投写される。計測システム1では、パターン画像を投写されている状態の計測対象物SCの画像が撮像装置20によって撮像される。計測システム1では、パターン画像と撮像装置20による撮像画像とに基づいて計測対象物SCの三次元形状を計測する演算が情報処理装置30により実行される。計測システム1は本開示における投写システムの一例である。計測対象物SCは本開示における被投写物の一例である。
プロジェクター10は、例えば、画像を投写するための液晶ライトバルブと、投写レンズと、液晶駆動部と、光源として超高圧水銀ランプと、を備える。プロジェクター10における光源はメタルハライドランプであってもよい。プロジェクター10は、例えばケーブルによって情報処理装置30と通信可能に接続される。プロジェクター10は、パターン画像を表す画像データを、ケーブルを介した通信により情報処理装置30から取得する。本実施形態において、プロジェクター10と情報処理装置30との間の通信は、例えば、イーサネットやUSB(Universal Serial Bus)等の規格に準拠した有線通信である。なお、イーサネットは登録商標である。プロジェクター10と情報処理装置30との間の通信は、Wi-Fi等の規格に準拠した無線通信であってもよい。プロジェクター10は、取得した画像データの示すパターン画像を計測対象物SCに投写する。
撮像装置20は、例えば、集光された光を電気信号に変換する撮像素子であるCCD(Charge Coupled Device)又はCMOS(Complementary Metal Oxide Semiconductor)等を備えたカメラである。以下では、説明を簡略化するため、撮像装置20は、静止画像を撮像するものとする。なお、撮像装置20は、静止画像を撮像することに代えて、動画像を撮像してもよい。撮像装置20は、計測対象物SCを撮像する。撮像装置20は、プロジェクター10と同様に、例えばケーブルによって情報処理装置30と通信可能に接続される。撮像装置20は、撮像した画像を表す画像データを情報処理装置30へ送信する。本実施形態では、撮像装置20と情報処理装置30との間の通信は、例えばイーサネットやUSB等の規格に準拠した有線通信であるが、Wi-Fi等の規格に準拠した無線通信であってもよい。撮像装置20は本開示における第1カメラの一例である。
本実施形態では、プロジェクター10と撮像装置20とは互いに異なる固定位置に配置される。プロジェクター10及び撮像装置20の各々の配置位置は、3次元計測に適するように予め調整済である。また、プロジェクター10は、投写レンズのレンズ歪みを補正済である。同様に、撮像装置20は、撮像レンズのレンズ歪みを補正済である。また、撮像装置20の露光量及びゲインは、3次元計測に適するように調整済である。本実施形態の計測システム1では、位相シフト法により計測対象物SCの3次元形状が計測される。より詳細に説明すると、計測システム1では、まず、情報処理装置30による制御の下、正弦波状に輝度が変化する縞パターンの画像がプロジェクター10から計測対象物SCへ投写される。情報処理装置30は、計測対象物SCに投写する縞パターンの位相を、所定の位相シフト量でシフトさせる。位相シフトは、縞パターンの位相が1周期分移動するまで複数回繰り返される。縞パターンの位相シフトの回数は3又は4が一般的であり、本実施形態では4回である。即ち本実施形態における位相シフト量はπ/2[rad]である。なお、πは円周率である。情報処理装置30は、縞パターンの位相をシフトさせる毎に、縞パターンの画像を投写されている状態の計測対象物SCを撮像装置20に撮像させ、その撮像画像を表す画像データを撮像装置20から取得する。このため、本実施形態では、情報処理装置30は、位相シフト量が0、π/2、π、及び3π/2といった4つの縞パターンに一対一に対応する4つの画像データを取得する。
位相シフト量が0、π/2、π、及び3π/2の縞パターンを投写されている状態の計測対象物SCを撮像することで得られた4つの画像の各々において座標(x,y)に位置する画素の輝度値I0(x,y)、I1(x,y)、I2(x,y)及びI3(x,y)は、夫々、以下の式(1)、式(2)、式(3)及び式(4)により表される。なお、Aは縞パターンの輝度の振幅である。Gは外光等の環境光の輝度である。Rは計測対象物SCの物体反射率である。φは正弦波状に変化する輝度の座標(x,y)における位相である。
Figure 2022088887000002
上記4つの画像上の同じ位置での絶対的な輝度はその位置での計測対象物SCの表面形状又は色等に応じて変化しても、輝度差は必ず縞パターンの位相差に応じた値となる。例えば、I0(x,y)とI1(x,y)との差は、π/2に応じた値となる。そこで、式(1)、式(2)、式(3)及び式(4)からA、G及びRを消去する演算、具体的には下記の式(5)に示す演算を情報処理装置30に実行させることにより、計測対象物SCの画像における座標(x,y)での位相φ(x,y)が算出される。
Figure 2022088887000003
式(5)に従って算出される位相φ(x,y)は、各縞パターンの1周期毎に算出される-π~πの間の値である。式(5)に従って算出される位相φ(x,y)は1周期分の縞パターン内での位置を示すため、相対位相とも呼ばれる。複数周期分の縞パターンが計測対象物SCに投射され、座標(x,y)に位置する画素がn個目の縞に対応する場合、座標(x,y)を一意に示す位相はφ(x,y)+2nπと表される。nは0以上の整数であり、縞次数と呼ばれる。縞次数は、複数周期分の縞パターンの一端から他端に向かって数えて何周期目の縞パターンであるかを示す。縞次数を考慮した位相は絶対位相とも呼ばれる。位相シフト法により計測対象物SCの三次元形状を計測するには、座標(x,y)の絶対位相を算出することが必要となる。そして、座標(x,y)における絶対位相を算出するには、座標(x,y)における縞次数を推定することが必要となる。縞次数の推定方法としては例えば特許文献1に開示のように、縞パターンの振幅を1周期毎に変化させるとともに各周期における振幅をテーブル等に書き込んでおき、式(1)、式(2)、式(3)及び式(4)から算出される振幅Aと上記テーブルとに基づいて縞次数を推定する方法が挙げられる。情報処理装置30は、座標(x,y)における絶対位相に基づいて三角測量の原理により座標(x,y)での高さを算出することで、計測対象物SCの3次元形状を計測する。
位相シフト法による3次元形状の計測の概略は以上の通りであるが、縞パターンの画像を投写されている状態の計測対象物SCの撮像画像では、計測対象物SCの反射特性又は周囲の外光等の影響により、同じ撮像画像内であっても領域によって縞パターンの輝度が異なる場合がある。なお、計測対象物SCの反射特性は、計測対象物SCの表面形状又は色等に応じて定まる。縞パターンの輝度が高すぎる又は低すぎる等、適正な輝度の範囲で縞パターンが撮像されていない領域については、計測対象物SCの3次元形状の計測精度が低下する虞がある。本実施形態における情報処理装置30は、計測対象物SCの反射特性又は周囲の外光等の影響がある状況下でも、計測対象物SCの3次元形状の計測精度が低下することを回避できるように構成されている。以下、情報処理装置30を中心に説明する。
情報処理装置30は、例えばパーソナルコンピューターである。図1に示すように、情報処理装置30は、通信装置300、記憶装置310、及び処理装置320を有する。通信装置300には、ケーブルを介してプロジェクター10が接続される。また、通信装置300には、ケーブルを介して撮像装置20が接続される。通信装置300は、撮像装置20から送信される画像データを受信する。また、通信装置300は、処理装置320による制御の下、計測対象物SCに投写するパターン画像を表す画像データをプロジェクター10へ送信する。
記憶装置310は、処理装置320が読み取り可能な記録媒体である。記憶装置310は、例えば、不揮発性メモリーと揮発性メモリーとを含む。不揮発性メモリーは、例えば、ROM(Read Only Memory)、EPROM(Erasable Programmable Read Only Memory)又はEEPROM(Electrically Erasable Programmable Read Only Memory)である。揮発性メモリーは、例えば、RAM(Radom Access Memory)である。
記憶装置310の不揮発性メモリーには、処理装置320によって実行されるプログラム311が予め記憶される。記憶装置310の揮発性メモリーはプログラム311を実行する際のワークエリアとして処理装置320によって利用される。プログラム311は、「アプリケーションプログラム」、「アプリケーションソフトウェア」又は「アプリ」とも称され得る。プログラム311は、例えば、通信装置300を介して不図示のサーバー等から取得され、その後、記憶装置310に記憶される。
処理装置320は、例えばCPU(Central Processing Unit)等のプロセッサー、即ちコンピューターを含んで構成される。処理装置320は、単一のコンピューターで構成されてもよいし、複数のコンピューターで構成されてもよい。処理装置320は、プログラム311の実行開始を指示する操作が不図示の入力装置に対して為されたことを契機としてプログラム311を不揮発性メモリーから揮発性メモリーに読み出す。処理装置320は、読み出されたプログラム311を実行する。プログラム311に従って作動中の処理装置320は、図1に示す特定部321、検出部322、推定部323、調整部324、及び計測部325として機能する。図1に示す特定部321、検出部322、推定部323、調整部324、及び計測部325は、処理装置320をプログラム311に従って動作させることで実現されるソフトウェアモジュールである。特定部321、検出部322、推定部323、調整部324、及び計測部325の各々が担う機能は次の通りである。
特定部321は、プロジェクター座標系とカメラ座標系との対応関係を特定する。プロジェクター座標系とは、プロジェクター10の投写画像内の位置を示す座標系である。プロジェクター座標系の具体例としては、プロジェクター10の投写画像の左上隅を原点とする2次元座標系が挙げられる。カメラ座標系とは、撮像装置20の撮像画像内の位置を示す座標系である。カメラ座標系の具体例としては、撮像装置20の撮像画像の左上隅を原点とする2次元座標系が挙げられる。
本実施形態では、特定部321は、図2に示す8×8のドットパターンの画像G1を表す画像データをプロジェクター10に与えることで、ドットパターンの画像G1をプロジェクター10から計測対象物SCに投写させる。なお、画像G1において黒く塗りつぶされている部分はプロジェクター10から光を投写されない部分であり、白抜きの部分はプロジェクター10から光を投写されるドットの分である。ドットパターンの画像G1は本開示における第1画像の一例である。
また、特定部321は、ドットパターンの画像G1を投写されている状態の計測対象物SCを撮像装置20に撮像させる。ドットパターンの画像G1を投写されている状態の計測対象物SCの撮像装置20による撮像画像は本開示における第1撮像画像の一例である。そして、特定部321は、ドットパターンの画像G1を投写されている状態の計測対象物SCの撮像画像と、ドットパターンの画像G1とに基づいて、プロジェクター座標系とカメラ座標系との対応関係を特定する。
図2に示す画像G1を投写されている状態の計測対象物SCの撮像画像として、図3に示す画像G2が得られたとする。特定部321は、図2に示す画像G1における8×8個のドットの各々について、当該ドットのプロジェクター座標系における位置と、図3に示す画像G2において当該ドットに対応するドットについてのカメラ座標系における位置とを対応付けることで、プロジェクター座標系とカメラ座標系との対応関係を特定する。例えば、画像G1において1行1列目に位置するドットDA11に対しては、画像G2におけるドットDB11が対応付けられる。また、画像G1において8行8列目に位置するドットDA88に対しては、画像G2におけるドットDB88が対応付けられる。ドットDA11は本開示における第1特徴点の一例である。ドットDA88は本開示における第2特徴点の一例である。ドットDB11は本開示における第3特徴点の一例である。ドットDB88は本開示における第4特徴点の一例である。
プロジェクター10から計測対象物SCへの投写画像については、図2に示す8×8個のドットの各々を中心とし、かつ互いに重なり合わない8×8個の領域を設定することができる。図2では、これら8×8個の領域のうち、ドットDA11を中心する領域AA11と、ドットDA88を中心する領域AA88とが点線で図示されている。撮像装置20による撮像画像についても同様に、図3に示す8×8個のドットの各々を中心とし、かつ互いに重なり合わない8×8個の領域を設定することができる。図3では、これら8×8個の領域のうち、ドットDB11を中心する領域AB11と、ドットDB88を中心する領域AB88とが点線で図示されている。投写画像に対して設定される8×8個の領域の各々は、特定部321により特定された対応関係により、撮像画像に対して設定される8×8個の領域の各々に一対一に対応付けられる。具体的には、領域AA11に対しては領域AB11が対応付けられる。また、領域AA88に対しては領域AB88が対応付けられる。領域AB11は本開示における第1領域の一例である。領域AB88は本開示における第2領域の一例である。領域AA11は本開示における第3領域の一例である。領域AA88は本開示における第4領域の一例である。
検出部322は、単色画像を表す画像データをプロジェクター10に与えることで、計測対象物SCに対して単色画像をプロジェクター10に投写させる。そして、検出部322は、単色画像を投写されている状態の計測対象物SCを撮像装置20に撮像させる。この単色画像は本開示における第2画像の一例である。単色画像を投写されている状態の計測対象物SCの撮像画像は本開示における第2撮像画像の一例である。本実施形態では、検出部322は、画像内での輝度が均一であって、互いに輝度の異なる複数枚の単色画像の各々を計測対象物SCに対してプロジェクター10に投写させる。更に詳述すると、検出部322は、各々画像内での輝度が均一であって、輝度が20%、40%、60%、80%及び100%の白色画像の各々を計測対象物SCに対してプロジェクター10に投写させる。検出部322は、複数枚の単色画像の各々について、その単色画像を投写されている状態の計測対象物SCを撮像装置20に撮像させる。そして、検出部322は、撮像画像における領域AB11~AB88の8×8個の各領域における輝度を単色画像毎に検出する。
推定部323は、撮像画像における領域AB11~AB88の何れにおいても輝度を上下に飽和させない投写画像の輝度の分布を示す輝度分布マップを、検出部322による検出結果に基づいて推定する。より詳細には、推定部323は、領域AA11~AA88の8×8個の領域の各々について、特定部321により特定された対応関係により対応付けられる領域の輝度を上下に飽和させない輝度の範囲を、検出部322により単色画像毎に検出された輝度に基づいて推定する。
例えば、領域AB11について、100%の白色画像に対しては輝度値が上に飽和し、かつ40%の白色画像に対しては輝度値が下に飽和していたとする。ここで、輝度値が上に飽和するとは、輝度値が上限値であることを示し、輝度値が下に飽和するとは、輝度値が下限値であることを示す。この場合、推定部323は、領域AB11の輝度を上下に飽和させない領域AA11の輝度の範囲を60%~80%と推定する。領域AA11について推定される輝度の範囲は本開示における第1輝度の範囲の一例である。また、領域AB88について、80%の白色画像に対しては輝度値が上に飽和し、かつ20%の白色画像に対しては輝度値が下に飽和していたとする。この場合、推定部323は、領域AB88の輝度を上下に飽和させない領域AA88の輝度の範囲を40%~60%と推定する。領域AA88について推定される輝度の範囲は本開示における第2輝度の範囲の一例である。本実施形態では、領域AA11~AA88の8×8個の領域の各々について、特定部321により特定された対応関係により対応付けられる領域の輝度を上下に飽和させない輝度の範囲が推定部323により推定され、推定結果である輝度の範囲の分布が輝度分布マップとなる。
調整部324は、位相がπ/2ずつずれた4枚の縞パターンの画像の各々を調整対象画像として以下の処理を実行する。調整部324は、調整対象画像を前述の領域AA11~AA88の各々に一対一に対応する8×8個の領域に区切る。そして、調整部324は、調整対象画像を8×8個に区切って得られる領域毎に、推定部323により推定された輝度分布マップに基づいて正弦波の振幅を調整する。例えば、領域AA11に対応する領域については、調整部324は、当該領域に属する各画素の輝度を、領域AA11について推定された輝度の範囲に収まるように調整する。4枚の縞パターンの画像の各々において領域AA11に対応する領域は本開示における第5領域の一例である。同様に、領域AA88に対応する領域については、調整部324は、当該領域に属する各画素の輝度を、領域AA88について推定された輝度の範囲に収まるように調整する。4枚の縞パターンの画像の各々において領域AA88に対応する領域は本開示における第6領域の一例である。
計測部325は、調整部324により領域毎に輝度を調整済の縞パターンの画像を用いた位相シフト法を実行することで、計測対象物SCの3次元形状を計測する。より詳細に説明すると、計測部325は、調整部324により領域毎に輝度を調整済の縞パターンの画像をプロジェクター10に投写させる。また、計測部325は、当該パターン画像を投写されている状態の計測対象物SCを撮像装置20により撮像させる。そして、計測部325は、前述の式(5)に示す演算により座標(x,y)における相対位相φ(x,y)を算出する。計測部325は、縞次数を推定して絶対位相を算出する。そして、計測部325は、座標(x,y)における絶対位相に基づいて三角測量の原理により座標(x,y)での高さを算出することで、計測対象物SCの3次元形状を計測する。
また、プログラム311に従って作動している処理装置320は、本開示の計測方法を実行する。図4は本開示の計測方法の流れを示すフローチャートである。図4に示すように、本開示の計測方法は、特定処理SA110、検出処理SA120、推定処理SA130、調整処理SA140、及び計測処理SA150を含む。
特定処理SA110では、処理装置320は、特定部321として機能する。特定処理SA110では、処理装置320は、図2に示すドットパターンの画像G1をプロジェクター10から計測対象物SCに投写させる。また、処理装置320は、ドットパターンの画像G1を投写されている状態の計測対象物SCを撮像装置20に撮像させる。そして、処理装置320は、ドットパターンの画像G1を投写されている状態の計測対象物SCの撮像画像と、ドットパターンの画像G1とに基づいて、プロジェクター座標系とカメラ座標系との対応関係を特定する。
検出処理SA120では、処理装置320は、検出部322として機能する。検出処理SA120では、処理装置320は、互いに輝度値が異なる複数の単色画像の各々を表す画像データをプロジェクター10に与えることで、計測対象物SCに対して各単色画像をプロジェクター10に投写させる。また、処理装置320は、単色画像毎に、単色画像を投写されている状態の計測対象物SCを撮像装置20に撮像させる。そして、処理装置320は、撮像画像に設定される複数の領域の各々における輝度値を単色画像毎に検出する。
推定処理SA130では、処理装置320は、推定部323として機能する。推定処理SA130では、処理装置320は、撮像画像の何れの領域においても輝度値を上下に飽和させない投写画像の輝度値の分布を示す輝度分布マップを、検出部322による検出結果に基づいて推定する。
調整処理SA140では、処理装置320は、調整部324として機能する。調整処理SA140では、処理装置320は、位相がπ/2ずつずれた4枚の縞パターンの画像の各々を調整対象画像とし、調整対象画像の領域毎に推定処理SA130にて推定した輝度分布マップの示す範囲に輝度が収まるように正弦波の振幅を調整する。
計測処理SA150では、処理装置320は、計測部325として機能する。計測処理SA150では、処理装置320は、調整処理SA140にて領域毎に輝度を調整済の縞パターンの画像を用いた位相シフト法を実行することで、計測対象物SCの3次元形状を計測する。
以下、縞パターンの画像を投写されている状態の計測対象物SCの撮像画像において領域AB11のみが当該領域の反射特性又は外光等の影響により他の領域よりも輝度が高くなっている場合を例にとって本実施形態の効果を説明する。従来の均一輝度分布に基づく位相シフト方では、領域AB11における輝度が飽和しないように全体の輝度が抑制された縞パターンの画像が計測対象物SCに投写されるので、領域AB11以外の領域においてはシグナル値が低下する。領域AB11以外の領域ではS/N比が低下するので相対位相φ(x,y)の算出精度が低下し、計測対象物SCの3次元形状の計測精度が低下する。
一方、本実施形態の計測方法では、プロジェクター座標系とカメラ座標系との対応関係に基づいて領域AB11に対応付けられる領域AA11の輝度のみが抑制された縞パターンの画像が計測対象物SCに投写されるので、計測対象物SCの撮像画像の略全体で高いシグナル値が得られ、相対位相φ(x,y)の算出精度の低下を回避できる。このため、本実施形態によれば、反射特性又は外光等の影響により計測対象物SCの3次元形状の計測精度が低下することを回避できる。
以上説明したように、本実施形態によれば、計測対象物SCの反射特性又は周囲の外光等の影響に応じて輝度を調整済の縞パターンの画像が投写される。このため、縞パターンの画像を投写されている状態の計測対象物SCの撮像画像において、輝度値が上に飽和することに起因する白つぶれ又は輝度値が下に飽和することに起因する黒つぶれの発生が回避される。縞パターンの画像を投写されている状態の計測対象物SCの撮像画像において、白つぶれ又は黒つぶれが発生しないので、計測対象物SCの3次元形状の計測精度が低下することはない。このように、本実施形態の計測システム1によれば、計測対象物SCの3次元形状の計測精度が計測対象物SCの反射特性又は周囲の外光等の影響により低下することを回避することが可能になる。
なお、本実施形態では、領域毎に輝度を調整済の縞パターンの画像と、この縞パターンの画像を投写されている計測対象物SCの撮像画像とを用いて三角測量の原理により計測対象物SCの3次元形状が計測された。しかし、領域毎に輝度を調整済の縞パターンの画像を投写されている計測対象物SCを、第1カメラである撮像装置20により撮像して得られる撮像画像と、第1カメラとは異なる位置に配置される第2カメラにより撮像し得られる撮像画像とを用いて計測対象物SCの3次元形状が計測されてもよい。
第1カメラ及び第2カメラを用いた位相シフト法による3次元計測では、第1カメラによる撮像画像における特徴点の座標と第2カメラによる撮像画像における当該特徴点の座標との視差値から3次元座標が算出される。このため、第1カメラによる撮像画像及び第2カメラによる撮像画像における特徴点の座標のバラツキが小さければ、より分散の小さい3次元座標を算出すること、即ち3次元計測精度を高めることができる。図5は、従来の均一輝度分布に基づく位相シフト法により算出された特徴点の座標の分散の一例を示す図である。一方、図6は領域毎に輝度を調整済の縞パターンの画像を用いて算出された特徴点の座標の分散の一例を示す図である。図5と図6とを比較すれば明らかように、領域毎に輝度を調整済の縞パターンの画像を用いることによって、従来の均一輝度分布に基づく位相シフトに比較して特徴点の座標のバラツキが小さくなっていることが判る。図5におけるRMSEは0.260535ピクセルであり、図6におけるRMSEは0.112996ピクセルである。なお、RMSEとは二乗平均誤差のことである。このように、第1カメラ及び第2カメラを用いた位相シフト法による3次元計測においても、領域毎に輝度を調整済の縞パターンの画像を用いることで、計測対象物SCの反射特性又は周囲の外光等の影響に起因する計測精度の低下が回避される。
2.変形例
上記実施形態は、以下のように変更されてもよい。
(1)上記実施形態では、プロジェクター座標系とカメラ座標系との対応関係を特定するためのパターン画像として、ドットパターンの画像が用いられた。しかし、グレイコードパターン又はバイナリーコードパターンの画像がドットパターンの画像の代わりに用いられてもよい。また、上記実施形態では、画像内の輝度が正弦波状に変化する縞パターンの画像を用いて計測対象物SCの3次元形状が計測された。しかし、縞パターンの画像に代えてグレイコードパターン又はバイナリーコードパターンの画像が用いられてもよい。グレイコードパターン又はバイナリーコードパターンの画像は、縞パターンの画像と同様に、画像内の輝度が周期的に変化する。グレイコードパターン又はバイナリーコードパターンの画像が用いられる場合、明るく撮像される領域については、白部分の画素は灰色等の暗い色に調整されればよい。
(2)上記実施形態では、輝度が互いに異なる4枚の単色画像を用いて輝度分布マップが作成された。しかし、輝度が互いに異なる2又は3枚の単色画像を用いて輝度分布マップが作成されてもよく、輝度が互いに異なる5枚以上の単色画像を用いて輝度分布マップが作成されてもよい。輝度が互いに異なる2枚の単色画像を用いる態様における一方の単色画像は本開示における第1単色画像の一例である。輝度が互いに異なる2枚の単色画像を用いる態様における他方の単色画像は本開示における第2単色画像の一例である。また、画像内での輝度が均一な1枚の単色画像を用いて輝度分布マップが作成されてもよい。具体的には、単色画像を投写されている状態の計測対象物SCの撮像画像における各領域の輝度と当該撮像画像における輝度として予測される基準値との差に応じて輝度分布マップが作成されればよい。
(3)上記実施形態では、プログラム311が記憶装置310に記憶済であった。しかし、プログラム311が単体で製造又は配布してもよい。プログラム311の具体的な配布方法としては、フラッシュROM(Read Only Memory)等のコンピューター読み取り可能な記録媒体に上記プログラム311を書き込んで配布する態様、又はインターネット等の電気通信回線経由のダウンロードにより配布する態様が考えられる。
(4)上記実施形態における特定部321、検出部322、推定部323、調整部324、及び計測部325はソフトウェアモジュールであったが、検出部322、推定部323、調整部324、及び計測部325の一部又は全部がハードウェアであってもよい。このハードウェアの一例としては、DSP(Digital Signal Processor)、ASIC(Application Specific Integrated Circuit)、PLD(Programmable Logic Device)、及びFPGA(Field Programmable Gate Array)が挙げられる。検出部322、推定部323、調整部324、及び計測部325の一部又は全部がハードウェアであっても、上記実施形態と同一の効果が奏される。なお、上記実施形態における情報処理装置30はタブレット端末又はスマートフォンであってもよい。
(5)上記実施形態における計測部325は省略されてもよい。特定部321、検出部322、推定部323、及び調整部324を有する情報処理装置によれば、プロジェクター10から投写画像を投写されている被投写物の撮像画像における白つぶれ又は黒つぶれの発生が回避される。また、この情報処理装置と、プロジェクター10と、撮像装置20とを組み合わせて投写システムが構成されてもよい。この投写システムによれば、プロジェクター10から投写画像を投写されている被投写物の撮像画像における白つぶれ又は黒つぶれの発生が回避される。また、特定処理SA110、検出処理SA120、推定処理SA130、及び調整処理SA140を含む投写画像の調整方法が提供されてもよい。この調整方法によれば、プロジェクター10から投写画像を投写されている被投写物の撮像画像における白つぶれ又は黒つぶれの発生が回避される。
(6)上記実施形態の調整部324は、調整対象画像を領域AA11~AA88の各々に一対一に対応する8×8個の領域に区切り、領域毎に、領域内の各画素の輝度を輝度分布マップに基づいて調整した。しかし、領域の境界を挟んで隣り合う2つの画素の輝度が不連続に変化することを回避するために、輝度分布マップに基づいて各画素の輝度を調整済の調整対象画像に対して移動平均フィルター等によるフィルター処理を施してもよい。
3.実施形態及び各変形例の少なくとも1つから把握される態様
本開示は、上述した実施形態及び変形例に限られるものではなく、その趣旨を逸脱しない範囲において種々の態様で実現することができる。例えば、本開示は、以下の態様によっても実現可能である。以下に記載した各態様中の技術的特徴に対応する上記実施形態中の技術的特徴は、本開示の課題の一部又は全部を解決するために、或いは本開示の効果の一部又は全部を達成するために、適宜、差し替えや、組み合わせを行うことが可能である。また、その技術的特徴が本明細書中に必須なものとして説明されていなければ、適宜、削除することが可能である。
上述の課題を解決するために本開示の投写画像の調整方法は、プロジェクター10から被投写物へ投写する投写画像の調整方法であって、特定処理SA110、検出処理SA120、推定処理SA130、及び調整処理SA140を含む。特定処理SA110では、プロジェクター10から被投写物へ投写される第1画像と、第1画像を投写されている状態の被投写物を撮像装置20により撮像して得られる第1撮像画像とに基づいて、プロジェクター座標系とカメラ座標系との対応関係が特定される。プロジェクター座標系とは、第1画像内の位置を示す座標系である。カメラ座標系とは第1撮像画像内の位置を示す座標系である。検出処理SA120では、第2画像をプロジェクター10から投写されている状態の被投写物を撮像装置20により撮像して得られる第2撮像画像における第1領域の輝度と当該第2撮像画像における第2領域の輝度とが検出される。なお、第2画像の一例として単色画像が挙げられる。推定処理SA130では、第2画像のうち前述の対応関係により第1領域に対応付けられる第3領域について、第1領域の輝度を上下に飽和させない第1輝度の範囲が、第1領域について検出された輝度と第3領域の輝度とに基づいて推定される。また、推定処理SA130では、第2画像のうち前述の対応関係により第2領域に対応付けられる第4領域について、第2領域の輝度を上下に飽和させない第2輝度の範囲が、第2領域について検出された輝度と第4領域の輝度とに基づいて推定される。調整処理SA140では、投写画像のうち第3領域に対応する第5領域の輝度が第1輝度の範囲に収まるように調整される。また、調整処理SA140では、投写画像のうち第4領域に対応する第6領域の輝度が第2輝度の範囲に収まるように調整される。本態様の調整方法によれば、投写画像を投写されている状態の被投写物を第1カメラで撮像したときに、撮像画像における白つぶれ又は黒つぶれの発生が回避される。
より好ましい態様の調整方法においては、画像内の輝度が均一な第1単色画像及び第2単色画像であって、互いに輝度が異なる第1単色画像及び第2単色画像の各々を第2画像としてプロジェクター10に順次投写させて第1輝度の範囲及び第2輝度の範囲の推定が行われてもよい。具体的には、推定処理SA130では、第1単色画像を投写させた場合に検出される第1領域の輝度及び第2単色画像を投写させた場合に検出される第1領域の輝度と、第3領域の輝度とに基づいて、第1輝度の範囲が推定される。同様に、推定処理SA130では、第1単色画像を投写させた場合に検出される第2領域の輝度及び第2単色画像を投写させた場合に検出される第2領域の輝度と、第4領域の輝度とに基づいて、第2輝度の範囲が推定される。
別の好ましい態様の調整方法においては、第1画像は、第1特徴点と、第2特徴点と、を含む画像、具体的にはドットパターンの画像であってもよい。本態様の調整方法における特定処理SA110では、第1画像における第1特徴点の位置と第1撮像画像において第1特徴点に対応する第3特徴点の位置、及び第1画像における第2特徴点の位置と第1撮像画像において第2特徴点に対応する第4特徴点の位置、に基づいて、プロジェクター座標系とカメラ座標系との対応関係が特定される。
別の好ましい態様の調整方法においては、プロジェクター10から被投写物へ投写する投写画像は、画像内で輝度が周期的に変化する画像、具体的には縞パターンの画像であってもよい。本態様によれば、画像内で輝度が周期的に変化する投写画像を投写されている被投写物の撮像画像の第5領域における白つぶれ又は黒つぶれの発生が回避される。同様に、第6領域における白つぶれ又は黒つぶれの発生も回避される。
また、本開示の計測方法の一態様は、画像内で輝度が周期的に変化する投写画像をプロジェクター10から被投写物へ投写し、投写画像を投写されている状態の被投写物を第1カメラにより撮像して得られる撮像画像と、投写画像を投写されている状態の被投写物を第1カメラとは異なる第2カメラにより撮像して得られる撮像画像と、に基づいて被投写物の3次元形状を計測する計測方法である。この計測方法は、前述の特定処理SA110、検出処理SA120、推定処理SA130、及び調整処理SA140を含み、プロジェクター10から被投写物へ投写する投写画像の輝度を調整処理SA140により調整する。本態様の調整方法によれば、被投写物の3次元形状の計測精度が被投写物の反射特性又は周囲の外光等の影響により低下することが回避される。
また、本開示の計測方法の一態様は、画像内で輝度が周期的に変化する投写画像をプロジェクター10から被投写物へ投写し、この投写画像を投写されている状態の被投写物を第1カメラにより撮像して得られる撮像画像と、投写画像と、に基づいて被投写物の3次元形状を計測する計測方法である。この計測方法は、前述の特定処理SA110、検出処理SA120、推定処理SA130、及び調整処理SA140を含み、プロジェクター10から被投写物へ投写する投写画像の輝度を調整処理SA140により調整する。本態様の調整方法によっても、被投写物の3次元形状の計測精度が被投写物の反射特性又は周囲の外光等の影響により低下することが回避される。
また、上述の課題を解決するために本開示の投写システムの一態様は、プロジェクター10と、撮像装置20と、情報処理装置30と、を含む。プロジェクター10は、投写画像を被投写物へ投写する。撮像装置20は、被投写物を撮像する。撮像装置20は、本開示における第1カメラの一例である。情報処理装置30は、前述の特定処理SA110、検出処理SA120、推定処理SA130、及び調整処理SA140を実行する処理装置320を有する。本態様によれば、投写画像を投写されている状態の被投写物を撮像装置20で撮像して得られる撮像画像の第5領域における白つぶれ又は黒つぶれの発生が回避される。同様に、第6領域における白つぶれ又は黒つぶれの発生も回避される。
また、上述の課題を解決するために本開示の情報処理装置の一態様は、特定部321と、検出部322と、推定部323と、調整部324と、を含む。特定部321は、特定処理SA110を実行する。検出部322は、検出処理SA120を実行する。推定部323は、推定処理SA130を実行する。調整部324は、調整処理SA140を実行する。本態様によれば、投写画像を投写されている状態の被投写物を撮像装置20で撮像して得られる撮像画像の第5領域における白つぶれ又は黒つぶれの発生が回避される。同様に、第6領域における白つぶれ又は黒つぶれの発生も回避される。
上述の課題を解決するために本開示のプログラムの一態様は、コンピューターに特定処理SA110と、検出処理SA120と、推定処理SA130と、調整処理SA140と、を実行させる。本態様によれば、投写画像を投写されている状態の被投写物を撮像装置20で撮像して得られる撮像画像の第5領域における白つぶれ又は黒つぶれの発生が回避される。同様に、第6領域における白つぶれ又は黒つぶれの発生も回避される。
1…計測システム、10…プロジェクター、20…撮像装置、30…情報処理装置、300…通信装置、310…記憶装置、320…処理装置、321…特定部、322…検出部、323…推定部、324…調整部、325…計測部、311…プログラム、SC…計測対象物。

Claims (10)

  1. プロジェクターから被投写物へ投写する投写画像の調整方法において、
    前記プロジェクターから前記被投写物へ投写される第1画像と、前記第1画像を投写されている状態の前記被投写物を第1カメラにより撮像して得られる第1撮像画像とに基づいて、前記第1画像内の位置を示すプロジェクター座標系と前記第1撮像画像内の位置を示すカメラ座標系との対応関係を特定し、
    第2画像を前記プロジェクターから投写されている状態の前記被投写物を前記第1カメラにより撮像して得られる第2撮像画像における第1領域の輝度と前記第2撮像画像における第2領域の輝度とを検出し、
    前記第2画像のうち前記対応関係により前記第1領域に対応付けられる第3領域について、前記第1領域の輝度を上下に飽和させない第1輝度の範囲を、前記第1領域について検出された輝度と前記第3領域の輝度とに基づいて推定し、
    前記第2画像のうち前記対応関係により前記第2領域に対応付けられる第4領域について、前記第2領域の輝度を上下に飽和させない第2輝度の範囲を、前記第2領域について検出された輝度と前記第4領域の輝度とに基づいて推定し、
    前記投写画像のうち前記第3領域に対応する第5領域の輝度を前記第1輝度の範囲に収まるように調整し、且つ前記投写画像のうち前記第4領域に対応する第6領域の輝度を前記第2輝度の範囲に収まるように調整する、
    調整方法。
  2. 前記第2画像は単色画像である、請求項1に記載の調整方法。
  3. 画像内の輝度が均一な第1単色画像及び第2単色画像であって、互いに輝度が異なる前記第1単色画像及び前記第2単色画像の各々を前記第2画像として前記プロジェクターに順次投写させ、
    前記第1単色画像を投写させた場合に検出される前記第1領域の輝度及び前記第2単色画像を投写させた場合に検出される前記第1領域の輝度と、前記第3領域の輝度とに基づいて、前記第1輝度の範囲を推定し、
    前記第1単色画像を投写させた場合に検出される前記第2領域の輝度及び前記第2単色画像を投写させた場合に検出される前記第2領域の輝度と、前記第4領域の輝度とに基づいて、前記第2輝度の範囲を推定する、請求項2に記載の調整方法。
  4. 前記第1画像は、第1特徴点と、第2特徴点と、を含み、
    前記第1画像における前記第1特徴点の位置と前記第1撮像画像において前記第1特徴点に対応する第3特徴点の位置、及び前記第1画像における前記第2特徴点の位置と前記第1撮像画像において前記第2特徴点に対応する第4特徴点の位置、に基づいて前記対応関係を特定する、請求項1乃至3のうちの何れか1項に記載の調整方法。
  5. 前記投写画像は、画像内で輝度が周期的に変化する画像である、請求項1乃至4のうちの何れか1項に記載の調整方法。
  6. 画像内で輝度が周期的に変化する投写画像をプロジェクターから被投写物へ投写し、前記投写画像を投写されている状態の前記被投写物を第1カメラにより撮像して得られる撮像画像と、前記投写画像を投写されている状態の前記被投写物を前記第1カメラとは異なる第2カメラにより撮像して得られる撮像画像と、に基づいて前記被投写物の3次元形状を計測する計測方法において、
    前記プロジェクターから前記被投写物に対して投写される第1画像と、前記第1画像を投写されている状態の前記被投写物を前記第1カメラにより撮像して得られる第1撮像画像とに基づいて、前記第1画像内の位置を示すプロジェクター座標系と前記第1撮像画像内の位置を示すカメラ座標系との対応関係を特定し、
    第2画像を前記プロジェクターから投写されている状態の前記被投写物を前記第1カメラにより撮像して得られる第2撮像画像における第1領域の輝度と第2領域の輝度とを検出し、
    前記第2画像のうち前記対応関係により前記第1領域に対応付けられる第3領域について、前記第1領域の輝度を上下に飽和させない第1輝度の範囲を、前記第1領域について検出された輝度と前記第3領域の輝度とに基づいて推定し、
    前記第2画像のうち前記対応関係により前記第2領域に対応付けられる第4領域について、前記第2領域の輝度を上下に飽和させない第2輝度の範囲を、前記第2領域について検出された輝度と前記第4領域の輝度とに基づいて推定し、
    前記投写画像のうち前記第3領域に対応する第5領域の輝度を前記第1輝度の範囲に収まるように調整し、且つ前記投写画像のうち前記第4領域に対応する第6領域の輝度を前記第2輝度の範囲に収まるように調整する、
    計測方法。
  7. 画像内で輝度が周期的に変化する投写画像をプロジェクターから被投写物へ投写し、前記投写画像を投写されている状態の前記被投写物を第1カメラにより撮像して得られる撮像画像と、前記投写画像と、に基づいて前記被投写物の3次元形状を計測する計測方法において、
    第1画像を前記プロジェクターから投写されている状態の前記被投写物を前記第1カメラにより撮像して得られる第1撮像画像と前記第1画像とに基づいて、前記第1画像内の位置を示すプロジェクター座標系と前記第1撮像画像内の位置を示すカメラ座標系との対応関係を特定し、
    第2画像を前記プロジェクターから投写されている状態の前記被投写物を前記第1カメラにより撮像して得られる第2撮像画像における第1領域の輝度と第2領域の輝度とを検出し、
    前記第2画像のうち前記対応関係により前記第1領域に対応付けられる第3領域について、前記第1領域の輝度を上下に飽和させない第1輝度の範囲を、前記第1領域について検出された輝度と前記第3領域の輝度とに基づいて推定し、
    前記第2画像のうち前記対応関係により前記第2領域に対応付けられる第4領域について、前記第2領域の輝度を上下に飽和させない第2輝度の範囲を、前記第2領域について検出された輝度と前記第4領域の輝度とに基づいて推定し、
    前記投写画像のうち前記第3領域に対応する第5領域の輝度を前記第1輝度の範囲に収まるように調整し、且つ前記投写画像のうち前記第4領域に対応する第6領域の輝度を前記第2輝度の範囲に収まるように調整する、
    計測方法。
  8. 投写画像を被投写物へ投写するプロジェクターと、
    前記被投写物を撮像する第1カメラと、
    情報処理装置と、を備え、
    前記情報処理装置は、
    前記プロジェクターから第1画像を投写されている状態の前記被投写物を前記第1カメラにより撮像して得られる第1撮像画像と前記第1画像とに基づいて、前記第1画像内の位置を示すプロジェクター座標系と前記第1撮像画像内の位置を示すカメラ座標系との対応関係を特定すること、
    第2画像を前記プロジェクターから投写されている状態の前記被投写物を前記第1カメラにより撮像して得られる第2撮像画像における第1領域の輝度と第2領域の輝度とを検出すること、
    前記第2画像のうち前記対応関係により前記第1領域に対応付けられる第3領域について、前記第1領域の輝度を上下に飽和させない第1輝度の範囲を、前記第1領域について検出された輝度と前記第3領域の輝度とに基づいて推定すること、
    前記第2画像のうち前記対応関係により前記第2領域に対応付けられる第4領域について、前記第2領域の輝度を上下に飽和させない第2輝度の範囲を、前記第2領域について検出された輝度と前記第4領域の輝度とに基づいて推定すること、及び、
    前記投写画像のうち前記第3領域に対応する第5領域の輝度を前記第1輝度の範囲に収まるように調整し、且つ前記投写画像のうち前記第4領域に対応する第6領域の輝度を前記第2輝度の範囲に収まるように調整すること、を実行する、
    投写システム。
  9. 投写画像を被投写物へ投写するプロジェクターから第1画像を投写されている状態の前記被投写物を第1カメラにより撮像して得られる第1撮像画像と前記第1画像とに基づいて、前記第1画像内の位置を示すプロジェクター座標系と前記第1撮像画像内の位置を示すカメラ座標系との対応関係を特定すること、
    第2画像を前記プロジェクターから投写されている状態の前記被投写物を前記第1カメラにより撮像して得られる第2撮像画像における第1領域の輝度と第2領域の輝度とを検出すること、
    前記第2画像のうち前記対応関係により前記第1領域に対応付けられる第3領域について、前記第1領域の輝度を上下に飽和させない第1輝度の範囲を、前記第1領域について検出された輝度と前記第3領域の輝度とに基づいて推定すること、
    前記第2画像のうち前記対応関係により前記第2領域に対応付けられる第4領域について、前記第2領域の輝度を上下に飽和させない第2輝度の範囲を、前記第2領域について検出された輝度と前記第4領域の輝度とに基づいて推定すること、及び、
    前記投写画像のうち前記第3領域に対応する第5領域の輝度を前記第1輝度の範囲に収まるように調整し、且つ前記投写画像のうち前記第4領域に対応する第6領域の輝度を前記第2輝度の範囲に収まるように調整すること、
    を実行する情報処理装置。
  10. コンピューターに、
    投写画像を被投写物へ投写するプロジェクターから第1画像を投写されている状態の前記被投写物を第1カメラにより撮像して得られる第1撮像画像と前記第1画像とに基づいて、前記第1画像内の位置を示すプロジェクター座標系と前記第1撮像画像内の位置を示すカメラ座標系との対応関係を特定すること、
    第2画像を前記プロジェクターから投写されている状態の前記被投写物を前記第1カメラにより撮像して得られる第2撮像画像における第1領域の輝度と第2領域の輝度とを検出すること、
    前記第2画像のうち前記対応関係により前記第1領域に対応付けられる第3領域について、前記第1領域の輝度を上下に飽和させない第1輝度の範囲を、前記第1領域について検出された輝度と前記第3領域の輝度とに基づいて推定すること、
    前記第2画像のうち前記対応関係により前記第2領域に対応付けられる第4領域について、前記第2領域の輝度を上下に飽和させない第2輝度の範囲を、前記第2領域について検出された輝度と前記第4領域の輝度とに基づいて推定すること、及び、
    前記投写画像のうち前記第3領域に対応する第5領域の輝度を前記第1輝度の範囲に収まるように調整し、且つ前記投写画像のうち前記第4領域に対応する第6領域の輝度を前記第2輝度の範囲に収まるように調整すること、
    を実行させるプログラム。
JP2020201006A 2020-12-03 2020-12-03 調整方法、計測方法、投写システム、情報処理装置、及びプログラム Pending JP2022088887A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2020201006A JP2022088887A (ja) 2020-12-03 2020-12-03 調整方法、計測方法、投写システム、情報処理装置、及びプログラム
US17/540,855 US11898838B2 (en) 2020-12-03 2021-12-02 Adjustment method and measurement method
CN202111462972.9A CN114615483B (zh) 2020-12-03 2021-12-02 调整方法、测量方法、投射系统、信息处理装置和记录介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020201006A JP2022088887A (ja) 2020-12-03 2020-12-03 調整方法、計測方法、投写システム、情報処理装置、及びプログラム

Publications (2)

Publication Number Publication Date
JP2022088887A true JP2022088887A (ja) 2022-06-15
JP2022088887A5 JP2022088887A5 (ja) 2023-10-24

Family

ID=81848390

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020201006A Pending JP2022088887A (ja) 2020-12-03 2020-12-03 調整方法、計測方法、投写システム、情報処理装置、及びプログラム

Country Status (3)

Country Link
US (1) US11898838B2 (ja)
JP (1) JP2022088887A (ja)
CN (1) CN114615483B (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116824069B (zh) * 2023-08-31 2023-11-10 四川省产品质量监督检验检测院 利用高频信号检测饱和点的自适应条纹方法

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040070565A1 (en) * 2001-12-05 2004-04-15 Nayar Shree K Method and apparatus for displaying images
JP4335024B2 (ja) 2004-01-27 2009-09-30 オリンパス株式会社 3次元形状測定方法及びその装置
JP5032943B2 (ja) * 2007-11-06 2012-09-26 パナソニック株式会社 3次元形状計測装置及び3次元形状計測方法
JP4629136B2 (ja) 2008-10-15 2011-02-09 富士フイルム株式会社 測距装置および測距方法並びにプログラム
WO2010129361A2 (en) * 2009-04-28 2010-11-11 The Regents Of The University Of California Color seamlessness across tiled multi-projector displays
JP6238521B2 (ja) 2012-12-19 2017-11-29 キヤノン株式会社 3次元計測装置およびその制御方法
CN104036475A (zh) * 2013-07-22 2014-09-10 成都智慧星球科技有限公司 适应于任意投影机群及投影屏幕的高鲁棒性几何校正方法
JP6267486B2 (ja) * 2013-10-30 2018-01-24 キヤノン株式会社 画像処理装置、画像処理方法
JP2018105671A (ja) 2016-12-26 2018-07-05 セイコーエプソン株式会社 画像処理装置及び画像処理方法
CN110168562B (zh) * 2017-03-09 2023-06-09 Oppo广东移动通信有限公司 基于深度的控制方法、基于深度的控制装置和电子装置
CN108088654A (zh) * 2017-12-07 2018-05-29 东莞职业技术学院 投影仪投影质量检测方法及其电子设备
GB2569656B (en) * 2017-12-22 2020-07-22 Zivid Labs As Method and system for generating a three-dimensional image of an object
US20210291435A1 (en) * 2020-03-19 2021-09-23 Ricoh Company, Ltd. Measuring apparatus, movable apparatus, robot, electronic device, fabricating apparatus, and measuring method

Also Published As

Publication number Publication date
US20220182519A1 (en) 2022-06-09
US11898838B2 (en) 2024-02-13
CN114615483A (zh) 2022-06-10
CN114615483B (zh) 2023-08-01

Similar Documents

Publication Publication Date Title
JP6363863B2 (ja) 情報処理装置および情報処理方法
JP5907596B2 (ja) 三次元計測装置、三次元計測方法及びプログラム
US8964189B2 (en) Three-dimensional measurement apparatus, method for three-dimensional measurement, and computer program
JP5576726B2 (ja) 三次元計測装置、三次元計測方法、及びプログラム
JP6566768B2 (ja) 情報処理装置、情報処理方法、プログラム
US10078907B2 (en) Distance measurement apparatus, distance measurement method, and storage medium
JP6274839B2 (ja) 画像処理装置、画像処理方法
JP6299150B2 (ja) 制御装置、ロボット、制御システム、制御方法、及び制御プログラム
WO2022105276A1 (zh) 投影区域确定方法、装置、投影设备及可读存储介质
US20180180407A1 (en) Image processing apparatus and image processing method
JP2022088887A (ja) 調整方法、計測方法、投写システム、情報処理装置、及びプログラム
US10515442B2 (en) Image processing apparatus that corrects for lateral chromatic aberration, image capturing apparatus, image processing method, and storage medium
JP6713622B2 (ja) 3次元計測装置、3次元計測システム、3次元計測方法及びプログラム
JP5446285B2 (ja) 画像処理装置及び画像処理方法
KR101314101B1 (ko) 3차원 계측 시스템 및 그 방법
US20140152862A1 (en) Image processing apparatus, image pickup apparatus, image pickup system, image processing method, and non-transitory computer-readable storage medium
US20220132088A1 (en) Specifying method, specifying system, and non-transitory computer-readable storage medium storing a program
JP6867766B2 (ja) 情報処理装置およびその制御方法、プログラム
JP5968370B2 (ja) 三次元計測装置、三次元計測方法、及びプログラム
JP2018190201A (ja) 画像処理装置、画像処理方法およびプログラム
JP6307843B2 (ja) 補間方法、プログラムおよび補間装置
US20220178681A1 (en) Identification method, projection method and identification system
JP5175670B2 (ja) エッジ検出装置及びその方法
JP2023080960A (ja) 撮像装置、制御方法、プログラム及び記憶媒体
JP2017125716A (ja) 計測装置及び計測方法

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20210914

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20211101

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231016

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20231016