JP6998156B2 - 画像処理装置、及びプログラム - Google Patents

画像処理装置、及びプログラム Download PDF

Info

Publication number
JP6998156B2
JP6998156B2 JP2017169846A JP2017169846A JP6998156B2 JP 6998156 B2 JP6998156 B2 JP 6998156B2 JP 2017169846 A JP2017169846 A JP 2017169846A JP 2017169846 A JP2017169846 A JP 2017169846A JP 6998156 B2 JP6998156 B2 JP 6998156B2
Authority
JP
Japan
Prior art keywords
image
pixel
measurement
intermediate image
noise
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017169846A
Other languages
English (en)
Other versions
JP2019046268A (ja
Inventor
心平 松浦
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitutoyo Corp
Original Assignee
Mitutoyo Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitutoyo Corp filed Critical Mitutoyo Corp
Priority to JP2017169846A priority Critical patent/JP6998156B2/ja
Priority to US16/116,159 priority patent/US10607360B2/en
Priority to DE102018006932.0A priority patent/DE102018006932A1/de
Priority to CN201811024890.4A priority patent/CN109427048B/zh
Publication of JP2019046268A publication Critical patent/JP2019046268A/ja
Application granted granted Critical
Publication of JP6998156B2 publication Critical patent/JP6998156B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G06T5/70
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/521Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/10Image enhancement or restoration by non-spatial domain filtering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20048Transform domain processing
    • G06T2207/20064Wavelet transform [DWT]

Description

本発明は、測定対象物の形状を測定するための画像処理装置、及びプログラムに関する。
複数の測定画像を用いて、測定対象物の三次元計測を行う非接触三次元計測機器が知られている。非接触三次元計測機器は、測定画像を用いて、測定対象物の形状を測定するための中間画像を生成するが、測定画像には種々のノイズが含まれているため、中間画像にも同様のノイズが含まれている。
S.Montresor , et. al., Opt. express 24 13 14322, 2016
非特許文献1には、種々のフィルターを使用して中間画像のノイズを除去する技術が開示されている。しかしながら、非特許文献1に開示された技術では、中間画像のノイズが十分に除去されていない領域ができてしまうことがあった。
そこで、本発明はこれらの点に鑑みてなされたものであり、中間画像に含まれるノイズを低減する技術を提供することを目的とする。
本発明の第1の態様における画像処理装置は、予め定められた複数の条件のそれぞれにおいて測定対象物を撮像することで得られる複数の測定画像を取得する画像取得部と、前記複数の測定画像においてそれぞれ対応する画素の画素値を前記複数の条件により定まる順序にしたがって並べたデータ列を近似する近似関数のモデル化パラメータを、前記測定画像の画素ごとに特定するモデル化部と、前記モデル化パラメータに基づいて前記測定対象物の形状を示す形状画像を生成するための中間画像を生成する中間画像生成部と、前記データ列と、前記各画素のモデル化パラメータに基づいて特定された各画素の近似値との誤差を示す統計量を用いて、前記中間画像の各画素のノイズ閾値を特定したノイズ閾値画像を生成するノイズ閾値画像生成部と、前記ノイズ閾値画像を用いて前記中間画像を閾値処理するノイズ除去部と、を備える。
前記ノイズ除去部は、前記中間画像をウェーブレット変換して得られる画像の各画素を、前記ノイズ閾値画像をウェーブレット変換して得られる画像において対応する画素のノイズ閾値を用いて閾値処理することで得られる画像を、逆ウェーブレット変換することにより前記中間画像を生成してもよい。
前記画像処理装置は、前記複数の条件から定まる演算処理を、前記ノイズ除去部が閾値処理した前記中間画像に施して前記形状画像を生成する形状画像生成部をさらに有していてもよい。
前記中間画像生成部は、前記測定対象物の形状情報が、前記複数の条件により定まる位相に符号化された画像である前記中間画像を生成し、前記ノイズ閾値画像生成部は、前記統計量に基づき誤差伝播の法則で定まる位相誤差を用いて、前記ノイズ閾値画像を生成してもよい。
前記ノイズ閾値画像生成部は、前記データ列と、前記各画素の近似値との差の標準偏差を用いて、前記ノイズ閾値画像を生成してもよい。
本発明の第2の態様におけるプログラムは、コンピュータに、予め定められた複数の条件のそれぞれにおいて測定対象物を撮像することで得られる複数の測定画像を取得する機能と、前記複数の測定画像においてそれぞれ対応する画素の画素値を前記複数の条件により定まる順序にしたがって並べたデータ列を近似する近似関数のモデル化パラメータを、前記測定画像の画素ごとに特定する機能と、モデル化パラメータに基づいて前記測定対象物の形状を示す形状画像を生成するための中間画像を生成する機能と、前記データ列と、前記各画素のモデル化パラメータに基づいて特定された各画素の近似値との誤差を示す統計量を用いて、前記中間画像の各画素のノイズ閾値を特定したノイズ閾値画像を生成する機能と、前記ノイズ閾値画像を用いて前記中間画像を閾値処理する機能と、を実現させる。
本発明によれば、中間画像に含まれるノイズを低減できるという効果を奏する。
実施の形態に係る画像処理システムの概要を説明するための図である。 ノイズを低減する処理の概要を説明するための図である。 実施の形態に係る画像処理装置の機能構成を示す図である。 データ列を近似する近似関数について説明するための図である。 データ列を近似する近似関数におけるモデル化パラメータを特定する処理を説明するための図である。 画像処理装置がノイズを低減する処理のフローチャートである。 変形例1に係る画像処理システムの概要を説明するための図である。 2つのレーザーの干渉及び測定データを説明するための図である。 変形例2の画像処理システムの構成を示す図である。
<実施の形態>
図1を参照して、実施の形態に係る画像処理システムSの概要を述べる。図1は、実施の形態に係る画像処理システムSの概要を説明するための図である。実施の形態に係る画像処理システムSは、投影画像が投影された測定対象物を撮像することにより、測定対象物の形状を測定するための画像処理システムである。
画像処理システムSは、投影装置1と、撮像装置2と、画像処理装置3とを備える。画像処理装置3は、投影装置1及び撮像装置2それぞれと通信可能に接続されている。投影装置1は、例えば液晶プロジェクタである。投影装置1は、それぞれ異なる複数の投影パターンの光(P1、P2、・・・、PN)を測定対象物に投影する。投影装置1は、例えば正弦波パターンの光を、正弦波パターンの位相を変化させて複数回投影する。
撮像装置2は、例えば200万画素の撮像素子を備えるデジタルカメラである。撮像装置2は、それぞれ異なる複数の投影パターンの光(P1、P2、・・・、PN)が投影された測定対象物を順次撮像することにより、それぞれ異なる複数の測定画像(P1、P2、・・・、PN)を生成する。撮像装置2は、撮像した複数の測定画像を画像処理装置3に送信する。
画像処理装置3は、例えばコンピュータである。画像処理装置3は、複数の投影パターンの光を順次投影するように投影装置1を制御し、投影画像が投影された測定対象物を撮像することで測定画像を順次生成するように撮像装置2を制御することにより、測定画像を取得する。画像処理装置3は、取得した複数の測定画像を用いて、測定対象物の形状を測定するための中間画像を生成する。画像処理装置3は、中間画像を画像処理することにより、中間画像に含まれるノイズを低減する。
図2を参照しながら、画像処理装置3が中間画像のノイズを低減する画像処理の概要を説明する。図2は、ノイズを低減する処理の概要を説明するための図である。
まず、画像処理装置3は、複数の測定画像を取得する。画像処理装置3は、取得した複数の測定画像それぞれの各画素の画素値を近似する近似関数のモデル化パラメータを特定する(図2の(1))。そして、画像処理装置3は、モデル化パラメータを用いて中間画像を生成し(図2の(2))、ノイズ閾値画像を生成する(図2の(3))。なお、モデル化パラメータ導出の詳細は後述する。
画像処理装置3は、ノイズ閾値画像を用いて、中間画像を閾値処理する(図2の(4))。画像処理装置3は、閾値処理した中間画像を用いて形状画像を生成する(図2の(5))。このようにすることで、画像処理装置3は、中間画像に含まれるノイズを低減することができる。そして、画像処理装置3は、ノイズが低減された中間画像を用いて、測定対象物の形状を表す形状画像を生成する。このようにすることで、画像処理装置3は、測定対象物の形状の測定精度を向上することができる。
<実施の形態に係る画像処理装置の構成>
図3を参照しながら、実施の形態に係る画像処理装置3の機能構成について説明する。図3は、実施の形態に係る画像処理装置3の機能構成を示す図である。実施の形態に係る画像処理装置3は、記憶部31と、制御部32とを備える。
記憶部31は、ROM(Read Only Memory)、及びRAM(Random Access Memory)などの記憶媒体を含む。記憶部31は、測定画像、モデル化パラメータ、再構成画像、又は補正した測定画像を記憶する。また、記憶部31は、制御部32が実行するプログラムを記憶する。
制御部32は、図示しないCPU(Central Processing Unit)等のプロセッサを含む計算リソースである。制御部32は、記憶部31に記憶されたプログラムを実行することによって、装置制御部321、画像取得部322、モデル化部323、中間画像生成部324、ノイズ閾値画像生成部325、ノイズ除去部326、及び形状特定部327の機能を実現する。装置制御部321は、指示情報を送信することにより、投影装置1及び撮像装置2を制御する。
装置制御部321は、測定対象物に投影光を投影するように投影装置1を制御する。具体的には、装置制御部321は、投影画像における座標によって定まる位相にしたがって輝度が変動する投影パターンの光を、複数の異なる位相差を位相に加えて順次測定対象物に投影させるように投影装置1を制御する。装置制御部321は、例えば正弦波パターンを有する投影画像を、正弦波パターンの位相を変化させて複数回投影するように投影装置1を制御する。
装置制御部321は、正弦波パターンの位相をN回変更することによりN枚の投影画像を順次測定対象物に投影するように投影装置1を制御してもよい。装置制御部321は、例えば、正弦波パターンの位相をN回変化させる場合、正弦波パターンの位相をδ=2πi/N(i=1、2、…、N)ずつ変化させるように投影装置1を制御する。また、例えば、装置制御部321は、正弦波パターンを投影する場合、投影画像の座標(x,y)における光の強度をI(x,y)として、I(x,y)=Isin(2πxT/M+δ)に従う正弦波パターンを有する投影画像を測定対象物に投影するように制御する。なお、Mは、投影画像のx方向の画素数、Tは投影画像に含まれる正弦波パターンの数である。
装置制御部321は、投影光が投影された測定対象物を撮像することで測定画像を生成するように撮像装置2を制御する。具体的には、装置制御部321は、複数の投影パターンの光がそれぞれ投影された測定対象物を順次撮像することで複数の異なる測定画像を生成するように撮像装置2を制御する。装置制御部321は、複数の異なる測定画像を画像取得部322に送信するように撮像装置2を制御する。装置制御部321は、複数の異なる測定画像に撮像順を識別する識別子を付与して、画像取得部322に送信するように撮像装置2を制御してもよい。
画像取得部322は、予め定められた複数の条件のそれぞれにおいて測定対象物を撮像することで得られる複数の測定画像を取得する。「複数の条件」は、例えば、測定対象物に投影する投影パターン、投影パターンが投影された測定対象物を撮像した順序、投射する光の波長、光を投射する光学系である。画像取得部322は、取得した複数の異なる測定画像をモデル化部323に通知する。
モデル化部323は、複数の測定画像においてそれぞれ対応する画素の画素値を複数の条件により定まる順序にしたがって並べたデータ列を近似する近似関数のモデル化パラメータを、測定画像の画素ごとに特定する。例えば、モデル化部323は、複数の測定画像においてそれぞれ対応する画素の画素値を、複数の測定画像を撮像順に並べたデータ列を近似する近似関数のモデル化パラメータを、測定画像の各画素についてそれぞれ特定する。なお、以下の説明においては、データ列を撮像順に並べたものとして説明するが、データ列を他の条件に従って並べてもよい。
図4を参照しながら、モデル化部323が、データ列を近似する近似関数のモデル化パラメータを特定する方法について説明する。図4は、データ列を近似する近似関数について説明するための図である。図4(a)は、複数の測定画像を撮像順に並べた模式図である。図4(a)における横軸は測定画像のx座標を表し、縦軸は測定画像のy座標を表す。以下の説明においては、画像取得部322が6枚の測定画像(P1、P2、P3、P4、P5、P6)を取得したものとして説明する。図4(a)におけるIiはi番目の測定画像におけるx座標及びy座標により定まる画素の画素値を示す。
図4(b)は、座標(x,y)で定まる画素の画素値Iを撮像順に並べたデータ列をプロットした模式図である。図4(b)の横軸は測定画像の撮像順を示し、縦軸は画素の画素値の大きさを示す。i枚目の測定画像における座標(x,y)により定まる画素の画素値Ii(x,y)をそれぞれ黒丸でプロットした。破線で示す関数f(x,y)は、プロットしたデータ列を近似する近似関数である。
プロットしたデータ列の各データは、測定時の誤差を含んでいる。そのため、各データと、データ列に対応する近似関数に基づいて特定される近似値とは必ずしも一致しない。そこで、測定データと、近似値との差を測定時の誤差ε(x,y)として、誤差ε(x,y)の二乗和が最小になるようなモデル化パラメータを特定することにより、プロットしたデータ列に近似関数をフィッテイングすることができる。
図5を参照しながら、モデル化部323がモデル化パラメータを特定する処理について説明する。図5は、データ列を近似する近似関数におけるモデル化パラメータを特定する処理を説明するための図である。図5は、図4(b)と同様、画素の画素値を撮像順に並べたデータ列をプロットした模式図である。図5において、実線で示す関数fは、基準となる近似関数である。振幅Vは近似関数の振幅を示し、バイアスI’(x,y)は振幅Vの中心を示し、オフセットAは近似関数のオフセットを示す。破線で示す関数f(x,y)は、複数の測定画像においてそれぞれの対応する座標(x,y)の画素の画素値を撮像順に並べたデータ列の近似関数であり、基準となる近似関数から、位相φ、振幅ΔV、オフセットΔAだけずれた近似関数である。また、誤差ε(i=1~6)は、それぞれ、各データから、各データに対応する近似値までの距離を示す。
したがって、各データに対応する近似値は、以下の式(1)で表される。
Figure 0006998156000001
ここで、位相φ(x,y)は座標(x,y)における画素の画素値を並べたデータ列の近似関数の位相ずれを示す変数であって、測定対象物の高さに関連付けられた変数である。式(1)のI’(x,y)はバイアスI’(x,y)であり、V(x,y)は近似関数の振幅である。δはi番目の測定画像の位相である。δは、上記のようにδ=2πi/N(i=1、2、…、N)であり、本実施の形態においては、N=6である。位相k(x,y)は、投影パターンに含まれる正弦波パターンの位相に関連付けられた変数である。以下の説明においては、位相φ(x,y)と、位相k(x,y)との和を位相値ということがある。また、ε(x,y)は誤差である。式(1)は、変形することにより式(2)で表される。
Figure 0006998156000002
ここで、式(2)の各項を式(3)~(5)に示すように置換する。
Figure 0006998156000003
式(2)は、式(3)~(5)を用いて、式(6)で表される。
Figure 0006998156000004
座標(x,y)の画素値は、式(6)をそれぞれの測定画像について書き表すことにより、式(7)で表される。
Figure 0006998156000005
式(7)は、行列を用いて、式(8)で表される。
Figure 0006998156000006
式(8)をI=Xaと考える。このとき、I-Xaの2-ノルムを最小化するという意味において最適なベクトルaは最小二乗解として既知であり、a=(XX)-1Iと書ける。したがって、XXは、式(9)で表される。また、XIは、式(10)で表される。以下の式において、特に記載のない場合、添字の表記がないΣは、i=1~Nの総和であるものとする。
Figure 0006998156000007
δ=2πi/N(i=1、2、…、N)とすると、式(9)において、非対角行列は、全てゼロとなり、ベクトルaは、式(11)で表される。
Figure 0006998156000008
よって、aは式(12)で表され、aは式(13)で表され、aは式(14)で表される。
Figure 0006998156000009
モデル化部323は、式(12)~(14)を用いて、モデル化パラメータである、画素の位相値(位相φ(x,y)と、位相k(x,y)との和)と、近似関数の振幅Vと、及びオフセットAとを特定する。画像の画素値は式(15)で表され、近似関数の振幅Vは式(16)で表され、オフセットAは式(17)で表される。モデル化部323は、特定したモデル化パラメータを、中間画像生成部324及びノイズ閾値画像生成部325に通知する。
Figure 0006998156000010
中間画像生成部324は、モデル化パラメータに基づいて測定対象物の形状を示す形状画像を生成するための中間画像を生成する。例えば、中間画像生成部324は、測定対象物の形状情報が、複数の条件により定まる位相に符号化された画像である中間画像を生成する。具体的には、中間画像生成部324は、測定対象物の形状情報が、モデル化パラメータである位相値(Φ(x,y)+k(x,y))として符号化された中間画像を生成する。中間画像生成部324は、生成した中間画像をノイズ除去部326へ通知する。
ノイズ閾値画像生成部325は、中間画像の各画素のノイズ閾値を特定したノイズ閾値画像を生成する。例えば、ノイズ閾値画像生成部325は、データ列と、各画素のモデル化パラメータに基づいて特定された各画素の近似値との誤差を示す統計量を用いて、中間画像の各画素のノイズ閾値を特定したノイズ閾値画像を生成する。例えば、ノイズ閾値画像生成部325は、データ列と、各画素の近似値との差の標準偏差を用いて、ノイズ閾値画像を生成する。具体的には、ノイズ閾値画像生成部325は、統計量である標準偏差に基づき誤差伝播の法則で定まる位相誤差の標準偏差を用いて、ノイズ閾値画像を生成する。以下、ノイズ閾値画像生成部325がノイズ閾値を特定し、ノイズ閾値画像を生成する方法について説明する。
ノイズ閾値画像生成部325は、まず、複数の測定画像それぞれの各画素の画素値I(x,y)と、複数の測定画像それぞれに対応する再構成画像の各画素の画素値I (x,y)との差である推定誤差量ε'(x,y)を特定する。特定した推定誤差量ε'(x,y)は、式(18)で表される。
Figure 0006998156000011
ノイズ閾値画像生成部325は、式(18)を用いて、推定誤差量の標準偏差σ(x,y)を特定する。標準偏差σ(x,y)は、式(19)で表される。
Figure 0006998156000012
ノイズ閾値画像生成部325は、式(19)、及び既知の誤差伝播の法則を用いて、位相値の推定誤差σφを特定する。推定誤差σφは、式(20)で表される。
Figure 0006998156000013
ノイズ閾値画像生成部325は、式(20)で特定した位相値の推定誤差σφを用いて、ノイズ閾値画像を生成する。ノイズ閾値画像生成部325は、例えば、既知のD. Donohoのアルゴリズム(Dnoho, D.L., I.M. Johnstone, IEEE Trans. on Inf. Theory, 41, 3, 613)を用いて中間画像の各画素それぞれのノイズ閾値を特定する。特定したノイズ閾値は、式(21)で表される。
Figure 0006998156000014
なお、ノイズ閾値画像生成部325がノイズ閾値を特定するアルゴリズムは、上記に限らず、既知のアルゴリズムを使用してもよい。ノイズ閾値画像生成部325は、生成したノイズ閾値画像をノイズ除去部326に通知する。
ノイズ除去部326は、ノイズ閾値画像生成部325から取得したノイズ閾値画像を用いて中間画像を閾値処理する。ノイズ除去部326が閾値処理する方法は、既知の方法を利用できる。例えば、ノイズ除去部326は、ノイズ閾値画像に基づいて、hard thresholding法、又はsoft thresholding法を用いて中間画像を閾値処理する。このようにすることで、ノイズ除去部326は、中間画像のノイズを低減することができる。
図1に示すように、測定対象物が撮像装置2の画角と比較して小さい場合、測定対象物の画像が測定画像の一部にのみ存在することが起こり得る。この場合、中間画像においても測定対象物の形状を測定するための信号は、中間画像の一部にのみ存在することになる。ここで、測定画像又は中間画像のノイズ低減処理としてフーリエ変換を用いる手法が周知であるが、フーリエ変換を用いたノイズ低減処理は画像全体を周波数解析の対象とする。したがって、測定対象物の画像が測定画像の一部にのみ存在するような場合には、フーリエ変換を用いる手法は必ずしも適さない。
そこで、ノイズ除去部326は、中間画像をウェーブレット変換して得られる画像の各画素を、ノイズ閾値画像をウェーブレット変換して得られる画像において対応する画素のノイズ閾値を用いて閾値処理してもよい。ウェーブレット変換の基底は、任意の基底を使用でき、測定対象物に応じて決定してもよいし、ユーザが任意に設定できるようにしてもよい。ノイズ除去部326は、ウェーブレット変換の変換レベルLを決定する。変換レベルLは、ウェーブレット変換の基底と同様に、測定対象物に応じて決定してもよいし、ユーザが任意に設定できるようにしてもよい。
ノイズ除去部326は、中間画像及びノイズ閾値画像を変換レベルLに従ってウェーブレット変換する。ノイズ除去部326は、中間画像を変換レベルLに従ってウェーブレット変換して得られた画像の各画素を、ノイズ閾値画像を変換レベルLに従ってウェーブレット変換して得られた画像において対応する画素のノイズ閾値を用いて閾値処理する。例えば、ノイズ除去部326は、soft thresholding法を用いて中間画像をウェーブレット変換して得られた画像を閾値処理する(式(22))。
Figure 0006998156000015
なお、φ’は、変換レベルLに従ってウェーブレット変換して得られた画像の各画素の位相値であり、Φ(x,y)は、座標(x,y)に対応する画素の位相値をノイズ閾値処理した後の位相値である。
ノイズ除去部326は、ノイズ閾値処理した画像を逆ウェーブレット変換することにより中間画像を生成する。このようにノイズ除去部326はウェーブレット変換を用いてノイズ除去をすることにより、中間画像に局在するノイズを低減することができる。また、ノイズ除去部326は、変換レベルLに応じた周波数成分において閾値処理することにより、中間画像のノイズを低減することができる。ノイズ除去部326は、閾値処理した中間画像を形状特定部327に通知する。
形状特定部327は、中間画像を用いて、測定対象物の形状を特定するための形状画像を生成する。例えば、形状特定部327は、複数の条件から定まる演算処理を、ノイズ除去部326が閾値処理した中間画像に施して形状画像を生成する。具体的には、形状特定部327は、投影パターンから定まる演算処理を閾値処理した中間画像に施して形状画像を生成する。
以下、図6を参照しながら、画像処理装置3がノイズを低減する処理の流れについて説明する。図6は、画像処理装置がノイズを低減する処理のフローチャートである。まず、装置制御部321が、投影装置1を制御して、複数の投影パターンの光を投影させる(ステップS1)。装置制御部321が、撮像装置2を制御して、複数の投影パターンの光が投影された測定対象物を撮像させ、測定画像を生成させる。画像取得部322が、撮像装置2が生成した測定画像を取得する(ステップS2)。
次に、モデル化部323が、取得した複数の測定画像のモデル化パラメータを特定する。続いて、中間画像生成部324が、モデル化パラメータに基づいて中間画像を生成する(ステップS3)。そして、ノイズ閾値画像生成部325が、モデル化パラメータに基づいてノイズ閾値画像を生成する(ステップS4)。なお、ステップS3と、ステップS4とは、順序が逆になっても構わない。
ノイズ除去部326が、ノイズ閾値画像生成部325が生成したノイズ閾値画像を用いて、中間画像生成部324が生成した中間画像を閾値処理する(ステップS5)。そして、形状特定部327が、閾値処理した中間画像を用いて測定対象物の形状を特定するための形状画像を生成する(ステップS6)。
[実施の形態の効果]
以上説明したように、画像処理装置3のモデル化部323が複数の測定画像それぞれの各画素のモデル化パラメータを特定する。中間画像生成部324が中間画像を生成し、ノイズ閾値画像生成部325がノイズ閾値画像を生成する。ノイズ除去部326が、ノイズ閾値画像を用いて中間画像を閾値処理する。このようにすることで、ノイズ除去部326は、測定画像からノイズを低減することができる。そして、形状特定部327が、閾値処理した中間画像を用いて測定対象物の形状を特定するための形状画像を生成する。このようにすることで、形状特定部327は、ノイズが低減された中間画像を用いて測定対象物の形状を特定するための形状画像を生成することができるので、測定精度を向上することができる。
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されず、その要旨の範囲内で種々の変形及び変更が可能である。例えば、装置の分散・統合の具体的な実施の形態は、以上の実施の形態に限られず、その全部又は一部について、任意の単位で機能的又は物理的に分散・統合して構成することができる。また、複数の実施の形態の任意の組み合わせによって生じる新たな実施の形態も、本発明の実施の形態に含まれる。組み合わせによって生じる新たな実施の形態の効果は、もとの実施の形態の効果を合わせ持つ。
(変形例1)
投影画像が投影された測定対象物を撮像することにより、測定対象物の形状を測定するための画像処理システムSについて説明したが、画像処理システムはこれに限らない。以下、レーザー干渉計を用いた画像処理システムS1について説明する。
図7を参照しながら、レーザー干渉を利用した画像処理システムS1について説明する。図7は、変形例1に係る画像処理システムS1の概要を説明するための図である。以下、画像処理システムS1について、画像処理システムSと異なる点について説明し、同様の点は適宜省略する。画像処理システムS1は、所定の波長のレーザーを参照面及び測定対象物に投射し、参照面及び測定対象物それぞれから反射した反射光を干渉させることにより、測定対象物の形状を測定するための画像処理システムである。
画像処理システムS1は、撮像装置2と、画像処理装置3と、レーザー発振器4と、偏光ビームスプリッタ5とを備える。画像処理装置3は、撮像装置2及びレーザー発振器4それぞれと通信可能に接続されている。画像処理装置3は、測定対象物11を適宜移動することができる。なお、画像処理装置3は、測定対象物11を移動するかわりに、参照面10を移動してもよい。
レーザー発振器4は、画像処理装置3の指示に基づいて、所定の波長のレーザーを発信するレーザー発振器である。レーザー発振器が発信したレーザーは、偏光ビームスプリッタにおいて、参照面10へ向かうレーザーと、測定対象物11へ向かうレーザーとに偏光して分岐される。参照面10及び測定対象物11の表面において反射したレーザー(反射光)は、偏光ビームスプリッタを経て撮像装置2へ向かう。図7において、Wrは参照面10の表面において反射したレーザーを示し、Wtは測定対象物11の表面において反射したレーザーを示す。
図8を参照しながら、参照面10の表面において反射したレーザーと、測定対象物11の表面において反射したレーザーとの干渉、及び撮像装置2が取得する測定データについて説明する。図8は、2つのレーザーの干渉及び測定データを説明するための図である。図8において、Wrは参照面10の表面において反射したレーザーを示し、Wtは測定対象物11の表面において反射したレーザーを示す。
画像処理装置3は、レーザー光の波長により定まる移動距離だけ測定対象物11を移動するごとに、撮像装置2に測定画像を生成するように制御する。このようにすることで、画像処理装置3は、2つのレーザーの位相のずれが異なった状態で、2つのレーザーの干渉画像である測定画像を取得することができる。
図8(a)は、2つのレーザーの位相が略一致した場合を示す模式図である。図8(b)は、2つのレーザーが干渉して振幅が互いに強め合い、振幅が大きくなったことを示す模式図である。図8(c)は、2つのレーザーの位相が略一致した場合に取得される測定画像を示す模式図である。図8(c)に示すように、2つのレーザーの位相が略一致した場合に取得される測定画像は、測定画像の全域で光の強度が強い(明るい)画像となる。
図8(d)は、2つのレーザーの位相がおよそπ(rad)ずれた場合を示す模式図である。図8(e)は、2つのレーザーが干渉して振幅が互いに弱めあい、振幅が小さくなったことを示す模式図である。図8(f)は、2つのレーザーの位相がおよそπ(rad)ずれた場合に取得される測定画像を示す模式図である。図8(f)に示すように、2つのレーザーの位相がおよそπ(rad)ずれた場合に取得される測定画像は、測定画像の全域で光の強度が弱い(暗い)画像となる。
レーザー干渉計における測定画像は、測定画像の全域において、ほぼ同程度の光の強度の画像となる。ある測定画像における各画素の光の強度が異なることは、測定対象物の高さが異なることと関連付けられている。画像処理装置3は、各画素の光の強度に基づいて測定対象物の高さを特定することができる。
図8(g)は、座標で定まる画素の画素値を撮像順に並べたデータ列をプロットした模式図である。図8(g)の横軸は、測定対象物11を移動することにより生じた2つのレーザーの位相差を示し、縦軸は光の強度に関連付けられた画素の画素値の大きさを示す。図8(g)において、画素の画素値は、2つのレーザーが干渉した光の強度である。
ある測定画像における座標により定まる画素の画素値をそれぞれ黒丸でプロットした。例えば、図8(g)において(a)で示す黒丸は、2つのレーザーの位相が略一致した場合の干渉画像の測定データである。また、図8(g)において(b)で示す黒丸は、2つのレーザーの位相がおよそπ(rad)ずれた場合の干渉画像の測定データである。実線で示す関数fは、プロットしたデータ列を近似する近似関数である。図8(g)で示した干渉画像のデータ列をプロットした模式図は、図4(c)又は図5で示した測定画像のデータ列をプロットした模式図と同様の図である。
以下、変形例1における画像処理装置3は、上記の画像処理装置3と同様に測定画像を処理することにより、中間画像のノイズを低減することができる。また、画像処理装置3は、ノイズを低減した中間画像を用いて形状を特定するための形状画像を生成することにより、測定対象物の形状を測定する精度を向上することができる。
(変形例2)
変形例1における画像処理システムS1は、参照面10又は測定対象物11を移動することにより、2つのレーザーの位相がずれた状態で複数の測定画像を取得したが、これに限らず、レーザーを光学的に偏光して分岐することで、複数の位相のずれた干渉画像である測定画像を取得するようにしてもよい。
図9を参照しながら、偏光位相シフトを用いたレーザー干渉を利用した画像処理システムS2について説明する。図9は、変形例2に係る画像処理システムS2の概要を説明するための図である。以下、画像処理システムS2について、画像処理システムS及び画像処理システムS1と異なる点について説明し、同様の点は適宜省略する。画像処理システムS2は、所定の波長のレーザーを参照面及び測定対象物に投射し、参照面及び測定対象物それぞれから反射した反射光を干渉させることにより、測定対象物の形状を測定するための画像処理システムである。
画像処理システムS2は、複数の撮像装置2(2a、2b、2c、2d)と、画像処理装置3と、レーザー発振器4と、偏光ビームスプリッタ5a及び5bと、コーナーキューブ6と、複数のビームスプリッタ7(7a、7b、7c、7d)と、コリメータレンズ8a及び8bと、複数の偏光板9(9a、9b、9c、9d)と、1/4波長板12と、拡大レンズ13を備える。画像処理装置3は、複数の撮像装置2及びレーザー発振器4それぞれと通信可能に接続されている。なお、複数の撮像装置2は撮像素子であってもよく、画像処理装置3が複数の撮像素子を備えていてもよい。
レーザー発振器が発信したレーザーは、偏光ビームスプリッタ5aにおいて偏光して分岐される。偏光ビームスプリッタ5aにおいて偏光して分岐された一方のレーザーは直進して偏光ビームスプリッタ5bに至り、もう一方のレーザーはコーナーキューブ6を経由して偏光ビームスプリッタ5bに至る。偏光ビームスプリッタ5bを通過したレーザーは、上記の各種光学系を通過して、1/4波長板12に至る。
1/4波長板12を通過したレーザーは、複数のビームスプリッタ7においてそれぞれ分岐される。分岐されたレーザーそれぞれは、偏光板9を通過して撮像装置2に至る。画像処理システムS2においては、参照面10において反射したレーザーと、測定対象物11において反射したレーザーとが、撮像装置2において干渉するように構成されている。具体的には、複数の偏光板9が、撮像装置2において2つのレーザーが異なる位相において干渉するように設定されている。画像処理装置3は、複数の撮像装置2それぞれを制御して、2つのレーザーの干渉画像である測定画像を生成させる。
このようにすることで、画像処理システムS2における画像処理装置3は、2つのレーザーの位相のずれが異なった状態で、複数の干渉画像である測定画像を取得することができる。以下、変形例2における画像処理装置3は、上記の画像処理装置3と同様に測定画像を処理することにより、中間画像のノイズを低減することができる。また、画像処理装置3は、ノイズを低減した中間画像を用いて形状を特定するための形状画像を生成することにより、測定対象物の形状を測定する精度を向上することができる。
1 投影装置
2 撮像装置
3 画像処理装置
4 レーザー発振器
5 偏向ビームスプッリッタ
6 コーナーキューブ
7 ビームスプリッタ
8 コリメータレンズ
9 偏光板
10 参照面
11 測定対象物
12 波長板
13 拡大レンズ
31 記憶部
32 制御部
321 装置制御部
322 画像取得部
323 モデル化部
324 中間画像生成部
325 ノイズ閾値画像生成部
326 ノイズ除去部
327 形状特定部

Claims (3)

  1. 予め定められた複数の条件のそれぞれにおいて測定対象物を撮像することで得られる複数の測定画像を取得する画像取得部と、
    前記複数の測定画像においてそれぞれ対応する画素の画素値を前記複数の条件により定まる順序にしたがって並べたデータ列を近似する近似関数の位相、振幅、及びオフセットを含むモデル化パラメータを、前記測定画像の画素ごとに特定するモデル化部と、
    前記モデル化パラメータに基づいて前記測定対象物の形状を示す形状画像を生成するための中間画像を生成する中間画像生成部と、
    前記データ列が示す各画素の位相値と、前記各画素のモデル化パラメータに基づいて特定された各画素の位相の近似値との誤差に対応する複数の標準偏差算出し、誤差伝播の法則を用いて前記複数の標準偏差に基づいて算出した前記位相値の推定誤差に基づいて、前記中間画像の各画素のノイズ閾値を特定したノイズ閾値画像を生成するノイズ閾値画像生成部と、
    前記中間画像をウェーブレット変換して得られる画像の各画素を、前記ノイズ閾値画像をウェーブレット変換して得られる画像において対応する画素のノイズ閾値を用いて閾値処理することで得られる画像を逆ウェーブレット変換することにより、前記中間画像を更新するノイズ除去部と、
    前記複数の条件から定まる演算処理を、前記ノイズ除去部が更新した後の前記中間画像に施して前記形状画像を生成する形状画像生成部と、
    を備える画像処理装置。
  2. 前記中間画像生成部は、前記測定対象物の形状情報が、前記複数の条件により定まる位相に符号化された画像である前記中間画像を生成する
    請求項に記載の画像処理装置。
  3. コンピュータに、
    予め定められた複数の条件のそれぞれにおいて測定対象物を撮像することで得られる複数の測定画像を取得する機能と、
    前記複数の測定画像においてそれぞれ対応する画素の画素値を前記複数の条件により定まる順序にしたがって並べたデータ列を近似する近似関数のモデル化パラメータを、前記測定画像の画素ごとに特定する機能と、
    前記モデル化パラメータに基づいて前記測定対象物の形状を示す形状画像を生成するための中間画像を生成する機能と、
    前記データ列が示す各画素の位相値と、前記各画素のモデル化パラメータに基づいて特定された各画素の位相の近似値との誤差に対応する複数の標準偏差算出し、誤差伝播の法則を用いて前記複数の標準偏差に基づいて算出した前記位相値の推定誤差に基づいて、前記中間画像の各画素のノイズ閾値を特定したノイズ閾値画像を生成する機能と、
    前記中間画像をウェーブレット変換して得られる画像の各画素を、前記ノイズ閾値画像をウェーブレット変換して得られる画像において対応する画素のノイズ閾値を用いて閾値処理することで得られる画像を逆ウェーブレット変換することにより、前記中間画像を更新する機能と、
    前記複数の条件から定まる演算処理を、更新した後の前記中間画像に施して前記形状画像を生成する機能と、
    を実現させるプログラム。
JP2017169846A 2017-09-04 2017-09-04 画像処理装置、及びプログラム Active JP6998156B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2017169846A JP6998156B2 (ja) 2017-09-04 2017-09-04 画像処理装置、及びプログラム
US16/116,159 US10607360B2 (en) 2017-09-04 2018-08-29 Image processing apparatus and non-transitory computer-readable storage medium
DE102018006932.0A DE102018006932A1 (de) 2017-09-04 2018-08-31 Bildverarbeitungseinrichtung und -programm
CN201811024890.4A CN109427048B (zh) 2017-09-04 2018-09-04 图像处理装置和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017169846A JP6998156B2 (ja) 2017-09-04 2017-09-04 画像処理装置、及びプログラム

Publications (2)

Publication Number Publication Date
JP2019046268A JP2019046268A (ja) 2019-03-22
JP6998156B2 true JP6998156B2 (ja) 2022-01-18

Family

ID=65364086

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017169846A Active JP6998156B2 (ja) 2017-09-04 2017-09-04 画像処理装置、及びプログラム

Country Status (4)

Country Link
US (1) US10607360B2 (ja)
JP (1) JP6998156B2 (ja)
CN (1) CN109427048B (ja)
DE (1) DE102018006932A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3701219A4 (en) * 2017-10-27 2021-06-30 AP Robotics, LLC SYSTEMS AND METHODS FOR COLLECTING DATA AND INFORMATION ABOUT SURFACE PROPERTIES OF AN OBJECT
CN110632094B (zh) * 2019-07-24 2022-04-19 北京中科慧眼科技有限公司 一种基于逐点比对分析的图纹质量检测方法,装置与系统

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008157797A (ja) 2006-12-25 2008-07-10 Matsushita Electric Works Ltd 3次元計測方法及びそれを用いた3次元形状計測装置

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5327245B2 (ja) * 2011-02-08 2013-10-30 株式会社ニコン 画像処理装置、電子カメラ及び画像処理プログラム
WO2015120020A1 (en) * 2014-02-04 2015-08-13 The Trustees Of Dartmouth College Apparatus and methods for structured light scatteroscopy
KR101661850B1 (ko) * 2014-04-17 2016-09-30 가부시키가이샤 모르포 화상 처리 장치, 화상 처리 방법, 화상 처리 프로그램 및 기록 매체

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008157797A (ja) 2006-12-25 2008-07-10 Matsushita Electric Works Ltd 3次元計測方法及びそれを用いた3次元形状計測装置

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
B. Karacali, W. Snyder et al.,"Noise Reduction in Surface Reconstruction from a Given Gradient Field",International Journal of Computer Vision,NL,Kluwer Academic Publishers,2004年01月31日,Vol.60, No.1,pp.25-44,https://www.researchgate.net/publication/226086377
David L. Donoho,"De-Noising by Soft-Thresholding",IEEE Transactions on Information Theory,米国,IEEE,1995年05月31日,Vol.41, No.3,pp.613-627
Se Young Yang et al.,"Developing phase-shifting micro moire interferometry using phase shifter with rough resolution and by shifting specimen grating",Advances in Electronic Materials and Packaging 2001,米国,IEEE,2001年11月19日,pp.399-403
Silvio Montresor et al.,"Quantitative appraisal for noise reduction in digital holographic phase imaging ",Optics Express,米国,The Optical Society,2016年06月16日,Vol.24, No.13,pp.14322-14343

Also Published As

Publication number Publication date
CN109427048B (zh) 2023-08-25
DE102018006932A1 (de) 2019-03-07
US10607360B2 (en) 2020-03-31
CN109427048A (zh) 2019-03-05
JP2019046268A (ja) 2019-03-22
US20190073784A1 (en) 2019-03-07

Similar Documents

Publication Publication Date Title
US11900624B2 (en) Digital fringe projection and multi-spectral polarization imaging for rapid 3D reconstruction
Karpinsky et al. High-resolution, real-time 3D imaging with fringe analysis
US11327297B2 (en) Generation method for programmable analog fringe pattern with extended depth of field
CN106097269B (zh) 基于计算鬼成像的高分辨率微视觉系统及获取图像的方法
EP2327956B1 (en) Method and apparatus for determining the height of a number of spatial positions on a sample
KR102149707B1 (ko) 3차원 형상 계측 장치, 3차원 형상 계측 방법 및 프로그램
US10664981B2 (en) Data processing apparatus and method of controlling same
US20190004476A1 (en) Dynamic Holography Printing Device
US20150271466A1 (en) Measuring device, measuring method, and computer program product
JP6998156B2 (ja) 画像処理装置、及びプログラム
JP2019144520A (ja) ホログラム記録装置及び像再生装置
US8022344B2 (en) Optical wavefront control pattern generating apparatus and optical wavefront control pattern generating method
Zhang Active versus passive projector nonlinear gamma compensation method for high-quality fringe pattern generation
Zhu et al. Temporal-spatial encoding binary fringes toward three-dimensional shape measurement without projector nonlinearity
Jensen et al. An error analysis of structured light scanning of biological tissue
JP7412166B2 (ja) 撮像装置および撮像方法
KR102104238B1 (ko) 광변조기 기반 구조 조명 현미경 시스템 및 상기 시스템에 의해 수행되는 이미지 생성 방법
JP2011085411A (ja) 形状測定装置、形状測定方法およびプログラム
US10436570B1 (en) High speed Michelson interferometer microscope
Guo et al. High-speed fringe projection for robot 3D vision system
KR102542900B1 (ko) 표면 프로파일 측정 장치 및 그의 제어방법
JP7080610B2 (ja) 画像処理装置、画像処理システム及びプログラム
Suresh High speed 3D photomechanics testing via additional temporal sampling
US11506478B2 (en) Three dimensional (3D) imaging using optical coherence factor (OCF)
Bushman et al. Phase unwrapping by least squares error minimization of phase curvature

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200804

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210823

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210831

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211027

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211124

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211220

R150 Certificate of patent or registration of utility model

Ref document number: 6998156

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150