JP4241250B2 - ３次元形状測定装置および方法 - Google Patents

Description

本発明は，パターン投影法を用いて対象物体までの距離情報を取得する３次元形状測定技術に関する。

対象物の形状を計測する手法として，対象物に基準となるパターンを投影してこの基準となるパターン光が投影された方向とは異なる方向からＣＣＤカメラなどで撮影を行うパターン投影法と呼ばれる手法がある。撮影されたパターンは物体の形状によって変形を受けたものとなるが，この撮影された変形パターンと投影したパターンとの対応づけを行うことで，物体の３次元計測を行うことができる。パターン投影法では変形パターンと投影したパターンとの対応づけをいかに誤対応を少なく，かつ簡便に行うかが課題となっている。そこで様々なパターン投影法が従来より提案されている。

例えば特許文献１に開示される手法は，コード化されたパターンを投影する投光器と，投光器の光軸方向から投影パターンを撮影する第１のカメラと，投光器の光軸方向と異なる方向から投影パターンを撮影する第２のカメラとを備え，投影パターンに対する第１のカメラによる撮影パターンの変化量が所定値以上の領域について新たなコードを割り付け，割り付けたコードを用いて第２のカメラによる撮影パターンから第１の距離情報を生成し，第１の距離情報および第１のカメラより得られた輝度情報に基づいて３次元画像を得るよう構成した３次元画像撮影装置であり，強度が３レベルのストライプパターン（スリットパターンと呼ぶこともある）を投影パターンとしている。投影パターンを同じ光軸に置いた第１のカメラで撮影したパターンを用いて再コード化することにより精度よく３次元計測を行うことができる。

また特許文献２ではストライプ光の露光量を決める複数のマスクパターンを用意し，カメラの１フレーム露光時間中にマスクパターンを順次切り換えることにより複数階調のコード化パターンを投射している。
特開２０００−６５５４２号公報 特開２００２−１３１０３１号公報

しかしながら上記のような複数レベルのパターンを投影する場合，前者の例の３レベルのパターンでは６本のストライプが１セットとなり，後者の例では４マスクで１６本のストライプが１セットとなり，これの繰り返しパターンを投影することになる。このように繰り返しの周期が小さいと，コードの探索処理の際誤ってマッチングする確率が増大するという問題が生じる。この問題を回避するために前者の例では，レベル数を増やせばよく，後者の例ではカメラの１フレーム内でマスクの種類を増やすことになる。

しかしこのようにパターンのレベル数を増やしていくと，投影系および撮像系のＭＴＦ（振幅伝達関数）やＣＣＤカメラのＳ／Ｎなどの信号劣化要因から隣接するパターン領域が相互に影響しあい，誤った値を検出する可能性が高くなるという新たな問題が発生する。また表面色が暗い物体を測定する場合には，反射率が小さくなるのでカメラに取り込む画像上ではパターンのダイナミックレンジが小さくなり，ストライプごとの階調段差が縮小してコード処理で誤った値を算出するなどの問題もある。

本発明はこのような課題に鑑みなされたもので，複数レベルの投影パターンを用いた３次元形状測定手法において，正確なパターン検出が可能な３次元形状測定技術を提供することを目的とする。

この発明によれば，上述の目的を達成するために，特許請求の範囲に記載のとおりの構成を採用している。ここでは，発明を詳細に説明するのに先だって，特許請求の範囲の記載について補充的に説明を行なっておく。

すなわち，この発明の第１の側面によれば，上述の目的を達成するために，全白から全黒までを実質的に等間隔に区切った複数レベルの輝度でコード化されたストライプパターンを被写体に投影する投光器の光軸からずれて配置されるカメラで前記被写体を撮影することに基づいて，前記被写体の３次元画像を得る３次元形状測定装置において，隣接する２つのストライプの輝度レベル差が２レベル以上となるように配列したストライプパターンを使用するようにしている。

また，この発明の第２の側面によれば，上述の目的を達成するために，全白から全黒までを実質的に等間隔に区切った複数レベルの輝度でコード化されたストライプパターンを被写体に投影する投光器の光軸からずれて配置されるカメラで前記被写体を撮影することに基づいて，前記被写体の３次元画像を得る３次元形状測定装置において，色分布が一様な被写体に投影されるストライプパターンが，全白から全黒までを等間隔に区切った複数レベルの輝度となるように，投光器の入力データをそのガンマ特性に基づいて決定するようにしている。この場合、前記投光器の入力データを、前記投光器のガンマ特性ではなく、前記カメラのガンマ特性に基づいて決定するようにしてもよい。また双方のガンマ特性に基づいて決定するようにしてもよい。

また，発明の第１の側面による３次元形状測定装置において，前記投光器がデータプロジェクタであり，色分布が一様な被写体に投影されるストライプパターンが，全白から全黒までを実質的に等間隔に区切った複数レベルの輝度となるように，前記データプロジェクタの入力データを前記データプロジェクタのガンマ特性に基づいて決定するようにしてもよい。

また，発明の第１の側面による３次元形状測定装置において，前記投光器がスライドプロジェクタであり，色分布が一様な被写体被写体に投影されるストライプパターンが，全白から全黒までを実質的に等間隔に区切った複数レベルの輝度となるように，前記ストライプパターンが描画される媒体（たとえばスライドフィルムや透明基体に金属膜を蒸着したものであるが、これに限定されない）のパターンデータを，前記スライドプロジェクタのガンマ特性に基づいて決定するようにしてもよい。

さらに，上述の次元形状測定装置において，前記色分布が一様な被写体に投影されるストライプパターンが前記カメラによる撮影画像上で全白から全黒までを実質的に等間隔に区切った複数レベルの輝度となるように前記データプロジェクタの入力データまたは前記スライドフィルムのパターンデータを前記カメラのガンマ特性に基づいて決定するようにしてもよい。

なお，この発明は装置またはシステムとして実現できるのみでなく，方法としても実現可能である。また，そのような発明の一部をソフトウェアとして構成することができることはもちろんである。またそのようなソフトウェアをコンピュータに実行させるために用いるソフトウェア製品もこの発明の技術的な範囲に含まれることも当然である。

この発明の上述の側面および他の側面は特許請求の範囲に記載され以下実施例を用いて詳述される。

本発明によると，たとえば，全白から全黒までを等間隔に区切った複数レベルの輝度でコード化されたストライプパターンを被写体に投影する投光器の光軸からずれて配置されるカメラで前記被写体を撮影することに基づいて，前記被写体の３次元画像を得る３次元形状測定装置において，隣接する２つのストライプの輝度レベル差が２レベル以上となるように配列したパターンを使用するので，コード探索エラーの確率を小さくすることができる。また，パターン投影系のガンマ特性および撮影系のガンマ特性を鑑みたパターンを入力することにより，所望のストライプパターンを得ることが出来るので，コード探索エラーを減らすことが可能となる。

本発明に係る３次元画像測定装置の実施例を，図１および図２のシステム概略図を基にして説明する。

図１は，本発明の実施例の３次元画像測定装置の構成図であり，図１において，３次元画像測定装置は，３次元計測用にパターンを投影するパターン投影装置（たとえば液晶プロジェクタ）１０，同光軸でパターンをモニタする撮像装置（たとえばＣＣＤカメラ。第１カメラとも呼ぶ）２０，三角測量用撮像装置（たとえばＣＣＤカメラ。第２カメラとも呼ぶ）３０，その他図示しない計算処理装置等で構成される。４０はハーフミラーであり，５０は対象物である。この３次元測定装置の基本的な構成は，特許文献１（特開２０００−６５５４２号公報）に開示される構成と同様である。パターン投影装置１０は，液晶プロジェクタもしくはＤＬＰ（商標）プロジェクタ，またはスライドプロジェクタを用いる。パターン投影装置１０，たとえば液晶プロジェクタへ入力する投影パターンは，図２に示すような濃淡のあるストライプパターンを用い，例えば，図２の右側に図示されている対象物（物体）にパターン投影する。スライドプロジェクタを用いる場合，投影パターンはスライドフィルム上へ形成するか，ガラスパターンに金属膜などを蒸着し膜厚や網膜点パターンなどによって透過率をコントロールする。

図３に，たとえば液晶プロジェクタへ入力するパターンデータの水平方向の輝度プロファイルを示す。投影パターン（パターンデータ）は２５６階調を６段階に分けた７種類の輝度ストライプの組み合わせであるが，隣り合うストライプ同士が１段階のレベル差にならないように配置している。これは隣り合うストライプ同士のレベル差に限っては２５６階調を３段階（０，８５，１７０，２５５の４レベル）に分けたことと同等である。通常の４レベルのストライプを繰り返して１セットとする場合では，隣り合うストライプの各組み合わせが１セット中に重複して現れないようするには１セットを１２ストライプとするのが限界であり，このセットを繰り返して，多数のストライプを含むストライプパターンを構成していくことになる。隣り合うストライプの同じ組み合わせが，近くで重複して存在すると，コード探索のエラーの原因となる。これに対し，本実施例のように，７レベルのストライプを用い，しかも，隣り合うストライプ同士が１段階のレベル差にならないように配置すると，１セット中で，隣り合うストライプの同じ組み合わせが出現しないようにするのに，１セットのストライプ数を２８程度にすることができ，少なくとも２８ストライプの範囲では同一の隣り合うストライプの組み合わせが重複することはなく，コード探索エラーの確率も減少する。

図４にパターン投影の模様を示す。撮像装置（第１カメラ２０）と投影装置（パターン投影装置１０）をハーフミラー４０などで同光軸に配置し，三角計測用に撮像装置を用意し，図２に示すようなストライプパターンを投影する。同光軸の撮像素子（第１カメラ２０）で観測された画像（第１カメラ・イメージ）から再符号化を実施し，測定用撮像素子（第２カメラ３０）で観測された画像（第２カメラ・イメージ）とで３次元距離画像（距離）を算出する。

図５は，距離画像を算出する構成例を示しており，この図において，パターン投影装置１０がコード化されたパターンを対象物５０に投影する。このパターンはフレームメモリ１１０に記憶される。モニタ用の第１カメラ２０および三角測量用の第２カメラ３０により，対象物５０上の投影パターンを撮像しそれぞれパターン画像メモリ１２０，１５０に記憶する。

領域分割部１３０はパターン画像メモリ１２０のパターン画像を，パターン投影装置１０からの投影パターン（光）が十分に届いている領域（領域２ともいう）と届いていない領域（領域１ともいう）に分割する。たとえば，隣り合うストライプ間の強度差が閾値以下である領域については，投影パターンが十分に届いてないと判別し，ストライプ間の強度差が閾値以上である領域を投影パターンが十分に届いている領域と判別する。投影パターンが十分に届いている領域に関し，以下に述べるように，境界線となるエッジ画素算出を行い，距離計算を行う。投影パターンが十分に届いてない領域については，別途，視差に基づく距離計算を行う。ここではとくに説明しないが，詳細は特許文献１を参照されたい。

再コード化部１６０は，抽出された領域２についてストライプを抽出し，各ストライプをストライプ幅毎に縦方向に分割し，正方形のセルを生成し，セルの再コード化を行う。これについては後に詳述する。

コード復号部１７０は，パターン画像メモリ１５０に記憶されている，三角測量用の第２カメラ３０からのパターン画像の各セル（エッジ）のコードを再コード化部１６０からのコードを用いて判別する。これにより，パターン画像メモリ１５０のパターン画像における測定点ｐ（エッジ）の画素のｘ座標および光源からの照射方向（スリット角）θが決定され，後述する式（１）により距離Ｚが測定される（図１４参照）。３次元画像メモリ１８０は，この距離と，第１カメラ２０から取得した対象物の輝度値（輝度値メモリ１４０に記憶される）とを三次元画像データとして記憶する。

この構成例における３次元形状の算出の詳細についてさらに説明する。

同光軸のモニタ用の第１カメラ２０によって撮影されたパターン画像と投光に用いられたパターン画像を用いて図７に示すフローチャートに従って再コード化を行う。最初に第１カメラ２０で撮影されたパターン画像の領域分割を行う。隣り合うストライプ間の強度差が閾値以下である領域については，パターン投影装置１０からの投影パターンが届いてない領域１として抽出し，ストライプ間の強度差が閾値以上である領域を領域２として抽出し（Ｓ１０），領域２について境界線となるエッジ画素算出を行う。

抽出された領域２についてストライプを抽出し，各ストライプをストライプ幅毎に縦方向に分割し，正方形のセルを生成する。生成された各セルについて強度の平均値をとり，平均値を各セルの強度とする（Ｓ１１）。画像の中心から順に対応する各セル間の強度を比較し，対象物の反射率，対象物までの距離などの要因によってパターンが変化したためにセル間の強度が閾値以上異なった場合には新たなコードの生成，割り付けを行う（Ｓ１２〜Ｓ１６）。

図８は簡単のため単純化した例であるが，図８の左側のストライプ列がストライプの並びによってコード化された投光パターンであり，それぞれの強度に３（強），２（中），１（弱）が割り当てられている。図８の右側がそれぞれ同軸上の第１カメラ２０で撮影されたストライプをセルの幅でストライプと垂直方向に抽出したものである。図８の右上の例では，左から３つめのセルで強度が変化して新たなコードが出現したので，新たに０というコードを割り当てる。図８の右下の例では，左から３つめ上から２つめのセルで，既存のコードが出現しているので，セルの並びから新たなコードとして（２３２，１３１）という具合に（縦の並び，横の並び）によってコードを表現する。この再コード化は，対象の形状が変化に富む部位には２次元パターンなどの複雑なパターンを投光し，変化の少ない部位には簡単なパターンを投光しているのに等しい。この過程を繰り返し，全てのセルに対して一意なコードを割り付けることで再コード化を行う。

例として，図９の対象物に，図１０のパターンを投光した場合に第１カメラ２０，第２カメラ３０で得られる画像を簡単化したものをそれぞれ図１１，図１２に示す。この例では，板の表面には新たなコード化されたパターンとして図１３が得られる。

次に第２カメラ３０で得られたストライプ画像からストライプを抽出し，先ほどと同じようにセルに分割する。各セルについて，再コード化されたコードを用いて各セルのコードを検出し，検出されたコードに基づいて光源からの照射方向θを算出する。各画素の属するセルのθとカメラ２で撮影された画像上のｘ座標とカメラパラメータである焦点距離Ｆと基線長Ｌを用いて式（１）によって距離Ｚを算出する。なお，測定点ｐと，光源からの照射方向θと，第２カメラ３０で撮影された画像上のｘ座標と，カメラパラメータである焦点距離Ｆと，基線長Ｌとの関係を図１４に示す。

Ｚ＝ＦＬ／（ｘ＋Ｆｔａｎθ） …式（１）

この計算は実際にはセルの境界のｘ座標を利用して行うが，このときのｘ座標はカメラの画素解像度よりも細かい単位で計算することで計測精度を向上させている。ｘ座標値は，先に算出したエッジ画素の両側のセルの適当な数画素の輝度平均値ｄ１，ｄ２とエッジ画素の輝度ｄｅから求める。エッジ画素の両隣の画素位置ｐ１とｐ２と輝度平均値ｄ１とｄ２から一次補間した直線から輝度ｄｅに相当する画素位置ｄｅ’（図では便宜上ｘで示す）が求められ，これがｘ座標値となる。（図１５参照）

ここで投影パターンは２５６階調を６段階に分けた各４２階調または４３階調ごとの輝度ストライプの組み合わせであるが，隣り合うストライプ同士が１段階のレベル差にならないように配置しているので，単純に６段階に分けた輝度ストライプを組み合わせたパターンに比べストライプ間の強度差が大きくｘ座標値の算出が行いやすくなっている。ストライプ間の強度差が大きい場合と小さい場合のカメラの画素単位の輝度分布を図１６に示す。エッジ画素の両側の数画素の輝度平均値は各画素のノイズの影響により，グレーの横線の太さで示したような範囲を取りうる。図１６の左に示すように，強度差が大きい場合は，図１５の計算方法を適用するとエッジ画素の両側の数画素の輝度平均値のノイズの影響はグレーの各線の太さで表され，結果としてｘ座標値がａの範囲に決められる。しかし強度差が小さい場合はエッジ画素の両側の数画素の輝度平均値のノイズ成分の割合が強度差に対して相対的に大きくなり，ｘ座標値の算出に曖昧さが発生する，すなわち取りうる範囲がｂの範囲となって，結果として計測の精度を落とすことになる。このためストライプ間の強度差は大きいほうが望ましい。

図６はｘ座標を求める構成例を示している。図６においては，エッジ右近傍画素位置入力部２１０，エッジ右セル輝度平均値入力部２２０，エッジ左近傍画素位置入力部２３０，エッジ左セル輝度平均値入力部２４０，エッジ輝度入力部２５０からそれぞれｄ１，ｐ１，ｄ２，ｐ２，ｄｅを補間計算部２００に供給して上述のとおりｘ座標を計算する。

この実施例では，ストライプ間の強度差が２レベル以上になるようにパターンを制約しているので，ｘ座標値を高精度に計測できる。

つぎに投光器やカメラのガンマ特性の補正について説明する。

液晶プロジェクタをパターン投影装置（投光器）１０として用いると，液晶プロジェクタの入力画像に対して投影される出力画像はガンマ特性を有することが一般的である。そのため入力画像で２５６階調を６等分割しても，投影されたパターンの輝度は均等に７レベルとはなっていない。従って入力画像を作成する際にガンマ特性を考慮しなければならない。図１７のような横軸の入力レベルに対する縦軸の出力レベルというガンマ特性をもったプロジェクタでは，グラフから入力画像は０，１４８，１８５，２０３，２２２，２３７，２５５という各輝度階調値を有するストライプパターンとすることが望ましい。パターン投影装置（投光器）１０がＤＬＰプロジェクタの場合も同様であり，パターン投影装置（投光器）１０がスライドプロジェクタの場合は，スライドフィルムのガンマ特性を考慮したデータをフィルム作成時に用意する必要がある。

またＣＣＤカメラにも同様にガンマ特性が存在するので，カメラ画像上で均等な輝度間隔のストライプパターンを得たい場合には，さらにＣＣＤカメラのガンマ特性をも考慮した入力画像が必要となる。

なお，この発明は上述の実施例に限定されるものではなくその趣旨を逸脱しない範囲で種々変更が可能である。例えば，以上の実施例においては７レベルに均等分割する例を述べたが，これ以外のレベル数を設定しても良いことはいうまでもない。また２５６階調を７レベルに均等分割する場合，２５５は６で割り切れないので各レベルの間隔を４２階調または４３階調に丸め込むことは本発明の技術的な範囲に含まれる。

また本発明は，可視領域波長のほか，近赤外などの不可視波長の投射光に関しても有効であることはいうまでもない。

また，上述の例では，ストライプ間の強度差が２レベル以上になるような制約を加えてパターンを生成し，さらにガンマ特性の補正を行うようにしたが，強度差が２レベル以上にしない場合でも，ガンマ特性の補正をすることで，結果として，ｘ座標を比較的高精度に計測することが保証できる。本発明は，ガンマ特性の補正のみでｘ座標値の高精度な計測を可能にする構成も含むものである。また，場合によっては，ストライプ間の強度差を３レベル，あるいはそれ以上のレベルに制約することも可能である。

本発明の実施例の装置構成を示す図である。 上述実施例を説明するためのパターンと被写体の一例を示す図である。 上述実施例のストライプパターン例を示す図である。 上述実施例の動作を説明する概要図である。 上述実施例の構成例を説明するブロック図である。 上述構成例の測定点の第２カメラの画像上の座標ｘの補間計算を行う回路構成例を説明する図である。 上述実施例の動作を説明するフローチャートである。 上述実施例のコード化を説明する図である。 上述実施例のコード化を説明するためのカメラと被写体の配置図である。 上述実施例のコード化を説明するためのパターン図である。 上述実施例の第１カメラのモニタ画像の例を示す図である。 上述実施例の第２カメラ２のモニタ画像の例を示す図である。 上述実施例において被写体にあたって輝度が変化した部分を説明する図である。 上述実施例における距離計算を説明する図である。 上述実施例のエッジ座標の算出説明図である。 上述実施例における階調差によるエッジ座標算出の差を説明する図である。 上述実施例の投光器（プロジェクタ）のガンマ特性とパターンの入力値算出説明図である。

符号の説明

１０ パターン投影装置
２０ モニタ用の第１カメラ
３０ 三角測量用の第２カメラ
４０ ハーフミラー
５０ 対象物
１１０ フレームメモリ
１２０ パターン画像メモリ
１３０ 領域分割部
１４０ 輝度値メモリ
１５０ パターン画像メモリ
１６０ 再コード化部
１７０ コード復号部
１８０ ３次元画像メモリ
２００ 補間計算部
２１０ エッジ右近傍画素位置入力部
２２０ エッジ右セル輝度平均値入力部
２３０ エッジ左近傍画素位置入力部
２４０ エッジ左セル輝度平均値入力部
２５０ エッジ輝度入力部

Claims (6)

1. 全白から全黒までを実質的に等間隔に区切った複数レベルの輝度でコード化されたストライプパターンを１回の投影操作で被写体に投影する投光器の光軸からずれて配置されるカメラで，前記１回の投影操作で前記ストライプパターンが投影された前記被写体を，１回，撮影することに基づいて，前記被写体の３次元画像を得る３次元形状測定装置において，繰り返し対象をなす１セットのストライプ中で、同一の輝度レベルのストライプを複数含み、かつ、隣接するストライプの同一の組み合わせが前記１セット中に重複しないようにし、さらに、隣接する２つのストライプの輝度レベル差が２レベル以上となるように配列した，前記１回の投影操作で投影されるストライプパターンを使用することを特徴とする３次元形状測定装置。
2. 前記投光器はデータプロジェクタであり，色分布が一様な被写体に投影されるストライプパターンが，全白から全黒までを実質的に等間隔に区切った複数レベルの輝度となるように，前記データプロジェクタの入力データを前記データプロジェクタのガンマ特性に基づいて決定することを特徴とする，請求項１に記載の３次元形状測定装置。
3. 前記投光器はスライドプロジェクタであり，前記色分布が一様な被写体に投影されるストライプパターンが，全白から全黒までを等間隔に区切った複数レベルの輝度となるように，前記ストライプパターンが描画される媒体のパターンデータを，前記スライドプロジェクタのガンマ特性に基づいて決定することを特徴とする，請求項１に記載の３次元形状測定装置。
4. 前記色分布が一様な被写体に投影されるストライプパターンが，前記カメラによる撮影画像上で全白から全黒までを等間隔に区切った複数レベルの輝度となるように，前記データプロジェクタの入力データまたは前記媒体のパターンデータを前記カメラのガンマ特性に基づいて決定することを特徴とする，請求項２または３に記載の３次元形状測定装置。
5. 複数レベルの光強度でコード化されたストライプパターンを１回の投影操作で被写体に投影する投光器の光軸からずれて配置されるカメラで，前記１回の投影操作で前記ストライプパターンが投影された前記被写体を，１回，撮影することに基づいて，前記被写体の３次元画像を得る３次元形状測定装置において，繰り返し対象をなす１セットのストライプ中で、同一の輝度レベルのストライプを複数含み、かつ、隣接するストライプの同一の組み合わせが前記１セット中に重複しないようにし、さらに、前記ストライプパターンにおける隣接する２つのストライプの光強度のレベルの差がＮ（Ｎは２以上の正数）レベル以上となるように配列した，前記１回の投影操作で投影されるストライプパターンを使用することを特徴とする３次元形状測定装置。
6. 複数レベルの光強度でコード化されたストライプパターンを１回の投影操作で被写体に投影する投光器の光軸からずれて配置されるカメラで，前記１回の投影操作で前記ストライプパターンが投影された前記被写体を，１回，撮影することに基づいて，前記被写体の３次元画像を得る３次元形状測定方法において，繰り返し対象をなす１セットのストライプ中で、同一の輝度レベルのストライプを複数含み、かつ、隣接するストライプの同一の組み合わせが前記１セット中に重複しないようにし、さらに、前記ストライプパターンにおける隣接する２つのストライプの光強度のレベルの差がＮ（Ｎは２以上の正数）レベル以上となるように配列した，前記１回の投影操作で投影されるストライプパターンを使用することを特徴とする３次元形状測定方法。

Images