JP2016057194A - 情報処理装置、情報処理方法、プログラム - Google Patents

情報処理装置、情報処理方法、プログラム Download PDF

Info

Publication number
JP2016057194A
JP2016057194A JP2014184466A JP2014184466A JP2016057194A JP 2016057194 A JP2016057194 A JP 2016057194A JP 2014184466 A JP2014184466 A JP 2014184466A JP 2014184466 A JP2014184466 A JP 2014184466A JP 2016057194 A JP2016057194 A JP 2016057194A
Authority
JP
Japan
Prior art keywords
pattern
lines
image
captured image
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014184466A
Other languages
English (en)
Other versions
JP6452361B2 (ja
Inventor
久義 降籏
Hisayoshi Furihata
久義 降籏
小林 一彦
Kazuhiko Kobayashi
一彦 小林
望 糟谷
Nozomu Kasuya
望 糟谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2014184466A priority Critical patent/JP6452361B2/ja
Priority to US14/849,422 priority patent/US9739604B2/en
Publication of JP2016057194A publication Critical patent/JP2016057194A/ja
Application granted granted Critical
Publication of JP6452361B2 publication Critical patent/JP6452361B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/2536Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object using several gratings with variable grating pitch, projected on the object with the same angle of incidence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/521Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/64Three-dimensional objects

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Optics & Photonics (AREA)
  • Multimedia (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

【課題】計測対象物体の三次元形状を高速に計測することができる情報処理装置を提供する。
【解決手段】複数の線と、線を識別するために線上または線の間に配置された識別情報と、複数の線の間に配置された特徴を含むパターンを計測対象物体500に投影した状態で、撮像装置400により撮像された撮像画像を取得し、画像に含まれる識別情報に基づいて、画像に含まれる線を識別し、識別された結果に基づいて、撮像画像内の線の間の第一の領域に対応するパターン内の第二の領域を探索するための探索範囲をパターン内に設定し、撮像画像に含まれる複数の線の間に配置された特徴に基づいて、第一の領域に対応する第二の領域を、パターン内に設定された探索範囲から探索して決定し、第一の領域と、決定手段によって決定された第二の領域とを対応づけることによって、計測対象物体の距離を算出する。
【選択図】図2

Description

本発明は、パターンを投影した計測対象物体を撮影した画像に基づいて、計測対象物体表面の三次元形状を計測する技術に関する。
従来から、特許文献1に開示されるように、ランダムに生成されたドット特徴を含むパターンを投影し、それを撮像した画像に基づいて距離計測を行う方法がある。この技術は、撮像した画像に含まれるドットを含む領域と投影したパターンに含まれるドットを含む領域との対応を求め、三角測量の原理に基づいて距離を計算する。対応を求める計算は、撮像した画像に含まれるドットを含む領域に対応する領域を、投影されるパターンの中からマッチング処理によって見つけることによって行われる。
米国特許出願公開第2010/0118123号明細書 特開平1−274007号公報
しかしながら、上記の対応を求める計算では、探索する探索範囲の広さに応じて、処理時間が増大する。この点、特許文献1では、そのための対策が施されていないため処理時間がかかるという課題があった。
本発明は、以上の課題に鑑みてなされたものであり、物体の三次元形状を高速に計測することを目的とする。
上記の課題を解決するために、本発明にかかる情報処理装置は、例えば、複数の線と、前記線を識別するために該線上または線の間に配置された識別情報と、前記複数の線の間に配置された特徴を含むパターンを計測対象物体に投影した状態で、撮像装置により撮像された撮像画像を取得する取得手段と、前記画像に含まれる識別情報に基づいて、前記投影されるパターンに含まれる線と前記撮像された撮像画像に含まれる線とを対応づけることによって、前記画像に含まれる線を識別する識別手段と、前記識別手段によって識別された結果に基づいて、前記撮像画像内の前記線の間の第一の領域に対応する前記パターン内の第二の領域を探索するための探索範囲を前記パターン内に設定する設定手段と、前記撮像画像に含まれる前記複数の線の間に配置された特徴に基づいて、前記第一の領域に対応する前記第二の領域を、前記パターン内に設定された探索範囲から探索して決定する決定手段と、前記第一の領域と、前記決定手段によって決定された第二の領域とを対応づけることによって、前記計測対象物体の距離を算出する算出手段とを備える。
本発明により、計測対象物体の三次元形状を高速に計測できる。
第1の実施形態における情報処理装置で取得するパターンを示す図である。 第1の実施形態における情報処理装置の構成を示す図である。 第1の実施形態における情報処理のフローチャートである。 第1の実施形態において探索範囲設定部で設定する範囲を説明する図である。 変形例2においてパターンの特徴のバリエーションを示す図である。 変形例4においてパターンの識別情報のバリエーションを示す図である。 本発明の情報処理装置のハードウェア構成を示す図である。
本発明にかかる各実施形態を説明するのに先立ち、各実施形態に示す情報処理装置が実装されるハードウェア構成について、図7を用いて説明する。
図7は、本実施形態における情報装置のハードウェア構成図である。同図において、CPU710は、バス700を介して接続する各デバイスを統括的に制御する。CPU710は、読み出し専用メモリ(ROM)720に記憶された処理ステップやプログラムを読み出して実行する。オペレーティングシステム(OS)をはじめ、本実施形態に係る各処理プログラム、デバイスドライバ等はROM720に記憶されており、ランダムアクセスメモリ(RAM)730に一時記憶され、CPU710によって適宜実行される。また、入力I/F740は、外部の装置(表示装置や操作装置など)から情報処理装置1で処理可能な形式で入力信号として入力する。また、出力I/F750は、外部の装置(表示装置)へ表示装置が処理可能な形式で出力信号として出力する。
これらの各機能部は、CPU710が、ROM720に格納されたプログラムをRAM730に展開し、後述する各フローチャートに従った処理を実行することで実現されている。また例えば、CPU710を用いたソフトウェア処理の代替としてハードウェアを構成する場合には、ここで説明する各機能部の処理に対応させた演算部や回路を構成すればよい。
(第1の実施形態)
本実施形態では、計測対象物体の三次元形状を高速に計測する方法を説明する。
本実施形態で利用するパターン100は、図1に示すように、1つ以上のドット(101)を要素とした特徴と1つ以上の線(102、以降それぞれの線を計測線と呼ぶ)で構成される。また、計測線は画像上で観測する計測線がパターン上の何れの計測線であるかを識別するための識別情報(103)を持つ。本実施形態では、識別情報は計測線上の複数の切れ目である。
本実施形態では、まず、識別情報に基づいて計測対象物体を観測する画像上の計測線を識別する。そして、計測線の識別結果に基づいて、画像中の特徴を含む領域(第一の領域)とパターン中の特徴を含む領域(第二の領域)との対応を求めるための探索範囲を狭くすることで、探索にかかる時間を低減させる。なお、本明細書において、領域とは、複数の画素によって構成される画素領域だけでなく、画像内の1画素の画素領域も含む。
図2に、本実施形態における情報処理装置200の構成を示す。本実施形態の構成は、投影装置300、撮像装置400、パターン取得部210、画像取得部220、計測線識別部230、探索範囲設定部240、探索部250、距離算出部260からなる。また、図2の500は計測対象物体を表す。
投影装置300は、パターン100の像を光により投影するプロジェクタである。投影装置300の焦点距離や主点位置、レンズ歪パラメータなどの内部パラメータ情報、撮像装置400に対する投影装置300の相対的な位置姿勢の情報は予め校正しておく。校正方法は公知であり、例えば以下の文献に開示された方法で校正できる。
M, Kimura, “Projector Calibration using Arbitrary Planes and Calibrated Camera” Computer Vision and Pattern Recognition, CVPR, 2007.
撮像装置400は、濃淡画像を撮像するカメラである。撮像装置400の焦点距離や主点位置、レンズ歪パラメータなどの内部パラメータ情報は予め校正しておく。校正方法は公知であり、例えば以下の文献に開示された方法で校正できる。
R. Y. Tsai, “A versatile camera calibration technique for high−accuracy 3D machine vision metrology using off−the−shelf TV cameras and lenses” IEEE Journal of Robotics and Automation, vol.RA−3, no.4, 1987.
パターン取得部210は、計測対象物体500に投影するためのパターン100の画像を取得する。取得するパターンは2次元の画像であり、図1に示すように、複数の特徴(ドット形状)と複数の計測線で構成される。複数のドットの配置方法は、例えば、所定の確率(A%)でランダムに配置する。計測線上に配置する切れ目は、同一線上の隣り合う切れ目の間隔がB+ΔBとなるように配置する。ここでΔBは[−ε〜ε]の範囲で発生する一様乱数、εはユーザーが指定する固定値とする。なお、図1のパターン100について、背景を白、計測線を黒として図示するが、パターンの光は、背景を低輝度、計測線およびドットを高輝度に投影するものとする。
画像取得部220は、パターン100を投影した計測対象物体500を撮像装置400で撮像した画像700(撮像画像)を取得する。
計測線識別部230は、画像700上で観測される計測線が、パターン100の何れの計測線によって投影された線であるかを識別する。
探索範囲設定部240は、計測線識別部230による計測線の識別結果に基づいて、画像700上の各画素の位置についてパターン100上で対応する位置のとりうる範囲をパターン内に設定する。
探索部250は、探索範囲設定部240で設定された範囲から、画像700上の各画素の位置についてパターン100上で対応する位置を探索して、決定する。
距離算出部260は、探索部250で決定された対応する位置に基づいて、前記画像上の各画素で観測される計測対象物体500の距離を算出する。ここで、距離とは撮像装置400の光学中心から計測対象物体500までの距離を表わす。
次に、本実施形態の処理手順について説明する。図3は、本実施形態の処理手順を示すフローチャートである。
(ステップS610)
パターン取得部210は、パターン100の画像を取得する。そして、不図示のインターフェースを介して、投影装置300に送出する。投影装置300はパターン取得部210からパターンを取得し、取得したパターンを計測対象物体500を含む空間に投影する。撮像装置400は、投影装置300が取得したパターンを計測対象物体500を含む空間に投影している間に、該空間を撮像する。
(ステップS620)
画像取得部220は、ステップ610で計測対象物体500にパターン100を投影した像を撮像装置300で撮像した画像700を取得する。図4(a)は、取得した画像700の例を表わす。
(ステップS630)
計測線識別出部230は、画像取得部220から画像700を取得し、画像700上で観測される計測線が、パターン100の何れの計測線によって投影された線であるかを識別する。この識別の方法について以下で詳述する。
まず、画像700から計測線の検出を行う。計測線の検出は、画像700に対してソベルフィルタを適用して画像上の輝度値の極値(以降、検出点と呼ぶ)を検出した後、隣接する検出点をラベリングすることで、隣接する検出点が並んだ線として算出する。検出した計測線をそれぞれi(i=1〜N)と表記する。ここで、Nは、検出した計測線の総数を表わす。
次に、計測線上に含まれる識別情報103(計測線上の切れ目)に基づいて、検出した計測線の識別を行う。計測線の切れ目を利用した識別方法は例えば特許文献2に開示されている。具体的な方法としては、まず、画像700上から検出した各計測線について、同一線上の2つの切れ目を選択し、パターン100上に2つのエピポーラ線を計算する。次に、パターン100上の計測線のうち、2つのエピポーラ線とパターン100上の計測線の切れ目とが一致するパターン上の計測線を判定する。これにより、画像700上から検出した各計測線が、パターン100の何れの計測線によって投影された線であるかを識別する。ここで識別とは、具体的には、画像700上から検出した計測線iについて、パターン100上で対応する計測線のIDを表わす番号Li(Li=1〜M)を設定することを意味する。Mはパターン100上の計測線の総数である。画像700上で検出した計測線iについて、設定するパターン100上での計測線をLiと表記する。
(ステップS640)
探索範囲設定部240は、計測線識別部230による計測線の識別結果に基づいて、画像700上の各画素の位置(撮像画像内の第1の領域)についてパターン100の画像上で対応する画素の位置(パターン内の第2の領域)のとりうる範囲を設定する。
ステップS640における処理を、図4(a)、(b)を用いて説明する。まず、画像700上から画素を1つ選択する。選択した画素をk(図4(a)の701)とする。次に、画素kについて、計測線識別部230で識別した計測線のうち、画像上で最近傍となる計測線i(図4(a)の702)を算出して特定する。
次に、画素kの領域について、パターン100上で対応する領域のとりうる範囲(図4(b)の104)をS1〜S2として設定する。ここで、S1とS2は、パターン100の計測線の垂直方向における位置を表わす。この範囲は、画素kに対応する領域が、計測線iに対応する計測線Li(図4(b)の105)の周辺にあると仮定して設定する。
具体的には、範囲の中心を計測線Liの位置P(Li)として、S1=P(Li)−ΔS、S2=P(Li)+ΔSと設定する。ここで、P(Li)はパターン100の計測線Liの、計測線の垂直方向における位置を表わす。本実施形態では、ΔS=Wとする。Wはパターン100において隣り合う計測線の間隔を表わす。つまり、画素kに対応する領域は、計測線Liから最大で計測線間隔分ずれると想定し、その範囲をカバーするためにΔS=Wの大きさを設定する。
最後に、画素kの位置について、パターン100上のエピポーラ線(106)を計算し、エピポーラ線上におけるS1〜S2の範囲内を、画素kの対応点の範囲として設定する。
以上の操作を、画像上700上で注目する画素kを変えて行い、すべての画素について、それぞれ範囲を設定する。
(ステップS650)
探索部250は、画像700上の各画素について、前記パターン100の画像で対応する画素の位置を、探索範囲設定部240で設定した範囲内で探索する。具体的には、画像700上で注目する画素kの位置を中心とするブロックと、パターン100のエピポーラ線106上のS1〜S2の範囲内で位置を変化させたブロックとの相関を計算する。そして、最も相関の高いブロックの中心位置を画素kに対応する画素の位置として決定する。ここで相関は、ブロックSSD(Sum of Squared Difference)を利用する。
本実施形態では、以上のように、撮像画像700内の領域に対応するパターン100内の領域を探索するために、パターン100内に探索範囲を設定した。しかしながら、これとは逆に、パターン100内の領域に対応する撮像画像700内の領域を、撮像画像700内に探索範囲を設定することにより見つけても良い。
(ステップS660)
距離算出部2600は、探索部250による探索結果に基づいて、前記画像上の各画素で観測される計測対象物体500の距離を算出する。
具体的には、画像700の画素kと、探索部250で決定された、パターン100の画像における対応画素位置に基づいて、三角測量の原理から距離を算出する。
以上の操作を、画像上700上で注目する画素kを変えて行い、すべての画素について、それぞれ距離を算出する。
以上述べたように、本実施形態では、まず、計測対象物体を観測する画像上の計測線を識別した後、計測線の識別結果に基づいて、画像700とパターン100との対応を求めるための探索範囲を狭くすることで、探索にかかる時間を低減させる。これにより、計測対象物体の三次元形状を高速に計測できる。
なお、本実施形態において、投影装置300は、2次元のパターンを投影するものであればどのような装置でもよい。例えば、2次元画像を投影する書画プロジェクタであってもよいし、光源とマスクパターンを組み合わせた装置であってもよい。また、投影するパターンは濃淡パターンでもよいし、カラーパターンでもよい。また、マスクパターンをセットする投影装置の場合、パターンは物理的に投影装置にセットするため、計測時にパターン取得部210からパターンを与える必要はない。また、パターンの光は、背景を低輝度、計測線およびドットを高輝度に投影した。ただし、パターンの光は、パターンの計測線と背景が異なる輝度値で観測され、パターンの特徴が画像上で計測線とは異なる信号で観測される特徴であれば、どのようなパターンでも良い。パターンの計測線およびドットを低輝度、背景を高輝度にしても良い。特徴のバリエーションについては、変形例2に述べる。また、パターンを取得する元は、情報処理装置200の持つ不図示の記憶領域から取得しても良いし、ネットワークを介して外部の情報源から取得しても良い。記憶領域としては、ハードディスクでも良いし、RAMでも良い。
また、画像取得部220で取得する画像は、2次元の画像であればどのような画像でもよい。例えば、濃淡画像でもよく、カラー画像でもよい。また、画像の取得方法については、撮像装置400から直接取得しても良いし、メモリ上に一旦格納した画像を後から取得するような構成であってもよい。
また、探索部250におけるブロックの相関の計算方法は、ブロックの類似度を計算する方法であれば、どのような方法でも良い。本実施形態で示すようにSSDでも良いし、SAD(Sum of Absolute Difference)でも良い。また、相関を計算するブロックはどのような形状でも良い。四角形でもよいし、円形でも良い。
また、第1の実施形態では、距離算出部260では、ブロックのマッチングによって対応付けをした画素について、距離値を出力した。しかし、さらに計測線識別部230で識別した計測線上の点の距離値を、識別結果に基づいて光切断法の原理から計算し、マッチングによって求めた距離値とは別に出力しても良い。
また、探索範囲設定部240距離算出部260における探索範囲の設定と距離の算出の処理は、画像700上で1つ以上の画素の位置について、計算するものであれば良い。画像上の全画素を対象として計算しても良いし、所定のサンプリング間隔で設定した画像上の画素を対象として計算しても良い。
また、本実施形態では、探索範囲設定部240が、計測線の識別結果に基づいて画像700上の各画素について、パターン100の画像上で対応する画素位置の範囲を設定する。そして、探索部250が、画像700上の各画素について対応するパターン100上の位置を探索し、距離算出部260が、画像700とパターン100との対応を求め、三角測量の原理に基づいて距離を算出する、と説明した。
これとは逆に、まず、探索範囲設定部240で、計測線の識別結果に基づいてパターン100上の各画素の位置について、画像700上で対応する画素の位置の範囲を設定する。そして、探索部250でパターン100画像上の各画素の位置について対応する画像700上の画素の位置を探索することで、画像700とパターン100との対応位置関係を求め、距離算出部260が、三角測量の原理に基づいて距離を算出しても良い。この場合、第1の実施形態で示す画像700上の各画素を基準とした方法を、パターン100の画像上の各画素位置を基準に置き換える。つまり、パターン100画像上で注目する画素位置について、パターン上で最近傍の計測線を選択し、選択した計測線と対応する画像上の計測線の周囲を範囲として探索を行うことで、画像700とパターン100画像との対応位置関係を求める。なお、本実施形態では、パターン100は画像の形式であるものとして画像700と対応を求めたが、パターン100は画像である必要はなく、所定のデータ形式であってかまわない。
(変形例1)
本変形例では、探索範囲設定部240で設定する範囲の計算方法のバリエーションについて説明する。
探索範囲設定部240で設定する範囲は、計測線識別部230による計測線の識別結果に基づいて、画像700上の各画素位置についてパターン100上で対応する位置のとりうる範囲を設定する方法であれば、どのような方法でも良い。
第1の実施形態に示すように、画像700上で注目する画素kの位置について最近傍の計測線iに対応するパターン100上の計測線Liの位置を基準Sとして、所定の長さΔSの間隔を範囲として設定しても良い。
また、画像700上で注目する画素kの位置について近傍の1本の計測線ではなく、注目する画像上の位置を中心とした所定領域内に存在する複数の計測線群を算出する。そして、それぞれに対応するパターン100上の計測線群の位置の平均値を基準Sとして、所定の長さの間隔を範囲ΔSとして設定しても良い。
また、パターン100上で基準とする位置からの間隔ΔSは、第1の実施形態に示すように、パターンで隣り合う計測線の間隔としてもよい。また、ユーザーが設定する所定値でも良いし、画像700上で注目する画素kの位置と近傍の計測線の位置の差をXとしたとき、Xに応じて大きくなる値を設定しても良い。
また、パターン上のある位置を基準として、そこから所定の長さを範囲する方法ではなく、例えば、画像700上で注目する画素kについて、所定領域内に存在する複数の計測線群を算出する。そして、それぞれに対応するパターン100上の計測線群の位置を計算し、その位置の最大値と最小値を範囲として設定しても良い。
また、画像700上で注目する画素kの位置と、最近傍の計測線iの位置関係に基づいて、画素kについてパターン100上で対応する位置が計測線Liのどちら側であるかを計算し、その側に基づいて範囲を設定しても良い。例えば、図4(a)の例で、画像500上で注目する画素kの位置は、計測線iの方向に対して右側にあるとする。ここで、計測線iの方向とは、パターン100上で上方向と定義するものとする。この場合、画素kについて、パターン上で対応する位置は、パターン上の計測線Liの右側にあると推定できる。そのため、設定する範囲をS1〜S2としたとき、S1=P(Li)、S2=P(Li)+ΔSとして、計測線Liの位置P(Li)から片側は探索範囲から除いても良い。
また、探索範囲設定部240で設定する範囲は、第1の実施形態に示すように、注目する画像上の位置のエピポーラ線上にさらに限定しても良いし、エピポーラ線以外の範囲を探索しても良い。
以上説明したように、探索範囲設定部240で設定する範囲は、計測線識別部230による計測線の識別結果に基づいて、画像700上の各位置についてパターン100上で対応する位置のとりうる範囲を設定する方法であれば、どのような方法でも良い。
(変形例2)
本変形例では、探索部250で、画像700と前記パターン100との対応の計算方法のバリエーションについて説明する。
第1の実施形態では、画像とパターンの対応を計算する上で、画像の各画素のブロックに基づいて、パターン上で相関の高いブロックを、探索範囲設定部240で設定する範囲内で探索する例について説明した。これは、ブロック内の画像情報に基づいて対応を探索することを意味する。
この方法以外にも、画像とパターンとの対応は、画像上で注目する位置について、パターン上で対応する位置を探索範囲設定部240で設定する範囲内で探索する方法であれば、どのような方法でも良い。例えば、画像700上で観測されるパターンの特徴を構成する要素(以降、特徴要素と呼ぶ)1つ1つ検出し、検出された要素の位置に基づいて、パターン上で対応する特徴要素の位置を、探索範囲設定部240で設定する範囲内で探索する方法でも良い。これは、パターンの特徴要素が占める画素の位置に注目して対応付けを行うことを意味する。この方法を利用する場合、探索部250の処理では、まず画像上から、パターンの特徴要素の画素位置、すなわち第1の実施形態ではドットの画素位置を検出する。ドット画素位置は、画像上の各画素について、周囲の画素より高い輝度値を持つ極値を算出することで計算できる。次に、画像上から検出した特徴要素の画素位置と、パターン上の特徴要素の画素位置を対応付ける。ここでは、画像上で検出したドットの画素位置について、パターンのエピポーラ線上の探索範囲設定部240で設定する範囲内にあるパターン上のドットを探索する。具体的には、範囲内のエピポーラ線の線分と最近接するパターンのドットが、対応するドットであると判定する。ここでは、画像上で検出したドットの位置について、対応するドットはエピポーラ線上に存在することを利用している。以上の処理によって求めた、画像とパターンの対応位置に基づいて、三角測量の原理から距離を算出する。
以上説明したように、画像とパターンの対応は、画像上の位置について、パターン上で対応する位置を探索範囲設定部240で設定する範囲内で計算する方法であればどのような方法でも良い。画像の相関に基づいて対応する位置を探索する方法でも良いし、パターンの特徴の位置に基づいて対応する位置を探索する方法でもよい。
(変形例3)
本変形例では、パターン取得部210で取得するパターンの特徴のバリエーションについて説明する。
パターンの特徴は、画像上で計測線とは異なる信号で観測される特徴であれば、どのような特徴でも良い。つまり、無地でなければ良い。具体的には、第1の実施形態で示したように、特徴は複数の特徴要素で構成されていて、その1つ1つの特徴要素は、ランダムで配置するドットでも良いし、図5(a)の110に示すように等間隔で配置するドットでも良い。また、ドットである必要はなく、図5(b)の120に示すような特徴でも良い。また、特徴の色を一様に変えても良いし、パターンの部位ごとに異なる色を設定しても良い。また、図5(c)の130に示すよう、ドットのような複数の特徴要素で構成したパターンではなく、輝度の明暗を変調した特徴でも良い。いずれの特徴であっても、画像上の各位置について、パターン上のエピポーラ線上の位置の特徴との相関を取ることで、パターン上で対応する位置を計算できる。
以上説明したように、パターンの特徴は画像上で計測線とは異なる信号で観測される特徴であれば、どのような特徴でも良い。
(変形例4)
本変形例では、計測線識別部230における計測線の識別のバリエーションについて説明する。
計測線識別部230における計測線の識別方法は、画像上で観測される計測線を検出し、識別できる方法であれば、どのような方法でも良い。
ここでまず、計測線の検出方法としては、画像上で観測される計測線上の位置を線としてそれぞれラベリングされた状態で抽出できる方法であればどのような方法でもよい。ソベルフィルタによって検出したエッジをラベリングすることによって計測線を検出してもよいし、所定の閾値で2値化した画像を細線化することによって検出してもよい。
次に、検出した計測線の識別方法としては、画像上で観測される計測線が、パターンのいずれの計測線によって投影されたものかを識別できる方法であれば、どのような識別方法でも良い。また、パターンに含める識別情報も計測線を識別可能にする情報であればどのような識別情報でも良い。例えば、第1の実施形態に示すように、識別情報として計測線上にランダムに切れ目を加え、画像上で観測される切れ目の位置に基づいて計測線を識別しても良い。また、計測線上の一部の輝度、色、形状の少なくとも1つを変化させ、その位置を符号とし、画像上で観測される符号の位置に基づいて計測線を識別しても良い。例えば、図6(a)の140に示すように、識別情報として計測線上に異なる輝度値を持つ符号(図6(a)の141)を配置しても良い。また、符号は線上ではなく、線と線の間にあっても良い。また、図6(b)の150に示すように、識別情報として色の異なる計測線(図6(b)の151)を投影し、画像上で観測される計測線の色に基づいて計測線を識別しても良い。また、計測線の色ではなく、線と線の間の色を変化させても良い。また、計測線上の輝度値を変調させ、画像上で観測される計測線上の輝度の変化に基づいて計測線を識別しても良い。
以上説明したように、計測線識別部230における計測線の識別方法は、画像上で観測される計測線を識別できる方法であれば、どのような方法でも良い。
(その他の実施形態)
また、本発明は、以下の処理を実行することによっても実現される。
即ち、上述した各実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(又はCPUやMPU等)がプログラムを読み出して実行する処理である。
このプログラム及び当該プログラムを記憶したコンピュータ読み取り可能な記憶媒体は、本発明に含まれる。
<実施形態の効果>
本発明では、まず、計測対象物体を観測する画像上の計測線を識別した後、計測線の識別結果に基づいて、画像とパターンとの対応を求めるための探索範囲を設定することで、探索にかかる時間を低減させる。これにより、計測対象物体の三次元形状を高速に計測できる。
<定義>
本実施形態において、パターン取得部で取得するパターンは、特徴と1つ以上の計測線と、画像上で観測される計測線を識別するための識別情報で構成されるパターンであれば、どのようなパターンでも良い。特徴は、画像上で計測線とは異なる信号で観測される特徴であれば、どのような特徴でも良い、複数のドットで構成された特徴でも良いし、パターン上の輝度を変調して特徴としても良い。識別情報は、画像上で観測される計測線を識別できる情報であれば、どのような識別情報でも良い。計測線上或いは線間に符号を配置し、その符号を識別情報としても良いし、計測線或いは線間の色を識別情報としても良い。
また、画像取得部で取得する画像は、2次元の画像であればどのような画像でもよい。例えば、濃淡画像でもよく、カラー画像でもよい。また、画像の取得方法については、撮像装置から直接取得しても良いし、メモリ上に一旦格納した画像を装置に読み込む構成であっても良い。
また、計測線識別部における計測線の識別方法に関しては、画像上から計測線を検出し、それを識別する方法であれば、どのような方法でも良い。識別情報を計測線の切れ目は、画像上で観測される計測線を識別できる情報であれば、どのような識別情報でも良い。計測線の切れ目を識別情報として、画像上で観測される計測線の切れ目の位置に基づいて計測線を識別しても良いし、計測線の色を識別情報として、画像上で観測される計測線の色に基づいて計測線を識別しても良い。
また、探索範囲設定部で設定する範囲は、計測線識別部による計測線の識別結果に基づいて、画像上の各位置についてパターン上で対応する位置のとりうる範囲を設定する方法であれば、どのような方法でも良い。画像上で注目する位置について最近傍の計測線の識別結果に基づいて、範囲を設定しても良いし、画像上で注目する位置について所定領域内にある計測線の識別結果に基づいて、範囲を設定しても良い。また、これとは逆に、パターン上の各位置について画像上で対応する位置のとりうる範囲を設定する方法でも良い。
また、距離算出部における距離の計算方法は、画像とパターンの対応を計算し、三角測量の原理に基づいて距離を計算する。ここで、画像とパターンの対応を計算する方法は、画像上で注目する位置について、パターン上で対応する位置を探索範囲設定部で設定する範囲内で探索する方法であれば、どのような方法でも良い。パターン上の範囲内をブロックのマッチングによって対応付けをしても良い。また、パターンの特徴が複数の特徴要素で構成される場合、画像上で観測される特徴要素を検出し、その特徴要素の位置について、パターン上の探索範囲内で対応する特徴要素を探索することで対応付けをしても良い。

Claims (15)

  1. 複数の線と、前記線を識別するために該線上または線の間に配置された識別情報と、前記複数の線の間に配置された特徴を含むパターンを計測対象物体に投影した状態で、撮像装置により撮像された撮像画像を取得する取得手段と、
    前記画像に含まれる識別情報に基づいて、前記投影されるパターンに含まれる線と前記撮像された撮像画像に含まれる線とを対応づけることによって、前記画像に含まれる線を識別する識別手段と、
    前記識別手段によって識別された結果に基づいて、前記撮像画像内の前記線の間の第一の領域に対応する前記パターン内の第二の領域を探索するための探索範囲を前記パターン内に設定する設定手段と、
    前記撮像画像に含まれる前記複数の線の間に配置された特徴に基づいて、前記第一の領域に対応する前記第二の領域を、前記パターン内に設定された探索範囲から探索して決定する決定手段と、
    前記第一の領域と、前記決定手段によって決定された第二の領域とを対応づけることによって、前記計測対象物体の距離を算出する算出手段とを備えることを特徴とする情報処理装置。
  2. 前記撮像画像の中で前記第一の領域に最も近い線である第一の線を検出する検出手段を更に備え、
    前記設定手段は、
    前記識別手段によって識別された結果に基づいて、前記第一の線に対応する線を前記パターンの中から特定し、該特定された線の近傍に前記探索範囲を設定することを特徴とする請求項1に記載の情報処理装置。
  3. 前記設定手段は、前記特定された線の近傍であり、かつ前記撮像画像で前記第一の線に対して前記第一の領域が存在する側に、前記探索範囲を設定することを特徴とする請求項2に記載の情報処理装置。
  4. 前記決定手段は、前記設定手段によって設定された探索範囲内に含まれる領域と、前記第一の領域との相関を計算し、該計算された相関に基づいて前記第二の領域を決定することを特徴とする請求項1乃至3のいずれか1項に記載の情報処理装置。
  5. 前記第一の領域は、前記撮像画像の各画素の領域、または前記撮像画像の複数の画素の領域であることを特徴とする請求項1乃至4のいずれか1項に記載の情報処理装置。
  6. 前記第一の領域は、前記撮像画像に含まれるパターンの特徴が占める画素の領域であることを特徴とする請求項1乃至4のいずれか1項に記載の情報処理装置。
  7. 前記パターンに含まれる前記識別情報は、前記パターンに含まれる線の切れであることを特徴とする請求項1乃至6のいずれか1項に記載の情報処理装置。
  8. 前記パターンに含まれる前記識別情報は、前記パターンに含まれる線上の色、輝度、前記線の間の色、輝度のうち少なくともいずれかであることを特徴とする請求項1乃至7のいずれか1項に記載の情報処理装置。
  9. 前記パターンに含まれる前記特徴は、ドット形状であることを特徴とする請求項1乃至8のいずれか1項に記載の情報処理装置。
  10. 更に、前記パターンを前記計測対象物体に投影する投影手段と、
    前記パターンが投影された計測対象物体を撮像する撮像手段とを備えることを特徴とする請求項1乃至9のいずれか1項に記載の情報処理装置。
  11. 複数の線と、前記線を識別するために該線上に配置された識別情報と、前記複数の線の間に配置された特徴を含むパターンを計測対象物体に投影した状態で、撮像装置により撮像された撮像画像を取得する取得手段と、
    前記画像に含まれる識別情報に基づいて、前記投影されるパターンに含まれる線と前記撮像された撮像画像に含まれる線とを対応づけることによって、前記画像に含まれる線を識別する識別手段と、
    前記識別手段によって識別された結果に基づいて、前記パターン内の第二の領域に対応する前記撮像画像内の前記線の間の第一の領域を探索するための探索範囲を前記撮像画像内に設定する設定手段と、
    前記撮像画像に含まれる前記複数の線の間に配置された特徴に基づいて、前記第二の領域に対応する前記第一の領域を前記撮像画像内に設定された探索範囲から探索して決定する決定手段と、
    前記第一の領域と、前記特定された第二の領域とを対応づけることによって、前記計測対象物体の距離を算出する算出手段とを備えることを特徴とする情報処理装置。
  12. 複数の線と、前記線を識別するために該線上または線の間に配置された識別情報と、前記複数の線の間に配置された特徴を含むパターンを計測対象物体に投影した状態で、撮像装置により撮像された撮像画像を取得する取得工程と、
    前記画像に含まれる識別情報に基づいて、前記投影されるパターンに含まれる線と前記撮像された撮像画像に含まれる線とを対応づけることによって、前記画像に含まれる線を識別する識別工程と、
    前記識別手段によって識別された結果に基づいて、前記撮像画像内の前記線の間の第一の領域に対応する前記パターン内の第二の領域を探索するための探索範囲を前記パターン内に設定する設定工程と、
    前記撮像画像に含まれる前記複数の線の間に配置された特徴に基づいて、前記第一の領域に対応する前記第二の領域を、前記パターン内に設定された探索範囲から探索して決定する決定工程と、
    前記第一の領域と、前記決定手段によって決定された第二の領域とを対応づけることによって、前記計測対象物体の距離を算出する算出工程とを備えることを特徴とする情報処理方法。
  13. 複数の線と、前記線を識別するために該線上に配置された識別情報と、前記複数の線の間に配置された特徴を含むパターンを計測対象物体に投影した状態で、撮像装置により撮像された撮像画像を取得する取得工程と、
    前記画像に含まれる識別情報に基づいて、前記投影されるパターンに含まれる線と前記撮像された撮像画像に含まれる線とを対応づけることによって、前記画像に含まれる線を識別する識別工程と、
    前記識別手段によって識別された結果に基づいて、前記パターン内の第二の領域に対応する前記撮像画像内の前記線の間の第一の領域を探索するための探索範囲を前記撮像画像内に設定する設定工程と、
    前記撮像画像に含まれる前記複数の線の間に配置された特徴に基づいて、前記第二の領域に対応する前記第一の領域を前記撮像画像内に設定された探索範囲から探索して決定する決定工程と、
    前記第一の領域と、前記特定された第二の領域とを対応づけることによって、前記計測対象物体の距離を算出する算出工程とを備えることを特徴とする情報処理方法。
  14. 複数の線と、前記線を識別するために該線上または線の間に配置された識別情報と、前記複数の線の間に配置された特徴を含むパターンを計測対象物体に投影した状態で、撮像装置により撮像された撮像画像を取得する取得工程と、
    前記画像に含まれる識別情報に基づいて、前記投影されるパターンに含まれる線と前記撮像された撮像画像に含まれる線とを対応づけることによって、前記画像に含まれる線を識別する識別工程と、
    前記識別手段によって識別された結果に基づいて、前記撮像画像内の前記線の間の第一の領域に対応する前記パターン内の第二の領域を探索するための探索範囲を前記パターン内に設定する設定工程と、
    前記撮像画像に含まれる前記複数の線の間に配置された特徴に基づいて、前記第一の領域に対応する前記第二の領域を、前記パターン内に設定された探索範囲から探索して決定する決定工程と、
    前記第一の領域と、前記決定手段によって決定された第二の領域とを対応づけることによって、前記計測対象物体の距離を算出する算出工程とをコンピュータに実行させることを特徴とするプログラム。
  15. 複数の線と、前記線を識別するために該線上に配置された識別情報と、前記複数の線の間に配置された特徴を含むパターンを計測対象物体に投影した状態で、撮像装置により撮像された撮像画像を取得する取得工程と、
    前記画像に含まれる識別情報に基づいて、前記投影されるパターンに含まれる線と前記撮像された撮像画像に含まれる線とを対応づけることによって、前記画像に含まれる線を識別する識別工程と、
    前記識別手段によって識別された結果に基づいて、前記パターン内の第二の領域に対応する前記撮像画像内の前記線の間の第一の領域を探索するための探索範囲を前記撮像画像内に設定する設定工程と、
    前記撮像画像に含まれる前記複数の線の間に配置された特徴に基づいて、前記第二の領域に対応する前記第一の領域を前記撮像画像内に設定された探索範囲から探索して決定する決定工程と、
    前記第一の領域と、前記特定された第二の領域とを対応づけることによって、前記計測対象物体の距離を算出する算出工程とをコンピュータに実行させることを特徴とするプログラム。
JP2014184466A 2014-09-10 2014-09-10 情報処理装置、情報処理方法、プログラム Active JP6452361B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2014184466A JP6452361B2 (ja) 2014-09-10 2014-09-10 情報処理装置、情報処理方法、プログラム
US14/849,422 US9739604B2 (en) 2014-09-10 2015-09-09 Information processing apparatus, information processing method, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014184466A JP6452361B2 (ja) 2014-09-10 2014-09-10 情報処理装置、情報処理方法、プログラム

Publications (2)

Publication Number Publication Date
JP2016057194A true JP2016057194A (ja) 2016-04-21
JP6452361B2 JP6452361B2 (ja) 2019-01-16

Family

ID=55437216

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014184466A Active JP6452361B2 (ja) 2014-09-10 2014-09-10 情報処理装置、情報処理方法、プログラム

Country Status (2)

Country Link
US (1) US9739604B2 (ja)
JP (1) JP6452361B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017002831A1 (ja) * 2015-06-29 2017-01-05 国立大学法人 宮崎大学 計測システム及び計測方法

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6244061B2 (ja) * 2015-03-30 2017-12-06 富士フイルム株式会社 距離画像取得装置及び距離画像取得方法
JP2020153718A (ja) * 2019-03-18 2020-09-24 株式会社リコー 測定装置及び造形装置
CN111397537B (zh) * 2020-04-03 2021-01-19 西安交通大学 一种投影系统主点像素坐标求解方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01274007A (ja) * 1988-04-26 1989-11-01 Mitsubishi Electric Corp 3次元計測装置
JP2004198413A (ja) * 2002-12-04 2004-07-15 Techno Network Shikoku Co Ltd 相対距離計測方法及びその装置
US20090221874A1 (en) * 2005-11-28 2009-09-03 3Shape A/S Coded structure light
JP2009270915A (ja) * 2008-05-07 2009-11-19 Kagawa Univ 3次元形状の計測方法および装置
US20100118123A1 (en) * 2007-04-02 2010-05-13 Prime Sense Ltd Depth mapping using projected patterns
JP2013088260A (ja) * 2011-10-17 2013-05-13 Canon Inc 三次元計測装置、三次元計測装置の制御方法、情報処理装置、情報処理装置の制御方法、およびプログラム

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB1537322A (en) * 1975-01-30 1978-12-29 Agency Ind Science Techn Apparatus for recognition of approximate shape of an article

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01274007A (ja) * 1988-04-26 1989-11-01 Mitsubishi Electric Corp 3次元計測装置
JP2004198413A (ja) * 2002-12-04 2004-07-15 Techno Network Shikoku Co Ltd 相対距離計測方法及びその装置
US20090221874A1 (en) * 2005-11-28 2009-09-03 3Shape A/S Coded structure light
US20100118123A1 (en) * 2007-04-02 2010-05-13 Prime Sense Ltd Depth mapping using projected patterns
JP2009270915A (ja) * 2008-05-07 2009-11-19 Kagawa Univ 3次元形状の計測方法および装置
JP2013088260A (ja) * 2011-10-17 2013-05-13 Canon Inc 三次元計測装置、三次元計測装置の制御方法、情報処理装置、情報処理装置の制御方法、およびプログラム

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017002831A1 (ja) * 2015-06-29 2017-01-05 国立大学法人 宮崎大学 計測システム及び計測方法
JP2017015456A (ja) * 2015-06-29 2017-01-19 国立大学法人 宮崎大学 計測システム及び計測方法

Also Published As

Publication number Publication date
JP6452361B2 (ja) 2019-01-16
US20160069669A1 (en) 2016-03-10
US9739604B2 (en) 2017-08-22

Similar Documents

Publication Publication Date Title
JP6566768B2 (ja) 情報処理装置、情報処理方法、プログラム
US9613425B2 (en) Three-dimensional measurement apparatus, three-dimensional measurement method and program
US10024653B2 (en) Information processing apparatus, information processing method, and storage medium
JP6844692B2 (ja) 学習データ生成装置、学習データ生成方法、およびプログラム
US10163027B2 (en) Apparatus for and method of processing image based on object region
US10430962B2 (en) Three-dimensional shape measuring apparatus, three-dimensional shape measuring method, and storage medium that calculate a three-dimensional shape of an object by capturing images of the object from a plurality of directions
JP2007129709A (ja) イメージングデバイスをキャリブレートするための方法、イメージングデバイスの配列を含むイメージングシステムをキャリブレートするための方法およびイメージングシステム
US9064178B2 (en) Edge detection apparatus, program and method for edge detection
US10181202B2 (en) Control apparatus, robot, and control method
JP2015210192A (ja) 計測装置およびその方法
JP6452361B2 (ja) 情報処理装置、情報処理方法、プログラム
US20160292888A1 (en) Image measurement device, and recording medium
JP2014186520A (ja) 画像処理装置、画像処理方法およびプログラム
US20190304114A1 (en) Information processing apparatus, information processing method, and storage medium
KR101705330B1 (ko) 스테레오 카메라 이미지에서 물체의 기울어진 각도를 찾기 위한 특징점 선택 방법
JP2018109824A (ja) 電子制御装置、電子制御システムおよび電子制御方法
JP2014191685A (ja) 画像処理装置および画像処理方法
JP6482589B2 (ja) カメラ校正装置
JP5727969B2 (ja) 位置推定装置、方法、及びプログラム
KR101300166B1 (ko) 홍채 검출 장치 및 방법
JP6570321B2 (ja) 情報処理装置、情報処理方法及びプログラム
EP3688407A1 (en) Light projection systems
KR102035245B1 (ko) 타겟 마커 위치 추정 장치 및 방법
JP2005251122A (ja) 画像処理装置および画像処理方法
JP2006113051A (ja) 画像認識装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170906

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180718

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180724

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180913

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181113

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181211

R151 Written notification of patent or utility model registration

Ref document number: 6452361

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151