JP2016136114A - 画像計測装置 - Google Patents

画像計測装置 Download PDF

Info

Publication number
JP2016136114A
JP2016136114A JP2015011462A JP2015011462A JP2016136114A JP 2016136114 A JP2016136114 A JP 2016136114A JP 2015011462 A JP2015011462 A JP 2015011462A JP 2015011462 A JP2015011462 A JP 2015011462A JP 2016136114 A JP2016136114 A JP 2016136114A
Authority
JP
Japan
Prior art keywords
image
measurement
unit
subject
shooting
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015011462A
Other languages
English (en)
Other versions
JP2016136114A5 (ja
JP6521645B2 (ja
Inventor
真一 有田
Shinichi Arita
真一 有田
徳井 圭
Kei Tokui
圭 徳井
潤一郎 三島
Junichiro Mishima
潤一郎 三島
芳光 杉浦
Yoshimitsu Sugiura
芳光 杉浦
剛 一木
Takeshi Ichiki
剛 一木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
East Japan Railway Co
Original Assignee
Sharp Corp
East Japan Railway Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp, East Japan Railway Co filed Critical Sharp Corp
Priority to JP2015011462A priority Critical patent/JP6521645B2/ja
Publication of JP2016136114A publication Critical patent/JP2016136114A/ja
Publication of JP2016136114A5 publication Critical patent/JP2016136114A5/ja
Application granted granted Critical
Publication of JP6521645B2 publication Critical patent/JP6521645B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Measurement Of Optical Distance (AREA)

Abstract

【課題】撮影タイミングのずれを簡単な構成で安価に判定することが可能な画像計測装置を提供する。
【解決手段】画像計測装置100において、視差を有する複数の撮影画像を取得する撮像部101と、視差を有する複数の撮影画像から同一の特徴を有する特徴点を検出して当該特徴点における視差値を算出し、当該視差値を用いて当該特徴点の実空間上での3次元位置情報を算出し、当該3次元位置情報から被写体上の所定領域までの距離および/または被写体上の所定領域のサイズを計測する計測部106と、視差を有する複数の撮影画像から、当該複数の撮影画像が撮影された撮影タイミングが一致しているか否か判定する同期検出部107と、を備え、同期検出部107は、視差を有する複数の撮影画像から特徴点を検出し、当該特徴点の当該複数の撮影画像間での位置関係を検出し、当該位置関係から撮影タイミングが一致しているか否か判定する。
【選択図】図1

Description

本発明は、視差を有する複数の撮影画像を取得し、被写体上の所定領域までの距離や被写体上の所定領域のサイズを計測することが可能な画像計測装置に関する。
非接触で対象までの距離を計測する技術として、一方向に並んで配置された2つの撮像装置で当該対象を撮影して取得した視差を有する撮影画像を用い、三角測量の原理によって対象(被写体)までの距離を計測する技術がある。また、被写体上の点に対して得られた距離から撮像装置を基準とした当該点の実空間上での3次元位置を求めることによって、被写体上の所定領域のサイズ(長さや大きさ(面積))を算出することが可能である。このように撮影するだけで非接触かつ容易に被写体を計測することができる。
例えば、特許文献1には、両眼視差を有するペア画像から被写体の3次元位置を細かく算出することで3次元モデルを生成し、ユーザの所望する2点間の長さを算出する技術に関して開示されている。
特開2011−232330号公報
しかしながら、動いている被写体を計測する場合には、2つの撮像装置の撮影タイミングが一致している(同期している)必要がある。これは、動いている被写体は時間的に位置が変化するため、2つの撮像装置の撮影タイミングがずれるとそれぞれの撮像装置が異なった被写体位置で撮影することになり、正確な位置が検出できなくなるためである。この時、2つの撮影画像間で撮影された瞬間の被写体位置の差によって計測誤差が変わり、被写体位置の差が大きいほど計測誤差も大きくなる。2つの撮影画像間での被写体位置の差は被写体の速度と撮影タイミングのずれによって決まる。例えば、撮影タイミングのずれ量が同じであっても被写体速度が速いほど、2画像間で撮影された際の被写体位置の差は大きくなる。また、逆に被写体速度が同じであっても撮影タイミングのずれ量が大きいほど、2画像間で撮影された際の被写体位置の差が大きくなる。
2画像間で撮影された際の被写体位置の差を小さくするために、2つの撮像装置のシャッターを同時に切る機能を搭載する場合があるが、撮像装置に撮影の実行を指示する信号が入力されてから実際にシャッターが切れるまでの期間には、個体ごとのバラつきがあるため、2つの撮像装置間で撮影タイミングを完全に一致させることは難しい。
また、2つの撮像装置において実際にシャッターが切れたタイミングを判定するのは難しく、そのような判定装置を備える場合にはシステムが複雑な構成になる。
また、そのような撮影タイミングのずれ量を判定できない場合には、撮影タイミングのずれた撮影画像を用いて計測する場合もあり、その場合は計測精度が低下する。例えば、何らかのシステムの不具合により、2つの撮像装置で撮影タイミングのずれが発生した場合には、計測誤差の大きな結果が出力されるが、それが計測誤差の大きな値(結果)かどうかの区別がつかない。
本発明は、上記の課題を鑑みてなされたものであり、視差を有する複数の撮影画像を取得し、被写体上の所定領域までの距離や被写体上の所定領域のサイズを計測することが可能な画像計測装置であって、撮影タイミングのずれを簡単な構成で安価に判定することが可能な画像計測装置を提供することを目的とする。
前記課題を解決するために、本発明の画像計測装置は、
視差を有する複数の撮影画像を取得する撮像部と、
前記視差を有する複数の撮影画像から同一の特徴を有する特徴点を検出して当該特徴点における視差値を算出し、当該視差値を用いて当該特徴点の実空間上での3次元位置情報を算出し、当該3次元位置情報から被写体上の所定領域までの距離および/または被写体上の所定領域のサイズを計測する計測部と、
前記視差を有する複数の撮影画像から、当該複数の撮影画像が撮影された撮影タイミングが一致しているか否か判定する同期検出部と、を備え、
前記同期検出部は、前記視差を有する複数の撮影画像から前記特徴点を検出し、当該特徴点の当該複数の撮影画像間での位置関係を検出し、当該位置関係から前記撮影タイミングが一致しているか否か判定することを特徴とする。
したがって、撮影画像から撮影タイミングが一致しているか否かを判定可能であるため、撮影タイミングのずれを簡単な構成で安価に判定することができる。
好ましくは、
前記同期検出部は、前記特徴点を2組以上検出し、組ごとに特徴点の位置関係を検出し、これらの位置関係から前記撮影タイミングが一致しているか否か判定するように構成することが可能である。
このように構成することによって、撮影タイミングが一致しているか否かを的確に判定することができる。
また、好ましくは、
前記同期検出部によって前記撮影タイミングが一致していると判定された場合には、前記計測部による計測結果を表示し、前記同期検出部によって前記撮影タイミングが一致していないと判定された場合には、前記計測結果を表示しないか、あるいは、前記計測結果を当該計測結果の誤差が大きいことを識別可能に表示する表示部を備えるように構成することが可能である。
このように構成することによって、計測結果の信頼性を向上させることが可能となる。
また、好ましくは、
前記撮像部は、
1回の計測に対して複数回の撮影を行い、
当該複数回の撮影のそれぞれで、前記視差を有する複数の撮影画像として基準画像および参照画像を取得し、
前記同期検出部は、
同期補正部を備え、
前記撮影タイミングが一致していないと判定した場合に、当該同期補正部によって、前記複数回の撮影で取得された前記参照画像と、当該複数回の撮影のうちの1回の撮影で取得された前記基準画像と、に基づき、当該1回の撮影で取得された前記参照画像上の前記所定領域の位置を、前記撮影タイミングが一致していた場合の位置に補正し、
前記計測部は、前記同期検出部によって前記撮影タイミングが一致していないと判定された場合には、前記同期補正部によって補正された撮影画像を用いて前記所定領域までの距離および/または前記所定領域のサイズを計測するように構成することが可能である。
このように構成することによって、正確な計測が可能となる。
本発明によれば、撮影タイミングのずれを簡単な構成で安価に判定することができる。
本発明の一実施形態による画像計測装置の一構成例を示す機能ブロック図である。 本発明の一実施形態による画像計測装置の計測部の一構成例を示す機能ブロック図である。 本発明の一実施形態による画像計測装置の同期検出部の一構成例を示す機能ブロック図である。 本発明の一実施形態による画像計測装置を用いた被写体計測システムの概要を示した図である。 (a),(b)は、計測時における撮影画像を示した図である。 (a),(b)は、ブロックマッチングの概要を示した図であり、(c)は、ブロックマッチングのウィンドウ構成の一例を示した図である。 同期がずれた撮影に関して説明するための図である。 同期が一致した場合の2つの撮影画像の被写体領域を重畳表示した図である。 同期がずれた場合の2つの撮影画像の被写体領域を重畳表示した図である。 被写体位置に応じて被写体上の特徴点が撮像装置のセンサ面に結像した様子を示した概要図である。 本発明の一実施形態による画像計測装置の一構成例を示す機能ブロック図である。 本発明の一実施形態による画像計測装置の同期検出部の一構成例を示す機能ブロック図である。 同期がずれた撮影に関して説明するための図である。 同期がずれた撮影に関して説明するための被写体領域を重畳表示した図である。 計測領域の補正処理について説明した図である。
以下、本発明に係わる画像計測装置について各実施形態を挙げ図面を参照しながら説明する。
<第1の実施形態>
図1は、本発明の一実施形態による画像計測装置の一構成例を示す機能ブロック図である。
本実施形態における画像計測装置100は、撮像部101と、画像処理部102と、記録部103と、出力部104と、入力部105と、計測部106と、同期検出部107とを有している。
撮像部101は、少なくとも2つの撮像装置(第1撮像装置101a、第2撮像装置101b)を有する。それぞれの撮像装置101a,101bは、レンズ、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)などの撮像素子、それらの動作を制御する制御部、メモリなどから構成される撮像装置の一般的な構成を有する。2つの撮像装置101a,101bは、それぞれの撮像装置101a,101bで取得された2つの撮影画像が視差を有するように、水平方向に並んで配置されている。
ここで、撮像装置101a,101bの撮影位置、すなわち視点位置が異なるため、被写体上の任意の点は、それぞれの撮影画像内で水平方向にずれた場所に位置し、このずれ量を視差という。一方向に並んで配置された2つの撮像装置によって取得された撮影画像の視差は、被写体が撮像装置に近いほど大きく、逆に遠いほど小さくなり、撮像装置間の長さに対して非常に遠い、すなわち無限遠領域での視差はほぼ0となる。ある距離における視差は、撮像装置間の距離である基線長や光学系、解像度などの撮像素子に関連するパラメータによって決まる。本実施形態では、2つの撮像装置101a,101bは同等の特性(仕様)を有し、レンズ、撮像素子などは同じものを使用しているものとして説明する。仕様が異なる場合には、基準となる撮像装置に対してもう一方の撮像装置の各パラメータを正規化すれば良い。このようにして、撮像部101で取得された撮影画像の画像データは、画像処理部102に出力される。この時、撮影時の基線長や焦点距離情報などの撮影情報を後述するカメラパラメータ取得部115に出力する。なお、カメラパラメータ取得部115は、別途カメラパラメータを事前に保持することで、撮像部101から直接出力しない構成も取り得る。
なお、以降、1回の撮影において撮像部101で取得された視差を有する撮影画像を「画像a」、「画像b」と表記するものとする。
画像処理部102は、撮像部101によって取得された撮影画像の画像データに対して、明るさの調整や色の調整などの処理や、出力部104に合わせたデータ形式への変換処理を行ったり、記録部103との間でデータ出力処理やデータ読出処理を行ったりする。また、計測部106や同期検出部107へ画像データを出力したり、計測部106から得られた情報に基づいて撮影画像に文字やマークや図などの情報を重畳して出力部104などへ出力したりするなどの処理を行う。
記録部103は、ハードディスクやフラッシュメモリなどで構成され、画像処理部102から出力された画像データなどの記録を行う。
出力部104は、画像処理部102から受け取った画像や計測部106によって出力された計測結果などを、表示したり、計測結果に応じた識別信号に基づき視覚的にユーザに知らせたり、所望のデータ形式に変換して出力したりする装置である。
例えば画像や結果を表示するものであれば、液晶ディスプレイなどで構成される。この場合、出力部104は、タッチパネル液晶のように、後述する入力部105と一体型となった構成でも構わない。
また、出力部104は、計測結果があらかじめユーザが設定した基準に対して基準を満たすか否かを視覚的に通知する装置でもよい。当該装置としては、例えば、被写体サイズを計測して規定のサイズであるかどうかを判定するシステムにおいて、被写体サイズの計測結果が規定内で問題がない場合は青を表示、問題がある場合は赤を表示といったように発光色によって示すものを用いることができる。
入力部105は、計測対象となる領域(計測領域)を入力する装置である。
具体的には、ユーザにより指定された計測領域を計測するのであれば、入力部105は、例えば表示された撮影画像上のポインタを動かすための十字キーやタッチパネルなどで構成され、ユーザによる選択や決定などのコマンドの入力に基づき、計測領域を指定するための情報を生成して計測部106に出力する。
また、あらかじめ決められた計測領域を自動的に計測するのであれば、入力部105は、例えば計測領域を指定するための情報を保持可能に構成され、所定のタイミングで当該保持する計測領域を指定するための情報を計測部106に出力する。本実施形態では、あらかじめ決められた計測領域を入力部105に設定しておき、取得された撮影画像から計測領域を自動的に計測するものとする。また、自動計測領域以外の領域については、ユーザが表示された撮影画像上を指定することで、その指定された領域を計測領域として計測ができるものとする。
計測部106は、入力された計測領域に対して距離やサイズなどの計測値を算出する。
計測部106の詳細な構成を図2に示す。計測部106は、計測領域検出部111と、視差値算出部112と、3次元位置情報算出部113と、距離・サイズ情報算出部114と、カメラパラメータ取得部115とから構成され、撮影画像の画像データと撮影した撮像部101の情報と計測領域に関する情報から、計測領域までの距離や、計測領域のサイズ(長さや大きさ(面積))などを算出して出力する。各部の詳細については後述する。出力された計測結果(算出結果)は表示部(例えば、出力部104)に表示される。
同期検出部107は、撮像部101によって1回の撮影で取得された2つの画像a,bから、撮影タイミングが一致している(同期している)か否か判定する。
同期検出部107の詳細な構成を図3に示す。同期検出部107は、特徴領域検出部121と、変位量算出部122と、同期ずれ判定部123とから構成され、2つの撮像装置101a,101bによって取得された画像a,b間の撮影タイミングが一致しているか否か判定して、当該判定結果を計測部106や出力部104に出力する。
ここで、本実施形態の画像計測装置100の各構成部の処理の流れを説明する。本実施形態の画像計測装置100は、移動する被写体を撮影し、その撮影画像から計測するシステムであり、移動する被写体が画像計測装置100の撮影範囲を通過するたびに、あらかじめ指定された被写体上の計測領域までの距離や、あらかじめ指定された被写体上の計測領域のサイズ(長さや大きさ)を計測するものとする。図4にその概要を示す。
図4は、移動台131のそばに設置された撮像部101が、移動台131の上に配置されて移動方向132に沿って当該撮像部101の方に移動してくる被写体130を、撮影範囲133に入った際にシャッターを切って撮影する様子を示す図である。
被写体位置検出装置134は、被写体130が撮影範囲133に入ったかどうかを検出する装置であり、例えば、赤外レーザ光線を使った遮断式の検出センサである。被写体位置検出装置134は、被写体130上の計測領域が撮影範囲133に入ったことを検出できる場所に設置され、被写体130が撮影範囲133外の被写体位置135から撮影範囲133内の被写体位置136に到達した瞬間を検出して撮影タイミング信号を撮像部101に発信する。当該撮影タイミング信号を受信した撮像部101は、シャッターを切って被写体を撮影する。
なお、ここでは、被写体位置検出装置134として赤外レーザを使った検出センサを用いたが、被写体位置検出装置134は、これに限らず、撮影範囲133内に被写体130が入ったかどうか判定できるような構成であれば構わない。例えば、画像認識を使うのであれば、撮像部101によって連続して撮影し、画像認識により被写体130が撮影範囲133内に入ったかどうかを検出するのでもよい。
画像計測装置100は、撮影画像から、あらかじめ設定された計測領域までの距離や、あらかじめ設定された計測領域のサイズ(長さや大きさ)を計測し、その結果を出力する。
なお、図4では、画像計測装置100全体が一体となった構成として移動台131付近に配置されているが、撮像部101とその他の各構成部が分離された構成でもよく、例えば、移動台131付近に設置されている撮像部101によって取得された撮影画像の画像データを、移動台131から離れた場所に設置してあるその他の各構成部にネットワークによって伝送し、当該離れた場所で計測処理や表示処理を行う構成でも構わない。
次に、撮影画像を用いて計測する処理に関して説明する。被写体130が撮影範囲133に入ると、撮像部101によって被写体130の撮影が行われる。この時、撮像部101で取得された視差を有する画像a,bは、画像処理部102へ受け渡され、明るさの調整、JPEGなどの静止画ファイルやMPEGなどの動画ファイルなど各種データ形式への変換などの処理が施された後、記録部103に記録される。また、撮影画像を表示する場合には出力部104に表示される。
入力部105は、計測領域を指定するための情報を入力するものであり、例えば、自動的に被写体に応じて計測領域を示すモデルデータが設定されており、撮影された被写体にあわせて計測領域に関する情報を計測部106に出力する。
計測部106は、取得された視差を有する画像a,bを用いて、入力部105より入力された計測領域情報に対応する距離やサイズを計測する。計測された結果は表示部(例えば、出力部104)に出力され、表示部によりユーザに通知される。
ここで、計測部106の処理について詳細に説明する。計測領域検出部111は、入力部105より入力された計測領域情報に応じて画像a(基準画像)から計測対象となる領域を検出して、その画像上の座標値を視差値算出部112に出力する。
被写体位置136に到着した被写体130を撮影して取得した撮影画像を図5に示す。図5(a)は第1撮像装置101aによって取得された画像a(基準画像)であり、図5(b)は第2撮像装置101bによって取得された画像b(参照画像)である。撮像装置101a,101bは水平方向に並んで配置されているため、2つの画像a,b上の被写体領域は、被写体領域140a,140bのように水平方向にずれている。また、被写体130上の同一の特徴を有する点を特徴点141a,141bとし、特徴点141a,141bとは異なる特徴の点であって同一の特徴を有する点を特徴点142a,142bとした場合に、それぞれのずれ量を、視差値141d,142dとする。撮像装置101a,101bが一方向に並んで配置されている場合は、距離が遠いほど視差値は小さくなるため、撮像部101に近い特徴点141の視差値141dよりも、撮像部101から遠い特徴点142の視差値142dの方が小さい値となる。このように、視差値の大きさによって撮像部101からの位置関係が分かる。
ここでは、2つの撮像装置101a,101bは、光軸が平行になるように設置されているが、設置精度により光軸が平行でない場合には、光軸が平行になるように射影変換などの画像処理により、2つの画像a,bを光軸が平行化された画像に変換する処理を行う。
このような平行化の処理は、あらかじめ取得された撮像部101のパラメータを用いて行うことができる。具体的には、事前に既知の大きさのチャートを撮影することで画像データから撮像部101内部のパラメータや2つの撮像装置101a,101bの位置関係を示すパラメータを取得でき、このパラメータを用いて変換処理を行うことができる。
視差値算出部112では、このように視差を有する2つの画像a,bから同一の特徴点の視差値を算出する。視差値算出には、例えばブロックマッチング法を用いることができる。ブロックマッチング法による視差値算出は、ブロック単位での類似度により2つの撮影画像間で同じ被写体の特徴点位置を検出し、そのずれ量(視差値)を検出する。画像aを基準画像とした場合に、画像a上の特徴点と同じ特徴を有する画像b上の点を対応点と呼ぶ。対応点の探索を行うために評価関数としてSAD(Sum of Absolute Difference)を用いる。SADでは、第1画像と第2画像のそれぞれで注目画素を中心にウィンドウを設定し、設定したウィンドウ間の各画素の輝度の差を求め、その各画素間から得られた輝度の差の総和を算出する。同様な処理を第2画像側の注目画素を変えながら行い、値が最も小さい注目画素が対応点であるとする。
ここで、図6を用いて、画像aを基準に視差値を算出する場合において、被写体上の特徴点141に対するブロックマッチングの説明をする。図6(a),(b)には図5(a),(b)と同様の画像を、図6(c)には設定した3×3のウィンドウを示す。特徴点141が画像a上の画素a1に存在するとした場合に、画素a1を中心とした3×3の大きさのウィンドウM1を設定する。次に、画像bにおいて画素a1と同一の位置にある画素b1を探索開始点として設定し、3×3のウィンドウM2を設定する。次に設定したウィンドウ間の各画素の輝度の差を求め、その各画素間から得られた輝度の差の総和を算出する。例えば、図6(c)のように、それぞれの設定したウィンドウの画素の値をX1〜X9、X’1〜X’9とした場合、式(1)を用いてSAD値(輝度の差の総和)を求めることができる。
Figure 2016136114
一方向に並んで配置された撮像装置101a,101bで取得された視差を有する画像a,bは、無限遠が視差0であり、近くの被写体になるほど視差が大きくなる。このとき、画像aを基準として画像bが右視点の場合には、画像b上の特徴点は画像a上の特徴点よりも左側に位置する。そこで、探索方向を左方向として画素b1から左方向に注目画素を変更していき、上述したSAD値を順次求め、得られたSAD値の中で最小値をとる注目画素を対応点とする。この場合、画像b上の画素b2が最も値が小さい結果となれば、この画素b2を対応点とする。そして、特徴点と、それに対応する対応点と、のずれ量(視差値)を算出する。
対応点を求めたい画素に対し、このような処理を行うことで、その画素に対する視差値を取得することができる。本実施形態では、画像aと画像bのサイズは1920×1080、ウィンドウサイズは注目画素を中心に25×25と設定して、視差値の算出を行っている。
なお、本実施形態では、上記の画像サイズやウィンドウサイズ(ブロックサイズ)を設定したが、画像サイズやウィンドウサイズは、これに限定されるものではなく、精度や処理量を考慮し適宜設定すればよい。また、本実施形態では、対応点の探索を行うために評価関数としてSADを用いたが、他の評価関数でも構わない。さらに、本実施形態では、輝度情報を用いてマッチングを行う例で説明したが、カラー情報を使用してRGB等の各色チャネルでマッチングして統合処理する方法やそのうち1チャネルを用いてマッチングする方法でも構わない。
また、特徴点を検出する方法は、ブロックマッチングのように領域ベースのマッチング方法に制限されず、その他の特徴点を検出する方法でも構わない。特徴点を検出する他の方法としては、例えば、画像上の濃淡値の変化が大きい点や領域を抽出し、その点や領域に対して特徴量を規定する処理を行い、類似性を識別する方法がある。特徴点を抽出し、その類似性を識別するための方法としては、例えば、SIFT(Scale−Invariant Feature Transform)を用いた特徴量検出方法がある。SIFTは特徴点の周辺を数画素のブロックに分割し、ブロックごとに8方向の勾配ヒストグラムを求めて128次元の特徴ベクトルで示すものである。また、その他の特徴量検出にはSURF(Supeeded-Up Robust Features)やGLOH(Gradient Location−Orientation Histgram)といった手法もある。視差値には撮影位置からの距離と相対関係があり、距離が近いほど視差値は大きく、遠いほど視差値は小さく、無限遠で0になる。そのため、視差値を距離情報として扱うことができる。
視差値算出部112は、計測対象となる領域に含まれる特徴点(計測点)を検出し、当該特徴点における視差値(当該特徴点と、それに対応する対応点と、のずれ量)を算出して、3次元位置情報算出部113に出力する。
3次元位置情報算出部113では、特徴点(計測点)の撮像部101を基準とした実空間上の3次元位置座標が算出される。ここでは、基準画像の中心を原点とするため、3次元座標の原点は、第1撮像装置101aの光学中心となる。3次元位置情報算出部113によって得られた特徴点(計測点)ごとの3次元位置情報は、距離・サイズ情報算出部114に出力される。
3次元位置情報算出部113は、入力された各計測点の視差情報(視差値)とカメラパラメータ取得部115から入力された情報とに基づいて、各計測点の実際の3次元位置情報を算出する。ここで、カメラパラメータ取得部115からは、撮像部101の外部カメラパラメータや内部カメラパラメータなどの情報が入力される。カメラパラメータ取得部115は、撮像部101からこのようなパラメータを取得したり、データベースとして保持しておいたりする。外部カメラパラメータとは、2つの撮影画像がどのような配置の撮像装置によって撮影されたかを示す情報であり、例えば、2つの撮像装置101a,101b間の距離である基線長や撮像装置101a,101b間の光軸の相対的角度を示す輻輳角などである。また、内部カメラパラメータとは、撮影における撮像装置の焦点距離情報、撮像素子の画素ピッチなどの情報である。カメラパラメータ取得部115は、このようなパラメータ情報を3次元位置情報算出部113へ出力する。
3次元位置情報算出部113が算出する3次元位置に関して説明する。3次元空間上に位置する被写体上の点Kの座標を(X,Y,Z)とし、点Kに対応する画像a,b上の点を点ka,kbとした場合に、画像の中心を原点として表した点kaおよび点kbの座標をそれぞれ(xa,ya)および(xb,yb)とする。また、2つの点ka,kbの視差値をDとする。ここで、3次元位置情報として点Kの座標(X,Y,Z)を求める。この時、撮影時の焦点距離f、基線長B、撮像素子の画素ピッチPを用いて、点Kまでの実空間上の距離Zは下記の式(2)のように表すことができる。
Z=(B×f)/(D×P)・・・(2)
また、撮像素子1画素あたりの大きさは距離Zの平面上ではZ×P/fと示すことができるので、基準画像の中心を基準とした3次元位置情報(X,Y,Z)のXとYは、下記の式(3),(4)のように表すことができる。
X=x×B/D・・・(3)
Y=y×B/D・・・(4)
上記のように計測点の実際の空間上での3次元位置情報を求めることができる。このようにして、各計測点の実空間上での3次元位置情報が得られる。
3次元位置情報算出部113によって算出された各計測点の3次元位置情報は、距離・サイズ情報算出部114に出力される。
距離・サイズ情報算出部114は、各計測点の3次元位置情報に基づいて、被写体上の所定領域までの距離や、被写体上の所定領域のサイズなどを算出する。ここで、「被写体上の所定領域までの距離」とは、例えば、撮像部101から被写体上の計測領域までの距離のことであり、具体的には、計測領域が点の場合には当該点(計測点)までの距離、計測領域が線の場合には当該線に含まれる計測点までの距離、計測領域が面の場合には当該面に含まれる計測点までの距離である。また、「被写体上の所定領域のサイズ」とは、例えば、被写体上の計測領域間の長さや、被写体上の計測領域のサイズのことであり、具体的には、計測領域が2つの点の場合には当該2点間の長さ、計測領域が線の場合には当該線の長さ、計測領域が面の場合には当該面の大きさ(面積)である。例えば、2つの計測点の3次元座標をA(Xa,Ya,Za)およびB(Xb,Yb,Zb)とすると、2点A,B間の長さLは下記の式(5)のように算出することができる。
L=√(|Xa−Xb’|2+|Yb−Yb’|2 +|Za−Zb’|2)・・・(5)
そして、距離・サイズ情報算出部114によって算出された距離やサイズなどの計測結果は、出力部104に出力されて表示される。
次に、同期検出部107について説明する。
特徴領域検出部121は、入力部105から入力された計測領域情報に基づいて基準画像である画像aから計測対象となる領域を検出し、当該領域から2つ以上の特徴点を検出する。また、特徴領域検出部121は、当該検出した特徴点と同一の特徴点(対応点)を参照画像である画像bから検出する。
特徴領域検出部121によって得られた2つの画像a,b上の同一特徴点の座標情報は、変位量算出部122に出力される。
変位量算出部122では、画像a,b間の特徴点の位置関係から変位量を判定し、各特徴点がどのようにずれたかを検出する。ここでの変位量とは、2つの撮像装置の撮影タイミングが一致して撮影した場合のそれぞれの撮影画像内の被写体位置を基準とした値であるものとする。詳細については後述する。このずれに関する情報は、同期ずれ判定部123に出力され、同期ずれ判定部123によって撮影タイミングが一致している(同期している)か否か判定される。
ここでまず、同期ずれによって特徴点位置がどのようになるかについて、図7を用いて説明する。図7において図4と同じ符号は同一の機能を有するものとする。
図7は、被写体130が撮影範囲133内の被写体位置171に到着した瞬間を被写体位置検出装置134によって検出し、当該検出を契機に被写体位置検出装置134から送信されたシャッター信号(撮影タイミング信号)に合わせて撮像部101が撮影を行う様子を示す図である。この時、撮影するタイミングが一致していた場合に撮影された画像a,bを重ね合わせた図を、図8に示す。この場合、第1撮像装置101aによって撮影された画像aと第2撮像装置101bによって撮影された画像bにおける特徴点181aと特徴点181bとの視差値181dを用いることで、特徴点181の正確な3次元位置を求めることができる。
次に、2つの撮像装置101a,101bの同期がずれており、第2撮像装置101bの撮影タイミングが第1撮像装置101aの撮影タイミングより遅れたために、画像aは被写体位置171で撮影され、画像bは被写体位置172で撮影された場合について説明する。この場合の画像a,bを重ね合わせた図を、図9に示す。図8と比較すると、第1撮像装置101aによって撮影された画像a上での被写体領域(実線上および実線内の領域)の位置は変わらないが、第2撮像装置101bによって撮影された画像b上での被写体領域(二点鎖線上および二点鎖線内の領域)の位置は同期がずれたため異なっている。画像a上の特徴点181a,182aに対応する画像b上の特徴点(対応点)は、それぞれ特徴点181b’,182b’となり、特徴点181aに対応する特徴点181bと特徴点181b’の位置も、特徴点182aに対応する特徴点182bと特徴点182b’の位置も、異なっている。特徴点181aと特徴点181b’との視差値181d’は、特徴点181における同期が取れた場合の視差値181dと異なるため、算出される3次元位置も異なる。この場合は、同期のずれた場合の視差値181d’の方が、同期の取れた場合の視差値181dに比べて大きい値となっているため、実際の距離より近い距離が算出される。特徴点182に対しても同様に視差値が大きくなるために距離が近くに算出され、特徴点181aと特徴点182aとの間の長さとして実物よりも小さい値が算出される。このように、同期がずれることによって計測精度の低下が発生する。
一般的に、撮像装置にシャッター信号が入力されてから実際にシャッターが切れるまでの期間には個体差があり、複数の撮像装置に同じタイミングでシャッター信号が入力されたとしても、撮影タイミングがわずかにずれる場合が多い。この撮影タイミングのずれが大きいほど被写体位置のずれも大きくなるため、計測誤差が大きくなる。また、撮影タイミングのずれ量が同じであっても被写体速度が速くなるほど、2つの撮影画像間での被写体位置のずれは大きくなり、その分誤差も大きくなる。そのため、同期ずれによって生じた被写体位置のずれが許容される範囲であるかを撮影画像から検出することが必要となる。
ここで、撮影画像を用いて同期ずれの検出方法について説明する。
基本的に、視差を有する撮影画像を用いた画像計測を行う場合には2つの撮像装置の光軸が平行になるようにして撮影を行う。また、撮像装置の設置がずれた場合も画像処理により光軸が平行となるように補正処理を行う。補正処理は例えば、既知の間隔の格子状のチャートなどを撮影し、撮影画像から2つの撮像装置間の位置関係を算出し、その算出されたパラメータを用いて光軸が平行になるように射影変換するなどして行う。
本実施形態のように、水平方向に並んで配置された2つの撮像装置によって取得された視差を有する画像a,bでは、図8に示すように同期が取れている場合には、画像a,bの共通する特徴点の位置は水平方向にずれて、特徴点の垂直方向の座標がほぼ一致する。つまり、平行化された画像ではエピポーラ線が2つの撮像装置の配置方向に平行になる。図8に示す画像は、水平方向に並んで配置された撮像装置101a,101bによって取得された撮影画像であるため、特徴点181a,181bはともに水平直線183上に配置され、特徴点182a,182bはともに水平直線184上に配置される。
一方、図9に示すように、撮像装置101bの撮影タイミングがずれた場合の同期ずれ画像では、特徴点181b’は、特徴点181aを通る水平直線183上に配置されず、垂直方向にずれている。また、特徴点182b’は、特徴点182aを通る水平直線184上に配置されず、垂直方向にずれている。
このように、撮影タイミングが一致している場合には、2画像間の同一の特徴点は2つの撮像装置の配置方向に対して直交する方向の座標が一致するのに対し、撮影タイミングが一致していない場合には、2画像間の同一の特徴点は2つの撮像装置の配置方向に対して直交する方向の座標がずれる。本実施形態では、2つの撮像装置101a,101bの配置方向は水平方向であるが、例えば2つの撮像装置の配置方向が垂直方向である場合には、画像aと画像bとの間の同一の特徴点は、同期が取れている場合には、水平方向の座標が一致し、垂直方向に視差を有することになる一方、同期がずれた場合には、水平方向の座標がずれる。このように、撮像装置101a,101bの配置方向に対して直交する方向における同一の特徴点の位置関係を検出することで、同期が取れているか判定することができる。
同期検出部107は、上述した判定処理を行うことで同期が取れているかどうかを撮影画像から判定する。
特徴領域検出部121は、入力部105より得られた計測領域情報に基づいて、画像処理部102から入力された視差を有する撮影画像から被写体上の特徴点を検出する。この時、複数の特徴点を検出し、検出された特徴点からより類似性の強い特徴点を抽出して、その特徴点を同期判定用の特徴点とすると、周辺に似たような特徴を有する点を同期判定用の特徴点として抽出して誤検出することが低減でき、同期判定時の検出精度が向上できるので望ましい。また、同期判定用の特徴点は2点以上選択するのがよく、特に、選択した特徴点の位置関係が2つの撮像装置の配置方向よりずれていることが望ましい。これは、1点のみでは被写体距離が変わっても画像上の特徴点位置が変わらないことがあり、その場合には判定できないためである。図10を用いて詳細を説明する。
撮像装置のセンサ面をセンサ面1001、焦点位置を焦点1002とし、被写体1003が被写体位置1004に配置される場合に、被写体1003上の特徴点1006は、当該特徴点1006と焦点1002とを結ぶ直線と、センサ面1001と、の交点である点1008に結像される。同様にして、被写体1003上の特徴点1007は、点1009に結像される。
次に、被写体1003が撮像部に向かって移動して被写体位置1005に配置された場合を考える。この時、特徴点1006が、当該移動によって特徴点1006’の位置となったとする。図10に示す例のように、移動後の特徴点1006’が特徴点1006と焦点1002とを結んだ線分上に配置される場合にはセンサ面1001上の点1008に結像され、移動前後で結像点(画像上の特徴点)の位置が変わらない。したがって、被写体位置が異なるにもかかわらず特徴点位置の差異がないため、被写体位置が異なっているか判定できない。
また、線分上でなくても被写体の移動に伴ってセンサ面1001上の位置が点1008から水平方向にずれるような場合にも、垂直方向の位置ずれが生じないため、被写体位置が異なっているか判定できない。そのため、確実に被写体位置が異なっているかを判定するためには2点以上の特徴点が必要であり、その2点の位置関係は垂直方向にずれた位置関係であればよい。例えば、特徴点1006のセンサ面1001上の位置と、特徴点1007のセンサ面1001上の位置と、は垂直方向にもずれているとする。ここで、特徴点1006と移動後の特徴点1006’が画像上で変位しないように被写体位置1005へと移動した場合に、特徴点1007に対応したセンサ面1001上の点1009と移動後の特徴点1007’に対応したセンサ面1001上の点1010とは、異なった位置となり、垂直方向の座標も異なる。これは、被写体1003は大きさが変わらないため、撮像部101に近づくにつれて拡大され、その結果、センサ面1001上の2つの特徴点の間隔も拡大されるためである。垂直方向にずれていると同様にずれ量が拡大される。そのため、2点あれば被写体の移動によって少なくとも1点以上は2つの撮像装置の配置方向に対して直交する方向に位置が変化する。このように、2つの撮像装置の配置方向に一致しない2つ以上の特徴点を抽出する。被写体移動による特徴点の変位は、被写体が撮像装置のセンサ面と平行にかつ2つの撮像装置の配置方向に沿って移動する場合には2つの撮像装置の配置方向にしか変位しないため、撮像装置の設置条件を、被写体の移動方向に対して、センサ面が平行かつ2つの撮像装置の配置方向が一致しないように設置する必要がある。
同期ずれ判定のために2つの画像a,bから同一の特徴点を検出する方法は、上述したブロックマッチング法や特徴量によるマッチングなど被写体上の同じ領域を2画像間から検出できる方法であれば構わないが、特徴量によるマッチングが望ましい。これは、広範囲の領域から数点の特徴点を検出するのに処理量を低減できるためである。ブロックマッチング法は密に対応点を検出できる反面、計算コストが高くなる特性を有し、探索する領域が大きいほど処理量も増大する。一方、特徴量を用いたマッチングでは疎な点の検出となるが、ブロックマッチングに対して同じ探索領域でも処理量を低減することができる。同期判定のための特徴点は密に取る必要性がなく、また、同期ずれが発生した場合には対応点位置が垂直方向にずれるため対応点を探索する領域を大きく取る必要が生じることから、特徴量を用いたマッチングの方が処理量を低減することができる。
画像a,bより検出された複数の特徴点ペア(画像a,b間の同一の特徴点)の中から同期判定として用いる特徴点ペアを抽出する際には、特に類似性の高い特徴点ペアを抽出して、同期判定用の特徴点ペアとして間違って対応点を検出した特徴点ペアを抽出することを低減する。
特徴領域検出部121では、上述したように同期判定するための特徴点を画像a,bから検出して、その情報を変位量算出部122へと出力する。
変位量算出部122では、抽出された特徴点に対して画像a,b上の位置関係を検出し、撮像装置101a,101bの配置方向に対して直交する方向にどれだけずれた位置であるかを検出する。例えば、図9に示すように同期がずれた撮影画像において、2つの同期判定用の特徴点を特徴点181,182にすると、特徴点181での画像a,b上での垂直方向の変位量である変位量193を算出するとともに、特徴点182での画像a,b上での垂直方向の変位量である変位量194を算出する。そして、これら変位量データを同期ずれ判定部123に出力する。
同期ずれ判定部123は、2つの画像a,b間の変位量に基づいて、同期がずれていないか判定する。本実施形態では、変位量が全て0である場合には同期が取れている(撮影タイミングが一致している)と判定し、1つでも変位量が0でない特徴点がある場合には同期が取れていない(撮影タイミングが一致していない)と判定する。またこの時、許容される精度と同期によるずれ量が既知である場合には、許容されるずれ量を判定閾値として設定し、変位量が判定閾値以下である場合は同期が取れている、判定閾値より大きな場合は同期が取れていないと判定するのでもよい。例えば、撮像装置の仕様(解像度や焦点距離など)や撮影基準となる被写体距離によって1画素あたりの3次元位置のずれ量が定まる。そのため、使用する撮像装置や設置の条件と要求される計測精度に応じて同期によるずれが何画素分なると目的とする計測精度を満たさなくなるとの判定ができる。この画素数を判定閾値に設定するなどしてもよい。このように、同期ずれ判定部123は変位量から同期を判定し、その判定値を出力する。
同期検出部107は、上述したように撮影画像から同期が取れている(撮影タイミングが一致している)かを判定し、その判定情報を計測部106または表示部(例えば、出力部104)へと出力する。そして、表示部は、同期検出部107によって同期が取れていないと判定された場合には、計測結果の誤差が大きいため、計測部106による計測結果を出力(表示)しない、あるいは、計測部106による計測結果を出力(表示)するとともに同期がずれている(計測エラー)とユーザに通知する。このように、1回の撮影で取得された視差を有する撮影画像から簡単に同期が取れているかの検出できることで、計測値に同期による問題がないかを判定でき、信頼性向上が図れる。また、同期の判定値に応じた信頼度を設定し、出力された計測値に対して信頼度を付与するものでも構わない。例えば、3画素までのずれの場合は誤差が少ないので信頼度「高」、それ以上6画素までのずれは誤差が増えるため信頼「中」、それ以上はさらに誤差が大きくなるので信頼度「低」などと計測結果を分類するのでもよい。これらのずれ量に対する誤差量の関係は撮像象値と被写体との距離関係によって変わるため、撮影条件に応じて適切に設定する必要がある。
また、例えば、同一被写体に対して複数回の撮影を行った場合、同期検出部107の出力結果によって、計測結果として適切なものを選択したり、同期検出部107の出力結果によって、同一被写体に対して再撮影と再計測を実施したりすることができる。これにより、信頼度の高い計測結果を得ることができる。
以上説明したように、本実施形態の画像計測装置100によれば、視差を有する複数の撮影画像を取得する撮像部101と、視差を有する複数の撮影画像から同一の特徴を有する特徴点(計測点)を検出して当該特徴点における視差値を算出し、当該視差値を用いて当該特徴点の実空間上での3次元位置情報を算出し、当該3次元位置情報から被写体上の所定領域(計測領域)までの距離および/または被写体上の所定領域(計測領域)のサイズを計測する計測部106と、視差を有する複数の撮影画像から、当該複数の撮影画像が撮影された撮影タイミングが一致しているか否か判定する同期検出部107と、を備えている。そして、同期検出部107は、視差を有する複数の撮影画像から特徴点を検出し、当該特徴点の当該複数の撮影画像間での位置関係を検出し、当該位置関係から撮影タイミングが一致しているか否か判定するように構成されている。
すなわち、視差を有する2つの撮影画像から同一の特徴点を検出し、撮像装置101a,101bの配置方向に対して直交する方向の当該同一の特徴点の位置関係を検出することで、同期が取れているか否かを判定することができる。
したがって、撮影画像から同期が取れているか否かを判定可能であるため、撮影タイミングのずれを簡単な構成で安価に判定することができる。
なお、撮像部101が、1回の撮影で取得する複数の撮影画像は、画像a、画像bに限ることはなく、互いに視差を有する複数の撮影画像であればよい。
また、本実施形態の画像計測装置100によれば、同期検出部107は、特徴点を2組以上検出し、組ごとに特徴点の位置関係を検出し、これらの位置関係から撮影タイミングが一致しているか否か判定するように構成することが可能である。
このように構成することによって、撮影タイミングが一致しているか否かを的確に判定することができる。
また、本実施形態の画像計測装置100によれば、同期検出部107によって撮影タイミングが一致していると判定された場合には、計測部106による計測結果を表示し、同期検出部107によって撮影タイミングが一致していないと判定された場合には、計測結果を表示しないか、あるいは、計測結果を当該計測結果の誤差が大きいことを識別可能に表示する表示部(例えば、出力部104)を備えるように構成することが可能である。
このように構成することによって、計測結果の信頼性を向上させることが可能となる。
なお、本実施形態では、被写体の移動を直線方向としたが、撮像部101に対して距離の変位があればよい。これは、撮像部101の配置方向に平行な方向に移動した場合以外には同期検出時に2画像a,b間で特徴点の変位が発生するためである。
また、本実施形態では、撮像装置101a,101bが水平方向に並んで配置された構成を示しているが、これに制限されることはなく、撮像装置101a,101bは、例えば垂直方向に並んで配置されていても構わない。この場合は、撮像装置101a,101bの配置方向に対して直交する方向(この場合は水平方向)の変位量を検出すればよい。
<第2の実施形態>
第1の実施形態では、撮影画像から同期が取れているか否かの判定を行い、撮影画像を用いて正確な計測が可能かを検出できる構成を示したが、第2の実施形態では、さらに同期がずれた撮影画像を用いて正確な計測が行えるように補正処理を行う構成を示す。
図11および図12に、本実施形態による画像計測装置100の構成を示す。具体的には、図11は、本実施形態による画像計測装置100の一構成例を示す機能ブロック図であり、図12は、本実施形態による画像計測装置100の同期検出部1101の一構成例を示す機能ブロック図である。
同期検出部1101は、図3に示す同期検出部107に加えてさらに同期ずれ補正部1102を有し、同期ずれが検出された場合には同期ずれ補正部1102によって正確な計測ができるように補正処理を行う。図11および図12において、同期検出部1101以外の図1、図2、図3と同じ符号の構成部については、前述した機能と同様の機能を有するものとする。
同期ずれ補正部1102の処理について、図13を用いて詳細に説明する。図13において図4と同じ符号は同様の機能を有するものとする。
図13は、移動台131上に配置されて移動方向132に沿って移動する被写体130が、撮影範囲133に入った瞬間を被写体位置検出装置134で検出し、そのタイミングに合わせて撮像部101が撮影を行う様子を示す図である。この時、撮像部101は2回以上の撮影を行い、少なくとも2組の視差を有する撮影画像を取得する。ここで、被写体位置検出装置134は、被写体130が撮影範囲133に含まれる被写体位置1201aに到着した瞬間を検出し、そのタイミングに合わせて撮像部101は撮影を行う。同期が合っている場合には、撮像装置101a,101bによって取得された画像a,bはともに被写体位置1201aで撮影される。ここでは、同期がずれて第2撮像装置101bの撮影タイミングが第1撮像装置101aの撮影タイミングよりもt1秒遅くなり、1回目の撮影で取得された画像aおよび画像bは、それぞれ被写体位置1201aおよび被写体位置1201bで撮影されたものとする。また、2回目の撮影で取得された画像aおよび画像bは、それぞれ被写体位置1202aおよび被写体位置1202bで撮影されたものとする。
同期検出部1101は、1回目の撮影で取得された画像a,bを用いて、前述したように被写体上の2つ以上の特徴点に対して画像a上と画像b上の位置関係を検出し、その変位量から同期がずれているか否かを判定する。同期ずれ判定部123によって同期がずれていると判定した場合には、同期ずれ補正部1102によって、同期がずれた撮影画像における被写体領域の位置を、同期が合った場合の被写体領域の位置となるように補正処理を行う。
ここで、補正処理の方法について説明する。図14は、第2撮像装置101bによって被写体位置1201a,1201b,1202bで取得された撮影画像の被写体領域を重畳した図を示している。この時、画像上の被写体領域は、それぞれ被写体領域1301,1302,1303となる。また、被写体上の特徴点1304,1305,1306は、それぞれの被写体位置における同一の特徴点である。同様に特徴点1307,1308,1309は、それぞれの被写体位置における同一の特徴点である。
被写体130が直線的に移動する場合、被写体上の特徴点も同様に画像上で直線的に変位する。この時の特徴点1304の変位する軌道である軌道1310、特徴点1307の変位する軌道である軌道1311は、ともに直線となる。つまり、被写体の直線移動に伴って被写体上の特徴点は直線的に変位し、どのタイミングで撮影された場合にも直線軌道上に配置される。直線軌道は、特徴点の変位中に2か所の位置が検出できれば1つに定めることができる。例えば、被写体位置1201bと被写体位置1202bで撮影された場合の被写体上の特徴点1305と特徴点1306とを検出すれば、軌道1310が一意に決まる。被写体位置1201aで撮影された場合にも軌道1310上に配置される。ここで、被写体領域1312は、第1撮像装置101aによって被写体位置1201aの時に撮影された被写体領域を示し、特徴点1313および特徴点1315は、それぞれ特徴点1304および特徴点1307と同じ特徴を有する特徴点である。
前述したように同期が取れている場合には、撮像装置101a,101bの配置方向(この場合は水平方向)に対応点が位置するため特徴点1313に対応する特徴点は水平直線1314上に配置される。このことから、軌道1310と水平直線1314との交点は同期の合っている場合の対応点の位置となることが分かる。同様に、2つの特徴点1308,1309から軌道1311を求め、当該軌道1311に対して、特徴点1308と同一の特徴を有する画像a上の特徴点1315と垂直座標が一致する点(つまり軌道1311と特徴点1315を通る水平直線1316との交点)を検出すれば、同期の合った場合の特徴点1307を求めることができる。このようにして、複数の撮像装置のうちの一の撮像装置(本実施形態の場合、第2撮像装置101b)によって取得された撮影タイミングの異なる2つの撮影画像(本実施形態の場合、2つの画像b)を用いて、当該2つの撮影画像とは異なる被写体位置で撮影された場合の撮影画像上での位置を求めることができる。
同期ずれ補正部1102は、同期ずれと判定された場合に、特徴領域検出部121から1回目の撮影で取得された画像a,bおよび2回目の撮影で取得された画像bにおいて被写体上の同じ特徴を有する特徴点の位置情報を受け取り、入力された撮影タイミングの異なる2つの画像b上の当該特徴点の位置から軌道を求め、入力された画像a上の当該特徴点の垂直方向の座標値を用いて補正値を算出する。
計測領域が点の場合には、計測領域をそのまま同期補正用の特徴点として用いることで、補正後の特徴点の画素位置を直接求めることができる。前記補正後の画素位置情報を計測部106に出力すれば、計測部106によって、計測領域までの正確な距離や、2つの計測領域間の正確な長さなどが算出される。
また、計測領域がある程度の大きさを有する場合には、計測領域を含むようにして同期補正用の特徴点を設定し、それぞれの補正位置を算出することで、計測領域全体の補正位置を求める方がよい。図15を用いて被写体位置1201bで撮影された撮影画像から被写体位置1201aで撮影された場合の計測領域となるように補正処理する方法について説明する。
まず、同期補正のための特徴点を、被写体上の計測領域1401が含まれるように設定する。具体的には、例えば、4つの点1402、点1403、点1404、および点1405を特徴点として設定する。続いて、各同期補正用の特徴点に対して、前述したように被写体位置1201aで撮影された場合の各特徴点位置を求めると、それぞれ点1402’、点1403’、点1404’、および点1405’となる。ここで、4つの点1402、点1403、点1404、および点1405が、点1402’、点1403’、点1404’、および点1405’の位置となるように射影変換処理を行う。この時、射影変換後の計測領域1401に対応する領域である計測領域1401’は、被写体位置1201aで撮影された場合の計測領域に一致する。同期検出部1101から前記計測領域を補正した画像データを計測部106に出力し、計測部106において計測処理を行うことで、計測領域までの距離や、計測領域のサイズ(長さや大きさ(面積))として、正確な計測値を得ることができる。
以上説明したように、本実施形態の画像計測装置100によれば、撮像部101は、1回の計測に対して複数回の撮影を行い、当該複数回の撮影のそれぞれで、視差を有する複数の撮影画像として基準画像(画像a)および参照画像(画像b)を取得し、同期検出部1101は、同期補正部(同期ずれ補正部1102)を備え、撮影タイミングが一致していないと判定した場合に、当該同期補正部によって、複数回の撮影で取得された参照画像と、当該複数回の撮影のうちの1回の撮影で取得された基準画像と、に基づき、当該1回の撮影で取得された参照画像上の所定領域(計測領域)の位置を、撮影タイミングが一致していた場合の位置に補正し、計測部106は、同期検出部1101によって撮影タイミングが一致していないと判定された場合には、同期補正部によって補正された撮影画像を用いて所定領域(計測領域)までの距離および/または所定領域(計測領域)のサイズを計測するように構成されている。
このように、本実施形態では、撮影画像から同期撮影された画像であるか判定するだけではなく、同期ずれが発生した場合であっても、撮影タイミングの異なった2つ以上の参照画像(画像b)から基準画像(画像a)が撮影された被写体位置での計測領域の位置を求めることができるので、正確な計測が可能となる。
なお、本実施形態では、被写体の移動を直線方向としたが、同期ずれが発生しているか検出するだけであれば、撮像部101に対して距離の変位があればよい。これは、撮像部101の配置方向に平行な方向に移動した場合以外には同期検出時に2画像a,b間の特徴点の変位が発生するためである。
また、本実施形態では、撮像装置101a,101bが水平方向に並んで配置された構成を示しているが、これに制限されることはなく、撮像装置101a,101bは、例えば垂直方向に並んで配置されるのでも構わない。この場合は、撮像装置101a,101bの配置方向に対して直交する方向(この場合は水平方向)の変位量を検出すればよい。
上記の各実施形態において、添付図面に図示されている構成等については、あくまで一例であり、これらに限定されるものではなく、本発明の効果を発揮する範囲内で適宜変更することが可能である。その他、本発明の目的の範囲を逸脱しない限りにおいて適宜変更して実施することが可能である。
100 画像計測装置
101 撮像部
104 出力部(表示部)
106 計測部
107 同期検出部
1102 同期ずれ補正部(同期補正部)

Claims (4)

  1. 視差を有する複数の撮影画像を取得する撮像部と、
    前記視差を有する複数の撮影画像から同一の特徴を有する特徴点を検出して当該特徴点における視差値を算出し、当該視差値を用いて当該特徴点の実空間上での3次元位置情報を算出し、当該3次元位置情報から被写体上の所定領域までの距離および/または被写体上の所定領域のサイズを計測する計測部と、
    前記視差を有する複数の撮影画像から、当該複数の撮影画像が撮影された撮影タイミングが一致しているか否か判定する同期検出部と、を備え、
    前記同期検出部は、前記視差を有する複数の撮影画像から前記特徴点を検出し、当該特徴点の当該複数の撮影画像間での位置関係を検出し、当該位置関係から前記撮影タイミングが一致しているか否か判定することを特徴とする画像計測装置。
  2. 前記同期検出部は、前記特徴点を2組以上検出し、組ごとに特徴点の位置関係を検出し、これらの位置関係から前記撮影タイミングが一致しているか否か判定することを特徴とする請求項1に記載の画像計測装置。
  3. 前記同期検出部によって前記撮影タイミングが一致していると判定された場合には、前記計測部による計測結果を表示し、前記同期検出部によって前記撮影タイミングが一致していないと判定された場合には、前記計測結果を表示しないか、あるいは、前記計測結果を当該計測結果の誤差が大きいことを識別可能に表示する表示部を備えることを特徴とする請求項1または請求項2に記載の画像計測装置。
  4. 前記撮像部は、
    1回の計測に対して複数回の撮影を行い、
    当該複数回の撮影のそれぞれで、前記視差を有する複数の撮影画像として基準画像および参照画像を取得し、
    前記同期検出部は、
    同期補正部を備え、
    前記撮影タイミングが一致していないと判定した場合に、当該同期補正部によって、前記複数回の撮影で取得された前記参照画像と、当該複数回の撮影のうちの1回の撮影で取得された前記基準画像と、に基づき、当該1回の撮影で取得された前記参照画像上の前記所定領域の位置を、前記撮影タイミングが一致していた場合の位置に補正し、
    前記計測部は、前記同期検出部によって前記撮影タイミングが一致していないと判定された場合には、前記同期補正部によって補正された撮影画像を用いて前記所定領域までの距離および/または前記所定領域のサイズを計測することを特徴とする請求項1から請求項3の何れか一項に記載の画像計測装置。
JP2015011462A 2015-01-23 2015-01-23 画像計測装置 Active JP6521645B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015011462A JP6521645B2 (ja) 2015-01-23 2015-01-23 画像計測装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015011462A JP6521645B2 (ja) 2015-01-23 2015-01-23 画像計測装置

Publications (3)

Publication Number Publication Date
JP2016136114A true JP2016136114A (ja) 2016-07-28
JP2016136114A5 JP2016136114A5 (ja) 2018-03-08
JP6521645B2 JP6521645B2 (ja) 2019-05-29

Family

ID=56512112

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015011462A Active JP6521645B2 (ja) 2015-01-23 2015-01-23 画像計測装置

Country Status (1)

Country Link
JP (1) JP6521645B2 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4842411A (en) * 1986-02-06 1989-06-27 Vectron, Inc. Method of automatically measuring the shape of a continuous surface
JP2006226965A (ja) * 2005-02-21 2006-08-31 Sumitomo Electric Ind Ltd 画像処理装置、コンピュータプログラム、及び画像処理方法
JP2013257151A (ja) * 2012-06-11 2013-12-26 Ricoh Co Ltd 視差値演算装置及びこれを備えた視差値演算システム、移動面領域認識システム、視差値演算方法、並びに、視差値演算用プログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4842411A (en) * 1986-02-06 1989-06-27 Vectron, Inc. Method of automatically measuring the shape of a continuous surface
JP2006226965A (ja) * 2005-02-21 2006-08-31 Sumitomo Electric Ind Ltd 画像処理装置、コンピュータプログラム、及び画像処理方法
JP2013257151A (ja) * 2012-06-11 2013-12-26 Ricoh Co Ltd 視差値演算装置及びこれを備えた視差値演算システム、移動面領域認識システム、視差値演算方法、並びに、視差値演算用プログラム

Also Published As

Publication number Publication date
JP6521645B2 (ja) 2019-05-29

Similar Documents

Publication Publication Date Title
US11652975B2 (en) Field calibration of stereo cameras with a projector
US8718326B2 (en) System and method for extracting three-dimensional coordinates
JP6537237B2 (ja) 情報処理装置および方法
US8144974B2 (en) Image processing apparatus, method, and program
CN106875435B (zh) 获取深度图像的方法及系统
JP2015203652A (ja) 情報処理装置および情報処理方法
WO2011125937A1 (ja) キャリブレーションデータ選択装置、選択方法、及び選択プログラム、並びに三次元位置測定装置
US20210150744A1 (en) System and method for hybrid depth estimation
US11803982B2 (en) Image processing device and three-dimensional measuring system
US20210256729A1 (en) Methods and systems for determining calibration quality metrics for a multicamera imaging system
CN106225676A (zh) 三维测量方法、装置及系统
KR20240089161A (ko) 촬영 측정 방법, 장치, 기기 및 저장 매체
JP2016217944A (ja) 計測装置、および計測方法
US9538161B2 (en) System and method for stereoscopic photography
JP5336325B2 (ja) 画像処理方法
KR102410300B1 (ko) 스테레오 카메라를 이용한 카메라 위치 측정 장치 및 방법
JP7132501B2 (ja) 測距カメラ
US20230260159A1 (en) Information processing apparatus, information processing method, and non-transitory computer readable medium
KR101705330B1 (ko) 스테레오 카메라 이미지에서 물체의 기울어진 각도를 찾기 위한 특징점 선택 방법
JP6521645B2 (ja) 画像計測装置
JPH11223516A (ja) 3次元画像撮像装置
WO2019066724A1 (en) LIGHT PROJECTION SYSTEMS
CN112424566B (zh) 测距摄像机
JP7184203B2 (ja) 画像処理装置、3次元計測システム、画像処理方法
CN111080689B (zh) 确定面部深度图的方法和装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180122

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180122

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181121

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181218

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190215

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190402

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190423

R150 Certificate of patent or registration of utility model

Ref document number: 6521645

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250