JPWO2017043258A1 - 計算装置、計算装置の制御方法および計算プログラム - Google Patents

計算装置、計算装置の制御方法および計算プログラム Download PDF

Info

Publication number
JPWO2017043258A1
JPWO2017043258A1 JP2017539082A JP2017539082A JPWO2017043258A1 JP WO2017043258 A1 JPWO2017043258 A1 JP WO2017043258A1 JP 2017539082 A JP2017539082 A JP 2017539082A JP 2017539082 A JP2017539082 A JP 2017539082A JP WO2017043258 A1 JPWO2017043258 A1 JP WO2017043258A1
Authority
JP
Japan
Prior art keywords
measurement point
measurement
image
reference image
range
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017539082A
Other languages
English (en)
Other versions
JP6502511B2 (ja
Inventor
大輔 村山
大輔 村山
徳井 圭
圭 徳井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Publication of JPWO2017043258A1 publication Critical patent/JPWO2017043258A1/ja
Application granted granted Critical
Publication of JP6502511B2 publication Critical patent/JP6502511B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/245Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures using a plurality of fixed, simultaneously operating transducers
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/002Measuring arrangements characterised by the use of optical techniques for measuring two or more coordinates
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/02Details
    • G01C3/06Use of electric means to obtain final indication
    • G01C3/08Use of electric radiation detectors
    • G01C3/085Use of electric radiation detectors with electronic parallax measurement
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/97Determining parameters from multiple pictures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/122Improving the 3D impression of stereoscopic images by modifying image signal contents, e.g. by filtering or adding monoscopic depth cues
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/04Indexing scheme for image data processing or generation, in general involving 3D image data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10012Stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Electromagnetism (AREA)
  • Remote Sensing (AREA)
  • Geometry (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Measurement Of Optical Distance (AREA)
  • Image Analysis (AREA)

Abstract

計測装置(1)は、使用者が設定した計測点候補位置の周辺にオクルージョン領域が存在するか判定する分析部(201)と、存在すると判定された場合に初期基準画像以外の画像を基準画像とし、該基準画像上に計測点を設定する計測点設定部(203)と、を備えている。

Description

本発明の一態様は、共通の被写体を撮像した複数の画像を用いて、被写体上に設定された計測点の三次元位置を算出する計算装置等に関する。
異なる位置から同一の被写体を撮像できるように配置された複数の撮像装置(例えば、ステレオカメラ)で撮像された画像上に計測点を設定し、撮影装置から計測点までの距離、または2つの計測点間の長さを計測する従来技術がある。また、特許文献1には、画像撮像装置で撮像された画像において、計測開始位置と計測終了位置の2点を指定し、それら2点の三次元位置関係から、それら2点間の長さを算出する技術が開示されている。
これらの技術では、液晶ディスプレイなどの表示装置に画像を表示して、計測者が表示された画像を確認しながら、画像上の所望の位置を計測点に指定して計測を行う。したがって、計測者は、計測位置や計測結果を視覚的に確認しながら計測することができるので、分かり易く、かつ、簡便に計測できるという利点がある。
上記の計測技術では、ステレオ方式を利用して各計測点の視差値を算出し、各計測点の三次元位置情報を取得している。ステレオ方式においては、まず、複数の撮像装置の基準である撮像装置で撮像した画像における注目点を決め、基準である撮像装置以外の撮像装置の画像において、当該注目点に対応する対応点を求める。次に、注目点の画素位置と、対応点の画素位置とのずれ量(視差値に相当する)を算出する。そして、算出された視差値、撮像装置の焦点距離、および撮像装置間の基線長、等の情報から、撮像装置から注目点の位置に写っている被写体までの距離を算出する。
日本国公開特許公報「特開2011−232330号公報(2011年11月17日公開)」
ステレオカメラのように位置をずらして配置された複数の撮像装置によって撮像される画像には、一方の撮像装置の位置からは撮像できるが、他方の撮像装置の位置からは撮像できない領域(オクルージョン領域と呼ぶ)が存在する。例えば、前景の被写体によって隠されてしまう背景領域、および一方の撮像装置の位置からは撮像できない被写体の側面領域などが、オクルージョン領域である。
オクルージョン領域内の被写体は一方の画像には撮像されないため、上述のステレオ方式の処理において正しい対応点を見つけることができない。これにより、正しい視差値の算出ができず、よって適切な計測もできない。これに対する対処方法として、オクルージョン領域周辺の計測可能な領域の情報に基づいて、オクルージョン領域内の点の視差値を推定する方法が考えられる。しかし、この方法により求まる情報は、あくまでも推定値であるため信頼度が低い。また、推定処理にかかる演算処理量が大きくなるという問題がある。
特許文献1に開示されている方法では、オクルージョン領域に関しては考慮されていない。このため、計測者がオクルージョン領域内の位置を計測開始位置または計測終了位置として選択した場合には、計測結果を得ることができないか、または誤った計測結果もしくは信頼度の低い計測結果しか得ることができないという問題がある。
また、上記の問題を解決するために、画像内の全てのオクルージョン領域を事前に推定しておいて、オクルージョン領域に計測点を設定しないようにする方法が考えられる。しかしながら、この方法では、事前に画像全体からオクルージョン領域を算出するという処理が必要であり、演算処理量が大きくなるという問題がある。この他にも、計測者自身が意識的にオクルージョン領域を計測点に指定しないようにする方法も考えられるが、この方法は、計測者にとって負担が大きい。
本発明の一態様は上記の点に鑑みてなされたものであり、その目的は、演算処理量を過剰に増加させることなく、オクルージョン領域またはその周辺に計測点を設定することによる計算精度の低下を防ぐことができる計算装置を提供することにある。
上記の課題を解決するために、本発明の一態様に係る計算装置は、共通の被写体を撮像した複数の画像を用いて、上記被写体上に設定された計測点の三次元位置を算出する計算装置であって、上記複数の画像を分析して、上記計算装置の使用者が上記計測点の設定位置の候補として、上記複数の画像の1つである初期基準画像上に設定した計測点候補位置、および該計測点候補位置から所定の範囲内の位置の少なくとも何れかにオクルージョン領域が存在するか判定する分析部と、上記分析部が、オクルージョン領域が存在すると判定した場合に、上記複数の画像のうち上記初期基準画像以外の画像を基準画像とする画像選択部と、上記基準画像上に上記計測点を設定する計測点設定部と、を備えている。
また、本発明の一態様に係る計算装置の制御方法は、上記の課題を解決するために、共通の被写体を撮像した複数の画像を用いて、上記被写体上に設定された計測点の三次元位置を算出する計算装置の制御方法であって、上記複数の画像を分析して、上記計算装置の使用者が上記計測点の設定位置の候補として、上記複数の画像の1つである初期基準画像上に設定した計測点候補位置、および該計測点候補位置から所定の範囲内の位置の少なくとも何れかにオクルージョン領域が存在するか判定する分析ステップと、上記分析ステップにてオクルージョン領域が存在すると判定した場合に、上記複数の画像のうち上記初期基準画像以外の画像を基準画像とする画像選択ステップと、上記基準画像上に上記計測点を設定する計測点設定ステップと、を含む。
本発明の上記各態様によれば、演算処理量を過剰に増加させることなく、オクルージョン領域またはその周辺に計測点を設定することによる計算精度の低下を防ぐことができるという効果を奏する。
本発明の第1の実施形態に係る計測装置の構成を示すブロック図である。 本発明の第1の実施形態に係る計測装置が実行する処理の一例を示すフローチャートである。 計測装置1に入力される第1画像および第2画像の一例を示す図である。 計測点候補位置の設定例を示す図である。 計測点位置の設定例を示す図である。 計測点候補位置および計測点位置の設定例を示す図である。 計測結果の一例を示す図である。 本発明の第2の実施形態に係る計測装置の構成を示すブロック図である。 本発明の第2の実施形態に係る計測装置が実行する処理の一例を示すフローチャートである。 本発明の第3の実施形態に係る計測装置の構成を示すブロック図である。 本発明の第3の実施形態に係る計測装置が実行する処理の一例を示すフローチャートである。
以下、本発明の実施形態について、図面を参照して詳細に説明する。ただし、本実施形態に記載されている構成は、特に限定的な記載がない限り、この発明の実施形態の範囲をそれのみに限定する趣旨ではなく、単なる説明例に過ぎない。また、各図は説明のためのものであり、実際とは異なる場合がある。
〔第1の実施形態〕
以下、本発明の実施形態について、詳細に説明する。
<計測装置1>
図1は、本発明の第1の実施形態における計測装置(計算装置)1の構成を示すブロック図である。図1に示すように、本実施形態に係る計測装置1は、入力部10、計測部20、および表示部30を備えている。
入力部10は、計測者(計算装置1の使用者)の入力操作を受け付けて、該入力操作の内容を示す情報を計測部20に出力する。入力部10の例としては、マウスおよびキーボード等の入力装置が挙げられる。
計測部20は、入力部10が出力した情報と、第1画像および第2画像(共通の被写体を撮像した複数の画像)とに基づいて、これらの画像上に設定された計測点の三次元位置を示す三次元位置情報を生成するための各種処理を行う。
また、図1に示されるように、計測部20は、計測点候補設定部200、分析部201、画像選択部202、計測点設定部203、位置情報算出部204、および計測値算出部205を含む。
計測点候補設定部200は、計測者の入力部10への入力操作の内容に従って、初期基準画像に計測点候補位置を設定する。なお、初期基準画像は、共通の被写体を撮像した複数の画像から選択された1つの画像であり、本例における初期基準画像は、第1画像または第2画像の何れかである。
分析部201は、上記計測点候補位置の被写体を分析して、計測点候補位置および計測点候補位置から所定の範囲内の位置の少なくとも何れかにオクルージョン領域が存在するか判定する。具体的には、分析部201は、計測点候補位置を中心とする所定画素数の範囲の少なくとも一部に、オクルージョン領域が含まれているか否かを分析する。
画像選択部202は、分析部201の判定結果に基づいて、第1画像および第2画像のいずれか一方の画像を、計測点を設定する基準画像として選択する。具体的には、画像選択部202は、オクルージョン領域が含まれていないとの判定結果であれば、計測点候補位置を設定した画像、すなわち初期基準画像を基準画像とする。一方、オクルージョン領域が含まれているとの判定結果であれば、初期基準画像と共通の被写体を撮像した画像のうち、初期基準画像以外の画像を基準画像とする。
計測点設定部203は、画像選択部202によって選択された基準画像上に計測点を設定する。計測点の位置は、計測者の入力部10への入力操作に従って決定する。
位置情報算出部204は、計測点設定部203が設定した計測点の三次元位置情報を算出する。なお、三次元位置情報の算出方法は後述する。
計測値算出部205は、位置情報算出部204で算出された、計測点の三次元位置情報を用いて、該計測点の三次元位置に関する所定の計測処理を行う。詳細は後述するが、計測値算出部205は、基準画像を撮像した撮像装置から、撮像された被写体における計測点に対応する位置までの距離を計測する。また、計測点設定部203が複数の計測点を設定し、位置情報算出部204が複数の計測点の各々の三次元位置情報を算出した場合、計測値算出部205は、それらの三次元位置情報を用いて、各計測点を結ぶ長さ、および計測点で囲まれる領域の面積を算出する。
表示部30は、計測部20の出力に応じて表示を行う。表示部30の例としては、液晶素子および有機EL(Electro Luminescence)等を画素とする表示装置等が挙げられる。なお、本実施形態では、表示部30が計測装置1に組み込まれている例を説明するが、表示部30は計測装置1の外部に設けられていてもよい。例えば、テレビジョンディスプレイ、PC(Personal Computer)用モニタなどを表示部30としてもよいし、スマートフォンやタブレット端末等の携帯端末のディスプレイを表示部30として利用し、計測部20の出力を表示させてもよい。また、入力部10および表示部30は、これらを一体として構成した、タッチパネル(例えば抵抗膜方式および静電容量方式等のタッチパネル)として実装してもよい。
図1では、第1撮像装置40および第2撮像装置41(複数の撮像装置)についても図示している。第1撮像装置40および第2撮像装置41は、共通の被写体を撮像する。第1撮像装置40が撮像した画像が上記の第1画像であり、第2撮像装置41が撮像した画像が上記の第2画像である。そして、これらの画像は、計測装置1に入力される。第1撮像装置40および第2撮像装置41は、例えば、レンズモジュール等の光学系、CCD(Charge Coupled Device)およびCMOS(Complementary Metal Oxide Semiconductor)等のイメージセンサ、アナログ信号処理部、ならびにA/D(Analog/Digital)変換部などを備え、イメージセンサからの信号を画像として出力するものであってもよい。
そして、第1画像および第2画像は、それぞれ第1撮像装置40および第2撮像装置41により、異なる位置から少なくとも一部の共通領域(共通の被写体)を含むように撮像される。より詳細には、第1画像および第2画像は、それぞれの光軸を略平行にして、同一の水平面上に配置された第1撮像装置40および第2撮像装置41(ステレオカメラ)で撮像された画像であることを想定している。そして、同一の水平面上にある、第1撮像装置40および第2撮像装置41のうち、第1撮像装置40が被写体に向かって左側に、第2撮像装置41が被写体に向かって右側に配置されているとして説明する。また、第1撮像装置40が撮影した画像を左視点画像と呼び、第2撮像装置41が撮影した画像を右視点画像と呼ぶ。さらに、各画像には、その画像を撮像した撮像装置の情報が付与される。具体的には、撮像装置(第1撮像装置40、第2撮像装置41)の焦点距離やセンサーのピクセルピッチなどのカメラパラメータ、および各撮像装置間の基線長の情報等が撮像された画像に付与される。なお、これらの情報は、画像のデータとは別に管理してもよい。
<計測方法>
上述のようにして撮像された第1画像と第2画像の視差値は、ステレオ方式によって算出することが可能である。ここで、本実施形態に係る計測方法を説明する前に、ステレオ方式による距離の算出について説明する。
ステレオ方式では、まず、光軸が略平行となるように並べた2つの撮像装置で少なくとも一部の共通領域を撮像する。次に、得られた2つの画像間で画素の対応関係を求めて視差値を算出し、当該視差値に基づいて、撮像装置から被写体までの距離を算出する。2つの画像間で画素の対応関係を求める方法としては、例えばステレオマッチングが適用可能である。ステレオマッチングでは、2つの画像のいずれか一方を基準画像に設定し、他方を参照画像に設定する。そして、基準画像上における任意の注目画素について、参照画像上を走査することによって対応する画素を探索する。対応する画素を探索する走査方向は、2つの撮像装置が配置されている位置を結ぶ方向と同じである。例えば、2つの撮像装置が同一の水平軸上に配置されている場合の走査軸は当該水平軸と平行であり、2つの撮像装置が同一の鉛直軸上に配置されている場合の走査軸は当該鉛直軸と平行である。
参照画像上における対応画素の探索方法の例としては、注目画素を中心としたブロック単位で探索を行う方法が挙げられる。当該方法においては、基準画像における注目画素を含むブロック内の画素値と、参照画像におけるブロック内の対応する画素値との差分絶対値の総和をとるSAD(Sum of Absolute Difference)を計算し、SADの値が最小となるブロックを決定することで、対応画素の探索を行う。なお、SADによる計算手法以外に、SSD(Sum of Squared Difference)、グラフカット、またはDP(Dynamic Programming)マッチング等の計算手法を用いることも可能である。基準画像上の注目画素の位置と参照画像上の対応画素の位置との差分が視差値である。そのため、注目画素の位置を変化させながらステレオマッチングを繰り返し、それの対応画素を求めることによって、基準画像の各画素における視差値を算出できる。ただし、ステレオマッチングによって視差値を算出できるのは、第1画像と第2画像の共通領域(同じ被写体の同じ位置を撮影した領域)に含まれる画素についてのみである。
視差値は、下記の式(1)によって示される。
Figure 2017043258
ここで、Dは、視差値(画素単位)である。Zは、撮像装置から被写体までの距離である。fは、撮像装置の焦点距離である。Bは、2つの撮像装置間の基線長である。pは撮像装置が有するイメージセンサのピクセルピッチである。式(1)から分かるように、距離Zの値が小さいほど視差値Dが大きく、距離Zの値が大きいほど視差値Dが小さくなる。なお、視差値Dと、基線から被写体までの距離Zとは、式(1)によって相互に変換が可能である。また、上記Zは、より厳密には基準画像を撮像する撮像装置のレンズの光学中心から被写体までの距離である。
<処理の流れ>
以下では、図2〜図7を参照して、本実施形態に係る計測装置1を用いた計測方法(計算装置の制御方法)を説明する。図2は、計測装置1が実行する処理の一例を示すフローチャートである。なお、同図では、共通の被写体を撮像した複数の画像(第1画像と第2画像)が計測装置1に入力済みであり、かつ、初期基準画像を何れの画像とするかが既に決まっており、表示部30に初期基準画像が表示されている状態からの処理を示している。初期基準画像は、第1と第2のどちらの画像であってもよいが、本実施形態では、第1画像を初期基準画像とした例を説明する。また、本実施形態では、初期基準画像を撮像した第1撮像装置40のカメラ座標系を基準として計測結果の値を算出する例を説明する。
計測装置1に入力する2つの画像としては、図3のような画像を用いることができる。図3は、第1撮像装置40および第2撮像装置41で撮像された第1画像および第2画像の一例を示す図である。図3の第1画像および第2画像は、背景Bの前方に設置された被写体Aを撮像した画像である。また、第1画像には、第2画像には撮像されていないオクルージョン領域O1が示されている。第2画像に、第1画像には撮像されていないオクルージョン領域O2が示されている。
計測装置1は、入力された画像のうち第1画像(左視点画像)を初期基準画像として表示部30に表示する。そして、計測者は、当該第1画像を見ながら、該第1画像上に計測点候補位置を入力部10にて入力する。計測点候補位置の入力の受け付け方法は、計測者が表示部30に表示された初期基準画像上における所望の位置を直観的な操作で計測点候補位置に指定できるような方法とすることが好ましい。当該方法の例としては、マウスを用いてカーソルを動かして表示画像上の所望の位置をクリックする方法、またはタッチパネルを用いて指で表示画像上の所望の位置をタッチする方法等が挙げられる。入力部10は、このようにして計測点候補位置の入力を受け付けると、受け付けた位置を示す情報(例えば座標値)を計測点候補設定部200に出力する。なお、入力部10とは異なる入力装置(外部装置)から、計測点候補位置を示す情報を計測部20(より詳細には計測点候補設定部200)に入力してもよい。
計測点候補設定部200は、入力部10から計測点候補位置を示す情報を受け付ける(S101)。そして、計測点候補設定部200は、受け付けた情報の示す位置を、初期基準画像における計測点候補位置に設定する(S102)。図4は、初期基準画像に設定された計測点候補位置の一例を示す図である。同図では、計測点候補位置K1が被写体Aの左側エッジ位置に設定された様子が示されている。この計測点候補位置K1は、図3に示したオクルージョン領域O1に近い位置である。
次に、分析部201は、第1画像および第2画像を分析して計測点候補位置の状態を判定する。より詳細には、分析部201は、第1画像および第2画像を分析し、計測点候補位置周囲の所定画素数の範囲にオクルージョン領域が含まれているか否かを判定する(S103、分析ステップ)。
具体的には、分析部201は、計測点候補位置およびその周囲の所定画素数の範囲で、第1画像と第2画像との類似度を算出し、当該類似度が低い場合には、上記の範囲がオクルージョン領域を含んでいると判定する。所定画素数は、予め設定し得る任意の値の画素数である。計測者が、目的に応じて当該画素数を設定してもよい。また、上記の類似度については、上述したSAD等の公知の手法を利用することにより算出することができる。SADを用いる場合、上記の類似度が低いほどSADの値が大きくなるため、SADの値に予め閾値を設定しておき、第1画像および第2画像における計測点候補位置周囲の所定画素数の範囲において、当該閾値よりもSADの算出値が大きい場合には、分析部201は、当該範囲において第1画像と第2画像の類似度が低いと判定する。例えば、図4の例では、計測点候補位置K1の左側がオクルージョン領域O1であるから、計測点候補位置周囲の所定画素数の範囲は、当該領域を含む。そのため、SADの算出値が大きくなり、分析部201は、上記の範囲において第1画像および第2画像の類似度が低い(オクルージョン領域が含まれている)と判定する。
S103において分析部201が、オクルージョン領域が存在すると判定した場合には、画像選択部202は、初期基準画像ではない第2画像を選択して基準画像とする。一方、S103において分析部201が、オクルージョン領域が存在しないと判定した場合には、画像選択部202は、初期基準画像をそのまま基準画像とする(S104、画像選択ステップ)。表示部30は、S104で画像選択部202が選択した画像を表示する。
次に、表示部30に表示された基準画像において、計測者は、上述の計測点候補位置の入力と同様にして計測点位置を入力し、計測点設定部203は、計測者によって入力された計測点候補の位置を示す情報を受け付ける(S105)。そして、計測点設定部203は、受け付けた情報の示す基準画像上の位置を計測点位置と設定する。つまり計測点設定部203は、基準画像上に計測点を設定する(S106、計測点設定ステップ)。
図5は、基準画像上に設定された計測点位置の一例を示す図である。図示の例では、図4と同様に被写体Aの左側エッジ位置に計測点位置P1が設定されているが、基準画像が第2画像とされていることにより、計測点位置P1の周囲にオクルージョン領域は存在しない(図3参照)。
このように、計測装置1によれば、計測者は、周囲にオクルージョン領域が存在する第1画像に計測点を設定することを避けることができる。そして、計測者は、当該オクルージョン領域が撮像されていない第2画像に計測点を設定するので、オクルージョン領域に計測点を設定してしまうことによる計測精度の低下を防ぐことができる。ステレオマッチングにおいて、基準画像に設定するブロック内にオクルージョン領域が含まれる場合、参照画像に存在しない被写体を探索することになるため、視差算出精度が著しく低下する。特に、ブロック内の大半がオクルージョン領域であるような位置が計測点として設定された場合には、正しい視差値の算出は不可能と言える。しかしながら、上記の計測装置1によれば、オクルージョン領域に計測点が設定されることがなく、必ず参照画像に撮像されている被写体をステレオマッチングで探索することになるので、視差の算出精度が高い。したがって、計測装置1によれば、視差算出精度の低い位置を計測点に設定することがないので、計測精度の低下を防ぐことができる。
なお、基準画像が初期基準画像と同一の画像である場合(S103でオクルージョン領域が存在しないと判定した場合)には、S105の処理は省略して、S106ではS101で入力された計測点候補位置に計測点を設定してもよい。これによって、計測者が指定する回数を削減することができる。
次に、計測点設定部203は、全ての計測点の設定が終了しているか否かを確認する(S107)。ここで、計測点設定部203が、全ての計測点の設定が終了していないと判定した場合(S107でNO)には、S101に戻り、S101〜S106の処理により次の計測点の設定が行われる。なお、S104にて何れの画像が基準画像に設定されたかにかかわらず、S101では、初期基準画像(本例では第1画像)への計測点候補位置の入力を受け付ける。
図6は、S107の後に、S101に戻って、S101〜106の一連のステップにて2つ目の計測点が設定された基準画像(初期基準画像)を示す図である。図6では、計測点候補位置K2と計測点位置P2とが同じ位置に示されている。つまり、図6では、S101にて、初期基準画像(第1画像)における被写体Aの右側エッジ位置にある計測点候補位置K2の入力を受け付けた例を示している。図3に示すように、第1画像における被写体Aの右側エッジ位置の周囲にはオクルージョン領域が存在しない。このため、S103ではNOと判定され、S104では初期基準画像である第1画像が基準画像とされ、S106では計測点候補位置K2が計測点位置P2として設定される。
このようにして順次計測点が設定され、S107で計測点設定部203が全ての計測点の設定が終了していると判定したときに(S107でYES)、処理はS108に進む。つまり、全ての計測点の設定が終了するまで、S101〜107までの一連のステップを繰り返し実行する。なお、計測点の設定が終了したか否かを確認する方法は、計測者が所望の計測点の設定を終えたことを判定できる方法であればよく、特に限定されない。例えば、表示部30にメッセージを表示して計測者に確認してもよいし、予め計測点の数を設定しておき、設定済みの計測点の数が予め設定した数に達したときに、全ての計測点の設定が終了したと判定してもよい。後者の場合、計測者の入力操作を介さずに自動的にS108の処理に進むことができる。
S108では、位置情報算出部204は、計測点設定部203が設定した計測点の三次元位置を算出する。具体的には、計測点設定部203は、三次元位置を算出する計測点に対応する基準画像(当該計測点の設定直前に画像選択部202がS104で選択した基準画像)と、選択していない画像(参照画像)とに基づいて、ステレオ方式により計測点の視差値を算出する。そして、計測点設定部203は、当該視差値に基づいて、初期基準画像を撮像した撮像装置のカメラ座標系を基準とした三次元位置を算出する。S108の詳細は後述する。
続いて、計測値算出部205は、S108において位置情報算出部204が算出した各計測点の三次元位置を示す三次元位置情報を用いて所定の計測処理を行う(S109)。そして、計測値算出部205は、上記の計測処理の結果を出力する(S110)。
なお、上記結果の出力先は特に限定されず、例えば表示部30であってもよいし、計測装置1の外部装置であってもよい。また、出力先における出力態様も特に限定されない。例えば、表示部30には画像(第1画像または第2画像)に算出した計測値を重畳表示する態様で表示出力させ、一方、外部装置には、算出した数値をテキスト形式で出力してもよい。
そして、上記の所定の計測処理は、三次元位置情報を用いた演算処理であればよく、特に限定されない。例えば、三次元位置情報を用いて、撮像装置から被写体までの距離、計測点間を結ぶ長さ、あるいは複数の計測点で囲まれる面の面積などを算出する処理であってもよく、このような処理で算出された計測値を示す情報がS110で出力される。これらの情報は三次元空間における点と点との関係などから公知の技術を用いて算出することができる。このように、複数の計測点が設定されている場合、算出する計測値は、三次元空間における複数の点の関係から算出可能な任意の計測値であってもよい。
図7は、図5、6で示した2つの計測点位置P1、P2の三次元位置情報を用いて算出された計測値の表示例を示す図である。図7の例では、撮像装置から計測点位置P1の被写体までの距離、および撮像装置から計測点位置P2の被写体までの距離、および被写体の計測点位置P1と被写体の計測点位置P2との間の長さ、を示す各情報が、初期基準画像である第1画像に重畳して表示されている。
なお、図5に示された計測点位置P1は、第2画像の座標系の位置情報であるため、図7では、S109で算出することができる対応点の位置を、計測点位置P1として第1画像に重畳表示している。以上の処理手順により、計測装置1は、計測点の三次元位置を算出し、該三次元位置を示す三次元位置情報を用いた所定の計測を行う。
<S108における三次元位置情報の算出>
続いて、S108の処理内容を詳細に説明する。S108において、位置情報算出部204は、S108以前に設定された計測点の三次元位置情報を算出する。まず、位置情報算出部204は、三次元位置情報の算出にあたり、画像選択部202がS104で選択した基準画像と、もう一方の画像(参照画像)とを用い、ステレオ方式で計測点における両画像の視差値を算出する。
続いて、位置情報算出部204は、算出した視差値を下記式(2)に代入して計測点の三次元位置情報を算出する。
Figure 2017043258
ここで、(u,v)はS101で初期基準画像とした画像の二次元座標系における計測点位置情報である。また、(X,Y,Z)は、初期基準画像とした画像を撮像した撮像装置のカメラ座標系における三次元位置情報である。また、(u,v)は初期基準画像の主点座標を表す。また、Bは、2つの撮像装置間(撮像位置間)の基線長を表し、pは、撮像装置が有するイメージセンサのピクセルピッチを表し、Dは、視差値を表す。
なお、画像選択部202がS104で選択した画像が、初期基準画像ではない場合(第2画像である場合)には、計測点設定部203がS106で設定した計測点位置は、初期基準画像の二次元座標系における位置ではない。そのため、この場合には、視差算出時にステレオマッチングで求めた参照画像(第1画像)上の対応点の位置を、式(2)の(u,v)に代入して計測点の三次元位置情報を算出する。
以上の方法により、位置情報算出部204は、画像選択部202がS104で何れの画像を基準画像に選択したかにかかわらず、計測点の三次元位置情報を、初期基準画像を撮像した撮像装置のカメラ座標系を基準とする情報として算出する。これにより、設定した計測点の座標系が統一されるので、S108に続くS109での三次元位置情報を用いた計測処理が可能となる。なお、計測点の位置情報の座標系が統一されていれば、三次元位置情報を用いた演算は可能であるので、初期基準画像ではない方の画像を撮像した撮像装置のカメラ座標系を基準としてもよい。
以上で述べた方法により、計測装置1は、設定された計測点候補位置周囲の被写体の状態を分析し、計測点候補位置周辺にオクルージョン領域が撮像されていない画像を基準画像として、該基準画像上に計測点を設定する。よって、オクルージョン領域が計測点に設定される可能性を低減することができる。これにより、対応点探索の精度が高く信頼度の高い計測点を設定することができるため、当該計測点の三次元位置情報を正確に算出することができる。また、当該三次元位置情報を用いて、計測点までの距離や計測点間の長さなどの各種計測値を高精度に算出することが可能となる。また、画像全体からオクルージョン領域を推定するなどの処理を行わないため、少ない処理量で、オクルージョン領域を除外した計測が可能となる。また、計測者が計測点候補位置および計測点位置を入力するときに、計測者自身がオクルージョン領域を意識する必要がないため、計測者に負担をかけることもない。
〔第2の実施形態〕
以下、本発明の第2の実施形態について詳細に説明する。なお、上記実施形態と同様の構成には同一の参照番号を付し、その説明を省略する。
<計測装置2>
本実施形態に係る計測装置(計算装置)2は、図1に示した第1の実施形態の計測装置1と同様の構成であるが、計測部20が計測部21に変更されている点で異なっている。計測部21は、計測部21が備える各ブロックに加えて、計測範囲設定部206を備えている。
計測範囲設定部206は、計測点候補位置を基準とした計測点範囲を基準画像上に設定する。計測点範囲は、基準画像において、計測点設定部203が計測点を設定可能な範囲である。計測範囲設定部206の追加により、基準画像上における適切な位置に計測点を入力することを容易にすることができる。
<計測方法:処理の流れ>
以下では、図9を参照して、計測装置2による計測方法(計算装置の制御方法)を説明する。図9は、計測装置2が実行する処理の一例を示すフローチャートである。図9のフローチャートのS201〜S204、S207〜S211は、図2におけるS101〜S104、S106〜S110とそれぞれ同様の処理である。つまり、図9のフローチャートは、図2のフローチャートのS104の後にS205の処理を追加し、それに伴ってS105をS206に変更したものである。ここでは、図2との相違点であるS205およびS206について説明し、他の処理の説明は省略する。
第1の実施形態の計測装置1と同様に、計測装置2は、左視点の画像である第1画像を初期基準画像として計測点候補位置の入力を受け付け、計測点候補位置を設定し、その周囲のオクルージョン領域の有無を判定する(S201〜S203)。そして、S203の結果に応じた基準画像を選択する(S204)。
ここで、計測範囲設定部206は、画像選択部202がS204で選択した基準画像上に計測点範囲を設定する(S205)。計測点範囲は、後段階の処理で計測点位置を設定することができる範囲であり、計測点候補位置に基づいて設定される。S205で計測点範囲をどのように設定するかについては後述する。
次に、計測点設定部203は、S205で計測範囲設定部206が設定した計測点範囲内の計測点位置の入力を受け付ける(S206)。上記実施形態で説明したように、計測点位置の入力を受け付ける態様は特に限定されず、例えば表示部30に基準画像を表示して、該基準画像から計測点位置を計測者に選択させてもよい。この場合、計測範囲設定部206が設定した計測点範囲のみを表示してもよく、これにより、計測者に計測点範囲を認識させることができると共に、確実に該範囲内から計測点位置を入力させることができる。この他、計測点範囲を示す情報(例えば計測点範囲の外縁を示す円や矩形等の図形)を基準画像に重畳して表示してもよく、このような構成であっても計測者に計測点範囲を認識させることができる。また、計測点範囲の画像を拡大して表示してもよく、これにより計測者が画像の内容を確認し易く、適切な計測点位置を容易に入力することが可能になる。また、計測点位置を外部装置から入力する場合にも、計測者が計測点を入力できる範囲を計測点範囲内に限定することで、計測者が最初に設定した計測点候補位置と大きく外れた誤った位置を計測点として設定してしまう可能性を低減できる。
続いて、計測点設定部203は、入力を受け付けた計測点の位置に計測点を設定する(S207)。この後の処理は、実施形態1と同様である。なお、上述の処理において、S204で選択された基準画像が、初期基準画像と同一である場合にはS206を省略可能であり、S206を省略する場合にはS205も省略する。
<S205における計測点範囲の設定>
続いて、S205の処理内容を詳細に説明する。S205において、計測範囲設定部206は、計測点候補位置を用いて基準画像上に計測点範囲を設定する。上述のように、S205に続くS206では、S205で設定した計測点範囲内で計測点位置を受け付ける。つまり、計測範囲設定部206による計測点範囲の設定により、計測点候補位置から大きく外れた範囲を除外してより適切な位置に計測点を設定させることが可能になる。
計測範囲設定部206は、所望の計測点位置が含まれるように、計測点候補位置を中心とした周辺の範囲に計測点範囲を設定する。計測点範囲の大きさ(画素サイズ)については、例えば、画像解像度の数分の一などに予め設定しておく。
ここで、計測点候補位置は、初期基準画像の座標系の位置である。このため、S203でオクルージョン領域が存在すると判定されてS204で初期基準画像でない画像が基準画像に選択された場合には、基準画像上での計測点候補位置は、視差方向にずれている。そこで、計測範囲設定部206は、初期基準画像でない画像が基準画像に選択された場合には、上記のずれを考慮して視差方向に十分に広い範囲で計測点範囲を設定してもよい。例えば、計測範囲設定部206は、計測点候補位置を中心に設定した範囲を、視差方向に所定の長さだけ拡張して計測点範囲としてもよい。なお、本実施形態では、第2画像は右視点画像であるから、拡張する視差方向は左方向である。
また、計測範囲設定部206は、第1画像および第2画像を撮像した撮像装置間の基線長B、および、撮像装置から被写体までの距離Zを上述の式(1)に代入して視差値を算出してもよい。そして、その視差値をずれ量として、計測点範囲の中心位置を予めずらして設定してもよい。
なお、撮像装置が固定の場合(例えば同一のカメラを動かして計測するような場合)、式(1)に含まれる変数のうちfとpは値が変わらず、D、B、およびZのみ値が変わる。計測対象がある程度分かっている場合には、被写体が写る距離もある程度分かるので、このようなおおよそ距離を上記Zとすれば、おおよその視差値Dを算出することができる。
これによって、計測範囲設定部206が、初期基準画像ではない第2画像で計測点範囲を設定する場合であっても、計測点候補を中心または中心付近とした計測点範囲を設定できる。これにより、計測点範囲が不要に広くならないので好ましい。また、計測点範囲の中心位置をずらして設定するずれ量を、入力部10などの入力装置により変更できるようにしておけば、計測者が計測点範囲を適切な位置に調整しながら計測点を入力することもできる。
本実施形態の計測装置2では、上述の方法により、計測範囲設定部206が、計測点候補位置に基づいて基準画像上に計測点範囲を設定する。そして、この計測点範囲内で計測点位置が設定される。よって、オクルージョン領域に計測点が設定されて計測精度が低下する可能性を低減することができると共に、計測点候補位置から大きくずれた範囲を除外して、より高精度に計測点を設定することができる。また、設定した計測点範囲のみを拡大表示してもよく、この場合、測定者が画像を確認し易く、適切な計測点位置の入力が容易となり、高精度に計測点を設定することが可能となる。
〔第3の実施形態〕
以下、本発明の第3の実施形態について、図10を参照して詳細に説明する。なお、上記実施形態と同様の構成には同一の参照番号を付し、その説明を省略する。
<計測装置3>
本実施形態に係る計測装置(計算装置)3は、図10に示すように、図8に示した第2の実施形態の計測装置2と同様の構成であるが、計測部21が計測部22に変更されている点で異なっている。計測部22は、計測部21が備える各ブロックに加えて、周辺視差値算出部207を備えている。周辺視差値算出部207は、計測点範囲の中心位置を補正するためのずれ量を算出する。
<計測方法>
計測装置3の実行する計測方法は、計測装置2の実行する計測方法に処理手順がさらに追加されたものとなっており、計測装置3の実行する計測方法によれば、上述の計測点範囲をより好ましい範囲に設定できる。
ここで、計測点候補位置周辺にオクルージョン領域が存在すると判定され、基準画像として初期基準画像ではない方の画像が選択された場合には、計測点候補位置にずれが生じる。例えば、図4のように初期基準画像(第1画像)上に計測点候補位置を設定した後で、基準画像が第2画像となった場合、図4の計測点候補位置K1は、図5の基準画像(第2画像)上では、被写体Aの内側(左側エッジよりも右側)にずれた位置となる。このため、上記第2の実施形態2では、計測範囲設定部206は、計測点範囲を広く設定するか、中心位置をずらして設定してもよいと述べた。
本実施形態に係る計測装置3は、周辺視差値算出部207が計測点候補位置付近の画素の視差値を算出し、計測範囲設定部206は、その視差値を計測点範囲の中心位置のずれ量として用いて、計測点範囲を設定する基準となる位置を補正する。
<処理の流れ>
以下では、図11を参照して、計測装置3による計測方法(計算装置の制御方法)の処理手順を説明する。図11は、計測装置3が実行する処理の一例を示すフローチャートである。図11のフローチャートのS301〜S303、S305〜S312は、図9におけるS201〜S203、S204〜S211とそれぞれ同様の処理である。つまり、図11のフローチャートは、図9のフローチャートのS203の後にS304の処理を追加したものである。ここでは、図9との相違点であるS304を中心に説明し、他の処理の詳細な説明は省略する。
第1の実施形態の計測装置1と同様に、計測装置3は、左視点の画像である第1画像を初期基準画像として計測点候補位置の入力を受け付け、計測点候補位置を設定し、その周囲のオクルージョン領域の有無を判定する(S301〜S303)。
ここで、S303で、分析部201が計測点候補位置周囲の所定画素数の範囲にオクルージョン領域が含まれていると判定した場合、周辺視差値算出部207は、計測点範囲の中心位置を補正するためのずれ量を算出する(S304)。S304のずれ量算出方法の詳細は後述する。また、画像選択部202は、第1の実施形態において説明したS104と同様の方法により、S303の分析結果に応じた基準画像を選択する(S305)。
次に、計測範囲設定部206は、S304で算出されたずれ量分だけ計測点候補位置をずらした位置を計測点範囲の中心として計測点範囲を設定する(S306)。これにより、基準画像が第2画像となることに伴う計測点候補位置のずれに対応した適切な計測点範囲が設定される。計測点範囲を設定した後の処理(S307〜S312)は、実施形態2と同様である。
なお、計測範囲設定部206は、処理S306で計測点範囲を設定する際に、計測点範囲の大きさ(画素サイズ)を、周辺視差値算出部207がS304で算出するずれ量に基づいて設定してもよい。詳細は後述するが、S304で算出するずれ量は、計測点候補位置に近い位置に写っている被写体のうち、手前側に位置している被写体の視差値である。そして、該視差値すなわちS304で算出するずれ量を用いることにより、撮像装置から上記被写体までの距離を算出することができる。
そこで、計測範囲設定部206は、上記距離に応じて計測点範囲の大きさを変更してもよい。例えば、ずれ量が小さいほど被写体までの距離は大きく、遠距離の被写体は画像上で小さく撮像されている。このため、計測範囲設定部206は、ずれ量が小さいほど計測点範囲を狭く(小さく)設定してもよい。反対に、ずれ量が大きいほど被写体までの距離は小さく、近距離の被写体は画像上で大きく撮像されている。このため、計測範囲設定部206は、ずれ量が大きいほど計測点範囲を広く(大きく)設定してもよい。このような方法により、計測点候補位置付近の被写体までの距離に応じた適切な範囲を計測点範囲として設定できる。ずれ量に応じた広さの計測点範囲を設定する方法は特に限定されず、例えば、ずれ量(視差値)の範囲と、各範囲のずれ量に応じた広さとを予め設定しておくことにより、ずれ量に応じた、異なる広さの計測点範囲を設定することができる。
<S304におけるずれ量の算出>
続いて、処理S304の処理内容の詳細を説明する。前段階のS303で分析部201が、オクルージョン領域が存在すると判定した場合、S304において周辺視差値算出部207は、計測点範囲の中心位置を補正するためのずれ量を算出する。
ここで、第1および第2画像のうちの一方の画像における注目点の位置に対応するもう一方の画像上の対応点は、注目点の位置から視差の分だけずれた位置にあり、注目点の視差値は、その位置のずれ量となる。したがって、計測点候補位置の視差値を算出すれば、ずれ量を求めることができ、そのずれ量分だけずらした位置を計測点範囲の中心位置とすれば、適切な位置に計測点範囲を設定することができる。
ただし、計測点範囲の設定時にずれが生じ、計測点範囲の中心位置を補正する必要が生じるのは、計測点候補位置がオクルージョン領域である場合である。このため、このような状況では、上述の通り、計測点候補位置の正しい視差値を算出することは困難である。そこで、S304では、周辺視差値算出部207は、計測点候補位置がオクルージョン領域である場合に、計測点候補位置周辺でオクルージョン領域ではない位置の視差値を算出して、その視差値をずれ量として用いる。
ここで、オクルージョン領域は、撮像装置からの距離が異なる2つの被写体(図3の場合、被写体Aと背景B)が重なっている位置に生じ、図3のオクルージョン領域O1のように、左視点の画像上では手前側の被写体(被写体A)の左側領域に生じる。したがって、分析部201が、左視点の画像上で設定された計測点候補位置がオクルージョン領域であると判定した場合には、計測点候補位置の右側に手前側の被写体が存在すると判定できる。
そこで、分析部201は、計測点候補位置の右方向へと順番に位置をずらしながら、各画素の類似度を算出し、類似度が高くなる位置、すなわちオクルージョン領域ではない位置を求める。類似度は、第1の実施形態で述べた方法で算出可能である。そして、周辺視差値算出部207は、分析部201によってオクルージョン領域ではないと最初に判定された位置の視差値を算出して、その値をずれ量とする。なお、第1の実施形態で述べたように、視差値はステレオ方式で算出可能である。
上記の場合とは反対に、計測点候補設定部200が計測点候補位置を右視点の画像で設定した場合には、被写体とオクルージョン領域との位置関係も反対になる。このため、この場合には、類似度を算出するために画素を走査する方向を、右方向から左方向に変更して、同様の処理を行う。
以上で述べた方法により、本実施形態の計測装置3では、周辺視差値算出部207が、計測点候補位置付近(周辺)のオクルージョン領域ではない位置の視差値を、計測点範囲の位置を補正するためのずれ量として算出する。よって、計測点範囲を適切な位置に設定することができる。そして、計測者は、この計測点範囲内で計測点を入力することができるため、オクルージョン領域に計測点を設定することによって三次元位置情報の計測精度が低下してしまう可能性をより低減することができる。
また、上述した、視差値に基づいて計測点範囲の画素範囲を変更する方法によれば、撮像装置から計測点候補位置付近の被写体までの距離に応じた適切な範囲を計測点範囲として設定することができる。したがって、より適切な計測点範囲を設定することができ、これによってより適切な計測点位置を設定して、該計測点位置に関する計測を行うことが可能になる。
〔変形例〕
上記の各実施形態で述べた計測装置では、入力される2つの画像は、水平面上に配置されたステレオカメラで撮像されたものとしたが、これに限定されない。例えば、2つの撮像装置が垂直方向に配置された場合であっても、上述の各実施形態で説明した計測方法を同様に適用できる。ステレオカメラが垂直軸上に配置されている場合には、視差の方向が垂直軸上にあるため、視差算出時の走査軸も当該垂直軸である。また、複数の撮像装置でそれぞれ撮像した複数の画像を用いる代わりに、1つの撮像装置を被写体と平行な方向に移動させて撮像した、撮像位置の異なる複数の画像を用いてもよい。
また、上記の各実施形態では、2つの画像を用いた計測を例示したが、異なる位置から少なくとも一部の共通領域を含むように撮像された画像であれば、3つ以上の画像を用いた計測も可能である。
さらに、上記の各実施形態では、基準画像上における計測点位置の指定を計測者に行わせる例を示したが、計測点位置を自動で設定してもよい。計測点位置を自動で設定する場合、例えば、計測点候補位置の対応点の位置や、上述の計測点範囲の中心点の位置、あるいは計測点範囲内の任意の位置を計測点位置としてもよい。また、このように自動で求めた位置を、計測点位置の候補として表示して、該候補を計測点位置とするか否か、あるいは何れを候補を計測点位置とするかを計測者に選択させてもよい。
〔ソフトウェアによる実現例〕
計測装置(計測装置1、2、および3)の制御ブロック(特に計測部20、21、および22)は、集積回路(Integrated Circuit)等に形成された論理回路(ハードウェア)によって実現してもよいし、CPUを用いてソフトウェアによって実現してもよい。前者の場合、FPGA(Field Programmable Gate Array)等のプログラム可能な集積回路で実現してもよい。また、後者の場合、上記計測装置は、各機能を実現するソフトウェアであるプログラムの命令を実行するCPU、上記プログラムおよび各種データがコンピュータ(またはCPU)で読み取り可能に記録されたROM(Read Only Memory)、または、記憶装置(これらを「記録媒体」と称する)、上記プログラムを展開するRAMなどを備えている。そして、コンピュータ(またはCPU)が上記プログラムを上記記録媒体から読み取って実行することにより、本発明の一態様の目的が達成される。上記記録媒体としては、「一時的でない有形の媒体」、例えば、テープ、ディスク、カード、半導体メモリ、プログラマブルな論理回路などを用いることができる。また、上記プログラムは、該プログラムを伝送可能な任意の伝送媒体(通信ネットワークや放送波等)を介して上記コンピュータに供給されてもよい。なお、本発明の一態様は、上記プログラムが電子的な伝送によって具現化された、搬送波に埋め込まれたデータ信号の形態でも実現され得る。
〔まとめ〕
本発明の態様1に係る計算装置(計測装置1〜3)は、共通の被写体を撮像した複数の画像(第1画像、第2画像)を用いて、上記被写体上に設定された計測点の三次元位置を算出する計算装置であって、上記複数の画像を分析して、上記計算装置の使用者が上記計測点の設定位置の候補として、上記複数の画像の1つである初期基準画像上に設定した計測点候補位置、および該計測点候補位置から所定の範囲内の位置の少なくとも何れかにオクルージョン領域が存在するか判定する分析部(201)と、上記分析部が、オクルージョン領域が存在すると判定した場合に、上記複数の画像のうち上記初期基準画像以外の画像を基準画像とする画像選択部(202)と、該基準画像上に上記計測点を設定する計測点設定部(203)と、を備えている。
上記の構成によれば、使用者が設定した計測点候補位置および該計測点候補位置から所定の範囲内の位置の少なくとも何れかにオクルージョン領域が存在すると判定した場合に、初期基準画像以外の画像を基準画像として、該基準画像上に計測点を設定する。よって、オクルージョン領域またはその周辺に計測点を設定することによる計算精度の低下を防ぐことができる。
また、上記の構成によれば、オクルージョン領域が存在するか否かは、計測点候補位置および計測点候補位置から所定の範囲内の位置の少なくとも何れかの位置について判定すればよい。このため、画像全体の何れの領域がオクルージョン領域であるかを推定する場合と比べて、演算処理量を過剰に増加させることがない。
なお、基準画像上に設定する計測点の位置は、使用者に選択させてもよいし、自動で決定してもよい。前者の場合であっても、使用者はオクルージョン領域を意識することなく、初期基準画像に計測点候補位置を設定した際と同様にして、基準画像上の所望の位置に計測点を設定することができる。よって、使用者の負担を増加させることなく、計算精度の低下を防ぐことができる。
また、上記計算装置が出力する計算結果は、算出した三次元位置であってもよいし、該三次元位置を用いて算出した他の計測値であってもよい。他の計測値は、三次元位置を用いて算出可能な計測値であればよく、例えば撮像装置から被写体上の計測点までの距離等が挙げられる。そして、他の計測値の算出には、算出した三次元位置の他、撮像位置や焦点距離、イメージセンサのピクセルピッチ等のパラメータを用いてもよい。
本発明の態様2に係る計測装置(2)は、上記態様1において、上記計測点候補位置を基準として上記基準画像上に計測点範囲を設定する計測範囲設定部(206)を備え、上記計測点設定部は、設定した上記計測点範囲内の位置に上記計測点を設定する、構成であってもよい。
上記の構成によれば、使用者が設定した計測点候補位置を基準として基準画像上に計測点範囲を設定し、該計測点範囲内の位置に計測点を設定する。よって、使用者が設定した計測点候補位置に応じた範囲内に計測点を設定することができる。これにより、例えば、被写体における計測点候補位置から大きく離れた位置に計測点を設定することや、計測点候補位置を設定した被写体とは異なる他の被写体上に計測点を設定することを防ぐことも可能になる。
本発明の態様3に係る計測装置(3)は、上記態様2において、上記計測点候補位置の周辺のオクルージョン領域ではない位置と、上記複数の画像のうち上記初期基準画像以外の画像における、上記位置に対応する対応位置との間の視差値を算出する周辺視差値算出部(207)を備え、上記計測範囲設定部は、上記計測点候補位置を上記視差値に応じて補正した位置を基準として上記計測点範囲を設定する、構成であってもよい。
ここで、初期基準画像と基準画像とが、被写体と平行な方向にずれた位置で撮像された画像である場合、基準画像における、計測点候補位置に対応する位置は、計測点候補位置を視差方向に視差の分だけずれた位置となる。よって、計測点候補位置を視差値に応じて補正した位置を基準として計測点範囲を設定する上記構成によれば、上記ずれ量の影響をキャンセルして、適切な計測点範囲を設定することが可能になる。なお、適切な計測点範囲とは、計測点候補位置と同じ部分を撮像した基準画像上の位置を基準として設定した範囲である。
本発明の態様4に係る計測装置(3)は、上記態様3において、上記計測範囲設定部(206)は、上記視差値の大小に応じて上記計測点範囲の広さを設定してもよい。
ここで、共通の被写体を複数の位置から撮像した場合、異なる撮像位置で得られた画像間の視差値は、撮像装置(撮像位置)から被写体までの距離に反比例する。つまり、視差値が大きいほど、撮像装置から被写体までの距離は小さくなる。そして、撮像装置から被写体までの距離が小さい場合、撮像した画像において被写体が占める範囲は相対的に広くなる。
よって、視差値の大小に応じた広さの計測点範囲を設定する上記構成によれば、被写体が広い範囲を占める画像から、所望の計測位置を使用者に容易に設定させることが可能になる。なお、より詳細には、視差値が大きいほど、すなわち撮像装置(撮像位置)から被写体までの距離が小さいほど広い計測点範囲、あるいは、視差値が小さいほど、すなわち撮像装置から被写体までの距離が大きいほど狭い計測点範囲を設定すればよい。
本発明の態様5に係る計算装置(計測装置1〜3)の制御方法は、共通の被写体を撮像した複数の画像を用いて、上記被写体上に設定された計測点の三次元位置を算出する計算装置の制御方法であって、上記複数の画像を分析して、上記計算装置の使用者が上記計測点の設定位置の候補として、上記複数の画像の1つである初期基準画像上に設定した計測点候補位置、および該計測点候補位置から所定の範囲内の位置の少なくとも何れかにオクルージョン領域が存在するか判定する分析ステップと、上記分析ステップにてオクルージョン領域が存在すると判定した場合に、上記複数の画像のうち上記初期基準画像以外の画像を基準画像とする画像選択ステップと、上記基準画像上に上記計測点を設定する計測点設定ステップと、を含む。この構成によれば、上記態様1と同等の効果を奏する。
本発明の各態様に係る計算装置は、コンピュータによって実現してもよく、この場合には、コンピュータを上記計算装置が備える各部(ソフトウェア要素)として動作させることにより上記計算装置をコンピュータにて実現させる計算装置の制御プログラム、およびそれを記録したコンピュータ読み取り可能な記録媒体も、本発明の範疇に入る。
本発明の実施形態は上述した各実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。さらに、各実施形態にそれぞれ開示された技術的手段を組み合わせることにより、新しい技術的特徴を形成することができる。
本出願は、2015年9月9日に出願された特願2015−177719に対して優先権の利益を主張するものであり、当該出願を参照することにより、その内容の全てが本書に含まれる。
1〜3 計測装置(計算装置)
201 分析部
202 画像選択部
203 計測点設定部
206 計測範囲設定部
207 周辺視差値算出部

Claims (5)

  1. 共通の被写体を撮像した複数の画像を用いて、上記被写体上に設定された計測点の三次元位置を算出する計算装置であって、
    上記複数の画像を分析して、上記計算装置の使用者が上記計測点の設定位置の候補として、上記複数の画像の1つである初期基準画像上に設定した計測点候補位置、および該計測点候補位置から所定の範囲内の位置の少なくとも何れかにオクルージョン領域が存在するか判定する分析部と、
    上記分析部が、オクルージョン領域が存在すると判定した場合に、上記複数の画像のうち上記初期基準画像以外の画像を基準画像とする画像選択部と、
    上記基準画像上に上記計測点を設定する計測点設定部と、を備えていることを特徴とする計算装置。
  2. 上記計測点候補位置を基準として上記基準画像上に計測点範囲を設定する計測範囲設定部を備え、
    上記計測点設定部は、設定した上記計測点範囲内の位置に上記計測点を設定する、ことを特徴とする請求項1に記載の計算装置。
  3. 上記計測点候補位置の周辺のオクルージョン領域ではない位置と、上記複数の画像のうち上記初期基準画像以外の画像における、上記位置に対応する対応位置との間の視差値を算出する周辺視差値算出部を備え、
    上記計測範囲設定部は、上記計測点候補位置を上記視差値に応じて補正した位置を基準として上記計測点範囲を設定する、ことを特徴とする請求項2に記載の計算装置。
  4. 上記計測範囲設定部は、上記視差値の大小に応じて上記計測点範囲の広さを設定する、ことを特徴とする請求項3に記載の計算装置。
  5. 共通の被写体を撮像した複数の画像を用いて、上記被写体上に設定された計測点の三次元位置を算出する計算装置の制御方法であって、
    上記複数の画像を分析して、上記計算装置の使用者が上記計測点の設定位置の候補として、上記複数の画像の1つである初期基準画像上に設定した計測点候補位置、および該計測点候補位置から所定の範囲内の位置の少なくとも何れかにオクルージョン領域が存在するか判定する分析ステップと、
    上記分析ステップにてオクルージョン領域が存在すると判定した場合に、上記複数の画像のうち上記初期基準画像以外の画像を基準画像とする画像選択ステップと、
    上記基準画像上に上記計測点を設定する計測点設定ステップと、を含むことを特徴とする計算装置の制御方法。
JP2017539082A 2015-09-09 2016-08-15 計算装置、計算装置の制御方法および計算プログラム Active JP6502511B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2015177719 2015-09-09
JP2015177719 2015-09-09
PCT/JP2016/073831 WO2017043258A1 (ja) 2015-09-09 2016-08-15 計算装置および計算装置の制御方法

Publications (2)

Publication Number Publication Date
JPWO2017043258A1 true JPWO2017043258A1 (ja) 2018-05-24
JP6502511B2 JP6502511B2 (ja) 2019-04-17

Family

ID=58240761

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017539082A Active JP6502511B2 (ja) 2015-09-09 2016-08-15 計算装置、計算装置の制御方法および計算プログラム

Country Status (3)

Country Link
US (1) US20190026921A1 (ja)
JP (1) JP6502511B2 (ja)
WO (1) WO2017043258A1 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110023712A (zh) 2017-02-28 2019-07-16 松下知识产权经营株式会社 位移计测装置以及位移计测方法
JP2018197674A (ja) 2017-05-23 2018-12-13 オリンパス株式会社 計測装置の作動方法、計測装置、計測システム、3次元形状復元装置、およびプログラム
JP6970568B2 (ja) * 2017-09-22 2021-11-24 株式会社デンソー 車両の周辺監視装置と周辺監視方法
US11182914B2 (en) * 2018-05-21 2021-11-23 Facebook Technologies, Llc Dynamic structured light for depth sensing systems based on contrast in a local area
JP7119621B2 (ja) * 2018-06-18 2022-08-17 オムロン株式会社 画像処理システムおよび画像処理方法
JP7441608B2 (ja) * 2019-03-22 2024-03-01 セコム株式会社 移動先設定装置、移動先設定方法、移動先設定プログラム及びロボット
JP2022020353A (ja) * 2020-07-20 2022-02-01 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07282259A (ja) * 1994-04-13 1995-10-27 Matsushita Electric Ind Co Ltd 視差演算装置及び画像合成装置
JP2011070415A (ja) * 2009-09-25 2011-04-07 Fujifilm Corp 画像処理装置及び画像処理方法
JP2011165117A (ja) * 2010-02-15 2011-08-25 Nec System Technologies Ltd 画像処理装置、画像処理方法および画像処理プログラム
JP2011232330A (ja) * 2010-04-08 2011-11-17 Casio Comput Co Ltd 撮像装置、長さ測定方法、及びプログラム
JP2013009076A (ja) * 2011-06-23 2013-01-10 Konica Minolta Holdings Inc 画像処理装置、そのプログラム、および画像処理方法
US20130308013A1 (en) * 2012-05-18 2013-11-21 Honeywell International Inc. d/b/a Honeywell Scanning and Mobility Untouched 3d measurement with range imaging
US20140210950A1 (en) * 2013-01-31 2014-07-31 Qualcomm Incorporated Systems and methods for multiview metrology

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9235749B2 (en) * 2011-02-24 2016-01-12 Sony Corporation Image processing device and image processing method
JP2014078095A (ja) * 2012-10-10 2014-05-01 Sony Corp 画像処理装置、画像処理方法、及びプログラム

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07282259A (ja) * 1994-04-13 1995-10-27 Matsushita Electric Ind Co Ltd 視差演算装置及び画像合成装置
JP2011070415A (ja) * 2009-09-25 2011-04-07 Fujifilm Corp 画像処理装置及び画像処理方法
JP2011165117A (ja) * 2010-02-15 2011-08-25 Nec System Technologies Ltd 画像処理装置、画像処理方法および画像処理プログラム
JP2011232330A (ja) * 2010-04-08 2011-11-17 Casio Comput Co Ltd 撮像装置、長さ測定方法、及びプログラム
JP2013009076A (ja) * 2011-06-23 2013-01-10 Konica Minolta Holdings Inc 画像処理装置、そのプログラム、および画像処理方法
US20130308013A1 (en) * 2012-05-18 2013-11-21 Honeywell International Inc. d/b/a Honeywell Scanning and Mobility Untouched 3d measurement with range imaging
US20140210950A1 (en) * 2013-01-31 2014-07-31 Qualcomm Incorporated Systems and methods for multiview metrology

Also Published As

Publication number Publication date
WO2017043258A1 (ja) 2017-03-16
JP6502511B2 (ja) 2019-04-17
US20190026921A1 (en) 2019-01-24

Similar Documents

Publication Publication Date Title
JP6502511B2 (ja) 計算装置、計算装置の制御方法および計算プログラム
US10277889B2 (en) Method and system for depth estimation based upon object magnification
JP6195915B2 (ja) 画像計測装置
US10091489B2 (en) Image capturing device, image processing method, and recording medium
US9633450B2 (en) Image measurement device, and recording medium
JP6016226B2 (ja) 測長装置、測長方法、プログラム
US11321861B2 (en) Method of operating measurement device, measurement device, measurement system, three-dimensional shape restoration device, and recording medium
US10776937B2 (en) Image processing apparatus and image processing method for setting measuring point to calculate three-dimensional coordinates of subject image with high reliability
CN112739976B (zh) 尺寸测量装置以及尺寸测量方法
JP6494418B2 (ja) 画像解析装置、画像解析方法、およびプログラム
JP2016217944A (ja) 計測装置、および計測方法
US11100699B2 (en) Measurement method, measurement device, and recording medium
TWI417774B (zh) 光學距離判斷裝置、光學觸控螢幕系統及光學觸控測距之方法
JP5996233B2 (ja) 画像撮像装置
CN112585423B (zh) 测距摄像机
US10432916B2 (en) Measurement apparatus and operation method of measurement apparatus
JP5167614B2 (ja) 距離画像生成装置、距離画像生成方法及びプログラム
US10346680B2 (en) Imaging apparatus and control method for determining a posture of an object
WO2018061430A1 (ja) 計測装置、計測方法、計測プログラム、及び記録媒体
WO2019093062A1 (ja) 計測装置、計測装置の制御方法、計測プログラムおよび記録媒体
JPWO2018030386A1 (ja) 位置指定装置および位置指定方法
JP6730029B2 (ja) 画像処理装置、画像処理方法、画像処理プログラム、および撮像装置
CN112424566B (zh) 测距摄像机
JP5582572B2 (ja) 画像処理方法、画像処理プログラム、これを記憶したコンピュータ読み取り可能な記憶媒体、及び画像処理装置
US20230188692A1 (en) Information processing apparatus using parallax in images captured from a plurality of directions, method and storage medium

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180131

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180131

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181218

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190123

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190205

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190305

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190320

R150 Certificate of patent or registration of utility model

Ref document number: 6502511

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150