JP6067175B2 - 位置測定装置及び位置測定方法 - Google Patents

位置測定装置及び位置測定方法 Download PDF

Info

Publication number
JP6067175B2
JP6067175B2 JP2016506069A JP2016506069A JP6067175B2 JP 6067175 B2 JP6067175 B2 JP 6067175B2 JP 2016506069 A JP2016506069 A JP 2016506069A JP 2016506069 A JP2016506069 A JP 2016506069A JP 6067175 B2 JP6067175 B2 JP 6067175B2
Authority
JP
Japan
Prior art keywords
feature point
captured image
image
reflection surface
virtual
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016506069A
Other languages
English (en)
Other versions
JPWO2015132981A1 (ja
Inventor
幸康 堂前
幸康 堂前
関 真規人
真規人 関
信太郎 渡邉
信太郎 渡邉
諭 惣福
諭 惣福
豊 江崎
豊 江崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Application granted granted Critical
Publication of JP6067175B2 publication Critical patent/JP6067175B2/ja
Publication of JPWO2015132981A1 publication Critical patent/JPWO2015132981A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/002Measuring arrangements characterised by the use of optical techniques for measuring two or more coordinates
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/907Television signal recording using static stores, e.g. storage tubes or semiconductor memories
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30204Marker

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Description

本発明は、カメラを用いて反射面を有する物体の3次元空間における位置を測定するための位置測定装置及び位置測定方法に関する。
反射面を有する物体の3次元空間における位置を測定するための方法として、特許文献1及び2の発明がある。特許文献1の発明は、照明を当てた反射面を有する物体を2つのカメラで撮影し、撮影された各画像から反射面を有する物体の反射光の法線方向を計算する。次いで、特許文献1の発明は、この法線方向に基づいて画像間で対応する画素を探索し、対応する画素間の視差に基づいて3次元測量(ステレオ測定)を行う。特許文献2の発明は、反射面を有する物体にレーザスポット光を照射し、反射面を有する物体で反射した反射光を2つの画像センサにより観測する。次いで、特許文献2の発明は、観測した反射光の入射ベクトルを計算し、それをもとに、反射面を有する物体上のスポット光が当たっている位置を計算する。
また、鏡面反射面を有する物体の形状を測定するための方法として、特許文献3及び4の発明がある。
特開2010−071782号公報 特開2011−117832号公報 特開2010−197391号公報 特開2007−322162号公報
特許文献1及び2の発明では、反射面を有する物体の画像を取得するために、特別な光源を用いて反射面を有する物体に光を照射している。また、特許文献1及び2の発明のように反射面を有する物体からの反射光を観測する場合、反射面で正反射された光の強度と拡散反射された光の強度とに大きな差が生じる。そのため、広いダイナミックレンジを有するカメラを用いること、もしくは環境光の影響を制限することなどの対策が必要になる。しかしながら、これらの対策だけで光の強度差の問題を解決できず、反射面を有する物体の3次元空間における位置を測定できないことがある。また、そもそも、光を照射するための装置コスト及びエネルギーが必要となる。特許文献3および4においても、これらの課題を解決することは開示されていない。
本発明の目的は、前記の問題点を解決し、特別な光源及び広ダイナミックレンジのカメラを用いることなく、反射面を有する物体の3次元空間における位置を安定的に測定することができる位置測定装置及び方法を提供することにある。
本発明の態様に係る位置測定装置は、
反射面を有する目標物体を撮影することにより前記反射面の少なくとも一部が入った撮影画像を取得するカメラと、
前記カメラの視点位置及び撮影方向を含む撮影条件を記憶する第1の記憶部と、
前記目標物体の形状を含むモデルデータを記憶する第2の記憶部と、
複数の特徴点を有し、前記カメラに対して予め決められた位置に固定されたマーカー物体と、
前記視点位置及び前記特徴点の間の互いの位置関係を表す特徴点データを記憶する第3の記憶部と、
前記特徴点のうちの複数個が前記反射面内に映った状態で前記カメラにより取得された撮影画像から複数の前記特徴点を抽出し、前記撮影画像内の前記特徴点の位置を決定する特徴点抽出部と、
前記撮影条件と、前記モデルデータと、前記特徴点データと、前記撮影画像内の前記特徴点の位置とに基づいて、前記目標物体の位置を計算する位置測定部とを備える。
本発明によれば、特別な光源及び広ダイナミックレンジのカメラを用いることなく、反射面を有する物体の3次元空間における位置を測定することができる。
本発明の実施の形態1に係る位置測定装置の構成を示すブロック図である。 本発明の実施の形態1に係る位置測定装置が有するマーカー物体2のパターンの例を示す図である。 本発明の実施の形態1に係る位置測定装置における、カメラ及びマーカー物体と、反射面と、カメラ及びマーカー物体の鏡像体との関係を説明する図である。 本発明の実施の形態1に係る位置測定装置によって実行される位置測定処理を説明するフローチャートである。 本発明の実施の形態1に係る位置測定装置によって実行される位置測定処理の鏡像体位置計算処理を説明するフローチャートである。 本発明の実施の形態1に係る位置測定装置の鏡像体位置計算部によって鏡像体の位置を計算する過程を例により説明する図である。 本発明の実施の形態1に係る位置測定装置の反射面位置計算部によって分割鏡の反射面の位置及び向きを決定する過程を例により説明する図である。 本発明の実施の形態1に係る位置測定装置の反射面位置計算部によって分割鏡の反射面の位置及び向きを決定する別の過程を例により説明する図である。 本発明の実施の形態2に係る位置測定装置の構成を示すブロック図である。 本発明の実施の形態2に係る位置測定装置によって実行される位置測定処理を説明するフローチャートである。 本発明の実施の形態2に係る位置測定装置によって実行される位置測定処理の反射面位置計算処理を説明するフローチャートである。 本発明の実施の形態3に係る位置測定装置の構成を示すブロック図である。 本発明の実施の形態3に係る位置測定装置によって実行される位置測定処理を説明するフローチャートである。 本発明の実施の形態3に係る位置測定装置によって実行される位置測定処理の反射面位置計算処理を説明するフローチャートである。 本発明の実施の形態3に係る位置測定装置の曲率計算部によって反射面の曲率半径を推定する原理を例により説明する図である。 本発明の実施の形態4に係る位置測定装置の構成を示すブロック図である。 本発明の実施の形態4に係る位置測定装置によって実行される位置測定処理を説明するフローチャートである。 本発明の実施の形態5に係る位置測定装置の構成を示すブロック図である。 本発明の実施の形態6に係る位置測定装置の構成を示すブロック図である。 本発明の実施の形態7に係る位置測定装置の構成を示すブロック図である。
実施の形態1.
本発明の各実施の形態では、反射面を有する目標物体(位置を測定すべき物体)の位置を測定するために、互いの位置関係が決まった複数の特徴点を有するマーカー物体を使用する。本発明の実施の形態1では、反射面に映るカメラ及びマーカー物体の鏡像から仮想的に存在する鏡像体を求め、鏡像体に含まれる複数の特徴点の位置を計算し、鏡像体の特徴点の位置に基づいて反射面の位置及び向きを計算する。本発明の実施の形態1は、反射面が既知の曲面である場合に、反射面の形状を表す反射面モデルを使用し、カメラの視点からの光が反射面で垂直に反射する反射面上の点(より詳しい説明は後でするが、この点を鏡像中心点と呼ぶ)を中心に反射面を近似する近似平面を決定し、近似平面に反射面モデルを当てはめる。
ここで、反射面の位置とは、反射面上の鏡像中心点の3次元空間での位置である。反射面の向きとは、鏡像中心点において反射面に接する平面の法線方向である。
図1は、本発明の実施の形態1に係る位置測定装置の構成を示すブロック図である。図1の位置測定装置は、反射面を有する目標物体の3次元空間における位置を測定する。目標物体は、例えば、大口径の反射望遠鏡の反射面を分割した分割鏡21である。分割鏡21は、反射面22と、反射面22でない部分である非反射部分(反射面22のエッジ23、側面、裏面など)とを有する。反射望遠鏡の反射面のメンテナンスのために、例えばクレーンで吊るされたロボットハンドである把持機構によって、分割鏡21を掴んで移動させる必要がある。本発明に係る位置測定装置は、分割鏡21を把持機構で掴む際に、分割鏡21の3次元空間における位置を予め決められた精度で測定するために使用される。把持機構と分割鏡21の相対位置は、他の方法により例えば数十cm程度の誤差で予め分かっている。本発明の実施の形態1に係る位置測定装置は、例えば数mm程度以下の精度で、分割鏡21の位置を求める。本発明の実施の形態1に係る位置測定装置は、反射面を有する他の物体の位置を測定する場合にも使用できる。
図1の位置測定装置は、少なくとも1つのカメラ1、マーカー物体2、記憶装置3、及び処理装置4を備える。カメラ1は、環境光に応じた一般的な調整を行ったカメラである。カメラ1は、分割鏡21を撮影することにより、分割鏡21の反射面22の少なくも一部が入った画像(以下、「撮影画像」という)を取得する。マーカー物体2は、カメラ1を基準として予め決められた位置にそれぞれ固定された複数のマーカーを含む物体であり、複数の特徴点を有する。カメラ1もまた、少なくとも1つの特徴点を有していてもよい。なお、マーカーとは特徴点を有する平面図形又は立体図形である。
記憶装置3は、3次元空間における位置の測定に必要な情報を予め記憶している。記憶装置3は、画像を撮影するときのカメラ1の視点位置及び撮影方向を含む撮影条件を記憶する第1の記憶部と、分割鏡21の形状を含むモデルデータを記憶する第2の記憶部と、視点位置及び特徴点の間の互いの位置関係を表す特徴点データを記憶する第3の記憶部とを有する。実施の形態1に係る位置測定装置では、モデルデータは、反射面22の形状を表す反射面モデルと、反射面22及び非反射部分の位置関係とを含む。反射面22の形状は、反射面22の曲率半径、輪郭線の形(円形、四角形、六角形など)などである。特徴点データは、視点位置を基準とするマーカー物体2の複数の特徴点の位置を含む。特徴点データは、さらに、視点位置を基準とするカメラ1の少なくとも1つの特徴点の位置を含んでもよい。実施の形態1に係る位置測定装置では、特徴点データとして予め記憶された特徴点間の位置関係は、実際の特徴点間の位置関係に対して鏡像関係(反転した位置関係)にあるものが使用される。なお、特徴点は、視点位置とは異なる位置を基準としてもよい。視点位置及び特徴点の間の互いの位置関係を表すことができれば、特徴点データとしてはどのようなものでもよい。曲率半径の替わりに曲率を使用してもよい。
処理装置4は、カメラ1によって撮影された分割鏡21の画像に基づいて、分割鏡21の3次元空間における位置を決定する。処理装置4は、特徴点抽出部11及び位置測定部12を備える。特徴点抽出部11は、特徴点のうちの複数個が反射面22内に映った状態でカメラ1により撮影された撮影画像から複数の特徴点を抽出し、撮影画像内の特徴点の位置を決定する。特徴点抽出部11は、さらに、撮影画像内の特徴点の位置を、特徴点データとして予め記憶された特徴点の位置に対応づける。位置測定部12は、撮影条件と、モデルデータと、特徴点データと、撮影画像内の特徴点の位置とに基づいて、分割鏡21の位置を計算する。
位置測定装置は、さらに、カメラ1によって撮影された画像6、及び/又は、分割鏡21の3次元空間における位置の測定の過程及び結果、などを示す表示装置5を備えてもよい。表示装置5を備えることによりユーザが状況を理解しやすくなる。位置測定装置は、表示装置5を備えなくてもよい。
図1の表示装置5に示すように、カメラ1によって撮影された画像6は、分割鏡21の反射面22及びエッジ23と、分割鏡21の反射面22に映ったカメラ1及びマーカー物体2の鏡像24とを含む。実施の形態1では、カメラ1の視野が分割鏡21に対して十分に広く、分割鏡21及びマーカー物体2がカメラ1の視野に収まっていると仮定する。なお、物体の鏡像とは、反射面22に映った物体の像を意味する。
位置測定部12は、鏡像体位置計算部13、反射面位置計算部14、及び目標物体位置決定部15を備える。
鏡像体位置計算部13は、特徴点データとして予め記憶された特徴点の位置に基づいて、反射面22に対してカメラ1及びマーカー物体2とは反対側に仮想的に存在するカメラ1及びマーカー物体2の鏡像体に含まれる複数の特徴点の位置を計算する。鏡像体は、反射面22に映ったカメラ1及びマーカー物体2の鏡像24と同じ像を、反射面22が存在しないと仮定した場合にカメラ1により撮影できるような、反射面22に対してカメラ1の反対側に存在する仮想的な物体である(図3、図7、図8を参照)。鏡像体に含まれる複数の特徴点の位置関係は、実際の特徴点間の位置関係に対して鏡像関係(反転した位置関係)になるので、特徴点データとして予め記憶された特徴点の位置に基づいて計算される。鏡像体位置計算部13は、カメラ1により実際の撮影画像を取得したときと同じ撮影条件で鏡像体を仮想的に撮影して得られる仮想撮影画像に含まれる複数の特徴点の位置が、実際にカメラ1により取得された撮影画像内の対応する複数の特徴点(仮想撮影画像内の特徴点に対応する実際の撮影画像内の特徴点)の位置にそれぞれ近接するように、鏡像体に含まれる複数の特徴点の位置を計算する。カメラ1及びマーカー物体2の全体の鏡像体を求める必要はなく、カメラ1及びマーカー物体2が有する特徴点に関して少なくとも鏡像体を求めればよい。なお、カメラ1及びマーカー物体2の全体の鏡像体を求めてもよい。
反射面位置計算部14は、視点位置及び特徴点データ(予め記憶された特徴点の位置)から決まるマーカー物体2の特徴点の位置と、鏡像体位置計算部13により計算された鏡像体の特徴点の位置と、モデルデータとして予め記憶された反射面22の曲率半径とに基づいて、反射面22の位置及び向きを計算する。
目標物体位置決定部15は、モデルデータとして予め記憶された反射面及び非反射部分の位置関係と、反射面位置計算部14により計算された反射面22の位置及び向きとに基づいて、分割鏡21の位置を決定する。詳しくは、目標物体位置決定部15は、反射面22のエッジ23の位置を検出することにより分割鏡21の位置を特定する。
鏡像体位置計算部13は、仮想撮影画像内の特徴点の位置と実際の撮影画像内の対応する特徴点の位置との差を小さくするように、鏡像体に含まれる複数の特徴点の位置を計算する。鏡像体位置計算部は、射影変換部16及びサイズ変更部17を備える。
射影変換部16は、実際の撮影画像内の特徴点の位置又は仮想撮影画像内の特徴点の位置に適用される射影変換であって、仮想撮影画像内の特徴点によって形成される図形と実際の撮影画像内の対応する特徴点によって形成される図形とが互いに相似に近づくような射影変換を決定する。射影変換を例えば仮想撮影画像内の特徴点の位置に適用すると、射影変換されたそれぞれの特徴点の位置は、適切な倍率で拡大又は縮小して平行移動させると、実際の撮影画像内の対応する特徴点の位置に一致又は近い位置になる。実際の撮影画像と仮想撮影画像とにおいて対応する特徴点が4組以上ある場合は、画像処理やコンピュータビジョンにおいて、一般的に行われるホモグラフィ行列の計算を用いることで、射影変換を決定することができる。この射影変換は、仮定された鏡像体の姿勢と、実際にカメラ1により撮影されたカメラ1及びマーカー物体2の姿勢(実際の鏡像体の姿勢)との差を表している。
サイズ変更部17は、決定された射影変換を実際の撮影画像内の特徴点の位置又は仮想撮影画像内の特徴点の位置に適用した後に、仮想撮影画像内の特徴点によって形成される図形又は実際の撮影画像内の対応する特徴点によって形成される図形に適用されるサイズ変更率であって、仮想撮影画像内の特徴点の位置と実際の撮影画像内の対応する特徴点の位置との差を小さくするようなサイズ変更率を決定する。言い換えると、サイズ変更部17は、仮想撮影画像内の特徴点によって形成される図形が、実際の撮影画像内の対応する特徴点によって形成される図形と合同に近づくようなサイズ変更率を決定する。なお、サイズ変更率は等倍を含む。
鏡像体位置計算部13は、決定された射影変換及び決定されたサイズ変更率に基づいて、鏡像体に含まれる複数の特徴点の位置を変更する。鏡像体位置計算部13は、仮想撮影画像内の特徴点の位置と実際の撮影画像内の対応する特徴点の位置との差が予め決められたしきい値(許容誤差)未満になるまで、射影変換と、サイズ変更率とを反復的に計算する。しきい値は、各特徴点の位置の誤差の絶対値の最大値、各特徴点の位置の誤差の絶対値の和、各特徴点の位置の誤差の二乗和などに対して設定する。
目標物体位置決定部15が分割鏡21の位置を決定した後、位置測定装置は、さらなる処理(例えば、把持機構により分割鏡21を掴んで移動させること)のために、決定した分割鏡21の位置を外部装置(図示せず)に送ってもよい。
記憶装置3(第1の記憶部)は、カメラ1の1つの視点位置及び1つの撮影方向を含む1組の撮影条件を記憶してもよい。この場合、位置測定部12は、撮影条件と、モデルデータと、特徴点データと、撮影画像内の複数の特徴点の位置をそれぞれ含む特徴点集合とに基づいて、分割鏡21の位置を計算してもよい。
図2は、本発明の実施の形態1に係る位置測定装置が有するマーカー物体2のパターンの例を示す図である。図2のマーカー物体2は、チェッカー模様の矩形領域を形成する複数の正方形(マーカー)と、矩形領域の4つのコーナーにそれぞれ設けられた4種類の互いに異なるシンボル(図形)とを有する。各マーカーは、個々の図形の頂点又は重心などの特徴点を有する。また、カメラ1の筐体の少なくとも一部を特徴点として用いてもよい。記憶装置3は、カメラ1及びマーカー物体2に含まれる複数の特徴点の位置を、カメラ1及びマーカー物体2のモデルとして記憶している。座標は、カメラ1の視点位置を原点としてもよく、他の位置を原点としてもよい。各特徴点の位置が既知であるので、特徴点間の距離及び方向も既知である。図2に示す例では、マーカー物体2に4種類の互いに異なるシンボルを設けたことにより、マーカー物体2の上下左右を区別することができる。図2に示す例では、さらに、カメラ1によって撮影された画像6が、分割鏡21の反射面22に映ったカメラ1及びマーカー物体2の鏡像24を含むとき、カメラ1及びマーカー物体2に含まれる複数の特徴点(記憶装置3に記憶されたモデル)と、鏡像24に含まれる複数の特徴点とを対応づけることができる。
なお、図2に示すマーカー物体2のチェッカー模様は一例であり、マーカー物体2は、水玉模様を形成する複数の円など、2次元的又は3次元的に配列された他のマーカーや目印となる形状的特徴を含んでもよい。例えばマーカーが円である場合には、円の中心を特徴点として用いてもよい。また、マーカー物体2の上下左右を区別するために設けるシンボルの個数は、4つに限らない。また、マーカー物体2の上下左右を区別するために特別なシンボルを設けなくてもよく、例えば、少なくとも1つのマーカーに他のマーカーとは異なる色を付与することにより、マーカー物体2の上下左右を区別することができる。この場合、記憶装置3はさらに、各マーカーの色を記憶する。マーカー物体は、チェッカー模様のように2次元的に配列されたものに限定されず、カメラ1の位置に対して予め決められた位置にそれぞれ配置された複数の特徴点を有するものであればよい。
図3は、本発明の実施の形態1に係る位置測定装置における、カメラ1及びマーカー物体2と、反射面と、カメラ1及びマーカー物体2の鏡像体との関係を説明する図である。カメラ1及びマーカー物体2と、反射面22と、カメラ1及びマーカー物体2の鏡像体との関係を、図3により説明する。反射面22によるカメラ1及びマーカー物体2の鏡像体として、仮想カメラ1M及び仮想マーカー物体2Mが仮想的に存在する。カメラ1は、視点31、撮影方向32、及び視野33を有する。鏡像体である仮想カメラ1Mは、仮想的な視点31M、仮想的な撮影方向32M、及び仮想的な視野33Mを有する。カメラ1のレンズ(図示せず)が反射面22に映っている画像をカメラ1が撮影している場合には、レンズの中の一点(すなわち、カメラ1の視点31)からの光は、反射面22に垂直に入射して反射面22で垂直に反射して、カメラ1の視点31に届く。このとき、カメラ1の視点31と仮想カメラ1Mの視点31Mとを通る直線は、反射面22と垂直に交わる。以下、カメラ1の視点31と仮想カメラ1Mの視点31Mとを通る直線を反射面垂直線と呼ぶ。反射面垂直線34と、反射面22との交点を、鏡像中心点35と呼ぶ。
図4及び図5を参照して、本発明の実施の形態1に係る位置測定装置によって実行される位置測定処理を説明する。図4は、本発明の実施の形態1に係る位置測定装置によって実行される位置測定処理を説明するフローチャートである。図5は、本発明の実施の形態1に係る位置測定装置によって実行される位置測定処理の鏡像体位置計算処理を説明するフローチャートである。
分割鏡21の位置は、分割鏡21の予め決められた基準点(例えば、重心)の位置と、分割鏡21の予め決められた面が向く方向(正面方向と呼ぶ)と、正面方向の周りでの回転角度とに分解できる。カメラ1の視点位置から分割鏡21の予め決められた点に向かう直線を基準とする、分割鏡21の正面方向の相対的な方向と正面方向の周りでの回転角度との組み合わせを、分割鏡21の姿勢と呼ぶ。分割鏡21の位置と姿勢が決まれば、分割鏡21のすべての箇所の位置も決まる。
カメラ1に対する分割鏡21の位置は大まかには分かっているので(例えば数十cm程度の誤差)、大まかな位置及び姿勢を与えたときの分割鏡21の反射面に映るカメラ1及びマーカー物体2を仮想的に撮影して得られる仮想撮影画像に含まれる特徴点の位置を計算し、仮想撮影画像内の特徴点の位置が、実際の撮影画像内の対応する特徴点の位置に対して近接するように、分割鏡21の位置及び姿勢を修正する。実施の形態1では、仮想撮影画像内の特徴点の位置を計算するために、カメラ1及びマーカー物体2の鏡像体の特徴点の位置を計算する。
カメラ1の視点と分割鏡21との相対的な位置関係は、大まかには予め分かっているので、分割鏡21の大まかな位置から決まるカメラ1及びマーカー物体2の鏡像体の位置を、基準位置と呼ぶ。また、分割鏡21が反射望遠鏡の反射面の一部を構成しているか、それとも、分割鏡21が反射望遠鏡から分離されて搭載具の上に置かれているかが分かっているので、分割鏡21の正面方向も大まかに分かる。大まかに分かっている分割鏡21の正面方向から決まるカメラ1及びマーカー物体2の鏡像体の姿勢を、基準姿勢と呼ぶ。鏡像体に含まれる特徴点の相対的な位置関係は、カメラ1及びマーカー物体2の特徴点の位置関係から決まるので、基準位置及び基準姿勢を決定することができる。
図4の位置測定処理は、目標物体の位置を測定するために、図1の処理装置4によって実行される。ステップS1において、特徴点抽出部11は、カメラ1により撮影された実際の撮影画像から特徴点を抽出し、抽出した特徴点に関する情報を位置測定部12に送る。ステップS2において、鏡像体位置計算部13は、鏡像体位置計算処理を実行し、カメラ1及びマーカー物体2の鏡像体(仮想カメラ1M及び仮想マーカー物体2M)の特徴点の位置を決定する。
図5に示すフローチャートのステップS11において、鏡像体位置計算部13は、カメラ1及びマーカー物体2の鏡像体の基準位置及び基準姿勢を、鏡像体の位置及び姿勢の初期値として決定する。ステップS12において、鏡像体位置計算部13は、鏡像体の位置及び姿勢に基づき、カメラ1により実際の撮影画像を取得したときと同じ撮影条件で鏡像体を仮想的に撮影して得られる仮想撮影画像に含まれる、複数の特徴点の位置を計算する。ステップS13において、鏡像体位置計算部13は、実際の撮影画像内の特徴点の位置と仮想撮影画像内の対応する特徴点の位置との差は、しきい値未満であるか否かを判断する。特徴点の位置の差がしきい値未満の場合、すなわちステップS13がYESの場合は、図5のフローチャートの処理を終了し、図4のステップS3に進む。特徴点の位置の差がしきい値以上の場合、すなわちステップS13がNOの場合は、ステップS14に進む。特徴点の位置の差は、例えば、互いに対応する特徴点間の距離の絶対値の総和、距離の2乗の総和、などとして計算される。
図5のステップS14において、鏡像体位置計算部13は、射影変換部16を用いて、実際の撮影画像内の特徴点の位置又は仮想撮影画像内の特徴点の位置に適用する射影変換であって、仮想撮影画像内の特徴点によって形成される図形と実際の撮影画像内の対応する特徴点によって形成される図形とが互いに相似に近づくような射影変換を決定する。分割鏡21の反射面22が平面である場合は、実際の撮影画像内のすべての特徴点の位置(及び仮想撮影画像内の対応する特徴点の位置)に基づいて射影変換を決定することで、安定して鏡像体の姿勢を計算できる。分割鏡21の反射面22が曲面である場合は、実際の撮影画像に映った鏡像中心点35の周囲における鏡像のゆがみを無視できる範囲内の特徴点の位置(及び仮想撮影画像内の対応する特徴点の位置)に基づいて射影変換を決定することで、鏡像のゆがみの影響を抑えながら、安定して鏡像体の姿勢を計算できる。画像内の鏡像中心点35に対応する点を、画像内の鏡像中心点と呼ぶ。
図5のステップS15では、決定された射影変換を実際の撮影画像内の特徴点の位置又は仮想撮影画像内の特徴点の位置に適用する。そして、ステップS16において、鏡像体位置計算部13は、サイズ変更部17を用いて、仮想撮影画像内の特徴点又は実際の撮影画像内の特徴点によって形成される図形に適用されるサイズ変更率であって、画像内での鏡像中心点35の位置を変更することなく、仮想撮影画像内の特徴点の位置と実際の撮影画像内の対応する特徴点の位置との差を最小化するようなサイズ変更率を決定する。
図6は、本発明の実施の形態1に係る位置測定装置の鏡像体位置計算部13によって鏡像体の位置を計算する過程を例により説明する図である。符号101の図は、実際の撮影画像が反射面22とマーカー物体2の鏡像24とを含む場合を示す。マーカー物体2の鏡像24は、複数の特徴点24aを有する。符号104の図は、位置及び姿勢が初期値(基準位置及び基準姿勢)である鏡像体を仮想的に撮影して得られる仮想撮影画像における仮想マーカー物体2Mの像41を示す。仮想マーカー物体2Mの像41は、複数の特徴点41aを有する。符号103の図は、図5のステップS14で求めた射影変換を仮想撮影画像に適用した後の、仮想撮影画像における仮想マーカー物体2Mの像42を示す。仮想マーカー物体2Mの像42は、複数の特徴点42aを有する。符号102の図は、図5のステップS16で求めたサイズ変更率で仮想撮影画像のサイズを変更した後の、仮想撮影画像における仮想マーカー物体2Mの像43を示す。仮想マーカー物体2Mの像43は、複数の特徴点43aを有する。像41の特徴点41a(符号104の図を参照)と像43の特徴点43a(符号102の図を参照)とを比較すると、像43では、実際の撮影画像内の特徴点の位置(符号101の図を参照)と仮想撮影画像内の対応する特徴点の位置との差は、像41の場合よりも小さくなっていることがわかる。
図5のステップS17において、鏡像体位置計算部13は、決定された射影変換に基づいて、鏡像体の姿勢を変更する。ステップS18において、鏡像体位置計算部13は、決定されたサイズ変更率に基づいて、カメラ1及びマーカー物体2から鏡像体(仮想カメラ1M及び仮想マーカー物体2M)への距離を変更する。
鏡像体位置計算部13は、ステップS15,S16及びS18を実行せず、ステップS17の実行後に、実際の撮影画像内の特徴点の位置と仮想撮影画像内の対応する特徴点の位置との差を最小化するように、カメラ1及びマーカー物体2から鏡像体(仮想カメラ1M及び仮想マーカー物体2M)への距離を直接に変更するステップを実行してもよい。これは、他の実施の形態でも当てはまる。
実際の撮影画像内の特徴点の位置と仮想撮影画像内の対応する特徴点の位置との差が、しきい値未満になるまで、鏡像体位置計算部13はステップS12からS18を繰り返す。
図4のステップS3において、反射面位置計算部14は、反射面22上の鏡像中心点35の近傍に映ったマーカー物体2の複数の特徴点と、鏡像体の対応する複数の特徴点とを結ぶ線分をそれぞれ分割する複数の分割点を決定し、これらの分割点に、近似平面51を当てはめる。それぞれの分割点は、マーカー物体2の特徴点と鏡像体の対応する特徴点とを結ぶ線分を、反射面22の曲率半径から決まる分割比率で二分割する位置にある。分割比率に関しては、後で説明する。ステップS4において、反射面位置計算部14は、反射面22のモデルに基づいて、反射面22が鏡像中心点35で近似平面51と接するように、反射面22の位置及び向きを決定する。反射面22が曲面である場合に、反射面位置計算部14は、鏡像中心点35の近傍において反射面22を近似する近似平面51の位置及び向きを決定し、鏡像中心点35において近似平面51と接するように反射面モデルの位置及び向きを決定することにより、反射面22の位置及び向きを決定する。
マーカー物体2の特徴点と鏡像体の対応する特徴点とを結ぶ線分の分割点を求める分割比率は、レンズの公式を応用して反射面22の曲率半径から導出される。反射面22が平面である場合は、分割比率は0.5となり、分割点は線分の中点になる。
図7は、本発明の実施の形態1に係る位置測定装置の反射面位置計算部14によって分割鏡の反射面の位置及び向きを決定する過程を例により説明する図である。符号111の図は、カメラ1及びマーカー物体2と、それらの鏡像体である仮想カメラ1M及び仮想マーカー物体2Mとを示す。符号112の図は、カメラ1及びマーカー物体2の特徴点と、仮想カメラ1M及び仮想マーカー物体2Mの対応する特徴点とを結ぶ線分を点線で示す。符号113の図は、符号112の図の線分の分割点と、分割点に当てはめられた近似平面51とを示す。符号114の図は、カメラ1の視点と仮想カメラ1Mの視点とを通る直線と、近似平面51との交点を、鏡像中心点に決め、反射面22の鏡像中心点の近傍で近似平面51と一致するように反射面モデルを当てはめることによって決定された、反射面22の位置及び向きを示す。
図7において、最初に、カメラ1は、分割鏡21の反射面22(符号114の図を参照)に映ったカメラ1及びマーカー物体2の鏡像24を含む撮影画像(カメラ1及びマーカー物体2の複数の特徴点が反射面22内に映った分割鏡21の撮影画像)を取得し、特徴点抽出部11は、撮影画像から特徴点を抽出し、撮影画像内の特徴点の位置を決定する。特徴点抽出部11は、さらに、撮影画像内の特徴点の位置を、特徴点データとして予め記憶された特徴点の位置(実際のカメラ1及びマーカー物体2の特徴点の位置)に対応づける。鏡像体位置計算部13は、カメラ1及びマーカー物体2の鏡像体(仮想カメラ1M及び仮想マーカー物体2M)に含まれる特徴点の位置を計算する。鏡像体位置計算部13は、仮想撮影画像内の特徴点の位置と実際の撮影画像内の対応する特徴点の位置との差を小さくするように、仮想カメラ1M及び仮想マーカー物体2Mの姿勢を修正し、カメラ1及びマーカー物体2から鏡像体(仮想カメラ1M及び仮想マーカー物体2M)への距離を修正することを繰り返す。鏡像体位置計算部13は、鏡像体の各特徴点の位置を決定することにより、符号112の図に示すように、カメラ1及びマーカー物体2と、仮想カメラ1M及び仮想マーカー物体2Mとの相対的な位置関係を把握することができる。
反射面位置計算部14は、符号113の図に示すように、カメラ1及びマーカー物体2の複数の特徴点の位置と、仮想カメラ1M及び仮想マーカー物体2Mの対応する特徴点の位置との各分割点の位置を計算する。各分割点は、カメラ1及びマーカー物体2の特徴点と、仮想カメラ1M及び仮想マーカー物体2Mの対応する特徴点とを結ぶ線分(符号112の図を参照)を、反射面22の曲率半径から決まる分割比率で二分割する位置にある。
反射面位置計算部14は、符号113の図に示すように、各分割点に平面方程式を当てはめて、反射面22の鏡像中心点の近傍を近似する平面である近似平面51を決定する。反射面22が平面である場合は、近似平面51自体が反射面22になる。反射面22が曲面である場合は、符号114の図に示すように、鏡像中心点の近傍において近似平面51と誤差が最小になるように反射面モデルを当てはめて反射面22の形状を決定する。なお、反射面22が非球面の曲面である場合は、近似平面51に反射面モデルのどの部分を当てはめるかに応じて反射面22の位置が微小に変化するが、反射面22のエッジ23を決める際に、反射面モデルの当てはめる部分の位置も決める。
図8は、本発明の実施の形態1に係る位置測定装置の反射面位置計算部によって分割鏡の反射面の位置及び向きを決定する別の過程を例により説明する図である。図8の例では、カメラ1及びマーカー物体2の特徴点の位置及び仮想カメラ1M及び仮想マーカー物体2Mの特徴点の位置だけでなく、カメラ1の視点31の位置も考慮して、反射面22の位置及び向きを決める。
図8において、符号121の図は、カメラ1の視点31と仮想カメラ1M及び仮想マーカー物体2Mの特徴点とを結ぶ線分を点線で示す。符号122の図は、カメラ1の視点31と仮想カメラ1M及び仮想マーカー物体2Mの特徴点とを結ぶ線分(符号121の図を参照)のうちの左端の線分において、分割点の位置を決定する方法を説明する図である。カメラ1及びマーカー物体2の特徴点と、仮想カメラ1M及び仮想マーカー物体2Mの対応する特徴点とを結ぶ線分(符号122の図では、マーカー物体2の左端の特徴点と、仮想マーカー物体2Mの左端の特徴点とを結ぶ線分)を決められた分割比率で二分割し、この線分に直交する平面52を決定する。この平面52と、符号121の図に示した視点31と仮想カメラ1M及び仮想マーカー物体2Mの特徴点を結ぶ線分との交点を、当該線分の分割点として求める。符号123の図は、カメラ1の視点と仮想カメラ1Mの視点とを通る直線の近傍において、符号121の図の複数の線分の分割点を通る近似平面51を求めた図である。符号124の図は、カメラ1の視点と仮想カメラ1Mの視点とを通る直線と近似平面51との交点を、鏡像中心点に決め、反射面22の鏡像中心点の近傍で近似平面51と一致するように反射面モデルを当てはめることによって決定された、反射面22の位置及び向きを示す。
図8に示す方法で近似平面51の位置及び向きを決定して反射面22の位置及び向きを決定する方が、図7に示す方法よりも正確に、反射面22の位置及び向きを決定することができる。仮想カメラ1Mの仮想的な視点31Mとカメラ1及びマーカー物体2の特徴点とを結ぶ線分に対して、同様な処理を適用して、反射面22の位置及び向きを決定してもよい。
反射面位置計算部14によって分割鏡21の反射面22を含む平面又は曲面が決定されたとき(図7の符号114の図又は図8の符号124の図)、分割鏡21の反射面22を含む面として、境界が決まっていない平面又は曲面が当てはめられている状態にある。例えば、分割鏡21が平面鏡であれば、平面鏡の法線方向(姿勢)がわかっているが、反射面22のエッジ23がどこにあるのか(平面鏡の位置)がわかっていない状態にある。そこで、目標物体位置決定部15は、反射面22のエッジ23の位置を決定して目標物体である分割鏡21の位置を決定する。
図4のステップS5において、目標物体位置決定部15は、撮影画像内の分割鏡21の非反射部分に基づいて、目標物体である分割鏡21の位置を決定する。目標物体位置決定部15は、目標物体の位置を決めるために、撮影画像から分割鏡21の非反射部分を抽出する。目標物体の位置を決めるために使用する非反射部分として、ここでは、反射面22のエッジ23を用いる。目標物体位置決定部15は、撮影画像内でのエッジの画素の位置に基づいて、カメラ1から反射面22のエッジ23上における複数の点などに向かう各直線を決定する。目標物体位置決定部15は、反射面位置計算部14によって計算された反射面22を含む面と、各直線との各交点の位置を計算し、各交点を、反射面22のエッジ23上における各点として決定する。
分割鏡21の反射面22が曲面である場合、目標物体位置決定部15は、撮影画像に基づいてエッジ23上の各点と鏡像中心点35との距離を計算し、これらの距離から、鏡像中心点35に対応する反射面22上の点の位置を計算し、反射面モデルに基づいて反射面22の位置及び向きを推定する。目標物体位置決定部15は、カメラ1からエッジ23上の各点に向かう直線と、反射面22との交点を、エッジ23上の各点の位置として決める。
このように、処理装置4は、分割鏡21の反射面22に映ったカメラ1及びマーカー物体2の鏡像に対応した鏡像体を求め、求めた鏡像体に基づいて、分割鏡21の3次元空間における位置を決定する。これにより、特別な光源及び広ダイナミックレンジのカメラを用いることなく、反射面を有する目標物体の3次元空間における位置を決定することができる。
実施の形態1によれば、このように、分割鏡21の反射面22に映ったカメラ1及びマーカー物体2の鏡像に対応した鏡像体の位置を計算し、その結果に基づいて鏡像変換の関係より分割鏡21の反射面22の位置及び向きを推定することができる。これにより、特別な光源及び広ダイナミックレンジのカメラを用いることなく、簡単な調整で、安価に、分割鏡21の3次元空間における位置を安定的に測定することができる。
実施の形態2.
本発明の実施の形態2では、目標物体の位置を測定するために、実施の形態1の鏡像体を用いることなく、仮想撮影画像に含まれる特徴点の位置を計算し、実際の撮影画像内の特徴点の位置と仮想撮影画像内の対応する特徴点の位置との差が予め決められたしきい値未満になるように、反射面の位置及び向きを計算する。
図9は、本発明の実施の形態2に係る位置測定装置の構成を示すブロック図である。図9の位置測定装置は、図1の処理装置4に代えて、処理装置4Aを備える。処理装置4Aは、特徴点抽出部11及び位置測定部12Aを備える。処理装置4Aの特徴点抽出部11は、図1の処理装置4の特徴点抽出部11と同様に動作する。位置測定部12Aは、反射面位置計算部14A及び目標物体位置決定部15を備える。反射面位置計算部14Aは、モデルデータとして予め記憶された反射面22の形状と、特徴点データとして予め記憶された特徴点の位置とに基づいて、仮想的に決めた反射面の位置及び向きを繰り返し計算で修正することにより、反射面22の位置及び向きを計算する。このとき、反射面位置計算部14Aは、仮想的に決定された位置及び向きを有する反射面に仮想的に映ったカメラ1及びマーカー物体2を、カメラ1により実際の撮影画像を取得したときと同じ撮影条件で仮想的に撮影して得られる仮想撮影画像に含まれる複数の特徴点の位置を計算し、仮想撮影画像に含まれる複数の特徴点の位置が撮影画像内の対応する複数の特徴点の位置にそれぞれ近接するように、反射面22の位置及び向きを計算する。目標物体位置決定部15は、モデルデータとして予め記憶された反射面及び非反射部分の位置関係と、反射面位置計算部14Aにより計算された反射面22の位置及び向きとに基づいて、分割鏡21の位置を決定する。
具体的には、反射面位置計算部14Aは、反射面22の位置及び向きを仮想的に決定し、これらの仮想的に決定された位置及び向きを有する反射面(仮想反射面と呼ぶ)を用いて、実際の反射面22の位置及び向きを計算する。反射面位置計算部14Aは、カメラ1及びマーカー物体2が仮想反射面に仮想的に映った状態で、仮想反射面に映ったカメラ1及びマーカー物体2を仮想的に撮影して得られる画像である仮想撮影画像に含まれる特徴点の位置を計算する。反射面位置計算部14Aは、仮想撮影画像内の特徴点の位置と実際に撮影された撮影画像内の対応する特徴点の位置との差がしきい値未満になるまで小さくなるように、仮想的に決めた反射面22の位置及び向きを修正することを繰り返す。
反射面位置計算部14Aは、カメラ1により実際の撮影画像を取得したときと同じ撮影条件で仮想反射面に仮想的に映るカメラ1及びマーカー物体2の鏡像を仮想的に撮影して得られる仮想撮影画像に含まれる複数の特徴点の位置が、実際の撮影画像内の対応する複数の特徴点の位置にそれぞれ近接するように、仮想反射面の位置及び向きを繰り返し計算で修正する。
反射面位置計算部14Aは、仮想撮影画像内の特徴点の位置と実際の撮影画像内の対応する特徴点の位置との差を小さくするように、仮想反射面の位置及び向きを変更することによって計算する。反射面位置計算部14Aは、射影変換部16及びサイズ変更部17を備える。反射面位置計算部14Aの射影変換部16及びサイズ変更部17は、図1の鏡像体位置計算部13の射影変換部16及びサイズ変更部17と同様に動作する。反射面位置計算部14Aは、射影変換部16によって決定された射影変換と、サイズ変更部17によって決定されたサイズ変更率とに基づいて、仮想反射面の位置及び向きを変更する。
図10及び図11を参照して、本発明の実施の形態2に係る位置測定装置によって実行される位置測定処理を説明する。図10は、本発明の実施の形態2に係る位置測定装置によって実行される位置測定処理を説明するフローチャートである。図11は、本発明の実施の形態2に係る位置測定装置によって実行される位置測定処理の反射面位置計算処理を説明するフローチャートである。
図10の位置測定処理は、目標物体の位置を測定するために、図9の処理装置4Aによって実行される。ステップS21において、特徴点抽出部11は、カメラ1により撮影された実際の撮影画像から特徴点を抽出し、抽出した特徴点に関する情報を位置測定部12Aに送る。ステップS22において、反射面位置計算部14Aは、反射面位置計算処理を実行し、仮想反射面の位置及び向きを計算することにより、反射面22の位置及び向きを計算する。
図11のステップS31において、反射面位置計算部14Aは、仮想反射面の位置及び向きの初期値を決定する。ステップS32において、反射面位置計算部14Aは、仮想反射面の位置及び向きと、反射面22のモデルとに基づき、仮想反射面にマーカー物体2が映る仮想撮影画像内の特徴点の位置を計算する。ステップS33において、反射面位置計算部14Aは、撮影画像内の特徴点の位置と仮想撮影画像内の対応する特徴点の位置との差は、しきい値未満であるか否かを判断する。特徴点の位置の差がしきい値未満の場合、すなわちステップS33がYESの場合は、図11のフローチャートの処理を終了し、図10のステップS23に進む。特徴点の位置の差がしきい値以上の場合、すなわちステップS33がNOの場合は、ステップS34に進む。
ステップS34において、反射面位置計算部14Aは、射影変換部16を用いて、実際の撮影画像内の特徴点の位置又は仮想撮影画像内の特徴点の位置に適用する射影変換であって、仮想撮影画像内の特徴点によって形成される図形と実際の撮影画像内の対応する特徴点によって形成される図形とが互いに相似に近づくような射影変換を決定する。図11のステップS35では、決定された射影変換を実際の撮影画像内の特徴点の位置又は仮想撮影画像内の特徴点の位置に適用する。そして、ステップS36において、反射面位置計算部14Aは、サイズ変更部17を用いて、仮想撮影画像内の特徴点又は実際の撮影画像内の特徴点によって形成される図形に適用されるサイズ変更率であって、画像内の鏡像中心点35の位置を変更することなく、仮想撮影画像内の特徴点の位置と実際の撮影画像内の対応する特徴点の位置との差を最小化するようなサイズ変更率を決定する。
ステップS37において、反射面位置計算部14Aは、決定された射影変換に基づいて、仮想反射面の向きを変更する。ステップS38において、反射面位置計算部14Aは、決定されたサイズ変更率に基づいて、カメラ1から仮想反射面への距離を変更する。
実際の撮影画像内の特徴点の位置と仮想撮影画像内の対応する特徴点の位置との差が、しきい値未満になるまで、反射面位置計算部14AはステップS32からS38を繰り返す。反射面位置計算部14Aは、反復的な計算により、反射面22の位置及び向きを取得する。
図10のステップS23において、目標物体位置決定部15は、撮影画像内の分割鏡21の非反射部分に基づいて、反射面22のエッジ23の位置を決定することにより、目標物体である分割鏡21の位置を決定する。
実施の形態1では、鏡像体の位置を反復的に計算したが、実施の形態2では、仮想反射面の位置及び向きを反復的に計算している。
このように、処理装置4Aは、仮想反射面に仮想的に映ったカメラ1及びマーカー物体2を仮想的に撮影して得られる仮想撮影画像に基づいて、分割鏡21の3次元空間における位置を決定する。これにより、特別な光源及び広ダイナミックレンジのカメラを用いることなく、反射面を有する目標物体の3次元空間における位置を決定することができる。
実施の形態3.
本発明の実施の形態3では、反射面の曲率半径が未知である場合であっても、実際の撮影画像内の特徴点の位置と仮想撮影画像内の対応する特徴点の位置との差が予め決められたしきい値未満になるように、反射面の位置、向き、及び曲率半径を計算する。その他の点では、実施の形態3は、実施の形態2と同様である。
図12は、本発明の実施の形態3に係る位置測定装置の構成を示すブロック図である。図12の位置測定装置は、図9の処理装置4Aに代えて、処理装置4Bを備える。記憶装置3に記憶されたモデルデータには、曲率半径を含まない反射面22の形状と、反射面及び非反射部分の位置関係とが含まれる。処理装置4Bは、特徴点抽出部11及び位置測定部12Bを備える。処理装置4Bの特徴点抽出部11は、図1の処理装置4の特徴点抽出部11と同様に動作する。
位置測定部12Bは、反射面位置計算部14B及び目標物体位置決定部15を備える。反射面位置計算部14Bは、モデルデータとして予め記憶された反射面22の形状と、特徴点データとして予め記憶された特徴点の位置とに基づいて、カメラ1及びマーカー物体2を仮想的に写す仮想反射面の位置、向き、及び曲率半径を計算することにより、反射面22の位置、向き、及び曲率半径を計算する。反射面位置計算部14Bは、仮想反射面に仮想的に映ったカメラ1及びマーカー物体2を、カメラ1により実際の撮影画像を取得したときと同じ撮影条件で仮想的に撮影して得られる仮想撮影画像に含まれる複数の特徴点の位置を計算し、仮想撮影画像に含まれる複数の特徴点の位置が実際の撮影画像内の対応する複数の特徴点の位置にそれぞれ近接するように、仮想反射面の位置、向き、及び曲率半径を計算する。目標物体位置決定部15は、モデルデータとして予め記憶された反射面及び非反射部分の位置関係と、反射面位置計算部14Bにより計算された反射面22の位置及び向きとに基づいて、分割鏡21の位置を決定する。
反射面位置計算部14Bは、仮想撮影画像内の特徴点の位置と実際の撮影画像内の対応する特徴点の位置との差を小さくするように、仮想反射面の位置、向き、及び曲率半径を変更することによって計算する。反射面位置計算部14Bは、射影変換部16、サイズ変更部17、及び曲率計算部18を備える。反射面位置計算部14Bの射影変換部16及びサイズ変更部17は、図1の鏡像体位置計算部13の射影変換部16及びサイズ変更部17と同様に動作する。曲率計算部18は、撮影画像内の3つ以上の特徴点の位置と仮想撮影画像内の対応する特徴点の位置との差に基づいて、かつ、撮影画像内又は仮想撮影画像内の鏡像中心点35から実際の撮影画像内の特徴点又は仮想撮影画像内の特徴点までの距離に基づいて、反射面22の曲率半径を推定する。実際に撮影された撮影画像内の特徴点の位置と仮想撮影画像内の対応する特徴点の位置との差は、反射面22の仮定した曲率半径と実際の曲率半径の差に応じて決まる。反射面位置計算部14Bは、射影変換部16によって決定された射影変換と、サイズ変更部17によって決定されたサイズ変更率と、曲率計算部18によって計算された曲率半径に基づいて、仮想反射面の位置、向き、及び曲率半径を変更する。
図13及び図14を参照して、本発明の実施の形態3に係る位置測定装置によって実行される位置測定処理を説明する。図13は、本発明の実施の形態3に係る位置測定装置によって実行される位置測定処理を説明するフローチャートである。図14は、本発明の実施の形態3に係る位置測定装置によって実行される位置測定処理の反射面位置計算処理を説明するフローチャートである。
図13にフローチャートを示す位置測定処理は、目標物体の位置を測定するために、図12の処理装置4Bによって実行される。ステップS41において、特徴点抽出部11は、カメラ1により撮影された実際の撮影画像から特徴点を抽出し、抽出した特徴点に関する情報を位置測定部12Bに送る。ステップS42において、反射面位置計算部14Bは、反射面位置計算処理を実行し、仮想反射面の位置、向き、及び曲率半径を計算することにより、反射面22の位置、向き、及び曲率半径を計算する。
図14に示すステップS51において、反射面位置計算部14Bは、仮想反射面の位置、向き、及び曲率半径の初期値を決定する。ステップS52において、反射面位置計算部14Bは、仮想反射面の位置、向き、及び曲率半径に基づき、仮想反射面にマーカー物体2が映る仮想撮影画像内の特徴点の位置を計算する。ステップS53において、反射面位置計算部14Bは、撮影画像内の特徴点の位置と仮想撮影画像内の対応する特徴点の位置との差は、しきい値未満であるか否かを判断する。特徴点の位置の差がしきい値未満の場合、すなわちステップS53がYES場合は、図14のフローチャートの処理を終了し、図13のステップS43に進む。特徴点の位置の差がしきい値以上の場合、すなわちステップS53がNOの場合は、ステップS54に進む。
ステップS54において、反射面位置計算部14Bは、射影変換部16を用いて、撮影画像内の特徴点の位置又は仮想撮影画像内の特徴点の位置に適用する射影変換であって、実際の撮影画像内の鏡像中心点35の近傍の予め決められた範囲に含まれる実際の撮影画像内の特徴点によって形成される図形と、仮想撮影画像内の対応する特徴点によって形成される図形とが、互いに相似に近づくような射影変換を決定する。ステップS55では、求めた射影変換を実際の撮影画像内の特徴点の位置又は仮想撮影画像内の特徴点の位置に適用する。そして、ステップS56において、反射面位置計算部14Bは、サイズ変更部17を用いて、仮想撮影画像内の特徴点又は実際の撮影画像内の特徴点によって形成される図形に適用するサイズ変更率であって、実際の撮影画像内の鏡像中心点35の近傍の予め決められた範囲に含まれる実際の撮影画像内の特徴点の位置と、仮想撮影画像内の対応する特徴点の位置との差を最小化するようなサイズ変更率を決定する。サイズ変更率を求める際に使用する画像内の鏡像中心点35の近傍の予め決められた範囲は、十分な個数の特徴点が入るように、かつ、反射面22の曲率に起因する実際の撮影画像内の特徴点の位置と仮想撮影画像内の対応する特徴点の位置との差が許容できる程度に小さくなるように決める。
ステップS57において、反射面位置計算部14Bは、曲率計算部18を用いて、撮影画像内の特徴点の位置と仮想撮影画像内の対応する特徴点の位置との差に基づいて、仮定した曲率半径と実際の曲率半径の差を計算し、次の繰り返し計算で使用する仮想反射面の曲率半径を決定する。
図15は、本発明の実施の形態3に係る位置測定装置の曲率計算部18によって反射面の曲率半径を推定する原理を例により説明する図である。符号131の図は、反射面22が曲面であるとき、実際の撮影画像に反射面22とマーカー物体2の鏡像44とが映っている場合を示す。マーカー物体2の鏡像44は、複数の特徴点44aを有する。符号132の図は、図14のステップS54で決定された射影変換と、図14のステップS55で決定されたサイズ変更率とを適用した後の、仮想撮影画像におけるマーカー物体2の像45を示す。マーカー物体2の像45は、複数の特徴点45aを含む。符号132の図は、平面の反射鏡に仮想的に映ったマーカー物体2を予め決められた撮影条件で仮想的に撮影して得られる仮想撮影画像に含まれる特徴点45aの位置を示す。符号133の図は、黒丸で示した符号131の特徴点44aの位置と、白丸で示した符号132の特徴点45aの位置との差を示す。
現実の直線が曲面の反射面22に映ったとき、反射面22上の鏡像24において、鏡像中心点35から遠い部分では、現実の直線は曲線として映る。直線が曲面で反射される場合には、視点位置から反射面22に映った当該直線の両端に向かう経路の間の角度差は、反射面22の曲率半径に応じて、直線が平面鏡で反射された場合から変化する。例えば、曲面が凹面の場合は、曲率半径が小さいほど、直線が平面鏡で反射された場合よりも角度差が大きくなるように変化する。そして、反射面22に映った直線上の点が鏡像中心点から遠くなるほど、角度差が大きくなる度合いが大きくなるという非線形性があるので、直線が曲がって映る。
現実の直線が曲面で反射された鏡像では曲線になる、その曲線の曲がりの程度に基づいて、反射面22の曲率半径を推定できる。図14のステップS54で決定された射影変換と、図14のステップS55で決定されたサイズ変更率とを適用した特徴点の位置は、反射面22が仮定した曲率半径の曲面であることによるゆがみを持つものである。実際の撮影画像内の全ての特徴点44aと、決定された射影変換及び決定されたサイズ変更率を適用した後の仮想撮影画像内の対応する特徴点45aの位置との差は、反射面22が曲面であるときの仮定した曲率半径と実際の曲率半径との差に応じて、かつ、実際の撮影画像又は仮想撮影画像内の鏡像中心点35から特徴点の位置までの距離に応じて決まる。従って、実際の撮影画像内の特徴点44aの位置及び仮想撮影画像内での対応する特徴点45aの位置の差と、実際の撮影画像又は仮想撮影画像内の鏡像中心点35から特徴点44a又は特徴点45aの位置までの距離とに基づいて、反射面22の曲率半径を推定することができる。撮影画像又は仮想撮影画像での鏡像中心点35と特徴点の間の画像上での距離と、その距離における特徴点の位置の差(ズレ)との比に基づいて、曲率半径が計算される。実際の撮影画像又は仮想撮影画像上での鏡像中心点35からの距離及び特徴点の位置の差は、その距離又は位置の差に入る画素の個数、及び、カメラの視点位置からの直線がなす角度差などにより表現される。複数の特徴点で求まる複数の曲率半径を重み付け平均するなどして、次回の繰り返し計算で使用する曲率半径を得るための修正量を計算してもよい。
図14のステップS58において、反射面位置計算部14Bは、決定された射影変換に基づいて、仮想反射面の向きを変更する。ステップS59において、反射面位置計算部14Bは、決定されたサイズ変更率に基づいて、カメラ1から仮想反射面への距離を変更する。ステップS60において、反射面位置計算部14Bは、決定された曲率半径に基づいて、仮想反射面の曲率半径を変更する。
実際の撮影画像内の特徴点の位置と仮想撮影画像内の対応する特徴点の位置との差が、しきい値未満になるまで、反射面位置計算部14BはステップS52からS60を繰り返す。反射面位置計算部14Bは、反復的な計算により、反射面22の位置、向き、及び曲率半径を取得する。
図13のステップS43において、目標物体位置決定部15は、撮影画像内の分割鏡21の非反射部分に基づいて、反射面22のエッジ23の位置を決定することにより、目標物体である分割鏡21の位置を決定する。
反射面22の曲率半径は、異なる方向で異なる値を持つように決定されてもよい。反射面22は、反射面22内の位置に応じて予め決められた式に従って曲率半径が変化するようにモデル化されてもよい。反射面22を、放物面及び双曲面などの数式で表現し、数式で使用されるパラメータを変化させるようにしてもよい。
このように、処理装置4Bは、仮想反射面に仮想的に映ったカメラ1及びマーカー物体2を仮想的に撮影して得られる仮想撮影画像に基づいて、分割鏡21の3次元空間における位置を決定する。これにより、特別な光源及び広ダイナミックレンジのカメラを用いることなく、反射面を有する目標物体の3次元空間における位置を決定することができる。
実施の形態4.
本発明の実施の形態4では、方向に応じて異なる曲率半径を有する、既知の形状の反射面の位置及び姿勢を決定する。
図16は、本発明の実施の形態4に係る位置測定装置の構成を示すブロック図である。分割鏡21Cの反射面22Cは、カメラ1から見て、凹面の球面と凹面の円筒面との組合せで近似できると仮定する。分割鏡21Cの反射面22Cにおいて、円筒面の凹み量が最大になり、かつ一定になる方向では、曲率半径が最大すなわち曲率が最小となる方向になる。したがって、円筒面の凹み量が一定になる方向を、最小曲率方向と呼ぶ。例えば、図16の表示装置5に示す反射面22Cにおいて、右上の角から左下の角への対角線の方向を、反射面22Cの最小曲率方向とする。反射面22Cの姿勢は、最小曲率方向がどの方向を向いているかという情報も含む。
図16の位置測定装置は、図1の処理装置4に代えて、処理装置4Cを備える。処理装置4Cは、特徴点抽出部11及び位置測定部12Cを備える。処理装置4Cの特徴点抽出部11は、図1の処理装置4の特徴点抽出部11と同様に動作する。位置測定部12Cは、反射面位置計算部14C及び目標物体位置決定部15Cを備える。反射面位置計算部14Cは、モデルデータとして予め記憶された反射面22Cの形状と、特徴点データとして予め記憶された特徴点の位置とに基づいて、カメラ1及びマーカー物体2を仮想的に写す仮想反射面の位置及び姿勢を計算することにより、反射面22Cの位置及び姿勢を計算する。反射面位置計算部14Cは、仮想反射面に仮想的に映ったカメラ1及びマーカー物体2を、カメラ1により実際の撮影画像を取得したときと同じ撮影条件で仮想的に撮影して得られる仮想撮影画像に含まれる複数の特徴点の位置を計算し、仮想撮影画像に含まれる複数の特徴点の位置が実際の撮影画像内の対応する複数の特徴点の位置にそれぞれ近接するように、仮想反射面の位置及び姿勢を計算する。目標物体位置決定部15Cは、モデルデータとして予め記憶された反射面及び非反射部分の位置関係と、反射面位置計算部14Cにより計算された反射面22Cの位置及び姿勢とに基づいて、反射面22Cの最小曲率方向を決定し、さらに、分割鏡21の位置を決定する。
反射面位置計算部14Cは、仮想撮影画像内の特徴点の位置と実際の撮影画像内の対応する特徴点の位置との差を小さくするように、仮想反射面の位置及び姿勢を変更することによって計算する。反射面位置計算部14Cは、射影変換部16及びサイズ変更部17を備える。反射面位置計算部14Cの射影変換部16及びサイズ変更部17は、図1の鏡像体位置計算部13の射影変換部16及びサイズ変更部17と同様に動作する。反射面位置計算部14Cは、射影変換部16によって決定された射影変換と、サイズ変更部17によって決定されたサイズ変更率とに基づいて、仮想反射面の位置及び姿勢を変更する。
図17は、本発明の実施の形態4に係る位置測定装置によって実行される位置測定処理を説明するフローチャートである。図17の位置測定処理は、目標物体の位置を測定するために、図16の処理装置4Cによって実行される。
図17のステップS61において、特徴点抽出部11は、カメラ1により撮影された実際の撮影画像から特徴点を抽出し、抽出した特徴点に関する情報を位置測定部12Cに送る。ステップS62において、反射面位置計算部14Cは、仮想反射面の位置、姿勢、及び最小曲率方向の初期値を決定する。ステップS63において、反射面位置計算部14Cは、仮想反射面の位置、姿勢、及び最小曲率方向に基づき、仮想反射面にマーカー物体2が映る仮想撮影画像内の特徴点の位置を計算する。ステップS64において、反射面位置計算部14Cは、撮影画像内の特徴点の位置と仮想撮影画像内の対応する特徴点の位置との差は、しきい値未満であるか否かを判断する。特徴点の位置の差がしきい値未満の場合、すなわちステップS64がYESの場合は、処理を終了する。
特徴点の位置の差がしきい値以上の場合、すなわちステップS64がNOの場合は、ステップS65に進む。ステップS65において、反射面位置計算部14Cは、射影変換部16を用いて、撮影画像内の特徴点の位置又は仮想撮影画像内の特徴点の位置に適用する射影変換であって、仮想撮影画像内の特徴点によって形成される図形と実際の撮影画像内の対応する特徴点によって形成される図形とが互いに相似に近づくような射影変換を決定する。ステップS66において、決定された射影変換を実際の撮影画像内の特徴点の位置又は仮想撮影画像内の特徴点の位置に適用する。ステップS67において、反射面位置計算部14Cは、サイズ変更部17を用いて、仮想撮影画像内の特徴点又は実際の撮影画像内の特徴点によって形成される図形に適用するサイズ変更率であって、仮想撮影画像内の特徴点の位置と実際の撮影画像内の対応する特徴点の位置との差を最小化するようなサイズ変更率を決定する。ステップS68において、反射面位置計算部14Cは、決定された射影変換に基づいて、仮想反射面の姿勢を変更する。ステップS69において、反射面位置計算部14Cは、決定されたサイズ変更率に基づいて、カメラ1から仮想反射面への距離を変更する。ステップS70において、目標物体位置決定部15Cは、撮影画像内の分割鏡21の非反射部分に基づいて、分割鏡21の位置及び最小曲率方向を決定する。
実際の撮影画像内の特徴点の位置と仮想撮影画像内の対応する特徴点の位置との差が、しきい値未満になるまで、反射面位置計算部14C及び目標物体位置決定部15CはステップS63からS70を繰り返す。反射面位置計算部14C及び目標物体位置決定部15Cは、反復的な計算により、反射面22Cの位置、姿勢、及び最小曲率方向を取得する。
このように、処理装置4Cは、仮想反射面に仮想的に映ったカメラ1及びマーカー物体2を仮想的に撮影して得られる仮想撮影画像に基づいて、分割鏡21Cの3次元空間における位置を決定する。これにより、特別な光源及び広ダイナミックレンジのカメラを用いることなく、反射面を有する目標物体の3次元空間における位置を決定することができる。
実施の形態5.
実施の形態1に係る位置測定装置では、特徴点データとして予め記憶された特徴点間の位置関係は、実際の特徴点間の位置関係に対して鏡像関係(反転した位置関係)になっていた。一方、実施の形態5では、実際の特徴点間の位置関係と同じものを特徴点データとして用いる。
図18は、本発明の実施の形態5に係る位置測定装置の構成を示すブロック図である。図18の位置測定装置は、図1の処理装置4に代えて、処理装置4Dを備える。処理装置4Dは、図1の特徴点抽出部11及び位置測定部12に加えて、画像反転部19を備える。画像反転部19は、カメラ1により撮影された画像の左右を反転した反転画像6Dを、撮影画像として特徴点抽出部11に送る。図18の表示装置5に示すように、反転画像6Dには、分割鏡21の反射面22及びエッジ23の左右が反転した画像と、分割鏡21の反射面22に映ったカメラ1及びマーカー物体2の左右が反転した鏡像24D(すなわち、実際と同じ位置関係のカメラ1及びマーカー物体2の像)とが含まれる。記憶装置3(第3の記憶部)は、実際の特徴点間の位置関係と同じもの(非反転の位置関係を有する特徴点)を特徴点データとして予め記憶する。その他の点では、実施の形態5は、実施の形態1と同様である。
処理装置4Dは、図4及び図5の位置測定処理を実行する。図18の位置測定部12は、図1の位置測定部12と同様に、鏡像体に含まれる複数の特徴点の位置を計算し、鏡像体の特徴点の位置に基づいて反射面22の位置及び向きを計算することができる。鏡像体位置計算部13は、反転画像である撮影画像と、非反転の位置関係を有する特徴点データとに基づいて、鏡像体に含まれる特徴点の位置を計算する。反射面位置計算部14及び目標物体位置決定部15は、反射面22の位置及び向きを計算し、分割鏡21の位置を決定する。
実施の形態5の画像反転部19及び特徴点データ(実際の特徴点間の位置関係と同じもの)は、実施の形態2から4にも適用可能である。
実施の形態6.
図19は、本発明の実施の形態6に係る位置測定装置の構成を示すブロック図である。図19の位置測定装置は、図1の位置測定装置の構成に加えて、カメラ1(及びマーカー物体2)を移動させる駆動装置61をさらに備える。また、図19の位置測定装置は、図1の処理装置4に代えて、処理装置4Eを備える。処理装置4Eは、実施の形態1から5のうちの1つの処理装置の構成を備えたことに加えて、駆動装置61及びカメラ1の撮影方向を制御するカメラ制御部71をさらに備える。駆動装置61とカメラ制御部71は、カメラ1の視点位置及び撮影方向のいずれか少なくとも一つが異なるようにカメラ1を移動させるカメラ駆動装置を構成する。
分割鏡21のサイズがカメラ1の視野よりも大きい場合に対処するために、図19に示すように、駆動装置61によりカメラ1を移動して視野を広げてもよい。この場合、カメラ1が移動しても一貫した座標系を用いることができるように、座標の原点は、移動するカメラ1の位置ではなく、駆動装置61の位置又は他の固定位置に設けて、カメラ1の位置を駆動装置61に対して予め校正しておく。
処理装置4Eは、視点位置及び撮影方向の少なくとも一つが異なる複数組の撮影条件のうちの少なくとも2組の撮影条件で分割鏡21を撮影して複数の撮影画像を取得する。例えば、処理装置4Eは、駆動装置61によりカメラ1を移動させて、複数の位置で(すなわち複数組の撮影条件で)分割鏡21を撮影して複数の撮影画像を取得する。処理装置4Eは、複数の撮影画像と、各撮影画像を撮影した時の撮像条件とを組み合わせて、記憶装置3(第1の記憶部)に記憶する。処理装置4Eの特徴点抽出部は、複数の撮影画像から複数の特徴点をそれぞれ抽出し、複数の撮影画像内の特徴点の位置を決定する。以下、1つの撮影画像から抽出された複数の特徴点の位置を含む集合を、特徴点集合と呼ぶ。処理装置4Eは、抽出された撮影画像内の特徴点の位置を、対応する撮影画像及び撮影条件と組み合わせて、記憶装置3(第1の記憶部)に記憶する。記憶装置3(第1の記憶部)は、撮影画像と、当該撮影画像を撮影したときの撮像条件と、当該撮影画像の特徴点集合とをそれぞれ含む、複数の撮影データセットを記憶する。撮影データセットは、他の情報を含んでもよい。処理装置4Eの位置測定部は、1つの撮影データセットについて、実施の形態1から実施の形態5の何れかの処理装置と同様に位置測定処理を実行し、分割鏡21の3次元空間における位置を決定してもよい。あるいは、処理装置4Eは、複数の撮影データセットを組み合わせて処理して位置測定処理を実行し、分割鏡21の3次元空間における位置を決定してもよい。こうすることで、カメラ1の視野よりも大きなサイズを有する分割鏡21の3次元空間における位置を測定することができる。
例えば、処理装置4Eの位置測定部は、モデルデータと、特徴点データと、複数の撮影画像にそれぞれ対応する複数の特徴点集合と、複数の撮影画像にそれぞれ対応する複数の撮像条件とに基づいて、分割鏡21の位置を計算してもよい。
処理装置4Eが鏡像体位置計算部を有する場合、鏡像体位置計算部は、撮影データセットのそれぞれについて、鏡像体を当該撮影条件で仮想的に撮影して得られる仮想撮影画像に含まれる複数の特徴点の位置が、当該撮影条件で撮影した実際の撮影画像内の対応する複数の特徴点の位置にそれぞれ近接するように、鏡像体に含まれる複数の特徴点の位置を計算してもよい。言い換えると、鏡像体位置計算部は、複数の撮影データセットにそれぞれ対応する複数の鏡像体を求める。次いで、処理装置4Eの反射面位置計算部は、視点位置及び特徴点データから決まるカメラ1及びマーカー物体2の特徴点の位置と、複数の撮影データセットにそれぞれ対応する複数の鏡像体に含まれる複数の特徴点の位置と、反射面22の曲率半径とに基づいて、反射面22の位置及び向きを計算してもよい。
反射面位置計算部は、複数の撮影データセットにそれぞれ対応する複数の鏡像体の特徴点の位置を、撮影データセットごとに別個に処理しても、組み合わせて処理してもよい。組み合わせる場合には、組み合わせ方法は任意である。すべての撮影データセットに対応する各鏡像体の特徴点の位置を同時に処理しても、又は順番に処理してもよい。予め決められた個数(例えば2つなど)の撮影データセットごとに、各撮影データセットに対応する各鏡像体の特徴点の位置を同時に処理してもよい。反射面位置計算部は、撮影データセットごとに別個に処理して計算した反射面の位置及び向きと、複数の撮影データセットの組み合わせを処理して計算した反射面の位置及び向きとを、さらに組み合わせて処理してもよい。
処理装置4Eの目標物体位置決定部は、複数の画像で撮影された分割鏡21の部分ごとに処理して、あるいは複数の画像で撮影された分割鏡21の複数の部分を同時に処理して、モデルデータに基づき、目標物体である分割鏡21の位置を決定してもよい。
処理装置が仮想反射面を用いて反射面の位置及び向きを求める場合(鏡像体を求めない場合)でも、反射面位置計算部は、複数の撮影データセットに対応する仮想反射面を別個に処理しても、任意に組み合わせて処理してもよい。
このように、反射面位置計算部は、複数の撮影データセットに対応して入力される入力データである、複数の鏡像体の特徴点の位置(実施の形態1)又は複数の特徴点集合(実施の形態2から実施の形態4)から、反射面22の位置及び向きを計算する。
また、処理装置4Eの反射面位置計算部は、複数の撮影データセットにそれぞれ対応する複数の反射面22の位置及び向きを計算してもよい。次いで、処理装置4Eの目標物体位置決定部は、モデルデータとして予め記憶された反射面及び非反射部分の位置関係と、反射面位置計算部によって計算された複数の反射面22の位置及び向きの組み合わせに基づいて、分割鏡21の位置を決定してもよい。
実施の形態6について説明したことは、他の実施の形態でも、異なる撮影条件で撮影された撮影画像を使用して目標物体の位置を求める場合に適用可能である。
実施の形態7.
図20は、本発明の実施の形態7に係る位置測定装置の構成を示すブロック図である。図20の位置測定装置は、図1の位置測定装置の構成に加えて、位置測定装置は例えば3つのカメラ1a,1b,1c及びマーカー物体2a,2b,2cと、各カメラ1a,1b,1cを支持する固定ジグ62とを備える。各カメラ1a,1b,1cは、反射面22のエッジ23上における異なる点が入る異なる領域をそれぞれ撮影する。また、図20の位置測定装置は、実施の形態6の処理装置4Eに代えて、処理装置4Fを備える。処理装置4Fは、処理装置4Eとほぼ同様であるが、カメラ1a,1b,1cの撮影方向を制御するカメラ制御部71Fを備える。位置測定装置は、複数のカメラの中のいずれか少なくとも一つのカメラを移動させる駆動装置を備えてもよい。移動できるカメラに関しては、カメラ制御部71Fが駆動装置も制御する。少なくとも一つのカメラの視点位置及び撮影方向は固定されていてもよい。カメラ1a,1b,1cとマーカー物体2a,2b,2cの位置関係は、カメラごとに異なってもよいし、同じものがあってもよい。
実施の形態6のように、大きなサイズを有する分割鏡21の3次元空間における位置を測定するためにカメラ1を移動させる場合には、カメラの移動に時間を要するので、測定に時間がかかる。従って、図20に示すように、複数(例えば、3つ)のカメラ1a,1b,1c及びマーカー物体2a,2b,2cを用いることで、カメラを移動させなくても、分割鏡21の全体の3次元空間における位置を一度に測定することができる。各カメラ1a,1b,1cの位置は、基準となる世界座標系を設定し、世界座標系上で予め校正しておく。
処理装置4Fは、各カメラ1a,1b,1cによって撮影された分割鏡21の各撮影画像から、反射面22のエッジ23の異なる区間を抽出し、撮影画像内でのエッジ上の画素の位置に基づき、各カメラ1a,1b,1cの何れかから反射面22のエッジ23の対応する区間上における少なくとも1つの点に向かう各直線を決定する。カメラ1a,1b,1cのそれぞれから、反射面22のエッジ23上の1つ以上の点の位置を測定する。例えば、位置測定装置が2つのカメラを備えている場合は、2台のカメラの合計で、反射面22のエッジ23の対応する区間上における少なくとも3つの点に向かう直線を決定する。分割鏡21の反射面22を含む面と各直線との各交点の位置を計算し、各交点を、反射面22のエッジ23上における各点として決定する。なお、近似平面の位置を決定する際に、各カメラ1a,1b,1cで撮影された撮影画像ごとに別個に処理してもよい。それに代わって、反射面22の全体として誤差が最小になるように、反射面モデルに基づいて、各カメラでの近似平面を決めるようにしてもよい。
こうして得られた、分割鏡21上の少なくとも3点の位置を、分割鏡21の把持機構が処理しやすいように、分割鏡21の予め決められた基準位置と、分割鏡21の反射面22が向く方向(反射面方向)と、分割鏡21の把持部の反射面方向の周囲での位置などに変換する。以上により、特別な光源及び広ダイナミックレンジのカメラを用いることなく、分割鏡の3次元空間における位置を決定することができる。また、カメラ1a,1b,1cによる1度の撮影で得られた画像に基づいて分割鏡21の3次元空間における位置を決定することができ、計算時間を短縮することができる。
処理装置4Fは、カメラ1a,1b,1cのうちの1つのみによって撮影された分割鏡21の撮影画像から、分割鏡21の反射面22に映ったカメラ及びマーカー物体の鏡像24に含まれる複数の特徴点を抽出する。処理装置4Fは、抽出された各特徴点の位置と、記憶装置3に記憶された対応する各特徴点の位置とを結ぶ線分を、反射面の曲率半径から決まる分割比率で二分割する各点の位置を計算し、二分割する各点を分割鏡21の反射面上の点として決定する。処理装置4Fは、抽出された各特徴点と記憶装置3に記憶された対応する各特徴点とを結ぶ線分を二分割する各点に平面又は曲面の方程式を当てはめて、分割鏡21の反射面22を含む面を決定する。処理装置4Fは、各カメラ1a,1b,1cによって撮影された撮影画像から反射面22のエッジ23を抽出し、各カメラ1a,1b,1cから反射面22のエッジ23上における複数の点に向かう各直線を決定し、分割鏡21の反射面を含む面と各直線との各交点の位置を計算し、各交点を反射面22のエッジ23上における各点として決定する。
処理装置4Fは、カメラ1a,1b,1cによって撮影された画像を用いて、実施の形態1の処理装置4と同様に分割鏡21の3次元空間における位置を決定する処理を実行することで、各カメラの視野よりも大きなサイズを有する分割鏡21の3次元空間における位置を高速に測定することができる。
実施の形態7によれば、カメラの数を2個以上にして、各カメラで撮影できる範囲内の反射面22のエッジ23上に1個以上の点の位置を決め、3点以上で目標物体の位置を求めることができる。実施の形態7によれば、目標物体の形状モデルを、測定された目標物体の位置との誤差の総和が最小になるように、目標物体の形状モデルを配置することができる。
変形例.
処理装置4から4Fにより分割鏡の3次元空間における位置を決定する処理は、専用のハードウェア装置によって実行されても、汎用プロセッサ上で動作するソフトウェアによって実行されてもよい。処理装置のプロセッサは、例えば、カメラ1の視点位置及び撮影方向を含む撮影条件を第1の記憶部に記憶するステップと、反射面を有する分割鏡21の形状を含むモデルデータを第2の記憶部に記憶するステップと、複数の特徴点を有するマーカー物体をカメラ1に対して予め決められた位置に配置するステップと、視点位置及び特徴点の間の互いの位置関係を表す特徴点データを第3の記憶部に記憶するステップと、特徴点のうちの複数個が映っている反射面22の少なくとも一部を含む撮影画像をカメラ1により取得するステップと、撮影画像から複数の特徴点を抽出し、撮影画像内の特徴点の位置を決定するステップと、撮影条件と、モデルデータと、特徴点データと、撮影画像内の特徴点の位置とに基づいて、分割鏡21の位置を計算するステップとを実行する。
上記実施の形態は、いずれも本発明の趣旨の範囲内で各種の変形が可能である。上記実施の形態は本発明を説明するためのものであり、本発明の範囲を限定することを意図したものではない。本発明の範囲は実施形態よりも添付した請求項によって示される。請求項の範囲内、および発明の請求項と均等の範囲でなされた各種変形は本発明の範囲に含まれる。
1,1a,1b,1c カメラ、1M 仮想カメラ、2,2a,2b,2c マーカー物体、2M 仮想マーカー物体、3 記憶装置、4,4A,4B,4C,4D,4E,4F 処理装置、5 表示装置、6,6D 画像、11 特徴点抽出部、12,12A,12B,12C 位置測定部、13 鏡像体位置計算部、14,14A,14B,14C 反射面位置計算部、15, 目標物体位置決定部、16 射影変換部、17 サイズ変更部、18 曲率計算部、19 画像反転部、21,12C 分割鏡、22,22C 反射面、23 エッジ、24,24D 鏡像、61 駆動装置、62 固定ジグ、71,71F カメラ制御部。

Claims (16)

  1. 反射面を有する目標物体を撮影することにより前記反射面の少なくとも一部が入った撮影画像を取得するカメラと、
    前記カメラの視点位置及び撮影方向を含む撮影条件を記憶する第1の記憶部と、
    前記目標物体の形状を含むモデルデータを記憶する第2の記憶部と、
    複数の特徴点を有し、前記カメラに対して予め決められた位置に固定されたマーカー物体と、
    前記視点位置及び前記特徴点の間の互いの位置関係を表す特徴点データを記憶する第3の記憶部と、
    前記特徴点のうちの複数個が前記反射面内に映った状態で前記カメラにより取得された撮影画像から複数の前記特徴点を抽出し、前記撮影画像内の前記特徴点の位置を決定する特徴点抽出部と、
    前記撮影条件と、前記モデルデータと、前記特徴点データと、前記撮影画像内の前記特徴点の位置とに基づいて、前記目標物体の位置を計算する位置測定部とを備えた位置測定装置。
  2. 前記目標物体は、前記反射面及び非反射部分を有し、
    前記モデルデータは、前記反射面の曲率半径を含む前記反射面の形状と、前記反射面及び前記非反射部分の位置関係とを含み、
    前記位置測定部は、
    前記特徴点データに基づいて、前記反射面に対して前記マーカー物体とは反対側に仮想的に存在する前記マーカー物体の鏡像体に含まれる複数の前記特徴点の位置を計算する鏡像体位置計算部であって、前記鏡像体を前記撮影条件で仮想的に撮影して得られる仮想撮影画像に含まれる複数の前記特徴点の位置が前記撮影画像内の対応する複数の前記特徴点の位置にそれぞれ近接するように、前記鏡像体に含まれる複数の前記特徴点の位置を計算する鏡像体位置計算部と、
    前記視点位置及び前記特徴点データから決まる前記マーカー物体の前記特徴点の位置と、計算された前記鏡像体の前記特徴点の位置と、前記反射面の曲率半径とに基づいて、前記反射面の位置及び向きを計算する反射面位置計算部と、
    前記反射面及び前記非反射部分の位置関係と、前記計算された反射面の位置及び向きとに基づいて、前記目標物体の位置を決定する目標物体位置決定部とを備えることを特徴とする請求項1に記載の位置測定装置。
  3. 前記鏡像体位置計算部は、前記仮想撮影画像内の前記特徴点の位置と前記撮影画像内の対応する前記特徴点の位置との差を小さくするように、前記鏡像体に含まれる複数の前記特徴点の位置を計算する請求項2に記載の位置測定装置。
  4. 前記鏡像体位置計算部は、
    前記撮影画像内の前記特徴点の位置又は前記仮想撮影画像内の前記特徴点の位置に適用される射影変換であって、前記仮想撮影画像内の前記特徴点によって形成される図形と前記撮影画像内の対応する前記特徴点によって形成される図形とが互いに相似に近づくような射影変換を決定する射影変換部と、
    前記撮影画像内の前記特徴点の位置又は前記仮想撮影画像内の前記特徴点の位置に決定された前記射影変換を適用した後に、前記仮想撮影画像内の前記特徴点によって形成される図形又は前記撮影画像内の対応する前記特徴点によって形成される図形に適用されるサイズ変更率であって、前記仮想撮影画像内の前記特徴点の位置と前記撮影画像内の対応する前記特徴点の位置との差を小さくするようなサイズ変更率を決定するサイズ変更部とを備え、
    前記鏡像体位置計算部は、決定された前記射影変換及び決定された前記サイズ変更率に基づいて、前記鏡像体に含まれる複数の前記特徴点の位置を計算する請求項3に記載の位置測定装置。
  5. 前記モデルデータは、前記反射面の形状を表す反射面モデルを含み、
    前記反射面位置計算部は、前記視点位置を通りかつ前記反射面に直交する直線と前記反射面との交点の近傍において前記反射面を近似する近似平面の位置及び向きを決定し、前記交点において前記近似平面と接するように前記反射面モデルの位置及び向きを決定することにより、前記反射面の位置及び向きを決定する請求項2から請求項4までのうちの1つに記載の位置測定装置。
  6. 前記目標物体は、前記反射面及び非反射部分を有し、
    前記モデルデータは、前記反射面の形状と、前記反射面及び前記非反射部分の位置関係とを含み、
    前記位置測定部は、
    前記反射面の形状と、前記特徴点データとに基づいて、前記反射面の位置及び向きを計算する反射面位置計算部であって、仮想的に決定された位置及び向きを有する前記反射面に仮想的に映った前記特徴点を前記撮影条件で仮想的に撮影して得られる仮想撮影画像に含まれる複数の前記特徴点の位置を計算し、前記仮想撮影画像に含まれる複数の前記特徴点の位置が前記撮影画像内の対応する複数の前記特徴点の位置にそれぞれ近接するように、前記反射面の位置及び向きを計算する反射面位置計算部と、
    前記反射面及び前記非反射部分の位置関係と、前記計算された反射面の位置及び向きとに基づいて、前記目標物体の位置を決定する目標物体位置決定部とを備える請求項1に記載の位置測定装置。
  7. 前記反射面位置計算部は、前記仮想撮影画像内の前記特徴点の位置と前記撮影画像内の対応する前記特徴点の位置との差を小さくするように、前記反射面の位置及び向きを計算する請求項6に記載の位置測定装置。
  8. 前記反射面位置計算部は、
    前記撮影画像内の前記特徴点の位置又は前記仮想撮影画像内の前記特徴点の位置に適用される射影変換であって、前記仮想撮影画像内の前記特徴点によって形成される図形と前記撮影画像内の対応する前記特徴点によって形成される図形とが互いに相似に近づくような射影変換を決定する射影変換部と、
    前記撮影画像内の前記特徴点の位置又は前記仮想撮影画像内の前記特徴点の位置に決定された前記射影変換を適用した後に、前記仮想撮影画像内の前記特徴点によって形成される図形又は前記撮影画像内の対応する前記特徴点によって形成される図形に適用されるサイズ変更率であって、前記仮想撮影画像内の前記特徴点の位置と前記撮影画像内の対応する前記特徴点の位置との差を小さくするようなサイズ変更率を決定するサイズ変更部とを備え、
    前記反射面位置計算部は、前記決定された射影変換及び前記決定されたサイズ変更率に基づいて、前記反射面の位置及び向きを計算する請求項7に記載の位置測定装置。
  9. 前記反射面位置計算部は、前記撮影画像内の前記特徴点の位置と前記仮想撮影画像内の対応する前記特徴点の位置との差に基づいて、かつ、前記視点位置を通りかつ前記反射面に直交する直線と前記反射面との交点に対応する前記撮影画像内又は前記仮想撮影画像内の点から前記撮影画像内の前記特徴点又は前記仮想撮影画像内の前記特徴点までの距離に基づいて、前記反射面の曲率半径を推定する曲率計算部を備える請求項7又は請求項8に記載の位置測定装置。
  10. 前記特徴点抽出部は、前記視点位置及び前記撮影方向の少なくとも一つが異なる複数組の前記撮影条件でそれぞれ撮影された複数の撮影画像のそれぞれから複数の前記特徴点を抽出し、前記撮影画像内の前記特徴点の位置を決定し、
    前記位置測定部は、複数組の前記撮影条件と、前記モデルデータと、前記特徴点データと、複数の前記撮影画像にそれぞれ対応する複数の特徴点集合であって、前記各特徴点集合が複数の前記撮影画像のうちの1つの撮影画像内の複数の前記特徴点の位置を含む複数の特徴点集合とに基づいて、前記目標物体の位置を計算する請求項1に記載の位置測定装置。
  11. 異なる位置にそれぞれ設置された複数の前記カメラを備える請求項10に記載の位置測定装置。
  12. 前記視点位置及び前記撮影方向の少なくとも一つが異なるように前記カメラを移動させるカメラ駆動装置を備える請求項10に記載の位置測定装置。
  13. 前記特徴点抽出部は、前記視点位置及び前記撮影方向の少なくとも一つが異なる複数組の前記撮影条件でそれぞれ撮影された複数の撮影画像のそれぞれから複数の前記特徴点を抽出し、前記撮影画像内の前記特徴点の位置を決定し、
    前記鏡像体位置計算部は、複数組の前記撮影条件と前記撮影画像内の複数の前記特徴点との組のそれぞれに対して、複数の前記鏡像体に含まれる前記特徴点の位置を計算し、
    前記反射面位置計算部は、複数の前記鏡像体に含まれる前記特徴点の位置を組み合わせて処理して、前記反射面の位置及び向きを計算する請求項2に記載の位置測定装置。
  14. 前記特徴点抽出部は、前記視点位置及び前記撮影方向の少なくとも一つが異なる複数組の前記撮影条件でそれぞれ撮影された複数の撮影画像のそれぞれから複数の前記特徴点を抽出し、前記撮影画像内の前記特徴点の位置を決定し、
    前記反射面位置計算部は、複数組の前記撮影条件と前記撮影画像内の複数の前記特徴点との組を組み合わせて処理して、前記反射面の位置及び向きを計算する請求項6に記載の位置測定装置。
  15. 前記特徴点抽出部は、前記視点位置及び前記撮影方向の少なくとも一つが異なる複数組の前記撮影条件でそれぞれ撮影された複数の撮影画像のそれぞれから複数の前記特徴点を抽出し、前記撮影画像内の前記特徴点の位置を決定し、
    前記反射面位置計算部は、複数の前記撮影画像にそれぞれ対応する複数の前記反射面の位置及び向きを計算し、
    前記目標物体位置決定部は、前記反射面及び前記非反射部分の位置関係と、計算された複数の前記反射面の位置及び向きの組み合わせとに基づいて、前記目標物体の位置を決定する請求項2又は請求項6に記載の位置測定装置。
  16. 目標物体の位置を決定する処理装置によって実行される位置測定方法であって、前記位置測定方法は、
    カメラの視点位置及び撮影方向を含む撮影条件を第1の記憶部に記憶するステップと、
    反射面を有する目標物体の形状を含むモデルデータを第2の記憶部に記憶するステップと、
    複数の特徴点を有するマーカー物体を前記カメラに対して予め決められた位置に配置するステップと、
    前記視点位置及び前記特徴点の間の互いの位置関係を表す特徴点データを第3の記憶部に記憶するステップと、
    前記特徴点のうちの複数個が映っている前記反射面の少なくとも一部を含む撮影画像を前記カメラにより取得するステップと、
    前記撮影画像から複数の前記特徴点を抽出し、前記撮影画像内の前記特徴点の位置を決定するステップと、
    前記撮影条件と、前記モデルデータと、前記特徴点データと、前記撮影画像内の前記特徴点の位置とに基づいて、前記目標物体の位置を計算するステップとを含む位置測定方法。
JP2016506069A 2014-03-03 2014-07-31 位置測定装置及び位置測定方法 Active JP6067175B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2014040636 2014-03-03
JP2014040636 2014-03-03
PCT/JP2014/070233 WO2015132981A1 (ja) 2014-03-03 2014-07-31 位置測定装置及び位置測定方法

Publications (2)

Publication Number Publication Date
JP6067175B2 true JP6067175B2 (ja) 2017-01-25
JPWO2015132981A1 JPWO2015132981A1 (ja) 2017-04-06

Family

ID=54054808

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016506069A Active JP6067175B2 (ja) 2014-03-03 2014-07-31 位置測定装置及び位置測定方法

Country Status (5)

Country Link
US (1) US10210628B2 (ja)
EP (1) EP3115741B1 (ja)
JP (1) JP6067175B2 (ja)
CL (1) CL2016002201A1 (ja)
WO (1) WO2015132981A1 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10049303B2 (en) 2015-10-01 2018-08-14 Infinity Augmented Reality Israel Ltd. Method and a system for identifying reflective surfaces in a scene
ES2968703T3 (es) * 2015-10-27 2024-05-13 Mitsubishi Electric Corp Dispositivo de intercambio de espejos para telescopios de espejo segmentado y procedimiento de intercambio de espejos para el mismo
JP2018100830A (ja) * 2016-12-19 2018-06-28 横河電機株式会社 光スペクトル測定装置
US11100675B2 (en) * 2017-10-24 2021-08-24 Sony Corporation Information processing apparatus, information processing method, program, and moving body
US10670390B2 (en) * 2017-11-13 2020-06-02 Faro Technologies, Inc. System and method for verifying projection accuracy
US10942045B1 (en) * 2018-04-03 2021-03-09 Waymo Llc Portable sensor calibration target for autonomous vehicle
GB2574064B (en) * 2018-05-25 2020-05-27 Imetrum Ltd Motion encoder
US10960297B2 (en) * 2018-09-17 2021-03-30 Disney Enterprises, Inc. Systems and methods for tracking a physical object using a passive object having a reflective surface
US11080892B2 (en) * 2019-10-07 2021-08-03 The Boeing Company Computer-implemented methods and system for localizing an object
EP3886046A1 (en) 2020-03-26 2021-09-29 Sony Group Corporation Multi-view positioning using reflections
US11417020B2 (en) * 2020-04-07 2022-08-16 Zebra Technologies Corporation Detection of calibration errors
CN112767418B (zh) * 2021-01-21 2022-10-14 大连理工大学 基于深度感知的镜子图像分割方法
JP2023022517A (ja) * 2021-08-03 2023-02-15 株式会社東芝 計測システム及び計測プログラム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04148814A (ja) * 1990-10-12 1992-05-21 Toyota Central Res & Dev Lab Inc 非接触型測定装置
JP2010231780A (ja) * 2009-03-27 2010-10-14 Mitsubishi Electric Research Laboratories Inc 鏡面反射物体の3d姿勢を推定する方法

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6978167B2 (en) * 2002-07-01 2005-12-20 Claron Technology Inc. Video pose tracking system and method
EP3117768B1 (en) * 2006-05-19 2019-11-06 The Queen's Medical Center Motion tracking system and method for real time adaptive imaging and spectroscopy
JP2007322162A (ja) 2006-05-30 2007-12-13 3D Media Co Ltd 3次元形状測定装置及び3次元形状測定方法
US8265376B2 (en) * 2008-07-21 2012-09-11 Cognitens Ltd. Method and system for providing a digital model of an object
JP2010071782A (ja) 2008-09-18 2010-04-02 Omron Corp 3次元計測装置およびその方法
US8441532B2 (en) * 2009-02-24 2013-05-14 Corning Incorporated Shape measurement of specular reflective surface
US8437537B2 (en) 2009-03-27 2013-05-07 Mitsubishi Electric Research Laboratories, Inc. Method and system for estimating 3D pose of specular objects
JP5487920B2 (ja) 2009-12-03 2014-05-14 国立大学法人茨城大学 光学式3次元形状計測装置及び光学式3次元形状計測方法
GB201303712D0 (en) * 2013-03-01 2013-04-17 Geissler Michael P A Optical navigation & positioning system

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04148814A (ja) * 1990-10-12 1992-05-21 Toyota Central Res & Dev Lab Inc 非接触型測定装置
JP2010231780A (ja) * 2009-03-27 2010-10-14 Mitsubishi Electric Research Laboratories Inc 鏡面反射物体の3d姿勢を推定する方法

Also Published As

Publication number Publication date
CL2016002201A1 (es) 2016-12-23
US10210628B2 (en) 2019-02-19
EP3115741A4 (en) 2017-08-16
WO2015132981A1 (ja) 2015-09-11
EP3115741B1 (en) 2023-05-10
US20170221224A1 (en) 2017-08-03
JPWO2015132981A1 (ja) 2017-04-06
EP3115741A1 (en) 2017-01-11

Similar Documents

Publication Publication Date Title
JP6067175B2 (ja) 位置測定装置及び位置測定方法
JP6271953B2 (ja) 画像処理装置、画像処理方法
CN110809786B (zh) 校准装置、校准图表、图表图案生成装置和校准方法
JP5132832B1 (ja) 計測装置および情報処理装置
JP6573419B1 (ja) 位置決め方法、ロボット及びコンピューター記憶媒体
JP6222898B2 (ja) 3次元計測装置及びロボット装置
CN107155341B (zh) 三维扫描系统和框架
JP6324025B2 (ja) 情報処理装置、情報処理方法
JP6079333B2 (ja) 校正装置、方法及びプログラム
JP6370038B2 (ja) 位置姿勢計測装置及び方法
JP6092530B2 (ja) 画像処理装置、画像処理方法
KR20160116075A (ko) 카메라로부터 획득한 영상에 대한 자동보정기능을 구비한 영상처리장치 및 그 방법
JP2016167229A (ja) 座標変換パラメータ決定装置、座標変換パラメータ決定方法及び座標変換パラメータ決定用コンピュータプログラム
CN107808398B (zh) 摄像头参数算出装置以及算出方法、程序、记录介质
JP2009042162A (ja) キャリブレーション装置及びその方法
JP2015219679A (ja) 画像処理システム、情報処理装置、プログラム
Legarda et al. A new method for Scheimpflug camera calibration
US10252417B2 (en) Information processing apparatus, method of controlling information processing apparatus, and storage medium
JP2011155412A (ja) 投影システムおよび投影システムにおける歪み修正方法
JP6486083B2 (ja) 情報処理装置、情報処理方法及びプログラム
Huiyang et al. Calibration of camera with small FOV and DOF telecentric lens
JP6890422B2 (ja) 情報処理装置、情報処理装置の制御方法およびプログラム
JP2014178967A (ja) 3次元物体認識装置及び3次元物体認識方法
JP2011059009A (ja) 位置計測対象物、位置計測システム、位置計測用演算装置およびプログラム
JP4196784B2 (ja) カメラ位置測定装置および方法並びにカメラ位置制御方法

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20161122

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20161220

R150 Certificate of patent or registration of utility model

Ref document number: 6067175

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250